CN116466899A - 图像处理方法及电子设备 - Google Patents
图像处理方法及电子设备 Download PDFInfo
- Publication number
- CN116466899A CN116466899A CN202210033857.8A CN202210033857A CN116466899A CN 116466899 A CN116466899 A CN 116466899A CN 202210033857 A CN202210033857 A CN 202210033857A CN 116466899 A CN116466899 A CN 116466899A
- Authority
- CN
- China
- Prior art keywords
- image
- brightness
- curve
- target
- display
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 11
- 238000000034 method Methods 0.000 claims abstract description 127
- 238000012545 processing Methods 0.000 claims abstract description 69
- 238000013507 mapping Methods 0.000 claims description 226
- 238000004590 computer program Methods 0.000 claims description 13
- 238000003860 storage Methods 0.000 claims description 13
- 230000000694 effects Effects 0.000 abstract description 18
- 230000008569 process Effects 0.000 description 51
- 230000006870 function Effects 0.000 description 41
- 238000012546 transfer Methods 0.000 description 37
- 230000006978 adaptation Effects 0.000 description 21
- 238000006243 chemical reaction Methods 0.000 description 21
- 238000010586 diagram Methods 0.000 description 21
- YBJHBAHKTGYVGT-ZKWXMUAHSA-N (+)-Biotin Chemical compound N1C(=O)N[C@@H]2[C@H](CCCCC(=O)O)SC[C@@H]21 YBJHBAHKTGYVGT-ZKWXMUAHSA-N 0.000 description 10
- 101100008044 Caenorhabditis elegans cut-1 gene Proteins 0.000 description 10
- FEPMHVLSLDOMQC-UHFFFAOYSA-N virginiamycin-S1 Natural products CC1OC(=O)C(C=2C=CC=CC=2)NC(=O)C2CC(=O)CCN2C(=O)C(CC=2C=CC=CC=2)N(C)C(=O)C2CCCN2C(=O)C(CC)NC(=O)C1NC(=O)C1=NC=CC=C1O FEPMHVLSLDOMQC-UHFFFAOYSA-N 0.000 description 10
- 230000003287 optical effect Effects 0.000 description 9
- 101100008046 Caenorhabditis elegans cut-2 gene Proteins 0.000 description 8
- 230000008859 change Effects 0.000 description 7
- 238000001914 filtration Methods 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 5
- 238000013519 translation Methods 0.000 description 5
- 101100008047 Caenorhabditis elegans cut-3 gene Proteins 0.000 description 4
- 238000009826 distribution Methods 0.000 description 4
- 230000007613 environmental effect Effects 0.000 description 4
- 238000005286 illumination Methods 0.000 description 4
- 230000001186 cumulative effect Effects 0.000 description 3
- 230000003068 static effect Effects 0.000 description 3
- 238000012360 testing method Methods 0.000 description 3
- NAWXUBYGYWOOIX-SFHVURJKSA-N (2s)-2-[[4-[2-(2,4-diaminoquinazolin-6-yl)ethyl]benzoyl]amino]-4-methylidenepentanedioic acid Chemical compound C1=CC2=NC(N)=NC(N)=C2C=C1CCC1=CC=C(C(=O)N[C@@H](CC(=C)C(O)=O)C(O)=O)C=C1 NAWXUBYGYWOOIX-SFHVURJKSA-N 0.000 description 2
- 230000003044 adaptive effect Effects 0.000 description 2
- 230000002146 bilateral effect Effects 0.000 description 2
- 230000001413 cellular effect Effects 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 239000011521 glass Substances 0.000 description 2
- 238000004091 panning Methods 0.000 description 2
- 230000008447 perception Effects 0.000 description 2
- 238000013139 quantization Methods 0.000 description 2
- 229920000742 Cotton Polymers 0.000 description 1
- 241000023320 Luma <angiosperm> Species 0.000 description 1
- 230000005856 abnormality Effects 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 230000003321 amplification Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000005282 brightening Methods 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000005284 excitation Effects 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- OSWPMRLSEDHDFF-UHFFFAOYSA-N methyl salicylate Chemical compound COC(=O)C1=CC=CC=C1O OSWPMRLSEDHDFF-UHFFFAOYSA-N 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000000638 solvent extraction Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
- G06F3/1415—Digital output to display device ; Cooperation and interconnection of the display device with other functional units with means for detecting differences between the image stored in the host and the images displayed on the displays
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Control Of Indicators Other Than Cathode Ray Tubes (AREA)
Abstract
本申请实施例提供了一种图像处理方法及电子设备,涉及图像处理技术领域,该方法包括:获取待显示图像在显示屏的当前目标背光亮度下的显示信息,以及待显示图像在显示屏的高于该当前目标背光亮度下的显示信息,基于两种显示信息,来获取待显示图像的显示信息,可在显示屏背光可调的场景下,提升图像的显示效果。
Description
技术领域
本申请实施例涉及图像处理技术领域,尤其涉及一种图像处理方法及电子设备。
背景技术
目前,电子设备在显示图像或视频时,可按照显示屏的最大显示亮度,来对图像像素在显示屏上的显示亮度进行色调映射。
但是,目前的色调映射方法在显示屏的背光可调场景下,图像或视频的显示效果较差。
发明内容
为了解决上述技术问题,本申请提供一种图像处理方法及装置。在该方法中,可基于显示屏的最大显示亮度以及当前目标背光亮度,来获取待显示图像在显示屏上的显示信息,能够在显示屏背光可调的场景下,提升图像显示效果。
第一方面,本申请实施例提供一种图像处理方法。该方法包括:根据显示屏的当前目标背光亮度,获取待显示的目标图像的第一显示信息;根据所述显示屏的最大显示亮度和所述当前目标背光亮度,获取所述目标图像的第二显示信息;根据所述目标图像的预设信息,对所述第一显示信息和所述第二显示信息进行处理,获取所述目标图像的第三显示信息,其中,所述预设信息包括与所述目标图像的亮度有关的信息;按照所述第三显示信息,在显示屏上显示所述目标图像。这样,在显示屏具有一定背光亮度的场景下,考虑到显示屏的实际亮度可能高于该背光亮度,该方法可结合背光亮度获取图像的第一显示信息,再结合显示屏的最大显示亮度和背光亮度,获取图像的第二显示信息,并对两种显示信息进行处理,可得到图像的最终显示信息,那么最终显示信息能够结合背光亮度以及最高显示亮度,从而提升图像在显示屏上的适配效果,以提升图像的显示效果。
示例性的,在获取第二显示信息时,可基于大于当前目标背光亮度且小于或等于该最大显示亮度的亮度,来获取图像的第二显示信息,可避免采用第三显示信息对目标图像显示时,对高亮区域提升的过亮的情况。
示例性的,目标图像可以是单独的图像,也可以是视频中的一帧图像,本申请对此不做限制。
示例性的,当前目标背光亮度为期望得到的背光亮度。
示例性的,显示屏的最大显示亮度为500nit,设置当前背光强度级别为10%,得到当前目标背光亮度50nit,但是,在设置当前背光亮度级别为10%之后,显示屏的当前背光亮度(即实际背光亮度)可高于50nit,例如100nit,因此,这里的与该背光强度级别对应的背光亮度可称为当前目标背光亮度,即系统或用户期望的背光亮度。
根据第一方面,所述根据显示屏的当前目标背光亮度,获取待显示的目标图像的第一显示信息,包括:获取待显示的目标图像的第一色调映射曲线;根据显示屏的当前目标背光亮度,对所述第一色调映射曲线进行处理,获取所述目标图像的第二色调映射曲线作为所述第一显示信息。
示例性的,该第一色调映射曲线可从该目标图像的信源中获取,也可以在图像显示端生成,本申请对此不做限制。
信源信息可以是指对图像所携带的信息进行分析所得到的任意一种或多种信息。信源信息可以是图像的一种元数据信息,携带在码流中传送。
示例性的,该第一色调映射曲线可以是码流中携带的全局的初始色调映射曲线,或者局部的初始色调映射曲线。
示例性的,当该第一色调映射曲线为局部(例如目标图像的局部图像区域)的初始色调映射曲线时,可对目标图像的局部图像区域,按照第一方面的方法获取该局部图像区域的第三显示信息。
示例性的,当该第一色调映射曲线为全局(例如目标图像)的初始色调映射曲线时,可对目标图像,按照第一方面的方法获取该目标图像的第三显示信息。
示例性的,在根据显示屏的当前目标背光亮度,对所述第一色调映射曲线进行处理时,处理方式包括但不限于缩放处理,平移处理等,本申请对此不做限制。
根据第一方面,或者以上第一方面的任意一种实现方式,所述根据所述显示屏的最大显示亮度和所述当前目标背光亮度,获取所述目标图像的第二显示信息,包括:根据所述显示屏的最大显示亮度和所述当前目标背光亮度,确定第一亮度,所述第一亮度高于所述当前目标背光亮度;根据所述第一亮度,对所述第一色调映射曲线进行处理,获取所述目标图像的第三色调映射曲线作为所述第二显示信息。
示例性的,第一亮度可小于或等于最大显示亮度。
示例性的,在根据所述第一亮度,对所述第一色调映射曲线进行处理时,处理方式包括但不限于缩放处理,平移处理等,本申请对此不做限制。
根据第一方面,或者以上第一方面的任意一种实现方式,所述预设信息包括:所述目标图像的第二亮度,所述根据所述目标图像的预设信息,对所述第一显示信息和所述第二显示信息进行处理,获取所述目标图像的第三显示信息,包括:获取所述目标图像的第二亮度;从所述第二色调映射曲线中,提取像素亮度小于或等于所述第二亮度的第一子曲线;获取所述第二色调映射曲线中与所述第二亮度对应的第一色调映射值;基于所述第一色调映射值,对所述第三色调映射曲线进行处理,生成第四色调映射曲线,其中,所述第四色调映射曲线中与所述第二亮度对应的色调映射值为所述第一色调映射值;从所述第四色调映射曲线中,提取像素亮度大于或等于所述第二亮度的第二子曲线;基于所述第二亮度,连接所述第一子曲线和所述第二子曲线,获取所述目标图像的目标色调映射曲线作为所述第三显示信息。
示例性的,第二亮度可称为锚点,该锚点(这里的第二亮度)可以是全局锚点,即目标图像的锚点,还可以是局部锚点,即目标图像中局部图像区域的锚点,在对一帧图像,或一个图像区域生成目标色调映射曲线时,可使用成对的初始色调映射曲线以及锚点来实现。
示例性的,对一帧图像生成目标色调映射曲线,可使用该帧图像的初始色调映射曲线以及该帧图像的锚点来实现。
示例性的,在对一帧图像中的局部图像区域生成目标色调映射曲线,可使用该帧图像中该局部图像区域的初始色调映射曲线以及该局部图像区域的锚点来实现。
示例性的,全局锚点可作为多帧图像或多个图像区域的锚点,全局初始色调映射曲线可作为帧序列(即多帧图像)或多个图像区域的初始色调映射曲线。
示例性的,在获取目标图像的锚点时,可以从信源中获取,即码流中可传入视频或图像的锚点。
示例性的,在获取目标图像的锚点时,还可以由图像或视频显示端(即上述显示屏所属的显示设备)生成,本申请对此不做限制。
示例性的,目标图像的第二亮度,例如第二亮度为该帧目标图像的全局锚点,则第二亮度可以是该目标图像的图像像素的亮度最小值和亮度最大值之间的数值。
示例性的,目标图像的第二亮度,例如第二亮度为目标图像中局部图像区域的局部锚点,则该第二亮度可以是该局部图像区域中图像像素的亮度最小值和亮度最大值之间的数值。
示例性的,第一方面的各个实现方式中所述的色调映射曲线可用于表示图像中像素的亮度(即像素亮度,像素点的亮度)与在显示屏上的显示亮度的映射关系。
根据第一方面,或者以上第一方面的任意一种实现方式,所述获取待显示的目标图像的第一色调映射曲线,包括:获取构成所述目标图像的多个局部区域各自的第一色调映射曲线;所述获取所述目标图像的第二亮度,包括:获取所述多个局部区域各自的第二亮度;所述基于所述第二亮度,连接所述第一子曲线和所述第二子曲线,获取所述目标图像的目标色调映射曲线作为所述第三显示信息,包括:对于所述目标图像的所述多个局部区域,基于每个所述局部区域各自的所述第二亮度,连接每个所述局部区域各自的所述第一子曲线和所述第二子曲线,获取所述多个局部区域各自的目标色调映射曲线作为所述目标图像的所示第三显示信息。
本实现方式中,目标图像中的每个局部区域具有各自的第一色调映射曲线(即局部色调映射曲线)以及各自的锚点(即局部锚点),那么可对每个局部区域,分别按照结合第一方面的上述实现方式中所描述的过程,来对每个局部区域生成各自的目标色调映射曲线,然后,在显示目标图像时,对各个局部区域按照各自的目标色调映射曲线进行色调映射,以实现目标图像在存在一定背光下的显示屏上进行显示适配。
根据第一方面,或者以上第一方面的任意一种实现方式,所述获取所述目标图像的第二亮度,包括:根据所述目标图像的像素亮度的最小值和像素亮度的平均值,获取所述目标图像的第二亮度。
示例性的,该第二亮度为目标图像的全部图像区域的锚点时,可基于该目标图像内的图像像素中像素亮度的最小值,和像素亮度的平均值,来获取该锚点。
示例性的,该第二亮度为目标图像的局部图像区域的锚点时,可基于该局部图像区域内的图像像素中像素亮度的最小值,和像素亮度的平均值,来获取该锚点。
根据第一方面,或者以上第一方面的任意一种实现方式,所述根据所述目标图像的像素亮度的最小值和像素亮度的平均值,获取所述目标图像的第二亮度,包括:按照所述目标图像中的像素亮度和像素位置,对所述目标图像的图像像素进行聚类,得到多个图像区域;按照像素亮度,对所述目标图像中的所述多个图像区域进行分类,得到第一类图像区域和第二类图像区域,其中,第一类图像区域的亮度高于所述第二类图像区域的亮度;基于所述第一类图像区域内像素亮度的最小值和像素亮度的平均值,确定所述目标图像的第二亮度。
示例性的,在对目标图像划分为多个图像区域时,可按照目标图像中像素亮度和像素的空间位置,来将像素亮度接近且空间位置接近的像素点划分为一个图像区域,以实现图像区域的划分,并不限制于上述聚类的方式。
示例性的,第一类图像区域可称为高亮区域,第二类图像可称为非高亮区域。
示例性的,用于区分高亮区域和非高亮区域,可利用图像区域的亮度均值与预设阈值进行比较,来实现高亮区域和非高亮区域的区分,本申请对此不做限制。
根据第一方面,或者以上第一方面的任意一种实现方式,所述根据显示屏的当前目标背光亮度,获取待显示的目标图像的第一显示信息,包括:根据显示屏的当前目标背光亮度,对待显示的目标图像进行处理,获取第一图像作为所述第一显示信息。
示例性的,可按照当前目标背光亮度,来对目标图像的图像像素进行处理,处理方式包括但不限于图像缩放处理等图像处理方式。
根据第一方面,或者以上第一方面的任意一种实现方式,所述根据所述显示屏的最大显示亮度和所述当前目标背光亮度,获取所述目标图像的第二显示信息,包括:根据所述显示屏的最大显示亮度和所述当前目标背光亮度,确定第三亮度,所述第三亮度高于所述当前目标背光亮度;根据所述第三亮度,对所述目标图像进行处理,获取第二图像作为所述第二显示信息。
示例性的,示例性的,第三亮度可小于或等于最大显示亮度。
示例性的,在根据所述第三亮度,对所述目标图像进行处理时,处理方式包括但不限于缩放处理等图像处理方式,本申请对此不做限制。
根据第一方面,或者以上第一方面的任意一种实现方式,所述预设信息包括:所述目标图像的增益系数,所述根据所述目标图像的预设信息,对所述第一显示信息和所述第二显示信息进行处理,获取所述目标图像的第三显示信息,包括:获取所述目标图像的增益系数;基于所述增益系数,对所述第一图像和所述第二图像进行处理,生成第三图像作为所述第三显示信息。
示例性的,目标图像的增益系数可以是像素级或下采样的增益系数。
示例性的,增益系数可用于对目标图像的图像像素进行亮度调节。
示例性的,5*5的像素单位的增益系数可以是1.2,用于表示对目标图像中某个5*5的图像区域的图像像素调亮1.2倍。
示例性的,目标图像中亮度差异大的区域对应的增益系数不同,亮度更高的图像区域的增益系数高于亮度更多的图像区域的增益系数。
例如目标图像中高亮区域的增益系数大于目标图像中非高亮区域的增益系数。
根据第一方面,或者以上第一方面的任意一种实现方式,所述获取所述目标图像的增益系数,包括:按照所述目标图像中的像素亮度和像素位置,对所述目标图像的图像像素进行聚类,得到多个图像区域;按照像素亮度,对所述目标图像中的所述多个图像区域进行分类,得到第一类图像区域和第二类图像区域,其中,第一类图像区域的亮度高于所述第二类图像区域的亮度;对所述第一类图像区域和所述第二类图像区域配置不同的增益系数;其中,所述第一类图像区域的增益系数大于所述第二类图像区域的增益系数。
示例性的,在对目标图像划分为多个图像区域时,可按照目标图像中像素亮度和像素的空间位置,来将像素亮度接近且空间位置接近的像素点划分为一个图像区域,以实现图像区域的划分,并不限制于上述聚类的方式。
示例性的,第一类图像区域可称为高亮区域,第二类图像可称为非高亮区域。
示例性的,用于区分高亮区域和非高亮区域,可利用图像区域的亮度均值与预设阈值进行比较,来实现高亮区域和非高亮区域的区分,本申请对此不做限制。
这样可对目标图像中高亮区域提亮,非高亮区域压暗,来实现对目标图像向存在一定背光亮度的显示屏的显示适配。
根据第一方面,或者以上第一方面的任意一种实现方式,所述根据所述目标图像的预设信息,对所述第一显示信息和所述第二显示信息进行处理,获取所述目标图像的第三显示信息,包括:从待显示的目标图像的信源信息中,获取所述目标图像的预设信息;基于所述预设信息,对所述第一显示信息和所述第二显示信息进行处理,获取所述目标图像的第三显示信息。
示例性的,该预设信息可携带在码流中传入该图像处理方法对应的端侧,以利用该预设信息,在显示屏存在背光的情况下,也能够使视频或图像在显示屏上显示适配,显示效果更好。
将预设信息携带在目标图像的信源信息中,可使图像显示端可直接利用该预设信息进行图像在显示屏背光下的显示适配,无需由图像显示端生成该预设信息,可降低图像或视频的显示延迟。
第二方面,本申请实施例提供一种电子设备。该电子设备包括:存储器和处理器,所述存储器和所述处理器耦合;所述存储器存储有程序指令,所述程序指令由所述处理器执行时,使得所述电子设备可实现第一方面以及第一方面的任意一种实现方式中的方法。
第二方面以及第二方面的任意一种实现方式分别与第一方面以及第一方面的任意一种实现方式相对应。第二方面以及第二方面的任意一种实现方式所对应的技术效果可参见上述第一方面以及第一方面的任意一种实现方式所对应的技术效果,此处不再赘述
第三方面,本申请实施例提供一种芯片。芯片包括包括一个或多个接口电路和一个或多个处理器;所述接口电路用于从电子设备的存储器接收信号,并向所述处理器发送所述信号,所述信号包括存储器中存储的计算机指令;当所述处理器执行所述计算机指令时,使得所述电子设备执行现第一方面以及第一方面的任意一种实现方式中的方法。
第三方面以及第三方面的任意一种实现方式分别与第一方面以及第一方面的任意一种实现方式相对应。第三方面以及第三方面的任意一种实现方式所对应的技术效果可参见上述第一方面以及第一方面的任意一种实现方式所对应的技术效果,此处不再赘述。
第四方面,本申请实施例提供一种计算机可读存储介质。计算机可读存储介质存储有计算机程序,当计算机程序运行在计算机或处理器上时,使得计算机或处理器执行第一方面或第一方面的任一种可能的实现方式中的方法。
第四方面以及第四方面的任意一种实现方式分别与第一方面以及第一方面的任意一种实现方式相对应。第四方面以及第四方面的任意一种实现方式所对应的技术效果可参见上述第一方面以及第一方面的任意一种实现方式所对应的技术效果,此处不再赘述。
第五方面,本申请实施例提供一种计算机程序产品。计算机程序产品包含软件程序,当软件程序被计算机或处理器执行时,使得第一方面或第一方面的任一种可能的实现方式中的方法被执行。
第五方面以及第五方面的任意一种实现方式分别与第一方面以及第一方面的任意一种实现方式相对应。第五方面以及第五方面的任意一种实现方式所对应的技术效果可参见上述第一方面以及第一方面的任意一种实现方式所对应的技术效果,此处不再赘述。
附图说明
为了更清楚地说明本申请实施例的技术方案,下面将对本申请实施例的描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为示例性示出的一种系统的架构示意图;
图2为示例性示出的系统应用的架构示意图;
图3为示例性示出的动态范围的映射关系的示意图;
图4为示例性示出的手机背光亮度调节的场景示意图;
图5a为示例性示出的一种系统的架构示意图;
图5b为示例性示出的一种图像处理过程的示意图;
图5c为示例性示出的一种数据生成过程的示意图;
图5d为示例性示出的一种图像显示适配的过程示意图;
图5e为示例性示出的一种曲线生成过程的示意图;
图6a为示例性示出的一种系统的架构示意图;
图6b为示例性示出的一种图像处理过程的示意图;
图6c为示例性示出的一种图像显示适配的过程示意图;
图7为本申请实施例提供的一种装置的结构示意图;
图8为本申请实施例提供的一种芯片的结构示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
本文中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。
本申请实施例的说明书和权利要求书中的术语“第一”和“第二”等是用于区别不同的对象,而不是用于描述对象的特定顺序。例如,第一目标对象和第二目标对象等是用于区别不同的目标对象,而不是用于描述目标对象的特定顺序。
在本申请实施例中,“示例性的”或者“例如”等词用于表示作例子、例证或说明。本申请实施例中被描述为“示例性的”或者“例如”的任何实施例或设计方案不应被解释为比其它实施例或设计方案更优选或更具优势。确切而言,使用“示例性的”或者“例如”等词旨在以具体方式呈现相关概念。
在本申请实施例的描述中,除非另有说明,“多个”的含义是指两个或两个以上。例如,多个处理单元是指两个或两个以上的处理单元;多个系统是指两个或两个以上的系统。
图1为示例性示出系统框架结构示意图。图1的系统包括发送端和接收端。
应该理解的是,图1所示系统仅是一个范例,本申请的系统,以及系统中的发送端和接收端可以具有比图中所示的更多的或者更少的部件,可以组合两个或多个的部件,或者可以具有不同的部件配置。图1中所示出的各种部件可以在包括一个或多个信号处理和/或专用集成电路在内的硬件、软件、或硬件和软件的组合中实现。
示例性的,发送端可为图像或视频的生成端,接收端可为图像或视频的显示端。
如图2(1)所示,发送端和接收端可以配置于同一电子设备中。
示例性的,电子设备为手机,发送端可包括摄像头,接收端可包括显示屏。
发送端可将摄像头采集的视频数据生成码流,且该码流携带背光元数据,发送端可将码流发送至接收端的显示屏进行显示。
示例性的,图1所示的系统的应用场景可以是用户使用手机摄像头拍摄视频并将拍摄的视频在手机的显示屏上进行显示的过程。
示例性的,发送端可以集成为一种编码器,接收端可以集成为一种解码器。
如图2(2)所示,发送端和接收端可配置于不同的电子设备中。
示例性的,电子设备1为手机,电子设备2为电视,手机可通过Wi-Fi网络、蓝牙等方式将手机拍摄的视频数据的码流发送至电视,并将视频数据在电视的显示屏上显示。
示例性的,电子设备1为视频软件厂商拍摄制作视频的电子设备,电子设备1可将制作的视频码流(包括背光元数据)传入应用服务器,电子设备2为手机。手机接收用户对手机上安装的视频应用的用户操作,手机可响应于该用户操作,从应用服务器获取电子设备1传入的视频码流,并在手机的显示屏上显示播放视频数据。
需要说明的是,电子设备可以为终端,也可以称为终端设备,终端可以为蜂窝电话(cellular phone),平板电脑(pad)、可穿戴设备、电视、个人电脑(PC,personalcomputer)、物联网设备等设备,本申请对此不做限定。
此外,本申请的应用场景不限于上述示例场景,还可可以应用于多种场景,例如,华为云存储(或传输)图像(或视频)的场景,又例如,视频监控场景,还例如,直播场景等等,本申请对此不作限制。
下面结合图1,对图1系统的具体工作过程进行描述:
发送端可包括采集模块、光电转换模块以及编码模块。
采集模块可采集环境光,得到光信号的图像数据;
光电转换模块可通过光电转移函数,对光信号的图像数据进行光电转换,生成电信号的图像数据。
下面对光电转换模块进行光电转换的背景进行介绍:
示例性的,动态范围(Dynamic Range)可用于表示某个变量最大值与最小值的比率。在数字图像中,动态范围可用于表示在图像可显示的范围内最大灰度值和最小灰度值之间的比率。
其中,自然界的动态范围相当大,如图3所示,示出了各种环境光的亮度信息,例如星空下的夜景亮度约为0.001cd/m2,太阳本身亮度高达1,000,000,000cd/m2,月光的亮度约为1cd/m2,室内照明场景的环境光亮度约为100cd/m2,室外多云场景的环境光亮度约为500cd/m2,室外晴天场景的环境光亮度约为2000cd/m2。那么,自然界的动态范围可达到1,000,000,000/0.001=1013数量级。但是在自然界真实的场景当中,太阳的亮度和星光的亮度不会同时得到。对真实世界中的自然场景来说,动态范围在10-3到106范围内。
而目前大部分的彩色数字图像中,RGB(Red Green Blue,红绿蓝)各通道分别使用8位(bit)或10bit来存储,也就是说,各通道的表示范围是0~255灰度级,这里的0~255为图像的动态范围。
那么真实世界中同一场景中动态范围在10-3到106范围内,可称之为高动态范围(high dynamic range,HDR),相对的,普通图片上的动态范围可称为低动态范围(lowdynamic range,LDR)。如图3所示,电子设备(例如数码相机)的成像过程可理解为真实世界的高动态范围(例如100cd/m2~2000cd/m2)到图像的低动态范围(1cd/m2~500cd/m2)的非线性映射。
需要说明的是,环境光的亮度到显示设备的显示亮度的映射范围并不限于图3的阴影区域的映射范围的举例,随着电子设备的显示能力的提高,显示设备可显示的亮度的范围可增大,例如最大显示亮度可高于500。
示例性的,图3以及本文中所述的显示设备可以是本申请实施例的接收端所属的电子设备。
基于以上背景,结合图1和图3可知,采集模块采集的光信号的图像数据的动态范围在10-3到106范围内,而接收端的显示模块的最大显示亮度只有例如500,并不能达到真实世界的环境光的亮度信息。为了通过显示设备来浏览图像,需要由光电转换模块,通过光电转移函数将光信号转换为电信号,得到8bit或10bit的图像(图像中每个像素点的大小为8bit或10bit)。
示例性的,标准动态范围(standard Dynamic Range,SDR)图像(动态范围一般在1nit到100nit之间的图像,nit是光照单位)与高动态范围(HDR)图像(动态范围在0.001到10000nit之间的图像)相对应。传统的jpeg等格式8bit的图像可以认为是SDR图像。
需要说明的是,电信号的8bit或10bit的图像的图像格式可以是RAW(未加工)图像、RGB图像、YUV(“Y”表示明亮度(Luminance、Luma),“U”和“V”则是色度、浓度(Chrominance、Chroma))图像、Lab图像中的任意一种,本申请对此不作限制。
其中,Lab图像由三个要素组成,一个要素是亮度(L),a和b是两个颜色通道。a包括的颜色是从深绿色(低亮度值)到灰色(中亮度值)再到亮粉红色(高亮度值);b是从亮蓝色(低亮度值)到灰色(中亮度值)再到黄色(高亮度值)。
此外,本申请对于显示设备所显示的图像中每个像素点的大小并不限于8bit或10bit,还可以随着显示设备的显示能力的提高,以高于10bit的大小来显示图像像素。
下面对图1中的光电转移模块所用的光电转移函数进行介绍。
示例性的,早期的显示设备可以是CRT显示器,其光电转移函数为Gamma函数,在ITU-R Recommendation BT.1886标准当中定义了公式(1)所示的光电转移函数,
在通过公式(1)对采集的光信号进行光电转换后,得到量化成8比特的图像可以称为SDR图像,SDR图像和公式(1)的光电转移函数在传统的显示设备(照度在100cd/m2左右)上表现良好。
但随着显示设备的升级,显示设备的照度范围不断增加,普遍的HDR显示器的照度信息可为600cd/m2,高级的HDR显示器的照度信息能达到2000cd/m2,远远超过SDR显示设备的照度信息,ITU-R Recommendation BT.1886标准中公式(1)所示的光电转移函数不能很好的表达HDR显示设备的显示性能,因此需要改进的电光转移函数以适应显示设备的升级。光电转移函数的思想来源于Tone Mapping(色调映射,TM)算法当中的映射函数,将映射函数做适当的调整就是光电转移函数。现阶段常见的光电转移函数有如下三种,PQ(Perception quantization,感知量化)、HLG(Hybrid Log-Gamma,混合对数伽马)和SLF光电转移函数3种,此三种光电转移函数是AVS标准规定的转换函数。
下面介绍以上三种光电转移函数的曲线。
PQ光电转移函数,这里的光电转移函数不同于传统的公式(1)所示的“Gamma”光电转移函数,可根据人眼的亮度感知模型,提出感知量化转移函数,PQ光电转移函数表示图像像素的线性信号值到PQ域非线性信号值的转换关系如公式(2)所示,PQ光电转移函数可以表示为公式(3):
其中,L表示线性信号值,其值归一化为[0,1]。
L’表示非线性信号值,其值取值范围为[0,1]。
为PQ光电转移系数。
为PQ光电转移系数。
PQ光电转移系数。
PQ光电转移系数。
PQ光电转移系数。
HLG光电转移函数是在传统的Gamma曲线的基础上改进得到的。HLG光电转移函数在低段应用传统的Gamma曲线,在高段补充了log曲线。HLG光电转移函数表示图像像素的线性信号值到HLG域非线性信号值的转换关系,HLG光电转移函数可表示为公式(4):
其中,L表示线性信号值,其取值范围为[0,12]。
L’表示非线性信号值,其值取值范围为[0,1]。
a=0.17883277,a为HLG光电转移系数;
b=0.28466892,b为HLG光电转移系数;
c=0.55991073,c为HLG光电转移系数。
SLF光电转移函数是在满足人眼光学特性的前提下,根据HDR场景亮度分布获得的最优曲线。
SLF光电转移曲线表示图像像素的线性信号值到SLF域非线性信号值的转换关系。图像像素的线性信号值到SLF域非线性信号值的转换关系如公式(5)所示:
其中,SLF光电转移函数可以表示为公式(6):
其中:L表示线性信号值,其值归一化为[0,1];
L’表示非线性信号值,其值取值范围为[0,1];
p=2.3,SLF光电转移系数;
m=0.14,SLF光电转移系数;
a=1.12762,SLF光电转移系数;
b=-0.12762,SLF光电转移系数。
继续参照图1,发送端的编码模块可接收光电转换模块生成的电信号图像,对该电信号图像进行编码,生成码流。
需要说明的是,本申请的发送端所生成的码流可携带背光元数据,本申请实施例的发送端在生成图像或视频时,可对该图像或视频生成背光元数据。
示例性的,背光元数据可以是视频或图像的一种属性信息。
该背光元数据用于表示在显示设备的背光变化情况下,与图像的显示适配有关的元数据(Metadata)。
继续参照图1,发送端可将生成的码流发送至接收端。
示例性的,本申请实施例的图1所示的系统所处理的图像可以是一帧图像,还可以是帧序列(即多帧图像),本申请对此不作限制。
继续参照图1,接收端可包括解码模块、电光转换模块、显示适配模块、显示模块。
解码模块可对码流进行解码,以获取例如8bit的电信号图像和图像的属性信息(可包括背光元数据)。
电光转换模块执行的操作是光电转换模块执行的操作的逆过程,即,电光转换模块可将接收到的电信号图像转换为和图像的环境光的光照强度对应的光信号图像。
示例性的,动态范围的映射方法可应用于对发送端生成的图像(一种HDR信号)和接收端所属的显示设备所显示的HDR信号的适配。
例如,发送端生成图像时,采集到的环境光是4000nit的光照信号,而接收端所属的显示设备中(例如电视机,平板电脑)每个像素点的最大显示亮度(即HDR显示能力)只有500nit。那么为了将4000nit的光照信号显示在显示设备的显示屏上,需要对图像亮度向显示设备的显示屏亮度进行色调映射。
再如,发送端生成图像时,采集到的100nit的SDR信号,而接收端所属的显示设备(例如电视机)的最大显示亮度是2000nit。那么如何将100nit信号映射到2000nit的显示设备上进行显示,也需要对图像亮度向显示设备的显示屏亮度进行色调映射。
在传统技术中,发送端生成的码流中不包括本申请实施例所述的背光元数据,目前的色调映射曲线可包括杜比提出的基于sigmoidal曲线调整过程,以及贝塞尔曲线,这两种色调映射曲线的技术对应的ST2094标准,在对图像的显示像素映射到显示像素在显示屏上的显示亮度时,通常是将图像的亮度最大值以及亮度最小值,与显示屏的最大显示亮度值(即显示能力,例如500nit)与最小显示亮度值进行对齐,对于图像中介于亮度最大值和亮度最小值之间的亮度值,可以根据全局或者局部的色调映射曲线(例如基于sigmoidal曲线调整过程,以及贝塞尔曲线),映射至显示屏的最大显示亮度与最小显示亮度值之间的范围内。
但是,上述传统技术中的色调映射方案,没有考虑到显示设备的背光可调场景。
示例性的,手机的显示屏可具有阵列式的背光源,可用于点亮显示屏的屏幕,在背光强度级别最高(例如100%)时,显示屏的亮度为其最大显示亮度(例如500nit),背光强度级别可描述为最大显示亮度的百分比,那么背光强度级别与最大显示亮度的乘积可为显示屏的当前目标背光亮度。
需要说明的的是,本申请对于显示设备的最大显示亮度不做限制,可根据显示设备的产品升级而不断提升,另外,本申请对于显示设备的背光源的布局方式也不做限制,不同类型的电子设备(例如手机和电视机)的背光源的设置方式可以不同。
图4为示例性示出的手机背光亮度调节的场景示意图。
示例1:
如图4(1)、图4(2)所示,手机可包括环境光传感器101,环境光传感器101可感知环境亮度值以及识别环境亮度变化值,手机可根据环境光传感器101采集的环境光亮度值,设定手机屏幕的当前目标背光亮度,以及根据环境光传感器101采集的环境亮度变化调节当前目标背光亮度。
示例性的,系统可根据环境光的亮度变化,来调节手机屏幕的背光亮度,例如在白天对手机设定的背光亮度高于在晚上对手机设定的背光亮度。
示例2:
如图4(1)所示,手机显示界面100,用户可在界面100,从靠近右侧的屏幕区域,从屏幕上方按照箭头方向向下滑动操作。
其中,本申请对于界面100不做限制,可以是应用界面,也可以是应用图标界面等。
手机可响应于该用户的滑动操作,将手机的显示界面从图4(1)所示的界面100切换至图4(2)所示的控制中心界面102。
控制中心界面102包括一个或多个控件,该控件的实现方式可以包括但不限于:图标、按钮、窗口、图层等。
如图4(2)所示,控制中心界面102可包括“华为视频”播放窗口、用于无线网络图标、蓝牙图标,以及窗口103。
窗口103可包括移动数据图标、响铃/静音图标、自动旋转屏幕图标。
此外,窗口103还可包括用于控制手机屏幕背光亮度的亮度进度条控件。
需要说明的是,窗口103可包括更多或更少的控件,本申请对此不做限制。
亮度进度条控件可包括图标104、图标105、进度条106、控件107。
图标104用于表示最小背光亮度,即背光强度级别为0%;
图标105用于表示最大背光亮度,即背光强度级别为100%,此时手机屏幕的显示亮度为手机屏幕的最大显示亮度(例如上述500nit)。
用户手指通过在进度条106上移动控件107,手机可响应于用户操作,调节手机屏幕的当前背光强度级别,即在0%~100%的范围内调节背光强度级别,以改变手机的当前目标背光亮度。
示例性的,控件107在进度条106上,向图标105方向移动,可提高手机屏幕的背光强度级别以提高当前目标背光亮度,控件107在进度条106上,向图标104方向移动,可降低手机屏幕的背光强度级别以降低当前目标背光亮度。
本实施例中,用户可根据使用需求和实际用机情况,而设置手机屏幕的当前目标背光亮度。
需要说明的是,手机所提供的供用户手动调节屏幕当前目标背光亮度的界面并不限于图4(2),还可通过其他界面来实现对背光亮度的调节。
那么在屏幕背光亮度可调的场景下,屏幕的最终显示的亮度可以是当前目标背光亮度值和屏幕显示值共同作用的结果。在背光亮度调整的过程中,屏幕亮度范围随之发生变化。
示例性的,OLED屏幕自发光,在进行背光控制时,可直接控制OLED屏幕中每个像素激发光源的亮度,可用背光强度来表述屏幕显示值的整体变化。
示例性的,在手机背光可调的场景下,例如手机屏幕最大显示亮度(即显示能力)为500nit,背光强度级别为10%,则当前目标背光亮度为50nit,但是,因为其最大显示亮度可以达到500nit,因此,在当前目标背光亮度为50nit时,屏幕的实际亮度(当前背光亮度,即实际背光亮度)是可以高于50nit的,例如60nit,或100nit等,可存在策略来配置屏幕的实际亮度。
那么基于对电子设备的显示屏的背光亮度可调的上述描述可以发现,传统技术中的不论是全局,亦或是局部色调映射方案,并没有考虑到在一定背光强度下,屏幕的最终显示亮度是可以从当前目标背光亮度(例如上述50nit)增加的,直至达到屏幕单个或者部分像素的真正背光最强级别时的亮度(即上述最大显示亮度,例如100nit)。那么传统技术的方案,仅仅将图像的亮度最大值和亮度最小值,与屏幕的最大亮度值与最小亮度值对齐的机制,并不适应背光减弱(即从背光最强进行背光减弱,背光强度级别从100%开始降低)情况下的显示适配,会导致电子设备显示的视频或图像的对比度较低,颜色灰暗。
为此,本申请提供了上述系统,继续参照图1,该系统中的发送端所发送的码流可携带背光元数据,接收端的显示适配模块可基于背光元数据,对光信号图像进行动态范围映射,来获取图像显示信息并将图像显示信息发送至显示模块;
接收端的CPU可按照该图像显示信息,控制显示模块的电路,以将显示模块中的像素点,产生相应亮度的光,以实现对发送端生成的图像(高HDR信号)和接收端所属的显示设备所显示的低HDR信号的适配。
本申请实施例的系统能够在背光可调的场景下,实现对图像向显示设备的适配显示。
实施例1:
对于图1中码流携带的背光元数据,在实施例1中,背光元数据可包括局部或全局的初始增益调整曲线、局部或全局的锚点。
其中,全局可以用于表示一帧图像,或帧序列。
局部可用于表示一帧图像中的图像区域,一种图像场景等。
背光元数据可包括局部的初始增益调整曲线和局部的锚点;全局的初始增益调整曲线和全局的锚点;全局的初始增益调整曲线和局部的锚点;局部的初始增益调整曲线和全局的锚点中的至少一种数据。
其中,本文所述的锚点是一个亮度值。
局部图像的局部锚点可以是:小于局部图像(例如图像区域)的像素最大亮度值、且大于局部图像的像素最小亮度值之间的一个亮度值。
全局锚点是背光控制锚点是:小于全局(例如一帧图像)最大像素亮度、且大于全局最小像素亮度的一个亮度值。
在对局部或全局的图像生成初始增益调整曲线时,可按照传统技术中生成色调映射曲线的方式,来作为图像的初始增益调整曲线,本申请对此不做限制。
示例地,色调映射曲线有各种各样的形态,包括但不限于:Sigmoid、三次样条、gamma、分段的三次样条函数等,均可作为初始增益调整曲线。
图5a为示例性示出的对图1进行细化后的系统架构图,图5a与图1相同之处,这里不再赘述,只细化之处做详细说明。
应该理解的是,图5a所示系统仅是一个范例,本申请的系统,以及系统中的发送端和接收端可以具有比图中所示的更多的或者更少的部件,可以组合两个或多个的部件,或者可以具有不同的部件配置。图5a中所示出的各种部件可以在包括一个或多个信号处理和/或专用集成电路在内的硬件、软件、或硬件和软件的组合中实现。
如图5a所示,发送端可包括背光元数据生成模块;
背光元数据生成模块可对光电转换模块生成的电信号图像或图像序列,生成背光元数据,这里的背光元数据可包括局部或全局的初始增益调整曲线,以及局部或全局的锚点(具体定义参照上文,这里不再赘述)。
编码模块可将电信号图像和背光元数据编码,生成码流并发送至接收端。
下面介绍背光元数据生成模块生成局部或全局的初始增益调整曲线,以及局部或全局的锚点的过程:
结合图5a,参照图5b,示例性的示出了对图像1的区域A生成初始增益调整曲线0和锚点的过程,在图5b中以处理对象为图像1为例进行说明:
在图5b中,背光元数据生成模块可对待显示的图像1,将亮度接近且空间位置接近的像素划分为同一区域,以对图像1进行区域划分,得到多个区域C;然后,再识别多个区域C中高亮区域C。
需要说明的是,在对图像1进行区域划分时,划分方法并不限于图5b的举例,还可通过其他方式,来将一个图像中亮度接近且空间位置接近的像素划分为一个区域,以实现图像的区域划分。
示例性的,图5b的过程可包括如下步骤:
可选地,对图像1进行第一次区域划分。
示例性的,可将图像1划分为一个区域(即不进行区域划分),在图5b中,图像1即为区域A。
或者,示例性的,将图像1划分为矩形的多个区域,得到多个区域A。
S400,背光元数据生成模块,可对区域A生成初始增益调整曲线0。
示例性的,图像1为64x64的图像。
初始增益调整曲线0的生成方式可以采用传统技术中任意一种生成色调映射曲线的方式来实现,本申请对此不做限制。
在背光元数据中的初始增益调整曲线包括局部的初始增益调整曲线时,可对一个图像区域按照上述方法,生成该图像区域的初始增益调整曲线。
在背光元数据中的初始增益调整曲线包括全局的初始增益调整曲线时,该全局为一帧图像时,可对一帧图像生成初始增益调整曲线,该全局为帧序列时,可对该帧序列中的一帧图像生成初始增益调整曲线,并将该初始增益调整曲线作为该帧序列的初始增益调整曲线。
S401,背光元数据生成模块,对区域A进行图像等分,生成区域B。
示例性的,可将区域A划分为等分的4个区域B,每个区域B大小为32x32。
需要说明的是,可对图像进行等分或不等分,本申请对此不做限制。
这里将区域A划分为4个区域B,相当于对区域A中的像素点做初始的聚类,例如4个区域B分别可以被称为0类、1类、2类和3类。
S402,背光元数据生成模块,按照像素点的亮度和空间位置,对区域A内的像素点进行迭代聚类。
本步骤可对区域A中4个区域B内的像素进行迭代更新的聚类,以将区域A中亮度接近、空间位置接近的像素点聚类为一类,从而形成新的4个聚类类型,分别为图5b中4个区域C。例如4个区域C可以被称为0类’、1类’、2类’和3类’。
示例性的,对于一个区域A中的每个区域B,第一步,可计算每个区域B的聚类中心位置(x_centra,y_centra),以及平均的颜色值(例如RGB三个通道的均值:R_avg,G_avg,B_avg)或者Lab的平均值(l_avg,a_avg,b_avg)。其中,这里的聚类中心位置可以为区域B的像素点的几何中心;
然后,第二步,对于一个区域A中的每个像素(坐标(x、y),颜色值RGB或lab),计算与该区域A内所有区域B的聚类中心位置的几何距离以及颜色差异,作为该区域A中该像素的失真值cost;
cost=(√((x-x_centra)2+(y-y_centra)2))/K+(√((l-l_avg)2+(a-a_avg)2+(b-
b_avg)2))/M;
其中,√表示开方运算,K、M是两个常量,K、M的作用是归一化。
例如,在图5b中一个区域A可包括4个区域B,那么对于区域A中的一个像素可得到4个失真值。
接着,第三步,对于区域A中每个像素的4个失真值,选取最小失真值对应的区域B,作为该像素更新后的聚类类型(例如0类),这样可将区域A的所有像素点实现一次迭代聚类;
这样,对于区域A中所有像素,可计算得到更新后的聚类类型,相当于对区域A重新进行了一次区域划分,本次划分得到的4个区域B’不同于图5b所示的规则矩形的4个区域,本次划分得到的4个区域的形状可能是不规则的。
然后,按照上述第一步至第三步的流程,对更新后的4个聚类类型对应的区域内的像素点,重新计算聚类中心位置和平均颜色值等,以进行下一轮迭代聚类,直到该区域A内的像素点的聚类类型不再发生变化,可得到图5b所示的4个区域C(作为最终的4个聚类类型)。
这样,对于图像1中的每个区域A可划分得到4个区域C。
需要说明的是,在对区域A划分时所生成的最终区域C的数量并不限于4个,例如在S401中进行图像等分时,还可进行6等分、9等分等任意数量的等分方式,从而使得对区域A划分得到的区域C的数量可以是6个或9个等。
需要说明的是,在对待显示的图像1,将亮度接近且空间位置接近的像素划分为同一区域,以对图像1进行区域划分的方法并不限于上述示例的方案,还可通过本领域的其他方法,来实现对图像1的区域划分。
S403,背光元数据生成模块,使用预设算法从图像划分区域中识别高亮区域。
在一种可能的实施方式中,示例性的,背光元数据生成模块可以使用双边滤波或者引导滤波的方法,来对图像1(例如包括图5b所示的4个区域C)进行滤波处理,根据在滤波前后图像1同一像素的像素值的差异大小,将图像中像素值的差异较大的像素作为高亮像素。然后,根据对图像1所划分得到的4个区域C,将包括的高亮像素的数目大于或等于预设阈值的区域C作为高亮区域C,将包括的高亮像素的数目小于预设阈值的区域C作为非高亮区域C。这样,就可将图像1所包括的区域划分为两类区域,一类为高亮区域,一类为非高亮区域。
示例性的,如图5b所示,区域A的4个区域C中包括两个高亮区域C和两个非高亮区域C。
示例性的,图像1中对应的拍摄对象的属性可影响该图像区域是否为高亮区域。例如云层、玻璃的反射率较高,云层、玻璃的图像区域容易作为高亮区域,再如,粗糙的棉麻衣物等反射率较低的对象的图像区域,容易作为非高亮区域。
需要说明的是,在从图像划分的区域中,识别哪些区域属于高亮区域,哪些区域属于非高亮区域时,并不限于上述双边滤波或引导滤波的方法,还可通过其他方法来实现,例如对区域A中的不同区域C分别计算像素的平均亮度值,将平均亮度值高于预设阈值的区域C作为高亮区域C,以此实现对区域A的高亮区域和非高亮区域的分类,本申请对此不做限制。
另外,需要说明的是,在图像1划分为多个区域A时,对不同区域A可通过相同或不同的实现方式,来实现对各区域A内的高亮区域和非高亮区域的识别,本申请对此不做限制。
S405,背光元数据生成模块,根据区域A中高亮区域C的像素亮度,确定作为区域A的锚点的亮度值。
示例性的,对于一个区域A,可对区域A中的所有高亮区域C内的像素,获取像素亮度的最小值a1,和像素亮度的平均值a2。对于一个区域A,利用像素亮度的最小值a1和像素亮度的平均值a2,生成区域A的锚点。
示例性的,可将大于a1且小于a2的任意一个亮度值作为区域A的锚点。
示例性的,还可将a1和a2的平均值作为区域A的锚点。
示例性的,还可将a1和a2的加权结果作为区域A的锚点。
其中,一个区域A具有一个锚点。
可选地,对于一个区域A,也可对区域A中的所有区域C内的像素(即区域A中的所有像素),获取像素亮度的最小值a1,和像素亮度的平均值a2。对于一个区域A,利用像素亮度的最小值a1和像素亮度的平均值a2,生成区域A的锚点。
需要说明的是,本申请对于生成锚点的方式不限于上述实施例的方法,还可以通过其他方式来实现,本申请对此不做限制。
那么按照上述实施例的方法可对一帧图像生成该帧图像的全局锚点,还可对图像中的区域来生成局部的锚点。另外,当背光元数据中的全局的锚点为帧序列的锚点时,可通过上述方法,对一帧图像生成锚点,然后,将该锚点作为包括该帧图像的帧序列的锚点。
上述图5b以一种实施方式描述了生成初始增益调整曲线和锚点的过程。
在另一个实施方式中,还可通过图5c(1)的流程来生成局部或全局的初始增益调整曲线,以及局部或全局的锚点。
如图5c(1)所示,该过程可包括如下流程:
示例性的,图5c(1)可由图5a中的背光元数据生成模块来执行,图5c(1)中的区域A可以是一帧图像,还可以是图像中的局部图像区域,本申请对此不做限制。
S501,对区域A生成初始增益调整曲线0。
该过程与图5b的S400类似,这里不再赘述。
S502,根据区域A的像素点的亮度值,生成区域A的像素点的亮度的累计分布直方图。
示例性的,图5c(2)示出了区域A的像素点的亮度的累计分布直方图。
该直方图中,横轴x用于表示区域A的像素点的亮度值,纵轴y用于表示区域A的像素点的数量。
从图5c(2)可以看出,例如区域A包括100个像素点,区域A中具有亮度x1的像素点的数量为20个,具有亮度x2的像素点的数量为30个,具有亮度x3的像素点的数量为50个。
S503,基于上述直方图,将区域A中高于区域A内预设比例的像素点亮度的亮度值作为区域A的锚点。
示例性的,该预设比例可以是95%、99%或99.5%等,该预设比例高于50%,具体数值可根据需要灵活配置,本申请对此不做限制。
示例性的,例如预设比例为95%,基于图5c(2)所示的直方图,可以易于确定高于区域A中95%的像素点的亮度的亮度值为x3,可将x3作为区域A的锚点。
在图5c的实施方式中,在对图像生成局部或全局的锚点时,无需对图像进行区域划分,只需要利用图像的像素点亮度的累计分布直方图,就可以确定需要锚点。考虑到在对图像进行色调映射时,需要对亮度在锚点以上的像素点提高亮度,对亮度在锚点以下的像素点降低亮度,可基于该预设比例,利于确定该预设比例的像素点需要降低亮度,(1-预设比例)的像素点需要提亮,容易确定提亮和压暗幅度。
需要说明的是,对图像或局部图像或帧序列在生成初始增益调整曲线,和生成锚点时,是两个独立的过程,本申请对两个过程的执行顺序不做限制。
需要说明的是,S503在S502之后执行,但是本申请对于S501与S502、S503之间的执行顺序不做限制。
上述实施方式,以图5a中的发送端来生成局部或全局的初始增益调整曲线,以及局部或全局的锚点为例进行了描述,使得该曲线和锚点信息可作为码流的属性传入接收端。
需要说明的是,本申请实施例的接收端也可以包括背光元数据生成模块执行上述操作,来生成局部或全局的初始增益调整曲线,以及局部或全局的锚点,方法类似,这里不再赘述。
继续回到图5a,下面结合图5d对图5a中接收端的执行过程进行描述:
对比图1和图5a可以看到,图1中的显示适配模块可包括图5a所示的色调映射曲线生成模块,以及色调映射模块。
下面结合图5d,对图5a中色调映射曲线生成模块以及色调映射模块的工作过程进行说明:
如图5d所示,该过程可包括如下步骤:
S201,接收端获取码流中待显示的图像1。
示例性的,如图5a所示,解码模块通过对码流解码,可将获取到图像,例如图5b中的图像1。
S202,接收端获取码流中背光元数据,背光元数据包括图像1中区域A的初始增益调整曲线0和区域A的第一亮度(又称锚点)。
示例性的,如图5a所示,解码模块可对码流进行解码,以获取背光元数据,其中,背光元数据可包括码流的局部或全局的初始增益调整曲线,以及局部或全局的锚点。
以图5b的图像1为码流中的待显示图像为例,解码模块可获取到图像1中区域A的初始增益调整曲线,以及区域A的锚点,并发送至色调映射曲线生成模块。
S203,接收端获取显示屏的最大显示亮度以及当前背光强度级别。
示例性的,如图5a所示,色调映射曲线生成模块可从显示模块获取显示屏的最大显示亮度,以及显示屏的当前背光强度信息。
示例性的,当前背光强度信息可以是当前背光强度级别,也可以是当前目标背光亮度。
示例性的,接收端可从接收端所属的显示设备,获取显示屏的最大显示亮度(例如500nit)
示例性的,本申请实施例还可在显示设备的显示屏上显示测试样例(一个测试图像),该测试样例中占测试样例的面积比例为N%(例如5%、10%等)的区域为白色,其他区域为黑色,通过使用仪器测量该N%面积的白色区域的亮度,测量到的亮度为显示屏的最大显示亮度。
需要说明的是,本申请对于获取显示设备的最大显示亮度的方式不做限制。
另外,色调映射曲线生成模块所获取到的显示屏的当前背光强度信息,根据图4实施例的描述,该当前背光强度信息可以为系统自动调节后的显示屏的当前目标背光亮度,还可以是用户手动调节后的显示屏的当前目标背光亮度,这里不再赘述。
S204,接收端根据最大显示亮度,对曲线0进行处理,生成曲线1。
需要说明的是,在对区域A的曲线0进行处理,生成曲线1时,所基于的亮度值并不限制于最大显示亮度来实现,该亮度值可以是大于当前目标背光亮度、且小于或等于显示屏的最大显示亮度的一个亮度值(例如当前目标背光亮度与最大显示亮度的加权结果)。
示例性的,以根据最大显示亮度,来对曲线0进行处理生成曲线1为例进行说明,当所基于的亮度值不是该最大显示亮度时,方法同理,这里不再赘述。
其中,曲线0可以是传统技术中的任意一种色调映射曲线,那么曲线1以及后续的曲线2也均为色调映射曲线,任意色调映射曲线的函数f(x)的自变量x表示SDR源或HDR源的图像像素的亮度值,f(x)表示图像像素在显示屏上显示的亮度值。
示例性的,如图5a所示,色调映射曲线生成模块可根据最大显示亮度maxT,对例如区域A的初始增益调整曲线(例如曲线0,又称curve0)进行处理,生成更新后的增益调整曲线(例如曲线1,又称curve1)。
示例性的,可利用最大显示亮度,对区域A的曲线0进行缩放处理,来得到曲线1,需要说明的是,处理方式并不限于方式1、方式2所述的缩放处理,还可包括诸如方式3、方式4、方式5等以及未列举的其他方式,本申请对此不做限制。
方式1:
例如曲线0的最大x值为maxsource,对应的y值为maxY,则曲线0整体的缩放系数为D=maxT/maxY,其中,maxT为接收端所属的显示设备的显示屏的最大显示亮度,可利用缩放系数D对曲线0进行整体缩放,curve1=D*curve0。
其中,曲线0为区域A的初始增益调整曲线(一种色调映射曲线),那么曲线0的最大x值,表示这里的区域A的图像像素的最大亮度值、对应的y值(即maxY)表示区域A中该最大亮度值的图像像素在显示屏上显示的亮度值,那么曲线0的最大x值即为区域A中图像像素的最大亮度值。
方式2:
背光元数据可包括预设亮度值T3。
例如,该预设亮度值T3为曲线0原来生成的任意目标亮度target_maxdisplay,其中目标亮度也是某亮度的图像像素在显示屏上显示的亮度值,例如可以是最大显示的亮度值。
曲线0整体的缩放系数为D=maxT/T3,利用缩放系数D对曲线0进行整体缩放,curve1=D*curve0。
考虑到在显示屏在存在一定背光的情况下,该显示屏的实际亮度可高于该背光亮度,例如显示屏的最大显示亮度为500nit,背光强度级别为10%,则背光亮度为50nit,但电子设备可存在策略来调整显示屏的最终亮度,使得最终亮度可高于50nit,因此在本实施例中,可以基于大于该背光亮度且小于或等于最大显示亮度的一个亮度值,来生成与该亮度值匹配的色调映射曲线(即曲线1)。
方式3:
根据区域A的图像参数和显示亮度获取曲线A;
示例性的,图像参数包括但不限于像素的亮度最大值、像素的亮度最小值,或像素的亮度平均值。
示例性的,显示亮度可以包括显示屏的最大显示亮度或当前目标背光亮度。
将图像参数和显示亮度作为传统的色调映射曲线的曲线参数,从而得到曲线A。
根据最大显示亮度和所述目标亮度target_maxdisplay,获得权重值w;
示例性的,可以将最大显示亮度与目标亮度target_maxdisplay的差值作为权重值w,但是获取权重值w的方式不限于此。
利用该权重值w,对曲线A与区域A的上述曲线0进行加权求和,得到曲线1。
方式4:
根据最大显示亮度以及曲线调整参数B,获取曲线参数调整值B1;
示例性的,背光元数据可包括用于表示曲线0的每个曲线参数,以及这里的曲线调整参数B。
例如该曲线调整参数B的取值为0.2,
例如显示屏的最大显示亮度为200,曲线0对应的显示屏的最大显示亮度是500;
那么|(200-500)|/100=3,那么曲线调整参数B(这里为0.2)乘以前述的结果“3”得到曲线参数调整值B1为0.6。
根据曲线0叠加曲线参数调整值B1获取曲线1。
对曲线0的每个曲线参数均叠加(例如加法或减法运算)曲线参数调整值B1,从而得到曲线1的每个曲线参数,进而获取到曲线1。
即曲线0的每个曲线参数可以加或减0.6,从而得到新的一组曲线参数,以得到曲线1。
方式5:
根据最大显示亮度以及曲线调整参数B,获取曲线参数调整值B1;
示例性的,方式4是对曲线0的每个曲线参数按照曲线参数调整值B1进行调整,这里例如曲线0中某个目标参数对曲线形状的影响程度最大,则背光元数据中可包括曲线0的某个目标参数的曲线调整参数B,即只对曲线0的该某个目标参数按照方式4,进行调整。
按照上述方式1或方式2,对于曲线0进行缩放,得到曲线00;
这里在缩放时,可以对曲线0的除上述目标参数之外的参数进行缩放处理,得到曲线00。
根据曲线00叠加B1获取曲线1。
示例性的,可对曲线00的目标参数,相加或减去B1,得到新的曲线1。
S205,接收端根据最大显示亮度和当前背光强度级别,对曲线0进行处理,生成曲线2。
示例性的,如图5a所示,色调映射曲线生成模块可根据当前背光强度信息(例如当前背光强度级别)以及最大显示亮度maxT,对例如区域A的初始增益调整曲线(curve0)进行处理,生成更新后的增益调整曲线(例如曲线2,又称curve2)。
其中,如果色调映射曲线生成模块所获取的当前背光强度信息为当前目标背光亮度信息,则无需利用显示模块的最大显示亮度,来生成曲线2。
示例性的,可利用最大显示亮度maxT与当前背光强度级别Level的乘积(即当前目标背光亮度Lx=maxT*Level),例如最大显示亮度为500,当前背光强度级别为10%,则当前目标背光亮度为50,对区域A的曲线0进行缩放处理,来得到曲线1,需要说明的是,处理方式并不限于缩放,还可包括其他方式,本申请对此不做限制。
方式1:
例如区域A的曲线0的最大x值为maxsource,对应的y值为maxY,则曲线0整体的缩放系数为D=Lx/maxY,利用缩放系数D对曲线0进行整体缩放,curve2=D*curve0。
方式2:
背光元数据可包括预设亮度值T3。
例如,该预设亮度值T3为曲线0原来生成的目标亮度target_maxdisplay。
曲线0整体的缩放系数为D=Lx/T3,利用缩放系数D对曲线0进行整体缩放,curve2=D*curve0。
在显示屏在存在一定背光的情况下,例如显示屏的最大显示亮度为500nit,背光强度级别为10%,则背光亮度为50nit,在本实施例中,可以生成与该背光亮度匹配的色调映射曲线(即曲线2)。
对于除缩放之外的处理方式,可参照S205中示例介绍的方式3~方式5,原理类似,这里不再赘述。
S206,接收端根据区域A的锚点,对曲线1和曲线2进行处理,生成区域A的色调映射曲线3。
图5e为示例性示出的对曲线1和曲线2生成曲线3的示意图。
其中,图5e中的三个坐标图,每个x轴表示这里的区域A的图像像素的亮度值、y轴表示区域A的图像像素在显示屏上显示的亮度值。
以图5e中各色调映射曲线的x的取值范围为0~1为例,以区域A的锚点为0.7为例进行说明。
请参照图5e(1)示出了curve2的曲线图,由于curve2是基于当前目标背光亮度所生成的色调映射曲线,因此curve2中对大部分的色调映射值,即对图像像素的亮度值所映射的显示亮度值(即y值)是比较合理的,少数色调映射值不合理,因此,可基于锚点,首先从curve2中截取部分色调映射曲线,再基于曲线1进行曲线拼接,来生成该区域A的最终的色调映射曲线(即曲线3,又称curve3)。
如图5e(1)所示,锚点0.7对应的y值为y1,可对curve2从原点(0,0)至P1(0.7,y1)进行截取,得到curve2-1。也就是说,最终的色调映射曲线,即curve3,对于像素亮度在锚点以下(0~0.7)的曲线部分,采用curve2。如图5e(3)所示出的curve3,在像素亮度0~0.7范围内,使用图5e(1)中的curve2-1部分。
然后,可根据curve2在锚点(0.7)处的色调映射值,即y值,这里为图5e(1)中的y1,对curve1进行平移,或者拉伸,得到curve1’,使得curve1’与curve2在锚点处的色调映射值(即y值)相同;
示例性的,如图5e(2)所示,示出了curve1的曲线图,curve1中锚点位置(x=0.7)的色调映射值为y2时,例如curve1中的P2(0.7,y2),由于x值取值范围为0~1,而锚点以下的曲线已经从curve2中确定,这里只需要从图5e(2)所述的curve1中确定x取值范围为0~1的曲线段,即曲线段P2P3。然后可以对curve1中的曲线段P2P3沿y轴的反方向向x轴平移,平移方向如图5e(2)的平移箭头所示与y轴平行,使得平移后的曲线段P2P3(即图5e(2)所示的曲线段MN,又称curve1’),在x值为锚点0.7时,y值为y1,其中,P2平移后为M(0.7,y1),P3平移后为点N。这里的曲线的平移量可以为(y2-y1)。
需要说明的是,图5e以对curve1进行平移,来实现curve3的生成,还可通过对curve1进行缩放或拉伸来实现,本申请对此不做限制。
如图5e(3)所示出的curve3,在锚点以下,即像素亮度在0~0.7范围内,使用图5e(1)中的curve2-1部分,在锚点以上,即像素亮度在0.7~1范围内,使用图5e(2)中得到的curve1’中的MN段,从而得到区域A的色调映射曲线curve3(即图5a中的目标色调映射曲线)。
其中,图5e(3)中的M点也是图5e(1)中的P1点,这里以一个字母M示意该点。
另外,在图5e(2)中,以对curve1中锚点以上的曲线段进行平移为例,来获取curve3中锚点以上的曲线段,在其他实施例中,也可以对curve1整体进行平移,然后,再从平移后的curve1中截取锚点以上的曲线段,来与curve2-1在锚点位置连接,得到curve3,本申请对此不做限制。
可选地,由于curve3在锚点位置是源自两个曲线的两个曲线段连接而成,使得curve3在例如图5e(3)所示的锚点位置M处不够光滑,容易导致基于curve3对图像进行色调映射后,图像在显示屏上显示时出现失真的情况。
那么在本申请实施例中,如图5e(3)所示,可以对于curve3在锚点前后预设范围(0.7-T2,0.7+T1)的曲线段EF进行修正,使得EF中在M处更加平滑。
然后,将修正后的曲线段EF,与curve3中的曲线段0E(即原点至E点的曲线段),在E点进行平滑连接,以及将修正后的曲线段EF,与curve3中的曲线段FN,在F点进行平滑连接(例如E点、F点处一阶导数连续),得到修正后的curve3,即区域A最终的色调映射曲线,使用修正后的curve3对图像像素进行色调映射显示时,不容易出高频系数被增强和画面失真的问题。
S207,接收端按照色调映射曲线3,对区域A进行色调映射处理,获取区域A的图像显示信息。
需要说明的是,本申请对于S201、S202以及S203之间的执行顺序不做限制。
本申请对于S204、S205的执行顺序不做限制。
示例性的,如图5a所示,接收端的色调映射曲线生成模块,可将生成的目标色调映射曲线(例如上述曲线3),发送至色调映射模块。
色调映射模块可按照曲线3,对图像1中的区域A进行色调映射处理,以调整图像1中区域A的图像像素,从而可获取到区域A中每个像素亮度在显示模块上的显示亮度。
显示模块就可以按照图像1中区域A内各个像素点对应的所述显示亮度,来对图像1中的区域A进行显示,能够将调整图像像素后的图像1显示在显示模块上,以实现对图像1向显示屏的背光亮度的适配。
同理,在图像1包括多个区域A时,显示模块可对各个区域A分别按照各自的图像显示信息进行显示。
对图像进行色调映射可理解为动态范围的映射,例如图3所示的动态范围的映射。
动态范围的映射可分为静态映射方法和动态映射方法。
示例性的,静态映射方法可以描述为:根据同一个视频内容或者同一个硬盘内容,由单一的数据进行整体的色调映射过程,也就是说,对一帧或多帧图像采用同一目标色调映射曲线进行色调映射,使得码流中携带的信息较少,对图像进行适配显示的处理过程更加简洁,图像显示时延较低。
动态映射方法可以描述为:根据图像中的特定区域,或每一个场景,或每一帧的图像内容,以不同的色调映射曲线进行动态的色调映射,那么每一帧或者每一场景需要携带相关的场景信息。可根据特定区域,每一场景或者每一帧图像进行不同的色调映射曲线的色调映射处理,能够对不同场景,不同图像区域,不同帧图像,以不同的色调映射曲线进行色调映射。例如可根据拍摄场景,对较亮场景的图像,采用重点保护亮区显示效果的色调映射曲线进行色调映射。
静态映射方法,相当于对多帧图像采用同一目标色调映射曲线进行色调映射,那么可使用对该多帧图像中一帧图像生成的目标色调映射曲线,作为该多帧图像的目标色调映射曲线,在生成一帧图像的目标色调映射曲线时,可利用一帧图像的全局的初始增益调整曲线和全局的锚点来实现。
动态映射方法,相当于对不同帧图像、对同一帧图像中的不同图像区域、对不同场景的图像,采用不同的目标色调映射曲线进行色调映射,那么可使用局部锚点和局部初始色调映射曲线,生成各局部的目标色调映射曲线。
如图5a的描述,背光元数据可包括局部或全局的初始增益调整曲线,以及局部或全局的锚点。
其中,图像的局部区域的初始增益调整曲线可称为局部初始增益调整曲线,图像的局部区域的锚点,可以称为局部的锚点。
一帧图像的初始增益调整曲线可称为全局初始增益调整曲线,一帧图像的锚点,可以称为全局的锚点,但是,不同帧图像的初始增益调整曲线,以及锚点可以不同。
多帧图像的一条初始增益调整曲线也可称为全局初始增益调整曲线,示例的,可将多帧图像中一帧图像的初始增益调整曲线作为多帧图像的全局初始增益调整曲线。
多帧图像共用的一个锚点,可以称为全局的锚点,示例的,可对多帧图像中的一帧图像生成一个锚点,将该锚点作为多帧图像的全局的锚点。
示例性的,在码流中包括全局初始增益调整曲线和全局的锚点时,则可以按照上述方法,利用每帧图像的初始增益调整曲线以及锚点,生成每帧图像各自的目标色调映射曲线。对每帧图像按照各自的目标色调映射曲线进行色调映射,以实现图像与显示屏的显示适配。
示例性的,在码流中包括全局初始增益调整曲线和全局的锚点时,可以按照上述方法,对该多帧图像的全局的初始增益调整曲线以及该多帧图像的全局的锚点,来生成适用于该多帧图像的一个目标色调映射曲线,可对该多帧图像按照同一目标色调映射曲线进行色调映射,以实现图像与显示屏的显示适配。
示例性的,在码流中包括局部的初始增益调整曲线和局部的锚点时,例如图像1中不同区域分别具有各自的局部的初始增益调整曲线以及各自的局部的锚点,那么可对图像1中各区域,按照各自的初始增益调整曲线以及各自的锚点,来生成各自的目标色调映射曲线(也是局部的色调映射曲线)。然后,对图像1中不同区域,按照各自的目标色调映射曲线进行色调映射,以实现图像中不同区域与显示屏的显示适配,可对同一图像的不同区域按照不同的色调映射曲线进行色调映射。再如,还可对不同场景,分别利用各自的局部的初始增益调整曲线以及局部的锚点,来生成各个场景的目标色调映射曲线,然后,对不同场景的图像,按照相应场景的目标色调映射曲线进行色调映射,以实现不同场景的图像与显示屏的显示适配。
另外,由于对图像(或局部图像)生成锚点,和生成初始增益调整曲线是两个独立的过程,因此,可以对局部区域生成锚点,对全局图像(例如一帧或帧序列)生成全局的初始增益调整曲线。
示例的,在码流中包括全局的初始增益调整曲线和局部的锚点时,可以对每个局部图像,使用各自的局部锚点,以及全局的初始增益调整曲线,来生成每个局部图像的各自的目标色调映射曲线,其中,各个局部图像在生成各自的目标色调映射曲线时,可将全局的初始增益调整曲线作为该局部图像的初始增益调整曲线。对各个局部图像生成各自的目标色调映射曲线的过程与上文的图5d和图5e描述的过程类似,这里不再赘述。
示例的,在码流中包括局部的初始增益调整曲线和全局的锚点时,可以对每个局部图像,使用各自的局部的初始增益调整曲线,以及全局的锚点,来生成每个局部图像的各自的目标色调映射曲线,其中,各个局部图像在生成各自的目标色调映射曲线时,可将全局的锚点作为该局部图像的锚点,即各个局部图像复用同一锚点。对各个局部图像生成各自的目标色调映射曲线的过程与上文的图5d和图5e描述的过程类似,这里不再赘述。
虽然码流中的初始增益调整曲线以及锚点可能不是一对一的,但是,在使用时,对待显示的图像或区域,使用一个初始增益调整曲线和一个锚点,来生成该图像或区域的目标增益调整曲线,即初始增益调整曲线和锚点成对使用。
示例性的,在上述S207中,接收端按照色调映射曲线3,对区域A进行色调映射处理,获取区域A的图像显示信息时,在色调映射曲线3是全局的色调映射曲线的情况下,采用方法一来实现色调映射处理,在色调映射曲线3是全局的色调映射曲线的情况下,方法二来实现色调映射处理。
方法一:
根据全局色调映射曲线对于待显示图像的各个像素获取在显示屏上显示的亮度值。
示例性的,可按照公式(7)计算gain;
gain=f[i](max(Rp,Gp,Bp))/max(Rp,Gp,Bp),公式(7);
其中,Rp,Gp,Bp为待显示图像中当前像素P的不同颜色分量,max(Rp,Gp,Bp)是求解三个颜色分量的最大分量值。
f(x)表示该待显示图像所使用的全局色调映射曲线的函数,[i]表示当前像素P是待显示图像中的第i个进行色调映射的像素。
然后,按照公式(8)、公式(9)、公式(10),计算当前像素P的色调映射值。
RpTM[i]=Rp*gain,公式(8);
GpTM[i]=Gp*gain,公式(9);
BpTM[i]=Bp*gain,公式(10);
其中,RpTM[i],GpTM[i],BpTM[i]为当前像素P红绿蓝三个颜色分量的色调映射值(即,待显示图像中的当前像素P在显示屏上显示的亮度值)。
方法二:
根据局部色调映射曲线对于待显示图像中局部图像的各个像素,获取在显示屏上显示的亮度值,其中,该局部色调映射曲线,即为对局部图像所生成的局部的目标色调映射曲线,例如上文的区域A的curve3。
例如待显示的图像1被划分为4个区域A(即4个色调映射区域),那么每个区域A可按照上文的生成目标色调映射曲线的方式,生成各个区域A各自的局部的目标色调映射曲线。
需要说明的是,对于图像1中具体被划分为局部图像的数量(例如区域A的数量),本申请对此不做限制。其中,每个局部图像可按照各自的局部的色调映射曲线进行各自的色调映射,而且,图像1中各局部图像的形状可以相同或不同,本申请对此不做限制。
对于图像1中所划分为的各个局部图像(也成为色调映射区域)的信息,其中该信息例如可以是局部图像在图像1中的尺寸信息,例如长宽信息,以用于确定局部图像。且描述该局部图像的尺寸的信息可以携带在上文所述的背光元数据中,以使接收端基于各个局部图像的信息,按照各个局部图像的目标色调映射曲线对各个局部图像分别进行色调映射。
示例性的,在对图像1中某个区域A(可称为:初始区域A)内的一个像素点P进行色调映射时,可在上述4个区域A中,确定距离该像素点P空间距离最近的目标区域A(可以是一个或多个),采用目标区域A对应的目标色调映射曲线作为上述方法一中公式(7)的f(x),按照方法一的公式(7)~公式(10)计算当前像素P的第一色调映射值;如果该第一区域A的数量为一个,则将该第一色调映射值作为当前像素P的最终色调映射值;如果该目标区域A的数量为多个,其中,可通过公式(7)得到第j个目标区域A的gain[j],其中,j=1,2,3,4,以及对应于各目标区域A的多个第一色调映射值,可对多个第一色调映射值进行加权求和,将加权求和结果除以各个目标区域A对应的权重gain[j]之和,作为当前像素P的最终色调映射值。
其中,在对当前像素点P的至少两个第一色调映射值进行加权时,j表示图像1的4个区域A中的第j个区域A,j=1,2,3,4,那么基于第j个区域A所得到的第一色调映射值的权重Weight[j],可按照公式(11)进行计算:
Weight[j]=f(Num[j]/Numtotal),公式(11);
其中,公式(11)中j表示图像1的4个区域A中的第j个目标区域A,Num[j]表示图像1中第j个目标区域A内的像素点数量,Numtotal表示当前像素点P周围的所有目标区域A内的像素点的总数量;
可选地,示例性的,公式(11)中的f(x)表示图像1中第j个目标区域A的目标色调映射曲线的函数。
可选地,示例性的,公式(11)中的f(x)=power(x,NumStr[j]),其中,这里的f(x)是一种色调映射曲线函数的具体表示,其中,NumStr[j]表示第j个目标区域A的强度信息,该强度信息用于表示该第j个目标区域的加权系数的衰减快慢,是对各个区域A预设的数值。
示例性的,可按照公式(12)、公式(13)、公式(14)计算当前像素P的最终的色调映射值Rtm、Gtm、Btm。
Rtm=∑(RP*gain[j]*Weight[j])/∑Weight[j],公式(12);
Gtm=∑(GP*gain[j]*Weight[j])/∑Weight[j],公式(13);
Btm=∑(BP*gain[j]*Weight[j])/∑Weight[j],公式(14);
其中,Rp,Gp,Bp为待显示图像1中某个区域A(例如上文所称的初始区域A)的当前像素P的不同颜色分量;
其中,gain[j]=f[j](max(Rp,Gp,Bp))/max(Rp,Gp,Bp);
其中,Rp,Gp,Bp为当前像素P的不同颜色分量,max(Rp,Gp,Bp)是求解三个颜色分量的最大分量值,f[j]是图像1中第j个目标区域A对应的局部的目标色调映射曲线的函数,j为大于等于1或小于等于4的整数。
在本申请实施例中,在当前像素P位于图像1中两个区域A共用的边界上时,如果边界上的两个像素点的灰度值相同,一个像素点使用区域A的目标色调映射曲线进行映射,另一个像素点使用另一个区域A的目标色调映射曲线进行映射,将造成图像1在这两个像素点上的图像跳变。因此,在上述目标区域A的数量是多个(至少两个)的情况下,说明该档期像素点P是至少两个区域A的共用边界上的像素点,可以使用该像素点P周围的至少两个区域A各自的目标色调映射曲线,来对该像素点P分别进行色调映射,并将得到的至少两个第一色调映射值加权,以获取该像素点P的最终的色调映射值,从而使得具有不同色调映射曲线的不同图像区域中,不同图像区域公共的像素点的显示上能够兼顾不同图像区域的显示场景,避免在显示的图像中出现跳变异常的像素点。
可选地,在对像素点P获取到最终的色调映射值之后,本申请实施例的接收端还可利用饱和度(色彩)调整算法,对采用目标色调映射曲线进行色调映射后的区域A中的各个像素点,做进一步的饱和度调整。
可选地,对于图5a中局部或全局的初始增益调整曲线,可以不直接以曲线的数据携带在背光元数据中,可将该初始增益调整曲线的参数以及曲线的类型携带在背光元数据中,那么接收端可从背光元数据中获取该曲线类型和该参数,并基于HDR源或SDR源,来获取局部或全局的目标色调映射曲线。
示例性的,HDR源或SDR源,可以理解为接收端待处理的视频或图像,该HDR源或SDR源可包括但不限于:图像数据,如像素数据等。
示例性的,背光元数据可包括但不限于:HDR源或SDR源的数据格式、图像区域的划分信息、图像区域的遍历顺序信息、图像特征以及局部或全局的初始增益调整曲线的曲线参数,以及一个或者多个元数据信息单元。其中,元数据信息单元可包含坐标信息、上述图像特征以及上述初始增益调整曲线的曲线参数等。
需要说明的是,本申请对于背光元数据的格式不做限制,背光元数据可以如ST2094-40标准,包含直方图信息和色调映射曲线的参数信息,也可以如ST2094-10标准包含色调映射曲线的参数信息。
如上文所述背光元数据中的初始增益调整曲线可以是任意一种传统的色调映射曲线,示例的,接收端可从码流中的元数据信息单元和HDR源或SDR源获得初始增益调整曲线的曲线参数a,b,p,m,n,以获取到初始增益调整曲线;然后,利用锚点和初始增益调整曲线,以及待显示的图像,可获取到目标色调映射曲线,该目标色调映射曲线仍旧可包括上述曲线参数。
示例性的,目标色调映射曲线的函数可如公式(15)所示:
根据公式(15)的目标色调映射曲线,可以获得从归一化的HDR源,或SDR源数据(例如待显示图像)映射到归一化的HDR显示数据(例如待显示图像各像素点在显示屏上的显示值)之间的映射关系。
需要说明的是,L和L’可以是归一化的光信号或者电信号,本申请对此不做限定。
需要说明的是,本申请对于接收端所处的码流中的HDR源或SDR源的数据格式不做限制,例如从像素数据的色彩空间上描述,待显示的图像或视频中的像素可以是YUV的,也可以是RGB的;再如,从数据的位宽说,待显示的图像中每个像素可以是8位,也可以是10位,或者12位等。
本申请实施例的接收端,对于SDR或者HDR格式的图像或者视频,可对图像或视频中的全部像素进行色调映射处理,可在显示设备背光可调的场景下,实现高动态范围向低动态范围的色调映射。
此外,本申请实施例中,初始的色调映射曲线(即上文所述的初始增益调整曲线)和用于生成目标色调映射曲线的锚点可携带在码流中传入接收端,在实施时,可复用接收端所属电子设备的硬件中集成的用于传输曲线的硬件通道,在硬件方面更利于实施,可通用于各个电子设备的硬件通路。
实施例2:
对于图1中码流携带的背光元数据,在实施例2中,背光元数据可包括像素级的或者下采样的增益调整系数。
示例性的,对于码流中的SDR或者HDR格式的图像或者视频,图像以及视频中的每帧图像可具有像素级或下采样的增益调整系数。
示例性的,像素级或下采样的增益调整系数的表现方式可以是与原始的一帧图像尺寸相同的图像,该图像中每个像素点具有的信息为一个系数,这里称为增益调整系数。
示例性的,像素级或下采样的增益调整系数的表现方式也可以是:对原始的一帧图像中各个像素点对应的表格,表格中与原图的像素点一一对应,表格中的数据为各个像素点的系数,这里称为增益调整系数。
其中,每帧图像中高亮区域的像素点的增益调整系数可高于非高亮区域的像素点的增益调整系数。
图6a为示例性示出的对图1进行细化后的系统架构图,图6a与图1、图5a相同之处,这里不再赘述,只对与图1的细化之处,以及与图5a的不同之处,做详细说明。
应该理解的是,图6a所示系统仅是一个范例,本申请的系统,以及系统中的发送端和接收端可以具有比图中所示的更多的或者更少的部件,可以组合两个或多个的部件,或者可以具有不同的部件配置。图6a中所示出的各种部件可以在包括一个或多个信号处理和/或专用集成电路在内的硬件、软件、或硬件和软件的组合中实现。
如图6a所示,发送端可包括背光元数据生成模块;
背光元数据生成模块可对光电转换模块生成的电信号图像或图像序列,生成背光元数据,这里的背光元数据可包括图像的像素级或下采样的增益调整系数。
其中,增益调整系数即为一种增益系数,增益系数用于表示放大倍数。
图像的像素级的增益调整系数,用于对图像的像素级的显示像素,按照该增益调整系数进行调整,例如某个像素级单位为4*4的图像区域,该图像区域的增益调整系数为1.2,则可对该4*4的图像区域的显示像素的取值扩大1.2倍,例如亮度调亮1.2倍。
编码模块可将电信号图像和背光元数据编码,生成码流并发送至接收端。
下面介绍背光元数据生成模块生成图像的像素级或下采样的增益调整系数的过程:
结合图6a,参照图6b,示例性的示出了对图像1生成增益调整系数(表现为图6b所示的图像2)的过程,在图6b中以处理对象为图像1为例进行说明:
对比图5b和图6b可知,图6b中S401、S402和S403的过程,与图5b中生成锚点时的S401、S402和S403的过程相同,这里参照图5b的相关描述即可,这里不再赘述。
继续参照图6b,在S403之后,背光元数据生成模块可执行S404:
S404,背光元数据生成模块,按照高亮区域和非高亮区域,对图像1配置增益调整系数,生成由增益调整系数构成的图像2。
示例性的,如图6b所示,对于图像1中的每个区域A,可对区域A中高亮的区域C内的像素点,和非高亮的区域C内的像素点,配置不同的增益调整系数。
示例性的,对图6b中,对4个区域C分别配置了系数1、系数2、系数3和系数4。其中,两个高亮的区域C对应的系数1和系数2是大于两个非高亮的区域C的系数3和系数4的。
可选地,对于同属于高亮的不同区域C,背光元数据生成模块可根据高亮的各区域C的像素点的平均亮度大小,对高亮的不同区域C配置不同的增益调整系数,例如平均亮度大的区域C的增益调整系数高于,平均亮度小的区域C的增益调整系数。
示例性的,图6b中4个区域C的增益调整系数分别为:系数1=1.2,系数2=1.1,系数3=0.8、系数4=0.5。
示例性的,高亮的区域C的增益调整系数可大于1,非高亮的区域C的增益调整系数可小于或等于1。
在一种可能的实施方式中,在对区域A生成增益调整系数时,可通过以下方式来实现:
首先,对区域A中的每个区域C配置初始增益调整系数,该初始增益调整系数可为第一预设系数阈值。
示例性的,该第一预设系数阈值可为1.0或0.8等,具体阈值可根据实际需求灵活配置,本申请对此不做限制,可选地,第一预设系数阈值小于或等于1.0。
这样,图6b中每个区域C(可理解为像素级别)可配置有初始增益调整系数,例如区域A的64x64个像素点的初始增益系数均为1.0。
其中,在配置增益调整系数时,是按照区域C配置初始增益调整系数,即同一区域C中的所有像素点的增益调整系数均被配置为1.0,因此,本申请实施例的增益调整系数可称为像素级的增益调整系数。
然后,对区域A中每个高亮的区域C在初始增益调整系数的基础上扩大系数倍数。
示例性的,该系数倍数可以是第二预设系数阈值,例如1.2,那么高亮的区域C的增益调整系数更新为第一预设系数阈值*第二预设系数阈值,例如1.0*1.2=1.2,那么图6b中所示的系数1=系数2=1.2,系数3=系数4=1.0。
示例性的,背光元数据生成模块可计算每个高亮的区域C的像素点的平均亮度值,使得每个高亮的区域C具有各自的平均亮度值,对于平均亮度值高(例如平均亮度大于或等于预设亮度阈值)的高亮的区域C配置的系数倍数为第三预设系数阈值,对于平均亮度值低(例如平均亮度小于预设亮度阈值)的高亮的区域C配置的系数倍数为第四预设系数阈值,其中,第三预设系数阈值大于第四预设系数阈值。
例如第三预设系数阈值为1.5,第四预设系数为1.2,那么图6b中更新后的各区域C的系数分别为:系数1=1.5,系数2=1.2,系数3=1,系数4=1。示例性的,例如系数1对应的区域C,在图像2中区域C每个像素点的取值不再是图像1中的颜色值,而是系数1,即1.5。以此可以得到与图像1等大小的图像2,图像2中的每个像素点的取值为像素级的增益调整系数。
当然,在其他实施方式中,对于非高亮的区域C,也可以根据区域C的像素的平均亮度,来配置不同的增益调整系数,平均亮度高的区域C的增益调整系数大于平均亮度低的区域C的增益调整系数。
需要说明的是,上述对于图像1中的区域A配置增益调整系数的方法仅是一种实施方式,本申请还可通过其他方式,来实现对图像1中各个区域A的增益调整系数的各自配置,配置方法并不限于上述举例。
例如,图像1包括多个区域A,则需要对每个区域A均按照各自区域A内高亮区域和非高亮区域,进行不同增益系数的配置,方法同理,这里不再赘述。
如上述描述可以发现,本申请可对每个图像区域,即像素级别,例如4*10、8*6等图像区域,对图像区域内的像素点均配置增益调整系数,那么经过S404得到的是与图像1等大小的,即64*64的图像2,图像2中的每个像素点的数值为背光元数据生成模块所配置的增益调整系数。
上述实施方式,以图6a中的发送端来生成像素级或下采样的增益调整系数为例进行了描述,使得像素级或下采样的增益调整系数可作为码流的属性传入接收端。
需要说明的是,本申请实施例的接收端也可以包括背光元数据生成模块,来执行上述操作,以生成像素级或下采样的增益调整系数生成像素级或下采样的增益调整系数,方法类似,这里不再赘述。
继续回到图6a,下面结合图6c对图6a中接收端的执行过程进行描述:
对比图1和图6a可以看到,图1中的显示适配模块可包括图6a所示的像素处理模块。
下面结合图6c,对图6a中像素处理模块的工作过程进行说明:
如图6c所示,该过程可包括如下步骤:
S301,接收端获取码流中待显示的图像1。
本步骤与图5d中的S201类似,这里不再赘述。
S302,接收端获取码流中背光元数据,背光元数据包括图像1的像素级的增益调整系数。
示例性的,如图6a所示,解码模块可对码流进行解码,以获取背光元数据,其中,背光元数据可包括码流中图像的像素级的或者下采样的增益调整系数。
该像素级的或者下采样的增益调整系数可以是码流中图像或全部图像的增益调整系数,本申请对此不做限制。
以图6b的图像1为码流中的待显示图像为例,解码模块可获取到图像1的像素级的增益调整系数(例如图6b中的图像2),并发送至像素处理模块。
S303,接收端获取显示屏的最大显示亮度以及当前背光强度级别。
本步骤与图5d中的S203类似,参照上文即可,这里不再赘述。
示例性的,参照图6a,接收端内的像素处理模块可获取接收端所属的显示设备的显示屏的最大显示亮度以及当前背光强度信息(可以是当前背光强度级别,或者当前目标背光亮度,本申请对此不做限制),即S303可由图6a中的像素处理模块来执行。
S304,接收端根据最大显示亮度,对图像1的像素进行处理,生成第一图像。
需要说明的是,在对图像1的像素进行处理,生成第一图像时,所基于的亮度值并不限制于显示屏的最大显示亮度maxT来实现,该亮度值可以是大于当前目标背光亮度、且小于或等于显示屏的最大显示亮度的一个亮度值(例如当前目标背光亮度与最大显示亮度的加权结果)。
示例性的,以根据最大显示亮度,来对图像1的像素进行处理,生成第一图像为例进行说明,当所基于的亮度值不是该最大显示亮度maxT时,方法同理,这里不再赘述。
示例性的,可利用最大显示亮度,对图像1的显示像素(即图像像素)进行缩放处理,来得到第一图像(后文可以TMvaluemid1表示),需要说明的是,处理方式并不限于缩放,还可包括其他方式,本申请对此不做限制。
方式1:
例如,可将图像1的图像像素的最大亮度值maxsource作为maxY,则对图像1的图像像素整体的缩放系数为S=maxT/maxY,利用缩放系数S对图像1的图像像素进行整体缩放,即图像1中每个像素点的像素值乘以该缩放系数S,得到第一图像。
其中,显示屏的最大显示亮度为maxT。
方式2:
背光元数据可包括预设亮度值T3。
例如,该预设亮度值T3可为上述实施例1中提及的曲线0原来生成的目标亮度target_maxdisplay。
缩放系数为S=maxT/T3,利用缩放系数S对图像1的图像像素进行整体缩放,,即图像1中每个像素点的像素值乘以该缩放系数S,得到第一图像。
其中,显示屏的最大显示亮度为maxT。
考虑到在显示屏在存在一定背光的情况下,该显示屏的实际亮度可高于该背光亮度,例如显示屏的最大显示亮度为500nit,背光强度级别为10%,则背光亮度为50nit,但电子设备可存在策略来调整显示屏的最终亮度,使得最终亮度可高于50nit,因此在本实施例中,可以基于大于该背光亮度且小于或等于最大显示亮度的一个亮度值(这里采用的是显示屏的最大显示亮度),来生成按照该亮度值对待显示的图像1进行处理后的第一图像。
S305,接收端根据最大显示亮度和当前背光强度级别,对图像1的像素进行处理,生成第二图像。
与S304的执行原理类似,示例性的,如图6a所示,像素处理模块可根据当前背光强度信息(例如当前背光强度级别)以及最大显示亮度maxT,来对图像1的显示像素进行处理,生成第二图像(后文可以TMvaluemid2来表示)。
其中,如果像素处理模块所获取的当前背光强度信息为当前目标背光亮度信息,则无需利用显示模块的最大显示亮度,来生成第二图像。
示例性的,可利用最大显示亮度maxT与当前背光强度级别Level的乘积(即当前目标背光亮度Lx=maxT*Level),例如最大显示亮度为500,当前背光强度级别为10%,则当前目标背光亮度为50,可利用当前目标背光亮度对图像1的图像像素进行缩放处理,来得到第二图像,需要说明的是,处理方式并不限于缩放,还可包括其他方式,本申请对此不做限制。
方式1:
例如可将图像1的图像像素的最大亮度值maxsource作为maxY,则对图像1的图像像素整体的缩放系数为S=Lx/maxY,利用缩放系数S对图像1的图像像素(例如RGB信息)进行整体缩放,即图像1中每个像素点的像素值乘以该缩放系数S,得到第二图像。
其中,显示屏的最大显示亮度为maxT,Lx=maxT*Level,Level为显示屏的当前背光强度级别。
方式2:
背光元数据可包括预设亮度值T3。
例如,该预设亮度值T3可为上述实施例1中提及的曲线0原来生成的目标亮度target_maxdisplay。
缩放系数为S=Lx/T3,利用缩放系数S对图像1的图像像素进行整体缩放,即图像1中每个像素点的像素值乘以该缩放系数S,得到第二图像。
其中,显示屏的最大显示亮度为maxT,Lx=maxT*Level,Level为显示屏的当前背光强度级别。
在显示屏在存在一定背光的情况下,例如显示屏的最大显示亮度为500nit,背光强度级别为10%,则背光亮度为50nit,在本实施例中,可以对待显示的图像1,按照该当前目标背光亮度进行处理,生成第二图像。
示例性的,在利用缩放系数S对图像1的图像像素进行整体缩放,得到上述第一图像时,可通过以下三种方法中的任意一种方法来实现,且不限于这里列举的三种方法:
下述三种方法以生成第一图像(TMvaluemid1)为例进行说明,在生成第二图像(TMvaluemid2)时,下述三种方法同理,这里不再赘述。
方法1:
TMvaluemid1.R=缩放系数S*h(待显示图像的R值);
TMvaluemid1.G=缩放系数S*h(待显示图像的G值);
TMvaluemid1.B=缩放系数S*h(待显示图像的B值);
方法2:
TMvaluemid1.R=缩放系数S*(h(待显示图像的R值)+增益调整系数2);
TMvaluemid1.G=缩放系数S*(h(待显示图像的G值)+增益调整系数2);
TMvaluemid1.B=缩放系数S*(h(待显示图像的B值)+增益调整系数2);
方法3:
TMvaluemid1.R=缩放系数S*h(待显示图像的R值)+增益调整系数2;
TMvaluemid1.G=缩放系数S*h(待显示图像的G值)+增益调整系数2;
TMvaluemid1.B=缩放系数S*h(待显示图像的B值)+增益调整系数2;
其中,例如待显示图像为上述图像1,TMvaluemid1表示上述第一图像;
TMvaluemid1.R表示第一图像的R通道的值;
TMvaluemid1.G表示第一图像的G通道的值;
TMvaluemid1.B表示第一图像的B通道的值;
h(x)的函数表达可以是h(x)=x,或者PQ、HLG、gamma之间互相转换的公式、或者是其他曲线的函数公式,本申请对此不做限制。
其中,背光元数据中的像素级或下采样的增益调整系数可包括增益调整系数1和增益调整系数2,即两组增益调整系数,当然,每组增益调整系数都是和原图等大小的。
增益调整系数1的生成方式可参考图6b实施例,这里不再赘述。
背光元数据生成模块还可增益调整系数2:
可参照图6a,采集模块采集到的环境光和光电转换模块生成的电信号的图像之间会存在图像信号损失(例如可转换为浮点数之差),背光元数据生成模块可将该图像信号损失作为增益调整系数2,其中,增益调整系数2中每个像素点的像素值即为各个像素点所损失的图像信号。
例如经过采集模块和光电转换模块可将12bit的图像,转换为8bit的图像,那么图像中每个像素点均损失了4bit的图像数据,可将每个像素点所损失的4bit数据作为增益调整系数2中相应像素点的像素值。
经过增益调整系数2和增益调整系数1来得到第一图像和第二图像,可提升图像的对比度。
S306,接收端根据图像1的增益调整系数,对第一图像和第二图像进行处理,获取图像1的图像显示信息。
需要说明的是,本申请对于S301、S302以及S303之间的执行顺序不做限制。
本申请对于S304、S305的执行顺序不做限制。
示例性的,参照图6a,接收端的像素处理模块,可根据像素级的增益调整系数中,关于图像1的增益调整系数(例如图6b中的图像2),对图像1对应的第一图像和第二图像进行处理,以获取图像1在显示屏上的图像显示信息,即图像1中每个像素的色调映射。
示例性的,Tmvalue=W*TMvaluemid1+(1-W)*TMvaluemid2,公式(16);
其中,公式(16)中的Tmvalue表示图像1中每个像素的色调映射值;
TMvaluemid1表示第一图像,TMvaluemid2表示第二图像;
示例性的,W可用于表示图像1的增益调整系数,例如可以表现为图6b中生成的图像2。
或者,示例性的,W可用于表示图像1的增益调整系数1的平方等函数。
即可将图像1的增益调整系数1或该增益调整系数1的函数作为权重,来对第一图像和第二图像进行加权求和,得到图像1的色调映射值。
或者,
示例性的,Tmvalue=W*TMvaluemid2,公式(17);
其中,公式(17)中的Tmvalue表示图像1中每个像素的色调映射值;
TMvaluemid1表示第一图像;
示例性的,W可以是图像1的增益调整系数(例如可以表现为图6b中生成的图像2);
或者,示例性的,W也可以是图像1的增益调整系数1的函数A(x),例如A(x)=1+(S-1)*x,其中,x表示图像1的增益调整系数1,S表示是生成第一图像还是生成第二图像时的缩放系数。需要说明的是,这里对于A(x)函数不做限制。
示例性的,Tmvalue是图像1中每个像素点在该当前目标背光亮度下最终的图像像素的信息,Tmvalue中的每个像素点的色调映射值即为图像1中每个像素点在显示屏上的显示值(或者说最终的RGB值)。
本实施例,可按照当前目标背光亮度对待显示的图像1进行处理,得到第二图像,并按照图像1中高亮区域和非高亮区域各自的增益调整系数,来对第二图像中的高亮区域进行提亮,对非高亮区域(例如暗区)进行压暗,得到图像1各像素点在屏幕上的显示亮度。示例性的,例如图像1中某个区域的增益调整系数为1.5,那么可使该区域在显示时,显示亮度提高1.5倍,可能造成该区域显示过亮,那么可选地,可选地,可利用第一图像TMvaluemid1,对Tmvalue进行钳位处理,以避免图像1在显示屏上显示时某些区域过亮。
可选地,当背光元数据中的增益调整系数是下采样的增益调整系数,下采样的增益系数与待显示图像(例如图像1)的像素可能是1对1,1对4,或者1对16等一对多的对应关系。那么在利用下采样的增益调整系数,来获取图像1各像素点在屏幕上的显示亮度时,可获取下采样的增益系数与图像1的像素的对应关系;然后,按照该对应关系,对图像1中的相应像素,采用对应的下采样的增益系数进行处理,具体处理方式与上述实施例2所描述的基于像素级的增益系数对图像1进行处理的过程原理类似,参照上文介绍即可,这里不再赘述。
本申请实施例,通过在码流中携带像素级别的增益调整系数,可在背光可调的场景下,在显示图像时,按照图像中每个像素各自的增益调整系数,来调整各个像素在显示屏上的显示亮度,该方法在软件上更易于实施,色调映射可达到像素级别,亮度调节更加精细化,灵活性高、可调性更高。
需要说明的是,实施例1和实施例2也可以结合,即背光元数据可包括局部或全局的初始增益调整曲线、局部或全局的锚点,以及像素级或下采样的增益调整系数,实施例1和实施例2之间相同之处相互参考即可。
可选地,对于码流中的一帧图像,或帧序列,本申请实施例的接收端可对一部分图像或图像区域或帧序列,采用目标色调映射曲线的方式进行色调映射,生成色调映射值,以获取图像显示信息,还可对另一部分图像或帧序列,采用图像对应的增益调整系数,以及当前目标背光亮度和显示屏的最高显示亮度,来获取图像显示信息。
在传统的动态元数据显示适配标准或者算法中,通常未考虑背光可调设备上图像或视频的显示效果,在传统方案中,主要是将视频适配到屏幕的最大显示能力(即最大显示亮度)上,并不适合背光变弱的场景下的图像或视频显示,显示效果较差。
而本申请实施例的上述系统,在显示屏背光可调的情况下,可结合显示屏的最大显示亮度,以及当前目标背光亮度,来对待显示的图像或视频进行亮度适配,能够根据背光强度级别的调整变化,对图像在显示屏上的显示亮度进行自动调节,提高了背光变弱情况下的图像或视频的显示效果。
下面介绍本申请实施例提供的一种装置。如图7所示:
图7为本申请实施例提供的一种装置的结构示意图。如图7所示,该装置500可包括:处理器501、收发器505,可选的还包括存储器502。
所述收发器505可以称为收发单元、收发机、或收发电路等,用于实现收发功能。收发器505可以包括接收器和发送器,接收器可以称为接收机或接收电路等,用于实现接收功能;发送器可以称为发送机或发送电路等,用于实现发送功能。
存储器502中可存储计算机程序或软件代码或指令504,该计算机程序或软件代码或指令504还可称为固件。处理器501可通过运行其中的计算机程序或软件代码或指令503,或通过调用存储器502中存储的计算机程序或软件代码或指令504,对MAC层和PHY层进行控制,以实现本申请各实施例提供的方法。其中,处理器501可以为中央处理器(centralprocessing unit,CPU),存储器502例如可以为只读存储器(read-only memory,ROM),或为随机存取存储器(random access memory,RAM)。
本申请中描述的处理器501和收发器505可实现在集成电路(integratedcircuit,IC)、模拟IC、射频集成电路RFIC、混合信号IC、专用集成电路(applicationspecific integrated circuit,ASIC)、印刷电路板(printed circuit board,PCB)、电子设备等上。
上述装置500还可以包括天线506,该装置500所包括的各模块仅为示例说明,本申请不对此进行限制。
如前所述,以上实施例描述中的装置的结构可以不受图7的限制。装置可以是独立的设备或者可以是较大设备的一部分。例如所述装置的实现形式可以是:
(1)独立的集成电路IC,或芯片,或,芯片系统或子系统;(2)具有一个或多个IC的集合,可选的,该IC集合也可以包括用于存储数据,指令的存储部件;(3)可嵌入在其他设备内的模块;(4)车载设备等等;(5)其他等等。
对于装置的实现形式是芯片或芯片系统的情况,可参见图8所示的芯片的结构示意图。图8所示的芯片包括处理器601和接口602。其中,处理器601的数量可以是一个或多个,接口602的数量可以是多个。可选的,该芯片或芯片系统可以包括存储器603。
其中,上述方法实施例涉及的各步骤的所有相关内容均可以援引到对应功能模块的功能描述,在此不再赘述。
基于相同的技术构思,本申请实施例还提供一种计算机可读存储介质,该计算机可读存储介质存储有计算机程序,该计算机程序包含至少一段代码,该至少一段代码可由计算机执行,以控制计算机用以实现上述方法实施例。
基于相同的技术构思,本申请实施例还提供一种计算机程序,当该计算机程序被终端设备执行时,用以实现上述方法实施例。
所述程序可以全部或者部分存储在与处理器封装在一起的存储介质上,也可以部分或者全部存储在不与处理器封装在一起的存储器上。
基于相同的技术构思,本申请实施例还提供一种芯片,包括网口控制器与处理器。网口控制器与处理器可实现上述方法实施例。
结合本申请实施例公开内容所描述的方法或者算法的步骤可以硬件的方式来实现,也可以是由处理器执行软件指令的方式来实现。软件指令可以由相应的软件模块组成,软件模块可以被存放于随机存取存储器(Random Access Memory,RAM)、闪存、只读存储器(Read Only Memory,ROM)、可擦除可编程只读存储器(Erasable Programmable ROM,EPROM)、电可擦可编程只读存储器(Electrically EPROM,EEPROM)、寄存器、硬盘、移动硬盘、只读光盘(CD-ROM)或者本领域熟知的任何其它形式的存储介质中。一种示例性的存储介质耦合至处理器,从而使处理器能够从该存储介质读取信息,且可向该存储介质写入信息。当然,存储介质也可以是处理器的组成部分。处理器和存储介质可以位于ASIC中。
本领域技术人员应该可以意识到,在上述一个或多个示例中,本申请实施例所描述的功能可以用硬件、软件、固件或它们的任意组合来实现。当使用软件实现时,可以将这些功能存储在计算机可读介质中或者作为计算机可读介质上的一个或多个指令或代码进行传输。计算机可读介质包括计算机存储介质和介质,其中介质包括便于从一个地方向另一个地方传送计算机程序的任何介质。存储介质可以是通用或专用计算机能够存取的任何可用介质。
上面结合附图对本申请的实施例进行了描述,但是本申请并不局限于上述的具体实施方式,上述的具体实施方式仅仅是示意性的,而不是限制性的,本领域的普通技术人员在本申请的启示下,在不脱离本申请宗旨和权利要求所保护的范围情况下,还可做出很多形式,均属于本申请的保护之内。
Claims (15)
1.一种图像处理方法,其特征在于,包括:
根据显示屏的当前目标背光亮度,获取待显示的目标图像的第一显示信息;
根据所述显示屏的最大显示亮度和所述当前目标背光亮度,获取所述目标图像的第二显示信息;
根据所述目标图像的预设信息,对所述第一显示信息和所述第二显示信息进行处理,获取所述目标图像的第三显示信息,其中,所述预设信息包括与所述目标图像的亮度有关的信息;
按照所述第三显示信息,在显示屏上显示所述目标图像。
2.根据权利要求1所述的方法,其特征在于,所述根据显示屏的当前目标背光亮度,获取待显示的目标图像的第一显示信息,包括:
获取待显示的目标图像的第一色调映射曲线;
根据显示屏的当前目标背光亮度,对所述第一色调映射曲线进行处理,获取所述目标图像的第二色调映射曲线作为所述第一显示信息。
3.根据权利要求2所述的方法,其特征在于,所述根据所述显示屏的最大显示亮度和所述当前目标背光亮度,获取所述目标图像的第二显示信息,包括:
根据所述显示屏的最大显示亮度和所述当前目标背光亮度,确定第一亮度,所述第一亮度高于所述当前目标背光亮度;
根据所述第一亮度,对所述第一色调映射曲线进行处理,获取所述目标图像的第三色调映射曲线作为所述第二显示信息。
4.根据权利要求3所述的方法,其特征在于,所述预设信息包括:所述目标图像的第二亮度,所述根据所述目标图像的预设信息,对所述第一显示信息和所述第二显示信息进行处理,获取所述目标图像的第三显示信息,包括:
获取所述目标图像的第二亮度;
从所述第二色调映射曲线中,提取像素亮度小于或等于所述第二亮度的第一子曲线;
获取所述第二色调映射曲线中与所述第二亮度对应的第一色调映射值;
基于所述第一色调映射值,对所述第三色调映射曲线进行处理,生成第四色调映射曲线,其中,所述第四色调映射曲线中与所述第二亮度对应的色调映射值为所述第一色调映射值;
从所述第四色调映射曲线中,提取像素亮度大于或等于所述第二亮度的第二子曲线;
基于所述第二亮度,连接所述第一子曲线和所述第二子曲线,获取所述目标图像的目标色调映射曲线作为所述第三显示信息。
5.根据权利要求4所述的方法,其特征在于,
所述获取待显示的目标图像的第一色调映射曲线,包括:
获取构成所述目标图像的多个局部区域各自的第一色调映射曲线;
所述获取所述目标图像的第二亮度,包括:
获取所述多个局部区域各自的第二亮度;
所述基于所述第二亮度,连接所述第一子曲线和所述第二子曲线,获取所述目标图像的目标色调映射曲线作为所述第三显示信息,包括:
对于所述目标图像的所述多个局部区域,基于每个所述局部区域各自的所述第二亮度,连接每个所述局部区域各自的所述第一子曲线和所述第二子曲线,获取所述多个局部区域各自的目标色调映射曲线作为所述目标图像的所示第三显示信息。
6.根据权利要求4所述的方法,其特征在于,所述获取所述目标图像的第二亮度,包括:
根据所述目标图像的像素亮度的最小值和像素亮度的平均值,获取所述目标图像的第二亮度。
7.根据权利要求6所述的方法,其特征在于,所述根据所述目标图像的像素亮度的最小值和像素亮度的平均值,获取所述目标图像的第二亮度,包括:
按照所述目标图像中的像素亮度和像素位置,对所述目标图像的图像像素进行聚类,得到多个图像区域;
按照像素亮度,对所述目标图像中的所述多个图像区域进行分类,得到第一类图像区域和第二类图像区域,其中,第一类图像区域的亮度高于所述第二类图像区域的亮度;
基于所述第一类图像区域内像素亮度的最小值和像素亮度的平均值,确定所述目标图像的第二亮度。
8.根据权利要求1所述的方法,其特征在于,所述根据显示屏的当前目标背光亮度,获取待显示的目标图像的第一显示信息,包括:
根据显示屏的当前目标背光亮度,对待显示的目标图像进行处理,获取第一图像作为所述第一显示信息。
9.根据权利要求8所述的方法,其特征在于,所述根据所述显示屏的最大显示亮度和所述当前目标背光亮度,获取所述目标图像的第二显示信息,包括:
根据所述显示屏的最大显示亮度和所述当前目标背光亮度,确定第三亮度,所述第三亮度高于所述当前目标背光亮度;
根据所述第三亮度,对所述目标图像进行处理,获取第二图像作为所述第二显示信息。
10.根据权利要求9所述的方法,其特征在于,所述预设信息包括:所述目标图像的增益系数,所述根据所述目标图像的预设信息,对所述第一显示信息和所述第二显示信息进行处理,获取所述目标图像的第三显示信息,包括:
获取所述目标图像的增益系数;
基于所述增益系数,对所述第一图像和所述第二图像进行处理,生成第三图像作为所述第三显示信息。
11.根据权利要求10所述的方法,其特征在于,所述获取所述目标图像的增益系数,包括:
按照所述目标图像中的像素亮度和像素位置,对所述目标图像的图像像素进行聚类,得到多个图像区域;
按照像素亮度,对所述目标图像中的所述多个图像区域进行分类,得到第一类图像区域和第二类图像区域,其中,第一类图像区域的亮度高于所述第二类图像区域的亮度;
对所述第一类图像区域和所述第二类图像区域配置不同的增益系数;
其中,所述第一类图像区域的增益系数大于所述第二类图像区域的增益系数。
12.根据权利要求1所述的方法,其特征在于,所述根据所述目标图像的预设信息,对所述第一显示信息和所述第二显示信息进行处理,获取所述目标图像的第三显示信息,包括:
从待显示的目标图像的信源信息中,获取所述目标图像的预设信息;
基于所述预设信息,对所述第一显示信息和所述第二显示信息进行处理,获取所述目标图像的第三显示信息。
13.一种电子设备,其特征在于,包括:存储器和处理器,所述存储器和所述处理器耦合;所述存储器存储有程序指令,所述程序指令由所述处理器执行时,使得所述电子设备执行如权利要求1至12中任意一项所述的图像处理方法。
14.一种计算机可读存储介质,其特征在于,包括计算机程序,当所述计算机程序在电子设备上运行时,使得所述电子设备执行如权利要求1至12中任意一项所述的图像处理方法。
15.一种芯片,其特征在于,包括一个或多个接口电路和一个或多个处理器;所述接口电路用于从电子设备的存储器接收信号,并向所述处理器发送所述信号,所述信号包括存储器中存储的计算机指令;当所述处理器执行所述计算机指令时,使得所述电子设备执行权利要求1至12中任意一项所述的图像处理方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210033857.8A CN116466899A (zh) | 2022-01-12 | 2022-01-12 | 图像处理方法及电子设备 |
PCT/CN2022/124254 WO2023134235A1 (zh) | 2022-01-12 | 2022-10-10 | 图像处理方法及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210033857.8A CN116466899A (zh) | 2022-01-12 | 2022-01-12 | 图像处理方法及电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116466899A true CN116466899A (zh) | 2023-07-21 |
Family
ID=87174055
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210033857.8A Pending CN116466899A (zh) | 2022-01-12 | 2022-01-12 | 图像处理方法及电子设备 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN116466899A (zh) |
WO (1) | WO2023134235A1 (zh) |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010074222A (ja) * | 2008-09-16 | 2010-04-02 | Sony Corp | 画像処理装置、輝度変換曲線補正方法およびプログラム |
TWI439129B (zh) * | 2009-04-20 | 2014-05-21 | Wintek Corp | 影像顯示方法 |
CN105139809B (zh) * | 2015-09-01 | 2018-06-12 | 青岛海信电器股份有限公司 | 液晶显示亮度控制方法和装置以及液晶显示设备 |
CN112215760A (zh) * | 2019-07-11 | 2021-01-12 | 华为技术有限公司 | 一种图像处理的方法及装置 |
CN115552511A (zh) * | 2020-04-28 | 2022-12-30 | 杜比实验室特许公司 | 用于hdr显示器的图像相关对比度和亮度控制 |
CN113628106A (zh) * | 2020-05-08 | 2021-11-09 | 华为技术有限公司 | 图像动态范围处理方法和装置 |
CN113674718B (zh) * | 2021-08-10 | 2022-10-18 | 北京小米移动软件有限公司 | 显示亮度调整方法、装置及存储介质 |
-
2022
- 2022-01-12 CN CN202210033857.8A patent/CN116466899A/zh active Pending
- 2022-10-10 WO PCT/CN2022/124254 patent/WO2023134235A1/zh unknown
Also Published As
Publication number | Publication date |
---|---|
WO2023134235A1 (zh) | 2023-07-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10853925B2 (en) | Methods, systems, and media for image processing | |
US10692465B2 (en) | Transitioning between video priority and graphics priority | |
CN109274985B (zh) | 视频转码方法、装置、计算机设备和存储介质 | |
AU2011213266B2 (en) | High dynamic range image generation and rendering | |
JP4870665B2 (ja) | ビデオ・コンテンツから導出した周辺光を生成するための知覚規則を用いた支配色抽出 | |
US20090317017A1 (en) | Image characteristic oriented tone mapping for high dynamic range images | |
CN107203974A (zh) | 扩展的高动态范围hdr到hdr色调映射的方法、装置和系统 | |
US10666990B2 (en) | Method and device for matching colors between color pictures of different dynamic range | |
CN104956670A (zh) | 基于全局显示管理的光调制 | |
CN107077830B (zh) | 适用于无人机控制端的屏幕亮度调整方法及无人机控制端 | |
CN114866809B (zh) | 视频转换方法、装置、设备、存储介质及程序产品 | |
CN103747225A (zh) | 基于颜色空间转换的高动态范围图像双屏显示方法 | |
CN112907497B (zh) | 图像融合方法以及图像融合装置 | |
CN111699507A (zh) | 改进的高动态范围视频颜色重新映射 | |
WO2021073304A1 (zh) | 一种图像处理的方法及装置 | |
CN109348207B (zh) | 色温调节方法、图像处理方法及装置、介质和电子设备 | |
KR20240017374A (ko) | 초포화 컬러를 표시하기 위한 시스템 및 방법 | |
CN109035181A (zh) | 一种基于图像平均亮度的宽动态范围图像处理方法 | |
CN114429438A (zh) | 图像增强方法及其装置、设备、介质、产品 | |
CN116466899A (zh) | 图像处理方法及电子设备 | |
CN115550575A (zh) | 图像处理方法及其相关设备 | |
CN114999363A (zh) | 色偏校正方法、装置、设备、存储介质及程序产品 | |
KR20230084126A (ko) | 크리에이티브 인텐트 메타데이터 및 주변 조명에 기반하는 hdr 톤 매핑 | |
Lee et al. | Piecewise tone reproduction for high dynamic range imaging | |
JP2018507618A (ja) | カラー・ピクチャを符号化および復号する方法および装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication |