CN1977569A - 来自视频内容的环境照明和伴随受感知规律和用户偏好影响的发射 - Google Patents
来自视频内容的环境照明和伴随受感知规律和用户偏好影响的发射 Download PDFInfo
- Publication number
- CN1977569A CN1977569A CN 200580022075 CN200580022075A CN1977569A CN 1977569 A CN1977569 A CN 1977569A CN 200580022075 CN200580022075 CN 200580022075 CN 200580022075 A CN200580022075 A CN 200580022075A CN 1977569 A CN1977569 A CN 1977569A
- Authority
- CN
- China
- Prior art keywords
- colourity
- tone
- mass
- brightness
- pixel
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Processing Of Color Television Signals (AREA)
- Image Processing (AREA)
Abstract
提取在着色色空间中编码的视频内容用于通过环境光源发射,利用与用户偏好一致的感知规律,用于智能主色选取。步骤包括量化视频色空间;通过利用像素色度的模式,中值,平均值,或加权平均值执行主色提取;通过[1]色度转换;[2]利用受场景内容影响的像素加权函数的加权平均值;以及[3]在为大多数像素减小像素加权值的情况下,进一步的主色提取;[4]空间提取,时间传送和亮度感知规律;和[5]利用三色矩阵转换选择的主色至环境光色空间,利用感知规律以进一步提取主色度。所有的感知规律响应于明确指示的用户偏好而调节,这些用户偏好通过远程控制,传感器,视频元数据,或图形用户界面获得。
Description
技术领域
本发明涉及利用多光源来产生和设置环境照明效果,典型地基于,或者结合例如来自视频显示或者显示信号的视频内容。更特别地,涉及一种在提取主色信息时考虑用户偏好的方法,结合感知规律,实时地对视频内容采样或者子采样,并执行从视频内容的色空间到最好允许驱动多个环境光源的色空间的颜色映射转换。
背景技术
工程师们为通过采样视频内容来扩展感觉感受已作了长时间的探索,例如通过扩大视屏和投影区域,将声音调制为真实的3维效果,并改善视频图像,包括宽的视频色域,分辨率和图像纵横比,例如可采用高清晰度(HD)数字电视和视频系统来实现。而且,电影,电视和视频播放器也试图利用视觉和听觉手段影响观看者的感受,例如通过巧妙地运用颜色,场景剪辑,视角,周围的场景和计算机辅助图形表示。这也将包括剧场舞台照明。灯光效果,例如,光效通常和视频或者戏剧场景同步编排,在按预期方案编码的合适的场景脚本编程的机器或者计算机的帮助下进行再现。
在数字领域的现有技术中,包括没有计划或者没有脚本的场景在内,响应于场景快速变化的照明的自适应,在大场景中很不容易去协调,因为额外的高带宽位流需要利用目前的系统。
飞利浦(荷兰)和其它公司已经公开了利用远离视频显示的分离的光源,改变环境或周围的照明来改善视频内容方法,其应用于典型家庭或商业中,以及对于很多应用,对预期的光效进行在先编排或者编码。已经表明环境照明施加至视频显示或者电视能够减少视觉疲劳和提高真实性以及感受深度。
感觉感受是人类视觉方面的自然的功能,其利用巨大而复杂的感管和神经系统来产生对颜色和光效果的的感觉。人类能够区分大概1千万种不同的颜色。在人眼中,对于颜色接收或亮视觉,而具有大概2百万称作视锥的感觉体共三组,其具有光波长峰值分布在445nm、535nm以及565nm吸收分布,并具有大量的重叠。这三类视锥细胞形成所谓的三色系统,也因历史原因而被称为B(蓝)、G(绿)、R(红);峰值不必对应于那些用在显示中的任何主色,例如,常利用的RGB荧光体。也有用于暗适应的相互作用,或者所谓称作视网膜杆的夜视体。人眼典型地具有一亿两千万个视网膜杆,其影响视频感受,特别是在暗光条件下,例如在家庭影院中。
颜色视频建立在人类视觉的规律上,众所周知,人类视觉的三色和对立通道理论已经被我们结合用来理解怎样影响眼睛去看期望的颜色与原始信号或者预期图像具有高逼真度的颜色和效果。在大多数颜色模型和空间中,三维或者坐标用来描述人的视觉感受。
颜色视频完全依赖位变异构性,其允许利用少量的基准色质产生颜色感觉,而不是期望的颜色和特征的实际光。这样,利用有限数目的基准色质,整个色域的颜色在人的头脑中再现,例如全世界范围在视频再现中利用的众所周知的RGB(红,绿,蓝)三色系统。众所周知,例如,几乎所有的视频显示通过在每一个像素或者图像单元中产生近似相等数量的红光和绿光,而显示黄色场景。像素与其对向的立体角相比很小,而且眼睛误以为感知到黄色;它不能感知真实发射的绿色或者红色光。
存在很多颜色模型和指定颜色的方式,包括众所周知的CIE(国际照明委员会(Commission Interationale de I’eclairage))颜色坐标系统,利用它来描述和规定用于视频再现的颜色。即时创造可以利用任意数量的颜色模型,包括运用未着色的对立颜色空间,比如CIE L*U*V*(CIELUV)或者CIE L*a*b*(CIELAB)系统。建立于1931年的CIE是所有颜色的管理和再现的基础,结果是利用三坐标x、y和z的色度图。该三维系统在最大亮度的区域根据x和y通常用于描述颜色,这个区域,称为1931x,y色度图,其被认为能描述所有人类可感知的颜色。这与颜色再现形成对比,在这里位变异构性欺骗了眼睛和大脑。现今,很多正在利用的颜色模型或者空间通过利用三种基本色或荧光体而再现颜色,其中有Adobe RGB,NTSC RGB,等。
特别应注意,视频系统通过利用这些三色激励系统所展示的所有可能颜色的范围是有限的。NTSC(国际电视标准委员会)RGB系统具有相对宽的可用颜色范围,但这个系统仅能再现人类能感知的所有颜色中的一半。利用传统视频系统的可用范围不能足够地再现多种蓝色和紫色、蓝绿色和橙色/红色。
而且,人类视觉系统被赋予补偿和识别特性,对它的认识对于设计任何视频系统是必要的。人类的颜色能够以几种显示模式出现,在其中有目标模式和发光模式。
在目标模式中,光激励被感知为光源照射的物体所反射的光。在发光模式中,光激励被视为光源。发光模式包括在复杂场中的激励,其比其它激励更加明亮。它不包括已知为光源的激励,比如视频显示器,其亮度或辉度与景物或观看场地的全部亮度相同或更低,以便这种激励以目标模式显示。
值得注意的是,有很多颜色仅在目标模式中出现,在其中有,褐色、橄榄色、栗色、灰色、和浅褐肉色。没有例如作为褐色光发光源的灯,比如褐色交通灯。
为此,补充给要增加物体颜色的视频系统的环境光不能这样利用亮光的作为直接光源。在近范围内的明亮的红色和绿色光的结合不能再现褐色或果色,因此选择相当受限。仅具有变化的强度和饱和度的彩虹的光谱颜色能够通过对亮光源的光的直接观察再现出来。这强调对环境照明系统的精细控制的需要,比如在注意色调管理的情况下,从光源提供低亮度的光输出。在目前数据结构下,该精密控制还不能在快速变化和精细环境照明方式下寻址。
视频再现可采取很多形式。光谱颜色再现允许准确再现初始激励的光谱能量分布,但这不可在任何利用三主色的视频再现中实现。准确的颜色再现可复制人类视觉的三色值,产生与初始匹配的同质异性,但对于图像和原始场景的整体观察条件必须相似,以获得相似的显示。图像和原始场景的整体观察条件包括图像的边角,周围的亮度和色度,以及强光。不能经常获得精确的彩色再现的一个原因,是因为能在彩色监视器上产生的最大亮度的受到限制。
当三色值与原始场景的色度成比例,色度颜色再现提供了一种有用的替换。色度坐标被准确再现,但成比例地减少了亮度。如果原始的和再现的基准白色具有相同的色度,观察条件是相同的,且系统具有整体统一的灰度系数,色度颜色再现对视频系统是好的参考标准。由于在视频显示中产生亮度有限,不能获得与原始场景的色度和亮度匹配的等效的颜色再现。
实际中的大部分视频再现试图获得相应的颜色再现,在这里,如果原始场景被照亮而产生相同的平均亮度水平以及与再现中相同的基准白色色度,再现的颜色将具有与原始场景一致的颜色表现。然而,很多争论的最终目标是显示系统在实际中优选的颜色再现,在此观察者的偏好影响颜色的逼真度。例如,晒黑的皮肤颜色优选为真实皮肤的平均颜色,且天空优选为比实际更蓝的颜色,且叶子比实际更绿。即使相应的颜色再现被接受为设计标准,一些颜色比其它颜色更重要,比如肉色,其在很多再现系统比如NTSC视频标准中是特别处理的主题。
在再现场景光线时,为获得白平衡的色适应是重要的。在适当调整的摄影机和显示器下,白色和中性灰以CIE标准日光光源D65的色度典型地再现。通过总是以相同的色度重现白色表面,该系统可模仿人类视觉系统,其固有地适应感知以使白色表面总是呈现相同的显示,而不管光源的色度,以使一张白纸,无论在阳光明媚的海滩上或是在室内场景的白炽灯下,都能表现为白色。在颜色再现中,白平衡调整通常通过在R,G和B通道中的增益控制而获得。
典型的彩色接收机的光输出典型地不是线性的,而是符合幂律关系来施加视频电压。光输出与提升至幂灰度系数的视频驱动电压成比例,在这里对彩色CRT(阴极射线管)灰度系数典型地为2.5,对其它类型的光源为1.8。在摄像机视频处理放大器中通过三个主要的亮度灰度系数校正器补偿该因子,以便经编码、传送和解码的主要视频信号实际上不是R、G和B,而是R1/(,G1/(和B1/(。色度颜色再现需要视频再现——包括摄像机,显示器和任何灰度调整电子设备——的整体灰度系数统一,但当尝试相应的颜色再现时,环境的亮度优先。例如,暗淡的环境需要的灰度系数大约为1.2,黑暗的环境为获得最佳的颜色再现需要的灰度系数大约为1.5。对RGB彩色空间,灰度系数是重要的执行问题。
大多数颜色再现编码利用标准RGB色空间,比如sRGB,ROMM RGB,Adobe RGB98,Apple RGB和比如在NTSC标准中所利用的视频RGB空间。典型地,图像被截取至传感器或源设备空间,其为特殊的设备和图像。其可以被转换到未着色的图像空间,这是表示原始色度的标准色空间(见定义部分)。
然而,视频图像往往直接从源设备空间转换至着色的图像空间(见定义部分),其表示某些真实的或虚拟的输出设备,比如视频显示的彩色空间。大部分存在的标准RGB色空间是着色的图像空间。例如,由摄像机和扫描仪产生的源和输出空间不是基于CIE的色空间,而是由光谱灵敏度和摄像机或扫描仪的其它特性限定的光谱空间。
着色图像空间是基于真实或虚拟设备特性的色度的特殊设备的色空间。图像能够从着色的或未着色的图像空间转换到着色空间。这些转换的复杂性会变化,且能够包括复杂的图像依赖算法。这种转换是不可逆的,且放弃或压缩原始场景编码的一些信息,以适应特殊设备的动态范围和色域。
目前仅有一种未着色的RGB色空间,其正在变成为标准的过程中,定义在ISO17321中的ISO RGB,多用于数字照相机的颜色特性。在现今的多数申请中,为了存档和数据转换,转换包括视频信号的图像至着色色空间。从一个着色图像或色空间转换到另一个,会导致严重的图像假象。在两设备之间色域和白点不匹配越多,则负面影响越大。
现有技术的环境光显示系统的一个缺点是从视频内容中对用于环境发射的代表颜色的提取还是有问题的。例如,像素色度的颜色平均经常导致灰色,褐色或其它偏色,这些不是视频场景或图像的感知的表示。从简单的色度平均中得到的颜色看起来常常是模糊不清和错选的,尤其是当其与图像特征,比如明亮的鱼或主背景如蓝天对比的时候。
现有技术环境光显示系统的另一问题是还没有提供特殊的方法用于实时同步的操作,以将着色的三色值从视频转换到环境光源,从而得到合适的色度和表现。例如,从LED环境光源发送的光常常是刺眼的,并带有限制的或偏斜的色域——通常地,色调和色度难以评估和再现。例如,Akashi等人的美国专利6611297处理环境光的真实性,但没有提供特别的方法用来确保正确和令人满意的色度,且Akashi的297号专利并不允许实时分析视频,而是需要脚本或其等效物。
另外,利用已校正的视频内容色空间的灰度系数的环境光源的设置常导致耀眼和明亮的颜色。另一现有技术的严重问题是需要转换大量用于驱动环境光源的信息,该环境光源作为实时视频内容的函数,以适应预期的快速变化的环境光环境,在其中期望高智能的颜色选择以满足大量用户对环境照明的偏好。
特别地,用于环境光效而提取的平均或其它色度常常是不能获取的(如褐色)或者由于感觉原因而不被喜欢。例如,如果指定了主色(如褐色),遵照该指定的环境照明系统可在其光空间中默认产生另一颜色(如最接近的颜色),其能够产生的颜色(比如紫色)。然而,该被选取产生的颜色可能不是优选的,因为它可能在感觉上是不准确或者不令人喜欢的。
同样,在暗场景中的环境光触发也常常是耀眼的,过于明亮,且不占据看起来与场景环境匹配的色度。光场景中环境光触发会导致产生看起来很弱且具有不足的颜色饱和度的环境颜色。
而且,一些场景,例如蓝天,可优选用作主色提取以通知环境照明系统,而其它的,比如覆盖的云是较少选择的。在现有技术中也没有这样的设备,其用于对像素的多数或大量的分散场景元素持续探测,根据感觉偏好,这些像素的色度是不被喜欢的。现有技术中的另一难题是新出现的视频场景特征在主色提取和选择中经常没有表现出来,或潜在表现出来。
而且,环境照明通常没有考虑用户的偏好如亮度、颜色、定时显象和所产生的环境光的共性。例如,一些用户偏好柔和的、缓慢移动展开的环境照明效果,伴随着平缓的颜色和缓慢的变化,而另一些用户偏爱快速移动、明亮的环境发射,其可以在视频内容中反映相当图像的每一次快速改变(例如,新出现的特征,如鱼)。这不太容易实现,且在现有技术中不存在利用感知规律以减轻这些问题的方法。
因此,扩展通过环境照明结合典型三色视频显示系统所产生的颜色的可能色域是有益的,当开发人眼的特性时,比如在作为亮度级函数的不同颜色的相对目视光度中的变化,通过调节或改变传达给利用环境照明系统的视频用户的颜色和光特性,利用它来提高有益补偿效果、灵敏度和其它人类视觉的特性,并提供环境输出,其表现为不仅正确地从视频内容中获得,而且灵活利用很多位于场景中的潜在的主色。
在不受到灰度系数引起的失真影响下,产生有质量的环境氛围也是有益的。其进一步需要的是,能够提供一种方法,利用对平均的或定性的颜色值编码的节省的数据流,通过从选定的视频区域提取主色,用于提供更好的环境照明。其进一步需要的是,减少需要的数据流的大小,并允许施加感知规律以提高可观察性、逼真度,并在为环境发射选择色度和亮度中允许感知特性的训练。进一步需要的是,这些由明确表现的用户偏好影响的感知特性和规律的特征和效果,允许根据需要而产生不同的环境发送。
关于视频和电视工程、压缩技术、数据传送和编码、人类视觉、色彩场景和感知、色空间、色度、图像着色,以及包括视频再现的信息,将在下面的参考文献中引用,这些文献是这些信息在整体上的结合:参考[1]Color Perception,Alan R.Robertson,Physics Today,1992年12月,第45卷,第12期,24-29页;参考[2]The physics andChemistry of Color,2rd,Kurt Nassau,John Wiley&Sons,Inc.,NewYork_2001;参考[3]Principles of Color Technology,3ed,Roy S.Berns,John Wiley&Sons,Inc.,New York,_2000;参考[4]StandardHandbook of Video and Television Engineering,4ed,Jerry Whitakerand K.Blair Benson,McGraw-Hill,New York_2003。
发明内容
本发明的不同实施例给出的方法包括利用像素水平统计或功能等效在某种程度上以尽可能少的计算量确定或提取一个或多个主色,但在同时,提供根据感知规律选择为主色的舒适和合适的色度。
本发明涉及从在着色色空间中编码的视频内容中提取主色的方法,利用感知规律,通过环境光源来产生用于模拟的主色。可能的方法步骤包括:
[1]在着色色空间的视频内容中,执行从像素色度提取主色,以通过提取下面各项产生主色:[a]像素色度的模式;[b]像素色度的中值;[c]像素色度的加权平均色度;[d]利用像素加权函数的像素色度的加权平均值,该函数是像素位置、色度和亮度的函数;[2]进一步根据感知规律获取主色的色度,感知规律从下面选择:[a]简单色度转换;[b]利用像素加权函数的加权平均值以进一步用公式表示来自场景内容的影响,该场景内容通过为视频内容中的多个像素评估色度和亮度中任一个而获得;[c]利用加权平均值进一步提取主色,在这里像素加权函数公式表示为场景内容的函数,该场景内容通过对视频内容中的多个像素评估色度和亮度中任一个而获得,且进一步公式表示像素加权函数,使得对于多数像素(MP)来说,最低限度地减小加权;而且[3]从着色色空间至第二着色色空间转换主色,第二着色色空间被形成为允许驱动环境光源。
如果需要,像素色度(或着色色空间)可以量化,且可通过很多方法实现(见定义部分),其目标是通过在可能的颜色状态中寻求简化而减轻计算负担,比如从分配的大量色度(例如像素色度)缩减到较少数量的指定色度或颜色;或通过挑出选择像素的选择过程来减少像素数量;或储存以产生代表性的像素或超像素。
如果通过将像素色度储存到至少一个超像素,部分地执行着色色空间的量化,这样产生的超像素可具有与图像特征一致的尺寸、方向、形状或位置。在量化过程中利用指定的颜色可选择为区域颜色矢量,其不必在着色色空间中,比如可在第二着色色空间中。
该方法的其余的实施例包括其中的简单色度转换选择用于产生环境光的第二着色色空间中发现的色度。
也可公式表示像素加权函数以提供黑暗支持,通过:[4]评估视频内容以确定场景内容中的场景亮度低;然后[5]执行以下任何一个步骤:[a]利用像素加权函数以进一步降低明亮像素的加权值;和[b]发送主色,其通过利用相对于本来要产生的亮度降低的亮度获得。
可选择地,也可公式表示像素加权函数以提供颜色支持,通过[6]评估视频内容以确定场景内容中的场景具有高亮度;然后[7]执行以下步骤:[a]利用像素加权函数以进一步降低明亮像素的加权值;并[b]执行步骤[2][c]。
可单独重复进一步的主色提取用于视频内容的不同场景特征,从而形成多个主色,且可在分配多个主色中每一个指定为像素色度的情况下重复步骤[1]。然后,如果需要,可在新出现的场景特征下为像素色度分别重复上述步骤[1](主色提取)。
可使至少一些像素色度的量化形成指定颜色的分布,这些像素色度来自着色色空间中的视频内容,且在步骤[1]中,至少可从指定颜色的分布中获得一些像素色度。可替换地,此量化可包括将该像素色度存储形成至少一个超像素。
如果形成指定的颜色分布,至少一种指定的颜色可以是着色色空间中非必需的区域颜色矢量,比如位于用于驱动环境光源的第二着色色空间的区域颜色矢量。
该方法还包括在指定的颜色分布中确定至少一种感兴趣的颜色,然后提取在此指定的像素色度,以取得最终指定的真实的主色作为主色。
实际上,主色可包括主色的调色板,每一个调色板应用该方法而获得。
该方法也能在量化着色色空间后执行,即,通过量化在着色色空间中视频内容的至少一些像素色度,以形成指定颜色的分布,以便主色提取的步骤[1]利用指定颜色(例如,[a]指定颜色分布的模式,等)的分布。然后,在相似的方式中,像素加权函数可如此公式表示以提供黑暗,通过:[4]评估视频内容,以确定场景内容中的场景具有低亮度;且[5]执行下列步骤:[a]利用像素加权函数以进一步减少将可归于亮像素的指定颜色属性的加权值;且[b]发送主色,该主色利用相对于本应产生的亮度减小的亮度获得。同样,对颜色支持,像素加权函数可如此公式表示以提供颜色支持,通过[6]评估视频内容,以确定场景内容中的场景具有高亮度;且[7]执行下面的步骤:[a]利用像素加权函数以进一步减少指定的颜色属性的加权至亮像素;[b]执行步骤[2][c]。相应于指定颜色的利用,其它步骤可以被改变。
该方法也可选择包括:[0]在着色色空间中将视频内容编码至多个帧,并在着色空间中量化至少一些来自视频内容的像素色度,以形成指定的颜色分布。另外,可选择:[3a]将主色从着色色空间转换至未着色色空间;然后[3b]将主色从未着色颜色的空间转换至第二着色色空间。这可由如下步骤辅助:[3c]利用第一和第二三色主矩阵,矩阵转换着色色空间和第二着色色空间的原色到未着色色空间;和通过着色色空间的原色、第一三色矩阵以及第二三色矩阵的逆矩阵进行矩阵相乘,获得颜色信息至第二着色色空间的转换。
一旦主色从指定的颜色分布选择,可以向后,也就是说,去获得真实的像素色度来改善主色。例如,如上所述,可以设置至少一个在指定颜色分布中感兴趣的颜色并且提取指定的像素色度,以获得真实的主色来设计为主色。这样,当指定的颜色大致接近视频内容,真实的主色能够提供正确的色度用于环境分布,然而仍然节省了实际需要的计算。
步骤[1]的像素色度能够由提取任何形状、大小或者位置的区域获得,且一种主色的环境光从接近提取区域的环境光源发射。
这些步骤可以以很多方式结合以表示不同的同时施加的感知规律,例如通过建立多个标准,其必须同时存在并且在主色的提取和选择中竞争优先权。能够用于向环境第二着色色空间转换的未着色色空间可以是CIE XYZ之一;在ISO标准17321定义的ISO RGB;摄影YCC;CIE LAB;或者其它未着色空间。执行主色提取和施加感知规律的步骤可以大体上与视频信号同步,利用第二着色色空间的颜色信息,从视频显示的周围发射出环境光。
考虑到使用者的偏好的直接教导,包括利用相应于利用者优选的感知规律,用于通过环境光源模拟的主色,在着色色空间从编码的视频内容提取主色来产生的方法的公开,包括:
[1]在着色色空间中,执行从视频信号中的像素色度主色提取,以产生主色,通过提取:[a]像素色度的模式;[b]像素色度的中值;[c]像素色度的色度加权平均值;[d]利用像素加权函数的像素色度加权平均值,其中加权函数是任何一个像素位置、色度和亮度的函数;
[2]进一步得到相应于各自感知规律的主色的亮度、色度、时间传送和空间提取中至少一个,以产生优选的环境发射,这里的各自的感知规律特性是变化的,并由大量可能的用户明确指出的偏好的至少一个影响;这里的各自的感知规律包括至少下面其中一个:
[I]亮度感知规律,从以下选取:[a]亮度增加;[b]亮度降低;[c]亮度下限;[4]亮度上限;[5]压缩亮度阈值;[6]亮度转换;
[II]色度感知规律,从以下选取至少一个:[a]简单色度转换;[b]利用进一步公式表示为显示场景内容的影响的像素加权函数的加权平均值,通过估计视频内容内大量像素的色度和亮度获得;[c]利用加权平均值进一步提取主色,在这里像素加权函数公式表示为场景内容的函数,该场景内容通过为视频内容中的多个像素评估色度和亮度中任一个而获得,且像素加权函数进一步公式表示,以使加权至少对多数的像素减少;
[III]临时传送的感知规律,从以下选取至少一个:[a]主色的至少一个亮度和色度变化率的降低;[b]主色的至少一个亮度和色度变化率的增加;
[IV]空间提取感知规律,从以下至少选择一个:[a]对包含新出现特征的场景内容,给像素加权函数提供一个更大的加权;[b]对包含新出现的特征的场景内容,给像素加权函数提供一个更小的加权;[c]对由被选择的提取区域的场景内容,给像素加权函数提供一个更大的加权;[d]对由被选择的提取区域的场景内容,给像素加权函数提供一个更小的加权;然后由着色色空间至被形成为允许驱动环境光源的第二着色色空间,转换优选的环境发射的亮度和色度。
明确指示的用户优选的可以通过以下任一指示:[1]通过用户操作控制,重复的选择值的上下变化;[2]通过用户操作控制,选择一个极值;[3]通过用户操作控制,选择值内的高变化率;[4]通过环境空间中的光传感器接收到的光;[5]通过环境空间中的声音传感器接收到的声音;[6]通过环境空间中的振动传感器接收到的振动;[7]在图形用户界面上所做的选择;[8]在用户操作控制上所做的选择;[9]在用户操作控制上的一个持续激励呼叫;[10]在用户操作控制上的重复激励呼叫;[11]由用户操作控制设备内的压力传感器探测到的压力;[12]由用户操作控制设备内的运动传感器探测到的运动;以及[13]与所述视频内容关联的任何元数据、辅助数据或者与音频-视频信号关联的子代码数据。
执行黑暗支持、颜色支持和上面给出的进一步提取的步骤的程度能够响应于明确的用户偏好指示而得到调制。
附图说明
图1表示本发明简单的视频显示的前表面视图,展示了颜色信息提取区域和相关的环境光从六个环境光源发射;
图2表示一个房间的俯视图,部分示意图和部分截面图,其中,利用本发明,产生从多重环境光源发射的环境光。
图3表示按照本发明的一个提取颜色信息并影响色空间转换以允许驱动环境光源的系统;
图4表示从视频提取区域计算颜色信息均值的方程式;
图5表示现有技术转换着色主RGB至未着色色空间XYZ的矩阵方程式;
图6和图7表示分别映射视频和环境光着色区域至未着色区域的矩阵方程式;
图8表示利用已知的矩阵逆向转化从未着色色空间XYZ得到环境光三色值R’G’B’的办法;
图9-11表示现有技术中利用白点方法推导三色主矩阵M;
图12表示类似于如图3所示的系统,另外包括一个用于环境发射的灰度系数校正步骤;
图13表示本发明所用的总的转换过程的原理图;
图14表示本发明中利用的获得环境光源转换矩阵系数的处理步骤;
图15表示本发明所用的估计视频提取和环境光再现的处理步骤;
图16表示按照本发明视频帧提取的示意图;
图17表示依照本发明的简化的色度评估处理步骤;
图18表示如图3和12所示的提取步骤,为驱动环境光源,利用帧解码器、设置帧提取率并执行输出计算;
图19和图20表示本发明颜色信息提取和处理的处理步骤;
图21表示按照本发明总的过程的示意图,包括主色提取和到环境光色空间的转换;
图22示意性地表示一种通过指定像素色度到指定颜色,量化来自视频内容的像素色度的可能的方法;
图23示意性地表示一种通过将像素色度存储至超像素而量化的可能的方法的例子;
图24表示类似图23的存储过程,但是这里超像素的大小、方向、形状或者位置可以与图像特征一致地形成;
图25表示在标准笛卡尔CIE颜色图上区域颜色矢量和它们的颜色或者色度坐标,这里一个颜色矢量位于颜色色域的外面,颜色色域通过PAL/SECAM、NTSC和Adobe RGB颜色产生标准得到;
图26表示图25所示的CIE图的一部分的特写,另外表示像素色度和其在区域颜色矢量上的分布;
图27表示按照本发明展示指定颜色分布的模式一个可能的方法的直方图;
图28表示按照本发明指定颜色分布的中值一个可能方法;
图29表示按照本发明通过指定颜色的色度的加权平均值的数学总和的一个可能的方法;
图30表示按照本发明利用像素加权函数通过指定颜色的色度的加权平均值的数学总和的一个可能的方法;
图31表示在指定颜色分布中确定感兴趣的颜色,然后提取在那里的指定像素色度,以得到一个真实的主色并指定为主色的示意图;
图32示意性地表示按照本发明的主色提取可以多次执行或者分别同时执行以提供一系列主色;
图33表示如图1所示的视频显示的简单的前表面图,表示按照图29和30示范的方法,将不同加权施加给优选的空间区域一个例子;
图34给出一个如图33所示的视频显示的简单的前表面图,图表式的表示按照本发明为主色提取的目的而提取一个图像特征;
图35给出本发明另一个实施例的图示,视频内容被解码成一组帧,籍以允许得到的一帧的主色至少部分地依赖前一帧的主色;
图36表示按照本发明选择主色的省略过程的过程步骤;
图37表示用一个新出现的特征描绘场景内容,利用黑色支持说明主色提取的视频显示的简单前表面图;
图38表示描绘场景内容以利用颜色支持说明主色提取的视频显示的简单前表面图;
图39示意性地表示三种说明性的种类,按照即时发明,感知规律可以分类到这三种说明性的种类中;
图40示意性地表示作为功能算符的一个简单的色度转换;
图41示意性地表示按照本发明,利用像素加权函数的平均值计算进行主色提取,以执行两种说明性的可能的感知规律的一系列可能的步骤;
图42示意性地表示按照本发明,利用用于进一步主色提取的像素加权函数执行平均值计算,以执行两种说明性的可能的感知规律的一系列可能的步骤;
图43表示按照本发明利用的像素加权函数可能的函数形式;
图44示意性地表示按照本发明,利用与利用者偏好一致的感知规律,执行主色提取的可能函数群,以便产生适合的环境发射;
图45象征性地表示用来传递用户优选的一些可能的元件、方法和信号源;
图46和47表示许多代表亮度的波形的笛卡尔图,亮度是时间的函数,伴随不同用户的偏好,利用不同的亮度感知规律;
图48示意性地表示按照用户的偏好,影响许多可能色度感知规律的许多简单的色度转换;
图49示意性地表示图41所示的两种感知规律的质量或程度的执行是怎样通过用户偏好改变的;
图50示意性地表示按照本发明由音频-视频信号提取视频元数据以影响感知规律;
图51表示一些代表色度作为时间的函数的笛卡尔曲线波形,根据不同的用户偏好,利用不同的时间传送规律;
图52给出如图34所示的视频显示的简单前表面图,示意性地表示按照不同的用户偏好,利用不同的空间提取感知规律,不同程度的提取图像特征;
图53给出如图52所示的视频显示的简单前表面图,但是表示照不同的用户偏好,利用不同的空间提取规律,不同程度的提取中心区域;
具体实施方式
定义
下列定义可以全文通用:
-环境光源-将在随后的权利要求中,包括需要影响光产生的任何光产生电路或者驱动器。
-环境空间-将意味着任何和所有在视频显示单元外部的材料体或者空气或者空间。
-指定颜色分布-将表示一组颜色,选择它用来代表(如用于计算目的)在视频图像或者视频内容中发现的像素色度的全部范围。
-明亮-当涉及像素亮度时,将表示其中之一或者两者全部:[1]一个相对的特征,即,比其它像素明亮,或者[2]一个绝对的特征,例如高亮度等级。这可以包括在不同于的暗红场景中的明亮的红色,或者固有的明亮色度,例如白色和灰色。
-色度转换-作为在这里描述的感知规律的施加结果,将涉及一种色度对于另一种的替换。
-色度-在驱动环境光源的上下文中,将表示一个规定光产生的颜色特征的机械、数值或者物理方式,例如CIE色度,并且将不暗含特别的方法论,例如用于NTSC或者PAL的电视广播。
-有色的-当涉及像素色度,表示二者之一或者二者全部:[1]一个相对的特征,即,显示比其它像素高的颜色饱和度,或者[2]一个绝对的特征,例如颜色饱和度。
-颜色信息-将包括色度和亮度的全部或者其中之一,或者功能等价量;
-计算机-将包括不仅是所有的处理器,例如利用已知结构的CPU(中央处理单元),还包括允许编码、解码、读、处理、执行设定代码或者变化代码的任何智能设备,例如可以执行同样功能的数字光学设备或者模拟电路。
-黑暗-当涉及像素亮度,将表示二者之一或者二者全部:[1]一个相对的特征,即,比其它像素黑暗;或者[2]一个绝对的特征,例如低亮度级别。
-主色-将表示任何为环境发射目的而选择用来代表视频内容的色度,包括任何被选择用来说明这里公开的方法的颜色;
-明确指示的用户偏好-将包括与用户偏好联系的任何和全部输入,用来影响感知规律的特征和效果,感知规律影响或作用于优选的环境发射,包括:[1]与视频内容或者音频-视频信号关联的元数据、辅助数据或者子代码数据;[2]通过图形用户界面获得的数据,无论是与视频内容相关还是与显示在独立显示器上;[3]从控制面板、远程控制垫或者其它外围设备得到的数据,包括任何存在的控制功能,例如在视频显示上的声音控制;或者[4]从任何在环境空间(A0)的转换器得到的关于视频显示的数据,例如声音激活、声音测量或者其它设备。用户偏好不必明确地规定怎样影响感知规律的特征和作用,但是对于这些影响和作用一定仅仅使用明确指示用户偏好的大量选择之中的一个选择。
-进一步(主色)提取-将涉及前一过程消除或减少主像素或者其它在视频场景或视频内容的像素的影响后,采取的任何主色提取过程,例如当感兴趣的颜色被用于进一步的主色提取。
-提取区域-将包括任何整个视频图像或帧的子集,或者更一般地为主色提取的目的而包括任何或者所有取样的视频区域或者帧。
-帧-将包括在视频内容内按时间顺序出现的图像信息,与产业中利用的词语“帧”一致,但是也将包括任何部分的(例如交错)或者全部的图像数据,用来在任何时刻或者在在任何间隔传送视频内容。
-测角色度-将涉及给定的作为视角或者观察角度的函数的不同颜色或者色度的性质,例如通过彩虹产生的。
-测角光度-将涉及作为视角或观察角度的函数的给定的不同光亮度、传送和/或颜色的性质,例如发现于光芒四射、发火花或者回射现象。
-插值-将包括在两组值之间的线性或者数学插值,还包括在两组已知的值之间为设定值的功能性描述;
-光特征-在广义上,意思是例如由环境光源产生的任何光的性质的说明,包括除了亮度和色度的所有描述,例如光传输或者反射的程度;或者测角色度性质的描述,包括当观察环境光源时,产生的颜色、闪耀或者其它已知的现象作为视角的函数的程度;光输出方向,包括通过一个坡印廷或者其它传播矢量给予的方向性;或者光角度的分布的描述,例如立体角或者立体角分布函数。还可以包括一个规定其在环境光源位置的坐标,例如单元像素或者灯的位置。
-亮度-将表示任何参数或者测得的明亮度、强度或者等价测量,并将不施加光产生的特定方法或者测量或者心理-生物的解释。
-多数像素-将涉及传送相似颜色信息的的像素,这些颜色信息如视频场景中的饱和度、亮度或者色度。例如,当少量或者不同数量其它像素明亮地照射的时候,包括设置来显示黑暗(场景中的黑暗)的像素;主要设置用来显示白色或者灰色(例如场景中的云层)像素;用来分享类似色度的像素。例如用来在森林场景中多叶的绿颜色,该场景也独立描绘红色狐狸。用于建立看起来相似的标准可以改变,虽然常常应用,但不需要大量的标准。
-像素-将涉及真实的或者虚拟的视频像元,或者允许像素信息偏差的等价信息。对于基于矢量的视频显示系统,像素可以是允许被分析或者被表示的输出视频的任何子部分。
-像素色度-将包括像素色度的真实值,以及其它指定作为任何量化或者固化过程的颜色值,例如当执行量化色空间的一个过程时。因此在附加权利要求中预期像素色度能够包括从一个指定颜色分布的值。
-量化色空间-在说明书和权利要求的范围中,将涉及可能颜色状态的减少,例如导致从指定的大量色度(例如像素色度)到少量指定的色度或颜色;或者通过挑选被选择像素的选择过程,像素数目减少;或者储存以产生代表性的像素或者超像素。
-着色色空间-将表示从作为设备和特定图像的传感器或者特定的光源或者显示设备截取的图像或者色空间。多数RGB色空间是着色图像空间,包括用来驱动视频显示D的视频显示空间。在附加权利要求中,视频显示和环境光源88的特定色空间是着色色空间。
-场景亮度-将涉及按照任何期望标准的在场景内容中的任何亮度的测量。
-场景内容-将涉及能够形成可视图像视频信息的特征,其能够用于影响主色的期望选择。例子包括白云或者遍及视频图像大部分的黑暗,其可以导致确定像素,形成看起来是多数像素的图像,或者导致像素加权函数(图30的W)像素的各向异性;或者可以引起探测的图像特征(如图34的J8)和特别的物体或者进一步的主色提取。
-简单色度转换-将涉及按照感知规律的主色或者色度的变化或者推导,没有作为场景内容的函数被选择或者推导出,在这里,在色度内的变化或者推导结果不同于本应被选择的。例子:为了满足感知规律,通过主色提取(例如紫色)的第一主色(x,y)转变至第二主色(x’,y’)。
-转换颜色信息至未着色色空间-在附加权利要求中将包含或者直接转换至未着色色空间,或者利用或者受益于通过利用三色主矩阵的逆转换,该三色主矩阵通过转换至未着色色空间(如图8所示的(M2)-1)而得到,或者任何等价计算。
-未着色色空间-将表示一个标准或者非特定设备的色空间,例如这些利用标准CIE XYZ描述原图像的比色法;例如在ISO17321标准中定义的ISO RGB;摄影YCC;和CIE LAB色空间。
-用户偏好-不被限制为用户希望的指示,但是也将包括在大量选择中做出的任何选择,即使那个选择不是用户做出的,例如当利用感知规律的特别期望的特征和效果传递视频内容的子代码或者元数据,其影响或者作用优选的环境发射。
-视频-将指示任何视觉或者光产生装置,无论需要能量产生光的有源设备,或者任何传送图像信息的传送媒体,例如办公大楼的窗子,或者从远处得到的图像信息的光波导。
-视频信号-将指示为控制视频显示单元传送的信号或者信息,因此包括任何音频部分。可以预期视频内容分析包括为音频部分可能的音频内容分析。一般地,视频信号可以包含任何类型的信号,例如利用任何数量的已知的调制技术的无线电频率信号;电信号,包括模拟和量化模拟波形;数字(电)信号,例如那些利用脉宽调制、脉冲数目调制、脉冲位置调制、PCM(脉冲编码调制)和脉冲放大调制;或者其它信号例如听觉信号,声音信号和光信号,它们都能够利用数字技术。其中仅仅顺序排列或者于其它信息的数据,例如基于计算机应用的分组信息,也可以利用。
-加权-将涉及任何在这里给出的为特定的色度、亮度或者空间位置给出优先状态或者较高数学加权的等价方法,可能作为场景内容的函数。然而,没有什么可以排除为提供简单的方式或者平均值的目的而将整体用作加权。这里所述像素加权函数不必呈现所给的函数的显示(例如,大量像素的总和W),但是将包括所有的算法、算符或者其它执行同一功能的电路。
具体描述
如果需要,按照本发明由视频内容得到的环境光形成为,允许对原始视频场景光有高的逼真度,然而保持高程度的环境光自由度特性仅需要低的计算负担。这允许具有小的颜色色域环境光源和亮度降低空间,来模拟从具有相对大的颜色色域和亮度响应曲线的更高级的光源发出的视频场景光。用于环境照明的可能的光源能够包括任何数目的已知的发光设备,包括LED(发光二极管)和相关的半导体辐射源;电致发光设备包括非半导体类型;白织灯,包括用卤素或者更高级的化学物质的更改类型;离子放电灯,包括荧光和氖灯;激光器;再调制的光源,例如通过利用LCD(液晶显示器)或者其它光调制器;光致发光发射器,或者任何数量已知的可控光源,包括功能类似显示器的阵列。
这里给出的说明部分,将部分地首先涉及从视频内容提取颜色信息,随后,涉及提取方法,以获得能够代表视频图像或者场景的环境发射的主色或者真实颜色。
参考图1,其仅以示例性的目的用于说明按照本发明的视频显示D的简单前表面图。显示D可以包括任何数目已知的从着色色空间解码视频内容的设备,如NTSC、PAL或者SECAM广播标准,或者着色RGB空间,例如Adobe RGB。显示D可以包括可选择的颜色信息提取区域R1,R2,R3,R4,R5和R6,它们的边界可以与那些图解区域分离。颜色信息提取区域可以任意预先确定并具有产生特有环境光A8的特征,例如通过后面安装可控环境照明单元(未示出),其产生和发射如图所示的环境光L1、L2、L3、L4、L5和L6,例如通过将部分光泄漏到显示D安装的墙(未示出)上。可选择地,如图所示的显示帧Df自己也包括以简单的方式显示光的环境照明单元,包括向外向观看者(未示出)。如果希望,每一个颜色信息提取区域R1-R6可以单独的影响接近它的环境光。例如,如图所示,颜色信息提取区域R4可以影响环境光L4。
参考图2,俯视图-部分的示意以及部分的截面图-显示场所或者环境空间A0,其中,利用本发明,产生来自多环境光源的环境光。在环境空间A0设置所示的座位和桌子7,配置它们以允许观看视频显示D。在环境空间A0也配置了大量环境照明单元,利用即时发明,其被随意地控制,包括所示的光扬声器1-4、所示的在沙发或者座位下面的地灯SL,还有一组配置在显示D周围的特殊模拟环境照明单元,即如图1所示的产生环境光Lx的中心灯。这些环境照明单元的每一个可以发射环境光A8,如图中阴影部分所示。
与此即时发明结合,可以任意地从这些环境照明单元产生环境光,伴随从这些环境照明单元里得到但是实际上没有通过视频显示D发射的颜色或者色度。这允许开拓人眼的特征和视觉系统。值得注意,人视觉系统的亮度功能,其对于不同可视波长具有探测灵敏度,作为光等级的函数而变化。
例如,暗视或者夜视依靠倾向对蓝色和绿色更加敏感的视网膜杆。利用锥形细胞的明视更加适合探测长波长的光,例如红色和黄色。在剧院环境的黑色空间,通过调制或者变化传送给在环境空间中的视频观看者的颜色,可以稍微抵消不同颜色的相对发光度的这些变化作为光等级的函数。这可以通过从环境照明单元减去来完成,例如利用光调制器(未示出)的光扬声器1-4或者通过利用在光扬声器上增加元件,即光致发光发射器在环境释放前进一步改变光。光致发光发射器通过吸收或者经历来自光源的入射光的激励而执行颜色转换,然后再次发射在更高的期望波长中的光。光致发光发射器这种激励和再次发射,例如荧光染料,可以允许没有在原始视频图像或者光源中出现的新的颜色着色,或许也没有在显示D的固有操作的颜色或者颜色色域范围内。当希望的环境光Lx的亮度低时,这是有帮助的,例如在很黑的场景中,以及当希望的感知水平比通常没有光调制时得到的感知水平高时。
新颜色的产生可以提供新的和有趣的视觉效果。说明的例子可以是橙色光的产生,例如被称为寻觅的橙色,对于它,可用的荧光染料是众所周知的(参照参考[2])。给出的例子包括荧光颜色,其与一般的荧光现象和相关现象对立。利用荧光橙色或者其它荧光染料种类对低光条件尤其有用,这里红色和橙色的促进可以抵消暗视觉对长波长的灵敏度。
在环境照明单元利用荧光染料可以包括在染料类别中已知的染料,例如二萘嵌苯,萘酰亚胺,香豆素,噻吨,蒽醌,硫靛,以及专用的染料类别,例如由美国俄亥俄州克里夫兰日光荧光染料颜色公司生产的。可用的颜色包括阿帕契黄,底格里斯黄,大草原黄,Pocono黄,莫霍克黄,波拖马可河黄,万寿菊橙,渥太华红,伏尔加红,大马哈粉,以及哥伦比亚蓝。这些染料类别可以利用已知的过程组合到合成树脂中,例如PS、PET以及ABS。
荧光染料和材料已经提高了视觉效果,因为它们可以设计得比同色度的非荧光材料亮很多。用于产生荧光颜色的传统的有机颜料的所谓耐久性问题,在近二十年得到了很大的解决,随着技术的进步,已经导致耐久性荧光颜料的发展,暴露在阳光下,其可保持它们逼真的着色7-10年。因此这些颜料在其进入的UV射线最小的家庭影院环境中几乎不受破坏。
可选择地,荧光光颜料能够利用,它们通过吸收短波长的光简单地工作,并且再次将该光作为例如红色或橙色的长波长的光发射。无机颜料的技术提高已经使可视光在激励下可以实现,例如蓝色和紫色,例如400-440nm的光。
测角色度和测角光度作用能够相似地展开来产生不同光的作为视角函数的颜色、亮度和特征。为实现这一效果,环境照明单元1-4和SL和Lx能够单独的或者联合地利用已知的测角光度元件(未示出),例如金属的和珠光般的传递着色;利用公知的散射或者薄膜干涉作用的彩虹材料,例如利用鳞状实体;薄鳞片鸟嘌呤;或者有防腐剂的2-氨基次黄嘌呤。利用精细的云母或者其它物质作为扩散体,例如由氧化层、斑铜矿或者孔雀矿制造的光芒四射的材料;金属薄片、玻璃薄片或者塑料薄片;颗粒物质;油;毛玻璃,和毛塑料。
参考图3,表示按照本发明提取颜色信息(例如主色或者真实颜色)和作用色空间转换以驱动环境光源的一个系统。在第一步骤,利用已知的技术从视频信号AVS提取颜色信息。
视频信号AVS可以包括已知的用于MPEG编码、音频PCM编码等等的数字数据帧或者包。可以利用已知的编码方案给数据包,例如带有可变长度数据包的程序流,或者均匀平分数据包的传送流,或者其它单程序传送流的方案。可选择地,这里公开的功能步骤或者方框图可以利用计算机编码或者其它通信标准模拟,包括异步协议。
作为一般的例子,所示的视频信号AVS可以经历所示的视频内容分析CA,可能利用已知的方法在所示的硬盘HD来回记录和传递选择的内容,可能应用所示的内容类型库或者其它存储在存储器MEM的信息。这能够允许选择视频内容的单独的、平行的、直接的、延迟的、连续的、周期的或者非周期的转换。由这些视频内容,可以执行所示的特征提取FE,例如一般地提取颜色信息(例如主色),或者从一个图像特征提取。颜色信息在着色色空间还要被编码,然后转换到未着色空间,例如利用所示的RUR映射转换电路10的CIE XYZ。这里的RUR代表希望的转换类型,即,着色-未着色-着色,这样RUR映射转换电路10进一步转换颜色信息至第二着色色空间,该第二着色色空间被形成为允许驱动所述环境光源88。RUR转换时优选的,但是可以利用其它的映射,只要能够利用环境光产生电路或其等价装置在第二着色色空间接收信息。
RUR映射转换电路10可以功能性地包含在计算机系统中,其利用软件来执行相同的功能,但是在解码由数据传送协议传送的分组信息的情况下,在电路10内存在一个存储器,其包含或者被更新以便包含相互关联或者提供着色色空间系数等等的信息。新产生的第二着色色空间是适当的并且希望将其用于驱动环境光源88(如图1和2所示),并且用所示的对环境光产生电路18的编码供给。环境光产生电路18从RUR映射转换电路10得到第二着色色空间信息,然后说明从任何用户界面以及任何合成偏好存储器(和U2一起所示)的任何输入,在参考所示的可能导致环境光(第二着色)色空间查找表格LUT之后,用于发展真实环境光输出控制参数(例如施加的电压)。将由环境光产生电路18产生的环境光输出控制参数供给所示的灯界面驱动器D88,以直接控制或供给所示的环境光源88,其可以包括单独的环境照明单元1-N,例如前面引用的如图1和2所示的环境光扬声器1-4,或者环境光中心灯Lx。
为减少任何实时计算负担,从视频信号AVS移除的颜色信息可以被省略或者限制。参考图4,表示从视频提取区域计算平均颜色信息的方程,用于讨论。可以预期,如下面叙述的(参见图18),视频信号AVS的视频内容将包含一系列时间序列视频帧,但是这并不是必需的。对于每一个视频帧或者等价时间框图,可以从每一个提取区域(例如R4)提取平均值或者其它颜色信息。每一个提取区域可以被设置以具有特定的大小,例如对100×376个像素。假设,例如帧频率为25帧/秒,对于每一个视频RGB三主色,在提取平均值(假设只有1字节需要规定8比特的颜色)之前提取区域R1-R6的合成的总数据将会是6×100×376×25或者5.64兆字节/秒。这种数据流很大,并且在RUR映射转换电路10中很难处理,因此,对每一个提取区域R1-R6的平均颜色的提取可以在特征提取FE中起作用。特别地,所示的能够对每一个m×n像素的提取区域的每一个像素求和RGB颜色通道值(如Rij),并且通过m×n像素的数目来达到每一个主RGB的均值,例如所示的为红色的Ravg。这样重复对每一个RGB颜色通道的求和,每一个提取区域的均值将会是一个三位字节RAVG=|Ravg,Gavg,Bavg|。对所有的提取区域R1-R6和每一个RGB颜色通道,重复同样的过程。提取区域的数目和大小可以与所示的不一样,也可以按照希望的那样划分。
通过RUR映射转换电路10执行颜色映射转换的下一步可以是所示的说明性的和利用所示的三色主矩阵表示,例如如图5所示,其中具有向量R,G,B的着色三色空间利用带有元素Xr,max,Yr,max,Zr,max三色主矩阵M转换,其中Xr,max是R最初在最大值输出的三色值。
从着色色空间至未着色、单独设备空间的转换可以是图像和/或特别的设备-已知的线性化,像素重建(如果需要)和白点选择步骤可以被执行,随后是矩阵转换。在这种情况下,我们简单地选择采用着色视频输出空间作为转换至未着色色空间比色的出发点。未着色图像需要经过到第二着色空间的附加转换,以使它们可视或者可印刷,并且这样的RUR转换包括到第二着色空间的转换。
在第一可能的步骤,图6和7表示绘制视频着色色空间的矩阵方程,分别由主R,G,B和环境光着色色空间表示,分别由主R’,G’,B’表示,到所示的未着色色空间X,Y,Z,在这里,三色主矩阵M1转换视频RGB至未着色XYZ,三色主矩阵M2转换环境光源R’G’B’至所示的未着色XYZ色空间。使图8所示的着色空间RGB和R’G’B’相等,利用第一和第二三色主矩阵(M1,M2),允许矩阵转换着色(视频)色空间和第二着色(环境)色空间的原色RGB和R’G’B’到所述未着色色空间(RUR映射转换);通过着色视频色空间的原色RGB、第一三色矩阵M1和第二三色矩阵的逆矩阵(M2)-1进行矩阵相乘,得到颜色信息到第二着色色空间(R’G’B’)的转换。然而已知显示设备的三色主矩阵容易得到,本领域技术人员利用已知的白点法可以确定环境光源。
参考图9-11,表示现有技术利用白点法得到一般三色主矩阵M。在图9中,量SrXr代表每一个(环境光源)在最大输出的主三色值,Sr代表白点振幅,Xr代表由(环境)光源产生的主光的色度。利用白点方法,利用已知的光源色度矩阵的逆,矩阵方程使Sr与白点参考值矢量相等。图11是代数处理以提示白点基准值,例如Xw,是白点振幅或者亮度以及光源色度的乘积。贯穿始终,三色值X被设置等于色度x;三色值Y被设置等于色度y;三色值Z被限定为等于1-(x+y)。第二着色环境光源色空间的主色和基准白色元件能够用已知的技术,例如通过利用颜色光谱仪获得。
可以发现第一着色视频色空间的相似的量。例如,已知当代的演播室监视器在北美、欧洲和日本有稍微不同的标准。但是,例如,在高清电视(HDTV)上基本的标准已经国际一致,这些基本的标准接近地代表演播室监视器在演播室视频、计算以及计算机图像方面的特征。这一标准正式地表示ITU-R推荐BT.709,其包括需要的参数,在这里,有关RGB的三色主矩阵(M)是:
0.640 0.300 0.150 ITU-R BT.709的矩阵M
0.330 0.600 0.060
0.030 0.100 0.790
白点的值也是已知的。
参考图12,和图3所示的系统相似,在为环境光发射的特征提取步骤FE之后,另外包括一个灰度系数校正步骤55。可选择地,灰度系数校正步骤55可以在由RUR映射转换电路10和环境光产生电路18执行的步骤之间执行。已发现LED环境光源的最佳灰度系数值是1.8,因此可以利用已知的数学计算得出的灰度系数值来执行用以抵消典型灰度系数为2.5的视频色空间的负灰度系数校正。
一般地,RUR映射转换电路10,其能够是一个通过任何已知的适合的软件平台作用的功能块,执行如图13所示的一般RUR转换,在这里,所示的示意图获得包括例如视频RGB的着色色空间的视频信号AVS,并将其转换到例如CIE XYZ的未着色色空间;然后到第二着色色空间(环境光源RGB)。RUR转换之后,除了信号处理之外,如图所示,可以驱动环境光源88。
图14表示利用本发明获得环境光源转换矩阵系数的处理步骤,如图所示,其中步骤包括驱动环境光单元;以及所示的本领域中的检查输出线性度。如果环境光源原色是稳定的,(左边分叉所示,稳定原色),利用颜色光谱仪可以得到转换矩阵系数;另一方面,如果环境光源原色是不稳定的,(右边分叉所示,不稳定原色),可以复位在先给定的灰度系数校正(如图所示,复位灰度系数曲线)。
一般地,希望从提取区域例如R4中每一个像素提取颜色信息,但这不是必须的,作为代替,如果需要,对已选择像素的轮询可以允许快速评估平均颜色,或者快速产生提取区域颜色特征的发生。图15表示利用本发明视频提取评估和环境光再现的处理步骤,这里的步骤包括[1]准备视频再现色度(从着色色空间,例如视频RGB)的评估;[2]转换到未着色色空间;以及[3]为环境再现(第二着色色空间,例如LED RGB)的转换色度评估。
按照本发明,已经发现需要用于从视频帧支持视频内容的提取和处理(例如主色)所需要的数据位流(参加下图18),可以通过明智的视频帧子采样来减少。参考图16,表示按照本发明视频帧提取的图表。示出了一系列独立的连续的视频帧F,即视频帧F1,F2,F3等等-例如由NTSC、PAL或者SECAM标准规定的独立交织或者没有交织的指定视频帧。通过进行内容分析和/或特征提取-例如提取主色信息-从选定的连续帧,例如帧F1和FN,可以减少数据负载或开销,同时保持可接受的环境光源的响应能力、现实性和逼真度。已经发现N=10时可以给出好的结果,即从10个连续帧中子采样一帧能够工作。这提供了在低处理额外开销的帧提取之间的刷新周期P,其中帧间插值过程能够提供显示D中的色度随时间变化的恰当的近似。提取被选择的帧F1和FN如图所示(提取)并且色度参数的中间插入值,如G2、G3和G4所示,提供了必须的颜色信息来通知前面引用的环境光源88的驱动过程。这避免了在帧2至帧N-1中简单凝固或者保持同样颜色信息的需要。例如在提取的帧F1和FN之间的整体色度差别覆盖插值帧G扩展的情况下,插入值可以线性地确定。可选择地,一个函数可以扩展以任何其它方式提取的帧F1和FN之间的色度差别,例如适合提取的颜色信息的时间显象的高阶近似。插值的结果可以用于通过预先访问帧F来影响插值帧(例如在DVD播放器中),或者可选择地,插值可以在没有预先选取帧F时用于影响将来的插值帧(例如在发射解码中的应用)。
图17表示按照本发明的简化的色度评估处理步骤。帧提取的较高阶分析可以相对本来可能的值扩大刷新周期P并扩大N。在帧提取期间,或者在提取区域Rx中选择的像素临时轮询中,可以处理所示的简化色度评估,这将导致要么下一帧提取的延迟,如左边所示,要么使全部帧提取开始,如右边所示。不论何种情况,插值继续进行(插值),带有延迟的下一帧提取导致凝固,或者增加利用的色度值。这将在位流或者额外开销的带宽方面提供甚至更加节约的操作。
图18表示图3和12的顶部,在这里一个可选择的提取步骤在所利用的帧解码器FD旁显示,在所示的步骤33,允许从提取区域(如R1)提取区域信息。进一步的处理或者组成的步骤35包括评估色度差别,并如所指示的一样,利用这些信息设置视频帧提取率。先于数据传输到环境照明和前面所示的产生电路18,如所示执行下一处理步骤,该步骤执行输出计算00,如图4的平均处理,或者如下面讨论的主色提取的。
如图19所示,表示本发明的颜色信息提取和处理的一般处理步骤包括获得视频信号AVS;从选择的视频帧(例如前面引用的F1和FN)提取区域(颜色)信息;在选择的视频帧之间插值;RUR映射转换;可选择的灰度系数校正;并利用这些信息驱动环境光源(88)。如图20所示,在从选择帧信息的区域提取之后:可以插入另外两个处理步骤:可以执行选择帧F1和FN之间的色度差别评估,和依靠预定的准则,一个可以如指示设置新的帧提取率。这样,如果连续帧F1和FN之间的色度差别很大,或者增加很快(例如大的一级导数),或者满足其它一些准则,例如基于色度差别历史,然后可以增加帧提取率,这样减少了刷新周期P。然而,如果连续帧F1和FN之间的色度差别很小,并且很稳定或者没有快速增加(例如第一导数的绝对值低或者为零),或者满足其它的一些准则,例如基于色度差别历史,然后可以节省需要的数据位流并降低帧提取率,这样提高了刷新周期P。
参考图21,表示按照本发明一个方面的一般处理过程。如图所示,作为一个可选择的步骤,可能减轻计算负担,[1]相应于视频内容的着色色空间被量化(QCS,量化色空间),例如通过利用以下给出的方法;然后[2]选择主色(或者主色的调色板)(DCE,主色提取);以及[3]颜色映射转换,例如执行RUR映射转换(10)(MT映射转换至R’G’B’)来提高产生的环境光的逼真度、范围和适合程度。
色空间的可选的量化可以减少可能颜色状态和/或要测量的像素的数目,并且可以利用不同的方法执行。作为一个例子,图22示意性地表示一个可能的量化视频内容的像素色度的方法。这里,如所示,说明性的视频主值R范围从值1至16,对任一个的这些主值R任意指定一个指定的颜色AC。这样,例如,无论何时,任一红色像素色度或者从1至16的值在视频内容中相遇,因此会取代指定的颜色AC,导致在表现视频图像特征所需要的颜色数目中,以因数16单独减少红原色。在这个例子中,对所有三原色,这样的可能颜色状态的减少会导致以16×16×16,或者4096-在用于计算的颜色的数目中-的因数减少。这在许多视频系统中的主色确定中减少计算负担是极其有用的,例如那些具有8位的颜色,其呈现256×256×256或者16.78兆的可能颜色状态。
另一个量化视频色空间的方法如图23所示,其示意性地表示另一个通过从大量像素Pi(例如所示的16)储存像素色度到超像素XP的量化着色色空间的例子。储存自身是一个方法,通过把相邻的像素数学地(或者计算的)加在一起以形成一个超像素,这个超像素自身被用于进一步的计算或者表示。这样,在视频格式一般地具有,例如,0.75兆像素,选择用来代替视频内容的超像素的数目可以减少用来计算的像素的数目至0.05兆或者任何其它希望的小数目。
这样的超像素的数量、大小、方向、形状或者位置可以作为视频内容的函数而变化。这里,例如,有利于在特征提取FE期间来保证超像素XP仅从图像特征提取,而不是从边缘区域或者背景提取,超像素XP相应地形成。图24表示与图23相似的储存过程,但是这里超像素的大小、方向、形状或者位置可以与所示的像素特征J8一致地形成。所示的图像特征J8是锯齿状的或者不规则的,没有直的水平或竖直的边缘。如图所示,选择的超像素XP相应地模仿或者模拟图像特征形状。除了具有定制的形状以外,还可以利用已知的像素等级计算技术通过图像特征J8影响超像素的位置、大小和方向。
量化可以使像素色度和替换的指定颜色(如指定颜色AC)一致。那些指定的颜色可以任意指定,包括利用优选的颜色矢量。因此,不利用指定颜色的可选的或者均匀的组,至少一些视频图像像素色度可以被设定为优选的颜色矢量。
图25表示在标准笛卡尔CIE x-y色度图或者颜色图上的区域颜色矢量和它们的颜色或者色度坐标。这个图表示所有已知的颜色或者可感知的颜色在最大发光度处作为色度坐标x和y的函数,所示纳米光波长和CIE标准发光白点作为参考。3个区域光矢量V在此图上显示,在这里,可以看到一个颜色矢量V位于颜色色域的外面,颜色色域是通过PAL/SECAM、NTSC和Adobe RGB颜色产生标准(所示的色域)得到的。
为了清楚,图26表示图25的CIE图的一部分的特写,另外表示像素色度Cp和它们指定的区域颜色矢量V。指定区域颜色矢量的标准可以改变,利用已知的计算技术,并可以包括欧几里得计算或者与其它特定颜色矢量V的距离。被标记的颜色矢量V,位于显示系统的着色色空间或者颜色色域外面;这可以允许优选的容易通过环境照明系统或者光源88产生的色度能变成用于量化着色(视频o)色空间中的一种指定颜色。
一旦利用一个或多个上述给定的方法得出指定颜色的分布,下一步是执行从指定颜色分布中通过提取以下任一项进行主色提取:[a]指定颜色的方式;[b]指定颜色的中值;[c]指定颜色色度的加权平均值;或者[d]利用像素加权函数的加权平均值。
例如,可以用直方图方法来选择以最高频率发生的指定颜色。图27表示的直方图给出了指定像素颜色或者最经常发生(参见坐标,像素百分比)的颜色(指定颜色),即,指定颜色分布的方式。该方式或十种已利用的指定颜色之中的大多数可以选择作为主色DC(已示出),用于通过环境照明系统的利用或模拟。
同样的,指定颜色分布的中值可以被选择作为或者帮助影响主色DC的选择。图28示意性地表示指定颜色分布的中值,在这里选择显示的中值或者中间值(为偶数数目的指定颜色插值)作为主色DC。
可选择地,可以利用加权平均值执行指定颜色的求和,以便影响主色的选择,可能更加适合环境照明系统颜色色域的强度。图29表示指定颜色色度的加权平均值的数学求和。为了清楚,示出了单一变量R,但是可以利用任何数目的维度或者坐标(例如CIE坐标x和y)。色度变量R以像素坐标(或者超像素坐标,如果需要)i和j表示,在这个例子中i和j分别在1和n以及1和m之间取值。带有所示的索引i和j的色度变量R与像素加权函数W相乘,然后进行整体的求和;结果除以像素数目n×m以得到加权平均值。
利用像素加权函数的相似的加权平均值如图30所示,除了所示的W也是所示的像素位置i和j的函数外,与图29相似,这允许空间主函数。通过也对像素位置加权,显示D的中心或者任何其它部分可以在主色DC的选择或者提取期间被强调,这将在下面讨论。
加权求和可以通过上面给出的给定提取区域信息步骤33执行,可以以任何已知的方式选择和存储W。像素加权函数W可以是任一函数或者算符,这样,可以包含整体,对于特定的像素位置,可以排除零。可以利用已知的技术识别图像特征,如图34所示,为了服务更大的目的,W可以被相应地改变。
利用以上方法或者任何等价方法,一旦指定的颜色被选择为主色,通过环境照明系统,可以对用于表示的适当的色度执行更好的评估,特别是当考虑如果所有的色度和/或所有的视频像素时,需要的计算步骤比它们原本需要的更少。图31表示在指定颜色的分布中确定感兴趣的颜色,然后在那里提取指定的像素色度,以得到一个真实主色作为指定的主色。可以看出,像素色度Cp指定给两个指定的颜色AC;不选择在图的底部示出的指定颜色AC作为主色,然而上面的指定颜色被视作主色(DC)并被选作所示的感兴趣的颜色COI。然后可以进一步检查指定给(或者至少部分地)视为感兴趣的颜色COI的指定颜色AC的像素,并且通过直接读出它们的色度(例如利用均值,如图4所示,或者为特别的目的,在已经给定的小区域内,执行主色提取步骤),可以获得主色的更好的再现,在此所示作为真实主色TDC。任何为此需要的处理步骤可以利用上面给出的步骤和/或组件来完成,或者通过利用独立的真色选择器,其可以是已知的软件程序或者子程序或者任务电路或者其等价物。
下面讨论感知规律的施加,但是一般地,如图32所示,按照本发明的主色提取可以执行多次或者独立地并行提供一主色调色板,其中主色DC可以包括主色DC1+DC2+DC3。这个调色板可以是利用感知规律,应用这里所述方法产生主色优先设置的结果。
如图30提到的,像素加权函数或者等价物可以通过像素位置提供加权,以允许对某些显示区域特别的考虑或者强调。图33表示如图1所示的视频显示的简单前表面图,并表示一个在优选的空间区域将不等加权提供给像素Pi的例子。例如,如图所示,显示的某些区域C可以利用数值上大的加权函数W加权,同时,一个提取区域(或者任何区域,例如场景背景)可以利用数值上小的加权函数W加权。
如图34所示,这种加权或者强调可以施加在图像特征J8上,其中给出了图33所示的视频显示的简单的前表面图,在这里利用已知的技术通过特征提取步骤FE来选择图像特征J8(一条鱼)(参见图3和12)。图像特征J8可以是在所示的或者上面所述在主色提取DCE之中仅利用的视频内容,或者是利用的视频内容的一部分。
参考图35,可以看出利用这里给出的方法,允许通过至少部分地依赖前一帧的至少一个主色,获得为视频帧选取的主色。图示的帧F1,F2,F3和F4经历如图所示的获得主色提取DCE的过程,其目的是分别提取所示的主色DC1、DC2、DC3和DC4,其中,通过计算,可以建立为帧选择的主色,表示为DC4,作为所示的主色DC1、DC2和DC3的函数(DC4=F(DC1,DC2,DC3))。这允许为帧F4选取主色DC4的任何简化过程,或者更好地通知其中前面的帧F1,F2,F3的主色选取,帮助影响主色DC4的选取。这个简化过程如图36所示,在这里用于减少计算负担,临时的主色提取DC4*利用色度评估,然后在下一步由从前面的帧(或者前面单一的帧)提取的主色来辅助,以帮助准备DC4的选择(利用简化过程准备DC4)。施加这个过程以获得如下所述好的效果。
参考图37,示出了描绘场景内容的视频显示的简单前表面图,包括一个可能的新出现的特征,来说明按照本发明带有黑暗支持和其它感知特性的主色提取的需要。按照上面阐述的原因,主色提取经常产生和希望的感知输出不一致的结果。图37给出表征特别的场景特征V111(如绿色冷杉树)的黑色或夜色场景的描绘图。利用没有利用感知规律的主色提取,经常出现一个问题:当环境发射颜色对黑暗场景内容显示得太亮并且不细微或者不适合,从感知角度,场景内容或者特定帧的颜色经常有过大的影响。在图37给予的例子中,大量或者大多数像素,例如所示的大多数像素MP,形成大批或者大部分帧图像,这大多数像素MP平均起来具有很少或者不具有亮度。在这个例子中,黑暗对环境发射的影响可以是优选的,设计者对环境光发射优选的色度经常是这些分离的场景实体,例如在场景特征V111中的树,而不是从大多数像素MP的大部分得到的色度,其在这里说明表示具有低平均亮度的黑暗和表示环境照明的标称色度的例子,这可以从本发明看出。
实现的方法包括施加感知规律,感知规律受下面讨论的提供黑暗支持的影响,其中要探测黑暗场景,且识别大多数像素MP,或者在主色提取中考虑删除,或者对形成例如场景特征V111的场景特征的其它像素给予减少的加权。这需要利用场景内容分析CA(见图12)来识别场景元素,然后对其它不同的场景元素施加特别的处理,例如黑暗背景或者场景特征。利用感知规律也可以包括移除主色提取是不希望的场景部分,例如场景斑点或者场景假象,和/或可以包括图像特征识别,例如对场景特征V111,通过特征识别(如特征提取FE,如图3和12或者函数等价物)和对图34的讨论。
另外,新的场景特征,例如V999,一个发光闪电或者灯光的闪耀,能够优先于或者与给予的色度共存,给予的色度是利用上面给定的方法通过从场景特征V111提取普通色度而得到的。
类似地,光、明亮、白色、淡灰色的或者一致的高亮度场景可以受益于感知规律的利用。参考图38,表示描绘场景内容的视频显示的简单前表面图,来说明利用颜色支持的主色提取。图38给出一个场景,其描绘一个相关的亮度,与场景特征V333稍微自相似的区域,其可以描述云层或者瀑布飞溅的白色的水。这个场景特征V333可以主要是灰或者白,因此可以被视作包括所示的大多数像素MP,而另一个场景特征V888,例如蓝天,没有由大多数像素组成,可以为主色提取在大多数像素MP为优选的-例如,在这个例子中,环境光效设计者可能喜欢蓝色发射,而不是白色或者灰色,特别如果场景特征V888新出现,或者环境发射包含一个优选的色度(例如天空蓝色)。现有技术的问题在于,主色提取有时导致颜色低估,以及受光或者高饱和白色、灰色或者其它欠饱和颜色支配。为了校正这个问题,利用感知规律或者成套的感知规律以提供颜色支持,例如评估场景亮度和减少或者消除白色/灰色大多数像素MP的影响或者份量,而增加其它场景特征的影响,比如蓝天V888。
参考图39,示出了感知规律的三个说明性的种类,根据本即时发明,感知规律将在其中分类。如图所示,为主色提取的感知规律可以包含任一或者全部:简单色度转换SCT、作为场景内容的函数的像素加权PF8以及进一步提取/搜索EE8。这些分类意味着仅仅是说明性的,本领域技术人员将能够利用这里给出的教导来发展可替代的相似方案。
参考图40-43,给出涉及施加感知规律组的特殊方法论的例子。
首先,简单色度转换SCT,可以代表很多方法论,其全部是寻求以其它不同的色度代替或者转换最初想要的主色。特别地,如图40所示,由主色提取产生的特别选择的色度(x,y)可以在任何希望的例子中用转换的色度(x’,y’)代替,其示意性地表示简单的作为功能算符的色度转换SCT。
例如,如果特征提取FE获得一个特定的用于环境发射的主色(例如褐色),最近的与环境光源88的发光空间的主色匹配的是色度(x,y),例如紫色发射-并且最近的匹配色度从感知的立场看不是优选的-可以作出转换或者代替到色度(x’,y’),例如由橙色或者环境光产生的绿色,并且由前面引用的环境光产生电路18或者其等价物得到。这些转换可以通过色度图谱以色度形成,或许包含在查阅表格(LUT)中,或者被具体化为机器代码、软件,数据文件、算法或者是函数算符。因为这种类型的算法不必包含详尽的内容分析,因此被称为简单色度转换。
简单色度转换SCT可以训练感知规律,其相对于原本要给的发射时间,对优选的色度给出更多的发射时间。例如,如果一个特定的蓝色是优选的或者视为是期望的,它可以是简单色度转换SCT的主体或者结果,其通过映射大量相似的蓝色色度到那个特定的蓝色来支持它。本发明的简单色度转换,也可以用于优选选择在环境光源88的第二着色色空间中的色度。
按照本发明,场景内容分析CA可以用于以某种方式给像素加权函数增加功能,以允许感知规律的施加。图43表示像素加权函数的可能的函数形式。像素加权函数W可以是多变量的函数,包括任何或者所有:视频显示像素空间位置,例如,由i和j索引的;色度,例如荧光亮度等级或者主值R(这里的R可以是代表R,G,B的一个矢量)或者色度变量x和y;以及亮度自身,所示的L(或者其等价物)。通过执行特征提取FE和内容分析CA,像素加权函数W的值可以被设置以执行感知规律。因为像素加权函数W可以是功能算符,如果需要,能将它设置用来减少或者消除任何来自已选像素的影响,例如那些代表屏幕斑点、屏幕假象或者那些通过内容分析的被视为大量的像素MP,例如当对云层、水或者黑暗或者其它场景内容给予小的加权或者零加权以符合感知规律时。
参考图41,按照本发明,表示利用像素加权函数计算的均值进行主色提取,以执行两个说明性的可能的感知规律的一系列可能的步骤。一般的步骤,称为作为视频内容函数的像素加权PF8,可以包括很多比示出的两个利用箭头说明的更多可能的函数。
如图41左边指出的,以及规定指出的黑暗支持感知规律,或者黑暗支持(如图37讨论的),执行场景内容分析。一个可能的或者步骤,可选的一个第一可能步骤是估计场景亮度,例如通过为任何或者所有像素,或者指定颜色的分布,计算每一个像素的全部或者平均亮度。在这个特别的例子中,全部场景亮度被视为是低的(为了清楚省略此步骤)以及一个可能的步骤是降低所示的环境光亮度,以使产生的环境光与场景黑暗比原有的更匹配。另一个可能的步骤是消除或者减少高亮度像素的像素加权函数W的加权,表示为明亮/彩色像素的截断/减少加权。用于确定什么组成一个明亮或者彩色像素的已选阈值亮度等级是可以改变的,并且作为固定的阈值建立,或者可以是场景内容、场景历史和用户偏好的函数。作为一个例子,对于从它们之间选取的无论什么主色,所有的明亮或者彩色像素可以使它们的W值以因数3减少,从而减少环境照明亮度。降低环境照明亮度的步骤也可以为此目的操作,比如通过相应地减少像素加权函数W,同样地降低全部像素的亮度。可选择地,像素加权函数W可以通过独立的函数而减少,这个独立函数自身是特定像素亮度的函数,例如因子1/L^2,其中L是亮度。
另一个黑暗支持的可能步骤是从明亮/彩色像素的COI的可能选择,即上面引用的过程,因此,感兴趣的颜色从视频内容中像素的子集建立,该视频内容是明亮的并且或许有高的饱和度(颜色),例如,从图37的特征V111。特别地,可以选择某些色度以和上面讨论的和图31所示的相似的方式进一步分析,不管其是否要为已选择的指定颜色辨别真实颜色,或者感兴趣的颜色是否来自像素色度,其自身将变成指定颜色的分布的一部分用于进一步分析,例如为这些感兴趣的颜色(例如,为冷杉树寻找一个代表性的绿色)重复主色提取。这可以导致另一个可能的步骤,如图所示,可能的进一步提取,这将在下面进一步讨论,以及如图所示的选择主色,其可以是在从前面主色提取过程收集的感兴趣的颜色分布上进一步主色提取的结果。
如图41右侧所示,为提供指出(如图38讨论的颜色支持)的颜色支持感知规律,再次执行场景内容分析。一个可能的或者步骤,可选的一个第一可能步骤是评估场景亮度,例如通过为任何或者所有像素,或者为指定颜色的分布而计算每一个像素的全部或者平均亮度,如前述那样。在这个例子中,找到一个高的总的场景亮度。另一个可能的步骤是消除或者减小像素加权函数W的加权以获得高亮度、白色、灰色或者明亮的像素,表示为对明亮/颜色像素的截断/减少加权。这可以防止选择的主色成为柔和或者过亮的色度,其可以是过饱和或者过白或者过灰。例如,代表图38的云层V333的像素可以通过从那里设置贡献为可忽略的值或者零,从而从像素加权函数W中消除。可以选择主色或者感兴趣的颜色,例如从所示的保持色度中选择COI。执行所示的可能的进一步提取以帮助执行所示的选择主色步骤,这将在下面讨论。
上面叙述的和图42表示的进一步提取/搜寻步骤EE8可以是在最初主色提取过程后的任何经历的过程,例如利用感知规律缩小一组候选主色的过程。图42示意性地表示一系列可能的按照本发明用于主色提取的步骤,其利用用于进一步主色提取的像素加权函数,利用色度/亮度平均值计算,来执行两个说明性的可能的感知规律。所示这样两个进一步提取的例子是如图所示的静态支持感知规律和动态支持感知规律。在如图所示的左边,一个可能的静态支持感知规律可以包括一个识别步骤,然后截断/减少大多数像素的加权。这可以包括利用场景内容分析来识别如图37和38所示的大多数像素MP,利用边缘分析,形成认识或者基于视频内容的其它内容分析技术。可以为以前讨论的视为大多数像素MP的像素减少或者设置像素加权函数W为零。
然后,在下一个可能的步骤,从保持色度COI的可能的选择(如直方图方法),可以在不是大多数像素MP的像素上执行进一步主色提取,例如前面引用的从像素色度或者指定颜色分布的主色提取,通过提取任何一个:[a]一个方式(如直方图方法);[b]一个中值;[c]一个色度的加权均值;或者[d]利用像素色度和指定颜色的像素加权函数的加权平均值。在施加感知规律后,功能性地重复主色提取是相似的,例如减少给多数像素的加权。从这个主色提取过程,最后一步,可以执行为环境发射选择的主色。
另一个可能的感知规律是动态支持感知规律,在图的右边显示。所示的前两个步骤与左侧的静态支持是相同的。第三个可能的步骤是识别新出现的场景特征(例如发光闪电V111)并从所示的新出现的场景特征执行主色提取。第四个可能的步骤是从前面叙述的为环境发射的步骤之一或者全部选择色度,即这个感知规律可以包括对新出现的场景特征执行主色提取的结果的全部或者两者之一,或者在减少或者消除大多数像素MP的影响之后,从在剩余色度上执行主色提取而获得。这样,例如,新出现的闪电V999和树V111可以促成用于环境发射的一个或多个主色DC的获得,而不是在不利用感知规律的情况下直接提取主色。
这样运用感知规律,如上所述,没有预先排除色空间量化。这些方法也可以对选择场景特征重复,或者进一步搜索用于环境发射的优选的色度。
进一步的一个例子,考虑一个说明性的方案,其中视频内容包括三个场景特征的背景以及一个新出现的特征。该背景包括沙滩、天空和阳光。利用内容分析,评估场景。然后发现沙滩色调构成图像像素的47%。利用感知规律以便将这些沙滩颜色像素指定为大多数像素,以及通过像素加权函数W给出零影响,只要其它大的场景元素出现即可。为进一步提取选择天空,和利用上面给出的方法提取作为结果的蓝色被设置为感兴趣的颜色COI。然后开始真实主色提取过程(参考图31),以获得代表天空特征的真实像素色度的真实颜色。这个过程在一帧接一帧的基础上被更新(参见图16和17)。依次通过特征提取FE和利用简单色度转换SCT识别太阳,选择一个更加适合的淡黄白色度代替固有的明亮的白色给视频颜色信息。当沙滩色调像素降低到某一数值阈值之下时,另一个感知规律允许将所有这三个特征设置为主色,然后设置用于环境发射,依赖像素位置(例如提取区域,如R1,R2等),可以是分别的或者一起的。然后一个新出现的特征,一只白船,利用另一个强调新内容的感知规律,引起船的基于白色输出的主色提取,以便环境发射变成白色,直到船在视频场景中退出。当船在场景中退出时,当其代表的像素数目降低到某一百分比-或者低于已经显示中(沙滩,天空,太阳)特征在外面的部分-认为新出现的内容的不再处于控制状态的另一个感知规律允许三个背景特征再一次设置为通过它们各自的主色的环境发射。当沙滩色调像素再一次在数目上增大时,通过为它们的影响再一次允许将像素加权函数W设置为零而抑制影响。然而,另一个感知规律允许当另外两个背景特征(天空和太阳)不再出现,沙滩色调像素的像素加权函数W被恢复,经受新出现的场景特征的再一次减少。一条红色的蛇出现,像素的内容分析贡献11%给给这个特征。沙滩色调像素再一次从主色提取的效果中排除,从蛇的特征提取产生了感兴趣的颜色COI,从其的进一步主色提取和/或任意真实颜色选择过程提炼的主色,提取用于环境发射的代表蛇的颜色。
通过前面的叙述可以容易地看出,没有跟随感知规律改变主色提取的机构,主色提取可以是随时间变化的遍布青色白光内的阴影,没有代表场景内容,并对于观看者而言,具有很少的娱乐或者信息价值。像那样给出的感知规律的施加允许在参数的形式的特异性,一旦受影响,将具有显示智能指导的作用。在主色提取中施加感知规律的结果可以像前面给出的那样利用,以便那些颜色信息对第二着色色空间的环境光源88可以利用。
这样,图1所示的在L3中产生的环境光来模拟提取区域R3可以具有一个色度,其提供在那个区域的现象的感知延伸,例如所示的运动的鱼。这可以增加视觉经验并提供合适的并且不刺眼或者正常匹配的色调。
参考图44,按照本发明,示出了许多可能的功能组,响应于用户偏好,利用更多普通感知规律进行主色提取,以便产生一个优选的环境发射。
从图44可以看出,可以展开前面讨论的感知规律,特别是当考虑增加的用户偏好的时候。色度规律可以像前面叙述的那样应用,以及所示的简单色度转换SCT,作为场景内容函数的像素加权PF8,以及进一步的提取/搜索EE8。
色度规律可以通过增加明确的亮度感知规律LPR而增加,LPR的功能是仅仅利用所示的色度感知规律,进一步修改在主色提取中固有的亮度信息。
所示的时间传送感知规律TDPR可以允许较快或者较慢的时间传送或者改变环境发射的定时显像。这可以包括降低或者加速亮度和/或色度的变化,并且显示了更复杂的函数或者算符,其选择性地加速或者降低响应从功能步骤PF8读出的场景内容的环境光效,或其它因素。
象以前讨论过的一样,空间提取感知规律SEPR可以允许利用考虑像素位置(i,j)的像素加权函数W的像素色度加权平均值,但是现在这些空间的或者其它一般的感知规律也是可能明确指示用户偏好的函数,如图所示。
特别地,这组一般感知规律表示在图的右上方,即依照用户优选的一般感知规律,与显示在图的左上方的可能明确指示的用户偏好结合并且可以作为该可能明确指示的用户偏好的函数而变化,结果是显示的优选环境发射PAB。每一个从明确指示用户偏好到一般感知规律的箭头说明性地和象征性地表示特定用户偏好的作用,并包括任何和所有沟通用户偏好用于影响感知规律的特征和作用的输入,以及影响或者作用于优选的环境发射的感知规律的作用,参见定义部分。如前面叙述的,用户偏好可以包括步骤,其影响一般感知规律,和所产生的环境光的本质和特性,例如栩栩如生的,响应的,明亮的等等-与抑制,缓慢移动,黯淡的和微细的相对。
图45示意性地表示一些联系用户优选的可能的部件、方法和信号源,包括可以利用存在的部件系统的一些,这些系统可以没有为明确指示用户偏好的信息而设计。然而可以预期,远程控制设备或者相似的用户操作控制可以允许明确用户偏好的直接进入,其它用户偏好的输入可以包括有关用户操作控制的特定选择或者选择行为的探测。可以与影响一般感知规律的用户偏好的默认设置一起工作,然后,例如,可以允许更鲜明的偏好,以与从用户操作控制中选择的极值一致。
例如,可以具有明确指示的用户偏好,其通过通过用户操作控制选择的值的上下的重复改变来指示,如图45所示,远程控制RC,其中重复地和交替地驱动向上控制90和向下控制100。这可以允许例如在一组用户偏好(例如生动与平缓对比)之间切换。上/下控制可以是真正的上/下功能,或者可以是值的任何上/下变化,例如声音改变或者频道改变。可以形成控制感觉,以使得对特定参数的较高的需要事实上不能导致参数的改变,但是仅仅呈现给用户偏好信号,例如优选的生动的或者明亮的环境发射。可选择地,用户偏好可以通过在用户操作控制上选择极值来通信,如图所示,例如选择值K为33/40...970/980/990/999。或者用户偏好可以通过用户操作控制选择的K值的高转换率来输入(例如在所示的一个步骤中,K=33至511)。当获得用户偏好的方法被限制在一定范围时,其不允许利用存在的硬件和利用直观的方法输入。
其它允许指定用户偏好的输入信息的方法包括,利用已知的部件和方法在环境空间A0中感知条件,如象征性地示出,例如空间振动传感器VS能够感觉到跳舞或者高的声音,而声音传感器SS可以执行相似的功能。例如,光传感器LS在日光下,可以允许更亮或者更生动的环境发射,而黑暗可以允许对低亮度和较少程度黑暗支持和/或颜色支持,这在对图41的讨论中已经涉及。
另外,没有排除对已知的图形用户界面GUI的利用,如图所示,例如在视频显示D或者任何其它显示器上显示的选择,例如远程控制显示或者用户操作控制RC来输入用户偏好。用户偏好可以用预设的作为一个包的特征作为选择来显示,或者可以要求用户选择基于具体参数的一般感知规律,例如执行如图41所示的亮度或者黑暗支持的程度。利用参数表示或者取样改变向量或者其它函数,利用已知的技术去改变感知规律影响的程度是可能的。例如,黑暗支持的程度可以在数值范围1到10内选择,或者可以更加特殊,甚至包括与特殊现象有关的用户要采取的具体动作,例如某些色度的显示,例如用户是否想观看明亮、完全饱和的颜色或者部分饱和的颜色;或者是否想限制从环境关光源88的环境发射的总体或者最大亮度。
可选择地,利用已知的方法,可以利用任何与所示的视频内容联系的视频元数据(表示为VMD)、辅助数据或者与音频视频信号AVS联系的子代码数据。这可以作为明确指示的用户偏好,即使用户对此没有明确同意或者再同意。如此编码的数据不必是绝对的,但是可以包括任何脚本,这个脚本可以用任何这里给出的其它方法进一步规定在观看期间的利用的用户偏好。
例如,可以用与刚刚描述的方法关联的另一方法来规定用户偏好,例如通过在用户操作控制上,例如在所示的远程控制RC上做出一个选择。选择器155可以允许一个选择,包括通过接收视频元数据VMD提供的选择。还有,用户操作控制上的任何选择器或者按钮可以通信用户的偏好,或者在通过持续的或者重复的激励呼叫建立的用户偏好之间切换,例如通过持续地按压选择器155或者重复按压次数,即使不是其原本代表的功能的严格需要。例如,持续或者重复按压ON按钮或者频道选择按钮,或者重复激励呼叫,可以设置用户偏好。这个动作不会改变电源状态或者改变频道,因此能够供给存在的远程控制或者其它视频控制硬件。这样的新的解析远程控制命令的方法,在电子和软件领域是已知的,并且能够与存在的部件或者方法结合。
可选择地,通过远程控制RC或者用户操作控制设备内部的压力传感器(为了清楚,指示为155),可以执行压力检测。这也许是最直观的,可以包括解释为沟通用户偏好的复杂行为的输入。例如,一个紧密挤压的远程控制可以表示对动作和亮度、快速移动优选的环境发射的希望,而轻柔的按压表示相反的希望。可以利用已知的电子压力传感薄膜,包括战略上设置的基于它们的位置通信的传感器。例如,持续按压远程控制RC的前面,可以通信动作和亮度,包括强调从显示中心选择的主色提取并且响应新的图像特征,而持续按压远程控制的背面可以指示在优选的环境发射中的相反方面。
最后,可以用所示的已知的用户操作控制内部的运动传感器MS来建立用户偏好。例如,这样的运动传感器可以是利用电容性或者磁效应的简单的加速度计来提供运动传感。遥控的前面可以来回地倾斜,用如图右下方的重黑色箭头表示,以便通信偏好,而后面可以倾斜以表示另一种指示。运动也可以在3维方向上来回倾斜,例如,允许在明确指示用户偏好上用六个自由度。
这些输入用户优选的方法可以进一步结合。例如,在环境空间A0中,通过摇动遥控,或者重复按压选择器155,可以通过在环境条件产生的用户偏好的接受和不接受之间来回切换。这种控制类型的排列可以利用这些教导看到。
考虑一般感知规律,产生优选的环境发射的性质和特征可以是通过用户偏好得到的选择或者选项的函数。环境发射的亮度是相应于用户偏好设置的一个很重要的参数。
图46和图47表示许多波形的笛卡尔图,这些波形对于不同的说明性的用户偏好UP1、UP2、UP3、UP4、UP5和UP6的不同亮度感知规律,代表作为时间函数的亮度。第一个说明性的波形由用户偏好选择UP1(或许是默认选择)产生,代表一个来自前述的色度感知规律和主色提取的正常亮度曲线或者发送。第二波形由应用所示的用户偏好选择UP2产生,是低发射亮度的亮度曲线的平分,其可以由抑制地优选的环境发射的希望产生,并利用已知的方法容易对其产生影响。可选择地,第三说明性的波形表示由施加用户偏好选择UP3得到的亮度曲线,并仅当利用主色提取需要的标准亮度超过亮度抑制阈值LT时,提供环境发射,以便有点的亮度线代表的未表示的亮度(黑暗环境发射),而实线代表环境光产生的亮度。第四用户偏好选择UP4表示亮度上限盖或者在最大明度或者亮度限制,以便通过主色提取得到的标准亮度不能超过一个值,如亮度上限L9所示。可选择地,亮度下限L1在下一个利用用户偏好UP5的波形中显示,可以看出,其允许最小亮度,而不管通过这里指示的主色提取方法产生什么。最后,与用户偏好选择UP6联系的亮度转换LX,能够允许在用于优选的环境发射的表示亮度中的一个复杂函数改变,不只是上限、下限、阈值或者相乘。亮度转换LX可以获得任何函数形式,包括算符的利用,和作为在这种教导下可用的任何变量函数来改变表示的亮度,提高或者降低从本要达到的亮度而不利用用户偏好来改变一般感知规律。
通过图44所示的配置,作为函数的部分的简单说明是可能的,图48表示许多简单色度转换SCT,其按照明确指示的用户偏好,影响许多可能的色度感知规律(已示出)。
例如,所示的选择色度的锁定可以影响某些色度的消除或者锁定,例如血红,或者其它预选的颜色,其在被视为生动和仅当需要生动的优选的环境发射时利用的颜色中选取。这个和其它一般感知规律可以由软件设计、和/或图形用户界面和适合的存储器U2(参见图3和12)影响。
可选择地,一个较小的激烈的步骤是执行给色度改变加权(已经示出),例如通过给在像素加权函数W中选择的色度一个较小的加权,以便这个颜色在主色提取DCE的过程中被较小地影响。
一般地,简单色度转换SCT不必包含在场景中一组裸露的一个色度对另一个的简单代替,选择的主色DC的特征可以以系统的方式改变,以满足一般目标。例如明确指示用户偏好可以用于提供多种不同程度的颜色饱和度。这样,饱和度变化(已经示出)可以是一个很有效的工具,用于规定环境发射的不同的表现和特征。
图49表示通过用户偏好怎样改变图41所示的两个感知规律的执行的质量和程度。这个图象征性地表示黑暗支持感知规律和彩色支持感知规律,其分别通过用户偏好选择UP2和UP4完全使能(所示的重黑的箭头),以及部分地(或者完全地)分别由用户偏好选择UP1和UP3禁止(所示的轻的虚线箭头)。例如,指定亮度/色彩的像素,或者灰/白像素的截断或者减少加权的范围(图41所示的一个步骤)可以作为用户优选的函数改变。
图50表示按照本发明,视频元数据从音频-视频信号的提取,以影响感知规律,如前面的图45所示,但是用一个缓冲器B可以存储与视频内容或者音频内容联系的视频元数据VMD、辅助数据或者子代码数据,但这个缓冲器不是必须的。例如,缓冲器B可以提取或者获得允许指示一般感知规律的参数,这在每次和音频-视频信号AVS不同步或者视频内容的再现时利用。缓冲器可以是一个存储设备,或者是一个简单的注册表或者查找表或者其它软件函数,其允许元数据、辅助数据或者子代码或者其衍生物的呼叫,用于提供优选的环境发射,特别是利用时间传送感知规律。
图51表示许多代表亮度-或者色度(表示为亮度/x/y)作为时间的函数的波形的笛卡尔图,对不同的时间传送规律,伴随或者产生不同说明性的用户偏好UP1、UP2和UP3。第一说明性的波形由用户偏好选择UP1(或许是一个默认选择)产生,其中UP1代表一般的即时传送曲线,其来自前面所述色度感知规律和主色提取。第二波形由施加用户偏好选择UP2产生,如图所示,是一个为了降低发射参数的变化速度的减缓时间传送曲线。明显地,施加这个规律可以离开截断或者忽视后来色度和亮度变化的可能性,因为表示亮度或色度参数的时间发展延迟在相应的由主色提取正常发展的实时参数之后。可选择地,第三说明性波形表示施加用户偏好选择UP3的结果的亮度曲线,如图所示,提供了伴随加速时间传送的环境发射。这可能需要使用前面图50所示的缓冲器B。
空间提取感知规律可以由明确指示用户偏好来改变。图52给出如图34所示的视频显示的一个简单的前表面图,图表式地和说明性地表示,利用按照不同的用户优选的空间提取规律不同程度地在中心区域C提取图像特征J8-部分地提取(轻箭头,用户选择UP1),和全部地提取(重箭头,用户偏好选择UP2)。相似地,如图53所示,在遍及所有中心区域C的发生的提取的程度可以以相似的方式变化。
图53给出了图52所示的视频显示的一个简单的前表面图,但是表示按照不同的用户偏好,利用不同的空间提取感知规律不同程度地提取中心区域。
这些空间提取规律的任一个可以被影响,例如,通过改变像素加权函数W以允许或者一个更大的加权给新到达的特征(J8)或者一个区域(如中心区域C),或者允许一个较小的加权以便寄存器得到相对小的影响。中心区域C被选择用于说明性的目的,任何显示区域可以被挑选用于改变相应于用户偏好操作的处理,以影响一般感知规律。
一般地,有许多可能的方式,一些已经被记载,利用用户偏好改变感知规律的特征和影响。其中一个是影响像素加权函数W的变化以便强调或者去强调某些显示区域(i,j)、色度和亮度,作为时间、场景内容和明确指示用户偏好的函数。另一个是用参数表示这些过程以及采取希望的行动,例如为大多数像素MP低估或者减少亮度、移动色度或者改变包含的程度。本领域技术人员能够知道,在改变一个或者多个参数时,将会影响优选的环境发射,从而得到一个影响明确表示用户偏好的经济的方法。然而另一个是直接变化亮度和色度变量,例如在函数块中发现,如上所述图形用户界面和&适合的存储器U2(图3和12)。明确指示用户偏好的名称可以由软件设计者选择,利用该即时教导,这里的方法可以用于改变主色提取过程感知规律,以反映用户偏好。
例如,图41的黑色支持和颜色支持规律可以改变,以便减少明亮像素的加权程度,和/或执进一步主色提取EE8的程度,和/或减少或增加亮度的程度,其是一个软件设计者已经公式化用来取得特殊视觉效果的明确指示用户偏好的函数。类似地,执行进一步主色提取的程度通常可以调整。
一般地,环境光源88可以包含不同的扩散器效应来产生光混合,还有半透明或者其它现象,例如通过利用具有磨砂的或者光滑表面的灯结构;有棱纹的玻璃或者塑料;或者孔径结构,例如通过利用环绕独立光源的金属结构。为提供这些感兴趣的结果,可以利用任何数量的已知的扩散和散射材料或者现象,包括通过从小的悬浮颗粒利用散射获得;有暗影的塑料或者树脂,准备利用胶体、乳胶或者水珠1-5∶m或者更少,例如少于1∶m,其中包括长期的有机混合物;凝胶;和溶胶,本领域技术人员知道其的生产和制造。散射现象可以包括可视波长的瑞利散射,例如为提高环境光的蓝色进行蓝色的产生。产生的颜色可以区域定义,例如在某些区域整个带蓝色的色调或者区域色调,例如作为蓝色光产生的上端部分(环境光L1或L2)。
环境灯还可以与测角光度元件配合,例如圆柱形棱镜或者透镜,其可以形成、集成、或者插入在灯结构的内部。这可以在产生的光特征作为观看者位置的函数变化时允许特殊的效果。可以利用其它光形状和形式,包括矩形的、三角形的或者不规则形状的棱镜或者形状,它们可以放置在环境照明单元上面或者组成环境照明单元。结果是不是产生了各向同性的输出,获得的效果可以无限地改变,例如投射到环境光源周围的周围墙上、物体上和表面上的感兴趣的光频带,当场景元素、颜色和强度在视频显示单元上变化,在黑暗的房间里产生一种光显示。这种效果可以是剧院环境光元素,其作为观看者位置的函数-当观看家庭剧场时,观看者从椅子上站起来或者移动观看位置时-易感知地变化光特征,例如观看带蓝色的火花,然后是红光。测角光度元件的数目和类型几乎可以无限制的利用,包括成片的塑料、玻璃和由擦伤和适度破坏性的制造技术产生的光学效果。可以制造独特的环境灯,即使对不同的剧场效果,可以是可互换的。这些效果可以是可调制的,例如通过改变允许通过测角光度元件的光量,或者通过改变环境照明单元的不同点亮部分(例如,利用子灯或者成组的LED)。
视频信号AVS当然可以是数字数据流和包含同步比特和级联比特;奇偶校验位;错误代码;交织;特殊调制;数据串报头,和希望的元数据例如环境光效果的描述(例如“发光风暴”;“日出”等等)以及本领域技术人员将能实现的功能步骤,为了清楚,这里给出的仅仅是说明性的并不包括常规的步骤和数据。
利用这些教导允许用户偏好改变一般感知规律,如图3和12所示的图形用户界面&偏好存储器(或者任何等价功能,例如通过执行软件指令)可以用来变化环境照明系统行为,例如给希望的视频显示D的视频内容变化颜色逼真度的程度;变化华丽,包括任何荧光颜色或者色域之外的颜色被发射到环境空间的程度,或者根据视频内容的变化,环境光的变化有多快和多大,例如通过在优选的环境发射中增大变化的亮度或者其它性质。这可以包括高级内容分析,其可以为电影或者特定特征的内容制作平缓的色调。在内容中包括很多黑暗场景的视频内容,能够影响环境光源88的行为,引起环境光的暗淡发射,而华丽的或者明亮的色调可以用于某些其它的内容,象许多肉色或者明亮场景(阳光照耀的沙滩,大草原上的一只老虎,等等)。
这里给出的叙述能够使本领域技术人员利用本发明。利用本即时教导,很多配置是可能的,这些给出的配置和排列仅仅是说明性的。在这里并非所有的寻找的目标都需要演示,例如,在没有脱离本发明的情况下,第二着色色空间的特殊的转换可以从这里给出的教导中排除,特别是当着色色空间RGB和R’G’B’是类似的或者相同的时候。在实践中,教导或者权利要求的方法可以作为较大系统的一部分显示,较大系统可以是娱乐中心或者家庭剧院中心。
众所周知,这里说明性地教导的函数和计算可以利用软件或者机器码功能性地再现和模拟,本领域技术人员能够利用这些教导而不管这里教导的编码和解码的方式的控制。当为了执行像素等级统计而考虑不是严格必须将解码视频信息变成帧的时候,这尤其是真的。
本领域技术人员基于这些教导,能够更改这里教导和要求的装置和方法,例如,重新排列步骤或者数据结构以适合特殊的应用,创造可以很少的包括相似的选择说明性目的的系统。
利用上述例子公开的本发明可以利用上面一些叙述的特征来实现。同样,这里没有教导或者要求的东西将不排除其它结构或者功能元件的增加。
明显地,按照上面的教导,本发明的改变和变化是可能的。因此可以理解,本发明可以在附加的权利要求的范围内利用,而不是在这里特别的描述或者建议。
Claims (20)
1、一种利用与用户偏好一致的感知规律从在着色色空间(RGB)编码的视频内容提取主色来产生由环境光源(88)模拟的主色(DC)的方法,其包括:
[1]在所述着色色空间中,从来自所述视频内容的像素色度(Cp)执行主色提取,以通过提取下面任何一个来产生主色:[a]所述像素色度的模式;[b]所述像素色度的中值;[c]所述像素色度的色度加权平均值;[d]利用像素加权函数(W)的所述像素色度的加权平均值,所述函数是像素位置(i,j)、色度(x,y,R)和亮度(L)的任一个的函数;
[2]按照各自的感知规律,进一步得到亮度、色度、时间传送和所述主色的空间提取其中至少一个,以产生优选的环境发射,在这里所述各自的感知规律在特征上是变化的,并且通过多个可能的明确指示的用户偏好中至少一个来影响;这里所述各自的感知规律包括如下至少其中一个:
[I]从如下任何一个选择的亮度感知规律(LPR):[a]亮度增加;[b]亮度减小;[c]亮度下限;以及[4]亮度上限;[5]抑制的亮度阈值;[6]亮度转换;
[II]从下面至少一个选择的色度感知规律:[a]简单色度转换(SCT);[b]利用所述像素加权函数(PF8)的加权平均值,该像素加权函数被进一步公式表示以显示场景内容的影响,该场景内容通过在所述视频内容内评估多个像素的色度和亮度而获得;[c]利用加权平均值进行进一步主色提取(EE8),这里所述像素加权函数作为场景内容的函数被公式表示,该场景内容通过在所述视频内容中评估多个像素的色度和亮度中任何一个而获得,且所述像素加权函数被进一步公式表示,使得对于多数像素(MP)来说,最低限度地减小加权;
[III]从下述至少一个中选择时间传送感知规律(TDPR):[a]所述主色的亮度和色度中至少一个的变化率降低;[b]所述主色的亮度和色度中至少一个的变化率增加;
[IV]从下面至少一个选择空间提取感知规律(SEPR):[a]对包含新出现特征的场景内容,提供所述像素加权函数中的一个较大加权;[b]对包含新出现的特征的场景内容,提供所述像素加权函数中的一个较小加权;[c]对来自已选择的提取区域的场景内容,提供所述像素加权函数中一个较大加权;[d]对于来自已选择的提取区域的场景内容,提供所述像素加权函数中的一个较小加权;以及
[3]从所述着色色空间到第二着色色空间(R’G’B’),转换所述优选的环境发射的亮度和色度,该第二着色色空间被形成为允许驱动所述环境光源。
2、如权利要求1所述的方法,其中所述色度感知规律响应于明确指示的用户偏好,锁定选择的色度。
3、如权利要求1所述的方法,其中响应于明确指示的用户偏好,所述色度感知规律将在所述像素加权函数中给出的加权改变至选择的色度。
4、如权利要求1所述的方法,其中所述色度感知规律包括响应于明确指示的用户偏好,利用所述简单色度转换来改变所述色度的饱和度。
5、如权利要求1所述的方法,其中公式表示所述像素加权函数以通过以下步骤提供黑暗支持:[4]评估所述视频内容以确定所述场景内容中的场景具有低亮度;以及[5]执行下列任一项:[a]利用进一步公式表示的所述像素加权函数以减少明亮像素的加权和[b]发射利用相对于其原本产生的减少亮度来获得的主色;并且其中响应于明确指示的用户偏好,步骤[5]执行的程度是可变的。
6、如权利要求1所述的方法,其中公式表示所述像素加权函数以通过下列步骤提供颜色支持:[6]评估视频内容以确定所述场景内容中的场景具有高亮度;以及[7]执行下列任何一项:[a]利用进一步公式表示的所述像素加权函数以减少明亮像素的加权;以及[b]执行权利要求1的步骤[II][c];并且其中响应于明确指示的用户偏好,步骤[7]执行的程度是可变的。
7、如权利要求1所述的方法,其中所述时间传送感知规律包括从视频信号(AVS)存储视频元数据(VMD),用于至少部分地提供所述视频内容。
8、如权利要求1所述的方法,其中所述空间提取感知规律包括指定所述选择提取区域为中心区域(C)和一个边缘区域中的一个。
9、如权利要求1所述的方法,其中所述进一步主色提取在所述视频内容中对不同场景特征(J8,V111,V999)分别独立地重复,形成多个主色(DC1,DC2,DC3)以及:
[8]权利要求1的步骤[1]重复,其中在将所述多个主色中的每一个被指定为像素色度;并且其中响应明确指示的用户偏好,步骤[8]执行的程度是可变的。
10、如权利要求1所述的方法,其中所述方法包括,在步骤[1]之前,在所述着色色空间中,量化至少一些来自所述视频内容的像素色度(Cp),以形成指定颜色(AC)的分布,在步骤[1]中从所述指定颜色分布中获得至少一些所述像素色度。
11、如权利要求10所述的方法,其中所述量化包括储存所述像素色度到至少一个超像素(XP)中。
12、如权利要求10所述的方法,其中所述指定颜色中的至少一个是区域颜色矢量(V),其在所述着色色空间中不是必需的。
13、如权利要求10所述的方法,另外包括在所述指定颜色分布中确定至少一种感兴趣的颜色(COI)并且提取在那里指定的像素色度,以得到一种要指定为所述主色的真实主色(TDC)。
14、如权利要求1所述的方法,其中通过下面任何一项来指示所述明确指示的用户偏好:[1]通过用户操作控制(RC)选择的值的重复上下改变;[2]通过用户操作控制选择的极值;[3]通过用户操作控制选择的值的高变化率;[4]通过环境空间中的光传感器(LS)接收到的光;[5]通过环境空间中的声音传感器(SS)接收到的声音;[6]通过环境空间中的振动传感器(VS)接收到的振动;[7]在图形用户界面(GUI)上所做的一个选择;[8]在用户操作控制上所做的选择;[9]在用户操作控制上的一个持续激励呼叫;[10]在用户操作控制上的重复激励呼叫;[11]用户操作控制设备内的压力传感器(155)的压力探测;[12]用户操作控制设备内的运动传感器(MS)的运动探测;以及[13]与所述视频内容相关的元数据、辅助数据或者与音频-视频信号(AVS)相关的子代码数据中的任一个。
15、一种利用与用户偏好一致的感知规律从在着色色空间(RGB)编码的视频内容中提取主色来产生由环境光源(88)模拟的主色(DC)的方法,其包括:
[0]在所述着色色空间中量化至少一些来自所述视频内容的像素色度(Cp),以形成指定颜色(AC)的分布;
[1]从所述指定颜色分布中执行主色提取,通过提取下面任何一项以产生主色:[a]所述指定颜色分布的模式;[b]所述指定颜色分布的中值;[c]所述指定颜色分布的色度加权平均值;[d]利用像素加权函数(W)的所述指定颜色分布的加权平均值,所述函数是像素位置(i,j)、色度(x,y,R)和亮度(L)的任一个的函数;
[2]按照各自的感知规律,进一步得到亮度、色度、时间传送和所述主色的空间提取的至少其中一个,以产生优选的环境发射,在这里所述各自的感知规律在特征上是变化的,并且通过多个可能的明确指示的用户偏好中的至少一个来影响;这里所述各自的感知规律包括至少以下其中一个:
[I]从下面至少一个选择的亮度感知规律(LPR):[a]亮度增加;[b]亮度减小;[c]亮度下限;以及[4]亮度上限;
[II]从下面至少一个选择色度感知规律:[a]简单色度转换(SCT);[b]利用进一步公式表示为显示场景内容的影响的所述像素加权函数(PF8)的加权平均值,该场景内容通过评估所述视频内容内多个像素的色度和亮度中任一个而获得;[c]利用加权平均值的进一步主色提取(EE8),这里所述像素加权函数作为场景内容的函数公式表示,该场景内容通过评估所述视频内容中的多个像素的色度和亮度中任何一个而获得,进一步公式表示所述像素加权函数以使得对于多数像素(MP)来说,最低限度地减小加权;
[III]从下面至少一个选择时间传送感知规律(TDPR):[a]所述主色的亮度和色度的至少一个中的变化率降低;[b]所述主色的亮度和色度中至少一个中的变化率的增加;
[IV]从下面至少一个选择空间提取感知规律(SEPR):[a]对包含新出现特征的场景内容,提供所述像素加权函数中一个较大加权;[b]对包含新出现的特征的场景内容,提供所述像素加权函数中一个较小加权;[c]对来自已选择的提取区域的场景内容,提供所述像素加权函数中的一个较大加权;[d]对于来自已选择的提取区域的场景内容,提供像素加权函数中的一个较小加权;以及
[3]从所述着色色空间到第二着色色空间(R’G’B’)转换所述优选的环境发射的亮度和色度,第二着色色空间被形成为允许驱动所述环境光源。
16、如权利要求15所述的方法,其中响应于明确指示的用户偏好,所述色度感知规律将在所述像素加权函数中给出的加权改变至选择的色度。
17、如权利要求15所述的方法,其中公式表示所述像素加权函数以通过下列步骤提供黑暗支持:[4]评估所述视频内容以确定所述场景内容中的场景具有低亮度;以及[5]执行下列任一项:[a]利用进一步公式表示的所述像素加权函数以减少明亮像素的加权;以及[b]发射利用相对于其原本产生的减少亮度来获得的主色;并且其中响应明确指示的用户偏好,步骤[5]执行的程度是可变的。
18、如权利要求15所述的方法,其中公式表示所述像素加权函数以通过下列步骤提供颜色支持:[6]评估视频内容以确定所述场景内容中的场景具有高亮度;以及[7]执行下列任何一项:[a]利用进一步公式表示的所述像素加权函数以减少明亮像素的加权;以及[b]执行权利要求1的步骤[II][c];并且其中响应明确指示的用户偏好,步骤[7]执行的程度是可变的。
19、如权利要求15所述的方法,其中所述进一步主色提取在所述视频内容中对不同场景特征(J8,V111,V999)分别独立地重复,形成多个主色(DC1,DC2,DC3)以及:
[8]权利要求1的步骤[1]重复,其中在将所述多个主色中的每一个被指定为像素色度;并且其中响应于明确指示的用户偏好,步骤[8]执行的程度是可变的。
20、一种利用与用户偏好一致的感知规律从在着色色空间(RGB)编码的视频内容中提取主色来产生由环境光源(88)模拟的主色(DC)的方法,其包括:
[0]在所述着色色空间中量化至少一些来自所述视频内容的像素色度(Cp),以形成指定颜色(AC)的分布;
[1]从所述指定颜色分布中执行主色提取,通过提取下面任何一项以产生主色:[a]所述指定颜色分布的模式;[b]所述指定颜色分布的中值;[c]所述指定颜色分布的色度加权平均值;[d]利用像素加权函数(W)的所述指定颜色分布的加权平均值,所述函数是像素位置(i,j)、色度(x,y,R)和亮度(L)的任一个的函数;
[2]按照各自的感知规律,进一步得到亮度、色度、时间传送和所述主色的空间提取的至少其中一个,以产生优选的环境发射,在这里所述各自的感知规律在特征上是变化的,并且通过多个可能的明确指示的用户偏好中的至少一个来影响;这里所述各自的感知规律包括至少以下其中一个:
[I]从下面至少一个选择的亮度感知规律(LPR):[a]亮度增加;[b]亮度减小;[c]亮度下限;以及[4]亮度上限;
[II]从下面至少一个选择色度感知规律:[a]简单色度转换(SCT);[b]利用进一步公式表示为显示场景内容的影响的所述像素加权函数(PF8)的加权平均值,该场景内容通过评估所述视频内容内多个像素的色度和亮度中任一个而获得;[c]利用加权平均值的进一步主色提取(EE8),这里所述像素加权函数作为场景内容的函数公式表示,该场景内容通过评估所述视频内容中的多个像素的色度和亮度中任何一个而获得,进一步公式表示所述像素加权函数以使得对于多数像素(MP)来说,最低限度地减小加权;
[III]从下面至少一个选择时间传送感知规律(TDPR):[a]所述主色的亮度和色度的至少一个中的变化率降低;[b]所述主色的亮度和色度中至少一个中的变化率的增加;
[IV]从下面至少一个选择空间提取感知规律(SEPR):[a]对包含新出现特征的场景内容,提供所述像素加权函数中的一个较大加权;[b]对包含新出现的特征的场景内容,提供所述像素加权函数中的一个较小加权;[c]对来自已选择的提取区域的场景内容,提供所述像素加权函数中的一个较大加权;[d]对于来自已选择的提取区域的场景内容,提供像素加权函数中的一个较小加权;以及
[3a]从所述着色色空间到未着色色空间(XYZ)转换所述主色;
[3b]从所述未着色色空间到所述第二着色色空间转换所述主色,通过以下辅助
[3c]利用第一和第二三色主矩阵(M1,M2),矩阵转换所述着色色空间和第二着色色空间的原色(RGB,R’G’B’)到所述未着色色空间;和通过所述着色色空间的原色、所述第一三色矩阵以及所述第二三色矩阵的逆矩阵(M2)-1进行矩阵相乘,得到所述颜色信息到所述第二着色色空间(R’G’B’)的转换。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US58419804P | 2004-06-30 | 2004-06-30 | |
US60/584,198 | 2004-06-30 | ||
US60/685,016 | 2005-05-26 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN1977569A true CN1977569A (zh) | 2007-06-06 |
Family
ID=38126392
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN 200580022075 Pending CN1977569A (zh) | 2004-06-30 | 2005-06-28 | 来自视频内容的环境照明和伴随受感知规律和用户偏好影响的发射 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN1977569A (zh) |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102170530A (zh) * | 2010-02-25 | 2011-08-31 | 夏普株式会社 | 信号处理设备及方法、固态图像捕获设备和电子信息器件 |
CN102461337A (zh) * | 2009-06-09 | 2012-05-16 | 皇家飞利浦电子股份有限公司 | 用于自动获取和修改适用于多个可控照明网络的个人偏好的系统和装置 |
CN102737678A (zh) * | 2011-04-12 | 2012-10-17 | 上海广茂达光艺科技股份有限公司 | 一种灯光场景多媒体文件格式及其存储、同步播放方法 |
CN101849435B (zh) * | 2007-11-06 | 2014-04-30 | 皇家飞利浦电子股份有限公司 | 光控制系统和用于自动呈现照明气氛的方法 |
CN103906463A (zh) * | 2011-10-28 | 2014-07-02 | 皇家飞利浦有限公司 | 具有监测功能的照明系统 |
CN104464741A (zh) * | 2014-12-29 | 2015-03-25 | 中山大学花都产业科技研究院 | 一种音频信号转视觉颜色信息的方法及系统 |
CN105939560A (zh) * | 2015-03-04 | 2016-09-14 | 松下知识产权经营株式会社 | 照明控制装置、照明系统以及程序 |
CN112913330A (zh) * | 2018-11-01 | 2021-06-04 | 昕诺飞控股有限公司 | 选择一种从视频内容中提取颜色以产生光效果的方法 |
CN112913331A (zh) * | 2018-11-01 | 2021-06-04 | 昕诺飞控股有限公司 | 根据视频和音频权重而基于视频和音频信息来确定光效果 |
CN113297419A (zh) * | 2021-06-23 | 2021-08-24 | 南京谦萃智能科技服务有限公司 | 视频知识点确定方法、装置、电子设备和存储介质 |
-
2005
- 2005-06-28 CN CN 200580022075 patent/CN1977569A/zh active Pending
Cited By (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101849435B (zh) * | 2007-11-06 | 2014-04-30 | 皇家飞利浦电子股份有限公司 | 光控制系统和用于自动呈现照明气氛的方法 |
CN102461337A (zh) * | 2009-06-09 | 2012-05-16 | 皇家飞利浦电子股份有限公司 | 用于自动获取和修改适用于多个可控照明网络的个人偏好的系统和装置 |
CN102461337B (zh) * | 2009-06-09 | 2014-10-29 | 皇家飞利浦电子股份有限公司 | 用于自动获取和修改适用于多个可控照明网络的个人偏好的系统和装置 |
CN102170530B (zh) * | 2010-02-25 | 2014-06-18 | 夏普株式会社 | 信号处理设备及方法、固态图像捕获设备和电子信息器件 |
CN102170530A (zh) * | 2010-02-25 | 2011-08-31 | 夏普株式会社 | 信号处理设备及方法、固态图像捕获设备和电子信息器件 |
CN102737678A (zh) * | 2011-04-12 | 2012-10-17 | 上海广茂达光艺科技股份有限公司 | 一种灯光场景多媒体文件格式及其存储、同步播放方法 |
CN102737678B (zh) * | 2011-04-12 | 2016-12-07 | 上海广茂达光艺科技股份有限公司 | 一种灯光场景多媒体文件格式及其存储、同步播放方法 |
CN103906463A (zh) * | 2011-10-28 | 2014-07-02 | 皇家飞利浦有限公司 | 具有监测功能的照明系统 |
CN104464741B (zh) * | 2014-12-29 | 2018-04-06 | 中山大学花都产业科技研究院 | 一种音频信号转视觉颜色信息的方法及系统 |
CN104464741A (zh) * | 2014-12-29 | 2015-03-25 | 中山大学花都产业科技研究院 | 一种音频信号转视觉颜色信息的方法及系统 |
CN105939560A (zh) * | 2015-03-04 | 2016-09-14 | 松下知识产权经营株式会社 | 照明控制装置、照明系统以及程序 |
CN105939560B (zh) * | 2015-03-04 | 2019-11-05 | 松下知识产权经营株式会社 | 照明控制装置、照明系统以及程序记录介质 |
CN112913330A (zh) * | 2018-11-01 | 2021-06-04 | 昕诺飞控股有限公司 | 选择一种从视频内容中提取颜色以产生光效果的方法 |
CN112913331A (zh) * | 2018-11-01 | 2021-06-04 | 昕诺飞控股有限公司 | 根据视频和音频权重而基于视频和音频信息来确定光效果 |
CN112913330B (zh) * | 2018-11-01 | 2024-04-02 | 昕诺飞控股有限公司 | 选择一种从视频内容中提取颜色以产生光效果的方法 |
CN112913331B (zh) * | 2018-11-01 | 2024-04-16 | 昕诺飞控股有限公司 | 根据视频和音频权重而基于视频和音频信息来确定光效果 |
CN113297419A (zh) * | 2021-06-23 | 2021-08-24 | 南京谦萃智能科技服务有限公司 | 视频知识点确定方法、装置、电子设备和存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN1977542A (zh) | 利用感知规律提取主色以产生来自视频内容的环境光 | |
CN1977569A (zh) | 来自视频内容的环境照明和伴随受感知规律和用户偏好影响的发射 | |
CN106464892B (zh) | 用于对hdr图像进行编码的方法和装置以及用于使用这样的编码图像的方法和装置 | |
KR101170408B1 (ko) | 렌더링되지 않은 컬러 공간을 통해 맵핑된 비디오 콘텐츠로부터 유도된 주변 광에 관한 지배적인 컬러 추출 | |
TWI538474B (zh) | 影像資料轉換的方法與設備 | |
CN103180891B (zh) | 显示器管理服务器 | |
CN1193318C (zh) | 图像显示系统 | |
CN1026928C (zh) | 彩色图象增强的系统与方法 | |
KR101044709B1 (ko) | 주변광원에 의해 모방될 렌더링된 컬러 공간에서 인코딩된 비디오 컨텐츠를 추출하고 처리하기 위한 방법 | |
KR101117591B1 (ko) | 렌더링되지 않은 컬러 공간을 통해 맵핑된 비디오 컨텐츠로부터 유도된 환경광을 위한 플리커가 없는 적응성 임계 | |
JP2008505384A (ja) | ビデオ・コンテンツに由来し、知覚ルール及びユーザ嗜好によって影響される放送による周辺光発生 | |
JP2007521775A (ja) | ビデオ内容のサブサンプリングによって導出され、未レンダリング色空間を経由してマッピングされる環境光 | |
CN1479915A (zh) | 图像显示系统、投影机、图像处理方法与信息存储媒体 | |
KR20130141920A (ko) | 색역 변환 시스템 및 방법 | |
CN100559850C (zh) | 用于主色提取的方法 | |
JP2020109914A (ja) | 情報処理装置および情報処理方法 | |
WO2021069282A1 (en) | Perceptually improved color display in image sequences on physical displays | |
Laine et al. | Illumination-adaptive control of color appearance: a multimedia home platform application | |
JP2024039874A (ja) | 画像処理装置、画像処理装置の制御方法およびプログラム | |
JP2004064666A (ja) | 画像処理装置および画像処理方法ならびにプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C02 | Deemed withdrawal of patent application after publication (patent law 2001) | ||
WD01 | Invention patent application deemed withdrawn after publication |