CN103988504B - 用于子像素渲染的图像处理设备和方法 - Google Patents

用于子像素渲染的图像处理设备和方法 Download PDF

Info

Publication number
CN103988504B
CN103988504B CN201280058535.3A CN201280058535A CN103988504B CN 103988504 B CN103988504 B CN 103988504B CN 201280058535 A CN201280058535 A CN 201280058535A CN 103988504 B CN103988504 B CN 103988504B
Authority
CN
China
Prior art keywords
pixel
sub
ray
beholder
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201280058535.3A
Other languages
English (en)
Other versions
CN103988504A (zh
Inventor
朴柱容
南东暻
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electronics Co Ltd
Original Assignee
Samsung Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Samsung Electronics Co Ltd filed Critical Samsung Electronics Co Ltd
Publication of CN103988504A publication Critical patent/CN103988504A/zh
Application granted granted Critical
Publication of CN103988504B publication Critical patent/CN103988504B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/0093Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for monitoring data relating to the user, e.g. head-tracking, eye-tracking
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B30/00Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images
    • G02B30/20Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes
    • G02B30/26Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes of the autostereoscopic type
    • G02B30/27Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes of the autostereoscopic type involving lenticular arrays
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/144Processing image signals for flicker reduction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/15Processing image signals for colour aspects of image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/302Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/324Colour aspects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/366Image reproducers using viewer tracking

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Processing Or Creating Images (AREA)

Abstract

提供了一种用于子像素渲染的图像处理设备和方法。具有图像处理设备的显示器可基于与观看者的眼睛的位置相关的子像素的位置来调整子像素的像素值。图像处理设备可基于子像素的调整后的像素值在光场显示器上显示三维(3D)图像。

Description

用于子像素渲染的图像处理设备和方法
技术领域
一个或更多个实施例涉及一种图像处理设备和方法,更具体地,涉及一种可基于观看者的观看位置来渲染子像素的图像处理设备和方法。
背景技术
用于针对人类的双眼显示不同图像的三维(3D)图像显示设备分为立体型和自动立体型。立体显示器通过时间划分、使用偏振光的图像划分、用于区分原色的波长的波长划分等来过滤期望的图像,以便当观看者佩戴着合理设计的眼镜时向观看者提供3D效果,其中,所述眼镜针对每只眼睛相似地过滤不同地划分的图像。立体显示器可实现使用视差屏障或柱状透镜在预定空间内观看到不同的图像。自动立体显示器具有减轻必须佩戴立体显示器所必需的眼镜的不便的优点。
具体地,自动立体显示器可包括例如再现呈现多个底层光场的一般光场的显示器,以制造3D效果,其中,所述多个底层光场选择性地再现可从不同的方向观察到的不同的图像。
发明内容
技术方案
在一个或更多个实施例中提供了一种显示设备,所述显示设备包括:光场确定单元,用于基于观看将要显示在显示器上的内容的观看者的确定的位置来认定将要呈现给观看者的第一光场;光场转换单元,用于基于观看者的确定的位置将认定的第一光场转换为与将要显示在显示器上的内容相关联的光场。
在一个或更多个实施例中提供了一种显示设备,所述显示设备包括:代表射线确定单元,用于基于观看者的确定的位置来确定包括在显示器中的子像素的代表射线;参考信息确定单元,用于基于观看者的确定的位置和子像素的确定的位置来确定参考信息;子像素渲染单元,用于基于代表射线和参考信息来调整子像素的信号电平。
在一个或更多个实施例中提供了一种显示方法,所述显示方法包括:基于观看将要显示在显示器上的内容的观看者的确定的位置来认定将要呈现给观看者的第一光场;基于观看者的确定的位置将认定的第一光场转换为与将要显示在显示器上的内容相关联的光场。
在一个或更多个实施例中提供了一种显示方法,所述显示方法包括:基于观看者的确定的位置来确定包括在显示器中的子像素的代表射线;基于观看者的确定的位置和子像素的确定的位置来确定参考信息;基于代表射线和参考信息来调整子像素的信号电平。
实施例的其它方面部分将在随后的描述中被阐述,部分将从所述描述中变得清楚,或者可通过本公开的实践而被获知。
附图说明
通过下面结合附图的对实施例的描述,这些和/或其它方面将变得清楚和更加易于理解,其中:
图1示出根据一个或更多个实施例的显示设备;
图2示出根据一个或更多个实施例的图像处理设备;
图3示出根据一个或更多个实施例的图像处理设备;
图4示出根据一个或更多个实施例的例如显示设备的沿多个方向输出射线的光场显示器;
图5示出根据一个或更多个实施例的从显示器的两个3D像素沿水平方向输出且由观看者的左眼和右眼观察到的射线的示例;
图6示出根据一个或更多个实施例的从显示器的单个3D像素沿水平方向输出且由观看者的左眼和右眼观察到的射线的示例;
图7示出根据一个或更多个实施例的使用包括在显示器中的3D像素例如沿水平方向调整子像素的信号电平的处理;
图8示出根据一个或更多个实施例的从子像素输出的中心射线穿过光学过滤器的结果;
图9示出根据一个或更多个实施例的在从子像素输出的中心射线之中确定代表射线的处理;
图10示出根据一个或更多个实施例的例如沿水平方向调整显示器的子像素的信号电平的处理;
图11a至图11d示出根据一个或更多个实施例的指示子像素的响应特性的可视度图;
图12示出根据一个或更多个实施例的指示针对诸如图11a至图11d的可视度图中的每种颜色的呈现相同颜色的子像素的最大值的可视度图;
图13示出根据一个或更多个实施例的指示诸如图11a至图11d的可视度图中的呈现相同颜色的子像素之中相邻的子像素的总和的最大值的可视度图;
图14示出根据一个或更多个实施例的诸如图12和图13的可视度图中的绿色子像素的建模图;
图15示出根据一个或更多个实施例的通过诸如图14的建模图的建模图来调整子像素的信号电平的处理;
图16示出根据一个或更多个实施例的图像处理方法;
图17示出根据一个或更多个实施例的图像处理方法。
具体实施方式
现在将详细参照在附图中示出的一个或更多个实施例,其中,相似的标号始终指示相似的元件。就此而言,本发明的实施例可按照许多不同形式实施,并且不应该被解释为限于在此阐述的实施例。因此,以下仅通过参照附图来描述实施例,以解释本发明的各方面。
虽然自动立体显示器提供了如上面所讨论的超过立体显示器的优点,但是发现存在对于当缩减自动立体显示器中的分辨率的下降时可拓宽观看区域的渲染技术、以及对于沿所有方向(例如,向前、向后、向左、向右、向上、向下)提供天然视差的选择性的期望。还发现自动立体显示器也具有可能需要大量视点(view)来拓宽观看区域且在确定的最佳观看距离之外的位置图像的质量会显著降低的缺点。
在此,在一个或更多个实施例中,除了可显示至少三个视点图像(仅作为示例)的多视点显示器之外,显示器可包括可再现一般光场的整体成像显示器。与从对象的表面上的一点沿各个方向产生或反射光的真实对象相似,整体成像显示器可利用时差产生图像沿各个方向再现光射线或光场。整体成像显示器可使自然图像能够在没有观看距离限制的情况下被观看。然而,发现存在可包括当无法确保足够量的沿各个方向的光时整体成像显示器可能无法显示立体的缺点,且发现当方向之间的间隔不足够窄时可能难以提供自然运动视差。
还发现确保观看区域可能出现问题。在一个或更多个实施例中,射线之间的间隔或者射线的场可小于或等于用于在整体成像显示器中显示自然场景的预定水平。然而,发现用于拓宽观看区域和保持间隔的射线数量的增加可导致分辨率的降低。发现由于分别沿不同方向显示不同视点的射线可被在最佳观看距离或位置外的位置上的观看者观看到,多视点显示器会具有显示图像的局限。关于射线的数量,还发现多视点显示器还会具有下述问题:会期望射线之间的狭窄间隔以用于平滑的图像转换,且扩展观看区域所需的若干条射线会导致分辨率的降低。
图1示出根据一个或更多个实施例的显示设备。所述显示设备可包括例如传感器101、图像处理设备102和光场显示器103。在此,根据实施例,由于描述的元件可被包括在单个封装中,也可均与一个或更多个描述的元件被包括在多个封装中,因此术语设备应该被认为可与术语系统互换。因此,传感器101可在图像处理设备102内部或外部,且相似地,图像处理设备102可在包括光场显示器103的显示设备内部或外部。
简要地,关于光场显示器103且仅作为示例,图4展示了这样的光场显示器的输出。图4示出根据一个或更多个实施例的沿多个方向输出射线的光场显示器。以下,将在图1的讨论内简要地讨论图4-图6和图8-图9,以提供下文中所使用的术语的另外的解释。
参照图4,光场显示器可包括包括多个子像素的面板401。来自各个子像素的光射线可穿过光学过滤器402。在此,光学过滤器402可包括柱状透镜、视差屏障、微透镜阵列等。然而,下面的一个或更多个实施例不局限于光学过滤器402,并且可包括可被布置在显示器前面或后面的所有类型的光学过滤器。在这种情况下,光学过滤器402可包括3D像素,从多个子像素中的每一个子像素输出的射线403穿过所述3D像素。也就是说,当光学过滤器402被布置在显示器前面时,从多个子像素中的每一个子像素输出的至少一条射线403可进入单个3D像素。在实施例中,仅作为示例,可存在诸如图8中所示的多个子像素,所述多个子像素的射线被配置为穿过单个3D像素。从多个子像素中的每一个输出的射线403可通过3D像素发射。当光学过滤器403被布置在显示器后面时,从单个3D像素输出的射线可进入至少一个子像素。穿过至少一个子像素中的每一个的射线可沿预定方向向外发射。通过上面描述的处理,光场显示器可呈现3D图像。
例如,射线403可沿15×4个方向从包括在光学过滤器402中单个3D像素输出。也就是说,单个3D像素可沿多个方向输出具有不同信息的射线403,且3D像素可呈现3D空间中的点。在实施例中,仅作为示例,15个水平方向可呈现15个沿水平方向的潜在的视差,且4个垂直方向可呈现4个沿垂直方向的潜在的视差,注意替代物同样可用。潜在地,在该实施例中,可由针对该示例单个3D像素的射线403中的每一条射线投影不同的视差图像。
如图4中所示,射线403可实际上具有随着行进而扩展的各个宽度,使得来自一个或更多个射线403的显示光前面的空间中的特定点可分别被观察到具有各个潜在强度,这取决于在哪里进行观察。在光学过滤器402是柱状透镜阵列的示例中,如果具有特定亮度的子像素产生的光束入射到柱状透镜阵列的特定透镜的中心位置,则光束可穿过具有最小的折射的特定透镜,且保持的亮度比子像素产生的光束入射到特定透镜的周边位置的情况下大,其中,特定透镜的周边位置会更大幅度地折射子像素产生的光束,且具有较小的保持的亮度。在一个或更多个实施例中,诸如当光学过滤器是柱状透镜时,具有所述最小的亮度损失和/或最小的折射的(仅作为示例)穿过/通过光学过滤器402的子像素产生的光束可被称为中心射线,其中,所述光束可代表从子像素输出的最大光强度。
此外,使用仅作为示例的图8,例如当光学过滤器802是柱状透镜阵列时,存在示出的可从每个子像素穿过光学过滤器802的各个透镜的多个中心射线。在实施例中,仅作为示例,图8示出可存在一组12个子像素,所述子像素的光束均可被认为能够穿过特定的单个透镜或者由光学透镜802呈现的3D像素产生中心射线。仅作为示例,图8还示出来自不同的透镜或3D像素的中心射线即使是相同的颜色,也可取决于其产生的各个亮度水平而潜在地可被观看者的眼睛观察到,这可被用于一个或更多个实施例,诸如在针对图15的讨论中。
因此,参照回图4,可基于光学过滤器402来预定从包括在显示器的面板401中的子像素输出的中心射线的方向。根据子像素和可观察到中心射线的观看者的眼睛的相对位置,可在方向被预定的中央射线之中确定哪个中心射线与认定的参考信息相同或最相似。在图4中,当从包括在显示器的面板401中的子像素输出的中心射线穿过光学过滤器402的3D像素时,通过3D像素输出的中心射线中的一条射线可被确定为参考射线或代表射线。在这种情况下,在图4中,穿过3D像素的射线403可被称为中心射线,且射线403中的一条射线可基于来自射线403的可观察光与观看者的眼睛的最终接近被确定为代表射线。随后可基于确定的代表射线来执行子像素的渲染。
简要地,且仅作为另一示例,图5示出根据一个或更多个实施例的从显示器的两个3D像素沿水平方向输出且由观看者的左眼和右眼观察到的射线的示例。
参照图5,当观看者使用左眼502和右眼503观看3D空间中的对象501时,3D像素504和3D像素505可产生沿多个方向的射线。通过3D像素504和3D像素505输出的射线可被左眼502和右眼503观看到。
事实上,在通过3D像素504和3D像素505输出的射线中,直接到达观看者的左眼502或到达最邻近于左眼502的位置的射线可被确定为3D像素504和3D像素505的针对左眼502的代表射线。相反地,在通过3D像素504和3D像素505输出的射线中,直接到达观看者的右眼503或到达最邻近于右眼503的位置的射线可被确定为3D像素504和3D像素505的针对右眼503的代表射线。
作为进一步的示出,且仅作为示例,图8示出根据一个或更多个实施例的来自子像素的中心射线穿过光学过滤器的结果。
参照图8,中心射线可从包括在显示器中的子像素801输出。在从子像素801输出的射线之中,中心射线可沿可由观看者观察到最大亮度水平的方向输出。也就是说,例如穿过光学过滤器802的中心射线的最终行进方向可指示针对子像素801的最佳观看方向。在这种情况下,可从子像素801输出至少一条中心射线。
从子像素801输出的中心射线可穿过光学过滤器802(例如视差屏障或柱状透镜)。穿过光学透镜802的中心射线最终可被观看者的眼睛803感知到。以上描述的3D像素可与中心射线穿过光学处理器802的位置相应。
在这种情况下,基于观看者的眼睛的位置,图像处理设备可在从包括在显示器中的子像素801输出的中心射线之中确定与可由观看者感知到的中心射线相应的代表射线。在此,可基于例如由光学过滤器802预确定的预定中心射线方向再次从中心射线之中确定代表射线。当光学过滤器802未被提供时,可在从子像素801输出的中心射线之中确定代表射线。可针对每个子像素单独地确定代表射线。
作为进一步的示出,且仅作为示例,图9示出根据一个或更多个实施例的在从子像素输出的中心射线之中确定代表射线的处理。
参照图9,可从一组子像素之中的红色子像素901输出多个中心射线。在这种情况下,当输出的中心射线穿过显示器的光学过滤器802时,可确定所述中心射线行进的各个方向。在从红色子像素901输出三个中心射线a1、a2和a3的情况下,确定将会被观看者感知到的中心射线可与中心射线a2相应。也就是说,从子像素输出的特定中心射线可被观察者的眼睛803观察到,而从子像素输出的其它中心射线不会被观看者的眼睛903观察到。
如提到的,虽然中心射线a2无法直接到达观看者的眼睛903,但是由于中心射线a2的宽度,观看者可感知到中心射线a2。此外,中心射线可与指示可被观看者感知到最大亮度水平的射线相应,使得虽然中心射线无法直接到达观看者的眼睛903,但是由于中心射线的由此产生的宽度,来自具有降低的水平的亮度的中心射线的一些光实际上可到达观看者的眼睛903。
因此,图像处理设备可将中心射线a2认定为针对红色子像素901的代表射线。在此,随着观看者移动,观看者的眼睛903的位置改变,红色子像素901的代表射线可再次改变。通过上述处理,图像处理设备可实时追踪观看者的眼睛903的位置,并且可基于追踪到的观看者的眼睛903的位置来针对包括在显示器中的所有子像素确定代表射线。
参照回图1,传感器101可测量通过光场显示器103观看内容的观看者的眼睛的位置。在这种情况下,传感器101可包括可通过捕捉观看者的眼睛来计算三维(3D)空间坐标(x,y,z)的相机。例如,相机可包括至少一个可见光波段相机、至少一个红外相机和至少一个深度相机中的至少一个。在这种情况下,相机可被插入光场显示器103中,或者可与光场显示器103连接或分离。在一个或更多个实施例中,作为检测眼睛的3D位置的结果,当眼睛被确定为处于可检测到的空间中时,通过自适应地渲染在该3D位置将会观看到的子像素,3D图像可被自由观看,而不论最佳观看距离如何。此外,可防止由与期望的射线邻近的射线导致的射线之间的串扰。
图像处理设备102可产生为了3D效果呈现将要例如同时显示给观看者的不同的图像的多个像素信号/值,和/或调整所述产生的多个像素信号/值以呈现与适合检测到的观看者的眼睛的位置的光场相应的视点图像。
仅作为示例,进一步参考图9,图像处理设备可基于代表射线a2和与连接观看者的眼睛903和红色子像素901的虚拟线相应的参考信息904之间的差值来渲染红色子像素901。具体的,可基于参考射线a2的角度和连接观看者的眼睛903和红色子像素901的虚拟线的角度之间的差值来调整红色子像素901的像素值。
简要地,且仅作为示例,图6示出根据一个或更多个实施例的从显示器的单个3D像素沿水平方向输出且由观看者的左眼和右眼观察到的射线。
参照图6,当从单个3D像素601输出射线时,与视差主区域相应的部分射线的位置可到达观看者的左眼602。在这种情况下,与视差子区域相应的部分射线可达到观看者的右眼603。也就是说,图6示出具有狭窄的主区域的显示设备,使得通过使用与可被形成为重复地邻近主区域的视差子区域相应的射线配置光场,实际视角得以拓宽。图6还示出在从单个3D像素601输出的射线之中,哪条射线可被观看者的左眼602观看到,哪条射线可被观看者的右眼603观看到。当针对包括在显示器中的所有3D像素确定了可被观看者的双眼观看到的射线时,图像处理设备可确定图像可被观看者的双眼观看到。
换句话说,当观看者的眼睛的位置被确定时,图像处理设备可认定观看者的眼睛可观看到的射线。图像处理设备可基于眼睛的位置对观看者的眼睛可观看到的射线指定合适的像素值,以使得观看者能够观看到自然的3D图像。
参照回图1,图像处理设备102可认定哪个光场与观看者的眼睛的位置相应(即,哪个视点图像应该被观看者观看到)。图像处理设备102可将认定的光场转换为可由光场显示器103呈现的光场。在这种情况下,转换光场的处理可指示将要执行的采样处理,以使用较少的可由光场显示器103呈现的光场来呈现较多的光场。在此,在这里的一个或更多个实施例中讨论的调整多个像素信号/值的处理可被合并到产生多个像素信号/值的步骤中,或者可在对将由光场显示器显示以产生3D效果的不同图像进行考虑之前或之后实现。
最终,转换的光场可被显示在光场显示器103上。观看者可通过光场显示器103来观看期望的3D图像,而不论观看位置如何。也就是说,即使观看者移动到另一位置并观看内容,图像处理设备102也可显示适合观看者的改变的位置的视点图像。
图2示出根据一个或更多个实施例的诸如图像处理设备102的图像处理设备200。
参照图2,图像处理设备200可包括例如光场确定单元201和光场转换单元202。
光场确定单元201可认定哪个光场与观看者的眼睛的位置相应(即,哪个视点图像应该被观看者观看到)。例如,光场确定单元201可使用代表射线来认定光场,其中,如上面所讨论的,代表射线与从包括在显示器中的子像素输出的中心射线之中基于观看者的眼睛的位置可被观看者感知到的中心射线相应。在一个或更多个实施例中,例如,可由诸如图1的传感器101对观看者的眼睛的位置进行连续追踪。
因此,中心射线可指示从子像素输出的射线之中沿用于最佳观看的方向的射线,且代表射线可指示子像素的中心射线之中基于用户的位置最有可能被观看者的眼睛观察到的中心射线(即使观看者移动到另一位置)。也就是说,从子像素输出的至少一条中心射线可指示针对基于观看者的眼睛的位置确定的代表射线的候选组。当由布置在显示器前面的光学过滤器预定了从子像素输出的中心射线的方向时,可从沿预定方向输出的中心射线之中选择代表射线。当基于从布置在显示器后面的光学过滤器产生的射线的方向将从子像素输出的中心射线确定为沿至少一个方向输出时,可从与所述至少一个方向相应的中心射线之中选择代表射线。
因此,光场转换单元202可基于观看者的眼睛的位置将认定的光场转换为与将要显示在显示器上内容相关联的光场。例如,光场转换单元202可基于包括在显示器中的子像素的位置和观看者的眼睛的位置来产生子像素的参考信息。光场转换单元202可使用参考信息和代表射线将认定的光场转换为与将要显示在显示器上的内容相关联的光场。由于将要物理地显示在显示器上的光场会受到限制,因此可期望可由观看者感知到的认定的光场被转换为与将要显示在显示器上的内容相关联的光场。在这种情况下,可从将要显示在多个视点图像中的内容之中选择显示的光场。
具体地,光场转换单元202可基于代表射线的角度和参考信息的角度之间的确定的差值,将认定的光场转换为与将要显示在显示器上的内容相关联的光场,其中,参考信息与连接子像素的位置和观看者的眼睛的位置的虚拟线相应。在这种情况下,子像素的参考信息可包括基于子像素的水平位置和观看者的眼睛的水平位置的参考信息。此外,子像素的参考信息可包括基于子像素的垂直位置和观看者的眼睛的垂直位置的参考信息。
在这种情况下,可通过渲染子像素来执行转换认定的光场的处理。具体地,可基于参考信息的角度和代表射线的角度来执行转换认定的光场的处理。光场转换单元202可通过将虚拟线的角度和代表射线的角度之间的差值应用于针对每个像素设置的可视度信息来调整每个像素的亮度值。可参照观看者的左眼和右眼两者来实时执行转换认定的光场的处理。
具体地,代表射线可指示从子像素输出的中心射线中的一条射线,且指示亮度的最佳水平。当基于子像素的位置和观看者的眼睛的位置的参考信息与代表射线不相应时,光场转换单元202可通过增大与每个子像素的最大亮度值相应的可视度信息来渲染子像素。也就是说,当参考信息和代表射线之间的差值增大时,光场转换单元202可增加子像素的亮度值。在此,实际信号值可在有限的范围之内增加。因此,当子像素的亮度值增加至最大值时,
子像素的原本的亮度值可被保持。当子像素的亮度值被增加至小于最大值的值时,子像素的亮度值可与子像素的亮度值被增加至最大值的情况成比例减小。
根据一个或更多个实施例,图像处理设备200可校正当第一光场被转换为有限数量的第二光场时会发生的色彩失真。此外,图像处理设备200可校正屏幕上的亮度不均匀,例如,亮度摩尔纹以及类似的当第一光场被转换为有限数量的第二光场时会发生的亮度不均匀。
图3示出根据一个或更多个实施例的图像处理设备300。
参照图3,图像处理设备300可包括例如代表射线确定单元301、参考信息确定单元302和子像素渲染单元303。
代表射线确定单元301可基于观看者的眼睛的位置来确定包括在显示器中的子像素的代表射线。例如,代表射线确定单元301可基于观看者的眼睛的位置,将通过光学过滤器从子像素输出的中心射线之中可被观看者感知到的中心射线确定为代表射线。
在此,中心射线可从子像素通过光学过滤器沿指示亮度的最大水平的方向输出。代表射线可包括与从子像素的位置到观看者的眼睛的位置的方向相同或最为邻近的中心射线(即,即使不是直接入射到观看者的眼睛,也是最有可能被观看者的眼睛观察到的子像素的中心射线)。
参考信息确定单元302可基于子像素的位置和观看者的眼睛的位置来确定参考信息。例如,参考信息确定单元302可将连接子像素的位置和观看者的眼睛的位置的虚拟线确定为参考信息。在这种情况下,参考信息确定单元302可使用连接子像素的水平位置和观看者的眼睛的水平位置虚拟线、连接子像素的垂直位置和观看者的眼睛的垂直位置的虚拟线中的至少一个来确定参考信息。
子像素渲染单元303可使用代表射线和参考信息来调整子像素的信号电平。例如,子像素渲染单元303可基于代表射线的角度和参考信息的角度之间的差值来调整子像素的信号电平。子像素渲染单元303可通过将代表射线的角度和与参考信息相应的虚拟线的角度之间的差值应用于针对每个子像素设置的可视度信息来调整每个子像素的亮度值。可针对观看者的左眼和右眼两者实时执行渲染子像素的处理。
子像素渲染单元303可基于通过子像素显示的内容是否可被观看者的左眼和右眼中的至少一个观看到,针对观看者的左眼或观看者的右眼调整子像素的信号电平。
图7示出根据一个或更多个实施例的使用例如包括在显示器中的3D像素沿水平方向调整子像素的信号电平的处理。
以下将基于3D像素更加详细地描述考虑到观看者的眼睛的位置来渲染子像素的处理。在这种情况下,渲染子像素的处理可指示调整子像素的信号电平的处理。
在图7中,可假设3D像素701的坐标与(ai,0)相应,且观看者的右眼702的坐标与(x,z)相应。在这种情况下,可基于例如下面的等式1来确定连接3D像素701和右眼702的直线的梯度。
等式1:
α i = x - a i z
在等式1中,αi指示连接3D像素701和右眼702的直线的梯度。图像处理设备可使用梯度αi在从3D像素701输出的射线之中确定观看者的右眼702可观看到的射线。图像处理设备可确定呈现观看者的右眼702可观看到的射线的子像素。此外,图像处理设备可基于梯度αi和可被观看者的右眼702观看到的射线的梯度之间差值来确定对子像素指定的值。在此,从3D像素701输出的射线可以是指示3D像素701中的最大亮度水平的保持的中心射线,并且因此可被观看者的右眼702观看到的中心射线可被称为3D像素701的代表射线。
图像处理设备可基于例如下面的等式2来确定输出与梯度αi最相似的射线的子像素pi
等式2:
pi=fpi)
在等式2中,fp指示确定子像素pi的函数。
可基于例如下面的等式3来确定由于梯度αi和从位于(ai,0)的3D像素输出的射线的梯度之间的差值而发生的调整子像素pi的信号电平的程度。
等式3:
ri=fri)
可基于例如下面的等式4来确定基于梯度αi的显示在显示器上的内容ci
等式4:
ci=fc(ai)
实际上,基于例如下面的等式5,可基于调整子像素pi的信号电平的程度ri以及与子像素pi在内容ci中的位置相应的值来确定包括在显示器中的子像素pi
等式5:
V(pi)=VC(ci,pi,ri)
针对显示器仅可呈现水平视差的情况提供以上描述。当显示器中呈现水平视差和垂直视差两者时,相似的描述可被应用如下。
可基于例如下面的等式6来确定连接沿垂直方向布置的显示器中位于(0,bi)位置的3D像素和观看者的右眼702的直线的梯度βi
等式6:
β = y - b i z
可由图像处理设备基于例如下面的等式7来确定输出与使用等式1得出的梯度αi和使用等式6得出的梯度βi最相似的射线的像素pi
等式7:
pi=fpii)
在等式7中,fp指示确定子像素pi的函数。可基于例如下面的等式8来确定由于梯度βi和梯度bi之间的差值以及穿过位于(ai,bi)的3D像素的射线的梯度而发生的调整子像素pi的信号电平的程度ri
等式8:
ri=frii)
可基于例如下面的等式9来确定基于梯度αi和梯度βi的显示在显示器上的内容ci
等式9:
ci=fcii)
实际上,基于例如下面的等式10,可基于调整子像素pi的信号电平的程度ri和与内容ci中的子像素pi的位置相应的值来确定包括在显示器中的子像素pi
等式10:
V(pi)=VC(ci,pi,ri)
当观看者的眼睛的位置被确定时,可针对构成显示器的所有3D像素单独地执行上述操作处理。因此,可通过操作处理的并行处理来提高处理率。
再次参照图8,例如,图像处理设备可基于观看者的眼睛的位置,在从包括在显示器中的子像素801输出的中心射线之中确定与可被观看者感知到的中心射线相应的代表射线。在此,可从通过光学过滤器820确定行进方向的中心射线之中确定代表射线。当光学过滤器820未被提供时,可在从子像素801输出的中心射线之中确定代表射线。可针对每个子像素单独地确定代表射线。在这种情况下,可基于光学过滤器802的从子像素801输出的中心射线可穿过的位置来确定中心射线是否到达可被观看者感知到的区域。
再次参照图9,可从一组子像素之中的红色子像素901输出多个中心射线。在这种情况下,当射线穿过显示器的光学过滤器802时,可确定输出的中心射线行进的方向。在从红色子像素903输出三条中心射线a1、a2、a3的情况下,被观看者感知到的中心射线可与中心射线a2相应。
在这种情况下,虽然中心射线a2无法直接到达观看者的眼睛903,但是由于中心射线a2的宽度,观看者可感知到中心射线a2。也就是说,虽然中心射线无法直接到达观看者的眼睛903,但是由于中心射线的宽度,来自具有预定水平的亮度的中心射线的一定量的光仍然可到达观看者的眼睛903。
图像处理设备可基于代表射线a2和参考信息904之间的差值来渲染红色字像素901,其中,参考信息904与连接观看者的眼睛903和红色子像素901的虚拟线相应。具体地,可基于代表射线a2的角度和连接观看者的眼睛903和红色子像素901的虚拟线的角度之间的差值来调整红色子像素901的像素值。以下将参照例如图11a至图15更加详细地描述调整子像素的像素值的处理。
图10示出根据一个或更多个实施例的使用显示器的子像素沿水平方向调整子像素的信号电平的处理。
将基于子像素来描述考虑观看者的眼睛的位置来渲染子像素的处理。在这种情况下,渲染子像素的处理可指示调整子像素的信号电平的处理。
在图10中,可假设子像素1001的坐标与(mi,0)相应,且观看者的右眼1002的坐标与(x,z)相应。在这种情况下,可基于例如下面的等式11来确定连接子像素1001和右眼1002的直线的梯度。
等式11:
μ = x - m i z
在等式11中,μi指示连接子像素1001和右眼1002的直线的梯度。在从子像素1001输出的射线穿过最接近的光学过滤器之后的梯度是与μi0相应的直线的情况下,从子像素1001输出的射线穿过光学过滤器的梯度可被表示为μi0+kδu。在此,k指示整数。
图像处理设备可使用梯度mi在从子像素1001输出的射线之中确定哪条射线可被观看者的右眼1002观看到。在此,从子像素1001输出的射线可表示指示子像素1001中的最大亮度水平的中心射线,且可被观看者的右眼1002观看到的射线可与子像素1001的代表射线ui相应。可基于例如下面的等式12来确定代表射线ui
等式12:
ui=fui,ui0,δu)
可基于例如下面的等式13来确定由于梯度μi和从位于(mi,0)的子像素1001输出的代表射线ui之间的差值而发生的调整子像素1001的信号电平的程度ri
等式13:
ri=fri,ui)
可基于例如下面的等式14来确定基于梯度μi的显示在显示器上的内容ci。
等式14:
ci=fci)
实际上,包括在显示器中的子像素1001可基于例如下面的等式15来显示内容ci
等式15:
vi=fv(ri,ci)
针对显示器中仅呈现水平视差的情况提供以上描述。当呈现水平视差和垂直视差两者时,相似的描述被应用如下。
可基于例如下面的等式16来确定连接位于被沿垂直方向布置的显示器中的(0,ni)子像素和观看者的右眼1002的直线的梯度vi
等式16:
v i = y - n i z
在从子像素1001输出的射线穿过最近的光学过滤器之后的水平梯度是与μi0相应的直线,且从子像素101输出的射线穿过最近的光学过滤器之后的垂直梯度是与vi0相应的直线的情况下,从子像素1001输出的射线穿过光学过滤器的水平梯度可被表示为μi0+kδu,且从子像素1001输出的射线穿过光学过滤器的垂直梯度可被表示为vi0+lδu。在此,k和l指示整数。在这种情况下,图像处理设备可基于例如下面的等式17分别得出与梯度μi和梯度vi相似的ui和vi
等式17:
ui=fui,ui0,δu)
vi=fv(vi,vi0,δv)
基于例如下面的等式18,图像处理设备可基于与梯度μi和梯度vi相似的ui和vi之间的差值来确定调整子像素1001的信号电平的程度ri
等式18:
ri=fri,vi,ui,vi)
可基于例如下面的等式19来确定通过子像素1001显示的内容ci
等式19:
ci=fci)
基于例如下面的等式20,图像处理设备可基于使用等式18得出的调整子像素1001的信号电平的程度ri以及使用等式19得出的内容ci来确定将由子像素呈现的信号vi
等式20:
vi=fv(ri,ci)
当观看者的眼睛的位置被确定时,可针对构成显示器的所有3D像素单独地执行上述操作处理。因此,可通过操作处理的并行处理来提高处理率。
当观看者的眼睛的位置被确定时,图像处理设备可通过前述处理来确定将由每个像素呈现的信号。在这种情况下,可针对观看者的双眼单独地确定将由子像素呈现的信号。
然而,当单个子像素可被观看者的双眼观看到时,可通过输出与每个眼睛相应的信号的最大值、最小值、平均值等来确定最终将由子像素呈现的信号。可基于例如下面的等式21来确定这样的处理。
等式21:
vi=fstereo(viL,viR)
在此,viL示出针对左眼的将由子像素呈现的信号的像素值,viR示出针对右眼的将由子像素呈现的信号的像素值。fstereo指示得出像素值viL和像素值viR的最大值、最小值或平均值的函数。vi指示将由针对双眼的子像素呈现的最终信号。
作为示例,当观看者的双眼同样可观看到的子像素的像素值被确定为被调整时,图像处理设备可基于像素值wiL和像素值wiR之中较大的像素值来调整子像素的像素值。例如,当wiL<wiR时,图像处理设备可基于像素值wiR来调整子像素的像素值。
在一个或更多个实施例中,图像处理设备可基于像素值wiL和像素值wiR之中较小的像素值来调整子像素的像素值。例如,当wiL<wiR时,图像处理设备可基于像素值wiL来调整子像素的像素值。
在一个或更多个实施例中,图像处理设备可计算像素值wiL和像素值wiR的平均值,并且可基于计算出的平均值来调整子像素的像素值。例如,图像处理设备可基于关系来调整子像素的像素值。
图11a至图11d示出根据一个或更多个实施例的指示子像素的响应特性的可视度图。
在渲染子像素的处理中,可通过与显示器的性能相应的光场的分布模型来确定调整子像素的信号电平的程度。可通过图11a至图15的示图来确定针对将通过子像素呈现的统一或标准化色彩来调整子像素的信号电平的程度。
图11a至图11d的示图示出观看者的每个视角的针对例如包括十二个子像素的像素组中的每个子像素的响应特性。图11a至图11d的示图示出通过基于相同的色彩对子像素进行划分并使每个子像素的亮度值归一化为最大值而得出的可视度信息。在图11a至图11d中,十二个子像素可被划分为:绿色子像素G1、G4、G7和G10,红色子像素R2、R5、R8和R11,以及蓝色子像素B3、B6、B9和B12。
参照图11a至图11d,亮度值随着观看者的观看方向和与显示器的平面垂直的方向之间的角度增大而减小。也就是说,观看者可感知到通过子像素输出的信号的亮度值随着观看者的观看方向和包括子像素的显示器的平面的法线方向之间的角度增大而减小。
具体地,参照图11a至图11d,每个子像素的响应特性可按照每大约15度的间隔而具有最大值。指示最大值的角度可根据显示装置的特性而改变。在此,每个子像素的响应特定示出最大值的方向可与相应的子像素的最佳观看方向相应。沿子像素的响应特性示出最大值的方向输出的射线可指示中心射线。也就是说,在图11a至图11d中,沿可视度信息处于峰值的方向输出的射线可指示中心射线。此外,针对每个子像素可存在至少一个中心射线。
图12示出根据一个或更多个实施例的指示针对诸如图11a至图11d的可视度图中的每种颜色的呈现相同颜色的子像素的最大值的可视度图。
参照图12,呈现相同的颜色的子像素的最大值可指示开启针对预定方向的单个子像素的时刻的最大归一化亮度值。在此,预定方向可指示观看者观看子像素的观看方向。最佳观看方向可指示子像素呈现最大亮度水平的观看方向。因此,具有与预定方向相同或最为相似的最佳观看方向的子像素可被选择。
由于呈现相同的颜色的子像素的最大值可根据方向而改变,因此可能会需要对子像素的亮度进行校正。也就是说,当不执行校正处理时,可能会根据子像素的位置来按照不同的亮度将每种色彩呈现给观看者,且图像的色彩会被不均匀地布置在显示器上。
也就是说,当虽然观看者运动且观看者的眼睛的位置改变但是从子像素输出的信号不改变时,观看者可观看到不均匀的图像色彩。因此,可能会期望如在此所述的基于观看者的眼睛的位置调整由子像素呈现的信号。
图13示出根据一个或更多个实施例的指示诸如图11a至图11d的可视度图中的呈现相同颜色的子像素之中相邻的子像素的总和的最大值的可视度图。
图13中示出的亮度值可指示开启预定方向与最佳观看方向最接近的两个像素的时刻的值。图13的示图示出当与图11a至图11d的示图相比时振幅显著减小。
为了使用图12和图13中示出的可视度信息的特性得出由子像素均匀地呈现的色彩表现特性,可使用用于校正信号的改变的信号调整比例。信号调整比例可基于显示器的特性而确定,并且可通过对图12和图13中示出的可视度信息进行建模而确定。
图14示出根据一个或更多个实施例的诸如图12和图13的可视度图中的绿色子像素的建模图。
在图14中,线G最大值指示图12中示出的可视度信息之中与绿色相关联的可视度信息,且线G2最大值指示图13中示出的可视度信息之中与绿色相关联的可视度信息。
线G模型指示通过将余弦函数应用于线G最大值而获得的可视度信息,且线G2模型指示通过将余弦函数应用于线G2最大值而获得的可视度信息。图像处理设备可基于线G最大值和线G模型之间的相似性以及线G2最大值和线G2模型之间的相似性来确定与子像素的亮度值相关联的信号调整比例。
因此,包括在显示器中的每个子像素的信号电平可被调整为统一或标准化。也就是说,每个像素的信号电平可被调整为大体上统一,因此,可使用原始的亮度和色彩来显示内容。
图15示出根据一个或更多个实施例的通过诸如图14的建模图的建模图来调整子像素的信号电平的处理。
当选择预定方向与最佳观看方向接近的四个子像素时,图像处理设备可针对红、绿和蓝(R,G,B)颜色中的一种颜色选择两个子像素。在这种情况下,当与其它子像素相比时,在最佳观看方向和子像素的显示方向方面,选择出的两个子像素可具有较大的差异。例如,可选择两个红色子像素、单个绿色子像素和单个蓝色子像素,可选择单个红色子像素、两个绿色子像素和单个蓝色子像素,或者可选择单个红色子像素、单个绿色子像素和两个蓝色子像素。
例如,当观看者的观看方向位于区域②和区域③中时,可选择单个绿色子像素,并且可得出与线G最大值相似的响应特性。当观看者的观看方向位于区域①和区域④中时,可选择两个绿色子像素,并且可得出与线G2最大值相似的响应特性。也就是说,当假设单个抛物线与单个子像素相应时,在区域②和区域③中可选择单个子像素。然而,由于区域①和区域④中包括两条抛物线,因此在区域①和区域④中可选择两个邻近的相同颜色的子像素。
为了使用响应特性校正子像素的信号电平,可基于建模结果确定线G模型反转和线G2模型反转。当观看者的观看方向位于区域②和区域③中时,确定的线G模型反转可用作用于校正子像素的信号电平的信号调整比例。当观看者的观看方向位于区域①和区域④中时,确定的线G2模型反转可用作用于校正子像素的信号电平的信号调整比例。
在这种情况下,图像处理设备可使用单个信号调整函数。信号调整函数可被确定为使用线G2模型反转的函数值作为区域①和区域④中的信号调整比例并使用线G模型反转的函数值作为区域②和区域③中的信号调整比例的函数。在这种情况下,由于子像素的信号电平可能无法被调整到大于“1”的值,因此在确定的信号调整函数中,信号调整比例的最大值可被归一化为“1”。因此,可基于观看者的眼睛的位置在区域①、区域②、区域③和区域④之中确定观看者的观看方向所位于的区域。与相应区域相关联的子像素的最大亮度值可减小与确定的比例相应的值,其中,由线G模型反转和线G2模型反转之一基于确定的区域来确定所述比例。
图16示出根据一个或更多个实施例的图像处理方法。
参照图16,在操作1601中,图像处理设备可确定哪个光场与观看者的眼睛的位置相应,即,哪个视点图像应该被观看者观看到。例如,图像处理设备可基于观看者的眼睛的位置,使用从包括在显示器中的子像素输出的中心射线之中与可被观看者感知到的中心射线相应的代表射线来认定光场。
在操作1602中,图像处理设备可基于观看者的眼睛的位置将认定的光场转换为与将要显示在显示器上的内容相关联的光场。例如,图像处理设备可基于包括在显示器中的子像素的位置和观看者的眼睛的位置来产生子像素的参考信息。图像处理设备可使用参考信息和代表射线将认定的光场转换为与将要显示在显示器上的内容相关联的光场。
具体地,图像显示设备可基于代表射线的角度和连接子像素的位置与观看者的眼睛的位置的虚拟线的角度的确定的差值,将认定的光场转换为与将要显示在显示器上的内容相关联的光场。在此,虚拟线可指示子像素的参考信息。在这种情况下,子像素的参考信息可包括基于子像素的水平位置和观看者的眼睛的水平位置的参考信息。此外,子像素的参考信息可包括基于子像素的垂直位置和观看者的眼睛的垂直位置的参考信息。
在这种情况下,可通过渲染子像素来执行转换认定的光场的处理。具体地,可基于虚拟线的角度和代表射线的角度来执行转换认定的光场的处理。图像处理设备可通过将虚拟线的角度和代表射线的角度之间的差值应用于针对每个子像素设置的可视度信息来调整每个像素的亮度值。可针对观看者的左眼和右眼两者实时执行转换认定的光场的处理。
图17示出根据一个或更多个实施例的图像处理方法。
参照图17,在操作1701中,图像处理设备可基于观看者的眼睛的位置来确定包括在显示器中的子像素的代表射线。例如,图像处理设备可基于观看者的眼睛的位置,将从子像素输出的通过光学过滤器的中心射线之中可被观看者感知到的中心射线确定为代表射线。
在此,中心射线可从子像素通过光学过滤器的中心点例如沿指示最高水平的亮度的方向输出。代表射线可包括与从子像素的位置到观看者的眼睛的位置的方向相同或最邻近的中心射线。
在操作1702中,图像处理设备可基于子像素的位置和观看者的眼睛的位置来确定参考信息。例如,图像处理设备可将连接子像素的位置和观看者的眼睛的位置的虚拟线确定为参考信息。在这种情况下,图像处理设备可使用连接子像素的水平位置和观看者的眼睛的水平位置的虚拟线以及连接子像素的垂直位置和观看者的眼睛的垂直位置的虚拟线中的至少一个来确定参考信息。
在操作1703,图像处理设备可使用代表射线和参考信息来调整子像素的信号电平。例如,图像处理设备可基于代表射线的角度和参考信息的角度之间的差值来调整子像素的信号电平。图像处理设备可通过将代表射线的角度和与参考信息相应的虚拟线的角度之间的差值应用于针对每个子像素设置的可视度信息来调整每个子像素的亮度值。可针对观看者的左眼和右眼两者实时执行渲染子像素的处理。
图像处理单元可基于通过子像素显示的内容是否可被观看者的左眼和右眼中的至少一个观看到,针对观看者的左眼或者针对观看者的右眼调整子像素的信号电平。
上述一个或更多个实施例涉及针对光场显示设备(包括多视角显示设备、整体成像设备等)的基于观看者的眼睛的位置调整子像素的处理。光场显示设备可使用具有主区域中的射线由于例如视差效应在临近区域中有规律地重复的特性的光学过滤器(例如,柱状透镜、微透镜阵列、屏障阵列等)。此外,光场显示设备可使用例如沿预定方向投射从像素或子像素发出的光的投影仪的设备。
使用光学过滤器(例如,柱状透镜、微透镜、屏障阵列等)的光场显示设备可使用子区域的重复的视差特性,使用虽然主区域变窄但是观看区域重复的特性。通过以上描述了所述处理,通过对观看者进行追踪,可在节省射线资源的同时保护宽阔的观看区域。此外,使用这样的光学过滤器,可防止由与期望观察到的射线临近的射线导致的射线之间的串扰效果。
此外,通过经由检测观看者的眼睛的位置来自适应地渲染子像素,不论观看者的位置如何,观看者都可观看高于预定品质的3D图像,而无需基于观看者的位置来设置最佳观看距离。
在一个或更多个实施例中,在此描述的任何设备、系统和单元包括一个或更多个硬件装置或硬件处理元件。例如,在一个或更多个实施例中,任何描述的设备、系统和单元还可包括一个或更多个期望的存储器以及任何期望的硬件输入/输出传输装置。此外,术语设备应该被认为与物理系统的元件同义,不限于所有实施例中的单个装置或封装或者在单个的各个封装中实施的所有描述的元件,而是根据实施例开放式地被一起实施或者通过不同的硬件元件在不同的封装和/或位置中单独实施。
除了上述实施例之外,还可通过非暂时性介质(诸如,计算机可读介质)中/上的计算机可读代码/指令来实现实施例,以控制至少一个处理装置(诸如,处理器或计算机),以实现任何上述实施例。介质可与允许计算机可读代码的存储和/或传输的任何经定义的、可测量的和有形的结构相应。
介质还可包括例如与计算机可读代码、数据文件、数据结构等结合。计算机可读介质的一个或更多个实施例包括:磁介质,诸如硬盘、软盘和磁带;光介质,诸如CD ROM盘和DVD;磁光介质,诸如光盘;硬件装置,特别地配置为存储和执行程序指令,诸如只读存储器(ROM)、随机存取存储器(RAM)、闪存等。例如,计算机可读代码可包括诸如由编译器产生的机器代码和包含可由计算机使用编译器执行的更高级代码的文件两者。介质还可以是任何经定义的、可测量的和有形的分布式网络,以便以分布式方式存储和执行计算机可读代码。此外,仅作为示例,处理元件可包括处理器或计算机处理器,并且处理元件可被分布在和/或包括在单个装置中。
仅作为示例,还可在执行(像处理器那样处理)程序指令的至少一个专用集成电路(ASIC)或现场可编程门阵列(FPGA)中实现计算机可读介质。
虽然已参照本发明的不同实施例具体地示出并描述了本发明的方面,应该理解的是,这些实施例应该被认为仅是描述性的意义,而不是为了限制的目的。每个实施例内特征或方面的描述通常应该被认为可用于其余实施例中的其它相似的特征或方面。如果以不同顺序执行描述的技术,和/或如果以不同的方式组合和/或以其它组件或其等同物替代或补充描述的系统、架构、装置或电路中的组件,则同样可实现合适的结果。
因此,虽然已经示出并描述了一些实施例,但是在其它实施例同样可用的情况下,本领域的技术人员将理解的是,在不脱离发明的原理和精神的情况下,可在所述实施例中做出改变,其中,可由权利要求及其等同物来定义本发明的范围。

Claims (38)

1.一种显示设备,包括:
光场确定单元,用于基于观看将要显示在显示器上的内容的观看者的确定的位置来认定将要呈现给观看者的第一光场;
光场转换单元,用于基于观看者的确定的位置将认定的第一光场转换为与将要显示在显示器上的内容相关联的光场。
2.如权利要求1所述的设备,其中,光场确定单元基于观看者的确定的位置、基于与从包括在显示器中的子像素输出的中心射线之中被观看者感知到的中心射线相应的代表射线来认定第一光场。
3.如权利要求2所述的设备,其中,中心射线是从子像素沿分别引起输出最大亮度水平的方向输出的射线,且代表射线是中心射线之中被确定为最能够入射到观看者的确定的位置的中心射线。
4.如权利要求2所述的设备,其中,光场转换单元产生与连接包括在显示器中的子像素的位置和观看者的位置的虚拟线相应的子像素的参考信息,并基于参考信息和代表射线将认定的第一光场转换为与将要显示在显示器上的内容相关联的光场。
5.如权利要求4所述的设备,其中,子像素的参考信息包括基于子像素的水平位置和观看者的眼睛的水平位置的参考信息以及基于子像素的垂直位置和观看者的眼睛的垂直位置的参考信息中的至少一个。
6.如权利要求2所述的设备,其中,子像素的中心射线通过布置在显示器前面的光学过滤器沿预定方向输出。
7.如权利要求2所述的设备,其中,子像素的中心射线被预定为沿基于从布置在显示器后面的光学过滤器产生的射线的方向的至少一个方向输出,以便从与所述至少一个方向相应的中心射线之中选择代表射线。
8.如权利要求1所述的设备,其中,光场转换单元通过增大基于针对每个子像素设置的最大亮度值的可视度信息来渲染子像素。
9.如权利要求1所述的设备,其中,当子像素的亮度值增大到最大值时,光场转换单元保持子像素的原始亮度值,或者当子像素的亮度值增大到小于最大值的值时,光场转换单元与子像素的亮度值增大到最大值的情况成比例地降低子像素的亮度值。
10.一种显示设备,包括:
代表射线确定单元,用于基于观看者的确定的位置来确定包括在显示器中的子像素的代表射线;
参考信息确定单元,用于将连接观看者的确定的位置和子像素的确定的位置的虚拟线确定为参考信息;
子像素渲染单元,用于基于代表射线和参考信息来调整子像素的信号电平,
其中,代表射线确定单元基于观看者的确定的位置将从子像素通过光学过滤器输出的中心射线之中将会被观看者感知到的中心射线确定为子像素的代表射线,
其中,中心射线是从子像素沿分别引起输出最大亮度水平的方向输出的射线。
11.如权利要求10所述的设备,其中,代表射线是中心射线之中被确定为最能够入射到观看者的确定的位置的中心射线。
12.如权利要求10所述的设备,其中,参考信息确定单元使用连接子像素的水平位置和观看者的眼睛的水平位置的虚拟线以及连接子像素的垂直位置和观看者的眼睛的垂直位置的虚拟线中的至少一个来确定参考信息。
13.如权利要求10所述的设备,其中,子像素渲染单元基于代表射线的角度和参考信息的角度之间的差值来调整子像素的信号电平。
14.如权利要求10所述的设备,其中,子像素渲染单元基于通过子像素显示的内容是否能够被观看者的左眼和右眼中的至少一个观看到来针对观看者的左眼或观看者的右眼调整子像素的信号电平。
15.如权利要求10所述的设备,其中,子像素的中心射线通过布置在显示器前面的光学过滤器沿预定方向输出。
16.如权利要求10所述的设备,其中,子像素的中心射线被预定为沿基于从布置在显示器后面的光学过滤器产生的射线的方向的至少一个方向输出,以便从与所述至少一个方向相应的中心射线之中选择代表射线。
17.如权利要求10所述的设备,其中,子像素渲染单元通过增大与针对每个子像素设置的最大亮度值相应的可视度信息来渲染子像素。
18.如权利要求10所述的设备,其中,当子像素的亮度值增大到最大值时,子像素渲染单元保持子像素的原始亮度值,或者当子像素的亮度值增大到小于最大值的值时,子像素渲染单元与子像素的亮度值增大到最大值的情况成比例地降低子像素的亮度值。
19.如权利要求10所述的设备,还包括:
光场确定单元,用于基于观看将要显示在显示器上的内容的观看者的确定的位置来认定将要呈现给观看者的第一光场;
光场转换单元,用于基于观看者的确定的位置将认定的第一光场转换为与将要显示在显示器上的内容相关联的光场。
20.一种显示方法,包括:
基于观看将要显示在显示器上的内容的观看者的确定的位置来认定将要呈现给观看者的第一光场;
基于观看者的确定的位置将认定的第一光场转换为与将要显示在显示器上的内容相关联的光场。
21.如权利要求20所述的方法,其中,确定的步骤包括:基于观看者的确定的位置、基于与从包括在显示器中的子像素输出的中心射线之中被观看者感知到的中心射线相应的代表射线来认定第一光场。
22.如权利要求21所述的方法,其中,中心射线从子像素沿分别引起输出最大亮度水平的方向输出,且代表射线是中心射线之中被确定为最能够入射到观看者的确定的位置的中心射线。
23.如权利要求21所述的方法,其中,转换的步骤包括:产生与连接包括在显示器中的子像素的位置和观看者的位置的虚拟线相应的子像素的参考信息;
基于参考信息和代表射线将认定的第一光场转换为与将要显示在显示器上的内容相关联的光场。
24.如权利要求23所述的方法,其中,子像素的参考信息包括基于子像素的水平位置和观看者的眼睛的水平位置的参考信息以及基于子像素的垂直位置和观看者的眼睛的垂直位置的参考信息中的至少一个。
25.如权利要求20所述的方法,其中,子像素的中心射线通过布置在显示器前面的光学过滤器沿预定方向输出。
26.如权利要求20所述的方法,其中,子像素的中心射线被预定为沿基于从布置在显示器后面的光学过滤器产生的射线的方向的至少一个方向输出,以便从与所述至少一个方向相应的中心射线之中选择代表射线。
27.如权利要求20所述的方法,其中,转换的步骤包括:通过增大基于针对每个子像素设置的最大亮度值的可视度信息来渲染子像素。
28.如权利要求20所述的方法,其中,转换的步骤包括:当子像素的亮度值增大到最大值时,光场转换单元保持子像素的原始亮度值;或者当子像素的亮度值增大到小于最大值的值时,光场转换单元与子像素的亮度值增大到最大值的情况成比例地降低子像素的亮度值。
29.一种显示方法,包括:
基于观看者的确定的位置来确定包括在显示器中的子像素的代表射线;
将连接观看者的确定的位置和子像素的确定的位置的虚拟线确定为参考信息;
基于代表射线和参考信息来调整子像素的信号电平,
其中,确定代表射线的步骤包括:基于观看者的确定的位置将从子像素通过光学过滤器输出的中心射线之中将会被观看者感知到的中心射线确定为子像素的代表射线,
其中,中心射线是从子像素沿分别引起输出最大亮度水平的方向输出的射线。
30.如权利要求29所述的方法,其中,代表射线是中心射线之中被确定为最能够入射到观看者的确定的位置的中心射线。
31.如权利要求29所述的方法,其中,确定参考信息的步骤包括:使用连接子像素的水平位置和观看者的眼睛的水平位置的虚拟线以及连接子像素的垂直位置和观看者的眼睛的垂直位置的虚拟线中的至少一个来确定参考信息。
32.如权利要求29所述的方法,其中,调整的步骤包括:基于代表射线的角度和参考信息的角度之间的差值来调整子像素的信号电平。
33.如权利要求29所述的方法,其中,调整的步骤包括:基于通过子像素显示的内容是否能够被观看者的左眼和右眼中的至少一个观看到来针对观看者的左眼或观看者的右眼调整子像素的信号电平。
34.如权利要求29所述的方法,其中,子像素的中心射线通过布置在显示器前面的光学过滤器沿预定方向输出。
35.如权利要求29所述的方法,其中,子像素的中心射线被预定为沿基于从布置在显示器后面的光学过滤器产生的射线的方向的至少一个方向输出,以便从与所述至少一个方向相应的中心射线之中选择代表射线。
36.如权利要求29所述的方法,其中,调整的步骤包括:通过增大与针对每个子像素设置的最大亮度值相应的可视度信息来渲染子像素。
37.如权利要求29所述的方法,其中,调整的步骤包括:当子像素的亮度值增大到最大值时,保持子像素的原始亮度值;或者当子像素的亮度值增大到小于最大值的值时,与子像素的亮度值增大到最大值的情况成比例地降低子像素的亮度值。
38.如权利要求29所述的方法,还包括:
基于观看将要显示在显示器上的内容的观看者的确定的位置来认定将要呈现给观看者的第一光场;
基于观看者的确定的位置将认定的第一光场转换为与将要显示在显示器上的内容相关联的光场。
CN201280058535.3A 2011-11-30 2012-11-30 用于子像素渲染的图像处理设备和方法 Active CN103988504B (zh)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
KR10-2011-0126734 2011-11-30
KR20110126734 2011-11-30
KR10-2012-0074188 2012-07-06
KR1020120074188A KR101953686B1 (ko) 2011-11-30 2012-07-06 부화소를 렌더링하는 영상 처리 장치 및 방법
PCT/KR2012/010339 WO2013081429A1 (en) 2011-11-30 2012-11-30 Image processing apparatus and method for subpixel rendering

Publications (2)

Publication Number Publication Date
CN103988504A CN103988504A (zh) 2014-08-13
CN103988504B true CN103988504B (zh) 2016-11-02

Family

ID=48466421

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201280058535.3A Active CN103988504B (zh) 2011-11-30 2012-11-30 用于子像素渲染的图像处理设备和方法

Country Status (6)

Country Link
US (1) US8890865B2 (zh)
EP (1) EP2786583B1 (zh)
JP (1) JP6050373B2 (zh)
KR (1) KR101953686B1 (zh)
CN (1) CN103988504B (zh)
WO (1) WO2013081429A1 (zh)

Families Citing this family (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101953686B1 (ko) * 2011-11-30 2019-05-23 삼성전자주식회사 부화소를 렌더링하는 영상 처리 장치 및 방법
KR102156408B1 (ko) * 2013-11-19 2020-09-16 삼성전자주식회사 레이어드 디스플레이 기법을 위한 디스플레이 장치 및 영상 생성 방법
WO2015117043A1 (en) 2014-01-31 2015-08-06 Magic Leap, Inc. Multi-focal display system and method
KR102205000B1 (ko) * 2014-05-30 2021-01-18 매직 립, 인코포레이티드 가상 및 증강 현실에 대한 어드레스 가능 포커스를 가진 자유형 광학 시스템을 사용하여 입체영상을 디스플레이하기 위한 방법들 및 시스템들
NZ764950A (en) 2014-05-30 2022-07-01 Magic Leap Inc Methods and system for creating focal planes in virtual and augmented reality
KR102240568B1 (ko) 2014-08-18 2021-04-16 삼성전자주식회사 영상 처리 방법 및 장치
CN104461425B (zh) * 2014-11-28 2018-11-27 广东欧珀移动通信有限公司 屏幕内容的显示调整方法、装置及终端
KR102333267B1 (ko) 2014-12-10 2021-12-01 삼성전자주식회사 눈 위치 예측 장치 및 방법
JP6746590B2 (ja) 2015-01-26 2020-08-26 マジック リープ, インコーポレイテッドMagic Leap,Inc. 改良された回折格子構造を有する仮想および拡張現実システムおよび方法
KR102415502B1 (ko) 2015-08-07 2022-07-01 삼성전자주식회사 복수의 사용자를 위한 라이트 필드 렌더링 방법 및 장치
CN105260152B (zh) 2015-10-09 2018-05-08 利亚德光电股份有限公司 用于led显示屏的图像处理方法和装置
CN107566822B (zh) * 2015-10-20 2019-03-26 深圳超多维科技有限公司 一种裸眼立体显示的方法、装置及电子设备
US20170178395A1 (en) * 2015-12-16 2017-06-22 Google Inc. Light field rendering of an image using variable computational complexity
EP3185550A1 (en) * 2015-12-23 2017-06-28 Thomson Licensing Tridimensional rendering with adjustable disparity direction
CN113014906B (zh) 2016-04-12 2023-06-30 奎蒂安特有限公司 3d场景重建方法、系统及计算机程序存储介质
US10757390B2 (en) 2016-08-05 2020-08-25 Interdigital Ce Patent Holdings Method for obtaining at least one sub-aperture image being associated with one view
KR102564478B1 (ko) 2016-11-22 2023-08-07 삼성전자주식회사 3d 영상 렌더링 방법 및 장치
KR102655810B1 (ko) 2016-11-22 2024-04-09 삼성전자주식회사 3d 영상 렌더링 방법 및 장치
KR102564479B1 (ko) 2016-11-22 2023-08-07 삼성전자주식회사 사용자의 눈을 위한 3d 렌더링 방법 및 장치
KR102547821B1 (ko) 2016-11-25 2023-06-26 삼성전자주식회사 3d 디스플레이 장치
US20190124313A1 (en) 2017-10-19 2019-04-25 Intel Corporation Three dimensional glasses free light field display using eye location
KR102401168B1 (ko) 2017-10-27 2022-05-24 삼성전자주식회사 3차원 디스플레이 장치의 파라미터 캘리브레이션 방법 및 장치
CA3097202A1 (en) 2018-05-02 2019-11-07 Quidient, Llc A codec for processing scenes of almost unlimited detail
US10623714B2 (en) 2018-05-24 2020-04-14 Innolux Corporation Stereoscopic display device and method for operating using pixel offset map
CN109256076B (zh) * 2018-08-30 2022-02-22 京东方科技集团股份有限公司 边缘像素显示方法、系统、存储设备和显示装置
CN109143602A (zh) * 2018-09-25 2019-01-04 张家港康得新光电材料有限公司 一种3d显示装置及电子设备
KR20200067641A (ko) 2018-12-04 2020-06-12 삼성전자주식회사 3차원 증강 현실을 위한 캘리브레이션 방법 및 그 장치
JP7472899B2 (ja) 2019-03-19 2024-04-23 ソニーグループ株式会社 情報処理装置、情報処理方法及びプログラム
US11212513B2 (en) * 2019-07-03 2021-12-28 Innolux Corporation Method for displaying a stereoscopic image on a display device
CN112929643B (zh) * 2019-12-05 2022-06-28 北京芯海视界三维科技有限公司 3d显示设备、方法及终端

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1894976A (zh) * 2003-12-18 2007-01-10 视真技术有限公司 具有位置跟踪的多用户自动立体显示器
CN101072366A (zh) * 2007-05-24 2007-11-14 上海大学 基于光场和双目视觉技术的自由立体显示系统和方法
WO2009136235A1 (en) * 2008-05-07 2009-11-12 Sony Ericsson Mobile Communications Ab Viewer tracking for displaying three dimensional views
CN102056003A (zh) * 2009-11-04 2011-05-11 三星电子株式会社 使用主动亚像素渲染的高密度多视点图像显示系统及方法

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR19990069140A (ko) 1998-02-05 1999-09-06 구자홍 입체영상 표시장치
JP2003299121A (ja) * 2002-04-05 2003-10-17 Canon Inc 立体画像表示装置および立体画像表示システム
DE102004059729B3 (de) * 2004-12-11 2006-04-13 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Verfahren zur autostereoskopischen Erzeugung von dreidimensionalen Bildinformationen aus gerasterten Subpixelauszügen und Anordnung zur Verfahrensdurchführung
JP4468341B2 (ja) 2006-09-28 2010-05-26 株式会社東芝 三次元画像表示方法および三次元画像表示装置
JP4403162B2 (ja) * 2006-09-29 2010-01-20 株式会社東芝 立体画像表示装置および立体画像の作製方法
KR101320513B1 (ko) 2006-12-05 2013-10-22 엘지디스플레이 주식회사 영상표시장치 및 이의 구동방법
JP2008185629A (ja) * 2007-01-26 2008-08-14 Seiko Epson Corp 画像表示装置
JP4331224B2 (ja) 2007-03-29 2009-09-16 株式会社東芝 三次元画像表示装置及び三次元画像の表示方法
GB0718622D0 (en) 2007-05-16 2007-11-07 Seereal Technologies Sa Holograms
JP4386299B1 (ja) 2008-10-09 2009-12-16 健治 吉田 パララックスバリア、裸眼立体映像表示装置
JP2010113159A (ja) * 2008-11-06 2010-05-20 Sharp Corp 立体画像表示装置および立体画像表示方法
KR101502597B1 (ko) 2008-11-13 2015-03-13 삼성전자주식회사 고심도 입체 영상 표시가 가능한 디스플레이 장치 및 방법
KR101296900B1 (ko) 2009-01-07 2013-08-14 엘지디스플레이 주식회사 입체 영상의 뷰 제어방법과 이를 이용한 입체 영상표시장치
KR101606797B1 (ko) * 2009-10-28 2016-03-29 삼성디스플레이 주식회사 입체 영상 표시 장치 및 영상 표시 방법
JP5306275B2 (ja) * 2010-03-31 2013-10-02 株式会社東芝 表示装置及び立体画像の表示方法
JP5607430B2 (ja) * 2010-06-10 2014-10-15 株式会社ジャパンディスプレイ 立体映像表示装置及び電子機器
KR101675961B1 (ko) * 2010-12-29 2016-11-14 삼성전자주식회사 적응적 부화소 렌더링 장치 및 방법
JP5643160B2 (ja) * 2011-07-01 2014-12-17 株式会社ジャパンディスプレイ 表示装置
KR101953686B1 (ko) * 2011-11-30 2019-05-23 삼성전자주식회사 부화소를 렌더링하는 영상 처리 장치 및 방법

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1894976A (zh) * 2003-12-18 2007-01-10 视真技术有限公司 具有位置跟踪的多用户自动立体显示器
CN101072366A (zh) * 2007-05-24 2007-11-14 上海大学 基于光场和双目视觉技术的自由立体显示系统和方法
WO2009136235A1 (en) * 2008-05-07 2009-11-12 Sony Ericsson Mobile Communications Ab Viewer tracking for displaying three dimensional views
CN102056003A (zh) * 2009-11-04 2011-05-11 三星电子株式会社 使用主动亚像素渲染的高密度多视点图像显示系统及方法

Also Published As

Publication number Publication date
US20130135299A1 (en) 2013-05-30
EP2786583B1 (en) 2019-05-08
EP2786583A4 (en) 2015-05-27
JP6050373B2 (ja) 2016-12-21
JP2015504641A (ja) 2015-02-12
KR101953686B1 (ko) 2019-05-23
EP2786583A1 (en) 2014-10-08
US8890865B2 (en) 2014-11-18
KR20130061042A (ko) 2013-06-10
WO2013081429A1 (en) 2013-06-06
CN103988504A (zh) 2014-08-13

Similar Documents

Publication Publication Date Title
CN103988504B (zh) 用于子像素渲染的图像处理设备和方法
US10715782B2 (en) 3D system including a marker mode
US20090115800A1 (en) Multi-view display device
CN103235415B (zh) 基于光栅的多视点自由立体显示器
CN106454307A (zh) 针对多个用户的光场渲染的方法和设备
CN208257981U (zh) 一种基于子像素的led裸眼3d显示装置
JP6060329B2 (ja) 3dディスプレイ装置で3次元映像を視覚化する方法および3dディスプレイ装置
US8723920B1 (en) Encoding process for multidimensional display
CN102621702B (zh) 液晶屏像素非常规排列时裸眼3d图像生成方法和系统
CN101103380A (zh) 深度感知
CN106797462B (zh) 多视图图像显示设备及其控制方法
CN105263011B (zh) 多视点图像显示设备及其多视点图像显示方法
CN104820293B (zh) 立体显示装置及立体显示方法
US10122987B2 (en) 3D system including additional 2D to 3D conversion
US20170142398A1 (en) 3d system including rendering with eye displacement
US20150163481A1 (en) Autostereoscopic screen and method for reproducing a 3d image
CN102780900B (zh) 一种多人多视角立体显示器影像显示方法
CN107258079A (zh) 用于减少自动立体显示器的串扰的方法、装置和系统
US10148933B2 (en) 3D system including rendering with shifted compensation
US10121280B2 (en) 3D system including rendering with three dimensional transformation
US20170140571A1 (en) 3d system including rendering with curved display
CN102404583A (zh) 三维影像的深度加强系统及方法
US10225542B2 (en) 3D system including rendering with angular compensation
KR102515026B1 (ko) 무안경 입체 영상 표시장치
Huang et al. Glasses-free led Holoscopic 3D wall with effective pixel mapping

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant