CN102221984A - 独立地处理显示数据的平面 - Google Patents
独立地处理显示数据的平面 Download PDFInfo
- Publication number
- CN102221984A CN102221984A CN2011101708894A CN201110170889A CN102221984A CN 102221984 A CN102221984 A CN 102221984A CN 2011101708894 A CN2011101708894 A CN 2011101708894A CN 201110170889 A CN201110170889 A CN 201110170889A CN 102221984 A CN102221984 A CN 102221984A
- Authority
- CN
- China
- Prior art keywords
- plane
- video data
- display
- video
- visual angle
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
- G06F3/1423—Digital output to display device ; Cooperation and interconnection of the display device with other functional units controlling a plurality of local displays, e.g. CRT and flat panel display
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2340/00—Aspects of display data processing
- G09G2340/04—Changes in size, position or resolution of an image
- G09G2340/0407—Resolution change, inclusive of the use of different resolutions for different screen areas
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2340/00—Aspects of display data processing
- G09G2340/08—Monochrome to colour transformation
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2340/00—Aspects of display data processing
- G09G2340/12—Overlay of images, i.e. displayed pixel being the result of switching between the corresponding input pixels
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Controls And Circuits For Display Device (AREA)
Abstract
一种通过输出视频流的方法,提供了对显示数据的各平面的独立的处理。该方法包括从存储器中检索显示数据的具有第一组显示参数的第一平面,并对显示数据的第一平面进行后处理,以调整第一组显示参数。该方法还包括从存储器中检索显示数据的具有第二组显示参数的第二平面,并独立于显示数据的第一平面,对显示数据的第二平面进行后处理。该方法还包括将显示数据的第一平面与显示数据的第二平面混合,以形成混合的显示数据,并输出混合的显示数据。
Description
技术领域
本发明涉及计算机技术,更具体地,涉及视频数据处理技术。
背景技术
一般认为,诸如视频游戏中呈现的图形之类的视频内容项目,当以比较高的分辨率并以比较高的刷新速率显示时,具有较高的质量。然而,当设备硬件费力地处理复杂化的呈现时,刷新速率可能会受到损失。尽管为了维护所需要的刷新速率可能会损失分辨率,但是,以较低的分辨率呈现可能会导致令人不快的视觉体验,如果内容看起来显著退化(例如,像素化)。相比之下,诸如文本覆盖和图形用户界面(GUI)元件之类的其他视频内容项目,则已知在以较低的分辨率呈现时质量会退化。
发明内容
提供本发明内容是为了以精简的形式介绍将在以下具体实施方式中进一步描述的一些概念。本概述并不旨在标识出所要求保护的主题的关键特征或必要特征,也不旨在用于限定所要求保护的主题的范围。此外,所要求保护的主题不限于解决在本发明的任一部分中提及的任何或所有缺点的实现。
根据本公开的一个方面,提供了输出视频流的方法。该方法包括从存储器中检索显示数据的具有第一组显示参数的第一平面,并对显示数据的第一平面进行后处理,以调整第一组显示参数。该方法还包括从存储器中检索显示数据的具有第二组显示参数的第二平面,并独立于显示数据的第一平面,对显示数据的第二平面进行后处理。该方法还包括将显示数据的第一平面与显示数据的第二平面混合,以形成混合的显示数据,并输出混合的显示数据。
附图说明
图1概要地示出了根据本公开的实施例的视频输出。
图2示出了输出视频流的方法的流程图。
图3概要地示出了帧缓冲器的并排包装的示例。
图4概要地示出了帧缓冲器的过/欠包装的示例。
图5概要地示出了从左眼的角度和右眼的角度创建三维显示数据的示例。
图6概要地示出了在帧缓冲存储器构建区域以支持显示不可知的呈现的示例。
图7概要地示出了用于视频输出的示例显示管线。
图8概要地示出了根据本公开的实施例的计算设备。
详细描述
如上面介绍的,在某些情况下,为了对于已呈现的内容维护所需要的更新速率可能会损失分辨率,同时维护高显示器刷新速率,以便避免闪烁。作为示例,可以以稍微低的分辨率呈现视频,以降低有效像素率,这可使设备的图形处理单元(GPU)以更快的刷新速率呈现。然而,当降低分辨率时,不同类型的内容与其他类型的内容相比可能受影响的程度显著地多或少。例如,显示快速移动的游戏内容(例如,战争场景)的视频游戏,当分辨率被降低以维护所希望的刷新速率时,可能不会产生显著的可视伪像,而具有诸如文本、聊天窗口等等之类的详细的和相对静态的内容的平视显示系统(HUD)在较低的分辨率时可能变得显著地像素化。
传统上,可以使用硬件缩放器来允许开发人员呈现到所希望的分辨率,然后,系统软件可以将已呈现的数据提供到与正在向其输出视频的显示器相关联的分辨率。然而,这样的硬件缩放器不能隔离呈现分辨率,以便区分诸如例如主显示器的内容HUD的内容之类的内容。
如此处所描述的独立地处理显示数据的平面提供了独立缩放内容的不同的部分的分辨率。例如,由于可以独立地缩放视频内容的某些部分,可以与HUD数据独立地缩放显示数据的主要集合。进一步,通过以显示器不可知的格式存储显示数据,然后,为显示器专用的呈现而打包帧缓冲器,支持将视频输出到具有各种规范的各种显示器,包括被配置成提供视频的三维显示(3D显示)的显示器。
现在转向图1,图1示出了计算设备20,包括诸如提供应用程序24(例如,驾驶游戏)的操作系统之类的系统22。计算设备20可以是被配置成输出立体和/或非立体视频内容的任何合适的计算设备,包括,但不仅限于,游戏控制台、个人计算机、移动设备、等等。
应用程序24可包括各种组件,如主显示器以及通常与主显示器的内容相关联的应用程序所生成的外围设备。在所描绘的示例中,应用程序24包括驾驶游戏,该游戏具有显示从驾驶员的角度来看的路的视图的主显示26。应用程序24还包括HUD元素,其中包括显示驾驶员沿着跑道的进度的地图28,以及驾驶员的竞争对手的进度。应用程序HUD还包括显示驾驶员的汽车的速度的速度计显示30。可以理解,此示例在插图中只是示意的,不应在限制性的意义上考虑。
计算设备20进一步被配置成提供附加的系统生成的内容,如系统生成的主显示和/或系统生成的HUD。系统生成的内容的示例包括,但不仅限于,系统消息、通知、语音聊天、视频聊天、文本聊天等等。图1描绘了示例系统生成的主显示32,以及系统生成的HUD 34,包括与在驾驶员和竞争对手之间进行的文本聊天相关联的文本。
图1进一步示出了输出到各种显示器36的计算设备20。显示器36的示例包括计算机监视器、电视机、3D显示器等等。如此,每一个显示器都可以具有关于内容如何显示在显示器上的不同规范。例如,显示器可以具有指出可以显示在每一个维度的不同的像素的数量的显示器分辨率。作为另一个示例,显示器可以具有指出显示器硬件每秒钟绘制数据的次数的刷新速率。作为另一个示例,显示器可以具有指出物理图像宽度与图像高度的比率的纵横比。
此外,各种显示器还可以使用不同的接口来接收用于显示的内容。示例包括,但不仅限于,Composite/Separate视频(S-video)、分量视频、视频图形阵列(VGA)、VGA、数字视频接口(DVI)、高清晰度多媒体接口(HDMI)、DisplayPort等等。
如通篇比较详细地描述的,计算设备20被配置成向每一个显示器输出视频内容,其中,内容是为该显示器配置的。如此,内容开发人员不必知晓显示器规范,并可以开发呈现给被类似地配置的缓冲器的应用程序。例如,计算设备20可以被配置成获取显示数据(例如,由图形核和/或其他系统组件所产生的),并在帧缓冲存储器中以显示器不可知的格式构建数据。然后,计算设备20可以基于与该计算设备向其输出的显示器相关联的显示参数,来动态地将数据打包到帧缓冲器中,如参考图2比较详细地描述的。
如此,如在图1中所描绘的,计算设备20可以将视频输出38a驱动到显示器40,将视频输出38b驱动到显示器42,并将视频输出38c驱动到显示器44。显示器40、42,以及44中的一个到三个可以被同时驱动。视频输出具有相同帧率、分辨率,以及帧打包;然而,应用程序24可以使用独立于由显示器预期的特定打包和格式化的选取的帧缓冲器打包和格式来呈现。
此外,诸如由计算设备20所提供的视频输出38a、38b和/或38c之类的视频输出被配置成独立地减轻主显示和覆盖(例如,HUD)的存储器资源。如此,可以独立地并动态地调整每一个的呈现分辨率,以符合标准显示器刷新速率。如此,作为示例,游戏内容(例如,战争场景)可以被缩放到较低的分辨率而HUD可以维持在较高分辨率时。以此方式,可以维护刷新速率,观众的用户体验很少会被影响和/或中断。
如上面介绍的,显示器36中的一个或多个可以进一步被配置成提供用于三维查看的内容。传统上,呈现给3D显示器具有挑战性,因为不同的3D显示器可以使用不同的技术来提供内容的3D视图。作为示例,显示器可以使用立体视觉技术,该技术呈现同一场景的两个视图,其中,其中一个视图是针对用户的左眼的(例如,左帧),另一个视图是针对用户的右眼的(例如,右帧)。如此,可以在平板显示器表面上模仿深度。
如此,各种立体3D(S3D)显示器和非立体显示器可以指定用于接收两个视图(例如,左帧和右帧)的不同指令。作为示例,显示器可以被配置成接收帧缓冲器中并排打包的视图。在这样的情况下,对于每一个输出帧,一个视图被定位在帧的左半部,另一个视图被定位在帧的右半部。作为另一个示例,显示器可以被配置成接收帧缓冲器中的过/欠打包的视图。在这样的情况下,对于每一个输出帧,一个视图被定位在帧的上半部分,另一个视图被定位在帧的下半部分部。这样的指令可以被包括在提供给计算设备的规范内。然后,计算设备20被配置成转换应用程序前置缓冲器,并使用如此处所描述的视频输出体系结构,通过公共的视频接口将数据输出到显示设备。
计算设备20可以被配置成通过例如取得由图形核和/或其他系统组件所产生的帧缓冲器,并执行后处理和混合操作,以格式化用于显示的缓冲器,来向显示器36输出视频,如参考图2比较详细地描述的。此外,计算设备20的显示器输出管线可以被配置成获取与3D显示器相关联的并排和/或左右打包的缓冲器/平面,并应用单独地确定的像素和行偏移和填充/间隔,以便驱动显示器的所请求的输入。
如此,如此处所描述的独立地处理显示数据的平面可以以一致的并排格式将3D源数据呈现到存储器中的同一个缓冲器(例如,左/右或图像/深度),以便只维护一个缓冲器分配和指针。
此外,计算设备20可以进一步被配置成通过向每一个眼睛呈现源的不同移位的版本来使用2D源用于3D输出,从而提供了节省存储器的能力,如参考图2-6比较详细地描述的。如此,2D源的显示分辨率(例如,4096x2160)和3D源对于每一个眼睛的显示分辨率(例如,2048x2160)可以得到支持。
以此方式,应用程序不必知道显示器的特定的接口格式。如此,使得内容与输出标准、3D标准等等中的变化无关。
现在转向图2,图2示出了输出视频流的方法50。在52,方法50包括从存储器中检索具有第一组显示参数的显示数据的第一平面。可以理解,如此处所使用的“平面”是指2D存储器缓冲器的平面(例如,层),因此不同于传统意义上关于2D图像的平面的平面。平面可以与应用程序生成的显示数据或系统生成的显示数据相对应(例如,由其提供源),例如,来自由图形核和/或其他系统组件所产生的帧缓冲器。此外,平面可以与诸如主源、HUD源等等之类的各种源相关联,因此,第一平面可以是任何这样的合适的平面。
例如,第一平面可以是应用程序主平面,包括用于显示主应用程序内容的应用程序所生成的主要应用程序显示表面(例如,驾驶游戏的主画面)。作为另一个示例,第一平面可以是系统主平面,包括计算系统的系统生成的主要系统显示器表面(例如,显示系统消息的窗口)。
第一平面具有相关联的第一组显示参数。这样的显示参数指出平面的显示数据将如何显示。例如,显示参数可包括分辨率、颜色空间、伽马值,等等,如下面比较详细地描述的。
此外,可以以任何合适的方式检索第一平面,诸如通过直接存储器访问(DMA)。作为示例,DMA可以从主存储器中检索前置缓冲器内容。如此,片上系统(SoC)可以被设计成能提供有利的延迟响应,以显示DMA读和写请求。存储器请求可以通过专用存储器管理单元(MMU)来发出,或者可通过与系统GPU块请求者共享的端口来交错它们。然后,可以在延迟计算中考虑GPU和SoC存储器控制器的开销,以便设计合适的DMA读取缓冲的量以及相关联的延迟隐藏机制。显示器DMA请求对主存储器来说可以是基于地址的。可以可任选地清空发往前置缓冲器的全部可缓存的写入,既可以通过使用流式写入,也可以通过显式的缓存清空指令。
继续图2,在54,方法50包括后处理显示数据的第一平面,以调整第一组显示参数,其中,后处理包括缩放第一平面的显示数据,以调整分辨率参数,如在56所示出的。后处理可包括任意数量的可能的操作,以准备用于随后的合成的数据,如下面比较详细地描述的。
在某些实施例中,后处理可包括应用输入颜色空间转换。如上面介绍的,显示数据可以具有颜色空间参数。作为示例,对于游戏和图形,像素可以使用RGB颜色空间。作为另一个示例,对于视频应用程序,像素可以使用YCbCr颜色空间。如此,应用输入颜色空间会话将把帧缓冲器格式匹配到公共的颜色空间以便以后进行混合。通过适当地处理视频格式的颜色空间转换,可以维护精确度和范围,以减轻卡箍和量化伪像。
此外,在某些实施例中,后处理可包括应用逆向伽马校正。如上面介绍的,显示数据可以具有用于编码亮度值的伽马参数。应用逆向伽马校正会将经过伽马校正的内容转换为线性空间,可提供改善的缩放结果,因为在输出处理过程中,伽马参数通常容易受到带状伪像。
以此方式,通过应用逆向颜色空间转换和/或逆向伽马校正,可以在线性RGB颜色空间中进行随后的缩放和合成。作为示例,可以通过颜色空间转换(CSC)将YCbCr颜色空间源材料(例如,DVD)转换为RGB,然后,可以通过逆向伽马块,将其转换为线性RGB。
此外,可以以任何合适的方式缩放显示数据。因此,方法50的56可包括应用视频缩放器,以更改分辨率参数。这样的视频缩放器可以再采样全动式视频(FMV)和/或用于显示的覆盖。此外,在某些实施例中,视频缩放器可以执行帧到场的下采样以供隔行扫描的显示支持。当处理多个输出分辨率时,视频缩放器可以显示分辨率匹配。作为示例,应用程序可以被配置成支持PAL、NTSC、以及720P。然而,并非让应用程序天然地支持这些不同的分辨率以及像素纵横比,可以向其呈现较小的分辨率子集,然后,可以在显示之前使用高质量过滤来缩放呈现目标。以此方式,可以支持与将具有一个显示纵横比(例如,4x3)的内容呈现在具有不同的显示纵横比(例如,16x9)的显示器上相关的功能。这样的功能还可以包括4x3显示器上的16x9内容的信箱呈现等。
视频缩放器还可以进一步提供对于填充有限的应用程序,基于系统负载来进行动态分辨率调整。如此,再采样器可以被配置成支持任意缩放因子,以便当动态地改变缩放因子时产生最小的伪像。此外,再采样还可以独立于平面的每一个源。在这样的情况下,对于主平面,可能需要诸如高质量、不可分的、在空间上自适应的2D过滤器之类的高质量2D过滤器,而非自适应的、可分离的过滤器可以用于HUD。
应该理解,在不偏离本公开的范围的情况下,后处理可以另选地或另外地包括其他处理。
此外,在后处理用于3D显示器的显示数据的情况下,后处理可包括缩放显示数据的第一平面的左眼视角和缩放右眼视角,分别如在方法50的58和60所示出的。这样的缩放可包括任何合适的处理以准备两个视角供输出。具体而言,可能不需要为每一个平面源分配全尺寸的帧缓冲器。如此,用于显示器的源区域的一部分可以是整个源,或者可以是源的一部分(例如,矩形区域)(例如,平移扫描、裁剪等等)。此外,源内容可以占据显示器的整个活动区,或者,它可以占据显示器的一部分(例如,信箱(letterboxing))。离开活动显示区域的源内容可以被剪切(例如,通过寄存器编程)。
因此,为了节省存储器占用和带宽,可能需要为给定平面指定产生多个子矩形的多个不相重叠的源。作为示例,为提供3D支持和“相框”HUD,可以显示任何大小的多个(例如,八个)不同的源,并可以将它们放置在显示器上的任何地方(例如,桌面)。
作为示例,图3示出了主应用程序的左眼版本90和主应用程序的右眼版本92的并排左/右输出的可能的配置。作为示例,主应用程序可以是具有通过HUD显示的多个外围设备的视频游戏。每一个项,即,项94a(例如,分数),项94b(例如,武器),项94c(例如,方向/地图)以及项94d(例如,消息)的左眼版本和右眼版本可以在它们自己的引用缓冲器中被并排地打包。例如,左眼版本90上的项94a和右眼版本92上的项94a可以使用从同一存储器缓冲器地址开始的,但是,具有不同的水平偏移的源数据。
作为另一个示例,图4示出了帧打包格式的可能的配置。这里,每一个项的左眼版本和右眼版本可以在它们自己的引用缓冲器中被打包over/under。例如,左眼版本90上的项94a和右眼版本92上的项94a可以使用从同一存储器缓冲器地址开始的,但是,带有不同的垂直偏移的源数据。
然后,可以将左眼和右眼角度组合起来,用于显示,来模仿3D图像。作为示例,图5示出了将左眼视角96和右眼视角97组合起来,以产生视频输出98。
由于不同的3D显示器使用不同的显示技术,因此,需要以显示器不可知的格式来存储显示数据,然后封装作为为显示器专用的呈现而格式化的视频输出。如此,缩放还可以包括为显示器专用的呈现而打包帧缓冲器。
这可以以任何合适的方式进行。例如,与显示数据的第一平面相关联的帧缓冲存储器和与显示数据的第二平面相关联的帧缓冲存储器可以每一个都被构建为支持显示器不可知的呈现。如此,缩放第一平面或第二平面的左眼视角或右眼视角可包括引用与该平面相关联的帧缓冲存储器,并格式化该平面的左眼视角或右眼视角,用于显示器专用的呈现。
在这样的情况下,引用帧缓冲器可包括获取该平面显示数据的与左眼或右眼相关联的区域。如此,缩放该平面的左眼角度或右眼角度可包括利用来自通过帧缓冲存储器获取的区域的数据打包帧缓冲器。
图6示出了对于上文图3-4参考所描述的情况,用于在帧缓冲存储器中的构建区域以支持显示器不可知的呈现的这样的可能的方法。可以使用三个源矩形。以此方式,可以并排地放置每一个区域的独立的左右视图。GPU和显示器输出DMA两者都被配置成理解每一个眼睛的矩形的原点和维度(X,Y,W,H),然而,只有显示输出DMA被配置成理解在输出格式中分隔两个眼睛的(DX,DY)(像素,行)。
在某些实施例中,缩放还可以包括将视差包括到逐像素呈现的左和右呈现中。在某些实施例中,这可以是具有单独的左右源平面的副效应。然而,在某些实施例中,视差可以被包括为基于存储在配置寄存器中的偏移参数而生成的每一个眼睛的最后的水平像素偏移。这也可以适用于在存储器中没有左和右源平面,,而只是单一平面(“角度”)加偏移的情况下。作为示例,偏移参数可以基于表示显示器输出宽度的DX加基于所希望的明显的深度(例如,图6中的表示为“Z”的Z-偏移)的偏移的总和。此外,每一个眼睛矩形的宽度可以被填充,以促进存储器平铺或输出过滤器对齐限制。
通过逐平面地执行这样的后处理,可以逐帧地改变源的属性(例如,颜色空间、大小、位置等等),因此,可以适当地被缓冲,以防止渗色/一致性/撕裂问题。如此,全部显示平面都可以被连贯地更新。
此外,这样的后处理允许每一个平面的源独立于显示器的分辨率。以此方式,所有源都可以逐帧地改变呈现维度,允许应用程序/系统在呈现目标维度变得接近于超过它们的GPU预算地运行时,无缝地缩减它们,如此,维护了一致的帧率。作为对于HDMI的可能的使用情况,接收器可以改变用于输出的显示器。在这样的情况下,显示器分辨率通过一步步地修改每一个源信道中的缩放器参数而改变,无需重新初始化视频输出管线。
返回到图2,在62,方法50包括从存储器中检索具有第二组显示参数的第二平面的显示数据。应该理解,这样的检索可以基本上与检索第一平面同时。
第二平面可以是被配置成定位在第一平面上方的任何合适的平面。例如,第二平面可以是系统主平面。作为另一个示例,第二平面可以是包括应用程序所生成的覆盖的应用程序HUD,所述覆盖被配置成在第一平面的已缩放的呈现顶上以恒定的分辨率绘制元件。作为再一个示例,第二平面可以是系统生成的覆盖,其被配置成促进系统通信,并被配置成被定位在第一平面上方,或作为半透明层被混合在第一平面上方。
在64,方法60包括独立于显示数据的第一平面,对显示数据的第二平面进行后处理。如此,对于每一个源,支持单独的控制,使得质量/资源利用率被增强。
后处理第二平面可包括缩放第二平面,如在66所示出的,例如,通过应用第二视频缩放器。后处理还可以包括诸如应用第二输入颜色空间转换、应用第二逆向伽马校正等等之类的其它处理。对于后处理显示数据供3D显示的情况,后处理可包括独立于显示数据的第一平面的左眼视角,缩放显示数据的第二平面的左眼视角,类似地,独立于显示数据的第一平面的右眼视角,缩放显示数据的第二平面的右眼视角,如在方法50的68和70所分别示出的。
在72,方法50包括将显示数据的第一平面与显示数据的第二平面混合,以形成混合的显示数据。这可以以任何合适的方式进行,如通过合成。
对于混合平面供3D显示的情况,混合可包括将显示数据的第一平面的左眼视角与显示数据的第二平面的左眼视角混合,以形成混合的显示数据的左眼视角,如在72所示出的,并将显示数据的第一平面的右眼视角与显示数据的第二平面的右眼视角混合,以形成混合的显示数据的右眼版本,如在74所示出的。
在76,方法50包括输出混合的显示数据。在某些实施例中,可以将混合的显示数据输出到视频编码器。然而,在某些实施例中,可以将被格式化和复合供输出的内容写回到存储器中,供随后使用,包括可能的视频压缩。可以从任何混合平台获取源,例如,以包括或排除系统平面。可另选地,为提供更大的灵活性,可以添加单独的混合器集合。这样的到存储器的输出还为显示器管线提供调试路径。
对于输出视频输出供3D显示的情况,输出可包括输出混合的显示数据的左眼角度,以及混合的显示数据的右眼角度,供三维显示,如在78和80所分别示出的。
应该理解,在不偏离本公开的范围的情况下,方法50还可以包括另外的处理。例如,在混合之后,可以应用输出伽马校正,以将线性空间内容可编程、可选择地转换为由显示设备预期的伽马(例如,sRGB伽马、BT.601/709伽马等等)。
作为另一个示例,方法50还可以包括应用输出颜色空间转换。以此方式,可以将复合的、经过伽马校正的结果匹配至显示所需的输出格式(例如,BT.601、BT.709、RGB、xvYCC601、xvYCC709等等)。可以维护足够的精确度和范围,以减轻卡箍和量化伪像。除颜色空间转换之外,可编程的系数可以允许使用同一个块,在对比度、饱和度、色调、亮度等等方面进行调整。
应该进一步理解,虽然输出处理步骤可以作为GPU/CPU核的存储器到存储器的操作来执行,或者在显示器栅格化过程中在运行时由专用显示器硬件来执行,可以进一步解决关于系统存储器占用的顾虑以及对以前的方法的附加的带宽要求。因此,可以理解,方法50可包括附加的逻辑,以便最终分割在GPU进行视频处理的效率、GPU芯片大小、存储器带宽以及利用率之间实现平衡。
应该理解,方法50还可以包括接收和后处理附加的平面,并将这些与其他经过后处理的平面混合,供输出。图7示出了四个单独的平面的显示管线100,即,包括主应用程序显示表面的应用程序主平面(App Main)、包括应用程序所生成的覆盖的应用程序HUD平面(App HUD)、包括主要系统显示表面的系统主平面(Sys Main),以及包括系统生成的覆盖的系统HUD平面(SysHUD),如下面比较详细地描述的。
App Main平面包括对于应用程序(前置缓冲器)要显示的主要表面。此平面的源在其它平面的下面/背后。在某些实施例中,可能不能在此平面上提供每像素字母(alpha)。
然后,App HUD平面包括对App Main平面的覆盖。添加这样的源可能潜在地根除由GPU所引起的丢帧。换言之,App Main源可以逐帧地改变呈现维度,支持在已缩放的游戏呈现上以恒定分辨率绘制App HUD元件。以此方式,当呈现目标维度变得接近于超过它们的GPU预算地运行,开发人员可以无缝地缩减它们,以便它们可以维护一致的帧率。这是可以实现的,因为GPU呈现时间趋向于在帧与帧之间不显著变化。HUD元件保持一致的分辨率,因为当以不同的方式动态地缩放那些HUD元件时,在视觉上是明显的,会对用户造成困扰。应用程序可以对于任何输出分辨率使用App HUD覆盖,其进一步使用了如图所示的缩放器。
Sys Main平面包括要对于系统软件显示的主要表面,包括操作系统以及程序和实用程序的任何核心集合。此平面可以被定位在应用程序平面上(例如,App Main和App HUD),而在Sys HUD平面下面。
Sys HUD平面包括对系统软件可用的覆盖平面。此平面可以被定位在其它平面上方。它可以用于系统消息、通知、以及用于语音/视频聊天功能。在系统覆盖路径中具有缩放器可以简化系统资源分配和性能预留,而不依赖于标题源分辨率、刷新速率等等。
如此,每一个平面都可以具有不同的显示参数集合。根据检索(例如,通过DMA),各平面随后可被彼此独立地后处理。如所描绘的,这样的后处理可包括颜色空间转换(CSC)、逆向伽马校正(G-1)、以及缩放。
然后,可以混合(例如,复合)各平面,以形成混合显示数据。在所描绘的示例中,将App Main平面与App HUD平面复合。然后,再将该结果与Sys Main平面复合,再将该结果与Sys HUD平面复合。可另选地,可以将App Main与App HUD复合,并可以将Sys Main与Sys HUD复合,然后,可以将结果彼此复合。
在所描绘的示例中,将输出伽马校正应用到混合的显示数据,然后,将结果输出到视频编码器。还缩放混合的显示数据,以便进行存储器输出、伽马校正,并写回存储器,以便进行随后的压缩。
在某些实施例中,上文所描述的方法和进程可以与计算系统关联。作为示例,图8示意性地示出了可以上文所描述的方法和进程中的一个或多个的计算系统110。计算系统110包括逻辑子系统112和数据保持子系统114。计算系统110可以可任选地包括显示子系统116和/或在图8中未示出的其他组件。
逻辑子系统112可包括被配置成执行一个或多个指令的一个或多个物理设备。例如,逻辑子系统可以被配置成执行一个或多个指令,这些指令是一个或多个程序、例程、对象、组件、数据结构,或其他逻辑构造的一部分。这样的指令可以被实现以执行任务、实现数据类型、转换一个或多个设备的状态,或以其他方式取得所希望的结果。逻辑子系统可包括被配置成执行软件指令的一个或多个处理器。另选地或另外地,逻辑子系统可包括被配置成执行硬件或固件指令的一个或多个硬件或固件逻辑机。逻辑子系统可以可任选地包括分布在两个或更多设备中的单个组件,在一些实施例中,可以位于远距离。
数据保持子系统114可包括一个或多个物理、非瞬时的设备,这些设备被配置成保留数据和/或可由逻辑子系统执行的指令,以实现此处所描述的方法和进程。当实现这样的方法和进程时,数据保持子系统114的状态可以被转换(例如,保留不同的数据)。数据保持子系统114可包括可移动介质和/或内嵌的设备。数据保持子系统114可包括光存储器设备、半导体存储器设备,和/或磁存储器设备等等。数据保持子系统114可包括带有下列特征中的一个或多个的设备:易失性、非易失性、动态、静态、读/写、只读、随机存取、顺序存取、位置可寻址、文件可寻址,以及内容可寻址。在某些实施例中,可以将逻辑子系统112和数据保持子系统114集成到诸如专用集成电路或系统芯片之类的一个或多个常见的设备中。
图8还以计算机可读取的可移动介质118的形式示出了数据保持子系统的一个方面,其可以被用来存储和/或传输数据和/或可执行的指令以实现此处所描述的方法和进程。
可以使用术语“模块”和“引擎”来描述被实现以执行一个或多个特定的功能的计算系统110的一个方面。在某些情况下,可以通过逻辑子系统112执行由数据保持子系统114所保存的指令来实例化这样的模块或引擎。可以理解,可以从同一个应用程序、代码块、对象、例程和/或函数来实例化不同的模块和/或引擎。同样,在某些情况下,可以由不同的应用程序、代码块、对象、例程和/或函数来实例化同一个模块和/或引擎。
当被包括时,显示子系统116可以被用来呈现由数据保持子系统114所保存的数据的可视表示。由于此处所描述的方法和进程改变由数据保持子系统所保存的数据,如此转换数据保持子系统的状态,同样,可以转换显示子系统116的状态以可视地表示基础数据中的变化。显示子系统116可包括使用几乎任何类型的技术的一个或多个显示设备。可以将这样的显示设备与共享机壳中的逻辑子系统112和/或数据保持子系统114相结合,或者,这样的显示设备也可以是外设显示设备。
可以理解,此处所述的配置和/或方法在本质上示例性的,且这些具体实施例或示例不是限制性的,因为多个变体是可能。此处所描述的具体例程或方法可表示任何数量的处理策略中的一个或多个。由此,所示出的各个动作可以按所示顺序执行、并行地执行、以其他顺序执行、或者在某些情况下省略。同样,上文所描述的过程的顺序也可以改变。
本发明的主题包括各种过程、系统和配置的所有新颖和非显而易见的组合和子组合、和此处所公开的其它特征、功能、动作、和/或特性、以及其任何和全部等效物。
Claims (10)
1.一种输出视频流的方法(50),所述方法包括:
从存储器中检索(52)显示数据的具有第一组显示参数的第一平面;
对显示数据的所述第一平面进行后处理(54),以调整所述第一组显示参数;
从存储器中检索(62)显示数据的具有第二组显示参数的第二平面;
独立于显示数据的所述第一平面,对显示数据的所述第二平面进行后处理(64);
将显示数据的所述第一平面与显示数据的所述第二平面混合(70),以形成混合的显示数据;以及
输出(76)所述混合的显示数据。
2.如权利要求1所述的方法,其特征在于,后处理还包括将输入颜色空间转换独立地应用到显示数据的所述第一平面和显示数据的所述第二平面,以将帧缓冲器格式匹配到常见的颜色空间以便以后进行混合。
3.如权利要求1所述的方法,其特征在于,后处理还包括将逆向伽马校正独立地应用到显示数据的所述第一平面和显示数据的所述第二平面,以将经过伽马校正的内容转换为线性空间。
4.如权利要求1所述的方法,其特征在于,后处理包括分别使用第一视频缩放器和第二视频缩放器,来将显示数据的所述第一平面和显示数据的所述第二平面中的每一个的相应的分辨率更改为所期望的输出分辨率。
5.如权利要求1所述的方法,其特征在于,后处理还包括将输入颜色空间转换、逆向伽马校正、以及视频缩放器独立地应用到显示数据的所述第一平面和显示数据的所述第二平面。
6.如权利要求1所述的方法,其特征在于,所述第一平面包括应用程序生成的主要应用程序显示表面,并且所述第二平面包括用于定位在所述第一平面上方的计算系统的系统生成的主要系统显示器表面。
7.如权利要求1所述的方法,其特征在于,所述第一平面包括应用程序生成的主要应用程序显示表面,所述第二平面包括用于定位在所述第一平面上方的应用程序生成的覆盖。
8.如权利要求1所述的方法,其特征在于,所述第一平面包括计算系统的系统生成的主要系统显示器表面,其特征在于,所述第二平面包括用于定位在所述第一平面上方的系统生成的覆盖。
9.如权利要求1所述的方法,其特征在于,输出所述混合的显示数据包括向视频编码器输出所述混合的显示数据。
10.如权利要求1所述的方法,其特征在于,显示数据的所述第一平面包括左眼视角和右眼视角,其特征在于,显示数据的所述第二平面包括左眼视角和右眼视角,其特征在于,将显示数据的所述第一平面与显示数据的所述第二平面混合包括将所述第一平面的所述左眼视角的缩放版本与所述第二平面的所述左眼视角的缩放版本混合,以及将所述第一平面的所述右眼视角的缩放版本与所述第二平面的所述右眼视角的缩放版本混合。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US12/815,248 | 2010-06-14 | ||
US12/815,248 US8982151B2 (en) | 2010-06-14 | 2010-06-14 | Independently processing planes of display data |
Publications (2)
Publication Number | Publication Date |
---|---|
CN102221984A true CN102221984A (zh) | 2011-10-19 |
CN102221984B CN102221984B (zh) | 2015-06-17 |
Family
ID=44778545
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201110170889.4A Active CN102221984B (zh) | 2010-06-14 | 2011-06-13 | 独立地处理显示数据的平面 |
Country Status (2)
Country | Link |
---|---|
US (1) | US8982151B2 (zh) |
CN (1) | CN102221984B (zh) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103365616A (zh) * | 2012-03-29 | 2013-10-23 | 宇龙计算机通信科技(深圳)有限公司 | 一种显示模块的自适应显示方法和装置 |
CN106233721A (zh) * | 2014-04-30 | 2016-12-14 | 索尼公司 | 信息处理设备、信息记录介质、图像处理方法以及程序 |
CN107615770A (zh) * | 2016-03-31 | 2018-01-19 | 华为技术有限公司 | 应用程序的处理方法及终端设备 |
CN108269222A (zh) * | 2016-12-30 | 2018-07-10 | 华为技术有限公司 | 一种窗口渲染方法及终端 |
CN112596850A (zh) * | 2021-03-03 | 2021-04-02 | 全时云商务服务股份有限公司 | 针对多窗口应用程序的控制方法及系统 |
TWI796905B (zh) * | 2021-12-28 | 2023-03-21 | 宏碁股份有限公司 | 調整顯示參數的方法及電子裝置 |
CN117453170A (zh) * | 2023-12-25 | 2024-01-26 | 西安芯云半导体技术有限公司 | 一种显示控制方法、装置及存储介质 |
Families Citing this family (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20120020627A (ko) * | 2010-08-30 | 2012-03-08 | 삼성전자주식회사 | 3d 영상 포맷을 이용한 영상 처리 장치 및 방법 |
US20150348232A1 (en) * | 2012-01-19 | 2015-12-03 | Hewlett-Packard Development Company, L.P. | Right sizing enhanced content to generate optimized source content |
US9264749B2 (en) | 2012-12-13 | 2016-02-16 | Microsoft Technology Licensing, Llc | Server GPU assistance for mobile GPU applications |
US10112115B2 (en) * | 2013-10-28 | 2018-10-30 | Nvidia Corporation | Gamecasting techniques |
JP6303446B2 (ja) * | 2013-11-29 | 2018-04-04 | 株式会社リコー | 情報処理装置、プログラム、情報処理システム、及び情報処理方法 |
US9818174B2 (en) * | 2014-09-24 | 2017-11-14 | Microsoft Technology Licensing, Llc | Streamlined handling of monitor topology changes |
CN104601971B (zh) * | 2014-12-31 | 2019-06-14 | 小米科技有限责任公司 | 色彩调整方法及装置 |
US9940858B2 (en) * | 2016-05-16 | 2018-04-10 | Unity IPR ApS | System and method for assymetric rendering to eyes in augmented reality and virtual reality devices |
EP3270371B1 (en) | 2016-07-12 | 2022-09-07 | NXP USA, Inc. | Method and apparatus for managing graphics layers within a graphics display component |
US11474354B2 (en) * | 2017-04-25 | 2022-10-18 | Ati Technologies Ulc | Display pacing in multi-head mounted display virtual reality configurations |
US11032345B2 (en) | 2018-05-10 | 2021-06-08 | Microsoft Technology Licensing, Llc | Client side data stream processing |
US10924525B2 (en) | 2018-10-01 | 2021-02-16 | Microsoft Technology Licensing, Llc | Inducing higher input latency in multiplayer programs |
CN109348276B (zh) * | 2018-11-08 | 2019-12-17 | 北京微播视界科技有限公司 | 视频画面调整方法、装置、计算机设备和存储介质 |
US11372474B2 (en) * | 2019-07-03 | 2022-06-28 | Saec/Kinetic Vision, Inc. | Systems and methods for virtual artificial intelligence development and testing |
US11711571B2 (en) * | 2020-03-06 | 2023-07-25 | Advanced Micro Devices, Inc. | Client-side offload of graphics effects processing |
CN113238726B (zh) * | 2021-04-30 | 2024-06-04 | 深圳市智微智能软件开发有限公司 | 双显示器同步显示控制方法、装置、设备及存储介质 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5841439A (en) * | 1994-07-22 | 1998-11-24 | Monash University | Updating graphical objects based on object validity periods |
CN1379953A (zh) * | 2000-04-28 | 2002-11-13 | 瑞士电信流动电话公司 | 用于电视会议的方法和系统 |
US20050068346A1 (en) * | 2003-09-29 | 2005-03-31 | Pioneer Corporation | Image output apparatus, image output method, and image display system |
US7079157B2 (en) * | 2000-03-17 | 2006-07-18 | Sun Microsystems, Inc. | Matching the edges of multiple overlapping screen images |
CN1942896A (zh) * | 2004-04-16 | 2007-04-04 | 苹果电脑有限公司 | 用图形处理单元处理图形操作的系统和方法 |
CN101438579A (zh) * | 2006-03-31 | 2009-05-20 | 皇家飞利浦电子股份有限公司 | 基于附加内容帧的视频内容的自适应再现 |
US20100142924A1 (en) * | 2008-11-18 | 2010-06-10 | Panasonic Corporation | Playback apparatus, playback method, and program for performing stereoscopic playback |
Family Cites Families (166)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4695953A (en) | 1983-08-25 | 1987-09-22 | Blair Preston E | TV animation interactively controlled by the viewer |
US4630910A (en) | 1984-02-16 | 1986-12-23 | Robotic Vision Systems, Inc. | Method of measuring in three-dimensions at high speed |
US4627620A (en) | 1984-12-26 | 1986-12-09 | Yang John P | Electronic athlete trainer for improving skills in reflex, speed and accuracy |
US4645458A (en) | 1985-04-15 | 1987-02-24 | Harald Phillip | Athletic evaluation and training apparatus |
US4702475A (en) | 1985-08-16 | 1987-10-27 | Innovating Training Products, Inc. | Sports technique and reaction training system |
US4843568A (en) | 1986-04-11 | 1989-06-27 | Krueger Myron W | Real time perception of and response to the actions of an unencumbered participant/user |
US4711543A (en) | 1986-04-14 | 1987-12-08 | Blair Preston E | TV animation interactively controlled by the viewer |
US4796997A (en) | 1986-05-27 | 1989-01-10 | Synthetic Vision Systems, Inc. | Method and system for high-speed, 3-D imaging of an object at a vision station |
US5184295A (en) | 1986-05-30 | 1993-02-02 | Mann Ralph V | System and method for teaching physical skills |
US4751642A (en) | 1986-08-29 | 1988-06-14 | Silva John M | Interactive sports simulation system with physiological sensing and psychological conditioning |
US4809065A (en) | 1986-12-01 | 1989-02-28 | Kabushiki Kaisha Toshiba | Interactive system and related method for displaying data to produce a three-dimensional image of an object |
US4817950A (en) | 1987-05-08 | 1989-04-04 | Goo Paul E | Video game control unit and attitude sensor |
US5239464A (en) | 1988-08-04 | 1993-08-24 | Blair Preston E | Interactive video system providing repeated switching of multiple tracks of actions sequences |
US5239463A (en) | 1988-08-04 | 1993-08-24 | Blair Preston E | Method and apparatus for player interaction with animated characters and objects |
US4901362A (en) | 1988-08-08 | 1990-02-13 | Raytheon Company | Method of recognizing patterns |
US4893183A (en) | 1988-08-11 | 1990-01-09 | Carnegie-Mellon University | Robotic vision system |
JPH02199526A (ja) | 1988-10-14 | 1990-08-07 | David G Capper | 制御インターフェース装置 |
US4925189A (en) | 1989-01-13 | 1990-05-15 | Braeunig Thomas F | Body-mounted video game exercise device |
US5229756A (en) | 1989-02-07 | 1993-07-20 | Yamaha Corporation | Image control apparatus |
US5469740A (en) | 1989-07-14 | 1995-11-28 | Impulse Technology, Inc. | Interactive video testing and training system |
JPH03103822U (zh) | 1990-02-13 | 1991-10-29 | ||
US5101444A (en) | 1990-05-18 | 1992-03-31 | Panacea, Inc. | Method and apparatus for high speed object location |
US5148154A (en) | 1990-12-04 | 1992-09-15 | Sony Corporation Of America | Multi-dimensional user interface |
US5534917A (en) | 1991-05-09 | 1996-07-09 | Very Vivid, Inc. | Video image based control system |
US5417210A (en) | 1992-05-27 | 1995-05-23 | International Business Machines Corporation | System and method for augmentation of endoscopic surgery |
US5295491A (en) | 1991-09-26 | 1994-03-22 | Sam Technology, Inc. | Non-invasive human neurocognitive performance capability testing method and system |
US6054991A (en) | 1991-12-02 | 2000-04-25 | Texas Instruments Incorporated | Method of modeling player position and movement in a virtual reality system |
EP0590101B1 (en) | 1991-12-03 | 1999-06-23 | French Sportech Corporation | Interactive video testing and training system |
US5875108A (en) | 1991-12-23 | 1999-02-23 | Hoffberg; Steven M. | Ergonomic man-machine interface incorporating adaptive pattern recognition based control system |
JPH07325934A (ja) | 1992-07-10 | 1995-12-12 | Walt Disney Co:The | 仮想世界に向上したグラフィックスを提供する方法および装置 |
US5999908A (en) | 1992-08-06 | 1999-12-07 | Abelow; Daniel H. | Customer-based product design module |
US5320538A (en) | 1992-09-23 | 1994-06-14 | Hughes Training, Inc. | Interactive aircraft training system and method |
IT1257294B (it) | 1992-11-20 | 1996-01-12 | Dispositivo atto a rilevare la configurazione di un'unita' fisiologicadistale,da utilizzarsi in particolare come interfaccia avanzata per macchine e calcolatori. | |
US5495576A (en) | 1993-01-11 | 1996-02-27 | Ritchey; Kurtis J. | Panoramic image based virtual reality/telepresence audio-visual system and method |
US5690582A (en) | 1993-02-02 | 1997-11-25 | Tectrix Fitness Equipment, Inc. | Interactive exercise apparatus |
JP2799126B2 (ja) | 1993-03-26 | 1998-09-17 | 株式会社ナムコ | ビデオゲーム装置及びゲーム用入力装置 |
US5405152A (en) | 1993-06-08 | 1995-04-11 | The Walt Disney Company | Method and apparatus for an interactive video game with physical feedback |
US5454043A (en) | 1993-07-30 | 1995-09-26 | Mitsubishi Electric Research Laboratories, Inc. | Dynamic and static hand gesture recognition through low-level image analysis |
US5423554A (en) | 1993-09-24 | 1995-06-13 | Metamedia Ventures, Inc. | Virtual reality game method and apparatus |
US5980256A (en) | 1993-10-29 | 1999-11-09 | Carmein; David E. E. | Virtual reality system with enhanced sensory apparatus |
JP3419050B2 (ja) | 1993-11-19 | 2003-06-23 | 株式会社日立製作所 | 入力装置 |
US5347306A (en) | 1993-12-17 | 1994-09-13 | Mitsubishi Electric Research Laboratories, Inc. | Animated electronic meeting place |
JP2552427B2 (ja) | 1993-12-28 | 1996-11-13 | コナミ株式会社 | テレビ遊戯システム |
US5577981A (en) | 1994-01-19 | 1996-11-26 | Jarvik; Robert | Virtual reality exercise machine and computer controlled video system |
US5580249A (en) | 1994-02-14 | 1996-12-03 | Sarcos Group | Apparatus for simulating mobility of a human |
US5597309A (en) | 1994-03-28 | 1997-01-28 | Riess; Thomas | Method and apparatus for treatment of gait problems associated with parkinson's disease |
US5385519A (en) | 1994-04-19 | 1995-01-31 | Hsu; Chi-Hsueh | Running machine |
US5524637A (en) | 1994-06-29 | 1996-06-11 | Erickson; Jon W. | Interactive system for measuring physiological exertion |
JPH0844490A (ja) | 1994-07-28 | 1996-02-16 | Matsushita Electric Ind Co Ltd | インターフェイス装置 |
US5563988A (en) | 1994-08-01 | 1996-10-08 | Massachusetts Institute Of Technology | Method and system for facilitating wireless, full-body, real-time user interaction with a digitally represented visual environment |
US6714665B1 (en) | 1994-09-02 | 2004-03-30 | Sarnoff Corporation | Fully automated iris recognition system utilizing wide and narrow fields of view |
US5516105A (en) | 1994-10-06 | 1996-05-14 | Exergame, Inc. | Acceleration activated joystick |
US5638300A (en) | 1994-12-05 | 1997-06-10 | Johnson; Lee E. | Golf swing analysis system |
JPH08161292A (ja) | 1994-12-09 | 1996-06-21 | Matsushita Electric Ind Co Ltd | 混雑度検知方法およびそのシステム |
US5594469A (en) | 1995-02-21 | 1997-01-14 | Mitsubishi Electric Information Technology Center America Inc. | Hand gesture machine control system |
US5682229A (en) | 1995-04-14 | 1997-10-28 | Schwartz Electro-Optics, Inc. | Laser range camera |
US5913727A (en) | 1995-06-02 | 1999-06-22 | Ahdoot; Ned | Interactive movement and contact simulation game |
WO1996041304A1 (en) | 1995-06-07 | 1996-12-19 | The Trustees Of Columbia University In The City Of New York | Apparatus and methods for determining the three-dimensional shape of an object using active illumination and relative blurring in two images due to defocus |
US5682196A (en) | 1995-06-22 | 1997-10-28 | Actv, Inc. | Three-dimensional (3D) video presentation system providing interactive 3D presentation with personalized audio responses for multiple viewers |
US5702323A (en) | 1995-07-26 | 1997-12-30 | Poulton; Craig K. | Electronic exercise enhancer |
US6098458A (en) | 1995-11-06 | 2000-08-08 | Impulse Technology, Ltd. | Testing and training system for assessing movement and agility skills without a confining field |
US6430997B1 (en) | 1995-11-06 | 2002-08-13 | Trazer Technologies, Inc. | System and method for tracking and assessing movement skills in multidimensional space |
US6073489A (en) | 1995-11-06 | 2000-06-13 | French; Barry J. | Testing and training system for assessing the ability of a player to complete a task |
US6308565B1 (en) | 1995-11-06 | 2001-10-30 | Impulse Technology Ltd. | System and method for tracking and assessing movement skills in multidimensional space |
US6176782B1 (en) | 1997-12-22 | 2001-01-23 | Philips Electronics North America Corp. | Motion-based command generation technology |
US5933125A (en) | 1995-11-27 | 1999-08-03 | Cae Electronics, Ltd. | Method and apparatus for reducing instability in the display of a virtual environment |
US5641288A (en) | 1996-01-11 | 1997-06-24 | Zaenglein, Jr.; William G. | Shooting simulating process and training device using a virtual reality display screen |
JP2000510013A (ja) | 1996-05-08 | 2000-08-08 | リアル ヴィジョン コーポレイション | 位置検出を用いたリアルタイムシミュレーション |
US6173066B1 (en) | 1996-05-21 | 2001-01-09 | Cybernet Systems Corporation | Pose determination and tracking by matching 3D objects to a 2D sensor |
US5989157A (en) | 1996-08-06 | 1999-11-23 | Walton; Charles A. | Exercising system with electronic inertial game playing |
EP0959444A4 (en) | 1996-08-14 | 2005-12-07 | Nurakhmed Nurislamovic Latypov | METHOD FOR TRACKING AND REPRESENTING THE POSITION AND ORIENTATION OF A SUBJECT IN THE SPACE, METHOD FOR PRESENTING A VIRTUAL SPACE THEREON, AND SYSTEMS FOR CARRYING OUT SAID METHODS |
JP3064928B2 (ja) | 1996-09-20 | 2000-07-12 | 日本電気株式会社 | 被写体抽出方式 |
EP0849697B1 (en) | 1996-12-20 | 2003-02-12 | Hitachi Europe Limited | A hand gesture recognition system and method |
US6009210A (en) | 1997-03-05 | 1999-12-28 | Digital Equipment Corporation | Hands-free interface to a virtual reality environment using head tracking |
US6100896A (en) | 1997-03-24 | 2000-08-08 | Mitsubishi Electric Information Technology Center America, Inc. | System for designing graphical multi-participant environments |
US5877803A (en) | 1997-04-07 | 1999-03-02 | Tritech Mircoelectronics International, Ltd. | 3-D image detector |
US6215898B1 (en) | 1997-04-15 | 2001-04-10 | Interval Research Corporation | Data processing system and method |
JP3077745B2 (ja) | 1997-07-31 | 2000-08-14 | 日本電気株式会社 | データ処理方法および装置、情報記憶媒体 |
US6188777B1 (en) | 1997-08-01 | 2001-02-13 | Interval Research Corporation | Method and apparatus for personnel detection and tracking |
US6720949B1 (en) | 1997-08-22 | 2004-04-13 | Timothy R. Pryor | Man machine interfaces and applications |
US6289112B1 (en) | 1997-08-22 | 2001-09-11 | International Business Machines Corporation | System and method for determining block direction in fingerprint images |
AUPO894497A0 (en) | 1997-09-02 | 1997-09-25 | Xenotech Research Pty Ltd | Image processing method and apparatus |
EP0905644A3 (en) | 1997-09-26 | 2004-02-25 | Matsushita Electric Industrial Co., Ltd. | Hand gesture recognizing device |
US6141463A (en) | 1997-10-10 | 2000-10-31 | Electric Planet Interactive | Method and system for estimating jointed-figure configurations |
US6101289A (en) | 1997-10-15 | 2000-08-08 | Electric Planet, Inc. | Method and apparatus for unencumbered capture of an object |
US6411744B1 (en) | 1997-10-15 | 2002-06-25 | Electric Planet, Inc. | Method and apparatus for performing a clean background subtraction |
AU9808298A (en) | 1997-10-15 | 1999-05-03 | Electric Planet, Inc. | A system and method for generating an animatable character |
US6130677A (en) | 1997-10-15 | 2000-10-10 | Electric Planet, Inc. | Interactive computer vision system |
US6072494A (en) | 1997-10-15 | 2000-06-06 | Electric Planet, Inc. | Method and apparatus for real-time gesture recognition |
US6181343B1 (en) | 1997-12-23 | 2001-01-30 | Philips Electronics North America Corp. | System and method for permitting three-dimensional navigation through a virtual reality environment using camera-based gesture inputs |
EP1059970A2 (en) | 1998-03-03 | 2000-12-20 | Arena, Inc, | System and method for tracking and assessing movement skills in multidimensional space |
US6159100A (en) | 1998-04-23 | 2000-12-12 | Smith; Michael D. | Virtual reality game |
US6077201A (en) | 1998-06-12 | 2000-06-20 | Cheng; Chau-Yang | Exercise bicycle |
US6950534B2 (en) | 1998-08-10 | 2005-09-27 | Cybernet Systems Corporation | Gesture-controlled interfaces for self-service machines and other applications |
US6681031B2 (en) | 1998-08-10 | 2004-01-20 | Cybernet Systems Corporation | Gesture-controlled interfaces for self-service machines and other applications |
US7036094B1 (en) | 1998-08-10 | 2006-04-25 | Cybernet Systems Corporation | Behavior recognition system |
US7121946B2 (en) | 1998-08-10 | 2006-10-17 | Cybernet Systems Corporation | Real-time head tracking system for computer games and other applications |
US20010008561A1 (en) | 1999-08-10 | 2001-07-19 | Paul George V. | Real-time object tracking system |
US6801637B2 (en) | 1999-08-10 | 2004-10-05 | Cybernet Systems Corporation | Optical body tracker |
IL126284A (en) | 1998-09-17 | 2002-12-01 | Netmor Ltd | System and method for three dimensional positioning and tracking |
DE69936620T2 (de) | 1998-09-28 | 2008-05-21 | Matsushita Electric Industrial Co., Ltd., Kadoma | Verfahren und Vorrichtung zum Segmentieren von Handgebärden |
AU1930700A (en) | 1998-12-04 | 2000-06-26 | Interval Research Corporation | Background estimation and segmentation based on range and color |
US6147678A (en) | 1998-12-09 | 2000-11-14 | Lucent Technologies Inc. | Video hand image-three-dimensional computer interface with multiple degrees of freedom |
US7202898B1 (en) | 1998-12-16 | 2007-04-10 | 3Dv Systems Ltd. | Self gating photosurface |
US6570555B1 (en) | 1998-12-30 | 2003-05-27 | Fuji Xerox Co., Ltd. | Method and apparatus for embodied conversational characters with multimodal input/output in an interface device |
US6363160B1 (en) | 1999-01-22 | 2002-03-26 | Intel Corporation | Interface using pattern recognition and tracking |
US7003134B1 (en) | 1999-03-08 | 2006-02-21 | Vulcan Patents Llc | Three dimensional object pose estimation which employs dense depth information |
US6299308B1 (en) | 1999-04-02 | 2001-10-09 | Cybernet Systems Corporation | Low-cost non-imaging eye tracker system for computer control |
US6503195B1 (en) | 1999-05-24 | 2003-01-07 | University Of North Carolina At Chapel Hill | Methods and systems for real-time structured light depth extraction and endoscope using real-time structured light depth extraction |
US6476834B1 (en) | 1999-05-28 | 2002-11-05 | International Business Machines Corporation | Dynamic creation of selectable items on surfaces |
US6873723B1 (en) | 1999-06-30 | 2005-03-29 | Intel Corporation | Segmenting three-dimensional video images using stereo |
US6738066B1 (en) | 1999-07-30 | 2004-05-18 | Electric Plant, Inc. | System, method and article of manufacture for detecting collisions between video images generated by a camera and an object depicted on a display |
US7113918B1 (en) | 1999-08-01 | 2006-09-26 | Electric Planet, Inc. | Method for video enabled electronic commerce |
US7050606B2 (en) | 1999-08-10 | 2006-05-23 | Cybernet Systems Corporation | Tracking and gesture recognition system particularly suited to vehicular control applications |
US6663491B2 (en) | 2000-02-18 | 2003-12-16 | Namco Ltd. | Game apparatus, storage medium and computer program that adjust tempo of sound |
US6633294B1 (en) | 2000-03-09 | 2003-10-14 | Seth Rosenthal | Method and apparatus for using captured high density motion for animation |
EP1152261A1 (en) | 2000-04-28 | 2001-11-07 | CSEM Centre Suisse d'Electronique et de Microtechnique SA | Device and method for spatially resolved photodetection and demodulation of modulated electromagnetic waves |
US6640202B1 (en) | 2000-05-25 | 2003-10-28 | International Business Machines Corporation | Elastic sensor mesh system for 3-dimensional measurement, mapping and kinematics applications |
US6731799B1 (en) | 2000-06-01 | 2004-05-04 | University Of Washington | Object segmentation with background extraction and moving boundary techniques |
US6788809B1 (en) | 2000-06-30 | 2004-09-07 | Intel Corporation | System and method for gesture recognition in three dimensions using stereo imaging and color vision |
US7227526B2 (en) | 2000-07-24 | 2007-06-05 | Gesturetek, Inc. | Video-based image control system |
US7058204B2 (en) | 2000-10-03 | 2006-06-06 | Gesturetek, Inc. | Multiple camera control system |
US7039676B1 (en) | 2000-10-31 | 2006-05-02 | International Business Machines Corporation | Using video image analysis to automatically transmit gestures over a network in a chat or instant messaging session |
US6539931B2 (en) | 2001-04-16 | 2003-04-01 | Koninklijke Philips Electronics N.V. | Ball throwing assistant |
US8035612B2 (en) | 2002-05-28 | 2011-10-11 | Intellectual Ventures Holding 67 Llc | Self-contained interactive video display system |
US7259747B2 (en) | 2001-06-05 | 2007-08-21 | Reactrix Systems, Inc. | Interactive video display system |
JP3420221B2 (ja) | 2001-06-29 | 2003-06-23 | 株式会社コナミコンピュータエンタテインメント東京 | ゲーム装置及びプログラム |
US6937742B2 (en) | 2001-09-28 | 2005-08-30 | Bellsouth Intellectual Property Corporation | Gesture activated home appliance |
EP1497160B2 (de) | 2002-04-19 | 2010-07-21 | IEE INTERNATIONAL ELECTRONICS & ENGINEERING S.A. | Sicherheitsvorrichtung für ein fahrzeug |
US7710391B2 (en) | 2002-05-28 | 2010-05-04 | Matthew Bell | Processing an image utilizing a spatially varying pattern |
US7348963B2 (en) | 2002-05-28 | 2008-03-25 | Reactrix Systems, Inc. | Interactive video display system |
US7170492B2 (en) | 2002-05-28 | 2007-01-30 | Reactrix Systems, Inc. | Interactive video display system |
US7489812B2 (en) | 2002-06-07 | 2009-02-10 | Dynamic Digital Depth Research Pty Ltd. | Conversion and encoding techniques |
US7576727B2 (en) | 2002-12-13 | 2009-08-18 | Matthew Bell | Interactive directed light/sound system |
JP4235729B2 (ja) | 2003-02-03 | 2009-03-11 | 国立大学法人静岡大学 | 距離画像センサ |
EP1477924B1 (en) | 2003-03-31 | 2007-05-02 | HONDA MOTOR CO., Ltd. | Gesture recognition apparatus, method and program |
EP1628490A1 (en) * | 2003-05-27 | 2006-02-22 | Sanyo Electric Co., Ltd. | Image display device and program |
US8072470B2 (en) | 2003-05-29 | 2011-12-06 | Sony Computer Entertainment Inc. | System and method for providing a real-time three-dimensional interactive environment |
US7372977B2 (en) | 2003-05-29 | 2008-05-13 | Honda Motor Co., Ltd. | Visual tracking using depth data |
US7620202B2 (en) | 2003-06-12 | 2009-11-17 | Honda Motor Co., Ltd. | Target orientation estimation using depth sensing |
WO2005041579A2 (en) | 2003-10-24 | 2005-05-06 | Reactrix Systems, Inc. | Method and system for processing captured image information in an interactive video display system |
WO2005059699A2 (en) | 2003-12-15 | 2005-06-30 | Quantum Matrix Holdings, Llc | System and method for multi-dimensional organization, management, and manipulation of data |
CN100573548C (zh) | 2004-04-15 | 2009-12-23 | 格斯图尔泰克股份有限公司 | 跟踪双手运动的方法和设备 |
US7308112B2 (en) | 2004-05-14 | 2007-12-11 | Honda Motor Co., Ltd. | Sign based human-machine interaction |
US7704135B2 (en) | 2004-08-23 | 2010-04-27 | Harrison Jr Shelton E | Integrated game system, method, and device |
US20060164411A1 (en) | 2004-11-27 | 2006-07-27 | Bracco Imaging, S.P.A. | Systems and methods for displaying multiple views of a single 3D rendering ("multiple views") |
KR20060070280A (ko) | 2004-12-20 | 2006-06-23 | 한국전자통신연구원 | 손 제스처 인식을 이용한 사용자 인터페이스 장치 및 그방법 |
US7430312B2 (en) | 2005-01-07 | 2008-09-30 | Gesturetek, Inc. | Creating 3D images of objects by illuminating with infrared patterns |
EP1849123A2 (en) | 2005-01-07 | 2007-10-31 | GestureTek, Inc. | Optical flow based tilt sensor |
EP1856470B1 (en) | 2005-01-07 | 2013-02-27 | Qualcomm Incorporated | Detecting and tracking objects in images |
CN101536494B (zh) | 2005-02-08 | 2017-04-26 | 奥布隆工业有限公司 | 用于基于姿势的控制系统的系统和方法 |
WO2006099597A2 (en) | 2005-03-17 | 2006-09-21 | Honda Motor Co., Ltd. | Pose estimation based on critical point analysis |
US7389591B2 (en) | 2005-05-17 | 2008-06-24 | Gesturetek, Inc. | Orientation-sensitive signal output |
EP1752748B1 (en) | 2005-08-12 | 2008-10-29 | MESA Imaging AG | Highly sensitive, fast pixel for use in an image sensor |
US20080026838A1 (en) | 2005-08-22 | 2008-01-31 | Dunstan James E | Multi-player non-role-playing virtual world games: method for two-way interaction between participants and multi-player virtual world games |
US7450736B2 (en) | 2005-10-28 | 2008-11-11 | Honda Motor Co., Ltd. | Monocular tracking of 3D human motion with a coordinated mixture of factor analyzers |
US7701439B2 (en) | 2006-07-13 | 2010-04-20 | Northrop Grumman Corporation | Gesture recognition simulation system and method |
JP5395323B2 (ja) | 2006-09-29 | 2014-01-22 | ブレインビジョン株式会社 | 固体撮像素子 |
US7412077B2 (en) | 2006-12-29 | 2008-08-12 | Motorola, Inc. | Apparatus and methods for head pose estimation and head gesture detection |
US7729530B2 (en) | 2007-03-03 | 2010-06-01 | Sergey Antonov | Method and apparatus for 3-D data input to a personal computer with a multimedia oriented operating system |
US7852262B2 (en) | 2007-08-16 | 2010-12-14 | Cybernet Systems Corporation | Wireless mobile indoor/outdoor tracking system |
US8786675B2 (en) | 2008-01-23 | 2014-07-22 | Michael F. Deering | Systems using eye mounted displays |
EP2306729B1 (en) * | 2008-07-31 | 2013-08-14 | Mitsubishi Electric Corporation | Video encoding device, video encoding method, video reproduction device, video recording medium, and video data stream |
CN201254344Y (zh) | 2008-08-20 | 2009-06-10 | 中国农业科学院草原研究所 | 植物标本及种子存贮器 |
US8301013B2 (en) * | 2008-11-18 | 2012-10-30 | Panasonic Corporation | Reproduction device, reproduction method, and program for stereoscopic reproduction |
JP2011035592A (ja) * | 2009-07-31 | 2011-02-17 | Nintendo Co Ltd | 表示制御プログラムおよび情報処理システム |
-
2010
- 2010-06-14 US US12/815,248 patent/US8982151B2/en active Active
-
2011
- 2011-06-13 CN CN201110170889.4A patent/CN102221984B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5841439A (en) * | 1994-07-22 | 1998-11-24 | Monash University | Updating graphical objects based on object validity periods |
US7079157B2 (en) * | 2000-03-17 | 2006-07-18 | Sun Microsystems, Inc. | Matching the edges of multiple overlapping screen images |
CN1379953A (zh) * | 2000-04-28 | 2002-11-13 | 瑞士电信流动电话公司 | 用于电视会议的方法和系统 |
US20050068346A1 (en) * | 2003-09-29 | 2005-03-31 | Pioneer Corporation | Image output apparatus, image output method, and image display system |
CN1942896A (zh) * | 2004-04-16 | 2007-04-04 | 苹果电脑有限公司 | 用图形处理单元处理图形操作的系统和方法 |
CN101438579A (zh) * | 2006-03-31 | 2009-05-20 | 皇家飞利浦电子股份有限公司 | 基于附加内容帧的视频内容的自适应再现 |
US20100142924A1 (en) * | 2008-11-18 | 2010-06-10 | Panasonic Corporation | Playback apparatus, playback method, and program for performing stereoscopic playback |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103365616A (zh) * | 2012-03-29 | 2013-10-23 | 宇龙计算机通信科技(深圳)有限公司 | 一种显示模块的自适应显示方法和装置 |
CN106233721A (zh) * | 2014-04-30 | 2016-12-14 | 索尼公司 | 信息处理设备、信息记录介质、图像处理方法以及程序 |
TWI682382B (zh) * | 2014-04-30 | 2020-01-11 | 日商新力股份有限公司 | 資訊處理裝置、資訊記錄媒體、影像處理方法及程式 |
CN107615770A (zh) * | 2016-03-31 | 2018-01-19 | 华为技术有限公司 | 应用程序的处理方法及终端设备 |
CN107615770B (zh) * | 2016-03-31 | 2020-02-21 | 华为技术有限公司 | 应用程序的处理方法及终端设备 |
CN108269222A (zh) * | 2016-12-30 | 2018-07-10 | 华为技术有限公司 | 一种窗口渲染方法及终端 |
CN112596850A (zh) * | 2021-03-03 | 2021-04-02 | 全时云商务服务股份有限公司 | 针对多窗口应用程序的控制方法及系统 |
TWI796905B (zh) * | 2021-12-28 | 2023-03-21 | 宏碁股份有限公司 | 調整顯示參數的方法及電子裝置 |
CN117453170A (zh) * | 2023-12-25 | 2024-01-26 | 西安芯云半导体技术有限公司 | 一种显示控制方法、装置及存储介质 |
CN117453170B (zh) * | 2023-12-25 | 2024-03-29 | 西安芯云半导体技术有限公司 | 一种显示控制方法、装置及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN102221984B (zh) | 2015-06-17 |
US8982151B2 (en) | 2015-03-17 |
US20110304713A1 (en) | 2011-12-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102221984B (zh) | 独立地处理显示数据的平面 | |
EP3134804B1 (en) | Multiple display pipelines driving a divided display | |
US6788309B1 (en) | Method and apparatus for generating a video overlay | |
US9837030B2 (en) | Refresh rate dependent adaptive dithering for a variable refresh rate display | |
US20110292060A1 (en) | Frame buffer sizing to optimize the performance of on screen graphics in a digital electronic device | |
US9811874B2 (en) | Frame times by dynamically adjusting frame buffer resolution | |
US20200226813A1 (en) | In-flight adaptive foveated rendering | |
WO2018076898A1 (zh) | 一种信息输出显示方法、装置及计算机可读存储介质 | |
CN112740278B (zh) | 用于图形处理的方法及设备 | |
US11468629B2 (en) | Methods and apparatus for handling occlusions in split rendering | |
WO2021109105A1 (en) | Synchronization between graphical processing units and display processing units | |
WO2024044936A1 (en) | Composition for layer roi processing | |
US11622113B2 (en) | Image-space function transmission | |
CN103927710A (zh) | 一种应用图层分流混合方法、系统以及装置 | |
WO2024055234A1 (en) | Oled anti-aging regional compensation | |
WO2023201456A1 (en) | Dynamic configuration of display optimization | |
WO2023146651A1 (en) | Rendering of field sequential displays in a display subsystem | |
US20240046410A1 (en) | Foveated scaling for rendering and bandwidth workloads | |
WO2023225771A1 (en) | Concurrent frame buffer composition scheme | |
WO2023141917A1 (en) | Sequential flexible display shape resolution | |
WO2024044934A1 (en) | Visual quality optimization for gpu composition | |
KR102587866B1 (ko) | 상호 동작 가능한 3d 이미지 콘텐츠 핸들링 | |
US20240169953A1 (en) | Display processing unit (dpu) pixel rate based on display region of interest (roi) geometry | |
CN114930288A (zh) | 用于促进对用于显示器下设备显示器的图像的区域处理的方法和装置 | |
CN118103863A (zh) | 用于连续帧动画的功率优化 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
ASS | Succession or assignment of patent right |
Owner name: MICROSOFT TECHNOLOGY LICENSING LLC Free format text: FORMER OWNER: MICROSOFT CORP. Effective date: 20150730 |
|
C41 | Transfer of patent application or patent right or utility model | ||
TR01 | Transfer of patent right |
Effective date of registration: 20150730 Address after: Washington State Patentee after: Micro soft technique license Co., Ltd Address before: Washington State Patentee before: Microsoft Corp. |