CN108696764A - 用于360视频的运动向量/模式预测、基于感兴趣区域的发射、元数据捕获和格式检测 - Google Patents

用于360视频的运动向量/模式预测、基于感兴趣区域的发射、元数据捕获和格式检测 Download PDF

Info

Publication number
CN108696764A
CN108696764A CN201810282482.2A CN201810282482A CN108696764A CN 108696764 A CN108696764 A CN 108696764A CN 201810282482 A CN201810282482 A CN 201810282482A CN 108696764 A CN108696764 A CN 108696764A
Authority
CN
China
Prior art keywords
piece
video
frames
processor
encoded
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201810282482.2A
Other languages
English (en)
Inventor
J·M·博伊斯
S-H·李
A·R·阿普
W-F·高
J·雷
彭雅蒂
K·W·罗维
F·傅
S·N·耶迪蒂
S·莫汉
J·M·霍兰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Intel Corp
Original Assignee
Intel Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Intel Corp filed Critical Intel Corp
Publication of CN108696764A publication Critical patent/CN108696764A/zh
Pending legal-status Critical Current

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41—Structure of client; Structure of client peripherals
    • H04N21/4104—Peripherals receiving signals from specially adapted client devices
    • H04N21/4122—Peripherals receiving signals from specially adapted client devices additional display device, e.g. video projector
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00—General purpose image data processing
    • G06T1/20—Processor architectures; Processor configuration, e.g. pipelining
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/00—2D [Two Dimensional] image generation
    • G06T11/003—Reconstruction from projections, e.g. tomography
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/105—Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136—Incoming video signal characteristics or properties
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/167—Position within a video image, e.g. region of interest [ROI]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/436—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation using parallelised computational arrangements
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46—Embedding additional information in the video signal during the compression process
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/513—Processing of motion vectors
    • H04N19/517—Processing of motion vectors by encoding
    • H04N19/52—Processing of motion vectors by encoding by predictive encoding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81—Monomedia components thereof
    • H04N21/816—Monomedia components thereof involving special video data, e.g 3D video

Abstract

本发明提供了用于360视频的运动向量/模式预测、基于感兴趣区域的发射、元数据捕获和格式检测。一种电子处理系统的实施例可包括与360视频空间的投影相对应的2D帧、以及以下各项：分量预测器，用于基于来自相邻块的编码信息来预测2D帧的第一块的编码分量，所述相邻块仅在所述360视频空间中与所述2D帧的所述第一块相邻；优先级排序器，用于基于所识别的感兴趣区域来对2D帧的第二块的发射进行优先级排序；和/或格式检测器，用于基于图像内容来检测2D帧的360视频格式。一种360视频捕获装置可包括：上下文标注器，用于使用与所捕获的360视频内容同时期的上下文信息来标注360视频内容。公开并要求保护了其他实施例。

Description

用于360视频的运动向量/模式预测、基于感兴趣区域的发射、 元数据捕获和格式检测
技术领域
实施例总体上涉及显示技术，且更具体地涉及基于块的相机更新和异步显示。更具体地，实施例涉及用于360视频的运动向量(motion vector，MV)/模式预测、基于感兴趣区域(region of interest，ROI)的发射、元数据捕获和格式检测。
背景技术
在360视频(其也称为360度视频、沉浸式视频或球面视频)中，可使用一个全方位相机或一系列相机同时从各个方向(即，全方位360度)拍摄视频录像。在回放时，观看者可在任一可用方向当中选择用于观看的视向或视口。在压缩/解压缩(编解码器)系统中，压缩效率、视频质量和计算效率可以是重要的性能标准。这些标准在360视频的传播以及观看这样的360视频的用户体验方面也可能是重要的因素。
附图说明
实施例的各种优点将通过阅读以下说明和所附权利要求以及通过参考以下附图而变得为本领域技术人员所显而易见，在附图中：
图1是展示计算机系统的框图，所述计算机系统被配置成实现本文描述的实施例的一个或多个方面；
图2A到图2D展示了根据实施例的并行处理器部件；
图3A到图3B是根据实施例的图形多处理器的框图；
图4A到图4F展示了示例性架构，其中多个GPU通信地耦合至多个多核处理器；
图5展示根据实施例的图形处理流水线；
图6是根据实施例的电子处理系统的示例的框图；
图7A是根据实施例的图形设备的示例的框图；
图7B是根据实施例的处理360视频的方法的示例的流程图；
图7C是根据实施例的电子处理系统的示例的框图；
图7D是根据实施例的具有等距柱状投影360视频格式的二维(2D)帧的示例的示意图；
图7E是根据实施例的视口的示例的示意图；
图7F是根据实施例的视口的示例的示意图，所述视口叠加在等距柱状格式2D帧上；
图7G是根据实施例的具有立方体映射360视频格式的2D帧的示例的示意图；
图7H是根据实施例的立方体的示例的示意性透视图；
图7I是根据实施例的具有紧凑立方体映射360视频格式的2D帧的示例的示意图；
图8A是根据实施例的图形设备的另一个示例的框图；
图8B是根据实施例的处理360视频的方法的另一个示例的流程图；
图8C是根据实施例的360视频的示例的示意图；
图8D到图8E是根据实施例的用于360视频的已按优先级排序的编码/分组发射的示例的示意图；
图9A是根据实施例的图形设备的另一个示例的框图；
图9B是根据实施例的处理360视频的方法的另一个示例的流程图；
图9C是根据实施例的具有鱼眼360视频格式的帧的示例的示意图；
图9D是根据实施例的具有等距柱状投影(ERP)360视频格式的帧的示例的示意图；
图9E是根据实施例的具有立方体映射360视频格式的帧的示例的示意图；
图9F是根据实施例的具有紧缩立方体映射360视频格式的帧的示例的示意图；
图9G是根据实施例的图形设备的另一个示例的框图；
图9H是根据实施例的处理360视频的方法的另一个示例的流程图；
图10A是根据实施例的图形设备的另一个示例的框图；
图10B是根据实施例的处理360视频的方法的另一个示例的流程图；
图10C是根据实施例的360视频捕获设备的示例的框图；
图10D是根据实施例的360视频相机的示例的透视图；
图11是根据实施例的具有本地背光能力的显示器的示例的框图；
图12A是根据实施例的数据处理装置的示例的框图；
图12B是根据实施例的距离确定的示例的展示；
图13是根据实施例的分层显示架构的示例的框图；
图14是根据实施例的显示架构的示例的框图，所述显示架构包括多个显示单元；
图15是根据实施例的云辅助的媒体递送架构的示例的框图；
图16到图18是根据实施例的数据处理系统的概述的示例的框图；
图19是根据实施例的图形处理引擎的示例的框图；
图20到图22是根据实施例的执行单元的示例的框图；
图23是根据实施例的图形流水线的示例的框图；
图24A到图24B是根据实施例的图形流水线的示例的框图；
图25是根据实施例的图形软件架构的示例的框图；
图26是根据实施例的知识产权(IP)核开发系统的示例的框图；以及
图27是根据实施例的片上系统集成电路的示例的框图。
具体实施方式
在以下描述中，阐述了众多具体的细节以提供对本发明的更透彻的理解。然而，本领域技术人员将显而易见，可在没有这些具体细节中的一者或多者的情况下实践本发明。在其他示例中，未描述众所周知的特征以避免使本发明模糊。
系统概述
图1是展示计算系统100的框图，所述计算系统被配置成实现本文描述的实施例的一个或多个方面。计算系统100包括处理子系统101，所述处理子系统具有一个或多个处理器102和系统存储器104，所述处理器与所述系统存储器经由可包括存储器中枢105的互连路径来通信。存储器中枢105可以是芯片组部件内的单独的部件，或可以集成在一个或多个处理器102内。存储器中枢105经由通信链路106与I/O子系统111耦合。I/O子系统111包括I/O中枢107，所述I/O中枢可以使得计算系统100能够从一个或多个输入装置108接收输入。另外，I/O中枢107可以使得显示控制器能够将输出提供给一个或多个显示装置110A，所述显示控制器可被包括在一个或多个处理器102中。在一个实施例中，与I/O中枢107耦合的一个或多个显示装置110A可以包括本地、内部或嵌入式显示装置。
在一个实施例中，处理子系统101包括一个或多个并行处理器112，所述并行处理器经由总线或其他通信链路113耦合至存储器中枢105。通信链路113可以是任何数目的基于标准的通信链路技术或协议中的一者(比如但不限于，PCI快速总线)，或可以是供应方特定的通信接口或通信结构。在一个实施例中，一个或多个并行处理器112形成计算上集中的并行或向量处理系统，所述系统包括大量处理核和/或处理集群(比如，集成众核(MIC)处理器)。在一个实施例中，一个或多个并行处理器112形成图形处理子系统，所述图形处理子系统可以将像素输出到经由I/O中枢107耦合的一个或多个显示装置110A中的一者。一个或多个并行处理器112还可以包括显示控制器和显示接口(未示出)以使得能够直接连接到一个或多个显示装置110B。
在I/O子系统111内，系统存储单元114可以连接到I/O中枢107以提供用于计算系统100的存储机制。I/O开关116可以用于提供接口机制以实现I/O中枢107与其他部件(比如，可集成到平台中的网络适配器118和/或无线网络适配器119，以及可以经由一个或多个插入式装置120添加的各种其他装置)之间的连接。网络适配器118可以是以太网适配器或另一有线网络适配器。无线网络适配器119可以包括以下各者中的一者或多者：Wi-Fi、蓝牙、近场通信(NFC)、或包括一个或多个无线电装置的其他网络装置。
计算系统100可以包括未明确示出的其他部件，包括USB或其他端口连接件、光学存储驱动器、视频捕获装置等等，它们也可连接到I/O中枢107。使图1中的各种部件互连的通信路径可使用任何合适的协议来实现，比如基于PCI(外围部件互连)的协议(例如，PCI快速总线)或任何其他总线或点对点通信接口和/或协议(比如，NV-Link高速互连、或本领域中已知的互连协议)。
在一个实施例中，一个或多个并行处理器112包括针对图形和视频处理进行优化的电路(包括(例如)，视频输出电路)，并且构成图形处理单元(GPU)。在另一个实施例中，一个或多个并行处理器112包括针对通用处理进行优化的电路，同时保持本文更详细地描述的底层计算架构。在又一个实施例中，计算系统100的部件可与一个或多个其他系统元件一起集成在单个集成电路上。例如，一个或多个并行处理器112、存储器中枢105、处理器102和I/O中枢107可以集成到芯片上系统(SoC)集成电路中。可替代地，计算系统100的部件可以集成到单个封装中以形成封装中系统(SIP)配置。在一个实施例中，计算系统100的部件的至少一部分可以集成到多芯片模块(MCM)中，所述MCM可以与其他多芯片模块一起互连到模块化计算系统中。
将认识到的是，本文示出的计算系统100是展示性的，并且各种变型和修改是有可能的。可根据需要修改连接拓扑，包括桥的数目和排、(多个)处理器102的数目和(多个)并行处理器112的数目。例如，在一些实施例中，系统存储器104直接而非通过桥连接到(多个)处理器102，而其他装置经由存储器中枢105和(多个)处理器102与系统存储器104通信。在其他替代性拓扑中，(多个)并行处理器112连接到I/O中枢107或直接连接到一个或多个处理器102中的一者，而非连接到存储器中枢105。在其他实施例中，I/O中枢107和存储器中枢105可集成到单个芯片中。一些实施例可包括经由多个插口附接的两组或更多组处理器102，它们可以与(多个)并行处理器112的两个或更多个实例耦合。
本文中示出的一些特定部件是可选的，并且可以不被包括在计算系统100的所有实现方式中。例如，可支持任何数量的插入式卡或外设，或可消除一些部件。此外，一些架构可对于与图1中展示的那些部件类似的部件使用不同的术语。例如，在一些架构中，存储器中枢105可称为北桥，而I/O中枢107可称为南桥。
图2A展示了根据实施例的并行处理器200。并行处理器200的各种部件可使用一个或多个集成电路装置来实现，比如可编程处理器、专用集成电路(ASIC)或现场可编程门阵列(FPGA)。根据实施例，所展示的并行处理器200是图1中所示的一个或多个并行处理器112的变体。
在一个实施例中，并行处理器200包括并行处理单元202。所述并行处理单元包括I/O单元204，所述I/O单元实现与其他装置(包括并行处理单元202的其他实例)的通信。I/O单元204可直接连接到其他装置。在一个实施例中，I/O单元204经由使用中枢或开关接口(比如，存储器中枢105)来与其他装置连接。存储器中枢105与I/O单元204之间的连接形成通信链路113。在并行处理单元202内，I/O单元204与主机接口206和存储器交叉开关(memory crossbar)216连接，其中，主机接口206接收涉及执行处理操作的命令，并且存储器交叉开关216接收涉及执行存储器操作的命令。
当主机接口206经由I/O单元204接收命令缓冲时，主机接口206可以将用于执行那些命令的工作操作导引至前端208。在一个实施例中，前端208与调度器210耦合，该调度器210被配置成将命令或其他工作项目分布至处理集群阵列212。在一个实施例中，调度器210确保在任务被分布至处理集群阵列212的处理集群之前，处理集群阵列212被适当地配置且处于有效状态。在一个实施例中，调度器210是经由在微控制器上执行的固件逻辑实现的。微控制器实现的调度器210可配置用于以粗粒度和细粒度执行复杂的调度和工作分布操作，从而实现在处理阵列212上执行的线程的快速抢占和上下文切换。在一个实施例中，主机软件可以经由多个图像处理门铃中的一个来证明工作负荷以用于在处理阵列212上调度。随后工作负荷可以由调度器微控制器内的调度器210逻辑跨处理阵列212自动地分布。
处理集群阵列212可以包括多达“N”个处理集群(例如，集群214A、集群214B、直到集群214N)。处理集群阵列212的每一个集群214A-214N都可以执行大量的并发线程。调度器210可以使用各种调度和/或工作分布算法来将工作分配给处理集群阵列212的集群214A-214N，各种调度和/或工作分布算法可取决于为每一种类型的程序或计算而产生的工作负荷而变化。调度可以由调度器210动态地处置，或者可以在配置用于由处理集群阵列212执行的程序逻辑的编译期间部分地由编译器逻辑辅助。在一个实施例中，可以将处理集群阵列212的不同集群214A-214N分配用于处理不同类型的程序，或用于执行不同类型的计算。
可以将处理集群阵列212配置成执行各种类型的并行处理操作。在一个实施例中，将处理集群阵列212配置成执行通用并行计算操作。例如，处理集群阵列212可以包括用于执行处理任务的逻辑，处理任务包括过滤视频和/或音频数据、执行建模操作(包括物理操作)、以及执行数据变换。
在一个实施例中，处理集群阵列212被配置成执行并行的图形处理操作。在其中并行处理器200被配置成执行图形处理操作的实施例中，处理集群阵列212可以包括用于支持执行这样的图形处理操作的附加逻辑，包括但不限于用于执行纹理操作的纹理采样逻辑、以及曲面细分逻辑和其他顶点处理逻辑。另外，处理集群阵列212可以被配置成执行与图形处理有关的着色器程序，比如但不限于顶点着色器、曲面细分着色器、几何着色器和像素着色器。并行处理单元202可以经由I/O单元204传递来自系统存储器的数据以供处理。在处理期间，可以将所传递的数据在处理期间存储到芯片上存储器(例如，并行处理器存储器222)，然后将其写回到系统存储器。
在一个实施例中，当并行处理单元202用于执行图形处理时，调度器210可以被配置成将处理工作负荷划分成近似等规模的任务，以更好地使得能够将图形处理操作分布到处理集群阵列212中的多个集群214A至214N。在一些实施例中，处理集群阵列212的多个部分可以被配置成执行不同类型的处理。例如，第一部分可被配置成执行顶点着色和拓扑生成，第二部分可被配置成执行曲面细分和几何着色，并且第三部分可被配置成执行像素着色或其他屏幕空间操作，以产生供显示的渲染图像。由集群214A至214N中的一者或多者产生的中间数据可存储在缓冲器中以允许在集群214A至214N之间传输所述中间数据以供进一步处理。
在操作期间，处理集群阵列212可以经由调度器210来接收待执行的处理任务，所述调度器从前端208接收定义处理任务的命令。针对图形处理操作，处理任务可以包括待处理的数据(例如，表面(补片(patch))数据、图元数据(primitive data)、顶点数据和/或像素数据)的索引以及状态参数和定义要如何处理数据(例如，要执行什么程序)的命令。调度器210可被配置成获取与任务相对应的索引，或可从前端208接收这些索引。前端208可以被配置成确保在发起由进入的命令缓冲(例如，分批缓冲、推动缓冲等)指定的工作负荷之前处理集群阵列212被配置成有效状态。
并行处理单元202的一个或多个实例中的每一个都可以与并行处理器存储器222耦合。并行处理器存储器222可以经由存储器交叉开关216来访问，存储器交叉开关216可以从处理集群阵列212以及I/O单元204接收存储器请求。存储器交叉开关216可以经由存储器接口218访问并行处理器存储器222。存储器接口218可以包括多个分区单元(例如，分区单元220A、分区单元220B、直到分区单元220N)，每一个分区单元都可以耦合至并行处理器存储器222的一部分(例如，存储器单元)。在一种实现方式中，将分区单元220A-220N的数量配置成等于存储器单元的数量，使得第一分区单元220A具有对应的第一存储器单元224A，第二分区单元220B具有对应的存储器单元224B，并且第N分区单元220N具有对应的第N存储器单元224N。在其他实施例中，分区单元220A-220N的数量可以不等于存储器装置的数量。
在各种实施例中，存储器单元224A至224N可以包括各种类型的存储器装置，包括动态随机存取存储器(DRAM)或图形随机存取存储器(比如，同步图形随机存取存储器(SGRAM)，包括图形双数据速率(GDDR)存储器)。在一个实施例中，存储器单元224A至224N还可包括3D堆叠式存储器，包括但不限于高带宽存储器(HBM)。本领域技术人员将认识到，存储器单元224A至224N的具体的实现方式可以变化，并且可以选自各种常规设计中的一者。渲染目标(比如，帧缓冲器或纹理映射(texture map))可跨越存储器单元224A至224N存储，从而允许分区单元220A至220N并行写入每个渲染目标的多个部分以高效地使用并行处理器存储器222的可用带宽。在一些实施例中，可排除并行处理器存储器222的本地实例，以有利于结合本地高速缓存存储器来利用系统存储器的统一的存储器设计。
在一个实施例中，处理集群阵列212的集群214A-214N中的任何一个都可以处理将被写入并行处理器存储器222内的存储器单元224A-224N中的任何一个的数据。可以将存储器交叉开关216配置成将每一个集群214A-214N的输出传递到可以对输出执行附加的处理操作的任何分区单元220A-220N或另一集群214A-214N。每一个集群214A-214N都可以通过存储器交叉开关216与存储器接口218通信，以便从各种外部存储器装置读取或向各种外部存储器装置写入。在一个实施例中，存储器交叉开关216具有到存储器接口218的连接以与I/O单元204通信，并具有到并行处理器存储器222的本地实例的连接，从而使不同的处理集群214A-214N内的处理单元能够与系统存储器或不在并行处理单元202本地的其他存储器通信。在一个实施例中，存储器交叉开关216可以使用虚拟通道以分离集群214A-214N与分区单元220A-220N之间的业务流。
虽然在并行处理器200内展示了并行处理单元202的单个实例，但是可以包括并行处理单元202的任何数目的实例。例如，可以在单个插入式卡上提供并行处理单元202的多个实例，或可以将多个插入式卡互连。并行处理单元202的不同实例可以被配置成即使这些不同实例具有不同数目的处理核、不同量的本地并行处理器存储器和/或其他配置差异而仍互操作。例如且在一个实施例中，并行处理单元202的一些实例可以相对于其他实例包括更高精度浮点单元。包括并行处理单元202或并行处理器200的一个或多个实例的系统可以以多种配置和形状因数来实现，包括但不限于台式、膝上型或手持式个人计算机、服务器、工作站、游戏控制台和/或嵌入式系统。
图2B是根据实施例的分区单元220的框图。在一个实施例中，分区单元220是图2A的分区单元220A至220N中的一者的实例。如所展示，分区单元220包括L2高速缓存221、帧缓冲器接口225和ROP 226(光栅操作单元)。L2高速缓存221是读/写高速缓存，其被配置成执行从存储器交叉开关216和ROP 226接收的加载和存储操作。由L2高速缓存221将读未命中(read miss)和紧急回写请求输出到帧缓冲器接口225以供处理。也可以经由帧缓冲器接口225将更新发送到帧缓冲器以供处理。在一个实施例中，帧缓冲器接口225与并行处理器存储器中的存储器单元(比如，图2的存储器单元224A至224N(例如，在并行处理器存储器222内))中的一者交界。
在图形应用中，ROP 226是执行诸如模板印刷(stencil)、z测试、混合等等的光栅操作的处理单元。随后ROP 226输出存储在图形存储器中的处理过的图形数据。在一些实施例中，ROP 226包括压缩逻辑，该压缩逻辑用于压缩写入到存储器的深度或颜色数据，并且解压缩从存储器读取的深度或颜色数据。压缩逻辑可以是利用多种压缩算法的一种或多种的无损压缩逻辑。由ROP 226执行的压缩的类型可以基于待压缩的数据的统计特性而变化。例如，在一个实施例中，Δ颜色压缩逐图块地对深度和颜色数据执行。
在一些实施例中，ROP 226被包括在每个处理集群(例如，图2的集群214A至214N)内而非包括在分区单元220内。在这样的实施例中，经由存储器交叉开关216来传输针对像素数据的读和写请求而非像素片段数据。已处理的图形数据可在显示装置(比如，图1的一个或多个显示装置110中的一者)上显示、被路由以供由(多个)处理器102进一步处理、或被路由以供由图2A的并行处理器200内的处理实体中的一者进一步处理。
图2C是根据实施例的并行处理单元内的处理集群214的框图。在一个实施例中，处理集群是图2的处理集群214A至214N中的一者的实例。处理集群214可以被配置成并行执行许多线程，其中，术语“线程”是指在一组特定的输入数据上执行的特定程序的实例。在一些实施例中，在不提供多个独立的指令单元的情况下，使用单指令多数据(SIMD)指令发布技术以支持对大量线程的并行执行。在其他实施例中，在使用共同指令单元的情况下，使用单指令多线程(SIMT)技术以支持对大量一般为同步的线程的并行执行，所述共同指令单元被配置成将指令发布到处理集群中的每一者内的一组处理引擎。不同于SIMD执行制度(其中，所有处理引擎通常执行相同的指令)，SIMT执行允许不同的线程更容易沿着分歧的执行路径通过给定的线程程序。本领域技术人员将理解，SIMD处理制度表示SIMT处理制度的功能性子集。
可以经由流水线管理器232来控制处理集群214的操作，所述流水线管理器将处理任务分布到SIMT并行处理器。流水线管理器232从图2的调度器210接收指令，并且经由图形多处理器234和/或纹理单元236来管理对那些指令的执行。所展示的图形多处理器234是SIMT并行处理器的示例性实例。然而，具有不同架构的各种类型的SIMT并行处理器可被包括在处理集群214内。图形多处理器234的一个或多个实例可以被包括在处理集群214内。图形多处理器234可以处理数据，并且数据交叉开关240可以用于将已处理的数据分布到多个可能的目的地(包括其他着色器单元)中的一者。流水线管理器232可以通过指定待经由数据交叉开关240分布的已处理的数据的目的地来促进已处理的数据的分布。
处理集群214内的每一个图形多处理器234都可以包括完全相同的一组功能执行逻辑(例如，算术逻辑单元、加载-存储单元等)。能以流水线方式配置功能执行逻辑，在流水线方式中，在先前的指令完成之前，可发布新指令。功能执行逻辑支持多种多样的操作，包括整数和浮点算术、比较操作、布尔操作、位移位和各种代数函数的计算。在一个实施例中，可以利用同一功能性单元硬件来执行不同的操作，并且可以存在功能单元的任何组合。
传输至处理集群214的指令构成线程。跨一组并行处理引擎而执行的一组线程是线程组。线程组对不同的输入数据执行同一程序。可以将线程组内的每一个线程分配给图形多处理器234内的不同的处理引擎。线程组可包括比图形多处理器234内的处理引擎的数量少的线程。当线程组包括比处理引擎的数量少的线程时，处理引擎中的一个或多个在线程组正在被处理的周期期间可以是空闲的。线程组也可包括比图形多处理器234内的处理引擎的数量多的线程。当线程组包括比图形多处理器234内的处理引擎的数量多的线程时，处理可以在连续的时钟周期上执行。在一个实施例中，可在图形多处理器234上并发地执行多个线程组。
在一个实施例中，图形多处理器234包括内部高速缓存存储器以执行加载和存储操作。在一个实施例中，图形多处理器234可以放弃内部高速缓存，并且使用处理集群214内的高速缓存存储器(例如，L1高速缓存308)。每个图形多处理器234还有权访问在所有处理集群214当中共享并且可用于在线程之间转移数据的分区单元(例如，图2的分区单元220A至220N)内的L2高速缓存。图形多处理器234还可访问芯片外全局存储器，所述芯片外全局存储器可以包括本地并行处理器存储器和/或系统存储器中的一者或多者。可将在并行处理单元202外部的任何存储器用作全局存储器。多个实施例(其中处理集群214包括图形多处理器234的多个实例)可以共享共同的指令和数据，这些指令和数据可存储在L1高速缓存308中。
每个处理集群214可包括MMU 245(存储器管理单元)，所述MMU被配置成将虚拟地址映射到物理地址中。在其他实施例中，MMU 245的一个或多个实例可驻留在图2的存储器接口218内。MMU 245包括：一组页表条目(PTE)，用于将图块(tile)(更多地讨论分块(tiling))的虚拟地址映射到物理地址；以及可选地高速缓存行索引。MMU 245可包括可驻留在图形多处理器234或L1高速缓存或处理集群214内的地址转换后备缓冲器(TLB)或高速缓存。物理地址经处理以分布表面数据存取局部性，从而允许在分区单元当中实现高效的请求交错。高速缓存行索引可用于确定针对高速缓存行的请求是命中还是未命中。
在图形和计算应用中，处理集群214可被配置成使得每个图形多处理器234耦合至纹理单元236以用于执行纹理映射操作，例如确定纹理样本位置、读取纹理数据和过滤纹理数据。根据需要，从内部纹理L1高速缓存(未示出)或在一些实施例中从图形多处理器234内的L1高速缓存读取纹理数据，并且从L2高速缓存、本地并行处理器存储器或系统存储器获取所述纹理数据。每个图形多处理器234将已处理的任务输出到数据交叉开关240以将已处理的任务提供给另一个处理集群214，以供进一步处理或以经由存储器交叉开关216将已处理的任务存储在L2高速缓存、本地并行处理器存储器或系统存储器中。preROP 242(例如，预光栅操作单元)被配置成从图形多处理器234接收数据、将数据导引到ROP单元，这些ROP单元可与如本文描述的分区单元(例如，图2的分区单元220A至220N)位于一起。preROP 242单元可以执行针对颜色混合的优化、组织像素颜色数据和执行地址转换。
将认识到的是，本文描述的核架构是展示性的，并且各种变型和修改是有可能的。任何数目的处理单元(例如，图形多处理器234、纹理单元236、preROP 242等)可被包括在处理集群214内。此外，虽然仅示出了一个处理集群214，但是如本文描述的并行处理单元可以包括处理集群214的任何数目的实例。在一个实施例中，每个处理集群214可以被配置成使用单独的且截然不同的处理单元、L1高速缓存等独立于其他处理集群214来操作。
图2D示出了根据一个实施例的图形多处理器234。在这样的实施例中，图形多处理器234与处理集群214的流水线管理器232耦合。图形多处理器234具有执行流水线，包括但不限于：指令高速缓存252、指令单元254、地址映射单元256、寄存器堆258、一个或多个通用图形处理单元(GPGPU)核262和一个或多个加载/存储单元266。GPGPU核262和加载/存储单元266经由存储器和高速缓存互连268与高速缓存存储器272和共享存储器270耦合。
在一个实施例中，指令高速缓存252从流水线管理器232接收待执行的指令流。这些指令被高速缓存在指令高速缓存252中，并且由指令单元254分派以供执行。指令单元254可以将指令分派为线程组(例如，线程束)，其中线程组的每个线程被指派给GPGPU核262内的一不同执行单元。指令可以通过指定统一地址空间内的地址来访问本地、共享或全局地址空间中的任一者。地址映射单元256可以用于将统一地址空间中的地址转换成可以由加载/存储单元266访问的截然不同的存储器地址。
寄存器堆258为图形多处理器324的功能单元提供一组寄存器。寄存器堆258为连接到图形多处理器324的功能单元(例如，GPGPU核262、加载/存储单元266)的数据路径的操作数提供临时存储。在一个实施例中，在这些功能单元中的每一者之间划分寄存器堆258，使得每个功能单元分配有寄存器堆258的专用部分。在一个实施例中，在由图形多处理器324执行的不同线程束之间划分寄存器堆258。
GPGPU核262可以各自包括浮点单元(FPU)和/或整数算术逻辑单元(ALU)，这些FPU和整数ALU用于执行图形多处理器324的指令。根据实施例，GPGPU核262可以在架构上是类似的，或可以在架构上是不同的。例如且在一个实施例中，GPGPU核262的第一部分包括单精度FPU和整数ALU，而GPGPU核的第二部分包括双精度FPU。在一个实施例中，FPU可以针对浮点算术实现IEEE 754-2008标准，或可以实现可变精度浮点算术。图形多处理器324可以另外包括一个或多个固定功能或特殊功能单元以执行特定的功能(比如，复制矩形或像素混合操作)。在一个实施例中，GPGPU核中的一者或多者也可以包括固定或特殊功能逻辑。
在一个实施例中，GPGPU核262包括能够对多组数据执行单条指令的SIMD逻辑。在一个实施例中，GPGPU核262可以物理地执行SIMD4、SIMD8和SIMD16指令，并且逻辑地执行SIMD1、SIMD2和SIMD32指令。用于GPGPU核的SIMD指令可以由着色器编译器在编译时生成，或者可以在执行为单程序多数据(SPMD)或SIMT架构编写和编译的程序时自动生成。为SIMT执行模型而配置的程序的多个线程可以经由单条SIMD指令而执行。例如，在一个实施例中，执行相同或类似操作的八个SIMT线程可以经由单个SIMD8逻辑单元并行地执行。
存储器和高速缓存互连268是互连网络，该互连网络将图形多处理器234的功能单元中的每一个连接到寄存器堆258，并连接到共享存储器270。在一个实施例中，存储器和高速缓存互连268是交叉开关互连，该交叉开关互连允许加载/存储单元266在共享存储器270与寄存器堆258之间实现加载和存储操作。寄存器堆258能以与GPGPU核262相同的频率操作，由此在GPGPU核262与寄存器堆258之间的数据传递是非常低等待时间的。共享存储器270可以用来实现在图形多处理器234内的功能单元上执行的线程之间的通信。高速缓存存储器272可以用作例如数据高速缓存，以便对功能单元与纹理单元236之间通信的纹理数据进行高速缓存。共享存储器270也可以用作程序管理的高速缓存。在GPGPU核262上执行的线程能以程序方式还将除了存储在高速缓存存储器272内的经自动高速缓存的数据之外的数据存储在共享存储器内。
图3A到图3B展示了根据实施例的附加图形多处理器。所展示的图形多处理器325、350是图2C的图形多处理器234的变体。所展示的图形多处理器325、350可以被配置为能够同时执行大量执行线程的流传送多处理器(SM)。
图3A示出了根据附加实施例的图形多处理器325。图形多处理器325相对于图2D的图形多处理器234包括执行资源单元的多个附加实例。例如，图形多处理器325可以包括指令单元332A至332B、寄存器堆334A-334B和纹理单元344A-344B的多个实例。图形多处理器325还包括多组图形或计算执行单元(例如，GPGPU核336A至336B、GPGPU核337A至337B、GPGPU核338A至338B)和多组加载/存储单元340A至340B。在一个实施例中，执行资源单元具有共同的指令高速缓存330、纹理和/或数据高速缓存存储器342以及共享存储器346。
各种部件可以经由互连结构327通信。在一个实施例中，互连结构327包括一个或多个交叉开关以启用图形多处理器325的各种部件之间的通信。在一个实施例中，互连结构327是分开的高速网络结构层，图形多处理器325的每一个部件堆叠在该高速网络结构层上。图形多处理器325的部件经由互连结构327与远程部件通信。例如，GPGPU核336A-336B、337A-337B以及338A-338B可以各自经由互连结构327与共享存储器346通信。互连结构327可以仲裁图形多处理器325内的通信以确保部件之间的公平的带宽分配。
图3B示出了根据附加实施例的图形多处理器350。图形处理器包括多组执行资源356A至356D，其中，每一组执行资源包括多个指令单元、寄存器堆、GPGPU核和加载存储单元，如图2D和图3A中所展示。执行资源356A至356D可以与纹理单元360A至360D一致地工作以进行纹理操作，同时共享指令高速缓存354和共享存储器362。在一个实施例中，执行资源356A至356D可以共享指令高速缓存354和共享存储器362以及纹理和/或数据高速缓存存储器358A至358B的多个实例。各种部件可以经由类似于图3A的互连结构327的互连结构352来通信。
本领域技术人员将理解，图1、图2A至图2D以及图3A至图3B中所描述的架构就本实施例的范围而言是描述性的和非限制性的。因此，在不背离本文描述的实施例的范围的情况下，本文描述的技术可在任何正确配置的处理单元上实现，所述处理单元包括但不限于一个或多个移动应用处理器、一个或多个台式计算机或服务器中央处理单元(CPU)(包括多核CPU)、一个或多个并行处理单元(比如，图2的并行处理单元202)以及一个或多个图形处理器或专用处理单元。
在一些实施例中，如本文描述的并行处理器或GPGPU通信地耦合至主机/处理器核以加速图形操作、机器学习操作、模式分析操作和各种通用GPU(GPGPU)功能。GPU可经由总线或其他互连(例如，比如PCIe或NVLink的高速互连)通信地耦合至主机处理器/核。在其他实施例中，GPU可集成在与这些核相同的封装或芯片上，并且经由内部的处理器总线/互连(即，在所述封装或芯片的内部)通信地耦合至这些核。不管连接GPU的方式如何，处理器核都可用工作描述符中所包含的命令/指令序列的形式将工作分配给GPU。GPU然后使用专用的电路/逻辑来高效地处理这些命令/指令。
用于GPU至主机处理器互连的技术
图4A展示了示例性架构，其中多个GPU 410至413经由高速链路440至443(例如，总线、点对点互连等)通信地耦合至多个多核处理器405至406。在一个实施例中，取决于实现方式，高速链路440至443支持4GB/s、30GB/s、80GB/s或更高的通信吞吐量。可使用各种互连协议，包括但不限于PCIe 4.0或5.0以及NVLink 2.0。然而，本发明的基本原理并不限于任何特定的通信协议或吞吐量。
另外，在一个实施例中GPU 410至413中的两者或更多者经由高速链路444至445互连，这些高速链路可使用与用于高速链路440至443的协议/链路相同或不同的协议/链路来实现。类似地，多核处理器405至406中的两者或更多者可经由高速链路433相连接，所述高速链路可以是以20GB/s、30GB/s、120GB/s或更高操作的对称多处理器(SMP)总线。可替代地，图4A中所示的各种系统部件之间的所有通信可使用相同的协议/链路(例如，经由共同的互连结构)来实现。然而，如所提到，本发明的基本原理并不限于任何特定类型的互连技术。
在一个实施例中，每个多核处理器405至406分别经由存储器互连430至431通信地耦合至处理器存储器401至402，并且每个GPU 410至413分别经由GPU存储器互连450至453通信地耦合至GPU存储器420至423。存储器互连430至431以及450至453可利用相同或不同的存储器访问技术。通过示例的方式且不受限制地，处理器存储器401至402和GPU存储器420至423可以是易失性存储器，比如动态随机存取存储器(DRAM)(包括堆叠式DRAM)、图形DDR SDRAM(GDDR)(例如，GDDR5、GDDR6)或高带宽存储器(HBM)，和/或可以是非易失性存储器，比如3D XPoint或纳米随机存取存储器。在一个实施例中，存储器的某一部分可以是易失性存储器，并且另一部分可以是非易失性存储器(例如，使用两级存储器(2LM)层级结构)。
如下文所描述，虽然各种处理器405至406和GPU 410至413可以分别物理地耦合至特定的存储器401至402、420至423，但是可实现统一存储器架构，其中相同的虚拟系统地址空间(也称为“有效地址”空间)被分布在所有各个物理存储器当中。例如，处理器存储器401至402可各自包括64GB的系统存储器地址空间，并且GPU存储器420至423可各自包括32GB的系统存储器地址空间(在本示例中产生总共256GB的可寻址存储器)。
图4B展示了根据一个实施例的针对多核处理器407与图形加速模块446之间的互连的附加细节。图形加速模块446可包括集成在线卡上的一个或多个GPU芯片，所述线卡经由高速链路440耦合至处理器407。可替代地，图形加速模块446可集成在与处理器407相同的封装或芯片上。
所展示的处理器407包括多个核460A至460D，每个核具有转换后备缓冲器(translation lookaside buffer)461A至461D和一个或多个高速缓存462A至462D。这些核可包括用于执行指令和处理数据的各种其他部件，未展示这些部件以避免使本发明的基本原理模糊(例如，指令获取单元、分支预测单元、解码器、执行单元、重排序缓冲器等)。高速缓存462A至462D可包括1级(L1)和2级(L2)高速缓存。另外，一个或多个共享的高速缓存426可被包括在缓存层级结构中并且由多组核460A至460D共享。例如，处理器407的一个实施例包括24个核，每个核具有其自身的L1高速缓存、12个共享的L2高速缓存和12个共享的L3高速缓存。在本实施例中，L2和L3高速缓存中的一者由两个邻近的核共享。处理器407和图形加速器集成模块446与系统存储器441连接，所述系统存储器可包括处理器存储器401至402。
经由通过一致性总线464上的核间通信来保持存储在各种高速缓存462A至462D、456和系统存储器441中的数据和指令的一致性。例如，每个高速缓存可具有与其相关联的高速缓存一致性逻辑/电路以响应于检测到的至特定高速缓存行的读或写来经由一致性总线464进行通信。在一个实现方式中，经由一致性总线464来实现高速缓存监听协议，以监听高速缓存访问。高速缓存监听/一致性技术是为本领域技术人员所充分理解的，并且此处将不加以详细描述以避免使本发明的基本原理模糊。
在一个实施例中，代理电路425将图形加速模块446通信地耦合至一致性总线464，从而允许图形加速模块446作为核的对等物来参与到高速缓存一致性协议中。特定地，接口435经由高速链路440(例如，PCIe总线、NVLink等)提供至代理电路425的连接性，并且接口437将图形加速模块446连接到链路440。
在一个实现方式中，加速器集成电路436代表图形加速模块446的多个图形处理引擎431、432、N来提供高速缓存管理、存储器访问、上下文管理和中断管理服务。图形处理引擎431、432、N可各自包括单独的图形处理单元(GPU)。可替代地，图形处理引擎431、432、N可包括GPU内的不同类型的图形处理引擎，比如图形执行单元、媒体处理引擎(例如，视频编码器/解码器)、采样器和位块传输(blit)引擎。换句话说，图形加速模块可以是具有多个图形处理引擎431至432、N的GPU，或图形处理引擎431至432、N可以是集成在共同的封装、线卡或芯片上的个体GPU。
在一个实施例中，加速器集成电路436包括存储器管理单元(MMU)439以用于执行各种存储器管理功能，比如虚拟至物理存储器转换(也称为有效至真实存储器转换)和用于访问系统存储器441的存储器访问协议。MMU 439还可包括转换后备缓冲器(TLB)(未示出)以用于将虚拟/有效缓存到物理/真实地址转换。在一个实现方式中，高速缓存438存储命令和数据以供由图形处理引擎431至432、N进行有效访问。在一个实施例中，存储在高速缓存438和图形存储器433至434、N中的数据与核高速缓存462A至462D、456以及系统存储器411保持一致。如所提到，这可经由代理电路425来实现，所述代理电路代表高速缓存438和存储器433至434、N来参与到高速缓存一致性机制中(例如，将与对处理器高速缓存462A至462D、456上的高速缓存行的修改/访问有关的更新发送到高速缓存438，和从高速缓存438接收更新)。
一组寄存器445存储用于由图形处理引擎431至432、N执行的线程的上下文数据，并且上下文管理电路448管理线程上下文。例如，上下文管理电路448可在上下文切换期间执行保存和恢复操作以保存和恢复各种线程的上下文(例如，其中，第一线程被保存并且第二线程被存储，使得可以由图形处理引擎执行第二线程)。例如，在上下文切换时，上下文管理电路448可将当前寄存器值存储到存储器中的指定的区域(例如，由上下文指针标识)。然后，其可在返回到上下文时恢复这些寄存器值。在一个实施例中，中断管理电路447接收并处理从系统装置接收到的中断。
在一个实现方式中，由MMU 439将来自图形处理引擎431的虚拟/有效地址转换成系统存储器411中的真实/物理地址。加速器集成电路436的一个实施例支持多个(例如，4、8、16个)图形加速器模块446和/或其他加速器装置。图形加速器模块446可专用于在处理器407上执行的单个应用，或可在多个应用之间共享。在一个实施例中，呈现虚拟化图形执行环境，其中多个应用或虚拟机器(VM)共享图形处理引擎431至432、N的资源。这些资源可被再分为“切片(slice)”，这些切片基于与不同的VM和/或应用相关联的处理要求和优先权来被分配给这些VM和/或应用。
因此，加速器集成电路起至图形加速模块446的系统的桥的作用，并且提供地址转换和系统存储器高速缓存服务。另外，加速器集成电路436可为主机处理器提供虚拟化设施，以管理图形处理引擎的虚拟化、中断和存储器管理。
由于图形处理引擎431至432、N的硬件资源被显式地映射到由主机处理器407所见的真实地址空间，所以任何主机处理器都可以使用有效地址值来直接寻址这些资源。在一个实施例中，加速器集成电路436的一个功能是物理地分离图形处理引擎431至432、N，使得它们向系统呈现为独立的单元。
如所提到，在所展示的实施例中，一个或多个图形存储器433至434、M分别耦合至图形处理引擎431至432、N中的每一者。图形存储器433至434、M存储由图形处理引擎431至432、N中的每一者处理的指令和数据。图形存储器433至434、M可以是易失性存储器，比如DRAM(包括堆叠式DRAM)、GDDR存储器(例如，GDDR5、GDDR6)或HBM，和/或可以是非易失性存储器，比如3D XPoint或纳米随机存取存储器(Nano-Ram)。
在一个实施例中，为减少链路440上的数据业务，使用偏置技术以确保存储在图形存储器433至434、M中的数据是将被图形处理引擎431至432、N使用最频繁并且优选地不被核460A至460D使用(至少不是频繁地)的数据。类似地，偏置机制试图将由核(且优选地不是由图形处理引擎431至432、N)所需的数据保存在这些核的高速缓存462A至462D、456和系统存储器411内。
图4C展示了另一个实施例，其中加速器集成电路436被集成在处理器407内。在本实施例中，图形处理引擎431至432、N经由接口437和接口435(再次，这些接口可利用任何形式的总线或接口协议)通过高速链路440来直接通信到加速器集成电路436。加速器集成电路436可执行与关于图4B所描述的操作相同的操作，但考虑到其与一致性总线462和高速缓存的462A至462D、426极为接近而潜在地处于更高的吞吐量。
一个实施例支持不同的编程模型，包括专用进程编程模型(没有图形加速模块虚拟化)和共享的编程模型(具有虚拟化)。后者可包括由加速器集成电路436控制的编程模型和由图形加速模块446控制的编程模型。
在专用进程模型的一个实施例中，图形处理引擎431至432、N在单一操作系统下专用于单个应用或进程。单个应用可以将其他应用请求汇集(funnel)到图形引擎431至432、N，从而在VM/分区内提供虚拟化。
在专用进程编程模型中，可由多个VM/应用分区共享图形处理引擎431至432、N。共享的模型需要系统管理程序虚拟化图形处理引擎431至432、N，以允许由每个操作系统进行访问。针对无管理程序的单分区系统，图形处理引擎431至432、N由操作系统所拥有。在两种情况下，操作系统可以虚拟化图形处理引擎431至432、N以提供对每个进程或应用的访问。
针对共享的编程模型，图形加速模块446或个别图形处理引擎431至432、N使用进程句柄来选择进程要素。在一个实施例中，进程要素存储在系统存储器411中，并且可使用本文描述的有效地址至真实地址转换技术来寻址。进程句柄可以是在向图形处理引擎431至432、N登记其上下文(也就是说，调用系统软件以将进程要素添加到进程要素链表)时被提供给主机进程的特定于实现方式的值。进程句柄的较低的16位可以是进程要素链表内的进程要素的偏移。
图4D展示了示例性加速器集成切片490。如本文所使用，“切片”包括加速器集成电路436的处理资源的指定部分。系统存储器411内的应用有效地址空间482存储进程要素483。在一个实施例中，响应于来自处理器407上执行的应用480的GPU调用481来存储进程要素483。进程要素483包含对应的应用480的进程状态。包含在进程要素483中的工作描述符(WD)484可以是由应用请求的单作业，或可包含指向作业队列的指针。在后一种情况下，WD484是指向应用的地址空间482中的作业请求队列的指针。
图形加速模块446和/或个别图形处理引擎431至432、N可以由系统中的所有进程或进程子集共享。本发明的实施例包括用于设置进程状态并将WD 484发送到图形加速模块446以在虚拟化环境中开始作业的基础设施。
在一个实现方式中，专用进程编程模型是特定于实现方式的。在这个模型中，单进程拥有图形加速模块446或个别图形处理引擎431。由于图形加速模块446由单进程所拥有，所以在指派图形加速模块446的时候，管理程序针对拥有的分区初始化加速器集成电路436并且操作系统针对拥有的进程初始化加速器集成电路436。
在操作中，加速器集成切片490中的WD获取单元491获取下一个WD 484，所述下一个WD包括待由图形加速模块446的图形处理引擎中的一者完成的工作的指示。来自WD 484的数据可存储在寄存器445中，并且由如所展示的MMU 439、中断管理电路447和/或上下文管理电路446使用。例如，MMU 439的一个实施例包括用于访问OS虚拟地址空间485内的段/页表486的段/页行走电路。中断管理电路447可处理从图形加速模块446接收的中断事件492。当执行图形操作时，由MMU 439将由图形处理引擎431至432、N产生的有效地址493转换为真实地址。
在一个实施例中，针对每个图形处理引擎431至432、N和/或图形加速模块446复制一组相同的寄存器445，并且可由管理程序或操作系统来初始化这些寄存器。这些所复制的寄存器中的每一者可被包括在加速器集成切片490中。表1中示出了可由管理程序初始化的示例性寄存器。
表1-管理程序初始化的寄存器
1 切片控制寄存器
2 真实地址(RA)调度的进程区域指针
3 权限掩码覆盖寄存器(Authority Mask Override Register)
4 中断向量表条目偏移
5 中断向量表条目限制
6 状态寄存器
7 逻辑分区ID
8 真实地址(RA)管理程序加速器利用记录指针
9 存储描述寄存器
表2中示出了可由操作系统初始化的示例性寄存器。
表2-操作系统初始化的寄存器
1 进程和线程标识
2 有效地址(EA)上下文保存/恢复指针
3 虚拟地址(VA)加速器利用记录指针
4 虚拟地址(VA)存储段表指针
5 权限掩码
6 工作描述符
在一个实施例中，每个WD 484是特定于特定的图形加速模块446和/或图形处理引擎431至432、N的。其包含图形处理引擎431至432、N完成其工作所需的全部信息，或其可以是指向存储器位置(在所述存储器位置处，应用已设置了待完成的工作的命令队列)的指针。
图4E展示了共享模型的一个实施例的附加细节。本实施例包括其中存储有进程要素列表499的管理程序真实地址空间498。管理程序真实地址空间498可经由管理程序496来访问，所述管理程序虚拟化用于操作系统495的图形加速模块引擎。
共享的编程模型允许来自系统中的所有分区或分区子集的所有进程或进程子集使用图形加速模块446。存在两个编程模型，其中，图形加速模块446由多个进程和分区共享：时间切片共享和图形定向共享(graphics directed shared)。
在这个模型中，系统管理程序496拥有图形加速模块446，并且使其功能可用于所有操作系统495。为使图形加速模块446支持由系统管理程序496进行的虚拟化，图形加速模块446可遵循以下要求：1)应用的作业请求必须是自主的(即，无需在作业之间保持状态)，或图形加速模块446必须提供上下文保存和恢复机制。2)由图形加速模块446保证在指定的时间量内完成应用的作业请求(包括任何转换故障)，或图形加速模块446提供抢占作业的处理的能力。3)当在定向共享的编程模型中操作时，必须保证图形加速模块446在进程之间的公平性。
在一个实施例中，针对共享模型，需要应用480利用图形加速模块446类型、工作描述符(WD)、权限掩码寄存器(AMR)值和上下文保存/恢复区域指针(CSRP)来进行操作系统495系统调用。图形加速模块446类型描述了用于系统调用的目标加速度函数。图形加速模块446类型可以是特定于系统的值。WD专门针对图形加速模块446被格式化，并且可以呈图形加速模块446命令、指向用户定义的结构的有效地址指针、指向命令队列的有效地址指针或用于描述待由图形加速模块446完成的工作的任何其他数据结构的形式。在一个实施例中，AMR值是待用于当前进程的AMR状态。被传递到操作系统的值类似于设定AMR的应用。如果加速器集成电路436和图形加速模块446实现方式不支持用户权限掩码覆盖寄存器(UAMOR)，那么操作系统可将当前UAMOR值应用于AMR值，之后在管理程序调用中传递AMR。可选地，管理程序496可应用当前权限掩码覆盖寄存器(AMOR)值，之后将AMR放到进程要素483中。在一个实施例中，CSRP是寄存器445中的一者，其包含在应用的地址空间482中的区域的有效地址以用于使图形加速模块446保存和恢复上下文状态。如果不需要在作业之间保存状态或当作业被抢占时，这个指针是可选的。上下文保存/恢复区域可以是固定的(pinned)系统存储器。
在接收到系统调用时，操作系统495可验证应用480已注册并且已被给予使用图形加速模块446的权限。然后，操作系统495利用表3中所示的信息来调用管理程序496。
表3–OS至管理程序调用参数
1 工作描述符(WD)
2 权限掩码寄存器(AMR)值(潜在地被掩码)
3 有效地址(EA)上下文保存/恢复区域指针(CSRP)
4 进程ID(PID)和可选线程ID(TID)
5 虚拟地址(VA)加速器利用记录指针(AURP)
6 存储段表指针(SSTP)的虚拟地址
7 逻辑中断服务号(LISN)
在接收到管理程序调用时，管理程序496验证操作系统495已注册并且已被给予使用图形加速模块446的权限。然后，管理程序496将进程要素483放入对应的图形加速模块446类型的进程要素链表中。进程要素可包括表4中所示的信息。
表4-进程要素信息
1 工作描述符(WD)
2 权限掩码寄存器(AMR)值(潜在地被掩码)
3 有效地址(EA)上下文保存/恢复区域指针(CSRP)
4 进程ID(PID)和可选线程ID(TID)
5 虚拟地址(VA)加速器利用记录指针(AURP)
6 存储段表指针(SSTP)的虚拟地址
7 逻辑中断服务号(LISN)
8 从管理程序调用参数导出的中断向量表
9 状态寄存器(SR)值
10 逻辑分区ID(LPID)
11 真实地址(RA)管理程序加速器利用记录指针
12 存储器描述符寄存器(SDR)
在一个实施例中，管理程序初始化多个加速器集成切片490寄存器445。
如图4F中所展示，本发明的一个实施例采用可经由共同的虚拟存储器地址空间寻址的统一存储器，所述共同的虚拟存储器地址空间用于访问物理处理器存储器401至402和GPU存储器420至423。在这种实现方式中，在GPU 410至413上执行的操作利用相同的虚拟/有效存储器地址空间来访问处理器存储器401至402且反之亦然，由此简化可编程性。在一个实施例中，虚拟/有效地址空间的第一部分被分配给处理器存储器401，第二部分被分配给第二处理器存储器402，第三部分被分配GPU存储器420，等。由此得以跨越处理器存储器401至402和GPU存储器420至423中的每一者来分布整个虚拟/有效存储器空间(有时称为有效地址空间)，从而允许任何处理器或GPU利用被映射到所述存储器的虚拟地址来访问任何物理存储器。
在一个实施例中，在MMU 439A至439E中的一者或多者内的偏置/一致性管理电路494A至494E确保主机处理器(例如，405)与GPU 410至413的高速缓存器之间的高速缓存一致性，并且实现指示其中应存储有某些类型的数据的物理存储器的偏置技术。虽然图4F中展示了偏置/一致性管理电路494A至494E的多个实例，但是可在一个或多个主机处理器405的MMU内和/或在加速器集成电路436内实现偏置/一致性电路。
一个实施例允许GPU附加存储器420至423被映射为系统存储器的一部分并且使用共享虚拟存储器(SVM)技术来访问，但不经受与完全系统高速缓存一致性相关联的典型性能缺陷。GPU附加存储器420至423被作为系统存储器来访问而无繁重的高速缓存一致性开销的这种能力为GPU卸载提供了有益的操作环境。这种安排允许主机处理器405软件设置操作数和访问计算结果，而没有传统I/O DMA数据复制的开销。这样的传统的复制涉及驱动器调用、中断和存储器映射I/O(MMIO)访问，它们相对于简单的存储器访问来说全部都是低效率的。同时，访问GPU附加存储器420至423而无高速缓存一致性开销的能力对于已卸载的计算的执行时间来说可以是关键的。在具有实质流传送写存储器业务的情况下，例如，高速缓存一致性开销可以显著减少由GPU 410至413所见的有效写带宽。操作数设置的效率、结果访问的效率和GPU计算的效率在确定GPU卸载的有效性中全部都起到一定的作用。
在一个实现方式中，由偏置跟踪器数据结构来驱动在GPU偏置与主机处理器偏置之间的选择。可使用偏置表，例如，其可以是每GPU附加存储器页包括1或2个位的页粒度结构(即，被控制在存储器页的粒度下)。可以采用一个或多个GPU附加存储器420至423的被偷取的存储器范围来实现偏置表，其中在GPU 410至413中具有或不具有偏置高速缓存(例如，用于缓存偏置表的频繁使用/最近使用的条目)。可替代地，可将整个偏置表保持在GPU内。
在一个实现方式中，在实际访问GPU存储器之前访问与每一次访问GPU附加存储器420至423相关联的偏置表条目，从而引起以下操作。首先，来自GPU 410至413的在GPU偏置中寻找其页的本地请求(这些本地请求发现它们的页处于GPU偏置)被直接转发到对应的GPU存储器420至423。来自GPU的本地请求(这些本地请求发现它们的页处于主机偏置)被转发到处理器405(例如，经由如上文所讨论的高速链路)。在一个实施例中，来自处理器405的在主机处理器偏置中寻找所请求的页的请求完成类似于正常存储器读取的请求。可替代地，可将针对GPU偏置页的请求转发到GPU 410至413。然后，如果GPU当前不使用页，那么其可将所述页转变到主机处理器偏置。
可以由基于软件的机制、硬件辅助的基于软件的机制抑或针对一组有限的情况由纯粹基于硬件的机制来改变页的偏置状态。
用于改变偏置状态的一个机制采用API调用(例如，OpenCL)，所述API调用转而调用GPU的装置驱动器，所述装置驱动器转而发送消息(或为命令描述符排队)到GPU，从而指导其改变偏置状态并且针对一些转变在主机中执行高速缓存转储清除(cache flushing)操作。高速缓存转储清除操作对于从主机处理器405偏置转变到GPU偏置来说是需要的，但对于反向转变来说是不需要的。
在一个实施例中，通过暂时渲染不可由主机处理器405缓存的GPU偏置页来保持高速缓存一致性。为了访问这些页，处理器405可请求来自GPU410的访问，这取决于实现方式可立即授予访问权或可不立即授予访问权。因此，为减少处理器405与GPU 410之间的通信，确保GPU偏置页是为GPU所需但非为主机处理器405所需(且反之亦然)的那些页是有利的。
图形处理流水线
图5展示根据实施例的图形处理流水线500。在一个实施例中，图形处理器可以实现所展示的图形处理流水线500。所述图形处理器可以被包括在如本文描述的并行处理子系统内，所述并行处理子系统为比如图2的并行处理器200，在一个实施例中，其是图1的(多个)并行处理器112的变体。各种并行处理系统可以经由如本文描述的并行处理单元(例如，图2的并行处理单元202)的一个或多个实例来实现图形处理流水线500。例如，着色器单元(例如，图3的图形多处理器234)可被配置成执行顶点处理单元504、曲面细分控制处理单元508、曲面细分评估处理单元512、几何处理单元516和片段/像素处理单元524中的一者或多者的功能。数据组装器502、图元组装器506、514、518、曲面细分单元510、光栅化器522和光栅操作单元526的功能也可由处理集群(例如，图3的处理集群214)内的其他处理引擎和对应的分区单元(例如，图2的分区单元220A至220N)执行。还可使用用于一个或多个功能的专用处理单元来实现图形处理流水线500。在一个实施例中，可以由通用处理器(例如，CPU)内的并行处理逻辑来执行图形处理流水线500的一个或多个部分。在一个实施例中，图形处理流水线500的一个或多个部分可以经由存储器接口528来访问芯片上存储器(例如，如图2中的并行处理器存储器222)，所述存储器接口可以是图2的存储器接口218的实例。
在一个实施例中，数据组装器502是收集表面和图元的顶点数据的处理单元。数据组装器502随后将包括顶点属性的顶点数据输出至顶点处理单元504。顶点处理单元504是可编程执行单元，该可编程执行单元执行顶点着色器程序，按顶点着色器程序所指定来照亮并变换顶点数据。顶点处理单元504读取存储在高速缓存、本地或系统存储器中的数据以供在处理顶点数据时使用，并且顶点处理单元504可被编程为将顶点数据从基于物体的坐标表示变换到世界空间坐标空间或归一化装置坐标空间。
图元组装器506的第一实例从顶点处理单元504接收顶点属性。图元组装器506按照需要读取所存储的顶点属性，并且构建图形图元以供由曲面细分控制处理单元508处理。图形图元包括由各种图形处理应用编程接口(API)所支持的三角、线段、点、补片(patch)等等。
曲面细分控制处理单元508将输入顶点视为用于几何补片的控制点。控制点是从来自补片的输入表示(例如，补片的基底)转换到适于由曲面细分评估处理单元512在表面评估中使用的表示。曲面细分控制处理单元508也可以计算几何补片的边缘的曲面细分因数。曲面细分因数应用于单个边缘，并且对与该边缘相关联的依赖于视图的细节等级进行量化。将曲面细分单元510配置成接收补片的边缘的曲面细分因数，并且将补片曲面细分为诸如线、三角或四边形图元的多个几何图元，多个几何图元被传输到曲面细分评估处理单元512。曲面细分评估处理单元512对经再分的补片的参数化坐标操作以生成与几何图元相关联的每一个顶点的表面表示和顶点属性。
图元组装器514的第二实例从曲面细分评估处理单元512接收顶点属性，按照需要读取所存储的顶点属性，并且构建图形图元以供由几何处理单元516处理。几何处理单元516是可编程执行单元，该可编程执行单元执行几何着色器程序以便按几何着色器程序所指定来变换从图元组装器514接收的图形图元。在一个实施例中，将几何处理单元516编程为将图形图元再分成一个或多个新图形图元，并且计算用于对新图形图元进行光栅化的参数。
在一些实施例中，几何处理单元516可在几何流中增加或删除元素。几何处理单元516将指定新图形图元的参数和顶点输出到图元组装器518。图元组装器518从几何处理单元516接收参数和顶点，并且构建用于由视口缩放、拣选和剪辑单元520处理的图形图元。几何处理单元516读取存储在并行处理器存储器或系统存储器中的数据以供在处理几何数据时使用。视口缩放、拣选和剪辑单元520执行剪辑、拣选和视口缩放，并将经处理的图形图元输出到光栅化器522。
光栅化器522可以执行深度拣选和其他基于深度的优化。光栅化器522也执行对新图形图元的扫描转换以生成片段，并且将那些片段和相关联的覆盖数据输出到片段/像素处理单元524。片段/像素处理单元524是被配置成执行片段着色器程序或像素着色器程序的可编程执行单元。片段/像素处理单元524按片段或像素着色器程序所指定来变换从光栅化器522接收的片段或像素。例如，可将片段/像素处理单元524编程为执行操作产生输出到光栅操作单元526的经着色的片段或像素，这些操作包括但不限于纹理映射、着色、混合、纹理校正和透视校正。片段/像素处理单元524可以读取存储在并行处理器存储器或系统存储器中的数据以供在处理片段数据时使用。可将片段或像素着色器程序配置成以取决于为处理单元配置的采样率的样本、像素、图块或其他粒度来着色。
光栅操作单元526是处理单元，该处理单元执行包括但不限于模板印刷、z测试、混合等的光栅操作，并将像素数据作为经处理的图形数据输出，以存储在图形存储器(例如，如图2中的并行处理器存储器222和/或图1中的系统存储器104)中，显示在一个或多个显示装置110上，或者供由一个或多个处理器102或(多个)并行处理器112中的一个来进一步处理。在一些实施例中，将光栅操作单元526配置成压缩被写入到存储器的z或颜色数据，并且解压缩从存储器读取的z或颜色数据。
用于360视频示例的MV/模式预测、基于ROI的发射、元数据捕获和格式检测
现在转向图6，电子处理系统600的实施例可包括：显示处理器611，用于产生供显示的图像数据；以及存储器612，通信地耦合至显示处理器611以存储与来自360视频空间的投影相对应的二维(2D)帧。系统600可包括分量预测器613，所述分量预测器通信地耦合至显示处理器611以基于来自2D帧的一个或多个相邻块的编码信息来预测2D帧的第一块的编码分量，其中，2D帧的所述一个或多个相邻块包括仅在360视频空间中与2D帧的第一块相邻的一个或多个块。例如，编码信息可包括运动向量信息和模式信息中的一项或多项。
系统600还可包括：优先级排序器614，通信地耦合至显示处理器611以基于所识别的感兴趣区域来对2D帧的分组的发射进行优先级排序；和/或格式检测器615，通信地耦合至显示处理器611以基于2D帧的图像内容来检测2D帧的360视频格式。例如，所检测的360视频格式可包括鱼眼格式、等距柱状投影格式、立方体映射格式和紧缩立方体映射格式中的一者或多者。在一些实施例中，优先级排序器614可被配置成基于所识别的感兴趣区域来对2D帧的第二块的编码进行优先级排序。
系统600的一些实施例可进一步包括：360视频捕获装置616，通信地耦合至显示处理器611以捕获360视频内容；以及上下文标注器617，通信地耦合至360视频捕获装置616以使用与所捕获的360视频内容同时期的上下文信息来标注360视频内容。例如，上下文信息可包括运动信息、位置信息、速度信息、加速度信息、取向信息和方向信息中的一项或多项。
以上显示处理器611、存储器612、分量预测器613、优先级排序器614、格式检测器615、360视频捕获装置616、上下文标注器617和其他系统部件中的每一者的实施例可以硬件、软件或其任何合适的组合来实现。例如，硬件实现方式可包括可配置逻辑(如例如，可编程逻辑阵列(PLA)、FPGA、复杂可编程逻辑装置(CPLD))，或在使用电路技术(如例如，ASIC、互补金属氧化物半导体(CMOS)或晶体管-晶体管逻辑(TTL)技术)的固定功能型逻辑硬件中，或以上两种情况的任何组合。可替代地或另外，可以采用一个或多个模块中将这些部件实现为一组逻辑指令，所述逻辑指令存储在机器可读或计算机可读存储介质(比如，随机存取存储器(RAM)、只读存储器(ROM)、可编程ROM(PROM)、固件、闪存等)中以由处理器或计算装置执行。例如，用于实施这些部件的操作的计算机程序代码可用一或多种操作系统可适用/合适的编程语言(包括比如PYTHON、PERL、JAVA、SMALLTALK、C++、C#等等的面向对象的编程语言)和常规程序编程语言(比如，“C”编程语言或类似的编程语言)的任何组合来撰写。
分量预测器示例
现在转向图7A，图形设备700的实施例可包括：编码器721，用于对二维(2D)帧的第一块进行编码，其中，所述2D帧与360视频空间的投影相对应；以及分量预测器722，通信地耦合至编码器以：判定在360视频空间中第一块是否为2D帧的第二块的邻居；以及如果第一块被确定为在360视频空间中是第二块的邻居，那么基于第一块的编码信息来预测第二块的编码分量。例如，分量预测器722可被配置成：如果第一块被确定为在360视频空间中是第二块的邻居，那么基于第一块的已编码的运动向量信息来预测第二块的运动向量。在一些实施例中，分量预测器722可另外或替代地被配置成：如果第一块被确定为在360视频空间中是第二块的邻居，那么基于第一块的已编码的模式信息来预测第二块的模式。例如，模式信息可包括亮度和色度帧内预测模式信息、合并模式信息和/或参考索引信息。在一些实施例中，编码器721可被配置成基于所预测的编码分量对2D帧的第二块进行编码。例如，在一些实施例中，块可包括个别像素、一组邻近的像素或一组像素中的任一者。
设备700的一些实施例可进一步包括以下各者中的任一者：优先级排序器，通信地耦合至编码器721以基于所识别的感兴趣区域来对2D帧的分组的发射进行优先级排序；格式检测器，通信地耦合至编码器721以基于2D帧的图像内容来检测2D帧的360视频格式；和/或360视频捕获装置，通信地耦合至编码器721以捕获360视频内容并且具有上下文标注器，所述上下文标注器通信地耦合至360视频捕获装置以使用与所捕获的360视频内容同时期的上下文信息来标注360视频内容。
以上编码器721、分量预测器722和设备700的其他部件中的每一者的实施例可以硬件、软件或其任何组合来实现。例如，硬件实现方式可包括可配置逻辑(如例如，PLA、FPGA、CPLD)，或在使用电路技术(如例如，ASIC、CMOS或TTL技术)的固定功能型逻辑硬件中，或以上两种情况的任何组合。可替代地或另外，可以采用一个或多个模块中将这些部件实现为一组逻辑指令，所述逻辑指令存储在机器可读或计算机可读存储介质(比如，RAM、ROM、PROM、固件、闪存等)中以由处理器或计算装置执行。例如，用于实施这些部件的操作的计算机程序代码可用一或多种操作系统可适用/合适的编程语言(包括比如PYTHON、PERL、JAVA、SMALLTALK、C++、C#等等的面向对象的编程语言)和常规程序编程语言(比如，“C”编程语言或类似的编程语言)的任何组合来撰写。
现在转向图7B，处理360视频的方法730的实施例可包括：在框731处，编码二维(2D)帧的第一块，其中，所述2D帧与360视频空间的投影相对应；在框732处，判定在360视频空间中第一块是否为2D帧的第二块的邻居；以及在框733处，如果第一块被确定为在360视频空间中是第二块的邻居，那么基于第一块的编码信息来预测第二块的编码分量。方法730可包括：在框734处，如果第一块被确定为在360视频空间中是第二块的邻居，那么基于第一块的已编码的运动向量信息来预测第二块的运动向量。另外或可替代地，方法730还可包括：在框735处，如果第一块被确定为在360视频空间中是第二块的邻居，那么基于第一块的已编码的模式信息来预测第二块的模式。在一些实施例中，方法730可进一步包括：在框736处，基于所预测的编码分量对2D帧的第二块进行编码。
方法730的实施例可以采用系统、设备、GPU或并行处理单元(PPU)(如例如，本文描述的以上各者)来实现。更特定地，方法730的硬件实现方式可包括可配置逻辑(如例如，PLA、FPGA、CPLD)，或在使用电路技术(如例如，ASIC、CMOS或TTL技术)的固定功能型逻辑硬件中，或以上两种情况的任何组合。可替代地或另外，可以采用一个或多个模块中将方法730实现为一组逻辑指令，所述逻辑指令存储在机器可读或计算机可读存储介质(比如，RAM、ROM、PROM、固件、闪存等)中以由处理器或计算装置执行。例如，用于实施这些部件的操作的计算机程序代码可用一或多种操作系统可适用/合适的编程语言(包括比如PYTHON、PERL、JAVA、SMALLTALK、C++、C#等等的面向对象的编程语言)和常规程序编程语言(比如，“C”编程语言或类似的编程语言)的任何组合来撰写。例如，可如下文结合示例18到21所描述在计算机可读介质上实现方法730。
例如，可以采用应用或驱动器软件来实现方法730的多个实施例或部分(例如，通过API)。可以采用待执行于GPU上的专门的代码(例如，着色器)来实现方法730的其他实施例或部分。可以采用固定功能逻辑或专门的硬件(例如，在GPU中)来实现方法730的其他实施例或部分。
一些实施例可有利地为360视频提供模式/MV预测扩展。例如，如下文更详细地解释，针对2D投影平面中的360视频，原始3D空间中的相邻块在2D空间中未必是邻近的。如果当前块在原始3D空间中具有业已被编码的相邻块，那么一些实施例可使用所述邻居信息来预测当前块。一些实施例可利用来自3D空间的邻居以改进对所有或大多数预测分量的预测，这些预测分量可受到由2D映射引起的任何不连续性(例如，表面、边界等)的影响。
在一些实施例中，位流可以是经运动向量编码的。例如，每个块可具有运动信息，比如x方向和y方向。视频编解码器可使用相邻运动向量来预测当前运动向量。相邻块的运动向量可类似于当前块的运动向量。当3D视频被映射到2D贴图中的2D时，贴图的边缘之间可不存在连接。但是在3D空间中，左边缘与右边缘可以是连接的。各个边缘之间可存在相关性，并且这些边缘在3D球体中可以是邻居。一些实施例可扩展用于预测的相邻块，以除了2D空间中的相邻块之外还包括来自3D空间的相邻块。
例如，如果一些像素在3D空间中是邻居，那么即使这些像素在2D空间中不是邻居，仍可在2D空间中将它们视为邻居，并且可将它们添加到可用于预测的一组邻居(例如，除了2D空间中的已经邻近的像素或邻居之外)。邻居的定义可基于预测类型、处理类型和/或其他因素而变化。
一些实施例可有利地为360视频提供编码分量预测。例如，编码分量预测可沿2D视频帧的边界和这样的2D视频帧的面来启用编码分量预测，当这样的边界在对应的360视频中(例如，在对应的360视频球体中)为连续时，所述面在投影的2D平面中是不连续的。特定地，在一些360视频译码上下文中，可将2D视频帧提供到编码器以用于编码成位流(比如，符合标准的位流)，所述2D视频帧为来自360视频空间的投影(例如，从360视频到2D平面的基于预定格式的投影)。可对位流进行存储或发射或等等操作，并且可由解码器处理位流。解码器(比如，符合标准的解码器)可解码位流，以重建2D视频帧(例如，来自360视频的投影)。可处理经重建的2D视频帧，以用于呈现给用户。例如，可使用所选择的视口来确定经重建的2D视频帧的一个或多个部分，所述部分可根据需要加以组装并被提供给显示装置以用于呈现给用户。
在这样的技术中，符合标准的编解码器(编码器/解码器)技术可包括用于在横越帧/块(例如，宏块、译码单元等)边界的视频帧中的邻近或相邻块/像素的帧内编码分量预测。然而，在从360视频空间到2D视频帧的投影中，在360视频空间中为邻居的一些块/像素被呈现或格式化为2D视频帧中的非相邻块/像素。在一些实施例中，术语非相邻可指示这样的像素，即这些像素空间上不邻近(例如，在2D视频帧中)并且若干像素集合在它们之间没有相邻像素(例如，在2D视频帧中第一块中没有像素空间上与第二块中的任何像素相邻)。例如，3D视频空间中的这样的相邻块/像素可以在对应2D视频帧的相对边界上、在对应2D视频帧内的面投影的非邻近边界上，等等，如本文进一步所讨论的。
在一些实施例中，可在2D视频帧(其为来自360视频空间的投影)内识别用于编码分量预测的一组块，使得这一组块包括第一块和第二块(这两个块在2D视频帧中是不相邻的像素集合)并且使得它们具有第一块的第一个别像素和第二块的第二个别像素(这两个个别像素在360视频空间中是相邻像素)。可基于来自相邻的像素集合的编码信息对所识别的这一组块(例如，包括在边界的相反侧上的块)进行编码。可针对在2D视频帧中不相邻但在360视频空间中为相邻块的任何或所有块来逐行重复这样的技术，以基于个别2D视频帧产生已编码的视频帧。
可以采用任何合适的编码、解码、视频预处理或视频后处理上下文来实现这样的块选择、匹配和/或编码分量预测技术。例如，可在视频编码器的本地编码循环内应用这样的技术，以作为在将视频帧提供给编码器之前的预处理、作为后解码器处理等等，如本文进一步所讨论的。此外，可在任何合适的译码上下文中使用所讨论的技术，比如在以下各者的实现方式中：基于H.264/MPEG-4高级视频译码(AVC)标准的编解码器、基于高效视频译码(H.265/HEVC)标准的编解码器、所提议的视频译码(H.266)编解码器、基于开放媒体联盟(AOM)标准的编解码器(比如，AV1标准)、基于MPEG标准的编解码器(比如，MPEG-4标准)、基于VP9标准的编解码器、或任何其他合适的编解码器或其扩展或配置(profile)。所讨论的技术减少向用户显示的译码视频的块状假影，并且提供改进的360视频体验。
图7C是系统740的实施例的示意图，所述系统用于处理从360视频空间投影的2D视频帧。系统740可包括360视频源741、360至2D投影仪742、译码器743、视口产生器747和显示器748。例如，译码器743可包括编码分量预测器744，所述分量预测器可进一步包括块选择器745和预测器746。
在一些实施例中，译码器743可从360至2D投影仪742接收2D视频帧(例如，从360或球面空间投影的2D视频帧)，并且译码器743可产生对应的输出位流。虽然关于译码器743从360至2D投影仪742接收2D视频帧进行展示，但是译码器743可从任何合适的源(比如，存储器、另一个装置等等)接收2D视频帧。在一些实施例中，译码器743可为系统740提供编码器能力。360视频源741可包括可获得360视频或球面视频等等的一个合适相机或一组相机。此外，360至2D投影仪742可接收360视频，并且360至2D投影仪742可使用任何合适的一或多种技术来产生2D视频帧。例如，360至2D投影仪742可以任何合适的2D格式将360视频投影到2D视频帧，所述2D格式表示来自360视频的投影。
系统740的其他模块或部件也可根据需要接收2D视频帧或其部分。系统740可提供(例如)视频压缩，并且系统740可以是经由计算机或计算装置等等实现的视频编码器。例如，系统740可产生输出位流，所述输出位流与比如以下各者的视频压缩-解压缩(编解码器)标准兼容：H.264/MPEG-4高级视频译码(AVC)标准、高效视频译码(H.265/HEVC)标准、所提议的视频译码(H.266)标准、VP8标准、VP9标准等等。
在一些实施例中，译码器743可接收输入位流，所述输入位流与从360或球面空间投影的2D帧相对应或表示从360或球面空间投影的2D帧，并且译码器743可产生对应的2D视频帧(例如，使得从360或球面空间来投影2D帧)。也可从存储器、另一个装置等等来接收输入位流。在一些实施例中，译码器743可为系统740提供解码器能力。在一些实施例中，可将输入位流解码为2D视频帧，可基于2D视频帧内的所选视口经由显示器748向用户显示所述2D视频帧。显示器748可以是任何合适的显示器，比如虚拟现实(VR)显示器、头戴式VR显示器等等。
此外，虽然被展示为具有360视频源741、360至2D投影仪742、译码器743、视口产生器747和显示器748的全部，但是系统740可仅包括这些部件中的一些。取决于实现系统740的(多个)装置的性质，可为系统740提供这些部件以及其他部件的各种组合。系统740可经由任何合适的(多个)装置来实现，如例如服务器、个人计算机、膝上型计算机、平板计算机、平板手机(phablet)、智能电话、数字相机、游戏控制台、穿戴式装置、显示装置、一体化装置、二合一装置等等或平坦(比如，移动平台等等)。例如，如本文所使用，系统、装置、计算机或计算装置可包括任何这样的装置或平台。
如所讨论，译码器743可接收2D视频帧。2D视频帧(以及本文论述的其他视频帧)可包括处于任何合适的分辨率的任何合适的视频数据，比如像素或像素值或数据、视频序列、视频序列的图片、视频帧、视频图片、一系列视频帧、一组图片、多组图片、视频数据等等。2D视频帧可以视频、输入视频数据、视频数据、原始视频等等为特征。例如，2D视频帧可以是视频图形阵列(VGA)、高清晰度(HD)、全高清(例如，1080p)或4K分辨率视频等等。此外，2D视频帧可包括任何数目的视频帧、视频帧序列、图片、多组图片等等。出于呈现的清晰性，关于视频帧的像素和像素值讨论了本文所讨论的技术。然而，这样的视频帧和/或视频数据可以图片、视频图片、帧、帧序列、视频序列等等为特征。如本文所使用，术语像素或像素值可包括表示视频帧的像素的值，比如像素的亮度值、像素的颜色通道值等等。在各种示例中，2D视频帧可包括原始视频或经解码的视频。此外，如本文所讨论，译码器743可提供编码与解码功能两者。
在一些实施例中，编码分量预测器744可接收2D视频帧，所述2D视频帧包括来自360视频空间的投影。如本文使用，术语从360视频空间投影可指示：2D视频帧的格式可包括与360空间、球面空间等等相对应的图片或视频信息。例如，可使用已知的技术将360视频格式化或投影到2D图像或视频帧平面等等。这样的投影(及其各种优点和缺点)可类似于(例如)从地球仪产生2D贴图。这样的2D视频帧的格式可包括任何合适的格式，如例如等距柱状投影(ERP)格式、立方体映射格式、紧凑立方体映射格式等等。
块选择器745可选择若干组块以用于编码分量预测(例如，针对2D视频帧中的一些或全部)。块选择器745可使用任何合适的一或多种技术来选择这样的若干组块以用于编码分量预测。在一些实施例中，块选择器745可接收指示2D视频帧的格式类型(例如，等距柱状格式、立方体映射格式、紧凑立方体映射格式等等)的一个或多个指示符，并且块选择器745可响应于一个或多个格式类型指示符来确定选择哪几个组的块以用于编码分量预测。被选择用于编码分量预测选择的这样的一组块中的每一者可包括第一组块和第二组块，使得第一组块和第二组块在2D视频帧中是不相邻的但在360视频空间中是相邻的。此外，这样的第一组块和第二组块可通过边界分开，可跨越所述边界应用编码分量预测。所述边界可由2D视频帧的帧边界、2D视频帧的投影部分的面边界等等提供。例如，可选择这两组块，并且使它们定向/对齐以用于编码分量预测。如图7C中所示，可由编码分量预测器744的预测器746来应用这样的编码分量预测。可由译码器743将所预测的编码分量用作编码、解码、预处理或后处理的一部分，如本文进一步所讨论的。
图7D展示了根据至少一些实施例安排的示例2D视频帧750(包括呈ERP格式的来自360视频空间的投影)和覆盖2D视频帧750的视口751。2D视频帧750可包括呈ERP格式的360视频的投影。例如，ERP格式可将球面3D图像或帧投影到2D图像或帧的正交坐标上。可关于2D视频帧750应用视口751(例如，由视口产生器747)，使得用户可期望观看与视口751相对应的视频。视口751可环绕2D视频帧750，使得视口751的一部分752是在2D视频帧750的右侧，且视口751的另一部分753是在2D视频帧750的左侧。例如，为获得视口751的视频数据以供呈现，必须从2D视频帧750的左侧获得视口751的部分753，所述部分使2D视频帧750的帧边界754过分扩展。例如，可向用户呈现包括部分752、753的组装视口751。
图7E展示了视口751内的编码分量预测安排的实施例。为执行针对块B5的编码分量预测，可将一组块B1至B4以及B6至B9识别为块B5的邻居。例如，在360视频空间中但非在对应的2D视频帧投影中，块B3、B6和B9可以是块B5的邻居。例如，视口751在360视频空间中提供连续视角。此外，块B5和B6可包括在2D视频帧750中的不连续的非相邻像素，因为块B5是来自2D视频帧750的右侧并且块B6是来自2D视频帧750的左侧(例如，见图7D)。例如，块B5和B6可通过边界754分开，使得边界754将在2D视频帧空间中不相邻但在360或球面空间中相邻的块分开。
按由左至右和由顶至底的处理顺序，块B1至B4可在B5之前被编码。针对其他处理顺序，可在当前所处理的块之前处理相邻块的其他子集。块选择器745可选择使先前编码/处理信息可用的相邻块的子集，并且将那些块或所述信息提供给预测器746。有利地，被提供给预测器746的相邻块的子集可将更多编码信息提供给预测器746以用于改进预测(例如，和/或用于改进视频译码效率等)。在本示例中，具有对块B5有用的编码信息的邻居的子集可包括2D帧相邻块B1、B2和B4还有来自360空间的相邻块B3。预测器746可使块对齐(例如，将它们按行或列顺序放置)或以其他方式使块旋转和/或重排序，使得3D视频空间相邻块可在需要时被定位成彼此紧挨或靠近以用于执行编码分量预测。
如关于系统740所讨论，可由块选择器745选择一组块B1至B4，可由块选择器745使它们相对于块B5对齐以用于编码分量预测，并且它们具有编码分量，所述编码分量由预测器746预测以针对块B5产生所预测的编码分量或参数值等等。可针对任何合适的编码/处理信息来执行编码分量预测，所述编码/处理信息包括运动向量信息、模式信息等等。针对运动向量预测，预测性相邻块可包括业已沿光栅方向被编码的块。对于由左至右和由顶至底扫描而言，针对当前块的运动向量预测可使用来自先前编码的相邻块的运动向量信息，这些先前编码的相邻块在当前块的上面和左边。有利地，一些实施例可通过包括来自3D空间的相邻块来增加预测性相邻块的数目。
参考图7D，可跨越边界754选择附加的若干组块，使得一组块分别包括来自2D视频帧750的右侧的块(例如，邻近于2D视频帧750的右边界或边缘)和来自2D视频帧750的左侧的块(例如，邻近于2D视频帧750的左边界或边缘)。例如，在等距柱状格式中，2D视频帧750的所有最左边像素和对应的最右边像素在360视频空间中是相邻的，而在2D视频帧750中是不相邻的(非连续)。可针对包括来自2D视频帧750的左边和右边的块的一些或所有组的块来扩展编码分量预测。
图7F展示了2D视频帧760的实施例，所述2D视频帧包括被安排用于编码分量预测的所选择的块。2D视频帧760可包括呈等距柱状格式的360视频的投影。所选择的块可包括第一组块G1和第二组块G2，这些块被选择用于编码分量预测。例如，为进行编码分量预测，可使块761对齐到块762的右边，并且可执行编码分量预测。组G2可包括块763和块764，使得为进行编码分量预测，可将块763倒转并使其对齐到块764的顶部(或反之亦然)，并且可执行编码分量预测。
块761和762在2D视频帧760中是不相邻的(例如，在2D视频帧760中，块761中没有像素与块762的任何像素相连续或相邻近)。然而，在360视频空间中，在帧边界766处的块761的像素是在帧边界767处的块762的像素的邻居。此外，块761、762可以与底部帧边界769(和顶部帧边界768)相隔相等的距离(d2)。参考图7F，在等距柱状格式中，针对邻近于左帧边界766的任何块，可找到邻近于右帧边界767的对应块(与底部帧边界769或顶部帧边界768相隔相等的距离)，使得若干组块在2D视频帧760中是不相邻的，但在360视频空间中是相邻的。可做出类似的确定以识别与图7E中的一组相邻块B1至B9相对应的一组相邻块。也可将所识别的相邻块用于编码分量预测。
组G2可包括块763和块764以用于编码分量预测。例如，为进行编码分量预测，可将块763倒转并使其对齐到块764的顶部(或可将块764倒转并使其对齐到块763的顶部)，并且可执行编码分量预测。块763和块764在2D视频帧760中是不相邻的，它们在360视频空间中可以是邻居。例如，块763、764可以离2D视频帧760的中心线765距离相等(即，两者都相隔距离d1)。针对邻近于顶部帧边界768的任何块(正好在中心线765的像素除外(如果有的话))，可找到也邻近于顶部帧边界768并且到中心线765距离相等的对应块，使得这些块在2D视频帧760中是不相邻的但在360视频空间中是相邻的。类似地，针对邻近于底部帧边界769的任何块，可找到也邻近于底部帧边界769并且到中心线765距离相等的对应块，使得这些块在2D视频帧760中是不相邻的但在360视频空间中是相邻的。可做出类似的确定以识别与图7E中的一组相邻块B1至B9相对应的一组相邻块。也可将所识别的相邻块用于编码分量预测。
可针对任何格式的投影来执行所描述的用于2D视频帧(其为来自360视频空间的投影)的块选择和编码分量预测技术。例如，2D视频帧可以是从360视频空间投影的等距柱状帧(如关于图7D到图7F和本文其他地方所讨论)、从360视频空间投影的立方体映射格式(如关于图7G和本文其他地方所讨论)、从360视频空间投影的紧凑立方体映射格式(如关于图7I和本文其他地方所讨论)、映射为任何形状的环境、任何3D形状的几何网等等。例如，立方体映射格式可将360视频空间投影到立方体的侧面上，所述立方体可以在2D视频帧中展开或安排。
图7G展示了2D视频帧770的实施例，所述2D视频帧包括呈立方体映射格式的来自360视频空间的投影以及被选择用于编码分量预测的块。例如，一组块G3可包括块771和块772，这些块可被对齐以用于编码分量预测。一组块G4可包括块773和块774，可根据需要使这些块旋转和对齐以用于编码分量预测。如本文所讨论，块的其他组合可被识别为邻居，并且被对齐成若干组块以用于编码分量预测。2D视频帧770可包括左帧边界776、右帧边界777、顶部帧边界778、底部帧边界779。此外，2D视频帧770可包括空白像素区域R1、R2，这些空白像素区域在2D视频帧770中被展示为阴影线但可包括任何合适的颜色或像素值(例如，黑色)。可在360视频空间中将块771和块772识别为邻居，因为它们可与底部帧边界779(和顶部帧边界778)相隔相等的距离(d1)。可在360视频空间中将块773和块774识别为邻居，因为它们可以离面C和面B的拐角距离相等(即，两者都相隔距离d2)。可做出类似的确定以识别与图7E中的一组相邻块B1至B9相对应的一组相邻块。也可将所识别的相邻块用于编码分量预测。
图7H展示了用于从3D视频空间接收投影的立方体780的实施例。立方体780可具有6个面(标记为A至F，使得A为背面，B为正面，C为顶部，D为底部，E为右侧，且F为左侧)。例如，可将3D视频(例如，帧或图片)投影到立方体780，使得立方体780的每个面包括3D视频或球体的一部分。参考图7G，在立方体映射格式中，立方体780的每个面可以边界联结的方式跨越2D视频帧770摊开。例如，2D视频帧770可包括立方体780的几何网。虽然被示为具有呈侧T格式的面，但是可使用任何合适的格式，比如如下文参考图7I进一步讨论的紧凑立方体格式。
如图7H中所示，块773和块774可相对于立方体780在面B与C之间的边界处联结。例如，块773的在所述边界处的像素与块774的在所述边界处的像素在3D视频空间中是被投影到立方体780上的相邻像素。如下文进一步所讨论，包括块773和块774的组G4可被选择用于编码分量预测。类似地，共享邻近面之间的边界的对应的若干组块可被选择用于编码分量预测。例如，这样的若干组块可形成在以下各者之间：面C与面B之间的共享边界、面C与面E之间的共享边界、面A与面F之间的共享边界(如关于图7G中的块771和块772所示)，等等。
关于面A至F，每个面可具有左面边界、右面边界、顶面边界和底面边界。这样的边界可如所示与另一个面、空白的像素区域或帧边界是共享的。如关于图7H所讨论，与以下的面边界成直角的若干组块可被选择/匹配和旋转/对齐以用于编码分量预测：面B的顶边界与面C的右边界、面B的底边界与面D的右边界、面E的顶边界与面C的顶边界、面E的底边界与面D的底边界、面A的顶边界与面C的左边界、面A的右边界与面F的左边界、面A的底边界与面D的左边界。
图7I展示了2D视频帧790的实施例，所述2D视频帧可包括呈紧凑立方体映射格式的来自360视频空间的投影以及被选择用于编码分量预测的若干组块G5、G6。例如，组G5可包括块791和块792，可使这些块旋转和/或对齐以用于编码分量预测。组G6可包括块793和块794，也可使这些块旋转和/或对齐以用于编码分量预测。也可将块的其他组合对齐成若干组块以用于编码分量预测。例如，具有共享邻近面之间的边界的块的任何一组块可被选择用于编码分量预测。
参考图7H和图7I，在紧凑立方体映射格式中，立方体780的每个面可被提供在如所示的2D视频帧790内。关于图7G中所提供的立方体面的对齐，面A、B、E和F可具有相同的对齐，而面C'和D'可被旋转180°。虽然被展示为处于特定的紧凑立方体格式，但是可将任何合适的格式用于来自360视频空间的预测。
2D视频帧790包括左帧边界796、右帧边界797、顶部帧边界798和底部帧边界799。此外，如关于面A、B、C'、D'、E、F所示，每个面可具有左面边界、右面边界、顶面边界和底面边界。这样的边界可如所示与另一个面或帧边界是共享的。例如，与以下的面边界成直角的块可被选择/匹配和旋转/对齐以用于编码分量预测：面B的顶边界与面C'的左边界、面B的底边界与面D'的左边界、面E的顶边界与面C'的底边界、面E的底边界与面D'的顶边界、面A的顶边界与面C'的右边界、面A的右边界与面F的左边界、面A的底边界与面D'的右边界。
块791和块792在2D视频帧790中是不相邻的，但在360视频空间中是相邻的(例如，基于面D'的左边界与面B的底边界是共享的)。块793和块794在2D视频帧790中是不相邻的，但在360视频空间中是相邻的(例如，基于面B的顶边界与面C'的左边界是共享的)。可做出类似的确定以识别与图7E中的一组相邻块B1至B9相对应的一组相邻块。也可将所识别的相邻块用于编码分量预测。
如所讨论，可在任何合适的3D视频编码、解码、预处理或后处理上下文中使用本文所讨论的块选择和编码分量预测技术。
优先级排序器示例
现在转向图8A，图形设备800的实施例可包括：区域识别器821，用于识别2D帧中的感兴趣区域，其中，所述2D帧与360视频的投影相对应；以及优先级排序器822，通信地耦合至区域识别器821以基于所识别的感兴趣区域来对2D帧的分组的发射进行优先级排序。例如，可将感兴趣区域识别为与用户选择的视口相对应。在一些实施例中，优先级排序器822还可被配置成基于所识别的感兴趣区域来对2D帧的一个或多个块的编码进行优先级排序。设备800的一些实施例还可包括：编码器823，通信地耦合至优先级排序器822以编码2D帧的已按优先级排序的一个或多个块；打包器(packetizer)824，通信地耦合至编码器823以自2D帧的经编码的已按优先级排序的一个或多个块来组装已按优先级排序的分组；和/或发射机825，通信地耦合至打包器824以发射已按优先级排序的分组。
在一些实施例中，设备800可进一步包括以下各者中的任一者：格式检测器，通信地耦合至编码器823以基于2D帧的图像内容来检测2D帧的360视频格式；和/或360视频捕获装置，通信地耦合至编码器823以捕获360视频内容并且具有上下文标注器，所述上下文标注器通信地耦合至360视频捕获装置以使用与所捕获的360视频内容同时期的上下文信息来标注360视频内容。
以上的区域识别器821、优先级排序器822、编码器823、打包器824、发射机825和设备800的其他部件中每一者的实施例可以硬件、软件或其任何组合来实现。例如，硬件实现方式可包括可配置逻辑(如例如，PLA、FPGA、CPLD)，或在使用电路技术(如例如，ASIC、CMOS或TTL技术)的固定功能型逻辑硬件中，或以上两种情况的任何组合。可替代地或另外，可以采用一个或多个模块中将这些部件实现为一组逻辑指令，所述逻辑指令存储在机器可读或计算机可读存储介质(比如，RAM、ROM、PROM、固件、闪存等)中以由处理器或计算装置执行。例如，用于实施这些部件的操作的计算机程序代码可用一或多种操作系统可适用/合适的编程语言(包括比如PYTHON、PERL、JAVA、SMALLTALK、C++、C#等等的面向对象的编程语言)和常规程序编程语言(比如，“C”编程语言或类似的编程语言)的任何组合来撰写。
现在转向图8B，处理360视频的方法830的实施例可包括：在框831处，识别2D帧中的感兴趣区域，其中，所述2D帧与360视频的投影相对应；以及在框832处，基于所识别的感兴趣区域来对2D帧的分组的发射优先级排序。方法830还可包括：在框833处，基于所识别的感兴趣区域来对2D帧的一个或多个块的编码优先级排序。在一些实施例中，方法830可进一步包括以下各者中的任一者：在框834处，编码2D帧的已按优先级排序的一个或多个块；在框835处，自2D帧的经编码的已按优先级排序的一个或多个块来组装已按优先级排序的分组；以及在框836处，发射已按优先级排序的分组。在一些实施例中，可将感兴趣区域识别为与用户选择的视口相对应。
方法830的实施例可以采用系统、设备、GPU或并行处理单元(PPU)(如例如，本文描述的以上各者)来实现。更特定地，方法830的硬件实现方式可包括可配置逻辑(如例如，PLA、FPGA、CPLD)，或在使用电路技术(如例如，ASIC、CMOS或TTL技术)的固定功能型逻辑硬件中，或以上两种情况的任何组合。可替代地或另外，可以采用一个或多个模块中将方法830实现为一组逻辑指令，所述逻辑指令存储在机器可读或计算机可读存储介质(比如，RAM、ROM、PROM、固件、闪存等)中以由处理器或计算装置执行。例如，用于实施这些部件的操作的计算机程序代码可用一或多种操作系统可适用/合适的编程语言(包括比如PYTHON、PERL、JAVA、SMALLTALK、C++、C#等等的面向对象的编程语言)和常规程序编程语言(比如，“C”编程语言或类似的编程语言)的任何组合来撰写。例如，可如下文结合示例36到39所描述在计算机可读介质上实现方法830。
例如，可以采用应用或驱动器软件来实现方法830的多个实施例或部分(例如，通过API)。可以采用待执行于GPU上的专门的代码(例如，着色器)来实现方法830的其他实施例或部分。可以采用固定功能逻辑或专门的硬件(例如，在GPU中)来实现方法830的其他实施例或部分。
有利地，一些实施例可对360视频分组重排序以实现低潜时观看。例如，基于观看者的视点，可在这些分组(例如，与传统光栅扫描顺序相比这些分组已被重排序)的其余部分之前对属于感兴趣区域(ROI)的分组进行编码和发射。可将一些实施例用于离线编码和/抑或运行时(on-the-fly)编码。
现在转向图8C，可由用户观看360视频840。当观看360视频840时，用户观看360视频840的一部分(有时称为视口842)。例如，用户可手动地选择视口842(例如，用光标键、鼠标移动、比如滑动的触屏手势等)。在适当配置的耳机的情况下，用户可通过移动他们的头或身体(例如，或用手势或视线跟踪)来选择视口842。在2D帧中，用户可看到360视频840的山脉部分。为观看太阳，用户可移动他们的头，然后就在2D帧中看到了360视频840的一部分。无论用户采用什么方式来选择视口，视口信息随后都可作为感兴趣区域被传达到图形系统，以处理视频并向用户显示视口。
现在转向图8D，在一些情况下，完整的360视频840可被发送到观看的装置。在其他情况下，仅可发送360视频840的一部分844(例如，视口842，或视口842加上某个过度绘制部分)。传统光栅扫描顺序可在360视频的左上方开始以用于按顺序逐行水平地编码和发射360视频以及处理360视频。一些实施例可有利地对与视口842相对应的感兴趣区域优先级排序，并且对感兴趣区域中的分组的编码和/或发射重排序。例如，图形系统可首先发射分组851，然后针对感兴趣区域中的每行分组由左至右继续进行。在感兴趣区域中的最后一个分组853被发射之后，图形系统可按光栅扫描顺序(从左上分组855开始并继续到最后一个分组857)继续进行发射。图形系统可跳过先前已发射的分组851至853，或可重新发射这些分组。
现在转向图8E，在一些实施例中，图形系统可通过以下步骤对扫描重排序：选择与感兴趣区域的最上行相对应的起始行861，然后针对每一行由左至右继续。例如，在行861之后可继续进行行863，并且继续至底行865。在底行865之后可继续进行顶行867，并且继续至末行869。有利地，感兴趣区域越早发射越好，使得其将使传统光栅扫描仅具有编码和/或发射逻辑的细微变化。一些实施例可完整地编码360视频，并且基于所识别的感兴趣区域仅对发射应用优先级排序/重排序。一些实施例也可基于感兴趣区域对编码优先级排序和/或重排序。
针对网络发射(包括云服务)，可需要大量带宽以发送完整的360视频。一些实施例可基于感兴趣区域对头戴式显示器(HMD)的编码/发射优先级排序。例如，基于HMD的取向，系统可对编码/发射优先级排序以首先处理那个区域中的块。系统可一次编码一个块，并且可包括一个分组中的多个已编码块。观看区域可首先被编码和通过网络发送，而其他部分则稍后可以常规光栅顺序被编码和发送。在一些实施例中，如果发送后来的分组造成了太多的潜时，那么可跳过或丢弃这些后来的分组。例如，如果分组开始被丢弃，那么一些实施例可在感兴趣区域处重新开始绘图。一些实施例可将分组切成期望的顺序，并提供基于切片的编码。
格式检测器示例
现在转向图9A，图形设备900的实施例可包括：解码器921，用于对2D帧进行解码，其中，所述2D帧与360视频的投影相对应；格式检测器922，通信地耦合至解码器921以基于2D帧的图像内容来检测360视频的格式；以及映射器923，通信地耦合至解码器921和格式检测器922以基于所检测的360视频格式来映射已解码的2D帧。例如，格式检测器922可被配置成：基于2D帧的所识别的空白区域来检测鱼眼格式，所述所识别的空白区域是在2D帧的所识别的非空白圆形区域的外部。格式检测器922可进一步被配置成：基于在2D帧极点附近的所识别的变形(warping)、2D帧边缘处的所识别的不连续性和在2D帧左边缘与右边缘之间的所识别的对象分割中的一者或多者来检测等距柱状投影格式。格式检测器922也可被配置成：基于2D帧的所识别的空白矩形区域和2D帧的非空白区域的所识别的T形状中的一者或多者来检测立方体映射格式。例如，格式检测器922可基于2D帧中的所识别的边缘的数目、2D帧中的边缘当中的所识别的共同性和沿2D帧边缘的所识别的不连续性中的一者或多者来检测紧缩立方体映射格式。
在一些实施例中，设备900可进一步包括360视频捕获装置，所述360视频捕获装置通信地耦合至解码器921以捕获360视频内容并且具有上下文标注器，所述上下文标注器通信地耦合至360视频捕获装置以使用与所捕获的360视频内容同时期的上下文信息来标注360视频内容。
以上解码器921、格式检测器922、映射器923和设备900的其他部件中的每一者的实施例可以硬件、软件或其任何组合来实现。例如，硬件实现方式可包括可配置逻辑(如例如，PLA、FPGA、CPLD)，或在使用电路技术(如例如，ASIC、CMOS或TTL技术)的固定功能型逻辑硬件中，或以上两种情况的任何组合。可替代地或另外，可以采用一个或多个模块中将这些部件实现为一组逻辑指令，所述逻辑指令存储在机器可读或计算机可读存储介质(比如，RAM、ROM、PROM、固件、闪存等)中以由处理器或计算装置执行。例如，用于实施这些部件的操作的计算机程序代码可用一或多种操作系统可适用/合适的编程语言(包括比如PYTHON、PERL、JAVA、SMALLTALK、C++、C#等等的面向对象的编程语言)和常规程序编程语言(比如，“C”编程语言或类似的编程语言)的任何组合来撰写。
现在转向图9B，处理360视频的方法930的实施例可包括：在框931处，对2D帧进行解码，其中，所述2D帧与360视频的投影相对应；在框932处，基于2D帧的图像内容来检测360视频的格式；以及在框933处，基于所检测的360视频格式来映射已解码的2D帧。例如，方法930可包括以下各者中的任一者：在框934处，基于2D帧的所识别的空白区域来检测鱼眼格式，所述所识别的空白区域是在2D帧的所识别的非空白圆形区域的外部；在框935处，基于在2D帧极点附近的所识别的变形、2D帧边缘处的所识别的不连续性和在2D帧左边缘与右边缘之间的所识别的对象分割中的一者或多者来检测等距柱状投影格式；在框936处，基于2D帧的所识别的空白矩形区域和2D帧的非空白区域的所识别的T形状中的一者或多者来检测立方体映射格式；和/或在框937处，基于2D帧中的所识别的边缘的数目、2D帧中的边缘当中的所识别的共同性和沿2D帧边缘的所识别的不连续性中的一者或多者来检测紧缩立方体映射格式。
方法930的实施例系统、可以采用设备、GPU或并行处理单元(PPU)(如例如，本文描述的以上各者)来实现。更特定地，方法930的硬件实现方式可包括可配置逻辑(如例如，PLA、FPGA、CPLD)，或在使用电路技术(如例如，ASIC、CMOS或TTL技术)的固定功能型逻辑硬件中，或以上两种情况的任何组合。可替代地或另外，可以采用一个或多个模块中将方法930实现为一组逻辑指令，所述逻辑指令存储在机器可读或计算机可读存储介质(比如，RAM、ROM、PROM、固件、闪存等)中以由处理器或计算装置执行。例如，用于实施这些部件的操作的计算机程序代码可用一或多种操作系统可适用/合适的编程语言(包括比如PYTHON、PERL、JAVA、SMALLTALK、C++、C#等等的面向对象的编程语言)和常规程序编程语言(比如，“C”编程语言或类似的编程语言)的任何组合来撰写。例如，可如下文结合示例55到59所描述在计算机可读介质上实现方法930。
例如，可以采用应用或驱动器软件来实现方法930的多个实施例或部分(例如，通过API)。可以采用待执行于GPU上的专门的代码(例如，着色器)来实现方法930的其他实施例或部分。可以采用固定功能逻辑或专门的硬件(例如，在GPU中)来实现方法930的其他实施例或部分。
一些实施例可有利地提供对360视频投影格式的自动检测。当提供360视频以供观看时，其可包括或附随可识别360视频的格式的元数据或标记。非限制性示例格式可包括鱼眼格式、ERP格式、立方体映射格式和紧缩立方体映射格式。然而，有时可不提供元数据或标记，可不辨识元数据或标记，或元数据或标记可不正确。一些实施例可对图像内容自身执行图像处理，以检测360视频的格式。例如，格式检测器可被包括在编码器中以检测和/或校正360视频的类型来实现正确编码。格式检测器可分析像素数据以检测360视频的格式。可将内容和所检测的信息提供给映射器以用于基于所确定的格式进行映射和视口的视点生成。
现在转向图9C，2D帧940的实施例可包括具有鱼眼格式的来自360视频的投影。鱼眼格式可以被不活动背景942包围的圆圈941中的活动内容为特征。为自动检测鱼眼，格式检测器可分析像素数据以检测被黑色包围的圆圈(例如，利用图像处理)。
现在转向图9D，2D帧945的实施例可包括具有ERP格式的来自360视频的投影。ERP格式可以对象946或跨越帧的左右边缘的场景分割和/或图像极点处的变形(例如，见线947)为特征。极点可与2D帧的顶部和底部中心区域相对应。为自动检测ERP格式，格式检测器可分析像素数据以识别极点处的直线，这些直线在扭曲映射(distortion mapping)过程中变得弯曲。为识别可跨越左右边缘被分割的对象或场景，格式检测器可分析在那些边缘附近的像素数据。如果来自左侧的相当数量的像素数据与来自右侧的像素数据垂直相关，那么这可指示场景跨越那些边缘被分割。在一些实施例中，可确定用于表示来自左侧的像素中有多少与来自右侧的像素垂直相关的加权值。
现在转向图9E，2D帧960的实施例可包括具有立方体映射格式的来自360视频的投影，所述格式具有立方体面A至F。立方体映射格式可以一个或多个空白矩形或方框形区域(例如，区域R1至R4)为特征。为自动检测立方体映射格式，格式检测器可分析像素数据以识别那些空白区域。
现在转向图9F，2D帧965的实施例可包括具有紧缩立方体映射格式(例如，有时也称为紧凑立方体映射格式)的来自360视频的投影，所述格式具有立方体面A至F。紧缩立方体映射格式可以沿边缘的不连续性为特征，其中，一个面被移动而不在其原始连续位置。为自动检测紧缩立方体映射格式，格式检测器可分析像素数据以识别与立方体面轮廓相对应的具有90度角的边缘。例如，如果沿线出现像素数据的变化，那么可将这条线识别为立方体面的边缘。以90度角交叉或相交的那些线可识别立方体面的轮廓。一些实施例可基于2D帧的尺寸来对齐立方体映射投影，以识别候选边缘并找出匹配。一些实施例可寻找跨越所有可能的对的相似性并试着最小化。针对紧缩或紧凑立方体映射格式，格式检测器也可寻找跨越块的边缘共同性(边缘匹配)或连续性。另外或可替代地，一些实施例可寻找沿边缘的不连续性(边缘不匹配)或跨越块的不连续性。
针对立方体映射格式抑或紧缩立方体映射格式，2D帧中的面可能需要相对于它们在360视频空间中的原始位置来被识别，以进行后续的正确处理。针对立方体映射格式，识别原始位置可以是相对直截了当的，因为每个面保持至少一个原始连续边缘(例如，见图7G和图9E)。针对紧缩立方体映射格式，原始位置可被重新安排。例如，在图9F中，面C、D和E可全部是连续的，但面A、B和F可已被移动。可存在用于将2D帧打包的多种方式，各个块可占据打包的帧中的其他位置。针对紧缩立方体映射格式，格式检测器可首先确定格式，且然后可确定正确的映射(例如，哪个面是A、B、C、D、E和F)。例如，格式检测器可分析像素数据以针对每个面将边缘排成队。
现在转向图9G，图形设备970的实施例可包括N个格式检测器(例如，其中，N>0)，包括第一格式检测器971、第二格式检测器972至第N格式检测器973，它们通信地耦合至格式选择器974。例如，可将2D帧提供给第一格式检测器971至第N格式检测器973中的每一者，并且每个格式检测器可分别判定2D帧是否具有与所述检测器相对应的格式。这些格式检测器可提供二进制结果(真或假)，或这些格式检测器可提供指示2D帧具有与检测器相对应的格式的合适的可能性(低/中/高、百分数、加权值等)的结果。格式选择器974可接收来自第一格式检测器981至第N格式检测器中的每一者的结果，以选择指示对于2D帧而言最有可能的输出值。在一些实施例中，也可将来自2D帧的元数据或其他格式识别信息提供给格式选择器974(例如，格式选择器974可在对各种概率加权时把所述元数据或其他格式识别信息考虑进去)。例如，格式选择器974可包括用于基于每个检测器的输出来选择最有可能的格式的逻辑。表5展示了样本决策过程：
表5-格式选择逻辑
检测器1结果 检测器2结果 检测器3结果 所选的格式
假 假 假 无结论性
假 假 真 格式3
假 真 假 格式2
假 真 真 格式2
真 假 假 格式1
真 假 真 格式1
真 真 假 格式1
真 真 真 无结论性
现在转向图9H，一种检测360视频格式的方法可包括：在框981处，判定2D帧是否具有圆形轮廓；以及如果是这样，那么可在框982处针对所检测的格式来选择鱼眼，并且可在框992处指示所检测的格式。如果在框981处2D帧不具有圆形轮廓，那么可在983处分析2D帧以判定2D帧是否具有一个或多个空白方框形区域。如果是这样。那么可在框984处针对所检测的格式来选择立方体映射，可在框985处提取立方体映射的面，并且可在框992处指示所检测的格式。
如果在框986处不存在空白的方框，那么可接下来在框986处分析2D帧以判定是否存在具有90度角的多个边缘。如果存在90度角的边缘，那么可在框987处针对所检测的格式来选择紧缩立方体映射，可在框985处提取面，并且可在框992处指示所检测的格式。如果在框986处不存在90度边缘，那么可在框988处分析2D帧以判定场景是否呈现为跨越帧的边缘被分割。如果是这样，那么可在框989处针对所检测的格式来选择ERP，并且可在框992处指示所检测的格式。其他方面，可在框991处考虑格式，并且可在框992处指示无结论性格式。
具有上下文标注器示例的360视频捕获装置
现在转向图10A，图形设备1000的实施例可包括：360视频捕获装置1021，用于捕获360视频内容；以及上下文标注器1022，通信地耦合至360视频捕获装置1021以使用与所捕获的360视频内容同时期的上下文信息来标注360视频内容。例如，上下文信息可包括运动信息、位置信息、速度信息、加速度信息、取向信息和方向信息中的一项或多项。在设备1000的一些实施例中，上下文标注器1022可被配置成用上下文信息的元数据来标注360视频内容，并且360视频捕获装置1021可被配置成使用元数据对所捕获的360视频内容进行编码。
以上360视频捕获装置1021、上下文标注器1022和设备1000的其他部件中的每一者的实施例可以硬件、软件或其任何组合来实现。例如，硬件实现方式可包括可配置逻辑(如例如，PLA、FPGA、CPLD)，或在使用电路技术(如例如，ASIC、CMOS或TTL技术)的固定功能型逻辑硬件中，或以上两种情况的任何组合。可替代地或另外，可以采用一个或多个模块中将这些部件实现为一组逻辑指令，所述逻辑指令存储在机器可读或计算机可读存储介质(比如，RAM、ROM、PROM、固件、闪存等)中以由处理器或计算装置执行。例如，用于实施这些部件的操作的计算机程序代码可用一或多种操作系统可适用/合适的编程语言(包括比如PYTHON、PERL、JAVA、SMALLTALK、C++、C#等等的面向对象的编程语言)和常规程序编程语言(比如，“C”编程语言或类似的编程语言)的任何组合来撰写。
现在转向图10B，一种处理360视频的方法1030的实施例可包括：在框1031处，捕获360视频内容；以及在框1032处，使用与所捕获的360视频内容同时期的上下文信息来标注360视频内容。例如，在框1033处，上下文信息可包括运动信息、位置信息、速度信息、加速度信息、取向信息和方向信息中的一项或多项。在一些实施例中，方法1030可进一步包括：在框1034处，用上下文信息的元数据来标注360视频内容；以及在框1035处，使用元数据对所捕获的360视频内容进行编码。
方法1030的实施例可以采用系统、设备、GPU或并行处理单元(PPU)(如例如，本文描述的以上各者)来实现。更特定地，方法1030的硬件实现方式可包括可配置逻辑(如例如，PLA、FPGA、CPLD)，或在使用电路技术(如例如，ASIC、CMOS或TTL技术)的固定功能型逻辑硬件中，或以上两种情况的任何组合。可替代地或另外，可以采用一个或多个模块中将方法1030实现为一组逻辑指令，所述逻辑指令存储在机器可读或计算机可读存储介质(比如，RAM、ROM、PROM、固件、闪存等)中以由处理器或计算装置执行。例如，用于实施这些部件的操作的计算机程序代码可用一或多种操作系统可适用/合适的编程语言(包括比如PYTHON、PERL、JAVA、SMALLTALK、C++、C#等等的面向对象的编程语言)和常规程序编程语言(比如，“C”编程语言或类似的编程语言)的任何组合来撰写。例如，可如下文结合示例73到76所描述在计算机可读介质上实现方法1030。
例如，可以采用应用或驱动器软件来实现方法1030的多个实施例或部分(例如，通过API)。可以采用待执行于GPU上的专门的代码(例如，着色器)来实现方法1030的其他实施例或部分。可以采用固定功能逻辑或专门的硬件(例如，在GPU中)来实现方法1030的其他实施例或部分。
一些实施例可有利地在360视频中添加位置和方向信息以提高体验。可在捕获的时候添加其他传感器信息，并且360视频可嵌入这些传感器信息。在一些实施例中，在捕获360视频的同时添加所述信息，并且所述信息与视频数据一起被编码。例如，一些实施例可用相机位置、相机速度、全球定位卫星(GPS)信息和方向中的一者或多者来标注视频帧。在一些实施例中，可用所述信息来标注每个帧。在一些实施例中，可每N个帧添加所标注的信息，其中，N>1。在一些实施例中，可异步(例如，每当信息变化时)添加所标注的信息。可稍后使用这些标记以提高用户体验。
现在转向图10C，360视频捕获设备1040可包括：处理器1041；持久性存储介质1042，通信地耦合至处理器1041；视频捕获引擎1043，通信地耦合至处理器1040；以及感测引擎1044，通信地耦合至视频捕获引擎1043。例如，视频捕获引擎1043可从多个相机捕获到视频信息以捕获360视频并将360视频帧记录到持久性存储介质1042。在视频捕获期间，感测引擎1044可将附加信息(比如，位置、方向、速度、加速度、取向等)提供给视频捕获引擎1043，并且捕获引擎1043可将所述信息作为元数据添加到所记录的360视频帧。稍后在观看期间，可提取所述信息以提高观看体验(例如，四维(4D)体验)。
例如，如果在车里捕获360视频，那么汽车可在捕获期间加速。设备1040可捕获加速度信息，并将它与360视频一起保存。当穿戴HMD并回放视频时，例如在回放期间可基于被添加到视频的加速度信息来添加触觉反馈。例如，游戏椅子可具有触觉反馈装置以提高用户体验。例如，椅子可基于与360视频同时期捕获的加速度信息向后移动，由此提高用户对加速度的感知。所连接的音频系统可基于同时期添加的元数据来添加音响效果、改变声音轨道的强度等。适当配置的游戏椅子可基于突然的垂直加速度将用户弹起。如果添加的元数据指示相机变化的方向，那么椅子也可旋转以匹配相机方向。
现在转向图10D，360视频相机1050可包括壳体1051，其中多个相机1052被安装到壳体1051，包括相机1052a、1052b、1052c、1052d等(未示出其他相机，在一些实施例中可提供更多或更少的相机)。相机1050可以与设备1040类似的方式配置，并且包括感测引擎1053。例如，感测引擎1053可包括从传感器、内容、服务和/或其他来源得到的信息，以提供感测信息。感测信息可包括(例如)图像信息、音频信息、运动信息、深度信息、温度信息、生物计量信息、GPU信息等。当捕获视频数据时，相机1050可编码与各种感测信息连同360视频数据中的一者或多者相对应的元数据。
例如，感测引擎1053可包括传感器中枢，所述传感器中枢通信地耦合至二维(2D)相机、三维(3D)相机、深度相机、陀螺仪、加速度计、惯性测量单元(IMU)、位置服务、麦克风、接近传感器、温度计、生物计量传感器等和/或多种来源的组合。可跨越多个装置分布传感器中枢。来自传感器中枢的信息可包括来自用户的装置的输入数据，或可与来自用户的装置的输入数据相组合。
例如，用户的(多个)装置还可包括陀螺仪、加速度计、IMU、位置服务、温度计、生物计量传感器等。例如，用户可携带智能手机(例如，在用户的口袋里)和/或可穿戴式装置(例如，比如智能手表、活动监视器和/或健身追踪器)。用户的(多个)装置还可包括麦克风，所述麦克风可用于检测用户是否正说话、打电话、对另一位旁边的人说话等。传感器中枢可包括至用户的各个装置(这些装置能够捕获与用户的动作或活动有关的信息)中的一些或全部的接口(例如，包括用户装置的输入/输出(I/O)接口，所述I/O接口可以捕获键盘/鼠标/触摸活动)。传感器中枢可直接从用户的装置中的捕获装置得到信息(例如，有线或无线)，或传感器中枢可能够整合来自装置的服务器或服务的信息(例如，可将信息从健身追踪器上传到云服务，这样传感器中枢可进行下载)。
显示技术
现在转向图11，示出性能增强的计算系统1100。在所展示的示例中，处理器1110耦合至显示器1120。处理器1110一般可生成将显示在显示器1120的LCD面板1150上的图像。在一个示例中，处理器1110包括通信接口，诸如例如，视频图形阵列(VGA)、显示端口(DP)接口、嵌入式显示端口(eDP)接口、高清晰度多媒体接口(HDMI)、数字视觉接口(DVI)等等。处理器1110可以是处理图形数据并生成显示在LCD面板1150上的图像(例如，视频帧、静止图像)的图形处理器(例如，图形处理单元/GPU)。此外，处理器1110可包括生成像素数据的一个或多个图像处理流水线。图像处理流水线可符合OPENGL架构或其他适合的架构。另外，处理器1110可连接到主机处理器(例如，中央处理单元/CPU)，其中主机处理器执行控制处理器1100和/或与处理器1110交互的一个或多个设备驱动器。
所展示的显示器1120包括定时控制器(TCON)1130，该定时控制器1130可对LCD面板1150上的不同像素单独地寻址，并且逐刷新周期地更新LCD面板1150上的每一个单独像素。就此而言，LCD面板1150可包括多个液晶元件，诸如例如，液晶和集成的颜色过滤器。LCD面板1150的每一个像素都可包括分别具有红色、绿色和蓝色过滤器的液晶元件三元组。LCD面板1150能以二维(2D)阵列安排像素，该二维阵列经由行驱动器1152和列驱动器1154控制以更新正由LCD面板1150显示的图像。因此，TCON 1130可驱动行驱动器1152和列驱动器1154以对LCD面板1150的特定像素寻址。TCON 1130也可调整提供给像素中的液晶元件的电压以改变穿过三个液晶元件中的每一个的光强度，并因此改变显示在LCD面板1150的表面上的像素的颜色。
背光1160可包括安排在LCD面板1150的边缘处的多个发光元件，诸如例如，发光二极管(LED)。相应地，由LED生成的光可由散射器(未示出)分散通过LCD面板1150。在另一示例中，以一配置将LED安排在LCD面板1150正后方的2D阵列中，由于每个LED使光分散通过定位在该LED前方的LCD面板1150的一个或多个对应像素，因此，该配置有时称为直接背光。发光元件也可包括沿LCD面板1150的一个或多个边缘安排的紧凑型荧光灯(CFL)。为了消除多个边缘，可更改边缘的组合以实现对区域的选择性照明，其中以较少的功率使用少于整组照明元件。
发光元件也可包括放置在LCD面板1150后面的一个或多个电致发光材料的薄片。在此类情况下，来自薄片的表面的光可分散通过LCD面板1150的像素。此外，可将薄片划分成多个区域，诸如例如，象限。在一个示例中，单独控制每一个区域以仅照亮LCD面板1150的一部分。也可使用其他背光解决方案。
所展示的显示器1120也包括将电压提供给背光1160的发光元件的背光控制器(BLC)1140。例如，BLC 1140可包括脉宽调制(PWM)驱动器(未示出)以生成激活背光1160的发光元件的至少一部分的PWM信号。PWM信号的占空比和频率可使由发光元件生成的光变暗。例如，100％占空比可对应于发光元件完全开启,而0％占空比可对应于发光元件完全关闭。因此，中间级占空比(例如，25％、50％)通常使发光元件被开启达循环周期的、与占空比的百分比成比例的部分。该循环周期可以足够快，使得发光元件的闪烁对人眼是不可察觉的。此外，对用户的影响可能在于，由背光1160发出的光的级别比背光1160完全激活时要低。BLC 1140可与TCON 1130分离，或者可合并进TCON 1130中。
可替代地，可使用发射性显示系统，其中LCD面板1150将被发射性显示面板(例如，有机发光二极管/OLED)取代，背光1160将被省略，并且行驱动器1152和列驱动器1154可分别用于直接对像素颜色和亮度调制。
基于距离的显示分辨率
图12A示出其中用户1218与包含显示单元1228的数据处理装置1200交互的场景。显示处理装置1200可包括例如，笔记本计算计、台式计算机、平板计算机、可转换平板、移动网际装置(MID)、个人数字助理(PDA)、可穿戴装置(例如，头戴式显示器/HMD)、媒体播放器等，或上述各项的任何组合。所展示的数据处理装置1200包括耦合至存储器1222的处理器1224(例如，嵌入式控制器、微控制器、主机处理器、图形处理器)，存储器1222可包括通过处理器1224可寻址的存储位置。如将更详细地所讨论，距离传感器1210可启用相对于显示单元1228的、基于距离的显示分辨率。
所展示的存储器1222包括将在显示单元1228上渲染的显示数据1226。在一个示例中，处理器1224在将显示数据1226呈现在显示单元1228上之前，执行对显示数据1226的数据转换。后处理引擎1214可在处理器1224上执行以接收显示数据1226和距离传感器1210的输出。后处理引擎1214可修改显示数据1226以增强显示单元1228上的屏幕内容的可读性，降低数据处理装置1200中的功耗，等等，或可进行上述操作的任何组合。
所展示的存储器1222除了操作系统1212和应用1220之外还存储显示分辨率设置1216。显示分辨率设置1216可指定将沿长度维度和宽度维度在显示单元1228上呈现的显示数据1226的像素数量。如果如由应用1220生成的显示数据1226与显示单元1228的格式不兼容，则处理器1224可配置显示数据1226的缩放比例以匹配显示单元1228的格式。就此而言，显示分辨率设置1216可与定义显示单元1228的其他设置的配置数据相关联和/或可合并入该配置数据。此外，可在单位距离或面积(例如，每英寸像素/PPI)或其他合适的参数方面对显示分辨率设置1216进行定义。
应用1220可生成用户界面，其中用户1218可与用户界面交互以从通过该用户界面提供的一个或多个选项中选择显示分辨率设置1216，将显示分辨率设置1216作为所请求的值键入，等等。因此，可在渲染在显示单元1228上之前调整显示数据1226的大小以适配显示分辨率设置1216。
距离传感器1210可跟踪用户1218与显示单元1228之间的距离，其中距离感测可通过与数据处理装置1200/显示单元1228相关联的物理按钮、通过由应用1220和/或操作系统1220的加载所提供的用户界面等等而触发。例如，在数据处理装置1200的引导期间，操作系统1212可执行自动进程以触发背景或前景中的距离感测。距离感测可定期地或持续性地进行。
图12B示出距离感测场景的一个示例。在所展示的示例中，距离传感器1210使用收发机1208以在用户1218的方向上发射电磁波束1202。因此，收发机1202可定位在数据处理装置1200(图12A)的前向表面上。电磁波束1202可影响用户1218，并且可作为返回电磁波束1204从用户1218反射/散射。返回电磁波束1204可由例如处理器1224(图12A)和/或后处理引擎1214(图12A)分析以确定用户1218与显示单元1228(图12A)之间的距离1206。距离1206可用于调整显示分辨率设置1216。
显示层
现在转向图13，示出显示系统1300，其中级联的显示层1361、1362和1363用于实现显示组件1360中的空间/时间超分辨率。在所展示的示例中，处理器1310经由总线1320向系统1300提供原始图形数据1334(例如，视频帧、静止图像)。级联的显示程序1331可存储在存储器1330中，其中级联的显示程序1331可以是与显示组件1360相关联的显示驱动器的一部分。所展示的存储器1330也包括原始图形数据1334和已分解的图形数据1335。在一个示例中，级联的显示程序1331包括时间分解分量1332和空间分解分量1333。时间分解分量1332可执行时间分解计算，而空间分解分量可执行空间分解计算。级联的显示程序331可基于用户配置和原始图形数据1334而导出经分解的图形数据1335用于在每一个显示层1361、1362和1363上呈现。
显示组件1360可实现为用在例如头戴式显示器(HMD)应用中的LCD(液晶显示器)。更具体地，显示组件1360可包括LCD面板、接口板、透镜附件等的堆栈。每一个面板都能以例如1280*1280的原生分辨率并以60Hz刷新率操作。可使用其他原生分辨率、刷新率、显示面板技术和/或层配置。
多个显示单元
图14示出了图形显示系统1400，该图形显示系统1400包括一组显示单元1430(1430a-1430n)，这组显示单元1430一般可用于输出宽屏(例如，全景)演示1440，该宽屏演示1440包括有聚合力的且结构化的拓扑形式的协调内容。在所展示的示例中，数据处理装置1418包括处理器1415，该处理器1415将逻辑功能1424应用于通过网络1420从一组显示单元1430接收的硬件配置文件数据1402。当未发现硬件配置文件数据与硬件配置文件查找表1412中的一组设置的匹配时，将逻辑功能1424应用于硬件配置文件数据1402可创建一组自动拓扑设置1406。所展示的一组自动拓扑设置1406从显示处理装置1418通过网络1420被传输到显示单元1430。
处理器1415可在从显示驱动器1410接收到逻辑功能1424之后执行并运行逻辑功能1424。就此而言，显示驱动器1410可包括自动拓扑模块1408，该自动拓扑模块1408自动地配置并构建显示单元1432的拓扑以创建演示1440。在一个示例中，显示驱动器1410是一组指令，这组指令当由处理器1415执行时使数据处理装置1418与显示单元1430、视频卡等通信，并执行自动拓扑生成操作。
数据处理装置1418可包括例如，服务器、台式机、笔记本计算机、平板计算机、可转换平板、MID、PDA、可穿戴装置、媒体播放器等等。因此，显示处理装置1418可包括硬件控制模块1416、存储装置1414、随机读取存储器(RAM，未示出)、包括一个或多个视频控制器卡的控制器卡，等等。在一个示例中，显示单元1430是彼此协同以产生演示1440的平板显示器(例如，液晶、有源矩阵、等离子体等)、HMD、视频投影装置，等等。此外，演示1440可基于存储在存储装置1414中的媒体文件而生成，其中媒体文件可包括例如，电影、视频剪辑、动画、广告等、或上述各项的任何组合。
可将术语“拓扑”认为是第一显示单元1430a、第二显示单元1430b、第三显示单元1430n等的数量、缩放、形状和/或其他配置参数。相应地，显示单元1430的拓扑可使得演示1440能够被一致地视觉地呈现，使得演示1440的各个段是与正通过显示单元1430播放的媒体的原始尺度和范围成比例且兼容的。因此，拓扑可构成不受在演示1440中渲染的内容的形状或大小的持续变化影响的空间关系和/或几何属性。在一个示例中，自动拓扑模块1408包括定时模块1426、控制模块1428、信号监视器模块1432和信号显示模块1434。定时模块1426可将一组显示单元1430中的特定显示单元指定为样本显示单元。在此类情况下，定时模块1426可将剩下的显示模块1430指定为附加的显示单元。在一个示例中，定时模块1426自动地将形状因数设置成与硬件配置文件数据1402兼容，其中演示1440是由图形信号的序列1422自动发起的。
在一个示例中，控制模块1428修改一组自动拓扑设置1406。此外，信号监视器模块1432可自动地监视图形信号的序列1422，并且触发存储装置1414将一组自动拓扑设置1406与硬件配置文件查找表1412相关联。此外，信号监视器模块1432可根据一组变化标准自动地检测一组显示单元1430中的改变，并且自动地生成对应于一组显示单元1430中的改变的新拓扑配置文件。由此，可将新拓扑配置文件应用于一组显示单元1430。如果图形信号的序列1422不能满足一组准则，则信号监视器模块1432也可触发信号显示模块1434重应用一组自动拓扑设置1406。如果硬件配置文件数据1402不支持图形信号的序列1422的自动拓扑显示，则数据处理装置1418可报告错误，并在错误日志1413中记录该错误。
云辅助的媒体递送
现在转向图15，云游戏系统1500包括通过网络1510耦合至服务器1520的客户端1540。客户端1540一般可以是在服务器1520上被容纳、处理和渲染的图形(例如，游戏、虚拟现实/VR、增强现实/AR)内容的消费方。所展示的可缩放的服务器1520具有同时(例如，通过利用并行的和分摊的处理和渲染资源)向多个客户端提供图形内容的容量。在一个示例中，服务器1520的可缩放性由网络1510的容量限制。相应地，可以存在某个客户端的阈值数量，超过该阈值数量，则对所有客户端的服务都降级。
在一个示例中，服务器1520包括图形处理器(例如，GPU)1530、主机处理器(例如，CPU)1524和网络接口卡(NIC)1552。NIC 1522可从客户端1540接收对于图形内容的请求。来自客户端1540的请求可导致图形内容经由在主机处理器1524上执行的应用从存储器被获取。主机处理器1524可执行高级操作，诸如例如，在给定场景中确定物体的位置、碰撞和运动。基于这些高级操作，主机处理器1524可生成与场景数据组合并由图形处理器1530执行的渲染命令。渲染命令可使图形处理器1530对于将经由客户端1540呈现的场景定义场景几何、着色、照明、运动、纹理、相机参数等。
更具体地，所展示的图形处理器1530包括图形渲染器1532，该图形渲染器1532根据由主机处理器1524生成的渲染命令来执行渲染过程。图形渲染器1532的输出可以是提供给帧捕获器1534的原始视频帧流。所展示的帧捕获器1534耦合至编码器1536，该编码器1536可压缩/格式化原始视频流以在网络1510上传输。编码器1536可使用各种视频压缩算法，诸如例如，来自国际电信联盟电信标准化部门(ITUT)的H.264标准、来自国际标准化组织/国际电工委员会(ISO/IEC)的MEPG4高级视频编码(AVC)标准，等等。
所展示的客户端1540(其可以是台式计算机、笔记本计算机、平板计算机、可转换计算机、可穿戴装置、MID、PDA、媒体播放器等)包括NIC1542以从服务器1520接收所传输的视频流。NIC 1522可包括物理层和客户端1540中的网络接口的软件层的基础以促进网络1510上的通信。客户端1540也可包括采用与编码器1536相同的格式化/压缩方案的解码器1544。因此，解压缩的视频流可从解码器1544提供给视频渲染器1546。所展示的视频渲染器1546耦合至视觉地呈现图形内容的显示器1548。
如已经记录的，图形内容可包括游戏内容。就此而言，客户端1540可执行实时交互式串流，该实时交互式串流涉及从输入装置1550收集用户输入以及经由网络1510将用户输入递送到服务器1520。云游戏的这种实时交互式部分会提出关于等待时间的挑战。
附加的系统概述示例
图16是根据实施例的处理系统1600的框图。在各种实施例中，系统1600包括一个或多个处理器1602和一个或多个图形处理器1608，并且可以是单处理器台式计算机系统、多处理器工作站系统或具有大量处理器1602或处理器核1607的服务器系统。在一个实施例中，系统1600是包括在系统芯片(SoC)中的处理平台以供用于移动装置、手持式装置或嵌入式装置中。
系统1600的实施例可以包括以下各者或可以包括在以下各者内：基于服务器的游戏平台、游戏控制台(包括游戏和媒体控制台)、移动游戏控制台、手持式游戏控制台或在线游戏控制台。在一些实施例中，系统1600是移动电话、智能电话、平板计算装置或移动互联网装置。数据处理系统1600还可以包括以下各者、与以下各者耦合或被集成在以下各者中：穿戴式装置，比如智能手表穿戴式装置、智能眼镜装置、增强现实装置或虚拟显示装置。在一些实施例中，数据处理系统1600是电视或机顶盒装置，其具有一个或多个处理器1602和由一个或多个图形处理器1608产生的图形接口。
在一些实施例中，一个或多个处理器1602各自包括用于处理指令的一个或多个处理器核1607，这些指令在被执行时执行系统和用户软件的操作。在一些实施例中，一个或多个处理器核1607中的每一者被配置成处理具体的指令集1609。在一些实施例中，指令集1609可以促进复杂指令集计算(CISC)、精简指令集计算(RISC)、或经由超长指令字(VLIW)的计算。多个处理器核1607可以各自处理不同的指令集1609，所述指令集可以包括用于促进对其他指令集进行仿真的指令。处理器核1607还可包括其他处理装置，比如数字信号处理器(DSP)。
在一些实施例中，处理器1602包括高速缓存存储器1604。取决于架构，处理器1602可以具有单个内部高速缓存或多级内部高速缓存。在一些实施例中，在处理器1602的各种部件当中共享高速缓存存储器。在一些实施例中，处理器1602还使用外部高速缓存(例如，3级(L3)高速缓存或最后一级高速缓存(LLC)(未示出)，可使用已知的高速缓存一致性技术在处理器核1607之间共享所述外部高速缓存。寄存器堆1606被另外包括在处理器1602中，所述寄存器堆可包括用于存储不同类型的数据的不同类型的寄存器(例如，整数寄存器、浮点寄存器、状态寄存器和指令指针寄存器)。一些寄存器可以是通用寄存器，而其他寄存器可以是特定于处理器1602的设计的。
在一些实施例中，处理器1602耦合至处理器总线1610，以在处理器1602与系统1600中的其他部件之间传输通信信号(比如，地址、数据或控制信号)。在一个实施例中，系统1600使用示例性‘中枢’系统架构，包括存储器控制器中枢1616和输入输出(I/O)控制器中枢1630。存储器控制器中枢1616促进存储器装置与系统1600的其他部件之间的通信，而I/O控制器中枢(ICH)1630经由本地I/O总线来提供至I/O装置的连接。在一个实施例中，存储器控制器中枢1616的逻辑被集成在处理器内。
存储器装置1620可以是动态随机存取存储器(DRAM)装置、静态随机存取存储器(SRAM)装置、闪存装置、相变存储器装置或具有合适的性能以充当进程存储器的某一其他存储器装置。在一个实施例中，存储器装置1620可以作为系统1600的系统存储器来操作，以存储数据1622和供在一个或多个处理器1602执行应用或进程时使用的指令1621。存储器控制器中枢1616也与可选的外部图形处理器1612耦合，所述外部图形处理器可与处理器1602中的图形处理器1608耦合，以执行图形和媒体操作。
在一些实施例中，ICH 1630使得能够经由高速I/O总线将外围装置连接到存储器装置1620和处理器1602。I/O外围装置包括但不限于：音频控制器1646、固件接口1628、无线收发机1626(例如，Wi-Fi、蓝牙)、数据存储装置1624(例如，硬盘驱动器、闪存等)和用于将传统(例如，个人系统2(PS/2))装置耦合至系统的传统I/O控制器1640。一个或多个通用串行总线(USB)控制器1642连接输入装置(比如，键盘和鼠标1644组合)。网络控制器1634还可以耦合至ICH 1630。在一些实施例中，高性能网络控制器(未示出)耦合至处理器总线1610。将认识到的是，所示出的系统1600是示例性的而非限制性的，因为还可以使用以不同方式配置的其他类型的数据处理系统。例如，I/O控制器中枢1630可以集成在所述一个或多个处理器1602内，或者存储器控制器中枢1616和I/O控制器中枢1630可以集成在分立式外部图形处理器(比如外部图形处理器1612)内。
图17是处理器1700的实施例的框图，所述处理器具有一个或多个处理器核1702A至1702N、集成式存储器控制器1714和集成式图形处理器1708。图17中具有与本文任何其他图的元件相同的参考数字(或名称)的那些元件可以以与本文别处描述的方式类似的任何方式来操作或起作用，但并不限于此。处理器1700可包括多达且包括由虚线框表示的附加核1702N的附加核。处理器核1702A至1702N中的每一者包括一个或多个内部高速缓存单元1704A至1704N。在一些实施例中，每个处理器核还能够访问一个或多个共享高速缓存单元1706。
内部高速缓存单元1704A至1704N和共享高速缓存单元1706表示处理器1700内的高速缓存存储器层级结构。高速缓存存储器层级结构可包括每个处理器核内的至少一级指令和数据高速缓存以及共享中间级高速缓存的一个或多个级(比如，2级(L2)、3级(L3)、4级(L4)或其他级高速缓存)，其中，在外部存储器前面的最高级高速缓存被归类为LLC。在一些实施例中，高速缓存一致性逻辑保持各种高速缓存单元1706和1704A至1704N之间的一致性。
在一些实施例中，处理器1700还可包括一组一个或多个总线控制器单元1716以及系统代理核1710。所述一个或多个总线控制器单元1716管理一组外围总线，比如一个或多个外围部件互连总线(例如，PCI、PCI快速总线)。系统代理核1710提供对各处理器部件的管理功能。在一些实施例中，系统代理核1710包括一个或多个集成式存储器控制器1714，所述集成式存储器控制器用于管理对各种外部存储器装置(未示出)的访问。
在一些实施例中，处理器核1702A至1702N中的一者或多者包括对同时多线程处理的支持。在这样的实施例中，系统代理核1710包括用于在多线程处理期间协调和操作核1702A至1702N的部件。系统代理核1710可另外包括功率控制单元(PCU)，所述PCU包括用于调节处理器核1702A至1702N和图形处理器1708的功率状态的逻辑和部件。
在一些实施例中，处理器1700另外包括用于执行图形处理操作的图形处理器1708。在一些实施例中，图形处理器1708与一组共享高速缓存单元1706和系统代理核1710包括一个或多个集成式存储器控制器1714耦合。在一些实施例中，显示控制器1711与图形处理器1708耦合以便将图形处理器输出驱动到一个或多个耦合的显示器。在一些实施例中，显示控制器1711可以是经由至少一个互连与图形处理器耦合的单独模块，或者可以集成在图形处理器1708或系统代理核1710内。
在一些实施例中，使用基于环形的互连单元1712来耦合处理器1700的内部部件。然而，可以使用替代性互连单元，比如点到点互连、切换式互连、或其他技术，包括本领域众所周知的技术。在一些实施例中，图形处理器1708经由I/O链路1713与环形互连1712耦合。
示例性I/O链路1713表示多种I/O互连中的至少一者，包括促进各种处理器部件与高性能嵌入式存储器模块1718(比如eDRAM模块)之间的通信的封装(on package)I/O互连。在一些实施例中，处理器核1702至1702N中的每一者和图形处理器1708将嵌入式存储器模块1718用作共享的最后一级高速缓存。
在一些实施例中，处理器核1702A至1702N是执行相同的指令集架构的同质核。在另一个实施例中，处理器核1702A至1702N就指令集架构(ISA)而言是异质的，其中，处理器核1702A至1702N中的一者或多者执行第一指令集，而其他核中的至少一者执行第一指令集的子集或不同的指令值。在一个实施例中，处理器核1702A至1702N就微架构而言是异质的，其中，具有相对更高功率消耗的一个或多个核与具有更低功率消耗的一个或多个功率核耦合。另外，处理器1700可以实现在一个或多个芯片上或者被实现为具有除其他部件之外的所展示的部件的SoC集成电路。
图18是图形处理器1800的框图，所述图形处理器可以是分立的图形处理单元，或可以是与多个处理核集成的图形处理器。在一些实施例中，图形处理器经由到图形处理器上的寄存器的映射I/O接口并且利用被放置在处理器存储器中的命令与存储器进行通信。在一些实施例中，图形处理器1800包括用于访问存储器的存储器接口1814。存储器接口1814可以是到本地存储器、一个或多个内部高速缓存、一个或多个共享外部高速缓存、和/或到系统存储器的接口。
在一些实施例中，图形处理器1800还包括用于将显示输出数据驱动到显示装置1820的显示控制器1802。显示控制器1802包括用于显示器的一个或多个重叠平面的硬件以及多层视频或用户接口元件的组成。在一些实施例中，图形处理器1800包括用于编码、解码、或者向、从或在一个或多个媒体编码格式之间进行媒体代码转换的视频编解码器引擎1806，包括但不限于：运动图像专家组(MPEG)格式(比如MPEG-2)、高级视频译码(AVC)格式(比如H.264/MPEG-4AVC)、以及电影&电视工程师协会(SMPTE)421M/VC-1、和联合图像专家组(JPEG)格式(比如JPEG、以及运动JPEG(MJPEG)格式)。
在一些实施例中，图形处理器1800包括用于执行二维(2D)光栅化器操作的块图像传输(BLIT)引擎1804，所述2D光栅化器操作包括(例如)位边界块传输。然而，在一个实施例中，使用图形处理引擎(GPE)1810的一个或多个部件执行2D图形操作。在一些实施例中，图形处理引擎1810是用于执行图形操作的计算引擎，所述图形操作包括三维(3D)图形操作和媒体操作。
在一些实施例中，GPE 1810包括用于执行3D操作的3D流水线1812，所述3D操作为比如使用作用于3D图元形状(例如，矩形、三角形等)的处理功能来渲染三维图像和场景。3D流水线1812包括在元件和/或生成的执行线程内向3D/媒体子系统1815执行各种任务的可编程和固定功能元件。虽然3D流水线1812可以用于执行媒体操作，但是GPE 1810的实施例还包括媒体流水线1816，所述媒体流水线具体地用于执行媒体操作，比如视频后处理和图像增强。
在一些实施例中，媒体流水线1816包括用于代替或代表视频编解码器引擎1806执行一个或多个专门的媒体操作的固定功能或可编程逻辑单元，所述专门的媒体操作为比如视频解码加速、视频解交织和视频编码加速。在一些实施例中，媒体流水线1816另外包括线程生成单元以便生成用于在3D/媒体子系统1815上执行的线程。所生成的线程对3D/媒体子系统1815中所包括的一个或多个图形执行单元执行对媒体操作的计算。
在一些实施例中，3D/媒体子系统1815包括用于执行由3D流水线1812和媒体流水线1816生成的线程的逻辑。在一个实施例中，流水线向3D/媒体子系统1815发送线程执行请求，所述3D/媒体子系统包括用于仲裁并将各请求分派到可用的线程执行资源的线程分派逻辑。执行资源包括用于处理3D和媒体线程的图形执行单元的阵列。在一些实施例中，3D/媒体子系统1815包括用于线程指令和数据的一个或多个内部高速缓存。在一些实施例中，所述子系统还包括共享存储器(包括寄存器和可寻址存储器)，以便在线程之间共享数据并存储输出数据。
3D/媒体处理
图19是根据一些实施例的图形处理器的图形处理引擎1910的框图。在一个实施例中，GPE 1910是图18中所示的GPE 1810的一个版本。图19中具有与本文任何其他图的元件相同的参考数字(或名称)的元件可以以与本文别处描述的方式类似的任何方式来操作或起作用，但并不限于此。
在一些实施例中，GPE 1910与命令流转化器1903耦合，所述命令流转化器将命令流提供给GPE的3D流水线1912和媒体流水线1916。在一些实施例中，命令流转化器1903耦合至存储器，所述存储器可以是系统存储器，或可以是内部高速缓存存储器和共享高速缓存存储器中的一者或多者。在一些实施例中，命令流转化器1903从存储器接收命令，并且将命令发送给3D流水线1912和/或媒体流水线1916。所述命令是从存储用于3D流水线1912和媒体流水线1916的环形缓冲器获取的指示。在一个实施例中，所述环形缓冲器可另外包括存储多批多命令的批命令缓冲器。3D流水线1912和媒体流水线1916通过经由各自流水线内的逻辑执行操作或者通过将一个或多个执行线程分派至执行单元阵列1914来处理所述命令。在一些实施例中，执行单元阵列1914是可缩放的，使得所述阵列基于GPE 1910的目标功率和性能级别而包括可变数目的执行单元。
在一些实施例中，采样引擎1930与存储器(例如，高速缓存存储器或系统存储器)以及执行单元阵列1914耦合。在一些实施例中，采样引擎1930为执行单元阵列1914提供存储器访问机制，所述存储器访问机制允许执行阵列1914从存储器读取图形和媒体数据。在一些实施例中，采样引擎1930包括用于执行针对媒体的专门图像采样操作的逻辑。
在一些实施例中，采样引擎1930中的专门的媒体采样逻辑包括去噪/解交织模块1932、运动估计模块1934以及图像缩放和过滤模块1936。在一些实施例中，去噪/解交织模块1932包括用于对经解码的视频数据执行去噪或解交织算法中的一者或多者的逻辑。解交织逻辑将经交织的视频内容的交变长组合为视频的单个帧。去噪逻辑从视频和图像数据减少或去除数据噪声。在一些实施例中，所述去噪和解交织逻辑是运动自适应的并且使用基于在视频数据中检测到的运动量的空间或时间过滤。在一些实施例中，去噪/解交织模块1932包括专门的运动检测逻辑(例如，在运动估计引擎1934内)。
在一些实施例中，运动估计引擎1934通过对视频数据执行视频加速度函数(诸如，运动向量估计和预测)来提供对视频操作的硬件加速度。运动估计引擎确定描述连续视频帧之间的图像数据变换的运动向量。在一些实施例中，图形处理器媒体编解码器使用视频运动估计引擎1934来对宏块级视频执行操作，对于其利用通用处理器来执行可以另外地是太计算密集型的。在一些实施例中，运动估计引擎1934通常可用于图形处理器部件以便辅助视频解码和处理功能，所述视频解码和处理功能对于视频数据内的运动的方向或幅度是敏感或自适应的。
在一些实施例中，图像缩放和过滤模块1936执行图像处理操作，以提高所产生的图像和视频的视觉质量。在一些实施例中，缩放和过滤模块1936在向执行单元阵列1914提供数据之前在采样操作期间处理图像和视频数据。
在一些实施例中，GPE 1910包括数据端口1944，所述数据端口提供用于使图形子系统访问存储器的附加机制。在一些实施例中，数据端口1944针对操作促进存储器访问，所述操作包括渲染目标写入、恒定缓冲器读取、暂时存储器空间读取/写入、和媒体表面访问。在一些实施例中，数据端口1944包括用于高速缓存对存储器的访问的高速缓存存储器空间。高速缓存存储器可以是单个数据高速缓存，或被分离成用于经由数据端口来访问存储器的多个子系统的多个高速缓存(例如，渲染缓冲高速缓存、恒定缓冲器高速缓存等)。在一些实施例中，执行在执行单元阵列1914中的执行单元上的线程通过经由数据分布互连交换消息来与数据端口通信，所述数据分布互连耦合GPE 1910的每个子系统。
执行单元
图20是图形处理器2000的另一个实施例的框图。图20中具有与本文任何其他图的元件相同的参考数字(或名称)的元件可以以与本文别处描述的方式类似的任何方式来操作或起作用，但并不限于此。
在一些实施例中，图形处理器2000包括环形互连2002、流水线前端2004、媒体引擎2037和图形核2080A至2080N。在一些实施例中，环形互连2002将图形处理器耦合至其他处理单元，包括其他图形处理器或者一个或多个通用处理器核。在一些实施例中，图形处理器是集成在多核处理系统内的多个处理器之一。
在一些实施例中，图形处理器2000经由环形互连2002接收多批命令。由流水线前端2004中的命令流转化器2003翻译传入的命令。在一些实施例中，图形处理器2000包括用于经由图形核2080A至2080N来执行3D几何处理和媒体处理的可缩放执行逻辑。针对3D几何处理命令，命令流转化器2003将命令供应给几何流水线2036。针对至少一些媒体处理命令，命令流转化器2003将命令供应给视频前端2034，所述视频前端与媒体引擎2037耦合。在一些实施例中，媒体引擎2037包括用于视频和图像后处理的视频质量引擎(VQE)2030以及用于提供硬件加速的媒体数据编码和解码的多格式编码/解码(MFX)2033引擎。在一些实施例中，几何流水线2036和媒体引擎2037各自生成执行线程，所述执行线程用于由至少一个图形核2080A提供的线程执行资源。
在一些实施例中，图形处理器2000包括以模块化核2080A至2080N(有时称为核切片)为特征的可缩放线程执行资源，每个模块化核具有多个子核2050A至2050N、2060A至2060N(有时称为核子切片)。在一些实施例中，图形处理器2000可以具有任意数量的图形核2080A至2080N。在一些实施例中，图形处理器2000包括图形核2080A，所述图形核至少具有第一子核2050A和第二子核2060A。在其他实施例中，图形处理器是具有单个子核(例如，2050A)的低功率处理器。在一些实施例中，图形处理器2000包括多个图形核2080A至2080N，每个图形核包括一组第一子核2050A至2050N和一组第二子核2060A至2060N。所述一组第一子核2050A至2050N中的每个子核至少包括第一组执行单元2052A至2052N和媒体/纹理采样器2054A至2054N。所述一组第二子核2060A至2060N中的每个子核至少包括第二组执行单元2062A至2062N和采样器2064A至2064N。在一些实施例中，每个子核2050A至2050N、2060A-2060N共享一组共享资源2070A至2070N。在一些实施例中，这些共享资源包括共享高速缓存存储器和像素操作逻辑。其他共享资源也可包括在图形处理器的各种实施例中。
图21展示了可线程执行逻辑2100，包括在GPE的一些实施例中所采用的处理元件的阵列。图21中具有与本文任何其他图的元件相同的参考数字(或名称)的那些元件可以以与本文别处描述的方式类似的任何方式来操作或起作用，但并不限于此。
在一些实施例中，线程执行逻辑2100包括像素着色器2102、线程分派器2104、指令高速缓存2106、可缩放执行单元阵列，包括多个执行单元2108A至2108N、采样器2110、数据高速缓存2112和数据端口2114。在一个实施例中，这些所包括的部件经由互连结构而互连，所述互连结构链接到这些部件中每一者。在一些实施例中，通过指令高速缓存2106、数据端口2114、采样器2110和执行单元阵列2108A至2108N中的一者，线程执行逻辑2100包括至存储器(比如，系统存储器或高速缓存存储器)的一个或多个连接。在一些实施例中，每个执行单元(例如，2108A)是个别向量处理器，能够执行多个同时的线程并且针对每个线程来并行处理多个数据元素。在一些实施例中，执行单元阵列2108A至2108N包括任何数目的个别执行单元。
在一些实施例中，执行单元阵列2108A至2108N主要用于执行“着色器”程序。在一些实施例中，阵列2108A至2108N中的执行单元执行包括对许多标准3D图形着色器指令的原生支持的指令集，使得以最小的转换执行来自图形库(例如，直接3D和OpenGL)的着色器程序。执行单元支持顶点和几何处理(例如，顶点程序、几何程序、顶点着色器)、像素处理(例如，像素着色器、片段着色器)和通用处理(例如，计算和媒体着色器)。
执行单元阵列2108A至2108N中的每个执行单元对数据元素的阵列进行操作。数据元素的数目是“执行大小“或用于指令的通道的数目。执行通道是用于数据元素访问、掩码和指令内的流控制的逻辑执行单元。通道的数目可以与针对特定图形处理器的物理算术逻辑单元(ALU)或浮点单元(FPU)的数目无关。在一些实施例中，执行单元2108A至2108N支持整数和浮点数据类型。
执行单元指令集包括单指令多数据(SIMD)。可以将各种数据元素作为压缩数据类型存储在寄存器中，并且执行单元将基于各种元素的数据大小来处理这些元素。例如，当在256位宽的向量上进行操作时，所述256位的向量存储在寄存器中，并且所述执行单元作为四个单独64位压缩数据元素(四倍字长(QW)大小的数据元素)、八个单独32位压缩数据元素(双倍字长(DW)大小的数据元素)、十六个单独16位压缩数据元素(字长(W)大小的数据元素)、或三十二个单独8位数据元素(字节(B)大小的数据元素)在所述向量上进行操作。然而，不同的向量宽度和寄存器大小是可能的。
一个或多个内部指令高速缓存(例如，2106)被包括在线程执行逻辑2100中，以高速缓存用于执行单元的线程指令。在一些实施例中，一个或多个数据高速缓存(例如，2112)被包括用于高速缓存在线程执行期间的线程数据。在一些实施例中，采样器2110被包括用于为3D操作提供纹理采样并且为媒体操作提供媒体采样。在一些实施例中，采样器2110包括专门的纹理或媒体采样功能，以便在向执行单元提供采样数据之前在采样过程期间处理纹理或媒体数据。
在执行期间，图形流水线和媒体流水线经由线程生成和分派逻辑将线程发起请求发送给线程执行逻辑2100。在一些实施例中，线程执行逻辑2100包括本地线程分派器2104，所述本地线程分派器仲裁来自图形流水线和媒体流水线的线程发起请求并在一个或多个执行单元2108A至2108N上实例化所请求的线程。例如，几何流水线(例如，图20的2036)将顶点处理、曲面细分或几何处理线程分派给线程执行逻辑2100(图21)。在一些实施例中，线程分派器2104还可以处理来自执行着色器程序的运行时间线程生成请求。
一旦一组几何对象已被处理并被光栅化为像素数据，就调用像素着色器2102以进一步计算输出信息并导致将结果写入到输出表面(例如，颜色缓冲器、深度缓冲器、模板印刷缓冲器等)。在一些实施例中，像素着色器2102计算各顶点属性的值，所述各顶点属性跨栅格化对象被内插。在一些实施例中，像素着色器2102然后执行应用编程接口(API)供应的像素着色器程序。为了执行所述像素着色器程序，像素着色器2102经由线程分派器2104将线程分派给执行单元(例如，2108A)。在一些实施例中，像素着色器2102使用采样器2110中的纹理采样逻辑来访问存储器中所存储的纹理图中的纹理数据。对纹理数据和输入几何进行的算术运算计算每个几何片段的像素颜色数据，或放弃一个或多个像素以供进一步处理。
在一些实施例中，数据端口2114提供用于使线程执行逻辑2100将已处理的数据输出到存储器以供在图形处理器输出流水线上处理的存储器访问机制。在一些实施例中，数据端口2114包括或耦合至一个或多个高速缓存存储器(例如，数据高速缓存2112)从而经由数据端口高速缓存数据以供存储器访问。
图22是根据一些实施例的示意图形处理器指令格式2200的框图。在一个或多个实施例中，图形处理器执行单元支持具有多种格式的指令的指令集。实线框展示通常包括在执行单元指令中的分量，而虚线包括可选的或仅包括在指令的子集中的分量。在一些实施例中，所描述和展示的指令格式2200是宏指令，因为它们是供应至执行单元的指令，这与从指令解码产生的微操作相反(一旦所述指令被处理)。
在一些实施例中，图形处理器执行单元原生地支持呈128位格式2210的指令。64位紧凑指令格式2230可用于基于所选的指令、指令选项和操作数的数目的一些指令。原生128位格式2210提供对所有指令选项的访问，而一些选项和操作在64位格式2230中则被限制。以64位格式2230可用的原生指令根据实施例而变化。在一些实施例中，使用索引字段2213中的一组索引值将指令部分地紧凑。执行单元硬件基于这些索引值参考一组压缩表，并且使用压缩表输出来以128位格式2210重建原生指令。
针对每种格式，指令操作码2212定义执行单元要执行的操作。执行单元跨越每个操作数的多个数据元素并行执行每个指令。例如，响应于加法指令，执行单元跨越表示纹理元素或图片元素的每个颜色通道来执行同时加法运算。默认情况下，执行单元跨越操作数的所有数据通道执行每个指令。在一些实施例中，指令控制字段2214使得能控制某些执行选项，比如通道选择(例如，预测)以及数据通道排序(例如，混合)。针对128位指令2210，执行大小字段2216限制将被并行执行的数据通道的数目。在一些实施例中，执行大小字段2216不可用于64位紧凑指令格式2230。
一些执行单元指令具有至多三个操作数，包括两个源操作数src02220、src1 2222和一个目的地2218。在一些实施例中，执行单元支持双目的地指令，其中，这些目的地之一是隐式的。数据操纵指令可以具有第三源操作数(例如，SRC2 2224)，其中，指令操作码2212确定源操作数的数目。指令的最后一个源操作数可以是通过所述指令传递的立即(例如，硬编码)值。
在一些实施例中，128位指令格式2210包括访问/地址模式信息2226，所述访问/地址模式信息指定(例如)使用直接寄存器寻址模式还是间接寄存器寻址模式。当使用直接寄存器寻址模式时，直接由指令2210中的位来提供一个或多个操作数的寄存器地址。
在一些实施例中，128位指令格式2210包括访问/地址模式字段2226，所述访问/地址模式字段指定所述指令的地址模式和/或访问模式。在一个实施例中，访问模式定义所述指令的数据访问对齐。一些实施例支持包括16字节对齐访问模式和1字节对齐访问模式的访问模式，其中，访问模式的字节对齐确定指令操作数的访问对齐。例如，当处于第一模式时，指令2210可针对源操作数和目的地操作数使用字节对齐寻址，并且当处于第二模式时，指令2210可针对所有的源操作数和目的地操作数使用16字节对齐寻址。
在一个实施例中，访问/地址模式字段2226的地址模式部分确定指令将使用直接寻址还是间接寻址。当使用直接寄存器寻址模式时，指令2210中的位直接提供一个或多个操作数的寄存器地址。当使用间接寄存器寻址模式时，可基于地址寄存器值和指令中的地址立即字段来计算一个或多个操作数的寄存器地址。
在一些实施例中，基于操作码2212位字段对指令分组，以简化操作码解码2240。针对8位操作码，位4、5和6允许执行单元确定操作码的类型。所示出的精确操作码分组仅是示例性的。在一些实施例中，移动和逻辑操作码组2242包括数据移动和逻辑指令(例如，移动(mov)、比较(cmp))。在一些实施例中，移动和逻辑组2242共享五个最高有效位(MSB)，其中，移动(mov)指令采用0000xxxxb的形式，而逻辑指令采用0001xxxxb的形式。流控制指令组2244(例如，调用(call)、跳(jmp))包括采用0010xxxxb形式(例如，0x20)的指令。混杂指令组2246包括指令的混合体，这些指令包括采用0011xxxxb形式(例如，0x30)的同步指令(例如，等待、发送)。并行数学指令组2248包括采用0100xxxxb形式(例如，0x40)的按分量逐个作出的(component-wise)算术指令(例如，加(add)、减(mul))。并行数学组2248跨越数据通道并行执行算术运算。向量数学组2250包括采用0101xxxxb形式(例如，0x50)的算术指令(例如，dp4)。向量数学组执行比如对向量操作数的点积计算的算术。
图形流水线
图23是图形处理器2300的另一个实施例的框图。图23中具有与本文任何其他图的元件相同的参考数字(或名称)的元件可以以与本文别处描述的方式类似的任何方式来操作或起作用，但并不限于此。
在一些实施例中，图形处理器2300包括图形流水线2320、媒体流水线2330、显示引擎2340、线程执行逻辑2350和渲染输出流水线2370。在一些实施例中，图形处理器2300是包括一个或多个通用处理核的多核处理系统内的图形处理器。图形处理器受到至一个或多个控制寄存器(未示出)的寄存器写入的控制或者经由环形互连2302经由发布至图形处理器2300的命令被控制。在一些实施例中，环形互连2302将图形处理器2300耦合至其他处理部件，比如其他图形处理器或通用处理器。由命令流转化器2303翻译来自环形互连2302的命令，所述命令流转化器将指令供应给图形流水线2320或媒体流水线2330的个别部件。
在一些实施例中，命令流转化器2303指导顶点获取器2305的操作，所述顶点获取器从存储器读取顶点数据并执行由命令流转化器2303提供的顶点处理命令。在一些实施例中，顶点获取器2305将顶点数据提供给顶点着色器2307，所述顶点着色器向每个顶点执行坐标空间变换和照明操作。在一些实施例中，顶点获取器2305和顶点着色器2307通过经由线程分派器2331将执行线程分派给执行单元2352A、2352B来执行顶点处理指令。
在一些实施例中，执行单元2352A、2352B是具有用于执行图形和媒体操作的指令集的向量处理器的阵列。在一些实施例中，执行单元2352A、2352B具有特定用于每个阵列或在阵列之间共享的附加L1高速缓存2351。所述高速缓存可以被配置为数据高速缓存、指令高速缓存或单个高速缓存，所述单个高速缓存被分割成将数据和指令包含在不同的分区中。
在一些实施例中，图形流水线2320包括用于执行对3D对象的硬件加速曲面细分的曲面细分部件。在一些实施例中，可编程的外壳着色器2311配置曲面细分操作。可编程的域着色器2317提供对曲面细分输出的后端评估。曲面细分器2313在外壳着色器2311的方向上进行操作并且包含专用逻辑，所述专用逻辑用于基于粗糙几何模型来生成详细的几何对象集合，所述粗糙几何模型作为输入被提供至图形流水线2320。在一些实施例中，如果未使用曲面细分，则可以对曲面细分部件2311、2313、2317进行旁路。
在一些实施例中，完整的几何对象可以由几何着色器2319经由被分派给执行单元2352A、2352B的一个或多个线程来处理，或可以直接继续进行至剪辑器2329。在一些实施例中，几何着色器在整个几何对象(而非顶点或者如图形流水线的先前级中的顶点补片)上进行操作。如果曲面细分被禁用，那么几何着色器2319从顶点着色器2307接收输入。在一些实施例中，几何着色器2319可由几何着色器程序编程以便在曲面细分单元被禁用时执行几何曲面细分。
在光栅化之前，剪辑器2329处理顶点数据。剪辑器2329可以是固定功能的剪辑器或者具有剪裁和几何着色器功能的可编程剪辑器。在一些实施例中，渲染输出流水线2370中的光栅化器2373(例如，深度测试部件)分派像素着色器以将几何对象转换为它们的逐像素表示。在一些实施例中，像素着色器逻辑包括在线程执行逻辑2350中。在一些实施例中，应用可以对光栅化器2373进行旁路，并且经由流出单元2323来访问未光栅化的顶点数据。
图形处理器2300具有互连总线、互连结构或某种其他互连机制，其允许在处理器主要部件当中传递数据和消息。在一些实施例中，执行单元2352A、2352B和(多个)关联高速缓存2351、纹理和媒体采样器2354以及纹理/采样器高速缓存2358经由数据端口2356互连，以执行存储器访问并与处理器的渲染输出流水线部件通信。在一些实施例中，采样器2354、高速缓存2351、2358以及执行单元2352A、2352B各自具有单独的存储器访问路径。
在一些实施例中，渲染输出流水线2370包含光栅化器2373，所述光栅化器将基于顶点的对象转换为关联的基于像素的表示。在一些实施例中，光栅化器逻辑包括用于执行固定功能三角形和线光栅化的窗口器/掩码器单元。相关联的渲染高速缓存2378和深度高速缓存2379在一些实施例中也是可用的。像素操作部件2377对数据执行基于像素的操作，不过在一些示例中，与2D操作相关联的像素操作(例如，位块图像传输和混合)由2D引擎2341执行，或在显示时间由使用重叠显示平面的显示控制器2343代替。在一些实施例中，共享的L3高速缓存2375可用于所有的图形部件，从而允许在无需使用主系统存储器的情况下共享数据。
在一些实施例中，图形处理器媒体流水线2330包括媒体引擎2337和视频前端2334。在一些实施例中，视频前端2334从命令流转化器2303接收流水线命令。在一些实施例中，媒体流水线2330包括单独的命令流转化器。在一些实施例中，视频前端2334在将所述命令发送给媒体引擎2337之前处理媒体命令。在一些实施例中，媒体引擎2337包括用于生成线程以用于经由线程分派器2331分派给线程执行逻辑2350的线程生成功能。
在一些实施例中，图形处理器2300包括显示引擎2340。在一些实施例中，显示引擎2340在处理器2300外部并且经由环形互连2302、或某个其他互连总线或结构耦合至图形处理器。在一些实施例中，显示引擎2340包括2D引擎2341和显示控制器2343。在一些实施例中，显示引擎2340包含能够独立于3D流水线而操作的专用逻辑。在一些实施例中，显示控制器2343与显示装置(未示出)耦合，所述显示装置可以是系统集成式显示装置(如在膝上型计算机中)，或可以是经由显示装置连接器所附接的外部显示装置。
在一些实施例中，图形流水线2320和媒体流水线2330可配置成基于多个图形和媒体编程接口来执行操作，并且不特定于任何一个应用编程接口(API)。在一些实施例中，图形处理器的驱动器软件将特定于特定图形或媒体库的API调度转换成可由图形处理器处理的命令。在一些实施例中，为来自科纳斯(Khronos)集团的开放图形库(OpenGL)和开放计算语言(OpenCL)、来自微软公司的Direct 3D库提供支持、或者可以向OpenGL和D3D两者提供支持。还可以为开源计算机视觉库(OpenCV)提供支持。如果可以进行从未来API调用的流水线至图形处理器的流水线的映射，那么还将支持具有兼容的3D流水线的未来API。
图形流水线编程
图24A是根据一些实施例的示意图形处理器命令格式2400的框图。图24B是根据实施例的示意图形处理器命令序列2410的框图。图24A中的实线框展示通常包括在图形命令中的分量，而虚线包括可选的或仅包括在图形命令的子集中的分量。图24A的示例性图形处理器命令格式2400包括用于标识命令的目标客户端2402、命令操作代码(操作码)2404和命令的相关数据2406的数据字段。在一些命令中还包括子操作码2405和命令大小2408。
在一些实施例中，客户端2402指定处理命令数据的图形装置的客户端单元。在一些实施例中，图形处理器命令解析器检查每个命令的客户端字段以便调整对命令的进一步处理并将命令数据路由至合适的客户端单元。在一些实施例中，图形处理器客户端单元包括存储器接口单元、渲染单元、2D单元、3D单元、和媒体单元。每个客户端单元具有处理命令的对应的处理流水线。一旦命令被客户端单元接收，客户端单元就读取操作码2404以及(如果存在的话)子操作码2405以确定待执行的操作。客户端单元使用数据字段2406中的信息来执行命令。针对一些命令，期待显式命令大小2408以指定命令的大小。在一些实施例中，命令解析器基于命令操作码自动地确定命令中的至少一些命令的大小。在一些实施例中，经由双倍字长的倍数对命令进行对齐。
图24B中的流程图示出了示例性图形处理器命令序列2410。在一些实施例中，以图形处理器的实施例为特征的数据处理系统的软件或固件使用所示出的命令序列的版本来启动、执行并终止图形操作集合。仅出于示例性目的示出并描述了样本命令序列，因为实施例并不限于这些特定命令或者此命令序列。此外，所述命令可以作为一批命令以命令序列被发布，从而使得图形处理器将以至少部分同时的方式处理命令序列。
在一些实施例中，图形处理器命令序列2410可以流水线转储清除命令2412开始，以使任何活跃的图形流水线完成所述流水线的当前未决命令。在一些实施例中，3D流水线2422和媒体流水线2424不同时进行操作。执行流水线转储清除以使活跃的图形流水线完任何未决命令。响应于流水线转储清除，图形处理器的命令解析器将暂停命令处理，直到活跃的绘图引擎完成未决操作且相关的读取高速缓存无效。可选地，渲染高速缓存中被标记为‘脏(dirty)’的任何数据可以被转储清除到存储器。在一些实施例中，可以针对流水线同步或在将图形处理器放置处于低功率状态之前使用流水线转储清除命令2412。
在一些实施例中，当命令序列要求图形处理器在流水线之间作明确切换时，使用流水线选择命令2413。在一些实施例中，在发布流水线命令之前在执行情境中仅需要一次流水线选择命令2413，除非所述情境要发布针对两条流水线的命令。在一些实施例中，在经由流水线选择命令2413作流水线切换之前立即需要流水线转储清除命令是2412。
在一些实施例中，流水线控制命令2414配置用于操作的图形流水线，并用于对3D流水线2422和媒体流水线2424编程。在一些实施例中，流水线控制命令2414配置活跃流水线的流水线状态。在一个实施例中，流水线控制命令2414被用于流水线同步，以及用于在处理一批命令之前将数据从活跃的流水线内的一个或多个高速缓存存储器中清除。
在一些实施例中，使用返回缓冲器状态命令2416来配置用于使相应的流水线写入数据的一组返回缓冲器。一些流水线操作需要分配、选择或配置一个或多个返回缓冲器，这些操作在处理期间将中间数据写入到所述返回缓冲器中。在一些实施例中，图形处理器还使用一个或多个返回缓冲器以便存储输出数据并且执行跨线程通信。在一些实施例中，返回缓冲器状态2416包括选择返回缓冲器的大小和数量以用于流水线操作集合。
命令序列中的剩余命令基于用于操作的活跃流水线而不同。基于流水线确定2420，根据3D流水线2422和媒体流水线2424来定制命令序列，所述3D流水线以3D流水线状态2430开始，所述媒体流水线始于媒体流水线状态2440处。
用于3D流水线状态2430的命令包括用于以下各者的3D状态设置命令：顶点缓冲器状态、顶点元素状态、恒定颜色状态、深度缓冲器状态和将在处理3D图元命令之前配置的其他状态变量。至少部分地基于使用中的特定3D API来确定这些命令的值。在一些实施例中，3D流水线状态2430命令还能够选择性地禁用或旁路掉特定流水线元件(如果将不使用那些元件的话)。
在一些实施例中，3D图元2432命令用于提交待由3D流水线处理的3D图元。经由3D图元2432传递到图形处理器的命令和关联的参数被转发到图形流水线中的顶点获取函数。顶点获取函数使用3D图元2432命令数据来产生顶点数据结构。顶点数据结构被存储在一个或多个返回缓冲器中。在一些实施例中，3D图元2432命令用于经由顶点着色器对3D图元执行顶点操作。为了处理顶点着色器，3D流水线2422将着色器执行线程分派给图形处理器执行单元。
在一些实施例中，经由执行2434命令或事件来触发3D流水线2422。在一些实施例中，寄存器写入触发命令执行。在一些实施例中，经由命令序列中的‘go’或‘kick’命令来触发执行。在一个实施例中，使用流水线同步命令来触发命令执行，以通过图形流水线来转储清除命令序列。3D流水线将执行针对3D图元的几何处理。一旦操作完成，便对所得几何对象光栅化，并且像素引擎给所得像素上色。针对那些操作还可包括用于控制像素着色和像素后端操作的附加命令。
在一些实施例中，当执行媒体操作时，图形处理器命令序列2410遵循媒体流水线2424路径。一般地，媒体流水线2424的特定用途和编程方式取决于待执行的媒体或计算操作。在媒体解码期间，可将特定的媒体解码操作卸载到媒体流水线。在一些实施例中，还可以对媒体流水线进行旁路，并且可以使用由一个或多个通用处理核提供的资源来整体地或部分地执行媒体解码。在一个实施例中，媒体流水线还包括用于通用图形处理器单元(GPGPU)操作的元件，其中，图形处理器用于使用计算着色器程序来执行SIMD向量操作，所述计算着色器程序与图形图元的渲染不明确相关。
在一些实施例中，以与3D流水线2422类似的方式配置媒体流水线2424。在媒体对象命令2442之前将一组媒体流水线状态命令2440分派到或放置到命令队列中。在一些实施例中，媒体流水线状态命令2440包括用于配置媒体流水线元件的数据，所述媒体流水线元件将用于处理媒体对象。这包括用于配置媒体流水线内的视频解码和视频编码逻辑的数据(比如编码或解码模式)。在一些实施例中，媒体流水线状态命令2440还支持将一个或多个指针用于包含一批状态设置的“间接”状态元件。
在一些实施例中，媒体对象命令2442将指针供应给供由媒体流水线处理的媒体对象。媒体对象包括包含待处理的视频数据的存储器缓冲器。在一些实施例中，在发布媒体对象命令2442之前，所有的媒体流水线状态必须是有效的。一旦流水线状态被配置并且媒体对象命令2442被排队，则经由执行命令2444或等效的执行事件(例如，寄存器写入)来触发媒体流水线2424。然后可以通过由3D流水线2422或媒体流水线2424提供的操作对来自媒体流水线2424的输出进行后处理。在一些实施例中，以与媒体操作类似的方式来配置和执行GPGPU操作。
图形软件架构
图25展示根据一些实施例的数据处理系统2500的示例性图形软件架构。在一些实施例中，软件架构包括3D图形应用2510、操作系统2520、以及至少一个处理器2530。在一些实施例中，处理器2530包括图形处理器2532以及一个或多个通用处理器核2534。图形应用2510和操作系统2520各自在数据处理系统的系统存储器2550中执行。
在一些实施例中，3D图形应用2510包含一个或多个着色器程序，所述着色器程序包括着色器指令2512。着色器语言指令可以呈高阶着色器语言，比如高阶着色器语言(HLSL)或OpenGL着色器语言(GLSL)。所述应用还包括呈适合于由通用处理器核2534执行的机器语言的可执行指令2514。所述应用还包括由顶点数据定义的几何对象2516。
在一些实施例中，操作系统2520是来自微软公司的 操作系统、使用Linux内核的变体的专属类UNIX操作系统或开源类UNIX操作系统。当Direct3DAPI在使用中时，操作系统2520使用前端着色器编译器2524以将呈HLSL的任何着色器指令2512编译为低阶着色器语言。所述编译可以是即时(JIT)编译，或者所述应用可执行着色器预编译。在一些实施例中，在对3D图形应用2510进行编译期间，将高阶着色器编译成低阶着色器。
在一些实施例中，用户模式图形驱动器2526包含后端着色器编译器2527，所述后端着色器编译器用于将着色器指令2512转换为硬件特定表示。当OpenGL API在使用中时，呈GLSL高阶语言的着色器指令2512被传递到用户模式图形驱动器2526以供编译。在一些实施例中，用户模式图形驱动器2526使用操作系统内核模式函数2528来与内核模式图形驱动器2529进行通信。在一些实施例中，内核模式图形驱动器2529与图形处理器2532进行通信以便分派命令和指令。
IP核实现方式
至少一个实施例的一个或多个方面可由存储在机器可读介质上的代表性代码来实现，所述机器可读介质表示和/或定义集成电路(比如，处理器)内的逻辑。例如，机器可读介质可以包括表示处理器内的各个逻辑的指令。当由机器读取时，所述指令可以使所述机器制造用于执行本文描述的技术的逻辑。这类表示(称为“IP核”)是集成电路的逻辑的可重复使用单元，所述可重复使用单元可以作为对集成电路的结构进行描述的硬件模型而存储在有形、机器可读介质上。可以将硬件模型供应至在制造集成电路的制造机器上加载硬件模型的各消费者或制造设施。可以制造集成电路，从而使得所述电路执行与在此描述的实施例中的任一实施例相关联地描述的操作。
图26是根据实施例的展示IP核开发系统2600的框图，所述IP核开发系统可用于制造集成电路以执行操作。IP核开发系统2600可以用于生成可并入到更大的设计中或用于构建整个集成电路(例如，SOC集成电路)的模块化、可重复使用设计。设计设施2630可采用高阶编程语言(例如，C/C++)生成对IP核设计的软件仿真2610。软件仿真2610可用于设计、测试并验证IP核的行为。然后可由仿真模型2600来创建或合成寄存器传输级(RTL)设计。RTL设计2615是对硬件寄存器之间的数字信号的流动进行建模的集成电路(包括使用建模的数字信号执行的相关联逻辑)的行为的抽象。除了RTL设计2615之外，还可以创建、设计或合成逻辑电平或晶体管电平处的较低层次设计。由此，初始设计和仿真的具体细节可以发生变化。
可由设计设施进一步将RTL设计2615或等效物合成为硬件模型2620，所述硬件模型可以呈硬件描述语言(HDL)或物理设计数据的某个其他表示。可以进一步仿真或测试HDL以验证IP核设计。可以使用非易失性存储器2640(例如，硬盘、闪存或任何非易失性存储介质)来存储IP核设计以供递送到第3方制造设施2665。可替代地，可以通过有线连接2650或无线连接2660来传输(例如，经由互联网)IP核设计。制造设施2665然后可以制造至少部分地基于IP核设计的集成电路。所制造的集成电路可被配置用于执行根据本文描述的至少一个实施例的操作。
图27是根据实施例的展示示例性片上系统集成电路2700的框图，可使用一个或多个IP核来制造所述系统芯片集成电路。示例性集成电路包括一个或多个应用处理器2705(例如，CPU)、至少一个图形处理器2710，并且可以另外包括图像处理器2715和/或视频处理器2720，其中的任一中可以是来自相同或多个不同设计设施的模块化IP核。集成电路包括外围或总线逻辑，包括USB控制器2725、UART控制器2730、SPI/SDIO控制器2735、I2S/I2C控制器2740。另外，集成电路可以包括显示装置2745，所述显示装置耦合至高清晰度多媒体接口(HDMI)控制器2750和移动行业处理器接口(MIPI)显示接口2755中的一者或多者。可以由闪存子系统2760(包括闪存和闪存控制器)来提供存储。可经由存储器控制器2765来提供存储器接口以用于访问SDRAM或SRAM存储器装置。一些集成电路另外包括嵌入式安全引擎2770。
另外，其他逻辑和电路可被包括在集成电路2700的处理器中，这些逻辑和电路包括附加的图形处理器/核、外围接口控制器或通用处理器核。
有利地，以上的系统、处理器、图形处理器、装置和/或方法中的任一者可与本文描述的各种实施例中的任一者(例如，或其部分)集成或配置在一起，所述实施例包括例如在以下附加备注和示例中所描述的实施例。
附加备注和示例
示例1可包括一种电子处理系统，包括：显示处理器，用于产生供显示的图像数据；存储器，通信地耦合至所述显示处理器以用于存储与来自360视频空间的投影相对应的二维(2D)帧；分量预测器，通信地耦合至所述显示处理器以用于基于来自所述2D帧的一个或多个相邻块的编码信息来预测所述2D帧的第一块的编码分量，其中，所述2D帧的所述一个或多个相邻块包括仅在所述360视频空间中与所述2D帧的所述第一块相邻的一个或多个块；优先级排序器，通信地耦合至所述显示处理器以用于基于所识别的感兴趣区域来对所述2D帧的分组的发射进行优先级排序；以及格式检测器，通信地耦合至所述显示处理器以用于基于所述2D帧的图像内容来检测所述2D帧的360视频格式。
示例2可以包括如示例1所述的系统，进一步包括：360视频捕获装置，通信地耦合至所述显示处理器以用于捕获360视频内容；以及上下文标注器，通信地耦合至所述360视频捕获装置以用于使用与所捕获的360视频内容同时期的上下文信息来标注所述360视频内容。
示例3可以包括如示例2所述的系统，其中，所述上下文信息包括运动信息、位置信息、速度信息、加速度信息、取向信息和方向信息中的一项或多项。
示例4可以包括如示例1所述的系统，其中，所述编码信息包括运动向量信息和模式信息中的一项或多项。
示例5可以包括如示例1所述的系统，其中，所述优先级排序器进一步用于基于所述所识别的感兴趣区域来对所述2D帧的第二块的编码进行优先级排序。
示例6可以包括如示例1所述的系统，其中，所检测的360视频格式包括鱼眼格式、等距柱状投影格式、立方体映射格式和紧缩立方体映射格式中的一者或多者。
示例7可以包括一种图形设备，包括：编码器，用于对二维(2D)帧的第一块进行编码，其中，所述2D帧与360视频空间的投影相对应；以及分量预测器，通信地耦合至所述编码器以用于判定所述第一块在所述360视频空间中是否为所述2D帧的第二块的邻居，并且用于如果所述第一块被确定为在所述360视频空间中是所述第二块的所述邻居，则基于所述第一块的编码信息来预测所述第二块的编码分量。
示例8可以包括如示例7所述的设备，其中，所述分量预测器进一步用于：如果所述第一块被确定为在所述360视频空间中是所述第二块的所述邻居，则基于所述第一块的已编码的运动向量信息来预测所述第二块的运动向量。
示例9可以包括如示例7所述的设备，其中，分量预测器进一步用于：如果所述第一块被确定为在所述360视频空间中是所述第二块的所述邻居，则基于所述第一块的已编码的模式信息来预测所述第二块的模式。
示例10可以包括如示例7所述的设备，其中，所述编码器进一步用于：基于所预测的编码分量来对2D帧的所述第二块进行编码。
示例11可以包括如示例7所述的设备，进一步包括：优先级排序器，通信地耦合至所述编码器以用于基于所识别的感兴趣区域来对所述2D帧的分组的发射进行优先级排序。
示例12可以包括如示例7所述的设备，进一步包括格式检测器，通信地耦合至编码器以用于基于所述2D帧的图像内容来检测所述2D帧的360视频格式。
示例13可以包括如示例7所述的设备，进一步包括：360视频捕获装置，通信地耦合至所述编码器以用于捕获360视频内容；以及上下文标注器，通信地耦合至所述360视频捕获装置以用于使用与所捕获的360视频内容同时期的上下文信息来标注所述360视频内容。
示例14可包括一种处理360视频的方法，所述方法包括：对二维(2D)帧的第一块进行编码，其中，所述2D帧与360视频空间的投影相对应；判定所述第一块在所述360视频空间中是否为所述2D帧的第二块的邻居；以及如果所述第一块被确定为在所述360视频空间中是所述第二块的所述邻居，则基于所述第一块的编码信息来预测所述第二块的编码分量。
示例15可以包括如示例14所述的方法，进一步包括：如果所述第一块被确定为在所述360视频空间中是所述第二块的所述邻居，则基于所述第一块的已编码的运动向量信息来预测所述第二块的运动向量。
示例16可以包括如示例14所述的方法，进一步包括：如果所述第一块被确定为在所述360视频空间中是所述第二块的所述邻居，则基于所述第一块的已编码的模式信息来预测所述第二块的模式。
示例17可以包括如示例14所述的方法，进一步包括：基于所预测的编码分量来对所述2D帧的所述第二块进行编码。
示例18可包括至少一种计算机可读介质，包括一组指令，所述指令在由计算装置执行时导致所述计算装置：对二维(2D)帧的第一块进行编码，其中，所述2D帧与360视频空间的投影相对应；判定所述第一块在所述360视频空间中是否为所述2D帧的第二块的邻居；以及如果所述第一块被确定为在所述360视频空间中是所述第二块的所述邻居，则基于所述第一块的编码信息来预测所述第二块的编码分量。
示例19可以包括如示例18所述的至少一种计算机可读介质，包括另外的一组指令，所述指令在由计算装置执行时导致所述计算装置：如果所述第一块被确定为在所述360视频空间中是所述第二块的所述邻居的情况下，则基于所述第一块的已编码的运动向量信息来预测所述第二块的运动向量。
示例20可以包括如示例18所述的至少一种计算机可读介质，包括另外的一组指令，所述指令在由计算装置执行时导致所述计算装置：如果所述第一块被确定为在所述360视频空间中是所述第二块的所述邻居的情况下，则基于所述第一块的已编码的模式信息来预测所述第二块的模式。
示例21可以包括如示例18所述的至少一种计算机可读介质，包括另外的一组指令，所述指令在由计算装置执行时导致所述计算装置基于所预测的编码分量来对所述2D帧的所述第二块进行编码。
示例22可包括一种图形设备，包括：用于对二维(2D)帧的第一块进行编码的装置，其中，所述2D帧与360视频空间的投影相对应；用于判定所述第一块在所述360视频空间中是否为所述2D帧的第二块的邻居的装置；以及用于如果所述第一块被确定为在所述360视频空间中是所述第二块的所述邻居则基于所述第一块的编码信息来预测所述第二块的编码分量的装置。
示例23可以包括如示例22所述的设备，进一步包括：用于如果所述第一块被确定为在所述360视频空间中是所述第二块的所述邻居则基于所述第一块的已编码的运动向量信息来预测所述第二块的运动向量的装置。
示例24可以包括如示例22所述的设备，进一步包括：用于如果所述第一块被确定为在所述360视频空间中是所述第二块的所述邻居则基于所述第一块的已编码的模式信息来预测所述第二块的模式的装置。
示例25可以包括如示例22所述的设备，进一步包括：用于基于所预测的编码分量来对所述2D帧的所述第二块进行编码的装置。
示例26可包括一种图形设备，包括：区域识别器，用于识别2D帧中的感兴趣区域，其中，所述2D帧与360视频的投影相对应；以及优先级排序器，通信地耦合至所述区域识别器以用于基于所识别的感兴趣区域来对所述2D帧的分组的发射进行优先级排序。
示例27可以包括如示例26所述的设备，其中，所述优先级排序器进一步用于基于所述所识别的感兴趣区域来对所述2D帧的一个或多个块的编码进行优先级排序。
示例28可以包括如示例27所述的设备，进一步包括：编码器，通信地耦合至所述优先级排序器以用于对所述2D帧的已按优先级排序的一个或多个块进行编码；以及打包器，通信地耦合至所述编码器以用于从所述2D帧的经编码的已按优先级排序的一个或多个块中组装所述已按优先级排序的分组。
示例29可以包括如示例28所述的设备，进一步包括：发射机，通信地耦合至所述打包器以用于发射所述已按优先级排序的分组。
示例30可以包括如示例27所述的设备，进一步包括：格式检测器，通信地耦合至所述编码器以用于基于所述2D帧的图像内容来检测所述2D帧的360视频格式。
示例31可以包括如示例27所述的设备，进一步包括：360视频捕获装置，通信地耦合至所述编码器以用于捕获360视频内容；以及上下文标注器，通信地耦合至所述360视频捕获装置以用于使用与所捕获的360视频内容同时期的上下文信息来标注所述360视频内容。
示例32可包括一种处理360视频的方法，所述方法包括：识别2D帧中的感兴趣区域，其中，所述2D帧与360视频的投影相对应；以及基于所识别的感兴趣区域来对所述2D帧的分组的发射进行优先级排序。
示例33可以包括如示例32所述的方法，进一步包括：基于所识别的感兴趣区域来对所述2D帧的一个或多个块的编码进行优先级排序。
示例34可以包括如示例33所述的方法，进一步包括：对编码2D帧的已按优先级排序的一个或多个块进行编码；以及从所述2D帧的经编码的已按优先级排序的一个或多个块组装所述已按优先级排序的分组。
示例35可以包括如示例34所述的方法，进一步包括：发射所述已按优先级排序的分组。
示例36可包括至少一种计算机可读介质，包括一组指令，所述指令在由计算装置执行时导致所述计算装置：识别2D帧中的感兴趣区域，其中，所述2D帧与360视频的投影相对应；以及基于所识别的感兴趣区域来对所述2D帧的分组的发射进行优先级排序。
示例37可以包括如示例36所述的至少一种计算机可读介质，包括另外的一组指令，所述指令在由计算装置执行时导致所述计算装置基于所识别的感兴趣区域来对所述2D帧的一个或多个块的编码进行优先级排序。
示例38可以包括如示例37所述的至少一种计算机可读介质，包括另外的一组指令，所述指令在由计算装置执行时导致所述计算装置：对所述2D帧的已按优先级排序的一个或多个块进行编码；以及从所述2D帧的经编码的已按优先级排序的一个或多个块中组装所述已按优先级排序的分组。
示例39可以包括如示例38所述的至少一种计算机可读介质，包括另外的一组指令，所述指令在由计算装置执行时导致所述计算装置发射所述已按优先级排序的分组。
示例40可包括一种图形设备，包括：用于识别2D帧中的感兴趣区域的装置，其中，所述2D帧与360视频的投影相对应；以及用于基于所识别的感兴趣区域来对所述2D帧的分组的发射进行优先级排序的装置。
示例41可以包括如示例40所述的设备，进一步包括：用于基于所识别的感兴趣区域来对所述2D帧的一个或多个块的编码进行优先级排序的装置。
示例42可以包括如示例40所述的设备，进一步包括：用于对所述2D帧的已按优先级排序的一个或多个块进行编码的装置；以及用于从所述2D帧的经编码的已按优先级排序的一个或多个块中组装已按优先级排序的分组的装置。
示例43可以包括如示例40所述的设备，进一步包括用于发射已按优先级排序的分组的装置。
示例44可包括一种图形设备，包括：解码器，用于对2D帧进行解码，其中，所述2D帧与360视频的投影相对应；格式检测器，通信地耦合至所述解码器以用于基于所述2D帧的图像内容来检测所述360视频的格式；以及映射器，通信地耦合至所述解码器和所述格式检测器以用于基于所检测的360视频格式来映射已解码的2D帧。
示例45可以包括如示例44所述的设备，其中，所述格式检测器进一步用于：基于所述2D帧的所识别的空白区域来检测鱼眼格式，所述所识别的空白区域是在所述2D帧的所识别的非空白圆形区域的外部。
示例46可以包括如示例44所述的设备，其中，所述格式检测器进一步用于：基于在所述2D帧极点附近的所识别的变形、所述2D帧边缘处的所识别的不连续性和在所述2D帧左边缘与右边缘之间的所识别的对象分割中的一者或多者来检测等距柱状投影格式。
示例47可以包括如示例44所述的设备，其中，所述格式检测器进一步用于：基于所述2D帧的所识别的空白矩形区域和所述2D帧的非空白区域的所识别的T形状中的一者或多者来检测立方体映射格式。
示例48可以包括如示例44所述的设备，其中，所述格式检测器进一步用于：基于所述2D帧中的所识别的边缘的数目、所述2D帧中的边缘当中的所识别的共同性和沿所述2D帧边缘的所识别的不连续性中的一者或多者来检测紧缩立方体映射格式。
示例49可以包括如示例44所述的设备，进一步包括：360视频捕获装置，通信地耦合至所述解码器以捕获360视频内容；以及上下文标注器，通信地耦合至所述360视频捕获装置以使用与所捕获的360视频内容同时期的上下文信息来标注所述360视频内容。
示例50可包括一种处理360视频的方法，所述方法包括：对2D帧进行解码，其中，所述2D帧与360视频的投影相对应；基于所述2D帧的图像内容来检测所述360视频的格式；以及基于所检测的360视频格式来映射已解码的2D帧。
示例51可以包括如示例50所述的方法，进一步包括：基于所述2D帧的所识别的空白区域来检测鱼眼格式，所述所识别的空白区域是在所述2D帧的所识别的非空白圆形区域的外部。
示例52可以包括如示例50所述的方法，进一步包括：基于在所述2D帧极点附近的所识别的变形、所述2D帧边缘处的所识别的不连续性和在所述2D帧左边缘与右边缘之间的所识别的对象分割中的一者或多者来检测等距柱状投影格式。
示例53可以包括如示例50所述的方法，进一步包括：基于所述2D帧的所识别的空白矩形区域和所述2D帧的非空白区域的所识别的T形状中的一者或多者来检测立方体映射格式。
示例54可以包括如示例50所述的方法，进一步包括：基于所述2D帧中的所识别的边缘的数目、所述2D帧中的边缘当中的所识别的共同性和沿所述2D帧边缘的所识别的不连续性中的一者或多者来检测紧缩立方体映射格式。
示例55可包括至少一种计算机可读介质，包括一组指令，所述指令在由计算装置执行时导致所述计算装置：对2D帧进行解码，其中，所述2D帧与360视频的投影相对应；基于所述2D帧的图像内容来检测所述360视频的格式；以及基于所检测的360视频格式来映射已解码的2D帧。
示例56可以包括如示例55所述的至少一种计算机可读介质，包括另外的一组指令，所述指令在由计算装置执行时导致所述计算装置：基于所述2D帧的所识别的空白区域来检测鱼眼格式，所述所识别的空白区域是在所述2D帧的所识别的非空白圆形区域的外部。
示例57可以包括如示例55所述的至少一种计算机可读介质，包括另外的一组指令，所述指令在由计算装置执行时导致所述计算装置：基于在所述2D帧极点附近的所识别的变形、所述2D帧边缘处的所识别的不连续性和在所述2D帧左边缘与右边缘之间的所识别的对象分割中的一者或多者来检测等距柱状投影格式。
示例58可以包括如示例55所述的至少一种计算机可读介质，包括另外的一组指令，所述指令在由计算装置执行时导致所述计算装置：基于所述2D帧的所识别的空白矩形区域和所述2D帧的非空白区域的所识别的T形状中的一者或多者来检测立方体映射格式。
示例59可以包括如示例55所述的至少一种计算机可读介质，包括另外的一组指令，所述指令在由计算装置执行时导致所述计算装置：基于所述2D帧中的所识别的边缘的数目、所述2D帧中的边缘当中的所识别的共同性和沿所述2D帧边缘的所识别的不连续性中的一者或多者来检测紧缩立方体映射格式。
示例60可包括一种图形设备，包括：用于对2D帧进行解码的装置，其中，所述2D帧与360视频的投影相对应；用于基于所述2D帧的图像内容来检测所述360视频的格式的装置；以及用于基于所检测的360视频格式来映射已解码的2D帧的装置。
示例61可以包括如示例60所述的设备，进一步包括：用于基于所述2D帧的所识别的空白区域来检测鱼眼格式的装置，所述所识别的空白区域是在所述2D帧的所识别的非空白圆形区域的外部。
示例62可以包括如示例60所述的设备，进一步包括：用于基于在所述2D帧极点附近的所识别的变形、所述2D帧边缘处的所识别的不连续性和在所述2D帧左边缘与右边缘之间的所识别的对象分割中的一者或多者来检测等距柱状投影格式的装置。
示例63可以包括如示例60所述的设备，进一步包括：用于基于所述2D帧的所识别的空白矩形区域和所述2D帧的非空白区域的所识别的T形状中的一者或多者来检测立方体映射格式的装置。
示例64可以包括如示例60所述的设备，进一步包括：用于基于所述2D帧中的所识别的边缘的数目、所述2D帧中的边缘当中的所识别的共同性和沿所述2D帧边缘的所识别的不连续性中的一者或多者来检测紧缩立方体映射格式的装置。
示例65可包括一种图形设备，其进一步包括：360视频捕获装置，用于捕获360视频内容；以及上下文标注器，通信地耦合至所述360视频捕获装置以使用与所捕获的360视频内容同时期的上下文信息来标注所述360视频内容。
示例66可以包括如示例65所述的设备，其中，所述上下文信息包括运动信息、位置信息、速度信息、加速度信息、取向信息和方向信息中的一项或多项。
示例67可以包括如示例65所述的设备，其中，所述上下文标注器进一步用于使用所述上下文信息的元数据来标注所述360视频内容。
示例68可以包括如示例67所述的设备，其中，所述360视频捕获装置进一步用于使用所述元数据来对所捕获的360视频内容进行编码。
示例69可以包括一种处理360视频的方法，所述方法包括：捕获360视频内容；以及使用与所捕获的360视频内容同时期的上下文信息来标注所述360视频内容。
示例70可以包括如示例69所述的方法，其中，所述上下文信息包括运动信息、位置信息、速度信息、加速度信息、取向信息和方向信息中的一项或多项。
示例71可以包括如示例70所述的方法，进一步包括使用所述上下文信息的元数据来标注所述360视频内容。
示例72可以包括如示例71所述的方法，进一步包括使用所述元数据来对所捕获的360视频内容进行编码。
示例73可包括至少一种计算机可读介质，包括一组指令，所述指令在由计算装置执行时导致所述计算装置：捕获360视频内容；以及使用与所捕获的360视频内容同时期的上下文信息来标注所述360视频内容。
示例74可以包括如示例73所述的至少一种计算机可读介质，其中，所述上下文信息包括运动信息、位置信息、速度信息、加速度信息、取向信息和方向信息中的一项或多项。
示例75可以包括如示例74所述的至少一种计算机可读介质，包括另外的一组指令，所述指令在由计算装置执行时导致所述计算装置使用所述上下文信息的元数据来标注所述360视频内容。
示例76可以包括如示例75所述的至少一种计算机可读介质，包括另外的一组指令，所述指令在由计算装置执行时导致所述计算装置使用所述元数据来对所捕获的360视频内容进行编码。
示例77可包括一种图形设备，包括：用于捕获360视频内容的装置；以及用于使用与所捕获的360视频内容同时期的上下文信息来标注所述360视频内容的装置。
示例78可以包括如示例77所述的设备，其中，所述上下文信息包括运动信息、位置信息、速度信息、加速度信息、取向信息和方向信息中的一项或多项。
示例79可以包括如示例78所述的设备，进一步包括用于使用所述上下文信息的元数据来标注所述360视频内容的装置。
示例80可以包括如示例79所述的设备，进一步包括用于使用所述元数据来对所捕获的360视频内容进行编码的装置。
实施例可适用于与所有类型的半导体集成电路(“IC”)芯片一起使用。这些IC的示例包括但不限于：处理器、控制器、芯片组部件、可编程逻辑阵列(PLA)、存储器芯片、网络芯片、芯片上系统(SoC)、SSD/NAND控制器ASIC等等。另外，在一些附图中，用线表示信号导体线。一些可以是不同的，以指示更多构成的信号路径；具有数字标签，以指示构成的信号路径的数目，和/或在一个端或多个端处具有箭头，以指示主要的信息流方向。然而，不应在限制的意义上解释此。相反，可结合一个或多个示例性实施例来使用这样的附加细节，以便于更容易理解电路。不管是否具有附加的信息，任何所表示的信号线都可实际包括可在多个方向上行进的一个或多个信号，并且可用任何合适类型的信号方案来实现，例如用差分对实现的数字或模拟线、光纤线和/或单端线。
示例尺寸/模型/值/范围可已给出，不过实施例并不限于此。由于制造技术(例如，光刻)随着时间不断成熟，所以期望可以制造出具有更小尺寸的装置。另外，至IC芯片和其他部件的众所周知的功率/接地连接在图中可被示出或可未被示出，这是出于展示和讨论的简单性起见和以便不使实施例的某些方面模糊。此外，可以框图的形式示出一些安排，以便避免使实施例模糊，并且也是考虑到关于这样的框图安排的实现方式的细节高度取决于内部待实现实施例的平这一事实，即这样的细节应很好地在本领域技术人员的权限内。在陈述了特定的细节(例如，电路)以便描述示例性实施例的情况下，本领域技术人员应显而易见的是，可以在没有这些特定细节或具有这些特定细节的变型的情况下实践实施例。因此，本说明书将被视为说明性的而非限制性的。
术语“耦合”在本文汇总可以用来指所讨论的部件之间任何类型的、直接或间接的关系，并可以应用于电气、机械、流体、光学、电磁、电机或其他连接。此外，术语“第一”、“第二”等在本文中可仅用于便于讨论，并且除非另外指示，否则不传递任何具体的时域或时序的显著性。此外，应理解，不定冠词“一”或“一个”承载“一个或多个”或“至少一个”的意思。
如在本申请和权利要求书中所使用，由术语“一个或多个”描述的项目列表可意指所列表项目的任何组合。例如，短语“A、B和C中的至少一个”意味着A、B、C；A和B；A和C；B和C；或A、B和C。
上文中已经参考具体实施例描述了实施例。然而，本领域技术人员将理解，可以对其进行各种修改和改变而不偏离如在所附的权利要求书中所阐述的实施例的更宽泛的精神和范围。因此认为前述说描述和附图是说明性的而不是限制性的。

Claims (25)

1.一种电子处理系统，包括：
显示处理器，用于产生供显示的图像数据；
存储器，通信地耦合至所述显示处理器，用于存储与来自360视频空间的投影相对应的二维(2D)帧；
分量预测器，通信地耦合至所述显示处理器，用于基于来自所述2D帧的一个或多个相邻块的编码信息来预测所述2D帧的第一块的编码分量，其中，所述2D帧的所述一个或多个相邻块包括仅在所述360视频空间中与所述2D帧的所述第一块相邻的一个或多个块；
优先级排序器，通信地耦合至所述显示处理器，用于基于所识别的感兴趣区域对所述2D帧的分组的发射进行优先级排序；以及
格式检测器，通信地耦合至所述显示处理器，用于基于所述2D帧的图像内容来检测所述2D帧的360视频格式。
2.如权利要求1所述的系统，进一步包括：
360视频捕获装置，通信地耦合至所述显示处理器，用于捕获360视频内容；以及
上下文标注器，通信地耦合至所述360视频捕获装置，用于使用与所捕获的360视频内容同时期的上下文信息来标注所述360视频内容。
3.如权利要求2所述的系统，其中，所述上下文信息包括运动信息、位置信息、速度信息、加速度信息、取向信息和方向信息中的一项或多项。
4.如权利要求1所述的系统，其中，所述编码信息包括运动向量信息和模式信息中的一项或多项。
5.如权利要求1所述的系统，其中，所述优先级排序器进一步用于基于所述所识别的感兴趣区域对所述2D帧的第二块的编码进行优先级排序。
6.如权利要求1所述的系统，其中，所检测的360视频格式包括鱼眼格式、等距柱状投影格式、立方体映射格式和紧缩立方体映射格式中的一者或多者。
7.一种图形设备，包括：
编码器，用于对二维(2D)帧的第一块进行编码，其中，所述2D帧与360视频空间的投影相对应；以及
分量预测器，通信地耦合至所述编码器，用于判定所述第一块在所述360视频空间中是否为所述2D帧的第二块的邻居，并且用于如果所述第一块被确定为在所述360视频空间中是所述第二块的所述邻居，则基于所述第一块的编码信息来预测所述第二块的编码分量。
8.如权利要求7所述的设备，其中，所述分量预测器进一步用于：如果所述第一块被确定为在所述360视频空间中是所述第二块的所述邻居，则基于所述第一块的已编码的运动向量信息来预测所述第二块的运动向量。
9.如权利要求7所述的设备，其中，分量预测器进一步用于：如果所述第一块被确定为在所述360视频空间中是所述第二块的所述邻居，则基于所述第一块的已编码的模式信息来预测所述第二块的模式。
10.如权利要求7所述的设备，其中，所述编码器进一步用于：基于所预测的编码分量来对所述2D帧的所述第二块进行编码。
11.如权利要求7所述的设备，进一步包括：
优先级排序器，通信地耦合至所述编码器，用于基于所识别的感兴趣区域对所述2D帧的分组的发射进行优先级排序。
12.如权利要求7所述的设备，进一步包括：
格式检测器，通信地耦合至所述编码器，用于基于所述2D帧的图像内容来检测所述2D帧的360视频格式。
13.如权利要求7所述的设备，进一步包括：
360视频捕获装置，通信地耦合至所述编码器，用于捕获360视频内容；以及
上下文标注器，通信地耦合至所述360视频捕获装置，用于使用与所捕获的360视频内容同时期的上下文信息来标注所述360视频内容。
14.一种处理360视频的方法，所述方法包括：
对二维(2D)帧的第一块进行编码，其中，所述2D帧与360视频空间的投影相对应；
判定所述第一块在所述360视频空间中是否为所述2D帧的第二块的邻居；以及
如果所述第一块被确定为在所述360视频空间中是所述第二块的所述邻居，则基于所述第一块的编码信息来预测所述第二块的编码分量。
15.如权利要求14所述的方法，进一步包括：
如果所述第一块被确定为在所述360视频空间中是所述第二块的所述邻居，则基于所述第一块的已编码的运动向量信息来预测所述第二块的运动向量。
16.如权利要求14所述的方法，进一步包括：
如果所述第一块被确定为在所述360视频空间中是所述第二块的所述邻居，则基于所述第一块的已编码的模式信息来预测所述第二块的模式。
17.如权利要求14所述的方法，进一步包括：
基于所预测的编码分量对所述2D帧的所述第二块进行编码。
18.一种图形设备，包括：
用于对二维(2D)帧的第一块进行编码的装置，其中，所述2D帧与360视频空间的投影相对应；
用于判定所述第一块在所述360视频空间中是否为所述2D帧的第二块的邻居的装置；以及
用于如果所述第一块被确定为在所述360视频空间中是所述第二块的所述邻居则基于所述第一块的编码信息来预测所述第二块的编码分量的装置。
19.如权利要求18所述的设备，进一步包括：
用于如果所述第一块被确定为在所述360视频空间中是所述第二块的所述邻居则基于所述第一块的已编码的运动向量信息来预测所述第二块的运动向量的装置。
20.如权利要求18所述的设备，进一步包括：
用于如果所述第一块被确定为在所述360视频空间中是所述第二块的所述邻居则基于所述第一块的已编码的模式信息来预测所述第二块的模式的装置。
21.如权利要求18所述的设备，进一步包括：
用于基于所预测的编码分量来对所述2D帧的所述第二块进行编码的装置。
22.一种图形设备，包括：
区域识别器，用于识别2D帧中的感兴趣区域，其中，所述2D帧与360视频的投影相对应；以及
优先级排序器，通信地耦合至所述区域识别器，用于基于所识别的感兴趣区域对所述2D帧的分组的发射进行优先级排序。
23.如权利要求22所述的设备，其中，所述优先级排序器进一步用于基于所述所识别的感兴趣区域对所述2D帧的一个或多个块的编码进行优先级排序。
24.如权利要求23所述的设备，进一步包括：
编码器，通信地耦合至所述优先级排序器，用于对所述2D帧的已按优先级排序的一个或多个块进行编码；以及
打包器，通信地耦合至所述编码器，用于从所述2D帧的经编码的已按优先级排序的一个或多个块中组装所述已按优先级排序的分组。
25.如权利要求24所述的设备，进一步包括：
发射机，通信地耦合至所述打包器，用于发射所述已按优先级排序的分组。
CN201810282482.2A 2017-04-01 2018-04-02 用于360视频的运动向量/模式预测、基于感兴趣区域的发射、元数据捕获和格式检测 Pending CN108696764A (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US15/476,989 2017-04-01
US15/476,989 US10506255B2 (en) 2017-04-01 2017-04-01 MV/mode prediction, ROI-based transmit, metadata capture, and format detection for 360 video

Publications (1)

Publication Number Publication Date
CN108696764A true CN108696764A (zh) 2018-10-23

Family

ID=61868362

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810282482.2A Pending CN108696764A (zh) 2017-04-01 2018-04-02 用于360视频的运动向量/模式预测、基于感兴趣区域的发射、元数据捕获和格式检测

Country Status (3)

Country Link
US (2) US10506255B2 (zh)
EP (2) EP3383041A3 (zh)
CN (1) CN108696764A (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110428359A (zh) * 2019-08-09 2019-11-08 南京地平线机器人技术有限公司 用于处理感兴趣区域数据的装置和方法
CN111277857A (zh) * 2018-12-04 2020-06-12 清华大学 一种流媒体调度方法及装置
CN111967526A (zh) * 2020-08-20 2020-11-20 东北大学秦皇岛分校 基于边缘映射和深度学习的遥感图像变化检测方法及系统

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10979721B2 (en) * 2016-11-17 2021-04-13 Dolby Laboratories Licensing Corporation Predicting and verifying regions of interest selections
US10999602B2 (en) 2016-12-23 2021-05-04 Apple Inc. Sphere projected motion estimation/compensation and mode decision
US11259046B2 (en) 2017-02-15 2022-02-22 Apple Inc. Processing of equirectangular object data to compensate for distortion by spherical projections
US10924747B2 (en) 2017-02-27 2021-02-16 Apple Inc. Video coding techniques for multi-view video
US10506196B2 (en) * 2017-04-01 2019-12-10 Intel Corporation 360 neighbor-based quality selector, range adjuster, viewport manager, and motion estimator for graphics
US11093752B2 (en) 2017-06-02 2021-08-17 Apple Inc. Object tracking in multi-view video
US10754242B2 (en) * 2017-06-30 2020-08-25 Apple Inc. Adaptive resolution and projection format in multi-direction video
US11245919B2 (en) * 2018-03-16 2022-02-08 Sony Corporation Image processing device and image processing method
US10841662B2 (en) * 2018-07-27 2020-11-17 Telefonaktiebolaget Lm Ericsson (Publ) System and method for inserting advertisement content in 360° immersive video
CN111263191B (zh) 2018-11-30 2023-06-27 中兴通讯股份有限公司 视频数据的处理方法、装置、相关设备及存储介质
US10972753B1 (en) * 2019-09-13 2021-04-06 Apple Inc. Versatile tile coding for multi-view video streaming
US11833419B2 (en) * 2020-03-16 2023-12-05 Tencent America LLC Method and apparatus for cloud gaming
US11652863B2 (en) * 2020-03-16 2023-05-16 Tencent America LLC Method and apparatus for cloud gaming
CN112055263B (zh) * 2020-09-08 2021-08-13 西安交通大学 基于显著性检测的360°视频流传输系统
US20220224899A1 (en) * 2022-04-01 2022-07-14 Intel Corporation Encoding apparatus, encoding device, encoding method, computer program, and corresponding computer system
CN115589488B (zh) * 2022-09-30 2023-09-08 摩尔线程智能科技(北京)有限责任公司 视频转码系统、方法、gpu以及电子设备和存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050013498A1 (en) * 2003-07-18 2005-01-20 Microsoft Corporation Coding of motion vector information
US20060034374A1 (en) * 2004-08-13 2006-02-16 Gwang-Hoon Park Method and device for motion estimation and compensation for panorama image
US20130230099A1 (en) * 2004-07-30 2013-09-05 Euclid Discoveries, Llc Standards-compliant model-based video encoding and decoding
CN104704833A (zh) * 2012-09-19 2015-06-10 高通股份有限公司 多视图或3维视频译码中的高级视图间残差预测
CN104969262A (zh) * 2013-03-08 2015-10-07 英特尔公司 用于基于感兴趣的区域的图像编码的技术

Family Cites Families (62)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050117017A1 (en) * 2003-12-01 2005-06-02 Baer Richard L. System and method for imaging regions of interest
US7869666B2 (en) 2005-01-13 2011-01-11 Nvidia Corporation Video processing system and method with dynamic tag architecture
US7724211B2 (en) 2006-03-29 2010-05-25 Nvidia Corporation System, method, and computer program product for controlling stereo glasses shutters
US8169467B2 (en) 2006-03-29 2012-05-01 Nvidia Corporation System, method, and computer program product for increasing an LCD display vertical blanking interval
US8724694B2 (en) 2008-10-14 2014-05-13 Nvidia Corporation On-the spot deblocker in a decoding pipeline
US20100128797A1 (en) 2008-11-24 2010-05-27 Nvidia Corporation Encoding Of An Image Frame As Independent Regions
US8442111B2 (en) 2008-11-24 2013-05-14 Nvidia Corporation Optimal power usage in encoding data streams
US20100128798A1 (en) 2008-11-25 2010-05-27 Nvidia Corporation Video processor using optimized macroblock sorting for slicemap representations
US8773430B2 (en) * 2009-12-09 2014-07-08 Thomson Licensing Method for distinguishing a 3D image from a 2D image and for identifying the presence of a 3D image format by feature correspondence determination
EP3258688A2 (en) * 2010-02-09 2017-12-20 Koninklijke Philips N.V. 3d video format detection
CN102213851A (zh) 2010-04-12 2011-10-12 辉达公司 用于显示三维立体图像的液晶显示器、系统及方法
US8670613B2 (en) 2010-08-31 2014-03-11 Nvidia Corporation Lossless frame buffer color compression
US20140132717A1 (en) * 2011-04-19 2014-05-15 Institut Fur Rundfunktechnik Gmbh Method and system for decoding a stereoscopic video signal
CN103108154A (zh) 2011-11-14 2013-05-15 辉达公司 一种汽车导航设备
CN103108197A (zh) 2011-11-14 2013-05-15 辉达公司 一种用于3d视频无线显示的优先级压缩方法和系统
US20140028679A1 (en) 2012-07-30 2014-01-30 Nvidia Corporation Render-assisted compression for remote graphics
CN103587479A (zh) 2012-08-14 2014-02-19 辉达公司 一种用于倒车的裸眼三维视频系统和包括该系统的车辆
US20140057714A1 (en) 2012-08-27 2014-02-27 Nvidia Corporation Modifiable gaming experience based on user position and/or orientation
US9081535B2 (en) 2012-09-03 2015-07-14 Nvidia Corporation Automatic topology configuration through automatic hardware profiles across multiple display units
US20140071245A1 (en) 2012-09-10 2014-03-13 Nvidia Corporation System and method for enhanced stereo imaging
US8938127B2 (en) 2012-09-18 2015-01-20 Nvidia Corporation Hybrid encoding/decoding for remote gaming
US8797340B2 (en) 2012-10-02 2014-08-05 Nvidia Corporation System, method, and computer program product for modifying a pixel value as a function of a display duration estimate
US20140153635A1 (en) 2012-12-05 2014-06-05 Nvidia Corporation Method, computer program product, and system for multi-threaded video encoding
US9071765B2 (en) 2012-12-28 2015-06-30 Nvidia Corporation System, method, and computer program product implementing an image processing pipeline for high-dynamic range images
US9082180B2 (en) 2012-12-28 2015-07-14 Nvidia Corporation System, method, and computer program product for implementing a spatially varying unsharp mask noise reduction filter
US9451187B2 (en) 2012-12-31 2016-09-20 Nvidia Corporation Lens shading calibration for cameras
US11222362B2 (en) * 2013-01-15 2022-01-11 Motionpoint Corporation Dynamic determination of localization source for web site content
US20140267222A1 (en) 2013-03-12 2014-09-18 Nvidia Corporation Efficient autostereo support using display controller windows
KR20140111859A (ko) 2013-03-12 2014-09-22 삼성전자주식회사 콘텐트 공유 방법 및 이를 위한 디바이스
US9971959B2 (en) 2013-03-15 2018-05-15 Nvidia Corporation Performing object detection operations via a graphics processing unit
US20140286390A1 (en) 2013-03-20 2014-09-25 Nvidia Corporation Encoder controller graphics processing unit and method of encoding rendered graphics
US9092658B2 (en) 2013-04-25 2015-07-28 Nvidia Corporation Automatic detection of stereoscopic content in video/image data
US20140327771A1 (en) 2013-05-01 2014-11-06 Nvidia Corporation System, method, and computer program product for displaying a scene as a light field
CN104184961A (zh) 2013-05-22 2014-12-03 辉达公司 用于生成全景视频的移动设备和系统
US9118932B2 (en) 2013-06-14 2015-08-25 Nvidia Corporation Adaptive filtering mechanism to remove encoding artifacts in video data
US10356426B2 (en) * 2013-06-27 2019-07-16 Google Llc Advanced motion estimation
US9232210B2 (en) 2013-07-08 2016-01-05 Nvidia Corporation Mapping sub-portions of three-dimensional (3D) video data to be rendered on a display unit within a comfortable range of perception of a user thereof
US20150022636A1 (en) 2013-07-19 2015-01-22 Nvidia Corporation Method and system for voice capture using face detection in noisy environments
US20150036875A1 (en) 2013-07-31 2015-02-05 Nvidia Corporation Method and system for application execution based on object recognition for mobile devices
US20150103184A1 (en) 2013-10-15 2015-04-16 Nvidia Corporation Method and system for visual tracking of a subject for automatic metering using a mobile device
US9437165B2 (en) 2013-10-31 2016-09-06 Nvidia Corporation Power-efficient control of display data configured to be rendered on a display unit of a data processing device
US9292908B2 (en) 2013-11-21 2016-03-22 Nvidia Corporation System, method, and computer program product for enhancing an image utilizing a hyper-clarity transform
US20150138065A1 (en) 2013-11-21 2015-05-21 Nvidia Corporation Head-mounted integrated interface
US20150208079A1 (en) 2014-01-22 2015-07-23 Nvidia Corporation Adaptive frame type detection for real-time low-latency streaming servers
US20150221064A1 (en) 2014-02-03 2015-08-06 Nvidia Corporation User distance based modification of a resolution of a display unit interfaced with a data processing device and/or a display area size thereon
US9549147B2 (en) 2014-02-13 2017-01-17 Nvidia Corporation System and method for creating a video frame from a single video field
US20150243048A1 (en) 2014-02-26 2015-08-27 Nvidia Corporation System, method, and computer program product for performing one-dimesional searches in two-dimensional images
US10264211B2 (en) 2014-03-14 2019-04-16 Comcast Cable Communications, Llc Adaptive resolution in software applications based on dynamic eye tracking
US9934714B2 (en) 2014-03-18 2018-04-03 Nvidia Corporation Superresolution display using cascaded panels
US9786255B2 (en) 2014-05-30 2017-10-10 Nvidia Corporation Dynamic frame repetition in a variable refresh rate system
US9918082B2 (en) 2014-10-20 2018-03-13 Google Llc Continuous prediction domain
US9767363B2 (en) * 2015-10-30 2017-09-19 Google Inc. System and method for automatic detection of spherical video content
CN108702528B (zh) * 2016-02-17 2021-06-01 Lg电子株式会社 发送360视频的方法、接收360视频的方法、发送360视频的设备和接收360视频的设备
EP3503546A4 (en) * 2016-08-25 2020-01-22 LG Electronics Inc. -1- METHOD FOR SENDING AN OMNIDIRECTIONAL VIDEO, METHOD FOR RECEIVING AN OMNIDIRECTIONAL VIDEO, DEVICE FOR SENDING AN OMNIDIRECTIONAL VIDEO, AND DEVICE FOR RECEIVING AN OMNIDIRECTIONAL VIDEO
US20180109810A1 (en) * 2016-10-17 2018-04-19 Mediatek Inc. Method and Apparatus for Reference Picture Generation and Management in 3D Video Compression
US10652553B2 (en) * 2016-12-07 2020-05-12 Qualcomm Incorporated Systems and methods of signaling of regions of interest
US20180176468A1 (en) * 2016-12-19 2018-06-21 Qualcomm Incorporated Preferred rendering of signalled regions-of-interest or viewports in virtual reality video
US10999602B2 (en) * 2016-12-23 2021-05-04 Apple Inc. Sphere projected motion estimation/compensation and mode decision
US10425643B2 (en) * 2017-02-04 2019-09-24 OrbViu Inc. Method and system for view optimization of a 360 degrees video
US20180242016A1 (en) 2017-02-21 2018-08-23 Intel Corporation Deblock filtering for 360 video
US10839480B2 (en) * 2017-03-22 2020-11-17 Qualcomm Incorporated Sphere equator projection for efficient compression of 360-degree video
US10904531B2 (en) * 2017-03-23 2021-01-26 Qualcomm Incorporated Adaptive parameters for coding of 360-degree video

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050013498A1 (en) * 2003-07-18 2005-01-20 Microsoft Corporation Coding of motion vector information
US20130230099A1 (en) * 2004-07-30 2013-09-05 Euclid Discoveries, Llc Standards-compliant model-based video encoding and decoding
US20060034374A1 (en) * 2004-08-13 2006-02-16 Gwang-Hoon Park Method and device for motion estimation and compensation for panorama image
CN101002479A (zh) * 2004-08-13 2007-07-18 庆熙大学校产学协力团 用于全景图像的运动估计和补偿的方法和设备
CN104704833A (zh) * 2012-09-19 2015-06-10 高通股份有限公司 多视图或3维视频译码中的高级视图间残差预测
CN104969262A (zh) * 2013-03-08 2015-10-07 英特尔公司 用于基于感兴趣的区域的图像编码的技术

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
K. K. SREEDHAR, A. AMINLOU, M. M. HANNUKSELA AND M. GABBOUJ: "Viewport-Adaptive Encoding and Streaming of 360-Degree Video for Virtual Reality Applications", 2016 IEEE INTERNATIONAL SYMPOSIUM ON MULTIMEDIA (ISM), pages 583 - 586 *

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111277857A (zh) * 2018-12-04 2020-06-12 清华大学 一种流媒体调度方法及装置
CN111277857B (zh) * 2018-12-04 2021-04-13 清华大学 一种流媒体调度方法及装置
CN110428359A (zh) * 2019-08-09 2019-11-08 南京地平线机器人技术有限公司 用于处理感兴趣区域数据的装置和方法
CN110428359B (zh) * 2019-08-09 2022-12-06 南京地平线机器人技术有限公司 用于处理感兴趣区域数据的装置和方法
CN111967526A (zh) * 2020-08-20 2020-11-20 东北大学秦皇岛分校 基于边缘映射和深度学习的遥感图像变化检测方法及系统
CN111967526B (zh) * 2020-08-20 2023-09-22 东北大学秦皇岛分校 基于边缘映射和深度学习的遥感图像变化检测方法及系统

Also Published As

Publication number Publication date
EP4113994A3 (en) 2023-04-05
EP3383041A3 (en) 2019-01-02
EP4113994A2 (en) 2023-01-04
EP3383041A2 (en) 2018-10-03
US20200186831A1 (en) 2020-06-11
US10506255B2 (en) 2019-12-10
US11051038B2 (en) 2021-06-29
US20180288435A1 (en) 2018-10-04

Similar Documents

Publication Publication Date Title
CN108696764A (zh) 用于360视频的运动向量/模式预测、基于感兴趣区域的发射、元数据捕获和格式检测
US11750787B2 (en) Adaptive resolution of point cloud and viewpoint prediction for video streaming in computing environments
US11790490B2 (en) Super-resolution apparatus and method for virtual and mixed reality
CN108734628A (zh) 基于功率和基于目标的图形质量调整
CN108696671A (zh) 用于加速场景变化检测并实现自适应内容显示的技术
CN108777798A (zh) 用于图形的基于360邻居的质量选择器、范围调整器、视口管理器和运动估计器
CN108734640A (zh) 利用多种分辨率进行显示器带宽降低
CN108737829A (zh) 使用叠加进行混合现实编码
CN108694695A (zh) 对360度视频内容进行编码的技术
CN108737724A (zh) 用于360视频捕获和显示的系统和方法
CN108694738A (zh) 去耦的多层渲染频率
CN108734629A (zh) 感官增强的增强现实和虚拟现实装置
CN108694033A (zh) 在面板显示器的不同区域中支持多个刷新率
CN108737722A (zh) 基于块的相机更新和异步显示
CN108725200A (zh) 用于汽车应用和其他应用的眩光和被遮挡视图补偿
CN108734644A (zh) 利用时间复用进行的hdr增强
US11568182B2 (en) System and method for 3D blob classification and transmission
CN108734626A (zh) 通过标记对象来编码3d渲染图像
CN108694685A (zh) 改进的图形处理器微架构内的多分辨率图像平面渲染
CN108694376A (zh) 包括静态场景确定、阻塞检测、帧率变换和调整压缩率的视频运动处理
CN109996058A (zh) 具有协同数据格式化、重投影、中央凹化、图块装仓和图像扭曲技术的光场显示
CN108734638A (zh) 自适应子分片的系统、设备和方法
DE102019117218A1 (de) Reduziertes Rendern eines Videos mit sechs Freiheitsgraden
CN108694696A (zh) 基于区域的处理
CN108737830A (zh) 基于所预测性能的智能视频帧分组

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination