CN109993278A - 机器学习环境中的有效卷积 - Google Patents

机器学习环境中的有效卷积 Download PDF

Info

Publication number
CN109993278A
CN109993278A CN201811568996.0A CN201811568996A CN109993278A CN 109993278 A CN109993278 A CN 109993278A CN 201811568996 A CN201811568996 A CN 201811568996A CN 109993278 A CN109993278 A CN 109993278A
Authority
CN
China
Prior art keywords
logic
processor
training
graphics
memory
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201811568996.0A
Other languages
English (en)
Inventor
D·斯里瓦斯塔瓦
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Intel Corp
Original Assignee
Intel Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Intel Corp filed Critical Intel Corp
Publication of CN109993278A publication Critical patent/CN109993278A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/211—Selection of the most significant subset of features
    • G06F18/2113—Selection of the most significant subset of features by ranking or filtering the set of features, e.g. using a measure of variance or of feature cross-correlation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Neurology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Image Generation (AREA)

Abstract

描述了一种用于促进机器学习环境中的智能卷积的机制。如本文所述的实施例的设备包括：一个或多个处理器，包括一个或多个图形处理器；以及检测和选择逻辑，用于检测和选择具有与神经网络将被训练的对象相关联的多个几何形状的输入图像。该设备进一步包括滤波器生成和存储逻辑(“滤波器逻辑”)，用于基于多个几何形状生成提供权重的滤波器，其中滤波器逻辑进一步用于基于多个几何形状中的共同几何形状对滤波器组中的滤波器进行分类，并且其中滤波器逻辑进一步基于共同几何形状将滤波器组存储在箱中，其中每个箱对应于几何形状。

Description

机器学习环境中的有效卷积
技术领域
本文中所描述的实施例总体上涉及计算机。更具体地，描述了用于促进机器学习环境中的有效卷积的实施例。
技术背景
神经网络模型可以实现为在非循环图中连接的节点(神经元)的集合。一种类型的神经网络，“前馈网络”，可以在其节点的输入层处接收输入(单个向量)，并且通过一系列隐藏层将输入映射到节点的输出层中的值。网络中的每个层由一组神经元组成，其中每个神经元完全连接到(多个)相邻层中的所有神经元，并且其中层内的神经元不共享任何连接。如果网络正在对分类建模，则输出层中的节点中的每一个可以表示实体所属的可能类别中的一种，并且每个输出节点的值可以表示输入实体属于该类别的概率。卷积神经网络(CNN)是另一种类型的神经网络模型，其可以通过对输入数据执行卷积运算来对特征检测进行建模。例如，在图像处理中，CNN可以接收原始图像数据输入，并随后输出表示原始数据的抽象的一组特征图。
神经网络在各种应用领域中已经呈上升趋势；然而，传统的神经网络模型需要大量的存储器和计算能力。在某些情况下，在其性能能够满足指定的性能要求之前，导出神经网络模型可能涉及多次训练，甚至是连续的训练。参考图15-19进一步描述神经网络建模。
当前的并行图形数据处理包括被开发用于对图形数据执行特定操作的系统和方法，所述特定操作诸如例如线性插值、曲面细分、光栅化、纹理映射、深度测试等。此外，可编程的通用图形处理器可以被配置成执行各种各样的操作，以用于处理顶点和片段数据，以及用于执行通用并行处理操作。例如，具有单指令多线程(SIMT)架构的并行图形处理器被设计成使图形流水线中的并行处理量最大化。在SIMT架构中，多组并行线程尝试尽可能经常地一起同步执行程序指令，以提高处理效率。用于SIMT架构的软件和硬件的一般性概述可以在Shane Cook的《CUDA编程(CUDA Programming)》，第3章，第37到51页(2013年)和/或Nicholas Wilt的《CUDA手册，GPU编程的综合指南(CUDA Handbook，A ComprehensiveGuide to GPU Programming)》，章节2.6.2到3.1.2(2013年6月)中找到。
附图说明
在所附附图的各图中，以示例方式而不以限制方式说明实施例，其中相同的附图标记指代类似的元件。
图1是根据实施例的处理系统的框图。
图2是处理器的实施例的框图，所述处理器具有一个或多个处理器核、集成存储器控制器以及集成图形处理器。
图3是图形处理器的框图，所述图形处理器可以是分立的图形处理单元，或可以是与多个处理核集成的图形处理器。
图4是根据一些实施例的图形处理器的图形处理引擎的框图。
图5是根据一些实施例的图形处理器核的硬件逻辑的框图。
图6A-6B示出了根据一些实施例的包括在图形处理器核中采用的处理元件阵列的线程执行逻辑。
图7是示出了根据一些实施例的图形处理器指令格式的框图。
图8是图形处理器的另一实施例的框图。
图9A是示出根据实施例的图形处理器命令格式的框图。
图9B是示出根据实施例的图形处理器命令序列的框图。
图10示出了根据一些实施例的用于数据处理系统的示例性图形软件架构。
图11A是示出了根据实施例的可用于制造集成电路以执行操作的IP核开发系统的框图。
图11B示出了根据一些实施例的集成电路封装组件的横截面侧视图。
图12是示出了根据实施例的可以使用一个或多个IP核来制造的示例性芯片上系统集成电路的框图。
图13A-13B是示出根据本文描述的实施例的用于在芯片上系统(SoC)内使用的示例性图形处理器的框图。
图14A-14B示出了根据本文描述的实施例的附加示例性图形处理器逻辑。
图15是机器学习软件栈的广义图。
图16A示出了具有卷积神经网络(CNN)的各种层。
图16B示出了CNN的卷积层内的计算阶段。
图17示出了示例性递归神经网络。
图18示出了深度神经网络的训练和部署。
图19是示出分布式学习的框图。
图20示出了根据一个实施例的主控(host)智能深度学习卷积机制的计算设备。
图21示出了根据一个实施例的智能深度学习卷积机制。
图22A示出了根据一个实施例的用于促进基于几何形状的滤波器的生成和存储以用于智能深度学习卷积的方法。
图22B示出了根据一个实施例的用于滤波器和神经网络的基于几何形状的训练的方法。
图22C示出了根据一个实施例的用于促进用于深度学习中的智能卷积的卷积滤波器的分离的方法。
图23A示出了根据一个实施例的用于深度学习中的基于几何形状的智能卷积的事务序列。
图23B示出了根据一个实施例的用于深度学习中的智能卷积的可分离卷积的事务序列。
图24示出了根据一个实施例的用于执行可分离卷积的结构设置。
图25是示出了被配置成实现本文所描述的实施例的一个或多个方面的计算机系统的框图。
图26A-26D示出了根据实施例的并行处理器部件。
图27A-27B是根据实施例的图形多处理器的框图。
图28A-28G示出了其中多个图形处理单元(GPU)被通信地耦合至多个多核处理器的示例性架构。
图29示出了根据实施例的图形处理流水线。
具体实施方式
在以下描述中，陈述了众多具体细节。然而，在没有这些特定细节的情况下，也可实施如上文描述的多个实施例。在其他实例中，未详细示出公知的电路、结构和技术，以免使对本描述的理解模糊。
实施例提供了一种新颖的技术，该新颖的技术用于减少由神经网络(NN)模型通过为下卷积层提供类别专用的权重填充器(filler)来实现收敛所花费的时间。此外，关于要被识别的类别的复杂性，可以重新训练神经网络，其中二维(2D)空间卷积的初始层被修改成两个分开的一维(1D)卷积。这种新颖的技术可以降低整个操作的复杂性，并提高整体速度，而不会影响或失去任何准确性。
可以预见，贯穿本文档，可以互换地引用诸如“请求”、“查询”、“作业”、“工作”、“工作项”和“工作负荷”之类的术语。类似地，“应用”或“代理”可以指代或包括通过诸如自由渲染应用编程接口(API)(诸如开放图形库11，12等)之类的API提供的计算机程序、软件应用、游戏、工作站应用等，其中“分派”可以互换地称为“工作单位”或“绘制”，并且类似地，“应用”可以互换地称为“工作流”或简单地称为“代理”。例如，诸如三维(3D)游戏的工作负荷之类的工作负荷可以包括并发布任何数量和类型的“帧”，其中，每个帧可以表示图像(例如，帆船、人脸)。此外，每个帧可以包括并提供任何数量和类型的工作单元，其中，每个工作单元可以表示由其相应帧表示的图像(例如，帆船、人脸)的一部分(例如，帆船的桅杆、人脸的前额)。然而，为了一致性，贯穿本文档，每一项可以由单个术语(例如，“分派”、“代理”等)来引用。
在一些实施例中，如“显示屏”和“显示表面”之类的术语可用于互换地指代显示设备的可见部分，而显示设备的其余部分可以被嵌入到诸如智能电话、可穿戴设备之类的计算设备中。可以预见并且应当注意，实施例不限于任何特定的计算设备、软件应用、硬件部件、显示设备、显示屏或表面、协议、标准等。例如，实施例可被应用于并且可以与在任何数量和类型的计算机上的任何数量和类型的实时应用一起使用，所述计算机诸如台式机、膝上型计算机、平板计算机、智能电话、头戴式显示器、以及其他可穿戴设备等。进一步地，例如，使用这种新颖技术渲染高效性能的场景可以用在从诸如桌面合成等简单场景到诸如3D游戏、增强现实应用等复杂场景的范围。
应注意，贯穿本文档，像卷积神经网络(CNN)、CNN、神经网络(NN)、NN、深度神经网络(DNN)、DNN、递归神经网络(RNN)、RNN等之类的术语或首字母缩写词等可以互换地引用。进一步地，贯穿本文档，像“自主机器”或简称为“机器”、“自主车辆”或简称为“车辆”、“自主代理”或简称为“代理”、“自主设备”或“计算设备”、“机器人”等之类的术语可以互换地引用等。
系统概述
图1是根据实施例的处理系统100的框图。在各实施例中，系统100包括一个或多个处理器102以及一个或多个图形处理器108，并且可以是单处理器台式系统、多处理器工作站系统或具有大量处理器102或处理器核107的服务器系统。在一个实施例中，系统100是被纳入到用于在移动设备、手持式设备或嵌入式设备中使用的芯片上系统(SoC)集成电路内的处理平台。
在一个实施例中，系统100可以包括或并入基于服务器的游戏平台、游戏控制台，包括游戏与媒体控制台、移动游戏控制台、手持式游戏控制台、或在线游戏控制台。在一些实施例中，系统100是移动电话、智能电话、平板计算设备或移动互联网设备。处理系统100还可包括可穿戴设备(诸如智能手表可穿戴设备、智能眼镜设备、增强现实设备、或虚拟现实设备)、与所述可穿戴设备耦合、或者集成在所述可穿戴设备中。在一些实施例中，处理系统100是电视或机顶盒设备，所述电视或机顶盒设备具有一个或多个处理器102以及由一个或多个图形处理器108生成的图形界面。
在一些实施例中，一个或多个处理器102每个包括用于处理指令的一个或多个处理器核107，所述指令在被执行时执行系统和用户软件的操作。在一些实施例中，一个或多个处理器核107中的每个处理器核被配置成用于处理特定的指令集109。在一些实施例中，指令集109可以促进复杂指令集计算(CISC)、精简指令集计算(RISC)、或经由超长指令字(VLIW)的计算。多个处理器核107可以各自处理不同的指令集109，所述指令集可以包括用于促进对其他指令集进行仿真的指令。处理器核107还可以包括其他处理设备，如数字信号处理器(DSP)。
在一些实施例中，处理器102包括高速缓存存储器104。取决于架构，处理器102可以具有单个内部高速缓存或内部高速缓存的多个级。在一些实施例中，在处理器102的各部件当中共享高速缓存存储器。在一些实施例中，处理器102还使用外部高速缓存(例如，3级(L3)高速缓存或末级高速缓存(LLC))(未示出)，可以使用已知的高速缓存一致性技术来在处理器核107当中共享外部高速缓存。另外地，寄存器堆106包括在处理器102中，所述处理器可以包括用于存储不同类型的数据的不同类型的寄存器(例如，整数寄存器、浮点寄存器、状态寄存器、和指令指针寄存器)。一些寄存器可以是通用寄存器，而其他寄存器可以特定于处理器102的设计。
在一些实施例中，一个或多个处理器102与一个或多个接口总线110耦合，所述接口总线用于在处理器102与系统100中的其他部件之间传输通信信号，如地址、数据、或控制信号。在一个实施例中，接口总线110可以是处理器总线，如直接媒体接口(DMI)总线的版本。然而，处理器总线不限于DMI总线并且可以包括一个或多个外围部件互连总线(例如，PCI、PCI Express)、存储器总线或其他类型的接口总线。在一个实施例中，(多个)处理器102包括集成存储器控制器116和平台控制器中枢130。存储器控制器116促进存储器设备与系统100的其他部件之间的通信，而平台控制器中枢(PCH)130经由本地I/O总线提供到I/O设备的连接。
存储器设备120可以是动态随机存取存储器(DRAM)设备、静态随机存取存储器(SRAM)设备、闪存设备、相变存储器设备、或具有用作处理存储器的合适性能的某种其他存储器设备。在一个实施例中，存储器设备120可以作为系统100的系统存储器来操作，用于存储数据122和指令121以供在所述一个或多个处理器102执行应用程序或进程时使用。存储器控制器116还与可选的外部图形处理器112耦合，所述外部图形处理器可以与处理器102中的所述一个或多个图形处理器108进行通信从而执行图形操作和媒体操作。在一些实施例中，显示设备111可以连接至(多个)处理器102。显示设备111可以是以下各项中的一项或多项：内部显示设备，如在移动电子设备或膝上型设备中；或经由显示接口(例如，显示端口等)附接的外部显示设备。在一个实施例中，显示设备111可以是头戴式显示器(HMD)，如用于虚拟现实(VR)应用或增强现实(AR)应用中使用的立体显示设备。
在一些实施例中，平台控制器中枢130使得外围设备能够经由高速I/O总线连接至存储器设备120和处理器102。I/O外围设备包括但不限于：音频控制器146、网络控制器134、固件接口128、无线收发器126、触摸传感器125、数据存储设备124(例如，硬盘驱动器、闪存等)。数据存储设备124可以经由存储接口(例如，SATA)或经由如外围部件互连总线(例如，PCI、PCI Express)等外围总线来进行连接。触摸传感器125可以包括触摸屏传感器、压力传感器、或指纹传感器。无线收发器126可以是Wi-Fi收发器、蓝牙收发器、或移动网络收发器，如3G、4G或长期演进(LTE)收发器。固件接口128使得能够与系统固件进行通信，并且可以例如是统一可扩展固件接口(UEFI)。网络控制器134可以使能到有线网络的网络连接。在一些实施例中，高性能网络控制器(未示出)与接口总线110耦合。在一个实施例中，音频控制器146是多声道高清音频控制器。在一个实施例中，系统100包括用于将传统(例如，个人系统2(PS/2))设备耦合至系统的可选的传统I/O控制器140。平台控制器中枢130还可以连接至一个或多个通用串行总线(USB)控制器142连接输入设备，如键盘和鼠标143组合、相机144、或其他USB输入设备。
将认识到的是，所示出的系统100是示例性的而非限制性的，因为还可以使用以不同方式配置的其他类型的数据处理系统。例如，存储器控制器116和平台控制器中枢130的实例可以集成到分立式外部图形处理器，如外部图形处理器112。在一个实施例中，平台控制器中枢130和/或存储器控制器160可以在所述一个或多个处理器102外部。例如，系统100可以包括外部存储器控制器116和平台控制器中枢130，所述外部存储器控制器和外围控制器可以被配置为在与(多个)处理器102通信的系统芯片组内的存储器控制器中枢和外围控制器中枢。
图2是处理器200的实施例的框图，所述处理器具有一个或多个处理器核202A至202N、集成存储器控制器214、以及集成图形处理器208。图2的具有与此处任何其他附图中的元件相同的参考号(或名称)的那些元件可采用与在本文中其他地方描述的方式相类似的任何方式进行操作或起作用，但不限于这些。处理器200可包括多达且包括由虚线框表示的附加核202N的附加核。处理器核202A至202N各自包括一个或多个内部高速缓存单元204A至204N。在一些实施例中，每个处理器核还可以访问一个或多个共享的高速缓存单元206。
内部高速缓存单元204A至204N和共享高速缓存单元206表示处理器200内部的高速缓存存储器层级结构。高速缓存存储器层级结构可以包括每个处理器核内的至少一级指令和数据高速缓存以及一级或多级共享中级高速缓存，诸如2级(L2)、3级(L3)、4级(L4)、或其他级的高速缓存，其中，最高级的高速缓存在外部存储器之前被分类为LLC。在一些实施例中，高速缓存一致性逻辑维持各高速缓存单元206与204A至204N之间的一致性。
在一些实施例中，处理器200还可以包括一组一个或多个总线控制器单元216和系统代理核210。一个或多个总线控制器单元216管理一组外围总线，诸如一个或多个PCI或PCI快速总线。系统代理核210提供对各处理器部件的管理功能。在一些实施例中，系统代理核210包括一个或多个集成存储器控制器214用于管理对各外部存储器设备(未示出)的访问。
在一些实施例中，处理器核202A至202N中的一个或多个包括对同步多线程的支持。在这种实施例中，系统代理核210包括用于在多线程处理过程中协调和操作核202A至202N的部件。另外，系统代理核210还可以包括功率控制单元(PCU)，所述功率控制单元包括用于调节处理器核202A至202N的功率状态的逻辑和部件以及图形处理器208。
在一些实施例中，另外，处理器200还包括用于执行图形处理操作的图形处理器208。在一些实施例中，图形处理器208耦合至共享高速缓存单元206集以及系统代理核210，所述系统代理核包括一个或多个集成存储器控制器214。在一些实施例中，系统代理核210还包括显示控制器211以便将图形处理器输出驱动到一个或多个耦合的显示器。在一些实施例中，显示控制器211还可以是经由至少一个互连与图形处理器耦合的单独模块，或者可以集成在图形处理器208内。
在一些实施例中，基于环的互连单元212用于耦合处理器200的内部部件。然而，可以使用替代性互连单元，比如点到点互连、切换式互连、或其他技术，包括本领域众所周知的技术。在一些实施例中，图形处理器208经由I/O链路213与环形互连212耦合。
示例性I/O链路213表示多个I/O互连中的多个品种中的至少一种，包括促进各处理器部件与高性能嵌入式存储器模块218(比如eDRAM模块)之间的通信的封装体I/O互连。在一些实施例中，处理器核202A至202N中的每个处理器核以及图形处理器208将嵌入式存储器模块218用作共享末级高速缓存。
在一些实施例中，处理器核202A至202N是执行相同指令集架构的同构核。在另一实施例中，处理器核202A至202N在指令集架构(ISA)方面是异构的，其中，处理器核202A至202N中的一者或多者执行第一指令集，而其他核中的至少一者执行所述第一指令集的子集或不同的指令集。在一个实施例中，处理器核202A至202N就微架构而言是同质的，其中，具有相对较高功耗的一个或多个核与具有较低功耗的一个或多个功率核耦合。另外，处理器200可以实现在一个或多个芯片上或者被实现为具有除其他部件之外的所展示的部件的SoC集成电路。
图3是图形处理器300的框图，所述图形处理器可以是分立式图形处理单元、或者可以是与多个处理核集成的图形处理器。在一些实施例中，图形处理器经由到图形处理器上的寄存器的映射I/O接口并且利用被放置在处理器存储器中的命令与存储器进行通信。在一些实施例中，图形处理器300包括用于访问存储器的存储器接口314。存储器接口314可以是到本地存储器、一个或多个内部高速缓存、一个或多个共享外部高速缓存、和/或到系统存储器的接口。
在一些实施例中，图形处理器300还包括显示控制器302，所述显示控制器用于将显示输出数据驱动到显示设备320。显示控制器302包括用于显示器的一个或多个重叠平面的硬件以及多层视频或用户接口元件的组成。显示设备320可以是内部或外部显示设备。在一个实施例中，显示设备320是头戴式显示设备，如虚拟现实(VR)显示设备或增强现实(AR)显示设备。在一些实施例中，图形处理器300包括用于编码、解码、或者向、从或在一个或多个媒体编码格式之间进行媒体代码转换的视频编解码器引擎306，包括但不限于：运动图像专家组(MPEG)格式(比如MPEG-2)、高级视频译码(AVC)格式(比如H.264/MPEG-4AVC)、以及电影&电视工程师协会(SMPTE)421M/VC-1、和联合图像专家组(JPEG)格式(比如JPEG、以及运动JPEG(MJPEG)格式)。
在一些实施例中，图形处理器300包括用于执行二维(2D)光栅化器操作包括例如位边界块传递的块图像传递(BLIT)引擎304。然而，在一个实施例中，使用图形处理引擎(GPE)310的一个或多个部件执行2D图形操作。在一些实施例中，GPE 310是用于执行图形操作的计算引擎，所述图形操作包括三维(3D)图形操作和媒体操作。
在一些实施例中，GPE 310包括用于执行3D操作的3D流水线312，比如使用作用于3D图元形状(例如，矩形、三角形等)的处理功能来渲染三维图像和场景。3D流水线312包括可编程且固定的功能元件，所述可编程且固定的功能元件在到3D/媒体子系统315的元件和/或生成的执行线程内执行各种任务。虽然3D流水线312可以用于执行媒体操作，但是GPE310的实施例还包括媒体流水线316，所述媒体流水线具体地用于执行媒体操作，诸如视频后处理和图像增强。
在一些实施例中，媒体流水线316包括固定功能或可编程逻辑单元以便代替、或代表视频编解码器引擎306来执行一种或多种专门的媒体操作，比如视频解码加速、视频解交织、以及视频编码加速。在一些实施例中，另外，媒体流水线316还包括线程生成单元以便生成用于在3D/媒体子系统315上执行的线程。所生成的线程对3D/媒体子系统315中所包括的一个或多个图形执行单元执行对媒体操作的计算。
在一些实施例中，3D/媒体子系统315包括用于执行3D流水线312和媒体流水线316生成的线程的逻辑。在一个实施例中，流水线向3D/媒体子系统315发送线程执行请求，所述3D/媒体子系统包括用于仲裁并将各请求分派到可用的线程执行资源的线程分派逻辑。执行资源包括用于处理3D和媒体线程的图形执行单元阵列。在一些实施例中，3D/媒体子系统315包括用于线程指令和数据的一个或多个内部高速缓存。在一些实施例中，所述子系统还包括共享存储器(包括寄存器和可寻址存储器)以便在线程之间共享数据并用于存储输出数据。
图形处理引擎
图4是根据一些实施例的图形处理器的图形处理引擎410的框图。在一个实施例中，图形处理引擎(GPE)410是图3所示的GPE 310的一个版本。图4的具有与此处任何其他附图中的元件相同的参考号(或名称)的那些元件可采用与在本文中其他地方描述的方式相类似的任何方式进行操作或起作用，但不限于这些。例如，展示了图3的3D流水线312和媒体流水线316。媒体流水线316在GPE 410的一些实施例中是可选的，并且可以不显式地地包括在GPE 410内。例如以及在至少一个实施例中，单独的媒体和/或图像处理器被耦合至GPE410。
在一些实施例中，GPE 410与命令流转化器403耦合或包括所述命令流转化器，所述命令流转化器向3D流水线312和/或媒体流水线316提供命令流。在一些实施例中，命令流转化器403与存储器耦合，所述存储器可以是系统存储器、或者是内部高速缓存存储器和共享高速缓存存储器中的一个或多个。在一些实施例中，命令流转化器403从存储器接收命令并将这些命令发送至3D流水线312和/或媒体流水线316。所述命令是从存储用于3D流水线312和媒体流水线316的环形缓冲器获取的指示。在一个实施例中，环形缓冲器可以另外包括存储多批多命令的批命令缓冲器。用于3D流水线312的命令还可以包括对在存储器中存储的数据的引用，诸如但不限于用于3D流水线312的顶点数据和几何数据和/或用于媒体流水线316的图像数据和存储器对象。3D流水线312和媒体流水线316通过经由各自流水线内的逻辑执行操作或者通过将一个或多个执行线程分派至执行图形核阵列414来处理所述命令和数据。在一个实施例中，图形核阵列414包括一个或多个图形核块(例如，(多个)图形核415A、(多个)图形核415B)，每个块包括一个或多个图形核。每个图形核包括一组图形执行资源，所述一组图形执行资源包括：用于执行图形操作和计算操作的通用执行逻辑和图形专用执行逻辑；以及固定功能纹理处理逻辑和/或机器学习和人工智能加速逻辑。
在各个实施例中，3D流水线312包括：固定功能逻辑和可编程逻辑，用于通过处理指令并将执行线程分派给图形核阵列414来处理一个或多个着色器程序，诸如顶点着色器、几何着色器、像素着色器、片段着色器、计算着色器或其他着色器程序。图形核阵列414提供了供在处理这些着色器程序时使用的统一的执行资源块。图形核阵列414的(多个)图形核415A至414B内的多用途执行逻辑(例如，执行单元)包括对各种3D API着色器语言的支持，并且可以执行与多个着色器相关联的多个同步执行线程。
在一些实施例中，图形核阵列414还包括用于执行诸如视频和/或图像处理的媒体功能的执行逻辑。在一个实施例中，除了图形处理操作之外，执行单元还包括可编程以执行并行通用计算操作的通用逻辑。通用逻辑可以与图1的(多个)处理器核107或图2中的核202A至202N内的通用逻辑并行地或结合地执行处理操作。
由在图形核阵列414上执行的线程生成的输出数据可以将数据输出到统一返回缓冲器(URB)418中的存储器。URB 418可以存储多个线程的数据。在一些实施例中，URB 418可以用于在图形核阵列414上执行的不同线程之间发送数据。在一些实施例中，URB 418可以另外用于图形核阵列上的线程与共享功能逻辑420内的固定功能逻辑之间的同步。
在一些实施例中，图形核阵列414是可缩放的，使得所述阵列包括可变数量的图形核，这些图形核各自具有基于GPE 410的目标功率和性能等级的可变数量的执行单元。在一个实施例中，执行资源是动态可缩放的，从而可以根据需要启用或禁用执行资源。
图形核阵列414与共享功能逻辑420耦合，所述共享功能逻辑包括在图形核阵列中的图形核之间共享的多个资源。共享功能逻辑420内的共享功能是向图形核阵列414提供专用补充功能的硬件逻辑单元。在各种实施例中，共享功能逻辑420包括但不限于采样器421、数学422和线程间通信(ITC)423逻辑。另外，一些实施例实现共享功能逻辑420内的一个或多个高速缓存425。
在给定的专用功能的需求不足以包含在图形核阵列414中的情况下实施共享功能。相反，所述专用功能的单个实例被实施为共享功能逻辑420中的独立实体并且在图形核阵列414内的执行资源之间共享。在图形核阵列414之间共享并包括在图形核阵列414内的精确的一组功能在各实施例之间变化。在一些实施例中，共享功能逻辑420内由图形核阵列414广泛使用的特定共享功能可以包括在图形核阵列414内的共享功能逻辑416内。在各个实施例中，图形核阵列414内的共享功能逻辑416可以包括共享功能逻辑420内的一些或所有逻辑。在一个实施例中，共享功能逻辑420内的所有逻辑元件可以在图形核阵列414的共享功能逻辑416内重复。在一个实施例中，共享功能逻辑420被执行以便支持图形核阵列414内的共享功能逻辑416。
图5是根据本文所描述的一些实施例的图形处理器核500的硬件逻辑的框图。图5的具有与本文任何其他附图中的元件相同的参考号(或名称)的那些元件可采用与在本文中其他地方描述的方式相类似的任何方式进行操作或起作用，但不限于这些。在一些实施例中，所展示的图形处理器核500包括在图4的图形核阵列414内。图形处理器核500——有时称为核切片——可以是模块化图形处理器内的一个或多个图形核。图形处理器核500的示例是一个图形核切片，并且，基于目标功率包络线和性能包络线，如本文所描述的图形处理器可以包括多个图形核切片。每个图形核500可以包括固定功能块530，所述固定功能块与包括模块化通用逻辑块和固定功能逻辑块的多个子核501A至501F(也被称为子切片)相耦合。
在一些实施例中，固定功能块530包括几何/固定功能流水线536，所述几何/固定功能流水线例如在低性能和/或低功率图形处理器实施方式中可以由图形处理器500中的所有子核共享。在各个实施例中，几何/固定功能流水线536包括3D固定功能流水线(例如，如在图3和图4中的3D流水线312)、视频前端单元、线程派生器和线程分派器、以及管理如图4的统一返回缓冲器418等统一返回缓冲器的统一返回缓冲器管理器。
在一个实施例中，固定功能块530还包括图形SoC接口537、图形微控制器538和媒体流水线539。图形SoC接口537提供了图形核500与芯片上系统集成电路内的其他处理器核之间的接口。图形微控制器538是可配置成管理图形处理器500的包括线程分派、调度和先占(pre-emption)在内的各种功能的可编程子处理器。媒体流水线539(例如，图3和图4的媒体流水线316)包括用于促进对包括图像数据和视频数据在内的多媒体数据进行解码、编码、预处理和/或后处理的逻辑。媒体流水线539经由对子核501至501F内的计算或采样逻辑的请求来实施媒体操作。
在一个实施例中，SoC接口537使得图形核500能够与通用应用处理器核(例如，CPU)和/或SoC内的其他部件进行通信，这些其他部件包括如共享末级高速缓存存储器等存储器层级架构元件、系统RAM、和/或嵌入式片上或封装体上DRAM。SoC接口537还可以使能与SoC内如相机成像流水线等固定功能设备进行通信，并且使能使用和/或实施可以在图形核500与SoC内的CPU之间共享的全局存储器原子。SoC接口537还可以实施针对图形核500的功率管理控制，并且使能图形核500的时钟域与SoC内的其他时钟域之间的接口。在一个实施例中，SoC接口537使得能够从被配置成向图形处理器内的一个或多个图形核中的每一个提供命令和指令的命令流转化器和全局线程分派器处接收命令缓冲器。当媒体操作将要执行时，这些命令和指令可以被分派给媒体流水线539，或者当图形处理操作将要执行时，这些命令和指令可以被分派给几何和固定功能流水线(例如，几何和固定功能流水线536、几何和固定功能流水线514)。
图形微控制器538可以被配置成执行针对图形核500的各种调度任务和管理任务。在一个实施例中，图形微控制器538可以对子核501A至501F内的执行单元(EU)阵列502A至502F、504A至504F内的各个图形并行引擎执行图形和/或计算工作负荷调度。在这种调度模型中，在包括图形核500的SoC的CPU核上执行的主机软件可以经由多个图形处理器门铃(doorbell)之一来提交工作负荷，这调用了对适当图形引擎的调度操作。调度操作包括：确定接下来要运行哪个工作负荷、向命令流转化器提交工作负荷、对在引擎上运行的现有工作负荷进行先占、监测工作负荷的进程、以及通知主机软件何时完成工作负荷。在一个实施例中，图形微控制器538还可以促进图形核500的低功率或空闲状态，从而为图形核500提供独立于操作系统和/或系统上的图形驱动器软件跨低功率状态转换来对图形核500内的寄存器进行保存和恢复的能力。
图形核500可以具有多于或少于所展示的子核501A至501F，多达N个模块化子核。对于每组N个子核，图形核500还可以包括共享功能逻辑510、共享存储器和/或高速缓存存储器512、几何/固定功能流水线514、以及用于加速各种图形和计算处理操作的附加固定功能逻辑516。共享功能逻辑510可以包括与可由图形核500内的每N个子核共享的图4共享功能逻辑420相关联的逻辑单元(例如，采样器逻辑、数学逻辑、和/或线程间通信逻辑)。共享存储器和/或高速缓存存储器512可以是用于图形核500内的所述一组N个子核501A至501F的末级高速缓存，并且还可以充当可由多个子核访问的共享存储器。几何/固定功能流水线514可以代替几何/固定功能流水线536被包括在固定功能块530内，并且可以包括相同的或类似的逻辑单元。
在一个实施例中，图形核500包括附加固定功能逻辑516，所述附加固定功能逻辑可以包括供由图形核500使用的各种固定功能加速逻辑。在一个实施例中，附加固定功能逻辑516包括供在仅位置着色中使用的附加几何流水线。在仅位置着色中，存在两个几何流水线：几何/固定功能流水线516、536内的完全几何流水线；以及拣选流水线，所述拣选流水线是可以包括在附加固定功能逻辑516内的附加几何流水线。在一个实施例中，拣选流水线是完全几何流水线的精简版本。完全流水线和拣选流水线可以执行同一应用的不同实例，每个实例具有单独的上下文。仅位置着色可以隐藏被丢弃三角形的较长拣选运行，从而在一些实例中使得能够更早完成着色。例如并且在一个实施例中，附件固定功能逻辑516内的拣选流水线逻辑可以与主应用并行地执行位置着色器，并且通常比完全流水线更快地生成关键结果，因为完全流水线仅对顶点的位置属性进行取出和着色，而不向帧缓冲器执行对像素的光栅化和渲染。拣选流水线可以使用所生成的关键结果来计算所有三角形的可见性信息，而无需考虑那些三角形是否被拣选。完全流水线(其在本实例中可以被称为重放(replay)流水线)可以消耗可见性信息以便跳过被拣选的三角形从而仅对最终被传递到光栅化阶段的可见三角形进行着色。
在一个实施例中，附加固定功能逻辑516还可以包括用于包括针对机器学习训练或推理在内的实施方式的机器学习加速逻辑，如固定功能矩阵乘法逻辑。
在每个图形子核501A至501F内包括可以用来响应于图形流水线、媒体流水线、或着色器程序的请求而执行图形操作、媒体操作和计算操作的一组执行资源。图形子核501A至501F包括：多个EU阵列502A至502F、504A至504F；线程分派和线程间通信(TD/IC)逻辑503A至503F；3D(例如，纹理)采样器505A至505F；媒体采样器506A至506F；着色器处理器507A至507F；以及共享本地存储器(SLM)508A至508F。EU阵列502A至502F、504A至504F各自包括多个执行单元，所述多个执行单元为能够执行浮点逻辑运算和整数/定点逻辑运算以便为图形操作、媒体操作或计算操作服务的通用图形处理单元，包括图形程序、媒体程序或计算着色器程序。TD/IC逻辑503A至503F执行针对子核内的执行单元的本地线程分派和线程控制操作，并且促进在所述子核的执行单元上执行的线程之间的通信。3D采样器505A至505F可以将纹理或其他3D图形相关的数据读取到存储器中。3D采样器可以基于所配置的样本状态以及与给定纹理相关联的纹理格式来以不同方式读取纹理数据。媒体采样器506A至506F可以基于与媒体数据相关联的类型和格式来执行类似的读取操作。在一个实施例中，每个图形子核501A至501F可以交替地包括统一3D和媒体采样器。在子核501A至501F中的每一个内的执行单元上执行的线程可以利用每个子核内的共享本地存储器508A至508F，以便使得在线程组内执行的线程能够使用公共片上存储器池来执行。
执行单元
图6A至图6B展示了根据本文所描述的实施例的包括在图形处理器核中所采用的处理元件阵列的线程执行逻辑600。图6A至图6B的具有与本文任何其他附图中的元件相同的参考号(或名称)的那些元件可采用与在本文中其他地方描述的方式相类似的任何方式进行操作或起作用，但不限于这些。图6A展示了线程执行逻辑600的概览，所述线程执行逻辑可以包括被展示为具有图5的每个子核501A至501F的硬件逻辑的变体。图6B展示了执行单元的示例性内部细节。
如图6A中所示，在一些实施例中，线程执行逻辑600包括着色器处理器602、线程分派器604、指令高速缓存606、包括多个执行单元608A至608N的可缩放执行单元阵列、采样器610、数据高速缓存612、以及数据端口614。在一个实施例中，可缩放执行单元阵列可以通过基于工作负荷的计算需求来启用或禁用一个或多个执行单元(例如，执行单元608A，608B，608C，608D，一直到608N-1和608N中的任一个)来动态地缩放。在一个实施例中，所包括的部件经由互连结构而互连，所述互连结构链接到部件中的每个部件。在一些实施例中，线程执行逻辑600包括通过指令高速缓存606、数据端口614、采样器610、以及执行单元阵列608A至608N中的一者或多者到存储器(如系统存储器或高速缓存存储器)的一个或多个连接件。在一些实施例中，每个执行单元(例如，608A)是能够执行多个同步硬件线程同时针对每个线程并行地处理多个数据元素的独立可编程通用计算单元。在各种实施例中，执行单元608A至608N的阵列是可缩放的以包括任意数量的单独执行单元。
在一些实施例中，执行单元608A至608N主要用于执行着色器程序。着色器处理器602可以处理各种着色器程序并且经由线程分派器604分派与着色器程序相关联的执行线程。在一个实施例中，线程分派器包括用于对来自图形和媒体流水线的线程发起请求进行仲裁并且在一个或多个执行单元608A至608N上实例化所请求的线程的逻辑。例如，几何流水线可以将顶点处理、曲面细分或几何处理线程分派至线程执行逻辑进行处理。在一些实施例中，线程分派器604还可处理来自执行着色器程序的运行时间线程生成请求。
在一些实施例中，执行单元608A至608N支持指令集(所述指令集包括对许多标准3D图形着色器指令的原生支持)，从而使得以最小的转换执行来自图形库(例如，Direct 3D和OpenGL)的着色器程序。这些执行单元支持顶点和几何处理(例如，顶点程序、几何程序、顶点着色器)、像素处理(例如，像素着色器、片段着色器)以及通用处理(例如，计算和媒体着色器)。执行单元608A至608N中的每一个都能够执行多发布单指令多数据(SIMD)，并且多线程操作能够在面对较高等待时间的存储器访问时实现高效的执行环境。每个执行单元内的每个硬件线程都具有专用的高带宽寄存器堆和相关的独立线程状态。对于具有整数、单精度浮点运算和双精度浮点运算、SIMD分支功能、逻辑运算、超越运算和其他混杂运算的流水线，执行是每个时钟的多发布。在等待来自存储器或共享功能之一的数据时，执行单元608A至608N内的依赖性逻辑使等待线程休眠，直到所请求的数据已返回。当等待线程正在休眠时，硬件资源可能会专门用于处理其他线程。例如，在与顶点着色器操作相关联的延迟期间，执行单元可以执行像素着色器、片段着色器或包括不同顶点着色器的另一种类型的着色器程序的操作。
执行单元608A至608N中的每个执行单元在数据元素阵列上进行操作。数据元素的数量是“执行大小”、或指令的信道数。执行通道是执行数据元素访问、掩蔽、和指令内的流控制的逻辑单元。通道的数量可以与针对特定图形处理器的物理算术逻辑单元(ALU)或浮点单元(FPU)的数量无关。在一些实施例中，执行单元608A至608N支持整数和浮点数据类型。
执行单元指令集包括SIMD指令。各种数据元素可作为压缩数据类型存储在寄存器中，并且执行单元将基于元素的数据大小来处理各种元素。例如，当在256位宽的向量上进行操作时，所述256位的向量存储在寄存器中，并且所述执行单元作为四个单独64位压缩数据元素(四倍字长(QW)大小的数据元素)、八个单独32位压缩数据元素(双倍字长(DW)大小的数据元素)、十六个单独16位压缩数据元素(字长(W)大小的数据元素)、或三十二个单独8位数据元素(字节(B)大小的数据元素)在所述向量上进行操作。然而，不同的向量宽度和寄存器大小是可能的。
在一个实施例中，可以将一个或多个执行单元组合到融合执行单元609A至609N中，所述融合执行单元具有对于融合EU而言共同的线程控制逻辑(607A至607N)。可以将多个EU融合到一个EU组中。所述融合EU组中的每个EU可以被配置成执行单独的SIMD硬件线程。融合EU组中的EU数量可以根据实施例而变化。另外，可以每个EU地执行不同的SIMD宽度，包括但不限于SIMD8、SIMD16和SIMD32。每个融合图形执行单元609A至609N包括至少两个执行单元。例如，融合执行单元609A包括第一EU 608A、第二EU 608B、以及对于第一EU608A和第二EU 608B而言共同的线程控制逻辑607A。线程控制逻辑607A控制在融合图形执行单元609A上执行的线程，从而允许融合执行单元609A至609N内的每个EU使用共同指令指针寄存器来执行。
一个或多个内部指令高速缓存(例如，606)包括在所述线程执行逻辑600中以便高速缓存所述执行单元的线程指令。在一些实施例中，一个或多个数据高速缓存(例如，612)被包括用于高速缓存在线程执行过程中的线程数据。在一些实施例中，采样器610被包括用于为3D操作提供纹理采样并且为媒体操作提供媒体采样。在一些实施例中，采样器610包括专门的纹理或媒体采样功能，以便在向执行单元提供采样数据之前在采样过程中处理纹理或媒体数据。
在执行过程中，图形和媒体流水线经由线程生成和分派逻辑向线程执行逻辑600发送线程发起请求。一旦一组几何对象已经被处理并被光栅化成像素数据，则着色器处理器602内的像素处理器逻辑(例如，像素着色器逻辑、片段着色器逻辑等)被调用以便进一步计算输出信息并且使得结果被写入到输出表面(例如，色彩缓冲器、深度缓冲器、模板印刷(stencil)缓冲器等)。在一些实施例中，像素着色器或片段着色器计算各顶点属性的值，所述各顶点属性跨光栅化对象被内插。在一些实施例中，着色器处理器602内的像素处理器逻辑然后执行应用编程接口(API)供应的像素或片段着色器程序。为了执行着色器程序，着色器处理器602经由线程分派器604将线程分派至执行单元(例如，608A)。在一些实施例中，着色器处理器602使用采样器610中的纹理采样逻辑来访问存储器中所存储的纹理图中的纹理数据。对纹理数据和输入几何数据的算术运算计算每个几何片段的像素颜色数据，或丢弃一个或多个像素而不进行进一步处理。
在一些实施例中，数据端口614提供存储器访问机制，供线程执行逻辑600将经处理的数据输出至存储器以便在图形处理器输出流水线上进行进一步处理。在一些实施例中，数据端口614包括或耦合至一个或多个高速缓存存储器(例如，数据高速缓存612)从而经由数据端口来高速缓存数据以供存储器访问。
如图6B中所展示的，图形执行单元608可以包括指令取出单元637、通用寄存器堆阵列(GRF)624、架构寄存器堆阵列(ARF)626、线程仲裁器622、发送单元630、分支单元632、一组SIMD浮点单元(FPU)634、以及在一个实施例中的一组专用整数SIMD ALU 635。GRF 624和ARF 626包括与在图形执行单元608中可能活跃的每个同步的硬件线程相关联的所述一组通用寄存器堆和架构寄存器堆。在一个实施例中，在ARF 626中维持每线程架构状态，而在线程执行期间所使用的数据被存储在GRF 624中。每个线程的执行状态，包括每个线程的指令指针，可以保持在ARF 626中的线程专用寄存器中。
在一个实施例中，图形执行单元608具有作为同步多线程化(SMT)与细粒度交织多线程化(IMT)的组合的架构。所述架构具有模块化配置，所述模块化配置可以基于每执行单元的目标同步线程数量和目标寄存器数量而在设计时得到微调，在所述模块化配置中，跨用于执行多个同步线程的逻辑来划分执行单元资源。
在一个实施例中，图形执行单元608可以共同发布多条指令，这些指令可以各自是不同的指令。图形执行单元线程608的线程仲裁器622可以将指令分派给以下各项中的一项以供执行：发送单元630、分支单元642或(多个)SIMD FPU 634。每个执行线程可以访问GRF624内的128个通用寄存器，其中，每个寄存器可以存储可作为具有32位数据元素的SIMD 8元素向量访问的32个字节。在一个实施例中，每个执行单元线程访问GRF 624内的4个千字节，但是实施例并不限于此，并且在其他实施例中可以提供更多或更少的寄存器资源。在一个实施例中，多达七个线程可以同步执行，但是每执行单元的线程数量还可以根据实施例而变化。在七个线程可以访问4个千字节的实施例中，GRF 624可以存储总共28千字节。灵活寻址模式可以准许对多个寄存器进行一起寻址，从而高效地建立更宽的寄存器或者表示跨步矩形块数据结构。
在一个实施例中，经由通过消息传递发送单元630所执行的“发送”指令来分派存储器操作、采样器操作以及其他较长时延系统通信。在一个实施例中，分支指令被分派给专用分支单元632以便促进SIMD发散和最终收敛。
在一个实施例中，图形执行单元608包括用于执行浮点运算的一个或多个SIMD浮点单元(FPU)634。在一个实施例中，(多个)FPU 634还支持整数计算。在一个实施例中，(多个)FPU 634可以SIMD执行多达数量M个32位浮点(或整数)运算，或者SIMD执行多达2M个16位整数或16位浮点运算。在一个实施例中，(多个)FPU中的至少一个提供支持高吞吐量超越数学功能和双精度64位浮点的扩展数学能力。在一些实施例中，一组8位整数SIMD ALU 635还表示并且还可以具体地优化成执行与机器学习计算相关联的运算。
在一个实施例中，可以在图形子核分组(例如，子切片)时对图形执行单元608的多个实例的阵列进行实例化。为了可伸缩性，产品架构可以选择每子核分组的确切执行单元数量。在一个实施例中，执行单元608可以跨多个执行通道来执行指令。在进一步的实施例中，在图形执行单元608上所执行的每个线程是在不同通道上执行的。
图7是展示了根据一些实施例的图形处理器指令格式700的框图。在一个或多个实施例中，图形处理器执行单元支持具有多种格式的指令的指令集。实线框展示了通常包括在执行单元指令中的部件，而虚线包括可选的部件或仅包括在指令子集中的部件。在一些实施例中，所描述和展示的指令格式700是宏指令，因为它们是供应至执行单元的指令，这与从指令解码产生的微操作相反(一旦所述指令被处理)。
在一些实施例中，图形处理器执行单元原生地支持采用128位指令格式710的指令。64位紧凑指令格式730可用于基于所选指令、多个指令选项和操作数数量的一些指令。原生128位指令格式710提供对所有指令选项的访问，而一些选项和操作限制在64位格式730中。64位格式730中可用的原生指令根据实施例而不同。在一些实施例中，使用索引字段713中的一组索引值将指令部分地压缩。执行单元硬件基于索引值来参考一组压缩表，并使用压缩表输出来重构采用128位指令格式710的原生指令。
针对每种格式，指令操作码712限定执行单元要执行的操作。执行单元跨每个操作数的多个数据元素来并行地执行每条指令。例如，响应于添加指令，执行单元跨每个颜色通道执行同步添加操作，所述颜色通道表示纹理元素或图片元素。默认地，执行单元跨操作数的所有数据通道执行每条指令。在一些实施例中，指令控制字段714使能控制某些执行选项，诸如通道选择(例如，预测)以及数据通道排序(例如，混合)。针对采用128位指令格式710的指令，执行大小字段716限制了将并行执行的数据通道的数量。在一些实施例中，执行大小字段716不可用于64位紧凑指令格式730。
一些执行单元指令具有多达三个操作数，包括两个源操作数(src0 720、src1722)和一个目的地718。在一些实施例中，执行单元支持双目的地指令，其中这些目的地之一是隐式的。数据操作指令可以具有第三源操作数(例如，SRC2 724)，其中，指令操作码712确定源操作数的数量。指令的最后的源操作数可以是利用所述指令传递的即时(例如，硬编码)值。
在一些实施例中，128位指令格式710包括访问/地址模式字段726，所述访问/地址模式信息例如指定了是使用直接寄存器寻址模式还是间接寄存器寻址模式。当使用直接寄存器寻址模式时，直接由指令中的位来提供一个或多个操作数的寄存器地址。
在一些实施例中，128位指令格式710包括访问/地址模式字段726，所述访问/地址模式字段指定指令的地址模式和/或访问模式。在一个实施例中，访问模式用于限定针对指令的数据访问对齐。一些实施例支持访问模式，包括16字节对齐访问模式和1字节对齐访问模式，其中，访问模式的字节对齐确定了指令操作数的访问对齐。例如，当在第一模式中时，指令可以使用字节对齐寻址以用于源操作数和目的地操作数，并且当在第二模式中时，指令可以使用16字节对齐寻址以用于所有的源操作数和目的地操作数。
在一个实施例中，访问/地址模式字段726的地址模式部分确定指令是使用直接寻址还是间接寻址。当使用直接寄存器寻址模式时，指令中的位直接提供一个或多个操作数的寄存器地址。当使用间接寄存器寻址模式时，可以基于指令中的地址寄存器值和地址立即数字段来计算一个或多个操作数的寄存器地址。
在一些实施例中，基于操作码712位字段对指令进行分组从而简化操作码解码740。针对8位的操作码，第4、5、和6位允许执行单元确定操作码的类型。所示出的精确操作码分组仅是示例性的。在一些实施例中，移动和逻辑操作码组742包括数据移动和逻辑指令(例如，移动(mov)、比较(cmp))。在一些实施例中，移动和逻辑组742共享五个最高有效位(MSB)，其中移动(mov)指令采用0000xxxxb的形式，而逻辑指令采用0001xxxxb的形式。流控制指令组744(例如，调用(call)、跳(jmp))包括采用0010xxxxb形式(例如，0x20)的指令。混杂指令组746包括指令的混合，包括采用0011xxxxb形式(例如，0x30)的同步指令(例如，等待(wait)、发送(send))。并行数学指令组748包括采用0100xxxxb形式(例如，0x40)的按分量的算术指令(例如，加(add)、乘(mul))。并行数学组748跨数据通道并行地执行算术运算。向量数学组750包括采用0101xxxxb形式(例如，0x50)的算术指令(例如，dp4)。向量数学组对向量操作数执行算术运算，诸如点积运算。
图形流水线
图8是图形处理器800的另一个实施例的框图。图8的具有与此处任何其他附图中的元件相同的参考号(或名称)的那些元件可采用与在本文中其他地方描述的方式相类似的任何方式进行操作或起作用，但不限于这些。
在一些实施例中，图形处理器800包括几何流水线820、媒体流水线830、显示引擎840、线程执行逻辑850、以及渲染输出流水线870。在一些实施例中，图形处理器800是包括一个或多个通用处理核的多核处理系统内的图形处理器。图形处理器受到至一个或多个控制寄存器(未示出)的寄存器写入的控制或者经由环形互连802经由发布至图形处理器800的命令被控制。在一些实施例中，环形互连802将图形处理器800耦合至其他处理部件，比如其他图形处理器或通用处理器。来自环形互连802的命令通过命令流转化器803被解译，所述命令流转化器将指令供应至几何流水线820或媒体流水线830的单独部件。
在一些实施例中，命令流转化器803引导顶点获取器805的操作，所述顶点获取器从存储器读取顶点数据并执行由命令流转化器803所提供的顶点处理命令。在一些实施例中，顶点获取器805将顶点数据提供给顶点着色器807，所述顶点着色器对每个顶点执行坐标空间变换和照明操作。在一些实施例中，顶点获取器805和顶点着色器807通过经由线程分派器831向执行单元852A至852B分派执行线程来执行顶点处理指令。
在一些实施例中，执行单元852A至852B是具有用于执行图形和媒体操作的指令集的向量处理器阵列。在一些实施例中，执行单元852A至852B具有附接的L1高速缓存851，所述高速缓存专用于每个阵列或在阵列之间共享。高速缓存可以被配置为数据高速缓存、指令高速缓存、或单个高速缓存，所述单个高速缓存被分区为包含不同分区中的数据和指令。
在一些实施例中，几何流水线820包括用于执行3D对象的硬件加速曲面细分的曲面细分部件。在一些实施例中，可编程的外壳着色器811配置曲面细分操作。可编程域着色器817提供对曲面细分输出的后端评估。曲面细分器813在外壳着色器811的方向上进行操作并且包含专用逻辑，所述专用逻辑用于基于粗糙几何模型来生成详细的几何对象集合，所述粗糙几何模型作为输入被提供至几何流水线820。在一些实施例中，如果未使用曲面细分，则可以对曲面细分部件(例如，外壳着色器811、曲面细分器813、域着色器817)进行旁路。
在一些实施例中，完整的几何对象可以由几何着色器819经由被分派至所述执行单元852A至852B的一个或多个线程来处理、或者可以直接行进至剪辑器829。在一些实施例中，几何着色器在整个几何对象(而非顶点或者如图形流水线的先前级中的顶点补片(patch))上进行操作。如果禁用曲面细分，则几何着色器819从顶点着色器807接收输入。在一些实施例中，几何着色器819可由几何着色器程序编程以便在曲面细分单元被禁用时执行几何曲面细分。
在光栅化之前，剪辑器829处理顶点数据。剪辑器829可以是固定功能的剪辑器或者具有剪辑和几何着色器功能的可编程剪辑器。在一些实施例中，渲染输出流水线870中的光栅化器和深度测试部件873分派像素着色器以将几何对象转换成每像素表示。在一些实施例中，像素着色器逻辑包括在线程执行逻辑850中。在一些实施例中，应用可对光栅化器和深度测试部件873进行旁路并且经由流出单元823访问未光栅化的顶点数据。
图形处理器800具有互连总线、互连结构、或某个其他的互连机制，所述互连机制允许数据和消息在所述图形处理器的主要部件之中传递。在一些实施例中，执行单元852A至852B和相关联的逻辑单元(例如，L1高速缓存851、采样器854、纹理高速缓存858等)经由数据端口856进行互连，以便执行存储器访问并且与处理器的渲染输出流水线部件进行通信。在一些实施例中，采样器854、高速缓存851、858以及执行单元852A至852B各自具有单独的存储器访问路径。在一个实施例中，纹理高速缓存858还可被配置成采样器高速缓存。
在一些实施例中，渲染输出流水线870包含光栅化器和深度测试部件873，所述光栅化器和深度测试部件将基于顶点的对象转换为相关联的基于像素的表示。在一些实施例中，光栅化器逻辑包括用于执行固定功能三角形和线光栅化的窗口器/掩蔽器单元。相关联的渲染高速缓存878和深度高速缓存879在一些实施例中也是可用的。像素操作部件877对数据进行基于像素的操作，然而在一些实例中，与2D操作(例如，利用混合的位块图像传递)相关联的像素操作由2D引擎841执行、或者在显示时间由显示控制器843使用重叠显示平面来代替。在一些实施例中，共享的L3高速缓存875可用于所有的图形部件，从而允许在无需使用主系统存储器的情况下共享数据。
在一些实施例中，图形处理器媒体流水线830包括媒体引擎837和视频前端834。在一些实施例中，视频前端834从命令流转化器803接收流水线命令。在一些实施例中，媒体流水线830包括单独的命令流转化器。在一些实施例中，视频前端834在将所述命令发送至媒体引擎837之前处理媒体命令。在一些实施例中，媒体引擎837包括用于生成线程以用于经由线程分派器831分派至线程执行逻辑850的线程生成功能。
在一些实施例中，图形处理器800包括显示引擎840。在一些实施例中，显示引擎840在处理器800外部并且经由环形互连802、或某个其他互连总线或机构与图形处理器耦合。在一些实施例中，显示引擎840包括2D引擎841和显示控制器843。在一些实施例中，显示引擎840包含能够独立于3D流水线而操作的专用逻辑。在一些实施例中，显示控制器843与显示设备(未示出)耦合，所述显示设备可以是系统集成显示设备(如在膝上型计算机中)、或者经由显示设备连接器附接的外部显示设备。
在一些实施例中，几何流水线820和媒体流水线830可被配置成用于基于多个图形和媒体编程接口执行操作并且并非专用于任何一种应用编程接口(API)。在一些实施例中，图形处理器的驱动器软件将专用于特定图形或媒体库的API调度转换成可由图形处理器处理的命令。在一些实施例中，为全部来自Khronos Group的开放图形库(OpenGL)、开放计算语言(OpenCL)和/或Vulkan图形和计算API提供了支持。在一些实施例中，也可以为微软公司的Direct3D库提供支持。在一些实施例中，可以支持这些库的组合。还可以为开源计算机视觉库(OpenCV)提供支持。如果可做出从未来API的流水线到图形处理器的流水线的映射，则具有兼容3D流水线的未来API也将受到支持。
图形流水线编程
图9A是展示了根据一些实施例的图形处理器命令格式900的框图。图9B是展示了根据实施例的图形处理器命令序列910的框图。图9A中的实线框展示了通常包括在图形命令中的部件，而虚线包括是可选的或者仅包括在所述图形命令的子集中的部件。图9A的示例性图形处理器命令格式900包括用于标识客户端902、命令操作代码(操作码)904、以及用于命令的数据906的数据字段。一些命令中还包括子操作码905和命令大小908。
在一些实施例中，客户端902指定了处理命令数据的图形设备的客户端单元。在一些实施例中，图形处理器命令解析器检查每个命令的客户端字段以便调整对命令的进一步处理并将命令数据路由至合适的客户端单元。在一些实施例中，图形处理器客户端单元包括存储器接口单元、渲染单元、2D单元、3D单元、和媒体单元。每个客户端单元具有对命令进行处理的相应处理流水线。一旦命令被客户端单元接收到，客户端单元就读取操作码904以及子操作码905(如果存在的话)从而确定要执行的操作。客户端单元使用数据字段906内的信息来执行命令。针对一些命令，期望显式的命令大小908来指定命令的大小。在一些实施例中，命令解析器基于命令操作码自动地确定命令中的至少一些命令的大小。在一些实施例中，经由双倍字长的倍数对命令进行对齐。
图9B中的流程图示出了示例性图形处理器命令序列910。在一些实施例中，以图形处理器的实施例为特征的数据处理系统的软件或固件使用所示出的命令序列的版本来启动、执行并终止图形操作集合。仅出于示例性目的示出并描述了样本命令序列，如实施例并不限于这些特定命令或者此命令序列。而且，所述命令可以作为一批命令以命令序列被发布，从而使得图形处理器将以至少部分同时的方式处理命令序列。
在一些实施例中，图形处理器命令序列910可以以流水线转储清除命令912开始以便使得任一活跃图形流水线完成针对所述流水线的当前未决命令。在一些实施例中，3D流水线922和媒体流水线924不同时进行操作。执行流水线转储清除以使得活动图形流水线完成任何未决命令。响应于流水线转储清除，用于图形处理器的命令解析器将停止命令处理直到活跃绘画引擎完成未决操作并且使得相关的读高速缓存失效。可选地，渲染高速缓存中被标记为‘脏’的任何数据可以被转储清除到存储器中。在一些实施例中，流水线转储清除命令912可以用于流水线同步或者用在将图形处理器置于低功率状态之前。
在一些实施例中，当命令序列需要图形处理器在流水线之间显式地地切换时，使用流水线选择命令913。在一些实施例中，在发布流水线命令之前在执行情境中仅需要一次流水线选择命令913，除非所述情境要发布针对两条流水线的命令。在一些实施例中，在经由流水线选择命令913的流水线切换之前正好需要流水线转储清除命令912。
在一些实施例中，流水线控制命令914配置用于操作的图形流水线并且用于对3D流水线922和媒体流水线924进行编程。在一些实施例中，流水线控制命令914配置活跃流水线的流水线状态。在一个实施例中，流水线控制命令914用于流水线同步并且用于在处理一批命令之前清除来自活跃流水线内的一个或多个高速缓存存储器中的数据。
在一些实施例中，返回缓冲器状态命令916用于配置返回缓冲器的集合以供相应的流水线写入数据。一些流水线操作需要分配、选择、或配置一个或多个返回缓冲器，在处理过程中所述操作将中间数据写入所述一个或多个返回缓冲器中。在一些实施例中，图形处理器还使用一个或多个返回缓冲器以便存储输出数据并且执行跨线程通信。在一些实施例中，返回缓冲器状态916包括选择返回缓冲器的大小和数量以用于流水线操作集合。
命令序列中的剩余命令基于用于操作的活跃流水线而不同。基于流水线判定920，所述命令序列被定制用于以3D流水线状态930开始的3D流水线922、或者在媒体流水线状态940处开始的媒体流水线924。
用于配置3D流水线状态930的命令包括用于顶点缓冲器状态、顶点元素状态、常量颜色状态、深度缓冲器状态、以及有待在处理3D图元命令之前配置的其他状态变量的3D状态设置命令。这些命令的值至少部分地基于使用中的特定3D API来确定。在一些实施例中，3D流水线状态930命令还能够选择性地禁用或旁路掉特定流水线元件(如果将不使用那些元件的话)。
在一些实施例中，3D图元932命令用于提交待由3D流水线处理的3D图元。经由3D图元932命令传递给图形处理器的命令和相关联参数将被转发到所述图形流水线中的顶点获取功能。顶点获取功能使用3D图元932命令数据来生成多个顶点数据结构。所述顶点数据结构被存储在一个或多个返回缓冲器中。在一些实施例中，3D图元932命令用于经由顶点着色器对3D图元执行顶点操作。为了处理顶点着色器，3D流水线922将着色器执行线程分派至图形处理器执行单元。
在一些实施例中，经由执行934命令或事件触发3D流水线922。在一些实施例中，寄存器写入触发命令执行。在一些实施例中，经由命令序列中的‘前进’(‘go’)或‘拣选’(‘kick’)命令来触发执行。在一个实施例中，使用流水线同步命令来触发命令执行以便通过图形流水线转储清除命令序列。3D流水线将针对3D图元来执行几何处理。一旦完成操作，则对所产生的几何对象进行光栅化，并且像素引擎对所产生的像素进行着色。对于这些操作，还可以包括用于控制像素着色和像素后端操作的附加命令。
在一些实施例中，当执行媒体操作时，图形处理器命令序列910跟随在媒体流水线924路径之后。一般地，针对媒体流水线924进行编程的具体用途和方式取决于待执行的媒体或计算操作。在媒体解码过程中，特定的媒体解码操作可以被卸载到所述媒体流水线。在一些实施例中，还可对媒体流水线进行旁路，并且可使用由一个或多个通用处理核提供的资源来整体地或部分地执行媒体解码。在一个实施例中，媒体流水线还包括用于通用图形处理器单元(GPGPU)操作的元件，其中，所述图形处理器用于使用计算着色器程序来执行SIMD向量运算，所述计算着色器程序与渲染图形图元不是显式地相关的。
在一些实施例中，以与3D流水线922相似的方式对媒体流水线924进行配置。将用于配置媒体流水线状态940的一组命令分派或放置到命令队列中，在媒体对象命令942之前。在一些实施例中，用于媒体流水线状态的命令940包括用于配置媒体流水线元件的数据，所述媒体流水线元件将用于处理媒体对象。这包括用于在媒体流水线内配置视频解码和视频编码逻辑的数据，诸如编码或解码格式。在一些实施例中，用于媒体流水线状态的命令940还支持将一个或多个指针用于包含一批状态设置的“间接”状态元件。
在一些实施例中，媒体对象命令942将指针供应至媒体对象以用于由媒体流水线进行处理。媒体对象包括存储器缓冲器，所述存储器缓冲器包含待处理的视频数据。在一些实施例中，在发布媒体对象命令942之前，所有的媒体流水线状态必须是有效的。一旦流水线状态被配置并且媒体对象命令942被排队，则经由执行944命令或等效的执行事件(例如，寄存器写入)来触发媒体流水线924。然后可以通过由3D流水线922或媒体流水线924提供的操作对来自媒体流水线924的输出进行后处理。在一些实施例中，以与媒体操作类似的方式来配置和执行GPGPU操作。
图形软件架构
图10展示了根据一些实施例的数据处理系统1000的示例性图形软件架构。在一些实施例中，软件架构包括3D图形应用1010、操作系统1020、以及至少一个处理器1030。在一些实施例中，处理器1030包括图形处理器1032以及一个或多个通用处理器核1034。图形应用1010和操作系统1020各自在数据处理系统的系统存储器1050中执行。
在一些实施例中，3D图形应用1010包含一个或多个着色器程序，所述一个或多个着色器程序包括着色器指令1012。着色器语言指令可以采用高级着色器语言，诸如高级着色器语言(HLSL)或OpenGL着色器语言(GLSL)。所述应用还包括可执行指令1014，所述可执行指令采用适合用于由通用处理器核1034执行的机器语言。所述应用还包括由顶点数据限定的图形对象1016。
在一些实施例中，操作系统1020是来自微软公司的 操作系统、专用UNIX式操作系统、或使用Linux内核变体的开源UNIX式操作系统。操作系统1020可以支持图形API 1022，诸如Direct3D API、OpenGL API或Vulkan API。当Direct3D API正在使用时，操作系统1020使用前端着色器编译器1024以将HLSL中的任何着色器指令1012编译成较低级的着色器语言。所述编译可以是即时(JIT)编译，或者所述应用可执行着色器预编译。在一些实施例中，在对3D图形应用1010进行编译的过程中，将高级着色器编译成低级着色器。在一些实施例中，着色器指令1012以中间形式提供，诸如由Vulkan API使用的标准便携式中间表示(SPIR)的版本。
在一些实施例中，用户模式图形驱动器1026包含后端着色器编译器1027，所述后端着色器编译器用于将着色器指令1012转换成硬件专用的表示。当在使用OpenGL API时，将采用GLSL高级语言的着色器指令1012传递至用户模式图形驱动器1026以用于编译。在一些实施例中，用户模式图形驱动器1026使用操作系统内核模式功能1028来与内核模式图形驱动器1029进行通信。在一些实施例中，内核模式图形驱动器1029与图形处理器1032进行通信以便分派命令和指令。
IP核实现
至少一个实施例的一个或多个方面可以由存储在机器可读介质上的代表性代码实现，所述机器可读介质表示和/或限定集成电路诸如处理器内的逻辑。例如，机器可读介质可以包括表示处理器内的各个逻辑的指令。当由机器读取时，所述指令可以使机器制造用于执行本文所述的技术的逻辑。这类表示(称为“IP核”)是集成电路的逻辑的可重复使用单元，所述可重复使用单元可以作为对集成电路的结构进行描述的硬件模型而存储在有形、机器可读介质上。可以将硬件模型供应至在制造集成电路的制造机器上加载硬件模型的各消费者或制造设施。可以制造集成电路，从而使得电路执行与本文所述的实施例中的任一实施例相关联地描述的操作。
图11A是展示了根据实施例的可以用于制造集成电路以执行操作的IP核开发系统1100的框图。IP核开发系统1100可以用于生成可并入到更大的设计中或用于构建整个集成电路(例如，SOC集成电路)的模块化、可重复使用设计。设计设施1130可采用高级编程语言(例如，C/C++)生成对IP核设计的软件仿真1110。软件仿真1110可用于使用仿真模型1112来设计、测试并验证IP核的行为。仿真模型1112可以包括功能、行为和/或时序仿真。然后可由仿真模型1112来创建或合成寄存器传输级(RTL)设计1115。RTL设计1115是对硬件寄存器之间的数字信号的流动进行建模的集成电路(包括使用建模的数字信号执行的相关联逻辑)的行为的抽象。除了RTL设计1115之外，还可以创建、设计或合成逻辑电平或晶体管电平处的较低层次设计。由此，初始设计和仿真的具体细节可以发生变化。
可以由设计设施将RTL设计1115或等效方案进一步合成为硬件模型1120，所述硬件模型可以采用硬件描述语言(HDL)或物理设计数据的某种其他表示。可以进一步仿真或测试HDL以验证IP核设计。可使用非易失性存储器1140(例如，硬盘、闪存、或任何非易失性存储介质)来存储IP核设计以用于递送至第3方制造设施1165。可替代地，可以通过有线连接1150或无线连接1160来传输(例如，经由互联网)IP核设计。制造设施1165然后可以制造至少部分地基于IP核设计的集成电路。所制造的集成电路可被配置用于执行根据本文所述的至少一个实施例的操作。
图11B展示了根据本文所描述的一些实施例的集成电路封装体组件1170的截面侧视图。集成电路封装体组件1170展示了如本文所描述的一个或多个处理器或加速器设备的实施方式。封装体组件1170包括连接至衬底1180的多个硬件逻辑单元1172、1174。逻辑1172、1174可以至少部分地在可配置逻辑或固定功能逻辑硬件中实施，并且可以包括(多个)处理器核、(多个)图形处理器或本文所描述的其他加速器设备中的任何的一个或多个部分。每个逻辑单元1172、1174可以在半导体管芯内实施并且经由互连结构1173与衬底1180耦合。互连结构1173可以被配置成在逻辑1172、1174与衬底1180之间路由电信号，并且可以包括互连，如但不限于凸块或支柱。在一些实施例中，互连结构1173可以被配置成路由电信号，如例如，与逻辑1172、1174的操作相关联的输入/输出(I/O)信号和/或功率或接地信号。在一些实施例中，衬底1180是基于环氧树脂的层压衬底。在其他实施例中，封装体衬底1180可以包括其他合适类型的衬底。封装体组件1170可以经由封装体互连1183连接至其他电气设备。封装体互连1183可以耦合至衬底1180的表面以便将电信号路由到其他电气设备，如母板、其他芯片组或多芯片模块。
在一些实施例中，逻辑单元1172、1174与桥接器1182电耦合，所述桥接器被配置成在逻辑1172、1174之间路由电信号。桥接器1182可以是为电信号提供路由的密集互连结构。桥接器1182可以包括由玻璃或合适的半导体材料构成的桥式衬底。电路由特征可以在桥接器衬底上形成以便提供逻辑1172、1174之间的芯片到芯片连接。
尽管展示了两个逻辑单元1172、1174和桥接器1182，但是本文所描述的实施例可以包括一个或多个管芯上的更多或更少的逻辑单元。所述一个或多个管芯可以由零个或多个桥接器连接，因为在单个管芯上包括逻辑时，可以排除桥接器1182。替代性地，多个管芯或逻辑单元可以由一个或多个桥接器连接。另外，多个逻辑单元、管芯和桥接器可以以包括三维配置等其他可能的配置连接在一起。
示例性芯片上系统集成电路
图12至图14展示了根据本文所述的各种实施例的可以使用一个或多个IP核来制造的示例性集成电路和相关图形处理器。除了所展示的之外，还可以包括其他逻辑和电路，包括附加的图形处理器/核、外围接口控制器或通用处理器核。
图12是展示了根据实施例的可以使用一个或多个IP核来制造的示例性芯片上系统集成电路1200的框图。示例性集成电路1200包括一个或多个应用处理器1205(例如，CPU)、至少一个图形处理器1210，并且另外还可以包括图像处理器1215和/或视频处理器1220，其中的任一项都可以是来自相同或多个不同设计设施的模块化IP核。集成电路1200包括外围或总线逻辑，包括USB控制器1225、UART控制器1230、SPI/SDIO控制器1235和I2S/I2C控制器1240。另外，集成电路还可以包括显示设备1245，所述显示设备耦合至高清晰度多媒体接口(HDMI)控制器1250和移动行业处理器接口(MIPI)显示界面1255中的一项或多项。可以由闪存子系统1260(包括闪存和闪存控制器)来提供存储。可以经由存储器控制器1265来提供存储器接口以访问SDRAM或SRAM存储器设备。另外，一些集成电路还包括嵌入式安全引擎1270。
图13A至图13B是框图，展示了根据本文所描述的实施例的用于在SoC内使用的示例性图形处理器。图13A展示了根据实施例的可以使用一个或多个IP核来制造的芯片上系统集成电路的示例性图形处理器1310。图13B展示了根据实施例的可以使用一个或多个IP核来制造的芯片上系统集成电路的附加示例性图形处理器1340。图13A的图形处理器1310是低功率图形处理器核的示例。图13B的图形处理器1340是较高性能图形处理器核的示例。图形处理器1310、1340中的每一个可以是图12的图形处理器1210的变体。
如图13A中所示，图形处理器1310包括顶点处理器1305以及一个或多个片段处理器1315A至1315N(例如，1315A、1315B、1315C、1315D，一直到1315N-1和1315N)。图形处理器1310可以经由单独的逻辑执行不同的着色器程序，使得顶点处理器1305被优化以执行顶点着色器程序的操作，而所述一个或多个片段处理器1315A至1315N执行片段(例如，像素)着色操作以用于片段或像素着色器程序。顶点处理器1305执行3D图形流水线的顶点处理阶段并生成图元和顶点数据。(多个)片段处理器1315A至1315N使用由顶点处理器1305生成的图元和顶点数据来产生显示在显示设备上的帧缓冲器。在一个实施例中，(多个)片段处理器1315A至1315N被优化以执行OpenGL API中提供的片段着色器程序，这些片段着色器程序可以用于执行与Direct 3D API中提供的像素着色器程序相似的操作。
另外，图形处理器1310还包括一个或多个存储器管理单元(MMU)1320A至1320B、一个或多个高速缓存1325A至1325B以及一个或多个电路互连1330A至1330B。所述一个或多个MMU 1320A至1320B为图形处理器1310包括为顶点处理器1305和/或(多个)片段处理器1315A至1315N提供虚拟到物理地址映射，除了存储在所述一个或多个高速缓存1325A至1325B中的顶点或图像/纹理数据之外，所述虚拟到物理地址映射还可以引用存储在存储器中的顶点或图像/纹理数据。在一个实施例中，所述一个或多个MMU 1320A至1320B可以与系统内的包括与图12的所述一个或多个应用处理器1205、图像处理器1215和/或视频处理器1220相关联的一个或多个MMU在内的其他MMU同步，使得每个处理器1205至1220可以参与共享或统一的虚拟存储器系统。根据实施例，所述一个或多个电路互连1330A至1330B使得图形处理器1310能够经由SoC的内部总线或经由直接连接来与SoC内的其他IP核交互。
如图13B中所示，图形处理器1340包括图13A的图形处理器1310的所述一个或多个MMU 1320A至1320B、高速缓存1325A至1325B、以及电路互连1330A至1330B。图形处理器1340包括一个或多个着色器核1355A至1355N(例如，1455A、1355B、1355C、1355D、1355E、1355F，一直到1355N-1和1355N)，所述一个或多个着色器核提供统一的着色器核架构，在所述统一的着色器核架构中，单个核或类型或核可以执行所有类型的可编程着色器代码包括着色器程序代码以实施顶点着色器、片段着色器和/或计算着色器。存在的确切着色器核数量可以在实施例和实施方式中变化。另外，图形处理器1340包括核间任务管理器1345，所述核间任务管理器充当用于将执行线程分派给一个或多个着色器核1355A至1355N的线程分派器和用于加速分块操作以进行基于分块的渲染的分块单元1358，在所述基于分块的渲染中，针对某一场景的渲染操作在图像空间中被细分，例如以利用场景内的局部空间一致性或优化内部高速缓存的使用。
图14A至图14B展示了根据本文所描述的实施例的附加示例性图形处理器逻辑。图14A展示了图形核1400，所述图形核可以包括在图12的图形处理器1210内并且可以是如图13B中的统一着色器核1355A至1355N。图14B展示了适合于部署在多芯片模块上的高度并行的通用图形处理单元1430。
如图14A中所示，图形核1400包括对于图形核1400内的执行资源而言共同的共享指令高速缓存1402、纹理单元1418和高速缓存存储器/共享存储器1420。图形核1400可以包括多个切片1401A至1401N或针对每个核分区，并且图形处理器可以包括图形核1400的多个实例。切片1401A至1401N可以包括支持逻辑，所述支持逻辑包括本地指令高速缓存1404A至1404N、线程调度器1406A至1406N、线程分派器1408A至1408N、以及一组寄存器1410A。为了执行逻辑运算，切片1401A至1401N可以包括一组附加功能单元(AFU1412A至1412N)、浮点单元(FPU 1414A至1414N)、整数算术逻辑单元(ALU1416至1416N)、寻址计算单元(ACU 1413A至1413N)、双精度浮点单元(DPFPU 1415A至1415N)、以及矩阵处理单元(MPU 1417A至1417N)。
这些计算单元中的一些以特定精度进行操作。例如，FPU 1414A至1414N可以执行单精度(32位)和半精度(16位)浮点运算，而DPFPU 1415A至1415N执行双精度(64位)浮点运算。ALU 1416A至1416N可以以8位精度、16位精度和32位精度执行可变精度整数运算，并且可以被配置用于混合精度运算。MPU 1417A至1417N还可以被配置用于混合精度矩阵运算，包括半精度浮点运算和8位整数运算。MPU 1417至1417N可以执行各种各样的矩阵运算以便加速机器学习应用框架，包括使能支持加速的通用矩阵到矩阵乘法(GEMM)。AFU 1412A至1412N可以执行不受浮点单元或整数单元支持的附加逻辑运算，包括三角函数运算(例如，正弦、余弦等)。
如图14B中所示出的，通用处理单元(GPGPU)1430可以被配置成使得能够由图形处理单元阵列执行高度并行的计算操作。另外，GPGPU 1430可以直接链接到GPGPU的其他实例以便创建多GPU集群，从而提高尤其是深度神经网络的训练速度。GPGPU 1430包括用于实现与主机处理器的连接的主机接口1432。在一个实施例中，主机接口1432是PCI Express接口。然而，主机接口还可以是供应方特定的通信接口或通信结构。GPGPU 1430从主机处理器接收命令并且使用全局调度器1434将与那些命令相关联的执行线程分发给一组计算集群1436A至1436H。计算集群1436A至1436H共享高速缓存存储器1438。高速缓存存储器1438可以充当计算集群1436A至1436H内的高速缓存存储器的更高级高速缓存。
GPGPU 1430包括经由一组存储器控制器1442A至1442B与计算集群1436A至1436H耦合的存储器1434A至1434B。在各个实施例中，存储器1434A至1434B可以包括各种类型的存储器设备，包括动态随机存取存储器(DRAM)或图形随机存取存储器，如同步图形随机存取存储器(SGRAM)，包括图形双倍数据速率(GDDR)存储器。
在一个实施例中，计算集群1436A至1436H各自包括一组图形核，如图14A的图形核1400，所述图形核可以包括多种类型的整数逻辑单元和浮点逻辑单元，所述多种类型的整数逻辑单元和浮点逻辑单元可以在一定精度范围内执行包括适合于机器学习计算的计算操作。例如并且在一个实施例中，计算集群1436A至1436H中的每一个中的浮点单元中的至少一个子集可以被配置成执行16位或32位浮点运算，而浮点单元的不同子集可以被配置成执行64位浮点运算。
GPGPU 1430的多个实例可以被配置成作为计算集群进行操作。由计算集群用来进行同步和数据交换的计算机制跨实施例而变化。在一个实施例中，GPGPU 1430的多个实例通过主机接口1432进行通信。在一个实施例中，GPGPU 1430包括I/O中枢1439，所述I/O中枢将GPGPU 1430与实现到GPGPU的其他实例的直接连接的GPU链路1440耦合。在一个实施例中，GPU链路1440耦合至实现GPGPU 1430的多个实例之间的通信和同步的专用GPU到GPU桥接器。在一个实施例中，GPU链路1440与高速互连耦合以便向其他GPGPU或并行处理器发射和接收数据。在一个实施例中，GPGPU 1430的多个实例位于单独的数据处理系统中并且经由可经由主机接口1432访问的网络设备进行通信。在一个实施例中，除了或作为到主机接口1432的替代方案，GPU链路1440可以被配置成实现到主机处理器的连接。
尽管GPGPU 1430的所展示配置可以被配置成训练神经网络，但是一个实施例提供了GPGPU 1430的替代配置，所述替代配置可以被配置成部署在高性能或低功率推断平台内。在推断配置中，GPGPU 1430包括计算集群1436A至1436H中与训练配置有关的更少计算集群。另外，与存储器1434A至1434B相关联的存储器技术可以在推断配置与训练配置之间不同，其中，更高带宽存储器技术专用于训练配置。在一个实施例中，GPGPU 1430的推断配置可以支持推断特定指令。例如，推断配置可以提供对一个或多个8位整数点积指令的支持，所述指令通常在部署的神经网络的推断操作期间使用。
机器学习概述
机器学习算法是可以基于一组数据来学习的算法。机器学习算法的实施例可以被设计成对数据集内的高阶抽象进行建模。例如，图像识别算法可以用于确定给定的输入属于若干种类别中的哪一种；回归算法可以在给定输入的情况下输出数值；并且模式识别算法可以用于生成翻译文本或执行文本至语音和/或语音识别。
一种示例类型的机器学习算法是神经网络。存在许多类型的神经网络；一种简单类型的神经网络是前馈网络。可将前馈网络实现为无环图，其中节点布置在层中。通常，前馈网络拓扑包括输入层和输出层，输入层和输出层通过至少一个隐藏层分开。隐藏层将由输入层接收到的输入变换为对在输出层中生成输出有用的表示。网络节点经由边缘全连接至相邻层中的节点，但每个层内的节点之间不存在边缘。在前馈网络的输入层的节点处接收的数据经由激活函数被传播(即，“前馈”)至输出层的节点，所述激活函数基于系数(“权重”)来计算网络中的每个连续层的节点的状态，所述系数分别与连接这些层的边缘中的每一个相关联。取决于由执行的算法所表示的特定模型，来自神经网络算法的输出可以采用各种形式。
在可以使用机器学习算法来对具体问题进行建模之前，使用训练数据集来训练所述算法。训练神经网络涉及：选择网络拓扑；使用表示被网络建模的问题的一组训练数据；以及调节权重，直到网络模型针对训练数据集的所有实例表现为具有最小误差。例如，在用于神经网络的监督式学习训练过程期间，将由网络响应于表示训练数据集中的实例的输入所产生的输出与所述实例的“正确”的已标记输出相比较；计算表示所述输出与已标记输出之间的差异的误差信号；以及当将误差信号向后传播穿过网络的层时，调节与所述连接相关联的权重以最小化所述误差。当从训练数据集的实例中生成的每个输出的误差被最小化时，网络被视为“已经过训练”。
机器学习算法的准确度会受到用于训练所述算法的数据集的质量的很大影响。训练过程可以是计算密集型的，并且在常规通用处理器上可能需要大量的时间。因此，使用并行处理硬件来训练许多类型的机器学习算法。这对于优化神经网络的训练是特别有用的，因为在调节神经网络中的系数时执行的计算本身自然地适于并行实现方式。具体地，许多机器学习算法和软件应用已被适配成在通用图形处理设备内使用并行处理硬件。
图15是机器学习软件堆叠1500的广义图。机器学习应用1502可以被配置成使用训练数据集来训练神经网络或使用已训练的深度神经网络来实现机器智能。机器学习应用1502可以包括神经网络和/或专用软件的训练和推断功能，所述功能可以用于在部署之前训练神经网络。机器学习应用1502可以实现任何类型的机器智能，包括但不限于：图像识别、映射和定位、自主导航、语音合成、医学成像或语言翻译。
可以经由机器学习框架1504来实现针对机器学习应用1502的硬件加速。机器学习框架1504可以提供机器学习图元(primitive)库。机器学习图元是机器学习算法通常执行的基本操作。在没有机器学习框架1504的情况下，将需要机器学习算法的开发者创建和优化与机器学习算法相关联的主要计算逻辑，然后在开发出新的并行处理器时重新优化所述计算逻辑。相反，机器学习应用可以被配置成使用由机器学习框架1504提供的图元来执行必要的计算。示例性图元包括张量卷积、激活函数和池化，它们是在训练卷积神经网络(CNN)时执行的计算操作。机器学习框架1504还可以提供图元以用于实现由许多机器学习算法执行的基本线性代数子程序，比如矩阵和向量运算。
机器学习框架1504可以处理从机器学习应用1502接收的输入数据，并生成至计算框架1506的适当输入。计算框架1506可以使提供给GPGPU驱动器1508的底层指令抽象化，以使得机器学习框架1504能够经由GPGPU硬件1510来利用硬件加速而无需机器学习框架1504非常熟悉GPGPU硬件1510的架构。另外，计算框架1506可以跨越多种类型和各代GPGPU硬件1510来实现针对机器学习框架1504的硬件加速。
机器学习神经网络实现方式
由本文描述的实施例提供的计算架构可以被配置成执行特别适合于训练和部署用于机器学习的神经网络的这些类型的并行处理。可以将神经网络一般化为具有图表关系的函数的网络。如本领域中所知道的，存在机器学习中所使用的多种类型的神经网络实现方式。一种示例性类型的神经网络是如先前描述的前馈网络。
第二种示例性类型的神经网络是卷积神经网络(CNN)。CNN是用于处理具有已知的、网格状拓扑的数据(比如，图像数据)的专用前馈神经网络。因此，CNN通常用于计算机视觉和图像识别应用，但它们也可用于其他类型的模式识别，比如语音和语言处理。CNN输入层中的节点被组织为一组“滤波器”(受视网膜中发现的感受野启发的特征检测器)，并且每一组滤波器的输出被传播至网络的连续层中的节点。用于CNN的计算包括将卷积数学运算应用于每个滤波器以产生所述滤波器的输出。卷积是由两个函数执行以产生第三个函数的一种专门的数学运算，所述第三个函数是两个原始函数中的一个的修改版本。在卷积网络术语中，关于卷积的第一个函数可以被称为输入，而第二个函数可以被称为卷积核。输出可被称为特征图。例如，至卷积层的输入可以是多维数据阵列，其定义输入图像的各种颜色分量。卷积核可以是多维参数阵列，其中通过针对神经网络的训练过程来适配所述参数。
递归神经网络(RNN)是一类前馈神经网络，其包括层之间的反馈连接。RNN使得能够通过跨神经网络的不同部分共享参数数据来对序列数据进行建模。RNN的架构包括循环。这些循环表示变量的当前值在未来的时间对其自身值的影响，因为来自RNN的输出数据的至少一部分被用作反馈以用于处理序列中的后续输入。由于语言数据可被组成的可变本质，这个特征使RNN变得对语言处理特别有用。
下文描述的图呈现了示例性前馈、CNN和RNN网络，以及描述了用于分别训练和部署那些类型的网络中的每一种的通用过程。将理解，这些描述就本文描述的任何特定实施例而论是示例性且非限制性的，并且一般说来可以通常将所展示的概念应用于深度神经网络和机器学习技术。
上文描述的示例性神经网络可以用于执行深度学习。深度学习是使用深度神经网络进行的机器学习。与仅包括单个隐藏层的浅层神经网络相反，深度学习中使用的深度神经网络是由多个隐藏层组成的人工神经网络。更具深度的神经网络通常训练起来更具计算密集性。然而，网络的附加隐藏层实现了多步模式识别，所述多步模式识别相对于浅层机器学习技术导致减少的输出误差。
深度学习中使用的深度神经网络通常包括前端网络以用于执行耦合至表示数学模型的后端网络的特征识别，所述数学模型可以基于提供给所述模型的特征表示来执行操作(例如，目标分类、语音识别等)。深度学习使得能够执行机器学习，而无需针对所述模型执行手工特征工程。相反，深度神经网络可以基于输入数据内的统计结构或相关性来学习特征。所学习的特征可以提供给数学模型，所述数学模型可以将所检测的特征映射至输出。由网络使用的数学模型通常专用于待执行的特定任务，并且不同的模型将用于执行不同的任务。
一旦将神经网络结构化，就可以将学习模型应用于网络以将网络训练成执行特定任务。学习模型描述如何在模型内调节权重以减少网络的输出误差。反向传播误差是一种用于训练神经网络的常用方法。向网络呈现输入向量以供处理。使用损失函数将网络的输出与期望的输出相比较，并且为输出层中的每个神经元计算误差值。然后，向后传播这些误差值，直到每个神经元具有粗略地表示其对原始输出的贡献的相关联误差值。然后，网络可以使用算法(比如，随机梯度下降算法)从那些误差中学习，以更新神经网络的权重。
图16A-16B展示示例性卷积神经网络。图16A展示CNN内的各个层。如图16A中所示，用于对图像处理进行建模的示例性CNN可以接收输入1602，所述输入描述输入图像的红、绿和蓝(RGB)分量。输入1602可以由多个卷积层(例如，第一卷积层1604、第二卷积层1606)处理。可选地，来自所述多个卷积层的输出可由一组全连接层1608处理。全连接层中的神经元具有至前一层中的所有激活函数的完全连接，如先前针对前馈网络所描述的。来自全连接层1608的输出可以用于从网络中生成输出结果。可以使用矩阵乘法而非卷积来计算全连接层1608内的激活函数。并非所有的CNN实现方式都使用全连接层1608。例如，在一些实现方式中，第二卷积层1606可以生成CNN的输出。
卷积层被稀疏地连接，这不同于全连接层1608中发现的传统神经网络配置。传统神经网络层被全连接，使得每个输出单元与每个输入单元相互作用。然而，卷积层被稀疏地连接，这是因为感受野的卷积的输出(而非感受野中的每个节点的相应状态值)被输入至后续层的节点，如所展示。与卷积层相关联的核执行卷积运算，所述卷积运算的输出被发送至下一个层。在卷积层内执行的降维是使得CNN能够进行缩放以处理大图像的一个方面。
图16B展示在CNN的卷积层内的示例性计算阶段。可以在卷积层1614的三个阶段中处理至CNN的卷积层的输入1612。这三个阶段可以包括卷积阶段1616、检测器阶段1618和池化阶段1620。然后，卷积层1614可以将数据输出至连续的卷积层。网络的最后一个卷积层可以生成输出特征图数据或提供至全连接层的输入，例如以生成至CNN的输入的分类值。
在卷积阶段1616中并行执行若干个卷积，以产生一组线性激活函数。卷积阶段1616可以包括仿射变换，所述仿射变换是可以被指定为线性变换外加平移的任何变换。仿射变换包括旋转、平移、缩放和这些变换的组合。卷积阶段计算连接至输入中特定区域的函数的输出(例如，神经元)，所述特定区域可以被确定为与神经元相关联的本地区域。神经元计算神经元的权重与本地输入(神经元连接至所述本地输入)中的区域之间的点积。来自卷积阶段1616的输出定义由卷积层1614的连续阶段处理的一组线性激活函数。
线性激活函数可以由检测器阶段1618处理。在检测器阶段1618中，每个线性激活函数由非线性激活函数处理。非线性激活函数增加整体网络的非线性性质，而不影响卷积层的感受野。可使用若干种类型的非线性激活函数。一个具体的类型是修正线性单元(ReLU)，其使用被定义为f(x)＝max(0，x)的激活函数，使得激活函数被阈值化为零。
池化阶段1620使用池化函数，所述池化函数用附近输出的概括统计数值来代替第二卷积层1606的输出。池化函数可以用于将平移不变性引入到神经网络中，使得至输入的轻微平移不改变池化输出。本地平移的不变性在输入数据的特征存在性比特征的精确位置更加重要的情况下可以是有用的。可以在池化阶段1620期间使用各种类型的池化函数，包括最大池化、平均池化和L2范数池化。另外，一些CNN实现方式不包括池化阶段。相反，这样的实现方式代用附加的卷积阶段，所述附加的卷积阶段相对于先前的卷积阶段具有增大的步幅。
然后，来自卷积层1614的输出可以由下一个层1622处理。下一个层1622可以是附加的卷积层或是全连接层1608中的一者。例如，图16A的第一卷积层1604可以输出至第二卷积层1606，而第二卷积层可以输出至全连接层1608中的第一层。
图17展示了示例性递归神经网络。在递归神经网络(RNN)中，网络的先前状态影响网络的当前状态的输出。可以使用各种各样的函数以各种各样的方式来建立RNN。RNN的使用通常围绕使用数学模型以基于先前的输入序列来预测未来。例如，RNN可用于执行统计语言建模以在给定先前的字序列的情况下预测即将来临的字。可以将所展示的RNN 1700描述为具有以下各项：输入层1702，其接收输入向量；隐藏层1704，用于实现递归函数；反馈机制1705，用于实现先前状态的‘存储器’；以及输出层1706，用于输出结果。RNN 1700基于时间步长来操作。经由反馈机制1705基于先前的时间步长来影响RNN在给定的时间步长的状态。针对给定的时间步长，由先前状态和在当前时间步长的输入来定义隐藏层1704的状态。在第一时间步长的初始输入(x1)可以由隐藏层1704处理。第二输入(x2)可以由隐藏层1704使用在处理初始输入(x1)期间所确定的状态信息来处理。可以将给定的状态计算为st＝f(Uxt+Wst-1)，其中，U和W是参数矩阵。函数f通常为非线性，比如双曲正切函数(Tanh)或修正函数f(x)＝max(0，x)的变体。然而，隐藏层1704中使用的特定数学函数可以取决于RNN 1700的特定实现方式细节而变化。
除所描述的基本CNN和RNN网络之外，还可实现那些网络的变化。一个示例RNN变体是长短期记忆(LSTM)RNN。LSTM RNN能够学习对于处理更长的语言序列来说可有必要的长期依赖。CNN的变体是卷积深度置信网络，所述卷积深度置信网络具有类似于CNN的结构并且以类似于深度置信网络的方式受训练。深度置信网络(DBN)是由随机性(随机)变量的多个层组成的生成式神经网络。可以使用贪婪式无监督式学习来逐层训练DBN。然后，DBN的学习权重可以用于通过确定用于神经网络的一组最佳初始权重来提供预训练神经网络。
图18展示深度神经网络的训练和部署。一旦已针对任务将给定的网络结构化，就使用训练数据集1802来训练神经网络。已开发出各种训练框架以用于实现对训练过程的硬件加速。例如，图15的机器学习框架1504可被配置为训练框架1804。训练框架1804可以跟未训练的神经网络1806挂钩，并且使得能够使用本文描述的并行处理资源来训练未训练的神经网以生成已训练的神经网1808。为了开始训练过程，可随机地或通过使用深度置信网络进行预训练来选择初始权重。然后，以监督或无监督的方式来执行训练循环。
监督式学习是一种学习方法，其中将训练作为仲裁操作来执行，比如当训练数据集1802包括输入(其与所述输入的期望输出成对)时，或在训练数据集包括具有已知的输出的输入并且神经网络的输出被手动地分级的情况下。网络处理输入，并且将所得输出与一组预期或期望的输出相比较。然后，通过系统反向传播误差。训练框架1804可以进行调节，以调节控制未训练的神经网络1806的权重。训练框架1804可以提供工具以用于监测未训练的神经网络1806在多大程度上收敛于适合基于已知的输入数据生成正确的答案的模型。当调节网络的权重以改善由神经网络生成的输出时，反复地出现训练过程。训练过程可以继续，直到神经网络达到与已训练的神经网1808相关联的统计上期望的准确度。然后，可以部署已训练的神经网络1808以实现任何数量的机器学习操作。
无监督式学习是一种学习方法，其中网络试图使用未标记数据来训练其自身。因此，针对无监督式学习，训练数据集1802将包括输入数据而无任何关联的输出数据。未训练的神经网络1806可以学习未标记输入内的分组，并且可以确定个别输入如何与整体数据集相关。无监督式训练可以用于生成自组织映射，所述自组织映射是能够执行在数据降维中有用的操作的一种类型的已训练神经网络1807。无监督式训练还可以用于执行异常检测，所述异常检测允许识别输入数据集中偏离数据正常模式的数据点。
还可采用监督式和无监督式训练的变化。半监督式学习是一项技术，其中训练数据集1802包括相同分布的已标记数据和未标记数据的混合。增量学习是监督式学习的变体，其中连续地使用输入数据以用于进一步训练模型。增量学习使得已训练的神经网络1808能够适配于新数据1812，而不忘记在初始训练期间根植在网络内的知识。
不管是监督式还是无监督式，用于特别深的神经网络的训练过程对于单个计算节点而言可能是过于计算密集的。可以使用计算节点的分布式网络而非使用单个计算节点来加速训练过程。
图19是展示分布式学习的框图。分布式学习是训练模型，其使用多个分布式计算节点来执行神经网络的监督式或无监督式训练。所述分布式计算节点可以各自包括一个或多个主机处理器以及通用处理节点中的一者或多者。如所展示，分布式学习可以执行模型并行化1902、数据并行化1904或模型和数据并行化1904的组合。
在模型并行化1902中，分布式系统中的不同计算节点可以针对单个网络的不同部分执行训练计算。例如，可以由分布式系统的不同处理节点来训练神经网络的每个层。模型并行化的益处包括能够缩放到特别大的模型。分裂与神经网络的不同层相关联的计算使得能够训练超大神经网络，其中所有层的权重将不纳入(fit into)单个计算节点的存储器中。在一些实例中，模型并行化在执行大型神经网络的无监督式训练中可以是特别有用的。
在数据并行化1904中，分布式网络的不同节点具有模型的完整实例，并且每个节点接收数据的不同部分。然后，组合来自不同节点的结果。虽然用于数据并行化的不同方法是有可能的，但是数据并行训练方法都需要一项组合结果并使每个节点之间的模型参数同步的技术。用于组合数据的示例性方法包括参数求平均和基于更新的数据并行化。参数求平均训练在训练数据的子集上的每个节点，并且将全局参数(例如，权重、偏差)设定至来自每个节点的参数的平均值。参数求平均使用保持参数数据的中心参数服务器。基于更新的数据并行化类似于参数求平均，除了以下情况之外：传递模型的更新而非将来自节点的参数传递到参数服务器。另外，可以以分散的方式执行基于更新的数据并行化，其中更新被压缩并且在节点之间传递。
例如，可以在分布式系统中实现经组合的模型和数据并行化1906，在所述分布式系统中，每个计算节点包括多个GPU。每个节点可以具有模型的完整实例，其中每个节点内的单独GPU用于训练模型的不同部分。
分布式训练相对于单个机器上的训练具有增加的开销。然而，本文描述的并行处理器和GPGPU可以各自实现各项技术以用于减少分布式训练的开销，包括用于实现高带宽GPU-GPU数据传递和加速的远程数据同步的技术。
示例性机器学习应用
可以应用机器学习以解决多项技术问题，包括但不限于计算机视觉、自主驾驶和导航、语音识别以及语言处理。计算机视觉传统上已是机器学习应用的最活跃研究领域之一。计算机视觉的应用范围为从重现人类视觉能力(比如，识别人脸)到创建新类别的视觉能力。例如，计算机视觉应用可以被配置成从视频中可见的物体中所诱导的振动来识别声波。并行处理器加速的机器学习使得能够使用明显大于先前可行的训练数据集的训练数据集来训练计算机视觉应用，并且使得能够使用低功率并行处理器来部署推断用系统。
并行处理器加速的机器学习具有自主驾驶应用，包括车道和道路标志识别、障碍回避、导航和驾驶控制。加速的机器学习技术可以用于基于数据集来训练驱动模型，所述数据集定义对特定训练输入的适当响应。本文描述的并行处理器可以使得能够快速训练用于自主驾驶解决方案的日益复杂的神经网络，并且使得能够将低功率推断用处理器部署在适合于集成到自主车辆中的移动平台中。
并行处理器加速的深度神经网络已实现用于自动语音识别(ASR)的机器学习方法。ASR包括创建在给定的输入声序列的情况下计算最可能的语言序列的函数。使用深度神经网络的加速的机器学习已实现代替先前用于ASR的隐马尔可夫模型(HMM)和高斯混合模型(GMM)。
并行处理器加速的机器学习还可以用于加速自然语言处理。自动学习程序可以使用统计推断算法以产生对于误差的或不熟悉的输入具有鲁棒性的模型。示例性自然语言处理器应用包括人类语言之间的自动机器翻译。
用于机器学习的并行处理平台可以被划分成训练平台和部署平台。训练平台通常高度并行并且包括优化以加速多GPU单节点训练和多节点多GPU训练，而部署的机器学习(例如，推断)平台通常包括适合于在如相机、自主机器人和自主车辆等产品中使用的较低功率并行处理器。
图20示出了根据一个实施例的主控智能深度学习卷积机制(“卷积机制”)2010的计算设备2000。计算设备2000表示通信和数据处理设备(包括(但不限于)智能可穿戴设备、智能手机、虚拟现实(VR)设备、头戴式显示器(HMD)、移动计算机、物联网(IoT)设备、膝上型计算机、台式计算机、服务器计算机等)，并且可以与图1的处理设备100类似或者相同；因此为了简明、清晰和易于理解，此后不再进一步讨论或重复上面参考图1-19陈述的许多细节。
计算设备2000还可以包括(但不限于)自主机器或人工智能代理，诸如机械代理或机器、电子代理或机器、虚拟代理或机器、机电代理或机器等。自主机器或人工智能代理的示例可以包括(但不限于)机器人、自主车辆(例如，自动驾驶汽车、自动驾驶飞机，自动航行帆船等)、自主设备(自操作工程车辆、自操作医疗设备等)等。贯穿此文档，“计算设备”可以互换地称为“自主机器”或“人工智能代理”或简称为“机器人”。
可以预见，尽管贯穿本文档引用了“自主车辆”和“自动驾驶”，但实施例不限于此。例如，“自主车辆”不限于汽车，而是可以包括任何数量和类型的自主机器，诸如机器人、自主设备、家居自主设备等，并且与这种自主机器相关的任何一个或多个任务或操作可以与自主驾驶互换地引用。
计算设备2000可进一步包括(但不限于)大型计算设备，诸如服务器计算机、台式计算机等，并且可进一步包括机顶盒(例如，基于互联网的有线电视机顶盒等)、基于全球定位系统(GPS)的设备等。计算设备2000可以包括用作通信设备的移动计算设备，诸如包括智能手机的蜂窝电话、个人数字助理(PDA)、平板计算机、膝上型计算机、电子阅读器、智能电视、电视平台、可穿戴设备(例如，眼镜、手表、手环、智能卡、珠宝、衣物等)、媒体播放器等。例如，在一个实施例中，计算设备600可以包括采用计算机平台的移动计算设备，所述计算机平台主控将计算设备2000的各种硬件和/或软件部件集成在单个芯片上的诸如芯片上系统(“SoC”或“SOC”)之类的集成电路(“IC”)。
如所示，在一个实施例中，计算设备2000可以包括任何数量和类型的硬件和/或软件部件，诸如(但不限于)图形处理单元(“GPU”或简称为“图形处理器”)2014、图形驱动器(也称为“GPU驱动器”、“图形驱动器逻辑”、“驱动器逻辑”、用户模式驱动器(UMD)、UMD、用户模式驱动器框架(UMDF)、UMDF或简称为“驱动器”)2016、中央处理单元(“CPU”或简称为“应用处理器”)2012、存储器2008、网络设备、驱动器等，以及诸如触摸屏、触摸面板、触摸板、虚拟或常规键盘、虚拟或常规鼠标、端口、连接器等之类的输入/输出(I/O)源2004。计算设备2000可以包括用作计算设备2000的硬件和/或物理资源与用户之间的接口的操作系统(OS)2006。可以预见，图形处理器2014和应用处理器2012可以是图1的处理器102中的一个或多个。
应当理解，对于某些实施方式，比在上文中所描述的示例更少或更多地配备的系统可以是优选的。因此，取决于众多因素，如价格约束、性能要求、技术改进或其他情况，计算设备2000的配置可以随着实施方式而改变。
实施例可以被实施为以下各项中的任何一项或其组合：使用母板互连的一个或多个微芯片或集成电路、硬连线逻辑、由存储器设备存储且由微处理器执行的软件、固件、专用集成电路(ASIC)和/或现场可编程门阵列(FPGA)。贯穿本文档，术语“逻辑”、“模块”、“部件”、“引擎”、“机制”、“工具”、“电路”和“电路系统”可互换地引用，并且作为示例包括软件、硬件、固件或其任意组合。
在一个实施例中，如所示，卷积机制2010可以由计算设备2000的存储器2008来主控。在另一实施例中，卷积机制2010可以由操作系统2010或图形驱动器2016来主控。在又一实施例中，卷积机制2010可以由图形处理单元(“GPU”或简称“图形处理器”)2014或图形处理器2014的固件主控或者是其一部分。例如，卷积机制2010可以嵌入或实现为图形处理器2014的处理硬件的一部分。类似地，在又一实施例中，卷积机制2010可以由中央处理单元(“CPU”或简称“应用处理器”)2012来主控或者是其一部分。例如，卷积机制2010可以嵌入或实现为应用处理器2012的处理硬件的一部分。
在又一实施例中，卷积机制2010可以由计算设备2000的任何数量和类型的部件主控或者是其一部分，诸如，卷积机制2010的一部分可以由操作系统2006主控，或者是操作系统2006的一部分，另一部分可以由图形处理器2014主控或者是图形处理器2014的一部分，另一部分可以由应用处理器2012主控或者是应用处理器2012的一部分，而卷积机制2010的一个或多个部分可以由操作系统2006和/或任何数量和类型计算设备2000的设备主控或者是其一部分。可以预见，实施例不限于卷积机制2010的任何实现或对其的任何主控方式，并且卷积机制2010的一个或多个部分或部件可以被采用或实现为硬件、软件或其任意组合，诸如固件。
计算设备2000可主控(多个)网络接口以提供对网络的访问，网络诸如，LAN、广域网(WAN)、城域网(MAN)、个域网(PAN)、蓝牙、云网络、移动网络(例如，第3代(3G)、第4代(4G)等)、内联网、互联网等。(多个)网络接口可以包括例如具有天线的无线网络接口，所述天线可以表示一个或多个天线。(多个)网络接口还可以包括，例如，经由网络电缆与远程设备通信的有线网络接口，所述网络电缆可以是例如以太网电缆、同轴电缆、光缆、串行电缆或并行电缆。
实施例可以被提供为例如计算机程序产品，所述计算机程序产品可以包括其上存储有机器可执行指令的一种或多种机器可读介质，所述机器可执行指令在由一个或多个机器(诸如计算机、计算机网络或其他电子设备)执行时可导致所述一个或多个机器执行根据在本文中所描述的实施例的操作。机器可读介质可以包括但不限于：软盘、光盘、CD-ROM(压缩盘只读存储器)以及磁光盘、ROM、RAM、EPROM(可擦除可编程只读存储器)、EEPROM(电可擦除可编程只读存储器)、磁卡或光卡、闪存、或者适用于存储机器可执行指令的其他类型的介质/机器可读介质。
此外，实施例可以作为计算机程序产品被下载，其中，可以经由通信链路(例如，调制解调器和/或网络连接)，借助于在载波或其他传播介质中具体化和/或由载波或其他传播介质调制的一个或多个数据信号来将程序从远程计算机(例如，服务器)传输至请求计算机(例如，客户端)。
贯穿本文档，术语“用户”可以被互换地称为“观看者”、“观察者”、“人”、“个人”、“终端用户”等。应当注意，贯穿本文档，如“图形域”等术语可以与“图形处理单元”、“图形处理器”或简单地与“GPU”互换地引用，并且类似地，“CPU域”或“主机域”可以与“计算机处理单元”、“应用处理器”或简单地与“CPU”互换地引用。
需要注意的是，诸如“节点”、“计算节点”、“服务器”、“服务器设备”、“云计算机”、“云服务器”、“云服务器计算机”、“机器”、“主机”、“设备”、“计算设备”、“计算机”、“计算系统”之类的术语在本文档中可互换使用。应当进一步注意，贯穿本文档，可以互换地使用如“应用”、“软件应用”、“程序”、“软件程序”、“包”、“软件包”等术语。并且，贯穿本文档，可以互换地使用如“作业”、“输入”、“请求”、“消息”等术语。
图21示出了根据一个实施例的图20的卷积机制2010。为了简明起见，此后不再重复或讨论已经参考图1-20所讨论的细节中的许多细节。在一个实施例中，卷积机制2010可以包括任何数量和类型的部件，诸如(但不限于)：检测和选择逻辑2101；滤波器生成和存储逻辑(“滤波器逻辑”)2103；通信/兼容性逻辑2107；可分离卷积逻辑2109；以及训练和微调逻辑2111。
如前所述，传统的基于深度学习的识别技术常常需要并消耗大量的存储器和计算能力，并且因此这种技术不适用于低端、小型或嵌入式设备，例如平板电脑、智能手机、HMD等。例如，在视觉识别中，可能有超过6000万个参数(需要250MB网络模型大小)，而每个图像执行超过150万个浮点运算(使用标准化大小224x 224进行测量)。某些更深的网络需要具有还要大的计算要求(例如超过1600万次浮动操作)的更加大的网络模型大小(例如超过500MB)。至少由于这些限制，大多数当前的训练和评分操作是利用较大或高端的计算设备来执行的，并且被阻止部署在较小或低端的计算设备上。
例如，在各种计算设备上的机器和/或深度学习环境中，像CNN这样的神经网络往往具有相对较高的计算或处理资源要求，例如，在模型大小(其可以大到100MB)、运行时存储器、FLOP的数量等方面的要求。这种要求水平常常阻碍神经网络的发展和训练；特别是，关于资源有限的应用(例如在IoT物联网场景中)、自主驾驶中的实时应用、低端和/或较小型计算设备等。传统技术无法处理这样的操作，尽管需要额外的硬件/软件加速器支持。
今天，开发人员正在为各种用例而设法提出新型神经网络，这些用例需要连续的网络训练，并且通常需要多次网络训练来满足其检测要求，这种网络训练例如通过更改滤波器参数和若干上层配置来进行。像Constant、Gaussian、Xavier等之类的常规技术被用作具有若干限制和缺点的权重填充器。
例如，这些缺点中的一些包括：1)广义权重填充器往往在后期迭代中达到收敛；2)需要命中和试验技术才能找到好的参数函数，如高斯标准偏差等；以及3)有时默认函数根本不收敛，如果开发人员正在研究新的神经网络，就会发生这种情况。
在N维空间中，要检测的类别被布置在可分离的集群中。训练神经网络本质上是在N维空间中找到函数的参数的任务，使得该函数可以区分所有类别。在训练之前为权重设置默认值可意味着将默认值分配给该函数的这些参数。实施例提供了一种用于使用定制特征层的新颖技术，该定制特征层基本上使任何参数更接近期望值，以对各类别进行有效分离。
实施例提供了一种用于基于几何形状的卷积的新颖技术，以用于减少神经网络的卷积训练时间。例如，这种新技术可以通过提供与神经网络的下卷积层相关联的几何形状专用滤波器来减少神经网络实现收敛所花费的时间。进一步地，例如，代替使用广义或随机滤波器，滤波器被生成并训练成几何形状专用的，随后将其存储在诸如(多个)数据库2130之类的存储库中，从而导致神经网络的有效和快速训练。这提供了较少的试验和错误，因为通过视觉检查来支持选择较低级别的滤波器，这相对更直观。进一步地，通过这种方式，训练可以从较低的学习速率开始，并且随后稍微容易地实现收敛。
在一个实施例中，如关于图22A和23A进一步说明的，检测和选择逻辑2101用于检测来自各种源(例如，存储的图像、网站等)的任何数量和类型的图像，并且随后选择定制的训练输入图像，该定制的训练输入图像包含与神经网络正被训练的对象相关联的基元几何形状(例如圆形、三角形、矩形等)。由于对象具有几何形状，因此在一个实施例中，基于包含在这些图像内的几何形状来执行图像的选择，使得可以生成并存储基于几何形状的滤波器的稳健的库，随后将其用于训练目的。
在检测和选择输入图像时，如由训练和微调逻辑2111所促进的，滤波器逻辑2103被触发，以基于所选择的定制输入图像和几何形状生成权重以提供滤波器。这些滤波器虽然是基于几何形状获得的，但尚未经过训练，但它们被选择来表示正在训练神经网络的物体的形状。例如，如果对象是宽屏电视，则其预期为矩形。类似地，其他对象可以具有其他几何形状，例如圆形、方形等。
如前所述，由于很容易适应对神经网络的下层的改变，因此这些滤波器通常是尺寸较小的下层滤波器，这使得它们能够处理和操作甚至最小或最低有效的信息。一旦通过滤波器逻辑2103获得这些滤波器，随后就基于共同的几何形状通过一个或多个视觉检查工具来分析这些滤波器。在一个实施例中，分析滤波器包括观察与共同几何形状相关联的滤波器，使得某些滤波器可以基于它们对应的几何形状被分组在一起。
在一个实施例中，一旦基于共同的几何形状分析滤波器，随后就触发滤波器逻辑2103以通过对应的共同几何形状对这些滤波器进行分类，并随后存储到表示那些几何形状的箱(bin)中。例如，基于圆的滤波器被分组并存储在表示圆的箱中，基于矩形的滤波器被分组并存储在表示矩形的箱中等。
在一个实施例中，如关于图22B和23A进一步说明的，这些存储的滤波器随后用于针对从定制输入图像识别出的对象(例如，电视)的神经网络进行几何形状专用训练。在一个实施例中，检测和选择逻辑2101选择具有紧密表示对象形状的滤波器的箱。继续使用把电视作为对象的示例，检测和选择逻辑2101将选择被标记为矩形的箱，因为预期其包含基于矩形的滤波器。
在一个实施例中，在选择相关箱及其滤波器时，训练和微调逻辑2111随后基于来自该箱的值或对应信息来启动对所选滤波器的训练。例如，并非所有矩形都是相同的，诸如矩形信用卡预计比矩形电视小得多；类似地，存在不同形式的物体，诸如矩形地毯比矩形餐桌更柔软。从箱中获得的任何这样的值或数据可以由训练和微调逻辑2111使用，以初始化相关滤波器从而匹配感兴趣对象(例如电视)的形状。
一旦滤波器被训练为基于几何形状，训练和微调逻辑2111随后就基于基于几何形状的滤波器启动神经网络的几何形状专用训练。这种使用基于几何形状的滤波器的神经网络的几何形状专用训练提供了神经网络的针对性和有效的训练，该训练允许神经网络相比于通过传统的随机初始化训练而言更快地收敛。
如上所述，由于频繁和不规则的存储器访问，卷积被认为是神经网络中计算最密集的过程之一。已知诸如基于GEMM的卷积之类的某些传统技术用于将存储器访问任务与纯计算任务分离以提高效率；然而，这些传统技术在可以执行分离之前在准备上(诸如，使存储器以列矩阵格式对齐)消耗太多时间。
如参考图22C、23B和24所示的，实施例进一步提供了一种用于标识和分离与神经网络的下层滤波器相关联的滤波器以用于训练目的的新技术。在一个实施例中，检测和选择逻辑2101用于检测和选择对象的输入图像以用于神经网络的训练。可以预见，可以标识神经网络的所有层，但是下层(lower layers)及其滤波器被选择并用于分离，因为下层是训练开始的地方，因此这些层更适应新学习的特征。
在一些实施例中，如由训练和微调逻辑2111促进的，滤波器逻辑2103用于生成权重以基于所选择的输入图像及其内容来提供滤波器，其中图像是神经网络正为其而被训练的一个或多个对象的图像。一旦获得滤波器，在一个实施例中，可分离卷积逻辑2109就被触发以标识神经网络的各个层，包括上层以及下层，其中在识别下层时，与这些下层相关联的任何滤波器也被标识。在完成这种标识时，随后触发可分离卷积逻辑2019，以将原始大小的下层滤波器分离或分成多个较小尺寸的滤波器，并将值重置为随机初始化，同时将上层滤波器保持在其当前形式。例如，典型的小型2D下层卷积滤波器(例如，3×3滤波器或5×5滤波器)可以被分成两个更加小的1D下层卷积滤波器(例如，1×3和3×1滤波器或1×5和5×1滤波器)。
在一个实施例中，一旦下层滤波器被分离，训练和微调逻辑2111随后就使用经分离的下层滤波器对来训练所得到的神经网络，其中每对经分离的下层滤波器之后是单个整流线性单元(ReLU)。可以预见，对于在所选输入图像中被较早标识的那些对象执行神经网络的这种训练种类。这种使用较小的下层卷积滤波器的新颖技术降低了神经网络训练的整体复杂性，诸如从O(n4)降低到O(n3)，而不影响训练准确性，同时通过凭借1D滤波器提供更简单和更快速的操作来提高训练速度。
计算设备2000进一步被示出为与一个或多个存储库、数据集和/或数据库(诸如，(多个)数据库2130(例如，云存储、非云存储等)通信，其中，(多个)数据库2130可以通过(多个)通信介质2125驻留在本地存储或远程存储，该通信介质2125诸如一个或多个网络(例如，云网络、接近度网络、移动网络、内联网、互联网等)。
可以预见，在计算设备2000处运行的软件应用可以负责使用计算设备2000的一个或多个部件(例如，GPU 2014、图形驱动器2016、CPU2012等)来执行或促进任何数量和类型的任务的执行。当执行如由软件应用定义的这样的任务时，诸如GPU 2014、图形驱动程序2016、CPU 2012等之类的一个或多个部件可以彼此通信，以确保准确和及时地处理和完成那些任务。
通信/兼容性逻辑2107可用于促进计算设备2000的任何数量的设备与卷积机制2010的各种部件之间所需的通信和兼容性。
通信/兼容性逻辑2107可以用于促进计算设备2000与以下各项之间的动态通信和兼容性：任何数量和类型的其他计算设备(诸如，移动计算设备、台式计算机、服务器计算设备等)；处理设备或部件(诸如，CPU、GPU等)；捕获/感测/检测设备(诸如，捕获/感测部件，包括相机、深度感测相机、相机传感器、红绿蓝(RGB)传感器、麦克风等)；显示设备(诸如，输出部件，包括显示屏、显示区域、显示投影仪等)；用户/上下文感知部件和/或标识/验证传感器/设备(诸如，生物特征传感器/检测器、扫描器等)；(多个)数据库2130，诸如，存储器或存储设备、数据库和/或数据源(诸如，数据存储设备、硬盘驱动器、固态驱动器、硬盘、存储器卡或设备、存储器电路等)；(多个)通信介质2125，诸如一个或多个通信信道或网络(例如，云网络、互联网、内联网、蜂窝网络、接近度网络，诸如，蓝牙、低功耗蓝牙(BLE)、智能蓝牙、Wi-Fi接近度、射频识别(RFID)、近场通信(NFC)、体域网(BAN)等)；无线或有线通信和相关协议(例如，WiMAX、以太网等)；连接性和位置管理技术；软件应用/网站(例如，社交和/或商业网络网站等、商业应用、游戏和其他娱乐应用等)；以及编程语言等,同时确保与变化的技术、参数、协议、标准等的兼容性。
贯穿本文档，像“逻辑”、“部件”、“模块”、“框架”、“引擎”、“机制”、“电路”和“电路”系统等之类的术语可互换地引用，并且作为示例可包括软件、硬件、固件或其任意组合。在一个示例中，“逻辑”可以指代或包括能够与诸如计算设备2000之类的计算设备的操作系统(例如，操作系统2006)、图形驱动器(例如，图形驱动器2016)等中的一个或多个一起工作的软件部件。在另一示例中，“逻辑”可以指代或包括能够与诸如计算设备2000之类的计算设备的一个或多个系统硬件元件(诸如应用处理器(例如，CPU 2012)、图形处理器(例如，GPU214)等)一起或作为其一部分物理安装的硬件部件。在又另一个实施例中，“逻辑”可以指代或包括能够作为诸如计算设备2000等之类的计算设备的系统固件(诸如应用处理器(例如，CPU 2012)或图形处理器(例如，GPU 2014))的固件)的一部分的固件部件。
此外，对特定品牌、单词、术语、短语、名称和/或首字母缩写词(诸如“神经网络”，、“卷积层”、“卷积内核”、“训练权重”，“2D卷积”、“1D卷积”、“可分离卷积”、“权重矩阵”、“深度神经网络”、“附加要素层”、“缩放因子”、“稀疏信道”、“网络结构”、“FC层或行”、“窄或缩小网络”、“输入”、“添加”、“学习”、“修剪”、“计算”、“获得”、“缩小”、“训练”、“微调”、“输出”、“GPU”、“GPU域”、“GPGPU”、“CPU”、“CPU域”、“图形驱动器”、“工作负载”、“应用程序”、“图形流水线”、“流水线进程”、“寄存器”、“寄存器堆”、“RF”、“扩展寄存器堆”、“ERF”、“执行单元”、“EU”、“指令”、“API”、“3D API”、“片段着色器”、“YUV纹理”、“着色器执行”、“现有UAV功能”、“现有后端”、“硬件”、“软件”、“代理”、“图形驱动程序”、“内核模式图形驱动器”、“用户模式驱动器”、“用户模式驱动器框架”、“缓冲器”、“图形缓冲器”、“任务”、“进程”、“操作”、“软件应用”、“游戏”等)的任何使用不应该被理解成将实施例限制于在本文档之外的产品或文献中携带该标签的软件或设备。
可以预见，可以向卷积机制2010添加和/或从其中去除任何数量和类型的部件，以促进包括添加、去除和/或增强某些特征的各实施例。为了卷积机制2010的简明、清楚和易于理解起见，此处未示出或讨论许多标准和/或已知部件，诸如，计算设备的部件。可以预见，如本文所述的实施例不限于任何技术、拓扑、系统、架构、和/或标准，并且动态到足以采用和适应任何未来变化。
图22A示出了根据一个实施例的用于促进基于几何形状的滤波器的生成和存储以用于智能深度学习卷积的方法2200。为了简明起见，此后可以不讨论或重复先前参考图1-21所讨论的细节中的许多细节。与方法2200有关的任何过程可以由处理逻辑来执行，所述处理逻辑可以包括如由图20的卷积机制2010促进的硬件(如电路系统、专用逻辑、可编程逻辑等)、软件(诸如在处理设备上运行的指令)或其组合。为了呈现的简洁和清晰，与方法2200相关联的过程以线性序列方式被例示或记载；然而，可以预见，可并行、异步或以不同次序执行任何数量的过程。
如参考图21所描述的，方法2200在框2201处开始，如图21的检测和选择逻辑2101所促进的，其中检测和选择包含基元几何形状的图像的定制训练输入，其中图像是神经网络要被训练的对象的图像(例如，人、动物、树、山、海洋、机器、雨等)。如由图21的滤波器逻辑2103以及训练和微调逻辑2111所促进的，在框2203处，生成神经网络权重，以基于定制训练输入图像和通过该图像揭示的几何形状来提供滤波器。
如由图21的滤波器逻辑2103所促进的，在框2205处，使用一个或多个可视化检查工具来分析这些滤波器。对滤波器的这种分析可以包括标识由多个滤波器共享的共同几何形状，使得随后可以根据滤波器的组的对应的共同几何形状而对滤波器的组进行分类。在框2207处，如图21的滤波器逻辑2103所促进的，随后根据它们共同几何形状对经分析的滤波器进行分类，并将其存储在与它们共同几何形状相对应的箱中。例如，与圆的几何形状相关联的所有滤波器被组合在一起作为库，并存储在标记为或命名为圆(circle)的箱中。这些箱被存储在图21的一个或多个数据库2130中。
图22B示出了根据一个实施例的用于滤波器和神经网络的基于几何形状的训练的方法2250。为了简明起见，此后可以不讨论或重复先前参考图1-22A所讨论的细节中的许多细节。与方法2250有关的任何过程可以由处理逻辑来执行，所述处理逻辑可以包括如由图20的卷积机制2010促进的硬件(如电路系统、专用逻辑、可编程逻辑等)、软件(诸如在处理设备上运行的指令)或其组合。为了呈现的简洁和清晰，与方法2250相关联的过程以线性序列方式被例示或记载；然而，可以预见，可并行、异步或以不同次序执行任何数量的过程。
如参考图21所描述的，方法2250在框2251处开始，其中，如由图21的检测和选择逻辑2101所促进的，检测和选择神经网络将被训练的对象(例如，电视)的输入图像。如由图21的检测和选择逻辑2101进一步促进的，在框2253处，从与对象的几何形状匹配的箱中选择滤波器。例如，如果神经网络正被训练的对象是宽屏幕电视，则选择被标记为“矩形”的箱，因为该箱中包含的任何滤波器可能涉及矩形形状。
在一个实施例中，在框2255处，如由图21的训练和微调逻辑2111所促进的，随后基于对应的几何形状使用从箱中获得的任何值或数据训练所选择的滤波器。在框2257处，如由图21的训练和微调逻辑2111进一步促进的，使用几何形状训练的滤波器来启动对象的神经网络的几何形状专用的训练，以允许基于对象的几何形状而更快、有效和针对性地训练神经网络。
图22C示出了根据一个实施例的用于促进用于深度学习中的智能卷积的卷积滤波器的分离的方法2270。为了简明起见，此后可以不讨论或重复先前参考图1-22B所讨论的细节中的许多细节。与方法2270有关的任何过程可以由处理逻辑来执行，所述处理逻辑可以包括如由图20的卷积机制2010促进的硬件(如电路系统、专用逻辑、可编程逻辑等)、软件(诸如在处理设备上运行的指令)或其组合。为了呈现的简洁和清晰，与方法2270相关联的过程以线性序列方式被例示或记载；然而，可以预见，可并行、异步或以不同次序执行任何数量的过程。
如参考图21所描述的，方法2250在框2271处开始，如由图21的检测和选择逻辑2101所促进的，其中检测和选择神经网络将被训练的对象(例如，电视)的输入图像。在框2272处，如由图21的检测和选择逻辑2101进一步促进的，标识神经网络的各个层，包括更上层和下层以及与下层相关联的任何滤波器。
在框2273处，如由图21的可分离卷积逻辑2109所促进的，随后将任何下层滤波器分离或分成较小的下层滤波器，而任何上层滤波器被维持在其当前形式中。例如，小型下层2D滤波器可以被分成两个较小的下层1D滤波器。在框2275处，如图21的训练和微调逻辑2111所促进的，随后使用经分离滤波器的对(例如，两个1D滤波器)来训练对象的所得到的神经网络，其中每对经分离的滤波器之后是专用ReLU单元。
图23A示出了根据一个实施例的用于深度学习中的基于几何形状的智能卷积的事务序列2300。为了简明起见，此后可以不讨论或重复先前参考图1-22C所讨论的细节中的许多细节。可以预见，实施例不限于该例示。为了简明起见，此后可以不讨论或重复先前参考图1-22C所讨论的细节中的许多细节。与事务序列2300有关的任何过程可以由处理逻辑来执行，所述处理逻辑可以包括如由图20的卷积机制2010促进的硬件(如电路系统、专用逻辑、可编程逻辑等)、软件(诸如在处理设备上运行的指令)或其组合。为了呈现的简洁和清晰，与事务序列2300相关联的过程以线性序列方式被例示或记载；然而，可以预见，可并行、异步或以不同次序执行任何数量的过程。
事务序列2300以接收对象的输入图像2301开始，其中输入图像2301包含与对象相关联的基元几何形状2303，并且生成权重以基于几何形状2303提供滤波器A 2305和滤波器N 2307。例如，将针对在输入图像2301中被标识的对象训练神经网络。在一个实施例中，使用视觉工具分析滤波器A 2305、N 2307，以寻找几何形状2303的共同形状。例如，与几何形状2303的共同几何形状相关联的滤波器A-N 2305-2307中的任何滤波器被分类在基于几何形状的组中，并被存储在它们各自的(多个)箱2311中。例如，(多个)箱2311与(多个)几何形状2303相关联，使得(多个)箱2311中的每个箱被分配(多个)几何形状2303中的几何形状。
在一个实施例中，基于从(多个)对应的箱2311和任何用户输入2319获得的值来初始化滤波器A-N 2305-2307(2313)。当已经基于(多个)几何形状2303训练了滤波器A-N2305-2307时，启动神经网络的几何形状专用的训练(2315)，导致包括几何形状专用的经训练的神经网络的输出2317。
图23B示出了根据一个实施例的用于深度学习中的智能卷积的事务序列2350。为了简明起见，此后可以不讨论或重复先前参考图1-23A所讨论的细节中的许多细节。可以预见，实施例不限于该例示。为了简明起见，此后可以不讨论或重复先前参考图1-23A所讨论的细节中的许多细节。与事务序列2350有关的任何过程可以由处理逻辑来执行，所述处理逻辑可以包括如由图20的卷积机制2010促进的硬件(如电路系统、专用逻辑、可编程逻辑等)、软件(诸如在处理设备上运行的指令)或其组合。为了呈现的简洁和清晰，与事务序列2350相关联的过程被以线性序列方式来例示或描述；然而，可以预见，可并行、异步或以不同次序执行任何数量的过程。
事务序列2350开始于检测和选择针对对象正被训练的神经网络的下层2D卷积滤波器A 2351和N 2353。在一个实施例中，2D卷积滤波器A 2351、N 2353分别被分离或分成1D卷积滤波器对A1 2361、A2 2363以及N1 2365、N2 2367。随后将这些经分离的1D卷积滤波器2361-2367用于训练神经网络(2371)，从而产生经训练的神经网络2373。
图24示出了根据一个实施例的用于执行可分离卷积的结构设置。为了简明起见，此后可以不讨论或重复先前参考图1-23B所讨论的细节中的许多细节。可以预见，实施例不限于该例示。
如先前参考图21所描述的，在一个实施例中，可以在两个阶段，阶段1 2401、阶段22451中执行卷积的分离，诸如，在两个阶段2401、2451中训练神经网络。例如，如所示，在阶段1 2401中，可以利用原始结构和数据集训练神经网络，原始结构和数据集诸如包括2D卷积滤波器(诸如2D卷积滤波器2411)的数据层2403。如所示和先前所讨论的，神经网络的该下数据层2403可以包括基本提取器和分类器，诸如特征提取器2405和特征分类器2407。
在一个实施例中，阶段2 2451通过检测和标识特征提取器2405开始，并且特征分类器2407在神经网络的该下层处继续进行重新训练(2453)。在一个实施例中，在阶段22451中，任何下层卷积滤波器被划分或分成较小的下层卷积滤波器的对，诸如，来自阶段2401的2D卷积滤波器2411现在被示为分成两个1D卷积滤波器2461A、2461B。进一步地，该下层的一部分(包括两个1D卷积滤波器2411)的学习速率被设置为正(2457)，而下层的其余部分的学习速率被设置为零(2459)。
附加的示例图形处理系统
以上所描述的实施例的细节可以被合并到下面描述的图形处理系统和设备内。图25到图29的图形处理系统和设备示出了可以实现以上所描述的技术中的任一种和其所有的系统和图形处理硬件。
图25是展示了被配置成实现本文所述的实施例的一个或多个方面的计算机系统2500的框图。计算系统2500包括处理子系统2501，所述处理子系统具有一个或多个处理器2502和系统存储器2504，所述一个或多个处理器和所述系统存储器经由互连路径进行通信，所述互连路径可以包括存储器中枢2505。存储器中枢2505可以是芯片组部件内的单独的部件，也可以集成在一个或多个处理器2502内。存储器中枢2505经由通信链路2506与I/O子系统2511耦合。I/O子系统2511包括I/O中枢2507，所述I/O中枢可以使得计算系统2500能够从一个或多个输入设备2508接收输入。另外，I/O中枢2507可以使得显示控制器(所述显示控制器可以被包括在一个或多个处理器2502中)能够向一个或多个显示设备2510A提供输出。在一个实施例中，与I/O中枢2507耦合的一个或多个显示设备2510A可以包括本地显示设备、内部显示设备或嵌入式显示设备。
在一个实施例中，处理子系统2501包括一个或多个并行处理器2512，所述一个或多个并行处理器经由总线或其他通信链路2513耦合至存储器中枢2505。通信链路2513可以是任意数量的基于标准的通信链路技术或协议(诸如但不限于PCI Express)中的一个，也可以是供应方特定的通信接口或通信结构。在一个实施例中，一个或多个并行处理器2512形成以计算为中心的并行或向量处理系统，所述系统包括大量处理核和/或处理集群诸如集成众核(MIC)处理器。在一个实施例中，一个或多个并行处理器2512形成图形处理子系统，所述图形处理子系统可以向经由I/O中枢2507耦合的一个或多个显示设备2510A中的一个输出像素。一个或多个并行处理器2512还可以包括显示控制器和显示接口(未示出)以实现到一个或多个显示设备2510B的直接连接。
在I/O子系统2511内，系统存储单元2514可以连接至I/O中枢2507来为计算系统2500提供存储机制。I/O开关2516可以用于提供接口机制以实现I/O中枢2507和可以集成到平台中的其他部件诸如网络适配器2518和/或无线网络适配器2519以及可以经由一个或多个插入式设备2520添加的各种其他设备之间的连接。网络适配器2518可以是以太网适配器或另一种有线网络适配器。无线网络适配器2519可以包括Wi-Fi、蓝牙、近场通信(NFC)或包括一个或多个无线电装置的其他网络设备中的一个或多个。
计算系统2500可以包括未明确示出的其他部件，这些部件包括USB或其他端口连接件、光存储驱动器、视频捕获设备等，也可以连接至I/O中枢2507。图25中将各种部件互连的通信路径可以使用任何合适的协议诸如基于PCI(外围部件互连)的协议(例如，PCI-Express)，或(多个)任何其他总线或点对点通信接口和/或协议诸如NV-Link高速互连或本领域中已知的互连协议来实现。
在一个实施例中，一个或多个并行处理器2512并入有为进行图形和视频处理而优化的电路，包括例如视频输出电路，并且所述电路构成图形处理单元(GPU)。在另一个实施例中，一个或多个并行处理器2512并入有为进行通用处理而优化的电路，同时保留了本文更详细描述的基础计算架构。在又一个实施例中，计算系统2500的各部件可以与一个或多个其他系统元件集成在单个集成电路上。例如，一个或多个并行处理器2512、存储器中枢2505、(多个)处理器2502和I/O中枢2507可以集成到芯片上系统(SoC)集成电路中。可替代地，计算系统2500的各部件可以集成到单个封装中以形成封装中系统(SIP)配置。在其他实施例中，计算系统2500的各部件的至少一部分可以集成到多芯片模块(MCM)中，所述多芯片模块可以与其他多芯片模块互连成模块化计算系统。
应当理解，本文所示的计算系统2500是例示性的并且变型和修改是可能的。连接拓扑可以根据需要进行修改，所述连接拓扑包括桥的数量和安排、(多个)处理器2502的数量和(多个)并行处理器2512的数量。例如，在一些实施例中，系统存储器2504直接而不是通过桥连接至(多个)处理器2502，而其他设备经由存储器中枢2505和(多个)处理器2502与系统存储器2504进行通信。在其他替代性拓扑中，(多个)并行处理器2512连接至I/O中枢2507或直接连接至一个或多个处理器2502中的一个，而不是连接至存储器中枢2505。在其他实施例中，I/O中枢2507和存储器中枢2505可以集成到单个芯片中。一些实施例可以包括经由多个插座附接的(多个)处理器2502的两个或更多个组，这两个或更多个组可以与(多个)并行处理器2512的两个或更多个实例耦合。
本文示出的一些特定部件是可选的并且可能不被包括在计算系统2500的所有实现中。例如，可以支持任意数量的插入式卡或外围装置，或者可以省去一些部件。此外，一些架构可以使用不同的术语来描述与图25所示类似的部件。例如，在一些架构中，存储器中枢2505可以被称为北桥，而I/O中枢2507可以被称为南桥。
图26A展示了根据实施例的并行处理器2600。并行处理器2600的各种部件可以使用诸如可编程处理器、专用集成电路(ASIC)或现场可编程门阵列(FPGA)的一个或多个集成电路设备来实现。根据实施例，所展示的并行处理器2600是图25所示的一个或多个并行处理器2512的变体。
在一个实施例中，并行处理器2600包括并行处理单元2602。所述并行处理单元包括I/O单元2604，所述I/O单元实现与其他设备包括并行处理单元2602的其他实例的通信。I/O单元2604可以直接连接至其他设备。在一个实施例中，I/O单元2604经由诸如存储器中枢2505的中枢或开关接口的使用来与其他设备连接。存储器中枢2505与I/O单元2604之间的连接形成通信链路2513。在并行处理单元2602内，I/O单元2604与主机接口2606和存储器交叉开关2616连接，其中主机接口2606接收涉及执行处理操作的命令，并且存储器交叉开关2616接收涉及执行存储器操作的命令。
当主机接口2606经由I/O单元2604接收命令缓冲器时，主机接口2606可以将用于执行那些命令的工作操作引导至前端2608。在一个实施例中，前端2608与调度器2610耦合，所述调度器被配置成将命令或其它工作项目分配给处理集群阵列2612。在一个实施例中，调度器2610确保在将任务分配给处理集群阵列2612中的处理集群之前，处理集群阵列2612正在被正确地配置并且处于有效状态。在一个实施例中，经由在微控制器上执行的固件逻辑来实现调度器2610。微控制器实现的调度器2610可配置成在粗粒度和细粒度下执行复杂的调度和工作分配操作，从而能够实现对在处理阵列2612上执行的线程的快速抢占和上下文切换。在一个实施例中，主机软件可以经由多个图形处理门铃机制中的一者来证实用于在处理阵列2612上调度的工作负荷。这些工作负荷随后可以由调度器微控制器内的调度器2612逻辑遍及处理阵列2610地自动地分发。
处理集群阵列2612可以包括多达“N”个处理集群(例如，集群2614A，集群2614B，一直到集群2614N)。处理集群阵列2612的每个集群2614A至2614N均可执行大量并发线程。调度器2610可以使用各种调度和/或工作分发算法来向处理集群阵列2612的集群2614A至2614N分配工作，这些算法可以依据每种类型的程序或计算引起的工作负荷而变化。调度可以由调度器2610动态地处置，或者可以在编译被配置成由处理集群阵列2612执行的程序逻辑的过程中由编译器逻辑部分地协助。在一个实施例中，处理集群阵列2612的不同集群2614A至2614N可以被分配用于处理不同类型的程序或用于执行不同类型的计算。
处理集群阵列2612可以被配置成执行各种类型的并行处理操作。在一个实施例中，处理集群阵列2612被配置成执行通用并行计算操作。例如，处理集群阵列2612可以包括用于执行处理任务包括视频和/或音频数据的过滤，执行建模操作包括物理操作，以及执行数据变换的逻辑。
在一个实施例中，处理集群阵列2612被配置成执行并行图形处理操作。在其中并行处理器2600被配置成执行图形处理操作的实施例中，处理集群阵列2612可以包括用于支持此类图形处理操作的执行的附加逻辑，包括但不限于用于执行纹理操作的纹理采样逻辑以及曲面细分逻辑和其他顶点处理逻辑。另外，处理集群阵列2612可以被配置成执行与图形处理相关的着色器程序，诸如但不限于顶点着色器、曲面细分着色器、几何着色器和像素着色器。并行处理单元2602可以经由I/O单元2604从系统存储器传递数据以进行处理。在处理期间，可以在处理期间将经传递的数据存储到片上存储器(例如，并行处理器存储器2622)，然后写回到系统存储器。
在一个实施例中，当并行处理单元2602用于执行图形处理时，调度器2610可以被配置成将处理工作负荷分成大致相等大小的任务，以更好地使得图形处理操作能够分发到处理集群阵列2612的多个集群2614A至2614N。在一些实施例中，处理集群阵列2612的各部分可以被配置成执行不同类型的处理。例如，第一部分可以被配置成执行顶点着色和拓扑生成，第二部分可以被配置成执行曲面细分和几何着色，第三部分可以被配置成执行像素着色或其他屏幕空间操作，以产生渲染的图像进行显示。由集群2614A至2614N中的一个或多个产生的中间数据可以存储在缓冲器中以允许中间数据在集群2614A至2614N之间传输以用于进一步处理。
在操作期间，处理集群阵列2612可以接收将经由调度器2610执行的处理任务，所述调度器从前端2608接收定义处理任务的命令。对于图形处理操作，处理任务可以包括要处理的数据例如表面(补片(patch))数据、图元数据、顶点数据和/或像素数据以及定义如何处理数据的状态参数和命令(例如，要执行哪个程序)的索引。调度器2610可以被配置成获取对应于任务的索引或者可以从前端2608接收索引。前端2608可以被配置成确保处理集群阵列2612在由传入命令缓冲器(例如，批处理缓冲器、入栈缓冲器等)指定的工作负荷被发起之前被配置成有效状态。
并行处理单元2602的一个或多个实例中的每一个均可与并行处理器存储器2622耦合。并行处理器存储器2622可以经由存储器交叉开关2616来访问，所述存储器交叉开关可以从处理集群阵列2612以及I/O单元2604接收存储器请求。存储器交叉开关2616可以经由存储器接口2618访问并行处理器存储器2622。存储器接口2618可以包括多个分区单元(例如，分区单元2620A，分区单元2620B，一直到分区单元2620N)，这些分区单元可以各自耦合至并行处理器存储器2622的一部分(例如，存储器单元)。在一个实现中，分区单元2620A至2620N的数量被配置成等于存储器单元的数量，使得第一分区单元2620A具有对应的第一存储器单元2624A，第二分区单元2620B具有对应的存储器单元2624B，以及第N分区单元2620N具有对应的第N存储器单元2624N。在其他实施例中，分区单元2620A至2620N的数量可能不等于存储器设备的数量。
在各种实施例中，存储器单元2624A至2624N可以包括各种类型的存储器设备，包括动态随机存取存储器(DRAM)或图形随机存取存储器，诸如同步图形随机存取存储器(SGRAM)，包括图形双倍数据速率(GDDR)存储器。在一个实施例中，存储器单元2624A至2624N还可以包括3D堆叠式存储器，包括但不限于高带宽存储器(HBM)。本领域技术人员将会理解，存储器单元2624A至2624N的具体实现可以变化，并且可以由各种常规设计之一进行选择。诸如帧缓冲器或纹理映射的渲染目标可存储在存储器单元2624A至2624N上，从而允许分区单元2620A至2620N并行地写入每个渲染目标的各部分，以高效使用并行处理器存储器2622的可用带宽。在一些实施例中，为了支持利用系统存储器连同本地高速缓存存储器的统一存储器设计，可以将并行处理器存储器2622的本地实例排除在外。
在一个实施例中，处理集群阵列2612的集群2614A至2614N中的任一个可以处理将写入并行处理器存储器2622内的存储器单元2624A至2624N中的任一个的数据。存储器交叉开关2616可以被配置成将每个集群2614A至2614N的输出传递到任何分区单元2620A至2620N或另一个集群2614A至2614N，这可以对所述输出执行附加处理操作。每个集群2614A至2614N均可通过存储器交叉开关2616与存储器接口2618进行通信以针对各种外部存储器设备进行读取或写入操作。在一个实施例中，存储器交叉开关2616可连接至存储器接口2618以与I/O单元2604通信，并且可连接至并行处理器存储器2622的本地实例，从而使得不同处理集群2614A至2614N内的处理单元能够与系统存储器或对于并行处理单元2602并非本地的其他存储器进行通信。在一个实施例中，存储器交叉开关2616可以使用虚拟信道来分离集群2614A至2614N与分区单元2620A至2620N之间的业务流。
虽然并行处理单元2602的单个实例展示为在并行处理器2600内，但并行处理单元2602的任意数量的实例也可以被包括在内。例如，可以在单个插入式卡上提供并行处理单元2602的多个实例，或者可以使多个插入式卡互连。即使不同实例具有不同的处理核数量、不同的本地并行处理器存储量和/或其他配置差异，并行处理单元2602的不同实例也可以被配置成交互操作。例如，在一个实施例中，并行处理单元2602的一些实例可以包括相对于其他实例的较高精度的浮点单元。并入有并行处理单元2602或并行处理器2600的一个或多个实例的系统可以以各种配置和形状因数来实现，包括但不限于台式计算机、膝上型计算机或手持式个人计算机、服务器、工作站、游戏控制台和/或嵌入式系统。
图26B是根据实施例的分区系统2620的框图。在一个实施例中，分区系统2620是图26A的分区单元2620A至2620N中的一个的实例。如图所示，分区单元2620包括L2高速缓存2621、帧缓冲器接口2625和ROP 2626(光栅操作单元)。L2高速缓存2621是被配置成执行从存储器交叉开关2616和ROP 2626所接收的加载和存储操作的读取/写入高速缓存。由L2高速缓存2621向帧缓冲器接口2625输出读未命中和紧急回写请求以进行处理。也可以经由帧缓冲器接口2625向帧缓冲器发送更新以用于处理。在一个实施例中，帧缓冲器接口2625与并行处理器存储器中的存储器单元中的一个诸如图26的存储器单元2624A至2624N(例如，在并行处理器存储器2622内)交互。
在图形应用中，ROP 2626是执行光栅操作(诸如，模板印制(stencil)、z测试、混合等等)的处理单元。ROP 2626随后输出经处理的图形数据，所述经处理的图形数据被存储在图形存储器中。在一些实施例中，ROP 2626包括压缩逻辑，所述压缩逻辑用于压缩被写入至存储器的深度或颜色数据，并解压缩从存储器读取的深度或颜色数据。压缩逻辑可以是利用多种压缩算法中的一种或多种的无损压缩逻辑。由ROP 2626执行的压缩的类型可以基于待压缩的数据的统计特性而变化。例如，在一个实施例中，逐图块地对深度和颜色数据执行Δ色彩压缩。
在一些实施例中，ROP 2626被包括在每个处理集群(例如，图26的集群2614A至2614N)内而不是分区单元2620内。在这个实施例中，通过存储器交叉开关2616而不是像素片段数据来传输对像素数据的读取和写入请求。经处理图形数据可以显示在显示设备诸如图25的一个或多个显示设备2510中的一个上，由(多个)处理器2502路由以用于进一步处理，或者由图26A的并行处理器2600内的处理实体中的一个路由以用于进一步处理。
图26C是根据实施例的并行处理单元内的处理集群2614的框图。在一个实施例中，处理集群是图26的处理集群2614A至2614N中的一个的实例。处理集群2614可以被配置成并行地执行多个线程，其中术语“线程”是指在特定输入数据集上执行的特定程序的实例。在一些实施例中，使用单指令多数据(SIMD)指令发布技术来支持大量线程的并行执行，而无需提供多个独立的指令单元。在其他实施例中，使用单指令多线程(SIMT)技术来使用被配置成向处理集群的每一个内的一组处理引擎发出指令的公共指令单元来支持大量大致同步线程的并行执行。与所有处理引擎通常执行相同指令的SIMD执行机制不同，SIMT执行允许不同线程更容易地遵循穿过给定线程程序的发散执行路径。本领域技术人员将会理解，SIMD处理机制表示SIMT处理机制的功能子集。
处理集群2614的操作可以经由向SIMT并行处理器分发处理任务的流水线管理器2632来控制。流水线管理器2632从图26的调度器2610接收指令并且经由图形多处理器2634和/或纹理单元2636来管理那些指令的执行。所展示的图形多处理器2634是SIMT并行处理器的示例性实例。然而，不同架构的各种类型的SIMT并行处理器可以被包括在处理集群2614内。图形多处理器2634的一个或多个实例可以被包括在处理集群2614内。图形多处理器2634可以处理数据，并且数据交叉开关2640可以用于将经处理数据分配到包括其他着色单元的多个可能目的地中的一个。流水线管理器2632可以通过为将经由数据交叉开关2640分发的数据指定目的地来促进经处理数据的分发。
处理集群2614内的每个图形多处理器2634均可包括相同的功能执行逻辑组(例如，算术逻辑单元、加载存储单元等)。功能执行逻辑可以通过流水线方式进行配置，其中可以在完成先前的指令之前发出新的指令。功能执行逻辑支持各种运算，包括整数和浮点算数、比较运算、布尔运算、位移位和各种代数函数的计算。在一个实施例中，可以利用相同的功能单元硬件来执行不同的操作，并且可以存在功能单元的任意组合。
传输到处理集群2614的指令构成线程。在一组并行处理引擎上执行的一组线程是线程组。线程组在不同的输入数据上执行相同的程序。线程组内的每个线程均可被分配到图形多处理器2634内的不同处理引擎。线程组可以包括比图形多处理器2634内的处理引擎的数量更少的线程。当线程组包括比处理引擎的数量更少的线程时，处理引擎中的一个或多个处理引擎可能在处理所述线程组的周期期间空闲。线程组还可以包括比图形多处理器2634内的处理引擎的数量更多的线程。当线程组包括比图形多处理器2634内的处理引擎的数量更多的线程时，可以在连续的时钟周期上执行处理。在一个实施例中，可以在图形多处理器2634上同时执行多个线程组。
在一个实施例中，图形多处理器2634包括用于执行加载和存储操作的内部高速缓存存储器。在一个实施例中，图形多处理器2634可以放弃内部高速缓存而是在处理集群2614内使用高速缓存存储器(例如，L1高速缓存2608)。每个图形多处理器2634还可以访问在所有处理集群2614之间共享的分区单元(例如，图26的分区单元2620A至2620N)内的L2高速缓存，并且可以用于在线程之间传递数据。图形多处理器2634还可以访问片外全局存储器，所述片外全局存储器可以包括本地并行处理器存储器和/或系统存储器中的一个或多个。并行处理单元2602外部的任何存储器可以用作全局存储器。其中处理集群2614包括图形多处理器2634的多个实例的实施例可以共享可以在L1高速缓存2608中存储的公共指令和数据。
每个处理集群2614均可包括被配置成将虚拟地址映射到物理地址的MMU 2645(存储器管理单元)。在其他实施例中，MMU 2645中的一个或多个实例可以驻留在图26的存储器接口2618内。MMU 2645包括用于将虚拟地址映射到图块(tile)的物理地址和可选地高速缓存行索引的一组页表条目(PTE)。MMU 2645可以包括可以驻留在图形多处理器2634或L1高速缓存或处理集群2614内的地址转换后备缓冲器(TLB)或高速缓存。对物理地址进行处理以分发表面数据访问局部性以实现分区单元之间的高效请求交错。可以使用高速缓存行索引来确定对高速缓存行的请求是命中还是未命中。
在图形和计算应用中，处理集群2614可以被配置成使得每个图形多处理器2634均耦合至纹理单元2636以执行纹理映射操作，例如确定纹理样本位置、读取纹理数据和过滤纹理数据。纹理数据是从内部纹理L1高速缓存(未示出)或者在一些实施例中从图形多处理器2634内的L1高速缓存读取，并且是根据需要从L2高速缓存、本地并行处理器存储器或系统存储器获取。每个图形多处理器2634向数据交叉开关2640输出经处理任务以向另一个处理集群2614提供经处理任务以用于进一步处理或经由存储器交叉开关2616在L2高速缓存、本地并行处理器存储器或系统存储器中存储经处理任务。preROP2642(预先光栅操作单元)被配置成从图形多处理器2634接收数据，将数据引导到ROP单元，这些ROP单元可以如本文所述的那样用分区单元(例如，图26的分区单元2620A至2620N)定位。preROP 2642单元可以对颜色混合进行优化、组织像素颜色数据并执行地址转换。
应当理解，本文所述的核架构是例示性的并且变型和修改是可能的。例如图形多处理器2634、纹理单元2636、preROP 2642等任意数量的处理单元可以被包括在处理集群2614内。此外，虽然仅示出一个处理集群2614，但如本文所述的并行处理单元可以包括处理集群2614的任意数量的实例。在一个实施例中，每个处理集群2614均可被配置成使用单独的和不同的处理单元、L1高速缓存等来独立于其他处理集群2614而操作。
图26D示出了根据一个实施例的图形多处理器2634。在这样的实施例中，图形多处理器2634与处理集群2614的流水线管理器2632耦合。图形多处理器2634具有执行流水线，所述执行流水线包括但不限于指令高速缓存2652、指令单元2654、地址映射单元2656、寄存器堆2658、一个或多个通用图形处理单元(GPGPU)核2662和一个或多个加载/存储单元2666。GPGPU核2662和加载/存储单元2666经由存储器和高速缓存互连2668与高速缓存存储器2672和共享存储器2670耦合。
在一个实施例中，指令高速缓存2652从流水线管理器2632接收要执行的指令流。将这些指令高速缓存在指令高速缓存2652中并分派用于由指令单元2654执行。指令单元2654可以将指令作为线程组(例如，经线)进行分派，线程组的每个线程均被分配到GPGPU核2662内的不同执行单元。指令可以通过在统一地址空间内指定地址来访问本地、共享或全局地址空间中的任一个。地址映射单元2656可以用于将统一地址空间中的地址转换成可由加载/存储单元2666访问的不同存储器地址。
26寄存器堆2658为图形多处理器2624的功能单元提供一组寄存器。寄存器堆2658为连接至图形多处理器2624的功能单元(例如，GPGPU核2662、加载/存储单元2666)的数据路径的操作数提供临时存储。在一个实施例中，寄存器堆2658在功能单元中的每一个之间进行划分，使得每个功能单元均被分配寄存器文件2658的专用部分。在一个实施例中，寄存器堆2658在正由图形多处理器2624执行的不同经线之间进行划分。
GPGPU核2662可以各自包括用于执行图形多处理器2624的指令的浮点单元(FPU)和/或整数算数逻辑单元(ALU)。根据实施例，GPGPU核2662的架构可以类似，也可以不同。例如，在一个实施例中，GPGPU核2662的第一部分包括单精度FPU和整数ALU，而GPGPU核的第二部分包括双精度FPU。在一个实施例中，FPU可以实现IEEE 754-2008浮点算数标准或启用可变精度浮点算数。另外，图形多处理器2624还可以包括用于执行诸如复制矩形或像素混合操作的特定功能的一个或多个固定功能或特殊功能单元。在一个实施例中，GPGPU核中的一个或多个还可以包含固定或特殊功能逻辑。
在一个实施例中，GPGPU核2662包括能够对多组数据执行单指令的SIMD逻辑。在一个实施例中，GPGPU核2662可以物理地执行SIMD4、SIMD8和SIMD16指令，并且逻辑地执行SIMD1、SIMD2和SIMD32指令。针对GPGPU核的SIMD指令可以由着色器编译器在编译时间生成，或在执行针对单程序多数据(SPMD)或SIMT架构而写并且被编译的程序时自动地生成。可以经由单个SIMD指令来执行被配置成用于SIMT执行模型的程序的多个线程。例如且在一个实施例中，可以经由单个SIMD8逻辑单元来并行执行八个SIMT线程，这八个SIMT线程执行相同或类似的操作。
存储器和高速缓存互连2668是互连网络，所述互连网络将图形多处理器2624的功能单元中的每一个连接至寄存器堆2658和共享存储器2670。在一个实施例中，存储器和高速缓存互连2668是允许加载/存储单元2666在共享存储器2670与寄存器堆2658之间实现加载和存储操作的交叉开关互连。寄存器堆2658可以以与GPGPU核2662相同的频率操作，因此GPGPU核2662与寄存器堆2658之间的数据传递具有非常低的等待时间。共享存储器2670可以用于实现在图形多处理器2634内的功能单元上执行的线程之间的通信。例如，高速缓存存储器2672可以用作数据高速缓存，以高速缓存在功能单元与纹理单元2636之间通信的纹理数据。共享存储器2670也可以用作经高速缓存的受管理的程序。除了在高速缓存存储器2672内存储的经自动高速缓存的数据之外，在GPGPU核2662上执行的线程还可以在共享存储器内以编程方式存储数据。
图27A至图27B示出了根据实施例的附加图形多处理器。所展示的图形多处理器2725、2750是图26C的图形多处理器2634的变体。所展示的图形多处理器2725、2750可以被配置成能够同时执行大量执行线程的流式多处理器(SM)。
图27A展示了根据附加实施例的图形多处理器2725。图形多处理器2725包括相对于图26D的图形多处理器2634的执行资源单元的多个附加实例。例如，图形多处理器2725可以包括指令单元2732A至2732B、寄存器堆2734A至2734B和(多个)纹理单元2744A至2744B的多个实例。图形多处理器2725还包括多组图形或计算执行单元(例如，GPGPU核2736A至2736B、GPGPU核2737A至2737B、GPGPU核2738A至2738B)和多组加载/存储单元2740A至2740B。在一个实施例中，执行资源单元具有公共指令高速缓存2730、纹理和/或数据高速缓存存储器2742和共享存储器2746。
各种部件可以经由互连结构(interconnect fabric)2727进行通信。在一个实施例中，互连结构2727包括一个或多个交叉开关以实现在图形多处理器2725的各部件之间的通信。在一个实施例中，互连结构2727是单独的、高速网络结构层，图形多处理器2725的每个部件堆叠在该网络结构层上。图形多处理器2725的部件经由互连结构2727与远程部件通信。例如，GPGPU核2736A-2736B、2737A-2737B以及27378A-2737B可以各自经由互连结构2727与共享存储器2746通信。互连结构2727可以仲裁图形多处理器2725内的通信，以确保部件之间公平的带宽分配。
图27B展示了根据附加实施例的图形多处理器2750。如图26D和图27A所示，图形处理器包括多组执行资源2756A至2756D，其中每组执行资源均包括多个指令单元、寄存器堆、GPGPU核和加载存储单元。执行资源2756A至2756D可以与(多个)纹理单元2760A至2760D一起工作以进行纹理操作，同时共享指令高速缓存2754和共享存储器2762。在一个实施例中，执行资源2756A至2756D可以共享指令高速缓存2754和共享存储器2762以及纹理和/或数据高速缓存存储器2758A至2758B的多个实例。各种部件可以经由与图27A的互连结构2727类似的互连结构2752进行通信。
本领域的技术人员将理解，图25、图26A至图26D和图27A至图27B中所述的架构是描述性的，而不限制本发明的实施例的范围。因此，本文所述的技术可以在任何适当配置的处理单元上实现，包括但不限于：一个或多个移动应用处理器；一个或多个台式计算机或服务器中央处理单元(CPU)，包括多核CPU；一个或多个并行处理单元诸如图26的并行处理单元2602；以及一个或多个图形处理器或专用处理单元，而不脱离本文所述的实施例的范围。
在一些实施例中，如本文所述的并行处理器或GPGPU通信地耦合至主机/处理器核以加快图形操作、机器学习操作、模式分析操作和各种通用GPU(GPGPU)功能。GPU可以通过总线或其他互连(例如，诸如PCIe或NVLink的高速互连)通信地耦合至主机处理器/核。在其他实施例中，GPU可以与核一样集成在相同的封装或芯片上并且通过内部处理器总线/互连(即，在封装或芯片内部)通信地耦合至所述核。不管GPU连接的方式如何，处理器核都可以以工作描述符中包含的命令/指令序列的形式向GPU分配工作。然后，GPU使用专用电路/逻辑来高效地处理这些命令/指令。
用于GPU到主机处理器互连的技术
图28A展示了其中多个GPU 2810至2813通过高速链路2840至2843(例如，总线、点对点互连等)通信地耦合至多个多核处理器2805至2806的示例性架构。在一个实施例中，高速链路2840至2843支持4GB/s、30GB/s、80GB/s或更高的通信吞吐量，这取决于实现。可以使用各种互连协议，包括但不限于PCIe 4.0或5.0和NVLink 2.0。然而，本发明的基本原理不限于任何特定的通信协议或吞吐量。
此外，在一个实施例中，GPU 2810至2813中的两个或更多个通过高速链路2844至2845互连，这可以使用与用于高速链路2840至2843的协议/链路相同或不同的协议/链路来实现。类似地，多核处理器2805至2806中的两个或更多个可以通过高速链路2833连接，所述高速链路可以是以20GB/s、30GB/s、120GB/s或更高的速度运行的对称多处理器(SMP)总线。可替代地，图28A中所示的各种系统部件之间的所有通信均可使用相同的协议/链路(例如，通过公共互连结构)来完成。然而，如所提及的，本发明的基本原理不限于任何特定类型的互连技术。
在一个实施例中，每个多核处理器2805至2806分别经由存储器互连2830至2831通信地耦合至处理器存储器2801至2802，并且每个GPU 2810至2813分别通过GPU存储器互连2850至2853通信地耦合至GPU存储器2820至2823。存储器互连2830至2831和2850至2853可以利用相同或不同的存储器访问技术。以示例而不是限制的方式，处理器存储器2801至2802和GPU存储器2820至2823可以是诸如动态随机存取存储器(DRAM)(包括堆叠式DRAM)、图形DDR SDRAM(GDDR)(例如，GDDR5、GDDR6)或高带宽存储器(HBM)的易失性存储器，和/或可以是诸如3D XPoint或Nano-Ram的非易失性存储器。在一个实施例中，存储器的某个部分可以是易失性存储器，而另一个部分可以是非易失性存储器(例如，使用两级存储器(2LM)层级结构)。
如下所述，尽管各种处理器2805至2806和GPU 2810至2813均可分别物理地耦合至特定存储器2801至2802、2820至2823，但可以实现统一存储器架构，其中相同的虚拟系统地址空间(也称为“有效地址”空间)分发在所有各种物理存储器中。例如，处理器存储器2801至2802可以各自包括64GB的系统存储器地址空间，并且GPU存储器2820至2823可以各自包括32GB的系统存储器地址空间(导致在所述示例中产生总共256GB的可寻址存储空间)。
图28B展示了根据一个实施例的多核处理器2807与图形加速模块2846之间的互连的附加细节。图形加速模块2846可以包括集成在经由高速链路2840耦合至处理器2807的线卡上的一个或多个GPU芯片。可替代地，图形加速模块2846可以与处理器2807一样集成在相同的封装或芯片上。
28所展示的处理器2807包括多个核2860A至2860D，这些核各自具有转换后备缓冲器2861A至2861D和一个或多个高速缓存2862A至2862D。这些核可以包括用于执行指令和处理未展示的数据以避免模糊本发明的基本原理的各种其他部件(例如，指令获取单元、分支预测单元、解码器、执行单元、重排序缓冲器等)。高速缓存2862A至2862D可以包括1级(L1)和2级(L2)高速缓存。此外，一个或多个共享高速缓存2826可以被包括在高速缓存层级结构中并由各组核2860A至2860D共享。例如，处理器2807的一个实施例包括24个核，这些核各自具有它自己的L1高速缓存、12个共享L2高速缓存和12个共享L3高速缓存。在这个实施例中，L2高速缓存和L3高速缓存中的一个由两个相邻核共享。处理器2807和图形加速器集成模块2846与系统存储器2841连接，所述系统存储器可以包括处理器存储器2801至2802。
通过一致性总线2864经由核间通信来为各种高速缓存2862A至2862D、2856和系统存储器2841中存储的数据和指令保持一致性。例如，每个高速缓存均可具有与其关联的高速缓存一致性逻辑/电路，以响应于所检测的对特定高速缓存行的读取或写入而通过一致性总线2864进行通信。在一个实现中，通过一致性总线2864实现高速缓存窥探协议以窥探高速缓存访问。本领域技术人员可以很好理解高速缓存窥探/一致性技术，以避免模糊本发明的基本原理，这里不再详细描述。
在一个实施例中，代理电路2825将图形加速模块2846通信地耦合至一致性总线2864，从而允许图形加速模块2846作为核的对等体参与缓存一致性协议。具体地讲，接口2835通过高速链路2840(例如，PCIe总线、NVLink等)向代理电路2825提供连接性，并且接口2837将图形加速模块2846连接至链路2840。
在一个实现中，加速器集成电路2836代表图形加速模块2846的多个图形处理引擎2831、2832、N提供高速缓存管理、存储器访问、上下文管理和中断管理服务。图形处理引擎2831、2832、N可以各自包括单独的图形处理单元(GPU)。可替代地，图形处理引擎2831、2832、N可以在GPU内包括不同类型的图形处理引擎诸如图形执行单元、媒体处理引擎(例如，视频编码器/解码器)、采样器和块图像传输引擎。换句话讲，图形加速模块可以是具有多个图形处理引擎2831、2832、N的GPU，或图形处理引擎2831至2832、N可以是集成在公共包、线卡或芯片上的单独GPU。
在一个实施例中，加速器集成电路2836包括存储器管理单元(MMU)2839，所述存储器管理单元用于执行诸如虚拟到物理存储器转换(也称为有效到实际存储器转换)的各种存储器管理功能和用于访问系统存储器2841的存储器访问协议。MMU 2839还可以包括用于高速缓存虚拟/有效到物理/实际地址转换的转换后备缓冲器(TLB)(未示出)。在一个实现中，高速缓存2838存储用于由图形处理引擎2831至2832、N高效访问的命令和数据。在一个实施例中，使高速缓存2838和图形存储器2833至2834、N中存储的数据与核高速缓存2862A至2862D、2856和系统存储器2811保持一致。如所提及的，这可以经由代理电路2825来完成，所述代理电路代表高速缓存2838和存储器2833至2834、N参与高速缓存一致性机制(例如，向高速缓存2838发送与处理器高速缓存2862A至2862D、2856上的高速缓存行的修改/访问相关的更新并从高速缓存2838接收更新)。
一组寄存器2845存储由图形处理引擎2831至2832、N执行的线程的上下文数据，并且上下文管理电路2848管理线程上下文。例如，上下文管理电路2848可以执行保存和恢复操作以在上下文切换期间保存和恢复各种线程的上下文(例如，其中第一线程被保存并且第二线程被存储，使得第二线程可以由图形处理引擎执行)。例如，在上下文切换时，上下文管理电路2848可以将当前寄存器值存储到存储器中的指定区域(例如，由上下文指针标识)。所述上下文管理电路可以在返回上下文时恢复寄存器值。在一个实施例中，中断管理电路2847接收并处理从系统设备所接收的中断。
在一个实现中，由MMU 2839将来自图形处理引擎2831的虚拟/有效地址转换为系统存储器2811中的实际/物理地址。加速器集成电路2836的一个实施例支持多个(例如，4个、8个、16个)图形加速器模块2846和/或其他加速器设备。图形加速器模块2846可以专用于在处理器2807上执行的单个应用，或者可以在多个应用之间共享。在一个实施例中，呈现虚拟图形执行环境，其中图形处理引擎2831至2832、N的资源与多个应用或虚拟机(VM)共享。资源可以被细分为基于与VM和/或应用相关联的处理要求和优先级而分配给不同的VM和/或应用的“分片”。
因此，加速器集成电路充当图形加速模块2846的系统的桥，并提供地址转换和系统存储器高速缓存服务。此外，加速器集成电路2836可以为主机处理器提供虚拟化设施以管理图形处理引擎、中断和存储器管理的虚拟化。
由于图形处理引擎2831至2832、N的硬件资源显式地地映射到由主机处理器2807看到的实际地址空间，因此任何主处理器都可以使用有效地址值来为这些资源直接寻址。在一个实施例中，加速器集成电路2836的一个功能是图形处理引擎2831至2832、N的物理分离，使得它们作为独立单元出现在系统上。
如所提及的，在所展示的实施例中，一个或多个图形存储器2833至2834、M分别耦合至图形处理引擎2831至2832、N中的每一个。图形存储器2833至2834、M存储正由图形处理引擎2831至2832、N中的每一个处理的指令和数据。图形存储器2833至2834，M可以是诸如DRAM(包括堆叠式DRAM)、GDDR存储器(例如，GDDR5、GDDR6)或HBM的易失性存储器，和/或可以是诸如3D XPoint或Nano-Ram的非易失性存储器。
在一个实施例中，为了减少链路2840上的数据流量，使用偏置技术来确保图形存储器2833至2834、M中存储的数据是图形处理引擎2831至2832、N最频繁使用，并且核2860A至2860D优选不使用(至少不频繁使用)的数据。类似地，偏置机制试图使核(并且优选地不是图形处理引擎2831至2832、N)所需的数据保持在核和系统存储器2811的高速缓存2862A至2862D、2856内。
图28C展示了其中加速器集成电路2836集成在处理器2807内的另一个实施例。在这个实施例中，图形处理引擎2831至2832、N经由接口2837和接口2835来直接通过高速链路2840与加速器集成电路2836进行通信(这也可以利用任何形式的总线或接口协议)。加速器集成电路2836可以执行与关于图28B所描述的操作相同的操作，但考虑到其与一致性总线2862和高速缓存2862A至2862D、2826紧密接近，可能以较高的吞吐量进行操作。
一个实施例支持不同的编程模型，包括专用进程编程模型(不具有图形加速模块虚拟化)和共享编程模型(具有虚拟化)。共享编程模型可以包括由加速器集成电路2836控制的编程模型和由图形加速模块2846控制的编程模型。
在专用进程模型的一个实施例中，图形处理引擎2831至2832、N在单个操作系统下专用于单个应用或进程。单个应用可以将其他应用请求集中到图形引擎2831至2832、N，从而在VM/分区内提供虚拟化。
在专用进程编程模型中，图形处理引擎2831至2832、N可以由多个VM/应用分区共享。共享模型需要系统管理程序，所述系统管理程序用于将图形处理引擎2831至2832、N虚拟化，以允许由每个操作系统进行访问。对于没有管理程序的单分区系统，图形处理引擎2831至2832、N由操作系统拥有。在这两种情况下，操作系统都可以将图形处理引擎2831至2832、N虚拟化以提供对每个进程或应用的访问。
对于共享编程模型，图形加速模块2846或单独图形处理引擎2831至2832、N使用进程句柄来选择进程要素。在一个实施例中，进程要素被存储在系统存储器2811中并且可使用本文所述的有效地址到实际地址转换技术来寻址。所述进程句柄可以是在向图形处理引擎2831至2832、N注册它的上下文(即，调用系统软件以向进程要素链表添加进程要素)时向主机进程提供特定于实现的值。所述进程句柄的低16位可以是进程要素链表内的进程要素的偏移量。
图28D展示了示例性加速器集成分片2890。如本文所用，“分片”包括加速器集成电路2836的处理资源的指定部分。系统存储器2811内的应用有效地址空间2882存储进程要素2883。在一个实施例中，进程要素2883响应于来自在处理器2807上执行的应用2880的GPU调用2881而被存储。进程要素2883包含相应应用2880的处理状态。进程要素2883中包含的工作描述符(WD)2884可以是应用所请求的单个作业，或者可以包含指向作业队列的指针。在后一种情况下，WD 2884是指向应用地址空间2882中的作业请求队列的指针。
图形加速模块2846和/或单独图形处理引擎2831至2832、N可以由系统中的全部或部分进程共享。本发明的实施例包括用于建立处理状态并向图形加速模块2846发送WD2884以在虚拟环境中开始作业的基础结构。
在一个实现中，专用进程编程模型是特定于具体实施的。在这个模型中，单个进程拥有图形加速模块2846或单独的图形处理引擎2831。由于图形加速模块2846由单个进程拥有，因此管理程序初始化加速器集成电路2836以获得所属分区，并且操作系统在图形加速模块2846被分配时初始化加速器集成电路2836以获取所属进程。
在操作中，加速器集成分片2890中的WD获取单元2891获取下一个WD 2884，所述WD包括将由图形加速模块2846的图形处理引擎之一进行的工作的指示。如图所示，来自WD2884的数据可以被存储在寄存器2845中并由MMU 2839、中断管理电路2847和/或上下文管理电路2846使用。例如，MMU 2839的一个实施例包括用于访问OS虚拟地址空间2885内的段/页表2886的段/页步行(walk)电路。中断管理电路2847可以处理从图形加速模块2846所接收的中断事件2892。当执行图形操作时，由图形处理引擎2831至2832、N生成的有效地址2893由MMU 2839转换为实际地址。
在一个实施例中，针对每个图形处理引擎2831至2832、N和/或图形加速模块2846复制同一组寄存器2845，并且可以由管理程序或操作系统初始化这一组寄存器。这些复制的寄存器中的每一个均可被包括在加速器集成分片2890中。表2中示出了可以由管理程序初始化的示例性寄存器。
表2-管理程序初始化寄存器
1 分片控制寄存器
2 实际地址(RA)调度进程区域指针
3 授权掩码覆盖(override)寄存器
4 中断向量表条目偏移
5 中断向量表条目极限
6 状态寄存器
7 逻辑分区ID
8 实际地址(RA)管理程序加速器利用记录指针
9 存储描述寄存器
表3中示出了可以由操作系统初始化的示例性寄存器。
表3-操作系统初始化寄存器
在一个实施例中，每个WD 2884均特定于特定图形加速模块2846和/或图形处理引擎2831至2832、N。所述WD包含图形处理引擎2831至2832、N完成其工作所需的所有信息，或者所述WD可以是指向应用已经建立了要完成的工作命令队列的存储器位置的指针。
图28E展示了共享模型的一个实施例的附加细节。所述实施例包括其中存储了进程要素列表2899的管理程序实际地址空间2898。管理程序实际地址空间2898可经由管理程序2896来访问，所述管理程序将操作系统2895的图形加速模块引擎虚拟化。
共享编程模型允许来自系统中的全部或部分分区的全部或部分进程使用图形加速模块2846。有两种编程模型，其中图形加速模块2846由多个进程和分区共享：时间分片共享和图形直接共享。
在这个模型中，系统管理程序2896拥有图形加速模块2846并且使其功能对所有操作系统2895可用。为使图形加速模块2846支持系统管理程序2896的虚拟化，图形加速模块2846可遵守以下要求：1)应用作业请求必须是自主的(即，不需要维持作业之间的状态)，或者图形加速模块2846必须提供上下文保存和恢复机制。2)图形加速模块2846保证在指定时间量内完成应用作业请求，包括任何转换错误，或者图形加速模块2846提供抢占作业处理的能力。3)当以直接共享编程模型操作时，必须保证进程中图形加速模块2846的公平性。
在一个实施例中，对于共享模型，需要应用2880来利用图形加速模块2846类型、工作描述符(WD)、授权掩码寄存器(AMR)值以及上下文保存/恢复区域指针(CSRP)来进行操作系统2895系统调用。图形加速模块2846类型描述了系统调用的目标加速功能。图形加速模块2846类型可以是特定于系统的值。所述WD专门针对图形加速模块2846来格式化，并且可以呈以下形式：图形加速模块2846命令；指向用户定义结构的有效地址指针；指向命令队列的有效地址指针；或用于描述将由图形加速模块2846进行的工作的任何其他数据结构。在一个实施例中，AMR值是用于当前进程的AMR状态。传递给操作系统的值与设置AMR的应用类似。如果加速器集成电路2836和图形加速模块2846的实现不支持用户授权掩码覆盖寄存器(UAMOR)，则操作系统可以在管理程序调用中传递AMR之前向AMR值应用当前UAMOR值。在将AMR置于进程要素2883之前，管理程序2896可以可选地应用当前授权掩码覆盖寄存器(AMOR)值。在一个实施例中，CSRP是包含应用地址空间2882中供图形加速模块2846保存和恢复上下文状态的区域的有效地址的寄存器2845中的一个。如果不需要在作业之间保存状态或当作业被抢占时，这个指针是可选的。所述上下文保存/恢复区域可以是插接的系统存储器。
在接收到系统调用时，操作系统2895可以验证应用2880已注册并被授权使用图形加速模块2846。操作系统2895然后利用表4中所示的信息来调用管理程序2896。
表4-操作系统对管理程序的调用参数
1 工作描述符(WD)
2 授权掩码寄存器(AMR)值(可能已掩蔽)
3 有效地址(EA)上下文保存/恢复区域指针(CSRP)
4 进程ID(PID)和可选的线程ID(TID)
5 虚拟地址(VA)加速器利用记录指针(AURP)
6 存储段表指针(SSTP)的虚拟地址
7 逻辑中断服务号(LISN)
在接收到管理程序调用时，管理程序2896可以验证操作系统2895已注册并被授权使用图形加速模块2846。管理程序2896然后将进程要素2883针对对应图形加速模块2846类型放入进程要素链表中。进程要素可以包含表5中所示的信息。
表5-进程要素信息
1 工作描述符(WD)
2 授权掩码寄存器(AMR)值(可能已掩蔽)
3 有效地址(EA)上下文保存/恢复区域指针(CSRP)
4 进程ID(PID)和可选的线程ID(TID)
5 虚拟地址(VA)加速器利用记录指针(AURP)
6 存储段表指针(SSTP)的虚拟地址
7 逻辑中断服务号(LISN)
8 中断向量表，从管理程序调用参数导出
9 状态寄存器(SR)值
10 逻辑分区ID(LPID)
11 实际地址(RA)管理程序加速器利用记录指针
12 存储描述符寄存器(SDR)
在一个实施例中，管理程序将加速器集成分片2890的多个寄存器2845初始化。
如图28F所展示，本发明的一个实施例采用可经由用于访问物理处理器存储器2801至2802和GPU存储器2820至2823的公共虚拟存储器地址空间来寻址的统一存储器。在这个实现中，在GPU 2810至2813上执行的操作利用相同的虚拟/有效存储器地址空间来访问处理器存储器2801至2802，反之亦然，由此简化可编程性。在一个实施例中，将虚拟/有效地址空间的第一部分分配给处理器存储器2801，将第二部分分配给第二处理器存储器2802，将第三部分分配给GPU存储器2820，以此类推。整个虚拟/有效存储器空间(有时称为有效地址空间)由此分布在处理器存储器2801至2802和GPU存储器2820至2823中的每一个上，从而允许任何处理器或GPU访问具有映射到所述存储器的虚拟地址的任何物理存储器。
在一个实施例中，MMU 2839A至2839E中的一个或多个内的偏置/一致性管理电路2894A至2894E确保了主机处理器(例如，2805)与GPU 2810至2813的高速缓存之间的高速缓存一致性，并且实现了指示其中应当存储某些类型的数据的物理存储器的偏置技术。尽管在图28F中展示了偏置/一致性管理电路2894A至2894E的多个实例，但偏置/一致性电路也可以在一个或多个主机处理器2805的MMU内和/或在加速器集成电路2836内实现。
一个实施例允许将GPU附接的存储器2820至2823映射为系统存储器的一部分，并使用共享虚拟存储器(SVM)技术进行访问，但不会遭受与全系统高速缓存一致性相关的典型性能缺陷。GPU附接的存储器2820至2823作为系统存储器来访问的能力不会造成繁重的高速缓存一致性开销，这为GPU卸载提供了有利的操作环境。这种安排允许主机处理器2805软件设置操作数并访问计算结果，而不具有传统I/O DMA数据拷贝的开销。这些传统拷贝涉及驱动器调用、中断和存储器映射I/O(MMIO)访问，这些访问相对于简单内存访问来说都是低效的。同时，在不具有高速缓存一致性开销的情况下访问GPU附接存储器2820至2823的能力对于卸载计算的执行时间可能是关键的。例如，在具有大量流式写入存储器业务的情况下，高速缓存一致性开销可以显著降低由GPU 2810至2813看到的有效写入带宽。操作数设置的效率、结果访问的效率以及GPU计算的效率都在确定GPU卸载的有效性方面发挥着重要作用。
在一个实现中，GPU偏置与主机处理器偏置之间的选择由偏置跟踪器数据结构驱动。例如，可以使用偏置表，所述偏置表可以是每个GPU附接存储器页包括1或2个位的页粒度结构(即，以存储器页的粒度来控制)。偏置表可以在一个或多个GPU附接存储器2820至2823的被盗存储器范围内实现，在GPU 2810至2813中具有或不具有偏置高速缓存(例如，以高速缓存频繁/最近使用的偏置表的条目)。可替代地，整个偏置表均可保持在GPU内。
在一个实现中，在实际访问GPU存储器之前访问与对GPU附接存储器2820至2823的每次访问相关联的偏置表条目，从而使得以下操作。首先，将来自GPU 2810至2813的在GPU偏置中发现其页的本地请求直接转发到对应的GPU存储器2820至2823。将来自GPU的在主机偏置中发现其页的本地请求转发给处理器2805(例如，如上所述通过高速链路)。在一个实施例中，来自处理器2805的在主机处理器偏置中发现所请求的页的请求完成了像正常存储器读取那样的请求。可替代地，可以将针对GPU偏置页的请求转发给GPU2810至2813。如果GPU当前未使用所述页，则GPU可以将所述页转换为主机处理器偏置。
页的偏置状态可以通过基于软件的机制、基于硬件辅助软件的机制，或者对于一组有限的情况，基于仅硬件的机制来改变。
一种用于改变偏置状态的机制采用API调用(例如OpenCL)，所述API调用继而调用GPU设备驱动器，所述驱动器继而向GPU发送消息(或将命令描述符入队)，从而引导所述GPU改变偏置状态，并且对于某些转换，在主机中执行高速缓存转储清除操作。所述高速缓存转储清除操作是从主机处理器2805偏置到GPU偏置的转换所必需的，而对于相反转换则不是必需的。
在一个实施例中，通过暂时呈现主机处理器2805不可高速缓存的GPU偏置页来保持缓存一致性。为了访问这些页，处理器2805可以请求来自GPU 2810的访问，GPU可以依据实现立即授权访问也可以不授权访问。因此，为了减少处理器2805与GPU 2810之间的通信，有利的是确保GPU偏置页是GPU所需但不是主机处理器2805所需的页，反之亦然。
图28G示出了根据实施例的多GPU计算系统。多GPU计算系统可以包括经由主机接口开关2804耦合到多个GPU 2814A-2814D的处理器2803。在一个实施例中，主机接口开关2804是PCI Express开关设备，其将处理器2803耦合到PCI Express总线，处理器2803可以通过PCI Express总线与该组GPU 2814A-2814D进行通信。GPU 2814A-2814D可以经由一组高速点对点GPU与GPU链路2816互连。高速GPU到GPU链路可以经由专用GPU链路连接到GPU2814A-2814D中的每一个。P2P GPU链路2816使得能够在GPU 2814A-2814D中的每一个之间进行直接通信，而不需要通过处理器2803所连接的主机接口总线进行通信。利用指向P2PGPU链路的GPU到GPU话务，主机接口总线保持可用于系统存储器访问或者与多GPU计算系统2800的其他实例通信，例如，经由一个或多个网络设备。虽然在所示实施例中，GPU 2814A-2814D经由主机接口开关2804连接到处理器2803，但在一个实施例中，处理器2803包括对P2P GPU链路2816的直接支持，并且可以直接连接到GPU 2814A-2814D。
图形处理流水线
图29展示了根据实施例的图形处理流水线2900。在一个实施例中，图形处理器可以实现所展示的图形处理流水线2900。所述图形处理器可以被包括在如本文所述的并行处理子系统诸如图26A的并行处理器2600内，在一个实施例中，所述并行处理器是图25的(多个)并行处理器2512的变体。如本文所述，各种并行处理系统可以经由并行处理单元(例如，图26A的并行处理单元2602)的一个或多个实例来实现图形处理流水线2900。例如，着色器单元(例如，图27A的图形多处理器2634)可以被配置成执行顶点处理单元2904、曲面细分控制处理单元2908、曲面细分评估处理单元2912、几何处理单元2916和片段/像素处理单元2924中的一个或多个的功能。数据组装器2902，图元组装器2906、2914、2918，曲面细分单元2910，光栅化器2922和光栅操作单元2926的功能还可以由处理集群(例如，图26A的处理集群2614)内的其他处理引擎和对应的分区单元(例如，图26A的分区单元260A至2620N)执行。图形处理流水线2900还可以使用一个或多个功能的专用处理单元来实现。在一个实施例中，图形处理流水线2900的一个或多个部分可以由通用处理器(例如，CPU)内的并行处理逻辑执行。在一个实施例中，图形处理流水线2900的一个或多个部分可经由存储器接口2928访问片上存储器(例如，如图26所示的并行处理器存储器2622)，所述存储器接口可以是图26的存储器接口2618的实例。
在一个实施例中，数据组装器2902是收集表面和图元的顶点数据的处理单元。数据组装器2902然后向顶点处理单元2904输出包括顶点属性的顶点数据。顶点处理单元2904是可编程执行单元，所述可编程执行单元执行顶点着色器程序，从而照明和变换如顶点着色器程序所指定的顶点数据。顶点处理单元2904读取高速缓存、本地或系统存储器中存储的用于处理顶点数据的数据，并且可以编程为将顶点数据从基于对象的坐标表示变换为世界空间坐标空间或归一化设备坐标空间。
图元组装器2906的第一实例从顶点处理单元2900接收顶点属性。图元组装器2906根据需要读取所存储的顶点属性并构造图形图元以由曲面细分控制处理单元2908进行处理。图形图元包括如各种图形处理应用编程接口(API)所支持的三角形、线段、点、补片等等。
曲面细分控制处理单元2908将输入顶点视为几何补片的控制点。这些控制点从来自补片的输入表示(例如，补片的基础)变换为适用于由曲面细分评估处理单元2912进行表面评估的表示。曲面细分控制处理单元2908还可以计算几何补片的边缘的曲面细分因子。曲面细分因子适用于单个边缘，并量化与边缘相关的依赖于视图的细节等级。曲面细分单元2910被配置成接收补片的边缘的曲面细分因子并将补片细分为多个几何图元诸如线、三角形或四边形图元，所述多个几何图元被传输到曲面细分评估处理单元2912。曲面细分评估处理单元2912对细分的补片的参数化坐标进行操作以生成与几何图元相关的每个顶点的表面表示和顶点属性。
图元组装器2914的第二实例从曲面细分评估处理单元2912接收顶点属性，根据需要读取所存储的顶点属性，并构造图形图元以由几何处理单元2916处理。几何处理单元2916是可编程执行单元，所述可编程执行单元执行几何着色器程序，以变换如几何着色器程序所指定的从图元组装器2914所接收的图形图元。在一个实施例中，几何处理单元2916被编程为将图形图元细分为一个或多个新的图形图元并且计算用于将新的图形图元光栅化的参数。
在一些实施例中，几何处理单元2916可以添加或删除几何流中的元素。几何处理单元2916向图元组装器2918输出指定新图形图元的参数和顶点。图元组装器2918从几何处理单元2916接收参数和顶点，并构建图形图元以由视口缩放、拣选和剪辑单元2920进行处理。几何处理单元2916读取并行处理器存储器或系统存储器中存储的数据以用于处理几何数据。视口缩放、拣选和剪辑单元2920执行剪辑、拣选和视口缩放，并向光栅化器2922输出经处理的图形图元。
光栅化器2922可以执行深度拣选和其他基于深度的优化。光栅化器2922还对新图形图元执行扫描转换以生成段并向段/像素处理单元2924输出这些段和关联的覆盖数据。片段/像素处理单元2924是被配置成执行片段着色器程序或像素着色器程序的可编程执行单元。片段/像素处理单元2924变换从光栅化器2922所接收的片段或像素，如片段或像素着色器程序所指定的。例如，片段/像素处理单元2924可以被编程为执行包括但不限于纹理映射、着色、混合、纹理校正和透视校正的操作，以产生输出到光栅操作单元2926的着色片段或像素。片段/像素处理单元2924可以读取并行处理器存储器或系统存储器中存储的数据，以在处理片段数据时使用。片段或像素着色器程序可以被配置成依据针对处理单元进行配置的采样速率以样本、像素、图块或其他粒度着色。
光栅操作单元2926是执行包括但不限于模板印刷、z测试、混合等光栅操作的处理单元，并且将像素数据作为经处理图形数据输出以存储在图形存储器中(例如，图26中的并行处理器存储器2622，和/或如图25中的系统存储器2504，以在一个或多个显示设备2510上显示或者由一个或多个处理器2502或(多个)并行处理器2512中的一个进一步处理。在一些实施例中，光栅操作单元2926被配置成压缩写入存储器的z或颜色数据，并解压缩从存储器读取的z或颜色数据。
对“一个实施例”、“实施例”、“示例实施例”、“各实施例”等的引用指示：如此描述的(多个)实施例可以包括特定特征、结构或特性，但并非每一个实施例必定包括这些特定的特征、结构或特性。此外，一些实施例可具有针对其他实施例所描述的特征的一些、全部、或不具有任何所述特征。
在以上说明书中，已经参照其特定示例性实施例描述了各实施例。然而，在不偏离所附权利要求中阐述的实施例的更广泛精神和范围的情况下，将显然的是可对其进行各种修改和改变。因此，说明书和附图将以说明性而非限制性的含义来看待。
在以下说明书和权利要求书中，可以使用术语“耦合”及其衍生词。“耦合”用于指示两个或更多个元件彼此协作或相互作用，但是它们之间可以具有或可不具有中间物理或电学部件。
如权利要求书中所使用的，除非另有说明，否则使用序数形容词“第一”、“第二”、“第三”等来描述公共元件仅指示类似元件的不同实例被提及，并不旨在暗示如此描述的元素必须在给定的序列中，无论是时间、空间、等级或以任何其他方式。
以下条款和/或示例涉及进一步实施例或示例。可以在一个或多个实施例中的任何地方使用示例中的细节。可以以各种方式将不同的实施例或示例的各种特征与所包括的一些特征以及被排除的其他特征组合以适应各种不同的应用。示例可以包括主题，诸如：方法；用于执行所述方法的动作的装置；至少一种包括指令的机器可读介质，所述指令当由机器执行时使所述机器执行所述方法的动作；或用于根据本文中所描述的实施例和示例促进混合通信的设备或系统。
一些实施例涉及示例1，示例1包括用于促进机器学习环境中的智能卷积的设备，该设备包括：一个或多个处理器，包括一个或多个图形处理器；检测和选择逻辑，用于检测和选择具有与神经网络将被训练的对象相关联的多个几何形状的输入图像；滤波器生成和存储逻辑(“滤波器逻辑”)，用于基于多个几何形状生成提供权重的滤波器(weightsproviding filters)，并且其中滤波器逻辑进一步基于多个几何形状中的共同几何形状对滤波器组中的滤波器进行分类，并且其中滤波器逻辑进一步基于共同几何形状将滤波器组存储在箱中，其中每个箱对应于几何形状。
示例2包括示例1的主题，其中检测和选择逻辑用于基于对象的几何形状来选择箱，其中箱包括与对象的几何形状相关联的滤波器组。
示例3包括示例1-2的主题，进一步包括训练和微调逻辑，用于基于对象的几何形状和从箱获得的值初始化滤波器组的基于几何形状的训练。
示例4包括示例1-3的主题，其中训练和微调逻辑基于经训练的滤波器组启动神经网络的特定几何形状训练。
示例5包括示例1-4的主题，其中检测和选择逻辑用于检测神经网络的层，其中层包括上层和下层，其中检测和选择逻辑进一步用于检测和标识与较低级别的层关联的现有卷积滤波器。
示例6包括示例1-5的主题，进一步包括可分离卷积逻辑，用于将神经网络的现有卷积滤波器分离成新的卷积滤波器的对，其中每个新的卷积滤波器的尺寸是现有卷积滤波器的一半，其中，训练和微调逻辑用于基于新的卷积滤波器对来训练神经网络。
示例7包括示例1-6的主题，其中一个或多个图形处理器与公共半导体封装上的一个或多个应用处理器共同定位。
一些实施例涉及示例8，示例8包括用于促进机器学习环境中的智能卷积的方法，该方法包括：检测和选择具有与在计算设备处神经网络将被训练的对象相关联的多个几何形状的输入图像；基于多个几何形状生成提供权重的滤波器；基于多个几何形状中的共同几何形状对滤波器组中的滤波器进行分类；并且基于共同几何形状将滤波器组存储在箱中，其中每个箱对应于几何形状。
示例9包括示例8的主题，其中进一步包括基于对象的几何形状来选择箱，其中箱包括与对象的几何形状相关联的滤波器组。
示例10包括示例8-9的主题，进一步包括基于对象的几何形状和从箱获得的值来初始化滤波器组的基于几何形状的训练。
示例11包括示例8-10的主题，进一步包括基于经训练的滤波器组启动神经网络的几何形状专用(geometric shape-specific)训练。
示例12包括示例8-11的主题，进一步包括检测神经网络的层，其中层包括上层和下层；并且检测和标识与较低级别的层关联的现有卷积滤波器。
示例13包括示例8-12的主题，进一步包括将神经网络的现有卷积滤波器分离成新的卷积滤波器的对，其中每个新的卷积滤波器的尺寸是现有卷积滤波器的一半；并且，基于新的卷积滤波器的对来训练神经网络。
示例14包括示例8-13的主题，其中计算设备包括一个或多个处理器，该处理器包括一个或多个图形处理器，所述一个或多个图形处理器与公共半导体封装上的一个或多个应用处理器共同定位。
一些实施例涉及示例15，示例15包括一种数据处理系统，该数据处理系统包括具有指令的存储设备以及用于执行所述指令的处理设备，所述处理设备用于：检测和选择具有与在计算设备处神经网络将被训练的对象相关联的多个几何形状的输入图像；基于多个几何形状生成提供权重的滤波器；基于多个几何形状中的共同几何形状对滤波器组中的滤波器进行分类；并且基于共同几何形状将滤波器组存储在箱中，其中每个箱对应于几何形状。
示例16包括示例15的主题，其中处理器设备用于：基于对象的几何形状来选择箱，其中箱包括与对象的几何形状相关联的滤波器组。
示例17包括示例15-16的主题，其中处理器设备用于：基于对象的几何形状和从箱获得的值来初始化滤波器组的基于几何形状的训练。
示例18包括示例15-17的主题，其中处理器设备用于：基于经训练的滤波器组启动神经网络的几何形状专用训练。
示例19包括示例15-18的主题，其中处理器设备用于：将神经网络的现有卷积滤波器分离成新的卷积滤波器的对，其中每个新的卷积滤波器的尺寸是现有卷积滤波器的一半；并且，基于新的卷积滤波器对来训练神经网络。
示例20包括示例15-19的主题，其中处理器设备用于：将神经网络的现有卷积滤波器分离成新的卷积滤波器的对，其中每个新的卷积滤波器的尺寸是现有卷积滤波器的一半；并且，基于新的卷积滤波器对来训练神经网络。
示例21包括示例8-13的主题，其中计算设备包括一个或多个处理器，该处理器包括一个或多个图形处理器，所述一个或多个图形处理器与公共半导体封装上的一个或多个应用处理器共同定位。
一些实施例涉及示例22，示例22包括一种设备，包括：用于检测卷积神经网络(CNN)的下层的装置；用于检测和选择具有与在计算设备处神经网络将被训练的对象相关联的多个几何形状的输入图像的装置；用于基于多个几何形状生成提供权重的滤波器的装置；用于基于多个几何形状中的共同几何形状对滤波器组中的滤波器进行分类的装置；以及用于基于共同几何形状将滤波器组存储在箱中的装置，其中每个箱对应于几何形状。
示例23包括示例22的主题，进一步包括用于基于对象的几何形状来选择箱的装置，其中箱包括与对象的几何形状相关联的滤波器组。
示例24包括示例22-23的主题，进一步包括用于基于对象的几何形状和从箱获得的值来初始化滤波器组的基于几何形状的训练的装置。
示例25包括示例22-24的主题，进一步包括用于基于经训练的滤波器组启动神经网络的几何形状专用训练的装置。
示例26包括示例22-25的主题，进一步包括用于以下操作的装置：将神经网络的现有卷积滤波器分离成新的卷积滤波器的对，其中每个新的卷积滤波器的尺寸是现有卷积滤波器的一半；以及，基于新的卷积滤波器对来训练神经网络。
示例27包括示例22-26的主题，进一步包括用于以下操作的装置：将神经网络的现有卷积滤波器分离成新的卷积滤波器对，其中每个新的卷积滤波器的尺寸是现有卷积滤波器的一半；以及，基于新的卷积滤波器对来训练神经网络。
示例28包括示例22-27的主题，其中所述设备包括一个或多个处理器，该处理器包括一个或多个图形处理器，所述一个或多个图形处理器与公共半导体封装上的一个或多个应用处理器共同定位。
示例29包括至少一种非瞬态或有形的机器可读介质，所述机器可读介质包括多个指令，所述多个指令当在计算设备上被执行时用于实现或执行权利要求或示例8-14中任一项所述的方法。
示例30包括至少一种机器可读介质，包括多个指令，所述指令在计算设备上执行时，用于实现或执行如权利要求或示例8-14中任一项所述的方法。
示例31包括一种系统，该系统包括用于实现或执行如权利要求或示例8-14中任一项所述的方法的机制。
示例32包括一种设备，包括用于执行如权利要求或示例8-14中任一项中所述方法的装置。
示例33包括一种计算设备，该计算设备被布置成实现或执行如权利要求或示例8-14中任一项所述的方法。
示例34包括一种通信设备，该通信设备被布置成实现或执行如权利要求或示例8-14中任一项所述的方法。
示例35包括至少一种机器可读介质，所述机器可读介质包括多个指令，所述多个指令当在计算设备上被执行时用于实现或执行任一前述权利要求中所述的方法或实现任一前述权利要求中所述的设备。
示例36包括至少一种非瞬态或有形的机器可读介质，所述机器可读介质包括多个指令，所述多个指令当在计算设备上被执行时用于实现或执行任一前述权利要求中所述的方法或实现任一前述权利要求中所述的设备。
示例37包括一种系统，所述系统包括用于实现或执行任一前述权利要求中所述的方法或实现任一前述权利要求中所述的设备的机制。
示例38包括一种设备，所述设备包括用于执行任一前述权利要求中所述的方法的装置。
示例39包括一种计算设备，所述计算设备被安排用于实现或执行任一前述权利要求中所述的方法或实现任一前述权利要求中所述的设备。
示例40包括一种通信设备，所述通信设备被安排用于实现或执行任一前述权利要求中所述的方法或实现任一前述权利要求中所述的设备。
附图以及前述描述给出了诸实施例的示例。本领域技术人员将理解，所描述的元件中的一个或多个可以合并成单个功能元件。或者，某些元件可以被拆分成多个功能元件。可以将来自一个实施例的元件添加到另一实施例中。例如，本文中所描述的过程的顺序可以改变，并且不限于本文中所描述的方式。此外，任何流程图的动作都不需要以所示的顺序来实现；也不一定需要执行所有这些动作。此外，不依赖于其他动作的那些动作也可以与其他动作并行地执行。各实施例的范围绝非由这些特定示例限制。众多变体(无论是否在说明书中显式地给出)都是可能的，这些变体诸如，结构、尺度以及材料的使用方面的差异。诸实施例的范围至少与由所附权利要求书给出的范围一样广泛。

Claims (19)

1.一种用于促进机器学习环境中的智能卷积的设备，所述设备包括：
一个或多个处理器，包括一个或多个图形处理器；
检测和选择逻辑，用于检测卷积神经网络(CNN)的低层；
经训练的权重生成和存储逻辑(“训练权重逻辑”)，用于在存储库处生成权重文档的库，其中，所述权重文档包括与所述CNN的所述低层相关联的权重；
训练优化逻辑，用于对所述权重进行预训练，以检测包含在于所述CNN处正被处理的输入图像中的基元几何形状；以及
训练和微调逻辑，用于基于所预训练的权重启动对所述CNN的训练。
2.如权利要求1所述的设备，其特征在于，所述经训练的权重逻辑进一步用于使用对滤波器的训练来生成所述权重，其中使用视觉工具来分析所述权重，其中，所述滤波器包括3×3滤波器和5×5滤波器中的至少一者。
3.如权利要求1所述的设备，其特征在于，所述经训练的权重逻辑进一步用于基于所述基元几何形状将所述权重存储在箱中。
4.如权利要求1所述的设备，其特征在于，所述训练和微调逻辑进一步用于在训练所述CNN之前，基于从所述箱获得的值初始化所述预训练权重，其中，由用户使用所述视觉工具来标识所述箱。
5.如权利要求1所述的设备，其特征在于，进一步包括可分离卷积逻辑，用于将低层卷积滤波器分离成卷积滤波器的对，其中，所述低层卷积滤波器包括二维(2D)卷积滤波器，并且其中所述卷积滤波器的对包括一维(1D)卷积滤波器的对。
6.如权利要求1所述的设备，其特征在于，所述训练和微调逻辑用于基于所述卷积滤波器的对来训练所述CNN。
7.如权利要求1所述的设备，其特征在于，所述一个或多个图形处理器与公共半导体封装上的一个或多个应用处理器共同定位。
8.一种用于促进机器学习环境中的智能卷积的方法，所述方法包括：
通过计算设备的一个或多个处理器，检测卷积神经网络(CNN)的低层；
在储存库处生成权重文件的库，其中，所述权重文件包括与所述CNN的所述低层相关联的权重；
对所述权重进行预训练，以检测包含在于所述CNN处正被处理的输入图像中的基元几何形状；以及
基于预训练的权重启动对所述CNN的训练。
9.如权利要求8所述的方法，其特征在于，进一步包括使用对滤波器的训练来生成所述权重，其中使用视觉工具来分析所述权重，其中，所述滤波器包括3x3滤波器和5x5滤波器中的至少一者。
10.如权利要求8所述的方法，其特征在于，进一步包括，基于所述基元几何形状将所述权重存储在箱中。
11.如权利要求8所述的方法，其特征在于，进一步包括在训练所述CNN之前，基于从所述箱获得的值初始化所述预训练权重，其中，由用户使用所述视觉工具来标识所述箱。
12.如权利要求8所述的方法，其特征在于，进一步包括将低层卷积滤波器分离成卷积滤波器的对，其中，所述低层卷积滤波器包括二维(2D)卷积滤波器，并且其中所述卷积滤波器的对包括一维(1D)卷积滤波器的对。
13.如权利要求8所述的方法，其特征在于，进一步包括基于所述卷积滤波器的对来训练所述CNN。
14.如权利要求8所述的方法，其特征在于，所述一个或多个处理器包括一个或多个图形处理器，所述图形处理器与公共半导体封装上的一个或多个应用处理器共同定位。
15.至少一种机器可读介质，包括多个指令，所述指令在计算设备上执行时，用于实现或执行如权利要求8-14中任一项所述的方法。
16.一种系统，包括用于实现或执行如权利要求或示例8-14中任一项所述的方法的机构。
17.一种设备，所述设备包括用于执行如权利要求或示例8-14中任一项所述的方法的装置。
18.一种计算设备，所述计算设备被安排用于实现或执行如权利要求或示例8-14中任一项所要求保护的方法。
19.一种通信设备，所述通信设备被安排用于实现或执行如权利要求或示例8-14中任一项所述的方法。
CN201811568996.0A 2017-12-30 2018-12-21 机器学习环境中的有效卷积 Pending CN109993278A (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US15/859,487 2017-12-30
US15/859,487 US11710028B2 (en) 2017-12-30 2017-12-30 Efficient convolution in machine learning environments

Publications (1)

Publication Number Publication Date
CN109993278A true CN109993278A (zh) 2019-07-09

Family

ID=64564588

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811568996.0A Pending CN109993278A (zh) 2017-12-30 2018-12-21 机器学习环境中的有效卷积

Country Status (3)

Country Link
US (2) US11710028B2 (zh)
EP (2) EP4036809A1 (zh)
CN (1) CN109993278A (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111091143A (zh) * 2019-11-22 2020-05-01 国网新疆电力有限公司电力科学研究院 基于深度信念网络和K-means聚类的配变重过载预警方法
CN112748998A (zh) * 2021-01-21 2021-05-04 中南大学 一种移动端的卷积神经网络任务调度方法及系统
US11710028B2 (en) 2017-12-30 2023-07-25 Intel Corporation Efficient convolution in machine learning environments

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11694769B2 (en) * 2017-07-17 2023-07-04 Bioinformatics Solutions Inc. Systems and methods for de novo peptide sequencing from data-independent acquisition using deep learning
US10748314B2 (en) * 2018-02-15 2020-08-18 Microsoft Technology Licensing, Llc Controllable conditional image generation
EP3537345A1 (en) * 2018-03-06 2019-09-11 Hybris AG Computer-implemented method, system and computer program product for providing a conversational application interface
US10698766B2 (en) * 2018-04-18 2020-06-30 EMC IP Holding Company LLC Optimization of checkpoint operations for deep learning computing
CN110609744B (zh) * 2018-06-15 2023-06-09 伊姆西Ip控股有限责任公司 处理计算任务的方法、设备和计算机程序产品
KR20200052439A (ko) * 2018-10-29 2020-05-15 삼성에스디에스 주식회사 딥러닝 모델의 최적화 시스템 및 방법
US10956776B2 (en) 2019-08-06 2021-03-23 Alibaba Group Holding Limited 2D convolutional accelerator that generates 3D results
US11804050B1 (en) 2019-10-31 2023-10-31 Nvidia Corporation Processor and system to train machine learning models based on comparing accuracy of model parameters
CN111368980B (zh) * 2020-03-06 2023-11-07 京东科技控股股份有限公司 状态检测方法、装置、设备及存储介质
US20210374518A1 (en) * 2020-05-27 2021-12-02 Nvidia Corporation Techniques for modifying and training a neural network
US11848980B2 (en) * 2020-07-09 2023-12-19 Boray Data Technology Co. Ltd. Distributed pipeline configuration in a distributed computing system
US20220015622A1 (en) * 2020-07-15 2022-01-20 Tectus Corporation On-eye image processing
US11362670B2 (en) * 2020-10-30 2022-06-14 International Business Machines Corporation ReLU compression to reduce GPU memory
CN113344199B (zh) * 2021-06-17 2024-05-03 阿波罗智联(北京)科技有限公司 用于训练可分离卷积网络的方法、路侧设备及云控平台
CN114089190B (zh) * 2021-11-11 2023-08-22 深圳力高新能技术有限公司 一种基于神经网络的电池soc估算方法
US20230214630A1 (en) * 2021-12-30 2023-07-06 Cron Ai Ltd. (Uk) Convolutional neural network system, method for dynamically defining weights, and computer-implemented method thereof
EP4220492A1 (en) * 2022-01-28 2023-08-02 Fujitsu Limited Kernel transfer

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7219085B2 (en) * 2003-12-09 2007-05-15 Microsoft Corporation System and method for accelerating and optimizing the processing of machine learning techniques using a graphics processing unit
US7873812B1 (en) 2004-04-05 2011-01-18 Tibet MIMAR Method and system for efficient matrix multiplication in a SIMD processor architecture
US7747070B2 (en) * 2005-08-31 2010-06-29 Microsoft Corporation Training convolutional neural networks on graphics processing units
US10223333B2 (en) 2014-08-29 2019-03-05 Nvidia Corporation Performing multi-convolution operations in a parallel processing system
US10380479B2 (en) 2015-10-08 2019-08-13 International Business Machines Corporation Acceleration of convolutional neural network training using stochastic perforation
US10528864B2 (en) 2016-08-11 2020-01-07 Nvidia Corporation Sparse convolutional neural network accelerator
US10891538B2 (en) 2016-08-11 2021-01-12 Nvidia Corporation Sparse convolutional neural network accelerator
US11710028B2 (en) 2017-12-30 2023-07-25 Intel Corporation Efficient convolution in machine learning environments

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11710028B2 (en) 2017-12-30 2023-07-25 Intel Corporation Efficient convolution in machine learning environments
CN111091143A (zh) * 2019-11-22 2020-05-01 国网新疆电力有限公司电力科学研究院 基于深度信念网络和K-means聚类的配变重过载预警方法
CN112748998A (zh) * 2021-01-21 2021-05-04 中南大学 一种移动端的卷积神经网络任务调度方法及系统
CN112748998B (zh) * 2021-01-21 2023-10-03 中南大学 一种移动端的卷积神经网络任务调度方法及系统

Also Published As

Publication number Publication date
EP3509017A1 (en) 2019-07-10
US20230419090A1 (en) 2023-12-28
EP4036809A1 (en) 2022-08-03
US20190205747A1 (en) 2019-07-04
US11710028B2 (en) 2023-07-25

Similar Documents

Publication Publication Date Title
CN109993278A (zh) 机器学习环境中的有效卷积
CN109993684A (zh) 机器学习和深度学习处理中的压缩
CN109993277A (zh) 用于深度神经网络的计算优化机制
CN108734286A (zh) 在推断期间中对图形处理器的协调和增加利用
CN108805795A (zh) 用于机器学习的硬件实现的点对点通信原语
CN108805794A (zh) 对自主机器处的机器学习进行存储管理
CN109993683A (zh) 任意神经网络的机器学习稀疏计算机制、用于训练机制的算术计算微架构以及稀疏性
CN110288509A (zh) 计算优化机制
CN108694080A (zh) 高效线程组调度
CN110349075A (zh) 低精度机器学习操作的计算优化
CN108805283A (zh) 在机器学习中对神经网络的拓扑的高效学习和使用
CN108876698A (zh) 对自主机器处的机器学习进行屏障和同步
CN108805798A (zh) 用于深度学习框架的细粒度计算通信执行
CN109712064A (zh) 使用低精度和高精度的混合推理
CN108805292A (zh) 用于自主机器的机器学习中的即时深度学习
CN108694689A (zh) 神经网络调度机制
CN108805796A (zh) 用于整数深度学习原语的动态精度管理
CN110135575A (zh) 用于分布式机器学习的通信优化
CN109427033A (zh) 用于在机器学习环境下实现智能数据压缩的高效存储器布局
CN108805792A (zh) 具有先进调度的可编程粗粒度化和稀疏矩阵计算硬件
CN108694690A (zh) 频域中的子图和对gpu上的卷积实现的动态选择
CN108734300A (zh) 使用自主机器的识别、再标识和安全性增强
CN108804205A (zh) 原子操作的智能线程分派和向量化
CN108734274A (zh) 用于深度神经网络的计算优化机制
CN110383292A (zh) 用于深度神经网络的经预算和经简化的训练的方法和系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination