CN110647360A - 协处理器的设备执行代码的处理方法、装置、设备及计算机可读存储介质 - Google Patents
协处理器的设备执行代码的处理方法、装置、设备及计算机可读存储介质 Download PDFInfo
- Publication number
- CN110647360A CN110647360A CN201910769460.3A CN201910769460A CN110647360A CN 110647360 A CN110647360 A CN 110647360A CN 201910769460 A CN201910769460 A CN 201910769460A CN 110647360 A CN110647360 A CN 110647360A
- Authority
- CN
- China
- Prior art keywords
- coprocessor
- syntax tree
- execution code
- compiling
- expression
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012545 processing Methods 0.000 title claims abstract description 49
- 238000000034 method Methods 0.000 title claims abstract description 43
- 238000003860 storage Methods 0.000 title claims abstract description 24
- 238000004364 calculation method Methods 0.000 claims abstract description 48
- 238000004458 analytical method Methods 0.000 claims description 20
- 238000004590 computer program Methods 0.000 claims description 5
- 238000013473 artificial intelligence Methods 0.000 abstract description 3
- 238000011161 development Methods 0.000 description 19
- 230000006870 function Effects 0.000 description 14
- 238000013135 deep learning Methods 0.000 description 9
- 230000008569 process Effects 0.000 description 9
- 230000003287 optical effect Effects 0.000 description 7
- 238000010586 diagram Methods 0.000 description 5
- 230000004913 activation Effects 0.000 description 3
- 238000004891 communication Methods 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 238000012423 maintenance Methods 0.000 description 3
- 238000012549 training Methods 0.000 description 3
- 230000008859 change Effects 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- HPTJABJPZMULFH-UHFFFAOYSA-N 12-[(Cyclohexylcarbamoyl)amino]dodecanoic acid Chemical compound OC(=O)CCCCCCCCCCCNC(=O)NC1CCCCC1 HPTJABJPZMULFH-UHFFFAOYSA-N 0.000 description 1
- 241000001667 Eueretagrotis sigmoides Species 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000007667 floating Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 230000003278 mimic effect Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 239000004984 smart glass Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/30—Arrangements for executing machine instructions, e.g. instruction decode
- G06F9/38—Concurrent instruction execution, e.g. pipeline or look ahead
- G06F9/3877—Concurrent instruction execution, e.g. pipeline or look ahead using a slave processor, e.g. coprocessor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F8/00—Arrangements for software engineering
- G06F8/40—Transformation of program code
- G06F8/41—Compilation
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Stored Programmes (AREA)
Abstract
本申请提供一种协处理器的设备执行代码的处理方法、装置、设备及计算机可读存储介质，涉及人工智能技术领域。本申请实施例通过对所获取的协处理器的计算任务的计算表达式进行分析处理，以获得所述计算表达式所对应的语法树，其中，所述语法树包括数据节点和操作节点，进而可以根据所述语法树，生成所述协处理器的设备执行代码，使得能够对所述设备执行代码进行编译处理，以供所述协处理器执行，无需开发人员人工编译协处理器上所运行的设备执行代码，而是能够自动编译协处理器上所运行的设备执行代码，操作简单，而且正确率高，从而提高了协处理器的设备执行代码编译的效率和可靠性。
Description
【技术领域】
本申请涉及图结构技术，尤其涉及一种协处理器的设备执行代码的处理方法、装置、设备及计算机可读存储介质。
【背景技术】
随着人工智能技术的不断成熟和推广，人工智能的应用逐渐渗入当今社会的各个领域场景。为了达到更高的模型精度，深度学习的数据规模不断扩大、模型深度也在持续增加，因此，作为深度学习发展的支撑技术，深度学习平台的构建和优化成为近年来各大公司共同关注的难题。协处理器是当前深度学习平台主要依托的计算单元，例如，图形处理器(Graphics Processing Unit，GPU)，可以用于加速大规模矩阵计算过程。
通常，可以由开发人员根据计算过程，人工编译协处理器上所运行的设备执行代码，这种人工编译设备执行代码的方式，操作复杂，且容易出错，从而导致了协处理器的设备执行代码编译的效率和可靠性的降低。
【发明内容】
本申请的多个方面提供一种协处理器的设备执行代码的处理方法、装置、设备及计算机可读存储介质，用以提高协处理器的设备执行代码编译的效率和可靠性。
本申请的一方面，提供一种协处理器的设备执行代码的处理方法，包括：
获取协处理器的计算任务的计算表达式；
对所述计算表达式进行分析处理，以获得所述计算表达式所对应的语法树；其中，所述语法树包括数据节点和操作节点；
根据所述语法树，生成所述协处理器的设备执行代码；
对所述设备执行代码进行编译处理，以供所述协处理器执行。
本申请的另一方面，提供一种协处理器的设备执行代码的处理装置，包括：
获取单元，用于获取协处理器的计算任务的计算表达式；
分析单元，用于对所述计算表达式进行分析处理，以获得所述计算表达式所对应的语法树；其中，所述语法树包括数据节点和操作节点；
生成单元，用于根据所述语法树，生成所述协处理器的设备执行代码；
编译单元，用于对所述设备执行代码进行编译处理，以供所述协处理器执行。
本申请的另一方面，提供一种设备，所述设备包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序，
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如上述一方面所提供的协处理器的设备执行代码的处理方法。
本申请的另一方面，提供一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如上述一方面所提供的协处理器的设备执行代码的处理方法。
由上述技术方案可知，本申请实施例通过对所获取的协处理器的计算任务的计算表达式进行分析处理，以获得所述计算表达式所对应的语法树，其中，所述语法树包括数据节点和操作节点，进而可以根据所述语法树，生成所述协处理器的设备执行代码，使得能够对所述设备执行代码进行编译处理，以供所述协处理器执行，无需开发人员人工编译协处理器上所运行的设备执行代码，而是能够自动编译协处理器上所运行的设备执行代码，操作简单，而且正确率高，从而提高了协处理器的设备执行代码编译的效率和可靠性。
另外，采用本申请所提供的技术方案，在不增加开发难度和开发量的同时，有效地提高了协处理器的开发效率和执行效率。
另外，采用本申请所提供的技术方案，能够根据用户需要，在线生成对应的设备执行代码并编译，极大地降低了系统的维护成本。
另外，采用本申请所提供的技术方案，在不增加开发难度和开发量的同时，有效地缩短了深度学习的模型训练周期。
另外，采用本申请所提供的技术方案，能够有效地提高用户的体验。
【附图说明】
为了更清楚地说明本申请实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍，显而易见地，下面描述中的附图是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1A为本申请一实施例提供的协处理器的设备执行代码的处理方法的流程示意图；
图1B为图1A所对应的实施例中的一语法树的示意图；
图2为本申请另一实施例提供的协处理器的设备执行代码的处理装置的结构示意图；
图3为适于用来实现本申请实施方式的示例性计算机系统/服务器12的框图。
【具体实施方式】
为使本申请实施例的目的、技术方案和优点更加清楚，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的全部其他实施例，都属于本申请保护的范围。
需要说明的是，本申请实施例中所涉及的终端可以包括但不限于手机、个人数字助理(Personal Digital Assistant，PDA)、无线手持设备、平板电脑(Tablet Computer)、个人电脑(Personal Computer，PC)、MP3播放器、MP4播放器、可穿戴设备(例如，智能眼镜、智能手表、智能手环等)等。
另外，本文中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本文中字符“/”，一般表示前后关联对象是一种“或”的关系。
图1A为本申请一实施例提供的协处理器的设备执行代码的处理方法的流程示意图，如图1A所示。
101、获取协处理器的计算任务的计算表达式。
102、对所述计算表达式进行分析处理，以获得所述计算表达式所对应的语法树；其中，所述语法树包括数据节点和操作节点。
103、根据所述语法树，生成所述协处理器的设备执行代码。
104、对所述设备执行代码进行编译处理，以供所述协处理器执行。
至此，实现了协处理器上所运行的设备执行代码的自动编译，无需人工参与，有效降低了用户使用和开发门槛。
需要说明的是，101～104的执行主体的部分或全部可以为位于本地终端的应用，或者还可以为设置在位于本地终端的应用中的插件或软件开发工具包(SoftwareDevelopment Kit，SDK)等功能单元，或者还可以为位于网络侧服务器中的处理引擎，或者还可以为位于网络侧的分布式系统，本实施例对此不进行特别限定。
可以理解的是，所述应用可以是安装在终端上的本地程序(nativeApp)，或者还可以是终端上的浏览器的一个网页程序(webApp)，本实施例对此不进行特别限定。
这样，通过对所获取的协处理器的计算任务的计算表达式进行分析处理，以获得所述计算表达式所对应的语法树，其中，所述语法树包括数据节点和操作节点，进而可以根据所述语法树，生成所述协处理器的设备执行代码，使得能够对所述设备执行代码进行编译处理，以供所述协处理器执行，无需开发人员人工编译协处理器上所运行的设备执行代码，而是能够自动编译协处理器上所运行的设备执行代码，操作简单，而且正确率高，从而提高了协处理器的设备执行代码编译的效率和可靠性。
本申请所提供的技术方案，可以适用于各种协处理器，例如，GPU、华为的Ascend系列芯片、寒武纪的MLU芯片、百度的昆仑芯片等。
可选地，在本实施例的一个可能的实现方式中，在101中，具体可以获取用户提供的协处理器的计算任务的计算表达式。
在一个具体的实现过程中，具体可以采用用户指导的方式，根据计算任务的需求，由用户提供该计算任务所对应的计算表达式。
具体来说，用户可以采用任何语言，例如，类C语言，描述元素级计算操作，以形成该计算任务的计算表达式。
所谓的类C语言，是指从C语言选出一个核心子集，并添加了C++语言的引用调用参数传递方式等，所构成的程序设计语言。类C语言与C语言相似但又有一些不同，这种语言是专门为某种具体的应用而仿照C语言开发的。
例如，用户采用类C语言，描述元素级计算操作，所形式的计算任务的计算表达式可以为如下形式：
B＝sigmoid(A0+A1*A2)；
其中，A0、A1、A2和B均表示一个张量(Tensor)，即一个多维的数组。sigmoid为激活函数，即sigmoid(x)＝1/(1+e-x)。该计算表达式可以假定A0、A1、A2和B的大小相同。
在另一个具体的实现过程中，具体可以采用自动生成的方式，根据计算任务的需求，自动生成该计算任务所对应的计算表达式。
可选地，在本实施例的一个可能的实现方式中，在102中，具体可以对所述计算表达式进行词法分析处理和语法分析处理，以获得所述计算表达式所对应的语法树。
具体来说，具体可以采用词法解析器，对所述计算表达式进行词法分析处理，以从输入的计算表达式中识别出具有独立意义的单词(Token)序列。
其中，词法解析器所采用的词法规则，可以采用现有技术中的各种词法规则。
这里的单词是一个字符串，是构成源代码的最小单位。从输入字符流中生成单词的过程叫作单词化(Tokenization)，在这个过程中，词法分析器还会对单词进行分类。
通常，词法分析器不会关注单词之间的关系(属于语法分析的范畴)，例如，词法分析器能够将括号识别为单词，但并不保证括号是否匹配。
在识别出单词之后，还可以进一步采用语法解析器，对所识别出的单词进行语法分析处理，以从词法分析处理的结果中识别出相应的语法短语表示。这些语法短语表示则构建了所述计算表达式的语法树。其中，所述语法树包括数据节点和操作节点。
其中，语法解析器所采用的语法规则，可以采用现有技术中的各种语法规则。
所构建的计算表达式的语法树中的每个数据节点，记录了张量数据的维度信息和类型信息，所述类型信息可以为整型、浮点型等；所构建的计算表达式的语法树中的每个操作节点记录其针对输入该操作节点的张量数据执行的计算操作，所述计算操作可以为一元操作，例如，“sigmoid”计算操作为一元操作，其操作数为“+”计算操作的输出结果，或者还可以为多元操作，例如，“+”计算操作为二元操作，其操作数为A0和A1*A2，本实施例对此不进行特别限定。
其中，所述计算操作可以包括但不限于如下计算操作：
“a+b”计算操作：a和b两个Tensor进行元素级加法操作或广播加法操作；
“a-b”计算操作：a和b两个Tensor进行元素级减法操作或广播减法操作；
“a*b”计算操作：a和b两个Tensor进行元素级乘法操作或广播乘法操作；
“a/b”计算操作：a和b两个Tensor进行元素级除法操作或广播除法操作；
“sigmoid(a)”计算操作：对a进行sigmoid激活操作；
“tanh(a)”计算操作：对a进行tanh激活操作，其中，
例如，计算表达式B＝sigmoid(A0+A1*A2)，经过词法分析处理和语法分析处理之后，所获得的语法树，可以参见图1B所示。
可选地，在本实施例的一个可能的实现方式中，在103中，具体可以将所述语法树的输入数据节点所记录的张量数据和所述语法树的输出数据节点所记录的张量数据，作为所述协处理器的设备执行函数的输入参数和输出参数。进而，则可以确定所述输入参数中每个元素和所述输出参数中的每个元素的线程，将所确定的线程的线程标识作为该元素的元素索引。然后，则可以根据所述操作节点所记录的数据操作、所述输入参数及其元素索引以及所述输出参数及其元素索引，生成所述设备执行函数的设备执行代码。
在一个具体的实现过程中，具体可以对语法树的节点(即数据节点和操作节点)进行判断处理，以判断出所述语法树的输入数据节点和所述语法树的输出数据节点。
例如，具体可以采用语法树解析器，对所述语法树的节点进行判断处理。
或者，再例如，具体可以节点的消耗规则，对所述语法树的节点进行判断处理。若一个数据节点，不是由任何其他节点产生的，那么，该数据节点则为语法树的输入数据节点；若一个数据节点，是由其他节点产生的，但是，并没有产生其他节点，那么，该数据节点则为语法树的输出数据节点。
可选地，在本实施例的一个可能的实现方式中，在104中，具体可以利用编译接口，对所述设备执行代码进行编译处理，以供所述协处理器执行。
为了在线运行上述动态生成的设备执行代码，需要一套在线的编译代码和管理代码的方法。以GPU作为协处理器的举例，CUDA接口提供了运行时编译(RuntimeCompilation，NVRTC)接口，可以在线编译源代码(即设备执行代码)生成运行在GPU上的二进制代码。
首先，可以通过nvrtc创建程序(nvrtcCreateProgram)方法将源代码封装为nvrtc程序(nvrtcProgram)对象；其次，可以通过cuda查询设备属性(cudaDeviceGetAttribute)方法获得当前GPU的架构参数，用以设置编译选项；接着，可以通过nvrtc编译程序(nvrtcCompileProgram)方法编译生成线程执行(Parallel Thread eXecution，PTX)中间代码，并保存到字符数组中；然后，可以通过扩展的cuda模块加载数据(cuModuleLoadDataEx)方法生成cuda模块(CUmodule)对象；最后，则可以通过cuda模块查询函数(cuModuleGetFunction)方法获得编译后的二进制代码。至此，则可以通过cuda启动内核(cuLaunchKernel)方法发起对二进制代码的调用。
本申请所提供的技术方案，具有以下有益效果：
1、开发难度小；
开发人员不需要精通底层的协处理器的计算过程，进行内核函数(Kernel函数)合并操作。
2、依赖性低；
不再依靠平台内的Kernel函数实现，能够避免由于没有支持合并后的Kernel函数实现而导致的即使发现存在可合并的Kernel函数也无法完成Kernel函数的合并过程。
3、适应性强；
在深度学习的需求发生变化时，只需要将该变化所对应的计算任务的计算表达式，就能够在线生成对应的设备执行代码并编译，从而能够迅速地适应深度学习的发展变化。
本实施例中，通过对所获取的协处理器的计算任务的计算表达式进行分析处理，以获得所述计算表达式所对应的语法树，其中，所述语法树包括数据节点和操作节点，进而可以根据所述语法树，生成所述协处理器的设备执行代码，使得能够对所述设备执行代码进行编译处理，以供所述协处理器执行，无需开发人员人工编译协处理器上所运行的设备执行代码，而是能够自动编译协处理器上所运行的设备执行代码，操作简单，而且正确率高，从而提高了协处理器的设备执行代码编译的效率和可靠性。
另外，采用本申请所提供的技术方案，在不增加开发难度和开发量的同时，有效地提高了协处理器的开发效率和执行效率。
另外，采用本申请所提供的技术方案，能够根据用户需要，在线生成对应的设备执行代码并编译，极大地降低了系统的维护成本。
另外，采用本申请所提供的技术方案，在不增加开发难度和开发量的同时，有效地缩短了深度学习的模型训练周期。
另外，采用本申请所提供的技术方案，能够有效地提高用户的体验。
需要说明的是，对于前述的各方法实施例，为了简单描述，故将其都表述为一系列的动作组合，但是本领域技术人员应该知悉，本申请并不受所描述的动作顺序的限制，因为依据本申请，某些步骤可以采用其他顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于优选实施例，所涉及的动作和模块并不一定是本申请所必须的。
在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述的部分，可以参见其他实施例的相关描述。
图2为本申请另一实施例提供的协处理器的设备执行代码的处理装置的结构示意图，如图2所示。本实施例的协处理器的设备执行代码的处理装置可以包括获取单元21、分析单元22、生成单元23和编译单元24。其中，获取单元21，用于获取协处理器的计算任务的计算表达式；分析单元22，用于对所述计算表达式进行分析处理，以获得所述计算表达式所对应的语法树；其中，所述语法树包括数据节点和操作节点；生成单元23，用于根据所述语法树，生成所述协处理器的设备执行代码；编译单元24，用于对所述设备执行代码进行编译处理，以供所述协处理器执行。
需要说明的是，本实施例所提供的协处理器的设备执行代码的处理装置的部分或全部可以为位于本地终端的应用，或者还可以为设置在位于本地终端的应用中的插件或软件开发工具包(Software Development Kit，SDK)等功能单元，或者还可以为位于网络侧服务器中的搜索引擎，或者还可以为位于网络侧的分布式系统，本实施例对此不进行特别限定。
可以理解的是，所述应用可以是安装在终端上的本地程序(nativeApp)，或者还可以是终端上的浏览器的一个网页程序(webApp)，本实施例对此不进行特别限定。
本申请所提供的技术方案，可以适用于各种协处理器，例如，GPU、华为的Ascend系列芯片、寒武纪的MLU芯片、百度的昆仑芯片等。
可选地，在本实施例的一个可能的实现方式中，所述分析单元22，具体可以用于对所述计算表达式进行词法分析处理和语法分析处理，以获得所述计算表达式所对应的语法树。
可选地，在本实施例的一个可能的实现方式中，所述生成单元23，具体可以用于将所述语法树的输入数据节点所记录的张量数据和所述语法树的输出数据节点所记录的张量数据，作为所述协处理器的设备执行函数的输入参数和输出参数；确定所述输入参数中每个元素和所述输出参数中的每个元素的线程，将所确定的线程的线程标识作为该元素的元素索引；以及根据所述操作节点所记录的数据操作、所述输入参数及其元素索引以及所述输出参数及其元素索引，生成所述设备执行函数的设备执行代码。
可选地，在本实施例的一个可能的实现方式中，所述编译单元24，具体可以用于利用编译接口，对所述设备执行代码进行编译处理，以供所述协处理器执行。
需要说明的是，图1A对应的实施例中方法，可以由本实施例提供的协处理器的设备执行代码的处理装置实现。详细描述可以参见图1A对应的实施例中的相关内容，此处不再赘述。
本实施例中，通过分析单元对获取单元所获取的协处理器的计算任务的计算表达式进行分析处理，以获得所述计算表达式所对应的语法树，其中，所述语法树包括数据节点和操作节点，进而可以由生成单元根据所述语法树，生成所述协处理器的设备执行代码，使得编译单元能够对所述设备执行代码进行编译处理，以供所述协处理器执行，无需开发人员人工编译协处理器上所运行的设备执行代码，而是能够自动编译协处理器上所运行的设备执行代码，操作简单，而且正确率高，从而提高了协处理器的设备执行代码编译的效率和可靠性。
另外，采用本申请所提供的技术方案，在不增加开发难度和开发量的同时，有效地提高了协处理器的开发效率和执行效率。
另外，采用本申请所提供的技术方案，能够根据用户需要，在线生成对应的设备执行代码并编译，极大地降低了系统的维护成本。
另外，采用本申请所提供的技术方案，在不增加开发难度和开发量的同时，有效地缩短了深度学习的模型训练周期。
另外，采用本申请所提供的技术方案，能够有效地提高用户的体验。
图3示出了适于用来实现本申请实施方式的示例性计算机系统/服务器12的框图。图3显示的计算机系统/服务器12仅仅是一个示例，不应对本申请实施例的功能和使用范围带来任何限制。
如图3所示，计算机系统/服务器12以通用计算设备的形式表现。计算机系统/服务器12的组件可以包括但不限于：一个或者多个处理器或者处理单元16，存储装置或者系统存储器28，连接不同系统组件(包括系统存储器28和处理单元16)的总线18。
总线18表示几类总线结构中的一种或多种，包括存储器总线或者存储器控制器，外围总线，图形加速端口，处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说，这些体系结构包括但不限于工业标准体系结构(ISA)总线，微通道体系结构(MAC)总线，增强型ISA总线、视频电子标准协会(VESA)局域总线以及外围组件互连(PCI)总线。
计算机系统/服务器12典型地包括多种计算机系统可读介质。这些介质可以是任何能够被计算机系统/服务器12访问的可用介质，包括易失性和非易失性介质，可移动的和不可移动的介质。
系统存储器28可以包括易失性存储器形式的计算机系统可读介质，例如随机存取存储器(RAM)30和/或高速缓存存储器32。计算机系统/服务器12可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例，存储系统34可以用于读写不可移动的、非易失性磁介质(图3未显示，通常称为“硬盘驱动器”)。尽管图3中未示出，可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器，以及对可移动非易失性光盘(例如CD-ROM，DVD-ROM或者其它光介质)读写的光盘驱动器。在这些情况下，每个驱动器可以通过一个或者多个数据介质接口与总线18相连。系统存储器28可以包括至少一个程序产品，该程序产品具有一组(例如至少一个)程序模块，这些程序模块被配置以执行本申请各实施例的功能。
具有一组(至少一个)程序模块42的程序/实用工具40，可以存储在例如系统存储器28中，这样的程序模块42包括——但不限于——操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块42通常执行本申请所描述的实施例中的功能和/或方法。
计算机系统/服务器12也可以与一个或多个外部设备14(例如键盘、指向设备、显示器25等)通信，还可与一个或者多个使得用户能与该计算机系统/服务器12交互的设备通信，和/或与使得该计算机系统/服务器12能与一个或多个其它计算设备进行通信的任何设备(例如网卡，调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口44进行。并且，计算机系统/服务器12还可以通过网络适配器20与一个或者多个网络(例如局域网(LAN)，广域网(WAN)和/或公共网络，例如因特网)通信。如图所示，网络适配器20通过总线18与计算机系统/服务器12的其它模块通信。应当明白，尽管图中未示出，可以结合计算机系统/服务器12使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
处理单元16通过运行存储在系统存储器28中的程序，从而执行各种功能应用以及数据处理，例如实现图1A所对应的实施例所提供的协处理器的设备执行代码的处理方法。
本申请另一实施例还提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现图1A所对应的实施例所提供的协处理器的设备执行代码的处理方法。
具体来说，可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括——但不限于——电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括——但不限于——无线、电线、光缆、RF等等，或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本申请操作的计算机程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如”C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)——连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的系统，装置和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
在本申请所提供的几个实施例中，应该理解到，所揭露的系统，装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或页面组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外，在本申请各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用硬件加软件功能单元的形式实现。
上述以软件功能单元的形式实现的集成的单元，可以存储在一个计算机可读取存储介质中。上述软件功能单元存储在一个存储介质中，包括若干指令用以使得一个计算机设备(可以是个人计算机，服务器，或者网络设备等)或处理器(processor)执行本申请各个实施例所述方法的部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(Read-Only Memory，ROM)、随机存取存储器(Random Access Memory，RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
最后应说明的是：以上实施例仅用以说明本申请的技术方案，而非对其限制；尽管参照前述实施例对本申请进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围。
Claims (12)
1.一种协处理器的设备执行代码的处理方法，其特征在于，包括：
获取协处理器的计算任务的计算表达式；
对所述计算表达式进行分析处理，以获得所述计算表达式所对应的语法树；其中，所述语法树包括数据节点和操作节点；
根据所述语法树，生成所述协处理器的设备执行代码；
对所述设备执行代码进行编译处理，以供所述协处理器执行。
2.根据权利要求1所述的方法，其特征在于，所述对所述计算表达式进行分析处理，以获得所述计算表达式所对应的语法树，包括：
对所述计算表达式进行词法分析处理和语法分析处理，以获得所述计算表达式所对应的语法树。
3.根据权利要求1所述的方法，其特征在于，所述根据所述语法树，生成所述协处理器的设备执行代码，包括：
将所述语法树的输入数据节点所记录的张量数据和所述语法树的输出数据节点所记录的张量数据，作为所述协处理器的设备执行函数的输入参数和输出参数；
确定所述输入参数中每个元素和所述输出参数中的每个元素的线程，将所确定的线程的线程标识作为该元素的元素索引；
根据所述操作节点所记录的数据操作、所述输入参数及其元素索引以及所述输出参数及其元素索引，生成所述设备执行函数的设备执行代码。
4.根据权利要求1所述的方法，其特征在于，所述对所述设备执行代码进行编译处理，以供所述协处理器执行，包括：
利用编译接口，对所述设备执行代码进行编译处理，以供所述协处理器执行。
5.根据权利要求1～4任一权利要求所述的方法，其特征在于，所述协处理器包括图形处理器GPU。
6.一种协处理器的设备执行代码的处理装置，其特征在于，包括：
获取单元，用于获取协处理器的计算任务的计算表达式；
分析单元，用于对所述计算表达式进行分析处理，以获得所述计算表达式所对应的语法树；其中，所述语法树包括数据节点和操作节点；
生成单元，用于根据所述语法树，生成所述协处理器的设备执行代码；
编译单元，用于对所述设备执行代码进行编译处理，以供所述协处理器执行。
7.根据权利要求6所述的装置，其特征在于，所述分析单元，具体用于
对所述计算表达式进行词法分析处理和语法分析处理，以获得所述计算表达式所对应的语法树。
8.根据权利要求6所述的装置，其特征在于，所述生成单元，具体用于
将所述语法树的输入数据节点所记录的张量数据和所述语法树的输出数据节点所记录的张量数据，作为所述协处理器的设备执行函数的输入参数和输出参数；
确定所述输入参数中每个元素和所述输出参数中的每个元素的线程，将所确定的线程的线程标识作为该元素的元素索引；以及
根据所述操作节点所记录的数据操作、所述输入参数及其元素索引以及所述输出参数及其元素索引，生成所述设备执行函数的设备执行代码。
9.根据权利要求6所述的装置，其特征在于，所述编译单元，具体用于
利用编译接口，对所述设备执行代码进行编译处理，以供所述协处理器执行。
10.根据权利要求6～9任一权利要求所述的装置，其特征在于，所述协处理器包括图形处理器GPU。
11.一种设备，其特征在于，所述设备包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序，
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1～6任一权利要求所述的方法。
12.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1～6任一权利要求所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201910769460.3A CN110647360B (zh) | 2019-08-20 | 2019-08-20 | 协处理器的设备执行代码的处理方法、装置、设备及计算机可读存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201910769460.3A CN110647360B (zh) | 2019-08-20 | 2019-08-20 | 协处理器的设备执行代码的处理方法、装置、设备及计算机可读存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN110647360A true CN110647360A (zh) | 2020-01-03 |
| CN110647360B CN110647360B (zh) | 2022-05-03 |
Family
ID=69009656
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201910769460.3A Active CN110647360B (zh) | 2019-08-20 | 2019-08-20 | 协处理器的设备执行代码的处理方法、装置、设备及计算机可读存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN110647360B (zh) |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111666077A (zh) * | 2020-04-13 | 2020-09-15 | 北京百度网讯科技有限公司 | 算子处理方法、装置、电子设备及存储介质 |
| CN112230931A (zh) * | 2020-10-22 | 2021-01-15 | 上海壁仞智能科技有限公司 | 计算机可读取存储介质、适应于图形处理器的二次卸载的编译装置和方法 |
| CN114398011A (zh) * | 2022-01-17 | 2022-04-26 | 安谋科技（中国）有限公司 | 数据存储方法、设备和介质 |
Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US7484205B2 (en) * | 2002-12-12 | 2009-01-27 | Microsoft Corporation | Preprocessor-based source code instrumentation |
| US20130326204A1 (en) * | 2012-05-31 | 2013-12-05 | New York University | Configuration-Preserving Preprocessor and Configuration-Preserving Parser |
| CN106371887A (zh) * | 2016-11-08 | 2017-02-01 | 西安电子科技大学 | 一种msvl语言的编译系统及方法 |
| CN109255209A (zh) * | 2017-07-13 | 2019-01-22 | 阿里巴巴集团控股有限公司 | 一种数据处理方法、装置、设备和存储介质 |
| CN109491658A (zh) * | 2017-09-11 | 2019-03-19 | 高德信息技术有限公司 | 计算机可执行代码数据的生成方法及装置 |
| CN110007922A (zh) * | 2019-03-21 | 2019-07-12 | 深圳点猫科技有限公司 | 基于人工智能的图形化源代码的编译方法、装置和设备 |
| CN110096264A (zh) * | 2019-04-29 | 2019-08-06 | 珠海豹好玩科技有限公司 | 一种代码运行方法及装置 |
-
2019
- 2019-08-20 CN CN201910769460.3A patent/CN110647360B/zh active Active
Patent Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US7484205B2 (en) * | 2002-12-12 | 2009-01-27 | Microsoft Corporation | Preprocessor-based source code instrumentation |
| US20130326204A1 (en) * | 2012-05-31 | 2013-12-05 | New York University | Configuration-Preserving Preprocessor and Configuration-Preserving Parser |
| CN106371887A (zh) * | 2016-11-08 | 2017-02-01 | 西安电子科技大学 | 一种msvl语言的编译系统及方法 |
| CN109255209A (zh) * | 2017-07-13 | 2019-01-22 | 阿里巴巴集团控股有限公司 | 一种数据处理方法、装置、设备和存储介质 |
| CN109491658A (zh) * | 2017-09-11 | 2019-03-19 | 高德信息技术有限公司 | 计算机可执行代码数据的生成方法及装置 |
| CN110007922A (zh) * | 2019-03-21 | 2019-07-12 | 深圳点猫科技有限公司 | 基于人工智能的图形化源代码的编译方法、装置和设备 |
| CN110096264A (zh) * | 2019-04-29 | 2019-08-06 | 珠海豹好玩科技有限公司 | 一种代码运行方法及装置 |
Non-Patent Citations (2)
| Title |
|---|
| GOREL HEDIN ET AL.: "Extending Languages by Leveraging Compilers: From Modelica to Optimica", 《IEEE SOFTWARE 》 * |
| 吴通 等: "基于动态分析的JavaScript代码推荐", 《计算机工程》 * |
Cited By (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111666077A (zh) * | 2020-04-13 | 2020-09-15 | 北京百度网讯科技有限公司 | 算子处理方法、装置、电子设备及存储介质 |
| CN112230931A (zh) * | 2020-10-22 | 2021-01-15 | 上海壁仞智能科技有限公司 | 计算机可读取存储介质、适应于图形处理器的二次卸载的编译装置和方法 |
| CN112230931B (zh) * | 2020-10-22 | 2021-11-02 | 上海壁仞智能科技有限公司 | 适用于图形处理器的二次卸载的编译方法、装置和介质 |
| CN114398011A (zh) * | 2022-01-17 | 2022-04-26 | 安谋科技（中国）有限公司 | 数据存储方法、设备和介质 |
| CN114398011B (zh) * | 2022-01-17 | 2023-09-22 | 安谋科技（中国）有限公司 | 数据存储方法、设备和介质 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN110647360B (zh) | 2022-05-03 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US11714611B2 (en) | Library suggestion engine | |
| CN110287278B (zh) | 评论生成方法、装置、服务器及存储介质 | |
| CN110998516B (zh) | 用于异构编程数据处理系统的自动化依赖性分析器 | |
| CN110647360B (zh) | 协处理器的设备执行代码的处理方法、装置、设备及计算机可读存储介质 | |
| WO2019075390A1 (en) | BOX BLACK MATCHING MOTOR | |
| EP3679470A1 (en) | Library model addition | |
| KR20150143473A (ko) | 재계산 사용자 인터페이스 내의 신호 캡처 컨트롤 | |
| CN112748914A (zh) | 一种应用程序开发方法、装置、电子设备和存储介质 | |
| WO2018161509A1 (zh) | 条件编译预处理方法、终端及存储介质 | |
| US11789913B2 (en) | Integration of model execution engine containers with a model development environment | |
| CN114625844B (zh) | 一种代码搜索方法、装置及设备 | |
| US7747992B2 (en) | Methods and apparatus for creating software basic block layouts | |
| CN107766036B (zh) | 一种模块的构建方法、构建装置及终端设备 | |
| CN109657127B (zh) | 一种答案获取方法、装置、服务器及存储介质 | |
| Kadosh et al. | Advising openmp parallelization via a graph-based approach with transformers | |
| US11605006B2 (en) | Deep-learning model catalog creation | |
| CN114020774A (zh) | 多轮问答语句的处理方法、装置、设备及存储介质 | |
| CN109657247B (zh) | 机器学习的自定义语法实现方法及装置 | |
| Koller et al. | Efficient solving and exploration of scope ambiguities | |
| McNamara | Rust in Action | |
| Yatsko et al. | Insight Into Theoretical and Applied Informatics: Introduction to Information Technologies and Computer Science | |
| CN114997140B (zh) | 校验语义的方法和装置 | |
| CN117909505B (zh) | 事件论元的抽取方法及相关设备 | |
| US20240134618A1 (en) | Program compilation method and apparatus | |
| CN117406969A (zh) | 一种TypeScript类型声明的生成方法、系统、装置及介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |