CN116167437A - 一种芯片管理系统、方法、设备及存储介质 - Google Patents

Abstract

本说明书公开了一种芯片管理系统、方法、设备及存储介质，可以通过对不同芯片的芯片管理程序模板进行抽象，得到芯片管理程序统一模板，从而可以在用户需要添加新的芯片的时，仅需要使用户根据芯片管理程序统一模板设计新的芯片对应的芯片管理程序模板即可，并且可以通过注册中心模块根据各芯片管理程序模板生成各芯片对应的芯片管理程序，对各芯片进行管理，从而可以避免对深度学习框架的程序代码进行大量的重写的情况发生。

Description

一种芯片管理系统、方法、设备及存储介质

技术领域

本说明书涉及计算机技术领域，尤其涉及一种芯片管理系统、方法、设备及存储介质。

背景技术

目前，随着深度学习技术的发展，深度学习框架执行深度学习算法所需的芯片的类型也在不断增多，例如：视觉处理器（Graphics Processing Unit，GPU）、张量处理单元（Tensor Processing Unit，TPU）、神经网络处理器（Neural Network Processing Unit，NPU）等。

但是，每当深度学习框架需要支持一种新的芯片时，就需要对深度学习框架自身的程序代码进行大量的重写，以实现深度学习框架能够使用这种新的芯片执行深度学习算法，因此，在现有技术中需要深度学习框架对新的芯片进行支持时，所需的成本较高。

因此，如何能够避免对深度学习框架的程序代码进行大量的重写的情况发生，则是一个亟待解决的问题。

发明内容

本说明书提供一种芯片管理方法、装置、设备及存储介质，以部分的解决现有技术存在的上述问题。

本说明书采用下述技术方案：

本说明书提供了一种芯片管理系统，所述芯片管理系统包括：注册中心模块、管理模块、执行模块；

所述注册中心模块，用于接收用户输入的待执行程序，确定执行所述待执行程序所需的芯片的类型，判断已注册的各芯片管理程序模板中是否存在所述类型的芯片对应的芯片管理程序模板，若是，则根据所述类型的芯片对应的芯片管理程序模板，生成执行所述待执行程序所需的芯片对应的芯片管理程序，并通过所述执行模块执行所述芯片管理程序，若否，则向所述用户展示预设的提示信息，以使用户通过所述芯片管理程序配置模块，配置所述类型的芯片对应的芯片管理程序模板；

所述管理模块，用于接收所述用户基于预设的芯片管理程序统一模板输入的配置指令，生成所述类型的芯片对应的芯片管理程序模板，将所述类型的芯片对应的芯片管理程序模板注册到所述注册中心模块，所述芯片管理程序统一模板是将不同芯片管理程序模板抽象后得到的；

所述执行模块，用于执行所述芯片管理程序，以控制所述待执行程序所需的芯片执行所述待执行程序。

可选地，所述芯片管理程序包括：流管理程序；

所述执行模块，用于执行所述流管理程序，以构建所述芯片对应的流；

根据所述待执行程序，确定执行所述待执行程序所需的各数据处理任务，并通过所述流，将所述各数据处理任务分配给所述芯片，以使所述芯片执行所述各数据处理任务。

可选地，所述执行模块，用于针对每个数据处理任务，确定需要执行该数据处理任务的线程；

将所述线程放入所述流中，通过所述流管理程序控制该线程运行，以控制所述芯片中与该线程对应的计算资源执行该线程对应的数据处理任务。

可选地，所述芯片管理程序包括：事件管理程序；

所述执行模块，用于针对每个数据处理任务，响应于所述芯片执行该数据处理任务，执行所述事件管理程序，以监听该数据处理任务的状态，所述状态包括：数据处理任务创建、数据处理任务就绪、数据处理任务运行、数据处理任务阻塞、数据处理任务结束；

并根据监听到的该数据处理任务的状态，对所述芯片进行资源管理，所述资源管理包括：内存资源管理、计算资源管理。

可选地，所述芯片管理程序包括：内存管理程序；

所述执行模块，用于执行所述内存管理程序，以对所述芯片执行所述待执行程序所需的存储空间进行配置。

可选地，所述芯片管理程序包括：芯片属性管理程序；

所述执行模块，用于执行所述芯片属性管理程序，对所述芯片的各属性信息进行管理，所述属性信息包括：芯片名称、芯片对应的索引、芯片的上下文。

可选地，所述注册中心模块，用于针对所述芯片管理程序，根据该芯片管理程序对应的芯片管理程序模板，确定该芯片管理程序对应的各程序状态，响应于所述执行模块执行所述芯片管理程序，对所述芯片管理程序当前的程序状态进行调整，所述程序状态包括：程序创建、程序执行、程序销毁。

本说明书提供了一种芯片管理方法，所述芯片管理方法应用于芯片管理系统，所述芯片管理系统包括：注册中心模块、管理模块、执行模块，所述方法包括：

所述注册中心模块接收用户输入的待执行程序，并确定执行所述待执行程序所需的芯片的类型；

判断已注册的各芯片管理程序模板中是否存在所述类型的芯片对应的芯片管理程序模板；

若是，则根据所述类型的芯片对应的芯片管理程序模板，生成执行所述待执行程序所需的芯片对应的芯片管理程序，并通过所述执行模块执行所述芯片管理程序，以控制所述待执行程序所需的芯片执行所述待执行程序；

若否，则向所述用户展示预设的提示信息，以使用户通过所述芯片管理程序配置模块，将所述类型的芯片对应的芯片管理程序模板注册到所述注册中心模块，所述类型的芯片对应的芯片管理程序模板是所述管理模块接收所述用户基于预设的芯片管理程序统一模板输入的配置指令生成的，所述芯片管理程序统一模板是将不同芯片管理程序模板抽象后得到的。

可选地，所述芯片管理程序包括：流管理程序；

通过所述执行模块执行所述芯片管理程序，具体包括：

通过所述执行模块，执行所述流管理程序，以构建所述芯片对应的流；

根据所述待执行程序，确定执行所述待执行程序所需的各数据处理任务，并通过所述流，将所述各数据处理任务分配给所述芯片，以使所述芯片执行所述各数据处理任务。

可选地，通过所述流，将所述各数据处理任务分配给所述芯片，以使所述芯片执行所述各数据处理任务，具体包括：

针对每个数据处理任务，确定需要执行该数据处理任务的线程；

将所述线程放入所述流中，通过所述流管理程序控制该线程运行，以控制所述芯片中与该线程对应的计算资源执行该线程对应的数据处理任务。

可选地，所述芯片管理程序包括：事件管理程序，所述方法还包括：

通过执行模块，针对每个数据处理任务，响应于所述芯片执行该数据处理任务，执行所述事件管理程序，以监听该数据处理任务的状态，所述状态包括：数据处理任务创建、数据处理任务就绪、数据处理任务运行、数据处理任务阻塞、数据处理任务结束；

并根据监听到的该数据处理任务的状态，对所述芯片进行资源管理，所述资源管理包括：内存资源管理、计算资源管理。

可选地，所述芯片管理程序包括：内存管理程序；

通过所述执行模块执行所述芯片管理程序，以控制所述待执行程序所需的芯片执行所述待执行程序，具体包括：

通过所述执行模块，执行所述内存管理程序，以对所述芯片执行所述待执行程序所需的存储空间进行配置。

可选地，所述芯片管理程序包括：芯片属性管理程序；

通过所述执行模块执行所述芯片管理程序，以控制所述待执行程序所需的芯片执行所述待执行程序，具体包括：

通过所述执行模块，执行所述芯片属性管理程序，对所述芯片的各属性信息进行管理，所述属性信息包括：芯片名称、芯片对应的索引、芯片的上下文。

可选地，所述方法还包括：

所述注册中心模块，针对所述芯片管理程序，根据该芯片管理程序对应的芯片管理程序模板，确定该芯片管理程序对应的各程序状态，响应于所述执行模块执行所述芯片管理程序，对所述芯片管理程序当前的程序状态进行调整，所述程序状态包括：程序创建、程序执行、程序销毁。

本说明书提供了一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序被处理器执行时实现上述芯片管理方法。

本说明书提供了一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现上述芯片管理方法。

本说明书采用的上述至少一个技术方案能够达到以下有益效果：

在本说明书提供的芯片管理方法，注册中心模块接收用户输入的待执行程序，并确定执行待执行程序所需的芯片的类型，判断已注册的各芯片管理程序模板中是否存在类型的芯片对应的芯片管理程序模板，若是，则根据类型的芯片对应的芯片管理程序模板，生成执行待执行程序所需的芯片对应的芯片管理程序，并通过执行模块执行芯片管理程序，以控制待执行程序所需的芯片执行待执行程序，若否，则向用户展示预设的提示信息，以使用户通过芯片管理程序配置模块，将类型的芯片对应的芯片管理程序模板注册到注册中心模块，类型的芯片对应的芯片管理程序模板是管理模块接收用户基于预设的芯片管理程序统一模板输入的配置指令生成的，芯片管理程序统一模板是将不同芯片管理程序模板抽象后得到的。

从上述方法中可以看出，可以通过对不同芯片的芯片管理程序模板进行抽象，得到芯片管理程序统一模板，从而可以在用户需要添加新的芯片的时，仅需要使用户根据芯片管理程序统一模板设计新的芯片对应的芯片管理程序模板即可，并且可以通过注册中心模块根据各芯片管理程序模板生成各芯片对应的芯片管理程序，对各芯片进行管理，从而可以避免对深度学习框架的程序代码进行大量的重写的情况发生。

附图说明

此处所说明的附图用来提供对本说明书的进一步理解，构成本说明书的一部分，本说明书的示意性实施例及其说明用于解释本说明书，并不构成对本说明书的不当限定。在附图中：

图1为本说明书中提供的一种芯片管理系统的示意图；

图2为本说明书中提供的芯片管理程序统一模板的示意图；

图3为本说明书提供的待执行程序的执行过程的示意图；

图4为本说明书中提供的一种芯片管理方法的示意图；

图5为本说明书提供的一种对应于图4的电子设备的示意图。

具体实施方式

为使本说明书的目的、技术方案和优点更加清楚，下面将结合本说明书具体实施例及相应的附图对本说明书技术方案进行清楚、完整地描述。显然，所描述的实施例仅是本说明书一部分实施例，而不是全部的实施例。基于本说明书中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本说明书保护的范围。

以下结合附图，详细说明本说明书各实施例提供的技术方案。

在实际应用场景中，用户可以根据实际需求编写诸如：深度学习算法等程序，作为待执行程序，并将通过对应的框架（如：深度学习框架）所支持的芯片，执行该待执行程序，其中，由于不同的芯片的结构设计不同，使得不同的芯片针对不同的算法的执行效率不同。

例如：假设中央处理器（Central Processing Unit，CPU）中包含有25%的运算单元、有25%的控制单元、50%的缓存单元，视觉处理器GPU中包含有90%的运算单元，5%的控制单元、5%的缓存单元，因此，CPU相比于GPU的计算量小，计算复杂度高，GPU相比于CPU的计算量大，处理大量重复的计算任务时的效率更高，可以理解为，若需要计算微积分时CPU的处理效率较高，若需要计算多个个位数加法时，GPU的处理效率更高。

基于此，上述对应的框架通常需要对多种芯片进行支持，以提高在处理各种待执行程序时的执行效率，其中，用户可以在待执行程序中设置通过哪种芯片执行该待执行程序，以使上述对应的框架通过该芯片执行待执行程序。

同样地，也正是因为不同的芯片的内部结构设计不同，使得不同的芯片的软件架构不同，例如：不同芯片的上下文不同，以CPU为例，这里的上下文可以是指CPU执行数据处理任务所依赖的环境，包括：CPU寄存器和程序计数器等，不同芯片所包含的核函数也不相同，这里的核函数可以是指执行算法程序的一个计算单元，例如：假设需要执行矩阵乘法的程序，则需要先计算两个矩阵的相应的每两个元素的乘积，进而将这些乘积累加得到最终的结果，这里就涉及了两个计算单元，也就是两个核函数，即乘法核函数以及加法核函数，上述的不同芯片的核函数不同，是指针对与同一种核函数，它的内部实现逻辑不同，例如：假设针对求三个数a，b，c的和值的核函数，第一个芯片对于该核函数的实现逻辑可以是先计算a+b，再计算a+b的结果d与c的和值，而第二个芯片对于该核函数的实现逻辑可以是先计算a+c，在计算a+c的结果f与b的和值。

基于此，框架在执行待执行代码时，可以将待执行代码分解为各个数据处理任务，每个数据处理任务由一个线程来运行一个核函数来执行，而结合之前的内容可知，一个核函数对应于不同的芯片的实现逻辑不同，因此，在调用该核函数时需要通过调用代码程序来进行调用，例如：假设需要调用核函数A，则需要在框架中通过调用代码程序，来调用CPU的核函数A，而当需要重新调用其他芯片的核函数时，则需要对上述的调用代码程序进行重写，以将调用代码程序更改为调用其他芯片的核函数A，这就导致需要对框架中的调用代码程序进行大量的重写。

并且，由于核函数的种类可以根据实际需求来设定，它的种类并不是固定不变的，而是可以增加和减少的，并且每种核函数在不同的芯片中都对应有不同的实现逻辑，因此，会导致在每次调用其他芯片的核函数时，都需要将上述对应的框架中所使用的调用程序代码进行重新编写，以使框架能够通过重写后的调用程序代码调用新的芯片中对应的核函数，从而导致大量的重写的情况发生。

基于此，本说明书中提供了一种芯片管理系统，如图1所示：

图1为本说明书中提供的一种芯片管理系统的示意图。

从图1中可以看出，芯片管理系统包括：注册中心模块、管理模块、执行模块。

其中，注册中心模块用于接收用户输入的待执行程序，确定执行待执行程序所需的芯片的类型，判断已注册的各芯片管理程序模板中是否存在类型的芯片对应的芯片管理程序模板，若是，则根据该类型的芯片对应的芯片管理程序模板，生成执行待执行程序所需的芯片对应的芯片管理程序，并通过执行模块执行芯片管理程序，若否，则向用户展示预设的提示信息，以使用户通过管理模块，配置类型的芯片对应的芯片管理程序模板。

具体地，注册中心模块在接收到用户输入的待执行程序后，可以根据待执行程序中的指定字段，确定出执行待执行程序所需的芯片的类型，进而可以从预设的注册表中查询已注册的各芯片管理程序模板中是否存在该类型的芯片对应的芯片管理程序模板。

若预设的注册表中查询已注册的各芯片管理程序模板中存在该类型的芯片对应的芯片管理程序模板，通过管理模块，根据该类型的芯片对应的芯片管理程序模板，生成该类型的芯片对应的芯片管理程序，并通过执行模块执行该芯片管理程序以控制待执行程序所需的芯片执行待执行程序。

其中，这里的芯片管理程序主要用于对执行待执行程序所需的芯片进行初始化配置，以及在对执行待执行程序所需的芯片进行初始化配置后，可以通过流控制执行待执行程序所需的芯片中的核函数执行相应的数据处理任务。

上述的初始化配置包括：获取执行待执行程序所需的芯片的上下文，配置执行待执行程序所需的芯片的属性，构建框架与执行待执行程序所需的芯片之间的流、为执行待执行程序所需的芯片分配所需的内存等。

进一步地，在完成上述的初始化配置后，可以根据待执行程序，确定需要执行待执行程序所需的芯片执行的各数据处理任务，并可以针对每个数据处理任务，确定需要执行该数据处理任务的线程，进而可以通过流将该线程分配给执行待执行程序所需的芯片，并由执行待执行程序所需的芯片运行该线程，以通过执行待执行程序所需的芯片中对应的核函数对该数据处理任务进行处理。

需要说明的是，上述内容中的线程是指在框架的程序代码中的软件概念中的线程，可以理解为调用程序代码，框架可以通过这里的线程，调用芯片中与该线程相对应的计算资源（即，硬件概念中的线程），执行相应的核函数。

进一步地，若预设的注册表中查询已注册的各芯片管理程序模板中不存在该类型的芯片对应的芯片管理程序模板，则可以向用户展示预设的提示信息，以使用户通过管理模块，配置该类型的芯片对应的芯片管理程序模板。

具体地，管理模块可以用于接收用户基于预设的芯片管理程序统一模板输入的配置指令，生成该类型的芯片对应的芯片管理程序模板，将该类型的芯片对应的芯片管理程序模板注册到注册中心模块，这里的芯片管理程序统一模板是将不同芯片管理程序模板抽象后得到的。

需要说明的是，从上述内容中可以看出，每个芯片的芯片管理程序虽然存在一部分的不同，但是，可以针对各芯片管理程序中相同的内容进行抽象，从而得到上述芯片管理程序统一模板，例如：针对每个芯片管理程序而言，在通过该芯片管理程序调用该芯片中的核函数时，均需要先对该芯片进行初始化配置，并且在进行初始化配置时，均需要先构建框架与该芯片之间的流，并对该芯片的属性进行配置等，只是具体设置不同。

再例如：假设在CPU以及GPU中均包含有获取执行待执行方法所需的数据到指定内存中的方法，但是由于CPU和GPU每次能处理的数据量不同，以及执行方式也不同，所以，这两个芯片对应的芯片管理程序模板中的获取执行待执行方法所需的数据到指定内存中的方法的具体实现逻辑也不同。

基于此，可以通过将不同芯片对应的芯片管理程序模板中所共用的方法的类型提取出来，规范为一个芯片管理程序统一模板，并在需要增添新的芯片对应的芯片管理程序模板时，可以在这个芯片管理程序统一模板的基础上，针对新的芯片自身的不同配置出新的芯片对应的芯片管理程序模板，从而可以极大的减少添加新的芯片对应的芯片管理程序模板所需的任务量。

除此之外，当需要添加一个新的核函数的调用程序时，可以先将这个新的核函数的调用程序配置到芯片管理程序统一模板中，进而可以根据芯片管理程序统一模板对每个芯片管理程序模板进行统一更新。

其中，上述的芯片管理程序统一模板包括：芯片属性管理程序子模板、流管理程序子模板、事件管理程序子模板、内存管理程序子模板组成，具体如图2所示。

图2为本说明书中提供的芯片管理程序统一模板的示意图。

结合图2来看，芯片属性管理程序子模板用于生成对芯片的基础属性进行管理的方法的程序代码，这里的基础属性包括：芯片名称、芯片对应的索引、芯片的类型等。

上述的芯片属性管理程序子模板中可以定义有将当前芯片设置为当前线程活跃设备的方法对应的程序代码模板，这里的当前线程活跃设备是指正在执行线程对应的数据处理任务的设备。

上述的芯片属性管理程序子模板中可以定义有获取芯片类型的方法对应的程序代码模板。

上述的芯片属性管理程序子模板中可以定义有返回芯片索引的方法对应的程序代码模板。

上述的芯片属性管理程序子模板中可以定义有获取芯片对应的芯片状态管理程序对应的指针的方法对应的程序代码模板，这里的芯片状态管理程序用于对芯片管理程序当前的程序状态进行调整，这里的程序状态包括：程序创建、程序执行、程序销毁，注册中心可以通过芯片状态管理程序，确定该芯片管理程序对应的各程序状态，并响应于执行模块执行芯片管理程序的操作，对芯片管理程序当前的程序状态进行调整。

上述的流管理程序子模板，用于生成对芯片对应的流进行管理的方法的程序代码，这里的流可以是指Stream流，可以理解为流是一个数据处理任务队列，芯片可以从这数据处理任务队列中获取数据处理任务并执行，这里的数据处理任务可以根据待执行代码来确定，例如：假设待执行代码为求两个矩阵相乘的结果时，则涉及两个数据处理任务，第一个数据处理任务为求两个矩阵中对应元素的乘积，第二个数据处理任务为求第一个数据处理任务的各乘积的累加。

上述的流管理程序子模板中可以定义有获取对应的芯片类型的方法对应的程序代码模板、返回对应的设备类型的方法对应的程序代码模板、同步流抽象模块的方法对应的程序代码模板、事件记录方法对应的程序代码模板、初始化调用线程方法对应的程序代码模板、以及对线程使用根据流管理程序子模板生成的流管理程序所需要的设置进行配置时，所使用的方法对应的程序代码模板等。

上述的线程使用根据流管理程序子模板生成的流管理程序所需要的设置可以是指芯片上下文等设置。

需要说明的是，上述的流管理程序子模板中的内容可以根据实际需求进行设置，例如：还可以在流管理程序子模板中添加进行内存的亲和性设置时，所需的方法对应的程序代码模板、以及添加将调试信息保存到指定位置的方法对应的程序代码模板等。

上述的事件管理程序子模板，用于对芯片执行数据处理任务时的事件进行管理的方法的程序代码，这里的事件用于表征数据处理任务每次状态变化，这里的数据处理任务的状态包括：数据处理任务创建、数据处理任务就绪、数据处理任务运行、数据处理任务阻塞、数据处理任务结束。

上述的事件管理程序子模板中可以定义有查询事件是否完成的方法对应的程序代码模板、等待事件完成的方法对应的程序代码模板。

上述的内存管理程序子模板，用于对芯片执行数据处理任务时的内存进行管理的方法的程序代码，这里对内存进行管理可以是指对芯片内存分配进行详细的配置，这里的配置包括：固定内存的配置，这里的固定内存仅用与指定芯片进行交互的内存，以及非一致性内存访问节点内存的配置。

上述的内存管理程序子模板中可以定义有查询是否配置了对应的固定内存的方法对应的程序代码模板、获取固定内存的类型的方法对应的程序代码模板、获取固定内存的索引值的方法对应的程序代码模板、对固定内存进行配置的方法对应的程序代码模板、清除固定内存的配置的方法对应的程序代码模板、查询是否配置了非一致性内存访问节点的内存分配规则的方法对应的程序代码模板、返回配置的非一致性内存访问节点的亲和节点的方法对应的程序代码模板、对非一致性内存访问节点的亲和节点进行配置的方法对应的程序代码模板、清除非一致性内存访问节点的亲和节点的配置的方法对应的程序代码模板。

同样地，根据芯片管理程序模板生成的芯片管理程序包括：芯片属性管理程序、流管理程序、事件管理程序、内存管理程序等。

进一步地，执行模块用于执行上述芯片管理程序，以控制待执行程序所需的芯片执行待执行程序，具体如图3所示。

图3为本说明书提供的待执行程序的执行过程的示意图。

结合图3可以看出，在初始化阶段，执行模块可以执行芯片属性管理程序，对芯片的各属性信息进行配置，这里的属性信息包括：芯片名称、芯片对应的索引、芯片的类型。

进一步地，执行模块可以通过执行流管理程序，以构建芯片对应的流，并根据待执行程序，确定执行待执行程序所需的各数据处理任务，针对每个数据处理任务，确定需要执行该数据处理任务的线程，将上述线程放入上述流中，通过上述流管理程序控制该线程运行，以控制芯片中与该线程对应的计算资源执行该线程对应的数据处理任务。

需要说明的是，由于不同的芯片可以并行运行的线程数量不同，因此，可以通过执行流管理程序，对流中的线程进行管理，以控制每次传输给不同芯片的数据处理任务的数量，从而避免由于一次分配给一个芯片较多的数据处理任务，导致数据处理任务不能即时的被芯片处理，从而积压在芯片的缓存区中，对芯片的缓存区造成占用。

进一步地，为了在芯片与该线程对应的计算资源执行该线程对应的数据处理任务后，可以即时回收相应的资源，执行模块还可以针对每个数据处理任务，响应于芯片执行该数据处理任务，执行事件管理程序，以监听该数据处理任务的状态，并根据监听到的该数据处理任务的状态，对芯片进行资源管理。

上述的状态包括：数据处理任务创建、数据处理任务就绪、数据处理任务运行、数据处理任务阻塞、数据处理任务结束，上述的资源管理包括：内存资源管理、计算资源管理。

进一步地，执行模块还可以通过执行内存管理程序，以对芯片执行待执行程序所需的存储空间进行配置。

从上述内容中可以看出，注册中心可以针对每个芯片，根据该芯片的类型对应的芯片管理程序模板，生成该芯片对应的芯片管理程序，并通过该芯片管理程序控制芯片执行待执行程序。

在芯片管理程序执行的过程中，需要通过指针对这个芯片管理程序进行调用，但是存在一种情况当某个芯片管理程序中已经执行完成后，分配给这个芯片管理程序的内存资源已经被回收了，但是指向这个芯片管理程序的指针却并没有被即时收回，从而导致资源浪费，基于此，注册中心模块可以针对芯片管理程序，响应于执行模块执行芯片管理程序，对芯片管理程序当前的程序状态进行调整，这里的程序状态包括：程序创建、程序执行、程序销毁，当某个芯片管理程序处于程序销毁状态时，会同时将这个芯片管理程序的指针以及这个芯片管理程序占用的内存资源回收。

从上述内容中可以看出，可以通过管理模块对各芯片的芯片管理程序模板进行管理，以执行待执行程序时，可以根据预先保存的芯片管理程序模板，生成对应的芯片管理程序，并通过生成的芯片管理程序对执行待执行程序所需的芯片中的核函数进行调用，从而可以避免对框架的程序代码进行重写。

除此之外，在需要添加新的芯片管理程序模板时，可以基于芯片管理程序统一模板的基础上，配置新的芯片管理程序模板，进而可以减少需要写入的程序代码的数量，进而可以降低对各芯片进行管理的成本。

为了进一步地对上述芯片管理系统进行详细说明，本说明书还提供了通过上述的芯片管理系统进行芯片管理的方法，具体如图4所示。

图4为本说明书中提供的一种芯片管理方法的示意图，包括以下步骤：

S401：所述注册中心模块接收用户输入的待执行程序，并确定执行所述待执行程序所需的芯片的类型；

S402：判断已注册的各芯片管理程序模板中是否存在所述类型的芯片对应的芯片管理程序模板；

S403：若是，则通过所述管理模块根据所述类型的芯片对应的芯片管理程序模板，生成执行所述待执行程序所需的芯片对应的芯片管理程序，并通过所述执行模块执行所述芯片管理程序，以控制所述待执行程序所需的芯片执行所述待执行程序。

S404：若否，则向所述用户展示预设的提示信息，以使用户通过所述管理模块，将所述类型的芯片对应的芯片管理程序模板注册到所述注册中心模块，所述类型的芯片对应的芯片管理程序模板是所述管理模块接收所述用户基于预设的芯片管理程序统一模板输入的配置指令生成的，所述芯片管理程序统一模板是将不同芯片管理程序模板抽象后得到的。

注册中心模块接收用户输入的待执行程序，并确定执行所述待执行程序所需的芯片的类型，判断已注册的各芯片管理程序模板中是否存在所述类型的芯片对应的芯片管理程序模板。

若是，则通过所述管理模块根据所述类型的芯片对应的芯片管理程序模板，生成执行所述待执行程序所需的芯片对应的芯片管理程序，并通过所述执行模块执行所述芯片管理程序，以控制所述待执行程序所需的芯片执行所述待执行程序。

若否，则向所述用户展示预设的提示信息，以使用户通过所述管理模块，将所述类型的芯片对应的芯片管理程序模板注册到所述注册中心模块，所述类型的芯片对应的芯片管理程序模板是所述管理模块接收所述用户基于预设的芯片管理程序统一模板输入的配置指令生成的，所述芯片管理程序统一模板是将不同芯片管理程序模板抽象后得到的。

通过所述执行模块，执行所述流管理程序，以构建所述芯片对应的流，根据所述待执行程序，确定执行所述待执行程序所需的各数据处理任务，并通过所述流，将所述各数据处理任务分配给所述芯片，以使所述芯片执行所述各数据处理任务。

针对每个数据处理任务，确定需要执行该数据处理任务的线程，将所述线程放入所述流中，通过所述流管理程序控制该线程运行，以控制所述芯片中与该线程对应的计算资源执行该线程对应的数据处理任务。

通过执行模块，针对每个数据处理任务，响应于所述芯片执行该数据处理任务，执行所述事件管理程序，以监听该数据处理任务的状态，所述状态包括：数据处理任务创建、数据处理任务就绪、数据处理任务运行、数据处理任务阻塞、数据处理任务结束，并根据监听到的该数据处理任务的状态，对所述芯片进行资源管理，所述资源管理包括：内存资源管理、计算资源管理。

通过所述执行模块，执行所述内存管理程序，以对所述芯片执行所述待执行程序所需的存储空间进行配置。

通过所述执行模块，执行所述芯片属性管理程序，对所述芯片的各属性信息进行管理，所述属性信息包括：芯片名称、芯片对应的索引、芯片的上下文。

所述注册中心模块，针对所述芯片管理程序，根据该芯片管理程序对应的芯片管理程序模板，确定该芯片管理程序对应的各程序状态，响应于所述执行模块执行所述芯片管理程序，对所述芯片管理程序当前的程序状态进行调整，所述程序状态包括：程序创建、程序执行、程序销毁。

从上述内容中可以看出，可以通过管理模块对各芯片的芯片管理程序模板进行管理，以执行待执行程序时，可以根据预先保存的芯片管理程序模板，生成对应的芯片管理程序，并通过生成的芯片管理程序对执行待执行程序所需的芯片中的核函数进行调用，从而可以避免对框架的程序代码进行重写。

除此之外，在需要添加新的芯片管理程序模板时，可以基于芯片管理程序统一模板的基础上，配置新的芯片管理程序模板，进而可以减少需要写入的程序代码的数量，进而可以降低对各芯片进行管理的成本。

本说明书还提供了一种计算机可读存储介质，该存储介质存储有计算机程序，计算机程序可用于执行上述图1提供的一种的方法。

本说明书还提供了图5所示的一种对应于图1的电子设备的示意结构图。如图5所示，在硬件层面，该电子设备包括处理器、内部总线、网络接口、内存以及非易失性存储器，当然还可能包括其他业务所需要的硬件。处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行，以实现上述图1的方法。

当然，除了软件实现方式之外，本说明书并不排除其他实现方式，比如逻辑器件抑或软硬件结合的方式等等，也就是说以下处理流程的执行主体并不限定于各个逻辑单元，也可以是硬件或逻辑器件。

在20世纪90年代，对于一个技术的改进可以很明显地区分是硬件上的改进（例如，对二极管、晶体管、开关等电路结构的改进）还是软件上的改进（对于方法流程的改进）。然而，随着技术的发展，当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此，不能说一个方法流程的改进就不能用硬件实体模块来实现。例如，可编程逻辑器件（Programmable Logic Device, PLD）（例如现场可编程门阵列（Field Programmable GateArray，FPGA））就是这样一种集成电路，其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片PLD上，而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且，如今，取代手工地制作集成电路芯片，这种编程也多半改用“逻辑编译器（logic compiler）”软件来实现，它与程序开发撰写时所用的软件编译器相类似，而要编译之前的原始代码也得用特定的编程语言来撰写，此称之为硬件描述语言（Hardware Description Language，HDL），而HDL也并非仅有一种，而是有许多种，如ABEL（Advanced Boolean Expression Language）、AHDL（Altera Hardware DescriptionLanguage）、Confluence、CUPL（Cornell University Programming Language）、HDCal、JHDL（Java Hardware Description Language）、Lava、Lola、MyHDL、PALASM、RHDL（RubyHardware Description Language）等，目前最普遍使用的是VHDL（Very-High-SpeedIntegrated Circuit Hardware Description Language）与Verilog。本领域技术人员也应该清楚，只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中，就可以很容易得到实现该逻辑方法流程的硬件电路。

控制器可以按任何适当的方式实现，例如，控制器可以采取例如微处理器或处理器以及存储可由该（微）处理器执行的计算机可读程序代码（例如软件或固件）的计算机可读介质、逻辑门、开关、专用集成电路（Application Specific Integrated Circuit，ASIC）、可编程逻辑控制器和嵌入微控制器的形式，控制器的例子包括但不限于以下微控制器：ARC 625D、Atmel AT91SAM、Microchip PIC18F26K20 以及Silicone Labs C8051F320，存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道，除了以纯计算机可读程序代码方式实现控制器以外，完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件，而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至，可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。

上述实施例阐明的系统、装置、模块或单元，具体可以由计算机芯片或实体实现，或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的，计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。

为了描述的方便，描述以上装置时以功能分为各种单元分别描述。当然，在实施本说明书时可以把各单元的功能在同一个或多个软件和/或硬件中实现。

本领域内的技术人员应明白，本说明书的实施例可提供为方法、系统、或计算机程序产品。因此，本说明书可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本说明书可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质（包括但不限于磁盘存储器、CD-ROM、光学存储器等）上实施的计算机程序产品的形式。

本说明书是参照根据本说明书实施例的方法、设备（系统）、和计算机程序产品的流程图和／或方框图来描述的。应理解可由计算机程序指令实现流程图和／或方框图中的每一流程和／或方框、以及流程图和／或方框图中的流程和／或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程芯片管理设备的处理器以产生一个机器，使得通过计算机或其他可编程芯片管理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和／或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程芯片管理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和／或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程芯片管理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和／或方框图一个方框或多个方框中指定的功能的步骤。

在一个典型的配置中，计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。

内存可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。

计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。

还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。

本领域技术人员应明白，本说明书的实施例可提供为方法、系统或计算机程序产品。因此，本说明书可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且，本说明书可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质（包括但不限于磁盘存储器、CD-ROM、光学存储器等）上实施的计算机程序产品的形式。

本说明书可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本说明书，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。

本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于系统实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。

以上所述仅为本说明书的实施例而已，并不用于限制本说明书。对于本领域技术人员来说，本说明书可以有各种更改和变化。凡在本说明书的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本说明书的权利要求范围之内。

Claims (16)

1.一种芯片管理系统，其特征在于，所述芯片管理系统包括：注册中心模块、管理模块、执行模块；

所述注册中心模块，用于接收用户输入的待执行程序，确定执行所述待执行程序所需的芯片的类型，判断已注册的各芯片管理程序模板中是否存在所述类型的芯片对应的芯片管理程序模板，若是，则通过所述管理模块根据所述类型的芯片对应的芯片管理程序模板，生成执行所述待执行程序所需的芯片对应的芯片管理程序，并通过所述执行模块执行所述芯片管理程序，若否，则向所述用户展示预设的提示信息，以使用户通过所述管理模块，配置所述类型的芯片对应的芯片管理程序模板；

所述管理模块，用于接收所述用户基于预设的芯片管理程序统一模板输入的配置指令，生成所述类型的芯片对应的芯片管理程序模板，将所述类型的芯片对应的芯片管理程序模板注册到所述注册中心模块，所述芯片管理程序统一模板是将不同芯片管理程序模板抽象后得到的；

所述执行模块，用于执行所述芯片管理程序，以控制所述待执行程序所需的芯片执行所述待执行程序。

2.如权利要求1所述的芯片管理系统，其特征在于，所述芯片管理程序包括：流管理程序；

所述执行模块，用于执行所述流管理程序，以构建所述芯片对应的流；

根据所述待执行程序，确定执行所述待执行程序所需的各数据处理任务，并通过所述流，将所述各数据处理任务分配给所述芯片，以使所述芯片执行所述各数据处理任务。

3.如权利要求2所述的芯片管理系统，其特征在于，所述执行模块，用于针对每个数据处理任务，确定需要执行该数据处理任务的线程；

将所述线程放入所述流中，通过所述流管理程序控制该线程运行，以控制所述芯片中与该线程对应的计算资源执行该线程对应的数据处理任务。

4.如权利要求2所述的芯片管理系统，其特征在于，所述芯片管理程序包括：事件管理程序；

所述执行模块，用于针对每个数据处理任务，响应于所述芯片执行该数据处理任务，执行所述事件管理程序，以监听该数据处理任务的状态，所述状态包括：数据处理任务创建、数据处理任务就绪、数据处理任务运行、数据处理任务阻塞、数据处理任务结束；

并根据监听到的该数据处理任务的状态，对所述芯片进行资源管理，所述资源管理包括：内存资源管理、计算资源管理。

5.如权利要求1所述的芯片管理系统，其特征在于，所述芯片管理程序包括：内存管理程序；

所述执行模块，用于执行所述内存管理程序，以对所述芯片执行所述待执行程序所需的存储空间进行配置。

6.如权利要求1所述的芯片管理系统，其特征在于，所述芯片管理程序包括：芯片属性管理程序；

所述执行模块，用于执行所述芯片属性管理程序，对所述芯片的各属性信息进行管理，所述属性信息包括：芯片名称、芯片对应的索引、芯片的类型。

7.如权利要求1所述的芯片管理系统，其特征在于，所述注册中心模块，用于针对所述芯片管理程序，响应于所述执行模块执行所述芯片管理程序，对所述芯片管理程序当前的程序状态进行调整，所述程序状态包括：程序创建、程序执行、程序销毁。

8.一种芯片管理方法，其特征在于，所述芯片管理方法应用于芯片管理系统，所述芯片管理系统包括：注册中心模块、管理模块、执行模块，所述方法包括：

所述注册中心模块接收用户输入的待执行程序，并确定执行所述待执行程序所需的芯片的类型；

判断已注册的各芯片管理程序模板中是否存在所述类型的芯片对应的芯片管理程序模板；

若是，则通过所述管理模块根据所述类型的芯片对应的芯片管理程序模板，生成执行所述待执行程序所需的芯片对应的芯片管理程序，并通过所述执行模块执行所述芯片管理程序，以控制所述待执行程序所需的芯片执行所述待执行程序；

若否，则向所述用户展示预设的提示信息，以使用户通过所述管理模块，将所述类型的芯片对应的芯片管理程序模板注册到所述注册中心模块，所述类型的芯片对应的芯片管理程序模板是所述管理模块接收所述用户基于预设的芯片管理程序统一模板输入的配置指令生成的，所述芯片管理程序统一模板是将不同芯片管理程序模板抽象后得到的。

9.如权利要求8所述的方法，其特征在于，所述芯片管理程序包括：流管理程序；

通过所述执行模块执行所述芯片管理程序，具体包括：

通过所述执行模块，执行所述流管理程序，以构建所述芯片对应的流；

根据所述待执行程序，确定执行所述待执行程序所需的各数据处理任务，并通过所述流，将所述各数据处理任务分配给所述芯片，以使所述芯片执行所述各数据处理任务。

10.如权利要求9所述的方法，其特征在于，通过所述流，将所述各数据处理任务分配给所述芯片，以使所述芯片执行所述各数据处理任务，具体包括：

针对每个数据处理任务，确定需要执行该数据处理任务的线程；

将所述线程放入所述流中，通过所述流管理程序控制该线程运行，以控制所述芯片中与该线程对应的计算资源执行该线程对应的数据处理任务。

11.如权利要求9所述的方法，其特征在于，所述芯片管理程序包括：事件管理程序，所述方法还包括：

通过执行模块，针对每个数据处理任务，响应于所述芯片执行该数据处理任务，执行所述事件管理程序，以监听该数据处理任务的状态，所述状态包括：数据处理任务创建、数据处理任务就绪、数据处理任务运行、数据处理任务阻塞、数据处理任务结束；

并根据监听到的该数据处理任务的状态，对所述芯片进行资源管理，所述资源管理包括：内存资源管理、计算资源管理。

12.如权利要求8所述的方法，其特征在于，所述芯片管理程序包括：内存管理程序；

通过所述执行模块执行所述芯片管理程序，以控制所述待执行程序所需的芯片执行所述待执行程序，具体包括：

通过所述执行模块，执行所述内存管理程序，以对所述芯片执行所述待执行程序所需的存储空间进行配置。

13.如权利要求8所述的方法，其特征在于，所述芯片管理程序包括：芯片属性管理程序；

通过所述执行模块执行所述芯片管理程序，以控制所述待执行程序所需的芯片执行所述待执行程序，具体包括：

通过所述执行模块，执行所述芯片属性管理程序，对所述芯片的各属性信息进行管理，所述属性信息包括：芯片名称、芯片对应的索引、芯片的上下文。

14.如权利要求8所述的方法，其特征在于，所述方法还包括：

所述注册中心模块，针对所述芯片管理程序，根据该芯片管理程序对应的芯片管理程序模板，确定该芯片管理程序对应的各程序状态，响应于所述执行模块执行所述芯片管理程序，对所述芯片管理程序当前的程序状态进行调整，所述程序状态包括：程序创建、程序执行、程序销毁。

15.一种计算机可读存储介质，其特征在于，所述存储介质存储有计算机程序，所述计算机程序被处理器执行时实现上述权利要求8~14任一项所述的方法。

16.一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现上述权利要求8~14任一项所述的方法。

Images