CN111427687A - 一种人工智能云平台 - Google Patents

Abstract

本发明公开了一种人工智能云平台，包括：硬件层，用于提供硬件资源、计算资源和存储资源；所述硬件层包括CPU、GPU和存储器；所述存储器分别与所述CPU和所述GPU电性连接；所述存储器用于存储所述CPU和所述GPU运行的数据；系统层，存储在所述硬件层上，用于支持Linux操作系统；开发层，设置在所述系统层上，用于为应用软件开发提供开发工具、软件接口；应用层，与智能终端连接，用于将所述开发层开发的应用软件进行人工智能应用；资源管理层，与所述应用层连接，用于在所述应用层进行人工智能应用时，对所述CPU、GPU和平台计算节点进行管理和调度。有益效果：能对人工智能云平台的计算资源进行高效的管理和调度，提高云计算的效率，使计算收益最大化。

Description

一种人工智能云平台

技术领域

本发明涉及人工智能技术领域，特别涉及一种人工智能云平台。

背景技术

云计算是信息技术领域的一场革命，其在网格计算、效用计算、软件即服务等技术基础上发展而来。云计算依托于人工智能云平台来实现。随着人工智能的不断发展，出现了多种人工智能云平台，现有技术中云平台中对其自身的计算资源不能更高效的利用，导致云计算的效率降低，计算收益不能达到最大化。

发明内容

本发明旨在至少一定程度上解决上述技术中的技术问题之一。为此，本发明的目的在于提出一种人工智能云平台，能对人工智能云平台的计算资源进行高效的管理和调度，提高云计算的效率，使计算收益最大化，降低成本，方便人工智能应用的落地。

为达到上述目的，本发明实施例提出了一种人工智能云平台，包括：

硬件层，用于提供硬件资源、计算资源和存储资源；所述硬件层包括CPU、GPU和存储器；所述存储器分别与所述CPU和所述GPU电性连接；所述存储器用于存储所述CPU和所述GPU运行的数据；

系统层，存储在所述硬件层上，用于支持Linux操作系统；

开发层，设置在所述系统层上，用于为应用软件开发提供开发工具、软件接口；

应用层，与智能终端连接，用于将所述开发层开发的应用软件进行人工智能应用；

资源管理层，与所述应用层连接，用于在所述应用层进行人工智能应用时，对所述CPU、GPU和平台计算节点进行管理和调度。

根据本发明实施例提出的人工智能云平台，通过硬件层、系统层、开发层、应用层的设置，将应用软件实现开发，通过与智能终端连接，实现人工智能应用。资源管理层，与所述应用层连接，用于在所述应用层进行人工智能应用时，对所述CPU、GPU和平台计算节点进行管理和调度，能对人工智能云平台的计算资源进行高效的管理及调度，提高云计算的效率，使计算收益最大化，降低成本，方便人工智能应用的落地。

根据本发明的一些实施例，所述Linux操作系统包括Redhat系统和Ubuntu系统。

根据本发明的一些实施例，所述开发层包括：

SDK，用于提供应用软件开发时的开发工具；

软件接口模块，与SDK连接，利用开发工具完成应用程序编程，将接收的不同数据转化为统一的数据结构，实现所述人工智能云平台与云服务器之间的数据共享。

根据本发明的一些实施例，所述软件接口模块为API接口。

根据本发明的一些实施例，所述资源管理层对所述CPU、GPU进行管理和调度，方法如下：

所述CPU用于进行复杂计算步骤和复杂数据的处理，在所述CPU计算能力不足或存在计算密集且并行的程序时，控制所述GPU进行计算处理；

所述GPU用于进行高性能并行运算。

根据本发明的一些实施例，所述人工智能云平台包括若干平台计算节点；

所述资源管理层对所述平台计算节点进行管理和调度，方法如下：

各个平台计算节点连接实现通信；

统计各个平台计算节点的权限数值及计算费用；

根据所述权限数值确定各个平台计算节点的控制关系，权限数值高的平台计算节点可以对权限数值低的平台计算节点根据所述计算费用进行资源管理和调度以获取最大化的计算收益。

根据本发明的一些实施例，根据所述权限数值确定各个平台计算节点的控制关系，权限数值高的平台计算节点可以对权限数值低的平台计算节点根据所述计算费用进行资源管理和调度以获取最大化的计算收益，采用如下算法：假设计算任务G_i分配给平台计算节点P_j执行计算，即分配矩阵元素x_i，j＝1，则平台计算节点P_j完成计算任务G_i的计算费用为：

其中，

为平台计算节点P_j执行一条单元指令的计算费用；

为计算任务G_i包含的单元指令数量；

平台计算节点P_j完成计算任务G_i获得的计算收益为：

其中，

为用户支付的计算费用，

为平台计算节点P_j完成计算任务G_i所支付的延迟赔偿费用；

人工智能云平台完成计算任务集合G＝{G₁,G₂，…G_m}中全部任务所获得的总计算收益：

人工智能云平台付出的总计算费用：

人工智能云平台基于各平台计算节点计算费用固定的情况下，通过调度的方式以获取最大化的计算收益；

调度的平台计算节点表示为：

基于n个不同的平台计算节点对m个计算任务进行调度，获取最大化的计算收益。

根据本发明的一些实施例，所述资源管理层与云服务器连接，用于将所述人工智能云平台没有能力计算的数据上传到所述云服务器进行计算，并接收所述云服务器返回的计算结果。

本发明的其它特征和优点将在随后的说明书中阐述，并且，部分地从说明书中变得显而易见，或者通过实施本发明而了解。本发明的目的和其他优点可通过在所写的说明书以及附图中所特别指出的结构来实现和获得。

下面通过附图和实施例，对本发明的技术方案做进一步的详细描述。

附图说明

附图用来提供对本发明的进一步理解，并且构成说明书的一部分，与本发明的实施例一起用于解释本发明，并不构成对本发明的限制。在附图中：

图1是根据本发明一个实施例的人工智能云平台的框图；

图2是根据本发明又一个实施例的人工智能云平台的框图。

附图标记：

人工智能云平台100、硬件层1、CPU11、GPU12、存储器13、系统层2、开发层3、软件接口模块31、SDK32、应用层4、资源管理层5。

具体实施方式

以下结合附图对本发明的优选实施例进行说明，应当理解，此处所描述的优选实施例仅用于说明和解释本发明，并不用于限定本发明。

下面参考图1至图2来描述本发明实施例提出的一种人工智能云平台100。

图1是根据本发明一个实施例的人工智能云平台100的框图；如图1所示，本发明实施例提出了一种人工智能云平台100，包括：

硬件层1，用于提供硬件资源、计算资源和存储资源；所述硬件层1包括CPU11、GPU12和存储器13；所述存储器13分别与所述CPU11和所述GPU12电性连接；所述存储器13用于存储所述CPU11和所述GPU12运行的数据；

系统层2，存储在所述硬件层1上，用于支持Linux操作系统；

开发层3，设置在所述系统层2上，用于为应用软件开发提供开发工具、软件接口；

应用层4，与智能终端连接，用于将所述开发层3开发的应用软件进行人工智能应用；

资源管理层5，与所述应用层4连接，用于在所述应用层4进行人工智能应用时，对所述CPU11、GPU12和平台计算节点进行管理和调度。

上述技术方案的工作原理：所述硬件层1采用嵌入式硬件，包括CPU11、GPU12和存储器13；所述存储器13分别与所述CPU11和所述GPU12电性连接；CPU11具有采集数据、数据传输、复杂数据的处理等功能，GPU12用于进行高性能并行运算，存储器13用于存储各类软件及运行数据。嵌入式硬件能够存储Linux操作系统。开发层3，用于提供开发工具、软件接口，方便对框架源的深度学习，有利于智能模型及各类软件的开发。应用层4，与智能终端连接，用于将所述开发层3开发的应用软件进行人工智能应用，实现人工智能云平台100与外部智能终端之间的数据交互。资源管理层5，与应用层4连接，用于在所述应用层4进行人工智能应用时，对所述CPU11、GPU12和平台计算节点进行管理和调度，资源管理层5通过应用层4与智能终端连接，应用层4将从智能终端获取的各类数据发送给资源管理层5，完成智能算法的计算，还接收资源管理层5的计算结果，控制智能终端执行相应的动作。

上述技术方案的有益效果：根据本发明实施例提出的人工智能云平台100，通过硬件层1、系统层2、开发层3、应用层4的设置，将应用软件实现开发，通过与智能终端连接，实现人工智能应用。资源管理层5，与所述应用层4连接，用于在所述应用层4进行人工智能应用时，对所述CPU11、GPU12和平台计算节点进行管理和调度，能对人工智能云平台100的计算资源进行高效的管理及调度，提高云计算的效率，使计算收益最大化，降低成本，方便人工智能应用的落地。

根据本发明的一些实施例，所述Linux操作系统包括Redhat系统和Ubuntu系统。

根据本发明的一些实施例，开发层3还用于对智能模型进行开发，通过机器学习和深度学习框架资源，获取智能模型资源，智能模型为基于知识的软件开发模型。

图2是根据本发明又一个实施例的人工智能云平台的框图；如图2所示，所述开发层3包括：

SDK32，用于提供应用软件开发时的开发工具；

软件接口模块31，与SDK32连接，利用开发工具完成应用程序编程，将接收的不同数据转化为统一的数据结构，实现所述人工智能云平台与云服务器之间的数据共享。

上述技术方案的工作原理及有益效果：SDK32(Software Development Kit)，软件开发工具包，包括特定的软件包、软件框架、硬件平台、操作系统等建立应用软件时的开发工具的集合，可以加快程序员的开发速度。软件接口模块31，与SDK32连接，利用开发工具完成应用程序编程，将接收的不同数据转化为统一的数据结构，实现所述人工智能云平台100与云服务器之间的数据共享，所述软件接口模块31为API接口；API(Application ProgramInterface)接口，应用程序接口，是操作系统留给应用程序的一个调用接口，应用程序通过调用操作系统的API接口而使操作系统去执行应用程序的命令，通过API接口实现应用软件之间的相互通信，实现数据共享，同时也提供通用功能集，可以降低程序员的编程任务，降低程序员的工作强度。

根据本发明的一些实施例，所述资源管理层5对所述CPU11、GPU12进行管理和调度，方法如下：

所述CPU11用于进行复杂计算步骤和复杂数据的处理，在所述CPU11计算能力不足或存在计算密集且并行的程序时，控制所述GPU12进行计算处理；

所述GPU12用于进行高性能并行运算。

上述技术方案的工作原理及有益效果：CPU11(Central Processing Unit),具有很强的通用性来处理各种不同的数据类型，同时又要逻辑判断又会引入大量的分支跳转和中断的处理，进行复杂计算步骤和复杂数据的处理。GPU12(Graphic Processing Unit),图形处理器，面对的则是类型高度统一的、相互无依赖的大规模数据和不需要被打断的纯净的计算环境。在CPU11计算能力不足或存在计算密集且并行的程序时，控制GPU12进行计算处理；GPU12用于进行高性能并行运算；可以有效缓解CPU11的运算压力，有利于保持CPU11高效的处理能力，对CPU11与GPU12计算任务分工明确，提高计算效率。

根据本发明的一些实施例，所述人工智能云平台100包括若干平台计算节点；

所述资源管理层5对所述平台计算节点进行管理和调度，方法如下：

各个平台计算节点连接实现通信；

统计各个平台计算节点的权限数值及计算费用；

根据所述权限数值确定各个平台计算节点的控制关系，权限数值高的平台计算节点可以对权限数值低的平台计算节点根据所述计算费用进行资源管理和调度以获取最大化的计算收益。

上述技术方案的工作原理及有益效果：各个平台计算节点连接实现通信，统计各个平台计算节点的权限数值，示例的，人工智能云平台100包括A、B、C、D，4个平台计算节点，平台计算节点的权限数值：A＞B＞C＞D，则平台计算节点A是平台计算节点B、C、D的上级节点，可以对平台计算节点B、C、D的计算资源进行管理和调度；平台计算节点B是平台计算节点C、D的上级节点，可以对平台计算节点C、D的计算资源进行管理和调度；平台计算节点C是平台计算节点D的上级节点，可以对平台计算节点D的计算资源进行管理和调度。

为使人工智能云平台100获取最大的计算收益，统计各个平台计算节点的计算费用，示例的，计算任务Z，由平台计算节点C、平台计算节点D都满足计算条件，但是平台计算节点D的计算费用低于平台计算节点C的计算费用，优先让平台计算节点D执行计算任务Z。

根据本发明的一些实施例，根据所述权限数值确定各个平台计算节点的控制关系，权限数值高的平台计算节点可以对权限数值低的平台计算节点根据所述计算费用进行资源管理和调度以获取最大化的计算收益，采用如下算法：假设计算任务G_i分配给平台计算节点P_j执行计算，即分配矩阵元素x_i，j＝1，则平台计算节点P_j完成计算任务G_i的计算费用为：

其中，

为平台计算节点P_j执行一条单元指令的计算费用；

为计算任务G_i包含的单元指令数量；

平台计算节点P_j完成计算任务G_i获得的计算收益为：

其中，

为用户支付的计算费用，

为平台计算节点P_j完成计算任务G_i所支付的延迟赔偿费用；

人工智能云平台100完成计算任务集合G＝{G₁,G₂，…G_m}中全部任务所获得的总计算收益：

人工智能云平台100付出的总计算费用：

人工智能云平台100基于各平台计算节点计算费用固定的情况下，通过调度的方式以获取最大化的计算收益；

调度的平台计算节点表示为：

基于n个不同的平台计算节点对m个计算任务进行调度，获取最大化的计算收益。

上述技术方案的工作原理及有益效果：人工智能云平台100接收用户提供的计算任务，估算该计算任务的计算收益，通过调度人工智能云平台100上各平台计算节点的计算资源，以获取最大化的计算收益。人工智能云平台100接收计算任务后未在规定时间完成，则需退还相应数量的延迟赔偿费用。该算法基于n个不同的平台计算节点对m个计算任务进行调度，获取最大化的计算收益。

根据本发明的一些实施例，所述资源管理层5与云服务器连接，用于将所述人工智能云平台100没有能力计算的数据上传到所述云服务器进行计算，并接收所述云服务器返回的计算结果。

通过上述技术方案，人工智能云平台100对大规模数据进行筛选和处理，处理能力范围之内的计算任务，将人工智能云平台100没有能力计算的数据上传到云服务器，使云服务器的计算资源得到节省，有利于保持云服务器高效的数据处理能力，缓解云服务器的计算压力。

本领域内的技术人员应明白，本发明的实施例可提供为方法、系统、或计算机程序产品。因此，本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器1313和光学存储器1313等)上实施的计算机程序产品的形式。

本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器1313中，使得存储在该计算机可读存储器1313中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

显然，本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样，倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内，则本发明也意图包含这些改动和变型在内。

Claims (8)

1.一种人工智能云平台，其特征在于，包括：

硬件层，用于提供硬件资源、计算资源和存储资源；所述硬件层包括CPU、GPU和存储器；所述存储器分别与所述CPU和所述GPU电性连接；所述存储器用于存储所述CPU和所述GPU运行的数据；

系统层，存储在所述硬件层上，用于支持Linux操作系统；

开发层，设置在所述系统层上，用于为应用软件开发提供开发工具、软件接口；

应用层，与智能终端连接，用于将所述开发层开发的应用软件进行人工智能应用；

资源管理层，与所述应用层连接，用于在所述应用层进行人工智能应用时，对所述CPU、GPU和平台计算节点进行管理和调度。

2.如权利要求1所述的人工智能云平台，其特征在于，所述Linux操作系统包括Redhat系统和Ubuntu系统。

3.如权利要求1所述的人工智能云平台，其特征在于，所述开发层包括：

SDK，用于提供应用软件开发时的开发工具；

软件接口模块，与SDK连接，利用开发工具完成应用程序编程，将接收的不同数据转化为统一的数据结构，实现所述人工智能云平台与云服务器之间的数据共享。

4.如权利要求3所述的人工智能云平台，其特征在于，所述软件接口模块为API接口。

5.如权利要求1所述的人工智能云平台，其特征在于，所述资源管理层对所述CPU、GPU进行管理和调度，方法如下：

所述CPU用于进行复杂计算步骤和复杂数据的处理，在所述CPU计算能力不足或存在计算密集且并行的程序时，控制所述GPU进行计算处理；

所述GPU用于进行高性能并行运算。

6.如权利要求1所述的人工智能云平台，其特征在于，所述人工智能云平台包括若干平台计算节点；

所述资源管理层对所述平台计算节点进行管理和调度，方法如下：

各个平台计算节点连接实现通信；

统计各个平台计算节点的权限数值及计算费用；

根据所述权限数值确定各个平台计算节点的控制关系，权限数值高的平台计算节点对权限数值低的平台计算节点根据所述计算费用进行资源管理和调度以获取最大化的计算收益。

7.如权利要求6所述的人工智能云平台，其特征在于，根据所述权限数值确定各个平台计算节点的控制关系，权限数值高的平台计算节点对权限数值低的平台计算节点根据所述计算费用进行资源管理和调度以获取最大化的计算收益，采用如下算法：假设计算任务G_i分配给平台计算节点P_j执行计算，即分配矩阵元素x_i，j＝1，则平台计算节点P_j完成计算任务G_i的计算费用为：

其中，

为平台计算节点P_j执行一条单元指令的计算费用；

为计算任务G_i包含的单元指令数量；

平台计算节点P_j完成计算任务G_i获得的计算收益为：

其中，

为用户支付的计算费用，

为平台计算节点P_j完成计算任务G_i所支付的延迟赔偿费用；

人工智能云平台完成计算任务集合G＝{G₁,G₂，…G_m}中全部任务所获得的总计算收益：

人工智能云平台付出的总计算费用：

人工智能云平台基于各平台计算节点计算费用固定的情况下，通过调度的方式以获取最大化的计算收益；

调度的平台计算节点表示为：

基于n个不同的平台计算节点对m个计算任务进行调度，获取最大化的计算收益。

8.如权利要求1所述的人工智能云平台，其特征在于，所述资源管理层与云服务器连接，用于将所述人工智能云平台没有能力计算的数据上传到所述云服务器进行计算，并接收所述云服务器返回的计算结果。

Images