CN107704252A - 一种向用户提供人工智能平台的方法及系统 - Google Patents

Abstract

本发明公开了一种向用户提供人工智能平台的方法及系统，该方法包括：创建docker镜像，并将所述docker镜像注册至云平台；接收用户的人工智能平台部署请求信息；解析所述部署请求信息，得到所述人工智能平台部署信息；根据所述人工智能平台部署信息调用所述云平台中的所述docker镜像，生成与所述部署请求对应的人工智能平台。由于将带有TensorFlow的docker镜像部署在了云平台上，解决了传统的TensorFlow平台需要部署安装在物理服务器上的安装门槛的问题。根据用户的部署请求调用相关的docker镜像进行人工智能平台的部署，极大地降低了使用成本和运行成本。

Description

一种向用户提供人工智能平台的方法及系统

技术领域

本发明涉及云计算技术领域，特别是涉及一种向用户提供人工智能平台的方法及系统。

背景技术

最近几年，伴随着云计算技术的迅猛发展，越来越多的软件和技术也应运而生。其中，TensorFlow是一种人工智能平台，它基于数据流图，用于大规模分布式数值计算的开源框架，它使用数据流图技术来进行数值计算，可以将复杂的数据结构传输至人工智能神经网中进行分析和处理。由于TensorFlow被用于语音识别或者图像识别等多项机器深度学习领域中，并能处理一些复杂的科学研究和海量数据的应用分析，所以TensorFlow被越来越多的用户所熟知和使用。

用户如果想使用TensorFlow，需要自己购买物理服务器并安装TensorFlow，这样会使得费用昂贵而且技术门槛较高，容易造成资源的浪费，而且这种方式不容易实现按需使用和动态扩展，还需要增加额外的维护服务器集群。并且，如果增加额外的维护服务器集群，集群的部署、升级和维护都会极大的浪费时间和人力，增加了人工智能平台的使用难度，并降低了应用范围。

发明内容

针对于上述问题，本发明提供一种向用户提供人工智能平台的方法及系统，实现了降低用户使用人工智能平台的门槛和成本的目的。

为了实现上述目的，根据本发明的第一方面，提供了一种向用户提供人工智能平台的方法，该方法包括：

创建docker镜像，并将所述docker镜像注册至云平台，其中，所述docker镜像安装有TensorFlow；

接收用户的人工智能平台部署请求信息；

解析所述部署请求信息，得到所述人工智能平台部署信息；

根据所述人工智能平台部署信息调用所述云平台中的所述docker镜像，生成与所述部署请求对应的人工智能平台。

优选的，所述创建docker镜像，并将所述docker镜像注册至云平台，包括：

对TensorFlow软件包进行编译，并将编译后的TensorFlow软件包安装到基础的docker镜像中生成所述docker镜像；

调用所述云平台的接口信息，将所述docker镜像注册至所述云平台。

优选的，在接收用户的人工智能平台部署请求信息之前，该方法还包括：

对用户的人工智能平台部署请求进行验证，判断所述部署请求是否为非法请求，如果否，则接收所述用户的人工智能平台部署请求。

优选的，该方法还包括：

设置所述人工智能平台的应用接口，通过所述应用接口接收用户对所述人工智能平台的应用部署请求，将所述应用部署至所述人工智能平台。

优选的，该方法还包括：

设置所述人工智能平台的配置接口，通过所述配置接口，接收用户对所述人工智能平台的配置修改请求，对所述人工智能平台进行配置修改。

根据本发明的第二方面，提供了一种向用户提供人工智能平台的系统，该系统包括：

创建模块，用于创建docker镜像，并将所述docker镜像注册至云平台，其中，所述docker镜像安装有TensorFlow；

接收模块，用于接收用户的人工智能平台部署请求信息；

解析模块，用于解析所述部署请求信息，得到所述人工智能平台部署信息；

部署模块，用于根据所述人工智能平台部署信息调用所述云平台中的所述docker镜像，生成与所述部署请求对应的人工智能平台。

优选的，所述创建模块包括：

创建单元，用于对TensorFlow软件包进行编译，并将编译后的TensorFlow软件包安装到基础的docker镜像中生成所述docker镜像；

注册单元，用于调用所述云平台的接口信息，将所述docker镜像注册至所述云平台。

优选的，该系统还包括：

验证模块，用于对用户的人工智能平台部署请求进行验证，判断所述部署请求是否为非法请求，如果否，则接收所述用户的人工智能平台部署请求。

优选的，该系统还包括：

第一设置模块，用于设置所述人工智能平台的应用接口，通过所述应用接口接收用户对所述人工智能平台的应用部署请求，将所述应用部署至所述人工智能平台。

优选的，该系统还包括：

第二设置模块，用于设置所述人工智能平台的配置接口，通过所述配置接口，接收用户对所述人工智能平台的配置修改请求，对所述人工智能平台进行配置修改。

相较于现有技术，本发明利用docker容器技术通过将TensorFlow安装到docker镜像中，并将docker镜像注册至云平台。由于将带有TensorFlow的docker镜像部署在了云平台上，解决了传统的TensorFlow平台需要部署安装在物理服务器上的安装门槛的问题。根据用户的部署请求调用相关的docker镜像进行人工智能平台的部署，由于部署请求来自用户，满足了用户的需求，实现了按需部署，并且用户可以在该人工智能平台部署完成后进行相应的应用部署或者设置更改，避免了多版本的浪费，实现了动态扩展使用，极大地降低了使用成本和运行成本。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据提供的附图获得其他的附图。

图1为本发明实施例提供的一种向用户提供人工智能平台的方法的流程示意图；

图2为本发明实施例提供的一种向用户提供人工智能平台的系统的结构示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

本发明的说明书和权利要求书及上述附图中的术语“第一”和“第二”等是用于区别不同的对象，而不是用于描述特定的顺序。此外术语“包括”和“具有”以及他们任何变形，意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、系统、产品或设备没有设定于已列出的步骤或单元，而是可包括没有列出的步骤或单元。

在本发明中向用户提供的人工智能平台即AI PaaS，其中，AI为ArtificialIntelligence的缩写，即为人工智能；PaaS是Platform-as-a-Service的缩写，意思是平台即服务。把服务器平台作为一种服务提供的商业模式。通过网络进行程序提供的服务称之为SaaS(Software as a Service)，而云计算时代相应的服务器平台或者开发环境作为服务进行提供就成为了PaaS(Platform as a Service)。在本发明中将AI PaaS简写为AIP，定义为人工智能平台。

本发明实施例公开了一种向用户提供人工智能平台的方法，参见附图1，该方法包括以下步骤：

S11、创建docker镜像，并将所述docker镜像注册至云平台，其中，所述docker镜像安装有TensorFlow；

具体的，步骤S11包括：

对TensorFlow软件包进行编译，并将编译后的TensorFlow软件包安装到基础的docker镜像中生成所述docker镜像；

调用所述云平台的接口信息，将所述docker镜像注册至所述云平台。

在实际的云环境中，基于docker容器技术，部署安装容器集群管理系统Kubernetes到云环境中，提供容器管理API(Application Programming Interface，应用程序编程接口)供云平台调用，可以通过调用Kubernetes提供的接口直接部署docker镜像，而此时的docker镜像是在docker中安装TensorFlow做成的docker镜像。在本发明实施例之所以做成docker镜像是因为使用docker可以对AIP应用程序进行包装、实例化和运行这些操作；而Kubernetes是一种开源软件，即docker的集群管理软件，实现了以集群的方式运行、管理跨机器的容器，并且Kubernetes的自我修复机制使得AIP的容器集群总是运行在用户期望的状态，Kubernetes也可以结合虚拟交换机和网络虚拟技术解决docker跨容器之间的通讯问题，所以将带有Kubernetes的docker运用到本发明可以实现AIP的多功能。

创建一个完整的包含TensorFlow平台的docker镜像并注册制云平台的镜像系统中，需要下载一个基本的docker系统，里面只包含基本的软件包；然后下载相关配置信息，编译TensorFlow软件包，并安装相关软件包，制成新的docker镜像并导出，此时新的docker镜像为包含TensorFlow平台的docker镜像；将新的docker镜像通过云平台的接口注册至云平台的镜像系统中。

在创建了docker镜像后，需要执行步骤S12。

S12、接收用户的人工智能平台部署请求信息；

S13、解析所述部署请求信息，得到所述人工智能平台部署信息；

具体的，在实际应用场景中，可以通过构建一个web服务，用于处理用户的人工智能平台部署请求，该部署请求也就是转换为对应的API请求，即获得云平台对应的应用程序编程接口，通过该接口获得对应的docker镜像。通过创建的web服务处理部署请求，也就是处理AIP容器节点组模版、AIP容器节点组、AIP群组模版、AIP集群等AIP资源对象，即关于人工智能平台的部署信息。其中的，集群指的是一系列能够对AI应用进行分布式计算的节点组。并将上述的信息在处理后更新到数据库中进行保存。

上述描述的是，默认为用户为合法用户后的对请求的解析过程，也就是在本发明另一实施例中需要对用户的人工智能平台部署请求进行验证，判断所述部署请求是否为非法请求，如果否，则接收所述用户的人工智能平台部署请求。

也就是对部署请求中的请求进行认证处理，每次请求根据请求参数中的token去认证，防止非法请求。

在对部署请求信息进行解析后，需执行步骤S14；

S14、根据所述人工智能平台部署信息调用所述云平台中的所述docker镜像，生成与所述部署请求对应的人工智能平台。

需要说明的是，根据用户的部署请求获得对应的docker镜像，而该docker镜像中包含了TensorFlow即人工智能平台，通过docker镜像部署了用户需要的人工智能平台，由于该部署请求是用户直接发出的，也可以理解为用户通过注册有docker镜像的云平台自定义动态创建了人工智能平台。

在为用户提供了人工智能平台之后，由于在本发明另一实施例中还包括了：

设置所述人工智能平台的应用接口，通过所述应用接口接收用户对所述人工智能平台的应用部署请求，将所述应用部署至所述人工智能平台。

设置所述人工智能平台的配置接口，通过所述配置接口，接收用户对所述人工智能平台的配置修改请求，对所述人工智能平台进行配置修改。

进而用户可以在获取到的人工智能平台上进行AI应用部署，或者对该平台的其他操作。

具体举例为：基于docker技术，其中的容器应用注册管理模块提供接口供云平台调用，也就是用户可以在云平台上上传docker镜像或指定容器镜像对应的url，来注册一个制定的镜像到云平台上。用户在人工智能平台上进行AI应用部署时，该平台提供了用户查找相关AI应用的接口，而对用户的查找方式并不做限制，即支持分类、使用热度、关键字、模糊匹配等多种方式进行查找。用户选择好AI应用后，支持用户快速方便的部署AI应用，制定集群的规模、使用的虚拟网络、数据源以及数据的输出路径等，即用户通过该人工智能平台可以一键部署想使用的AI应用。

同时，也为用户提供了对人工智能平台进行配置修改的配置接口，具体可以在AIP上设置AIP-engine模块，即负责提供AIP资源对象的创建、编辑、删除等实际的配置管理服务。根据用户的配置，调用Kubernetes模块的接口进行集群的创建、伸缩规模或者停止的操作；调用对应的AIP版本的plugin接口，可以处理AIP资源对象，配置AIP集群的参数和服务配置；调用存储模块的接口和Kubernetes模块的接口将块存储关联到AIP集群上；调用网络模块的接口和Kubernetes模块的接口将网络配置关联到AIP集群上。

对应的，可以在AIP上设置AIP-plugin模块，即AIP插件模块。插件使用容器镜像名和容器规格、AIP版本以及额外的增强参数等创建相应的manager容器集群、master容器集群和worker容器集群，可以实现AIP集群的管理，即增加或删除节点；也可以实现AIP集群销毁，即在用户不需要时，可以删除集群，释放所有的资源。同时还可以配置存储卷和虚拟网络并映射到AIP集群中。

在本发明的另一实施例中结合整个云平台的部署和AIP的设置将对用户获得了人工智能平台后的在实际应用中的AIP的处理过程进行描述。

在云台的面板子系统中新增AIP面板模块，包括AIP集群模板和AIP集群两个子面板模块，用于和用户交互，配置管理AIP资源；

在云平台的云平台管理web界面，用户先创建自己的虚拟网络和虚拟路由器，用于承载AIP集群之间的通信流量，并绑定浮动ip到AIP集群的管理节点；

用户在云平台的AIP面板模块中创建AIP集群模板，指定AIP集群所要使用的容器镜像名、manager节点和master节点以及worker节点的数量、对应容器的规格、使用存储的位置、存储大小、用于集群内部通信使用的虚拟网络；

用户在云平台的AIP面板模块中创建AIP集群，并选择指定AIP集群模板，选择AIP集群使用的浮动ip网络；

用户一键创建好AIP后，根据云计算管理平台上发布出来的集群ip地址和密码，可以登陆使用AIP集群；

用户可以从云平台的容器应用商店中购买AI应用部署在AIP集群中进行科学研究、数据分析、深度学习等；

AIP-api负责处理RestfulAPI请求，和认证模块交互完成请求的认证；处理集群模板、集群等资源的创建、编辑、删除等请求，将相关数据同步到数据库中；

AIP-engine负责和云管理平台其他模块交互，比如容器管理模块、存储模块、网络模块，根据用户的配置，创建、伸缩规模、停止集群，调用相关模块的api接口创建相关资源并和AIP资源绑定；

AIP-plugin以插件形式存在，可以存在多个版本的AIP插件，插件使用容器镜像名和容器规格创建相应的manager容器集群、master容器集群、worker容器集群，配置存储卷和虚拟网络并映射到上面的容器集群中；

监控和日志管理模块，负责收集AIP集群的监控和日志信息，通过云平台提供给用户使用分析。

通过本发明实施例公开的技术方案，利用docker容器技术通过将TensorFlow安装到docker镜像中，并将docker镜像注册至云平台。由于将带有TensorFlow的docker镜像部署在了云平台上，解决了传统的TensorFlow平台需要部署安装在物理服务器上的安装门槛的问题。根据用户的部署请求调用相关的docker镜像进行人工智能平台的部署，由于部署请求来自用户，即本质是用户在云平台操作即可完成人工智能平台的部署操作，方便快捷，进一步降低了用户使用TensorFlow的门槛；并且是根据用户的需求按需进行部署，极大地降低使用成本和运维成本；并且在用户获得了人工智能平台后，可以根据用户配置的规则，对该平台进行修改或配置，实现了自动伸缩，更好地满足用户的需求，极大的方便用户按需扩展和缩小集群资源，能更好地降低成本，方便群组维护。并且还可以进行AI应用的部署，增加了AI服务的运营模式，扩大用户服务范围，拥有了较好的市场价值。

本发明实施例公开了一种向用户提供人工智能平台的系统，参见附图2，该系统包括：

创建模块1，用于创建docker镜像，并将所述docker镜像注册至云平台；

接收模块2，用于接收用户的人工智能平台部署请求信息；

解析模块3，用于解析所述部署请求信息，得到所述人工智能平台部署信息；

部署模块4，用于根据所述人工智能平台部署信息调用所述云平台中的所述docker镜像，生成与所述部署请求对应的人工智能平台。

具体的，所述创建模块1包括：

创建单元11，用于对TensorFlow软件包进行编译，并将编译后的TensorFlow软件包基础的docker镜像中生成所述docker镜像；

注册单元12，用于调用所述云平台的接口信息，将所述docker镜像注册至所述云平台。

对应的，该系统还包括：

验证模块5，用于对用户的人工智能平台部署请求进行验证，判断所述部署请求是否为非法请求，如果否，则接收所述用户的人工智能平台部署请求。

相应的，该系统还包括：

第一设置模块6，用于设置所述人工智能平台的应用接口，通过所述应用接口接收用户对所述人工智能平台的应用部署请求，将所述应用部署至所述人工智能平台。

第二设置模块7，用于设置所述人工智能平台的配置接口，通过所述配置接口，接收用户对所述人工智能平台的配置修改请求，对所述人工智能平台进行配置修改。

在本发明公开的一种向用户提供人工智能平台的系统中，在创建模块中利用docker容器技术通过将TensorFlow安装到docker镜像中，并将docker镜像注册至云平台。由于将带有TensorFlow的docker镜像部署在了云平台上，解决了传统的TensorFlow平台需要部署安装在物理服务器上的安装门槛的问题。然后通过解析模块对用户的部署请求进行了解析，并在部署模块中根据用户的部署请求调用相关的docker镜像进行人工智能平台的部署，由于部署请求来自用户，满足了用户的需求，实现了按需部署，并且用户可以在该人工智能平台部署完成后进行相应的应用部署或者设置更改，避免了多版本的浪费，实现了动态扩展使用，极大地降低了使用成本和运行成本。

本说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似部分互相参见即可。对于实施例公开的装置而言，由于其与实施例公开的方法相对应，所以描述的比较简单，相关之处参见方法部分说明即可。

对所公开的实施例的上述说明，使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的，本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下，在其它实施例中实现。因此，本发明将不会被限制于本文所示的这些实施例，而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。

Claims (10)

1.一种向用户提供人工智能平台的方法，其特征在于，该方法包括：

创建docker镜像，并将所述docker镜像注册至云平台，其中，所述docker镜像安装有TensorFlow；

接收用户的人工智能平台部署请求信息；

解析所述部署请求信息，得到所述人工智能平台部署信息；

根据所述人工智能平台部署信息调用所述云平台中的所述docker镜像，生成与所述部署请求对应的人工智能平台。

2.根据权利要求1所述的方法，其特征在于，所述创建docker镜像，并将所述docker镜像注册至云平台，包括：

对TensorFlow软件包进行编译，并将编译后的TensorFlow软件包安装到基础的docker镜像中生成所述docker镜像；

调用所述云平台的接口信息，将所述docker镜像注册至所述云平台。

3.根据权利要求1所述的方法，其特征在于，在接收用户的人工智能平台部署请求信息之前，该方法还包括：

对用户的人工智能平台部署请求进行验证，判断所述部署请求是否为非法请求，如果否，则接收所述用户的人工智能平台部署请求。

4.根据权利要求1所述的方法，其特征在于，该方法还包括：

设置所述人工智能平台的应用接口，通过所述应用接口接收用户对所述人工智能平台的应用部署请求，将所述应用部署至所述人工智能平台。

5.根据权利要求1所述的方法，其特征在于，该方法还包括：

设置所述人工智能平台的配置接口，通过所述配置接口，接收用户对所述人工智能平台的配置修改请求，对所述人工智能平台进行配置修改。

6.一种向用户提供人工智能平台的系统，其特征在于，该系统包括：

创建模块，用于创建docker镜像，并将所述docker镜像注册至云平台，其中，所述docker镜像安装有TensorFlow；

接收模块，用于接收用户的人工智能平台部署请求信息；

解析模块，用于解析所述部署请求信息，得到所述人工智能平台部署信息；

部署模块，用于根据所述人工智能平台部署信息调用所述云平台中的所述docker镜像，生成与所述部署请求对应的人工智能平台。

7.根据权利要求6所述的系统，其特征在于，所述创建模块包括：

创建单元，用于对TensorFlow软件包进行编译，并将编译后的TensorFlow软件包安装到基础的docker镜像中生成所述docker镜像；

注册单元，用于调用所述云平台的接口信息，将所述docker镜像注册至所述云平台。

8.根据权利要求6所述的系统，其特征在于，该系统还包括：

验证模块，用于对用户的人工智能平台部署请求进行验证，判断所述部署请求是否为非法请求，如果否，则接收所述用户的人工智能平台部署请求。

9.根据权利要求6所述的系统，其特征在于，该系统还包括：

第一设置模块，用于设置所述人工智能平台的应用接口，通过所述应用接口接收用户对所述人工智能平台的应用部署请求，将所述应用部署至所述人工智能平台。

10.根据权利要求6所述的系统，其特征在于，该系统还包括：

第二设置模块，用于设置所述人工智能平台的配置接口，通过所述配置接口，接收用户对所述人工智能平台的配置修改请求，对所述人工智能平台进行配置修改。