CN114077437A - 一种人工智能应用的集成管理方法、装置及系统 - Google Patents
一种人工智能应用的集成管理方法、装置及系统 Download PDFInfo
- Publication number
- CN114077437A CN114077437A CN202010844690.4A CN202010844690A CN114077437A CN 114077437 A CN114077437 A CN 114077437A CN 202010844690 A CN202010844690 A CN 202010844690A CN 114077437 A CN114077437 A CN 114077437A
- Authority
- CN
- China
- Prior art keywords
- application
- artificial intelligence
- intelligence application
- configuration information
- user
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F8/00—Arrangements for software engineering
- G06F8/60—Software deployment
- G06F8/61—Installation
- G06F8/63—Image based installation; Cloning; Build to order
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F8/00—Arrangements for software engineering
- G06F8/60—Software deployment
- G06F8/61—Installation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F8/00—Arrangements for software engineering
- G06F8/70—Software maintenance or management
- G06F8/71—Version control; Configuration management
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
- G06N20/20—Ensemble learning
Abstract
本公开提供了一种人工智能应用的集成管理方法、装置及系统,所述方法包括:获取第一人工智能应用的预定标准格式的安装文件,基于所述预定标准格式的安装文件,安装所述第一人工智能应用;获取第二人工智能应用的构建配置信息,基于所述构建配置信息,构建所述第二人工智能应用;对所述安装的第一人工智能应用和所述构建的第二人工智能应用进行管理。
Description
技术领域
本公开涉及人工智能技术领域,更具体地,涉及一种用于人工智能应用的集成管理方法、一种人工智能应用的集成管理装置、一种包括至少一个计算装置和至少一个存储装置的人工智能应用集成管理系统、及一种计算机可读存储介质。
背景技术
随着人工智能(AI,Artificial Intelligence)技术的发展和普及,越来越多的行业场景需要应用人工智能应用。目前,由于企业等用户的业务问题多样,而市场上大多数的解决方案只能解决特定领域的问题,绝大部分AI应用均为针对特定业务问题而高度定制化的。受制于用户自身业务问题的难度、人效等问题,通常用户在面对单一厂商提供的定制化AI应用无法解决所有问题的情况时,会选择采购多种厂商的AI工具和软件来满足业务需求。当用户对于软件诉求蓬勃之后,各类AI应用的数据不互通,标准不一,运维复杂,各类AI应用的开发和管理将为用户带来巨大的管理成本,非常不利于企业等用户的AI智能化转型。
发明内容
本公开的一个目的是提供一种集成管理AI应用的新技术方案。
根据本公开的第一方面,提供了一种AI应用的集成管理方法,包括:
获取第一AI应用的预定标准格式的安装文件,基于所述预定标准格式的安装文件,安装所述第一AI应用;
获取第二AI应用的构建配置信息,基于所述构建配置信息,构建所述第二AI应用;
对所述安装的第一AI应用和所述构建的第二AI应用进行管理。
可选的,所述获取所述第一AI应用的预定标准格式的安装文件包括:
获取所述目标AI应用的原始安装文件,将所述原始安装文件的格式转换为所述预定标准格式。
可选的,所述预定标准格式包括Docker标准格式。
可选的,所述构建配置信息包括存储配置信息和计算配置信息;
所述基于所述构建配置信息,构建所述第二AI应用包括:
基于所述存储配置信息和所述计算配置信息,构建所述第二AI应用。
可选的,所述方法还包括:
提供应用商店,所述应用商店中提供有至少一个第一AI应用;
所述获取所述第一AI应用的预定标准格式的安装文件包括:
从所述应用商店中下载所述第一AI应用的预定标准格式的安装文件;或者,
从所述应用商店中下载所述第一AI应用的原始安装文件,将所述原始安装文件的格式转换为所述预定标准格式。
可选的,所述对所述安装的第一AI应用和所述构建的第二AI应用进行管理包括以下至少一项:
获取所述第一AI应用和所述第二AI应用在运行过程中产出的数据,对所述产出的数据进行存储;
采集所述第一AI应用和所述第二AI应用的运行数据,得到所述第一AI应用和所述第二AI应用的运行日志;
监视所述第一AI应用和所述第二AI应用当前运行的进程、算子、工作流和运行阶段中的至少一个,以获取所述进程、所述算子、所述工作流和所述运行阶段中的至少一个所占用的资源;
监测用户针对所述第一AI应用和所述第二AI应用的操作行为,获取所述第一AI应用和所述第二AI应用的审计记录;
对所述第一AI应用和所述第二AI应用在运行过程中的指定指标进行监控,在所述指定指标异常的情况下,发出告警通知;
响应于运行所述第一AI应用和所述第二AI应用的操作,验证用户对所述第一AI应用和所述第二AI应用的操作许可,在所述用户具有对所述第一AI应用和所述第二AI应用的操作许可的情况下,运行所述第一AI应用和所述第二AI应用;
接受用户上传的数据并进行存储,将所述上传的数据提供至所述第一AI应用和所述第二AI应用进行消费。
可选的,对所述产出的数据进行存储后,所述方法还包括:响应于查看所述产出的数据的操作,展示所述产出的数据;
或者,
在获取所述第一AI应用和所述第二AI应用的审计记录后,所述方法还包括:响应于查看所述审计记录的操作,展示所述审计记录;
或者,
在得到所述第一AI应用和所述第二AI应用的运行日志后,所述方法还包括:响应于查看所述运行日志的操作,展示所述运行日志;
或者,
在获取所述进程、所述算子、所述工作流和所述运行阶段中的至少一个所占用的资源后,所述方法还包括:
响应于查看所述占用的资源的操作,展示所述占用的资源。
可选的,所述将所述上传的数据提供至所述第一AI应用和所述第二AI应用进行消费,包括:
从所述上传的数据中获取与所述第一AI应用和所述第二AI应用相关的AI数据,将所述AI数据提供至所述第一AI应用和所述第二AI应用进行消费;
或者,
从所述上传的数据中获取与所述第一AI应用和所述第二AI应用相关的AI数据,从所述AI数据中筛选出与所述第一AI应用和第二AI应用所对应的应用场景所匹配的数据,并提供至所述第一AI应用和第二AI进行消费。
可选的,所述方法还包括:
确定用户对集成的AI应用的操作权限,根据所述操作权限,提供相应的AI应用。
可选的,所述方法还包括:
提供管理桌面,所述桌面上提供有集成的部分或全部AI应用的快捷方式和/或管理工具快捷方式和/或文件快捷方式;
响应于对所述桌面的编辑操作,对所述桌面中所提供的所述快捷方式进行编辑。
可选的,所述存储配置信息和所述计算配置信息中的一部分信息是通过用户配置特性能力而获得的,其中,所述特性能力是指已封装好可用资源以供直接调用相关能力的实体;
其中,所述基于所述存储配置信息和所述计算配置信息构建所述第二AI应用,包括:基于所述存储配置信息和所述计算配置信息中的所述一部分信息来调用对应的特性能力,以构建所述第二AI应用。
可选的,所述存储配置信息包括输入源信息、应用元信息、日志和监控指标归集信息和存储声明信息中的至少一个;
所述计算配置信息包括服务启动方式信息、动态资源信息和计算能力信息中的至少一个。
根据本公开的第二方面,提供了一种AI应用的集成管理装置,包括:
第一安装模块,用于获取第一AI应用的预定标准格式的安装文件,基于所述预定标准格式的安装文件,安装所述第一AI应用;
第二构建模块,用于获取第二AI应用的构建配置信息,基于所述构建配置信息,构建所述第二AI应用;
应用管理模块,用于对所述安装的第一AI应用和所述构建的第二AI应用进行管理。
可选的,所述第一安装模块用于:
获取所述目标AI应用的原始安装文件,将所述原始安装文件的格式转换为所述预定标准格式。
可选的,所述预定标准格式包括Docker标准格式。
可选的,所述构建配置信息包括存储配置信息和计算配置信息;
所述第二构建模块用于:
基于所述存储配置信息和所述计算配置信息,构建所述第二AI应用。
可选的,所述集成管理装置还包括:
应用商店提供模块,所述应用商店中提供有至少一个第一AI应用;
所述第一安装模块用于:
从所述应用商店中下载所述第一AI应用的预定标准格式的安装文件;或者
从所述应用商店中下载所述第一AI应用的原始安装文件,将所述原始安装文件的格式转换为所述预定标准格式。
可选的,所述应用管理模块用于执行以下至少一项:
获取所述第一AI应用和所述第二AI应用在运行过程中产出的数据,对所述产出的数据进行存储;
采集所述第一AI应用和所述第二AI应用的运行数据,得到所述第一AI应用和所述第二AI应用的运行日志;
监视所述第一AI应用和所述第二AI应用当前运行的进程、算子、工作流和运行阶段中的至少一个,以获取所述进程、所述算子、所述工作流和所述运行阶段中的至少一个所占用的资源;
监测用户针对所述第一AI应用和所述第二AI应用的操作行为,获取所述第一AI应用和所述第二AI应用的审计记录;
对所述第一AI应用和所述第二AI应用在运行过程中的指定指标进行监控,在所述指定指标异常的情况下,发出告警通知;
响应于运行所述第一AI应用和所述第二AI应用的操作,验证用户对所述第一AI应用和所述第二AI应用的操作许可,在所述用户具有对所述第一AI应用和所述第二AI应用的操作许可的情况下,运行所述第一AI应用和所述第二AI应用;
接受用户上传的数据并进行存储,将所述上传的数据提供至所述第一AI应用和所述第二AI应用进行消费。
可选的,还包括展示模块,用于:
对所述产出的数据进行存储后,响应于查看所述产出的数据的操作,展示所述产出的数据;
或者,
在获取所述第一AI应用和所述第二AI应用的审计记录后,响应于查看所述审计记录的操作,展示所述审计记录;
或者,
在得到所述第一AI应用和所述第二AI应用的运行日志后,响应于查看所述运行日志的操作,展示所述运行日志;
或者,
在获取所述进程、所述算子、所述工作流和所述运行阶段中的至少一个所占用的资源后,响应于查看所述占用的资源的操作,展示所述占用的资源。
可选的,所述应用管理模块用于:
从所述上传的数据中获取与所述第一AI应用和所述第二AI应用相关的AI数据,将所述AI数据提供至所述第一AI应用和所述第二AI应用进行消费;
或者,
从所述上传的数据中获取与所述第一AI应用和所述第二AI应用相关的AI数据,从所述AI数据中筛选出与所述第一AI应用和第二AI应用所对应的应用场景所匹配的数据,并提供至所述第一AI应用和第二AI进行消费。
可选的,所述集成管理装置还包括:
权限管理模块,用于确定用户对集成的AI应用的操作权限,根据所述操作权限,提供相应的AI应用。
可选的,所述集成管理装置还包括:
桌面管理模块,用于提供管理桌面,所述桌面上提供有集成的部分或全部AI应用的快捷方式和/或管理工具快捷方式和/或文件快捷方式;
响应于对所述管理桌面的编辑操作,对所述桌面中所提供的所述快捷方式进行编辑。
可选的,所述存储配置信息和所述计算配置信息中的一部分信息是通过用户配置特性能力而获得的,其中,所述特性能力是指已封装好可用资源以供直接调用相关能力的实体;
所述第二构建模块用于:基于所述存储配置信息和所述计算配置信息中的所述一部分信息来调用对应的特性能力,以构建所述第二AI应用。
可选的,所述存储配置信息包括输入源信息、应用元信息、日志和监控指标归集信息和存储声明信息中的至少一个;
所述计算配置信息包括服务启动方式信息、动态资源信息和计算能力信息中的至少一个。
根据本公开的第三方面,提供了一种包括至少一个计算装置和至少一个存储装置的人工智能应用集成管理系统,其中,所述至少一个存储装置用于存储指令,所述指令用于控制所述至少一个计算装置执行根据本公开第一方面所述的方法。
根据本公开的第四方面,提供了一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序在被处理器执行时实现如本公开第一方面所述的方法。
通过本公开的实施例,基于AI应用的集成管理方法,可以对AI操作系统中的安装第一AI应用和构建的第二AI应用进行统一管理,这样,可以降低AI应用的开发和管理成本。
通过以下参照附图对本公开的示例性实施例的详细描述,本公开的其它特征及其优点将会变得清楚。
附图说明
被结合在说明书中并构成说明书的一部分的附图示出了本公开的实施例,并且连同其说明一起用于解释本公开的原理。
图1是可用于实现本公开的实施例的电子设备的硬件配置的一个例子的框图;
图2是根据本公开实施例的AI应用的集成管理方法的流程示意图;
图3是根据本说明实施例第二AI应用的标准开发流程的示意图;
图4是根据本公开实施例的AI应用的集成管理装置的方框原理图;
图5是根据本公开实施例的系统的方框原理图。
具体实施方式
现在将参照附图来详细描述本公开的各种示例性实施例。应注意到:除非另外具体说明,否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本公开的范围。
以下对至少一个示例性实施例的描述实际上仅仅是说明性的,决不作为对本公开及其应用或使用的任何限制。
对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论,但在适当情况下,所述技术、方法和设备应当被视为说明书的一部分。
在这里示出和讨论的所有例子中,任何具体值应被解释为仅仅是示例性的,而不是作为限制。因此,示例性实施例的其它例子可以具有不同的值。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步讨论。
下面,参照附图描述根据本公开实施例的各个实施例和例子。
<硬件配置>
图1是示出可以实现本公开的实施例的电子设备1000的硬件配置的框图。
电子设备1000可以是便携式电脑、台式计算机、手机、平板电脑等。如图1所示,电子设备1000可以包括处理器1100、存储器1200、接口装置1300、通信装置1400、显示装置1500、输入装置1600、扬声器1700、麦克风1800等等。其中,处理器1100可以是中央处理器CPU、微处理器MCU等。存储器1200例如包括ROM(只读存储器)、RAM(随机存取存储器)、诸如硬盘的非易失性存储器等。接口装置1300例如包括USB接口、耳机接口等。通信装置1400例如能够进行有线或无线通信,具体地可以包括Wifi通信、蓝牙通信、2G/3G/4G/5G通信等。显示装置1500例如是液晶显示屏、触摸显示屏等。输入装置1600例如可以包括触摸屏、键盘、体感输入等。用户可以通过扬声器1700和麦克风1800输入/输出语音信息。
图1所示的电子设备仅仅是说明性的并且决不意味着对本公开、其应用或使用的任何限制。应用于本公开的实施例中,电子设备1000的所述存储器1200用于存储指令,所述指令用于控制所述处理器1100进行操作以执行本公开实施例提供的任意一项AI应用的集成管理方法。本领域技术人员应当理解,尽管在图1中对电子设备1000示出了多个装置,但是,本公开可以仅涉及其中的部分装置,例如,电子设备1000只涉及处理器1100和存储装置1200。技术人员可以根据本公开所公开方案设计指令。指令如何控制处理器进行操作,这是本领域公知,故在此不再详细描述。
<方法实施例>
在本实施例中,提供一种AI应用的集成管理方法。该AI应用的管理方法可以是由电子设备实施。该电子设备可以是如图1所示的电子设备1000。本实施例的电子设备1000可以预先部署有AI应用的集成管理系统的设备。
为了解决当前各类AI应用的数据不互通,标准不一,运维复杂,各类AI应用的开发和管理带来巨大的管理成本的问题,本公开创造性的提出了对各类AI应用按照一定的标准集成起来进行统一管理的设计构思,提出了一种AI应用的集成管理系统,该系统亦可称为AI操作系统,简称AIOS,其可以让各种APP通过一定的标准集成起来,并可对集成的APP进行统一管理,具体的,AIOS上可以安装AI应用,亦可通过AIOS构建AI应用,AIOS上还提供有各种系统以及应用管理工具,管理和控制AI应用运行所需要的硬件资源与软件资源。
在一个例子中,本实施例的电子设备可以是计算机集群,那么,该AIOS可以是部署在该计算机集群。
在本公开的一个实施例中,AIOS可以为AI应用提供运行环境,该运行环境具体包括AI应用的管理和开发所必要的服务和接口。
本实施例中的AIOS还可以用于管理和控制AI应用运行所需要的硬件资源与软件资源,使得AI应用所需的所有资源最大限度地发挥作用。
进一步地,AIOS还可以提供符合操作系统认知的用户操作界面,便于用户在AIOS中对AI应用进行管理。
根据图2所示,本实施例的AI应用的集成管理方法可以包括如下步骤S2100~S2300:
步骤S2100,获取对应AI应用的预定标准格式的安装文件,基于该预定标准格式的安装文件,安装第一AI应用。
在本公开的一个实施例中,可以是基于预定标准格式的安装文件将第一AI应用安装在AIOS中。那么,本实施例的第一AI应用可以是根据安装文件所安装在AIOS中的AI应用。
为了实现在AIOS上集成一种或多种第一AI应用,需预先规定了第一AI应用的安装文件的标准格式,为安装在AIOS中,不同的第一AI应用的安装文件需要满足一致的安装文件标准格式。
在本实施例中,预定标准格式具体可以是预先根据AIOS所设定的文件格式,以基于预定标准格式的安装文件安装对应的第一AI应用。例如,预定标准格式可以是Docker标准格式。
在本公开的一个实施例中,获取第一AI应用的预定标准格式的安装文件包括如下所示的步骤S2110~S2120:
步骤S2110,获取第一AI应用的原始安装文件。
在本实施例中原始安装文件可以是由第三方服务所提供的应用安装文件,例如,由第一AI应用的开发厂商提供的安装文件。该原始安装文件可以从本实施例的AIOS所提供的应用商店中下载的,也可以是从指定下载地址所下载的,还可以是从预先存储有原始安装文件的其他电子设备中所获取的,还可以是从执行本实施例的电子设备的本地磁盘中所获取的。本公开不对原始安装文件的来源进行限定。
步骤S2120,将原始安装文件的格式转换为预定标准格式,得到预定标准格式的安装文件。
在本实施例中,通过将将原始安装文件的格式转换为预定标准格式,得到预定标准格式的安装文件之后,就可以基于该预定标准格式的安装文件安装对应的第一AI应用。
在本公开的一个实施例中,该方法还可以包括:提供应用商店,该应用商店中提供有至少一个第一AI应用。
在一个例子中,应用商店中可以提供第一AI应用的预定标准格式的安装文件。那么,获取第一AI应用的原始安装文件可以包括:从应用商店中下载第一AI应用的预定标准格式的安装文件。
在另一个例子中,应用商店中可以提供第一AI应用的原始安装文件。那么,获取第一AI应用的原始安装文件可以包括:从应用商店中下载第一AI应用的原始安装文件,并将原始安装文件的格式转换为预定标准格式,得到预定标准格式的安装文件。
在本实施例中,通过在AIOS中安装第一AI应用,安装后的第一AI应用可以在AIOS中运行。而且,AIOS也可以对安装的第一AI应用进行管理。
步骤S2200,获取第二AI应用的构建配置信息,基于该构建配置信息,构建第二AI应用。
AIOS不仅可安装上述第一AI应用,例如由第三方厂商开发或者定制化开发的应用,还可以提供构建第二AI应用的能力,用户可以根据业务需求,利用AIOS提供的服务和工具等,构建匹配业务需求的第二AI应用。
在本公开的一个实施例中,配置信息可以包括存储配置信息和计算配置信息。那么,基于该构建配置信息,构建第二AI应用可以包括:基于存储配置信息和计算配置信息,构建第二AI应用。
AIOS可提供构建AIOS的标准流程,在一个例子中,可以使基于预定配置流程接收用户输入或自动获取的与待构建的应用相关的存储配置信息和计算配置信息,AIOS基于配置信息进行AI应用的构建和后续的管理。其中,预定配置流程可以是由AIOS所提供的标准应用构建流程,用户(例如,应用开发者)仅需要按照这套标准应用构建流程配置(输入)构建第二AI应用所需配置的信息即可。例如,可向用户提供标准应用构建流程界面和指引,用户仅需按照界面和指引输入构建第二AI应用所需配置的信息即可。根据本公开的示例性实施例,构建第二AI应用所需配置的信息可按照信息用途分类为存储配置信息和计算配置信息。
根据本公开的示例性实施例,存储配置信息可包括,但不限于,输入源信息、应用元信息、日志和监控指标归集信息和存储声明信息中的至少一个。下面,具体介绍根据本公开的示例性实施例的存储配置信息。
根据本公开的示例性实施例,输入源信息可包括一个或多个标准Docker镜像的标识。这里,可选取Docker作为通用输入约定,Docker具备最广泛的开发者基础,是当前最常用的容器化技术,符合先进企业架构的演进设计。此外,Docker还拥有以下优点:比虚拟机更快的启动速度、一致的运行环境、更轻松的迁移、比虚拟机更接近原生应用的性能、更容易的复用、Docker生态有一大批高质量的官方镜像,大大降低了镜像制作成本。在通用性层面,Docker可以适配国内外主流云厂商,包括AWS、GoogleCloud、Microsoft Azure、阿里云、腾讯云、华为云等,意味着任何云用户都可以贡献Docker应用。Docker适配企业常用的资源管理调度系统,例如Kubernetes(K8s)、Mesos等,意味着几乎任何企业客户都可以贡献Docker应用。Docker适配业界常用的操纵系统,Linux、Mac、Windows均可运行,意味着任何操作系统的开发者都可以贡献Docker应用。
根据本公开的示例性实施例,应用元信息是对第二AI应用进行统一运行和管理所需要的信息。应用元信息可包括,但不限于,以下项中的至少一项:唯一应用标识、鉴权信息、唯一应用名称、唯一显示名称、应用图标、说明文档、创建时间、更新时间、创建人信息、版本号、应用来源类型、启动资源消耗信息、数据源、应用存储地址、镜像地址、启动方式。具体地说,唯一应用标识可由AIOS产生,用户(在本文中,用户可以为应用开发者)可无感知。鉴权信息可由用户传入系统密钥,并由AIOS校验正确性。唯一应用名称可由开发者传入,并由AIOS校验唯一性。唯一显示名称可由开发者传入,并由AIOS校验唯一性。应用图标可由开发者传入,并由AIOS校验唯一性。说明文档可由开发者传入,并由AIOS校验完善程度和国际化规范,二级需包含简介、帮助文档等。创建时间可由AIOS产生,用户可无感知。更新时间可由AIOS产生,用户可无感知。创建人信息可由用户传入,并可由AIOS校验正确性。版本号可由用户传入。应用来源类型可由系统产生,用户可无感知,用于指示该应用是官方预置应用还是第三方应用。启动资源消耗信息可由用户传入,用于指示实例数、是否自动扩缩容、CPU、GPU、MEM、FPGA等。数据源可以是官方预置的数据形式,或者底层存储系统提供的标准数据源,也可以是另一个Docker镜像来对接第三方数据源。应用存储地址是指第二AI应用运行中的数据存储空间。镜像地址可由开发者传入,用于指示该第二AI应用的启动路径。启动方式可由开发者传入,用于指示同一第二AI应用是否可以在运行中被不同应用使用者重复打开。当然,应用元信息可不限于上述信息,还可包括AIOS对第二AI应用进行管理所需的信息。
根据本公开的示例性实施例,日志和监控指标归集信息可由用户输入以指示如何获取日志和监控指标。例如,如果用户使用标准错误流获取日志,则可无需感知。如果用户通过AIOS获取监控指标,则也可无感知。如果用户需自定义监控指标,可使用AIOS提供的软件开发包(SDK)进行定制化开发。
根据本公开的示例性实施例,存储声明信息可由用户输入以声明使用的存储体系,并可配置相应的生存时间值(TTL)策略等。例如,存储体系统可包括,但不限于,文件存储、数据库存储等。
根据本公开的示例性实施例,计算配置信息可包括,但不限于,服务启动方式信息、动态资源信息和计算能力信息中的至少一个。下面,具体介绍根据本公开的示例性实施例的计算配置信息。
根据本公开的示例性实施例,服务启动方式信息可由用户输入以声明应用启动方式。用户可无需感知第二AI应用启动过程,只需要配置服务启动方式信息,系统可自动向底层资源管理和高度平台发起应用启动。
根据本公开的示例性实施例,动态资源信息可由用户输入以声明申请的应用动态资源。例如,动态资源可包括两个部分,第一部分可以是用户开发的动态服务或任务可以控制的自身资源,并可暴露给应用使用者自行修改,第二部分可以是用户开发的动态服务或任务在运行中能够额外申请的资源,用于启动新的服务或任务。
根据本公开的示例性实施例,计算能力信息可由用户配置以设计应用计算能力。例如,用户可利用AIOS所提供的SDK进行广泛的算法(例如,AI算法)调用,即,能够利用SDK调用一种或多种算法。这里,AI算法可包括,但不限于,二分类、多分类、回归、聚类、时间序列分析、图像分类、图像检测、字符光学识别(OCR)、语音识别、自然语言处理(NLP)、迁移学习、强化学习、联邦学习、自动机器学习、参数调优等。再例如,如果用户所需的计算能力不在AIOS所提供的计算能力之内,还可通过AIOS进行自定义开发,并享有与内置计算能力混用的能力。
根据本公开的示例性实施例,上述存储配置信息和计算配置信息可根据AIOS所提供的标准开发流程来进行配置,例如,根据本公开的示例性实施例的标准开发流程可如图3所示,图3是根据本公开的示例性实施例的标准开发流程的示意图。即,用户可按照如下顺序配置信息:在步骤S201,接收输入源信息;在步骤S202,接收应用元信息;在步骤S203,接收服务启动方式信息;在步骤S204,接收动态资源信息;在步骤S205,接收日志和监控指示归集信息;在步骤S206,接收存储声明信息;在步骤S207,接收计算能力信息。当然,标准开发流程不限于上述顺序,还可包括其他任何可行的顺序,例如,步骤S201和S202为第一步和第二步,步骤S203至S207可以以任何顺序执行;又例如,可以以用户自定义的流程来执行上述步骤S201至S207,也就是说,上述步骤S201至S207可根据用户需求以任何可能的顺序执行。
根据本公开的示例性实施例,上述存储配置信息和计算配置信息中的一部分信息可通过用户配置AIOS所提供的特性能力(trait)来获得。这里,特性能力可以是指AIOS中已封装好可用资源以供直接调用相关能力的实体。例如,AIOS可包括特性能力库,特性能力库里包括至少一个特性能力。用户可按需要配置AIOS所提供的特性能力库中的特性能力来获得相应的信息,AIOS可基于相应的信息来调用对应的特性能力,以用于构建第二AI应用。
例如,当输入源信息包括多个标准Docker镜像的标识时,输入源可为多个标准Docker镜像的编排。可通过用户配置AIOS所提供的镜像编排特性能力来获得多个标准Docker镜像的编排。这里,镜像的编排可包括当多个镜像包括在线镜像和离线镜像时的在线离线混合编排、当多个镜像全为在线镜像时的在线编排、当多个镜像全为离线镜像时的离线编排。
例如,可通过用户配置AIOS所提供的服务启动方式特性能力来获得服务启动方式信息。
例如,可通过用户配置AIOS所提供的存储特性能力来获得存储声明信息。当然,除了可使用存储特性能力来获得存储声明信息之外,还可将存储方案替换为开源、企业级的存储方案,例如,Amazon的S3存储、对接微软云的存储等。
例如,可通过用户配置AIOS所提供的存储特性能力调参特性能力来获得参数调优信息。
根据本公开的示例性实施例,当存储配置信息和计算配置信息中的一部分信息是通过用户配置特性能力而获得的时,可基于所述一部分信息来调用对应的特性能力以用于构建第二AI应用。
步骤S2300,对安装的第一AI应用和构建的第二AI应用进行管理。
在本公开的一个实施例中,AIOS中可以提供用于管理AI应用的管理工具。其中,管理工具例如可以包括资源管理模块、许可验证模块、权限管理模块、审计模块、通知模块和日志模块、文件管理模块、数据中台、应用管理模块、进程管理模块等。
资源管理模块可以用于监控AI应用在运行过程中所消耗的计算资源和/或存储资源,还可以用于监控AI应用在运行过程中所需要的服务器及相关硬件资源。用户可以通过该资源管理模块在AIOS中对AI应用在运行过程中所消耗的资源进行配置管理。通过资源管理模块进行资源监控和管理,可以确保AIOS和AI应用稳定运行,保障业务连续性。
许可验证模块可以是对于AIOS和/或AI应用的使用提供软件许可的管理,用户可以通过许可验证模块灵活的对AIOS和/或AI应用的使用时间、应用范围以及功能模块等内容进行限制,以对AIOS和/或AI应用的开发者进行有效的知识产权保护。
权限管理模块用于管理用户在AIOS上的操作权限和操作能力范围。具体的,可以通过权限管理模块管理使用AIOS的用户、用户在AIOS中所能够使用的工具、以及用户资源的管理区域。
审计模块为用户提供AIOS的审计功能,针对关键的用户操作行为进行审计记录,保障AIOS的稳定性以及可追溯性,在审计模块中可以对每个用户在每个AI应用中的操作和行为进行记录,提供后台功能进行查看,并且辅以全面的监控面板来分析整个AIOS的运营情况。
通知模块可以用于对于AIOS以及各AI应用进行通知内容和通知方式进行设置和管理。在一个例子中,通知模块可以用于告警,告警管理为用户提供了个性化的监控项告警能力,用户可以灵活地对指定监控项制定告警规则,对于严重的AIOS问题进行自定义告警策略的设置,当某个业务指标达到临界值或者在AIOS存在异常时,通知模块可以是以用户预期的短信邮件等方式进行告警,提示用户及时知晓并处理异常,从而提高AIOS和业务应用的可用性。
日志模块是针对AI应用的各类运行数据进行统一采集、管理、筛选、检索的工具。用户可以基于日志的运维监控与分析、调用链监控与追踪满足各种业务分析等数字化运维和运营场景。
在AIOS中,一般有一个文件系统供用户存储、查询、管理整个AIOS的文件。文件管理模块用来支撑用户上传及其他AI应用产出的希望用户来查看和消费的数据。其中,可以进行管理的基础数据类型包括表、图片、语音、文本、视频、以及用户自定义的各种数据格式。用户从其他数据源中上传已经完成定义的数据类型如数据表、数据组等,上传AIOS后,可以在文件管理模块中进行预览、查看数据的meta信息、删除等操作。文件管理模块中存储的数据可以在AI应用中进行消费,用于模型训练等任务。同时,AI应用还可能产生大量的日志、报告、各种短暂的中间数据等,这些数据可以通过文件管理模块的后端视图,来查看整个AIOS中产生的存储在HDFS等及对象存储引擎等介质中的数据,并进行数据清理等任务。
数据中台可以用于管理和存储多个基础数据的关系,治理逻辑的抽象的数据形式。在现有技术中,AI应用的构建,需要根据业务诉求定义目标,收集数据,进行特征工程,模型训练后才能获得一个可能的结果,这中间的操作极大依赖数据本身质量,建模人员的水平以及应用环境的完备性。这种方法虽然可以最大限度保障建模效果,但其低效的应用产生能力也是阻碍当前AI技术普及的门槛之一。因此,本公开的实施例在AIOS中提供数据中台,通过数据中台可以得到与AI应用相关的AI数据。AI数据的数据形式可以被看作一种文件格式,类似传统的DOC类的文件形式。
数据中台可以对AI数据的使用方式提供基于与AI应用的约定,可以被数据形式指定的AI应用打开,并与AI应用的功能结合解决特定问题。数据中台可以包含对特定业务领域应用问题的数据使用方法论,如数据获取方式,数据治理方法,数据关系等。数据中台还可以展示AIOS获取的基础的文件meta格式。
应用管理模块是承载不同用户对于具有访问权限的所有AI应用的管理工具,其元信息可以在应用管理模块展示(例如可以是应用logo等)。对于应用开发者,应用管理模块可以提供一整套对于标准AI应用的注册流程,包括对于资源的申请,起停的控制,存储空间的申请,权限体系的对接,监控的集成等应用接入的全流程。
进程管理模块可以用于对AI应用的运行进程和资源进行管理监控。在AI应用的运行过程中,会产生正在活动中的进程,对于AI应用来说,进程管理则是对正在运行的程序实体的管理,例如可以包括对这个运行的AI应用所占据的所有系统资源进行管理。在AI应用运行的过程中,通常对于AI应用需要使用和调度的资源是非常复杂的,涉及到多个计算单元之间调度,进程管理模块可以是以“进程”、“工作流”、“算子”、“运行阶段”等概念,将AI应用的运行按照业务组织的维度进行拆解,监控从分层加机器的视角转换成以服务为中心的视角,了解监视范围内的服务之间的依赖关系,可以简化进程管理模块对AI应用运行管理监控的难度。
AIOS在为AI应用构建的便捷性服务的同时,提供AI应用的开发工具,例如可以包括Studio和HyperCycle两类开发工具,以满足市场上主流的开发方式和开发体验。
Studio开发工具可以提供可视化的AI应用开发模块,其中包括建模IDE(Integrated Development Environment,集成开发环境)模块,应用IDE模块,模型管理和应用管理四大部分,满足高阶开发者灵活自主灵活的对数据,算法、评估、调试进行组织和连接,帮助建模用户清晰直观地定义出各种类型的模型开发,模型管理评估,应用构建编排调试的全流程。
建模IDE可以提供的机器学习模型调研、开发工具。用户可在此工具内处理数据、产出模型。建模IDE内可以提供两种交互逻辑的建模环境:DAG(有向无环图)和Notebook。DAG是一个低门槛的可视化建模工具,用户可以在DAG画布上进行可视化操作,串联各类数据处理与机器学习算子,从而定义整个机器学习流程。Notebook是一个专业的命令行建模工具,通过逐个代码块的编辑,用户可以快速验证想法,获得反馈。
Studio开发工具中产出的模型都由模型管理来统一接管,同时也支持导入外部模型进行统筹管理。同时以模型为核心,汇总了模型相关的评估、解释报告,帮助用户从更多角度了解模型。
应用IDE提供对AI应用的构建、编排、调试、打包工具,能够为用户提供完整的、可靠的、高度灵活的企业级AI应用开发能力。在应用IDE内,用户可以根据实际业务场景需要,通过选择模型/DAG、配置资源及运行策略、打包应用等几个简单的步骤,即可完成应用的创建,创建完成的应用可以至应用管理上线。
用户开发出满足业务诉求的AI应用后,通过应用管理进行部署。应用管理能够全方位实现对AI应用的管控,包括运维监控、调试实验、动态资源配置、版本管理等等,满足用户对于AI应用在线上生产环境的所有工作要求。
HyperCycle开发工具是一种低门槛的AI应用构建工具(包括HC场景定义,机器学习HyperCycle,图像分类HyperCycle等,针对各种业务问题的工具),通过数据、业务、IT的分工来以及自动模型策略加持帮助企业规模化的解决AI的业务问题,实现快速AI场景的应用和落地。
具体的,可以是由数据人员对需要接入的数据流和数据关系按照业务要求进行收集整理后,定义出来专属某一业务的HyperCycle场景,通过HyperCycle开发工具配置学习任务和学习频次。HyperCycle开发工具自动根据算法类型和数据类型匹配相应的自动学习策略,按照设置的更新频次来更新线上的业务数据防止衰减,用户可以通过产品前台进行效果指标监控来观测模型在业务的运行情况。运维人员可以根据进程管理器中的活动表现和指数来判断业务、数据的健康情况。
在本公开的一个实施例中,AIOS还可以提供给用户极致简洁的操作体验,在使用逻辑上符合用户对AIOS的预判,还可以借助用户对其他操作系统的使用经验,增加AIOS的可理解性和可操作性,使得用户的注意力可以更好的聚焦于自己的业务目标,降低理解AIOS的门槛,提高工作效率。
基于上述说明,在本公开的一个实施例中,对安装的第一AI应用和构建的第二AI应用进行管理包括以下至少一项:
获取目标AI应用在运行过程中产出的数据,对产出的数据进行存储;
采集目标AI应用的运行数据,得到目标AI应用的运行日志;
监视目标AI应用当前运行的进程、算子、工作流和运行阶段中的至少一个,以获取进程、算子、工作流和运行阶段中的至少一个所占用的资源;
监测用户针对目标AI应用的操作行为,获取第一AI应用和第二AI应用的审计记录;
对目标AI应用在运行过程中的指定指标进行监控,在指定指标异常的情况下,发出告警通知;
响应于运行目标AI应用的操作,验证用户对目标AI应用的操作许可,在用户具有对目标AI应用的操作许可的情况下,运行目标AI应用;
接受用户上传的数据并进行存储,将上传的数据提供至目标AI应用进行消费。
在本实施例中,目标AI应用可以包括至少一个第一AI应用和至少一个第二AI应用。
在对安装的第一AI应用和构建的第二AI应用进行管理包括获取目标AI应用在运行过程中产出的数据,对产出的数据进行存储的实施例中,目标AI应用可以是对用户上传至AIOS的数据进行消费,得到所产出的数据,具体可以包括执行模型训练、预测、分类、推荐、自然语言处理等任务。其中,用户上传的数据的数据类型可以包括表、图片、语音、文本、视频、以及用户自定义的各种数据格式。
在本实施例中,可以是通过文件管理模块,来存储、查看和管理用户上传至AIOS的数据和目标AI应用在运行过程中产出的数据。
在本实施例的基础上,该方法还可以包括:响应于查看产出的数据的操作,展示产出的数据,以供用户查看。
具体的,用户可以通过打开文件管理模块,来查看和管理目标AI应用在运行过程中产出的数据。
在对安装的第一AI应用和构建的第二AI应用进行管理包括采集目标AI应用的运行数据,得到目标AI应用的运行日志的实施例中,可以是通过AIOS中的日志模块来采集目标AI应用的运行数据,并生成目标AI应用的运行日志。
在得到目标AI应用的运行日志后,该方法还可以包括:响应于查看运行日志的操作,展示运行日志,以供用户查看。
在本实施例中,用户可以是通过打开日志模块来触发查看运行日志的操作,AIOS响应于该查看运行日志的操作,展示运行日志,以供用户进行查看分析。
在对安装的第一AI应用和构建的第二AI应用进行管理包括监视目标AI应用当前运行的进程、算子、工作流和运行阶段中的至少一个,以获取目标AI应用当前运行的进程、算子、工作流和运行阶段中的至少一个占用的资源的实施例中,目标AI应用当前运行的进程、算子、工作流和运行阶段中的至少一个占用的资源,可以包括计算资源、存储资源和/或硬件资源。
在本实施例中,进程是计算机中的程序关于某数据集合上的一次运行活动,是系统进行资源分配和调度的基本单位,是操作系统结构的基础。程序是指令、数据及其组织形式的描述,进程是程序的实体。通过对AI应用在运行过程中所活动的当前进程进行监控管理,可以简化对AI应用在运行过程中的监控管理难度。
在一个例子中,计算资源可以包括hadoop集群,存储资源可以包括MySQL,硬件资源可以包括CPU、GPU、内存中的至少一个。
通过监控AI应用在运行过程中所消耗的计算资源和/或存储资源,可以便于用户对AI应用在运行过程中的所活动的当前进行管理,以保证AIOS和AI应用的稳定运行。
在获取进程、算子、工作流和运行阶段中的至少一个所占用的资源后,该方法还包括:响应于查看占用的资源的操作,展示占用的资源,以供用户查看。这样,在进程、算子、工作流和运行阶段中的至少一个所占用的资源过大时,用户可以根据自身需求停止运行该目标AI应用,或者对目标AI应用进行调整,以提高目标AI应用的可用性。
在本实施例中,通过监视目标AI应用当前运行的进程、算子、工作流和运行阶段中的至少一个,可以了解目标AI应用在运行过程中所涉及到的各服务之间的依赖关系,可以简化进程管理模块对AI应用运行管理监控的难度。
在对安装的第一AI应用和构建的第二AI应用进行管理包括监测用户针对目标AI应用的操作行为,获取第一AI应用和第二AI应用的审计记录的实施例中,可以是通过AIOS中的审计模块,获取用户针对目标AI应用的操作行为,并得到审计记录。
在获取目标AI应用的审计记录后,该方法还可以包括:响应于查看审计记录的操作,展示审计记录,以供用户查看。
用户可以是通过打开审计模块来触发查看审计记录的操作,AIOS响应于该查看审计记录的操作,展示审计记录,以供用户进行查看分析。这样,可以保障目标AI应用的可追溯性。
在对安装的第一AI应用和构建的第二AI应用进行管理包括对目标AI应用在运行过程中的指定指标进行监控,在指定指标异常的情况下,发出告警通知的实施例中,可以是通过AIOS中的通知模块,设置目标AI应用在运行过程中的指定指标的指标值的有效范围,对目标AI应用在运行过程中的指定指标进行监控,在指定指标的实际指标值超出预设的有效范围,则判定指定指标异常,根据用户在通知模块中所设定的通知方式发出告警通知。用户可以是通过打开通知模块,来查看历史发出的告警通知。
在对安装的第一AI应用和构建的第二AI应用进行管理包括响应于运行目标AI应用的操作,验证用户对目标AI应用的操作许可,在用户具有对目标AI应用的操作许可的情况下,运行目标AI应用的实施例中,可以通过许可验证模块验证在接收到在AIOS中运行目标AI应用的操作的当前时间,是否在目标AI应用的许可使用时间内,来确定用户是否具有对目标AI应用的操作许可。在用户具有对目标AI应用的操作许可的情况下,在AIOS中运行该目标AI应用;在用户不具有对目标AI应用的操作许可的情况下,可以禁止在AIOS中运行目标AI应用。这样,可以对目标AI应用的开发者进行有效的知识产权保护。
在对安装的第一AI应用和构建的第二AI应用进行管理包括接受用户上传的数据并进行存储,将上传的数据提供至目标AI应用进行消费的实施例中,在本实施例中,可以是通过文件管理模块,来存储、查看和管理用户上传至AIOS的数据。用户上传的数据的数据类型可以包括表、图片、语音、文本、视频、以及用户自定义的各种数据格式。
目标AI应用可以根据用户上传的数据进行消费,具体可以包括执行模型训练、预测、分类、推荐、自然语言处理等任务。
在本公开的一个实施例中,将AI数据提供至目标AI应用进行消费还包括:
从上传的数据中获取与目标AI应用相关的AI数据,将相关的AI数据提供至目标AI应用进行消费。
在本实施例中,用户可以预先通过数据中台设置与目标AI应用相关的AI数据的数据格式,使得数据中台对根据该数据格式对文件管理模块中所存储的数据进行过滤,仅向目标AI应用提供与其相关的AI数据。
在本实施例的基础上,该方法还可以包括:响应于查看AI数据的操作,展示AI数据。
具体的,用户可以是打开数据中台,触发查看数据中台的操作。AIOS响应于查看数据中台的操作,展示与AI应用相关的AI数据,以供用户查看选择。
在本公开的另一个实施例中,将AI数据提供至目标AI应用进行消费还包括:
从上传的数据中获取与目标AI应用相关的AI数据,从AI数据中筛选出与目标AI应用所对应的应用场景所匹配的数据,并提供至目标AI进行消费。
具体的,用户可以是预先根据实际需求,来指定目标AI应用所对应的应用场景。
AIOS中的数据中台可以从AI数据中筛选出与该应用场景所匹配的数据。这样,可以自动向目标AI应用提供与其应用场景所匹配的AI数据,无需用户手动筛选,可以减少用户操作,提升用户体验。
在本公开的一个实施例中,该方法还可以包括:
确定用户对集成的AI应用的操作权限,根据操作权限,提供相应的AI应用。
在本公开的实施例中所提到的AI应用,可以包括至少一个第一AI应用和/或至少一个第二AI应用。
具体的,对于具有不同操作权限的用户,AIOS所提供的AI应用可以不同。本实施例中,用户仅可以使用根据对应操作权限所提供的AI应用。
例如,对应具有不同操作权限的第一个用户和第二个用户,向第一个用户所提供的AI应用可以包括AI应用A和AI应用B,向第二个用户所提供的AI应用可以包括AI应用B和AI应用C。那么,第一个用户可以使用AI应用A和AI应用B,无法使用AI应用C;第二个用户可以使用AI应用B和AI应用C,无法使用AI应用A。
另外,该方法还可以包括:根据操作权限,在AIOS中提供相应的计算资源和/或存储资源。
在本公开的一个实施例中,该方法还可以包括:
提供管理桌面,桌面上提供有集成的部分或全部AI应用的快捷方式和/或管理工具快捷方式和/或文件快捷方式;响应于对桌面的编辑操作,对桌面中所提供的快捷方式进行编辑。
本实施例中的编辑操作,可以包括添加、移动、删除、收纳等操作。用户可以根据自身需求,在桌面中添加AI应用的快捷方式和/或管理工具快捷方式和/或文件快捷方式,或删除桌面中所展示的AI应用的快捷方式和/或管理工具快捷方式和/或文件快捷方式,或调整桌面中所展示的AI应用的快捷方式和/或管理工具快捷方式和/或文件快捷方式在桌面中的展示位置,或更改桌面中用于收纳桌面中所展示的AI应用的快捷方式和/或管理工具快捷方式和/或文件快捷方式的文件夹,以便于用户更高效便捷的管理桌面。
在本实施例中,用户可以根据自身喜好和工作习惯在桌面上添加任意可访问的快捷方式,帮助用户更便捷的打开对应的管理工具、AI应用或文件。
通过本实施例的集成管理方法,可以对AIOS中所部署的AI应用进行集成统一管理,降低AI应用的开发和管理成本。
<集成管理装置实施例>
在本实施例中,提供一种AI应用的集成管理装置3000,如图4所示,集成管理装置3000可以包括第一安装模块3100、第二构建模块3200和应用管理模块3300。该第一安装模块3100用于获取第一AI应用的预定标准格式的安装文件,基于预定标准格式的安装文件,安装第一AI应用;该第二构建模块3200用于获取第二AI应用的构建配置信息,基于构建配置信息,构建第二AI应用;该应用管理模块3300用于对安装的第一AI应用和构建的第二AI应用进行管理。
在本公开的一个实施例中,第一安装模块3100具体可以用于:
获取目标AI应用的原始安装文件,将原始安装文件的格式转换为预定标准格式。
在本公开的一个实施例中,预定标准格式包括Docker标准格式。
在本公开的一个实施例中,构建配置信息包括存储配置信息和计算配置信息;
第二构建模块3200可以用于:
基于存储配置信息和计算配置信息,构建第二AI应用。
在本公开的一个实施例中,该集成管理装置3000还可以包括:
应用商店提供模块,用于提供应用商店,应用商店中提供有至少一个第一AI应用;
第一安装模块3100还可以用于:
从应用商店中下载第一AI应用的预定标准格式的安装文件;或者
从应用商店中下载第一AI应用的原始安装文件,将原始安装文件的格式转换为预定标准格式。
在本公开的一个实施例中,该应用管理模块3300用于执行以下至少一项:
获取第一AI应用和第二AI应用在运行过程中产出的数据,对产出的数据进行存储;
采集第一AI应用和第二AI应用的运行数据,得到第一AI应用和第二AI应用的运行日志;
监视第一AI应用和第二AI应用当前运行的进程、算子、工作流和运行阶段中的至少一个,以获取进程、算子、工作流和运行阶段中的至少一个所占用的资源;
监测用户针对第一AI应用和第二AI应用的操作行为,获取第一AI应用和第二AI应用的审计记录;
对第一AI应用和第二AI应用在运行过程中的指定指标进行监控,在指定指标异常的情况下,发出告警通知;
响应于运行第一AI应用和第二AI应用的操作,验证用户对第一AI应用和第二AI应用的操作许可,在用户具有对第一AI应用和第二AI应用的操作许可的情况下,运行第一AI应用和第二AI应用;
接受用户上传的数据并进行存储,将上传的数据提供至第一AI应用和第二AI应用进行消费。
在本公开的一个实施例中,该集成管理装置3000还可以包括展示模块,用于:
对产出的数据进行存储后,响应于查看产出的数据的操作,展示产出的数据;
或者,
在获取第一AI应用和第二AI应用的审计记录后,响应于查看审计记录的操作,展示审计记录;
或者,
在得到第一AI应用和第二AI应用的运行日志后,响应于查看运行日志的操作,展示运行日志;
或者,
在获取进程、算子、工作流和运行阶段中的至少一个所占用的资源后,响应于查看占用的资源的操作,展示占用的资源。
在本公开的一个实施例中,应用管理模块3300可以用于:
从上传的数据中获取与第一AI应用和第二AI应用相关的AI数据,将AI数据提供至第一AI应用和第二AI应用进行消费;
或者,
从上传的数据中获取与第一AI应用和第二AI应用相关的AI数据,从AI数据中筛选出与第一AI应用和第二AI应用所对应的应用场景所匹配的数据,并提供至第一AI应用和第二AI进行消费。
在本公开的一个实施例中,该集成管理装置3000还可以包括:
权限管理模块,用于确定用户对集成的AI应用的操作权限,根据操作权限,提供相应的AI应用。
在本公开的一个实施例中,该集成管理装置3000还可以包括:
桌面管理模块,用于:
提供管理桌面,桌面上提供有集成的部分或全部AI应用的快捷方式和/或管理工具快捷方式和/或文件快捷方式;
响应于对管理桌面的编辑操作,对桌面中所提供的快捷方式进行编辑。
在本公开的一个实施例中,存储配置信息和计算配置信息中的一部分信息是通过用户配置特性能力而获得的,其中,特性能力是指已封装好可用资源以供直接调用相关能力的实体;
第二构建模块3200还可以用于:基于存储配置信息和计算配置信息中的一部分信息来调用对应的特性能力,以构建第二AI应用。
在本公开的一个实施例中,存储配置信息可以包括输入源信息、应用元信息、日志和监控指标归集信息和存储声明信息中的至少一个;
计算配置信息包括服务启动方式信息、动态资源信息和计算能力信息中的至少一个。
在本公开的一个实施例中,基于存储配置信息和计算配置信息构建第二AI应用,包括以下步骤中的至少一个:
基于输入源信息,对接输入源;
基于应用元信息,对第二AI应用进行管理;
基于服务启动方式信息,向底层资源管理和调度平台发起应用启动指令;
基于动态资源信息,执行动态资源管理;
基于日志和监控指标归集信息,提供第二AI应用的日志和监控信息;
基于存储声明信息,对第二AI应用的存储进行管理;
基于计算能力信息,配置第二AI应用的计算能力。
在本公开的一个实施例中,输入源信息包括一个或多个标准Docker镜像的标识;
当输入源信息包括多个标准Docker镜像的标识时,输入源为多个标准Docker镜像的编排,其中,基于多个标准Docker镜像的编排是通过用户配置镜像编排特性能力而获得的。
在本公开的一个实施例中,应用元信息包括以下项中的至少一项:
唯一应用标识、鉴权信息、唯一应用名称、唯一显示名称、应用图标、说明文档、创建时间、更新时间、创建人信息、版本号、应用来源类型、启动资源消耗信息、数据源、应用存储地址、镜像地址、启动方式。
在本公开的一个实施例中,服务启动方式信息是通过用户配置服务启动方式特性能力而获得的。
在本公开的一个实施例中,存储声明信息是通过用户配置存储特性能力而获得的。
在本公开的一个实施例中,计算能力信息是通过用户利用软件开发包调用一种或多种算法而获得的,和/或通过算子平台自定义开发而获得的;
其中,计算能力信息中的参数调优信息是通过用户配置调参特性能力而获得的。
本领域技术人员应当明白,可以通过各种方式来实现AI应用的集成管理装置3000。例如,可以通过指令配置处理器来实现AI应用的集成管理装置3000。例如,可以将指令存储在ROM中,并且当启动设备时,将指令从ROM读取到可编程器件中来实现AI应用的集成管理装置3000。例如,可以将AI应用的集成管理装置3000固化到专用器件(例如ASIC)中。可以将AI应用的集成管理装置3000分成相互独立的单元,或者可以将它们合并在一起实现。AI应用的集成管理装置3000可以通过上述各种实现方式中的一种来实现,或者可以通过上述各种实现方式中的两种或更多种方式的组合来实现。
在本实施例中,AI应用的集成管理装置3000可以具有多种实现形式,例如,AI应用的集成管理装置3000可以是任何的提供AI应用的管理服务的软件产品或者应用程序中运行的功能模块,或者是这些软件产品或者应用程序的外设嵌入件、插件、补丁件等,还可以是这些软件产品或者应用程序本身。
<系统实施例>
在本实施例中,如图5所示,还提供一种至少一个计算装置4100和至少一个存储装置4200的AI应用集成管理系统4000,亦可称为AI操作系统。该至少一个存储装置4200用于存储可执行的指令;该指令用于控制至少一个计算装置4100执行根据本公开任意实施例的AI应用的集成管理方法。
在本实施例中,该系统4000可以是手机、平板电脑、掌上电脑、台式机、笔记本电脑、工作站、游戏机等设备,也可以是由多个设备构成的分布式系统。
<计算机可读存储介质>
在本实施例中,还提供一种计算机可读存储介质,其上存储有计算机程序,计算机程序在被处理器执行时实现如本公开任意实施例的AI应用的集成管理方法。
本公开可以是设备、方法和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质,其上载有用于使处理器实现本公开的各个方面的计算机可读程序指令。
计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是――但不限于――电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、静态随机存取存储器(SRAM)、便携式压缩盘只读存储器(CD-ROM)、数字多功能盘(DVD)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身,诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如,通过光纤电缆的光脉冲)、或者通过电线传输的电信号。
这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备,或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令,并转发该计算机可读程序指令,以供存储在各个计算/处理设备中的计算机可读存储介质中。
用于执行本公开操作的计算机程序指令可以是汇编指令、指令集架构(ISA)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码,所述编程语言包括面向对象的编程语言—诸如Smalltalk、C++等,以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中,通过利用计算机可读程序指令的状态信息来个性化定制电子电路,例如可编程逻辑电路、现场可编程门阵列(FPGA)或可编程逻辑阵列(PLA),该电子电路可以执行计算机可读程序指令,从而实现本公开的各个方面。
这里参照根据本公开实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述了本公开的各个方面。应当理解,流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合,都可以由计算机可读程序指令实现。
这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理器,从而生产出一种机器,使得这些指令在通过计算机或其它可编程数据处理装置的处理器执行时,产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中,这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作,从而,存储有指令的计算机可读介质则包括一个制造品,其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。
也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上,使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤,以产生计算机实现的过程,从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。
附图中的流程图和框图显示了根据本公开的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分,所述模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。对于本领域技术人员来说公知的是,通过硬件方式实现、通过软件方式实现以及通过软件和硬件结合的方式实现都是等价的。
以上已经描述了本公开的各实施例,上述说明是示例性的,并非穷尽性的,并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下,对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择,旨在最好地解释各实施例的原理、实际应用或对市场中的技术改进,或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。本公开的范围由所附权利要求来限定。
Claims (10)
1.一种人工智能应用的集成管理方法,包括:
获取第一人工智能应用的预定标准格式的安装文件,基于所述预定标准格式的安装文件,安装所述第一人工智能应用;
获取第二人工智能应用的构建配置信息,基于所述构建配置信息,构建所述第二人工智能应用;
对所述安装的第一人工智能应用和所述构建的第二人工智能应用进行管理。
2.根据权利要求1所述方法,所述获取所述第一人工智能应用的预定标准格式的安装文件包括:
获取所述第一人工智能应用的原始安装文件,将所述原始安装文件的格式转换为所述预定标准格式。
3.根据权利要求1或2所述的方法,所述预定标准格式包括Docker标准格式。
4.根据权利要求1所述的方法,
所述构建配置信息包括存储配置信息和计算配置信息;
所述基于所述构建配置信息,构建所述第二人工智能应用包括:
基于所述存储配置信息和所述计算配置信息,构建所述第二人工智能应用。
5.根据权利要求1所述的方法,所述对所述安装的第一人工智能应用和所述构建的第二人工智能应用进行管理包括以下至少一项:
获取所述第一人工智能应用和所述第二人工智能应用在运行过程中产出的数据,对所述产出的数据进行存储;
采集所述第一人工智能应用和所述第二人工智能应用的运行数据,得到所述第一人工智能应用和所述第二人工智能应用的运行日志;
监视所述第一人工智能应用和所述第二人工智能应用当前运行的进程、算子、工作流和运行阶段中的至少一个,以获取所述进程、所述算子、所述工作流和所述运行阶段中的至少一个所占用的资源;
监测用户针对所述第一人工智能应用和所述第二人工智能应用的操作行为,获取所述第一人工智能应用和所述第二人工智能应用的审计记录;
对所述第一人工智能应用和所述第二人工智能应用在运行过程中的指定指标进行监控,在所述指定指标异常的情况下,发出告警通知;
响应于运行所述第一人工智能应用和所述第二人工智能应用的操作,验证用户对所述第一人工智能应用和所述第二人工智能应用的操作许可,在所述用户具有对所述第一人工智能应用和所述第二人工智能应用的操作许可的情况下,运行所述第一人工智能应用和所述第二人工智能应用;
接受用户上传的数据并进行存储,将所述上传的数据提供至所述第一人工智能应用和所述第二人工智能应用进行消费。
6.根据权利要求1所述的方法,所述方法还包括:
提供管理桌面,所述桌面上提供有集成的部分或全部人工智能应用的快捷方式和/或管理工具快捷方式和/或文件快捷方式;
响应于对所述桌面的编辑操作,对所述桌面中所提供的所述快捷方式进行编辑。
7.根据权利要求4所述的方法,所述存储配置信息和所述计算配置信息中的一部分信息是通过用户配置特性能力而获得的,其中,所述特性能力是指已封装好可用资源以供直接调用相关能力的实体;
其中,所述基于所述存储配置信息和所述计算配置信息构建所述第二人工智能应用,包括:基于所述存储配置信息和所述计算配置信息中的所述一部分信息来调用对应的特性能力,以构建所述第二人工智能应用。
8.一种人工智能应用的集成管理装置,包括:
第一安装模块,用于获取第一人工智能应用的预定标准格式的安装文件,基于所述预定标准格式的安装文件,安装所述第一人工智能应用;
第二构建模块,用于获取第二人工智能应用的构建配置信息,基于所述构建配置信息,构建所述第二人工智能应用;
应用管理模块,用于对所述安装的第一人工智能应用和所述构建的第二人工智能应用进行管理。
9.一种包括至少一个计算装置和至少一个存储装置的人工智能应用集成管理系统,其中,所述至少一个存储装置用于存储指令,所述指令用于控制所述至少一个计算装置执行根据权利要求1至7中任一项所述的方法。
10.一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序在被处理器执行时实现如权利要求1至7中任一项所述的方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010844690.4A CN114077437A (zh) | 2020-08-20 | 2020-08-20 | 一种人工智能应用的集成管理方法、装置及系统 |
PCT/CN2021/113426 WO2022037627A1 (zh) | 2020-08-20 | 2021-08-19 | 一种人工智能应用的集成管理方法、装置及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010844690.4A CN114077437A (zh) | 2020-08-20 | 2020-08-20 | 一种人工智能应用的集成管理方法、装置及系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114077437A true CN114077437A (zh) | 2022-02-22 |
Family
ID=80282065
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010844690.4A Pending CN114077437A (zh) | 2020-08-20 | 2020-08-20 | 一种人工智能应用的集成管理方法、装置及系统 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN114077437A (zh) |
WO (1) | WO2022037627A1 (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115934654A (zh) * | 2023-02-03 | 2023-04-07 | 北京联合伟世科技股份有限公司 | 实验资源的打包方法、装置、设备及存储介质 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102385514B (zh) * | 2011-10-20 | 2014-10-01 | 百度在线网络技术(北京)有限公司 | 一种集中进行软件管理操作的方法、设备与系统 |
KR20200084695A (ko) * | 2019-01-03 | 2020-07-13 | 삼성전자주식회사 | 응용프로그램의 관리 장치 및 방법 |
CN111158651A (zh) * | 2019-12-26 | 2020-05-15 | 第四范式(北京)技术有限公司 | 构建人工智能应用的方法、装置及系统 |
-
2020
- 2020-08-20 CN CN202010844690.4A patent/CN114077437A/zh active Pending
-
2021
- 2021-08-19 WO PCT/CN2021/113426 patent/WO2022037627A1/zh active Application Filing
Also Published As
Publication number | Publication date |
---|---|
WO2022037627A1 (zh) | 2022-02-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10031735B2 (en) | Secure deployment of applications in a cloud computing platform | |
US10684761B2 (en) | Graphical user interface creation using highly rated GUI elements | |
CN108964968B (zh) | 一种容器云环境下的服务接入管理方法和系统 | |
US11389960B2 (en) | Systems and methods for robotic process automation | |
US10366112B2 (en) | Compiling extract, transform, and load job test data cases | |
US11316896B2 (en) | Privacy-preserving user-experience monitoring | |
US10305752B2 (en) | Automatically orchestrating the compliance of cloud services to selected standards and policies | |
US20190272301A1 (en) | Network search query | |
US20200241896A1 (en) | Integration application creator design | |
US9697037B2 (en) | Tagging virtual machine instances based on commands | |
CN113268260A (zh) | 用于web前端的路由方法及装置 | |
CN114912897A (zh) | 工作流执行方法、工作流编排方法及电子设备 | |
WO2022037627A1 (zh) | 一种人工智能应用的集成管理方法、装置及系统 | |
US11062007B2 (en) | Automated authentication and access | |
CN114514730B (zh) | 过滤群组消息的方法和系统 | |
US20220413843A1 (en) | Combining model-driven applications and canvas-type applications with application lifecycle management | |
US10754622B2 (en) | Extracting mobile application workflow from design files | |
CN107392414B (zh) | 一种产品资料集成编排的方法及云服务装置 | |
CN112181401A (zh) | 应用构建方法及应用构建平台 | |
KR20200082024A (ko) | 업무 화면 생성 방법 및 이를 수행하는 시스템 | |
US20230418992A1 (en) | Context aware optimized digital twin model creation | |
US20230401077A1 (en) | Modular decomposition and composition of container software management clusters in hybrid cloud | |
US20200401379A1 (en) | Automated microservice creation based on user interaction | |
Kakderi et al. | Deliverable 5.2 Book about public services migration to the cloud and the use of cloud-based public services in four European cities | |
CN115964121A (zh) | 促进应用容器化 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |