CN112801302A - 一种基于接口的机器学习模型发布方法和系统 - Google Patents

Abstract

本发明提出一种基于接口的机器学习模型发布方法和系统，其方法技术方案包括模型训练步骤，在一机器学习平台上训练完成一机器学习模型；离线部署步骤，在所述机器学习平台上构建适用于离线数据的离线应用程序接口；实时部署步骤，在所述机器学习平台上构建适用于实时数据的实时应用程序接口；接口调用步骤，在一生产环境中根据数据的类型对所述离线应用程序接口或所述实时应用程序接口进行调用。本发明解决了现有技术方案在进行模型部署时存在较多不足和障碍的问题。

Description

一种基于接口的机器学习模型发布方法和系统

技术领域

本发明属于机器学习领域，尤其涉及一种基于接口的机器学习模型发布方法和系统。

背景技术

工业机器学习系统是庞大数据基础架构的一部分，当我们追求最好的机器学习算法时，与现实世界机器学习系统的开发，部署和维护相关的挑战不容忽视。现实世界中的ML(Machine Learning)系统中只有一小部分由ML代码组成。尽管ML代码决定了所有决策，但整个软件系统必须为解决最终用户的问题而开发。提供决策的微小ML部分很重要，但是将训练好的ML模型部署到生产环境并使用起来，也是系统的重要组件。

在现有技术方案中，主要采取以PMML文件部署的方式：将模型导出为PMML文件的格式，可跨平台使用。但此方式在部署过程中，应该仔细检查PMML文件本身，包括变量名等；异常字符的变量名，模型生成PMML时容易出现错误；模型类型支持有限；支持不了所有的数据预处理和后处理操作。虽然PMML已经支持了几乎所有的标准数据处理方式，但是对用户一些自定义操作，还缺乏有效的支持，很难放到PMML中；PMML是一个松散的规范标准，有的厂商生成的PMML有可能不太符合标准定义的Schema，并且PMML规范允许厂商添加自己的扩展，这些都对使用这些模型造成了一定障碍。

发明内容

本申请实施例提供了一种基于接口的机器学习模型发布方法和系统，以至少解决现有技术方案在进行模型部署时存在较多不足和障碍的问题。

第一方面，本申请实施例提供了一种基于接口的机器学习模型发布方法，包括：模型训练步骤，在一机器学习平台上训练完成一机器学习模型；离线部署步骤，在所述机器学习平台上构建适用于离线数据的离线应用程序接口；实时部署步骤，在所述机器学习平台上构建适用于实时数据的实时应用程序接口；接口调用步骤，在一生产环境中根据数据的类型通过所述离线应用程序接口或所述实时应用程序接口对所述机器学习模型进行调用。

优选的，所述离线部署步骤包括：在所述机器学习平台中生成一预测脚本，生成所述预测脚本对应的一离线URL地址，并构建所述离线URL接口对应的所述离线应用程序接口服务。

优选的，所述实时部署步骤包括：在所述机器学习平台中构建一预测函数，生成所述预测脚本对应的一实时URL地址，并构建所述实时URL接口对应的所述实时应用程序接口服务。

优选的，所述离线部署步骤还包括：对所述预测脚本通过DAG平台进行定时运行。

优选的，所述离线部署步骤还包括：所述离线应用程序接口服务包括根据一预设起止时间查询预测结果。

第二方面，本申请实施例提供了一种基于接口的机器学习模型发布系统，适用于上述一种基于接口的机器学习模型发布方法，包括：模型训练单元，在一机器学习平台上训练完成一机器学习模型；离线部署单元，在所述机器学习平台上构建适用于离线数据的离线应用程序接口；实时部署单元，在所述机器学习平台上构建适用于实时数据的实时应用程序接口；接口调用单元，在一生产环境中根据数据的类型通过所述离线应用程序接口或所述实时应用程序接口对所述机器学习模型进行调用。

在其中一些实施例中，所述离线部署单元包括：在所述机器学习平台中生成一预测脚本，生成所述预测脚本对应的一离线URL地址，并构建所述离线URL接口对应的所述离线应用程序接口服务。

在其中一些实施例中，所述实时部署单元包括：在所述机器学习平台中构建一预测函数，生成所述预测脚本对应的一实时URL地址，并构建所述实时URL接口对应的所述实时应用程序接口服务。

在其中一些实施例中，所述离线部署单元还包括：对所述预测脚本通过DAG平台进行定时运行。

在其中一些实施例中，所述离线部署单元还包括：所述离线应用程序接口服务包括根据一预设起止时间查询预测结果。

相比于相关技术，本申请实施例提供的一种基于接口的机器学习模型发布方法能够支持训练与预测处于不同编程语言不同环境的场景。与传统方法相比，不存在因跨平台无法支持的自定义预处理方式与算法，避免了因环境不同在移植过程中可能产生的问题，不同的编程语言环境都可以通过调用API来调用模型。

附图说明

此处所说明的附图用来提供对本申请的进一步理解，构成本申请的一部分，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。在附图中：

图1为本发明的基于接口的机器学习模型发布方法流程图；

图2为本发明的基于接口的机器学习模型发布系统的框架图；

图3为本发明的电子设备的框架图；

以上图中：

1、模型训练单元；2、离线部署单元；3、实时部署单元；4、接口调用单元；60、总线；61、处理器；62、存储器；63、通信接口。

具体实施方式

为了使本申请的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本申请进行描述和说明。应当理解，此处所描述的具体实施例仅仅用以解释本申请，并不用于限定本申请。基于本申请提供的实施例，本领域普通技术人员在没有作出创造性劳动的前提下所获得的所有其他实施例，都属于本申请保护的范围。

显而易见地，下面描述中的附图仅仅是本申请的一些示例或实施例，对于本领域的普通技术人员而言，在不付出创造性劳动的前提下，还可以根据这些附图将本申请应用于其他类似情景。此外，还可以理解的是，虽然这种开发过程中所作出的努力可能是复杂并且冗长的，然而对于与本申请公开的内容相关的本领域的普通技术人员而言，在本申请揭露的技术内容的基础上进行的一些设计，制造或者生产等变更只是常规的技术手段，不应当理解为本申请公开的内容不充分。

在本申请中提及“实施例”意味着，结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例，也不是与其它实施例互斥的独立的或备选的实施例。本领域普通技术人员显式地和隐式地理解的是，本申请所描述的实施例在不冲突的情况下，可以与其它实施例相结合。

除非另作定义，本申请所涉及的技术术语或者科学术语应当为本申请所属技术领域内具有一般技能的人士所理解的通常意义。本申请所涉及的“一”、“一个”、“一种”、“该”等类似词语并不表示数量限制，可表示单数或复数。本申请所涉及的术语“包括”、“包含”、“具有”以及它们任何变形，意图在于覆盖不排他的包含；例如包含了一系列步骤或模块(单元)的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元，而是可以还包括没有列出的步骤或单元，或可以还包括对于这些过程、方法、产品或设备固有的其它步骤或单元。

以下，结合附图详细介绍本发明的实施例：

图1为本发明的基于接口的机器学习模型发布方法流程图，请参见图1，本发明基于接口的机器学习模型发布方法包括如下步骤：

S1：在一机器学习平台上训练完成一机器学习模型。

在具体实施中，在一机器学习平台上训练好生产环境所需的一机器学习模型。

S2：在所述机器学习平台上构建适用于离线数据的离线应用程序接口。

在具体实施中，针对offline离线数据，将模型部署为查询结果API的形式。

可选的，在所述机器学习平台中生成一预测脚本，生成所述预测脚本对应的一离线URL地址，并构建所述离线URL接口对应的所述离线应用程序接口服务。

可选的，对所述预测脚本通过DAG平台进行定时运行。

可选的，所述离线应用程序接口服务包括根据一预设起止时间查询预测结果。

在具体实施中，在机器学习平台上新建一定时预测任务，获取任务ID，根据所选模型及对应数据与算法构建预测脚本；在具体实施中，首先根据模型获取算法输入参数的值，再获取数据，并转化为符合算法输入的格式，并获取预测结果路径，可按任务ID分配；最后，根据上述步骤中的值，固定已知算法输入参数，生成运行脚本，脚本内调用算法主函数，并将预测结果输出到根据任务ID指定的位置，可以是文件路径或数据库等。

在具体实施中，定时运行该预测任务，可将任务发送到DAG平台运行；在具体实施中，首先将运行脚本输入参数、任务调度参数、运行脚本等以DAG平台要求的json格式发送到DAG平台，建立定时任务。

在具体实施中，根据任务ID自动生成对应的url地址，并构建API服务代码，可选的，提供根据起止时间查询预测结果的API服务，API接口对应上述url地址。

在具体实施中，API接口实现功能可使用Flask或Django框架，其中，API接口入参出参预先设定。可选的，输入参数可参照以下格式进行设定：{"startTime":"2020-01-0100:00:00","endTime":"2020-01-01 01:00:00"}。可选的，输出参数可根据需要设定返回文件或json格式结果，输出参数可参照以下格式进行设定：

{"statusCode":0,"message":"","data":{"prediction":{}}}。

S3：在所述机器学习平台上构建适用于实时数据的实时应用程序接口。

在具体实施中，针对realtime实时数据，将模型部署为在线预测API的形式。

可选的，在所述机器学习平台中构建一预测函数，生成所述预测脚本对应的一实时URL地址，并构建所述实时URL接口对应的所述实时应用程序接口服务。

在具体实施中，根据所选模型，构建预测函数；首先根据模型获取算法输入参数的值，再根据获取的值，固定算法主函数中的已知参数，将算法主函数封装为仅有一个入参的函数，该入参为输入数据；可选的，若训练数据格式与实时数据格式不同，将格式转换功能也封装在内。

在具体实施中，根据自定义规则自动生成url地址。

在具体实施中，构建API服务代码，提供调用上述步骤生成的预测函数的API服务，API接口对应url地址。API接口入参出参预先设定。可选的，输入参数可参照以下格式进行设定：{"predictData":{}}。出参可根据需要设定返回文件或json格式结果。可选的，输出参数可参照以下格式进行设定：{"statusCode":0,"message":"","data":{"prediction":{}}}。

S4：在一生产环境中根据数据的类型通过所述离线应用程序接口或所述实时应用程序接口对所述机器学习模型进行调用。

在具体实施中，对于离线数据来说，可以通过url地址查询某时间段内的预测结果。因获取预测结果的逻辑一致，可选的，可以采用动态URL地址，不同任务不同模型的查询结果API服务可以共用一个。

在具体实施中，对于实时数据来说，可以通过url地址调用模型，实时预测，获得结果。

需要说明的是，在上述流程中或者附图的流程图中示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行，并且，虽然在流程图中示出了逻辑顺序，但是在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤。

本申请实施例提供了一种基于接口的机器学习模型发布系统，适用于上述的一种基于接口的机器学习模型发布方法。如以下所使用的，术语“单元”、“模块”等可以实现预定功能的软件和/或硬件的组合。尽管以下实施例所描述的装置较佳地以软件来实现，但是硬件、或者软件和硬件的组合的实现也是可能并被构想的。

图2为根据本发明的基于接口的机器学习模型发布系统的框架图，请参见图2，包括：

模型训练单元1：在一机器学习平台上训练完成一机器学习模型。

在具体实施中，在一机器学习平台上训练好生产环境所需的一机器学习模型。

离线部署单元2：在所述机器学习平台上构建适用于离线数据的离线应用程序接口。

在具体实施中，针对offline离线数据，将模型部署为查询结果API的形式。

可选的，在所述机器学习平台中生成一预测脚本，生成所述预测脚本对应的一离线URL地址，并构建所述离线URL接口对应的所述离线应用程序接口服务。

可选的，对所述预测脚本通过DAG平台进行定时运行。

可选的，所述离线应用程序接口服务包括根据一预设起止时间查询预测结果。

在具体实施中，在机器学习平台上新建一定时预测任务，获取任务ID，根据所选模型及对应数据与算法构建预测脚本；在具体实施中，首先根据模型获取算法输入参数的值，再获取数据，并转化为符合算法输入的格式，并获取预测结果路径，可按任务ID分配；最后，根据上述单元所获取中的值，固定已知算法输入参数，生成运行脚本，脚本内调用算法主函数，并将预测结果输出到根据任务ID指定的位置，可以是文件路径或数据库等。

在具体实施中，定时运行该预测任务，可将任务发送到DAG平台运行；在具体实施中，首先将运行脚本输入参数、任务调度参数、运行脚本等以DAG平台要求的json格式发送到DAG平台，建立定时任务。

在具体实施中，根据任务ID自动生成对应的url地址，并构建API服务代码，可选的，提供根据起止时间查询预测结果的API服务，API接口对应上述url地址。

在具体实施中，API接口实现功能可使用Flask或Django框架，其中，API接口入参出参预先设定。可选的，输入参数可参照以下格式进行设定：{"startTime":"2020-01-0100:00:00","endTime":"2020-01-01 01:00:00"}。可选的，输出参数可根据需要设定返回文件或json格式结果，输出参数可参照以下格式进行设定：

{"statusCode":0,"message":"","data":{"prediction":{}}}。

实时部署单元3：在所述机器学习平台上构建适用于实时数据的实时应用程序接口。

在具体实施中，针对realtime实时数据，将模型部署为在线预测API的形式。

可选的，在所述机器学习平台中构建一预测函数，生成所述预测脚本对应的一实时URL地址，并构建所述实时URL接口对应的所述实时应用程序接口服务。

在具体实施中，根据所选模型，构建预测函数；首先根据模型获取算法输入参数的值，再根据获取的值，固定算法主函数中的已知参数，将算法主函数封装为仅有一个入参的函数，该入参为输入数据；可选的，若训练数据格式与实时数据格式不同，将格式转换功能也封装在内。

在具体实施中，根据自定义规则自动生成url地址。

在具体实施中，构建API服务代码，提供调用上述单元生成的预测函数的API服务，API接口对应url地址。API接口入参出参预先设定。可选的，输入参数可参照以下格式进行设定：{"predictData":{}}。出参可根据需要设定返回文件或json格式结果。可选的，输出参数可参照以下格式进行设定：{"statusCode":0,"message":"","data":{"prediction":{}}}。

接口调用单元4：在一生产环境中根据数据的类型通过所述离线应用程序接口或所述实时应用程序接口对所述机器学习模型进行调用。

在具体实施中，对于离线数据来说，可以通过url地址查询某时间段内的预测结果。因获取预测结果的逻辑一致，可选的，可以采用动态URL地址，不同任务不同模型的查询结果API服务可以共用一个。

在具体实施中，对于实时数据来说，可以通过url地址调用模型，实时预测，获得结果。

另外，结合图1描述的一种基于接口的机器学习模型发布方法可以由一电子设备来实现。图3为本发明的电子设备的框架图。

电子设备可以包括处理器61以及存储有计算机程序指令的存储器62。

具体地，上述处理器61可以包括中央处理器(CPU)，或者特定集成电路(Application Specific Integrated Circuit，简称为ASIC)，或者可以被配置成实施本申请实施例的一个或多个集成电路。

其中，存储器62可以包括用于数据或指令的大容量存储器。举例来说而非限制，存储器62可包括硬盘驱动器(Hard Disk Drive，简称为HDD)、软盘驱动器、固态驱动器(SolidState Drive，简称为SSD)、闪存、光盘、磁光盘、磁带或通用串行总线(Universal SerialBus，简称为USB)驱动器或者两个或更多个以上这些的组合。在合适的情况下，存储器62可包括可移除或不可移除(或固定)的介质。在合适的情况下，存储器62可在数据处理装置的内部或外部。在特定实施例中，存储器62是非易失性(Non-Volatile)存储器。在特定实施例中，存储器62包括只读存储器(Read-Only Memory，简称为ROM)和随机存取存储器(RandomAccess Memory，简称为RAM)。在合适的情况下，该ROM可以是掩模编程的ROM、可编程ROM(Programmable Read-Only Memory，简称为PROM)、可擦除PROM(Erasable ProgrammableRead-Only Memory，简称为EPROM)、电可擦除PROM(Electrically Erasable ProgrammableRead-Only Memory，简称为EEPROM)、电可改写ROM(Electrically Alterable Read-OnlyMemory，简称为EAROM)或闪存(FLASH)或者两个或更多个以上这些的组合。在合适的情况下，该RAM可以是静态随机存取存储器(Static Random-Access Memory，简称为SRAM)或动态随机存取存储器(Dynamic Random Access Memory，简称为DRAM)，其中，DRAM可以是快速页模式动态随机存取存储器(Fast Page Mode Dynamic Random Access Memory，简称为FPMDRAM)、扩展数据输出动态随机存取存储器(Extended Date Out Dynamic RandomAccess Memory，简称为EDODRAM)、同步动态随机存取内存(Synchronous Dynamic Random-Access Memory，简称SDRAM)等。

存储器62可以用来存储或者缓存需要处理和/或通信使用的各种数据文件，以及处理器61所执行的可能的计算机程序指令。

处理器61通过读取并执行存储器62中存储的计算机程序指令，以实现上述实施例中的任意一种基于接口的机器学习模型发布方法。

在其中一些实施例中，电子设备还可包括通信接口63和总线60。其中，如图3所示，处理器61、存储器62、通信接口63通过总线60连接并完成相互间的通信。

通信端口63可以实现与其他部件例如：外接设备、图像/数据采集设备、数据库、外部存储以及图像/数据处理工作站等之间进行数据通信。

总线60包括硬件、软件或两者，将电子设备的部件彼此耦接在一起。总线60包括但不限于以下至少之一：数据总线(Data Bus)、地址总线(Address Bus)、控制总线(ControlBus)、扩展总线(Expansion Bus)、局部总线(Local Bus)。举例来说而非限制，总线60可包括图形加速接口(Accelerated Graphics Port，简称为AGP)或其他图形总线、增强工业标准架构(Extended Industry Standard Architecture，简称为EISA)总线、前端总线(FrontSide Bus，简称为FSB)、超传输(Hyper Transport，简称为HT)互连、工业标准架构(Industry Standard Architecture，简称为ISA)总线、无线带宽(InfiniBand)互连、低引脚数(Low Pin Count，简称为LPC)总线、存储器总线、微信道架构(Micro ChannelArchitecture，简称为MCA)总线、外围组件互连(Peripheral Component Interconnect，简称为PCI)总线、PCI-Express(PCI-X)总线、串行高级技术附件(Serial AdvancedTechnology Attachment，简称为SATA)总线、视频电子标准协会局部(Video ElectronicsStandards Association Local Bus，简称为VLB)总线或其他合适的总线或者两个或更多个以上这些的组合。在合适的情况下，总线60可包括一个或多个总线。尽管本申请实施例描述和示出了特定的总线，但本申请考虑任何合适的总线或互连。

该电子设备可以执行本申请实施例中的一种基于接口的机器学习模型发布方法。

另外，结合上述实施例中的一种基于接口的机器学习模型发布方法，本申请实施例可提供一种计算机可读存储介质来实现。该计算机可读存储介质上存储有计算机程序指令；该计算机程序指令被处理器执行时实现上述实施例中的任意一种基于接口的机器学习模型发布方法。

而前述的存储介质包括：U盘、移动硬盘、只读存储器(ReadOnly Memory，简称为ROM)、随机存取存储器(Random Access Memory，简称为RAM)、磁碟或者光盘等各种可以存储程序代码的介质。

以上所述实施例的各技术特征可以进行任意的组合，为使描述简洁，未对上述实施例中的各个技术特征所有可能的组合都进行描述，然而，只要这些技术特征的组合不存在矛盾，都应当认为是本说明书记载的范围。

以上所述实施例仅表达了本申请的几种实施方式，其描述较为具体和详细，但并不能因此而理解为对发明专利范围的限制。应当指出的是，对于本领域的普通技术人员来说，在不脱离本申请构思的前提下，还可以做出若干变形和改进，这些都属于本申请的保护范围。因此，本申请专利的保护范围应以所附权利要求为准。

Claims (10)

1.一种基于接口的机器学习模型发布方法，其特征在于，包括：

模型训练步骤，在一机器学习平台上训练完成一机器学习模型；

离线部署步骤，在所述机器学习平台上构建适用于离线数据的离线应用程序接口；

实时部署步骤，在所述机器学习平台上构建适用于实时数据的实时应用程序接口；

接口调用步骤，在一生产环境中根据数据的类型通过所述离线应用程序接口或所述实时应用程序接口对所述机器学习模型进行调用。

2.如权利要求1所述的基于接口的机器学习模型发布方法，其特征在于，所述离线部署步骤包括：在所述机器学习平台中生成一预测脚本，生成所述预测脚本对应的一离线URL地址，并构建所述离线URL接口对应的所述离线应用程序接口服务。

3.如权利要求1所述的基于接口的机器学习模型发布方法，其特征在于，所述实时部署步骤包括：在所述机器学习平台中构建一预测函数，生成所述预测脚本对应的一实时URL地址，并构建所述实时URL接口对应的所述实时应用程序接口服务。

4.如权利要求2所述的基于接口的机器学习模型发布方法，其特征在于，所述离线部署步骤还包括：对所述预测脚本通过DAG平台进行定时运行。

5.如权利要求2所述的基于接口的机器学习模型发布方法，其特征在于，所述离线部署步骤还包括：所述离线应用程序接口服务包括根据一预设起止时间查询预测结果。

6.一种基于接口的机器学习模型发布系统，其特征在于，包括：

模型训练单元，在一机器学习平台上训练完成一机器学习模型；

离线部署单元，在所述机器学习平台上构建适用于离线数据的离线应用程序接口；

实时部署单元，在所述机器学习平台上构建适用于实时数据的实时应用程序接口；

接口调用单元，在一生产环境中根据数据的类型通过所述离线应用程序接口或所述实时应用程序接口对所述机器学习模型进行调用。

7.如权利要求6所述的基于接口的机器学习模型发布系统，其特征在于，所述离线部署单元包括：在所述机器学习平台中生成一预测脚本，生成所述预测脚本对应的一离线URL地址，并构建所述离线URL接口对应的所述离线应用程序接口服务。

8.如权利要求6所述的基于接口的机器学习模型发布系统，其特征在于，所述实时部署单元包括：在所述机器学习平台中构建一预测函数，生成所述预测脚本对应的一实时URL地址，并构建所述实时URL接口对应的所述实时应用程序接口服务。

9.如权利要求7所述的基于接口的机器学习模型发布系统，其特征在于，所述离线部署单元还包括：对所述预测脚本通过DAG平台进行定时运行。

10.如权利要求7所述的基于接口的机器学习模型发布系统，其特征在于，所述离线部署单元还包括：所述离线应用程序接口服务包括根据一预设起止时间查询预测结果。

Images