CN114064079A - 算法应用元的打包方法及装置、设备、存储介质 - Google Patents

算法应用元的打包方法及装置、设备、存储介质 Download PDF

Info

Publication number
CN114064079A
CN114064079A CN202111364206.9A CN202111364206A CN114064079A CN 114064079 A CN114064079 A CN 114064079A CN 202111364206 A CN202111364206 A CN 202111364206A CN 114064079 A CN114064079 A CN 114064079A
Authority
CN
China
Prior art keywords
algorithm
target algorithm
application element
target
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
CN202111364206.9A
Other languages
English (en)
Inventor
屈秋竹
罗春能
陈宇恒
高俊杰
胡武林
舒杰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Sensetime Technology Co Ltd
Original Assignee
Shenzhen Sensetime Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Sensetime Technology Co Ltd filed Critical Shenzhen Sensetime Technology Co Ltd
Priority to CN202111364206.9A priority Critical patent/CN114064079A/zh
Publication of CN114064079A publication Critical patent/CN114064079A/zh
Priority to PCT/CN2022/107167 priority patent/WO2023087764A1/zh
Withdrawn legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F8/00Arrangements for software engineering
    • G06F8/60Software deployment
    • G06F8/65Updates
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F8/00Arrangements for software engineering
    • G06F8/30Creation or generation of source code
    • G06F8/31Programming languages or programming paradigms
    • G06F8/315Object-oriented languages
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F8/00Arrangements for software engineering
    • G06F8/70Software maintenance or management
    • G06F8/71Version control; Configuration management
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/445Program loading or initiating
    • G06F9/44505Configuring for program initiating, e.g. using registry, configuration files

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Security & Cryptography (AREA)
  • Computing Systems (AREA)
  • Stored Programmes (AREA)

Abstract

本申请实施例公开了一种算法应用元的打包方法及装置、设备、存储介质,其中,所述方法包括:获取目标算法;将所述目标算法对应的内容进行打包,得到目标算法应用元;在特定的算法仓中部署所述目标算法应用元,使得在所述算法仓中启动所述目标算法应用元的情况下能够实现所述目标算法对应的功能;其中,所述算法仓为可以运行所述目标算法应用元的系统,且所述目标算法应用元与所述算法仓解耦。

Description

算法应用元的打包方法及装置、设备、存储介质
技术领域
本申请实施例涉及计算机技术,涉及但不限于一种算法应用元的打包方法及装置、设备、存储介质。
背景技术
目前,随着人工智能领域的发展,越来越多的AI(Artificial Intelligence,人工智能)算法被开发出来应用到各行各业。算法在应用的过程中需要不断地迭代,以提升算法的精度和算法的性能。
但是,现有情况下大部分算法迭代周期长,算法从开发、测试和部署上线存在流程复杂,成本高,专业要求高等劣势。因此,如何解决上述问题成为本领域技术人员的研究重点。
发明内容
有鉴于此,本申请实施例提供一种算法应用元的打包方法及装置、设备、存储介质。
本申请实施例的技术方案是这样实现的:
第一方面,本申请实施例提供一种算法应用元的打包方法,所述方法包括:
获取目标算法;
将所述目标算法对应的内容进行打包,得到目标算法应用元;
在特定的算法仓中部署所述目标算法应用元,使得在所述算法仓中启动所述目标算法应用元的情况下能够实现所述目标算法对应的功能;其中,所述算法仓为可以运行所述目标算法应用元的系统,且所述目标算法应用元与所述算法仓解耦。
通过上述方式,能够将目标算法打包成与算法仓系统松耦合的算法应用元,使得目标算法也具备了灵活的部署迭代优势,进而能够将所述目标算法对应的算法应用元直接上传至算法仓系统并启动运行,无需安装
在一些实施例中,所述获取目标算法,包括:获取目标算法对应的配置信息和脚本信息;其中,所述配置信息用于为所述目标算法应用元配置运行参数,所述脚本信息为所述目标算法对应的脚本程序;对应地,所述将所述目标算法对应的内容进行打包,得到目标算法应用元,包括:将所述配置信息和所述脚本信息对应的内容进行打包,得到目标算法应用元。
通过上述方式,能够基于配置信息和脚本信息,将目标算法打包成目标算法应用元。
在一些实施例中,所述获取目标算法,还包括:获取目标算法对应的模型信息;其中,所述模型信息为所述目标算法对应的算法模型;对应地,所述将所述目标算法对应的内容进行打包,得到目标算法应用元,包括:将所述模型信息、所述配置信息和所述脚本信息对应的内容进行打包,得到目标算法应用元。
通过上述方式,能够基于配置信息、脚本信息和模型信息,将目标算法打包成目标算法应用元,从而灵活地配置打包参数,根据实际需要选择不同的打包选项实现对所述目标算法的打包。
在一些实施例中,所述获取目标算法对应的配置信息,包括:获取目标算法对应的任务类型;根据所述任务类型,确定所述目标算法对应的运行管道;将所述运行管道确定为所述目标算法对应的配置信息;对应地,所述获取目标算法对应的模型信息,包括:确定所述运行管道中每一运行阶段对应的算法模型;将所述每一运行阶段对应的算法模型,确定为所述目标算法对应的模型信息。
通过上述方式,能够基于目标算法对应的业务的运行管道确定配置信息的内容,并根据所述运行管道中每一运行阶段对应的算法模型确定模型信息的内容。
在一些实施例中,所述获取目标算法对应的配置信息,还包括:确定所述目标算法应用元的运行环境,以及所述目标算法应用元在所述运行环境下的性能信息;将所述运行环境和所述性能信息确定为所述目标算法对应的配置信息;对应地,在存在多个所述运行环境的情况下,所述获取目标算法对应的模型信息,还包括:确定多个所述运行环境中每一所述运行环境对应的模型信息;将所述每一所述运行环境对应的模型信息,确定为所述目标算法对应的模型信息。
通过上述方式,能够基于目标算法应用元的运行环境,以及所述运行环境下所述目标算法应用元的性能,来确定配置信息的内容,并根据每一运行环境下的模型信息,来确定打包的模型内容。
在一些实施例中,在将所述目标算法应用元作为其他算法应用元的模板的情况下,所述获取目标算法对应的配置信息,还包括:获取所述运行管道、所述运行环境和所述性能信息对应的模板信息;将所述模板信息确定为所述目标算法对应的配置信息。
通过上述方式,能够基于目标算法对应的业务的运行管道、目标算法应用元的运行环境,以及该目标算法应用元在该运行环境下的性能,得到模板信息,并将所述模板信息确定为配置信息的内容,从而可以用所述目标算法应用元来生成其他类似的算法应用元。
在一些实施例中,所述获取目标算法,还包括:获取目标算法对应的动态库信息;其中,所述动态库信息用于被所述脚本信息对应的代码调用以使所述目标算法应用元适用于不同的平台;对应地,所述将所述目标算法对应的内容进行打包,得到目标算法应用元,包括:将所述配置信息、所述脚本信息和所述动态库信息对应的内容进行打包,得到目标算法应用元。
通过上述方式,能够基于配置信息、脚本信息,以及与所述脚本信息相关的动态库信息,将目标算法打包成目标算法应用元,从而灵活地配置打包参数,根据实际需要选择不同的打包选项实现对所述目标算法的打包。
在一些实施例中,所述获取目标算法,还包括:获取目标算法对应的用户文档和格式信息;其中,所述用户文档用于描述所述目标算法应用元的使用信息,所述格式信息用于规范所述目标算法应用元的输入输出数据的格式;对应地,所述将所述目标算法对应的内容进行打包,得到目标算法应用元,包括:将所述配置信息、所述脚本信息、所述用户文档和所述格式信息对应的内容进行打包,得到目标算法应用元。
通过上述方式,能够基于配置信息、脚本信息,以及用户文档和格式信息,将目标算法打包成目标算法应用元,从而灵活地配置打包参数,根据实际需要选择不同的打包选项实现对所述目标算法的打包。
在一些实施例中,所述将所述目标算法对应的内容进行打包,得到目标算法应用元,包括:通过动态语言将所述目标算法对应的内容进行打包,得到目标算法应用元;其中,所述目标算法应用元与所述算法仓所关联的任一镜像之间相互独立。
通过上述方式,能够使用动态语言对目标算法进行打包,同时打包后的算法应用元与镜像之间相互独立,从而可以先发布镜像,再更新算法,实现对算法的灵活管理。
在一些实施例中,所述方法还包括:接收更新请求;其中,所述更新请求的内容为请求将所述目标算法应用元从第一版本更新为第二版本;响应于所述更新请求,停止使用所述算法仓中第一版本的目标算法应用元;在所述算法仓中部署所述第二版本的目标算法应用元。
通过上述方式,能够将新版本的算法打包成算法应用元,然后上传至系统并启用来实现对算法的迭代更新,从而解决现有技术中更新系统中的算法需要更新整个镜像或者更新整个系统的问题。
第二方面,本申请实施例提供一种算法应用元的打包装置,所述装置包括:
获取单元,用于获取目标算法;
打包单元,用于将所述目标算法对应的内容进行打包,得到目标算法应用元;
部署单元,用于在特定的算法仓中部署所述目标算法应用元,使得在所述算法仓中启动所述目标算法应用元的情况下能够实现所述目标算法对应的功能;其中,所述算法仓为可以运行所述目标算法应用元的系统,且所述目标算法应用元与所述算法仓解耦。
第三方面,本申请实施例提供一种电子设备,包括存储器和处理器,所述存储器存储有可在处理器上运行的计算机程序,所述处理器执行所述程序时实现上述方法中的步骤。
第四方面,本申请实施例提供一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现上述方法中的步骤。
本申请实施例提供一种算法应用元的打包方法及装置、设备、存储介质,通过获取目标算法;将所述目标算法对应的内容进行打包,得到目标算法应用元;在特定的算法仓中部署所述目标算法应用元,使得在所述算法仓中启动所述目标算法应用元的情况下能够实现所述目标算法对应的功能;其中,所述算法仓为可以运行所述目标算法应用元的系统,且所述目标算法应用元与所述算法仓解耦,如此,能够将目标算法打包成与算法仓系统松耦合的算法应用元,使得目标算法也具备了灵活的部署迭代优势,进而能够将所述目标算法对应的算法应用元直接上传至算法仓系统并启动运行,无需安装。
附图说明
图1为本申请实施例算法应用元的打包方法的实现流程示意图一;
图2为本申请实施例算法应用元的打包方法的实现流程示意图二;
图3为本申请实施例算法应用元的打包方法的实现流程示意图三;
图4为本申请实施例算法应用元的打包方法的实现流程示意图四;
图5为本申请实施例算法应用元的打包方法的实现流程示意图五;
图6为本申请实施例算法应用元的打包装置的组成结构示意图;
图7为本申请实施例电子设备的一种硬件实体示意图。
具体实施方式
下面结合附图和实施例对本申请的技术方案进一步详细阐述。显然,所描述的实施例仅是本申请一部分实施例,而不是全部的实施例。基于本申请的实施例,本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本申请保护的范围。
在以下的描述中,涉及到“一些实施例”,其描述了所有可能实施例的子集,但是可以理解,“一些实施例”可以是所有可能实施例的相同子集或不同子集,并且可以在不冲突的情况下相互结合。
在后续的描述中,使用用于表示元件的诸如“模块”、“部件”或“单元”的后缀仅为了有利于本申请的说明,其本身没有特定的意义。因此,“模块”、“部件”或“单元”可以混合地使用。
需要指出,本申请实施例所涉及的术语“第一\第二\第三”仅仅是是区别类似的对象,不代表针对对象的特定排序,可以理解地,“第一\第二\第三”在允许的情况下可以互换特定的顺序或先后次序,以使这里描述的本申请实施例能够以除了在这里图示或描述的以外的顺序实施。
基于此,本申请实施例提供一种算法应用元的打包方法,所述方法应用于电子设备,该方法所实现的功能可以通过所述电子设备的处理器调用程序代码来实现,当然程序代码可以保存在所述电子设备的存储介质中。图1为本申请实施例算法应用元的打包方法的实现流程示意图一,如图1所示,所述方法包括:
步骤S101、获取目标算法;
这里,所述电子设备可以为各种类型的具有信息处理能力的设备,例如导航仪、智能手机、平板电脑、可穿戴设备、膝上型便携计算机、一体机和台式计算机、服务器集群等。
需要说明的是,本申请实施例中对所述目标算法的类型并不做限制,所述目标算法可以为任一类型的算法。这里,所述算法是指解题方案的准确而完整的描述,是一系列解决问题的清晰指令,算法代表着用系统的方法描述解决问题的策略机制。所述目标算法可以为人工智能领域的相关算法,例如,人工智能领域的智能视频分析算法、人脸识别算法、指纹识别算法、人体检测跟踪算法等。当然,所述目标算法也可以为其他领域的相关算法,并且通常情况下所述目标算法能够实现特定的业务功能。
在实际使用时,算法在应用中是需要不断迭代的,以提升算法的精度和算法的性能。这个迭代过程,指的就是算法从开发完成到测试完成、再从测试完成到部署上线供用户使用这一整套的流程。
步骤S102、将所述目标算法对应的内容进行打包,得到目标算法应用元;
这里,所述目标算法应用元即所述目标算法对应的Applet,所述Applet是一种算法应用元,可以看作应用程序包(即以功能为单位的一个小程序),里面打包的是算法的模型、代码、配置项等内容,即一个具体的算法逻辑包。
本申请实施例中,可以将所述目标算法对应的内容通过ZIP工具打包,得到目标算法应用元。例如,直接通过Linux Zip命令打包,或者通过内部打包工具进行打包。
步骤S103、在特定的算法仓中部署所述目标算法应用元,使得在所述算法仓中启动所述目标算法应用元的情况下能够实现所述目标算法对应的功能;其中,所述算法仓为可以运行所述目标算法应用元的系统,且所述目标算法应用元与所述算法仓解耦。
这里,可以在特定的算法仓中部署打包得到的目标算法应用元,算法仓中的算法应用元管理服务会在该目标算法应用元中添加签名信息,经过签名的目标算法应用元就可以分发给用户使用。该目标算法应用元可以被直接启动运行,在运行时会首先校验其签名是否正确,如果正确则按其打包内容运行,以实现所述目标算法对应的功能。
本申请实施例中,所述特定的算法仓为一种通用的能够运行任何算法应用元的系统,即所述算法仓为一个特定的算法系统,且所述算法仓与部署在所述算法仓中的任一算法应用元解耦。现有技术中,是将算法逻辑打包到镜像中,因此算法逻辑与系统是耦合在一起的。例如,Docker是一个开源的应用容器引擎,开发者可以打包应用以及依赖包到一个可移植的容器中,然后发布到任何流行的Linux机器上,容器来源于Docker镜像,而镜像可以由用户自制或由运行中的容器提交来生成,镜像生成后可以推送到镜像仓库中进行保存,也可以从镜像仓库拉取到本地以运行容器。也就是说,Docker镜像是一种对应用程序及其运行环境的标准化封装,这样如果需要更新算法,则需要更新整个底座服务镜像,无法单独发布算法,导致算法上线效率低,迭代慢。
而相比于上述现有技术中的方法,本申请实施例中是将目标算法定义为独立便携的算法应用元,无需安装,更加灵活。也就是说,本申请实施例中将目标算法打包成与算法仓系统松耦合的算法应用元,使得目标算法也具备了灵活的部署迭代优势,进而能够在所述算法仓系统中直接部署所述目标算法对应的算法应用元并启动运行,无需安装。
基于前述的实施例,本申请实施例再提供一种算法应用元的打包方法,所述方法应用于电子设备,图2为本申请实施例算法应用元的打包方法的实现流程示意图二,如图2所示,所述方法包括:
步骤S201、获取目标算法对应的配置信息和脚本信息;其中,所述配置信息用于为打包后的所述目标算法配置运行参数,所述脚本信息为所述目标算法对应的脚本程序;
本申请实施例中,打包后的所述目标算法,即对所述目标算法进行打包后得到的目标算法应用元。
这里,配置信息用于为目标算法应用元配置运行参数,所述运行参数可以是描述该目标算法应用元是如何组成的信息,也可以是描述该目标算法应用元是如何运行的信息。例如,所述配置信息可以包括该目标算法应用元的入口文件,所述入口文件说明了该目标算法应用元的运行入口。又如,所述配置信息可以包括该目标算法应用元的运行环境文件,所述运行环境文件描述了该目标算法应用元的运行软件环境、运行硬件环境(如所支持的显卡类型)、性能(如支持跑多少路)、兼容信息等。又如,所述配置信息可以包括模板文件,所述模板文件说明了使用该目标算法应用元来生成其他类似的算法应用元的相关信息。
这里,所述脚本信息为目标算法对应的脚本程序,所述脚本信息包括的文件中可以指定所述脚本程序的路径。通常情况下,所述脚本程序可以为Lua脚本,脚本程序的作用就是执行该目标算法应用元中的算法。
步骤S202、将所述配置信息和所述脚本信息对应的内容进行打包,得到目标算法应用元;
本申请实施例中,所述配置信息和所述脚本信息为对所述目标算法进行打包的必选内容。也就是说,所述目标算法应用元中必须包括所述目标算法对应的配置信息和所述目标算法对应的脚本信息。
步骤S203、在特定的算法仓中部署所述目标算法应用元,使得在所述算法仓中启动所述目标算法应用元的情况下能够实现所述目标算法对应的功能;其中,所述算法仓为可以运行所述目标算法应用元的系统,且所述目标算法应用元与所述算法仓解耦。
基于前述的实施例,本申请实施例再提供一种算法应用元的打包方法,所述方法应用于电子设备,所述方法包括:
步骤S211、获取目标算法对应的配置信息、脚本信息和模型信息;其中,所述配置信息用于为打包后的所述目标算法配置运行参数,所述脚本信息为所述目标算法对应的脚本程序,所述模型信息为所述目标算法对应的算法模型;
本申请实施例中,所述模型信息为对所述目标算法进行打包的可选内容。也就是说,所述目标算法应用元中可以包括所述目标算法对应的模型信息,所述目标算法应用元中也可以不包括所述目标算法对应的模型信息,本领域技术人员可以根据实际使用需求选择是否将所述模型信息进行打包。
这里,模型信息就是一些算法的参数,例如神经网络算法对应的算法模型。本申请实施例中的模型信息可以按不同的硬件来组织,比如按CPU(Central Processing Unit,中央处理器)/显卡来组织。如果存在很多种硬件,则每一硬件平台上都存在对应的模型信息。因此,所述模型信息包括的文件中可以指定不同硬件平台下对应的不同模型信息。本申请实施例中的模型信息还可以按不同的运行阶段来组织,例如所述目标算法为人脸比对算法,则所述目标算法所属业务的运行阶段包括四个阶段:第一特征提取阶段、人脸检测阶段、第二特征提取阶段、人脸比对阶段,对应地,第一阶段对应提取检测特征的算法模型,第二阶段对应检测人脸的算法模型,第三阶段对应提取比对特征的算法模型,第四阶段对应比对人脸的算法模型。因此,所述模型信息包括的文件中可以指定不同运行阶段下对应的不同模型信息。
步骤S212、将所述模型信息、所述配置信息和所述脚本信息对应的内容进行打包,得到目标算法应用元;
步骤S213、在特定的算法仓中部署所述目标算法应用元,使得在所述算法仓中启动所述目标算法应用元的情况下能够实现所述目标算法对应的功能;其中,所述算法仓为可以运行所述目标算法应用元的系统,且所述目标算法应用元与所述算法仓解耦。
基于前述的实施例,本申请实施例再提供一种算法应用元的打包方法,所述方法应用于电子设备,所述方法包括:
步骤S221、获取目标算法对应的任务类型;
这里,所述目标算法对应的任务类型可以是所述目标算法所属任务对应的功能的分类。例如,所述目标算法所属任务对应的功能是人脸比对告警,则所述目标算法对应的任务类型就是对象识别。
步骤S222、根据所述任务类型,确定所述目标算法对应的运行管道;
这里,所述目标算法对应的运行管道(即Pipeline),指的是所述目标算法所属任务的运行阶段,即所述目标算法所属任务中包括的具有一定顺序的若干个过程,或者所述目标算法所属任务中包括的具有一定顺序的若干个执行步骤。因为算法也是一个流水线,因此算法也存在其对应的运行管道。例如,垃圾检测告警算法,先进行对象检测,然后再看检测出的对象的属性等,最后再根据对象的属性做相应的告警。
步骤S223、将所述运行管道确定为所述目标算法对应的配置信息;其中,所述配置信息用于为打包后的所述目标算法配置运行参数;
这里,将所述运行管道确定为所述目标算法对应的配置信息,指的是目标算法应用元中的配置信息包括所述目标算法所属任务对应的运行管道。
步骤S224、确定所述运行管道中每一运行阶段对应的算法模型;
本申请实施例中,由于算法也是一个流水线,算法也存在其对应的运行管道,所述运行管道中又包括多个运行阶段,因此每一运行阶段均对应各自的算法模型。例如,垃圾检测告警算法对应的运行管道包括三个运行阶段,第一运行阶段为对象检测阶段,对应的算法模型为检测算法模型;第二运行阶段为对象属性识别阶段,对应的算法模型为识别算法模型;第三运行阶段为对象告警阶段,对应的算法模型为告警算法模型。
步骤S225、将所述每一运行阶段对应的算法模型,确定为所述目标算法对应的模型信息;其中,所述模型信息为所述目标算法对应的算法模型;
这里,将所述每一运行阶段对应的算法模型,确定为所述目标算法对应的模型信息,指的是目标算法应用元中的模型信息包括所述目标算法的运行管道中每一运行阶段对应的算法模型。例如,上述垃圾检测告警算法对应的模型信息,就包括检测算法模型、识别算法模型和告警算法模型。
步骤S226、获取目标算法对应的脚本信息;其中,所述脚本信息为所述目标算法对应的脚本程序;
步骤S227、将所述模型信息、所述配置信息和所述脚本信息对应的内容进行打包,得到目标算法应用元;
步骤S228、在特定的算法仓中部署所述目标算法应用元,使得在所述算法仓中启动所述目标算法应用元的情况下能够实现所述目标算法对应的功能;其中,所述算法仓为可以运行所述目标算法应用元的系统,且所述目标算法应用元与所述算法仓解耦。
基于前述的实施例,本申请实施例再提供一种算法应用元的打包方法,所述方法应用于电子设备,所述方法包括:
步骤S231、确定打包后的目标算法的运行环境,以及打包后的所述目标算法在所述运行环境下的性能信息;
这里,所述运行环境可以包括软件和硬件两个方面。软件可以包括操作系统,比如Windows操作系统或者Linux操作系统等。硬件可以包括电子设备的配置,比如CPU、内存、显卡、硬盘等。
步骤S232、将所述运行环境和所述性能信息确定为所述目标算法对应的配置信息;其中,所述配置信息用于为打包后的所述目标算法配置运行参数;
举例来说,目标算法应用元在第一运行环境下支持运行N路的数据,目标算法应用元在第二运行环境下支持运行M路的数据,N和M可以相同也可以不同,则支持运行N路的数据、支持运行M路的数据就是所述目标算法应用元在不同运行环境下的性能信息。
步骤S233、在存在多个所述运行环境的情况下,确定多个所述运行环境中每一所述运行环境对应的模型信息;
也就是说,目标算法对应的模型信息在不同的运行环境下是不同的,所述目标算法应用元中的模型信息包括多个运行环境下的模型信息。
步骤S234、将所述每一所述运行环境对应的模型信息,确定为所述目标算法对应的模型信息;其中,所述模型信息为所述目标算法对应的算法模型;
例如,型号为nv_p4的显卡对应的模型为trt21模型和trt51模型,型号为nv_t4的显卡对应的模型为trt22模型和trt52模型。
步骤S235、获取目标算法对应的脚本信息;其中,所述脚本信息为所述目标算法对应的脚本程序;
步骤S236、将所述模型信息、所述配置信息和所述脚本信息对应的内容进行打包,得到目标算法应用元;
这里,将目标算法对应的模型信息的内容、目标算法对应的配置信息的内容和目标算法对应的脚本信息的内容进行打包,得到目标算法应用元。
步骤S237、在特定的算法仓中部署所述目标算法应用元,使得在所述算法仓中启动所述目标算法应用元的情况下能够实现所述目标算法对应的功能;其中,所述算法仓为可以运行所述目标算法应用元的系统,且所述目标算法应用元与所述算法仓解耦。
基于前述的实施例,本申请实施例再提供一种算法应用元的打包方法,所述方法应用于电子设备,所述方法包括:
步骤S241、获取目标算法对应的任务类型;
步骤S242、根据所述任务类型,确定所述目标算法对应的运行管道;
步骤S243、确定打包后的所述目标算法的运行环境,以及打包后的所述目标算法在所述运行环境下的性能信息;
步骤S244、在将打包后的所述目标算法作为其他算法应用元的模板的情况下,获取所述运行管道、所述运行环境和所述性能信息对应的模板信息;
这里,将打包后的所述目标算法作为其他算法应用元的模板,指的是用目标算法应用元来生成其他类似的算法应用元。
本申请实施例中,如果需要利用目标算法应用元来生成其他类似的算法应用元,则可以将所述目标算法的运行管道对应的模板信息,所述目标算法应用元的运行环境对应的模板信息和所述目标算法应用元的性能信息对应的模板信息,作为所述目标算法应用元的打包内容。
步骤S245、将所述运行管道、所述运行环境、所述性能信息和所述模板信息,确定为所述目标算法对应的配置信息;其中,所述配置信息用于为打包后的所述目标算法配置运行参数;
步骤S246、确定所述运行管道中每一运行阶段对应的算法模型;
步骤S247、在存在多个所述运行环境的情况下,确定多个所述运行环境中每一所述运行环境对应的模型信息;
步骤S248、将所述每一运行阶段对应的算法模型和所述每一所述运行环境对应的模型信息,确定为所述目标算法对应的模型信息;其中,所述模型信息为所述目标算法对应的算法模型;
这里,不同运行阶段对应的算法模型和不同运行环境对应的模型信息,是从不同的角度去划分的,因此一算法模型在属于某一运行阶段的同时可能也属于某一运行环境。
步骤S249、获取目标算法对应的脚本信息;其中,所述脚本信息为所述目标算法对应的脚本程序;
步骤S250、将所述模型信息、所述配置信息和所述脚本信息对应的内容进行打包,得到目标算法应用元;
步骤S251、在特定的算法仓中部署所述目标算法应用元,使得在所述算法仓中启动所述目标算法应用元的情况下能够实现所述目标算法对应的功能;其中,所述算法仓为可以运行所述目标算法应用元的系统,且所述目标算法应用元与所述算法仓解耦。
基于前述的实施例,本申请实施例再提供一种算法应用元的打包方法,所述方法应用于电子设备,图3为本申请实施例算法应用元的打包方法的实现流程示意图三,如图3所示,所述方法包括:
步骤S301、获取目标算法对应的配置信息、脚本信息、模型信息和动态库信息;其中,所述配置信息用于为打包后的所述目标算法配置运行参数,所述脚本信息为所述目标算法对应的脚本程序,所述模型信息为所述目标算法对应的算法模型,所述动态库信息用于被所述脚本信息对应的代码调用以使打包后的所述目标算法适用于不同的平台;
这里,所述动态库信息可以为用户动态链接库,所述用户动态链接库中包含能被脚本信息中的脚本程序调用来完成某些工作的函数。
步骤S302、将所述模型信息、所述配置信息和所述脚本信息对应的内容进行打包,得到目标算法应用元;
步骤S303、在特定的算法仓中部署所述目标算法应用元,使得在所述算法仓中启动所述目标算法应用元的情况下能够实现所述目标算法对应的功能;其中,所述算法仓为可以运行所述目标算法应用元的系统,且所述目标算法应用元与所述算法仓解耦。
基于前述的实施例,本申请实施例再提供一种算法应用元的打包方法,所述方法应用于电子设备,所述方法包括:
步骤S311、获取目标算法对应的配置信息、脚本信息和动态库信息;其中,所述配置信息用于为打包后的所述目标算法配置运行参数,所述脚本信息为所述目标算法对应的脚本程序,所述动态库信息用于被所述脚本信息对应的代码调用以使打包后的所述目标算法适用于不同的平台;
步骤S312、将所述配置信息、所述脚本信息和所述动态库信息对应的内容进行打包,得到目标算法应用元;
步骤S313、在特定的算法仓中部署所述目标算法应用元,使得在所述算法仓中启动所述目标算法应用元的情况下能够实现所述目标算法对应的功能;其中,所述算法仓为可以运行所述目标算法应用元的系统,且所述目标算法应用元与所述算法仓解耦。
基于前述的实施例,本申请实施例再提供一种算法应用元的打包方法,所述方法应用于电子设备,所述方法包括:
步骤S321、获取目标算法对应的配置信息、脚本信息、用户文档和格式信息;其中,所述配置信息用于为打包后的所述目标算法配置运行参数,所述脚本信息为所述目标算法对应的脚本程序,所述用户文档用于描述打包后的所述目标算法的使用信息,所述格式信息用于规范打包后的所述目标算法的输入输出数据的格式;
这里,所述用户文档可以包括目标算法应用元的图标,以及所述目标算法应用元的用户使用说明。所述格式信息用于规范目标算法应用元的输入数据的格式和输出数据的格式,即定义输入输出数据的格式,并校验输入输出数据的格式,符合规范则接收数据,是个规范同时也是个说明。
步骤S322、将所述配置信息、所述脚本信息、所述用户文档和所述格式信息对应的内容进行打包,得到目标算法应用元;
步骤S323、在特定的算法仓中部署所述目标算法应用元,使得在所述算法仓中启动所述目标算法应用元的情况下能够实现所述目标算法对应的功能;其中,所述算法仓为可以运行所述目标算法应用元的系统,且所述目标算法应用元与所述算法仓解耦。
本申请实施例中,模型信息、动态库信息、用户文档和格式信息均为将目标算法打包成目标算法应用元的可选内容,如此,能够灵活配置打包参数,根据实际需要选择不同的打包内容实现对所述目标算法的打包。
基于前述的实施例,本申请实施例再提供一种算法应用元的打包方法,所述方法应用于电子设备,图4为本申请实施例算法应用元的打包方法的实现流程示意图四,如图4所示,所述方法包括:
步骤S401、获取目标算法;
步骤S402、通过动态语言将所述目标算法对应的内容进行打包,得到目标算法应用元;
这里,因为所述目标算法应用元是用动态脚本语言做的,所以解压后可以直接使用,就是说在算法仓中部署所述目标算法应用元后就可以解压运行使用。在一些实施例中,算法仓系统可以是基于云原生的算法仓系统。
步骤S403、在特定的算法仓中部署所述目标算法应用元,使得在所述算法仓中启动所述目标算法应用元的情况下能够实现所述目标算法对应的功能;其中,所述算法仓为可以运行所述目标算法应用元的系统,所述目标算法应用元与所述算法仓解耦,所述目标算法应用元与所述算法仓所关联的任一镜像之间相互独立。
现有技术中,算法逻辑是打包到镜像中的不能分离,如果后续有算法方面的更新则需要更新整个镜像。而本申请实施例中,通过这种打包的方式就把算法逻辑和镜像分离了,不用通过将打包和环境一起执行一个镜像的形式去分发,本申请实施例中镜像和算法是相互独立的,算法可以运行在不同的镜像上面。也就是说,算法和镜像是分离的,因此可以先分发镜像,后面再更新算法,实现灵活的算法管理。
在一些实施例中,还提供算法应用元授权功能,例如分析视频流任务会限制其处理的最大路数,其中,最大路数可以通过购买确定。
基于前述的实施例,本申请实施例再提供一种算法应用元的打包方法,所述方法应用于电子设备,图5为本申请实施例算法应用元的打包方法的实现流程示意图五,如图5所示,所述方法包括:
步骤S501、获取目标算法;
步骤S502、将所述目标算法对应的内容进行打包,得到目标算法应用元;
步骤S503、在特定的算法仓中部署所述目标算法应用元,使得在所述算法仓中启动所述目标算法应用元的情况下能够实现所述目标算法对应的功能;其中,所述算法仓为可以运行所述目标算法应用元的系统,且所述目标算法应用元与所述算法仓解耦;
步骤S504、接收更新请求;其中,所述更新请求的内容为请求将所述目标算法应用元从第一版本更新为第二版本;
这里,所述第一版本可以为历史版本,所述第二版本可以为当前版本。
步骤S505、响应于所述更新请求,停止使用所述算法仓中第一版本的目标算法应用元;
步骤S506、在所述算法仓中部署所述第二版本的目标算法应用元。
举例来说,所述目标算法为垃圾检测算法,部署在算法仓中的垃圾检测算法应用元为2015版本,2015版本的垃圾检测算法应用元对于垃圾检测的精度和召回未出现报错情况。2016年开发人员为了解决上述问题对2015版本的垃圾检测算法进行了代码更新等操作,得到2016版本的垃圾检测算法,2016版本的垃圾检测算法对精度和召回都有所提升。进而,可以对2016版本的垃圾检测算法对应的内容进行打包得到2016版本的垃圾检测算法应用元,并停用2015版本的垃圾检测算法应用元,上传、启动2016版本的垃圾检测算法应用元。
本申请实施例中,通过上述步骤S501至步骤S506中的方法,能够将新版本的算法打包成算法应用元,然后部署至算法仓系统并启用来实现对算法的迭代更新,从而解决现有技术中更新系统中的算法需要更新整个镜像或者更新整个系统的问题。
基于前述的实施例,本申请实施例提供一种算法仓模式,在所述算法仓模式下,AI算法通过一些动态语言包装成与运行时系统解耦的算法应用元(即Applet),这些算法应用元打包算法模型、业务逻辑脚本代码和配置,并提供开发者说明和示例供调用者阅读,然后在视觉开发等平台运行,以实现各种复杂的AI算法。
在一些实施例中,为了高效、便捷地在开放视觉平台管理这些算法应用元的存储和运行周期,本申请实施例还提供了一种基于云原生的、具备高可用的、易伸缩的AI算法应用元运行管理系统(即算法仓系统)及对应的算法应用元管理服务,所述算法应用元管理服务在所述算法仓系统中运行时实现一种通用的能够运行任何算法应用元的方式。
本申请实施例主要提供一种算法仓系统中算法应用元的打包方法,具体为基于配置信息、模型信息、脚本信息、动态库信息、用户文档和格式信息的内容,实现对人工智能算法的应用元的打包功能。
下面对上述打包功能的内容进行详细的说明:
(1)配置信息
本申请实施例中,所述配置信息是一个算法应用元的配置文件,例如,包括一个业务的运行管道(Pipeline)等。
举例来说,所述配置文件可以包括如下几部分:算法应用元的入口文件、算法应用元的模板文件、算法应用元的运行环境和性能信息(如AlgoAppSpec定义的内容,与运行时无关,作为渲染默认值)等。
(2)模型信息
本申请实施例中,所述模型信息是算法对应的模型内容。例如,型号为nv_p4的显卡对应的模型为trt21模型和trt51模型,型号为nv_t4的显卡对应的模型为trt22模型和trt52模型。
这里,所述模型信息可以包括不同硬件下的模型信息以及不同运行时段下的模型信息。
(3)脚本信息
本申请实施例中,所述脚本信息是算法对应的脚本程序,不同的算法对应不同的实现代码。例如,算法对应的Lua脚本。
(4)动态库信息
本申请实施例中,所述动态库信息的内容可以被上述脚本信息对应的代码调用,以使算法应用元适用不同的平台。所述动态库信息可为算法对应的动态链接库,例如,Go标准库。并且,可以无需考虑软件版本,例如英伟达平台或华为昇腾平台。
(5)用户文档
本申请实施例中,所述用户文档记录了描述算法应用元的信息。例如,用户文档可以包括对算法应用元的描述文档,还可以包括算法应用元的图标。
(6)格式信息
本申请实施例中,可以由本领域技术人员根据实际使用情况进行设置。所述格式信息是定义算法应用元的输入输出格式,其定义了具体的字段格式和内容,用于对输入输出数据做校验。
在以往技术中算法上线效率低、迭代慢,上线运行新的算法需要更新整个底座服务镜像,无法单独发布算法。本申请实施例中提供的算法仓系统是基于云原生架构、通过扩展kuernetes自定义接口实现的,具有能够发挥云平台分布式、自动伸缩和运维部署友好的特点。同时,与以往与系统耦合的算法运行管理系统相比,本申请实施例中的算法仓系统将智能算法定义为独立便携的算法应用元,无需安装,更加灵活。并且,所述算法仓系统可以管理算法应用元的运行生命周期,管理基于kubernetes状态同步,维护简单的内部状态机、管理操作可以异步进行,在算法应用元打包时可以灵活选择和确认打包参数。
本申请实施例中,当用户需要上线一种新的智能视频和图像分析算法时,不需要更新整个服务的版本,只需要上传新发布的算法应用元,然后启动运行,启动后,业务层可以通过接口(即系统接口,该接口可以运行各种算法应用元)下发处理任务或者图片进行算法分析。如果后续需要更新迭代算法,则停止老版本的算法应用元,上传、启动新版本的算法应用元。例如,历史版本的垃圾检测算法对于垃圾检测的精度和召回未出现报错情况,新版本的垃圾检测算法对精度和召回都有提升后,停用老版本的垃圾检测算法对应的算法应用元,并上传新版本的垃圾检测算法对应的算法应用元。所述新版本的垃圾检测算法应用元可以为使用配置信息、模型信息、脚本、动态库、用户文档、规范格式的内容对新版本的垃圾检测算法进行打包后的内容。
通过上述的打包方法,可以达到如下技术效果:1)基于解耦系统,实现对单个算法应用元的单独打包;2)将智能视频分析算法定义成与系统松耦合的算法应用元,使得智能算法也具备了灵活的部署迭代优势,并且定义的算法应用元无需安装,灵活配置打包参数;3)对发布的算法应用元进行管理的系统可以管理算法应用元的运行生命周期,管理基于kubernetes的状态同步,维护简单的内部状态机,并且管理操作可以异步进行。
基于前述的实施例,本申请实施例提供一种算法应用元的打包装置,该装置包括所包括的各单元、以及各单元所包括的各子单元和各模块、以及各模块所包括的各子模块和各部件,可以通过电子设备中的处理器来实现;当然也可通过具体的逻辑电路实现;在实施的过程中,处理器可以为CPU(Central Processing Unit,中央处理器)、MPU(Microprocessor Unit,微处理器)、DSP(Digital Signal Processing,数字信号处理器)或FPGA(Field Programmable Gate Array,现场可编程门阵列)等。
图6为本申请实施例算法应用元的打包装置的组成结构示意图,如图6所示,所述装置600包括:
获取单元601,用于获取目标算法;
打包单元602,用于将所述目标算法对应的内容进行打包,得到目标算法应用元;
部署单元603,用于在特定的算法仓中部署所述目标算法应用元,使得在所述算法仓中启动所述目标算法应用元的情况下能够实现所述目标算法对应的功能;其中,所述算法仓为可以运行所述目标算法应用元的系统,且所述目标算法应用元与所述算法仓解耦。
在一些实施例中,所述获取单元601,包括:第一获取模块,用于获取目标算法对应的配置信息和脚本信息;其中,所述配置信息用于为所述目标算法应用元配置运行参数,所述脚本信息为所述目标算法对应的脚本程序;对应地,所述打包单元602,包括:第一打包模块,用于将所述配置信息和所述脚本信息对应的内容进行打包,得到目标算法应用元。
在一些实施例中,所述获取单元601,还包括:第二获取模块,用于获取目标算法对应的模型信息;其中,所述模型信息为所述目标算法对应的算法模型;对应地,所述打包单元602,包括:第二打包模块,用于将所述模型信息、所述配置信息和所述脚本信息对应的内容进行打包,得到目标算法应用元。
在一些实施例中,所述第一获取模块,包括:任务获取部件,用于获取目标算法对应的任务类型;管道确定部件,用于根据所述任务类型,确定所述目标算法对应的运行管道;第一配置确定部件,用于将所述运行管道确定为所述目标算法对应的配置信息;对应地,所述第二获取模块,包括:算法模型确定部件,用于确定所述运行管道中每一运行阶段对应的算法模型;第一模型确定部件,用于将所述每一运行阶段对应的算法模型,确定为所述目标算法对应的模型信息。
在一些实施例中,所述第一获取模块,还包括:规格确定部件,用于确定所述目标算法应用元的运行环境,以及所述目标算法应用元在所述运行环境下的性能信息;第二配置确定部件,用于将所述运行环境和所述性能信息确定为所述目标算法对应的配置信息;对应地,在存在多个所述运行环境的情况下,所述第二获取模块,还包括:环境模型确定部件,用于确定多个所述运行环境中每一所述运行环境对应的模型信息;第二模型确定部件,用于将所述每一所述运行环境对应的模型信息,确定为所述目标算法对应的模型信息。
在一些实施例中,在将所述目标算法应用元作为其他算法应用元的模板的情况下,所述第一获取模块,还包括:模板获取部件,用于获取所述运行管道、所述运行环境和所述性能信息对应的模板信息;第三配置确定部件,用于将所述模板信息确定为所述目标算法对应的配置信息。
在一些实施例中,所述获取单元601,还包括:第三获取模块,用于获取目标算法对应的动态库信息;其中,所述动态库信息用于被所述脚本信息对应的代码调用以使所述目标算法应用元适用于不同的平台;对应地,所述打包单元602,包括:第三打包模块,用于将所述配置信息、所述脚本信息和所述动态库信息对应的内容进行打包,得到目标算法应用元。
在一些实施例中,所述获取单元601,还包括:第四获取模块,用于获取目标算法对应的用户文档和格式信息;其中,所述用户文档用于描述所述目标算法应用元的使用信息,所述格式信息用于规范所述目标算法应用元的输入输出数据的格式;对应地,所述打包单元602,包括:第四打包模块,用于将所述配置信息、所述脚本信息、所述用户文档和所述格式信息对应的内容进行打包,得到目标算法应用元。
在一些实施例中,所述打包单元602,包括:打包子单元,用于通过动态语言将所述目标算法对应的内容进行打包,得到目标算法应用元;其中,所述目标算法应用元与所述算法仓所关联的任一镜像之间相互独立。
在一些实施例中,所述装置还包括:请求接收单元,用于接收更新请求;其中,所述更新请求的内容为请求将所述目标算法应用元从第一版本更新为第二版本;请求响应单元,用于响应于所述更新请求,停止使用所述算法仓中第一版本的目标算法应用元;更新单元,用于在所述算法仓中部署所述第二版本的目标算法应用元。
以上装置实施例的描述,与上述方法实施例的描述是类似的,具有同方法实施例相似的有益效果。对于本申请装置实施例中未披露的技术细节,请参照本申请方法实施例的描述而理解。
需要说明的是,本申请实施例中,如果以软件功能模块的形式实现上述的算法应用元的打包方法,并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请实施例的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台电子设备(可以是个人计算机、服务器等)执行本申请各个实施例所述方法的全部或部分。而前述的存储介质包括:U盘、移动硬盘、ROM(Read Only Memory,只读存储器)、磁碟或者光盘等各种可以存储程序代码的介质。这样,本申请实施例不限制于任何特定的硬件和软件结合。
对应地,本申请实施例提供一种电子设备,包括存储器和处理器,所述存储器存储有可在处理器上运行的计算机程序,所述处理器执行所述程序时实现上述实施例中提供的算法应用元的打包方法中的步骤。
对应地,本申请实施例提供一种可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现上述算法应用元的打包方法中的步骤。
对应地,本申请实施例提供一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。电子设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该电子设备执行本申请实施例上述的算法应用元的打包方法。
这里需要指出的是:以上设备、存储介质、程序产品、程序实施例的描述,与上述方法实施例的描述是类似的,具有同方法实施例相似的有益效果。对于本申请设备、存储介质、程序产品、程序实施例中未披露的技术细节,请参照本申请方法实施例的描述而理解。
需要说明的是,图7为本申请实施例电子设备的一种硬件实体示意图,如图7所示,该电子设备700的硬件实体包括:处理器701、通信接口702和存储器703,其中
处理器701通常控制电子设备700的总体操作。
通信接口702可以使电子设备700通过网络与其他服务器或电子设备或平台通信。
存储器703配置为存储由处理器701可执行的指令和应用,还可以缓存待处理器701以及电子设备700中各模块待处理或已经处理的数据(例如,图像数据、音频数据、语音通信数据和视频通信数据),可以通过FLASH(闪存)或RAM(Random Access Memory,随机访问存储器)实现;
其中,电子设备700中的各个硬件实体通过总线704耦合在一起。可理解,总线704用于实现这些硬件实体之间的连接通信。
在本申请所提供的几个实施例中,应该理解到,所揭露的设备和方法,可以通过其它的方式实现。以上所描述的设备实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,如:多个单元或组件可以结合,或可以集成到另一个系统,或一些特征可以忽略,或不执行。另外,所显示或讨论的各组成部分相互之间的耦合、或直接耦合、或通信连接可以是通过一些接口,设备或单元的间接耦合或通信连接,可以是电性的、机械的或其它形式的。
上述作为分离部件说明的单元可以是、或也可以不是物理上分开的,作为单元显示的部件可以是、或也可以不是物理单元,即可以位于一个地方,也可以分布到多个网络单元上;可以根据实际的需要选择其中的部分或全部单元来实现本实施例方案的目的。
另外,在本申请各实施例中的各功能单元可以全部集成在一个处理模块中,也可以是各单元分别单独作为一个单元,也可以两个或两个以上单元集成在一个单元中;上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能单元的形式实现。本领域普通技术人员可以理解:实现上述方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成,前述的程序可以存储于一计算机可读取存储介质中,该程序在执行时,执行包括上述方法实施例的步骤;而前述的存储介质包括:移动存储设备、ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。
本申请所提供的几个方法实施例中所揭露的方法,在不冲突的情况下可以任意组合,得到新的方法实施例。
本申请所提供的几个产品实施例中所揭露的特征,在不冲突的情况下可以任意组合,得到新的产品实施例。
本申请所提供的几个方法或设备实施例中所揭露的特征,在不冲突的情况下可以任意组合,得到新的方法实施例或设备实施例。
以上所述,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以所述权利要求的保护范围为准。

Claims (13)

1.一种算法应用元的打包方法,其特征在于,所述方法包括:
获取目标算法;
将所述目标算法对应的内容进行打包,得到目标算法应用元;
在特定的算法仓中部署所述目标算法应用元,使得在所述算法仓中启动所述目标算法应用元的情况下能够实现所述目标算法对应的功能;其中,所述算法仓为可以运行所述目标算法应用元的系统,且所述目标算法应用元与所述算法仓解耦。
2.根据权利要求1所述的方法,其特征在于,所述获取目标算法,包括:
获取目标算法对应的配置信息和脚本信息;其中,所述配置信息用于为所述目标算法应用元配置运行参数,所述脚本信息为所述目标算法对应的脚本程序;
对应地,所述将所述目标算法对应的内容进行打包,得到目标算法应用元,包括:
将所述配置信息和所述脚本信息对应的内容进行打包,得到目标算法应用元。
3.根据权利要求2所述的方法,其特征在于,所述获取目标算法,还包括:
获取目标算法对应的模型信息;其中,所述模型信息为所述目标算法对应的算法模型;
对应地,所述将所述目标算法对应的内容进行打包,得到目标算法应用元,包括:
将所述模型信息、所述配置信息和所述脚本信息对应的内容进行打包,得到目标算法应用元。
4.根据权利要求3所述的方法,其特征在于,所述获取目标算法对应的配置信息,包括:
获取目标算法对应的任务类型;
根据所述任务类型,确定所述目标算法对应的运行管道;
将所述运行管道确定为所述目标算法对应的配置信息;
对应地,所述获取目标算法对应的模型信息,包括:
确定所述运行管道中每一运行阶段对应的算法模型;
将所述每一运行阶段对应的算法模型,确定为所述目标算法对应的模型信息。
5.根据权利要求4所述的方法,其特征在于,所述获取目标算法对应的配置信息,还包括:
确定所述目标算法应用元的运行环境,以及所述目标算法应用元在所述运行环境下的性能信息;
将所述运行环境和所述性能信息确定为所述目标算法对应的配置信息;
对应地,在存在多个所述运行环境的情况下,所述获取目标算法对应的模型信息,还包括:
确定多个所述运行环境中每一所述运行环境对应的模型信息;
将所述每一所述运行环境对应的模型信息,确定为所述目标算法对应的模型信息。
6.根据权利要求5所述的方法,其特征在于,在将所述目标算法应用元作为其他算法应用元的模板的情况下,所述获取目标算法对应的配置信息,还包括:
获取所述运行管道、所述运行环境和所述性能信息对应的模板信息;
将所述模板信息确定为所述目标算法对应的配置信息。
7.根据权利要求2至6任一项所述的方法,其特征在于,所述获取目标算法,还包括:
获取目标算法对应的动态库信息;其中,所述动态库信息用于被所述脚本信息对应的代码调用以使所述目标算法应用元适用于不同的平台;
对应地,所述将所述目标算法对应的内容进行打包,得到目标算法应用元,包括:
将所述配置信息、所述脚本信息和所述动态库信息对应的内容进行打包,得到目标算法应用元。
8.根据权利要求2至7任一项所述的方法,其特征在于,所述获取目标算法,还包括:
获取目标算法对应的用户文档和格式信息;其中,所述用户文档用于描述所述目标算法应用元的使用信息,所述格式信息用于规范所述目标算法应用元的输入输出数据的格式;
对应地,所述将所述目标算法对应的内容进行打包,得到目标算法应用元,包括:
将所述配置信息、所述脚本信息、所述用户文档和所述格式信息对应的内容进行打包,得到目标算法应用元。
9.根据权利要求1至8任一项所述的方法,其特征在于,所述将所述目标算法对应的内容进行打包,得到目标算法应用元,包括:
通过动态语言将所述目标算法对应的内容进行打包,得到目标算法应用元;
其中,所述目标算法应用元与所述算法仓所关联的任一镜像之间相互独立。
10.根据权利要求1至9任一项所述的方法,其特征在于,所述方法还包括:
接收更新请求;其中,所述更新请求的内容为请求将所述目标算法应用元从第一版本更新为第二版本;
响应于所述更新请求,停止使用所述算法仓中第一版本的目标算法应用元;
在所述算法仓中部署所述第二版本的目标算法应用元。
11.一种算法应用元的打包装置,其特征在于,所述装置包括:
获取单元,用于获取目标算法;
打包单元,用于将所述目标算法对应的内容进行打包,得到目标算法应用元;
部署单元,用于在特定的算法仓中部署所述目标算法应用元,使得在所述算法仓中启动所述目标算法应用元的情况下能够实现所述目标算法对应的功能;其中,所述算法仓为可以运行所述目标算法应用元的系统,且所述目标算法应用元与所述算法仓解耦。
12.一种电子设备,包括存储器和处理器,所述存储器存储有可在处理器上运行的计算机程序,所述处理器执行所述程序时实现权利要求1至10任一项所述方法中的步骤。
13.一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现权利要求1至10任一项所述方法中的步骤。
CN202111364206.9A 2021-11-17 2021-11-17 算法应用元的打包方法及装置、设备、存储介质 Withdrawn CN114064079A (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202111364206.9A CN114064079A (zh) 2021-11-17 2021-11-17 算法应用元的打包方法及装置、设备、存储介质
PCT/CN2022/107167 WO2023087764A1 (zh) 2021-11-17 2022-07-21 算法应用元的打包方法及装置、设备、存储介质和计算机程序产品

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111364206.9A CN114064079A (zh) 2021-11-17 2021-11-17 算法应用元的打包方法及装置、设备、存储介质

Publications (1)

Publication Number Publication Date
CN114064079A true CN114064079A (zh) 2022-02-18

Family

ID=80277539

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111364206.9A Withdrawn CN114064079A (zh) 2021-11-17 2021-11-17 算法应用元的打包方法及装置、设备、存储介质

Country Status (2)

Country Link
CN (1) CN114064079A (zh)
WO (1) WO2023087764A1 (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023087764A1 (zh) * 2021-11-17 2023-05-25 上海商汤智能科技有限公司 算法应用元的打包方法及装置、设备、存储介质和计算机程序产品
CN117555586A (zh) * 2024-01-11 2024-02-13 之江实验室 一种算法应用发布、管理及评分方法

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111913743B (zh) * 2019-05-09 2023-04-14 杭州海康威视数字技术股份有限公司 数据处理方法及装置
CN111126895A (zh) * 2019-11-18 2020-05-08 青岛海信网络科技股份有限公司 一种复杂场景下调度智能分析算法的管理仓库及调度方法
US11455574B2 (en) * 2019-11-21 2022-09-27 International Business Machines Corporation Dynamically predict optimal parallel apply algorithms
CN112905328B (zh) * 2021-03-04 2023-09-19 杭州海康威视数字技术股份有限公司 任务处理方法、装置及计算机可读存储介质
CN114064079A (zh) * 2021-11-17 2022-02-18 深圳市商汤科技有限公司 算法应用元的打包方法及装置、设备、存储介质

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023087764A1 (zh) * 2021-11-17 2023-05-25 上海商汤智能科技有限公司 算法应用元的打包方法及装置、设备、存储介质和计算机程序产品
CN117555586A (zh) * 2024-01-11 2024-02-13 之江实验室 一种算法应用发布、管理及评分方法
CN117555586B (zh) * 2024-01-11 2024-03-22 之江实验室 一种算法应用发布、管理及评分方法

Also Published As

Publication number Publication date
WO2023087764A1 (zh) 2023-05-25

Similar Documents

Publication Publication Date Title
US11948003B2 (en) System and method for automated production and deployment of packaged AI solutions
US11288055B2 (en) Model-based differencing to selectively generate and deploy images in a target computing environment
US11665064B2 (en) Utilizing machine learning to reduce cloud instances in a cloud computing environment
WO2023087764A1 (zh) 算法应用元的打包方法及装置、设备、存储介质和计算机程序产品
US9959336B2 (en) Compiling extract, transform, and load job test data cases
EP3525119B1 (en) Fpga converter for deep learning models
US20210133087A1 (en) Test automation for data processing
CN111309734B (zh) 自动生成表数据的方法及系统
CN114881233B (zh) 一种基于容器的分布式模型推理服务方法
US20170054790A1 (en) System and Method for Object Compression and State Synchronization
CN112015519A (zh) 模型线上部署方法及装置
CN106462442A (zh) 加载虚拟机的系统和方法
US11755294B2 (en) Systems and methods for generating service access points for RTE services in code or other RTE service information for use with the code
US11409564B2 (en) Resource allocation for tuning hyperparameters of large-scale deep learning workloads
CN115438768A (zh) 模型推理方法、装置、计算机设备及存储介质
CN114327779B (zh) 一种应用运行环境搭建方法、装置及存储介质
US20220366055A1 (en) Risk Assessment of a Container Build
CN111078263A (zh) 基于Drools规则引擎的热部署方法、系统、服务器及存储介质
US20230130627A1 (en) Method for collaboration using cell-based computational notebooks
WO2024060690A1 (en) Automated machine learning model deployment
US20240152371A1 (en) Dynamic re-execution of parts of a containerized application pipeline
US11836483B1 (en) Compatible and secure software upgrades
US12014161B2 (en) Deployment of management features using containerized service on management device and application thereof
CN110837896B (zh) 机器学习模型的存储和调用方法、装置
US20240086188A1 (en) Automatic navigation between reference architecture and code repository

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
REG Reference to a national code

Ref country code: HK

Ref legal event code: DE

Ref document number: 40064037

Country of ref document: HK

WW01 Invention patent application withdrawn after publication
WW01 Invention patent application withdrawn after publication

Application publication date: 20220218