CN114880995B - 算法方案部署方法及相关装置、设备和存储介质 - Google Patents

Abstract

本申请公开了一种算法方案部署方法及相关装置、设备和存储介质，其中，算法方案部署方法包括：响应于方案平台上新创建的方案项目，基于方案平台内置的算法模型库，得到适用于方案项目的若干第一算法模型，并基于方案平台内置的转换工具库，得到适用于目标平台的格式转换工具；其中，目标平台表征方案项目构建完毕后所部署的芯片平台；基于格式转换工具，分别对若干第一算法模型进行格式转换，得到与目标平台匹配的第二算法模型；基于第二算法模型进行方案部署，得到算法方案。上述方案，能够实现算法方案在各类芯片平台的部署应用。

Description

算法方案部署方法及相关装置、设备和存储介质

技术领域

本申请涉及人工智能领域，特别是涉及一种算法方案部署方法及相关装置、设备和存储介质。

背景技术

人工智能（Artificial Intelligence，AI）是计算机科学的一个重要分支，近几十年来，随着计算机软硬件技术的快速发展，人工智能得到迅猛的发展，在诸多行业领域获得广泛的应用。

然而，目前人工智能平台功能单一，仅适用于单一的芯片平台，不具备泛用性。有鉴于此，如何实现算法方案在各类芯片平台的部署应用，成为亟需解决的问题。

发明内容

本申请主要解决的技术问题是提供一种算法方案部署方法及相关装置、设备和存储介质，能够实现算法方案在各类芯片平台的部署应用。

为了解决上述技术问题，本申请第一方面提供了一种算法方案部署方法，包括：响应于方案平台上新创建的方案项目，基于方案平台内置的算法模型库，得到适用于方案项目的若干第一算法模型，并基于方案平台内置的转换工具库，得到适用于目标平台的格式转换工具；其中，目标平台表征方案项目构建完毕后所部署的芯片平台；基于格式转换工具，分别对若干第一算法模型进行格式转换，得到与目标平台匹配的第二算法模型；基于第二算法模型进行方案部署，得到算法方案。

为了解决上述技术问题，本申请第二方面提供了一种算法方案部署装置，包括：算法模型选择模块、算法模型转换模块和算法方案部署模块。其中，算法模型选择模块用于响应于方案平台上新创建的方案项目，基于方案平台内置的算法模型库，得到适用于方案项目的若干第一算法模型，并基于方案平台内置的转换工具库，得到适用于目标平台的格式转换工具；其中，目标平台表征方案项目构建完毕后所部署的芯片平台；算法模型转化模块用于基于格式转换工具，分别对若干第一算法模型进行格式转换，得到与目标平台匹配的第二算法模型；算法方案部署模块用于基于第二算法模型进行方案部署，得到算法方案。

为了解决上述技术问题，本申请第三方面提供了一种算法方案部署设备，包括人机交互电路、存储器和处理器，人机交互电路、存储器分别耦接至处理器，处理器用于执行存储器存储的程序指令，以实现上述第一方面中的算法方案部署方法。

为了解决上述技术问题，本申请第四方面提供了一种计算机可读存储介质，存储有能够被处理器运行的程序指令，程序指令用于实现上述第一方面中的算法方案部署方法。

上述方案中，通过在方案平台上创建方案项目，并在方案平台的内置算法模型库中得到适用于方案项目的第一算法模型，进而根据方案平台内置的转换工具库，得到适用于目标平台的格式转换工具，然后根据格式转换工具对第一算法模型进行格式转换得到与目标平台匹配的第二算法模型，最终利用第二算法模型进行方案部署，确定算法方案。因此，用户可以算法模型库中自主选择合适的第一算法模型，大大提高了用户进行算法方案设计的自由度，同时利用格式转换工具将第一算法模型转换成与目标平台匹配的第二算法模型，可以使得第二算法模型与各类芯片平台得到适配，进而最终的算法方案也可以更加泛用性地适用于各类芯片平台。

附图说明

图1是本申请算法方案部署方法一实施例的流程示意图；

图2是根据连接关系得到算法方案一实施例的框架示意图；

图3是本申请算法方案部署方法另一实施例的流程示意图；

图4是本申请算法方案部署方法又一实施例的流程示意图；

图5是是本申请算法方案部署方法又一实施例的流程示意图；

图6是本申请算法方案部署装置一实施例的框架示意图；

图7是本申请算法方案部署设备一实施例的框架示意图；

图8是本申请计算机可读存储介质一实施例的框架示意图。

具体实施方式

下面结合说明书附图，对本申请实施例的方案进行详细说明。

以下描述中，为了说明而不是为了限定，提出了诸如特定系统结构、接口、技术之类的具体细节，以便透彻理解本申请。

本文中术语“系统”和“网络”在本文中常被可互换使用。本文中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本文中字符“/”，一般表示前后关联对象是一种“或”的关系。此外，本文中的“多”表示两个或者多于两个。

人工智能平台是能够为第三方开发者、企业和研究机构等需求方提供全面或垂直领域的、可二次开发的具有人工智能能力的平台。一般情况下，人工智能平台既可以部署在本地，也可以部署在云端服务器。用户在应用人工智能平台时，一般先进行项目创建，进而将原始数据从各种数据源导入到数据湖，进行数据拆分、清洗等数据预处理工作；然后，把数据交给人工智能训练集群通过机器学习神经算法框架进行训练；在训练完成后可以把得到的最优参数设置模型，进行人工智能应用的部署；最后把机器学习的数据进行归档。

请参阅图1，图1是本申请算法方案部署方法一实施例的流程示意图。具体而言，本实施例中的算法方案部署方法可以包括如下步骤：

步骤S11：响应于方案平台上新创建的方案项目，基于方案平台内置的算法模型库，得到适用于方案项目的若干第一算法模型，并基于方案平台内置的转换工具库，得到适用于目标平台的格式转换工具。

简要说明，本实施例中的目标平台表征方法项目构建完毕后所部署的芯片平台。具体地，目标平台可以是诸如海思平台、寒武纪平台、爱芯平台和T4平台等等平台，在此不做具体限制。

在一个实施场景中，方案平台内置的算法模型库中包含有各类算法模型，用户可以根据自己的方案需求自主选择合适的若干算法模型作为第一算法模型。

在一个实施场景中，每个目标平台均具备唯一的身份信息标识，可以根据目标平台的身份信息标识得到与其适配的格式转换工具。

在一个具体的实施场景中，可以构建目标平台与格式转换工具的对应关系表，如表1所示，表1是目标平台与格式转换工具的对应关系表一实施例的示意表。具体而言，每个目标平台的身份信息标识均与唯一的一个转换工具所对应，例如平台1与转换工具1相对应，平台2与转换工具2相对应，平台3与转换工具3相对应。故而仅需要确定目标平台即可确定选用何种格式转换工具。

表1目标平台与格式转换工具的对应关系表一实施例的示意表

目标平台身份信息标识	格式转换工具
		平台1	转换工具1
平台2	转换工具2
		平台3	转换工具3

在另一个具体的实施场景中，也可以构建通用格式转换工具，使其尽可能适用于各类目标平台。

步骤S12：基于格式转换工具，分别对若干第一算法模型进行格式转换，得到与目标平台匹配的第二算法模型。

本实施例中，对于第一算法模型的具体格式不做限制，例如pytorch模型和TensorFlow模型等。故而，第一算法模型的格式产物会存在多种格式，例如caffe模型、onnx模型、darknet模型等。进一步地，通过格式转换工具，将第一算法模型的格式产物进行转换，得到与目标平台匹配的第二算法模型。

在一个实施场景中，为了提高第二算法模型的统一性，可以将第二算法模型的格式后缀固定为‘.nnx’。进一步地，还可以对第二算法模型进行加密处理，提高其安全性。

步骤S13：基于第二算法模型进行方案部署，得到算法方案。

在一个实施场景中，可以将各个第二算法模型分别导入方案项目，并在方案项目中确定各个第二算法模型之间的连接关系；并基于最新的方案项目，打包得到算法方案。因此，可以根据不同第二算法模型之间的连接关系，将第二算法模型进行连接，得到整体算法方案，更加方便、快捷。

进一步地，连接关系可以通过获取各个第二算法模型的输入输出要求，进而基于输入输出要求，在方案项目中确定各个第二算法模型的连接关系。因此，根据各个第二算法模型的输入输出要求确定连接关系，充分考虑了各个第二算法模型之间的数据流转，因而最终得到的算法方案中各个子节点之间数据可以充分流转，算法方案更加可靠、准确。

在一个具体的实施场景中，如图2所示，图2是根据连接关系得到算法方案一实施例的框架示意图。具体而言，第二算法模型包括OD（object detection）目标检测模型、OT（objecttracking）目标跟踪模型、OC（Object Classification）目标分类模型和TBA报警逻辑模型。视频流信息同时作为OD模型、OT模型、OC模型和TBA模型的输入，OD模型的输出作为OT模型的输入，OT模型的输出作为OC模型和TBA模型的输入，OC模型的输出作为TBA模型的输入，最终TBA模型统筹视频流信息、OT模型的输出、OC模型的输出，得到目标抓拍结果。

在另一个具体的实施场景中，如表2所示，表2是平台与芯片及算法调度库的版本信息对应关系表。具体而言，平台1与芯片版本1、算法调度库版本1相对应，平台2与芯片版本2、算法调度库版本2相对应，平台3与芯片版本3、算法调度库版本3相对应。在确定各个第二算法模型之间的连接关系以及目标平台之后，还可以将根据目标平台的不同，确定相应的目标平台上芯片的版本信息以及各个算法调度库的版本信息，并将相关版本信息打包进算法方案中。

表2平台与芯片及算法调度库的版本信息对应关系表

目标平台身份标识信息	芯片版本信息	算法调度库版信息
			平台1	芯片版本1	算法调度库版本1
平台2	芯片版本2	算法调度库版本2
			平台3	芯片版本3	算法调度库版本3

上述方案中，通过在方案平台上创建方案项目，并在方案平台的内置算法模型库中得到适用于方案项目的第一算法模型，进而根据方案平台内置的转换工具库，得到适用于目标平台的格式转换工具，然后根据格式转换工具对第一算法模型进行格式转换得到与目标平台匹配的第二算法模型，最终利用第二算法模型进行方案部署，确定算法方案。因此，用户可以算法模型库中自主选择合适的第一算法模型，大大提高了用户进行算法方案设计的自由度，同时利用格式转换工具将第一算法模型转换成与目标平台匹配的第二算法模型，可以使得第二算法模型与各类芯片平台得到适配，进而最终的算法方案也可以更加泛用性地适用于各类芯片平台。

请参阅图3，图3是本申请算法方案部署方法另一实施例的流程示意图。具体而言，本实施例中的算法方案部署方法可以包括如下步骤：

步骤S31：响应于方案平台上新创建的方案项目，基于方案项目的目标功能，在方案平台内置的算法模型库筛选得到若干候选算法模型。

本实施例中，方案项目创建完毕后应用于目标场景，以实现用户的目标。

在一个实施场景中，用户可以按照自己的方案需求在方案平台内置的算法模型库筛选得到若干候选算法模型。

步骤S32：基于目标场景，分别确定各候选算法模型是否需重新训练。

在一个实施场景中，各候选算法模型已预先基于样本场景采样到的第一样本数据训练。进一步地，样本场景可以与目标场景存在显著区别。因此，响应于候选算法模型预先训练时对应的样本场景匹配于目标场景，确定候选算法模型无需重新训练；响应于候选算法模型预先训练时对应的样本场景不匹配于目标场景，确定候选算法模型需要重新训练。故而，通过样本场景和目标场景进行匹配分析，可以确定候选算法模型是否适用于用户的目标场景，对于不匹配的目标场景还可以重新训练，因此使得最终确定的第一算法模型可以尽可能与用户的要求所匹配。

步骤S33：基于各候选算法模型是否需重新训练，得到适用于方案项目的若干第一算法模型。

在一个实施场景中，响应于候选算法模型需要重新训练，获取与目标场景匹配的第二样本数据，并基于方案平台内置的模型训练规则和第二样本数据，重新训练候选算法模型，得到第一算法模型；响应于候选算法模型无需重新训练，直接将候选算法模型，作为第一算法模型。因此，对于需要重新训练的候选算法模型重新进行训练，得到第一算法模型，或者，对于无需重新训练的候选算法模型直接作为第一算法模型，使得最终获取的第一算法模型能够与目标场景充分匹配。

在一个具体的实施场景中，用户可将自身的业务素材导入方案平台作为第二样本数据，用户也可以评估本方案平台链接的数据服务器存储的素材作为第二样本数据，在此不作限制。

步骤S34：基于方案平台内置的转换工具库，得到适用于目标平台的格式转换工具。

具体实施方式可以参照前述实施例步骤S11中“基于方案平台内置的转换工具库，得到适用于目标平台的格式转换工具”，在此不再赘述。

步骤S35：基于格式转换工具，分别对若干第一算法模型进行格式转换，得到与目标平台匹配的第二算法模型。

具体实施方式可以参照前述实施例中步骤S12，在此不再赘述。

步骤S36：基于第二算法模型进行方案部署，得到算法方案。

具体实施方式可以参照前述实施例中步骤S13，在此不再赘述。

区别于前述实施例，本实施例中基于方案项目的目标功能，在算法模型库筛选得到若干候选算法模型；并基于目标场景，分别确定各候选算法模型是否需重新训练，最终基于各候选算法模型是否需重新训练，得到适用于方案项目的若干第一算法模型。故而，无论候选算法模型是否满足目标场景要求，均可以通过重新训练或者其他方式最终得到第一算法模型，使得第一算法模型充分保证了其与目标场景匹配程度，更加符合用户的需求。

请参阅图4，图4是本申请算法方案部署方法又一实施例的流程示意图。具体而言，本实施例中的算法方案部署方法可以包括如下步骤：

步骤S41：响应于方案平台上新创建的方案项目，基于方案平台内置的算法模型库，得到适用于方案项目的若干第一算法模型，并基于方案平台内置的转换工具库，得到适用于目标平台的格式转换工具。

具体实施方式可以参照前述实施例中步骤S11，在此不再赘述。

步骤S42：基于格式转换工具，分别对若干第一算法模型进行格式转换，得到与目标平台匹配的第二算法模型。

具体实施方式可以参照前述实施例中步骤S12，在此不再赘述。

步骤S43：获取第一算法模型的第一测试数据和由第一算法模型格式转换得到的第二算法模型的第二测试数据。

本实施例中，第一测试数据和第二测试数据是根据同一个样本数据分别由第一算法模型和第二算法模型输出得到。

在一个实施场景中，可以分别计算不同量化方式下，第一算法模型和第二算法模型对相同测试数据的测试结果差距；并基于最小测试结果差距，确定第一算法模型和第二算法模型的量化方式，其中，第一测试数据、第二测试数据均基于确定后的量化方式获取得到。故而，通过计算不同量化方式下的第一算法模型和第二算法模型对相同测试数据的测试结果差距，得到最优的量化方式，保证第二算法模型的输出精度在可控范围。

在一个具体的实施场景中，第一算法模型的输出类型包括Inference、TopN和Yolo等。Inference输出节点情况下，准确率量化方式可以采用余弦相似度；TopN后处理节点情况下准确率量化方式可以结合置信度和类别；Yolo后处理节点情况下准确率量化方式还可以结合置信度、类别和检测框，在此不做具体限制。对比3种不同量化方式下第一算法模型和第二算法模型准确率的差距，以最小差距所对应的量化方式作为第一算法模型和第二算法模型的量化方式。其他不同的第一算法模型的量化方式选择可以参照本实施例，在此不再赘述。

步骤S44：基于第一测试数据和第二测试数据之间的对比结果，确定第二算法模型是否需要重新训练。

在一个实施场景中，响应于对比结果满足预设条件，确定第二算法模型无需重新训练；响应于对比结果不满足预设条件，确定第二算法模型需要重新训练。进一步地，对比结果包括第一测试数据和第二测试数据之间数值差异，预设条件包括数值差异的绝对值小于预设阈值。

在一个具体的实施场景中，对比结果包括第一测试数据和第二测试数据数值差异的绝对值，预设条件可以设置为绝对值小于10、20等某个具体阈值，当然也可以设置为绝对值占第一测试数据的比例小于0.2、0.3等某个具体阈值，在此不做具体限制。

在另一个具体的实施场景中，可以获取测试数据，测试数据标注有真实目标数量，将测试数据输入已经确定量化方式的第二算法模型，得到检测数量，检测数量表征算法检测目标时检测到的正确目标的数量。将检测数量与真实目标数量的比值作为检测率，将检测数量与算法检测的总数量的比值作为有效率。进而，当检测率和有效率存在一者小于重训阈值时，重新训练第二算法模型。

步骤S45：基于第二算法模型进行方案部署，得到算法方案。

具体实施方式可以参照前述实施例中步骤S13，在此不再赘述。

区别于前述实施例，本实施例在得到算法方案之间进一步确定算法模型的量化方式，并基于第一算法模型和第二算法模型的测试结果差距对第一算法模型重新进行训练，使得最终确定的第二算法模型更加准确。

请参阅图5，图5是本申请算法方案部署方法又一实施例的流程示意图。具体而言，本实施例中的算法方案部署方法可以包括如下步骤：

步骤S501：创建项目以及相应的参数设置。

创建项目的具体实施方式可以参照前述实施例中的步骤S11中“响应于方案平台上新创建的方案项目”的相关内容，在此不再赘述。需要说明的是，相应的参数设置可以包括项目运行速度、内存空间等参数。

步骤S502：判断是否使用平台嵌入的算法模型，若是，执行步骤S506，否则执行步骤S503。

具体实施方式可以参照前述实施例中的“基于目标场景，分别确定各候选算法模型是否需重新训练”，在此不再赘述。

步骤S503：导入数据集。

具体实施方式可以参照前述实施例中“获取与目标场景匹配的第二样本数据”，在此不再赘述。

步骤S504：设置训练参数。

在一个具体的实施场景中，设置训练参数可以包括设置训练周期、网络复杂程度、是否使用特定数据增强和常规数据增强等，在此不做具体限制。

步骤S505：训练模型。

具体实施方式可以参照前述实施例中“基于方案平台内置的模型训练规则和第二样本数据，重新训练候选算法模型”，在此不再赘述。

步骤S506：模型转换。

具体实施方式可以参照前述实施例中的步骤S12，在此不再赘述。可以理解的是，此时将第一算法模型转换为第二算法模型。

步骤S507：判断是否迭代优化算法模型，若是，执行步骤S514，否则执行步骤S508。

具体实施方式可以参照前述实施例中的“基于第一测试数据和第二测试数据之间的对比结果，确定第二算法模型是否需要重新训练”，在此不再赘述。

步骤S508：将各个算法模型导入相应项目中。

将各个算法模型导入至与之对应的项目中，为后续确定项目方案做准备。

步骤S509：判断是否迭代优化算法模型，若是，执行步骤S514，否则执行步骤S510。

可以理解的是，步骤S509中的算法模型相当于前述实施例中的第二算法模型，迭代优化算法模型相当于重新训练第一算法模型。故而，基于导入方案项目的第二算法模型的输出结果是否满足目标场景的应用要求，确定是否需要训练第一算法模型。更为具体地，当目标场景为路口车辆识别的情况下，此时应用要求可以包括能够准确识别路口经过的车辆的数量、车牌号码等等；当目标场景为语音识别翻译的情况下，此时应用要求可以包括能够准确对输入的语音进行识别，并准确翻译为目标语种的文字或语音。

在一个实施场景中，响应于导入方案项目的第二算法模型的输出结果不满足目标场景，确定需要重新训练第一算法模型，执行步骤S514；响应于导入方案项目的第二算法模型的输出结果满足目标场景，确定无需训练第一算法模型，执行步骤S510。

步骤S510：确定各个模型之间的连接方式。

具体实施方式可以参照前述实施例中“在方案项目中确定各个第二算法模型之间的连接关系”，在此不再赘述。

步骤S511：判断是否迭代优化算法模型，若是，执行步骤S514，否则执行步骤S512。

类似地，步骤S511中的算法模型相当于前述实施例中确定连接关系后第二算法模型，迭代优化算法模型相当于重新训练第一算法模型。故而，基于确定连接关系后的第二算法模型的输出结果是否满足目标场景的应用要求，确定是否需要训练第一算法模型。

在一个实施场景中，响应于确定连接关系后的第二算法模型的输出结果不满足目标场景，确定需要重新训练第一算法模型，执行步骤S514；响应于确定连接关系后的第二算法模型的输出结果满足目标场景，确定无需训练第一算法模型，执行步骤S512。

步骤S512：模型自动化部署。

具体实施方式可以参照前述实施例中步骤S13，在此不再赘述。值得一提的是，算法方案还支持用户直接下载对应算法方案部署包，可直接部署在现场设备中。

步骤S513：判断是否迭代优化算法模型，若是，执行步骤S514，否则流程执行完毕。

类似地，步骤S513中的算法模型相当于前述实施例中的算法方案，迭代优化算法模型相当于重新训练第一算法模型。故而，基于算法方案的输出结果是否满足目标场景的应用要求，确定是否需要训练第一算法模型。

在一个实施场景中，响应于算法方案的输出结果不满足目标场景，确定需要重新训练第一算法模型，执行步骤S514；响应于算法方案的输出结果满足目标场景，确定无需重新训练第一算法模型，流程执行完毕。

步骤S514：选择需要训练的算法模型。

在一个实施场景中，选择不满足目标场景的若干第一算法模型。

步骤S515：返回执行步骤S503及其后续步骤。

返回执行步骤S503，重新导入数据集，执行后续相关步骤。

区别于前述实施例，本实施例中明确了在获得算法方案的各个节点均可以返回重新训练第一算法模型，故而最终得到的算法方案可以满足用户的目标场景，大大提高了算法方案的效用性。

请参阅图6，图6是本申请算法方案部署装置60一实施例的框架示意图。具体而言，算法方案部署装置60包括算法模型选择模块61、算法模型转化模块62和算法方案部署模块63。进一步地，算法模型选择模块61用于响应于方案平台上新创建的方案项目，基于方案平台内置的算法模型库，得到适用于方案项目的若干第一算法模型，并基于方案平台内置的转换工具库，得到适用于目标平台的格式转换工具；其中，目标平台表征方案项目构建完毕后所部署的芯片平台；算法模型转化模块62用于基于格式转换工具，分别对若干第一算法模型进行格式转换，得到与目标平台匹配的第二算法模型；算法方案部署模块63用于基于第二算法模型进行方案部署，得到算法方案。

上述方案中，通过在方案平台上创建方案项目，并在方案平台的内置算法模型库中得到适用于方案项目的第一算法模型，进而根据方案平台内置的转换工具库，得到适用于目标平台的格式转换工具，然后根据格式转换工具对第一算法模型进行格式转换得到与目标平台匹配的第二算法模型，最终利用第二算法模型进行方案部署，确定算法方案。因此，用户可以算法模型库中自主选择合适的第一算法模型，大大提高了用户进行算法方案设计的自由度，同时利用格式转换工具将第一算法模型转换成与目标平台匹配的第二算法模型，可以使得第二算法模型与各类芯片平台得到适配，进而最终的算法方案也可以更加泛用性地适用于各类芯片平台。

在一些公开实施例中，方案项目创建完毕后应用于目标场景。算法模型选择模块61还包括模型筛选单元、训练判断单元和第一算法模型获取单元。其中，模型筛选单元用于基于方案项目的目标功能，在算法模型库筛选得到若干候选算法模型；训练判断单元用于基于目标场景，分别确定各候选算法模型是否需重新训练；第一算法模型获取单元用于基于各候选算法模型是否需重新训练，得到适用于方案项目的若干第一算法模型。

因此，基于方案项目的目标功能，在算法模型库筛选得到若干候选算法模型；并基于目标场景，分别确定各候选算法模型是否需重新训练，最终基于各候选算法模型是否需重新训练，得到适用于方案项目的若干第一算法模型。故而，无论候选算法模型是否满足目标场景要求，均可以通过重新训练或者其他方式最终得到第一算法模型，使得第一算法模型充分保证了其与目标场景匹配程度，更加符合用户的需求。

在一些公开实施例中，各候选算法模型分别已预先基于样本场景采集到的第一样本数据训练，训练判断单元还用于响应于候选算法模型预先训练时对应的样本场景匹配于目标场景，确定候选算法模型无需重新训练；训练判断单元还用于响应于候选算法模型预先训练时对应的样本场景不匹配于目标场景，确定候选算法模型需要重新训练。

因此，通过样本场景和目标场景进行匹配分析，可以确定候选算法模型是否适用于用户的目标场景，对于不匹配的目标场景还可以重新训练，因此使得最终确定的第一算法模型可以尽可能与用户的要求所匹配。

在一些公开实施例中，第一算法模型获取单元还用于响应于候选算法模型需要重新训练，获取与目标场景匹配的第二样本数据，并基于方案平台内置的模型训练规则和第二样本数据，重新训练候选算法模型，得到第一算法模型；第一算法模型获取单元还用于响应于候选算法模型无需重新训练，直接将候选算法模型，作为第一算法模型。

因此，对于需要重新训练的候选算法模型重新进行训练，得到第一算法模型，或者，对于无需重新训练的候选算法模型直接作为第一算法模型，使得最终获取的第一算法模型能够与目标场景充分匹配。

在一些公开实施例中，算法方案部署装置60还包括测试数据获取模块和重新训练判断模块。在基于格式转换工具，分别对若干第一算法模型进行格式转换，得到与目标平台匹配的第二算法模型之后，以及在基于第二算法模型进行方案部署，得到算法方案之前，测试数据获取模块用于获取第一算法模型的第一测试数据和由第一算法模型格式转换得到的第二算法模型的第二测试数据；重新训练判断模块用于基于第一测试数据和第二测试数据之间的对比结果，确定第二算法模型是否需要重新训练。

因此，在得到算法方案之间进一步确定算法模型的量化方式，并基于第一算法模型和第二算法模型的测试结果差距对第一算法模型重新进行训练，使得最终确定的第二算法模型更加准确。

在一些公开实施例中，测试数据获取模块还包括量化方式确认单元，在获取第一算法模型的第一测试数据和由第一算法模型格式转换得到的第二算法模型的第二测试数据之前，量化方式确认单元用于分别计算不同量化方式下，第一算法模型和第二算法模型对相同测试数据的测试结果差距；并基于最小测试结果差距，确定第一算法模型和第二算法模型的量化方式。重新训练判断模块还用于响应于对比结果满足预设条件，确定第二算法模型无需重新训练；重新训练判断模块还用于响应于对比结果不满足预设条件，确定第二算法模型需要重新训练。

因此，通过计算不同量化方式下的第一算法模型和第二算法模型对相同测试数据的测试结果差距，得到最优的量化方式，保证第二算法模型的输出精度在可控范围。

在一些公开实施例中，算法方案部署模块63还包括连接关系确认单元和算法方案打包单元。其中，连接关系确认单元用于将各个第二算法模型分别导入方案项目，并在方案项目中确定各个第二算法模型之间的连接关系；算法方案打包单元用于基于最新的方案项目，打包得到算法方案。

因此，以根据不同第二算法模型之间的连接关系，将第二算法模型进行连接，得到整体算法方案，更加方便、快捷。

在一些公开实施例中，连接关系确认单元还用于获取各个第二算法模型的输入输出要求；并基于输入输出要求，在方案项目中确定各个第二算法模型之间的连接关系。

因此，根据各个第二算法模型的输入输出要求确定连接关系，充分考虑了各个第二算法模型之间的数据流转，因而最终得到的算法方案中各个子节点之间数据可以充分流转，算法方案更加可靠、准确。

在一些公开实施例中，在方案项目中确定各个第二算法模型之间的连接关系之前，重新训练判断模块还用于基于导入方案项目的第二算法模型的输出结果是否满足目标场景的应用要求，确定是否需要训练第一算法模型；在方案项目中确定各个第二算法模型之间的连接关系之后，以及在基于最新的方案项目，打包得到算法方案之前，重新训练判断模块还用于基于确定连接关系后的第二算法模型的输出结果是否满足目标场景的应用要求，确定是否需要训练第一算法模型；在基于最新的方案项目，打包得到算法方案之后，重新训练判断模块还用于基于算法方案的输出结果是否满足目标场景的应用要求，确定是否需要训练第一算法模型。

因此，可以明确在获得算法方案的各个节点均可以返回重新训练第一算法模型，故而最终得到的算法方案可以满足用户的目标场景，大大提高了算法方案的效用性。

请参阅图7，图7是本申请算法方案部署设备70一实施例的框架示意图。具体而言，算法方案部署设备70包括处理器701、存储器702和人机交互电路703，存储器702和人机交互电路703分别耦接至处理器701，处理器701用于执行存储器702存储的程序指令，以实现算法方案部署方法任一实施例中的步骤。

具体地，处理器701还可以称为CPU（Central Processing Unit，中央处理单元）。处理器701可能是一种集成电路芯片，具有信号的处理能力。处理器701还可以是通用处理器、数字信号处理器（Digital Signal Processor，DSP）、专用集成电路（ApplicationSpecific Integrated Circuit，ASIC）、现场可编程门阵列（Field-Programmable GateArray，FPGA）或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。另外，处理器701可以由多个成电路芯片共同实现。

上述方案中，通过在方案平台上创建方案项目，并在方案平台的内置算法模型库中得到适用于方案项目的第一算法模型，进而根据方案平台内置的转换工具库，得到适用于目标平台的格式转换工具，然后根据格式转换工具对第一算法模型进行格式转换得到与目标平台匹配的第二算法模型，最终利用第二算法模型进行方案部署，确定算法方案。因此，用户可以算法模型库中自主选择合适的第一算法模型，大大提高了用户进行算法方案设计的自由度，同时利用格式转换工具将第一算法模型转换成与目标平台匹配的第二算法模型，可以使得第二算法模型与各类芯片平台得到适配，进而最终的算法方案也可以更加泛用性地适用于各类芯片平台。

请参阅图8，图8是本申请计算机可读存储介质80一实施例的框架示意图。本实施例中，该计算机可读存储介质80存储有处理器可运行的程序指令801，该程序指令801用于执行上述算法方案部署方法实施例中的步骤。

该计算机可读存储介质80具体可以为U盘、移动硬盘、只读存储器（ROM，Read-OnlyMemory）、随机存取存储器（RAM，Random Access Memory）、磁碟或者光盘等可以存储程序指令的介质，或者也可以为存储有该程序指令的服务器，该服务器可将存储的程序指令发送给其他设备运行，或者也可以自运行该存储的程序指令。

上述方案中，通过在方案平台上创建方案项目，并在方案平台的内置算法模型库中得到适用于方案项目的第一算法模型，进而根据方案平台内置的转换工具库，得到适用于目标平台的格式转换工具，然后根据格式转换工具对第一算法模型进行格式转换得到与目标平台匹配的第二算法模型，最终利用第二算法模型进行方案部署，确定算法方案。因此，用户可以算法模型库中自主选择合适的第一算法模型，大大提高了用户进行算法方案设计的自由度，同时利用格式转换工具将第一算法模型转换成与目标平台匹配的第二算法模型，可以使得第二算法模型与各类芯片平台得到适配，进而最终的算法方案也可以更加泛用性地适用于各类芯片平台。

在本申请所提供的几个实施例中，应该理解到，所揭露的方法和装置，可以通过其它的方式实现。例如，以上所描述的装置实施方式仅仅是示意性的，例如，模块或单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。

作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施方式方案的目的。

另外，在本申请各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。

集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括指令用以使得一台计算机设备（可以是个人计算机，服务器，或者网络设备等）或处理器（processor）执行本申请各个实施方式方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器（ROM，Read-Only Memory）、随机存取存储器（RAM，Random Access Memory）、磁碟或者光盘等各种可以存储程序代码的介质。

若本申请技术方案涉及个人信息，应用本申请技术方案的产品在处理个人信息前，已明确告知个人信息处理规则，并取得个人自主同意。若本申请技术方案涉及敏感个人信息，应用本申请技术方案的产品在处理敏感个人信息前，已取得个人单独同意，并且同时满足“明示同意”的要求。例如，在摄像头等个人信息采集装置处，设置明确显著的标识告知已进入个人信息采集范围，将会对个人信息进行采集，若个人自愿进入采集范围即视为同意对其个人信息进行采集；或者在个人信息处理的装置上，利用明显的标识/信息告知个人信息处理规则的情况下，通过弹窗信息或请个人自行上传其个人信息等方式获得个人授权；其中，个人信息处理规则可包括个人信息处理者、个人信息处理目的、处理方式以及处理的个人信息种类等信息。

Claims (10)

1.一种算法方案部署方法，其特征在于，包括：

响应于方案平台上新创建的方案项目，基于所述方案平台内置的算法模型库，得到适用于所述方案项目的若干第一算法模型，并基于所述方案平台内置的转换工具库，得到适用于目标平台的格式转换工具；其中，所述目标平台表征所述方案项目构建完毕后所部署的芯片平台；

基于所述格式转换工具，分别对所述若干第一算法模型进行格式转换，得到与所述目标平台匹配的第二算法模型；

获取所述第一算法模型的第一测试数据和由所述第一算法模型格式转换得到的第二算法模型的第二测试数据；

基于所述第一测试数据和所述第二测试数据之间的对比结果，确定所述第二算法模型是否需要重新训练；

基于所述第二算法模型进行方案部署，得到算法方案；

在所述获取所述第一算法模型的第一测试数据和由所述第一算法模型格式转换得到的第二算法模型的第二测试数据之前，所述方法还包括：分别计算不同量化方式下，所述第一算法模型和所述第二算法模型对相同测试数据的测试结果差距；基于最小所述测试结果差距，确定所述第一算法模型和所述第二算法模型的量化方式；其中，所述第一测试数据、所述第二测试数据均基于确定后的量化方式获取得到；

和/或，所述基于所述第一测试数据和所述第二测试数据之间的对比结果，确定所述第二算法模型是否需要重新训练，包括：响应于所述对比结果满足预设条件，确定所述第二算法模型无需重新训练；响应于所述对比结果不满足所述预设条件，确定所述第二算法模型需要重新训练；其中，所述对比结果包括所述第一测试数据和所述第二测试数据之间数值差异，所述预设条件包括所述数值差异的绝对值小于预设阈值。

2.根据权利要求1所述的方法，其特征在于，所述方案项目创建完毕后应用于目标场景；在所述基于所述方案平台内置的算法模型库，得到适用于所述方案项目的若干第一算法模型，包括：

基于所述方案项目的目标功能，在所述算法模型库筛选得到若干候选算法模型；

基于所述目标场景，分别确定各所述候选算法模型是否需重新训练；

基于各所述候选算法模型是否需重新训练，得到适用于所述方案项目的若干第一算法模型。

3.根据权利要求2所述的方法，其特征在于，各所述候选算法模型分别已预先基于样本场景采集到的第一样本数据训练；所述基于所述目标场景，分别确定各所述候选算法模型是否需重新训练，包括以下至少一者：

响应于所述候选算法模型预先训练时对应的样本场景匹配于所述目标场景，确定所述候选算法模型无需重新训练；

响应于所述候选算法模型预先训练时对应的样本场景不匹配于所述目标场景，确定所述候选算法模型需要重新训练。

4.根据权利要求2所述的方法，其特征在于，所述基于各所述候选算法模型是否需重新训练，得到适用于所述方案项目的若干第一算法模型，包括以下至少一者：

响应于所述候选算法模型需要重新训练，获取与所述目标场景匹配的第二样本数据，并基于所述方案平台内置的模型训练规则和所述第二样本数据，重新训练所述候选算法模型，得到所述第一算法模型；

响应于所述候选算法模型无需重新训练，直接将所述候选算法模型，作为所述第一算法模型。

5.根据权利要求1所述的方法，其特征在于，所述基于所述第二算法模型进行方案部署，得到算法方案，包括：

将各个所述第二算法模型分别导入所述方案项目，并在所述方案项目中确定各个所述第二算法模型之间的连接关系；

基于最新的方案项目，打包得到所述算法方案。

6.根据权利要求5所述的方法，其特征在于，所述在所述方案项目中确定各个所述第二算法模型之间的连接关系，包括：

获取各个所述第二算法模型的输入输出要求；

基于所述输入输出要求，在所述方案项目中确定各个所述第二算法模型之间的连接关系。

7.根据权利要求5所述的方法，其特征在于，所述方案项目创建完毕后应用于目标场景，在所述方案项目中确定各个所述第二算法模型之间的连接关系之前，所述方法还包括：

基于导入所述方案项目的所述第二算法模型的输出结果是否满足所述目标场景的应用要求，确定是否需要训练所述第一算法模型；

和/或，在所述方案项目中确定各个所述第二算法模型之间的连接关系之后，以及在所述基于最新的方案项目，打包得到所述算法方案之前，所述方法还包括：

基于确定连接关系后的所述第二算法模型的输出结果是否满足所述目标场景的应用要求，确定是否需要训练所述第一算法模型；

和/或，在所述基于最新的方案项目，打包得到所述算法方案之后，所述方法还包括：

基于所述算法方案的输出结果是否满足所述目标场景的应用要求，确定是否需要训练所述第一算法模型。

8.一种算法方案部署装置，其特征在于，包括：

算法模型选择模块，用于响应于方案平台上新创建的方案项目，基于所述方案平台内置的算法模型库，得到适用于所述方案项目的若干第一算法模型，并基于所述方案平台内置的转换工具库，得到适用于目标平台的格式转换工具；其中，所述目标平台表征所述方案项目构建完毕后所部署的芯片平台；

算法模型转化模块，用于基于所述格式转换工具，分别对所述若干第一算法模型进行格式转换，得到与所述目标平台匹配的第二算法模型；

算法方案部署模块，用于基于所述第二算法模型进行方案部署，得到算法方案；

测试数据获取模块：用于分别计算不同量化方式下，第一算法模型和第二算法模型对相同测试数据的测试结果差距；并基于最小测试结果差距，确定第一算法模型和第二算法模型的量化方式，及获取第一算法模型的第一测试数据和由第一算法模型格式转换得到的第二算法模型的第二测试数据；其中，所述第一测试数据、所述第二测试数据均基于确定后的量化方式获取得到；

重新训练判断模块：用于基于第一测试数据和第二测试数据之间的对比结果，确定第二算法模型是否需要重新训练，包括：响应于对比结果满足预设条件，确定第二算法模型无需重新训练；重新训练判断模块还用于响应于对比结果不满足预设条件，确定第二算法模型需要重新训练，其中，所述对比结果包括所述第一测试数据和所述第二测试数据之间数值差异，所述预设条件包括所述数值差异的绝对值小于预设阈值。

9.一种算法方案部署设备，其特征在于，包括：人机交互电路、存储器和处理器，所述人机交互电路、所述存储器分别耦接至所述处理器，所述处理器用于执行所述存储器存储的程序指令，以实现权利要求1-7任一项所述的算法方案部署方法。

10.一种计算机可读存储介质，其特征在于，存储有能够被处理器运行的程序指令，所述程序指令用于实现权利要求1-7任一项所述的算法方案部署方法。

Images