CN117707550A - 基于云边协同架构的图像处理系统、方法及模型部署方法 - Google Patents

Abstract

本申请公开了一种基于云边协同架构的图像处理系统、方法及模型部署方法，属于人工智能、云计算和计算机视觉领域。该系统包括设置于云端服务器的训练模块、部署模块和设置于目标位置的预测模块，训练模块用于响应于训练指令，获取待部署模型的配置文件，并生成待部署模型的训练环境所对应的第一容器，并基于配置文件，通过第一容器对待部署模型进行训练，获取输出模型，部署模块用于将输出模型封装为可部署模型，并对应部署至预测模块，预测模块用于获取边缘设备采集的目标区域的待处理图像，并运行可部署模型以进行相应预测，并获取检测结果。本申请能够提高模型部署落地的效率，也使模型的更新迭代更为方便，可较好地满足目标检测场景的需求。

Description

基于云边协同架构的图像处理系统、方法及模型部署方法

技术领域

本申请涉及人工智能、云计算和计算机视觉技术领域，具体涉及一种基于云边协同架构的图像处理系统、方法及模型部署方法。

背景技术

在深度学习、边缘计算及云边协同等诸多关键技术的突破和推动下，人工智能(artificial intelligence，AI)作为当代最具代表性的使能技术，受到各行各业的欢迎。现阶段，AI应用仍然以公共安全、交通、金融及教育等成熟的专业性领域为主，其他行业，如工业质检领域、深海养殖生物量监测领域等，对AI技术的应用需求虽然广泛存在，但由于场景的多样性和需求的高分散性，使得AI技术的渗透相对较浅，技术与场景不能有效结合成为智能化落地的壁垒。

在使用AI技术进行产线缺陷检测或者深海养殖生物量检测时，通常需要使用相应的神经网络模型，以基于采集的图像进行相应预测。然而，在神经网络模型部署在实际产线之前，通常需要依靠人工进行训练、测试以及对部署端进行运行环境检测等，整体模型部署落地的过程较为繁琐，周期较长，模型迭代的效率也较低。

发明内容

发明目的：本申请实施例提供一基于云边协同架构的图像处理系统，旨在克服现有神经网络模型部署的过程较为繁琐，模型迭代的效率较低的技术问题；本申请实施例的另一目的是提供一种基于云边协同架构的图像处理方法；本申请实施例的另一目的是提供一种基于云边协同架构的模型部署方法。

技术方案：本申请实施例所述的一种基于云边协同架构的图像处理系统，所述云边协同架构包括云端服务器和边缘设备，所述图像处理系统包括：

训练模块，所述训练模块设置于所述云端服务器，且被配置为响应于用户发送的训练指令，获取待部署模型的配置文件；以及，对所述待部署模型进行容器编排，生成所述待部署模型的训练环境所对应的第一容器；以及，基于所述配置文件，通过所述第一容器对所述待部署模型进行训练，获取输出模型；

部署模块，所述部署模块设置于所述云端服务器，且被配置为将所述输出模型封装为可部署模型；以及，将所述可部署模型部署至预测模块；

所述预测模块，被配置为获取所述边缘设备采集的目标区域的待处理图像，并运行所述可部署模型以对所述待处理图像进行相应预测，并获取所述目标区域的检测结果。

在一些实施例中，所述部署模块被配置为将所述输出模型封装为可部署模型，包括：

将所述输出模型、所述输出模型所采用的图像预处理算法、所述输出模型所采用的图像后处理算法和所述第一容器，共同封装为所述可部署模型，所述图像预处理算法用于对所述输出模型的输入数据进行预处理，所述图像后处理算法用于对所述输出模型的输出数据进行后处理。

在一些实施例中，所述部署模块被配置为将所述输出模型封装为可部署模型，包括：

将所述输出模型、所述输出模型所采用的图像预处理算法和所述输出模型所采用的图像后处理算法，共同封装为所述可部署模型，所述图像预处理算法用于对所述输出模型的输入数据进行预处理，所述图像后处理算法用于对所述输出模型的输出数据进行后处理。

在一些实施例中，所述预测模块被配置为运行所述可部署模型以对所述待处理图像进行相应预测，包括：

调用所述可部署模型；

通过容器技术生成与所述第一容器相同的第二容器；

通过所述第二容器运行所述可部署模型，以对所述待处理图像进行相应预测。

在一些实施例中，所述训练指令包括待部署模型的结构信息和训练信息；

所述训练模块被配置为响应于用户发送的训练指令，获取待部署模型的配置文件，包括：

响应于所述训练指令，获取预设的配置文件模板；

将所述结构信息和训练信息存储于所述配置文件模板，生成所述待部署模型的配置文件。

在一些实施例中，所述训练模块被配置为基于所述配置文件，通过所述第一容器对所述待部署模型进行训练，获取输出模型，包括：

基于所述配置文件，加载与所述结构信息相对应的待部署模型的框架，以及与所述训练信息相对应的训练数据；

对所述待部署模型的框架的超参数进行初始化，获取所述待部署模型；

基于所述训练数据，通过所述第一容器对所述待部署模型进行训练，获取所述输出模型。

在一些实施例中，所述预测模块还被配置为执行以下步骤：

将各个所述目标区域的待处理图像以及所述待处理图像对应的所述检测结果共同回传到所述训练模块，以使所述训练模块将各个所述待处理图像以及对应的所述检测结果存储入所述训练数据。

在一些实施例中，所述云端服务器还预先设置有第一数据库、第二数据库、第三数据库和第四数据库；

所述第一数据库用于存储多个图像预处理算法，所述第二数据库用于存储多个图像后处理算法，所述第三数据库用于存储多个模型及对应的容器配置文件，所述第四数据库用于存储训练数据。

相应的，本申请实施例所述的一种基于云边协同架构的模型部署方法，应用于云端服务器，所述方法包括：

响应于用户发送的训练指令，获取待部署模型的配置文件；

对所述待部署模型进行容器编排，生成所述待部署模型的训练环境所对应的第一容器；

基于所述配置文件，通过所述第一容器对所述待部署模型进行训练，获取输出模型；

将所述输出模型封装为可部署模型；

将所述可部署模型部署至目标位置。

在一些实施例中，将所述输出模型封装为可部署模型，包括：

将所述输出模型、所述输出模型所采用的图像预处理算法、所述输出模型所采用的图像后处理算法和所述第一容器，共同封装为所述可部署模型，所述图像预处理算法用于对所述输出模型的输入数据进行预处理，所述图像后处理算法用于对所述输出模型的输出数据进行后处理。

相应的，本申请实施例所述的一种基于云边协同架构的图像处理方法，应用于预测模块，所述预测模块设置于云端服务器或边缘设备；所述方法包括：

获取所述边缘设备采集的目标区域的待处理图像；

调用可部署模型，所述可部署模型为所述云端服务器部署至所述预测模块的；

若所述可部署模型中未封装有与训练环境相对应的第一容器，则通过容器技术生成与所述第一容器相同的第二容器；

通过所述第二容器运行所述可部署模型，对所述待处理图像进行相应预测，并获取所述目标区域的检测结果。

在一些实施例中，所述方法还包括：

将各个所述待处理图像以及所述待处理图像对应的所述检测结果共同回传到所述云端服务器，以使所述云端服务器将各个所述待处理图像以及对应的所述检测结果存储入预设的训练数据中。

有益效果：与现有技术相比，本申请实施例的基于云边协同架构的图像处理系统包括训练模块、部署模块和预测模块，训练模块和部署模块均设置于云端服务器，训练模块用于响应于用户发送的训练指令，获取待部署模型的配置文件，对待部署模型进行容器编排，生成待部署模型的训练环境所对应的第一容器；基于配置文件，通过第一容器对待部署模型进行训练，获取输出模型；部署模块用于将输出模型封装为可部署模型；将可部署模型部署至预测模块；预测模块用于获取边缘设备采集的目标区域的待处理图像，并运行可部署模型以对待处理图像进行相应预测，并获取目标区域的检测结果。整个系统基于云边协同架构，在云端通过容器化技术手段完成模型训练、评估和部署的全流程，从而极大地提高模型部署落地的效率，也使模型的更新迭代更为方便，可以较好地满足目标检测场景的需求。

与现有技术相比，本申请实施例的基于云边协同架构的图像处理方法，可基于云边协同架构，通过从云端快速部署模型，且通过容器化手段运行模型，从而极大地提高模型部署落地的效率，同时在进行模型的更新迭代时也无需频繁更换系统环境，更为方便且灵活性更高，可以较好地满足各种目标检测场景的需求。

与现有技术相比，本申请实施例的基于云边协同架构的模型部署方法，可基于云边协同架构，在云端通过容器化技术手段完成模型训练、评估和部署的全流程，从而极大地提高模型部署落地的效率，也使模型的更新迭代更为方便，可以较好地满足目标检测场景的需求。

附图说明

为了更清楚地说明本申请实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获取其他的附图。

图1为本申请实施例的基于云边协同架构的图像处理系统的整体结构示意图；

图2为本申请实施例的基于云边协同架构的图像处理系统的示例流程示意图；

图3为本申请实施例中训练模块对待部署模型进行训练的流程示意图；

图4为本申请实施例中部署模块对模型进行部署的流程示意图；

图5为本申请实施例的基于云边协同架构的模型部署方法的流程示意图；

图6为本申请实施例的基于云边协同架构的图像处理方法的流程示意图。

附图标记：

100-云端服务器；200-边缘设备；300-训练模块；400-部署模块；500-预测模块。

具体实施方式

下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述。显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。

在本申请的描述中，需要理解的是，在本申请的描述中，需要理解的是，术语“上”、“下”、“前”、“后”、“左”、“右”、“顶”、“底”、“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系，仅是为了便于描述本申请和简化描述，而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作，因此不能理解为对本申请的限制。此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个特征。在本申请的描述中，“多个”的含义是两个或两个以上，至少一个指可以为一个、两个或者两个以上，除非另有明确具体的限定。

在使用AI技术进行产线缺陷检测或者深海养殖生物量检测时，通常需要使用相应的神经网络模型，以基于采集的图像进行相应预测。然而，在神经网络模型部署在实际产线之前，通常需要先对神经网络模型进行训练，由于训练模型要用到大量的数据，针对已经预训练好的模型，要得到一个在某个特定任务上效果好的专用模型，也需要用到该项目上特有的数据进行迁移学习，这个过程目前主要是人工完成的(包括数据采集、训练等)。此外，在模型训练完成后，目前将模型运用到实际的项目上也会存在一定的问题，主要是训练端和部署端的运行环境差异(框架是否兼容、版本是否匹配等)、模型是否达到相关技术要求等，这些都需要依靠人工进行测试，整个过程耗时较长、算法迭代时间也较长。

有鉴于此，本申请实施例提供一种基于云边协同架构的图像处理系统，在云端服务器上设置训练模块和部署模块，通过训练模块利用容器技术对待部署模型进行训练，并获取输出模型，通过部署模块将输出模型封装为可部署模型，并部署到预测模块上，最终通过预测模块调用该可部署模型，并对边缘设备采集的目标区域的待处理图像进行预测，得到目标区域的检测结果，可以提高模型部署落地的效率，方便模型的更新迭代，从而可以解决上述技术问题的至少部分。

请一并参阅图1和图2，图1示意了本申请实施例的基于云边协同架构的图像处理系统的整体结构，图2示意了本申请实施例的基于云边协同架构的图像处理系统的示例流程。该云边协同架构包括云端服务器100和边缘设备200。示例性地，在进行产线缺陷检测的场景下，云端服务器100可以为处理器，边缘设备200可以为设置于对应产线上的图像采集装置。在进行深海养殖生物量检测的场景下，云端服务器100可以为位于海面上的作业平台，边缘设备200可以为设置于深海中的生物养殖区域的图像采集装置。

在一些实施例中，云端服务器100可预先设置第一数据库、第二数据库、第三数据库和第四数据库。其中，第一数据库用于存储多个图像预处理算法，第二数据库用于存储多个图像后处理算法，第三数据库用于存储多个模型及对应的容器配置文件，第四数据库用于存储训练数据。图像预处理算法用于对输出模型的输入数据进行预处理，图像后处理算法用于对输出模型的输出数据进行后处理。容器配置文件用于根据该文件完成容器编排。

本申请实施例的图像处理系统包括训练模块300、部署模块400和预测模块500。其中，训练模块300设置于云端服务器100，且被配置为执行如下步骤：

步骤一，响应于用户发送的训练指令，获取待部署模型的配置文件。

在一些实施例中，训练指令可以为用户通过终端远程发送给云端服务器100的指令。例如，云端服务器100可以提供远程登录等功能，用户通过终端登录后下达训练指令。

在一些示例中，训练指令可以包括待部署模型的结构信息和训练信息。此外，还可以包括输入图像的设定尺寸、使用的处理器类型等，具体不作限定。结构信息可以包括模型框架的类型，训练信息可以包括训练数据的样本数量、训练的轮次、学习率和是否使用预训练模型等。

步骤一具体可以通过如下方式执行：

第一步，响应于训练指令，获取预设的配置文件模板。

示例性地，配置文件模板可以包括多个配置参数，具体示例可参见如下表1。

表1：配置文件示例模板

第二步，将结构信息和训练信息存储于配置文件模板，生成待部署模型的配置文件。

可以理解的是，配置文件模板中各个配置参数可以预先设置有初始值，若用户想要通过修改配置文件控制训练过程，那么训练指令中会包含用户的需求信息，则训练模块300可基于用户需求对应修改相应配置参数的初始值，以生成待部署模型的配置文件，该配置文件用于存储训练使用的深度学习框架、训练过程参数、使用的算法模型以及图像预处理、后处理算法等。示例性地，可以向用户开放云端服务器100中的各个数据库，以使用户可以从对应数据库中选择需要的图像预处理算法、图像后处理算法、模块框架和训练数据。

步骤二，对待部署模型进行容器编排，生成待部署模型的训练环境所对应的第一容器。

具体的，可以通过docker容器技术对待部署模型进行容器编排。

如此，由于不同的模型有不同的运行环境，本申请实施例可根据不同的模型来生成对应的容器，使得模型的训练不受云端服务器100的环境的影响，进而能够存储和训练各种不同类型的模型，具有较高的灵活性，运行环境可以在部署的时候进行还原，甚至可以直接通过拷贝文件的方式完成应用的部署和迁移，极大提高部署效率。

步骤三，基于配置文件，通过第一容器对待部署模型进行训练，获取输出模型。

如此，通过上述方式获取输出模型，具有如下优势：(1)由于容器可以在不同的操作系统和云平台上运行，因此应用程序可以更轻松地在不同环境中部署和移植，而无需担心依赖性和兼容性问题，从而实现跨平台和可移植性。(2)可提供了一定程度的隔离，使得各应用程序及其依赖可以在相同的系统上同时运行，而不会相互干扰，能够满足大多数应用场景。(3)容器可以按需扩展，而不需要预先分配大量的资源，这使得在需求增加时可以更加灵活地调整应用程序的规模。(4)容器技术与持续集成和持续交付(CI/CD)流程可以很好地结合，从而使开发人员能够更容易地构建、测试和部署应用程序，并且可以更快地响应变化。(5)容器可以通过容器编排工具(如Kubernetes、Docker Compose等)进行集中管理，能够简化应用程序的部署、监控和维护。(6)容器允许应用程序及其依赖被打包成一个独立的单元，这有助于版本控制和追踪应用程序的变化。

请参阅图3，图3示意了本申请实施例中训练模块对待部署模型进行训练的流程。在一些实施例中，步骤三可以通过如下方式执行：

第一步，基于配置文件，加载与结构信息相对应的待部署模型的框架，以及与训练信息相对应的训练数据。

具体的，可以根据配置文件，加载该待部署模型采用的图像预处理模型，以对输入数据进行预处理。与此同时，通过API(Application Programming Interface)接口来将配置文件翻译成可供系统识别的语言来完成用户的指令，并加载模型数据和生成对应第一容器，根据相应数据和第一容器加载模型框架。图像预处理模型可用于执行相应的图像预处理算法。

示例性地，图像预处理算法可以包括图像去噪方法、图像归一化处理、感兴趣区域提取等，具体可以根据需求进行选择。

其中，训练数据可以一部分来源于边缘设备200的实时采集，另一部分来源于大数据统计，或者也可以全部采用大数据或者历史数据。

第二步，对待部署模型的框架的超参数进行初始化，获取待部署模型。

第三步，基于训练数据，通过第一容器对待部署模型进行训练，获取输出模型。

示例性地，可以采用BP(反向传播)算法进行训练，基于神经网络的梯度，进行反向参数更新。此外，也可以采取其他训练方法，具体不作限定。

可以理解的是，用户下达开始训练指令后，训练模块300可自动实现对应训练环境的容器编排，并通过对应容器启动模型训练程序，进行模型训练，整个过程在容器化场景下，开展神经网络训练过程控制，可以较好地实现模型训练自定义管控及进度追踪，从而可解决深度学习算法训练过程繁琐、算法实际落地困难的问题。

请参阅图4，图4示意了本申请实施例中部署模块对模型进行部署的流程。本申请实施例中，部署模块400设置于云端服务器100，且被配置为执行如下步骤：

步骤一，将输出模型封装为可部署模型。

在一些示例中，部署模块400可基于配置文件获取输出模型所采用的图像预处理算法和输出模型所采用的图像后处理算法，并将输出模型、输出模型所采用的图像预处理算法、输出模型所采用的图像后处理算法和第一容器，共同封装为可部署模型。具体的，可以根据Dockfile(可以被Docker解释的文本文件，由若干条指令组成)进行build(创建)，生成对应的容器，然后和模型一起打包封装为压缩包。

通过上述方式，可以将训练好的模型与预处理算法、后处理算法和第一容器共同进行组装，并可实现一件下发功能，使得在部署端可以方便地运行模型，不受部署端系统环境的影响，非常方便，极大提高算法部署效率，减轻业务落地负担。

在另一些示例中，部署模块400可将输出模型、输出模型所采用的图像预处理算法和输出模型所采用的图像后处理算法，共同封装为可部署模型。

可以理解的是，在部分场景下，受限于数据传输能力，可能无法将第一容器一并传输下发，那么也可以只传输对应的模型，从而提高部署效率。在此场景下，部署端需根据模型的运行环境，通过容器技术生成与第一容器相同的第二容器，并通过第二容器来运行该模型。这样可以避免部署端的系统环境频繁改变所造成的模型迭代周期极长，效率极低的问题。

步骤二，将可部署模型部署至预测模块500。

通过上述方式，部署方便且高效，且能灵活实现多个模型之间的结合，以及灵活运用于各种系统环境，能较好地实现各领域项目的智能化、数字化发展需求。

本申请实施例中，预测模块500被配置为执行如下步骤：

步骤一，获取边缘设备200采集的目标区域的待处理图像。

示例性地，预测模块500与边缘设备200通信连接。边缘设备200可对待测芯片进行图像采集，并将获取的待处理图像传输给预测模块500，或者，边缘设备200可对深海中生物养殖区域进行图像采集，并将获取的待处理图像传输给预测模块500。

步骤二，运行可部署模型以对待处理图像进行相应预测，并获取目标区域的检测结果。

在一些实施例中，在可部署模型中未封装第一容器的情况下，步骤二可以通过如下方式执行：

第一步，调用可部署模型。

第二步，通过容器技术生成与第一容器相同的第二容器。

第三步，通过第二容器运行可部署模型，以对待处理图像进行相应预测。

示例性地，预测模块500在通过可部署模型进行预测时，可部署模型可支持图像分割算法(例如DeeplabV3算法、Unet算法)和目标检测算法(例如Patchcore算法、DFR算法、YoloV8算法)来对待处理图像进行处理。

通过上述方式，预测模块500无需频繁更改系统环境，可实现模型的灵活搭配和替换，十分易于实现。

可以理解的是，预测模块500可设置于边缘设备200，也可以设置于云端服务器100，具体可根据需求设置，对此不作限定。

在一些实施例中，预测模块500除了被配置为执行上述步骤一至步骤二外，还可被配置为执行如下步骤三：

步骤三，将各个目标区域的待处理图像以及待处理图像对应的检测结果共同回传到训练模块300，以使训练模块300将各个待处理图像以及对应的检测结果存储入训练数据。

也即是说，训练模块300可以将实时检测结果存储入云端服务器100的第四数据库，以不断更新训练数据，并提高模型的预测精度。

可以理解的是，本申请实施例的基于云边协同架构的图像处理系统，基于云边协同架构，通过Docker容器技术手段搭建图像处理系统，解决深度学习算法训练过程繁琐、算法实际落地困难的问题，完成从深度学习算法的开发、训练、评估和部署全流程覆盖的工具链研制，同时可在云端管理边缘节点的部署、启动、停止、删除及版本更新等，提高业务开发和算法落地效率，减轻业务落地负担，也使模型的更新迭代更为方便，可以较好地满足目标检测场景的需求。

相应的，本申请实施例还提供一种基于云边协同架构的模型部署方法，请参阅图5，图5示意了本申请实施例的基于云边协同架构的模型部署方法的流程。该基于云边协同架构的模型部署方法应用于云端服务器100，具体包括如下步骤：

步骤501：响应于用户发送的训练指令，获取待部署模型的配置文件。

在一些实施例中，训练指令可以包括待部署模型的结构信息和训练信息。

步骤501可以通过以下方式执行：

步骤一，响应于训练指令，获取预设的配置文件模板。

步骤二，将结构信息和训练信息存储于配置文件模板，生成待部署模型的配置文件。

步骤502：对待部署模型进行容器编排，生成待部署模型的训练环境所对应的第一容器。

步骤503：基于配置文件，通过第一容器对待部署模型进行训练，获取输出模型。

在一些实施例中，步骤503可以通过以下方式执行：

步骤一，基于配置文件，加载与结构信息相对应的待部署模型的框架，以及与训练信息相对应的训练数据。

步骤二，对待部署模型的框架的超参数进行初始化，获取待部署模型。

步骤三，基于训练数据，通过第一容器对待部署模型进行训练，获取输出模型。

步骤504：将输出模型封装为可部署模型。

在一些实施例中，步骤504可通过如下步骤执行：

将输出模型、输出模型所采用的图像预处理算法、输出模型所采用的图像后处理算法和第一容器，共同封装为可部署模型，图像预处理算法用于对输出模型的输入数据进行预处理，图像后处理算法用于对输出模型的输出数据进行后处理。

在另一些实施例中，步骤504可通过如下步骤执行：

将输出模型、输出模型所采用的图像预处理算法和输出模型所采用的图像后处理算法，共同封装为可部署模型。

步骤505：将可部署模型部署至目标位置。

具体的，可以基于SSH(Secure Shell)协议或SFTP(Secure File TransferProtocol)协议进行远程传输部署。

如此，通过上述方式进行模型部署，具有如下优势：(1)可将计算任务分发到边缘设备200上，并减少数据传输到云端和返回的时间，从而降低延迟，这对于对延迟敏感的应用程序，如实时数据处理和物联网(IoT)应用程序，非常重要。(2)在边缘设备200上进行部分计算可以减少对云端的数据传输量，只有关键的数据需要发送到云端，这有助于减轻网络拥塞并提高整体网络带宽效率。(3)对于一些敏感数据，尤其是一些合规性要求较高的行业，边缘计算可以在本地处理数据，减少了将敏感数据传输到云端的风险，这有助于提高数据隐私和安全性。(4)在边缘设备200上执行部分计算任务允许应用程序在断开互联网连接时继续运行，这对于需要在离线或有限网络环境中工作的应用程序是重要的。(5)边缘计算允许应用程序根据实时需求和环境条件进行动态调整，这种灵活性和适应性使得系统更能够适应不同的工作负载和环境变化。(6)将一些计算任务在边缘设备200上执行可以减少云计算服务的成本，特别是在大规模的部署中，边缘计算可以通过减少云端资源的需求来优化整体成本。

可以理解的是，本申请实施例的基于云边协同架构的模型部署方法，可基于云边协同架构，在云端通过容器化技术手段完成模型训练、评估和部署的全流程，从而极大地提高模型部署落地的效率，也使模型的更新迭代更为方便，可以较好地满足目标检测场景的需求。

相应的，本申请实施例还提供一种基于云边协同架构的图像处理方法，请参阅图6，图6示意了本申请实施例的基于云边协同架构的图像处理方法的流程。该基于云边协同架构的图像处理方法应用于预测模块500，预测模块500设置于云端服务器100或边缘设备200。该基于云边协同架构的图像处理方法具体包括如下步骤：

步骤601：获取边缘设备200采集的目标区域的待处理图像。

步骤602：调用可部署模型，该可部署模型为云端服务器100部署至预测模块500的。

步骤603：若可部署模型中未封装有与训练环境相对应的第一容器，则通过容器技术生成与第一容器相同的第二容器。

步骤604：通过第二容器运行可部署模型，对待处理图像进行相应预测，并获取目标区域的检测结果。

此外，若可部署模型中封装有与训练环境相对应的第一容器，则通过第一容器运行可部署模型，对待处理图像进行相应预测，并获取目标区域的检测结果。

在一些实施例中，该方法还包括：

步骤605：将各个待处理图像以及待处理图像对应的检测结果共同回传到云端服务器100，以使云端服务器100将各个待处理图像以及对应的检测结果存储入预设的训练数据中。

可以理解的是，本申请实施例的基于云边协同架构的图像处理方法，可基于云边协同架构，通过从云端快速部署模型，且通过容器化手段运行模型，从而极大地提高模型部署落地的效率，同时在进行模型的更新迭代时也无需频繁更换系统环境，更为方便且灵活性更高，可以较好地满足各种目标检测场景的需求。

在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述的部分，可以参见其他实施例的相关描述。

以上对本申请实施例所提供的一种基于云边协同架构的图像处理系统、方法及模型部署方法进行了详细介绍，本文中应用了具体个例对本申请的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本申请的技术方案及其核心思想；本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本申请各实施例的技术方案的范围。

Claims (12)

1.一种基于云边协同架构的图像处理系统，其特征在于，所述云边协同架构包括云端服务器和边缘设备，所述图像处理系统包括：

训练模块，所述训练模块设置于所述云端服务器，且被配置为响应于用户发送的训练指令，获取待部署模型的配置文件；以及，对所述待部署模型进行容器编排，生成所述待部署模型的训练环境所对应的第一容器；以及，基于所述配置文件，通过所述第一容器对所述待部署模型进行训练，获取输出模型；

部署模块，所述部署模块设置于所述云端服务器，且被配置为将所述输出模型封装为可部署模型；以及，将所述可部署模型部署至预测模块；

所述预测模块，被配置为获取所述边缘设备采集的目标区域的待处理图像，并运行所述可部署模型以对所述待处理图像进行相应预测，并获取所述目标区域的检测结果。

2.根据权利要求1所述的基于云边协同架构的图像处理系统，其特征在于，所述部署模块被配置为将所述输出模型封装为可部署模型，包括：

将所述输出模型、所述输出模型所采用的图像预处理算法、所述输出模型所采用的图像后处理算法和所述第一容器，共同封装为所述可部署模型，所述图像预处理算法用于对所述输出模型的输入数据进行预处理，所述图像后处理算法用于对所述输出模型的输出数据进行后处理。

3.根据权利要求1所述的基于云边协同架构的图像处理系统，其特征在于，所述部署模块被配置为将所述输出模型封装为可部署模型，包括：

将所述输出模型、所述输出模型所采用的图像预处理算法和所述输出模型所采用的图像后处理算法，共同封装为所述可部署模型，所述图像预处理算法用于对所述输出模型的输入数据进行预处理，所述图像后处理算法用于对所述输出模型的输出数据进行后处理。

4.根据权利要求3所述的基于云边协同架构的图像处理系统，其特征在于，所述预测模块被配置为运行所述可部署模型以对所述待处理图像进行相应预测，包括：

调用所述可部署模型；

通过容器技术生成与所述第一容器相同的第二容器；

通过所述第二容器运行所述可部署模型，以对所述待处理图像进行相应预测。

5.根据权利要求1所述的基于云边协同架构的图像处理系统，其特征在于，所述训练指令包括待部署模型的结构信息和训练信息；

所述训练模块被配置为响应于用户发送的训练指令，获取待部署模型的配置文件，包括：

响应于所述训练指令，获取预设的配置文件模板；

将所述结构信息和训练信息存储于所述配置文件模板，生成所述待部署模型的配置文件。

6.根据权利要求5所述的基于云边协同架构的图像处理系统，其特征在于，所述训练模块被配置为基于所述配置文件，通过所述第一容器对所述待部署模型进行训练，获取输出模型，包括：

基于所述配置文件，加载与所述结构信息相对应的待部署模型的框架，以及与所述训练信息相对应的训练数据；

对所述待部署模型的框架的超参数进行初始化，获取所述待部署模型；

基于所述训练数据，通过所述第一容器对所述待部署模型进行训练，获取所述输出模型。

7.根据权利要求6所述的基于云边协同架构的图像处理系统，其特征在于，所述预测模块还被配置为执行以下步骤：

将各个所述目标区域的待处理图像以及所述待处理图像对应的所述检测结果共同回传到所述训练模块，以使所述训练模块将各个所述待处理图像以及对应的所述检测结果存储入所述训练数据。

8.根据权利要求1所述的基于云边协同架构的图像处理系统，其特征在于，所述云端服务器还预先设置有第一数据库、第二数据库、第三数据库和第四数据库；

所述第一数据库用于存储多个图像预处理算法，所述第二数据库用于存储多个图像后处理算法，所述第三数据库用于存储多个模型及对应的容器配置文件，所述第四数据库用于存储训练数据。

9.一种基于云边协同架构的模型部署方法，其特征在于，应用于云端服务器，所述方法包括：

响应于用户发送的训练指令，获取待部署模型的配置文件；

对所述待部署模型进行容器编排，生成所述待部署模型的训练环境所对应的第一容器；

基于所述配置文件，通过所述第一容器对所述待部署模型进行训练，获取输出模型；

将所述输出模型封装为可部署模型；

将所述可部署模型部署至目标位置。

10.根据权利要求9所述的基于云边协同架构的模型部署方法，其特征在于，将所述输出模型封装为可部署模型，包括：

将所述输出模型、所述输出模型所采用的图像预处理算法、所述输出模型所采用的图像后处理算法和所述第一容器，共同封装为所述可部署模型，所述图像预处理算法用于对所述输出模型的输入数据进行预处理，所述图像后处理算法用于对所述输出模型的输出数据进行后处理。

11.一种基于云边协同架构的图像处理方法，其特征在于，应用于预测模块，所述预测模块设置于云端服务器或边缘设备；所述方法包括：

获取所述边缘设备采集的目标区域的待处理图像；

调用可部署模型，所述可部署模型为所述云端服务器部署至所述预测模块的；

若所述可部署模型中未封装有与训练环境相对应的第一容器，则通过容器技术生成与所述第一容器相同的第二容器；

通过所述第二容器运行所述可部署模型，对所述待处理图像进行相应预测，并获取所述目标区域的检测结果。

12.根据权利要求11所述的基于云边协同架构的图像处理方法，其特征在于，所述方法还包括：

将各个所述待处理图像以及所述待处理图像对应的所述检测结果共同回传到所述云端服务器，以使所述云端服务器将各个所述待处理图像以及对应的所述检测结果存储入预设的训练数据中。