CN111752555B - 业务场景驱动的视觉洞察支撑系统、客户端和方法 - Google Patents

Abstract

本发明公开了业务场景驱动的视觉洞察支撑系统、客户端和方法，所述系统包括模型库、模型管理后台和业务场景管理模块：所述模型库用于存储若干个标准化模型；所述模型管理后台用于根据编排客户端所构建的模型编排树、对应同一个模型编排树的节点上编排客户端所设置的标准化模型，以及对应同一个模型编排树编排客户端绑定于标准化模型的图形处理器生成模型调度关系表；业务场景管理模块用于根据由编排客户端所关联的若干个模型调度关系表生成业务场景；利用该系统可供客户端针对不同的业务场景以及模型编排对模型进行调用，当客户端需要更改模型调度顺序或调用场景时，只需完成新的模型编排树或重新关联模型调度关系表，无需通过修改代码实现。

Description

业务场景驱动的视觉洞察支撑系统、客户端和方法

技术领域

本发明涉及领域，更具体地，涉及业务场景驱动的视觉洞察支撑系统、客户端和方法。

背景技术

目前机器学习应用的开发过程基本都是准备数据，选择模型，调整优化模型，最后上线供外部应用调用。通常都是基于竖井式的方法进行模型应用开发，将基于场景的数据输入输出处理、模型调度逻辑、模型算法、算法执行框架等几个层面的技术以及代码逻辑强绑定，形成一个不可分割的完整模块，从而导致整个应用场景的计算、模型、调度、数据全部都绑定在一起。而这样的模型应用开发方案中，存在着以下的缺陷：

（1）基于业务场景建模的数据模型与图片数据、算法糅合在一起，导致业务建模一旦变动，算法的调度逻辑和算法本身也需要变动，由此容易出错，且开发效率低；

（2）整个方案与特定的模型执行框架（caffee或者mmdection）绑定在一起，升级改造难度大，成本高，难以适应现有深度学习模型框架快速发展变化的技术背景；

（3）整个方案的代码逻辑融合在一起，一旦某个或某些模型需要更新，则需要全部停机，无法实现模型的在线更新维护；

（4）如涉及到多个模型一起参与计算的场景下，通常是把多个模型合并到一起进行调用，或者是分开地逐一通过API进行不同模型的调用，当需要部分更换模型时，只能去修改代码，进行整体版本的迭代；

（5）没有独立出来形成一个通用的模型调度引擎，每拿到一个新的模型，开发、训练好就直接集成使用，需要更新或者替换的时候牵扯到代码很多地方，效率低下，同时每次在应用到新的场景时，整个方案都得从头到尾重新开发、测试、部署，耗费人力和时间。

发明内容

本发明旨在克服上述现有技术的至少一种缺陷，提供业务场景驱动的视觉洞察支撑系统、客户端和方法，用于解决现有模型集成使用后在需要根据不同的业务场景调用和更替模型过程中的不便和繁琐的问题。

本发明提供的方案为：

一种业务场景驱动的视觉洞察支撑系统，所述系统包括模型库、模型管理后台和业务场景管理模块：所述模型库用于存储若干个标准化模型；所述模型管理后台用于根据编排客户端所构建的模型编排树、对应同一个所述模型编排树的节点上所述编排客户端所设置的标准化模型，以及对应同一个所述模型编排树所述编排客户端绑定于所述标准化模型的图形处理器生成模型调度关系表；一个所述模型编排树对应一个所述模型调度关系表；所述业务场景管理模块用于根据由所述编排客户端所关联的若干个所述模型调度关系表生成业务场景。

本发明提供的系统供编排客户端或其他客户端使用，编排客户端会利用模型编排树对模型库中的若干个标准化模型进行编排，标准化模型指已进行输入和输出格式标准化的模型，模型编排树上包括若干个编排树节点，编排客户端可利用节点之间的顺序关系从而编排模型执行的顺序关系，例如两个标准化模型所在的两个节点为前后顺序关系，则两个标准化模型的执行次序为前后顺序执行。编排客户端在完成编排后会将标准化模型与执行该模型的图形处理器进行绑定。系统中的模型管理后台会根据该模型编排树、模型编排树节点上的标准化模型以及模型所绑定的图形处理器生成模型调度关系表，该表中包含了模型编排树的树形结构，模型编排树中每一个节点对应的标准化模型，以及执行模型编排树时所需的图形处理器。

本发明提供的系统中所形成的模型调度关系表记录了模型树的编排信息，因此可被利用于后续对模型的调度。同时，编排客户端可完成多个模型编排树，模型管理后台会为每一个完成的模型编排树及所绑定的图形处理器生成一个对应的模型调度关系表，如编排客户端完成了多个模型编排树，则模型管理后台会对应生成多个模型调度关系表。在模型管理后台生成了多个模型调度关系表后，编排客户端可根据模型应用的场景不同，对若干个模型调度关系表进行关联，业务场景管理模块根据编排客户端所关联的模型调度关系表生成业务场景，该业务场景包含了客户端所关联度的多个模型调度关系表，用于在某一场景下统一根据该多个模型调度关系表对模型进行调用。

利用本发明提供的业务场景驱动的视觉洞察支撑系统，可针对不同的业务场景以及不同的模型编排对模型进行调用，当客户端需要更改模型调度顺序或调用场景时，只需要完成新的模型编排树或重新关联模型调度关系表，无需通过修改代码实现，根据不同的业务场景或需求更替模型会更加便捷。

进一步，所述系统还包括模型调度引擎，所述模型调度引擎用于在接收到调用客户端发出的视觉检测任务后，根据所述业务场景管理模块所生成的所述业务场景获取对应的所述模型调度关系表，根据所获取的所述模型调度关系表，从所述模型库中获取并调用所述标准化模型以执行所述视觉检测任务，并将所述视觉检测任务的执行结果返回至所述调用客户端。

本发明提供的系统还供调用客户端使用，编排客户端主要用于对标准化模型的编排使模型管理后台生成模型调度关系表，再对模型调度关系表进行关联使业务场景管理模型生成业务场景，调用客户端主要用于在业务场景生成后，向系统的模型调度引擎发送视觉检测任务以调用标准化模型。

本系统中设有一个独立的模型调度引擎在本系统中为独立引擎，在接收到调用客户端发出的视觉检测任务后，根据业务管理模块的业务场景获取在模型管理后台中对应的模型调度关系表，按照该表中模型编排树的树形结构，即每个节点之间的排序关系，调用对应节点上的标准化模型，以完成调用客户端发来的视觉检测任务，在模型完成该任务后，将结果返回至调用客户端。

进一步，所述模型调度引擎用于在接收到调用客户端发出的视觉检测任务后，根据所述业务场景管理模块所生成的所述业务场景获取对应的所述模型调度关系表，根据所获取的所述模型调度关系表，从所述模型库中获取并调用所述标准化模型以执行所述视觉检测任务，具体为：

所述模型调度引擎用于在接收到调用客户端发出的视觉检测内容、执行所述视觉检测内容所需调用的所述业务场景的业务场景标识，以及执行所述视觉检测内容所需调用的所述标准化模型的模型ID之后，根据所述业务场景标识获取所述业务场景管理模块中对应的业务场景，根据所获取的所述业务场景获取对应的所述模型调度关系表，根据所获取的所述模型调度关系表，从所述模型库中获取并调用所述模型ID对应的所述标准化模型以执行所述视觉检测内容。

编排客户端可在模型编排树节点上设置多于一个标准化模型，在向模型调度引擎发送视觉检测任务时，如调用客户端需要调用的是模型编排树节点上的其中一个标准化模型，可以通过模型ID进行调用，标准化模型在其初始化接口时已定义参数ID作为其模型ID，为该标准化模型的唯一标识，调用客户端也可以根据需要，利用业务场景标识选择业务场景管理模块中特定的业务场景，业务场景标识为业务场景的唯一标识。

因此调用客户端在向模型调度引擎发送视觉检测任务时，视觉检测任务包括视觉检测内容和完成该视觉检测内容所需的标准化模型的模型ID以及业务场景的业务场景标识，模型调度引擎根据业务场景标识获取业务场景，从而获取后台的模型调度关系表，通过模型调度关系表获取模型编排树的树形结构后，根据调用客户端发出的模型ID对应调用模型编排树节点上的某一标准化模型。

在多模型协作调度过程中，常有根据不同输入调度不同模型的情况，惯用的处理方式是使用不同的模型编排，每个模型编排对应一种情况。

但本发明提供的编排客户端可在模型编排树节点上设置多个标准化模型，由此，在实际调用过程中，调用客户端可利用模型ID选择调用节点上的其中一个标准化模型，模型调度引擎根据业务场景中模型调度关系表的模型编排树，结合模型ID有选择性地调用，使一个业务场景满足多种模型调用的场景。同时，编排客户端可关联多组模型调度关系表从而生成多个业务场景，在实际调用过程中调用客户端也可利用业务场景标识选择其中一个业务场景进行模型的调用，使客户端与系统之间的配合工作能够实现多种模型调用的场景。

进一步，所述模型管理后台还用于在接收到所述编排客户端上传的若干个标准化模型之后，生成所上传的所述标准化模型的镜像文件，并将所述镜像文件存储至所述模型库。

编排客户端还用于标准化模型在编排前的上传和准备，编排客户端可向模型管理后台上传已标准化的模型，模型管理后台接收到标准化模型后，将客户端上传的模型打包为镜像文件，并将其推送至模型库，此时的模型库可认为是一个镜像仓库，利用镜像仓库进行模型的管理实现模型的共享，同时将模型构建为容器镜像，可降低模型的运维难度，提高模型在任何端的部署效率，且模型的运行不受运行环境的影响。

进一步，所述模型管理后台还用于在接收到所述编排客户端上传的对应所述镜像文件的运行测试任务，并且在生成所上传的所述标准化模型的镜像文件之后，启动所生成的所述镜像文件以执行所述运行测试任务，并将所述运行测试任务的执行结果返回至所述编排客户端，以使所述编排客户端在接收到所述运行测试任务的执行结果之后，判断所述镜像文件是否成功执行所述运行测试任务；

所述模型管理后台还用于在所述编排客户端判定所述镜像文件成功执行所述运行测试任务时，将所述镜像文件存储至所述模型库。

编排客户端在上传标准化模型后，模型管理后台将该标准化模型打包为镜像文件，此时编排客户端需要测试上传的模型是否能够正常运行，以保证镜像文件在后续调用过程中不出现问题。因此编排客户端需要向模型管理后台上传测试任务，模型管理后台在接收到测试任务后，启动标准化模型的镜像文件以运行该模型，该模型在完成测试任务后将输出结果至客户端，客户端判断该模型是否成功完成测试任务，如是，模型管理后台将该镜像文件推送至镜像仓库，如不是，则镜像文件推送失败，编排客户端可选择采取重新上传模型等措施解决。

本发明提供的方案还为：

一种业务场景驱动的视觉洞察支撑编排客户端，所述客户端包括模型编排模块和业务场景关联模块，所述模型编排模块用于构建模型编排树节点，并将模型库所存储的标准化模型设在所述模型编排树节点上，将所述模型编排树节点上所设有的所述标准化模型绑定图形处理器以形成模型编排树；所述业务场景关联模块用于与若干个模型调度关系表进行关联，以使业务场景管理模块根据所述业务场景关联模块所关联的若干个所述模型调度关系表生成业务场景，进而使模型调度引擎在接收到调用客户端发送的视觉检测任务后根据所述业务场景获取对应的所述模型调度关系表，根据所获取的所述模型调度关系表，从所述模型库中获取并调用所述标准化模型以执行所述视觉检测任务，并将所述视觉检测任务的执行结果返回至所述调用客户端；所述模型调度关系表由所述模型管理后台根据所述模型编排树、对应同一个所述模型编排树的节点上所述客户端所设置的标准化模型，以及对应同一个所述模型编排树所述客户端绑定于所述标准化模型的图形处理器而生成；一个所述模型编排树对应一个所述模型调度关系表。

该方案中的编排客户端可与对应的系统配合工作，系统中包括模型管理后台、模型库和业务管理模块。该客户端首先添加模型编排树节点，节点之间有前后顺序连接或并列连接，客户端可在模型编排树节点上设置标准化模型，该标准化模型存储在模型库中。客户端通过模型编排树节点间的关系编排标准化模型之间的执行关系，如两个标准化模型所在的两个节点为前后顺序关系，则两个标准化模型的执行次序为前后顺序执行。客户端在利用编排树对标准化模型进行编排后，需要将模型编排树上的标准化模型与图形处理器绑定，以用于运行标准化模型。客户端在完成模型编排树后，模型管理后台会自动根据模型编排树以及所绑定的图形处理器生成模型调度关系表，客户端可完成多个模型编排树，模型管理后台也会对应生成多个模型调度关系表，因此客户端还可以根据模型调用场景的不同对模型管理后台中的模型调度关系表进行关联，业务管理模块会根据客户端所关联的模型调度关系表生成业务场景。业务场景可用于调用客户端调用模型，调用客户端与模型调度引擎配合调用模型时，模型调度引擎根据该生成的业务场景获取特定的模型调度关系表，从而调用特定的模型。

当该客户端需要更新现有的模型时，只需要在模型库中更新该标准化模型，当客户端需要更改现有模型的调度顺序，可直接更改模型编排树中的编排顺序，由此客户端与系统配合工作可应用于多种利用模型进行计算的场景，且在更新或替换模型时无需通过修改代码实现。由于模型的输入和输出已标准化，因此在更换模型后对应的调用代码也无需更改。再者，客户端通过模型编排树编排的方式，能使用户更加直观地控制标准化模型的执行顺序，且编排的结果通过编排树显示更加直截了当。

进一步，所述客户端还包括模型上传测试模块，所述模型上传测试模块用于向所述模型管理后台上传若干个标准化模型，以使所述模型管理后台在接收到所述客户端上传的所述标准化模型之后，生成所述标准化模型的镜像文件，并将所述镜像文件存储至所述模型库。

进一步，所述模型上传测试模块还用于向所述模型管理后台上传所述镜像文件对应的运行测试任务，以使所述模型管理后台在接收到所述镜像文件对应的运行测试任务并且在生成所述标准化模型的镜像文件之后，启动所生成的所述镜像文件以执行所述运行测试任务，并将所述运行测试任务的执行结果返回至所述模型上传测试模块；所述模型上传测试模块还用于在接收到所述运行测试任务的执行结果之后，根据所述运行测试任务的执行结果判断所述镜像文件是否成功执行所述运行测试任务，在判定所述镜像文件成功执行所述运行测试任务时，使得所述模型管理后台将所述镜像文件存储至所述模型库。

本发明提供的方案还为：

一种业务场景驱动的视觉洞察支撑方法，应用于编排客户端，步骤包括：

构建模型编排树节点，并将模型库所存储的若干个标准化模型设在所述模型编排树节点上以形成模型编排树；将所述模型编排树节点上所设有的所述标准化模型绑定至图形处理器，以使所述标准化模型采用所绑定的所述图形处理器运行；

将模型管理后台所生成的若干个模型调度关系表进行关联，以使业务场景管理模块根据由所述客户端所关联的若干个所述模型调度关系表生成业务场景，进而使模型调度引擎在接收到调用客户端发送的视觉检测任务后根据所述业务场景获取对应的所述模型调度关系表，根据所获取的所述模型调度关系表，从所述模型库中获取并调用所述标准化模型以执行所述视觉检测任务，并将所述视觉检测任务的执行结果返回至所述调用客户端；

所述模型调度关系表由所述模型管理后台根据所述编排客户端所形成的模型编排树、对应同一个所述模型编排树的节点上所述编排客户端所设置的标准化模型，以及对应同一个所述模型编排树所述编排客户端绑定于所述标准化模型的图形处理器而生成。

本发明提供的方案还为：

一种业务场景驱动的视觉洞察支撑调用方法，应用于调用客户端，步骤包括：向模型调度引擎发送视觉检测任务，以使所述模型调度引擎在接收到所述视觉检测任务后，根据业务场景管理模块所生成的业务场景获取对应的模型管理后台的模型调度关系表，根据所获取的所述模型调度关系表，从模型库中获取并调用标准化模型以执行所述视觉检测任务，并将所述视觉检测任务的执行结果返回至所述客户端；

所述业务场景由所述业务场景管理模块根据编排客户端所关联的若干个所述模型调度关系表生成；所述模型调度关系表由所述模型管理后台根据编排客户端所形成的模型编排树、对应同一个所述模型编排树的节点上所述编排客户端所设置的标准化模型，以及对应同一个所述模型编排树所述编排客户端绑定于所述标准化模型的图形处理器而生成；一个所述模型编排树对应一个所述模型调度关系表；所述标准化模型存储于所述模型库；接收所述模型调度引擎返回的所述视觉检测任务的执行结果。

该方案中的调用方法应用于调用客户端，调用客户端采用该方法后可与对应的系统配合工作，系统中包括模型管理后台、模型库、模型调度引擎和业务管理模块。编排客户端主要用于对标准化模型的编排使模型管理后台生成模型调度关系表，再对模型调度关系表进行关联使业务场景管理模型生成业务场景，调用客户端主要用于在业务场景生成后，向系统的模型调度引擎发送视觉检测任务以调用标准化模型。系统中设有一个独立的模型调度引擎，调用客户端向模型调度引擎发出视觉检测任务，模型调度引擎在接收到任务后，根据业务场景获取模型管理后台的模型调度关系表，按照该表中模型编排树的树形结构，即每个节点之间的排序关系，调用对应节点上的标准化模型，以完成调用客户端发来的视觉检测任务，在模型完成该任务后，将结果返回至调用客户端，调用客户端接收该执行结果。

进一步，向模型调度引擎发送视觉检测任务，以使所述模型调度引擎在接收到所述视觉检测任务后，根据业务场景管理模块所生成的业务场景获取模型管理后台的模型调度关系表，根据所获取的所述模型调度关系表，从模型库中获取并调用标准化模型以执行所述视觉检测任务，具体为：

向模型调度引擎发送视觉检测内容、执行所述视觉检测内容所需调用的业务场景的业务场景标识，以及执行所述视觉检测内容所需调用的标准化模型的模型ID，以使所述模型调度引擎在接收到所述视觉检测内容、所述业务场景标识和所述模型ID后，根据所述业务场景标识获取业务场景管理模块中对应的业务场景，根据所获取的所述业务场景获取对应的模型管理后台的模型调度关系表，根据所获取的所述模型调度关系表，从模型库中获取并调用所述模型ID对应的所述标准化模型以执行所述视觉检测任务。

本发明的方案还为一种业务场景驱动的视觉洞察支撑调用客户端，用于执行上述的业务场景驱动的视觉洞察调用方法。

与现有技术相比，本发明的有益效果为：

（1）本发明中提供的业务场景驱动的视觉洞察支撑系统中设有独立通用的模型调度引擎，且系统各部分相互独立运行，使客户端在需要更换或更新模型时不需要通过修改整体程序的代码，只需要向模型库直接更替模型，或在模型编排树上直接修改模型的调度顺序，模型管理后台将根据更改处生成新的模型调度关系表进而更新关系表对应的业务场景，客户端或可重新关联模型调度关系表，业务场景管理模块生成新的业务场景，模型调度引擎只需根据更改后的业务场景进行模型调度，整个系统大大提高模型调度过程的效率；

（2）本发明提供的业务场景驱动的视觉洞察支撑编排客户端通过在模型编排树节点上设置多个标准化模型，使任何客户端在实际调用过程中利用模型的唯一标识调用节点上的其中一个标准化模型，同时编排客户端通过关联多组模型调度关系表使生成多个业务场景，从而使任何客户端在实际调用过程中利用业务场景的唯一标识调用其中一个业务场景，使每个模型编排树、模型调度关系表或业务场景均能满足多重模型调用的情况。

（3）本发明中提供的编排客户端利用模型编排树为用户提供的模型编排方式直观了当，且操作简便；

（4）本发明中的客户端和系统均对模型进行输入和输出的标准化，使对不同模型调用时可利用相同的调用代码；

（5）本发明的系统对模型的管理采用镜像文件管理的方式，将模型容器化有利于模型在调用时能够直接在符合要求的环境下进行。

附图说明

图1为本发明的系统结构示意图。

图2为本发明中部件模型的结构示意图。

图3为本发明中编排客户端上传标准化模型的流程示意图。

图4为本发明中总客户端利用业务场景标识调用标准化模型时系统的跳转流程示意图。

具体实施方式

本发明附图仅用于示例性说明，不能理解为对本发明的限制。为了更好说明以下实施例，附图某些部件会有省略、放大或缩小，并不代表实际产品的尺寸；对于本领域技术人员来说，附图中某些公知结构及其说明可能省略是可以理解的。

实施例1

如图1所示，本实施例提供一种业务场景驱动的视觉洞察支撑及调用系统，所述系统包括模型库1、模型管理后台2、业务场景管理模块3、模型调度引擎4、编排客户端5和调用客户端6。

编排客户端5用于构建模型编排树节点，模型库1用于存储若干个标准化模型；编排客户端5用于将模型库1存储的若干个标准化模型设在模型编排树节点上以构建模型编排树，编排树节点之间有前后顺序连接或并列连接，编排客户端5可在模型编排树节点上设置标准化模型，通过模型编排树节点间的关系编排标准化模型之间的执行关系，如两个标准化模型所在的两个节点为前后顺序关系，则两个标准化模型的执行次序为前后顺序执行。优选地，编排客户端5编排模型可为在图形化界面上进行模型的编排，通过拖拽模型至模型编排树节点的方式对模型进行编排，在界面上简单拖拽即可实现模型编排，对于编排者来说既直观清晰，操作也十分简易便捷。

编排客户端5还用于将所有模型编排树节点上的若干个所述标准化模型绑定至图形处理器，以使所述标准化模型采用所绑定的所述图形处理器运行；

模型管理后台2根据编排客户端5构建的模型编排树、对应同一所述模型编排树的节点上的对应标准化模型，以及绑定于对应同一所述模型编排树标准化模型的图形处理器生成模型调度关系表。

模型调度关系表中包含模型编排树的树形结构，模型编排树中每个节点对应有的标准化模型，以及模型所绑定的图形处理器。编排客户端5可完成多个模型编排树，模型管理后台2会为每一个完成的模型编排树及所绑定的图形处理器生成一个对应的模型调度关系表，如编排客户端5完成了多个模型编排树，则模型管理后台会对应生成多个模型调度关系表。

编排客户端5还用于根据需求关联模型管理后台2中的若干个模型调度关系表，业务场景管理模块3会根据编排客户端5所关联的若干个模型调度关系表生成业务场景。

在业务场景生成后，调用客户端6用于向模型调度引擎4发送视觉检测任务；

模型调度引擎4用于在接收到所述视觉检测任务后，根据业务场景管理模块3所生成的所述业务场景，获取对应的模型调度关系表，模型管理后台2根据所获取的模型调度关系表，从模型库1中获取并调用标准化模型以执行视觉检测任务，调用的方式是按照模型调度关系表中的模型编排树的树形结构，顺序调用编排树上每一个节点对应的标准化模型。在模型完成视觉检测任务之后，模型调度引擎4将完成的结果返回至调用客户端6。

作为可选方案，本实施例中所提及的“模型”可为深度学习模型，视觉检测任务可为图片或影像等。

在本实施例中所提及的标准化模型均为已对模型进行输入和输出标准化的模型，对模型的初始化接口的输入和输出分别进行标准化规范，以下仅对该标准化规范进行举例说明，但本实施例中提供的系统中模型的标准化的方式不应限制于以下的示例说明：

模型初始化接口进行标准化规范，可将模型的输入规范为：任何一个模型的输入，只需要一个参数为id，表示模型id，类型为long。模型初始化接口用于提前将模型装载到GPU或者CPU中，从而加快后续模型的检测速度。可将模型的输出规范为：任何一个模型的输出，输出格式为json类型，均需要包括两个基本字段，msg，表示模型初始化的结果；code，表示初始化请求的响应状态返回值。

视觉检测接口进行标准化规范，可将模型的输入规范为：任何一个模型的输入，只需要两个参数：data，表示照片数据，类型byte数组；id，表示模型id，类型long。

可将模型的输出规范为：任何一个模型的输出，均需要包括两个基本字段，timestamp，表示模型分析结束的时间戳；detections，表示模型分类或者识别的结果。对于模型分类的detections，需要包括probableTypes分别对每个分类结果标注出confidence和type；而对于模型检测的detections，则需要在probableTypes的基础上，包括表示识别对象位置的position。

作为优选方案，编排客户端5可在每一个模型编排树节点上设置一个部件模型，如图2所示，该部件模型包含至少一个标准化模型，即模型编排树节点上设有至少一个标准化模型，部件模型为编排客户端5根据计算场景将特定的标准化模型组合而成。

由此，编排客户端5在向模型调度引擎4发送视觉检测任务时，视觉检测任务中包含了视觉检测内容、指定调用部件模型中标准化模型的模型ID以及执行该视觉检测内容所需调用的业务场景的业务场景标识，因此调用客户端6在向模型调度引擎4发送视觉检测任务时，具体过程应为：调用客户端6向模型调度引擎4发送视觉检测内容、需要完成所述视觉检测内容的标准化模型的模型ID，以及需要完成所述视觉检测内容的业务场景标识。模型ID为标准化模型的唯一标识，业务场景标识为业务场景的唯一标识。

模型调度引擎4在接收到该视觉检测内容、模型ID以及业务场景标识后，对应调用模型库中的标准化模型，具体调用的过程为：根据业务场景标识在业务场景管理模块3中获取对应的业务场景，根据业务场景获取对应的模型调度关系表，根据模型调度关系表中模型编排树的树形结构，按照该树形结构顺序调用编排树节点上的部件模型，由于每个节点上的部件模型中有至少一个标准化模型，因此模型调度引擎4根据调用客户端6发出的模型ID准确调用节点上的其中一个标准化模型。

引入部件模型的概念，在每一个模型编排树节点上设置一个部件模型，而部件模型中含有至少一个标准化模型，在调用时可选择其中一个标准化模型进行调用，由此使一种模型编排方式适用于更多的计算场景。同时，编排客户端5可关联多组模型调度关系表使业务场景管理模块3生成多个业务场景，从而使调用客户端6在实际调用过程中利用业务场景的唯一标识调用其中一个业务场景，使每个模型编排树、模型调度关系表或业务场景均能满足多重模型调用的情况。

作为优选方案，模型库1可为一镜像仓库，如图3所示，编排客户端5还用于向模型管理后台2上传若干个标准化模型；优选地，编排客户端5在上传标准化模型时可一并上传模型对应的模型属性，如模型类型、模型版本号、模型类别、模型名称、运行最低硬件需求、模型检测的照片类型、模型运行环境、照片特征和检测分配结果等。

当编排客户端5上传模型以及属性成功后，模型管理后台2用于调用Docker命令将编排客户端5上传的标准化模型以及对应的模型属性打包为镜像文件；

在模型管理后台4成功保存模型并将其打包为镜像文件后，编排客户端5向模型管理后台2上传对应所述标准化模型的测试任务；该测试任务用于检测模型上传后是否能够正常运行。

模型管理后台2在接收到对应所述标准化模型的测试任务之后，启动该标准化模型的镜像文件完成所述测试任务，将所述测试任务的完成结果返回至编排客户端5；

编排客户端5在接收到所述测试任务的完成结果之后，根据结果判断所述标准化模型是否成功完成所述测试任务；模型管理后台2会根据编排客户端5所判定的结果确定是否将所述镜像文件推送至镜像仓库：如编排客户端5判定标准化模型成功完成所述测试任务，则模型管理后台2将所述镜像文件推送至镜像仓库；反之，模型管理后台2则不会将该镜像文件推送，编排客户端5可选择重新上传该模型。

如模型镜像已成功推送至镜像仓库，则模型调度引擎4在调用模型时，具体为向模型镜像仓库中拉取并启动对应的标准化模型，且调用的顺序按照所述模型调度关系表中的模型编排树的树形结构，并需要根据编排客户端5发出的模型ID启动对应的标准化模型的镜像文件，以完成所述视觉检测任务，最后将完成的结果返回至编排客户端5。

利用镜像仓库进行模型的管理实现模型的共享，同时将模型构建为容器镜像，可降低模型的运维难度，提高模型在任何端的部署效率，且模型的运行不受运行环境的影响。

作为优选方案，模型管理后台2还用于在调用Docker命令将编排客户端5上传的标准化模型和模型属性打包为镜像文件之前，对接收到的所标准化模型的接口进行Restful封装。模型管理后台2负责对标准化模型的接口进行Restful封装，使该标准化模型可被远程调用，实现标准化模型的服务化。

作为优选方案，编排客户端5与调用客户端6可为同一客户端，可统称为总客户端，两个客户端为同一客户端时，更方便用户高效调用和更替模型。

作为优选方案，如图4所示，总客户端向模型调度引擎4发出视觉检测内容、模型ID以及业务场景标识后，业务场景管理模块3首先根据所述业务场景标识判断是否存在对应的业务场景，如不存在对应的业务场景，则系统跳转至总客户端关联模型调度关系表的界面，总客户端重新关联模型调度关系表进而生成所需的业务场景，但如无适用的模型调度关系表，则系统跳转至总客户端构建模型编排树的界面，总客户端重新构建模型编排树节点，并将模型库中已存储的标准化模型拖拽至编排树节点上生成所需的模型编排树，但如无适用的标准化模型，则系统跳转至总客户端上传标准化模型的界面，总客户端重复如上述的上传标准化模型操作并对其进行测试，在测试完成后模型管理后台2将上传的模型推送至模型库1中，总客户端再次跳转模型编排界面，重复上述模型编排的方式以构建新的模型编排树，从而使模型管理后台2生成新的模型调度关系表，并使业务场景管理模块3生成新的业务场景供总客户端调用。

作为优选方案，总客户端可对业务场景管理模块3生成的若干个业务场景设置属性，属性可包括业务场景的名称、适用领域、简要描述以及适用需求等等。

显然，本发明的上述实施例仅仅是为清楚地说明本发明技术方案所作的举例，而并非是对本发明的具体实施方式的限定。凡在本发明权利要求书的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明权利要求的保护范围之内。

Claims (6)

1.一种业务场景驱动的视觉洞察支撑系统，其特征在于，所述系统包括模型库、模型管理后台、模型调度引擎和业务场景管理模块：

所述模型库用于存储若干个标准化模型；部件模型包括至少一个标准化模型；所述标准化模型指已进行输入和输出格式标准化的模型；

所述模型管理后台用于根据编排客户端所构建的模型编排树、对应同一个所述模型编排树的节点上所述编排客户端所设置的所述部件模型，以及对应同一个所述模型编排树所述编排客户端绑定于所述部件模型的标准化模型的图形处理器生成模型调度关系表；一个所述模型编排树对应一个所述模型调度关系表；

所述业务场景管理模块用于根据由所述编排客户端所关联的若干个所述模型调度关系表生成业务场景；

所述模型库还为模型镜像仓库；

所述模型管理后台还用于在接收到所述编排客户端上传的若干个标准化模型之后，对接收到的所述标准化模型的接口进行Restful封装，生成进行封装后的标准化模型的镜像文件，将所述镜像文件存储至所述镜像仓库；

所述模型调度引擎用于在接收到调用客户端发出的视觉检测任务之后，根据所述视觉检测任务中的业务场景标识获取所述业务场景管理模块中对应的业务场景，根据所获取的所述业务场景获取对应的所述模型调度关系表，从所述镜像仓库中拉取并启动所述视觉检测任务的模型ID对应的所述标准化模型的镜像文件以执行所述视觉检测任务的视觉检测内容，或通过所述标准化模型的Restful接口远程调用所述标准化模型以执行所述视觉检测内容，并将所述视觉检测内容的执行结果返回至所述调用客户端；

所述视觉检测任务包括视觉检测内容、执行所述视觉检测内容所需调用的所述业务场景的业务场景标识，以及执行所述视觉检测内容所需调用的所述标准化模型的模型ID。

2.根据权利要求1所述的业务场景驱动的视觉洞察支撑系统，其特征在于，

所述模型管理后台还用于在接收到所述编排客户端上传的对应所述镜像文件的运行测试任务，并且在生成所上传的所述标准化模型的镜像文件之后，启动所生成的所述镜像文件以执行所述运行测试任务，并将所述运行测试任务的执行结果返回至所述编排客户端，以使所述编排客户端在接收到所述运行测试任务的执行结果之后，判断所述镜像文件是否成功执行所述运行测试任务；

所述模型管理后台还用于在所述编排客户端判定所述镜像文件成功执行所述运行测试任务时，将所述镜像文件存储至所述模型库。

3.一种业务场景驱动的视觉洞察支撑编排客户端，其特征在于，所述客户端包括模型编排模块、业务场景关联模块和模型上传测试模块，

所述模型编排模块用于构建模型编排树节点，并将部件模型设在所述模型编排树节点上，将所述模型编排树节点上所设有的所述部件模型的标准化模型绑定图形处理器以形成模型编排树；所述部件包括至少一个标准化模型；所述标准化模型存储于模型库中；

所述业务场景关联模块用于与若干个模型调度关系表进行关联，以使业务场景管理模块根据所述业务场景关联模块所关联的若干个所述模型调度关系表生成业务场景；

所述模型调度关系表由模型管理后台根据所述模型编排树、对应同一个所述模型编排树的节点上所述客户端所设置的部件模型，以及对应同一个所述模型编排树所述客户端绑定于所述部件模型的标准化模型的图形处理器而生成；一个所述模型编排树对应一个所述模型调度关系表；

所述标准化模型指已进行输入和输出格式标准化的模型；

所述模型库还为模型镜像仓库；

所述模型上传测试模块用于向所述模型管理后台上传若干个标准化模型，以使所述模型管理后台在接收到第一客户端上传的若干个标准化模型之后，对接收到的所述标准化模型的接口进行Restful封装，生成进行封装后的标准化模型的镜像文件，将所述镜像文件存储至所述镜像仓库，同时使模型调度引擎在接收到调用客户端发出的视觉检测任务之后，根据所述视觉检测任务中的业务场景标识获取业务场景管理模块中对应的业务场景，根据所获取的所述业务场景获取对应的所述模型调度关系表，从所述镜像仓库中拉取并启动所述视觉检测任务的模型ID对应的所述标准化模型的镜像文件以执行所述视觉检测任务中的视觉检测内容，或通过所述标准化模型的Restful接口远程调用所述标准化模型以执行所述视觉检测内容，并将所述视觉检测任务的执行结果返回至所述调用客户端；

所述视觉检测任务包括视觉检测内容、执行所述视觉检测内容所需调用的所述业务场景的业务场景标识，以及执行所述视觉检测内容所需调用的所述标准化模型的模型ID。

4.根据权利要求3所述的业务场景驱动的视觉洞察支撑编排客户端，其特征在于，

所述模型上传测试模块还用于向所述模型管理后台上传所述镜像文件对应的运行测试任务，以使所述模型管理后台在接收到所述镜像文件对应的运行测试任务并且在生成所述标准化模型的镜像文件之后，启动所生成的所述镜像文件以执行所述运行测试任务，并将所述运行测试任务的执行结果返回至所述模型上传测试模块；

所述模型上传测试模块还用于在接收到所述运行测试任务的执行结果之后，根据所述运行测试任务的执行结果判断所述镜像文件是否成功执行所述运行测试任务，在判定所述镜像文件成功执行所述运行测试任务时，使得所述模型管理后台将所述镜像文件存储至所述模型库。

5.一种业务场景驱动的视觉洞察支撑方法，其特征在于，应用于编排客户端，步骤包括：

构建模型编排树节点，并将部件模型设在所述模型编排树节点上以形成模型编排树；所述部件包括至少一个标准化模型；所述标准化模型存储于模型库中；

将所述模型编排树节点上所设有的所述部件模型的标准化模型绑定至图形处理器，以使所述标准化模型采用所绑定的所述图形处理器运行；

将模型管理后台所生成的若干个模型调度关系表进行关联，以使业务场景管理模块根据由所述客户端所关联的若干个所述模型调度关系表生成业务场景；

所述模型调度关系表由所述模型管理后台根据所述编排客户端所形成的模型编排树、对应同一个所述模型编排树的节点上所述编排客户端所设置的部件模型，以及对应同一个所述模型编排树所述编排客户端绑定于所述部件模型的标准化模型的图形处理器而生成；

所述标准化模型指已进行输入和输出格式标准化的模型；所述模型库还为模型镜像仓库；

向所述模型管理后台上传若干个标准化模型，以使所述模型管理后台在接收到若干个标准化模型之后，对接收到的所述标准化模型的接口进行Restful封装，生成进行封装后的标准化模型的镜像文件，将所述镜像文件存储至所述镜像仓库，同时使模型调度引擎在接收到调用客户端发出的视觉检测任务之后，根据所述视觉检测任务中的业务场景标识获取所述业务场景管理模块中对应的业务场景，根据所获取的所述业务场景获取对应的所述模型调度关系表，从所述镜像仓库中拉取并启动所述视觉检测任务中包含的模型ID对应的所述标准化模型的镜像文件以执行所述视觉检测任务中的视觉检测内容，或通过所述标准化模型的Restful接口远程调用所述标准化模型以执行所述视觉检测内容，并将所述视觉检测任务的执行结果返回至所述调用客户端；

所述视觉检测任务包括视觉检测内容、执行所述视觉检测内容所需调用的所述业务场景的业务场景标识，以及执行所述视觉检测内容所需调用的所述标准化模型的模型ID。

6.一种业务场景驱动的视觉洞察支撑调用方法，其特征在于，应用于调用客户端，步骤包括：

向模型调度引擎发送视觉检测任务，以使所述模型调度引擎在接收到所述视觉检测任务后，根据所述视觉检测任务中的业务场景标识获取业务场景管理模块中对应的业务场景，根据所获取的所述业务场景获取对应的模型管理后台的模型调度关系表，根据所获取的所述模型调度关系表，从模型库中拉取并启动所述视觉检测任务中包含的模型ID对应的标准化模型的镜像文件以执行所述视觉检测任务中的视觉检测内容，或通过所述标准化模型的Restful接口远程调用所述标准化模型以执行所述视觉检测内容，并将所述视觉检测任务的执行结果返回至所述调用客户端；

接收所述模型调度引擎返回的所述视觉检测任务的执行结果；

所述业务场景由所述业务场景管理模块根据编排客户端所关联的若干个所述模型调度关系表生成；

所述模型调度关系表由所述模型管理后台根据编排客户端所形成的模型编排树、对应同一个所述模型编排树的节点上所述编排客户端所设置的部件模型，以及对应同一个所述模型编排树所述编排客户端绑定于所述部件模型的标准化模型的图形处理器而生成；一个所述模型编排树对应一个所述模型调度关系表；所述部件模型包括至少一个标准化模型；所述标准化模型存储于所述模型库中；所述标准化模型指已进行输入和输出格式标准化的模型；

所述模型库还为模型镜像仓库；所述模型管理后台在接收到第一客户端上传的若干个标准化模型之后，对接收到的所述标准化模型的接口进行Restful封装，生成进行封装后的标准化模型的镜像文件，将所述镜像文件存储至所述镜像仓库。

Images