CN113342488A - 任务处理方法及装置、电子设备和存储介质 - Google Patents
任务处理方法及装置、电子设备和存储介质 Download PDFInfo
- Publication number
- CN113342488A CN113342488A CN202110570235.4A CN202110570235A CN113342488A CN 113342488 A CN113342488 A CN 113342488A CN 202110570235 A CN202110570235 A CN 202110570235A CN 113342488 A CN113342488 A CN 113342488A
- Authority
- CN
- China
- Prior art keywords
- task
- panorama
- training
- unit
- processed
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/48—Program initiating; Program switching, e.g. by interrupt
- G06F9/4806—Task transfer initiation or dispatching
- G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T1/00—General purpose image data processing
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Image Analysis (AREA)
Abstract
本申请提供了一种任务处理方法及装置、电子设备和存储介质;该方法包括:获取待处理任务;确定实现所述待处理任务的操作单元和资源单元;其中,所述操作单元至少包括对所述待处理任务进行处理操作,所述资源单元包括所述操作单元在执行所述处理操作过程中输入和/或输出的数据;基于所述待处理任务的操作单元和所述资源单元,构建包括所述待处理任务的处理流程的全景图;基于所述全景图,对所述待处理任务进行处理,得到处理结果。通过本申请,能够快速解决复杂场景中的任务。
Description
技术领域
本申请实施例涉及图像处理技术领域,涉及但不限于一种任务处理方法及装置、电子设备和存储介质。
背景技术
在计算机视觉领域中,相关技术采用单个算法模块的技术解决现实场景中的问题。但是在复杂场景下,由于其整个流程(pipeline)的复杂性、多样化、多模块、多模态等问题,所以场景中的问题并不能转化为单一的基本任务,所以采用相关技术中的单模块的算法无法有效解决复杂场景中的问题。
发明内容
本申请实施例提供一种任务处理技术方案。
本申请实施例的技术方案是这样实现的:
本申请实施例提供一种任务处理方法,所述方法包括:
获取待处理任务;
确定实现所述待处理任务的操作单元和资源单元;其中,所述操作单元至少包括对所述待处理任务进行处理操作,所述资源单元包括所述操作单元在执行所述处理操作过程中输入和/或输出的数据;
基于所述待处理任务的操作单元和所述资源单元,构建包括所述待处理任务的处理流程的全景图;
基于所述全景图,对所述待处理任务进行处理,得到处理结果。
在一些实施例中,所述操作单元和所述资源单元均为至少两个,所述全景图包括训练全景图,所述基于所述待处理任务的操作单元和所述资源单元,构建包括所述待处理任务的处理流程的全景图,包括:在至少两个资源单元中,确定作为每一操作单元的输入的第一资源单元和作为所述每一操作单元的输出的第二资源单元;将所述每一操作单元和对应的第一资源单元和第二资源单元进行连接,得到所述训练全景图。如此,能够快速、便利地连接多个操作单元和资源单元,构建包括全链条算法解决方案的推理全景图。
在一些实施例中,所述全景图包括第一推理全景图,所述基于所述待处理任务的操作单元和所述资源单元,构建包括所述待处理任务的处理流程的全景图,包括:在前端全景图文件中确定与所述待处理任务的处理流程相匹配的目标操作单元和目标资源单元;其中,所述前端全景图文件中包括至少两个操作单元和至少两个资源单元;基于所述目标操作单元和所述目标资源单元,构建未包括工作流数据的所述第一推理全景图。如此,将多个虚拟化节点进行串接,从而形成能够快速完成实现对待处理任务进行处理的推理全景图。
在一些实施例中,所述全景图包括第一推理全景图,所述基于所述待处理任务的操作单元和所述资源单元,构建包括所述待处理任务的处理流程的全景图,包括:在所述全景图的训练全景图中,确定与所述待处理任务的处理流程相匹配的目标操作单元和目标资源单元;基于所述目标操作单元和所述目标资源单元,构建未包括工作流数据的所述第一推理全景图。如此,通过在训练全景图中,选择用于目标操作单元和目标资源单元能够更加快速且便捷地搭建第一推理全景图。
在一些实施例中,将所述每一操作单元和对应的第一资源单元和第二资源单元进行连接,得到所述训练全景图之后,所述方法还包括:对所述训练全景图中的包括待训练模型的操作单元进行训练;基于所述训练全景图中包括已训练模型的操作单元和所述第一推理全景图,确定用于对所述待处理任务进行推理的第二推理全景图;其中,所述已训练模型为对所述待训练模型进行训练得到的。如此,在训练完成得到对应的不同模块模型后,直接导入到推理图中进行推理使用,能够快速实现对复杂场景中待处理任务的处理。
在一些实施例中,所述对所述训练全景图中的包括待训练模型的操作单元进行训练,包括:将前端的所述训练全景图转换为后端的训练中间结果图;基于所述训练中间结果图中的每一操作单元对应的预设图模板,构建具有起始点的第一运行图;其中,每一所述操作单元对应的预设图模板为前端基于任务设定的;所述第一运行图的起始点为所述训练中间结果图中的任一操作单元;将所述第一运行图,转换为能够训练所述第一运行图的功能的训练工作流;基于所述训练工作流,对所述待训练模型的操作单元进行训练。如此,如此,基于有向无化图中的操作单元,结合各个操作单元对应的预设图模板,生成最终可被后端运行的工作流,可以实现复杂场景下多个模型的有序训练。
在一些实施例中,所述基于所述训练工作流,对所述待训练模型的操作单元进行训练,包括:基于所述训练工作流,确定所述第一运行图中的不同操作单元之间的逻辑关系;按照所述逻辑关系,对所述待训练模型的操作单元进行训练。如此,通过分析多个操作单元之间的逻辑关系,能够更加准确且合理的实现对操作单元中待训练模型的训练。
在一些实施例中,所述基于所述训练全景图中包括已训练模型的操作单元和所述第一推理全景图,确定用于对所述待处理任务进行推理的第二推理全景图,包括:在所述第一推理全景图中,确定与所述训练全景图中包括已训练模型的操作单元相匹配的目标操作单元;将所述已训练模型导入所述相匹配的目标操作单元,得到所述第二推理全景图。如此,训练完成得到对应的不同模型后,直接导入到推理图中进行推理使用,提高了搭建整个处理流程的速度。
在一些实施例中,所述基于所述全景图,对所述待处理任务进行处理,得到处理结果,包括:将所述待处理任务输入所述全景图中的第二推理全景图;基于所述第二推理全景图,对所述待处理任务进行处理,得到所述处理结果。如此,通过将已训练的操作单元输出的已训练模型,组装成能够实现整个处理流程的第二推理全景图,能够便于直接被后端的任务调度工具调用。
在一些实施例中,所述基于所述第二推理全景图,对所述待处理任务进行处理,得到所述处理结果,包括:将前端的所述第二推理全景图转换为后端的推理中间结果图;基于所述推理中间结果图中的每一操作单元对应的预设图模板,构建具有起始点的第二运行图;其中,所述第二运行图的起始点为所述推理中间结果图中的任一操作单元;将所述第二运行图转换为推理工作流;采用所述推理工作流,对所述待处理任务进行处理,得到所述处理结果。如此,通过将前端的推理图翻译成推理工作流,无缝连接各个不同功能的节点,能够完成整个处理过程的推理功能。
在一些实施例中,在所述待处理任务为分类识别任务的情况下,所述操作单元至少包括:检测数据集标注单元、抠图单元、检测单元、分类数据集标注单元和分类单元;所述资源单元至少包括:所述检测数据集标注单元在执行标注操作过程中输入和/或输出的数据,所述抠图单元在执行抠图操作过程中输入和/或输出的数据,所述检测单元在执行检测操作过程中输入和/或输出的数据,分类数据集标注单元在执行标注操作过程中输入和/或输出的数据,以及,所述分类单元在执行分类操作过程中输入和/或输出的数据。如此,对分类识别任务进行处理,在快速且便捷的搭建整个方案处理流程的同时还能够高效的实现对任务的处理。
本申请实施例提供一种任务处理装置,所述装置包括:
第一获取模块,用于获取待处理任务;
第一确定模块,用于确定实现所述待处理任务的操作单元和资源单元;其中,所述操作单元至少包括对所述待处理任务进行处理操作,所述资源单元包括所述操作单元在执行所述处理操作过程中输入和/或输出的数据;
第一构建模块,用于基于所述待处理任务的操作单元和所述资源单元,构建包括所述待处理任务的处理流程的全景图;
第一处理模块,用于基于所述全景图,对所述待处理任务进行处理,得到处理结果。
本申请实施例提供一种计算机存储介质,所述计算机存储介质上存储有计算机可执行指令,该计算机可执行指令被执行后,能够实现上述的任务处理方法。
本申请实施例提供一种计算机设备,所述计算机设备包括存储器和处理器,所述存储器上存储有计算机可执行指令,所述处理器运行所述存储器上的计算机可执行指令时能够实现上述的任务处理方法。
本申请实施例提供一种任务处理方法及装置、电子设备和存储介质,对于获取的待处理任务,通过首先,分析实现待处理任务的操作单元和资源单元;然后,分析操作单元之间的执行顺序,以及操作单元和资源单元之间的输入/输出关系;基于此,将待处理任务的操作单元和所述资源单元进行连接,构建包括待处理任务的处理流程的全景图;然后,基于该全景图,即可实现对待处理任务进行的快速处理。如此,基于全景图的概念,能够快速串接不同的操作单元,从而达到整体构建整个处理流程的效果,以有效解决复杂场景中的待处理任务。
附图说明
图1为本申请实施例提供的任务处理方法的实现流程示意图;
图2为本申请实施例提供的任务处理方法的另一实现流程示意图;
图3为本申请实施例提供的全景图翻译器的组成结构示意图;
图4为本申请实施例提供的全景图训练图的实现流程示意图;
图5为本申请实施例任务处理装置的结构组成示意图;
图6为本申请实施例计算机设备的组成结构示意图。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中的附图,对发明的具体技术方案做进一步详细描述。以下实施例用于说明本申请,但不用来限制本申请的范围。
在以下的描述中,涉及到“一些实施例”,其描述了所有可能实施例的子集,但是可以理解,“一些实施例”可以是所有可能实施例的相同子集或不同子集,并且可以在不冲突的情况下相互结合。
在以下的描述中,所涉及的术语“第一\第二\第三”仅仅是是区别类似的对象,不代表针对对象的特定排序,可以理解地,“第一\第二\第三”在允许的情况下可以互换特定的顺序或先后次序,以使这里描述的本申请实施例能够以除了在这里图示或描述的以外的顺序实施。
除非另有定义,本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同。本文中所使用的术语只是为了描述本申请实施例的目的,不是旨在限制本申请。
对本申请实施例进行进一步详细说明之前,对本申请实施例中涉及的名词和术语进行说明,本申请实施例中涉及的名词和术语适用于如下的解释。
1)串接,在本申请实施例中是指将不同任务的处理流程连接在一起。
2)应用容器引擎(Docker),是一个开源的应用容器引擎,让开发者可以打包其应用以及依赖包到一个可移植的镜像中,然后发布到任何流行的操作系统机器上,也可以实现虚拟化。容器是完全使用沙箱机制,相互之间不会有任何接口。
下面说明本申请实施例提供的任务处理设备的示例性应用,本申请实施例提供的设备可以实施为具有数据处理功能的笔记本电脑,平板电脑,台式计算机,移动设备(例如,个人数字助理,专用消息设备,便携式游戏设备)等各种类型的用户终端,也可以实施为服务器。下面,将说明设备实施为终端或服务器时示例性应用。
该方法可以应用于计算机设备,该方法所实现的功能可以通过计算机设备中的处理器调用程序代码来实现,当然程序代码可以保存在计算机存储介质中,可见,该计算机设备至少包括处理器和存储介质。
本申请实施例提供一种任务处理方法,如图1所示,结合如图1所示步骤进行说明:
步骤S101,获取待处理任务。
在一些实施例中,待处理任务可以是任意复杂场景的数据处理任务,需要多个不同的算法模块相结合来实现。比如,工业生产、航空航海、农产品包装等领域相关的场景。待处理任务可以是对于复杂场景中的图像进行图像识别的任务,比如,在工业生产场景下,对于某些零部件缺陷的识别,该图片信息具有十分复杂的背景。或者,在航空航海场景下,待处理任务可以是对海上船只的分类和识别等。待处理任务可以是主动获取的,比如,待处理任务为对工业生产场景中的图像进行零部件缺陷的识别,该待处理任务可以是采用图像采集器进行采集获取的图像,还可以是其他设备发送的图像。
步骤S102,确定实现所述待处理任务的操作单元和资源单元。
在一些实施例中,所述操作单元至少包括对所述待处理任务进行处理操作,资源单元包括操作单元在执行处理操作的过程中输入和/或输出的数据。通过分析实现待处理任务所需的算法模块和数据处理模块;每一操作单元为对一个算法模块进行封装后的虚拟化节点;每一资源单元为对一个数据处理模块进行封装后的虚拟化节点,且数据处理模块为某一算法模块提供输入数据,或者对另一算法模块的输出数据进行处理。在一些可能的实现方式中,资源单元为一操作单元的输入;在一些实施方式中,一资源单元可以是一操作单元的输入或输出,或者,一资源单元同时为上一操作单元的输出和下一操作单元的输入。
比如,待处理任务为零部件缺陷识别任务,那么实现待处理任务所需的算法模块,即操作单元包括对图像进行检测操作单元和分类操作单元;对应的资源单元为检测和分类过程中涉及到的具体数据。将检测操作单元以及检测操作单元涉及到的数据,和,分类操作单元以及分类操作单元中涉及到的数据,在对待处理任务进行处理的过程中的先后顺序,作为操作单元和资源单元之间的关联关系;按照该关联关系,将多个操作单元和多个资源单元连接在一起,形成实现零部件缺陷识别任务的全景图。
在一些可能的实现方式中,该待处理任务可以是用户设定的,还可以是从后台获取的,功能模块可以是用户基于该待处理任务,在前端界面通过拖拽操作选择的操作单元和资源单元。
步骤S103,基于所述待处理任务的操作单元和所述资源单元,构建包括所述待处理任务的处理流程的全景图。
在一些实施例中,该全景图包括训练全景图和/或推理全景图,该全景图可以是在前端的画布上通过拖拽形成的。在前端的全景图文件包括的操作单元和资源单元中,确定实现待处理任务的操作单元和资源单元;并按照操作单元和资源单元之间的执行顺序,确定这多个操作单元和资源单元之间的连接关系。按照该连接关系,在前端的画布上,通过拖拽操作,将多个操作单元和资源单元进行连接,形成全景图。
全景图是用户在画布上构建的人工智能模型生成的完整解决方案,包括模型训练、评测、推理逻辑串联等功能。其中,画布是人工智能训练平台上用户拖拽不同组件,以构建模型生产全流程的版块。
步骤S104,基于所述全景图,对所述待处理任务进行处理,得到处理结果。
在一些实施例中,通过将前端的全景图同时翻译为训练和推理两个阶段的后端的工作流,基于训练阶段的工作流对进行任务处理网络模块进行训练完成后,可将训练完成得到的模型导入全景图的推理阶段,从而采用推理阶段的工作流对待处理任务进行处理,得到该处理结果。比如,待处理任务为对图像中的零部件的缺陷识别任务,该全景图包括训练阶段和推理阶段,在训练阶段中对全景图中的检测模型和分类模型进行训练;将已训练的检测模型和已训练的分类模型,应用于全景图的推理阶段;在推理阶段,采用已训练的检测模型对图像进行检测,并基于检测结果,采用已训练的分类模型进行识别,从而完成对图像中的零部件的缺陷识别。
在本申请实施例中,对于获取的待处理任务,通过首先,分析实现待处理任务的操作单元和资源单元;然后,分析操作单元之间的执行顺序,以及操作单元和资源单元之间的输入/输出关系;基于此,将待处理任务的操作单元和所述资源单元进行连接,构建包括待处理任务的处理流程的全景图;然后,基于该全景图,即可实现对待处理任务进行的快速处理。如此,基于全景图的概念,能够快速串接不同的操作单元,从而达到整体构建整个处理流程的效果,以有效解决复杂场景中的待处理任务。
在一些实施例中,所述操作单元和所述资源单元均为至少两个,在该全景图包括训练全景图的情况下,在前端的画布上,按照操作单元的执行顺序,对不同的操作单元和所述资源单元进行连接,形成训练全景图,即上述步骤S103可以通过以下图2所示的步骤实现:
步骤S201,在至少两个资源单元中,确定作为每一操作单元的输入的第一资源单元和作为所述每一操作单元的输出的第二资源单元。
这多个操作单元可以是实现该待处理任务的过程中较为重要的模块,还可以是全部的算法模块。比如,由于多个操作单元之间的功能有重叠部分,那么可以仅保留一个实现该功能的操作单元,从而可以减少模块的数量,提高创建全景图的效率。在构建训练全景图的过程中,每一个操作单元均与至少一个资源单元连接,如果一个操作单元既有输入也有输出,那么其输入输出均为资源单元;如果一个操作单元仅输入,那么其输入为资源单元;如果一个操作单元仅有输出,那么其输入为资源单元。对于每一个操作单元,分析出该操作单元输出的数据以及输入该操作单元的数据,即第一资源单元和第二资源单元。
步骤S202,将所述每一操作单元和对应的第一资源单元和第二资源单元进行连接,得到所述训练全景图。
在一些实施例中,在对待处理任务进行处理的过程中,分析多个操作单元的执行顺序的前后关系;通过该执行顺序的前后关系,可确定多个操作单元之间的执行顺序,从而可确定出作为该操作单元的输入和输出的第一资源单元和第二资源单元,在训练全景图中所处的位置。通过分析不同操作单元之间的连接关系,将这多个操作单元和对应的资源单元搭建形成执行处理待处理任务整个流程的训练全景图。该前景图可以是用户在前端界面通过拖拽多个功能模块搭建形成的,还可以是基于该连接关系,自动搭建形成的。在待处理任务为一个模型训练的任务的情况下,全景图可以是仅包括训练全景图,在执行上述步骤S202之后,进入步骤S104a,基于所述训练全景图,对所述待处理任务进行处理,得到所述处理结果。如此,通过按照多个操作单元的执行顺序,以此能够准确地确定其中的多个操作单元和对应的资源单元之间的连接顺序,按照不同操作单元的执行顺序,将不同的操作单元和资源单元进行串接,能够快速、便利地连接多个操作单元和资源单元,构建包括全链条算法解决方案的推理全景图。
在一些实施例中,在全景图包括第一推理全景图的情况下,该第一推理全景图可以在前端搭建好的未包括工作流数据的全景图,即上述步骤S103还可以通过以下两种方式实现:
方式一:通过步骤S131和132(图示未示出)实现:
步骤S131,在前端全景图文件中确定与所述待处理任务的处理流程相匹配的目标操作单元和目标资源单元。
在一些实施例中,前端全景图文件中包括至少两个操作单元和至少两个资源单元。前端全景图文件还包括操作单元和资源单元之间的连接关系,如连接线(link)。所述操作单元可以包括对应算法模块的训练、推理、评测等操作单元,也可以包括与该操作单元连接的资源单元的名称。所述资源单元可以包括模型训练或推理过程中的数据实体,也可以包括数据集接口函数、输入输出数据的格式、图片尺寸等。首先,对于每一个待处理任务,用户在前端分析实现该待处理任务需要的目标操作单元和目标资源单元,然后,在画布上,从前端全景图文件中拖拽出该目标操作单元和目标资源单元。
比如,待处理任务为缺陷识别任务,包括的操作单元为:实现的数据输入功能的操作单元、实现检测数据集的标注功能的操作单元、实现目标抠图功能、实现检测模型训练功能的操作单元、实现结果转换数据功能的操作单元、实现分类模型训练功能的操作单元等,采用Docker虚拟服务技术将算法模块划分为各个单点的操作单元,并且将每一个封装成Docker虚拟镜像,作为全景图中的虚拟化节点;即将这些操作单元封装为Docker虚拟化节点,从而得到数据集节点、检测标注节点、检测模型训练节、结果转换数据节点、分类模型训练节点等。由于检测操作单元和分类操作单元之间有重复的数据集节点,所以在最终得到的多个虚拟节点中仅保留一个数据集节点即可。
步骤S132,基于所述目标操作单元和所述目标资源单元,构建未包括工作流数据的所述第一推理全景图。
在一些实施例中,按照不同操作单元之间的连接关系,可确定中不同功操作单元内的子单元之间的连接关系,从而可确定各个子功能模块对应的虚拟化节点之间的连接关系,基于此,将多个虚拟化节点进行串接,从而形成能够完成实现对待处理任务进行处理的推理全景图。
在一个具体例子中,以待处理任务为器件的缺陷识别为例,至少两个操作单元包括:检测操作单元和分类操作单元,由于在进行缺陷识别的过程中,检测操作单元和分类操作单元的执行顺序是先对图像进行检测,然后,基于检测结果进行分类,即检测操作单元在前,分类操作单元在后;基于此,将检测操作单元、分类操作单元以及对应的资源单元进行串接,得到该推理全景图。
在上述步骤S131和步骤S132中,通过从全景图文件中,选择目标操作单元和目标资源单元,从而能够串接产品级的任务实现流程,进而更加高效的构建包括整个处理流程的第一推理全景图。
方式二:通过步骤S133和134(图示未示出)实现:
步骤S133,在所述全景图的训练全景图中,确定与所述待处理任务的处理流程相匹配的目标操作单元和目标资源单元。
该全景图包括在前端搭建的训练全景图,该训练全景图中包括实现待处理任务的待训练模型和样本数据。为得到能够对待处理任务进行处理的推理全景图,可以在训练全景图中选择可以应用于推理阶段的操作单元和资源单元;比如,待处理任务为器件的缺陷识别为例;在训练全景图中,包括:训练样本集、待训练的检测模型和待训练的分类模型等;在该训练全景图中,选择即将应用于推理阶段的待训练的检测模型和待训练的分类模型。
步骤S134,基于所述目标操作单元和所述目标资源单元,构建未包括工作流数据的所述第一推理全景图。
按照在推理全景图中选择的目标操作单元和目标资源单元,以及目标操作单元和目标资源单元在训练全景图中的连接关系,在前端画布上,串接目标操作单元和目标资源单元,得到未包含工作流数据的第一推理全景图。这样,通过在训练全景图中,选择用于目标操作单元和目标资源单元能够更加快速且便捷地搭建第一推理全景图。
在一些实施例中,在前端搭建完整训练全景图之后,通过对训练全景图中的待训练模型进行训练,得到可以应用于推理阶段的已训练模型,即步骤S202之后,还包括以下步骤:
第一步,对所述训练全景图中的包括待训练模型的操作单元进行训练。
在一些可能的实现方式中,通过采用全景图翻译器,将前端的训练全景图翻译为后端的训练工作流,实现对包括待训练模型的操作单元的训练过程,可以通过以下过程实现:
首先,将前端的所述训练全景图转换为后端的训练中间结果图。
训练中间结果图以中间文件的形式进行存储,中间文件中每一操作单元、与每一所述操作单元具有输入关系和/或输出关系的资源单元。
一种可能的实现方式是,对于训练全景图的文件中的所有操作单元,将每一操作单元的输入资源单元或输出资源单元并入相应操作单元中;同时基于前端展示图中各个操作单元之间的连接关系,确定与同一资源单元有输入输出关系的两个操作单元之间的连接关系,保存训练全景图的文件中所有操作单元和每两个操作单元之间的连接关系,得到转换后的中间文件。这样,转换后的中间文件可以方便存储训练全景图的内容,并为后续其他功能图的转换提供支持。
一种可能的实现方式是,对于训练全景图中的所有操作单元,将每一操作单元的输入资源单元或输出资源单元并入相应的操作单元中;同时基于训练全景图中各个操作单元之间的连接关系,确定与同一资源单元有输入输出关系的两个操作单元之间的连接关系,将该连接关系也合入对应操作单元的属性中,直接存储所有操作单元的属性,得到转换后的中间文件。这样,转换后的中间文件可以方便存储训练全景图的内容,可以衔接训练全景图并且可以满足转换成其他图的需要,解决了训练全景图到后端可运行的工作流图难以转换翻译的问题。
其次,基于所述训练中间结果图中的每一操作单元对应的预设图模板,构建具有起始点的第一运行图。
这里,每一所述操作单元对应的预设图模板为前端基于任务设定的;所述第一运行图的起始点为所述训练中间结果图中的任一操作单元。中间结果图为有向无环图(Directed Acyclic Graph,DAG),表明所述中间结果图中的所有操作单元各自完成整个任务的一部分,且各操作单元之间满足特定执行顺序的约束,其中一些操作单元的开始必须是另一些操作单元执行完成之后。这样,能够确定由所有操作单元组成的任务能够在有效时间内顺利进行。第一运行图的起始点可以是依据需要进行的训练任务设定的;比如,需要进行的训练任务为对检测模型进行训练,起始点为样本数据集输入节点。
再次,将所述第一运行图,转换为能够训练所述第一运行图的功能的训练工作流。
以对于工业场景中的缺陷识别任务为例,用户需要先检测出部件,然后对部件中是否有缺陷分别进行分类。这样训练全景图中包括待训练的检测模型和待训练的分类模型,训练分类模型的数据依赖于检测模型的推理结果。从而针对待处理任务为缺陷识别任务的情况下,模型训练平台的前端预留物体检测模型相关的检测训练工作流模板、检测评估工作流模板,以及图像分类模型相关的检测训练工作流模板、检测评估工作流模板。
最后,基于所述训练工作流,对所述待训练模型的操作单元进行训练。
这里,在对前端的训练全景图进行翻译为后端的训练工作流之后,按照各个操作单元之间的逻辑关系,训练多个操作单元,这样每个操作单元输出对应的已训练模型。如此,基于有向无化图中的操作单元,结合各个操作单元对应的预设图模板,生成最终可被后端运行的工作流,可以实现复杂场景下多个模型的有序训练。
在一些可能的实现方式中,首先,基于所述训练工作流,确定所述第一运行图中的不同操作单元之间的逻辑关系。比如,第一运行图中的操作单元包括:检测数据集标注单元和检测模型训练单元等,按照检测数据集标注单元和检测模型训练单元之间在训练过程中的执行的先后顺序关系,基于检测数据集标注单元对样本数据集进行标注;然后,采用标注好的样本数据集,对检测模型训练单元中的待训练的检测模型进行训练,进而实现对待训练模型的操作单元的训练。如此,通过分析多个操作单元之间的逻辑关系,能够更加准确且合理的实现对操作单元中待训练模型的训练。
第二步,基于所述训练全景图中包括已训练模型的操作单元和所述第一推理全景图,确定用于对所述待处理任务进行推理的第二推理全景图。
在一些可能的实现方式中,所述已训练模型为对所述待训练模型进行训练得到的。对训练全景图中的待训练模型训练完成之后,已训练模型可以直接应用于第一推理全景图中,这样第一推理全景图中便包括了用于推理的工作流数据,从而实现对待处理任务进行推理。如此,在训练完成得到对应的不同模块模型后,直接导入到推理图中进行推理使用,能够快速实现对复杂场景中待处理任务的处理。
在其他实施例中,如果在前端仅搭建了训练全景图,那么对该训练全景图中的待训练模型训练完成之后,可以在训练后的训练全景图中选择可以对待处理任务进行处理的操作单元和资源单元,基于这样的操作单元和资源单元,形成第二推理全景图。
在一些实施例中,对将前端的训练全景图翻译到后端的运行图之后,通过翻译为训练工作流实现对训练全景图中的待训练模型的训练过程;将训练好的模型,导入到前端已经搭建好但是没有数据的第一推理全景图中,得到能够对待处理任务进行推理的第二推理全景图中;可以通过以下步骤实现:
第一步,在所述第一推理全景图中,确定与所述训练全景图中包括已训练模型的操作单元相匹配的目标操作单元。
这里,首先,在训练全景图中,确定出已经训练好的模型对应的操作单元;然后,从第一推理全景图中,确定出未包括工作流数据的该操作单元。比如,在第一推理全景图中,确定出包括待训练检测模型的目标操作单元。
第二步,将所述已训练模型导入所述相匹配的目标操作单元,得到所述第二推理全景图。
这里,将已训练模型的工作流数据导入到第一推理全景图中,得到能够对待处理任务进行处理的第二推理全景图。比如,将训练全景图中训练好的检测模型,导入到第一推理图的操作单元中进行推理使用。如此,训练完成得到对应的不同模型后,直接导入到推理图中进行推理使用,提高了搭建整个处理流程的速度。
在一些实施例中,得到第二推理全景图之后,采用该第二推理全景图对待处理任务进行处理,即上述步骤S104可以通过以下步骤S141和S142(图示未示出)实现:
步骤S141,将所述待处理任务输入所述全景图中的第二推理全景图。
这里,由于第二推理全景图中包括已训练模型;将待处理任务输入到操作单元中包括已训练模型的第二推理全景图中,以便于通过将第二推理全景图转换为工作流数据实现对待处理任务的处理过程。
步骤S142,基于所述第二推理全景图,对所述待处理任务进行处理,得到所述处理结果。
这里,通过将前端的第二推理全景图转换为后端能够运行的中间结果图,进一步将该中间结果图转换为能够对任务进行处理的推理工作流,从而可以采用该推理工作流实现对待处理任务的处理。如此,通过将已训练的操作单元输出的已训练模型,组装成能够实现整个处理流程的第二推理全景图,能够便于直接被后端的任务调度工具调用。
在一些可能的实现方式中,可以通过以下步骤实现对待处理任务的处理:
第一步,将前端的所述第二推理全景图转换为后端的推理中间结果图。
这里,将前端的的第二推理全景图转换为后端的推理中间结果图的实现过程,与,将前端的训练全景图转换为后端的训练中间结果图的实现过程相同。即,采用全景图翻译器,将第二推理全景图转换为后端的推理中间结果图。
第二步,基于所述推理中间结果图中的每一操作单元对应的预设图模板,构建具有起始点的第二运行图。
这里,所述第二运行图的起始点为所述推理中间结果图中的任一操作单元。第二运行图的起始点的选择依赖于要处理的任务,比如,待处理任务为检测任务,那么第二运行图的起始点为检测模型。按照该推理中间结果图的每一操作单元对应的预设图模板,可以得到与检测模型相关的检测工作流模板,按照该检测工作流模板,构建能够在后端运行的第二运行图。
第三步,将所述第二运行图转换为推理工作流。
采用推理转换器,将第二运行图转换为推理工作流,从而得到用于对待处理任务进行处理的工作流数据。
第四步,采用所述推理工作流,对所述待处理任务进行处理,得到所述处理结果。
在后端,采用转换后的推理工作流,对待处理任务进行处理,得到处理结果。比如,后端的调度工具,通过调用转换后的推理工作流,实现对待处理任务的处理。如此,通过将前端的推理图翻译成推理工作流,无缝连接各个不同功能的节点,能够完成整个处理过程的推理功能。
在一些实施例中,在待处理任务为分类识别任务的情况下,所述操作单元包括:检测数据集标注单元、抠图单元、检测单元、分类数据集标注单元和分类单元;所述资源单元包括:所述检测数据集标注单元在执行标注操作过程中输入和/或输出的数据,所述抠图单元在执行抠图操作过程中输入和/或输出的数据,所述检测单元在执行检测操作过程中输入和/或输出的数据,分类数据集标注单元在执行标注操作过程中输入和/或输出的数据,以及,所述分类单元在执行分类操作过程中输入和/或输出的数据。基于此,在待处理任务为分类识别任务的情况下,确对分类识别任务进行处理的过程如下:
第一步,基于操作单元和资源单元的对应关系,在前端搭建训练全景图和第一推理全景图。
在一些可能的实现方式中,采用Docker虚拟服务技术,将这些操作单元封装为虚拟化节点,包括:检测数据集标注节点、抠图节点、检测节点、分类数据集标注节点和分类节点。如此,将操作单元和资源单元封装为虚拟化的节点,以便于搭建实现整个方案流程的全景图。
第二步,对训练全景图中的待训练模型进行训练。
在一些可能的实现方式中,通过第一步和第二步封装得到的检测节点集合和分类节点集合,在这些节点中,选择用于对检测模型和分类模型进行训练的节点;采用数据集节点、检测标注节点、检测模型训练节点对待训练检测模型进行训练,采用抠图节点、分类标注节点和分类模型训练节点对待训练分类模型进行训练。如此,通过将虚拟化的节点进行串接,可实现对待训练检测模型和待训练分类模型的训练,从而完成全景图中的训练节点。
第三步,将训练全景图中包括已训练模型的操作单元相匹配的目标操作单元,导入第一推理全景图中,得到第二推理全景图。
在一些可能的实现方式中,按照操作单元之间的连接关系,确定训练节点结合之间的连接关系,即确定数据集节点、检测标注节点、检测模型训练节点、抠图节点、分类标注节点和分类模型训练节点之间的连接关系。在本申请实施例中,数据集节点、检测标注节点、检测模型训练节点、抠图节点、分类标注节点和分类模型训练节点的连接关系从上之下依次为:数据集节点、检测标注节点、检测模型训练节点、抠图节点、分类标注节点和分类模型训练节点。
在一些可能的实现方式中,按照训练节点集合中节点之间的连接顺序,依次将数据集节点、检测标注节点、检测模型训练节点、抠图节点、分类标注节点和分类模型训练节点串接起来,如图4所示,从D1数据集至分类模型训练节点407。
在一些实施例中,通过采用已获取的样本数据集,基于该待训练模型所对应的训练工作流,实现对待训练模型的训练,以得到训练完成的训练图,并将训练完成的训练图应用于推理图中,从而实现对整个处理流程的构建。
第四步,采用第二推理全景图,对分类识别任务进行处理。
在本申请实施例中,对于分类识别任务,将包括已训练的检测模型和已训练的分类模型的推理全景图图,翻译为推理工作流,对分类识别任务进行处理,在快速且便捷的搭建整个方案处理流程的同时还能够高效的实现对任务的处理。
下面,将说明本申请实施例在一个实际的应用场景中的示例性应用,以针对复杂场景下快速构建算法解决流程,以该复杂场景下的图像中的目标物体进行缺陷识别为例,进行说明。
近年来,深度学习算法在各个领域都取得了巨大的进展,也在很多工业领域取得了落地。然而,对于工业场景中的复杂问题,由于整个流程(pipeline)的复杂性、多样化、多模块以及多模态等问题,在算法解决方案上通常也需要适配多个不同模块算法的串接与融合。以人脸识别为例,通常需要包括人脸检测模块、人脸关键点模块、人脸质量模块、活体模块和人脸特征模块等。其他领域的算法解决方案同样需要多个算法模块的组合使用。
基于此,本申请实施提出了一种针对不同复杂场景下快速构建算法解决方案的方法。本申请实施例中将这种方法称作全景图,该方法基于全景图的概念,将不同的算法模块在全景图中称作为算法节点,将不同的数据处理模块封装为虚拟化节点,不同功能模块之间的串接在全景图中称作为边。基于全景图,能够快速串接不同的算法模块,达到整体构建整个算法方案的效果,为不同的复杂场景构建专门的全景图任务处理流程。
针对复杂的工业场景,基于全景图,可以直接在前端拖拽构建整个算法解决方案的图,其中的单点算法模块和数据处理模块等功能模块都被封装成Docker镜像,即全景图中的虚拟化节点。基于全景图翻译器,将前端的前景图图翻译成对应的训练工作流和推理工作流,工作流基于k8s调度各个镜像,完成全方案的训练和推理功能。如图3所示,图3为本申请实施例提供的全景图翻译器的组成结构示意图,结合图3进行以下说明:
前端300包括:前端全景图301,表示在前端拖拽构建整个任务处理流程的图。
后端302包括:中间结果转换器321、图模板322、根据起始点构建运行图323、训练转换器324、推理转换器325,训练工作流326和推理工作流327;其中:
中间结果转换器321,为中间结果图(inter graph),是用户前端展示图的存储形式,包括节点(node)、操作单元(op)、连接线(link),而中间结果图中主要存在操作单元,并包括处理任务的多个模块。将前端的全景图翻译为一个中间的结果,比如,将前端的全景图翻译为连接数据的结构,用于描述各个模块的功能。
图模板322,表示各个功能模块对应于不同的配置,在中间结果图中对各个功能模块所需的参数进行配置,以使各个功能模块对应于不同的配置,得到该图模板322,即不同的功能模块对应不同的图模板。
根据起始点构建运行图323,在图模板322中选择一个待处理任务的起始点,基于该起始点,形成运行该任务的运行图。
训练转换器324,用于基于构建的运行图,对完成该任务的模板进行训练,并生成训练工作流326。
推理转换器325,用于基于训练好的模型,对该任务进行操作,并形成推理工作流327。
在大多数的工业场景中,比如,在对图像中的目标部件进行缺陷识别场景下,通常需要先检测出具体的部件,然后对具体部件的缺陷进行分类识别;因此,检测+分类可以作为实现缺陷识别的组合方案。在本申请实施例中,以检测模块+分类模块的串接为例,任务处理流程可以分为训练和推理两个阶段。在基于全景图的方案中,通过构建一张图的方式,在后端翻译成训练和推理两套工作流,在训练完成得到对应的不同模块的模型后,导入到推理图中进行推理使用;如图4所示,图4为本申请实施例提供的全景图训练图的实现流程示意图,结合图4进行以下说明:
其中,全景图训练图401包括数据集节点、数据集标注节点、图片抠图节点、模型训练节点等,其中:
检测数据集标注节点402,用于数据的输入,在数据集节点中填写数据集的描述和相应的位置路径,其中,D1数据集为初始的数据集。检测数据集标注节点402输入为数据集(比如,数据集D1),用于对数据集进行检测任务和分类任务的标注,输出为数据集和对应的标注文件;输出的D2数据集在D1数据集的基础上增加了检测任务的标注信息,包括每张图上的检测框(bounding box,Bbox)和标签(label)。
图片抠图节点403,输入为数据集以及标注文件(比如,数据集D2),用于根据标注的bbox对图片进行抠图处理,输出为新的数据集D3;即数据集D3为对图片中的具体部件进行抠图后的数据集,用于执行下游的分类任务。
分类数据集标注节点404,输入为分类数据集D3,用于执行分类任务标注功能,输出为数据集D4;数据集D4是在D3数据集基础上增加了分类标注信息,用来给分类模型训练使用。
检测模型训练节点405,输入为检测数据集D2及标注,用于训练对应的检测模型,输出为M1检测模型406。
分类模型训练节点407,输入为分类数据集D4及标注用于训练对应的分类模型,输出为M2分类模型408。
从D1数据集到M2分类模型408完成了全景图训练过程,对全景图训练完成之后,进行全景图推理,得到全景图推理图411,在全景图推理图411中包括:数据集节点,推理节点,结果转数据集节点和图片抠图节点等,其中:
检测推理节点412,用于表示数据的输入,在该节点中填写数据集的描述和相应的位置路径,这里数据集D5为待测试的数据集。输入为数据集D5和M1检测模型406,使用具体的M1检测模型,执行推理功能,输出为输入数据集的具体检测结果;即数据集D5的具体检测结果。
结果转数据集节点413,输入为推理结果,用于对推理结果进行转换,以满足下游任务数据输入,输出为符合下游任务格式的数据集D6,这里,数据集D6为满足下游分类任务的数据集。
图片抠图节点414,输入为检测推理得到的结果数据集,用于为根据预测的Bbox对图片进行抠图处理,输出为抠图后的待分类数据集D7。
分类推理节点415,输入为待分类数据集D7和M2分类模型408,用于执行分类推理功能,输出为最终分类结果。如此,针对现实中复杂的工业场景,比如缺陷识别问题,用户需要先检测对应的部件,然后对相应的不同部件分别进行分类。基于本申请实施例提供的任务处理方法,用户可以构建一张完整的全景图,包括部件检测算法模块、图片抠图处理模块、不同的部件分类算方法模块、推理模块,通过翻译器转换得到对应的训练和推理工作流。
在本申请实施例中,首先,全景图基于图的概念,针对复杂的工业场景,能够快速便捷地构建完整的任务处理流程;然后,将整个算法全链条流程中的不同算法模块和数据处理模块封装成Docker镜像,作为图中的节点;最后,全景图基于翻译器,将前端的全景图翻译成对应的训练工作流和推理工作流,工作流中使用k8s调度不同镜像完成整套流程;从而,实现无缝连接各个不同功能的节点,完成全方案的训练和推理功能。
本申请实施例提供一种任务处理装置,图5为本申请实施例任务处理装置的结构组成示意图,如图5所示,所述任务处理装置500包括:
第一获取模块501,用于获取待处理任务;
第一确定模块502,用于确定实现所述待处理任务的操作单元和资源单元;其中,所述操作单元至少包括对所述待处理任务进行处理操作,所述资源单元包括所述操作单元在执行所述处理操作过程中输入和/或输出的数据;
第一构建模块503,用于基于所述待处理任务的操作单元和所述资源单元,构建包括所述待处理任务的处理流程的全景图;
第一处理模块504,用于基于所述全景图,对所述待处理任务进行处理,得到处理结果。
在一些实施例中,所述操作单元和所述资源单元均为至少两个,所述全景图包括训练全景图,所述第一构建模块503,包括:
第一确定子模块,用于在至少两个资源单元中,确定作为每一操作单元的输入的第一资源单元和作为所述每一操作单元的输出的第二资源单元;
第一连接子模块,用于将所述每一操作单元和对应的第一资源单元和第二资源单元进行连接,得到所述训练全景图。
在一些实施例中,所述全景图包括第一推理全景图,所述第一构建模块503,包括:
第二确定子模块,用于在前端全景图文件中确定与所述待处理任务的处理流程相匹配的目标操作单元和目标资源单元;其中,所述前端全景图文件中包括至少两个操作单元和至少两个资源单元;
第一构建子模块,用于基于所述目标操作单元和所述目标资源单元,构建未包括工作流数据的所述第一推理全景图。
在一些实施例中,所述全景图包括第一推理全景图,所述第一构建模块503,包括:
第三确定子模块,用于在所述全景图的训练全景图中,确定与所述待处理任务的处理流程相匹配的目标操作单元和目标资源单元;
第二构建子模块,用于基于所述目标操作单元和所述目标资源单元,构建未包括工作流数据的所述第一推理全景图。
在一些实施例中,所述装置还包括:
第一训练模块,用于对所述训练全景图中的包括待训练模型的操作单元进行训练;
第二确定模块,用于基于所述训练全景图中包括已训练模型的操作单元和所述第一推理全景图,确定用于对所述待处理任务进行推理的第二推理全景图;其中,所述已训练模型为对所述待训练模型进行训练得到的。
在一些实施例中,所述第一训练模块,包括:
第一转换子模块,用于将前端的所述训练全景图转换为后端的训练中间结果图;
第三构建子模块,用于基于所述训练中间结果图中的每一操作单元对应的预设图模板,构建具有起始点的第一运行图;其中,每一所述操作单元对应的预设图模板为前端基于任务设定的;所述第一运行图的起始点为所述训练中间结果图中的任一操作单元;
第二转换子模块,用于将所述第一运行图,转换为能够训练所述第一运行图的功能的训练工作流;
第一训练子模块,用于基于所述训练工作流,对所述待训练模型的操作单元进行训练。
在一些实施例中,所述第一训练子模块,包括:
第一确定单元,用于基于所述训练工作流,确定所述第一运行图中的不同操作单元之间的逻辑关系;
第一训练单元,用于按照所述逻辑关系,对所述待训练模型的操作单元进行训练。
在一些实施例中,所述第二确定模块,包括:
第四确定子模块,用于在所述第一推理全景图中,确定与所述训练全景图中包括已训练模型的操作单元相匹配的目标操作单元;
第一导入子模块,用于将所述已训练模型导入所述相匹配的目标操作单元,得到所述第二推理全景图。
在一些实施例中,所述第一处理模块504,包括:
第一输入子模块,用于将所述待处理任务输入所述全景图中的第二推理全景图;
第一处理子模块,用于基于所述第二推理全景图,对所述待处理任务进行处理,得到所述处理结果。
在一些实施例中,所述第一处理子模块,包括:
第一转换单元,用于将前端的所述第二推理全景图转换为后端的推理中间结果图;
第一构建单元,用于基于所述推理中间结果图中的每一操作单元对应的预设图模板,构建具有起始点的第二运行图;其中,所述第二运行图的起始点为所述推理中间结果图中的任一操作单元;
第二转换单元,用于将所述第二运行图转换为推理工作流;
第一处理单元,用于采用所述推理工作流,对所述待处理任务进行处理,得到所述处理结果。
在一些实施例中,在所述待处理任务为分类识别任务的情况下,所述操作单元至少包括:检测数据集标注单元、抠图单元、检测单元、分类数据集标注单元和分类单元;
所述资源单元至少包括:所述检测数据集标注单元在执行标注操作过程中输入和/或输出的数据,所述抠图单元在执行抠图操作过程中输入和/或输出的数据,所述检测单元在执行检测操作过程中输入和/或输出的数据,分类数据集标注单元在执行标注操作过程中输入和/或输出的数据,以及,所述分类单元在执行分类操作过程中输入和/或输出的数据。
需要说明的是,以上装置实施例的描述,与上述方法实施例的描述是类似的,具有同方法实施例相似的有益效果。对于本申请装置实施例中未披露的技术细节,请参照本申请方法实施例的描述而理解。
需要说明的是,本申请实施例中,如果以软件功能模块的形式实现上述的任务处理方法,并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请实施例的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是终端、服务器等)执行本申请各个实施例所述方法的全部或部分。而前述的存储介质包括:U盘、运动硬盘、只读存储器(Read Only Memory,ROM)、磁碟或者光盘等各种可以存储程序代码的介质。这样,本申请实施例不限制于任何特定的硬件和软件结合。
对应地,本申请实施例再提供一种计算机程序产品,所述计算机程序产品包括计算机可执行指令,该计算机可执行指令被执行后,能够实现本申请实施例提供的任务处理方法中的步骤。
本申请实施例再提供一种计算机存储介质,所述计算机存储介质上存储有计算机可执行指令,所述该计算机可执行指令被处理器执行时实现上述实施例提供的任务处理方法的步骤。
本申请实施例提供一种计算机设备,图6为本申请实施例计算机设备的组成结构示意图,如图6所示,所述计算机设备600包括:一个处理器601、至少一个通信总线、通信接口602、至少一个外部通信接口和存储器603。其中,通信接口602配置为实现这些组件之间的连接通信。其中,通信接口602可以包括显示屏,外部通信接口可以包括标准的有线接口和无线接口。其中所述处理器601,配置为执行存储器中图像处理程序,以实现上述实施例提供的任务处理方法的步骤。
以上任务处理装置、计算机设备和存储介质实施例的描述,与上述方法实施例的描述是类似的,具有同相应方法实施例相似的技术描述和有益效果,限于篇幅,可案件上述方法实施例的记载,故在此不再赘述。对于本申请任务处理装置、计算机设备和存储介质实施例中未披露的技术细节,请参照本申请方法实施例的描述而理解。
应理解,说明书通篇中提到的“一个实施例”或“一实施例”意味着与实施例有关的特定特征、结构或特性包括在本申请的至少一个实施例中。因此,在整个说明书各处出现的“在一个实施例中”或“在一实施例中”未必一定指相同的实施例。此外,这些特定的特征、结构或特性可以任意适合的方式结合在一个或多个实施例中。应理解,在本申请的各种实施例中,上述各过程的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本申请实施例的实施过程构成任何限定。上述本申请实施例序号仅仅为了描述,不代表实施例的优劣。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。
在本申请所提供的几个实施例中,应该理解到,所揭露的设备和方法,可以通过其它的方式实现。以上所描述的设备实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,如:多个单元或组件可以结合,或可以集成到另一个系统,或一些特征可以忽略,或不执行。另外,所显示或讨论的各组成部分相互之间的耦合、或直接耦合、或通信连接可以是通过一些接口,设备或单元的间接耦合或通信连接,可以是电性的、机械的或其它形式的。
上述作为分离部件说明的单元可以是、或也可以不是物理上分开的,作为单元显示的部件可以是、或也可以不是物理单元;既可以位于一个地方,也可以分布到多个网络单元上;可以根据实际的需要选择其中的部分或全部单元来实现本实施例方案的目的。
另外,在本申请各实施例中的各功能单元可以全部集成在一个处理单元中,也可以是各单元分别单独作为一个单元,也可以两个或两个以上单元集成在一个单元中;上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能单元的形式实现。本领域普通技术人员可以理解:实现上述方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成,前述的程序可以存储于计算机可读取存储介质中,该程序在执行时,执行包括上述方法实施例的步骤;而前述的存储介质包括:移动存储设备、只读存储器(ReadOnly Memory,ROM)、磁碟或者光盘等各种可以存储程序代码的介质。
或者,本申请上述集成的单元如果以软件功能模块的形式实现并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请实施例的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机、服务器、或者网络设备等)执行本申请各个实施例所述方法的全部或部分。而前述的存储介质包括:移动存储设备、ROM、磁碟或者光盘等各种可以存储程序代码的介质。以上所述,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以所述权利要求的保护范围为准。
Claims (14)
1.一种任务处理方法,其特征在于,所述方法包括:
获取待处理任务;
确定实现所述待处理任务的操作单元和资源单元;其中,所述操作单元至少包括对所述待处理任务进行处理操作,所述资源单元包括所述操作单元在执行所述处理操作过程中输入和/或输出的数据;
基于所述待处理任务的操作单元和所述资源单元,构建包括所述待处理任务的处理流程的全景图;
基于所述全景图,对所述待处理任务进行处理,得到处理结果。
2.根据权利要求1所述的方法,其特征在于,所述操作单元和所述资源单元均为至少两个,所述全景图包括训练全景图,所述基于所述待处理任务的操作单元和所述资源单元,构建包括所述待处理任务的处理流程的全景图,包括:
在至少两个资源单元中,确定作为每一操作单元的输入的第一资源单元和作为所述每一操作单元的输出的第二资源单元;
将所述每一操作单元和对应的第一资源单元和第二资源单元进行连接,得到所述训练全景图。
3.根据权利要求1或2所述的方法,其特征在于,所述全景图包括第一推理全景图,所述基于所述待处理任务的操作单元和所述资源单元,构建包括所述待处理任务的处理流程的全景图,包括:
在前端全景图文件中确定与所述待处理任务的处理流程相匹配的目标操作单元和目标资源单元;其中,所述前端全景图文件中包括至少两个操作单元和至少两个资源单元;
基于所述目标操作单元和所述目标资源单元,构建未包括工作流数据的所述第一推理全景图。
4.根据权利要求1或2所述的方法,其特征在于,所述全景图包括第一推理全景图,所述基于所述待处理任务的操作单元和所述资源单元,构建包括所述待处理任务的处理流程的全景图,包括:
在所述全景图的训练全景图中,确定与所述待处理任务的处理流程相匹配的目标操作单元和目标资源单元;
基于所述目标操作单元和所述目标资源单元,构建未包括工作流数据的所述第一推理全景图。
5.根据权利要求3或4所述的方法,其特征在于,将所述每一操作单元和对应的第一资源单元和第二资源单元进行连接,得到所述训练全景图之后,所述方法还包括:
对所述训练全景图中的包括待训练模型的操作单元进行训练;
基于所述训练全景图中包括已训练模型的操作单元和所述第一推理全景图,确定用于对所述待处理任务进行推理的第二推理全景图;其中,所述已训练模型为对所述待训练模型进行训练得到的。
6.根据权利要求5所述的方法,其特征在于,所述对所述训练全景图中的包括待训练模型的操作单元进行训练,包括:
将前端的所述训练全景图转换为后端的训练中间结果图;
基于所述训练中间结果图中的每一操作单元对应的预设图模板,构建具有起始点的第一运行图;其中,每一所述操作单元对应的预设图模板为前端基于任务设定的;所述第一运行图的起始点为所述训练中间结果图中的任一操作单元;
将所述第一运行图,转换为能够训练所述第一运行图的功能的训练工作流;
基于所述训练工作流,对所述待训练模型的操作单元进行训练。
7.根据权利要求6所述的方法,其特征在于,所述基于所述训练工作流,对所述待训练模型的操作单元进行训练,包括:
基于所述训练工作流,确定所述第一运行图中的不同操作单元之间的逻辑关系;
按照所述逻辑关系,对所述待训练模型的操作单元进行训练。
8.根据权利要求5至7任一项所述的方法,其特征在于,所述基于所述训练全景图中包括已训练模型的操作单元和所述第一推理全景图,确定用于对所述待处理任务进行推理的第二推理全景图,包括:
在所述第一推理全景图中,确定与所述训练全景图中包括已训练模型的操作单元相匹配的目标操作单元;
将所述已训练模型导入所述相匹配的目标操作单元,得到所述第二推理全景图。
9.根据权利要求1至8任一项所述的方法,其特征在于,所述基于所述全景图,对所述待处理任务进行处理,得到处理结果,包括:
将所述待处理任务输入所述全景图中的第二推理全景图;
基于所述第二推理全景图,对所述待处理任务进行处理,得到所述处理结果。
10.根据权利要求9所述的方法,其特征在于,所述基于所述第二推理全景图,对所述待处理任务进行处理,得到所述处理结果,包括:
将前端的所述第二推理全景图转换为后端的推理中间结果图;
基于所述推理中间结果图中的每一操作单元对应的预设图模板,构建具有起始点的第二运行图;其中,所述第二运行图的起始点为所述推理中间结果图中的任一操作单元;
将所述第二运行图转换为推理工作流;
采用所述推理工作流,对所述待处理任务进行处理,得到所述处理结果。
11.根据权利要求1至10任一项所述的方法,其特征在于,在所述待处理任务为分类识别任务的情况下,所述操作单元至少包括:检测数据集标注单元、抠图单元、检测单元、分类数据集标注单元和分类单元;
所述资源单元至少包括:所述检测数据集标注单元在执行标注操作过程中输入和/或输出的数据,所述抠图单元在执行抠图操作过程中输入和/或输出的数据,所述检测单元在执行检测操作过程中输入和/或输出的数据,分类数据集标注单元在执行标注操作过程中输入和/或输出的数据,以及,所述分类单元在执行分类操作过程中输入和/或输出的数据。
12.一种任务处理装置,其特征在于,所述装置包括:
第一获取模块,用于获取待处理任务;
第一确定模块,用于确定实现所述待处理任务的操作单元和资源单元;其中,所述操作单元至少包括对所述待处理任务进行处理操作,所述资源单元包括所述操作单元在执行所述处理操作过程中输入和/或输出的数据;
第一构建模块,用于基于所述待处理任务的操作单元和所述资源单元,构建包括所述待处理任务的处理流程的全景图;
第一处理模块,用于基于所述全景图,对所述待处理任务进行处理,得到处理结果。
13.一种计算机存储介质,其特征在于,所述计算机存储介质上存储有计算机可执行指令,该计算机可执行指令被执行后,能够实现权利要求1至11任一项所述的任务处理方法。
14.一种计算机设备,其特征在于,所述计算机设备包括存储器和处理器,所述存储器上存储有计算机可执行指令,所述处理器运行所述存储器上的计算机可执行指令时能够实现权利要求1至11任一项所述的任务处理方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110570235.4A CN113342488A (zh) | 2021-05-25 | 2021-05-25 | 任务处理方法及装置、电子设备和存储介质 |
PCT/CN2021/124779 WO2022247110A1 (zh) | 2021-05-25 | 2021-10-19 | 任务处理方法及装置、电子设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110570235.4A CN113342488A (zh) | 2021-05-25 | 2021-05-25 | 任务处理方法及装置、电子设备和存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113342488A true CN113342488A (zh) | 2021-09-03 |
Family
ID=77471235
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110570235.4A Pending CN113342488A (zh) | 2021-05-25 | 2021-05-25 | 任务处理方法及装置、电子设备和存储介质 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN113342488A (zh) |
WO (1) | WO2022247110A1 (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114782445A (zh) * | 2022-06-22 | 2022-07-22 | 深圳思谋信息科技有限公司 | 对象缺陷检测方法、装置、计算机设备和存储介质 |
WO2022247110A1 (zh) * | 2021-05-25 | 2022-12-01 | 上海商汤智能科技有限公司 | 任务处理方法及装置、电子设备和存储介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20100306423A1 (en) * | 2009-05-26 | 2010-12-02 | Fujitsu Semiconductor Limited | Information processing system and data transfer method |
CN110378254A (zh) * | 2019-07-03 | 2019-10-25 | 中科软科技股份有限公司 | 车损图像修改痕迹的识别方法、系统、电子设备及存储介质 |
CN111310936A (zh) * | 2020-04-15 | 2020-06-19 | 光际科技(上海)有限公司 | 机器学习训练的构建方法、平台、装置、设备及存储介质 |
CN111435352A (zh) * | 2019-01-11 | 2020-07-21 | 北京京东尚科信息技术有限公司 | 一种分布式实时计算方法、装置、系统及其存储介质 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113342488A (zh) * | 2021-05-25 | 2021-09-03 | 上海商汤智能科技有限公司 | 任务处理方法及装置、电子设备和存储介质 |
-
2021
- 2021-05-25 CN CN202110570235.4A patent/CN113342488A/zh active Pending
- 2021-10-19 WO PCT/CN2021/124779 patent/WO2022247110A1/zh active Application Filing
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20100306423A1 (en) * | 2009-05-26 | 2010-12-02 | Fujitsu Semiconductor Limited | Information processing system and data transfer method |
CN111435352A (zh) * | 2019-01-11 | 2020-07-21 | 北京京东尚科信息技术有限公司 | 一种分布式实时计算方法、装置、系统及其存储介质 |
CN110378254A (zh) * | 2019-07-03 | 2019-10-25 | 中科软科技股份有限公司 | 车损图像修改痕迹的识别方法、系统、电子设备及存储介质 |
CN111310936A (zh) * | 2020-04-15 | 2020-06-19 | 光际科技(上海)有限公司 | 机器学习训练的构建方法、平台、装置、设备及存储介质 |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022247110A1 (zh) * | 2021-05-25 | 2022-12-01 | 上海商汤智能科技有限公司 | 任务处理方法及装置、电子设备和存储介质 |
CN114782445A (zh) * | 2022-06-22 | 2022-07-22 | 深圳思谋信息科技有限公司 | 对象缺陷检测方法、装置、计算机设备和存储介质 |
CN114782445B (zh) * | 2022-06-22 | 2022-10-11 | 深圳思谋信息科技有限公司 | 对象缺陷检测方法、装置、计算机设备和存储介质 |
Also Published As
Publication number | Publication date |
---|---|
WO2022247110A1 (zh) | 2022-12-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20150278710A1 (en) | Machine learning apparatus, machine learning method, and non-transitory computer-readable recording medium | |
CN109791625A (zh) | 使用人工神经网络进行面部识别 | |
US10540257B2 (en) | Information processing apparatus and computer-implemented method for evaluating source code | |
CN113342488A (zh) | 任务处理方法及装置、电子设备和存储介质 | |
CN110135032B (zh) | 一种基于对抗生成网络的辅助服装生成方法和装置 | |
CN113342489A (zh) | 任务处理方法及装置、电子设备和存储介质 | |
CN109034121B (zh) | 商品识别处理的方法、装置、设备及计算机存储介质 | |
CN112099848B (zh) | 一种业务处理方法、装置及设备 | |
CN111126487A (zh) | 设备性能测试方法、装置及电子设备 | |
CN113707309A (zh) | 基于机器学习的疾病预测方法及装置 | |
CN111124863B (zh) | 智能设备性能测试方法、装置及智能设备 | |
CN111523390A (zh) | 一种图像识别的方法及增强现实ar图标识别的系统 | |
CN112712121A (zh) | 一种基于深度神经网络的图像识别模型训练方法、装置及存储介质 | |
CN115422334A (zh) | 信息处理方法、装置、电子设备及存储介质 | |
CN113296769A (zh) | 数据处理方法、视觉稿的处理方法、系统及电子设备 | |
CN114610271A (zh) | Ai模型的定制方法、电子设备及计算机可读存储介质 | |
CN117216710A (zh) | 多模态自动标注方法、标注模型的训练方法及相关设备 | |
CN113268188B (zh) | 任务处理方法、装置、设备及存储介质 | |
Sánchez-Morales et al. | Generation of user interfaces for mobile applications using neuronal networks | |
CN114005010A (zh) | 一种任务处理方法、装置、设备及存储介质 | |
CN113821652A (zh) | 模型数据处理方法、装置、电子设备以及计算机可读介质 | |
CN113627449A (zh) | 模型训练方法及装置、标签确定方法及装置 | |
CN111898761B (zh) | 服务模型生成方法、图像处理方法、装置和电子设备 | |
Tatasciore | DelivAR: An augmented reality mobile application to expedite the package identification process for last-mile deliveries | |
CN112308074A (zh) | 用于生成缩略图的方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
REG | Reference to a national code |
Ref country code: HK Ref legal event code: DE Ref document number: 40051362 Country of ref document: HK |