CN114201278B - 任务处理方法、任务处理装置、电子设备以及存储介质 - Google Patents
任务处理方法、任务处理装置、电子设备以及存储介质 Download PDFInfo
- Publication number
- CN114201278B CN114201278B CN202111487774.8A CN202111487774A CN114201278B CN 114201278 B CN114201278 B CN 114201278B CN 202111487774 A CN202111487774 A CN 202111487774A CN 114201278 B CN114201278 B CN 114201278B
- Authority
- CN
- China
- Prior art keywords
- artificial intelligence
- task
- information
- tasks
- determining
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012545 processing Methods 0.000 title claims abstract description 64
- 238000003672 processing method Methods 0.000 title claims abstract description 23
- 238000013473 artificial intelligence Methods 0.000 claims abstract description 455
- 238000000034 method Methods 0.000 claims description 33
- 230000004044 response Effects 0.000 claims description 3
- 238000005516 engineering process Methods 0.000 abstract description 3
- 238000013135 deep learning Methods 0.000 abstract description 2
- 238000004590 computer program Methods 0.000 description 12
- 238000004891 communication Methods 0.000 description 11
- 238000001514 detection method Methods 0.000 description 7
- 238000010586 diagram Methods 0.000 description 7
- 238000004422 calculation algorithm Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 230000018109 developmental process Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 230000002776 aggregation Effects 0.000 description 2
- 238000004220 aggregation Methods 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 230000004931 aggregating effect Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 230000001747 exhibiting effect Effects 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000003709 image segmentation Methods 0.000 description 1
- 238000011835 investigation Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 239000000779 smoke Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- 239000002699 waste material Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/48—Program initiating; Program switching, e.g. by interrupt
- G06F9/4806—Task transfer initiation or dispatching
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
Abstract
本公开提供了一种任务处理方法、任务处理装置、电子设备以及存储介质,涉及人工智能技术领域,尤其涉及云计算、计算机视觉和深度学习技术。具体实现方案为:确定设备调度信息,其中,设备调度信息包括端侧设备的可用资源信息和至少一个人工智能任务各自的资源消耗信息;根据设备调度信息,从服务器和端侧设备中确定用于执行至少一个人工智能任务各自的目标设备;控制与至少一个人工智能任务各自对应的目标设备,基于与至少一个人工智能任务各自对应的人工智能模型和任务数据,执行至少一个人工智能任务。
Description
技术领域
本公开涉及人工智能技术领域,尤其涉及云计算、计算机视觉和深度学习技术。具体地,涉及一种任务处理方法、任务处理装置、电子设备以及存储介质。
背景技术
随着人工智能技术的不断发展,实现了在越来越多的领域的应用落地。复杂场景对人工智能技术提出了挑战。复杂场景可以指需要通过至少一个人工智能任务配合来实现其业务需求的场景。
发明内容
本公开提供了一种任务处理方法、任务处理装置、电子设备以及存储介质。
根据本公开的一方面,提供了一种任务处理方法,包括:确定设备调度信息,其中,上述设备调度信息包括端侧设备的可用资源信息和至少一个人工智能任务各自的资源消耗信息;根据上述设备调度信息,从服务器和上述端侧设备中确定用于执行上述至少一个人工智能任务各自的目标设备;以及,控制与上述至少一个人工智能任务各自对应的目标设备,基于与上述至少一个人工智能任务各自对应的人工智能模型和任务数据,执行上述至少一个人工智能任务。
根据本公开的另一方面,提供了一种任务处理装置,包括:第一确定模块,用于确定设备调度信息,其中,上述设备调度信息包括端侧设备的可用资源信息和至少一个人工智能任务各自的资源消耗信息;第二确定模块,用于根据上述设备调度信息,从服务器和上述端侧设备中确定用于执行上述至少一个人工智能任务各自的目标设备;以及,执行模块,用于控制与上述至少一个人工智能任务各自对应的目标设备,基于与上述至少一个人工智能任务各自对应的人工智能模型和任务数据,执行上述至少一个人工智能任务。
根据本公开的另一方面,提供了一种电子设备,包括:至少一个处理器;以及与上述至少一个处理器通信连接的存储器;其中,上述存储器存储有可被上述至少一个处理器执行的指令,上述指令被上述至少一个处理器执行,以使上述至少一个处理器能够执行如上所述的方法。
根据本公开的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,上述计算机指令用于使上述计算机执行如上所述的方法。
根据本公开的另一方面,提供了一种计算机程序产品,包括计算机程序,上述计算机程序在被处理器执行时实现如上所述的方法。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1示意性示出了根据本公开实施例的可以应用任务处理方法及装置的示例性系统架构;
图2示意性示出了根据本公开实施例的任务处理方法的流程图;
图3示意性示出了根据本公开实施例的任务处理系统的示例示意性图;
图4示意性示出了根据本公开实施例的任务处理装置的框图;以及
图5示意性示出了根据本公开实施例的适于实现任务处理方法的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
利用至少一个人工智能任务的配合来实现复杂场景的业务需求,需要结合硬件设备。可以利用端云协同的方式来实现。即,至少一个人工智能任务中的部分人工智能任务由端侧设备来执行,另一部分人工智能任务由服务器来执行。不同端侧设备的资源信息存在较大差异。例如,针对算力能力较低的端侧设备,将难以完成预先分配好的人工智能任务。针对算力能力较强的端侧设备,将会造成资源浪费。
为此,本公开实施例提出了一种任务处理方案。即,确定端侧设备的可用资源信息和至少一个人工智能任务各自的资源消耗信息,根据可用资源信息和至少一个人工智能任务各自的资源消耗信息,确定设备调度信息。根据设备调度信息,从服务器和端侧设备中确定用于执行至少一个人工智能任务各自的目标设备。控制与至少一个人工智能任务各自对应的目标设备,基于与至少一个人工智能任务各自对应的人工智能模型和任务数据,执行至少一个人工智能任务。
上述基于端侧设备的资源信息和每个人工智能任务的资源消耗信息来合理配置执行每个人工智能任务的目标设备,实现了在保证人工智能任务能够完成的基础上,充分利用端侧设备和服务器的资源,提高了设备的资源利用率。此外,也提高了任务处理操作的鲁棒性和适配性。
图1示意性示出了根据本公开实施例的可以应用任务处理方法及装置的示例性系统架构。
需要注意的是,图1所示仅为可以应用本公开实施例的系统架构的示例,以帮助本领域技术人员理解本公开的技术内容,但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。
如图1所示,根据该实施例的系统架构100可以包括服务器101、端侧设备102和网络103。网络103用以在服务器101和端侧设备102之间提供通信链路的介质。网络103可以包括各种连接类型,例如有线和/或无线通信链路等。
用户可以使用端侧设备102通过网络103与服务器101交互,以接收或发送消息等。端侧设备102上可以安装有各种通讯客户端应用,例如知识阅读类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端和/或社交平台软件等(仅为示例)。
端侧设备102 可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等。
例如,端侧设备102确定设备调度信息。设备调度信息包括端侧设备102的可用资源信息和至少一个人工智能任务各自的资源消耗信息。根据设备调度信息,从服务器101和端侧设备102中确定用于执行至少一个人工智能任务各自的目标设备。控制每个目标设备利用与目标设备对应的至少一个人工智能模型和与至少一个人工智能任务各自对应的任务数据执行至少一个人工智能任务。
服务器101可以是提供各种服务的各种类型的服务器。例如,服务器101可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务(Virtual Private Server,VPS)中,存在的管理难度大,业务扩展性弱的缺陷。服务器101也可以为分布式系统的服务器,或者是结合了区块链的服务器。
应该理解,图1中的服务器、端侧设备和网络的数目仅仅是示意性的。根据实现需要,可以具有任意数目的服务器、端侧设备和网络。
图2示意性示出了根据本公开实施例的任务处理方法的流程图。
如图2所示,该方法200包括操作S210~S230。
在操作S210,确定设备调度信息。设备调度信息包括端侧设备的可用资源信息和至少一个人工智能任务各自的资源消耗信息。
在操作S220,根据设备调度信息,从服务器和端侧设备中确定用于执行至少一个人工智能任务各自的目标设备。
在操作S230,控制与至少一个人工智能任务各自对应的目标设备,基于与至少一个人工智能任务各自对应的人工智能模型和任务数据,执行至少一个人工智能任务。
根据本公开的实施例,设备调度信息可以用于确定执行人工智能任务的目标设备的依据。设备调度信息可以包括可用资源信息和至少一个资源消耗信息。可用资源信息可以指端侧设备当前能够提供的资源信息。资源消耗信息可以指执行人工智能任务需要消耗的资源信息。资源信息可以包括计算资源信息和存储资源信息。例如,资源消耗信息可以根据与人工智能任务对应的人工智能模型和任务数据需要消耗的计算资源信息和存储资源信息来确定。人工智能模型和任务数据需要消耗的计算资源信息和存储资源信息可以根据人工智能模型的模型结构的大小和任务数据的数据量大小确定。
根据本公开的实施例,可用资源信息可以包括至少一个资源项各自的可用资源信息。资源消耗信息可以包括至少一个资源项各自的资源消耗信息。资源项可以包括以下至少一项:与CPU(Central Processing Unit,中央处理器)相关的资源项、与GPU(GraphicsProcessing Unit,图形处理器)相关的资源项和与内存相关的资源项。与CPU相关的资源项可以包括以下至少一项:CPU的主频、CPU的睿频、CPU的核心数、CPU的线程数、CPU的多级缓存和CPU的热设计功耗。与GPU相关的资源项可以包括以下至少一项:GPU的核心、GPU的频率和GPU容量。与内存相关的资源项可以包括以下至少一项:内存的大小和内存的频率。
根据本公开的实施例,至少一个人工智能任务可以是复杂场景下的多个人工智能任务。多个人工智能任务之间可以具有关联关系。人工智能任务可以包括以下至少一项:图像处理任务、文本处理任务和音频处理任务。图像处理任务可以包括以下至少一项:图像识别任务、目标检测任务、图像分类任务、图像分割任务和图像检索任务等。文本处理任务可以包括以下至少一项:命名实体识别任务、实体关系抽取任务和译文翻译任务等。音频处理任务可以包括以下至少一项:音频识别任务和音频分类任务等。复杂场景可以指需要通过多个人工智能任务配合来实现其业务需求的场景。例如,复杂场景可以包括长货架物品层数识别场景或应急救援机器人工作场景等。
例如,以长货架物品层数识别场景为例,长货架物品层数识别场景的业务需求可以包括局部图像、全局图像、局部图像识别、全局图像识别、货架层次识别和物品所在层次识别。局部图像可以指与局部货架对应的图像。全局图像可以是将多个局部图像进行拼接得到的。相应的,与长货架物品层数识别场景对应的多个人工智能任务可以包括图像识别任务和目标检测任务。图像识别任务和目标检测任务是具有关联关系的人工智能任务,即,先执行图像识别任务,再根据图像识别任务的识别结果确定是否执行目标检测任务。例如,图像识别任务是识别货架上是否存在物品“牙刷”,在图像识别结果为存在物品“牙刷”的情况下,执行目标检测任务,确定物品“牙刷”的位置。
根据本公开的实施例,在获得设备调度信息之后,可以根据设备调度信息,从服务器和端侧设备中确定用于执行全部人工智能任务各自的目标设备。例如,根据至少一个人工智能任务各自的资源消耗信息,得到总资源消耗信息。根据可用资源信息和总资源消耗信息,确定用于执行至少一个人工智能任务各自的目标设备。
根据本公开的实施例,针对每个人工智能任务,在确定用于执行该人工智能任务的目标设备之后,可以控制目标设备利用与该人工智能任务对应的人工智能模型和任务数据执行该人工智能任务。
根据本公开的实施例,基于端侧设备的资源信息和每个人工智能任务的资源消耗信息来合理配置执行每个人工智能任务的目标设备,实现了在保证人工智能任务能够完成的基础上,充分利用端侧设备和服务器的资源,提高了设备的资源利用率。此外,也提高了任务处理操作的鲁棒性和适配性。
根据本公开的实施例,操作S220可以包括如下操作。
根据至少一个资源消耗信息,得到总资源消耗信息。在确定可用资源信息满足总资源消耗信息的情况下,将端侧设备确定为用于执行至少一个人工智能任务各自的目标设备。在确定可用资源信息不满足总资源消耗信息的情况下,根据设备调度信息,从服务器和端侧设备中确定用于执行至少一个人工智能任务各自的目标设备。
根据本公开的实施例,可以确定至少一个资源消耗信息之和,得到总资源消耗信息。即,针对至少一个资源项中的每个资源项,将全部资源消耗信息中与该资源项对应的资源消耗信息进行求和,得到与该资源项对应的求和结果。由此可以得到与全部资源项各自对应的求和结果。根据与全部资源项各自对应的求和结果,得到总资源消耗信息。
根据本公开的实施例,在获得总资源消耗信息之后,可以针对至少一个资源项中的每个资源项,确定与该资源项对应的可用资源信息是否满足资源消耗信息。
例如,如果确定全部资源项各自对应的可用资源信息均可以满足资源消耗信息,则可以确定可用资源信息能够满足总资源消耗信息。如果确定部分资源项或全部资源项各自对应的可用资源信息不能够满足资源消耗信息,则可以确定可用资源信息不能够满足总资源消耗信息。
例如,如果确定目标资源项的数目大于或等于数目阈值,则可以确定可用资源信息能够满足总资源消耗信息。如果确定目标资源项的数目小于数目阈值,则可以确定可用资源信息不能够满足总资源消耗信息。目标资源项可以指可用资源信息能够满足总资源消耗信息的资源项。数目阈值可以根据实际业务需求进行配置,在此不作限定。
例如,如果确定目标资源项的数目小于数目阈值且非目标资源项是非主要资源项,则可以确定可用资源信息能够满足总资源消耗信息。非目标资源项可以指至少一个资源项中除目标资源项以外的任意一个资源项。可以根据资源项的重要程度,将资源项划分为主要资源项和非主要资源项。资源项的重要程度可以根据资源项对端侧设备执行人工智能任务的影响程度确定。例如,主要资源项可以包括以下至少一项:CPU的主频、内存的大小和内存的频率。
根据本公开的实施例,如果确定可用资源信息能够满足总资源消耗信息,则可以将端侧设备确定为用于执行全部人工智能任务的目标设备。如果确定可用资源信息不能够满足总资源消耗信息,则可以根据设备调度信息,将与至少一个人工智能任务中的部分人工智能任务对应的目标设备确定为服务器,将与其他人工智能任务对应的目标设备确定为端侧设备,以便端侧设备和服务器共同配合来完成全部人工智能任务。
根据本公开的实施例,根据设备调度信息,从服务器和端侧设备中确定用于执行至少一个人工智能任务各自的目标设备,可以包括如下操作。
根据设备调度信息,确定目标人工智能任务。目标人工智能任务是端侧设备能够执行的人工智能任务。将端侧设备确定为用于执行目标人工智能任务的目标设备。将服务器确定为用于执行第一其他人工智能任务的目标设备。第一其他人工智能任务是至少一个人工智能任务中除目标人工智能任务以外的人工智能任务。
根据本公开的实施例,可以根据可用资源信息和至少一个人工智能任务各自的资源消耗信息,从至少一个人工智能任务中确定目标人工智能任务。将与目标人工智能任务对应的目标设备确定为端侧设备。将与第一其他人工智能任务对应的目标设备确定为服务器。第一其他人工智能任务可以是至少一个人工智能任务中除目标人工智能任务以外的任意一个人工智能任务。
根据本公开的实施例,设备调度信息还可以包括至少一个人工智能任务各自的需求优先级信息。
根据本公开的实施例,根据设备调度信息,确定目标人工智能任务,可以包括如下操作。
根据至少一个人工智能任务各自的需求优先级信息,确定第一候选人工智能任务。根据端侧设备的可用资源信息和第一候选人工智能任务的资源消耗信息,确定第二候选人工智能任务。在确定端侧设备的可用资源信息与第二候选人工智能任务的资源消耗信息一致的情况下,将第二候选人工智能任务确定为目标人工智能任务。在确定端侧设备的可用资源信息大于第二候选人工智能任务的资源消耗信息的情况下,确定第三候选人工智能任务。第三候选人工智能任务是至少一个人工智能任务中除第一候选人工智能任务以外的人工智能任务。根据第二候选人工智能任务和第三候选人工智能任务,确定目标人工智能任务。
根据本公开的实施例,需求优先级信息可以表征业务需求的优先级。需求优先级信息可以根据业务需求的紧急程度来确定。如果人工智能任务的紧急程度越高,则需求优先级信息所表征的业务需求的优先级越高。紧急程度可以根据人工智能任务在预定时间段内被利用的次数和人工智能任务在预定时间段内被其他人工智能任务调用的次数中的至少一项确定。
根据本公开的实施例,第一候选人工智能任务可以指需求优先级信息满足预定优先级条件的人工智能任务。例如,可以根据需求优先级信息所表征的业务需求的优先级,对至少一个人工智能任务进行排序,得到排序结果,根据排序结果,从至少一个人工智能任务中确定第一候选人工智能任务。排序可以按照业务需求的优先级由高到低的顺序排序或按照业务需求的优先级由低到高的顺序排序。
根据本公开的实施例,在确定第一候选人工智能任务之后,可以根据端侧设备的可用资源信息和第一候选人工智能任务的资源消耗信息,确定端侧设备能够执行的第二候选人工智能任务。即,实现业务需求的优先级较高的人工智能任务由端侧设备执行的目的,提高任务执行效率。
根据本公开的实施例,如果确定端侧设备的可用资源信息与第二候选人工智能任务的资源消耗信息一致,则可以说明端侧设备不能够再执行其他人工智能任务。在此情况下,可以将第二候选人工智能任务确定为目标人工智能任务。
根据本公开的实施例,如果确定端侧设备的可用资源信息大于第二候选人工智能任务的资源消耗信息,则可以说明端侧设备除了可以执行第二候选人工智能任务以外,还可以执行其他人工智能任务。其他人工智能任务可以是第三候选人工智能任务。可以将第二候选人工智能任务和第三候选人工智能任务确定为目标人工智能任务。
根据本公开的实施例,操作S230可以包括如下操作。
确定至少一个人工智能任务彼此之间的关联关系。根据关联关系,确定任务执行顺序。根据任务执行顺序,控制与至少一个人工智能任务各自对应的目标设备,基于与至少一个人工智能任务各自对应的人工智能模型和任务数据,执行至少一个人工智能任务。
根据本公开的实施例,关联关系可以包括具有关联关系和不具有关联关系。可以根据至少一个人工智能任务彼此之间的关联关系,确定至少一个人工智能任务的任务执行顺序。再根据任务执行顺序,控制与至少一个人工智能任务各自对应的目标设备,执行与目标设备对应的人工智能任务。
根据本公开的实施例,任务执行顺序可以包括并行执行和串行执行。如果人工智能任务与其他人工智能任务之间不具有关联关系,则人工智能任务可以与其他人工智能任务并行执行。如果人工智能任务与其他人工智能任务之间具有关联关系,则可以按照关联关系确定的任务执行顺序依次执行各个人工智能任务。
根据本公开的实施例,上述任务处理方法还可以包括如下操作。
确定至少一个人工智能任务各自的执行优先级信息。
根据本公开的实施例,根据关联关系,确定任务执行顺序,可以包括如下操作。
根据关联关系和至少一个执行优先级信息,确定任务执行顺序。
根据本公开的实施例,执行优先级信息可以表征执行人工智能任务的优先级。可以根据业务需求,确定至少一个人工智能任务中的每个人工智能任务的执行优先级信息。再根据关联关系和至少一个执行优先级信息,确定任务执行顺序。
例如,针对某个人工智能任务,在满足关联关系的情况下,如果根据该人工智能任务的执行优先级信息确定该人工智能任务的优先级最高,则可以最先执行该人工智能任务。
根据本公开的实施例,控制与至少一个人工智能任务各自对应的目标设备,基于与至少一个人工智能任务各自对应的人工智能模型和任务数据,执行至少一个人工智能任务,可以包括如下操作。
在确定用于执行至少一个人工智能任务各自的目标设备包括云服务器的情况下,向服务器发送任务执行请求,以便服务器响应于接收到任务执行请求,执行与服务器对应的人工智能任务。任务执行请求包括任务信息,任务信息包括人工智能任务标识和与人工智能任务标识对应的任务数据,人工智能任务标识用于确定与人工智能任务标识对应的人工智能模型。
根据本公开的实施例,任务执行请求可以指用于请求服务器执行人工智能任务的请求。如果确定用于执行人工智能任务的目标设备包括服务器,则可以生成任务执行请求。将任务执行请求发送给服务器,以便服务器响应于接收到任务执行请求,对任务执行请求进行解析,得到包括人工智能任务标识和与人工智能任务标识对应的任务数据。服务器根据人工智能任务标识确定与人工智能任务标识对应的人工智能模型。服务器可以基于与人工智能模型标识对应的人工智能模型和任务数据,执行与人工智能任务标识对应的人工智能任务。
根据本公开的实施例,任务执行请求包括的任务信息是经过加密处理得到的。
根据本公开的实施例,可以利用加密算法对任务信息进行加密,得到加密任务信息。加密算法可以包括对称加密算法。
根据本公开的实施例,通过对端云交互的信息进行加密,有效保证数据和计算逻辑的安全性。
根据本公开的实施例,上述任务处理方法还可以包括如下操作。
在确定用于执行至少一个人工智能任务各自的目标设备还包括端侧设备的情况下,向服务器发送至少一个第一日志信息,以便服务器对至少一个第一日志信息和至少一个第二日志信息进行聚合,得到聚合信息。每个第一日志信息包括端侧设备执行与端侧设备对应的人工智能任务得到的执行结果,每个第二日志信息包括服务器执行与服务器对应的人工智能任务得到的执行结果。
根据本公开的实施例,日志信息可以包括与执行人工智能任务相关的信息。日志信息可以包括执行结果。日志信息还可以包括中间处理参数和错误信息。
根据本公开的实施例,针对至少一个人工智能任务中的每个人工智能任务,如果确定用于执行该人工智能任务的目标设备是端侧设备,则端侧设备可以在执行该人工智能任务得到执行结果之后,生成包括执行结果的第一日志信息。再将第一日志信息发送给服务器,由此服务器可以接收到来自端侧设备的至少一个第一日志信息。如果确定用于执行该人工智能任务的目标设备是以便服务器,则服务器在执行该人工智能任务得到执行结果之后,生成包括执行结果的第二日志信息。由此,服务器可以获得至少一个第一日志信息和至少一个第二日志信息。可以对至少一个第一日志信息和至少一个第二日志信息进行聚合,得到聚合信息。
根据本公开的实施例,通过服务器对至少一个第一日志信息和至少一个第二日志信息进行聚合,得到聚合信息,以便后续可以根据聚合信息获得完整流程,为问题排查提供便利,也便于开发者进行调试和优化。
根据本公开的实施例,每个第一日志信息是经过加密处理得到的。
根据本公开的实施例,上述任务处理方法还可以包括如下操作。
对与至少一个人工智能任务各自对应的执行结果进行处理,得到处理结果。对处理结果进行分析,得到与处理结果相关的扩展结果。
根据本公开的实施例,如果目标设备包括服务器,则与至少一个人工智能任务各自对应的执行结果包括利用服务器处理得到的执行结果。服务器可以将服务器执行人工智能任务得到的执行结果发送给端侧设备。这里所述的执行结果可以是经过加密处理得到的。
根据本公开的实施例,端侧设备可以对至少一个人工智能任务各自对应的执行结果进行处理,得到处理结果。例如,可以对至少一个人工智能任务各自对应的执行结果进行聚合,得到处理结果。再对处理结果进行分析,得到与处理结果相关的扩展结果。扩展结果可以是对处理结果进行推理得到的。
例如,至少一个人工智能任务包括图像识别任务和目标检测任务。目标设备执行图像识别任务和目标检测任务得到的处理结果是“教室A的外部冒烟,并且有人位于教室A”。对处理结果进行分析,得到的扩展结果是“教室A可能发生了火灾,需拨打火警电话和急救电话寻求帮助”。
根据本公开的实施例,上述任务处理方法还可以包括如下操作。
在确定获得目标人工智能任务的执行结果的情况下,展示目标人工智能任务的执行结果。目标人工智能任务是展示等级满足预定条件的人工智能任务。
根据本公开的实施例,展示等级可以指展示执行结果的等级。展示等级越高,可以在获得执行结果之后越先展示。如果获得目标人工智能任务的执行结果,则可以在至少一个人工智能任务中的其他人工智能任务的执行结果还未全部获得或全部未获得的情况下,展示目标人工智能任务的执行结果。
根据本公开的实施例,上述任务处理方法还可以包括如下操作。
调用数据接口。利用数据接口获取与至少一个人工智能任务各自对应的任务数据。
根据本公开的实施例,可以通过数据接口来获得与人工智能任务对应的任务数据。端侧设备可以通过SDK(Software Development Kit,SDK,软件工具开发包)或HTTP(HyperText Transfer Protocol,超文本传输协议)等形式将数据接口提供给用户。服务器可以通过HTTP或RPC(Remote Procedure Call Protocol,远程过程调用协议)等形式将相关功能的接口提供给端侧设备,以便端侧设备进行接口封装。
下面参考图3,结合具体实施例对根据本公开实施例所述的方法做进一步说明。
图3示意性示出了根据本公开实施例的任务处理系统的示例示意图。
如图3所示,在300中,端侧设备300-1包括数据接口单元301、端侧设备性能评估单元302、设备调度单元303、数据安全单元306和应用日志回传单元312。服务器300-2包括数据安全单元306和应用日志聚合单元311。至少一个人工智能任务包括人工智能任务304、人工智能任务305、人工智能任务307、人工智能任务308、人工智能任务309和人工智能任务310。
端侧设备300-1通过数据接口单元301提供的数据接口获取与人工智能任务304、人工智能任务305、人工智能任务307、人工智能任务308、人工智能任务309和人工智能任务310各自对应的任务数据。
端侧设备性能评估单元302确定端侧设备300-1的可用资源信息。
设备调度单元303根据人工智能任务304、人工智能任务305、人工智能任务307、人工智能任务308、人工智能任务309和人工智能任务310各自的资源消耗信息,确定总资源消耗信息。
设备调度单元303确定端侧设备300-1的可用资源信息不满足总资源消耗信息。根据人工智能任务304、人工智能任务305、人工智能任务307、人工智能任务308、人工智能任务309和人工智能任务310各自的资源消耗信息和需求优先级信息,确定用于执行人工智能任务304和人工智能任务305的目标设备是端侧设备300-1。确定用于执行人工智能任务307、人工智能任务308、人工智能任务309和人工智能任务310的目标设备是服务器300-2。确定人工智能任务304和人工智能任务305串行执行,即先执行人工智能任务304,再执行人工智能任务305。人工智能任务307、人工智能任务308、人工智能任务309和人工智能任务310并行执行并且均与人工智能任务304和人工智能任务305并行执行。
端侧设备300-1生成任务执行请求,任务执行请求包括任务信息,任务信息包括与人工智能任务307、人工智能任务308、人工智能任务309和人工智能任务310各自对应的人工智能任务标识和业务数据。端侧设备300-1的数据安全单元306对任务信息进行加密。端侧设备300-1将任务执行请求发送给服务器300-2。
服务器300-2的数据安全单元306对任务信息进行解密,得到与人工智能任务307、人工智能任务308、人工智能任务309和人工智能任务310各自对应的人工智能任务标识和业务数据。服务器300-2根据人工智能任务标识确定人工智能模型。基于与人工智能任务307、人工智能任务308、人工智能任务309和人工智能任务310各自对应的人工智能模型和业务数据,分别执行人工智能任务307、人工智能任务308、人工智能任务309和人工智能任务310,得到与人工智能任务307、人工智能任务308、人工智能任务309和人工智能任务310各自对应的执行结果。
端侧设备300-1先基于与人工智能任务304对应的人工智能模型和业务数据,执行人工智能任务304,得到与人工智能任务304对应的执行结果。然后根据与人工智能任务304对应的执行结果确定人工智能任务305需要被执行。再基于与人工智能任务305对应的人工智能模型和业务数据,执行人工智能任务305,得到与人工智能任务305对应的执行结果。服务器300-2通过数据安全单元306将与人工智能任务307、人工智能任务308、人工智能任务309和人工智能任务310各自对应的执行结果发送给端侧设备300-1。
端侧设备300-1通过应用日志回传单元312和数据安全单元306将与人工智能任务304和人工智能任务305各自对应的第一日志信息发送给服务器300-2。服务器300-2的应用日志聚合单元311根据与人工智能任务307、人工智能任务308、人工智能任务309和人工智能任务310各自对应的第二日志信息和与人工智能任务304和人工智能任务305各自对应的第一日志信息,生成聚合信息。
端侧设备300-1的设备调度单元303对与人工智能任务304、人工智能任务305、人工智能任务307、人工智能任务308、人工智能任务309和人工智能任务310各自对应的执行结果进行处理,得到处理结果。对处理结果进行分析,得到与处理结果相关的扩展结果。
以上仅是示例性实施例,但不限于此,还可以包括本领域已知的其他任务处理方法,只要能够在保证人工智能任务能够完成的基础上,充分利用端侧设备和服务器的资源,提高了设备的资源利用率。此外,也提高了任务处理操作的鲁棒性和适配性即可。
图4示意性示出了根据本公开实施例的任务处理装置的框图。
如图4所示,上述任务处理装置400可以包括第一确定模块410、第二确定模块420和执行模块430。
第一确定模块410,用于确定设备调度信息。设备调度信息包括端侧设备的可用资源信息和至少一个人工智能任务各自的资源消耗信息;
第二确定模块420,用于根据设备调度信息,从服务器和端侧设备中确定用于执行至少一个人工智能任务各自的目标设备。
执行模块,用于控制与至少一个人工智能任务各自对应的目标设备,基于与至少一个人工智能任务各自对应的人工智能模型和任务数据,执行至少一个人工智能任务。
根据本公开的实施例,第二确定模块可以包括第一获得子模块、第一确定子模块和第二确定子模块。
第一获得子模块,用于根据至少一个资源消耗信息,得到总资源消耗信息。
第一确定子模块,用于在确定可用资源信息满足总资源消耗信息的情况下,将端侧设备确定为用于执行至少一个人工智能任务各自的目标设备。
第二确定子模块,用于在确定可用资源信息不满足总资源消耗信息的情况下,根据设备调度信息,从服务器和端侧设备中确定用于执行至少一个人工智能任务各自的目标设备。
根据本公开的实施例,第二确定模块可以包括第三确定子模块、第四确定子模块和第五确定子模块。
第三确定子模块,用于根据设备调度信息,确定目标人工智能任务,其中,目标人工智能任务是端侧设备能够执行的人工智能任务。
第四确定子模块,用于将端侧设备确定为用于执行目标人工智能任务的目标设备。
第五确定子模块,用于将服务器确定为用于执行第一其他人工智能任务的目标设备,其中,第一其他人工智能任务是至少一个人工智能任务中除目标人工智能任务以外的人工智能任务。
根据本公开的实施例,设备调度信息还包括至少一个人工智能任务各自的需求优先级信息。
根据本公开的实施例,第三确定子模块可以包括第一确定单元、第二确定单元、第三确定单元、第四确定单元和第五确定单元。
第一确定单元,用于根据至少一个人工智能任务各自的需求优先级信息,确定第一候选人工智能任务。
第二确定单元,用于根据端侧设备的可用资源信息和第一候选人工智能任务的资源消耗信息,确定第二候选人工智能任务。
第三确定单元,用于在确定端侧设备的可用资源信息与第二候选人工智能任务的资源消耗信息一致的情况下,将第二候选人工智能任务确定为目标人工智能任务。
第四确定单元,用于在确定端侧设备的可用资源信息大于第二候选人工智能任务的资源消耗信息的情况下,确定第三候选人工智能任务,其中,第三候选人工智能任务是至少一个人工智能任务中除第一候选人工智能任务以外的人工智能任务。
第五确定单元,用于根据第二候选人工智能任务和第三候选人工智能任务,确定目标人工智能任务。
根据本公开的实施例,执行模块可以包括第六确定子模块、第七确定子模块和执行子模块。
第六确定子模块,用于确定至少一个人工智能任务彼此之间的关联关系。
第七确定子模块,用于根据关联关系,确定任务执行顺序。
执行子模块,用于根据任务执行顺序,控制与至少一个人工智能任务各自对应的目标设备,基于与至少一个人工智能任务各自对应的人工智能模型和任务数据,执行至少一个人工智能任务。
根据本公开的实施例,上述任务处理装置400还可以包括第三确定模块。
第三确定模块,用于确定至少一个人工智能任务各自的执行优先级信息。
根据本公开的实施例,第七确定子模块可以包括第六确定单元。
第六确定单元,用于根据关联关系和至少一个执行优先级信息,确定任务执行顺序。
根据本公开的实施例,执行模块可以包括第八确定子模块。
第八确定子模块,用于在确定用于执行至少一个人工智能任务各自的目标设备包括云服务器的情况下,向服务器发送任务执行请求,以便服务器响应于接收到任务执行请求,执行与服务器对应的人工智能任务。任务执行请求包括任务信息,任务信息包括人工智能任务标识和与人工智能任务标识对应的任务数据,人工智能任务标识用于确定与人工智能任务标识对应的人工智能模型。
根据本公开的实施例,任务执行请求包括的任务信息是经过加密处理得到的。
根据本公开的实施例,上述任务处理装置400还可以包括第四确定模块。
第四确定模块,用于在确定用于执行至少一个人工智能任务各自的目标设备还包括端侧设备的情况下,向服务器发送至少一个第一日志信息,以便服务器对至少一个第一日志信息和至少一个第二日志信息进行聚合,得到聚合信息。每个第一日志信息包括端侧设备执行与端侧设备对应的人工智能任务得到的执行结果,每个第二日志信息包括服务器执行与服务器对应的人工智能任务得到的执行结果。
根据本公开的实施例,上述任务处理装置400还可以包括处理模块和分析模块。
处理模块,用于对与至少一个人工智能任务各自对应的执行结果进行处理,得到处理结果。
分析模块,用于对处理结果进行分析,得到与处理结果相关的扩展结果。
根据本公开的实施例,上述任务处理装置400还可以包括展示模块。
展示模块,用于在确定获得目标人工智能任务的执行结果的情况下,展示目标人工智能任务的执行结果,其中,目标人工智能任务是展示等级满足预定条件的人工智能任务。
根据本公开的实施例,上述任务处理装置400还可以包括调用模块和获取模块。
调用模块,用于调用数据接口。
获取模块,用于利用数据接口获取与至少一个人工智能任务各自对应的任务数据。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
根据本公开的实施例,一种电子设备,包括:至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行如上所述的方法。
根据本公开的实施例,一种存储有计算机指令的非瞬时计算机可读存储介质,其中,计算机指令用于使计算机执行如上所述的方法。
根据本公开的实施例,一种计算机程序产品,包括计算机程序,计算机程序在被处理器执行时实现如上所述的方法。
图5示意性示出了根据本公开实施例的适于实现任务处理方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图5所示,电子设备500包括计算单元501,其可以根据存储在只读存储器(ROM)502中的计算机程序或者从存储单元508加载到随机访问存储器(RAM)503中的计算机程序,来执行各种适当的动作和处理。在RAM 503中,还可存储电子设备500操作所需的各种程序和数据。计算单元501、ROM 502以及RAM 503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。
电子设备500中的多个部件连接至I/O接口505,包括:输入单元506,例如键盘、鼠标等;输出单元507,例如各种类型的显示器、扬声器等;存储单元508,例如磁盘、光盘等;以及通信单元509,例如网卡、调制解调器、无线通信收发机等。通信单元509允许电子设备500通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元501可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元501的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元501执行上文所描述的各个方法和处理,例如任务处理方法。例如,在一些实施例中,任务处理方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元508。在一些实施例中,计算机程序的部分或者全部可以经由ROM 502和/或通信单元509而被载入和/或安装到电子设备500上。当计算机程序加载到RAM 503并由计算单元501执行时,可以执行上文描述的任务处理方法的一个或多个步骤。备选地,在其他实施例中,计算单元501可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行任务处理方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、复杂可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以是分布式系统的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (17)
1.一种任务处理方法,包括:
确定设备调度信息,其中,所述设备调度信息包括端侧设备的可用资源信息、多个人工智能任务各自的资源消耗信息和所述多个人工智能任务各自的需求优先级信息,所述需求优先级信息与人工智能任务在预定时间段内被利用的次数和/或人工智能任务在预定时间段内被其他人工智能任务调用的次数相关,所述多个人工智能任务用于配合实现复杂场景下的业务需求;
根据所述设备调度信息,从服务器和所述端侧设备中确定用于执行所述多个人工智能任务各自的目标设备;以及
控制与所述多个人工智能任务各自对应的目标设备,基于与所述多个人工智能任务各自对应的人工智能模型和任务数据,执行所述多个人工智能任务;
其中,所述根据所述设备调度信息,从服务器和所述端侧设备中确定用于执行所述多个人工智能任务各自的目标设备,包括:
根据所述多个人工智能任务各自的资源消耗信息,得到总资源消耗信息;
在确定所述可用资源信息不满足所述总资源消耗信息的情况下,根据所述设备调度信息,从所述服务器和所述端侧设备中确定用于执行所述多个人工智能任务各自的目标设备;
其中,所述根据所述设备调度信息,从所述服务器和所述端侧设备中确定用于执行所述多个人工智能任务各自的目标设备,包括:
根据所述多个人工智能任务各自的需求优先级信息,确定目标人工智能任务,其中,所述目标人工智能任务是所述端侧设备能够执行的一个或多个人工智能任务;
将所述端侧设备确定为用于执行所述目标人工智能任务的目标设备;以及
将所述服务器确定为用于执行第一其他人工智能任务的目标设备,其中,所述第一其他人工智能任务是所述多个人工智能任务中除所述目标人工智能任务以外的人工智能任务。
2.根据权利要求1所述的方法,其中,所述根据所述设备调度信息,从服务器和所述端侧设备中确定用于执行所述多个人工智能任务各自的目标设备,还包括:
在确定所述可用资源信息满足所述总资源消耗信息的情况下,将所述端侧设备确定为用于执行所述多个人工智能任务各自的目标设备。
3.根据权利要求1所述的方法,
其中,所述根据所述多个人工智能任务各自的需求优先级信息,确定目标人工智能任务,包括:
根据所述多个人工智能任务各自的需求优先级信息,确定第一候选人工智能任务;
根据所述端侧设备的可用资源信息和所述第一候选人工智能任务的资源消耗信息,确定第二候选人工智能任务;
在确定所述端侧设备的可用资源信息与所述第二候选人工智能任务的资源消耗信息一致的情况下,将所述第二候选人工智能任务确定为所述目标人工智能任务;
在确定所述端侧设备的可用资源信息大于所述第二候选人工智能任务的资源消耗信息的情况下,确定第三候选人工智能任务,其中,所述第三候选人工智能任务是所述多个人工智能任务中除所述第一候选人工智能任务以外的人工智能任务;以及
根据所述第二候选人工智能任务和所述第三候选人工智能任务,确定所述目标人工智能任务。
4.根据权利要求1~3中任一项所述的方法,其中,所述控制与所述多个人工智能任务各自对应的目标设备,基于与所述多个人工智能任务各自对应的人工智能模型和任务数据,执行所述多个人工智能任务,包括:
确定所述多个人工智能任务彼此之间的关联关系;
根据所述关联关系,确定任务执行顺序;以及
根据所述任务执行顺序,控制与所述多个人工智能任务各自对应的目标设备,基于与所述多个人工智能任务各自对应的人工智能模型和任务数据,执行所述多个人工智能任务。
5.根据权利要求4所述的方法,还包括:
确定所述多个人工智能任务各自的执行优先级信息;
其中,所述根据所述关联关系,确定任务执行顺序,包括:
根据所述关联关系和多个所述执行优先级信息,确定所述任务执行顺序。
6.根据权利要求2所述的方法,其中,所述控制与所述多个人工智能任务各自对应的目标设备,基于与所述多个人工智能任务各自对应的人工智能模型和任务数据,执行所述多个人工智能任务,包括:
在确定用于执行所述多个人工智能任务各自的目标设备包括所述服务器的情况下,向所述服务器发送任务执行请求,以便所述服务器响应于接收到所述任务执行请求,执行与所述服务器对应的人工智能任务,
其中,所述任务执行请求包括任务信息,所述任务信息包括人工智能任务标识和与所述人工智能任务标识对应的任务数据,所述人工智能任务标识用于确定与所述人工智能任务标识对应的人工智能模型。
7.根据权利要求6所述的方法,其中,所述任务执行请求包括的任务信息是经过加密处理得到的。
8.根据权利要求6或7所述的方法,还包括:
在确定用于执行所述多个人工智能任务各自的目标设备还包括所述端侧设备的情况下,向所述服务器发送多个第一日志信息,以便所述服务器对所述多个第一日志信息和多个第二日志信息进行聚合,得到聚合信息,
其中,每个所述第一日志信息包括所述端侧设备执行与所述端侧设备对应的人工智能任务得到的执行结果,每个所述第二日志信息包括所述服务器执行与所述服务器对应的人工智能任务得到的执行结果。
9. 根据权利要求1所述的方法,还包括:
对与所述多个人工智能任务各自对应的执行结果进行处理,得到处理结果;以及
对所述处理结果进行分析,得到与所述处理结果相关的扩展结果。
10.根据权利要求1所述的方法,还包括:
在确定获得目标人工智能任务的执行结果的情况下,展示所述目标人工智能任务的执行结果,其中,所述目标人工智能任务是展示等级满足预定条件的人工智能任务。
11. 根据权利要求1所述的方法,还包括:
调用数据接口;以及
利用所述数据接口获取与所述多个人工智能任务各自对应的任务数据。
12.一种任务处理装置,包括:
第一确定模块,用于确定设备调度信息,其中,所述设备调度信息包括端侧设备的可用资源信息、多个人工智能任务各自的资源消耗信息和所述多个人工智能任务各自的需求优先级信息,所述需求优先级信息与人工智能任务在预定时间段内被利用的次数和/或人工智能任务在预定时间段内被其他人工智能任务调用的次数相关,所述多个人工智能任务用于配合实现复杂场景下的业务需求;
第二确定模块,用于根据所述设备调度信息,从服务器和所述端侧设备中确定用于执行所述多个人工智能任务各自的目标设备;以及
执行模块,用于控制与所述多个人工智能任务各自对应的目标设备,基于与所述多个人工智能任务各自对应的人工智能模型和任务数据,执行所述多个人工智能任务;
其中,所述第二确定模块,包括:
第一获得子模块,用于根据所述多个人工智能任务各自的资源消耗信息,得到总资源消耗信息多个;
第二确定子模块,用于在确定所述可用资源信息不满足所述总资源消耗信息的情况下,根据所述设备调度信息,从所述服务器和所述端侧设备中确定用于执行所述多个人工智能任务各自的目标设备;
其中,所述第二确定模块,还包括:
第三确定子模块,用于根据所述多个人工智能任务各自的需求优先级信息,确定目标人工智能任务,其中,所述目标人工智能任务是所述端侧设备能够执行的一个或多个人工智能任务;
第四确定子模块,用于将所述端侧设备确定为用于执行所述目标人工智能任务的目标设备;以及
第五确定子模块,用于将所述服务器确定为用于执行第一其他人工智能任务的目标设备,其中,所述第一其他人工智能任务是所述多个人工智能任务中除所述目标人工智能任务以外的人工智能任务。
13.根据权利要求12所述的装置,其中,所述第二确定模块,还包括:
第一确定子模块,用于在确定所述可用资源信息满足所述总资源消耗信息的情况下,将所述端侧设备确定为用于执行所述多个人工智能任务各自的目标设备。
14.根据权利要求12所述的装置,其中,所述第三确定子模块,包括:
第一确定单元,用于根据所述多个人工智能任务各自的需求优先级信息,确定第一候选人工智能任务;
第二确定单元,用于根据所述端侧设备的可用资源信息和所述第一候选人工智能任务的资源消耗信息,确定第二候选人工智能任务;
第三确定单元,用于在确定所述端侧设备的可用资源信息与所述第二候选人工智能任务的资源消耗信息一致的情况下,将第二候选人工智能任务确定为所述目标人工智能任务;
第四确定单元,用于在确定所述端侧设备的可用资源信息大于所述第二候选人工智能任务的资源消耗信息的情况下,确定第三候选人工智能任务,其中,所述第三候选人工智能任务是所述多个人工智能任务中除所述第一候选人工智能任务以外的人工智能任务;以及
第五确定单元,用于根据所述第二候选人工智能任务和所述第三候选人工智能任务,确定所述目标人工智能任务。
15.根据权利要求12~14中任一项所述的装置,其中,所述执行模块,包括:
第六确定子模块,用于确定所述多个人工智能任务彼此之间的关联关系;
第七确定子模块,用于根据所述关联关系,确定任务执行顺序;以及
执行子模块,用于根据所述任务执行顺序,控制与所述多个人工智能任务各自对应的目标设备,基于与所述多个人工智能任务各自对应的人工智能模型和任务数据,执行所述多个人工智能任务。
16. 一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1~11中任一项所述的方法。
17.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1~11中任一项所述的方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111487774.8A CN114201278B (zh) | 2021-12-07 | 2021-12-07 | 任务处理方法、任务处理装置、电子设备以及存储介质 |
PCT/CN2022/106978 WO2023103390A1 (zh) | 2021-12-07 | 2022-07-21 | 任务处理方法、任务处理装置、电子设备以及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111487774.8A CN114201278B (zh) | 2021-12-07 | 2021-12-07 | 任务处理方法、任务处理装置、电子设备以及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114201278A CN114201278A (zh) | 2022-03-18 |
CN114201278B true CN114201278B (zh) | 2023-12-15 |
Family
ID=80651081
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111487774.8A Active CN114201278B (zh) | 2021-12-07 | 2021-12-07 | 任务处理方法、任务处理装置、电子设备以及存储介质 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN114201278B (zh) |
WO (1) | WO2023103390A1 (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114201278B (zh) * | 2021-12-07 | 2023-12-15 | 北京百度网讯科技有限公司 | 任务处理方法、任务处理装置、电子设备以及存储介质 |
CN115495223A (zh) * | 2022-11-18 | 2022-12-20 | 安徽华云安科技有限公司 | 任务安全调度方法、装置、设备以及存储介质 |
CN116739440B (zh) * | 2023-08-16 | 2023-11-17 | 亚信科技(中国)有限公司 | 自智网络的评价方法、装置、电子设备及存储介质 |
CN117217165B (zh) * | 2023-11-08 | 2024-01-30 | 芯砺智能科技(江苏)有限公司 | 一种芯片设计前端质量行为的执行方法、装置及设备 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108572586A (zh) * | 2017-03-14 | 2018-09-25 | 富士施乐株式会社 | 信息处理装置和信息处理系统 |
CN112328378A (zh) * | 2020-11-05 | 2021-02-05 | 南京星环智能科技有限公司 | 任务调度方法、计算机设备及存储介质 |
CN112905350A (zh) * | 2021-03-22 | 2021-06-04 | 北京市商汤科技开发有限公司 | 任务调度方法及装置、电子设备和存储介质 |
CN113051054A (zh) * | 2021-03-24 | 2021-06-29 | 依瞳科技(深圳)有限公司 | 调度人工智能平台资源的方法、设备和计算机可读存储介质 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9417921B2 (en) * | 2014-07-31 | 2016-08-16 | Istreamplanet Co. | Method and system for a graph based video streaming platform |
CN111258744A (zh) * | 2018-11-30 | 2020-06-09 | 中兴通讯股份有限公司 | 一种基于异构计算的任务处理方法及软硬件框架系统 |
CN112988345B (zh) * | 2021-02-09 | 2024-04-02 | 江南大学 | 一种基于移动边缘计算的依赖型任务卸载方法及装置 |
CN113114758B (zh) * | 2021-04-09 | 2022-04-12 | 北京邮电大学 | 一种面向无服务器边缘计算的任务调度方法及装置 |
CN114201278B (zh) * | 2021-12-07 | 2023-12-15 | 北京百度网讯科技有限公司 | 任务处理方法、任务处理装置、电子设备以及存储介质 |
-
2021
- 2021-12-07 CN CN202111487774.8A patent/CN114201278B/zh active Active
-
2022
- 2022-07-21 WO PCT/CN2022/106978 patent/WO2023103390A1/zh unknown
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108572586A (zh) * | 2017-03-14 | 2018-09-25 | 富士施乐株式会社 | 信息处理装置和信息处理系统 |
CN112328378A (zh) * | 2020-11-05 | 2021-02-05 | 南京星环智能科技有限公司 | 任务调度方法、计算机设备及存储介质 |
CN112905350A (zh) * | 2021-03-22 | 2021-06-04 | 北京市商汤科技开发有限公司 | 任务调度方法及装置、电子设备和存储介质 |
CN113051054A (zh) * | 2021-03-24 | 2021-06-29 | 依瞳科技(深圳)有限公司 | 调度人工智能平台资源的方法、设备和计算机可读存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN114201278A (zh) | 2022-03-18 |
WO2023103390A1 (zh) | 2023-06-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN114201278B (zh) | 任务处理方法、任务处理装置、电子设备以及存储介质 | |
US10534635B2 (en) | Personal digital assistant | |
US11567802B2 (en) | Resource monitor for monitoring long-standing computing resources | |
CN114065864B (zh) | 联邦学习方法、联邦学习装置、电子设备以及存储介质 | |
CN113704058B (zh) | 一种业务模型的监控方法、装置及电子设备 | |
CN112965799B (zh) | 任务状态的提示方法、装置、电子设备和介质 | |
CN116597443A (zh) | 素材标签处理方法、装置、电子设备及介质 | |
US20170161389A1 (en) | Determining an object referenced within informal online communications | |
CN113360672B (zh) | 用于生成知识图谱的方法、装置、设备、介质和产品 | |
CN112925623B (zh) | 任务处理方法、装置、电子设备和介质 | |
CN114756301A (zh) | 日志处理方法、装置和系统 | |
CN115187364A (zh) | 银行分布式场景下保证金风险监控的方法及装置 | |
CN113342759A (zh) | 内容共享方法、装置、设备以及存储介质 | |
CN112860796A (zh) | 用于同步数据的方法、装置、设备以及存储介质 | |
CN113312521B (zh) | 内容检索方法、装置、电子设备和介质 | |
US11849006B2 (en) | Method for reporting asynchronous data, electronic device and storage medium | |
CN113313196B (zh) | 标注数据处理方法、相关装置及计算机程序产品 | |
US20180308036A1 (en) | Mitigating absence of skill input during collaboration session | |
CN114791996B (zh) | 信息处理方法、装置、系统、电子设备及存储介质 | |
CN113852840B (zh) | 视频渲染方法、装置、电子设备以及存储介质 | |
CN112860962B (zh) | 处理提问信息的方法、装置、电子设备和介质 | |
CN113095788B (zh) | 问题分发方法、装置、电子设备以及存储介质 | |
CN112783925B (zh) | 分页检索方法和装置 | |
CN114461502A (zh) | 模型的监控方法和装置 | |
CN116319633A (zh) | 即时通信方法、装置、设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |