CN109240820A - 图像处理任务的处理方法及装置、电子设备及存储介质 - Google Patents
图像处理任务的处理方法及装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN109240820A CN109240820A CN201810717692.XA CN201810717692A CN109240820A CN 109240820 A CN109240820 A CN 109240820A CN 201810717692 A CN201810717692 A CN 201810717692A CN 109240820 A CN109240820 A CN 109240820A
- Authority
- CN
- China
- Prior art keywords
- node
- image processing
- task
- described image
- distributed scheduling
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5083—Techniques for rebalancing the load in a distributed system
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computer And Data Communications (AREA)
- Facsimiles In General (AREA)
Abstract
本发明实施例提供一种图像处理任务的处理方法及装置、电子设备及存储介质。所述图像处理任务的处理方法应用于分布式调度系统中,可包括:获取汇总后的图像处理任务;获取图像处理节点的节点信息;根据所述节点信息,在所述图像处理节点之间分布式调度所述图像处理任务;如此,实现了图像处理任务的分布式调度,减少了图像处理认为集中调度时而过载及时而资源浪费的问题,提升了资源的有效利用率。
Description
技术领域
本发明涉及信息技术领域,尤其涉及一种图像处理任务的处理方法及装置、电子设备及存储介质。
背景技术
视频监控及视频监控分析等图像处理是相关技术中一般是单机执行的,或者简单的几台设备来协同处理。但是这样的图像处理,总是会产生有时候设备的超载运行,有时候又完全处于空闲状态。如此,一方面导致了有图像处理需求时,处理效率低及由于设备突发式的进入到超载状态导致设备老化快的问题;另一方面,在没有图像处理任务或者图像处理任务少时又导致了资源浪费。例如,对成千上万的摄像头采集的监控视频进行视频分析时,若集中在一台或多台设备上,显然会存在上述问题。
发明内容
有鉴于此,本发明实施例期望提供一种图像处理任务的处理方法及装置、电子设备及存储介质。
本发明的技术方案是这样实现的:第一方面,本发明实施例提供一种图像处理任务的处理方法,包括:
分布式调度系统获取汇总后的图像处理任务;
所述分布式调度系统获取图像处理节点的节点信息;
所述分布式调度系统根据所述节点信息,在所述图像处理节点之间分布式调度所述图像处理任务。
可选地,所述分布式调度系统根据所述节点信息,在所述图像处理节点之间分布式调度所述图像处理任务,包括:
所述分布式调度系统根据所述节点信息,确定所述图像处理节点向所述图像处理节点分配所述图像处理任务的次序信息;
所述分布式调度系统根据所述次序信息,在所述图像处理节点之间分布式调度所述图像处理任务。
可选地,所述分布式调度系统根据所述节点信息,确定所述图像处理节点向所述图像处理节点分配所述图像处理任务的次序信息,包括:
所述分布式调度系统根据所述图像处理节点的资源信息,从所述图像处理节点中选择适合执行待分配所述图像处理任务的备选节点;
所述分布式调度系统根据所述备选节点的所述节点信息,确定所述备选节点的次序信息。
可选地,所述节点信息包括:第一类节点信息及第二类节点信息;
所述第一类节点信息的波动幅度小于所述第二类节点信息的波动幅度;和/或,所述第一类节点信息的波动频率低于所述第二类节点信息的波动频率。
可选地,所述分布式调度系统根据所述节点信息,确定所述图像处理节点向所述图像处理节点分配所述图像处理任务的次序信息,包括:
所述分布式调度系统根据所述图像处理节点的负载状况信息,对所述图像处理节点的负载率进行排序,获得第一次序信息。
可选地,所述分布式调度系统根据所述节点信息,确定所述图像处理节点向所述图像处理节点分配所述图像处理任务的次序信息,还包括:
所述分布式调度系统根据所述图像处理节点的任务完成速率信息,对所述第一次序信息进行修正获得第二次序信息。
可选地,所述分布式调度系统根据所述节点信息,在所述图像处理节点之间分布式调度所述图像处理任务,包括:
所述分布式调度系统将异常的第一图像处理节点的图像处理任务转移到正常的第二图像处理节点上执行。
可选地,所述方法还包括:
任务管理系统汇总图像处理任务;
所述任务管理系统将汇总的所述图像处理任务传输给所述分布式处理系统;
所述分布式调度系统获取汇总后所述分布式调度系统包括:
所述分布式调度系统,从所述任务管理系统接收汇总后的所述图像处理任务的图像处理任务。
可选地,所述汇总图像处理任务,包括:
任务管理主节点接收所述图像处理任务;
任务管理从节点接收所述图像处理任务,并将接收的所述图像处理任务提交给所述任务管理主节点。
可选地,所述方法还包括:
所述任务管理系统监控任务管理节点的运行状态;
若所述任务管理主节点运行异常,所述任务管理系统从运行正常的任务管理从节点中重新选择任务管理主节点。
第二方面,本发明实施例提供一种图像处理任务的处理装置,包括分布式调度系统;所述分布式调度系统包括:
第一获取模块,用于分布式调度系统获取汇总后的图像处理任务;
第二获取模块,用于获取图像处理节点的节点信息;
调度模块,用于根据所述节点信息,在所述图像处理节点之间分布式调度所述图像处理任务。
可选地,所述调度模块,包括:
确定单元,用于根据所述节点信息,确定所述图像处理节点向所述图像处理节点分配所述图像处理任务的次序信息;
调度单元,用于根据所述次序信息,在所述图像处理节点之间分布式调度所述图像处理任务。
可选地,所述确定单元,具体用于根据所述图像处理节点的资源信息,从所述图像处理节点中选择适合执行待分配所述图像处理任务的备选节点;根据所述备选节点的所述节点信息,确定所述备选节点的次序信息。
可选地,所述节点信息包括:第一类节点信息及第二类节点信息;
所述第一类节点信息的波动幅度小于所述第二类节点信息的波动幅度;和/或,所述第一类节点信息的波动频率低于所述第二类节点信息的波动频率。
可选地,所述调度模块,具体用于根据所述图像处理节点的负载状况信息,对所述图像处理节点的负载率进行排序,获得第一次序信息。
可选地,所述调度模块,还用于根据所述图像处理节点的任务完成速率信息,对所述第一次序信息进行修正获得第二次序信息。
可选地,所述调度模块,具体用于将异常的第一图像处理节点的图像处理任务转移到正常的第二图像处理节点上执行。
可选地,所述装置还包括任务管理系统;所述任务管理系统包括:
汇总模块,用于汇总图像处理任务;
传输模块,用于将汇总的所述图像处理任务传输给所述分布式处理系统;
所述第一获取模块,具体用于块接收将汇总后的图像处理任务。
可选地,所述汇总模块,具体用于任务管理主节点接收所述图像处理任务;任务管理从节点接收所述图像处理任务,并将接收的所述图像处理任务提交给所述任务管理主节点。
可选地,所述装置还包括:
监控模块,用于监控任务管理节点的运行状态;
替换模块,用于若所述任务管理主节点运行异常,从运行正常的任务管理从节点中重新选择任务管理主节点。
图像处理任务的处理方法图像处理任务的处理装置
第三方面,本发明实施例提供一种计算机存储介质,所述计算机存储介质存储有计算机可执行代码;所述计算机可执行代码被执行后,能够实现第一方面或第二方面任意一个技术方案提供的方法。
第四方面,本发明实施例提供一种计算机程序产品,所述程序产品包括计算机可执行指令;所述计算机可执行指令被执行后,能够实现第一方面或第二方面任意一个技术方案提供的方法。
第五方面,本发明实施例提供一种处理设备,包括:
存储器,用于存储信息;
处理器,与所述存储器连接,用于通过执行存储在所述存储器上的计算机可执行指令,能够实现第一方面或第二方面任意一个技术方案提供的方法。
本发明实施例提供的图像处理任务的处理方法及装置、电子设备及存储介质,设置了一个专门用于图像处理任务调度的分布式调度系统,该分布式调度系统首先会获取汇总后的图像处理任务,然后对汇总后的图像处理任务在图像处理节点之间进行分布式调度,如此,获取的是汇总后的图像处理任务。本发明实施例提供的方案可以对图像处理任务进行统一调度,且在图像处理节点之间分布式调度,显然解决了集中调度导致的时而过载及时而资源浪费的问题。本发明实施例提供的方案整体上提升了图像处理任务的响应速率,更好的利用各个离散的图像处理节点的资源,提升了资源的有效利用率。
附图说明
图1为本发明实施例提供的第一种图像处理任务的处理方法的流程示意图;
图2为本发明实施例提供的一种图像处理任务的分布式调度处理系统的结果示意图;
图3为本发明实施例提供的第二种图像处理任务的处理方法的流程示意图;
图4为本发明实施例提供的第三种图像处理任务的处理方法的流程示意图;
图5为本发明实施例提供的第四种图像处理任务的处理方法的流程示意图;
图6为本发明实施例提供的第一种图像处理任务的处理装置图像处理任务的处理装置的结构示意图;
图7为本发明实施例提供的第二种图像处理任务的处理装置的结构示意图;
图8为本发明实施例提供的一种电子设备的结构示意图;
图9为本发明实施例提供的另一种图像处理任务的分布式调度处理系统的结果示意图。
具体实施方式
以下结合说明书附图及具体实施例对本发明的技术方案做进一步的详细阐述。
如图1所示,本实施例提供一种图像处理任务的处理方法,包括:
步骤S110:分布式调度系统获取汇总后的图像处理任务;
步骤S120:分布式调度系统获取图像处理节点的节点信息;
步骤S130:分布式调度系统根据所述节点信息,在所述图像处理节点之间分布式调度所述图像处理任务。
本实施例提供的图像处理任务的处理方法,可应用于分布式调度系统中,该分布式调度系统可包括:一台或多台调度设备,可以用于对汇总的图像处理任务进行分布式调度,如此会将图像处理任务分发给不同的图像处理节点来处理。
所述图像处理任务可包括:各种涉及图像的处理任务。
例如,按照图像处理任务的处理对象来划分,可分为:涉及单张图像处理的图像处理任务或涉及多帧图像的图像处理任务(例如,视频处理任务)。
再例如,按照图像处理所涉及的操作来划分,所述图像处理任务可包括:图像分析任务或图像变形任务等。
例如,该图像分析任务可包括:对采集的图像和/或视频进行分析,对图像或视频中所展示的采集对象进行分析。对所述采集对象进行分析可包括:采集对象的行为和状态进行分析。例如,所述采集对象进行分析可具体包括:活体对象的行为分析和/或非活体对象的状态分析。
所述采集对象可包括:人、交通工具、设备(例如,位于公共场所的公共设备)。
例如,所述行为分析可包括:分析是否有人违法或违反规定,例如,针对街道或公路上采集的视频进行图像分析,是否有行人闯红灯、小区内是否有人破坏公共财产、是否有人入市盗窃。所述活体对象还可包括动物,例如,有的动物闯入导致意外事故,如此在通过图像分析就可以定位出事故原因。
又例如,分析对应车辆是否有超速或闯红灯等违反交通规则的行为。
所述状态分析可包括:分析目标设备是否处于安全状态,比如,某一个公共设备是一个防火特级设备,需要通过视频监控其当前状态,例如,通过图像实时监控当前是否出现冒烟等危险紧急状态等。
所述图像分析任务还可包括:目标对象的路径分析,例如,在实验基地对某一个实验对象进行监控产生了视频,后续通过视频分析该实验对象的行政路径以及各种反应等。
所述图像变形任务,可包括:对图像失真的处理任务、基于二维图像搭建三维图像的任务等。
所述分布式调度可包括:在不同的图像处理节点之间调度所述图像处理任务,如此可以避免图像处理任务集中提交到一个或几个图像处理节点来处理,导致的图像处理延时大及集中处理的图像处理节点的过载问题,提升了图像处理的效率,避免了个别图像处理节点的过载问题。
在本实施例中在步骤S110中获取汇总后的图像处理任务,可以包括:
从图像处理任务的汇总节点或汇总接口接收所述图像处理任务,显然直接接收到的就会汇总后的图像处理任务;和/或,自行汇总图像处理任务。
总之,通过图像处理任务的汇总,可以获得所有需要处理的图像处理任务,从而可以进行图像处理任务的统一调度。
如图2所示为本发明实施例提供的一种图像处理任务的分布式处理系统,包括:任务管理系统、分布式调度系统及多个图像处理节点。所述任务管理系统可包括多个任务管理节点,所述任务管理节点可以分为任务管理主节点和任务管理从节点,在图2中展示有任务管理从节点1及任务管理从节点n,所述任务管理从节点的数量不一定,可以根据需求设置。所述n可为2或2以上整数。在图2中展示有m个图像处理节点,所述m可为正整数,具体可为不小于2的整数。分布式调度系统从任务管理主节点接收汇总后的图像处理任务,然后结合图像处理节点的节点信息进行汇总的图像处理任务的分布式调度。
在步骤S120中将获取可进行图像处理的图像处理节点的节点信息。该节点信息可为描述对应图像处理节点的一个或多个维度的属性或状态的参数。
例如,所述节点信息可包括以下至少之一:
描述所述图像处理节点类型的类型信息;
描述所述图像处理节点能力的能力参数,例如,指示图像处理节点具有的图像处理能力,再例如,指示图像处理节点所具有的网络带宽的网络能力参数;所述图像处理能力,可包括:图像分析任务的图像分析能力、图像变形处理的图像变形能力等;
描述图像处理节点所具有资源的资源信息,
描述图像处理节点的网络状态信息;该网络状况信息可以用于描述对应的图像处理节点是处于离线状态还是在线状态;
描述图像处理节点的当前运行状态的运行状态信息;
描述图像处理节点的设备状态的设备状态信息;
描述图像处理节点所在环境的环境状态信息。
所述资源信息包括:资源标识及资源参数。该资源参数可以用于指示资源总量、可使用的资源量等参数;例如,存储资源的资源信息可包括:存储资源标识及存储资源参数,该存储资源参数可包括:资源容量、去除以固定分配或已故障的存储空间的可用存储空间。再例如,所述资源可为计算资源,计算资源又分中央处理器(CPU)及图像处理器(GPU),故可以利用资源标识来区分CPU和GPU;资源参数可以指示CPU和GPU所对应的型号;资源参数还可以用于指示CPU和/或GPU的核数。
所述网络状态信息描述的网络状态可包括:离线状态、在线状态、所述离线状态又可以分为:离线可达状态及离线不可达状态。所述离线可达状态是指:虽然图像处理节点当前离线但是可以通过寻呼等方式,或者远程启动等方式连接到图像处理节点,促使图像处理节点可切换到在状态。所述离线不可达状态是指:图像处理节点离线且无法寻呼到或者通过远程启动的方式联系到该图像处理节点。例如,移动设备已关机。
所述运行状态信息用于指示图像处理节点的设备运行过程中的状态,例如,所述运行状态信息用于指示所述图像处理节点是否运行良好;所述图像处理节点的当前负载率;所述图像处理节点的当前温度。若图像处理节点的当前温度过高显然可能会导致图像处理节点的异常。所述运行状态信息还可包括:指示当前开设的线程数的指示信息等。
所述设备状态信息可用于指示所述图像处理节点的设备使用年限等设备状态信息,老设备相对于新设备而言,即便是同一个型号的设备,显然设备的运行效率也不一样。所述设备状态信息还可用于指示该设备的设备是否已经经过维修等维系记录信息。
在步骤S130中结合图像处理节点的状态信息,在不同的图像处理节点之间统一进行图像处理任务的调度,且是分布式调度所述图像处理任务。如此,可以避免将图像处理任务调度给有故障的图像处理节点,或者,将图像处理任务集中调度给某一给图像处理节点。本实施例中图像处理节点可包括:视频监控节点。
可选地,参考图3,所述步骤S130可包括:
步骤S131:分布式调度系统根据所述节点信息,确定所述图像处理节点向所述图像处理节点分配所述图像处理任务的次序信息;
步骤S132:分布式调度系统根据所述次序信息,在所述图像处理节点之间分布式调度所述图像处理任务。
根据节点信息进行图像处理任务调度的排序,从而得到所述次序信息。在进行图像处理任务调度时,根据排序得到的次序信息进行图像处理任务的调度。
所述节点信息包括有多维度的信息,例如,有资源信息、网络状态信息以运行状态信息等;根据对应维度的节点信息转换为可计算的计算值,并结合该维度的权值计算获得所述计算值与所述权值的乘积;对各个维度的乘积进行累加得到对应图像处理节点的节点分值;对所述节点分值进行排序,得到所述次序信息。
在另一些实施例中,还可以将各图像处理节点的所述节点信息分别输入到数据模型(例如,神经网络、向量机模型等)中,由所述数据模型输出所述次序信息。总之,计算所述次序信息的方式有很多种,不局限于上述任意一种。
如此,可以通过次序信息的获得,实现图像处理任务的分布式调度的同时,实现分布式调度任务的优化,确保图像处理任务如期保质完成,在一些情况下还可以大大缩小处理延时,充分利用各个图像处理节点的资源,实现图像处理任务的最优化处理。
可选地,所述步骤S131可包括:分布式调度系统根据所述图像处理节点的资源信息,从所述图像处理节点中选择适合执行待分配所述图像处理任务的备选节点;
根据所述备选节点的所述节点信息,确定所述备选节点的次序信息。
在本实施例中若有一个图像处理任务可能需要进行的图像任务不同,则所需要的资源或者主要资源不同。例如,进行视频编码和进行视频压缩显然需要使用的是编码器和解码器;如此,在选择图像处理节点时,需要视频编码的图像处理任务可以优先分配给视频编码效果好的图像处理节点,而需要视频压缩的图像处理任务,可以分配给视频压缩率高且视频压缩失真小的图像处理设备。
故在本实施例中,首先,根据资源信息从多个图像处理节点中选择合适的备选节点,然后仅需要对被选节点的节点信息进行所述次序信息的确定,通过备选节点的选择,减少了次序信息确定过程中参与的图像处理节点数,减少了信息量。
例如,周期性更新所述次序信息,例如,以1个小时、6个小时、12个小时或者24个小时,或者1周为次序信息的更新周期,周期性更新所述图像处理节点的次序信息。根据不同所述图像处理任务的处理需求,从不同维度更新图像处理节点的次序信息。故在实施例中步骤S131可能是在所述步骤S110之前执行的。
可选地,所述运行状况信息包括:负载状况信息、任务完成速率信息及异常状态信息中的至少其中之一。
所述第一次序信息的计算可包括两个部分:
静态部分,静态部分通常仅与节点信息中波动幅度在幅度阈值范围内或者波动不频繁(例如,波动频率在频率阈值范围内)的第一类节点信息相关,所述第一类节点信息可包括:类型信息及能力参数;再例如,变化稍微大一些的环境状态参数及设备状态参数等。
动态部分,动态部分可能决定于图像处理节点的当前状态,可包括节点信息中波动幅度较大或者波动频繁的第二节点信息,例如,运行状态信息。该运行状态信息可包括:负载状况信息及当前时间段内的任务完成速率信息等。此处的波动较大可包括:波动幅度在幅度阈值范围外;或者,波动频率在频率阈值范围外。
总之,所述节点信息包括:第一类节点信息及第二类节点信息;所述第一类节点信息的波动幅度小于所述第二类节点信息的波动幅度;和/或,所述第一类节点信息的波动频率低于所述第二类节点信息的波动频率。
所述静态部分的更新周期长于所述动态部分的更新周期。例如,静态部分的更新周期可能为1个月或2周,所述动态部分的更新周期可能为1分钟或2分钟,甚至是时间间隔为10秒等小到可任务实时的。
在步骤S131中动态更新动态部分,并结合静态部分进行排序,得到所述次序信息。
可选地,所述步骤S130具体可包括:根据所述图像处理节点的负载状况信息,对所述图像处理节点的负载率进行排序,获得第一次序信息。
负载率越高则表示当前的图像处理节点越不宜分配图像处理任务。
例如,若第一图像处理节点的第一负载率低于第二图像处理节点的第二负载率,则在不关注其他条件或者其他条件等同的情况下,以第一优先级向第一图像节点分配所述图像处理任务,以第二优先级向所述第二图像处理节点分配所述图像处理任务;所述第一优先级高于所述第二优先级。
此时的所述第一次序信息可为所述负载率的排序信息,负载率越高则排序越靠后,被分配到图像处理任务的概率越低或者次序更靠后。
可选地,所述方法还包括:根据所述图像处理节点的任务完成速率信息,对所述第一次序信息进行修正获得第二次序信息。
在一些情况下,相同负载率的图像处理节点,因为设备类型的不同以及老化程度等不同,可能任务完成速率不同,该任务完成速率可以由所述任务完成速率信息来指示。若基于负载率排序得到第一次序信息,则利用任务完成速率对所述第一次序信息进行第二次信息的修正,从而得到一个更加符合各图像处理节点当前任务处理状况的次序信息,实现图像处理任务的进一步优化。
可选地,所述步骤S130可包括:将异常的第一图像处理节点的图像处理任务转移到正常的第二图像处理节点上执行。
在步骤S120中会动态获取前述的第二类节点信息,从而可以及时的判断出图像处理节点是否出现异常,此处的异常包括:死机或突发下线等不能继续进行图像处理任务的状况,若出现这种异常则将第一图像处理节点的尚未处理完成的图像处理任务和/或预计分配给第一图像处理节点的图像处理任务,转移到正常的第二图像处理节点上来执行,确保对应的图像处理任务都能够及时的完成。
在一些实施例中,所述分布式调度系统包括多个分布式调度节点,这些分布式调度节点可能分管了不同分区,不同的分区的分布式调度节点之间可以相互通信,进行区域之间的图像处理任务的转移。一个分区的分布调度节点可以称为分区调度节点。
例如,第一分区的第一调度节点检测到目前本分区的任务调度状况满足转移条件,向第二分区的第二调度节点请求转移;若第二调度节点根据本分区的任务调度状况确定是否接受转移。若第二调度节点接受转移,则所述第一调度节点按照本分区的积压的图像处理任务中积压时长,将积压时间长的转移给第二调度节点;和/或,根据本分区积压多的某一个类或多类图像处理任务转移给所述第二调度节点。
例如,所述任务调度状况满足所述转移条件包括以下至少之一:
有部分图像处理任务的积压时长达到预设时长;
积压的图像处理任务与本分区的最大处理量的比值达到特定值。
以上仅是任务调度状况满足转移条件的几个举例,具体实现不局限于上述举例。通过分区之间的任务转移,可以更好的利用所有图像处理节点的资源,更好的实现负载均衡,以尽可能快的速度实现图像处理任务的完成。
在另一些实施例中,所述分布式调度系统还包括:跨区调度节点,该跨区调度节点与所有分区调度节点连接,或者与该跨区调度节点所管辖的多个分区调度节点连接,基于分区调度节点上报的任务调度状况确定是否需要进行分区之间的任务转移及接受转移的目标分区。
如图4所示,本实施例提供一种图像处理任务的处理方法还包括:
步骤S100:任务管理系统汇总图像处理任务;
所述步骤S110可包括步骤S111;所述步骤S111可包括:所述分布式调度系统从所述任务管理系统接收汇总后的所述图像处理任务。
在本实施例中,所述任务管理系统中包括一个或多个任务管理节点。这些任务管理节点可用于汇总图像处理任务。
所述图像处理任务中的图像分析可包括多种,不限于上述任意一种。
在本实施例中,步骤S100中汇总所述图像处理任务可包括以下至少之一:
按照任务汇总策略进行图像处理任务汇总。
所述按照任务汇总策略进行图像处理任务汇总包括以下至少之一:
根据区域汇总策略进行图像处理任务的分区汇总,例如,以划定的区域进行图像处理任务的汇总,汇总来自或产自同一个分区的所述图像处理任务;该分区可为行政分区或网络分区。所述行政分区可以是国家、省、市、县或区等行政单位。所述网络分区可以按照网络的划分,可以汇总同一个局域网或城域内的图像处理任务;或者,汇总位于同一个区域集合中的图像处理任务。所述区域集合中包括一个或多个网络分区例如,一个区域集合中包括3个局域网,则汇总的图像处理任务可以来自该区域集合中的3个局域网。通过分区汇总图像处理任务,可以减少图像处理任务的汇总延时。例如,若任务汇总是逐级上报的,则在某一个汇总周期需要汇总全北京市的图像处理任务,相对于仅需汇总海淀区的图像处理任务可能延时更小。
在一些实施例中,所述按照任务汇总策略进行图像处理任务汇总可包括:
周期性汇总所述图像处理任务;和/或,实时汇总所述图像处理任务。
可选地,所述步骤S100可包括:
任务管理主节点接收所述图像处理任务;
任务管理从节点接收所述图像处理任务,并将接收的所述图像处理任务提交给所述任务管理主节点。
在本实施例中所述任务管理系统包括任务管理主节点和任务管理从节点;所述任务管理主节点之间与分布式调度系统之间设置有接口,可以将汇总的所述图像处理任务传输给所述分布式调度系统。
在一些实施例中,所述任务管理系统可与所述分布式调度系统是相互独立的两个系统,所述任务管理系统也可以是所述分布式调度系统下的一个子系统。
任务管理从节点从终端等接收图像处理任务,或者从人机交互接口接收所述图像处理任务。
任务管理主节点既可以从终端直接接收图像处理任务,还会汇总所述任务管理从节点提交的图像处理任务,从而实现图像处理任务的汇总。
同样的所述任务管理系统可以分区配置,一个分区配置多个任务管理节点,这多个任务管理节点中至少包括一个任务管理主节点和1个或多个任务管理从节点。该分区内任务管理节点可以接收该分区内所有的图像处理任务。
可选地,如图5所示,所述方法还包括:
步骤S210:监控任务管理节点的运行状态;
步骤S220:若所述任务管理主节点运行异常,从运行正常的任务管理从节点中重新选择任务管理主节点。
值得注意的是:步骤S210及步骤S220不一定位于所述步骤S100或所述步骤S100之后执行;所述步骤S210和所述步骤S100可同步执行;总之这两者之间的顺序关系不固定。
为了确保图像处理任务及时传达到分布式调度系统,所述任务管理系统会监控任务管理节点的运行状态,例如至少监控任务管理主节点的运行装他,若任务管理主节点异常,重新选择任务管理主节点,例如,从正常的任务管理从节点中选择一个替代当前的任务管理主节点。例如,各个任务管理节点会监控自身的运行状态,并在任务管理系统中广播自身的运行状态,如此,方便其他任务管理节点获取自身的运行状态,一旦某一个任务管理节点出现异常,其他任务管理主节点就知道是否需要替换掉当前任务管理主节点成为新的任务管理主节点。或者,在所述任务管理系统还设置有专门监控各个任务管理节点的运行状态的监控节点,如此,监控节点可以统一获得各个任务管理节点的运行状态,从而实现对任务管理节点的监控。
譬如,基于投票机制重新选择所述任务管理主节点。所述基于投票机制重新选择所述任务管理主节点,包括:
任务管理从节点监控任务管理主节点的运行状态;
若检测到任务管理主节点运行异常,广播替代当前任务管理主节点的替代请求;
接收其他任务管理从节点基于所述替代请求返回的投票结果;
统计投票数目;
若所述投票数目满足特定条件,则确定运行异常的任务管理主节点;
广播自身称为任务管理主节点的消息,如此其他任务管理主节点接收到该广播消息之后,会更换上报图像处理任务的目的地址。
在一些实施例中,所述方法还包括:一旦确定出替代运行异常的任务管理主节点,该任务管理从节点从从节点模式切换到主节点模式;在从节点模式下,任务管理节点需要向主节点模式的任务管理节点上报接收到的图像处理任务,且任务管理节点自身与分布式调度系统之间的接口处于非工作模式;在主节点模式下,任务管理节点不需要向其他任务管理节点上报图像处理任务,自身与分布式调度系统之间的接口处于工作模式,且需要通过该处于工作模式的接口向分布式调度系统发送汇总的图像处理任务。
所述若所述投票数目满足特定条件,则确定运行异常的任务管理主节点,包括:
在一个投票周期内,本任务管理从其他任务管理节点获得投票数目达到指定票数,或对本任务管理进行投票的节点数与总节点数的比值达到指定比值,则任务满足所述特定条件。
所述基于投票机制重新选择所述任务管理主节点,还包括:
若在一个投票周期内的投票数目不满足所述特定条件,则广播所述投票数目;
若自身的投票数目低于其他任务管理从节点获得投票数目,则停止统计票数并向所述已获得票数最高的任务管理从节点进行投票。
总之,反复执行上述操作,知道投票出满足所述特定条件的任务管理从节点。
由于任务管理从节点的自身状况也是不一样的,需要选择出状况较优的任务管理主节点。例如,所述若所述任务管理主节点运行异常,从运行正常的任务管理从节点中重新选择任务管理主节点,包括:
若任务管理主节点运行异常,根据运行正常的任务管理节点的资源信息,选择出资源状况满足指定条件的任务管理从节点成为所述任务管理主节点。
所述资源状况信息至少包括:带宽信息,优选选择出带宽足够大的从节点替代主节点。在一些实施例中,所述资源信息还可包括:存储资源信息,汇总图像处理任务时,可能需要足够的存储资源。例如,为了快速上报,根据存储资源信息选择出内存资源足够大的从节点替代主节点。
如图6所示,本发明实施例提供一种图像处理任务的处理装置,该装置包括:分布式调度系统所述分布式调度系统可包括:
第一获取模块110,用于获取汇总后的图像处理任务;
第一获取模块120,用于获取图像处理节点的节点信息;
调度模块130,用于根据所述节点信息,在所述图像处理节点之间分布式调度所述图像处理任务。
所述第一获取模块110、第一获取模块120及调度模块130可均为程序模块,这些程序模块被处理器执行后,能够实现前述的图像处理任务的获取,节点信息的获取及图像处理任务的分布式调度。
在一些实施例中,所述调度模块130,包括:
确定单元,用于根据所述节点信息,确定所述图像处理节点向所述图像处理节点分配所述图像处理任务的次序信息;
调度单元,用于根据所述次序信息,在所述图像处理节点之间分布式调度所述图像处理任务。
可选地,所述确定单元,具体用于根据所述图像处理节点的资源信息,从所述图像处理节点中选择适合执行待分配所述图像处理任务的备选节点;根据所述备选节点的所述节点信息,确定所述备选节点的次序信息。
在一些实施例中,所述节点信息包括:第一类节点信息及第二类节点信息;
所述第一类节点信息的波动幅度小于所述第二类节点信息的波动幅度;和/或,所述第一类节点信息的波动频率低于所述第二类节点信息的波动频率。
可选地,所述调度模块130,具体用于根据所述图像处理节点的负载状况信息,对所述图像处理节点的负载率进行排序,获得第一次序信息。
可选地,所述调度模块130,还用于根据所述图像处理节点的任务完成速率信息,对所述第一次序信息进行修正获得第二次序信息。
进一步地,所述调度模块130,具体用于将异常的第一图像处理节点的图像处理任务转移到正常的第二图像处理节点上执行。
如图7所示,本发明实施例提供一种图像处理任务的处理装置,还包括任务管理系统;所述任务管理系统可包括:
汇总模块210,用于汇总图像处理任务;
传输模块220,用于将汇总的所述图像处理任务传输给所述分布式处理系统;
所述第一获取模块110,具体用于所述分布式调度系统从所述任务管理系统接收汇总后的所述图像处理任务。
所述汇总模块210及所述传输模块220均可对应于程序模块,该程序模块被执行后能够实现前述第二方面任意一个技术方案提供的图像处理任务的处理方法。
在一些实施例中,所述汇总模块210,具体用于任务管理主节点接收所述图像处理任务;任务管理从节点接收所述图像处理任务,并将接收的所述图像处理任务提交给所述任务管理主节点。
可选地,所述装置还包括:
监控模块,用于监控任务管理节点的运行状态;
替换模块,用于若所述任务管理主节点运行异常,从运行正常的任务管理从节点中重新选择任务管理主节点。
本发明实施例提供一种计算机存储介质,所述计算机存储介质存储有计算机可执行代码;所述计算机可执行代码被执行后,能够实现第一方面或第二方面任意一个技术方案提供的方法,如图1、图3至图5任意所示的方法。
所述存储介质包括:移动存储设备、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。所述存储介质可为非瞬间存储介质。
第六方面,本发明实施例提供一种计算机程序产品,所述程序产品包括计算机可执行指令;所述计算机可执行指令被执行后,能够实现第一方面或第二方面任意一个技术方案提供的方法。
本实施例中所述计算机程序产品包含的计算机可执行指令,可包括:应用程序、软件开发工具包、插件或者补丁等。
如图8所示,本发明实施例提供一种处理设备,包括:
存储器,用于存储信息;
处理器,与所述存储器连接,用于通过执行存储在所述存储器上的计算机可执行指令,能够实现第一方面或第二方面任意一个技术方案提供的方法。
该存储器可为各种类型的存储器,可为随机存储器、只读存储器、闪存等。所述存储器可用于信息存储,例如,存储计算机可执行指令等。所述计算机可执行指令可为各种程序指令,例如,目标程序指令和/或源程序指令等。
所述处理器可为各种类型的处理器,例如,中央处理器、微处理器、数字信号处理器、可编程阵列、数字信号处理器、专用集成电路或图像处理器等。所述处理器可以通过总线与所述存储器连接。所述总线可为集成电路总线等。在一些实施例中,所述终端设备还可包括:通信接口,该通信接口可包括:网络接口、例如,局域网接口、收发天线等。所述通信接口同样与所述处理器连接,能够用于信息收发。
在一些实施例中,所述终端设备还包括人机交互接口,例如,所述人机交互接口可包括各种输入输出设备,例如,键盘、触摸屏等。
该电子设备可为前述分布式调度系统中的调度节点,也可以为所述任务管理系统中的任务管理节点,还可以是前述的图像处理节点。
以下结合上述任意实施例提供几个示例:
示例1:
图9提供了一种图像处理任务的分布式处理系统,包括:
任务管理主节点及任务管理从节点形成的任务管理系统;
分布式调度服务,对应于前述任务分布式系统,包括一个或多个任务调度节点,从任务管理主节点接收图像处理任务;
图像处理节点A和图像处理节点B,此处仅是举例,具体实现时不局限于这两个节点,与所述分布式调度任务连接,接收分布式调度服务分配的图像处理任务。
以下以视频监控为例进行图像处理任务分布式调度处理的说明,包括:
创建视频接入任务请求到任务管理节点,此处的视频接入任务请求所请求的视频接入任务为前述的图像处理任务的一种;
分布式调服务实时监控全部处理节点的负载状况信息等节点信息,把任务统一配置调度到负载少的图像处理节点上;
图像处理节点监听调度服务下发的图像处理任务,图像处理节点利用GPU进行视频流解码、视图分析、结果输出等操作。
基于图9所示系统的异常处理可包括如下步骤:
任务管理节点异常:如果任务管理主节点挂掉,将从任务管理从节点中选举出新的任务管理主节点;此处的挂掉为前述的任务管理主节点运行异常的一种。
图像处理节点A异常:分布式控制协调服务会监测到图像处理节点A的异常后,主动调度图像处理节点A上的处理任务转移到图像处理节点B上;待图像处理节点A点恢复后,会根据均衡策略,将图像处理节点B上部分任务转移回A上。
在本示例中,采用分布式调度服务,服务高可用的同时保证图像处理调度配置一致性,实现网络流量和节点数量全局监控调度;通过分布式系统设计、高可用、设备容错、水平扩展能力;此外,通过分布式调度保证了负载均衡及高可用性。
在本申请所提供的几个实施例中,应该理解到,所揭露的设备和方法,可以通过其它的方式实现。以上所描述的设备实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,如:多个单元或组件可以结合,或可以集成到另一个系统,或一些特征可以忽略,或不执行。另外,所显示或讨论的各组成部分相互之间的耦合、或直接耦合、或通信连接可以是通过一些接口,设备或单元的间接耦合或通信连接,可以是电性的、机械的或其它形式的。
上述作为分离部件说明的单元可以是、或也可以不是物理上分开的,作为单元显示的部件可以是、或也可以不是物理单元,即可以位于一个地方,也可以分布到多个网络单元上;可以根据实际的需要选择其中的部分或全部单元来实现本实施例方案的目的。
另外,在本发明各实施例中的各功能单元可以全部集成在一个处理模块中,也可以是各单元分别单独作为一个单元,也可以两个或两个以上单元集成在一个单元中;上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能单元的形式实现。
本领域普通技术人员可以理解:实现上述方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成,前述的程序可以存储于一计算机可读取存储介质中,该程序在执行时,执行包括上述方法实施例的步骤。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以所述权利要求的保护范围为准。
Claims (10)
1.一种图像处理任务的处理方法,其特征在于,包括:
分布式调度系统获取汇总后的图像处理任务;
所述分布式调度系统获取图像处理节点的节点信息;
所述分布式调度系统根据所述节点信息,在所述图像处理节点之间分布式调度所述图像处理任务。
2.根据权利要求1所述的方法,其特征在于,
所述分布式调度系统根据所述节点信息,在所述图像处理节点之间分布式调度所述图像处理任务,包括:
所述分布式调度系统根据所述节点信息,确定所述图像处理节点向所述图像处理节点分配所述图像处理任务的次序信息;
所述分布式调度系统根据所述次序信息,在所述图像处理节点之间分布式调度所述图像处理任务。
3.根据权利要求2所述的方法,其特征在于,所述分布式调度系统根据所述节点信息,确定所述图像处理节点向所述图像处理节点分配所述图像处理任务的次序信息,包括:
所述分布式调度系统根据所述图像处理节点的资源信息,从所述图像处理节点中选择适合执行待分配所述图像处理任务的备选节点;
所述分布式调度系统根据所述备选节点的所述节点信息,确定所述备选节点的次序信息。
4.根据权利要求1至3任一项所述的方法,其特征在于,
所述节点信息包括:第一类节点信息及第二类节点信息;
所述第一类节点信息的波动幅度小于所述第二类节点信息的波动幅度;和/或,所述第一类节点信息的波动频率低于所述第二类节点信息的波动频率。
5.根据权利要求1至4任一项所述的方法,其特征在于,所述方法还包括:
任务管理系统汇总图像处理任务;
所述任务管理系统将汇总的所述图像处理任务传输给所述分布式处理系统;
所述分布式调度系统获取汇总后所述分布式调度系统包括:
所述分布式调度系统,从所述任务管理系统接收汇总后的所述图像处理任务的图像处理任务。
6.根据权利要求5所述的方法,其特征在于,
所述汇总图像处理任务,包括:
任务管理主节点接收所述图像处理任务;
任务管理从节点接收所述图像处理任务,并将接收的所述图像处理任务提交给所述任务管理主节点。
7.一种图像处理任务的处理装置,其特征在于,包括分布式调度系统;
所述分布式调度系统,包括:
第一获取模块,用于分布式调度系统获取汇总后的图像处理任务;
第二获取模块,用于获取图像处理节点的节点信息;
调度模块,用于根据所述节点信息,在所述图像处理节点之间分布式调度所述图像处理任务。
8.根据权利要求7所述的装置,其特征在于,所述装置还包括任务管理系统;
所述任务管理系统,包括:
汇总模块,用于汇总图像处理任务;
传输模块,用于将汇总的所述图像处理任务传输给所述分布式处理系统;所述第一获取模块,具体用于块接收将汇总后的图像处理任务。
9.一种计算机存储介质,所述计算机存储介质存储有计算机可执行代码;所述计算机可执行代码被执行后,能够实现权利要求1至6任一项提供的方法。
10.一种处理设备,其特征在于,包括:
存储器,用于存储信息;
处理器,与所述存储器连接,用于通过执行存储在所述存储器上的计算机可执行指令,能够实现权利要求1至6任一项提供的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810717692.XA CN109240820B (zh) | 2018-07-03 | 2018-07-03 | 图像处理任务的处理方法及装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810717692.XA CN109240820B (zh) | 2018-07-03 | 2018-07-03 | 图像处理任务的处理方法及装置、电子设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109240820A true CN109240820A (zh) | 2019-01-18 |
CN109240820B CN109240820B (zh) | 2022-09-13 |
Family
ID=65071820
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810717692.XA Active CN109240820B (zh) | 2018-07-03 | 2018-07-03 | 图像处理任务的处理方法及装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109240820B (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110399214A (zh) * | 2019-05-30 | 2019-11-01 | 腾讯科技(深圳)有限公司 | 一种优化显卡负载的方法、装置及计算机设备 |
CN112188034A (zh) * | 2020-09-29 | 2021-01-05 | 北京小米移动软件有限公司 | 一种图像处理方法、装置、终端设备及介质 |
CN112256435A (zh) * | 2020-11-03 | 2021-01-22 | 海光信息技术股份有限公司 | 用于图形处理器的工作组的分配方法以及图形处理器 |
CN112506637A (zh) * | 2020-12-17 | 2021-03-16 | 广东省科技基础条件平台中心 | 图像数据处理方法、装置、计算机设备和存储介质 |
CN114416258A (zh) * | 2022-01-20 | 2022-04-29 | 四川长虹电器股份有限公司 | 一种优化Android图片加载效率的方法 |
CN116719632A (zh) * | 2023-08-11 | 2023-09-08 | 腾讯科技(深圳)有限公司 | 任务调度方法、装置、设备以及介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102404615A (zh) * | 2011-11-29 | 2012-04-04 | 广东威创视讯科技股份有限公司 | 基于云计算的视频处理系统 |
CN105828105A (zh) * | 2015-12-10 | 2016-08-03 | 广东亿迅科技有限公司 | 一种基于分布式环境的视频转码系统及视频转码方法 |
CN106791928A (zh) * | 2016-12-29 | 2017-05-31 | 上海幻电信息科技有限公司 | 一种自适应的高性能视频转码系统和方法 |
US20170329643A1 (en) * | 2014-11-25 | 2017-11-16 | Institute Of Acoustics, Chinese Academy Of Sciences | Distributed node intra-group task scheduling method and system |
-
2018
- 2018-07-03 CN CN201810717692.XA patent/CN109240820B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102404615A (zh) * | 2011-11-29 | 2012-04-04 | 广东威创视讯科技股份有限公司 | 基于云计算的视频处理系统 |
US20170329643A1 (en) * | 2014-11-25 | 2017-11-16 | Institute Of Acoustics, Chinese Academy Of Sciences | Distributed node intra-group task scheduling method and system |
CN105828105A (zh) * | 2015-12-10 | 2016-08-03 | 广东亿迅科技有限公司 | 一种基于分布式环境的视频转码系统及视频转码方法 |
CN106791928A (zh) * | 2016-12-29 | 2017-05-31 | 上海幻电信息科技有限公司 | 一种自适应的高性能视频转码系统和方法 |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110399214A (zh) * | 2019-05-30 | 2019-11-01 | 腾讯科技(深圳)有限公司 | 一种优化显卡负载的方法、装置及计算机设备 |
CN110399214B (zh) * | 2019-05-30 | 2024-03-22 | 腾讯科技(深圳)有限公司 | 一种优化显卡负载的方法、装置及计算机设备 |
CN112188034A (zh) * | 2020-09-29 | 2021-01-05 | 北京小米移动软件有限公司 | 一种图像处理方法、装置、终端设备及介质 |
CN112256435A (zh) * | 2020-11-03 | 2021-01-22 | 海光信息技术股份有限公司 | 用于图形处理器的工作组的分配方法以及图形处理器 |
CN112256435B (zh) * | 2020-11-03 | 2023-05-05 | 成都海光微电子技术有限公司 | 用于图形处理器的工作组的分配方法以及图形处理器 |
CN112506637A (zh) * | 2020-12-17 | 2021-03-16 | 广东省科技基础条件平台中心 | 图像数据处理方法、装置、计算机设备和存储介质 |
CN114416258A (zh) * | 2022-01-20 | 2022-04-29 | 四川长虹电器股份有限公司 | 一种优化Android图片加载效率的方法 |
CN116719632A (zh) * | 2023-08-11 | 2023-09-08 | 腾讯科技(深圳)有限公司 | 任务调度方法、装置、设备以及介质 |
CN116719632B (zh) * | 2023-08-11 | 2024-03-15 | 腾讯科技(深圳)有限公司 | 任务调度方法、装置、设备以及介质 |
Also Published As
Publication number | Publication date |
---|---|
CN109240820B (zh) | 2022-09-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109240820A (zh) | 图像处理任务的处理方法及装置、电子设备及存储介质 | |
CN112162865B (zh) | 服务器的调度方法、装置和服务器 | |
CN109656782A (zh) | 可视化调度监控方法、装置及服务器 | |
CN110740061B (zh) | 故障预警方法、装置及计算机存储介质 | |
CN102576317A (zh) | 服务设定支援方法 | |
CN112988360B (zh) | 一种基于大数据分析的任务分发系统 | |
CN111258737A (zh) | 一种资源调度的方法、装置和过滤式调度器 | |
CN108270805B (zh) | 用于数据处理的资源分配方法及装置 | |
US20190280945A1 (en) | Method and apparatus for determining primary scheduler from cloud computing system | |
CN113220483A (zh) | 一种区块链共识主节点的切换方法及系统 | |
CN113835865A (zh) | 一种任务部署方法和装置、电子设备和存储介质 | |
CN111930493A (zh) | 集群中NodeManager状态管理方法、装置及计算设备 | |
CN112148481B (zh) | 一种执行仿真测试任务的方法、系统、设备及介质 | |
CN113705896A (zh) | 目标设备的确定方法、装置及电子设备 | |
US20070038900A1 (en) | System with executing nodes for executing schedules | |
CN109670932B (zh) | 信贷数据核算方法、装置、系统和计算机存储介质 | |
CN115471301B (zh) | 无人驾驶车辆去中心化派单方法及装置、存储介质和终端 | |
CN109245927A (zh) | 云数据系统中的告警系统和方法 | |
CN113190347A (zh) | 一种边缘云系统及任务管理方法 | |
CN112685157A (zh) | 任务处理方法、装置、计算机设备及存储介质 | |
CN111459651B (zh) | 一种负载均衡方法、装置、存储介质及调度系统 | |
CN106844021B (zh) | 计算环境资源管理系统及其管理方法 | |
CN112052967A (zh) | 提供维护服务的方法、装置、电子设备和存储介质 | |
CN114880105A (zh) | Mec设备的管理方法、装置、管理平台及mec设备 | |
US20070083798A1 (en) | System with executing nodes for executing schedules |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |