CN103559239B - 图片的处理方法及系统和任务服务器 - Google Patents
图片的处理方法及系统和任务服务器 Download PDFInfo
- Publication number
- CN103559239B CN103559239B CN201310511961.4A CN201310511961A CN103559239B CN 103559239 B CN103559239 B CN 103559239B CN 201310511961 A CN201310511961 A CN 201310511961A CN 103559239 B CN103559239 B CN 103559239B
- Authority
- CN
- China
- Prior art keywords
- task
- request
- picture
- server
- processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/958—Organisation or management of web site content, e.g. publishing, maintaining pages or automatic linking
- G06F16/986—Document structures and storage, e.g. HTML extensions
Landscapes
- Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Facsimiles In General (AREA)
- Computer And Data Communications (AREA)
Abstract
本发明公开了一种图片的处理方法及系统和任务服务器,其中,图片的处理方法包括:接收请求方通过统一接口服务器发送的图片处理请求,将图片处理请求保存至请求池中;对请求池中的图片处理请求进行分发;将当前图片处理请求中的各个图片地址生成对应的任务,产生一个任务组来管理当前图片处理请求中的任务,并触发对当前任务组中的任务进行抓取;根据抓取结果触发对当前被抓取到的任务进行处理并存储处理结果;根据处理结果触发对当前被处理的任务所在的任务组进行检查,若当前被处理的任务所在的任务组中的所有任务均完成处理,则向请求方发送处理报告。本发明的处理流程是异步化的,能根据资源的情况动态地调整处理速度且扩展性好。
Description
技术领域
本发明涉及计算机技术,具体涉及一种图片的处理方法及系统和任务服务器。
背景技术
图片不仅使网站变得更加美观,而且能帮人们更好地理解网站的内容,一个网站图片用得是否得体,对网站有很大的影响。同时,随着技术的发展,产生了各种类型的图片。
现有的图片处理过程是顺序执行的,具体的处理过程包括:1.接收图片处理请求;2.产生处理任务,并放入待执行队列中;3.取出任务进行图片处理;4.保存图片处理结果;5.返回处理结果。
上述处理过程虽然流程清晰,实现简单,但是单环节处理的能力决定整体系统的处理能力,单环节故障必然导致系统整体故障,可扩展性差。
发明内容
鉴于上述问题,提出了本发明以便提供一种克服上述问题或者至少部分地解决上述问题的图片的处理方法及系统和任务服务器。
根据本发明的一个方面,提供了一种图片的处理方法,包括:
接收请求方通过统一接口服务器发送的图片处理请求,将图片处理请求保存至请求池中;
对请求池中的图片处理请求进行分发;
将当前图片处理请求中的各个图片地址生成对应的任务,产生一个任务组来管理当前图片处理请求中的任务,并触发对当前任务组中的任务进行抓取;
根据抓取结果触发对当前被抓取到的任务进行处理并存储处理结果;以及
根据处理结果触发对当前被处理的任务所在的任务组进行检查,若当前被处理的任务所在的任务组中的所有任务均完成处理,则向请求方发送处理报告。
根据本发明的另一方面,提供了一种任务服务器,包括:
接收模块,适于接收请求方通过统一接口服务器发送的图片处理请求,将图片处理请求保存至请求池中;
任务分发模块,适于将请求池中的图片处理请求发送至调度处理模块;
调度处理模块,适于将当前图片处理请求中的各个图片地址生成对应的任务,产生一个任务组来管理当前图片处理请求中的任务,触发对当前任务组中的任务进行抓取;根据抓取结果触发对当前被抓取到的任务进行处理并向存储模块发送处理结果;以及根据处理结果触发对当前被处理的任务所在的任务组进行检查,若当前被处理的任务所在的任务组中的所有任务均完成处理,则向请求方发送处理报告;以及
存储模块,适于存储处理结果。
根据本发明的再一方面,提供了一种图片的处理系统,包括统一接口、统一接口服务器和上述任务服务器,其中:
统一接口,适于向统一接口服务器发送图片处理请求;
统一接口服务器,适于将图片处理请求分发至任务服务器上。
本发明实施例,基于反向代理的机制,均匀的服务请求可以散列到各个独立的任务服务器上;根据任务服务器的使用状态来动态地调整处理速度且扩展性好;引入了状态机机制,可以自由的调整任务处理的流程。
上述说明仅是本发明技术方案的概述,为了能够更清楚了解本发明的技术手段,而可依照说明书的内容予以实施,并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂,以下特举本发明的具体实施方式。
附图说明
通过阅读下文优选实施方式的详细描述,各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的,而并不认为是对本发明的限制。而且在整个附图中,用相同的参考符号表示相同的部件。在附图中:
图1示出了根据本发明一个实施例的图片的处理方法的流程图;
图2a示出了根据本发明一个实施例的任务服务器的结构示意图;
图2b示出了根据本发明另一个实施例的任务服务器的结构示意图;
图3示出了根据本发明一个实施例的图片的处理系统的结构示意图;
图4示出了图3所示的图片的处理系统处理图片的信令流程图。
具体实施方式
下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例,然而应当理解,可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反,提供这些实施例是为了能够更透彻地理解本公开,并且能够将本公开的范围完整的传达给本领域的技术人员。
图1示出了根据本发明一个实施例的图片的处理方法的流程图。如图1所示,该方法包括:
步骤S101、接收请求方通过统一接口服务器发送的图片处理请求,将图片处理请求保存至请求池中;
在计算机网络中,反向代理是根据客户端的请求,从后端的服务器上获取资源,然后再将这些资源返回给客户端;在本实施例中,统一接口服务器使用反向代理的方式首先将图片处理请求按照权重分发到各个任务服务器上,从而可以较好地将图片处理请求散列到各个独立的任务服务器上;上述图片处理请求到达当前任务服务器后,被放入到该服务器的请求池中,等待分配;上述请求池为一个基于内存的存储队列,用于存储图片处理请求的全部内容;
当前任务服务器仅为多个任务服务器中的一个,统一接口服务器和多个任务服务器构成分布式系统,位于分布式系统中的多个任务服务器之间是异步处理模式,因而位于多个服务器上的请求池是分布式异步队列;将多个任务服务器集中起来一起进行同一种服务构成服务器集群,由于集群服务可以利用多个计算机进行并行计算,从而可以获得很高的计算速度,另外,在集群中的某一任务服务器因出错或维护不可用时,另一任务服务器会立刻提供服务,以实现容错,从而使得正在访问服务的用户可以继续访问,而不会察觉到服务已经由另一台服务器提供;
步骤S102、对请求池中的图片处理请求进行分发;
当前任务服务器可以根据资源的空闲情况,对上述请求池中的图片处理请求进行分发;具体地,当前任务服务器上有一个每分钟定时执行的任务分发进程,根据任务的抓取和处理资源(即抓取任务和处理任务的功能模块)的空闲情况,对请求池中的请求进行调度;
步骤S103、将当前图片处理请求中的各个图片地址生成对应的任务,产生一个任务组来管理当前图片处理请求中的任务,并触发对当前任务组中的任务进行抓取;
在该实施例中,每个图片处理请求中会有至少一个待处理的图片统一资源定位符(URL),每个图片的URL作为一个任务;可以通过产生一个任务组来管理当前图片处理请求对应的所有任务;例如,当前图片处理请求对应三个任务:任务1、任务2、任务3,则可以通过一个任务组来管理这三个任务;
步骤S104、根据抓取结果触发对当前被抓取到的任务进行处理并存储处理结果;
根据抓取结果获知当前任务例如任务1被抓取后,触发对当前被抓取到的任务1进行处理并存储任务1的处理结果;
步骤S105、根据处理结果触发对当前被处理的任务所在的任务组进行检查,若当前被处理的任务所在的任务组中的所有任务均完成处理,则向请求方发送处理报告。
根据处理结果获知任务1被处理完成后,触发对当前被处理的任务所在的任务组进行检查,发现当前任务组中的任务2和任务3尚未完成处理,则继续对任务2进行抓取,任务2被抓取后,对被抓取的任务2进行处理,任务2处理后继续触发对当前任务组进行检查,发现当前任务组中还有任务3尚未进行处理,则继续调用资源对任务3进行抓取、处理,直至确认当前任务组中的所有任务均完成处理,然后获得回调方式和接口信息,根据该回调方式和接口信息向请求方发送处理报告。
上述对任务的抓取、处理和检查是基于状态机的机制来完成的,即抓取到当前任务组中的任务后可以跳转到对该任务的处理,处理完任务后可以跳转到对当前任务组的检查,若当前任务组中仍有未处理的任务,则重复执行上述过程,直至当前任务组中的所有任务都处理完毕。
上述图片的处理方法,基于状态机的机制,将图片的抓取和处理流程在集群中进行灵活调度,从而达到可扩展的能力;利用服务器集群技术避免了现有技术中存在的因单一任务服务器故障导致的系统整体故障的问题出现;基于分布式系统进行智能的调度,解决了在不同性能服务器上部署服务的问题。
图2a示出了根据本发明一个实施例的任务服务器的结构示意图。如图2a所示,该任务服务器包括:接收模块21、任务分发模块22、调度处理模块23和存储模块24,其中:
接收模块适于接收请求方通过统一接口服务器发送的图片处理请求,将上述图片处理请求保存至请求池中;该请求池为一个基于内存的存储队列,用于存储图片处理请求的全部内容;任务分发模块适于将上述请求池中的图片处理请求发送至调度处理模块,具体为根据当前任务服务器上资源的空闲情况对请求池中的图片处理请求进行分发;调度处理模块适于将当前图片处理请求中的各个图片地址生成对应的任务,产生一个任务组来管理当前图片处理请求中的任务,触发对当前任务组中的任务进行抓取;根据抓取结果触发对当前被抓取到的任务进行处理并向存储模块发送处理结果;以及根据处理结果触发对当前被处理的任务所在的任务组进行检查,若上述当前被处理的任务所在的任务组中的所有任务均完成处理,则向上述请求方发送处理报告;存储模块适于存储上述处理结果。
通常情况下,每个图片处理请求中会有至少一个待处理的图片URL,每个图片的URL作为一个任务;然后通过产生一个任务组来管理当前图片处理请求对应的所有任务。
如图2b所示,上述调度处理模块23可以包括:调度中心231、抓取单元232、处理单元233、检查单元234和回调单元235,其中:
调度中心适于将上述任务分发模块发送的当前图片处理请求中的各个图片地址生成对应的任务,产生一个任务组来管理当前图片处理请求中的任务,并向上述抓取单元发送触发请求;接收上述抓取单元发送的抓取结果,向上述处理单元发送触发请求;接收上述处理单元发送的处理结果,向上述检查单元发送触发请求;以及接收上述检查单元发送的检查结果,向上述回调单元发送调用请求;抓取单元适于根据来自上述调度中心的触发请求对当前任务组中的对应任务进行抓取,并向上述调度中心发送抓取结果;处理单元适于根据来自上述调度中心的触发请求对当前被抓取到的任务进行处理,并分别向上述存储模块和上述调度中心发送处理结果;检查单元适于根据来自上述调度中心的触发请求对当前被处理的任务所在的任务组进行检查,若上述当前被处理的任务所在的任务组中的所有任务均完成处理,则向上述调度中心发送检查结果;回调单元适于根据上述调用请求向上述请求方发送处理报告。
上述抓取单元、处理单元和检查单元是基于状态机的机制来完成的,即抓取单元抓取到当前任务组中的任务后可以跳转到处理单元,由处理单元对该任务的处理,处理完任务后可以跳转到检查单元,由检查单元对当前任务组的检查,若当前任务组中仍有未处理的任务,则重复执行上述过程,直至当前任务组中的所有任务都处理完毕。
具体地,上述图片处理请求为上述统一接口服务器使用反向代理的方式发送的。上述任务服务器上可以有一个每分钟定时执行的任务分发模块,以根据抓取模块和处理模块的空闲情况,将请求池中的图片处理请求放入到调度中心。图片处理请求进入到调度中心后,将当前图片请求中的各个图片地址对应生成一个任务,并产生一个任务组来管理此批任务,同时触发所有任务的抓取。抓取单元完成一个任务的抓取后,通知调度中心,调度中心触发该任务的处理单元。处理单元完成一个任务的处理后,保存结果到存储单元中,并报告调度中心。调度中心触发该任务的检查单元。检查单元检查该任务所在的任务组中的任务是否全部完成,如全部都完成了,就调用回调单元,通知请求方,否则将不做操作。上述回调单元可以获得回调方式和接口信息,根据该回调方式和接口信息向请求方发送处理报告。
另外,本发明还提供了一种图片的处理系统,如图3所示,包括统一接口31、统一接口服务器32和至少一个如图2a或图2b所示的任务服务器33,其中:
统一接口适于向上述统一接口服务器发送图片处理请求;
统一接口服务器适于将上述图片处理请求分发至上述任务服务器上。
该图片的处理系统是一个分布式系统,位于该分布式系统中的多个任务服务器之间是异步处理模式,因而位于多个服务器上的请求池是分布式异步队列;将多个任务服务器集中起来一起进行同一种服务构成服务器集群,由于集群服务可以利用多个计算机进行并行计算,从而可以获得很高的计算速度,另外,在集群中的某一任务服务器因出错或维护不可用时,另一任务服务器会立刻提供服务,以实现容错,从而使得正在访问服务的用户可以继续访问,而不会察觉到服务已经由另一台服务器提供。
由于图3中的任务服务器结构和功能与图2a或图2b所示的任务服务器的结构和功能相同,此处不赘述。上述多个任务服务器构成的群集化操作可以实现群集化资源的高可用性。
上述图片的处理系统实施例中,每组集群的多台任务服务器,接收请求有统一的入口,而处理任务都是独立的。任务服务器的处理流程是异步化的,能根据资源的情况动态地调整处理速度。
图3所示系统处理图片的过程如图4所示,该过程包括:
步骤S401、请求方通过统一接口向统一接口服务器发送图片处理请求;
该图片的处理系统有统一的超文本传输协议(HTTP)请求接口,此接口有一个域名,可以解析到统一接口服务器上;
步骤S402、统一接口服务器向接收模块发送图片处理请求;
步骤S403、接收模块将接收到的图片处理请求保存至请求池中;
上述请求池为一个基于内存的存储队列,用于存储图片处理请求的全部内容;
步骤S404、任务分发模块将请求池中的图片处理请求发送至调度中心;
任务服务器上可以有一个每分钟定时执行的任务分发模块,该任务分发模块根据抓取单元和处理单元的空闲情况,将请求池中的请求放入到调度中心;
步骤S405、调度中心将任务分发模块发送的当前图片处理请求中的各个图片地址生成对应的任务,产生一个任务组来管理当前图片处理请求中的任务,并向抓取单元发送触发请求;
通常情况下,每个图片处理请求中会有至少一个待处理的图片URL,每个图片的URL作为一个任务;然后通过产生一个任务组来管理当前图片处理请求对应的所有任务;
步骤S406、抓取单元根据触发请求进行抓取,并向调度中心发送抓取结果;
步骤S407、调度中心根据抓取结果向处理单元发送触发请求;
抓取单元完成一个任务抓取后,通知调度中心,调度中心触发该任务的处理单元;
步骤S408、处理单元根据触发请求对当前任务进行处理,并向存储模块发送处理结果;
步骤S409、同时,向调度中心发送处理结果;
步骤S410、调度中心根据接收的处理结果向检查单元发送触发请求;
处理单元完成一个任务的处理后,保存处理结果到存储单元中,并报告调度中心,调度中心触发该任务的检查单元;
步骤S411、检查单元根据触发请求对当前被处理的任务所在的任务组进行检查,若上述当前被处理的任务所在的任务组中的所有任务均完成处理,则向上述调度中心发送检查结果;
步骤S412、调度中心根据接收的检查结果向回调单元发送调用请求;
步骤S413、回调单元向统一接口返回处理报告。
回调单元根据请求时带来的回调方式和接口信息进行回调,通知请求方。
上述图片的处理系统实施例中,基于反向代理的机制,均匀的服务请求可以散列到各个独立的任务服务器上;基于异步处理的模式,根据任务服务器的使用状态来动态地调整处理速度且扩展性好;引入了状态机机制,可以自由的调整任务处理的流程;同时,因为独立的接收模块、处理单元、存储单元,保证集群中无单点故障,从而保证系统的处理能力强。
在此提供的算法和显示不与任何特定计算机、虚拟系统或者其它设备固有相关。各种通用系统也可以与基于在此的示教一起使用。根据上面的描述,构造这类系统所要求的结构是显而易见的。此外,本发明也不针对任何特定编程语言。应当明白,可以利用各种编程语言实现在此描述的本发明的内容,并且上面对特定语言所做的描述是为了披露本发明的最佳实施方式。
在此处所提供的说明书中,说明了大量具体细节。然而,能够理解,本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中,并未详细示出公知的方法、结构和技术,以便不模糊对本说明书的理解。
类似地,应当理解,为了精简本公开并帮助理解各个发明方面中的一个或多个,在上面对本发明的示例性实施例的描述中,本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而,并不应将该公开的方法解释成反映如下意图:即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说,如下面的权利要求书所反映的那样,发明方面在于少于前面公开的单个实施例的所有特征。因此,遵循具体实施方式的权利要求书由此明确地并入该具体实施方式,其中每个权利要求本身都作为本发明的单独实施例。
本领域那些技术人员可以理解,可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件,以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外,可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述,本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。
此外,本领域的技术人员能够理解,尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征,但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如,在下面的权利要求书中,所要求保护的实施例的任意之一都可以以任意的组合方式来使用。
本发明的各个部件实施例可以以硬件实现,或者以在一个或者多个处理器上运行的软件模块实现,或者以它们的组合实现。本领域的技术人员应当理解,可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的任务服务器或图片的处理系统中的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如,计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上,或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到,或者在载体信号上提供,或者以任何其他形式提供。
应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制,并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中,不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中,这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。
本发明还公开了A1、一种图片的处理方法,包括:
接收请求方通过统一接口服务器发送的图片处理请求,将所述图片处理请求保存至请求池中;
对所述请求池中的图片处理请求进行分发;
将当前图片处理请求中的各个图片地址生成对应的任务,产生一个任务组来管理当前图片处理请求中的任务,并触发对当前任务组中的任务进行抓取;
根据抓取结果触发对当前被抓取到的任务进行处理并存储处理结果;以及
根据处理结果触发对当前被处理的任务所在的任务组进行检查,若所述当前被处理的任务所在的任务组中的所有任务均完成处理,则向所述请求方发送处理报告。
A2、根据A1所述的方法,所述图片处理请求为所述统一接口服务器使用反向代理的方式发送的。
A3、根据A1所述的方法,所述对所述请求池中的图片处理请求进行分发,包括:
根据资源的空闲情况,对所述请求池中的图片处理请求进行分发。
A4、根据A1所述的方法,所述向所述请求方发送处理报告,包括:
获得回调方式和接口信息,根据该回调方式和接口信息向所述请求方发送处理报告。
本发明还公开了B5、一种任务服务器,包括:
接收模块,适于接收请求方通过统一接口服务器发送的图片处理请求,将所述图片处理请求保存至请求池中;
任务分发模块,适于将所述请求池中的图片处理请求发送至调度处理模块;
所述调度处理模块,适于将当前图片处理请求中的各个图片地址生成对应的任务,产生一个任务组来管理当前图片处理请求中的任务,触发对当前任务组中的任务进行抓取;根据抓取结果触发对当前被抓取到的任务进行处理并向存储模块发送处理结果;以及根据处理结果触发对当前被处理的任务所在的任务组进行检查,若所述当前被处理的任务所在的任务组中的所有任务均完成处理,则向所述请求方发送处理报告;以及
所述存储模块,适于存储所述处理结果。
B6、根据B5所述的任务服务器,所述调度处理模块包括:调度中心、抓取单元、处理单元、检查单元和回调单元,其中:
所述调度中心,适于将所述任务分发模块发送的当前图片处理请求中的各个图片地址生成对应的任务,产生一个任务组来管理当前图片处理请求中的任务,并向所述抓取单元发送触发请求;接收所述抓取单元发送的抓取结果,向所述处理单元发送触发请求;接收所述处理单元发送的处理结果,向所述检查单元发送触发请求;以及接收所述检查单元发送的检查结果,向所述回调单元发送调用请求;
所述抓取单元,适于根据来自所述调度中心的触发请求对当前任务组中的对应任务进行抓取,并向所述调度中心发送抓取结果;
所述处理单元,适于根据来自所述调度中心的触发请求对当前被抓取到的任务进行处理,并分别向所述存储模块和所述调度中心发送处理结果;
所述检查单元,适于根据来自所述调度中心的触发请求对当前被处理的任务所在的任务组进行检查,若所述当前被处理的任务所在的任务组中的所有任务均完成处理,则向所述调度中心发送检查结果;
所述回调单元,适于根据所述调用请求向所述请求方发送处理报告。
B7、根据B5或B6所述的任务服务器,所述图片处理请求为所述统一接口服务器使用反向代理的方式发送的。
B8、根据B6所述的任务服务器,所述任务分发模块,具体适于:
根据所述抓取单元和所述处理单元的空闲情况,将所述请求池中的图片处理请求发送至所述调度中心。
B9、根据B6所述的任务服务器,所述回调单元,具体适于:
获得回调方式和接口信息,根据该回调方式和接口信息向所述请求方发送处理报告。
本发明还公开了C10、一种图片的处理系统,包括统一接口、统一接口服务器和至少一个如B5-B9任一所述的任务服务器,其中:
所述统一接口,适于向所述统一接口服务器发送图片处理请求;
所述统一接口服务器,适于将所述图片处理请求分发至所述任务服务器上。
B11、根据B10所述的系统,所述统一接口服务器,具体适于:
使用反向代理的方式按照权重将所述图片处理请求分发至各个任务服务器上。
Claims (9)
1.一种图片的处理方法,所述方法由任务服务器执行,所述任务服务器为服务器集群中的构成个体,包括:
接收请求方通过统一接口服务器发送的图片处理请求,将所述图片处理请求保存至请求池中;其中,所述图片处理请求为所述统一接口服务器使用反向代理的方式按照权重发送的;所述请求池为基于内存的存储队列;
对所述请求池中的图片处理请求进行分发;
将当前图片处理请求中的各个图片地址生成对应的任务,产生一个任务组来管理当前图片处理请求中的任务,并触发对当前任务组中的任务进行抓取;
根据抓取结果触发对当前被抓取到的任务进行处理并存储处理结果;以及
根据处理结果触发对当前被处理的任务所在的任务组进行检查,若所述当前被处理的任务所在的任务组中的所有任务均完成处理,则向所述请求方发送处理报告。
2.根据权利要求1所述的方法,所述对所述请求池中的图片处理请求进行分发,包括:
根据资源的空闲情况,对所述请求池中的图片处理请求进行分发。
3.根据权利要求1所述的方法,所述向所述请求方发送处理报告,包括:
获得回调方式和接口信息,根据该回调方式和接口信息向所述请求方发送处理报告。
4.一种任务服务器,所述任务服务器为服务器集群中的构成个体,包括:
接收模块,适于接收请求方通过统一接口服务器发送的图片处理请求,将所述图片处理请求保存至请求池中;其中,所述图片处理请求为所述统一接口服务器使用反向代理的方式按照权重发送的;所述请求池为基于内存的存储队列;
任务分发模块,适于将所述请求池中的图片处理请求发送至调度处理模块;
所述调度处理模块,适于将当前图片处理请求中的各个图片地址生成对应的任务,产生一个任务组来管理当前图片处理请求中的任务,触发对当前任务组中的任务进行抓取;根据抓取结果触发对当前被抓取到的任务进行处理并向存储模块发送处理结果;以及根据处理结果触发对当前被处理的任务所在的任务组进行检查,若所述当前被处理的任务所在的任务组中的所有任务均完成处理,则向所述请求方发送处理报告;以及
所述存储模块,适于存储所述处理结果。
5.根据权利要求4所述的任务服务器,所述调度处理模块包括:调度中心、抓取单元、处理单元、检查单元和回调单元,其中:
所述调度中心,适于将所述任务分发模块发送的当前图片处理请求中的各个图片地址生成对应的任务,产生一个任务组来管理当前图片处理请求中的任务,并向所述抓取单元发送触发请求;接收所述抓取单元发送的抓取结果,向所述处理单元发送触发请求;接收所述处理单元发送的处理结果,向所述检查单元发送触发请求;以及接收所述检查单元发送的检查结果,向所述回调单元发送调用请求;
所述抓取单元,适于根据来自所述调度中心的触发请求对当前任务组中的对应任务进行抓取,并向所述调度中心发送抓取结果;
所述处理单元,适于根据来自所述调度中心的触发请求对当前被抓取到的任务进行处理,并分别向所述存储模块和所述调度中心发送处理结果;
所述检查单元,适于根据来自所述调度中心的触发请求对当前被处理的任务所在的任务组进行检查,若所述当前被处理的任务所在的任务组中的所有任务均完成处理,则向所述调度中心发送检查结果;
所述回调单元,适于根据所述调用请求向所述请求方发送处理报告。
6.根据权利要求5所述的任务服务器,所述任务分发模块,具体适于:
根据所述抓取单元和所述处理单元的空闲情况,将所述请求池中的图片处理请求发送至所述调度中心。
7.根据权利要求5所述的任务服务器,所述回调单元,具体适于:
获得回调方式和接口信息,根据该回调方式和接口信息向所述请求方发送处理报告。
8.一种图片的处理系统,包括统一接口、统一接口服务器和至少一个如权利要求4-7任一权利要求所述的任务服务器,其中:
所述统一接口,适于向所述统一接口服务器发送图片处理请求;
所述统一接口服务器,适于将所述图片处理请求分发至所述任务服务器上。
9.根据权利要求8所述的系统,所述统一接口服务器,具体适于:
使用反向代理的方式按照权重将所述图片处理请求分发至各个任务服务器上。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201310511961.4A CN103559239B (zh) | 2013-10-25 | 2013-10-25 | 图片的处理方法及系统和任务服务器 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201310511961.4A CN103559239B (zh) | 2013-10-25 | 2013-10-25 | 图片的处理方法及系统和任务服务器 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN103559239A CN103559239A (zh) | 2014-02-05 |
CN103559239B true CN103559239B (zh) | 2017-11-10 |
Family
ID=50013486
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201310511961.4A Expired - Fee Related CN103559239B (zh) | 2013-10-25 | 2013-10-25 | 图片的处理方法及系统和任务服务器 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN103559239B (zh) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105095299A (zh) * | 2014-05-16 | 2015-11-25 | 北京奇虎科技有限公司 | 图片抓取方法和系统 |
CN108600373A (zh) * | 2018-04-26 | 2018-09-28 | 广州沐思信息科技有限公司 | 一种图片生成方法、服务器和计算机可读存储介质 |
CN108776570B (zh) * | 2018-05-30 | 2021-04-27 | 北京小米移动软件有限公司 | 图片处理方法及装置 |
CN109214855B (zh) * | 2018-07-11 | 2020-09-18 | 腾讯科技(北京)有限公司 | 素材接收方法、装置及系统 |
CN108920281A (zh) * | 2018-07-20 | 2018-11-30 | 深圳码隆科技有限公司 | 大规模图片处理方法及系统 |
CN114968507B (zh) * | 2021-04-27 | 2023-08-15 | 中移互联网有限公司 | 图像处理任务的调度方法及装置 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102088398A (zh) * | 2009-12-08 | 2011-06-08 | 华为技术有限公司 | Web并发事件处理方法及装置 |
CN102752594A (zh) * | 2012-06-21 | 2012-10-24 | 浙江大学 | 一种基于图像编解码与传输并行的集群渲染方法 |
CN103227919A (zh) * | 2013-03-29 | 2013-07-31 | 苏州皓泰视频技术有限公司 | 一种基于多核处理器Tilera的SVC编码方法 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102156749B (zh) * | 2011-04-22 | 2013-04-10 | 中国测绘科学研究院 | 一种地图网站的自动搜索判别方法、系统及其分布式服务器系统 |
CN102780768B (zh) * | 2012-06-29 | 2014-11-19 | 北京奇虎科技有限公司 | 一种大并发量请求的处理方法及处理系统 |
CN103207785B (zh) * | 2013-04-23 | 2016-08-31 | 北京奇虎科技有限公司 | 数据下载请求的处理方法、装置及系统 |
-
2013
- 2013-10-25 CN CN201310511961.4A patent/CN103559239B/zh not_active Expired - Fee Related
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102088398A (zh) * | 2009-12-08 | 2011-06-08 | 华为技术有限公司 | Web并发事件处理方法及装置 |
CN102752594A (zh) * | 2012-06-21 | 2012-10-24 | 浙江大学 | 一种基于图像编解码与传输并行的集群渲染方法 |
CN103227919A (zh) * | 2013-03-29 | 2013-07-31 | 苏州皓泰视频技术有限公司 | 一种基于多核处理器Tilera的SVC编码方法 |
Also Published As
Publication number | Publication date |
---|---|
CN103559239A (zh) | 2014-02-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103559239B (zh) | 图片的处理方法及系统和任务服务器 | |
CN103207785B (zh) | 数据下载请求的处理方法、装置及系统 | |
CN110602254B (zh) | 一种实现负载均衡的方法、装置及系统 | |
CN106131213B (zh) | 一种服务管理方法和系统 | |
CN110383764B (zh) | 无服务器系统中使用历史数据处理事件的系统和方法 | |
CN108256118B (zh) | 数据处理方法、装置、系统、计算设备以及存储介质 | |
Yi et al. | Gpunfv: a gpu-accelerated nfv system | |
CN105610972A (zh) | 集群式的任务调派系统 | |
CN105183564B (zh) | 基于云测试平台的设备调度方法、装置及系统 | |
CN105373420B (zh) | 数据传输方法及装置 | |
CN111124589B (zh) | 一种服务发现系统、方法、装置及设备 | |
US10110456B2 (en) | Scalable software monitoring infrastructure, using parallel task queuing, to operate in elastic cloud environments | |
CN110020043B (zh) | 页面爬取方法、装置、存储介质及处理器 | |
CN108933829A (zh) | 一种负载均衡方法及装置 | |
CN105554085B (zh) | 一种基于服务器连接的动态超时处理方法和装置 | |
CN105208133A (zh) | 一种服务器、负载均衡器以及服务器负载均衡方法和系统 | |
CN103530255A (zh) | 分布式异步事件的处理方法及系统 | |
US8606908B2 (en) | Wake-up server | |
CN103577251A (zh) | 基于事件的互联网计算处理系统及方法 | |
CN105095299A (zh) | 图片抓取方法和系统 | |
CN103532755A (zh) | 分布式异步事件的处理方法及系统 | |
CN103677983A (zh) | 应用的调度方法及装置 | |
CN107294911A (zh) | 一种数据包监听方法及装置、远程过程调用系统、设备 | |
CN111435315A (zh) | 分配资源的方法、装置、设备和计算机可读介质 | |
CN105391776A (zh) | 长连接消息的通信方法及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20171110 Termination date: 20211025 |
|
CF01 | Termination of patent right due to non-payment of annual fee |