CN111290744A - 流式计算作业处理方法、流式计算系统及电子设备 - Google Patents
流式计算作业处理方法、流式计算系统及电子设备 Download PDFInfo
- Publication number
- CN111290744A CN111290744A CN202010074558.XA CN202010074558A CN111290744A CN 111290744 A CN111290744 A CN 111290744A CN 202010074558 A CN202010074558 A CN 202010074558A CN 111290744 A CN111290744 A CN 111290744A
- Authority
- CN
- China
- Prior art keywords
- streaming computing
- running
- processes
- streaming
- job
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5061—Partitioning or combining of resources
- G06F9/5066—Algorithms for mapping a plurality of inter-dependent sub-tasks onto a plurality of physical CPUs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F8/00—Arrangements for software engineering
- G06F8/40—Transformation of program code
- G06F8/41—Compilation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F8/00—Arrangements for software engineering
- G06F8/30—Creation or generation of source code
- G06F8/31—Programming languages or programming paradigms
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/54—Interprogram communication
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computing Systems (AREA)
- Information Transfer Between Computers (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
本申请公开了一种流式计算作业处理方法、流式计算系统及电子设备,所述方法包括:获取流式计算作业;以进程方式运行所述流式计算作业,所述流式计算作业包括至少一个进程。将流式计算作业直接以进程的方式运行,与现有技术中将流式计算作业采用如Master/Worker结构的并行处理方式相比,可避免并行处理方式存在的资源消耗较大的问题,能够使流式计算系统的资源消耗大大降低,尤其适用于作业数量有限且计算能力受限的场景。
Description
技术领域
本申请涉及数据处理技术领域,尤其涉及云计算技术领域,具体涉及一种流式计算作业处理方法、流式计算系统及电子设备。
背景技术
流式计算技术是指对持续产生的数据流进行实时的处理,相比批处理计算,流式计算的时效性更高。随着互联网技术的不断深入变革,以边缘计算等技术为代表的计算领域通常计算资源受限,对资源消耗提出更加苛刻的要求。
目前,以Apache Storm/Spark/Flink为代表的开源流式计算系统已经得到长足的发展,他们在流式计算作业的处理上通常采用并行处理方式处理流式计算作业,如Master/Worker的结构中,Master负责作业的接受、调度和监控;Worker负责作业的运行和状态的汇报等工作,Master和Worker并行处理,系统资源消耗较大。
可见,现有的流式计算作业处理方法存在资源消耗较大的问题。
发明内容
本申请的实施例提供一种流式计算作业处理方法、流式计算系统及电子设备,以解决现有技术中流式计算作业处理方法存在资源消耗较大的问题。
为解决上述技术问题,本申请是这样实现的:
第一方面,本申请的实施例提供一种流式计算作业处理方法,所述方法包括以下步骤:
获取流式计算作业;
以进程方式运行所述流式计算作业,所述流式计算作业包括至少一个进程。
因为采用上述技术手段,将流式计算作业直接以进程的方式运行,与现有技术中将流式计算作业采用如Master/Worker结构的并行处理方式相比,可避免并行处理方式存在的资源消耗较大的问题,能够使流式计算系统的资源消耗大大降低,尤其适用于作业数量有限且计算能力受限的场景。
可选的,在所述获取流式计算作业之前,所述方法还包括:
接收云端服务器发送的流式计算作业,所述流式计算作业由所述云端服务器生成。
该实施方式中,将流式计算作业的生成环境和运行环境分离。云端服务器对持续产生的流式计算作业进行编译,而系统则可直接运行编译完成的流式计算作业,提高了系统处理流式计算作业的效率,同时降低了系统资源消耗。
可选的,所述以进程方式运行所述流式计算作业,包括:
以编译型语言作为实现语言,以进程方式运行所述流式计算作业。
进一步的,所述编译型语言包括Golang语言。
本实施例中,以编译型语言如Golang语言作为实现语言,完成对流式计算作业的编译,不依赖于其他模块或者基础环境,流式计算作业处理效率更高,同时编译型语言可直接产出可执行代码,减少了编译时的不必要的操作,进一步降低系统资源消耗。
可选的,所述流式计算作业包括多个进程;
所述以进程方式运行所述流式计算作业,包括:
为所述流式计算作业的不同进程分别分配对应的运行资源;
在所述多个进程的运行资源下分别运行对应的进程,所述多个进程之间相互通信。
进一步的,所述多个进程之间基于进程间通信IPC相互通信。
本实施例中,流式计算作业的多个进程在分配的运行资源下分别运行,同时多个进程之间可以相互通信。进一步的,多个进程之间可以基于进程间通信IPC相互通信,无需通过网络传输实现通信,减少网络传输过程中数据对象的序列化和反序列化。多个进程之间独立运行的同时,又可相互传递交换信息,共同协调完成一个流式计算作业的运行,提高数据传输效率,进而提高流式计算作业处理的效率,同时进一步降低了内存等资源消耗。
第二方面,本申请提供了一种流式计算系统,包括:
获取模块,用于获取流式计算作业;
运行模块,用于以进程方式运行所述流式计算作业,所述流式计算作业包括至少一个进程。
可选的,所述系统还包括:
接收模块,用于接收云端服务器发送的流式计算作业,所述流式计算作业由所述云端服务器生成。
可选的,所述运行模块具体用于:
以编译型语言作为实现语言,以进程方式运行所述流式计算作业。
可选的,所述编译型语言包括Golang语言。
可选的,所述流式计算作业包括多个进程;所述运行模块包括:
分配单元,用于为所述流式计算作业的不同进程分别分配对应的运行资源;
运行单元,用于在所述多个进程的运行资源下分别运行对应的进程,所述多个进程之间相互通信。
可选的,所述多个进程之间基于进程间通信IPC相互通信。
第三方面,本申请提供了一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行第一方面中的任一项方法。
第四方面,本申请提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其特征在于,所述计算机指令用于使所述计算机执行第一方面中的任一项方法。
上述申请中的一个实施例具有如下优点或有益效果:将流式计算作业直接以进程的方式运行,与现有技术中将流式计算作业采用如Master/Worker结构的并行处理方式相比,可避免并行处理方式存在的资源消耗较大的问题,能够使流式计算系统的资源消耗大大降低,尤其适用于作业数量有限且计算能力受限的场景。
本申请中的各实施例所具有的优点或有益效果将在下文中结合具体实施例加以说明。
附图说明
附图用于更好地理解本方案,不构成对本申请的限定。其中:
图1是本申请实施例提供的一种流式计算作业处理方法的流程图;
图2是本申请实施例提供的另一种流式计算作业处理方法的流程图;
图3是本申请实施例提供的流式计算系统的结构示意图之一;
图4是本申请实施例提供的流式计算系统的结构示意图之二;
图5是本申请实施例提供的流式计算系统的结构示意图之三;
图6是用来实现本申请实施例的流式计算作业处理方法的电子设备的框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明,其中包括本申请实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本申请的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
流数据是指在时间分布和数量上无限的一系列动态数据集合体,数据的时效性强,必须实时计算并进行快速的分析和响应,而流式计算就是对持续产生的数据流进行实时的处理。
传统的流式计算作业处理通常由几个到几千台集群组成,为成千上万的作业提供统一的计算资源,采用如Master/Worker结构的并行处理方式,由Master对这些资源和作业进行统一管理和调度,其在接受到用户请求开始进行一项流式计算工作时,会将上述流式计算工作分成多个作业后分派给不同的Worker进行执行,Worker对接收到的作业先编译后再具体执行。如Master/Worker结构的管理模式需要的管理成本较高,且其并行处理方式带来的固定资源消耗较大,尤其对于作业数量有限且计算资源有限的计算场景来说很不经济。
根据本申请的实施例,本申请提供了一种流式计算作业处理方法。
请参见图1,图1是本申请的实施例提供的一种流式计算作业处理方法的流程图,该方法可应用于流式计算系统。所述流式计算系统可以是计算机、服务器等具备数据处理功能的设备或者数据平台,在此不作限定。
本申请的实施例中,所述流式计算作业处理方法,包括:
步骤101、获取流式计算作业。
当流式计算系统需要运行一个流式计算工作时,首先要获取流式计算作业,本申请的实施例中一个流式计算作业可对应一个编译生成的可执行文件,该可执行文件包含一个流式计算作业逻辑,该作业逻辑包括该流式计算作业的程序、数据集以及该流式计算作业运行的说明书,系统获取上述可执行文件后可依据作业逻辑在系统内运行。
步骤102、以进程方式运行所述流式计算作业,所述流式计算作业包括至少一个进程。
本申请的实施例中,流式计算作业包括至少一个进程,当系统接收到流式计算作业时,可按照流式计算作业的进程列表直接运行对应的进程。具体的,一个流式计算作业可包括一个进程,也可包括多个进程,持续输入系统的流数据可触发对应的进程开始执行其对应的程序,再将计算结果持续不断对外输出。数据流一旦触发流式计算作业,即可立即运行输出计算结果。
本申请的上述实施例具有如下优点或有益效果:将流式计算作业直接以进程的方式运行,与现有技术中将流式计算作业采用如Master/Worker结构的并行处理方式相比,可避免并行处理方式存在的资源消耗较大的问题,能够使流式计算系统的资源消耗大大降低,尤其适用于如边缘计算等作业数量有限且计算能力受限的场景。
请参见图2,图2是本申请的实施例提供的另一种流式计算作业处理方法的流程图,该方法应用于流式计算系统。所述流式计算系统可以是计算机、服务器等具备数据处理功能的设备或者数据平台,在此不作限定。
本申请的实施例中,所述流式计算作业处理方法,包括:
步骤201、接收云端服务器发送的所述流式计算作业,所述流式计算作业由所述云端服务器生成。
流式计算系统在接收到用户的流式计算请求后,需要将流式计算作业编译为可执行的机器代码以运行。在现有的流式计算作业处理方法中,该过程在系统内进行,即流式计算作业的生成和运行均在流式计算系统内实现,但是针对一些占用资源较大的流式计算作业,其编译的过程将会造成较大的资源消耗。
本申请的实施例中,流式计算作业由云端服务器生成,将流式计算作业的生成环境和运行环境分离。在云端服务器中将流式计算作业编译为可执行的机器代码生成一个对应的可执行文件,之后直接将该可执行文件部署到目标流式计算系统中运行。系统在获取到流式计算作业时,即可根据编译好的可执行文件直接运行流式计算作业。整个过程中,云端服务器对持续产生的流式计算作业进行编译,而系统仅对持续接收的流式计算作业以进程方式直接运行,提高了流式计算作业处理的效率,同时降低了系统资源消耗。
步骤202、获取流式计算作业。
本申请的实施例中,流式计算作业的编译已在云端服务器完成,系统只需要获取编译完成的流式计算作业。一个流式计算作业在编译完成后可对应一个可执行文件,该可执行文件包含一个流式计算作业逻辑,该作业逻辑包括该流式计算作业的程序、数据集以及该流式计算作业的说明书,系统等待数据流的触发后,即可开始运行流式计算作业。
步骤203、以进程方式运行所述流式计算作业,所述流式计算作业包括至少一个进程。
本步骤的具体实现形式可参考如图1所示实施例中步骤102的说明,为避免重复,在此不再赘述。
可选的,步骤203包括:
以编译型语言作为实现语言,以进程方式运行所述流式计算作业。
进一步的,所述编译型语言包括Golang语言。
传统的流式计算作业处理方法将Java作为实现语言,Java是一种解释型语言,其运行时依赖于JVM(Java Virtual Machine,Java虚拟机),由JVM对Java程序进行即时编译和执行,这就代表流式计算系统中需要预装JVM,将整个JVM加载到内存,内存资源占用较大。此外,Java作为解释型语言,在编译过程中,源代码不能直接翻译成机器语言,需要先翻译成中间代码,再由解释器对中间代码进行解释运行,此过程中同样会增大系统资源消耗。
本申请的实施例中,基于编译型语言作为实现语言,以进程方式运行所述流式计算作业,所述编译型语言可包括Golang语言。Golang语言简称Go语言,是一种轻量级编译型语言。如Golang等编译型语言可将流式计算作业中需要执行的程序直接编译为可执行文件,且不依赖于JVM等基础环境,直接根据可执行文件运行即可。
需要说明的是,本申请的实施例中还可以使用C语言或者C++等其他轻量级的编译型语言,在此不作任何限定。
本申请的上述实施例具有如下优点或有益效果:以编译型语言作为实现语言,以进程方式运行所述流式计算作业,可将流式计算作业直接编译为可执行文件,不依赖于JVM等模块或者基础环境,流式计算作业处理效率高,同时由于编译型语言产出的为可执行代码,减少了解释型语言编译时的不必要的操作,进一步降低了内存等资源消耗。
需要说明的是,本申请的上述实施例中的技术方案同样适用于如图1所示实施例,且能达到相同有益效果,为避免重复,在此不再赘述。
可选的,所述流式计算作业包括多个进程;步骤203包括:
为所述流式计算作业的不同进程分别分配对应的运行资源;
在所述多个进程的运行资源下分别运行对应的进程,所述多个进程之间相互通信。
流式计算作业可仅包括一个进程,也可包括多个进程,每一进程可包含多个程序执行的线程。系统可为每一进程分配其对应的运行资源,所述运行资源包括每一进程对应的地址空间,该地址空间表示进程运行时可占用的内存大小,包括物理空间和虚拟空间,每一进程在对应的运行资源下运行,相互独立。当一个流式计算作业包括多个进程时,在运行该流式计算作业时,需要多个进程之间相互配合,进行数据通信和资源共享,共同完成流式计算作业。
进一步的,所述多个进程之间基于进程间通信IPC相互通信。
在传统流式计算框架中,通过不同进程的算子的网络传输实现数据传递。网络传输过程中,为保证数据的完整性和可传递性,需要将数据对象在发送方先序列化转换为字节序列,待该序列化后的字节流传输至接收方时,接收方根据字节流反序列化重建对象,传输效率较低,且序列化与反序列化的过程中增大了资源消耗。
本申请的实施例中,流式计算作业以进程的方式运行,多个进程之间可基于IPC(Interprocess communication,进程间通信)保证通信。IPC是一组编程接口,能够协调不同进程的运行,使流式计算作业的多个进程之间独立运行的同时,又可相互传递交换信息,共同协调完成一个流式计算作业的运行。IPC包括管道、消息队列、共享内存、信号量等方式,可以实现流式计算作业的多个进程之间的共享数据以及数据传输、通知时间、资源共享、进程控制等功能。IPC无需将数据对象进行网络传输,减少数据对象的序列化和反序列化,提高流式计算作业的多个进程之间的数据传输效率,同时可进一步降低资源消耗。
具体的,多个进程之间可通过共享内存实现通信,直接在内存中传递数据对象。流式计算作业的多个进程的地址空间是互相独立的,但他们可同时访问共享内存区。每个进程有属于自己的进程控制块、地址空间以及一个与之对应的页表,负责将当前进程的虚拟地址与物理地址进行映射。当多个进程通过页表将虚拟地址映射到物理地址时,在物理地址中有一块共享内存区,多个进程均可访问该共享内存区。这样,当任一进程向共享内存区写入数据时,其写入数据所引起的数据改动可即时被与其共享内存的其他进程获知,其他进程即可读取该数据。
需要说明的是,本申请的实施例中,流式计算作业的多个进程之间也可通过除共享内存之外的其他IPC方式进行通信,或者通过两个以上的IPC方式协调实现通信,在此不作限定。
需要说明的是,本申请的实施例中,多个进程在其对应的运行资源下分别运行对应的进程,与多个进程之间基于进程间通信IPC相互通信是相互协调进行的,没有执行上的先后顺序。
本申请的上述实施例具有如下优点或有益效果:流式计算作业的多个进程在分配的运行资源下分别运行,同时多个进程之间可以相互通信。进一步的,多个进程之间可以基于进程间通信IPC相互通信,无需通过网络传输实现通信,减少网络传输过程中数据对象的序列化和反序列化。多个进程之间独立运行的同时,又可相互传递交换信息,共同协调完成一个流式计算作业的运行,提高数据传输效率,进而提高流式计算作业处理的效率,同时进一步降低了内存等资源消耗。
需要说明的是,本申请的上述实施例中的技术方案同样适用于如图1所示实施例,且能达到相同有益效果,为避免重复,在此不再赘述。
本申请实施例提供的流式计算作业处理方法,在图1所示实施例的基础上增加了很多可选的实施方案,均可以进一步降低资源消耗。
本申请还提供了一种流式计算系统,如图3所示,流式计算系统300包括:
获取模块301,用于获取流式计算作业;
运行模块302,用于以进程方式运行所述流式计算作业,所述流式计算作业包括至少一个进程。
可选的,如图4所示,流式计算系统300还包括:
接收模块303,用于接收云端服务器发送的所述流式计算作业,所述流式计算作业由所述云端服务器生成。
可选的,运行模块302具体用于:
以编译型语言作为实现语言,以进程方式运行所述流式计算作业。
可选的,所述编译型语言包括Golang语言。
可选的,所述流式计算作业包括多个进程;
如图5所示,运行模块302包括:
分配单元3021,用于为所述流式计算作业的不同进程分别分配对应的运行资源;
运行单元3022,用于在所述多个进程的运行资源下分别运行对应的进程,所述多个进程之间相互通信;
可选的,所述多个进程之间基于进程间通信IPC相互通信。
本申请的上述实施例中,流式计算系统300可实现图1和图2的方法实施例中实现的各个过程,且可以达到相同有益效果,为避免重复,这里不再赘述。
根据本申请的实施例,本申请还提供了一种电子设备和一种可读存储介质。
如图6所示,是根据本申请实施例的流式计算作业处理方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图6所示,该电子设备包括:一个或多个处理器601、存储器602,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理,包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样,可以连接多个电子设备,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图6中以一个处理器601为例。
存储器602即为本申请所提供的非瞬时计算机可读存储介质。其中,所述存储器存储有可由至少一个处理器执行的指令,以使所述至少一个处理器执行本申请所提供的流式计算作业处理方法。本申请的非瞬时计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行本申请所提供的流式计算作业处理方法。
存储器602作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块,如本申请实施例中的流式计算作业处理方法对应的程序指令/模块(例如,附图3所示的获取模块301和运行模块302)。处理器601通过运行存储在存储器602中的非瞬时软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例中的流式计算作业处理方法。
存储器602可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储根据流式计算作业处理方法的电子设备的使用所创建的数据等。此外,存储器602可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中,存储器602可选包括相对于处理器601远程设置的存储器,这些远程存储器可以通过网络连接至流式计算系统。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
流式计算作业处理方法的电子设备还可以包括:输入装置603和输出装置604。处理器601、存储器602、输入装置603和输出装置604可以通过总线或者其他方式连接,图6中以通过总线连接为例。
输入装置603可接收输入的数字或字符信息,以及产生与流式计算作业处理方法的电子设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置604可以包括显示设备、辅助照明装置(例如,LED)和触觉反馈装置(例如,振动电机)等。该显示设备可以包括但不限于,液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中,显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的,术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如,磁盘、光盘、存储器、可编程逻辑装置(PLD)),包括,接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
根据本申请实施例的技术方案,获取流式计算作业;以进程方式运行所述流式计算作业,所述流式计算作业包括至少一个进程。将流式计算作业直接以进程的方式运行,与现有技术中将流式计算作业采用如Master/Worker结构的并行处理方式相比,可避免并行处理方式存在的资源消耗较大的问题,能够使流式计算系统的资源消耗大大降低,尤其适用于作业数量有限且计算能力受限的场景。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本申请公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请保护范围之内。
Claims (14)
1.一种流式计算作业处理方法,其特征在于,所述方法包括:
获取流式计算作业;
以进程方式运行所述流式计算作业,所述流式计算作业包括至少一个进程。
2.根据权利要求1所述的方法,其特征在于,在所述获取流式计算作业之前,所述方法还包括:
接收云端服务器发送的流式计算作业,所述流式计算作业由所述云端服务器生成。
3.根据权利要求1所述的方法,其特征在于,所述以进程方式运行所述流式计算作业,包括:
以编译型语言作为实现语言,以进程方式运行所述流式计算作业。
4.根据权利要求3所述的方法,其特征在于,所述编译型语言包括Golang语言。
5.根据权利要求1所述的方法,其特征在于,所述流式计算作业包括多个进程;
所述以进程方式运行所述流式计算作业,包括:
为所述流式计算作业的不同进程分别分配对应的运行资源;
在所述多个进程的运行资源下分别运行对应的进程,所述多个进程之间相互通信。
6.根据权利要求5所述的方法,其特征在于,所述多个进程之间基于进程间通信IPC相互通信。
7.一种流式计算系统,其特征在于,所述系统包括:
获取模块,用于获取流式计算作业;
运行模块,用于以进程方式运行所述流式计算作业,所述流式计算作业包括至少一个进程。
8.根据权利要求7所述的系统,其特征在于,所述系统还包括:
接收模块,用于接收云端服务器发送的流式计算作业,所述流式计算作业由所述云端服务器生成。
9.根据权利要求7所述的系统,其特征在于,所述运行模块具体用于:
以编译型语言作为实现语言,以进程方式运行所述流式计算作业。
10.根据权利要求9所述的系统,其特征在于,所述编译型语言包括Golang语言。
11.根据权利要求7所述的系统,其特征在于,所述流式计算作业包括多个进程;所述运行模块包括:
分配单元,用于为所述流式计算作业的不同进程分别分配对应的运行资源;
运行单元,用于在所述多个进程的运行资源下分别运行对应的进程,所述多个进程之间相互通信。
12.根据权利要求11所述的系统,其特征在于,所述多个进程之间基于进程间通信IPC相互通信。
13.一种电子设备,其特征在于,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1至6中任一项所述的方法。
14.一种存储有计算机指令的非瞬时计算机可读存储介质,其特征在于,所述计算机指令用于使所述计算机执行权利要求1至6中任一项所述的方法。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010074558.XA CN111290744B (zh) | 2020-01-22 | 2020-01-22 | 流式计算作业处理方法、流式计算系统及电子设备 |
PCT/CN2020/104873 WO2021147289A1 (zh) | 2020-01-22 | 2020-07-27 | 流式计算作业处理方法、流式计算系统及电子设备 |
US17/784,454 US20230004363A1 (en) | 2020-01-22 | 2020-07-27 | Stream computing job processing method, stream computing system and electronic device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010074558.XA CN111290744B (zh) | 2020-01-22 | 2020-01-22 | 流式计算作业处理方法、流式计算系统及电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111290744A true CN111290744A (zh) | 2020-06-16 |
CN111290744B CN111290744B (zh) | 2023-07-21 |
Family
ID=71030713
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010074558.XA Active CN111290744B (zh) | 2020-01-22 | 2020-01-22 | 流式计算作业处理方法、流式计算系统及电子设备 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20230004363A1 (zh) |
CN (1) | CN111290744B (zh) |
WO (1) | WO2021147289A1 (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021147289A1 (zh) * | 2020-01-22 | 2021-07-29 | 北京百度网讯科技有限公司 | 流式计算作业处理方法、流式计算系统及电子设备 |
CN114579261A (zh) * | 2022-04-29 | 2022-06-03 | 支付宝(杭州)信息技术有限公司 | 多语言混合流的处理方法和装置 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20070011287A1 (en) * | 2005-05-16 | 2007-01-11 | Charbel Khawand | Systems and methods for seamless handover in a streaming data application |
CN103593247A (zh) * | 2013-11-18 | 2014-02-19 | 腾讯科技(成都)有限公司 | 一种数据传递方法、及装置 |
CN104462121A (zh) * | 2013-09-18 | 2015-03-25 | 腾讯科技(深圳)有限公司 | 数据处理方法、装置及系统 |
CN105320515A (zh) * | 2014-07-31 | 2016-02-10 | 腾讯科技(深圳)有限公司 | 一种流计算系统中的配置方法、装置和系统 |
CN105808585A (zh) * | 2014-12-29 | 2016-07-27 | 大唐软件技术股份有限公司 | 一种流式数据的处理方法和装置 |
CN106371912A (zh) * | 2015-07-21 | 2017-02-01 | 阿里巴巴集团控股有限公司 | 一种流式计算系统的资源调度方法和装置 |
CN108696559A (zh) * | 2017-04-11 | 2018-10-23 | 华为技术有限公司 | 流处理方法及装置 |
US20180332012A1 (en) * | 2017-05-12 | 2018-11-15 | International Business Machines Corporation | Post-compilation configuration management |
US20190140969A1 (en) * | 2017-11-08 | 2019-05-09 | International Business Machines Corporation | Assigning processing elements to stream computing servers |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2009087563A2 (en) * | 2008-01-09 | 2009-07-16 | Nokia Corporation | Systems and methods for media container file generation |
AU2015320611A1 (en) * | 2014-09-24 | 2017-03-16 | V5 Systems, Inc. | Dynamic data management |
US9747343B2 (en) * | 2015-02-19 | 2017-08-29 | International Business Machines Corporation | Algorithmic changing in a streaming environment |
US10797943B2 (en) * | 2017-04-12 | 2020-10-06 | International Business Machines Corporation | Configuration management in a stream computing environment |
CN110007967B (zh) * | 2017-12-29 | 2022-05-06 | 杭州海康威视数字技术股份有限公司 | 一种基于流式框架的数据处理方法、装置及设备 |
US11381514B2 (en) * | 2018-05-07 | 2022-07-05 | Apple Inc. | Methods and apparatus for early delivery of data link layer packets |
US10826886B2 (en) * | 2018-05-30 | 2020-11-03 | Oracle International Corporation | Techniques for authentication using push notifications |
US10775976B1 (en) * | 2018-10-01 | 2020-09-15 | Splunk Inc. | Visual previews for programming an iterative publish-subscribe message processing system |
CN110309024B (zh) * | 2019-04-23 | 2023-07-18 | 网宿科技股份有限公司 | 数据处理系统及其执行数据处理任务的方法 |
CN111290744B (zh) * | 2020-01-22 | 2023-07-21 | 北京百度网讯科技有限公司 | 流式计算作业处理方法、流式计算系统及电子设备 |
-
2020
- 2020-01-22 CN CN202010074558.XA patent/CN111290744B/zh active Active
- 2020-07-27 WO PCT/CN2020/104873 patent/WO2021147289A1/zh active Application Filing
- 2020-07-27 US US17/784,454 patent/US20230004363A1/en active Pending
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20070011287A1 (en) * | 2005-05-16 | 2007-01-11 | Charbel Khawand | Systems and methods for seamless handover in a streaming data application |
CN104462121A (zh) * | 2013-09-18 | 2015-03-25 | 腾讯科技(深圳)有限公司 | 数据处理方法、装置及系统 |
CN103593247A (zh) * | 2013-11-18 | 2014-02-19 | 腾讯科技(成都)有限公司 | 一种数据传递方法、及装置 |
CN105320515A (zh) * | 2014-07-31 | 2016-02-10 | 腾讯科技(深圳)有限公司 | 一种流计算系统中的配置方法、装置和系统 |
CN105808585A (zh) * | 2014-12-29 | 2016-07-27 | 大唐软件技术股份有限公司 | 一种流式数据的处理方法和装置 |
CN106371912A (zh) * | 2015-07-21 | 2017-02-01 | 阿里巴巴集团控股有限公司 | 一种流式计算系统的资源调度方法和装置 |
CN108696559A (zh) * | 2017-04-11 | 2018-10-23 | 华为技术有限公司 | 流处理方法及装置 |
US20180332012A1 (en) * | 2017-05-12 | 2018-11-15 | International Business Machines Corporation | Post-compilation configuration management |
US20190140969A1 (en) * | 2017-11-08 | 2019-05-09 | International Business Machines Corporation | Assigning processing elements to stream computing servers |
Non-Patent Citations (7)
Title |
---|
CSDN研发技术: "Heron:来自Twitter的新一代流处理引擎应用篇", 《HTTPS://BLOG.CSDN.NET/DEV_CSDN/ARTICLE/DETAILS/78898866》, pages 1 - 3 * |
FOURINONE: "如何设计一个实时流计算系统?", 《HTTPS://WWW.51CTO.COM/ARTICLE/407076.HTML》, pages 1 - 2 * |
QUITERR: "单进程版流计算实现说明", 《HTTPS://WWW.JIANSHU.COM/P/F80FAE387DE8》, pages 1 - 6 * |
于悦: "面向数据处理的流计算关键技术研究", 《中国优秀硕士学位论文全文数据库》, no. 2013, pages 136 - 870 * |
云计算小百科: "流计算与批量计算的对比", 《HTTPS://ZHUANLAN.ZHIHU.COM/P/31825239》, pages 1 - 3 * |
王新春: "大众点评的实时计算", 《HTTPS://MP.WEIXIN.QQ.COM/S/RQZYC3Q5HIJDAHOZUQUHRA》, pages 1 - 5 * |
用户3003813: "storm的作业单元:Topology", 《HTTPS://CLOUD.TENCENT.COM/DEVELOPER/ARTICLE/1330122》, pages 1 * |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021147289A1 (zh) * | 2020-01-22 | 2021-07-29 | 北京百度网讯科技有限公司 | 流式计算作业处理方法、流式计算系统及电子设备 |
CN114579261A (zh) * | 2022-04-29 | 2022-06-03 | 支付宝(杭州)信息技术有限公司 | 多语言混合流的处理方法和装置 |
CN114579261B (zh) * | 2022-04-29 | 2022-09-20 | 支付宝(杭州)信息技术有限公司 | 多语言混合流的处理方法和装置 |
Also Published As
Publication number | Publication date |
---|---|
WO2021147289A1 (zh) | 2021-07-29 |
US20230004363A1 (en) | 2023-01-05 |
CN111290744B (zh) | 2023-07-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11601378B2 (en) | Method and apparatus for allocating server resource, electronic device and storage medium | |
JP7194162B2 (ja) | データ処理方法、装置、電子機器及び記憶媒体 | |
KR102552419B1 (ko) | Gpu 공유 방법, 장치, 전자 기기 및 판독 가능한 저장 매체 | |
JP7214786B2 (ja) | 深層学習推論エンジンのスケジューリング方法、装置、機器及び媒体 | |
CN111897638B (zh) | 分布式任务调度方法及系统 | |
US20210191780A1 (en) | Method and apparatus for processing development machine operation task, device and storage medium | |
KR102522958B1 (ko) | 그래프 데이터베이스의 순회 방법, 장치, 설비 및 저장매체 | |
CN111694857B (zh) | 存储资源数据的方法、装置、电子设备及计算机可读介质 | |
CN111290744B (zh) | 流式计算作业处理方法、流式计算系统及电子设备 | |
CN111740859B (zh) | 一种测试环境的部署方法、装置、电子设备及存储介质 | |
CN112084395A (zh) | 搜索方法、搜索装置、电子设备和存储介质 | |
CN111767059B (zh) | 深度学习模型的部署方法、装置、电子设备和存储介质 | |
CN111563253B (zh) | 智能合约运行方法、装置、设备及存储介质 | |
CN110728773A (zh) | 一种图像存储的方法、装置和电子设备 | |
CN111506399A (zh) | 任务迁移方法、装置、电子设备及存储介质 | |
CN111416860B (zh) | 基于区块链的事务处理方法、装置、电子设备和介质 | |
CN111309793A (zh) | 数据处理方法、装置及设备 | |
CN117742891A (zh) | 带vDPA设备的虚拟机的创建方法、装置、设备及存储介质 | |
CN115391283A (zh) | 文本查找方法和装置 | |
CN113568761A (zh) | 数据处理方法、装置、设备及存储介质 | |
CN113360273A (zh) | 处理器资源动态分配方法、装置、设备及存储介质 | |
CN114219416A (zh) | 结合rpa与ai的rpa机器人浮动授权方法、装置及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |