CN111435939B - 用于划分节点的存储空间的方法和装置 - Google Patents
用于划分节点的存储空间的方法和装置 Download PDFInfo
- Publication number
- CN111435939B CN111435939B CN201910030429.8A CN201910030429A CN111435939B CN 111435939 B CN111435939 B CN 111435939B CN 201910030429 A CN201910030429 A CN 201910030429A CN 111435939 B CN111435939 B CN 111435939B
- Authority
- CN
- China
- Prior art keywords
- data
- node
- subspace
- nodes
- output
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1097—Protocols in which an application is distributed across nodes in the network for distributed storage of data in networks, e.g. transport arrangements for network file system [NFS], storage area networks [SAN] or network attached storage [NAS]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0668—Interfaces specially adapted for storage systems adopting a particular infrastructure
- G06F3/067—Distributed or networked storage systems, e.g. storage area networks [SAN], network attached storage [NAS]
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本申请实施例公开了用于划分节点的存储空间的方法。该方法的一具体实施方式包括:根据数据输出节点组中的数据输出节点的数目和数据输入节点组中的数据输入节点的数目,将数据输出节点组和数据输入节点组划分成至少一个节点分组,其中,节点分组包括数据输出节点和数据输入节点;响应于节点分组中数据输出节点的数目与数据输入节点的数目不等,对节点分组中数目少的类型的节点进行存储空间划分。该实施方式有助于实现对数据输出节点或数据输入节点进行存储空间划分。
Description
技术领域
本申请实施例涉及计算机技术领域,具体涉及用于划分节点的存储空间的方法和装置。
背景技术
流式计算系统中,通常是将上游计算节点(数据输出节点)的处理结果数据集合(待输出数据集合)作为下游计算节点(数据输入节点)的输入。相关技术中,存在对上游处理节点或下游处理节点进行存储空间划分的需求。
发明内容
本申请实施例提出了用于划分节点的存储空间的方法和装置。
第一方面,本申请实施例提供了一种用于划分节点的存储空间的方法,该方法包括:根据数据输出节点组中的数据输出节点的数目和数据输入节点组中的数据输入节点的数目,将数据输出节点组和数据输入节点组划分成至少一个节点分组,其中,节点分组包括数据输出节点和数据输入节点;响应于节点分组中数据输出节点的数目与数据输入节点的数目不等,对节点分组中数目少的类型的节点进行存储空间划分。
在一些实施例中,对节点分组中数目少的类型的节点进行存储空间划分,包括:响应于数目少的类型的节点为数据输出节点,将节点分组中的数据输出节点的存储空间划分成第一子空间组;将节点分组中的数据输出节点中的待输出数据集合中的待输出数据,存储于第一子空间组中的第一子空间;对于第一子空间组中的第一子空间,从节点分组中的至少一个数据输入节点中,确定与该第一子空间对应的数据输入节点。
在一些实施例中,对节点分组中数目少的类型的节点进行存储空间划分,还包括:根据节点分组中的数据输出节点的编号,确定第一子空间组中的第一子空间的子空间编号,得到子空间编号集合。
在一些实施例中,将节点分组中的数据输出节点中的待输出数据集合中的待输出数据,存储于第一子空间组中的第一子空间,包括:对于待输出数据集合中的待输出数据,确定该待输出数据的哈希值;根据所确定的哈希值,从子空间编号集合中,确定与所确定的哈希值相匹配的子空间编号;将该待输出数据存储于所确定的子空间编号对应的第一子空间。
在一些实施例中,对节点分组中数目少的类型的节点进行存储空间划分,包括:响应于数目少的类型的节点为数据输入节点,将节点分组中的数据输入节点的存储空间划分成第二子空间组;对于第二子空间组中的第二子空间,从节点分组中的至少一个数据输出节点中,确定与该第二子空间对应的数据输出节点。
在一些实施例中,方法还包括:响应于节点分组中的数据输出节点接收到节点分组中的数据输入节点发送的数据分发请求,根据数据分发请求,将接收到数据分发请求的数据输出节点的、待输出数据集合中的待输出数据,发送至节点分组中发起数据分发请求的数据输入节点。
第二方面,本申请实施例提供了一种用于划分节点的存储空间的装置,包括:分组单元,被配置成根据数据输出节点组中的数据输出节点的数目和数据输入节点组中的数据输入节点的数目,将数据输出节点组和数据输入节点组划分成至少一个节点分组,其中,节点分组包括数据输出节点和数据输入节点;分片单元,被配置成响应于节点分组中数据输出节点的数目与数据输入节点的数目不等,对节点分组中数目少的类型的节点进行存储空间划分。
在一些实施例中,对节点分组中数目少的类型的节点进行存储空间划分,包括:响应于数目少的类型的节点为数据输出节点,将节点分组中的数据输出节点的存储空间划分成第一子空间组;将节点分组中的数据输出节点中的待输出数据集合中的待输出数据,存储于第一子空间组中的第一子空间;对于第一子空间组中的第一子空间,从节点分组中的至少一个数据输入节点中,确定与该第一子空间对应的数据输入节点。
在一些实施例中,对节点分组中数目少的类型的节点进行存储空间划分,还包括:根据节点分组中的数据输出节点的编号,确定第一子空间组中的第一子空间的子空间编号,得到子空间编号集合。
在一些实施例中,将节点分组中的数据输出节点中的待输出数据集合中的待输出数据,存储于第一子空间组中的第一子空间,包括:对于待输出数据集合中的待输出数据,确定该待输出数据的哈希值;根据所确定的哈希值,从子空间编号集合中,确定与所确定的哈希值相匹配的子空间编号;将该待输出数据存储于所确定的子空间编号对应的第一子空间。
在一些实施例中,对节点分组中数目少的类型的节点进行存储空间划分,包括:响应于数目少的类型的节点为数据输入节点,将节点分组中的数据输入节点的存储空间划分成第二子空间组;对于第二子空间组中的第二子空间,从节点分组中的至少一个数据输出节点中,确定与该第二子空间对应的数据输出节点。
在一些实施例中,装置还包括:分发单元,被配置成响应于节点分组中的数据输出节点接收到节点分组中的数据输入节点发送的数据分发请求,根据数据分发请求,将接收到数据分发请求的数据输出节点的、待输出数据集合中的待输出数据,发送至节点分组中发起数据分发请求的数据输入节点。
第三方面,本申请实施例提供了一种服务器,包括:一个或多个处理器;存储装置,其上存储有一个或多个程序,当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现如用于划分节点的存储空间的方法中任一实施例的方法。
第四方面,本申请实施例提供了一种计算机可读介质,其上存储有计算机程序,其中,该程序被处理器执行时实现如用于划分节点的存储空间的方法中任一实施例的方法。
本申请实施例提供的用于划分节点的存储空间的方法和装置,可以首先根据数据输出节点组中的数据输出节点的数目和数据输入节点组中的数据输入节点的数目,将数据输出节点组和数据输入节点组划分成至少一个节点分组。其中,节点分组包括数据输出节点和数据输入节点。然后,响应于节点分组中数据输出节点的数目与数据输入节点的数目不等,对节点分组中数目少的类型的节点进行存储空间划分。本实施例的方法和装置,有助于实现对数据输出节点或数据输入节点进行存储空间划分。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本申请的其它特征、目的和优点将会变得更明显:
图1是本申请的一个实施例可以应用于其中的示例性系统架构图;
图2是根据本申请的用于划分节点的存储空间的方法的一个实施例的流程图;
图3是根据本申请实施例的用于划分节点的存储空间的方法的一个应用场景的示意图;
图4是根据本申请的用于划分节点的存储空间的方法的又一个实施例的流程图;
图5是根据本申请的用于划分节点的存储空间的装置的一个实施例的结构示意图;
图6是适于用来实现本申请实施例的服务器的计算机系统的结构示意图。
具体实施方式
下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释相关发明,而非对该发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与有关发明相关的部分。
需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
图1示出了可以应用本申请实施例的用于划分节点的存储空间的方法或用于划分节点的存储空间的装置的示例性系统架构100。
如图1所示,系统架构100可以包括控制节点101,数据输出节点102、103,数据输入节点104、105、106、107,网络108、109、110。网络108、109、110用以在控制节点101,数据输出节点102、103,数据输入节点104、105、106、107之间提供通信链路的介质。网络108、109、110可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
数据输出节点102、103可以通过网络108、110与控制节点101和数据输入节点104、105、106、107交互,以接收信息或发送信息等。数据输出节点102、103可以在接收到控制节点101发送的控制指令后,将待输出数据发送给数据输入节点104、105、106、107。
数据输入节点104、105、106、107可以通过网络109、110与控制节点101和数据输出节点102、103交互,以接收信息或发送信息等。数据输入节点104、105、106、107可以在接收到数据输出节点102、103分发的待输出数据后,对待输出数据进行处理。
控制节点101可以通过网络108、109与数据输出节点102、103和数据输入节点104、105、106、107交互,以接收或发送信息等。控制节点101可以在确定数据输出节点接收到数据输入节点的数据分发请求时,控制数据输出节点将待输出数据发送给数据输入节点。
需要说明的是,控制节点101,数据输出节点102、103,数据输入节点104、105、106、107可以是硬件,也可以是软件,甚至可以是软件中的一个函数。当控制节点101,数据输出节点102、103,数据输入节点104、105、106、107为硬件时,可以是具有运算能力的处理器、计算机等电子设备。当控制节点101,数据输出节点102、103,数据输入节点104、105、106、107为软件时,可以运行于上述所列举的电子设备中。
需要说明的是,本申请实施例所提供的用于划分节点的存储空间的方法一般由控制节点101执行,相应地,用于划分节点的存储空间的装置一般设置于控制节点101中。需要指出的是,本申请实施例所提供的用于划分节点的存储空间的方法不依赖于数据输出节点102、103和数据输入节点104、105、106、107,因而,图1中可以不存在数据输出节点102、103和数据输入节点104、105、106、107。
应该理解,图1中的控制节点、网络、数据输入节点和数据输出节点的数目仅仅是示意性的。根据实现需要,可以具有任意数目的控制节点、网络、数据输入节点和数据输出节点。
继续参考图2,示出了根据本申请的用于划分节点的存储空间的方法的一个实施例的流程200。该用于划分节点的存储空间的方法,包括以下步骤:
步骤201,根据数据输出节点组中的数据输出节点的数目和数据输入节点组中的数据输入节点的数目,将数据输出节点组和数据输入节点组划分成至少一个节点分组。
在本实施例中,用于划分节点的存储空间的方法的执行主体(例如,图1中的控制节点101),可以将数据输出节点组和数据输入节点组划分成至少一个节点分组。
需要指出的是,为了便于描述,本实施例的各种实施例中,除非另有申明,数据输出节点组中的数据输出节点的数目,可以记作第一数目,二者概念等同。以及数据输入节点组中的数据输入节点的数目,可以记作第二数目,二者概念等同。
在本实施例中,节点分组,通常是指将若干数据输出节点和若干数据输入节点分为一个组。这里,执行主体可以按照第一数目和第二数目的大小,进行均匀节点分组,即,每个节点分组中的数据输出节点的数量相同,以及每个节点分组中的数据输入节点的数目也相同。作为示例,若第一数目为2,第二数目为4,则每个节点分组中可以有一个数据输出节点和两个数据输入节点。另外,执行主体也可以按照第一数目和第二数目的大小,进行递增节点分组。这里,上述递增节点分组可以是指每个节点分组中的数据输出节点的数目相同,数据输入节点的数目递增。也可以是指每个节点分组中的数据输入节点的数目相同,数据输出节点的数目递增。还可以是指每个节点分组中的数据输出节点的数目递增,数据输入节点的数目也递增。作为示例,若第一数目为5,第二数目为2,则一个节点分组可以为一个数据输入节点和两个数据输出节点,另一个节点分组可以为一个数据输入节点和三个数据输出节点。
在本实施例中,节点分组包括数据输出节点和数据输入节点。作为示例,若某个节点分组为{AE0,BE0,BE1},则可以表征该节点分组中包括一个数据输出节点AE0和两个目标处理节BE0,BE1。
另外,在本申请的各个实施例中,除非另有申明,一般地,一个节点分组中,可以是一个数据输出节点和多个数据输入节点。也可以是一个数据输入节点和多个数据输出节点。
在本实施例中,执行主体可以通过多种方式得到数据输出节点组中的数据输出节点的数目和数据输入节点组中的数据输入节点的数目。作为一种示例,执行主体可以从预先存储的参数集合中直接获取到用于表征数据输出节点数目的参数和用于表征数据输入节点数目的参数,从而得到数据输出节点组中的数据输出节点的数目和数据输入节点组中的数据输入节点的数目。其中,上述预先存储的参数集合中的参数可以是技术人员预先设定的各种参数,并且参数集合中包括用于表征数据输出节点数目的参数和用于表征数据输入节点数目的参数。作为另一种示例,执行主体也可以将控制节点当前存储的数据输出节点的身份标识的数目,作为数据输出节点的数目。以及将当前存储的数据输入节点的身份标识的数目,作为数据输入节点的数目。
需要指出的是,在本申请的各种实施例中,数据输出节点通常可以是对所输入的多个数据进行处理,并将所得到的多个处理结果数据输出给下游节点的节点。数据输入节点通常可以是接收上游节点输出的多个数据,并对所接收的多个数据进行处理的节点。作为示例,数据输出节点可以为进程,以及数据输入节点也可以为进程。
步骤202,响应于节点分组中数据输出节点的数目与数据输入节点的数目不等,对节点分组中数目少的类型的节点进行存储空间划分。
在本实施例中,执行主体可以比较各节点分组中的不同类型的节点的数目。上述节点的类型通常可以为数据输出节点类型或数据输入节点类型。其中,对于节点分组中的任一节点分组,执行主体可以得到节点分组中数据输出节点的数目和数据输入节点的数目,然后比较所得到的两个数目的大小,对数目少的类型的节点进行存储空间划分。这里,数目少的类型的节点通常为一个。
在本实施例的一些可选的实现方式中,对节点分组中数目少的类型的节点进行存储空间划分,包括:
第一步,响应于数目少的类型的节点为数据输出节点,将数据输出节点的存储空间划分成子空间组,作为第一子空间组。这里,执行主体可以对数据输出节点进行存储空间划分,得到由两个或两个以上的子空间组成的子空间组,作为第一子空间组。这里,第一子空间组中的第一子空间的数目,可以是技术人员预先设定的空间数目值,也可以是与该数据输出节点属于同一节点分组的数据输入节点的数目值。
第二步,将节点分组中的数据输出节点中的待输出数据集合中的待输出数据,存储于第一子空间组中的第一子空间。这里,执行主体可以将待输出数据集合划分成与第一子空间数目相等的份额,得到待输出数据子集合组。作为示例,若第一子空间数目为2,则可以将待输出数据集合划分成两份,得到由两个待输出数据子集合组成的待输出数据子集合组。而后,一个待输出数据子集合存储于一个第一子空间。
可选地,上述对节点分组中数目少的类型的节点进行存储空间划分,还包括:根据节点分组中的数据输出节点的编号,确定第一子空间组中的第一子空间的子空间编号,得到子空间编号集合。
这里,首先,执行主体可以采用节点分组中的数据输出节点的编号,以及采用预先设定的编号生成公式,生成第一子空间组的子空间编号区间。其中,上述预先设定的编号生成公式可以是技术人员预先设定的公式。上述预先设定的编号生成公式可以为keyGroups=[k*N,(k+1)*N-1]。其中,keyGroups为子空间编号区间,k为上述数据输出节点的编号。N为第一子空间组中的第一子空间的数目,*为乘号。然后,顺次,如按照从小到大的顺序,从子空间编号区间中选取整数对第一子空间组中的第一子空间进行编号,得到各第一子空间的子空间编号。需要指出的是,数据输出节点组中的每个数据输出节点可以预先设置有编号。通常,数据输出节点组中的数据输出节点的编号是按序编排的。例如,若数据输出节点组中具有3个数据输出节点,则各数据输出节点的编号可以为0,1,2。另外,数据输入节点组中的每个数据输入节点也可以预先设置有编号。通常,数据输入节点组中的数据输入节点的编号是按序编排的。例如,若数据输入节点组中具有3个数据输入节点,则各数据输入节点的编号可以为0,1,2。
第三步,对于第一子空间组中的第一子空间,从节点分组中的至少一个数据输入节点中,确定与该第一子空间对应的数据输入节点。这里,执行主体可以从节点分组中的至少一个数据输入节点中,选择一个数据输入节点,作为该第一子空间对应的数据输入节点。
可选地,上述确定与该第一子空间对应的数据输入节点,包括:从至少一个数据输入节点中,查找到编号与该第一子空间的子空间编号相匹配的数据输入节点,作为该第一子空间对应的数据输入节点。这里,执行主体可以将该第一子空间的编号,与至少一个数据输入节点中的数据输入节点的编号进行逐一比较,若该第一子空间的子空间编号与某个数据输入节点的编号相匹配,则将该相匹配的编号对应的数据输入节点,作为该第一子空间对应的数据输入节点。
需要指出的是,本实施例中,对数据输出节点进行存储空间划分,有助于在将数据输出节点中的数据分发时,将具有某种相同特性的待输出数据归类发送给数据输入节点,以进行聚合处理。同时,将数据输出节点中的某一个子空间所存储的待输出数据发送给数据输入节点,可降低数据输出节点或者数据输入节点的并发度,有助于缓解数据热点、提升网络IO效率。
在本实施例的一些可选的实现方式中,将节点分组中的数据输出节点中的待输出数据集合中的待输出数据,存储于第一子空间组中的第一子空间,包括:
第一步,对于待输出数据集合中的待输出数据,确定该待输出数据的哈希值。这里,执行主体可以将该待输出数据输入哈希函数,从而得到该待输出数据的哈希值。需要指出的是,对数据输出节点中的待输出数据进行哈希运算,有助于实现将具有相同哈希值的待输出数据存储于同一第一子空间。这样,将相类似的数据放在一个子空间中进行处理,可以提高数据的聚合度,即,有助于实现对数据的聚合处理。
第二步,根据所确定的哈希值,从子空间编号集合中,确定与所确定的哈希值相匹配的子空间编号。这里,执行主体可以首先,采用所确定的哈希值和预先设定的分片标识函数,得到该待输出数据的分片标识码。这里,可以将所确定的哈希值输入预先设定的分片标识函数,得到该待输出数据的分片标识码。其中,上述分片标识码可以是用于指示待输出数据的所属空间的标识码。上述分片标识函数可以是技术人员预先设定的、用于表征哈希值与分片标识码的对应关系的函数。可选地,上述分片标识函数可以为:kg_id=Hash%L+k*N。其中,kg_id为分片标识码。Hash为所得到的待输出数据的哈希值。%为取余符号。L为与该数据输出节点属于同一节点分组的数据输入节点的数目。k为上述数据输出节点的编号。N为第一子空间组中的第一子空间的数目。+为加号,*为乘号。作为示例,若L=2,k=1,N=2,且待输出数据的哈希值Hash=3,此时,该待输出数据的分片标识码kg_id=3%2+1*2=3。然后,采用所得到的分片标识码,从子空间编号集合中,查找到与所得到的分片标识码相匹配(相同或相应)的子空间编号。作为示例,若子空间编号为k001,用于表征第一个子空间。分片标识码为1,用于表征第一个分片。此时,可以认为,子空间编号k001与分片标识码为1相应,即,二者相匹配。
第三步,将该待输出数据存储于所确定的子空间编号对应的第一子空间。
在本实施例的一些可选的实现方式中,对节点分组中数目少的类型的节点进行存储空间划分,包括:
第一步,响应于数目少的类型的节点为数据输入节点,将节点分组中的数据输入节点的存储空间划分成第二子空间组。这里,执行主体可以对数据输入节点进行存储空间划分,得到由两个或两个以上的子空间组成的子空间组,作为第二子空间组。这里,第二子空间组中的第二子空间的数目,可以是技术人员预先设定的空间数目值,也可以是与上述数据输入节点属于同一节点分组的数据输出节点的数目值。
第二步,对于第二子空间组中的第二子空间,从节点分组中的至少一个数据输出节点中,确定与该第二子空间对应的数据输出节点。这里,执行主体可以从节点分组中的至少一个数据输出节点中,选择一个数据输出节点,作为该第二子空间对应的数据输出节点。一般地,第二子空间组中的第二子空间的数目通常与上述多个数据输出节点的数目相同。此时,一个第二子空间对应一个数据输出节点。作为示例,若上述多个数据输出节点的数目为2,则第二子空间的数目为2。此时,可以从两个数据输出节点中选择一个数据输出节点与一个第二子空间对应,以及选择另一个数据输出节点与另一个第二子空间对应。
需要指出的是,本实施例中,对数据输入节点进行存储空间划分,有助于在将数据输出节点中的数据分发时,将待输出数据发送给数据输入节点的某一个子空间,可降低数据输出节点或者数据输入节点的并发度,有助于缓解数据热点、提升网络IO效率。
继续参见图3,图3是根据本实施例的用于划分节点的存储空间的方法的应用场景的一个示意图。在图3的应用场景300中,控制节点301可以首先确定数据输出节点组{A-PE0,A-PE1}中的数据输出节点的数目为2,此时第一数目为2。而后,确定数据输入节点组{B-PE0,B-PE1,B-PE2,B-PE3}中的数据输入节点的数目为4,此时第二数目为4。
然后,控制节点301根据第一数目和第二数目,将{A-PE0,A-PE1}和{B-PE0,B-PE1,B-PE2,B-PE3}划分成至少一个节点分组。此时,可以得到两个节点分组,分别为节点分组甲:{A-PE0,B-PE0,B-PE1},节点分组乙:{A-PE1,B-PE2,B-PE3}。
最后,控制节点301响应于节点分组中数据输出节点的数目与数据输入节点的数目不等,对节点分组中数目少的类型的节点进行存储空间划分。此时,节点分组甲和节点分组乙中的数据输出节点的数目均多于数据输入节点的数目。因此,对于节点分组甲和节点分组乙,均是对其中的数据输出节点进行存储空间划分。
本申请的上述实施例提供的用于划分节点的存储空间的方法,可以首先根据数据输出节点组中的数据输出节点的数目和数据输入节点组中的数据输入节点的数目,将数据输出节点组和数据输入节点组划分成至少一个节点分组。其中,节点分组包括数据输出节点和数据输入节点。然后,响应于节点分组中数据输出节点的数目与数据输入节点的数目不等,对节点分组中数目少的类型的节点进行存储空间划分。本实施例的方法,通过对节点分组中数目少的类型的节点进行存储空间划分,可以实现对数据输出节点或数据输入节点进行存储空间划分。
进一步参考图4,其示出了用于划分节点的存储空间的方法的又一个实施例的流程400。该用于划分节点的存储空间的方法的流程400,包括以下步骤:
步骤401,根据数据输出节点组中的数据输出节点的数目和数据输入节点组中的数据输入节点的数目,将数据输出节点组和数据输入节点组划分成至少一个节点分组。
步骤402,响应于节点分组中数据输出节点的数目与数据输入节点的数目不等,对节点分组中数目少的类型的节点进行存储空间划分。
在本实施例中,步骤401-402的具体操作与图2所示的实施例中步骤201-202的操作基本相同,在此不做赘述。
步骤403,响应于节点分组中的数据输出节点接收到节点分组中的数据输入节点发送的数据分发请求,根据数据分发请求,将接收到数据分发请求的数据输出节点的、待输出数据集合中的待输出数据,发送至节点分组中发起数据分发请求的数据输入节点。
其中,上述数据分发请求可以是用于请求分发数据的请求。
在本实施例中,若步骤402中对节点分组中的数据输出节点进行了存储空间划分。在数据输出节点接收到节点分组中的数据输入节点发送的数据分发请求时,则执行主体可以将对应第一子空间所存储的待输出数据,发送至数据输入节点。其中,上述对应第一子空间,为预先确定的对应于数据输入节点的第一子空间。需要指出的是,确定数据输入节点对应的第一子空间的方式,与前述的确定与第一子空间对应的数据输入节点的方式基本相同,这里不做赘述。另外,若步骤402中对节点分组中的数据输入节点进行了存储空间划分。在数据输出节点接收到节点分组中的数据输入节点发送的数据分发请求时,则执行主体可以将上述数据输出节点的待输出数据,发送至数据输入节点中的对应第二子空间。其中,上述对应第二子空间,为预先确定的对应于数据输出节点的第二子空间。需要指出的是,确定数据输出节点对应的第二子空间的方式,与前述的确定与第二子空间对应的数据输出节点的方式基本相同,这里不做赘述。
从图4中可以看出,与图2对应的实施例相比,本实施例中的用于划分节点的存储空间的方法的流程400体现了基于数据输入节点的数据分发请求,分发数据输出节点中的待输出数据的步骤。由此,本实施例描述的方案可以根据节点的存储空间划分情况,实现对数据输出节点中的待输出数据的空间发送或空间接收,有助于将相类似的数据放在一个空间中进行处理,可以提高数据的聚合度。
进一步参考图5,作为对上述各图所示方法的实现,本申请提供了一种用于划分节点的存储空间的装置的一个实施例,该装置实施例与图2所示的方法实施例相对应,该装置具体可以应用于各种服务器中。
如图5所示,本实施例的用于划分节点的存储空间的装置500包括:分组单元501,被配置成根据数据输出节点组中的数据输出节点的数目和数据输入节点组中的数据输入节点的数目,将数据输出节点组和数据输入节点组划分成至少一个节点分组,其中,节点分组包括数据输出节点和数据输入节点;分片单元502,被配置成响应于节点分组中数据输出节点的数目与数据输入节点的数目不等,对节点分组中数目少的类型的节点进行存储空间划分。
在本实施例的一些可选的实现方式中,对节点分组中数目少的类型的节点进行存储空间划分,可以包括:首先,响应于数目少的类型的节点为数据输出节点,将节点分组中的数据输出节点的存储空间划分成第一子空间组。然后,将节点分组中的数据输出节点中的待输出数据集合中的待输出数据,存储于第一子空间组中的第一子空间。最后,对于第一子空间组中的第一子空间,从节点分组中的至少一个数据输入节点中,确定与该第一子空间对应的数据输入节点。
在本实施例的一些可选的实现方式中,对节点分组中数目少的类型的节点进行存储空间划分,还可以包括:根据节点分组中的数据输出节点的编号,确定第一子空间组中的第一子空间的子空间编号,得到子空间编号集合。
在本实施例的一些可选的实现方式中,将节点分组中的数据输出节点中的待输出数据集合中的待输出数据,存储于第一子空间组中的第一子空间,可以包括:首先,对于待输出数据集合中的待输出数据,确定该待输出数据的哈希值。然后,根据所确定的哈希值,从子空间编号集合中,确定与所确定的哈希值相匹配的子空间编号。最后,将该待输出数据存储于所确定的子空间编号对应的第一子空间。
在本实施例的一些可选的实现方式中,对节点分组中数目少的类型的节点进行存储空间划分,可以包括:首先,响应于数目少的类型的节点为数据输入节点,将节点分组中的数据输入节点的存储空间划分成第二子空间组。然后,对于第二子空间组中的第二子空间,从节点分组中的至少一个数据输出节点中,确定与该第二子空间对应的数据输出节点。
在本实施例的一些可选的实现方式中,装置还可以包括分发单元(图中未示出)。分发单元可以被配置成响应于节点分组中的数据输出节点接收到节点分组中的数据输入节点发送的数据分发请求,根据数据分发请求,将接收到数据分发请求的数据输出节点的、待输出数据集合中的待输出数据,发送至节点分组中发起数据分发请求的数据输入节点。
本申请的上述实施例提供的装置,首先,分组单元501根据数据输出节点组中的数据输出节点的数目和数据输入节点组中的数据输入节点的数目,将数据输出节点组和数据输入节点组划分成至少一个节点分组,其中,节点分组包括数据输出节点和数据输入节点;分片单元502响应于节点分组中数据输出节点的数目与数据输入节点的数目不等,对节点分组中数目少的类型的节点进行存储空间划分。本实施例的装置,通过对节点分组中数目少的类型的节点进行存储空间划分,可以实现对数据输出节点或数据输入节点进行存储空间划分。
下面参考图6,其示出了适于用来实现本申请实施例的服务器的计算机系统600的结构示意图。图6示出的服务器仅仅是一个示例,不应对本申请实施例的功能和使用范围带来任何限制。
如图6所示,计算机系统600包括中央处理单元(CPU)601,其可以根据存储在只读存储器(ROM)602中的程序或者从存储部分608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM 603中,还存储有系统600操作所需的各种程序和数据。CPU 601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
以下部件连接至I/O接口605:包括键盘、鼠标等的输入部分606;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分607;包括硬盘等的存储部分608;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分609。通信部分609经由诸如因特网的网络执行通信处理。驱动器610也根据需要连接至I/O接口605。可拆卸介质611,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器610上,以便于从其上读出的计算机程序根据需要被安装入存储部分608。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分609从网络上被下载和安装,和/或从可拆卸介质611被安装。在该计算机程序被中央处理单元(CPU)601执行时,执行本申请的方法中限定的上述功能。需要说明的是,本申请的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本申请中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本申请实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中,例如,可以描述为:一种处理器包括,分组单元和分片单元。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定,例如,分组单元还可以被描述为“根据数据输出节点组中的数据输出节点的数目和数据输入节点组中的数据输入节点的数目,将数据输出节点组和数据输入节点组划分成至少一个节点分组”。
作为另一方面,本申请还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的装置中所包含的;也可以是单独存在,而未装配入该装置中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该装置执行时,使得该装置:根据数据输出节点组中的数据输出节点的数目和数据输入节点组中的数据输入节点的数目,将数据输出节点组和数据输入节点组划分成至少一个节点分组,其中,节点分组包括数据输出节点和数据输入节点;响应于节点分组中数据输出节点的数目与数据输入节点的数目不等,对节点分组中数目少的类型的节点进行存储空间划分。
以上描述仅为本申请的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本申请中所涉及的发明范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述发明构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本申请中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
Claims (12)
1.一种用于划分节点的存储空间的方法,包括:
根据数据输出节点组中的数据输出节点的数目和数据输入节点组中的数据输入节点的数目,将所述数据输出节点组和所述数据输入节点组划分成至少一个节点分组,其中,所述节点分组包括数据输出节点和数据输入节点;
响应于所述节点分组中数据输出节点的数目与数据输入节点的数目不等,对所述节点分组中数目少的类型的节点进行存储空间划分;
所述对所述节点分组中数目少的类型的节点进行存储空间划分,包括:
响应于数目少的类型的节点为数据输出节点,将所述节点分组中的数据输出节点的存储空间划分成第一子空间组;
将所述节点分组中的数据输出节点中的待输出数据集合中的待输出数据,存储于所述第一子空间组中的第一子空间;
对于所述第一子空间组中的第一子空间,从所述节点分组中的至少一个数据输入节点中,确定与该第一子空间对应的数据输入节点。
2.根据权利要求1所述的方法,其中,所述对所述节点分组中数目少的类型的节点进行存储空间划分,还包括:
根据所述节点分组中的数据输出节点的编号,确定所述第一子空间组中的第一子空间的子空间编号,得到子空间编号集合。
3.根据权利要求2所述的方法,其中,所述将所述节点分组中的数据输出节点中的待输出数据集合中的待输出数据,存储于所述第一子空间组中的第一子空间,包括:
对于待输出数据集合中的待输出数据,确定该待输出数据的哈希值;根据所确定的哈希值,从所述子空间编号集合中,确定与所确定的哈希值相匹配的子空间编号;将该待输出数据存储于所确定的子空间编号对应的第一子空间。
4.根据权利要求1所述的方法,其中,所述对所述节点分组中数目少的类型的节点进行存储空间划分,包括:
响应于数目少的类型的节点为数据输入节点,将所述节点分组中的数据输入节点的存储空间划分成第二子空间组;
对于所述第二子空间组中的第二子空间,从所述节点分组中的至少一个数据输出节点中,确定与该第二子空间对应的数据输出节点。
5.根据权利要求1-4之一所述的方法,其中,所述方法还包括:
响应于所述节点分组中的数据输出节点接收到所述节点分组中的数据输入节点发送的数据分发请求,根据所述数据分发请求,将接收到数据分发请求的数据输出节点的、待输出数据集合中的待输出数据,发送至所述节点分组中发起数据分发请求的数据输入节点。
6.一种用于划分节点的存储空间的装置,包括:
分组单元,被配置成根据数据输出节点组中的数据输出节点的数目和数据输入节点组中的数据输入节点的数目,将所述数据输出节点组和所述数据输入节点组划分成至少一个节点分组,其中,所述节点分组包括数据输出节点和数据输入节点;
分片单元,被配置成响应于所述节点分组中数据输出节点的数目与数据输入节点的数目不等,对所述节点分组中数目少的类型的节点进行存储空间划分;
所述对所述节点分组中数目少的类型的节点进行存储空间划分,包括:
响应于数目少的类型的节点为数据输出节点,将所述节点分组中的数据输出节点的存储空间划分成第一子空间组;
将所述节点分组中的数据输出节点中的待输出数据集合中的待输出数据,存储于所述第一子空间组中的第一子空间;
对于所述第一子空间组中的第一子空间,从所述节点分组中的至少一个数据输入节点中,确定与该第一子空间对应的数据输入节点。
7.根据权利要求6所述的装置,其中,所述对所述节点分组中数目少的类型的节点进行存储空间划分,还包括:
根据所述节点分组中的数据输出节点的编号,确定所述第一子空间组中的第一子空间的子空间编号,得到子空间编号集合。
8.根据权利要求7所述的装置,其中,所述将所述节点分组中的数据输出节点中的待输出数据集合中的待输出数据,存储于所述第一子空间组中的第一子空间,包括:
对于待输出数据集合中的待输出数据,确定该待输出数据的哈希值;根据所确定的哈希值,从所述子空间编号集合中,确定与所确定的哈希值相匹配的子空间编号;将该待输出数据存储于所确定的子空间编号对应的第一子空间。
9.根据权利要求6所述的装置,其中,所述对所述节点分组中数目少的类型的节点进行存储空间划分,包括:
响应于数目少的类型的节点为数据输入节点,将所述节点分组中的数据输入节点的存储空间划分成第二子空间组;
对于所述第二子空间组中的第二子空间,从所述节点分组中的至少一个数据输出节点中,确定与该第二子空间对应的数据输出节点。
10.根据权利要求6-9之一所述的装置,其中,所述装置还包括:
分发单元,被配置成响应于所述节点分组中的数据输出节点接收到所述节点分组中的数据输入节点发送的数据分发请求,根据所述数据分发请求,将接收到数据分发请求的数据输出节点的、待输出数据集合中的待输出数据,发送至所述节点分组中发起数据分发请求的数据输入节点。
11.一种服务器,包括:
一个或多个处理器;
存储装置,其上存储有一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-5中任一所述的方法。
12.一种计算机可读介质,其上存储有计算机程序,其中,该程序被处理器执行时实现如权利要求1-5中任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910030429.8A CN111435939B (zh) | 2019-01-14 | 2019-01-14 | 用于划分节点的存储空间的方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910030429.8A CN111435939B (zh) | 2019-01-14 | 2019-01-14 | 用于划分节点的存储空间的方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111435939A CN111435939A (zh) | 2020-07-21 |
CN111435939B true CN111435939B (zh) | 2023-05-05 |
Family
ID=71580468
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910030429.8A Active CN111435939B (zh) | 2019-01-14 | 2019-01-14 | 用于划分节点的存储空间的方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111435939B (zh) |
Family Cites Families (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000259584A (ja) * | 1999-03-09 | 2000-09-22 | Nec Corp | クラスタシステムとノード間通信方法とその方法を記録した記録媒体 |
JP5058615B2 (ja) * | 2007-01-25 | 2012-10-24 | エヌイーシーコンピュータテクノ株式会社 | ノード制御装置および情報処理装置 |
EP1953974B1 (en) * | 2007-01-31 | 2013-11-06 | Deutsche Telekom AG | A packet transmission scheme for improved throughput over multi-hop routes of a wireless multihop network |
US7941613B2 (en) * | 2007-05-31 | 2011-05-10 | Broadcom Corporation | Shared memory architecture |
US7653716B2 (en) * | 2007-08-15 | 2010-01-26 | International Business Machines Corporation | Determining a bisection bandwidth for a multi-node data communications network |
US8471845B1 (en) * | 2009-07-31 | 2013-06-25 | Nvidia Corporation | System and method for constructing a bounding volume hierarchical structure |
WO2011157150A2 (zh) * | 2011-05-31 | 2011-12-22 | 华为技术有限公司 | 数据处理方法、缓存节点、协作控制器及系统 |
CN103369042B (zh) * | 2013-07-10 | 2016-03-30 | 中国人民解放军国防科学技术大学 | 一种数据处理方法和装置 |
CN103577122B (zh) * | 2013-11-06 | 2016-08-17 | 杭州华为数字技术有限公司 | 分布式应用系统在平台间迁移的实现方法及装置 |
US9367243B1 (en) * | 2014-06-04 | 2016-06-14 | Pure Storage, Inc. | Scalable non-uniform storage sizes |
CN105159841B (zh) * | 2014-06-13 | 2018-10-19 | 华为技术有限公司 | 一种内存迁移方法及装置 |
CN106662983B (zh) * | 2015-12-31 | 2019-04-12 | 华为技术有限公司 | 分布式存储系统中的数据重建的方法、装置和系统 |
US10649996B2 (en) * | 2016-12-09 | 2020-05-12 | Futurewei Technologies, Inc. | Dynamic computation node grouping with cost based optimization for massively parallel processing |
CN107295080B (zh) * | 2017-06-19 | 2020-12-18 | 北京百度网讯科技有限公司 | 应用于分布式服务器集群的数据存储方法和服务器 |
CN107273509B (zh) * | 2017-06-20 | 2020-06-05 | 哈尔滨理工大学 | 一种神经网络数据存储器、数据存储方法及数据查找方法 |
CN107911471B (zh) * | 2017-12-01 | 2019-12-03 | 中国联合网络通信集团有限公司 | 数据的分布式缓存方法及设备 |
CN108595211B (zh) * | 2018-01-05 | 2021-11-26 | 百度在线网络技术(北京)有限公司 | 用于输出数据的方法和装置 |
CN108197324B (zh) * | 2018-02-06 | 2021-07-16 | 百度在线网络技术(北京)有限公司 | 用于存储数据的方法和装置 |
CN109145023B (zh) * | 2018-08-30 | 2020-11-27 | 北京百度网讯科技有限公司 | 用于处理数据的方法和装置 |
-
2019
- 2019-01-14 CN CN201910030429.8A patent/CN111435939B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN111435939A (zh) | 2020-07-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11325780B2 (en) | Method and device for sorting cargo | |
CN110852882B (zh) | 用于区块链网络的分组共识方法、装置、设备和介质 | |
CN108933695B (zh) | 用于处理信息的方法和装置 | |
CN110321738A (zh) | 信息处理方法和装置 | |
CN106168963A (zh) | 实时流数据的处理方法、装置及服务器 | |
CN111629063A (zh) | 基于区块链的分布式文件下载的方法和电子设备 | |
CN105721612B (zh) | 数据传输方法和装置 | |
CN113051456A (zh) | 请求处理方法、装置、电子设备和计算机可读介质 | |
CN111435939B (zh) | 用于划分节点的存储空间的方法和装置 | |
CN110505276B (zh) | 对象匹配方法、装置及系统、电子设备及存储介质 | |
CN111951112A (zh) | 基于区块链的智能合约执行方法、终端设备和存储介质 | |
CN111898061A (zh) | 搜索网络的方法、装置、电子设备和计算机可读介质 | |
CN111552715A (zh) | 用户查询方法和装置 | |
WO2023071566A1 (zh) | 数据处理方法、装置、计算机设备、计算机可读存储介质及计算机程序产品 | |
CN109462491B (zh) | 用于测试服务器功能的系统、方法和装置 | |
CN113726885B (zh) | 一种流量配额的调整方法和装置 | |
CN115776461A (zh) | 投屏方法、设备及存储介质 | |
CN109308299B (zh) | 用于搜索信息的方法和装置 | |
CN114492844A (zh) | 机器学习工作流的构建方法、装置、电子设备及存储介质 | |
CN118095351B (zh) | 层归一化计算的协同处理装置及方法 | |
US20240106889A1 (en) | Data resource storage method and apparatus, data resource query method and apparatus, and electronic device | |
CN113608703B (zh) | 数据处理方法及装置 | |
CN118132549A (zh) | 数据处理的方法、装置、电子设备和存储介质 | |
CN109240878B (zh) | 数据处理方法和装置 | |
US10715615B1 (en) | Dynamic content distribution system and associated methods |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |