CN109905443A - 数据处理方法、系统、电子设备和计算机可读介质 - Google Patents

数据处理方法、系统、电子设备和计算机可读介质 Download PDF

Info

Publication number
CN109905443A
CN109905443A CN201711303155.2A CN201711303155A CN109905443A CN 109905443 A CN109905443 A CN 109905443A CN 201711303155 A CN201711303155 A CN 201711303155A CN 109905443 A CN109905443 A CN 109905443A
Authority
CN
China
Prior art keywords
master data
subdata
data
submodule
created
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201711303155.2A
Other languages
English (en)
Other versions
CN109905443B (zh
Inventor
王海银
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Jingdong Century Trading Co Ltd
Beijing Jingdong Shangke Information Technology Co Ltd
Original Assignee
Beijing Jingdong Century Trading Co Ltd
Beijing Jingdong Shangke Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Jingdong Century Trading Co Ltd, Beijing Jingdong Shangke Information Technology Co Ltd filed Critical Beijing Jingdong Century Trading Co Ltd
Priority to CN201711303155.2A priority Critical patent/CN109905443B/zh
Publication of CN109905443A publication Critical patent/CN109905443A/zh
Application granted granted Critical
Publication of CN109905443B publication Critical patent/CN109905443B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本公开提供了一种数据处理方法,包括,在集群系统的不同节点中创建多个子数据用于关联一个主数据,响应于对所述主数据进行的操作,确定至少一个所述子数据,并对所述至少一个子数据进行操作,更新所述至少一个子数据,以及根据至少一个更新后的子数据,更新所述主数据。此外,本公开还提供了一种数据处理系统、电子设备以及计算机可读介质。

Description

数据处理方法、系统、电子设备和计算机可读介质
技术领域
本公开涉及互联网技术领域,更具体地,涉及一种数据处理方法、系统、电子设备和计算机可读介质。
背景技术
在进行实时数据计算中,由于使用了分布式一致性哈希算法,对数据的读写操作性能非常高,单个节点可以支撑每秒钟10万次的读写操作。在数据并发较高的情况下,现有技术中采用对节点进行扩充的手段,以支撑较高的每秒钟操作数。但是,例如在流量数据实时页面浏览量(pv)计算的场景中,随着流量数据不断的流入,系统会针对pv数据不断进行累加操作,在数据洪峰到来时,这个时刻pv数据的写请求量会迅速上升,这个数据(下文称为热点数据)所在的节点的每秒钟操作数会远远超出其处理能力,由此可能造成连接阻塞,甚至是系统崩溃,无法提供服务的问题。对此,扩充节点数量也是无法解决此问题的,无论我们拥有多少节点,对某些特定的数据的写操作始终会发送到它所在的节点上。
发明内容
有鉴于此,本公开提供了一种数据处理方法、系统和电子设备。
本公开的一个方面提供了一种数据处理方法,包括,在集群系统的不同节点中创建多个子数据用于关联一个主数据,响应于对所述主数据进行的操作,确定至少一个所述子数据,并对所述至少一个子数据进行操作,更新所述至少一个子数据,以及根据至少一个更新后的子数据,更新所述主数据。
根据本公开实施例,所述在集群系统的不同节点中创建多个子数据用于关联一个主数据包括,监控主数据的变化频率,以及响应于所述主数据的变化频率超过预设值,在集群系统的不同节点中创建多个子数据用于关联一个主数据。
根据本公开实施例,所述方法还包括,基于所述主数据的变化频率,确定所创建的所述子数据的数量。
根据本公开实施例,所述在集群系统的不同节点中创建多个子数据用于关联一个主数据包括,基于集群系统的节点数量,确定所创建的所述子数据的数量,以及根据所述子数据的数量,在集群系统的不同节点中创建多个子数据用于关联一个主数据。
根据本公开实施例,所述在集群系统的不同节点中创建多个子数据用于关联一个主数据包括,生成多个随机字符串,通过哈希算法处理所述随机字符串,确定每个字符串对应的节点,以及根据多个所述随机字符串及其对应的节点,以所述随机字符串为键,创建多个子数据用于关联一个主数据。
根据本公开实施例,所述根据至少一个更新后的子数据,更新所述主数据包括以下至少一种,周期性获取所述多个子数据,更新所述主数据,或者响应于对所述主数据的请求,获取所述多个子数据,更新所述主数据。
根据本公开实施例,所述方法还包括,响应于所述主数据或子数据的变化情况满足预设条件,执行以下操作,根据所述多个子数据,更新所述主数据,以及删除所述子数据。
本公开的另一个方面提供了一种数据处理系统,包括创建模块、操作模块以及更新模块。创建模块,用于在集群系统的不同节点中创建多个子数据用于关联一个主数据。操作模块,用于响应于对所述主数据进行的操作,确定至少一个所述子数据,并对所述至少一个子数据进行操作,更新所述至少一个子数据。更新模块,用于根据至少一个更新后的子数据,更新所述主数据。
根据本公开实施例,所述创建模块包括监控子模块和第一创建子模块。监控子模块,用于监控主数据的变化频率。第一创建子模块,用于响应于所述主数据的变化频率超过预设值,在集群系统的不同节点中创建多个子数据用于关联一个主数据。
根据本公开实施例,所述创建模块还包括第一确定子模块,用于基于所述主数据的变化频率,确定所创建的所述子数据的数量。
根据本公开实施例,所述创建模块包括第二确定子模块和第二创建子模块。第二确定子模块,用于基于集群系统的节点数量,确定所创建的所述子数据的数量。第二创建子模块,用于根据所述子数据的数量,在集群系统的不同节点中创建多个子数据用于关联一个主数据。
根据本公开实施例,所述创建模块包括生成子模块、第三确定子模块以及第三创建子模块。生成子模块,用于生成多个随机字符串。第三确定子模块,用于通过哈希算法处理所述随机字符串,确定每个字符串对应的节点。第三创建子模块,用于根据多个所述随机字符串及其对应的节点,以所述随机字符串为键,创建多个子数据用于关联一个主数据。
根据本公开实施例,所述更新模块包括第一更新子模块或第二更新子模块中的至少一种。第一更新子模块,用于周期性获取所述多个子数据,更新所述主数据。第二更新子模块,用于响应于对所述主数据的请求,获取所述多个子数据,更新所述主数据。
根据本公开实施例,所述系统还包括删除模块,用于响应于所述主数据或子数据的变化情况满足预设条件,执行以下操作,根据所述多个子数据,更新所述主数据,以及删除所述子数据。
本公开的另一方面提供了一种电子设备,包括,一个或多个处理器;以及存储装置,用于存储一个或多个程序,其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器执行上述任意一项的方法。
本公开的另一方面提供了一种计算机可读介质,其上存储有可执行指令,所述指令被处理器执行时使处理器执行上述任意一项方法。
本公开的另一方面提供了一种计算机程序,所述计算机程序包括计算机可执行指令,所述指令在被执行时用于实现如上所述的方法。
根据本公开的实施例,可以至少部分地解决热点数据所在的节点的每秒钟操作数会超出其处理能力,由此可能造成连接阻塞,甚至是系统崩溃,无法提供服务的问题,达到分散热点数据所在的节点的计算压力的技术效果。
附图说明
通过以下参照附图对本公开实施例的描述,本公开的上述以及其他目的、特征和优点将更为清楚,在附图中:
图1示意性示出了根据本公开实施例的数据处理方法、系统和电子设备的系统架构;
图2示意性示出了根据本公开实施例的数据处理方法的流程图;
图3示意性示出了根据本公开实施例的在集群系统的不同节点中创建多个子数据用于关联一个主数据的流程图;
图4示意性示出了根据本公开实施例的在集群系统的不同节点中创建多个子数据用于关联一个主数据的流程图;
图5示意性示出了根据本公开另一实施例的数据处理方法的流程图;
图6示意性示出了根据本公开实施例的数据处理系统的框图;
图7示意性示出了根据本公开实施例的创建模块的框图;
图8示意性示出了根据本公开另一实施例的创建模块的框图;
图9示意性示出了根据本公开另一实施例的数据处理系统的框图;以及
图10示意性示出了根据本公开实施例的电子设备的方框图。
具体实施方式
以下,将参照附图来描述本公开的实施例。但是应该理解,这些描述只是示例性的,而并非要限制本公开的范围。此外,在以下说明中,省略了对公知结构和技术的描述,以避免不必要地混淆本公开的概念。
在此使用的术语仅仅是为了描述具体实施例,而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在,但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义,除非另外定义。应注意,这里使用的术语应解释为具有与本说明书的上下文相一致的含义,而不应以理想化或过于刻板的方式来解释。
在使用类似于“A、B和C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。在使用类似于“A、B或C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B或C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。本领域技术人员还应理解,实质上任意表示两个或更多可选项目的转折连词和/或短语,无论是在说明书、权利要求书还是附图中,都应被理解为给出了包括这些项目之一、这些项目任一方、或两个项目的可能性。例如,短语“A或B”应当被理解为包括“A”或“B”、或“A和B”的可能性。
本公开的实施例提供了一种数据处理方法,通过在不同节点上为热点数据建立多个子数据,将对主数据的操作分散到子数据上执行,并在需要时进行汇总,可以实现分散热点数据所在节点的处理压力,降低连接阻塞,甚至系统崩溃的风险。
图1示意性示出了根据本公开实施例的可以应用数据处理方法、系统和电子设备的示例性系统架构100。需要注意的是,图1所示仅为可以应用本公开实施例的系统架构的示例,以帮助本领域技术人员理解本公开的技术内容,但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。
如图1所示,根据该实施例的系统架构100可以包括服务器集群,该服务器集群包括多个节点110以及网络120。网络120用以在节点110之间提供通信链路的介质。网络120可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。节点110可以是实现各种功能的服务器。服务器集群可以通过本公开实施例的方法将热点数据所在节点的处理压力分散到其他节点上,以降低连接阻塞,甚至系统崩溃的风险。
需要说明的是,本公开实施例所提供的数据处理方法一般可以由服务器集群执行。相应地,本公开实施例所提供的数据处理系统一般可以设置于服务器集群中。
应该理解,图1中的网络和节点的数目仅仅是示意性的。根据实现需要,可以具有任意数目的网络和节点。
图2示意性示出了根据本公开实施例的数据处理方法的流程图。
如图2所示,该方法包括操作S210~S230。
在操作S210,在集群系统的不同节点中创建多个子数据用于关联一个主数据。
在操作S220,响应于对所述主数据进行的操作,确定至少一个所述子数据,并对所述至少一个子数据进行操作,更新所述至少一个子数据。
在操作S230,根据至少一个更新后的子数据,更新所述主数据。
以对pv的统计为例,pv作为主数据存放在集群系统的一个节点中,所有对pv的操作都将对该节点造成压力。在本公开实施例的操作S210,在集群的不同节点上创建多个子数据以关联pv。在操作S220,在接到对pv的操作时,例如,某用户访问该页面导致需要执行pv++(pv在现有基础上加1)的操作,集群系统从该多个子数据中确定出一个,例如可以是随机确定出的pv1,并对该子数据执行pv1++的操作。在操作S230,根据更新后的子数据,更新pv。该方法将pv所在的节点的处理压力分散到多个子数据所在的节点上。
该方法通过在集群系统的不同节点中创建多个子数据用于关联一个主数据,对主数据进行操作时,随机确定一个子数据,对其进行操作,然后将多个子数据汇总以提供主数据的方式,解决由热点数据处理压力造成的连接阻塞,甚至是系统崩溃,无法提供服务的问题,实现分散热点数据所在节点的处理压力,降低连接阻塞,甚至系统崩溃的风险的技术效果。
图3示意性示出了根据本公开实施例的在集群系统的不同节点中创建多个子数据用于关联一个主数据的流程图。
如图3所示,该方法包括S310和S320。
在操作S310,监控主数据的变化频率。
在操作S320,响应于所述主数据的变化频率超过预设值,在集群系统的不同节点中创建多个子数据用于关联一个主数据。
根据本公开实施例,集群系统可以维护一个热点数据集合,当监控到一个数据的变化频率超过预设值时,将其加入热点数据集合,作为热点数据处理。对于热点数据,可以例如执行上文所述操作S210~S230的方法。
该方法在数据的变化频率超过预设值时生成子数据,能够智能识别热点数据,并应用本公开实施例的方法分散处理压力。
根据本公开实施例,该方法还包括基于所述主数据的变化频率,确定所创建的所述子数据的数量。例如,可以设定关于主数据的变化频率与子数据的数量的对应关系,主数据的变化频率在一定范围时,根据该对应关系确定子数据的数量,可以合理地设定子数据的数量。
根据本公开实施例,所述在集群系统的不同节点中创建多个子数据用于关联一个主数据包括,基于集群系统的节点数量,确定所创建的所述子数据的数量,以及根据所述子数据的数量,在集群系统的不同节点中创建多个子数据用于关联一个主数据。该方法可以根据集群系统的节点数量创建子数据,例如,可以设定一个系数A,在节点数量为X的情况下,确定所创建的子数据的数量为AX。例如,设定A=1,在节点数量X=10的情况下,创建AX=10的子数据。A越大,创建的子数据越多,子数据所在的节点数量的期望越高,处理压力分散的效果越好,反之,A越小,创建的子数据越少,维护该些子数据所需的资源越少,本领域技术人员可以根据实际需要进行设定。
图4示意性示出了根据本公开实施例的在集群系统的不同节点中创建多个子数据用于关联一个主数据的流程图。
如图4所示,该方法包括S410~S430。
在操作S410,生成多个随机字符串。
在操作S420,通过哈希算法处理所述随机字符串,确定每个字符串对应的节点。
在操作S430,根据多个所述随机字符串及其对应的节点,以所述随机字符串为键,创建多个子数据用于关联一个主数据。
在集群的节点可能动态变化时,静态的配置方法存在很多问题。哈希算法可以将任意的字符串映射到有限数量的节点上,并且保证同样的输入总是得到相同的输出。因此,节点的情况不可预知的情况下,本公开实施例采用哈希算法动态地在集群中的节点上创建子数据。本公开实施例采用随机字符串标识各个子数据,使得在经过哈希算法后,各个子数据被随机地创建于各个节点中,实现分散处理压力的目的。
根据本公开实施例,所述根据至少一个更新后的子数据,更新所述主数据包括周期性获取所述多个子数据,更新所述主数据。以pv的统计为例,每次pv变化都会发生在一个子数据上,为了获得实际的pv值,可以周期性地获取各个更新后的子数据,用于更新主数据,更新后的主数据即所需要的实际pv值,例如,可以以秒为周期,每秒对各个子数据进行汇总,更新主数据的值。
根据本公开实施例,所述根据至少一个更新后的子数据,更新所述主数据包括响应于对所述主数据的请求,获取所述多个子数据,更新所述主数据。该方法可以进一步降低对主数据所在节点的处理压力,仅在收到针对该主数据的请求时,才获取更新后的子数据,对主数据进行更新。该对主数据的请求,例如可以是获取主数据、展示主数据或者对主数据的更改等。
根据本公开实施例,所述方法还包括,响应于所述主数据或子数据的变化情况满足预设条件,执行预定操作。下面结合图5所示意的实施例对于响应于所述主数据或子数据的变化情况满足预设条件所执行的操作进行说明。
图5示意性示出了根据本公开另一实施例的数据处理方法的流程图。
如图5所示,该方法包括操作S510和S520。
在操作S510,根据所述多个子数据,更新所述主数据。
在操作S520,删除所述子数据。
根据本公开实施例,所述主数据或子数据的变化情况满足预设条件,是用于判断热点数据是否不再处于热点状态,即,对该热点数据的操作频率是否下降至较低的状态。所述预设条件例如可以是,在统计pv时,由于对于pv的操作仅包括累加操作,若采用周期性获取子数据更新主数据,则可以根据每个周期后的数据增长量,判断热点数据是否不再处于热点状态,如设定一个阈值,当上述增长量小于该阈值时执行预定操作S510和S520。所述预设条件又如,统计关联于一主数据的各个子数据的变化情况,例如该些子数据的变化频率之和,用于判断热点数据是否不再处于热点状态,如设定一个阈值,当上述变化频率之和小于该阈值时执行预定操作S510和S520。
根据本公开实施例,所述预定操作S510和S520,是在热点数据不再处于热点状态的情况下,用于还原对主数据的操作逻辑。例如,对于pv的统计数据作为主数据的情况,已经创建了多个子数据,在对所述主数据进行的操作的情况下,确定至少一个所述子数据,并对所述至少一个子数据进行操作,更新所述至少一个子数据。当pv不再处于热点状态时,可以执行操作S510,最后一次汇总各个子数据以更新主数据,并执行操作S520,删除子数据,释放各个子数据占用的空间,同时,再次接到对于主数据的操作指令时,不再操作子数据,而直接对主数据进行操作。该方法可以智能识别不再处于热点状态下的数据,释放其子数据所占用的系统资源。
图6示意性示出了根据本公开实施例的数据处理系统600的框图。
如图6所示,数据处理系统600包括创建模块610、操作模块620以及更新模块630。
创建模块610,例如执行上文参考图2描述的操作S210,用于在集群系统的不同节点中创建多个子数据用于关联一个主数据。
操作模块620,例如执行上文参考图2描述的操作S220,用于响应于对所述主数据进行的操作,确定至少一个所述子数据,并对所述至少一个子数据进行操作,更新所述至少一个子数据。
更新模块630,例如执行上文参考图2描述的操作S230,用于根据至少一个更新后的子数据,更新所述主数据。
图7示意性示出了根据本公开实施例的创建模块610的框图。
如图7所示,创建模块610包括监控子模块710和第一创建子模块720。
监控子模块710,例如执行上文参考图3描述的操作S310,用于监控主数据的变化频率。
第一创建子模块720,例如执行上文参考图3描述的操作S320,用于响应于所述主数据的变化频率超过预设值,在集群系统的不同节点中创建多个子数据用于关联一个主数据。
根据本公开实施例,所述创建模块610还包括第一确定子模块,用于基于所述主数据的变化频率,确定所创建的所述子数据的数量。
根据本公开实施例,所述创建模块610包括第二确定子模块和第二创建子模块。第二确定子模块,用于基于集群系统的节点数量,确定所创建的所述子数据的数量。第二创建子模块,用于根据所述子数据的数量,在集群系统的不同节点中创建多个子数据用于关联一个主数据。
图8示意性示出了根据本公开另一实施例的创建模块610的框图。
如图8所示,创建模块610包括生成子模块810、第三确定子模块820以及第三创建子模块830。
生成子模块810,例如执行上文参考图4描述的操作S410,用于生成多个随机字符串。
第三确定子模块820,例如执行上文参考图4描述的操作S420,用于通过哈希算法处理所述随机字符串,确定每个字符串对应的节点。
第三创建子模块830,例如执行上文参考图4描述的操作S430,用于根据多个所述随机字符串及其对应的节点,以所述随机字符串为键,创建多个子数据用于关联一个主数据。
根据本公开实施例,所述更新模块630包括第一更新子模块或第二更新子模块中的至少一种。第一更新子模块,用于周期性获取所述多个子数据,更新所述主数据。第二更新子模块,用于响应于对所述主数据的请求,获取所述多个子数据,更新所述主数据。
图9示意性示出了根据本公开另一实施例的数据处理系统900的框图。
如图9所示,数据处理系统900在数据处理系统600的基础上,还包括删除模块910,用于响应于所述主数据或子数据的变化情况满足预设条件,执行例如上文参考图5描述的操作S510和S520,用于根据所述多个子数据,更新所述主数据,以及删除所述子数据。
可以理解的是,上述模块可以合并在一个模块中实现,或者其中的任意一个模块可以被拆分成多个模块。或者,这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合,并在一个模块中实现。根据本发明的实施例,上述模块中的至少一个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以以对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现,或以软件、硬件以及固件三种实现方式的适当组合来实现。或者,上述模块中的至少一个可以至少被部分地实现为计算机程序模块,当该程序被计算机运行时,可以执行相应模块的功能。
图10示意性示出了根据本公开实施例的电子设备的方框图。图10示出的计算机系统仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图10所示,根据本公开实施例的计算机系统1000包括处理器1001,其可以根据存储在只读存储器(ROM)1002中的程序或者从存储部分1008加载到随机访问存储器(RAM)1003中的程序而执行各种适当的动作和处理。处理器1001例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如,专用集成电路(ASIC)),等等。处理器1001还可以包括用于缓存用途的板载存储器。处理器1001可以包括用于执行参考图2~图5描述的根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。
在RAM 1003中,存储有系统1000操作所需的各种程序和数据。处理器1001、ROM1002以及RAM 1003通过总线1004彼此相连。处理器1001通过执行ROM 1002和/或RAM1003中的程序来执行以上参考图2~图5描述的根据本公开实施例的方法的各种操作。需要注意,所述程序也可以存储在除ROM 1002和RAM 1003以外的一个或多个存储器中。处理器1001也可以通过执行存储在所述一个或多个存储器中的程序来执行以上参考图2~图5描述的根据本公开实施例的方法的各种操作。
根据本公开的实施例,系统1000还可以包括输入/输出(I/O)接口1005,输入/输出(I/O)接口1005也连接至总线1004。系统1000还可以包括连接至I/O接口1005的以下部件中的一项或多项:包括键盘、鼠标等的输入部分1006;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分1007;包括硬盘等的存储部分1008;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分1009。通信部分1009经由诸如因特网的网络执行通信处理。驱动器1010也根据需要连接至I/O接口1005。可拆卸介质1011,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器1010上,以便于从其上读出的计算机程序根据需要被安装入存储部分1008。
根据本公开的实施例,上文参考流程图描述的方法可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分1009从网络上被下载和安装,和/或从可拆卸介质1011被安装。在该计算机程序被处理器1001执行时,执行本公开实施例的系统中限定的上述功能。根据本公开的实施例,上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。
需要说明的是,本公开所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。根据本公开的实施例,计算机可读介质可以包括上文描述的ROM 1002和/或RAM 1003和/或ROM 1002和RAM 1003以外的一个或多个存储器。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
作为另一方面,本公开还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的设备中所包含的;也可以是单独存在,而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该设备执行时,使得该设备执行参考图2~图5描述的根据本公开实施例的方法的各种操作。
以上对本公开的实施例进行了描述。但是,这些实施例仅仅是为了说明的目的,而并非为了限制本公开的范围。尽管在以上分别描述了各实施例,但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围,本领域技术人员可以做出多种替代和修改,这些替代和修改都应落在本公开的范围之内。

Claims (16)

1.一种数据处理方法,包括:
在集群系统的不同节点中创建多个子数据用于关联一个主数据;
响应于对所述主数据进行的操作,确定至少一个所述子数据,并对所述至少一个子数据进行操作,更新所述至少一个子数据;以及
根据至少一个更新后的子数据,更新所述主数据。
2.根据权利要求1所述的方法,其中,所述在集群系统的不同节点中创建多个子数据用于关联一个主数据包括:
监控主数据的变化频率;以及
响应于所述主数据的变化频率超过预设值,在集群系统的不同节点中创建多个子数据用于关联一个主数据。
3.根据权利要求2所述的方法,还包括:
基于所述主数据的变化频率,确定所创建的所述子数据的数量。
4.根据权利要求1所述的方法,其中,所述在集群系统的不同节点中创建多个子数据用于关联一个主数据包括:
基于集群系统的节点数量,确定所创建的所述子数据的数量;以及
根据所述子数据的数量,在集群系统的不同节点中创建多个子数据用于关联一个主数据。
5.根据权利要求1所述的方法,其中,所述在集群系统的不同节点中创建多个子数据用于关联一个主数据包括:
生成多个随机字符串;
通过哈希算法处理所述随机字符串,确定每个字符串对应的节点;以及
根据多个所述随机字符串及其对应的节点,以所述随机字符串为键,创建多个子数据用于关联一个主数据。
6.根据权利要求1所述的方法,其中,所述根据至少一个更新后的子数据,更新所述主数据包括以下至少一种:
周期性获取所述多个子数据,更新所述主数据;或者
响应于对所述主数据的请求,获取所述多个子数据,更新所述主数据。
7.根据权利要求1所述的方法,还包括,响应于所述主数据或子数据的变化情况满足预设条件,执行以下操作:
根据所述多个子数据,更新所述主数据;以及
删除所述子数据。
8.一种数据处理系统,包括:
创建模块,用于在集群系统的不同节点中创建多个子数据用于关联一个主数据;
操作模块,用于响应于对所述主数据进行的操作,确定至少一个所述子数据,并对所述至少一个子数据进行操作,更新所述至少一个子数据;以及
更新模块,用于根据至少一个更新后的子数据,更新所述主数据。
9.根据权利要求8所述的系统,其中,所述创建模块包括:
监控子模块,用于监控主数据的变化频率;以及
第一创建子模块,用于响应于所述主数据的变化频率超过预设值,在集群系统的不同节点中创建多个子数据用于关联一个主数据。
10.根据权利要求9所述的系统,其中,所述创建模块还包括:
第一确定子模块,用于基于所述主数据的变化频率,确定所创建的所述子数据的数量。
11.根据权利要求8所述的系统,其中,所述创建模块包括:
第二确定子模块,用于基于集群系统的节点数量,确定所创建的所述子数据的数量;以及
第二创建子模块,用于根据所述子数据的数量,在集群系统的不同节点中创建多个子数据用于关联一个主数据。
12.根据权利要求8所述的系统,其中,所述创建模块包括:
生成子模块,用于生成多个随机字符串;
第三确定子模块,用于通过哈希算法处理所述随机字符串,确定每个字符串对应的节点;以及
第三创建子模块,用于根据多个所述随机字符串及其对应的节点,以所述随机字符串为键,创建多个子数据用于关联一个主数据。
13.根据权利要求8所述的系统,其中,所述更新模块包括以下至少一种:
第一更新子模块,用于周期性获取所述多个子数据,更新所述主数据;或者
第二更新子模块,用于响应于对所述主数据的请求,获取所述多个子数据,更新所述主数据。
14.根据权利要求8所述的系统,还包括删除模块,用于响应于所述主数据或子数据的变化情况满足预设条件,执行以下操作:
根据所述多个子数据,更新所述主数据;以及
删除所述子数据。
15.一种电子设备,包括:
一个或多个处理器;以及
存储装置,用于存储一个或多个程序,其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器执行如权利要求1~7所述任意一项方法。
16.一种计算机可读介质,其上存储有可执行指令,所述指令被处理器执行时使处理器执行如权利要求1~7所述任意一项方法。
CN201711303155.2A 2017-12-08 2017-12-08 数据处理方法、系统、电子设备和计算机可读介质 Active CN109905443B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201711303155.2A CN109905443B (zh) 2017-12-08 2017-12-08 数据处理方法、系统、电子设备和计算机可读介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201711303155.2A CN109905443B (zh) 2017-12-08 2017-12-08 数据处理方法、系统、电子设备和计算机可读介质

Publications (2)

Publication Number Publication Date
CN109905443A true CN109905443A (zh) 2019-06-18
CN109905443B CN109905443B (zh) 2022-07-05

Family

ID=66941519

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201711303155.2A Active CN109905443B (zh) 2017-12-08 2017-12-08 数据处理方法、系统、电子设备和计算机可读介质

Country Status (1)

Country Link
CN (1) CN109905443B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110413413A (zh) * 2019-07-26 2019-11-05 北京蜜莱坞网络科技有限公司 一种数据写入方法、装置、设备及存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105630823A (zh) * 2014-11-04 2016-06-01 阿里巴巴集团控股有限公司 基于分布式系统的缓存数据的监控方法、装置和系统
CN106202212A (zh) * 2016-06-28 2016-12-07 微梦创科网络科技(中国)有限公司 一种基于数据服务器集群实现数据拆分的方法及系统
CN106559278A (zh) * 2015-09-25 2017-04-05 中兴通讯股份有限公司 数据处理状态监控方法和装置
US9779026B2 (en) * 2016-01-14 2017-10-03 Seagate Technology Llc Cache bypass utilizing a binary tree
CN107291777A (zh) * 2016-04-11 2017-10-24 阿里巴巴集团控股有限公司 一种热点数据识别和处理的方法和装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105630823A (zh) * 2014-11-04 2016-06-01 阿里巴巴集团控股有限公司 基于分布式系统的缓存数据的监控方法、装置和系统
CN106559278A (zh) * 2015-09-25 2017-04-05 中兴通讯股份有限公司 数据处理状态监控方法和装置
US9779026B2 (en) * 2016-01-14 2017-10-03 Seagate Technology Llc Cache bypass utilizing a binary tree
CN107291777A (zh) * 2016-04-11 2017-10-24 阿里巴巴集团控股有限公司 一种热点数据识别和处理的方法和装置
CN106202212A (zh) * 2016-06-28 2016-12-07 微梦创科网络科技(中国)有限公司 一种基于数据服务器集群实现数据拆分的方法及系统

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
HIKOTOSHI NAKAZATO,MANABU NISHIO,MASAKATSU FUJIWARA: ""Data allocation method considering server performance and data access frequency with consistent hashing"", 《2012 14TH ASIA-PACIFIC NETWORK OPERATIONS AND MANAGEMENT SYMPOSIUM (APNOMS)》 *
罗文韬: ""大型电商网站服务系统关键改进的研究和实现"", 《中国优秀硕士学位论文全文数据库 信息科技辑》 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110413413A (zh) * 2019-07-26 2019-11-05 北京蜜莱坞网络科技有限公司 一种数据写入方法、装置、设备及存储介质

Also Published As

Publication number Publication date
CN109905443B (zh) 2022-07-05

Similar Documents

Publication Publication Date Title
CN106201661B (zh) 用于弹性伸缩虚拟机集群的方法和装置
US9350633B2 (en) Dynamic optimization of command issuance in a computing cluster
CN110096344A (zh) 任务管理方法、系统、服务器集群和计算机可读介质
CN113641457B (zh) 容器创建方法、装置、设备、介质及程序产品
CN109308214A (zh) 数据任务处理方法和系统
US20190199785A1 (en) Determining server level availability and resource allocations based on workload level availability requirements
CN110753112A (zh) 云服务的弹性伸缩方法和装置
EP4198771A1 (en) Data processing method and apparatus, computer readable medium, and electronic device
CN109657174A (zh) 用于更新数据的方法和装置
CN110019062A (zh) 数据同步方法和系统
US20200004464A1 (en) Method and apparatus for storing data
CN108933822A (zh) 用于处理信息的方法和装置
Cheng et al. Application mapping onto mesh-based network-on-chip using constructive heuristic algorithms
CN109684059A (zh) 用于监控数据的方法及装置
CN109343962A (zh) 数据处理方法、装置及分布式服务系统
CN111161072A (zh) 基于区块链的随机数生成方法、设备及存储介质
CN108390914A (zh) 一种服务更新方法及装置、系统
CN109918381A (zh) 用于存储数据的方法和装置
CN109976832A (zh) 一种提供寄宿程序的方法与设备
CN109905443A (zh) 数据处理方法、系统、电子设备和计算机可读介质
JP5949606B2 (ja) テスト設計支援装置及びプログラム
US8683460B2 (en) Grandfathering configurations in a distributed environment
CN109981553A (zh) 访问控制方法及其系统、计算机系统和可读存储介质
CN108810130B (zh) 一种分配请求规划的方法和装置
US20180234491A1 (en) Program deployment according to server efficiency rankings

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant