CN104202434A - 节点访问方法和装置 - Google Patents
节点访问方法和装置 Download PDFInfo
- Publication number
- CN104202434A CN104202434A CN201410509449.0A CN201410509449A CN104202434A CN 104202434 A CN104202434 A CN 104202434A CN 201410509449 A CN201410509449 A CN 201410509449A CN 104202434 A CN104202434 A CN 104202434A
- Authority
- CN
- China
- Prior art keywords
- node
- access
- nodes
- visited
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Abstract
本发明提供了一种节点访问方法和装置,该方法包括:接收来自客户端的、访问分布式存储系统存储空间上的数据的访问请求,从所述分布式存储系统集群的多个节点中选择能够提供待访问数据的至少两个待访问节点;获取所述至少两个待访问节点的资源信息;根据获取的所述资源信息,从所述至少两个待访问节点中选择目标访问节点,以使所述客户端接入所述目标访问节点,进行访问操作。本发明提供的技术方案可以简化客户端对分布式存储系统集群中节点的配置管理,同时能够灵活地调整分布式存储系统集群中各节点的访问请求量,保证了各节点负载均衡。
Description
技术领域
本发明涉及计算机技术领域,特别是一种节点访问方法和装置。
背景技术
Cassandra是依赖DHT(Distributed Hash Table,分布式哈希表)技术实现的一种典型的无中心节点的环形结构的分布式存储系统。Cassandra数据存储空间可以抽象为一个环形结构,数据就是通过hash(哈希)分散在这个环形存储空间上。每个节点负责管理这个环形存储空间上的某一块连续的Range(范围),落在此Range空间上的数据就存储在这个节点上。
Cassandra的节点角色分为两种,即接入节点和数据节点。首先,接入节点负责接收来自外界的访问数据的请求,如增、删、改、查请求,进而根据请求内容计算数据及其副本在Cassandra集群中所分布的数据节点,并负责请求的分发与应答的汇总。其次,数据节点负责数据副本的真实存储。在Cassandra系统中每个节点都既可以作为接入节点,又可以作为数据节点而存在。由于Cassandra的每个节点都同时具有数据节点和接入节点二者功能,因而,来自外界(如客户端)的访问请求可以通过任何一个接入节点来访问集群中的数据。即,由接入节点根据集群的副本放置策略,定位到数据及其副本所在的数据节点,从而完成客户端访问请求的分发与应答的汇总。Cassandra集群对外提供thrift(软件框架)接口访问方式,客户端通过thrift协议连接指定接入节点发送访问请求。
如上所述,相关技术中,客户端请求访问Cassandra提供的thrift协议连接的指定接入节点即可访问Cassandra集群数据。然而,客户端具体可以访问哪些接入节点完全由客户端来控制。客户端通常维护一个接入节点的IP(Internet Protocol,互联网协议)列表,随机从其中选择一个IP连接访问。这种方式通常存在以下缺点。
1、客户端只知道Cassandra集群中存在若干接入节点的IP列表可以连接访问。这个IP列表通过客户端的配置文件中进行管理。但是,Cassandra集群规模动辄上千台节点,客户端管理上千个节点的IP的开销很大,若只配置其中少量几个接入节点,而往往会导致Cassandra节点间的资源占用不均衡,比如网卡带宽、CPU资源占用等。
2、当接入节点出现变更,或者接入节点故障、停机时,客户端无法迅速、及时地屏蔽故障的接入节点,从而导致大量的访问失败。
3、由于客户端无法获知Cassandra集群的接入节点的负载的高低,因而只能采用将请求平均发送到其配置的所有接入节点的策略。这样,负载高的接入节点也要处理同样多的请求,直接导致接入节点的负载更加严重,使得请求的访问延迟大幅变长。
综上,如何有效地解决上述问题成为目前亟待解决的技术问题。
发明内容
鉴于上述问题,提出了本发明以便提供一种克服上述问题或者至少部分地解决上述问题的节点访问方法和相应的装置。
依据本发明的一个方面,提供了一种节点访问方法,包括:接收来自客户端的、访问分布式存储系统存储空间上的数据的访问请求,从所述分布式存储系统集群的多个节点中选择能够提供待访问数据的至少两个待访问节点;获取所述至少两个待访问节点的资源信息;根据获取的所述资源信息,从所述至少两个待访问节点中选择目标访问节点,以使所述客户端接入所述目标访问节点,进行访问操作。
可选地,所述方法还包括:所述分布式存储系统集群的节点启动时,将该节点的互联网协议IP地址存储至协同工作系统Zookeeper,并在所述Zookeeper的目录树中建立该节点与该节点的IP地址间的映射关系。
可选地,从所述至少两个待访问节点中选择目标访问节点之后,还包括:根据所述映射关系查询所述目标访问节点的IP地址;以使所述客户端接入所述目标访问节点,包括:以使所述客户端利用所述目标访问节点的IP地址接入所述目标访问节点。
可选地,所述资源信息包括:节点各自所允许的访问流量的信息和/或节点的性能参数值。
可选地,所述方法还包括:根据预设的时间周期,将所述分布式存储系统集群的节点的负载评价指标信息和/或硬件参数信息存储至所述Zookeeper。
可选地,所述负载评价指标信息包括下列至少之一:
中央处理器CPU使用率;
内存使用率;
磁盘输入/输出使用率;
网卡带宽占用;
请求平均访问时延。
可选地,根据预设的时间周期,将所述分布式存储系统集群的节点的负载评价指标信息存储至所述Zookeeper之后,还包括:根据所述分布式存储系统集群的节点的负载评价指标信息,计算各个节点的负载因子;对所述各个节点的负载因子进行归一化处理,得到各个节点所允许的访问流量的信息;将所述各个节点所允许的访问流量的信息存储于所述Zookeeper管理的高速缓冲存储器Cache。
可选地,根据预设的时间周期,将所述分布式存储系统集群的节点的硬件参数信息存储至所述Zookeeper之后,还包括:根据所述分布式存储系统集群的节点的硬件参数信息,计算各个节点的性能参数值;将所述各个节点的性能参数值存储于所述Zookeeper管理的Cache。
可选地,获取所述至少两个待访问节点各自所允许的资源信息,包括:从所述Zookeeper管理的Cache中获取所述至少两个待访问节点各自所允许的访问流量的信息和/或性能参数值。
可选地,所述方法还包括:当所述分布式存储系统集群的节点发生故障时,在所述Zookeeper中删除该故障节点。
可选地,在所述Zookeeper中删除该故障节点,包括:在所述Zookeeper中删除该故障节点的IP地址,并在所述Zookeeper管理的Cache中删除该故障节点所允许的访问流量的信息和/或性能参数值。
可选地,所述分布式存储系统为Cassandra系统。
依据本发明的另一个方面,还提供了一种节点访问装置,包括:
选择模块,适于接收来自客户端的、访问分布式存储系统存储空间上的数据的访问请求,从所述分布式存储系统集群的多个节点中选择能够提供待访问数据的至少两个待访问节点;
获取模块,适于获取所述至少两个待访问节点各自所允许的资源信息;
访问模块,适于根据获取的所述资源信息,从所述至少两个待访问节点中选择目标访问节点,以使所述客户端接入所述目标访问节点,进行访问操作。
可选地,所述装置还包括映射建立模块,适于:所述分布式存储系统集群的节点启动时,将该节点的互联网协议IP地址存储至协同工作系统Zookeeper,并在所述Zookeeper的目录树中建立该节点与该节点的IP地址间的映射关系。
可选地,所述访问模块还适于:根据所述映射关系查询所述目标访问节点的IP地址,以使所述客户端利用所述目标访问节点的IP地址接入所述目标访问节点。
可选地,所述资源信息包括:节点各自所允许的访问流量的信息和/或节点的性能参数值。
可选地,所述装置还包括存储模块,适于:根据预设的时间周期,将所述分布式存储系统集群的节点的负载评价指标信息和/或硬件参数信息存储至所述Zookeeper。
可选地,所述负载评价指标信息包括下列至少之一:
中央处理器CPU使用率;
内存使用率;
磁盘输入/输出使用率;
网卡带宽占用;
请求平均访问时延。
可选地,所述存储模块还适于:根据所述分布式存储系统集群的节点的负载评价指标信息,计算各个节点的负载因子;对所述各个节点的负载因子进行归一化处理,得到各个节点所允许的访问流量的信息;将所述各个节点所允许的访问流量的信息存储于所述Zookeeper管理的高速缓冲存储器Cache。
可选地,所述存储模块还适于:根据所述分布式存储系统集群的节点的硬件参数信息,计算各个节点的性能参数值;将所述各个节点的性能参数值存储于所述Zookeeper管理的Cache。
可选地,所述获取模块还适于:从所述Zookeeper管理的Cache中获取所述至少两个待访问节点各自所允许的访问流量的信息和/或性能参数值。
可选地,所述装置还包括删除模块,适于:当所述分布式存储系统集群的节点发生故障时,在所述Zookeeper中删除该故障节点。
可选地,所述删除模块还适于:在所述Zookeeper中删除该故障节点的IP地址,并在所述Zookeeper管理的Cache中删除该故障节点所允许的访问流量的信息和/或性能参数值。
可选地,所述分布式存储系统为Cassandra系统。
依据本发明的技术方案,通过接收来自客户端的、访问分布式存储系统存储空间上的数据的访问请求,从分布式存储系统集群的多个节点中选择能够提供待访问数据的至少两个待访问节点,进而获取至少两个待访问节点的资源信息,之后根据获取的资源信息,从至少两个待访问节点中选择目标访问节点,以使客户端接入目标访问节点,进行访问操作。由此可见,本发明可以从分布式存储系统集群的多个节点中选择能够提供待访问数据的至少两个待访问节点,从而简化了客户端对分布式存储系统集群中节点的配置管理,解决了相关技术中通过客户端的配置文件来管理分布式存储系统集群中的节点,增加客户端管理节点的开销的问题。并且,本发明进一步根据至少两个待访问节点的资源信息,从至少两个待访问节点中选择目标访问节点,以使客户端接入目标访问节点,进行访问操作,实现了根据待访问节点的当前负载情况灵活地选择目标访问节点,进行访问操作,保证了各节点负载均衡。综上,本发明提供的技术方案可以简化客户端对分布式存储系统集群中节点的配置管理,同时能够灵活地调整分布式存储系统集群中各节点的访问请求量,保证了各节点负载均衡。
上述说明仅是本发明技术方案的概述,为了能够更清楚了解本发明的技术手段,而可依照说明书的内容予以实施,并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂,以下特举本发明的具体实施方式。
根据下文结合附图对本发明具体实施例的详细描述,本领域技术人员将会更加明了本发明的上述以及其他目的、优点和特征。
附图说明
通过阅读下文优选实施方式的详细描述,各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的,而并不认为是对本发明的限制。而且在整个附图中,用相同的参考符号表示相同的部件。在附图中:
图1示出了根据本发明一个实施例的节点访问方法的流程图;
图2示出了根据本发明一个实施例的节点访问的架构示意图;
图3示出了根据本发明一个实施例的节点访问装置的一种结构示意图;以及
图4示出了根据本发明一个实施例的节点访问装置的另一种结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例,然而应当理解,可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反,提供这些实施例是为了能够更透彻地理解本公开,并且能够将本公开的范围完整的传达给本领域的技术人员。
为解决上述技术问题,本发明实施例提供了一种节点访问方法,图1示出了根据本发明一个实施例的节点访问方法的流程图。如图1所示,该方法至少包括以下步骤S102至步骤S106。
步骤S102、接收来自客户端的、访问分布式存储系统存储空间上的数据的访问请求,从分布式存储系统集群的多个节点中选择能够提供待访问数据的至少两个待访问节点。
步骤S104、获取至少两个待访问节点的资源信息。
步骤S106、根据获取的资源信息,从至少两个待访问节点中选择目标访问节点,以使客户端接入目标访问节点,进行访问操作。
依据本发明的技术方案,通过接收来自客户端的、访问分布式存储系统存储空间上的数据的访问请求,从分布式存储系统集群的多个节点中选择能够提供待访问数据的至少两个待访问节点,进而获取至少两个待访问节点的资源信息,之后根据获取的资源信息,从至少两个待访问节点中选择目标访问节点,以使客户端接入目标访问节点,进行访问操作。由此可见,本发明可以从分布式存储系统集群的多个节点中选择能够提供待访问数据的至少两个待访问节点,从而简化了客户端对分布式存储系统集群中节点的配置管理,解决了相关技术中通过客户端的配置文件来管理分布式存储系统集群中的节点,增加客户端管理节点的开销的问题。并且,本发明进一步根据至少两个待访问节点的资源信息,从至少两个待访问节点中选择目标访问节点,以使客户端接入目标访问节点,进行访问操作,实现了根据待访问节点的当前负载情况灵活地选择目标访问节点,进行访问操作,保证了各节点负载均衡。综上,本发明提供的技术方案可以简化客户端对分布式存储系统集群中节点的配置管理,同时能够灵活地调整分布式存储系统集群中各节点的访问请求量,保证了各节点负载均衡。
本发明实施例中的分布式存储系统是一种分布式非关系型数据系统,可以是Cassandra系统,还可以是其他分布式非关系型数据系统。
本发明实施例提供的技术方案中,首先引入了Zookeeper(协同工作系统)进行分布式存储系统集群的节点列表的管理。Zookeeper是一个高效可靠的协同工作系统,常常用来支撑leader(领导者)选举、配置信息维护等分布式协同操作。例如在分布式的环境中,Zookeeper可以用来存储一些配置信息,确保配置写入的一致性。分布式存储系统集群的节点启动时,将该节点的IP地址存储至Zookeeper,并在Zookeeper的目录树中建立该节点与该节点的IP地址间的映射关系,即各节点实现向Zookeeper注册各自的IP地址。同时,各个节点会根据预设的时间周期,将其自身的负载评价指标信息和/或硬件参数信息存储至Zookeeper,即各个节点会定期向Zookeeper汇报其自身的负载评价指标信息和/或硬件参数信息,当然,硬件参数信息一般情况下不会发生变化。这里的负载评价指标信息可以包括:CPU(Central Processing Unit,中央处理器)使用率、内存使用率、磁盘输入/输出使用率、网卡带宽占用、请求平均访问时延等信息。图2示出了根据本发明一个实施例的节点访问的架构示意图,如图2所示,以分布式存储系统为Cassandra系统为例,Cassandra集群的各节点启动时,向Zookeeper注册各自的IP地址以及定期向Zookeeper汇报其自身的负载评价指标信息和/或硬件参数信息。
其次,本发明还对Zookeeper进行了外部封装,如ZK-Wrapper(包装),并引入决策模块,如图2所示。该决策模块用于周期性地根据Cassandra集群的节点的负载评价指标信息,计算各个节点的负载因子,并对各个节点的负载因子进行归一化处理,得到各个节点所允许的访问流量的信息,从而当接收到来自客户端的、访问Cassandra存储空间上的数据的访问请求时,决策模块可以决策客户端能够访问的节点。以及,该该决策模块还用于周期性地根据Cassandra集群的节点的硬件参数信息,计算各个节点的性能参数值,从而当接收到来自客户端的、访问Cassandra存储空间上的数据的访问请求时,决策模块可以决策客户端能够访问的节点。此外,决策模块还可以综合各个节点所允许的访问流量的信息以及各个节点的性能参数值来决策客户端能够访问的节点。进一步地,将各个节点所允许的访问流量的信息以及各个节点的性能参数值存储于Zookeeper管理的Cache(高速缓冲存储器),数据读取速度快。
基于上述的介绍,上文步骤S102至步骤S106中,当接收到来自客户端的、访问Cassandra存储空间上的数据的访问请求时,从Zookeeper管理的节点列表中选择能够提供待访问数据的至少两个待访问节点,并从Zookeeper管理的Cache中获取至少两个待访问节点的资源信息(即至少两个待访问节点各自所允许的访问流量的信息和/或性能参数值),进而由决策模块根据至少两个待访问节点各自所允许的访问流量的信息和/或性能参数值,从至少两个待访问节点中选择目标访问节点,并根据Zookeeper的目录树中节点与节点的IP地址间的映射关系查询目标访问节点的IP地址,以使客户端利用目标访问节点的IP地址接入目标访问节点,进行访问操作。
如图2所示,当接收到来自客户端的、访问Cassandra存储空间上的数据的访问请求(Access Requests)时,Step1(第一步)获取目标访问节点,即从Zookeeper管理的节点列表中选择能够提供待访问数据的至少两个待访问节点,并从Zookeeper管理的Cache中获取至少两个待访问节点各自所允许的访问流量的信息和/或性能参数值,进而由决策模块根据至少两个待访问节点各自所允许的访问流量的信息和/或性能参数值,从至少两个待访问节点中选择目标访问节点。Step2(第二步)连接访问目标访问节点,进行访问操作,即根据Zookeeper的目录树中节点与节点的IP地址间的映射关系查询目标访问节点的IP地址,以使客户端利用目标访问节点的IP地址接入目标访问节点,通过thrift协议完成正常的读写访问。
进一步地,当节点发生故障等事件而无法提供数据服务时,Zookeeper会迅速自动发现该节点已经不可以访问,进而从其管理的节点列表中删除该故障节点。例如,在Zookeeper中删除该故障节点的IP地址,并在Zookeeper管理的Cache中删除该故障节点所允许的访问流量的信息和/或性能参数值。
需要说明的是,实际应用中,上述所有可选实施方式可以采用结合的方式任意组合,形成本发明的可选实施例,在此不再一一赘述。
基于同一发明构思,本发明实施例还提供了一种节点访问装置,以实现上述节点访问方法。
图3示出了根据本发明一个实施例的节点访问装置的一种结构示意图。参见图3,该装置至少包括:选择模块310、获取模块320以及访问模块330。
现介绍本发明实施例的节点访问装置的各组成或器件的功能以及各部分间的连接关系:
选择模块310,适于接收来自客户端的、访问分布式存储系统存储空间上的数据的访问请求,从分布式存储系统集群的多个节点中选择能够提供待访问数据的至少两个待访问节点;
获取模块320,与选择模块310相耦合,适于获取至少两个待访问节点各自所允许的资源信息;
访问模块330,与获取模块320相耦合,适于根据获取的资源信息,从至少两个待访问节点中选择目标访问节点,以使客户端接入目标访问节点,进行访问操作。
图4示出了根据本发明一个实施例的节点访问装置的另一种结构示意图。如图4所示,上述图3展示装置还可以包括映射建立模块340,与访问模块330相耦合,适于:分布式存储系统集群的节点启动时,将该节点的互联网协议IP地址存储至协同工作系统Zookeeper,并在Zookeeper的目录树中建立该节点与该节点的IP地址间的映射关系。
在一个实施例中,上述访问模块330还适于:根据映射关系查询目标访问节点的IP地址,以使客户端利用目标访问节点的IP地址接入目标访问节点。
在一个实施例中,资源信息可以包括:节点各自所允许的访问流量的信息和/或节点的性能参数值。
在一个实施例中,上述装置还可以包括存储模块350,与获取模块320相耦合,适于:根据预设的时间周期,将分布式存储系统集群的节点的负载评价指标信息和/或硬件参数信息存储至Zookeeper。
在一个实施例中,负载评价指标信息包括下列至少之一:
中央处理器CPU使用率;
内存使用率;
磁盘输入/输出使用率;
网卡带宽占用;
请求平均访问时延。
在一个实施例中,上述存储模块350还适于:根据分布式存储系统集群的节点的负载评价指标信息,计算各个节点的负载因子;对各个节点的负载因子进行归一化处理,得到各个节点所允许的访问流量的信息;将各个节点所允许的访问流量的信息存储于Zookeeper管理的高速缓冲存储器Cache。
在一个实施例中,上述存储模块350还适于:根据分布式存储系统集群的节点的硬件参数信息,计算各个节点的性能参数值;将各个节点的性能参数值存储于Zookeeper管理的Cache。
在一个实施例中,上述获取模块320还适于:从Zookeeper管理的Cache中获取至少两个待访问节点各自所允许的访问流量的信息和/或性能参数值。
在一个实施例中,上述装置还可以包括删除模块360,与映射建立模块340相耦合,适于:当分布式存储系统集群的节点发生故障时,在Zookeeper中删除该故障节点。
在一个实施例中,上述删除模块360还适于:在Zookeeper中删除该故障节点的IP地址,并在Zookeeper管理的Cache中删除该故障节点所允许的访问流量的信息和/或性能参数值。
在一个实施例中,分布式存储系统为Cassandra系统。
根据上述任意一个优选实施例或多个优选实施例的组合,本发明实施例能够达到如下有益效果:
依据本发明的技术方案,通过接收来自客户端的、访问分布式存储系统存储空间上的数据的访问请求,从分布式存储系统集群的多个节点中选择能够提供待访问数据的至少两个待访问节点,进而获取至少两个待访问节点的资源信息,之后根据获取的资源信息,从至少两个待访问节点中选择目标访问节点,以使客户端接入目标访问节点,进行访问操作。由此可见,本发明可以从分布式存储系统集群的多个节点中选择能够提供待访问数据的至少两个待访问节点,从而简化了客户端对分布式存储系统集群中节点的配置管理,解决了相关技术中通过客户端的配置文件来管理分布式存储系统集群中的节点,增加客户端管理节点的开销的问题。并且,本发明进一步根据至少两个待访问节点的资源信息,从至少两个待访问节点中选择目标访问节点,以使客户端接入目标访问节点,进行访问操作,实现了根据待访问节点的当前负载情况灵活地选择目标访问节点,进行访问操作,保证了各节点负载均衡。综上,本发明提供的技术方案可以简化客户端对分布式存储系统集群中节点的配置管理,同时能够灵活地调整分布式存储系统集群中各节点的访问请求量,保证了各节点负载均衡。
在此处所提供的说明书中,说明了大量具体细节。然而,能够理解,本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中,并未详细示出公知的方法、结构和技术,以便不模糊对本说明书的理解。
类似地,应当理解,为了精简本公开并帮助理解各个发明方面中的一个或多个,在上面对本发明的示例性实施例的描述中,本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而,并不应将该公开的方法解释成反映如下意图:即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说,如下面的权利要求书所反映的那样,发明方面在于少于前面公开的单个实施例的所有特征。因此,遵循具体实施方式的权利要求书由此明确地并入该具体实施方式,其中每个权利要求本身都作为本发明的单独实施例。
本领域那些技术人员可以理解,可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件,以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外,可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述,本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。
此外,本领域的技术人员能够理解,尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征,但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如,在权利要求书中,所要求保护的实施例的任意之一都可以以任意的组合方式来使用。
本发明的各个部件实施例可以以硬件实现,或者以在一个或者多个处理器上运行的软件模块实现,或者以它们的组合实现。本领域的技术人员应当理解,可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的节点访问装置中的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如,计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上,或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到,或者在载体信号上提供,或者以任何其他形式提供。
应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制,并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中,不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中,这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。
至此,本领域技术人员应认识到,虽然本文已详尽示出和描述了本发明的多个示例性实施例,但是,在不脱离本发明精神和范围的情况下,仍可根据本发明公开的内容直接确定或推导出符合本发明原理的许多其他变型或修改。因此,本发明的范围应被理解和认定为覆盖了所有这些其他变型或修改。
本发明还公开了A1、一种节点访问方法,包括:
接收来自客户端的、访问分布式存储系统存储空间上的数据的访问请求,从所述分布式存储系统集群的多个节点中选择能够提供待访问数据的至少两个待访问节点;
获取所述至少两个待访问节点的资源信息;
根据获取的所述资源信息,从所述至少两个待访问节点中选择目标访问节点,以使所述客户端接入所述目标访问节点,进行访问操作。
A2、根据A1所述的方法,其中,还包括:
所述分布式存储系统集群的节点启动时,将该节点的互联网协议IP地址存储至协同工作系统Zookeeper,并在所述Zookeeper的目录树中建立该节点与该节点的IP地址间的映射关系。
A3、根据A2所述的方法,其中,
从所述至少两个待访问节点中选择目标访问节点之后,还包括:
根据所述映射关系查询所述目标访问节点的IP地址;
以使所述客户端接入所述目标访问节点,包括:
以使所述客户端利用所述目标访问节点的IP地址接入所述目标访问节点。
A4、根据A1至A3任一项所述的方法,其中,所述资源信息包括:节点各自所允许的访问流量的信息和/或节点的性能参数值。
A5、根据A1至A4任一项所述的方法,其中,还包括:
根据预设的时间周期,将所述分布式存储系统集群的节点的负载评价指标信息和/或硬件参数信息存储至所述Zookeeper。
A6、根据A5所述的方法,其中,所述负载评价指标信息包括下列至少之一:
中央处理器CPU使用率;
内存使用率;
磁盘输入/输出使用率;
网卡带宽占用;
请求平均访问时延。
A7、根据A5或A6所述的方法,其中,根据预设的时间周期,将所述分布式存储系统集群的节点的负载评价指标信息存储至所述Zookeeper之后,还包括:
根据所述分布式存储系统集群的节点的负载评价指标信息,计算各个节点的负载因子;
对所述各个节点的负载因子进行归一化处理,得到各个节点所允许的访问流量的信息;
将所述各个节点所允许的访问流量的信息存储于所述Zookeeper管理的高速缓冲存储器Cache。
A8、根据A5或A6所述的方法,其中,根据预设的时间周期,将所述分布式存储系统集群的节点的硬件参数信息存储至所述Zookeeper之后,还包括:
根据所述分布式存储系统集群的节点的硬件参数信息,计算各个节点的性能参数值;
将所述各个节点的性能参数值存储于所述Zookeeper管理的Cache。
A9、根据A1至A8任一项所述的方法,其中,获取所述至少两个待访问节点各自所允许的资源信息,包括:
从所述Zookeeper管理的Cache中获取所述至少两个待访问节点各自所允许的访问流量的信息和/或性能参数值。
A10、根据A1至A9任一项所述的方法,其中,还包括:
当所述分布式存储系统集群的节点发生故障时,在所述Zookeeper中删除该故障节点。
A11、根据A10所述的方法,其中,在所述Zookeeper中删除该故障节点,包括:
在所述Zookeeper中删除该故障节点的IP地址,并在所述Zookeeper管理的Cache中删除该故障节点所允许的访问流量的信息和/或性能参数值。
A12、根据A1至A11任一项所述的方法,其中,所述分布式存储系统为Cassandra系统。
B13、一种节点访问装置,包括:
选择模块,适于接收来自客户端的、访问分布式存储系统存储空间上的数据的访问请求,从所述分布式存储系统集群的多个节点中选择能够提供待访问数据的至少两个待访问节点;
获取模块,适于获取所述至少两个待访问节点各自所允许的资源信息;
访问模块,适于根据获取的所述资源信息,从所述至少两个待访问节点中选择目标访问节点,以使所述客户端接入所述目标访问节点,进行访问操作。
B14、根据B13所述的装置,其中,还包括映射建立模块,适于:
所述分布式存储系统集群的节点启动时,将该节点的互联网协议IP地址存储至协同工作系统Zookeeper,并在所述Zookeeper的目录树中建立该节点与该节点的IP地址间的映射关系。
B15、根据B14所述的装置,其中,所述访问模块还适于:
根据所述映射关系查询所述目标访问节点的IP地址,以使所述客户端利用所述目标访问节点的IP地址接入所述目标访问节点。
B16、根据B13至B15任一项所述的装置,其中,所述资源信息包括:节点各自所允许的访问流量的信息和/或节点的性能参数值。
B17、根据B13至B16任一项所述的装置,其中,还包括存储模块,适于:
根据预设的时间周期,将所述分布式存储系统集群的节点的负载评价指标信息和/或硬件参数信息存储至所述Zookeeper。
B18、根据B17所述的装置,其中,所述负载评价指标信息包括下列至少之一:
中央处理器CPU使用率;
内存使用率;
磁盘输入/输出使用率;
网卡带宽占用;
请求平均访问时延。
B19、根据B17或B18所述的装置,其中,所述存储模块还适于:
根据所述分布式存储系统集群的节点的负载评价指标信息,计算各个节点的负载因子;
对所述各个节点的负载因子进行归一化处理,得到各个节点所允许的访问流量的信息;
将所述各个节点所允许的访问流量的信息存储于所述Zookeeper管理的高速缓冲存储器Cache。
B20、根据B17或B18所述的装置,其中,所述存储模块还适于:
根据所述分布式存储系统集群的节点的硬件参数信息,计算各个节点的性能参数值;
将所述各个节点的性能参数值存储于所述Zookeeper管理的Cache。
B21、根据B13至B20任一项所述的装置,其中,所述获取模块还适于:
从所述Zookeeper管理的Cache中获取所述至少两个待访问节点各自所允许的访问流量的信息和/或性能参数值。
B22、根据B13至B21任一项所述的装置,其中,还包括删除模块,适于:
当所述分布式存储系统集群的节点发生故障时,在所述Zookeeper中删除该故障节点。
B23、根据B22所述的装置,其中,所述删除模块还适于:
在所述Zookeeper中删除该故障节点的IP地址,并在所述Zookeeper管理的Cache中删除该故障节点所允许的访问流量的信息和/或性能参数值。
B24、根据B13至B23任一项所述的装置,其中,所述分布式存储系统为Cassandra系统。
Claims (10)
1.一种节点访问方法,包括:
接收来自客户端的、访问分布式存储系统存储空间上的数据的访问请求,从所述分布式存储系统集群的多个节点中选择能够提供待访问数据的至少两个待访问节点;
获取所述至少两个待访问节点的资源信息;
根据获取的所述资源信息,从所述至少两个待访问节点中选择目标访问节点,以使所述客户端接入所述目标访问节点,进行访问操作。
2.根据权利要求1所述的方法,其中,还包括:
所述分布式存储系统集群的节点启动时,将该节点的互联网协议IP地址存储至协同工作系统Zookeeper,并在所述Zookeeper的目录树中建立该节点与该节点的IP地址间的映射关系。
3.根据权利要求2所述的方法,其中,
从所述至少两个待访问节点中选择目标访问节点之后,还包括:
根据所述映射关系查询所述目标访问节点的IP地址;
以使所述客户端接入所述目标访问节点,包括:
以使所述客户端利用所述目标访问节点的IP地址接入所述目标访问节点。
4.根据权利要求1至3任一项所述的方法,其中,所述资源信息包括:节点各自所允许的访问流量的信息和/或节点的性能参数值。
5.根据权利要求1至4任一项所述的方法,其中,还包括:
根据预设的时间周期,将所述分布式存储系统集群的节点的负载评价指标信息和/或硬件参数信息存储至所述Zookeeper。
6.根据权利要求5所述的方法,其中,所述负载评价指标信息包括下列至少之一:
中央处理器CPU使用率;
内存使用率;
磁盘输入/输出使用率;
网卡带宽占用;
请求平均访问时延。
7.根据权利要求5或6所述的方法,其中,根据预设的时间周期,将所述分布式存储系统集群的节点的负载评价指标信息存储至所述Zookeeper之后,还包括:
根据所述分布式存储系统集群的节点的负载评价指标信息,计算各个节点的负载因子;
对所述各个节点的负载因子进行归一化处理,得到各个节点所允许的访问流量的信息;
将所述各个节点所允许的访问流量的信息存储于所述Zookeeper管理的高速缓冲存储器Cache。
8.根据权利要求5或6所述的方法,其中,根据预设的时间周期,将所述分布式存储系统集群的节点的硬件参数信息存储至所述Zookeeper之后,还包括:
根据所述分布式存储系统集群的节点的硬件参数信息,计算各个节点的性能参数值;
将所述各个节点的性能参数值存储于所述Zookeeper管理的Cache。
9.根据权利要求1至8任一项所述的方法,其中,获取所述至少两个待访问节点各自所允许的资源信息,包括:
从所述Zookeeper管理的Cache中获取所述至少两个待访问节点各自所允许的访问流量的信息和/或性能参数值。
10.一种节点访问装置,包括:
选择模块,适于接收来自客户端的、访问分布式存储系统存储空间上的数据的访问请求,从所述分布式存储系统集群的多个节点中选择能够提供待访问数据的至少两个待访问节点;
获取模块,适于获取所述至少两个待访问节点各自所允许的资源信息;
访问模块,适于根据获取的所述资源信息,从所述至少两个待访问节点中选择目标访问节点,以使所述客户端接入所述目标访问节点,进行访问操作。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201410509449.0A CN104202434A (zh) | 2014-09-28 | 2014-09-28 | 节点访问方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201410509449.0A CN104202434A (zh) | 2014-09-28 | 2014-09-28 | 节点访问方法和装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN104202434A true CN104202434A (zh) | 2014-12-10 |
Family
ID=52087659
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201410509449.0A Pending CN104202434A (zh) | 2014-09-28 | 2014-09-28 | 节点访问方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN104202434A (zh) |
Cited By (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104636135A (zh) * | 2014-12-31 | 2015-05-20 | 北京奇虎科技有限公司 | 一种节点访问方法和系统、客户端代理和客户端 |
CN104679877A (zh) * | 2015-03-12 | 2015-06-03 | 浪潮集团有限公司 | 一种高可用集群资源管理方法 |
CN105373431A (zh) * | 2015-10-29 | 2016-03-02 | 武汉联影医疗科技有限公司 | 一种计算机系统资源的管理方法及计算机资源管理系统 |
CN106776008A (zh) * | 2016-11-23 | 2017-05-31 | 福建六壬网安股份有限公司 | 一种基于zookeeper实现负载均衡的方法及系统 |
CN106919435A (zh) * | 2015-12-25 | 2017-07-04 | 华为技术有限公司 | 虚拟机的创建方法、资源的管理方法及装置 |
CN107888696A (zh) * | 2017-11-24 | 2018-04-06 | 郑州云海信息技术有限公司 | 一种存储实验室设备信息获取方法、系统及相关装置 |
CN108196791A (zh) * | 2017-12-29 | 2018-06-22 | 北京奇虎科技有限公司 | 基于多个存储设备的数据访问方法及装置 |
CN110071975A (zh) * | 2019-04-23 | 2019-07-30 | 深圳易帆互动科技有限公司 | 异步上报的动态服务器管理系统 |
CN110290009A (zh) * | 2019-07-02 | 2019-09-27 | 深圳市网心科技有限公司 | 一种数据调度方法、装置及计算机可读存储介质 |
CN111506254A (zh) * | 2019-01-31 | 2020-08-07 | 阿里巴巴集团控股有限公司 | 分布式存储系统及其管理方法、装置 |
CN112543213A (zh) * | 2019-09-23 | 2021-03-23 | 杭州海康威视数字技术股份有限公司 | 一种数据处理方法及装置 |
CN112749004A (zh) * | 2019-10-30 | 2021-05-04 | 中国移动通信集团安徽有限公司 | 基于节点访问热度的数据存储方法及装置 |
CN113391769A (zh) * | 2021-06-30 | 2021-09-14 | 华云数据控股集团有限公司 | 分布式存储方法和装置、计算设备和存储介质 |
CN114979153A (zh) * | 2022-04-07 | 2022-08-30 | 浙江大华技术股份有限公司 | 负载均衡方法、计算机设备及存储装置 |
CN115495023A (zh) * | 2022-11-16 | 2022-12-20 | 苏州浪潮智能科技有限公司 | 一种数据请求方法、装置、设备及存储介质 |
Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1567237A (zh) * | 2003-06-09 | 2005-01-19 | 浪潮电子信息产业股份有限公司 | 构建高可用分布式存储系统的方法 |
CN101013387A (zh) * | 2007-02-09 | 2007-08-08 | 华中科技大学 | 基于对象存储设备的负载平衡方法 |
CN101764824A (zh) * | 2010-01-28 | 2010-06-30 | 深圳市同洲电子股份有限公司 | 一种分布式缓存控制方法、装置及系统 |
CN102129442A (zh) * | 2010-09-20 | 2011-07-20 | 华为技术有限公司 | 一种分布式数据库系统和数据访问方法 |
CN102420867A (zh) * | 2011-12-01 | 2012-04-18 | 浪潮电子信息产业股份有限公司 | 一种基于实时负载均衡机制的集群存储入口解析方法 |
CN102739707A (zh) * | 2011-04-07 | 2012-10-17 | 中兴通讯股份有限公司 | 一种分布式关键字表网络及对其进行操作的方法 |
CN102982141A (zh) * | 2012-11-20 | 2013-03-20 | 北京搜狐新媒体信息技术有限公司 | 一种实现分布式数据库代理的方法及装置 |
CN103379138A (zh) * | 2012-04-17 | 2013-10-30 | 深圳市腾讯计算机系统有限公司 | 实现负载均衡的方法及系统和灰度发布的方法及装置 |
CN103701916A (zh) * | 2013-12-31 | 2014-04-02 | 赛凡信息科技(厦门)有限公司 | 分布式存储系统的动态负载均衡方法 |
CN103716251A (zh) * | 2014-01-14 | 2014-04-09 | 三星电子(中国)研发中心 | 用于内容分发网络的负载均衡方法及设备 |
CN104023083A (zh) * | 2014-06-23 | 2014-09-03 | 广东睿江科技有限公司 | 日志收集集群负载均衡的方法及装置 |
-
2014
- 2014-09-28 CN CN201410509449.0A patent/CN104202434A/zh active Pending
Patent Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1567237A (zh) * | 2003-06-09 | 2005-01-19 | 浪潮电子信息产业股份有限公司 | 构建高可用分布式存储系统的方法 |
CN101013387A (zh) * | 2007-02-09 | 2007-08-08 | 华中科技大学 | 基于对象存储设备的负载平衡方法 |
CN101764824A (zh) * | 2010-01-28 | 2010-06-30 | 深圳市同洲电子股份有限公司 | 一种分布式缓存控制方法、装置及系统 |
CN102129442A (zh) * | 2010-09-20 | 2011-07-20 | 华为技术有限公司 | 一种分布式数据库系统和数据访问方法 |
CN102739707A (zh) * | 2011-04-07 | 2012-10-17 | 中兴通讯股份有限公司 | 一种分布式关键字表网络及对其进行操作的方法 |
CN102420867A (zh) * | 2011-12-01 | 2012-04-18 | 浪潮电子信息产业股份有限公司 | 一种基于实时负载均衡机制的集群存储入口解析方法 |
CN103379138A (zh) * | 2012-04-17 | 2013-10-30 | 深圳市腾讯计算机系统有限公司 | 实现负载均衡的方法及系统和灰度发布的方法及装置 |
CN102982141A (zh) * | 2012-11-20 | 2013-03-20 | 北京搜狐新媒体信息技术有限公司 | 一种实现分布式数据库代理的方法及装置 |
CN103701916A (zh) * | 2013-12-31 | 2014-04-02 | 赛凡信息科技(厦门)有限公司 | 分布式存储系统的动态负载均衡方法 |
CN103716251A (zh) * | 2014-01-14 | 2014-04-09 | 三星电子(中国)研发中心 | 用于内容分发网络的负载均衡方法及设备 |
CN104023083A (zh) * | 2014-06-23 | 2014-09-03 | 广东睿江科技有限公司 | 日志收集集群负载均衡的方法及装置 |
Cited By (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104636135A (zh) * | 2014-12-31 | 2015-05-20 | 北京奇虎科技有限公司 | 一种节点访问方法和系统、客户端代理和客户端 |
CN104636135B (zh) * | 2014-12-31 | 2018-05-04 | 北京奇虎科技有限公司 | 一种节点访问方法和系统、客户端代理和客户端 |
CN104679877A (zh) * | 2015-03-12 | 2015-06-03 | 浪潮集团有限公司 | 一种高可用集群资源管理方法 |
CN105373431A (zh) * | 2015-10-29 | 2016-03-02 | 武汉联影医疗科技有限公司 | 一种计算机系统资源的管理方法及计算机资源管理系统 |
CN105373431B (zh) * | 2015-10-29 | 2022-09-27 | 武汉联影医疗科技有限公司 | 一种计算机系统资源的管理方法及计算机资源管理系统 |
CN106919435A (zh) * | 2015-12-25 | 2017-07-04 | 华为技术有限公司 | 虚拟机的创建方法、资源的管理方法及装置 |
CN106776008A (zh) * | 2016-11-23 | 2017-05-31 | 福建六壬网安股份有限公司 | 一种基于zookeeper实现负载均衡的方法及系统 |
CN107888696A (zh) * | 2017-11-24 | 2018-04-06 | 郑州云海信息技术有限公司 | 一种存储实验室设备信息获取方法、系统及相关装置 |
CN108196791A (zh) * | 2017-12-29 | 2018-06-22 | 北京奇虎科技有限公司 | 基于多个存储设备的数据访问方法及装置 |
CN111506254A (zh) * | 2019-01-31 | 2020-08-07 | 阿里巴巴集团控股有限公司 | 分布式存储系统及其管理方法、装置 |
CN111506254B (zh) * | 2019-01-31 | 2023-04-14 | 阿里巴巴集团控股有限公司 | 分布式存储系统及其管理方法、装置 |
CN110071975A (zh) * | 2019-04-23 | 2019-07-30 | 深圳易帆互动科技有限公司 | 异步上报的动态服务器管理系统 |
CN110290009A (zh) * | 2019-07-02 | 2019-09-27 | 深圳市网心科技有限公司 | 一种数据调度方法、装置及计算机可读存储介质 |
CN110290009B (zh) * | 2019-07-02 | 2023-02-28 | 深圳市网心科技有限公司 | 一种数据调度方法、装置及计算机可读存储介质 |
CN112543213A (zh) * | 2019-09-23 | 2021-03-23 | 杭州海康威视数字技术股份有限公司 | 一种数据处理方法及装置 |
CN112543213B (zh) * | 2019-09-23 | 2022-06-03 | 杭州海康威视数字技术股份有限公司 | 一种数据处理方法及装置 |
CN112749004A (zh) * | 2019-10-30 | 2021-05-04 | 中国移动通信集团安徽有限公司 | 基于节点访问热度的数据存储方法及装置 |
CN112749004B (zh) * | 2019-10-30 | 2023-09-05 | 中国移动通信集团安徽有限公司 | 基于节点访问热度的数据存储方法及装置 |
CN113391769A (zh) * | 2021-06-30 | 2021-09-14 | 华云数据控股集团有限公司 | 分布式存储方法和装置、计算设备和存储介质 |
CN114979153A (zh) * | 2022-04-07 | 2022-08-30 | 浙江大华技术股份有限公司 | 负载均衡方法、计算机设备及存储装置 |
CN114979153B (zh) * | 2022-04-07 | 2023-10-27 | 浙江大华技术股份有限公司 | 负载均衡方法、计算机设备及存储装置 |
CN115495023A (zh) * | 2022-11-16 | 2022-12-20 | 苏州浪潮智能科技有限公司 | 一种数据请求方法、装置、设备及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104202434A (zh) | 节点访问方法和装置 | |
US10637916B2 (en) | Method and device for storage resource allocation for video cloud storage | |
US9971823B2 (en) | Dynamic replica failure detection and healing | |
CN103607424B (zh) | 一种服务器连接方法及服务器系统 | |
CN109714188B (zh) | 基于Zookeeper的配置数据管理方法、设备和存储介质 | |
CN105095423B (zh) | 计数数据写入方法和装置 | |
US11232177B2 (en) | Application usage analytics for licensing analysis | |
JP7234479B2 (ja) | ストレージアドレスの決定に関してマルチレベルハッシュ関数を用いるオブジェクトストレージシステム | |
CN106407207B (zh) | 一种实时新增数据更新方法和装置 | |
US10579597B1 (en) | Data-tiering service with multiple cold tier quality of service levels | |
CN107888666A (zh) | 一种跨地域数据存储系统以及数据同步方法和装置 | |
CN108845877B (zh) | 管理内存的方法、装置和系统 | |
CN111538875B (zh) | 业务指标采集方法、装置及风控设备 | |
JP2014519100A (ja) | 分散キャッシングおよびキャッシュ分析 | |
CN105407013A (zh) | 用户在线状态统计系统及方法 | |
CN105991660A (zh) | 一种多云存储系统间资源共享的系统 | |
CN106776720A (zh) | 一种文件处理方法和装置 | |
CN110244901A (zh) | 任务分配方法及装置、分布式存储系统 | |
CN105100224A (zh) | 数据传输方法及装置 | |
CN106708636A (zh) | 基于集群的数据缓存方法及装置 | |
CN106055706A (zh) | 一种缓存资源存储方法及装置 | |
CN110309229A (zh) | 分布式系统的数据处理方法和分布式系统 | |
CN104504113B (zh) | 移动端浏览器进行信息处理的方法、装置以及移动终端 | |
CN106227769A (zh) | 数据存储方法及装置 | |
CN107046581A (zh) | 一种服务运行状态的监测方法、装置及服务器 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20141210 |