CN109698847A - 一种基于请求处理时间的云存储系统均衡负载的读取方法及系统 - Google Patents

一种基于请求处理时间的云存储系统均衡负载的读取方法及系统 Download PDF

Info

Publication number
CN109698847A
CN109698847A CN201710992824.5A CN201710992824A CN109698847A CN 109698847 A CN109698847 A CN 109698847A CN 201710992824 A CN201710992824 A CN 201710992824A CN 109698847 A CN109698847 A CN 109698847A
Authority
CN
China
Prior art keywords
server
request
load
processing status
processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201710992824.5A
Other languages
English (en)
Inventor
张�浩
林文辉
高哲
杨为琛
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Aisino Corp
Original Assignee
Aisino Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aisino Corp filed Critical Aisino Corp
Priority to CN201710992824.5A priority Critical patent/CN109698847A/zh
Publication of CN109698847A publication Critical patent/CN109698847A/zh
Pending legal-status Critical Current

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H04L67/1008—Server selection for load balancing based on parameters of servers, e.g. available memory or workload
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1097—Protocols in which an application is distributed across nodes in the network for distributed storage of data in networks, e.g. transport arrangements for network file system [NFS], storage area networks [SAN] or network attached storage [NAS]

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Computer And Data Communications (AREA)

Abstract

本发明公开了一种基于请求处理时间的云存储系统均衡负载的读取方法：设置请求集合中每个请求的处理状态；将服务器集合中的服务器的负载值拟合为直接，通过直线的斜率判断服务器集合中的所有服务器的负载是否发生了倾斜；当服务器集合中的服务器的负载没有倾斜时，将处理能力属性最低值的服务器分配给长度属性值最小的请求；若请求的状态为第一级处理状态，确认请求副本所在的服务器，优先选择处理能力属性最低值的服务器分配给请求；当服务器集合中的服务器的负载有倾斜时，选取负载值低于服务器集合中所有服务器的平均负载的所有低负载服务器，优先选择当前请求集合中长度属性值最小的请求分配给低负载服务器中的服务器。

Description

一种基于请求处理时间的云存储系统均衡负载的读取方法及 系统
技术领域
本发明涉及网络应用技术领域，更具体地，涉及一种基于请求处理时间的云存储系统均衡负载的读取方法及系统。
背景技术
近年来，互联网的发展改变了人们的生活方式，大量数据密集合型应用应运而生，越来越多的领域和行业需要存储和管理大规模的数据。数据的形式多变、复杂性高，传统单一的存储方式无法应对海量数据的存储和管理，云存储技术得以快速发展。
云存储是在云计算技术的基础上发展而来的，云计算是一种利用互联网实现随时随地、按需、便捷地访问共享资源池的计算模式，其目标在于，通过网络将大型的计算任务分割成若干较小的计算任务，分配给多台服务器共同处理。因此，云计算系统是一个以数据运算和处理为核心的系统，而当云计算系统的核心是数据的存储和管理时，云计算系统就需要设备管理和数据存储的相关技术。云存储通过网格技术、分布式文件系统、集合群应用等关键技术，整合网络中异构的存储资源，并通过一定的接口，对外提供统一的数据存储服务和数据访问服务。在web时代，云存储及时与应用软件的结合为互联网用户带来了便利的服务，并有效保证了数据的可用性、安全性。对象存储技术以对象为单元,对象大小不固定,并且对象存储设备承担了部分文件系统底层的功能,具有优良的自治功能。因此,基于对象存储技术开发的存储系统可以提供一个具有商性能、易扩展、易共享、可容错的存储环境。
开源云平台openstack的对象云存储系统Swift，属于云存储技术的一种，适合存储永久类型的静态数据。Swift的体系结构可以分为两层：访问层和存储层。访问层主要包含代理服务器和认证，分别处理RESTful请求和用户身份认证。存储层由物理存储节点组成，负责对象数据的存储。云存储系统Swift在网盘应用、存储资源池、集合中备份、归档和分级存储等其他应用场景中也有着广泛的应用。云存储系统Swift在对性能普通且类型不同的存储设备进行统一的管理,虚拟成统一的存储池,并通过一致性哈希算法和文件副本策略,构建出易扩展的、无单点故障的、可容灾的分布式文件存储系统。云存储系统Swift是一种对象存储系统,存储单元是对象。对象包括数据和元数据,数据是用户数据,元数据是对象属性,元数据与传统的inode数据相似,包括与对象相关的如时间戳、在磁盘上的逻辑分布、数据块和对象的长度等属性。对于用户而言,通过发送HTTP请求和云存储系统Swift进行交互。用户可以将数据作为一个对象发送给云存储系统Swift,也可以从云存储系统Swift中以一个对象的形式读取数据。用户无需关心对象的存储形式和存储位置。云存储系统Swift也是一个分布式存储系统,采用可扩展的系统结构,利用多台分布在不同位置的存储设备,通巧网络通信将所有存储设备连接起来共同提供数据存储服务。分布式存储系统与传统的集合中存储系统相比,适合承担海量数据的存储和管理,能够提高存储系统的稳定性、可用性和存储效率。
在云存储系统Swift中通过Nwr策略来控制一致性级别，在实际的分布式存储系统中，Nwr的取值与环境密切相关。Nwr的默认配置为n＝3，w＝2，r＝2，即默认每个对象的副本个数为3，写操作需要确保成功写入2个副本才算成功，另一副本可由系统自动更新，读操作需要确保成功读取2个副本才算成功，取最新版本的副本返回给用户。
用户在使用云存储系统Swift时,并不是直接地访问某一台服务器,而是访问不同种类的服务器共同构建的存储池。云存储系统Swift将用户请求分配到各服务器上,由各服务器共同完成用户的请求。因此,在云存储系统Swift中,完成用户请求的速度与每一个服务器都息息相关。然而,云存储系统Swift在处理用户的读取请求时，却随机地为请求选择服务器。这种做法未考虑各服务器的实时负载、请求之间的差异,容易造成读取请求阻塞在某些服务器上,而另外一部分服务器却空闲的情况,从而无法有效地利用各服务器,影响用户请求的处理速度。
因此，需要一种技术，以解决基于请求处理时间的云存储系统Swift均衡负载的读取的问题。
发明内容
本发明提供了一种基于请求处理时间的云存储系统均衡负载的读取的方法和系统，以解决如何基于请求处理时间对云存储系统均衡负载进行读取的问题。
为了解决上述问题，本发明提供了一种基于请求处理时间的云存储系统均衡负载的读取方法，
设置请求集合中每个请求的处理状态，所述处理状态包括：第一级处理状态、第二级处理状态以及第三级处理状态；利用最小二乘法，将服务器集合中的服务器的负载值拟合为直线，通过所述直线的斜率判断所述服务器集合中的所有服务器的负载是否发生了倾斜；
当所述服务器集合中的服务器的负载没有倾斜时，将处理能力属性最低值的服务器分配给长度属性值最小的请求，并更新所述分配请求后的服务器的处理能力属性值；对所述请求的状态进行更新，若所述请求的状态为第二级处理状态，则更新所述请求的状态为第三级状态；若所述请求的状态为第一级处理状态，确认所述请求的副本所在的服务器，优先选择处理能力属性最低值的服务器,并将所述请求分配给所述处理能力属性最低值的服务器，并将所述请求的状态更新为第二级处理状态；
本发明提供了一种基于请求处理时间的云存储系统均衡负载的读取方法，
设置请求集合中每个请求的处理状态，所述处理状态包括：第一级处理状态、第二级处理状态以及第三级处理状态；利用最小二乘法，将服务器集合中的服务器的负载值拟合为直线，通过所述直线的斜率判断所述服务器集合中的所有服务器的负载是否发生了倾斜；
当所述服务器集合中的服务器的负载有倾斜时，选取负载值低于所述服务器集合中所有服务器的平均负载的所有低负载服务器，组成低负载服务器集合，优先选择当前请求集合中长度属性值最小的请求分配给所述低负载服务器中的服务器，并更新所述分配请求后的服务器的处理能力属性值，获取所述请求的处理状态，将所述请求的第一级处理状态更新为第二级处理状态，或将所述请求的第二级处理状态更新为第三级处理状态。
优选地，还包括：获取多个请求，将多个请求记为请求集合；将多个服务器记为服务器集合。
优选地，设置所述请求集合中的多个请求中每个请求的长度属性，所述长度属性用于记录所述请求集合中对应请求的长度；
设置所述服务器集合中的多个服务器中每个服务器的处理能力属性，所述处理能力属性用于记录所述服务器集合中对应服务器的处理能力。
优选地，还包括：对所述请求集合中的多个请求和服务器集合的多个服务器进行排序，建立所述请求集合和服务器集合的二维矩阵。
优选地，所述二维矩阵的行为按照当前负载排序后的服务器集合，所述二维矩阵的行数为所述服务器集合的大小；所述二维矩阵的列为按照长度排序后的请求集合，所述二维矩阵的列数为所述请求集合的大小。
基于本发明的另一方面，提供一种基于请求处理时间的云存储系统均衡负载的读取系统，
状态记录单元，用于设置所述请求集合中每个请求的处理状态，所述处理状态包括：第一级处理状态、第二级处理状态以及第三级处理状态；负载判断单元，用于利用最小二乘法，将所述服务器集合中的服务器的负载值拟合为直接，通过所述直线的斜率判断所述服务器集合中的所有服务器的负载是否发生了倾斜；
第一处理单元，用于当所述服务器集合中的服务器的负载没有倾斜时，将处理能力属性最低值的服务器分配给长度属性值最小的请求，并更新所述分配请求后的服务器的处理能力属性值；对所述请求的状态进行更新，若所述请求的状态为第二级处理状态，则更新所述请求的状态为第三级状态；若所述请求的状态为第一级处理状态，确认所述请求的副本所在的服务器，优先选择处理能力属性最低值的服务器，并将所述请求分配给所述处理能力属性最低值的服务器，并将所述请求的状态更新为第二级处理状态；
基于本发明的另一方面，提供一种基于请求处理时间的云存储系统均衡负载的读取系统，
状态记录单元，用于设置所述请求集合中每个请求的处理状态，所述处理状态包括：第一级处理状态、第二级处理状态以及第三级处理状态；负载判断单元，用于利用最小二乘法，将所述服务器集合中的服务器的负载值拟合为直接，通过所述直线的斜率判断所述服务器集合中的所有服务器的负载是否发生了倾斜；
第二处理单元，用于当所述服务器集合中的服务器的负载有倾斜时，选取负载值低于所述服务器集合中所有服务器的平均负载的所有低负载服务器，组成低负载服务器集合，优先选择当前请求集合中长度属性值最小的请求分配给所述低负载服务器中的服务器，并更新所述分配请求后的服务器的处理能力属性值，获取所述请求的处理状态，将所述请求的第一级处理状态更新为第二级处理状态，或将所述请求的第二级处理状态更新为第三级处理状态。
优选地，还包括初始单元，用于获取多个请求，将多个请求记为请求集合；将多个服务器记为服务器集合。
优选地，初始设置单元，用于设置所述请求集合中的多个请求中每个请求的长度属性，所述长度属性用于记录所述请求集合中对应请求的长度；
用于设置所述服务器集合中的多个服务器中每个服务器的处理能力属性，所述处理能力属性用于记录所述服务器集合中对应服务器的处理能力。
优选地，矩阵建立单元，用于对所述请求集合中的多个请求和服务器集合的多个服务器进行排序，建立所述请求集合和服务器集合的二维矩阵。
优选地，所述二维矩阵的行为按照当前负载排序后的服务器集合，所述二维矩阵的行数为所述服务器集合的大小；所述二维矩阵的列为按照长度排序后的请求集合，所述二维矩阵的列数为所述请求集合的大小。
本发明技术方案主要针对云存储系统在处理读取请求时的缺陷，提出了一种基于请求处理时间的读取负载均衡方法。相对于云存储系统原本为请求随机选择服务器，这种分配方式考虑了服务器的实时负载，避免了由于多数请求聚集合在少部分服务器而延长请求等待时间的情况。
附图说明
通过参考下面的附图，可以更为完整地理解本发明的示例性实施方式：
图1为根据本发明实施方式的一种基于请求处理时间的云存储系统Swift均衡负载的读取方法流程图；
图2为根据本发明实施方式的一种基于请求处理时间的云存储系统Swift均衡负载的读取方法流程图；以及
图3为根据本发明实施方式的一种基于请求处理时间的云存储系统Swift均衡负载的读取系统结构图。
具体实施方式
现在参考附图介绍本发明的示例性实施方式，然而，本发明可以用许多不同的形式来实施，并且不局限于此处描述的实施例，提供这些实施例是为了详尽地且完全地公开本发明，并且向所属技术领域的技术人员充分传达本发明的范围。对于表示在附图中的示例性实施方式中的术语并不是对本发明的限定。在附图中，相同的单元/元件使用相同的附图标记。
除非另有说明，此处使用的术语(包括科技术语)对所属技术领域的技术人员具有通常的理解含义。另外，可以理解的是，以通常使用的词典限定的术语，应当被理解为与其相关领域的语境具有一致的含义，而不应该被理解为理想化的或过于正式的意义。
图1为根据本发明实施方式的一种基于请求处理时间的云存储系统Swift均衡负载的读取方法流程图。本发明实施方式主要针对云存储系统Swift在处理请求时容易在某些服务器出现的阻塞问题，考虑到引起的原因之一是没有考虑到服务器实时负载，提出了一种基于请求处理时间的云存储系统Swift读取负载均衡方法。该算法采用最小二乘法将服务器负载拟合成直线，通过直线的斜率判断服务器负载是否发生倾斜。针对发生倾斜和未发生倾斜两种情况，采用不同的方法处理读取请求。如图1所示一种基于请求处理时间的云存储系统Swift均衡负载的读取方法100从步骤101开始，在101步骤开始前，还包括：
获取多个请求，将多个请求记为请求集合；将多个服务器记为服务器集合。
设置请求集合中的多个请求中每个请求的长度属性，长度属性用于记录请求集合中对应请求的长度。
设置服务器集合中的多个服务器中每个服务器的处理能力属性，处理能力属性用于记录服务器集合中对应服务器的处理能力。
对请求集合中的多个请求和服务器集合的多个服务器进行排序，建立请求集合和服务器集合的二维矩阵。
优选地，二维矩阵的行为按照当前负载排序后的服务器集合，二维矩阵的行数为服务器集合的大小；二维矩阵的列为按照长度排序后的请求集合，二维矩阵的列数为请求集合的大小。
优选地，在步骤101：设置请求集合中每个请求的处理状态，处理状态包括：第一级处理状态、第二级处理状态以及第三级处理状态。
优选地，在步骤102：利用最小二乘法，将服务器集合中的服务器的负载值拟合为直线，通过直线的斜率判断服务器集合中的所有服务器的负载是否发生了倾斜。
优选地，在步骤103：当服务器集合中的服务器的负载没有倾斜时，将处理能力属性最低值的服务器分配给长度属性值最小的请求，并更新分配请求后的服务器的处理能力属性值；对请求的状态进行更新，若请求的状态为第二级处理状态，则更新请求的状态为第三级处理状态；若请求的状态为第一级处理状态，确认所述请求副本所在的服务器，优先选择处理能力属性最低值的服务器分配给所述请求，并将所述请求的状态更新为第二级处理状态。
优选地，在步骤104：当所述服务器集合中的服务器的负载有倾斜时，选取负载值低于所述服务器集合中所有服务器的平均负载的所有低负载服务器，记为低负载服务器集合，优先选择当前请求集合中长度属性值最小的请求分配给所述低负载服务器中的服务器，并更新分配请求后的服务器的处理能力属性值，获取所述请求的处理状态，将所述请求的第一级处理状态更新为第二级处理状态，或将所述请求的第二级处理状态更新为第三级处理状态。
图2为根据本发明实施方式的一种基于请求处理时间的云存储系统Swift均衡负载的读取方法流程图，具体说明如下：
根据现有机制下云存储系统Swift读取数据的缺陷，其首先会根据一致性哈希技术找出对象对应的虚拟节点，再根据虚拟节点和服务器的映射关系表。找出该虚拟节点的3个副本所在的3个对象服务器。接着在这3个对象服务器中随机选择两个并从中读取对象，然后对这2个副本进行比较，若它们一致，则直接向用户返回结果；若它们不一致，则对它们进行比较，选择较新版本的副本返回给用户。这种随机选择对象服务器的方式可以提高响应请求的速度，但却忽略了服务器的实时负载，会导致小部分服务器聚集合了大部分读取请求，而大部分服务器却只需要处理小部分读取请求的后果。另一方面，每个读取请求都需要从2个对象服务器中分别读取副本，若不考虑服务器的实时负载，则可能出现其中一个副本很快读出，另外一个副本则被阻塞，导致先读出的副本需要等待另一副本的读取，影响读取请求的处理速度。因此，在处理读取请求时考虑对象服务器的实时负载非常重要，这样才能合理地为选择请求选择服务器处理，提高资源的利用率。
假设用Reqi表示某个请求，Devj表示某个服务器，现有n个请求记为请求集合Req_set:{Req1,Req2,...,Reqn}，m个服务器记为服务器集合Dev_set:{Dev1,Dev2,...,Devm},该算法解决的是如何合理地将这n个请求分配至m个服务器中，使各服务器承受的负载基本一致，避免负载倾斜现象。在Swift中，对于任何一个用户发来的请求，并不是每一个对象服务器都可以对其进行处理。但在本算法中，默认每个服务器都可以处理请求集合中的任何一个请求，需要对用户请求进行预处理，将请求集合中的每一个请求与可以处理它的服务器对应起来，并且对服务器集合和请求集合进行排序。预处理结果用二维矩阵double_sort_matrix表示，行对应按照当前负载排序后的服务器集合，行数等于服务器集合的大小，列对应按照长度排序后的请求，列数等于请求集合的大小。
不同请求要读取的对象大小不一，有比较大的差异，本算法为每个请求增加一个长度属性来标识要读取的对象的大小，用Obj_sizei来表示请求Reqi的长度。Swift中各对象服务器的性能也存在差异，考虑到不同服务器在处理同一个读取请求时主要涉及到其处理能力，各个服务器的处理能力采用P(Devi)表示。通过让各个服务器处理同一个请求从而采用其处理速度的方式来决定其P(Devi)的大小，处理速度快的服务器P(Devi)大，处理速度慢的服务器P(Devi)小。
Swift中每个对象服务器会收到两种请求，读取请求和存储请求。本算法中暂且忽略各对象服务器上的存储请求，假设存储请求为各个服务器带来的负载相同，仅计算读取请求带来的负载。假设某对象服务器Devj当前正在处理以及等待处理的读取请求有Req1，Req2，...,Reqn,则对象服务器Devj的负载Loadj为：
Loadj＝(Obj_size1+Obj_size2+...+Obj_sizen)/P(Devj)
另外，假设某个时刻对象服务器Devj的负载为cur_loadj,当其接收了新的请求Reqi时，则其负载Loadj将变为：
Loadj＝cur_loadj+Obj_sizei/P(Devj)
由于Swift采用的N＝3，W＝2，R＝2策略，每个读取请求需要读取两个副本。对于请求集合中的每个请求，只有从两个不同的服务器分别读取了副本之后才能认为该请求处理完毕。考虑到任何一个请求的两次处理都不一定是连续的，因此本算法对请求设置处理状态，各请求的最初状态都为条第一级处理状态waiting，表示请求正在等待分配；当请求被分配给某一服务器后，状态变为第二级处理状态processing，当请求第二次被分配给某个服务器后，状态变为第三级处理状态done。状态为第三级处理状态done的请求被认为已经分配完毕，可以从请求集合中删除。
基于请求处理时间的读取负载均衡算法的基本思路是首先判断当前各服务器的负载值是否出现倾斜,没有出现倾斜的状态被视为服务器负载均衡。然后针对发生倾斜和没有发生倾斜两种情况分别采取不同的措施。本算法采用最小二乘法判断当前各服务器的负载是否发生倾斜。首先以服务器ID为横坐标，负载值为纵坐标，使用最小二乘法将各服务器的负载值拟合成一条直线,通过该直线的斜率k表示服务器的负载是否发生了倾斜。显而易见的是,直线的斜率k越大说明各服务器的负载值相差越大。但又因为斜率的范围为0到∞,因此本算法采用sin(arctan(k))(0≤sin(arctan(k))＜1)表示服务器的负载是否倾斜。本算法将通过实验得出一个阈值Threshold,若Threshold满足公式:sin(arctan(k))<Threshold则认为服务器的负载没有发生倾斜。反之,认为服务器的负载发生了倾斜。
当服务器的负载没有发生倾斜时,说明此时服务器负载相对均衡。为了尽量维持这种状态，则选择负载最低的服务器去处理长度较小的请求。该算法会选择负载最小的服务器devj,将请求集合中长度最小的请求Reqi分配至该服务器,并更新服务器devj的当前负载值。接着判断请求Reqi的状态,若状态为第二级处理状态processing,则将状态置为第三级处理状态done,从请求集合Req_set中删除该请求。若状态为第一级处理状态waiting,则需要计算请求对应的虚拟节点,根据虚拟节点找出副本所在的所有服务器,然后从中选择除服务器devj外的负载值最小的服务器继续处理该请求。
当服务器的负载发生了倾斜时,说明此时服务器负载值相差较大，不宜再向负载值大的服务器分配请求，因此应将请求分配至负载较低的服务器。该算法会计算服务器集合中当前负载的平均值,记为ave_load。然后找出负载低于平均值的那些服务器,放入集合合Low_ave_dev中。对于集合合Low_ave_dev中的每一个服务器,选择当前请求集合Req_set中长度最小的请求分配。每次分配后都需要更新服务器的负载W及请求状态,若请求原来状态为第二级处理状态processing则更新状态为第三级处理状态done，并从请求集合中删除请求。若请求原来状态为第一级处理状态waiting，则更新状态为第二级处理状态processing。
本发明实施方式主要针对Swift在处理读取请求时的缺陷，提出了一种基于请求处理时间的读取负载均衡方法。本申请的算法考虑读取请求和对象服务器的差异性，使用最小二乘法来将服务器负载拟合成直线，利用直线的斜率状态来标识当前服务器负载是否均衡。并且根据服务器当前负载是否均衡采用不同的策略来应对，避免了读取请求的群聚效应，较少了请求等待的时间。
图3为根据本发明实施方式的一种基于请求处理时间的云存储系统Swift均衡负载的读取系统结构图。如图3所示，一种基于请求处理时间的云存储系统Swift均衡负载的读取系统300，包括：
状态记录单元301，用于设置请求集合中每个请求的处理状态，处理状态包括：第一级处理状态、第二级处理状态以及第三级处理状态。
负载判断单元302，用于利用最小二乘法，将服务器集合中的服务器的负载值拟合为直接，通过直线的斜率判断服务器集合中所有的服务器的负载是否发生了倾斜。
第一处理单元303，用于当服务器集合中的服务器的负载没有倾斜时，将处理能力属性最低值的服务器分配给长度属性值最小的请求，并更新分配请求后的服务器的处理能力属性值；对请求的状态进行更新，若请求的状态为第二级处理状态，则更新请求的状态为第三级状态；若请求的状态为第一级处理状态，确认所述请求的副本所在的服务器，优先选择处理能力属性最低值的服务器，并将所述请求分配给所述处理能力属性最低值的服务器，并将所述请求的状态更新为第二级处理状态。
第二处理单元304，用于当服务器集合中的服务器的负载有倾斜时，选取负载值低于服务器集合中所有服务器的平均负载的所有低负载服务器，记为低负载服务器集合，优先选择当前请求集合中长度属性值最小的请求分配给低负载服务器中的服务器，并更新分配请求后的服务器的处理能力属性值，获取所述请求的处理状态，将所述请求的第一级处理状态更新为第二级处理状态，或将所述请求的第二级处理状态更新为第三级处理状态。
优选地，系统300还包括初始单元，用于获取多个请求，将多个请求记为请求集合；将多个服务器记为服务器集合。
优选地，系统300还包括初始设置单元，用于设置请求集合中的多个请求中每个请求的长度属性，长度属性用于记录请求集合中对应请求的长度。
用于设置服务器集合中的多个服务器中每个服务器的处理能力属性，处理能力属性用于记录服务器集合中对应服务器的处理能力。
优选地，系统300还包括矩阵建立单元，用于对请求集合中的多个请求和服务器集合的多个服务器进行排序，建立请求集合和服务器集合的二维矩阵。
优选地，二维矩阵的行为按照当前负载排序后的服务器集合，二维矩阵的行数为服务器集合的大小；二维矩阵的列为按照长度排序后的请求集合，二维矩阵的列数为请求集合的大小。
发明实施方式的一种基于请求处理时间的云存储系统Swift均衡负载的读取系统300与本发明实施方式一种基于请求处理时间的云存储系统Swift均衡负载的读取方法100、200相对应，在此不再进行赘述。
已经通过参考少量实施方式描述了本发明。然而，本领域技术人员所公知的，正如附带的专利权利要求所限定的，除了本发明以上公开的其他的实施例等同地落在本发明的范围内。
通常地，在权利要求中使用的所有术语都根据他们在技术领域的通常含义被解释，除非在其中被另外明确地定义。所有的参考“一个/所述/该[装置、组件等]”都被开放地解释为所述装置、组件等中的至少一个实例，除非另外明确地说明。这里公开的任何方法的步骤都没必要以公开的准确的顺序运行，除非明确地说明。

Claims (12)

1.一种基于请求处理时间的云存储系统均衡负载的处理方法，
设置请求集合中每个请求的处理状态，所述处理状态包括：第一级处理状态、第二级处理状态以及第三级处理状态；利用最小二乘法，将服务器集合中的服务器的负载值拟合为直线，通过所述直线的斜率判断所述服务器集合中的所有服务器的负载是否发生了倾斜；
当所述服务器集合中的服务器的负载没有倾斜时，将处理能力属性最低值的服务器分配给长度属性值最小的请求，并更新所述分配请求后的服务器的处理能力属性值；对所述请求的状态进行更新，若所述请求的状态为第二级处理状态，则更新所述请求的状态为第三级处理状态；若所述请求的状态为第一级处理状态，确认所述请求的副本所在的服务器，优先选择处理能力属性最低值的服务器,并将所述请求分配给所述处理能力属性最低值的服务器，并将所述请求的状态更新为第二级处理状态。
2.一种基于请求处理时间的云存储系统均衡负载的处理方法，设置请求集合中每个请求的处理状态，所述处理状态包括：第一级处理状态、第二级处理状态以及第三级处理状态；利用最小二乘法，将服务器集合中的服务器的负载值拟合为直线，通过所述直线的斜率判断所述服务器集合中的所有服务器的负载是否发生了倾斜；
当所述服务器集合中的服务器的负载有倾斜时，选取负载值低于所述服务器集合中所有服务器的平均负载的所有低负载服务器，组成低负载服务器集合，优先选择当前请求集合中长度属性值最小的请求分配给所述低负载服务器集合中的服务器，并更新所述分配请求后的服务器的处理能力属性值，获取所述请求的处理状态，将所述请求的第一级处理状态更新为第二级处理状态，或将所述请求的第二级处理状态更新为第三级处理状态。
3.根据权利要求1或2所述的方法，还包括：获取多个请求，将多个请求记为请求集合；将多个服务器记为服务器集合。
4.根据权利要求3所述的方法，设置所述请求集合中的多个请求中每个请求的长度属性，所述长度属性用于记录所述请求集合中对应请求的长度；
设置所述服务器集合中的多个服务器中每个服务器的处理能力属性，所述处理能力属性用于记录所述服务器集合中对应服务器的处理能力。
5.根据权利要求4所述的方法，还包括：对所述请求集合中的多个请求和服务器集合的多个服务器进行排序，建立所述请求集合和服务器集合的二维矩阵。
6.根据权利要求5所述的方法，所述二维矩阵的行为按照当前负载排序后的服务器集合，所述二维矩阵的行数为所述服务器集合的大小；所述二维矩阵的列为按照长度排序后的请求集合，所述二维矩阵的列数为所述请求集合的大小。
7.一种基于请求处理时间的云存储系统均衡负载的处理系统，
状态记录单元，用于设置所述请求集合中每个请求的处理状态，所述处理状态包括：第一级处理状态、第二级处理状态以及第三级处理状态；负载判断单元，用于利用最小二乘法，将所述服务器集合中的服务器的负载值拟合为直接，通过所述直线的斜率判断所述服务器集合中的所有服务器的负载是否发生了倾斜；
第一处理单元，用于当所述服务器集合中的服务器的负载没有倾斜时，将处理能力属性最低值的服务器分配给长度属性值最小的请求，并更新所述分配请求后的服务器的处理能力属性值；对所述请求的状态进行更新，若所述请求的状态为第二级处理状态，则更新所述请求的状态为第三级处理状态；若所述请求的状态为第一级处理状态，确认所述请求的副本所在的服务器，优先选择处理能力属性最低值的服务器，并将所述请求分配给所述处理能力属性最低值的服务器，并将所述请求的状态更新为第二级处理状态。
8.一种基于请求处理时间的云存储系统均衡负载的处理系统，
状态记录单元，用于设置所述请求集合中每个请求的处理状态，所述处理状态包括：第一级处理状态、第二级处理状态以及第三级处理状态；负载判断单元，用于利用最小二乘法，将所述服务器集合中的服务器的负载值拟合为直接，通过所述直线的斜率判断所述服务器集合中的所有服务器的负载是否发生了倾斜；
第二处理单元，用于当所述服务器集合中的服务器的负载有倾斜时，选取负载值低于所述服务器集合中所有服务器的平均负载的所有低负载服务器，组成低负载服务器集合，优先选择当前请求集合中长度属性值最小的请求分配给所述低负载服务器集合中的服务器，并更新所述分配请求后的服务器的处理能力属性值，获取所述请求的处理状态，将所述请求的第一级处理状态更新为第二级处理状态，或将所述请求的第二级处理状态更新为第三级处理状态。
9.根据权利要求7或8所述的系统，还包括初始单元，用于获取多个请求，将多个请求记为请求集合；将多个服务器记为服务器集合。
10.根据权利要求9所述的系统，初始设置单元，用于设置所述请求集合中的多个请求中每个请求的长度属性，所述长度属性用于记录所述请求集合中对应请求的长度；
用于设置所述服务器集合中的多个服务器中每个服务器的处理能力属性，所述处理能力属性用于记录所述服务器集合中对应服务器的处理能力。
11.根据权利要求10所述的系统，矩阵建立单元，用于对所述请求集合中的多个请求和服务器集合的多个服务器进行排序，建立所述请求集合和服务器集合的二维矩阵。
12.根据权利要求11所述的系统，所述二维矩阵的行为按照当前负载排序后的服务器集合，所述二维矩阵的行数为所述服务器集合的大小；所述二维矩阵的列为按照长度排序后的请求集合，所述二维矩阵的列数为所述请求集合的大小。
CN201710992824.5A 2017-10-23 2017-10-23 一种基于请求处理时间的云存储系统均衡负载的读取方法及系统 Pending CN109698847A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710992824.5A CN109698847A (zh) 2017-10-23 2017-10-23 一种基于请求处理时间的云存储系统均衡负载的读取方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710992824.5A CN109698847A (zh) 2017-10-23 2017-10-23 一种基于请求处理时间的云存储系统均衡负载的读取方法及系统

Publications (1)

Publication Number Publication Date
CN109698847A true CN109698847A (zh) 2019-04-30

Family

ID=66226700

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710992824.5A Pending CN109698847A (zh) 2017-10-23 2017-10-23 一种基于请求处理时间的云存储系统均衡负载的读取方法及系统

Country Status (1)

Country Link
CN (1) CN109698847A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111818147A (zh) * 2020-06-30 2020-10-23 北京思特奇信息技术股份有限公司 一种实现openstack swift服务自动负载均衡的系统及方法

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101753444A (zh) * 2009-12-31 2010-06-23 卓望数码技术（深圳）有限公司 一种负载均衡方法和负载均衡装置
CN102523158A (zh) * 2011-12-15 2012-06-27 杭州电子科技大学 一种基于权重的元数据服务器集群负载均衡方法
CN102571991A (zh) * 2012-03-27 2012-07-11 电子科技大学 基于多级映射的大规模多副本分布式存储系统及其应用方法
EP2905743A1 (en) * 2002-11-27 2015-08-12 ATI Technologies Inc. Dividing work among multiple graphics pipelines using a super-tiling technique
CN106202364A (zh) * 2016-07-07 2016-12-07 华南理工大学 面向MapReduce的XML数据划分优化方法及其系统
CN106612296A (zh) * 2015-10-21 2017-05-03 阿里巴巴集团控股有限公司 一种用户设备连接请求分配的方法及装置
CN107197035A (zh) * 2017-06-21 2017-09-22 中国民航大学 一种基于一致性哈希算法的亲和性动态负载均衡方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2905743A1 (en) * 2002-11-27 2015-08-12 ATI Technologies Inc. Dividing work among multiple graphics pipelines using a super-tiling technique
CN101753444A (zh) * 2009-12-31 2010-06-23 卓望数码技术（深圳）有限公司 一种负载均衡方法和负载均衡装置
CN102523158A (zh) * 2011-12-15 2012-06-27 杭州电子科技大学 一种基于权重的元数据服务器集群负载均衡方法
CN102571991A (zh) * 2012-03-27 2012-07-11 电子科技大学 基于多级映射的大规模多副本分布式存储系统及其应用方法
CN106612296A (zh) * 2015-10-21 2017-05-03 阿里巴巴集团控股有限公司 一种用户设备连接请求分配的方法及装置
CN106202364A (zh) * 2016-07-07 2016-12-07 华南理工大学 面向MapReduce的XML数据划分优化方法及其系统
CN107197035A (zh) * 2017-06-21 2017-09-22 中国民航大学 一种基于一致性哈希算法的亲和性动态负载均衡方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
赵丹丹: "Swift的读取负载均衡研究与实现", 《信息科技辑》 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111818147A (zh) * 2020-06-30 2020-10-23 北京思特奇信息技术股份有限公司 一种实现openstack swift服务自动负载均衡的系统及方法
CN111818147B (zh) * 2020-06-30 2022-09-02 北京思特奇信息技术股份有限公司 一种实现openstack swift服务自动负载均衡的系统及方法

Similar Documents

Publication Publication Date Title
CN106161120B (zh) 动态均衡负载的分布式元数据管理方法
US20180337847A1 (en) Indexing a multi-layer blockchain system
Surana et al. Load balancing in dynamic structured peer-to-peer systems
CN102053982B (zh) 一种数据库信息管理方法和设备
US9652469B2 (en) Clustered file service
CN107436813A (zh) 一种元数据服务器动态负载均衡的方法及系统
CN101909068A (zh) 一种文件副本管理方法及装置、系统
JP2003122508A5 (zh)
CN103929454A (zh) 一种云计算平台中负载均衡存储的方法和系统
US10579597B1 (en) Data-tiering service with multiple cold tier quality of service levels
CN103763365A (zh) 一种云存储下元数据服务的负载均衡方法及系统
Xu et al. Building a large-scale object-based active storage platform for data analytics in the internet of things
CN105005611A (zh) 一种文件管理系统及文件管理方法
CN107145384A (zh) 任务分配方法和系统
CN106960011A (zh) 分布式文件系统元数据管理系统及方法
US20190155698A1 (en) Distributed storage reservation for recovering distributed data
Xu et al. Effective load balancing in p2p systems
US20010027467A1 (en) Massively distributed database system and associated method
CN110321225B (zh) 负载均衡方法、元数据服务器及计算机可读存储介质
CN107395708A (zh) 一种处理下载请求的方法和装置
US9898614B1 (en) Implicit prioritization to rate-limit secondary index creation for an online table
Shabeera et al. Bandwidth-aware data placement scheme for Hadoop
CN109698847A (zh) 一种基于请求处理时间的云存储系统均衡负载的读取方法及系统
CN104219163A (zh) 一种基于动态副本法和虚拟节点法的节点动态前移的负载均衡方法
Gao et al. Compact, popularity-aware and adaptive hybrid data placement schemes for heterogeneous cloud storage

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20190430

RJ01 Rejection of invention patent application after publication