CN103220367A - 数据复制方法及数据存储系统 - Google Patents

Abstract

本发明实施例提供一种数据复制方法及其存储系统，该方法包括：响应客户端的读取文件请求；获取待读取文件的各文件块编号及各文件块在相应存储节点的分布信息；基于分布信息，并结合相应存储节点的负载度信息，匹配负载度低于第一负载度阈值的多个存储节点向所述客户端传送整套文件块；将已匹配的多个存储节点上的各文件块同步或列队向客户端传输。本发明实施例由于结合相应存储节点的负载度信息，并将待读取文件的各文件块在相应存储节点分布存储，提高了存储系统高并发时的稳定性。由于动态获取待读取文件的热度，并进行动态分布式存储，实现了存储节点的在线扩容，进一步提升了用户体验。

Description

数据复制方法及数据存储系统

技术领域

本发明实施例涉及计算机信息存储技术领域，具体涉及一种数据复制方法以及采用该方法的存储系统。

背景技术

计算机技术以及网络通信技术的飞速发展，使得全球信息存储量以每年超过30％的速度急剧增长。网络存储成为存储技术领域的必然趋势，而通过网络在线播放媒体资讯成为了用户的生活常态。其中，以对象存储结构为基础构建的大型分布式文件系统，能提供较强的并发数据处理能力，因此，元数据服务管理在大型分布式文件系统中显得非常重要。

但是，传统的元数据管理只是采用静态元数据分割以及分布存储，不能较好地实现负载的均衡，从而在高并发时出现用户媒资内容播放不稳定的问题。

发明内容

有鉴于此，有必要提供一种数据复制方法及存储系统，能够解决媒资内容播放过程中高并发的问题，提高播放稳定性。

本发明实施例提供一种用于存储系统的数据复制方法，包括：

响应客户端的读取文件请求；

获取待读取文件的各文件块编号及各文件块在相应存储节点的分布信息；

基于所述分布信息，并结合相应存储节点的负载度信息，匹配负载度低于第一负载度阈值的多个存储节点向所述客户端传送整套文件块，所述整套文件块组合而成为所述待读取文件；

将已匹配的所述多个存储节点上的各文件块同步式或列队式向客户端传输。

优选地，该数据复制方法进一步包括：

获取待读取文件的热度；

如果所述热度大于第一热度阈值，则将所述待读取文件所属的各文件块在负载度低于第二负载度阈值的存储节点上均制作副本或者随机制作副本。

优选地，如果所述热度小于第二热度阈值，则将所述待读取文件所属的各文件块的副本在各存储节点删除，而各文件块仅留一份副本。

优选地，该数据复制方法进一步包括：

获取待读取文件的热度，如果所述热度大于第三热度阈值，则增加所述待读取文件的文件分块数量，并将所述待读取文件所属的各文件块在负载度低于第二负载度阈值的存储节点上均制作副本或者随机制作副本。

优选地，该数据复制方法进一步包括：

更新待读取文件的属性信息，所述属性信息包括所述待读取文件所属的各文件块的编号、各文件块的副本数及各文件块副本在相应存储节点的分布信息。

优选地，所述获取待读取文件的热度的步骤，具体包括：在单位时间内，每收到一次来自客户端的读取文件请求，则将所述读取文件及其所属文件块的热度增加1，而如果在单位时间内，未收到来自客户端的读取文件请求，则将所述读取文件及其所属文件块的热度减少1。

同时，本发明实施例还提供一种数据存储系统，包括：

响应模块，用于响应客户端的读取文件请求；

属性获取模块，用于获取待读取文件的各文件块编号及各文件块在相应存储节点的分布信息；

策略匹配模块，用于基于所述分布信息，并结合相应存储节点的负载度信息，匹配负载度低于第一负载度阈值的多个存储节点向所述客户端传送整套文件块，所述整套文件块组合而成为所述待读取文件；

传送模块，用于将已匹配的所述多个存储节点上的各文件块同步式或列队式向客户端传输。

优选地，该数据存储系统进一步包括：

热度获取模块，用于获取待读取文件的热度；

副本扩增模块，如果所述热度大于第一热度阈值，则将所述待读取文件所属的各文件块在负载度低于第二负载度阈值的存储节点上均制作副本或者随机制作副本。

优选地，该数据存储系统进一步包括：

副本删除模块，如果所述热度小于第二热度阈值，则将所述待读取文件所属的各文件块的副本在各存储节点删除，而各文件块仅留一份副本。

优选地，该数据存储系统进一步包括：

属性更新模块，用于更新待读取文件的属性信息，所述属性信息包括所述待读取文件所属的各文件块的编号、各文件块的副本数及各文件块副本在相应存储节点的分布信息。

采用上述方案，由于结合相应存储节点的负载度信息，并将待读取文件的各文件块在相应存储节点分布存储，可以提高存储系统高并发时的应对能力。此外，由于本发明实施例动态获取待读取文件的热度，并同时匹配存储节点的负载度动态调整各文件块的分布存储，实现了存储节点的在线扩容，提升了媒资内容播放过程中的稳定性，进一步提升了用户体验。

附图说明

图1为本发明实施例用于存储系统的数据复制方法的流程示意图；

图2为图1所示数据复制方法中基于热点数据判断的具体操作流程示意图；

图3为本发明实施例数据存储系统的模块结构示意图；以及

图4为本发明实施例数据存储系统的一个应用例的示意图。

具体实施方式

为了便于理解本发明，下面结合附图和具体实施例，对本发明进行更详细的说明。附图中给出了本发明的较佳的实施例。但是，本发明可以以许多不同的形式来实现，并不限于本说明书所描述的实施例。相反地，提供这些实施例的目的是使对本发明的公开内容的理解更加透彻全面。

需要说明的是，除非另有定义，本说明书所使用的所有的技术和科学术语与属于本发明的技术领域的技术人员通常理解的含义相同。在本发明的说明书中所使用的术语只是为了描述具体的实施例的目的，不是用于限制本发明。本说明书所使用的术语“和/或”包括一个或多个相关的所列项目的任意的和所有的组合。

本发明实施例提供一种数据复制方法及其存储系统，该方法结合相应存储节点的负载度信息，并将待读取文件的各文件块在相应存储节点分布存储，提高了存储系统高并发时的稳定性。由于动态获取待读取文件的热度，并进行动态分布式存储，实现了存储节点的在线扩容，进一步提升了用户体验。以下分别进行详细说明。

请结合参看图1，本发明实施例用于存储系统的数据复制方法的流程示意图，包括如下步骤：

步骤102，响应客户端的读取文件请求。

客户端例如可以为远程的用户终端，如桌面电脑、移动电脑及智能手机等。用户通过搜索选定需要在线播放或者需要离线下载的多媒体文件，向存储系统发出读取文件请求。其中，该多媒体文件的格式包括但不限于AVI、MPG、MP4、RM、RMVB、WMV、MOV、DAT、MTV、VOB等。客户端与存储系统之间通讯的网络连接方式可以采用有线网络，也可以采用无线网络，如3G、Wifi等网络，在此不做限制。

步骤104，获取待读取文件的各文件块编号及各文件块在相应存储节点的分布信息。

存储系统收到客户端的读取文件请求之后，通过文件管理表查对待读取文件的相关属性信息，其中的待读取文件是指客户端所请求读取的文件。文件管理表可以内置于元数据控制器内，也可以为单独的模块。文件管理表的属性项具体包括但不受限于：待读取文件的名称、大小、类型、文件块数量；各文件块的编号、存储位置、副本数量、各副本存储位置，优选地还可包括修改时间、创建日期、所有者、版权人、版权信息、持续时间、分辨率、帧数据等属性项。

例如，下表给出一个待读取文件A.AVI在文件管理表中的属性信息的示例，该表中待读取文件的分块及存储模式与下文将提到的图4类似，具体可以同步参照图4：

文件名称	大小	类型	文件块数量
				A.AVI	3G	MEDIA	3
文件块编号	大小	副本数量	各副本存储位置
				A.AVI-A1	1G	3	T1、T2、T3
A.AVI-A2	1G	2	T1、T2
				A.AVI-A3	1G	2	T2、T3

该示例中，文件管理表具体包括两个子表，一个子表记录待读取文件A.AVI的大小、类型及文件块数量信息，该表中显示的待读取文件A.AVI大小为3G，文件类型为MEDIA，即媒体类型，文件块数量为3。另一个子表记录文件分块的信息，示例显示了待读取文件A.AVI的三个文件块A.AVI-A1、A.AVI-A2、A.AVI-A3大小均为1G，其中文件块A.AVI-A1有三个副本，分别存放于存储节点T1、T2和T3；文件块A.AVI-A2有两个副本，分别存放于存储节点T1和T2；文件块A.AVI-A3有两个副本，分别存放于存储节点T2和T3。

步骤106，基于所述分布信息，并结合相应存储节点的负载度信息，匹配负载度低于第一负载度阈值的多个存储节点向客户端传送整套文件块，整套文件块组合而成为待读取文件。

其中，存储节点的负载度例如主要与存储节点的队列长度、磁盘负载、CPU负载、内存负载和网络负载等相关。可以将存储节点的各相关因素进行归一化处理，经由特定的加权算法，将每一个存储节点的负载度归整到0至100之间，以供元数据控制器随时统计以及调用。例如可以通过设定第一负载度阈值为60将存储节点进行分类，负载度大于或等于60的存储节点定义为高负载度存储节点，负载度小于60的存储节点定义为低负载度存储节点。高负载度存储节点代表用户的并发请求较高、文件读取负荷较大的存储节点。相应地，低负载度存储节点代表用户的并发请求较低、文件读取负荷较小的存储节点。

此步骤所说的整套文件块优选指组合后不多不少正好能成为待读取文件的一组文件块。比如上文提到的示例，存储节点T1处的文件块A.AVI-A2、存储节点T2处的文件块A.AVI-A3以及存储节点T3处的文件块A.AVI-A1，三者组合正好可以形成整个待读取文件。

在此步骤中，假设存储节点T1、T2、T3均为低负载度存储节点，则元数据控制器可以做出以下匹配传送策略：存储节点T1向客户端传送文件块A.AVI-A2、存储节点T2向客户端传送文件块A.AVI-A3，存储节点T3向客户端传送文件块A.AVI-A1。而假设存储节点T1为高负载度存储节点，存储节点T2、T3为低负载度存储节点，则元数据控制器可以做出以下匹配传送策略：存储节点T2向客户端传送文件块A.AVI-A2和文件块A.AVI-A3，存储节点T3向客户端传送文件块A.AVI-A1。

步骤108，将已匹配的多个存储节点上的各文件块同步式或列队式向客户端传输。

在本步骤中，基于步骤106所形成的匹配传送策略进行文件块传送。其中同步传送或者队列式传送具体可由客户端控制，也可以由元数据控制器默认设置，比如如果客户端允许多线程同步下载则优选进行同步传送。

在本实施例中，通过匹配低负载度存储节点向客户传送文件块，可以解决并发较高带来的传送、播放不连续、不稳定问题。

此外，优选地在本实施例的步骤102之前，还可包括文件分块以及分布存储的步骤。待读取文件的主本首次上传到存储系统之后，需要由元数据控制器依据预定的分块策略进行文件分块处理，并将分块后的各文件块随机地存储于各存储节点。也可以选定负载度低于特定负载度阈值的若干存储节点来随机地存储各文件块，或者在每一个低负载度的存储节点上均制作各文件块的副本。此处提到的分块策略，比如可以是以100兆、200兆或300兆等为一个文件块。

请参阅图2，为图1所示数据复制方法中基于热点数据判断的具体操作流程示意图。

步骤112，获取待读取文件的热度。

本实施例中，热度为待读取文件被请求读取的频繁程度。热度的具体数值形成规则可由元数据控制器预先定义。例如，在预定单位时间比如1分钟、5分钟或者1小时内，每收到一次来自客户端的读取文件请求，则将该待读取文件及其所属文件块的热度增加1，而如果在该单位时间内，未收到来自客户端的读取文件请求，则将该待读取文件及其所属文件块的热度减少1。

步骤114，判定热度大小。

在此步骤中，预先定义三个热度阈值：第一热度阈值、第二热度阈值以及第三热度阈值。热度阈值的设定与用于统计的预定单位时间相关联。比如单位时间为5分钟时，可分别设置第一热度阈值、第二热度阈值以及第三热度阈值为200、50和300。比如，如果热度大于第一热度阈值200，则可认为该待读取文件为热点数据。如果热度小于第二热度阈值50，则可认为该待读取文件为冷点数据。如果热度大于第三热度阈值300，则可认为该待读取文件为超热点数据。

步骤116，如果所述热度大于第一热度阈值，则将所述待读取文件所属的各文件块在负载度低于第二负载度阈值的存储节点上均制作副本或者随机制作副本。

在本步骤中，主要完成热点数据的副本扩增制作。其中第二负载阈值可以根据情况设定为60、50、40、30、20或10等。对于大型分布式存储系统而言，考虑到低负载存储节点数量较大，可以采取随机制作副本的形式，具体的随机模式可由元数据控制器预定。对于低负载存储节点数量不多的情况，则可以设置在每个存储节点上均制作副本。

通过将热点数据在低负载的存储节点上制作副本，来提升热点数据的传播速度及稳定性，同时还可以平衡各存储节点之间的负荷。

步骤118，如果所述热度小于第二热度阈值，则将所述待读取文件所属的各文件块的副本在各存储节点删除，而各文件块仅留一份副本。

在本步骤中，主要完成冷点数据的副本删除操作。对于冷点数据，由于用户读取频率较低，通过及时删除文件块的多余副本，可以释放存储空间，以便供热点数据扩增副本使用。需要注意的是，不能删除全部的文件块，至少需要保留一份副本，以便供用户请求读取文件时不至于落空。

步骤120，如果所述热度大于第三热度阈值，则增加所述待读取文件的文件分块数量，并将所述待读取文件所属的各文件块在负载度低于第二负载度阈值的存储节点上均制作副本或者随机制作副本。

在本步骤中，主要完成超热点数据的细化分块以及副本扩增制作。对于超热点数据，由于用户访问频率很高，仅通过分配低负载存储节点还不能完全满足播放稳定性的情况下，需要进一步细化文件分块。比如，如果对于热点数据是以600兆为一个块的分块策略，则对于超热点数据可以采用300兆、200兆甚至100兆为一个块的分块策略。本步骤中，副本扩增制作的过程与前文同，在此不再介绍。

步骤122，更新待读取文件的属性信息，所述属性信息包括所述待读取文件所属的各文件块的编号、各文件块的副本数及各文件块副本在相应存储节点的分布信息。

对上述的热点数据、冷点数据以及超热点数据进行数据复制或删除操作之后，需要在文件管理表中进行属性更新，以便于后续的查询以及传送匹配策略制定。前文已经对文件管理表的属性信息进行过相关介绍，在此不再重复。

本实施例通过将热点数据在低负载的存储节点上制作副本，来提升热点数据的传播速度及稳定性，同时还可以平衡各存储节点之间的负荷。对于冷点数据，由于用户读取频率较低，通过及时删除文件块的多余副本，可以释放存储空间，以便供热点数据扩增副本使用。而对于超热点数据，则通过进一步细化文件分块以及副本扩增的方式来解决传播速度及稳定性问题。

需要强调说明的是，这里所说的基于热点数据判断的具体操作步骤112至122优选在图1的步骤104之后进行。当然，不受限于此，也可以在步骤108之后进行。或者设置预定时间间隔比如1小时或2小时，由元数据控制器定期启动该基于热点数据判断的相关数据复制或删除步骤，以实现最优化的热点数据传送。

请参阅图3，是本发明实施例数据存储系统200的模块结构示意图。数据存储系统200包括响应模块202、属性获取模块204、策略匹配模块206及传送模块208。优选地，可进一步包括热度获取模块210、副本扩增模块212、副本删除模块214及属性更新模块216。

其中，响应模块202用于响应客户端的读取文件请求；

属性获取模块204用于获取待读取文件的各文件块编号及各文件块在相应存储节点的分布信息；

策略匹配模块206用于基于所述分布信息，并结合相应存储节点的负载度信息，匹配负载度低于第一负载度阈值的多个存储节点向所述客户端传送整套文件块，所述整套文件块组合而成为所述待读取文件；

传送模块208用于将已匹配的所述多个存储节点上的各文件块同步式或列队式向客户端传输。

在优选实施例中，热度获取模块210用于获取待读取文件的热度；

副本扩增模块212用于，如果所述热度大于第一热度阈值，则将所述待读取文件所属的各文件块在负载度低于第二负载度阈值的存储节点上均制作副本或者随机制作副本。

副本删除模块214用于，如果所述热度小于第二热度阈值，则将所述待读取文件所属的各文件块的副本在各存储节点删除，而各文件块仅留一份副本。

属性更新模块216用于更新待读取文件的属性信息，所述属性信息包括所述待读取文件所属的各文件块的编号、各文件块的副本数及各文件块副本在相应存储节点的分布信息。

请参阅图4，为本发明实施例数据存储系统300的一个应用例的示意图。其中为了下文清楚说明起见，同时示意显示了存储系统控制客户端。

数据存储系统300工作时，元数据控制器首先接收来自存储系统控制客户端的读取文件请求，再基于该请求从文件管理表查询得到待读取文件的分块信息以及存储分布信息，基于该分块信息以及分布存储信息匹配制定出文件块传送策略。然后再将该传送策略发送至控制客户端，控制客户端基于该传送策略直接向各存储节点T1、T2、T3获取相应的文件分块1、分块2及分块3。获取全套文件分块之后，在客户端将文件分块1、分块2及分块3组合成待读取文件，进而进行播放使用。当然，在客户端也不排除使用边下载边播放的模式。

其中，元数据控制器还可以同步进行基于热点数据判断的数据复制或删除操作。图4中显示了存储节点2正在将热点数据文件块1在存储节点1和存储节点3上制作副本。

需要说明的是，上述装置和系统内的各单元、各模块之间的信息交互、执行过程等内容，由于与本发明方法实施例基于同一构思，具体内容可参见本发明方法实施例中的叙述，此处不再赘述。

采用上述方案，由于结合相应存储节点的负载度信息，并将待读取文件的各文件块在相应存储节点分布存储，可以提高存储系统高并发时的应对能力。此外，由于本发明实施例动态获取待读取文件的热度，并同时匹配存储节点的负载度动态调整各文件块的分布存储，实现了存储节点的在线扩容，提升了媒资内容播放过程中的稳定性，进一步提升了用户体验。

需要说明的是，尽管本说明书以多媒体播放应用场景进行示意介绍，但是，本发明的应用领域不受限于此。比如本发明可以适用于大文件(大于100兆)、超大文件(大于1G)的云端服务器分布式读取。还可以适用于比如石油勘探、医院病人检查数据中的数据处理等。此外，本发明各实施例对相关负载度、热度、阈值及其预设值不做额外限制，只需依据实际应用情况对其进行定义即可。

本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成，该程序可以存储于一计算机可读存储介质中，存储介质可以包括：只读存储器(ROM，Read OnlyMemory)、随机存取存储器(RAM，Random Access Memory)、磁盘或光盘等。

需要说明的是，上述各技术特征继续相互组合，形成未在上面列举的各种实施例，均视为本发明说明书记载的范围；并且，对本领域普通技术人员来说，可以根据上述说明加以改进或变换，而所有这些改进和变换都应属于本发明所附权利要求的保护范围。

Claims (10)

1.一种用于存储系统的数据复制方法，其特征在于，包括：

响应客户端的读取文件请求；

获取待读取文件的各文件块编号及各文件块在相应存储节点的分布信息；

基于所述分布信息，并结合相应存储节点的负载度信息，匹配负载度低于第一负载度阈值的多个存储节点向所述客户端传送整套文件块，所述整套文件块组合而成为所述待读取文件；

将已匹配的所述多个存储节点上的各文件块同步式或列队式向客户端传输。

2.根据权利要求1所述的数据复制方法，其特征在于，所述方法进一步包括：

获取待读取文件的热度；

如果所述热度大于第一热度阈值，则将所述待读取文件所属的各文件块在负载度低于第二负载度阈值的存储节点上均制作副本或者随机制作副本。

3.根据权利要求2所述的数据复制方法，其特征在于，所述方法进一步包括：

如果所述热度小于第二热度阈值，则将所述待读取文件所属的各文件块的副本在各存储节点删除，而各文件块仅留一份副本。

4.根据权利要求1所述的数据复制方法，其特征在于，所述方法进一步包括：

获取待读取文件的热度，如果所述热度大于第三热度阈值，则增加所述待读取文件的文件分块数量，并将所述待读取文件所属的各文件块在负载度低于第二负载度阈值的存储节点上均制作副本或者随机制作副本。

5.根据权利要求2至4中任一项所述的数据复制方法，其特征在于，所述方法进一步包括：

更新待读取文件的属性信息，所述属性信息包括所述待读取文件所属的各文件块的编号、各文件块的副本数及各文件块副本在相应存储节点的分布信息。

6.根据权利要求2至4中任一项所述的数据复制方法，其特征在于，所述获取待读取文件的热度的步骤，具体包括：在单位时间内，每收到一次来自客户端的读取文件请求，则将所述读取文件及其所属文件块的热度增加1，而如果在单位时间内，未收到来自客户端的读取文件请求，则将所述待读取文件及其所属文件块的热度减少1。

7.一种数据存储系统，其特征在于，包括：

响应模块，用于响应客户端的读取文件请求；

属性获取模块，用于获取待读取文件的各文件块编号及各文件块在相应存储节点的分布信息；

策略匹配模块，用于基于所述分布信息，并结合相应存储节点的负载度信息，匹配负载度低于第一负载度阈值的多个存储节点向所述客户端传送整套文件块，所述整套文件块组合而成为所述待读取文件；

传送模块，用于将已匹配的所述多个存储节点上的各文件块同步式或列队式向客户端传输。

8.根据权利要求7所述的数据存储系统，其特征在于，所述数据存储系统进一步包括：

热度获取模块，用于获取待读取文件的热度；

副本扩增模块，如果所述热度大于第一热度阈值，则将所述待读取文件所属的各文件块在负载度低于第二负载度阈值的存储节点上均制作副本或者随机制作副本。

9.根据权利要求8所述的数据存储系统，其特征在于，所述数据存储系统进一步包括：

副本删除模块，如果所述热度小于第二热度阈值，则将所述待读取文件所属的各文件块的副本在各存储节点删除，而各文件块仅留一份副本。

10.根据权利要求8或9所述的数据存储系统，其特征在于，所述数据存储系统进一步包括：

属性更新模块，用于更新待读取文件的属性信息，所述属性信息包括所述待读取文件所属的各文件块的编号、各文件块的副本数及各文件块副本在相应存储节点的分布信息。

Images