CN116301658A - 一种多副本存储方法及相关装置 - Google Patents

Abstract

本说明书实施方式提供了一种多副本存储方法及相关装置，通过第一节点基于预先建立的协同节点集合，确定用于备份源文件的备份节点，并将源文件存储于备份节点中，实现多个第二节点的统一多副本存储管理，无需在每个第二节点中运行多副本存储管理逻辑，有利于减轻第二节点的算法负担。此外，备份节点和源节点为不同的第二节点，可以实现源文件的异节点备份，避免了单个节点损坏导致的备份文件和源文件都不可用的情况出现，实现了源文件的多副本存储，解决了备份文件的可用性较差的问题。

Description

一种多副本存储方法及相关装置

技术领域

本说明书中实施方式关于计算机应用技术领域，具体地说，涉及对象存储技术，更具体地说，涉及一种多副本存储方法及相关装置。

背景技术

目前，在分布式系统中，通常采用中心存储的云存储方式。大量的用户数据均存储在中心节点中。对于终端用户来说，可通过访问中心节点来使用存储的数据。。

但是，中心节点存储数据的方式会导致数据存储出现严重的中心化问题，用户终端与数据之间的距离较远，另外，若中心节点发生故障，将直接导致用户数据不可用。

发明内容

本说明书中多个实施方式提供一种多副本存储方法及相关装置，以实现数据的多副本存储的目的。

第一方面，本说明书的一个实施方式提供一种多副本存储方法，应用于分布式系统的第一节点，所述分布式系统还包括协同节点集合，所述协同节点集合包括多个第二节点，所述第一节点用于对所述协同节点集合进行多副本存储管理，所述多副本存储方法包括：

接收存储有源文件的源节点发送的存储消息通知，所述存储消息通知用于通知所述源文件存储于所述源节点中，所述源节点为所述协同节点集合中的第二节点；

在所述协同节点集合中，将除所述源节点外的至少一个第二节点确定为备份节点；

向所述备份节点发送备份指令，所述备份指令用于指示所述备份节点备份所述源文件。

第二方面，本说明书的一个实施方式提供了一种多副本存储装置，应用于分布式系统的第一节点，所述分布式系统还包括协同节点集合，所述协同节点集合包括多个第二节点，所述第一节点用于对所述协同节点集合进行多副本存储管理，所述多副本存储装置包括：

消息接收模块，用于接收存储有源文件的源节点发送的存储消息通知，所述存储消息通知用于通知所述源文件存储于所述源节点中，所述源节点为所述协同节点集合中的第二节点；

节点确定模块，用于在所述协同节点集合中，将除所述源节点外的至少一个第二节点确定为备份节点，所述协同节点集合包括多个所述第二节点；

指令发送模块，用于向所述备份节点发送备份指令，所述备份指令用于指示所述备份节点备份所述源文件。

第三方面，本说明书的一个实施方式提供了一种边缘云计算系统，包括：第一节点和多个第二节点；其中，

所述第一节点，用于根据上述任一项所述的多副本存储方法，对所述第二节点中存储的源文件进行多副本存储。

第四方面，本说明书的一个实施方式提供了一种电子设备，包括：处理器和存储器；

其中，所述存储器与所述处理器连接，所述存储器用于存储计算机程序；

所述处理器，用于通过运行所述存储器中存储的计算机程序，实现如上述的多副本存储方法。

第五方面，本说明书的一个实施方式提供了一种存储介质，所述存储介质上存储有计算机程序，所述计算机程序被处理器运行时，实现如上述的多副本存储方法。

第六方面，本说明书的一个实施方式提供了一种计算机程序产品或计算机程序，所述计算机程序产品或计算机程序包括计算机指令，所述计算机指令存储在计算机可读存储介质中；所述计算机设备的处理器从所述计算机可读存储介质读取所述计算机指令，所述处理器执行所述计算机指令时实现上述的多副本存储方法的步骤。

本说明书提供的多个实施方式，通过第一节点基于预先建立的协同节点集合，确定用于备份源文件的备份节点，并将源文件存储于备份节点中，实现多个第二节点的统一多副本存储管理，无需在每个第二节点中运行多副本存储管理逻辑，有利于减轻第二节点的算法负担。此外，备份节点和源节点为不同的第二节点，可以实现源文件的异节点备份，避免了单个节点损坏导致的备份文件和源文件都不可用的情况出现，实现了源文件的多副本存储，解决了备份文件的可用性较差的问题。

附图说明

图1为本说明书的一个实施方式提供的一种多副本存储方法的应用场景示意图；

图2为本说明书的一个实施方式提供的一种多副本存储方法的流程示意图；

图3为本说明书的一个实施方式提供的一种协同节点集合的结构示意图；

图4为本说明书的另一个实施方式提供的一种多副本存储方法的流程示意图；

图5为本说明书的一个实施方式提供的一种多副本存储装置的结构示意图；

图6为本说明书的另一个实施方式提供的一种多副本存储装置的结构示意图；

图7为本说明书的一个实施方式提供的一种电子设备的结构示意图。

具体实施方式

除非另外定义，本说明书实施例使用的技术术语或者科学术语应当为本说明书所属领域内具有一般技能的人士所理解的通常意义。本说明书实施例使用的“第一”、“第二”以及类似的词语并不表示任何顺序、数量或者重要性，而只是用来避免构成要素的混同而设置的。

除非上下文另有要求，否则，在整个说明书中，“多个”表示“至少两个”，“包括”被解释为开放、包含的意思，即为“包含，但不限于”。在说明书的描述中，术语“一个实施例”、“一些实施例”、“示例性实施例”、“示例”、“特定示例”或“一些示例”等旨在表明与该实施例或示例相关的特定特征、结构、材料或特性包括在本说明书的至少一个实施例或示例中。上述术语的示意性表示不一定是指同一实施例或示例。

下面将结合本说明书实施例中的附图，对本说明书实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本说明书一部分实施例，而不是全部的实施例。基于本说明书中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本说明书保护的范围。

概述

相关技术中，分布式系统中的多副本存储多局限于一个节点内，例如，在一个数据中心不同存储区域或不同主机内进行文件备份，这种多副本存储方法只能在当单个主机或存储区域损坏时，有备份文件可用，在当整个数据中心由于自然灾害或人为因素损坏时，会导致源文件和备份文件一起丢失，导致用户所需的文件不可用的问题。

为了解决这一问题，发明人经过长期研究发现，可以将文件在不同节点之间进行多副本存储，避免单个节点损坏时的文件不可用问题。例如，源节点在存储了一份源文件后，如果需要对源文件做多副本存储，则可以建立源节点与备份节点之间的通信连接，源节点基于建立的通信连接，将源文件发送给备份节点，并指示备份节点进行源文件的备份。在该过程中，如果备份节点不可用，则整个备份过程无法完成。并且由于分布式系统中的每个节点都可能存在对文件进行多副本存储的需求，这就需要各节点都具备多副本存储的整套执行逻辑，导致节点的管理逻辑复杂。

为了解决这一问题，发明人通过进一步研究发现，可以通过第一节点基于预先建立的协同节点集合，确定用于备份源文件的备份节点，并将源文件存储于备份节点中，实现多个第二节点的统一多副本存储管理，无需在每个第二节点中运行多副本存储管理逻辑，有利于减轻第二节点的算法负担。此外，备份节点和源节点为不同的第二节点，可以实现源文件的异节点备份，避免了单个节点损坏导致的备份文件和源文件都不可用的情况出现，实现了源文件的多副本存储，解决了备份文件的可用性较差的问题。除此之外，也可以在第一节点中设计相应的文件读取逻辑，满足用户对于文件的读取需求。

基于上述构思，本说明书实施方式提供了一种多副本存储方法，下面将结合附图对所述多副本存储方法进行示例性描述。

场景示例

参考图1，图1示出了一种多副本存储方法的可行应用场景，该应用场景可以为一个分布式系统，具体可以是分布式存储系统或分布式计算系统等。分布式系统中的文件存储方式为可以为对象存储(Object Storage)，对象存储是一种基于对象的数据存储，将数据存储为不同单元进行管理和操作。每个数据单元(对象，Object)均有元数据描述。具体地，在该分布式系统中，存储的文件(数据单元)包含对应的元数据(Metadata)，该元数据用于描述该文件的属性(例如该文件的大小、修改时间、存储位置等)。如此，元数据与文件一一对应的存储方式，支持多线程并行读取，解决了基于块存储(Block Storage)方式的分布式系统读取文件时只能依序进行的问题。同时，以对象存储方式进行文件存储的分布式系统还具有高可扩展性的特点。

在图1中，该分布式系统10包括多个节点11，节点11可以是数据中心(InternetData Center，IDC)，也可以是服务器或用户侧设备(例如网关等)及其对应的网络环境。客户端12通过网络与分布式系统10进行通信。分布式系统10可以设置特定的实体节点(例如数据中心)或程序节点(例如协同存储中心)执行本说明书实施方式提供的多副本存储方法，上述的协同存储中心可以搭载于某一节点11上。用户可以通过客户端12访问分布式系统10，使用分布式系统10提供的各项服务。

在一个具体的应用场景下，所述分布式系统可以是一个边缘云计算系统，边缘云计算系统中的节点11可以是边缘节点，边缘节点可以是数据中心或用户侧节点(例如边缘网关或家庭网关)，边缘节点具有更靠近用户侧的特点，用户可以更近距离地存取数据。具体来说，边缘云计算系统是基于云计算技术的核心和边缘计算的能力，构筑在边缘基础设施(即边缘节点)之上的云计算平台，通过将网络转发、存储、计算、智能化数据分析等工作放在边缘(即靠近用户侧的位置)处理，降低响应时延、减轻云端压力、降低带宽成本，并提供全网调度和算力分发等云服务。

在图1所示的应用场景中，所述客户端12可以是具有网络访问能力的电子设备。具体的，例如，客户端12可以是台式电脑、平板电脑、笔记本电脑、智能手机、数字助理、智能可穿戴设备、导购终端、电视机、智能音箱、麦克风等。其中，智能可穿戴设备包括但不限于智能手环、智能手表、智能眼镜、智能头盔、智能项链等。或者，客户端也可以为能够运行于所述电子设备中的软件。在分布式系统10中，节点11可以包括至少一个服务器，服务器可以是具有一定运算处理能力的电子设备。其可以具有网络通信模块、处理器和存储器等。当然，所述服务器也可以是指运行于所述电子设备中的软体。所述服务器还可以为分布式服务器，可以是具有多个处理器、存储器、网络通信模块等协同运作的系统。或者，服务器还可以为若干服务器形成的服务器集群。或者，随着科学技术的发展，服务器还可以是能够实现说明书实施方式相应功能的新的技术手段。例如，可以是基于量子计算实现的新形态的“服务器”。

示例的方法

本说明书的一个实施方式提供一种多副本存储方法，应用于分布式系统的第一节点，所述分布式系统还包括协同节点集合，所述协同节点集合包括多个第二节点，所述第一节点用于利用所述多副本存储方法对所述协同节点集合进行多副本存储管理，如图2所示，所述多副本存储方法包括：

S201：接收存储有源文件的源节点发送的存储消息通知，所述存储消息通知用于通知所述源文件存储于所述源节点中，所述源节点为所述协同节点集合中的第二节点。

所述存储消息通知可以是源节点在存储源文件后向第一节点发送的消息，即该存储消息通知用于通知所述源文件存储于所述源节点中，更具体地说，该消息可以用于通知第一节点在所述源节点中发生了存储源文件的操作。在一些实施方式中，为了表明存储的源文件的相关信息，便于查找和管理，所述存储消息通知中可以携带有所述源文件的元数据，所述元数据用于表征所述源文件的属性信息(例如源文件的存储位置、大小、修改时间等信息)。

如前文所述，第一节点可以是分布式系统中具有管理功能的管理节点，该管理节点可以是实体节点(例如数据中心)，也可以是运行于分布式系统的某一实体节点中的程序节点(例如运行在实体节点中的协同存储中心)。第二节点可以是指具有存储空间(Bucket)的实体节点，该存储空间可以是用于存储对象(Object)的容器，对象隶属于某个存储空间。第一节点和第二节点可以是分布式系统中不同的节点。存储空间可以具有各种配置属性，这些配置属性可以包括地区、访问权限、存储类型等等。在本实施例中，各第二节点可以是位于不同地理网格中的节点，以实现源文件的异地备份。依据统一规则，将地面区域按照一定经纬度或地面距离进行连续分割，并将空间不确定性控制在一定范围内，形成规则多边形，每个多边形均称为一个地理网格，从而实现地面空间离散化。地理网格的划分方式和大小可以根据实际情况而定，本说明书对此并不做限定。

在一些实施方式中，为了避免重复备份，源节点可以是指分布式系统中首次存储源文件的第二节点，或者说本说明书实施方式提供的多副本存储方法对于存储备份文件的第二节点上报的存储消息通知不执行后续的备份操作，避免同一份文件的循环备份。

S202：在所述协同节点集合中，将除所述源节点外的至少一个第二节点确定为备份节点。

协同节点集合包括多个所述第二节点，可以是指协同节点集合包括多个所述第二节点的存储空间，以及多个所述第二节点的目标节点列表。即协同节点集合可以包括目标节点列表和逻辑存储空间(逻辑Bucket)，例如可以是将多个第二节点的目标列表以及这些第二节点的存储空间在逻辑上整合在一起的集合。在一些实施方式中，协同节点集合可以与用户对应，协同节点集合中包括与所述协同节点集合对应的用户配置的目标节点列表以及列表中的第二节点的存储空间。一个第一节点可以对多个协同节点集合进行多副本存储管理，实现全局集中的多副本存储管理。

参考图3，图3示出了一个协同节点集合的结构示意图，在图3中，协同节点集合1包括由三个第二节点构成的目标节点列表以及存储空间，这三个第二节点可以分别为第二节点A、B、C，对应的存储空间分别为第二节点A的存储空间BucketA、第二节点B的存储空间BucketB和第二节点C的存储空间BucketC。在一些实施方式中，为了提高从协同节点结合中确定备份节点的效率，所述协同节点集合中还可以包括第二节点之间的关联关系，仍然参考图3，例如在协同节点集合1中，第二节点A与第二节点B和第二节点C关联，第二节点B与第二节点A关联，第二节点C与第二节点B和第二节点A关联。相应的，BucketA与BucketB和BucketC关联，BucketB与BucketA关联，BucketC与BucketB和BucketA关联。单个第二节点既可以关联一个其他第二节点，也可以关联多个其他第二节点，本说明书对此并不做限定。当单个第二节点关联多个其他第二节点时，以图3中的第二节点A为例，当第二节点A中的源文件存在备份需求时，该源文件可以备份于第二节点B中，也可以备份于第二节点C中，在一些实施方式中，还可以同时备份与第二节点B和第二节点C中，本说明书对此并不做限定。

如此，在从协同节点集合中确定备份节点时，可以先从与源节点关联的节点中确定可用的第二节点作为备份节点，在当与源节点关联的节点均状态异常(例如处于网络割接状态或不可用状态)时，可以从协同节点集合的目标节点列表中，将其他的第二节点确定为备份节点，这样可以提高第二节点的确定效率。

在一个实施方式中，可以将处于同一区域(例如同一省或同一市)内的不同第二节点彼此关联，如此可以优先在同一区域内确定源节点的备份节点，缩短备份节点与源节点之间的通信路径长度，提高备份效率。

S203：向所述备份节点发送备份指令，所述备份指令用于指示所述备份节点备份所述源文件。

在确定了用于备份源文件的备份节点后，第一节点可以向备份节点发送备份指令，以指示备份节点对源文件进行备份存储，实现多副本存储。

在所述多副本存储方法中，通过第一节点基于预先建立的协同节点集合，确定用于备份源文件的备份节点，并将源文件存储于备份节点中，实现多个第二节点的统一多副本存储管理，无需在每个第二节点中运行多副本存储管理逻辑，有利于减轻第二节点的算法负担。此外，备份节点和源节点为不同的第二节点，可以实现源文件的异节点备份，避免了单个节点损坏导致的备份文件和源文件都不可用的情况出现，实现了源文件的多副本存储，解决了备份文件的可用性较差的问题。

在一些实施方式中，提供了一种按需备份的实现方法，具体地，所述在所述协同节点集合中，将除所述源节点外的至少一个第二节点确定为备份节点包括：

若所述源节点所属的协同节点集合处于全局备份状态，则在所述协同节点集合中，将除所述源节点外的至少一个第二节点确定为备份节点；

若所述源节点所属的协同节点集合处于部分备份状态，则在所述源文件满足预设条件时，在所述协同节点集合中，将除所述源节点外的至少一个第二节点确定为备份节点。

在本实施方式中，所述协同节点集合可以包括全局备份状态和部分备份状态，用户根据需求，可以配置协同节点集合所处的状态。

当协同节点集合处于全局备份状态时，则在协同节点集合中的第二节点写入源文件时，均对源文件进行备份。当用户的文件均比较重要时，可以将协同节点集合设置为全局备份状态，满足协同节点集合中存储的文件均自动备份的需求。

而当协同节点集合处于部分备份状态时，只有在源文件满足预设条件时，才对其进行备份，满足用户的重要文件备份，而不重要文件不备份的按需备份需求。

在一个可选的实施方式中，提供了一种便捷的条件设置方式，具体地，所述预设条件包括：所述源文件的文件名前缀与预设的前缀模板相匹配。

例如，假设预设的前缀模板包括：a/*，则文件名为a/test.mp4的文件的文件名前缀与该前缀模板匹配，需要进行多副本备份。而文件名为b/test.mp4的文件的文件名前缀与该前缀模板不匹配，不需要进行多副本备份。通过文件名前缀与前缀模板的简单匹配即可简单、快捷地判断哪些源文件是需要多副本备份的，而哪些源文件是不需要多副本备份的，有利于提高方法执行效率。并且，用户在设置了前缀模板后，即可通过文件名的命名实现需要多副本备份的文件和不需要多副本备份的文件的区分，具有实现简单、便于操作的特点，无需用户付出大量的学习成本。

为了便捷地识别哪些文件是第一次存储在协同节点集合中，哪些文件是作为源文件的备份文件存储在协同节点集合中的，在一些实施方式中，所述第二节点包括第一存储空间和第二存储空间；所述源节点将所述源文件存储于所述第一存储空间；

所述备份指令具体用于，指示所述备份节点将所述源文件备份于所述第二存储空间。

在本实施方式中，将第二节点的存储空间分为两类，一类称为第一存储空间(也可称为主存储空间)，用于存储第一次存储到协同节点集合中的源文件，另一类称为第二存储空间(也可称为备份存储空间)，用于备份源文件。如此，可以通过存储消息通知对应的文件的存储空间类型，来判断该文件是源文件还是备份的源文件，具有简单易行的特点。

在一个可行的实施方式中，提供了一种基于存储位置判断源文件和源文件的备份文件的可行方法，具体可以包括：所述存储消息通知携带有存储位置信息，所述存储位置信息用于表征所述源文件的存储位置；

所述在所述协同节点集合中，将除所述源节点外的至少一个第二节点确定为备份节点包括：

若所述存储位置信息表征所述源文件存储于所述第一存储空间，则在所述协同节点集合中，将除所述源节点外的至少一个第二节点确定为备份节点。

若所述存储位置信息表征所述源文件存储于所述第二存储空间，则判定所述源文件为备份的源文件，不进行多副本备份。

在本实施例中，所述存储消息通知携带有存储位置信息，该存储位置信息可以包含在所述源文件的元数据中。如此，通过将第二节点的存储空间分区，实现源文件和备份的源文件的存储区域分类，从而可以通过源文件的元数据的存储位置信息进行备份文件和第一次存储文件的区分，是一种简单易行地避免源文件循环备份的方法。

为了满足用户对存储的文件的查询需求，在本说明书的一个实施方式中，所述存储消息通知携带有元数据，所述元数据用于表征存储于所述源节点和所述备份节点中的文件的属性；

如图4所示，所述多副本存储方法还包括：

S401：响应于文件读取指令，将存储有目标文件的所述源节点或所述备份节点，作为读取节点；所述文件读取指令携带有所述目标文件的元数据；

S402：将所述目标文件在所述读取节点中的地址作为响应结果返回给所述文件读取指令的请求方。

如前文所述，文件属性可以包括文件大小、修改时间、存储位置、文件类型、文件名称等信息。通过表征上述信息的元数据，可以精确确定用户待查询的目标文件，进而从存储有该目标文件的源节点或备份节点中读取该目标文件并作为响应结果返回给文件读取指令的请求方，满足用户对文件的查询需求。在读取过程中，第一节点根据文件读取指令携带的元数据确定了目标文件后，自动将源节点或备份节点作为读取节点，并将所述目标文件在所述读取节点中的地址返回，无需用户指定哪个节点作为读取节点，可以简化用户操作，降低用户学习成本，改善用户体验。

第一节点确定读取节点的因素可以包括源节点和备份节点的地理位置、资源水位(第二节点的存储资源剩余容量、网络带宽)等因素。

在本实施方式中，文件读取指令的响应结果为目标文件在读取节点中的地址，请求方可以根据该地址进行目标文件的实际访问，第一节点并不会对目标文件进行读写，有利于降低第一节点的数据处理量，提高方法的执行效率。

在一些实施方式中，给出了一种读取目标文件的可行方式，具体地，所述将存储有目标文件的所述源节点或所述备份节点，作为读取节点包括：

根据所述目标文件的元数据确定存储有所述目标文件的源节点和备份节点；

在确定的所述源节点可用时，将所述源节点作为所述读取节点；

在确定的所述源节点不可用时，将所述备份节点作为所述读取节点。

在本实施方式中，优先将源节点作为读取节点，这是因为一般情况下，源节点可能具有存储或通信优势。例如，在一些情况下，源节点中目标文件的存储时限相较于备份节点对于目标文件的存储时限更长，可以满足用户在较长时间内对目标文件的访问。在另一些情况下，在目标文件第一次存储时，第一节点可以根据第二节点的位置、通信状态、带宽等因素择优选择一个第二节点作为源节点进行文件的存储，如此，在读取时，将源节点作为目标文件的读取节点，可以提高第一节点读取目标文件的效率。

如上文所述，在一些实施方式中，可以指定备份节点备份源文件的时限，具体地，所述备份指令具体用于：指示所述备份节点从所述源节点获取所述源文件，并在预设时间段内存储所述源文件。

在本实施方式中，备份指令可以指定备份节点存储源文件的预设时间段，该预设时间段可以与源节点存储源文件的时间段相同，也可以不同，实现对源文件与备份的源文件之间的差异化管理。此外，第一节点只进行备份指令的下发，由备份节点从源节点中读取源文件，无需第一节点进行文件的读写操作，有利于降低第一节点数据处理量。

如前文所述，在所述协同节点集合还包括所述第二节点之间的关联关系时，所述在所述协同节点集合中，将除所述源节点外的至少一个第二节点确定为备份节点包括：

将所述源节点所属的协同节点集合中，与所述源节点具有关联关系的至少一个第二节点作为所述备份节点。

在本实施例中，在从协同节点集合中确定备份节点时，可以先从与源节点关联的节点中确定可用的第二节点作为备份节点，在当与源节点关联的节点均状态异常(例如处于网络割接状态或不可用状态)时，可以从协同节点集合的目标节点列表中，将其他的第二节点确定为备份节点，这样可以提高备份节点的确定效率。在一些实施方式中，也可以将处于同一区域(例如同一省或同一市)内的不同第二节点彼此关联，还可以将处于相邻地理网格内的第二节点彼此关联，如此可以优先在同一区域内确定源节点的备份节点，缩短备份节点与源节点之间的通信路径长度，提高备份效率。

如前文所述，第一节点可以在源文件备份存储时根据第二节点的资源水位进行自动调度，具体地，在一个实施方式中，所述在所述协同节点集合中，将除所述源节点外的至少一个第二节点确定为备份节点包括：

根据所述协同节点集合中第二节点的状态参数，将除所述源节点外的至少一个第二节点确定为备份节点，所述状态参数包括所述第二节点所处的地理位置、所述第二节点的存储资源剩余量和所述第二节点的网络带宽容量中的至少一项。

所述第二节点的存储资源剩余量和所述第二节点的网络带宽容量可以称为第二节点的资源水位，所述第二节点的网络带宽容量可以是指第二节点的网络总带宽容量，也可以是指第二节点的可用网络带宽容量，本说明书对此并不做限定。根据协同节点集合的状态参数进行备份文件的自动调度可以一定程度上实现各第二节点的负载均衡。

在一些实施方式中，所述根据所述协同节点集合中第二节点的状态参数，将除所述源节点外的至少一个第二节点确定为备份节点包括：

将所处的地理位置靠近用户所在位置的第二节点确定为所述备份节点，或，将存储资源剩余量和网络带宽容量最高的第二节点确定为所述备份节点。

除了上述方式之外，还可以为第二节点所处的地理位置与用户所在位置之间的距离赋予权重并打分，为第二节点的存储资源剩余量和网络带宽容量也赋予权重并打分，将各项参数打分的加权之和最高的第二节点确定为所述备份节点，如此，在实现各第二节点的负载均衡的基础上，也可兼顾靠近用户侧存储备份文件的需求。

除了在备份文件存储时，第一节点可以根据第二节点的资源水位进行自动调度之外，在一些实施方式中，第一节点也可以在目标文件读取时在源节点和备份节点之间进行自动调度。目标文件读取的自动调度可以在实现各源节点和备份节点之间的负载均衡的基础上，也可兼顾将靠近用户侧的节点作为读取节点，提高用户读取文件的效率。读取过程中的自动调度过程可以与备份文件存储时的自动调度方法类似，本说明书在此不做赘述。

本说明书实施方式还提供了一种多副本存储装置，如图5所示，应用于分布式系统的第一节点，所述分布式系统还包括协同节点集合，所述协同节点集合包括多个第二节点，所述第一节点用于对所述协同节点集合进行多副本存储管理，所述多副本存储装置包括：

消息接收模块501，用于接收存储有源文件的源节点发送的存储消息通知，所述存储消息通知用于通知所述源文件存储于所述源节点中，所述源节点为所述协同节点集合中的第二节点；

节点确定模块502，用于在所述协同节点集合中，将除所述源节点外的至少一个第二节点确定为备份节点，所述协同节点集合包括多个所述第二节点；

指令发送模块503，用于向所述备份节点发送备份指令，所述备份指令用于指示所述备份节点备份所述源文件。

参考图6，图6示出了在多副本存储装置的可行具体结构以及文件读写的可行流程。在图6中，当用户将源文件首次存储到源节点时，源节点将存储消息通知上传到第一节点的Meta信息汇聚模块，该Meta信息汇聚模块可以实现所述消息接收模块501接收源节点发送的存储消息通知的功能，并将存储消息通知中的元数据存储到核心库。除此之外，Meta信息汇聚模块还可以判断源文件是否需要备份(具体判断逻辑可参考上文示例性方法中的相关描述)，当源文件需要备份时，将备份任务加入异步队列，异步队列根据队列中的备份任务向数据协同模块发送具体备份任务。全局Bucket管理模块用于存储协同节点集合中第二节点的存储空间信息，全局调度根据全局Bucket管理模块中存储的相关存储空间信息，协同数据协同模块的备份任务，实现备份节点的确定，即全局调度实现了节点确定模块502的功能，数据协同模块向确定的备份节点发送备份指令，实现指令发送模块503的功能。

在用户进行目标文件读取时，文件读/删list(清单)中加入文件读取任务，根据核心库中存储的文件的元数据，确定目标文件所在的源节点和备份节点。全局调度根据源节点和备份节点的实际情况，确定目标文件的读取节点，并将目标文件在源节点中的地址或在备份节点中的地址(即目标文件地址)返回给用户，实现目标文件的读取。

本实施例提供的多副本存储装置，与本说明书上述实施例所提供的多副本存储方法属于同一申请构思，可执行本说明书上述任意实施例所提供的多副本存储方法，具备执行该多副本存储方法相应的功能模块和有益效果。未在本实施例中详尽描述的技术细节，可参见本说明书上述实施例提供的多副本存储方法的具体处理内容，此处不再加以赘述。

本说明书的一个实施方式还提供了一种边缘云计算系统，包括：第一节点和多个第二节点；其中，

所述第一节点，用于根据上述任一实施方式所述的多副本存储方法，对所述第二节点中存储的源文件进行多副本存储。

在边缘云计算系统中，第二节点可以是示例性场景中描述的边缘节点，在边缘云计算系统中，由于第二节点的数量通常较大，且各第二节点的稳定性层次不齐，实施多副本存储可以在发挥边缘云计算系统的低延迟特点的同时，保障边缘云计算系统的高可用性。

示例的电子设备、存储介质和软件

本说明书另一实施例还提出一种计算设备，参见图7所示，本说明书的一个示例性实施例还提供了一种计算设备，包括：存储器和处理器，所述存储器存储有计算机程序，所述处理器执行所述计算机程序时执行本说明书上述实施例中描述的根据本说明书各种实施例的多副本存储方法中的步骤。

该计算设备的内部结构可以如图7所示，该计算设备包括通过系统总线连接的处理器、存储器、网络接口和输入装置。其中，该计算设备的处理器用于提供计算和控制能力。该中控设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统和计算机程序。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算设备的网络接口用于与外部的终端通过网络连接通信。该计算机程序被处理器执行时以本说明书上述实施例中描述的根据本说明书各种实施例的多副本存储方法中的步骤。

处理器可包括主处理器，还可包括基带芯片、调制解调器等。

存储器中保存有执行本发明技术方案的计算机程序，还可以保存有操作系统和其他关键程序。具体地，计算机程序可以包括程序代码，程序代码包括计算机操作指令。更具体的，存储器可以包括只读存储器(read-only memory，ROM)、可存储静态信息和指令的其他类型的静态存储设备、随机存取存储器(random access memory，RAM)、可存储信息和指令的其他类型的动态存储设备、磁盘存储器、flash等等。

处理器可以是通用处理器，例如通用处理器(CPU)、微处理器等，也可以是特定应用集成电路(application-specific integrated circuit，ASIC)，或一个或多个用于控制本发明方案程序执行的集成电路。还可以是数字信号处理器(DSP)、专用集成电路(ASIC)、现成可编程门阵列(FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。

输入设备可包括接收用户输入的数据和信息的装置，例如键盘、鼠标、摄像头、扫描仪、光笔、语音输入装置、触摸屏、计步器或重力感应器等。

输出设备可包括允许输出信息给用户的装置，例如显示屏、打印机、扬声器等。

通信接口可包括使用任何收发器一类的装置，以便与其他设备或通信网络通信，如以太网，无线接入网(RAN)，无线局域网(WLAN)等。

处理器执行存储器中所存放的计算机程序，以及调用其他设备，可用于实现本申请上述实施例所提供的任意一种多副本存储方法的各个步骤。

该计算设备还可以包括显示组件和语音组件，该显示组件可以是液晶显示屏或者电子墨水显示屏，该计算设备的输入装置可以是显示组件上覆盖的触摸层，也可以是计算设备外壳上设置的按键、轨迹球或触控板，还可以是外接的键盘、触控板或鼠标等。

本领域技术人员可以理解，图7中示出的结构，仅仅是与本说明书方案相关的部分结构的框图，并不构成对本说明书方案所应用于其上的计算设备的限定，具体的计算设备可以包括比图中所示更多或更少的部件，或者组合某些部件，或者具有不同的部件布置。

除了上述方法和设备以外，本说明书实施例提供的多副本存储方法还可以是计算机程序产品，其包括计算机程序，所述计算机程序在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本说明书各种实施例的多副本存储方法中的步骤。

所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本说明书实施例操作的程序代码，所述程序设计语言包括面向对象的程序设计语言，诸如Java、C++等，还包括常规的过程式程序设计语言，诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。

此外，本说明书实施例还提供了一种计算机可读存储介质，其上存储有计算机程序，计算机程序被处理器执行本说明书上述“示例的方法”部分中描述的根据本说明书各种实施例的多副本存储方法中的步骤。

需要说明的是，本说明书所涉及的用户信息(包括但不限于用户设备信息、用户个人信息等)和数据(包括但不限于用于分析的数据、存储的数据、展示的数据等)，均为经用户授权或者经过各方充分授权的信息和数据，并且相关数据的收集、使用和处理需要遵守相关国家和地区的相关法律法规和标准，并提供有相应的操作入口，供用户选择授权或者拒绝。

可以理解，本文中的具体的例子只是为了帮助本领域技术人员更好地理解本说明书实施方式，而非限制本说明书的范围。

可以理解，在本说明书中的各种实施方式中，各过程的序号的大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本说明书实施方式的实施过程构成任何限定。

可以理解，本说明书中描述的各种实施方式，既可以单独实施，也可以组合实施，本说明书实施方式对此并不限定。

除非另有说明，本说明书实施方式所使用的所有技术和科学术语与本说明书的技术领域的技术人员通常理解的含义相同。本说明书中所使用的术语只是为了描述具体的实施方式的目的，不是旨在限制本说明书的范围。本说明书所使用的术语“和/或”包括一个或多个相关的所列项的任意的和所有的组合。在本说明书实施方式和所附权利要求书中所使用的单数形式的“一种”、“上述”和“该”也旨在包括多数形式，除非上下文清楚地表示其他含义。

可以理解，本说明书实施方式的处理器可以是一种集成电路芯片，具有信号的处理能力。在实现过程中，上述方法实施方式的各步骤可以通过处理器中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器可以是通用处理器、数字信号处理器(Digital Signal Processor，DSP)、专用集成电路(Application Specific IntegratedCircuit，ASIC)、现成可编程门阵列(Field Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本说明书实施方式中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本说明书实施方式所公开的方法的步骤可以直接体现为硬件译码处理器执行完成，或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器，闪存、只读存储器，可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器，处理器读取存储器中的信息，结合其硬件完成上述方法的步骤。

可以理解，本说明书实施方式中的存储器可以是易失性存储器或非易失性存储器，或可包括易失性和非易失性存储器两者。其中，非易失性存储器可以是只读存储器(ROM)、可编程只读存储器(Programmable ROM，PROM)、可擦除可编程只读存储器(ErasablePROM，EPROM)、电可擦除可编程只读存储器(EEPROM)或闪存。易失性存储器可以是随机存取存储器(RAM)。应注意，本文描述的系统和方法的存储器旨在包括但不限于这些和任意其它适合类型的存储器。

本领域普通技术人员可以意识到，结合本文中所公开的实施方式描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本说明书的范围。

所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的系统、装置和单元的具体工作过程，可以参考前述方法实施方式中的对应过程，在此不再赘述。

在本说明书所提供的几个实施方式中，应所述理解到，所揭露的系统、装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施方式仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。

所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施方式方案的目的。

另外，在本说明书各个实施方式中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。

所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本说明书的技术方案本质上或者说对现有技术做出贡献的部分或者所述技术方案的部分可以以软件产品的形式体现出来，所述计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本说明书各个实施方式所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM)、随机存取存储器(RAM)、磁碟或者光盘等各种可以存储程序代码的介质。

以上所述，仅为本说明书的具体实施方式，但本说明书的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本说明书揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本说明书的保护范围之内。因此，本说明书的保护范围应所述以权利要求的保护范围为准。

Claims (14)

1.一种多副本存储方法，其特征在于，应用于分布式系统的第一节点，所述分布式系统还包括协同节点集合，所述协同节点集合包括多个第二节点，所述第一节点用于对所述协同节点集合进行多副本存储管理，所述多副本存储方法包括：

接收存储有源文件的源节点发送的存储消息通知，所述存储消息通知用于通知所述源文件存储于所述源节点中，所述源节点为所述协同节点集合中的第二节点；

在所述协同节点集合中，将除所述源节点外的至少一个第二节点确定为备份节点；

向所述备份节点发送备份指令，所述备份指令用于指示所述备份节点备份所述源文件。

2.根据权利要求1所述的方法，其特征在于，所述在所述协同节点集合中，将除所述源节点外的至少一个第二节点确定为备份节点包括：

若所述源节点所属的协同节点集合处于全局备份状态，则在所述协同节点集合中，将除所述源节点外的至少一个第二节点确定为备份节点；

若所述源节点所属的协同节点集合处于部分备份状态，则在所述源文件满足预设条件时，在所述协同节点集合中，将除所述源节点外的至少一个第二节点确定为备份节点。

3.根据权利要求2所述的方法，其特征在于，所述预设条件包括：所述源文件的文件名前缀与预设的前缀模板相匹配。

4.根据权利要求1所述的方法，其特征在于，所述第二节点包括第一存储空间和第二存储空间；所述源节点将所述源文件存储于所述第一存储空间；

所述备份指令具体用于，指示所述备份节点将所述源文件备份于所述第二存储空间。

5.根据权利要求4所述的方法，其特征在于，所述存储消息通知携带有存储位置信息，所述存储位置信息用于表征所述源文件的存储位置；

所述在所述协同节点集合中，将除所述源节点外的至少一个第二节点确定为备份节点包括：

若所述存储位置信息表征所述源文件存储于所述第一存储空间，则在所述协同节点集合中，将除所述源节点外的至少一个第二节点确定为备份节点。

6.根据权利要求1所述的方法，其特征在于，所述存储消息通知携带有元数据，所述元数据用于表征存储于所述源节点和所述备份节点中的文件的属性；

所述多副本存储方法还包括：

响应于文件读取指令，将存储有目标文件的所述源节点或所述备份节点，作为读取节点；所述文件读取指令携带有所述目标文件的元数据；

将所述目标文件在所述读取节点中的地址作为响应结果返回给所述文件读取指令的请求方。

7.根据权利要求6所述的方法，其特征在于，所述将存储有目标文件的所述源节点或所述备份节点，作为读取节点包括：

根据所述目标文件的元数据确定存储有所述目标文件的源节点和备份节点；

在确定的所述源节点可用时，将所述源节点作为所述读取节点；

在确定的所述源节点不可用时，将所述备份节点作为所述读取节点。

8.根据权利要求1所述的方法，其特征在于，所述在所述协同节点集合中，将除所述源节点外的至少一个第二节点确定为备份节点包括：

根据所述协同节点集合中第二节点的状态参数，将除所述源节点外的至少一个第二节点确定为备份节点，所述状态参数包括所述第二节点所处的地理位置、所述第二节点的存储资源剩余量和所述第二节点的网络带宽容量中的至少一项。

9.根据权利要求1所述的方法，其特征在于，所述备份指令具体用于：指示所述备份节点从所述源节点获取所述源文件，并在预设时间段内存储所述源文件。

10.根据权利要求1所述的方法，其特征在于，所述协同节点集合还包括所述第二节点之间的关联关系；

所述在所述协同节点集合中，将除所述源节点外的至少一个第二节点确定为备份节点包括：

将所述源节点所属的协同节点集合中，与所述源节点具有关联关系的至少一个第二节点作为所述备份节点。

11.一种多副本存储装置，其特征在于，应用于分布式系统的第一节点，所述分布式系统还包括协同节点集合，所述协同节点集合包括多个第二节点，所述第一节点用于对所述协同节点集合进行多副本存储管理，所述多副本存储装置包括：

消息接收模块，用于接收存储有源文件的源节点发送的存储消息通知，所述存储消息通知用于通知所述源文件存储于所述源节点中，所述源节点为所述协同节点集合中的第二节点；

节点确定模块，用于在所述协同节点集合中，将除所述源节点外的至少一个第二节点确定为备份节点，所述协同节点集合包括多个所述第二节点；

指令发送模块，用于向所述备份节点发送备份指令，所述备份指令用于指示所述备份节点备份所述源文件。

12.一种边缘云计算系统，其特征在于，包括：

第一节点和多个第二节点；其中，

所述第一节点，用于根据权利要求1～10任一项所述的多副本存储方法，对所述第二节点中存储的源文件进行多副本存储。

13.一种电子设备，其特征在于，包括：处理器和存储器；

其中，所述存储器与所述处理器连接，所述存储器用于存储计算机程序；

所述处理器，用于通过运行所述存储器中存储的计算机程序，实现如权利要求1～10任一项所述的多副本存储方法。

14.一种存储介质，其特征在于，所述存储介质上存储有计算机程序，所述计算机程序被处理器运行时，实现如权利要求1～10任一项所述的多副本存储方法。

Images