CN110716692A - 读取性能提升方法、装置、存储节点及数据读取方法 - Google Patents
读取性能提升方法、装置、存储节点及数据读取方法 Download PDFInfo
- Publication number
- CN110716692A CN110716692A CN201810770640.9A CN201810770640A CN110716692A CN 110716692 A CN110716692 A CN 110716692A CN 201810770640 A CN201810770640 A CN 201810770640A CN 110716692 A CN110716692 A CN 110716692A
- Authority
- CN
- China
- Prior art keywords
- storage node
- offline
- storage
- node
- nodes
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0668—Interfaces specially adapted for storage systems adopting a particular infrastructure
- G06F3/067—Distributed or networked storage systems, e.g. storage area networks [SAN], network attached storage [NAS]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
- G06F3/061—Improving I/O performance
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
- G06F3/0638—Organizing or formatting or addressing of data
- G06F3/064—Management of blocks
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明提供一种读取性能提升方法、装置、存储节点及数据读取方法,应用于分布式存储系统中的每个存储节点,每个存储节点存储有集群拓扑表及该存储节点对应的读拓扑表。所述方法包括:检测集群拓扑表当前记录的真实离线存储节点的编号是否发生改变;当发生改变时,以集群拓扑表对读拓扑表进行更新;从读拓扑表当前记录的除真实离线存储节点的编号外的其他节点的编号中选取一定数目的存储节点编号;根据被选取的存储节点编号将对应存储节点在读拓扑表中设置为离线状态,以使被选定为主存储节点的存储节点基于调整后的读拓扑表进行数据读取。所述方法能够制造节点假离线,减少数据读取时访问存储节点数量,降低网络传输占比,提升数据读取性能。
Description
技术领域
本发明涉及分布式存储技术领域,具体而言,涉及一种读取性能提升方法、装置、存储节点及数据读取方法。
背景技术
随着分布式存储技术的快速发展,分布式存储系统的应用愈发广泛,其中基于纠删码存储方式的分布式存储系统便是一种在系统可靠性及存储成本之间取得较好平衡的系统方案。分布式存储系统包括多个存储节点,分布式存储系统在进行数据读取时,构成待读取数据的数据分块(包括该待读取数据对应的原始数据分块和/或冗余数据分块)需要通过集群网络从各存储节点传输到与待读取数据相对应的主存储节点,并由该主存储节点通过公共网络传输到携带有客户端软件的存储节点,再由携带有客户端软件的存储节点发送对应数据的方式完成本次数据读取操作。其中,一个数据所对应的主存储节点与携带有客户端软件的存储节点可以是同一个,分布式存储系统数据读取时存在零次网络传输、一次网络传输和/或两次网络传输的可能性。
目前,业界主流通常采用分布式存储系统中存在多少个存储节点就向这分布式系统中的所有节点进行数据读取的方式读取数据,这种数据读取方式通常会造成极大多数数据都需要经过一次或两次网络传输才能到达最终读取数据的存储节点,网络传输在整个数据读取过程中占据了很大的比重,又因网络传输延时较大,最终会导致分布式存储系统的数据读取性能不佳。
发明内容
为了克服现有技术中的上述不足,本发明的目的在于提供一种读取性能提升方法、装置、存储节点及数据读取方法,所述读取性能提升方法能够制造节点假离线,减少数据读取时访问存储节点数量,降低网络传输数据占比,提升系统的数据读取性能。
就方法而言,本发明实施例提供一种读取性能提升方法,所述读取性能提升方法应用于分布式存储系统中的每个存储节点,其中每个所述存储节点存储有该存储节点对应的用于从其他存储节点处读取数据的读拓扑表,及包括所述分布式存储系统中所有存储节点的编号的集群拓扑表,所述方法包括:
检测所述集群拓扑表当前记录的真实离线存储节点的编号是否发生改变;
当所述真实离线存储节点的编号发生改变时,以所述集群拓扑表对所述读拓扑表进行更新;
从所述读拓扑表当前记录的除所述真实离线存储节点编号外的其他存储节点的编号中选取一定数目的存储节点编号,其中被选取的存储节点编号的数目与所述真实离线存储节点的编号数目之和不大于预设最大离线节点总数;
根据被选取的存储节点编号将对应存储节点在所述读拓扑表中的通信状态设置为离线状态,以使所述读拓扑表对应的存储节点被选定为主存储节点时基于调整后的所述读拓扑表进行数据读取。
就装置而言,本发明实施例提供一种读取性能提升装置,所述读取性能提升装置应用于分布式存储系统中的每个存储节点,其中每个所述存储节点存储有该存储节点对应的用于从其他存储节点处读取数据的读拓扑表,及包括所述分布式存储系统中所有存储节点的编号的集群拓扑表,所述装置包括:
节点离线检测模块,用于检测所述集群拓扑表当前记录的真实离线存储节点的编号是否发生改变;
读拓扑表更新模块,用于当所述真实离线存储节点的编号发生改变时,以所述集群拓扑表对所述读拓扑表进行更新;
假离节点选取模块,用于从所述读拓扑表当前记录的除所述真实离线存储节点的编号外的其他存储节点的编号中选取一定数目的存储节点编号,其中被选取的存储节点编号的数目与所述真实离线存储节点的编号数目之和不大于预设最大离线节点总数;
节点假离设置模块,用于根据被选取的存储节点编号将对应存储节点在所述读拓扑表中的通信状态设置为离线状态,以使所述读拓扑表对应的存储节点被选定为主存储节点时基于调整后的所述读拓扑表进行数据读取。
就节点而言,本发明实施例提供一种存储节点,所述存储节点应用于分布式存储系统,所述存储节点包括:
存储器;
处理器;以及
上述的读取性能提升装置,所述装置安装于所述存储器中并包括由所述处理器执行的软件功能模块,其中所述存储节点存储有该存储节点对应的用于从所述分布式存储系统中的其他存储节点处读取数据的读拓扑表,及包括所述分布式存储系统中所有存储节点的编号的集群拓扑表。
就方法而言,本发明实施例还提供一种数据读取方法,所述数据读取方法应用于分布式存储系统包括的每个上述的存储节点,所述方法包括:
接收来自客户端的数据操作请求,并对所述数据操作请求的操作类型进行识别;
若识别出的所述数据操作请求的操作类型为数据读取操作,根据当前对应的读拓扑表计算确定与所述读拓扑表及所述数据操作请求匹配的主存储节点;
将所述数据操作请求发送给匹配的所述主存储节点,以使所述主存储节点从分布式存储系统中与所述主存储节点当前的读拓扑表对应的其他存储节点处读取与所述数据操作请求匹配的数据分块。
相对于现有技术而言,本发明实施例提供的读取性能提升方法、装置、存储节点及数据读取方法具有以下有益效果:所述读取性能提升方法能够制造节点假离线,减少数据读取时访问存储节点数量,降低网络传输数据占比,提升系统的数据读取性能。所述方法应用于分布式存储系统中的每个存储节点,其中每个所述存储节点存储有该存储节点对应的用于从其他存储节点处读取数据的读拓扑表,及包括所述分布式存储系统中所有存储节点的编号的集群拓扑表。首先,所述方法通过检测所述集群拓扑表当前记录的真实离线存储节点的编号是否发生改变,了解所述分布式存储系统各存储节点的真实工作状态。接着,所述方法在所述真实离线存储节点的编号发生改变时,以所述集群拓扑表对本存储节点当前的所述读拓扑表进行更新。然后,所述方法从所述读拓扑表当前记录的除所述真实离线存储节点的编号外的其他存储节点的编号中选取一定数目的存储节点编号,其中被选取的存储节点编号的数目与所述真实离线存储节点的编号数目之和不大于预设最大离线节点总数。最后,所述方法根据被选取的存储节点编号将对应存储节点在所述读拓扑表中的通信状态设置为离线状态,以使所述读拓扑表对应的存储节点在被选定为主存储节点时,从与当前调整后的读拓扑表中未离线的存储节点的编号对应的存储节点处读取用于构成待读取数据的数据分块,从而通过在每个存储节点的读拓扑表中制造节点假离线的方式,减少分布式存储系统进行数据读取时访问存储节点数量,降低网络传输数据在整个数据读取过程中的占比,提升系统的数据读取性能。
为使本发明的上述目的、特征和优点能更明显易懂,下文特举本发明较佳实施例,并配合所附附图,作详细说明如下。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本发明的某些实施例,因此不应被看作是对本发明权利要求保护范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1为本发明实施例提供的存储节点的方框示意图。
图2为本发明实施例提供的读取性能提升方法的一种流程示意图。
图3为图2中所示的步骤S230包括的子步骤的流程示意图。
图4为图3中所示的子步骤S232包括的子步骤的流程示意图。
图5为本发明实施例提供的读取性能提升方法的另一种流程示意图。
图6为本发明实施例提供的读取性能提升装置的一种方框示意图。
图7为图6中所示的假离节点选取模块的一种方框示意图。
图8为本发明实施例提供的读取性能提升装置的另一种方框示意图。
图9为本发明实施例提供的数据读取方法的一种流程示意图。
图标:10-存储节点;11-存储器;12-处理器;13-通信单元;100-读取性能提升装置;110-节点离线检测模块;120-读拓扑表更新模块;130-假离节点选取模块;140-节点假离设置模块;131-数目比较子模块;132-节点选取子模块;150-离线数目配置模块。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本发明实施例的组件可以以各种不同的配置来布置和设计。
因此,以下对在附图中提供的本发明的实施例的详细描述并非旨在限制要求保护的本发明的范围,而是仅仅表示本发明的选定实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。
下面结合附图,对本发明的一些实施方式作详细说明。在不冲突的情况下,下述的实施例及实施例中的特征可以相互组合。
请参照图1,是本发明实施例提供的存储节点10的方框示意图。在本发明实施例中,所述存储节点10应用于分布式存储系统,用于对数据进行读写存储。所述分布式存储系统包括多个所述存储节点10,所述分布式存储系统通过多个所述存储节点10对数据进行纠删码存储。其中,数据在进行纠删码存储的情况下会被分成K个原始数据分块,并被编码形成M个冗余数据分块,所述分布式存储系统通过将K+M个数据分块均匀分布存储到多个所述存储节点10下完成对所述数据的写入存储。当需要读取所述数据时,所述分布式存储系统可通过从多个所述存储节点10处获取至少K个数据分块,并对获得的数据分块进行解码得到对应的原始数据。
在本实施例中,所述存储节点10包括读取性能提升装置100、存储器11、处理器12及通信单元13。所述存储器11、处理器12及通信单元13各个元件相互之间直接或间接地电性连接,以实现数据的传输或交互。例如,这些元件相互之间可通过一条或多条通讯总线或信号线实现电性连接。所述读取性能提升装置100包括至少一个可以软件或固件(firmware)的形式存储于所述存储器11中的软件功能模块,所述处理器12通过运行存储在存储器11内的所述读取性能提升装置100对应的软件功能模块,从而执行各种功能应用以及数据处理。
在本实施例中,所述存储器11可用于存储包括所述分布式存储系统中各存储节点10的编号的集群拓扑表,所述集群拓扑表中记录有所述分布式存储系统中各存储节点10当前的真实工作状态(包括正常运行状态或离线状态)。例如,所述分布式存储系统包括N个存储节点10,所述N个存储节点10的编号分别为1,2,3,……,N,则所述集群拓扑表将对应记录所述N个存储节点10各自对应的编号,及每个存储节点10当前的真实工作状态。其中所述分布式存储系统下的每个存储节点10中存储的所述集群拓扑表均相同,所述分布式存储系统通过各存储节点10之间的集群网络对所述集群拓扑表进行同步更新。
所述存储器11可用于存储该存储器11所在存储节点10的用于从所述分布式存储系统中其他存储节点10处读取数据的读拓扑表,所述存储节点10依据所述读拓扑表当前记录的可通信的存储节点10的编号向对应存储节点10读取构成待读取数据的数据分块。所述存储器11可以是,但不限于,随机存取存储器,只读存储器,可编程只读存储器,可擦除可编程只读存储器,电可擦除可编程只读存储器等。其中,存储器11还可以用于存储各种应用程序,所述处理器12在接收到执行指令后,执行所述应用程序。进一步地,上述存储器11内的软件程序以及模块还可包括操作系统,其可包括各种用于管理系统任务(例如内存管理、存储设备控制、电源管理等)的软件组件和/或驱动,并可与各种硬件或软件组件相互通信,从而提供其他软件组件的运行环境。
在本实施例中,所述处理器12可以是一种具有信号处理能力的集成电路芯片。其中所述处理器12可以是通用处理器,包括中央处理器(Central Processing Unit,CPU)、网络处理器(Network Processor,NP)等。可以实现或者执行本发明实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
在本实施例中,所述通信单元13用于通过网络建立所述通信单元13所在存储节点10与分布式存储系统中其他存储节点10之间的通信连接,并通过所述网络进行数据传输。
在本实施例中,所述存储节点10通过存储在所述存储器11中的读取性能提升装置100制造节点假离线,减少本存储节点10作为主存储节点进行数据读取时访问的存储节点数量,降低网络传输数据在整个数据读取过程中的占比,利用处理器12强大计算能力来解码数据的方式提升系统的数据读取性能。
可以理解的是,图1所示的结构仅为存储节点10的一种结构示意图,所述存储节点10还可包括比图1中所示更多或者更少的组件,或者具有与图1所示不同的配置。图1中所示的各组件可以采用硬件、软件或其组合实现。
请参照图2,是本发明实施例提供的读取性能提升方法的一种流程示意图。在本发明实施例中,所述读取性能提升方法应用于分布式存储系统中的每个存储节点10,其中每个所述存储节点10存储有该存储节点10对应的用于从其他存储节点10处读取数据的读拓扑表,及包括所述分布式存储系统中所有存储节点10的编号的集群拓扑表。下面对图2所示的读取性能提升方法的具体流程和步骤进行详细阐述。
步骤S210,检测集群拓扑表当前记录的真实离线存储节点的编号是否发生改变。
在本实施例中,所述分布式存储系统中出现真实离线的存储节点10后,所述分布式存储系统会在集群拓扑表中对真实离线存储节点的通信状态直接配置为离线状态,并通过集群网络对系统中其他存储节点10的集群拓扑表进行更新。而每个所述存储节点10可通过对自身存储的集群拓扑表进行信息读取识别的方式,检测所述集群拓扑表当前记录的真实离线存储节点的编号是否发生改变,其中所述改变包括某个未离线存储节点突然真实地离线,和/或某个真实离线存储节点重新上线。
步骤S220,当所述真实离线存储节点的编号发生改变时,以所述集群拓扑表对读拓扑表进行更新。
在本实施例中,所述存储节点10在检测到所述集群拓扑表中属于真实离线存储节点的节点编号发生变化后,将以变化完成后对应调整完成的所述集群拓扑表对存储节点10的读拓扑表进行更新,即将所述集群拓扑表的内容拷贝覆盖到所述读拓扑表上。
步骤S230,从所述读拓扑表当前记录的除所述真实离线存储节点编号外的其他存储节点的编号中选取一定数目的存储节点编号。
在本实施例中,所述存储节点10在完成对所述读拓扑表的更新后,将从所述读拓扑表当前记录的除所述真实离线存储节点的编号外的其他存储节点的编号中随机地选取一些的存储节点10的编号,以将被选取的存储节点10在所述读拓扑表对应存储节点10处的通信状态配置为离线状态,其中被选取的存储节点10在整个分布式存储系统中并未真实地离线。
其中所述被选取的存储节点10的数目可以是零个,也可以是至少一个,所述被选取的存储节点10的数目与所述真实离线存储节点的编号数目之和不大于预设最大离线节点总数。若分布式存储系统下的存储节点10的总数为N个,一个数据在进行存储时会被分成K个原始数据分块,并编码得到M个冗余数据分块,那么K与M之和与N之间的关系为K+M<=N,所述预设最大离线节点总数的数值为M,以确保分布式存储系统除去被判定为离线状态的存储节点10后剩余存储节点10的数目为至少K个。
在本实施例中,每个所述存储节点10中存储有预设离线节点数目,其中所述预设离线节点数目小于或等于所述预设最大离线节点总数,所述预设离线节点数目表示当前存储节点10的读拓扑表在进行数据读取时应当存在的离线节点数目。
可选地,请参照图3,是图2中所示的步骤S230包括的子步骤的流程示意图。在本实施例中,所述步骤S230可以包括子步骤S231、子步骤S232及子步骤S233。
子步骤S231,将真实离线存储节点的编号数目与所述预设离线节点数目进行比较。
在本实施例中,所述存储节点10通过对真实离线存储节点的编号数目进行统计,得到所述真实离线存储节点的编号数目。
子步骤S232,当所述真实离线存储节点的编号数目小于所述预设离线节点数目时,从所述读拓扑表当前未离线的存储节点的编号中随机选取至少一个存储节点编号。
在本实施例中,当所述真实离线存储节点的编号数目小于所述预设离线节点数目时,表明所述存储节点10需随机地从所述读拓扑表当前未离线的存储节点的编号中选取至少一个存储节点编号出来制造节点假离线,而被选取的存储节点编号的数目等于所述预设离线节点数目与所述真实离线存储节点的编号数目之间的差值。
可选地,请参照图4,是图3中所示的子步骤S232包括的子步骤的流程示意图。在本实施例中,所述子步骤S232包括子步骤S2321、子步骤S2322、子步骤S2323、子步骤S2324及子步骤S2325。
子步骤S2321,按照伪随机算法在包括所述分布式存储系统中所有存储节点10的编号的数值范围内生成一个随机数。
在本实施例中,若分布式存储系统中所有存储节点10的编号依次为1,2,3,……,N,则所述包括所述分布式存储系统中所有存储节点10的编号的数值范围为[1,N],所述存储节点10采用伪随机算法在数值范围为[1,N]的区间内生成一个随机数。
子步骤S2322,判断生成的随机数是否与所述真实离线存储节点的编号相同。
在本实施例中,若生成的随机数与读拓扑表中真实离线存储节点的编号相同,则表明该随机数对应的存储节点10已处于离线状态。因此当生成的随机数与所述真实离线存储节点的编号不同时,所述存储节点10将执行子步骤S2323;当生成的随机数与所述真实离线存储节点的编号相同时,所述存储节点10将跳转到所述子步骤S2321的步骤继续执行,直至所述被选取的存储节点编号当前总数等于所述预设离线节点数目与所述真实离线存储节点编号的数目之间的差值。
子步骤S2323,将生成的所述随机数作为一个所述被选取的存储节点编号。
在本实施例中,所述当生成的随机数与所述真实离线存储节点编号不同时,所述存储节点10会将生成的所述随机数作为一个所述被选取的存储节点编号,并执行子步骤S2324。
子步骤S2324,判断所述被选取的存储节点编号当前总数是否小于所述预设离线节点数目与所述真实离线存储节点的编号数目之间的差值。
在本实施例中,若所述被选取的存储节点编号当前总数小于所述差值,则表明还需要选取存储节点编号,所述存储节点10将跳转到所述子步骤S2321的步骤继续执行,直至所述被选取的存储节点编号当前总数等于所述预设离线节点数目与所述真实离线存储节点的编号数目之间的差值。若所述被选取的存储节点编号当前总数等于所述差值时,所述存储节点10将执行子步骤S2325,以停止随机数的生成及存储节点编号的选取。
子步骤S2325,停止选取存储节点编号。
在本实施例中,当所述被选取的存储节点编号当前总数等于所述差值时,所述存储节点10将停止执行子步骤S2321,以停止选取存储节点编号。
子步骤S233,当所述真实离线存储节点编号的数目大于或等于所述预设离线节点数目时,则不从所述读拓扑表当前未离线的存储节点编号中选取存储节点编号。
在本实施例中,当所述真实离线存储节点编号的数目大于或等于所述预设离线节点数目时,表明所述分布式存储系统中已离线的存储节点数目超过所述预设离线节点数目,所述存储节点10无需从对应的读拓扑表当前未离线的存储节点编号中选取存储节点编号来制造节点假离线。
请再次参照图2,步骤S240,根据被选取的存储节点编号将对应存储节点10在所述读拓扑表中的通信状态设置为离线状态,以使所述读拓扑表对应的存储节点10被选定为主存储节点时基于调整后的所述读拓扑表进行数据读取。
在本实施例中,所述存储节点10会在所述读拓扑表中将被选取编号所对应存储节点的通信状态设置为离线状态,以使得所述存储节点10被选定为某个数据的主存储节点时,从与所述存储节点10当前对应的读拓扑表中未离线的存储节点的编号对应的存储节点10处获取用于构成所述某个数据的数据分块,并由所述读拓扑表对应存储节点10对获取到的数据分块进行解码处理得到所述数据分块对应的原始数据,再由所述存储节点10将原始数据发送给携带有客户端软件的存储节点10,再由携带有客户端软件的存储节点10发送所述原始数据的方式完成本次数据读取操作,从而减少了分布式存储系统进行数据读取时访问存储节点数量,降低了网络传输数据在整个数据读取过程中的占比,提升了系统的数据读取性能。
当分布式存储系统包括N个存储节点,一个原始数据被分成K个原始数据分块,并被编码形成M个冗余数据分块,这K+M个数据分块被均匀分布存储到N个存储节点,分布式存储系统可通过从N个存储节点处获取至少K个数据分块的方式来解码得到对应的原始数据以实现数据读取,其中所述N个存储节点的编号分别为1,2,3,……,N,假定存储节点1为携带有客户端软件的存储节点时,该原始数据对应的主存储节点有1/N的可能性就是存储节点1本身,也有1/N的可能性会是存储节点2或者存储节点N,那么当从存储节点1读取数据时,除存储节点1作为主存储节点之外的其他每个存储节点都有1/N的可能性需要通过公共网络将数据分块传输到存储节点1。而对每个主存储节点来说,它需要读取的数据分块也是均匀分布到构成纠删码分块集的所有K个存储节点上的,这样便有1/K的可能性有一个数据分块就位于本节点上,即该1/K的可能性所对应的数据分块无需通过集群网络进行获取,而剩余的(K-1)/K的可能性所对应的数据分块需通过集群网络从其他存储节点获取。
因此就现有技术而言,通常采用存在多少个存储节点就向这分布式系统中的所有节点进行数据读取的方式读取数据,这样会造成整个分布式存储系统中需要经过0次网络传输的数据分块的数据可能性为:1/N*1/K=1/NK;需要经过1次网络传输的数据分块的数据可能性为:[1/N*(K-1)/K]+[(N-1)*1/NK]=(K+N-2)/NK;需要经过2次网络传输的数据分块的数据可能性为:(N-1)*(K-1)/NK=(N-1)(K-1)/NK。因此,这种数据读取方式通常会造成极大多数数据都需要经过一次或两次网络传输才能到达最终读取数据的存储节点,网络传输在整个数据读取过程中占据了很大的比重,又因网络传输延时较大,最终会导致分布式存储系统的数据读取性能不佳。
在本发明实施例提供的读取性能提升方法中,每个主存储节点按照预设离线节点数目假离线了一定数目的与该主存储节点同处一个集群网络的存储节点10,则该主存储节点在获取数据分块时将不会考虑从对应的假离线存储节点及真实离线节点处获取数据分块,其中一个主存储节点对应的假离线存储节点的数目与真实离线存储节点的数目之和为所述预设离线节点数目。若所述预设离线节点数目为H个时,此时分布式存储系统中需要经过0次网络传输的数据分块的数据可能性为:1/(N-H)*1/K=1/(NK-HK);需要经过1次网络传输的数据分块的数据可能性为:[1/(N-H)*(K-1)/K]+[(N-H-1)*1/(NK-HK)]=(K+N-H-2)/(NK-HK);需要经过2次网络传输的数据分块的数据可能性为:(N-H-1)*(K-1)/(NK-HK)。由此可知,本发明实施例提供的读取性能提升方法可确保0次网络传输的数据分块的数据可能性大于现有技术中0次网络传输的数据分块的数据可能性,可确保2次网络传输的数据分块的数据可能性小于现有技术中2次网络传输的数据分块的数据可能性,从而降低网络传输在整个数据读取过程中的执行比重,确保整个分布式存储系统的数据读取性能。
请参照图5,是本发明实施例提供的读取性能提升方法的另一种流程示意图。在本发明实施例中,所述读取性能提升方法还包括步骤S209,所述步骤S209位于所述步骤S210之前。
步骤S209,对预设离线节点数目及预设最大离线节点总数进行配置。
在本实施例中,所述预设离线节点数目及所述预设最大离线节点总数可由所述存储节点10的生产人员或使用人员根据实际需求进行不同的配置,其中所述预设离线节点数目小于或等于所述预设最大离线节点总数。
请参照图6,是本发明实施例提供的读取性能提升装置100的一种方框示意图。在本发明实施例中,所述读取性能提升装置100应用于分布式存储系统中的每个存储节点10,其中每个所述存储节点10存储有该存储节点10对应的用于从其他存储节点10处读取数据的读拓扑表,及包括所述分布式存储系统中所有存储节点10的编号的集群拓扑表。所述读取性能提升装置100包括节点离线检测模块110、读拓扑表更新模块120、假离节点选取模块130及节点假离设置模块140。
所述节点离线检测模块110,用于检测集群拓扑表当前记录的真实离线存储节点的编号是否发生改变。
在本实施例中,所述节点离线检测模块110可以执行图2中所示的步骤S210,具体的执行过程可以参照上文中对步骤S210的详细描述。
所述读拓扑表更新模块120,用于当所述真实离线存储节点的编号发生改变时,以所述集群拓扑表对读拓扑表进行更新。
在本实施例中,所述读拓扑表更新模块120可以执行图2中所示的步骤S220,具体的执行过程可以参照上文中对步骤S220的详细描述。
所述假离节点选取模块130,用于从所述读拓扑表当前记录的除所述真实离线存储节点的编号外的其他存储节点的编号中选取一定数目的存储节点编号,其中被选取的存储节点编号的数目与所述真实离线存储节点的编号数目之和不大于预设最大离线节点总数。
在本实施例中,所述假离节点选取模块130可以执行图2中所示的步骤S230,具体的执行过程可以参照上文中对步骤S230的详细描述。
可选地,请参照图7,是图6中所示的假离节点选取模块130的一种方框示意图。在本实施例中,每个所述存储节点10中存储有预设离线节点数目,其中所述预设离线节点数目小于或等于所述预设最大离线节点总数,所述假离节点选取模块130包括数目比较子模块131及节点选取子模块132。
所述数目比较子模块131,用于将真实离线存储节点的编号数目与所述预设离线节点数目进行比较。
所述节点选取子模块132,用于当所述真实离线存储节点的编号数目小于所述预设离线节点数目时,从所述读拓扑表当前未离线的存储节点的编号中随机选取至少一个存储节点编号。
其中,所述被选取的存储节点编号的数目等于所述预设离线节点数目与所述真实离线存储节点的编号数目之间的差值,所述节点选取子模块132节点选取子模块从所述读拓扑表当前未离线的存储节点编号中随机选取至少一个存储节点编号的方式包括:
按照伪随机算法在包括所述分布式存储系统中所有存储节点10的编号的数值范围内生成一个随机数;
判断生成的随机数是否与所述真实离线存储节点的编号相同;
若生成的随机数与所述真实离线存储节点的编号不同,将生成的所述随机数作为一个所述被选取的存储节点编号,并判断所述被选取的存储节点编号当前总数是否小于所述预设离线节点数目与所述真实离线存储节点的编号数目之间的差值;
若生成的随机数与所述真实离线存储节点的编号相同或所述被选取的存储节点编号当前总数小于所述差值,跳转到所述按照伪随机算法生成随机数的步骤继续执行,直至所述被选取的存储节点编号当前总数等于所述差值。
此时,所述节点选取子模块132可以执行图4中所示的子步骤S2321、子步骤S2322、子步骤S2323及子步骤S2324,具体的执行过程可以参照上文中对子步骤S2321、子步骤S2322、子步骤S2323、子步骤S2324及子步骤S2325的详细描述。
所述节点选取子模块132,还用于当所述真实离线存储节点的编号数目大于或等于所述预设离线节点数目时,则不从所述读拓扑表当前未离线的存储节点的编号中选取存储节点编号。
所述节点假离设置模块140,用于根据被选取的存储节点编号将对应存储节点10在所述读拓扑表中的通信状态设置为离线状态,以使所述读拓扑表对应的存储节点10被选定为主存储节点时基于调整后的所述读拓扑表进行数据读取。
在本实施例中,所述节点假离设置模块140可以执行图2中所示的步骤S240,具体的执行过程可以参照上文中对步骤S240的详细描述。
请参照图8,是本发明实施例提供的读取性能提升装置100的另一种方框示意图。在本发明实施例中,所述读取性能提升装置100还可以包括离线数目配置模块150。
所述离线数目配置模块150,用于对预设离线节点数目及预设最大离线节点总数进行配置。
在本实施例中,所述离线数目配置模块150可以执行图5中所示的步骤S209,具体的执行过程可以参照上文中对步骤S209的详细描述。
请参照图9,是本发明实施例提供的数据读取方法的一种流程示意图。在本发明实施例中,所述数据读取方法应用于分布式存储系统包括的每个上述的存储节点10,所述存储节点10包括图6或图8所示的读取性能提升装置100。下面对图9所示的数据读取方法的具体流程和步骤进行详细阐述。
步骤S310,接收来自客户端的数据操作请求,并对所述数据操作请求的操作类型进行识别。
在本实施例中,每个存储节点10都可以携带有客户端软件,所述存储节点10在接收到来自客户端的数据操作请求后,将对所述数据操作请求的操作类型进行识别,以根据不同操作类别选取不同拓扑表来计算该数据操作请求对应的主存储节点。
步骤S320,若识别出的所述数据操作请求的操作类型为数据读取操作,根据当前对应的读拓扑表计算确定与所述读拓扑表及所述数据操作请求匹配的主存储节点。
在本实施例中,接收所述数据操作请求的所述存储节点10在识别出的所述数据操作请求的操作类型为数据读取操作时,将选取所述存储节点10当前的读拓扑表来计算确定该数据操作请求在所述读拓扑表的作用下所对应匹配的主存储节点,其中所述主存储节点为所述读拓扑表中未离线存储节点10中的某个存储节点10。
接收所述数据操作请求的所述存储节点10在识别出的所述数据操作请求的操作类型为数据写入操作时,将选取所述存储节点10当前的集群拓扑表来计算确定该数据操作请求在所述集群拓扑表的作用下所对应匹配的主存储节点,其中所述主存储节点为所述集群拓扑表中未离线存储节点10中的某个存储节点10。
步骤S330,将所述数据操作请求发送给匹配的所述主存储节点,以使所述主存储节点从分布式存储系统中与所述主存储节点当前的读拓扑表对应的其他存储节点10处读取与所述数据操作请求匹配的数据分块。
在本实施例中,当所述数据操作请求的操作类型为数据读取操作,且所述存储节点10已为所述数据操作请求计算确定好对应匹配的主存储节点时,所述存储节点10会将所述数据操作请求发送给匹配的所述主存储节点,以使所述主存储节点从分布式存储系统中与所述主存储节点当前的读拓扑表对应的其他存储节点10处读取与所述数据操作请求匹配的数据分块。所述主存储节点在获取到至少K个数据分块后,将基于所述至少K个数据分块进行解码处理得到对应的原始数据,并将所述原始数据发送给最初接收所述数据操作请求的存储节点10,再由所述存储节点10对所述原始数据进行转发,从而完成整个数据读取流程。
在本实施例中,当所述数据操作请求的操作类型为数据写入操作,且所述存储节点10已为所述数据操作请求计算确定好对应匹配的主存储节点时,所述存储节点10会将所述数据操作请求发送给匹配的所述主存储节点,以使所述主存储节点对所述数据操作请求所对应的数据进行分块处理得到K个原始数据分块,并由所述主存储节点对所述K个原始数据分块进行编码得到M个冗余数据分块,最后由所述主存储节点将这K+M个数据分块均匀分布到各存储节点10中进行写入存储。
综上所述,在本发明实施例提供的读取性能提升方法、装置、存储节点及数据读取方法中,所述读取性能提升方法能够制造节点假离线,减少数据读取时访问存储节点数量,降低网络传输数据占比,提升系统的数据读取性能。所述方法应用于分布式存储系统中的每个存储节点,其中每个所述存储节点存储有该存储节点对应的用于从其他存储节点处读取数据的读拓扑表,及包括所述分布式存储系统中所有存储节点的编号的集群拓扑表。
首先,所述方法通过检测所述集群拓扑表当前记录的真实离线存储节点的编号是否发生改变,了解所述分布式存储系统各存储节点的真实工作状态。接着,所述方法在所述真实离线存储节点的编号发生改变时,以所述集群拓扑表对本存储节点当前的所述读拓扑表进行更新。然后,所述方法从所述读拓扑表当前记录的除所述真实离线存储节点的编号外的其他存储节点的编号中选取一定数目的存储节点编号,其中被选取的存储节点编号的数目与所述真实离线存储节点的编号数目之和不大于预设最大离线节点总数。最后,所述方法根据被选取的存储节点编号将对应存储节点在所述读拓扑表中的通信状态设置为离线状态,以使所述读拓扑表对应的存储节点在被选定为主存储节点时,从与当前调整后的读拓扑表中未离线的存储节点的编号对应的存储节点处读取用于构成待读取数据的数据分块,从而通过在每个存储节点的读拓扑表中制造节点假离线的方式,减少分布式存储系统进行数据读取时访问存储节点数量,降低网络传输数据在整个数据读取过程中的占比,提升系统的数据读取性能。
以上所述仅为本发明的优选实施例而已,并不用于限制本发明,对于本领域的技术人员来说,本发明可以有各种更改和变化。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (10)
1.一种读取性能提升方法,其特征在于,应用于分布式存储系统中的每个存储节点,其中每个所述存储节点存储有该存储节点对应的用于从其他存储节点处读取数据的读拓扑表,及包括所述分布式存储系统中所有存储节点的编号的集群拓扑表,所述方法包括:
检测所述集群拓扑表当前记录的真实离线存储节点的编号是否发生改变;
当所述真实离线存储节点的编号发生改变时,以所述集群拓扑表对所述读拓扑表进行更新;
从所述读拓扑表当前记录的除所述真实离线存储节点的编号外的其他存储节点的编号中选取一定数目的存储节点编号,其中被选取的存储节点编号的数目与所述真实离线存储节点的编号数目之和不大于预设最大离线节点总数;
根据被选取的存储节点编号将对应存储节点在所述读拓扑表中的通信状态设置为离线状态,以使所述读拓扑表对应的存储节点被选定为主存储节点时基于调整后的所述读拓扑表进行数据读取。
2.根据权利要求1所述的方法,其特征在于,每个所述存储节点中存储有预设离线节点数目,其中所述预设离线节点数目小于或等于所述预设最大离线节点总数,所述从所述读拓扑表当前记录的除所述真实离线存储节点的编号外的其他存储节点的编号中选取一定数目的存储节点编号的步骤包括:
将所述真实离线存储节点的编号数目与所述预设离线节点数目进行比较;
当所述真实离线存储节点的编号数目小于所述预设离线节点数目时,从所述读拓扑表当前未离线的存储节点的编号中随机选取至少一个存储节点编号,其中被选取的存储节点编号的数目等于所述预设离线节点数目与所述真实离线存储节点的编号数目之间的差值;
当所述真实离线存储节点的编号数目大于或等于所述预设离线节点数目时,则不从所述读拓扑表当前未离线的存储节点的编号中选取存储节点编号。
3.根据权利要求2所述的方法,其特征在于,所述从所述读拓扑表当前未离线的存储节点的编号中随机选取至少一个存储节点编号的步骤包括:
按照伪随机算法在包括所述分布式存储系统中所有存储节点的编号的数值范围内生成一个随机数;
判断生成的随机数是否与所述真实离线存储节点的编号相同;
若生成的随机数与所述真实离线存储节点的编号不同,将生成的所述随机数作为一个所述被选取的存储节点编号,并判断所述被选取的存储节点编号当前总数是否小于所述预设离线节点数目与所述真实离线存储节点的编号数目之间的差值;
若生成的随机数与所述真实离线存储节点的编号相同或所述被选取的存储节点编号当前总数小于所述差值,跳转到所述按照伪随机算法生成随机数的步骤继续执行,直至所述被选取的存储节点编号当前总数等于所述差值。
4.根据权利要求1-3中任意一项所述的方法,其特征在于,所述方法还包括:
对预设离线节点数目及预设最大离线节点总数进行配置。
5.一种读取性能提升装置,其特征在于,应用于分布式存储系统中的每个存储节点,其中每个所述存储节点存储有该存储节点对应的用于从其他存储节点处读取数据的读拓扑表,及包括所述分布式存储系统中所有存储节点的编号的集群拓扑表,所述装置包括:
节点离线检测模块,用于检测所述集群拓扑表当前记录的真实离线存储节点的编号是否发生改变;
读拓扑表更新模块,用于当所述真实离线存储节点的编号发生改变时,以所述集群拓扑表对所述读拓扑表进行更新;
假离节点选取模块,用于从所述读拓扑表当前记录的除所述真实离线存储节点的编号外的其他存储节点的编号中选取一定数目的存储节点编号,其中被选取的存储节点编号的数目与所述真实离线存储节点的编号数目之和不大于预设最大离线节点总数;
节点假离设置模块,用于根据被选取的存储节点编号将对应存储节点在所述读拓扑表中的通信状态设置为离线状态,以使所述读拓扑表对应的存储节点被选定为主存储节点时基于调整后的所述读拓扑表进行数据读取。
6.根据权利要求5所述装置,其特征在于,每个所述存储节点中存储有预设离线节点数目,其中所述预设离线节点数目小于或等于所述预设最大离线节点总数,所述假离节点选取模块包括:
数目比较子模块,用于将所述真实离线存储节点的编号数目与所述预设离线节点数目进行比较;
节点选取子模块,用于当所述真实离线存储节点的编号数目小于所述预设离线节点数目时,从所述读拓扑表当前未离线的存储节点的编号中随机选取至少一个存储节点编号,其中被选取的存储节点编号的数目等于所述预设离线节点数目与所述真实离线存储节点的编号数目之间的差值;
所述节点选取子模块,还用于当所述真实离线存储节点的编号数目大于或等于所述预设离线节点数目时,则不从所述读拓扑表当前未离线的存储节点的编号中选取存储节点编号。
7.根据权利要求6所述的装置,其特征在于,所述节点选取子模块从所述读拓扑表当前未离线的存储节点的编号中随机选取至少一个存储节点编号的方式包括:
按照伪随机算法在包括所述分布式存储系统中所有存储节点的编号的数值范围内生成一个随机数;
判断生成的随机数是否与所述真实离线存储节点的编号相同;
若生成的随机数与所述真实离线存储节点的编号不同,将生成的所述随机数作为一个所述被选取的存储节点编号,并判断所述被选取的存储节点编号当前总数是否小于所述预设离线节点数目与所述真实离线存储节点的编号数目之间的差值;
若生成的随机数与所述真实离线存储节点的编号相同或所述被选取的存储节点编号当前总数小于所述差值,跳转到所述按照伪随机算法生成随机数的步骤继续执行,直至所述被选取的存储节点编号当前总数等于所述差值。
8.根据权利要求5-7中任意一项所述的装置,其特征在于,所述装置还包括:
离线数目配置模块,用于对预设离线节点数目及预设最大离线节点总数进行配置。
9.一种存储节点,其特征在于,应用于分布式存储系统,所述存储节点包括:
存储器;
处理器;以及
权利要求5-8中任意一项所述的读取性能提升装置,所述装置安装于所述存储器中并包括由所述处理器执行的软件功能模块,其中所述存储节点存储有该存储节点对应的用于从所述分布式存储系统中的其他存储节点处读取数据的读拓扑表,及包括所述分布式存储系统中所有存储节点的编号的集群拓扑表。
10.一种数据读取方法,其特征在于,应用于分布式存储系统包括的每个权利要求9所述的存储节点,所述方法包括:
接收来自客户端的数据操作请求,并对所述数据操作请求的操作类型进行识别;
若识别出的所述数据操作请求的操作类型为数据读取操作,根据当前对应的读拓扑表计算确定与所述读拓扑表及所述数据操作请求匹配的主存储节点;
将所述数据操作请求发送给匹配的所述主存储节点,以使所述主存储节点从分布式存储系统中与所述主存储节点当前的读拓扑表对应的其他存储节点处读取与所述数据操作请求匹配的数据分块。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810770640.9A CN110716692B (zh) | 2018-07-13 | 2018-07-13 | 读取性能提升方法、装置、存储节点及数据读取方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810770640.9A CN110716692B (zh) | 2018-07-13 | 2018-07-13 | 读取性能提升方法、装置、存储节点及数据读取方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110716692A true CN110716692A (zh) | 2020-01-21 |
CN110716692B CN110716692B (zh) | 2022-11-25 |
Family
ID=69209246
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810770640.9A Active CN110716692B (zh) | 2018-07-13 | 2018-07-13 | 读取性能提升方法、装置、存储节点及数据读取方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110716692B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114745281A (zh) * | 2022-04-11 | 2022-07-12 | 京东科技信息技术有限公司 | 一种数据处理的方法和装置 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20120254342A1 (en) * | 2010-09-28 | 2012-10-04 | Metaswitch Networks Ltd. | Method for Providing Access to Data Items from a Distributed Storage System |
CN105573824A (zh) * | 2014-10-10 | 2016-05-11 | 腾讯科技(深圳)有限公司 | 分布式计算系统的监控方法及系统 |
CN105659213A (zh) * | 2013-10-18 | 2016-06-08 | 日立数据系统工程英国有限公司 | 无共享分布式存储系统中的目标驱动独立数据完整性和冗余恢复 |
CN106445726A (zh) * | 2016-09-28 | 2017-02-22 | 上海爱数信息技术股份有限公司 | 一种分布式纠删码存储系统的数据修复方法 |
WO2017088664A1 (zh) * | 2015-11-26 | 2017-06-01 | 深圳市中博科创信息技术有限公司 | 集群文件系统的数据处理方法和装置 |
-
2018
- 2018-07-13 CN CN201810770640.9A patent/CN110716692B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20120254342A1 (en) * | 2010-09-28 | 2012-10-04 | Metaswitch Networks Ltd. | Method for Providing Access to Data Items from a Distributed Storage System |
CN105659213A (zh) * | 2013-10-18 | 2016-06-08 | 日立数据系统工程英国有限公司 | 无共享分布式存储系统中的目标驱动独立数据完整性和冗余恢复 |
CN105573824A (zh) * | 2014-10-10 | 2016-05-11 | 腾讯科技(深圳)有限公司 | 分布式计算系统的监控方法及系统 |
WO2017088664A1 (zh) * | 2015-11-26 | 2017-06-01 | 深圳市中博科创信息技术有限公司 | 集群文件系统的数据处理方法和装置 |
CN106445726A (zh) * | 2016-09-28 | 2017-02-22 | 上海爱数信息技术股份有限公司 | 一种分布式纠删码存储系统的数据修复方法 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114745281A (zh) * | 2022-04-11 | 2022-07-12 | 京东科技信息技术有限公司 | 一种数据处理的方法和装置 |
CN114745281B (zh) * | 2022-04-11 | 2023-12-05 | 京东科技信息技术有限公司 | 一种数据处理的方法和装置 |
Also Published As
Publication number | Publication date |
---|---|
CN110716692B (zh) | 2022-11-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2020508594A (ja) | サービス処理およびコンセンサスの方法およびデバイス | |
CN110287151B (zh) | 分布式存储系统、数据写入方法、装置和存储介质 | |
CN111064626B (zh) | 配置更新方法、装置、服务器及可读存储介质 | |
CN107844385B (zh) | 一种基于共享内存的变量读写方法及装置 | |
CN111324441A (zh) | 运行环境的切换方法、装置、计算机设备和存储介质 | |
KR20220075272A (ko) | 데이터 분산 저장 방법 및 장치 | |
CN112307045A (zh) | 一种数据同步方法及系统 | |
CN114244835A (zh) | 基于区块链的去中心化自适应协同训练方法和装置 | |
CN113794764A (zh) | 服务器集群的请求处理方法、介质和电子设备 | |
CN112996020A (zh) | 一种基于蓝牙的自动化测试方法、装置及蓝牙测试终端 | |
CN110716692B (zh) | 读取性能提升方法、装置、存储节点及数据读取方法 | |
CN112235435A (zh) | 一种用于快速编码的方法与设备 | |
CN113703996B (zh) | 基于用户和yang模型分组的访问控制方法、设备及介质 | |
CN111541662A (zh) | 一种基于二进制通信协议的通信方法、装置、系统及设备 | |
CN112988458A (zh) | 数据备份方法、装置、电子设备及存储介质 | |
CN108776665B (zh) | 一种数据处理方法及装置 | |
JP2024024607A (ja) | メモリーアクセスのための集積回路、処理方法、電子機器及び媒体 | |
CN110930253A (zh) | 智能合约内部主键生成方法、装置、计算机设备及存储介质 | |
CN113704200A (zh) | 数据存储方法、装置、设备及存储介质 | |
CN112822296A (zh) | 基于人工智能穿戴设备的数据处理方法及云平台服务器 | |
CN113868184A (zh) | 一种主从架构基于缓存的配置中心的配置方法及系统 | |
KR100388961B1 (ko) | 정보처리시스템의 플래쉬 롬의 데이터 복구 제어장치 | |
CN110968453A (zh) | 一种数据存储方法及装置 | |
CN112468541B (zh) | 基于物联网的数据处理方法、装置及系统 | |
CN115811526B (zh) | 分布式存储系统中的共识方法、计算节点和系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |