CN113625965B - 分布式存储系统的数据存储方法、系统、装置及存储介质 - Google Patents
分布式存储系统的数据存储方法、系统、装置及存储介质 Download PDFInfo
- Publication number
- CN113625965B CN113625965B CN202110814280.XA CN202110814280A CN113625965B CN 113625965 B CN113625965 B CN 113625965B CN 202110814280 A CN202110814280 A CN 202110814280A CN 113625965 B CN113625965 B CN 113625965B
- Authority
- CN
- China
- Prior art keywords
- data
- transaction
- osd
- message
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 51
- 238000013500 data storage Methods 0.000 title claims abstract description 36
- 238000012545 processing Methods 0.000 claims abstract description 45
- 238000004458 analytical method Methods 0.000 claims abstract description 25
- 230000008569 process Effects 0.000 claims description 20
- 238000004806 packaging method and process Methods 0.000 claims description 12
- 230000004048 modification Effects 0.000 claims description 10
- 238000012986 modification Methods 0.000 claims description 10
- 238000005538 encapsulation Methods 0.000 claims description 9
- 238000004891 communication Methods 0.000 description 8
- 238000005516 engineering process Methods 0.000 description 5
- 230000009471 action Effects 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 230000006978 adaptation Effects 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
- G06F3/0604—Improving or facilitating administration, e.g. storage management
- G06F3/0607—Improving or facilitating administration, e.g. storage management by facilitating the process of upgrading existing storage systems, e.g. for improving compatibility between host and storage device
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
- G06F3/0655—Vertical data movement, i.e. input-output transfer; data movement between one or more hosts and one or more storage devices
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0668—Interfaces specially adapted for storage systems adopting a particular infrastructure
- G06F3/067—Distributed or networked storage systems, e.g. storage area networks [SAN], network attached storage [NAS]
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明提出的一种分布式存储系统的数据存储方法、系统、装置及存储介质，所述方法包括：主OSD收到客户端发送的写消息后，对写消息进行解析，在解析时增加对数据段的处理；主OSD生成发往从OSD的事务，并将数据段封装在写消息的一个列表中；从OSD接收到写消息时，申请一段内存对齐的空间存放数据段的列表的操作；从OSD进行消息解析，解析完成后从消息中获取事务，并根据事务中的写操作进行数据落盘处理。本发明通过改变主OSD与从OSD之间的消息和事务中对数据段的处理方式，直接根据内存对齐数据落盘，减少了额外的内存访问以及CPU消耗和性能消耗。
Description
技术领域
本发明涉及数据存储技术领域，更具体的说是涉及一种分布式存储系统的数据存储方法、系统、装置及存储介质。
背景技术
随着信息技术的不断发展，数据作为信息技术的重要组成部分受到越来越多的关注，对收集到的数据进行分析处理可以得到许多重要的信息，从而挖掘出巨大的经济价值，这也因此推动了大数据、高性能计算的快速发展。如何让存储设备以较高的性能，安全可靠的进行数据存储成为存储设备关键问题之一，同时也是分布式存储的关键问题之一。
在数据存储时，减少OSD(Object Storage Device，对象存储设备)的内存消耗，可以提高分布式存储设备的性能。在分布式存储设备中，数据经由OSD落盘的时候，倘若收到的消息所在的内存空间是非内存对齐的，在解析消息之后数据落盘的时候会对数据进行对齐内存空间重分配，做两次内存访问，首先读取原内存空间的数据，再申请一段内存对齐的空间，调用memcpy函数将数据拷贝到新申请的内存对齐空间里，增加额外的CPU消耗和性能的消耗。对于分布式存储，数据信息由客户端发往主OSD，再由主OSD发往从OSD进行数据存储。其中，对于主OSD收到的消息，在编码时，会把数据段单独存放在消息的一个列表
中，主OSD接收到消息时会申请一段内存对齐的空间单独存放这段数据段的列
表；而主OSD把数据发往从OSD时，消息类型发生了变化，相应的编码方式也不
同，而且并未对消息的数据段进行处理。由于从OSD收到的数据是非内存对齐的，在落盘时，增加了额外的内存访问以及CPU消耗和性能消耗。
因此，如何在数据存储过程中有效的减少额外的内存访问以及性能消耗，从而提示存储设备的性能，是我们亟待解决的问题。
发明内容
针对以上问题，本发明的目的在于提供一种分布式存储系统的数据存储方法、系统、装置及存储介质，通过改变主OSD与从OSD之间的消息和事务中对数据段的处理方式，直接根据内存对齐数据落盘，减少了额外的内存访问以及CPU消耗和性能消耗。
本发明为实现上述目的，通过以下技术方案实现：一种分布式存储系统的数据存储方法，包括如下步骤：
S1：主OSD收到客户端发送的写消息后，对写消息进行解析，在解析时增加对数据段的处理；
S2：主OSD生成发往从OSD的事务，并将数据段封装在写消息的一个列表中；
S3：从OSD接收到写消息时，申请一段内存对齐的空间存放数据段的列表的操作；S4：从OSD进行消息解析，解析完成后从消息中获取事务，并根据事务中的写操作进行数据落盘处理。
进一步，所述步骤S1包括：
主OSD收到客户端发送的SubWrite消息之后，首先对SubWrite消息进行解析，根据其中的数据信息和冗余规则，计算出应当向从OSD写入的数据，并且将写操作和数据信息封装成事务，在封装事务的过程中，增加将数据信息单独存放在事务的pure_data列表的操作。
进一步，所述步骤S2包括：
主OSD生成发往从OSD的事务之后，在封装SubWrite消息时，将事务的pure_data列表中的数据段单独封装在消息的data列表中。
进一步，所述步骤S3包括：
从OSD收到SubWrite消息时，申请一块内存对齐的空间，将消息中的data列表中的数据段放到这块内存对齐的空间里。
进一步，所述步骤S4包括：
从OSD解析SubWrite消息完成后，从SubWrite消息中获取事务，并且将SubWrite消息的data列表中的数据段解码到事务的pure_data列表中；
处理事务，并根据事务中的写操作进行数据落盘处理。
相应的，本发明还公开了一种分布式存储系统的数据存储系统，包括：解析方式修改单元，用于主OSD收到客户端发送的写消息后，对写消息进行解析，在解析时增加对数据段的处理；
数据段封装单元，用于主OSD生成发往从OSD的事务，并将数据段封装在写消息的一个列表中；
对齐存放单元，用于从OSD接收到写消息时，申请一段内存对齐的空间存放数据段的列表的操作；
存储单元，用于从OSD进行消息解析，解析完成后从消息中获取事务，并根据事务中的写操作进行数据落盘处理。
进一步，所述解析方式修改单元包括：
事务封装模块，用于对SubWrite消息进行解析，根据其中的数据信息和冗余规则，计算出应当向从OSD写入的数据，并且将写操作和数据信息封装成事务；操作模块，用于在封装事务的过程中，增加将数据信息单独存放在事务的pure_data列表的操作。
进一步，所述数据段封装单元具体用于：
主OSD生成发往从OSD的事务之后，在封装SubWrite消息时，将事务的pure_data列表中的数据段单独封装在消息的data列表中。
进一步，所述对齐存放单元具体用于：
从OSD收到SubWrite消息时，申请一块内存对齐的空间，将消息中的data列表中的数据段放到这块内存对齐的空间里。
进一步，所述存储单元包括：
解码模块，用于从OSD解析SubWrite消息完成后，从SubWrite消息中获取事务，并且将SubWrite消息的data列表中的数据段解码到事务的pure_data列表中；落盘模块，用于处理事务，并根据事务中的写操作进行数据落盘处理。
相应的，本发明公开了一种分布式存储系统的数据存储装置，包括：
存储器，用于存储分布式存储系统的数据存储程序；
处理器，用于执行所述分布式存储系统的数据存储程序时实现如上文任一项所述分布式存储系统的数据存储方法的步骤。
相应的，本发明公开了一种可读存储介质，所述可读存储介质上存储有分布式存储系统的数据存储程序，所述分布式存储系统的数据存储程序被处理器执行时实现如上文任一项所述分布式存储系统的数据存储方法的步骤。
对比现有技术，本发明有益效果在于：
1、本发明通过修改主OSD发往从OSD的消息的编码和解码方式，在编码和解码时增加对数据段的处理，将数据段封装在消息的一个列表中，复用主OSD接收到消息时申请一段内存对齐的空间存放这段数据段的列表的操作，使从OSD处理写事务时的数据段是内存对齐的，从而减少从OSD数据落盘时的额外内存访问以及CPU消耗和性能消耗，有效提升了存储设备的性能。
2.本发明在分布式存储系统数据写的过程中，改变了主OSD与从OSD之间的消息和事务中对数据段的处理，使从OSD处理写事务时，可直接根据内存对齐数据落盘，减少了额外的内存访问和CPU、性能消耗。在大块写场景，能够减少CPU消耗5％，提升性能至原来的1.6倍左右。
由此可见，本发明与现有技术相比，具有突出的实质性特点和显著的进步，其实施的有益效果也是显而易见的。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据提供的附图获得其他的附图。
附图1是本发明的方法流程图；
附图2是本发明的系统结构图。
图中，1为解析方式修改单元；2为数据段封装单元；3为对齐存放单元；4为存储单元；5为事务封装模块；6为操作模块；7为解码模块；8为落盘模块。
具体实施方式
本发明的核心是提供一种分布式存储系统的数据存储方法，现有技术中，对于分布式存储系统来说，OSD是基本的存储单元。出于数据冗余的考虑，一个数据以不同的冗余方式分布在不同的OSD上。数据首先从客户端发到主OSD上，主OSD再将数据发送到从OSD上。这两次数据传输采用的消息类型不同，对应着不同的消息编码方式。其中，对于主OSD收到的消息，在编码时，会把数据段单独存放在消息的一个列表中，主OSD接收到消息时会申请一段内存对齐的空间单独存放这段数据段的列表；而主OSD把数据发往从OSD时，会将该从OSD应该写入的数据信息封装到事务中，然后将事务封装成消息发送给从OSD，从OSD解析消息，将数据信息从事务中取出，落盘。数据信息未做内存对齐操作，因此数据落盘时，会有额外的内存访问以及CPU消耗和性能消耗。
而本发明提供的分布式存储系统的数据存储方法，对主OSD发往从OSD的消息在编码和解码时，增加对数据段的处理，将数据段封装在消息的一个列表中，复用主OSD接收到消息时申请一段内存对齐的空间存放这段数据段的列表的操作，使得从OSD要写入的数据内存对齐，从而减少从OSD数据落盘时的额外内存访问和CPU、性能消耗，提升存储设备的性能。
为了使本技术领域的人员更好地理解本发明方案，下面结合附图和具体实施方式对本发明作进一步的详细说明。显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
实施例一：
如图1所示，本实施例提供了一种分布式存储系统的数据存储方法，包括如下步骤：
S1：主OSD收到客户端发送的写消息后，对写消息进行解析，在解析时增加对数据段的处理。
主OSD收到客户端发送的SubWrite消息之后，首先对SubWrite消息进行解析，根据其中的数据信息和冗余规则，计算出应当向从OSD写入的数据，并且将写操作和数据信息封装成事务，在封装事务的过程中，增加将数据信息单独存放在事务的pure_data列表的操作。
S2：主OSD生成发往从OSD的事务，并将数据段封装在写消息的一个列表中。
主OSD生成发往从OSD的事务之后，在封装SubWrite消息时，将事务的pure_data列表中的数据段单独封装在消息的data列表中。
S3：从OSD接收到写消息时，申请一段内存对齐的空间存放数据段的列表的操作。
从OSD收到SubWrite消息时，申请一块内存对齐的空间，将消息中的data列表中的数据段放到这块内存对齐的空间里。
S4：从OSD进行消息解析，解析完成后从消息中获取事务，并根据事务中的写操作进行数据落盘处理。
从OSD解析SubWrite消息完成后，从SubWrite消息中获取事务，并且将SubWrite消息的data列表中的数据段解码到事务的pure_data列表中；
处理事务，并根据事务中的写操作进行数据落盘处理。
本实施例提供了一种分布式存储系统的数据存储方法，通过修改主OSD发往从OSD的消息的编码和解码方式，在编码和解码时增加对数据段的处理，将数据段封装在消息的一个列表中，复用主OSD接收到消息时申请一段内存对齐的空间存放这段数据段的列表的操作，使从OSD处理写事务时的数据段是内存对齐的，从而减少从OSD数据落盘时的额外内存访问以及CPU消耗和性能消耗，有效提升了存储设备的性能。
实施例二：
基于实施例一，本实施例还提出一种分布式存储系统的数据存储方法，包括：
1、主OSD收到客户端发送的写消息之后，首先对消息进行解析，根据其中的数据信息和冗余规则，计算出应当向从OSD写入的数据，并且将写操作和数据信息封装成事务，在封装事务的过程中，增加“将数据信息单独存放在事务的pure_data列表”的操作，为后续封装子消息时将数据信息单独存放做准备。
2、主OSD生成发往从OSD的事务之后，在封装SubWrite消息时，将事务的pure_data列表中的数据段单独封装在消息的data列表中。
3、从OSD收到SubWrite消息时，申请一块内存对齐的空间，将消息中的data列表中的数据段放到这块内存对齐的空间里。
4、从OSD解析消息完成后，从消息中获取事务，并且将消息中data列表中的数据段解码到事务的pure_data列表中，处理事务，根据事务中的写操作进行数据落盘处理。
由于从OSD收到的数据经过了步骤3中的内存对齐处理，因此步骤4在进行数据处理事务落盘的时候，直接处理内存对齐数据，减少了额外的内存访问和CPU、性能消耗。
本实施例提供了一种分布式存储系统的数据存储方法，在分布式存储系统数据写的过程中，改变了主OSD与从OSD之间的消息和事务中对数据段的处理，使从OSD处理写事务时，可直接根据内存对齐数据落盘，减少了额外的内存访问和CPU、性能消耗。在大块写场景，能够减少CPU消耗5％，提升性能至原来的1.6倍左右。
实施例三：
基于实施例一，如图2所示，本发明还公开了一种分布式存储系统的数据存储系统，包括：解析方式修改单元1、数据段封装单元2、对齐存放单元3和存储单元4。
解析方式修改单元1，用于主OSD收到客户端发送的写消息后，对写消息进行解析，在解析时增加对数据段的处理。解析方式修改1单元包括：
事务封装模块5，用于对SubWrite消息进行解析，根据其中的数据信息和冗余规则，计算出应当向从OSD写入的数据，并且将写操作和数据信息封装成事务；
操作模块6，用于在封装事务的过程中，增加将数据信息单独存放在事务的pure_data列表的操作。
数据段封装单元2，用于主OSD生成发往从OSD的事务，并将数据段封装在写消息的一个列表中。数据段封装单元2具体用于：主OSD生成发往从OSD的事务之后，在封装SubWrite消息时，将事务的pure_data列表中的数据段单独封装在消息的data列表中。
对齐存放单元3，用于从OSD接收到写消息时，申请一段内存对齐的空间存放数据段的列表的操作。对齐存放单元3具体用于：从OSD收到SubWrite消息时，申请一块内存对齐的空间，将消息中的data列表中的数据段放到这块内存对齐的空间里。
存储单元4，用于从OSD进行消息解析，解析完成后从消息中获取事务，并根据事务中的写操作进行数据落盘处理。存储单元4包括：
解码模块7，用于从OSD解析SubWrite消息完成后，从SubWrite消息中获取事务，并且将SubWrite消息的data列表中的数据段解码到事务的pure_data列表中；
落盘模块8，用于处理事务，并根据事务中的写操作进行数据落盘处理。
本实施例提供了一种分布式存储系统的数据存储系统，通过改变主OSD对从OSD写操作的事务和消息的封装和解码方式，使从OSD收到的写操作数据内存对齐，减少从OSD数据落盘时的额外内存访问和CPU、性能消耗。
实施例四：
本实施例公开了一种分布式存储系统的数据存储装置，包括处理器和存储器；其中，所述处理器执行所述存储器中保存的分布式存储系统的数据存储程序时实现以下步骤：
1、主OSD收到客户端发送的写消息后，对写消息进行解析，在解析时增加对数据段的处理。
2、主OSD生成发往从OSD的事务，并将数据段封装在写消息的一个列表中。
3、从OSD接收到写消息时，申请一段内存对齐的空间存放数据段的列表的操作。
4、从OSD进行消息解析，解析完成后从消息中获取事务，并根据事务中的写操作进行数据落盘处理。
进一步的，本实施例中的分布式存储系统的数据存储装置，还可以包括：
输入接口，用于获取外界导入的分布式存储系统的数据存储程序，并将获取到的分布式存储系统的数据存储程序保存至所述存储器中，还可以用于获取外界终端设备传输的各种指令和参数，并传输至处理器中，以便处理器利用上述各种指令和参数展开相应的处理。本实施例中，所述输入接口具体可以包括但不限于USB接口、串行接口、语音输入接口、指纹输入接口、硬盘读取接口等。
输出接口，用于将处理器产生的各种数据输出至与其相连的终端设备，以便于与输出接口相连的其他终端设备能够获取到处理器产生的各种数据。本实施例中，所述输出接口具体可以包括但不限于USB接口、串行接口等。
通讯单元，用于在分布式存储系统的数据存储装置和外部服务器之间建立远程通讯连接，以便于分布式存储系统的数据存储装置能够将镜像文件挂载到外部服务器中。本实施例中，通讯单元具体可以包括但不限于基于无线通讯技术或有线通讯技术的远程通讯单元。
键盘，用于获取用户通过实时敲击键帽而输入的各种参数数据或指令。
显示器，用于运行服务器供电线路短路定位过程的相关信息进行实时显示。
鼠标，可以用于协助用户输入数据并简化用户的操作。
本实施例提供了一种分布式存储系统的数据存储装置，通过修改主OSD发往从OSD的消息的编码和解码方式，在编码和解码时增加对数据段的处理，将数据段封装在消息的一个列表中，复用主OSD接收到消息时申请一段内存对齐的空间存放这段数据段的列表的操作，使从OSD处理写事务时的数据段是内存对齐的，从而减少从OSD数据落盘时的额外内存访问以及CPU消耗和性能消耗，有效提升了存储设备的性能。
实施例五：
本实施例还公开了一种可读存储介质，这里所说的可读存储介质包括随机存储器(RAM)、内存、只读存储器(ROM)、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、可移动硬盘、CD-ROM或技术领域内所公知的任意其他形式的存储介质。可读存储介质中存储有分布式存储系统的数据存储程序，所述分布式存储系统的数据存储程序被处理器执行时实现以下步骤：
1、主OSD收到客户端发送的写消息之后，首先对消息进行解析，根据其中的数据信息和冗余规则，计算出应当向从OSD写入的数据，并且将写操作和数据信息封装成事务，在封装事务的过程中，增加“将数据信息单独存放在事务的pure_data列表”的操作，为后续封装子消息时将数据信息单独存放做准备。
2、主OSD生成发往从OSD的事务之后，在封装SubWrite消息时，将事务的pure_data列表中的数据段单独封装在消息的data列表中。
3、从OSD收到SubWrite消息时，申请一块内存对齐的空间，将消息中的data列表中的数据段放到这块内存对齐的空间里。
4、从OSD解析消息完成后，从消息中获取事务，并且将消息中data列表中的数据段解码到事务的pure_data列表中，处理事务，根据事务中的写操作进行数据落盘处理。
本实施例提供了一种可读存储介质，通过改变主OSD对从OSD写操作的事务和消息的封装和解码方式，使从OSD收到的写操作数据内存对齐，减少从OSD数据落盘时的额外内存访问和CPU、性能消耗。
综上所述，本发明能够有效提升存储设备的性能。
本说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其它实施例的不同之处，各个实施例之间相同或相似部分互相参见即可。对于实施例公开的方法而言，由于其与实施例公开的系统相对应，所以描述的比较简单，相关之处参见方法部分说明即可。
专业人员还可以进一步意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、计算机软件或者二者的结合来实现，为了清楚地说明硬件和软件的可互换性，在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。
在本发明所提供的几个实施例中，应该理解到，所揭露的系统、系统和方法，可以通过其它的方式实现。例如，以上所描述的系统实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，系统或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外，在本发明各个实施例中的各功能模块可以集成在一个处理单元中，也可以是各个模块单独物理存在，也可以两个或两个以上模块集成在一个单元中。
同理，在本发明各个实施例中的各处理单元可以集成在一个功能模块中，也可以是各个处理单元物理存在，也可以两个或两个以上处理单元集成在一个功能模块中。
结合本文中所公开的实施例描述的方法或算法的步骤可以直接用硬件、处理器执行的软件模块，或者二者的结合来实施。软件模块可以置于随机存储器(RAM)、内存、只读存储器(ROM)、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、可移动磁盘、CD-ROM、或技术领域内所公知的任意其它形式的存储介质中。
最后，还需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
以上对本发明所提供的分布式存储系统的数据存储方法、系统、装置及可读存储介质进行了详细介绍。本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想。应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以对本发明进行若干改进和修饰，这些改进和修饰也落入本发明权利要求的保护范围内。
Claims (8)
1.一种分布式存储系统的数据存储方法，其特征在于，包括如下步骤：
S1：主OSD收到客户端发送的写消息后，对写消息进行解析，在解析时增加对数据段的处理；
S2：主OSD生成发往从OSD的事务，并将数据段封装在写消息的一个列表中；
S3：从OSD接收到写消息时，申请一段内存对齐的空间存放数据段的列表的操作；
S4：从OSD进行消息解析，解析完成后从消息中获取事务，并根据事务中的写操作进行数据落盘处理；
所述步骤S1包括：
主OSD收到客户端发送的SubWrite消息之后，首先对SubWrite消息进行解析，根据其中的数据信息和冗余规则，计算出应当向从OSD写入的数据，并且将写操作和数据信息封装成事务，在封装事务的过程中，增加将数据信息单独存放在事务的pure_data列表的操作。
2.根据权利要求1所述的分布式存储系统的数据存储方法，其特征在于，所述步骤S2包括：
主OSD生成发往从OSD的事务之后，在封装SubWrite消息时，将事务的pure_data列表中的数据段单独封装在消息的data列表中。
3.根据权利要求2所述的分布式存储系统的数据存储方法，其特征在于，所述步骤S3包括：
从OSD收到SubWrite消息时，申请一块内存对齐的空间，将消息中的data列表中的数据段放到这块内存对齐的空间里。
4.根据权利要求3所述的分布式存储系统的数据存储方法，其特征在于，所述步骤S4包括：
从OSD解析SubWrite消息完成后，从SubWrite消息中获取事务，并且将SubWrite消息的data列表中的数据段解码到事务的pure_data列表中；
处理事务，并根据事务中的写操作进行数据落盘处理。
5.一种分布式存储系统的数据存储系统，其特征在于，包括：
解析方式修改单元，用于主OSD收到客户端发送的写消息后，对写消息进行解析，在解析时增加对数据段的处理；
数据段封装单元，用于主OSD生成发往从OSD的事务，并将数据段封装在写消息的一个列表中；
对齐存放单元，用于从OSD接收到写消息时，申请一段内存对齐的空间存放数据段的列表的操作；
存储单元，用于从OSD进行消息解析，解析完成后从消息中获取事务，并根据事务中的写操作进行数据落盘处理；
所述解析方式修改单元包括：
事务封装模块，用于对SubWrite消息进行解析，根据其中的数据信息和冗余规则，计算出应当向从OSD写入的数据，并且将写操作和数据信息封装成事务；
操作模块，用于在封装事务的过程中，增加将数据信息单独存放在事务的pure_data列表的操作。
6.根据权利要求5所述的分布式存储系统的数据存储系统，其特征在于，所述存储单元包括：
解码模块，用于从OSD解析SubWrite消息完成后，从SubWrite消息中获取事务，并且将SubWrite消息的data列表中的数据段解码到事务的pure_data列表中；
落盘模块，用于处理事务，并根据事务中的写操作进行数据落盘处理。
7.一种分布式存储系统的数据存储装置，其特征在于，包括：
存储器，用于存储分布式存储系统的数据存储程序；
处理器，用于执行所述分布式存储系统的数据存储程序时实现如权利要求1至4任一项权利要求所述的分布式存储系统的数据存储方法的步骤。
8.一种可读存储介质，其特征在于：所述可读存储介质上存储有分布式存储系统的数据存储程序，所述分布式存储系统的数据存储程序被处理器执行时实现如权利要求1至4任一项权利要求所述的分布式存储系统的数据存储方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110814280.XA CN113625965B (zh) | 2021-07-19 | 2021-07-19 | 分布式存储系统的数据存储方法、系统、装置及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110814280.XA CN113625965B (zh) | 2021-07-19 | 2021-07-19 | 分布式存储系统的数据存储方法、系统、装置及存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN113625965A CN113625965A (zh) | 2021-11-09 |
| CN113625965B true CN113625965B (zh) | 2024-02-20 |
Family
ID=78380108
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110814280.XA Active CN113625965B (zh) | 2021-07-19 | 2021-07-19 | 分布式存储系统的数据存储方法、系统、装置及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113625965B (zh) |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN104657500A (zh) * | 2015-03-12 | 2015-05-27 | 浪潮集团有限公司 | 一种基于key-value键值对的分布式存储方法 |
| WO2016168530A1 (en) * | 2015-04-16 | 2016-10-20 | Nuodb, Inc. | Backup and restore in a distributed database utilizing consistent database snapshots |
| CN111142795A (zh) * | 2019-12-20 | 2020-05-12 | 浪潮电子信息产业股份有限公司 | 分布式存储系统写操作的控制方法、控制装置、控制设备 |
| WO2021120995A1 (zh) * | 2019-12-16 | 2021-06-24 | 中兴通讯股份有限公司 | 数据库的数据同步方法、装置以及存储介质 |
-
2021
- 2021-07-19 CN CN202110814280.XA patent/CN113625965B/zh active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN104657500A (zh) * | 2015-03-12 | 2015-05-27 | 浪潮集团有限公司 | 一种基于key-value键值对的分布式存储方法 |
| WO2016168530A1 (en) * | 2015-04-16 | 2016-10-20 | Nuodb, Inc. | Backup and restore in a distributed database utilizing consistent database snapshots |
| WO2021120995A1 (zh) * | 2019-12-16 | 2021-06-24 | 中兴通讯股份有限公司 | 数据库的数据同步方法、装置以及存储介质 |
| CN111142795A (zh) * | 2019-12-20 | 2020-05-12 | 浪潮电子信息产业股份有限公司 | 分布式存储系统写操作的控制方法、控制装置、控制设备 |
Non-Patent Citations (1)
| Title |
|---|
| Ceph文件系统的对象异构副本技术研究与实现;詹玲;朱承浩;万继光;;小型微型计算机系统(第09期);全文 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN113625965A (zh) | 2021-11-09 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN106131550B (zh) | 播放多媒体文件的方法及装置 | |
| CN110019865B (zh) | 海量图片处理方法、装置、电子设备及存储介质 | |
| CN109889894A (zh) | 媒体文件解码方法、装置及存储介质 | |
| CN115237853A (zh) | 数据查询的方法、装置、电子设备和存储介质 | |
| CN108650460A (zh) | 服务器、全景视频的存储和传输方法和计算机存储介质 | |
| EP2850532A1 (en) | Method and apparatus for storing network data | |
| CN113448817A (zh) | 一种页面录屏方法、装置以及存储介质 | |
| CN103778258B (zh) | 一种数据库数据的发送、接收方法、客户端、服务器 | |
| CN113742518A (zh) | 存储和提供视频的方法、设备和计算机程序产品 | |
| CN117395381B (zh) | 一种遥测数据的压缩方法、装置及设备 | |
| CN113625965B (zh) | 分布式存储系统的数据存储方法、系统、装置及存储介质 | |
| US20240040147A1 (en) | Data processing method and apparatus, computer device, and storage medium | |
| US20180232287A1 (en) | Information processing apparatus and information processing method | |
| CN110034828A (zh) | 云应用的音频采集方法及服务器 | |
| EP2397953B1 (en) | A computer-implemented method, a computer program product and an embedded system for displaying data more efficiently | |
| CN109474826B (zh) | 图片压缩方法、装置、电子设备及存储介质 | |
| CN115150384B (zh) | 点云编解码方法、装置、计算机可读介质及电子设备 | |
| CN110504973A (zh) | 文件压缩、解压方法和装置 | |
| CN114610792A (zh) | 数据处理方法、装置及系统、工业设备 | |
| CN115243053B (zh) | 点云编解码方法及相关设备 | |
| CN112287127A (zh) | 多媒体文件存储、读取方法 | |
| CN107079200B (zh) | 处理瘦客户端终端中的数据 | |
| CN113660063B (zh) | 空间音频数据处理方法、装置、存储介质及电子设备 | |
| US20220393699A1 (en) | Method for compressing sequential records of interrelated data fields | |
| CN110060310B (zh) | 文件压缩方法、装置及设备 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |