WO2014015828A1 - 数据存储空间的处理方法、处理系统及数据存储服务器 - Google Patents

数据存储空间的处理方法、处理系统及数据存储服务器 Download PDF

Info

Publication number
WO2014015828A1
WO2014015828A1 PCT/CN2013/080180 CN2013080180W WO2014015828A1 WO 2014015828 A1 WO2014015828 A1 WO 2014015828A1 CN 2013080180 W CN2013080180 W CN 2013080180W WO 2014015828 A1 WO2014015828 A1 WO 2014015828A1
Authority
WO
WIPO (PCT)
Prior art keywords
record
block
data
index
cache
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/CN2013/080180
Other languages
English (en)
French (fr)
Inventor
朱建平
李雅卿
许剑峰
李晨城
傅飞玲
朱柳嵩
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tencent Technology Shenzhen Co Ltd
Original Assignee
Tencent Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tencent Technology Shenzhen Co Ltd filed Critical Tencent Technology Shenzhen Co Ltd
Priority to US14/413,049 priority Critical patent/US9323685B2/en
Publication of WO2014015828A1 publication Critical patent/WO2014015828A1/zh
Anticipated expiration legal-status Critical
Ceased legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F12/00—Accessing, addressing or allocating within memory systems or architectures
    • G06F12/02—Addressing or allocation; Relocation
    • G06F12/08—Addressing or allocation; Relocation in hierarchically structured memory systems, e.g. virtual memory systems
    • G06F12/0802—Addressing of a memory level in which the access to the desired data or data block requires associative addressing means, e.g. caches
    • G06F12/0866—Addressing of a memory level in which the access to the desired data or data block requires associative addressing means, e.g. caches for peripheral storage systems, e.g. disk cache
    • G06F12/0871—Allocation or management of cache space
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F12/00—Accessing, addressing or allocating within memory systems or architectures
    • G06F12/02—Addressing or allocation; Relocation
    • G06F12/08—Addressing or allocation; Relocation in hierarchically structured memory systems, e.g. virtual memory systems
    • G06F12/0802—Addressing of a memory level in which the access to the desired data or data block requires associative addressing means, e.g. caches
    • G06F12/0806—Multiuser, multiprocessor or multiprocessing cache systems
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F12/00—Accessing, addressing or allocating within memory systems or architectures
    • G06F12/02—Addressing or allocation; Relocation
    • G06F12/08—Addressing or allocation; Relocation in hierarchically structured memory systems, e.g. virtual memory systems
    • G06F12/0802—Addressing of a memory level in which the access to the desired data or data block requires associative addressing means, e.g. caches
    • G06F12/0844—Multiple simultaneous or quasi-simultaneous cache accessing
    • G06F12/0846—Cache with multiple tag or data arrays being simultaneously accessible
    • G06F12/0848—Partitioned cache, e.g. separate instruction and operand caches
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601—Interfaces specially adapted for storage systems
    • G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
    • G06F3/0608—Saving storage space on storage systems
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601—Interfaces specially adapted for storage systems
    • G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
    • G06F3/061—Improving I/O performance
    • G06F3/0613—Improving I/O performance in relation to throughput
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601—Interfaces specially adapted for storage systems
    • G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
    • G06F3/0638—Organizing or formatting or addressing of data
    • G06F3/064—Management of blocks
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601—Interfaces specially adapted for storage systems
    • G06F3/0668—Interfaces specially adapted for storage systems adopting a particular infrastructure
    • G06F3/0671—In-line storage system
    • G06F3/0683—Plurality of storage devices
    • G06F3/0685—Hybrid storage combining heterogeneous device types, e.g. hierarchical storage, hybrid arrays
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2212/00—Indexing scheme relating to accessing, addressing or allocation within memory systems or architectures
    • G06F2212/28—Using a specific disk cache architecture
    • G06F2212/282—Partitioned cache
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2212/00—Indexing scheme relating to accessing, addressing or allocation within memory systems or architectures
    • G06F2212/60—Details of cache memory
    • G06F2212/604—Details relating to cache allocation
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2212/00—Indexing scheme relating to accessing, addressing or allocation within memory systems or architectures
    • G06F2212/62—Details of cache specific to multiprocessor cache arrangements
    • G06F2212/622—State-only directory, i.e. not recording identity of sharing or owning nodes

Definitions

  • the invention belongs to the technical field of computers, and in particular relates to a processing method, a processing system and a data storage server for a data storage space.
  • the storage medium of the distributed data storage space mainly includes SATA disks, SAS disks, and SSD disks/cards.
  • SATA disks Serial Advanced Technology Attachment
  • SAS disks Serial Advanced Technology Attachment
  • SSD disks/cards SSD disks/cards.
  • the main idea of solving the random 10 performance bottleneck of the storage medium is to reduce the random 10 to the sequence 10 or introduce the cache to reduce the number of times. Since random reads are difficult to avoid in most service storage access scenarios, access to the storage medium or storage medium is generally reduced by introducing a memory cache, such as using an SSD disk/card with higher random read performance.
  • Random write 10 optimization can turn random writes into sequential writes (such as BigTable's SSTable) or mmap maps data to memory for asynchronous 10 .
  • Google BigTable optimizes the performance of 10 by random write sequence, and uses MemTable and SSTable to store all the data updates for a period of time and write them to the disk sequentially. The records are then split in a predefined order and merged with the old version of the data; TyotoCabinet uses mmap to map the data on the disk to the shared memory, and reduce the read and write of the disk through the memory; MySQL's InnoDB storage engine is The bottom layer adopts the B+ tree organization, and also converts writes to asynchronous writes through the Buffer Pool to improve the write latency experience and reduce disk read and write.
  • the disadvantages of the existing methods for improving random 10 are:
  • the random write-to-sequence write system is complicated to implement, and the operation cost is high; taking MemTable/SSTable to convert all random writes into sequential write manner, it may be necessary to read multiple places when data is read. The latest data version;
  • MemTable/SSTable to convert all random writes into sequential write manner, it may be necessary to read multiple places when data is read. The latest data version;
  • when doing data merging it is necessary to perform large-scale data reading and writing, and may be accompanied by operations such as splitting, the system is more complicated, and the operation and maintenance cost is higher; for the mmap and MySQL buffer pool scheme, if the single machine The storage capacity is higher than the memory, the data is not When the hot spot is obvious, the overall performance of the system is changed to the actual capacity of the storage medium, and the efficiency of the memory pair 10 is relatively limited. Summary of the invention
  • the invention provides a processing method, a processing system and a data storage server for a data storage space, which are aimed at solving the problems of limited data input and output capability, complicated implementation and difficult operation in the prior art data storage mode.
  • an embodiment of the present invention provides a data storage space processing method, including: dividing a disk and a memory resource into small tables; dividing a memory space of the small table into different logical objects; The disk space is divided into multiple equal-sized data blocks by a fixed size.
  • an embodiment of the present invention further provides a data storage space processing system, including a disk, a memory, a resource division module, a logical object division module, and a data block division module, wherein the resource division module converts a disk and The memory resource is divided into small tables; the logical object partitioning module divides the memory space of the small table into different logical objects; the disk space of the small block of the data block dividing module is divided into a plurality of equal data blocks according to a fixed size.
  • an embodiment of the present invention further provides a data storage server, including a disk and a memory, wherein the disk and the memory resource are divided into small tables; and the memory space of the small table is divided into different logical objects; The disk space is divided into a plurality of equal-sized data blocks by a fixed size.
  • an embodiment of the present invention further provides a storage medium including computer executable instructions for performing a data storage space processing method, the method comprising the following steps : Divide the disk and memory resources into small tables; divide the memory space of the small table into different logical objects; divide the disk space of the small table into multiple equal-sized data blocks according to a fixed size.
  • an embodiment of the present invention further provides a data reading and writing method, where the reading and writing method includes a record read, a record modification, a block merge write, and a block recovery, and the record read includes: a read/write cache, which is written according to a keyword. Cache the search record, if the record is found, return directly; obtain the record index from the record index cache, obtain the record offset address and the record size according to the record index; according to the offset address and record in the index Record size, read data from disk.
  • the reading and writing method includes a record read, a record modification, a block merge write, and a block recovery
  • the record read includes: a read/write cache, which is written according to a keyword. Cache the search record, if the record is found, return directly; obtain the record index from the record index cache, obtain the record offset address and the record size according to the record index; according to the offset address and record in the index Record size, read data from disk.
  • the technical solution of the embodiment of the present invention has the following advantages or advantages:
  • the embodiment of the present invention divides the disk and memory resources on the storage server into independent small tables, and uses the small table as a basic unit for service resource allocation and management. It can realize the multiplexing of single-machine resources on multiple services; in addition, the hybrid index and its associated merge write, block recovery technology can greatly save the index memory space while improving the system random write IOPS.
  • FIG. 1 is a flowchart of a method for processing a data storage space according to an embodiment of the present invention
  • FIG. 2 is a schematic diagram showing a memory structure of a record index cache in a method for processing a data storage space according to an embodiment of the present invention
  • FIG. 3 is a schematic diagram showing a memory structure of a block buffer of a method for processing a data storage space according to an embodiment of the present invention
  • FIG. 4 is a flow chart of recording and reading of a method for processing a data storage space according to an embodiment of the present invention
  • FIG. 5 is a flow chart showing a modification of a method for processing a data storage space according to an embodiment of the present invention
  • FIG. 7 is a flowchart of block recovery of a data storage space processing method according to an embodiment of the present invention
  • FIG. 8 is a flowchart of a data storage space processing system according to an embodiment of the present invention. Schematic;
  • FIG. 9 is a schematic structural diagram of a data storage server according to an embodiment of the present invention.
  • FIG. 1 is a flowchart of a method for processing a data storage space according to an embodiment of the present invention.
  • the processing method of the data storage space in the embodiment of the present invention includes the following steps:
  • Step 100 Divide the disk and memory resources into small tables (Tablet);
  • each small table works independently, and the small table indexes the records on the disk by combining the hash and the record index.
  • the resources of a small table are composed of a 2 GB space of a physical address on the disk and a shared memory space of 16 MB in the memory.
  • the size of the disk space and the memory space can be set as needed. .
  • Step 110 Divide the memory space of the small table into different logical objects.
  • step 110 the memory space of the small table is divided into three logical objects: a record index cache KeyCache, a write cache WriteCache, and a block cache BlockCache, where: KeyCache occupies 12MB space, including a bucket index and a large record index.
  • FIG. 2 is a schematic diagram of a memory structure of a record index cache of a data storage space processing method according to an embodiment of the present invention, which is used to store index information of a record, and the record is divided into two types: a bucket record and a large record, and another type of the present invention.
  • the KeyCache may include only a large record index portion, and the record may also be only one type of large record.
  • the index search of the record needs to calculate the value of hash(key)% (300*1024), so that a bucket record index is obtained, and the bucket header field of the bucket record index is located to a large record index, and the next field of the large record index is traversed. The entire chain, the key is found to find the index of the record; if the large record index does not hit, the bucket record index is the index of the record. Because Keycache's organization adopts the hybrid index mode of large record index and bucket index, on the one hand, it overcomes the shortcomings of the full index mode. The full index needs to build an index for each record in memory, and its index storage space is large, and the memory demand is large. On the other hand, it overcomes the shortcomings of the full bucket index.
  • the bucket record uses the hash structure.
  • the full bucket index updates a sub-record in the bucket to read and write the entire bucket record.
  • SSD storage medium, write bandwidth amplification Will reduce the life, while also affecting the read and write performance.
  • the processing method of the data storage space in the embodiment of the present invention formulates a record size threshold according to the condition of the memory, and the record larger than the threshold size adopts a large record index, and one record in the large record index is an independent index, and the chain is connected in series. Up; records smaller than this threshold are recorded in buckets, and the buckets of Hash are packed into a record store.
  • a Hash bucket creates an index in memory, which greatly reduces the number of indexes.
  • the small table can be designed to be 2G, the barrel record and the large record index are each about 300,000, the record larger than 4 KB is used for the large record index, and the record larger than 4 KB is the bucket index. If the record size is relatively large, the 2G small table stores fewer records, and the 300,000 index is enough to store; if the records are relatively small, the 300,000 bucket index can ensure that the size of each bucket record does not exceed 4 KB.
  • WriteCache takes up about 4MB of space and is used as a record write buffer to asynchronously write data to disk.
  • WriteCache ⁇ i is a hash map of shared memory ( HashMap ).
  • BlockCache occupies 64 KB, which is composed of 4000 16-byte block structure descriptors and is used as state information of the statistic data block.
  • FIG. 3 is a memory structure of a block cache of a data storage space processing method according to an embodiment of the present invention. schematic diagram.
  • the valid size field indicates the total size of the record in the data block where the record has not been updated;
  • the update time field indicates the time when the block is written to the disk; the next field is used to organize the free block and the data block to be reclaimed by the linked list, and the link is made idle.
  • Step 120 Divide the disk space of the small table into a plurality of data blocks of a constant size.
  • the disk space of the small table 2GB is divided into a plurality of equal-sized data blocks according to a fixed size.
  • each data block size is assumed to be 512 KB, and the data organization structure of each data block is as follows: :
  • Each ⁇ checksum, keylen, key, vallen, value> 5-tuple 4 is a record in the data block, the record is compactly arranged in the data block, and the fixed-length information block (Trailer information block) is used at the end of the block. Describe the meta information of the block, such as the data check of the block, the block write time, and the number of records in the block.
  • a typical data read and write process of the data storage space processing method includes record read (read), record modification (including Insert/Update/Delete), block merge write, and block recovery; 4 is a flow chart of record reading of the processing method of the data storage space in the embodiment of the present invention.
  • the record reading of the processing method of the data storage space of the present invention comprises the following steps:
  • Step 200 Read WriteCache, find the record from WriteCache according to the key keyword, and return directly if the record is found; "return" as described in step 200 means returning the record.
  • Step 210 Obtain a record index from the KeyCache, and obtain a record offset address (offset) and a size according to the record index search method.
  • Step 220 Read data from the disk according to the offset address and the record size in the index; in step 220, according to the type of the record: if the record is a large record, return directly (that is, return a large record); if the record If it is a bucket record, it resolves the bucket record, traverses all the child records in the bucket record, matches the key, finds the key to return the record; if not, returns an error message that the record does not exist.
  • the record modification of the processing method of the data storage space of the present invention comprises the following steps:
  • Step 300 Read WriteCache, and find records from WriteCache according to key
  • Step 310 Determine whether the corresponding record is found, if the record is found, proceed to step 320; if no record is found, proceed to step 330;
  • Step 320 Update the record in WriteCache and return, and the "return" described in step 320 indicates that the update record is returned;
  • Step 330 Add the record to the WriteCache.
  • the deletion record can be distinguished by setting a record flag.
  • FIG. 6 is a flowchart of block merge writing of the data storage space processing method according to the embodiment of the present invention.
  • the block merge writing of the processing method of the data storage space of the present invention comprises the following steps:
  • Step 400 Timing is taken from the WriteCache in a first in first out (FIFO) order
  • step 400 the process of taking the record once reads 512 KB of data.
  • step 410 For each record, read the KeyCache and the ssd disk, and judge the record writing scenario: If it is a small record update, the record is still less than 4 kb after the update: Go to step 420
  • Step 420 Determine according to the size of the bucket record as follows:
  • Size >0 According to the ⁇ offset, size ⁇ A ssd disk record of the bucket record, deserialize, find and update this record, re-serialize the bucket record and add it to the result set, construct an index update object, add to Index update collection, go to step 460.
  • Step 430 Add the record to the result set.
  • the record is deleted from the bucket record, the bucket record is re-serialized, added to the result set, and two index update objects are constructed, added to the index update collection, and the process proceeds to step 460.
  • Step 440 Add the record to the result set, construct an index update object, add to the index update set, and go to step 460.
  • Step 450 Construct a delete pipeline, add to the result set; construct an index update object, add it to the index update collection, and go to step 460.
  • Step 460 The result set is determined to determine whether the written data can be made into a data block (512 KB). If it can be made into a data block, go to step 470. If it cannot be made into a data block, go to step 410 and continue processing. record of;
  • Step 470 Organize the records in the result set into one data block, calculate the Trailer information block, and write the entire data block to ssd; submit the merged index update set to update the KeyCache in batches; submit the instruction to clear the WriteCache, The written record is cleared from the WriteCache.
  • step 470 the result set and the index update set are cleaned, and the process returns to step 410 to continue processing the remaining records.
  • FIG. 7 is a flowchart of block recovery of a method for processing a data storage space according to an embodiment of the present invention. Block recovery of the processing method of the data storage space of the present invention includes the following steps:
  • Step 500 Find two data blocks whose effective data length is less than 256 KB according to BlockCache.
  • Step 510 Read two data blocks selected in step 500 from the ssd disk;
  • Step 520 Parsing the selected two data blocks, culling the outdated data according to the KeyCache information, and combining the valid data into one data block, wherein the remaining data after the outdated data is removed is valid data;
  • Step 540 Write a new data block
  • Step 550 Update the index recorded in the new data block in the KeyCache; reset two old data block information in the BlockCache, and update the information of the newly written data block.
  • FIG. 8 is a schematic structural diagram of a processing system of a data storage space according to an embodiment of the present invention.
  • the processing system of the data storage space in the embodiment of the present invention includes a disk, a memory, a resource division module, a logical object division module, and a data block division module.
  • the resource partitioning module divides the disk and memory resources into small tables (Tablets), wherein each small table works independently, and the small table indexes the records in the disk by combining the hash and the record index.
  • Tablets small tables
  • the resources of a small table are composed of a continuous 2 GB space on the disk and a 16 MB shared memory space in the memory.
  • the logical object partitioning module divides the memory space of the small table into different logical objects, and the memory space of the table is divided into three logical objects: a record index cache KeyCache, a write cache WriteCache and a block cache BlockCache, where: KeyCache occupies 12MB space, including the bucket
  • the index and the large record index are used to store the index information of the record, and the record is also divided into two types: a bucket record and a large record.
  • the KeyCache may include only a large record index part. Records can also be just one type of large record.
  • the index search of the record needs to calculate the value of hash(key)% (300*1024), so as to obtain a bucket record index, and locate a large record based on the bucket header field of the bucket record index. Lead, use the next field of the large record index to traverse the entire chain, compare the key to find the index of the record; if the large record index does not hit, take the bucket record index as the index of the record.
  • WriteCache occupies about 4MB space, used as a record write buffer, and realizes data asynchronous disk drop.
  • BlockCache occupies 64KB and consists of 4000 16-byte block structure descriptors, which are used as statistical block status information.
  • the valid size field of the block indicates that the total size of the record in which the update has not occurred is recorded in the block; the block update time field indicates the time when the block is written to the disk; the block next field is used to organize the free block and the block to be reclaimed by the linked list, and is linked into Free blockchain (free chain) and recycle block chain (recycle chain).
  • WriteCache is a hash map based on shared memory ( HashMap ).
  • the data block partitioning module divides the disk space of the small table into a plurality of equal-sized data blocks according to a fixed size.
  • the block size is assumed to be 512 KB, and the data organization structure of each data block is as follows:
  • Each ⁇ checksum, keylen, key, vallen, value> 5-tuple 4 is a record in the data block, the record is compactly arranged in the data block, and the fixed-length information block (Trailer information block) is used at the end of the block. Describe the meta information of the block, such as the data check of the block, the block write time, and the number of records in the block.
  • FIG. 9 is a schematic structural diagram of a data storage server according to an embodiment of the present invention.
  • the data storage server of the embodiment of the present invention includes a disk and a memory.
  • the disk and memory resources are divided into small tables (Tablets), where each small table works independently, and the small table indexes the records in the disk by combining the hash hash and the record index.
  • Tablets small tables
  • the resources of a small table are composed of 2 GB of physical addresses on the disk and 16 MB of shared memory in the memory.
  • the memory space of the small table is divided into different logical objects.
  • the memory space of the table is divided into three logical objects: Record Index Cache KeyCache, Write Cache WriteCache and Block Cache BlockCache, where: KeyCache occupies 12MB space, including bucket index and large record index.
  • the two parts are used to store the index information of the record.
  • the record is also divided into two types: a bucket record and a large record.
  • the KeyCache may only include a large record index portion, and the record may also be only A large record of a type.
  • the index lookup of the record needs to calculate the value of hash(key)% ( 300*1024 ) to get a
  • the bucket record index is located according to the bucket header field of the bucket record index to a large record index, and the next field of the large record index is used to traverse the entire chain, and the key is found to find the index of the record; if the large record index does not hit, the bucket record is taken.
  • the index is the index of the record.
  • WriteCache occupies about 4MB space, used as a record write buffer, and realizes data asynchronous disk drop.
  • BlockCache occupies 64KB and consists of 4000 16-byte block structure descriptors, which are used as statistical block status information.
  • the valid size field of the block indicates that the total size of the record in which the update has not occurred is recorded in the block; the block update time field indicates the time when the block is written to the disk; the block next field is used to organize the free block and the block to be reclaimed by the linked list, and is linked into Free blockchain (free chain) and recycle block chain (recycle chain).
  • WriteCache is a hash map based on shared memory ( HashMap ).
  • the disk space of the small table is divided into a plurality of equal-sized data blocks according to a fixed size.
  • each data block size is 512 KB
  • the data organization structure of each data block is as follows:
  • Each ⁇ checksum, keylen, key, vallen, value> 5-tuple 4 is a record in the data block, the record is compactly arranged in the data block, and the fixed-length information block (Trailer information block) is used at the end of the block. Describe the meta information of the block, such as the data check of the block, the block write time, and the number of records in the block.
  • the disk and the memory resources on the storage server are divided into independent small tables, and the small table is used as a basic unit for resource resource allocation and management, and the single-machine resources can be reused on multiple services;
  • the random write to the disk 10 is reduced by means of merge write and block recovery; when the record is read, the record acquisition is realized by the disk 10 according to the record index in the memory.
  • a person skilled in the art may understand that all or part of the steps of implementing the above embodiments may be completed by hardware, or may be instructed by a program to execute related hardware, and the program may be stored in a computer readable storage medium.
  • the storage medium mentioned may be a read only memory, a magnetic disk or an optical disk or the like.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Description

数据存储空间的处理方法、 处理系统及数据存储服务器 技术领域
本发明属于计算机技术领域， 尤其涉及一种数据存储空间的处理方法、 处理系统及数据存储服务器。
背景技术
当前分布式数据存储空间的处理系统的存储介质主要有 SATA盘、 SAS盘、 SSD盘 /卡， 随着硬件制造技术的发展， 单盘的存储容量在不断提升， 但盘的随 机 10(输入输出）能力没能成比例的提升，存储介质的随机 10能力是一个潜在的 性能瓶颈。 解决存储介质的随机 10性能瓶颈的思路主要是将随机 10转为顺序 10或引入緩存减少 10次数。 由于在大部分业务存储访问场景下随机读难以避 免， 一般通过引入内存 Cache减少对存储介质的访问或变更存储介质， 如改用 随机读性能较高的 SSD盘 /卡加以优化。 随机写 10的优化可将随机写变为顺序 写 （如 BigTable的 SSTable )或 mmap将数据映射到内存进行异步 10。
现有其他提升随机 10的方式有如下几种: Google BigTable通过随机写转顺 序写实现 10性能的优化， 通过 MemTable和 SSTable的方式， 将一段时间的所 有数据更新存储在一起顺序写入磁盘， 之后再将记录按照预定义的顺序进行分 拆并跟老版本的数据进行合并； TyotoCabinet采用 mmap将磁盘上的数据映射到 共享内存中， 通过内存来减少对磁盘的读写； MySQL的 InnoDB存储引擎在底 层采用 B+树的组织方式， 同样通过 Buffer Pool (緩沖池)将写转化为异步写， 来 提升写延时体验和减少对磁盘的读写。
现有提升随机 10的方式缺点在于： 随机写转顺序写系统实现复杂， 运营成 本高； 采取 MemTable/SSTable将随机写全部转成顺序写的方式， 在数据读取时 可能需要读取多处以获得最新的数据版本； 此外， 在做数据合并时需执行较大 规模的数据读写， 并可能伴随分裂等操作， 系统比较复杂， 运营维护成本较高； 针对 mmap和 MySQL的 buffer pool方案，如果单机的存储量高于内存，数据无 明显热点时， 系统的整体 10性能转为存储介质的实际能力， 内存对 10性能提 升效率比较有限。 发明内容
本发明提供了一种数据存储空间的处理方法、处理系统及数据存储服务器 , 旨在解决现有技术数据存储方式随机输入输出能力有限、 实现复杂以及运营困 难的问题。
根据本发明的一个方面， 本发明实施例提供一种数据存储空间的处理方法， 包括： 将磁盘和内存资源划分成小表； 将小表的内存空间划分为不同的逻辑对 象； 将小表的磁盘空间按固定大小划分成多个等大的数据块。
根据本发明的另一方面， 本发明实施例还提供一种数据存储空间的处理系 统， 包括磁盘、 内存、 资源划分模块、 逻辑对象划分模块和数据块划分模块， 所述资源划分模块将磁盘和内存资源划分成小表； 逻辑对象划分模块将小表的 内存空间划分为不同的逻辑对象； 数据块划分模块小表的磁盘空间按固定大小 划分成多个等大的数据块。
根据本发明的再一方面， 本发明实施例还提供一种数据存储服务器， 包括 磁盘和内存， 所述磁盘和内存资源划分成小表； 所述小表的内存空间划分为不 同的逻辑对象； 所述磁盘空间按固定大小划分成多个等大的数据块。
根据本发明的还一方面， 本发明实施例还提供了一种包含计算机可执行指 令的存储介质， 所述计算机可执行指令用于执行一种数据存储空间的处理方法， 所述方法包括以下步骤： 将磁盘和内存资源划分成小表； 将小表的内存空间划 分为不同的逻辑对象； 将小表的磁盘空间按固定大小划分成多个等大的数据块。
此外， 本发明实施例还提供了一种数据读写方法， 所述读写方法包括记录 读、 记录修改、 块合并写和块回收， 所述记录读包括： 读写緩存， 根据关键字 从写緩存查找记录， 如果找到记录， 直接返回； 从记录索引緩存获取记录索引， 根据所述记录索引获取记录偏移地址和记录大小； 根据索引中的偏移地址和记 录大小， 从磁盘读取数据。
本发明实施例的技术方案具有如下优点或有益效果： 本发明实施例通过划 分存储服务器上的磁盘和内存资源为一个个独立的小表， 将小表用作业务资源 分配和管理的基本单元， 可实现单机资源在多个业务上的复用； 另外， 混合式 索引及其关联的合并写，块回收技术在提升系统随机写 IOPS的同时能大幅节省 了索引的内存空间。 附图概述
为了更清楚地说明本发明实施例的技术方案， 下面将对实施例描述中所需 要使用的附图作筒单地介绍， 显而易见地， 下面描述中的附图仅仅是本发明的 一些实施例， 对于本领域的普通技术人员来讲， 在不付出创造性劳动的前提下， 还可以根据这些附图获得其他附图。
图 1是本发明实施例的数据存储空间的处理方法的流程图；
图 2是本发明实施例的数据存储空间的处理方法的记录索引緩存的内存结 构示意图；
图 3是本发明实施例的数据存储空间的处理方法的块緩存的内存结构示意 图；
图 4是本发明实施例的数据存储空间的处理方法的记录读的流程图； 图 5是本发明实施例的数据存储空间的处理方法的记录修改的流程图； 图 6是本发明实施例的数据存储空间的处理方法的块合并写的流程图； 图 7是本发明实施例的数据存储空间的处理方法的块回收的流程图； 图 8是本发明实施例的数据存储空间的处理系统的结构示意图；
图 9是本发明实施例的数据存储服务器的结构示意图。
本发明的较佳实施方式
下面结合本发明实施例中的附图， 对本发明实施例中的技术方案进行清楚、 完整地描述， 显然， 所描述的实施例仅仅是本发明一部分实施例， 而不是全部 的实施例。 基于本发明的实施例， 本领域普通技术人员在没有做出创造性劳动 前提下所获得的所有其他实施例， 都属于本发明的保护范围。
下面将结合附图对本发明实施例作进一步地详细描述。
请参阅图 1 ,是本发明实施例的数据存储空间的处理方法的流程图。本发明 实施例的数据存储空间的处理方法包括以下步骤：
步骤 100: 将磁盘和内存资源划分成小表 (Tablet);
在步骤 100 中， 每个小表独立工作， 小表通过哈希和记录索引相结合的方 式对磁盘中的记录进行索引。 在本发明的实施方式中， 假设一个小表的资源是 由磁盘上物理地址连续的 2GB空间和内存中 16MB的共享内存空间组成，另夕卜， 可以根据需要设定磁盘空间和内存空间的大小。
步骤 110: 将小表的内存空间划分为不同的逻辑对象。
在步骤 110 中， 小表的内存空间划分为 3 个逻辑对象： 记录索引緩存 KeyCache、写緩存 WriteCache和块緩存 BlockCache,其中： KeyCache占用 12MB 空间， 包括桶索引和大记录索引两部分， 具体请参阅图 2, 是本发明实施例的数 据存储空间的处理方法的记录索引緩存的内存结构示意图， 其用于存储记录的 索引信息， 记录分为桶记录和大记录两种类型， 在本发明另一实施方式中， KeyCache可以仅包括大记录索引部分， 记录也可以仅为大记录一种类型。 记录 的索引查找需要计算 hash(key)% ( 300*1024 ) 的值， 从而获取到一条桶记录索 引， 根据桶记录索引的桶头字段定位到一个大记录索引， 用大记录索引的 next 字段遍历整条链， 比对 key查找到记录的索引； 若大记录索引没有命中， 取桶 记录索引为记录的索引。 由于 Keycache的组织采用大记录索引和桶索引的混合 索引模式， 一方面克服了全索引模式的缺点， 全索引需要为每条记录在内存中 建条索引， 其索引存储空间大， 对内存需求大； 另一方面， 克服了全桶索引的 缺点， 桶记录是采用 hash结构， 全桶索引更新桶中的一条子记录会将整个桶记 录读出并写入， 存在磁盘读写带宽的放大， 对 SSD存储介质来说， 写带宽放大 会降低寿命， 同时对读写性能也有所影响。 本发明实施例的数据存储空间的处 理方法根据内存的情况， 制定一个记录大小阀值， 大于此阀值大小的记录采用 大记录索引， 在大记录索引中一条记录一个独立索引， 用链式串联起来； 小于 此阀值的记录采用桶记录， 将 Hash的桶打包成一个记录存储。 在磁盘中， 一个 Hash桶在内存中建立一条索引， 极大降低了索引的数量。 在本发明实施例中， 可以将小表设计成 2G, 桶记录和大记录索引各约 30万个， 大于 4KB的记录用 大记录索引， 大于 4KB的记录采用桶索引。 如果记录大小都比较大， 2G的小 表存储的记录数较少， 30万索引已足够存储； 如记录都比较小， 30万的桶索引 可以保证每个桶记录的大小不超过 4KB。
WriteCache占用约 4MB空间， 用做记录写緩沖， 实现数据异步写入磁盘。 WriteCache ^i于共享内存的哈希图 （ HashMap ) 。
BlockCache占用 64KB , 由 4000个 16字节的块结构描述符组成， 用作统计 数据块的状态信息，具体请参阅图 3 ,是本发明实施例的数据存储空间的处理方 法的块緩存的内存结构示意图。 其中， 有效 size字段表示数据块中记录未发生 更新的记录的总大小； 更新时间字段表示块写入磁盘的时间； next字段用于将 空闲块和待回收数据块用链表组织起来， 链接成空闲块链 (free链)和回收块链 (recycle链)。
步骤 120: 将小表的磁盘空间按固定大小划分成多个等大的数据块。
在步骤 120中， 将小表 2GB的磁盘空间按固定大小划分成多个等大的数据 块， 在本发明实施方式中， 假设每个数据块大小为 512KB , 每个数据块的数据 组织结构如下：
Figure imgf000007_0001
每个 <checksum, keylen, key, vallen, value> 5元组 4 述存者在数据块内的 一条记录， 记录在数据块内紧凑排列， 在块的尾部用定长信息块 (Trailer信息块) 描述块的元信息， 如块的数据校验、 块写入时间和块内的记录数。 在本发明实施方式中， 数据存储空间的处理方法的典型数据读写流程包括 记录读 （read ) 、 记录修改（包括 Insert/Update/Delete)、 块合并写和块回收； 具 体请一并参阅图 4,是本发明实施例的数据存储空间的处理方法的记录读的流程 图。 本发明数据存储空间的处理方法的记录读包括以下步骤：
步骤 200: 读 WriteCache, 根据 key关键字从 WriteCache查找记录， 如果 找到记录， 直接返回； 步骤 200中所述的 "返回" 表示返回记录。
步骤 210: 从 KeyCache获取记录索引， 根据上述记录索引查找方法获取到 记录偏移地址（offset )和大小；
步骤 220: 根据索引中的偏移地址和记录大小， 从磁盘读取数据； 在步骤 220 中， 根据记录的类型做相应处理： 如果记录是大记录， 直接返 回 （即返回大记录） ； 如果记录是桶记录， 则解析桶记录， 遍历桶记录中的所 有子记录， 匹配 key, 找到 key返回记录； 如果没有找到， 则返回记录不存在的 错误提示。
请一并参阅图 5 ,是本发明实施例的数据存储空间的处理方法的记录修改的 流程图。 本发明数据存储空间的处理方法的记录修改包括以下步骤：
步骤 300: 读 WriteCache, 根据 key从 WriteCache查找记录；
步骤 310: 判断是否找到相应记录， 如果找到记录， 则进入步骤 320; 如果 没有找到记录则进入步骤 330;
步骤 320: 在 WriteCache中更新记录并返回， 步骤 320所述的 "返回" 表 示返回更新记录；
步骤 330: 将记录添加到 WriteCache。
在步骤 330中， 删除记录可通过设置记录标志加以区分。
请一并参阅图 6,是本发明实施例的数据存储空间的处理方法的块合并写的 流程图。 本发明数据存储空间的处理方法的块合并写包括以下步骤：
步骤 400: 定时从 WriteCache按先进先出 （FIFO )顺序取记录；
在步骤 400中， 一次取记录的过程读取 512KB的数据。 步骤 410: 对每个记录， 读取 KeyCache及 ssd盘， 判断记录写场景： 如果是小记录更新， 更新后此记录仍小于 4kb ： 转步骤 420
如果是小记录更新， 更新后此记录大于 4kb ： 转步骤 430
如果是大记录更新 ： 转步骤 440
如果是小记录删除 ： 转步骤 420
如果是大记录删除 ： 转步骤 450
步骤 420: 根据桶记录的 size作如下判断：
size == 0 ： 将此记录转成桶记录后添加到结果集， 并转步骤 460;
size >0 ： 根据桶记录的 <offset, size^A ssd盘读取记录， 反序列化， 查 找并更新此记录， 将桶记录重新序列化后添加到结果集， 构造一个索引更新对 象， 添加到索引更新集合， 转步骤 460。
步骤 430: 将记录添加到结果集。
将记录从桶记录中删除， 将桶记录重新序列化后添加到结果集， 并构造二 个索引更新对象， 添加到索引更新集合， 转步骤 460。
步骤 440: 将记录添加到结果集， 构造一个索引更新对象， 添加到索引更新 集合， 转步骤 460。
步骤 450: 构造一个删除流水， 添加到结果集； 构造一个索引更新对象， 添 加到索引更新集合， 转步骤 460。
步骤 460: 统计结果集， 判断写入数据能否凑成一个数据块（512KB), 如 果能凑成一个数据块， 转步骤 470; 如果不能凑成一个数据块， 转步骤 410, 继 续处理剩下的记录；
步骤 470: 将结果集中的记录整理成一个数据块， 计算 Trailer信息块， 并 将整个数据块写入 ssd;将块合并后的索引更新集合提交，以批量更新 KeyCache; 提交清理 WriteCache的指令， 以将已写入的记录从 WriteCache中清除。
在步骤 470中， 清理结果集和索引更新集合， 返回步骤 410继续处理剩下 的记录。 请一并参阅图 7,是本发明实施例的数据存储空间的处理方法的块回收的流 程图。 本发明数据存储空间的处理方法的块回收包括以下步骤：
步骤 500:根据 BlockCache找到 2个有效数据长度均小于 256KB的数据块； 步骤 510: 从 ssd盘上读取步骤 500中选取的 2个数据块；
步骤 520:解析所述选取的 2个数据块，根据 KeyCache信息剔除过时数据， 将有效数据合并成一个数据块， 其中剔除过时数据后剩余的数据为有效数据； 步骤 530: 重新计算新数据块的 Trailer信息块， 写入时间设置为两个老数 据块中较新的时间戳， 所述 "新数据块" 是指步骤 520 中由有效数据合并生成 数据块， 所述 "两个老数据块" 是指步骤 510中选取的两个数据块；
步骤 540:写入新的数据块；
步骤 550:在 KeyCache中更新新数据块中记录的索引； 在 BlockCache中重 置两个老的数据块信息， 更新新写入的数据块的信息。
请参阅图 8,是本发明实施例的数据存储空间的处理系统的结构示意图。本 发明实施例的数据存储空间的处理系统包括磁盘、 内存、 资源划分模块、 逻辑 对象划分模块和数据块划分模块。
资源划分模块将磁盘和内存资源划分成小表 (Tablet), 其中， 每个小表独立 工作， 小表通过哈希和记录索引相结合的方式对磁盘中的记录进行索引。 在本 发明的实施方式种， 假设一个小表的资源是由磁盘上物理地址连续的 2GB空间 和内存中 16MB的共享内存空间组成。
逻辑对象划分模块将小表的内存空间划分为不同的逻辑对象， 表的内存空 间划分为 3个逻辑对象： 记录索引緩存 KeyCache, 写緩存 WriteCache和块緩存 BlockCache, 其中： KeyCache占用 12MB空间， 包括桶索引和大记录索引两部 分， 其用于存储记录的索引信息， 记录对应的也分为桶记录和大记录两种类型， 在本发明另一实施方式中， KeyCache可以仅包括大记录索引部分， 记录也可以 仅为大记录一种类型。 记录的索引查找需要计算 hash(key)% ( 300*1024 )的值， 从而获取到一条桶记录索引， 根据桶记录索引的桶头字段定位到一个大记录索 引， 用大记录索引的 next字段遍历整条链， 比对 key查找到记录的索引； 若大 记录索引不命中， 取桶记录索引为记录的索引。 WriteCache占用约 4MB空间， 用做记录写緩沖， 实现数据异步落磁盘， BlockCache占用 64KB , 由 4000个 16 字节的块结构描述符组成， 用作统计块状态信息。 块的有效 size字段表示， 块 中记录未发生更新的记录的总大小； 块更新时间字段表示块写入磁盘的时间； 块 next字段用于将空闲块和待回收块用链表组织起来，链接成空闲块链 (free链） 和回收块链 (recycle链)。 WriteCache是基于共享内存的哈希图 （ HashMap ) 。
数据块划分模块将小表的磁盘空间按固定大小划分成多个等大的数据块， 在本发明实施方式中，假设块大小为 512KB , 每个数据块的数据组织结构如下：
Figure imgf000011_0001
每个 <checksum, keylen, key, vallen, value> 5元组 4 述存者在数据块内的 一条记录， 记录在数据块内紧凑排列， 在块的尾部用定长信息块 (Trailer信息块) 描述块的元信息， 如块的数据校验、 块写入时间和块内的记录数。
请参阅图 9,是本发明实施例的数据存储服务器的结构示意图。本发明实施 例的数据存储服务器包括磁盘和内存。
磁盘和内存资源划分成小表 (Tablet), 其中， 每个小表独立工作， 小表通过 Hash哈希和记录索引相结合的方式对磁盘中的记录进行索引。 在本发明的实施 方式种， 假设一个小表的资源是由磁盘上物理地址连续的 2GB 空间和内存中 16MB的共享内存空间组成。
小表的内存空间划分为不同的逻辑对象， 表的内存空间划分为 3个逻辑对 象： 记录索引緩存 KeyCache、 写緩存 WriteCache和块緩存 BlockCache, 其中： KeyCache占用 12MB空间， 包括桶索引和大记录索引两部分， 其用于存储记录 的索引信息， 记录对应的也分为桶记录和大记录两种类型， 在本发明另一实施 方式中， KeyCache可以仅包括大记录索引部分， 记录也可以仅为大记录一种类 型。 记录的索引查找需要计算 hash(key)% ( 300*1024 ) 的值， 从而获取到一条 桶记录索引， 根据桶记录索引的桶头字段定位到一个大记录索引， 用大记录索 引的 next字段遍历整条链， 比对 key查找到记录的索引； 若大记录索引不命中， 取桶记录索引为记录的索引。 WriteCache占用约 4MB空间， 用做记录写緩沖， 实现数据异步落磁盘， BlockCache占用 64KB , 由 4000个 16字节的块结构描述 符组成， 用作统计块状态信息。 块的有效 size字段表示， 块中记录未发生更新 的记录的总大小； 块更新时间字段表示块写入磁盘的时间； 块 next字段用于将 空闲块和待回收块用链表组织起来，链接成空闲块链 (free链)和回收块链 (recycle 链)。 WriteCache是基于共享内存的哈希图 （ HashMap ) 。
小表的磁盘空间按固定大小划分成多个等大的数据块， 在本发明实施方式 中， 假设每个数据块大小为 512KB, 每个数据块的数据组织结构如下：
Figure imgf000012_0001
每个 <checksum, keylen, key, vallen, value> 5元组 4 述存者在数据块内的 一条记录， 记录在数据块内紧凑排列， 在块的尾部用定长信息块 (Trailer信息块) 描述块的元信息， 如块的数据校验、 块写入时间和块内的记录数。
本发明实施例通过划分存储服务器上的磁盘和内存资源为一个个独立的小 表， 将小表用作业务资源分配和管理的基本单元， 可实现单机资源在多个业务 上的复用； 另外， 本发明实施例通过合并写、 块回收的方式减少对磁盘 10的随 机写入；读取记录时，根据内存中的记录索引通过一次磁盘 10实现记录的获取。
本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过 硬件来完成， 也可以通过程序来指令相关的硬件完成， 所述的程序可以存储于 一种计算机可读存储介质中， 上述提到的存储介质可以是只读存储器， 磁盘或 光盘等。
以上所述， 仅为本发明较佳的具体实施方式， 但本发明的保护范围并不局 限于此， 任何熟悉本技术领域的技术人员在本发明披露的技术范围内， 可轻易 想到的变化或替换， 都应涵盖在本发明的保护范围之内。 因此， 本发明的保护 范围应该以权利要求书的保护范围为准

Claims

权 利 要 求 书
1、 一种数据存储空间的处理方法， 包括：
将磁盘和内存资源划分成小表；
将小表的内存空间划分为不同的逻辑对象；
将小表的磁盘空间按固定大小划分成多个等大的数据块。
2、 根据权利要求 1所述的数据存储空间的处理方法， 其特征在于， 所述小 表内存空间划分的逻辑对象包括： 记录索引緩存、 写緩存和块緩存； 所述记录 索引緩存用于存储记录的索引信息； 所述写緩存用于记录写緩沖； 所述块緩存 由块结构描述符组成， 用于统计块状态信息。
3、 根据权利要求 2所述的数据存储空间的处理方法， 其特征在于， 所述记 录索引緩存包括桶索引和大记录索引， 大于设定的记录大小阀值的记录采用大 记录索引， 在大记录索引中， 记录采用独立索引； 小于设定的记录大小阀值的 记录采用桶索引， 将桶打包成记录存储。
4、 根据权利要求 1或 2所述的数据存储空间的处理方法， 其特征在于， 所 述数据块的数据组织结构包括序列和定长信息块， 所述序列用于描述存储在数 据块内的记录， 所述定长信息块用于描述数据块的元信息。
5、 根据权利要求 3所述的数据存储空间的处理方法， 其特征在于， 所述数 据存储空间的处理方法包括记录读、 记录修改、 块合并写和块回收， 所述记录 读包括： 读写緩存， 根据关键字从写緩存查找记录， 如果找到记录， 直接返回； 从记录索引緩存获取记录索引， 根据所述记录索引获取记录偏移地址和记录大 小； 根据索引中的偏移地址和记录大小， 从磁盘读取数据。
6、 根据权利要求 5所述的数据存储空间的处理方法， 其特征在于， 所述数 据存储空间的处理方法包括记录读、 记录修改、 块合并写和块回收， 所述记录 修改包括： 读写緩存， 根据关键词从写緩存中查找记录； 判断是否找到相应记 录， 如果找到记录， 在写緩存中更新记录并返回； 如果没有找到记录， 则将记 录添加到写緩存。
7、 根据权利要求 3所述的数据存储空间的处理方法， 其特征在于， 所述数 据存储空间的处理方法包括记录读、 记录修改、 块合并写和块回收， 所述块合 并写包括： 定时从写緩存中取记录； 对每个记录读取关键词緩存及磁盘， 判断 记录写场景； 统计结果集， 判断写入数据能否凑成一个数据块， 如果写入数据 可以凑成一个块， 将结果集中记录整理成一个块； 如果写入数据不能凑成一个 块， 则继续处理剩下的记录。
8、 根据权利要求 7所述的数据存储空间的处理方法， 其特征在于， 所述数 据存储空间的处理方法的块合并写判断记录写场景包括： 如果是小记录更新或 删除， 更新后记录小于一预定值， 则根据桶记录的尺寸将记录转成桶记录后添 加到结果集或将桶记录重新序列化后添加到结果集； 如果是小记录更新， 更新 后此记录大于一预定值， 将记录从桶记录中删除， 将桶记录重新序列化后添加 到结果集， 并构造二个索引更新对象， 添加到索引更新集合； 如果是大记录更 新， 将记录添加到结果集， 构造索引更新对象， 添加到索引更新集合； 如果是 大记录删除， 构造删除流水， 添加到结果集， 构造索引更新对象， 添加到索引 更新集合。
9、 根据权利要求 4所述的数据存储空间的处理方法， 其特征在于， 所述数 据存储空间的处理方法包括记录读、 记录修改、 块合并写和块回收， 所述块合 并写包括： 根据块緩存找到 2个有效数据长度均小于预定大小的数据块； 从磁 盘上读取找到的数据块； 解析数据块， 根据关键词緩存信息剔除过时数据， 将 有效数据合并成一个数据块； 重新计算新数据块的定长信息块， 写入时间设置 为两个老数据块中较新的时间戳； 写入新的数据块； 在关键词緩存中更新新数 据块中记录的索引； 在块緩存中重置两个老的数据块信息， 更新新写入的数据 块的信息。
10、 一种数据存储空间的处理系统， 包括磁盘和内存， 其特征在于， 还包 括资源划分模块、 逻辑对象划分模块和数据块划分模块， 所述资源划分模块将 磁盘和内存资源划分成小表； 逻辑对象划分模块将小表的内存空间划分为不同 的逻辑对象； 数据块划分模块将小表的磁盘空间按固定大小划分成多个等大的 数据块。
11、 根据权利要求 10所述的数据存储空间的处理系统， 其特征在于， 所述 小表内存空间划分的逻辑对象包括： 记录索引緩存、 写緩存和块緩存； 所述记 录索引緩存用于存储记录的索引信息； 所述写緩存用于记录写緩沖； 所述块緩 存由块结构描述符组成， 用于统计块状态信息。
12、 根据权利要求 11所述的数据存储空间的处理系统， 其特征在于， 所述 记录索引緩存包括桶索引和大记录索引， 大于设定的记录大小阀值的记录采用 大记录索引， 在大记录索引中， 记录采用独立索引； 小于设定的记录大小阀值 的记录采用桶索引， 将桶打包成记录存储。
13、 根据权利要求 10或 11所述的数据存储空间的处理系统， 其特征在于， 所述数据块的数据组织结构包括序列和定长信息块， 所述序列用于描述存储在 数据块内的记录， 所述定长信息块用于描述描述块的元信息。
14、 一种数据存储服务器， 包括磁盘和内存， 所述磁盘和内存资源划分成 小表； 所述小表的内存空间划分为不同的逻辑对象； 所述磁盘空间按固定大小 划分成多个等大的数据块。
15、 根据权利要求 14所述的数据存储服务器， 其特征在于， 所述小表内存 空间划分的逻辑对象包括： 记录索引緩存、 写緩存和块緩存； 所述记录索引緩 存用于存储记录的索引信息； 所述写緩存用于记录写緩沖； 所述块緩存由块结 构描述符组成， 用于统计块状态信息。
16、 根据权利要求 14或 15所述的数据存储服务器， 其特征在于， 所述数 据块的数据组织结构包括序列和定长信息块， 所述序列用于描述存储在数据块 内的记录， 所述定长信息块用于描述描述块的元信息。
17、 一个或多个包含计算机可执行指令的存储介质， 所述计算机可执行指 令用于执行一种数据存储空间的处理方法， 其特征在于， 所述方法包括以下步 骤： 将磁盘和内存资源划分成小表；
将小表的内存空间划分为不同的逻辑对象；
将小表的磁盘空间按固定大小划分成多个等大的数据块。
18、 一种对如权利要求 3所述的数据存储空间的处理方法处理过的存储空 间的数据读写方法， 其特征在于， 所述读写方法包括记录读、 记录修改、 块合 并写和块回收， 所述记录读包括： 读写緩存， 根据关键字从写緩存查找记录， 如果找到记录， 直接返回； 从记录索引緩存获取记录索引， 根据所述记录索引 获取记录偏移地址和记录大小； 根据索引中的偏移地址和记录大小， 从磁盘读 取数据。
19、 根据权利要求 18所述的数据读写方法， 其特征在于， 所述记录修改包 括： 读写緩存， 根据关键词从写緩存中查找记录； 判断是否找到相应记录， 如 果找到记录， 在写緩存中更新记录并返回； 如果没有找到记录， 则将记录添加 到写緩存。
20、 根据权利要求 18所述的数据读写方法， 其特征在于， 所述块合并写包 括： 定时从写緩存中取记录； 对每个记录读取关键词緩存及磁盘， 判断记录写 场景； 统计结果集， 判断写入数据能否凑成一个数据块， 如果写入数据可以凑 成一个块， 将结果集中记录整理成一个块； 如果写入数据不能凑成一个块， 则 继续处理剩下的记录。
PCT/CN2013/080180 2012-07-27 2013-07-26 数据存储空间的处理方法、处理系统及数据存储服务器 Ceased WO2014015828A1 (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US14/413,049 US9323685B2 (en) 2012-07-27 2013-07-26 Data storage space processing method and processing system, and data storage server

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN201210264003.7A CN103577339B (zh) 2012-07-27 2012-07-27 一种数据存储方法及系统
CN201210264003.7 2012-07-27

Publications (1)

Publication Number Publication Date
WO2014015828A1 true WO2014015828A1 (zh) 2014-01-30

Family

ID=49996615

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/CN2013/080180 Ceased WO2014015828A1 (zh) 2012-07-27 2013-07-26 数据存储空间的处理方法、处理系统及数据存储服务器

Country Status (3)

Country Link
US (1) US9323685B2 (zh)
CN (1) CN103577339B (zh)
WO (1) WO2014015828A1 (zh)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105574128A (zh) * 2015-12-12 2016-05-11 天津南大通用数据技术股份有限公司 商业智能系统数据完成复杂运算的方法
CN109726176A (zh) * 2018-12-11 2019-05-07 河南辉煌科技股份有限公司 铁路信号电气设备数据的快速存储与查询方法
CN110658978A (zh) * 2018-06-28 2020-01-07 杭州海康威视系统技术有限公司 数据处理方法、装置、电子设备及可读存储介质
CN114115738A (zh) * 2021-11-23 2022-03-01 烽火通信科技股份有限公司 一种基于分布式存储的磁盘空间管理方法及系统
CN115113819A (zh) * 2022-06-29 2022-09-27 京东方科技集团股份有限公司 一种数据存储的方法、单节点服务器及设备
US12216582B1 (en) * 2023-07-31 2025-02-04 Sap Se Disk-based merge for combining merged hash maps
US12216634B1 (en) 2023-07-31 2025-02-04 Sap Se Disk-based merge for hash maps

Families Citing this family (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9152342B1 (en) * 2013-04-16 2015-10-06 Emc Corporation Read-write access in a read-only environment
JP2015204073A (ja) * 2014-04-16 2015-11-16 キヤノン株式会社 情報処理装置、情報処理端末、情報処理方法およびプログラム
CN104111899A (zh) * 2014-07-03 2014-10-22 北京思特奇信息技术股份有限公司 一种缓存数据的存储方法及系统及读取方法
CN104199892B (zh) * 2014-08-26 2018-01-30 上海爱数信息技术股份有限公司 一种基于压缩合并异步更新的索引读写方法
CN104408128B (zh) * 2014-11-26 2017-11-03 上海爱数信息技术股份有限公司 一种基于b+树异步更新索引的读优化方法
CN104679898A (zh) * 2015-03-18 2015-06-03 成都汇智远景科技有限公司 一种大数据访问方法
CN107193857B (zh) * 2016-03-15 2021-01-01 阿里巴巴集团控股有限公司 一种用于数据库遍历的方法与设备
CN107015763A (zh) * 2017-03-03 2017-08-04 北京中存超为科技有限公司 混合存储系统中ssd管理方法及装置
JP6754319B2 (ja) * 2017-05-25 2020-09-09 日本電信電話株式会社 ブロックチェーン更新システム、サーバ装置、クライアント装置、ブロックチェーン更新方法、およびプログラム
CN107197191B (zh) * 2017-05-27 2021-05-11 深圳市景阳科技股份有限公司 网络硬盘录像的写入方法和装置
GB201711879D0 (en) * 2017-07-24 2017-09-06 Nchain Holdings Ltd Computer-implemented system and method
CN109753224B (zh) * 2017-11-03 2022-05-13 浙江宇视科技有限公司 存储结构及存储结构配置方法
CN111190908B (zh) * 2018-11-15 2023-09-22 华为技术有限公司 一种数据管理方法、装置及系统
CN109783019B (zh) * 2018-12-28 2022-08-19 上海威固信息技术股份有限公司 一种数据智能存储管理方法与装置
CN110795407B (zh) * 2019-10-14 2022-06-10 华东计算技术研究所（中国电子科技集团公司第三十二研究所） 适用于分布式文件系统的文件随机写方法及系统
CN111400302B (zh) * 2019-11-28 2023-09-19 杭州海康威视系统技术有限公司 连续存储数据的修改方法、装置和系统
CN111338569A (zh) * 2020-02-16 2020-06-26 西安奥卡云数据科技有限公司 一种基于直接映射的对象存储后端优化方法
CN113835637B (zh) * 2020-03-19 2024-07-16 北京奥星贝斯科技有限公司 一种数据的写入方法、装置以及设备
CN111651404A (zh) * 2020-04-26 2020-09-11 浙江吉利汽车研究院有限公司 传感器数据存储、读取方法及数据存储、读取装置
CN111639076B (zh) * 2020-05-14 2023-12-22 民生科技有限责任公司 一种跨平台高效键值存储方法
CN111813347B (zh) * 2020-07-24 2022-06-07 济南浪潮数据技术有限公司 垃圾回收空间管理方法、装置及计算机可读存储介质
CN113268519B (zh) * 2020-12-28 2024-11-29 上海零数众合信息科技有限公司 一种基于区块链的数据共享方法
CN112817767B (zh) * 2021-02-24 2021-11-16 上海交通大学 分离可组合式架构下的图计算工作集优化实现方法及系统
CN113192558A (zh) * 2021-05-26 2021-07-30 北京自由猫科技有限公司 用于第三代基因测序数据的读写方法及分布式文件系统
CN113625952B (zh) * 2021-06-30 2024-08-23 济南浪潮数据技术有限公司 一种对象存储方法、装置、设备及存储介质
CN114741449A (zh) * 2022-04-14 2022-07-12 上海川源信息科技有限公司 一种基于分布式数据库的对象存储方法及装置
CN116991336B (zh) * 2023-09-26 2024-01-23 北京大道云行科技有限公司 分布式全闪对象存储系统的gc方法及电子设备、存储介质
CN117270789B (zh) * 2023-10-25 2024-02-06 苏州元脑智能科技有限公司 一种基于分布式存储的数据控制方法、系统及电子设备
CN118349170A (zh) * 2024-04-01 2024-07-16 福建天泉教育科技有限公司 一种数据缓存存储方法及终端

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6845427B1 (en) * 2002-10-25 2005-01-18 Western Digital Technologies, Inc. Disk drive allocating cache segments by mapping bits of a command size into corresponding segment pools
CN1936864A (zh) * 2005-09-22 2007-03-28 康佳集团股份有限公司 不定长记录的数据组织方法
CN101169761A (zh) * 2007-12-03 2008-04-30 腾讯数码（天津）有限公司 大容量缓存实现方法及存储系统
CN101178693A (zh) * 2007-12-14 2008-05-14 沈阳东软软件股份有限公司 一种数据缓存方法及系统
US20110283044A1 (en) * 2010-05-11 2011-11-17 Seagate Technology Llc Device and method for reliable data storage

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5649151A (en) * 1992-06-29 1997-07-15 Apple Computer, Inc. Efficient method and apparatus for access and storage of compressed data
US20120124285A1 (en) * 2003-08-14 2012-05-17 Soran Philip E Virtual disk drive system and method with cloud-based storage media
JP5076411B2 (ja) * 2005-11-30 2012-11-21 ソニー株式会社 記憶装置、コンピュータシステム
US7885932B2 (en) * 2006-11-01 2011-02-08 Ab Initio Technology Llc Managing storage of individually accessible data units
CN101799788B (zh) * 2010-03-23 2014-06-11 中兴通讯股份有限公司 一种分级管理存储资源的方法及系统

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6845427B1 (en) * 2002-10-25 2005-01-18 Western Digital Technologies, Inc. Disk drive allocating cache segments by mapping bits of a command size into corresponding segment pools
CN1936864A (zh) * 2005-09-22 2007-03-28 康佳集团股份有限公司 不定长记录的数据组织方法
CN101169761A (zh) * 2007-12-03 2008-04-30 腾讯数码（天津）有限公司 大容量缓存实现方法及存储系统
CN101178693A (zh) * 2007-12-14 2008-05-14 沈阳东软软件股份有限公司 一种数据缓存方法及系统
US20110283044A1 (en) * 2010-05-11 2011-11-17 Seagate Technology Llc Device and method for reliable data storage

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105574128A (zh) * 2015-12-12 2016-05-11 天津南大通用数据技术股份有限公司 商业智能系统数据完成复杂运算的方法
CN110658978A (zh) * 2018-06-28 2020-01-07 杭州海康威视系统技术有限公司 数据处理方法、装置、电子设备及可读存储介质
CN110658978B (zh) * 2018-06-28 2022-11-01 杭州海康威视系统技术有限公司 数据处理方法、装置、电子设备及可读存储介质
CN109726176A (zh) * 2018-12-11 2019-05-07 河南辉煌科技股份有限公司 铁路信号电气设备数据的快速存储与查询方法
CN114115738A (zh) * 2021-11-23 2022-03-01 烽火通信科技股份有限公司 一种基于分布式存储的磁盘空间管理方法及系统
CN114115738B (zh) * 2021-11-23 2023-12-26 烽火通信科技股份有限公司 一种基于分布式存储的磁盘空间管理方法及系统
CN115113819A (zh) * 2022-06-29 2022-09-27 京东方科技集团股份有限公司 一种数据存储的方法、单节点服务器及设备
US12216582B1 (en) * 2023-07-31 2025-02-04 Sap Se Disk-based merge for combining merged hash maps
US12216634B1 (en) 2023-07-31 2025-02-04 Sap Se Disk-based merge for hash maps
US12511275B2 (en) 2023-07-31 2025-12-30 Sap Se Disk-based merge for hash maps

Also Published As

Publication number Publication date
CN103577339A (zh) 2014-02-12
US20150193350A1 (en) 2015-07-09
CN103577339B (zh) 2018-01-30
US9323685B2 (en) 2016-04-26

Similar Documents

Publication Publication Date Title
WO2014015828A1 (zh) 数据存储空间的处理方法、处理系统及数据存储服务器
CN110825748B (zh) 利用差异化索引机制的高性能和易扩展的键值存储方法
CN113821171B (zh) 一种基于哈希表与lsm树的键值存储方法
EP2735978B1 (en) Storage system and management method used for metadata of cluster file system
JP5445682B2 (ja) ストレージシステム
CN100498740C (zh) 一种数据缓存处理方法、系统及数据缓存装置
JP5996088B2 (ja) 暗号ハッシュ・データベース
CN103345472B (zh) 基于有限二叉树布隆过滤器的去冗文件系统及其构建方法
CN102346695B (zh) 渐进式备份的基于片段的高延展的去复本系统与方法
EP3399444A1 (en) Optimized record lookups
CN104616680B (zh) 基于光盘存储的重复数据删除系统及数据操作方法、装置
WO2017113213A1 (zh) 访问请求处理方法、装置及计算机系统
WO2017025039A1 (zh) 一种面向闪存存储的数据访问方法及其装置
CN114416742A (zh) Key-Value存储引擎实现方法及系统
CN103229164A (zh) 数据访问方法和装置
CN116257523A (zh) 一种基于非易失存储器的列式存储索引方法及装置
CN103150395A (zh) 基于ssd的文件系统目录路径解析方法
KR20230026946A (ko) 해싱을 사용하는 키 밸류 스토리지 장치 및 그것의 동작 방법
CN104216988A (zh) 分布式大数据的ssd磁盘和hdd磁盘混合存储方法
CN109407985B (zh) 一种数据管理的方法以及相关装置
CN102722450B (zh) 一种基于位置敏感哈希的删冗块设备存储方法
CN102169497B (zh) 一种通过位图方式管理元数据的方法及装置
CN114461635A (zh) 一种MySQL数据库数据存储方法、装置和电子设备
CN106776361B (zh) 一种面向大规模非易失性存储介质的缓存方法和系统
Zhong et al. Disco: A compact index for lsm-trees

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 13823556

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 14413049

Country of ref document: US

NENP Non-entry into the national phase

Ref country code: DE

32PN Ep: public notification in the ep bulletin as address of the adressee cannot be established

Free format text: NOTING OF LOSS OF RIGHTS PURSUANT TO RULE 112(1) EPC (EPO FORM 1205N DATED 10/07/2015)

122 Ep: pct application non-entry in european phase

Ref document number: 13823556

Country of ref document: EP

Kind code of ref document: A1