CN102810092B - 数据读写方法及系统 - Google Patents

数据读写方法及系统 Download PDF

Info

Publication number
CN102810092B
CN102810092B CN201110144738.1A CN201110144738A CN102810092B CN 102810092 B CN102810092 B CN 102810092B CN 201110144738 A CN201110144738 A CN 201110144738A CN 102810092 B CN102810092 B CN 102810092B
Authority
CN
China
Prior art keywords
data
data block
read
file
identification number
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201110144738.1A
Other languages
English (en)
Other versions
CN102810092A (zh
Inventor
袁清
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tencent Technology Shenzhen Co Ltd
Tencent Cloud Computing Beijing Co Ltd
Original Assignee
Tencent Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tencent Technology Shenzhen Co Ltd filed Critical Tencent Technology Shenzhen Co Ltd
Priority to CN201110144738.1A priority Critical patent/CN102810092B/zh
Publication of CN102810092A publication Critical patent/CN102810092A/zh
Application granted granted Critical
Publication of CN102810092B publication Critical patent/CN102810092B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明涉及一种数据读写方法及系统。该方法包括以下步骤:获取写操作请求及用户标识号,根据所述用户标识号从第一数据文件中读取与所述用户标识号相对应的数据块,再根据所述写操作请求及所述读取的数据块生成新的数据块,并将新的数据块顺序写入到所述第一数据文件中;记录所述新的数据块与用户标识号的对应关系以及所述新的数据块的偏移地址信息;获取读操作请求及用户标识号,根据所述读操作请求、用户标识号与新的数据块的对应关系及新的数据块的偏移地址信息从所述第一数据文件中读取与所述用户标识号相对应的新的数据块。上述数据读写方法及系统,实现了多用户数据的快速读写,提高了读写速度。

Description

数据读写方法及系统
【技术领域】
本发明涉及计算机技术领域,特别涉及一种数据读写方法及系统。
【背景技术】
随着互联网技术的发展,用户数量越来越多,每个用户发布的信息也越来越多,数据总量开始急剧膨胀,形成海量的数据,如何对这些海量的数据进行有效管理,以保证用户快速发表数据和读取数据,成为后台技术面临的巨大挑战。
SSD(Solid State Disk,固态硬盘)是互联网中一种最新存储技术,它是由控制单元和存储单元(DRAM或FLASH芯片)两部分组成。存储单元负责存储数据,控制单元负责读取、写入数据。SSD能够在低于1ms的时间内对任意位置存储单元完成I/O(输入/输出)操作,其随机读性能可达到每秒上万次,顺序写性能可达每秒4k~5k,但是其随机写性能比较差,每秒只有几十次,并且会严重影响随机读性能。
传统的数据读写一般采用内存索引加上数据库永久存储的方式实现,该方式代码设计复杂,且需考虑缓存和数据库中的数据的一致性,导致数据读写速度慢,且当缓存大量失效时,并发的流量集中在数据库上,会使数据库瞬间压力暴增,读写性能急剧下降。
【发明内容】
基于此,有必要提供一种提高读写速度的数据读写方法。
一种数据读写方法,包括以下步骤:
获取写操作请求及用户标识号,根据所述用户标识号从第一数据文件中读取与所述用户标识号相对应的数据块,再根据所述写操作请求及所述读取的数据块生成新的数据块,并将新的数据块顺序写入到所述第一数据文件中;
记录所述新的数据块与用户标识号的对应关系以及所述新的数据块的偏移地址信息;
获取读操作请求及用户标识号,根据所述读操作请求、用户标识号与新的数据块的对应关系及新的数据块的偏移地址信息从所述第一数据文件中读取与所述用户标识号相对应的新的数据块。
优选地,还包括步骤:记录写操作,生成写操作备份文件。
优选地,还包括步骤:
计算所述第一数据文件的利用率;
判断所述第一数据文件的利用率是否小于预设阈值,若是,则将所述第一数据文件中的有效的数据块进行数据转移到第二数据文件中,否则返回到计算所述第一数据文件的利用率的步骤。
优选地,还包括步骤:在预定间隔时间内扫描所述第一数据文件,当第一数据文件中的数据块无效时,删除所述第一数据文件。
优选地,还包括步骤:判断所述第一数据文件中的数据块是否为空,若是,则将所述第一数据文件中的所述数据块的索引设置为空指针。
此外,还有必要提供一种提高读写速度的数据读写系统。
一种数据读写系统,包括:
主写进程模块,用于获取写操作请求及用户标识号,根据所述用户标识号从第一数据文件中读取与所述用户标识号相对应的数据块,再根据所述写操作请求及读取的数据块生成新的数据块,并将新的数据块顺序写入到所述第一数据文件中;
存储模块,用于记录所述新的数据块与用户标识号的对应关系以及所述新的数据块的偏移地址信息;
读进程模块,用于获取读操作请求及用户标识号,根据所述读操作请求、用户标识号与新的数据块的对应关系及新的数据块的偏移地址信息从所述第一数据文件中读取与所述用户标识号相对应的新的数据块。
优选地,还包括辅助写进程模块,所述辅助写进程模块用于记录写操作,生成写操作备份文件。
优选地,还包括重整进程模块,所述重整进程模块用于计算所述第一数据文件的利用率,并判断所述第一数据文件的利用率是否小于预设阈值;所述主写进程模块还用于在所述重整进程模块判断出所述第一数据文件的利用率小于预设阈值时,将所述第一数据文件中的有效的数据块进行数据转移到第二数据文件中。
优选地,所述重写进程模块还用于在预定间隔时间内扫描所述第一数据文件,当第一数据文件中的数据块无效时,删除所述第一数据文件。
优选地,还包括指针设置模块,所述指针设置模块用于在所述第一数据文件中的数据块为空时,将所述第一数据文件中的所述数据块索引设置为空指针。
上述数据读写方法及系统,采用写操作时,将第一数据文件中的与用户标识号相对应的数据块读取出来,再根据写操作及读取的数据块生成新的数据块,并将新的数据块顺序写入到第一数据文件中,读操作时,根据用户标识号查找到对应的新的数据块读取出来,实现了多用户数据的快速读写,提高了读写速度。
另外,因根据写操作读取出原有的数据块,并生成新的数据块,再将新的数据块顺序写入到第一数据文件中,不会出现大量数据涌入数据库而使数据库瞬间压力暴增的情况,数据读写性能稳定。
【附图说明】
图1为一个实施例中数据读写方法的流程图;
图2为另一个实施例中数据读写方法的流程图;
图3为第一数据文件利用率及转移第一数据文件的示意图;
图4为一个实施例中数据读写系统的结构图;
图5为另一个实施例中数据读写系统的结构图。
【具体实施方式】
下面结合具体的实施例及附图对技术方案进行详细的描述。
如图1所示,在一个实施例中,一种数据读写方法,包括以下步骤:
步骤S100,获取写操作请求及用户标识号,根据该用户标识号从第一数据文件中读取与该用户标识号相对应的数据块,再根据该写操作请求及该读取的数据块生成新的数据块,并将新的数据块顺序写入到该第一数据文件中。
第一数据文件中存储有多个用户的数据块、每个数据块的偏移地址信息以及用户的数据块与用户标识号存在对应关系。用户进行写操作时,需发送写操作请求。同时,写操作时需获取到用户原有的数据,为此需得到用户标识号,根据用户标识号从第一数据文件中读取到与该用户标识号相对应的数据块。如用户A发表微博信息,在微博服务器的第一数据文件中会分配一个空闲位置给用户A,存储用户A的数据块1及数据块1的偏移地址信息,该偏移地址信息即为数据块的起始地址。该写操作可为增加数据、删除数据、修改数据等操作类型。
根据写操作请求及读取的数据块生成新的数据块,并将新的数据块顺序写入到第一数据文件中。
当写操作为增加数据操作时,根据写操作请求,获取到增加的数据,将增加的数据与读取的与用户标识号相对应的数据块中的数据合并在一起,生成新的数据块,将新的数据块顺序写入到第一数据文件中。
当写操作为删除数据操作时,根据写操作请求,读取第一数据文件中的与用户标识号相对应的数据块,选中数据块中需要删除的数据删除,将剩下的数据生成新的数据块,再将新的数据块顺序写入到第一数据文件中。
当写操作为修改数据操作时,根据写操作请求,读取第一数据文件中的与用户标识号相对应的数据块,选中数据块中需要修改的数据进行修改操作,将修改后的数据与未修改的数据一起生成新的数据块,将新的数据块顺序写入到第一数据文件中。
上述写操作均在SSD硬盘上执行。每次写操作都会进行是否重复的写检查。
另外,在一个实施例中,上述数据读写方法,在步骤S100执行的同时,还包括步骤:记录写操作,生成写操作备份文件。记录写操作,即记录该写操作是增加数据、删除数据或者修改数据等操作类型,生成写操作备份文件,记录写操作的类型及时间等。如2011年5月1日,写操作为增加数据操作。
步骤S200,记录该新的数据块与用户标识号的对应关系以及新的数据块的偏移地址信息。
新的数据块生成后,写入第一数据文件中,会将新的数据块与用户标识号进行映射,产生对应关系,方便查询。新的数据块写入后,会分配该新的数据块写入的偏移地址信息,即新的数据块的起始地址。新的数据块与用户标识号映射产生对应关系后,原有的数据块与用户标识号的对应关系将自动解除。
步骤S300,获取读操作请求及用户标识号,根据该读操作请求、用户标识号与新的数据块的对应关系及新的数据块的偏移地址信息从该第一数据文件中读取与该用户标识号相对应的新的数据块。
用户读取数据时,需发送读操作请求及该用户的标识号。根据用户标识号依据用户标识号及数据块的对应关系查找到相应的数据块,根据数据块的偏移地址信息从该新的数据块的起始地址开始读取该新的数据块,从而得到该新的数据块中的数据。
优选的实施例中,如图2所示,上述数据读写方法,除了包括步骤S100至S300,还包括以下步骤:
步骤S400,计算第一数据文件的利用率。
第一数据文件的利用率等于第一数据文件中有效数据块的大小除以第一数据文件大小所得值的百分比。其中,有效数据块是指存在被索引链接引用的数据块,即用户访问数据块时,需通过索引查找到该数据块,存在这种对应关系的数据块则为有效数据块,数据块无法被索引链接到则为无效数据块。
步骤S500,判断第一数据文件的利用率是否小于预设阈值,若是,执行步骤S600,否则返回步骤S400。
预设阈值可由系统设定,如为28%、30%、40%、45%等。
步骤S600,将第一数据文件中的有效数据块进行数据转移到第二数据文件中。
数据转移是指将第一数据文件的有效数据块读出来并写入到第二数据文件中。如图3所示,数据文件利用率小于40%的,将有效数据转移到该用户的最新数据文件中,第二数据文件可为最新数据文件。将有效数据块转移到第二数据文件中后,第一数据文件中的数据块将均为无效数据块,第一数据文件可被删除,以节省磁盘空间。因第一数据文件中存储有效数据块和大量的无效数据块,将有效数据块转移后,剩余无效数据块,将第一数据文件删除,节省了磁盘空间。
步骤S700,在预定时间间隔内扫描第一数据文件,判断第一数据文件中的数据块是否无效,若是,则执行步骤S800,否则执行步骤S900。
由于每次写操作都会生成新的数据块,因此会存在较多无用的数据块,占用比较多的磁盘空间,为了释放空闲空间,需定期扫描第一数据文件,当第一数据文件中的数据块均为无效数据块时,则直接删掉该第一数据文件,以节省磁盘空间。
步骤S800,删除该第一数据文件。
步骤S900,保留该第一数据文件。优选的实施例中,上述数据读写方法,还包括步骤:判断第一数据文件中的数据块是否为空,若是,则将第一数据文件中的数据块的索引设置为空指针。第一数据文件的数据块没有数据时,将第一数据文件中的数据块的索引设为空指针(NULL)。
如图4所示,在一个实施例中,一种数据读写系统,包括主写进程模块400、存储模块410和读进程模块420。
主写进程模块400用于获取写操作请求及用户标识号,根据该用户标识号从第一数据文件中读取与该用户标识号相对应的数据块,再根据该写操作请求及读取的数据块生成新的数据块,并将新的数据块顺序写入到第一数据文件中。
第一数据文件中存储有多个用户的数据块、每个数据块的偏移地址信息以及用户的数据块与用户标识号存在对应关系。用户通过主写进程模块400进行写操作时,需发送写操作请求。同时,写操作时需获取到用户原有的数据,为此需得到用户标识号,根据用户标识号从第一数据文件中读取到与该用户标识号相对应的数据块。如用户A发表微博信息,在微博服务器的第一数据文件中会分配一个空闲位置给用户A,存储用户A的数据块1及数据块1的偏移地址信息,该偏移地址信息即为数据块的起始地址。
该写操作可为增加数据、删除数据、修改数据等操作类型。
主写进程模块400根据用户标识号在第一数据文件查找到相对应的数据块,读取该数据块,再根据写操作请求及读取的数据块生成新的数据块,并将新的数据块顺序写入到第一数据文件中。
当写操作为增加数据操作时,主写进程模块400根据写操作请求,获取到增加的数据,将增加的数据与读取的与用户标识号相对应的数据块中的数据合并在一起,生成新的数据块,将新的数据块顺序写入到第一数据文件中。
当写操作为删除数据操作时,主写进程模块400根据写操作请求,读取第一数据文件中的与用户标识号相对应的数据块,选中数据块中需要删除的数据删除,将剩下的数据生成新的数据块,再将新的数据块顺序写入到第一数据文件中。
当写操作为修改数据操作时,主写进程模块400根据写操作请求,读取第一数据文件中的与用户标识号相对应的数据块,选中数据块中需要修改的数据进行修改操作,将修改后的数据与未修改的数据一起生成新的数据块,将新的数据块顺序写入到第一数据文件中。
上述写操作均在SSD硬盘上执行。每次写操作都会进行是否重复的写检查。
存储模块410用于记录该新的数据块与用户标识号的对应关系及新的数据块的偏移地址信息。新的数据块生成后,顺序写入第一数据文件中,会将新的数据块与用户标识号进行映射,产生对应关系,方便查询。新的数据块写入后,会分配该新的数据块写入的偏移地址信息,即新的数据块的起始地址。新的数据块与用户标识号映射产生对应关系后,原有的数据块与用户标识号的对应关系将自动解除。
读进程模块420用于获取读操作请求及用户标识号,根据该读操作请求、用户标识号与新的数据块的对应关系及新的数据块的偏移地址信息从所述第一数据文件中读取与所述用户标识号相对应的新的数据块。用户读取数据时,需发送读操作请求及该用户的标识号。读进程模块420根据用户标识号依据用户标识号及数据块的对应关系查找到相应的数据块,根据数据块的偏移地址信息从该新的数据块的起始地址开始读取该新的数据块,从而得到该新的数据块中的数据。
在一个实施例中,如图5所示,上述数据读写系统,除了包括主写进程模块400、存储模块410和读进程模块420,还包括辅助写进程模块430、重整进程模块440和指针设置模块450。
辅助写进程模块430用于记录写操作,生成写操作备份文件。该实施例中,辅助写进程模块430可为Binlog写进程。所有写操作的二进制包由主写进程模块400通过binlog-channel传递给Binlog写进程记录,生成写操作备份文件。记录写操作,即记录该写操作是增加数据、删除数据或者修改数据等操作类型,生成写操作备份文件,记录写操作的类型及时间等。如2011年5月1日,写操作为增加数据操作。
重整进程模块440用于计算第一数据文件的利用率,并判断该第一数据文件的利用率是否小于预设阈值。第一数据文件的利用率等于第一数据文件中有效数据块的大小除以第一数据文件大小所得值的百分比。其中,有效数据块是指存在被索引链接引用的数据块,即用户访问数据块时,需通过索引查找到该数据块,存在这种对应关系的数据块则为有效数据块,数据块无法被索引链接到则为无效数据块。预设阈值可由系统设定,如为28%、30%、40%、45%等。
主写进程模块400还用于在重整进程模块440判断出该第一数据文件的利用率小于预设阈值时,将该第一数据文件中的有效数据块进行数据转移到第二数据文件中。第二数据文件为新建的数据文件。数据转移是指将第一数据文件的有效数据块读出来并写入到第二数据文件中。如图3所示,数据文件利用率小于40%的,将有效数据转移到最新数据文件中,第二数据文件作为最新数据文件。将有效数据块转移到第二数据文件中后,第一数据文件中的数据块将均为无效数据块,第一数据文件可被删除,以节省磁盘空间。因第一数据文件中存储有效数据块和大量的无效数据块,将有效数据块转移后,剩余无效数据块,将第一数据文件删除,节省了磁盘空间。
优选的实施例中,重整进程模块440还用于在预定间隔时间内扫描该第一数据文件,当第一数据文件中的数据块无效时,删除该第一数据文件。由于每次写操作都会生成新的数据块,因此会存在较多无用的数据块,占用比较多的磁盘空间,为了释放空闲空间,需定期扫描第一数据文件,当第一数据文件中的数据块均为无效数据块时,则直接删掉该第一数据文件,以节省磁盘空间。
指针设置模块450用于在该第一数据文件中的数据块为空时,将该第一数据文件的数据块的索引设置为空指针。第一数据文件的数据块内没有数据时,指针设置模块450将第一数据文件的数据块索引设为空指针(NULL)。
在不同的实施例中,上述数据读写系统,可只包括辅助写进程模块430,或重整进程模块440。
此外,上述数据读写系统初始化时,将全量用户均匀分布在多台存储设备上,当某台存储设备上的数据总量达到阈值时,启动扩容功能,将与数据文件标识号相对应的数据文件中的数据转移到新增加的存储设备上,实现并行扩容。
上述数据读写方法及系统,在单机挂载8块SSD硬盘情况下,并行写性能可达每秒3.2万次,并行随机读性能可达每秒8万次,读写速率比传统机械式硬盘提高了近100倍。
上述数据读写方法及系统,采用写操作时,将第一数据文件中的与用户标识号相对应的数据块读取出来,再根据写操作及读取的数据块生成新的数据块,并将新的数据块顺序写入到第一数据文件中,读操作时,根据用户标识号查找到对应的新的数据块读取出来,实现了多用户数据的快速读写,提高了读写速度。
另外,因根据写操作读取出原有的数据块,并生成新的数据块,再将新的数据块顺序写入到第一数据文件中,不会出现大量数据涌入数据库而使数据库瞬间压力暴增的情况,数据读写性能稳定;采用记录写操作,并生成写操作备份文件,以方便获知数据变更的具体时间及类型;采用定时扫描第一数据文件,对第一数据文件进行清理,节省SSD磁盘空间,提高磁盘空间利用率;当第一数据文件利用率低时,将有效数据块进行转移写入到第二数据文件,第一数据文件中数据块无效,将第一数据文件删除,节省磁盘空间,提高磁盘空间的利用率。
此外,利用SSD硬盘的特性,按照时间的先后顺序将数据写入SSD中,不会出现大量数据全部涌入的情况,读写性能稳定。
以上所述实施例仅表达了本发明的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对本发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干变形和改进,这些都属于本发明的保护范围。因此,本发明专利的保护范围应以所附权利要求为准。

Claims (10)

1.一种数据读写方法,包括以下步骤:
获取写操作请求及用户标识号,根据所述用户标识号从第一数据文件中读取与所述用户标识号相对应的数据块,再根据所述写操作请求及所述读取的数据块生成新的数据块,并将新的数据块顺序写入到所述第一数据文件中;所述写操作为增加数据、删除数据或修改数据,所述写操作在SSD上执行,且按照时间的先后顺序将数据写入SSD中;
记录所述新的数据块与用户标识号的对应关系以及所述新的数据块的偏移地址信息,所述偏移地址信息为新的数据块的起始地址;
获取读操作请求及用户标识号,根据所述读操作请求、用户标识号与新的数据块的对应关系及新的数据块的偏移地址信息从所述第一数据文件中读取与所述用户标识号相对应的新的数据块。
2.根据权利要求1所述的数据读写方法,其特征在于,还包括步骤:记录写操作,生成写操作备份文件。
3.根据权利要求1所述的数据读写方法,其特征在于,还包括步骤:
计算所述第一数据文件的利用率;
判断所述第一数据文件的利用率是否小于预设阈值,若是,则将所述第一数据文件中的有效的数据块进行数据转移到第二数据文件中,否则返回到计算所述第一数据文件的利用率的步骤。
4.根据权利要求3所述的数据读写方法,其特征在于,还包括步骤:在预定间隔时间内扫描所述第一数据文件,当第一数据文件中的数据块无效时,删除所述第一数据文件。
5.根据权利要求1所述的数据读写方法,其特征在于,还包括步骤:判断所述第一数据文件中的数据块是否为空,若是,则将所述第一数据文件中的所述数据块的索引设置为空指针。
6.一种数据读写系统,其特征在于,包括:
主写进程模块,用于获取写操作请求及用户标识号,根据所述用户标识号从第一数据文件中读取与所述用户标识号相对应的数据块,再根据所述写操作请求及读取的数据块生成新的数据块,并将新的数据块顺序写入到所述第一数据文件中;所述写操作为增加数据、删除数据或修改数据,所述写操作在SSD上执行,且按照时间的先后顺序将数据写入SSD中;
存储模块,用于记录所述新的数据块与用户标识号的对应关系以及所述新的数据块的偏移地址信息,所述偏移地址信息为新的数据块的起始地址;
读进程模块,用于获取读操作请求及用户标识号,根据所述读操作请求、用户标识号与新的数据块的对应关系及新的数据块的偏移地址信息从所述第一数据文件中读取与所述用户标识号相对应的新的数据块。
7.根据权利要求6所述的数据读写系统,其特征在于,还包括辅助写进程模块,所述辅助写进程模块用于记录写操作,生成写操作备份文件。
8.根据权利要求6所述的数据读写系统,其特征在于,还包括重整进程模块,所述重整进程模块用于计算所述第一数据文件的利用率,并判断所述第一数据文件的利用率是否小于预设阈值;所述主写进程模块还用于在所述重整进程模块判断出所述第一数据文件的利用率小于预设阈值时,将所述第一数据文件中的有效的数据块进行数据转移到第二数据文件中。
9.根据权利要求8所述的数据读写系统,其特征在于,所述重整进程模块还用于在预定间隔时间内扫描所述第一数据文件,当第一数据文件中的数据块无效时,删除所述第一数据文件。
10.根据权利要求6所述的数据读写系统,其特征在于,还包括指针设置模块,所述指针设置模块用于在所述第一数据文件中的数据块为空时,将所述第一数据文件中的所述数据块索引设置为空指针。
CN201110144738.1A 2011-05-31 2011-05-31 数据读写方法及系统 Active CN102810092B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201110144738.1A CN102810092B (zh) 2011-05-31 2011-05-31 数据读写方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201110144738.1A CN102810092B (zh) 2011-05-31 2011-05-31 数据读写方法及系统

Publications (2)

Publication Number Publication Date
CN102810092A CN102810092A (zh) 2012-12-05
CN102810092B true CN102810092B (zh) 2017-07-07

Family

ID=47233799

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201110144738.1A Active CN102810092B (zh) 2011-05-31 2011-05-31 数据读写方法及系统

Country Status (1)

Country Link
CN (1) CN102810092B (zh)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103885887B (zh) * 2012-12-21 2018-07-27 腾讯科技(北京)有限公司 用户数据存储方法、读取方法及系统
CN103177080B (zh) * 2013-02-07 2016-03-30 华为技术有限公司 文件预读的方法和装置
CN104615594B (zh) * 2013-11-01 2018-04-03 阿里巴巴集团控股有限公司 一种数据更新方法及装置
CN107783733B (zh) * 2013-11-07 2020-12-29 航天云网数据研究院(广东)有限公司 循序存取侦测系统及方法
CN105797381A (zh) * 2014-12-30 2016-07-27 博雅网络游戏开发(深圳)有限公司 游戏冷数据的存储、读取方法和装置
CN106682021B (zh) * 2015-11-09 2021-09-28 五八同城信息技术有限公司 数据库迁移方法及装置
CN107491264B (zh) * 2016-06-12 2020-07-31 阿里巴巴集团控股有限公司 一种分布式系统中的数据写入方法及装置
CN107679276B (zh) * 2017-08-31 2021-06-18 电力规划总院有限公司 电力系统潮流接线图的生成方法、装置及电子设备
CN108387794A (zh) * 2018-01-09 2018-08-10 国网山东省电力公司滨州供电公司 一种电能监测系统
CN108512930B (zh) * 2018-04-11 2021-02-09 广州视源电子科技股份有限公司 一种共享文件的管理方法、装置、服务器和存储介质
CN109542341B (zh) * 2018-11-06 2022-07-19 网宿科技股份有限公司 一种读写io监测方法、装置、终端及计算机可读存储介质
CN112817919B (zh) * 2021-01-27 2024-05-17 中国银联股份有限公司 数据合并方法、装置及计算机可读存储介质

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101419573A (zh) * 2008-12-01 2009-04-29 成都市华为赛门铁克科技有限公司 一种存储管理的方法、系统和存储设备

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101533408B (zh) * 2009-04-21 2015-02-04 北京四维图新科技股份有限公司 一种海量数据的处理方法及处理装置
CN101650692B (zh) * 2009-07-02 2011-01-05 北京飞天诚信科技有限公司 一种在存储设备中修改数据的方法和装置
CN101770515B (zh) * 2010-01-18 2012-01-11 杭州顺网科技股份有限公司 一种基于数据块比较的数据更新方法

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101419573A (zh) * 2008-12-01 2009-04-29 成都市华为赛门铁克科技有限公司 一种存储管理的方法、系统和存储设备

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
《基于固态硬盘的数据库性能优化》;Jacky;《http://www.searchdatabase.com.cn/showcontent_42167.htm》;20101104;第1页第6段 *

Also Published As

Publication number Publication date
CN102810092A (zh) 2012-12-05

Similar Documents

Publication Publication Date Title
CN102810092B (zh) 数据读写方法及系统
US9298384B2 (en) Method and device for storing data in a flash memory using address mapping for supporting various block sizes
CN102821138B (zh) 一种适用于云存储系统的元数据分布式存储方法
KR101445481B1 (ko) 파일 시스템 힌팅
CN105574104B (zh) 一种基于ObjectStore的LogStructure存储系统及其数据写入方法
US7761648B2 (en) Caching method for NAND flash translation layer
CN103140840B (zh) 数据管理的方法及装置
US8122181B2 (en) Systems and methods for enhancing a data store for handling semantic information
US10296250B2 (en) Method and apparatus for improving performance of sequential logging in a storage device
TW201224914A (en) Offload reads and writes
CN104281717B (zh) 一种建立海量id映射关系的方法
CN107766374B (zh) 一种海量小文件存储读取的优化方法和系统
CN103559027A (zh) 一种key与value分开存储的key-value存储系统设计方法
CN108628542B (zh) 一种文件合并方法及控制器
CN104054071A (zh) 访问存储设备的方法和存储设备
CN102253985B (zh) 一种文件系统数据的管理方法及系统
CN103942301B (zh) 一种面向多数据类型访问应用的分布式文件系统
CN105260139B (zh) 一种磁盘管理方法以及系统
CN111007990B (zh) 一种对快照系统中数据块引用进行快速定位的定位方法
CN107506466A (zh) 一种小文件存储方法及系统
CN107766258A (zh) 内存存储方法与装置、内存查询方法与装置
Bajaj et al. HIFS: History independence for file systems
US10585802B1 (en) Method and system for caching directories in a storage system
CN111241090B (zh) 存储系统中管理数据索引的方法和装置
Yin et al. PBFilter: A flash-based indexing scheme for embedded systems

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
TR01 Transfer of patent right

Effective date of registration: 20190807

Address after: 518000 Nanshan District science and technology zone, Guangdong, Zhejiang Province, science and technology in the Tencent Building on the 1st floor of the 35 layer

Co-patentee after: Tencent cloud computing (Beijing) limited liability company

Patentee after: Tencent Technology (Shenzhen) Co., Ltd.

Address before: Shenzhen Futian District City, Guangdong province 518044 Zhenxing Road, SEG Science Park 2 East Room 403

Patentee before: Tencent Technology (Shenzhen) Co., Ltd.

TR01 Transfer of patent right