CN105989160A - 一种针对Redis数据库的内存数据持久化方法和装置 - Google Patents
一种针对Redis数据库的内存数据持久化方法和装置 Download PDFInfo
- Publication number
- CN105989160A CN105989160A CN201510095590.5A CN201510095590A CN105989160A CN 105989160 A CN105989160 A CN 105989160A CN 201510095590 A CN201510095590 A CN 201510095590A CN 105989160 A CN105989160 A CN 105989160A
- Authority
- CN
- China
- Prior art keywords
- data
- write
- internal memory
- write instruction
- rdb
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明实施例提供了一种针对Redis数据库的内存数据持久化方法和装置,其中,所述Redis数据库包括位于磁盘的增量文件AOF和快照文件RDB,所述方法包括:当有更新数据需要写入内存时,将所述更新数据对应的第一写入指令顺序添加至所述增量文件AOF中;当所述增量文件AOF的大小大于或等于预设阈值时,将所述内存中已有的数据添加至所述快照文件RDB;清空所述增量文件AOF。本发明只需占用少量的存储空间即可确保内存数据的安全性。
Description
技术领域
本发明涉及移动通信技术领域,特别是涉及一种针对Redis数据库的内存数据持久化方法和一种针对Redis数据库的内存数据持久化装置。
背景技术
随着4G业务的推出,数据处理的复杂性和密集性急剧增加,使得数据的处理量成倍增长,对数据处理速度提出了很高的要求。
目前,通常采用Redis数据库来提高数据的处理效率,通过将数据存储在内存中,处理完成后再将处理结果存储到磁盘中,减少了内存与磁盘在数据交互过程中的频繁I/O操作,大大提高了数据的处理效率。
然而,由于内存中的数据都是临时存储的,当发生故障时,容易导致数据会丢失。为了防止数据丢失,Redis数据库采用Snapshot(快照)和增量文件(Append Only File,AOF)的方式确保数据的安全性。
Snapshot(快照)是周期性的将内存中的数据保存到磁盘中,然而,由于数据是周期性保存的,一旦发生故障,从上次数据保存到发生故障这段时间的数据将全部丢失,可见,Snapshot(快照)并不能够很好地保证数据的安全性,仍然存在丢失部分数据的风险。
增量文件AOF是将Redis数据库的每次写操作都保存到一个AOF文件,由于AOF文件中保存了每次的写操作,可以很好地确保数据的安全性,然而,AOF文件是不断地累积Redis数据库的写操作,随着时间的推移,AOF文件会变得越来越大,占用大量的存储空间。
发明内容
鉴于上述问题,提出了本发明实施例以便提供一种克服上述问题或者至少部分地解决上述问题的一种针对Redis数据库的内存数据持久化方法和相应的一种针对Redis数据库的内存数据持久化装置。
为了解决上述问题,本发明实施例公开了一种针对Redis数据库的内存数据持久化方法,所述Redis数据库包括位于磁盘的增量文件AOF和快照文件RDB,所述方法包括:
当有更新数据需要写入内存时,将所述更新数据对应的第一写入指令顺序添加至所述增量文件AOF中;
当所述增量文件AOF的大小大于或等于预设阈值时,将所述内存中已有的数据添加至所述快照文件RDB;
清空所述增量文件AOF。
优选的,所述Redis数据库还包括位于所述磁盘的临时文件,所述将所述内存中已有的数据添加至所述快照文件RDB的步骤包括:
将所述内存中已有的数据写入所述临时文件;
采用所述临时文件覆盖所述快照文件RDB。
优选的,所述将所述内存中已有的数据写入所述临时文件的步骤包括:
调用分叉函数fork创建子进程;
由所述子进程将所述内存中已有的数据写入所述临时文件。
本发明实施例还公开了一种针对Redis数据库的内存数据恢复方法,所述Redis数据库包括位于磁盘的增量文件AOF和快照文件RDB,所述快照文件RDB包括第一写入指令,所述第一写入指令按序排列,所述方法包括:
当有磁盘数据需要恢复至内存时,提取所述快照文件RDB中的数据,并将所提取的数据写入所述内存;
当所述快照文件RDB中的数据全部写入所述内存后,提取所述第一写入指令;
将所述第一写入指对应的数据恢复至所述内存。
优选的,所述将所述第一写入指令对应的数据恢复至所述内存的步骤包括:
将所述第一写入指令写入所述内存;
在所述内存中顺序执行所述第一写入指令。
优选的,所述将所述第一写入指令对应的数据恢复至所述内存的步骤包括:
获取所述第一写入指令中排序最后的第二写入指令;
将所述第二写入指令写入所述内存;
在所述内存中执行所述第二写入指令。
本发明实施例还公开了一种针对Redis数据库的内存数据持久化装置,所述Redis数据库包括位于磁盘的增量文件AOF和快照文件RDB,所述装置包括:
第一写入指令添加模块,用于当有更新数据需要写入内存时,将所述更新数据对应的第一写入指令顺序添加至所述增量文件AOF中;
内存数据添加模块,用于当所述增量文件AOF的大小大于或等于预设阈值时,将所述内存中已有的数据添加至所述快照文件RDB;
增量文件AOF清空模块,用于清空所述增量文件AOF。
本发明实施例还公开了一种针对Redis数据库的内存数据恢复装置,所述Redis数据库包括位于磁盘的增量文件AOF和快照文件RDB,所述快照文件RDB包括第一写入指令,所述第一写入指令按序排列,所述装置包括:
数据写入模块,用于当有磁盘数据需要恢复至内存时,提取所述快照文件RDB中的数据,并将所提取的数据写入所述内存;
第一写入指令提取模块,用于当所述快照文件RDB中的数据全部写入所述内存后,提取所述第一写入指令;
数据恢复模块,用于将所述第一写入指对应的数据恢复至所述内存。
优选的,所述数据恢复模块包括:
第一写入指令写入子模块,用于将所述第一写入指令写入所述内存;
第一写入指令执行子模块,用于在所述内存中顺序执行所述第一写入指令。
优选的,所述数据恢复模块包括:
第二写入指令获取子模块,用于获取所述第一写入指中排序最后的第二写入指令;
第二写入指令写入子模块,用于将所述第二写入指令写入所述内存;
第二写入指令执行子模块,用于在所述内存中执行所述第二写入指令。
本发明实施例包括以下优点:
本发明实施例当有更新数据需要写入内存时,可以将更新数据对应的第一写入指令添加至增量文件AOF中,当增量文件AOF的大小大于或等于预设阈值时,将内存中已有的数据添加至快照文件RDB,然后清空增量文件AOF,当发生故障时,增量文件AOF保存了从上次添加数据到快照文件RDB至发生故障这段时间内,快照文件RDB没有保存的更新数据对应的第一写入指令,进而确保了内存数据的安全性,同时,由于增量文件AOF中只保存了小于预设阈值的数据量,只占用了少量的存储空间,因而,本发明实施例只需占用少量的存储空间即可确保内存数据的安全性。
附图说明
图1是本发明的一种针对Redis数据库的内存数据持久化方法实施例的步骤流程图;
图2是本发明的一种针对Redis数据库的内存数据恢复方法实施例的步骤流程图;
图3是本发明的一种针对Redis数据库的内存数据持久化装置实施例的结构框图;
图4是本发明的一种针对Redis数据库的内存数据恢复装置实施例的结构框图;
具体实施方式
为使本发明的上述目的、特征和优点能够更加明显易懂,下面结合附图和具体实施方式对本发明作进一步详细的说明。
本发明实施例的核心构思之一在于,充分利用Snapshot(快照)和增量文件AOF的优点,将更新数据对应的第一写入指令添加至增量文件AOF中,当增量文件AOF的大小大于或等于预设阈值时,将内存中已有的数据添加至快照文件RDB中,然后清空增量文件AOF,这样,当发生故障时,增量文件AOF保存了从上次添加数据到快照文件RDB至发生故障这段时间内,快照文件RDB没有保存的更新数据对应的第一写入指令,进而确保了内存数据的安全性,同时,由于增量文件AOF中只保存了小于预设阈值的数据量,只占用了少量的存储空间,因而,本发明实施例只需占用少量的存储空间即可确保内存数据的安全性。
下面,通过以下具体实施例分别对本申请的方案进行详细介绍。
实施例一:
参照图1,示出了本发明的一种针对Redis数据库的内存数据持久化方法实施例的步骤流程图,具体可以包括如下步骤:
步骤101,当有更新数据需要写入内存时,将所述更新数据对应的第一写入指令顺序添加至所述增量文件AOF中;
Redis数据库是一种内存数据库,是一中开源的使用ANSI C语言编写、支持网络、可基于内存亦可持久化的日志型、Key-Value数据库。
Redis数据库将数据存储在内存,直接在内存中读取数据进行相应的操作处理,由于内存的数据读写速度要高出磁盘几个数量级,Redis数据库通过将数据存储在内存能够极大地提高数据的处理效率。
内存数据具有断电丢失的特性,一旦机器发生故障或重启时,内存中的数据将全部丢失,因而,如何确保内存数据的安全性是内存数据库需要解决的问题,Redis数据库提供了快照文件RDB(即快照,Snapshot)和增量文件AOF(Append Only File)两种方式确保内存数据的安全性。
快照文件RDB方式是按照一定的策略将内存中的数据写进快照文件RDB中,增量文件AOF方式是将每次对内存数据的写入操作以日志的形式添加到增量文件AOF中。
在本发明实施例中,Redis数据库可以包括位于磁盘的增量文件AOF和快照文件RDB。
本发明实施例在有更新数据需要写入内存时,可以将更新数据对应的第一写入指令添加至增量文件AOF中。
内存通常会对同一个数据进行不断的更新操作,每一次的更新操作都对应一个第一写入指令,本发明实施例可以将每次更新操作对应的第一写入指令按序添加至增量文件AOF中,先添加至增量文件AOF的第一写入指令排在后添加至增量文件AOF的第一写入指令的前面。
作为本发明的一种优选实施例中,可以对第一写入指令添加排序标识,排序标识可以唯一地标示第一写入指令的排列顺序,如将最先添加的第一写入指令添加1作为排序标识,将第二添加的第一写入指令添加2作为排序标识,往后添加的第一写入指令的排序标识不断累积,当然本领域技术人员也可以根据实际需要,以其他的排序标识标示第一写入指令的排列顺序。
每次数据更新都将更新数据对应的第一写入指令添加至增量文件AOF中,写入增量文件AOF中的第一写入指令将会越来越多,增量文件AOF的大小将变得越来越大,所占用的存储空间也越来越大。
步骤102,当所述增量文件AOF的大小大于或等于预设阈值时,将所述内存中已有的数据添加至所述快照文件RDB;
在本发明实施例中,当增量文件AOF的大小大于或等于预设阈值时,可以将内存中已有的数据添加至快照文件RDB。
需要说明的时,预设阈值可以为50MB,也可以是100MB、150MB等等,本领域技术人员可以根据实际需要设定预设阈值的大小,本发明实施例对此并不加以限制。
在本发明的一种优选实施例中,步骤102可以包括以下子步骤:
子步骤S11,将所述内存中已有的数据写入所述临时文件;
Redis数据库可以包括位于磁盘的临时文件,本发明实施例可以将内存中已有的数据写入磁盘中的临时文件。
作为本发明的一种优选实施例,子步骤S11可以包括以下子步骤:
子步骤S11a,调用分叉函数fork创建子进程;
子步骤S11b,由所述子进程将所述内存中已有的数据写入所述临时文件。
子进程是指由另一进程创建的进程,创建子进程的进程是与所创建的子进程对应的父进程。
在本发明实施例中,由于增量文件AOF中的数据是不断累积的,增量文件AOF的大小将会不断增大,当增量文件AOF的大小大于或等于预设阈值时,可以调用分叉函数fork创建子进程。
分叉函数fork创建的子进程的数据空间中的数据是由父进程数据空间中的数据复制获得,父子进程之间是相互独立的,子进程的运行并不会影响父进程的正常运行。
在本发明实施例中,可以由子进程负责将内存中的数据写入临时文件中,子进程并不进行将更新数据写入内存的操作,将更新数据写入内存的操作由父进程负责,因而,将内存数据写入临时文件的操作并不影响内存数据的更新。
子进程可以采用Snapshot(快照)的方式将内存中已有的数据写入临时文件。
子步骤S12,采用所述临时文件覆盖所述快照文件RDB。
在本发明实施例中,快照文件RDB可以只保存内存中最新的数据,因此,将内存数据写入临时文件后,可以由子进程负责采用临时文件覆盖快照文件RDB,丢弃快照文件RDB已有的旧数据,进而确保快照文件RDB只保存内存中最新的数据,节省存储空间。
步骤103,清空所述增量文件AOF。
在本发明实施例中,将内存中已有的数据添加至快照文件RDB后,可以将增量文件AOF清空,删除增量文件AOF中已经保存的第一写入指令。
清空增量文件AOF后可以结束子进程,并重复前述步骤。
本发明实施例通过将更新数据对应的第一写入指令添加至磁盘中的增量文件AOF,当增量文件AOF的大小大于或等于预设阈值时,将内存中已有的数据添加至快照文件RDB中,清空增量文件AOF,然后继续将更新数据对应的第一写入指令添加至磁盘中的增量文件AOF,这样,当发生故障时,增量文件AOF保存了从上次添加数据到快照文件RDB至发生故障这段时间内,快照文件RDB没有保存的更新数据对应的第一写入指令,进而确保了内存数据的安全性,同时,由于增量文件AOF中只保存了小于预设阈值的数据量,只占用了少量的存储空间,因而,本发明实施例只需占用少量的存储空间即可确保内存数据的安全性。
实施例二:
参照图2,示出了本发明的一种针对Redis数据库的内存数据恢复方法实施例的步骤流程图,具体可以包括如下步骤:
步骤201,当有磁盘数据需要恢复至内存时,提取所述快照文件RDB中的数据,并将所提取的数据写入所述内存;
在本发明实施例中,Redis数据库包括位于磁盘的增量文件AOF和快照文件RDB。
快照文件RDB保存有故障发生时内存中的数据,通常,数据是以Snapshot(快照)的方式保存到快照文件RDB中
增量文件AOF中保存有从将内存数据保存至快照文件RDB至发生故障这段时间内,写入内存中的更新数据对应的第一写入指令,同一数据对应的第一写入指令按序排序。
当有磁盘数据需要恢复至内存时,本发明实施例可以调用rdbLoad函数,提取快照文件RDB中的数据,并将提取的数据写入内存中,从而将快照文件RDB中的数据恢复至内存。
步骤202,当所述快照文件RDB中的数据全部写入内存后,提取所述第一写入指令;
步骤203,将所述第一写入指对应的数据恢复至所述内存。
将快照文件RDB中的数据全部写入内存后,可以提取增量文件AOF中的第一写入指令,根据第一写入指令可以将第一写入指令对应的数据恢复至内存中。
作为本发明的一种优选实施例,步骤203可以包括以下子步骤:
子步骤S21a,将所述第一写入指令写入所述内存;
子步骤S21b,在所述内存中顺序执行所述第一写入指令。
本发明实施例可以将提取的第一写入指令写入内存中,然后在内存中顺序执行按序排列的第一写入指令,可以将第一写入指令对应的数据恢复至内存中。
在本发明的一种优选实施例中,步骤203可以包括以下子步骤:
子步骤S22a,获取所述第一写入指中排序最后的第二写入指令;
子步骤S22b,将所述第二写入指令写入所述内存;
子步骤S22c,在所述内存中执行所述第二写入指令。
由于同一数据对应的第一写入指令按序排列,本发明实施例可以获取排序最后的第二写入指令,将第二写入指令写入内存中,这样只需在内存中执行一次第二写入指令即可将第一写入指令对应的数据恢复至内存。
本发明实施例通过先将快照文件RDB中的数据恢复至内存,再将增量文件AOF中的第一写入指令对应的数据恢复至内存,由于快照文件RDB和增量文件AOF的数据量较小,因此,本发明实施例能够快速恢复内存中的数据。
本发明实施例是与上述针对Redis数据库的内存数据持久化方法实施例一对应的针对Redis数据库的内存数据恢复方法的实施例二,所以描述的比较简单,相关之处参见上述实施例一的部分说明即可,本发明实施例在此不加以详述。
为使本领域技术人员更好地理解本发明实施例,以下通过具体示例进行说明。
在客户端和服务器的数据交互中,客户端可以以套接字函数连接到服务端,服务端会相应一个套接字描述,如此就建立了客户端和服务端之间的连接,客户端可以向服务端发送第一写入指令,服务端可以接受客户端的第一写入指令,然后在内存中执行第一写入指令,将第一写入指令对应的更新数据写入内存中。
在本发明实施例中,由于服务端是采用Redis数据库,写入指令在内存中执行,因而需要采取一定的措施确保内存中数据的安全性。
以SET命令为例,客户端需将第一写入指令“SET YEAR 2013”发送到服务端,客户端可以调用写入函数,将第一写入指令“SET YEAR 2013”写入到套接字中,以协议内容的形式发送到服务端,服务端接收到协议内容,可以从协议内容中解析出写入指令“SET YEAR 2013”,然后调用setCommand函数,将YEAR值改为2013,实现向内存写入更新数据的效果。
在本发明实施例中,服务端可以将更新数据对应的第一写入指令“SETYEAR 2013”添加至位于磁盘的增量文件AOF中,作为示例,增量文件AOF的文件名可以是increment.aof。
服务端可以多次将同一数据对应的更新数据写入内存中。
例如,针对数据YEAR,当服务端接收到第一写入指令“SET YEAR2014”,服务端可以调用setCommand函数,将YEAR值改为2014,然后第一写入指令“SET YEAR 2014”添加至增量文件AOF中,当服务端接收到一写入指令“SET YEAR 2015”,服务端调用setCommand函数,将YEAR值改为2015,然后一写入指令“SET YEAR 2015”添加至增量文件AOF中。
本发明实施例可以对同一数据对应的第一写入指令顺序添加至增量文件AOF中,则上述的三个第一写入信息按下列顺序存储“SET YEAR2013”,“SET YEAR 2014”,“SET YEAR 2015”。
如此,随着内存数据的不断更新,添加至增量文件AOF的第一写入指令将不断增多,增量文件AOF的大小会不断增大。
本发明实施例可以预先设定一个阈值,如设定为50MB(也可以是其他值,如100MB、150MB),当增量文件AOF的大小大于或等于50MB(即预设阈值)时,服务端可以调用分叉函数fork创建子进程,由子进程将当前内存中已有的数据写入位于磁盘的临时文件,该子进程对应的父进程继续处理客户端的请求命令,进行内存数据的写入操作。
子进程可以采用Snapshot(快照)的方式将内存中已有的数据写入临时文件后,采用临时文件将快照文件RDB覆盖掉,确保快照文件RDB中保存内存中最新的数据。
作为一种优选示例,快照文件RDB的文件名可以是dump.rdb,快照文件RDB的格式可以为:“REDIS|RDB-VERSION|SELECT-DB|KEY-VALUE-PAIRS|EOF|CHECK-SUM”,真实的快照文件RDB中并不存在“|”,在这里是为了方便查看,其中,REDIS标志着一个正确RDB文件的开始,在读取文件时,程序是通过检查是否有“REDIS”来快速判断是否为一个正确的RDB文件;RDB-VERSION表示该文件使用的RDB版本号,不同的RDB版本文件是互不兼容的;SELECT-DB表示跟在其后的第一键值所属数据库号码,读入文件时以切分不用数据库,确保数据恢复到正确的数据库上;KEY-VALUE-PAIRS则是真正的第一键值数据内容,而每个第一键值又有“OPTIONAL-EXPIRE-TIME|TYPE-OF-VALUE|KEY|VALUE”组成,详细描述第一键值的失效时间、VALUE值类型、KEY值、VALUE值;EOF标志着数据库内存的结尾,需注意并不是文件的结尾;CHECK-SUM表示对文件内容的检验和,当其值为0时,表示服务端不检验。
将增量文件AOF清空,删除增量文件AOF中的第一写入指令,然后退出子进程,父进程继续将更新数据对应的第一写入指令添加至增量文件AOF中,并重复上述操作。
如此,从上次数据保存至快照文件RDB到发生故障这段时间的内存数据就以第一写入指令的形式保存到增量文件AOF,由于快照文件RDB占用的存储空间较小,并且,增量文件AOF仅保存了小于预设阈值的数据量,因此,本发明实施例只需较小的存储空间即可保证内存数据的安全性。
当故障恢复后,需要将磁盘中的数据恢复至内存中时,服务端首先检测快照文件RDB中是否存在REDIS,当存在REDIS时,判定该快照文件RDB是一个正确的快照文件RDB,然后从RDB-VERSION中获取版本号,从SELECT-DB中获取数据库号,然后调用rdbLoad函数将KEY-VALUE-PAIRS中包含的数据提取出来,并将提取的数据写入SELECT-DB对应的数据库中的内存,达到数据恢复的效果。
将快照文件RDB中的数据全部恢复至内存后,服务端将增量文件AOF中的第一写入指令“SET YEAR 2013”、“SET YEAR 2014”和“SET YEAR2015”提取出来,将第一写入指令对应的数据恢复至内存。
服务端可以通过以下两种方式将第一写入指令对应的数据恢复至内存:
第一种方式是:服务端按顺序执行所有的第一写入指令“SET YEAR2013”、“SET YEAR 2014”、“SET YEAR 2015”,如服务端首先执行“SETYEAR 2013”,通过调用setCommand函数,将数据YEAR更新为2013,然后执行“SET YEAR 2014”,通过调用setCommand函数,将数据YEAR从2013更新为2014,接着执行“SET YEAR 2015”,通过调用setCommand函数,将数据YEAR从2014更新为2015,最后的数据的恢复结果是内存中数据YEAR的值为2015。
第二种方式是:服务端首先获取排序在最后的第二写入信息“SET YEAR2015”,然后执行“SET YEAR 2015”,通过调用setCommand函数,将数据YEAR更新为2015,最后的数据的恢复结果是内存中数据YEAR的值为2015。
需要说明的是,对于方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本发明实施例并不受所描述的动作顺序的限制,因为依据本发明实施例,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作并不一定是本发明实施例所必须的。
实施例三:
参照图3,示出了本发明的一种针对Redis数据库的内存数据持久化装置实施例的结构框图,所述Redis数据库包括位于磁盘的增量文件AOF和快照文件RDB,所述装置包括:
第一写入指令添加模块301,用于当有更新数据需要写入内存时,将所述更新数据对应的第一写入指令顺序添加至所述增量文件AOF中;
内存数据添加模块302,用于当所述增量文件AOF的大小大于或等于预设阈值时,将所述内存中已有的数据添加至所述快照文件RDB;
增量文件AOF清空模块303,用于清空所述增量文件AOF。
在本发明的一种优选实施例中,内存数据添加模块302可以包括以下子模块:
第一内存数据写入子模块,用于将所述内存中已有的数据写入所述临时文件;
数据覆盖子模块,用于采用所述临时文件覆盖所述快照文件RDB。
在本发明的一种优选实施例中,内存数据写入模块,可以包括以下子模块:
子进程创建子模块,用于调用分叉函数fork创建子进程;
第二内存数据写入子模块,用于调用子进程将所述内存中已有的数据写入所述临时文件。
实施例四:
参照图4,示出了本发明的一种针对Redis数据库的内存数据恢复装置实施例的结构框图,所述Redis数据库包括位于磁盘的增量文件AOF和快照文件RDB,所述快照文件RDB包括第一写入指令,所述第一写入指令按序排列,所述装置包括:
数据写入模块401,用于当有磁盘数据需要恢复至内存时,提取所述快照文件RDB中的数据,并将所提取的数据写入所述内存;
第一写入指令提取模块402,用于当所述快照文件RDB中的数据全部写入所述内存后,提取所述第一写入指令;
数据恢复模块403,用于将所述第一写入指对应的数据恢复至所述内存。
在本发明的一种优选实施例中,数据恢复模块403可以包括以下子模块:
第一写入指令写入子模块,用于将所述第一写入指令写入所述内存;
第一写入指令执行子模块,用于在所述内存中顺序执行所述第一写入指令。
在本发明的一种优选实施例中,数据恢复模块403可以包括以下子模块:
第二写入指令获取子模块,用于获取所述第一写入指中排序最后的第二写入指令;
第二写入指令写入子模块,用于将所述第二写入指令写入所述内存;
第二写入指令执行子模块,用于在所述内存中执行所述第二写入指令。
对于装置实施例而言,由于其与方法实施例基本相似,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
本领域内的技术人员应明白,本发明实施例的实施例可提供为方法、装置、或计算机程序产品。因此,本发明实施例可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明实施例是参照根据本发明实施例的方法、终端设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理终端设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理终端设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理终端设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理终端设备上,使得在计算机或其他可编程终端设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程终端设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
尽管已描述了本发明实施例的优选实施例,但本领域内的技术人员一旦得知了基本创造性概念,则可对这些实施例做出另外的变更和修改。所以,所附权利要求意欲解释为包括优选实施例以及落入本发明实施例范围的所有变更和修改。
最后,还需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者终端设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者终端设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者终端设备中还存在另外的相同要素。
以上对本发明所提供的一种针对Redis数据库的内存数据持久化方法、一种针对Redis数据库的内存数据持恢复方法、一种针对Redis数据库的内存数据持久化装置和一种针对Redis数据库的内存数据持恢复装置,进行了详细介绍,本文中应用了具体个例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想;同时,对于本领域的一般技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本发明的限制。
Claims (10)
1.一种针对Redis数据库的内存数据持久化方法,其特征在于,所述Redis数据库包括位于磁盘的增量文件AOF和快照文件RDB,所述方法包括:
当有更新数据需要写入内存时,将所述更新数据对应的第一写入指令顺序添加至所述增量文件AOF中;
当所述增量文件AOF的大小大于或等于预设阈值时,将所述内存中已有的数据添加至所述快照文件RDB;
清空所述增量文件AOF。
2.根据权利要求1所述的方法,其特征在于,所述Redis数据库还包括位于所述磁盘的临时文件,所述将所述内存中已有的数据添加至所述快照文件RDB的步骤包括:
将所述内存中已有的数据写入所述临时文件;
采用所述临时文件覆盖所述快照文件RDB。
3.根据权利要求2所述的方法,其特征在于,所述将所述内存中已有的数据写入所述临时文件的步骤包括:
调用分叉函数fork创建子进程;
由所述子进程将所述内存中已有的数据写入所述临时文件。
4.一种针对Redis数据库的内存数据恢复方法,其特征在于,所述Redis数据库包括位于磁盘的增量文件AOF和快照文件RDB,所述快照文件RDB包括第一写入指令,所述第一写入指令按序排列,所述方法包括:
当有磁盘数据需要恢复至内存时,提取所述快照文件RDB中的数据,并将所提取的数据写入所述内存;
当所述快照文件RDB中的数据全部写入所述内存后,提取所述第一写入指令;
将所述第一写入指对应的数据恢复至所述内存。
5.根据权利要求4所述的方法,其特征在于,所述将所述第一写入指令对应的数据恢复至所述内存的步骤包括:
将所述第一写入指令写入所述内存;
在所述内存中顺序执行所述第一写入指令。
6.根据权利要求4所述的方法,其特征在于,所述将所述第一写入指令对应的数据恢复至所述内存的步骤包括:
获取所述第一写入指令中排序最后的第二写入指令;
将所述第二写入指令写入所述内存;
在所述内存中执行所述第二写入指令。
7.一种针对Redis数据库的内存数据持久化装置,其特征在于,所述Redis数据库包括位于磁盘的增量文件AOF和快照文件RDB,所述装置包括:
第一写入指令添加模块,用于当有更新数据需要写入内存时,将所述更新数据对应的第一写入指令顺序添加至所述增量文件AOF中;
内存数据添加模块,用于当所述增量文件AOF的大小大于或等于预设阈值时,将所述内存中已有的数据添加至所述快照文件RDB;
增量文件AOF清空模块,用于清空所述增量文件AOF。
8.一种针对Redis数据库的内存数据恢复装置,其特征在于,所述Redis数据库包括位于磁盘的增量文件AOF和快照文件RDB,所述快照文件RDB包括第一写入指令,所述第一写入指令按序排列,所述装置包括:
数据写入模块,用于当有磁盘数据需要恢复至内存时,提取所述快照文件RDB中的数据,并将所提取的数据写入所述内存;
第一写入指令提取模块,用于当所述快照文件RDB中的数据全部写入所述内存后,提取所述第一写入指令;
数据恢复模块,用于将所述第一写入指对应的数据恢复至所述内存。
9.根据权利要求8所述的装置,其特征在于,所述数据恢复模块包括:
第一写入指令写入子模块,用于将所述第一写入指令写入所述内存;
第一写入指令执行子模块,用于在所述内存中顺序执行所述第一写入指令。
10.根据权利要求8所述的装置,其特征在于,所述数据恢复模块包括:
第二写入指令获取子模块,用于获取所述第一写入指中排序最后的第二写入指令;
第二写入指令写入子模块,用于将所述第二写入指令写入所述内存;
第二写入指令执行子模块,用于在所述内存中执行所述第二写入指令。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510095590.5A CN105989160A (zh) | 2015-03-03 | 2015-03-03 | 一种针对Redis数据库的内存数据持久化方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510095590.5A CN105989160A (zh) | 2015-03-03 | 2015-03-03 | 一种针对Redis数据库的内存数据持久化方法和装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN105989160A true CN105989160A (zh) | 2016-10-05 |
Family
ID=57038323
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201510095590.5A Pending CN105989160A (zh) | 2015-03-03 | 2015-03-03 | 一种针对Redis数据库的内存数据持久化方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN105989160A (zh) |
Cited By (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108614876A (zh) * | 2018-04-26 | 2018-10-02 | 武汉斗鱼网络科技有限公司 | 一种基于Redis数据库的系统和数据处理方法 |
CN109426585A (zh) * | 2017-08-22 | 2019-03-05 | 阿里巴巴集团控股有限公司 | 一种备份、恢复数据库数据的方法和装置 |
CN110019049A (zh) * | 2017-09-30 | 2019-07-16 | 阿里巴巴集团控股有限公司 | 一种操作请求的处理方法及装置 |
CN111026764A (zh) * | 2019-12-13 | 2020-04-17 | 上海米哈游网络科技股份有限公司 | 一种数据存储方法、装置、电子产品及存储介质 |
CN111240801A (zh) * | 2020-01-06 | 2020-06-05 | 北京字节跳动网络技术有限公司 | 生成堆内存快照文件的方法、装置、介质和电子设备 |
CN111400290A (zh) * | 2020-02-24 | 2020-07-10 | 拉扎斯网络科技(上海)有限公司 | 数据结构异常检测方法及装置、存储介质、计算机设备 |
CN111638952A (zh) * | 2020-05-09 | 2020-09-08 | 北京达佳互联信息技术有限公司 | 一种内存转储方法、装置及电子设备 |
CN112579618A (zh) * | 2019-09-30 | 2021-03-30 | 奇安信安全技术(珠海)有限公司 | 特征库的升级方法、装置、存储介质及计算机设备 |
CN112685360A (zh) * | 2020-12-29 | 2021-04-20 | 平安普惠企业管理有限公司 | 内存数据的持久化方法及装置、存储介质、计算机设备 |
CN112925672A (zh) * | 2021-02-08 | 2021-06-08 | 重庆紫光华山智安科技有限公司 | 数据恢复方法、装置、设备及存储介质 |
CN113032349A (zh) * | 2019-12-25 | 2021-06-25 | 阿里巴巴集团控股有限公司 | 数据存储方法、装置、电子设备及计算机可读介质 |
CN113127557A (zh) * | 2019-12-31 | 2021-07-16 | 中国移动通信集团四川有限公司 | 基于redis性能的数据持久化方法、装置及电子设备 |
CN113590379A (zh) * | 2021-06-25 | 2021-11-02 | 国电南瑞科技股份有限公司 | Redis数据持久化方法及系统 |
CN111033471B (zh) * | 2017-06-30 | 2023-05-16 | 伊夫塔奇·舒尔曼 | 用于控制只追加文件的方法、系统以及介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102609337A (zh) * | 2012-01-19 | 2012-07-25 | 北京神州数码思特奇信息技术股份有限公司 | 一种内存数据库快速数据恢复方法 |
CN102722536A (zh) * | 2012-05-22 | 2012-10-10 | 中兴通讯股份有限公司 | 基于分布式文件系统的快照实现方法及装置 |
CN102880529A (zh) * | 2012-09-13 | 2013-01-16 | 新浪网技术(中国)有限公司 | 内存数据备份方法及内存数据备份系统 |
CN102902561A (zh) * | 2012-09-13 | 2013-01-30 | 新浪网技术(中国)有限公司 | 数据存储方法及数据存储系统 |
-
2015
- 2015-03-03 CN CN201510095590.5A patent/CN105989160A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102609337A (zh) * | 2012-01-19 | 2012-07-25 | 北京神州数码思特奇信息技术股份有限公司 | 一种内存数据库快速数据恢复方法 |
CN102722536A (zh) * | 2012-05-22 | 2012-10-10 | 中兴通讯股份有限公司 | 基于分布式文件系统的快照实现方法及装置 |
CN102722536B (zh) * | 2012-05-22 | 2015-06-03 | 中兴通讯股份有限公司 | 基于分布式文件系统的快照实现方法及装置 |
CN102880529A (zh) * | 2012-09-13 | 2013-01-16 | 新浪网技术(中国)有限公司 | 内存数据备份方法及内存数据备份系统 |
CN102902561A (zh) * | 2012-09-13 | 2013-01-30 | 新浪网技术(中国)有限公司 | 数据存储方法及数据存储系统 |
Non-Patent Citations (2)
Title |
---|
ANDYGUO: "《redis数据丢失及解决》", 《HTTPS://BLOG.CSDN.NET/GZH0222/ARTICLE/DETAILS/8482525》 * |
ZYZ511919766: "《Redis数据持久化》", 《HTTPS://BLOG.CSDN.NET/ZYZ511919766/ARTICLE/DETAILS/42423051 》 * |
Cited By (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111033471B (zh) * | 2017-06-30 | 2023-05-16 | 伊夫塔奇·舒尔曼 | 用于控制只追加文件的方法、系统以及介质 |
CN109426585A (zh) * | 2017-08-22 | 2019-03-05 | 阿里巴巴集团控股有限公司 | 一种备份、恢复数据库数据的方法和装置 |
CN110019049A (zh) * | 2017-09-30 | 2019-07-16 | 阿里巴巴集团控股有限公司 | 一种操作请求的处理方法及装置 |
CN108614876A (zh) * | 2018-04-26 | 2018-10-02 | 武汉斗鱼网络科技有限公司 | 一种基于Redis数据库的系统和数据处理方法 |
CN112579618A (zh) * | 2019-09-30 | 2021-03-30 | 奇安信安全技术(珠海)有限公司 | 特征库的升级方法、装置、存储介质及计算机设备 |
CN111026764B (zh) * | 2019-12-13 | 2023-08-11 | 上海米哈游网络科技股份有限公司 | 一种数据存储方法、装置、电子产品及存储介质 |
CN111026764A (zh) * | 2019-12-13 | 2020-04-17 | 上海米哈游网络科技股份有限公司 | 一种数据存储方法、装置、电子产品及存储介质 |
CN113032349A (zh) * | 2019-12-25 | 2021-06-25 | 阿里巴巴集团控股有限公司 | 数据存储方法、装置、电子设备及计算机可读介质 |
CN113127557B (zh) * | 2019-12-31 | 2022-12-13 | 中国移动通信集团四川有限公司 | 基于redis性能的数据持久化方法、装置及电子设备 |
CN113127557A (zh) * | 2019-12-31 | 2021-07-16 | 中国移动通信集团四川有限公司 | 基于redis性能的数据持久化方法、装置及电子设备 |
CN111240801A (zh) * | 2020-01-06 | 2020-06-05 | 北京字节跳动网络技术有限公司 | 生成堆内存快照文件的方法、装置、介质和电子设备 |
CN111400290A (zh) * | 2020-02-24 | 2020-07-10 | 拉扎斯网络科技(上海)有限公司 | 数据结构异常检测方法及装置、存储介质、计算机设备 |
CN111638952A (zh) * | 2020-05-09 | 2020-09-08 | 北京达佳互联信息技术有限公司 | 一种内存转储方法、装置及电子设备 |
CN112685360A (zh) * | 2020-12-29 | 2021-04-20 | 平安普惠企业管理有限公司 | 内存数据的持久化方法及装置、存储介质、计算机设备 |
CN112685360B (zh) * | 2020-12-29 | 2023-09-22 | 湖北华中电力科技开发有限责任公司 | 内存数据的持久化方法及装置、存储介质、计算机设备 |
CN112925672B (zh) * | 2021-02-08 | 2022-11-22 | 重庆紫光华山智安科技有限公司 | 数据恢复方法、装置、设备及存储介质 |
CN112925672A (zh) * | 2021-02-08 | 2021-06-08 | 重庆紫光华山智安科技有限公司 | 数据恢复方法、装置、设备及存储介质 |
CN113590379A (zh) * | 2021-06-25 | 2021-11-02 | 国电南瑞科技股份有限公司 | Redis数据持久化方法及系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105989160A (zh) | 一种针对Redis数据库的内存数据持久化方法和装置 | |
CN108536761B (zh) | 报表数据查询方法及服务器 | |
US10387426B2 (en) | Streaming microservices for stream processing applications | |
CN107544984B (zh) | 一种数据处理的方法和装置 | |
US11086850B2 (en) | Persisting of a low latency in-memory database | |
CN109284251A (zh) | 日志管理方法、装置、计算机设备以及存储介质 | |
CN106021031B (zh) | 一种btrfs文件系统的删除数据恢复方法和装置 | |
US11232071B2 (en) | Regressable differential data structures | |
CN107977396B (zh) | 一种KeyValue数据库的数据表的更新方法与表数据更新装置 | |
CN103246549B (zh) | 一种数据转存的方法及系统 | |
CN110347651A (zh) | 基于云存储的数据同步方法、装置、设备及存储介质 | |
CN110321383A (zh) | 大数据平台数据同步方法、装置、计算机设备及存储介质 | |
CN102750317A (zh) | 数据持久化处理方法、装置及数据库系统 | |
CN106155838B (zh) | 一种数据库备份数据恢复方法及装置 | |
CN107402870A (zh) | 一种元数据服务器中日志段的处理方法及装置 | |
CN109446262B (zh) | 一种数据汇聚方法及装置 | |
CN102937923B (zh) | 一种自动保存用户界面状态的方法 | |
US7415458B2 (en) | Computer systems and methods for operating a computer system | |
CN112860412B (zh) | 业务数据处理方法、装置、电子设备及存储介质 | |
CN110471977A (zh) | 一种数据交换方法、装置、设备、介质 | |
CN104166650B (zh) | 数据存储装置和数据存储方法 | |
CN109783571A (zh) | 隔离环境的数据处理方法、装置、计算机设备及存储介质 | |
CN106599113B (zh) | 用于网管系统海量性能数据的数据库读写方法 | |
CN110704468A (zh) | 数据更新方法、装置及控制器 | |
CN114631087A (zh) | 为基于云的数据库生成重做记录的方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20161005 |