CN109299194A - 多版本数据存储管理方法及装置、电子设备、存储介质 - Google Patents
多版本数据存储管理方法及装置、电子设备、存储介质 Download PDFInfo
- Publication number
- CN109299194A CN109299194A CN201811116232.8A CN201811116232A CN109299194A CN 109299194 A CN109299194 A CN 109299194A CN 201811116232 A CN201811116232 A CN 201811116232A CN 109299194 A CN109299194 A CN 109299194A
- Authority
- CN
- China
- Prior art keywords
- data
- target data
- latest edition
- node
- write request
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000007726 management method Methods 0.000 title claims abstract description 22
- 238000000034 method Methods 0.000 claims abstract description 36
- 238000004590 computer program Methods 0.000 claims description 4
- 238000013500 data storage Methods 0.000 abstract description 9
- 238000012545 processing Methods 0.000 description 11
- 230000008901 benefit Effects 0.000 description 4
- 238000004891 communication Methods 0.000 description 4
- 238000001514 detection method Methods 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000005291 magnetic effect Effects 0.000 description 2
- 238000012423 maintenance Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 230000003044 adaptive effect Effects 0.000 description 1
- 210000004027 cell Anatomy 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000005611 electricity Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000004744 fabric Substances 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 239000000047 product Substances 0.000 description 1
- 230000003014 reinforcing effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 210000000352 storage cell Anatomy 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- 230000026676 system process Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
- G06F11/14—Error detection or correction of the data by redundancy in operation
- G06F11/1402—Saving, restoring, recovering or retrying
- G06F11/1446—Point-in-time backing up or restoration of persistent data
- G06F11/1458—Management of the backup or restore process
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Quality & Reliability (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开提供了一种基于分布式数据库的多版本数据存储管理方法,属于云技术领域。该方法应用于分布式数据库的路由节点,包括:接收向所述分布式数据库写入目标数据的数据写入请求;根据所述目标数据的索引在数据版本列表中查询所述目标数据的当前版本号,并将所述当前版本号增加预设计数值,以获得所述目标数据的最新版本号;根据所述最新版本号确定所述分布式数据库的一目标数据节点,将所述数据写入请求分配到所述目标数据节点;将所述数据版本列表中所述目标数据的当前版本号更新为所述最新版本号。本公开可以实现多版本数据的任一版本的数据回溯,并降低数据库的数据存储量,提高效率。
Description
技术领域
本公开涉及云技术领域,尤其涉及一种基于分布式数据库的多版本数据存储管理方法及装置、电子设备、计算机可读存储介质。
背景技术
随着大数据时代的来临,企业内存储的数据量增多、数据更新周期缩短,对于数据版本的管理越来越重要。基于有效的数据版本管理,可以实现数据回溯、提高系统的可靠性及运行效率等目的。
现有的多版本数据存储方法多数是将历史版本的数据通过文件的形式形成备份,每个备份文件对应于特定的备份时间节点。然而该方法每次备份时对整个数据列表或数据库完全备份,其中可能包括未更新的数据,从而增加了无用的数据备份量,并且对于两次备份之间的多版本数据难以完整回溯,增加了系统的风险。
需要说明的是,在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解,因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。
发明内容
本公开的目的在于提供一种基于分布式数据库的多版本数据存储管理方法及装置、电子设备、计算机可读存储介质,进而至少在一定程度上克服现有的多版本数据存储方法数据备份量大且难以实现完整的数据回溯的问题。
本公开的其他特性和优点将通过下面的详细描述变得显然,或部分地通过本公开的实践而习得。
根据本公开的一个方面,提供一种基于分布式数据库的多版本数据存储管理方法,应用于分布式数据库的路由节点,包括:接收向所述分布式数据库写入目标数据的数据写入请求;根据所述目标数据的索引在数据版本列表中查询所述目标数据的当前版本号,并将所述当前版本号增加预设计数值,以获得所述目标数据的最新版本号;根据所述最新版本号确定所述分布式数据库的一目标数据节点,将所述数据写入请求分配到所述目标数据节点;将所述数据版本列表中所述目标数据的当前版本号更新为所述最新版本号。
在本公开的一种示例性实施例中,还包括:在接收所述数据写入请求后,检测所述数据写入请求中是否包含指定版本号;如果检测所述数据写入请求中包含所述指定版本号,则将所述指定版本号确定为所述目标数据的最新版本号;如果检测所述数据写入请求中未包含所述指定版本号,则执行根据所述目标数据的索引在数据版本列表中查询所述目标数据的当前版本号的步骤。
在本公开的一种示例性实施例中,还包括:在获得所述目标数据的最新版本号后,检测所述最新版本号是否超过版本阈值;如果检测到所述最新版本号超过所述版本阈值,则将所述数据写入请求及所述最新版本号发送到所述分布式数据库的补充数据节点;如果检测到所述最新版本号未超过所述版本阈值,则执行根据所述最新版本号确定所述分布式数据库的一目标数据节点的步骤。
在本公开的一种示例性实施例中,还包括:根据接收所述数据写入请求的时间,为所述数据写入请求添加时间戳。
在本公开的一种示例性实施例中,所述根据所述最新版本号确定所述分布式数据库的一目标数据节点包括:在节点管理列表中查找所述最新版本号对应的数据节点,并将所述最新版本号对应的数据节点确定为所述目标数据节点。
在本公开的一种示例性实施例中,还包括:根据备份通知更新所述节点管理列表中的信息,其中,所述备份通知为数据节点备份数据时向所述路由节点发送的通知。
在本公开的一种示例性实施例中,所述目标数据的索引包括所述目标数据的主键索引或唯一索引。
根据本公开的一个方面,提供一种基于分布式数据库的多版本数据存储管理装置,应用于分布式数据库的路由节点,包括:请求接收单元,用于接收向所述分布式数据库写入目标数据的数据写入请求;版本确定单元,用于根据所述目标数据的索引在数据版本列表中查询所述目标数据的当前版本号,并将所述当前版本号增加预设计数值,以获得所述目标数据的最新版本号;请求分配单元,用于根据所述最新版本号确定所述分布式数据库的一目标数据节点,将所述数据写入请求分配到所述目标数据节点;版本更新单元,用于将所述数据版本列表中所述目标数据的当前版本号更新为所述最新版本号。
根据本公开的一个方面,提供一种电子设备,包括:处理器;以及存储器,用于存储所述处理器的可执行指令;其中,所述处理器配置为经由执行所述可执行指令来执行上述任意一项所述的方法。
根据本公开的一个方面,提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述任意一项所述的方法。
本公开的示例性实施例具有以下有益效果:
在本示例性实施例中,通过每个数据节点存储特定一个版本的数据,使得数据更新时,将更新的数据按照版本号依次写入各数据节点中,第一方面,可以通过多个数据节点中的数据组合,查询每个数据从最初版本到最新版本之间的任一版本数据,从而实现完整有效的数据回溯。第二方面,数据不更新时,后续的数据节点中相应的地址不写入数据,可以保留为空值,能够减少重复数据的存储量,提高系统的运行效率。第三方面,路由节点通过配置数据版本列表对数据版本进行管理,数据版本列表通常具有结构简单、数据量小、易于维护等优点,从而能够减轻路由节点管理数据存储、分配请求的压力,提供系统的响应速率。第四方面,每个数据节点存储一个版本的数据,能够保证数据在版本上的一致性,满足按照版本查询数据的需求。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。显而易见地,下面描述中的附图仅仅是本公开的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1示出本公开示例性实施例的一种多版本数据存储管理方法的运行环境的架构示意图;
图2示出本公开示例性实施例中一种多版本数据存储管理方法的流程图;
图3示出本公开示例性实施例中一种多版本数据存储管理方法的子流程图;
图4示出本公开示例性实施例中一种多版本数据存储管理装置的结构框图;
图5示出本公开示例性实施例中一种用于实现上述方法的电子设备;
图6示出本公开示例性实施例中一种用于实现方法的计算机可读存储介质。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的范例;相反,提供这些实施方式使得本公开将更加全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的属性、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。
本公开的示例性实施例首先提供了一种基于分布式数据库的多版本数据存储管理方法。其中,分布式数据库可以是基于Hadoop、MongoDB或Redis等架构的分布式数据库(三种架构都是常用的分布式数据库方案)。
图1示出了本示例性实施例的一种运行环境的架构示意图。如图1所示,分布式数据库100可以包括路由节点110与数据节点101、102、103。其中,路由节点110可以是服务器,用于将外部发来的数据写入请求分配至数据节点101、102、103;数据节点101、102、103可以是数据库或安装了数据库的服务器、终端计算机等,在接收由路由节点110分配的数据写入请求后,可以将数据存储在各自节点的数据库中。应当理解,数据节点的数量不限于图1所示的情况,根据实际需要,可以设置任意数量的数据节点,并且每个路由节点及数据节点可以设置相应的备用节点,以增加分布式数据库的容灾性能。
本示例性实施例中的多版本数据存储管理方法可以应用于图1所示分布式数据库100的路由节点110。
下面结合附图2做进一步说明。参考图2所示,所述方法可以包括以下步骤S21~S24:
步骤S21,接收向所述分布式数据库写入目标数据的数据写入请求。
数据写入请求由外部发来,分布式数据库中,可以由路由节点统一直接接收外部的请求或任务,并后续分配或转发到各数据节点。
步骤S22,根据所述目标数据的索引在数据版本列表中查询所述目标数据的当前版本号,并将所述当前版本号增加预设计数值,以获得所述目标数据的最新版本号。
其中,数据版本列表是由路由节点管理并维护的记录数据版本信息的列表。表1示出了一种数据版本列表的示例,表1中记录每个数据的索引与当前版本号的对应关系。
在一示例性实施例中,索引可以是主键索引或唯一索引,根据数据库类型的不同可以选择不同的索引方式。例如数据库为关系型数据库时,可以将数据的主属性值作为主键索引,也可以将数据编号等作为唯一索引;数据库为非关系型数据库时,可以将数据的key(键值名)作为唯一索引等,本实施例对此不做特别限定。
当前版本号是指已经存储的最新的数据版本号,在请求写入数据时,将产生更新版本的数据,则最新版本号可以是当前版本号加上预设计数值,预设计数值是指版本号的最小计数单位,与版本号的编排方式相关。例如按照表1中的版本号,预设计数值可以0.1,如果请求写入索引为“10001”的目标数据,当前版本号为0.2,则最新版本号为0.3;在其他方式编排的版本号中,预设计数值也可以是0.0.1、0.01、1等。
表1
步骤S23,根据所述最新版本号确定所述分布式数据库的一目标数据节点,将所述数据写入请求分配到所述目标数据节点。
本示例性实施例中,每个数据节点存储特定一个版本的数据,因此数据节点与数据的版本之间存在对应关系。表2、表3及表4示出了与表1相对应的各数据节点存储数据的列表,其中,数据节点01专门用于存储版本为0.1的数据,当其中某个数据更新时,更新后的数据版本为0.2,可以将其写入数据节点02中,没有更新的数据在数据节点02中相应的地址可以暂时为空值。
以请求写入索引为“10001”的目标数据为例,在步骤S22中确定了该目标数据的最新版本号为0.3,则可以进一步确定对应的目标数据节点为数据节点03。因此路由节点可以将数据写入请求分配至数据节点03,由数据节点03将目标数据存储到其索引对应的位置。可见,在写入数据时,按照数据的版本依次写入后续版本的数据节点中,而不会覆盖原有版本的数据。
需要说明的是,表2、表3及表4仅是示例,在实际应用中,数据节点存储数据的结构不限于表2、表3及表4所示的情况,例如可以在数据节点的数据库中不预留目标数据的地址,当有目标数据写入时,将其索引与数值一起写入,或者目标数据可以是包含多个属性数值的元组,在写入目标数据时以元组为单位进行写入等,本实施例对此不做特别限定。
表2
表3
表4
步骤S24,将所述数据版本列表中所述目标数据的当前版本号更新为所述最新版本号。
在完成目标数据的存储后,目标数据的当前版本号也发生了变化,在数据版本列表中将其更新为最新版本号,以便于下一次目标数据更新时,不会由于当前版本号的错误发生数据覆盖的情况。例如,将索引为“10001”的目标数据写入数据节点03(即表4)后,可以将表1中索引“10001”对应的当前版本号更新为0.3,则下次该目标数据更新时,可以根据版本号的记录将新的数据写入数据节点04,而不会覆盖之前数据节点上已存储的数据。
上述方法中,通过每个数据节点存储特定一个版本的数据,使得数据更新时,将更新的数据按照版本号依次写入各数据节点中,第一方面,可以通过多个数据节点中的数据组合,查询每个数据从最初版本到最新版本之间的任一版本数据,从而实现完整有效的数据回溯。第二方面,数据不更新时,后续的数据节点中相应的地址不写入数据,可以保留为空值,能够减少重复数据的存储量,提高系统的运行效率。第三方面,路由节点通过配置数据版本列表对数据版本进行管理,数据版本列表通常具有结构简单、数据量小、易于维护等优点,从而能够减轻路由节点管理数据存储、分配请求的压力,提供系统的响应速率。第四方面,每个数据节点存储一个版本的数据,能够保证数据在版本上的一致性,满足按照版本查询数据的需求。
在一示例性实施例中,参考图3所示,在接收数据写入请求后,可以检测数据写入请求中是否包含指定版本号;如果检测到数据写入请求中包含指定版本号,则可以将所述指定版本号确定为目标数据的最新版本号;如果检测到数据写入请求中未包含指定版本号,则可以执行步骤S22,即通过当前版本号加“1”的方式以确定最新版本号。在数据写入请求中指定数据的版本号,可以实现目标数据的跳版本写入,增加数据版本管理的灵活性。
在一示例性实施例中,参考上述图3所示,所述方法还可以包括:在获得目标数据的最新版本号后,检测最新版本号是否超过版本阈值;如果检测到最新版本号超过版本阈值,则可以将数据写入请求及最新版本号发送到分布式数据库的补充数据节点;如果检测到最新版本号未超过版本阈值,则可以执行步骤S23,将数据写入请求分配至目标数据节点。
由于在本实施例中,每个数据节点存储一个版本的数据,则数据的版本数量最多与数据节点的数量相等,从而一定程度上限制了数据的版本更新,因此可以通过在分布式数据库中设置补充数据节点以解决该问题。通常版本阈值由数据节点的数量确定,例如分布式数据库一共包含200个数据节点,则版本阈值可以是200、20.0、2.0.0等。补充数据节点是指在目标数据的版本超过版本阈值时,对目标数据进行补充存储的节点,补充数据节点的数据结构可以与其他数据节点不同,例如可以同时存储目标数据的索引、版本号及数值,也可以存储同一数据的多个版本的数据或其他相关信息等,本实施例对此不做特别限定。
在一示例性实施例中,所述方法还可以包括:根据接收所述数据写入请求的时间,为所述数据写入请求添加时间戳。目标数据节点从路由节点接收带有时间戳的数据写入请求,将该时间戳与目标数据一起储存到数据库中;在其他实施例中,也可以由数据节点在写入目标数据时添加时间戳。通过时间戳可以记录每个数据的每个版本的更新时间,在数据回溯时可以得到更加完整的信息。
为了便于管理各数据节点的数据版本信息,可以为路由节点配置节点管理列表,该列表中可以记录每个数据节点对应的数据版本号,数据节点可以用数据节点名表示,也可以用数据节点的IP地址(网络协议地址)等表示。基于该节点管理列表,在一示例性实施例中,所述根据所述最新版本号确定所述分布式数据库的一目标数据节点可以通过以下步骤实现:在节点管理列表中查找所述最新版本号对应的数据节点,并将所述最新版本号对应的数据节点确定为所述目标数据节点。
进一步的,当数据更新频繁时,产生较多的数据版本,为了避免数据节点不够用的情况,可以构建数据节点的版本更新机制。举例来说,表2中当所有数据都已写满时,说明所有数据都至少更新到了0.1版本,可以将所有0.1版本的数据生成一个备份文件,然后清空数据列表,将数据节点01的版本号变更为1.1(假设分布式数据库中一共有10个数据节点),新版本号可以等于旧版本号加版本阈值。从而增加了数据节点的可用性及整个分布式数据库的存储容量。
当然,数据节点的版本更新具体实现方法不限于上述举例的方式,也可以按照时间节点对数据节点的版本进行周期性更新,并对历史版本的数据进行周期性备份,还可以通过其他具体的方式实现,本实施例对此不做特别限定。
相应的,在数据节点备份数据及更新版本时,为了保证路由节点中版本信息的准确性,可以对节点管理列表进行更新及维护。在一示例性实施例中,所述方法还可以包括:根据备份通知更新所述节点管理列表中的信息,其中备份通知为数据节点备份数据时向路由节点发送的通知,可以包含新的版本号,使路由节点得到数据节点的最新版本信息,以保证系统处理数据写入请求的逻辑一致性。
本公开的示例性实施例还提供了一种基于分布式数据库的多版本数据存储管理装置,可以应用于分布式数据库的路由节点,参考图4所示,所述装置40可以包括:请求接收单元41,用于接收向所述分布式数据库写入目标数据的数据写入请求;版本确定单元42,用于根据所述目标数据的索引在数据版本列表中查询所述目标数据的当前版本号,并将所述当前版本号增加预设计数值,以获得所述目标数据的最新版本号;请求分配单元43,用于根据所述最新版本号确定所述分布式数据库的一目标数据节点,将所述数据写入请求分配到所述目标数据节点;版本更新单元44,用于将所述数据版本列表中所述目标数据的当前版本号更新为所述最新版本号。各单元的具体细节在方法部分的实施例中已经详细说明,因此不再赘述。
本公开的示例性实施例还提供了一种能够实现上述方法的电子设备。
所属技术领域的技术人员能够理解,本公开的各个方面可以实现为系统、方法或程序产品。因此,本公开的各个方面可以具体实现为以下形式,即:完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等),或硬件和软件方面结合的实施方式,这里可以统称为“电路”、“模块”或“系统”。
下面参照图5来描述根据本公开的这种示例性实施例的电子设备500。图5显示的电子设备500仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图5所示,电子设备500以通用计算设备的形式表现。电子设备500的组件可以包括但不限于:上述至少一个处理单元510、上述至少一个存储单元520、连接不同系统组件(包括存储单元520和处理单元510)的总线530、显示单元540。
其中,所述存储单元存储有程序代码,所述程序代码可以被所述处理单元510执行,使得所述处理单元510执行本说明书上述“示例性方法”部分中描述的根据本公开各种示例性实施方式的步骤。例如,所述处理单元510可以执行图2中所示的步骤S21至S24。
存储单元520可以包括易失性存储单元形式的可读介质,例如随机存取存储单元(RAM)521和/或高速缓存存储单元522,还可以进一步包括只读存储单元(ROM)523。
存储单元520还可以包括具有一组(至少一个)程序模块525的程序/实用工具524,这样的程序模块525包括但不限于:操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线530可以为表示几类总线结构中的一种或多种,包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
电子设备500也可以与一个或多个外部设备700(例如键盘、指向设备、蓝牙设备等)通信,还可与一个或者多个使得用户能与该电子设备500交互的设备通信,和/或与使得该电子设备500能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口550进行。并且,电子设备500还可以通过网络适配器560与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。如图所示,网络适配器560通过总线530与电子设备500的其它模块通信。应当明白,尽管图中未示出,可以结合电子设备500使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本公开实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、终端装置、或者网络设备等)执行根据本公开示例性实施例的方法。
本公开的示例性实施例还提供了一种计算机可读存储介质,其上存储有能够实现本说明书上述方法的程序产品。在一些可能的实施方式中,本公开的各个方面还可以实现为一种程序产品的形式,其包括程序代码,当所述程序产品在终端设备上运行时,所述程序代码用于使所述终端设备执行本说明书上述“示例性方法”部分中描述的根据本公开各种示例性实施方式的步骤。
参考图6所示,描述了根据本公开的示例性实施例的用于实现上述方法的程序产品600,其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码,并可以在终端设备,例如个人电脑上运行。然而,本公开的程序产品不限于此,在本文件中,可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
所述程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、有线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本公开操作的程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、C++等,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
此外,上述附图仅是根据本公开示例性实施例的方法所包括的处理的示意性说明,而不是限制目的。易于理解,上述附图所示的处理并不表明或限制这些处理的时间顺序。另外,也易于理解,这些处理可以是例如在多个模块中同步或异步执行的。
应当注意,尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本公开的示例性实施例,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本公开的其他实施例。本申请旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由权利要求指出。
应当理解的是,本公开并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限。
Claims (10)
1.一种基于分布式数据库的多版本数据存储管理方法,应用于分布式数据库的路由节点,其特征在于,包括:
接收向所述分布式数据库写入目标数据的数据写入请求;
根据所述目标数据的索引在数据版本列表中查询所述目标数据的当前版本号,并将所述当前版本号增加预设计数值,以获得所述目标数据的最新版本号;
根据所述最新版本号确定所述分布式数据库的一目标数据节点,将所述数据写入请求分配到所述目标数据节点;
将所述数据版本列表中所述目标数据的当前版本号更新为所述最新版本号。
2.根据权利要求1所述的方法,其特征在于,还包括:
在接收所述数据写入请求后,检测所述数据写入请求中是否包含指定版本号;
如果检测到所述数据写入请求中包含所述指定版本号,则将所述指定版本号确定为所述目标数据的最新版本号;
如果检测到所述数据写入请求中未包含所述指定版本号,则执行根据所述目标数据的索引在数据版本列表中查询所述目标数据的当前版本号的步骤。
3.根据权利要求1所述的方法,其特征在于,还包括:
在获得所述目标数据的最新版本号后,检测所述最新版本号是否超过版本阈值;
如果检测到所述最新版本号超过所述版本阈值,则将所述数据写入请求及所述最新版本号发送到所述分布式数据库的补充数据节点;
如果检测到所述最新版本号未超过所述版本阈值,则执行根据所述最新版本号确定所述分布式数据库的一目标数据节点的步骤。
4.根据权利要求1所述的方法,其特征在于,还包括:
根据接收所述数据写入请求的时间,为所述数据写入请求添加时间戳。
5.根据权利要求1所述的方法,其特征在于,所述根据所述最新版本号确定所述分布式数据库的一目标数据节点包括:
在节点管理列表中查找所述最新版本号对应的数据节点,并将所述最新版本号对应的数据节点确定为所述目标数据节点。
6.根据权利要求5所述的方法,其特征在于,还包括:
根据备份通知更新所述节点管理列表中的信息,其中,所述备份通知为数据节点备份数据时向所述路由节点发送的通知。
7.根据权利要求1所述的方法,其特征在于,所述目标数据的索引包括所述目标数据的主键索引或唯一索引。
8.一种基于分布式数据库的多版本数据存储管理装置,应用于分布式数据库的路由节点,其特征在于,包括:
请求接收单元,用于接收向所述分布式数据库写入目标数据的数据写入请求;
版本确定单元,用于根据所述目标数据的索引在数据版本列表中查询所述目标数据的当前版本号,并将所述当前版本号增加预设计数值,以获得所述目标数据的最新版本号;
请求分配单元,用于根据所述最新版本号确定所述分布式数据库的一目标数据节点,将所述数据写入请求分配到所述目标数据节点;
版本更新单元,用于将所述数据版本列表中所述目标数据的当前版本号更新为所述最新版本号。
9.一种电子设备,其特征在于,包括:
处理器;以及
存储器,用于存储所述处理器的可执行指令;
其中,所述处理器配置为经由执行所述可执行指令来执行权利要求1-7任一项所述的方法。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1-7任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811116232.8A CN109299194A (zh) | 2018-09-25 | 2018-09-25 | 多版本数据存储管理方法及装置、电子设备、存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811116232.8A CN109299194A (zh) | 2018-09-25 | 2018-09-25 | 多版本数据存储管理方法及装置、电子设备、存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN109299194A true CN109299194A (zh) | 2019-02-01 |
Family
ID=65164233
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811116232.8A Pending CN109299194A (zh) | 2018-09-25 | 2018-09-25 | 多版本数据存储管理方法及装置、电子设备、存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109299194A (zh) |
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110069222A (zh) * | 2019-04-30 | 2019-07-30 | 北京百度网讯科技有限公司 | 应用数据迁移方法、装置、新存储系统及介质 |
CN111638904A (zh) * | 2020-05-11 | 2020-09-08 | 贝壳技术有限公司 | 一种数据配置的还原方法、装置以及可读存储介质 |
CN111651424A (zh) * | 2020-06-10 | 2020-09-11 | 中国科学院深圳先进技术研究院 | 一种数据处理方法、装置、数据节点及存储介质 |
WO2020228449A1 (zh) * | 2019-05-16 | 2020-11-19 | 华为技术有限公司 | 一种节点选择方法和装置 |
CN112306995A (zh) * | 2020-11-11 | 2021-02-02 | 支付宝(杭州)信息技术有限公司 | 一种数据库操作的实现方法及装置 |
CN112395437A (zh) * | 2019-08-16 | 2021-02-23 | 北京百度网讯科技有限公司 | 一种3d模型的加载方法、装置、电子设备及存储介质 |
CN112597123A (zh) * | 2020-11-20 | 2021-04-02 | 贝壳技术有限公司 | 数据多版本动态切换方法及装置 |
CN112699122A (zh) * | 2020-12-29 | 2021-04-23 | 浙江中控技术股份有限公司 | 一种分布式情况下位号组态数据同步处理的方法和系统 |
CN113377402A (zh) * | 2021-06-23 | 2021-09-10 | 北京百度网讯科技有限公司 | 多版本并发存储方法和装置 |
CN114077639A (zh) * | 2020-08-20 | 2022-02-22 | 北京字节跳动网络技术有限公司 | 数据写入方法、装置、电子设备和存储介质 |
CN114297196A (zh) * | 2021-12-24 | 2022-04-08 | 北京字节跳动网络技术有限公司 | 元数据存储方法、装置、电子设备及存储介质 |
CN115344585A (zh) * | 2022-08-03 | 2022-11-15 | 盐城金堤科技有限公司 | 数据版本管理方法、装置以及存储介质和电子设备 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20050267951A1 (en) * | 2004-05-17 | 2005-12-01 | Oracle International Corporation | Rolling upgrade of distributed software with automatic completion |
CN104866508A (zh) * | 2014-02-26 | 2015-08-26 | 中国电信股份有限公司 | 在云环境下管理文件的方法与装置 |
CN106484906A (zh) * | 2016-10-21 | 2017-03-08 | 焦点科技股份有限公司 | 一种分布式对象存储系统闪回方法及装置 |
CN107085603A (zh) * | 2017-03-31 | 2017-08-22 | 北京奇艺世纪科技有限公司 | 一种数据处理方法及装置 |
CN107526777A (zh) * | 2017-07-21 | 2017-12-29 | 阿里巴巴集团控股有限公司 | 一种基于版本号对文件进行处理的方法及设备 |
-
2018
- 2018-09-25 CN CN201811116232.8A patent/CN109299194A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20050267951A1 (en) * | 2004-05-17 | 2005-12-01 | Oracle International Corporation | Rolling upgrade of distributed software with automatic completion |
CN104866508A (zh) * | 2014-02-26 | 2015-08-26 | 中国电信股份有限公司 | 在云环境下管理文件的方法与装置 |
CN106484906A (zh) * | 2016-10-21 | 2017-03-08 | 焦点科技股份有限公司 | 一种分布式对象存储系统闪回方法及装置 |
CN107085603A (zh) * | 2017-03-31 | 2017-08-22 | 北京奇艺世纪科技有限公司 | 一种数据处理方法及装置 |
CN107526777A (zh) * | 2017-07-21 | 2017-12-29 | 阿里巴巴集团控股有限公司 | 一种基于版本号对文件进行处理的方法及设备 |
Cited By (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110069222A (zh) * | 2019-04-30 | 2019-07-30 | 北京百度网讯科技有限公司 | 应用数据迁移方法、装置、新存储系统及介质 |
WO2020228449A1 (zh) * | 2019-05-16 | 2020-11-19 | 华为技术有限公司 | 一种节点选择方法和装置 |
US11861341B2 (en) | 2019-05-16 | 2024-01-02 | Huawei Technologies Co., Ltd. | Node selection method and apparatus |
CN112395437A (zh) * | 2019-08-16 | 2021-02-23 | 北京百度网讯科技有限公司 | 一种3d模型的加载方法、装置、电子设备及存储介质 |
CN112395437B (zh) * | 2019-08-16 | 2024-04-30 | 北京百度网讯科技有限公司 | 一种3d模型的加载方法、装置、电子设备及存储介质 |
CN111638904A (zh) * | 2020-05-11 | 2020-09-08 | 贝壳技术有限公司 | 一种数据配置的还原方法、装置以及可读存储介质 |
CN111638904B (zh) * | 2020-05-11 | 2023-12-22 | 贝壳技术有限公司 | 一种数据配置的还原方法、装置以及可读存储介质 |
CN111651424A (zh) * | 2020-06-10 | 2020-09-11 | 中国科学院深圳先进技术研究院 | 一种数据处理方法、装置、数据节点及存储介质 |
CN111651424B (zh) * | 2020-06-10 | 2024-05-03 | 中国科学院深圳先进技术研究院 | 一种数据处理方法、装置、数据节点及存储介质 |
CN114077639A (zh) * | 2020-08-20 | 2022-02-22 | 北京字节跳动网络技术有限公司 | 数据写入方法、装置、电子设备和存储介质 |
CN112306995B (zh) * | 2020-11-11 | 2023-06-27 | 北京奥星贝斯科技有限公司 | 一种数据库操作的实现方法及装置 |
CN112306995A (zh) * | 2020-11-11 | 2021-02-02 | 支付宝(杭州)信息技术有限公司 | 一种数据库操作的实现方法及装置 |
CN112597123A (zh) * | 2020-11-20 | 2021-04-02 | 贝壳技术有限公司 | 数据多版本动态切换方法及装置 |
CN112699122A (zh) * | 2020-12-29 | 2021-04-23 | 浙江中控技术股份有限公司 | 一种分布式情况下位号组态数据同步处理的方法和系统 |
CN113377402A (zh) * | 2021-06-23 | 2021-09-10 | 北京百度网讯科技有限公司 | 多版本并发存储方法和装置 |
CN114297196A (zh) * | 2021-12-24 | 2022-04-08 | 北京字节跳动网络技术有限公司 | 元数据存储方法、装置、电子设备及存储介质 |
CN114297196B (zh) * | 2021-12-24 | 2024-05-28 | 北京火山引擎科技有限公司 | 元数据存储方法、装置、电子设备及存储介质 |
CN115344585A (zh) * | 2022-08-03 | 2022-11-15 | 盐城金堤科技有限公司 | 数据版本管理方法、装置以及存储介质和电子设备 |
CN115344585B (zh) * | 2022-08-03 | 2024-03-19 | 盐城天眼察微科技有限公司 | 数据版本管理方法、装置以及存储介质和电子设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109299194A (zh) | 多版本数据存储管理方法及装置、电子设备、存储介质 | |
US20190324666A1 (en) | Data storage system | |
US10715460B2 (en) | Opportunistic resource migration to optimize resource placement | |
US11290360B2 (en) | Analyzing resource placement fragmentation for capacity planning | |
US10057187B1 (en) | Dynamic resource creation to connect client resources in a distributed system | |
US20200117399A1 (en) | Data storage system with multi-tier control plane | |
CN105808634A (zh) | 分布式映射化简网络 | |
CN109726174A (zh) | 数据归档方法、系统、设备以及存储介质 | |
US20190278659A1 (en) | Enhanced application write performance | |
US11182096B1 (en) | Data storage system with configurable durability | |
US10154091B1 (en) | Deploying infrastructure units according to resource hosting constraints | |
US10649811B2 (en) | Sunder management for a cluster of disperse nodes | |
CN103765817A (zh) | 从源服务器向目标服务器复制数据对象 | |
CN105229591A (zh) | 为了存储管理而创建全局聚合命名空间 | |
CN109710615A (zh) | 数据库的访问管理方法、系统、电子设备和存储介质 | |
CN112005219B (zh) | 计算集群中具有数据访问意识的工作负载管理的方法和系统 | |
US20190324821A1 (en) | Method, device and computer program product for managing dedicated processing resources | |
US20160292186A1 (en) | Dynamically maintaining data structures driven by heterogeneous clients in a distributed data collection system | |
CN108170832B (zh) | 一种面向工业大数据的异构数据库的监控系统及监控方法 | |
CN110309108A (zh) | 数据采集及储存方法、装置、电子设备、存储介质 | |
US20210240560A1 (en) | Block-storage service supporting multi-attach and health check failover mechanism | |
CN110019257A (zh) | 主备数据库延迟时间处理方法、装置、介质和电子设备 | |
US20200220910A1 (en) | Idempotent processing of data streams | |
US10019182B2 (en) | Management system and management method of computer system | |
CN108667660A (zh) | 路由管理和业务路由的方法和装置及路由系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |