CN102033930A - 分布式内存数据库系统 - Google Patents

分布式内存数据库系统 Download PDF

Info

Publication number
CN102033930A
CN102033930A CN2010105935905A CN201010593590A CN102033930A CN 102033930 A CN102033930 A CN 102033930A CN 2010105935905 A CN2010105935905 A CN 2010105935905A CN 201010593590 A CN201010593590 A CN 201010593590A CN 102033930 A CN102033930 A CN 102033930A
Authority
CN
China
Prior art keywords
database
data
node
server
memory
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN2010105935905A
Other languages
English (en)
Inventor
姚福源
于洪方
井卫军
蒋建平
刘旺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Century Broadband Internet Data Center Co., Ltd.
Original Assignee
BEIJING CLOUDEX SOFTWARE SERVICE Co Ltd
BEIJING BANYANO DATA CENTER SOLUTIONS Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by BEIJING CLOUDEX SOFTWARE SERVICE Co Ltd, BEIJING BANYANO DATA CENTER SOLUTIONS Ltd filed Critical BEIJING CLOUDEX SOFTWARE SERVICE Co Ltd
Priority to CN2010105935905A priority Critical patent/CN102033930A/zh
Publication of CN102033930A publication Critical patent/CN102033930A/zh
Pending legal-status Critical Current

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明提供了一种分布式内存数据库系统,由服务器及若干内存数据库节点构成;所述服务器包括配置中心及中心数据库;所述配置中心根据所输入数据生成关键数据,并将所生成的关键数据写入所述中心数据库;所述中心数据库包括数据库及事件列表;数据库用以存储由配置中心写入的关键数据;事件列表用以记录所述数据库的数据更新信息;所述内存数据库节点包括节点数据库及节点事件列表;节点数据库用以接收并存储由服务器传送来的关键数据;节点事件列表用以同步服务器端的事件列表。该系统的数据更新无需等待相应事件更新信息,可实现服务器与节点之间数据的实时同步更新,这大大提高了系统的数据传输效率。

Description

分布式内存数据库系统
技术领域
本发明涉及一种分布式内存数据库系统,该分布式内存数据库系统通过一种全新的结构设计,使得其相较于现有分布式内存数据库具有更快的查询速度、更高的并发量、更好的数据同步效果,且能有效的降低系统的构建成本,属于计算机技术领域。
背景技术
内存数据库是将数据放在内存中直接操作的数据库。相对于磁盘,内存的数据读写速度要高出几个数量级,将数据保存在内存中相比从磁盘上访问能够极大地提高应用的性能。同时,内存数据库抛弃了磁盘数据管理的传统方式,基于全部数据都在内存中重新设计了体系结构,并且在数据缓存、快速算法、并行操作方面也进行了相应的改进,所以数据处理速度比传统数据库的数据处理速度要快很多,一般都在10倍以上。
分布式数据库系统通常使用较小的计算机系统,每台计算机可单独放在一个地方,每台计算机中都有DBMS的一份完整拷贝副本,并具有自己局部的数据库,位于不同地点的许多计算机通过网络互相连接,共同组成一个完整的、全局的大型数据库。
将这二者相结合的分布式内存数据库系统是当今数据库技术发展的前沿。这种数据库结构具有数据处理速度快、系统可靠性高、数据传输及管理成本低、数据库可扩展性强等特点。
目前已有的相关技术为4个商业版分布式内存数据库,分别是:eXtremeDB、Oracle TimesTen、SolidDB和Altibase。
这些已有数据库的问题在于,一来其均为商业版数据库,用户使用成本较高;二来其还具有查询速度较慢、数据并发量低、数据同步效果不佳等问题。
因此,我们需要设计一种全新结构的分布式内存数据库结构,以解决上述问题。
发明内容
本发明的发明目的在于解决现有技术中存在的问题,提供一种全新结构的分布式内存数据库系统,使得其相较于现有分布式内存数据库具有更快的查询速度、更高的并发量、更好的数据同步效果,且能有效的降低系统的构建成本。
本发明的发明目的是通过下述技术方案予以实现的:
分布式内存数据库系统,其特征在于:由服务器及若干内存数据库节点构成;所述各个内存数据库节点分别与服务器相连;
所述服务器包括配置中心及中心数据库;所述配置中心用以输入数据,根据所输入数据生成关键数据,并将所生成的关键数据写入所述中心数据库;所述中心数据库包括数据库及事件列表;所述数据库用以存储由配置中心写入的关键数据;所述事件列表用以记录所述数据库的数据更新信息;
所述内存数据库节点包括节点数据库及节点事件列表;所述节点数据库与所述中心数据库的数据库相连,用以接收并存储由服务器传送来的关键数据;所述节点事件列表与所述中心数据库的事件列表相连,用以同步服务器端的事件列表。
在所述服务器中还设置有一个备份数据库;该备份数据库具有与所述中心数据库对等的数据库和事件列表;该备份数据库实时备份中心数据库中的数据。
在所述服务器中还设置有一个监控中心;该监控中心与所述中心数据库和所述内存数据库节点相连;该监控中心用以收集中心数据库及各个内存数据库节点的更新信息。
所述配置中心由逻辑运算模块及关键数据生成模块构成;所述逻辑运算模块用以对管理员输入的数据进行关系简化;所述关键数据生成模块用以对简化后的数据进行处理生成关键数据,并将关键数据写入所述中心数据库。
分布式内存数据库系统的数据加载控制方法,基于所述的分布式内存数据库系统实现,其特征在于:包括如下具体步骤:
1)管理员在配置中心输入数据;
2)配置中心根据输入数据生成关键数据,并将所生成的关键数据写入中心数据库的数据库,同时将该更新事件记录在中心数据库的事件列表中;
3)中心数据库的数据库将所更新的数据同步更新至各个内存数据库节点的节点数据库中;同时,中心数据库的事件列表将变更事件信息同步更新至各个内存数据库节点的节点事件列表中;
4)判断节点事件列表中是否收到此次变更完结记录;如果否,则继续等待新的数据更新;如果是,则执行步骤5);
5)根据节点事件列表中记录的数据变更记录读取节点数据库中相应的关键数据,并生成内存文件;
6)将步骤5)所生成的内存文件加载到节点的内存中。
本发明的有益效果是:该分布式内存数据库系统的数据更新无需等待相应事件更新信息,可实现服务器与节点之间数据的实时同步更新,这大大提高了系统的数据传输效率。
附图说明
图1为分布式内存数据库系统结构图;
图2为配置中心的结构图;
图3为分布式内存数据库系统加载数据控制流程图。
具体实施方式
下面结合附图和实施例对本发明作进一步描述。
图1为该分布式内存数据库系统结构图。如图所示,该分布式内存数据库由服务器及若干内存数据库节点构成。所述各个内存数据库节点分别与服务器相连。
所述服务器包括配置中心及中心数据库。所述配置中心用以输入数据,根据所输入数据生成关键数据,并将所生成的关键数据写入所述中心数据库。所述中心数据库包括数据库及事件列表。所述数据库用以存储由配置中心写入的关键数据。所述事件列表用以记录所述数据库中数据的变更事件。这里,所谓关键数据是供内存数据库节点查询的数据,该数据不与其他数据表相关联。配置中心将这种用于查询的关键数据从各种复杂的数据中提取出来。
所述内存数据库节点包括节点数据库及节点事件列表。所述节点数据库与服务器中心数据库的数据库相连,用以接收并存储由服务器传送来的关键数据。所述节点事件列表与服务器中心数据库的事件列表相连,用以同步服务器端的事件列表,并根据同步获得的事件信息对节点数据库中的数据进行操作。
该分布式内存数据库系统中,各个内存数据库节点中的节点数据库与节点事件列表,与服务器中的数据库与事件列表,分别独立进行主从式同步更新,其更新进程互不影响。只要服务器的中心数据库中有数据写入,就会马上同步到内存数据库节点上,而无需等待事件进程的同步更新或其他节点的更新进度。这样,一方面可以大大提高数据库的更新速度,另一方面也增大了该数据库的数据并发量,很好的解决了现有技术中所存在的问题。
另外,如图1所示,为了更好的提高系统数据的可靠性,我们在该系统的服务器端还设置有一个备份数据库。该备份数据库具有与中心数据库对等的数据库和事件列表。备份数据库实时备份中心数据库中的数据,以保证当中心数据库中的数据损坏时不会丢失数据。
再有,如图1所示,在该系统的服务器端还设置有一个监控中心。该监控中心与所述中心数据库中和内存数据库节点相连。该监控中心用以收集中心数据库及各个内存数据库节点的更新信息,以供管理员对整个数据库系统运行状态进行监控。
图2为配置中心的结构图。如图所示,所述配置中心由逻辑运算模块及关键数据生成模块构成。所述逻辑运算模块用以对管理员输入的数据进行关系简化。该模块可以将关系数据库里复杂的关联关系理清,生成较为简单的表结构。这样可以降低内存数据库节点的运算压力,有利于设计更好的内存数据库查询算法。关键数据生成模块用以对简化后的数据进行处理生成关键数据,并将关键数据写入所述中心数据库。
如前所述,本发明所设计的分布式内存数据库系统除了具有上述结构外,还应配以相适合的数据加载控制方法,使得服务器与各个节点之间数据库的更新与事件列表的更新相互独立进行,才能有效地实现该系统的设计意图。因此,这里我们进一步给出该内存数据库系统加载数据的控制方法。如图3所示,该分布式内存数据库系统的数据加载控制方法,包括如下具体步骤:
1)管理员在配置中心输入数据;
2)配置中心根据输入数据生成关键数据,并将所生成的关键数据写入中心数据库的数据库,同时将该更新事件记录在中心数据库的事件列表中;
3)中心数据库的数据库将所更新的数据同步更新至各个内存数据库节点的节点数据库中;同时,中心数据库的事件列表将变更事件信息同步更新至各个内存数据库节点的节点事件列表中;
4)判断节点事件列表中是否收到此次变更完结记录;如果否,则继续等待新的数据更新;如果是,则执行步骤5);
5)根据节点事件列表中记录的数据变更记录读取节点数据库中相应的关键数据,并生成内存文件;
6)将步骤5)所生成的内存文件加载到节点的内存中。
通过上述数据加载控制方法,本发明所设计的分布式内存数据库系统完成了更新数据由服务器端向各个节点的加载过程。其中值得注意的是,该系统中对于数据的同步更新总是先于相应事件列表的更新的,这有别于现有分布式内存数据库系统。通过该方法,该数据库系统的数据更新无需等待相应事件更新信息,可实现服务器与节点之间数据的实时同步更新,这大大提高了系统的数据传输效率。
综上所述,本发明所提供的分布式内存数据库系统通过全新的结构设计,可提供更快的查询速度、更高的数据并发量、更好的数据同步效果。本领域一般技术人员在此设计思想之下所做任何不具有创造性的改造,均应视为在本发明的保护范围之内。

Claims (5)

1.分布式内存数据库系统,其特征在于:由服务器及若干内存数据库节点构成;所述各个内存数据库节点分别与服务器相连;
所述服务器包括配置中心及中心数据库;所述配置中心用以输入数据,根据所输入数据生成关键数据,并将所生成的关键数据写入所述中心数据库;所述中心数据库包括数据库及事件列表;所述数据库用以存储由配置中心写入的关键数据;所述事件列表用以记录所述数据库的数据更新信息;
所述内存数据库节点包括节点数据库及节点事件列表;所述节点数据库与所述中心数据库的数据库相连,用以接收并存储由服务器传送来的关键数据;所述节点事件列表与所述中心数据库的事件列表相连,用以同步服务器端的事件列表。
2.如权利要求1所述的分布式内存数据库系统,其特征在于:在所述服务器中还设置有一个备份数据库;该备份数据库具有与所述中心数据库对等的数据库和事件列表;该备份数据库实时备份中心数据库中的数据。
3.如权利要求1所述的分布式内存数据库系统,其特征在于:在所述服务器中还设置有一个监控中心;该监控中心与所述中心数据库和所述内存数据库节点相连;该监控中心用以收集中心数据库及各个内存数据库节点的更新信息。
4.如权利要求1所述的分布式内存数据库系统,其特征在于:所述配置中心由逻辑运算模块及关键数据生成模块构成;所述逻辑运算模块用以对管理员输入的数据进行关系简化;所述关键数据生成模块用以对简化后的数据进行处理生成关键数据,并将关键数据写入所述中心数据库。
5.分布式内存数据库系统的数据加载控制方法,基于权利要求1所述的分布式内存数据库系统实现,其特征在于:包括如下具体步骤:
1)管理员在配置中心输入数据;
2)配置中心根据输入数据生成关键数据,并将所生成的关键数据写入中心数据库的数据库,同时将该更新事件记录在中心数据库的事件列表中;
3)中心数据库的数据库将所更新的数据同步更新至各个内存数据库节点的节点数据库中;同时,中心数据库的事件列表将变更事件信息同步更新至各个内存数据库节点的节点事件列表中;
4)判断节点事件列表中是否收到此次变更完结记录;如果否,则继续等待新的数据更新;如果是,则执行步骤5);
5)根据节点事件列表中记录的数据变更记录读取节点数据库中相应的关键数据,并生成内存文件;
6)将步骤5)所生成的内存文件加载到节点的内存中。
CN2010105935905A 2010-12-17 2010-12-17 分布式内存数据库系统 Pending CN102033930A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN2010105935905A CN102033930A (zh) 2010-12-17 2010-12-17 分布式内存数据库系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN2010105935905A CN102033930A (zh) 2010-12-17 2010-12-17 分布式内存数据库系统

Publications (1)

Publication Number Publication Date
CN102033930A true CN102033930A (zh) 2011-04-27

Family

ID=43886823

Family Applications (1)

Application Number Title Priority Date Filing Date
CN2010105935905A Pending CN102033930A (zh) 2010-12-17 2010-12-17 分布式内存数据库系统

Country Status (1)

Country Link
CN (1) CN102033930A (zh)

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102495745A (zh) * 2011-11-29 2012-06-13 中国航空工业集团公司第六三一研究所 航空电子系统分布式数据加载管理控制方法
CN102750371A (zh) * 2012-06-15 2012-10-24 中国电力科学研究院 面向电力系统的并行实时数据库系统及其数据管理方法
CN102915368A (zh) * 2012-10-29 2013-02-06 重庆亚德科技股份有限公司 一种基于云计算的知识服务装置
WO2014135011A1 (zh) * 2013-08-29 2014-09-12 中兴通讯股份有限公司 数据库系统以及数据同步方法
CN105975345A (zh) * 2016-05-20 2016-09-28 江苏得得空间信息科技有限公司 一种基于分布式内存的视频帧数据动态均衡存储管理方法
CN105989163A (zh) * 2015-03-04 2016-10-05 中国移动通信集团福建有限公司 数据实时处理方法及系统
CN106202437A (zh) * 2016-07-14 2016-12-07 上海超橙科技有限公司 一种数据管理方法和设备
CN107862097A (zh) * 2017-12-21 2018-03-30 上海新炬网络技术有限公司 一种基于TimesTen内存库的表数据智能清理方法
CN107908481A (zh) * 2017-10-17 2018-04-13 链家网(北京)科技有限公司 一种数据同步方法、装置和系统
CN107924362A (zh) * 2015-09-08 2018-04-17 株式会社东芝 数据库系统、服务器装置、程序及信息处理方法
CN108243209A (zh) * 2016-12-23 2018-07-03 深圳市优朋普乐传媒发展有限公司 一种数据同步方法及装置
CN112286898A (zh) * 2020-12-24 2021-01-29 长沙树根互联技术有限公司 基于分布式文件边缘节点的配置文件方法和装置

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1542652A (zh) * 2003-11-06 2004-11-03 北京四方继保自动化有限公司 全分布式的保护信息处理系统实时数据库的应用方法及其网络系统
CN1955957A (zh) * 2005-10-27 2007-05-02 北京航空航天大学 基于Web服务的数据库自动化操作方法
CN1992953A (zh) * 2005-12-30 2007-07-04 中兴通讯股份有限公司 一种分布式hlr内存数据库的实现方法
CN101379482A (zh) * 2005-04-12 2009-03-04 微软公司 指定应用程序用户界面的方法和系统
CN101493826A (zh) * 2008-12-23 2009-07-29 中兴通讯股份有限公司 基于web应用的数据库系统及其数据管理方法
CN101587476A (zh) * 2008-05-22 2009-11-25 中兴通讯股份有限公司 一种实现分布式存储的内存数据库系统及应用

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1542652A (zh) * 2003-11-06 2004-11-03 北京四方继保自动化有限公司 全分布式的保护信息处理系统实时数据库的应用方法及其网络系统
CN101379482A (zh) * 2005-04-12 2009-03-04 微软公司 指定应用程序用户界面的方法和系统
CN1955957A (zh) * 2005-10-27 2007-05-02 北京航空航天大学 基于Web服务的数据库自动化操作方法
CN1992953A (zh) * 2005-12-30 2007-07-04 中兴通讯股份有限公司 一种分布式hlr内存数据库的实现方法
CN101587476A (zh) * 2008-05-22 2009-11-25 中兴通讯股份有限公司 一种实现分布式存储的内存数据库系统及应用
CN101493826A (zh) * 2008-12-23 2009-07-29 中兴通讯股份有限公司 基于web应用的数据库系统及其数据管理方法

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102495745B (zh) * 2011-11-29 2014-01-01 中国航空工业集团公司第六三一研究所 航空电子系统分布式数据加载管理控制方法
CN102495745A (zh) * 2011-11-29 2012-06-13 中国航空工业集团公司第六三一研究所 航空电子系统分布式数据加载管理控制方法
CN102750371A (zh) * 2012-06-15 2012-10-24 中国电力科学研究院 面向电力系统的并行实时数据库系统及其数据管理方法
CN102915368A (zh) * 2012-10-29 2013-02-06 重庆亚德科技股份有限公司 一种基于云计算的知识服务装置
WO2014135011A1 (zh) * 2013-08-29 2014-09-12 中兴通讯股份有限公司 数据库系统以及数据同步方法
CN105989163A (zh) * 2015-03-04 2016-10-05 中国移动通信集团福建有限公司 数据实时处理方法及系统
CN107924362A (zh) * 2015-09-08 2018-04-17 株式会社东芝 数据库系统、服务器装置、程序及信息处理方法
CN107924362B (zh) * 2015-09-08 2022-02-15 株式会社东芝 数据库系统、服务器装置、计算机可读取的记录介质及信息处理方法
CN105975345B (zh) * 2016-05-20 2019-03-15 江苏得得空间信息科技有限公司 一种基于分布式内存的视频帧数据动态均衡存储管理方法
CN105975345A (zh) * 2016-05-20 2016-09-28 江苏得得空间信息科技有限公司 一种基于分布式内存的视频帧数据动态均衡存储管理方法
CN106202437A (zh) * 2016-07-14 2016-12-07 上海超橙科技有限公司 一种数据管理方法和设备
CN108243209A (zh) * 2016-12-23 2018-07-03 深圳市优朋普乐传媒发展有限公司 一种数据同步方法及装置
CN107908481A (zh) * 2017-10-17 2018-04-13 链家网(北京)科技有限公司 一种数据同步方法、装置和系统
CN107862097A (zh) * 2017-12-21 2018-03-30 上海新炬网络技术有限公司 一种基于TimesTen内存库的表数据智能清理方法
CN112286898A (zh) * 2020-12-24 2021-01-29 长沙树根互联技术有限公司 基于分布式文件边缘节点的配置文件方法和装置
CN112286898B (zh) * 2020-12-24 2021-03-23 长沙树根互联技术有限公司 基于分布式文件边缘节点的配置文件方法和装置

Similar Documents

Publication Publication Date Title
CN102033930A (zh) 分布式内存数据库系统
US11182404B2 (en) Data replication technique in database management system
US11010262B2 (en) Database system recovery using preliminary and final slave node replay positions
CN100583050C (zh) 基于时间戳日志存储的连续数据保护和恢复方法
CN102521269B (zh) 一种基于索引的计算机连续数据保护方法
JP6044539B2 (ja) 分散ストレージシステムおよび方法
CN102222085B (zh) 一种基于相似性与局部性结合的重复数据删除方法
CN103198159B (zh) 一种基于事务重做的异构集群多副本一致性维护方法
EP2474919B1 (en) System and method for data replication between heterogeneous databases
CN101699439B (zh) 一种数据库的事务提交方法和装置
CN101814045B (zh) 一种用于备份服务的数据组织方法
CN101286127B (zh) 一种多叉日志存储的连续数据保护和恢复方法
CN103106286B (zh) 元数据的管理方法和装置
CN104239443B (zh) 一种序列化数据操作日志的存储方法
CN110309233A (zh) 数据存储的方法、装置、服务器和存储介质
JP2010134522A (ja) データベース管理方法、データベース管理プログラム、および、データベース管理装置
CN103516549B (zh) 一种基于共享对象存储的文件系统元数据日志机制
US20110055151A1 (en) Processing Database Operation Requests
KR102119258B1 (ko) 데이터베이스 관리 시스템에서의 변경 데이터 캡쳐 구현 기법
CN102541691B (zh) 面向内存数据库oltp应用的日志检查点恢复方法
CN1523523B (zh) 分布复制命令的系统和方法
CN101794247A (zh) 嵌套事务模型下实时数据库故障恢复方法
US20100153346A1 (en) Data integrity in a database environment through background synchronization
CN102667720A (zh) 没有排序依赖的一致性
KR20200056357A (ko) 데이터베이스 관리 시스템에서의 변경 데이터 캡쳐 구현 기법

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
ASS Succession or assignment of patent right

Free format text: FORMER OWNER: BEIJING CLOUDEX SOFTWARE SERVICES CO., LTD.

Effective date: 20121022

Owner name: BEIJING CENTURY BROADBAND INTERNET DATA CENTER CO.

Free format text: FORMER OWNER: BEIJING BANYANO DATA CENTER SOLUTIONS LTD.

Effective date: 20121022

C41 Transfer of patent application or patent right or utility model
TA01 Transfer of patent application right

Effective date of registration: 20121022

Address after: 100015 No. 3, building 5, building 1, Jiuxianqiao East Road, Chaoyang District, Beijing

Applicant after: Beijing Century Broadband Internet Data Center Co., Ltd.

Address before: 100015 No. 3, building 5, building 1, Jiuxianqiao East Road, Chaoyang District, Beijing

Applicant before: Beijing BANYANO Data Center Solutions Ltd.

Applicant before: Beijing CloudEx Software Service Co., Ltd.

C12 Rejection of a patent application after its publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20110427