CN102820998B - 实现面向办公应用的双机容错服务系统及其数据存储方法 - Google Patents
实现面向办公应用的双机容错服务系统及其数据存储方法 Download PDFInfo
- Publication number
- CN102820998B CN102820998B CN201210306406.3A CN201210306406A CN102820998B CN 102820998 B CN102820998 B CN 102820998B CN 201210306406 A CN201210306406 A CN 201210306406A CN 102820998 B CN102820998 B CN 102820998B
- Authority
- CN
- China
- Prior art keywords
- server
- data
- storage
- meta data
- client
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Abstract
本发明公开一种实现面向办公应用的双机容错服务系统及其数据存储方法,其特征在于所述系统包括两台同步的元数据服务器和X台存储服务器,X为自然数,元数据服务器是整个系统的中心服务器,每台存储服务器是元数据服务器的一个存储空间,元数据服务器负责存储元数据、管理文件系统目录、管理存储服务器、进行负载均衡、提供FTP服务和邮箱服务,存储服务器负责存储文件数据、接受元数据服务器调度、负责与客户端进行数据交互。数据存储过程以元数据服务器为中心进行。本发明系统及方法实现了数据存储过程中控制流与数据流的分离,元数据服务器兼做FTP服务器和邮箱服务器,企业可轻松实现办公应用集成化。
Description
技术领域
本发明涉及计算机应用系统领域,具体涉及一种面向办公应用的服务系统及其数据存储方法。
背景技术
传统的办公应用的存储一般是以传统的普通硬盘为存储媒介,这种数据存储方法成本高,且数据丢失不易找回,且对大量的数据的管理较为麻烦。在这种传统的数据存储模式下,邮箱、FTP等服务通常是使用不同的服务器,会造成价格、空间上的浪费。现有的面向办公应用的服务器模式普遍存在比如应用集成不够全面,磁盘容量不够大,价格过高等问题。
发明内容
本发明的目的在于提供一种实现面向办公应用的双机容错服务系统及其数据存储方法,解决传统的办公应用中各种服务不集中造成管理繁琐,以及购置成本高带来的资源浪费等问题,使企业能够实现存储、邮箱、以及FTP服务统一集成,方便企业管理,降低企业成本。
为实现上述发明目的,本发明具体采用如下技术方案:
一种实现面向办公应用的双机容错服务系统,其特征在于包括两台同步的元数据服务器和X台存储服务器,X为自然数,元数据服务器是整个系统的中心服务器,每台存储服务器是元数据服务器的一个存储空间,元数据服务器负责存储元数据、管理文件系统目录、管理存储服务器、进行负载均衡、提供FTP服务和邮箱服务,存储服务器负责存储文件数据、接受元数据服务器调度、负责与客户端进行数据交互。
本发明系统的数据存储方法是:数据存储过程以元数据服务器为中心,客户端发起的数据读写操作都先通过元数据服务器找到目标存储服务器,然后由客户端和目标存储服务器直接进行数据交互。
本发明的实现面向办公应用的双机容错服务系统及其数据存储方法采用以元数据服务器为中心服务器的模式,实现了数据存储过程中控制流与数据流的分离,一方面降低了元数据服务器的负担,使得其处理能力更强,另一方面将数据读写的负担分担到存储服务器,使得系统的整体性能得到了提高。元数据服务器同时提供FTP服务和邮箱服务,兼做FTP服务器和邮箱服务器,实现了企业存储、邮箱、以及FTP服务统一集成,成本低,易管理,维护方便。
本发明采用双机容错机制,采用两台同步的元数据服务器,在一台元数据服务器宕机以后,备用的元数据服务器能无缝接管工作,有效地保证了数据的可靠性。
本发明的元数据服务器与存储服务器均可采用现有技术中的通用硬件设备,其存储模式具有通用性。
附图说明
图1是本发明双机容错服务系统实施例一的架构图。
图2是本发明双机容错服务系统实施例二的架构图。
图3是本发明双机容错服务系统实施例三的架构图。
图4是客户端写数据流程。
图5是客户端读数据流程。
具体实施方式
下面结合附图对本发明的技术方案进行详细说明:
实施例一
图1提供了本发明双机容错服务系统的一种实施例。如图所示,系统由两台元数据服务器和n台(n为正整数)存储服务器构成。元数据服务器是整个系统的中心服务器,每一台存储服务器都是元数据服务器的一个存储空间,元数据服务器是子存储空间的大脑,负责存储元数据,管理文件系统目录,管理存储服务器,进行负载均衡、提供FTP服务和邮箱服务等。存储服务器用于存储文件数据,接受元数据服务器调度,负责与客户端进行数据交互。存储服务器与元数据服务器通过消息传递方式进行通讯。
为了给系统的使用提供更加安全可靠的保证,本发明采用双机热备方式,设置了两台元数据服务器,一台主元数据服务器,一台备用元数据服务器。在主元数据服务器宕机以后,备用元数据服务器能无缝接管工作,不会造成数据丢失,对外服务也不会停止,不影响用户的访问。主、备元数据服务器之间通过心跳检测程序及同步日志文件来实现同步,在主元数据服务器宕机后,备用元数据服务器会检测到主元数据服务器的状态,执行使备机对外提供服务的脚本,再通过备份文件保证数据不丢失。这种双机容错机制可以有效地保证数据的可靠性。
存储服务器中的单点故障问题是通过数据的冗余备份来实现的,当单个存储服务器宕机后,元数据服务器会检测到其状态,将其中的数据重新备份到其他存储服务器上,数据无影响。
在本发明的数据存储模式下,元数据服务器管理了分布式文件系统中的所有元数据。文件划分数据块(chunk)进行存储,对于元数据服务器来说,每台存储服务器只是一个存储空间。客户端发起的所有操作都需要先通过元数据服务器才能执行。这种模式实现了数据存储过程中控制流与数据流的分离,一方面降低了元数据服务器的负担,使得其处理能力更强,另一方面将数据读写的负担分担到存储服务器,使得系统的整体性能得到了提高。
实施例二
图2提供了本发明双机容错服务系统的另一种实施例。如图所示,在具体的办公应用系统中,在数据量不是特别大的情况下,为提高系统资源利用率,元数据服务器可以兼做存储服务器,此时系统中存储服务器数目X=0。此时系统由主元数据服务器和备用元数据服务器组成。
实施例三
如图3所示,以元数据服务器同时兼做存储服务器、FTP服务器和邮箱服务器,构成云节点服务器,除了提供存储服务外,还实现了各种办公应用的集成,使之成为面向办公应用的一体化系统。应用集成服务器作为Windows应用的集成服务器提供如高效OA办公自动化平台,精准CRM客户关系管理、Office等功能,数据存放在由两台云服务节点构成的存储系统中。云节点服务器1和2中的Master和Chunk服务为存储所需的配置服务,Master对应于元数据管理,Chunk对应于数据存储。云服务节点1和2之间的HA及LVS 为两台服务器之间的配置项,LVS为负载均衡配置,HA为高可用配置(两节点的双机切换,保证数据的安全完整性)
为了有效地保证数据的可靠性,本双机容错服务系统采用双机热备的2+X型配置(2台元数据服务器,X台存储服务器,X为自然数),元数据服务器可兼做存储服务器。
本发明双机容错服务系统的数据存储过程以元数据服务器为中心,客户端发起的数据读写操作都先通过元数据服务器找到目标存储服务器,然后由客户端和目标存储服务器直接进行数据交互。
客户端写数据的流程如图4所示,包括以下步骤:
1) 客户端向元数据服务器发起数据写请求;
2) 元数据服务器根据其管理的存储服务器的工作和使用情况,根据负载均衡的原理,在相关存储服务器上创建一些新的数据块;
3) 相关存储服务器创建成功,将结果返回给元数据服务器;
4) 元数据服务器一方面记录和备份此元数据信息,另一方面将相关存储服务器信息返回给客户端;
5) 客户端根据得到的存储服务器信息,向对应存储服务器发出数据写请求,并向存储服务器发送数据;
6) 存储服务器接收数据并存储到相应数据块,同时也向其他存储服务器发起备份;
7) 当本地写以及备份均成功后,存储服务器将成功信息返回给客户端,并再次与元数据服务器交互,由元数据服务器记录和备份相关元数据信息;
8) 客户端收到成功信号后,即完成数据的存储。
客户端读数据的流程如图5所示,包括以下步骤:
1)客户端向元数据服务器发起读数据请求
2)元数据服务器根据其元数据信息及各存储服务器负载情况,将所读数据的位置信息返回给客户端
3)客户端直接与存储服务器交互读取所需数据。
本发明提供的双机容错服务系统具有数据安全可靠,高性能,维护简单,高可用,高密度,低功耗等诸多优势。其中,元数据服务器与存储服务器均可采用普通的刀片服务器实现,为现有技术中的通用硬件设备。本系统具有通用性,支持POSIX(可移植操作系统)接口,外部应用及客户端(如普通pc机,接入系统的摄像头等)只需通过网络设备接入本系统,即可对其提供服务。
依托于本发明的数据存储模式,元数据服务器兼做FTP服务器和邮箱服务器,企业可轻松实现办公应用集成化。
1、FTP服务
FTP服务能实现文件共享、文件归档、可靠和高效的传输数据等功能。依托本发明的数据存储模式,用存储服务器同时作为FTP服务器,一改之前传统的专门设置一FTP服务器模式,可在提高访问性能的同时节省企业成本。
2、企业邮箱服务
可以在本系统上轻松搭建企业的邮箱平台,可自行管理、自由分配、命名的邮箱功能更多,空间容量更大,大大提高企业邮箱的稳定高效性,反垃圾反病毒性能更强。同样,基于本服务系统的邮箱服务同样采用双机备份来保证数据的可靠性。
Claims (1)
1.一种实现面向办公应用的双机容错服务系统的数据存储方法,其特征在于所述双机容错服务系统包括两台同步的元数据服务器和X台存储服务器,X为自然数,元数据服务器是整个系统的中心服务器,每台存储服务器是元数据服务器的一个存储空间,元数据服务器负责存储元数据、管理文件系统目录、管理存储服务器、进行负载均衡、提供FTP服务和邮箱服务,存储服务器负责存储文件数据、接受元数据服务器调度、负责与客户端进行数据交互,所述元数据服务器兼做存储服务器,数据存储过程以元数据服务器为中心,客户端发起的数据读写操作都先通过元数据服务器找到目标存储服务器,然后由客户端和目标存储服务器直接进行数据交互;
客户端写数据的过程是:
1)客户端向元数据服务器发起数据写请求;
2)元数据服务器根据其管理的存储服务器的工作和使用情况,根据负载均衡的原理,在相关存储服务器上创建一些新的数据块;
3)相关存储服务器创建成功,将结果返回给元数据服务器;
4)元数据服务器一方面记录和备份此元数据信息,另一方面将相关存储服务器信息返回给客户端;
5)客户端根据得到的存储服务器信息,向对应存储服务器发出数据写请求,并向存储服务器发送数据;
6)存储服务器接收数据并存储到相应数据块,同时也向其他存储服务器发起备份;
7)当本地写以及备份均成功后,存储服务器将成功信息返回给客户端,并再次与元数据服务器交互,由元数据服务器记录和备份相关元数据信息;
8)客户端收到成功信号后,即完成数据的存储;
客户端读数据的过程是:
1)客户端向元数据服务器发起读数据请求;
2)元数据服务器根据其元数据信息及各存储服务器负载情况,将所读数据的位置信息返回给客户端;
3)客户端直接与存储服务器交互读取所需数据。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201210306406.3A CN102820998B (zh) | 2012-08-27 | 2012-08-27 | 实现面向办公应用的双机容错服务系统及其数据存储方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201210306406.3A CN102820998B (zh) | 2012-08-27 | 2012-08-27 | 实现面向办公应用的双机容错服务系统及其数据存储方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN102820998A CN102820998A (zh) | 2012-12-12 |
CN102820998B true CN102820998B (zh) | 2015-09-23 |
Family
ID=47304869
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201210306406.3A Active CN102820998B (zh) | 2012-08-27 | 2012-08-27 | 实现面向办公应用的双机容错服务系统及其数据存储方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN102820998B (zh) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103167026B (zh) * | 2013-02-06 | 2016-05-18 | 数码辰星科技发展(北京)有限公司 | 一种云存储环境数据处理方法、系统及设备 |
CN104702634B (zh) * | 2013-12-04 | 2018-10-02 | 腾讯科技(深圳)有限公司 | 数据操作请求处理方法、装置及系统 |
CN107026876B (zh) * | 2016-01-29 | 2019-07-19 | 杭州海康威视数字技术股份有限公司 | 一种文件数据访问系统及方法 |
CN106569739A (zh) * | 2016-10-09 | 2017-04-19 | 南京中新赛克科技有限责任公司 | 一种数据写入优化的方法 |
TW201929551A (zh) * | 2017-12-26 | 2019-07-16 | 圓剛科技股份有限公司 | 具有備援機制的串流系統及其備援方法 |
CN116208581B (zh) * | 2023-04-26 | 2023-08-01 | 南京芯驰半导体科技有限公司 | Can控制器的邮箱配置信息的获取方法、邮箱的配置方法 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101997884A (zh) * | 2009-08-18 | 2011-03-30 | 升东网络科技发展(上海)有限公司 | 分布式存储系统和方法 |
-
2012
- 2012-08-27 CN CN201210306406.3A patent/CN102820998B/zh active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101997884A (zh) * | 2009-08-18 | 2011-03-30 | 升东网络科技发展(上海)有限公司 | 分布式存储系统和方法 |
Also Published As
Publication number | Publication date |
---|---|
CN102820998A (zh) | 2012-12-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11716385B2 (en) | Utilizing cloud-based storage systems to support synchronous replication of a dataset | |
CN103116661B (zh) | 一种数据库的数据处理方法 | |
CN102820998B (zh) | 实现面向办公应用的双机容错服务系统及其数据存储方法 | |
EP3961365A1 (en) | Synchronously replicating datasets and other managed objects to cloud-based storage systems | |
CN103763383B (zh) | 一体化云存储系统及其存储方法 | |
CN112470142A (zh) | 在存储系统的中介器服务之间进行切换 | |
CN104735110B (zh) | 元数据管理方法和系统 | |
CN103455577A (zh) | 云主机镜像文件的多备份就近存储和读取方法及系统 | |
CN104639661A (zh) | 分布式存储系统及文件存储和读取方法 | |
CN100452046C (zh) | 一种海量文件的存储方法及系统 | |
CN103929500A (zh) | 一种分布式存储系统的数据分片方法 | |
CN102136003A (zh) | 大规模分布式存储系统 | |
CN106062742A (zh) | 用于改进快照性能的系统和方法 | |
CN102662992A (zh) | 一种海量小文件的存储、访问方法及装置 | |
CN102904948A (zh) | 一种超大规模低成本存储系统 | |
CN103516549B (zh) | 一种基于共享对象存储的文件系统元数据日志机制 | |
CN105426427A (zh) | 基于raid 0 存储的mpp 数据库集群副本实现方法 | |
US9984139B1 (en) | Publish session framework for datastore operation records | |
CN103593420A (zh) | 一种利用共享在线日志实现异构同平台的数据库集群搭建方法 | |
CN110083490A (zh) | 一种数据库备份方法、还原方法以及存储介质 | |
CN103051671A (zh) | 一种集群文件系统重复数据删除方法 | |
CN103916459A (zh) | 一种大数据归档存储系统 | |
CN110083306A (zh) | 一种分布式对象存储系统及存储方法 | |
CN105516313A (zh) | 一种用于大数据的分布式存储系统 | |
CN103473258A (zh) | 云存储文件系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
C56 | Change in the name or address of the patentee | ||
CP03 | Change of name, title or address |
Address after: Everwise Qinhuai Road No. 6 Baixia District of Nanjing city Nanjing high tech Industrial Park, building four, building 9 layer A Patentee after: NANJING YUNCHUANG BIG DATA TECHNOLOGY CO., LTD. Address before: Guanghua Road, Baixia District Nanjing city Jiangsu province 210014 No. 1 Baixia High-tech Industrial Park incubator building, 1 floor Patentee before: Nanjing Innovative Cloud Storage Technology Co., Ltd. |