CN106101208A - 构建基于以太网的跨平台高可用系统的方法 - Google Patents

Abstract

构建基于以太网的跨平台高可用系统的方法涉及计算机技术领域，描述该方法所需定义的基本元素包括kernel_work模块、raw_send模块、raw_receive模块、raw_transfer模块；kernel_work模块是核心模块，负责节点状态管理、数据转发以及写入、灾难切换的工作，可以运行在多种平台上；raw_send模块是数据发送模块；raw­_receive模块是数据接收模块，功能是接收raw_send模块发送的块数据；raw_transfer模块是数据格式转换模块，主要功能是根据源以及目标系统的平台差异，自动进行raw数据的格式转换工作。与现有技术比较，本发明具有成本低、架构简单、管理方便、节点扩展和回收高度灵活、维护简单等特点。

Description

构建基于以太网的跨平台高可用系统的方法

技术领域

本发明涉及计算机技术领域，尤其是服务器高可用领域，特别涉及一种基于高速以太网跨平台提升服务器可用性的方法。

背景技术

目前，每个主流服务器产商都有各自提高服务器高可用性方法，主要面向一些联机交易、云计算服务、数据仓库等服务领域。这类领域产品的主要技术特点如下：

1、要求解决各个节点之间的数据同步问题；

2、要具备自主状态判断，能够从各种"灾难"场景中自动恢复对外数据服务；

3、要求灾难切换时间在秒级甚至更低，太长的切换时间意味着业务会出现各种错误；

4、要求具备容灾节点的智能管理功能，能够动态、快速、透明、简单的进行节点的增删操作。

针对服务器高可用领域，现有技术中有一些代表性产品：IBM的HACMP/XD，HP的MC/ServiceGuard，Microsoft的MSCS等。这些产品的主要技术特点以及优缺点如下：

1、严格捆绑各自产品所在的平台，不能跨平台使用，比如HACMP/XD只能在aix系统上使用

2、基本技术架构中必须要使用共享存储，通过共享存储解决数据同步问题，一般而言就会涉及到共享存储、san交换机、光纤卡等配套设备采购，不但成本高，并且对服务内置存储空间无法有效利用。这对于一些中小型企业而言成本压力很大；

3、节点的增删改等操作通常需要停止服务，同步配置后重新启动服务这样一个过程，自动化程度不高，费时费力，并且对业务会有中断时间。

本发明涉及的专有名词有：

裸设备raw device，也叫裸分区即原始分区，是一种没有经过格式化，不被Unix通过文件系统来读取的特殊块设备文件。由应用程序负责对它进行读写操作。不经过文件系统的缓冲。它是不被操作系统直接管理的设备。这种设备少了操作系统这一层，I/O效率更高。不少数据库都能通过使用裸设备作为存储介质来提高I/O效率。

Buffer cache，又称bcache，其中文名称为缓冲器高速缓冲存储器。oracle数据库的本质就是能够用磁盘上的文件来存储数据，并提供了各种各样的手段对这些数据进行管理。作为管理数据的最基本要求就是能够保存和读取磁盘上的文件中的数据。众所周知，读取磁盘的速度相对来说是非常慢的，而内存相对速度则要快的多。因此为了能够加快处理数据的速度，oracle必须将读取过的数据缓存在内存里。而这些缓存在内存里的数据就是数据高速缓存区（db buffer cache），通常就叫做Buffer cache。

发明内容

针对上述现有技术的不足，本发明的构建基于以太网的跨平台高可用系统的方法，提供了一种服务器可以通过高速以太网跨平台实现高可用性的轻量级的方法，针对性解决现有技术方法中存在的平台孤岛、高成本、配置管理抵消、架构僵化不灵活等问题。

构建基于以太网的跨平台高可用系统的方法，描述该方法所需定义的基本元素包括kernel_work模块、raw_send模块、raw_receive模块、raw_transfer模块；kernel_work模块是核心模块，运行在所有数据节点上，kernel_work模块主要负责节点状态管理、数据转发以及写入、灾难切换的工作，可以运行在多种平台上；raw_send模块是一个独立运行的数据发送模块，运行在所有数据节点上；raw­_receive模块是一个独立运行的数据接收模块，运行在所有数据节点上，主要功能是接收raw_send模块发送的块数据，通过调用kernel_work模块由kernel_work模块驱动本地操作系统自带的Disk driver完成磁盘写入；raw_transfer模块是一个独立运行的数据格式转换模块，运行在所有数据节点上，主要功能是根据源以及目标系统的平台差异，自动进行raw数据的格式转换工作，经过raw数据的格式转换工作后的目标系统格式的raw数据通过raw_send模块发送给目标系统，使得目标系统的raw­_receive模块接收到目标系统格式的raw数据后可以直接调用kernel_work模块完成写入工作；

实现构建基于以太网的跨平台高可用系统的方法的主要步骤包括：

1）数据节点划分

在基于以太网的跨平台服务器群的整个架构中，设定所有服务器作为单独的数据节点，数据节点分为主节点和备用节点，主节点可以有多个，每个主节点可以定义它的若干个备用节点；每个数据节点上运行kernel_work模块、raw_send模块、raw­_receive模块、raw_transfer模块；

2）kernel_work模块的工作步骤

①在主节点上的kernel_work模块和操作系统的Buffer cache做接口，当客户端向服务器提交数据时，数据通过操作系统的Buffer cache传递给kernel_work模块，当设备是裸设备时客户端向服务器提交的数据直接提交给kernel_work模块，kernel_work模块接收客户端提交到服务器的数据，将这些数据一方面转给Disk driver写入本地磁盘，另一方面将这些数据提交给raw_send模块；当客户端提交的数据是读请求，则不介入操作，由操作系统自带的Disk driver以及Buffer cache提供数据给客户端；

②在备用节点上的kernel_work模块负责处理raw_receive模块接收到的数据，将raw_receive模块接收到的数据通过本地备用节点的Disk driver写入本地磁盘，并且向主节点返回一个状态；

③主节点上的kernel_work模块时刻判断主节点以及备用节点的状态，判断状态的时间间隔通过网络心跳服务控制，当主节点出现宕机和无状态反馈的异常情况时，kernel_work模块自动激活备选备用节点接管主节点的服务，完成切换动作；

④kernel_work模块维护一个节点目录，登记各个服务当前对应的主节点以及备用节点，并且通过网络心跳服务掌握各个节点状态；

⑤kernel_work模块提供节点增删改接口，用户可以通过该接口智能动态的对节点的数量和状态进行修改；

3）raw_send模块的工作步骤

①raw_send模块接收kernel_work模块提交的由客户端向服务器提交的数据，将由客户端向服务器提交的数据通过高速以太网发送给备用节点的raw_receive模块；

②当主节点和备用节点属于不同平台，raw_send模块调用raw_transfer模块进行跨平台数据格式转换，将由客户端向服务器提交的数据转换成备用节点的数据格式生成转换后的数据，转换后的数据直接由备用节点的raw_receive模块接收并由raw_receive模块提交给备用节点的kernel_work模块，备用节点的kernel_work模块将转换后的数据通过本地备用节点的Disk driver写入本地磁盘，并且向主节点返回一个状态；

4）raw­_receive模块的工作步骤

①raw­_receive模块负责接收raw_send模块发送的数据；

②raw­_receive模块负责将收到的数据提交给本地节点的kernel_work模块，本地节点包括主节点和备用节点两种类型；

5）raw_transfer模块的工作步骤

接受raw_send模块调用，根据源节点以及目标节点的平台差异，自动进行raw数据的格式转换工作，达到目标节点接收到转换后的数据可以直接完成写入工作；源节点包括主节点和备用节点两种类型，目标节点包括主节点和备用节点两种类型；

6）复制协议的选择

用户根据不同的应用场景的响应需求和可靠性需求可以选用以下三种复制协议：

①同步复制协议，当本地磁盘以及所有备用节点磁盘都完成数据写入，写操作才被认为完成；这种协议可靠性最高，不会有数据丢失风险，但是如果网络带宽有瓶颈则会影响到io的吞吐量；

②异步复制协议，本地磁盘完成数据写入即被认为写操作完成，所有备用节点的写入操作后续由kernel_work模块负责调度完成；这种协议可靠性不高，存在数据丢失风险，但是io的吞吐量不受网络带宽的影响；

③半同步复制协议：本地磁盘完成数据写入并且转发数据已经由备用节点的raw_receive模块接收到，则认为写操作完成，备用节点的数据写入操作由备用节点上的kernel_work模块负责调度完成；这种协议是前面两种协议的一种妥协，在性能和可靠性上做了一些折衷。

有益效果

本发明为以下三类用户带来好处，1、希望提供一个跨平台高可用性解决方案的用户；2、希望低成本投入，充分利用现有IT资源的用户；3、希望简化管理，集群日常对系统可用性的影响降低到最小的用户。与现有技术比较，本发明具有成本低、架构简单、管理方便、节点扩展和回收高度灵活、维护简单等特点。

附图说明

图1是本发明的基本架构图；

标注：

1 客户端；2 互联网；3 服务接入层；4 主节点；4.N 第N个备用节点；5 文件系统；

6 裸设备；7 Buffer cache；8 kernel _work模块；9 raw_send模块；10 raw­_receive模块；

11 raw_transfer模块；12 Disk driver；13 本地磁盘；14 本地高速网卡；15 高速以太网。

具体实施方式

实施例一

参看图1，构建基于以太网的跨平台高可用系统的方法，描述该方法所需定义的基本元素包括kernel_work模块8、raw_send模块9、raw_receive模块10、raw_transfer模块11；kernel_work模块8是核心模块，运行在所有数据节点上，kernel_work模块8主要负责节点状态管理、数据转发以及写入、灾难切换的工作，可以运行在多种平台上；raw_send模块9是一个独立运行的数据发送模块，运行在所有数据节点上；raw­_receive模块10是一个独立运行的数据接收模块，运行在所有数据节点上，主要功能是接收raw_send模块9发送的块数据，通过调用kernel_work模块8由kernel_work模块8驱动本地操作系统自带的Diskdriver 12完成磁盘写入；raw_transfer模块11是一个独立运行的数据格式转换模块，运行在所有数据节点上，主要功能是根据源以及目标系统的平台差异，自动进行raw数据的格式转换工作，经过raw数据的格式转换工作后的目标系统格式的raw数据通过raw_send模块9发送给目标系统，使得目标系统的raw­_receive模块10接收到目标系统格式的raw数据后可以直接调用kernel_work模块8完成写入工作；

实现构建基于以太网的跨平台高可用系统的方法的主要步骤包括：

1）数据节点划分

在基于以太网的跨平台服务器群的整个架构中，设定所有服务器作为单独的数据节点，数据节点分为主节点4和备用节点4.N，主节点可以有多个，每个主节点可以定义它的若干个备用节点；每个数据节点上运行kernel_work模块8、raw_send模块9、raw­_receive模块10、raw_transfer模块11；

2）kernel_work模块8的工作步骤

①在主节点4上的kernel_work模块8和操作系统的Buffer cache7做接口，当客户端1向服务器提交数据时，数据通过操作系统的Buffer cache7传递给kernel_work模块8，当设备是裸设备6时客户端1向服务器提交的数据直接提交给kernel_work模块8，kernel_work模块8接收客户端1提交到服务器的数据，将这些数据一方面转给Disk driver 12写入本地磁盘，另一方面将这些数据提交给raw_send模块9；当客户端1提交的数据是读请求，则不介入操作，由操作系统自带的Disk driver 12以及Buffer cache7提供数据给客户端1；

②在备用节点4.N上的kernel_work模块8负责处理raw_receive模块10接收到的数据，将raw_receive模块10接收到的数据通过本地备用节点4.N的Disk driver 12写入本地磁盘13，并且向主节点4返回一个状态；

③主节点4上的kernel_work模块8时刻判断主节点4以及备用节点4.N的状态，判断状态的时间间隔通过网络心跳服务控制，当主节点4出现宕机和无状态反馈的异常情况时，kernel_work模块8自动激活备选备用节点4.N接管主节点4的服务，完成切换动作；

④kernel_work模块8维护一个节点目录，登记各个服务当前对应的主节点8以及备用节点4.N，并且通过网络心跳服务掌握各个节点状态；

⑤kernel_work模块8提供节点增删改接口，用户可以通过该接口智能动态的对节点的数量和状态进行修改；

3）raw_send模块9的工作步骤

①raw_send模块9接收kernel_work模块8提交的由客户端1向服务器提交的数据，将由客户端1向服务器提交的数据通过高速以太网15发送给备用节点4.N的raw_receive模块10；

②当主节点4和备用节点4.N属于不同平台，raw_send模块9调用raw_transfer模块11进行跨平台数据格式转换，将由客户端1向服务器提交的数据转换成备用节点4.N的数据格式，生成转换后的数据，转换后的数据直接由备用节点4.N的raw_receive模块10接收并由raw_receive模块10提交给备用节点4.N的kernel_work模块8，备用节点4.N的kernel_work模块8将转换后的数据通过本地备用节点4.N的Disk driver 12写入本地磁盘13，并且向主节点4返回一个状态；

4）raw­_receive模块10的工作步骤

①raw­_receive模块10负责接收raw_send模块9发送的数据；

②raw­_receive模块10负责将收到的数据提交给本地节点的kernel_work模块8，本地节点包括主节点4和备用节点4.N两种类型；

5）raw_transfer模块11的工作步骤

接受raw_send模块9调用，根据源节点以及目标节点的平台差异，自动进行raw数据的格式转换工作，达到目标节点接收到转换后的数据可以直接完成写入工作；源节点包括主节点4和备用节点4.N两种类型，目标节点包括主节点4和备用节点4.N两种类型；

6）复制协议的选择

用户根据不同的应用场景的响应需求和可靠性需求可以选用以下三种复制协议：

①同步复制协议，当本地磁盘13以及所有备用节点4.N磁盘都完成数据写入，写操作才被认为完成；这种协议可靠性最高，不会有数据丢失风险，但是如果网络带宽有瓶颈则会影响到io的吞吐量；

②异步复制协议，本地磁盘13完成数据写入即被认为写操作完成，所有备用节点4.N的写入操作后续由kernel_work模块8负责调度完成；这种协议可靠性不高，存在数据丢失风险，但是io的吞吐量不受网络带宽的影响；

③半同步复制协议：本地磁盘13完成数据写入并且转发数据已经由备用节点4.N的raw_receive模块10接收到，则认为写操作完成，备用节点4.N的数据写入操作由备用节点4.N上的kernel_work模块8负责调度完成；这种协议是前面两种协议的一种妥协，在性能和可靠性上做了一些折衷。

实施例二

参看图1，在所有目标节点上进行产品模块安装，在安装过程中完成指定哪些节点为主节点4，哪些节点为备用节点4.N。

通过网络心跳手段，主节点4会监控自身节点以及所有相关主备节点的状态，当主节点4发生异常的情况下，主节点4会按照节点列表中的优先级顺序自动切换到优先级最高的备用节点4.N。管理员也可以人工发起节点切换。有故障的节点在故障恢复后也可以返回到备用节点4.N列表中作为后续备用节点4.N来使用。

在主节点4上，客户端1发起一个数据修改请求，通过文件系统5提交给Buffercache7，然后Buffer cache7提交给kernel_work模块8，当设备是裸设备6时客户端1发起的数据修改请求直接提交给kernel_work模块8，kernel_work模块8一方面将这个数据修改请求通过Disk driver12写入节点本地磁盘13，另外一方面将这个数据修改请求通过raw_send模块9发送给备用节点4.N；当涉及到跨平台，raw_send模块9调用raw_transfer模块11进行数据格式转换，备用节点4.N的raw_receive模块10在接收到数据后，提交给本地的Disk_driver12写入本地磁盘13。这样就完成了一个基本的数据修改操作。

在主节点4上，如果客户端1发起一个数据读取请求，则系统会绕过kernel_work模块8，直接通过disk driver12或者Buffer cache7返回数据给客户端1，这样就完成了一个基本的数据读取请求。

当主节点4异常，kernel_work模块8自动将控制权移交给备用节点4.N列表上优先级最高的备用节点4.N，备用节点4.N自动完成ip地址修改，路由列表更新，应用模块启动等动作，接管业务，切换为主节点4。主节点4完成修复后，管理人员可以选择将业务切换回主节点4运行，或者将主节点4加入到集群，成为一个备用节点4.N。

Claims (1)

1.构建基于以太网的跨平台高可用系统的方法，描述该方法所需定义的基本元素包括kernel_work模块、raw_send模块、raw_receive模块、raw_transfer模块；kernel_work模块是核心模块，运行在所有数据节点上，kernel_work模块主要负责节点状态管理、数据转发以及写入、灾难切换的工作，可以运行在多种平台上；raw_send模块是一个独立运行的数据发送模块，运行在所有数据节点上；raw­_receive模块是一个独立运行的数据接收模块，运行在所有数据节点上，主要功能是接收raw_send模块发送的块数据，通过调用kernel_work模块由kernel_work模块驱动本地操作系统自带的Disk driver完成磁盘写入；raw_transfer模块是一个独立运行的数据格式转换模块，运行在所有数据节点上，主要功能是根据源以及目标系统的平台差异，自动进行raw数据的格式转换工作，经过raw数据的格式转换工作后的目标系统格式的raw数据通过raw_send模块发送给目标系统，使得目标系统的raw­_receive模块接收到目标系统格式的raw数据后可以直接调用kernel_work模块完成写入工作；

实现构建基于以太网的跨平台高可用系统的方法的主要步骤包括：

1）数据节点划分

在基于以太网的跨平台服务器群的整个架构中，设定所有服务器作为单独的数据节点，数据节点分为主节点和备用节点，主节点可以有多个，每个主节点可以定义它的若干个备用节点；每个数据节点上运行kernel_work模块、raw_send模块、raw­_receive模块、raw_transfer模块；

2）kernel_work模块的工作步骤

①在主节点上的kernel_work模块和操作系统的Buffer cache做接口，当客户端向服务器提交数据时，数据通过操作系统的Buffer cache传递给kernel_work模块，当设备是裸设备时客户端向服务器提交的数据直接提交给kernel_work模块，kernel_work模块接收客户端提交到服务器的数据，将这些数据一方面转给Disk driver写入本地磁盘，另一方面将这些数据提交给raw_send模块；当客户端提交的数据是读请求，则不介入操作，由操作系统自带的Disk driver以及Buffer cache提供数据给客户端；

②在备用节点上的kernel_work模块负责处理raw_receive模块接收到的数据，将raw_receive模块接收到的数据通过本地备用节点的Disk driver写入本地磁盘，并且向主节点返回一个状态；

③主节点上的kernel_work模块时刻判断主节点以及备用节点的状态，判断状态的时间间隔通过网络心跳服务控制，当主节点出现宕机和无状态反馈的异常情况时，kernel_work模块自动激活备选备用节点接管主节点的服务，完成切换动作；

④kernel_work模块维护一个节点目录，登记各个服务当前对应的主节点以及备用节点，并且通过网络心跳服务掌握各个节点状态；

⑤kernel_work模块提供节点增删改接口，用户可以通过该接口智能动态的对节点的数量和状态进行修改；

3）raw_send模块的工作步骤

①raw_send模块接收kernel_work模块提交的由客户端向服务器提交的数据，将由客户端向服务器提交的数据通过高速以太网发送给备用节点的raw_receive模块；

②当主节点和备用节点属于不同平台，raw_send模块调用raw_transfer模块进行跨平台数据格式转换，将由客户端向服务器提交的数据转换成备用节点的数据格式生成转换后的数据，转换后的数据直接由备用节点的raw_receive模块接收并由raw_receive模块提交给备用节点的kernel_work模块，备用节点的kernel_work模块将转换后的数据通过本地备用节点的Disk driver写入本地磁盘，并且向主节点返回一个状态；

4）raw­_receive模块的工作步骤

①raw­_receive模块负责接收raw_send模块发送的数据；

②raw­_receive模块负责将收到的数据提交给本地节点的kernel_work模块，本地节点包括主节点和备用节点两种类型；

5）raw_transfer模块的工作步骤

接受raw_send模块调用，根据源节点以及目标节点的平台差异，自动进行raw数据的格式转换工作，达到目标节点接收到转换后的数据可以直接完成写入工作；源节点包括主节点和备用节点两种类型，目标节点包括主节点和备用节点两种类型；

6）复制协议的选择

用户根据不同的应用场景的响应需求和可靠性需求可以选用以下三种复制协议：

①同步复制协议，当本地磁盘以及所有备用节点磁盘都完成数据写入，写操作才被认为完成；这种协议可靠性最高，不会有数据丢失风险，但是如果网络带宽有瓶颈则会影响到io的吞吐量；

②异步复制协议，本地磁盘完成数据写入即被认为写操作完成，所有备用节点的写入操作后续由kernel_work模块负责调度完成；这种协议可靠性不高，存在数据丢失风险，但是io的吞吐量不受网络带宽的影响；

③半同步复制协议：本地磁盘完成数据写入并且转发数据已经由备用节点的raw_receive模块接收到，则认为写操作完成，备用节点的数据写入操作由备用节点上的kernel_work模块负责调度完成；这种协议是前面两种协议的一种妥协，在性能和可靠性上做了一些折衷。