CN101014034A - 一种基于u盘服务器的集群解决方法 - Google Patents

Abstract

本发明涉及一种基于U盘服务器的集群解决方法，其方案是：采用Linux系统定制技术和文件映像打包技术精简应用于特定服务的Linux操作系统以及相关应用软件，并制作成映像；通过Linux网络启动、Linux启动盘制作等相关技术完成部署U盘；设置一个部署部署管理节点，该节点通过部署U盘启动系统，实施部署管理、完成集群各节点的配置、实现无人值守部署；在部署好的节点上，采用内存操作系统、数据分离等技术实现集群系统高可靠运行。本发明将经过定制的系统保存至U盘中，通过U盘进行系统的安装和配置，使得部署集群系统简单方便；将Linux系统定制应用至集群中，实现了操作系统与数据的分离存储，降低文件系统出错概率，实现集群系统的高可靠运行。

Description

一种基于U盘服务器的集群解决方法

技术领域

本发明属于集群计算机系统领域，特别涉及集群操作系统及其应用软件的安装与运行的方法，更具体地说是一种基于U盘服务器的集群解决方法。

背景技术

随着互联网的普及，人们对服务的需求在增长，对服务的要求在提高。对互联网服务能力的要求也越来越高：它们要求大容量存储设备，要求宽带网络环境，要求及时正确传输，最主要的是需要有完整而简便的系统部署方案。在传统的解决方案中，有些方案使用专用硬件平台或超级计算机作为互联网服务器，但是，依赖硬件解决方案不仅代价昂贵，而且会给今后的扩展、升级和维护带来问题。另一些方案将高性能计算领域比较成熟的集群计算机系统解决方案移植到服务器系统，但部署繁杂，维护成本高。

在本发明以前的现有集群解决方案中，一般以硬盘刻录方式或者手工光盘安装集群各节点，也有人提出通过网络实现操作系统以及应用软件的网络安装。但均只是在同质软件安装上作优化，没有考虑到在集群节点软件运行方式和存储方式上作些改进。

此外，Linux集群系统普遍存在服务器突然断电重启使得文件系统长时间自检，从而导致服务中断。减少或者避免文件系统自检问题，无疑可以大大提高系统可靠性和集群服务质量(QoS)。

发明内容

本发明的目的是提供一种易部署的，通过简便的配置完成服务器集群操作系统及其应用软件的安装，并通过对操作系统和应用软件运行环境的改进实现集群服务器高可靠运行的基于U盘服务器的集群解决方法，以克服上述的不足。

为了实现上述目的，本发明所采用的方案是：采用Linux系统定制技术和文件映像打包技术精简应用于特定服务的Linux操作系统以及相关应用软件，并制作成映像；通过Linux网络启动、Linux启动盘制作等相关技术完成部署U盘；设置一个部署部署管理节点，该节点通过部署U盘启动系统，实施部署管理、完成集群各节点的配置、实现无人值守部署；在部署好的节点上，采用内存操作系统、数据分离等技术实现集群系统高可靠运行与基本故障恢复。

上述方案的具体步骤包括：

第一步骤：制作系统映像和引导u盘：在开发机上优化定制Linux系统，根据目标集群各节点特点定制相关应用软件，制作系统映像并拟订好节点安装的详细流程，将编写好得安装程序写入u盘启动盘的系统映像中；

第二步骤：连接物理网络：将目标集群节点与部署管理节点通过以太网交换机连接，每一节点要有含PXE(Preboot Execution Environment)支持的网卡以及支持网络启动的主板；

第三步骤：配置部署管理节点：部署管理节点通过U盘引导，根据提示完成对特定结构目标集群各系统映像的配置，通过目标节点的网卡MAC地址与相应配置对应起来；

第四步骤：安装目标集群节点：打开目标集群节点电源，选择网络启动，目标节点找到网络中的部署管理节点，读取对应的系统映像和配置文件，按照定制好的安装流程完成操作系统和应用软件的安装；安装完毕后，系统自动重启，至此，该目标节点可以正常投入使用；

第五步骤：集群系统运行：成功完成所有节点安装后，该集群即可立即投入使用。各节点将操作系统引导至内存中，而将与系统数据以及日志等相关内容保存至硬盘中，实现运行时操作系统文件和数据文件的分离；

第六步骤：故障恢复：若运行期间，节点机出现因系统文件损坏导致操作系统故障，则可通过安装U盘的故障恢复功能，重写操作系统，新操作系统仍可使用原系统未损坏用户数据；

第七步骤：扩展安装：当集群系统需要扩展节点时只需将该节点与部署管理节点相连，按照步骤二至步骤五的流程安装扩展节点。

上述第一步骤中开发机是用于制作系统映像的机器，该机器装有未定制的Linux系统以及目标集群所需的各种应用软件安装程序。

上述系统映像分为2种：目标节点映像和部署管理节点映像。

上述步骤二中的物理网络连接仅作安装时使用，集群系统在安装完毕后需连接至相应的服务网络(如Internet或者Intranet)，该服务网络不一定与安装时物理网络相同。

上述第三步骤中的部署管理节点是任意一台支持U盘启动的计算机，该机不属于集群计算机的成员，仅作安装时使用，部署管理节点可以没有自己的硬盘设备，但必须提供128MB以上的内存；操作系统文件是指维持操作系统正常运行的只读文件，如共享库、Shell工具、设备文件；数据文件包括需要即时读写的配置文件、用户文件、日志数据、数据库信息。

本发明提出了一种集群服务器解决方法，系统在流行的集群体系结构上，根据服务器操作系统及其应用软件的特点，将集群系统集成到一块U盘上，通过U盘以及网络完成集群各组成部分的部署，从而达到可以随意增加和删改集群系统的节点。并应用内存操作系统和文件系统打包技术，在软件运行上作些改进，降低文件系统长时间自检的概率，消除了因系统文件损坏而造成操作系统崩溃，实现集群系统运行的高可靠性和QoS。

本发明的特点如下：

1.针对特定服务器集群定制精简的集群操作系统，使得资源利用更为高效。本发明所部署的集群系统采用精简的Linux内核、使用嵌入式系统中常用的开源软件Busybox建立Linux操作系统，在此基础上，安装服务所需的软件，如apache、mysql等等软件以及必要的共享库。

2.采用网络安装的部署方案，一次可以同时安装多台节点机器，安装目标节点机实现完全自动化。

3.使用U盘引导的部署管理节点，可简单实现多个部署管理节点同时安装大量机器。

4.将繁复的集群配置部署工作简化：本发明将集群系统安装配置过程简化为对系统映像文件的选择和对配置文件的编辑。既可通过一系列的对话框可视化的编辑配置文件，又可以直接跳过对配置文件编辑，读取已有配置文件。

5.操作系统只读：本发明使用文件系统打包以及内存操作系统技术，将操作系统打包成只读的文件系统映像文件。系统启动时，将映像文件引导为内存操作系统，从而实现操作系统只读。保证整个集群系统不受运行时故障的威胁，同时，降低了文件系统长时间自检的概率。

6.操作系统与数据分离存储：本发明使用Linux Shell编程，在系统引导时将文件系统划分为两块，一块用于保存操作系统映像文件及其相关配置文件，一块保存数据文件。

本发明与已有技术相比，提出了一种新的针对特定服务定制集群服务器部署方案的方法；将经过定制的系统保存至U盘中，通过U盘进行系统的安装和配置，使得部署集群系统简单方便；将嵌入式系统中Linux系统定制应用至集群中，结合内存操作系统技术，实现了操作系统与数据的分离存储，降低文件系统出错概率，实现集群系统的高可靠运行。

附图说明

图1是本发明所部署的典型集群服务器系统结构示意图。

图2是本发明系统映像制作流程图。

图3是本发明集群安装部署流程图。

图4是本发明的节点系统运行流程图。

具体实施方式

下面结合附图对本发明做进一步的详细描述。

本发明部署集群的逻辑结构(见图1)中部署管理节点是整个部署过程的核心节点，“LAN”代表部署过程中使用专用局域网，该局域网由部署管理节点和目标集群各节点组成。部署管理节点可以是任意支持U盘启动装有以太网卡的计算机，而目标集群各节点须装有支持PXE协议和网络启动的以太网卡。

本发明的特点之一在于将集群部署方案置于U盘之中，部署特定服务器集群，只需对部署管理节点进行简单的配置，即可完成整个集群系统的安装部署。下面分步骤详细描述本发明：

步骤一：制作系统映像和引导U盘：

本发明最重要的步骤在于制作系统映像，本发明方案中涉及到三种系统映像，①部署管理节点系统映像(U盘系统映像)；②网络安装临时系统映像；③目标节点系统映像。

不同系统映像主要区别在于，系统引导脚本的不同：U盘系统脚本主要用于启动DHCP、TFTP、NFS等服务器端程序，完成节点部署管理与配置等；网络安装脚本定义了将系统安装至目标节点的行为，包括目标节点硬盘分区及格式化、选取系统映像和配置文件、写入相关配置脚本至目标系统映像中、复制系统映像和相关软件包、写入目标系统引导信息等；目标系统脚本定义了集群节点实际提供服务的过程，根据不同目标服务类型，定制不同的脚本。

由于U盘存储空间有限，需要最大限度的裁减不必要的内容定制系统映像。下面以描述系统映像的制作过程，如图2所示：

第一步：编译Linux内核

Linux内核是系统的核心，包含了诸多迎接驱动程序以及大量内核级的功能，因此需要按照运行三种系统映像节点的硬件条件和用途来编译。比如对于目标集群节点，除了将对体系结构的支持、设备驱动(特别是网卡设备)等编译进内核外，同时还要将IPVS、Bootp、Root On NFS等支持也编译至内核中。另外，为了系统简单起见，关闭内核模块的支持

第二步：定制Linux系统

制作系统映像是在开发机上完成，开发机上已安装了较为精简的Linux系统，为了定制最优化的Linux系统，需要在开发机上进一步定制系统。定制系统主要从共享库、Shell工具、用户程序、设备文件等着手。

本方案定制Linux系统采用了从零构造的办法。首先，建立Linux基本文件目录结构，作为系统映像的根文件系统(以下简称根)，然后安装Busybox工具包到根。Busybox工具包实际上提供了Shell工具模拟程序，它将Linux诸多shell工具集成至不到1M的可执行程序，并建立诸多符号连接来代替原有Shell工具的可执行程序，BusyBox被广泛的应用于定制嵌入式操作系统。完成Busybox的安装后，接下来定制etc目录，Busybox已经在etc目录下生成了大量的相关配置文件，为了使得目标系统正常引导和运行，还需要添加或修改一些必要的配置文件，如fstab、passwd、shadow、inittab等等。最后定制设备文件，根据Linux系统以及目标集群特点，除了Linux系统必要的设备文件外，还需要有ram、ide、scsi、loop等块设备文件的支持。

第三步：安装相关应用软件

定制完Linux系统后，需要根据系统映像用途来安装相关应用软件。应用软件安装分为二进制安装和编译安装。二进制安装只需在目标系统根环境下运行二进制安装文件即可完成安装，而编译安装过程比较复杂。下面以安装apache web server为例描述编译安装过程。

1.从apache官方网站获取apache的源代码；

2.在开发机Linux上编译源代码，并制定安装目录(以/usr/local/apache2为例)；

3.使用1dd命令获取apache所有可执行文件所关联的共享库，将关联的共享库文件复制到目标系统根下的相关目录中；

4.将/usr/local/apache2目录的所有文件复制到目标系统根的usr/local/apache2目录下；

5.完成apache在目标系统中的安装。

第四步：测试应用软件

安装完所需应用软件后，需要对所安装的软件进行测试。测试应该是在目标系统环境下进行，可以通过chroot命令模拟目标系统环境。所有目标集群需要用到的服务均要在该环境下进行功能测试，若测试出现问题需要回到前面的步骤中去解决问题。

第五步：编写系统启动脚本

测试完所有服务后，则可以编写系统启动脚本。如前所述，编写系统启动脚本是本方案最重要最复杂的环节，脚本定义了目标系统启动的全部过程。根据应用三种系统映像的详细的工作过程以及相关应用软件的特点来编写本脚本程序。

第六步：制作系统映像和相关软件包

由于目标系统是在内存中执行，内存空间有限，因此须将目标系统分为系统核心和应用软件两部分分别打包。系统核心制作成系统映像，通过loop块设备虚拟一个ext2文件系统映像文件，将系统核心复制到该虚拟文件系统中，最后将该虚拟文件系统映像压缩完成系统映像的制作。将分离出的应用软件打成相应tar包存储至U盘中。

第二步骤：连接物理网络

为了部署目标集群，需要将部署管理节点与目标集群各节点连接在同一个物理局域网中(以下称为部署网络)，所谓的局域网是指能直接通过MAC寻址访问各节点的网络，一般为10/100Mbps快速以太网。所有目标集群节点连接到部署网络的网卡设备需要有Preboot ExecutionEnvironment模块支持，同时节点主板BIOS支持从该网卡设备引导系统。目前市场上常用的Realtek8139系列网卡均包含PXE模块。

第三步骤：配置部署管理节点

连接好部署网络后，用制作好的U盘引导部署管理节点，运行部署管理程序，该程序将目标节点网卡MAC地址、目标系统映像、配置文件绑定在一起，完成目标节点的注册。可以通过编辑配置文件完成对目标节点的系统配置。部署管理结束后，系统启动DHCP服务器、TFTP服务器、NFS服务器用于目标节点的网络安装。

第四步骤：安装目标集群节点

配置完部署管理节点后，即可以进行目标集群节点的安装，目标集群节点安装过程非常简单，只需要打开节点电源，将系统BIOS配置成从已在部署管理节点注册的网卡设备启动。节点自动发DHCP请求广播包到部署网络上，部署管理节点响应DHCP请求，并根据PXE协议所规定的流程完成网络安装临时系统的引导。临时系统自动调用编写好的安装脚本程序，为本地硬盘分区格式化，通过NFS服务获取部署管理节点上的远程文件最终完成节点的安装。

第五步骤：集群系统运行

目标集群节点安装完毕后会自动重启。然后该节点按照流程(见图4)运行系统：节点载入Linux内核后，将系统引导至内存中运行，然后挂载本地硬盘系统分区和数据分区，将应用程序包解压到系统分区中，执行相关脚本建立符号链接，最后启动相关集群应用服务

第六步骤：故障恢复

该步骤不是本发明方案实施集群部署的必要步骤，主要描述当部署完毕的集群出现运行故障时本方案的处理办法。

如前所述，集群节点操作系统运行在内存中以及系统和数据分离存储是本部署方案的一大特点，它实现了操作系统只读，避免了因操作系统文件损坏造成的故障。另一方面，由于系统在内存中执行，节点突然断电对文件系统的影响也大为减小，从而降低了文件系统长时间自检的概率。因此，若出现系统故障，较多可能是系统映像文件或者软件包损坏。

系统映像文件和软件包是保存在系统分区中的，而与运行相关的数据文件则独立存放在数据分区中。故障恢复可以从还原系统分区中的文件着手，还原系统分区文件的方法很多：可以直接用任意Linux启动盘或者本方案中提及的部署管理U盘引导该节点，挂载磁盘的系统分区，将备份的正确系统映像文件和软件包还原重启机器即可。

第七步骤：扩展安装

该步骤也不是本方案实施集群部署的必要步骤，它描述了当部署完好的集群系统需要扩展节点时的处理办法。

安装新的集群节点完全不影响现有集群的工作，只需将该节点与部署管理节点相连，按照第二步骤至第五步骤的流程安装节点，安装完毕后，将之连接至集群系统服务网络即完成了集群节点的扩展。

如上所述，本发明针对服务器集群系统制作了小巧的安装盘，通过简洁的配置和安装即可完成特定集群的部署。此外，本发明由于采用了文件系统打包技术将操作系统打包为一个只读的系统映像文件，很好的保护了操作系统关键程序，基本解决了集群服务器突然断电引起的操作系统故障以及文件系统长时间自检两大难题。即使出现操作系统以及应用软件故障，也可以用简单操作完成故障恢复而不影响到用户数据。

本说明书中未作详细描述的内容属于本领域专业技术人员公知的现有技术。

Claims (9)

1、一种基于U盘服务器的集群解决方法，其方案是：采用Linux系统定制技术和文件映像打包技术精简应用于特定服务的Linux操作系统以及相关应用软件，并制作成映像；通过Linux网络启动、Linux启动盘制作等相关技术完成部署U盘；设置一个部署部署管理节点，该节点通过部署U盘启动系统，实施部署管理、完成集群各节点的配置、实现无人值守部署；在部署好的节点上，采用内存操作系统、数据分离等方法实现集群系统运行。

2、如权利要求1所述的一种基于U盘服务器的集群解决方法，其特征在于：具体步骤包括：

第一步骤：制作系统映像和引导u盘：在开发机上优化定制Linux系统，根据目标集群各节点特点定制相关应用软件，制作系统映像并拟订好节点安装的详细流程，将编写好得安装程序写入u盘启动盘的系统映像中；

第二步骤：连接物理网络：将目标集群节点与部署管理节点通过以太网交换机连接，每一节点要有含PXE支持的网卡以及支持网络启动的主板；

第三步骤：配置部署管理节点：部署管理节点通过U盘引导，根据提示完成对特定结构目标集群各系统映像的配置，通过目标节点的网卡MAC地址与相应配置对应起来；

第四步骤：安装目标集群节点：打开目标集群节点电源，选择网络启动，目标节点找到网络中的部署管理节点，读取对应的系统映像和配置文件，按照定制好的安装流程完成操作系统和应用软件的安装；安装完毕后，系统自动重启，至此，该目标节点可以正常投入使用；

第五步骤：集群系统运行：成功完成所有节点安装后，该集群即可立即投入使用，各节点将操作系统引导至内存中，而将与系统数据以及日志等相关内容保存至硬盘中，实现运行时操作系统文件和数据文件的分离。

3、如权利要求2所述的一种基于U盘服务器的集群解决方法，其特征在于：在完成上述五个步骤后，还进行下述步骤：

第六步骤：故障恢复：若运行期间，节点机出现因系统文件损坏导致操作系统故障，则可通过安装U盘的故障恢复功能，重写操作系统，新操作系统仍可使用原系统未损坏用户数据；

第七步骤：扩展安装：当集群系统需要扩展节点时只需将该节点与部署管理节点相连，按照第二步骤至第五步骤的流程安装扩展节点。

4、如权利要求2所述的一种基于U盘服务器的集群解决方法，其特征在于：第一步骤中开发机是用于制作系统映像的机器，该机器装有未定制的Linux系统以及目标集群所需的各种应用软件安装程序。

5、如权利要求2所述的一种基于U盘服务器的集群解决方法，其特征在于：系统映像分为2种：目标节点映像和部署管理节点映像。

6、如权利要求2所述的一种基于U盘服务器的集群解决方法，其特征在于：第二步骤中的物理网络连接仅作安装时使用，集群系统在安装完毕后需连接至相应的服务网络。

7、如权利要求2所述的一种基于U盘服务器的集群解决方法，其特征在于：第三步骤中的部署管理节点是任意一台支持U盘启动的计算机，该机不属于集群计算机的成员，仅作安装时使用，部署管理节点可以没有自己的硬盘设备，但必须提供128MB以上的内存；操作系统文件是指维持操作系统正常运行的只读文件，如共享库、Shell工具、设备文件；数据文件包括需要即时读写的配置文件、用户文件、日志数据、数据库信息。

8、如权利要求2所述的一种基于U盘服务器的集群解决方法，其特征在于：第一步骤中系统映像的制作过程为：

第一步：编译Linux内核；

第二步：定制Linux系统；

第三步：安装相关应用软件；

第四步：测试应用软件；

第五步：编写系统启动脚本；

第六步：制作系统映像和相关软件包。

9、如权利要求8所述的一种基于U盘服务器的集群解决方法，其特征在于：制作系统映像和相关软件包的过程是：将目标系统分为系统核心和应用软件两部分分别打包，系统核心制作成系统映像，通过loop块设备虚拟一个ext2文件系统映像文件，将系统核心复制到该虚拟文件系统中，最后将该虚拟文件系统映像压缩完成系统映像的制作，将分离出的应用软件打成相应tar包存储至U盘中。

Images