CN114039848B - 一种实现InCloudInsight管理平台高可用的方法、装置及设备 - Google Patents
一种实现InCloudInsight管理平台高可用的方法、装置及设备 Download PDFInfo
- Publication number
- CN114039848B CN114039848B CN202111166644.4A CN202111166644A CN114039848B CN 114039848 B CN114039848 B CN 114039848B CN 202111166644 A CN202111166644 A CN 202111166644A CN 114039848 B CN114039848 B CN 114039848B
- Authority
- CN
- China
- Prior art keywords
- management platform
- incloudinsight
- node
- management
- installation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 48
- 238000001514 detection method Methods 0.000 claims abstract description 89
- 238000009434 installation Methods 0.000 claims abstract description 61
- 235000002905 Rumex vesicarius Nutrition 0.000 claims abstract description 58
- 238000004458 analytical method Methods 0.000 claims abstract description 39
- 244000207667 Rumex vesicarius Species 0.000 claims abstract description 24
- 230000000694 effects Effects 0.000 claims abstract description 12
- 230000001419 dependent effect Effects 0.000 claims abstract description 10
- 238000011084 recovery Methods 0.000 claims description 14
- 238000012545 processing Methods 0.000 claims description 12
- 230000006837 decompression Effects 0.000 claims description 4
- 238000007726 management method Methods 0.000 description 172
- 240000000797 Hibiscus cannabinus Species 0.000 description 34
- 238000012423 maintenance Methods 0.000 description 18
- 239000003795 chemical substances by application Substances 0.000 description 9
- 230000008569 process Effects 0.000 description 8
- 238000010586 diagram Methods 0.000 description 6
- 238000012544 monitoring process Methods 0.000 description 5
- 230000009471 action Effects 0.000 description 4
- 239000008186 active pharmaceutical agent Substances 0.000 description 2
- 238000007689 inspection Methods 0.000 description 2
- 230000001360 synchronised effect Effects 0.000 description 2
- 238000012550 audit Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 238000012163 sequencing technique Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/08—Configuration management of networks or network elements
- H04L41/0803—Configuration setting
- H04L41/0806—Configuration setting for initial configuration or provisioning, e.g. plug-and-play
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/06—Management of faults, events, alarms or notifications
- H04L41/0654—Management of faults, events, alarms or notifications using network fault recovery
- H04L41/0663—Performing the actions predefined by failover planning, e.g. switching to standby network elements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/20—Network management software packages
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/28—Restricting access to network management systems or functions, e.g. using authorisation function to access network configuration
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Computer Security & Cryptography (AREA)
- Debugging And Monitoring (AREA)
- Computer And Data Communications (AREA)
Abstract
本申请公开了一种实现InCloudInsight管理平台高可用的方法、装置及设备，该方法包括：首先检测InCloudInsight管理平台中管理网节点网络信息和安装环境是否通过，若通过，则检测管理网所有节点是否可通过ssh正常访问，若是，则解压安装程序，得到解压的文件，然后根据解压的文件，自动安装相关依赖包，并在安装完成后进行自检，自检成功后，自动安装ambari server client，并在安装完成后进行启动；接着，按照预设检测频率和检测范围，对管理平台进行访问，并在访问成功后，重启主节点故障操作，进行主备节点切换；在切换完成后对故障状态及原因进行分析，得到分析结果，以便利用分析结果，调试管理平台的高可用效果。从而能够有效实现InCloudInsight管理平台的高可用，减少节点故障并提高用户体验。
Description
技术领域
本申请涉及计算机技术领域，尤其涉及一种实现InCloudInsight管理平台高可用的方法、装置及设备。
背景技术
InCloudInsight管理平台能够为Insight HD提供高可靠、安全、容错、易用的集群管理能力，支持大规模集群的安装部署、监控、告警、用户管理、权限管理、审计、服务管理、健康检查、问题定位、升级、补丁等，解决了Hadoop 生态系统部署，配置管理，服务状态展示、监控，报警。
目前InCloudInsight管理平台采用Ambari服务，当前Ambari社区 ambari-4016、ambari-17126提供Ambari Server高可用(HA)但未实现未发布，依然处于Open状态，现有技术方案中多数未实现，已实现的也仅仅为一主一备，如图1所示，当主Ambari Server(即图1中的Active Ambari Server) 出现宕机时，可切换至备用Ambari Server(即图1中的Standby Ambari Server)，但当Active Ambari Server恢复且Standby Ambari Server出现宕机时，却无法切换回Active Ambari Server，或者，甚至会出现此两Ambari Server同时宕机的风险，导致管理平台故障频出，因此，如何有效实现InCloudInsight管理平台的高可用，以减少节点故障并提高用户体验是目前亟待解决的问题。
发明内容
本申请实施例的主要目的在于提供一种实现InCloudInsight管理平台高可用的方法、装置及设备，能够有效实现InCloudInsight管理平台的高可用，从而减少了节点故障并提高了用户体验。
第一方面，本申请实施例提供了一种实现InCloudInsight管理平台高可用的方法，包括：
检测InCloudInsight管理平台中管理网节点网络信息和安装环境是否通过；
当所述管理网节点网络信息和安装环境检测通过时，检测所述管理网所有节点是否可通过ssh正常访问；
当所述管理网所有节点可通过ssh正常访问时，解压安装程序，得到解压的文件；
根据所述解压的文件，自动安装相关依赖包，并在安装完成后进行自检；
在自检成功后，自动安装ambari server client，并在安装完成后进行启动；
按照预设检测频率和预设检测范围，对所述InCloudInsight管理平台进行访问；
在对所述InCloudInsight管理平台访问成功后，重启主节点故障操作，进行主备节点切换；并在切换完成后对故障状态及原因进行分析，得到分析结果，以便工作人员利用所述分析结果，调试所述InCloudInsight管理平台的高可用效果。
可选的，所述方法还包括：
在不同模式下进行灾备数据的备份，并检查备份数据的完整程度；
在灾备节点启动所述ambari server client，以尝试检测访问所述管理平台。
可选的，所述方法还包括：
在预设时间切换至最佳节点，作为主节点；
增加定时任务，以将所述主节点的负载拉高触发预警。
可选的，所述预设检测频率为每隔10秒检测一次；所述预设检测范围为所述管理平台的主页访问、登录和主页展示。
第二方面，本申请实施例还提供了一种实现InCloudInsight管理平台高可用的装置，包括：
第一检测单元，用于检测InCloudInsight管理平台中管理网节点网络信息和安装环境是否通过；
第二检测单元，用于当所述管理网节点网络信息和安装环境检测通过时，检测所述管理网所有节点是否可通过ssh正常访问；
解压单元，用于当所述管理网所有节点可通过ssh正常访问时，解压安装程序，得到解压的文件；
安装单元，用于根据所述解压的文件，自动安装相关依赖包，并在安装完成后进行自检；
启动单元，用于在自检成功后，自动安装ambari server client，并在安装完成后进行启动；
访问单元，用于按照预设检测频率和预设检测范围，对所述InCloudInsight 管理平台进行访问；
分析单元，用于在对所述InCloudInsight管理平台访问成功后，重启主节点故障操作，进行主备节点切换；并在切换完成后对故障状态及原因进行分析，得到分析结果，以便工作人员利用所述分析结果，调试所述InCloudInsight管理平台的高可用效果。
可选的，所述装置还包括：
备份单元，用于在不同模式下进行灾备数据的备份，并检查备份数据的完整程度；
第三检测单元，用于在灾备节点启动所述ambari server client，以尝试检测访问所述管理平台。
可选的，所述装置还包括：
切换单元，用于在预设时间切换至最佳节点，作为主节点；
预警单元，用于增加定时任务，以将所述主节点的负载拉高触发预警。
可选的，所述预设检测频率为每隔10秒检测一次；所述预设检测范围为所述管理平台的主页访问、登录和主页展示。
本申请实施例还提供了一种实现InCloudInsight管理平台高可用的设备，包括：处理器、存储器、系统总线；
所述处理器以及所述存储器通过所述系统总线相连；
所述存储器用于存储一个或多个程序，所述一个或多个程序包括指令，所述指令当被所述处理器执行时使所述处理器执行上述实现InCloudInsight管理平台高可用的方法中的任意一种实现方式。
本申请实施例还提供了一种计算机可读存储介质，所述计算机可读存储介质中存储有指令，当所述指令在终端设备上运行时，使得所述终端设备执行上述实现InCloudInsight管理平台高可用的方法中的任意一种实现方式。
本申请实施例提供的一种实现InCloudInsight管理平台高可用的方法、装置及设备，首先检测InCloudInsight管理平台中管理网节点网络信息和安装环境是否通过，然后，当管理网节点网络信息和安装环境检测通过时，检测管理网所有节点是否可通过ssh正常访问，并当管理网所有节点可通过ssh正常访问时，解压安装程序，得到解压的文件，接着，根据解压的文件，自动安装相关依赖包，并在安装完成后进行自检，以及在自检成功后，自动安装ambari server client，并在安装完成后进行启动；进而可以按照预设检测频率和预设检测范围，对InCloudInsight管理平台进行访问，并在对InCloudInsight管理平台访问成功后，重启主节点故障操作，进行主备节点切换；以及在切换完成后对故障状态及原因进行分析，得到分析结果，以便工作人员利用分析结果，调试 InCloudInsight管理平台的高可用效果。从而能够有效实现InCloudInsight管理平台的高可用，为用户提供更高的使用体验，减少运维成本，并提高产品价值。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本申请实施例提供的目前InCloudInsight管理平台采用Ambari服务的结构示意图；
图2为本申请实施例提供的一种实现InCloudInsight管理平台高可用的方法的流程示意图；
图3为本申请实施例提供的实现InCloudInsight管理平台高可用的方法的整体示意图；
图4为本申请实施例提供的N组服务器指标数据的示意图；
图5为本申请实施例提供的综合终参指标的示意图；
图6为本申请实施例提供的一种实现InCloudInsight管理平台高可用的装置的组成示意图。
具体实施方式
目前InCloudInsight管理平台采用Ambari服务，当前Ambari社区 ambari-4016、ambari-17126提供Ambari Server高可用(HA)但未实现未发布，依然处于Open状态，现有技术方案中多数未实现，已实现的也仅仅为一主一备，如图1所示，当主Ambari Server(即图1中的Active Ambari Server) 出现宕机时，可切换至备用Ambari Server(即图1中的Standby Ambari Server)，但当Active Ambari Server恢复且Standby Ambari Server出现宕机时，却无法切换回Active Ambari Server，或者，甚至会出现此两Ambari Server同时宕机的风险，导致管理平台故障频出，因此，如何有效实现InCloudInsight管理平台的高可用，以减少节点故障并提高用户体验是目前亟待解决的问题。
为解决上述缺陷，本申请实施例提供了一种实现InCloudInsight管理平台高可用的方法，首先检测InCloudInsight管理平台中管理网节点网络信息和安装环境是否通过，然后，当管理网节点网络信息和安装环境检测通过时，检测管理网所有节点是否可通过ssh正常访问，并当管理网所有节点可通过ssh正常访问时，解压安装程序，得到解压的文件，接着，根据解压的文件，自动安装相关依赖包，并在安装完成后进行自检，以及在自检成功后，自动安装ambari server client，并在安装完成后进行启动；进而可以按照预设检测频率和预设检测范围，对InCloudInsight管理平台进行访问，并在对InCloudInsight管理平台访问成功后，重启主节点故障操作，进行主备节点切换；以及在切换完成后对故障状态及原因进行分析，得到分析结果，以便工作人员利用分析结果，调试InCloudInsight管理平台的高可用效果。从而能够有效实现InCloudInsight管理平台的高可用，为用户提供更高的使用体验，减少运维成本，并提高产品价值。
为使本申请实施例的目的、技术方案和优点更加清楚，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。
第一实施例
参见图2，为本实施例提供的一种实现InCloudInsight管理平台高可用的方法的流程示意图，该方法包括以下步骤：
S201：检测InCloudInsight管理平台中管理网节点网络信息和安装环境是否通过。
需要说明的是，在如图1所示的InCloudInsight管理平台采用的Ambari服务的结构中，已实现HA的也仅仅为一主一备，故障频出。其中，Apache Ambari 是一种基于Web的工具，支持Apache Hadoop集群的供应、管理和监控。Ambari 已支持大多数Hadoop组件，包括HDFS、MapReduce、Hive、Pig、Hbase、 Zookeeper、Sqoop和Hcatalog等。Apache Ambari支持HDFS、MapReduce、Hive、 Pig、Hbase、Zookeepr、Sqoop和Hcatalog等的集中管理。也是5个顶级hadoop 管理工具之一。除了ambari-server和ambari-agent，ambari还提供一个界面清亮的管理监控页面ambari-web，这些页面由ambari-server提供。ambari-server开放了REST API，这些API也主要分两大类，其中一类为ambari-web提供管理监控服务，另一类用于与ambari-agent交互，接受ambari-agent向ambari-server发送的心跳请求。但在现有的Ambari系统架构中，Ambari模块接受API和Agent Interface的请求，完成ambari-server的集中式管理监控逻辑，而每个agent节点只负责所在节点的状态采集及维护。
因此，在本实施例中，为了能够有效实现InCloudInsight管理平台的高可用，以减少节点故障并提高用户体验，首先需要检测InCloudInsight管理平台中管理网节点网络信息和安装环境是否通过，若是，则继续执行后续步骤S202；若否，则分析检测不通过原因(如网络信息缺失、安装等)，并根据分析结果自动处理可自动处理的问题，无法自动处理的待运维人员手动处理后继续执行步骤 S201。
S202：当管理网节点网络信息和安装环境检测通过时，检测管理网所有节点是否可通过ssh正常访问。
在本实施例中，若通过步骤S201检测出InCloudInsight管理平台中管理网节点网络信息和安装环境是通过的，则进一步可以检测管理网所有节点是否可通过ssh正常访问，若是，则继续执行后续步骤S203；若否，则分析检测不通过原因(如网络信息缺失、设备无法连接等)，再根据分析结果自动处理可自动处理的问题，无法自动处理的待运维人员手动处理后继续执行步骤S202。
S203：当管理网所有节点可通过ssh正常访问时，解压安装程序，得到解压的文件。
在本实施例中，若通过步骤S202检测出管理网所有节点是可通过ssh正常访问的，则进一步可以解压安装程序，得到解压的文件，用以执行后续步骤 S204；若否，则分析解压失败原因，再根据分析结果自动处理可自动处理的问题，例如重新拉取一遍tar包检验MD5值等，无法自动处理的待运维人员手动处理后继续执行步骤S203。
S204：根据解压的文件，自动安装相关依赖包，并在安装完成后进行自检。
在本实施例中，通过步骤S203得到解压的文件后，进一步可以根据解压的文件，自动安装相关依赖包，并在安装完成后进入自检程序，若自检成功，则执行后续步骤S205；若自检失败，则分析自检失败原因(若安装文件或命令问题、安装节点不支持等)，再根据分析结果自动处理可自动处理的问题，例如矫正文件或命令，获取缺少的程序安装包自动安装后再次自检，无法自动处理的待运维人员手动处理后继续执行步骤S204。
S205：在自检成功后，自动安装ambari server client，并在安装完成后进行启动。
在本实施例中，通过步骤S204自动安装相关依赖包，在安装并自检成功后，可以自动安装ambari server client，并在安装完成后进入自检程序，若自检成功则进行启动继续执行后续步骤S206；若自检失败，则自检失败原因(如服务状态正常则尝试重启网络、重启ambari-server-client服务方式进行自我修复)，再根据分析结果自动处理可自动处理的问题，无法自动处理的待运维人员手动处理后继续执行步骤S205。
进一步的，在启动ambari-server-client服务后，需要检测ambari-server-client 服务启动后状态，其中，检测频率为每隔10秒检测一次(频率可根据实际情况进行自定义)；检测范围为检测管理平台服务状态；检查流程为调用自动化程序接口获取管理平台服务日志信息，获取服务连接状态是否正常。
S206：按照预设检测频率和预设检测范围，对InCloudInsight管理平台进行访问。
在本实施例中，通过步骤S205自动安装ambari server client，并在安装完成后进行启动后，进一步可以自按照预设检测频率和预设检测范围，对 InCloudInsight管理平台进行访问，若访问成功，则进行继续执行后续步骤 S207；若访问失败，则按照预设频率(如每隔10秒检测一次)、范围(如检测管理平台服务状态)和流程(如调用自动化程序接口获取管理平台服务日志信息，获取服务连接状态是否正常)，检测Active管理平台服务状态。分析自检失败原因(如服务状态正常则尝试重启网络、重启ambari-server-client服务方式进行自我修复等)，并根据分析结果自动处理可自动处理的问题，例如矫正文件或命令，获取缺少的程序安装包自动安装后再次自检，无法自动处理的待运维人员手动处理后继续执行步骤S206。
其中，一种可选的实现方式是预设检测频率为每隔10秒检测一次；预设检测范围为管理平台的主页访问、登录和主页展示。
S207：在对InCloudInsight管理平台访问成功后，重启主节点故障操作，进行主备节点切换；并在切换完成后对故障状态及原因进行分析，得到分析结果，以便工作人员利用分析结果，调试InCloudInsight管理平台的高可用效果。
在本实施例中，通过步骤S206对InCloudInsight管理平台进行访问成功后，进一步可以管理平台运行过程中重启主节点故障操作，触发主备节点切换，并在切换成功后，启动管理平台检测模块初步分析故障状态及原因，在初步分析后，将日志作为分析记过保存至日志模块，并将该分析结果同步至运维平台及运维人员邮箱，以便工作人员利用分析结果，调试InCloudInsight管理平台的高可用效果。从而实现在AC端首次部署成功后，模拟一次节点故障调试当前高可用方案可用性高低，并根据结果进行调试，以提高InCloudInsight管理平台高可用性。
在此基础上，一种可选的实现方式是，为了保证数据的完整性并进一步提高InCloudInsight管理平台高可用性，可以在不同模式下进行灾备数据的备份，并检查备份数据的完整程度；进而可以在灾备节点启动ambari server client，以尝试检测访问所述管理平台，实现数据灾备同步。
此外，另一种可选的实现方式是，为了进一步提高InCloudInsight管理平台高可用性，还可以设置自动检测管理平台业务选择恰当的时间(可自定义选项，作为预设时间)，启动故障切换模块自动切换至最佳节点，作为主节点；然后再通过增加定时任务，以将主节点的负载拉高触发预警。接着，进入故障切换模块完成贮备切换，并在切换成功后，启动管理平台检测模块初步分析故障状态及原因，在初步分析后将日志保存至日志模块，并将结果同步至运维平台及运维人员邮箱，进行人工分析处理。
这样，通过执行上述步骤S201-207，逐步实现了如图3所示的实现InCloudInsight管理平台高可用方案，使得图1中的任一Ambari Agent可以依靠自身部署的AC端与集群中其他各个Ambari Agent进行通信，也就是说，图 1所示集群中的各个Ambari Agent都可以依靠自身部署的AC端实现当前Active Ambari Server的作用，从而使得集群中的“Active Ambari Server”不再局限与唯一设备，进而实现了InCloudInsight管理平台的高可用，减少了节点故障并提高了用户体验。
接下来，本申请实施例将对实现上述步骤S201-207所采用的七个功能模块及其作用进行简单介绍：
(1)程序安装配置模块
配置管理网IP：同普通的高可用配置模式和配置均不同，此配置为：将管理网所有IP均配到AC端一键安装程序配置文件。
安装程序：安装并检测AC端程序。
将AC端程序从管理平台部署程序中解压，启动一键安装，将新服务ambari-server-client安装到所有管理网节点；检测ambari-server-client已安装。
(2)管理平台检测模块
管理平台检测模块可设置固定频率，用于检测管理平台可用性，检测 Active管理平台服务状态，检查数据保存在集群数据库中。通过设置检测频率、检测范围、检查账号、检查流程实现。
例如：检测管理平台访问：在已安装AC端的节点上，管理平台检测模块可设置固定频率，用于检测管理平台可用性，检测Active管理平台服务状态, 检查数据保存在集群数据库中。
检测管理平台主页访问：
检测频率：每隔10秒检测一次(频率可自定义)；
检测范围：平台主页访问、登录、主页展示；
检查账号：超级管理员；
检查流程：调用自动化程序接口访问平台主页、检测超级管理员登录、平台主页展示等信息是否正常。
检测Active管理平台服务状态：
检测频率：每隔10秒检测一次(频率可自定义)；
检测范围：检测管理平台服务状态；
检查流程：调用自动化程序接口获取管理平台服务日志信息，获取服务连接状态是否正常。
(3)最佳节点管理模块
负责最佳节点选举及管理，负责最佳节点程序部署。
首先，集群启动时间点为time1，获取管理平台所在节点I/O、Job、磁盘、 CPU、网络、内存、电源、运行时间各项指标。通过iostat获取当前I/O详细指标；通过jobs–l获取当前Job详细指标；通过df获取当前磁盘详细指标；通过top获取当前CPU详细指标和运行时间详细指标；通过netstat获取当前网络详细指标；通过free获取当前内存详细指标；通过System Power Supply 获取当前电源详细指标。
其次，每隔管理平台Agent心跳间隔时间(默认时间，可设置)获取一次服务器各项指标。
接着，当前时间为timeN，即当前有N组服务器指标数据，如图4所示。
进而，可以根据获取的参数计算得到综合终参指标，如图5所示。再通过本地机架感知系统根据综合评价值对节点排序，进一步再将最佳节点同步到故障切换模块和预警模块。
最后，每隔预设时间(如10分钟)选举出当前最佳节点存储在数据库数据表中，供故障切换模块调用。当安装程序完成、主节点故障两种情形下直接启动一次选举提供给故障切换模块。再每隔预设时间(如24小时)自动删除历史选举的节点数据，实现最佳节点的管理。
(4)故障切换模块
节点的AC端首次部署成功后，可以模拟一次节点故障调试当前高可用方法的可用性高低。具体的，首先，管理平台运行过程中主节点故障后，负责完成主备切换；然后，切换完成后负责启动管理平台检测模块；接着，切换完成后负责初步分析故障状态及原因；进而可以在初步分析后将结果同步至运维平台及运维人员邮箱。
(5)日志模块
负责保存管理平台所有相关日志，并将日志根据定义的级别分类展示到运维系统查阅，以供追溯问题。
(6)灾备模块
将本地数据中心集群管理平台应用及数据异步备份至异地灾备中心，将高可用指数提高一个量级。
具体来讲，首先，根据具体情况任选一种触发模式，如下所示：
定频模式：例如every 1min。
定时模式：例如at“2020-07-20 15:00:00”。
定频定时模式：例如every 20sec from“2020-07-20 15:00:00”。
定频定时定次模式：例如every 20sec from“2020-07-20 15:00:00”+10min。
一次立即触发模式：例如at now。
然后，选择管理平台应用及数据路径。即，匹配执行所指定的路径，路径为执行操作的路径，例如：path matches“/path/*”。
接着，选择异地目标节点IP。即，匹配目标节点active NameNode IP地址，将数据增量备份至目标节点，例如：sync-dest hdfs://ip:8020/manager/。
(7)预警模块
获取最佳节点管理模块节点负载排序，设当前管理网节点总数为N，当前主节点负载排名后半区即发出预警，自动检测管理平台业务选择恰当的时间 (可自定义选项，作为预设时间)，启动故障切换模块自动切换至最佳节点。
综上，本实施例提供的一种实现InCloudInsight管理平台高可用的方法，首先检测InCloudInsight管理平台中管理网节点网络信息和安装环境是否通过，然后，当管理网节点网络信息和安装环境检测通过时，检测管理网所有节点是否可通过ssh正常访问，并当管理网所有节点可通过ssh正常访问时，解压安装程序，得到解压的文件，接着，根据解压的文件，自动安装相关依赖包，并在安装完成后进行自检，以及在自检成功后，自动安装ambari server client，并在安装完成后进行启动；进而可以按照预设检测频率和预设检测范围，对 InCloudInsight管理平台进行访问，并在对InCloudInsight管理平台访问成功后，重启主节点故障操作，进行主备节点切换；以及在切换完成后对故障状态及原因进行分析，得到分析结果，以便工作人员利用分析结果，调试InCloudInsight管理平台的高可用效果。从而能够有效实现InCloudInsight管理平台的高可用，为用户提供更高的使用体验，减少运维成本，并提高产品价值。
第二实施例
本实施例将对一种实现InCloudInsight管理平台高可用的装置进行介绍，相关内容请参见上述方法实施例。
参见图6，为本实施例提供的一种实现InCloudInsight管理平台高可用的装置的组成示意图，该装置包括：
第一检测单元601，用于检测InCloudInsight管理平台中管理网节点网络信息和安装环境是否通过；
第二检测单元602，用于当所述管理网节点网络信息和安装环境检测通过时，检测所述管理网所有节点是否可通过ssh正常访问；
解压单元603，用于当所述管理网所有节点可通过ssh正常访问时，解压安装程序，得到解压的文件；
安装单元604，用于根据所述解压的文件，自动安装相关依赖包，并在安装完成后进行自检；
启动单元605，用于在自检成功后，自动安装ambari server client，并在安装完成后进行启动；
访问单元606，用于按照预设检测频率和预设检测范围，对所述 InCloudInsight管理平台进行访问；
分析单元607，用于在对所述InCloudInsight管理平台访问成功后，重启主节点故障操作，进行主备节点切换；并在切换完成后对故障状态及原因进行分析，得到分析结果，以便工作人员利用所述分析结果，调试所述InCloudInsight 管理平台的高可用效果。
在本实施例的一种实现方式中，所述装置还包括：
备份单元，用于在不同模式下进行灾备数据的备份，并检查备份数据的完整程度；
第三检测单元，用于在灾备节点启动所述ambari server client，以尝试检测访问所述管理平台。
在本实施例的一种实现方式中，所述装置还包括：
切换单元，用于在预设时间切换至最佳节点，作为主节点；
预警单元，用于增加定时任务，以将所述主节点的负载拉高触发预警。
在本实施例的一种实现方式中，所述预设检测频率为每隔10秒检测一次；所述预设检测范围为所述管理平台的主页访问、登录和主页展示。
综上，本实施例提供的一种实现InCloudInsight管理平台高可用的装置，首先检测InCloudInsight管理平台中管理网节点网络信息和安装环境是否通过，然后，当管理网节点网络信息和安装环境检测通过时，检测管理网所有节点是否可通过ssh正常访问，并当管理网所有节点可通过ssh正常访问时，解压安装程序，得到解压的文件，接着，根据解压的文件，自动安装相关依赖包，并在安装完成后进行自检，以及在自检成功后，自动安装ambari server client，并在安装完成后进行启动；进而可以按照预设检测频率和预设检测范围，对 InCloudInsight管理平台进行访问，并在对InCloudInsight管理平台访问成功后，重启主节点故障操作，进行主备节点切换；以及在切换完成后对故障状态及原因进行分析，得到分析结果，以便工作人员利用分析结果，调试InCloudInsight管理平台的高可用效果。从而能够有效实现InCloudInsight管理平台的高可用，为用户提供更高的使用体验，减少运维成本，并提高产品价值。
进一步地，本申请实施例还提供了一种实现InCloudInsight管理平台高可用的设备，包括：处理器、存储器、系统总线；
所述处理器以及所述存储器通过所述系统总线相连；
所述存储器用于存储一个或多个程序，所述一个或多个程序包括指令，所述指令当被所述处理器执行时使所述处理器执行上述实现InCloudInsight管理平台高可用的方法的任一种实现方法。
进一步地，本申请实施例还提供了一种计算机可读存储介质，所述计算机可读存储介质中存储有指令，当所述指令在终端设备上运行时，使得所述终端设备执行上述实现InCloudInsight管理平台高可用的方法的任一种实现方法。
通过以上的实施方式的描述可知，本领域的技术人员可以清楚地了解到上述实施例方法中的全部或部分步骤可借助软件加必需的通用硬件平台的方式来实现。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在存储介质中，如ROM/RAM、磁碟、光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者诸如媒体网关等网络通信设备，等等) 执行本申请各个实施例或者实施例的某些部分所述的方法。
需要说明的是，本说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似部分互相参见即可。对于实施例公开的装置而言，由于其与实施例公开的方法相对应，所以描述的比较简单，相关之处参见方法部分说明即可。
还需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
对所公开的实施例的上述说明，使本领域专业技术人员能够实现或使用本申请。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的，本文中所定义的一般原理可以在不脱离本申请的精神或范围的情况下，在其它实施例中实现。因此，本申请将不会被限制于本文所示的这些实施例，而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
Claims (9)
1.一种实现InCloudInsight管理平台高可用的方法，其特征在于，包括：
检测InCloudInsight管理平台中管理网节点网络信息和安装环境是否通过；
当所述管理网节点网络信息和安装环境检测通过时，检测所述管理网所有节点是否可通过ssh正常访问；
当所述管理网所有节点可通过ssh正常访问时，解压安装程序，得到解压的文件；所述安装程序为tar包，用于检验MD5值；
根据所述解压的文件，自动安装相关依赖包，并在安装完成后进行自检；
在自检成功后，自动安装ambari server client，并在安装完成后进行启动；
按照预设检测频率和预设检测范围，对所述InCloudInsight管理平台进行访问；
在对所述InCloudInsight管理平台访问成功后，重启主节点故障操作，进行主备节点切换；并在切换完成后对故障状态及原因进行分析，得到分析结果，以便工作人员利用所述分析结果，调试所述InCloudInsight管理平台的高可用效果；所述主备节点为用于启动ambari server client的节点；
所述检测InCloudInsight管理平台中管理网节点网络信息和安装环境是否通过，包括；
通过判断InCloudInsight管理平台中管理网节点网络信息是否缺失，安装环境是否连接正常，以得到判断结果，并基于所述判断结果确定检测是否通过；
所述按照预设检测频率和预设检测范围，对所述InCloudInsight管理平台进行访问，包括：
判断对所述InCloudInsight管理平台是否访问成功；
若访问失败，则通过启动后的所述ambari server client、并基于所述预设检测频率、所述预设检测范围以及检测流程检测所述InCloudInsight管理平台服务状态，以得到检测结果；所述预设检测频率为每隔10秒检测一次；所述预设检测范围为所述管理平台的主页访问、登录和主页展示；所述检测流程包含调用自动化程序接口获取管理平台服务日志信息、获取服务连接状态是否正常；
基于所述检测结果确定访问失败的失败原因，并基于所述失败原因执行自动处理操作，在自动处理完成后重新进入所述按照预设检测频率和预设检测范围，对所述InCloudInsight管理平台进行访问的步骤。
2.根据权利要求1所述的方法，其特征在于，所述方法还包括：
在不同模式下进行灾备数据的备份，并检查备份数据的完整程度；
在灾备节点启动所述ambari server client，以尝试检测访问所述管理平台。
3.根据权利要求1所述的方法，其特征在于，所述方法还包括：
在预设时间切换至最佳节点，作为主节点；
增加定时任务，以将所述主节点的负载拉高触发预警。
4.一种实现InCloudInsight管理平台高可用的装置，其特征在于，包括：
第一检测单元，用于检测InCloudInsight管理平台中管理网节点网络信息和安装环境是否通过；
第二检测单元，用于当所述管理网节点网络信息和安装环境检测通过时，检测所述管理网所有节点是否可通过ssh正常访问；
解压单元，用于当所述管理网所有节点可通过ssh正常访问时，解压安装程序，得到解压的文件；所述安装程序为tar包，用于检验MD5值；
安装单元，用于根据所述解压的文件，自动安装相关依赖包，并在安装完成后进行自检；
启动单元，用于在自检成功后，自动安装ambari server client，并在安装完成后进行启动；
访问单元，用于按照预设检测频率和预设检测范围，对所述InCloudInsight管理平台进行访问；
分析单元，用于在对所述InCloudInsight管理平台访问成功后，重启主节点故障操作，进行主备节点切换；并在切换完成后对故障状态及原因进行分析，得到分析结果，以便工作人员利用所述分析结果，调试所述InCloudInsight管理平台的高可用效果；所述主备节点为用于启动ambari server client的节点；
所述装置还用于：通过判断InCloudInsight管理平台中管理网节点网络信息是否缺失，安装环境是否连接正常，以得到判断结果，并基于所述判断结果确定检测是否通过；判断对所述InCloudInsight管理平台是否访问成功；若访问失败，则通过启动后的所述ambari server client、并基于所述预设检测频率、所述预设检测范围以及检测流程检测所述InCloudInsight管理平台服务状态，以得到检测结果；所述预设检测频率为每隔10秒检测一次；所述预设检测范围为所述管理平台的主页访问、登录和主页展示；所述检测流程包含调用自动化程序接口获取管理平台服务日志信息、获取服务连接状态是否正常；基于所述检测结果确定访问失败的失败原因，并基于所述失败原因执行自动处理操作，在自动处理完成后重新进入所述按照预设检测频率和预设检测范围，对所述InCloudInsight管理平台进行访问的步骤。
5.根据权利要求4所述的装置，其特征在于，所述装置还包括：
备份单元，用于在不同模式下进行灾备数据的备份，并检查备份数据的完整程度；
第三检测单元，用于在灾备节点启动所述ambari server client，以尝试检测访问所述管理平台。
6.根据权利要求4所述的装置，其特征在于，所述装置还包括：
切换单元，用于在预设时间切换至最佳节点，作为主节点；
预警单元，用于增加定时任务，以将所述主节点的负载拉高触发预警。
7.根据权利要求4-6任一项所述的装置，其特征在于，所述预设检测频率为每隔10秒检测一次；所述预设检测范围为所述管理平台的主页访问、登录和主页展示。
8.一种实现InCloudInsight管理平台高可用的设备，其特征在于，包括：处理器、存储器、系统总线；
所述处理器以及所述存储器通过所述系统总线相连；
所述存储器用于存储一个或多个程序，所述一个或多个程序包括指令，所述指令当被所述处理器执行时使所述处理器执行权利要求1-3任一项所述的方法。
9.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质中存储有指令，当所述指令在终端设备上运行时，使得所述终端设备执行权利要求1-3任一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111166644.4A CN114039848B (zh) | 2021-09-30 | 2021-09-30 | 一种实现InCloudInsight管理平台高可用的方法、装置及设备 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111166644.4A CN114039848B (zh) | 2021-09-30 | 2021-09-30 | 一种实现InCloudInsight管理平台高可用的方法、装置及设备 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN114039848A CN114039848A (zh) | 2022-02-11 |
| CN114039848B true CN114039848B (zh) | 2024-07-02 |
Family
ID=80134708
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202111166644.4A Active CN114039848B (zh) | 2021-09-30 | 2021-09-30 | 一种实现InCloudInsight管理平台高可用的方法、装置及设备 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN114039848B (zh) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN115242617A (zh) * | 2022-07-27 | 2022-10-25 | 济南浪潮数据技术有限公司 | 一种大数据集群及其操作权限控制方法、相关组件 |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN105141456A (zh) * | 2015-08-25 | 2015-12-09 | 山东超越数控电子有限公司 | 一种高可用集群资源监控方法 |
| CN111475320A (zh) * | 2020-03-31 | 2020-07-31 | 苏州浪潮智能科技有限公司 | 一种计算平台的高可用性检测方法、计算平台及存储介质 |
Family Cites Families (15)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN107026760B (zh) * | 2017-05-03 | 2020-03-20 | 联想(北京)有限公司 | 一种故障修复方法及监控节点 |
| US20190212923A1 (en) * | 2018-01-11 | 2019-07-11 | Robin Systems, Inc. | Implementing An Interface To A High-Availability Storage System In A Distributed Computing System |
| US11329885B2 (en) * | 2018-06-21 | 2022-05-10 | International Business Machines Corporation | Cluster creation using self-aware, self-joining cluster nodes |
| CN109067599B (zh) * | 2018-09-25 | 2021-06-18 | 浪潮云信息技术股份公司 | 一种部署集群的方法及装置 |
| CN112527323A (zh) * | 2019-09-17 | 2021-03-19 | 北京国双科技有限公司 | 一种安装Ambari的方法、装置和Ambari架构 |
| CN111209539A (zh) * | 2019-12-25 | 2020-05-29 | 杭州安恒信息技术股份有限公司 | 基于ambari心跳机制实现license检测功能的方法 |
| CN111459502A (zh) * | 2020-03-18 | 2020-07-28 | 紫光云技术有限公司 | 基于Ambari-Blueprint云上部署大数据服务的方法 |
| CN111538625B (zh) * | 2020-04-29 | 2023-03-28 | 西安交通大学 | 基于Docker技术的Ambari集群部署、数据备份方法及电子设备 |
| CN111641680A (zh) * | 2020-05-11 | 2020-09-08 | 紫光云技术有限公司 | 一种Ambari高可用集群的管理方法 |
| CN111641521B (zh) * | 2020-05-11 | 2023-05-09 | 紫光云技术有限公司 | 一种基于Ambari的云上部署大数据集群的方法 |
| CN112003721B (zh) * | 2020-07-15 | 2022-10-14 | 苏州浪潮智能科技有限公司 | 一种大数据平台管理节点高可用的实现方法及装置 |
| CN112650555B (zh) * | 2020-12-25 | 2022-09-20 | 苏州浪潮智能科技有限公司 | 一种管理平台的开发及测试方法、系统及介质 |
| CN113204353B (zh) * | 2021-04-27 | 2022-08-30 | 新华三大数据技术有限公司 | 一种大数据平台组件部署方法及装置 |
| CN113329102B (zh) * | 2021-08-04 | 2021-10-29 | 苏州浪潮智能科技有限公司 | 一种Ambari Server系统及网络请求响应方法 |
| CN113347066B (zh) * | 2021-08-04 | 2021-10-29 | 苏州浪潮智能科技有限公司 | 请求处理方法、Ambari架构、设备及可读存储介质 |
-
2021
- 2021-09-30 CN CN202111166644.4A patent/CN114039848B/zh active Active
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN105141456A (zh) * | 2015-08-25 | 2015-12-09 | 山东超越数控电子有限公司 | 一种高可用集群资源监控方法 |
| CN111475320A (zh) * | 2020-03-31 | 2020-07-31 | 苏州浪潮智能科技有限公司 | 一种计算平台的高可用性检测方法、计算平台及存储介质 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN114039848A (zh) | 2022-02-11 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN108847982B (zh) | 一种分布式存储集群及其节点故障切换方法和装置 | |
| US20170116084A1 (en) | Method and System for Monitoring Virtual Machine Cluster | |
| US9189348B2 (en) | High availability database management system and database management method using same | |
| US11182253B2 (en) | Self-healing system for distributed services and applications | |
| CN112506702B (zh) | 数据中心容灾方法、装置、设备及存储介质 | |
| CN108710673B (zh) | 实现数据库高可用方法、系统、计算机设备和存储介质 | |
| CN109144789B (zh) | 一种重启osd的方法、装置及系统 | |
| Lu et al. | Cloud API issues: an empirical study and impact | |
| JP2017201470A (ja) | 設定支援プログラム、設定支援方法及び設定支援装置 | |
| CN108199901B (zh) | 硬件报修方法、系统、设备、硬件管理服务器与存储介质 | |
| CN114039848B (zh) | 一种实现InCloudInsight管理平台高可用的方法、装置及设备 | |
| CN110063042A (zh) | 一种数据库故障的响应方法及其终端 | |
| CN109600264A (zh) | CloudStack云平台 | |
| CN116302352A (zh) | 集群灾备处理方法、装置、电子设备和存储介质 | |
| US7206975B1 (en) | Internal product fault monitoring apparatus and method | |
| CN108011783B (zh) | 一种诊断服务器的备份方法和备份系统 | |
| CN110134558B (zh) | 一种服务器的检测方法和装置 | |
| CN106911508B (zh) | Dns配置的恢复方法和装置 | |
| CN111342986A (zh) | 分布式节点管理方法及装置、分布式系统、存储介质 | |
| CN111124724B (zh) | 一种分布式块存储系统的节点故障测试方法及装置 | |
| Huang et al. | PDA: A Tool for Automated Problem Determination. | |
| CN110716922A (zh) | 基于Inception的数据库运维方法、装置、计算机设备及存储介质 | |
| US7979238B2 (en) | System, method and computer program product for evaluating a test of an alternative system | |
| JP2003345628A (ja) | 障害調査資料採取方法及びその実施システム並びにその処理プログラム | |
| CN113987065A (zh) | 数据库漂移方法、系统、电子设备和存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant |