CN115757417A - HBase表的运维方法、装置、设备、存储介质和程序产品 - Google Patents
HBase表的运维方法、装置、设备、存储介质和程序产品 Download PDFInfo
- Publication number
- CN115757417A CN115757417A CN202211488904.4A CN202211488904A CN115757417A CN 115757417 A CN115757417 A CN 115757417A CN 202211488904 A CN202211488904 A CN 202211488904A CN 115757417 A CN115757417 A CN 115757417A
- Authority
- CN
- China
- Prior art keywords
- hbase table
- hbase
- determining
- state
- availability
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Debugging And Monitoring (AREA)
Abstract
本公开提供了一种HBase表的运维方法,涉及大数据技术领域,可以应用于金融科技领域。应用于联机分析平台,所述联机分析平台用于监控基于HBase数据存储的联机查询服务化接口的可用性。所述运维方法包括:响应于所述联机分析平台的监控指令,确定全量HBase表的可用性状态;获取目标HBase表的业务数据量和当前分区数量,所述目标HBase表的可用性状态为可用;以及根据所述业务数据量和预设算法对所述当前分区数量进行动态调整,其中,所述预设算法用于根据所述业务数据量确定理论分区数量。本公开还提供了一种HBase表的运维装置、设备、存储介质和程序产品。
Description
技术领域
本公开涉及大数据技术领域,具体涉及分布式存储技术领域,更具体地涉及一种HBase表的运维方法、装置、设备、存储介质和程序产品。
背景技术
在商业银行大数据联机分析平台监控体系中,支持对基于HBase数据存储的联机查询服务化接口可用性的监控,同时支持对接入大数据平台的应用相关业务交易链路的指标监控。但目前缺乏对底层列式数据库HBase业务数据表可用性以及分区数量合理性的监控运维方案。
需要说明的是,在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解,因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。
发明内容
鉴于上述问题,本公开提供了HBase表的运维方法、装置、设备、存储介质和程序产品。
根据本公开的第一个方面,提供了一种HBase表的运维方法,应用于联机分析平台,所述联机分析平台用于监控基于HBase数据存储的联机查询服务化接口的可用性,所述运维方法包括:
响应于所述联机分析平台的监控指令,确定全量HBase表的可用性状态;
获取目标HBase表的业务数据量和当前分区数量,所述目标HBase表的可用性状态为可用;以及
根据所述业务数据量和预设算法对所述当前分区数量进行动态调整,
其中,所述预设算法用于根据所述业务数据量确定理论分区数量。
根据本公开的实施例,所述确定全量HBase表的可用性状态包括:
定时获取全量HBase表清单;
根据预设并发数和线程数分批次确定HBase表清单中每一HBase表的读状态和写状态;
当所述HBase表的读状态和所述HBase表的写状态均为可用时,确定所述HBase表的可用性状态为可用;以及
当所述HBase表的读状态和所述HBase表的写状态中任一项为不可用时,确定所述HBase表的可用性状态为不可用。
根据本公开的实施例,所述根据预设并发数和线程数分批次确定HBase表清单中每一HBase表的读状态和写状态包括:
根据预设并发数和线程数分批次调用scan方法读取所述每一HBase表;
在获取读取返回结果后,调用put方法向所述每一HBase表写入时间戳数据;以及
根据所述读取返回结果和写入返回结果确定所述每一HBase表的读状态和写状态。
根据本公开的实施例,所述根据所述业务数据量和预设算法对所述当前分区数量进行动态调整包括:
根据预设算法和所述业务数据量确定目标HBase表的理论分区数量;
若确定所述当前分区数量大于所述理论分区数量,对所述目标HBase的当前分区进行合并调整;
若确定所述当前分区数量小于所述理论分区数量,对所述目标HBase的当前分区进行扩展调整。
根据本公开的实施例,还包括:
将全量HBase表的可用性状态进行可视化展示。
根据本公开的实施例,当确定HBase表的可用性状态为不可用时,发送告警信息。
根据本公开的实施例,所述预设算法预先存储有分区数量与业务数据量的映射关系。
本公开的第二方面提供了一种HBase表的运维装置,部署于联机分析平台,所述联机分析平台用于监控基于HBase数据存储的联机查询服务化接口的可用性,所述运维装置包括:
确定模块,用于响应于所述联机分析平台的监控指令,确定全量HBase表的可用性状态;
获取模块,用于获取目标HBase表的业务数据量和当前分区数量,其中,所述目标HBase表的可用性状态为可用;以及
分区调整模块,用于根据所述业务数据量和预设算法对所述当前分区数量进行动态调整,
其中,所述预设算法用于根据所述业务数据量确定理论分区数量。
根据本公开的实施例,确定模块包括:
获取子模块,用于定时获取全量HBase表清单;
第一确定子模块,用于根据预设并发数和线程数分批次确定HBase表清单中每一HBase表的读状态和写状态;
第二确定子模块,当所述HBase表的读状态和所述HBase表的写状态均为可用时,确定所述HBase表的可用性状态为可用;以及
第三确定子模块,用于当所述HBase表的读状态和所述HBase表的写状态中任一项为不可用时,确定所述HBase表的可用性状态为不可用。
根据本公开的实施例,第一确定子模块包括:
读取单元,用于根据预设并发数和线程数分批次调用scan方法读取所述每一HBase表;
写入单元,用于在获取读取返回结果后,调用put方法向所述每一HBase表写入时间戳数据;以及
确定单元,用于根据所述读取返回结果和写入返回结果确定所述每一HBase表的读状态和写状态。
根据本公开的实施例,分区调整模块包括:
第四确定子模块,用于根据预设算法和所述业务数据量确定目标HBase表的理论分区数量;
第五确定子模块,用于若确定所述当前分区数量大于所述理论分区数量,对所述目标HBase的当前分区进行合并调整;
第六确定子模块,用于若确定所述当前分区数量小于所述理论分区数量,对所述目标HBase的当前分区进行扩展调整。
根据本公开的实施例,还包括:
展示模块,用于将全量HBase表的可用性状态进行可视化展示。
根据本公开的实施例,还包括:
告警模块,用于当确定HBase表的可用性状态为不可用时,发送告警信息。
本公开的第三方面提供了一种电子设备,包括:一个或多个处理器;存储器,用于存储一个或多个程序,其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得一个或多个处理器执行上述HBase表的运维方法。
本公开的第四方面还提供了一种计算机可读存储介质,其上存储有可执行指令,该指令被处理器执行时使处理器执行上述HBase表的运维方法。
本公开的第五方面还提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现上述HBase表的运维方法。
通过本公开的实施例提供的一种HBase表的运维方法,通过调用预先封装的读写接口定时获取全量HBase表的可用性状态,并确定可用性状态为可用的目标HBase表,根据目标HBase表的业务数据量对该目标HBase表的当前分区数量进行动态调整,实现资源的有效利用,从而提高应用服务的可用性,提高用户体验。
附图说明
通过以下参照附图对本公开实施例的描述,本公开的上述内容以及其他目的、特征和优点将更为清楚,在附图中:
图1示意性示出了根据本公开实施例的HBase表的运维方法、装置、设备、介质和程序产品的应用场景图;
图2示意性示出了根据本公开实施例提供的一种HBase表的运维方法的流程图;
图3示意性示出了根据本公开实施例提供的全量HBase表的可用性状态的确定方法的流程图之一;
图4示意性示出了根据本公开实施例提供的全量HBase表的可用性状态的确定方法的流程图之二;
图5示意性示出了根据本公开实施例提供的根据所述业务数据量和预设算法对所述当前分区数量进行动态调整的流程图;
图6示意性示出了根据本公开实施例的一种HBase表的运维装置的结构框图;以及
图7示意性示出了根据本公开实施例的适于实现HBase表的运维方法的电子设备的方框图。
具体实施方式
以下,将参照附图来描述本公开的实施例。但是应该理解,这些描述只是示例性的,而并非要限制本公开的范围。在下面的详细描述中,为便于解释,阐述了许多具体的细节以提供对本公开实施例的全面理解。然而,明显地,一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外,在以下说明中,省略了对公知结构和技术的描述,以避免不必要地混淆本公开的概念。
在此使用的术语仅仅是为了描述具体实施例,而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在,但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义,除非另外定义。应注意,这里使用的术语应解释为具有与本说明书的上下文相一致的含义,而不应以理想化或过于刻板的方式来解释。
在使用类似于“A、B和C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。
基于上述技术问题,本公开的实施例提供了一种HBase表的运维方法,应用于联机分析平台,所述联机分析平台用于监控基于HBase数据存储的联机查询服务化接口的可用性,所述运维方法包括:响应于所述联机分析平台的监控指令,确定全量HBase表的可用性状态;获取目标HBase表的业务数据量和当前分区数量,所述目标HBase表的可用性状态为可用;以及根据所述业务数据量和预设算法对所述当前分区数量进行动态调整,其中,所述预设算法用于根据所述业务数据量确定理论分区数量。
图1示意性示出了根据本公开实施例的HBase表的运维方法、装置、设备、介质和程序产品的应用场景图。
如图1所示,根据该实施例的应用场景100可以包括HBase表运维场景。网络104用以在终端设备1 01、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器105可以是为联机分析平台服务器,提供对Hbase数据存储查询服务化接口的监控服务,例如响应于监控指令,对目标Hbase集群中的Hbase表以及分区数量进行监控。联机分析平台服务器根据目标HBase表的业务数据量对当前分区数量进行调整。
需要说明的是,本公开实施例所提供的HBase表的运维方法一般可以由服务器105执行。相应地,本公开实施例所提供的HBase表的运维方法装置一般可以设置于服务器105中。本公开实施例所提供的HBase表的运维方法也可以由不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群执行。相应地,本公开实施例所提供的HBase表的运维方法装置也可以设置于不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群中。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
需要说明的是,本公开实施例确定的HBase表的运维方法和装置可用于大数据技术领域,也可用于金融技术领域,还可用于除金融领域之外的任意领域,本公开实施例确定的HBase表的运维方法和装置的应用领域不做限定。
以下将基于图1描述的场景,通过图2对本公开实施例的HBase表的运维方法进行详细描述。
图2示意性示出了根据本公开实施例提供的一种HBase表的运维方法的流程图。如图2所示,该实施例的HBase表的运维方法包括操作S210~操作S230,该方法可以由服务器或其他计算设备执行。
本公开实施例提供的运维方法可以由联机分析平台执行,在商业银行大数据联机分析平台监控体系中,支持对基于HBase数据存储的联机查询服务化接口可用性的监控,同时支持对接入大数据平台的应用相关业务交易链路的指标监控。在联机分析平台应用服务器部署HBase集群的Hadoop客户端,用于连接至目标HBase集群。目标HBase集群即为待监控集群
在操作S210,响应于所述联机分析平台的监控指令,确定全量HBase表的可用性状态。
在操作S220,获取目标HBase表的业务数据量和当前分区数量。
根据本公开的实施例,所述目标HBase表的可用性状态为可用。
在操作S230,根据所述业务数据量和预设算法对所述当前分区数量进行动态调整。
根据本公开的实施例,所述预设算法用于根据所述业务数据量确定理论分区数量。
一个示例中,当接收到联机分析平台的监控指令后,通过部署在联机分析平台应用服务器的Hadoop客户端,连接至需要监控的目标HBase集群,调用scan(批量读取),get(单条读取),pvt(写入)等对数据库进行查询或读写的接口对目标HBase集群的HBase业务表进行读取写入操作,以模拟正常业务场景下对HBase数据库增删查改的操作,通过返回结果确定HBase表的可用性状态。具体过程可参见图3所示的操作S211~操作S213。
在操作S210之后,获取可用性状态为可用的HBase表的业务数据量,该业务数据量是随着业务的开展动态变化的,当业务数据量增长过快,而业务表对应分区数量不变时,此时容易影响数据库查询性能,进而影响用户的体验。当业务数据量较少,对应分区数量不变,则导致集群资源的浪费,因此为了实现对分区数的动态调整,执行操作S220获取目标HBase表的业务数据量以及当前的分区数量。根据获取到的目标HBase表的业务数据量和预算算法进行换算得到一个最优选的理论分区数,根据该理论分区数对当前分区数量进行合并或扩展,从而实现分数数量的动态调整,提高资源的利用率。对分区进行动态调整的过程可参见图5所示的操作S231~操作S233。
通过本公开的实施例提供的一种HBase表的运维方法,通过获取全量HBase表的可用性状态,并确定可用性状态为可用的为目标HBase表,根据目标HBase表的业务数据量对该目标HBase表的当前分区数量进行动态调整,实现HBase表的智能运维,提高资源的利用率,提高应用服务的可用性,进而提高用户体验。
图3示意性示出了根据本公开实施例提供的全量HBase表的可用性状态的确定方法的流程图之一。图4示意性示出了根据本公开实施例提供的全量HBase表的可用性状态的确定方法的流程图之二。如图3所示,操作S210包括操作S211~操作S214。
在操作S211,定时获取全量HBase表清单。
在操作S212,根据预设并发数和线程数分批次确定HBase表清单中每一HBase表的读状态和写状态。
如图4所示,操作S212包括操作S2121~操作S2123。
在操作S2121,根据预设并发数和线程数分批次调用scan方法读取所述每一HBase表。在操作S2122,在获取读取返回结果后,调用put方法向所述每一HBase表写入时间戳数据。在操作S2123,根据所述读取返回结果和写入返回结果确定所述每一HBase表的读状态和写状态。
在操作S213,当所述HBase表的读状态和所述HBase表的写状态均为可用时,确定所述HBase表的可用性状态为可用。
在操作S214,当所述HBase表的读状态和所述HBase表的写状态中任一项为不可用时,确定所述HBase表的可用性状态为不可用。
一个示例中,在联机分析平台应用服务器部署联机查询服务的JAVA客户端,客户端中集成了向HBase集群发起scan(批量读取),get(单条读取),put(写入)的接口;通过查询联机分析平台mysql知识库中的kva_tables表,拉取全部接入大数据联机平台应用全量的HBase业务数据表清单。将所拉取表清单存储至此前所部署客户端的应用服务器,设置并发与线程数,分批次地读取表清单,每张表分表调用联机查询服务的JAVA客户端的scan方法向集群发起表扫描读的请求,以模拟应用服务对数据库表的读操作。并且为了防止读取结果过多导致响应较慢或内存溢出,调用scan方法时限制返回结果为1条数据。调用完成后,再调用put方法向表中写入一条主键为当前时间戳的数据,以模拟应用服务对数据库表的写操作。
如果一张表调用scan方法返回结果为成功(成功返回数据或者返回数据为空均可),同时调用put方法也成功,则向mysql知识库中插入一条记录,记录该表当前时间读写均正常;如果调用scan方法不返回结果,则记录读失败;调用put方法不返回结果,则记录写失败。将信息写入mysql知识库中。
可拓展的,根据本公开的实施例,还包括:
将全量HBase表的可用性状态进行可视化展示。
当确定HBase表的可用性状态为不可用时,发送告警信息。
一个示例中,构建前台图形化监控页面,动态展示所有应用表服务可用性状态。通过检索mysql知识库中所有应用表检查结果,判断该应用所属Hbase表服务是否正常。如果应用所属表均读写正常,则记录该应用状态为“绿”(表征服务正常,仅为示例),如果存在表读写异常记录,则记录该应用状态为“红”(表征服务异常,仅为示例),并通过点击红色按钮显示所有存在服务异常的表清单。同时向运维工作人员发送告警信息。
图5示意性示出了根据本公开实施例提供的根据所述业务数据量和预设算法对所述当前分区数量进行动态调整的流程图。如图5所示,操作S230包括操作S231~操作S233。
在操作S231,根据预设算法和所述业务数据量确定目标HBase表的理论分区数量。
在操作S232,若确定所述当前分区数量大于所述理论分区数量,对所述目标HBase的当前分区进行合并调整。
在操作S233,若确定所述当前分区数量小于所述理论分区数量,对所述目标HBase的当前分区进行扩展调整。
一个示例中,通过调用部署的hbase_compact运维组件中的count方法,扫描所有表的业务数据量,同时按照预设算法进行换算出理论分区数量。所述预设算法预先存储有分区数量与业务数据量的映射关系,该映射关系可以根据如下公式确定的。理论分区数量N为:
其中,M为集群region最大可承载的数据量,B为业务总数据量,M和B的单位均为GB。
一个示例中,Hbase集群有一个hbase.hregion.max.filesize,这个是集群分区最大可承载的数据量大小,默认为10GB。为了保证分区的可用性,将最大值的一半作为理论阈值,即5GB,5GB数据量对应约500万条数据,在本公开实施例中,1条数据量大小约为1KB。若确定所述当前分区数量小于理论分区数量N,则表征该表数据量所需region分区数不足,当前分区数据量大于500万条,则对所述目标HBase的当前分区进行扩展调整,具体的,调用hbase_compact组件中的split方法,将每个region分区分裂为独立的连续两个region分区,一次扩大表region分区数,进而将表分区拓展到数据量所需最小分区。若确定所述当前分区数量大于所述理论分区数量,则表征该表数据量所需region分区数低于实际分区数,则对所述目标HBase的当前分区进行合并调整。具体的,调用hbase_compact组件中的merge方法,将相临近的region分区进行合并调整,进而将表分区合并至数据量所需的最大分区,以此实现集群资源的动态调整与敏捷供给。这里以具体业务场景为例,手机银行明细查询功能需要联机分析平台所提供的超大容量的历史明细存储,因此在为明细数据接入平台前,需要为明细数据hbase表进行表预分区,但是由于每日增量写入历史明细hbase表的数据量增长较快,如果表不进行提前分区调整,则会出现访问热点等可能,导致明细数据查询性能影响。因此HBase表智能运维优化装置通过实时检测表数据量与分区数,进行判断分区是否合理,进而进行动态分区数调整。此外,通过构建前台图形化监控页面,对每张表的分区情况进行展示,支持运维人员根据实际情况进行手动表分区修改。
基于上述HBase表的运维方法,本公开还提供了一种HBase表的运维装置。以下将结合图6对该装置进行详细描述。
图6示意性示出了根据本公开实施例的一种HBase表的运维装置的结构框图。
如图6所示,该实施例的HBase表的运维装置600包括确定模块610、获取模块620和分区调整模块630。
确定模块610用于响应于所述联机分析平台的监控指令,确定全量HBase表的可用性状态。在一实施例中,确定模块610可以用于执行前文描述的操作S210,在此不再赘述。
获取模块620用于获取目标HBase表的业务数据量和当前分区数量,其中,所述目标HBase表的可用性状态为可用。在一实施例中,获取模块620可以用于执行前文描述的操作S220,在此不再赘述。
分区调整模块630用于根据所述业务数据量和预设算法对所述当前分区数量进行动态调整,其中,所述预设算法用于根据所述业务数据量确定理论分区数量。在一实施例中,分区调整模块630可以用于执行前文描述的操作S230,在此不再赘述。
根据本公开的实施例,确定模块610包括:获取子模块、第一确定子模块、第二确定子模块和第三确定子模块。
获取子模块,用于定时获取全量HBase表清单。在一实施例中,获取子模块可以用于执行前文描述的操作S211,在此不再赘述。
第一确定子模块,用于根据预设并发数和线程数分批次确定HBase表清单中每一HBase表的读状态和写状态。在一实施例中,第一确定子模块可以用于执行前文描述的操作S212,在此不再赘述。
第二确定子模块,当所述HBase表的读状态和所述HBase表的写状态均为可用时,确定所述HBase表的可用性状态为可用。在一实施例中,第二确定子模块可以用于执行前文描述的操作S213,在此不再赘述。
第三确定子模块,用于当所述HBase表的读状态和所述HBase表的写状态中任一项为不可用时,确定所述HBase表的可用性状态为不可用。在一实施例中,第三确定子模块可以用于执行前文描述的操作S214,在此不再赘述。
根据本公开的实施例,第一确定子模块包括:读取单元、写入单元和确定单元。
读取单元,用于根据预设并发数和线程数分批次调用scan方法读取所述每一HBase表。在一实施例中,读取单元可以用于执行前文描述的操作S2121,在此不再赘述。
写入单元,用于在获取读取返回结果后,调用put方法向所述每一HBase表写入时间戳数据。在一实施例中,写入单元可以用于执行前文描述的操作S2122,在此不再赘述。
确定单元,用于根据所述读取返回结果和写入返回结果确定所述每一HBase表的读状态和写状态。在一实施例中,确定单元可以用于执行前文描述的操作S2123,在此不再赘述。
根据本公开的实施例,分区调整模块630还包括:第四确定子模块、第五确定子模块和第六确定子模块。
第四确定子模块,用于根据预设算法和所述业务数据量确定目标HBase表的理论分区数量。在一实施例中,第四确定子模块可以用于执行前文描述的操作S231,在此不再赘述。
第五确定子模块,用于若确定所述当前分区数量大于所述理论分区数量,对所述目标HBase的当前分区进行合并调整。在一实施例中,第五确定子模块可以用于执行前文描述的操作S232,在此不再赘述。
第六确定子模块,用于若确定所述当前分区数量小于所述理论分区数量,对所述目标HBase的当前分区进行扩展调整。在一实施例中,第六确定子模块可以用于执行前文描述的操作S233,在此不再赘述。
根据本公开的实施例,还包括:
展示模块,用于将全量HBase表的可用性状态进行可视化展示。
告警模块,用于当确定HBase表的可用性状态为不可用时,发送告警信息。
根据本公开的实施例,确定模块610、获取模块620和分区调整模块630中的任意多个模块可以合并在一个模块中实现,或者其中的任意一个模块可以被拆分成多个模块。或者,这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合,并在一个模块中实现。根据本公开的实施例,确定模块610、获取模块620和分区调整模块630中的至少一个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,确定模块610、获取模块620和分区调整模块630中的至少一个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
图7示意性示出了根据本公开实施例的适于实现HBase表的运维方法的电子设备的方框图。
如图7所示,根据本公开实施例的电子设备900包括处理器901,其可以根据存储在只读存储器(ROM)902中的程序或者从存储部分908加载到随机访问存储器(RAM)903中的程序而执行各种适当的动作和处理。处理器901例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如,专用集成电路(ASIC))等等。处理器901还可以包括用于缓存用途的板载存储器。处理器901可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。
在RAM 903中,存储有电子设备900操作所需的各种程序和数据。处理器901、ROM902以及RAM 903通过总线904彼此相连。处理器901通过执行ROM 902和/或RAM 903中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意,所述程序也可以存储在除ROM 902和RAM 903以外的一个或多个存储器中。处理器901也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。
根据本公开的实施例,电子设备900还可以包括输入/输出(I/O)接口905,输入/输出(I/O)接口905也连接至总线904。电子设备900还可以包括连接至I/O接口905的以下部件中的一项或多项:包括键盘、鼠标等的输入部分906;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分907;包括硬盘等的存储部分908;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分909。通信部分909经由诸如因特网的网络执行通信处理。驱动器910也根据需要连接至I/O接口905。可拆卸介质911,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器910上,以便于从其上读出的计算机程序根据需要被安装入存储部分908。
本公开还提供了一种计算机可读存储介质,该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的;也可以是单独存在,而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序,当上述一个或者多个程序被执行时,实现根据本公开实施例的HBase表的运维方法。
根据本公开的实施例,计算机可读存储介质可以是非易失性的计算机可读存储介质,例如可以包括但不限于:便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。例如,根据本公开的实施例,计算机可读存储介质可以包括上文描述的ROM 902和/或RAM 903和/或ROM 902和RAM 903以外的一个或多个存储器。
本公开的实施例还包括一种计算机程序产品,其包括计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。当计算机程序产品在计算机系统中运行时,该程序代码用于使计算机系统实现本公开实施例所提供的HBase表的运维方法。
在该计算机程序被处理器901执行时执行本公开实施例的系统/装置中限定的上述功能。根据本公开的实施例,上文描述的系统、装置、模块、单元等可以通过计算机程序模块来实现。
在一种实施例中,该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中,该计算机程序也可以在网络介质上以信号的形式进行传输、分发,并通过通信部分909被下载和安装,和/或从可拆卸介质911被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输,包括但不限于:无线、有线等等,或者上述的任意合适的组合。
在这样的实施例中,该计算机程序可以通过通信部分909从网络上被下载和安装,和/或从可拆卸介质911被安装。在该计算机程序被处理器901执行时,执行本公开实施例的系统中限定的上述功能。根据本公开的实施例,上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。
根据本公开的实施例,可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例提供的计算机程序的程序代码,具体地,可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如Java,C++,python,“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
本领域技术人员可以理解,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合或/或结合,即使这样的组合或结合没有明确记载于本公开中。特别地,在不脱离本公开精神和教导的情况下,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。
以上对本公开的实施例进行了描述。但是,这些实施例仅仅是为了说明的目的,而并非为了限制本公开的范围。尽管在以上分别描述了各实施例,但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围,本领域技术人员可以做出多种替代和修改,这些替代和修改都应落在本公开的范围之内。
Claims (11)
1.一种HBase表的运维方法,应用于联机分析平台,所述联机分析平台用于监控基于HBase数据存储的联机查询服务化接口的可用性,其特征在于,所述运维方法包括:
响应于所述联机分析平台的监控指令,确定全量HBase表的可用性状态;
获取目标HBase表的业务数据量和当前分区数量,所述目标HBase表的可用性状态为可用;以及
根据所述业务数据量和预设算法对所述当前分区数量进行动态调整,
其中,所述预设算法用于根据所述业务数据量确定理论分区数量。
2.根据权利要求1所述的运维方法,其特征在于,所述确定全量HBase表的可用性状态包括:
定时获取全量HBase表清单;
根据预设并发数和线程数分批次确定HBase表清单中每一HBase表的读状态和写状态;
当所述HBase表的读状态和所述HBase表的写状态均为可用时,确定所述HBase表的可用性状态为可用;以及
当所述HBase表的读状态和所述HBase表的写状态中任一项为不可用时,确定所述HBase表的可用性状态为不可用。
3.根据权利要求2所述的运维方法,其特征在于,所述根据预设并发数和线程数分批次确定HBase表清单中每一HBase表的读状态和写状态包括:
根据预设并发数和线程数分批次调用scan方法读取所述每一HBase表;
在获取读取返回结果后,调用put方法向所述每一HBase表写入时间戳数据;以及
根据所述读取返回结果和写入返回结果确定所述每一HBase表的读状态和写状态。
4.根据权利要求1所述的运维方法,其特征在于,所述根据所述业务数据量和预设算法对所述当前分区数量进行动态调整包括:
根据预设算法和所述业务数据量确定目标HBase表的理论分区数量;
若确定所述当前分区数量大于所述理论分区数量,对所述目标HBase的当前分区进行合并调整;
若确定所述当前分区数量小于所述理论分区数量,对所述目标HBase的当前分区进行扩展调整。
5.根据权利要求1至4中任一项所述的运维方法,其特征在于,还包括:
将全量HBase表的可用性状态进行可视化展示。
6.根据权利要求5所述的运维方法,其特征在于,还包括:
当确定HBase表的可用性状态为不可用时,发送告警信息。
7.根据权利要求6所述的运维方法,其特征在于,所述预设算法预先存储有分区数量与业务数据量的映射关系。
8.一种HBase表的运维装置,部署于联机分析平台,所述联机分析平台用于监控基于HBase数据存储的联机查询服务化接口的可用性,其特征在于,所述运维装置包括:
确定模块,用于响应于所述联机分析平台的监控指令,确定全量HBase表的可用性状态;
获取模块,用于获取目标HBase表的业务数据量和当前分区数量,其中,所述目标HBase表的可用性状态为可用;以及
分区调整模块,用于根据所述业务数据量和预设算法对所述当前分区数量进行动态调整,
其中,所述预设算法用于根据所述业务数据量确定理论分区数量。
9.一种电子设备,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器执行根据权利要求1~7中任一项所述的运维方法。
10.一种计算机可读存储介质,其上存储有可执行指令,该指令被处理器执行时使处理器执行根据权利要求1~7中任一项所述的运维方法。
11.一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现根据权利要求1~7中任一项所述的运维方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211488904.4A CN115757417A (zh) | 2022-11-22 | 2022-11-22 | HBase表的运维方法、装置、设备、存储介质和程序产品 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211488904.4A CN115757417A (zh) | 2022-11-22 | 2022-11-22 | HBase表的运维方法、装置、设备、存储介质和程序产品 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115757417A true CN115757417A (zh) | 2023-03-07 |
Family
ID=85337943
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211488904.4A Pending CN115757417A (zh) | 2022-11-22 | 2022-11-22 | HBase表的运维方法、装置、设备、存储介质和程序产品 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115757417A (zh) |
-
2022
- 2022-11-22 CN CN202211488904.4A patent/CN115757417A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11755452B2 (en) | Log data collection method based on log data generated by container in application container environment, log data collection device, storage medium, and log data collection system | |
US10453007B2 (en) | Automatic time series exploration for business intelligence analytics | |
CN114416512A (zh) | 测试方法、装置、电子设备和计算机存储介质 | |
CN112181948B (zh) | 数据库操作语句的处理方法、装置、电子设备和介质 | |
CN113505302A (zh) | 支持动态获取埋点数据的方法、装置、系统及电子设备 | |
CN113761003A (zh) | 用户画像数据处理方法和装置、电子设备和可读存储介质 | |
CN113535726A (zh) | 数据库扩容方法及装置 | |
US10691418B1 (en) | Process modeling on small resource constraint devices | |
CN115760013A (zh) | 运维模型的构建方法、装置、电子设备及存储介质 | |
CN114968552A (zh) | 缓存分配方法、装置、设备、存储介质和程序产品 | |
CN115757417A (zh) | HBase表的运维方法、装置、设备、存储介质和程序产品 | |
CN114637809A (zh) | 同步延迟时间动态配置方法、装置、电子设备及介质 | |
CN115408297A (zh) | 测试方法、装置、设备及介质 | |
CN114780361A (zh) | 日志生成方法、装置、计算机系统及可读存储介质 | |
CN112667468A (zh) | 多云环境下云资源自动化运维的方法与设备 | |
CN113138772A (zh) | 数据处理平台的构建方法、装置、电子设备和存储介质 | |
CN112579282A (zh) | 数据处理方法、装置、系统、计算机可读存储介质 | |
CN114268558B (zh) | 监控图的生成方法、装置、设备、介质 | |
CN113347250B (zh) | 数据访问方法、数据访问装置、电子设备及可读存储介质 | |
CN115941613A (zh) | 节点限流方法、装置、设备、介质和程序产品 | |
CN115421873A (zh) | 字典构建方法、基于字典的文件评估方法及装置、设备 | |
CN114138914A (zh) | MySQL数据库管理方法、装置、电子设备和存储介质 | |
CN114625717A (zh) | 数据库生成方法、针对分布式对象的管理方法和装置 | |
CN117131018A (zh) | 一种数据处理方法、装置、电子设备及存储介质 | |
CN118349550A (zh) | 数据处理方法、装置、设备、介质和程序产品 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |