CN111371583A - 服务器的扩容方法及装置、服务器、存储介质 - Google Patents
服务器的扩容方法及装置、服务器、存储介质 Download PDFInfo
- Publication number
- CN111371583A CN111371583A CN201811604894.XA CN201811604894A CN111371583A CN 111371583 A CN111371583 A CN 111371583A CN 201811604894 A CN201811604894 A CN 201811604894A CN 111371583 A CN111371583 A CN 111371583A
- Authority
- CN
- China
- Prior art keywords
- host
- solr
- solr cluster
- cluster
- current
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 72
- 230000005540 biological transmission Effects 0.000 claims description 53
- 239000012634 fragment Substances 0.000 claims description 33
- 238000004590 computer program Methods 0.000 claims description 7
- 238000012163 sequencing technique Methods 0.000 claims description 3
- 238000004458 analytical method Methods 0.000 description 19
- 238000005070 sampling Methods 0.000 description 15
- 238000010586 diagram Methods 0.000 description 10
- 238000004891 communication Methods 0.000 description 6
- 238000012360 testing method Methods 0.000 description 6
- 230000006870 function Effects 0.000 description 4
- 230000003044 adaptive effect Effects 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000012546 transfer Methods 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 2
- 230000007547 defect Effects 0.000 description 2
- 238000013467 fragmentation Methods 0.000 description 2
- 238000006062 fragmentation reaction Methods 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 230000011218 segmentation Effects 0.000 description 2
- 238000006467 substitution reaction Methods 0.000 description 2
- 238000009825 accumulation Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/04—Network management architectures or arrangements
- H04L41/044—Network management architectures or arrangements comprising hierarchical management structures
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/08—Configuration management of networks or network elements
- H04L41/0894—Policy-based network configuration management
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/08—Configuration management of networks or network elements
- H04L41/0803—Configuration setting
- H04L41/0823—Configuration setting characterised by the purposes of a change of settings, e.g. optimising configuration for enhancing reliability
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/08—Configuration management of networks or network elements
- H04L41/0896—Bandwidth or capacity management, i.e. automatically increasing or decreasing capacities
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/28—Restricting access to network management systems or functions, e.g. using authorisation function to access network configuration
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1097—Protocols in which an application is distributed across nodes in the network for distributed storage of data in networks, e.g. transport arrangements for network file system [NFS], storage area networks [SAN] or network attached storage [NAS]
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Computer Security & Cryptography (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明实施例公开了一种服务器的扩容方法及装置、服务器、存储介质,所述方法包括:获取当前企业级搜索应用服务器Solr集群的安全层面信息;基于所述安全层面信息,生成用于对所述Solr集群在安全层面进行扩容的安全层面策略;获取当前Solr集群的性能层面信息;基于所述性能层面信息,生成用于对所述Solr集群在性能层面进行扩容的性能层面策略;根据所述安全层面策略和所述性能层面策略对所述Solr集群进行扩容。
Description
技术领域
本发明实施例涉及分布式搜索引擎技术,尤其涉及服务器的扩容方法及装置、服务器、存储介质。
背景技术
企业级搜索应用服务器(Solr)是一款用计算机编程语言(Java)开发,基于全文搜索引擎(Lucene)的高性能全文搜索服务,在Lucene基础上对其进行了扩展,提供了比其更为丰富的查询语言,支持可配置和可扩展并对查询性能进行了优化,同时它提供了一个完善的功能管理界面,是一款非常优秀的全文搜索服务。
Solr集群是一种分布式系统,它具有一个或多个分片,每个分片拥有一个哈希范围,所有分片组成一个完整的哈希环,该哈希环的范围为0x00-0xffffffff,分片是一种虚拟的范围概念,每个分片会对应一个或多个副本,而副本则是实际存在主机上的物理节点。
随着索引数量越来越大,索引写入和搜索的响应时间会变得越来越慢,此时则需要对Solr集群进行扩容。而目前相关技术中还没有提出一种针对Solr集群的扩容方法。
发明内容
有鉴于此,本发明实施例为解决现有技术中存在的至少一个问题而提供服务器的扩容方法及装置、服务器、存储介质。
本发明实施例的技术方案是这样实现的:
第一方面,本发明实施例提供一种服务器的扩容方法,所述方法包括:
获取当前企业级搜索应用服务器Solr集群的安全层面信息;
基于所述安全层面信息,生成用于对所述Solr集群在安全层面进行扩容的安全层面策略;
获取当前Solr集群的性能层面信息;
基于所述性能层面信息,生成用于对所述Solr集群在性能层面进行扩容的性能层面策略;
根据所述安全层面策略和所述性能层面策略对所述Solr集群进行扩容。
第二方面,本发明实施例提供一种服务器的扩容装置,所述装置包括:
第一获取单元,配置为获取当前企业级搜索应用服务器Solr集群的安全层面信息;
第一生成单元,配置为基于所述安全层面信息,生成用于对所述Solr集群在安全层面进行扩容的安全层面策略;
第二获取单元,配置为获取当前Solr集群的性能层面信息;
第二生成单元,配置为基于所述性能层面信息,生成用于对所述Solr集群在性能层面进行扩容的性能层面策略;
扩容单元,配置为根据所述安全层面策略和所述性能层面策略对所述Solr集群进行扩容。
第三方面,本发明实施例提供一种服务器的扩容服务器,包括存储器和处理器,所述存储器存储有可在处理器上运行的计算机程序,所述处理器执行所述程序时实现上述所述生成扩容策略方法中的步骤。
第四方面,本发明实施例提供一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机程序,所述计算机程序配置为执行时实现上述服务器的扩容方法中的步骤。
本发明实施例提供的技术方案,通过生成安全层面策略和性能层面策略,使得Solr集群遇到安全或性能瓶颈时,能够依据Solr集群自身特点,所处集群环境自有特征,结合一定扩容规则,自动规划和执行扩容策略,保证Solr集群扩容后的安全和性能更优化。
附图说明
图1为本发明实施例提供一种服务器的扩容方法的实现流程示意图;
图2为本发明实施例提供又一种服务器的扩容方法的实现流程示意图;
图3A为本发明实施例又一种服务器的扩容方法的实现流程示意图;
图3B为确定权重值的方法实现流程示意图;
图4为本发明实施例又一种服务器的扩容方法的实现流程示意图;
图5A为本发明实施例提供一种生成安全层面扩容策略的方法的实现流程示意图;
图5B为本发明实施例提供一种生成性能层面扩容策略的方法的实现流程示意图;
图6A为本发明实施例提出了一种基于自适应平衡策略进行Solr集群服务器的扩容系统示意图;
图6B为本发明实施例提供一种服务器的扩容实现流程示意图;
图6C为本发明实施例提供一种生成扩容后的Solr集群的原理示意图;
图6D为本发明实施例提供一种生成性能层面扩容策略的原理示意图;
图7本发明实施例一种服务器的扩容装置的组成结构示意图;
图8为本发明实施例中生成扩容策略服务器的一种硬件实体示意图。
具体实施方式
目前扩容的方法仅仅是根据当前Solr集群的分片及副本情况,并结合新增Solr主机,进行手工切分。该扩容方法具有以下缺陷:
1、手工切分十分复杂且极易出错;
2、扩容未考虑Solr集群副本因子的安全性因素;
3、扩容未考虑当前各个Solr主机的网络传输情况;
4、扩容未考虑当前各个Solr主机的读写索引性能;
5、扩容未考虑当前各个Solr主机的系统负荷情况。
基于以上缺陷,本发明实施例提出了一种基于自适应平衡策略的服务器的扩容方法和系统,使得Solr集群遇到安全或性能瓶颈时,能够依据Solr集群自身特点,所处集群环境自有特征,结合一定扩容规则,自动规划和执行扩容策略,从而使得Solr集群扩容后的安全和性能更优化。
下面结合附图和具体实施例对本发明的技术方案进一步详细阐述。
实施例一
本发明实施例提供一种服务器的扩容方法,该方法应用于服务器,该方法所实现的功能可以通过终端中的处理器调用程序代码来实现,当然程序代码可以保存在计算机存储介质中,可见,该服务器至少包括处理器和存储介质。
图1为本发明实施例提供一种服务器的扩容方法的实现流程示意图,如图1所示,该方法包括:
步骤S101,服务器获取当前Solr集群的安全层面信息;
这里,服务器这里不做限定,可以是一个服务器,也可以是多个服务器,所述安全层面信息包括但不限定为Solr集群的基本信息和每台Solr主机网络进行数据传输时的传输速度,所述Solr集群的基本信息可以为Solr集群的副本信息,Solr集群的副本因子,当前Solr集群的分片数,每个分片的哈希范围,每个分片对应副本在各个Solr主机上的分布情况。获取当前Solr集群的安全层面信息可以为获取当前Solr集群的副本信息或获取当前Solr集群的每台Solr主机网络进行数据传输时的传输速度。
步骤S102,服务器基于所述安全层面信息,生成用于对所述Solr集群在安全层面进行扩容的安全层面策略;
基于所述安全层面信息,生成用于对所述Solr集群在安全层面进行扩容的安全层面策略,为了方便理解,这里举例说明,例如,所述安全层面信息为Solr集群的副本信息,服务器获取当前Solr集群的副本信息中的副本因子,分析其安全层面,副本因子是否大于1,如果大于1,则集群安全性高,这时服务器则不需要生成一条增加Solr集群副本因子的策略;反之,如果副本因子等于1,则Solr集群是不稳定的,可能是某一个副本出现索引数据损坏,或所在主机断网,该副本将不可用,会直接导致Solr集群的部分业务不可用,这时服务器则生成一条增加Solr集群副本因子的策略,即基于所述安全层面信息中的副本信息,生成用于对所述Solr集群在安全层面进行扩容的安全层面策略。
基于所述安全层面信息,生成用于对所述Solr集群在安全层面进行扩容的安全层面策略,为了方便理解,这里举例说明,例如,所述安全层面信息为Solr集群的每台主机进行数据传输时的传输速度,通过定时针对每台Solr主机进行网络传输数据采样,获取当前Solr集群的每台主机进行数据传输时的传输速度,统计每台Solr主机的安全权重。可以读取各个Solr主机进行网络传输的最近N条数据采样记录,用Good表示网络传输良好,Bad表示网络传输差;然后根据规则统计出每台Solr主机的安全权重,例如全Good权重为1,超过M%的Bad则权重为0,M%为容忍度,可以根据网络传输的实际情况进行设定;最后生成一条将安全权重为0的主机上的Solr集群副本移至安全权重为1的主机上的策略,即副本转移安全主机策略,或者对于经常断网,或者网络传输速度较慢等网络稳定性差的Solr主机,尽量不部署Solr副本,如已有副本在此类主机上,则可移至其他网络稳定性好的主机上。从而基于所述安全层面信息中的副本信息,生成用于对所述Solr集群在安全层面进行扩容的安全层面策略。
步骤S103,服务器获取当前Solr集群的性能层面信息;
这里,所述性能层面信息包括但不限定为每台Solr主机读写索引的耗时数据采样,每台Solr主机的系统资源情况,以及合设组件的情况,当前Solr集群的分片数,每个分片的哈希范围,每个分片对应副本的主机分布情况。获取当前Solr集群的性能层面信息可以为获取当前Solr集群的每台主机对索引进行读和写的速度以及每台主机的系统负荷。
步骤S104,服务器基于所述性能层面信息,生成用于对所述Solr集群在性能层面进行扩容的性能层面策略;
这里,基于所述性能层面信息,生成用于对所述Solr集群在性能层面进行扩容的性能层面策略,为了方便理解,这里举例说明,例如,基于所述性能层面信息可以为基于所述性能层面信息中的当前Solr集群的每台主机对索引进行读和写的速度以及每台主机的系统负荷,基于所述性能层面信息中的当前Solr集群的每台主机对索引进行读和写的速度以及每台主机的系统负荷生成用于对所述Solr集群在性能层面进行扩容的性能层面策略。
步骤S105,服务器根据所述安全层面策略和所述性能层面策略对所述Solr集群进行扩容。
这里,根据所述安全层面策略和所述性能层面策略对所述Solr集群进行扩容可以是服务器获取安全层面扩容策略和性能层面扩容策略依次执行的过程。
在其他实施例,所述获取当前Solr集群的安全层面信息,包括:获取当前Solr集群的副本信息;
所述基于所述安全层面信息,生成用于对所述Solr集群在安全层面进行扩容的安全层面策略,包括:基于所述当前Solr集群的副本信息,生成增加Solr集群的副本数量的安全层面策略。
这里,服务器基于所述当前Solr集群的副本信息,生成增加Solr集群的副本数量的安全层面策略。为了方便理解,这里举例说明,例如,所述安全层面信息为Solr集群的副本信息,服务器获取当前Solr集群的副本信息中的副本因子,分析其安全层面,副本因子是否大于1,如果大于1,则集群安全性高,这时服务器则不需要生成一条增加Solr集群副本因子的策略;反之,如果副本因子等于1,则Solr集群是不稳定的,可能是某一个副本出现索引数据损坏,或所在主机断网,该副本将不可用,会直接导致Solr集群的部分业务不可用,这时服务器则生成一条增加Solr集群副本因子的策略,即基于所述安全层面信息中的副本信息,生成用于对所述Solr集群在安全层面进行扩容的安全层面策略。
在其他实施例,所述获取当前Solr集群的安全层面信息,包括:获取当前Solr集群的每台主机进行数据传输时的传输速度;
所述基于所述安全层面信息,生成用于对所述Solr集群在安全层面进行扩容的安全层面策略,包括:基于所述当前Solr集群的每台主机进行数据传输时的传输速度,生成将主机上的Solr集群的副本转移至安全主机的安全层面策略。
这里,服务器基于所述当前Solr集群的每台主机进行数据传输时的传输速度,生成将主机上的Solr集群的副本转移至安全主机的安全层面策略。为了方便理解,这里举例说明,例如,所述安全层面信息为Solr集群的每台主机进行数据传输时的传输速度,通过定时针对每台Solr主机进行网络传输数据采样,获取当前Solr集群的每台主机进行数据传输时的传输速度,统计每台Solr主机的安全权重。可以读取各个Solr主机进行网络传输的最近N条数据采样记录,用Good表示网络传输良好,Bad表示网络传输差;然后根据规则统计出每台Solr主机的安全权重,例如全Good权重为1,超过M%的Bad则权重为0,M%为容忍度,可以根据网络传输的实际情况进行设定;最后生成一条将安全权重为0的主机上的Solr集群副本移至安全权重为1的主机上的策略,即副本转移安全主机策略,或者对于经常断网,或者网络传输速度较慢等网络稳定性差的Solr主机,尽量不部署Solr副本,如已有副本在此类主机上,则可移至其他网络稳定性好的主机上。从而基于所述安全层面信息中的副本信息,生成用于对所述Solr集群在安全层面进行扩容的安全层面策略。
实施例二
图2为本发明实施例提供又一种服务器的扩容方法的实现流程示意图,如图2所示,该方法包括:
步骤S201,服务器获取当前Solr集群的安全层面信息;
步骤S202,服务器基于所述安全层面信息,生成用于对所述Solr集群在安全层面进行扩容的安全层面策略;
步骤S203,服务器获取当前Solr集群的每台主机对索引进行读和写的速度,和,每台主机的系统负荷;
这里,当前Solr集群的每台主机对索引进行读和写的速度,和,每台主机的系统负荷可以都存在关系型数据库中,服务器可以从关系型数据库中获取当前Solr集群的每台主机对索引进行读和写的速度,和,每台主机的系统负荷。
步骤S204,服务器基于所述当前Solr集群的每台主机对索引进行读和写的速度,以及所述每台主机的系统负荷,生成用于对所述Solr集群在性能层面进行扩容的性能层面策略;
这里,服务器基于所述当前Solr集群的每台主机对索引进行读和写的速度,以及所述每台主机的系统负荷,生成用于对所述Solr集群在性能层面进行扩容的性能层面策略可以通过服务器分析当前Solr集群的每台主机对索引进行读和写的速度,以及所述每台主机的系统负荷,利用分析的结果生成用于对所述Solr集群在性能层面进行扩容的性能层面策略。
步骤S205,服务器根据所述安全层面策略和所述性能层面策略对所述Solr集群进行扩容。
实施例三
图3A为本发明实施例又一种服务器的扩容方法的实现流程示意图,如图3A所示,该方法包括:
步骤S301,服务器获取当前Solr集群的安全层面信息;
步骤S302,服务器基于所述安全层面信息,生成用于对所述Solr集群在安全层面进行扩容的安全层面策略;
步骤S303,服务器获取当前Solr集群的每台主机对索引进行读和写的速度,和,每台主机的系统负荷;
步骤S304,服务器根据每台主机的第一权重值、第二权重值和第三权重值的总和,计算当前Solr集群的每台主机的综合性能权重值;
这里,所述第一权重值可以通过选择一台Solr主机读索引的耗时作为基准权重,计算其他主机的读索引测试耗时与基准执行的时间比。
所述第二权重值可以通过选择一台Solr主机写索引的耗时作为基准权重,计算其他主机的读索引测试耗时与基准执行的时间比。
所述第三权重值可以通过读取每台Solr主机的系统资源使用情况,以及合设组件的情况,例如CPU使用、内存使用、任务队列数、合设组件数等等,并以此计算得到各个主机系统负荷的权重值。
根据每台主机的第一权重值、第二权重值和第三权重值的总和,计算当前Solr集群的每台主机的综合性能权重值可以通过将每台主机的第一权重值、第二权重值和第三权重值进行相加,所述相加结果即为当前Solr集群的每台主机的综合性能权重值。
步骤S305,服务器根据所述当前Solr集群的每台主机的综合性能权重值,生成用于对所述Solr集群在性能层面进行扩容的性能层面策略;
这里,服务器可以通过对当前Solr集群的每台主机的综合性能权重值进行排序,排序可以是综合性能权重值按照从高到低或从低到高排,排序后对Solr主机分组,从第一台主机开始,连续r台主机为一组,r可以为每个切片的副本数,累加每组主机的综合性能权重值作为该组的综合性能权重值,利用所述综合性能权重值生成用于对所述Solr集群在性能层面进行扩容的性能层面策略。
步骤S306,服务器根据所述安全层面策略和所述性能层面策略对所述Solr集群进行扩容。
在其他实施例,图3B为确定权重值的方法实现流程示意图,如图3B所示,所述方法还包括:
步骤S311,服务器确定当前Solr集群中的一台主机为基准主机;
这里,确定当前Solr集群中的一台主机为基准主机可以在当前Solr集群任意选择一台为基准主机。
步骤S312,服务器根据所述当前Solr集群中的每台主机读索引的速度与所述基准主机读索引的速度的比值,确定该主机的第一权重值;
这里,所述当前Solr集群中的每台主机读索引的速度可以是针对每台Solr主机进行忙时性能数据采样,分析读索引,耗时数据将所述基准主机读索引的速度为参照物,将当前Solr集群中的每台主机读索引的速度与所述基准主机读索引的速度进行比较,得到的比值就是该主机的第一权重值。
步骤S313,服务器根据所述当前Solr集群中的每台主机写索引的速度与所述基准主机写索引的速度的比值,确定该主机的第二权重值;
这里,所述当前Solr集群中的每台主机写索引的速度可以是针对每台Solr主机进行忙时性能数据采样,分别对每台Solr主机测试其写入和查询索引的速度,耗时数据将所述基准主机写索引的速度为参照物,将当前Solr集群中的每台主机写索引的速度与所述基准主机写索引的速度进行比较,得到的比值就是该主机的第二权重值。
步骤S314,服务器根据所述当前Solr集群中的每台主机的系统负荷与所述基准主机的系统负荷的比值,确定该主机的第三权重值。
这里,所述当前Solr集群中的每台主机的系统负荷可以是每台Solr主机的系统资源使用情况,以及合设组件的情况,例如CPU使用、内存使用、任务队列数、合设组件数等等,根据所述当前Solr集群中的每台主机的系统负荷与所述基准主机的系统负荷的比值,确定该主机的第三权重值可以通过将当前Solr集群中的每台主机系统负荷与所述基准主机系统负荷进行比较,得到的比值就是该主机的第三权重值。
实施例四
图4为本发明实施例又一种服务器的扩容方法的实现流程示意图,如图4所示,该方法包括:
步骤S401,服务器获取当前Solr集群的安全层面信息;
步骤S402,服务器基于所述安全层面信息,生成用于对所述Solr集群在安全层面进行扩容的安全层面策略;
步骤S403,服务器获取当前Solr集群的每台主机对索引进行读和写的速度,和,每台主机的系统负荷;
步骤S404,服务器根据每台主机的第一权重值、第二权重值和第三权重值的总和,计算当前Solr集群的每台主机的综合性能权重值;
步骤S405,服务器将所述当前Solr集群的每台主机的综合性能权重值进行排序;
这里,所述排序可以是综合性能权重值按照从高到低或从低到高排。
步骤S406,服务器根据所述排序的结果,将所述每台主机进行分组;
这里,所述分组可以是从第一台主机开始,连续r台主机为一组,r可以为每个切片的副本数或副本因子,副本数与副本因子可以相同,也可以不同。
步骤S407,服务器将每组中的每台主机的综合性能权重值累加作为该组主机的组性能权重值;
这里,所述该组主机的组性能权重值可以是将组中的每台主机的综合性能权重值进行相加。
步骤S408,服务器根据所述每组主机的组性能权重值为每组主机分配地址;
这里,可以根据每组的综合性能权重值按比例分配地址0x00-0xffffffff,分配后的地址范围即为各个分片(Shard)的索引范围;然后,针对每个分片在每组主机中设置对应的主节点(Leader)和副节点(Replica)。
步骤S409,服务器根据每组主机的所述地址,生成用于对所述Solr集群在性能层面进行扩容的性能层面策略;
步骤S410,服务器根据所述安全层面策略和所述性能层面策略对所述Solr集群进行扩容。
在其他实施例,所述根据每组的所述地址,生成用于对所述Solr集群在性能层面进行扩容的性能层面策略,包括:
步骤S411,服务器根据每组主机的所述地址,将所述Solr集群的分片分配至所述每组主机;
这里,服务器根据每组主机的所述地址,将所述Solr集群的分片分配至所述每组主机可以通过将所述Solr集群的原始分片1(Shard1)和原始分片2(Shard2)经过拆分合并成新分片1(Shard1’),新分片2(Shard2’),新分片3(Shard3’),具体来说,将原始分片1(Shard1)的前部设置为新分片1(Shard1’),将原始分片1(Shard1)的后部和原始分片2(Shard2)的前部合并为新分片2(Shard2’),将原始分片2(Shard2)的后部设置为新分片3(Shard3’),再根据每组主机的所述地址,将所述Solr集群的新分片分配至所述每组主机。
步骤S412,服务器根据所述每组主机的分片,生成所述扩容后的Solr集群的性能层面策略。
这里,服务器根据所述每组主机的分片,生成所述扩容后的Solr集群的分片拆分合并性能层面策略。
实施例五
本发明实施例提供了一种基于自适应平衡策略进行Solr集群服务器的扩容方法和服务器,根据Solr集群副本因子,以及主机网络传输等安全因素,自动生成安全层面扩容策略;同时结合Solr集群各主机读写索引的效率,以及系统负荷情况等性能因素,按比例分配Solr集群分片在各主机上的哈希范围,自动生成性能层面扩容策略,最终自动执行扩容策略,使得Solr集群生成扩容策略后的系统资源更加平衡和稳定,进一步提升了Solr集群的安全和性能。本发明实施例采用的技术方案包括安全层面和性能层面的扩容策略。
图5A为本发明实施例提供一种生成安全层面扩容策略的方法的实现流程示意图,如图5A所示,该方法包括以下步骤:
步骤S501,服务器获取当前Solr集群的副本因子;
步骤S502,服务器依据所述副本因子分析当前Solr集群安全层面;
这里,服务器依据所述副本因子分析其安全层面,副本因子是否大于1,如果大于1,则集群安全性高,反之,如果副本因子等于1,则Solr集群是不稳定的,当某一个副本出现索引数据损坏,或该副本所在主机断网时,该副本将不可用,会直接导致Solr集群的部分业务不可用。
步骤S503,服务器定时针对每台Solr主机进行网络传输数据采样;
这里,所述网络传输数据采样可以为各个Solr主机进行网络传输的最近N条数据采样记录,N可以根据实际情况进行确定。
步骤S504,服务器依据所述采样统计每台Solr主机的安全权重;
这里,统计每台Solr主机的安全权重可以通过规则统计,规则可以是网络传输良好权重为1,网络传输差权重为0。
步骤S505,服务器依据所述安全权重分析当前Solr集群安全层面;
这里,可以通过所述安全权重确定网络传输是好还是差。
步骤S506,服务器依据所述安全层面的分析,得出安全层面的扩容策略。
这里,所述安全层面的扩容策略可以是对于经常断网,或者网络传输速度较慢等网络稳定性差的Solr主机,尽量不部署Solr副本,如已有副本在此类主机上,则可移至其他网络稳定性好的主机上。
图5B为本发明实施例提供一种生成性能层面扩容策略的方法的实现流程示意图,如图5B所示,该方法包括以下步骤:
步骤S511,服务器获取当前Solr集群的分片数;
这里,服务器获取当前Solr集群的分片数,每个分片的哈希范围,每个分片对应副本的主机分布情况。
步骤S512,服务器依据所述分片数对应副本的主机分布情况,分析当前Solr集群性能层面;
这里,服务器判断当前Solr集群是否存在一台Solr主机上具备多个副本的情况,因为过多的副本并存一台主机可能导致性能瓶颈;
服务器判断当前Solr集群是否存在哈希范围较大的分片,因为较大哈希范围的分片读写效率都会相对较慢。
步骤S513,服务器定时针对每台当前Solr集群主机进行忙时性能数据采样;
步骤S514,服务器分别对每台当前Solr集群主机测试其写入和查询索引的速度;
步骤S515,服务器统计每台当前Solr集群主机的读写性能权重;
这里,定时针对每台Solr主机进行忙时性能数据采样,分别对每台Solr主机测试其写入和查询索引的速度,然后统计每台Solr主机的读写性能权重。
读写性能权重较大的主机,说明其可用性能空间较大,可以部署哈希范围较大的分片对应的副本。反之,读写性能权重较小的主机,说明其可用性能空间较小,只能部署哈希范围较小的分片对应的副本。
步骤S516,服务器依据所述性能层面分析当前Solr集群的主机系统负荷;
这里,获取当前集群各台主机的系统资源情况,以及合设组件的情况,并以此计算各个主机系统负荷的权重。
有较多资源空余和合设组件较少的主机,来部署哈希范围较大的分片对应的副本。反之,则只能部署哈希范围较小的分片对应的副本。
步骤S517,服务器获取当前Solr集群各台主机系统的资源情况和合设组件的情况;
步骤S518,服务器依据资源情况和合设组件的情况计算各个主机系统负荷的权重。
步骤S519,服务器依据各个主机系统读写性能权重和负荷的权重,得到集群各个主机的可用性能权重;
步骤S520,服务器依据所述可用性能权重推出各个主机的可分配哈希范围。
步骤S521,服务器依据所述哈希范围和扩容前的Solr集群分布,得出性能层面的扩容策略。
实施例六
本发明实施例的解决方案主要是:基于Solr集群自身特点,所处集群Solr主机的网络传输速度,读写索引性能,以及系统负荷进行分析和计算,提出了安全层面和性能层面的Solr集群扩容策略。考虑到索引数据的重要性,默认安全层面扩容策略的优先级高于性能层面扩容策略,即首先结合当前Solr集群副本因子和主机网络稳定性制定安全层面扩容策略,然后基于安全层面扩容策略,结合各个Solr集群主机读写索引的效率,以及系统负荷情况,制定性能层面的扩容策略。
本发明实施例提出了一种基于自适应平衡策略进行Solr集群服务器的扩容系统示意图,该系统Solr集群中各服务器的集合形成的系统,图6A为本发明实施例提出了一种基于自适应平衡策略进行Solr集群服务器的扩容系统示意图,如图6A所示,该系统60包括:
信息采集模块61,用于定期采集Solr主机数、Solr集群的基本信息、每台Solr主机网络传输的数据采样、每台Solr主机读写索引的耗时数据采样、每台企业级搜索服务应用服务器主机的系统资源情况,以及合设组件的情况。
策略配置模62,用于存储安全层面和性能层面扩容策略。
策略分析模块63,用于分析Solr集群的安全类数据和性能类数据。
策略执行模块64,用于从策略配置模块中获取安全层面扩容策略和性能层面扩容策略,并依次执行。
图6B为本发明实施例提供一种服务器的扩容实现流程示意图,如图6B所示,该方法包括以下步骤:
步骤S601,系统启动数据采集定时器;
扩容系统的预置条件为:Solr集群中一台Solr主机对应一个切片的一个副本,每个切片的副本数(即副本因子)为r,一个切片对应哈希环0x00-0xffffffff一个片断的范围,扩容前Solr主机数X,扩容后增加Solr主机数Y。
这里,系统启动时,信息采集管理模块内部会启动一个数据采集定时器,定期采集Solr主机数、Solr集群的基本信息、每台Solr主机网络传输的数据采样、每台Solr主机读写索引的耗时数据采样、每台企业级搜索服务应用服务器主机的系统资源情况,以及合设组件的情况,并将存入关系型数据库管理服务器(Mysql)数据库,作为后续分析的基础数据。
步骤S602,系统启动策略分析功能;
这里,策略分析模块监听到新增了Y台Solr主机的广播,则开始启动策略分析功能。
步骤S603,系统备份Solr集群;
这里,策略分析模块先启动备份操作,备份整个Solr集群的元数据和索引数据;
步骤S604,系统分析安全类数据;
这里,策略分析模块读取第一步获取的基础数据,分析其安全性。
步骤S605,系统生成安全层面的扩容策略;
这里,依据安全性生成安全层面的扩容策略,写入策略配置模块。
首先,获取Solr集群的副本因子,如果为1,则生成一条增加Solr集群副本因子的策略。
接着,读取各个Solr主机进行网络传输的最近N条数据采样记录,如表1,其中Good表示网络传输良好,Bad表示网络传输差;然后根据规则统计出每台Solr主机的安全权重,例如全Good权重为1,超过M%的Bad则权重为0,如表2;最后生成一条将安全权重为0的主机上的Solr集群副本移至安全权重为1的主机上的策略,即副本转移安全主机策略。
表1各Solr主机网络传输采样表
Host1 | Host2 | Host3 | … | |
Time1 | Good | Bad | Good | … |
Time2 | Good | Good | Good | … |
Time3 | Good | Bad | Good | … |
… | … | … | … | … |
TimeN | Good | Good | Good | … |
表2各Solr主机网络传输的安全权重表
Host1 | Host2 | Host3 | … | |
Safe | 1 | 0 | 1 | … |
步骤S606,系统分析性能类数据;
系统策略分析模块分析写索引耗时数据,并生成各Solr主机的写索引性能权重值。
首先,读取每台Solr主机写不同索引数据(Index1,Index2,Index3...)的耗时数据采样,如表3。
表3各Solr主机执行基准写索引测试的耗时表
接着,选择一台Solr主机写索引的耗时作为基准权重,计算其他主机的写索引测试耗时与基准执行的时间比,完成写索引权重表,如表4。
表4各Solr主机写索引的性能权重表
Write_Weight1 | Write_Weigh2 | Write_Weight3 | … | |
Host1 | 1 | 1 | 1 | … |
Host2 | T1_Host2/T1_Host1 | T2_Host2/T2_Host1 | T3_Host2/T3_Host1 | … |
Host3 | T1_Host3/T1_Host1 | T2_Host3/T2_Host1 | T3_Host3/T3_Host1 | … |
… | … | … | … | … |
策略分析模块分析读索引耗时数据,并生成各Solr主机的读索引性能权重值。
首先,读取每台Solr主机读不同索引数据(Index1,Index2,Index3...)的耗时数据采样;
接着,选择一台Solr主机读索引的耗时作为基准权重,计算其他主机的读索引测试耗时与基准执行的时间比,完成读索引权重表。
策略分析模块读取每台Solr主机的系统资源使用情况,以及合设组件的情况,计算各个主机系统负荷的权重;
这里,策略分析模块读取每台Solr主机的系统资源使用情况,以及合设组件的情况,例如CPU使用、内存使用、任务队列数、合设组件数等等,并以此计算各个主机系统负荷的权重,如表5。
表5各Solr主机资源使用和合设组件判断
策略分析模块结合写索引权重,读索引权重和系统负荷权重,计算各Solr主机的综合性能权重值;
这里,策略分析模块结合写索引权重,读索引权重和系统负荷权重,计算各Solr主机的综合性能权重值,如表6。
表6各Solr主机的综合性能权重表
Host1 | Host2 | Host3 | ... | |
Performance | W1 | W2 | W3 | ... |
策略分析模块根据各Solr主机的综合性能权重值,生成扩容后的Solr集群。
这里,策略分析模块根据各Solr主机的综合性能权重值进行计算,图6C为本发明实施例提供一种生成扩容后的Solr集群的原理示意图,如图6C所示,对扩容前原Solr主机621进行扩容后需要增加Solr主机622,将原Solr主机621和增加的Solr主机622中的全部Solr主机按照权重值从高到低的顺序进行排序并分组,按每组的综合性能权重值按比例分配哈希环,得到第一分片623、第二分片624和第三分片625,分配后的哈希范围即为各个分片(Shard)的索引范围,针对每个分片在每组主机中设置对应的主节点(Leader)和副节点(Replica),并生成扩容后的Solr集群。
根据预置条件计算新增主机后能扩容出(X+Y)/r(取整)个分片;
将各Solr主机的综合性能权重值按照从高到低排序;
然后对排序后的Solr主机分组,从第一台主机开始,连续r台主机为一组;
累加每组主机的综合性能权重值作为该组的综合性能权重值;
根据每组的综合性能权重值按比例分配哈希环0x00-0xffffffff,分配后的哈希范围即为各个分片(Shard)的索引范围;然后,针对每个分片在每组主机中设置对应的主节点(Leader)和副节点(Replica),这就是扩容后的Solr集群。
策略分析模块针对扩容前的Solr集群和第九步扩容后的Solr集群,生成性能层面的扩容策略,写入策略配置模块,图6D为本发明实施例提供一种生成性能层面扩容策略的原理示意图,如图6D所示,对扩容前的主机631进行拆分,得到扩容前主机拆分的分片632,拆分后合并形成的新分片633,将新分片分配给扩容后的主机634。
将原始分片1(Shard1)和原始分片2(Shard2)经过拆分合并成新分片1(Shard1’),新分片2(Shard2’),新分片3(Shard3’),具体来说,将原始分片1(Shard1)的前部设置为新分片1(Shard1’),将原始分片1(Shard1)的后部和原始分片2(Shard2)的前部合并为新分片2(Shard2’),将原始分片2(Shard2)的后部设置为新分片3(Shard3’),即生成Solr集群分片拆分合并策略;
步骤S607,系统生成性能层面的扩容策略;
步骤S608,系统执行策略;
这里,策略分析模块通知策略执行模块,从策略配置模块中获取安全层面扩容策略和性能层面扩容策略依次执行。
步骤S609,系统判断是否执行成功;
这里,若执行失败,则转至步骤S610;反之,若执行成功,则通知用户生成扩容策略成功。
步骤S610,系统恢复Solr集群备份;
步骤S611,系统发送失败日志通知;
这里,系统发送失败日志通知给用户。
步骤S612,系统发送生成扩容策略成功通知;
这里,系统发送失败日志通知给用户。
步骤S613,系统删除Solr集群备份。
基于前述的实施例,本发明实施例提供一种服务器的扩容装置,该装置包括所包括的各单元、以及各单元所包括的各模块,以及各模块所包括的各子模块,都可以通过服务器中的处理器来实现;当然也可通过的逻辑电路实现;在实施的过程中,处理器可以为中央处理器(CPU)、微处理器(MPU)、数字信号处理器(DSP)或现场可编程门阵列(FPGA)等。
图7本发明实施例一种服务器的扩容装置的组成结构示意图,如图7所示,所述装置700包括:
第一获取单元701,配置为获取当前企业级搜索应用服务器Solr集群的安全层面信息;
第一生成单元702,配置为基于所述安全层面信息,生成用于对所述Solr集群在安全层面进行扩容的安全层面策略;
第二获取单元703,配置为获取当前Solr集群的性能层面信息;
第二生成单元704,配置为基于所述性能层面信息,生成用于对所述Solr集群在性能层面进行扩容的性能层面策略;
扩容单元705,配置为根据所述安全层面策略和所述性能层面策略对所述Solr集群进行扩容。
在其他的实施例中,所述第一获取单元,还配置为:获取当前Solr集群的副本信息;
所述第一生成单元,还配置为:基于所述当前Solr集群的副本信息,生成增加Solr集群的副本数量的安全层面策略。
在其他的实施例中,所述第一获取单元,还配置为:获取当前Solr集群的每台主机进行数据传输时的传输速度;
所述第一生成单元,还配置为:基于所述当前Solr集群的每台主机进行数据传输时的传输速度,生成将主机上的Solr集群的副本转移至安全主机的安全层面策略。
在其他的实施例中,所述第二获取单元,还配置为:获取当前Solr集群的每台主机对索引进行读和写的速度,和,每台主机的系统负荷。
在其他的实施例中,所述第二生成单元,还配置为:基于所述当前Solr集群的每台主机对索引进行读和写的速度,以及所述每台主机的系统负荷,生成用于对所述Solr集群在性能层面进行扩容的性能层面策略。
在其他的实施例中,所述第二生成单元,包括:
计算模块,配置为根据每台主机的第一权重值、第二权重值和第三权重值的总和,计算当前Solr集群的每台主机的综合性能权重值;
生成模块,配置为根据所述当前Solr集群的每台主机的综合性能权重值,生成用于对所述Solr集群在性能层面进行扩容的性能层面策略。
在其他的实施例中,所述装置还包括:
第一确定单元,配置为确定当前Solr集群中的一台主机为基准主机;
第二确定单元,配置为根据所述当前Solr集群中的每台主机读索引的速度与所述基准主机读索引的速度的比值,确定该主机的第一权重值;
第三确定单元,配置为根据所述当前Solr集群中的每台主机写索引的速度与所述基准主机写索引的速度的比值,确定该主机的第二权重值;
第四确定单元,配置为根据所述当前Solr集群中的每台主机的系统负荷与所述基准主机的系统负荷的比值,确定该主机的第三权重值。
在其他的实施例中,所述生成模块包括:
排序子模块,配置为将所述当前Solr集群的每台主机的综合性能权重值进行排序;
分组子模块,配置为根据所述排序的结果,将所述每台主机进行分组;
累加子模块,配置为将每组中的每台主机的综合性能权重值累加作为该组主机的组性能权重值;
分配子模块,配置为根据所述每组主机的组性能权重值为每组主机分配地址;
生成子模块,配置为根据每组主机的所述地址,生成用于对所述Solr集群在性能层面进行扩容的性能层面策略。
在其他的实施例中,所述生成子模块还配置为:
根据每组主机的所述地址,将所述Solr集群的分片分配至所述每组主机;
根据所述每组主机的分片,生成所述扩容后的Solr集群的性能层面策略。
以上装置实施例的描述,与上述方法实施例的描述是类似的,具有同方法实施例相似的有益效果。对于本发明装置实施例中未披露的技术细节,请参照本发明方法实施例的描述而理解。
需要说明的是,本发明实施例中,如果以软件功能模块的形式实现上述的方法,并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实施例的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台网络侧切换设备(可以是终端或者网络等)执行本发明各个实施例所述方法的全部或部分。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read Only Memory,ROM)、磁碟或者光盘等各种可以存储程序代码的介质。这样,本发明实施例不限制于任何特定的硬件和软件结合。
对应地,本发明实施例提供一种服务器的扩容服务器,包括存储器和处理器,所述存储器存储有可在处理器上运行的计算机程序,所述处理器执行所述程序时实现上述的服务器的扩容分配方法,或者上述的服务器的扩容方法中的步骤。
对应地,本发明实施例提供一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机程序,所述计算机程序配置为执行时实现上述服务器的扩容方法中的步骤。
这里需要指出的是:以上存储介质和服务器实施例的描述,与上述方法实施例的描述是类似的,具有同方法实施例相似的有益效果。对于本发明存储介质和设备实施例中未披露的技术细节,请参照本发明方法实施例的描述而理解。
需要说明的是,图8为本发明实施例中生成扩容策略服务器的一种硬件实体示意图,如图8所示,该服务器800的硬件实体包括:处理器801、通信接口802和存储器803,其中
处理器801通常控制服务器800的总体操作。
通信接口802可以使服务器通过网络与其他终端或服务器通信。
存储器803配置为存储由处理器801可执行的指令和应用,还可以缓存待处理器801以及服务器800中各模块待处理或已经处理的数据(例如,图像数据、音频数据、语音通信数据和视频通信数据),可以通过闪存(FLASH)或随机访问存储器(Random AccessMemory,RAM)实现。
在本申请所提供的几个实施例中,应该理解到,所揭露的设备和方法,可以通过其它的方式实现。以上所描述的设备实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,如:多个单元或组件可以结合,或可以集成到另一个系统,或一些特征可以忽略,或不执行。另外,所显示或讨论的各组成部分相互之间的耦合、或直接耦合、或通信连接可以是通过一些接口,设备或单元的间接耦合或通信连接,可以是电性的、机械的或其它形式的。
上述作为分离部件说明的单元可以是、或也可以不是物理上分开的,作为单元显示的部件可以是、或也可以不是物理单元;既可以位于一个地方,也可以分布到多个网络单元上;可以根据实际的需要选择其中的部分或全部单元来实现本实施例方案的目的。
另外,在本发明各实施例中的各功能单元可以全部集成在一个处理单元中,也可以是各单元分别单独作为一个单元,也可以两个或两个以上单元集成在一个单元中;上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能单元的形式实现。
本领域普通技术人员可以理解:实现上述方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成,前述的程序可以存储于计算机可读取存储介质中,该程序在执行时,执行包括上述方法实施例的步骤;而前述的存储介质包括:移动存储设备、只读存储器(Read Only Memory,ROM)、磁碟或者光盘等各种可以存储程序代码的介质。
或者,本发明上述集成的单元如果以软件功能模块的形式实现并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实施例的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台服务器执行本发明各个实施例所述方法的全部或部分。而前述的存储介质包括:移动存储设备、ROM、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以所述权利要求的保护范围为准。
Claims (12)
1.一种服务器的扩容方法,其特征在于,所述方法包括:
获取当前企业级搜索应用服务器Solr集群的安全层面信息;
基于所述安全层面信息,生成用于对所述Solr集群在安全层面进行扩容的安全层面策略;
获取当前Solr集群的性能层面信息;
基于所述性能层面信息,生成用于对所述Solr集群在性能层面进行扩容的性能层面策略;
根据所述安全层面策略和所述性能层面策略对所述Solr集群进行扩容。
2.根据权利要求1所述的方法,其特征在于,所述获取当前Solr集群的安全层面信息,包括:获取当前Solr集群的副本信息;
所述基于所述安全层面信息,生成用于对所述Solr集群在安全层面进行扩容的安全层面策略,包括:基于所述当前Solr集群的副本信息,生成增加Solr集群的副本数量的安全层面策略。
3.根据权利要求1所述的方法,其特征在于,所述获取当前Solr集群的安全层面信息,包括:获取当前Solr集群的每台主机进行数据传输时的传输速度;
所述基于所述安全层面信息,生成用于对所述Solr集群在安全层面进行扩容的安全层面策略,包括:基于所述当前Solr集群的每台主机进行数据传输时的传输速度,生成将主机上的Solr集群的副本转移至安全主机的安全层面策略。
4.根据权利要求1所述的方法,其特征在于,所述获取当前Solr集群的性能层面信息,包括:
获取当前Solr集群的每台主机对索引进行读和写的速度,和,每台主机的系统负荷。
5.根据权利要求4所述的方法,其特征在于,所述基于所述性能层面信息,生成用于对所述Solr集群在性能层面进行扩容的性能层面策略,包括:
基于所述当前Solr集群的每台主机对索引进行读和写的速度,以及所述每台主机的系统负荷,生成用于对所述Solr集群在性能层面进行扩容的性能层面策略。
6.根据权利要求5所述的方法,其特征在于,所述基于所述性能层面信息,生成用于对所述Solr集群在性能层面进行扩容的性能层面策略,包括:
根据每台主机的第一权重值、第二权重值和第三权重值的总和,计算当前Solr集群的每台主机的综合性能权重值;
根据所述当前Solr集群的每台主机的综合性能权重值,生成用于对所述Solr集群在性能层面进行扩容的性能层面策略。
7.根据权利要求6所述的方法,其特征在于,所述方法还包括:
确定当前Solr集群中的一台主机为基准主机;
根据所述当前Solr集群中的每台主机读索引的速度与所述基准主机读索引的速度的比值,确定该主机的第一权重值;
根据所述当前Solr集群中的每台主机写索引的速度与所述基准主机写索引的速度的比值,确定该主机的第二权重值;
根据所述当前Solr集群中的每台主机的系统负荷与所述基准主机的系统负荷的比值,确定该主机的第三权重值。
8.根据权利要求6所述的方法,其特征在于,所述根据所述当前Solr集群的每台主机的综合性能权重值,生成用于对所述Solr集群在性能层面进行扩容的性能层面策略,包括:
将所述当前Solr集群的每台主机的综合性能权重值进行排序;
根据所述排序的结果,将所述每台主机进行分组;
将每组中的每台主机的综合性能权重值累加作为该组主机的组性能权重值;
根据所述每组主机的组性能权重值为每组主机分配地址;
根据每组主机的所述地址,生成用于对所述Solr集群在性能层面进行扩容的性能层面策略。
9.根据权利要求8所述的方法,其特征在于,所述根据每组的所述地址,生成用于对所述Solr集群在性能层面进行扩容的性能层面策略,包括:
根据每组主机的所述地址,将所述Solr集群的分片分配至所述每组主机;
根据所述每组主机的分片,生成所述扩容后的Solr集群的性能层面策略。
10.一种服务器的扩容装置,其特征在于,所述装置包括:
第一获取单元,配置为获取当前企业级搜索应用服务器Solr集群的安全层面信息;
第一生成单元,配置为基于所述安全层面信息,生成用于对所述Solr集群在安全层面进行扩容的安全层面策略;
第二获取单元,配置为获取当前Solr集群的性能层面信息;
第二生成单元,配置为基于所述性能层面信息,生成用于对所述Solr集群在性能层面进行扩容的性能层面策略;
扩容单元,配置为根据所述安全层面策略和所述性能层面策略对所述Solr集群进行扩容。
11.一种服务器的扩容服务器,包括存储器和处理器,所述存储器存储有可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现权利要求1至9任一项所述生成扩容策略中的步骤。
12.一种存储介质,其特征在于,所述存储介质中存储有计算机可执行指令,所述计算机可执行指令配置为执行上述权利要求1至9任一项所提供的服务器的扩容方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811604894.XA CN111371583B (zh) | 2018-12-26 | 2018-12-26 | 服务器的扩容方法及装置、服务器、存储介质 |
PCT/CN2019/120668 WO2020134786A1 (zh) | 2018-12-26 | 2019-11-25 | 服务器的扩容方法及装置、服务器、存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811604894.XA CN111371583B (zh) | 2018-12-26 | 2018-12-26 | 服务器的扩容方法及装置、服务器、存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111371583A true CN111371583A (zh) | 2020-07-03 |
CN111371583B CN111371583B (zh) | 2022-09-23 |
Family
ID=71128320
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811604894.XA Active CN111371583B (zh) | 2018-12-26 | 2018-12-26 | 服务器的扩容方法及装置、服务器、存储介质 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN111371583B (zh) |
WO (1) | WO2020134786A1 (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113609245A (zh) * | 2021-06-24 | 2021-11-05 | 济南浪潮数据技术有限公司 | 一种索引的分片扩容方法及系统 |
CN114168071A (zh) * | 2021-10-29 | 2022-03-11 | 济南浪潮数据技术有限公司 | 一种分布式集群扩容方法、分布式集群扩容装置及介质 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101790214A (zh) * | 2008-11-28 | 2010-07-28 | 美商威睿电通公司 | 用于多小区通信的装置、方法以及系统 |
US20140189109A1 (en) * | 2012-12-28 | 2014-07-03 | Samsung Sds Co., Ltd. | System and method for dynamically expanding virtual cluster and recording medium on which program for executing the method is recorded |
CN103973759A (zh) * | 2013-02-06 | 2014-08-06 | 腾讯科技(深圳)有限公司 | 负载调节的方法及装置 |
CN105262640A (zh) * | 2015-09-17 | 2016-01-20 | 北京汉柏科技有限公司 | 一种提升云平台服务器可靠性的系统、方法及其部署框架 |
CN106020934A (zh) * | 2016-05-24 | 2016-10-12 | 浪潮电子信息产业股份有限公司 | 一种基于虚拟集群在线迁移的优化部署方法 |
CN106254470A (zh) * | 2016-08-08 | 2016-12-21 | 广州唯品会信息科技有限公司 | 分布式作业分片分配方法和装置 |
CN107302444A (zh) * | 2016-04-15 | 2017-10-27 | 中兴通讯股份有限公司 | 企业级搜索应用服务器集群自动扩容方法及装置 |
WO2018000991A1 (zh) * | 2016-06-30 | 2018-01-04 | 华为技术有限公司 | 一种数据均衡方法和装置 |
CN108469989A (zh) * | 2018-03-13 | 2018-08-31 | 广州西麦科技股份有限公司 | 一种基于集群性能的反馈式自动扩缩容方法及系统 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104156367B (zh) * | 2013-05-14 | 2017-12-01 | 阿里巴巴集团控股有限公司 | 一种搜索引擎的扩容方法及搜索服务系统 |
CN105024842A (zh) * | 2014-04-25 | 2015-11-04 | 深圳市腾讯计算机系统有限公司 | 服务器的扩容方法及装置 |
-
2018
- 2018-12-26 CN CN201811604894.XA patent/CN111371583B/zh active Active
-
2019
- 2019-11-25 WO PCT/CN2019/120668 patent/WO2020134786A1/zh active Application Filing
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101790214A (zh) * | 2008-11-28 | 2010-07-28 | 美商威睿电通公司 | 用于多小区通信的装置、方法以及系统 |
US20140189109A1 (en) * | 2012-12-28 | 2014-07-03 | Samsung Sds Co., Ltd. | System and method for dynamically expanding virtual cluster and recording medium on which program for executing the method is recorded |
CN103973759A (zh) * | 2013-02-06 | 2014-08-06 | 腾讯科技(深圳)有限公司 | 负载调节的方法及装置 |
CN105262640A (zh) * | 2015-09-17 | 2016-01-20 | 北京汉柏科技有限公司 | 一种提升云平台服务器可靠性的系统、方法及其部署框架 |
CN107302444A (zh) * | 2016-04-15 | 2017-10-27 | 中兴通讯股份有限公司 | 企业级搜索应用服务器集群自动扩容方法及装置 |
CN106020934A (zh) * | 2016-05-24 | 2016-10-12 | 浪潮电子信息产业股份有限公司 | 一种基于虚拟集群在线迁移的优化部署方法 |
WO2018000991A1 (zh) * | 2016-06-30 | 2018-01-04 | 华为技术有限公司 | 一种数据均衡方法和装置 |
CN106254470A (zh) * | 2016-08-08 | 2016-12-21 | 广州唯品会信息科技有限公司 | 分布式作业分片分配方法和装置 |
CN108469989A (zh) * | 2018-03-13 | 2018-08-31 | 广州西麦科技股份有限公司 | 一种基于集群性能的反馈式自动扩缩容方法及系统 |
Non-Patent Citations (1)
Title |
---|
王子珍等: "基于路径与网络质量相结合的动态迁移算法", 《中北大学学报(自然科学版)》 * |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113609245A (zh) * | 2021-06-24 | 2021-11-05 | 济南浪潮数据技术有限公司 | 一种索引的分片扩容方法及系统 |
CN113609245B (zh) * | 2021-06-24 | 2023-12-22 | 济南浪潮数据技术有限公司 | 一种索引的分片扩容方法及系统 |
CN114168071A (zh) * | 2021-10-29 | 2022-03-11 | 济南浪潮数据技术有限公司 | 一种分布式集群扩容方法、分布式集群扩容装置及介质 |
CN114168071B (zh) * | 2021-10-29 | 2023-11-03 | 济南浪潮数据技术有限公司 | 一种分布式集群扩容方法、分布式集群扩容装置及介质 |
Also Published As
Publication number | Publication date |
---|---|
WO2020134786A1 (zh) | 2020-07-02 |
CN111371583B (zh) | 2022-09-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106844510B (zh) | 一种分布式数据库集群的数据迁移方法和装置 | |
JP5823037B2 (ja) | インデックス構築方法、検索方法、検索デバイス、および検索システム | |
US10331625B2 (en) | Managing sequential data store | |
CN107402722B (zh) | 一种数据迁移方法及存储设备 | |
US20110153570A1 (en) | Data replication and recovery method in asymmetric clustered distributed file system | |
CN109582213B (zh) | 数据重构方法及装置、数据存储系统 | |
CN105242983B (zh) | 一种数据存储方法以及一种数据存储管理服务器 | |
CN102932415A (zh) | 一种镜像文件存储方法及装置 | |
CN111371583B (zh) | 服务器的扩容方法及装置、服务器、存储介质 | |
CN107038092B (zh) | 一种数据复制方法及装置 | |
CN113553179A (zh) | 分布式键值存储负载均衡方法及系统 | |
CN109189327B (zh) | 区块链数据的压缩处理方法和装置 | |
CN111443867B (zh) | 一种数据存储方法、装置、设备及存储介质 | |
CN104484134A (zh) | 分布式存储的磁盘分配方法及装置 | |
US11914648B2 (en) | Graph refactorization method and graph refactorization apparatus | |
CN110955720A (zh) | 一种数据加载方法、装置及系统 | |
CN111046004B (zh) | 一种数据文件存储方法、装置、设备及存储介质 | |
CN110764705B (zh) | 一种数据的读写方法、装置、设备和存储介质 | |
CN116954863A (zh) | 数据库调度方法、装置、设备及存储介质 | |
CN109992196B (zh) | 索引数据的存储方法及装置、存储系统 | |
CN107451229B (zh) | 一种数据库查询方法和装置 | |
CN113312316B (zh) | 数据处理方法及装置 | |
CN112817980B (zh) | 一种数据索引处理方法、装置、设备及存储介质 | |
Ahmad et al. | Lowest data replication storage of binary vote assignment data grid | |
JP6197872B2 (ja) | データ処理システム、データ処理方法およびデータ処理プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |