CN111400152A - 数据处理方法以及第一服务器和第二服务器 - Google Patents
数据处理方法以及第一服务器和第二服务器 Download PDFInfo
- Publication number
- CN111400152A CN111400152A CN202010162427.7A CN202010162427A CN111400152A CN 111400152 A CN111400152 A CN 111400152A CN 202010162427 A CN202010162427 A CN 202010162427A CN 111400152 A CN111400152 A CN 111400152A
- Authority
- CN
- China
- Prior art keywords
- server
- matrix
- performance parameters
- performance
- performance parameter
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 24
- 238000007781 pre-processing Methods 0.000 claims abstract description 33
- 239000011159 matrix material Substances 0.000 claims description 179
- 238000012549 training Methods 0.000 claims description 39
- 238000000034 method Methods 0.000 claims description 32
- 238000012795 verification Methods 0.000 claims description 13
- 238000010200 validation analysis Methods 0.000 claims description 4
- 230000001131 transforming effect Effects 0.000 claims description 2
- 230000006870 function Effects 0.000 description 21
- 238000010586 diagram Methods 0.000 description 16
- 230000015654 memory Effects 0.000 description 15
- 238000006243 chemical reaction Methods 0.000 description 10
- 238000004590 computer program Methods 0.000 description 10
- 238000012545 processing Methods 0.000 description 9
- 238000004891 communication Methods 0.000 description 7
- 230000004913 activation Effects 0.000 description 6
- 238000013507 mapping Methods 0.000 description 5
- 230000008569 process Effects 0.000 description 4
- 230000005540 biological transmission Effects 0.000 description 3
- 238000012217 deletion Methods 0.000 description 3
- 230000037430 deletion Effects 0.000 description 3
- 230000008030 elimination Effects 0.000 description 3
- 238000003379 elimination reaction Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 238000001914 filtration Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000004806 packaging method and process Methods 0.000 description 2
- 239000000758 substrate Substances 0.000 description 2
- 238000004140 cleaning Methods 0.000 description 1
- 238000013480 data collection Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/34—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
- G06F11/3447—Performance evaluation by modeling
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/16—Matrix or vector computation, e.g. matrix-matrix or matrix-vector multiplication, matrix factorization
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
Abstract
本公开实施例提供了一种数据处理方法,应用于第一服务器,该方法包括:获取由至少一个第二服务器发送至第一服务器的至少一个性能参数集合,其中至少一个性能参数集合为至少一个第二服务器各自采集自身的性能参数并进行预处理后得到的;根据至少一个性能参数集合对至少一个第二服务器进行状态预测。本公开实施例还提供了一种第一服务器、一种第二服务器、一种电子设备和一种计算机可读存储介质。
Description
技术领域
本公开涉及计算机技术领域,更具体地,涉及一种数据处理方法、一种第一服务器、一种第二服务器、一种电子设备和一种计算机可读存储介质。
背景技术
目前,随着计算机技术的发展,分析、预测服务器的状态广泛应用在金融、科学技术等领域中。但是,随着服务器数量的爆发式增长,服务器的性能参数的数据量也随之快速增长,这给分析、预测服务器的状态带来了挑战。
在实现本公开构思的过程中,发明人发现相关技术中至少存在如下问题:相关技术在针对多个服务器进行状态预测时存在时效性差的缺陷。
发明内容
有鉴于此,本公开实施例提供了一种数据处理方法、一种第一服务器和一种第二服务器,解决了相关技术中在针对多个服务器进行状态预测时存在时效性差的问题。
本公开实施例的一个方面提供了一种数据处理方法,应用于第一服务器,上述方法包括:获取由至少一个第二服务器发送至上述第一服务器的至少一个性能参数集合,其中上述至少一个性能参数集合为上述至少一个第二服务器各自采集自身的性能参数并进行预处理后得到的;根据上述至少一个性能参数集合对上述至少一个第二服务器进行状态预测。
根据本公开的实施例,在根据上述至少一个性能参数集合对上述至少一个第二服务器进行状态预测之后,上述数据处理方法还包括,针对上述至少一个第二服务器中的每个第二服务器执行以下操作:确定上述至少一个性能参数集合中与当前第二服务器关联的第一性能参数集合,上述第一性能参数集合包括第一子集和第二子集,其中,上述第一子集包括第一数值型性能参数,上述第一数值型性能参数是由采集的非数值型性能参数转换得到的,上述第二子集包括第二数值型性能参数,上述第二数值型性能参数是由采集的数值型性能参数构成的;根据上述第一子集对上述当前第二服务器进行状态预测,得到第一预测结果;根据上述第二子集对上述当前第二服务器进行状态预测,得到第二预测结果;将上述第一预测结果转换为对应的非数值型预测结果;显示上述非数值型预测结果和上述第二预测结果。
根据本公开的实施例,在对上述至少一个第二服务器进行状态预测之前,上述数据处理方法还包括:针对上述至少一个第二服务器中的每个第二服务器训练对应的用于进行状态预测的预测模型。其中,上述针对上述至少一个第二服务器中的每个第二服务器训练对应的用于进行状态预测的预测模型,包括:获取与当前第二服务器关联的性能参数样本集合;根据上述性能参数样本集合计算对应的性能参数矩阵;将上述性能参数矩阵变换为对应的标准参数矩阵;基于上述标准参数矩阵训练用于对上述当前第二服务器进行状态预测的第一预测模型。
根据本公开的实施例,上述基于上述标准参数矩阵训练用于对上述当前第二服务器进行状态预测的第一预测模型,包括:根据上述标准参数矩阵生成对应的相关性矩阵;基于上述性能参数样本集合的采集时间从上述标准参数矩阵拆分出训练矩阵;基于第一预设时间步长将上述训练矩阵拆分为第一输入矩阵和第一输出矩阵;基于上述第一输入矩阵、上述第一输出矩阵和上述相关性矩阵训练上述第一预测模型。
根据本公开的实施例,在训练得到上述第一预测模型之后,上述数据处理方法还包括:基于上述采集时间从上述标准参数矩阵拆分出验证矩阵,其中,上述验证矩阵不同于上述训练矩阵;基于第二预设时间步长将上述验证矩阵拆分为第二输入矩阵和第二输出矩阵;基于上述第二输入矩阵和上述第二输出矩阵验证上述第一预测模型,以便根据验证结果修正上述第一预测模型。
本公开实施例的另一个方面提供了一种数据处理方法,应用于第二服务器,上述方法包括:采集上述第二服务器的性能参数;对采集到的性能参数进行预处理,得到针对上述第二服务器的性能参数集合;将上述性能参数集合发送至第一服务器,以便上述第一服务器根据上述性能参数集合对上述第二服务器进行状态预测。
根据本公开的实施例,上述对采集到的性能参数进行预处理,包括:将上述性能参数中的非数值型性能参数转换成数值型性能参数;和/或,删除上述性能参数中的数值为空的数值型性能参数。
本公开实施例的另一个方面提供了一种第一服务器,包括:获取模块,用于获取由至少一个第二服务器发送至上述第一服务器的至少一个性能参数集合,其中上述至少一个性能参数集合为上述至少一个第二服务器各自采集自身的性能参数并进行预处理后得到的;预测模块,用于根据上述至少一个性能参数集合对上述至少一个第二服务器进行状态预测。
本公开实施例的另一个方面提供了一种第二服务器,包括:采集模块,用于采集上述第二服务器的性能参数;预处理模块,用于对采集到的性能参数进行预处理,得到针对上述第二服务器的性能参数集合;发送模块,用于将上述性能参数集合发送至第一服务器,以便上述第一服务器根据上述性能参数集合对上述第二服务器进行状态预测。
本公开的另一方面提供了一种电子设备,包括一个或多个处理器以及存储装置,其中,上述存储装置用于存储可执行指令,上述可执行指令在被上述处理器执行时,实现如上所述的方法。
本公开的另一方面提供了一种计算机可读存储介质,存储有计算机可执行指令,上述指令在被执行时用于实现如上所述的方法。
本公开的另一方面提供了一种计算机程序,上述计算机程序包括计算机可执行指令,上述指令在被执行时用于实现如上所述的方法。
根据本公开的实施例,在第一服务器在对多个第二服务器进行状态预测时,由于每个第二服务器不仅负责采集自身的性能参数,而且还负责对各自采集的性能参数进行预处理,因而第一服务器可直接基于各第二服务器预处理后的性能参数对各第二服务器进行状态预测,而不再需要集中针对各第二服务器采集的性能参数进行预处理,由此可以至少部分地解决相关技术中对服务器状态进行预测,存在时效性差的问题,并由此可以实现同时对多个第二服务器进行实时状态预测。
附图说明
通过以下参照附图对本公开实施例的描述,本公开的上述以及其他目的、特征和优点将更为清楚,在附图中:
图1示意性示出了根据本公开实施例的可以应用数据处理方法的系统架构;
图2示意性示出了根据本公开实施例的数据处理方法的流程图;
图3示意性示出了根据本公开实施例的显示预测结果的流程图;
图4示意性示出了根据本公开实施例的训练用于进行状态预测的预测模型的流程图;
图5示意性示出了根据本公开实施例的训练第一预测模型的流程图;
图6示意性示出了根据本公开实施例的验证第一预测模型的流程图;
图7示意性示出了根据本公开另一实施例的数据处理方法的流程图;
图8示意性示出了根据本公开实施例的第一服务器的框图;
图9示意性示出了根据本公开实施例的第二服务器的框图;以及
图10示意性示出了根据本公开实施例的电子设备的框图。
具体实施方式
以下,将参照附图来描述本公开的实施例。但是应该理解,这些描述只是示例性的,而并非要限制本公开的范围。在下面的详细描述中,为便于解释,阐述了许多具体的细节以提供对本公开实施例的全面理解。然而,明显地,一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外,在以下说明中,省略了对公知结构和技术的描述,以避免不必要地混淆本公开的概念。
在此使用的术语仅仅是为了描述具体实施例,而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了特征、步骤、操作和/或部件的存在,但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义,除非另外定义。应注意,这里使用的术语应解释为具有与本说明书的上下文相一致的含义,而不应以理想化或过于刻板的方式来解释。
在使用类似于“A、B和C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。在使用类似于“A、B或C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B或C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个特征。
本公开的实施例提供了一种应用于第一服务器的数据处理方法,该方法例如可以包括以下操作。获取由至少一个第二服务器发送至第一服务器的至少一个性能参数集合,其中至少一个性能参数集合为至少一个第二服务器各自采集自身的性能参数并进行预处理后得到的。根据至少一个性能参数集合对至少一个第二服务器进行状态预测。
图1示意性示出了根据本公开实施例的可以应用数据处理方法的系统架构100。需要注意的是,图1所示仅为可以应用本公开实施例的系统架构的示例,以帮助本领域技术人员理解本公开的技术内容,但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。
如图1所示,根据该实施例的系统架构100可以包括第一服务器101,网络102和第二服务器103、104、105。网络102用于在第一服务器101和第二服务器103、104、105之间提供通信链路的介质。网络102可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等。
第一服务器101和第二服务器103、104、105可以通过网络102进行信息交互,以接收或发送消息等。第二服务器103、104、105上可以安装有各种操作系统及应用程序,例如金融类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端等。
第二服务器103、104、105可以是具有显示屏并且支持网络通信的各种电子设备,包括但不限于文件服务器、数据库服务器等。另外,第二服务器103、104、105可以采集并预处理第二服务器103、104、105本机的性能参数。其中,性能参数可以包括硬件性能参数、中间件性能参数和软件性能参数。硬件性能参数可以包括硬盘、处理器、存储器等组件的性能参数。中间件性能参数可以包括消息队列、线程等组件的性能参数。软件性能参数可以包括操作系统、应用程序等组件的性能参数。其中,性能参数预处理可以包括性能参数的转换、滤除和分类等。
第一服务器101可以是提供各种服务的服务器,例如对第二服务器103、104、105采集的性能参数进行分析、预测的服务器。第一服务器101可以对接收到的性能参数等数据进行分析、预测等处理,并可将预测结果(例如,根据第二服务器103、104、105的历史性能参数预测得到未来某时间段第二服务器103、104、105的性能参数)反馈给第二服务器103、104、105。此外,第一服务器101还可以显示预测结果。
在本公开的实施例中,多个第二服务器103、104、105可以与第一服务器101连接,即第一服务器101和多个第二服务器103、104、105呈分布式布置。其中,每个第二服务器103、104、105可以采集、清洗(例如,性能参数的转换、滤除和分类等)该第二服务器103、104、105本地的性能参数,每个第二服务器103、104、105还可以将清洗后的性能参数发送至第一服务器101。第一服务器101基于从第一服务器101获取的性能参数进行分析、预测等处理。
应该理解,第一服务器101,网络102和第二服务器103、104、105的数目仅仅是示意性的。根据实现需要,可以具有任意数目的第一服务器101,网络102和第二服务器103、104、105。
图2示意性示出了根据本公开实施例的数据处理方法的流程图。
本公开的可选实施例中,如图2所示,应用于第一服务器的数据处理方法可以包括以下操作S201~S202。
在操作S201,获取由至少一个第二服务器发送至第一服务器的至少一个性能参数集合,其中,至少一个性能参数集合为至少一个第二服务器各自采集自身的性能参数并进行预处理后得到的。
在本公开的实施例中,第二服务器可以包括硬盘、处理器、存储器等硬件组件,也可以包括消息队列、线程等中间组件,还可以包括操作系统、应用程序等软件组件。并且第二服务器可以各自采集自身的硬件组件、中间组件和软件组件的性能参数,并对采集的性能参数进行转换、滤除和分类处理后得到该第二服务器的至少一个性能参数集合。
在一个实施例中,每个第二服务器可以各自周期性采集自身的性能参数,并以组件为基准对采集的性能参数进行分类,并剔除分类后性能参数中数值为空的性能参数。其中,性能参数可以包括非数值型性能参数和数值型性能参数。例如,操作系统启动时间、线程的数量可以是数值型性能参数,应用程序的版本号、内存溢出状态可以是非数值型性能参数。其中,非数值型性能参数便于预测人员查看、理解,但不利用处理器进行分析、预测。数值型性能参数既便于预测人员查看、理解,又便于处理器进行分析、预测。
第二服务器可以每隔10分钟采集一次性能参数,例如,第二服务器可以每隔10分钟采集第二服务器本机的硬盘、处理器、存储器、消息队列、线程、操作系统和应用程序等组件的性能参数,并根据组件对采集的性能参数进行分类,从而得到组件对应的性能参数。然后,可以剔除相应组件的性能参数中数值为空的性能参数。假如,操作系统的性能参数可以表示为[C,525.06,11.2,0,2.0,1.8,59.1,error,E8,-2,0,0,0,0,CE,0,0,0,0,8f,a,20A,0.82,0,0,0],其中,0表示数值为空的性能参数。对此,剔除该操作系统的性能参数中数值为空的性能参数后,操作系统的性能参数可以表示为[C,525.06,11.2,2.0,1.8,59.1,error,E8,-2,CE,8f,a,20A,0.82]。此外,可以基于第二服务器的所有组件的性能参数形成一个性能参数集合。也可以基于第二服务器的一部分组件的性能参数形成一个性能参数集合,并基于第二服务器的另一部分组件的性能参数形成另一个性能参数集合。例如,可以基于第二服务器的硬盘的性能参数、处理器的性能参数和存储器的性能参数形成一个性能参数集合,再基于第二服务器的消息队列的性能参数和线程的性能参数形成一个性能参数集合,再基于第二服务器的操作系统的性能参数和应用程序的性能参数形成一个性能参数集合。也可以基于第二服务器的硬盘的性能参数、处理器的性能参数、存储器的性能参数、消息队列的性能参数、线程的性能参数、操作系统的性能参数和应用程序的性能参数形成一个总的性能参数集合。
在本公开的实施例中,第二服务器可以对自身采集的性能参数进行预处理,预处理可以包括对性能参数进行分类,还可以包括对性能参数中的非数值型性能参数进行转换,得到对应的数值型性能参数,还可以包括对性能参数中数值为空的数值型性能参数进行剔除。例如,第二服务器将性能参数中的非数值型性能参数转换成数值型性能参数,并剔除转换后的数值型性能参数中数值为空的数值型性能参数。假如,第二服务器采集的性能参数的数据序列表示为[a,C,7.5,3.1,0,11.2,0,0,2.0,1.8,59.1,error,E8,-2,0,E4,0,0,CE,0,0,0,0,8f,a,0,0.82,0,0,1.1],可以根据预设映射表将操作系统的性能参数中的非数值型性能参数转换成数值型性能参数,可以得到数据序列[1,30,7.5,3.1,0,11.2,0,0,2.0,1.8,59.1,10,58,-2,0,8,0,0,64,0,0,0,0,158,1,0,0.82,0,0,1.1],再剔除转换后的数据序列中数值为0的数值型性能参数,可以得到数据序列[1,30,7.5,3.1,11.2,2.0,1.8,59.1,10,58,-2,8,64,158,1,0.82,1.1],该数据序列即为第二服务器的性能参数集合。其中,预测映射表规定了非数值型性能参数和数值型性能参数彼此之间转换关系。例如,应用程序的非数值型性能参数—程序版本号V1.1对应的数值型性能参数可以表示为1.1,非数值型性能参数——数据库同步对应的数值型性能参数可以表示为1,非数值型性能参数——数据库不同步对应的数值型性能参数可以表示为2。由于预处理后的性能参数集合中没有数值为0的数值型性能参数(即剔除了数值为空的数值型性能参数),因此可以避免数值为0的数值型性能参数对后续预测的干扰,进而可以提高预测的准确性。
然后,在操作S202,根据至少一个性能参数集合对至少一个第二服务器进行状态预测。
在本公开的实施例中,可以利用从第二服务器接收的性能参数集合预测该第二服务器的状态。
例如,以1个小时为周期,从第二服务器接收第二服务器过去24小时的性能参数集合,可以将第二服务器基于每次采集的性能参数生成的性能参数集合作为一个性能参数集合,可以得到24个性能参数集合。也可以将第二服务器基于采集的所有性能参数生成的性能参数集合作为一个总的性能参数集合。然后,可以利用得到的24个性能参数集合或者总的性能参数集合,预测该第二服务器在未来24小时的性能参数集合,预测得到的性能参数集合可以表示该第二服务器的状态。
通过本公开的实施例,至少一个第二服务器中的每个第二服务器采集自身的性能参数,并且第二服务器对自身采集的性能参数进行过滤、转换、剔除等预处理,获取对应的性能参数集合。然后,可以将获取的性能参数集合发送至第一服务器,第一服务器从该第二服务器接收性能参数集合,并且可以根据接收的性能参数集合预测发送性能参数集合的第二服务器的状态。可见,性能参数的采集、预处理均在第二服务器本地完成,第一服务器可以直接利用第二服务器发送的性能参数集合,对发送性能参数集合的第二服务器进行状态预测,第一服务器的数据处理量减少。因此,第一服务器对第二服务器进行状态预测的时效性可以得以提高,进而可以实现对第二服务器进行实时状态预测。
通过本公开的实施例,第一服务器和多个第二服务器呈分布式布置,第二服务器的性能参数的采集、预处理(清洗)均在第二服务器本地完成,第一服务器可以直接利用第二服务器发送的预处理后的性能参数集合,对发送性能参数集合的第二服务器进行状态预测。将第一服务器对性能参数进行集中采集、集中预处理,前移至相应的第二服务器进行分布处理,从而实现数据采集、预处理的前移,即实现性能参数预处理的分布式计算,从而减轻第一服务器集中预处理性能参数的压力,可以实时对数据进行预处理,进而可以实现对第二服务器进行实时状态预测。
下面参考图3~图6,结合具体实施例对图2所示的方法做进一步说明。
图3示意性示出了根据本公开实施例的显示预测结果的流程图。
具体地,本公开的可选实施例中,如图3所示,在图2的操作S202之后,应用于第一服务器的数据处理方法还可以包括以下操作S301~S305。
在操作S301,确定至少一个性能参数集合中与当前第二服务器关联的第一性能参数集合,第一性能参数集合包括第一子集和第二子集,其中,第一子集包括第一数值型性能参数,第一数值型性能参数是由采集的非数值型性能参数转换得到的,第二子集包括第二数值型性能参数,第二数值型性能参数是由采集的数值型性能参数构成的。
在本公开的实施例中,当前第二服务器的性能参数既包含非数值型性能参数,又包含数值型性能参数。由于第一服务器仅能基于数值型性能参数对第二服务器进行状态预测。因此,当前第二服务器对性能参数进行预处理时,需要根据预设映射表将性能参数中的非数值型性能参数转换成数值型性能参数(即第一子集)。然后基于转换后的数值型性能参数和采集的数值型性能参数(即第二子集)组合成第一性能参数集合。再将获取的第一性能参数集合传送至第一服务器,以便第一服务器对当前第二服务器进行状态预测。因此,第一服务器接收的第一性能参数集合中的有些数值型性能参数(即第一子集)是由非数值型性能参数转换得到的。
接下来,在操作S302,根据第一子集对当前第二服务器进行状态预测,得到第一预测结果。
在本公开的实施例中,从当前第二服务器接收的第一性能参数集合包括第一子集,第一子集可以包括由采集的非数值型性能参数转换得到的数值型性能参数,并且可以根据第一子集对当前第二服务器进行状态预测,得到相应的第一预测结果。假设,第一性能参数集合表示为[1,525.06,11.2,2.0,1.8,59.1,28,42,-2,1,1,31,2,0.82],并且第一子集表示为[1,28,42,1,1,31,2],则可以根据第一子集[1,28,42,1,1,31,2]对当前第二服务器进行状态预测,得到的第一预测结果,假设第一预测结果表示为[2,25,50,1,3,30,2]。
再接下来,在操作S303,根据第二子集对当前第二服务器进行状态预测,得到第二预测结果。
在本公开的实施例中,从当前第二服务器接收的第一性能参数集合包括第二子集,第二子集可以包括由采集的数值型性能参数构成的第二数值型性能参数,并且可以根据第二子集对当前第二服务器进行状态预测,得到相应的第二预测结果。假设,第一性能参数集合表示为[1,525.06,11.2,2.0,1.8,59.1,28,42,-2,1,1,31,2,0.82],并且第二子集表示为[525.06,11.2,2.0,1.8,59.1,-2,0.82],则可以根据第二子集[525.06,11.2,2.0,1.8,59.1,-2,0.82]对当前第二服务器进行状态预测,得到第二预测结果,假设第二预测结果表示为[526.06,11.3,2.5,1.4,59.0,-4,0.78]。
然后,在操作S304,将第一预测结果转换为对应的非数值型预测结果。
在本公开的实施例中,假设第一预测结果表示为[2,25,50,1,3,30,2],根据预设映射表将第一预测结果转换为对应的非数值型预测结果,假设转换得到的非数值型预测结果表示为[a,E1,R3,D,A3,in,F]。此时,转换得到的非数值型预测结果的数据类型与当前第二服务器采集的性能参数的数据类型一致。
接下来,在操作S305,显示非数值型预测结果和第二预测结果。
在本公开的实施例中,接上述示例,如果非数值型预测结果表示为[a,E1,R3,D,A3,in,F],第二预测结果表示为[526.06,11.3,2.5,1.4,59.0,-4,0.78],那么显示结果可以表示为[a,526.06,11.3,2.5,1.4,59.0,E1,R3,-4,D,A3,in,F,0.78]。此时,显示的性能参数的类型与第二服务器采集的性能参数的类型完全一致,方便工作人员查看,用户体验度高。
通过本公开的实施例,可以利用第一性能参数集合中由采集的非数值型性能参数转换得到的第一数值型性能参数对当前第二服务器进行状态预测得到第一预测结果,并利用第一性能参数集合中由采集的数值型性能参数构成的第二数值型性能参数对当前第二服务器进行状态预测得到第二预测结果。然后,根据预设映射表将第一预测结果转换为对应的非数值型预测结果,再将转换得到的非数值型预测结果和第二预测结果合并后显示。因此,显示的性能参数的类型与第二服务器采集的性能参数的类型完全一致,工作人员可以直观查看预测结果。
图4示意性示出了根据本公开实施例的训练用于进行状态预测的预测模型的流程图。
本公开的可选实施例中,如图4所示,在图2的操作S202之前,应用于第一服务器的数据处理方法可以包括以下操作:针对至少一个第二服务器中的每个第二服务器训练对应的用于进行状态预测的预测模型。
在本公开的实施例中,可以利用从当前第二服务器接收的性能参数样本集合训练适用于该当前第二服务器的预测模型。例如,可以将从当前第二服务器接收的当前第二服务器在过去1周或1个月采集的性能参数集合作为性能参数样本集合,并利用从当前第二服务器接收的性能参数集合训练适用于当前第二服务器的预测模型。可见,每个第二服务器对应一个专用预测模型,可以进一步提高预测的准确度。另外,预测模型可以包括增强型长短期记忆网络算法(Enhanced Long-Short Memory,简称E-LSTM)模型。
具体地,针对至少一个第二服务器中的每个第二服务器训练对应的用于进行状态预测的预测模型的操作,可以包括以下操作S401~S404。
在操作S401,获取与当前第二服务器关联的性能参数样本集合。
在本公开的实施例中,与当前第二服务器关联的性能参数样本集合可以是当前第二服务器采集自身的性能参数并进行预处理后得到的。例如,在过去的24小时内,当前第二服务器每隔1个小时采集自身的性能参数,并对采集的性能参数进行预处理,可以从当前第二服务器接收当前第二服务器预处理后的性能参数集合,并且可以将接收的性能参数集合作为与当前第二服务器关联的性能参数样本集合。
接下来,在操作S402,根据性能参数样本集合计算对应的性能参数矩阵。
在本公开的实施例中,假如性能参数样本集合中包括当前第二服务器的硬盘的性能参数、消息队列的性能参数和操作系统的性能参数。其中,硬盘的性能参数可以包括硬盘的温度值和硬盘的剩余存储空间大小。消息队列的性能参数可以包括消息队列的请求数和消息队列的使用率。操作系统的性能参数可以包括操作系统的线程数和操作系统的最大文件系统比率。可见,上述性能参数样本集合中的项目包括硬盘的温度、硬盘的剩余存储空间、消息队列的请求数、消息队列的使用率、操作系统的线程数和操作系统的最大文件系统比率。如果当前第二服务器周期性采集了12次上述项目的性能参数,那么可以得到一个12行6列的性能参数矩阵。其中,性能参数矩阵的每一列可以是一个项目的性能参数。如果项目是硬盘的温度,那么硬盘的温度值就是性能参数。例如,以5分钟为周期,采集过去1小时内硬盘的温度,可以得到12个温度值,则这12个温度值可以作为性能参数矩阵的1列。
假如,针对包括硬盘的温度、硬盘的剩余存储空间、消息队列的请求数、消息队列的使用率、操作系统的线程数和操作系统的最大文件系统比率的项目,当前第二服务器周期性采集了8次上述项目的性能参数,则可以得到如表1所示的8行6列的性能参数矩阵。
表1
再接下来,在操作S403,将性能参数矩阵变换为对应的标准参数矩阵。
在本公开的实施例中,可以计算出性能参数矩阵中每列性能参数值的均值和方差,然后通过预处理函数并基于当前列的性能参数值对应的均值和方差,将当前列的性能参数值变换为当前列对应的标准参数值。
例如,“操作系统的线程数”所在列的性能参数值可以表示为[8,6,7,5,2,4,6,2],则可以利用均值公式计算出该列的均值为5,可以利用方差公式计算出该列的方差S为2.06,其中,在方差公式中,i可以表示该列性能参数值的序号,Xi可以表示该列的第i个性能参数值。然后,可以利用预处理函数基于该列的均值和方差计算该列中每个性能参数值对应的标准参数值。其中,在预处理函数公式中,i可以表示该列性能参数值的序号,Xi可以表示该列的第i个性能参数值,φ(Xi)可以表示该列的第i个性能参数值对应的标准参数值,S可以表示该列的方差,可以表示该列的均值。因此,可以利用预处理函数计算该列的性能参数值8对应的标准参数值,从而得到该列的性能参数值8对应的标准参数值是1.456。同理,可以计算出该列其它性能参数值对应的标准参数值,从而得到该列的性能参数值[8,6,7,5,2,4,6,2]对应的标准参数值可以表示为[1.456,0.485,0.971,0,-1.456,-0.485,0.485,-1.456]。相应地,可以通过上述方法计算得到性能参数矩阵中其它列性能参数值对应的标准参数值,从而将上述表1所示的8×6性能参数矩阵变换为对应的8×6标准参数矩阵,变换得到的8×6标准参数矩阵如下述表2所示。
表2
然后,在操作S404,基于标准参数矩阵训练用于对当前第二服务器进行状态预测的第一预测模型。
在本公开的实施例中,由于标准参数矩阵中同一行的标准参数值对应的采集时间相同,不同行的标准参数值对应的采集时间不同,并且不同行的标准参数值对应的采集时间依序排列。因此,可以将标准参数矩阵中的标准参数值按行分成两部分,即采集时间靠前的标准参数值和采集时间靠后的标准参数值。然后将采集时间靠前的行中的标准参数值作为第一预测模型的输入,并将采集时间靠后的行中的标准参数值作为第一预测模型的输出,训练第一预测模型的系数,从而得到用于对当前第二服务器进行状态预测的第一预测模型。例如,可以将上述表2中的前4行中的标准参数值作为第一预测模型的输入,并将上述表2中的后4行中的标准参数值作为第一预测模型的输出,训练第一预测模型的系数。
通过本公开的实施例,可以根据从当前第二服务器接收的性能参数样本集合计算相应的性能参数矩阵,然后将性能参数矩阵变换为对应的标准参数矩阵,并利用变换的标准参数矩阵训练用于对当前第二服务器进行状态预测的第一预测模型。可见,训练得到的第一预测模型专用于当前第二服务器,可以进一步提高对当前第二服务器进行状态预测的准确性。
图5示意性示出了根据本公开实施例的训练第一预测模型的流程图。
具体地,本公开的可选实施例中,如图5所示,图4中的操作S404基于标准参数矩阵训练用于对当前第二服务器进行状态预测的第一预测模型可以包括以下操作S4041~S4044。
在操作S4041,根据标准参数矩阵生成对应的相关性矩阵。
在本公开的实施例中,相关性矩阵用于描述标准参数矩阵中各列标准参数值之间的相关性大小。并且描述m×n标准参数矩阵的相关性矩阵的行数为m,列数为n。其中,组成m×n相关性矩阵的数值可以通过公式计算得到。其中,上述公式中,1≤K≤n,1≤l≤n,并且k,l均为整数,可以表示相关性矩阵描述的标准参数矩阵的第k列的均值,可以表示相关性矩阵描述的标准参数矩阵的第l列的均值,xki可以表示相关性矩阵描述的标准参数矩阵的第k列的第i个标准参数值,xli可以表示相关性矩阵描述的标准参数矩阵的第l列的第i个标准参数值。
接下来,在操作S4042,基于性能参数样本集合的采集时间从标准参数矩阵拆分出训练矩阵。
在本公开的实施例中,上述表2中性能参数样本集合的采集时间是20200101 01:00:00,20200101 02:00:00,…,20200101 08:00:00。可知,性能参数样本集合的采集周期为1小时,可以将采集时间20200101 01:00:00,20200101 02:00:00,20200101 03:00:00,20200101 04:00:00对应的标准参数矩阵的标准参数值组成的矩阵作为训练矩阵。因此,从上述表2所示的标准参数矩阵中拆分出的训练矩阵如下述表3所示。
表3
再接下来,在操作S4043,基于第一预设时间步长将训练矩阵拆分为第一输入矩阵和第一输出矩阵。
在本公开的实施例中,第一预设时间步长可以用于描述预测出来的性能参数对应的时间。假如第一预设时间步长是1,则每次可以预测出1个性能参数的采集周期的预测性能参数值。假如第一预设时间步长是2,则每次可以预测出2个性能参数的采集周期的预测性能参数值。例如,当第一预设时间步长是1时,可以将上述表3所示的训练矩阵中采集时间20200101 01:00:00对应的标准参数矩阵的标准参数值作为第一输入矩阵,相应地将采集时间20200101 02:00:00对应的标准参数矩阵的标准参数值作为第一输出矩阵。还可以将采集时间20200101 02:00:00对应的标准参数矩阵的标准参数值作为第一输入矩阵,相应地将采集时间20200101 03:00:00对应的标准参数矩阵的标准参数值作为第一输出矩阵。还可以将采集时间20200101 03:00:00对应的标准参数矩阵的标准参数值作为第一输入矩阵,相应地将采集时间20200101 04:00:00对应的标准参数矩阵的标准参数值作为第一输出矩阵。当第一预设时间步长是2时,可以将采集时间20200101 01:00:00,20200101 02:00:00对应的标准参数矩阵的标准参数值作为第一输入矩阵,相应地将采集时间2020010103:00:00,20200101 04:00:00对应的标准参数矩阵的标准参数值作为第一输出矩阵。
然后,在操作S4044,基于第一输入矩阵、第一输出矩阵和相关性矩阵训练第一预测模型。
在本公开的实施例中,可以利用第一输入矩阵、第一输出矩阵、相关性矩阵和激活函数确定第一预测模型的系数。其中,激活函数可以包括双曲正切函数。例如,激活函数G(x)可以表示为G(x)=tanh(x),其中,公式中的x可以表示激活函数的输入。另外,通过本公开的实施例训练得到的第一预测模型例如可以通过下面的公式进行表示其中,公式中,α、β0、β1、…、βm可以表示第一预测模型的系数,当第一预测模型的输入输出及相关性矩阵确定时,可以确定系数α、β0、β1、…、βm的数值,εt可以表示预测结果与真实结果之间的差异,并且确定系数α、β0、β1、…、βm的数值时,εt的值可以为0,M0、M1、M2、…、Mm可以表示激活函数G(x)的层数,a可以表示预设时间步长,t可以表示第一输出矩阵对应的性能参数的采集时间,t-a可以表示第一输入矩阵对应的性能参数的采集时间。
需要说明的是,图5中的操作S401与图4中的操作S401对应相同,图5中的操作S402与图4中的操作S402对应相同,图5中的操作S403与图4中的操作S403对应相同,在此不再赘述。
通过本公开的实施例,可以从标准参数矩阵拆分出训练矩阵,并根据第一预设时间步长将训练矩阵拆分成第一输入矩阵和第一输出矩阵。然后利用第一输入矩阵、第一输出矩阵、激活函数和相关性矩阵训练第一预测模型的系数。假设时间步长为a,那么第一预测模型的输入是采集时间t-a对应的标准参数矩阵的标准参数值,第一预测模型的输出是采集时间t对应的标准参数矩阵的标准参数值。因此,可以将采集时间t-a对应的标准参数矩阵的标准参数值作为第一预测模型的输入,以及采集时间t对应的标准参数矩阵的标准参数值作为第一预测模型的输出,确定第一预测模型的系数。根据从当前第二服务器接收的标准参数矩阵确定第一预测模型的系数,得到专用于当前第二服务器的第一预测模型,每个第二服务器都有专用的预测模型,可以提高状态预测的准确性。
图6示意性示出了根据本公开实施例的验证第一预测模型的流程图。
具体地,本公开的可选实施例中,如图6所示,在图5中的操作S4044之后,应用于第一服务器的数据处理方法还可以包括以下操作S601~S603。
在操作S601,基于采集时间从标准参数矩阵拆分出验证矩阵,其中,验证矩阵不同于训练矩阵。
在本公开的实施例中,上述表2中性能参数样本集合的采集时间是20200101 01:00:00,20200101 02:00:00,…,20200101 08:00:00。可见,性能参数样本集合的采集周期为1小时,可以将采集时间20200101 05:00:00,20200101 06:00:00,20200101 07:00:00,20200101 08:00:00对应的标准参数矩阵的标准参数值作为验证矩阵的参数值,并且从标准参数矩阵拆分出的验证矩阵不同于从标准参数矩阵拆分出的训练矩阵。因此,从上述表2所示的标准参数矩阵中拆分出的验证矩阵如下述表4所示。
表4
接下来,在操作S602,基于第二预设时间步长将验证矩阵拆分为第二输入矩阵和第二输出矩阵。
在本公开的实施例中,第二预设时间步长可以用于描述预测出来的性能参数对应的时间。假如第二预设时间步长是1,则每次可以预测出1个性能参数的采集周期的预测性能参数值。假如第二预设时间步长是2,则每次可以预测出2个性能参数的采集周期的预测性能参数值。例如,当第二预设时间步长是1时,可以将上述表4所示的训练矩阵中采集时间20200101 05:00:00对应的标准参数矩阵的标准参数值作为第二输入矩阵,相应地将采集时间20200101 06:00:00对应的标准参数矩阵的标准参数值作为第二输出矩阵。还可以将采集时间20200101 06:00:00对应的标准参数矩阵的标准参数值作为第二输入矩阵,相应地将采集时间20200101 07:00:00对应的标准参数矩阵的标准参数值作为第二输出矩阵。还可以将采集时间20200101 07:00:00对应的标准参数矩阵的标准参数值作为第二输入矩阵,相应地将采集时间20200101 08:00:00对应的标准参数矩阵的标准参数值作为第二输出矩阵。当第二预设时间步长是2时,可以将采集时间20200101 05:00:00,20200101 06:00:00对应的标准参数矩阵的标准参数值作为第二输入矩阵,相应地将采集时间2020010107:00:00,20200101 08:00:00对应的标准参数矩阵的标准参数值作为第二输出矩阵
再接下来,在操作S603,基于第二输入矩阵和第二输出矩阵验证第一预测模型,以便根据验证结果修正第一预测模型。
在本公开的实施例中,可以将第二输入矩阵中的标准参数值输入第一预测模型,验证第一预测模型的输出是否与第二输出矩阵中的标准参数值一致,如果一致,则证明训练得到的第一预测模型可以准确预测当前第二服务器的状态,否则,证明训练得到的第一预测模型不能准确预测当前第二服务器的状态。另外,如果证明训练得到的第一预测模型不能准确预测当前第二服务器的状态,则可以从训练矩阵中拆分出不同的第一输入矩阵和第一输出矩阵,继续训练第一预测模型,直到第一预测模型的输出与第二输出矩阵中的标准参数值一致。
进一步地,可以利用损失函数(例如,均方误差函数)验证第一预测模型的输出是否与第二输出矩阵中的标准参数值一致,损失函数MSE可以通过公式表示。其中,在损失函数公式中,Yi可以表示第二输出矩阵中的标准参数值,可以表示第一预测模型的输出,n可以表示预测次数。通过损失函数MSE公式可知,经过n次预测后,当预测结果与真实值之差的平方的平均值最小(约等于0)时,确定第一预测模型的输出与第二输出矩阵中的标准参数值一致。
通过本公开的实施例,可以从标准参数矩阵拆分出验证矩阵,并根据第二预设时间步长将验证矩阵拆分成第二输入矩阵和第二输出矩阵。然后将第二输入矩阵输入第一预测模型,再将第一预测模型的输出与第二输出矩阵进行比对,来验证训练得到的第一预测模型是否可以准确预测当前第二服务器的状态。因此,通过对第一预测模型进行验证可以确保训练得到的第一预测模型是否能够准确预测当前第二服务器的状态,进一步提高预测的准确性。
图7示意性示出了根据本公开实施例的数据处理方法的流程图。
本公开的可选实施例中,如图7所示,应用于第二服务器的数据处理方法可以包括以下操作S701~S703。
在操作S701,采集第二服务器的性能参数。
在本公开的实施例中,可以在第二服务器上安装性能参数采集程序,第二服务器启动性能参数采集程序之后,可以自动采集自身的性能参数。
接下来,在操作S702,对采集到的性能参数进行预处理,得到针对第二服务器的性能参数集合。
在本公开的实施例中,第二服务器在将性能参数发送至第一服务器之前,可以对采集的性能参数进行转换、剔除和分类等预处理操作。因此,第一服务器可以直接利用第二服务器发送的性能参数集合对第二服务器进行状态预测,第一服务器不需要再对接收的性能参数集合进行处理,减少第一服务器的数据处理量。因此,第一服务器可以对第二服务器进行实时状态预测。
在本公开的实施例中,对采集到的性能参数进行预处理可以包括以下操作:将性能参数中的非数值型性能参数转换成数值型性能参数;和/或,删除性能参数中的数值为空的数值型性能参数。其中,转换操作与删除操作在时序上并没有先后顺序,并且对于性能参数可以既执行转换操作,又执行删除操作,也可以仅执行转换操作和删除操作中的一种操作。
然后,在操作S703,将性能参数集合发送至第一服务器,以便第一服务器根据性能参数集合对第二服务器进行状态预测。
在本公开的实施例中,第一服务器可以与多个第二服务器连接,每个第二服务器将自己采集并预处理得到的性能参数集合发送至第一服务器,第一服务器可以根据第二服务器发送的性能参数集合,对相应第二服务器进行状态预测。
通过本公开的实施例,第二服务器可以采集第二服务器本地的性能参数,并对采集的性能参数进行转换、剔除和分类等处理,再将处理得到的性能参数集合发送至第一服务器。第一服务器可以直接利用接收的性能参数集合对第二服务器进行状态预测,第一服务器不需要再对接收的性能参数集合进行处理,从而减少第一服务器的数据处理量。因此,第一服务器可以实现同时对多个第二服务器进行实时状态预测。此外,第一服务器基于从第二服务器接收的性能参数集合对第二服务器进行状态预测,可以提高预测的准确性。
图8示意性示出了根据本公开实施例的第一服务器的框图。
本公开的可选实施例中,第一服务器可以用于实现上述实施例中描述的方法。如图8所示,第一服务器800例如可以包括获取模块810和预测模块820。
具体地,获取模块810用于获取由至少一个第二服务器发送至第一服务器的至少一个性能参数集合,其中至少一个性能参数集合为至少一个第二服务器各自采集自身的性能参数并进行预处理后得到的。
预测模块820用于根据至少一个性能参数集合对至少一个第二服务器进行状态预测。
图9示意性示出了根据本公开实施例的第二服务器的框图。
本公开的可选实施例中,第二服务器可以用于实现上述实施例中描述的方法。如图9所示,第二服务器900例如可以包括采集模块910、预处理模块920和发送模块930。
具体地,采集模块910用于采集第二服务器的性能参数。
预处理模块920用于对采集到的性能参数进行预处理,得到针对第二服务器的性能参数集合。
发送模块930用于将性能参数集合发送至第一服务器,以便第一服务器根据性能参数集合对第二服务器进行状态预测。
需要说明的是,在本公开实施例中,装置部分的实施例与方法部分的实施例对应相同或类似,在此不再赘述。
根据本公开的实施例的模块中的任意多个、或其中任意多个的至少部分功能可以在一个模块中实现。根据本公开实施例的模块中的任意一个或多个可以被拆分成多个模块来实现。根据本公开实施例的模块中的任意一个或多个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式的硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,根据本公开实施例的模块中的一个或多个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
例如,采集模块910、预处理模块920和发送模块930中的任意多个可以合并在一个模块中实现,或者其中的任意一个模块可以被拆分成多个模块。或者,这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合,并在一个模块中实现。根据本公开的实施例,采集模块910、预处理模块920和发送模块930中的至少一个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,采集模块910、预处理模块920和发送模块930中的至少一个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
图10示意性示出了根据本公开实施例的电子设备的框图。图10示出的电子设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图10所示的电子设备可以是上述实施例中的第一服务器800或者第二服务器900,根据本公开实施例的电子设备1000包括处理器1001,其可以根据存储在只读存储器(ROM)1002中的程序或者从存储部分1008加载到随机访问存储器(RAM)1003中的程序而执行各种适当的动作和处理。处理器1001例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如,专用集成电路(ASIC)),等等。处理器1001还可以包括用于缓存用途的板载存储器。处理器1001可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。
在RAM 1003中,存储有电子设备1000操作所需的各种程序和数据。处理器1001、ROM 1002以及RAM 1003通过总线1004彼此相连。处理器1001通过执行ROM 1002和/或RAM1003中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意,程序也可以存储在除ROM 1002和RAM 1003以外的一个或多个存储器中。处理器1001也可以通过执行存储在一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。
根据本公开的实施例,电子设备1000还可以包括输入/输出(I/O)接口1005,输入/输出(I/O)接口1005也连接至总线1004。电子设备1000还可以包括连接至I/O接口1005的以下部件中的一项或多项:包括键盘、鼠标等的输入部分1006;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分1007;包括硬盘等的存储部分1008;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分1009。通信部分1009经由诸如因特网的网络执行通信处理。驱动器1010也根据需要连接至I/O接口1005。可拆卸介质1011,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器1010上,以便于从其上读出的计算机程序根据需要被安装入存储部分1008。
根据本公开的实施例,根据本公开实施例的方法流程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读存储介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分1009从网络上被下载和安装,和/或从可拆卸介质1011被安装。在该计算机程序被处理器1001执行时,执行本公开实施例的电子设备中限定的上述功能。根据本公开的实施例,上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。
本公开还提供了一种计算机可读存储介质,该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的;也可以是单独存在,而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序,当上述一个或者多个程序被执行时,实现根据本公开实施例的方法。
根据本公开的实施例,计算机可读存储介质可以是非易失性的计算机可读存储介质,例如可以包括但不限于:便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。例如,根据本公开的实施例,计算机可读存储介质可以包括上文描述的ROM 1002和/或RAM 1003和/或ROM 1002和RAM 1003以外的一个或多个存储器。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
本领域技术人员可以理解,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合,即使这样的组合或结合没有明确记载于本公开中。特别地,在不脱离本公开精神和教导的情况下,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。
以上对本公开的实施例进行了描述。但是,这些实施例仅仅是为了说明的目的,而并非为了限制本公开的范围。尽管在以上分别描述了各实施例,但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围,本领域技术人员可以做出多种替代和修改,这些替代和修改都应落在本公开的范围之内。
Claims (11)
1.一种数据处理方法,应用于第一服务器,所述方法包括:
获取由至少一个第二服务器发送至所述第一服务器的至少一个性能参数集合,其中所述至少一个性能参数集合为所述至少一个第二服务器各自采集自身的性能参数并进行预处理后得到的;以及
根据所述至少一个性能参数集合对所述至少一个第二服务器进行状态预测。
2.根据权利要求1所述的方法,其中,所述方法还包括:在根据所述至少一个性能参数集合对所述至少一个第二服务器进行状态预测之后,针对所述至少一个第二服务器中的每个第二服务器执行以下操作:
确定所述至少一个性能参数集合中与当前第二服务器关联的第一性能参数集合,所述第一性能参数集合包括第一子集和第二子集,其中,所述第一子集包括第一数值型性能参数,所述第一数值型性能参数是由采集的非数值型性能参数转换得到的,所述第二子集包括第二数值型性能参数,所述第二数值型性能参数是由采集的数值型性能参数构成的;
根据所述第一子集对所述当前第二服务器进行状态预测,得到第一预测结果;
根据所述第二子集对所述当前第二服务器进行状态预测,得到第二预测结果;
将所述第一预测结果转换为对应的非数值型预测结果;以及
显示所述非数值型预测结果和所述第二预测结果。
3.根据权利要求1所述的方法,其中,所述方法还包括:在对所述至少一个第二服务器进行状态预测之前,针对所述至少一个第二服务器中的每个第二服务器训练对应的用于进行状态预测的预测模型,其中,
所述针对所述至少一个第二服务器中的每个第二服务器训练对应的用于进行状态预测的预测模型,包括:
获取与当前第二服务器关联的性能参数样本集合;
根据所述性能参数样本集合计算对应的性能参数矩阵;
将所述性能参数矩阵变换为对应的标准参数矩阵;以及
基于所述标准参数矩阵训练用于对所述当前第二服务器进行状态预测的第一预测模型。
4.根据权利要求3所述的方法,其中,所述基于所述标准参数矩阵训练用于对所述当前第二服务器进行状态预测的第一预测模型,包括:
根据所述标准参数矩阵生成对应的相关性矩阵;
基于所述性能参数样本集合的采集时间从所述标准参数矩阵拆分出训练矩阵;
基于第一预设时间步长将所述训练矩阵拆分为第一输入矩阵和第一输出矩阵;以及
基于所述第一输入矩阵、所述第一输出矩阵和所述相关性矩阵训练所述第一预测模型。
5.根据权利要求4所述的方法,其中,还包括:在训练得到所述第一预测模型之后,
基于所述采集时间从所述标准参数矩阵拆分出验证矩阵,其中,所述验证矩阵不同于所述训练矩阵;
基于第二预设时间步长将所述验证矩阵拆分为第二输入矩阵和第二输出矩阵;以及
基于所述第二输入矩阵和所述第二输出矩阵验证所述第一预测模型,以便根据验证结果修正所述第一预测模型。
6.一种数据处理方法,应用于第二服务器,所述方法包括:
采集所述第二服务器的性能参数;
对采集到的性能参数进行预处理,得到针对所述第二服务器的性能参数集合;以及
将所述性能参数集合发送至第一服务器,以便所述第一服务器根据所述性能参数集合对所述第二服务器进行状态预测。
7.根据权利要求6所述的方法,其中,所述对采集到的性能参数进行预处理,包括:
将所述性能参数中的非数值型性能参数转换成数值型性能参数;和/或
删除所述性能参数中的数值为空的数值型性能参数。
8.一种第一服务器,包括:
获取模块,用于获取由至少一个第二服务器发送至所述第一服务器的至少一个性能参数集合,其中所述至少一个性能参数集合为所述至少一个第二服务器各自采集自身的性能参数并进行预处理后得到的;以及
预测模块,用于根据所述至少一个性能参数集合对所述至少一个第二服务器进行状态预测。
9.一种第二服务器,包括:
采集模块,用于采集所述第二服务器的性能参数;
预处理模块,用于对采集到的性能参数进行预处理,得到针对所述第二服务器的性能参数集合;以及
发送模块,用于将所述性能参数集合发送至第一服务器,以便所述第一服务器根据所述性能参数集合对所述第二服务器进行状态预测。
10.一种电子设备,包括:
一个或多个处理器;
存储装置,用于存储可执行指令,所述可执行指令在被所述处理器执行时,实现根据权利要求1~7中任一项所述的方法。
11.一种计算机可读存储介质,其上存储有可执行指令,该指令被处理器执行时实现根据权利要求1~7中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010162427.7A CN111400152B (zh) | 2020-03-10 | 2020-03-10 | 数据处理方法以及第一服务器和第二服务器 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010162427.7A CN111400152B (zh) | 2020-03-10 | 2020-03-10 | 数据处理方法以及第一服务器和第二服务器 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111400152A true CN111400152A (zh) | 2020-07-10 |
CN111400152B CN111400152B (zh) | 2023-12-19 |
Family
ID=71436134
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010162427.7A Active CN111400152B (zh) | 2020-03-10 | 2020-03-10 | 数据处理方法以及第一服务器和第二服务器 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111400152B (zh) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170126568A1 (en) * | 2015-10-28 | 2017-05-04 | Electronics And Telecommunications Research Institute | Edge-based load shedding system for fast data analysis and operating method thereof |
CN110703643A (zh) * | 2019-09-25 | 2020-01-17 | 西安天和防务技术股份有限公司 | 军民融合型的国防动员综合信息系统及方法 |
CN113704071A (zh) * | 2021-07-30 | 2021-11-26 | 济南浪潮数据技术有限公司 | 一种服务器健康状况预测的方法、装置、设备及可读介质 |
-
2020
- 2020-03-10 CN CN202010162427.7A patent/CN111400152B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170126568A1 (en) * | 2015-10-28 | 2017-05-04 | Electronics And Telecommunications Research Institute | Edge-based load shedding system for fast data analysis and operating method thereof |
CN110703643A (zh) * | 2019-09-25 | 2020-01-17 | 西安天和防务技术股份有限公司 | 军民融合型的国防动员综合信息系统及方法 |
CN113704071A (zh) * | 2021-07-30 | 2021-11-26 | 济南浪潮数据技术有限公司 | 一种服务器健康状况预测的方法、装置、设备及可读介质 |
Non-Patent Citations (1)
Title |
---|
杨伟;朱巧明;李培峰;钱培德;: "基于时间序列的服务器负载预测" * |
Also Published As
Publication number | Publication date |
---|---|
CN111400152B (zh) | 2023-12-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11640320B2 (en) | Correlation of thread intensity and heap usage to identify heap-hoarding stack traces | |
US10116534B2 (en) | Systems and methods for WebSphere MQ performance metrics analysis | |
US10909018B2 (en) | System and method for end-to-end application root cause recommendation | |
CN110647447B (zh) | 用于分布式系统的异常实例检测方法、装置、设备和介质 | |
CN107704387B (zh) | 用于系统预警的方法、装置、电子设备及计算机可读介质 | |
CN107908536B (zh) | Cpu-gpu异构环境中对gpu应用的性能评估方法及系统 | |
CN111435463A (zh) | 数据处理方法及相关设备、系统 | |
US10915602B2 (en) | Automatic detection of outliers in multivariate data | |
KR101989330B1 (ko) | 데이터 처리 애플리케이션의 검사 | |
CN111582488A (zh) | 一种事件推演方法及装置 | |
CN109088747A (zh) | 云计算系统中资源的管理方法和装置 | |
US7899906B2 (en) | Multi-layered measurement model for data collection and method for data collection using same | |
Bi et al. | Hybrid task prediction based on wavelet decomposition and ARIMA model in cloud data center | |
CN112199252A (zh) | 一种异常监控方法、装置及电子设备 | |
Egri et al. | Cross-correlation based clustering and dimension reduction of multivariate time series | |
CN115576502B (zh) | 一种数据存储的方法、装置、电子设备以及存储介质 | |
Zou et al. | A study of self-similarity in parallel I/O workloads | |
US11636377B1 (en) | Artificial intelligence system incorporating automatic model updates based on change point detection using time series decomposing and clustering | |
US11651271B1 (en) | Artificial intelligence system incorporating automatic model updates based on change point detection using likelihood ratios | |
CN111400152A (zh) | 数据处理方法以及第一服务器和第二服务器 | |
CN109669779B (zh) | 用于确定数据的清理路径、清理数据的方法和设备 | |
US11886453B2 (en) | Quantization of data streams of instrumented software and handling of delayed or late data | |
US11886451B2 (en) | Quantization of data streams of instrumented software and handling of delayed data by adjustment of a maximum delay | |
CN113225228B (zh) | 数据处理方法及装置 | |
WO2023077084A1 (en) | Quantization of data streams of instrumented software and handling of delayed or late data |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |