CN113676377A - 基于大数据的在线用户数评估方法、装置、设备及介质 - Google Patents
基于大数据的在线用户数评估方法、装置、设备及介质 Download PDFInfo
- Publication number
- CN113676377A CN113676377A CN202110963363.5A CN202110963363A CN113676377A CN 113676377 A CN113676377 A CN 113676377A CN 202110963363 A CN202110963363 A CN 202110963363A CN 113676377 A CN113676377 A CN 113676377A
- Authority
- CN
- China
- Prior art keywords
- target
- proportion
- value
- resource
- test
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
- H04L43/0805—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters by checking availability
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/08—Configuration management of networks or network elements
- H04L41/0803—Configuration setting
- H04L41/0813—Configuration setting characterised by the conditions triggering a change of settings
- H04L41/0816—Configuration setting characterised by the conditions triggering a change of settings the condition being an adaptation, e.g. in response to network events
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/54—Presence management, e.g. monitoring or registration for receipt of user log-on information, or the connection status of the users
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Environmental & Geological Engineering (AREA)
- Debugging And Monitoring (AREA)
Abstract
本发明涉及一种基于大数据的在线用户数评估方法、装置、设备及介质,方法包括:从网络系统的系统日志获取包括操作记录的访问记录;选取系统日志中并发量最大的访问时段为目标样本;根据目标样本中的操作记录得到测试参数;根据测试参数进行压力测试,得到网络系统的负载达到最大时的目标参数;根据目标参数得到最大在线用户数。根据本发明实施例提供的方案,以系统运行的访问记录作为数据基础,通过压力测试过程中对最大在线用户数进行了验证,得到的最大在线用户数为网络系统的实际最大容量,相比起估算的做法在准确率上有了极大的提高,有效提高了最大在线用户数在运营决策上的参考价值。
Description
技术领域
本发明涉及但不限于人工智能领域,尤其涉及一种基于大数据的在线用户数评估方法、装置、设备及介质。
背景技术
在互联网行业,每个网站都需要对系统容量进行评估,根据系统容量确定软硬件的资源消耗,并以此作为依据确定资源配置,以更合理的成本满足运营需求。而对于互联网行业,在线用户数的是系统容量的重要指标,直接决定了网站的性能和成本。在运营决策时,需要制定在线用户数的目标值,并且评估系统资源是否能够满足该目标值,通常采用估算的方式,例如根据平均并发用户数进行估算,或者根据并发用户峰值数进行估算,但无论采用哪种策略,得到的结果都只是预测,需要通过事后的数据进行验证,准确率得不到保障,在运营决策时参考性较低。
发明内容
以下是对本文详细描述的主题的概述。本概述并非是为了限制权利要求的保护范围。
本发明实施例提供了一种基于大数据的在线用户数评估方法、装置、设备及介质,能够测算出在线用户数的准确数值,提高在线用户数的参考价值。
第一方面,本发明实施例提供了一种基于大数据的在线用户数评估方法,包括:
从网络系统的系统日志获取访问记录,所述访问记录包括每一次业务访问的操作记录,所述操作记录包括操作时间信息、接口调用信息和模块调用信息;
根据预设的分段时长将所述系统日志划分为多个分段样本,将所述业务访问的并发量最大的所述分段样本确定为目标样本;
根据所述目标样本中的所述操作记录得到测试参数,所述测试参数包括平均操作时长、接口调用比例和模块调用比例,其中,所述平均操作时长根据所述操作时间信息得到,所述接口调用比例根据所述接口调用信息得到,所述模块调用比例根据所述模块调用信息得到;
根据所述测试参数进行压力测试,得到所述网络系统的负载达到最大时的目标参数,所述目标参数包括目标平均操作时长、目标接口调用比例和目标模块调用比例;
根据所述目标接口调用比例和所述目标模块调用比例确定目标吞吐量,根据所述目标平均操作时长确定目标并发度,根据所述目标吞吐量和所述目标并发度得到最大在线用户数。
在一些实施例中,在所述从网络系统的系统日志获取访问记录之前,所述方法还包括:
当检测到所述网络系统的业务被访问,记录被访问的业务所对应的业务开始时间、业务结束时间、被调用接口和被调用模块;
生成所述被访问的业务的操作记录,其中,所述操作时间信息根据所述业务开始时间和业务结束时间得到,所述接口调用信息根据所述被调用接口得到,所述模块调用信息根据所述被调用模块得到。
在一些实施例中,所述从网络系统的系统日志获取访问记录,包括:
获取预设的采集时长,根据所述采集时长从所述系统日志中获取备选记录;
当所述备选记录中不包括故障信息,将所述备选记录确定为所述访问记录。
在一些实施例中,所述得到所述网络系统的负载达到最大时的目标参数,包括:
根据预先设定的资源指标,获取压力测试过程中所述资源指标的资源运行值;
获取资源阈值,所述资源阈值为所述网络系统的负载达到最大时所述资源指标的数值;
当所述资源运行值小于所述资源阈值,根据预设的加压策略调整所述测试参数,得到中间测试参数;
当根据所述中间测试参数得到的所述资源运行值等于所述资源阈值,或者所述资源运行值与所述资源阈值的差值在预设误差范围内,将所述中间测试参数确定为所述目标参数。
在一些实施例中,所述根据预设的加压策略调整所述测试参数,得到中间测试参数,包括:
获取预先设定的第一比例和第二比例,所述第一比例大于或等于所述第二比例;
根据所述第一比例和所述测试参数的数值得到加压目标值;
根据所述第二比例和所述测试参数的数值得到加压调整值;
在所述资源运行值小于所述资源阈值的情况下,以所述加压调整值为单位逐级调整所述测试参数的数值,使得所述测试参数的数值等于所述加压目标值;
将调整后的所述测试参数确定为所述中间测试参数。
在一些实施例中,在所述将所述中间测试参数确定为所述目标参数之前,所述方法还包括:
根据所述加压调整值对所述中间测试参数进行加压调整,当加压调整后所得到的所述资源运行值大于所述资源阈值,将所述中间测试参数确定为所述目标参数;
和/或,
根据所述加压调整值对所述中间测试参数进行减压调整,当减压调整后所得到的所述资源运行值与所述资源阈值的差值不在所述预设误差范围内,将所述中间测试参数确定为所述目标参数。
在一些实施例中,在所述得到所述网络系统的负载达到最大时的目标参数之后,所述方法还包括:
根据预设的调整策略和所述目标参数所对应的所述资源运行值得到配置更新信息;
根据所述配置更新信息调整所述网络系统的资源配置;
根据调整后的所述网络系统和所述目标参数继续进行压力测试,从而得到调整后的目标参数。
第二方面,本发明实施例还提供了一种基于大数据的在线用户数评估装置,包括:
访问记录获取单元,用于从网络系统的系统日志获取访问记录,所述访问记录包括每一次业务访问的操作记录,所述操作记录包括操作时间信息、接口调用信息和模块调用信息;
样本获取单元,用于根据预设的分段时长将所述系统日志划分为多个分段样本,将所述业务访问的并发量最大的所述分段样本确定为目标样本;
测试参数获取单元,用于根据所述目标样本中的所述操作记录得到测试参数,所述测试参数包括平均操作时长、接口调用比例和模块调用比例,其中,所述平均操作时长根据所述操作时间信息得到,所述接口调用比例根据所述接口调用信息得到,所述模块调用比例根据所述模块调用信息得到;
压力测试单元,用于根据所述测试参数进行压力测试,得到所述网络系统的负载达到最大时的目标参数,所述目标参数包括目标平均操作时长、目标接口调用比例和目标模块调用比例;
评估单元,用于根据所述目标接口调用比例和所述目标模块调用比例确定目标吞吐量,根据所述目标平均操作时长确定目标并发度,根据所述目标吞吐量和所述目标并发度得到最大在线用户数。
第三方面,本发明实施例还提供了一种电子设备,包括:存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如第一方面所述的基于大数据的在线用户数评估方法。
第四方面,本发明实施例还提供了一种计算机可读存储介质,存储有计算机可执行指令,所述计算机可执行指令用于执行如第一方面所述的基于大数据的在线用户数评估方法。
本发明实施例包括:从网络系统的系统日志获取访问记录,所述访问记录包括每一次业务访问的操作记录,所述操作记录包括操作时间信息、接口调用信息和模块调用信息;根据预设的分段时长将所述系统日志划分为多个分段样本,将所述业务访问的并发量最大的所述分段样本确定为目标样本;根据所述目标样本中的所述操作记录得到测试参数,所述测试参数包括平均操作时长、接口调用比例和模块调用比例,其中,所述平均操作时长根据所述操作时间信息得到,所述接口调用比例根据所述接口调用信息得到,所述模块调用比例根据所述模块调用信息得到;根据所述测试参数进行压力测试,得到所述网络系统的负载达到最大时的目标参数,所述目标参数包括目标平均操作时长、目标接口调用比例和目标模块调用比例;根据所述目标接口调用比例和所述目标模块调用比例确定目标吞吐量,根据所述目标平均操作时长确定目标并发度,根据所述目标吞吐量和所述目标并发度得到最大在线用户数。根据本发明实施例提供的方案,以系统运行的访问记录作为数据基础,通过压力测试过程中对最大在线用户数进行了验证,得到的最大在线用户数为网络系统的实际最大容量,相比起估算的做法在准确率上有了极大的提高,有效提高了最大在线用户数在运营决策上的参考价值。
本发明的其它特征和优点将在随后的说明书中阐述,并且,部分地从说明书中变得显而易见,或者通过实施本发明而了解。本发明的目的和其他优点可通过在说明书、权利要求书以及附图中所特别指出的结构来实现和获得。
附图说明
附图用来提供对本发明技术方案的进一步理解,并且构成说明书的一部分,与本发明的实施例一起用于解释本发明的技术方案,并不构成对本发明技术方案的限制。
图1是本发明一个实施例提供的基于大数据的在线用户数评估方法的流程图;
图2是本发明一个实施例提供的生成操作记录的流程图;
图3是本发明一个实施例提供的选取访问记录的流程图;
图4是本发明一个实施例提供的压力测试的流程图;
图5是本发明一个实施例提供的压力测试的步骤示意图;
图6是本发明一个实施例提供的压力测试过程中加压的流程图;
图7是本发明一个实施例提供的确定目标参数的流程图;
图8是本发明一个实施例提供的调整资源配置的流程图;
图9是本发明一个实施例提供的基于大数据的在线用户数评估装置的结构图;
图10是本发明一个实施例提供的电子设备的结构。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本发明,并不用于限定本发明。
需要说明的是,虽然在装置示意图中进行了功能模块划分,在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于装置中的模块划分,或流程图中的顺序执行所示出或描述的步骤。说明书、权利要求书或上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。
需要说明的是,本发明实施例的技术方案可以在任意电子设备的客户端运行,例如电脑、手机、平板电脑等。本发明实施例的数据可以保存在服务器中,服务器可以是独立的服务器,也可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、内容分发网络(Content Delivery Network,CDN)、以及大数据和人工智能平台等基础云计算服务的云服务器。
本发明提供了一种基于大数据的在线用户数评估方法、装置、设备及介质,方法包括:从网络系统的系统日志获取访问记录,所述访问记录包括每一次业务访问的操作记录,所述操作记录包括操作时间信息、接口调用信息和模块调用信息;根据预设的分段时长将所述系统日志划分为多个分段样本,将所述业务访问的并发量最大的所述分段样本确定为目标样本;根据所述目标样本中的所述操作记录得到测试参数,所述测试参数包括平均操作时长、接口调用比例和模块调用比例,其中,所述平均操作时长根据所述操作时间信息得到,所述接口调用比例根据所述接口调用信息得到,所述模块调用比例根据所述模块调用信息得到;根据所述测试参数进行压力测试,得到所述网络系统的负载达到最大时的目标参数,所述目标参数包括目标平均操作时长、目标接口调用比例和目标模块调用比例;根据所述目标接口调用比例和所述目标模块调用比例确定目标吞吐量,根据所述目标平均操作时长确定目标并发度,根据所述目标吞吐量和所述目标并发度得到最大在线用户数。根据本发明实施例提供的方案,以系统运行的访问记录作为数据基础,通过压力测试过程中对最大在线用户数进行了验证,得到的最大在线用户数为网络系统的实际最大容量,相比起估算的做法在准确率上有了极大的提高,有效提高了最大在线用户数在运营决策上的参考价值。
下面结合附图,对本发明实施例作进一步阐述。
如图1所示,图1是本发明一个实施例提供的一种基于大数据的在线用户数评估方法,包括但不限于有以下步骤:
步骤S110,从网络系统的系统日志获取访问记录,访问记录包括每一次业务访问的操作记录,操作记录包括操作时间信息、接口调用信息和模块调用信息;
步骤S120,根据预设的分段时长将系统日志划分为多个分段样本,将业务访问的并发量最大的分段样本确定为目标样本;
步骤S130,根据目标样本中的操作记录得到测试参数,测试参数包括平均操作时长、接口调用比例和模块调用比例,其中,平均操作时长根据操作时间信息得到,接口调用比例根据接口调用信息得到,模块调用比例根据模块调用信息得到;
步骤S140,根据测试参数进行压力测试,得到网络系统的负载达到最大时的目标参数,目标参数包括目标平均操作时长、目标接口调用比例和目标模块调用比例;
步骤S150,根据目标接口调用比例和目标模块调用比例确定目标吞吐量,根据目标平均操作时长确定目标并发度,根据目标吞吐量和目标并发度得到最大在线用户数。
需要说明的是,系统日志可以记录网络系统的信息,本领域技术人员熟知如何通过网络系统的配置,从而实现在用户在线使用网络系统时获取操作记录,例如通过代码的修改,使得网络系统能够获取用户操作的时间信息、操作过程中调用的接口和功能模块等,在此不做多赘述。
需要说明的是,操作时间信息可以是通过计时直接得到的业务操作所花费的操作时长,也可以是获取业务操作的起始时刻和结束时刻,通过起始时刻和结束时刻计算出操作时长,本实施例对具体的获取方式不多作限定。接口调用信息可以是业务操作过程中调用的功能接口,模块调用信息可以是业务操作过程中调用的功能模块,通过接口调用信息和模块调用信息,能够确定用户进行业务操作的场景模拟,从而在压力测试中能够体现用户的真实操作,使得测试出的最大用户数能够反映用户的真实使用情况。
需要说明的是,由于大多数网络系统有存在使用的高峰期,而高峰期阶段的在线用户数较多,对应的操作记录能够更好地反映网络系统在高负载场景下的运行状况,因此,通过分段时长将系统日志划分为多个分段样本,能够根据每个分段样本的并发量选取出系统负载较高的访问时段,使得测试结果能够更准确地反映网络系统能够真实承载的最大在线用户数,分段时长的具体数值可以根据实际需求制定,例如以一个小时为分段时长,将系统日志进行分段,挑选出并发量最高的访问时段作为目标样本。
需要说明的是,由于操作记录是针对每一个用户得到的,而每个用户的操作都不相同,因此可以在获取到操作记录中的数据之后,进行统计学处理,使得测试参数能够体现用户操作的平均水平,便于压力测试时调整数据,例如,针对用户操作时长,在得到目标样本之后,获取每个操作记录所对应的操作时间信息,例如开始操作业务到业务操作结束所花费的时长,并根据全部的操作时间信息计算出平均操作时长;又如,针对调用接口比例,获取每个操作记录所对应的调用接口,根据已经调用的接口的数量和未调用的接口的数量得到接口调用比例,模块调用比例同理,在此不多作赘述。
需要说明的是,通过接口调用比例和模块调用比例,能够确定具体的业务场景,若需要得到不同场景下的最大在线用户数,也可以根据实际需求调整接口调用比例和模块调用比例,根据调整后的参数进行压力测试,从而得到在不同场景下的目标参数。
需要说明的是,为了确定最大在线用户数,通过压力测试得到的测试结果可以包括目标平均操作时长、目标接口调用比例和目标模块调用比例,其中,目标平均操作时长为无停顿操作时长,从而反映出用户持续操作对网络系统形成的负载;另外,还可以获取压力测试的测试时长,每个接口和模块的调用都属于一次系统事务,因此可以通过根据目标接口调用比例和目标模块调用比例确定测试过程中的总事务数,并通过以下公式计算得到最大在线用户数:
目标吞吐量=总事务数/测试时长;
目标并发度=(目标平均操作时长/平均操作时长)*100%;
最大在线用户数=目标吞吐量/目标并发度。
另外,参照图2,在一实施例中,在执行图1所示实施例的步骤S110之前,还包括但不限于有以下步骤:
步骤S210,当检测到网络系统的业务被访问,记录被访问的业务所对应的业务开始时间、业务结束时间、被调用接口和被调用模块;
步骤S220,生成被访问的业务的操作记录,其中,操作时间信息根据业务开始时间和业务结束时间得到,接口调用信息根据被调用接口得到,模块调用信息根据被调用模块得到。
需要说明的是,参考图1所示实施例的描述,本领域技术人员能够通过代码修改,使得网络系统检测到用户请求访问之后,记录下用户针对被访问的业务所对应的操作信息,例如业务开始时间和业务结束时间,并以此作为数据基础计算出操作时间信息;又如,记录用户操作过程中调用的所有接口和功能模块,得到被调用接口和被调用模块,从而确定接口调用信息和模块调用信息。
需要说明的是,在获取到操作记录之后,可以对业务是否完成进行判断,对于网络系统,业务流程通常是确定的,在此情况下,当检测到业务在未完成的情况下退出,则舍弃该次操作记录,以确保用于压力测试的数据对应完整的业务流程。
另外,参照图3,在一实施例中,图1所示实施例的步骤S110,还包括但不限于有以下步骤:
步骤S310,获取预设的采集时长,根据采集时长从系统日志中获取备选记录;
步骤S320,当备选记录中不包括故障信息,将备选记录确定为访问记录。
需要说明的是,在调整代码使得系统日志能够采集访问记录之后,可以让网络系统运行一段时间,使其具备较多的运行数据,并根据采集时长从系统日志中获取一段时间的访问记录作为备选记录,例如,完成网络系统配置之后,让系统运行一个月,再从系统日志中获取时长为一个月的备选记录,具体的时长可以根据实际情况选取。
需要说明的是,在网络系统的运行过程中,可能会出现在线用户数超过了系统所能承载的最大在线用户数,或者系统负荷超过了系统所能承受的最大负载,在这种情况下,采集到的操作记录的数据并不能很好地体现系统正常运行情况,基于此,在获取到备选记录之后,可以根据是否具有故障信息判断系统是否正常运行,若备选记录不包括故障信息,则可以确定该备选记录为可用的访问记录。
另外,参照图4,在一实施例中,图1所示实施例的步骤S140,还包括但不限于有以下步骤:
步骤S410,根据预先设定的资源指标,获取压力测试过程中资源指标的资源运行值;
步骤S420,获取资源阈值,资源阈值为网络系统的负载达到最大时资源指标的数值;
步骤S430,当资源运行值小于资源阈值,根据预设的加压策略调整测试参数,得到中间测试参数;
步骤S440,当根据中间测试参数得到的资源运行值等于资源阈值,或者资源运行值与资源阈值的差值在预设误差范围内,将中间测试参数确定为目标参数。
需要说明的是,资源指标可以是网络系统的中央处理器(Central ProcessingUnit,CPU)负载、错误数、连接数、内存占用、输入输出(input output,IO)数等,能够体现系统负载即可,在此不做多限定。
需要说明的是,为了确定网络系统的负载是否达到最大,可以针对每一种资源指标预先设定好资源阈值,在压力测试过程中对资源指标进行实时监控,当任一资源指标的资源运行值达到资源阈值,则可以确定网络系统的负载达到最大。
需要说明的是,当资源运行值小于资源阈值,网络系统的负载未达到最大,可以通过逐级加压的方式对测试参数进行加压,例如增加平均操作时长、接口调用比例、模块调用比例中的任意一种,从而模拟在线用户数的增加,本领域技术人员熟知如何在压力测试过程中调整得到中间测试参数,在此不多作赘述。
需要说明的是,在通过中间测试参数进行压力测试的过程中,很难确保资源运行值刚好等于资源阈值,很可能在加压前资源运行值小于资源阈值,进行加压之后超过资源阈值,基于此,可以设置预设误差范围,当资源运行值与资源阈值的差值在预设误差范围内,可以认为资源运行值达到了资源阈值,从而确定网络系统的负载达到最大负载。
为了更好地说明压力测试的流程,以下结合图5所示的流程图提出一个具体示例:
根据测试参数配置网络系统后,先对测试脚本和服务是否异常进行确定,确保压力测试的正常进行;在压力测试过程中,对资源指标进行监控,包括CPU负载、错误数、连接数、内存占用、IO数;根据加压策略调整调整测试参数,在资源指标符合需求的情况下,达到目标值得到中间测试参数;针对中间测试参数进行提高、限流和降级验证,并输出测试结果,其中,测试结果包括与中间测试参数所对应的资源运行值;当资源运行值小于资源阈值,对中间测试参数进行进一步调整后继续压力测试;当资源运行值等于资源阈值或者与资源阈值的差值在预设误差范围内,将中间测试参数可以确定为目标参数;得到目标参数后,获取对应的目标平均操作时长、目标接口调用比例和目标模块调用比例,压力测试结束。
需要说明的是,图5所示的压力测试流程仅为示例,本领域技术人员有动机根据实际需求调整资源指标的类型、以及增加或者减少步骤,这并不会对本实施例的技术方案造成限定。
另外,参照图6,在一实施例中,图4所示实施例的步骤S430,还包括但不限于有以下步骤:
步骤S610,获取预先设定的第一比例和第二比例,第一比例大于或等于第二比例;
步骤S620,根据第一比例和测试参数的数值得到加压目标值;
步骤S630,根据第二比例和测试参数的数值得到加压调整值;
步骤S640,在资源运行值小于资源阈值的情况下,以加压调整值为单位逐级调整测试参数的数值,使得测试参数的数值等于加压目标值;
步骤S650,将调整后的测试参数确定为中间测试参数。
需要说明的是,在压力测试的加压过程中,为了避免加压过多导致超出系统负载,可以采用逐级加压的方式,例如设定第一比例和第二比例,通过第一比例得到加压目标值,通过第二比例确定每次加压的加压调整值,针对测试参数的当前数值,根据加压调整值逐级加压,直至达到加压目标值,例如,第一比例为20%,第二比例为5%,当前的测试参数的数值为A,则第一次加压得到的数值为105%A,第二次加压得到的数值为110%A,以此类推,直至达到120%A,具体的比例可以根据实际需求选取,在此不多作限定。
需要说明的是,在加压的过程中可以实时监控资源运行值,若加压过程中资源运行值达到资源阈值,则停止加压,并以当前的数值作为中间测试参数,例如上述示例中加压到110%A时,资源运行值达到了资源阈值,则放弃继续加压,以110%A作为中间测试参数的数值进行验证。
另外,参照图7,在一实施例中,在执行图4所示实施例的步骤S440之前,还包括但不限于有以下步骤:
步骤S710,根据加压调整值对中间测试参数进行加压调整,当加压调整后所得到的资源运行值大于资源阈值,将中间测试参数确定为目标参数;
和/或,
步骤S720,根据加压调整值对中间测试参数进行减压调整,当减压调整后所得到的资源运行值与资源阈值的差值不在预设误差范围内,将中间测试参数确定为目标参数。
需要说明的是,在不同业务场景下,系统达到最大负载所对应的参数各不相同,因此很难确保能够直接加压得到目标参数,因此在得到中间测试参数之后,可以通过加压或者减压进行验证,例如,当加压后资源运行值大于资源阈值,则中间测试参数所对应的资源运行值较为接近资源阈值,当减压后资源运行值与资源阈值的差值不在预设误差范围内,则减压前的中间测试参数较为接近资源阈值,在此情况下,中间测试参数可以确定为目标参数。
另外,参照图8,在一实施例中,在执行完图1所示实施例的步骤S140之后,还包括但不限于有以下步骤:
步骤S810,根据预设的调整策略和目标参数所对应的资源运行值得到配置更新信息;
步骤S820,根据配置更新信息调整网络系统的资源配置;
步骤S830,根据调整后的网络系统和目标参数继续进行压力测试,从而得到调整后的目标参数。
需要说明的是,由于每个用户的操作是独立进行,因此系统并不一定能够以最优的响应方式进行响应,因此操作记录所反映的系统运行情况并不一定是系统所能实现的最佳运行情况,基于此,在得到目标参数之后,还可以进一步根据调整策略进行调整,具体的调整策略可以根据资源指标的实际情况进行制定,例如采用常见的代码调整、数据库语句调整、服务拆分、异步处理、读写分离、分库分表、增加缓存等技术手段,通过对网络系统的资源配置进行调整,能够降低资源的消耗量,减轻系统的压力即可,从而得到更加准确的最大在线用户数,本实施例对此不多作限定。
另外,参照图9,本发明实施例还提供了一种基于大数据的在线用户数评估装置,该基于大数据的在线用户数评估装置900包括:
访问记录获取单元910,用于从网络系统的系统日志获取访问记录,访问记录包括每一次业务访问的操作记录,操作记录包括操作时间信息、接口调用信息和模块调用信息;
样本获取单元920,用于根据预设的分段时长将系统日志划分为多个分段样本,将业务访问的并发量最大的分段样本确定为目标样本;
测试参数获取单元930,用于根据目标样本中的操作记录得到测试参数,测试参数包括平均操作时长、接口调用比例和模块调用比例,其中,平均操作时长根据操作时间信息得到,接口调用比例根据接口调用信息得到,模块调用比例根据模块调用信息得到;
压力测试单元940,用于根据测试参数进行压力测试,得到网络系统的负载达到最大时的目标参数,目标参数包括目标平均操作时长、目标接口调用比例和目标模块调用比例;
评估单元950,用于根据目标接口调用比例和目标模块调用比例确定目标吞吐量,根据目标平均操作时长确定目标并发度,根据目标吞吐量和目标并发度得到最大在线用户数。
另外,参照图10,本发明的一个实施例还提供了一种电子设备,该电子设备1000包括:存储器1010、处理器1020及存储在存储器1010上并可在处理器1020上运行的计算机程序。
处理器1020和存储器1010可以通过总线或者其他方式连接。
实现上述实施例的基于大数据的在线用户数评估方法所需的非暂态软件程序以及指令存储在存储器1010中,当被处理器1020执行时,执行上述实施例中基于大数据的在线用户数评估方法,例如,执行以上描述的图1中的方法步骤S110至步骤S150、图2中的方法步骤S210至步骤S220、图3中的方法步骤S310至步骤S320、图4中的方法步骤S410至步骤S430、图6中的方法步骤S610至步骤S650、图7中的方法步骤S710至步骤S720、图8中的方法步骤S810至步骤S830。
以上所描述的装置实施例仅仅是示意性的,其中作为分离部件说明的单元可以是或者也可以不是物理上分开的,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
此外,本发明的一个实施例还提供了一种计算机可读存储介质,该计算机可读存储介质存储有计算机可执行指令,该计算机可执行指令被一个处理器或控制器执行,例如,被上述电子设备实施例中的一个处理器执行,可使得上述处理器执行上述实施例中基于大数据的在线用户数评估方法,例如,执行以上描述的图1中的方法步骤S110至步骤S150、图2中的方法步骤S210至步骤S220、图3中的方法步骤S310至步骤S320、图4中的方法步骤S410至步骤S430、图6中的方法步骤S610至步骤S650、图7中的方法步骤S710至步骤S720、图8中的方法步骤S810至步骤S830。本领域普通技术人员可以理解,上文中所公开方法中的全部或某些步骤、系统可以被实施为软件、固件、硬件及其适当的组合。某些物理组件或所有物理组件可以被实施为由处理器,如中央处理器、数字信号处理器或微处理器执行的软件,或者被实施为硬件,或者被实施为集成电路,如专用集成电路。这样的软件可以分布在计算机可读介质上,计算机可读介质可以包括计算机存储介质(或非暂时性介质)和通信介质(或暂时性介质)。如本领域普通技术人员公知的,术语计算机存储介质包括在用于存储信息(诸如计算机可读指令、数据结构、程序模块或其他数据)的任何方法或技术中实施的易失性和非易失性、可移除和不可移除介质。计算机存储介质包括但不限于RAM、ROM、EEPROM、闪存或其他存储器技术、CD-ROM、数字多功能盘(DVD)或其他光盘存储、磁盒、磁带、磁盘存储或其他磁存储装置、或者可以用于存储期望的信息并且可以被计算机访问的任何其他的介质。此外,本领域普通技术人员公知的是,通信介质通常包含计算机可读指令、数据结构、程序模块或者诸如载波或其他传输机制之类的调制数据信号中的其他数据,并且可包括任何信息递送介质。
本申请可用于众多通用或专用的计算机系统环境或配置中。例如:个人计算机、服务器计算机、手持设备或便携式设备、平板型设备、多处理器系统、基于微处理器的系统、置顶盒、可编程的消费电子设备、网络PC、小型计算机、大型计算机、包括以上任何系统或设备的分布式计算环境等等。本申请可以在由计算机执行的计算机可执行指令的一般上下文中描述,例如程序模块。一般地,程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本申请,在这些分布式计算环境中,由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中,程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
以上是对本发明的较佳实施进行了具体说明,但本发明并不局限于上述实施方式,熟悉本领域的技术人员在不违背本发明精神的前提下还可作出种种的等同变形或替换,这些等同的变形或替换均包含在本发明权利要求所限定的范围内。
Claims (10)
1.一种基于大数据的在线用户数评估方法,其特征在于,包括:
从网络系统的系统日志获取访问记录,所述访问记录包括每一次业务访问的操作记录,所述操作记录包括操作时间信息、接口调用信息和模块调用信息;
根据预设的分段时长将所述系统日志划分为多个分段样本,将所述业务访问的并发量最大的所述分段样本确定为目标样本;
根据所述目标样本中的所述操作记录得到测试参数,所述测试参数包括平均操作时长、接口调用比例和模块调用比例,其中,所述平均操作时长根据所述操作时间信息得到,所述接口调用比例根据所述接口调用信息得到,所述模块调用比例根据所述模块调用信息得到;
根据所述测试参数进行压力测试,得到所述网络系统的负载达到最大时的目标参数,所述目标参数包括目标平均操作时长、目标接口调用比例和目标模块调用比例;
根据所述目标接口调用比例和所述目标模块调用比例确定目标吞吐量,根据所述目标平均操作时长确定目标并发度,根据所述目标吞吐量和所述目标并发度得到最大在线用户数。
2.根据权利要求1所述的方法,其特征在于,在所述从网络系统的系统日志获取访问记录之前,所述方法还包括:
当检测到所述网络系统的业务被访问,记录被访问的业务所对应的业务开始时间、业务结束时间、被调用接口和被调用模块;
生成所述被访问的业务的操作记录,其中,所述操作时间信息根据所述业务开始时间和业务结束时间得到,所述接口调用信息根据所述被调用接口得到,所述模块调用信息根据所述被调用模块得到。
3.根据权利要求1所述的方法,其特征在于,所述从网络系统的系统日志获取访问记录,包括:
获取预设的采集时长,根据所述采集时长从所述系统日志中获取备选记录;
当所述备选记录中不包括故障信息,将所述备选记录确定为所述访问记录。
4.根据权利要求1所述的方法,其特征在于,所述根据所述测试参数进行压力测试,包括:
根据预先设定的资源指标,获取压力测试过程中所述资源指标的资源运行值;
获取资源阈值,所述资源阈值为所述网络系统的负载达到最大时所述资源指标的数值;
当所述资源运行值小于所述资源阈值,根据预设的加压策略调整所述测试参数,得到中间测试参数;
当根据所述中间测试参数得到的所述资源运行值等于所述资源阈值,或者所述资源运行值与所述资源阈值的差值在预设误差范围内,将所述中间测试参数确定为所述目标参数。
5.根据权利要求4所述的方法,其特征在于,所述根据预设的加压策略调整所述测试参数,得到中间测试参数,包括:
获取预先设定的第一比例和第二比例,所述第一比例大于或等于所述第二比例;
根据所述第一比例和所述测试参数的数值得到加压目标值;
根据所述第二比例和所述测试参数的数值得到加压调整值;
在所述资源运行值小于所述资源阈值的情况下,以所述加压调整值为单位逐级调整所述测试参数的数值,使得所述测试参数的数值等于所述加压目标值;
将调整后的所述测试参数确定为所述中间测试参数。
6.根据权利要求5所述的方法,其特征在于,在所述将所述中间测试参数确定为所述目标参数之前,所述方法还包括:
根据所述加压调整值对所述中间测试参数进行加压调整,当加压调整后所得到的所述资源运行值大于所述资源阈值,将所述中间测试参数确定为所述目标参数;
和/或,
根据所述加压调整值对所述中间测试参数进行减压调整,当减压调整后所得到的所述资源运行值与所述资源阈值的差值不在所述预设误差范围内,将所述中间测试参数确定为所述目标参数。
7.根据权利要求1所述的方法,其特征在于,在所述得到所述网络系统的负载达到最大时的目标参数之后,所述方法还包括:
根据预设的调整策略和所述目标参数所对应的所述资源运行值得到配置更新信息;
根据所述配置更新信息调整所述网络系统的资源配置;
根据调整后的所述网络系统和所述目标参数继续进行压力测试,从而得到调整后的目标参数。
8.一种基于大数据的在线用户数评估装置,其特征在于,包括:
访问记录获取单元,用于从网络系统的系统日志获取访问记录,所述访问记录包括每一次业务访问的操作记录,所述操作记录包括操作时间信息、接口调用信息和模块调用信息;
样本获取单元,用于根据预设的分段时长将所述系统日志划分为多个分段样本,将所述业务访问的并发量最大的所述分段样本确定为目标样本;
测试参数获取单元,用于根据所述目标样本中的所述操作记录得到测试参数,所述测试参数包括平均操作时长、接口调用比例和模块调用比例,其中,所述平均操作时长根据所述操作时间信息得到,所述接口调用比例根据所述接口调用信息得到,所述模块调用比例根据所述模块调用信息得到;
压力测试单元,用于根据所述测试参数进行压力测试,得到所述网络系统的负载达到最大时的目标参数,所述目标参数包括目标平均操作时长、目标接口调用比例和目标模块调用比例;
评估单元,用于根据所述目标接口调用比例和所述目标模块调用比例确定目标吞吐量,根据所述目标平均操作时长确定目标并发度,根据所述目标吞吐量和所述目标并发度得到最大在线用户数。
9.一种电子设备,包括:存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至7中任意一项所述的基于大数据的在线用户数评估方法。
10.一种计算机可读存储介质,存储有计算机可执行指令,其特征在于,所述计算机可执行指令用于执行如权利要求1至7中任意一项所述的基于大数据的在线用户数评估方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110963363.5A CN113676377B (zh) | 2021-08-20 | 2021-08-20 | 基于大数据的在线用户数评估方法、装置、设备及介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110963363.5A CN113676377B (zh) | 2021-08-20 | 2021-08-20 | 基于大数据的在线用户数评估方法、装置、设备及介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113676377A true CN113676377A (zh) | 2021-11-19 |
CN113676377B CN113676377B (zh) | 2022-06-21 |
Family
ID=78544801
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110963363.5A Active CN113676377B (zh) | 2021-08-20 | 2021-08-20 | 基于大数据的在线用户数评估方法、装置、设备及介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113676377B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117914984A (zh) * | 2024-03-19 | 2024-04-19 | 深圳百沃彰世科技有限公司 | 一种用于通讯设备终端的多维通讯压力测试方法及系统 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20080114344A (ko) * | 2007-06-27 | 2008-12-31 | 한국전자통신연구원 | 가용 대역폭 예측 장치 및 방법 |
CN103327511A (zh) * | 2012-03-22 | 2013-09-25 | 电信科学技术研究院 | 一种确定业务容量的方法和设备 |
CN103987056A (zh) * | 2014-05-30 | 2014-08-13 | 南京华苏科技有限公司 | 基于大数据统计模型的无线网络话务量预测方法 |
CN108063960A (zh) * | 2016-11-08 | 2018-05-22 | 北京国双科技有限公司 | 用户数统计方法及装置 |
CN109426593A (zh) * | 2017-08-24 | 2019-03-05 | 北京京东尚科信息技术有限公司 | 自动评估系统性能的方法和装置 |
CN112383936A (zh) * | 2020-11-27 | 2021-02-19 | 中国联合网络通信集团有限公司 | 一种可接入用户数的评估方法和装置 |
CN113064777A (zh) * | 2021-04-02 | 2021-07-02 | 中国建设银行股份有限公司 | 数据采集服务的测试方法和装置 |
-
2021
- 2021-08-20 CN CN202110963363.5A patent/CN113676377B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20080114344A (ko) * | 2007-06-27 | 2008-12-31 | 한국전자통신연구원 | 가용 대역폭 예측 장치 및 방법 |
CN103327511A (zh) * | 2012-03-22 | 2013-09-25 | 电信科学技术研究院 | 一种确定业务容量的方法和设备 |
CN103987056A (zh) * | 2014-05-30 | 2014-08-13 | 南京华苏科技有限公司 | 基于大数据统计模型的无线网络话务量预测方法 |
CN108063960A (zh) * | 2016-11-08 | 2018-05-22 | 北京国双科技有限公司 | 用户数统计方法及装置 |
CN109426593A (zh) * | 2017-08-24 | 2019-03-05 | 北京京东尚科信息技术有限公司 | 自动评估系统性能的方法和装置 |
CN112383936A (zh) * | 2020-11-27 | 2021-02-19 | 中国联合网络通信集团有限公司 | 一种可接入用户数的评估方法和装置 |
CN113064777A (zh) * | 2021-04-02 | 2021-07-02 | 中国建设银行股份有限公司 | 数据采集服务的测试方法和装置 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117914984A (zh) * | 2024-03-19 | 2024-04-19 | 深圳百沃彰世科技有限公司 | 一种用于通讯设备终端的多维通讯压力测试方法及系统 |
CN117914984B (zh) * | 2024-03-19 | 2024-06-07 | 深圳百沃彰世科技有限公司 | 一种用于通讯设备终端的多维通讯压力测试方法及系统 |
Also Published As
Publication number | Publication date |
---|---|
CN113676377B (zh) | 2022-06-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20190238581A1 (en) | Method, apparatus and system for detecting abnormal behavior of user | |
CN109729131B (zh) | 一种应用请求的处理方法、装置和路由器 | |
CN110070461B (zh) | 一种电力信息系统健康度评估方法及其评估系统 | |
CN109992473B (zh) | 应用系统的监控方法、装置、设备及存储介质 | |
CN108734304B (zh) | 一种数据模型的训练方法、装置、及计算机设备 | |
CN107896170B (zh) | 保险应用系统的监控方法及装置 | |
CN109309596A (zh) | 一种压力测试方法、装置及服务器 | |
CN109495291B (zh) | 调用异常的定位方法、装置和服务器 | |
CN111858265A (zh) | 一种存储系统的存储故障预测方法、系统及装置 | |
US9811447B2 (en) | Generating a fingerprint representing a response of an application to a simulation of a fault of an external service | |
CN113676377B (zh) | 基于大数据的在线用户数评估方法、装置、设备及介质 | |
CN114595085A (zh) | 磁盘失效预测方法、预测模型训练方法、电子设备 | |
CN109992614B (zh) | 数据获取方法、装置和服务器 | |
CN111984519B (zh) | 一种用于业务系统的测试方法及其装置 | |
CN110290513B (zh) | 一种重入网用户的识别方法和系统 | |
CN117033099A (zh) | 一种系统硬盘的压力测试方法、系统、装置及存储介质 | |
CN116450483A (zh) | 一种确定软件分配的负载的方法、装置、服务器及介质 | |
CN115994029A (zh) | 容器资源调度方法及装置 | |
CN115509853A (zh) | 一种集群数据异常检测方法及电子设备 | |
CN115168203A (zh) | 接口模拟方法、装置、系统、计算机设备和存储介质 | |
CN115080412A (zh) | 软件更新质量评估方法、装置、设备及计算机存储介质 | |
CN113869989A (zh) | 一种信息处理方法及装置 | |
CN111967938A (zh) | 云资源推荐方法、装置、计算机设备及可读存储介质 | |
CN114513686A (zh) | 视频信息的确定方法、装置以及存储介质 | |
KR101553923B1 (ko) | 시스템 사용량 분석 장치 및 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
TR01 | Transfer of patent right |
Effective date of registration: 20220922 Address after: Room 2601 (Unit 07), Qianhai Free Trade Building, No. 3048, Xinghai Avenue, Nanshan Street, Qianhai Shenzhen-Hong Kong Cooperation Zone, Shenzhen, Guangdong 518000 Patentee after: Shenzhen Ping An Smart Healthcare Technology Co.,Ltd. Address before: 1-34 / F, Qianhai free trade building, 3048 Xinghai Avenue, Mawan, Qianhai Shenzhen Hong Kong cooperation zone, Shenzhen, Guangdong 518000 Patentee before: Ping An International Smart City Technology Co.,Ltd. |
|
TR01 | Transfer of patent right |