CN112615759B - 全链路压测组件、全链路压测方法及装置 - Google Patents
全链路压测组件、全链路压测方法及装置 Download PDFInfo
- Publication number
- CN112615759B CN112615759B CN202011491691.1A CN202011491691A CN112615759B CN 112615759 B CN112615759 B CN 112615759B CN 202011491691 A CN202011491691 A CN 202011491691A CN 112615759 B CN112615759 B CN 112615759B
- Authority
- CN
- China
- Prior art keywords
- pressure measurement
- request
- data
- application service
- component
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
- G06F16/2282—Tablespace storage structures; Management thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/50—Testing arrangements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L69/00—Network arrangements, protocols or services independent of the application payload and not provided for in the other groups of this subclass
- H04L69/22—Parsing or analysis of headers
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Abstract
本申请公开了一种全链路压测组件、方法及装置。该压测组件包括:接收请求处理组件,用于拦截数据请求,并对所述数据请求的请求头进行解析,以根据解析结果判定所述数据请求是否为压测请求;压测请求响应组件,还用于在判定所述数据请求为压测请求时,对所述压测请求进行响应得到压测数据;数据存储组件,用于拦截所述压测数据,并采用影子技术将所述压测数据存储至数据库中。本申请可以实现压测数据和真实数据的隔离。
Description
技术领域
本申请涉及互联网术领域,尤其涉及一种全链路压测组件、全链路压测方法及装置。
背景技术
链路压力测试是基于实际生产业务场景和系统环境,模拟海量的用户请求和数据对整个业务链进行压力测试,并持续调优的过程。
目前,业务场景越发复杂化,在整个业务链中,不同应用服务之间关联性越来越密切,可谓是牵一发而动全身。但是,在相关链路压力测试方案中,主要通过在压测前模拟一批数据,压测结束后再进行删除数据,这种手动对线上的真实数据进行删改极容易给系统带来风险和故障,而且也非常容易出现压测数据被当成真实数据使用,导致用户错误下单等问题。
发明内容
有鉴于此,现提供一种全链路压测组件、装置、计算机设备及计算机可读存储介质,以解决现有技术中在链路压测结束后需要手动删改数据,容易导致系统风险和故障的问题。
本申请提供了一种全链路压测组件,包括:
接收请求处理组件,用于拦截数据请求,并对所述数据请求的请求头进行解析,以根据解析结果判定所述数据请求是否为压测请求;
压测请求响应组件,还用于在判定所述数据请求为压测请求时,对所述压测请求进行响应得到压测数据;
数据存储组件,用于拦截所述压测数据,并采用影子技术将所述压测数据存储至数据库中。
可选地,在所述数据库为关系型数据库时,所述数据存储组件还用于拦截所述压测数据,并采用影子表技术将所述压测数据存储至所述关系型数据库中预先配置的影子表中;
在所述数据库为以键值对形式进行数据存储的非关系型数据库时,所述数据存储组件还用于拦截所述压测数据,并采用影子键技术将所述压测数据存储至所述非关系型数据库中预先配置的影子键中。
可选地,所述全链路压测组件还包括分库分表规则读取组件;
所述分库分表规则读取组件用于读取预先配置的所述影子表的分库分表规则,并根据读取到的分库分表规则构建所述影子表的分表;
所述数据存储组件还用于拦截所述压测数据,并采用影子表技术与所述分库分表规则将所述压测数据存储至对应的分表中。
可选地,所述全链路压测组件还包括:分库分表配置组件;
所述分库分表配置组件,用于将预先配置的分库分表的路由规则添加至预设的配置文件中,其中,所述路由规则用于确定所述压测数据存储的分表;
所述数据存储组件还用于拦截所述压测数据,并采用影子表技术与所述路由规则将所述压测数据存储至对应的分表中。
可选地,所述压测请求响应组件,还用于将所述压测请求中的压测标识注入至待压测的第一应用服务的当前的线程上下文中,以使所述第一应用服务根据所述线程上下文对所述压测请求进行响应得到压测数据。
可选地,所述压测请求响应组件,还用于采用请求头的方式将包含压测标识的压测请求透传至第二应用服务,以使所述第二应用服务对所述压测请求进行响应得到压测数据。
可选地,所述压测请求响应组件,还用于采用异步消息的方式将包含压测标识的压测请求透传至预设的broker服务器中,以使第三应用服务从所述broker服务器中监听到所述压测标识时,对所述压测请求进行响应得到压测数据。
可选地,所述broker服务器为分布式数据同步系统Databus中的服务器时,所述压测请求响应组件,还用于采用protobuf插件对所述压测标识进行处理,得到处理后的压测标识,将包含处理后的压测标识的压测请求通过消息的方式透传至预设的broker服务器中。
本申请还提供了一种全链路压测方法,包括:
通过发压平台产生数据请求;
通过全链路压测组件拦截数据请求,并对所述数据请求的请求头进行解析,以根据解析结果判定所述数据请求是否为压测请求;
在判定所述数据请求为压测请求时,通过所述全链路压测组件将所述压测请求中的压测标识注入至待压测的第一应用服务的当前的第一线程上下文中;
通过所述第一应用服务根据所述第一线程上下文对所述压测请求进行响应得到第一压测数据。
可选地,所述全链路压测方法还包括:
在所述第一应用服务调用预设的第二应用服务对所述压测请求进行处理时,通过所述全链路压测组件采用请求头的方式将包含所述压测标识的压测请求透传至所述第二应用服务;
通过所述全链路压测组件将所述压测标识注入至所述第二应用服务的当前的第二线程上下文中;
通过所述第二应用服务根据所述第二线程上下文对所述压测请求进行响应得到第二压测数据。
可选地,所述全链路压测方法还包括:
在所述第一应用服务或所述第二应用服务通过异步消息的方式调用预设的第三应用服务对所述压测请求进行处理时,通过所述全链路压测组件将包含所述压测标识的压测请求透传至预设的broker服务器中;
通过所述第三应用服务监听所述broker服务器中的压测标识;
在监听到所述压测标识时,通过所述全链路压测组件将所述压测标识注入至所述第三应用服务的当前的第三线程上下文中;
通过所述第三应用服务根据所述第三线程上下文对所述压测请求进行响应得到第三压测数据。
可选地,所述全链路压测方法还包括:
通过所述全链路压测组件拦截所述第一压测数据,并采用影子技术将所述第一压测数据存储至数据库中;及/或
通过所述全链路压测组件拦截所述第二压测数据,并采用影子技术将所述第二压测数据存储至数据库中;及/或
通过所述全链路压测组件拦截所述第三压测数据,并采用影子技术将所述第三压测数据存储至数据库中。
本申请还提供了一种全链路压测装置,包括:
产生模块,用于通过发压平台产生数据请求;
判定模块,用于通过全链路压测组件拦截数据请求,并对所述数据请求的请求头进行解析,以根据解析结果判定所述数据请求是否为压测请求;
注入模块,用于在判定所述数据请求为压测请求时,通过所述全链路压测组件将所述压测请求中的压测标识注入至待压测的第一应用服务的当前的第一线程上下文中;
响应模块,用于通过所述第一应用服务根据所述第一线程上下文对所述压测请求进行响应得到第一压测数据。
本申请还提供了一种计算机设备,所述计算机设备,包括存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现上述方法的步骤。
本申请还提供了一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述方法的步骤。
上述技术方案的有益效果:
本申请实施例中,在进行链路压测时,通过全链路压测组件拦截数据请求,并对所述数据请求的请求头进行解析,以根据解析结果判定所述数据请求是否为压测请求;以及在判定所述数据请求为压测请求时,将所述压测请求中的压测标识注入至待压测的第一应用服务的当前的线程上下文中,使得压测标识透传至第一应用服务中。这样第一服务服务在对所述压测请求进行处理得到的压测数据就会具有真实的数据所不具有的压测标识,从而在对该压测数据进行存储时,可以全链路压测组件拦截所述压测数据,并采用影子技术将所述压测数据存储至数据库中,实现压测数据和真实数据的隔离。此外,在所述第一应用服务调用预设的第二应用服务对所述压测请求进行处理时,全链路压测组件还可以采用请求头的方式将所述压测标识透传至所述第二应用服务,这样,第二应用服务在对所述压测请求进行处理得到的压测数据也会具有真实的数据所不具有的压测标识,从而可以在对第二应用服务响应所述压测请求得到的压测数据进行存储时,也可以通过全链路压测组件拦截所述压测数据,并采用影子技术将该压测数据存储至数据库中,实现压测数据和真实数据的隔离。此外,在所述第一应用服务或所述第二应用服务通过异步的方式调用预设的第三应用服务对所述压测请求进行处理时,全链路压测组件,可以将所述压测标识透传至预设的broker服务器中,这样,当第三服务服务在对所述压测请求进行处理得到的压测数据也会具有真实的数据所不具有的压测标识,从而可以在对第三应用服务响应所述压测请求得到的压测数据进行存储时,也可以通过全链路压测组件拦截所述压测数据,并采用影子技术将该压测数据存储至数据库中,实现压测数据和真实数据的隔离。此外,本实施例中,在应用服务之间实现调用时,通过将压测标识进行透传,从而保证了链路的完整性。
附图说明
图1为本申请实施例中用于实现全链路压测方法的架构图;
图2为本申请实施例中全链路压测组件的功能模块示意图;
图3为本申请适用于全链路压测方法的流程图;
图4为本申请另一适用于全链路压测方法的流程图;
图5为本申请另一适用于全链路压测方法的流程图;
图6为本申请所述的全链路压测装置的一种实施例的程序模块图;
图7为本申请实施例提供的执行全链路压测方法的计算机设备的硬件结构示意图。
具体实施方式
以下结合附图与具体实施例进一步阐述本申请的优点。
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。
在本公开使用的术语是仅仅出于描述特定实施例的目的,而非旨在限制本公开。在本公开和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其它含义。还应当理解,本文中使用的术语“和/或”是指并包含一个或多个相关联的列出项目的任何或所有可能组合。
应当理解,尽管在本公开可能采用术语第一、第二、第三等来描述各种信息,但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如,在不脱离本公开范围的情况下,第一信息也可以被称为第二信息,类似地,第二信息也可以被称为第一信息。取决于语境,如在此所使用的词语“如果”可以被解释成为“在……时”或“当……时”或“响应于确定”。
在本申请的描述中,需要理解的是,步骤前的数字标号并不标识执行步骤的前后顺序,仅用于方便描述本申请及区别每一步骤,因此不能理解为对本申请的限制。
图1示意性示出了根据本申请实施例中用于实现全链路压测方法的架构图。在示例性的实施例中,实现全链路压测方法的架构可以包括发压平台1、网关2、全链路压测组件3,多个待压测的应用服务4及数据库5。
其中,发压平台1用于产生数据请求,并将数据请求通过网关2传至全链路组件3中,全链路组件3用于拦截数据请求,并对数据请求中包含的压测标识透传至各个待压测的应用服务4中,以便对各个应用服务4进行压测,得到压测数据。数据库5用于通过影子技术来存储压测数据,从而实现压测数据与真实数据的隔离,保证压测数据和真实数据不会混乱。
参阅图2,其为本申请一实施例的全链路压测组件的功能模块示意图。从图中可以看出,本实施例中所提供的全链路压测组件20可以包括:接收请求处理组件21、压测请求响应组件22、数据存储组件23。
接收请求处理组件21,用于拦截数据请求,并对所述数据请求的请求头进行解析,以根据解析结果判定所述数据请求是否为压测请求。
具体地,接收请求处理组件21作为一个过滤器(Filter),用于拦截数据请求,并对数据请求的请求头进行解析,以根据解析结果判定所述数据请求是否为压测请求
作为示例,接收请求处理组件21可以为一个 Web Filter,其可以被注入至tomcat容器里,这样,因tomcat 容器实现了 Servlet 组件 javax.servlet.Filter 的规范,故Web Filter可以拦截所有的数据请求,并在拦截到数据请求后,可以对数据请求的请求头进行解析,在解析到请求头中包含有压测标识时,可以判定该数据请求为压测请求,并可以进一步将压测标识注入至第一应用服务的当前的线程上下文中。第一应用服务在当前的线程上下文中获取到压测标识后,即可以重建压测上下文。在本实施例中,为了便于后续进行功能扩展,重建的压测上下文可以抽象出来一个Context 类,这样若需要扩展TraceContext 上下文等,只需要添加一些特殊的 API,即可实现无缝升级。
其中,所述数据请求是由发压平台产生的,该数据请求可以为正常的数据请求,也可以为压测请求。正常的数据请求指的是会产生真实结果的数据请求,比如,一个真实的下单数据请求。压测请求是基于用户产生的真实数据而模拟出来的mock (模拟)数据,用于对应用服务进行压测的,其是一个不会产生真实结果的数据请求,而是会产生mock结果的数据请求,比如,一个模拟的下单数据请求,该模拟的下单请求指的是一个不会存在商家对该请求进行发货的下单数据请求。在本实施例中,压测请求是一个具有压测标识的数据请求,而正常的数据请求则没有压测标识。压测标识是用于区分是压测请求还是正常的数据请求的信息。在一具体实施方式中,压测标识定义如下:
bili_global_context:{"mallTest":true,"verbose":true,"globalSwitch":true}。
其中,压测数据是应用服务对压测请求进行响应得到的数据,该压测数据与真实数据不同之处在于,其不会产生一个真实结果。
压测请求响应组件22,还用于在判定所述数据请求为压测请求时,对所述压测请求进行响应得到压测数据。
具体地,在不同的场景中,压测请求响应组件22对压测请求进行响应得到压测数据的方式不同。
作为示例,当处于服务(比如第一应用服务)内部线程对压测请求进行处理的场景时,压测请求响应组件22会将所述压测请求中的压测标识注入至待压测的第一应用服务的当前的线程上下文中,以使所述第一应用服务根据所述线程上下文对所述压测请求进行响应得到压测数据。具体而言,第一应用服务会根据该压测标识重建压测上下文,并基于重建的压测上下文对所述压测请求进行响应得到压测数据。作为示例,当处于服务之间的(比如第一应用服务调用第二应用服务)同步调用对压测请求进行处理的场景时,压测请求响应组件22可以采用请求头的方式将包含压测标识的压测请求透传至第二应用服务,以使所述第二应用服务对所述压测请求进行响应得到压测数据。具体而言,当第一应用服务通过Feign客户端调用第二应用服务对压测请求进行处理,或者通过RestTemplate调用第二应用服务对压测请求进行处理时,压测请求响应组件22可以采用请求头的方式将包含压测标识的压测请求透传至第二应用服务。
需要说明的是,当通过Feign客户端调用第二应用服务时,由于Feign 客户端本质上是使用 HTTP 技术请求来调用应用服务的,因此,在通过Feign 客户端调用第二应用服务对所述压测请求进行处理时,可以将压测标识添加至调用请求的请求头中,从而实现将包含压测标识的压测请求至所述第二应用服务。当通过RestTemplate调用第二应用服务时,由于RestTemplate本质上也是基于HTTP 请技术来调用应用服务的,无非是封装了调用细节(具体实现可以是 Netty、HttpClient、OkHttp、JDK Http 等),因此,在通过RestTemplate调用第二应用服务对所述压测请求进行处理时,也可以将压测标识添加至调用请求的请求头中,从而实现将包含压测标识的压测请求透传至所述第二应用服务。
作为示例,当处于服务之间的(比如第一应用服务或第二应用服务调用第三应用服务)异步调用对压测请求进行处理的场景时,压测请求响应组件22,还用于采用异步消息的方式将包含压测标识的压测请求透传至预设的broker服务器中,以使第三应用服务从所述broker服务器中监听到所述压测标识时,对所述压测请求进行响应得到压测数据。具体而言,采用不同的异步消息调用第三应用服务对所述压测请求进行处理时,将包含压测标识的压测请求透传至broker服务器中的方式不同。
作为示例,当broker服务器为分布式数据同步系统Databus中的服务器时,由于DataBus与Java 客户端不是很兼容,因此,为了解决兼容性问题,本实施例中的,压测请求响应组件22在将包含压测标识的压测请求透传至broker服务器中时,可以先通过protobuf插件对所述压测标识进行处理,得到处理后的压测标识,之后再将包含处理后的压测标识的压测请求通过消息的方式透传至预设的broker服务器中。
其中,protobuf插件(Google Protocol Buffers)是Google提供一个具有高效的协议数据交换格式工具库(类似Json),但相比于Json,Protobuf有更高的转化效率,时间效率和空间效率都是JSON的3-5倍,通过protobuf插件可以通过二进制字节的序列化方式对压测标识进行序列化,避免DataBus与Java 客户端不兼容。
作为示例,当broker服务器为RabbitMQ中的服务器时,压测请求响应组件22,在将包含压测标识的压测请求透传至broker服务器中时,可以无需对压测标识进行处理,而是直接将压测标识通过消息的方式透传至broker服务器中。
作为示例,当采用线程池传递消息的方式将包含压测标识的压测请求透传至broker服务器中,由于在线程池中,一个线程是会被多次复用的,这样每次的上下文环境可能都不会相同,因此,为了解决在将压测标识透传至broker服务器时,因为上下文环境的不同可能导致压测标识透传出错的问题,本实施例中,压测请求响应组件22在将包含压测标识的压测请求透传至broker服务器中时,可以先通过对象映射器Dapper对所述压测标识进行包装处理,得到包装后的压测标识,将包含所述包装后的压测标识的压测请求通过线程池的方式透传至预设的broker服务器中。
其中,Dapper是一个简单的.NET对象映射器,在速度方面具有"King of MicroORM"的头衔,几乎与使用原始的ADO.NET数据读取器一样快。ORM是一个对象关系映射器,它负责数据库和编程语言之间的映射。Dapper通过扩展IDbConnection提供一些有用的扩展方法去查询您的数据库。本实施例中,通过Dapper对所述压测标识进行包装,从而可以使得包装后的压测标识不会因为线程池的上下文环境不同而导致压测标识透传出错。
数据存储组件23,用于拦截所述压测数据,并采用影子技术将所述压测数据存储至数据库中。
具体地,所述数据存储组件23作为一个拦截器,可以拦截压测数据,并使用影子技术将压测数据存储至数据库中。
在本实施例中,在使用影子技术将压测数据存储至数据库时,不同类别的数据库,使用影子技术将压测数据存储至数据库的方式不同。
作为示例,当数据库为关系型数据库,比如MySQL数据库,则可以采用影子表技术将所述压测数据存储至MySQL数据库中预先配置的影子表中。其中,影子表是基于真实表复制出的一套与真实表具有相同结构的表,其与真实表的用途不同,仅用于存储压测数据。在一实施方式中,为了将影子表和真实表加以区分,在配置影子表时,可以在对影子表命名时添加特定的字符前缀或后缀来分区影子表和真实表。
可以理解的是,在使用影子表技术将压测数据存储至关系型数据库时,则需要动态修改将压测数据存储至关系型数据库的sql(Structured Query Language,结构化查询语句)语句,比如,一条sql 语句 insert into user(name) values("zhangsan"),如果这是一条将压测数据存储至数据库的语句,则在通过这条语句将压测数据存储至数据库时,则可以先通过MyBatis提供的ParameterHandler插件拦截这条语句,之后通过MyBatis提供的PreparedStatementHandler插件将这条语句更改成 insert into BILI_SHADOW_user(name) values("zhangsan"),从而使得该压测数据可以存储至影子表中。
本实施例中,通过将压测数据存储至影子表中,从而无需对真实表中存储的数据进行删改,以及可以避免用户可以查看到影子表的数据。
在一实施方式中,考虑压测数据的数据量较大,若使用单独的影子表来存储压测数据会影响sql 执行的性能,因此为了解决这个问题,全链路压测组件20还包括分库分表规则读取组件。
所述分库分表规则读取组件,用于读取预先配置的所述影子表的分库分表规则,并根据读取到的分库分表规则构建所述影子表的分表。
所述数据存储组件23,还用于拦截所述压测数据,并采用影子表技术与所述分库分表规则将所述压测数据存储至对应的分表中。
具体地,当使用Sharding JDBC组件进行分库分表时,用户可以预先把 ShardingJDBC组件针对影子表的分库分表规则放入到 Spring 环境中,这样,在进行链路压测时,所述分库分表规则读取组件就可以读取影子表的分库分表规则,然后基于读取到的分库分表规则构建所述影子表的分表。
可以理解的是,当影子表存在分表时,则将压测数据存储至关系型数据库时,仍然需要动态修改将压测数据存储至关系型数据库的sql语句,比如一条sql 语句insert intoorder(mid, name) values(998, "zhangsan")(假设order 表是经过分库分表后的,分片健是 mid),如果这是一条将压测数据存储至数据库的语句,则在通过这条语句将压测数据存储至数据库时,则可以先通过MyBatis提供的ParameterHandler插件拦截这条语句,之后通过MyBatis提供的PreparedStatementHandler插件将这条语句更改成insert intoBILI_SHADOW_order(mid, name) values(998, "zhangsan"),之后 Sharding JDBC 的ShardingPreparedStatement组件会继续根据这条语句将压测数据存储至数据库中,由于所述分库分表规则读取组件已经读取到了分库分表规则,比如该分库分表规则为将数据存储至分表001中,则ShardingPreparedStatement组件会根据分库分表规则将压测数据存储至影子分表BILI_SHADOW_order_001中。
在另一实施方式中,考虑压测数据的数据量较大,若使用单独的影子表来存储压测数据会影响sql 执行的性能,因此为了解决这个问题,全链路压测组件20还可以包括分库分表配置组件。
所述分库分表配置组件,用于将预先配置的分库分表的路由规则添加至预设的配置文件中,其中,所述路由规则用于确定所述压测数据存储的分表。
所述数据存储组件23,还用于拦截所述压测数据,并采用影子表技术与所述路由规则将所述压测数据存储至对应的分表中。
具体地,当使用Sharding JDBC组件进行分库分表时,用户也可以使用 SpringBoot 的方式去管理 Sharding JDBC组件的配置,在用户完成对Sharding JDBC组件的配置后,可以通过分库分表配置组件将分库分表的路由规则添加至预设的配置文件中,这样,在进行链路压测时,所述分库分表配置组件即可以从配置文件中读取该分库分表的路由规则,并根据路由规则与影子表技术将压测数据存储至对应的分表中,比如,存储至影子分表BILI_SHADOW_order_001中。
本实施例中,通过增设分库分表规则读取组件或分库分表配置组件可以使得在使用Sharding JDBC组件进行分表时,由于未对影子表进行配置,使得压测数据不能存储至影子表的分表中。
作为示例,当数据库为以键值对形式进行数据存储的非关系型数据库时,比如,Redis数据库,则可以采用影子键(影子key)技术将压测数据存储至Redis数据库中预先配置的影子键中。其中,影子键和影子表类似,是基于真实key复制出的一套与真实key具有相同结构的key,其与真实key的用途不同,仅用于存储压测数据。在一实施方式中,为了将影子key和真实key加以区分,在配置影子key时,也可以在对影子key命名时添加特定的字符前缀或后缀来分区影子表key和真实key。
可以理解的是,在使用影子key技术将压测数据存储至非关系型数据库时,需要通过Spring Data Redis来将压测数据存储至影子key中。在本实施例中,在使用Spring DataRedis来将压测数据存储至影子key中,考虑到 Spring Data Redis 没有很好的集成方式,可以采用AspectJ 的方式做增强。
进一步地,在本实施例中,为了便于全链路压测组件20用于链路压测中,本实施例中,可以将全链路压测组件20集成在Spring Boot中,这样,在启动系统时,可以通过SpringBoot 提供的一套 SPI 机制,读取 META-INF/spring.factories文件,从而完成全链路压测组件20与 Spring 框架的整合。
在本实施例中,使用 SPI 的方式与业务代码接入,能够无感知的将项目接入全链路压测组件20,当然Spring Boot也提供了关闭的方法,只需要配置bili.full.chain.enable = false即可。
本申请实施例中,在进行链路压测时,通过全链路压测组件拦截数据请求,并对所述数据请求的请求头进行解析,以根据解析结果判定所述数据请求是否为压测请求;以及在判定所述数据请求为压测请求时,将所述压测请求中的压测标识注入至待压测的第一应用服务的当前的线程上下文中,使得压测标识透传至第一应用服务中。这样第一服务服务在对所述压测请求进行处理得到的压测数据就会具有真实的数据所不具有的压测标识,从而在对该压测数据进行存储时,可以全链路压测组件拦截所述压测数据,并采用影子技术将所述压测数据存储至数据库中,实现压测数据和真实数据的隔离。此外,在所述第一应用服务调用预设的第二应用服务对所述压测请求进行处理时,全链路压测组件还可以采用请求头的方式将所述压测标识透传至所述第二应用服务,这样,第二应用服务在对所述压测请求进行处理得到的压测数据也会具有真实的数据所不具有的压测标识,从而可以在对第二应用服务响应所述压测请求得到的压测数据进行存储时,也可以通过全链路压测组件拦截所述压测数据,并采用影子技术将该压测数据存储至数据库中,实现压测数据和真实数据的隔离。此外,在所述第一应用服务或所述第二应用服务通过异步的方式调用预设的第三应用服务对所述压测请求进行处理时,全链路压测组件,可以将所述压测标识透传至预设的broker服务器中,这样,当第三服务服务在对所述压测请求进行处理得到的压测数据也会具有真实的数据所不具有的压测标识,从而可以在对第三应用服务响应所述压测请求得到的压测数据进行存储时,也可以通过全链路压测组件拦截所述压测数据,并采用影子技术将该压测数据存储至数据库中,实现压测数据和真实数据的隔离。此外,本实施例中,在应用服务之间实现调用时,通过将压测标识进行透传,从而保证了链路的完整性。
图3示意性示出了根据本申请实施例的适用于全链路压测方法的流程图。所述方法可以运行在计算机设备中。如图3所示,所述方法可以包括步骤S30~S33,其中:
步骤S30,通过发压平台产生数据请求。
具体地,所述发压平台可以为JMeter,JMeter是Apache组织开发的基于Java的压力测试工具。用于对软件做压力测试,它最初被设计用于Web应用测试,但后来扩展到其他测试领域。它可以用于测试静态和动态资源,例如静态文件、Java 小服务程序、CGI 脚本、Java 对象、数据库、FTP 服务器,等等。JMeter 可以用于对服务器、网络或对象模拟巨大的负载,来自不同压力类别下测试它们的强度和分析整体性能。
该数据请求可以为正常的数据请求,也可以为压测请求。正常的数据请求指的是会产生真实结果的数据请求,比如,一个真实的下单数据请求。压测请求是基于用户产生的真实数据而模拟出来的mock (模拟)数据,用于对应用服务进行压测的,其是一个不会产生真实结果的数据请求,而是会产生mock结果的数据请求,比如,一个模拟的下单数据请求,该模拟的下单请求指的是一个不会存在商家对该请求进行发货的下单数据请求。在本实施例中,压测请求是一个具有压测标识的数据请求,而正常的数据请求则没有压测标识。压测标识是用于区分是压测请求还是正常的数据请求的信息。在一具体实施方式中,压测标识定义如下:
bili_global_context:{"mallTest":true,"verbose":true,"globalSwitch":true}。
步骤S31,通过全链路压测组件拦截数据请求,并对所述数据请求的请求头进行解析,以根据解析结果判定所述数据请求是否为压测请求。
具体地,所述全链路组件为上述实施例中的全链路组件20,在本实施例中不再赘述。
本实施例中,在解析得到的请求头中包含有压测标识时,可以判定所述数据请求为压测请求,在解析得到的请求头中没有包含有压测标识时,则可以判定所述数据请求为正常的数据请求。
步骤S32,在判定所述数据请求为压测请求时,通过所述全链路压测组件将所述压测请求中的压测标识注入至待压测的第一应用服务的当前的第一线程上下文中。
步骤S33,通过所述第一应用服务根据所述第一线程上下文对所述压测请求进行响应得到第一压测数据。
具体地,第一应用服务在第一线程上下文中获取到压测标识后,可以根据该压测标识重建压测上下文。在本实施例中,为了便于后续进行功能扩展,重建的压测上下文可以抽象出来一个Context 类,这样若需要扩展 TraceContext 上下文等,只需要添加一些特殊的 API,即可实现无缝升级。
在一示例性的实施方式中,参照图4,所述全链路压测方法还包括:
步骤S40,在所述第一应用服务调用预设的第二应用服务对所述压测请求进行处理时,通过所述全链路压测组件采用请求头的方式将包含所述压测标识的压测请求透传至所述第二应用服务。
所述第一应用服务可以通过Feign客户端调用第二应用服务对压测请求进行处理,也可以通过RestTemplate调用第二应用服务对压测请求进行处理。
在本实施例中,当通过Feign客户端调用第二应用服务时,由于Feign 客户端本质上是使用 HTTP 技术请求来调用应用服务的,因此,在通过Feign 客户端调用第二应用服务对所述压测请求进行处理时,可以将压测标识添加至调用请求的请求头中,从而实现将包含压测标识的压测请求透传至所述第二应用服务。当通过RestTemplate调用第二应用服务时,由于RestTemplate本质上也是基于HTTP 请技术来调用应用服务的,无非是封装了调用细节(具体实现可以是 Netty、HttpClient、OkHttp、JDK Http 等),因此,在通过RestTemplate调用第二应用服务对所述压测请求进行处理时,也可以将压测标识添加至调用请求的请求头中,从而实现将包含压测标识的压测请求透传至所述第二应用服务。
步骤S41,通过所述全链路压测组件将所述压测标识注入至所述第二应用服务的当前的第二线程上下文中;
步骤S42,通过所述第二应用服务根据所述第二线程上下文对所述压测请求进行响应得到第二压测数据。
具体地,上述步骤S41-S42与步骤S32-S33类似,在本实施例中不再赘述。
在一示例性的实施方式中,参照图5,所述全链路压测方法还包括:
步骤S50,在所述第一应用服务或所述第二应用服务通过异步消息的方式调用预设的第三应用服务对所述压测请求进行处理时,通过所述全链路压测组件将包含所述压测标识的压测请求透传至预设的broker服务器中;
具体地,采用不同的异步消息方式调用第三应用服务对所述压测请求进行处理时,将包含压测标识的压测请求透传至broker服务器中的方式不同。
作为示例,当broker服务器为分布式数据同步系统Databus中的服务器时,由于DataBus与Java 客户端不是很兼容,因此,为了解决兼容性问题,本实施例中的全链路压测组件在将压测标识透传至broker服务器中时,可以先通过protobuf插件对所述压测标识进行处理,得到处理后的压测标识,之后再将包含处理后的压测标识的压测请求通过消息的方式透传至预设的broker服务器中。
其中,protobuf插件(Google Protocol Buffers)是Google提供一个具有高效的协议数据交换格式工具库(类似Json),但相比于Json,Protobuf有更高的转化效率,时间效率和空间效率都是JSON的3-5倍,通过protobuf插件可以通过二进制字节的序列化方式对压测标识进行序列化,避免DataBus与Java 客户端不兼容。
作为示例,当broker服务器为RabbitMQ中的服务器时,全链路压测组件在将包含压测标识的压测请求透传至broker服务器中时,可以无需对压测标识进行处理,而是直接将包含压测标识的压测请求通过消息的方式透传至broker服务器中。
作为示例,当采用线程池消息的方式将压测标识透传至broker服务器中,由于在线程池中,一个线程是会被多次复用的,这样每次的上下文环境可能都不会相同,因此,为了解决在将包含压测标识的压测请求透传至broker服务器时,因为上下文环境的不同可能导致压测标识透传出错的问题,本实施例中,全链路压测组件在将包含压测标识的压测请求透传至broker服务器中时,还可以通过对象映射器Dapper对所述压测标识进行包装处理,得到包装后的压测标识,将包含所述包装后的压测标识的压测请求通过线程池的方式透传至预设的broker服务器中。
其中,Dapper是一个简单的.NET对象映射器,在速度方面具有"King of MicroORM"的头衔,几乎与使用原始的ADO.NET数据读取器一样快。ORM是一个对象关系映射器,它负责数据库和编程语言之间的映射。Dapper通过扩展IDbConnection提供一些有用的扩展方法去查询您的数据库。
步骤S51,通过所述第三应用服务监听所述broker服务器中的压测标识;
具体地,所述第三应用服务会通过监听程序实时或者定时监听broker服务器中是否存在压测标识。
步骤S52,在监听到所述压测标识时,通过所述全链路压测组件将所述压测标识注入至所述第三应用服务的当前的第三线程上下文中;
步骤S53,通过所述第三应用服务根据所述第三线程上下文对所述压测请求进行响应得到第三压测数据。
具体地,步骤S52-S53与步骤S32-S33类似,在本实施例中不再赘述。
在一示例性的实施方式中,所述全链路压测方法还包括:
通过所述全链路压测组件拦截所述第一压测数据,并采用影子技术将所述第一压测数据存储至数据库中;及/或
通过所述全链路压测组件拦截所述第二压测数据,并采用影子技术将所述第二压测数据存储至数据库中;及/或
通过所述全链路压测组件拦截所述第三压测数据,并采用影子技术将所述第三压测数据存储至数据库中。
具体地,在使用影子技术将压测数据存储至数据库时,不同类别的数据库,使用影子技术将压测数据存储至数据库的方式不同。需要说明的是,不同的压测数据存储至的数据库可以相同,也可以不同,在本实施例中不作限定。
作为示例,当数据库为关系型数据库,比如MySQL数据库,则可以采用影子表技术将所述压测数据存储至MySQL数据库中预先配置的影子表中。其中,影子表是基于真实表复制出的一套与真实表具有相同结构的表,其与真实表的用途不同,仅用于存储压测数据。在一实施方式中,为了将影子表和真实表加以区分,在配置影子表时,可以在对影子表命名时添加特定的字符前缀或后缀来分区影子表和真实表。
可以理解的是,在使用影子表技术将压测数据存储至关系型数据库时,则需要动态修改将压测数据存储至关系型数据库的sql(Structured Query Language,结构化查询语句)语句,比如,一条sql 语句 insert into user(name) values("zhangsan"),如果这是一条将压测数据存储至数据库的语句,则在通过这条语句将压测数据存储至数据库时,则可以先通过MyBatis提供的ParameterHandler插件拦截这条语句,之后通过MyBatis提供的PreparedStatementHandler插件将这条语句更改成 insert into BILI_SHADOW_user(name) values("zhangsan"),从而使得该压测数据可以存储至影子表中。
本实施例中,通过将压测数据存储至影子表中,从而无需对真实表中存储的数据进行删改,以及可以避免用户可以查看到影子表的数据。
作为示例,当数据库为以键值对形式进行数据存储的非关系型数据库时,比如,Redis数据库,则可以采用影子键(影子key)技术将压测数据存储至Redis数据库中预先配置的影子键中。其中,影子键和影子表类似,是基于真实key复制出的一套与真实key具有相同结构的key,其与真实key的用途不同,仅用于存储压测数据。在一实施方式中,为了将影子key和真实key加以区分,在配置影子key时,也可以在对影子key命名时添加特定的字符前缀或后缀来分区影子表key和真实key。
可以理解的是,在使用影子key技术将压测数据存储至非关系型数据库时,需要通过Spring Data Redis来将压测数据存储至影子key中。在本实施例中,在使用Spring DataRedis来将压测数据存储至影子key中,考虑到 Spring Data Redis 没有很好的集成方式,可以采用AspectJ 的方式做增强。
本申请实施例中,在进行链路压测时,通过全链路压测组件拦截数据请求,并对所述数据请求的请求头进行解析,以根据解析结果判定所述数据请求是否为压测请求;以及在判定所述数据请求为压测请求时,将所述压测请求中的压测标识注入至待压测的第一应用服务的当前的线程上下文中,使得压测标识透传至第一应用服务中。这样第一服务服务在对所述压测请求进行处理得到的压测数据就会具有真实的数据所不具有的压测标识,从而在对该压测数据进行存储时,可以全链路压测组件拦截所述压测数据,并采用影子技术将所述压测数据存储至数据库中,实现压测数据和真实数据的隔离。此外,在所述第一应用服务调用预设的第二应用服务对所述压测请求进行处理时,全链路压测组件还可以采用请求头的方式将所述压测标识透传至所述第二应用服务,这样,第二应用服务在对所述压测请求进行处理得到的压测数据也会具有真实的数据所不具有的压测标识,从而可以在对第二应用服务响应所述压测请求得到的压测数据进行存储时,也可以通过全链路压测组件拦截所述压测数据,并采用影子技术将该压测数据存储至数据库中,实现压测数据和真实数据的隔离。此外,在所述第一应用服务或所述第二应用服务通过异步的方式调用预设的第三应用服务对所述压测请求进行处理时,全链路压测组件,可以将所述压测标识透传至预设的broker服务器中,这样,当第三服务服务在对所述压测请求进行处理得到的压测数据也会具有真实的数据所不具有的压测标识,从而可以在对第三应用服务响应所述压测请求得到的压测数据进行存储时,也可以通过全链路压测组件拦截所述压测数据,并采用影子技术将该压测数据存储至数据库中,实现压测数据和真实数据的隔离。此外,本实施例中,在应用服务之间实现调用时,通过将压测标识进行透传,从而保证了链路的完整性。
参阅图6所示,是本申请全链路压测装置60一实施例的程序模块图。
本实施例中,所述全链路压测装置60包括一系列的存储于存储器上的计算机程序指令,当该计算机程序指令被处理器执行时,可以实现本申请各实施例的基于区块链的交易数据加密功能。在一些实施例中,基于该计算机程序指令各部分所实现的特定的操作,全链路压测装置60可以被划分为一个或多个模块。例如,在图6中,所述全链路压测装置60可以被分割成产生模块61、判定模块62、注入模块63、响应模块64。其中:
产生模块61,用于通过发压平台产生数据请求。
判定模块62,用于通过全链路压测组件拦截数据请求,并对所述数据请求的请求头进行解析,以根据解析结果判定所述数据请求是否为压测请求。
注入模块63,用于在判定所述数据请求为压测请求时,通过所述全链路压测组件将所述压测请求中的压测标识注入至待压测的第一应用服务的当前的第一线程上下文中。
响应模块64,用于通过所述第一应用服务根据所述第一线程上下文对所述压测请求进行响应得到第一压测数据。
在一示例性的实施方式中,全链路压测装置60还包括透传模块。
所述透传模块,用于在所述第一应用服务调用预设的第二应用服务对所述压测请求进行处理时,通过所述全链路压测组件采用请求头的方式将包含所述压测标识的压测请求透传至所述第二应用服务。
注入模块63,还用于通过所述全链路压测组件将所述压测标识注入至所述第二应用服务的当前的第二线程上下文中。
响应模块,还用于通过所述第二应用服务根据所述第二线程上下文对所述压测请求进行响应得到第二压测数据。
在一示例性的实施方式中,全链路压测装置60还包括监听模块。
所述透传模块,还用于在所述第一应用服务或所述第二应用服务通过异步消息的方式调用预设的第三应用服务对所述压测请求进行处理时,通过所述全链路压测组件将包含所述压测标识的压测请求透传至预设的broker服务器中。
所述监听模块,还用于通过所述第三应用服务监听所述broker服务器中的压测标识。
注入模块63,还用于在监听到所述压测标识时,通过所述全链路压测组件将所述压测标识注入至所述第三应用服务的当前的第三线程上下文中;
响应模块64,还用于通过所述第三应用服务根据所述第三线程上下文对所述压测请求进行响应得到第三压测数据。
在一示例性的实施方式中,全链路压测装置60还包括存储模块。
所述存储模块,用于通过所述全链路压测组件拦截所述第一压测数据,并采用影子技术将所述第一压测数据存储至数据库中;及/或通过所述全链路压测组件拦截所述第二压测数据,并采用影子技术将所述第二压测数据存储至数据库中;及/或通过所述全链路压测组件拦截所述第三压测数据,并采用影子技术将所述第三压测数据存储至数据库中。
本申请实施例中,本申请实施例中,在进行链路压测时,通过全链路压测组件拦截数据请求,并对所述数据请求的请求头进行解析,以根据解析结果判定所述数据请求是否为压测请求;以及在判定所述数据请求为压测请求时,将所述压测请求中的压测标识注入至待压测的第一应用服务的当前的线程上下文中,使得压测标识透传至第一应用服务中。这样第一服务服务在对所述压测请求进行处理得到的压测数据就会具有真实的数据所不具有的压测标识,从而在对该压测数据进行存储时,可以全链路压测组件拦截所述压测数据,并采用影子技术将所述压测数据存储至数据库中,实现压测数据和真实数据的隔离。此外,在所述第一应用服务调用预设的第二应用服务对所述压测请求进行处理时,全链路压测组件还可以采用请求头的方式将所述压测标识透传至所述第二应用服务,这样,第二应用服务在对所述压测请求进行处理得到的压测数据也会具有真实的数据所不具有的压测标识,从而可以在对第二应用服务响应所述压测请求得到的压测数据进行存储时,也可以通过全链路压测组件拦截所述压测数据,并采用影子技术将该压测数据存储至数据库中,实现压测数据和真实数据的隔离。此外,在所述第一应用服务或所述第二应用服务通过异步的方式调用预设的第三应用服务对所述压测请求进行处理时,全链路压测组件,可以将所述压测标识透传至预设的broker服务器中,这样,当第三服务服务在对所述压测请求进行处理得到的压测数据也会具有真实的数据所不具有的压测标识,从而可以在对第三应用服务响应所述压测请求得到的压测数据进行存储时,也可以通过全链路压测组件拦截所述压测数据,并采用影子技术将该压测数据存储至数据库中,实现压测数据和真实数据的隔离。此外,本实施例中,在应用服务之间实现调用时,通过将压测标识进行透传,从而保证了链路的完整性。
图7示意性示出了根据本申请实施例的适于实现全链路压测方法的计算机设备7的硬件架构示意图。本实施例中,计算机设备7是一种能够按照事先设定或者存储的指令,自动进行数值计算和/或信息处理的设备。例如,可以是平板电脑、笔记本电脑、台式计算机、机架式服务器、刀片式服务器、塔式服务器或机柜式服务器(包括独立的服务器,或者多个服务器所组成的服务器集群)等。如图7所示,计算机设备7至少包括但不限于:可通过系统总线相互通信链接存储器120、处理器121、网络接口123。其中:
存储器120至少包括一种类型的计算机可读存储介质,可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如,SD或DX存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等。在一些实施例中,存储器120可以是计算机设备7的内部存储模块,例如该计算机设备7的硬盘或内存。在另一些实施例中,存储器120也可以是计算机设备7的外部存储设备,例如该计算机设备7上配备的插接式硬盘,智能存储卡(SmartMedia Card,简称为SMC),安全数字(Secure Digital,简称为SD)卡,闪存卡(Flash Card)等。当然,存储器120还可以既包括计算机设备7的内部存储模块也包括其外部存储设备。本实施例中,存储器120通常用于存储安装于计算机设备7的操作系统和各类应用软件,例如全链路压测方法的程序代码等。此外,存储器120还可以用于暂时地存储已经输出或者将要输出的各类数据。
处理器121在一些实施例中可以是中央处理器(Central Processing Unit,简称为CPU)、控制器、微控制器、微处理器、或其它数据处理芯片。该处理器121通常用于控制计算机设备7的总体操作,例如执行与计算机设备7进行数据交互或者通信相关的控制和处理等。本实施例中,处理器121用于运行存储器120中存储的程序代码或者处理数据。
网络接口123可包括无线网络接口或有线网络接口,该网络接口123通常用于在计算机设备7与其它计算机设备之间建立通信链接。例如,网络接口123用于通过网络将计算机设备7与外部终端相连,在计算机设备7与外部终端之间的建立数据传输通道和通信链接等。网络可以是企业内部网(Intranet)、互联网(Internet)、全球移动通讯系统(GlobalSystem of Mobile communication,简称为GSM)、宽带码分多址(Wideband Code DivisionMultiple Access,简称为WCDMA)、4G网络、5G网络、蓝牙(Bluetooth)、Wi-Fi等无线或有线网络。
需要指出的是,图7仅示出了具有部件120~122的计算机设备,但是应理解的是,并不要求实施所有示出的部件,可以替代的实施更多或者更少的部件。
在本实施例中,存储于存储器120中的全链路压测方法可以被分割为一个或者多个程序模块,并由一个或多个处理器(本实施例为处理器121)所执行,以完成本申请。
本申请实施例提供了一种计算机可读存储介质,计算机可读存储介质其上存储有计算机程序,计算机程序被处理器执行时实现实施例中的全链路压测方法的步骤。
本实施例中,计算机可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如,SD或DX存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等。在一些实施例中,计算机可读存储介质可以是计算机设备的内部存储单元,例如该计算机设备的硬盘或内存。在另一些实施例中,计算机可读存储介质也可以是计算机设备的外部存储设备,例如该计算机设备上配备的插接式硬盘,智能存储卡(Smart Media Card,简称为SMC),安全数字(Secure Digital,简称为SD)卡,闪存卡(Flash Card)等。当然,计算机可读存储介质还可以既包括计算机设备的内部存储单元也包括其外部存储设备。本实施例中,计算机可读存储介质通常用于存储安装于计算机设备的操作系统和各类应用软件,例如实施例中的全链路压测方法的程序代码等。此外,计算机可读存储介质还可以用于暂时地存储已经输出或者将要输出的各类数据。
以上所描述的装置实施例仅仅是示意性的,其中作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到至少两个网络单元上。可以根据实际的需要筛选出其中的部分或者全部模块来实现本申请实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下,即可以理解并实施。
通过以上的实施方式的描述,本领域普通技术人员可以清楚地了解到各实施方式可借助软件加通用硬件平台的方式来实现,当然也可以通过硬件。本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程是可以通过计算机程序来指令相关的硬件来完成,所述的程序可存储于一计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,所述的存储介质可为磁碟、光盘、只读存储记忆体(Read-OnlyMemory,ROM)或随机存储记忆体(RandomAccessMemory,RAM)等。
最后应说明的是:以上各实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述各实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分或者全部技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的范围。
Claims (12)
1.一种全链路压测组件,其特征在于,包括:
接收请求处理组件,用于拦截数据请求,并对所述数据请求的请求头进行解析,以根据解析结果判定所述数据请求是否为压测请求;
压测请求响应组件,还用于在判定所述数据请求为压测请求时,对所述压测请求进行响应得到压测数据;
数据存储组件,用于拦截所述压测数据,并采用影子技术将所述压测数据存储至数据库中;
所述压测请求响应组件,还用于采用异步消息的方式将包含压测标识的压测请求透传至预设的broker服务器中,以使第三应用服务从所述broker服务器中监听到所述压测标识时,对所述压测请求进行响应得到压测数据;
其中,所述broker服务器为分布式数据同步系统Databus中的服务器时,所述压测请求响应组件,还用于采用protobuf插件对所述压测标识进行处理,得到处理后的压测标识,将包含处理后的压测标识的压测请求通过消息的方式透传至预设的broker服务器中。
2.根据权利要求1所述的全链路压测组件,其特征在于,在所述数据库为关系型数据库时,所述数据存储组件还用于拦截所述压测数据,并采用影子表技术将所述压测数据存储至所述关系型数据库中预先配置的影子表中;
在所述数据库为以键值对形式进行数据存储的非关系型数据库时,所述数据存储组件还用于拦截所述压测数据,并采用影子键技术将所述压测数据存储至所述非关系型数据库中预先配置的影子键中。
3.根据权利要求2所述的全链路压测组件,其特征在于,所述全链路压测组件还包括分库分表规则读取组件,用于读取预先配置的所述影子表的分库分表规则,并根据读取到的分库分表规则构建所述影子表的分表;
所述数据存储组件,还用于拦截所述压测数据,并采用影子表技术与所述分库分表规则将所述压测数据存储至对应的分表中。
4.根据权利要求2所述的全链路压测组件,其特征在于,所述全链路压测组件还包括:分库分表配置组件,用于将预先配置的分库分表的路由规则添加至预设的配置文件中,其中,所述路由规则用于确定所述压测数据存储的分表;
所述数据存储组件,还用于拦截所述压测数据,并采用影子表技术与所述路由规则将所述压测数据存储至对应的分表中。
5.根据权利要求1所述的全链路压测组件,其特征在于,所述压测请求响应组件,还用于将所述压测请求中的压测标识注入至待压测的第一应用服务的当前的线程上下文中,以使所述第一应用服务根据所述线程上下文对所述压测请求进行响应得到压测数据。
6.根据权利要求1所述的全链路压测组件,其特征在于,所述压测请求响应组件,还用于采用请求头的方式将包含压测标识的压测请求透传至第二应用服务,以使所述第二应用服务对所述压测请求进行响应得到压测数据。
7.一种全链路压测方法,其特征在于,包括:
通过发压平台产生数据请求;
通过全链路压测组件拦截数据请求,并对所述数据请求的请求头进行解析,以根据解析结果判定所述数据请求是否为压测请求;
在判定所述数据请求为压测请求时,通过所述全链路压测组件将所述压测请求中的压测标识注入至待压测的第一应用服务的当前的第一线程上下文中;
通过所述第一应用服务根据所述第一线程上下文对所述压测请求进行响应得到第一压测数据;
所述全链路压测方法还包括:
在所述第一应用服务或第二应用服务通过异步消息的方式调用预设的第三应用服务对所述压测请求进行处理时,通过所述全链路压测组件将包含所述压测标识的压测请求透传至预设的broker服务器中;
通过所述第三应用服务监听所述broker服务器中的压测标识;
在监听到所述压测标识时,通过所述全链路压测组件将所述压测标识注入至所述第三应用服务的当前的第三线程上下文中;
通过所述第三应用服务根据所述第三线程上下文对所述压测请求进行响应得到第三压测数据;
其中,所述broker服务器为分布式数据同步系统Databus中的服务器时,通过所述全链路压测组件将包含所述压测标识的压测请求透传至预设的broker服务器中包括:
通过所述全链路压测组件采用protobuf插件对所述压测标识进行处理,得到处理后的压测标识,将包含处理后的压测标识的压测请求通过消息的方式透传至预设的broker服务器中。
8.根据权利要求7所述的全链路压测方法,其特征在于,所述全链路压测方法还包括:
在所述第一应用服务调用预设的第二应用服务对所述压测请求进行处理时,通过所述全链路压测组件采用请求头的方式将包含所述压测标识的压测请求透传至所述第二应用服务;
通过所述全链路压测组件将所述压测标识注入至所述第二应用服务的当前的第二线程上下文中;
通过所述第二应用服务根据所述第二线程上下文对所述压测请求进行响应得到第二压测数据。
9.根据权利要求8所述的全链路压测方法,其特征在于,所述全链路压测方法还包括:
通过所述全链路压测组件拦截所述第一压测数据,并采用影子技术将所述第一压测数据存储至数据库中;及/或
通过所述全链路压测组件拦截所述第二压测数据,并采用影子技术将所述第二压测数据存储至数据库中;及/或
通过所述全链路压测组件拦截所述第三压测数据,并采用影子技术将所述第三压测数据存储至数据库中。
10.一种全链路压测装置,其特征在于,包括:
产生模块,用于通过发压平台产生数据请求;
判定模块,用于通过全链路压测组件拦截数据请求,并对所述数据请求的请求头进行解析,以根据解析结果判定所述数据请求是否为压测请求;
注入模块,用于在判定所述数据请求为压测请求时,通过所述全链路压测组件将所述压测请求中的压测标识注入至待压测的第一应用服务的当前的第一线程上下文中;
响应模块,用于通过所述第一应用服务根据所述第一线程上下文对所述压测请求进行响应得到第一压测数据;
透传模块,用于在所述第一应用服务或第二应用服务通过异步消息的方式调用预设的第三应用服务对所述压测请求进行处理时,通过所述全链路压测组件将包含所述压测标识的压测请求透传至预设的broker服务器中;
监听模块,用于通过所述第三应用服务监听所述broker服务器中的压测标识;
注入模块,用于在监听到所述压测标识时,通过所述全链路压测组件将所述压测标识注入至所述第三应用服务的当前的第三线程上下文中;
响应模块,用于通过所述第三应用服务根据所述第三线程上下文对所述压测请求进行响应得到第三压测数据;
其中,所述broker服务器为分布式数据同步系统Databus中的服务器时,透传模块,还用于通过所述全链路压测组件采用protobuf插件对所述压测标识进行处理,得到处理后的压测标识,将包含处理后的压测标识的压测请求通过消息的方式透传至预设的broker服务器中。
11.一种计算机设备,所述计算机设备,包括存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求7至9任一项所述的全链路压测方法的步骤。
12.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求7至9任一项所述的全链路压测方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011491691.1A CN112615759B (zh) | 2020-12-17 | 2020-12-17 | 全链路压测组件、全链路压测方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011491691.1A CN112615759B (zh) | 2020-12-17 | 2020-12-17 | 全链路压测组件、全链路压测方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112615759A CN112615759A (zh) | 2021-04-06 |
CN112615759B true CN112615759B (zh) | 2023-03-31 |
Family
ID=75239917
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011491691.1A Active CN112615759B (zh) | 2020-12-17 | 2020-12-17 | 全链路压测组件、全链路压测方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112615759B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113821415A (zh) * | 2021-11-24 | 2021-12-21 | 飞狐信息技术(天津)有限公司 | 一种程序故障的处理方法及相关装置 |
CN115065612B (zh) * | 2022-06-22 | 2024-03-08 | 上海哔哩哔哩科技有限公司 | 全链路压测改造的测试方法及装置 |
CN116781591B (zh) * | 2023-08-23 | 2024-01-02 | 国网信息通信产业集团有限公司 | 一种基于流量染色和透传技术的压力测试系统、压测终端及存储介质 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105051325A (zh) * | 2012-10-17 | 2015-11-11 | 越洋创新实验室有限公司 | 用于海底处理器的通信系统和方法 |
CN109347842A (zh) * | 2018-10-26 | 2019-02-15 | 深圳点猫科技有限公司 | 一种用于教育系统的数据采集方法及装置 |
CN109491895A (zh) * | 2018-10-26 | 2019-03-19 | 北京车和家信息技术有限公司 | 服务器压力测试方法及装置 |
CN111294250A (zh) * | 2018-12-07 | 2020-06-16 | 北京奇虎科技有限公司 | 压力测试方法、装置和系统 |
CN111538522A (zh) * | 2020-04-29 | 2020-08-14 | 北京思特奇信息技术股份有限公司 | 一种基于zk的消息中间件在线升级方法及系统 |
CN111800354A (zh) * | 2019-04-08 | 2020-10-20 | 中移(苏州)软件技术有限公司 | 消息处理方法及装置、消息处理设备及存储介质 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7707872B2 (en) * | 2006-09-25 | 2010-05-04 | Eaton Corporation | Method for testing a hydraulic manifold |
US20080282062A1 (en) * | 2007-05-07 | 2008-11-13 | Montvelishsky Michael B | Method and apparatus for loading data and instructions into a computer |
JP6414459B2 (ja) * | 2014-12-18 | 2018-10-31 | ヤマハ株式会社 | スピーカアレイ装置 |
EP3613443B1 (de) * | 2016-09-27 | 2021-04-21 | XYLEM Analytics Germany GmbH | Validierungsset zum überprüfen der reinigungsleistung eines reinigungsapparats |
CN109271325B (zh) * | 2018-10-26 | 2022-11-04 | 携程旅游网络技术(上海)有限公司 | 应用的测试方法、系统、电子设备和存储介质 |
CN109871320A (zh) * | 2019-01-21 | 2019-06-11 | 上海德启信息科技有限公司 | 一种数据处理方法、装置、应用服务器及存储介质 |
CN111752770A (zh) * | 2019-03-29 | 2020-10-09 | 上海哔哩哔哩科技有限公司 | 服务请求的处理方法、系统、计算机设备和存储介质 |
CN110532168B (zh) * | 2019-07-05 | 2024-03-29 | 中国平安财产保险股份有限公司 | 全链路接口压测方法、装置、计算机设备及存储介质 |
CN110750584B (zh) * | 2019-09-18 | 2023-05-05 | 苏宁云计算有限公司 | 数据管理方法和系统 |
-
2020
- 2020-12-17 CN CN202011491691.1A patent/CN112615759B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105051325A (zh) * | 2012-10-17 | 2015-11-11 | 越洋创新实验室有限公司 | 用于海底处理器的通信系统和方法 |
CN109347842A (zh) * | 2018-10-26 | 2019-02-15 | 深圳点猫科技有限公司 | 一种用于教育系统的数据采集方法及装置 |
CN109491895A (zh) * | 2018-10-26 | 2019-03-19 | 北京车和家信息技术有限公司 | 服务器压力测试方法及装置 |
CN111294250A (zh) * | 2018-12-07 | 2020-06-16 | 北京奇虎科技有限公司 | 压力测试方法、装置和系统 |
CN111800354A (zh) * | 2019-04-08 | 2020-10-20 | 中移(苏州)软件技术有限公司 | 消息处理方法及装置、消息处理设备及存储介质 |
CN111538522A (zh) * | 2020-04-29 | 2020-08-14 | 北京思特奇信息技术股份有限公司 | 一种基于zk的消息中间件在线升级方法及系统 |
Also Published As
Publication number | Publication date |
---|---|
CN112615759A (zh) | 2021-04-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112615759B (zh) | 全链路压测组件、全链路压测方法及装置 | |
US10467316B2 (en) | Systems and methods for web analytics testing and web development | |
US11200157B1 (en) | Automated execution reporting for container builds | |
EP2437524A1 (en) | M2m service platform and work method thereof | |
US10305962B1 (en) | Unit testing clients of web services | |
CN108572986B (zh) | 一种数据更新的方法及节点设备 | |
US11436066B2 (en) | System for offline object based storage and mocking of rest responses | |
CN110069297A (zh) | 基于Spring MVC的异常处理方法、装置、计算机设备和存储介质 | |
CN109597618B (zh) | 程序开发方法、装置、计算机设备及存储介质 | |
CN108959385A (zh) | 数据库部署方法、装置、计算机设备和存储介质 | |
WO2019085290A1 (zh) | 测试前置实现方法、装置、终端设备及存储介质 | |
CN106843901B (zh) | 一种页面渲染和验证的方法和装置 | |
CN112732572A (zh) | 服务的测试方法、装置及系统、存储介质、电子装置 | |
CN107995153A (zh) | 表单数据验证方法及表单数据验证装置 | |
CN115543479A (zh) | 一种适用于动态参数的接口调用解析方法及装置 | |
CN112988409B (zh) | 一种接口调用方法、装置、计算机设备及存储介质 | |
CN114531477A (zh) | 功能组件的配置方法、装置、计算机设备和存储介质 | |
CN108021564A (zh) | 一种页面重定向的方法和设备 | |
CN113641581B (zh) | 混合模式移动应用调试方法及系统 | |
CN113077260A (zh) | 基于区块链的数据访问方法、装置及电子设备 | |
CN112699034A (zh) | 虚拟登录用户构建方法、装置、设备及存储介质 | |
CN112181822A (zh) | 一种测试方法和应用程序的启动耗时测试方法 | |
CN111552643A (zh) | 多浏览器网页访问同步方法、系统 | |
CN116208676A (zh) | 数据回源方法、装置、计算机设备、存储介质和程序产品 | |
CN110531984A (zh) | 代码编译方法、装置、系统、计算机设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |