CN116800687A - 客户端流量处理方法、装置、设备、存储介质和程序产品 - Google Patents
客户端流量处理方法、装置、设备、存储介质和程序产品 Download PDFInfo
- Publication number
- CN116800687A CN116800687A CN202310777298.6A CN202310777298A CN116800687A CN 116800687 A CN116800687 A CN 116800687A CN 202310777298 A CN202310777298 A CN 202310777298A CN 116800687 A CN116800687 A CN 116800687A
- Authority
- CN
- China
- Prior art keywords
- client
- flow
- sending
- server
- request
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims description 20
- 238000000034 method Methods 0.000 claims abstract description 42
- 238000005111 flow chemistry technique Methods 0.000 claims abstract description 15
- 230000015654 memory Effects 0.000 claims description 23
- 238000004590 computer program Methods 0.000 claims description 19
- 230000005540 biological transmission Effects 0.000 claims description 5
- 238000004458 analytical method Methods 0.000 claims description 4
- 238000010586 diagram Methods 0.000 description 12
- 238000012545 processing Methods 0.000 description 12
- 238000004891 communication Methods 0.000 description 8
- 238000005516 engineering process Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 6
- 230000004044 response Effects 0.000 description 4
- 238000013515 script Methods 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 230000014509 gene expression Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000002146 bilateral effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000013480 data collection Methods 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000004806 packaging method and process Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000000758 substrate Substances 0.000 description 1
- 238000013024 troubleshooting Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- 238000012800 visualization Methods 0.000 description 1
- 239000002699 waste material Substances 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
- H04L47/24—Traffic characterised by specific attributes, e.g. priority or QoS
- H04L47/2441—Traffic characterised by specific attributes, e.g. priority or QoS relying on flow classification, e.g. using integrated services [IntServ]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1097—Protocols in which an application is distributed across nodes in the network for distributed storage of data in networks, e.g. transport arrangements for network file system [NFS], storage area networks [SAN] or network attached storage [NAS]
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Information Transfer Between Computers (AREA)
Abstract
本公开提供了一种客户端流量处理方法,涉及云计算技术领域,可以应用于金融技术领域。所述方法包括:响应于用户发起的请求操作,获取请求报文中的请求头信息;解析所述请求头信息以生成流量记录;将所述流量记录进行分类处理,以生成目标流量数据;以及按照预设规则将所述目标流量数据发送至服务端。本公开还提供了一种客户端流量统计装置、设备、存储介质和程序产品。
Description
技术领域
本公开涉及云计算技术领域,具体涉及分布式对象存储技术领域,更具体地涉及一种客户端流量处理方法、装置、设备、存储介质和程序产品。
背景技术
在对象存储平台系统中,用户会上传需要存储的数据至对象存储系统平台服务端加以保存。现接入对象存储平台的应用主要使用的是JAVA客户端。
相关技术中,对于统计特定JAVA客户端的流量记录的方法主要通过人工的方式从多台服务器上获取流量日志,并通过脚本对流量日志进行解析,这种方式效率低下,增加开发人员的负担。
需要说明的是,在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解,因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。
发明内容
鉴于上述问题,本公开提供了一种提高流量数据处理效率的客户端流量处理方法、装置、设备、存储介质和程序产品。
根据本公开的第一个方面,提供了一种客户端流量处理方法,应用于客户端,所述客户端接入分布式对象存储系统,所述分布式对象存储系统包括服务端和多个客户端,所述方法包括:
响应于用户发起的请求操作,获取请求报文中的请求头信息;
解析所述请求头信息以生成流量记录;
将所述流量记录进行分类处理,以生成目标流量数据;以及
按照预设规则将所述目标流量数据发送至服务端。
根据本公开的实施例,所述按照预设规则将所述目标流量数据发送至服务端包括:
根据所述流量记录的数量将所述目标流量数据发送至服务端;和/或
根据发送时间间隔将所述目标流量数据发送至服务端。
根据本公开的实施例,所述根据所述流量记录的数量将所述目标流量数据发送至服务端包括:
若确定所述流量记录的数量大于第一预设阈值,则将所述目标流量数据发送至服务端。
根据本公开的实施例,所述根据发送时间间隔将所述目标流量数据发送至服务端包括:
若所述发送时间间隔大于第二预设阈值且至少存在一条流量记录,将所述目标流量数据发送至服务端。
根据本公开的实施例,每一请求操作对应一条流量记录,所述流量记录包括客户端版本信息、请求类型、用户标识和上传文件大小。
根据本公开的实施例,所述将所述流量记录进行分类处理,以生成目标流量数据包括:
为所述流量记录添加时间戳;
根据所述请求类型和所述用户标识对所述流量记录进行分类;以及
将分类后的流量记录存储在内存中。
本公开的第二方面提供了一种客户端流量处理装置,应用于客户端,所述客户端接入分布式对象存储系统,所述分布式对象存储系统包括服务端和多个客户端,所述装置包括:
获取模块,用于响应于用户发起的请求操作,获取请求报文中的请求头信息;
解析模块,用于解析所述请求头信息以生成流量记录;
生成模块,用于将所述流量记录进行分类处理,以生成目标流量数据;以及
发送模块,用于按照预设规则将所述目标流量数据发送至服务端。
根据本公开的实施例,所述发送模块包括:第一发送子模块和第二发送子模块。
第一发送子模块,用于根据所述流量记录的数量将所述目标流量数据发送至服务端;和/或
第二发送子模块,用于根据发送时间间隔将所述目标流量数据发送至服务端。
根据本公开的实施例,所述第一发送子模块包括第一发送单元。
第一发送单元,用于若确定所述流量记录的数量大于第一预设阈值,则将所述目标流量数据发送至服务端。
根据本公开的实施例,所述第二发送子模块包括第二发送单元。
第二发送单元,用于若所述发送时间间隔大于第二预设阈值且至少存在一条流量记录,将所述目标流量数据发送至服务端。
根据本公开的实施例,所述生成模块包括:时间戳添加子模块、分类子模块和存储子模块。
时间戳添加子模块,用于为所述流量记录添加时间戳;
分类子模块,用于根据请求类型对所述流量记录进行分类;以及
存储子模块,用于将分类后的流量记录存储在内存中。
本公开的第三方面提供了一种电子设备,包括:一个或多个处理器;存储器,用于存储一个或多个程序,其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得一个或多个处理器执行上述客户端流量处理方法。
本公开的第四方面还提供了一种计算机可读存储介质,其上存储有可执行指令,该指令被处理器执行时使处理器执行上述客户端流量处理方法。
本公开的第五方面还提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现上述客户端流量处理方法。
通过本公开的实施例提供的一种客户端流量处理方法,当用户使用客户端向服务端发起请求时,响应于用户发起的请求操作,获取请求中的请求头信息,通过对请求头信息进行解析确定流量记录,并对流量记录进行分类处理,按照预设规则将流量记录发送至服务端。相较于相关技术,本公开实施例提供的客户端流量处理方法,通过统计客户端用户发送的请求来统计客户端流量记录,无需对原有组件及客户端代码进行修改,无需分析流量日志,提高流量记录的统计效率。
附图说明
通过以下参照附图对本公开实施例的描述,本公开的上述内容以及其他目的、特征和优点将更为清楚,在附图中:
图1示意性示出了根据本公开实施例的客户端流量处理装置的架构图;
图2示意性示出了根据本公开实施例的客户端流量处理方法、装置、设备、存储介质和程序产品的应用场景图;
图3示意性示出了根据本公开一实施例提供的一种客户端流量处理方法的流程图;
图4示意性示出了根据本公开另一实施例提供的一种客户端流量处理方法的流程图;
图5示意性示出了根据本公开另一实施例提供的对流量记录进行分类的方法的流程图;
图6示意性示出了根据本公开实施例的一种客户端流量处理装置的结构框图;以及
图7示意性示出了根据本公开实施例的适于实现客户端流量处理方法的电子设备的方框图。
具体实施方式
以下,将参照附图来描述本公开的实施例。但是应该理解,这些描述只是示例性的,而并非要限制本公开的范围。在下面的详细描述中,为便于解释,阐述了许多具体的细节以提供对本公开实施例的全面理解。然而,明显地,一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外,在以下说明中,省略了对公知结构和技术的描述,以避免不必要地混淆本公开的概念。
在此使用的术语仅仅是为了描述具体实施例,而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在,但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义,除非另外定义。应注意,这里使用的术语应解释为具有与本说明书的上下文相一致的含义,而不应以理想化或过于刻板的方式来解释。
在使用类似于“A、B和C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。
首先对本公开实施例出现的术语进行解释:
对象存储:也称为基于对象的存储,是目前互联网中常用的存储技术。每个对象都位于被称之为存储池的扁平的空间的相同层级,而不是作为文件夹中的文件或是服务器上的块来进行保存。每个对象包含唯一的标识符和描述数据的元数据。用户能通过唯一标识符来访问对象。对象存储的容量和规模可以轻松地进行扩展,并且其敏捷性和扁平化特性使对象存储可以支持海量文件及非结构化数据的存储。
在对象存储平台系统中,用户会上传需要存储的数据至对象存储系统平台服务端加以保存。对象存储平台有三种接入方式,分别是JAVA客户端、RESTful接口和HTTP。现接入对象存储平台的应用主要使用的是JAVA客户端。对于JAVA用户,现已封装了JAVA客户端可供使用。现阶段对于统计特定JAVA客户端的流量记录的方法主要通过手动从各个服务器收集日志,并通过脚本获取特定时间范围内的流量情况。
以人工对获取日志及通过脚本的方式获取客户端流量的情况的缺点也比较明显。其一,随着市场环境的变化及信息技术的革新,各个应用会经常面临业务量增大,业务范围拓展及技术更新迭代等情况,这导致更多的应用接入对象存储平台且存量应用对于存储的需求也会增加。这时通过人工的方式从多台服务器上获取日志并通过脚本解析的方式会增加开发人员不必要的负担且效率低下。其二,通过现有技术监控JAVA客户端流量无法实现数据实时或是准实时展现,且所能监控的应用的数量极其有限。
基于上述技术问题,本公开的实施例提供了一种客户端流量处理方法,所述方法应用于客户端,包括:响应于用户发起的请求操作,获取请求头信息;解析所述请求头信息以确定流量记录;以及按照预设规则将所述流量记录发送至服务端。
图1示意性示出了根据本公开实施例的客户端流量处理装置的架构图。如图1所示,本公开实施例提供的流量统计装置包括:分布式对象存储系统客户端S1、收集组件客户端S2和收集组件服务端S3。其中收集组件客户端S2用于执行本公开实施例提供的客户端流量处理方法,当识别到用户从客户端S1向服务端发起的请求时,获取请求信息中的请求头并解析请求头中的流量记录并存储在内存中,按照预设规则发送至收集组件服务端S3,再由收集组件服务端S3持久化至数据库中,进行后续分析或可视化展示。
图2示意性示出了根据本公开实施例的客户端流量处理方法、装置、设备、存储介质和程序产品的应用场景图。
如图2所示,根据该实施例的应用场景200可以包括流量统计场景。网络204用以在终端设备201、202、203和服务器205之间提供通信链路的介质。网络204可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备201、202、203通过网络204与服务器205交互,以接收或发送消息等。终端设备201、202、203上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
终端设备201、202、203可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器205可以是流量统计服务器,该服务器接收来自客户端收集组件执行本公开实施例提供的客户端流量处理方法收集的流量记录,进行可视化处理。
需要说明的是,本公开实施例所提供的客户端流量处理方法一般可以由服务器205执行。相应地,本公开实施例所提供的流量统计装置一般可以设置于服务器205中。本公开实施例所提供的客户端流量处理方法也可以由不同于服务器205且能够与终端设备201、202、203和/或服务器205通信的服务器或服务器集群执行。相应地,本公开实施例所提供的流量统计装置也可以设置于不同于服务器205且能够与终端设备201、202、203和/或服务器205通信的服务器或服务器集群中。
应该理解,图2中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
需要说明的是,本公开实施例确定的客户端流量处理方法和装置可用于云计算技术领域,也可用于金融技术领域,还可用于除金融领域之外的任意领域,本公开实施例确定的客户端流量处理方法和装置的应用领域不做限定。
以下将基于图1描述的系统架构和图2描述的应用场景,通过图3~图5对本公开实施例的客户端流量处理方法进行详细描述。
图3示意性示出了根据本公开一实施例提供的一种客户端流量处理方法的流程图。如图3所示,该实施例的客户端流量处理方法包括操作S210~操作S240,该方法可以由服务器或其他计算设备执行。本公开实施例提供的客户端流量处理方法应用于分布式对象存储系统客户端,该客户端部署有收集组件客户端。
首先对本公开实施例中的分布式对象存储系统进行简要介绍,在传统的分布式文件系统HDFS中,通常将对象作为一个单独文件进行存储,这样造成硬件资源的极大浪费,分布式对象存储系统将多个对象合并成大小固定的大文件存储在HDFS当中,并将对象的元数据,对象在大文件中的偏移等索引信息存储在分布式数据库HBase中。HBase支持实时地超大规模随机访问。在用户在读取对象的时候,先读取HBase中的索引信息,再根据索引信息去相应位置去读取对象并返回给用户。该系统包括读写客户端Client,读写服务协调者Coordinator,读写服务Worker,数据复制者Replicator,以及消息队列Kafka和hadoop集群。其中,读写客户端Client部署在用户侧,用户通过Client发起读写请求;协调者Coordinator用于给Client分配读写服务Worker,将读写请求的负载均衡到每个读写服务进程上。读写服务Worker用于双园区部署,负责响应Client的读写请求。Worker的部署有主备园区之分,客户只能向主园区写数据,可以从双边园区读取数据。数据复制者Replicator:负责双园区的数据同步。
在操作S210,响应于用户发起的请求操作,获取请求报文中的请求头信息。
在操作S220,解析所述请求头信息以生成流量记录。
在操作S230,将所述流量记录进行分类处理,以生成目标流量数据。
在操作S240,按照预设规则将所述目标流量数据发送至服务端。
根据本公开的实施例,每一请求操作对应一条流量记录,所述流量记录包括客户端版本信息、请求类型、用户标识和上传文件大小。
一个示例中,为了大幅度降低或消除人工对流量统计的介入,通过对用户JAVA客户端的流量情况进行收集从而增加事前发现问题的概率和事后排查问题的效率。当用户使用客户端向服务端发送请求时,收集组件客户端捕获发出的请求,将收集到的请求及Header信息进行解析,以生成流量记录。每一请求操作对应一条流量记录,流量记录例如可以包括客户端版本、请求类型、用户、上传文件大小等基本信息。将流量记录信息按照一定的分类规则进行分类处理,进一步生成目标流量数据。相较于其他事后从各个服务器的流量日志中分析流量信息的技术方案,本公开实施例提供的从客户端处理流量数据,无需开发人员从服务器端对繁复的日志进行获取和处理,效率更高。
一个示例中,为了兼顾客户端性能减少客户端计算资源的占用以及收集流量记录的高时效性,将生成的流量记录信息按照预设规则将流量记录发送至收集组件客户端,再由收集组件服务端通过批量更新的方式将数据插入数据库中,方便查询及展现。实现实时展现客户端流量情况,有助于问题的提前发现。
通过本公开的实施例提供的一种客户端流量处理方法,当用户使用客户端向服务端发起请求时,响应于用户发起的请求操作,获取请求中的请求头信息,通过对请求头信息进行解析确定流量记录,并按照预设规则将流量记录发送至服务端。相较于相关技术,本公开实施例提供的客户端流量处理方法,通过统计客户端用户发送的请求来统计客户端流量记录,无需对原有组件及客户端代码进行修改,无需分析流量日志,提高流量记录的统计效率。
图4示意性示出了根据本公开另一实施例提供的一种客户端流量处理方法的流程图。如图4所示,操作S240包括操作S241~操作S242。
在操作S241,根据所述流量记录的数量将所述目标流量数据发送至服务端。
根据本公开的实施例,若确定所述流量记录的数量大于第一预设阈值,则将所述目标流量数据发送至服务端。
在操作S242,根据发送时间间隔将所述目标流量数据发送至服务端。
根据本公开的实施例,若所述发送时间间隔大于第二预设阈值且至少存在一条流量记录,将所述目标流量数据发送至服务端。
一个示例中,为兼顾客户端性能及收集数据的高时效性,预设规则包括:当内存中的流量记录的数量大于第一预设阈值时,例如第一预设阈值可以是100条,则将这些流量记录发送者收集组件的服务端。当距离上次将数据发往收集组件服务端超第二预设阈值时,例如可以是30秒,且内存中至少存在一条流量记录,则将这些流量记录发送者收集组件的服务端。如果发送失败,则仍将未发出的收集信息存储于内存中,内存中最多保留5000条记录,当累积的记录超出5000条时按照FIFO的原则删除记录确保。
图5示意性示出了根据本公开另一实施例提供的对流量记录进行分类的方法的流程图。如图5所示,操作S230包括操作S231~操作S233。
在操作S231,为所述流量记录添加时间戳。
在操作S232,根据所述请求类型和所述用户标识对所述流量记录进行分类。
在操作S233,将分类后的流量记录存储在内存中。
一个示例中,对请求头信息进行解析获取流量记录,流量记录包括客户端版本信息、请求类型、用户标识和上传文件大小等基本信息,并添加时间戳。其中请求类型包括上传、下载、删除等操作请求,为了便于统计,根据请求类型将流量记录进行分类,并存储至内存中,按照上述预设规则对内存中的流量记录进行发送。收集组件服务端在接收各个收集组件客户端发送的客户端流量记录之后,将客户端流量记录暂存于内存中,并定时通过批量更新的方式将数据插入数据库中,方便查询及展现。在展现方面,通过Grafana等将数据库中的客户端流量记录通过图表等形式以报表形式进行实时展现。
基于上述客户端流量处理方法,本公开还提供了一种客户端流量处理装置。以下将结合图6对该装置进行详细描述。
图6示意性示出了根据本公开实施例的一种客户端流量处理装置的结构框图。如图6所示,该实施例的流量统计装置600包括获取模块610、解析模块620、生成模块630和发送模块640。
获取模块610用于响应于用户发起的请求操作,获取请求报文中的请求头信息。在一实施例中,获取模块610可以用于执行前文描述的操作S210,在此不再赘述。
解析模块620用于解析所述请求头信息以生成流量记录。在一实施例中,解析模块620可以用于执行前文描述的操作S220,在此不再赘述。
生成模块630用于将所述流量记录进行分类处理,以生成目标流量数据。在一实施例中,生成模块630可以用于执行前文描述的操作S230,在此不再赘述。
发送模块640用于按照预设规则将所述目标流量数据发送至服务端。在一实施例中,发送模块640可以用于执行前文描述的操作S230,在此不再赘述。
根据本公开的实施例,所述发送模块630包括:第一发送子模块和第二发送子模块。
第一发送子模块,用于根据所述流量记录的数量将所述目标流量数据发送至服务端。在一实施例中,第一发送子模块可以用于执行前文描述的操作S231,在此不再赘述。
第二发送子模块,用于根据发送时间间隔将所述目标流量数据发送至服务端。在一实施例中,第二发送模块可以用于执行前文描述的操作S232,在此不再赘述。
根据本公开的实施例,所述第一发送子模块包括第一发送单元。
第一发送单元,用于若确定所述流量记录的数量大于第一预设阈值,则将所述目标流量数据发送至服务端。在一实施例中,第一发送单元可以用于执行前文描述的操作S231,在此不再赘述。
根据本公开的实施例,所述第二发送子模块包括第二发送单元。
第二发送单元,用于若所述发送时间间隔大于第二预设阈值且至少存在一条流量记录,将所述目标流量数据发送至服务端。在一实施例中,第二发送单元可以用于执行前文描述的操作S232,在此不再赘述。
根据本公开的实施例,所述生成模块包括:时间戳添加子模块、分类子模块和存储子模块。
时间戳添加子模块,用于为所述流量记录添加时间戳。在一实施例中,时间戳添加子模块可以用于执行前文描述的操作S231,在此不再赘述。
分类子模块,用于根据请求类型对所述流量记录进行分类。在一实施例中,分类子模块可以用于执行前文描述的操作S232,在此不再赘述。
存储子模块,用于将分类后的流量记录存储在内存中。在一实施例中,存储模块可以用于执行前文描述的操作S233,在此不再赘述。
根据本公开的实施例,获取模块610、解析模块620、生成模块630和发送模块640中的任意多个模块可以合并在一个模块中实现,或者其中的任意一个模块可以被拆分成多个模块。或者,这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合,并在一个模块中实现。根据本公开的实施例,获取模块610、解析模块620、生成模块630和发送模块640中的至少一个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,获取模块610、解析模块620、生成模块630和发送模块640中的至少一个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
图7示意性示出了根据本公开实施例的适于实现客户端流量处理方法的电子设备的方框图。
如图7所示,根据本公开实施例的电子设备900包括处理器901,其可以根据存储在只读存储器(ROM)902中的程序或者从存储部分908加载到随机访问存储器(RAM)903中的程序而执行各种适当的动作和处理。处理器901例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如,专用集成电路(ASIC))等等。处理器901还可以包括用于缓存用途的板载存储器。处理器901可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。
在RAM 903中,存储有电子设备900操作所需的各种程序和数据。处理器901、ROM902以及RAM 903通过总线904彼此相连。处理器901通过执行ROM 902和/或RAM 903中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意,所述程序也可以存储在除ROM 902和RAM 903以外的一个或多个存储器中。处理器901也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。
根据本公开的实施例,电子设备900还可以包括输入/输出(I/O)接口905,输入/输出(I/O)接口905也连接至总线904。电子设备900还可以包括连接至I/O接口905的以下部件中的一项或多项:包括键盘、鼠标等的输入部分906;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分907;包括硬盘等的存储部分908;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分909。通信部分909经由诸如因特网的网络执行通信处理。驱动器910也根据需要连接至I/O接口905。可拆卸介质911,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器910上,以便于从其上读出的计算机程序根据需要被安装入存储部分908。
本公开还提供了一种计算机可读存储介质,该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的;也可以是单独存在,而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序,当上述一个或者多个程序被执行时,实现根据本公开实施例的客户端流量处理方法。
根据本公开的实施例,计算机可读存储介质可以是非易失性的计算机可读存储介质,例如可以包括但不限于:便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。例如,根据本公开的实施例,计算机可读存储介质可以包括上文描述的ROM 902和/或RAM 903和/或ROM 902和RAM 903以外的一个或多个存储器。
本公开的实施例还包括一种计算机程序产品,其包括计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。当计算机程序产品在计算机系统中运行时,该程序代码用于使计算机系统实现本公开实施例所提供的客户端流量处理方法。
在该计算机程序被处理器901执行时执行本公开实施例的系统/装置中限定的上述功能。根据本公开的实施例,上文描述的系统、装置、模块、单元等可以通过计算机程序模块来实现。
在一种实施例中,该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中,该计算机程序也可以在网络介质上以信号的形式进行传输、分发,并通过通信部分909被下载和安装,和/或从可拆卸介质911被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输,包括但不限于:无线、有线等等,或者上述的任意合适的组合。
在这样的实施例中,该计算机程序可以通过通信部分909从网络上被下载和安装,和/或从可拆卸介质911被安装。在该计算机程序被处理器901执行时,执行本公开实施例的系统中限定的上述功能。根据本公开的实施例,上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。
根据本公开的实施例,可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例提供的计算机程序的程序代码,具体地,可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如Java,C++,python,“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
本领域技术人员可以理解,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合或/或结合,即使这样的组合或结合没有明确记载于本公开中。特别地,在不脱离本公开精神和教导的情况下,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。
以上对本公开的实施例进行了描述。但是,这些实施例仅仅是为了说明的目的,而并非为了限制本公开的范围。尽管在以上分别描述了各实施例,但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围,本领域技术人员可以做出多种替代和修改,这些替代和修改都应落在本公开的范围之内。
Claims (10)
1.一种客户端流量处理方法,其特征在于,应用于客户端,所述客户端接入分布式对象存储系统,所述分布式对象存储系统包括服务端和多个客户端,所述方法包括:
响应于用户发起的请求操作,获取请求报文中的请求头信息;
解析所述请求头信息以生成流量记录;
将所述流量记录进行分类处理,以生成目标流量数据;以及
按照预设规则将所述目标流量数据发送至服务端。
2.根据权利要求1所述的方法,其特征在于,所述按照预设规则将所述目标流量数据发送至服务端包括:
根据所述流量记录的数量将所述目标流量数据发送至服务端;和/或
根据发送时间间隔将所述目标流量数据发送至服务端。
3.根据权利要求2所述的方法,其特征在于,所述根据所述流量记录的数量将所述目标流量数据发送至服务端包括:
若确定所述流量记录的数量大于第一预设阈值,则将所述目标流量数据发送至服务端。
4.根据权利要求2所述的方法,其特征在于,所述根据发送时间间隔将所述目标流量数据发送至服务端包括:
若所述发送时间间隔大于第二预设阈值且至少存在一条流量记录,将所述目标流量数据发送至服务端。
5.根据权利要求1至4中任一项所述的方法,其特征在于,每一请求操作对应一条流量记录,所述流量记录包括客户端版本信息、请求类型、用户标识和上传文件大小。
6.根据权利要求5所述的方法,其特征在于,所述将所述流量记录进行分类处理,以生成目标流量数据包括:
为所述流量记录添加时间戳;
根据所述请求类型和所述用户标识对所述流量记录进行分类;以及
将分类后的流量记录存储在内存中。
7.一种客户端流量处理装置,其特征在于,应用于客户端,所述客户端接入分布式对象存储系统,所述分布式对象存储系统包括服务端和多个客户端,所述装置包括:
获取模块,用于响应于用户发起的请求操作,获取请求报文中的请求头信息;
解析模块,用于解析所述请求头信息以生成流量记录;
生成模块,用于将所述流量记录进行分类处理,以生成目标流量数据;以及
发送模块,用于按照预设规则将所述目标流量数据发送至服务端。
8.一种电子设备,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器执行根据权利要求1~6中任一项所述的客户端流量处理方法。
9.一种计算机可读存储介质,其上存储有可执行指令,该指令被处理器执行时使处理器执行根据权利要求1~6中任一项所述的客户端流量处理方法。
10.一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现根据权利要求1~6中任一项所述的客户端流量处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310777298.6A CN116800687A (zh) | 2023-06-28 | 2023-06-28 | 客户端流量处理方法、装置、设备、存储介质和程序产品 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310777298.6A CN116800687A (zh) | 2023-06-28 | 2023-06-28 | 客户端流量处理方法、装置、设备、存储介质和程序产品 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116800687A true CN116800687A (zh) | 2023-09-22 |
Family
ID=88036097
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310777298.6A Pending CN116800687A (zh) | 2023-06-28 | 2023-06-28 | 客户端流量处理方法、装置、设备、存储介质和程序产品 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116800687A (zh) |
-
2023
- 2023-06-28 CN CN202310777298.6A patent/CN116800687A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10560465B2 (en) | Real time anomaly detection for data streams | |
US10447772B2 (en) | Managed function execution for processing data streams in real time | |
US11392416B2 (en) | Automated reconfiguration of real time data stream processing | |
CN110147398B (zh) | 一种数据处理方法、装置、介质和电子设备 | |
CN110262807B (zh) | 集群创建进度日志采集系统、方法和装置 | |
CN113987074A (zh) | 分布式服务全链路监控方法、装置、电子设备及存储介质 | |
CN109033404B (zh) | 日志数据处理方法、装置和系统 | |
JP2021103506A (ja) | 情報を生成するための方法及び装置 | |
EP3937022B1 (en) | Method and apparatus of monitoring interface performance of distributed application, device and storage medium | |
CN108804445B (zh) | 热力图生成方法和装置 | |
CN111352903A (zh) | 日志管理平台、日志管理方法、介质以及电子设备 | |
US20190163828A1 (en) | Method and apparatus for outputting information | |
CN107408113B (zh) | 用于分析预生成数据报告的分析引擎及方法 | |
US20120284390A1 (en) | Guaranteed response pattern | |
CN111427899A (zh) | 存储文件的方法、装置、设备和计算机可读介质 | |
CN112732663A (zh) | 一种日志信息处理方法及装置 | |
CN113343133B (zh) | 显示页面生成方法、相关装置及计算机程序产品 | |
CN115809119A (zh) | 容器编排引擎的监控方法、系统及装置 | |
CN115952050A (zh) | 机构服务埋点数据的上报方法和装置 | |
CN116800687A (zh) | 客户端流量处理方法、装置、设备、存储介质和程序产品 | |
CN113761433A (zh) | 业务处理方法和装置 | |
CN114201493B (zh) | 数据接入方法、装置、设备以及存储介质 | |
US11842077B2 (en) | Method, device, and computer program product for transmitting data for object storage | |
CN117149570A (zh) | 数据处理方法、装置、设备及存储介质 | |
CN115220794A (zh) | 数据处理方法、装置、电子设备和介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |