CN114579405A - 数据处理方法、数据处理装置、电子设备和存储介质 - Google Patents
数据处理方法、数据处理装置、电子设备和存储介质 Download PDFInfo
- Publication number
- CN114579405A CN114579405A CN202210214108.5A CN202210214108A CN114579405A CN 114579405 A CN114579405 A CN 114579405A CN 202210214108 A CN202210214108 A CN 202210214108A CN 114579405 A CN114579405 A CN 114579405A
- Authority
- CN
- China
- Prior art keywords
- target
- data
- annotation
- preset
- meta
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3089—Monitoring arrangements determined by the means or processing involved in sensing the monitored data, e.g. interfaces, connectors, sensors, probes, agents
- G06F11/3093—Configuration details thereof, e.g. installation, enabling, spatial arrangement of the probes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/34—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
- G06F11/3438—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment monitoring of user actions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F8/00—Arrangements for software engineering
- G06F8/30—Creation or generation of source code
- G06F8/31—Programming languages or programming paradigms
- G06F8/316—Aspect-oriented programming techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F8/00—Arrangements for software engineering
- G06F8/70—Software maintenance or management
- G06F8/73—Program documentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/448—Execution paradigms, e.g. implementations of programming paradigms
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Quality & Reliability (AREA)
- Computer Hardware Design (AREA)
- Computing Systems (AREA)
- Library & Information Science (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
本公开提供了一种数据处理方法,包括:获取目标系统运行时调用的目标方法;解析目标方法,以确定目标方法的自定义注解;在自定义注解与预设元注解匹配的情况下,确定目标方法的目标参数;以及根据预设配置信息对目标方法的目标参数进行过滤,得到目标数据。此外,本公开还提供了一种数据处理装置、电子设备和可读存储介质。
Description
技术领域
本公开涉及数据技术领域,更具体地,涉及一种数据处理方法、装置、电子设备、可读存储介质和计算机程序产品。
背景技术
随着信息技术的发展,用户行为数据的统计分析对于企业决策的辅助作用愈发重要。
在实现本公开构思的过程中,发明人发现相关技术中通常采用读取日志文件的方式来获取用户行为数据,这种方式至少存在采集到的数据冗余、不利于统计分析的技术问题。
发明内容
有鉴于此,本公开提供了一种数据处理方法、装置、电子设备、可读存储介质和计算机程序产品。
本公开的一个方面提供了一种数据处理方法,包括:获取目标系统运行时调用的目标方法;解析上述目标方法,以确定上述目标方法的自定义注解;在上述自定义注解与预设元注解匹配的情况下,确定上述目标方法的目标参数;以及根据预设配置信息对上述目标方法的目标参数进行过滤,得到目标数据。
根据本公开的实施例,上述自定义注解包括元注解部分和目标参数定义部分,上述参数定义部分中包括多个目标参数字段;上述方法还包括:确定上述目标方法的自定义注解中的元注解部分与上述预设元注解是否匹配;其中,上述在上述目标方法的自定义注解与预设元注解匹配的情况下,确定上述目标方法的目标参数,包括:在上述目标方法的自定义注解中的元注解部分与上述预设元注解匹配的情况下,根据上述参数定义部分中的多个目标参数字段,从上述目标方法的多个参数中获取上述目标参数。
根据本公开的实施例,上述方法还包括:在上述目标方法的自定义注解中的元注解部分与上述预设元注解不匹配的情况下,释放上述目标方法。
根据本公开的实施例,上述预设配置信息包括预设数据类型;其中,上述根据预设配置信息对上述目标方法的目标参数进行过滤,得到目标数据,包括:对于上述目标方法的每一个目标参数,将上述目标参数的数据类型与上述预设数据类型进行匹配;以及在上述目标参数的数据类型与上述预设数据类型匹配的情况下,确定上述目标数据中包含上述目标参数。
根据本公开的实施例,上述预设元注解中包括声明被修饰的注解的使用范围为方法级别的元注解、声明被修饰的注解的生命周期包括运行阶段的元注解和声明被修饰的注解可被文档提取工具提取到文档中的元注解。
根据本公开的实施例,上述预设配置信息包括预设数据消费方式;上述方法还包括:通过上述目标系统的子线程,将基于上述目标数据生成的消息数据存入消息队列中;以及根据上述预设数据消费方式,对上述消息队列中的消息数据进行消费。
根据本公开的实施例,上述根据上述预设数据消费方式,对上述消息队列中的消息数据进行消费,包括:在上述预设数据消费方式为第一预设消费模式的情况下,将上述消息队列中的消息数据异步存储至预设存储介质中,以便于服务使用方对上述消息数据进行异步消费;在上述预设数据消费方式为第二预设消费模式的情况下,对上述消息队列中的消息数据进行加密,并将加密后的消息数据存储至托管服务器的数据库中,以便于与上述托管服务器关联的托管方对上述消息数据进行异步消费。
本公开的另一个方面提供了一种数据处理装置,包括获取模块、第一处理模块、第二处理模块和过滤模块。其中,获取模块,用于获取目标系统运行时调用的目标方法;第一处理模块,用于确定上述目标方法,以获取上述目标方法的自定义注解;第二处理模块,用于在上述自定义注解与预设元注解匹配的情况下,确定上述目标方法的目标参数;以及过滤模块,用于根据预设配置信息对上述目标方法的目标参数进行过滤,得到目标数据。
本公开的另一方面提供了一种电子设备,包括:一个或多个处理器;存储器,用于存储一个或多个指令,其中,当所述一个或多个指令被所述一个或多个处理器执行时,使得所述一个或多个处理器实现如上所述的方法。
本公开的另一方面提供了一种计算机可读存储介质,存储有计算机可执行指令,所述指令在被执行时用于实现如上所述的方法。
本公开的另一方面提供了一种计算机程序产品,所述计算机程序产品包括计算机可执行指令,所述指令在被执行时用于实现如上所述的方法。
根据本公开的实施例,基于切面编程的思想,在目标系统运行捕获目标系统调用的目标方法,截获目标方法上的自定义注解,并在自定义注解与预设元注解匹配的情况下,从目标方法的目标参数中过滤得到目标数据。通过上述技术手段,可以在脱离日志文件的基础上采集用户行为数据,所以至少部分地解决了相关技术中存在的采集到的数据冗余、不利于统计分析的技术问题,有效提升了用户行为数据的采集效率,简化了采集流程,降低了学习成本。
附图说明
通过以下参照附图对本公开实施例的描述,本公开的上述以及其他目的、特征和优点将更为清楚,在附图中:
图1示意性示出了采用日志收集分析工具采集用户行为数据的示意图。
图2示意性示出了根据本公开实施例的可以应用数据处理方法的示例性系统架构。
图3示意性示出了根据本公开实施例的数据处理方法的流程图。
图4示意性示出了根据本公开实施例的目标数据处理流程的示意图。
图5示意性示出了根据本公开另一实施例的数据处理方法的流程图。
图6示意性示出了根据本公开的实施例的数据处理装置的框图。
图7示意性示出了根据本公开实施例的适于实现数据处理方法的电子设备的框图。
具体实施方式
以下,将参照附图来描述本公开的实施例。但是应该理解,这些描述只是示例性的,而并非要限制本公开的范围。在下面的详细描述中,为便于解释,阐述了许多具体的细节以提供对本公开实施例的全面理解。然而,明显地,一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外,在以下说明中,省略了对公知结构和技术的描述,以避免不必要地混淆本公开的概念。
在此使用的术语仅仅是为了描述具体实施例,而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在,但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义,除非另外定义。应注意,这里使用的术语应解释为具有与本说明书的上下文相一致的含义,而不应以理想化或过于刻板的方式来解释。
在使用类似于“A、B和C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。在使用类似于“A、B或C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B或C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。
在本公开的技术方案中,所涉及的用户个人信息的获取,存储和应用等,均符合相关法律法规的规定,采取了必要保密措施,且不违背公序良俗。
在相关技术中,针对用户行为数据的采集可以分为前端采集和后端采集。其中,后端采集一般是通过直接或间接读取日志文件中的信息来实现的,研发人员可以通过Linux命令行进入到服务器的日志文件中,并使用tail-f+文件名的方式查看用户操作后系统实时打印的相应系统信息,或者,通过grep管道命令查看具体时间段或根据具体关键词定位的历史日志信息。通过命令行从日志文件中采集数据的方式效率较低,需要研发人员掌握一定的指令集,且过程较为繁琐。
图1示意性示出了采用日志收集分析工具采集用户行为数据的示意图。
如图1所示,研发人员也可以借助日志收集分析工具ELK来实现用户行为数据的采集。日志收集分析工具ELK由Elasticsearch、Logstash和Kibana组成,其中,Elasticsearch是一个分布式的搜索和分析引擎,可以用于全文检索、结构化检索和分析;Logstash相当于一根具备实时数据传输能力的管道,可以将数据信息从管道的输入端传输到管道的输出端;Kibana是一个开源的分析与可视化平台。
用户在访问应用1、应用2等任意一个应用时,会触发相应的业务逻辑,通过引入的日志包,将请求参数或业务逻辑返回的结果写入日志文件中;Logstash可以从日志文件中读取相应的信息,并在Elasticsearch中建立相应的索引信息,最后通过可视化工具Kibana查询展示相应的日志信息。
但日志收集分析工具的使用需要一定的学习成本,且该工具的部署对于服务器资源的消耗较大。
此外,无论是否使用日志收集分析工具,都是直接或间接读取读取系统配置的日志文件的方式来采集用户操作后留下的轨迹信息的,这种方式无可避免地会导致采集的数据中参杂这其他与系统相关的冗余信息,例如系统的运行信息、研发人员打印其他辅助日志信息等。这些数据信息会给研发人员在排查问题或者在分析统计用户行为数据时带来很大影响和不便,由于数据量较大且核心数据分散,不利于快速定位问题,更不利于通过读取以文件形式存储的数据实现类似数据库的统计分析工作,进而推到出直观的数据后进行系统优化。
有鉴于此,本公开的实施例提供了一种用户行为数据的采集方法,用以解决相关技术中存在的数据查询分析过于繁琐、数据冗余及直接通过日志文件进行统计分析用户使用行为习惯困难的问题,提供了一种可视化的操作页面,简化流程及学习成本,提高效率,增加系统的可靠性。
具体地,本公开的实施例提供了一种数据处理方法、一种数据处理装置、一种电子设备、一种可读存储介质和一种计算机程序产品。该方法包括获取目标系统运行时调用的目标方法;解析目标方法,以确定目标方法的自定义注解;在自定义注解与预设元注解匹配的情况下,确定目标方法的目标参数;以及根据预设配置信息对目标方法的目标参数进行过滤,得到目标数据。
图2示意性示出了根据本公开实施例的可以应用数据处理方法的示例性系统架构。需要注意的是,图2所示仅为可以应用本公开实施例的系统架构的示例,以帮助本领域技术人员理解本公开的技术内容,但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。
如图2所示,根据该实施例的系统架构200可以包括终端设备201、202、203,网络204和服务器205。
终端设备201、202、203可以是具有显示屏和输入装置的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等。
终端设备201、202、203上可以安装有各种客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端和/或社交平台软件等。
网络204用以在终端设备201、202、203和服务器205之间提供通信链路的介质。网络204可以包括各种连接类型,例如有线和/或无线通信链路等。
服务器205可以是提供各种服务的服务器,可以为本公开实施例的服务使用方或托管方给予计算资源的支持。
需要说明的是,本公开实施例所提供的数据处理方法一般可以由服务器205执行。相应地,本公开实施例所提供的数据处理装置一般可以设置于服务器205中。本公开实施例所提供的数据处理方法也可以由不同于服务器205且能够与终端设备201、202、203和/或服务器205通信的服务器或服务器集群执行。相应地,本公开实施例所提供的数据处理装置也可以设置于不同于服务器205且能够与终端设备201、202、203和/或服务器205通信的服务器或服务器集群中。或者,本公开实施例所提供的数据处理方法也可以由终端设备201、202、或203执行,或者也可以由不同于终端设备201、202、或203的其他终端设备执行。相应地,本公开实施例所提供的数据处理装置也可以设置于终端设备201、202、或203中,或设置于不同于终端设备201、202、或203的其他终端设备中。
例如,在终端设备201、202、或203中的任意一个(例如,终端设备201,但不限于此)上运行客户端应用时,终端设备201可以在本地执行本公开实施例所提供的数据处理方法,捕获用户行为数据;或者,可以由能够与终端设备201通过网络204建立通信连接的其他终端设备、服务器、或服务器集群来执行本公开实施例所提供的数据处理方法,以捕获用户行为数据。
应该理解,图2中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
图3示意性示出了根据本公开实施例的数据处理方法的流程图。
如图3所示,该方法包括操作S301~S304。
在操作S301,获取目标系统运行时调用的目标方法。
在操作S302,解析目标方法,以确定目标方法的自定义注解。
在操作S303,在自定义注解与预设元注解匹配的情况下,确定目标方法的目标参数。
在操作S304,根据预设配置信息对目标方法的目标参数进行过滤,得到目标数据。
根据本公开的实施例,目标方法可以采用任意测试工具来捕获,例如RanorexStudio、LEAPWORK等。
根据本公开的实施例,目标方法的自定义注解可以通过反射机制来获取。反射机制可以是指在程序的运行状态中,可以构造任意一个类的对象,可以了解任意一个对象所属的类,可以了解任意一个类的成员变量和方法,可以调用任意一个对象的属性和方法。该自定义注解可以是由研发人员在目标系统的研发阶段写入的,也可以是由研发人员在用户行为数据采集前在目标方法的原有注解中补充得到的,在此不作限定。
根据本公开的实施例,方法的源代码部分和注解部分可以分布在不同的文件中,针对该方法的注解的修改对于该方法而言可以是零侵入的。
根据本公开的实施例,预设元注解可以根据业务需求进行配置。例如,预设元注解可以设置为运行时有效、作用域为方法,在目标方法的自定义注解与预设元注解匹配时,基于切面编程思想可以确定该目标方法具有切点,该目标方法中的目标参数可以在运行时通过静态代理或动态代理的方式来获取;再例如,预设元注解可以设置其作用域为类,则多个方法组成的类的自定义注解可以与该预设元注解匹配。
根据本公开的实施例,预设配置信息可以根据业务需求进行设置。例如,预设配置信息中可以设置需求的目标数据的数据类型为整型、浮点型、字节型和布尔型中的任意一个或多个。
根据本公开的实施例,基于切面编程的思想,在目标系统运行捕获目标系统调用的目标方法,截获目标方法上的自定义注解,并在自定义注解与预设元注解匹配的情况下,从目标方法的目标参数中过滤得到目标数据。通过上述技术手段,可以在脱离日志文件的基础上采集用户行为数据,所以至少部分地解决了相关技术中存在的采集到的数据冗余、不利于统计分析的技术问题,有效提升了用户行为数据的采集效率,简化了采集流程,降低了学习成本。
下面参考图4~图5,结合具体实施例对图3所示的方法做进一步说明。
根据本公开的实施例,方法的自定义注解可以包括元注解部分和参数定义部分。
例如,目标方法中包含一个名称为Anno的自定义注解,该自定义注解通过注解定义语句public@interface Anno{}来定义。注解定义语句的函数体为该自定义注解的参数定义部分,参数定义部分中可以定义数据类型为整型、浮点型、字节型或布尔型的数据,比如,int a(),string b()等。注解定义语句之前为该自定义注解的元注解部分,元注解部分包括@Target、@Retention、@Documented等,其中,@Target可以用来声明被修饰的注解的使用位置,比如,@Target(ElementType.CLASS)表示该自定义注解可以用在类上,特别的,若自定义注解中未使用@Target修饰,则表示该自定义注解可以用在任意位置;@Retention可以用来声明被修饰的注解能够保留的阶段,包括源码阶段、编译阶段和运行阶段,比如,@Retention(RetentionPolicy.SOURCE)表示该自定义注解仅保留在源码阶段;@Documented可以用来声明被修饰的注解是否可以被文档提取工具提取到文档中。
根据本公开的实施例,自定义注解一般可以包括参数定义部分,在包含参数定义部分的情况下,自定义注解可以作为一个特殊的类使用。方法的源代码中可以包含对自定义注解的赋值语句,在包含该自定义注解的方法被调用时,系统可以为该自定义注解中定义的参数赋值。
根据本公开的实施例,预设元注解的结构可以与自定义注解的元注解部分的结构相同。预设元注解中包含的元注解可以根据具体业务场景进行设置,例如,预设元注解中可以设置注解的使用范围为方法级别,以确保获取的数据均来源于方法的参数;预设元注解中还可以设置注解的生命周期包括运行阶段,使得该注解可以通过反射机制被获取;预设元注解中还可以设置注解可以被文档提取工具提取到文档中,以使得包含该注解的方法的参数可以在运行阶段提取到指定文档中。
根据本公开的实施例,在获取目标方法后,可以通过目标方法的自定义注解中的元注解部分与预设元注解是否匹配的方式,来确定自定义注解与预设元注解是否匹配。以上述示例中的预设元注解为例,参数定义部分中可以包括多个目标参数字段,在目标方法的自定义注解中的元注解部分与该预设元注解匹配的情况下,可以从自定义注解的参数定义部分中的多个目标参数字段中确定目标参数的名称,从而可以在目标方法的参数被提取到文档后,从文档中的多个参数中确定所需要的目标参数;反之,在目标方法的自定义注解中的元注解部分与预设元注解不匹配的情况下,例如,元注解部分中未声明@Documented,则目标方法的参数无法被提取到文档中,此时可以结束针对目标方法的处理,并释放目标方法。
根据本公开的实施例,可以根据预设配置信息对从目标方法中获取的目标参数进行过滤。
例如,预设配置信息中可以配置需要的目标数据的数据类型,即预设数据类型,具体的预设数据类型可以是整型、浮点型、字节型和布尔型中的任意一个或多个的组合。对于目标方法的每一个目标参数,可以将目标参数的数据类型与预设数据类型进行匹配,并在目标参数的数据类型与预设数据类型匹配的情况下,可以确定目标数据中包含该目标参数。
再例如,预设配置信息中可以配置需要的目标数据的数据长度,即预设数据长度,具体限定的预设数据长度可以是小于4比特等。对于目标方法的每一个目标参数,可以获取目标参数的数据长度,在目标参数的数据长度小于预设数据长度的情况下,可以确定目标数据中包含该目标参数。通过数据长度的配置可以滤除因误码、超范围等原因而产生的错误数据。
图4示意性示出了根据本公开实施例的目标数据处理流程的示意图。
如图4所示,在预设配置信息中还可以配置获取的目标数据的预设消费方式,根据不同的预设消费方式,可以将目标数据存储在不同的存储介质中,以供不同的消费者采用不同的方式进行消费。
根据本公开的实施例,可以将获取的目标数据打包为一个消息数据401,消息数据401可以通过线程池402中的子线程403传入消息队列404中,并根据预设配置消息中配置的不同的预设消费方式,对消息队列404中的消息数据401进行消费。
根据本公开的实施例,在预设数据消费方式为第一预设消费模式的情况下,系统可以依次消费消息队列404中的消息数据401,以将消息数据401存储至服务使用方指定的预设存储介质405中;预设存储介质405可以是任意类型的数据库或者任意类型的存储器。之后,服务使用方可以自行订阅消息,监听预设存储介质405中的消息数据401进行异步消费。通过该方法可以实现目标数据的物理隔离。
根据本公开的实施例,在预设数据消费方式为第一预设消费模式的情况下,系统可以依次消费消息队列404中的消息数据401,以将消息数据401存储至托管服务器的托管数据库406中,托管数据库406可以是任意类型的数据库,例如,ES、MySQL等。通过该方法,服务使用方可以将消息数据401的消费权限开放给与托管数据库406关联的托管方,由托管方进行消息数据401的异步消费。
根据本公开的实施例,在将消息数据401存储至托管服务器的数据库中之前,还可以对消息数据401进行鉴别,以确定消息数据401是否为敏感数据。并且,在确定消息数据401为敏感数据的情况下,可以对消息数据401进行加密,并将加密后的消息数据存入托管数据库406中。
根据本公开的实施例,数据加密的方式可以包括对称加密、非对称加密等各种加密手段。例如,可以基于私钥对消息数据401进行对称加密处理,托管方可以对私钥进行管理;服务使用方在需要消费消息数据401时,可以从托管服务器的数据库406中获取加密后的消息数据,并从托管方获取私钥对加密后的消息数据进行解密,以进行异步消费。通过该方法,可以实现消息数据的逻辑隔离,保障数据的安全性。
图5示意性示出了根据本公开另一实施例的数据处理方法的流程图。
如图5所示,该方法包括操作S501~S511。
需要说明的是,本公开实施例中的流程图所示的操作除非明确说明不同操作之间存在执行的先后顺序,或者不同操作在技术实现上存在执行的先后顺序,否则,多个操作之间的执行顺序可以不分先后,多个操作也可以同时执行。
在操作S501,捕获目标方法。
在操作S502,判断目标方法的自定义注解与预设元注解是否匹配。在确定目标方法的自定义注解与预设元注解不匹配的情况下,执行操作S503;目标方法的自定义注解与预设元注解匹配的情况下,执行操作S504。
在操作S503,释放目标方法。
在操作S504,解析目标方法的目标参数,获取目标数据。
在操作S505,通过子线程,将基于目标数据生成的消息数据存储消息队列。
在操作S506,判断预设数据消费模式。在确定预设数据消费模式为第一预设消费模式的情况下,执行操作S507;在确定预设数据消费模式为第二预设消费模式的情况下,执行操作S508。
在操作S507,消费消息队列中的消息数据,以将目标数据存入预设存储介质中。
在操作S508,消费消息队列中的消息数据,获取目标数据。
在操作S509,判断目标数据是否为敏感数据。在确定目标数据为敏感数据的情况下,执行操作S510;在确定目标数据非敏感数据的情况下,执行操作S511。
在操作S510,对目标数据进行加密。在完成操作S510之后,执行操作S511。
在操作S511,将目标数据存入托管数据库中。
根据本公开的实施例,用户可以选择本公开实施例提供的元注解服务将采集数据托管,交由托管方进行管理,通过该方式数据采集方无需进行任何代码开发,即可实现用户行为数据的采集工作以及对此类数据的分析工作,从而实现了零代码、零侵入的行为数据采集。另一方面,用户也可以自定义数据输出接口,自主消费获取的用户行为数据,将其存储到关系型数据库、非关系型数据库或存储器中,自主进行后续的统计分析、错误排查等工作。通过该方法可以有效地简化行为数据采集的工作流程,释放研发人员关注系统日志方面的精力,在遇到问题时又可以快速定位问题,提高工作效率。
图6示意性示出了根据本公开的实施例的数据处理装置的框图。
如图6所示,数据处理装置600包括获取模块610、第一处理模块620、第二处理模块630和过滤模块640。
获取模块610,用于获取目标系统运行时调用的目标方法。
第一处理模块620,用于解析目标方法,以确定目标方法的自定义注解。
第二处理模块630,用于在自定义注解与预设元注解匹配的情况下,确定目标方法的目标参数。
过滤模块640,用于根据预设配置信息对目标方法的目标参数进行过滤,得到目标数据。
根据本公开的实施例,基于切面编程的思想,在目标系统运行捕获目标系统调用的目标方法,截获目标方法上的自定义注解,并在自定义注解与预设元注解匹配的情况下,从目标方法的目标参数中过滤得到目标数据。通过上述技术手段,可以在脱离日志文件的基础上采集用户行为数据,所以至少部分地解决了相关技术中存在的采集到的数据冗余、不利于统计分析的技术问题,有效提升了用户行为数据的采集效率,简化了采集流程,降低了学习成本。
根据本公开的实施例,自定义注解包括元注解部分和参数定义部分,参数定义部分中包括多个目标参数字段。
根据本公开的实施例,该装置还包括确定模块。
确定模块,用于确定目标方法的自定义注解中的元注解部分与预设元注解是否匹配。
根据本公开的实施例,第二处理模块630还用于在目标方法的自定义注解中的元注解部分与预设元注解匹配的情况下,根据参数定义部分中的多个目标参数字段的名称,从目标方法的多个参数中确定目标方法的目标参数。
根据本公开的实施例,第二处理模块630还用于在目标方法的自定义注解中的元注解部分与预设元注解不匹配的情况下,释放目标方法。
根据本公开的实施例,预设配置信息包括预设数据类型。
根据本公开的实施例,过滤模块640包括第一过滤单元和第二过滤单元。
第一过滤单元,用于对于目标方法的每一个目标参数,将目标参数的数据类型与预设数据类型进行匹配。
第二过滤单元,用于在目标参数的数据类型与预设数据类型匹配的情况下,确定目标数据中包含目标参数。
根据本公开的实施例,预设元注解中包括声明被修饰的注解的使用范围为方法级别的元注解、声明被修饰的注解的生命周期包括运行阶段的元注解和声明被修饰的注解可被文档提取工具提取到文档中的元注解。
根据本公开的实施例,预设配置信息包括预设数据消费方式。
根据本公开的实施例,该装置还包括第三处理模块和消费模块。
第三处理模块,用于通过目标系统的子线程,将基于目标数据生成的消息数据存入消息队列中。
消费模块,用于根据预设数据消费方式,对消息队列中的消息数据进行消费。
根据本公开的实施例,消费模块包括第一消费单元和第二消费单元。
第一消费单元,用于在预设数据消费方式为第一预设消费模式的情况下,将消息队列中的消息数据异步存储至预设存储介质中,以便于服务使用方对所述消息数据进行异步消费。
第二消费单元,用于在预设数据消费方式为第二预设消费模式的情况下,对消息队列中的消息数据进行加密,并将加密后的消息数据存储至托管服务器的数据库中,以便于与所述托管服务器关联的托管方对所述消息数据进行异步消费。
根据本公开的实施例的模块、子模块、单元、子单元中的任意多个、或其中任意多个的至少部分功能可以在一个模块中实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以被拆分成多个模块来实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式的硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,根据本公开实施例的模块、子模块、单元、子单元中的一个或多个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
例如,获取模块610、第一处理模块620、第二处理模块630和过滤模块640中的任意多个可以合并在一个模块/单元/子单元中实现,或者其中的任意一个模块/单元/子单元可以被拆分成多个模块/单元/子单元。或者,这些模块/单元/子单元中的一个或多个模块/单元/子单元的至少部分功能可以与其他模块/单元/子单元的至少部分功能相结合,并在一个模块/单元/子单元中实现。根据本公开的实施例,获取模块610、第一处理模块620、第二处理模块630和过滤模块640中的至少一个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,获取模块610、第一处理模块620、第二处理模块630和过滤模块640中的至少一个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
需要说明的是,本公开的实施例中数据处理装置部分与本公开的实施例中数据处理方法部分是相对应的,数据处理装置部分的描述具体参考数据处理方法部分,在此不再赘述。
图7示意性示出了根据本公开实施例的适于实现数据处理方法的电子设备的框图。图7示出的电子设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图7所示,根据本公开实施例的计算机电子设备700包括处理器701,其可以根据存储在只读存储器(ROM)702中的程序或者从存储部分708加载到随机访问存储器(RAM)703中的程序而执行各种适当的动作和处理。处理器701例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如,专用集成电路(ASIC)),等等。处理器701还可以包括用于缓存用途的板载存储器。处理器701可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。
在RAM703中,存储有电子设备700操作所需的各种程序和数据。处理器701、ROM702以及RAM703通过总线704彼此相连。处理器701通过执行ROM702和/或RAM703中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意,所述程序也可以存储在除ROM702和RAM 703以外的一个或多个存储器中。处理器701也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。
根据本公开的实施例,电子设备700还可以包括输入/输出(I/O)接口705,输入/输出(I/O)接口705也连接至总线704。电子设备700还可以包括连接至I/O接口705的以下部件中的一项或多项:包括键盘、鼠标等的输入部分706;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分707;包括硬盘等的存储部分708;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分709。通信部分709经由诸如因特网的网络执行通信处理。驱动器710也根据需要连接至I/O接口705。可拆卸介质711,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器710上,以便于从其上读出的计算机程序根据需要被安装入存储部分708。
根据本公开的实施例,根据本公开实施例的方法流程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读存储介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分709从网络上被下载和安装,和/或从可拆卸介质711被安装。在该计算机程序被处理器701执行时,执行本公开实施例的系统中限定的上述功能。根据本公开的实施例,上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。
本公开还提供了一种计算机可读存储介质,该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的;也可以是单独存在,而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序,当上述一个或者多个程序被执行时,实现根据本公开实施例的方法。
根据本公开的实施例,计算机可读存储介质可以是非易失性的计算机可读存储介质。例如可以包括但不限于:便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
例如,根据本公开的实施例,计算机可读存储介质可以包括上文描述的ROM 702和/或RAM 703和/或ROM 702和RAM703以外的一个或多个存储器。
本公开的实施例还包括一种计算机程序产品,其包括计算机程序,该计算机程序包含用于执行本公开实施例所提供的方法的程序代码,当计算机程序产品在电子设备上运行时,该程序代码用于使电子设备实现本公开实施例所提供的数据处理方法。
在该计算机程序被处理器701执行时,执行本公开实施例的系统/装置中限定的上述功能。根据本公开的实施例,上文描述的系统、装置、模块、单元等可以通过计算机程序模块来实现。
在一种实施例中,该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中,该计算机程序也可以在网络介质上以信号的形式进行传输、分发,并通过通信部分709被下载和安装,和/或从可拆卸介质711被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输,包括但不限于:无线、有线等等,或者上述的任意合适的组合。
根据本公开的实施例,可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例提供的计算机程序的程序代码,具体地,可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如Java,C++,python,“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。本领域技术人员可以理解,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合,即使这样的组合或结合没有明确记载于本公开中。特别地,在不脱离本公开精神和教导的情况下,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。
以上对本公开的实施例进行了描述。但是,这些实施例仅仅是为了说明的目的,而并非为了限制本公开的范围。尽管在以上分别描述了各实施例,但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围,本领域技术人员可以做出多种替代和修改,这些替代和修改都应落在本公开的范围之内。
Claims (11)
1.一种数据处理方法,包括:
获取目标系统运行时调用的目标方法;
解析所述目标方法,以确定所述目标方法的自定义注解;
在所述自定义注解与预设元注解匹配的情况下,确定所述目标方法的目标参数;以及
根据预设配置信息对所述目标方法的目标参数进行过滤,得到目标数据。
2.根据权利要求1所述的方法,其中,所述自定义注解包括元注解部分和参数定义部分,所述参数定义部分中包括多个目标参数字段;
所述方法还包括:
确定所述目标方法的自定义注解中的元注解部分与所述预设元注解是否匹配;
其中,所述在所述目标方法的自定义注解与预设元注解匹配的情况下,确定所述目标方法的目标参数,包括:
在所述目标方法的自定义注解中的元注解部分与所述预设元注解匹配的情况下,根据所述参数定义部分中的多个目标参数字段,从所述目标方法的多个参数中获取所述目标参数。
3.根据权利要求2所述的方法,还包括:
在所述目标方法的自定义注解中的元注解部分与所述预设元注解不匹配的情况下,释放所述目标方法。
4.根据权利要求1所述的方法,其中,所述预设配置信息包括预设数据类型;
其中,所述根据预设配置信息对所述目标方法的目标参数进行过滤,得到目标数据,包括:
对于所述目标方法的每一个目标参数,将所述目标参数的数据类型与所述预设数据类型进行匹配;以及
在所述目标参数的数据类型与所述预设数据类型匹配的情况下,确定所述目标数据中包含所述目标参数。
5.根据权利要求1所述的方法,其中,所述预设元注解中包括声明被修饰的注解的使用范围为方法级别的元注解、声明被修饰的注解的生命周期包括运行阶段的元注解和声明被修饰的注解可被文档提取工具提取到文档中的元注解。
6.根据权利要求1所述的方法,其中,所述预设配置信息包括预设数据消费方式;
所述方法还包括:
通过所述目标系统的子线程,将基于所述目标数据生成的消息数据存入消息队列中;以及
根据所述预设数据消费方式,对所述消息队列中的消息数据进行消费。
7.根据权利要求6所述的方法,
其中,所述根据所述预设数据消费方式,对所述消息队列中的消息数据进行消费,包括:
在所述预设数据消费方式为第一预设消费模式的情况下,将所述消息队列中的消息数据异步存储至预设存储介质中,以便于服务使用方对所述消息数据进行异步消费;
在所述预设数据消费方式为第二预设消费模式的情况下,对所述消息队列中的消息数据进行加密,并将加密后的消息数据存储至托管服务器的数据库中,以便于与所述托管服务器关联的托管方对所述消息数据进行异步消费。
8.一种数据处理装置,包括:
获取模块,用于获取目标系统运行时调用的目标方法;
第一处理模块,用于解析所述目标方法,以确定所述目标方法的自定义注解;
第二处理模块,用于在所述自定义注解与预设元注解匹配的情况下,确定所述目标方法的目标参数;以及
过滤模块,用于根据预设配置信息对所述目标方法的目标参数进行过滤,得到目标数据。
9.一种电子设备,包括:
一个或多个处理器;
存储器,用于存储一个或多个指令,
其中,当所述一个或多个指令被所述一个或多个处理器执行时,使得所述一个或多个处理器实现权利要求1至7中任一项所述的方法。
10.一种计算机可读存储介质,其上存储有可执行指令,所述可执行指令被处理器执行时使处理器实现权利要求1至7中任一项所述的方法。
11.一种计算机程序产品,所述计算机程序产品包括计算机可执行指令,所述计算机可执行指令在被执行时用于实现权利要求1至7中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210214108.5A CN114579405A (zh) | 2022-03-04 | 2022-03-04 | 数据处理方法、数据处理装置、电子设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210214108.5A CN114579405A (zh) | 2022-03-04 | 2022-03-04 | 数据处理方法、数据处理装置、电子设备和存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114579405A true CN114579405A (zh) | 2022-06-03 |
Family
ID=81778415
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210214108.5A Pending CN114579405A (zh) | 2022-03-04 | 2022-03-04 | 数据处理方法、数据处理装置、电子设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114579405A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116501414A (zh) * | 2023-04-12 | 2023-07-28 | 上海楷领科技有限公司 | 基于云平台的资源控制方法、装置、介质及计算设备 |
-
2022
- 2022-03-04 CN CN202210214108.5A patent/CN114579405A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116501414A (zh) * | 2023-04-12 | 2023-07-28 | 上海楷领科技有限公司 | 基于云平台的资源控制方法、装置、介质及计算设备 |
CN116501414B (zh) * | 2023-04-12 | 2023-12-26 | 上海楷领科技有限公司 | 基于云平台的资源控制方法、装置、介质及计算设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11422778B2 (en) | Development environment for real-time dataflow programming language | |
US10025659B2 (en) | System and method for batch monitoring of performance data | |
JP2021530798A (ja) | データストリームのリアルタイム処理のためのシステムおよび方法 | |
US20180046455A1 (en) | System and Method of Configuring A Data Store For Tracking And Auditing Real-Time Events Across Different Software Development Tools In Agile Development Environments | |
US9122804B2 (en) | Logic validation and deployment | |
US9336119B2 (en) | Management of performance levels of information technology systems | |
US20220253335A1 (en) | Automated virtual machine resource management in container-supported many task computing | |
CN103559118A (zh) | 一种基于aop与注解信息系统的安全审计方法 | |
CN107391528B (zh) | 前端组件依赖信息搜索方法及设备 | |
US20230138344A1 (en) | Message Queue Protocol for Sequential Execution of Related Task Routines in Many Task Computing | |
CN114579405A (zh) | 数据处理方法、数据处理装置、电子设备和存储介质 | |
WO2021051583A1 (zh) | 变量的传输和收集方法、装置及计算机可读存储介质 | |
CN117271122A (zh) | 基于cpu和gpu分离的任务处理方法、装置、设备及存储介质 | |
US9189299B2 (en) | Framework for system communication for handling data | |
US11995562B2 (en) | Integrating documentation knowledge with log mining for system diagnosis | |
US20220122038A1 (en) | Process Version Control for Business Process Management | |
Breß et al. | Forensics on GPU coprocessing in databases-research challenges, first experiments, countermeasures | |
CN111782426B (zh) | 一种处理客户端任务的方法、装置和电子设备 | |
CN114266547A (zh) | 业务处理策略的识别方法、装置、设备、介质及程序产品 | |
CN116455619A (zh) | 一种风险识别方法、装置、电子设备和存储介质 | |
CN117369781A (zh) | 日志采集方法、装置和设备 | |
CN114385206A (zh) | 资源文件的提交方法、装置、电子设备及存储介质 | |
CN115865645A (zh) | 链路确定方法、装置、设备、介质及产品 | |
CN117390119A (zh) | 任务处理方法、装置、计算机设备及存储介质 | |
CN114510396A (zh) | 私有云巡检方法、设备及计算机可读介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |