CN112631879A - 数据采集方法、装置、计算机可读介质及电子设备 - Google Patents

数据采集方法、装置、计算机可读介质及电子设备 Download PDF

Info

Publication number
CN112631879A
CN112631879A CN201910907700.1A CN201910907700A CN112631879A CN 112631879 A CN112631879 A CN 112631879A CN 201910907700 A CN201910907700 A CN 201910907700A CN 112631879 A CN112631879 A CN 112631879A
Authority
CN
China
Prior art keywords
reporting
data
buried point
event
data acquisition
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201910907700.1A
Other languages
English (en)
Inventor
汪桂华
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Jingdong Century Trading Co Ltd
Beijing Jingdong Shangke Information Technology Co Ltd
Original Assignee
Beijing Jingdong Century Trading Co Ltd
Beijing Jingdong Shangke Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Jingdong Century Trading Co Ltd, Beijing Jingdong Shangke Information Technology Co Ltd filed Critical Beijing Jingdong Century Trading Co Ltd
Priority to CN201910907700.1A priority Critical patent/CN112631879A/zh
Publication of CN112631879A publication Critical patent/CN112631879A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/30Monitoring
    • G06F11/34Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
    • G06F11/3466Performance evaluation by tracing or monitoring
    • G06F11/3476Data logging

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Quality & Reliability (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Information Transfer Between Computers (AREA)

Abstract

本公开实施例提供了一种数据采集方法、数据采集装置、计算机可读介质及电子设备,涉及数据处理技术领域。该数据采集方法包括:获取对于目标应用的数据采集配置;根据所述数据采集配置,确定需要采集的所述目标应用的埋点事件,以及对于所述埋点事件的上报策略;如果检测到所述埋点事件,则按照所述上报策略将所述埋点事件上报至数据统计端。本公开实施例的技术方案通过数据采集配置实时获取,能够更加灵活地采集数据,适应多种数据采集需求。

Description

数据采集方法、装置、计算机可读介质及电子设备
技术领域
本公开涉及数据处理技术领域,具体而言,涉及一种数据采集方法、数据采集装置、计算机可读介质及电子设备。
背景技术
对于互联网应用来说,数据采集是最核心的问题,直接地影响着应用的使用效果。
目前,主要通过数据统计工具进行数据采集,数据统计工具能够提供对应的SDK(Software Development Kit,软件开发工具包)给需要采集数据的应用,以使应用在前端埋点中调用SDK采集数据,进行数据统计。然而,埋点接入SDK后数据可能会被数据统计工具获取,无法保证数据的安全性。并且,在埋点结束后如果有数据漏埋,需要重新接入、重新发布新版本,导致耗费大量的人力、造成周期较长的问题。
需要说明的是,在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解,因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。
发明内容
本发明人发现,相关技术中,通过埋点中接入数据统计工具提供的SDK采集数据,需要进行大量的接入工作;并且,在接入SDK后,如果发现漏埋点,需要重新接入、重新发布新版本,不能适应变化的数据采集需求。
基于此,本公开实施例的目的在于提供一种数据采集方法、数据采集装置、计算机可读介质及电子设备,进而至少在一定程度上克服上述问题。
本公开的其他特性和优点将通过下面的详细描述变得显然,或部分地通过本公开的实践而习得。
根据本公开实施例的第一方面,提供了一种数据采集方法,包括:
获取对于目标应用的数据采集配置;
根据所述数据采集配置,确定需要采集的所述目标应用的埋点事件,以及对于所述埋点事件的上报策略;
如果检测到所述埋点事件,则按照所述上报策略将所述埋点事件上报至数据统计端。
在本公开的一种示例性实施方式中,获取对于目标应用的数据采集配置之后,还包括:
在所述目标应用启动时,更新所述数据采集配置,以对所述上报策略和所述埋点事件进行更新。
在本公开的一种示例性实施方式中,所述按照所述上报策略将所述埋点事件上报至数据统计端,包括:
将对于所述埋点事件生成的事件记录插入上报队列;
按照所述上报策略,将所述上报队列中的数据发送至数据统计端。
在本公开的一种示例性实施方式中,所述按照所述上报策略,将所述上报队列中的数据发送至数据统计端,包括:
根据所述上报策略中的网络状态,将所述上报队列中的数据发送至所述数据统计端;或者
根据所述上报策略中的上报时间间隔,将所述上报队列中的数据发送至所述数据统计端。
在本公开的一种示例性实施方式中,按照所述上报策略将所述埋点事件上报至数据统计端之前,还包括:
按照所述埋点事件的事件类型,确定所述埋点事件的事件记录对应的上报队列。
在本公开的一种示例性实施方式中,按照所述上报策略将所述埋点事件上报至数据统计端之前,还包括:
统计已保存的所述埋点事件的事件记录的总数,如果所述总数超过预设上限,则根据时间戳对已保存的事件记录进行删除。
在本公开的一种示例性实施方式中,按照所述上报策略将所述埋点事件上报至数据统计端之后,还包括:
如果所述埋点事件上报成功,则在已保存的事件记录中将上报成功的埋点事件对应的事件记录删除;
如果所述埋点事件上报失败,则根据重试机制重新上报所述埋点事件。
根据本公开实施例的第二方面,提供了一中数据采集装置,包括:
配置确定模块,用于获取对于目标应用的数据采集配置;
策略确定模块,用于根据所述数据采集配置,确定需要采集的所述目标应用的埋点事件,以及对于所述埋点事件的上报策略;
数据上报模块,用于如果检测到所述埋点事件,则按照所述上报策略将所述埋点事件上报至数据统计端。
根据本公开实施例的第三方面,提供了一种计算机可读介质,其上存储有计算机程序,所述程序被处理器执行时实现如上述实施例中第一方面所述的数据采集方法。
根据本公开实施例的第四方面,提供了一种电子设备,包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器实现如上述实施例中第一方面所述的数据采集方法。
本公开实施例提供的技术方案可以包括以下有益效果:
在本公开的一些实施例所提供的技术方案中,一方面,通过获取对于目标应用的数据采集配置,如果数据采集需求变化,服务端可以随时调整数据采集配置,从而避免发布新版本,大大缩短了版本上线周期。另一方面,通过数据采集配置确定需要采集数据的埋点事件以及对埋点事件的上报策略,能够灵活地上报数据,避免采用固定模式上报数据导致数据泄露,从而提高数据的安全性。再一方面,数据采集以及数据上报可以实时变化,比较灵活,能够适应多种数据采集需求,并且能够降低维护压力。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。显而易见地,下面描述中的附图仅仅是本公开的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。在附图中:
图1示意性示出了根据本公开实施例中用于实现数据采集方法的系统架构示意图;
图2示意性示出了根据本公开的实施例的数据采集方法的流程图;
图3示意性示出了根据本公开的实施例的数据采集方法的一种应用场景示意图;
图4示意性示出了根据本公开的实施例的数据采集方法的流程图;
图5示意性示出了根据本公开的另一实施例的数据采集方法的流程图;
图6示意性示出了根据本公开的又一实施例的数据采集方法的流程图;
图7示意性示出了根据本公开的实施例的数据采集装置的框图;
图8示出了适于用来实现本公开实施例的电子设备的计算机系统的结构示意图。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的范例;相反,提供这些实施方式使得本公开将更加全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。
此外,所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中,提供许多具体细节从而给出对本公开的实施例的充分理解。然而,本领域技术人员将意识到,可以实践本公开的技术方案而没有特定细节中的一个或更多,或者可以采用其它的方法、组元、装置、步骤等。在其它情况下,不详细示出或描述公知方法、装置、实现或者操作以避免模糊本公开的各方面。
附图中所示的方框图仅仅是功能实体,不一定必须与物理上独立的实体相对应。即,可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
附图中所示的流程图仅是示例性说明,不是必须包括所有的内容和操作/步骤,也不是必须按所描述的顺序执行。例如,有的操作/步骤还可以分解,而有的操作/步骤可以合并或部分合并,因此实际执行的顺序有可能根据实际情况改变。
本公开的示例性实施例中首先提供一种用于实现数据采集方法的系统架构。参考图1所示,该系统架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送请求指令等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。
终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器,例如对用户利用终端设备101、102、103所浏览的购物类网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的产品信息查询请求等数据进行分析等处理,并将处理结果(例如目标推送信息、产品信息--仅为示例)反馈给终端设备。
需要说明的是,本公开实施方式所提供的数据采集方法可以由服务器105执行,相应地,数据采集装置可以设置于服务器105中;或者,该数据采集方法也可以由终端设备101执行,相应地,数据采集装置可以设置于终端设备101中。
基于上述系统架构100,本公开提出一种数据采集方法。如图2所示,该数据采集方法可以包括以下步骤:
S210.获取目标应用对于数据采集需求的数据采集配置;
S220.根据所述数据采集配置,确定需要采集的所述目标应用的埋点事件,以及对于所述埋点事件的上报策略;
S230.如果检测到所述埋点事件,则按照所述上报策略将所述埋点事件上报至所述服务端。
在本示例性实施方式提供的方法中,一方面,通过获取目标应用对于数据采集需求的数据采集配置,如果目标应用对数据采集需求发生变化,可以随时调整数据采集配置,从而避免发布新版本,大大缩短了版本上线周期。另一方面,通过数据采集配置确定需要采集数据的埋点事件以及对埋点事件的上报策略,能够灵活地上报数据,避免采用固定模式上报数据导致数据泄露,从而提高数据的安全性。再一方面,数据采集以及数据上报可以实时变化,比较灵活,能够提高系统的健壮性,降低维护压力。
下面对本实施方式中的各个步骤的具体实施方式进行详细说明。
在步骤S210中,获取目标应用对于数据采集需求的数据采集配置。
其中,数据采集配置可以指目标应用对于数据采集需求的相关配置,通过该数据采集配置可以对目标应用使用的SDK进行配置,从而控制SDK采集的数据。数据采集配置中可以包括需要采集的目标数据,以及目标数据的上报地址;还可以包括获取目标数据采用的接口或者工具的相关信息,例如,用于采集数据的SDK的版本号等。此外,数据采集配置还可以包括其他信息,例如对采集的数据的脱敏处理等,本实施方式对此不做特殊限定。
本示例实施方式中,执行该数据采集方法的终端设备101、102、103上可以安装其他客户端应用,例如通讯类应用、购物类应用等。如图3所示,在终端设备上可以安装客户端应用201和客户端应用202,不同的客户端应用对应的服务端不同。如果客户端应用201和202均需要进行数据统计,则客户端201和202均需要集成数据采集平台提供的SDK,通过SDK收集数据。该数据采集方法可以对终端设备上的任意一个应用的数据进行采集,对于不同的应用,数据采集配置可以是不同的。在终端设备上客户端应用201启动时,可以触发对于应用201上的数据采集。从而通过客户端201与服务端205的交互,获取对于201的数据采集配置,该数据采集可以用于配置应用201中的SDK。或者,在客户端应用201中可以预设,应用启动时服务端205直接向客户端应用201下发数据采集配置。
在获取到数据采集配置后,可以通过数据采集配置对目标应用对应的SDK进行配置。具体的,该数据采集配置可以为一配置文件,利用该配置文件可以对终端设备本地上存储的对于该SDK的数据采集配置进行更新,从而对SDK采集的数据进行控制,例如,控制SDK采集哪些数据以及采集的数据上报到哪里。如果目标应用没有获取到服务器上的数据采集配置,则利用本地存储的配置文件也可以执行采集数据。在示例性实施方式中,每当目标应用启动时,可以从目标应用的服务器上重新获取数据采集配置,从而可以不断地对数据采集配置进行更新,满足不同的数据采集需求。
在其他实施方式中,也可以采用其他方式对数据采集配置进行更新,例如每隔预设时间段获取一次数据采集配置等,本公开对此不做限定。
在步骤S220中,根据所述数据采集配置,确定需要采集的所述目标应用的埋点事件,以及对于所述埋点事件的上报策略。
埋点事件可以包括目标应用的前端页面上的用户事件,例如用户点击事件、用户购买事件等;也可以包括其他事件,例如下单事件等,本实施方式对此不做限定。目标应用在制作版本时可以对需要进行收集的数据进行埋点,即,在需要收集的数据处调用SDK提供的接口,并生成一埋点标识,标识该埋点。或者,SDK可以监听所有的前端事件,对所有事件都进行记录,也就是说,对所有的事件都进行埋点。因此,埋点事件可以通过数据采集配置中包含的埋点标识确定,也可以通过事件标识确定。并且,通过数据采集配置可以确定需要采集的事件的类型,从而将该类型的事件确定为埋点事件。
通过数据采集配置可以确定需要采集的事件,以及对该事件的上报策略。上报策略可以指对采集的埋点事件的上报方式,将数据采集到之后需要进行统计,因此需要将数据上报至数据统计端,从而得出数据分析结论。上报策略可以包括对应的数据统计端的信息,例如数据统计端的地址等;也可以包括对于埋点事件的统计方法,例如每隔24小时段统计一次等;还可以包括埋点事件的上报方式,例如每10分钟上报一次等。
从数据采集配置中获取到埋点事件时,埋点事件可以包括多种事件,对不同的埋点事件的上报策略可以不同,从而可以根据数据采集配置确定所有的上报策略。在本实施方式中,不同的埋点事件上报策略不同,而且根据目标应用的数据采集需求,可以实时地对需要采集的埋点事件进行更新,或者对上报策略进行更新,使得数据以更加丰富的方式进行上报,从而降低了数据被泄露的风险,提高了数据的安全性。
在步骤S230中,如果检测到埋点事件,则按照所述上报策略将所述埋点事件上报至数据统计端。
其中,数据统计端可以指数据统计平台,如图3中的204,数据统计平台可以安装在SDK对应的服务器上。此外,数据统计平台也可以安装于目标应用所在的终端设备上。本实施方式提供的数据收集方法通过在目标应用中嵌入SDK,从而获取目标应用上的数据,并将数据发送至数据统计端进行统计。SDK可以通过钩子函数(Hook)来获取埋点事件。Hook可以在目标应用中插入代码,从而使得埋点事件被触发时,能够执行对应的代码,产生该埋点事件被触发的一条记录,以实现数据收集。如果检测到埋点事件则可以获取对于该埋点事件的记录,将该记录保存至数据库,并对数据库进行加密,从而提高数据的安全性。
针对每一上报策略可以建立一数据通道,从而得到多个数据通道,如果采集到埋点事件,则将该埋点事件放入对应的数据通道中,通过数据通道将上报策略不同的埋点事件进行隔离,从而正确的将数据进行上报。
参考图4,在示例性实施方式中,按照上报策略将埋点事件上报至数据统计端可以包括以下步骤:
S410.将对于所述埋点事件生成的事件记录插入上报队列;
S420.按照所述上报策略,将所述上报队列中的数据发送至数据统计端。
在步骤S410中,生成多个上报队列,上报策略不同的埋点事件对应的上报队列不同。如果检测到埋点事件,则该埋点事件触发后可以通过SDK提供的接口生成一事件记录,将该事件记录进行保存。根据收集到的事件记录对应的埋点事件的上报策略可以将事件记录插入到对应的上报队列中。在该上报队列中还可以记录采集到事件记录的时间戳,从而按照时间顺序对事件记录进行排列,使得先采集到的埋点事件能够先上报,或者根据时间戳将离当前时间较近的埋点事件进行上报。
在将埋点事件进行上报前,可以确定埋点事件的事件类型,从而根据埋点事件的事件类型将埋点事件进行上报,以便于对同类型的事件进行统计。因此,针对不同的事件类型可以生成不同的上报队列,将收集的埋点事件的事件记录按照事件类型放入不同的上报队列。
在步骤S420中,按照上报策略,将上报队列中的数据发送至数据统计端。示例性的,如果上报策略为3G网络下上报,则在终端设备的网络状态为3G时,将上报队列中的数据发送至数据统计端。如果上报策略为每30分钟上报一次,则每隔30分钟将上报队列中的数据发送至数据统计端。
可选的实施方式中,在上报数据之前,根据网络状态可以对上报策略进行分类,生成不同类分别对应的上报队列,从而确定目标网络状态对应的上报队列。例如,上报策略A为在3G状态下上报,上报策略B为在WIFI状态下上报,上报队列a可以对应3G状态,上报队列b可以对应WIFI状态。或者,根据上报时间间隔可以对上报策略进行分类,进而生成不同类对应的上报队列。例如,每隔30分钟上报一次的为一队列,每隔10分钟上报一次的为另一队列等。
可以理解的是,在本公开的其他实施方式中,还可以通过其他方式上报数据,例如,当WIFI状态下存储的事件记录达到60条时上报至数据统计端,4G状态下存储的事件记录达到40条上报至数据统计端等,这些同样属于本公开的保护范围。
在示例性实施方式中,按照上报策略将埋点事件上报至数据统计端之前,还可以统计已保存的埋点事件的总数,如果所述总数超过预设上限,则根据时间戳对已保存的埋点事件进行删除。
其中,预设上限可以表示存储的埋点事件的总数量,例如100条,或者,也可以表示存储的埋点事件所占用的空间的大小,例如1G等。此外,预设上限还可以包括其他值,例如5G、10000条等,本实施方式对此不做限定。
每条埋点事件采集到之后均需要对生成的事件记录进行保存,以便于向数据统计端发送。在每次保存埋点事件的事件记录之前可以判断对于埋点事件的记录占用的存储空间是否超出预设上限,或者已保存的事件记录的总数是否超出预设上限,如果保存的事件记录超出预设上限,则根据每条埋点事件的事件记录时间戳,可以将距当前时间最久的一条或多条数据进行删除,以保持存储空间的稳定。
参考图5,在将埋点是将上报至数据统计端之后,本实施方式还可以包括以下步骤:
S510.如果所述埋点事件上报成功,则在已保存的事件记录中将上报成功的埋点事件对应的事件记录删除;
S520.如果所述埋点事件上报失败,则根据重试机制重新上报所述埋点事件。
在步骤S510中,收集到的事件记录可以统一保存在终端设备的存储空间中,如果埋点事件成功上报至数据统计端,则可以将上报成功的事件记录删除。也就是说,终端设备上可以只保存没有上报的埋点事件,而上报成功的事件记录能够在数据统计端进行处理,从而合理地利用存储空间,节省埋点事件占用的存储空间。
在步骤S520中,重试机制可以指对已经上报失败的埋点事件的上报策略。示例性的,重试机制可以包括对上报失败的埋点事件反复上报一定次数,例如,3次、6次等,重试机制还可以包括其他上报方式,例如对上报失败的埋点事件可以重新上报到另一数据统计端等等,本实施方式不限于此。如果通过重试机制仍然没有上报成功的埋点事件可以进行删除,例如,有10条埋点事件上报失败,通过重试机制重试之后,8条上报成功,2条上报仍然失败,则可以将这2条埋点事件删除。
如图6所示,本实施方式的数据采集方法可以包括步骤S601至步骤S610。其中:
在步骤S601中,在客户端应用启动时,可以从该客户端应用对应的服务端获取对于该客户端应用的数据采集配置。在步骤S602中,利用获取到的数据采集配置可以更新终端设备本地的数据采集配置。如果在客户端应用上线后,发现漏埋了一个数据,则可以通过在该客户端应用对应的服务端下发需要埋点的数据,从而在客户端应用启动时,通过更新数据采集配置,使得漏埋的数据能够被采集到。相比于重新进行埋点后,重新发布版本来说,能够快速地解决漏埋点的问题,从而降低版本的维护压力。
在步骤S603中,检测到客户端应用产生事件,例如,客户端应用产生用户点击事件、用户下单事件等。产生的事件可以包括埋点事件,也可以包括其他事件。采用更新后的数据采集配置可以确定客户端应用产生的事件中哪些需要进行收集。如果数据采集配置不需要更新,则客户端应用可以继续采用本地保存的数据采集配置。在步骤S604中,将产生的事件中的埋点事件进行收集。利用SDK在埋点事件产生时,生成对于该埋点事件的记录,从而得到对于客户端应用上所有埋点事件的记录。在步骤S605中,对收集的埋点事件进行校验,可以校验SDK记录的埋点事件与数据采集配置中标记的事件是否一致,如果一致,则收集正确,如果不一致,那么可以重新收集。在步骤S606中,判断数据存储量是否达到上限,数据存储量可以指保存的所有事件记录的总量。如果确定存储量达到上限,则执行步骤S607,删除数据,可以删除事件记录中最老的一条数据。删除数据之后可以执行步骤S608。如果数据存储量没有达到上限,则可以直接执行步骤S608。
在步骤S608中,插入数据,可以将采集到埋点记录插入存储空间,或者上报队列中,即对采集到的数据进行存储。在步骤S609中,上报数据,可以将事件记录发送至数据统计端。在步骤S610中,判断数据上报是否成功,如果数据上报成功,则执行步骤S612,将上报成功的事件记录进行删除。如果数据上报失败,则执行步骤S611,确定重试机制,根据重试机制重新上报失败的事件记录。
进一步的,本公开的示例性实施方式还提供一种数据采集装置,可以用于执行本公开上述的数据采集方法。
如图7所示,该数据采集装置700可以包括配置确定模块710、策略确定模块720以及数据上报模块730。
其中,配置确定模块710用于获取对于目标应用的数据采集配置;策略确定模块720用于根据所述数据采集配置,确定需要采集的所述目标应用的埋点事件,以及对于所述埋点事件的上报策略;数据上报模块730用于如果检测到所述埋点事件,则按照所述上报策略将所述埋点事件上报至数据统计端。
在本公开的示例性实施方式中,数据采集装置700还包括配置更新模块。该配置更新模块可以用于在所述目标应用启动时,更新所述数据采集配置,以对所述上报策略和所述埋点事件进行更新。
在本公开的示例性实施方式中,数据上报模块730可以包括记录生成单元以及数据发送单元。其中,记录生成单元用于将对于所述埋点事件生成的事件记录插入上报队列;数据发送单元用于按照所述上报策略,将所述上报队列中的数据发送至数据统计端。
在本公开的示例性实施方式中,数据发送单元可以用于根据所述上报策略中的网络状态,将所述上报队列中的数据发送至所述数据统计端;或者根据所述上报策略中的上报时间间隔,将所述上报队列中的数据发送至所述数据统计端。
在本公开的示例性实施方式中,数据采集装置700还包括队列确定模块,用于按照所述埋点事件的事件类型,确定所述埋点事件的事件记录对应的上报队列。
在本公开的示例性实施方式中,该数据采集装置700还可以包括存储量控制模块,用于统计已保存的所述埋点事件的事件记录的总数,如果所述总数超过预设上限,则根据时间戳对所述事件记录进行删除。
在本公开的示例性实施方式中,该数据采集装置700可以包括成功上报模块和失败上报模块。其中,成功上报模块用于如果所述埋点事件上报成功,则在已保存的事件记录中将上报成功的埋点事件对应的事件记录删除;失败上报模块用于如果所述埋点事件上报失败,则根据重试机制重新上报所述埋点事件。
由于本公开的示例实施例的数据采集装置的各个功能模块与上述数据采集方法的示例实施例的步骤对应,因此对于本公开装置实施例中未披露的细节,请参照本公开上述的数据采集方法的实施例。
下面参考图8,其示出了适于用来实现本公开实施例的电子设备的计算机系统800的结构示意图。图8示出的电子设备的计算机系统800仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图8所示,计算机系统800包括中央处理单元(CPU)801,其可以根据存储在只读存储器(ROM)802中的程序或者从存储部分808加载到随机访问存储器(RAM)803中的程序而执行各种适当的动作和处理。在RAM 803中,还存储有系统操作所需的各种程序和数据。CPU801、ROM 802以及RAM 803通过总线804彼此相连。输入/输出(I/O)接口805也连接至总线804。
以下部件连接至I/O接口805:包括键盘、鼠标等的输入部分806;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分807;包括硬盘等的存储部分808;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分809。通信部分809经由诸如因特网的网络执行通信处理。驱动器810也根据需要连接至I/O接口805。可拆卸介质811,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器810上,以便于从其上读出的计算机程序根据需要被安装入存储部分808。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分809从网络上被下载和安装,和/或从可拆卸介质811被安装。在该计算机程序被中央处理单元(CPU)801执行时,执行本申请的系统中限定的上述功能。
需要说明的是,本公开所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现,所描述的单元也可以设置在处理器中。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定。
作为另一方面,本申请还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该电子设备执行时,使得该电子设备实现如上述实施例中所述的数据采集方法。
例如,所述的电子设备可以实现如图2中所示的:步骤S210,获取对于目标应用的数据采集配置;步骤S220,根据所述数据采集配置,确定需要采集的所述目标应用的埋点事件,以及对于所述埋点事件的上报策略;步骤S230,如果检测到所述埋点事件,则按照所述上报策略将所述埋点事件上报至数据统计端。
又如,所述的电子设备可以实现如图4所示的各个步骤。
应当注意,尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本公开的实施方式,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本公开实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、触控终端、或者网络设备等)执行根据本公开实施方式的方法。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本公开的其它实施方案。本申请旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由下面的权利要求指出。
应当理解的是,本公开并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。

Claims (10)

1.一种数据采集方法,其特征在于,包括:
获取对于目标应用的数据采集配置;
根据所述数据采集配置,确定需要采集的所述目标应用的埋点事件,以及对于所述埋点事件的上报策略;
如果检测到所述埋点事件,则按照所述上报策略将所述埋点事件上报至数据统计端。
2.根据权利要求1所述的方法,其特征在于,获取对于目标应用的数据采集配置之后,还包括:
在所述目标应用启动时,更新所述数据采集配置,以对所述上报策略和所述埋点事件进行更新。
3.根据权利要求1所述的方法,其特征在于,所述按照所述上报策略将所述埋点事件上报至数据统计端,包括:
将对于所述埋点事件生成的事件记录插入上报队列;
按照所述上报策略,将所述上报队列中的数据发送至数据统计端。
4.根据权利要求3所述的方法,其特征在于,所述按照所述上报策略,将所述上报队列中的数据发送至数据统计端,包括:
根据所述上报策略中的网络状态,将所述上报队列中的数据发送至所述数据统计端;或者
根据所述上报策略中的上报时间间隔,将所述上报队列中的数据发送至所述数据统计端。
5.根据权利要求3所述的方法,其特征在于,按照所述上报策略将所述埋点事件上报至数据统计端之前,还包括:
按照所述埋点事件的事件类型,确定所述埋点事件的事件记录对应的上报队列。
6.根据权利要求1所述的方法,其特征在于,按照所述上报策略将所述埋点事件上报至数据统计端之前,还包括:
统计已保存的所述埋点事件的事件记录的总数,如果所述总数超过预设上限,则根据时间戳对所述事件记录进行删除。
7.根据权利要求6所述的方法,其特征在于,按照所述上报策略将所述埋点事件上报至数据统计端之后,还包括:
如果所述埋点事件上报成功,则在已保存的事件记录中将上报成功的埋点事件对应的事件记录删除;
如果所述埋点事件上报失败,则根据重试机制重新上报所述埋点事件。
8.一种数据采集装置,其特征在于,包括:
配置确定模块,用于获取对于目标应用的数据采集配置;
策略确定模块,用于根据所述数据采集配置,确定需要采集的所述目标应用的埋点事件,以及对于所述埋点事件的上报策略;
数据上报模块,用于如果检测到所述埋点事件,则按照所述上报策略将所述埋点事件上报至数据统计端。
9.一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1至7中任一项所述的数据采集方法。
10.一种电子设备,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器实现如权利要求1至7中任一项所述的数据采集方法。
CN201910907700.1A 2019-09-24 2019-09-24 数据采集方法、装置、计算机可读介质及电子设备 Pending CN112631879A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910907700.1A CN112631879A (zh) 2019-09-24 2019-09-24 数据采集方法、装置、计算机可读介质及电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910907700.1A CN112631879A (zh) 2019-09-24 2019-09-24 数据采集方法、装置、计算机可读介质及电子设备

Publications (1)

Publication Number Publication Date
CN112631879A true CN112631879A (zh) 2021-04-09

Family

ID=75282914

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910907700.1A Pending CN112631879A (zh) 2019-09-24 2019-09-24 数据采集方法、装置、计算机可读介质及电子设备

Country Status (1)

Country Link
CN (1) CN112631879A (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113468016A (zh) * 2021-06-10 2021-10-01 上海硬通网络科技有限公司 埋点数据上报方法、装置、计算机设备和存储介质
CN113472858A (zh) * 2021-06-10 2021-10-01 北京达佳互联信息技术有限公司 埋点数据处理方法、装置及电子设备
CN114629818A (zh) * 2022-04-07 2022-06-14 康键信息技术(深圳)有限公司 前端埋点数据的上报检测方法、系统及计算机可读存储介质
CN115442225A (zh) * 2022-08-01 2022-12-06 上海数禾信息科技有限公司 埋点日志上报方法和装置以及埋点质量监控方法和装置

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180102936A1 (en) * 2016-10-07 2018-04-12 Bank Of America Corporation Real time event capture, analysis and reporting system
CN108833459A (zh) * 2018-04-09 2018-11-16 平安普惠企业管理有限公司 数据上报方法及终端设备

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180102936A1 (en) * 2016-10-07 2018-04-12 Bank Of America Corporation Real time event capture, analysis and reporting system
CN108833459A (zh) * 2018-04-09 2018-11-16 平安普惠企业管理有限公司 数据上报方法及终端设备

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113468016A (zh) * 2021-06-10 2021-10-01 上海硬通网络科技有限公司 埋点数据上报方法、装置、计算机设备和存储介质
CN113472858A (zh) * 2021-06-10 2021-10-01 北京达佳互联信息技术有限公司 埋点数据处理方法、装置及电子设备
CN113472858B (zh) * 2021-06-10 2023-09-29 北京达佳互联信息技术有限公司 埋点数据处理方法、装置及电子设备
CN114629818A (zh) * 2022-04-07 2022-06-14 康键信息技术(深圳)有限公司 前端埋点数据的上报检测方法、系统及计算机可读存储介质
CN115442225A (zh) * 2022-08-01 2022-12-06 上海数禾信息科技有限公司 埋点日志上报方法和装置以及埋点质量监控方法和装置

Similar Documents

Publication Publication Date Title
CN110008045B (zh) 微服务的聚合方法、装置、设备及存储介质
CN112631879A (zh) 数据采集方法、装置、计算机可读介质及电子设备
CN109002395B (zh) 一种代码覆盖率管理方法和装置
CN107370806B (zh) Http状态码监控方法、装置、存储介质和电子设备
CN113094136A (zh) 页面显示控制方法、装置、存储介质及电子设备
EP3937022B1 (en) Method and apparatus of monitoring interface performance of distributed application, device and storage medium
CN107688626B (zh) 慢查询日志处理方法、装置及电子设备
CN110874307A (zh) 事件埋点的收集上报方法和装置
CN107644075B (zh) 收集页面信息的方法和装置
CN110928934A (zh) 一种用于业务分析的数据处理方法和装置
CN110019437A (zh) 一种导出数据的方法和系统
CN108255967B (zh) 存储过程的调用方法、装置、存储介质及终端
CN105553770B (zh) 一种数据采集控制方法和装置
CN113760982A (zh) 一种数据处理方法和装置
CN110554951A (zh) 一种埋点管理的方法和装置
CN110866031A (zh) 数据库访问路径的优化方法、装置、计算设备以及介质
CN110457089B (zh) 数据采集方法、装置、计算机可读存储介质和计算机设备
CN110674426B (zh) 网页行为上报方法和装置
CN110020166B (zh) 一种数据分析方法及相关设备
CN116204428A (zh) 一种测试用例生成方法和装置
CN113238919A (zh) 一种用户访问数的统计方法、装置及系统
CN110908886A (zh) 一种数据发送方法、装置、电子设备和存储介质
CN112910855A (zh) 一种样例报文处理方法及装置
CN113254325A (zh) 测试用例的处理方法和装置
CN113761433A (zh) 业务处理方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination