CN112433920A - 一种埋点数据上报方法、装置、设备及介质 - Google Patents
一种埋点数据上报方法、装置、设备及介质 Download PDFInfo
- Publication number
- CN112433920A CN112433920A CN201910792661.5A CN201910792661A CN112433920A CN 112433920 A CN112433920 A CN 112433920A CN 201910792661 A CN201910792661 A CN 201910792661A CN 112433920 A CN112433920 A CN 112433920A
- Authority
- CN
- China
- Prior art keywords
- data
- buried point
- real
- point data
- reported
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 49
- 230000004044 response Effects 0.000 claims abstract description 32
- 230000005540 biological transmission Effects 0.000 claims description 15
- 238000004590 computer program Methods 0.000 claims description 7
- 238000009933 burial Methods 0.000 claims description 4
- 238000010586 diagram Methods 0.000 description 9
- 230000003287 optical effect Effects 0.000 description 6
- 238000012856 packing Methods 0.000 description 3
- 230000001960 triggered effect Effects 0.000 description 3
- 230000006870 function Effects 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000008707 rearrangement Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/34—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
- G06F11/3466—Performance evaluation by tracing or monitoring
- G06F11/3476—Data logging
Landscapes
- Engineering & Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Computer Hardware Design (AREA)
- Quality & Reliability (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Information Transfer Between Computers (AREA)
Abstract
本发明实施例公开了一种埋点数据上报方法、装置、设备及介质,所述方法包括:在生成业务请求时,从埋点数据文件中读取埋点数据,根据所述业务请求以及所述埋点数据生成待传输数据;确定所述业务请求对应的业务接口,并调用所述业务接口将所述待传输数据发送至服务器。本发明实施例所提供的方法通过在发送业务请求时调用业务接口进行埋点数据的上报,实现了不需要通过专门的埋点上报接口即可实现埋点数据的上报,加快了响应速度,通过将埋点数据分散至不同的业务接口上传,减少了单次埋点数据上报的数据量,节省了单次埋点数据上报时所占用的网络带宽,加快了服务器端返回的业务请求数据的接收速度,提高了客户端的性能。
Description
技术领域
本发明实施例涉及数据技术领域,尤其涉及一种埋点数据上报方法、装置、设备及介质。
背景技术
埋点是在客户端的应用中特定的流程收集一些信息,用来跟踪应用使用的状况,获取用户的使用习惯,以使服务器根据采集的埋点数据进一步优化产品或将埋点数据作为运营的数据支撑。目前京东客户端获取到这些数据后,会记录在一个文件中,通过轮询文件的大小,当文件到达一定大小后,调用专门的埋点上报接口传输给后端服务器,服务器进行数据存储记录。
在实现本发明的过程中,发明人发现现有技术中至少存在以下技术问题:当埋点数据较多时,需上报的数据量较大,会频繁调用埋点上报接口,占用网络带宽,数据上报速度慢,降低客户端性能。
发明内容
本发明实施例提供了一种埋点数据上报方法、装置、设备及介质,以实现加快埋点数据的上报速度,降低单次埋点数据上报时所占用的网络带宽,进而提高客户端性能。
第一方面,本发明实施例提供了一种埋点数据上报方法,包括:
在生成业务请求时,从埋点数据文件中读取埋点数据,根据所述业务请求以及所述埋点数据生成待传输数据;
确定所述业务请求对应的业务接口,并调用所述业务接口将所述待传输数据发送至服务器。
第二方面,本发明实施例还提供了一种埋点数据上报装置,包括:
请求数据生成模块,用于在生成业务请求时,从埋点数据文件中读取埋点数据,根据所述业务请求以及所述埋点数据生成待传输数据;
请求数据发送模块,用于确定所述业务请求对应的业务接口,并调用所述业务接口将所述待传输数据发送至服务器。
第三方面,本发明实施例还提供了一种计算机设备,所述设备包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序;
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如本发明任意实施例所提供的埋点数据上报方法。
第四方面,本发明实施例还提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如本发明任意实施例所提供的埋点数据上报方法。
本发明实施例通过在生成业务请求时,从埋点数据文件中读取埋点数据,根据所述业务请求以及所述埋点数据生成待传输数据;确定所述业务请求对应的业务接口,并调用所述业务接口将所述待传输数据发送至服务器,通过在发送业务请求时调用业务接口进行埋点数据的上报,实现了不需要通过专门的埋点上报接口即可实现埋点数据的上报,加快了响应速度,通过将埋点数据分散至不同的业务接口上传,减少了单次埋点数据上报的数据量,节省了单次埋点数据上报时所占用的网络带宽,加快了服务器端返回的业务请求数据的接收速度,提高了客户端的性能。
附图说明
图1是本发明实施例一所提供的一种埋点数据上报方法的流程图;
图2a是本发明实施例二所提供的一种埋点数据上报方法的流程图;
图2b是本发明实施例二所提供的一种埋点数据上报方法中实时数据上报的示意图;
图2c是本发明实施例二所提供的一种埋点数据上报方法中非实时数据上报的示意图;
图3是本发明实施例三所提供的一种埋点数据上报装置的结构示意图;
图4是本发明实施例四所提供的计算机设备的结构示意图。
具体实施方式
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释本发明,而非对本发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与本发明相关的部分而非全部结构。
实施例一
图1是本发明实施例一所提供的一种埋点数据上报方法的流程图。本实施例可适用于上报埋点数据时的情形。该方法可以由埋点数据上报装置执行,该埋点数据上报装置可以采用软件和/或硬件的方式实现,例如,该埋点数据上报装置可配置于计算机设备中。如图1所示,所述方法包括:
S110、在生成业务请求时,从埋点数据文件中读取埋点数据,根据业务请求以及埋点数据生成待传输数据。
为了解决埋点数据从专门的埋点数据接口进行上报在埋点数据量大时所产生的上报速度慢、占用网络带宽的技术问题,在本实施例中,通过在向服务器发送业务请求时,携带待上报的埋点数据,将埋点数据上报至服务器。可以理解的是,不同的业务请求对应的业务接口不同,也就是说,在本实施例中埋点数据是通过不同的业务接口被上报至服务器的。其中,业务请求可以为根据用户操作触发的请求,如用户需要访问某一页面时触发的页面访问请求、用户需要获取某些信息时触发的资源获取请求等。
在本实施例中,待上报的埋点数据存储在埋点数据文件中,当根据用户操作生成相应的业务请求时,从埋点数据文件中读取待上传的埋点数据,根据预先设定的数据打包规则将业务请求和埋点数据打包为待传输数据。其中,数据打包规则可以为将业务请求和埋点数据进行顺序拼接等规则。
S120、确定业务请求对应的业务接口,并调用业务接口将待传输数据发送至服务器。
在本实施例中,业务接口为客户端向服务器发送业务请求时需调用的接口。业务接口中定义了业务请求对应的调用方法的方法名。在本实施例中,可以根据业务请求的请求类型确定业务请求对应的业务接口,并调用该业务接口将待传输数据发送至服务器,以使服务器在接收到待传输数据时,获取待传输数据中包含的埋点数据。可选的,服务器可以根据与预先设定的打包规则对应的数据拆包规则获取待传输数据中包含的埋点数据。可选的。服务器还可以根据预先设置的关键字从待传输数据中筛选出埋点数据。
可以理解的是,用户在使用客户端时会实时生成不同的业务请求,在向服务器发送单次业务请求时,均携带埋点数据,以将携带的埋点数据上报至服务器,能够将埋点数据通过不同的业务请求,调用不同的业务接口上报至服务器,解决了现有技术中埋点数据量较大时,频繁调用埋点数据上报接口,占用网络带宽的技术问题。
本发明实施例通过在生成业务请求时,从埋点数据文件中读取埋点数据,根据所述业务请求以及所述埋点数据生成待传输数据;确定所述业务请求对应的业务接口,并调用所述业务接口将所述待传输数据发送至服务器,通过在发送业务请求时调用业务接口进行埋点数据的上报,实现了不需要通过专门的埋点上报接口即可实现埋点数据的上报,加快了响应速度,通过将埋点数据分散至不同的业务接口上传,减少了单次埋点数据上报的数据量,节省了单次埋点数据上报时所占用的网络带宽,进而加快了服务器端返回的业务请求数据的接收速度,提高了客户端的性能。
在上述方案的基础上,所述埋点数据文件中还存储有各埋点数据分别对应的数据标识;所述根据所述业务请求以及所述埋点数据生成待传输数据,包括:
根据所述业务请求、所述埋点数据、以及所述埋点数据对应的数据标识生成待传输数据;
相应的,在将所述待传输数据发送至服务器之后,还包括:
接收服务器发送的数据接收应答信息,获取所述数据接收应答信息中包含的数据标识,并从所述埋点数据文件中删除与所述数据接收应答信息中包含的数据标识对应的埋点数据。
在本实施例中,在进行埋点数据的存储时,可以为埋点数据设置对应的数据标识,当从埋点数据文件中获取埋点数据时,同时获取埋点数据对应的数据标识,并根据埋点数据、埋点数据对应的数据标识以及业务请求生成待传输数据。当服务器接收到埋点数据后,生成包含有埋点数据对应的数据标识的数据接收应答信息,并将数据接收应答信息发送至客户端,客户端接收到服务器发送的数据接收应答信息后,获取数据接收应答信息中包含的数据标识,并删除埋点数据文件中与数据标识对应的埋点数据,通过应答机制避免了由于网络等原因导致的消息丢失,没有上报成功时造成的埋点数据丢失。
在上述方案的基础上,埋点数据文件中还可以存储埋点数据的数据块大小,相应的,客户端生成包含有业务请求、埋点数据、埋点数据对应的数据标识、埋点数据的数据块大小的待传输数据,服务器接收到埋点数据后,生成包含有埋点数据对应的数据标识以及埋点数据的数据块大小的数据接收应答信息,并将数据接收应答信息发送至客户端,客户端接收到服务器发送的数据接收应答信息后,获取数据接收应答信息中包含的数据标识及数据块大小,根据数据标识及数据块大小可唯一确定服务器端接收到的埋点数据,并在埋点数据文件中删除确定的埋点数据,使用数据标识和数据块大小确定埋点数据使得埋点数据的确定更加准确。
在本发明的一种实施方式中,可以设置埋点数据的重要度,在埋点数据的重要度高于预设阈值时,生成埋点数据对应的数据标识以及埋点数据的数据块大小,并与埋点数据对应存储至埋点数据文件中,使得针对重要度高于预设阈值的埋点数据,服务器才会生成对应的数据接收应答信息,减少了数据接收应答信息的发送数量,进而节省了网络带宽。
实施例二
图2a是本发明实施例二所提供的一种埋点数据上报方法的流程图。本实施例在上述实施例的基础上将从埋点数据文件中读取埋点数据进行了具体化。如图2a所示,所述方法包括:
S210、在生成业务请求时,判断实时数据文件中是否存在待上报实时数据,若实时数据文件中存在待上报实时数据,则读取待上报实时数据作为埋点数据。
在本实施例中,埋点数据文件包括实时数据文件和非实时数据文件,实时数据文件中存储有待上报实时数据,非实时数据文件中存储有待上报非实时数据,且实时数据的上报优先级高于非实时数据的上报优先级。在生成业务请求时,先判断实时数据文件中是否存在待上报实时数据,当实时数据文件中存在待上报实时数据时,获取待上报实时数据作为埋点数据。可选的,可以根据实时数据文件的文件大小判断实时数据文件中是否包含待上报实时数据。示例性的,若实时数据文件的文件大小为0,则判定实时数据文件中不包含待上报实时数据,若实时数据文件的文件大小不为0,则判定实时数据文件中包含待上报实时数据。
图2b是本发明实施例二所提供的一种埋点数据上报方法中实时数据上报的示意图。如图2b所示,客户端获取到实时数据后,记录在实时数据文件中,在发送业务请求时,读取实时数据文件,若实时数据文件中存在实时数据,则将实时数据放在业务请求中通过业务接口发送,其中,业务请求所携带的数据还包含每段数据唯一编号(数据标识)以及数据块大小,服务器收到业务请求后随业务接口返回一个应答,接口中包含数据唯一编号,数据块大小,客户端收到应答后通过数据唯一编号和数据块大小可以确定已经收到的数据,在实时数据文件中将这些数据删除。
S220、判断非实时数据文件中是否存在待上报非实时数据,若非实时数据文件中存在待上报非实时数据,则读取非实时数据文件中的待上报非实时数据,将待上报非实时数据作为埋点数据。
在本实施例中,当实时数据文件中存在待上报实时数据时,可以在读取待上报实时数据后,读取待上报非实时数据文件中的待上报非实时数据,将待上报实时数据和待上报非实时数据作为埋点数据;当实时数据文件中不存在待上报实时数据时,可以读取待上报非实时数据文件中的待上报非实时数据,将待上报非实时数据作为埋点数据。
为了使埋点数据的上报不影响正常的业务请求及响应,以及保证待上报实时数据能够及时上报,当存在待上报实时数据时,可以直接将待上报实时数据作为埋点数据,当不存在待上报实时数据时,获取待上报非实时数据作为埋点数据。一般的,实时数据的数据块大小较小,因此实时数据与业务请求生成的待传输数据的数据大小相对于业务请求的数据大小来说变化也较小,携带有实时数据的待传输数据在数据传输时不会过多的占用网络带宽,进而不会影响业务的正常响应,而待上报非实时数据的数据块大小不定,即待上报非实时数据中可能存在数据量较大的待上报非实时数据,为了避免携带数据量较大的待上报非实时数据对业务的正常响应产生影响,可以在根据获取的待上报非实时数据与业务请求生成待传输数据之前,判断待上报非实时数据的数据大小,在待上报非实时数据的数据大小超出阈值时,将待上报非实时数据进行分割,获得小于阈值的部分待上报非实时数据,将小于阈值的待上报非实时数据跟随此次业务请求上报至服务器。通过将非实时数据随业务接口上报,节省了轮询数据文件大小的操作,提高了客户端性能。
图2c是本发明实施例二所提供的一种埋点数据上报方法中非实时数据上报的示意图。如图2c所示,客户端获取到非实时数据后,记录在非实时数据文件中,在发送业务请求时,先判断非实时数据文件大小,如果文件大小为0,表示已经无需要上报的数据,如果文件大小大于0,则判断文件大小是否大于预设埋点数据阈值100k(该参数可以根据实际情况进行设置),如果文件大小不大于100K,则将非实时数据放在业务请求中通过业务请求接口发送,如果文件大小大于100K,则获取最早的100k数据块放在业务请中通过业务接口发送。其中,业务请求所携带的数据还包含每段数据唯一编号(数据标识)以及数据块大小,服务器收到业务请求后随业务接口返回一个应答,接口中包含数据唯一编号,数据块大小,客户端收到应答后通过数据唯一编号和数据块大小可以确定已经收到的数据,在非实时数据文件中将这些数据删除。
在本发明的一种实施方式中,所述读取所述非实时数据文件中的待上报非实时数据,将所述待上报非实时数据作为所述埋点数据,包括:
确定埋点数据大小阈值,判断所述待上报非实时数据的数据大小是否大于所述埋点数据大小阈值;
若所述待上报非实时数据的数据大小大于所述埋点数据大小阈值,则将所述待上报非实时数据分割为多个待上报非实时子数据,将分割得到的部分待上报非实时子数据作为所述埋点数据,其中,作为所述埋点数据的待上报非实时子数据的大小不大于埋点数据大小阈值;
若所述待上报非实时数据的数据大小不大于所述埋点数据大小阈值,则将所述待上报非实时数据作为所述埋点数据。
可选的,可以预先设定业务请求中可携带的埋点数据的埋点数据大小阈值,在获取待上报非实时数据后,判断待上报非实时数据的数据大小是否大于埋点数据大小阈值,若待上报非实时数据的数据大小大于埋点数据大小阈值,判定直接携带待上报非实时数据发送至服务器可能会影响正常业务的响应,则将待上报非实时数据分割为多个待上报非实时子数据,将分割得到的部分待上报非实时子数据作为埋点数据,其中,待上报非实时子数据的大小不大于埋点数据大小阈值;若待上报非实时数据的数据大小不大于所述埋点数据大小阈值,判定直接携带待上报非实时数据发送至服务器不会影响正常业务的响应,则将待上报非实时数据作为埋点数据。
示例性的,假设埋点数据大小阈值为100千字节(K),若非实时数据文件中待上报非实时数据的数据大小不大于100K,则将非实时数据作为埋点数据上传;若非实时数据文件中待上报非实时数据的数据大小大于100K,则将待上报非实时数据进行分割,分割出非实时数据文件中存储时间最早的前100K待上报非实时数据作为埋点数据。
在本发明的一种实施方式中,所述确定埋点数据大小阈值,包括:
根据所述业务请求的请求类型确定所述待传输数据的传输数据大小阈值;
根据所述传输数据大小阈值以及所述业务请求的数据大小确定所述埋点数据大小阈值。
考虑到不同的业务请求对应的可传输的数据大小不同,且不同的业务请求的数据大小也不同,为了使埋点数据大小阈值更加精确,可以根据业务请求的请求类型以及业务请求的数据大小确定埋点数据大小阈值。可选的,可以预先设置业务类型和传输数据大小阈值的对应关系,在生成业务请求后,通过查找预先设置的对应关系,确定待传输数据的传输数据大小阈值,然后根据传输数据大小阈值和业务请求的数据大小确定埋点数据大小阈值。可以理解的是,当埋点数据中包含待上报实时数据和待上报非实时数据时,可以将传输数据大小阈值与业务请求、待上报实时数据的数据大小之间的差值作为埋点数据大小阈值。示例性的,假设传输数据大小阈值为200K,业务请求的数据大小为100k,待上报实时数据大小为20K,则埋点数据大小阈值为80k;当埋点数据中仅包含待上报非实时数据时,可以将传输数据大小阈值与业务请求的数据大小之间的差值作为埋点数据大小阈值。示例性的,假设传输数据大小阈值为200K,业务请求的数据大小为100k,则埋点数据大小阈值为100k。
在本发明的另一种实施方式中,在从实时数据文件中获取待上报实时数据后,还可以从非实时数据文件中获取一定数据大小的非实时数据,将实时数据与非实时数据同时通过业务接口上报至服务器。需要说明的是,非实时数据的数据大小可以根据埋点数据阈值确定。可选的,将待传输数据大小阈值与业务请求的数据大小、实时数据的数据大小之间的差值作为埋点数据大小阈值。示例性的,假设传输数据大小阈值为200K,业务请求的数据大小为100K,实时数据的数据大小为10K,则埋点数据大小阈值为90K。
S230、根据业务请求以及埋点数据生成待传输数据。
S240、确定业务请求对应的业务接口,并调用业务接口将待传输数据发送至服务器。
本发明实施例的技术方案,在上述实施例的基础上将从埋点数据文件中读取埋点数据进行了具体化,通过判断实时数据文件中是否存在待上报实时数据,若实时数据文件中存在待上报实时数据,则读取待上报实时数据作为埋点数据,若实时数据文件中不存在待上报实时数据,则读取非实时数据文件中的待上报非实时数据,将待上报非实时数据作为埋点数据,保证了实时数据上报的实时性,实现了实时上报与批量上报并存。
在上述方案的基础上,还包括:
根据检测到的待存储埋点数据的数据类型判断所述待存储埋点数据的存储数据类型;
若所述待存储埋点数据为实时数据,则将所述待存储埋点数据存储至所述实时数据文件中;
若所述待存储埋点数据为非实时数据,则将所述待存储埋点数据存储至所述非实时数据文件中。
在本实施例中,客户端获取到待存储埋点数据后,根据待存储埋点数据的数据类型判断待存储埋点数据的存储数据类型,其中,存储数据类型包括实时数据和非实时数据。可选的,可以预先设置数据类型与存储数据类型之间的对应关系,在获取到待存储埋点数据后,通过查找预先设置的对应关系确定待存储埋点数据的存储数据类型。若待存储埋点数据的存储数据类型为实时数据,则将待存储埋点数据存储至实时数据文件中,并为其分配唯一的数据标识;若待存储埋点数据的存储数据类型为非实时数据,则将待存储埋点数据存储至非实时数据文件中,并为其分配唯一的数据标识。可选的,可以根据埋点数据的重要程度或根据埋点数据的数据类型确定埋点数据的存储数据类型。示例性的,可以预先设置埋点数据的重要程度,将重要程度高于预设阈值的埋点数据作为实时数据,和/或将数据类型为预设数据类型的埋点数据作为实时数据,如结算故障、系统故障等数据;将重要程度不高于预设阈值的埋点数据作为非实时数据,和/或将数据类型为网络故障、用户偏好等类型的埋点数据作为非实时数据,如网络异常、用户访问某一物品等数据。
实施例三
图3是本发明实施例三所提供的一种埋点数据上报装置的结构示意图。该埋点数据上报装置可以采用软件和/或硬件的方式实现,例如该埋点数据上报装置可以配置于计算机设备中。如图3所示,所述装置包括请求数据生成模块310和请求数据发送模块320,其中:
请求数据生成模块310,用于在生成业务请求时,从埋点数据文件中读取埋点数据,根据所述业务请求以及所述埋点数据生成待传输数据;
请求数据发送模块320,用于确定所述业务请求对应的业务接口,并调用所述业务接口将所述待传输数据发送至服务器。
本发明实施例通过请求数据生成模块在生成业务请求时,从埋点数据文件中读取埋点数据,根据所述业务请求以及所述埋点数据生成待传输数据;请求数据发送模块确定所述业务请求对应的业务接口,并调用所述业务接口将所述待传输数据发送至服务器,通过在发送业务请求时调用业务接口进行埋点数据的上报,实现了不需要通过专门的埋点上报接口即可实现埋点数据的上报,加快了响应速度,通过将埋点数据分散至不同的业务接口上传,减少了单次埋点数据上报的数据量,节省了单次埋点数据上报时所占用的网络带宽,加快了服务器端返回的业务请求数据的接收速度,提高了客户端的性能。
在上述方案的基础上,所述埋点数据文件包括实时数据文件,所述请求数据生成模块310包括:
实时数据获取单元,用于判断所述实时数据文件中是否存在待上报实时数据,若所述实时数据文件中存在待上报实时数据,则读取所述待上报实时数据作为所述埋点数据。
在上述方案的基础上,所述埋点数据还包括非实时数据文件,所述请求数据生成模块310包括:
非实时数据获取单元,用于判断所述非实时数据文件中是否存在待上报非实时数据,若所述非实时数据文件中存在所述待上报非实时数据,则读取所述非实时数据文件中的待上报非实时数据,将所述待上报非实时数据作为所述埋点数据。
在上述方案的基础上,所述非实时数据获取单元具体用于:
确定埋点数据大小阈值,判断所述待上报非实时数据的数据大小是否大于所述埋点数据大小阈值;
若所述待上报非实时数据的数据大小大于所述埋点数据大小阈值,则将所述待上报非实时数据分割为多个待上报非实时子数据,将分割得到的一个待上报非实时子数据作为所述埋点数据,其中,作为所述埋点数据的待上报非实时子数据的大小不大于埋点数据大小阈值;
若所述待上报非实时数据的数据大小不大于所述埋点数据大小阈值,则将所述待上报非实时数据作为所述埋点数据。
在上述方案的基础上,所述非实时数据获取单元具体用于:
根据所述业务请求的请求类型确定所述待传输数据的传输数据大小阈值;
根据所述传输数据大小阈值以及所述业务请求的数据大小确定所述埋点数据大小阈值。
在上述方案的基础上,所述装置还包括数据存储模块,用于:
根据检测到的待存储埋点数据的数据类型判断所述待存储埋点数据的存储数据类型;
若所述待存储埋点数据为实时数据,则将所述待存储埋点数据存储至所述实时数据文件中;
若所述待存储埋点数据为非实时数据,则将所述待存储埋点数据存储至所述非实时数据文件中。
在上述方案的基础上,所述埋点数据文件中还存储有各埋点数据分别对应的数据标识,所述请求数据生成模块310具体用于:
根据所述业务请求、所述埋点数据、以及所述埋点数据对应的数据标识获得待传输数据;
相应的,所述装置还包括数据删除模块,用于:
在将所述待传输数据发送至服务器之后,接收服务器发送的数据接收应答信息,获取所述数据接收应答信息中包含的数据标识,并从所述埋点数据文件中删除与所述数据接收应答信息中包含的数据标识对应的埋点数据。
本发明实施例所提供的埋点数据上报装置可执行任意实施例所提供的埋点数据上报方法,具备执行方法相应的功能模块和有益效果。
实施例四
图4是本发明实施例四所提供的计算机设备的结构示意图。图4示出了适于用来实现本发明实施方式的示例性计算机设备412的框图。图4显示的计算机设备412仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图4所示,计算机设备412以通用计算设备的形式表现。计算机设备412的组件可以包括但不限于:一个或者多个处理器416,系统存储器428,连接不同系统组件(包括系统存储器428和处理器416)的总线418。
总线418表示几类总线结构中的一种或多种,包括存储器总线或者存储器控制器,外围总线,图形加速端口,处理器416或者使用多种总线结构中的任意总线结构的局域总线。举例来说,这些体系结构包括但不限于工业标准体系结构(ISA)总线,微通道体系结构(MAC)总线,增强型ISA总线、视频电子标准协会(VESA)局域总线以及外围组件互连(PCI)总线。
计算机设备412典型地包括多种计算机系统可读介质。这些介质可以是任何能够被计算机设备412访问的可用介质,包括易失性和非易失性介质,可移动的和不可移动的介质。
系统存储器428可以包括易失性存储器形式的计算机系统可读介质,例如随机存取存储器(RAM)440和/或高速缓存存储器442。计算机设备412可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例,存储装置444可以用于读写不可移动的、非易失性磁介质(图4未显示,通常称为“硬盘驱动器”)。尽管图4中未示出,可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器,以及对可移动非易失性光盘(例如CD-ROM,DVD-ROM或者其它光介质)读写的光盘驱动器。在这些情况下,每个驱动器可以通过一个或者多个数据介质接口与总线418相连。存储器428可以包括至少一个程序产品,该程序产品具有一组(例如至少一个)程序模块,这些程序模块被配置以执行本发明各实施例的功能。
具有一组(至少一个)程序模块442的程序/实用工具440,可以存储在例如存储器428中,这样的程序模块442包括但不限于操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块442通常执行本发明所描述的实施例中的功能和/或方法。
计算机设备412也可以与一个或多个外部设备414(例如键盘、指向设备、显示器424等)通信,还可与一个或者多个使得用户能与该计算机设备412交互的设备通信,和/或与使得该计算机设备412能与一个或多个其它计算设备进行通信的任何设备(例如网卡,调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口422进行。并且,计算机设备412还可以通过网络适配器420与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。如图所示,网络适配器420通过总线418与计算机设备412的其它模块通信。应当明白,尽管图中未示出,可以结合计算机设备412使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
处理器416通过运行存储在系统存储器428中的程序,从而执行各种功能应用以及埋点数据上报,例如实现本发明实施例所提供的埋点数据上报方法,该方法包括:
在生成业务请求时,从埋点数据文件中读取埋点数据,根据所述业务请求以及所述埋点数据生成待传输数据;
确定所述业务请求对应的业务接口,并调用所述业务接口将所述待传输数据发送至服务器。
当然,本领域技术人员可以理解,处理器还可以实现本发明任意实施例所提供的埋点数据上报方法的技术方案。
实施例五
本发明实施例五还提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如本发明实施例所提供的埋点数据上报方法,该方法包括:
在生成业务请求时,从埋点数据文件中读取埋点数据,根据所述业务请求以及所述埋点数据生成待传输数据;
确定所述业务请求对应的业务接口,并调用所述业务接口将所述待传输数据发送至服务器。
当然,本发明实施例所提供的一种计算机可读存储介质,其上存储的计算机程序不限于如上所述的方法操作,还可以执行本发明任意实施例所提供的埋点数据上报方法中的相关操作。
本发明实施例的计算机存储介质,可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括——但不限于无线、电线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
注意,上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解,本发明不限于这里所述的特定实施例,对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此,虽然通过以上实施例对本发明进行了较为详细的说明,但是本发明不仅仅限于以上实施例,在不脱离本发明构思的情况下,还可以包括更多其他等效实施例,而本发明的范围由所附的权利要求范围决定。
Claims (10)
1.一种埋点数据上报方法,其特征在于,包括:
在生成业务请求时,从埋点数据文件中读取埋点数据,根据所述业务请求以及所述埋点数据生成待传输数据;
确定所述业务请求对应的业务接口,并调用所述业务接口将所述待传输数据发送至服务器。
2.根据权利要求1所述的方法,其特征在于,所述埋点数据文件包括实时数据文件,所述从埋点数据文件中读取埋点数据,包括:
判断所述实时数据文件中是否存在待上报实时数据,若所述实时数据文件中存在待上报实时数据,则读取所述待上报实时数据作为所述埋点数据。
3.根据权利要求2所述的方法,其特征在于,所述埋点数据文件还包括非实时数据文件,所述从埋点数据文件中读取埋点数据,还包括:
判断所述非实时数据文件中是否存在待上报非实时数据,若所述非实时数据文件中存在所述待上报非实时数据,则读取所述非实时数据文件中的待上报非实时数据,将所述待上报非实时数据作为所述埋点数据。
4.根据权利要求3所述的方法,其特征在于,所述读取所述非实时数据文件中的待上报非实时数据,将所述待上报非实时数据作为所述埋点数据,包括:
确定埋点数据大小阈值,判断所述待上报非实时数据的数据大小是否大于所述埋点数据大小阈值;
若所述待上报非实时数据的数据大小大于所述埋点数据大小阈值,则将所述待上报非实时数据分割为多个待上报非实时子数据,将分割得到的部分待上报非实时子数据作为所述埋点数据,其中,作为所述埋点数据的待上报非实时子数据的大小不大于埋点数据大小阈值;
若所述待上报非实时数据的数据大小不大于所述埋点数据大小阈值,则将所述待上报非实时数据作为所述埋点数据。
5.根据权利要求4所述的方法,其特征在于,所述确定埋点数据大小阈值,包括:
根据所述业务请求的请求类型确定所述待传输数据的传输数据大小阈值;
根据所述传输数据大小阈值以及所述业务请求的数据大小确定所述埋点数据大小阈值。
6.根据权利要求3所述的方法,其特征在于,还包括:
根据检测到的待存储埋点数据的数据类型判断所述待存储埋点数据的存储数据类型;
若所述待存储埋点数据为实时数据,则将所述待存储埋点数据存储至所述实时数据文件中;
若所述待存储埋点数据为非实时数据,则将所述待存储埋点数据存储至所述非实时数据文件中。
7.根据权利要求1所述的方法,其特征在于,所述埋点数据文件中还存储有各埋点数据分别对应的数据标识;所述根据所述业务请求以及所述埋点数据获得待传输数据,包括:
根据所述业务请求、所述埋点数据、以及所述埋点数据对应的数据标识获得待传输数据;
相应的,在将所述待传输数据发送至服务器之后,还包括:
接收服务器发送的数据接收应答信息,获取所述数据接收应答信息中包含的数据标识,并从所述埋点数据文件中删除与所述数据接收应答信息中包含的数据标识对应的埋点数据。
8.一种埋点数据上报装置,其特征在于,包括:
请求数据生成模块,用于在生成业务请求时,从埋点数据文件中读取埋点数据,根据所述业务请求以及所述埋点数据生成待传输数据;
请求数据发送模块,用于确定所述业务请求对应的业务接口,并调用所述业务接口将所述待传输数据发送至服务器。
9.一种计算机设备,其特征在于,所述设备包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序;
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-7中任一所述的埋点数据上报方法。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1-7中任一所述的埋点数据上报方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910792661.5A CN112433920A (zh) | 2019-08-26 | 2019-08-26 | 一种埋点数据上报方法、装置、设备及介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910792661.5A CN112433920A (zh) | 2019-08-26 | 2019-08-26 | 一种埋点数据上报方法、装置、设备及介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN112433920A true CN112433920A (zh) | 2021-03-02 |
Family
ID=74690275
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910792661.5A Pending CN112433920A (zh) | 2019-08-26 | 2019-08-26 | 一种埋点数据上报方法、装置、设备及介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112433920A (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113010481A (zh) * | 2021-03-18 | 2021-06-22 | 成都欧珀通信科技有限公司 | 文件捕获方法、装置、终端和存储介质 |
CN113419936A (zh) * | 2021-06-22 | 2021-09-21 | 康键信息技术(深圳)有限公司 | 动态埋点方法、装置、设备及存储介质 |
CN113868152A (zh) * | 2021-09-29 | 2021-12-31 | 珠海格力电器股份有限公司 | 一种埋点数据上报方法、装置、电子设备及可读存储介质 |
CN114629818A (zh) * | 2022-04-07 | 2022-06-14 | 康键信息技术(深圳)有限公司 | 前端埋点数据的上报检测方法、系统及计算机可读存储介质 |
CN115941669A (zh) * | 2022-11-22 | 2023-04-07 | 中国第一汽车股份有限公司 | 一种多应用埋点数据上传方法、装置 |
CN117724860A (zh) * | 2023-06-28 | 2024-03-19 | 荣耀终端有限公司 | 一种数据处理方法和电子设备 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20060108474A (ko) * | 2005-04-14 | 2006-10-18 | 주식회사 케이티프리텔 | 멀티미디어 데이터 전송 방법, 장치 및 이를 위한프로그램이 기록된 기록매체 및 멀티미디어 데이터 전송제어 방법 |
CN103095479A (zh) * | 2011-11-04 | 2013-05-08 | 华为技术有限公司 | 业务配置的方法及装置 |
CN107196788A (zh) * | 2017-05-02 | 2017-09-22 | 阿里巴巴集团控股有限公司 | 一种埋点数据的处理方法、装置、服务器及客户端 |
CN108156006A (zh) * | 2016-12-05 | 2018-06-12 | 阿里巴巴集团控股有限公司 | 一种埋点数据上报方法、装置及电子设备 |
WO2018177174A1 (zh) * | 2017-03-30 | 2018-10-04 | 华为技术有限公司 | 一种IoT数据上报的方法、装置和系统 |
CN108833459A (zh) * | 2018-04-09 | 2018-11-16 | 平安普惠企业管理有限公司 | 数据上报方法及终端设备 |
-
2019
- 2019-08-26 CN CN201910792661.5A patent/CN112433920A/zh active Pending
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20060108474A (ko) * | 2005-04-14 | 2006-10-18 | 주식회사 케이티프리텔 | 멀티미디어 데이터 전송 방법, 장치 및 이를 위한프로그램이 기록된 기록매체 및 멀티미디어 데이터 전송제어 방법 |
CN103095479A (zh) * | 2011-11-04 | 2013-05-08 | 华为技术有限公司 | 业务配置的方法及装置 |
CN108156006A (zh) * | 2016-12-05 | 2018-06-12 | 阿里巴巴集团控股有限公司 | 一种埋点数据上报方法、装置及电子设备 |
WO2018177174A1 (zh) * | 2017-03-30 | 2018-10-04 | 华为技术有限公司 | 一种IoT数据上报的方法、装置和系统 |
CN107196788A (zh) * | 2017-05-02 | 2017-09-22 | 阿里巴巴集团控股有限公司 | 一种埋点数据的处理方法、装置、服务器及客户端 |
CN108833459A (zh) * | 2018-04-09 | 2018-11-16 | 平安普惠企业管理有限公司 | 数据上报方法及终端设备 |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113010481A (zh) * | 2021-03-18 | 2021-06-22 | 成都欧珀通信科技有限公司 | 文件捕获方法、装置、终端和存储介质 |
CN113419936A (zh) * | 2021-06-22 | 2021-09-21 | 康键信息技术(深圳)有限公司 | 动态埋点方法、装置、设备及存储介质 |
CN113419936B (zh) * | 2021-06-22 | 2023-10-31 | 康键信息技术(深圳)有限公司 | 动态埋点方法、装置、设备及存储介质 |
CN113868152A (zh) * | 2021-09-29 | 2021-12-31 | 珠海格力电器股份有限公司 | 一种埋点数据上报方法、装置、电子设备及可读存储介质 |
CN114629818A (zh) * | 2022-04-07 | 2022-06-14 | 康键信息技术(深圳)有限公司 | 前端埋点数据的上报检测方法、系统及计算机可读存储介质 |
CN115941669A (zh) * | 2022-11-22 | 2023-04-07 | 中国第一汽车股份有限公司 | 一种多应用埋点数据上传方法、装置 |
CN117724860A (zh) * | 2023-06-28 | 2024-03-19 | 荣耀终端有限公司 | 一种数据处理方法和电子设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112433920A (zh) | 一种埋点数据上报方法、装置、设备及介质 | |
CN109194647B (zh) | 数据传输方法、装置、电子设备及存储介质 | |
CN108282529B (zh) | 发布和订阅数据的系统、方法和装置 | |
CN111367687A (zh) | 进程间数据通信方法和装置 | |
CN111198859B (zh) | 数据处理方法、装置、电子设备及计算机可读存储介质 | |
KR20120102664A (ko) | 미래 사용 추정에 기반한 저장 메모리 할당 | |
US20170153909A1 (en) | Methods and Devices for Acquiring Data Using Virtual Machine and Host Machine | |
CN103607428A (zh) | 一种访问共享内存的方法和装置 | |
CN112600928A (zh) | 文件传输方法、装置、电子设备及介质 | |
CN111831618A (zh) | 数据写入方法、数据读取方法、装置、设备及存储介质 | |
CN110310139B (zh) | 数据投放方法以及数据投放引擎装置 | |
CN111382123A (zh) | 文件存储方法、装置、设备及存储介质 | |
CN110990346A (zh) | 基于区块链的文件数据处理方法、装置、设备及存储介质 | |
CN110929128A (zh) | 一种数据爬取方法、装置、设备和介质 | |
CN112100092B (zh) | 一种信息缓存方法、装置、设备及介质 | |
CN111309496A (zh) | 延时任务实现方法、系统、装置、设备、存储介质 | |
CN110881224B (zh) | 一种网络长连接方法、装置、设备及存储介质 | |
CN110677307A (zh) | 一种服务监测方法、装置、设备和存储介质 | |
CN109669790A (zh) | 基于云平台的数据共享方法、装置、共享平台及存储介质 | |
CN110889880A (zh) | 一种贴图处理方法、装置、设备及存储介质 | |
CN109862069B (zh) | 消息处理方法和装置 | |
CN111274104B (zh) | 数据处理方法、装置、电子设备及计算机可读存储介质 | |
CN110753136B (zh) | 域名解析方法、装置、设备及存储介质 | |
CN110677463B (zh) | 并行数据传输方法、装置、介质及电子设备 | |
CN113760986A (zh) | 一种数据查询方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |