CN115022388A - 一种数据采集方法、装置、设备及介质 - Google Patents
一种数据采集方法、装置、设备及介质 Download PDFInfo
- Publication number
- CN115022388A CN115022388A CN202210612345.7A CN202210612345A CN115022388A CN 115022388 A CN115022388 A CN 115022388A CN 202210612345 A CN202210612345 A CN 202210612345A CN 115022388 A CN115022388 A CN 115022388A
- Authority
- CN
- China
- Prior art keywords
- data acquisition
- point location
- data
- acquisition point
- target
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 91
- 238000012544 monitoring process Methods 0.000 claims abstract description 70
- 238000012545 processing Methods 0.000 claims abstract description 52
- 238000004590 computer program Methods 0.000 claims description 17
- 238000011160 research Methods 0.000 claims description 6
- 230000005856 abnormality Effects 0.000 claims description 4
- 238000013024 troubleshooting Methods 0.000 abstract description 6
- 238000007726 management method Methods 0.000 abstract description 5
- 238000004458 analytical method Methods 0.000 abstract description 4
- 238000013480 data collection Methods 0.000 description 10
- 230000006399 behavior Effects 0.000 description 8
- 238000004891 communication Methods 0.000 description 6
- 230000005540 biological transmission Effects 0.000 description 5
- 230000001960 triggered effect Effects 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 3
- 238000001514 detection method Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000011084 recovery Methods 0.000 description 2
- 238000012795 verification Methods 0.000 description 2
- 230000000712 assembly Effects 0.000 description 1
- 238000000429 assembly Methods 0.000 description 1
- 238000009933 burial Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000001052 transient effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/14—Network analysis or design
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本申请公开了一种数据采集方法、装置、设备及介质，设计信息技术领域。该方法包括：监测当前目标数据获取点位是否满足预设的数据采集启动条件；所述目标数据获取点位为预先在目标位置上进行埋点操作后构建的数据获取点位；若当前所述目标数据获取点位满足所述数据采集启动条件，则触发所述目标数据获取点位的数据获取流程，以通过所述目标数据获取点位采集所述目标位置上的数据；将所述目标位置上的数据发送至预设数据处理终端，以通过所述预设数据处理终端对所述数据进行处理。通过上述技术方案，可以高效、便捷地进行较大数据量的采集以及管理，有利于解决定位问题、排查问题与分析用户行为等。综上，本申请能够高效地进行数据采集。
Description
技术领域
本发明涉及信息技术领域，特别涉及一种数据采集方法、装置、设备及介质。
背景技术
目前，互联网已进入大数据时代。现在的社会是一个高速发展的社会，科技发达，信息流通，人们之间的交流越来越密切，生活也越来越方便，大数据就是这个高科技时代的产物。在数据领跑时代，所有公司都在尽可能的收集更多的数据信息，例如用户行为、页面变化、错误信息等。然而，由于其数据量巨大，无法在一定时间内用常规软件工具对其内容进行抓取、管理和处理。综上，如何能够高效地进行数据采集的问题有待进一步解决。
发明内容
有鉴于此，本发明的目的在于提供一种数据采集方法、装置、设备及介质，能够高效地进行数据采集。其具体方案如下：
第一方面，本申请公开了一种数据采集方法，包括：
监测当前目标数据获取点位是否满足预设的数据采集启动条件；所述目标数据获取点位为预先在目标位置上进行埋点操作后构建的数据获取点位；
若当前所述目标数据获取点位满足所述数据采集启动条件，则触发所述目标数据获取点位的数据获取流程，以通过所述目标数据获取点位采集所述目标位置上的数据；
将所述目标位置上的数据发送至预设数据处理终端，以通过所述预设数据处理终端对所述数据进行处理。
可选的，所述监测当前目标数据获取点位是否满足预设的数据采集启动条件，包括：
监测是否获取到针对所述目标位置上的数据的采集请求；
如果是，则判定当前所述目标数据获取点位满足所述数据采集启动条件。
可选的，所述监测是否获取到针对所述目标位置上的数据的采集请求，如果是，则判定当前所述目标数据获取点位满足所述数据采集启动条件，包括：
监测是否获取到针对所述目标位置上的业务数据的采集请求，如果是，则判定当前业务数据获取点位满足所述数据采集启动条件；
相应的，所述若当前所述目标数据获取点位满足所述数据采集启动条件，则触发所述目标数据获取点位的数据获取流程，以通过所述目标数据获取点位采集所述目标位置上的数据，包括：
若当前所述业务数据获取点位满足所述数据采集启动条件，则触发所述业务数据获取点位的业务数据获取流程，以通过所述业务数据获取点位采集所述目标位置上对应的业务数据。
可选的，所述监测当前目标数据获取点位是否满足预设的数据采集启动条件，包括：
监测当前是否有数据流经所述目标数据获取点位；
如果是，则判定当前所述目标数据获取点位满足所述数据采集启动条件。
可选的，所述监测当前是否有数据流经所述目标数据获取点位，如果是，则判定当前目标数据获取点位满足所述数据采集启动条件，包括：
监测当前是否有数据流经公共组件数据获取点位，如果是，则判定当前所述公共组件数据获取点位满足所述数据采集启动条件；
相应的，所述若当前所述目标数据获取点位满足所述数据采集启动条件，则触发所述目标数据获取点位的数据获取流程，以通过所述目标数据获取点位采集所述目标位置上的数据，包括：
若当前所述公共组件数据获取点位满足所述数据采集启动条件，则触发所述公共组件数据获取点位的数据获取流程，以通过所述公共组件数据获取点位采集所述目标位置上的公共组件数据。
可选的，所述监测当前是否有数据流经所述目标数据获取点位，如果是，则判定当前目标数据获取点位满足所述数据采集启动条件，包括：
监测当前是否有数据流经页面数据获取点位，如果是，则判定当前所述页面数据获取点位满足所述数据采集启动条件；
相应的，所述若当前所述目标数据获取点位满足所述数据采集启动条件，则触发所述目标数据获取点位的数据获取流程，以通过所述目标数据获取点位采集所述目标位置上的数据，包括：
若当前所述页面数据获取点位满足所述数据采集启动条件，则触发所述页面数据获取点位的数据获取流程，以通过所述页面数据获取点位采集所述目标位置上的所述页面数据。
可选的，所述监测当前是否有数据流经所述目标数据获取点位，如果是，则判定当前目标数据获取点位满足所述数据采集启动条件，包括：
监测当前是否有数据流经接口数据获取点位，如果是，则判定当前所述接口数据获取点位满足所述数据采集启动条件；
相应的，所述若当前所述目标数据获取点位满足所述数据采集启动条件，则触发所述目标数据获取点位的数据获取流程，以通过所述目标数据获取点位采集所述目标位置上的数据，包括：
若当前所述接口数据获取点位满足所述数据采集启动条件，则触发所述接口数据获取点位的数据获取流程，以通过所述接口数据获取点位采集所述目标位置上的所述接口数据。
可选的，还包括：
通过前端代码异常监控工具监听发生的页面错误，并通过错误处理调研工具监听Vue底层错误，然后捕获所述页面错误与所述Vue底层错误并发送至所述预设数据处理终端，以完成错误数据的采集。
第二方面，本申请公开了一种数据采集装置，包括：
启动条件判断模块，用于监测当前目标数据获取点位是否满足预设的数据采集启动条件；所述目标数据获取点位为预先在目标位置上进行埋点操作后构建的数据获取点位；
数据采集模块，用于若当前所述目标数据获取点位满足所述数据采集启动条件，则触发所述目标数据获取点位的数据获取流程，以通过所述目标数据获取点位采集所述目标位置上的数据；
数据发送模块，用于将所述目标位置上的数据发送至预设数据处理终端，以通过所述预设数据处理终端对所述数据进行处理。
第三方面，本申请公开了一种电子设备，包括：
存储器，用于保存计算机程序；
处理器，用于执行所述计算机程序，以实现前述公开的的所述的数据采集方法的步骤。
第四方面，本申请公开了一种计算机可读存储介质，用于存储计算机程序；其中，所述计算机程序被处理器执行时实现前述公开的所述的数据采集方法的步骤。
本申请在进行数据收集时，首先监测当前目标数据获取点位是否满足预设的数据采集启动条件；所述目标数据获取点位为预先在目标位置上进行埋点操作后构建的数据获取点位；然后，若当前所述目标数据获取点位满足所述数据采集启动条件，则触发所述目标数据获取点位的数据获取流程，以通过所述目标数据获取点位采集所述目标位置上的数据，最后将所述目标位置上的数据发送至预设数据处理终端，以通过所述预设数据处理终端对所述数据进行处理。可见，在本实施例中，通过预先在目标位置上进行埋点操作后得到的目标数据获取点位来获取所述目标数据，并将获取到的目标数据发送至预设数据处理终端，以便于通过所述预设数据处理终端对所述数据进行处理。由此，本申请在进行大数据的数据采集时，通过在需要获取相关数据的目标位置预先进行埋点操作，已得到对应的数据获取点位，当检测到当前目标数据获取点位满足数据采集启动条件时，收集前端数据例如用户行为、页面变化等，并进行数据采集与发送，使得在各个位置的数据均可以通过预设的对应数据获取点位来获取，可以高效、便捷地进行较大数据量的采集以及管理，有利于解决定位问题、排查问题与分析用户行为等。综上，本申请能够高效地进行数据采集。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据提供的附图获得其他的附图。
图1为本申请提供的一种数据采集方法流程图；
图2为本申请提供的一种具体的数据采集方法流程图；
图3为本申请提供的一种具体的数据采集方法流程图；
图4为本申请提供的一种具体的数据采集方法流程图；
图5为本申请提供的一种具体的数据采集方法流程图；
图6为本申请提供的一种具体的数据采集方法流程图；
图7为本申请提供的一种具体的数据采集方法流程图；
图8为本申请提供的一种数据采集装置结构示意图；
图9为本申请提供的一种电子设备结构图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
在数据领跑时代，所有公司都在尽可能的收集更多的数据信息，例如用户行为、页面变化、错误信息等。然而，由于其数据量巨大，无法在一定时间内用常规软件工具对其内容进行抓取、管理和处理。为此，本申请提供了一种数据采集方法能够高效地进行数据采集。
本发明实施例公开了一种数据采集方法，参见图1所示，该方法包括：
步骤S11：监测当前目标数据获取点位是否满足预设的数据采集启动条件；所述目标数据获取点位为预先在目标位置上进行埋点操作后构建的数据获取点位。
在本实施例中，在进行针对目标数据的数据采集前，还包括执行校验流程，在此流程中可进行上送前的校验或上送参数的合并。进一步的，监测当前目标数据获取点位是否满足预设的数据采集启动条件，其中，所述预设的数据采集启动条件为预先用户根据目标位置采集数据的实际需要进行设置的，所述数据采集启动条件包括但不限于获取到对应的数据采集请求、监测到数据流经所述目标位置。所述目标数据获取点位为预先在需要获取数据的目标位置上进行埋点操作后构建的数据获取点位，其中埋点操作主要依赖Vue进行。可以理解的是，所述目标数据获取点位可根据用户的实际需要进行埋点构建。
在本实施例中，监测当前数据获取点位是否满足预设的数据采集启动条件，并根据检测结果进行后续操作。通过上述技术方案，通过监测数据获取点位是否满足预设数据采集条件，以便于通过监测结果来进行数据的获取流程，使得数据采集的条件多样化，从而在进行数据采集时可根据用户需求进行灵活的数据采集操作。
步骤S12：若当前所述目标数据获取点位满足所述数据采集启动条件，则触发所述目标数据获取点位的数据获取流程，以通过所述目标数据获取点位采集所述目标位置上的数据。
在本实施例中，如果当前所述目标数据点位满足所述数据采集启动条件，则触发所述目标数据获取点位相应的数据获取流程，并通过所述目标数据获取点位采集目标位置上的数据。通过上述技术方案，当所述目标数据点位满足所述数据采集启动条件时，则出发相应的数据获取流程并获取目标位置上的数据，以便于后续预设数据处理终端对所述预设数据进行处理，使得在各个位置的数据均可以通过预设的对应数据获取点位来获取，可以高效、便捷地进行较大数据量的采集以及管理。
步骤S13：将所述目标位置上的数据发送至预设数据处理终端，以通过所述预设数据处理终端对所述数据进行处理。
在本实施例中，所述预设数据处理终端为所述目标数据对应的预设数据处理终端，并通过所述预设数据处理终端对所述目标数据进行处理。通过上述技术方案，在所述目标数据获取点位获取到所述目标数据后，将目标数据进行发送，以便于通过所述预设数据处理终端对所述数据进行处理，以完成针对所述目标数据的采集流程。
可见，在本实施例中，通过预先在目标位置上进行埋点操作后得到的目标数据获取点位来获取所述目标数据，并将获取到的目标数据发送至预设数据处理终端，以便于通过所述预设数据处理终端对所述数据进行处理。由此，本申请在进行大数据的数据采集时，通过在需要获取相关数据的目标位置预先进行埋点操作，已得到对应的数据获取点位，当检测到当前目标数据获取点位满足数据采集启动条件时，收集前端数据例如用户行为、页面变化等，并进行数据采集与发送，使得在各个位置的数据均可以通过预设的对应数据获取点位来获取，可以高效、便捷地进行较大数据量的采集以及管理，有利于解决定位问题、排查问题与分析用户行为等。综上，本申请能够高效地进行数据采集。
参见图2所示，本发明实施例公开了一种具体的数据采集方法，相对于上一实施例，本实施例对技术方案作了进一步说明和优化。
步骤S21：监测是否获取到针对所述目标位置上的数据的采集请求。如果是，则判定当前所述目标数据获取点位满足所述数据采集启动条件。
在本实施例中，在进行业务方面的目标数据采集之前，还包括在业务要点处进行主动埋点。监测是否获取到针对所述目标位置上的数据的采集请求，当获取到所述目标位置上的数据的采集请求后，则判定当前所述目标数据获取点位满足所述数据采集启动条件。通过上述技术方案，在业务要点处预先进行埋点操作创建的目标数据获取点位，并通过监测是否获取到对应的采集请求判定是否满足启动条件，使得当获取到对应的采集请求时，则判定为满足数据采集条件，以便于后续通过所述目标数据获取点位进行数据的发送。
步骤S22：若当前所述目标数据获取点位满足所述数据采集启动条件，则触发所述目标数据获取点位的数据获取流程，以通过所述目标数据获取点位采集所述目标位置上的数据。
在本实施例中，若当前所述业务数据获取点位满足所述数据采集启动条件，则触发所述业务数据获取点位的业务数据获取流程，以通过所述业务数据获取点位主动采集所述目标位置上对应的业务数据，主动采集就是将不同场景下的分支逻辑通过主动调用采集方法的方式来上送。具体地，在业务模块下，如需根据业务分支做相应埋点，可直接通过数据资料收集与分析软件进行上送，内容包括但不限于事件ID，事件属性及事件属性值等。通过上述技术方案，当所述目标数据获取点位满足所述数据采集启动条件时，则进行相应的数据采集流程，以便于对所述目标业务数据的获取，从而进行业务方面的数据处理操作。
步骤S23：将所述目标位置上的数据发送至预设数据处理终端，以通过所述预设数据处理终端对所述数据进行处理。
可见，在本实施例中，通过监测是否获取到针对所述目标位置上的数据的采集请求来判定当前所述目标数据获取点位是否满足所述数据采集启动条件。通过上述技术方案，通过上述技术方案，在业务要点处预先进行埋点操作创建的目标数据获取点位，并通过监测是否获取到对应的采集请求判定是否满足启动条件，使得当获取到对应的采集请求时则进行相应的数据主动采集与数据发送等相关的操作，从而满足多样的业务需求。
参见图3所示，本发明实施例公开了一种具体的数据采集方法，相对于上一实施例，本实施例对技术方案作了进一步说明和优化。
步骤S31：监测当前是否有数据流经所述目标数据获取点位；如果是，则判定当前所述目标数据获取点位满足所述数据采集启动条件。
在本实施例中，在所述目标数据获取点位进行数据监测，监测当前是否有数据流经所述目标数据获取点位，当有数据流经所述目标数据获取点位时，则判定当前所述目标数据。通过上述技术方案，当有数据流经所述目标数据监测点位时，则判定当前所述目标数据获取点位满足所述数据采集启动条件并理解将所属目标数据进行自动采集，保证了相关数据采集的及时性。
步骤S32：若当前所述目标数据获取点位满足所述数据采集启动条件，则触发所述目标数据获取点位的数据获取流程，以通过所述目标数据获取点位采集所述目标位置上的数据。
步骤S33：将所述目标位置上的数据发送至预设数据处理终端，以通过所述预设数据处理终端对所述数据进行处理。
可见，当有数据流经所述目标数据监测点位时，则判定当前所述目标数据获取点位满足所述数据采集启动条件并理解将所属目标数据进行自动采集，保证了相关数据采集的及时性。
参见图4所示，本发明实施例公开了一种具体的数据采集方法，相对于上一实施例，本实施例对技术方案作了进一步说明和优化。
步骤S41：监测当前是否有数据流经公共组件数据获取点位，如果是，则判定当前所述公共组件数据获取点位满足所述数据采集启动条件。
在本实施例中，所述公共组件数据获取点为在公共组件中自动收集埋点信息的数据获取点位。公共组件埋点主要为动作埋点，动作埋点主要依赖按钮的点击，通过重写button组件，在组件中通过属性接收埋点数据，及监听到点击之后自动上送。在公共逻辑统一进行埋点，并自动进行相关数据的收集，包括但不限于公共按钮组件，路由公共切面。在埋点事件中，如按钮点击，在按钮组件上赋属性值‘dcInfo’，值为对象格式，内容包含事件ID，事件属性、事件属性值等信息。其中，所述事件ID为对页面事件进行埋点，并区分事件ID，每一个事件都有独立的ID。通过上述技术方案，使得在数据采集前预先进行公共组件统一埋点，从而在进行公共组件数据收集时可直接通过预先构建的公共组件数据获取点位进行获取，保证了公共组件数据获取的及时性。
步骤S42：若当前所述公共组件数据获取点位满足所述数据采集启动条件，则触发所述公共组件数据获取点位的数据获取流程，以通过所述公共组件数据获取点位采集所述目标位置上的公共组件数据。
步骤S43：将所述目标位置上的数据发送至预设数据处理终端，以通过所述预设数据处理终端对所述数据进行处理。
在本实施例中，使得在数据采集前预先进行公共组件统一埋点，从而在进行公共组件数据收集时可直接通过预先构建的公共组件数据获取点位进行获取，保证了公共组件数据获取的及时性。
参见图5所示，本发明实施例公开了一种具体的数据采集方法，相对于上一实施例，本实施例对技术方案作了进一步说明和优化。
步骤S51：监测当前是否有数据流经页面数据获取点位，如果是，则判定当前所述页面数据获取点位满足所述数据采集启动条件。
在本实施例中，所述页面数据获取点主要依赖Vue-router的全局路由守卫函数beforeEach和afterEach，在进入页面前和进入页面后分别进行埋点，在Vue实例化时，通过Vue.use将收集方法类挂载至Vue原型上。具体地，在Vue-router的全局路由守卫beforeEach和afterEach中增加数据埋点，并在埋点触发后通过数据资料收集与分析软件上送埋点数据。通过上述技术方案，将所述页面数据采集，以便于后续将所述页面数据发送至对应的数据处理终端对所述数据进行处理。
步骤S52：若当前所述页面数据获取点位满足所述数据采集启动条件，则触发所述页面数据获取点位的数据获取流程，以通过所述页面数据获取点位采集所述目标位置上的所述页面数据。
步骤S53：将所述目标位置上的数据发送至预设数据处理终端，以通过所述预设数据处理终端对所述数据进行处理。
在本实施例中，通过监测当前是否有数据流经页面数据获取点位，如果是，则判定当前所述页面数据获取点位满足所述数据采集启动条件若当前所述页面数据获取点位满足所述数据采集启动条件，则触发所述页面数据获取点位的数据获取流程，以通过所述页面数据获取点位采集所述目标位置上的所述页面数据，以便于后续及时将所述页面数据发送至对应的数据处理终端对所述数据进行处理。
参见图6所示，本发明实施例公开了一种具体的数据采集方法，相对于上一实施例，本实施例对技术方案作了进一步说明和优化。
步骤S61：监测当前是否有数据流经接口数据获取点位，如果是，则判定当前所述接口数据获取点位满足所述数据采集启动条件。
在本实施例中，在进行数据采集之前，在相应的接口处通过埋点操作构建所述接口数据获取点位，当有数据流经所述接口数据获取点位时，则判定所述接口数据获取点位满足所述数据采集启动条件。通过上述技术方案，以便于后续当所述接口数据获取点位满足所述数据采集启动条件，则触发所述接口数据获取点位的数据获取流程，以通过所述接口数据获取点位采集所述目标位置上的所述接口数据，从而使得通过所述预设数据处理终端对所述数据进行处理。
步骤S62：若当前所述接口数据获取点位满足所述数据采集启动条件，则触发所述接口数据获取点位的数据获取流程，以通过所述接口数据获取点位采集所述目标位置上的所述接口数据。
步骤S63：将所述目标位置上的数据发送至预设数据处理终端，以通过所述预设数据处理终端对所述数据进行处理。
可见，在本实施例中，通过所述接口数据获取点位采集所述目标位置上的所述接口数据，从而使得通过所述预设数据处理终端对所述数据进行处理。
参见图7所示，本发明实施例公开了一种具体的数据采集方法，相对于上一实施例，本实施例对技术方案作了进一步说明和优化。
步骤S71：监测当前目标数据获取点位是否满足预设的数据采集启动条件；所述目标数据获取点位为预先在目标位置上进行埋点操作后构建的数据获取点位。
步骤S72：若当前所述目标数据获取点位满足所述数据采集启动条件，则触发所述目标数据获取点位的数据获取流程，以通过所述目标数据获取点位采集所述目标位置上的数据。
步骤S73：将所述目标位置上的数据发送至预设数据处理终端，以通过所述预设数据处理终端对所述数据进行处理。
步骤S74：通过前端代码异常监控工具监听发生的页面错误，并通过错误处理调研工具监听Vue底层错误，然后捕获所述页面错误与所述Vue底层错误并发送至所述预设数据处理终端，以完成错误数据的采集。
在本实施例中，通过前端代码异常监控工具监听发生的页面错误。具体地，通过window.onerror(即前端代码异常监控工具)事件监听页面中发生的错误并捕获，捕获之后对数据进行解析上送，内容包含错误描述、错误发生文件、错误发生代码行数、错误发生代码列数等。所述通过错误处理调研工具监听Vue底层错误，具体地，通过Vue.config.errorHandler(即错误处理调研工具)监听vue底层抛出的错误并捕获，捕获之后对数据进行解析上送，包含错误描述，错误发生的组件，错误的调用栈等。通过上述技术方案，在恢复错误现场时，可根据收集到的信息还原客户操作轨迹并结合错误信息发生的位置进行错误代码定位，以便于通过收集到的错误信息进行bug现场恢复，从而便于定位排查等问题。
可见，在本实施例中，通过对页面错误以及Vue底层错误的监听与收集，在恢复错误现场时，可根据收集到的信息还原客户操作轨迹并结合错误信息发生的位置进行错误代码定位，以便于通过收集到的错误信息进行bug现场恢复，从而便于定位排查等问题。
参见图8所示本申请实施例公开了一种数据采集装置，包括：
启动条件判断模块11，用于监测当前目标数据获取点位是否满足预设的数据采集启动条件；所述目标数据获取点位为预先在目标位置上进行埋点操作后构建的数据获取点位；
数据采集模块12，用于若当前所述目标数据获取点位满足所述数据采集启动条件，则触发所述目标数据获取点位的数据获取流程，以通过所述目标数据获取点位采集所述目标位置上的数据；
数据发送模块13，用于将所述目标位置上的数据发送至预设数据处理终端，以通过所述预设数据处理终端对所述数据进行处理。
可见，在本实施例中，通过预先在目标位置上进行埋点操作后得到的目标数据获取点位来获取所述目标数据，并将获取到的目标数据发送至预设数据处理终端，以便于通过所述预设数据处理终端对所述数据进行处理。由此，本申请在进行大数据的数据采集时，通过在需要获取相关数据的目标位置预先进行埋点操作，已得到对应的数据获取点位，当检测到当前目标数据获取点位满足数据采集启动条件时，收集前端数据例如用户行为、页面变化等，并进行数据采集与发送，使得在各个位置的数据均可以通过预设的对应数据获取点位来获取，可以高效、便捷地进行较大数据量的采集以及管理，有利于解决定位问题、排查问题与分析用户行为等。综上，本申请能够高效地进行数据采集。
在一些具体实施例中，所述启动条件判断模块11，具体包括：
请求检测单元，用于监测是否获取到针对所述目标位置上的数据的采集请求；
条件判断单元，用于如果是，则判定当前所述目标数据获取点位满足所述数据采集启动条件。
在一些具体实施例中，所述启动条件判断模块11，具体用于：监测是否获取到针对所述目标位置上的业务数据的采集请求，如果是，则判定当前业务数据获取点位满足所述数据采集启动条件；
相应的，所述数据采集模块12，具体用于：若当前所述业务数据获取点位满足所述数据采集启动条件，则触发所述业务数据获取点位的业务数据获取流程，以通过所述业务数据获取点位采集所述目标位置上对应的业务数据。
在一些具体实施例中，所述启动条件判断模块11，具体包括：
数据监测单元，用于监测当前是否有数据流经所述目标数据获取点位；
条件判断单元，用于如果是，则判定当前所述目标数据获取点位满足所述数据采集启动条件。
在一些具体实施例中，所述启动条件判断模块11，具体用于：监测当前是否有数据流经公共组件数据获取点位，如果是，则判定当前所述公共组件数据获取点位满足所述数据采集启动条件；
相应的，所述数据采集模块12，具体用于：若当前所述公共组件数据获取点位满足所述数据采集启动条件，则触发所述公共组件数据获取点位的数据获取流程，以通过所述公共组件数据获取点位采集所述目标位置上的公共组件数据。
在一些具体实施例中，所述启动条件判断模块11，具体用于：监测当前是否有数据流经页面数据获取点位，如果是，则判定当前所述页面数据获取点位满足所述数据采集启动条件；
相应的，所述数据采集模块12，具体用于：若当前所述页面数据获取点位满足所述数据采集启动条件，则触发所述页面数据获取点位的数据获取流程，以通过所述页面数据获取点位采集所述目标位置上的所述页面数据。
在一些具体实施例中，所述启动条件判断模块11，具体用于：监测当前是否有数据流经接口数据获取点位，如果是，则判定当前所述接口数据获取点位满足所述数据采集启动条件；
相应的，所述数据采集模块12，具体用于：若当前所述接口数据获取点位满足所述数据采集启动条件，则触发所述接口数据获取点位的数据获取流程，以通过所述接口数据获取点位采集所述目标位置上的所述接口数据。
在一些具体实施例中，所述数据采集装置还包括：
数据采集模块，用于通过前端代码异常监控工具监听发生的页面错误，并通过错误处理调研工具监听Vue底层错误，然后捕获所述页面错误与所述Vue底层错误并发送至所述预设数据处理终端，以完成错误数据的采集。
图9所示为本申请实施例提供的一种电子设备20。该电子设备20，具体还可以包括：至少一个处理器21、至少一个存储器22、电源23、通信接口24、输入输出接口25和通信总线26。其中，所述存储器22用于存储计算机程序，所述计算机程序由所述处理器21加载并执行，以实现前述任一实施例公开的数据采集方法中的相关步骤。另外，本实施例中的电子设备20具体可以为电子计算机。
本实施例中，电源23用于为电子设备20上的各硬件设备提供电压；通信接口24能够为电子设备20创建与外界设备之间的数据传输通道，其所遵循的通信协议是能够适用于本申请技术方案的任意通信协议，在此不对其进行具体限定；输入输出接口25，用于获取外界输入数据或向外界输出数据，其具体的接口类型可以根据具体应用需要进行选取，在此不进行具体限定。
另外，存储器22作为资源储存的载体，可以是只读存储器、随机存储器、磁盘或者光盘等，其上所存储的资源可以包括操作系统221，计算机程序222等，存储方式可以是短暂存储或者永久存储。
其中，操作系统221用于管理与控制电子设备20上的各硬件设备以及计算机程序222其可以是Windows Server、Netware、Unix、Linux等。计算机程序222除了包括能够用于完成前述任一实施例公开的由电子设备20执行的数据采集方法的计算机程序外，还可以进一步包括能够用于完成其他特定工作的计算机程序。
进一步的，本申请还公开了一种计算机可读存储介质，用于存储计算机程序；其中，所述计算机程序被处理器执行时实现前述公开的数据采集方法。关于该方法的具体步骤可以参考前述实施例中公开的相应内容，在此不再进行赘述。
最后，还需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
以上对本发明所提供的一种数据采集方法、装置、设备及介质进行了详细介绍，本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的一般技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本发明的限制。
Claims (11)
1.一种数据采集方法，其特征在于，包括：
监测当前目标数据获取点位是否满足预设的数据采集启动条件；所述目标数据获取点位为预先在目标位置上进行埋点操作后构建的数据获取点位；
若当前所述目标数据获取点位满足所述数据采集启动条件，则触发所述目标数据获取点位的数据获取流程，以通过所述目标数据获取点位采集所述目标位置上的数据；
将所述目标位置上的数据发送至预设数据处理终端，以通过所述预设数据处理终端对所述数据进行处理。
2.根据权利要求1所述的数据采集方法，其特征在于，所述监测当前目标数据获取点位是否满足预设的数据采集启动条件，包括：
监测是否获取到针对所述目标位置上的数据的采集请求；
如果是，则判定当前所述目标数据获取点位满足所述数据采集启动条件。
3.根据权利要求2所述的数据采集方法，其特征在于，所述监测是否获取到针对所述目标位置上的数据的采集请求，如果是，则判定当前所述目标数据获取点位满足所述数据采集启动条件，包括：
监测是否获取到针对所述目标位置上的业务数据的采集请求，如果是，则判定当前业务数据获取点位满足所述数据采集启动条件；
相应的，所述若当前所述目标数据获取点位满足所述数据采集启动条件，则触发所述目标数据获取点位的数据获取流程，以通过所述目标数据获取点位采集所述目标位置上的数据，包括：
若当前所述业务数据获取点位满足所述数据采集启动条件，则触发所述业务数据获取点位的业务数据获取流程，以通过所述业务数据获取点位采集所述目标位置上对应的业务数据。
4.根据权利要求1所述的数据采集方法，其特征在于，所述监测当前目标数据获取点位是否满足预设的数据采集启动条件，包括：
监测当前是否有数据流经所述目标数据获取点位；
如果是，则判定当前所述目标数据获取点位满足所述数据采集启动条件。
5.根据权利要求4所述的数据采集方法，其特征在于，所述监测当前是否有数据流经所述目标数据获取点位，如果是，则判定当前目标数据获取点位满足所述数据采集启动条件，包括：
监测当前是否有数据流经公共组件数据获取点位，如果是，则判定当前所述公共组件数据获取点位满足所述数据采集启动条件；
相应的，所述若当前所述目标数据获取点位满足所述数据采集启动条件，则触发所述目标数据获取点位的数据获取流程，以通过所述目标数据获取点位采集所述目标位置上的数据，包括：
若当前所述公共组件数据获取点位满足所述数据采集启动条件，则触发所述公共组件数据获取点位的数据获取流程，以通过所述公共组件数据获取点位采集所述目标位置上的公共组件数据。
6.根据权利要求4所述的数据采集方法，其特征在于，所述监测当前是否有数据流经所述目标数据获取点位，如果是，则判定当前目标数据获取点位满足所述数据采集启动条件，包括：
监测当前是否有数据流经页面数据获取点位，如果是，则判定当前所述页面数据获取点位满足所述数据采集启动条件；
相应的，所述若当前所述目标数据获取点位满足所述数据采集启动条件，则触发所述目标数据获取点位的数据获取流程，以通过所述目标数据获取点位采集所述目标位置上的数据，包括：
若当前所述页面数据获取点位满足所述数据采集启动条件，则触发所述页面数据获取点位的数据获取流程，以通过所述页面数据获取点位采集所述目标位置上的所述页面数据。
7.根据权利要求4所述的数据采集方法，其特征在于，所述监测当前是否有数据流经所述目标数据获取点位，如果是，则判定当前目标数据获取点位满足所述数据采集启动条件，包括：
监测当前是否有数据流经接口数据获取点位，如果是，则判定当前所述接口数据获取点位满足所述数据采集启动条件；
相应的，所述若当前所述目标数据获取点位满足所述数据采集启动条件，则触发所述目标数据获取点位的数据获取流程，以通过所述目标数据获取点位采集所述目标位置上的数据，包括：
若当前所述接口数据获取点位满足所述数据采集启动条件，则触发所述接口数据获取点位的数据获取流程，以通过所述接口数据获取点位采集所述目标位置上的所述接口数据。
8.根据权利要求1至7中任一项所述的数据采集方法，其特征在于，还包括：
通过前端代码异常监控工具监听发生的页面错误，并通过错误处理调研工具监听Vue底层错误，然后捕获所述页面错误与所述Vue底层错误并发送至所述预设数据处理终端，以完成错误数据的采集。
9.一种数据采集装置，其特征在于，包括：
启动条件判断模块，用于监测当前目标数据获取点位是否满足预设的数据采集启动条件；所述目标数据获取点位为预先在目标位置上进行埋点操作后构建的数据获取点位；
数据采集模块，用于若当前所述目标数据获取点位满足所述数据采集启动条件，则触发所述目标数据获取点位的数据获取流程，以通过所述目标数据获取点位采集所述目标位置上的数据；
数据发送模块，用于将所述目标位置上的数据发送至预设数据处理终端，以通过所述预设数据处理终端对所述数据进行处理。
10.一种电子设备，其特征在于，包括：
存储器，用于保存计算机程序；
处理器，用于执行所述计算机程序，以实现如权利要求1至8任一项所述的数据采集方法的步骤。
11.一种计算机可读存储介质，其特征在于，用于存储计算机程序；其中，所述计算机程序被处理器执行时实现如权利要求1至8任一项所述的数据采集方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210612345.7A CN115022388A (zh) | 2022-05-31 | 2022-05-31 | 一种数据采集方法、装置、设备及介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210612345.7A CN115022388A (zh) | 2022-05-31 | 2022-05-31 | 一种数据采集方法、装置、设备及介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN115022388A true CN115022388A (zh) | 2022-09-06 |
Family
ID=83070396
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202210612345.7A Pending CN115022388A (zh) | 2022-05-31 | 2022-05-31 | 一种数据采集方法、装置、设备及介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN115022388A (zh) |
Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2017167042A1 (zh) * | 2016-04-01 | 2017-10-05 | 阿里巴巴集团控股有限公司 | 前端用户行为统计方法及装置 |
| CN108156006A (zh) * | 2016-12-05 | 2018-06-12 | 阿里巴巴集团控股有限公司 | 一种埋点数据上报方法、装置及电子设备 |
| CN111984896A (zh) * | 2019-05-24 | 2020-11-24 | 上海哔哩哔哩科技有限公司 | 埋点数据采集方法、装置、计算机设备及可读存储介质 |
| CN112148606A (zh) * | 2020-09-22 | 2020-12-29 | 京东数字科技控股股份有限公司 | 埋点测试方法、装置、设备及计算机可读介质 |
| CN112416728A (zh) * | 2020-11-23 | 2021-02-26 | 平安普惠企业管理有限公司 | 埋点数据获取方法、装置、客户端设备及可读存储介质 |
| CN113158118A (zh) * | 2021-05-20 | 2021-07-23 | 中国工商银行股份有限公司 | 页面埋点数据采集方法、装置及系统 |
| CN114238335A (zh) * | 2021-12-20 | 2022-03-25 | 深圳市和讯华谷信息技术有限公司 | 一种埋点数据生成方法及其相关设备 |
-
2022
- 2022-05-31 CN CN202210612345.7A patent/CN115022388A/zh active Pending
Patent Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2017167042A1 (zh) * | 2016-04-01 | 2017-10-05 | 阿里巴巴集团控股有限公司 | 前端用户行为统计方法及装置 |
| CN108156006A (zh) * | 2016-12-05 | 2018-06-12 | 阿里巴巴集团控股有限公司 | 一种埋点数据上报方法、装置及电子设备 |
| CN111984896A (zh) * | 2019-05-24 | 2020-11-24 | 上海哔哩哔哩科技有限公司 | 埋点数据采集方法、装置、计算机设备及可读存储介质 |
| CN112148606A (zh) * | 2020-09-22 | 2020-12-29 | 京东数字科技控股股份有限公司 | 埋点测试方法、装置、设备及计算机可读介质 |
| CN112416728A (zh) * | 2020-11-23 | 2021-02-26 | 平安普惠企业管理有限公司 | 埋点数据获取方法、装置、客户端设备及可读存储介质 |
| CN113158118A (zh) * | 2021-05-20 | 2021-07-23 | 中国工商银行股份有限公司 | 页面埋点数据采集方法、装置及系统 |
| CN114238335A (zh) * | 2021-12-20 | 2022-03-25 | 深圳市和讯华谷信息技术有限公司 | 一种埋点数据生成方法及其相关设备 |
Non-Patent Citations (1)
| Title |
|---|
| FUNDEBUG: "5种处理VUE异常的方法", pages 1, Retrieved from the Internet <URL:https://blog.fundebug.com/2019/06/17/handling-errors-in-vuejs> * |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US9269061B2 (en) | Performance, analytics and auditing framework for portal applications | |
| CN109739717B (zh) | 一种页面数据采集的方法及装置、服务器 | |
| US7992155B2 (en) | Method and system to correlate and consolidate a plurality of events | |
| CN108874638B (zh) | 基于画像信息的智能云管理 | |
| CN111600772A (zh) | 网络分发内容检测处理装置、方法、系统及电子设备 | |
| CN111352676B (zh) | 帮助信息推送方法、帮助系统及可读存储介质 | |
| CN115543827A (zh) | 一种埋点数据展示方法及装置 | |
| CN112698820A (zh) | 存储器和交换机统一监控管理方法、装置和计算机设备 | |
| CN112887289B (zh) | 一种网络数据处理方法、装置、计算机设备及存储介质 | |
| CN117349183A (zh) | 一种异常代码定位方法、装置、设备及存储介质 | |
| CN115022388A (zh) | 一种数据采集方法、装置、设备及介质 | |
| CN115563423A (zh) | 数据采集方法、装置、计算机设备及存储介质 | |
| CN114385457A (zh) | 应用程序数据采集方法、装置、设备及存储介质 | |
| CN112799957A (zh) | 基于用户行为的故障处理方法、系统、设备和介质 | |
| CN114579415A (zh) | 一种埋点数据的配置方法、获取方法、装置、设备及介质 | |
| CN113190458A (zh) | 自动埋点数据分析的方法、装置、计算机设备和存储介质 | |
| CN110443910B (zh) | 无人驾驶装置的状态监控方法、系统、设备和存储介质 | |
| CN107066366B (zh) | 面向物联网的复杂事件处理引擎状态监控与灾难恢复方法 | |
| CN109684158B (zh) | 分布式协调系统的状态监控方法、装置、设备及存储介质 | |
| CN112988482A (zh) | 服务器操作管理方法、装置、终端、服务器及存储介质 | |
| CN111966339A (zh) | 埋点参数的录入方法、装置、计算机设备和存储介质 | |
| CN113128943A (zh) | 数据质量监控方法、装置、电子设备、存储介质 | |
| CN110764931A (zh) | Ota网站上传凭证的处理方法、系统、设备和存储介质 | |
| CN111930995B (zh) | 数据处理方法及装置 | |
| CN113542103B (zh) | 社交通信群组中账号的邀请监测方法、装置及移动终端 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |