CN115729765A - 一种数据采集方法、装置、电子设备及存储介质 - Google Patents

一种数据采集方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN115729765A
CN115729765A CN202110997701.7A CN202110997701A CN115729765A CN 115729765 A CN115729765 A CN 115729765A CN 202110997701 A CN202110997701 A CN 202110997701A CN 115729765 A CN115729765 A CN 115729765A
Authority
CN
China
Prior art keywords
data
acquisition
original data
original
interface
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110997701.7A
Other languages
English (en)
Inventor
马袁弟
汤佳伟
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanjing Leading Technology Co Ltd
Original Assignee
Nanjing Leading Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanjing Leading Technology Co Ltd filed Critical Nanjing Leading Technology Co Ltd
Priority to CN202110997701.7A priority Critical patent/CN115729765A/zh
Publication of CN115729765A publication Critical patent/CN115729765A/zh
Pending legal-status Critical Current

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本申请实施例公开了一种数据采集方法、装置、电子设备及存储介质。其中,该方法包括:采用预先配置的数据采集接口采集原始数据,将采集到的原始数据存储在数据缓存队列中;且获取原始数据的采集速率;根据预设数据处理规则,对数据缓存队列中的原始数据进行数据处理,得到目标数据;根据原始数据的采集速率,对数据采集接口采集新的原始数据的采集操作进行控制。本申请实施例提供的技术方案,能够满足可采集不同数据且可实现对采集过程监控的数据采集需求。

Description

一种数据采集方法、装置、电子设备及存储介质
技术领域
本申请实施例涉及计算机技术领域,尤其涉及一种数据采集方法、装置、电子设备及存储介质。
背景技术
现有技术中,实时数据采集服务主要有Logstash(基于Ruby开发的开源数据采集项目)和Filebeat(基于Golang开发的开源数据采集项目)。但是,Logstash资源消耗大,运行占用中央处理器内存高,还存在数据丢失隐患;Filebeat仅仅是针对日志文件进行采集,使用范围具有局限性,且难以对自身体系内的资源统一监控。因此,需要设计一种数据采集方法,能够满足可采集不同数据且可实现对采集过程监控的数据采集需求。
发明内容
本申请实施例提供了一种数据采集方法、装置、电子设备及存储介质,能够满足可采集不同数据且可实现对采集过程监控的数据采集需求。
第一方面,本申请实施例提供了一种数据采集方法,该方法包括:
采用预先配置的数据采集接口采集原始数据,将采集到的原始数据存储在数据缓存队列中;且获取所述原始数据的采集速率;
根据预设数据处理规则,对所述数据缓存队列中的原始数据进行数据处理,得到目标数据;
根据所述原始数据的采集速率,对所述数据采集接口采集新的原始数据的采集操作进行控制。
第二方面,本申请实施例提供了一种数据采集装置,该装置包括:
数据输入模块,用于采用预先配置的数据采集接口采集原始数据,将采集到的原始数据存储在数据缓存队列中;且获取所述原始数据的采集速率;
数据处理模块,用于根据预设数据处理规则,对所述数据缓存队列中的原始数据进行数据处理,得到目标数据;
后台管控模块,用于根据所述原始数据的采集速率,对所述数据采集接口采集新的原始数据的采集操作进行控制。
第三方面,本申请实施例提供了一种电子设备,该电子设备包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序;
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现本申请任意实施例所述的数据采集方法。
第四方面,本申请实施例提供了一种计算机可读存储介质,其上存储有计算机程序,其中,该程序被处理器执行时实现本申请任意实施例所述的数据采集方法。
本申请实施例提供了一种数据采集方法、装置、电子设备及存储介质,采用预先配置的数据采集接口采集原始数据,将采集到的原始数据存储在数据缓存队列中;且获取原始数据的采集速率;根据预设数据处理规则,对数据缓存队列中的原始数据进行数据处理,得到目标数据;根据原始数据的采集速率,对数据采集接口采集新的原始数据的采集操作进行控制。本申请能够满足可采集不同数据且可实现对采集过程监控的数据采集需求。
应当理解,本部分所描述的内容并非旨在标识本申请的实施例的关键或重要特征,也不用于限制本申请的范围。本申请的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本申请的限定。其中:
图1为本申请实施例提供的一种数据采集方法的第一流程示意图;
图2为本申请实施例提供的一种数据采集方法的第二流程示意图;
图3为本申请实施例提供的一种数据采集装置的结构示意图;
图4是用来实现本申请实施例的一种数据采集方法的电子设备的框图。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
实施例一
图1为本申请实施例提供的一种数据采集方法的第一流程示意图,本实施例可适用于对数据进行采集并处理的情况。本实施例提供的一种数据采集方法可以由本申请实施例提供的数据采集装置来执行,该装置可以通过软件和/或硬件的方式实现,并集成在执行本方法的电子设备中。优选的,本申请实施例中的电子设备可以是数据采集设备。
参见图1,本实施例的方法包括但不限于如下步骤:
S110、采用预先配置的数据采集接口采集原始数据,将采集到的原始数据存储在数据缓存队列中;且获取原始数据的采集速率。
在本申请实施例中,数据采集设备可以预先配置与被采集原始数据相对应的数据采集接口,数据输入模块再通过调用预先配置的数据采集接口采集原始数据。数据输入模块采集到原始数据之后,将其存储至数据缓存队列中,以防止所采集到的原始数据丢失。此外,数据输入模块还可获取原始数据的采集速率,将该采集速率上报至后台管控模块。
可选的,本申请的数据采集设备能够配置与被采集原始数据相对应的数据采集接口,以实现对不同数据进行采集的功能,可扩大该数据采集设备的使用范围。例如,本申请的数据采集设备采集的数据包括如下至少一项:kafka、tcp、beats、Elasticsearch、JavaDatabase Connectivity、Mongodb、Netty、Redis。
具体的,数据采集接口的配置过程为:根据预先确定的被采集的原始数据的数据类型和数据类型与数据采集接口的关联关系表,为原始数据确定数据采集接口的配置信息;根据该配置信息,为原始数据配置该原始数据对应的数据采集接口。
可选的,本申请的数据采集设备还可以识别所采集的原始数据中是否存在不符合预设规则的错误数据,若存在,则对该错误数据进行拦截,以使其不能通过数据采集接口进行采集。其中,错误数据包括空数据、数值范围超过预设阈值的数据、不能识别的数据(如乱码)等。
S120、根据预设数据处理规则,对数据缓存队列中的原始数据进行数据处理,得到目标数据。
在本申请实施例中,数据采集设备在对原始数据采集之前,可以根据实际业务需求配置对应的数据处理规则。数据采集设备中的数据处理模块可以从数据缓存队列中提取出原始数据,并依据预设的数据处理规则,对该原始数据进行数据处理,将处理之后的原始数据作为目标数据。
可选的,可以当数据缓存队列中原始数据达到预设数量时,再将其提取出来,采用数据处理模块对其进行数据处理。这样设置的好处在于,可以通过减少数据处理的频次来减少资源消耗。
S130、根据原始数据的采集速率,对数据采集接口采集新的原始数据的采集操作进行控制。
在本申请实施例中,后台管控模块接收数据输入模块上报的原始数据的采集速率,并依据该采集速率对数据采集接口采集新的原始数据的采集操作进行控制。
可选的,本步骤根据原始数据的采集速率,对数据采集接口采集新的原始数据的采集操作进行控制的具体过程可以通过以下两个子步骤实现:
S1301、若原始数据的采集速率达到第一阈值,则暂停数据采集接口采集新的原始数据。
在本申请实施例中,若后台管控模块监测到原始数据的采集速率达到第一阈值,表明当前对原始数据的采集速率过高,数据处理模块不能够对所采集到的原始数据进行及时处理,因此,后台管控模块可以暂停数据采集接口采集新的原始数据。
可选的,后台管控模块还可以通过监测数据缓存队列中的原始数据的数量,当该原始数据的数量达到第一预设数量阈值,表明当前对原始数据的采集速率过高,数据处理模块不能够对所采集到的原始数据进行及时处理,因此,后台管控模块可以暂停数据采集接口采集新的原始数据。
S1302、若原始数据的采集速率低于第二阈值,则开启数据采集接口采集新的原始数据。
在本申请实施例中,第一阈值大于第二阈值。若后台管控模块监测到原始数据的采集速率低于第二阈值,表明当前对原始数据的采集速率过低,数据处理模块能够对所采集到的原始数据进行及时处理且处于轻闲状态,因此,后台管控模块可以开启数据采集接口采集新的原始数据。
可选的,后台管控模块还可以通过监测数据缓存队列中的原始数据的数量,当该原始数据的数量低于第二预设数量阈值,表明当前对原始数据的采集速率过低,数据处理模块能够对所采集到的原始数据进行及时处理且处于轻闲状态,因此,后台管控模块可以开启数据采集接口采集新的原始数据。其中,第一预设数量阈值大于第二预设数量阈值。
可选的,本申请的数据采集框架是基于Java编程语言实现的,通过采用插件化开发,且支持热部署。
可选的,后台管控模块中可设置权限管理单元,该权限管理单元可以依据不同操作级别,设置不同的操作权限;并通过用户输入的身份信息,对用户的操作权限进行识别。
本实施例提供的技术方案,通过采用预先配置的数据采集接口采集原始数据,将采集到的原始数据存储在数据缓存队列中;且获取原始数据的采集速率;根据预设数据处理规则,对数据缓存队列中的原始数据进行数据处理,得到目标数据;根据原始数据的采集速率,对数据采集接口采集新的原始数据的采集操作进行控制。本申请将采集到的数据存储至数据缓存队列中,可以解决现有技术中存在数据丢失的隐患;通过后台管控模块对原始数据的采集速率的管控,可以实现对采集原始数据的监管。执行本申请方案,可以满足可采集不同数据且可实现对采集过程监控的数据采集需求。
实施例二
图2为本申请实施例提供的一种数据采集方法的第二流程示意图。本申请实施例是在上述实施例的基础上进行优化,具体优化为:增加了目标数据的存储过程进行详细的解释说明。
参见图2,本实施例的方法包括但不限于如下步骤:
S210、根据预先确定的被采集的原始数据的数据类型和数据类型与数据采集接口的关联关系表,为原始数据确定数据采集接口的配置信息;根据配置信息,为原始数据配置该原始数据对应的数据采集接口。
S220、采用数据采集接口采集原始数据,将采集到的原始数据存储在数据缓存队列中;且获取原始数据的采集速率。
S230、依据原始数据的数据格式,设置对原始数据进行数据处理的数据处理规则。
在本申请实施例中,根据实际业务需求配置对应的数据处理规则,其中,数据处理规则包括如下至少一项:增加字段、删除字段、正则处理、大小写处理和数据分割。具体的,数据处理规则的设置过程为:依据原始数据的数据格式,设置对原始数据进行数据处理的数据处理规则。示例性的,若原始数据的数据格式缺少一个字段,则数据处理规则是在该原始数据的合适位置处增加所缺少的字段;若原始数据的数据格式为大写字母,则数据处理规则是将该原始数据的数据格式转变为小写字母。需要说明的是,本申请的数据采集设备具有配置数据处理规则的功能,数据处理规则的具体内容是由数据采集设备根据所采集的原始数据的数据格式而定。
S240、根据数据处理规则,对数据缓存队列中的原始数据进行数据处理,得到目标数据。
可选的,可将目标数据暂时存储至存储引擎中,当该存储引擎中存储的目标数据达到预设数量时,再将其存储至目标数据对应的数据库中。这样设置的好处在于,可以通过减少数据存储的频次来减少资源消耗。
S250、依据目标数据的数据类型,为目标数据配置数据存储接口;并根据数据存储接口,将目标数据存储至目标数据对应的数据库中。
在本申请实施例中,根据目标数据的数据类型和预先确定的数据类型与数据存储接口的关联关系表,为目标数据确定数据存储接口的配置信息;根据该配置信息,为目标数据配置该目标数据对应的数据存储接口。然后,根据数据存储接口,将目标数据存储至目标数据对应的数据库中。
可选的,本申请的数据采集设备能够配置与目标数据相对应的数据存储接口,以实现对不同数据进行存储的功能,可扩大该数据采集设备的使用范围。例如,本申请的数据采集设备存储的数据包括如下至少一项:kafka、hive、hbase、Elasticsearch、hdfs。
S260、根据原始数据的采集速率,对数据采集接口采集新的原始数据的采集操作进行控制。
本实施例提供的技术方案,根据预先确定的被采集的原始数据的数据类型和数据类型与数据采集接口的关联关系表,为原始数据确定数据采集接口的配置信息;根据配置信息,为原始数据配置该原始数据对应的数据采集接口;采用预先配置的数据采集接口采集原始数据,将采集到的原始数据存储在数据缓存队列中;且获取原始数据的采集速率;依据原始数据的数据格式,设置对原始数据进行数据处理的数据处理规则;根据预设数据处理规则,对数据缓存队列中的原始数据进行数据处理,得到目标数据;依据目标数据的数据类型,为目标数据配置数据存储接口;并根据数据存储接口,将目标数据存储至目标数据对应的数据库中;根据原始数据的采集速率,对数据采集接口采集新的原始数据的采集操作进行控制。执行本申请方案,可以满足可采集不同数据且可实现对采集过程监控的数据采集需求。
实施例三
图3为本申请实施例提供的一种数据采集装置的结构示意图,如图3所示,该装置300可以包括:
数据输入模块310,用于采用预先配置的数据采集接口采集原始数据,将采集到的原始数据存储在数据缓存队列中;且获取所述原始数据的采集速率。
数据处理模块320,用于根据预设数据处理规则,对所述数据缓存队列中的原始数据进行数据处理,得到目标数据。
后台管控模块330,用于根据所述原始数据的采集速率,对所述数据采集接口采集新的原始数据的采集操作进行控制。
进一步的,上述后台管控模块330,具体用于:若所述原始数据的采集速率达到第一阈值,则暂停所述数据采集接口采集新的原始数据;若所述原始数据的采集速率低于第二阈值,则开启所述数据采集接口采集新的原始数据。
进一步的,上述数据采集装置,还可以包括:数据识别模块;
所述数据识别模块,用于识别所述原始数据中是否存在不符合预设规则的错误数据,若存在,则对所述错误数据进行拦截,以使其不能通过所述数据采集接口进行采集。
进一步的,上述数据采集装置,还可以包括:规则确定模块;
所述规则确定模块,用于在根据预设数据处理规则,对所述数据缓存队列中的原始数据进行数据处理,得到目标数据之前,依据所述原始数据的数据格式,设置对所述原始数据进行数据处理的数据处理规则;其中,所述数据处理规则包括如下至少一项:增加字段、删除字段、正则处理、大小写处理和数据分割。
进一步的,上述数据采集装置,还可以包括:数据存储模块;
所述数据存储模块,用于在根据预设数据处理规则,对所述数据缓存队列中的原始数据进行数据处理,得到目标数据之后,依据所述目标数据的数据类型,为所述目标数据配置数据存储接口;并根据所述数据存储接口,将所述目标数据存储至所述目标数据对应的数据库中。
进一步的,上述数据采集装置,还可以包括:采集接口配置模块;
所述采集接口配置模块,用于在采用预先配置的数据采集接口采集原始数据之前,根据预先确定的被采集的原始数据的数据类型和数据类型与数据采集接口的关联关系表,为所述原始数据确定数据采集接口的配置信息;根据所述配置信息,为所述原始数据配置该原始数据对应的数据采集接口。
本实施例提供的数据采集装置可适用于上述任意实施例提供的数据采集方法,具备相应的功能和有益效果。
实施例四
图4是用来实现本申请实施例的一种数据采集方法的电子设备的框图,图4示出了适于用来实现本申请实施例实施方式的示例性电子设备的框图。图4显示的电子设备仅仅是一个示例,不应对本申请实施例的功能和使用范围带来任何限制。该电子设备典型可以是智能手机、平板电脑、笔记本电脑、车载终端以及可穿戴设备等。
如图4所示,电子设备400以通用计算设备的形式表现。电子设备400的组件可以包括但不限于:一个或者多个处理器或者处理单元416,存储器428,连接不同系统组件(包括存储器428和处理单元416)的总线418。
总线418表示几类总线结构中的一种或多种,包括存储器总线或者存储器控制器,外围总线,图形加速端口,处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说,这些体系结构包括但不限于工业标准体系结构(ISA)总线,微通道体系结构(MAC)总线,增强型ISA总线、视频电子标准协会(VESA)局域总线以及外围组件互连(PCI)总线。
电子设备400典型地包括多种计算机系统可读介质。这些介质可以是任何能够被电子设备400访问的可用介质,包括易失性和非易失性介质,可移动的和不可移动的介质。
存储器428可以包括易失性存储器形式的计算机系统可读介质,例如随机存取存储器(RAM)430和/或高速缓存存储器432。电子设备400可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例,存储系统434可以用于读写不可移动的、非易失性磁介质(图4未显示,通常称为“硬盘驱动器”)。尽管图4中未示出,可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器,以及对可移动非易失性光盘(例如CD-ROM,DVD-ROM或者其它光介质)读写的光盘驱动器。在这些情况下,每个驱动器可以通过一个或者多个数据介质接口与总线418相连。存储器428可以包括至少一个程序产品,该程序产品具有一组(例如至少一个)程序模块,这些程序模块被配置以执行本申请实施例各实施例的功能。
具有一组(至少一个)程序模块442的程序/实用工具440,可以存储在例如存储器428中,这样的程序模块442包括但不限于操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块442通常执行本申请实施例所描述的实施例中的功能和/或方法。
电子设备400也可以与一个或多个外部设备414(例如键盘、指向设备、显示器424等)通信,还可与一个或者多个使得用户能与该电子设备400交互的设备通信,和/或与使得该电子设备400能与一个或多个其它计算设备进行通信的任何设备(例如网卡,调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口422进行。并且,电子设备400还可以通过网络适配器420与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。如图4所示,网络适配器420通过总线418与电子设备400的其它模块通信。应当明白,尽管图4中未示出,可以结合电子设备400使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
处理单元416通过运行存储在存储器428中的程序,从而执行各种功能应用以及数据处理,例如实现本申请任一实施例所提供的数据采集方法。
实施例五
本申请实施例五还提供一种计算机可读存储介质,其上存储有计算机程序(或称为计算机可执行指令),该程序被处理器执行时可以用于执行本申请上述任一实施例所提供的数据采集方法。
本申请实施例的计算机存储介质,可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括——但不限于无线、电线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本申请实施例操作的计算机程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
注意,上述仅为本申请的较佳实施例及所运用技术原理。本领域技术人员会理解,本申请不限于这里所述的特定实施例,对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本申请的保护范围。因此,虽然通过以上实施例对本申请实施例进行了较为详细的说明,但是本申请实施例不仅仅限于以上实施例,在不脱离本申请构思的情况下,还可以包括更多其他等效实施例,而本申请的范围由所附的权利要求范围决定。

Claims (10)

1.一种数据采集方法,其特征在于,所述方法包括:
采用预先配置的数据采集接口采集原始数据,将采集到的原始数据存储在数据缓存队列中;且获取所述原始数据的采集速率;
根据预设数据处理规则,对所述数据缓存队列中的原始数据进行数据处理,得到目标数据;
根据所述原始数据的采集速率,对所述数据采集接口采集新的原始数据的采集操作进行控制。
2.根据权利要求1所述的方法,其特征在于,所述根据所述原始数据的采集速率,对所述数据采集接口采集新的原始数据的采集操作进行控制,包括:
若所述原始数据的采集速率达到第一阈值,则暂停所述数据采集接口采集新的原始数据;
若所述原始数据的采集速率低于第二阈值,则开启所述数据采集接口采集新的原始数据;其中,所述第一阈值大于所述第二阈值。
3.根据权利要求1所述的方法,其特征在于,所述方法还包括:
识别所述原始数据中是否存在不符合预设规则的错误数据,若存在,则对所述错误数据进行拦截,以使其不能通过所述数据采集接口进行采集。
4.根据权利要求1所述的方法,其特征在于,在根据预设数据处理规则,对所述数据缓存队列中的原始数据进行数据处理,得到目标数据之前,还包括:
依据所述原始数据的数据格式,设置对所述原始数据进行数据处理的数据处理规则;其中,所述数据处理规则包括如下至少一项:增加字段、删除字段、正则处理、大小写处理和数据分割。
5.根据权利要求1所述的方法,其特征在于,在根据预设数据处理规则,对所述数据缓存队列中的原始数据进行数据处理,得到目标数据之后,还包括:
依据所述目标数据的数据类型,为所述目标数据配置数据存储接口;并根据所述数据存储接口,将所述目标数据存储至所述目标数据对应的数据库中。
6.根据权利要求1所述的方法,其特征在于,在采用预先配置的数据采集接口采集原始数据之前,还包括:
根据预先确定的被采集的原始数据的数据类型和数据类型与数据采集接口的关联关系表,为所述原始数据确定数据采集接口的配置信息;
根据所述配置信息,为所述原始数据配置该原始数据对应的数据采集接口。
7.一种数据采集装置,其特征在于,所述装置包括:
数据输入模块,用于采用预先配置的数据采集接口采集原始数据,将采集到的原始数据存储在数据缓存队列中;且获取所述原始数据的采集速率;
数据处理模块,用于根据预设数据处理规则,对所述数据缓存队列中的原始数据进行数据处理,得到目标数据;
后台管控模块,用于根据所述原始数据的采集速率,对所述数据采集接口采集新的原始数据的采集操作进行控制。
8.根据权利要求7所述的装置,其特征在于,所述后台管控模块还用于:
若所述原始数据的采集速率达到第一阈值,则暂停所述数据采集接口采集新的原始数据;若所述原始数据的采集速率低于第二阈值,则开启所述数据采集接口采集新的原始数据。
9.一种电子设备,其特征在于,所述电子设备包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序;
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-6中任一项所述的数据采集方法。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1-6中任一项所述的数据采集方法。
CN202110997701.7A 2021-08-27 2021-08-27 一种数据采集方法、装置、电子设备及存储介质 Pending CN115729765A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110997701.7A CN115729765A (zh) 2021-08-27 2021-08-27 一种数据采集方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110997701.7A CN115729765A (zh) 2021-08-27 2021-08-27 一种数据采集方法、装置、电子设备及存储介质

Publications (1)

Publication Number Publication Date
CN115729765A true CN115729765A (zh) 2023-03-03

Family

ID=85290370

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110997701.7A Pending CN115729765A (zh) 2021-08-27 2021-08-27 一种数据采集方法、装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN115729765A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN118034605A (zh) * 2024-03-15 2024-05-14 上海正泰自动化软件系统有限公司 一种数据处理方法、装置、电子设备及存储介质

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN118034605A (zh) * 2024-03-15 2024-05-14 上海正泰自动化软件系统有限公司 一种数据处理方法、装置、电子设备及存储介质

Similar Documents

Publication Publication Date Title
CN112162965B (zh) 一种日志数据处理的方法、装置、计算机设备及存储介质
CN110865888A (zh) 一种资源加载方法、装置、服务器及存储介质
CN112306700A (zh) 一种异常rpc请求的诊断方法和装置
CN112860706A (zh) 一种业务的处理方法、装置、设备及存储介质
CN110569308A (zh) 一种数据文件组装方法、装置、设备及储存介质
CN115729765A (zh) 一种数据采集方法、装置、电子设备及存储介质
CN113760242B (zh) 一种数据处理方法、装置、服务器和介质
CN116028452A (zh) 应用程序的存储管理方法、设备、存储介质及产品
WO2024119930A1 (zh) 调度方法、装置、计算机设备和存储介质
CN113780163A (zh) 一种页面加载时间的检测方法、装置、电子设备及介质
CN112506490A (zh) 一种接口生成方法、装置、电子设备及存储介质
CN113051055A (zh) 一种任务处理方法和装置
CN116361106B (zh) 一种日志处理方法、装置、电子设备及存储介质
CN112860538A (zh) 基于线上日志进行接口回归测试的方法和装置
CN110647527B (zh) 基于大数据的无效标签清除方法及装置、设备与可读介质
CN110262856B (zh) 一种应用程序数据采集方法、装置、终端及存储介质
CN113778977A (zh) 数据处理方法和数据处理装置
CN114584616B (zh) 一种消息推送方法、装置、电子设备及存储介质
CN109933985B (zh) 一种绕过挂钩的方法、装置、设备和计算机存储介质
CN115794353B (zh) 云网业务服务质量优化处理方法、装置、设备及存储介质
CN111625524B (zh) 数据处理方法、装置、设备及存储介质
CN113014511B (zh) 一种数据处理的方法、装置、电子设备及存储介质
US11481130B2 (en) Method, electronic device and computer program product for processing operation commands
CN113778711B (zh) 一种事件处理方法、装置、电子设备及存储介质
CN115544109A (zh) 一种数据分析方法、装置、设备和介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination