CN110928898A - 数据采集方法、数据采集装置、存储介质及电子设备 - Google Patents
数据采集方法、数据采集装置、存储介质及电子设备 Download PDFInfo
- Publication number
- CN110928898A CN110928898A CN201911019012.8A CN201911019012A CN110928898A CN 110928898 A CN110928898 A CN 110928898A CN 201911019012 A CN201911019012 A CN 201911019012A CN 110928898 A CN110928898 A CN 110928898A
- Authority
- CN
- China
- Prior art keywords
- data
- database
- preset
- data acquisition
- storing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/242—Query formulation
- G06F16/2433—Query languages
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2455—Query execution
- G06F16/24552—Database cache management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开实施例是关于一种数据采集方法、数据采集装置、计算机可读存储介质及电子设备。该方法包括将预设的数据采集规则和预设报表存储于第一数据库中;从第一数据库获取数据采集规则和预设报表,根据数据采集规则采集原始数据,并将采集的数据填入预设报表中,且填入的当前数据存储于第二数据库中;将已经填入数据的预设报表上传存储于第三数据库中。本公开实施例将数据采集不同阶段的数据分别存储于不同的数据库中,解耦各数据库模块之间的关联性,减少平台的依赖性,提高数据采集系统的效率。
Description
技术领域
本公开实施例涉及数据采集技术领域,尤其涉及一种数据采集方法、数据采集装置、计算机可读存储介质及电子设备。
背景技术
随着互联网、信息技术的快速发展,专家和各级统计机构越来越重视统计数据的信息化。统计数据是企业和政府机构的进行评估的重要因素,因此快速并准确的生产统计数据至关重要。
统计数据能够全面掌握经济运行情况,为领导决策、行业监管与服务提供信息支撑。相关技术中,平台各模块之间相互依赖,老的系统对于国产化平台中大量的数据采集存在查询效率低,计算速度缓慢等问题。
因此,有必要改善上述相关技术方案中存在的一个或者多个问题。
需要说明的是,在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解,因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。
发明内容
本公开实施例的目的在于提供一种数据采集方法、数据采集装置、计算机可读存储介质及电子设备,进而至少在一定程度上克服由于相关技术的限制和缺陷而导致的一个或者多个问题。
根据本公开实施例的第一方面,提供一种数据采集方法,该方法包括:
将预设的数据采集规则和预设报表存储于第一数据库中;
从所述第一数据库获取所述数据采集规则和预设报表,根据所述数据采集规则采集原始数据,并将采集的数据填入所述预设报表中,且填入的当前数据存储于第二数据库中;
将已经填入数据的预设报表上传存储于第三数据库中。
本公开的一种示例性实施例中,从所述第一数据库获取所述数据采集规则和预设报表的步骤,包括:
发送一第一预设请求消息至消息中间件,由所述消息中间件将所述第一预设请求消息转发至所述第一数据库;
所述消息中间件接收所述第一数据库响应所述第一预设请求消息而返回的数据采集规则和预设报表。
本公开的一种示例性实施例中,将已经填入数据的预设报表上传存储于第三数据库中的步骤,包括:
发送一第二预设请求消息至消息中间件,由所述消息中间件将所述第二预设请求消息转发至所述第二数据库;
所述消息中间件接收所述第二数据库响应所述第二预设请求消息而返回的已经填入数据的预设报表;
将已经填入数据的预设报表上传存储于第三数据库中。
本公开的一种示例性实施例中,所述预设报表包括至少一个第一子报表和第二子报表;将采集的数据填入所述预设报表中的步骤,包括:
确定采集的数据的类别,当采集的数据属于第一类别时,将采集的数据存储于所述第一子报表;当采集的数据属于第二类别时,将采集的数据存储于所述第二子报表。
本公开的一种示例性实施例中,所述第一类别用以表征机构的基本信息;所述第二类别用以表征机构的业务信息。
本公开的一种示例性实施例中,所述第三数据库中已经填入数据的预设报表的存储时间为2~3年;和/或,所述第一数据库中的数据采集规则和预设报表为永久存储。
本公开的一种示例性实施例中,所述采集方法还包括:
响应一预设操作,从所述第三数据库中读取已经填入数据的预设报表,从所述预设报表中获取相应数据并分析得到分析结果。
根据本公开实施例的第二方面,提供一种数据采集装置,所述采集装置包括:
第一模块,用于将预设的数据采集规则和预设报表存储于第一数据库中;
第二模块,用于从所述第一数据库获取所述数据采集规则和预设报表,根据所述数据采集规则采集原始数据,并将采集的数据填入所述预设报表中,且填入的当前数据存储于第二数据库中;
第三模块,用于将已经填入数据的预设报表上传存储于第三数据库中。
本公开的一种示例性实施例中,第二模块还用于发送一第一预设请求消息至消息中间件,由所述消息中间件将所述第一预设请求消息转发至所述第一数据库;
所述消息中间件接收所述第一数据库响应所述第一预设请求消息而返回的数据采集规则和预设报表。
本公开的一种示例性实施例中,第三模块还用于发送一第二预设请求消息至消息中间件,由所述消息中间件将所述第二预设请求消息转发至所述第二数据库;
所述消息中间件接收所述第二数据库响应所述第二预设请求消息而返回的已经填入数据的预设报表;
将已经填入数据的预设报表上传存储于第三数据库中。
本公开的一种示例性实施例中,所述预设报表包括至少一个第一子报表和第二子报表;将采集的数据填入所述预设报表中的步骤,包括:
确定采集的数据的类别,当采集的数据属于第一类别时,将采集的数据存储于所述第一子报表;当采集的数据属于第二类别时,将采集的数据存储于所述第二子报表。
本公开的一种示例性实施例中,所述第一类别用以表征机构的基本信息;所述第二类别用以表征机构的业务信息。
本公开的一种示例性实施例中,所述第三数据库中已经填入数据的预设报表的存储时间为2~3年;和/或,所述第一数据库中的数据采集规则和预设报表为永久存储。
本公开的一种示例性实施例中,第三模块还用于响应一预设操作,从所述第三数据库中读取已经填入数据的预设报表,从所述预设报表中获取相应数据并分析得到分析结果。
根据本公开实施例的第三方面,提供一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现上述任意一个实施例中所述数据采集方法的步骤。
根据本公开实施例的第四方面,提供一种电子设备,包括:
处理器;以及
存储器,用于存储所述处理器的可执行指令;
其中,所述处理器配置为经由执行所述可执行指令来执行上述任意一个实施例中所述数据采集方法的步骤。
本公开的实施例提供的技术方案可以包括以下有益效果:
本公开的实施例中,通过上述数据采集方法、数据采集装置、计算机可读存储介质及电子设备,将数据采集规则和预设报表、采集的原始数据、已经填入数据的预设报表分别存储于不同的数据库中,解耦各数据库模块之间的关联性,减少平台的依赖性,提高数据采集系统的效率。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。显而易见地,下面描述中的附图仅仅是本公开的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1示出本公开示例性实施例中一种数据采集方法的流程图;
图2示出本公开示例性实施例中一种数据采集方法的信息交互示意图;
图3示出本公开示例性实施例中一种数据采集方法的流程图;
图4示出本公开示例性实施例中一种数据采集方法的流程图;
图5示出本公开示例性实施例中一种数据采集装置的结构示意图;
图6示出本公开示例性实施例中一种程序产品示意图;
图7示出本公开示例性实施例中一种电子设备示意图。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的范例;相反,提供这些实施方式使得本公开将更加全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。
此外,附图仅为本公开的示意性图解,并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分,因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体,不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
本示例实施方式中首先提供了一种数据采集方法,该方法可以应用于一终端设备,例如可以是手机、个人数字助理、笔记本电脑、平板电脑等移动终端。参考图1中所示,该方法可以包括下述步骤:
步骤S101:将预设的数据采集规则和预设报表存储于第一数据库中;
步骤S102:从第一数据库获取数据采集规则和预设报表,根据数据采集规则采集原始数据,并将采集的数据填入预设报表中,且填入的当前数据存储于第二数据库中;
步骤S103:将已经填入数据的预设报表上传存储于第三数据库中。
通过上述方法,将数据采集规则和预设报表、采集的原始数据、已经填入数据的预设报表分别存储于不同的数据库中,解耦各数据库模块之间的关联性,减少平台的依赖性,提高数据采集的效率。
下面,将参考图1至图4对本示例实施方式中的上述方法的各个步骤进行更详细的说明。
在步骤S101中,将预设的数据采集规则和预设报表存储于第一数据库中。
示例的,数据采集方法可以包括数据采集规则、报表设计、数据采集、数据审核、数据处理和数据分析6个步骤,其中,数据存储于第二数据库中;已经填入数据的预设报表存储于第三数据库中,用于数据审核、数据处理和数据分析。数据采集规则可以根据数据采集机构或管理机构的调查项目、制度标准或调查方案进行设计,第一数据库是元数据库,第一数据库中的数据采集规则和预设报表为永久存储。
在步骤S102中,从第一数据库获取数据采集规则和预设报表,根据数据采集规则采集原始数据,并将采集的数据填入预设报表中,且填入的当前数据存储于第二数据库中。
示例的,第二数据库是采集数据库,第二数据库用于存放数据采集环节中正在填报的、当期的数据,根据数据采集规则采集原始数据,可以是采集用户输入的数据,也可以是采集外设的数据源发送端发送的数据,将采集的数据存储于第二数据库中。
在一个实施例中,参考图2和图3中所示,从第一数据库获取所述数据采集规则和预设报表的步骤,可以包括:
步骤S1021:发送一第一预设请求消息至消息中间件,由消息中间件将第一预设请求消息转发至第一数据库;
步骤S1022:消息中间件接收第一数据库响应第一预设请求消息而返回的数据采集规则和预设报表。
示例的,第一预设请求可以是用户请求调出数据采集规则和预设报表的操作指令,消息中间件接收用户的上述操作指令并将其接收的操作指令发送至第一数据库,第一数据库响应该操作指令并向消息中间件发送数据采集规则和预设报表,消息中间件接收第一数据库返回的数据采集规则和预设报表后以可视化方式呈现给用户。
在一个实施例中,预设报表包括至少一个第一子报表和第二子报表;将采集的数据填入所述预设报表中的步骤,包括:
步骤S1023:确定采集的数据的类别,当采集的数据属于第一类别时,将采集的数据存储于所述第一子报表;当采集的数据属于第二类别时,将采集的数据存储于所述第二子报表。
示例的,第一类别用以表征机构的基本信息,被调查机构的基本信息是数据采集机构或管理机构进行统计分析的重要依据;第二类别用以表征机构的业务信息,当采集的数据属于机构的基本信息时,将该数据存储于第一子报表中;当采集的数据属于机构的业务信息时,将该数据存储于第二子报表中,第二子报表可以包括定长指标表、定长目录表、不定长目录表,还有一些带子表的表、多定长目录表、定长表加不定长目录表、定长表加一维指标表等等,此处不做具体限定。
在步骤S103中,将已经填入数据的预设报表上传存储于第三数据库中。
示例的,第三数据库是工作数据库,当第二数据库中数据填报完成后,将已经填入数据的预设报表上报至第三数据库中,用于数据审核、数据处理和数据分析。第三数据库中已经填入数据的预设报表的存储时间为2~3年。
在一个实施例中,参考图2和图3中所示,将已经填入数据的预设报表上传存储于第三数据库中的步骤,包括:
S1031:发送一第二预设请求消息至消息中间件,由消息中间件将第二预设请求消息转发至第二数据库;
S1032:消息中间件接收第二数据库响应第二预设请求消息而返回的已经填入数据的预设报表;
S1033:将已经填入数据的预设报表上传存储于第三数据库中。
示例的,消息中间件接收终端发送的第二预设请求信息并将接收的第二预设请求消息转发至第二数据库。第二预设请求信息是请求第二数据库将已经填入数据的预设报表上报至第三数据库中。消息中间件接收第二数据库返回的已经填入数据的预设报表并将已经填入数据的预设报表上传至第三数据库中。
参考图3所示,图3是根据本公开一实施例示出的一种数据采集方法的流程图,本实施例所提供的数据采集方法可以包括以下步骤:
步骤S201:将预设的数据采集规则和预设报表存储于第一数据库中;其中,预设报表包括至少一个第一子报表和第二子报表;
步骤S202:发送一第一预设请求消息至消息中间件,由消息中间件将第一预设请求消息转发至第一数据库;
步骤S203:消息中间件接收第一数据库响应第一预设请求消息而返回的数据采集规则和预设报表;
步骤S204:根据数据采集规则采集原始数据,确定采集的数据的类别,当采集的数据属于第一类别时,将采集的数据存储于所述第一子报表;当采集的数据属于第二类别时,将采集的数据存储于所述第二子报表;且填入的当前数据存储于第二数据库中;
步骤S205:发送一第二预设请求消息至消息中间件,由消息中间件将第二预设请求消息转发至第二数据库;
步骤S206:消息中间件接收第二数据库响应第二预设请求消息而返回的已经填入数据的预设报表;
步骤S207:将已经填入数据的预设报表上传存储于第三数据库中。
在一个实施例中,所述采集方法,还包括:
S104:响应一预设操作,从第三数据库中读取已经填入数据的预设报表,从预设报表中获取相应数据并分析得到分析结果。
示例的,所述预设操作可以是用户关于数据审核、数据处理或数据分析的操作指令,终端接收该预设操作后,从第三数据库中读取已经填入数据的预设报表,并根据用户的操作指令分析数据,向用户以可视为方式展示分析结果。
参考图4所示,图4是根据本公开一实施例示出的一种数据采集方法的流程图,本实施例所提供的数据采集方法可以包括以下步骤:
步骤S301:将预设的数据采集规则和预设报表存储于第一数据库中;
步骤S302:从第一数据库获取数据采集规则和预设报表,根据数据采集规则采集原始数据,并将采集的数据填入预设报表中,且填入的当前数据存储于第二数据库中;
步骤S303:将已经填入数据的预设报表上传存储于第三数据库中。
步骤S304:响应一预设操作,从第三数据库中读取已经填入数据的预设报表,从预设报表中获取相应数据并分析得到分析结果。
在一个实施例中,本公开方案采用SpringCloud微服务架构进行设计,基于SpringBoot进行构建,整合了一系列优秀的组件,利用SpringCloud的优良特性,将数据采集过程分为多个功能模块进行不同的服务处理,进一步将服务之间的关联性进行解耦。该数据采集方法将采集规则和预设报表的相关数据存储于第一数据库中;将数据采集环节中采集的数据存储于第二数据库中;将已经填入数据的预设报表存储于第三数据库中,用于数据审核、数据处理和数据分析。通过将数据采集不同阶段的数据分别存储于不同的数据库中,解耦各数据库模块之间的关联性,减少平台的依赖性,提高数据采集的效率。
在一个实施例中,由于不同时间同一张报表的填报数据会经常的变化,第一数据库、第二数据库、第三数据库可以是MongoDb数据库,MongoDb数据库是一个基于分布式文件存储的数据库,介于关系数据库和非关系数据库之间,支持存储复杂的数据类型,提供了强大的查询语句。
在一个实施例中,第一数据库、第二数据库和第三数据库之间的交互数据可以采用redis数据库进行缓存,redis数据库是一个高性能的key-value数据库,redis能读的速度是110000次/s,写的速度是81000次/s。具有丰富的数据类型,支持s支持二进制案例Strings,Lists,Hashes Set及Ordered Sets数据类型操作。
在一个实施例中,消息中间件可以是Rabittmq消息中间件。Rabittmq消息中间件是处理过程中插入了一个隐含的基于数据的接口层,两边都实现这个接口,这样就允许独立的修改或者扩展两边的处理过程,具有较强的解耦性,通过把消息发送给Rabittmq消息中间件,Rabittmq消息中间件并不立即处理它,后续在慢慢处理,Rabittmq消息中间件能够实现不同网段,不同服务之间的消息传送。
需要说明的是,尽管在附图中以特定顺序描述了本公开中方法的各个步骤,但是,这并非要求或者暗示必须按照该特定顺序来执行这些步骤,或是必须执行全部所示的步骤才能实现期望的结果。附加的或备选的,可以省略某些步骤,将多个步骤合并为一个步骤执行,以及/或者将一个步骤分解为多个步骤执行等。另外,也易于理解的是,这些步骤可以是例如在多个模块/进程/线程中同步或异步执行。
进一步的,本示例实施方式中,还提供了一种数据采集装置。参考图5中所示,数据采集装置可以包括第一模块、第二模块、第三模块,其中:
第一模块,用于将预设的数据采集规则和预设报表存储于第一数据库中;
第二模块,用于从所述第一数据库获取所述数据采集规则和预设报表,根据所述数据采集规则采集原始数据,并将采集的数据填入所述预设报表中,且填入的当前数据存储于第二数据库中;
第三模块,用于将已经填入数据的预设报表上传存储于第三数据库中。
通过上述装置,将数据采集规则和预设报表、采集的原始数据、已经填入数据的预设报表分别存储于不同的数据库中,解耦各数据库模块之间的关联性,减少平台的依赖性,提高数据采集装置的效率。
在一个实施例中,第二模块还用于发送一第一预设请求消息至消息中间件,由所述消息中间件将所述第一预设请求消息转发至所述第一数据库;
所述消息中间件接收所述第一数据库响应所述第一预设请求消息而返回的数据采集规则和预设报表。
在一个实施例中,第三模块还用于发送一第二预设请求消息至消息中间件,由所述消息中间件将所述第二预设请求消息转发至所述第二数据库;
所述消息中间件接收所述第二数据库响应所述第二预设请求消息而返回的已经填入数据的预设报表;
将已经填入数据的预设报表上传存储于第三数据库中。
在一个实施例中,预设报表包括至少一个第一子报表和第二子报表;第二模块还用于确定采集的数据的类别,当采集的数据属于第一类别时,将采集的数据存储于第一子报表;当采集的数据属于第二类别时,将采集的数据存储于第二子报表。
在一个实施例中,第一类别用以表征机构的基本信息;第二类别用以表征机构的业务信息。
在一个实施例中,第三数据库中已经填入数据的预设报表的存储时间为2~3年;和/或,第一数据库中的数据采集规则和预设报表为永久存储。
在一个实施例中,第三模块用于响应一预设操作,从所述第三数据库中读取已经填入数据的预设报表,从所述预设报表中获取相应数据并分析得到分析结果。
关于上述实施例中的装置,其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述,此处将不做详细阐述说明。
应当注意,尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本公开的实施方式,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。作为模块或单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现木公开方案的目的。本领域普通技术人员在不付出创造性劳动的情况下,即可以理解并实施。
在本公开的示例性实施例中,还提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被例如处理器执行时可以实现上述任意一个实施例中所述数据采集方法的步骤。在一些可能的实施方式中,本发明的各个方面还可以实现为一种程序产品的形式,其包括程序代码,当所述程序产品在终端设备上运行时,所述程序代码用于使所述终端设备执行本说明书上述数据采集方法部分中描述的根据本发明各种示例性实施方式的步骤。
参考图6中所示,描述了根据本发明的实施方式的用于实现上述方法的程序产品300,其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码,并可以在终端设备,例如个人电脑上运行。然而,本发明的程序产品不限于此,在本文件中,可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
所述程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
所述计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、有线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、C++等,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
在本公开的示例性实施例中,还提供一种电子设备,该电子设备可以包括处理器,以及用于存储所述处理器的可执行指令的存储器。其中,所述处理器配置为经由执行所述可执行指令来执行上述任意一个实施例中所述数据采集方法的步骤。
所属技术领域的技术人员能够理解,本发明的各个方面可以实现为系统、方法或程序产品。因此,本发明的各个方面可以具体实现为以下形式,即:完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等),或硬件和软件方面结合的实施方式,这里可以统称为“电路”、“模块”或“系统”。
下面参照图7来描述根据本发明的这种实施方式的电子设备600。图7显示的电子设备600仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图7所示,电子设备600以通用计算设备的形式表现。电子设备600的组件可以包括但不限于:至少一个处理单元610、至少一个存储单元620、连接不同系统组件(包括存储单元620和处理单元610)的总线630、显示单元640等。
其中,所述存储单元存储有程序代码,所述程序代码可以被所述处理单元610执行,使得所述处理单元610执行本说明书上述XXX方法部分中描述的根据本发明各种示例性实施方式的步骤。例如,所述处理单元610可以执行如图1中所示的步骤。
所述存储单元620可以包括易失性存储单元形式的可读介质,例如随机存取存储单元(RAM)6201和/或高速缓存存储单元6202,还可以进一步包括只读存储单元(ROM)6203。
所述存储单元620还可以包括具有一组(至少一个)程序模块6205的程序/实用工具6204,这样的程序模块6205包括但不限于:操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线630可以为表示几类总线结构中的一种或多种,包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
电子设备600也可以与一个或多个外部设备700(例如键盘、指向设备、蓝牙设备等)通信,还可与一个或者多个使得用户能与该电子设备600交互的设备通信,和/或与使得该电子设备600能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口650进行。并且,电子设备600还可以通过网络适配器660与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。网络适配器660可以通过总线630与电子设备600的其它模块通信。应当明白,尽管图中未示出,可以结合电子设备600使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本公开实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、或者网络设备等)执行根据本公开实施方式的上述数据采集方法。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本公开的其它实施方案。本申请旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由所附的权利要求指出。
Claims (10)
1.一种数据采集方法,其特征在于,该方法包括:
将预设的数据采集规则和预设报表存储于第一数据库中;
从所述第一数据库获取所述数据采集规则和预设报表,根据所述数据采集规则采集原始数据,并将采集的数据填入所述预设报表中,且填入的当前数据存储于第二数据库中;
将已经填入数据的预设报表上传存储于第三数据库中。
2.根据权利要求1所述采集方法,其特征在于,从所述第一数据库获取所述数据采集规则和预设报表的步骤,包括:
发送一第一预设请求消息至消息中间件,由所述消息中间件将所述第一预设请求消息转发至所述第一数据库;
所述消息中间件接收所述第一数据库响应所述第一预设请求消息而返回的数据采集规则和预设报表。
3.根据权利要求1所述采集方法,其特征在于,将已经填入数据的预设报表上传存储于第三数据库中的步骤,包括:
发送一第二预设请求消息至消息中间件,由所述消息中间件将所述第二预设请求消息转发至所述第二数据库;
所述消息中间件接收所述第二数据库响应所述第二预设请求消息而返回的已经填入数据的预设报表;
将已经填入数据的预设报表上传存储于第三数据库中。
4.根据权利要求1~3任一项所述采集方法,其特征在于,所述预设报表包括至少一个第一子报表和第二子报表;将采集的数据填入所述预设报表中的步骤,包括:
确定采集的数据的类别,当采集的数据属于第一类别时,将采集的数据存储于所述第一子报表;当采集的数据属于第二类别时,将采集的数据存储于所述第二子报表。
5.根据权利要求4所述采集方法,其特征在于,所述第一类别用以表征机构的基本信息;所述第二类别用以表征机构的业务信息。
6.根据权利要求4所述采集方法,其特征在于,所述第三数据库中已经填入数据的预设报表的存储时间为2~3年;和/或,所述第一数据库中的数据采集规则和预设报表为永久存储。
7.根据权利要求4所述采集方法,其特征在于,还包括:
响应一预设操作,从所述第三数据库中读取已经填入数据的预设报表,从所述预设报表中获取相应数据并分析得到分析结果。
8.一种数据采集装置,其特征在于,所述采集装置包括:
第一模块,用于将预设的数据采集规则和预设报表存储于第一数据库中;
第二模块,用于从所述第一数据库获取所述数据采集规则和预设报表,根据所述数据采集规则采集原始数据,并将采集的数据填入所述预设报表中,且填入的当前数据存储于第二数据库中;
第三模块,用于将已经填入数据的预设报表上传存储于第三数据库中。
9.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现权利要求1~7任一项所述数据采集方法的步骤。
10.一种电子设备,其特征在于,包括:
处理器;以及
存储器,用于存储所述处理器的可执行指令;
其中,所述处理器配置为经由执行所述可执行指令来执行权利要求1~7任一项所述数据采集方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911019012.8A CN110928898A (zh) | 2019-10-24 | 2019-10-24 | 数据采集方法、数据采集装置、存储介质及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911019012.8A CN110928898A (zh) | 2019-10-24 | 2019-10-24 | 数据采集方法、数据采集装置、存储介质及电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN110928898A true CN110928898A (zh) | 2020-03-27 |
Family
ID=69849418
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911019012.8A Pending CN110928898A (zh) | 2019-10-24 | 2019-10-24 | 数据采集方法、数据采集装置、存储介质及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110928898A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111984628A (zh) * | 2020-08-28 | 2020-11-24 | 北京人大金仓信息技术股份有限公司 | 数据库统计信息采集方法、装置、介质和电子设备 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106547914A (zh) * | 2016-11-25 | 2017-03-29 | 国信优易数据有限公司 | 一种数据采集管理系统及其方法 |
US20170300837A1 (en) * | 2016-04-19 | 2017-10-19 | Denso Corporation | Business operation evaluation system |
CN108241717A (zh) * | 2016-12-27 | 2018-07-03 | 中国移动通信集团公司 | 一种数据处理方法、装置及系统 |
CN109379245A (zh) * | 2018-09-21 | 2019-02-22 | 成都西加云杉科技有限公司 | 一种wifi报表生成方法及系统 |
CN109816292A (zh) * | 2017-11-22 | 2019-05-28 | 上海德启信息科技有限公司 | 一种仓储信息库建立方法及系统 |
CN110222100A (zh) * | 2019-04-26 | 2019-09-10 | 广州明珞汽车装备有限公司 | 基于大数据显示工艺时序图的处理方法、系统及存储介质 |
-
2019
- 2019-10-24 CN CN201911019012.8A patent/CN110928898A/zh active Pending
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170300837A1 (en) * | 2016-04-19 | 2017-10-19 | Denso Corporation | Business operation evaluation system |
CN106547914A (zh) * | 2016-11-25 | 2017-03-29 | 国信优易数据有限公司 | 一种数据采集管理系统及其方法 |
CN108241717A (zh) * | 2016-12-27 | 2018-07-03 | 中国移动通信集团公司 | 一种数据处理方法、装置及系统 |
CN109816292A (zh) * | 2017-11-22 | 2019-05-28 | 上海德启信息科技有限公司 | 一种仓储信息库建立方法及系统 |
CN109379245A (zh) * | 2018-09-21 | 2019-02-22 | 成都西加云杉科技有限公司 | 一种wifi报表生成方法及系统 |
CN110222100A (zh) * | 2019-04-26 | 2019-09-10 | 广州明珞汽车装备有限公司 | 基于大数据显示工艺时序图的处理方法、系统及存储介质 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111984628A (zh) * | 2020-08-28 | 2020-11-24 | 北京人大金仓信息技术股份有限公司 | 数据库统计信息采集方法、装置、介质和电子设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109471863B (zh) | 基于分布式数据库的信息查询方法及装置、电子设备 | |
CN107506451B (zh) | 用于数据交互的异常信息监控方法及装置 | |
CN111190888A (zh) | 一种管理图数据库集群的方法和装置 | |
US9930113B2 (en) | Data retrieval via a telecommunication network | |
CN111309550A (zh) | 应用程序的数据采集方法、系统、设备和存储介质 | |
US9043327B1 (en) | Performing flexible pivot querying of monitoring data using a multi-tenant monitoring system | |
US10657099B1 (en) | Systems and methods for transformation and analysis of logfile data | |
US11645179B2 (en) | Method and apparatus of monitoring interface performance of distributed application, device and storage medium | |
CN111552669A (zh) | 数据处理方法、装置、计算设备和存储介质 | |
JP2012113706A (ja) | データベース・クエリ最適化のためのコンピュータで実装される方法、コンピュータ・プログラム、およびデータ処理システム | |
CN110866031B (zh) | 数据库访问路径的优化方法、装置、计算设备以及介质 | |
US9817864B1 (en) | Flexible pivot querying of monitoring data with zero setup | |
CN110928898A (zh) | 数据采集方法、数据采集装置、存储介质及电子设备 | |
CN111752916B (zh) | 数据采集方法及装置、计算机可读存储介质、电子设备 | |
CN111459980A (zh) | 监控数据的存储和查询方法及装置 | |
CN107656999B (zh) | 呼叫历史追溯方法、装置、电子设备、存储介质 | |
US9104392B1 (en) | Multitenant monitoring system storing monitoring data supporting flexible pivot querying | |
CN115292313A (zh) | 一种伪列实现方法、装置、电子设备及存储介质 | |
CN114238390A (zh) | 数据仓库优化方法、装置、设备及存储介质 | |
US10223399B2 (en) | Global filter factor estimation | |
US20210342240A1 (en) | Method, electronic device, and computer program product for monitoring storage system | |
CN113760890A (zh) | 关系型数据库管理的方法和装置 | |
CN113448957A (zh) | 一种数据查询方法和装置 | |
US20210073222A1 (en) | System and method for implementing data usage analysis for database systems | |
US10671587B2 (en) | Reduced fixed length sort of variable length columns |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20200327 |
|
RJ01 | Rejection of invention patent application after publication |