CN115952325B - 一种基于大数据平台的数据汇集方法及装置 - Google Patents

一种基于大数据平台的数据汇集方法及装置 Download PDF

Info

Publication number
CN115952325B
CN115952325B CN202310219608.2A CN202310219608A CN115952325B CN 115952325 B CN115952325 B CN 115952325B CN 202310219608 A CN202310219608 A CN 202310219608A CN 115952325 B CN115952325 B CN 115952325B
Authority
CN
China
Prior art keywords
data
platform
auxiliary
collection
missing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202310219608.2A
Other languages
English (en)
Other versions
CN115952325A (zh
Inventor
何超
刘彦能
乔明明
杨钰
王梓雯
戴仕林
林安冬
赵鲁闽
朱恒力
刘宇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangdong Create Technology Co ltd
Original Assignee
Guangdong Create Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangdong Create Technology Co ltd filed Critical Guangdong Create Technology Co ltd
Priority to CN202310219608.2A priority Critical patent/CN115952325B/zh
Publication of CN115952325A publication Critical patent/CN115952325A/zh
Application granted granted Critical
Publication of CN115952325B publication Critical patent/CN115952325B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Debugging And Monitoring (AREA)
  • Selective Calling Equipment (AREA)
  • Arrangements For Transmission Of Measured Signals (AREA)

Abstract

本发明实施例涉及数据汇集技术领域,具体公开了一种基于大数据平台的数据汇集方法及装置。本发明实施例通过周期性生成数据汇集指令,向多个大数据平台发送数据汇集指令;接收多个大数据平台反馈的平台汇集数据,判断是否存在汇集数据遗漏;在存在汇集数据遗漏时,标记汇集遗漏平台;标记汇集辅助平台,将汇集处理数据间接传输至汇集辅助平台;获取汇集辅助平台进行辅助处理得到的辅助汇集数据。能够在对多个大数据平台进行数据汇集过程中,进行汇集数据遗漏判断,标记汇集遗漏平台和汇集辅助平台,通过汇集辅助平台进行数据汇集辅助处理,从而能够在某个大数据平台无法自主进行数据汇集时,还能够及时对所有大数据平台进行数据汇集。

Description

一种基于大数据平台的数据汇集方法及装置
技术领域
本发明属于数据汇集技术领域,尤其涉及一种基于大数据平台的数据汇集方法及装置。
背景技术
大数据平台是一种通过内容共享、资源共用、渠道共建和数据共通等形式来进行服务的网络平台。大数据平台可以充分利用大数据资源支撑创新发展。在数字经济时代,大数据不仅成为新型的关键生产要素,同时也是推动经济社会发展的强劲引擎。大数据平台的优势包括:内容共享、资源共用、渠道共建、技术共通。
大数据平台的数据汇集过程,是进行数据采集的过程,不同的大数据平台,能够进行不同种类的数据采集,在对多个大数据平台同时进行数据汇集的过程中,由于大数据平台的网络、硬件或系统等因素的影响,有可能会造成某个大数据平台无法及时进行数据汇集,因此无法对汇集的多种数据进行相应的及时处理。
发明内容
本发明实施例的目的在于提供一种基于大数据平台的数据汇集方法及装置,旨在解决背景技术中提出的问题。
为实现上述目的,本发明实施例提供如下技术方案:
一种基于大数据平台的数据汇集方法,所述方法具体包括以下步骤:
周期性生成数据汇集指令,确定多个进行数据汇集的大数据平台,向多个所述大数据平台发送数据汇集指令;
接收多个所述大数据平台反馈的平台汇集数据,并对多个所述平台汇集数据进行分析,判断是否存在汇集数据遗漏;
在存在汇集数据遗漏时,标记汇集遗漏平台,并获取所述汇集遗漏平台的汇集处理数据和平台联系数据;
根据所述平台联系数据,标记汇集辅助平台,将所述汇集处理数据间接传输至所述汇集辅助平台;
向所述汇集辅助平台发送辅助汇集指令,获取所述汇集辅助平台根据汇集处理数据进行辅助处理得到的辅助汇集数据。
作为本发明实施例技术方案进一步的限定,所述周期性生成数据汇集指令,确定多个进行数据汇集的大数据平台,向多个所述大数据平台发送数据汇集指令具体包括以下步骤:
获取管理人员输入的周期设置信息和平台记录信息;
根据所述周期设置信息,周期性生成数据汇集指令;
根据所述平台记录信息,确定多个进行数据汇集的大数据平台;
向多个所述大数据平台发送数据汇集指令。
作为本发明实施例技术方案进一步的限定,所述接收多个所述大数据平台反馈的平台汇集数据,并对多个所述平台汇集数据进行分析,判断是否存在汇集数据遗漏具体包括以下步骤:
接收多个所述大数据平台反馈的平台汇集数据;
对多个所述平台汇集数据进行地址分析,得到多个传输地址;
根据所述平台记录信息,获取多个大数据平台对应的平台地址;
将多个所述传输地址与多个所述平台地址进行比较分析,判断是否存在汇集数据遗漏。
作为本发明实施例技术方案进一步的限定,所述在存在汇集数据遗漏时,标记汇集遗漏平台,并获取所述汇集遗漏平台的汇集处理数据和平台联系数据具体包括以下步骤:
在存在汇集数据遗漏时,标记汇集遗漏平台;
将所述汇集遗漏平台对应的平台记录信息标记为遗漏平台信息;
提取所述遗漏平台信息中的汇集处理数据和平台联系数据。
作为本发明实施例技术方案进一步的限定,所述根据所述平台联系数据,标记汇集辅助平台,将所述汇集处理数据间接传输至所述汇集辅助平台具体包括以下步骤:
根据所述平台联系数据,标记汇集辅助平台;
确定所述汇集辅助平台与所述汇集遗漏平台之间的平台联系通道;
向所述汇集辅助平台发送辅助汇集指令;
根据所述辅助汇集指令,从所述平台联系通道,将所述汇集处理数据间接传输至所述汇集辅助平台。
作为本发明实施例技术方案进一步的限定,所述方法还包括以下步骤:
将所述辅助汇集数据和多个所述平台汇集数据进行分类整理。
一种基于大数据平台的数据汇集装置,所述装置包括汇集指令发送单元、数据遗漏判断单元、遗漏标记处理单元、辅助标记处理单元和数据辅助汇集单元,其中:
汇集指令发送单元,用于周期性生成数据汇集指令,确定多个进行数据汇集的大数据平台,向多个所述大数据平台发送数据汇集指令;
数据遗漏判断单元,用于接收多个所述大数据平台反馈的平台汇集数据,并对多个所述平台汇集数据进行分析,判断是否存在汇集数据遗漏;
遗漏标记处理单元,用于在存在汇集数据遗漏时,标记汇集遗漏平台,并获取所述汇集遗漏平台的汇集处理数据和平台联系数据;
辅助标记处理单元,用于根据所述平台联系数据,标记汇集辅助平台,将所述汇集处理数据间接传输至所述汇集辅助平台;
数据辅助汇集单元,用于向所述汇集辅助平台发送辅助汇集指令,获取所述汇集辅助平台根据汇集处理数据进行辅助处理得到的辅助汇集数据。
作为本发明实施例技术方案进一步的限定,所述汇集指令发送单元具体包括:
输入获取模块,用于获取管理人员输入的周期设置信息和平台记录信息;
设置处理模块,用于根据所述周期设置信息,周期性生成数据汇集指令;
信息处理模块,用于根据所述平台记录信息,确定多个进行数据汇集的大数据平台;
指令发送模块,用于向多个所述大数据平台发送数据汇集指令。
作为本发明实施例技术方案进一步的限定,所述数据遗漏判断单元具体包括:
传输地址分析模块,用于对多个所述平台汇集数据进行地址分析,得到多个传输地址;
平台地址分析模块,用于根据所述平台记录信息,获取多个大数据平台对应的平台地址;
地址比较分析模块,用于将多个所述传输地址与多个所述平台地址进行比较分析,判断是否存在汇集数据遗漏。
作为本发明实施例技术方案进一步的限定,所述遗漏标记处理单元具体包括:
遗漏平台标记模块,用于在存在汇集数据遗漏时,标记汇集遗漏平台;
遗漏信息标记模块,用于将所述汇集遗漏平台对应的平台记录信息标记为遗漏平台信息;
数据提取模块,用于提取所述遗漏平台信息中的汇集处理数据和平台联系数据。
与现有技术相比,本发明的有益效果是:
本发明实施例通过周期性生成数据汇集指令,向多个大数据平台发送数据汇集指令;接收多个大数据平台反馈的平台汇集数据,判断是否存在汇集数据遗漏;在存在汇集数据遗漏时,标记汇集遗漏平台;标记汇集辅助平台,将汇集处理数据间接传输至汇集辅助平台;获取汇集辅助平台进行辅助处理得到的辅助汇集数据。能够在对多个大数据平台进行数据汇集过程中,进行汇集数据遗漏判断,标记汇集遗漏平台和汇集辅助平台,通过汇集辅助平台进行数据汇集辅助处理,从而能够在某个大数据平台无法自主进行数据汇集时,还能够及时对所有大数据平台进行数据汇集。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例。
图1示出了本发明实施例提供的方法的流程图。
图2示出了本发明实施例提供的方法中发送数据汇集指令的流程图。
图3示出了本发明实施例提供的方法中平台汇集数据分析的流程图。
图4示出了本发明实施例提供的方法中标记汇集遗漏平台的流程图。
图5示出了本发明实施例提供的方法中标记汇集辅助平台的流程图。
图6示出了本发明实施例提供的方法的又一流程图。
图7示出了本发明实施例提供的装置的应用架构图。
图8示出了本发明实施例提供的装置中汇集指令发送单元的结构框图。
图9示出了本发明实施例提供的装置中数据遗漏判断单元的结构框图。
图10示出了本发明实施例提供的装置中遗漏标记处理单元的结构框图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
可以理解的是,现有的大数据平台的数据汇集过程,是进行数据采集的过程,不同的大数据平台,能够进行不同种类的数据采集,在对多个大数据平台同时进行数据汇集的过程中,由于大数据平台的网络、硬件或系统等因素的影响,有可能会造成某个大数据平台无法及时进行数据汇集,因此无法对汇集的多种数据进行相应的及时处理。
为解决上述问题,本发明实施例通过周期性生成数据汇集指令,向多个大数据平台发送数据汇集指令;接收多个大数据平台反馈的平台汇集数据,判断是否存在汇集数据遗漏;在存在汇集数据遗漏时,标记汇集遗漏平台;标记汇集辅助平台,将汇集处理数据间接传输至汇集辅助平台;获取汇集辅助平台进行辅助处理得到的辅助汇集数据。能够在对多个大数据平台进行数据汇集过程中,进行汇集数据遗漏判断,标记汇集遗漏平台和汇集辅助平台,通过汇集辅助平台进行数据汇集辅助处理,从而能够在某个大数据平台无法自主进行数据汇集时,还能够及时对所有大数据平台进行数据汇集。
图1示出了本发明实施例提供的方法的流程图。
具体的,一种基于大数据平台的数据汇集方法,所述方法具体包括以下步骤:
步骤S101,周期性生成数据汇集指令,确定多个进行数据汇集的大数据平台,向多个所述大数据平台发送数据汇集指令。
在本发明实施例中,需要周期性对多个大数据平台进行数据采集,通过获取管理人员输入的周期设置信息和平台记录信息,对周期设置信息进行周期时间提取,在达到周期时间时自动生成数据汇集指令,且对平台记录信息进行分析,确定需要进行数据汇集的多个大数据平台对应的平台地址,按照多个平台地址,将多个数据汇集指令分别发送至多个对应的大数据平台。
具体的,图2示出了本发明实施例提供的方法中发送数据汇集指令的流程图。
其中,在本发明提供的优选实施方式中,所述周期性生成数据汇集指令,确定多个进行数据汇集的大数据平台,向多个所述大数据平台发送数据汇集指令具体包括以下步骤:
步骤S1011,获取管理人员输入的周期设置信息和平台记录信息。
步骤S1012,根据所述周期设置信息,周期性生成数据汇集指令。
步骤S1013,根据所述平台记录信息,确定多个进行数据汇集的大数据平台。
步骤S1014,向多个所述大数据平台发送数据汇集指令。
进一步的,所述基于大数据平台的数据汇集方法还包括以下步骤:
步骤S102,接收多个所述大数据平台反馈的平台汇集数据,并对多个所述平台汇集数据进行分析,判断是否存在汇集数据遗漏。
在本发明实施例中,多个大数据平台在接收到数据汇集指令之后,需要进行大数据采集,并将采集得到的大数据进行反馈发送,从而能够获取多个大数据平台反馈的平台汇集数据,通过对多个平台汇集数据进行地址分析,确定多个平台汇集数据分别对应的传输地址,进而将多个传输地址与多个平台地址进行比较,判断是否存在地址遗漏,生成遗漏判断结果,从而可以根据遗漏判断结果,判断是否存在汇集数据遗漏。
例如:平台地址总共有10个,而传输地址只有9个时,表明存在地址遗漏,此时就存在汇集数据遗漏。
具体的,图3示出了本发明实施例提供的方法中平台汇集数据分析的流程图。
其中,在本发明提供的优选实施方式中,所述接收多个所述大数据平台反馈的平台汇集数据,并对多个所述平台汇集数据进行分析,判断是否存在汇集数据遗漏具体包括以下步骤:
步骤S1021,接收多个所述大数据平台反馈的平台汇集数据。
步骤S1022,对多个所述平台汇集数据进行地址分析,得到多个传输地址。
步骤S1023,根据所述平台记录信息,获取多个大数据平台对应的平台地址。
步骤S1024,将多个所述传输地址与多个所述平台地址进行比较分析,判断是否存在汇集数据遗漏。
进一步的,所述基于大数据平台的数据汇集方法还包括以下步骤:
步骤S103,在存在汇集数据遗漏时,标记汇集遗漏平台,并获取所述汇集遗漏平台的汇集处理数据和平台联系数据。
在本发明实施例中,在存在汇集数据遗漏时,确定遗漏的传输地址,进而可以根据遗漏的传输地址确定对应的平台地址,按照对应的平台地址,将相对应的大数据平台标记为汇集遗漏平台,将汇集遗漏平台对应的平台记录信息标记为遗漏平台信息,并通过对遗漏平台信息进行分析,提取汇集遗漏平台所对应的汇集处理数据和平台联系数据。
可以理解的是,汇集处理数据,是汇集遗漏平台进行大数据采集的策略信息,包括采集地址、采集类型、采集算法等;平台联系数据,是记录汇集遗漏平台与其他的大数据平台进行其他渠道通信联系的记录信息。
具体的,图4示出了本发明实施例提供的方法中标记汇集遗漏平台的流程图。
其中,在本发明提供的优选实施方式中,所述在存在汇集数据遗漏时,标记汇集遗漏平台,并获取所述汇集遗漏平台的汇集处理数据和平台联系数据具体包括以下步骤:
步骤S1031,在存在汇集数据遗漏时,标记汇集遗漏平台。
步骤S1032,将所述汇集遗漏平台对应的平台记录信息标记为遗漏平台信息。
步骤S1033,提取所述遗漏平台信息中的汇集处理数据和平台联系数据。
进一步的,所述基于大数据平台的数据汇集方法还包括以下步骤:
步骤S104,根据所述平台联系数据,标记汇集辅助平台,将所述汇集处理数据间接传输至所述汇集辅助平台。
在本发明实施例中,根据平台联系数据,将与汇集遗漏平台进行其他渠道通信联系的大数据平台标记为汇集辅助平台,并确定汇集辅助平台与汇集遗漏平台之间进行其他通信连接的平台联系通道,通过向汇集辅助平台发送辅助汇集指令,汇集辅助平台可以在接收辅助汇集指令之后,生成辅助汇集申请,并通过平台联系通道,将辅助汇集申请发送至汇集遗漏平台,使得汇集遗漏平台能够接收辅助汇集申请之后,将对应的汇集处理数据通过平台联系通道发送至汇集辅助平台。
具体的,图5示出了本发明实施例提供的方法中标记汇集辅助平台的流程图。
其中,在本发明提供的优选实施方式中,所述根据所述平台联系数据,标记汇集辅助平台,将所述汇集处理数据间接传输至所述汇集辅助平台具体包括以下步骤:
步骤S1041,根据所述平台联系数据,标记汇集辅助平台。
步骤S1042,确定所述汇集辅助平台与所述汇集遗漏平台之间的平台联系通道。
步骤S1043,向所述汇集辅助平台发送辅助汇集指令。
步骤S1044,根据所述辅助汇集指令,从所述平台联系通道,将所述汇集处理数据间接传输至所述汇集辅助平台。
进一步的,所述基于大数据平台的数据汇集方法还包括以下步骤:
步骤S105,向所述汇集辅助平台发送辅助汇集指令,获取所述汇集辅助平台根据汇集处理数据进行辅助处理得到的辅助汇集数据。
在本发明实施例中,汇集辅助平台在接收了汇集遗漏平台的汇集处理数据之后,暂时获取了汇集遗漏平台的大数据收集权限,通过向汇集辅助平台发送辅助汇集指令,汇集辅助平台在接收了辅助汇集指令之后,按照汇集遗漏平台的大数据收集策略,进行相应的数据汇集,得到辅助汇集数据并上传,从而能够获取汇集辅助平台辅助处理得到的辅助汇集数据,从而能够在汇集遗漏平台无法自主进行数据汇集时,还能够通过汇集辅助平台的辅助处理,及时实现所有大数据平台进行数据汇集。
进一步的,图6示出了本发明实施例提供的方法的又一流程图。
其中,在本发明提供的又一个优选实施方式中,所述方法还包括以下步骤:
步骤S106,将所述辅助汇集数据和多个所述平台汇集数据进行分类整理。
进一步的,图7示出了本发明实施例提供的装置的应用架构图。
其中,在本发明提供的又一个优选实施方式中,一种基于大数据平台的数据汇集装置,包括:
汇集指令发送单元101,用于周期性生成数据汇集指令,确定多个进行数据汇集的大数据平台,向多个所述大数据平台发送数据汇集指令。
在本发明实施例中,需要周期性对多个大数据平台进行数据采集,汇集指令发送单元101通过获取管理人员输入的周期设置信息和平台记录信息,对周期设置信息进行周期时间提取,在达到周期时间时自动生成数据汇集指令,且对平台记录信息进行分析,确定需要进行数据汇集的多个大数据平台对应的平台地址,按照多个平台地址,将多个数据汇集指令分别发送至多个对应的大数据平台。
具体的,图8示出了本发明实施例提供的装置中汇集指令发送单元101的结构框图。
其中,在本发明提供的优选实施方式中,所述汇集指令发送单元101具体包括:
输入获取模块1011,用于获取管理人员输入的周期设置信息和平台记录信息。
设置处理模块1012,用于根据所述周期设置信息,周期性生成数据汇集指令。
信息处理模块1013,用于根据所述平台记录信息,确定多个进行数据汇集的大数据平台。
指令发送模块1014,用于向多个所述大数据平台发送数据汇集指令。
进一步的,所述基于大数据平台的数据汇集装置还包括:
数据遗漏判断单元102,用于接收多个所述大数据平台反馈的平台汇集数据,并对多个所述平台汇集数据进行分析,判断是否存在汇集数据遗漏。
在本发明实施例中,多个大数据平台在接收到数据汇集指令之后,需要进行大数据采集,并将采集得到的大数据进行反馈发送,从而数据遗漏判断单元102能够获取多个大数据平台反馈的平台汇集数据,通过对多个平台汇集数据进行地址分析,确定多个平台汇集数据分别对应的传输地址,进而将多个传输地址与多个平台地址进行比较,判断是否存在地址遗漏,生成遗漏判断结果,从而可以根据遗漏判断结果,判断是否存在汇集数据遗漏。
具体的,图9示出了本发明实施例提供的装置中数据遗漏判断单元102的结构框图。
其中,在本发明提供的优选实施方式中,所述数据遗漏判断单元102具体包括:
传输地址分析模块1021,用于对多个所述平台汇集数据进行地址分析,得到多个传输地址。
平台地址分析模块1022,用于根据所述平台记录信息,获取多个大数据平台对应的平台地址。
地址比较分析模块1023,用于将多个所述传输地址与多个所述平台地址进行比较分析,判断是否存在汇集数据遗漏。
进一步的,所述基于大数据平台的数据汇集装置还包括:
遗漏标记处理单元103,用于在存在汇集数据遗漏时,标记汇集遗漏平台,并获取所述汇集遗漏平台的汇集处理数据和平台联系数据。
在本发明实施例中,在存在汇集数据遗漏时,遗漏标记处理单元103确定遗漏的传输地址,进而可以根据遗漏的传输地址确定对应的平台地址,按照对应的平台地址,将相对应的大数据平台标记为汇集遗漏平台,将汇集遗漏平台对应的平台记录信息标记为遗漏平台信息,并通过对遗漏平台信息进行分析,提取汇集遗漏平台所对应的汇集处理数据和平台联系数据。
具体的,图10示出了本发明实施例提供的装置中遗漏标记处理单元103的结构框图。
其中,在本发明提供的优选实施方式中,所述遗漏标记处理单元103具体包括:
遗漏平台标记模块1031,用于在存在汇集数据遗漏时,标记汇集遗漏平台。
遗漏信息标记模块1032,用于将所述汇集遗漏平台对应的平台记录信息标记为遗漏平台信息。
数据提取模块1033,用于提取所述遗漏平台信息中的汇集处理数据和平台联系数据。
进一步的,所述基于大数据平台的数据汇集装置还包括:
辅助标记处理单元104,用于根据所述平台联系数据,标记汇集辅助平台,将所述汇集处理数据间接传输至所述汇集辅助平台。
在本发明实施例中,辅助标记处理单元104根据平台联系数据,将与汇集遗漏平台进行其他渠道通信联系的大数据平台标记为汇集辅助平台,并确定汇集辅助平台与汇集遗漏平台之间进行其他通信连接的平台联系通道,通过向汇集辅助平台发送辅助汇集指令,汇集辅助平台可以在接收辅助汇集指令之后,生成辅助汇集申请,并通过平台联系通道,将辅助汇集申请发送至汇集遗漏平台,使得汇集遗漏平台能够接收辅助汇集申请之后,将对应的汇集处理数据通过平台联系通道发送至汇集辅助平台。
数据辅助汇集单元105,用于向所述汇集辅助平台发送辅助汇集指令,获取所述汇集辅助平台根据汇集处理数据进行辅助处理得到的辅助汇集数据。
在本发明实施例中,汇集辅助平台在接收了汇集遗漏平台的汇集处理数据之后,暂时获取了汇集遗漏平台的大数据收集权限,数据辅助汇集单元105通过向汇集辅助平台发送辅助汇集指令,汇集辅助平台在接收了辅助汇集指令之后,按照汇集遗漏平台的大数据收集策略,进行相应的数据汇集,得到辅助汇集数据并上传,数据辅助汇集单元105能够获取汇集辅助平台辅助处理得到的辅助汇集数据,从而能够在汇集遗漏平台无法自主进行数据汇集时,还能够通过汇集辅助平台的辅助处理,及时实现所有大数据平台进行数据汇集。
应该理解的是,虽然本发明各实施例的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,各实施例中的至少一部分步骤可以包括多个子步骤或者多个阶段,这些子步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些子步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的程序可存储于一非易失性计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,本申请所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用,均可包括非易失性和/或易失性存储器。非易失性存储器可包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM)或者外部高速缓冲存储器。作为说明而非局限,RAM以多种形式可得,诸如静态RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据率SDRAM(DDRSDRAM)、增强型SDRAM(ESDRAM)、同步链路(Synchlink) DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM(RDRAM)等。
以上所述实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本发明的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对本发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干变形和改进,这些都属于本发明的保护范围。因此,本发明专利的保护范围应以所附权利要求为准。
以上所述仅为本发明的较佳实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等,均应包含在本发明的保护范围之内。

Claims (2)

1.一种基于大数据平台的数据汇集方法,其特征在于,所述方法具体包括以下步骤:
周期性生成数据汇集指令,确定多个进行数据汇集的大数据平台,向多个所述大数据平台发送数据汇集指令;
接收多个所述大数据平台反馈的平台汇集数据,并对多个所述平台汇集数据进行分析,判断是否存在汇集数据遗漏;
在存在汇集数据遗漏时,标记汇集遗漏平台,并获取所述汇集遗漏平台的汇集处理数据和平台联系数据;
根据所述平台联系数据,标记汇集辅助平台,将所述汇集处理数据间接传输至所述汇集辅助平台;
向所述汇集辅助平台发送辅助汇集指令,获取所述汇集辅助平台根据汇集处理数据进行辅助处理得到的辅助汇集数据;
所述周期性生成数据汇集指令,确定多个进行数据汇集的大数据平台,向多个所述大数据平台发送数据汇集指令具体包括以下步骤:
获取管理人员输入的周期设置信息和平台记录信息;
根据所述周期设置信息,周期性生成数据汇集指令;
根据所述平台记录信息,确定多个进行数据汇集的大数据平台;
向多个所述大数据平台发送数据汇集指令;
所述接收多个所述大数据平台反馈的平台汇集数据,并对多个所述平台汇集数据进行分析,判断是否存在汇集数据遗漏具体包括以下步骤:
接收多个所述大数据平台反馈的平台汇集数据;
对多个所述平台汇集数据进行地址分析,得到多个传输地址;
根据所述平台记录信息,获取多个大数据平台对应的平台地址;
将多个所述传输地址与多个所述平台地址进行比较分析,判断是否存在汇集数据遗漏;
所述在存在汇集数据遗漏时,标记汇集遗漏平台,并获取所述汇集遗漏平台的汇集处理数据和平台联系数据具体包括以下步骤:
在存在汇集数据遗漏时,标记汇集遗漏平台;
将所述汇集遗漏平台对应的平台记录信息标记为遗漏平台信息;
提取所述遗漏平台信息中的汇集处理数据和平台联系数据;
所述根据所述平台联系数据,标记汇集辅助平台,将所述汇集处理数据间接传输至所述汇集辅助平台具体包括以下步骤:
根据所述平台联系数据,标记汇集辅助平台;
确定所述汇集辅助平台与所述汇集遗漏平台之间的平台联系通道;
向所述汇集辅助平台发送辅助汇集指令;
根据所述辅助汇集指令,从所述平台联系通道,将所述汇集处理数据间接传输至所述汇集辅助平台;
所述方法还包括以下步骤:
将所述辅助汇集数据和多个所述平台汇集数据进行分类整理。
2.一种基于大数据平台的数据汇集装置,其特征在于,所述装置包括汇集指令发送单元、数据遗漏判断单元、遗漏标记处理单元、辅助标记处理单元和数据辅助汇集单元,其中:
汇集指令发送单元,用于周期性生成数据汇集指令,确定多个进行数据汇集的大数据平台,向多个所述大数据平台发送数据汇集指令;
数据遗漏判断单元,用于接收多个所述大数据平台反馈的平台汇集数据,并对多个所述平台汇集数据进行分析,判断是否存在汇集数据遗漏;
遗漏标记处理单元,用于在存在汇集数据遗漏时,标记汇集遗漏平台,并获取所述汇集遗漏平台的汇集处理数据和平台联系数据;
辅助标记处理单元,用于根据所述平台联系数据,标记汇集辅助平台,将所述汇集处理数据间接传输至所述汇集辅助平台;
数据辅助汇集单元,用于向所述汇集辅助平台发送辅助汇集指令,获取所述汇集辅助平台根据汇集处理数据进行辅助处理得到的辅助汇集数据;
所述汇集指令发送单元具体包括:
输入获取模块,用于获取管理人员输入的周期设置信息和平台记录信息;
设置处理模块,用于根据所述周期设置信息,周期性生成数据汇集指令;
信息处理模块,用于根据所述平台记录信息,确定多个进行数据汇集的大数据平台;
指令发送模块,用于向多个所述大数据平台发送数据汇集指令;
所述数据遗漏判断单元具体包括:
传输地址分析模块,用于对多个所述平台汇集数据进行地址分析,得到多个传输地址;
平台地址分析模块,用于根据所述平台记录信息,获取多个大数据平台对应的平台地址;
地址比较分析模块,用于将多个所述传输地址与多个所述平台地址进行比较分析,判断是否存在汇集数据遗漏;
所述遗漏标记处理单元具体包括:
遗漏平台标记模块,用于在存在汇集数据遗漏时,标记汇集遗漏平台;
遗漏信息标记模块,用于将所述汇集遗漏平台对应的平台记录信息标记为遗漏平台信息;
数据提取模块,用于提取所述遗漏平台信息中的汇集处理数据和平台联系数据。
CN202310219608.2A 2023-03-09 2023-03-09 一种基于大数据平台的数据汇集方法及装置 Active CN115952325B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310219608.2A CN115952325B (zh) 2023-03-09 2023-03-09 一种基于大数据平台的数据汇集方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310219608.2A CN115952325B (zh) 2023-03-09 2023-03-09 一种基于大数据平台的数据汇集方法及装置

Publications (2)

Publication Number Publication Date
CN115952325A CN115952325A (zh) 2023-04-11
CN115952325B true CN115952325B (zh) 2023-05-16

Family

ID=85891321

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310219608.2A Active CN115952325B (zh) 2023-03-09 2023-03-09 一种基于大数据平台的数据汇集方法及装置

Country Status (1)

Country Link
CN (1) CN115952325B (zh)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN201352115Y (zh) * 2008-11-04 2009-11-25 武文 一种利用单频gnss接收机监测地质变化的系统
CN104281661A (zh) * 2014-09-24 2015-01-14 深圳市金立通信设备有限公司 一种数据下载的方法
CN110255310A (zh) * 2019-06-25 2019-09-20 江苏正一物联科技有限公司 物业数据协同监测的电梯远程监控系统及方法
CN111177221A (zh) * 2019-12-26 2020-05-19 苏州亿歌网络科技有限公司 一种统计数据采集方法、装置及设备
CN113790747A (zh) * 2021-09-03 2021-12-14 江苏南大尚诚高科技实业有限公司 一种基于无线传感器网络的建筑群能耗监测装置
CN115080565A (zh) * 2022-06-08 2022-09-20 陕西天诚软件有限公司 一种基于大数据引擎的多源数据统一处理系统

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN201352115Y (zh) * 2008-11-04 2009-11-25 武文 一种利用单频gnss接收机监测地质变化的系统
CN104281661A (zh) * 2014-09-24 2015-01-14 深圳市金立通信设备有限公司 一种数据下载的方法
CN110255310A (zh) * 2019-06-25 2019-09-20 江苏正一物联科技有限公司 物业数据协同监测的电梯远程监控系统及方法
CN111177221A (zh) * 2019-12-26 2020-05-19 苏州亿歌网络科技有限公司 一种统计数据采集方法、装置及设备
CN113790747A (zh) * 2021-09-03 2021-12-14 江苏南大尚诚高科技实业有限公司 一种基于无线传感器网络的建筑群能耗监测装置
CN115080565A (zh) * 2022-06-08 2022-09-20 陕西天诚软件有限公司 一种基于大数据引擎的多源数据统一处理系统

Also Published As

Publication number Publication date
CN115952325A (zh) 2023-04-11

Similar Documents

Publication Publication Date Title
CN110209652B (zh) 数据表迁移方法、装置、计算机设备和存储介质
CN111143163B (zh) 数据监控方法、装置、计算机设备和存储介质
CN115623040A (zh) 一种工业物联网的数据传输方法及系统
CN115776438B (zh) 一种工控数据传输方法及系统
CN110780950B (zh) 接口元数据管理方法、装置、计算机设备及存储介质
CN115952325B (zh) 一种基于大数据平台的数据汇集方法及装置
CN115865630B (zh) 基于深度学习的网络设备故障诊断方法及系统
CN115580519A (zh) 一种计算机网络的故障诊断方法和系统
CN116302383A (zh) 分布式异构数据采集方法、系统、计算机设备及存储介质
CN115086155A (zh) 一种基于物联网的设备故障检测诊断方法及系统
CN117807280B (zh) 一种静默自动触发式文档搜集方法
CN115114353B (zh) 一种大数据的筛选方法和系统
CN113761043A (zh) 数据提取方法、装置、计算机设备和存储介质
CN105429783A (zh) 边缘节点服务器、日志文件处理方法及系统
CN115633303B (zh) 计算机网络管理方法和系统
CN115189999B (zh) 用于对云计算服务进行管理的系统及方法
CN117130299A (zh) 一种基于工业互联网的工业设备监控方法及系统
CN118382023B (zh) 一种混凝土成熟度监测系统及方法
CN114817231B (zh) 一种冗余数据识别过滤方法及系统
CN117119376B (zh) 一种天气预报数据的处理方法及系统
CN115309343B (zh) 一种多级检测的数据存储方法及系统
CN114785723A (zh) web系统的性能监控方法与系统
CN116233565B (zh) 一种电子签名生成方法及系统
CN116166760B (zh) 一种基于物联网的制程数据管理方法及系统
CN114331129A (zh) 一种基于云计算的数据分析方法及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant