CN109063111A - 一种大数据处理方法及系统 - Google Patents
一种大数据处理方法及系统 Download PDFInfo
- Publication number
- CN109063111A CN109063111A CN201810851431.7A CN201810851431A CN109063111A CN 109063111 A CN109063111 A CN 109063111A CN 201810851431 A CN201810851431 A CN 201810851431A CN 109063111 A CN109063111 A CN 109063111A
- Authority
- CN
- China
- Prior art keywords
- data
- condition
- registration
- condition specification
- action norm
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Landscapes
- Debugging And Monitoring (AREA)
Abstract
本发明公开了一种大数据处理方法及系统,包括计算机系统的处理器,所述处理包括:注册表示数据收集路径的多个数据场;生成并存储根据由注册数据场提供的数据的分层结构划分为多个数据单元的数据场,并指示用于访问每个单元数据的指针;生成和登记条件规范;生成和注册动作规范;通过混合条件规范和动作规范来生成和存储数据提供规范;当满足数据提供规范的条件规范中定义的条件时,获取相应的动作规范;和根据获取的动作规范中定义的操作处理从相应的动作规范中包含的数据场收集的数据。
Description
技术领域
本发明涉及大数据处理技术领域,具体而言,涉及一种大数据处理方法及系统。更具体地,其可以分析在网络上分发的各种大数据并且仅选择用户期望提供的数据。
背景技术
现有技术公开用户很难在互联网上无限制作的大数据中找到所谓的信息,以达到被称为信息泛滥的程度。实际上,分析师正在对大数据进行分析,并且需要花费大量的成本和时间。
因此,迫切需要开发一种技术,该技术使得作为信息的最终消费者的一般用户能够直接选择他们想要提供的数据。
发明内容
本发明提出了一种大数据处理方法,包括计算机系统的处理器,所述处理包括:
注册表示数据收集路径的多个数据场;
生成并存储根据由注册数据场提供的数据的分层结构划分为多个数据单元的数据场,并指示用于访问每个单元数据的指针;
生成和登记条件规范,该条件规范包括属于在条件规范注册过程中选择的至少一个数据集的数据场;
生成和注册动作规范,该动作规范包括属于在动作规范注册过程中选择的至少一个数据群的数据场;
通过混合条件规范和动作规范来生成和存储数据提供规范;
当满足数据提供规范的条件规范中定义的条件时,获取相应的动作规范;和
根据获取的动作规范中定义的操作处理从相应的动作规范中包含的数据场收集的数据,
其中条件规范和动作规范中的至少一个包括对应于不同数据场的数据场。
所述的大数据处理方法,其中,所述条件规范的生成和注册包括:
显示在条件规范注册过程中选择的所选数据集和与其对应的数据场;
将与根据输入条件选择的数据场相关联的条件和条件规范登记处理中的选择结果添加到正在创建的条件规范中;和
分析添加到条件规范中的条件,将条件转换为自然语言,然后在屏幕上输出自然语言作为提示。
所述的大数据处理方法,其中,所述条件规范的生成和注册包括:
提供一个接口,通过该接口可以获取和修改在条件规范注册过程中选择的数据集的先前注册的条件规范;和
注册根据通过接口的输入修改的条件规范作为用户的条件规范。
所述的大数据处理方法,其中,生成和注册动作规范包括:
提供一个接口,通过该接口可以获取和修改在动作规范注册过程中选择的数据集的先前注册的条件规范;和
注册根据通过接口的输入修改的动作规范作为用户的动作规范。
所述的大数据处理方法,其中,数据的处理包括:
在预定时段执行条件规范,并在满足条件时传送根据相应的动作规范处理的数据。
所述的大数据处理方法,其中,数据的处理包括:
执行条件规范并提供开放的应用程序编程接口(API)地址,当满足条件规范时,能够从外部系统获取根据相应的动作规范处理的数据。
一种计算机系统,包括处理器,存储器和网络适配器,
其中处理器:
在存储器中登记表示通过网络适配器的数据收集路径的多个数据场;
根据注册数据场提供的数据的层次结构将数据划分为多个数据单元,生成表示用于访问每个单元数据的指针的数据场,并将数据场存储在存储器中;
生成条件规范,该条件规范包括属于在条件规范注册过程中选择的至少一个数据集的数据场,并将条件规范登记在存储器中;
生成动作规范,该动作规范包括属于在动作规范注册过程中选择的至少一个数据群的数据场,并将动作规范登记在存储器中;
通过混合条件规范和动作规范来生成数据提供规范,并将数据提供规范存储在存储器中;
当满足数据提供规范的条件规范中定义的条件时,从存储器中取出相应的动作规范;和
根据在获取的动作规范中定义的操作,处理从动作规范中包含的数据场收集的数据
条件规范和动作规范中的至少一个包括与不同数据场相对应的数据场。
附图说明
从以下结合附图的描述可以进一步理解本发明。图中的部件不一定按比例绘制,而是将重点放在示出实施例的原理上。在图中,在不同的视图中,相同的附图标记指定对应的部分。
图1是本发明的大数据处理方法的示意图。
具体实施方式
为了使得本发明的目的、技术方案及优点更加清楚明白,以下结合其实施例,对本发明进行进一步详细说明;应当理解,此处所描述的具体实施例仅用于解释本发明,并不用于限定本发明。对于本领域技术人员而言,在查阅以下详细描述之后,本实施例的其它系统、方法和/或特征将变得显而易见。旨在所有此类附加的系统、方法、特征和优点都包括在本说明书内、包括在本发明的范围内,并且受所附权利要求书的保护。在以下详细描述描述了所公开的实施例的另外的特征,并且这些特征根据以下将详细描述将是显而易见的。
实施例一:
图1是本发明的大数据处理方法的示意图。包括计算机系统的处理器,所述处理包括:
注册表示数据收集路径的多个数据场;
生成并存储根据由注册数据场提供的数据的分层结构划分为多个数据单元的数据场,并指示用于访问每个单元数据的指针;
生成和登记条件规范,该条件规范包括属于在条件规范注册过程中选择的至少一个数据集的数据场;
生成和注册动作规范,该动作规范包括属于在动作规范注册过程中选择的至少一个数据群的数据场;
通过混合条件规范和动作规范来生成和存储数据提供规范;
当满足数据提供规范的条件规范中定义的条件时,获取相应的动作规范;和
根据获取的动作规范中定义的操作处理从相应的动作规范中包含的数据场收集的数据,
其中条件规范和动作规范中的至少一个包括对应于不同数据场的数据场。
所述的大数据处理方法,其中,所述条件规范的生成和注册包括:
显示在条件规范注册过程中选择的所选数据集和与其对应的数据场;
将与根据输入条件选择的数据场相关联的条件和条件规范登记处理中的选择结果添加到正在创建的条件规范中;和
分析添加到条件规范中的条件,将条件转换为自然语言,然后在屏幕上输出自然语言作为提示。
所述的大数据处理方法,其中,所述条件规范的生成和注册包括:
提供一个接口,通过该接口可以获取和修改在条件规范注册过程中选择的数据集的先前注册的条件规范;和
注册根据通过接口的输入修改的条件规范作为用户的条件规范。
所述的大数据处理方法,其中,生成和注册动作规范包括:
提供一个接口,通过该接口可以获取和修改在动作规范注册过程中选择的数据集的先前注册的条件规范;和
注册根据通过接口的输入修改的动作规范作为用户的动作规范。
所述的大数据处理方法,其中,数据的处理包括:
在预定时段执行条件规范,并在满足条件时传送根据相应的动作规范处理的数据。
所述的大数据处理方法,其中,数据的处理包括:
执行条件规范并提供开放的应用程序编程接口(API)地址,当满足条件规范时,能够从外部系统获取根据相应的动作规范处理的数据。
实施例二:
一种计算机系统,包括处理器,存储器和网络适配器,
其中处理器:
在存储器中登记表示通过网络适配器的数据收集路径的多个数据场;
根据注册数据场提供的数据的层次结构将数据划分为多个数据单元,生成表示用于访问每个单元数据的指针的数据场,并将数据场存储在存储器中;
生成条件规范,该条件规范包括属于在条件规范注册过程中选择的至少一个数据集的数据场,并将条件规范登记在存储器中;
生成动作规范,该动作规范包括属于在动作规范注册过程中选择的至少一个数据群的数据场,并将动作规范登记在存储器中;
通过混合条件规范和动作规范来生成数据提供规范,并将数据提供规范存储在存储器中;
当满足数据提供规范的条件规范中定义的条件时,从存储器中取出相应的动作规范;和
根据在获取的动作规范中定义的操作,处理从动作规范中包含的数据场收集的数据条件规范和动作规范中的至少一个包括与不同数据场相对应的数据场。
所述的大数据处理方法,其中,所述条件规范的生成和注册包括:
显示在条件规范注册过程中选择的所选数据集和与其对应的数据场;
将与根据输入条件选择的数据场相关联的条件和条件规范登记处理中的选择结果添加到正在创建的条件规范中;和
分析添加到条件规范中的条件,将条件转换为自然语言,然后在屏幕上输出自然语言作为提示。
所述的大数据处理系统,其中,所述条件规范的生成和注册包括:
提供一个接口,通过该接口可以获取和修改在条件规范注册过程中选择的数据集的先前注册的条件规范;和
注册根据通过接口的输入修改的条件规范作为用户的条件规范。
所述的大数据处理系统,其中,生成和注册动作规范包括:
提供一个接口,通过该接口可以获取和修改在动作规范注册过程中选择的数据集的先前注册的条件规范;和
注册根据通过接口的输入修改的动作规范作为用户的动作规范。
所述的大数据处理系统,其中,数据的处理包括:
在预定时段执行条件规范,并在满足条件时传送根据相应的动作规范处理的数据。
所述的大数据处理系统,其中,数据的处理包括:
执行条件规范并提供开放的应用程序编程接口(API)地址,当满足条件规范时,能够从外部系统获取根据相应的动作规范处理的数据。
虽然上面已经参考各种实施例描述了本发明,但是应当理解,在不脱离本发明的范围的情况下,可以进行许多改变和修改。也就是说上面讨论的方法,系统或设备等均是示例。各种配置可以适当地省略,替换或添加各种过程或组件。例如,在替代配置中,可以以与所描述的顺序不同的顺序执行方法,和/或可以添加,省略和/或组合各种阶段。而且,关于某些配置描述的特征可以以各种其他配置组合。可以以类似的方式组合配置的不同方面和元素。此外,随着技术的发展许多元素仅是示例而不限制本公开或权利要求的范围。
在说明书中给出了具体细节以提供对包括实现的示例性配置的透彻理解。然而,可以在没有这些具体细节的情况下实践配置例如,已经示出了众所周知的电路、过程、算法、结构和技术而没有不必要的细节,以避免模糊配置。该描述仅提供示例配置,并且不限制权利要求的范围,适用性或配置。相反,前面对配置的描述将为本领域技术人员提供用于实现所描述的技术的使能描述。在不脱离本公开的精神或范围的情况下,可以对元件的功能和布置进行各种改变。
此外,尽管每个操作可以将操作描述为顺序过程,但是许多操作可以并行或同时执行。另外,可以重新排列操作的顺序。一个过程可能有其他步骤。此外,可以通过硬件、软件、固件、中间件、代码、硬件描述语言或其任何组合来实现方法的示例。当在软件、固件、中间件或代码中实现时,用于执行必要任务的程序代码或代码段可以存储在诸如存储介质的非暂时性计算机可读介质中,并通过处理器执行所描述的任务。
综上,其旨在上述详细描述被认为是例示性的而非限制性的,并且应当理解,所述权利要求(包括所有等同物)旨在限定本发明的精神和范围。以上这些实施例应理解为仅用于说明本发明而不用于限制本发明的保护范围。在阅读了本发明的记载的内容之后,技术人员可以对本发明作各种改动或修改,这些等效变化和修饰同样落入本发明权利要求所限定的范围。
Claims (7)
1.一种大数据处理方法,其特征在于,包括计算机系统的处理器,所述处理器包括:
注册表示数据收集路径的多个数据场;
生成并存储根据由注册数据场提供的数据的分层结构划分为多个数据单元的数据场,并指示用于访问每个单元数据的指针;
生成和登记条件规范,该条件规范包括属于在条件规范注册过程中选择的至少一个数据集的数据场;
生成和注册动作规范,该动作规范包括属于在动作规范注册过程中选择的至少一个数据群的数据场;
通过混合条件规范和动作规范来生成和存储数据提供规范;
当满足数据提供规范的条件规范中定义的条件时,获取相应的动作规范;和
根据获取的动作规范中定义的操作处理从相应的动作规范中包含的数据场收集的数据,其中条件规范和动作规范中的至少一个包括对应于不同数据场的数据场。
2.如权利要求1所述的大数据处理方法,其特征在于,所述条件规范的生成和注册包括:
显示在条件规范注册过程中选择的所选数据集和与其对应的数据场;
将与根据输入条件选择的数据场相关联的条件和条件规范登记处理中的选择结果添加到正在创建的条件规范中;和
分析添加到条件规范中的条件,将条件转换为自然语言,然后在屏幕上输出自然语言作为提示。
3.如权利要求1所述的大数据处理方法,其特征在于,所述条件规范的生成和注册包括:
提供一个接口,通过该接口可以获取和修改在条件规范注册过程中选择的数据集的先前注册的条件规范;和
注册根据通过接口的输入修改的条件规范作为用户的条件规范。
4.如权利要求1所述的大数据处理方法,其特征在于,生成和注册动作规范包括:
提供一个接口,通过该接口可以获取和修改在动作规范注册过程中选择的数据集的先前注册的条件规范;和
注册根据通过接口的输入修改的动作规范作为用户的动作规范。
5.如权利要求1所述的大数据处理方法,其特征在于,数据的处理包括:
在预定时段执行条件规范,并在满足条件时传送根据相应的动作规范处理的数据。
6.如权利要求1所述的大数据处理方法,其特征在于,数据的处理包括:
执行条件规范并提供开放的应用程序编程接口(API)地址,当满足条件规范时,能够从外部系统获取根据相应的动作规范处理的数据。
7.一种计算机系统,其特征在于,包括处理器,存储器和网络适配器,
其中处理器:
在存储器中登记表示通过网络适配器的数据收集路径的多个数据场;
根据注册数据场提供的数据的层次结构将数据划分为多个数据单元,生成表示用于访问每个单元数据的指针的数据场,并将数据场存储在存储器中;
生成条件规范,该条件规范包括属于在条件规范注册过程中选择的至少一个数据集的数据场,并将条件规范登记在存储器中;
生成动作规范,该动作规范包括属于在动作规范注册过程中选择的至少一个数据群的数据场,并将动作规范登记在存储器中;
通过混合条件规范和动作规范来生成数据提供规范,并将数据提供规范存储在存储器中;
当满足数据提供规范的条件规范中定义的条件时,从存储器中取出相应的动作规范;和
根据在获取的动作规范中定义的操作,处理从动作规范中包含的数据场收集的数据条件规范和动作规范中的至少一个包括与不同数据场相对应的数据场。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810851431.7A CN109063111A (zh) | 2018-07-30 | 2018-07-30 | 一种大数据处理方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810851431.7A CN109063111A (zh) | 2018-07-30 | 2018-07-30 | 一种大数据处理方法及系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN109063111A true CN109063111A (zh) | 2018-12-21 |
Family
ID=64831431
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810851431.7A Withdrawn CN109063111A (zh) | 2018-07-30 | 2018-07-30 | 一种大数据处理方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109063111A (zh) |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1474333A (zh) * | 2002-08-09 | 2004-02-11 | ���µ�����ҵ��ʽ���� | 偿付系统的通信终端装置及信息处理装置 |
CN103544204A (zh) * | 2012-07-13 | 2014-01-29 | 国际商业机器公司 | 用于表示为树的分级的并基于索引的水印的系统和方法 |
CN107592604A (zh) * | 2017-08-11 | 2018-01-16 | 杭州电子科技大学 | 基于离线模型的无线可充电传感器网络移动数据收集方法 |
US20180121566A1 (en) * | 2016-10-31 | 2018-05-03 | Splunk Inc. | Pushing data visualizations to registered displays |
US10002184B2 (en) * | 2013-12-08 | 2018-06-19 | Google Llc | Methods and systems for identification and correction of controlled system data |
US20180173700A1 (en) * | 2016-12-19 | 2018-06-21 | Se-Jong Kang | Method and apparatus for processing data |
-
2018
- 2018-07-30 CN CN201810851431.7A patent/CN109063111A/zh not_active Withdrawn
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1474333A (zh) * | 2002-08-09 | 2004-02-11 | ���µ�����ҵ��ʽ���� | 偿付系统的通信终端装置及信息处理装置 |
CN103544204A (zh) * | 2012-07-13 | 2014-01-29 | 国际商业机器公司 | 用于表示为树的分级的并基于索引的水印的系统和方法 |
US10002184B2 (en) * | 2013-12-08 | 2018-06-19 | Google Llc | Methods and systems for identification and correction of controlled system data |
US20180121566A1 (en) * | 2016-10-31 | 2018-05-03 | Splunk Inc. | Pushing data visualizations to registered displays |
US20180173700A1 (en) * | 2016-12-19 | 2018-06-21 | Se-Jong Kang | Method and apparatus for processing data |
CN107592604A (zh) * | 2017-08-11 | 2018-01-16 | 杭州电子科技大学 | 基于离线模型的无线可充电传感器网络移动数据收集方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107562620B (zh) | 一种埋点自动设置方法和装置 | |
Mavrotas et al. | An improved version of the augmented ε-constraint method (AUGMECON2) for finding the exact pareto set in multi-objective integer programming problems | |
US20090276733A1 (en) | Method, system, and graphical user interface for presenting an interactive hierarchy and indicating entry of information therein | |
US20170192882A1 (en) | Method and system for automatically generating a plurality of test cases for an it enabled application | |
CN105122212A (zh) | 自动化跟踪系统中的周期性优化 | |
CN108509339A (zh) | 基于浏览器和思维导图的测试用例生成方法、装置及设备 | |
CN103729446A (zh) | 一种用户操作数据的处理方法、处理装置及服务器 | |
CN108388515A (zh) | 测试数据生成方法、装置、设备以及计算机可读存储介质 | |
CN104993962A (zh) | 获取终端使用状态的方法和系统 | |
CN105975608A (zh) | 一种数据挖掘方法和装置 | |
CN112416800A (zh) | 智能合约的测试方法、装置、设备及存储介质 | |
US20170278193A1 (en) | Rule based hierarchical configuration | |
CN109032614A (zh) | 一种物联网应用程序开发与维护的系统及方法 | |
CN104580109A (zh) | 生成点选验证码的方法及装置 | |
CN112395182A (zh) | 自动化测试方法、装置、设备及计算机可读存储介质 | |
Tax et al. | LocalProcessModelDiscovery: Bringing Petri nets to the pattern mining world | |
CN103473061A (zh) | 一种结构噪声不确定性优化系统及方法 | |
CN106991110A (zh) | 网页页面的切换方法及装置 | |
Steed et al. | Web-based visual analytics for extreme scale climate science | |
CN109063111A (zh) | 一种大数据处理方法及系统 | |
CN116308137A (zh) | 业务审批流程的配置方法、装置、电子设备及存储介质 | |
Dey et al. | A comparative usability experience analysis of card sorting and interactive dialogue model design technique | |
CN109189291A (zh) | 菜单管理方法及装置 | |
Chhabra | Search-based object-oriented software re-structuring with structural coupling strength | |
Rauf et al. | Parallel testing and coverage analysis for context-free applications |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WW01 | Invention patent application withdrawn after publication |
Application publication date: 20181221 |
|
WW01 | Invention patent application withdrawn after publication |