CN109885558B - 一种数据状态配置方法、系统及存储介质 - Google Patents
一种数据状态配置方法、系统及存储介质 Download PDFInfo
- Publication number
- CN109885558B CN109885558B CN201910053841.1A CN201910053841A CN109885558B CN 109885558 B CN109885558 B CN 109885558B CN 201910053841 A CN201910053841 A CN 201910053841A CN 109885558 B CN109885558 B CN 109885558B
- Authority
- CN
- China
- Prior art keywords
- data
- state
- state information
- rule
- rule conditions
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 47
- 238000013500 data storage Methods 0.000 claims description 15
- 238000012216 screening Methods 0.000 claims 3
- 238000004590 computer program Methods 0.000 claims 1
- 230000009286 beneficial effect Effects 0.000 description 10
- 238000007726 management method Methods 0.000 description 4
- 230000002159 abnormal effect Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
Abstract
本发明提供了一种数据状态配置方法、系统及存储介质,该方法包括以下步骤:根据待配置状态的数据的数据源和数据源类型,配置规则条件;根据待配置状态的数据中符合所述规则条件的数据生成对应的第一数据状态信息,并将所述第一数据状态信息及数据一一对应的存储。本发明提供一种数据状态配置方法、系统及存储介质,将数据状态统一配置管理,数据本身无任何状态,解决了冗余问题;并通过规则引擎实现状态自动配置,所有状态数据都统一管理。
Description
技术领域
本发明涉及数据状态管理领域。更具体地说,本发明涉及一种数据状态配置方法、系统及存储介质。
背景技术
随着互联网时代的到来,网络上的数据多如繁星,数据在不停的产生,使用,销毁,是一个完整的周期。概括的说,数据有三种状态,创建、使用、死亡,而在使用状态中,又可以根据程序的处理从而产生更多的状态,故状态对于数据来说非常重要。用户在使用数据进行业务逻辑处理时,要首先判断状态,不然无法确定数据是否可用;企业在进行数据统计时,往往需要对不同状态的数据进行统计。故在进行系统设计时,要为每条数据都要加上状态位,来标识数据处于何种状态。这样做存在如下缺点:(1)每条数据都需要加状态位,数据存在冗余;(2)无法实现状态的自动配置,每次数据增加,都要为其设置状态;(3)各种数据状态非常分散,不便于统一管理;(4)无过程数据状态。
发明内容
本发明的针对上述问题提供一种数据状态配置方法、系统及存储介质,将数据状态统一配置管理,数据本身无任何状态,解决了冗余问题;并通过规则引擎实现状态自动配置,所有状态数据都统一管理。
为了实现根据本发明的这些目的和其它优点,提供了一种数据状态配置方法,包括以下步骤:
根据待配置状态的数据的数据源和数据源类型,配置规则条件;
根据待配置状态的数据中符合所述规则条件的数据生成对应的第一数据状态信息,并将所述第一数据状态信息及数据一一对应的存储。
本发明的数据状态配置方法的有益效果是:任何一条数据肯定有其数据源,故首先要配置待配置状态的数据的数据源和数据源类型,然后再根据待配置状态的数据的数据源和数据源类型配置规则条件,规则条件是对数据中的部分字段的值进行判断,可进行大于、小于、不大于、不小于、等于、不等于、属于或不属于等操作,然后通过规则条件对待配置状态的数据进行筛选,选择其中符合规则条件的待配置状态的数据,并生成每条数据对应的第一数据状态信息,并将第一数据状态信息及数据一一对应的存储。
本发明具有以下优点:
(1)将数据状态部分独立出来,减少数据冗余,便于统一管理配置。
(2)实现了数据状态的自动设置,无需通过代码。
(3)可为之前无状态的数据根据规则添加状态,并进行显示。
(4)保存所有数据的过程状态,为数据状态统计提供保障。
在上述技术方案的基础上,本发明的数据状态配置方法还可以做如下改进:
进一步,所述的一种数据状态配置方法中,配置所述规则条件时,一个所述数据源下至少存在一个规则条件。
采用上述进一步方案的有益效果是,配置规则条件时,同个数据源下可以存在多个规则,任何待配置状态的数据只需要满足其中一个规则条件,即可视为其为符合规则条件的数据。
进一步,所述的一种数据状态配置方法中,所述第一数据状态信息包含状态码、状态简介,状态详细描述和状态颜色中的至少一种。
采用上述进一步方案的有益效果是,第一数据状态信息包含状态码、状态简介,状态详细描述和状态颜色中的至少一种。
进一步,所述的一种数据状态配置方法中,建立数据状态数据库,并将所有的所述第一数据状态信息及数据一一对应的存储在所述数据状态数据库中。
采用上述进一步方案的有益效果是,为了便于对符合规则条件的数据及其对应的第一数据状态信息进行存储,本方案中建立数据状态数据库,数据状态数据库可采用MongoDB数据库,后期可以根据数据id在数据状态数据库中查询其对应的状态信息数据,也可以根据状态信息数据及动态显示参数查询对应的数据id。
进一步,所述的一种数据状态配置方法中,所述根据待配置状态的数据中与所述规则条件相匹配的数据生成对应的数据状态信息时,通过Drools规则引擎按照所述规则条件对待配置状态的数据进行筛选。
采用上述进一步方案的有益效果是,本次发明使用Drools规则引擎,规则的LHS由一个或多个条件组成,条件是对数据中的部分字段的值进行判断,可进行大于、小于、不大于、不小于、等于、不等于、属于、不属于等操作。
进一步,所述的一种数据状态配置方法中,所述根据待配置状态的数据中与所述规则条件相匹配的数据生成对应的数据状态信息时,通过Kafka获取待配置状态的数据并将获取的数据发送到Drools规则引擎中。
采用上述进一步方案的有益效果是,Kafka是一种高吞吐量的分布式发布订阅消息系统,它可以处理消费者规模的网站中的所有动作流数据,本方案中通过监听Kafka消息队列,从中取得数据,并将得到的数据作为待配置状态的数据进行处理。
进一步,所述的一种数据状态配置方法中,所述通过Drools规则引擎按照所述规则条件对待配置状态的数据进行筛选时,不符合所述规则条件的数据均生成第二数据状态信息,并将所述第二数据状态信息及数据一一对应的存储,其中所有的第二数据状态信息均相同。
采用上述进一步方案的有益效果是,对于不符合规则条件的数据均生成第二数据状态信息,且第二数据状态信息作为默认的信息状态,代表不符合规则条件的数据。
进一步,所述的一种数据状态配置方法中,建立历史数据状态数据库,并将所有的数据及其对应的第一数据状态信息或第二数据状态信息一一对应的存储在所述历史数据状态数据库中。
采用上述进一步方案的有益效果是,历史数据状态数据库主要是保存数据的所有历史状态记录,即数据在操作过程中所产生的所有状态,并且提供数据备份的功能,本方案中使用HBase来存储历史数据状态,并且使用Solr搜索引擎为HBase建立二级索引,即将数据中需要查询的字段在Solr中建立索引,用户查询时,首先会查询Solr,在Solr中获取到对应数据的id,再根据id去HBase中快速查询完整数据,解决了HBase数据库根据查询单一、列查询过慢等问题;数据产生异常时,可从历史数据状态数据库进行恢复。
本发明还提供了一种数据状态配置系统,包括数据获取模块、数据处理模块、数据存储模块和历史数据存储模块,所述数据获取模块用于获取待配置状态的数据,并发送到所述数据处理模块中,所述数据处理模块根据规则条件对待配置状态的数据进行筛选,根据符合所述规则条件的数据生成对应的第一数据状态信息,并将所述第一数据状态信息及数据一一对应的存储在所述数据存储模块和历史数据存储模块中,根据不符合所述规则条件的数据生成对应的第二数据状态信息,并将所述第二数据状态信息及数据一一对应的存储在所述历史数据存储模块中。
本发明还提供了一种数据状态配置存储介质,所述存储介质上存储有程序,所述程序执行时执行上述任一项所述的一种数据状态配置方法。
本发明的其它优点、目标和特征将部分通过下面的说明体现,部分还将通过对本发明的研究和实践而为本领域的技术人员所理解。
附图说明
图1为本发明一实施例所述的数据状态配置方法的流程图;
图2为本发明另一实施例所述的数据状态配置方法的流程图。
具体实施方式
以下描述中,为了说明而不是为了限定,提出了诸如特定系统结构、接口、技术之类的具体细节,以便透切理解本发明。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本发明。在其它情况中,省略对众所周知的系统、电路以及方法的详细说明,以免不必要的细节妨碍本发明的描述。
如图1所示,本发明的实施例提供一种数据状态配置方法,包括以下步骤:
根据待配置状态的数据的数据源和数据源类型,配置规则条件;
根据待配置状态的数据中符合所述规则条件的数据生成对应的第一数据状态信息,并将所述第一数据状态信息及数据一一对应的存储。
本发明的数据状态配置方法的有益效果是:任何一条数据肯定有其数据源,故首先要配置待配置状态的数据的数据源和数据源类型,然后再根据待配置状态的数据的数据源和数据源类型配置规则条件,规则条件是对数据中的部分字段的值进行判断,可进行大于、小于、不大于、不小于、等于、不等于、属于或不属于等操作,然后通过规则条件对待配置状态的数据进行筛选,选择其中符合规则条件的待配置状态的数据,并生成每条数据对应的第一数据状态信息,并将第一数据状态信息及数据一一对应的存储。
本发明具有以下优点:
(1)将数据状态部分独立出来,减少数据冗余,便于统一管理配置。
(2)实现了数据状态的自动设置,无需通过代码。
(3)可为之前无状态的数据根据规则添加状态,并进行显示。
(4)保存所有数据的过程状态,为数据状态统计提供保障。
在上述技术方案的基础上,本发明的数据状态配置方法还可以做如下改进:
进一步,所述的一种数据状态配置方法中,配置所述规则条件时,一个所述数据源下至少存在一个规则条件。
采用上述进一步方案的有益效果是,配置规则条件时,同个数据源下可以存在多个规则,任何待配置状态的数据只需要满足其中一个规则条件,即可视为其为符合规则条件的数据。
进一步,所述的一种数据状态配置方法中,所述第一数据状态信息包含状态码、状态简介,状态详细描述和状态颜色中的至少一种。
采用上述进一步方案的有益效果是,第一数据状态信息包含状态码、状态简介,状态详细描述和状态颜色中的至少一种。
进一步,如图2所示,所述的一种数据状态配置方法中,建立数据状态数据库,并将所有的所述第一数据状态信息及数据一一对应的存储在所述数据状态数据库中。
采用上述进一步方案的有益效果是,为了便于对符合规则条件的数据及其对应的第一数据状态信息进行存储,本方案中建立数据状态数据库,数据状态数据库可采用MongoDB数据库,后期可以根据数据id在数据状态数据库中查询其对应的状态信息数据,也可以根据状态信息数据及动态显示参数查询对应的数据id。
进一步,如图2所示,所述的一种数据状态配置方法中,所述根据待配置状态的数据中与所述规则条件相匹配的数据生成对应的数据状态信息时,通过Drools规则引擎按照所述规则条件对待配置状态的数据进行筛选。
采用上述进一步方案的有益效果是,本次发明使用Drools规则引擎,规则的LHS由一个或多个条件组成,条件是对数据中的部分字段的值进行判断,可进行大于、小于、不大于、不小于、等于、不等于、属于、不属于等操作。
进一步,如图2所示,所述的一种数据状态配置方法中,所述根据待配置状态的数据中与所述规则条件相匹配的数据生成对应的数据状态信息时,通过Kafka获取待配置状态的数据并将获取的数据发送到Drools规则引擎中。
采用上述进一步方案的有益效果是,Kafka是一种高吞吐量的分布式发布订阅消息系统,它可以处理消费者规模的网站中的所有动作流数据,本方案中通过监听Kafka消息队列,从中取得数据,并将得到的数据作为待配置状态的数据进行处理。
进一步,如图2所示,所述的一种数据状态配置方法中,所述通过Drools规则引擎按照所述规则条件对待配置状态的数据进行筛选时,不符合所述规则条件的数据均生成第二数据状态信息,并将所述第二数据状态信息及数据一一对应的存储,其中所有的第二数据状态信息均相同。
采用上述进一步方案的有益效果是,对于不符合规则条件的数据均生成第二数据状态信息,且第二数据状态信息作为默认的信息状态,代表不符合规则条件的数据。
进一步,如图2所示,所述的一种数据状态配置方法中,建立历史数据状态数据库,并将所有的数据及其对应的第一数据状态信息或第二数据状态信息一一对应的存储在所述历史数据状态数据库中。
采用上述进一步方案的有益效果是,历史数据状态数据库主要是保存数据的所有历史状态记录,即数据在操作过程中所产生的所有状态,并且提供数据备份的功能,本方案中使用HBase来存储历史数据状态,并且使用Solr搜索引擎为HBase建立二级索引,即将数据中需要查询的字段在Solr中建立索引,用户查询时,首先会查询Solr,在Solr中获取到对应数据的id,再根据id去HBase中快速查询完整数据,解决了HBase数据库根据查询单一、列查询过慢等问题;数据产生异常时,可从历史数据状态数据库进行恢复。
本发明还提供了一种数据状态配置系统,包括数据获取模块、数据处理模块、数据存储模块和历史数据存储模块,所述数据获取模块用于获取待配置状态的数据,并发送到所述数据处理模块中,所述数据处理模块根据规则条件对待配置状态的数据进行筛选,根据符合所述规则条件的数据生成对应的第一数据状态信息,并将所述第一数据状态信息及数据一一对应的存储在所述数据存储模块和历史数据存储模块中,根据不符合所述规则条件的数据生成对应的第二数据状态信息,并将所述第二数据状态信息及数据一一对应的存储在所述历史数据存储模块中。
本发明还提供了一种数据状态配置存储介质,所述存储介质上存储有程序,所述程序执行时执行上述任一项所述的一种数据状态配置方法。
尽管本发明的实施方案已公开如上,但其并不仅仅限于说明书和实施方式中所列运用,它完全可以被适用于各种适合本发明的领域,对于熟悉本领域的人员而言,可容易地实现另外的修改,因此在不背离权利要求及等同范围所限定的一般概念下,本发明并不限于特定的细节和这里示出与描述的实施例。
Claims (3)
1.一种数据状态配置方法,其特征在于,包括以下步骤:
根据待配置状态的数据的数据源和数据源类型,配置规则条件;
根据待配置状态的数据中符合所述规则条件的数据生成对应的第一数据状态信息,并将所述第一数据状态信息及数据一一对应的存储,其中,所述第一数据状态信息包含状态码、状态简介,状态详细描述和状态颜色中的至少一种;
配置所述规则条件时,一个所述数据源下至少存在一个规则条件;
建立数据状态数据库,并将所有的所述第一数据状态信息及数据一一对应的存储在所述数据状态数据库中;
所述根据待配置状态的数据中与所述规则条件相匹配的数据生成对应的数据状态信息时,通过Drools规则引擎按照所述规则条件对待配置状态的数据进行筛选;
所述根据待配置状态的数据中与所述规则条件相匹配的数据生成对应的数据状态信息时,通过Kafka获取待配置状态的数据并将获取的数据发送到Drools规则引擎中;
所述通过Drools规则引擎按照所述规则条件对待配置状态的数据进行筛选时,不符合所述规则条件的数据均生成第二数据状态信息,并将所述第二数据状态信息及数据一一对应的存储,其中所有的第二数据状态信息均相同;
建立历史数据状态数据库,并将所有的数据及其对应的第一数据状态信息或第二数据状态信息一一对应的存储在所述历史数据状态数据库中。
2.一种数据状态配置系统,其特征在于,包括数据获取模块、数据处理模块、数据存储模块和历史数据存储模块,所述数据获取模块用于获取待配置状态的数据,并发送到所述数据处理模块中,所述数据处理模块根据规则条件对待配置状态的数据进行筛选,根据符合所述规则条件的数据生成对应的第一数据状态信息,并将所述第一数据状态信息及数据一一对应的存储在所述数据存储模块和历史数据存储模块中,根据不符合所述规则条件的数据生成对应的第二数据状态信息,并将所述第二数据状态信息及数据一一对应的存储在所述历史数据存储模块中;配置所述规则条件时,一个数据源下至少存在一个规则条件;
所述根据待配置状态的数据中与所述规则条件相匹配的数据生成对应的数据状态信息时,通过Drools规则引擎按照所述规则条件对待配置状态的数据进行筛选;
述根据待配置状态的数据中与所述规则条件相匹配的数据生成对应的数据状态信息时,通过Kafka获取待配置状态的数据并将获取的数据发送到Drools规则引擎中;
所述通过Drools规则引擎按照所述规则条件对待配置状态的数据进行筛选时,不符合所述规则条件的数据均生成第二数据状态信息,并将所述第二数据状态信息及数据一一对应的存储,其中所有的第二数据状态信息均相同。
3.一种计算机可读存储介质,其特征在于,所述存储介质存储有计算机程序,所述程序被处理器执行时,实现权利要求1所述的数据状态配置方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910053841.1A CN109885558B (zh) | 2019-01-21 | 一种数据状态配置方法、系统及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910053841.1A CN109885558B (zh) | 2019-01-21 | 一种数据状态配置方法、系统及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109885558A CN109885558A (zh) | 2019-06-14 |
CN109885558B true CN109885558B (zh) | 2024-06-04 |
Family
ID=
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101150624A (zh) * | 2006-09-22 | 2008-03-26 | 华为技术有限公司 | 一种数据配置的系统和方法 |
CN102567434A (zh) * | 2010-12-31 | 2012-07-11 | 百度在线网络技术(北京)有限公司 | 一种数据块处理方法 |
CN108295408A (zh) * | 2017-12-27 | 2018-07-20 | 国家电网公司 | 灭火器监管方法、系统及终端设备 |
CN108897954A (zh) * | 2018-06-29 | 2018-11-27 | 龙源(北京)风电工程技术有限公司 | 基于BootStrap置信度计算的风电机组温度预警方法及其系统 |
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101150624A (zh) * | 2006-09-22 | 2008-03-26 | 华为技术有限公司 | 一种数据配置的系统和方法 |
CN102567434A (zh) * | 2010-12-31 | 2012-07-11 | 百度在线网络技术(北京)有限公司 | 一种数据块处理方法 |
CN108295408A (zh) * | 2017-12-27 | 2018-07-20 | 国家电网公司 | 灭火器监管方法、系统及终端设备 |
CN108897954A (zh) * | 2018-06-29 | 2018-11-27 | 龙源(北京)风电工程技术有限公司 | 基于BootStrap置信度计算的风电机组温度预警方法及其系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103513983B (zh) | 用于预测性警报阈值确定工具的方法和系统 | |
EP3937027B1 (en) | Method and apparatus for processing label data, device, and storage medium | |
US9489325B2 (en) | Method and a system for polling and processing data | |
CN109471900B (zh) | 图表类数据自定义动作数据交互方法及系统 | |
US6334193B1 (en) | Method and apparatus for implementing user-definable error handling processes | |
US8225230B2 (en) | Providing a hierarchical filtered view of an object model and its interdependencies | |
US8219575B2 (en) | Method and system for specifying, preparing and using parameterized database queries | |
CN107562556B (zh) | 故障的恢复方法、恢复装置及存储介质 | |
US20080097802A1 (en) | Time-Series Forecasting | |
US20120331010A1 (en) | Systems And Methods For Performing A Query On A Distributed Database | |
US10997131B1 (en) | Using a member attribute to perform a database operation on a computing device | |
US20200162516A1 (en) | Protecting iot devices by behavioural analysis of their file system | |
US10430802B2 (en) | Screen-image based classification | |
CN111399941A (zh) | 一种bmc功能的批量配置方法、装置及设备 | |
CN114116401A (zh) | 集群消息的全链路跟踪监控方法、装置、设备及介质 | |
US10620950B2 (en) | Message parsing in a distributed stream processing system | |
US20220027365A1 (en) | Enterprise resource planning system, server and supervision method of sql queries in such a system or server | |
CN109885558B (zh) | 一种数据状态配置方法、系统及存储介质 | |
KR20110037969A (ko) | 모니터링 시스템에서의 메시지의 타겟화된 사용자 통지 | |
CN113535225A (zh) | 应用软件的环境配置文件处理方法、装置、设备和介质 | |
CN110275880B (zh) | 数据分析方法、装置、服务器及可读存储介质 | |
US11601326B1 (en) | Problem detection and categorization for integration flows | |
US20230275915A1 (en) | Machine learning for anomaly detection based on logon events | |
US9031998B2 (en) | Analytics enablement objects | |
CN105683961B (zh) | 管理用于假设分析的回写的数据的方法和系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant |