CN109145008B - 基于kks编码规则和大数据架构的实时数据平台 - Google Patents
基于kks编码规则和大数据架构的实时数据平台 Download PDFInfo
- Publication number
- CN109145008B CN109145008B CN201810934976.4A CN201810934976A CN109145008B CN 109145008 B CN109145008 B CN 109145008B CN 201810934976 A CN201810934976 A CN 201810934976A CN 109145008 B CN109145008 B CN 109145008B
- Authority
- CN
- China
- Prior art keywords
- data
- real
- monitoring
- time
- synchronization
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Remote Monitoring And Control Of Power-Distribution Networks (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明提供了一种基于KKS编码规则和大数据架构的实时数据平台,通过编码管理系统对所有监测指标进行统一编码,为整个平台提供了一套通用的编码,各个电厂均使用相同的编码,从而避免数据无法顺利对接的问题;数据监测处理系统可以同时监测多个电厂的多个设备,并将监测数据通过建立数据库的方式进行缓存,从而能够高效、高实时性地处理海量数据;数据输出管理系统通过共享通道实现对不同目标端的信息输出和发布,从而有效提高了平台的兼容性。通过上述设计,有效解决了传统数据监测系统在使用中存在的问题,使数据监测系统更加完善、能够满足更多的使用需求。
Description
技术领域
本发明属于电厂监控管理技术领域,特别涉及一种基于KKS编码规则和大数据架构的实时数据平台。
背景技术
基于KKS编码和大数据架构的实时数据平台,简称KDM,是面向电站设备实时数据汇聚、共享与挖掘的平台化软件系统。KDM系统基于SOA架构,架构上可适应于电厂、二级公司和集团侧的部署需要,同时平台内的服务组件具有高伸缩性、稳定性和可靠性,可以适配数据量不同等的电厂、二级公司和集团侧。KDM系统支持多种部署方案,模块化的服务可灵活组配,功能可持续扩展和更新。采用KDM平台可快速在电站、区域、集团等各级搭建数据平台及应用。
但目前的数据监测系统在使用中还存在如下问题:
1.集团下属各个电厂的编码不一致,导致数据对接时产生各种问题;
2.企业中,往往有不止一个系统,其中一些系统产生数据,另外一些负责消费数据,而其中往往还有专门负责存储数据的系统,收集数据、数据存储、数据处理形成一个数据流,传统的数据流解决方案往往会遇到数据访问超过处理能力、系统错误、安全性等挑战;
3.实际生产中,各个电厂采用不同的数据源,为实现数据共享和数据深度挖掘,要求数据监测系统具备统一接入数据的功能;
4.缺少离线数据获取功能,导致有部分数据无法获取,如现场巡检数据、定期离线测试数据等;
5.电力工业的数据具有时序性强、实时历史数据量大等特点,现有数据监测系统无法满足处理海量数据的需求;
6.不同的数据库对于数据的增删查改各有不同,现有数据监测系统的兼容性存在不足。
发明内容
为了解决上述技术问题,本发明提供了一种基于KKS编码规则和大数据架构的实时数据平台。
本发明具体技术方案如下:
本发明提供了一种基于KKS编码规则和大数据架构的实时数据平台,包括依次相互连接的如下部分:
编码管理系统,用于基于KKS编码规则对所述监测指标进行数字化处理,为每个所述监测指标赋予一个唯一的编码;
数据监测处理系统,用于对电厂各个设备的使用状态进行监测,对监测指标的实时数据建立数据库并进行缓存;
数据输出管理系统,用于用所述监测指标对应的编码对所述实时数据进行标记,并建立共享通道,通过所述共享通道对所述实时数据进行输出、在不同的目标端进行发布。
进一步地,所述编码管理系统包括如下部分:
编码模块,用于基于KKS编码规则,为每个所述监测指标赋予一个唯一的编码,并创建编码索引,所述编码包括33位字符、分为27个层级,部分所述层级未启用;所述编码的存储结构为管理域-设备域-量值域,所述管理域用于存储所述设备信息对应的电厂的行政管理信息,所述设备域用于存储所述监测指标对应的设备信息,所述量值域用于存储所述监测指标的物理属性;
编码同步模块,用于将所述编码索引同步到所述平台内的所有目标端,使所有所述目标端共享一套编码;所述同步包括全量同步和增量同步,所述全量同步为将所有符合规则的编码同步到所述目标端;所述增量同步为将经过更新的编码同步到所述目标端。
进一步地,所述编码模块包括如下部分:
KKS编码管理单元,用于基于KKS编码规则,为每个所述监测指标赋予一个唯一的编码;
权限管理单元,用于为接入所述平台的用户设置操作权限;所述操作权限包括最高权限、二级权限和三级权限,所述最高权限具备编码增加、删除、修改、查看以及导出的功能;所述二级权限具备编码修改、查看以及导出的功能;所述三级权限仅具有查看和导出的功能;
字典表管理单元,用于对所述编码中所述层级的启用和关闭进行管理。
进一步地,所述数据监测处理系统包括如下部分:
数据采集模块,用于提供前置通信服务,连接多种不同类型的数据源并连续获取监测数据;
数据存储管理模块,用于通过获取的所述监测数据创建实时数据库。
进一步地,所述数据存储管理模块包括如下部分:
本地存储管理单元,用于对所述监测数据进行高压缩比压缩,生成实时数据库;
外部存储管理单元,用于提供多种接口服务,用以连接多种类型的相互独立的数据存储器;用户发送数据查询请求时,所述外部存储管理单元将所述数据查询请求,转化成对所述实时数据库本地接口的访问请求;所述实时数据库接收到所述访问请求后,调取所述用户请求的数据并返回给所述外部存储管理单元,由所述外部存储管理单元向所述用户直接提供所述数据;
数据访问单元,用于对外提供数据访问服务,所述数据访问服务包括针对数据标识的复合检索服务,所述复合检索服务包括编码结构获取服务、编码定义数据操作服务以及编码定义多条件复合检索服务。
进一步地,所述数据访问服务还包括针对监测指标数据范围的高级检索服务,所述高级检索符合包括实时数据获取服务、任意个数最新数据获取服务、统计数据获取服务、数据集合获取服务数据块型数据获取服务以及状态量数据获取服务。
进一步地,所述数据库管理模块还包括如下部分:
数据同步单元,用于将本地存储数据或外地存储数据实时同步传输至所述平台内的所有目标端,保证不同级别数据中心间数据同步存储;
所述数据同步单元包括如下部分:
分组子单元,用于将所述目标端的用户进行分组并设置分组中包含的编码,所述数据中心根据所述用户的要求同步所述分组中包含所述编码的数据;
断点续传子单元,用于从时间和数量两方面同时对数据同步的过程进行控制,保证数据同步;当同步请求产生时,判断源端和目标端最后一次传输时间,如时间不一致则同步开始,同步过程中如源端发送的数据量与目标端接收的数据量不一致,则返回重新同步,直至同步完成;
跨隔离传输子单元,用于在电厂内部存在信息传输物理隔离的不同区域之间将所述数据进行传输;
编码转换子单元,用于在多个源端对应一个目标端的情况下,若多个源端的所述编码存在重复,则对所述编码进行转换,使所述目标端接收到的编码不存在重复。
进一步地,所述数据输出管理系统包括如下部分:
发布单元,用于建立不同系统之间的数据共享通道,以便对数据流进行获取和发布;
展示单元,用于对获取的数据进行处理,并以直观的形式进行展示和指标分析。
进一步地,所述数据输出管理系统还包括如下部分:
路由单元,用于建立机动的数据通路,根据需要在不同数据中心之间远程调用特定数据,避免数据传输拥堵。
进一步地,所述平台还包括如下部分:
运行监控管理系统,用于对所述平台的运行状态进行监控,并根据所述运行状态对所述平台的功能配置进行调整。
本发明的有益效果如下:本发明提供了一种基于KKS编码规则和大数据架构的实时数据平台,通过编码管理系统对所有监测指标进行统一编码,为整个平台提供了一套通用的编码,各个电厂均使用相同的编码,从而避免数据无法顺利对接的问题;数据监测处理系统可以同时监测多个电厂的多个设备,并将监测数据通过建立数据库的方式进行缓存,从而能够高效、高实时性地处理海量数据;数据输出管理系统通过共享通道实现对不同目标端的信息输出和发布,从而有效提高了平台的兼容性。通过上述设计,有效解决了数据监测系统在使用中存在的问题,使数据监测系统更加完善、能够满足更多的使用需求。
附图说明
图1为实施例1所述的一种基于KKS编码规则和大数据架构的实时数据平台的结构示意图;
图2为实施例2所述的一种基于KKS编码规则和大数据架构的实时数据平台中编码管理系统的结构示意图;
图3为实施例3所述的一种基于KKS编码规则和大数据架构的实时数据平台中数据监测处理系统的结构示意图;
图4为实施例4所述的一种基于KKS编码规则和大数据架构的实时数据平台中数据监测处理系统的结构示意图;
图5为实施例5所述的一种基于KKS编码规则和大数据架构的实时数据平台中数据输出管理系统的结构示意图;
图6为实施例6所述的一种基于KKS编码规则和大数据架构的实时数据平台的结构示意图.
具体实施方式
下面结合附图和以下实施例对本发明作进一步详细说明。
实施例1
如图1所示,本实施例1提供了一种基于KKS编码规则和大数据架构的实时数据平台(后文中均简称为“KDM平台”),包括依次相互连接的如下部分:
编码管理系统1,用于基于KKS编码规则对所述监测指标进行数字化处理,为每个所述监测指标赋予一个唯一的编码;
数据监测处理系统2,用于对电厂各个设备的使用状态进行监测,对监测指标的实时数据建立数据库并进行缓存;
数据输出管理系统3,用于用所述监测指标对应的编码对所述实时数据进行标记,并建立共享通道,通过所述共享通道对所述实时数据进行输出、在不同的目标端进行发布。
本实施例提供的基于KKS编码规则和大数据架构的实时数据平台,通过编码管理系统1对所有监测指标进行统一编码,为整个平台提供了一套通用的编码,各个电厂均使用相同的编码,从而避免数据无法顺利对接的问题;数据监测处理系统2可以同时监测多个电厂的多个设备,并将监测数据通过建立数据库的方式进行缓存,从而能够高效、高实时性地处理海量数据;数据输出管理系统3通过共享通道实现对不同目标端的信息输出和发布,从而有效提高了平台的兼容性。通过上述设计,有效解决了传统数据监测系统在使用中存在的问题,使数据监测系统更加完善、能够满足更多的使用需求。
实施例2
如图2所示,本实施例2在实施例1的基础上提供了一种基于KKS编码规则和大数据架构的实时数据平台,该实施例2进一步限定了所述编码管理系统1包括如下部分:
编码模块11,用于基于KKS编码规则,为每个所述监测指标赋予一个唯一的编码,并创建编码索引,所述编码包括33位字符、分为27个层级,部分所述层级未启用;所述编码的存储结构为管理域-设备域-量值域,所述管理域用于存储所述设备信息对应的电厂的行政管理信息,所述设备域用于存储所述监测指标对应的设备信息,所述量值域用于存储所述监测指标的物理属性;
编码采用三层结构对监测量进行描述,分别是管理域(定义监测量的管理信息,如省市归属、厂站归属等)、设备域(定义监测量的来源设备信息),量值域(定义监测量的物理属性,如数据来源、物理类别、算法类别等);三段式的存储结构既能有效涵盖用来描述监测指标的所有信息,又能清晰地区分出不同编码的层次;将三种编码按照由宏观到微观的顺序进行排列,可以更加直观地反映出监测指标代表包含的信息;而每种编码内部字段按照从宏观到微观的顺序排列,也可以更好地反映出各个字段之间的逻辑关系;目前KKS编码共33位,分27个级别,部分级别未启用;
编码同步模块12,用于将所述编码索引同步到所述平台内的所有目标端,使所有所述目标端共享一套编码;所述同步包括全量同步和增量同步,所述全量同步为将所有符合规则的编码同步到所述目标端;所述增量同步为将经过更新的编码同步到所述目标端;
多个KDM之间,可以配置编码同步服务,来共享编码,同步到目标端的编码可用于数据同步或数据路由服务的编码索引;编码同步功能分为自动同步和手动同步,自动同步是指经过设置,系统会定时、分时段将源端的编码同步到目标端,其方式为全量加增量结合的方式进行同步;全量同步时将源端所有符合规则的编码同步到目标端。增量同步时,会对数据进行比对,只有在上次同步之后新增/修改的编码才会被同步到目标端。
所述编码模块11包括如下部分:
KKS编码管理单元111,用于基于KKS编码规则,为每个所述监测指标赋予一个唯一的编码,即对监测量本身进行KKS配置的过程进行管理;
权限管理单元112,用于为接入所述平台的用户设置操作权限;所述操作权限包括最高权限、二级权限和三级权限,所述最高权限具备编码增加、删除、修改、查看以及导出的功能;所述二级权限具备编码修改、查看以及导出的功能;所述三级权限仅具有查看和导出的功能;
管理平台具备三级权限,最高权限具备编码增加、删除、修改、查看、导出等功能,二级权限具备修改、查看、导出等功能,三级权限仅具有查看、导出功能。用户权限使用用户名与密码进行区分登陆。
字典表管理单元113,用于对所述编码中所述层级的启用和关闭进行管理;
字典表管理单元113对编码结构是否启用进行管理,从而改变KKS信息长度,实现编码规则的存储与管理。同时可实现对编码内容的增删查改,批量或者单个修改对应数据的上下级关系。并且可以增删改查导入电厂原始点表。
实施例3
如图3所示,本实施例3在实施例1的基础上提供了一种基于KKS编码规则和大数据架构的实时数据平台,该实施例3进一步限定了所述数据监测处理系统2包括如下部分:
数据采集模块21,用于提供前置通信服务,连接多种不同类型的数据源并连续获取监测数据;
为了连接不同的数据源,KDM平台提供了前置通信服务,可以连接一种或多种不同类型的数据源;前置通信服务有极高的安全可靠性和资料恢复能力,对连接的生产过程数据能保持连续,不会因为通讯故障等原因而导致数据的中断或丢失;服务可以对生产系统传来的数据进行暂存,当网络故障时,数据可暂存在这里,故障排除后,再将恢复数据连接和获取;KDM前置通信服务不受前端设备类型和厂家的限制,只要带有通信接口、或者数据库接口等均可匹配,并且集成多种标准的数据通信规约,支持多种数据库数据的直接获取;离线数据也提供软件进行人工导入和输入,从而解决了部分数据无法离线获得的问题;
数据存储管理模块22,用于通过获取的所述监测数据创建实时数据库。
所述数据存储管理模块22包括如下部分:
本地存储管理单元221,用于对所述监测数据进行高压缩比压缩,生成实时数据库;
本地存储管理单元221创建的vzdb实时库具有高实时性、大数据容量和访问量等优点,并且可以对历史数据进行超高压缩比压缩处理;vzdb可以进行测点的增删查改和批量导入导出,可以查询实时数据、历史数据和断面数据。
外部存储管理单元222,用于提供多种接口服务,用以连接多种类型的相互独立的数据存储器;用户发送数据查询请求时,所述外部存储管理单元222将所述数据查询请求,转化成对所述实时数据库本地接口的访问请求;所述实时数据库接收到所述访问请求后,调取所述用户请求的数据并返回给所述外部存储管理单元222,由所述外部存储管理单元222向所述用户直接提供所述数据;
外部存储管理单元222提供的接口服务可以同时连接多种类型数据库,满足不同类型数据的存储需求,各数据库直接相互独立,数据并行访问;各数据库接口服务均采用组件化开发,内部建立有数据缓冲和连接池,支持高并发连接访问;关系型库接口服务支持目前主流的关系型数据库的连接,包括SQLServer、MySQL、oracle等;实时库接口服务支持主流的实时数据库,例如PI、EDNA、Agrial、Fastar等;还有其它库接口服务可以支持NoSQL库:列存储HBase、文件库mongDB、图形库InfoGrid等。
实时数据库本地接口与数据服务平台都是Java Web应用,平台通过HTTP协议访问实时数据库本地接口,将用户查询请求转换成对实时数据库本地接口的访问请求并发送,实时数据库本地接口接收请求后,根据请求中的参数执行对实时数据库的操作,并将结果返回给平台;用户通过平台,使用相同的查询请求,得到任何类型实时数据库中的数据,并且结果也是规定的结构;对于用户来说,他们的查询是对平台进行的,“与(实时数据)库无关”。
数据访问单元223,用于对外提供数据访问服务,所述数据访问服务包括针对数据标识的复合检索服务,所述复合检索服务包括编码结构获取服务、编码定义数据操作服务以及编码定义多条件复合检索服务,以及针对监测指标数据范围的高级检索服务,所述高级检索符合包括实时数据获取服务、任意个数最新数据获取服务、统计数据获取服务、数据集合获取服务数据块型数据获取服务以及状态量数据获取服务;
KDM数据分为点值、块数据(波形,图片,视频,文档等)。提供SOAP webserivce和RESTful webservice、http、socket等多种方式来直接调用;KDM数据访问服务在保证性能的同时,满足可靠、可监控、可操作等功能,查询操作灵活、高效率,接口传输效率高、功能齐全;并且提供实时数据查询服务,实现了根据编码、时间段、时间间隔对最新数据和历史数据的基本查询;
针对数据标识的复合检索包括如下内容:(1)编码结构获取服务:用于获取编码结构定义,包括结构定义,编码定义集合等内容;(2)编码数据操作服务:对于编码数据进行增、删、改和查等操作实现;(3)编码定义复合检索服务:用于通过编码规则定义进行多重复合条件检索来获取用户想得到的编码数据集合的操作;
针对监测量数据范围的高级查询包括如下步骤:(1)获取实时数据:通过数据编码获取单个或多个实时数据的服务,并支持不同种类型数据的混合查询;(2)获取最近任意个数的数据:可指定单个或多个编码监测量,获取截止到当前时刻的N个点值数据,返回数据记录;(3)获取统计数据:可指定单个或多个编码监测量,以及时间段,获取条件内的数据的最大、最小、平均、求和等统计结果;(4)获取满足条件的编码集合及时间范围:指定时间范围和单个或多个编码监测量的数据范围,并且可指定数据范围的与、或、非关系,返回符合下列条件的时间段及编码集;(5)获得数据块型数据:可指定单个或多个编码监测量,以及时间段,获取条件内的数据块的时间点及相对应数据;(6)获得状态量数据:可指定单个或多个状态量编码,以及时间段,获取条件内的状态量的变化时刻列表及相应状态变化情况。
实施例4
如图4所示,本实施例4在实施例3的基础上提供了一种基于KKS编码规则和大数据架构的实时数据平台,该实施例4进一步限定了所述数据库管理模块22还包括如下部分:
数据同步单元224,用于将本地存储数据或外部存储数据实时同步传输至所述平台内的所有目标端,保证不同级别数据中心间数据同步存储。
数据同步单元224可以实现两个同构数据中心间的数据实时同步,保证不同级别数据中心间数据同步存储,从而满足数据中心多级部署的需求;数据中心需支持自定义源端和目标端,实现两个同构数据中心间的数据同步功能,具体具有如下特点:编码级粒度的数据同步,即不同分组中以及同一分组中的编码,相互之间的数据同步不互相影响;增量数据同步,即数据中心本身控制如何获取增量数据,不需要现有系统做任何改变;高效同步,数据中心每次同步编码最大量为10w;断点续传,即在对时计数功能的基础上,如时间不一致,下次编码同步时会以目标端时间重新开始同步,直至同步完毕,时间一致;同步日志,即每次同步的编码量、时间均在日志可以显示;支持跨隔离同步。
平台同步功能有四种实现模式:一对一同步,这是最简单的同步模式,在源端数据测点10万以下时,使用该方式可以快速实现数据同步。一对多同步多用于数据复制、备份场景,或者读写分离,在配置上,只需要在源端KDM的发布配置上加上不同的地址,则可将数据同时发往不同的目标KDM。另外,也可以将数据分割成不同的内容发往不同的目标KDM,可轻松实现数据的分发。多对一同步适用于将不同数据中心的数据汇聚到一处,十分有利于数据的集中式分析处理。混合模式同步综合了一对一、一对多和多对一的模式,能解决任何复杂需求的同步。例如在目标KDM中,一节点用于数据分析,一节点用于数据检索和双机热备。
所述数据同步单元224包括如下部分:
分组子单元2241,用于将所述目标端的用户进行分组并设置分组中包含的编码,所述数据中心根据所述用户的要求同步所述分组中包含所述编码的数据;
分组子单元2241可以根据目标端数据中心用户定义分组的同步要求(同步频率等)自定义同步分组,并设置分组中包含的编码,数据中心按照用户要求同步分组中包含的编码的数据;
断点续传子单元2242,用于从时间和数量两方面同时对数据同步的过程进行控制,保证数据同步;当同步请求产生时,判断源端和目标端最后一次传输时间,如时间不一致则同步开始,同步过程中如源端发送的数据量与目标端接收的数据量不一致,则返回重新同步,直至同步完成;
断点续传子单元2242在每次同步时均采用时间+数量的双层管控机制,以保证数据同步准确性;
跨隔离传输子单元2243,用于在电厂内部存在信息传输物理隔离的不同区域之间将所述数据进行传输;
编码转换子单元2244,用于在多个源端对应一个目标端的情况下,若多个源端的所述编码存在重复,则对所述编码进行转换,使所述目标端接收到的编码不存在重复,从而保证数据同步操作的顺利进行。
实施例5
如图5所示,本实施例5在实施例1的基础上提供了一种基于KKS编码规则和大数据架构的实时数据平台,该实施例5进一步限定了所述数据输出管理系统3包括如下部分:
发布单元31,用于建立不同系统之间的数据共享通道,以便对数据流进行获取和发布;
数据平台通过发布单元31为数据发布共享建立通道,支持向其它系统(如其他KDM、Kafka、实时库等)发布数据,发布功能具有以下功能特点:于web的用户界面,实现轻松配置,无缝体验设计、控制、反馈和监控;高度可配置,具有数据丢失容错和保证交付,低延迟和高吞吐量,支持10万点同步发布,动态优先级可定义,可以在运行时修改数据流向及数据发布集合;支持多种类型数据源获取数据和流向,支持多种数据类型,并从始至终跟踪数据流,例如Mysql、mongDB和Hbase等数据源;为扩展设计,采用模块化组件设计及,支持构建自己的数据处理器和更多组件,支持快速开发和有效的测试;安全,支持SSL,SSH,HTTPS加密内容等,支持多用户授权和内部授权/策略管理;
展示单元32,用于对获取的数据进行处理,并以直观的形式进行展示和指标分析;
展示单元32提供数据展示工具,大致由数据源、仪表盘界面、插件三大部分构成,三部分相互关、独立开发,便于维护管理;数据展示工具除了可以用表格来分析各个指标并展现数据外,还可以用图表来进行指标分析,相较于表格,图表分析数据看起来更加直观;数据展示工具能支持有轴坐标图(包括柱形图、堆积柱形图、折线图、面积图)、饼图、地图、仪表盘等各种常用的图表,还能根据特殊情况定制特殊的图表;专业的数据展示工具能通过数据对比等对数据进行更加深入的分析。
路由单元33,用于建立机动的数据通路,根据需要在不同数据中心之间远程调用特定数据,避免数据传输拥堵;
当有大量数据同步上传时,会给整个数据网络及终端的存储造成很大压力,使得数据的集成工作难度加大,集成成本剧增,数据存储规模越来越大,维护投入也不断攀升;为此,KDM系统需要路由单元33来提供数据路由功能,即在数据中心之间远程按需调用一些非常规使用数据,这样就可以避免大量非常规数据与常规重要数据同步传输,从而解决长期占用资源的问题;路由服务仅在少数需要使用的条件下才调用使用,在使用时建立数据通路,使用完成即可断开通路。
路由单元33提供的路由服务应具有如下特性:(1)透明性,数据访问者并不需要知道实时数据库的物理位置,不管数据是在本地KDM存储,还是在远端KDM存储,KDM数据中心根据编码自动判断在本地还是远程读取数据,并分发请求;(2)隔离性,通过配置路由规则,可以实现数据隔离访问,例如不同二级公司可以访问各自下属电厂的数据,但不能相互访问对方数据,而集团侧则能访问所有数据;这是物理上的隔离,和使用权限来隔离的方式有着本质上的不同;(3)实时性,尽管数据不存储在本地,但数据平台通过优化,提高响应实时性,同时对于频繁检索的数据,会在本地进行缓存,进一步迅速响应;(4)实时性:需要调用时候建立数据通路,调用完成断开通路;自由配置路由:通过配置可以实现路由功能的链接定义,轻松实现所有网络内数据中心自定义的调用。
实施例6
如图6所示,本实施例6在实施例1的基础上提供了一种基于KKS编码规则和大数据架构的实时数据平台,该实施例6进一步限定了所述平台还包括如下部分:
运行监控管理系统4,用于对所述平台的运行状态进行监控,并根据所述运行状态对所述平台的功能配置进行调整。
为了实现数据中心的稳定运行、简单操作、实时监控、简便维护等功能,运行监控管理模块4为数据中心提供了服务管理功能和监控管理功能,可以随时对数据中心的状态进行查看,依据运行条件进行灵活配置,卸载和加载数据中心的任何关键服务,并能支持数据中心的运行状态自检功能。
服务管理功能可以全局的对数据中心内的所有服务进行管理,保证数据中心的一体化运行,其主要功能包括:(1)核心服务的加载和卸载,通过数据中心管理服务,可以对数据中心内的运行服务进行随时的动态加载和卸载,并能保证数据中心的其他相关服务智能的脱离关联,保证其他的服务不受影响;(2)核心服务的配置,可以灵活的对数据中心内的所有服务进行配置,包括数据连接地址,数据关联调用,数据服务模式等;(3)核心数据的管理,可以按照规则创建新编码,关联生产数据;(4)修改编码关联信息及告警信息;(5)删除废弃编码。系统均为这些基本操作保留历史记录。
监控管理功能可对分布部署于企业范围内的任意一组织节点进行监控,从而将企业全范围的生产数据进行汇集。为了满足对系统自身的监控,数据中心具有监控功能可以实时监测数据中心的运行状况,实现集中掌控,其主要功能如下:(1)监测下属组织节点的数据中心,例如在集团侧部署的数据中心,可以监测下属区域公司、电厂的数据中心运行状况,包括数据信息,数据量,数据质量等信息;(2)监测自身数据中心,监控工具对于自身连接的数据中心,可以监测该数据中心的运行状况,包括数据库的连接状况,数据请求服务的访问情况等,必要时,可以对服务进行注册或卸载,以应对系统突发状况;(3)数据中心服务自检功能,可以通过自检功能对数据中心的所有服务进行自动检查,并给出自检报告,给出故障问题及修复建议。
以上所述实施例仅表达了本发明的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对本发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干变形和改进,这些都属于本发明的保护范围。因此,本发明专利的保护范围应以所附权利要求为准。
Claims (8)
1.一种基于KKS编码规则和大数据架构的实时数据平台,其特征在于,包括依次相互连接的如下部分:
编码管理系统(1),用于基于KKS编码规则对监测指标进行数字化处理,为每个所述监测指标赋予一个唯一的编码;
数据监测处理系统(2),用于对电厂各个设备的使用状态进行监测,对监测指标的实时数据建立数据库并进行缓存;
数据输出管理系统(3),用于用所述监测指标对应的编码对所述实时数据进行标记,并建立共享通道,通过所述共享通道对所述实时数据进行输出、在不同的目标端进行发布;
所述数据监测处理系统(2)包括如下部分:
数据采集模块(21),用于提供前置通信服务,连接多种不同类型的数据源并连续获取监测数据;
数据存储管理模块(22),用于通过获取的所述监测数据创建实时数据库;
所述数据库管理模块(22)包括如下部分:
数据同步单元(224),用于将本地存储数据或外部存储数据实时同步传输至所述平台内的所有目标端,保证不同级别数据中心间数据同步存储;
所述数据同步单元(224)包括如下部分:
分组子单元(2241),用于将所述目标端的用户进行分组并设置分组中包含的编码,所述数据中心根据所述用户的要求同步所述分组中包含所述编码的数据;
断点续传子单元(2242),用于从时间和数量两方面同时对数据同步的过程进行控制,保证数据同步;当同步请求产生时,判断源端和目标端最后一次传输时间,如时间不一致则同步开始,同步过程中如源端发送的数据量与目标端接收的数据量不一致,则返回重新同步,直至同步完成;
跨隔离传输子单元(2243),用于在电厂内部存在信息传输物理隔离的不同区域之间将所述数据进行传输;
编码转换子单元(2244),用于在多个源端对应一个目标端的情况下,若多个源端的所述编码存在重复,则对所述编码进行转换,使所述目标端接收到的编码不存在重复。
2.如权利要求1所述的基于KKS编码规则和大数据架构的实时数据平台,其特征在于,所述编码管理系统(1)包括如下部分:
编码模块(11),用于基于KKS编码规则,为每个所述监测指标赋予一个唯一的编码,并创建编码索引,所述编码包括33位字符、分为27个层级,部分所述层级未启用;所述编码的存储结构为管理域-设备域-量值域,所述设备域用于存储所述监测指标对应的设备信息,所述管理域用于存储所述设备信息对应的电厂的行政管理信息,所述量值域用于存储所述监测指标的物理属性;
编码同步模块(12),用于将所述编码索引同步到所述平台内的所有目标端,使所有所述目标端共享一套编码;所述同步包括全量同步和增量同步,所述全量同步为将所有符合规则的编码同步到所述目标端;所述增量同步为将经过更新的编码同步到所述目标端。
3.如权利要求2所述的基于KKS编码规则和大数据架构的实时数据平台,其特征在于,所述编码模块(11)包括如下部分:
KKS编码管理单元(111),用于基于KKS编码规则,为每个所述监测指标赋予一个唯一的编码;
权限管理单元(112),用于为接入所述平台的用户设置操作权限;所述操作权限包括最高权限、二级权限和三级权限,所述最高权限具备编码增加、删除、修改、查看以及导出的功能;所述二级权限具备编码修改、查看以及导出的功能;所述三级权限仅具有查看和导出的功能;
字典表管理单元(113),用于对所述编码中所述层级的启用和关闭进行管理。
4.如权利要求1所述的基于KKS编码规则和大数据架构的实时数据平台,其特征在于,所述数据存储管理模块(22)还包括如下部分:
本地存储管理单元(221),用于对所述监测数据进行高压缩比压缩,生成实时数据库;
外部存储管理单元(222),用于提供多种接口服务,用以连接多种类型的相互独立的数据存储器;用户发送数据查询请求时,所述外部存储管理单元(222)将所述数据查询请求,转化成对所述实时数据库本地接口的访问请求;所述实时数据库接收到所述访问请求后,调取所述用户请求的数据并返回给所述外部存储管理单元(222),由所述外部存储管理单元(222)向所述用户直接提供所述数据;数据访问单元(223),用于对外提供数据访问服务,所述数据访问服务包括针对数据标识的复合检索服务,所述复合检索服务包括编码结构获取服务、编码定义数据操作服务以及编码定义多条件复合检索服务。
5.如权利要求4所述的基于KKS编码规则和大数据架构的实时数据平台,其特征在于,所述数据访问服务还包括针对监测指标数据范围的高级检索服务,所述高级检索符合包括实时数据获取服务、任意个数最新数据获取服务、统计数据获取服务、数据集合获取服务数据块型数据获取服务以及状态量数据获取服务。
6.如权利要求1所述的基于KKS编码规则和大数据架构的实时数据平台,其特征在于,所述数据输出管理系统(3)包括如下部分:
发布单元(31),用于建立不同系统之间的数据共享通道,以便对数据流进行获取和发布;
展示单元(32),用于对获取的数据进行处理,并以直观的形式进行展示和指标分析。
7.如权利要求6所述的基于KKS编码规则和大数据架构的实时数据平台,其特征在于,所述数据输出管理系统(3)还包括如下部分:
路由单元(33),用于建立机动的数据通路,根据需要在不同数据中心之间远程调用特定数据,避免数据传输拥堵。
8.如权利要求1~7中任一项所述的基于KKS编码规则和大数据架构的实时数据平台,其特征在于,所述平台还包括如下部分:
运行监控管理系统(4),用于对所述平台的运行状态进行监控,并根据所述运行状态对所述平台的功能配置进行调整。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810934976.4A CN109145008B (zh) | 2018-08-16 | 2018-08-16 | 基于kks编码规则和大数据架构的实时数据平台 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810934976.4A CN109145008B (zh) | 2018-08-16 | 2018-08-16 | 基于kks编码规则和大数据架构的实时数据平台 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109145008A CN109145008A (zh) | 2019-01-04 |
CN109145008B true CN109145008B (zh) | 2020-11-06 |
Family
ID=64789669
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810934976.4A Active CN109145008B (zh) | 2018-08-16 | 2018-08-16 | 基于kks编码规则和大数据架构的实时数据平台 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109145008B (zh) |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111080230A (zh) * | 2019-11-18 | 2020-04-28 | 上海铠韧气体工程股份有限公司 | 基于am软件的电气工程数据自动化处理系统 |
CN111126811A (zh) * | 2019-12-16 | 2020-05-08 | 湖南大唐先一科技有限公司 | 一种基于改进型kks编码规则的电厂数据辅助编码系统 |
CN113627128A (zh) * | 2020-05-07 | 2021-11-09 | 上海同是科技股份有限公司 | 一种隐患排查检查项编码方法及系统 |
CN111930794A (zh) * | 2020-06-30 | 2020-11-13 | 中经网数据有限公司 | 统计指标编码规范化管理系统及方法 |
CN111538871B (zh) * | 2020-07-08 | 2020-10-09 | 北京东方通科技股份有限公司 | 一种支持不同数据类型的一体化检索方法 |
CN113220633B (zh) * | 2021-04-19 | 2024-06-04 | 华迪计算机集团有限公司 | 统一文件编码管理方法及系统 |
CN113343643B (zh) * | 2021-08-09 | 2021-11-02 | 浙江浙能技术研究院有限公司 | 一种基于有监督的多模型编码映射推荐方法 |
CN113343642B (zh) * | 2021-08-09 | 2021-11-02 | 浙江浙能技术研究院有限公司 | 基于有监督序列生成网络的集团级kks编码自动映射方法 |
CN117555494B (zh) * | 2024-01-12 | 2024-03-22 | 南京荧火泰讯信息科技有限公司 | 一种用于信号处理板的编码管理系统 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104008437A (zh) * | 2013-02-25 | 2014-08-27 | 陈国祥 | 智能电网的可视化展示系统及其方法 |
CN103955869B (zh) * | 2014-04-29 | 2018-03-13 | 中国电建集团河北省电力勘测设计研究院有限公司 | 电厂设备元件KKs编码自动生成方法 |
CN105278504B (zh) * | 2015-10-28 | 2018-03-27 | 华电电力科学研究院 | 发电集团级水电机组分布式状态监测与诊断平台建设的体系结构 |
CN108153886B (zh) * | 2017-12-28 | 2021-02-02 | 北京恒泰实达科技股份有限公司 | 实时数据在web应用中的自定义可视化展示方法 |
-
2018
- 2018-08-16 CN CN201810934976.4A patent/CN109145008B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN109145008A (zh) | 2019-01-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109145008B (zh) | 基于kks编码规则和大数据架构的实时数据平台 | |
CN109829009B (zh) | 可配置的异构数据实时同步并可视化的系统及方法 | |
CN102439818B (zh) | 自动生成变电站goose信号连接拓扑关系的方法和设备 | |
US10242506B2 (en) | Visualization method and system, and integrated data file generating method and apparatus for 4D data | |
CN103036736B (zh) | 一种基于数据源的组态化设备监控系统及方法 | |
US6252858B1 (en) | Method and apparatus for building network configuration database | |
CN111800443B (zh) | 数据处理系统和方法、装置以及电子设备 | |
US20050203873A1 (en) | System and method for information management in a distributed network | |
CN104468274A (zh) | 一种集群监控管理方法及系统 | |
CN103701913A (zh) | 数据同步方法及装置 | |
CN116402247A (zh) | 一种基于bim和物联网的智能建筑数字化管理系统 | |
CN104348793A (zh) | 存储服务器系统及数据信息的存储方法 | |
CN105892364A (zh) | 水务集中监控管理系统 | |
CN100442711C (zh) | 一种数字家庭网络中的文件管理系统及方法 | |
CN113486418B (zh) | 一种bim模型云编码方法及系统 | |
CN102377580B (zh) | 性能数据的上传方法和设备 | |
CN109302319B (zh) | 报文池分布式集群及其管理方法 | |
CN111447099A (zh) | 一种配电网网络拓扑管理系统 | |
CN114564458B (zh) | 集群间数据同步的方法、装置、设备和存储介质 | |
CN107463540B (zh) | 电能质量数据的处理方法及电能质量监测装置 | |
Pu et al. | Practical implementation of an OPC UA multi-server aggregation and management architecture for IIoT | |
CN112685486B (zh) | 数据库集群的数据管理方法、装置、电子设备及存储介质 | |
CN112860657B (zh) | Tias系统实时数据库地址空间的构建方法及系统 | |
CN101426220A (zh) | 一种基站割接的方法、装置及系统 | |
CN111212138B (zh) | 一种跨站点存储系统及数据信息访问方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |