CN111158584B - 基于泛在电力物联网的配网施工安全质量管控平台大数据存储方法及系统 - Google Patents
基于泛在电力物联网的配网施工安全质量管控平台大数据存储方法及系统 Download PDFInfo
- Publication number
- CN111158584B CN111158584B CN201911177173.XA CN201911177173A CN111158584B CN 111158584 B CN111158584 B CN 111158584B CN 201911177173 A CN201911177173 A CN 201911177173A CN 111158584 B CN111158584 B CN 111158584B
- Authority
- CN
- China
- Prior art keywords
- data
- sub
- mapping table
- configuration mapping
- blocks
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 53
- 238000010276 construction Methods 0.000 title claims abstract description 44
- 238000009826 distribution Methods 0.000 title claims abstract description 35
- 238000003908 quality control method Methods 0.000 title claims abstract description 33
- 238000013500 data storage Methods 0.000 title claims abstract description 26
- 238000013507 mapping Methods 0.000 claims abstract description 102
- 238000003860 storage Methods 0.000 claims abstract description 28
- 238000004590 computer program Methods 0.000 claims description 15
- 238000005192 partition Methods 0.000 claims description 8
- 230000011218 segmentation Effects 0.000 claims description 5
- 230000009467 reduction Effects 0.000 abstract description 6
- 230000007547 defect Effects 0.000 abstract description 4
- 230000000694 effects Effects 0.000 abstract description 4
- 238000012545 processing Methods 0.000 description 15
- 238000010586 diagram Methods 0.000 description 12
- 238000004891 communication Methods 0.000 description 10
- 239000000243 solution Substances 0.000 description 10
- 230000008569 process Effects 0.000 description 8
- 238000012795 verification Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 5
- 230000005540 biological transmission Effects 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 238000007726 management method Methods 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000002347 injection Methods 0.000 description 2
- 239000007924 injection Substances 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 230000001174 ascending effect Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000006855 networking Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
- G06F3/061—Improving I/O performance
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F12/00—Accessing, addressing or allocating within memory systems or architectures
- G06F12/02—Addressing or allocation; Relocation
- G06F12/08—Addressing or allocation; Relocation in hierarchically structured memory systems, e.g. virtual memory systems
- G06F12/10—Address translation
- G06F12/1009—Address translation using page tables, e.g. page table structures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
- G06F3/0662—Virtualisation aspects
- G06F3/0665—Virtualisation aspects at area level, e.g. provisioning of virtual or logical volumes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0668—Interfaces specially adapted for storage systems adopting a particular infrastructure
- G06F3/067—Distributed or networked storage systems, e.g. storage area networks [SAN], network attached storage [NAS]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/06—Energy or water supply
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Human Computer Interaction (AREA)
- Business, Economics & Management (AREA)
- Health & Medical Sciences (AREA)
- Economics (AREA)
- Water Supply & Treatment (AREA)
- Public Health (AREA)
- General Health & Medical Sciences (AREA)
- Human Resources & Organizations (AREA)
- Marketing (AREA)
- Primary Health Care (AREA)
- Strategic Management (AREA)
- Tourism & Hospitality (AREA)
- General Business, Economics & Management (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Information Transfer Between Computers (AREA)
Abstract
本发明公开了一种基于泛在电力物联网的配网施工安全质量管控平台大数据存储平台大数据存储方法及系统,该方法为将用于存储大数据的云端数据库分为一个主区块与多个从区块,并将主区块分为多个虚拟区块;将大数据转换成二维图片数据,并将二维图片数据分割成多个子数据,同时生成配置映射表;将配置映射表存储在多个虚拟区块中,并将上述多个子数据存储在上述多个从区块中。解决了配网施工安全质量管控平台大数据的急速扩大膨胀、查询速度慢,降低了数据利用效率等弊端,达到降低数据库负荷,大数据的高效存储与高速查询的效果。
Description
技术领域
本发明涉及电力安全技术领域,尤其涉及一种基于泛在电力物联网的配网施工安全质量管控平台大数据存储方法及系统。
背景技术
农村供配电网,简称农网,是电力系统中重要的部分。农网改造升级工程是国家资本金投资建设的专项工程,具有总体投资大、单体项目投资小、数量多、范围广、以及管理链条长、环节多、地区差异大、项目地点分散等特点。
随着农网建设逐渐加大,农网工程建设任务不断增多,跨区域联网建设不断增强,强化农网工程建设质量管控措施的落实,进一步提高农网工程建设安全质量已成为了建设坚强电网的重中之重,从而对农网工程的质量监督提出了更高的要求。配电农网施工主要存在三大难点:一是配网作业人员工作场地变动频率较快,无法对人员的工作状态及工作位置进行定位,作业位置管控难度大。二是配网施工多以登高施工为主,高处作业过程繁琐,作业环境恶劣,人身安全管控难度大。三是作业现场环境危险源繁多,带电的潜在的风险较大,带电设备管控难度大。因而,要实现对配网施工安全质量管控,需要进行大数据的存储及分析。电力大数据储存系统相当于电力系统的神经中枢大脑,目前使用的数据储存系统以关系型数据库为主,这是一种建立在关系模型基础上的数据库,借助于集合代数等数学概念和方法来处理数据库中的数据,具有稳定、安全等特点。
然而,由于配网施工现场的数据来源增多,数据类型多样,数据规模和存储压力急剧增大,调控业务对海量多源数据的高效存储与快速处理的要求不断提升。并且,由于数据的飞速发展,数据量越来越大,大数据的存储与查询成为很大的难题。现今云技术做为大数据和快数据的处理技术,被越来越多的应用在很多信息领域,如何根据需要来处理庞大的云数据成了自然而然的问题。处理大量数据最直接的方法是直接存入相应的数据库,这种方法对服务器性能要求高,而且如果每次使用都要到庞大的数据库中去查询所需的数据,查询速度慢,效率低,而如果只做简单的分表也无法达到理想的效果,数据库的负载仍然很大,不能快速的对数据进行定位,无法提高数据查询速度。
发明内容
针对现有技术的不足,本发明提供了一种基于泛在电力物联网的配网施工安全质量管控平台大数据存储方法及系统,以解决现有技术的大数据的高效存储与高速查询等问题,其具体方案如下:
第一方面,本发明提供了一种基于泛在电力物联网的配网施工安全质量管控平台大数据存储方法,所述方法包括:
将用于存储大数据的云端数据库分为一个主区块与多个从区块,并将所述主区块分为多个虚拟区块;
将大数据转换成二维图片数据,并将所述二维图片数据分割成多个子数据,同时生成配置映射表;
将所述配置映射表存储在所述多个虚拟区块中,并将所述多个子数据存储在所述多个从区块中。
优选地,所述将所述二维图片数据分割成多个子数据之后,所述方法还包括:
将所述二维图片数据分割的多个子数据产生一阵列校验码;
接收一数据写入指令,并根据所述数据分割指令的目标物理地址,将附加了阵列校验码的多个子数据写入一缓冲阵列存储器。
优选地,所述将所述多个子数据存储在所述多个从区块中,所述方法包括:
当接收到一子数据写入指令时,依据所述子数据写入指令对所选取的从区块进行数据的写入,直至所述多个子数据已依次完全写入所述多个从区块。
优选地,所述将所述二维图片数据分割成多个子数据,所述方法包括:
将所述二维图片的数据量除以子数据的数据量N得到L,如果没有余数R则生成N个等量的大小为L的子数据,如果有余数R则生成N-1个大小为L的子数据和1个大小为L+R的子数据。
优选地,所述配置映射表用于记录多个从区块的物理地址与多个虚拟区块的逻辑地址的映射关系,所述配置映射表包括所有子数据的分割编号、分割顺序编号、子数据存储的虚拟区块编号、子数据的总数量。
优选地,所述将所述配置映射表存储在所述多个虚拟区块中,所述方法包括:
将配置映射表分成多个子配置映射表;
当接收到一子配置映射表写入指令时,依据所述子配置映射表写入指令对所选取的虚拟区块进行配置映射表的写入,直至所述多个子配置映射表已完全写入所述多个虚拟区块。
优选地,所述方法还包括:
接收包含数据地址的读取命令;
判断所述数据地址所对应的目标子配置映射表是否已被存取,若为否时,从所述多个子配置映射表中存取所述目标子配置映射表;
根据存取的所述目标子配置映射表,读取所述多个虚拟区块的子数据。
第二方面,本发明提供了一种基于泛在电力物联网的配网施工安全质量管控平台大数据存储系统,所述系统包括:
分块处理模块,用于将用于存储大数据的云端数据库分为一个主区块与多个从区块,并将所述主区块分为多个虚拟区块;
转换处理模块,用于将大数据转换成二维图片数据,并将所述二维图片数据分割成多个子数据,同时生成配置映射表;
存储处理模块,用于将所述配置映射表存储在所述多个虚拟区块中,并将所述多个子数据存储在所述多个从区块中。
第三方面,本发明提供了一种基于泛在电力物联网的配网施工安全质量管控平台大数据存储系统,所述系统包括:
通信总线,用于实现处理器与存储器间的连接通信;
存储器,用于存储计算机程序;
处理器,用于执行所述计算机程序以实现如下步骤:
将用于存储大数据的云端数据库分为一个主区块与多个从区块,并将所述主区块分为多个虚拟区块;
将大数据转换成二维图片数据,并将所述二维图片数据分割成多个子数据,同时生成配置映射表;
将所述配置映射表存储在所述多个虚拟区块中,并将所述多个子数据存储在所述多个从区块中。
第四方面,本发明提供了一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如第一方面所述的方法。
有益效果:本发明的基于泛在电力物联网的配网施工安全质量管控平台大数据存储方法及平台,通过将用于存储大数据的云端数据库分为一个主区块与多个从区块,并将所述主区块分为多个虚拟区块;将大数据转换成二维图片数据,并将所述二维图片数据分割成多个子数据,同时生成配置映射表;将所述配置映射表存储在所述多个虚拟区块中,并将所述多个子数据存储在所述多个从区块中。解决了配网施工安全质量管控平台大数据的急速扩大膨胀、查询速度慢,降低了数据利用效率等弊端,达到降低数据库负荷,大数据的高效存储与高速查询的效果。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,附图中的实施例不构成对本发明的任何限制,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明基于泛在电力物联网的配网施工安全质量管控平台大数据存储方法实施例一流程示意图。
图2是本发明基于泛在电力物联网的配网施工安全质量管控平台大数据存储方法实施例二流程示意图。
图3是本发明基于泛在电力物联网的配网施工安全质量管控平台大数据存储系统实施例一结构示意图。
图4是本发明基于泛在电力物联网的配网施工安全质量管控平台大数据存储系统实施例二结构示意图。
具体实施方式
下面结合附图与实施例对本发明技术方案作进一步详细的说明,这是本发明的较佳实施例。应当理解,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例;需要说明的是,在不冲突的情况下,本发明中的实施例及实施例中的特征可以相互组合。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明实施例技术方案的主要思想:将用于存储大数据的云端数据库分为一个主区块与多个从区块,并将上述主区块分为多个虚拟区块;将大数据转换成二维图片数据,并将上述二维图片数据分割成多个子数据,同时生成配置映射表;将上述配置映射表存储在上述多个虚拟区块中,并将上述多个子数据存储在上述多个从区块中。
为了更好的理解上述的技术方案,下面将结合说明书附图以及具体的实施方式对上述技术方案进行详细的说明。
实施例一
本发明一实施例提供了一种基于泛在电力物联网的配网施工安全质量管控平台大数据存储方法,如图1所示,该施工安全质量管控平台大数据存储方法具体可以包括如下步骤:
S101,将用于存储大数据的云端数据库分为一个主区块与多个从区块,并将上述主区块分为多个虚拟区块;
本实施例中,电力物联网的配网施工安全质量管控平台可以包括至少一个数据采集终端、电力物联网、用于存储大数据的云端数据库及后台控制中心,电力物联网用于上述数据采集终端、上述云端数据库与上述后台控制中心之间的数据、语音、视频或短信等通信传输。其中,云端数据库包含一个主区块及多个从区块,主区块又包含多个虚拟区块。
S102,将大数据转换成二维图片数据,并将上述二维图片数据分割成多个子数据,同时生成配置映射表;
具体地,首先将配网施工安全质量管控平台的大数据转换成二维图片数据格式,然后将上述二维图片数据按以下方式分割成多个子数据,即:将上述二维图片的数据量除以子数据的数据量N得到L,如果没有余数R则生成N个等量的大小为L的子数据,如果有余数R则生成N-1个大小为L的子数据和1个大小为L+R的子数据,最后要生成相应的配置映射表。
本实施例中,上述配置映射表用于记录多个从区块的物理地址与多个虚拟区块的逻辑地址的映射关系。其中,上述配置映射表包括所有子数据的分割编号、分割顺序编号、子数据存储的虚拟区块编号、子数据的总数量。
S103,将上述配置映射表存储在上述多个虚拟区块中,并将上述多个子数据存储在上述多个从区块中。
本实施例中,配置映射表可分成多个子配置映射表存储在上述多个虚拟区块中,这样当接收到一子配置映射表写入指令时,依据上述子配置映射表写入指令对所选取的虚拟区块进行配置映射表的写入,直至上述多个子配置映射表已完全写入上述多个虚拟区块为止。
采用与配置映射表存储的相同原理,子数据在从区块的存储方式也类似,即:当接收到一子数据写入指令时,依据上述子数据写入指令对所选取的从区块进行数据的写入,直至上述多个子数据已依次完全写入上述多个从区块。
实施例二
本发明一实施例提供了一种基于泛在电力物联网的配网施工安全质量管控平台大数据存储方法,如图2所示,该施工安全质量管控平台大数据存储方法具体可以包括如下步骤:
S201,将用于存储大数据的云端数据库分为一个主区块与多个从区块,并将上述主区块分为多个虚拟区块;
本实施例中,电力物联网的配网施工安全质量管控平台可以包括至少一个数据采集终端、电力物联网、用于存储大数据的云端数据库及后台控制中心,电力物联网用于上述数据采集终端、上述云端数据库与上述后台控制中心之间的数据、语音、视频或短信等通信传输。其中,云端数据库包含一个主区块及多个从区块,主区块又包含多个虚拟区块。
S202,将大数据转换成二维图片数据,并将上述二维图片数据分割成多个子数据,同时生成配置映射表;
具体地,首先将配网施工安全质量管控平台的大数据转换成二维图片数据格式,然后将上述二维图片数据按以下方式分割成多个子数据,即:将上述二维图片的数据量除以子数据的数据量N得到L,如果没有余数R则生成N个等量的大小为L的子数据,如果有余数R则生成N-1个大小为L的子数据和1个大小为L+R的子数据,最后要生成相应的配置映射表。
本实施例中,上述配置映射表用于记录多个从区块的物理地址与多个虚拟区块的逻辑地址的映射关系。其中,上述配置映射表包括所有子数据的分割编号、分割顺序编号、子数据存储的虚拟区块编号、子数据的总数量。
S203,可接收一数据写入指令,并根据上述数据分割指令的目标物理地址,将附加了阵列校验码的多个子数据写入一缓冲阵列存储器;
本实施例中,可通过引入校验码对数据进行安全性的校验,确保大数据的安全性。具体地,接收需要写入阵列存储器的数据写入指令,并根据上述数据分割指令的目标物理地址,对相应地址的收到的数据包进行校验,数据包校验可确定数据包是否为网络攻击注入包,如果数据包是合法的,将数据包进行解析,对里面的数据进行分析,判断是否为所需要的正确的数据,并将附加了阵列校验码的正确子数据写入到该缓冲阵列存储器。
需要说明的是,对网络数据合法性的校验为目前成熟的技术,本领域的技术人员可以采用常规的知识实现,此处不做论述。
S204,将上述配置映射表存储在上述多个虚拟区块中,并将上述多个子数据存储在上述多个从区块中;
本实施例中,配置映射表可分成多个子配置映射表存储在上述多个虚拟区块中,这样当接收到一子配置映射表写入指令时,依据上述子配置映射表写入指令对所选取的虚拟区块进行配置映射表的写入,直至上述多个子配置映射表已完全写入上述多个虚拟区块为止。
采用与配置映射表存储的相同原理,子数据在从区块的存储方式也类似,即:当接收到一子数据写入指令时,依据上述子数据写入指令对所选取的从区块进行数据的写入,直至上述多个子数据已依次完全写入上述多个从区块。
S205,读取虚拟区块中的子数据。
具体地,当接收到包含数据地址的读取命令时,判断上述数据地址所对应的目标子配置映射表是否已被存取,若为否时,从上述多个子配置映射表中存取上述目标子配置映射表,然后根据存取的上述目标子配置映射表,从上述多个虚拟区块的读出所需的一系列子数据。
实施例三
本发明一实施例提供了一种基于泛在电力物联网的配网施工安全质量管控平台大数据存储平台,如图3所示,该平台具体可以包括如下模块:
分块处理模块,用于将用于存储大数据的云端数据库分为一个主区块与多个从区块,并将上述主区块分为多个虚拟区块。
电力物联网的配网施工安全质量管控平台可以包括至少一个数据采集终端、电力物联网、用于存储大数据的云端数据库及后台控制中心,电力物联网用于上述数据采集终端、上述云端数据库与上述后台控制中心之间的数据、语音、视频或短信等通信传输。其中,云端数据库包含一个主区块及多个从区块,主区块又包含多个虚拟区块。
转换处理模块,用于将大数据转换成二维图片数据,并将上述二维图片数据分割成多个子数据,同时生成配置映射表。
首先将配网施工安全质量管控平台的大数据转换成二维图片数据格式,然后将上述二维图片数据按以下方式分割成多个子数据,即:将上述二维图片的数据量除以子数据的数据量N得到L,如果没有余数R则生成N个等量的大小为L的子数据,如果有余数R则生成N-1个大小为L的子数据和1个大小为L+R的子数据,最后要生成相应的配置映射表。其中,配置映射表用于记录多个从区块的物理地址与多个虚拟区块的逻辑地址的映射关系。上述配置映射表包括所有子数据的分割编号、分割顺序编号、子数据存储的虚拟区块编号、子数据的总数量。
存储处理模块,用于将上述配置映射表存储在上述多个虚拟区块中,并将上述多个子数据存储在上述多个从区块中。
配置映射表可分成多个子配置映射表存储在上述多个虚拟区块中,这样当接收到一子配置映射表写入指令时,依据上述子配置映射表写入指令对所选取的虚拟区块进行配置映射表的写入,直至上述多个子配置映射表已完全写入上述多个虚拟区块为止。同理,子数据在从区块的存储方式也类似,即:当接收到一子数据写入指令时,依据上述子数据写入指令对所选取的从区块进行数据的写入,直至上述多个子数据已依次完全写入上述多个从区块。
实施例四
本发明一实施例提供了一种基于泛在电力物联网的配网施工安全质量管控平台大数据存储平台,如图4所示,该平台具体可以包括如下模块:
通信总线,用于实现处理器与存储器间的连接通信;
存储器,用于存储计算机程序;存储器可能包含高速RAM存储器,也可能还包含非不稳定的存储器(non-volatile memory),例如至少一个磁盘存储器。存储器可选的可以包含至少一个存储装置。
处理器,用于执行上述计算机程序以实现如下步骤:
首先,将用于存储大数据的云端数据库分为一个主区块与多个从区块,并将上述主区块分为多个虚拟区块。本实施例中,电力物联网的配网施工安全质量管控平台可以包括至少一个数据采集终端、电力物联网、用于存储大数据的云端数据库及后台控制中心,电力物联网用于上述数据采集终端、上述云端数据库与上述后台控制中心之间的数据、语音、视频或短信等通信传输。其中,云端数据库包含一个主区块及多个从区块,主区块又包含多个虚拟区块。
其次,将大数据转换成二维图片数据,并将上述二维图片数据分割成多个子数据,同时生成配置映射表。具体地,首先将配网施工安全质量管控平台的大数据转换成二维图片数据格式,然后将上述二维图片数据按以下方式分割成多个子数据,即:将上述二维图片的数据量除以子数据的数据量N得到L,如果没有余数R则生成N个等量的大小为L的子数据,如果有余数R则生成N-1个大小为L的子数据和1个大小为L+R的子数据,最后要生成相应的配置映射表。上述配置映射表用于记录多个从区块的物理地址与多个虚拟区块的逻辑地址的映射关系。其中,上述配置映射表包括所有子数据的分割编号、分割顺序编号、子数据存储的虚拟区块编号、子数据的总数量。
接着,可接收一数据写入指令,并根据上述数据分割指令的目标物理地址,将附加了阵列校验码的多个子数据写入一缓冲阵列存储器。可通过引入校验码对数据进行安全性的校验,确保大数据的安全性。具体地,接收需要写入阵列存储器的数据写入指令,并根据上述数据分割指令的目标物理地址,对相应地址的收到的数据包进行校验,数据包校验可确定数据包是否为网络攻击注入包,如果数据包是合法的,将数据包进行解析,对里面的数据进行分析,判断是否为所需要的正确的数据,并将附加了阵列校验码的正确子数据写入到该缓冲阵列存储器。
需要说明的是,对网络数据合法性的校验为目前成熟的技术,本领域的技术人员可以采用常规的知识实现,此处不做论述。
然后,将上述配置映射表存储在上述多个虚拟区块中,并将上述多个子数据存储在上述多个从区块中。本实施例中,配置映射表可分成多个子配置映射表存储在上述多个虚拟区块中,这样当接收到一子配置映射表写入指令时,依据上述子配置映射表写入指令对所选取的虚拟区块进行配置映射表的写入,直至上述多个子配置映射表已完全写入上述多个虚拟区块为止。同理,子数据在从区块的存储方式也类似,即:当接收到一子数据写入指令时,依据上述子数据写入指令对所选取的从区块进行数据的写入,直至上述多个子数据已依次完全写入上述多个从区块。
最后,读取虚拟区块中的子数据。具体地,当接收到包含数据地址的读取命令时,判断上述数据地址所对应的目标子配置映射表是否已被存取,若为否时,从上述多个子配置映射表中存取上述目标子配置映射表,然后根据存取的上述目标子配置映射表,从上述多个虚拟区块的读出所需的一系列子数据。
本实施例中的处理器可能是一种集成电路芯片,具有信号处理能力。在实现过程中,上述方法的各步骤可以通过处理器中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器可以是通用处理器、数字信号处理器(DSP)、专用集成电路(ASIC)、现成可编程门阵列(FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本发明实施例中的公开的各方法、步骤及逻辑框图。上述处理器可以是微处理器或者上述处理器也可以是任何常规的处理器等。结合本发明实施例所公开的方法的步骤可以直接体现为硬件处理器执行完成,或者用处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器,闪存、只读存储器,可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器,处理器读取存储器中的信息,结合其硬件完成上述方法的步骤。
实施例五
本发明一实施例提供了一种计算机可读存储介质,其上存储有计算机程序,上述计算机程序被处理器执行时实现上述的存储方法。
综上所述,本发明实施例提供的一种基于泛在电力物联网的配网施工安全质量管控平台大数据存储方法及平台,通过将用于存储大数据的云端数据库分为一个主区块与多个从区块,并将所述主区块分为多个虚拟区块;将大数据转换成二维图片数据,并将所述二维图片数据分割成多个子数据,同时生成配置映射表;将所述配置映射表存储在所述多个虚拟区块中,并将所述多个子数据存储在所述多个从区块中。解决了配网施工安全质量管控平台大数据的急速扩大膨胀、查询速度慢,降低了数据利用效率等弊端,达到降低数据库负荷,大数据的高效存储与高速查询的效果。
需要说明的是,对于前述的各方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本发明并不受所描述的动作顺序的限制,因为依据本发明,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于可选实施例,所涉及的动作和模块并不一定是本发明所必须的。
上述实施例,可以全部或部分地通过软件、硬件、固件或其他任意组合来实现。当使用软件实现时,上述实施例可以全部或部分地以计算机程序产品的形式实现。该计算机程序产品包括一个或多个计算机指令。在计算机上加载或执行该计算机程序指令时,全部或部分地产生按照本申请实施例该的流程或功能。该计算机可以为通用计算机、专用计算机、计算机网络、或者其他可编程装置。该计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,该计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。该计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集合的服务器、数据中心等数据存储设备。该可用介质可以是磁性介质(例如,软盘、硬盘、磁带)、光介质(例如,DVD)、或者半导体介质。半导体介质可以是固态硬盘。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统、装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本发明所提供的几个实施例中,应该理解到,所揭露的系统,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(read-only memory,ROM)、随机存取存储器(random access memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
本发明是参照本发明实施例的方法、装置(设备)和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
最后应说明的是:以上各实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述各实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分或者全部技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。
Claims (5)
1.一种基于泛在电力物联网的配网施工安全质量管控平台大数据储存方法,其特征在于,所述方法包括:
将用于存储大数据的云端数据库分为一个主区块与多个从区块,并将所述主区块分为多个虚拟区块;
将大数据转换成二维图片数据,并将所述二维图片数据分割成多个子数据,同时生成配置映射表;将所述二维图片数据分割的多个子数据产生一阵列校验码;接收一数据写入指令,并根据数据分割指令的目标物理地址,将附加了阵列校验码的多个子数据写入一缓冲阵列存储器;将所述二维图片的数据量除以子数据的数据量N得到L,如果没有余数R则生成N个等量的大小为L的子数据,如果有余数R则生成N-1个大小为L的子数据和1个大小为L+R的子数据;
将所述配置映射表存储在所述多个虚拟区块中,并将所述多个子数据存储在所述多个从区块中;当接收到一子数据写入指令时,依据所述子数据写入指令对所选取的从区块进行数据的写入,直至所述多个子数据已依次完全写入所述多个从区块。
2.根据权利要求1所述的方法,其特征在于,所述配置映射表用于记录多个从区块的物理地址与多个虚拟区块的逻辑地址的映射关系,所述配置映射表包括所有子数据的分割编号、分割顺序编号、子数据存储的虚拟区块编号、子数据的总数量。
3.根据权利要求1-2任一项所述的方法,其特征在于,所述将所述配置映射表存储在所述多个虚拟区块中,所述方法包括:
将配置映射表分成多个子配置映射表;
当接收到一子配置映射表写入指令时,依据所述子配置映射表写入指令对所选取的虚拟区块进行配置映射表的写入,直至所述多个子配置映射表已完全写入所述多个虚拟区块。
4.根据权利要求3所述的方法,其特征在于,所述方法还包括:
接收包含数据地址的读取命令;
判断所述数据地址所对应的目标子配置映射表是否已被存取,若为否时,从所述多个子配置映射表中存取所述目标子配置映射表;
根据存取的所述目标子配置映射表,读取所述多个虚拟区块的子数据。
5.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1-4任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911177173.XA CN111158584B (zh) | 2019-11-26 | 2019-11-26 | 基于泛在电力物联网的配网施工安全质量管控平台大数据存储方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911177173.XA CN111158584B (zh) | 2019-11-26 | 2019-11-26 | 基于泛在电力物联网的配网施工安全质量管控平台大数据存储方法及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111158584A CN111158584A (zh) | 2020-05-15 |
CN111158584B true CN111158584B (zh) | 2022-09-30 |
Family
ID=70556171
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911177173.XA Active CN111158584B (zh) | 2019-11-26 | 2019-11-26 | 基于泛在电力物联网的配网施工安全质量管控平台大数据存储方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111158584B (zh) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108881230A (zh) * | 2018-06-21 | 2018-11-23 | 佛山科学技术学院 | 一种政务大数据的安全传输方法及装置 |
CN109145205A (zh) * | 2018-07-27 | 2019-01-04 | 阿里巴巴集团控股有限公司 | 一种基于区块链的跨链数据操作方法和装置 |
CN109491927A (zh) * | 2018-11-06 | 2019-03-19 | 青岛镕铭半导体有限公司 | 数据存储、读取方法、装置及电子设备 |
CN109670333A (zh) * | 2018-12-12 | 2019-04-23 | 杭州基尔区块链科技有限公司 | 一种去中心化芯片研发交易数据存储方法及系统 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10719893B2 (en) * | 2016-08-10 | 2020-07-21 | Schlumberger Technology Corporation | Symbolic rigstate system |
-
2019
- 2019-11-26 CN CN201911177173.XA patent/CN111158584B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108881230A (zh) * | 2018-06-21 | 2018-11-23 | 佛山科学技术学院 | 一种政务大数据的安全传输方法及装置 |
CN109145205A (zh) * | 2018-07-27 | 2019-01-04 | 阿里巴巴集团控股有限公司 | 一种基于区块链的跨链数据操作方法和装置 |
CN109491927A (zh) * | 2018-11-06 | 2019-03-19 | 青岛镕铭半导体有限公司 | 数据存储、读取方法、装置及电子设备 |
CN109670333A (zh) * | 2018-12-12 | 2019-04-23 | 杭州基尔区块链科技有限公司 | 一种去中心化芯片研发交易数据存储方法及系统 |
Also Published As
Publication number | Publication date |
---|---|
CN111158584A (zh) | 2020-05-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
TWI735545B (zh) | 一種模型的訓練方法和裝置 | |
CN110019125B (zh) | 数据库管理的方法和装置 | |
CN106874348B (zh) | 文件存储和索引方法、装置及读取文件的方法 | |
CN106407207B (zh) | 一种实时新增数据更新方法和装置 | |
CN104794123A (zh) | 一种为半结构化数据构建NoSQL数据库索引的方法及装置 | |
CN103077183A (zh) | 一种分布式顺序表的数据导入方法及其系统 | |
CN112597153B (zh) | 一种基于区块链的数据存储方法、装置及存储介质 | |
US20140244654A1 (en) | Data migration | |
CN104461698A (zh) | 虚拟磁盘动态挂载的方法、管理装置及分布式存储系统 | |
CN103150402A (zh) | 基于索引编码的虚拟文件系统及建立方法、访问方法 | |
CN111258978A (zh) | 一种数据存储的方法 | |
CN106844288A (zh) | 一种随机字符串生成方法及装置 | |
CN111611249A (zh) | 数据管理方法、装置、设备及存储介质 | |
CN111984204B (zh) | 一种数据读写方法、装置及电子设备和存储介质 | |
CN104767761A (zh) | 一种云存储平台访问控制方法及装置 | |
CN104022913A (zh) | 用于数据集群的测试方法和装置 | |
CN104144202A (zh) | Hadoop分布式文件系统的访问方法、系统和装置 | |
CN107729375B (zh) | 一种日志数据排序的方法及装置 | |
CN103345527B (zh) | 数据智能统计系统 | |
CN104598409A (zh) | 一种处理输入输出请求的方法及设备 | |
CN111158584B (zh) | 基于泛在电力物联网的配网施工安全质量管控平台大数据存储方法及系统 | |
Song et al. | Fachs: Adaptive hybrid storage strategy based on file access characteristics | |
CN111124313A (zh) | 电力采集终端数据读写方法、装置和电子设备 | |
CN103164532A (zh) | 电网模型数据的分类分块抽取方法及系统 | |
CN116457751A (zh) | 一种写数据通路结构和芯片 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |