CN110825061A - 一种分散处理单元的流数据二维处理方法 - Google Patents
一种分散处理单元的流数据二维处理方法 Download PDFInfo
- Publication number
- CN110825061A CN110825061A CN201911203248.7A CN201911203248A CN110825061A CN 110825061 A CN110825061 A CN 110825061A CN 201911203248 A CN201911203248 A CN 201911203248A CN 110825061 A CN110825061 A CN 110825061A
- Authority
- CN
- China
- Prior art keywords
- stream data
- data
- processing unit
- stream
- value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012545 processing Methods 0.000 title claims abstract description 106
- 238000003672 processing method Methods 0.000 title claims abstract description 16
- 238000004364 calculation method Methods 0.000 claims abstract description 42
- 238000000034 method Methods 0.000 claims description 41
- 230000008569 process Effects 0.000 claims description 16
- 238000004422 calculation algorithm Methods 0.000 claims description 8
- 230000005540 biological transmission Effects 0.000 abstract description 11
- 238000005457 optimization Methods 0.000 description 7
- 238000010248 power generation Methods 0.000 description 6
- 238000012937 correction Methods 0.000 description 5
- 238000013500 data storage Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 238000005259 measurement Methods 0.000 description 4
- 238000004458 analytical method Methods 0.000 description 3
- 230000006872 improvement Effects 0.000 description 3
- 238000004886 process control Methods 0.000 description 3
- 238000004088 simulation Methods 0.000 description 3
- 230000032683 aging Effects 0.000 description 2
- 238000013144 data compression Methods 0.000 description 2
- 230000006837 decompression Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000003139 buffering effect Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000002860 competitive effect Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000007812 deficiency Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000010438 heat treatment Methods 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 238000002372 labelling Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000009469 supplementation Effects 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B19/00—Programme-control systems
- G05B19/02—Programme-control systems electric
- G05B19/418—Total factory control, i.e. centrally controlling a plurality of machines, e.g. direct or distributed numerical control [DNC], flexible manufacturing systems [FMS], integrated manufacturing systems [IMS] or computer integrated manufacturing [CIM]
- G05B19/41885—Total factory control, i.e. centrally controlling a plurality of machines, e.g. direct or distributed numerical control [DNC], flexible manufacturing systems [FMS], integrated manufacturing systems [IMS] or computer integrated manufacturing [CIM] characterised by modeling, simulation of the manufacturing system
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B2219/00—Program-control systems
- G05B2219/30—Nc systems
- G05B2219/32—Operator till task planning
- G05B2219/32339—Object oriented modeling, design, analysis, implementation, simulation language
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/02—Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]
Landscapes
- Engineering & Computer Science (AREA)
- Manufacturing & Machinery (AREA)
- General Engineering & Computer Science (AREA)
- Quality & Reliability (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Automation & Control Theory (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明涉及一种分散处理单元的流数据二维处理方法,所述方法从流数据的长度和宽度等两个维度出发,对流数据进行标识、存贮、读取和传输,所述方法基于分散处理单元进行,使得工业控制领域普遍应用的分散处理单元在常用的逻辑计算能力之外获得流数据的二维处理能力,为分散处理单元的在线建模和修正,以及基于模型的预测控制或者有约束的优化控制等提供技术支撑,使得平行控制可以基于分散处理单元部署并且展开。本发明涉的一种分散处理单元的流数据二维处理方法,分散处理单元的流计算具备了流数据支持,进而使得分散处理单元能够具有基于流计算的建模和在线校验能力,进而为基于模型的预测控制或者有约束的优化控制等提供技术支撑。
Description
技术领域
本发明涉及自动控制技术领域,具体涉及一种分散处理单元流数据的二维处理方法。
背景技术
在自动控制领域广泛使用的分散处理单元在处理数据采集、标度变换、报警限值检查、操作记录与顺序事件记录、逻辑控制等方面能力较强,但是普遍缺少流数据的计算能力,即对宽载的、具有流特征的数据缺少处理和分析能力,而只能对单载的即时时间端面的数据进行处理,所实施的计算大部分限于逻辑计算,即分散处理单元逻辑组态的模块之间只能批量地传递单个的模拟量或者开关量或者以模拟量形式表达的多个开关量等,不能读写、传递、计算流数据。
随着平行仿真和平行控制等智慧能源的平台方法在自控领域的深入应用,在成熟并且应用丰富的分散处理单元上面拓展流数据的处理和计算能力,一方面使得平行仿真与控制可以充分利用分散处理单元的优势,另一方面使得智慧能源平台的应用与自动控制相结合,成为融合的、在线的智能应用,例如基于燃煤电站材料老化条件下发电效率和发电设备寿命竞争的控制优化策略,则是流计算和逻辑计算的综合应用,具备流计算能力的分散控制单元既能实施发电效率和发电设备寿命竞争的流计算分析,也能实施竞争性的控制优化。
以现有的分散处理单元架构来看,实现流计算存在以下问题:
第一,分散处理单元的数据IO通道缺少流数据的读取与存储能力,对数据进行实时存贮时采用的是时间断面的模式,将流数据分解为每个时间断点上的数值,以时间断点为坐标统一存贮所有数据,不能读取或者存贮流数据;专利《过程控制历史数据文件结构的建立方法和数据读写方法》(申请号CN200910197024.X,公开号CN102043795A)公开的一种过程控制历史数据文件结构的建立方法即存在此不足。
第二,分散处理单元的数据传输通道缺少宽载能力,在逻辑组态的模块之间通过连线所表达的只有模拟量和开关量两种基本类型,以及利用模拟量来表达多个开关量的一种特殊的拓展类型,不能表达流数据;专利《实时数据在线压缩与解压缩方法》(申请号CN200310108294.1,公开号CN1612252A)公开的一种过程控制系统中实时数据在线压缩与解压缩方法及相应的文件结构即存在该不足;
在逻辑计算能力的基础上拓展流计算能力,分散处理单元需要从标识、存储、取值与传输等方面进行功能扩充,使得分散处理单元兼容流数据的处理能力。本发明所阐述的方法可以使得分散处理单元在逻辑计算框架上具备流数据处理的能力,使得仅具备逻辑计算能力的分散处理单元具有基于流数据的建模能力,从而用于智慧平台平行仿真与平行控制的场合;本发明所阐述的方法也可以使得分散处理单元为流计算单独使用而不含逻辑计算的功能,从原理上讲和兼容流计算和逻辑计算能力的分散处理单元是一样的。
发明内容
本发明要解决的技术问题是,提供一种分散处理单元流数据的二维处理方法,从流数据的长度和宽度等两个维度出发,对流数据进行标识、存贮、读取和传输。本发明基于分散处理单元进行,使得工业控制领域普遍应用的分散处理单元在常用的逻辑计算能力之外获得流数据的二维处理能力,为分散处理单元的在线建模和修正,以及基于模型的预测控制或者有约束的优化控制等提供技术支撑,使得平行控制可以基于分散处理单元部署并且展开。
为解决上述技术问题,本发明提供的技术方案为:
一种分散处理单元的流数据二维处理方法,所述方法从流数据的长度和宽度等两个维度出发,对流数据进行标识、存贮、读取和传输,所述方法基于分散处理单元进行,使得工业控制领域普遍应用的分散处理单元在常用的逻辑计算能力之外获得流数据的二维处理能力,为分散处理单元的在线建模和修正,以及基于模型的预测控制或者有约束的优化控制等提供技术支撑,使得平行控制可以基于分散处理单元部署并且展开;
所述方法包括以下具体步骤:
1)为需要纳入流数据的测点给出专用标识:所述标识为分散处理单元通用点表的一个特征字段,在所有的分散处理单元及其网络中通用,所述字段不超过3个字符,具有标识的唯一性,拥有该特征字段的测点自动归类为一个数据流,所述分散处理单元的通用点表能够实时修改实时生效;
2)为流数据设置特征值算法以及特征值判断依据:所述特征值为流数据宽度方向的数值特征的统计值,所述特征值算法为统计值的计算方法,特征值的计算为实时逻辑计算,当流数据需要进入存储环节时特征值成为流数据的一个组成部分,所述特征值判断依据是利用流数据特征值进行流数据价值判断的依据,当流数据特征值满足所述判据时,流数据被认为具有存储的价值,并且可被实时或者后续调取,构建流计算;
3)为流数据创建存储空间并且写入:首先根据所定义的流数据分别建立头文件,头文件中包含了对应流数据的全部索引,头文件丢失或者篡改会导致流数据的索引丢失;头文件可以更新;根据头文件的索引,满足特征值判据的流数据被写入存储空间,写入过程是实时的、批量性的;写入的数据具有时标,所述存储空间为内存空间或者磁盘空间,当存储空间为内存空间时,受限于预设的内存空间大小,流数据保持一定的长度,旧的数据被自动剔除;当存储空间为磁盘空间时,流数据理论上为受限于磁盘空间的无限长;
4)取值并且传输流数据:针对磁盘文件方式,流数据的取值为磁盘文件读入过程,流数据的读入为从磁盘空间读入流数据并且置入内存空间;针对内存空间方式,流数据的取值为内存参数的指针赋值,取值的批次和大小受限于预设的内存空间大小,流数据按照一定的长度读入。
作为改进,所述方法适用于专门进行历史记录的历史站和工程师站或者有需要的操作员站。
作为改进,所述方法基于分散处理单元进行,对分散处理单元已经具备的逻辑计算能力不做修改,所述流数据的二维处理方法对逻辑计算能力没有影响,基于流数据开展的流计算与逻辑计算相互结合。
作为改进,建立所述流数据的处理能力之后,即可开展流计算的部署和应用。
采用以上结构后,本发明具有如下优点:
通过本发明对流数据进行长度和宽度二维处理,使得分散处理单元的流计算具备了流数据支持,进而使得分散处理单元能够具有基于流计算的建模和在线校验能力,进而为基于模型的预测控制或者有约束的优化控制等提供技术支撑,使得平行控制可以基于分散处理单元部署并且展开。
附图说明
图1是本发明实施例提供的流数据存储过程的流程示意图;
图2是本发明实施例提供的流数据存储文件的格式示意图。
具体实施方式
下面结合附图对本发明做进一步的详细说明。
结合附图1-2,一种分散处理单元的流数据二维处理方法,所述方法从流数据的长度和宽度等两个维度出发,对流数据进行标识、存贮、读取和传输,所述方法基于分散处理单元进行,使得工业控制领域普遍应用的分散处理单元在常用的逻辑计算能力之外获得流数据的二维处理能力,为分散处理单元的在线建模和修正,以及基于模型的预测控制或者有约束的优化控制等提供技术支撑,使得平行控制可以基于分散处理单元部署并且展开;
所述方法包括以下具体步骤:
1)为需要纳入流数据的测点给出专用标识:所述标识为分散处理单元通用点表的一个特征字段,在所有的分散处理单元及其网络中通用,所述字段不超过3个字符,具有标识的唯一性,拥有该特征字段的测点自动归类为一个数据流,所述分散处理单元的通用点表能够实时修改实时生效;
2)为流数据设置特征值算法以及特征值判断依据:所述特征值为流数据宽度方向的数值特征的统计值,所述特征值算法为统计值的计算方法,特征值的计算为实时逻辑计算,当流数据需要进入存储环节时特征值成为流数据的一个组成部分,所述特征值判断依据是利用流数据特征值进行流数据价值判断的依据,当流数据特征值满足所述判据时,流数据被认为具有存储的价值,并且可被实时或者后续调取,构建流计算;
3)为流数据创建存储空间并且写入:首先根据所定义的流数据分别建立头文件,头文件中包含了对应流数据的全部索引,头文件丢失或者篡改会导致流数据的索引丢失;头文件可以更新;根据头文件的索引,满足特征值判据的流数据被写入存储空间,写入过程是实时的、批量性的;写入的数据具有时标,所述存储空间为内存空间或者磁盘空间,当存储空间为内存空间时,受限于预设的内存空间大小,流数据保持一定的长度,旧的数据被自动剔除;当存储空间为磁盘空间时,流数据理论上为受限于磁盘空间的无限长;
4)取值并且传输流数据:针对磁盘文件方式,流数据的取值为磁盘文件读入过程,流数据的读入为从磁盘空间读入流数据并且置入内存空间;针对内存空间方式,流数据的取值为内存参数的指针赋值,取值的批次和大小受限于预设的内存空间大小,流数据按照一定的长度读入。
所述方法适用于专门进行历史记录的历史站和工程师站或者有需要的操作员站。
所述方法基于分散处理单元进行,对分散处理单元已经具备的逻辑计算能力不做修改,所述流数据的二维处理方法对逻辑计算能力没有影响,基于流数据开展的流计算与逻辑计算相互结合。
建立所述流数据的处理能力之后,即可开展流计算的部署和应用。
本发明在具体实施时,从流数据的长度和宽度等两个维度出发,对流数据进行标识、存贮、读取和传输。本发明基于分散处理单元进行,使得工业控制领域普遍应用的分散处理单元在常用的逻辑计算能力之外获得流数据的二维处理能力,为分散处理单元的在线建模和修正,以及基于模型的预测控制或者有约束的优化控制等提供技术支撑,使得平行控制可以基于分散处理单元部署并且展开。
所述流数据的长度是指流数据在时间维度上的度量,流数据具有时间标戳,时间标戳是分割流数据长度的唯一标记,在本发明的定义中,时间标戳为唯一而非连续的。所述唯一是指时间标戳的墙上时刻是唯一的;所述非连续是指流数据的时间标戳并非按照严格的墙上时间间隔,而是根据流计算等实际应用的特征进行了筛选。
所述流数据的宽度是指流数据在空间维度上的度量,流数据具有空间标戳,空间标戳是分割流数据宽度的唯一标记,在本发明的定义中,空间标戳是唯一且连续的。所述连续是指流数据的空间标戳根据实际应用对象的定义而依序排列,并且其空间上的相邻数据也被严格标戳,并且具有唯一性。
所述流数据两个维度的处理是指依照长度和宽度等两个维度对流数据进行标识、存储、取值与传输。所述标识是指在分散处理单元中对流数据进行特征字段标注,所述存储是指将流数据从分散处理单元的输出通道存放到本地或者网络的内存或者磁盘文件中,所述取值是指将流数据从内存或者磁盘文件中读入到分散处理单元的输入通道中,所述传输是指在分散处理单元的全局数据库中进行流数据的页间传递、网间传递、并行传递等。所述页间是指分散处理单元的组态页面之间,所述网间是指分散处理单元的全局数据网络之间,所谓并行是指并列运行的分散处理单元之间,分散处理单元的并行不是指同时运行的多个独立的分散处理单元,也不是指同步运行的多个冗余分散处理单元,而是指进行了并行计算部署的多个分散处理单元。
通过以下技术方案来实施:
第一步,为需要纳入流数据的测点给出专用标识。所述标识为分散处理单元通用点表的一个特征字段,在所有的分散处理单元及其网络中通用,所述字段通常不超过3个字符,具有标识的唯一性,即拥有该特征字段的测点自动归类为一个数据流。所述分散处理单元的通用点表一般能够实时修改实时生效,否则需要离线修改完成后重启分散处理单元及其网络。
第二步,为流数据设置特征值算法以及特征值判断依据。所述特征值为流数据宽度方向的数值特征的统计值,亦即流数据空间上的数值特征的统计值,所述特征值算法为统计值的计算方法,特征值的计算为实时逻辑计算,当流数据需要进入存储环节时特征值成为流数据的一个组成部分。所述特征值判断依据是指利用流数据特征值进行流数据价值判断的依据,当流数据特征值满足所述判据时,流数据被认为具有存储的价值,并且可被实时或者后续调取,构建流计算。
第三步,为流数据创建存储空间并且写入。首先根据所定义的流数据分别建立头文件,头文件中包含了对应流数据的全部索引,头文件丢失或者篡改会导致流数据的索引丢失;头文件可以更新;根据头文件的索引,满足特征值判据的流数据被写入存储空间,写入过程是实时的、批量性的;写入的数据具有时标。所述存储空间为内存空间或者磁盘空间,当存储空间为内存空间时,受限于预设的内存空间大小,流数据保持一定的长度,旧的数据被自动剔除;当存储空间为磁盘空间时,流数据理论上为受限于磁盘空间的无限长。
第四步,取值并且传输流数据。针对磁盘文件方式,流数据的取值为磁盘文件读入过程,流数据的读入为从磁盘空间读入流数据并且置入内存空间。针对内存空间方式,流数据的取值为内存参数的指针赋值。取值的批次和大小受限于预设的内存空间大小,流数据按照一定的长度读入。
本发明适用于专门进行历史记录的历史站,也可以用于工程师站或者有需要的操作员站。所述历史站、工程师站、操作员站已有公认的定义,此不赘述。
本发明基于分散处理单元进行,分散处理单元定义如通用点表、KKS编码、Tag名(测点名)、特征字段、全局数据库等已有公认的定义,以及分散处理单元的数据广播、扫描计算等过程已有公认的描述,均为本发明的先验知识,此不赘述。
本发明基于分散处理单元进行,对分散处理单元已经具备的逻辑计算能力不做修改,所述流数据的二维处理方法对逻辑计算能力没有影响,基于流数据开展的流计算与逻辑计算相互结合。
本发明不区分单个独立的分散处理单元或者多个并行的分散处理单元,也不区分本地应用或者网络应用,不过如果本发明应用于并行环境或者网络应用,需要在网络广播包中为流数据类型定义流数据缓冲,方法与公认的网络广播包的定义并无特殊的不同,此不赘述。
本发明的实施例包括流数据标识、存取(存储与取值)、传输等内容,图1是为本发明实施例提供的流数据存储过程的流程示意图,包含了存储的内容,标识、取值与传输的内容通过文字说明;图2是为本发明实施例提供的流数据存储文件的格式示意图,是图1的补充说明。
以下说明流数据的标识方法:
流数据的标识包括流数据长度维度上的标识和流数据宽度维度上的标识,流数据的标识主要是指流数据宽度维度上的标识,更明确的,是指分散处理单元全局数据库中归属于特定流数据的测点的特定标识。所述特定流数据是指被纳入分析的一组测点,例如燃煤电站材料老化条件下跟某个发电设备某个区段寿命相关的一组测点,所述特定标识是指给这一组测点的每个测点定义特征字段。所述特征字段是指全局数据库中每个测点都具备的特定字段,在所有的分散处理单元及其网络中通用,所述特定字段通常不超过3个字符,具有标识的唯一性,即拥有该特征字段的测点自动归类为一个数据流。所述分散处理单元的通用点表一般能够实时修改实时生效,否则需要离线修改完成后重启分散处理单元及其网络。
特征字段通常以XYZ的样式表达,以前例说明,其中X为某发电设备代号,以设备英文的首字母表达,Y为某区段代号,以英文字母依序表达,从A到Z共计代表26个区段,Z为流数据复用标志,可以为0~9、A~Z中任意一个,当Z为0时,该测点不复用,否则可复用。例如SD0特征字段代表过热器第D段所有的管壁温度并且不被复用,若该流数据中的某个管壁温度的特征字段被标识为SD1,它同样归属于过热器第D段所有的管壁温度这个流数据,但是也可以被其他流数据复用,归属于一个新的流数据,这个新的流数据的典型特征是所有测点特征字段的末尾均为数字1。
分散处理单元以两种形式归纳流数据,一种方式依据XYw,以XY为标识而无论w,这是主要的归纳方式;另一种方式依据wwZ,以Z为标识而无论ww,这是辅助的归纳方式。所述标识方法使得测点具有复用性,这种复用性使得本发明在归纳流数据时具有更大的灵活性,例如前例中主要以过热器受热面为对象进行流数据归纳,在某些特殊区域如折焰角处等还需要以折焰角的整个覆盖面为对象进行流数据归纳。
以下结合图1说明流数据存储过程的流程:
步骤110,头文件检查。所述检查是针对每一个流数据进行的,不同的流数据具有不同的头文件,每一个头文件和该流数据所有的数据文件在单独的内存空间或者磁盘目录里面。所述检查是在分散处理单元启动初期进行的,也可以在分散处理单元运行的时候重新进行,头文件检查不仅包括文件存在性检查,也包括文件语法合法性检查,当文件语法不合法或者不存在时转向步骤111完成头文件的修正或者新建;无论流数据的存储是在内存区域还是磁盘文件,头文件均为一块专属空间,并且可以写入磁盘文件。
步骤120,数据文件存在性检查。当数据文件不存在时转向步骤121完成数据文件的新建,如前所述流数据的存储空间可为内存空间或者磁盘空间,当存储空间为内存空间时,受限于预设的内存空间大小,流数据保持一定的长度,旧的数据被自动剔除;当存储空间为磁盘空间时,流数据理论上为受限于磁盘空间的无限长度。
步骤130,流数据的宽度检查。所述流数据的宽度是指流数据在空间维度上的度量,所述流数据宽度检查是指对流数据在空间维度上的度量是否变化进行检查。流数据具有空间标戳,空间标戳是分割流数据宽度的唯一标记,在本发明的定义中,空间标戳是唯一且连续的,所述连续是指流数据的空间标戳根据实际应用对象的定义而依序排列,并且其空间上的相邻数据也被严格标戳。当流数据宽度发生改变时,转向步骤131进行头文件的尾添工作,所述尾添是指流数据中增加的测点信息被添置在头文件流索引的最后。流数据一般不发生测点的减少,如果发生,则头文件保持不变。
步骤140,流数据的获取。所述获取是指从分散处理单元实时数据网络中,通过广播包的侦听,以流数据所包含的测点为单位获取实时数据,此为现有技术,不再赘述。特别地,由于测点复用的存在,流数据的获取存在同一个测点多次被获取的情形,优选地,可以通过一次获取多次分配来提高这个获取效率。
步骤150,流数据的特征值计算。所述特征值为流数据数值特征的统计值,是以流数据宽度为维度的,亦即流数据空间上的数值特征的统计值,所述特征值计算为统计值的计算方法,为实时逻辑计算,当流数据需要进入存储环节时特征值成为流数据的一个组成部分,当流数据不需要进入存储环节时所计算的特征值自动被抛弃。
步骤160,流数据的特征值判据判断。所述特征值判据是指利用流数据特征值进行流数据价值判断的依据,当流数据特征值满足所述判据时,流数据被认为具有存储的价值,并且可被实时或者后续调取,构建流计算。所述特征值判据判断是指这个判断过程,如果不满足,则转入步骤140继续获取流数据,没有进入存储空间的流数据自动被抛弃。优选地,分散处理单元相关的历史记录软件记录了这些流数据以及前述相关的特征值,当后续流计算需要补充这些数。
本发明建立流数据的处理能力之后,即可开展流计算的部署和应用,该内容不在本发明的范围内。
以上对本发明及其实施方式进行了描述,这种描述没有限制性,附图中所示的也只是本发明的实施方式之一,实际的结构并不局限于此。总而言之如果本领域的普通技术人员受其启示,在不脱离本发明创造宗旨的情况下,不经创造性的设计出与该技术方案相似的结构方式及实施例,均应属于本发明的保护范围。
Claims (4)
1.一种分散处理单元的流数据二维处理方法,其特征在于,所述方法包括以下具体步骤:
1)为需要纳入流数据的测点给出专用标识:所述标识为分散处理单元通用点表的一个特征字段,在所有的分散处理单元及其网络中通用,所述字段不超过3个字符,具有标识的唯一性,拥有该特征字段的测点自动归类为一个数据流,所述分散处理单元的通用点表能够实时修改实时生效;
2)为流数据设置特征值算法以及特征值判断依据:所述特征值为流数据宽度方向的数值特征的统计值,所述特征值算法为统计值的计算方法,特征值的计算为实时逻辑计算,当流数据需要进入存储环节时特征值成为流数据的一个组成部分,所述特征值判断依据是利用流数据特征值进行流数据价值判断的依据,当流数据特征值满足所述判据时,流数据被认为具有存储的价值,并且可被实时或者后续调取,构建流计算;
3)为流数据创建存储空间并且写入:首先根据所定义的流数据分别建立头文件,头文件中包含了对应流数据的全部索引,头文件丢失或者篡改会导致流数据的索引丢失;头文件可以更新;根据头文件的索引,满足特征值判据的流数据被写入存储空间,写入过程是实时的、批量性的;写入的数据具有时标,所述存储空间为内存空间或者磁盘空间,当存储空间为内存空间时,受限于预设的内存空间大小,流数据保持一定的长度,旧的数据被自动剔除;当存储空间为磁盘空间时,流数据理论上为受限于磁盘空间的无限长;
4)取值并且传输流数据:针对磁盘文件方式,流数据的取值为磁盘文件读入过程,流数据的读入为从磁盘空间读入流数据并且置入内存空间;针对内存空间方式,流数据的取值为内存参数的指针赋值,取值的批次和大小受限于预设的内存空间大小,流数据按照一定的长度读入。
2.根据权利要求1所述的一种分散处理单元的流数据二维处理方法,其特征在于:所述方法适用于专门进行历史记录的历史站和工程师站或者有需要的操作员站。
3.根据权利要求1所述的一种分散处理单元的流数据二维处理方法,其特征在于:所述方法基于分散处理单元进行,对分散处理单元已经具备的逻辑计算能力不做修改,所述流数据的二维处理方法对逻辑计算能力没有影响,基于流数据开展的流计算与逻辑计算相互结合。
4.根据权利要求1所述的一种分散处理单元的流数据二维处理方法,其特征在于:建立所述流数据的处理能力之后,即可开展流计算的部署和应用。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911203248.7A CN110825061B (zh) | 2019-11-29 | 2019-11-29 | 一种分散处理单元的流数据二维处理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911203248.7A CN110825061B (zh) | 2019-11-29 | 2019-11-29 | 一种分散处理单元的流数据二维处理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110825061A true CN110825061A (zh) | 2020-02-21 |
CN110825061B CN110825061B (zh) | 2023-08-11 |
Family
ID=69543310
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911203248.7A Active CN110825061B (zh) | 2019-11-29 | 2019-11-29 | 一种分散处理单元的流数据二维处理方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110825061B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111427690A (zh) * | 2020-03-25 | 2020-07-17 | 杭州意能电力技术有限公司 | 分散处理单元并行计算方法 |
Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5701473A (en) * | 1995-03-17 | 1997-12-23 | Unisys Corporation | System for optimally storing a data file for enhanced query processing |
US6643654B1 (en) * | 2001-06-25 | 2003-11-04 | Network Appliance, Inc. | System and method for representing named data streams within an on-disk structure of a file system |
US20040101281A1 (en) * | 2000-10-16 | 2004-05-27 | Serge Defrance | Method and device for storing stream data such as digital video and non-stream data |
CN101150505A (zh) * | 2007-07-31 | 2008-03-26 | 杭州华三通信技术有限公司 | 通过网络地址转换转发数据流的方法和装置 |
JP2011128818A (ja) * | 2009-12-16 | 2011-06-30 | Hitachi Ltd | ストリームデータ処理装置及び方法 |
CN102646130A (zh) * | 2012-03-12 | 2012-08-22 | 华中科技大学 | 一种海量历史数据的存储及索引方法 |
CN102968422A (zh) * | 2011-08-31 | 2013-03-13 | 中国航天科工集团第二研究院七○六所 | 流数据存储控制系统及其方法 |
US20130318031A1 (en) * | 2012-05-22 | 2013-11-28 | Jaskaran Singh Bawa | Distributed processing of streaming data records |
US9715434B1 (en) * | 2011-09-30 | 2017-07-25 | EMC IP Holding Company LLC | System and method for estimating storage space needed to store data migrated from a source storage to a target storage |
CN109255523A (zh) * | 2018-08-16 | 2019-01-22 | 北京奥技异科技发展有限公司 | 基于kks编码规则和大数据架构的分析指标计算平台 |
US20190171617A1 (en) * | 2016-06-28 | 2019-06-06 | Anditi Pty, Ltd. | Method and system for flexible, high performance structured data processing |
-
2019
- 2019-11-29 CN CN201911203248.7A patent/CN110825061B/zh active Active
Patent Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5701473A (en) * | 1995-03-17 | 1997-12-23 | Unisys Corporation | System for optimally storing a data file for enhanced query processing |
US20040101281A1 (en) * | 2000-10-16 | 2004-05-27 | Serge Defrance | Method and device for storing stream data such as digital video and non-stream data |
US6643654B1 (en) * | 2001-06-25 | 2003-11-04 | Network Appliance, Inc. | System and method for representing named data streams within an on-disk structure of a file system |
CN101150505A (zh) * | 2007-07-31 | 2008-03-26 | 杭州华三通信技术有限公司 | 通过网络地址转换转发数据流的方法和装置 |
JP2011128818A (ja) * | 2009-12-16 | 2011-06-30 | Hitachi Ltd | ストリームデータ処理装置及び方法 |
CN102968422A (zh) * | 2011-08-31 | 2013-03-13 | 中国航天科工集团第二研究院七○六所 | 流数据存储控制系统及其方法 |
US9715434B1 (en) * | 2011-09-30 | 2017-07-25 | EMC IP Holding Company LLC | System and method for estimating storage space needed to store data migrated from a source storage to a target storage |
CN102646130A (zh) * | 2012-03-12 | 2012-08-22 | 华中科技大学 | 一种海量历史数据的存储及索引方法 |
US20130318031A1 (en) * | 2012-05-22 | 2013-11-28 | Jaskaran Singh Bawa | Distributed processing of streaming data records |
US20190171617A1 (en) * | 2016-06-28 | 2019-06-06 | Anditi Pty, Ltd. | Method and system for flexible, high performance structured data processing |
CN109255523A (zh) * | 2018-08-16 | 2019-01-22 | 北京奥技异科技发展有限公司 | 基于kks编码规则和大数据架构的分析指标计算平台 |
Non-Patent Citations (5)
Title |
---|
ANNIE ANAK JOSEPH: "a fast incremental kernel principal component analysis for data streams", pages 1 - 16 * |
史英杰 等: "一种实时数据库备份恢复方法" * |
史英杰;王远;朱恒;粟勇;: "一种实时数据库备份恢复方法", 计算机应用, no. 1, pages 54 - 57 * |
李玲玲 等: "基于流数据的网络监控系统设计" * |
李玲玲;辛浩;: "基于流数据的网络监控系统设计", 重庆科技学院学报(自然科学版), no. 04, pages 109 - 112 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111427690A (zh) * | 2020-03-25 | 2020-07-17 | 杭州意能电力技术有限公司 | 分散处理单元并行计算方法 |
CN111427690B (zh) * | 2020-03-25 | 2023-04-18 | 杭州意能电力技术有限公司 | 分散处理单元并行计算方法 |
Also Published As
Publication number | Publication date |
---|---|
CN110825061B (zh) | 2023-08-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102541521B (zh) | 基于结构化查询语言的操作指令自动生成装置及方法 | |
CN104598376A (zh) | 一种数据驱动的分层自动化测试系统和方法 | |
CN102426525B (zh) | 一种多应用系统的全景建模方法 | |
CN101694952A (zh) | 由iec61850 scd文件生成嵌入式远动系统装置定义的方法 | |
CN102043719A (zh) | 一种对iec61850配置描述文件进行测试的方法 | |
TW201737113A (zh) | 任務調度方法和裝置 | |
CN111400288A (zh) | 数据质量检查方法及系统 | |
CN101908382B (zh) | 芯片失效的数据分类分析方法及其装置 | |
CN112559475A (zh) | 数据实时捕获和传输方法及系统 | |
CN110825061A (zh) | 一种分散处理单元的流数据二维处理方法 | |
CN110297956A (zh) | 生成产品识别码的方法及系统、计算机存储介质 | |
CN111241055A (zh) | 一种钢铁企业数据中心异构数据的处理系统 | |
CN111190896B (zh) | 数据处理方法、装置、存储介质和计算机设备 | |
CN112559514B (zh) | 一种信息处理方法及系统 | |
CN116843107A (zh) | 一种基于bim技术的建筑信息智能管理系统 | |
CN112527610A (zh) | 设备运作状态的监测方法及装置 | |
CN111026624A (zh) | 电网信息系统的故障预测方法、装置 | |
CN101436156A (zh) | 日志记录装置 | |
CN109143878B (zh) | 多路采集通道的遥信消息和soe消息处理方法 | |
CN114877943A (zh) | 一种基于区块链的生态环境监测装置 | |
KR20230065478A (ko) | 스마트 팩토리를 위한 제조 공정 성과 관리 장치 | |
CN114116252A (zh) | 一种调控系统运行量测数据存储系统及方法 | |
CN102310950B (zh) | 试验智判系统和方法 | |
CN111948998A (zh) | 一种基于双缓冲区的分布式控制器数据库下装结构及方法 | |
CN112799359A (zh) | 基于mes系统的柔性生产线物料配送决策方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |