CN104268695B - 一种多中心流域水环境分布式集群管理系统及方法 - Google Patents
一种多中心流域水环境分布式集群管理系统及方法 Download PDFInfo
- Publication number
- CN104268695B CN104268695B CN201410506093.5A CN201410506093A CN104268695B CN 104268695 B CN104268695 B CN 104268695B CN 201410506093 A CN201410506093 A CN 201410506093A CN 104268695 B CN104268695 B CN 104268695B
- Authority
- CN
- China
- Prior art keywords
- model
- data
- center
- node
- user
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 title claims abstract description 147
- 238000000034 method Methods 0.000 title claims abstract description 66
- 230000000712 assembly Effects 0.000 title claims abstract description 16
- 238000000429 assembly Methods 0.000 title claims abstract description 16
- 238000004088 simulation Methods 0.000 claims abstract description 88
- 238000007726 management method Methods 0.000 claims description 134
- 230000007613 environmental effect Effects 0.000 claims description 60
- 238000004458 analytical method Methods 0.000 claims description 55
- 230000006870 function Effects 0.000 claims description 30
- 238000004364 calculation method Methods 0.000 claims description 26
- 238000013507 mapping Methods 0.000 claims description 24
- 230000008569 process Effects 0.000 claims description 24
- 238000006243 chemical reaction Methods 0.000 claims description 23
- 238000012545 processing Methods 0.000 claims description 23
- 238000001514 detection method Methods 0.000 claims description 21
- 238000012544 monitoring process Methods 0.000 claims description 21
- 238000003860 storage Methods 0.000 claims description 19
- 230000010354 integration Effects 0.000 claims description 15
- 238000013500 data storage Methods 0.000 claims description 12
- 238000005516 engineering process Methods 0.000 claims description 12
- 238000013523 data management Methods 0.000 claims description 11
- 238000000354 decomposition reaction Methods 0.000 claims description 9
- 230000008676 import Effects 0.000 claims description 9
- 238000011022 operating instruction Methods 0.000 claims description 9
- 210000000352 storage cell Anatomy 0.000 claims description 9
- 230000003319 supportive effect Effects 0.000 claims description 9
- 238000011144 upstream manufacturing Methods 0.000 claims description 9
- 238000012795 verification Methods 0.000 claims description 8
- 230000005540 biological transmission Effects 0.000 claims description 7
- 230000000694 effects Effects 0.000 claims description 7
- 238000011156 evaluation Methods 0.000 claims description 7
- 230000000977 initiatory effect Effects 0.000 claims description 6
- 238000005457 optimization Methods 0.000 claims description 6
- 230000000007 visual effect Effects 0.000 claims description 6
- 230000009471 action Effects 0.000 claims description 5
- 241001269238 Data Species 0.000 claims description 4
- 239000000203 mixture Substances 0.000 claims description 4
- 230000004044 response Effects 0.000 claims description 4
- 239000002028 Biomass Substances 0.000 claims description 3
- 230000002159 abnormal effect Effects 0.000 claims description 3
- 230000000903 blocking effect Effects 0.000 claims description 3
- 238000004891 communication Methods 0.000 claims description 3
- 238000011157 data evaluation Methods 0.000 claims description 3
- 238000012217 deletion Methods 0.000 claims description 3
- 230000037430 deletion Effects 0.000 claims description 3
- 238000009826 distribution Methods 0.000 claims description 3
- 230000006855 networking Effects 0.000 claims description 3
- 230000000750 progressive effect Effects 0.000 claims description 3
- 238000011084 recovery Methods 0.000 claims description 3
- 230000001105 regulatory effect Effects 0.000 claims description 3
- 230000008439 repair process Effects 0.000 claims description 3
- 230000001360 synchronised effect Effects 0.000 claims description 3
- 230000007474 system interaction Effects 0.000 claims description 3
- 238000012360 testing method Methods 0.000 claims description 3
- 238000012800 visualization Methods 0.000 claims description 3
- 238000010276 construction Methods 0.000 abstract description 5
- 239000002699 waste material Substances 0.000 abstract description 3
- 230000000875 corresponding effect Effects 0.000 description 19
- 230000002354 daily effect Effects 0.000 description 6
- 238000011161 development Methods 0.000 description 5
- 238000011160 research Methods 0.000 description 4
- 238000004519 manufacturing process Methods 0.000 description 3
- 230000007246 mechanism Effects 0.000 description 3
- 238000010586 diagram Methods 0.000 description 2
- 201000004569 Blindness Diseases 0.000 description 1
- 206010021703 Indifference Diseases 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 238000013499 data model Methods 0.000 description 1
- 230000007812 deficiency Effects 0.000 description 1
- 230000003203 everyday effect Effects 0.000 description 1
- 239000002360 explosive Substances 0.000 description 1
- 238000011835 investigation Methods 0.000 description 1
- 230000002045 lasting effect Effects 0.000 description 1
- 238000013508 migration Methods 0.000 description 1
- 230000005012 migration Effects 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
- 239000002689 soil Substances 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
- 238000013024 troubleshooting Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
- G06Q10/063—Operations research, analysis or management
- G06Q10/0637—Strategic management or analysis, e.g. setting a goal or target of an organisation; Planning actions based on goals; Analysis or evaluation of effectiveness of goals
- G06Q10/06375—Prediction of business process outcome or impact based on a proposed change
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
- G06Q10/063—Operations research, analysis or management
- G06Q10/0639—Performance analysis of employees; Performance analysis of enterprise or organisation operations
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/10—Services
- G06Q50/26—Government or public services
Landscapes
- Business, Economics & Management (AREA)
- Human Resources & Organizations (AREA)
- Engineering & Computer Science (AREA)
- Strategic Management (AREA)
- Educational Administration (AREA)
- Economics (AREA)
- Entrepreneurship & Innovation (AREA)
- Tourism & Hospitality (AREA)
- Development Economics (AREA)
- Marketing (AREA)
- Physics & Mathematics (AREA)
- General Business, Economics & Management (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Game Theory and Decision Science (AREA)
- Operations Research (AREA)
- Quality & Reliability (AREA)
- Primary Health Care (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种多中心流域水环境分布式集群管理系统及方法;本系统构建了不同管理级别和职能级别的系统作业管理中心、数值模拟中心、数据中心、决策指挥中心和客户端业务中心。通过不同中心的分工协作,能整合流域水环境各单位各中心的计算机资源、形成资源池、并针对流域各单位各中心的职能按需提供服务,能克服传统流域模型体系由于串行计算引起的等待时间损耗、流域尺度模拟运算速度慢效率低以及资源重复建设浪费的问题,极大的提高流域水环境模拟的模拟效率、整合全流域的硬件资源和数据资源、实现全流域的水环境的管理、现状评价、未来趋势预测以及突发事件应急模拟与决策支持,保障流域水环境安全。
Description
技术领域
本发明属于流域水环境管理技术领域,涉及一种多中心流域水环境分布式集群管理系统及方法,尤其是涉及一种基于流域水环境数值模型的适用于流域不同管理单位使用的流域水环境动态监控、风险预警评价和突发事件应急响应的管理决策支持系统及管理方法。
背景技术
随着人类获取信息的技术手段不断变化、个人或单位作为个体在网络世界的参与度不断加深,同时加之以云计算、物联网、移动等技术的兴起,人们所获取的数据和有意向发布的数据不断增加,人类已经进入数据大爆炸的全新的大数据时代。随着大数据时代的到来,人类在大数据领域的数据存储、数据管理和数据计算技术也取得了进步;数据存储硬件容量不断得到提升、存储器数据吞吐量增加、网络间数据传输速度加快、并行计算、分布式集群计算以及云计算的出现,使得不应用高性能大型计算机通过pc机的集群共享实现高速运算成为可能。
在大数据领域内,google采用MapReduce并行计算编程模型、BigTable分布式结构化数据存储以及GFS分布式文件系统等核心技术,使得google在面对互联网大容量、多类型、高时效的数据处理中,异军突起;2004年其公开发表了这三大核心技术,同时基于分布式集群计算和并行计算的MPI标准与OPENMP的发展与广泛应用,更进一步促进了分布式并行计算在互联网领域、计算机领域的快速发展;我国互联网和计算机的领军企业阿里巴巴、腾讯、中国移动、华为等相继构建了自身企业级别的集群计算服务体系,向全世界提供优质计算和信息服务。分布式集群计算,通过整合集群内的软硬件资源、构建云中心,在并行计算数据模型的支持下,成为人类在当前和未来以相对低廉的代价满足大数据、大环境的需求的重要手段,这是一套新兴的技术,正处在蓬勃而快速的发展之中。
在流域环境领域,环境问题越来越呈现出大流域、大范围的普遍性问题,流域内上下游左右岸之间的环境联系越来越紧密,单纯从局部探讨环境问题解决环境问题已经无法满足现实的需要。自从人们认识到环境问题的严峻性后,从科学研究、政府行为等方面开展了一系列的工作。随着环境监测管理部门和科学研究者在环境监测上的持续投入,环境监测技术取得了重大的发展且在实际中不断应用;我国各流域相继建立了流域管理机构以及下级环境保护与管理机构,这些机构在流域内布设了大量的自动监测站、开展了一系类的环境研究,流域内获取的环境数据不断增加、人工监测调查的频率不断加大、积累了大量的流域地理地貌、社会经济、气质水文水质等数据;同时,环境监测手段的发展、遥感技术、航拍技术、立体扫描技术等获得的环境数据的种类不断增多、在传统的结构化关系表数据的基础上,流域DEM、遥感影像、图片视频等非结构化数据也呈现出爆炸式的增长;为处理这些数据、各级环境管理部门购置了大量的存储设备和硬件计算设备;并针对不同的环境问题,开发了各种模拟环境中某一或多种环境现象现状、趋势预测的环境数值模型,这些模型包括气象模型、面源污染模型、点源模型、水动力模型、水质水生态模型和突发事件模型等。
无论从硬件资源、数据资源还是计算模型资源上,环境领域已经迎来了大环境数据的时代;但在这样的时代背景下,各级环境管理研究机构仍各自为政、对同一流域的研究管理,上下级机构和不同的研究部门之间缺乏有效地信息共享资源共享机制,数据的重复收集、硬件资源的盲目布设和软件系统的重复开发等现象普遍存在;流域各级部门之间的数据缺乏统一的管理和规范、软件之间缺乏有效合理的接口、硬件设施无法互联共享;给流域的统一管理、共同行动造成了较大的困难。如何合理科学的管理环境领域的大数据并从中分析出有用的信息以进行高速高效的应用,避免数据的重复收集、盲目建设、无效生产和低效利用是解决当前环境大数据的生产问题、共享问题、管理问题以及应用问题的难点和关键。
发明内容
为了解决上述的技术问题,本发明提供了一种多中心流域水环境分布式集群管理系统及方法。
本发明的集群管理系统所采用的技术方案是:一种多中心流域水环境分布式集群管理系统,其特征在于:包括系统作业管理中心、数据分布式集成中心、数值模拟中心、环境决策支持服务中心和客户端业务中心;
所述的系统作业管理中心(简称管理中心,NodeMaster)为集群管理系统的业务分配管理与系统状态评估中心,是进行系统业务部署与作业分配的主节点,使集群管理系统中的服务器和工作站、计算器能协同分工合作,并实时记录接收与可视化展现集群管理系统中运行计算机的工作状态,快速发现定位运行故障、恢复系统正常运行,实现集群管理系统的自动化、智能化业务处理;
所述的数据分布式集成中心(简称数据中心,NodeData)是集群管理系统的数据存储与数据集成模块,实现对水环境风险数据库历史数据的存储管理,基于物联网技术自动或半自动的不断获取、整理自动监测站数据以及人工监测的水文、水质和气象数据;整合不同格式、不同来源和不同性质的环境数据,实现流域数据的分布式集成,为数据计算与分析及客户端业务中心显示提供数据支撑;
所述的数值模拟中心(简称模型中心,NodeModel)是集群管理系统中进行数值模拟计算的中心,包括一套模型条件节点和一套模型应用节点;集成流域水环境模型库,能开展流域气象模型、陆地面源模型、水动力模型、水质模型、水生态模型以及突发事件的水环境数值模型的模拟;所述的数据中心在系统作业管理中心的统一分配下,按照水环境数值模拟的区域分解和功能分解两种任务分解方式实现分布式计算和通讯;实时、快速的开展数据计算工作,为环境决策支持服务中心的环境决策分析提供支撑;
所述的环境决策支持服务中心(简称决策中心,NodeDesign)是面向环境管理部门的环境决策客户端中心,基于数据中心的水环境模拟结果利用客户端业务中心进行可视化展示,以全面的了解流域环境状况和未来趋势;同时在数据中心的智能专家决策知识库的协助下,进行水环境风险决策优化,为环境管理部门提供决策支持服务;
所述的客户端业务中心(简称客户端中心,NodeClient)是面向普通大众的互联客户端中心,对客户端提供环境状态信息、水环境警情信息、风险规避方式与防灾信息的发布以及水环境模拟分析服务;同时设置普通大众报警模块,实时接收、分析、处理与上报客户端用户的警情汇报信息,实现水环境管理的全民参与。
作为优选,所述的系统作业管理中心包括任务分配单元、任务监控单元、故障处理单元、安全管理单元、实时备份单元和结果反馈单元;
所述的安全管理单元用于保证集群管理系统安全运行、阻止非权限用户以及不正常访问用户或恶意用户使用集群管理系统、提交作业、查看修改数据的安全屏障,通过用户名、密码以及秘钥的方式进行双重认证;
所述的任务分配单元用于依据验证用户的指令需要,对集群管理系统中的各节点进行任务分配,是管理与分配模型中心的各功能节点开展业务计算的重要单元;任务分配单元接收到用户的指令后,对指令进行分析,辨别用户要使用的功能,并相应的启动模型中心和数据中心的功能模块;
所述的任务监控单元是系统作业管理中心实时获知模型中心各任务节点运行状态的重要部分;任务监控单元通过两种方式实现对计算节点的任务监控;一种是主动监控,采用心跳检测方案,在节点运行中,任务监控单元读取任务映射关系表中在执行任务的节点,定时向其发送ping,以判断其连接和运行的正常性;一种是被动监控,即心跳报告的模式,计算节点在计算中,定时将自己的运行状态反馈给任务监控单元;任务监控单元在收到节点的反馈信息后,将对应的节点计算机运行状况、运行进展情况生成运行日志,存储在系统作业管理中心的运行日志数据库中;若在主动检测中,收不到目标节点的消息或在被动检测中收到目标节点报告运算错误的消息,任务监控单元在存储其运行日志的同时,激活故障处理单元,开展下一步的故障处理;
所述的故障处理单元用于当故障处理单元激活后,查询分析运行日志,判断故障节点出现运行错误的原因;在主动检测中收不到目标节点的反馈或收到运行错误的被动监测信息,判断该节点与管理中心是否失联或出现程序故障,一方面通知管理员进一步人工检测失联原因与故障问题,另一方面根据与失联节点的最近的运行记录,激活其备份节点,在运行日志记录的情况下,继续运行模型,同时查看映射关系表,找到当前情况下空闲的节点,复制所有有关的输入数据,将其作为该备份节点的备份节点,修改映射关系表;
所述的模型输出检测单元是在任务分配单元分配模拟任务后,对模型的输出结果进行监控的单元,其作用是判断模型输出是否正常、是否有输出,并将结果反馈给任务分配单元,从而协助任务分配单元在需要多个模型进行递进并行运行模式时,实时的启动相关模型;
所述的实时备份单元用于承担系统作业管理中心运行指令、映射关系表以及数值运行日志的备份单元,是为当管理节点出现故障时,能快速重新修复集群管理系统,保障集群管理系统服务更加可靠的安全措施;在管理中心工作中,实时定时将管理中心的所有运行文件备份在管理中心的备份节点上;
所述的结果反馈单元用于根据用户指令、任务映射关系表以及系统运行日志,将用户请求的数据信息或模型模拟计算结果推送至业务客户端进行模拟结果的展示。
作为优选,所述的数据分布式集成中心包括数据存储单元、数据管理单元和模型数据处理单元;
所述的数据存储单元用于存储流域水环境相关的数据,数据存储单元中由连入集群管理系统的不同区域不同部门的数据节点组成、所有数据节点独立运行、资源共享,组成集群管理系统的数据池;数据节点中的数据类型包括用户数据、基础地理数据、社会经济数据、水质数据、水文数据、气象数据、流域整体粗细网格、模型参数以及模型模拟结果数据;所有数据按统一规范要求进行存储。
所述的数据管理单元是提供用户增加、删除、修改、更新数据库的主要数据管理功能单元,除具有常规的数据库的管理功能外,还针对水环境数据的特点,设置有数据校核功能,所有新添加的数据在输入数据库前,均要求人工校核,以确保数据的准确无误;校核过程包括阈值范围分析、趋势分析、对应关系分析;阈值分析是当输入数据超出该阈值范围内时,提示警告信息,并提醒数据管理人员进行数据的校核预处理;趋势分析,则通过输入数据的数值趋势线,查看其一定时间内的数据随时间的变化趋势,若发现错误数据,要进行原始数据的进一步查验校核;对应关系分析则是在GIS地图上显示数据中的测站、入汇口的具体地理位置在整个流域的位置是否准确;
所述的模型数据处理单元有两个基本的功能,一是根据任务分配单元的命令,依据计算范围和计算时间,从数据库提取出满足计算范围和计算时间需要的数据,并传送给模型中心;另一个是接收模型中心传送过来的数据,并转换为数据库文件进行入库存储。
作为优选,所述的模型中心包括模型池,模型池中有两套模型节点,一套是模型条件节点、另一套是模型应用节点;在两套模型节点中包含有不同功能的数值模型,模型条件节点是针对全流域模拟需求而设定的模拟节点,由气象模型、陆地面源模型、水动力模型、水质模型和水生态模型组成;模型应用节点由水动力模型、水质模型、水生态模型和突发事件模型组成;每套模型对应有固定的子节点,且在模型子节点开展作业时,预设一套进行功能和数据备份的临时备份节点;模型条件节点主要的功能是实现对流域整体的水环境模拟,从而为模型应用节点提供模型需要的气象条件、面源入汇条件和水动力水质边界条件,具有定时业务化运行方式和用户请求运行方式;模型应用节点是针对用户局部精细模拟需求,解决实际应用问题而设置的模型节点,其运行方式由用户需求决定;模型条件节点和模型应用节点之间不直接进行数据交换和文件共享,模型条件节点的结果数据通过数据中心存储,在模型应用节点需要的时候,输入模型应用节点对应的文件中;两套模型节点的模型均采用递进并行启动模式,启动后的模型控制采用分段控制运行方式进行。
作为优选,所述的递进并行启动模式,该模式是一种在时间上存在一定的间隔,不是同时启动所有模型的并行方式,这种方式考虑到模型之间的耦合关系,模型之间常存在一种模型的输出结果将作为另一类模型的边界而存在,因此通过一定的时间差分别递进的启动模型,以减少整个系统的等待时间提高整体运行效率的并行方式;气象模型为陆地面源模型、水动力模型、水质模型、水生态模型以及突发事件模型提供气象边界,面源模型为水动力模型提供流量入汇条件,为水质模型提供水质入汇条件,为水生态模型提供生物量入汇条件;水动力模型的模拟结果则为水质模型与水生态模型和突发事件模型提供水动力条件;因此在分布式并行中,让提供边界条件的模型(这里称为条件模型)先运行,而需要读取边界模型的边界结果的模型(这里称为需求模型)的则等待其执行,在边界模型按照输出规则输出一定时间段内的结果并经数据中心转换输入到需求模型后,数据中心将完成情况反馈给任务分配单元,任务分配单元将任务分配给需求模型,需求模型启动读取该更新结果进行运行,依次类推完成所有模型节点的启动;需求模型启动后采用分时控制运行方式进行运行,最终模型中心的所有模型形成稳定的递进关系,达到所有模型并行执行的效果;在分布式并行运行中,各模型独立运行,需求模型与条件模型的数据关系按照分段控制运行方式控制。
作为优选,所述的分段控制运行方式,是模型在递进并行启动后的并行控制方式;由于条件模型和需求模型同步运行,设定所有模型的模拟结果在每隔同一个输出时间步长?t输出模拟结果,因此相对于条件模型,需求模型在启动后,内部的条件检测模块在新的模拟步长开始前需不断地检测条件模型的输出结果是否已经过NodeData中心转换输入到自身的输入文件夹中,以支持其运行;条件模型输出0~t1的模拟结果,立即将结果整合推送至NodeData中心,NodeData中心读取条件模型的结果,并同步将其转换为需求模型需要的格式输入需求模型分节点及其备份节点;同时通知任务分配中心启动需求模型,条件模型和需求模型两者并行运行;条件模型继续运行,不停的输出结果、整合结果推送至NodeData,NodeData将其转换为需求模型需要的数据格式;当需求模型的所有分块节点完成0~t1段的模拟后,其输出0~t1时段的模拟结果同时整合该结果推送至NodeData,NodeData判断该需求模型是否为正在运行的其余模型的条件模型,若是则将其结果转换输入到需求模型的需求模型,若不是,则只执行入库操作;同时,需求模型准备进行t1+?t段的模拟;此时先向自身的输入文件夹中,检测NodeData是否已将条件模型的t1+?t段的模拟结果转换为自身运行的输入文件,若检测到已存在t1+?t段的模拟结果条件,则读取该结果条件文件继续执行;若未检测到输出结果,则所有参与需求模型运算的节点的主体模拟程序挂起等待,直到检测到条件模型运行的t2时刻输出t1+?t段的模拟结果以及转换至自身的输入文件夹,当需求模型的所有节点均读取完输入条件后,全部停止等待继续执行需求模型中的主体模拟;如此反复进行,直到所有节点完成模拟后输出结果,模型运行过程中的输出符合模型任务备份的规定。
作为优选,所述的模拟结果整合,模型输出后按照各节点所对应的分块的逻辑关系,进行结果整合,将分块结果按时间段整合成一系列与时间相关的整体模拟结果文件,发送至数据中心,存储在用户的当前业务数据库中。
作为优选,所述的模型任务备份与故障处理,参与运算的工作机都有一个备份机,对应的工作机上的所有节点在备份机上都有相同的设置;在作业中都有一个备份节点,作业节点t和备份节点b存储的原始数据完全一致;当作业节点工作运行输出时,同时输出两套模拟结果,一套输入到作业节点的结果文件夹,另一套输入备份节点文件夹,并对应的将模型运行心跳记录输入到运行日志中,以供NodeMaster的故障检测单元检测;若故障检测单元检测到作业节点t的故障后,NodeMaster查找模型中心所有集群计算机的工作状态,从中选择一台机器作为原备份节点b的备份节点bb,并将b中所有作业数据复制到bb,修改任务映射表,并立即启动备份节点b;备份节点b转换为任务节点,根据日志中所记载的模拟进度、读取原作业节点t的条件模型的输出数据从故障出现的时刻启动运行。
作为优选,所述的客户端业务中心是用户与集群管理系统互动的主要纽带,包括用户验证模块、用户需求指令分析与发送模块和服务端推送信息展示模块;
所述的用户验证模块用于集群管理系统对用户身份的验证,验证方式会根据用户类型的不同而采用不同的验证方式;普通客户采用用户名和密码验证,在任何可联网的客户端均可操作;专业用户采用用户名和密码登陆验证以及客户端机器物理地址的双重验证方式,专业用户包括技术人员、管理人员和政府职能人员,其在使用专业用户账号登陆时,必须使用在管理中心注册过的客户端上进行;
所述的用户需求指令分析与发送模块用于客户端通过用户在可视化平台的操作记录用户需求、并实时的将用户需求生成用户指令发送至作业管理中心;用户指令包括环境信息显示需求、数值模拟计算需求、数据库操作需求以及系统管理需求;
所述的服务端推送信息展示模块用于客户端接收其余中心对所推送的用户需求指令的响应计算结果,用图、表、动画形式向用户展现。
本发明的方法所采用的技术方案是:一种多中心流域水环境管理的方法,其特征在于:根据用户的需求和环境管理需要包括集群业务化运行和用户按需运行两种方式;
1.所述的集群业务化运行方式,
集群管理系统具有对全流域智能化流线化的环境监控管理和数值模拟分析功能;管理中心每天定时自动启动任务管理单元的业务化运行指令,任务管理单元向模型中心的模型条件节点发布业务运行指令,开展全流域的气象、水文、水动力、水质和水生态模拟,业务化模拟的时长为以当前时刻至未来24小时,模拟数据存储在数据中心的流域模型数据集中,主要包括以下步骤:
步骤A1:数据库按时收集各测站数据,并从网上抓取气象数据,以保证数据中心数据的最新;集群管理系统的作业管理中心在到达设定的自动模拟时间的时刻,开启定时业务化模拟,由任务管理单元向模型中心的条件节点和数据中心下达作业命令;
步骤A2:数据中心接收到业务化运行命令,在数据中心建立最新任务的数据集,命名为jobt_time,并读取最新的气象数据和流域上下游边界条件的水动力与水质数据,发送给条件节点;
步骤A3:条件节点在接收到作业管理中心的命令后,在条件节点下的气象模型子节点、陆地面源模型子节点、水动力水质水生态五套模型子节点分别拷贝一份模型需要的原始数据集,并命名为jobt_time;如此时已经收到数据中心发送的数据,则对数据进行转换,存入参与计算的各模型节点中;
步骤A4:条件节点启动各子节点进行模型计算,计算时间为当前时刻至未来24小时,条件节点启动模型符合并行启动模式;各模型在运行过程中按分段控制运行方式进行控制;
步骤A5:各模型按时输出结果,并推送至数据中心入库存储;
2.所述的用户按需运行方式,
集群管理系统能满足用户不同范围不同尺度不同时长的流域内局部精细模拟需要,以解决流域水环境管理中的实际应用文体,主要包括以下步骤:
步骤B1:用户通过客户端中心登录集群管理系统、客户端中心将用户输入的登录信息发送至管理中心、请求登陆验证;
步骤B2:管理中心接收到用户请求,启动安全管理单元;安全管理单元根据用户名和专业用户客户端的机器物理地址进入存储用户信息的动态目录验证用户,查看用户所属类别,用户客户端机器授权类别,判断是否非法请求,如是则拒绝用户请求;若不是,则通过验证,并生成用户使用访问服务器的许可文件TaskAcc反馈给客户端中心、TaskAcc文件包扩管理中心授权给用户的使用权限、在线使用时长;管理中心挂起,等待用户下一步命令;
步骤B3:客户端中心根据管理中心反馈的TaskAcc,判断用户类别、根据其TaskAcc的用户使用权限与在线使用时长和向用户打开集群管理系统的相关操作接口,同时提示用户当前作业的时限与客户端在用户无响应时挂起的时间长度,以防止权限用户离开业务机时间内被其他用户非法操作;用户操作客户端界面,客户端中心捕获用户的操作,生成用户指令,并向管理中心发送指令;
步骤B4:管理中心在接收到用户指令后,启动任务分配单元先判断是否有模型计算需求,如果无则执行普通的数据显示灯操作;如果有判断分析用户要模拟的区域范围(起始网格ij1到终止网格ij2),模拟的时间T,要运行的模型类别,同时向数据中心和模型中心发送模型计算命令;
步骤B5:数据中心接收指令,根据用户名以及模拟时间,在数据库中建立当前用户的实时人物文件及job_time,同时根据任务管理单元发布的模拟范围,从整体网格中,选出涵盖ij1到ij2的网格段,同时读取ij1到ij2范围内的点源入汇点、面源入汇点,从条件节点输出的结果中提取出这些入汇点在T时段内的气象、水量、水质和水生态数据以及模拟范围的上下游边界条件,并发送给应用节点;
步骤B6:应用节点接收任务管理单元的命令,根据模型种类在节点中设置参与计算的子节点及其任务映射表,并设定临时任务备份节点,在参与计算的子节点和备份节点中都建立复制包含所有原始输入数据的文件夹,重命名为job_time;
步骤B7:当应用节点接收到数据中心发送的数据后,根据已生成的任务映射表,将数据分别发送给各模型子节点,各模型子节点根据自身的需要,对接收到的网格数据进行分块,同时将入汇点数据与网格分块数据进行匹配,将数据输入数据转换输出到每个分块子节点及其备份节点的作业文件夹job_time中;
步骤B8:模型中心的应用节点开展模拟工作,节点模型在运行过程中定时向管理中心发送运行日志,汇报运行状态;并按时输出中间结果,经结果整合后推送至数据中心入库存储。
步骤B9:数据中心接收模型中心推送的中间成果数据,转换入库存储,同时根据任务管理单元命令中包含的要参与模拟计算的模型种类,判断模型是否为条件模型与需求模型,若接收到的数据来自于条件模型,则将该结果转换发送给模型中心应用节点中的需求模型;
步骤B10:需求模型接收数据中心传来的其条件模型的模拟结果,根据分块情况将数据分解转换输入到工作文件夹,按分段控制运行方式重复执行步骤B8和步骤B9,直到所有全部时间的模拟。
步骤B11:管理中心分析模型中心推送的运行日志,监控其运行情况,如有故障则进行故障处理;如模型中心运行完毕,则向客户端中心反馈模拟结果完成的信息;客户端中心接收该信息,提示用户进行下一步的分析与环境评价操作;
步骤B12:用户根据需要,在客户端中心选择要进行操作,如进行环境状况评价与未来趋势分析预测或开展环境决策分析,客户端中心将用户的需求发送至管理中心,管理中心根据用户的需求,反馈相应的结果,辅助用户进行流域水环境管理。
本发明针对当前流域环境管理领域的现状、将互联网与计算机领域的集群计算技术经过改造后应用于流域环境管理,以实现对流域内已有软硬件数据资源的集成整合,形成环境资源池和云中心,开发全套分布式并行计算的涵盖流域空地水全过程的数值模型,解决了环境大数据的生产问题、共享问题、管理问题以及应用问题,为实现流域环境的高效快速管理提供了技术支撑,保障流域水环境安全。
附图说明
图1:是本发明实施例的系统部署结构示意图;
图2:是本发明实施例的数据中心的数据转换处理流程图;
图3:是本发明实施例的模型中心的数据分块流程;
图4:是本发明实施例的模型中心的分布式运行流程 ;
图5:是本发明实施例的模型中心的模型分段运行控制方式示意图;
图6:是本发明实施例的模型中心任务备份与故障处理流程图;
图7:是本发明实施例的集群体系整体实现流程图。
具体实施方式
为了便于本领域普通技术人员理解和实施本发明,下面结合附图及实施例对本发明作进一步的详细描述,应当理解,此处所描述的实施示例仅用于说明和解释本发明,并不用于限定本发明。
本发明主要为整合流域内水环境管理相关的各单位各部门的硬件资源和数据资源,形成流域水环境管理的数据资源池和计算服务资源池,构建包括全流域的业务中心、数据中心、模型中心和决策服务中心的流域水环境管理分布式集群服务体系,克服传统流域模型体系模拟运算速度慢效率低以及资源重复建设浪费的问题,提供具备数据管理服务、流域气象-陆地面源-水动力-水质-水生态-突发事件的数值快速高效模拟以及专家决策支持的业务系统,为全流域的水环境的管理、现状评价、未来趋势预测以及突发事件应急模拟与决策提供技术保障与业务支持,保障流域水环境安全。
参见图1、图7,本发明的多中心流域水环境分布式集群管理系统,主要包括系统作业管理中心(简称管理中心,NodeMaster)、数据分布式集成中心(简称数据中心,NodeData)、数值模拟中心(简称模型中心,NodeModel)、环境决策支持服务中心(简称决策中心,NodeDesign)和客户端业务中心(简称客户端中心,NodeClient)五个中心,其功能分别说明如下:
1.客户端中心:
是面向普通群众的互联客户端中心,对客户端提供环境状态信息、水环境警情信息、风险规避方式与防灾信息的发布以及一定权限内的水环境模拟分析服务;同时设置市民报警模块,实时接收、分析、处理与上报客户端用户的警情汇报信息,实现水环境管理的全民参与。客户端业务中心是基于C/S架构的跨平台的业务端系统,是用户与系统互动的主要纽带,包括用户验证模块、用户需求指令分析与发送模块和服务端推送信息展示模块;
用户验证模块用于集群管理系统对用户身份的验证,验证时根据用户类型的不同而采用不同的验证方式;普通客户采用用户名和密码验证,在任何可联网的客户端均可操作;专业用户采用用户名和密码登陆验证以及客户端机器物理地址的双重验证方式,专业用户包括技术人员、管理人员和政府职能人员,其在使用专业用户账号登陆时,必须使用在管理中心注册过的客户端上进行;
用户需求指令分析与发送模块用于客户端通过用户在可视化平台的操作记录用户需求、并实时的将用户需求生成用户指令发送至作业管理中心;用户指令包括环境信息显示需求、数值模拟计算需求、数据库操作需求以及系统管理需求;
服务端推送信息展示模块用于客户端接收其余中心对所推送的用户需求指令的响应计算结果,用图、表、动画形式向用户展现。
2.管理中心:
是集群管理系统的业务分配管理与系统状态评估中心,是进行系统业务部署与作业分配的主节点,使集群管理系统中的服务器和工作站、计算器能协同分工合作,并实时记录接收与可视化展现集群管理系统中运行计算机的工作状态,快速发现定位运行故障、恢复系统正常运行,实现集群管理系统的自动化、智能化业务处理;
管理中心包括任务分配单元、任务监控单元、故障处理单元、安全管理单元、实时备份单元和结果反馈单元;
安全管理单元用于保证集群管理系统安全运行、阻止非权限用户以及不正常访问用户或恶意用户使用集群管理系统、提交作业、查看修改数据的安全屏障,通过用户名、密码以及秘钥的方式进行双重认证;
任务分配单元用于依据验证用户的指令需要,对集群管理系统中的各节点进行任务分配,是管理与分配模型中心的各功能节点开展业务计算的重要单元;任务分配单元接收到用户的指令后,对指令进行分析,辨别用户要使用的功能,并相应的启动数据中心和模型中心的功能模块;
任务监控单元是系统作业管理中心实时获知模型中心各任务节点运行状态的重要部分;任务监控单元通过两种方式实现对计算节点的任务监控;一种是主动监控,采用心跳检测方案,在节点运行中,任务监控单元读取任务映射关系表中在执行任务的节点,定时向其发送ping,以判断其连接和运行的正常性;一种是被动监控,即心跳报告的模式,计算节点在计算中,定时将自己的运行状态反馈给任务监控单元;任务监控单元在收到节点的反馈信息后,将对应的节点计算机运行状况、运行进展情况生成运行日志,存储在系统作业管理中心的运行日志数据库中;若在主动检测中,收不到目标节点的消息或在被动检测中收到目标节点报告运算错误的消息,任务监控单元在存储其运行日志的同时,激活故障处理单元,开展下一步的故障处理;
故障处理单元用于当故障处理单元激活后,查询分析运行日志,判断故障节点出现运行错误的原因;在主动检测中收不到目标节点的反馈或收到运行错误的被动监测信息,判断该节点与管理中心是否失联或程序故障,一方面通知管理员进一步人工检测失联原因与故障问题,另一方面根据与失联节点的最近的运行记录,激活其备份节点,在运行日志记录的情况下,继续运行模型,同时查看映射关系表,找到当前情况下空闲的节点,复制所有有关的输入数据,将其作为该备份节点的备份节点,修改映射关系表;
模型输出检测单元是在任务分配单元分配模拟任务后,对模型的输出结果进行监控的单元,其作用是判断模型输出是否正常、是否有输出,并将结果反馈给任务分配单元,从而协助任务分配单元在需要多个模型进行递进并行运行模式时,实时的启动相关模型;
实时备份单元用于承担系统作业管理中心运行指令、映射关系表以及数值运行日志的备份单元,是为当管理节点出现故障时,能快速重新修复集群管理系统,保障集群管理系统服务更加可靠的安全措施;在管理中心工作中,实时定时将NodeMaster的所有运行文件备份在NodeMaster的备份节点上;
结果反馈单元用于根据用户指令、任务映射关系表以及系统运行日志,将用户请求的数据信息或模型模拟计算结果推送至业务客户端进行模拟结果的展示。
3.数据中心:
是集群管理系统的数据存储与数据集成模块,实现对水环境风险数据库历史数据的存储管理,基于物联网技术自动或半自动的不断获取、整理自动监测站数据以及人工监测的水文、水质和气象数据;整合不同格式、不同来源和不同性质的环境数据,实现流域数据的分布式集成,为数据计算与分析及客户端中心显示提供数据支撑;
数据中心由各参与集群的单位已有的或新建的数据库构成,其基本组成包括数据存储单元、数据管理单元和模型数据处理单元;
数据存储单元用于存储流域水环境相关的数据,数据存储单元中由连入集群管理系统的不同区域不同部门的数据节点组成、所有数据节点独立运行、资源共享,组成集群管理系统的数据池;数据节点中的数据类型包括用户数据,基础地理数据、社会经济数据、水质数据、水文数据、气象数据、流域整体粗细网格、模型参数以及模型模拟结果数据;所有数据按统一规范要求进行存储;
所述的数据管理单元是提供用户增加、删除、修改、更新数据库的主要数据管理功能单元,除具有常规的数据库的管理功能外,还针对水环境数据的特点,设置有数据校核功能,所有新添加的数据在输入数据库前,均要求人工校核,以确保数据的准确无误;校核过程包括阈值范围分析、趋势分析、对应关系分析;阈值分析是当输入数据超出该阈值范围内时,提示警告信息,并提醒数据管理人员进行数据的校核预处理;趋势分析,则通过输入数据的数值趋势线,查看其一定时间内的数据随时间的变化趋势,若发现错误数据,要进行原始数据的进一步查验校核;对应关系分析则是在GIS地图上显示数据中的测站、入汇口的地理位置在整个流域的位置是否准确;
所述的模型数据处理单元有两个基本的功能。一是根据任务分配单元的命令,依据计算范围和计算时间,从数据库提取出满足计算范围和计算时间需要的数据,并传送给模型中心;另一个是接收模型中心传送过来的数据,并转换为数据库文件进行入库存储。
请见图2,数据中心的数据转换处理为:
①在NodeData接收到NodeMaster的任务分配单元的数据分块任务后,根据用户模拟范围和模拟时间,从流域整体网格范围(1-im*jm,图中灰色实现包裹区域)中提取出模拟范围网格(ij1-ij2,虚线包裹区域);
②根据ij1-ij2的网格范围,搜索网格入汇点索引文件,根据入口IJ号找到属于ij1-ij2的网格范围入汇点(图2中虚框区域内的原点)编号;根据ij1和ij2所在整体网格中的位置,查找该位置在整体粗网格中的位置upij和downij;
③根据入汇点编号以及模拟时间T,从气象水文水质数据库和条件模型的模拟结果库中检索含有入汇点编号的数据文件,并提取出对应模拟时间段内的数据文件,作为点面源入汇文件数据。
④根据upij和donwij,在条件模型的模拟结果库中检索出其upij对应的T时段内的流量、水质水生态数据和donwij的水位数据,作为局部区域模拟的边界条件数据;
⑤将检索到的所有文件,发送给NodeModel中对应的模型节点,等待NodeModel运行输出推送模拟结果;
⑥接收NodeModel的推送结果,并转换存入当前作业的数据集中。
4.模型中心:
是集群管理系统中进行数数值模拟计算的中心,包括一套模型条件节点和一套模型应用节点;集成流域水环境模型库,能开展流域气象模型、陆地面源模型、水动力模型、水质模型、水生态模型以及突发事件的水环境数值模型的模拟;所述的数据中心在系统作业管理中心的统一分配下,按照水环境数值模拟的区域分解和功能分解两种任务分解方式实现分布式计算和通讯;实时、快速的开展数据计算工作,为环境决策支持服务中心的环境决策分析提供支撑;
模型中心是本发明的计算核心部分,由集群计算器中所有参与计算的计算机构成,包括一个模型池,模型池包括一套模型条件节点和一套模型应用节点;其中模型条件节点包括流域气象模型、陆地面源模型、水动力模型、水质模型以及水生态模型;模型应用节点包括水动力模型、水质模型、水生态模型突发事件模型;所包括的模型组成了流域中大气-陆地-水体全套循环的数值模拟体系,即能开展全流域的整体模拟,也能在局部进行具体作业分析;模型池在在模型中心的集群计算机上采用模型冗余部署方式进行部署,应用模型节点在运行过程钱,根据自身需求进行区域分块和数据转换,所有模型采用递进并行启动模式启动,模型运行过程中采用分段控制运行方式进行,模型运行过程中进行模型任务备份与故障处理,模型运行过程中的输入通过数据整合的方式将模拟结果推送至数据集成中心保存。
模型冗余部署方式:模型中心主要的文件包括有模型的可执行程序以及对应于模型的输入数据和输出数据。考虑到模型运行中的故障备份、节点任务迁移以及模型彼此之间的频繁数据交换关系,全套模型及其数据在模型子节点及其备份节点上都存储有无差异性的模型和原始数据的备份存储,当前作业的节点的输出数据分别向作业节点文件夹与备份节点文件夹中输出。
区域分块和数据转换:如图3所示,
①在NodeModel的应用节点接收到NodeData的数据后,将对应的数据分配到各模型,各模型独自对模拟范围ij1-ij2进行分析,判断是否需要进行分块并行运算,若需要则将的ij1-ij2进行等分,分为N块(此处假定N=3),将分块结果反馈给应用节点;
②应用节点依据各模型反馈的分块数N,在模型分节点计算机上新开辟应用节点,每个节点对应一个分区,启动分块转换程序;
③分块转换程序从模拟范围网格中划分出确定的分块网格Z1、Z2、Z3,并建立节点与节点之间的关系文件,将上游边界文件输入上游分块对应的节点文件夹、下游边界文件输入下游分块对应的节点文件夹;
④根据Z1,Z2,Z3的网格范围,搜索NodeData传入的入汇点数据,根据入口IJ号确定入汇点与分块网格的归属关系,找到属于Z1,Z2,Z3范围内的入汇点,并按照模型要求的格式输入到任务分配单元指定的节点及其备份节点的模型输入文件夹中。
递进并行启动模式:如图4所示,
该模式是一种在时间上存在一定的间隔,不是同时启动所有模型的并行方式,这种方式考虑到模型之间的耦合关系,模型之间常存在一种模型的输出结果将作为另一类模型的边界而存在,因此通过一定的时间差分别递进的启动模型,以减少整个系统的等待时间提高整体运行效率的并行方式;气象模型为陆地面源模型、水动力模型、水质模型、水生态模型以及突发事件模型提供气象边界,面源模型为水动力模型提供流量入汇条件,为水质模型提供水质入汇条件,为水生态模型提供生物量入汇条件;水动力模型的模拟结果则为水质模型与水生态模型和突发事件模型提供水动力条件;因此在分布式并行中,让提供边界条件的模型(这里称为条件模型)先运行,而需要读取边界模型的边界结果的模型(这里称为需求模型)的则等待其执行,在边界模型按照输出规则输出一定时间段内的结果并经数据中心转换输入到需求模型后,数据中心将完成情况反馈给任务分配单元,任务分配单元分配任务给需求模型,需求模型启动读取该更新结果进行运行,依次类推完成所有模型节点的启动;需求模型启动后采用分时控制运行方式进行运行,最终模型中心的所有模型形成稳定的递进关系,达到所有模型并行执行的效果;在分布式并行运行中,各模型独立运行,需求模型与条件模型的数据关系按照分段控制运行方式控制。
分段控制运行方式:如图5所示,
由于条件模型和需求模型同步运行,设定所有模型的模拟结果在每隔同一个输出时间步长?t输出模拟结果,因此相对于条件模型,需求模型在启动后,内部的条件检测模块在新的模拟步长开始前需不断地检测条件模型的输出结果是否已经过NodeData中心转换输入到自身的输入文件夹中,以支持其运行。如图中,条件模型输出0~t1的模拟结果,立即将结果整合推送至NodeData中心,NodeData中心读取条件模型的结果,并同步将其转换为需求模型需要的格式输入需求模型分节点及其备份节点;同时通知任务分配中心启动需求模型,条件模型和需求模型两者并行运行。条件模型继续运行,不停的输出结果、整合结果推送至NodeData,NodeData将其转换为需求模型需要的数据格式。当需求模型的所有分块节点完成0~t1段的模拟后,其输出0~t1时段的模拟结果同时整合该结果推送至NodeData,NodeData判断该需求模型是否为正在运行的其余模型的条件模型,若是则将其结果转换输入到需求模型的需求模型,若不是,则只执行入库操作;同时,需求模型准备进行t1+?t段的模拟。此时先向自身的输入文件夹中,检测NodeData是否已将条件模型的t1+?t段的模拟结果转换为自身运行的输入文件,若检测到已存在t1+?t段的模拟结果条件,则读取该结果条件文件继续执行;若未检测到输出结果,则所有参与需求模型运算的节点的主体模拟程序挂起等待,直到检测到条件模型运行的t2时刻输出t1+?t段的模拟结果以及转换至自身的输入文件夹,当需求模型的所有节点均读取完输入条件后,全部停止等待继续执行需求模型中的主体模拟;如此反复进行,直到所有节点完成模拟后输出结果,模型运行过程中的输出符合模型任务备份的规定。
模型任务备份与故障处理:如图6所示,
参与运算的工作机都有一个备份机,对应的工作机上的所有节点在备份机上都有相同的设置;在作业中都有一个备份节点,作业节点t和备份节点b存储的原始数据完全一致;当作业节点工作运行输出时,同时输出两套模拟结果,一套输入到作业节点的结果文件夹,另一套输入备份节点文件夹,并对应的将模型运行心跳记录输入到运行日志中,以供NodeMaster的故障检测单元检测;若故障检测单元检测到作业节点t的故障后,NodeMaster查找模型中心所有集群计算机的工作状态,从中选择一台机器作为原备份节点b的备份节点bb,并将b中所有作业数据复制到bb,修改任务映射表,并立即启动备份节点b;备份节点b转换为任务节点,根据日志中所记载的模拟进度、读取原作业节点t的条件模型的输出数据从故障出现的时刻启动运行。
模拟结果整合:模型输出后按照各节点所对应的分块的逻辑关系,进行结果整合,将分块结果按时间段整合成一系列与时间相关的整体模拟结果文件,发送至数据分布式集成中心,存储在用户的当前业务数据库中。
6.环境决策支持服务中心:
是面向环境管理部门的环境决策客户端中心,基于数值模拟中心的水环境模拟结果利用客户端业务中心进行可视化展示,以全面的了解流域环境状况和未来趋势;同时在数据分布式集成中心的智能专家决策知识库的协助下,进行水环境风险决策优化,为环境管理部门提供决策支持服务;
由此,本发明的服务系统是业务化运行的集群服务系统,其完整的用户与系统交互的过程的执行步骤按照系统业务化运行和用户需求启动的方式进行。根据用户的需求和环境管理需要包括集群业务化运行和用户按需运行两种方式,如图7所示;
1. 所述的集群业务化运行方式,
集群管理系统具有对全流域智能化流线化的环境监控管理和数值模拟分析功能;管理中心定时自动启动任务管理单元的业务化运行指令,任务管理单元向模型中心的模型条件节点发布业务运行指令,开展全流域的气象、水文、水动力、水质和水生态模拟,业务化模拟的时长为以当前时刻至未来24小时,模拟数据存储在数据中心的流域模型数据集中,主要包括以下步骤:
步骤A1:数据库按时收集各测站数据,并从网上抓取气象数据,以保证数据中心数据的最新;集群管理系统的作业管理中心在到达设定的自动模拟时间的时刻,开启定时业务化模拟,由任务管理单元向模型中心的条件节点和数据中心下达作业命令;
步骤A2:数据中心接收到业务化运行命令,在数据中心建立最新任务的数据集,命名为jobt_time,并读取最新的气象数据和流域上下游边界条件的水动力与水质数据,发送给条件节点;
步骤A3:条件节点在接收到作业管理中心的命令后,在条件节点下的气象模型子节点、陆地面源模型子节点、水动力水质水生态五套模型子节点分别拷贝一份模型需要的原始数据集,并命名为jobt_time;如此时已经收到数据中心发送的数据,则对数据进行转换,存入参与计算的各模型节点中;
步骤A4:条件节点启动各子节点进行模型计算,计算时间为以当前时刻至未来24小时,条件节点启动模型符合并行启动模式;各模型在运行过程中按分段控制运行方式进行控制;
步骤A5:各模型按时输出结果,并推送至数据中心入库存储;
2. 所述的用户按需运行方式,
集群管理系统能满足用户不同范围不同尺度不同时长的流域内局部精细模拟需要,以解决流域水环境管理中的实际应用文体,主要包括以下步骤:
步骤B1:用户通过客户端中心登录集群管理系统、客户端中心将用户输入的登录信息发送至管理中心、请求登陆验证;
步骤B2:管理中心接收到用户请求,启动安全管理单元;安全管理单元根据用户名和专业用户客户端的机器物理地址进入存储用户信息的动态目录验证用户,查看用户所属类别,用户客户端机器授权类别,判断是否非法请求,如是则拒绝用户请求;若不是,则通过验证,并生成用户使用访问服务器的许可文件TaskAcc反馈给客户端中心、TaskAcc文件包括管理中心授权给用户的使用权限、在线使用时长;管理中心挂起,等待用户下一步命令;
步骤B3:客户端中心根据管理中心反馈的TaskAcc,判断用户类别、根据其TaskAcc的用户使用权限与在线使用时长和向用户打开集群管理系统的相关操作接口,同时提示用户当前作业的时限与客户端在用户无响应时挂起的时间长度,以防止权限用户离开业务机时间内被其他用户非法操作;用户操作客户端界面,客户端中心捕获用户的操作,生成用户指令,并向管理中心发送指令;
步骤B4:管理中心在接收到用户指令后,启动任务分配单元先判断是否有模型计算需求,如果无则执行普通的数据显示灯操作;如果有判断分析用户要模拟的区域范围(起始网格ij1到终止网格ij2),模拟的时间T,要运行的模型类别,同时向数据中心和模型中心发送模型计算命令;
步骤B5:数据中心接收指令,根据用户名以及模拟时间,在数据库中建立当前用户的实时人物文件及job_time,同时根据任务管理单元发布的模拟范围,从整体网格中,选出涵盖ij1到ij2的网格段,同时读取ij1到ij2范围内的点源入汇点、面源入汇点,从条件节点输出的结果中提取出这些入汇点在T时段内的气象、水量、水质和水生态数据以及模拟范围的上下游边界条件,并发送给应用节点;
步骤B6:应用节点接收任务管理单元的命令,根据模型种类在节点中设置参与计算的子节点及其任务映射表,并设定临时任务备份节点,在参与计算的子节点和备份节点中都建立复制包含所有原始输入数据的文件夹,重命名为job_time;
步骤B7:当应用节点接收到数据中心发送的数据后,根据已生成的任务映射表,将数据分别发送给各模型子节点,各模型子节点根据自身的需要,对接收到的网格数据进行分块,同时将入汇点数据与网格分块数据进行匹配,将数据输入数据转换输出到每个分块子节点及其备份节点的作业文件夹job_time中;
步骤B8:模型中心的应用节点开展模拟工作,节点模型在运行过程中定时向管理中心发送运行日志,汇报运行状态;并按时输出中间结果,经结果整合后推送至数据中心入库存储。
步骤B9:数据中心接收模型中心推送的中间成果数据,转换入库存储,同时根据任务管理单元命令中包含的要参与模拟计算的模型种类,判断模型是否为条件模型与需求模型,若接收到的数据来自于条件模型,则将该结果转换发送给模型中心应用节点中的需求模型;
步骤B10:需求模型接收数据中心传来的其条件模型的模拟结果,根据分块情况将数据分解转换输入到工作文件夹,按分段控制运行方式重复执行步骤B8和步骤B9,直到所有全部时间的模拟。
步骤B11:管理中心分析模型中心推送的运行日志,监控其运行情况,如有故障则进行故障处理;如模型中心运行完毕,则向客户端中心反馈模拟结果完成的信息;客户端中心接收该信息,提示用户进行下一步的分析与环境评价操作;
步骤B12:用户根据需要,在客户端中心选择要进行操作,如进行环境状况评价与未来趋势分析预测或开展环境决策分析,客户端中心将用户的需求发送至管理中心,管理中心根据用户的需求,反馈相应的结果,辅助用户进行流域水环境管理。
本发明公开了一种多中心流域水环境分布式集群管理系统及方法,该系统是一个针对流域水环境风险预警管理多中心、多需求和大数据的面向服务的集群构架系统。本系统构建了不同管理级别和职能级别的系统作业管理中心、数值模拟中心、数据中心、决策指挥中心和客户端业务中心。通过不同中心的分工协作,能整合流域水环境各单位各中心的计算机资源、形成资源池、并针对流域各单位各中心的职能按需提供服务,能克服传统流域模型体系由于串行计算引起的等待时间损耗、流域尺度模拟运算速度慢效率低以及资源重复建设浪费的问题,极大的提高流域水环境模拟的模拟效率、整合全流域的硬件资源和数据资源、实现全流域的水环境的管理、现状评价、未来趋势预测以及突发事件应急模拟与决策支持,保障流域水环境安全。
应当理解的是,本说明书未详细阐述的部分均属于现有技术。
应当理解的是,上述针对较佳实施例的描述较为详细,并不能因此而认为是对本发明专利保护范围的限制,本领域的普通技术人员在本发明的启示下,在不脱离本发明权利要求所保护的范围情况下,还可以做出替换或变形,均落入本发明的保护范围之内,本发明的请求保护范围应以所附权利要求为准。
Claims (5)
1.一种多中心流域水环境分布式集群管理系统,其特征在于:包括系统作业管理中心、数据分布式集成中心、数值模拟中心、环境决策支持服务中心和客户端业务中心;
所述的系统作业管理中心(简称管理中心,NodeMaster)为集群管理系统的业务分配管理与系统状态评估中心,是进行系统业务部署与作业分配的主节点,使集群管理系统中的服务器和工作站、计算器能协同分工合作,并实时记录接收与可视化展现集群管理系统中运行计算机的工作状态,快速发现定位运行故障、恢复系统正常运行,实现集群管理系统的自动化、智能化业务处理;
所述的数据分布式集成中心(简称数据中心,NodeData)是集群管理系统的数据存储与数据集成模块,实现对水环境风险数据库历史数据的存储管理,基于物联网技术自动或半自动的不断获取、整理自动监测站数据以及人工监测的水文、水质和气象数据;整合不同格式、不同来源和不同性质的环境数据,实现流域数据的分布式集成,为数据计算与分析及客户端业务中心显示提供数据支撑;
所述的数值模拟中心(简称模型中心,NodeModel)是集群管理系统中进行数值模拟计算的中心,包括一套模型条件节点和一套模型应用节点;集成流域水环境模型库,能开展流域气象模型、陆地面源模型、水动力模型、水质模型、水生态模型以及突发事件的水环境数值模型的模拟;所述的数据中心在系统作业管理中心的统一分配下,按照水环境数值模拟的区域分解和功能分解两种任务分解方式实现分布式计算和通讯;实时、快速的开展数据计算工作,为环境决策支持服务中心的环境决策分析提供支撑;
所述的环境决策支持服务中心(简称决策中心,NodeDesign)是面向环境管理部门的环境决策客户端中心,基于数据中心的水环境模拟结果利用客户端业务中心进行可视化展示,以全面的了解流域环境状况和未来趋势;同时在数据中心的智能专家决策知识库的协助下,进行水环境风险决策优化,为环境管理部门提供决策支持服务;
所述的客户端业务中心(简称客户端中心,NodeClient)是面向普通大众的互联客户端中心,对客户端提供环境状态信息、水环境警情信息、风险规避方式与防灾信息的发布以及水环境模拟分析服务;同时设置普通大众报警模块,实时接收、分析、处理与上报客户端用户的警情汇报信息,实现水环境管理的全民参与;
所述的数据分布式集成中心包括数据存储单元、数据管理单元和模型数据处理单元;
所述的数据存储单元用于存储流域水环境相关的数据,数据存储单元中由连入集群管理系统的不同区域不同部门的数据节点组成、所有数据节点独立运行、资源共享,组成集群管理系统的数据池;数据节点中的数据类型包括用户数据、基础地理数据、社会经济数据、水质数据、水文数据、气象数据、流域整体粗细网格、模型参数以及模型模拟结果数据;所有数据按统一规范要求进行存储;
所述的数据管理单元是提供用户增加、删除、修改、更新数据库的主要数据管理功能单元,除具有常规的数据库的管理功能外,还针对水环境数据的特点,设置有数据校核功能,所有新添加的数据在输入数据库前,均要求人工校核,以确保数据的准确无误;校核过程包括阈值范围分析、趋势分析、对应关系分析;阈值分析是当输入数据超出该阈值范围内时,提示警告信息,并提醒数据管理人员进行数据的校核预处理;趋势分析,则通过输入数据的数值趋势线,查看其一定时间内的数据随时间的变化趋势,若发现错误数据,要进行原始数据的进一步查验校核;对应关系分析则是在GIS地图上显示数据中的测站、入汇口的具体地理位置属性的数据在整个流域的位置是否准确;
所述的模型数据处理单元有两个基本的功能,一是根据任务分配单元的命令,依据计算范围和计算时间,从数据库提取出满足计算范围和计算时间需要的数据,并传送给模型中心;另一个是接收模型中心传送过来的数据,并转换为数据库文件进行入库存储;
所述的模型中心包括模型池,模型池中有两套模型节点,一套是模型条件节点、另一套是模型应用节点;在两套模型节点中包含有不同功能的数值模型,模型条件节点是针对全流域模拟需求而设定的模拟节点,由气象模型、陆地面源模型、水动力模型、水质模型和水生态模型组成;模型应用节点由水动力模型、水质模型、水生态模型和突发事件模型组成;每套模型对应有固定的子节点,且在模型子节点开展作业时,预设一套进行功能和数据备份的临时备份节点;模型条件节点主要的功能是实现对流域整体的水环境模拟,从而为模型应用节点提供模型需要的气象条件、面源入汇条件和水动力水质边界条件,具有定时业务化运行方式和用户请求运行方式;模型应用节点是针对用户局部精细模拟需求,解决实际应用问题而设置的模型节点,其运行方式由用户需求决定;模型条件节点和模型应用节点之间不直接进行数据交换和文件共享,模型条件节点的结果数据通过数据中心存储,在模型应用节点需要的时候,输入模型应用节点对应的文件中;两套模型节点的模型均采用递进并行启动模式,启动后的模型控制采用分段控制运行方式进行;
所述的递进并行启动模式,该模式是一种在时间上存在一定的间隔,不是同时启动所有模型的并行方式,这种方式考虑到模型之间的耦合关系,模型之间常存在一种模型的输出结果将作为另一类模型的边界而存在,因此通过一定的时间差分别递进的启动模型,以减少整个系统的等待时间提高整体运行效率的并行方式;气象模型为陆地面源模型、水动力模型、水质模型、水生态模型以及突发事件模型提供气象边界,面源模型为水动力模型提供流量入汇条件,为水质模型提供水质入汇条件,为水生态模型提供生物量入汇条件;水动力模型的模拟结果则为水质模型与水生态模型和突发事件模型提供水动力条件;因此在分布式并行中,让提供边界条件的模型(这里称为条件模型)先运行,而需要读取边界模型的边界结果的模型(这里称为需求模型)的则等待其执行,在边界模型按照输出规则输出一定时间段内的结果并经数据中心转换输入到需求模型后,数据中心将完成情况反馈给任务分配单元,任务分配单元将任务分配给需求模型,需求模型启动读取该更新结果进行运行,依次类推完成所有模型节点的启动;需求模型启动后采用分时控制运行方式进行运行,最终模型中心的所有模型形成稳定的递进关系,达到所有模型并行执行的效果;在分布式并行运行中,各模型独立运行,需求模型与条件模型的数据关系按照分段控制运行方式控制;
所述的分段控制运行方式,是模型在递进并行启动后的并行控制方式;由于条件模型和需求模型同步运行,设定所有模型的模拟结果在每隔同一个输出时间步长Δt输出模拟结果,因此相对于条件模型,需求模型在启动后,内部的条件检测模块在新的模拟步长开始前需不断地检测条件模型的输出结果是否已经过NodeData中心转换输入到自身的输入文件夹中,以支持其运行;条件模型输出0~t1的模拟结果,立即将结果整合推送至NodeData中心,NodeData中心读取条件模型的结果,并同步将其转换为需求模型需要的格式输入需求模型分节点及其备份节点;同时通知任务分配中心启动需求模型,条件模型和需求模型两者并行运行;条件模型继续运行,不停的输出结果、整合结果推送至NodeData,NodeData将其转换为需求模型需要的数据格式;当需求模型的所有分块节点完成0~t1段的模拟后,其输出0~t1时段的模拟结果同时整合该结果推送至NodeData,NodeData判断需求模型是否为正在运行的其余模型的条件模型,若是则将其结果转换输入到需求模型的需求模型,若不是,则只执行入库操作;同时,需求模型准备进行t1+Δt段的模拟;此时先向自身的输入文件夹中,检测NodeData是否已将条件模型的t1+Δt段的模拟结果转换为自身运行的输入文件,若检测到已存在t1+Δt段的模拟结果条件,则读取该结果条件文件继续执行;若未检测到输出结果,则所有参与需求模型运算的节点的主体模拟程序挂起等待,直到检测到条件模型运行的t2时刻输出t1+Δt段的模拟结果以及转换至自身的输入文件夹,当需求模型的所有节点均读取完输入条件后,全部停止等待继续执行需求模型中的主体模拟;如此反复进行,直到所有节点完成模拟后输出结果,模型运行过程中的输出符合模型任务备份的规定;
所述的模拟结果整合,模型输出后按照各节点所对应的分块的逻辑关系,进行结果整合,将分块结果按时间段整合成一系列与时间相关的整体模拟结果文件,发送至数据中心,存储在用户的当前业务数据库中。
2.根据权利要求1所述的多中心流域水环境分布式集群管理系统,其特征在于:所述的系统作业管理中心包括任务分配单元、任务监控单元、故障处理单元、安全管理单元、实时备份单元和结果反馈单元;
所述的安全管理单元用于保证集群管理系统安全运行、阻止非权限用户以及不正常访问用户或恶意用户使用集群管理系统、提交作业、查看修改数据的安全屏障,通过用户名、密码以及秘钥的方式进行双重认证;
所述的任务分配单元用于依据验证用户的指令需要,对集群管理系统中的各节点进行任务分配,是管理与分配模型中心的各功能节点开展业务计算的重要单元;任务分配单元接收到用户的指令后,对指令进行分析,辨别用户要使用的功能,并相应的启动模型中心和数据中心的功能模块;
所述的任务监控单元是系统作业管理中心实时获知模型中心各任务节点运行状态的重要部分;任务监控单元通过两种方式实现对计算节点的任务监控;一种是主动监控,采用心跳检测方案,在节点运行中,任务监控单元读取任务映射关系表中在执行任务的节点,定时向其发送ping,以判断其连接和运行的正常性;一种是被动监控,即心跳报告的模式,计算节点在计算中,定时将自己的运行状态反馈给任务监控单元;任务监控单元在收到节点的反馈信息后,将对应的节点计算机运行状况、运行进展情况生成运行日志,存储在系统作业管理中心的运行日志数据库中;若在主动检测中,收不到目标节点的消息或在被动检测中收到目标节点报告运算错误的消息,任务监控单元在存储其运行日志的同时,激活故障处理单元,开展下一步的故障处理;
所述的故障处理单元用于当故障处理单元激活后,查询分析运行日志,判断故障节点出现运行错误的原因;在主动检测中收不到目标节点的反馈或收到运行错误的被动监测信息,判断该节点与管理中心是否失联或程序故障,一方面通知管理员进一步人工检测失联原因与故障问题,另一方面根据与失联节点的最近的运行记录,激活其备份节点,在运行日志记录的情况下,继续运行模型,同时查看映射关系表,找到当前情况下空闲的节点,复制所有有关的输入数据,将其作为该备份节点的备份节点,修改映射关系表;
所述的模型输出检测单元是在任务分配单元分配模拟任务后,对模型的输出结果进行监控的单元,其作用是判断模型输出是否正常、是否有输出,并将结果反馈给任务分配单元,从而协助任务分配单元在需要多个模型进行递进并行运行模式时,实时的启动相关模型;
所述的实时备份单元用于承担系统作业管理中心运行指令、映射关系表以及数值运行日志的备份单元,是为当管理节点出现故障时,能快速重新修复集群管理系统,保障集群管理系统服务更加可靠的安全措施;在管理中心工作中,实时定时将管理中心的所有运行文件备份在管理中心的备份节点上;
所述的结果反馈单元用于根据用户指令、任务映射关系表以及系统运行日志,将用户请求的数据信息或模型模拟计算结果推送至业务客户端进行模拟结果的展示。
3.根据权利要求1所述的多中心流域水环境分布式集群管理系统,其特征在于:所述的模型任务备份与故障处理,参与运算的工作机都有一个备份机,对应的工作机上的所有节点在备份机上都有相同的设置;在作业中都有一个备份节点,作业节点t和备份节点b存储的原始数据完全一致;当作业节点工作运行输出时,同时输出两套模拟结果,一套输入到作业节点的结果文件夹,另一套输入备份节点文件夹,并对应的将模型运行心跳记录输入到运行日志中,以供NodeMaster的故障检测单元检测;若故障检测单元检测到作业节点t的故障后,NodeMaster查找模型中心所有集群计算机的工作状态,从中选择一台机器作为原备份节点b的备份节点bb,并将b中所有作业数据复制到bb,修改任务映射表,并立即启动备份节点b;备份节点b转换为任务节点,根据日志中所记载的模拟进度、读取原作业节点t的条件模型的输出数据从故障出现的时刻启动运行。
4.根据权利要求1所述的多中心流域水环境分布式集群管理系统,其特征在于:所述的客户端业务中心是用户与集群管理系统互动的主要纽带,包括用户验证模块、用户需求指令分析与发送模块和服务端推送信息展示模块;
所述的用户验证模块用于集群管理系统对用户身份的验证,验证方式会根据用户类型的不同而采用不同的验证方式;普通客户采用用户名和密码验证,在任何可联网的客户端均可操作;专业用户采用用户名和密码登陆验证以及客户端机器物理地址的双重验证方式,专业用户包括技术人员、管理人员和政府职能人员,其在使用专业用户账号登陆时,必须使用在管理中心注册过的客户端上进行;
所述的用户需求指令分析与发送模块用于客户端通过用户在可视化平台的操作记录用户需求、并实时的将用户需求生成用户指令发送至作业管理中心;用户指令包括环境信息显示需求、数值模拟计算需求、数据库操作需求以及系统管理需求;
所述的服务端推送信息展示模块用于客户端接收其余中心对所推送的用户需求指令的响应计算结果,用图、表、动画形式向用户展现。
5.一种利用权利要求1所述的多中心流域水环境分布式集群管理系统进行多中心流域水环境管理的方法,其特征在于:根据用户的需求和环境管理需要包括集群业务化运行和用户按需运行两种方式;
1.所述的集群业务化运行方式,
集群管理系统具有对全流域智能化流线化的环境监控管理和数值模拟分析功能;管理中心定时自动启动任务管理单元的业务化运行指令,任务管理单元向模型中心的模型条件节点发布业务运行指令,开展全流域的气象、水文、水动力、水质和水生态模拟,模拟数据存储在数据中心的流域模型数据集中,主要包括以下步骤:
步骤A1:数据库按时收集各测站数据,并从网上抓取气象数据,以保证数据中心数据的最新;集群管理系统的作业管理中心在到达设定的自动模拟时间的时刻,开启定时业务化模拟,由任务管理单元向模型中心的条件节点和数据中心下达作业命令;
步骤A2:数据中心接收到业务化运行命令,在数据中心建立最新任务的数据集,命名为jobt_time,并读取最新的气象数据和流域上下游边界条件的水动力与水质数据,发送给条件节点;
步骤A3:条件节点在接收到作业管理中心的命令后,在条件节点下的气象模型子节点、陆地面源模型子节点、水动力水质水生态五套模型子节点分别拷贝一份模型需要的原始数据集,并命名为jobt_time;如此时已经收到数据中心发送的数据,则对数据进行转换,存入参与计算的各模型节点中;
步骤A4:条件节点启动各子节点进行模型计算,条件节点启动模型符合并行启动模式;各模型在运行过程中按分段控制运行方式进行控制;
步骤A5:各模型按时输出结果,并推送至数据中心入库存储;
2.所述的用户按需运行方式,
集群管理系统能满足用户不同范围不同尺度不同时长的流域内局部精细模拟需要,以解决流域水环境管理中的实际应用文体,主要包括以下步骤:
步骤B1:用户通过客户端中心登录集群管理系统、客户端中心将用户输入的登录信息发送至管理中心、请求登陆验证;
步骤B2:管理中心接收到用户请求,启动安全管理单元;安全管理单元根据用户名和专业用户客户端的机器物理地址进入存储用户信息的动态目录验证用户,查看用户所属类别,用户客户端机器授权类别,判断是否非法请求,如是则拒绝用户请求;若不是,则通过验证,并生成用户使用访问服务器的许可文件TaskAcc反馈给客户端中心、TaskAcc文件包扩管理中心授权给用户的使用权限、在线使用时长;管理中心挂起,等待用户下一步命令;
步骤B3:客户端中心根据管理中心反馈的TaskAcc,判断用户类别、根据其TaskAcc的用户使用权限与在线使用时长和向用户打开集群管理系统的相关操作接口,同时提示用户当前作业的时限与客户端在用户无响应时挂起的时间长度,以防止权限用户离开业务机时间内被其他用户非法操作;用户操作客户端界面,客户端中心捕获用户的操作,生成用户指令,并向管理中心发送指令;
步骤B4:管理中心在接收到用户指令后,启动任务分配单元先判断是否有模型计算需求,如果无则执行普通的数据显示灯操作;如果有判断分析用户要模拟的区域范围,模拟的时间T,要运行的模型类别,同时向数据中心和模型中心发送模型计算命令;
步骤B5:数据中心接收指令,根据用户名以及模拟时间,在数据库中建立当前用户的实时人物文件及job_time,同时根据任务管理单元发布的模拟范围,从整体网格中,选出涵盖ij1到ij2的网格段,同时读取ij1到ij2范围内的点源入汇点、面源入汇点,从条件节点输出的结果中提取出这些入汇点在T时段内的气象、水量、水质和水生态数据以及模拟范围的上下游边界条件,并发送给应用节点;
步骤B6:应用节点接收任务管理单元的命令,根据模型种类在节点中设置参与计算的子节点及其任务映射表,并设定临时任务备份节点,在参与计算的子节点和备份节点中都建立复制包含所有原始输入数据的文件夹,重命名为job_time;
步骤B7:当应用节点接收到数据中心发送的数据后,根据已生成的任务映射表,将数据分别发送给各模型子节点,各模型子节点根据自身的需要,对接收到的网格数据进行分块,同时将入汇点数据与网格分块数据进行匹配,将数据输入数据转换输出到每个分块子节点及其备份节点的作业文件夹job_time中;
步骤B8:模型中心的应用节点开展模拟工作,节点模型在运行过程中定时向管理中心发送运行日志,汇报运行状态;并按时输出中间结果,经结果整合后推送至数据中心入库存储;
步骤B9:数据中心接收模型中心推送的中间成果数据,转换入库存储,同时根据任务管理单元命令中包含的要参与模拟计算的模型种类,判断模型是否为条件模型与需求模型,若接收到的数据来自于条件模型,则将该结果转换发送给模型中心应用节点中的需求模型;
步骤B10:需求模型接收数据中心传来的其条件模型的模拟结果,根据分块情况将数据分解转换输入到工作文件夹,按分段控制运行方式重复执行步骤B8和步骤B9,直到所有全部时间的模拟;
步骤B11:管理中心分析模型中心推送的运行日志,监控其运行情况,如有故障则进行故障处理;如模型中心运行完毕,则向客户端中心反馈模拟结果完成的信息;客户端中心接收该信息,提示用户进行下一步的分析与环境评价操作;
步骤B12:用户根据需要,在客户端中心选择要进行操作,如进行环境状况评价与未来趋势分析预测或开展环境决策分析,客户端中心将用户的需求发送至管理中心,管理中心根据用户的需求,反馈相应的结果,辅助用户进行流域水环境管理。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201410506093.5A CN104268695B (zh) | 2014-09-26 | 2014-09-26 | 一种多中心流域水环境分布式集群管理系统及方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201410506093.5A CN104268695B (zh) | 2014-09-26 | 2014-09-26 | 一种多中心流域水环境分布式集群管理系统及方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN104268695A CN104268695A (zh) | 2015-01-07 |
CN104268695B true CN104268695B (zh) | 2015-09-02 |
Family
ID=52160215
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201410506093.5A Active CN104268695B (zh) | 2014-09-26 | 2014-09-26 | 一种多中心流域水环境分布式集群管理系统及方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN104268695B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109696536B (zh) * | 2018-12-21 | 2021-09-07 | 武汉飞流智能技术有限公司 | 一种水质监测采样探头 |
Families Citing this family (27)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105045764A (zh) * | 2015-08-11 | 2015-11-11 | 精硕世纪科技(北京)有限公司 | 模型集群的输入参数获取方法及系统 |
CN105187402B (zh) * | 2015-08-13 | 2019-03-12 | 浪潮(北京)电子信息产业有限公司 | 一种基于云平台管理的自适应验证方法及系统 |
CN105447076A (zh) * | 2015-11-04 | 2016-03-30 | 南京数律云信息科技有限公司 | 基于网页标签的安全监控方法和系统 |
CN105718351B (zh) * | 2016-01-08 | 2018-02-09 | 北京汇商融通信息技术有限公司 | 一种面向Hadoop集群的分布式监控管理系统 |
CN105868533B (zh) * | 2016-03-23 | 2018-12-14 | 四川理工学院 | 基于物联网和3s技术江河流域水环境集成感知与应用方法 |
CN106549829B (zh) * | 2016-10-28 | 2019-11-12 | 北方工业大学 | 大数据计算平台监控系统及方法 |
CN106569059A (zh) * | 2016-11-01 | 2017-04-19 | 广西电网有限责任公司电力科学研究院 | 一种具备将测试数据转结构化功能的生产业务系统 |
CN107122464B (zh) * | 2017-04-27 | 2020-05-01 | 国信优易数据有限公司 | 一种辅助决策系统及方法 |
CN107256293B (zh) * | 2017-05-24 | 2020-09-15 | 南京雨后地软环境技术有限公司 | 一种气候-生态系统耦合建模方法 |
CN107862438A (zh) * | 2017-10-16 | 2018-03-30 | 南京邮电大学 | 一种基于专家系统的多客户端智慧水务管理平台 |
CN108038137B (zh) * | 2017-11-23 | 2022-01-18 | 许遐祯 | 一种基于分布式解析引擎的海上风能评估系统 |
CN108387698A (zh) * | 2018-01-16 | 2018-08-10 | 湖州华科信息咨询有限公司 | 一种用于安全监测游泳池水质的方法和装置 |
CN108196951B (zh) * | 2018-01-30 | 2021-10-15 | 成都信息工程大学 | Gpu流域径流模拟分布式调度系统及方法 |
CN108846572B (zh) * | 2018-06-11 | 2022-02-18 | 江苏省环境科学研究院 | 一种流域水生态功能分区与生态管理相耦合的细分方法 |
CN109213837B (zh) * | 2018-08-27 | 2019-12-31 | 北京师范大学 | 一种流域多模型集成数据处理方法 |
CN109756334A (zh) * | 2018-11-26 | 2019-05-14 | 西安得安信息技术有限公司 | 面向密钥管理的运维监控系统 |
CN109918740B (zh) * | 2019-02-13 | 2020-10-02 | 北京科技大学 | 一种适用于大规模分布式水文模拟的并行方法 |
JP6878486B2 (ja) * | 2019-03-29 | 2021-05-26 | 楽天グループ株式会社 | 情報処理装置、情報処理方法、プログラム |
CN110225111A (zh) * | 2019-06-06 | 2019-09-10 | 武汉市智驾科技有限公司 | 一种高性能计算及云计算混合算法系统及资源管理方法 |
CN111189492A (zh) * | 2019-11-21 | 2020-05-22 | 浙江华珍科技有限公司 | 一种地下水环境监测系统 |
CN113037584B (zh) * | 2019-12-25 | 2023-10-20 | 北京东土科技股份有限公司 | 一种节点状态检测方法、装置、设备及存储介质 |
CN111274775B (zh) * | 2020-01-20 | 2021-10-08 | 清华大学 | 流域水环境模型验证系统 |
CN111431902B (zh) * | 2020-03-24 | 2020-12-04 | 深圳市中盛瑞达科技有限公司 | 大数据一体机 |
CN112115211A (zh) * | 2020-09-19 | 2020-12-22 | 东方蓝天钛金科技有限公司 | 一种检测报告查询系统及其查询方法 |
CN113033865B (zh) * | 2021-01-29 | 2023-05-23 | 南方海洋科学与工程广东省实验室(广州) | 一种生态安全预警系统 |
CN113780826B (zh) * | 2021-09-14 | 2024-04-30 | 中国环境科学研究院 | 基于长江流域水环境模型的集成及可视化决策分析方法 |
CN115934005B (zh) * | 2023-03-13 | 2023-09-22 | 深圳中科超算技术有限公司 | 一种数据存储方法和系统 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103324539B (zh) * | 2013-06-24 | 2017-05-24 | 浪潮电子信息产业股份有限公司 | 一种作业调度管理系统及方法 |
-
2014
- 2014-09-26 CN CN201410506093.5A patent/CN104268695B/zh active Active
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109696536B (zh) * | 2018-12-21 | 2021-09-07 | 武汉飞流智能技术有限公司 | 一种水质监测采样探头 |
Also Published As
Publication number | Publication date |
---|---|
CN104268695A (zh) | 2015-01-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104268695B (zh) | 一种多中心流域水环境分布式集群管理系统及方法 | |
CN102882969B (zh) | 一种工矿企业的安全生产云服务平台 | |
CN102932419B (zh) | 一种用于面向工矿企业的安全生产云服务平台的数据存储系统 | |
CN102917032B (zh) | 一种工矿企业的安全生产云服务平台 | |
CN102880802B (zh) | 一种用于面向工矿企业安全生产云服务平台系统的重大危险源的分析评价方法 | |
CN105843182A (zh) | 一种基于oms的电力调度事故预案系统及方法 | |
CN102929827B (zh) | 一种用于矿企安全生产云平台的无线传感器数据采集集群 | |
CN102903011A (zh) | 一种用于面向工矿企业的安全生产云服务平台的海量数据处理系统 | |
CN105574657A (zh) | 智能警务实战综合应用平台 | |
CN110007913A (zh) | 可视化的数据处理流程设置方法、装置、设备及存储介质 | |
CN102903010A (zh) | 一种用于面向工矿企业的安全生产云服务平台的基于支持向量机的异常判断方法 | |
CN109491642A (zh) | 一种基于场景的需求建模系统及方法、信息数据处理终端 | |
CN108777637A (zh) | 一种支持服务器异构的数据中心综合管理系统和方法 | |
CN111488420B (zh) | 去中心微服务化区域洪水预警水信息系统及其集成方法 | |
Gomes et al. | An infrastructure model for smart cities based on big data | |
CN112883001A (zh) | 一种基于营配贯通数据可视化平台的数据处理方法、装置及介质 | |
CN108647886A (zh) | 科学计算流程管理系统 | |
CN102903009A (zh) | 一种用于面向工矿企业的安全生产云服务平台的基于广义规则推理的异常诊断方法 | |
CN102915482A (zh) | 一种用于面向工矿企业云服务平台安全生产过程控制与管理方法 | |
Kong et al. | The method and application of big data mining for mobile trajectory of taxi based on MapReduce | |
CN109460299B (zh) | 一种分布式并行多源社交网络数据采集系统和方法 | |
CN104166581B (zh) | 一种面向增量制造设备的虚拟化方法 | |
Baracho et al. | A proposal for developing a comprehensive ontology for smart cities/smart buildings/smart life | |
CN112948353A (zh) | 一种应用于DAstudio的数据分析方法、系统及存储介质 | |
Adhikari et al. | Use of big data analytics in WASH sector |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
TR01 | Transfer of patent right | ||
TR01 | Transfer of patent right |
Effective date of registration: 20220829 Address after: Room 401, Building A1, Zhongan Chuanggu Science and Technology Park, Wangjiang West Road, High-tech Zone, Hefei City, Anhui Province, 230000 Patentee after: Luojia Haojing Digital Technology (Hefei) Co.,Ltd. Address before: 430072 Hubei Province, Wuhan city Wuchang District of Wuhan University Luojiashan Patentee before: WUHAN University |