CN117217412B - 一种基于资源化利用的无废城市建设管理系统 - Google Patents
一种基于资源化利用的无废城市建设管理系统 Download PDFInfo
- Publication number
- CN117217412B CN117217412B CN202311233188.XA CN202311233188A CN117217412B CN 117217412 B CN117217412 B CN 117217412B CN 202311233188 A CN202311233188 A CN 202311233188A CN 117217412 B CN117217412 B CN 117217412B
- Authority
- CN
- China
- Prior art keywords
- data
- waste
- resource
- management
- database
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 239000002699 waste material Substances 0.000 title claims abstract description 76
- 238000009430 construction management Methods 0.000 title claims abstract description 9
- 239000002910 solid waste Substances 0.000 claims abstract description 70
- 238000000034 method Methods 0.000 claims abstract description 37
- 230000008569 process Effects 0.000 claims abstract description 29
- 238000012544 monitoring process Methods 0.000 claims abstract description 23
- 238000012545 processing Methods 0.000 claims abstract description 23
- 230000000007 visual effect Effects 0.000 claims abstract description 21
- 238000013480 data collection Methods 0.000 claims abstract description 13
- 238000003860 storage Methods 0.000 claims abstract description 13
- 238000011156 evaluation Methods 0.000 claims abstract description 10
- 238000007726 management method Methods 0.000 claims description 99
- 238000004458 analytical method Methods 0.000 claims description 42
- 238000012549 training Methods 0.000 claims description 32
- 230000006870 function Effects 0.000 claims description 28
- 238000010276 construction Methods 0.000 claims description 26
- 239000011159 matrix material Substances 0.000 claims description 26
- 239000010813 municipal solid waste Substances 0.000 claims description 25
- 238000004140 cleaning Methods 0.000 claims description 21
- 238000005516 engineering process Methods 0.000 claims description 14
- 238000006243 chemical reaction Methods 0.000 claims description 12
- 238000009826 distribution Methods 0.000 claims description 10
- 239000002906 medical waste Substances 0.000 claims description 10
- 238000013523 data management Methods 0.000 claims description 9
- 238000004364 calculation method Methods 0.000 claims description 8
- 239000010802 sludge Substances 0.000 claims description 8
- 238000011161 development Methods 0.000 claims description 7
- 230000018109 developmental process Effects 0.000 claims description 7
- 238000004519 manufacturing process Methods 0.000 claims description 7
- 230000009467 reduction Effects 0.000 claims description 7
- OKTJSMMVPCPJKN-UHFFFAOYSA-N Carbon Chemical compound [C] OKTJSMMVPCPJKN-UHFFFAOYSA-N 0.000 claims description 6
- 230000002159 abnormal effect Effects 0.000 claims description 6
- 230000006978 adaptation Effects 0.000 claims description 6
- 239000002154 agricultural waste Substances 0.000 claims description 6
- 229910052799 carbon Inorganic materials 0.000 claims description 6
- 230000003993 interaction Effects 0.000 claims description 6
- 238000012423 maintenance Methods 0.000 claims description 6
- 238000013507 mapping Methods 0.000 claims description 6
- 238000003032 molecular docking Methods 0.000 claims description 6
- 230000011218 segmentation Effects 0.000 claims description 6
- 238000013500 data storage Methods 0.000 claims description 5
- 230000007613 environmental effect Effects 0.000 claims description 4
- 238000012800 visualization Methods 0.000 claims description 4
- 238000013528 artificial neural network Methods 0.000 claims description 3
- 230000006399 behavior Effects 0.000 claims description 3
- 238000007405 data analysis Methods 0.000 claims description 3
- 238000013075 data extraction Methods 0.000 claims description 3
- 238000013499 data model Methods 0.000 claims description 3
- 238000013135 deep learning Methods 0.000 claims description 3
- 238000012217 deletion Methods 0.000 claims description 3
- 230000037430 deletion Effects 0.000 claims description 3
- 238000013461 design Methods 0.000 claims description 3
- 238000003064 k means clustering Methods 0.000 claims description 3
- 238000011068 loading method Methods 0.000 claims description 3
- 230000007774 longterm Effects 0.000 claims description 3
- 239000000463 material Substances 0.000 claims description 3
- 230000007246 mechanism Effects 0.000 claims description 3
- 230000008447 perception Effects 0.000 claims description 3
- 238000007781 pre-processing Methods 0.000 claims description 3
- 238000012797 qualification Methods 0.000 claims description 3
- 230000000694 effects Effects 0.000 claims description 2
- 238000004064 recycling Methods 0.000 claims 6
- 230000010354 integration Effects 0.000 description 4
- 239000010921 garden waste Substances 0.000 description 2
- 239000002920 hazardous waste Substances 0.000 description 2
- 239000000047 product Substances 0.000 description 2
- -1 renewable resources Substances 0.000 description 2
- 239000013589 supplement Substances 0.000 description 2
- 206010063385 Intellectualisation Diseases 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000001737 promoting effect Effects 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Landscapes
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种基于资源化利用的无废城市建设管理系统,包括:无废大数据资源中心、无废城市专项管理系统、无废业务能力中台、业务应用系统、无废城市整体数据汇集展示系统、固废动态监管中心。无废大数据资源中心用于收集、存储、处理和分析各项数据;无废城市专项管理系统用于固废资源的分类管理、评估和分配,实现资源化利用的全过程监管;固废动态监管中心用于实时监测和预警固废资源的动态情况,实现对固废资源产生、流向、利用环节的监控和预警。通过数字化方式,实现跨部门、跨层级、跨领域的数据共享与平台互联互通,实现对固体废物产生、收集、贮存、运输、利用和处理处置的全过程业务办理、可视化监督和信息管理。
Description
技术领域
本发明涉及无废城市技术领域,尤其涉及一种基于资源化利用的无废城市建设管理系统。
背景技术
“无废城市”是以创新、协调、绿色、开放、共享的新发展理念为引领,通过推动形成绿色发展方式和生活方式,持续推进固体废物源头减量和资源化利用,最大限度减少填埋量,将固体废物环境影响降至最低的城市发展模式,也是一种先进的城市管理理念。无废城市管理系统是指一种以减少、回收和处理城市垃圾为核心的综合管理系统,它通过优化废物处理流程、提高资源利用率、推广可持续发展理念等手段,实现城市垃圾产生量的减少和清理工作的高效执行,进而实现对城市垃圾的全面管理和资源的最大化利用。然而,现有的固废监管存在一般工业固废和医疗固废仅以填报展示为主,缺乏对数据的二次分析应用;农业固废尚未实现全面信息化监管,大多固废信息以年度统计为主,难以实现动态监管等问题;且各部门的固废监管尚未实现互联互通,集成的信息化管理平台暂未建立,不同系统平台之间业务难以协同,不能满足当前环境业务管理需求和“无废城市”建设要求。
发明内容
针对现有固废数据不满足全过程监管、部分数据存在不确定性、数据精细化程度不足,且平台功能不完善等问题,本发明提出一种基于资源化利用的无废城市建设管理系统,实现无废城市管理的数据资源化、资源标准化、服务共享化以及报表智能化。
为了实现上述目的,本发明通过如下的技术方案来实现:
一种基于资源化利用的无废城市建设管理系统,所述系统包括:无废大数据资源中心、无废城市专项管理系统、无废业务能力中台、业务应用系统、无废城市整体数据汇集展示系统、固废动态监管中心;
所述无废大数据资源中心用于收集、存储、处理和分析各项数据,包括固废数据资源目录、数据资源中心、数据管理平台和交换共享平台;
所述无废城市专项管理系统用于固废资源的分类管理、评估和分配,实现资源化利用的全过程监管;包括一般工业固废全过程管理子系统、危险废弃物全过程管理子系统、生活垃圾全过程管理子系统、建筑垃圾全过程管理子系统、农业废弃物全过程管理子系统,以及单独重点监管废弃物子系统;所述单独重点监管废弃物子系统用于对医疗废物、市政污泥、再生资源和园林绿化垃圾进行管理;
所述无废业务能力中台用于通过接口和服务的方式,集成和提供无废城市相关的核心业务功能,为固废专项管理系统和业务应用系统提供业务能力支持,实现数据交互和功能互通;
所述业务应用系统包括无废城市政府监管指挥中心、无废城市企业综合服务中心、无废城市公众智慧服务中心以及创新应用场景;所述无废城市政府监管指挥中心用于报表生成、考评管理、业务监管、决策支持、信用评价和舆情监控;所述无废城市企业综合服务中心用于综合交易服务、查询服务和示范项目展示;所述无废城市公众智慧服务平台用于上线无废学院,提供无废城市的学习材料供学习查询;所述创新应用场景用于企业碳核算体系建设、无废园区业务支持和无废城市碳减排业务;
所述无废城市整体数据汇集展示系统用于通过可视化界面展示无废资源利用情况,包括建设成效可视化一张图、无废指标可视化一张图、固废大数据可视化一张图、示范项目可视化一张图和其他可视化图;所述其他可视化图包括无废细胞可视化一张图;
所述固废动态监管中心用于实时监测和预警固废资源的动态情况,通过与无废大数据资源中心和固废专项管理系统的数据交互,实现对固废资源产生、流向、利用环节的监控和预警,包括产生源监管、中端收运监管、后端无害化处置监管,以及末端资源化利用监管;
所述数据库用于采用Hadoop的大数据技术实现系统各项数据的智能存储。
优选地,所述固废数据资源目录包括资源编目、资源注册、资源发布、资源访问和资源维护;
所述资源编目具体为从环境信息资源库提取数据源文件,形成元数据,进行目录编辑,形成目录内容;
所述资源注册具体为将编目形成的元数据进行资源提交、审核和入库,对于通过目录中心的管理机构审核的元数据生成核心元数据,放入核心元数据库中,形成正式目录;
所述资源发布具体为根据已注册的核心元数据生成、发布和维护目录内容;
所述资源访问具体为用户向目录服务器发送目录查询请求,目录服务器根据查询条件和用户权限将查询结果返回给使用者;
所述资源维护具体为对资源目录内容进行定时保存、备份、恢复与注销,对目录服务器进行监控,根据查询日志,统计访问系统的次数和分析不同数据资源的查询次数。
优选地,所述数据资源中心包括业务数据存储库、基础数据库、标准数据存储库和数据集市数据库;
所述业务数据存储库用于保存各业务系统定期采集的原始数据;
所述基础数据库用于支持基础数据管理和数据共享服务,包括应用资源管理数据库、元数据库、公共属性库、资源目录数据库、环境知识数据库、数据搜索数据库和空间地理库;
所述标准数据存储库用于按照主题域进行标准数据设计,实现环境数据的核心数据模型,为资源目录、数据服务提供支撑;
所述数据集市数据库用于在业务数据和标准数据的基础上,根据分析专题、使用部门、业务目标构建数据集市进行存储,所述数据集市包括数据获取层、数据层、应用层和访问层;
所述数据获取层用于通过数据抽取、清洗、转换和加载过程从无废大数据资源中心获取数据,包括从外部系统直接导入格式化的数据;
所述数据层用于面向数据集市进行数据集中存储和管理;
所述应用层包括功能子层、应用子层和信息适配子层;所述功能子层用于监控预警、信息推送、自助分析、数据收集和精准监管,所述应用子层用于危险废物分析、一般工业固废分析、农业废弃物分析、生活垃圾分析、建筑垃圾分析、医疗废物分析、再生资源分析、市政污泥分析、园林绿化废弃物分析,所述信息适配子层用于对不同角色信息匹配解决方法,为数据集市使用人员定制应用支撑方案;
所述访问层用于实现报表展示,通过短信、邮件、移动APP或小程序开发应用,使一线业务人员获取数据信息。
优选地,所述数据管理平台用于统一提供数据库资源管理和数据库建模管理;所述数据库资源管理包括数据库管理、数据库用户管理和数据库权限管理,所述数据库建模管理包括表管理、字段管理、ER关系管理、视图管理、函数管理、索引管理和存储过程管理。
优选地,所述交换共享平台包括数据采集模块、数据处理模块、数据共享模块和数据质量监控模块;
所述数据采集模块用于通过收集基础设备采集数据、系统对接数据和用户填报数据,分为结构化数据和非结构化数据;所述结构化数据采用统一结构加以表示和存储;
所述数据处理模块用于对所述非结构化数据进行数据解析、数据清洗和数据交换;
所述数据共享模块用于和无废业务能力中台、固废专项管理系统、业务应用系统、无废城市整体数据汇集展示系统共享数据;
所述数据质量监控模块用于根据数据质量规则对数据进行监控分析。
优选地,所述数据解析具体包括:利用Term Weighting、文本分析技术对收集的非结构化数据进行解析,基于序列标注的分词思想,采用深度学习技术对解析后的文本数据进行分词处理,针对单个文本串首先对其进行序列标注和重要性打分,然后采用词向量技术分析词与词之间的关系,建立环境信息文本分类体系,实现对环境信息非结构化数据的结构化处理;
所述数据清洗具体包括:
对解析后的非结构化进行数据预处理,设置语义标签,形成多源异构数据;
通过K_means聚类算法对所述多源异构数据中残留的冗余数据、异常数据和缺失数据进行分析,确定有缺失数据的多源异构数据;
将所述有缺失数据的多源异构数据输入训练模型,输出缺失数据填补矩阵;
通过缺失数据填补矩阵对所述有缺失数据的多源异构数据进行填充,进行多源异构数据的融合和清洗;
所述数据交换具体包括:采用DTD算法,对清洗后的数据配置数据转换规则进行数据转换,将不同来源的数据进行统一转换处理;设定计算规则,按照不同维度对数据进行拆分、汇总、整合,从而形成数据源文件。
优选地,所述训练模型具体为:
选取多层感知神经网络构建生成模型和判别模型,并初始化生成模型和判别模型的模型参数;
构建生成模型的真实数据训练集,训练生成模型模拟真实数据各属性特征之间的映射关系,训练判别模型学习数据与数据缺失概率之间的映射关系;
通过训练后的生成模型生成缺失数据填补矩阵,通过训练后的判别模型判别确实数据填补矩阵的数据缺失概率;
判断生成模型的生成数据结果和判别模型的判别结果是否达到纳什均衡,若未达到,则对所述模型参数进行更新迭代,否则训练结束;
所述判别模型的代价函数D(P)为:
所述生成模型的代价函数D(S)为:D(S)=-D(P)
式中,P和S分别表示判别模型函数和生成模型函数;E表示期望,ExlogP(x)表示判别模型判别出输入x是真实数据样本的情况,EPlog(I-P(S))表示判别模型判别出是生成数据样本的情况;
所述生成模型的损失函数为L(S):
所述判别模型的损失函数为L(P):
式中,n表示训练样本数量;对于真实数据,ai表示属性特征字段i的值,a-i表示其他属性特征字段;Si(a-i)表示生成模型计算出属性特征数据ai的缺失概率;Pi(ai)表示判别模型输出对应属性特征的缺失概率;δ表示正则化参数;ωs表示生成模型训练学习权重;ωP表示判别模型训练学习权重;m为属性特征数量;Mkj表示缺失数据填补矩阵第k行第j列的值;
当新输入的缺失数据填补矩阵Anew和上一次迭代输入的缺失数据填补矩阵Aold的差值开始增大时,表示输出结果已经收敛,停止迭代过程;
通过如下公式评估训练模型的数据清洗性能:
式中,RMSE表示均方根误差,items表示多源异构数据对象的属性特征确实的数量;Amiss表示含有缺失数据的属性特征矩阵。
优选地,所述对数据进行监控分析,包括数据的及时率、有效率、完整率计算,及时率为:依据数据库接口表的交换频率,计算数据实际到达时间和数据基准到达时间的差值,根据差值进行数据表及时性评估,满分100分,每延迟10分钟扣1分,扣完为止,然后根据所有接口表的及时性计算得出整个数据库的及时性;有效率为:分别统计数据库接口表中空表和有数据表的数量,计算出空表率即为有效率;完整率为:分别统计数据库接口表的空字段数量和总字段数量,计算空字段占比作为表的完整率率,然后根据所有表的空字段比例,计算整个数据库的空字段比例从而得出数据库数据完整率;依据计算出的及时率、有效率、完整率,按照4:3:3的权重,计算得出数据质量综合指数。
优选地,所述固废动态监管中心中,产生源监管具体为对接无废城市专项管理系统数据,动态展示各类固废产生源分布、产废类型、产生量及减量情况;中端收运监管具体为通过北斗卫星导航系统对接视频数据信号对运输车辆实施监管,对于偏离常规行驶轨迹、异常地点长久停驻、产废和处废间车辆重量不匹配的行为,自动调取全部视频和图片进行存档并预警体系,同时将预警信息推送到所有相关部门,相关部门处理信息同步更新到系统;后端无害化处置监管具体为对进出厂计量信息、仓库动态、出入库台账、处置工况、环保排放、次生废物去向、产品去向进行监管;末端资源化利用监管具体为对一般工业固废、农业垃圾、生活垃圾、建筑垃圾、危废资源化利用进行管理,对资源化利用量进行统计,对资源化利用终端的处置资质、基础信息、出入情况、资源利用量等进行监管。
与现有技术相比,本发明的有益效果是:通过数字化方式,统筹整合工业、农业、建筑、生活、危废、再生资源、医疗垃圾、污泥及绿化园林废弃物等固体废弃物,实现跨部门、跨层级、跨领域的数据共享与平台互联互通。整合各类固体废物信息化数据,依托现有生活垃圾、建筑垃圾、医疗废物、危险废物等信息化平台为数据基础底座,补充一般工业固废、农业固体废物相关数据,实现对固体废物产生、收集、贮存、运输、利用和处理处置的全过程业务办理、可视化监督和信息管理,构建有效完整的可追溯的统计数据,实现全周期、智能化、闭环式管理。通过训练模型生成缺失数据填补矩阵,降低了拟合真实数据样本分布的复杂计算和扩展到高纬度的难度,进一步提高多源异构数据清洗的有效性。采用数据整合技术,实现多源数据有效整合、高效利用。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
其中:
图1为本发明实施例的系统模块化结构图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例的附图,对本发明实施例的技术方案进行清楚、完整地描述。显然,所描述的实施例是本发明的一部分实施例,而不是全部的实施例。基于所描述的本发明的实施例,本领域普通技术人员所获得的所有其他实施例,都属于本发明保护的范围。
如图1所示,为本发明的一个实施例,该实施例提供了一种基于资源化利用的无废城市建设管理系统,系统包括:无废大数据资源中心、无废城市专项管理系统、无废业务能力中台、业务应用系统、无废城市整体数据汇集展示系统、固废动态监管中心;
无废大数据资源中心用于收集、存储、处理和分析各项数据,包括固废数据资源目录、数据资源中心、数据管理平台和交换共享平台;
无废城市专项管理系统用于固废资源的分类管理、评估和分配,实现资源化利用的全过程监管;包括一般工业固废全过程管理子系统、危险废弃物全过程管理子系统、生活垃圾全过程管理子系统、建筑垃圾全过程管理子系统、农业废弃物全过程管理子系统,以及单独重点监管废弃物子系统;单独重点监管废弃物子系统用于对医疗废物、市政污泥、再生资源和园林绿化垃圾进行管理;
无废业务能力中台用于通过接口和服务的方式,集成和提供无废城市相关的核心业务功能,为固废专项管理系统和业务应用系统提供业务能力支持,实现数据交互和功能互通;
业务应用系统包括无废城市政府监管指挥中心、无废城市企业综合服务中心、无废城市公众智慧服务中心以及创新应用场景;无废城市政府监管指挥中心用于报表生成、考评管理、业务监管、决策支持、信用评价和舆情监控;无废城市企业综合服务中心用于综合交易服务、查询服务和示范项目展示;无废城市公众智慧服务平台用于上线无废学院,提供无废城市的学习材料供学习查询;创新应用场景用于企业碳核算体系建设、无废园区业务支持和无废城市碳减排业务;
无废城市整体数据汇集展示系统用于通过可视化界面展示无废资源利用情况,包括建设成效可视化一张图、无废指标可视化一张图、固废大数据可视化一张图、示范项目可视化一张图和其他可视化图;其他可视化图包括无废细胞可视化一张图;
固废动态监管中心用于实时监测和预警固废资源的动态情况,通过与无废大数据资源中心和固废专项管理系统的数据交互,实现对固废资源产生、流向、利用环节的监控和预警,包括产生源监管、中端收运监管、后端无害化处置监管,以及末端资源化利用监管;
数据库用于采用Hadoop的大数据技术实现系统各项数据的智能存储。
在其中一个实施例中,固废数据资源目录包括资源编目、资源注册、资源发布、资源访问和资源维护;
资源编目具体为从环境信息资源库提取数据源文件,形成元数据,进行目录编辑,形成目录内容;
资源注册具体为将编目形成的元数据进行资源提交、审核和入库,对于通过目录中心的管理机构审核的元数据生成核心元数据,放入核心元数据库中,形成正式目录;
资源发布具体为根据已注册的核心元数据生成、发布和维护目录内容;
资源访问具体为用户向目录服务器发送目录查询请求,目录服务器根据查询条件和用户权限将查询结果返回给使用者;
资源维护具体为对资源目录内容进行定时保存、备份、恢复与注销,对目录服务器进行监控,根据查询日志,统计访问系统的次数和分析不同数据资源的查询次数。
在其中一个实施例中,数据资源中心包括业务数据存储库、基础数据库、标准数据存储库和数据集市数据库;
业务数据存储库用于保存各业务系统定期采集的原始数据;
基础数据库用于支持基础数据管理和数据共享服务,包括应用资源管理数据库、元数据库、公共属性库、资源目录数据库、环境知识数据库、数据搜索数据库和空间地理库;
标准数据存储库用于按照主题域进行标准数据设计,实现环境数据的核心数据模型,为资源目录、数据服务提供支撑;
数据集市数据库用于在业务数据和标准数据的基础上,根据分析专题、使用部门、业务目标构建数据集市进行存储,数据集市包括数据获取层、数据层、应用层和访问层;
数据获取层用于通过数据抽取、清洗、转换和加载过程从无废大数据资源中心获取数据,包括从外部系统直接导入格式化的数据;
数据层用于面向数据集市进行数据集中存储和管理;
应用层包括功能子层、应用子层和信息适配子层;功能子层用于监控预警、信息推送、自助分析、数据收集和精准监管,应用子层用于危险废物分析、一般工业固废分析、农业废弃物分析、生活垃圾分析、建筑垃圾分析、医疗废物分析、再生资源分析、市政污泥分析、园林绿化废弃物分析,信息适配子层用于对不同角色信息匹配解决方法,为数据集市使用人员定制应用支撑方案;
访问层用于实现报表展示,通过短信、邮件、移动APP或小程序开发应用,使一线业务人员获取数据信息。
在其中一个实施例中,数据管理平台用于统一提供数据库资源管理和数据库建模管理;数据库资源管理包括数据库管理、数据库用户管理和数据库权限管理,数据库建模管理包括表管理、字段管理、ER关系管理、视图管理、函数管理、索引管理和存储过程管理。
在其中一个实施例中,交换共享平台包括数据采集模块、数据处理模块、数据共享模块和数据质量监控模块;
数据采集模块用于通过收集基础设备采集数据、系统对接数据和用户填报数据,分为结构化数据和非结构化数据;结构化数据采用统一结构加以表示和存储;
数据处理模块用于对非结构化数据进行数据解析、数据清洗和数据交换;
数据共享模块用于和无废业务能力中台、固废专项管理系统、业务应用系统、无废城市整体数据汇集展示系统共享数据;
数据质量监控模块用于根据数据质量规则对数据进行监控分析。
在其中一个实施例中,数据解析具体包括:利用Term Weighting、文本分析技术对收集的非结构化数据进行解析,基于序列标注的分词思想,采用深度学习技术对解析后的文本数据进行分词处理,针对单个文本串首先对其进行序列标注和重要性打分,然后采用词向量技术分析词与词之间的关系,建立环境信息文本分类体系,实现对环境信息非结构化数据的结构化处理;
数据清洗具体包括:
对解析后的非结构化进行数据预处理,设置语义标签,形成多源异构数据;
通过K-means聚类算法对多源异构数据中残留的冗余数据、异常数据和缺失数据进行分析,确定有缺失数据的多源异构数据;
将有缺失数据的多源异构数据输入训练模型,输出缺失数据填补矩阵;
通过缺失数据填补矩阵对有缺失数据的多源异构数据进行填充,进行多源异构数据的融合和清洗;
数据交换具体包括:采用DTD算法,对清洗后的数据配置数据转换规则进行数据转换,将不同来源的数据进行统一转换处理;设定计算规则,按照不同维度对数据进行拆分、汇总、整合,从而形成数据源文件。
在其中一个实施例中,训练模型具体为:
选取多层感知神经网络构建生成模型和判别模型,并初始化生成模型和判别模型的模型参数;
构建生成模型的真实数据训练集,训练生成模型模拟真实数据各属性特征之间的映射关系,训练判别模型学习数据与数据缺失概率之间的映射关系;
通过训练后的生成模型生成缺失数据填补矩阵,通过训练后的判别模型判别确实数据填补矩阵的数据缺失概率;
判断生成模型的生成数据结果和判别模型的判别结果是否达到纳什均衡,若未达到,则对模型参数进行更新迭代,否则训练结束;
判别模型的代价函数D(P)为:
生成模型的代价函数D(S)为:D(S)=-D(P)
式中,P和S分别表示判别模型函数和生成模型函数;E表示期望,ExlogP(x)表示判别模型判别出输入x是真实数据样本的情况,EPlog(1-P(S))表示判别模型判别出是生成数据样本的情况;
生成模型的损失函数为L(S):
判别模型的损失函数为L(P):
式中,n表示训练样本数量;对于真实数据,ai表示属性特征字段i的值,a-i表示其他属性特征字段;Si(a-i)表示生成模型计算出属性特征数据ai的缺失概率;Pi(ai)表示判别模型输出对应属性特征的缺失概率;δ表示正则化参数;ωs表示生成模型训练学习权重;ωP表示判别模型训练学习权重;m为属性特征数量;Mkj表示缺失数据填补矩阵第k行第j列的值;
当新输入的缺失数据填补矩阵Anew和上一次迭代输入的缺失数据填补矩阵Aold的差值开始增大时,表示输出结果已经收敛,停止迭代过程;
通过如下公式评估训练模型的数据清洗性能:
式中,RMSE表示均方根误差,items表示多源异构数据对象的属性特征确实的数量;Amiss表示含有缺失数据的属性特征矩阵。
在其中一个实施例中,对数据进行监控分析,包括数据的及时率、有效率、完整率计算,及时率为:依据数据库接口表的交换频率,计算数据实际到达时间和数据基准到达时间的差值,根据差值进行数据表及时性评估,满分100分,每延迟10分钟扣1分,扣完为止,然后根据所有接口表的及时性计算得出整个数据库的及时性;有效率为:分别统计数据库接口表中空表和有数据表的数量,计算出空表率即为有效率;完整率为:分别统计数据库接口表的空字段数量和总字段数量,计算空字段占比作为表的完整率率,然后根据所有表的空字段比例,计算整个数据库的空字段比例从而得出数据库数据完整率;依据计算出的及时率、有效率、完整率,按照4:3:3的权重,计算得出数据质量综合指数。
在其中一个实施例中,固废动态监管中心中,产生源监管具体为对接无废城市专项管理系统数据,动态展示各类固废产生源分布、产废类型、产生量及减量情况;中端收运监管具体为通过北斗卫星导航系统对接视频数据信号对运输车辆实施监管,对于偏离常规行驶轨迹、异常地点长久停驻、产废和处废间车辆重量不匹配的行为,自动调取全部视频和图片进行存档并预警体系,同时将预警信息推送到所有相关部门,相关部门处理信息同步更新到系统;后端无害化处置监管具体为对进出厂计量信息、仓库动态、出入库台账、处置工况、环保排放、次生废物去向、产品去向进行监管;末端资源化利用监管具体为对一般工业固废、农业垃圾、生活垃圾、建筑垃圾、危废资源化利用进行管理,对资源化利用量进行统计,对资源化利用终端的处置资质、基础信息、出入情况、资源利用量等进行监管。
综上所述,本发明通过数字化方式,统筹整合工业、农业、建筑、生活、危废、再生资源、医疗垃圾、污泥及绿化园林废弃物等固体废弃物,实现跨部门、跨层级、跨领域的数据共享与平台互联互通。整合各类固体废物信息化数据,依托现有生活垃圾、建筑垃圾、医疗废物、危险废物等信息化平台为数据基础底座,补充一般工业固废、农业固体废物相关数据,实现对固体废物产生、收集、贮存、运输、利用和处理处置的全过程业务办理、可视化监督和信息管理,构建有效完整的可追溯的统计数据,实现全周期、智能化、闭环式管理。通过训练模型生成缺失数据填补矩阵,降低了拟合真实数据样本分布的复杂计算和扩展到高纬度的难度,进一步提高多源异构数据清洗的有效性。采用数据整合技术,实现多源数据有效整合、高效利用。
以上所述,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到其各种变化或替换,这些都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以权利要求的保护范围为准。
Claims (9)
1.一种基于资源化利用的无废城市建设管理系统,其特征在于,所述系统包括:无废大数据资源中心、无废城市专项管理系统、无废业务能力中台、业务应用系统、无废城市整体数据汇集展示系统、固废动态监管中心;
所述无废大数据资源中心用于收集、存储、处理和分析各项数据,采用Hadoop的大数据技术实现系统各项数据的智能存储,包括固废数据资源目录、数据资源中心、数据管理平台和交换共享平台;
所述无废城市专项管理系统用于固废资源的分类管理、评估和分配,实现资源化利用的全过程监管;包括一般工业固废全过程管理子系统、危险废弃物全过程管理子系统、生活垃圾全过程管理子系统、建筑垃圾全过程管理子系统、农业废弃物全过程管理子系统,以及单独重点监管废弃物子系统;所述单独重点监管废弃物子系统用于对医疗废物、市政污泥、再生资源和园林绿化垃圾进行管理;
所述无废业务能力中台用于通过接口和服务的方式,集成和提供无废城市相关的核心业务功能,为无废城市专项管理系统和业务应用系统提供业务能力支持,实现数据交互和功能互通;所述业务应用系统包括无废城市政府监管指挥中心、无废城市企业综合服务中心、无废城市公众智慧服务中心以及创新应用场景;所述无废城市政府监管指挥中心用于报表生成、考评管理、业务监管、决策支持、信用评价和舆情监控;所述无废城市企业综合服务中心用于综合交易服务、查询服务和示范项目展示;所述无废城市公众智慧服务平台用于上线无废学院,提供无废城市的学习材料供学习查询;所述创新应用场景用于企业碳核算体系建设、无废园区业务支持和无废城市碳减排业务;
所述无废城市整体数据汇集展示系统用于通过可视化界面展示无废资源利用情况,包括建设成效可视化一张图、无废指标可视化一张图、固废大数据可视化一张图、示范项目可视化一张图和其他可视化图;所述其他可视化图包括无废细胞可视化一张图;
所述固废动态监管中心用于实时监测和预警固废资源的动态情况,通过与无废大数据资源中心和无废城市专项管理系统的数据交互,实现对固废资源产生、流向、利用环节的监控和预警,包括产生源监管、中端收运监管、后端无害化处置监管,以及末端资源化利用监管。
2.根据权利要求1所述的一种基于资源化利用的无废城市建设管理系统,其特征在于,所述固废数据资源目录包括资源编目、资源注册、资源发布、资源访问和资源维护;
所述资源编目具体为从环境信息资源库提取数据源文件,形成元数据,进行目录编辑,形成目录内容;
所述资源注册具体为将编目形成的元数据进行资源提交、审核和入库,对于通过目录中心的管理机构审核的元数据生成核心元数据,放入核心元数据库中,形成正式目录;
所述资源发布具体为根据已注册的核心元数据生成、发布和维护目录内容;
所述资源访问具体为用户向目录服务器发送目录查询请求,目录服务器根据查询条件和用户权限将查询结果返回给使用者;
所述资源维护具体为对资源目录内容进行定时保存、备份、恢复与注销,对目录服务器进行监控,根据查询日志,统计访问系统的次数和分析不同数据资源的查询次数。
3.根据权利要求1所述的一种基于资源化利用的无废城市建设管理系统,其特征在于,所述数据资源中心包括业务数据存储库、基础数据库、标准数据存储库和数据集市数据库;
所述业务数据存储库用于保存各业务系统定期采集的原始数据;
所述基础数据库用于支持基础数据管理和数据共享服务,包括应用资源管理数据库、元数据库、公共属性库、资源目录数据库、环境知识数据库、数据搜索数据库和空间地理库;
所述标准数据存储库用于按照主题域进行标准数据设计,实现环境数据的核心数据模型,为资源目录、数据服务提供支撑;
所述数据集市数据库用于在业务数据和标准数据的基础上,根据分析专题、使用部门、业务目标构建数据集市进行存储,所述数据集市包括数据获取层、数据层、应用层和访问层;
所述数据获取层用于通过数据抽取、清洗、转换和加载过程从无废大数据资源中心获取数据,包括从外部系统直接导入格式化的数据;
所述数据层用于面向数据集市进行数据集中存储和管理;
所述应用层包括功能子层、应用子层和信息适配子层;所述功能子层用于监控预警、信息推送、自助分析、数据收集和精准监管,所述应用子层用于危险废物分析、一般工业固废分析、农业废弃物分析、生活垃圾分析、建筑垃圾分析、医疗废物分析、再生资源分析、市政污泥分析、园林绿化废弃物分析,所述信息适配子层用于对不同角色信息匹配解决方法,为数据集市使用人员定制应用支撑方案;
所述访问层用于实现报表展示,通过短信、邮件、移动APP或小程序开发应用,使一线业务人员获取数据信息。
4.根据权利要求1所述的一种基于资源化利用的无废城市建设管理系统,其特征在于,所述数据管理平台用于统一提供数据库资源管理和数据库建模管理;所述数据库资源管理包括数据库管理、数据库用户管理和数据库权限管理,所述数据库建模管理包括表管理、字段管理、ER关系管理、视图管理、函数管理、索引管理和存储过程管理。
5.根据权利要求1所述的一种基于资源化利用的无废城市建设管理系统,其特征在于,所述交换共享平台包括数据采集模块、数据处理模块、数据共享模块和数据质量监控模块;
所述数据采集模块用于通过收集基础设备采集数据、系统对接数据和用户填报数据,分为结构化数据和非结构化数据;所述结构化数据采用统一结构加以表示和存储;
所述数据处理模块用于对所述非结构化数据进行数据解析、数据清洗和数据交换;
所述数据共享模块用于和无废业务能力中台、无废城市专项管理系统、业务应用系统、无废城市整体数据汇集展示系统共享数据;
所述数据质量监控模块用于根据数据质量规则对数据进行监控分析。
6.根据权利要求5所述的一种基于资源化利用的无废城市建设管理系统,其特征在于,所述数据解析具体包括:利用Term Weighting、文本分析技术对收集的非结构化数据进行解析,基于序列标注的分词思想,采用深度学习技术对解析后的文本数据进行分词处理,针对单个文本串首先对其进行序列标注和重要性打分,然后采用词向量技术分析词与词之间的关系,建立环境信息文本分类体系,实现对环境信息非结构化数据的结构化处理;
所述数据清洗具体包括:
对解析后的非结构化进行数据预处理,设置语义标签,形成多源异构数据;
通过K-means聚类算法对所述多源异构数据中残留的冗余数据、异常数据和缺失数据进行分析,确定有缺失数据的多源异构数据;
将所述有缺失数据的多源异构数据输入训练模型,输出缺失数据填补矩阵;
通过缺失数据填补矩阵对所述有缺失数据的多源异构数据进行填充,进行多源异构数据的融合和清洗;
所述数据交换具体包括:采用DTD算法,对清洗后的数据配置数据转换规则进行数据转换,将不同来源的数据进行统一转换处理;设定计算规则,按照不同维度对数据进行拆分、汇总、整合,从而形成数据源文件。
7.根据权利要求6所述的一种基于资源化利用的无废城市建设管理系统,其特征在于,所述训练模型具体为:
选取多层感知神经网络构建生成模型和判别模型,并初始化生成模型和判别模型的模型参数;构建生成模型的真实数据训练集,训练生成模型模拟真实数据各属性特征之间的映射关系,训练判别模型学习数据与数据缺失概率之间的映射关系;
通过训练后的生成模型生成缺失数据填补矩阵,通过训练后的判别模型判别确实数据填补矩阵的数据缺失概率;
判断生成模型的生成数据结果和判别模型的判别结果是否达到纳什均衡,若未达到,则对所述模型参数进行更新迭代,否则训练结束;
所述判别模型的代价函数D(P)为:
所述生成模型的代价函数D(S)为:D(S)=-D(P)
式中,P和S分别表示判别模型函数和生成模型函数;E表示期望,ExlogP(x)表示判别模型判别出输入x是真实数据样本的情况,EPlog(1-P(S))表示判别模型判别出是生成数据样本的情况;
所述生成模型的损失函数为L(S):
所述判别模型的损失函数为L(P):
式中,n表示训练样本数量;对于真实数据,ai表示属性特征字段i的值,a-i表示其他属性特征字段;Si(a-i)表示生成模型计算出属性特征数据ai的缺失概率;Pi(ai)表示判别模型输出对应属性特征的缺失概率;δ表示正则化参数;ωS表示生成模型训练学习权重;ωP表示判别模型训练学习权重;m为属性特征数量;Mkj表示缺失数据填补矩阵第k行第j列的值;
当新输入的缺失数据填补矩阵Anew和上一次迭代输入的缺失数据填补矩阵Aold的差值开始增大时,表示输出结果已经收敛,停止迭代过程;
通过如下公式评估训练模型的数据清洗性能:
式中,RMSE表示均方根误差,items表示多源异构数据对象的属性特征确实的数量;Amiss表示含有缺失数据的属性特征矩阵。
8.根据权利要求5所述的一种基于资源化利用的无废城市建设管理系统,其特征在于,所述对数据进行监控分析,包括数据的及时率、有效率、完整率计算,及时率为:依据数据库接口表的交换频率,计算数据实际到达时间和数据基准到达时间的差值,根据差值进行数据表及时性评估,满分100分,每延迟10分钟扣1分,扣完为止,然后根据所有接口表的及时性计算得出整个数据库的及时性;有效率为:分别统计数据库接口表中空表和有数据表的数量,计算出空表率即为有效率;完整率为:分别统计数据库接口表的空字段数量和总字段数量,计算空字段占比作为表的完整率率,然后根据所有表的空字段比例,计算整个数据库的空字段比例从而得出数据库数据完整率;依据计算出的及时率、有效率、完整率,按照4:3:3的权重,计算得出数据质量综合指数。
9.根据权利要求1所述的一种基于资源化利用的无废城市建设管理系统,其特征在于,所述固废动态监管中心中,产生源监管具体为对接无废城市专项管理系统数据,动态展示各类固废产生源分布、产废类型、产生量及减量情况;中端收运监管具体为通过北斗卫星导航系统对接视频数据信号对运输车辆实施监管,对于偏离常规行驶轨迹、异常地点长久停驻、产废和处废间车辆重量不匹配的行为,自动调取全部视频和图片进行存档并预警体系,同时将预警信息推送到所有相关部门,相关部门处理信息同步更新到系统;后端无害化处置监管具体为对进出厂计量信息、仓库动态、出入库台账、处置工况、环保排放、次生废物去向、产品去向进行监管;末端资源化利用监管具体为对一般工业固废、农业垃圾、生活垃圾、建筑垃圾、危废资源化利用进行管理,对资源化利用量进行统计,对资源化利用终端的处置资质、基础信息、出入情况和资源利用量进行监管。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311233188.XA CN117217412B (zh) | 2023-09-22 | 2023-09-22 | 一种基于资源化利用的无废城市建设管理系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311233188.XA CN117217412B (zh) | 2023-09-22 | 2023-09-22 | 一种基于资源化利用的无废城市建设管理系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN117217412A CN117217412A (zh) | 2023-12-12 |
CN117217412B true CN117217412B (zh) | 2024-04-16 |
Family
ID=89049247
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311233188.XA Active CN117217412B (zh) | 2023-09-22 | 2023-09-22 | 一种基于资源化利用的无废城市建设管理系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117217412B (zh) |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2013019298A1 (en) * | 2011-08-01 | 2013-02-07 | Siemens Aktiengesellschaft | A city lifecycle management system |
CN105023188A (zh) * | 2015-01-07 | 2015-11-04 | 泰华智慧产业集团股份有限公司 | 一种基于云数据的数字化城市管理数据共享系统 |
CN107894990A (zh) * | 2017-10-09 | 2018-04-10 | 中国电子科技集团公司第二十八研究所 | 一种城市通用功能平台 |
CN112085449A (zh) * | 2020-09-15 | 2020-12-15 | 杭州三晟环境服务有限公司 | 一种固体废物管理系统 |
CN114255149A (zh) * | 2022-02-09 | 2022-03-29 | 南京卓道环保科技有限公司 | 基于无废城市的固危废一张网管理系统及垃圾监管系统 |
CN114418275A (zh) * | 2021-11-29 | 2022-04-29 | 航天科工网络信息发展有限公司 | 基于大数据的城市发展态势分析方法、装置及系统 |
CN115841407A (zh) * | 2022-12-10 | 2023-03-24 | 杭州临安桓绿环境科技有限公司 | 基于物联网的无废城市监管云服务平台 |
CN116596725A (zh) * | 2023-05-16 | 2023-08-15 | 天津引元信息科技有限公司 | 一种基于区块链技术的无废城市一张网管理系统及方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115293567A (zh) * | 2022-08-03 | 2022-11-04 | 四川省生态环境科学研究院 | 一种大气污染动态管控系统及方法 |
-
2023
- 2023-09-22 CN CN202311233188.XA patent/CN117217412B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2013019298A1 (en) * | 2011-08-01 | 2013-02-07 | Siemens Aktiengesellschaft | A city lifecycle management system |
CN105023188A (zh) * | 2015-01-07 | 2015-11-04 | 泰华智慧产业集团股份有限公司 | 一种基于云数据的数字化城市管理数据共享系统 |
CN107894990A (zh) * | 2017-10-09 | 2018-04-10 | 中国电子科技集团公司第二十八研究所 | 一种城市通用功能平台 |
CN112085449A (zh) * | 2020-09-15 | 2020-12-15 | 杭州三晟环境服务有限公司 | 一种固体废物管理系统 |
CN114418275A (zh) * | 2021-11-29 | 2022-04-29 | 航天科工网络信息发展有限公司 | 基于大数据的城市发展态势分析方法、装置及系统 |
CN114255149A (zh) * | 2022-02-09 | 2022-03-29 | 南京卓道环保科技有限公司 | 基于无废城市的固危废一张网管理系统及垃圾监管系统 |
CN115841407A (zh) * | 2022-12-10 | 2023-03-24 | 杭州临安桓绿环境科技有限公司 | 基于物联网的无废城市监管云服务平台 |
CN116596725A (zh) * | 2023-05-16 | 2023-08-15 | 天津引元信息科技有限公司 | 一种基于区块链技术的无废城市一张网管理系统及方法 |
Non-Patent Citations (2)
Title |
---|
"无废城市"建设驱动下一般工业固体废物污染控制分析——以贵阳市为例;卢自勇等;《中国资源综合利用》;20230425;第41卷(第04期);148-152 * |
资源型城市建设无废城市路径与评价体系研究以XZ市为例;王明明;《中国优秀博硕士学位论文全文数据库(硕士)工程科技Ⅰ辑》;20220315(第03期);1-89 * |
Also Published As
Publication number | Publication date |
---|---|
CN117217412A (zh) | 2023-12-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110852601B (zh) | 一种用于环境监察执法决策的大数据应用方法及系统 | |
CN110866123B (zh) | 基于数据模型构建数据图谱的方法及构建数据图谱的系统 | |
CN113392227B (zh) | 面向轨道交通领域的元数据知识图谱引擎系统 | |
CN113778967B (zh) | 长江流域数据采集处理与资源共享系统 | |
CN110019176B (zh) | 提高数据治理服务成功率的数据治理控制系统 | |
CN107679221B (zh) | 面向减灾任务的时空数据获取与服务组合方案生成方法 | |
CN110347719A (zh) | 一种基于大数据的企业外贸风险预警方法及系统 | |
CN111160867A (zh) | 大范围地域停车场大数据分析系统 | |
CN114925045A (zh) | 大数据集成和管理的PaaS平台 | |
CN112527886A (zh) | 一种基于城市大脑的数据仓库系统 | |
CN113094385A (zh) | 一种基于软件定义开放工具集的数据共享融合平台及方法 | |
CN112651872A (zh) | 一种基于数据中台的社区综合治理的系统和方法 | |
CN114297410A (zh) | 一种面向应急物资管理的知识图谱技术的构建方法 | |
CN112817958A (zh) | 电力规划数据采集方法、装置及智能终端 | |
CN115934856A (zh) | 一种构造综合能源数据资产的方法和系统 | |
US20170039235A1 (en) | Air quality metrology system | |
Chadzynski et al. | Semantic 3D city interfaces—Intelligent interactions on dynamic geospatial knowledge graphs | |
CN111353085A (zh) | 一种基于特征模型的云挖掘分析网络舆情方法 | |
Chen et al. | Intelligent management information system of urban planning based on GIS | |
CN115982429B (zh) | 一种基于流程控制的知识管理方法及系统 | |
CN117217412B (zh) | 一种基于资源化利用的无废城市建设管理系统 | |
CN111581302A (zh) | 一种基于数据仓库的辅助决策系统 | |
CN117455379A (zh) | 一种基层智慧治理管理系统及方法 | |
CN115271514A (zh) | 通讯企业的监控方法、装置、电子设备及存储介质 | |
CN114817577A (zh) | 一种基于知识图谱电网知识共享及智能决策技术服务方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |