CN113376107B - 基于云平台的水质监测系统和方法 - Google Patents
基于云平台的水质监测系统和方法 Download PDFInfo
- Publication number
- CN113376107B CN113376107B CN202110490448.6A CN202110490448A CN113376107B CN 113376107 B CN113376107 B CN 113376107B CN 202110490448 A CN202110490448 A CN 202110490448A CN 113376107 B CN113376107 B CN 113376107B
- Authority
- CN
- China
- Prior art keywords
- water quality
- model
- cloud platform
- sampling
- water
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/17—Systems in which incident light is modified in accordance with the properties of the material investigated
- G01N21/25—Colour; Spectral properties, i.e. comparison of effect of material on the light at two or more different wavelengths or wavelength bands
- G01N21/31—Investigating relative effect of material at wavelengths characteristic of specific elements or molecules, e.g. atomic absorption spectrometry
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/01—Arrangements or apparatus for facilitating the optical investigation
Landscapes
- Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Chemical & Material Sciences (AREA)
- Analytical Chemistry (AREA)
- Biochemistry (AREA)
- General Health & Medical Sciences (AREA)
- General Physics & Mathematics (AREA)
- Immunology (AREA)
- Pathology (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Investigating Or Analysing Materials By Optical Means (AREA)
Abstract
本发明涉及基于云平台的水质监测系统,包括采样终端机和云平台;采样终端机包括浸入式探头、光源、光谱仪和上位机,浸入式探头包括用于容纳水样的狭缝、反射镜和光纤接口。工作时,光源产生的紫外可见光经光纤通过探头狭缝中的水样,经反射镜反射再次通过水样后,经光纤传输到光谱仪得到水样光谱;在上位机建立水质指标和有害物质光谱预测模型。多个采样点的光谱数据由上位机上传到统一的云平台,在云平台上利用数据迁移理论对多采样点的数据进行处理,实现对上位机的水质预测模型的参数进行校正。本发明基于数据迁移原理利用云平台上的多采样点数据对模型进行校正,利用了云平台上的大数据优势,提供了比基于单一采样点数据更精确的预测模型。
Description
技术领域
本发明属于生态环保监测领域,具体涉及一种基于云平台的水质监测系统和方法。
背景技术
水资源是人类赖以生存的重要基础,随着人类活动的发展和对自然的开发,水资源污染情况十分严重,对水质进行监测是水资源污染治理的重要前提。与水质检测的国标法相比,利用光谱法具有省时省力、成本低等优点,在不需要精确获取水质参数指标的场合,具有很大的应用价值。
现有的利用光谱法的水质监测系统需要将水样抽取到比色皿后,通过光谱仪采集得到的水样的光谱数据后,利用回归模型预测水质参数浓度值。由于抽水装置需要额外供电,管道需要经常清洗,因此在实际应用时,部署要求较高,过程比较复杂。
现有的基于单一采样点数据样本的预测模型无法保证数据完备性,难以保证建模的数据集与全数据集的具有相同的概率分布,造成实际模型具有较大系统误差。
发明内容
本发明的技术问题是抽水式的光谱采样方式,部署复杂;现有的水质预测模型的数据样本来源单一,无法保证样本数据的多样性和完备性,难以保证用于建模的数据集与全数据集的具有相同的概率分布,导致预测模型具有较大系统误差;
本发明的目的是解决上述问题,提供一种基于云平台的水质监测系统,利用各个水质监测采样点相同的水质监测设备和计算模型具有相关性的特性,基于云平台对采样点的采样数据进行数据迁移,充分利用不同采样点的采集得到的水样光谱数据样本,对水质监测模型进行校正,提高水质监测系统的整体性能,减小系统误差;采用校正的水质监测模型,基于嵌入式探头和光谱仪采集水样的光谱数据,通过预测模型计算得到水样的光感指标、有机化学指标、有害有毒物质含量,实现实时水质监测。
本发明的技术方案是基于云平台的水质监测系统,包括水质采样终端机和云平台;水质采样终端机包括浸入式探头、光源、光谱仪和上位机;浸入式探头包括用于容纳水样的狭缝、反射镜和光纤接口。所述系统工作时,光源产生的紫外可见光经光纤通过探头狭缝中的水样,经反射镜反射再次通过水样后,经光纤传输到光谱仪得到水样光谱;在上位机建立水质指标和有害物质光谱预测模型;多个采样点的光谱数据由各自上位机上传到统一的云平台,利用不同采样点的水样的光谱数据,对上位机的水质监测模型参数进行校正;在上位机和云平台上实时显示采样点的水质三维图谱,进行辅助预警。
上述系统的水质监测方法包括以下步骤:
步骤1:利用水质采样终端机在不同采样点采集得到水样的光谱数据,上传到云平台;
步骤2:在采样终端机上建立水质监测模型,求解模型参数;
步骤3:利用云平台上不同采样点的光谱数据,对各采样点的水质监测模型参数进行校正;步骤4:实时采集待测水样光谱数据,采用校正的水质监测模型得到水样的光感指标、有机化学指标、有害物质含量和有毒物质含量;
步骤5:根据步骤4得到的水质指标预测结果,判断水质的污染类别;
步骤6:对实时采集的采样点水样的光谱的波段、吸光度依据时间维度形成动态的三维图谱,对异常值进行预警。
优选地,步骤2中,所述依据采样点的光谱数据求解得到模型参数,每个采样点采集的水质光谱特征数据记为x(i),1≤i≤S,其中S表示采样点总数,各采样点使用相同的光谱仪、相同配置和相同的回归算法;采样点的水样采用国标法测量其H个水质指标,得到第j个水质指标的浓度值由多个对组成的训练数据建立指标j的参数化回归模型,记为 为模型的M+1个参数;对每一个采样点i的第j个水质指标,预测模型M:y=(θ)(x:1),式中y表示水质指标预测结果,x表示光谱特征组成的N维向量,θ表示N+1个模型参数;定义损失函数:
采用梯度下降法求解θ的计算式为
θk+1=θk-αxT(θkx-y)
k表示迭代轮次,α表示迭代步长。
进一步地,步骤3中,对所述对水质指标预测模型进行模型参数校正,将第i个采样点某一个水质指标的预测模型的N+1个参数记为θN+1 (i),写为(θx (i),θy (i))的形式,θx (i)为(θn (i)),n∈[1,N],θy (i)为θN+1 (i)。建立关于θ的线性模型M:θy=fδ(θx)。定义损失函数为:
采用梯度下降法求解的迭代公式为:
δk+1=δk-αθx T(δkθx-θy)
利用云平台多个采样点的模型参数,可求出参数δ,从而建立第i个采样点某一水质指标校正后的预测模型Mi:θy (i)=fδ(θx (i))。
作为模型参数校正的可替代方案,其原理如下。云平台上每个采样点采集的水质光谱特征数据记为x(i),1≤i≤S,其中S表示采样点总数;采样点的水样采用国标法测量其水质指标,得到第j个水质参数的浓度值由建立参数化回归模型,记为 为模型Mi的m个参数。因各采样点使用相同的光谱仪、相同配置和相同的回归算法,具有相关性。利用最小二乘法估计m维空间的一条直线l,使得S个点到该直线l欧式距离的平方和最小。计算点到直线l的垂足 即为对采样点第j个水质参数校正后的模型。
相比现有技术,本发明的有益效果包括:
1)本发明提供了利用不同采样点的数据对计算模型校正的水质监测系统,通过光谱仪采集水样的光谱数据,输入校正的水质监测模型,计算得到水样的光感指标、有机化学指标、有毒有害物质含量,实现实时水质监测,校正的模型系统误差小,计算结果精度高;
2)本发明的方法基于云平台对采样点的采样数据进行数据迁移,利用多个采样点的数据对水质监测模型的模型参数进行校正,解决了单个采样点的水质预测模型样本数据不完备导致模型误差大精度不高的问题;
3)本发明的方法采用梯度下降法或最小二乘法对水质监测模型的模型参数进行校正,计算量小,便于计算机执行,校正效果好;
4)本发明的方法基于校正的水质预测模型,利用实时采集的水样的光谱数据,计算得到水样的光感指标、有机化学指标、有害物质含量和有毒物质含量,计算效率高,实时性好,方便实用;
5)本发明的系统和方法根据实时计算得到的光感指标、有机化学指标、有害物质含量和有毒物质含量以及水样光谱的波段、吸光度等三维图,实现水质异常的实时预警,便于环保管理人员及时采取管理措施。
附图说明
下面结合附图和实施例对本发明作进一步说明。
图1为本发明实施例的水质监测模型校正系统的结构示意图。
图2为本发明实施例的监测站点分布示意图。
图3为本发明实施例的浸入式探头布置示意图。
图4为本发明实施例的采样点的水样的光谱图。
具体实施方式
实施例一
如图1所示,基于云平台的水质监测系统,包括浸入式探头1、光源2、光谱仪3、上位机4以及与经数据线与上位机连接的摄像机5,浸入式探头1包括用于容纳水样的狭缝101、反射镜和光纤接口。光谱仪3经数据线与上位机4连接,上位机4与云平台连接。光源2采用脉冲闪光氙灯光源,用来产生可靠、稳定的紫外可见光。每个监测站布置本发明的水质监测模型校正系统。摄像机5用来采集监测站的周围环境。实施例中,浸入式探头1采用浮标方式部署在河道中,如图3所示。
水质监测系统工作时,光源产生的紫外可见光经光纤传输,穿透浸入式探头的狭缝中的水样,并经反射镜反射后再次穿透狭缝中的水样,经光纤输出到光谱仪,得到水样的光谱,光谱数据经上位机上传到云平台;上位机从云平台得到不同采样点的水样的光谱数据,对上位机的水质监测模型进行模型参数校正。
上述系统的水质监测方法,包括以下步骤:
步骤1:利用浸入式探头、光谱仪在不同监测站点采集得到水样的光谱数据,上传到云平台,水样的光谱如图4所示;
步骤2:建立水质监测模型,依据监测站点的光谱数据求解得到模型参数;
预测模型M:y=(θ)(x:1),式中y表示水质指标预测结果,x表示光谱特征组成的N维向量,θ表示N+1个模型参数;
以图2所示的A、B、C、D四个监测站点的光谱数据xA,xB,xC,xD为例,xi,i=A,B,C,D为N×1维向量,表示监测站点的光谱数据的N个光谱特征,yi,i=A,B,C,D表示利用国标法测量得到的水质指标结果;
定义损失函数:
采用梯度下降法求解θ的计算式为
θj+1=θj-αxT(θjx-y)
j表示迭代轮次,α表示迭代步长。
步骤3:对所述对水质指标预测模型进行模型参数校正,将第i个采样点水样的化学需氧量COD的预测模型的N+1个参数记为θN+1 (i),写为(θx (i),θy (i))的形式,θx (i)为(θn (i)),n∈[1,N],θy (i)为θN+1 (i)。建立关于θ的线性模型M:θy=fδ(θx)。
定义损失函数为:
采用梯度下降法求解的迭代公式为:
δk+1=δk-αθx T(δkθx-θy)
利用云平台多个采样点的模型参数,可求出参数δ,从而建立第i个采样点某一水质指标校正后的预测模型Mi:θy (i)=fδ(θx (i))。
步骤4:实时采集待测水样光谱数据,采用校正的水质监测模型得到水样的色度、浊度和有机化学指标、有害物质含量和有毒物质含量;
步骤5:根据步骤4得到的水质指标预测结果,判断水质的污染类别;
步骤6:对实时采集的监测站点水样的光谱的波段、吸光度依据时间维度形成动态的三维图谱,对异常值进行预警。
实施例中,监测站点采集的光谱数据上传到云平台,云平台对多个监测站点的上传数据进行汇总后,在同一的电子地图界面中显示,供管理决策人员掌握监测站点的实时水质监测情况。
实施例二
实施例的水质监测系统的结构与实施例一水质监测系统的结构相同。上位机上存储有计算水质指标和有毒有害物质含量的水质监测模型和计算机程序。
水质监测系统工作时,光源产生的紫外可见光经光纤传输,穿透浸入式探头的狭缝中的水样,并经反射镜反射后再次穿透狭缝中的水样,经光纤输出到光谱仪,得到水样的光谱;利用不同采样点的水样的光谱数据,对上位机的水质监测模型进行模型参数校正。
所述计算机程序被上位机执行时,实现以下步骤:
步骤1:利用浸入式探头、光谱仪在不同监测站点采集得到水样的光谱数据,上传到云平台;步骤2:建立水质监测模型,依据监测站点的光谱数据求解得到模型参数;
步骤3:利用云平台的不同监测站点的数据,对水质监测模型进行模型参数校正;
云平台上每个监测站点采集的水质光谱特征数据记为x(i),1≤i≤S,其中S表示监测站点总数;监测站点的水样采用国标法测量其水质指标,得到第j个水质参数的浓度值由建立参数化回归模型,记为 为模型Mi的m个参数。因各监测站点使用相同的光谱仪、相同配置和相同的回归算法,具有相关性。利用最小二乘法估计m维空间的一条直线l,使得S个点到该直线l欧式距离的平方和最小。计算点到直线l的垂足即为对监测站点第j个水质参数校正后的模型;
步骤4:实时采集待测水样光谱数据,采用校正的水质监测模型得到水样的光感指标、有机化学指标、有害物质含量和有毒物质含量;
步骤5:根据步骤4得到的水质指标预测结果,判断水质的污染类别;
步骤6:对实时采集的监测站点水样的光谱的波段、吸光度依据时间维度形成动态的三维图谱,对异常值进行预警。
实施例的水质监测模型也可以是岭回归模型,也可采用高斯牛顿法对水质监测模型的模型参数进行校正。
Claims (5)
1.基于云平台的的水质监测方法,其特征在于,采用的水质监测系统包括采样终端机和云平台;采样终端机包括浸入式探头、光源、光谱仪、上位机;浸入式探头包括用于容纳水样的狭缝、反射镜和光纤接口;
所述系统工作时,光源产生的紫外可见光经光纤通过探头狭缝中的水样,经反射镜反射再次通过水样后,经光纤传输到光谱仪得到水样光谱;在上位机建立水质指标和有害物质光谱预测模型;多个采样点的光谱数据由各自上位机上传到统一的云平台,利用不同采样点的水样的光谱数据,对上位机的水质监测模型参数进行校正;在上位机和云平台上实时显示采样点的水质三维图谱,进行辅助预警;
所述方法包括以下步骤:
步骤1:利用采样终端机采集的光谱数据建立水质监测模型,求解模型参数;
步骤2:将不同采样点采集得到水样的光谱数据,上传到云平台;
步骤3:利用云平台的不同采样点的数据,对水质监测模型进行模型参数校正;
步骤4:实时采集待测水样光谱数据,采用校正的水质监测模型得到水质指标预测结果;
对每一个采样点i的第j个水质指标,预测模型M:y=θ·[x1,x2,…,xN,1]T,式中y表示水质指标预测结果,[x1,x2,…,xN]为光谱特征组成的N维向量x,θ表示N+1个模型参数;
定义损失函数:
采用梯度下降法求解θ的计算式为
θj+1=θj-αXT(θjX-Y)
j表示迭代轮次,α表示迭代步长。
2.根据权利要求1所述的水质监测方法,其特征在于,步骤3中,对所述对水质指标预测模型进行模型参数校正,将采样点k上一个水质指标的预测模型的n个参数记为θn k,写为(θx k,θy k)的形式,θx k为(θi k),i∈[1,N],θy k为θN+1,1≤n≤N+1;建立关于θ的线性模型M:θy=fδ(θx);
定义损失函数为:
采用梯度下降法求解的迭代公式为:
δi+1=δi-αθx T(δiθx-θy)
式中δi、δi+1分别表示第i、i+1次迭代计算的参数值;α表示迭代步长;
利用多个采样点的模型参数,可求出参数δ,从而建立第k个采样点水质指标校正后的预测模型Mk:θy (k)=fδ(θx (k))。
3.根据权利要求1所述的水质监测方法,其特征在于,还包括步骤5:根据步骤4得到的水质指标预测结果,判断水质的污染类别。
4.根据权利要求3所述的水质监测方法,其特征在于,还包括步骤6:对实时采集的采样点水样的光谱的波段、吸光度依据时间维度形成动态的三维图谱,对异常值进行预警。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110490448.6A CN113376107B (zh) | 2021-05-06 | 2021-05-06 | 基于云平台的水质监测系统和方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110490448.6A CN113376107B (zh) | 2021-05-06 | 2021-05-06 | 基于云平台的水质监测系统和方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113376107A CN113376107A (zh) | 2021-09-10 |
CN113376107B true CN113376107B (zh) | 2022-07-15 |
Family
ID=77570761
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110490448.6A Active CN113376107B (zh) | 2021-05-06 | 2021-05-06 | 基于云平台的水质监测系统和方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113376107B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN118362525A (zh) * | 2024-03-28 | 2024-07-19 | 莱森光学(深圳)有限公司 | 基于紫外-可见光谱法的水质监测方法及装置 |
CN118518604B (zh) * | 2024-07-22 | 2024-09-24 | 广东海洋大学 | 一种基于神经网络的海洋牧场水质监测装置及其布设方法 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103983595A (zh) * | 2014-05-27 | 2014-08-13 | 重庆大学 | 一种基于紫外-可见光谱处理的水质浊度解算方法 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104849226B (zh) * | 2015-05-26 | 2016-04-27 | 谭森 | 一种在线监测水质的装置和方法 |
CN105300909A (zh) * | 2015-12-02 | 2016-02-03 | 重庆大学 | 基于直接光谱法的全天候长流域水质监测与预警系统 |
CN107036974A (zh) * | 2016-11-18 | 2017-08-11 | 中国水利水电科学研究院 | 基于确定性集合建模的水质参数多模型协同反演方法 |
CN106990060B (zh) * | 2017-03-24 | 2018-08-03 | 四川碧朗科技有限公司 | 水质指标监测仪、云数据中心及系统、预测方法和水样识别方法 |
CN208255047U (zh) * | 2018-05-29 | 2018-12-18 | 内蒙古民族大学 | 光纤探头和水质检测装置 |
CN109959634A (zh) * | 2019-04-15 | 2019-07-02 | 中科谱光科技(天津)有限公司 | 一种水质监测系统及方法 |
CN111220559A (zh) * | 2020-03-23 | 2020-06-02 | 杭州罗盘星科技有限公司 | 一种管道式全光谱水质检测装置及其方法 |
-
2021
- 2021-05-06 CN CN202110490448.6A patent/CN113376107B/zh active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103983595A (zh) * | 2014-05-27 | 2014-08-13 | 重庆大学 | 一种基于紫外-可见光谱处理的水质浊度解算方法 |
Also Published As
Publication number | Publication date |
---|---|
CN113376107A (zh) | 2021-09-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113376107B (zh) | 基于云平台的水质监测系统和方法 | |
WO2019128203A1 (zh) | 具有传感器检测元件的有毒有害气体网络监测仪及监测数据处理方法 | |
CN110672805A (zh) | 一种基于航空高光谱数据的水库水质参数定量反演方法 | |
CN105486655B (zh) | 基于红外光谱智能鉴定模型的土壤有机质快速检测方法 | |
CN106841103A (zh) | 近红外光谱检测水果内部品质方法及专用检测系统 | |
CN107764976B (zh) | 土壤氮素快速诊断方法及在线监测系统 | |
CN111488926B (zh) | 一种基于优化模型的土壤有机质测定方法 | |
CN103983595A (zh) | 一种基于紫外-可见光谱处理的水质浊度解算方法 | |
CN111751376B (zh) | 一种基于冠层图像特征衍生的水稻氮素营养估算方法 | |
CN103854305A (zh) | 一种基于多尺度建模的模型传递方法 | |
AU2020102518A4 (en) | A method of gas sensor calibration based on linear optimization | |
CN103712939A (zh) | 一种基于紫外可见光谱的污染物浓度拟合方法 | |
CN105784672A (zh) | 一种基于双树复小波算法的毒品检测仪标准化方法 | |
CN115221927A (zh) | 一种紫外-可见光谱的溶解有机碳检测方法 | |
CN116911183A (zh) | 岩溶湿地水体叶绿素a反演的方法、系统、设备及介质 | |
CN114112941A (zh) | 基于支持向量回归的航空高光谱水体富营养化评价方法 | |
CN117723497B (zh) | 一种智能随动水质监测系统 | |
CN114863294A (zh) | 一种适用于微咸水湖泊的水质参数监测方法和装置 | |
Petters | Revisiting matrix-based inversion of scanning mobility particle sizer (SMPS) and humidified tandem differential mobility analyzer (HTDMA) data | |
CN111896497B (zh) | 一种基于预测值的光谱数据修正方法 | |
CN116818687B (zh) | 基于光谱引导集成学习的土壤有机碳光谱预测方法及装置 | |
Ye et al. | Water chemical oxygen demand prediction model based on the CNN and ultraviolet-visible spectroscopy | |
CN105241823A (zh) | 基于稀疏表示的火电厂烟气光谱定量分析方法 | |
CN109596545B (zh) | 全光谱水质监测设备质控方法 | |
CN212845010U (zh) | 一种土壤全氮含量的原位监测装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |