CN114328483B - 一种传感器数据的处理系统 - Google Patents
一种传感器数据的处理系统 Download PDFInfo
- Publication number
- CN114328483B CN114328483B CN202111568818.XA CN202111568818A CN114328483B CN 114328483 B CN114328483 B CN 114328483B CN 202111568818 A CN202111568818 A CN 202111568818A CN 114328483 B CN114328483 B CN 114328483B
- Authority
- CN
- China
- Prior art keywords
- data
- time
- time period
- sensor
- critical
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Abstract
本发明提供了一种传感器监测数据处理系统,包括:处理器、存储有计算机程序的存储器,当所述计算机程序被处理器执行时,实现以下步骤:获取预设时间段内的传感器测量数据,若传感器测量数据数量低于预设的连续时间节点集合中时间节点数量,则基于已知传感器测量数据,获取缺失数据的时间节点上的修正数据,并使用修正数据替换实际监测数据,将构成的目标数据集生成可视化曲线并使用不同颜色区分实际监测数据和修正数据。本发明能够将一段时间节点内缺失的传感器数据进行修正,保证显示器中显示数据的可视性。
Description
技术领域
本发明涉及数据处理领域,具体涉及一种传感器数据的处理系统。
背景技术
为保障桥隧涵边坡运营安全、延长其使用寿命,一般在桥隧涵边坡的监测点上安装传感器以对桥梁进行实时监控。传感器会按照预定时间获取传感数据并传输到服务器中。为了方便工作人员查看监控结果和数据趋势,一般会设置一个显示器,将传输到服务器中的传感器数据显示出来。
通过传感器监控桥梁的目的之一是在恶劣环境和极端情况下发现问题。由于桥梁的监测点众多,使用的传感器数量也会很多。但是在环境恶劣的情况下,传感器自身、安装以及传感器与服务器之间的通信的意外情况多发,如此会导致传感器上报服务器的数据出现无法上报的情况,进而导致显示器中显示的传感器数据图像可视效果差。
发明内容
针对上述技术问题,本发明采用的技术方案为:
一种传感器数据的处理系统,所述系统包括:处理器、存储有计算机程序的存储器当所述计算机程序被处理器执行时,实现以下步骤:
S100、获取Di={Di1,Di2,……,Dis},Dij是指在预设时间段内的第i个非关键传感器ID对应的第j个时间点的实际监测数据,i=1……n,n为非关键传感器的数量,j=1……s,s为预设时间段内的时间点数量;
S300、遍历Di且当Dij=0时,获取Di对应的精确度Wi;
S500、当Wi≤预设的精确度阈值W0时,获取Dij对应的修正数据Rij,其中,Rij符合如下条件:
其中,是指在第一时间段内的第i个非关键传感器ID对应的第x个时间点的实
际监测数据,x=1……q,q为第一时间段内的时间点数量,D'iy是指在第二时间段内的第i个
非关键传感器ID对应的第y个时间点的实际监测数据,y=1……p,p为第二时间段内的时间
点数量;
其中,所述第一时间段是指在第j个时间点之前的时间段;
其中,所述第二时间段是指在第j个时间点之后的时间段;
S700、在Di中将Dij替换为Rij,获取Di对应的可视化曲线。
本发明至少具有以下技术效果:本发明提供了一种传感器监测数据处理系统,包括:处理器、存储有计算机程序的存储器和数据库,所述数据库中存储的字段有非关键传感器ID、每一非关键传感器ID对应的精确度和每一非关键传感器ID的实际监测数据,当所述计算机程序被处理器执行时,实现以下步骤:获取预设时间段内的传感器测量数据,若传感器测量数据数量低于预设的连续时间节点集合中时间节点数量,则基于已知传感器测量数据,获取缺失数据的时间节点上的修正数据,并使用修正数据替换实际监测数据,将构成的目标数据集生成可视化曲线并使用不同颜色区分实际监测数据和修正数据。本发明能够将一段时间节点内缺失的传感器数据进行修正,保证显示器中显示数据的可视性。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的一种传感器数据的处理系统执行程序的流程图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明实施例提供一种传感器数据的处理系统,所述系统包括:所述系统包括:处理器、存储有计算机程序的存储器,当所述计算机程序被处理器执行时,实现以下步骤,如图1所示:
S100、获取Di={Di1,Di2,……,Dis},Dij是指在第一预设时间段内的第i个非关键传感器ID对应的第j个实际监测数据,i=1……n,n为非关键传感器的数量,j=1……s,s为第一预设时间段内的实际监测数据数量。
具体地,所述第一预设时间段的取值范围为5~10min;优选地,所述第一预设时间段的取值为5min。
S300、遍历Di且当Dij=0时,获取Di对应的精确度Wi。
S500、当Wi≤预设的精确度阈值W0时,获取Dij对应的修正数据Rij,其中,Rij符合如下条件:
,其中,是指在第一时间段内的第i个非关键传感器ID对应的
第x个时间点的实际监测数据,x=1……q,q为第一时间段内的时间点数量,D'iy是指在第二
时间段内的第i个非关键传感器ID对应的第y个时间点的实际监测数据,y=1……p,p为第二
时间段内的时间点数量,能够基于非关键传感器中缺失实际监测数据的时间点对应的前后
时间段,获取两个时间段的实际测量平均值且基于两个时间段的实际测量平均值,有效和
快速的获取对应的修正数据,同时也保证了修改值的准确性,避免修正数据与实际监测数
据之间的误差较大,影响到整体数传感器数据的准确性。
进一步地,所述第一时间段是指在第j个时间点之前的时间段,所述第二时间段是指在第j个时间点之后的时间段。
优选地,当p=q=u且x=y=z时,Rij符合如下条件:
上述优选的修正数据获取方式能够在缺失实际监测数据的时间点前后两个时间段内获取相同数量的实际监测数据,一方面保证了修正数据的准确性且简化数据处理过程,另一方面,降低了获取修正数据时因前后时间段的不一致性产生的误差,使得修正数据更贴近实际监测数据。
具体地,在S500步骤和S700步骤之间还包括如下步骤:
S600、当Wi>W0时,获取Di对应的修正数据Rij,其中,Rij符合如下条件:
优选地,Ri0=0。
具体地,Kij符合如下条件:
进一步地,Cij-1的获取方式与Cij的获取方式一致,其中,Cij符合如下条件:
优选地,Ci0=1。
具体地,在S600步骤中还包括如下步骤:
获取Bi={Bi1,Bi2,……,Bir},其中,Bir是指第i个非关键传感器的第r个关键数据,r=1……mi,mi为关键数据数量,所述关键数据是指除Dij之外的其他实际监测数据;
进一步地,mi符合如下条件:
其中,Di对应的第一时间周期Ti、Di对应的第二时间周期和mi对应的预设下限
值Hi,能够进一步现在关键数据数量,避免关键数据数量过多,导致数据处理量较大,影响
到数据处理效率,同时也避免关键数据数量过少,导致无法准确的获取修正数据,使得修正
数据与实际监测数据之间误差较大。
进一步地,所述第一时间周期是指任一非关键传感器中上传的所有实际监测数据均不超过预设测量阈值的最大时间周期;本领域技术人员知晓第二时间周期可根据非关键传感器的采取情况进行确定,在此不再赘述。
进一步地,所述第二时间周期是指任一非关键传感器执行一次实际监测数据上传的时间周期;本领域技术人员知晓第二时间周期可根据实际需求进行设置,在此不再赘述。
具体地,Hi是指Kij满足预设收敛条件的关键数据数量,即Kij≤预设收敛参数阈值K0,能够通过参数的收敛条件,合理的对关键数据数量进行限制,避免关键数据数量过少,导致无法准确的获取修正数据,使得修正数据与实际监测数据之间误差较大。
其中,本领域技术人员知晓设收敛参数阈值可根据实际需求进行设置,在此不再赘述。
优先地,当Qi=0.1时,K0=0.3。
具体地,D'符合如下条件:
S700、在Di中将Dij替换为Rij,获取Di对应的可视化曲线,可以理解为:在Di中将Dij替换为Rij,构建成Di对应的目标数据列表且基于Di对应的目标数据列表,获取Di对应的可视化曲线,其中,在所述可视化曲线中,实际监测数据与修正数据采用不同的标记色,能够实现对修正数据和其他实际监测数据的区分,有利于对传感器的实际监测数据的分析。
上述实施例为针对非关键传感器的实际监测数据存在误差时的修正方法,根据非关键传感器的精度分别使用不同方式处理,保障了处理不同精度传感器数据准确率的同时提高了数据处理的效率,进而提高了基于传感器数据构建的可视化曲线的可视性,有利于对非关键传感器的实际监测数据的分析。
在一个具体的实施例中,所述数据库中字段还包括:关键传感器ID、每一关键传感器ID的实际监测数据、与关键传感器ID对应的AI数据,当所述计算机程序被处理器执行时,实现以下步骤:
S1、获取Ag={Ag1,Ag2,……,AgM},其中,Agt是指第二预设时间段内第g个关键传感器的第t个实际监测数据,g=1……N,N为关键传感器数量,t=1……M,M为第二预设时间段内的实际监测数据数量。
具体地,所述第二预设时间段的取值范围为5~10min;优选地,所述第二预设时间段的取值为5min。
S2、遍历Ag且当Agt=0时,获取Ag对应的AI数据。
具体地,在S2步骤中还包括如下步骤获取Ag对应的AI数据:
S21、获取Ag对应的时间窗口数量Lλ。
S23、当Lλ=0时,将Ag对应的关键传感器当前采集的实际监测数据作为Ag的AI计算数据。
S25、当Lλ=L'时,则使用Ag对应的关键传感器采集的当前实际监测数据和当前时间点之前的L'个时间窗口内采集的T'个历史实际监测数据作为Ag的AI计算数据,即使用Ag涉及的L'+1个实际监测数据作为Ag的AI计算数据,能够确保使用的AI计算数据更加符合传感器所处的真实场景情况,使得计算的关键传感器数据更加准确。在本发明实施例中,时间窗口为传感器的采样周期。
S3、根据Ag对应的AI数据和已训练的AI模型,获取Agt的预测数据。
具体地,所述AI模型为回归模型,优选地,所述AI模型为逻辑回归模型。
具体地,在S3步骤中还包括如下步骤获取Agt的预测数据:
获取Ag对应的样本数据集,Ag对应的样本数据集包括:E*(F+1)个样本向量U,U=(U1,U2,…,UF),Uη=(Uη 1,Uη 2,…,Uη Lη),可以理解为:即U=(U1 1,U1 2,......,U1 L1,U2 1,U2 2,......,U2 L2,......,UF 1,UF 2,......,UF LF),其中,Uη为Ag对应的关键传感器相关的第η个非关键传感器包括的Lη个非关键传感器的实际测量数据,Uλγ为Ag对应的关键传感器相关的第λ个非关键传感器的在第γ个时间窗口内的非关键传感器的实际测量数据,γ的1……Lλ,λ=1……F。
具体地,预设的样本系数E可根据实际需要进行设置,只要能够保证样本数量足够训练得到准确的AI模型即可。
优选地,本发明实施例中的E*(F+1)个样本向量满足以下条件:
(1)E个样本向量中,任一非关键传感器数据Ui中的所有采样数据均在预设的阈值范围内即均为正常数据,即每个非关键传感器的所有时间窗口内的采样数据均为正常数据;预设的阈值范围可为预先设置值,例如,用户自定义。
(2)其余的E*F个样本向量中的任一E个样本向量中,仅存在一个非关键传感器数据满足:至少存在一个采样数据在预设的阈值范围外即为异常数据,而其他采样数据均在预设的阈值范围内。即,对于其余的每份包括E个样本向量的样本数据,存在一个非关键传感器数据的至少一个时间窗口内的采样数据为异常数据。
在本发明实施例中,在选取AI模型的训练样本集时,需要满足上述条件(1)和(2),这样,样本向量包括所有非关键传感器数据均为正常数据以及每个非关键传感器为异常数据的情况,能够使得训练数据分布更广泛,训练得到的AI模型更准确;此外,考虑到非关键传感器实际应用场景下,时间窗口内的监测数据可能存在高度耦合性,因此,没有以时间窗口作为参考标准得到差异数据,而是基于每个非关键传感器进行,如此,能够获取足够的样本数据。
进一步地,如果基于条件(2)获得的样本数量不足E*F个,则选用至少存在两个非关键传感器数据满足上述条件(2)的样本数据补充至样本集中,以保证样本集数量充足;可以理解为:Ag对应的关键传感器与β个Ag对应的关键传感器相关的非关键传感器Og1,Og2,……Ogβ相关,则Ag对应的样本数据集的选择需满足以下条件:
1)β个非关键传感器采集的实际监测数据均为正常数据的样本量占总样本量的25%;
2)仅任一非关键传感器Ogα采集的实际监测数据为异常数据的样本量占总样本量的25%,α=1……β。
进一步地,当无任一非关键传感器Ogα采集的实际监测数据为异常数据的样本量占总样本量的25%时,则可选择满足如下条件的样本数据进行补充:
a)任一两个非关键传感器Ogα同时为异常数据而其他非关键传感器均为正常数据;
b)Og1,Og2,……Ogβ同时为异常数据。
S4、在Ag中将Atg替换为Agt对应的预测数据,构建成Ag对应的目标数据列表且基于Ag对应的目标数据列表,获取At对应的可视化曲线,其中,在所述At对应的可视化曲线中,实际监测数据与预测数据采用不同的标记色,能够实现对修正数据和其他实际监测数据的区分,有利于对传感器的实际监测数据的分析。
上述实施例为针对关键传感器的实际监测数据存在误差时的修正方法,由于关键传感器在实际应用中的关键性,通过AI预测的方式处理关键传感器的实际监测数据,进一步地提高了关键传感器数据处理的准确性。
在本发明实施例中,考虑到极端环境下传感器上传数据不准确的情况,在Mx1个传感器数据中的任一个传感器数据在预设阈值范围以外,则向所述服务器实时上传报文,并利用关键传感器关联的非关键传感器的数据进行AI计算,得到预测的关键传感器数据,使得用于监测的关键传感器数据能够在极端环境下也是准确的。
本发明至少具有以下技术效果:本发明提供了一种传感器监测数据处理系统,包括:处理器、存储有计算机程序的存储器和数据库,所述数据库中存储的字段有非关键传感器ID、每一非关键传感器ID对应的精确度和每一非关键传感器ID的实际监测数据,当所述计算机程序被处理器执行时,实现以下步骤:获取预设时间段内的传感器测量数据,若传感器测量数据数量低于预设的连续时间节点集合中时间节点数量,则基于已知传感器测量数据,获取缺失数据的时间节点上的修正数据,并使用修正数据替换实际监测数据,将构成的目标数据集生成可视化曲线并使用不同颜色区分实际监测数据和修正数据。本发明能够将一段时间节点内缺失的传感器数据进行修正,保证显示器中显示数据的可视性。
所述关键传感器数据与非关键传感器数据相关,每个关键传感器的数据的预测涉及多个非关键传感器。例如,在一个示意性实施例中,索力是关键传感器数据。索力与时间窗口内的多个温度和湿度相关,实时的风速和风向相关,实时的车辆荷载相关。因此,可以通过采集的多个温度和湿度、实时的风速、风向和车辆荷载,代入AI模型中对实时索力进行预测,并与实时测量结果进行比较,如果预测值与测量值之间的误差小于预设阈值,则当前监测的索力合理。反之,则当前监测的索力不合理,合理的索力值即为本发明中所述修正数据。
虽然已经通过示例对本发明的一些特定实施例进行了详细说明,但是本领域的技术人员应该理解,以上示例仅是为了进行说明,而不是为了限制本发明的范围。本领域的技术人员还应理解,可以对实施例进行多种修改而不脱离本发明的范围和精神。本发明开的范围由所附权利要求来限定。
Claims (7)
1.一种传感器数据的处理系统,其特征在于,所述系统包括:处理器、存储有计算机程序的存储器,当所述计算机程序被处理器执行时,实现以下步骤:
S100、获取Di={Di1,Di2,……,Dis},Dij是指在预设时间段内的第i个非关键传感器ID对应的第j个时间点的实际监测数据,i=1……n,n为非关键传感器的数量,j=1……s,s为预设时间段内的时间点数量;
S300、遍历Di且当Dij=0时,获取Di对应的精确度Wi;
S500、当Wi≤预设的精确度阈值W0时,获取Dij对应的修正数据Rij,其中,Rij符合如下条件:
其中,是指在第一时间段内的第i个非关键传感器ID对应的第x个时间点的实际监测数据,x=1……q,q为第一时间段内的时间点数量,D'iy是指在第二时间段内的第i个非关键传感器ID对应的第y个时间点的实际监测数据,y=1……p,p为第二时间段内的时间点数量;
其中,所述第一时间段是指在第j个时间点之前的时间段;
其中,所述第二时间段是指在第j个时间点之后的时间段;
S700、在Di中将Dij替换为Rij,获取Di对应的可视化曲线;
其中,在S500步骤和S700步骤之间还包括如下步骤:
S600、当Wi>W0时,获取Dij对应的修正数据Rij,其中,Rij符合如下条件:
获取Bi={Bi1,Bi2,…,Bir,…,Bimi},其中,Bir是指第i个非关键传感器的第r个关键数据,r=1……mi,mi为关键数据数量,所述关键数据是指除Dij之外的其他实际监测数据;
2.根据权利要求1所述的系统,其特征在于,所述第一时间段的取值范围为5~10min。
5.根据权利要求4所述的系统,其特征在于,所述第一时间周期是指任一非关键传感器中上传的所有实际监测数据均不超过预设测量阈值的最大时间周期。
6.根据权利要求4所述的系统,其特征在于,所述第二时间周期是指任一非关键传感器完成一次实际监测数据上传的时间周期。
7.根据权利要求4所述的系统,其特征在于,Hi是指Kij满足预设收敛条件的关键数据数量。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111568818.XA CN114328483B (zh) | 2021-12-21 | 2021-12-21 | 一种传感器数据的处理系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111568818.XA CN114328483B (zh) | 2021-12-21 | 2021-12-21 | 一种传感器数据的处理系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114328483A CN114328483A (zh) | 2022-04-12 |
CN114328483B true CN114328483B (zh) | 2023-07-07 |
Family
ID=81054383
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111568818.XA Active CN114328483B (zh) | 2021-12-21 | 2021-12-21 | 一种传感器数据的处理系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114328483B (zh) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110289090A (zh) * | 2019-05-31 | 2019-09-27 | 华东理工大学 | 事件发现方法及装置、存储介质、终端 |
CN110306605A (zh) * | 2019-06-18 | 2019-10-08 | 武汉建工集团股份有限公司 | 一种用于基坑工程自动化监测的预警系统 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102014208034A1 (de) * | 2014-04-29 | 2015-10-29 | Siemens Aktiengesellschaft | Verfahren zum Bereitstellen von zuverlässigen Sensordaten |
CN109756860A (zh) * | 2018-12-20 | 2019-05-14 | 深圳高速工程顾问有限公司 | 桥梁结构数据采集方法、装置、计算机设备和存储介质 |
CN111879349A (zh) * | 2020-08-03 | 2020-11-03 | 泉州装备制造研究所 | 一种传感器数据偏差自适应修正方法 |
CN112862127B (zh) * | 2021-04-23 | 2021-07-23 | 北京瑞莱智慧科技有限公司 | 一种传感器数据的异常处理方法、装置、电子设备及介质 |
-
2021
- 2021-12-21 CN CN202111568818.XA patent/CN114328483B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110289090A (zh) * | 2019-05-31 | 2019-09-27 | 华东理工大学 | 事件发现方法及装置、存储介质、终端 |
CN110306605A (zh) * | 2019-06-18 | 2019-10-08 | 武汉建工集团股份有限公司 | 一种用于基坑工程自动化监测的预警系统 |
Also Published As
Publication number | Publication date |
---|---|
CN114328483A (zh) | 2022-04-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107066831B (zh) | 一种区域综合环境评价方法、装置及系统 | |
CN112150311B (zh) | 能耗异常状态检测方法、装置、计算机设备和存储介质 | |
JP2002528731A (ja) | 疲労監視システムおよび方法 | |
JP2014105989A (ja) | 建物動力設備のエネルギー消費量予測方法 | |
CN115329812B (zh) | 一种基于人工智能的桥梁基础设施异常监测方法 | |
US20230191464A1 (en) | Methods for smart gas pipeline cleaning management for safety management and internet of things systems thereof | |
JP4924457B2 (ja) | 雨量値・累計雨量値の収集・積算方法 | |
CN114328483B (zh) | 一种传感器数据的处理系统 | |
CN107121943B (zh) | 一种用于获得智能仪表的健康预测信息的方法和装置 | |
CN102323080A (zh) | 支座广义位移时空间坐标监测的索系统的健康监测方法 | |
CN116591768A (zh) | 一种基于分布式网络的隧道监测方法、系统及装置 | |
CN115640860A (zh) | 一种工业云服务的机电设备远程维护方法及系统 | |
CN110298409A (zh) | 面向电力可穿戴设备的多源数据融合方法 | |
CN113569491B (zh) | 一种轮对尺寸检测数据的分析和校正方法及装置 | |
CN113421170B (zh) | 一种电力工程质量综合优化管理系统以及方法 | |
CN114358400B (zh) | 一种智慧桥隧涵边坡监控系统 | |
KR20210040983A (ko) | 정비 관리 장치, 정비 관리 방법 및 프로그램 | |
US11240960B2 (en) | Delay management for geospatial crop yield mapping | |
TW202123033A (zh) | 人工智慧技術估測產品良率的系統與方法 | |
CN117091799B (zh) | 医用中心氧气供应安全智能立体监测方法及系统 | |
AU2021105092A4 (en) | Analysis of iot based weather monitoring and reporting system using fuzzy logic | |
CN117113157B (zh) | 一种基于人工智能的台区用电故障检测系统 | |
CN111006747B (zh) | 注水计量仪器失准定位诊断方法、装置和终端 | |
CN116415500A (zh) | 一种基于大数据的呼吸机故障预测方法及系统 | |
CN116756136A (zh) | 鱼塘监测设备数据自动化处理方法、装置、设备及介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |