CN113255579B - 一种施工监测异常采集数据自动识别与处理的方法 - Google Patents
一种施工监测异常采集数据自动识别与处理的方法 Download PDFInfo
- Publication number
- CN113255579B CN113255579B CN202110675619.2A CN202110675619A CN113255579B CN 113255579 B CN113255579 B CN 113255579B CN 202110675619 A CN202110675619 A CN 202110675619A CN 113255579 B CN113255579 B CN 113255579B
- Authority
- CN
- China
- Prior art keywords
- data
- burr
- monitoring
- points
- point
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
- G06F2218/02—Preprocessing
- G06F2218/04—Denoising
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01D—MEASURING NOT SPECIALLY ADAPTED FOR A SPECIFIC VARIABLE; ARRANGEMENTS FOR MEASURING TWO OR MORE VARIABLES NOT COVERED IN A SINGLE OTHER SUBCLASS; TARIFF METERING APPARATUS; MEASURING OR TESTING NOT OTHERWISE PROVIDED FOR
- G01D21/00—Measuring or testing not otherwise provided for
- G01D21/02—Measuring two or more variables by means not covered by a single other subclass
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/243—Classification techniques relating to the number of classes
- G06F18/2433—Single-class perspective, e.g. one-against-all classification; Novelty detection; Outlier detection
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Signal Processing (AREA)
- Testing Or Calibration Of Command Recording Devices (AREA)
Abstract
Description
技术领域
本发明属于建筑施工技术领域,特别涉及一种土木工程施工过程监控、运营阶段健康监测数据处理方法。
背景技术
目前,信息化技术和物联网技术,已广泛应用于建筑工程施工领域,运用信息化监测技术实时获取结构和设备的性能状态参数(温度、应力、内力、位移、倾角、加速度、声音,等),保证结构在建造过程和运营过程的安全,已然成为提高建筑工程信息化管理水平的重要手段。
施工周期长、施工环境复杂恶劣是建筑工程施工的特点,在施工过程中,用于监测的结构和设备常常因为得不到有效保护,或受到外侧干扰,容易出现数据采集异常,而人为处理此类异常数据极为繁复,易疲劳、易出错。
数据异常的类型很多,比如局部时间段内数据丢失,局部时间范围内采集数据异常震荡、零碎采集数据呈毛刺状异常突变,等等。目前,已有诸多技术方法处理各类传感器采集的监测数据,比如加速度传感器所采集的时间序列数据,容易受到外界干扰而导致现场采集到的数据附加了某些特定频段的信号。因此,人们设计了各类滤波器,用于过滤受干扰采集数据的某些特定频率成分的信号,如高通滤波,低通滤波,或者其它非线性专用滤波器;对于某些局部剧烈震荡的实时采集数据,为了过滤震荡部分的信号,人们常用高斯滤波(又称高斯模糊)的方法将振幅收窄;对于某些存在个别散点数据显著异常,且超出物理量允许的变化范围的,可以采用阈值限定的方法,将超过设定阈值的采集值直接清除。
目前各种传感器在各异的使用工况下,实时采集的时间序列数据存在纷繁复杂的异常类型,暂无适用于任意类型的数据异常检测和剔除方法。
任意类型的数据异常经常表现为“毛刺状”,所谓“毛刺状”表示在局部时间范围内的连续若干个数据采集值显著偏离数据发展趋势轨迹,这类异常数据点按照先后顺序用直线连接起来,往往呈现毛刺状,因此得名。目前常规的滤波算法,包括高斯滤波算法,不仅无法将毛刺异常数据剔除,而且还会导致异常数据周边的正常光滑数据失真。
因此,本发明提出了一种施工监测异常采集数据自动识别与处理的方法,可靠识别毛刺点,并对其剔除和光滑处理,提高数据监测的准确性。
发明内容
本发明旨在发明一种施工监测异常采集数据自动识别与处理的方法,对土建施工领域内所使用的传感器采集的时间序列数据,如温度、应变、位移、加速度等,进行处理,识别“毛刺状”异常数据,并对其进行光滑处理,使得监测采集的数据更准确、真实、客观。
为解决上述技术问题,本发明提供如下技术方案:
一种施工监测异常采集数据自动识别与处理的方法,包括如下步骤:
步骤1,数据收集:从施工监测传感器采集的数据库或数据管理平台或其它数据文件中提取监测数据,对某一时间段内,由n条数据记录组成的时间序列数据 (t i , y i ), i =1, 2, 3, ..., n,即由n条数据记录组成的时间序列数据集 (t i , y i ), i = 1, 2, 3,..., n,其中,t i 表示第i个时刻对应的时间,且序列{t i }为等差数列;y i 表示第i个时刻对应的传感器所采集到的监测值;
步骤2,数据前处理:在采集到的数据集y i , i = 1, 2, 3 ... n中,计算最大数值y max = max(y 1, y 2, y 3,…y n)和最小数值y min = min(y 1, y 2, y 3,…y n),其中,max表示取最
大值函数,min表示取最小值函数;并构造新的数据集, i = 1, 2, 3
... n;
步骤3,识别和删除异常数据:对数据集(x i , y i ), i = 1, 2, 3, ..., n,以x i 和y i 分别作为直角坐标系Y-X的横轴坐标和纵轴坐标,识别数据集(x i , y i ), i = 1, 2, 3,..., n中的毛刺点并将其删除;
步骤4,还原数据系统:利用步骤3所得到的毛刺点序号,将时间序列数据(t i , y i ),i = 1, 2, 3, ..., n中的毛刺点采用抛物线插值的方法,以新计算的插值结果替换原始的毛刺监测值。
优选的,在上述的施工监测异常采集数据自动识别与处理的方法中,在步骤3中,
对于任意相邻的3个数据点(x i-1, y i-1)、(x i , y i )和(x i+1, y i+1), i = 2, 3,4,…, n-1,分
别记为P i-1 、P i 和P i+1,并将该三点依次直线段连接, 设直线段P i P i+1与P i-1P i 的延长线所构成
的夹角为,计算直线段P i P i+1与P i-1P i 的延长线所构成的夹角,若直线段P i P i+1与P i-1P i
的延长线所构成的夹角的计算结果绝对值大于设定的阈值,那么判定P i 点为毛刺点;对i
= 2, 3,4,…, n-1,分别求解,便可识别出m 1个毛刺点,同时记录这m 1个毛刺点序号S 1={s 1, s 2, s 3, …, s m1};随后,从点集{(x i , y i )|i = 1, 2, 3, ..., n}中删除
的数据点;以剩余的点集,作为搜索毛
刺点的对象数据,进行新一轮的毛刺点搜索、毛刺点序号记录以及毛刺点删除过程,直到新
一轮的毛刺点识别数为0为止。
利用如下公式计算夹角:;其中,为圆周率;sign为符号函数,;arcsin和arccos分别表示反正弦函
数和反余弦函数;Im和Re分别表示取复数虚部和实部函数;z为复数,具有表达式,式中,表示复数的取模运算。
优选的,在上述的施工监测异常采集数据自动识别与处理的方法中,在步骤4中,利用毛刺点相邻的3个近非毛刺点数据作为插值节点数据,进行插值计算。
由以上公开的技术方案可知,与现有技术相比,本发明的有益效果如下:
本发明提供的一种施工监测异常采集数据自动识别与处理的方法,对土建施工领域内所使用的传感器采集的时间序列数据,如温度、应变、位移、加速度等,依次进行时间序列数据的数据收集、时间序列数据的数据前处理、时间序列数据中毛刺点的识别和删除,以及还原数据系统,对其进行光滑处理,使得监测采集的数据更准确、真实、客观。
附图说明
图1 是数据集(x i , y i )形成的直角坐标系Y-X的示意图。
图3 是底板浇筑后传感器采集的时间序列数据片段处理后的效果图。
图中:1-毛刺点、2-光滑曲线。
具体实施方式
以下结合附图和具体实施例对本发明作进一步详细说明。以下将由所列举之实施例结合附图,详细说明本发明的技术内容及特征。需另外说明的是,附图均采用非常简化的形式且均使用非精准的比例,仅用以方便、明晰地辅助说明本发明实施例的目的。为叙述方便,下文中所述的“上”、“下”与附图的上、下的方向一致,但这不能成为本发明技术方案的限制。
请参阅图1至图3,本实施例公开了一种施工监测异常采集数据自动识别与处理的方法,本实施例中,该方法用于建筑工地大体积混凝土浇筑内部温度的测量数据处理。目前采用伸入混凝土内部的传感器进行大体积混凝土温度监控,由于混凝土在凝固过程中,水泥与水发生化学放热反应,释放的热量在混凝土内部分布不均匀,导致了温度梯度,而温度梯度会引起混凝土应力,导致混凝土开裂。因此,需要监测混凝土内部温度,计算其温度梯度,以检查温度梯度是否满足国家规范要求。但是由于传感器触头埋在混凝土里面,其受到施工振捣棒振动,或者其它干扰,导致监测到的数据有时出现瑕疵,因此,需要把这些瑕疵数据剔除,通常采用人工通过excel画图手动剔除,但是效率低下,本发明提供了一种施工监测异常采集数据自动识别与处理的方法,能够自动识别不好的数据,并补上合适的数据,以便快速准确地计算其温度梯度,提高混凝土浇筑质量。
该一种施工监测异常采集数据自动识别与处理的方法包括如下步骤:
步骤1,数据收集:从施工监测传感器采集的数据库或数据管理平台或其它数据文件中提取监测数据,对某一时间段内,由n条数据记录组成的时间序列数据(t i , y i ), i =1, 2, 3, ..., n,其中,t i 表示第i个时刻对应的时间,且序列{t i }为等差数列;y i 表示第i个时刻对应的传感器所采集到的监测值;
步骤2,数据前处理:在采集到的数据集y i , i = 1, 2, 3 ... n中,计算最大数值y max = max(y 1, y 2, y 3,…y n)和最小数值y min = min(y 1, y 2, y 3,…y n),其中,max表示取最
大值函数,min表示取最小值函数;并构造新的数据集, i = 1, 2, 3
... n;
步骤3,识别和删除异常数据:对数据集(x i , y i ), i = 1, 2, 3, ..., n,以x i 和y i 分别作为直角坐标系Y-X的横轴坐标和纵轴坐标,识别数据集(x i , y i ), i = 1, 2, 3,..., n中的毛刺点并将其删除;
步骤4,还原数据系统:利用步骤3所得到的毛刺点序号,将时间序列数据(t i , y i ),i = 1, 2, 3, ..., n中的毛刺点采用抛物线插值的方法,以新计算的插值结果替换原始的毛刺监测值。
本发明提供的一种施工监测异常采集数据自动识别与处理的方法,对土建施工领域内所使用的传感器采集的时间序列数据,如温度、应变、位移、加速度等,依次进行时间序列数据的数据收集、时间序列数据的数据前处理、时间序列数据中毛刺点的识别和删除,以及还原数据系统,对其进行光滑处理,使得监测采集的数据更准确、真实、客观。
优选的,在上述的施工监测异常采集数据自动识别与处理的方法中,在步骤3中,
对于任意相邻的3个数据点(x i-1, y i-1)、(x i , y i )和(x i+1, y i+1), i = 2, 3,4,…, n-1,分
别记为P i-1 、P i 和P i+1,并将该三点依次直线段连接, 设直线段P i P i+1与P i-1P i 的延长线所构成
的夹角为,计算直线段P i P i+1与P i-1P i 的延长线所构成的夹角,若直线段P i P i+1与P i-1P i
的延长线所构成的夹角的计算结果绝对值大于设定的阈值,那么判定P i 点为毛刺点;对i
= 2, 3,4,…, n-1,分别求解,便可识别出m 1个毛刺点,同时记录这m 1个毛刺点序号S 1=
{s 1, s 2, s 3, …, s m1};随后,从点集{(x i , y i ) | i = 1, 2, 3, ..., n}中删除的数据点;以剩余的点集
,作为搜索毛刺点的对象数据,进行新一轮的毛刺点搜索、毛刺点序号记录以及毛刺点删除
过程,直到新一轮的毛刺点识别数为0为止。采用上述方法,异常采集数据自动识别所需的
计算时间较少,而且计算结果更为准确可靠,使得异常采集数据自动识别更加精准。
利用如下公式计算夹角:;其中,为圆周率;sign为符号函数,;arcsin和arccos分别表示反正弦函
数和反余弦函数;Im和Re分别表示取复数虚部和实部函数;z为复数,具有表达式,式中,表示复数的取模运算。
优选的,在上述的施工监测异常采集数据自动识别与处理的方法中,在步骤4中,利用毛刺点相邻的3个近非毛刺点数据作为插值节点数据,进行插值计算。
本实施例中,图3是传感器采集的时间序列数据片段,横坐标为时间,纵坐标为混凝土大底板浇注后,其内部的温度监测值。可见监测数据含有大量的毛刺点1,经过本发明的施工监测异常采集数据自动识别与处理的方法处理之后,得到了光滑曲线2,较为客观地还原了真实监测结果,提高数据监测的准确性。
上述描述仅是对本发明较佳实施例的描述,并非对本发明范围的任何限定,本发明领域的普通技术人员根据上述揭示内容做的任何变更、修饰,均属于权利要求书的保护范围。
Claims (2)
1.一种施工监测异常采集数据自动识别与处理的方法,其特征在于,包括如下步骤:
步骤1,数据收集:从施工监测传感器采集的数据库或数据管理平台或其它数据文件中提取监测数据,对某一时间段内,由n条数据记录组成的时间序列(t i , y i ), i = 1, 2, 3,..., n,其中,t i 表示第i个时刻对应的时间,且序列{t i }为等差数列;y i 表示第i个时刻对应的传感器所采集到的监测值;
步骤2,数据前处理:在采集到的数据集y i , i = 1, 2, 3 ... n中,计算最大数值y max =
max(y 1, y 2, y 3,…y n)和最小数值y min = min(y 1, y 2, y 3,…y n),其中,max表示取最大值函
数,min表示取最小值函数;并构造新的数据集, i = 1, 2, 3 ... n;
步骤3,识别和删除异常数据:对数据集(x i , y i ), i = 1, 2, 3, ..., n,以x i 和y i 分别作为直角坐标系Y-X的横轴坐标和纵轴坐标,识别数据集(x i , y i ), i = 1, 2, 3, ..., n中的毛刺点并将其删除;
步骤4,还原数据系统:利用步骤3所得到的毛刺点序号,将时间序列(t i , y i ), i = 1,2, 3, ..., n中的毛刺点采用抛物线插值的方法,以新计算的插值结果替换原始的毛刺监测值;
在步骤3中,对于任意相邻的3个数据点(x i-1, y i-1)、(x i , y i )和(x i+1, y i+1), i = 2,
3,4,…, n-1,分别记为P i-1 、P i 和P i+1,并将该三点依次直线段连接, 设直线段P i P i+1与P i-1P i
的延长线所构成的夹角为,计算直线段P i P i+1与P i-1P i 的延长线所构成的夹角,若直线
段P i P i+1与P i-1P i 的延长线所构成的夹角的计算结果绝对值大于设定的阈值,那么判定P i
点为毛刺点;对i = 2, 3,4,…, n-1,分别求解,便可识别出m 1个毛刺点,同时记录这m 1
个毛刺点序号S 1={s 1, s 2, s 3, …, s m1};随后,从点集{(x i , y i ) | i = 1, 2, 3, ..., n}中
删除的数据点;以剩余的点集,
作为搜索毛刺点的对象数据,进行新一轮的毛刺点搜索、毛刺点序号记录以及毛刺点删除
过程,直到新一轮的毛刺点识别数为0为止;
2.如权利要求1所述的施工监测异常采集数据自动识别与处理的方法,其特征在于,在步骤4中,利用毛刺点相邻的3个近非毛刺点数据作为插值节点数据,进行插值计算。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110675619.2A CN113255579B (zh) | 2021-06-18 | 2021-06-18 | 一种施工监测异常采集数据自动识别与处理的方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110675619.2A CN113255579B (zh) | 2021-06-18 | 2021-06-18 | 一种施工监测异常采集数据自动识别与处理的方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113255579A CN113255579A (zh) | 2021-08-13 |
CN113255579B true CN113255579B (zh) | 2021-09-24 |
Family
ID=77188678
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110675619.2A Active CN113255579B (zh) | 2021-06-18 | 2021-06-18 | 一种施工监测异常采集数据自动识别与处理的方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113255579B (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113420063A (zh) * | 2021-06-18 | 2021-09-21 | 上海建工集团股份有限公司 | 一种施工监测异常采集数据自动识别与处理的系统 |
CN113740345B (zh) * | 2021-08-27 | 2024-03-22 | 电子科技大学(深圳)高等研究院 | 一种高速采样速率下的毛刺检测方法及系统 |
CN113822270B (zh) * | 2021-11-24 | 2022-02-11 | 深圳大学 | 一种结构健康监测高频数据异常值的确定方法及装置 |
CN115598416B (zh) * | 2022-09-16 | 2024-01-30 | 珠海多创科技有限公司 | 台区采样信号的处理方法、系统、存储介质及计算机设备 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109840563A (zh) * | 2019-01-29 | 2019-06-04 | 东北大学 | 一种基于三维隶属函数模糊逻辑系统的风机故障诊断方法 |
CN112001596A (zh) * | 2020-07-27 | 2020-11-27 | 北京科技大学 | 一种时间序列数据异常点检测方法及系统 |
CN112001008A (zh) * | 2019-05-27 | 2020-11-27 | 南京林业大学 | 一种基于Revit软件的桥梁施工监测数据集成管理系统 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN100447806C (zh) * | 2006-06-14 | 2008-12-31 | 北京握奇数据系统有限公司 | 两阶段混合指纹特征匹配方法、匹配装置及其应用 |
CN102798364A (zh) * | 2012-08-17 | 2012-11-28 | 河南工业职业技术学院 | 反求工程中异常测量数据点的剔除方法 |
CN103679638A (zh) * | 2013-12-25 | 2014-03-26 | 广州广电运通金融电子股份有限公司 | 残缺或变形的四边形图像的校正方法 |
US11179066B2 (en) * | 2018-08-13 | 2021-11-23 | Facebook Technologies, Llc | Real-time spike detection and identification |
US11520923B2 (en) * | 2018-11-07 | 2022-12-06 | Nec Corporation | Privacy-preserving visual recognition via adversarial learning |
CN110174610B (zh) * | 2019-05-17 | 2021-10-22 | 温州大学 | 一种基于卷积神经网络来获取交流接触器电寿命的方法 |
CN110174657B (zh) * | 2019-06-14 | 2022-12-27 | 西安电子科技大学 | 基于秩一降维模型和块矩阵恢复的波达方向估计方法 |
-
2021
- 2021-06-18 CN CN202110675619.2A patent/CN113255579B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109840563A (zh) * | 2019-01-29 | 2019-06-04 | 东北大学 | 一种基于三维隶属函数模糊逻辑系统的风机故障诊断方法 |
CN112001008A (zh) * | 2019-05-27 | 2020-11-27 | 南京林业大学 | 一种基于Revit软件的桥梁施工监测数据集成管理系统 |
CN112001596A (zh) * | 2020-07-27 | 2020-11-27 | 北京科技大学 | 一种时间序列数据异常点检测方法及系统 |
Also Published As
Publication number | Publication date |
---|---|
CN113255579A (zh) | 2021-08-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113255579B (zh) | 一种施工监测异常采集数据自动识别与处理的方法 | |
WO2023060672A1 (zh) | 一种基于健康监测数据的桥梁冲刷动力识别方法 | |
CN110008301B (zh) | 基于机器学习的区域性地质灾害易发性预测方法及装置 | |
AU2020262969B2 (en) | Detection of structural anomalies in a pipeline network | |
CN103471841B (zh) | 一种旋转机械振动故障诊断方法 | |
Schmugge et al. | Crack segmentation by leveraging multiple frames of varying illumination | |
CN109783903B (zh) | 一种基于时间序列的工业用水管道故障诊断方法及系统 | |
CN109239082B (zh) | 基于机器视觉技术的烟丝结构质量在线检测方法及系统 | |
CN109492708B (zh) | 一种基于ls-knn的管道漏磁内检测缺失数据插补方法 | |
CN110688617B (zh) | 风机振动异常检测方法及装置 | |
WO2020252574A1 (en) | Artificial intelligence-based process and system for visual inspection of infrastructure | |
JP2019209271A (ja) | 汚水処理施設の水質判定装置及び水質判定方法 | |
CN111339907A (zh) | 一种基于图像识别技术的排污识别方法及装置 | |
Qiu et al. | Methodology for accurate AASHTO PP67-10–based cracking quantification using 1-mm 3D pavement images | |
CN111522808A (zh) | 一种风电机组异常运行数据处理方法 | |
CN116378123A (zh) | 一种基于bim的基坑健康监测系统 | |
CN116342538A (zh) | 一种跑冒滴漏检测方法、装置、智能设备和存储介质 | |
CN117029968A (zh) | 一种流量数据的诊断方法、系统、存储介质和电子设备 | |
CN115272826A (zh) | 一种基于卷积神经网络的图像识别方法、装置及系统 | |
CN114778684A (zh) | 一种基于服役场景的钢管性能评估方法及系统 | |
CN114331114A (zh) | 一种管道安全风险智能化监管方法及系统 | |
CN115082658A (zh) | 一种指针表读数的识别方法及装置 | |
CN115063337A (zh) | 埋地管道智能维修决策方法及装置 | |
CN113420063A (zh) | 一种施工监测异常采集数据自动识别与处理的系统 | |
CN114611728B (zh) | 污水管网堵塞监测方法及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |