KR102100386B1 - Method for Kalman filtering using measurement noise recommendation, and recording medium thereof - Google Patents
Method for Kalman filtering using measurement noise recommendation, and recording medium thereof Download PDFInfo
- Publication number
- KR102100386B1 KR102100386B1 KR1020180094826A KR20180094826A KR102100386B1 KR 102100386 B1 KR102100386 B1 KR 102100386B1 KR 1020180094826 A KR1020180094826 A KR 1020180094826A KR 20180094826 A KR20180094826 A KR 20180094826A KR 102100386 B1 KR102100386 B1 KR 102100386B1
- Authority
- KR
- South Korea
- Prior art keywords
- data
- noise
- original data
- input
- kalman filtering
- Prior art date
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/17—Function evaluation by approximation methods, e.g. inter- or extrapolation, smoothing, least mean square method
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/14—Fourier, Walsh or analogous domain transformations, e.g. Laplace, Hilbert, Karhunen-Loeve, transforms
- G06F17/148—Wavelet transforms
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Mathematical Optimization (AREA)
- Pure & Applied Mathematics (AREA)
- Mathematical Analysis (AREA)
- Data Mining & Analysis (AREA)
- Computational Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Algebra (AREA)
- Databases & Information Systems (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- Measurement Of Mechanical Vibrations Or Ultrasonic Waves (AREA)
Abstract
본 발명의 칼만 필터링 방법은 입력된 센서 데이터에서 노이즈가 제거된 원본 데이터를 추정하는 단계, 상기 센서 데이터와 추정된 원본 데이터를 비교하고 분석하여 측정 노이즈를 계산하는 단계 및 상기 측정 노이즈를 사용하여 칼만 필터링을 수행하는 단계를 포함한다.
본 발명에 의하면, 측정 노이즈 추천을 통한 칼만 필터링 방법을 제안함으로서, 전문 사용자와 일반 사용자 모두에게 정확한 필터링 결과를 제공할 수 있다는 효과가 있다. The Kalman filtering method of the present invention includes estimating original data from which noise is removed from input sensor data, comparing and analyzing the sensor data and estimated original data to calculate measurement noise, and using the measured noise to calculate Kalman And performing filtering.
According to the present invention, by suggesting a Kalman filtering method through recommendation of measurement noise, there is an effect that it is possible to provide accurate filtering results to both professional users and general users.
Description
본 발명은 칼만 필터링에 관한 것으로서, 더욱 상세하게는 입력 데이터를 분석하여 칼만 필터링의 주요 노이즈 파라미터인 측정 노이즈를 찾아내고, 이를 칼만 필터링에 적용하는 기법에 관한 것이다. The present invention relates to Kalman filtering, and more particularly, to a method of analyzing input data to find measurement noise, which is a main noise parameter of Kalman filtering, and applying it to Kalman filtering.
최근 5G, 사물인터넷(IoT: Internet of Things) 등 센서 기반 기술의 발전으로 스마트팩토리(smart factory), 스마트시티(smart city), 웨어러블 디바이스(wearable device)와 같은 응용이 증가하고 있다. 이러한 응용 기술에서 발생되는 대용량 센서 데이터의 효과적 활용을 위해서는 전체 데이터의 특징이 잘 반영된 데이터를 추출하는 정제 과정이 필요하다. 대표적인 정제 방법인 샘플링/필터링은 대량의 원본 데이터로부터 의미있는 정보를 얻을 수 있는 효과적인 알고리즘이다. 이중 필터링은 원본 데이터에서 불필요한 정보를 제거하는 방법이며, 다양한 필터링 기술 중 센서 데이터의 노이즈 제거 및 보정에 많이 사용되는 칼만 필터링(Kalman filtering)이 있다. Recently, with the development of sensor-based technologies such as 5G and the Internet of Things (IoT), applications such as smart factories, smart cities, and wearable devices are increasing. In order to effectively utilize large-capacity sensor data generated in these application technologies, a purification process is required to extract data that reflects the characteristics of the entire data. Sampling / filtering, a typical purification method, is an effective algorithm that can obtain meaningful information from a large amount of original data. Double filtering is a method of removing unnecessary information from the original data, and among various filtering techniques is Kalman filtering, which is frequently used for noise removal and correction of sensor data.
칼만 필터링은 센서 데이터에 특화된 비학습 기반 필터링 알고리즘으로, 과거 데이터들을 기반으로 현재 측정 값에 대한 최적의 값을 결정한다. 칼만 필터를 사용한 결과는 단순 측정 결과보다 정확한 실제 값을 추정할 수 있으므로, 주로 센서 데이터의 노이즈를 제거하거나 다음 상태 값을 추정하는 목적으로 사용된다. Kalman filtering is a non-learning based filtering algorithm specialized for sensor data, and determines an optimal value for a current measurement value based on past data. The result using Kalman filter can estimate the actual value more accurate than the simple measurement result, so it is mainly used for the purpose of removing noise from sensor data or estimating the next state value.
칼만 필터링은 잡음이 포함된 시계열 데이터를 상태공간 모델(state space model)로 표현하고 확률적 추정을 통해 최상의 보정 값을 계산하는 방법으로, 크게 센서 데이터의 노이즈 제거와 데이터 추정 등에 사용된다. 예를 들어, 전압 측정 과정에서 잡음이 많아 정확한 측정이 어려운 경우에는 노이즈 제거 기술로 사용되며, 네비게이션 시스템에서 위치 정보만으로 속도를 추정하는 것과 같이 다른 측정 값으로 측정되지 않은 값을 추정하는 경우에는 데이터 추정 기술로 사용된다. 특히 노이즈 제거를 위해 칼만 필터링을 사용할 때는 노이즈가 포함되지 않은 실제 값과 칼만 필터로 보정된 값의 오차를 최소화하는 것을 목표로 동작한다. 이러한 칼만 필터링은 과거 데이터를 재귀적으로 처리하기 때문에, 한 순간 측정된 데이터 기반으로 필터링을 수행하는 것보다 더 정확한 결과를 기대할 수 있다. 또한, 새로운 측정 데이터를 빠르게 처리할 수 있으므로 지속적으로 생성되는 센서 데이터 필터링에 적합하다. 칼만 필터링을 계산하기 위해서는 다음 수학식 1과 같은 상태 방정식이 필요하다.Kalman filtering is a method of expressing time series data including noise as a state space model and calculating the best correction value through stochastic estimation. It is mainly used for noise removal of sensor data and data estimation. For example, when there is a lot of noise in the voltage measurement process and it is difficult to measure accurately, it is used as a noise removal technology. When the navigation system estimates a value that is not measured by other measured values, such as speed estimation using only location information, data Used as an estimation technique. In particular, when using Kalman filtering to remove noise, the goal is to minimize the error between the actual value that does not contain noise and the value corrected by the Kalman filter. Since Kalman filtering recursively processes past data, more accurate results can be expected than performing filtering based on data measured at one moment. In addition, since it can process new measurement data quickly, it is suitable for filtering continuously generated sensor data. In order to calculate Kalman filtering, a state equation such as
[수학식 1][Equation 1]
여기서, xt는 상태변수 벡터이고, zt는 측정치 벡터이고, F는 상태변수 xt +1과 xt의 관계 행렬이고, H는 상태변수와 측정 값과의 관계 행렬이고, Q는 프로세스 노이즈이고, R은 측정 노이즈이다. Here, x t is a state variable vector, z t is a measurement vector, F is a relationship matrix between state variables x t +1 and x t , H is a relationship matrix between state variables and measured values, and Q is process noise. And R is measurement noise.
칼만 필터링은 다음 수학식 2에서와 같이, 예측(predict)과 보정(correct)의 두 단계로 동작한다. Kalman filtering operates in two stages, as shown in
[수학식 2][Equation 2]
먼저, 예측 단계에서는 과거에 입력, 추정된 데이터를 바탕으로 현재 센서로부터 측정될 값을 예측한다. 그리고, 보정 단계에서는 앞서 얻은 과거 시점의 예측 값과 현재 시점의 측정 값으로 최적의 값을 결정한다.First, in the prediction step, a value to be measured from the current sensor is predicted based on data input and estimated in the past. Then, in the correction step, an optimal value is determined from the predicted value obtained in the past and the measured value in the current time.
칼만 필터링을 정확하게 사용하기 위해서는 사용자가 센서 데이터에 대한 자세한 정보를 입력해야 한다. 특히, 수학식 1의 프로세스 노이즈 Q와 측정 노이즈 R은 칼만 필터의 성능을 결정하는 매우 중요한 파라미터이다. To use Kalman filtering accurately, the user must enter detailed information about the sensor data. In particular, the process noise Q and the measurement noise R in
프로세스 노이즈 Q는 자외선, 바람 등과 같이 외부 환경에서 발생되는 노이즈로, 데이터 도메인 전문가가 그 값을 결정하기도 하나 대개는 0과 근사한 값을 사용하여 필터링을 수행한다. The process noise Q is noise generated in an external environment such as ultraviolet rays and wind, and is determined by a data domain expert, but is usually filtered using a value close to 0.
반면에, 측정 노이즈 R은 칼만 필터링을 정확하게 사용하기 위해서 사용자가 입력하는 파라미터로서 데이터 측정 기기(센서)에 의한 노이즈 분산(variance)을 의미하는데, 전문가가 아닌 일반 사용자가 센서 데이터만으로 이 노이즈 값을 얻기란 매우 어렵다. 따라서, 측정 노이즈 정보를 알 수 없는 경우 사용자가 이를 경험적으로 결정하여 사용하기 때문에 필터링의 정확도가 저하되는 문제가 있다.On the other hand, measurement noise R is a parameter input by the user to accurately use Kalman filtering, and means noise variance by a data measurement device (sensor). It is very difficult to get. Therefore, if the measurement noise information is unknown, the accuracy of filtering is deteriorated because the user determines and uses it empirically.
도 1은 종래 사용자가 경험적으로 결정한 측정 노이즈로 칼만 필터링을 수행하는 과정을 예시한 도면이다. 1 is a diagram illustrating a process of performing Kalman filtering with measurement noise determined empirically by a conventional user.
도 1은 사용자가 측정 노이즈 R을 경험적으로 결정하는 방법을 나타낸 것으로서, 기계의 노이즈 정보를 알지 못하는 사용자는 센서 데이터를 직접 확인하고 경험적으로 칼만 필터링의 노이즈 파라미터를 결정한다.FIG. 1 shows a method for a user to empirically determine measurement noise R. A user who does not know the noise information of a machine directly checks sensor data and empirically determines a noise parameter of Kalman filtering.
칼만 필터로 노이즈를 정확히 필터링하기 위해서는 측정 과정에서 추가된 노이즈의 분산(variance), 즉 측정 노이즈가 요구된다. 측정 기기 자체에서 노이즈 정보를 제공하는 경우, 사용자는 해당 정보를 칼만 필터링에 적용할 수 있다. 그러나, 기기 정보를 알지 못하는 대부분의 일반 사용자는 측정 노이즈에 대한 정보를 얻기 어려우며, 이러한 경우에는 도 1에서 보는 바와 같이, 사용자가 경험적으로 측정 노이즈 값을 결정하여 칼만 필터링에 사용한다. 만일, 사용자 경험으로 결정된 측정 노이즈 R이 센서의 노이즈 정보와 근사하다면 칼만 필터링은 비교적 정확한 필터링을 수행하지만, 경험이 부족하여 잘못된 R을 결정하면 노이즈가 없는 실제 데이터와 칼만 필터링을 통해 노이즈를 제거한 데이터 간에 큰 오차가 발생하는 문제가 있다.In order to accurately filter noise with a Kalman filter, variance of noise added in the measurement process, that is, measurement noise is required. When noise information is provided by the measurement device itself, the user can apply the information to Kalman filtering. However, most general users who do not know the device information have difficulty in obtaining information on measurement noise, and in this case, as shown in FIG. 1, the user empirically determines the measurement noise value and uses it for Kalman filtering. If the measurement noise R determined by user experience is close to the noise information of the sensor, Kalman filtering performs relatively accurate filtering, but if the R is incorrect due to lack of experience, the actual data without noise and data with noise removed by Kalman filtering There is a problem that a large error occurs in the liver.
결과적으로, 보다 정확한 필터링 결과를 얻기 위해서는 경험적(experiential) 방법으로 측정 노이즈를 결정하는 것보다 센서 데이터로부터 직접 노이즈를 추출하여 칼만 필터링에 사용하는 분석적(analytical) 방법을 사용하는 것이 바람직하다.Consequently, in order to obtain more accurate filtering results, it is preferable to use an analytical method that extracts noise directly from sensor data and uses it for Kalman filtering rather than determining measurement noise by an experiential method.
본 발명은 상기와 같은 문제점을 해결하기 위하여 안출된 것으로서, 센서 데이터로부터 직접 노이즈를 추출하여 칼만 필터링에 사용하는 분석적 방법을 제공하는데 그 목적이 있다.The present invention has been devised to solve the above problems, and has an object to provide an analytical method for extracting noise directly from sensor data and using it for Kalman filtering.
본 발명의 목적은 이상에서 언급한 목적으로 제한되지 않으며, 언급되지 않은 또 다른 목적들은 아래의 기재로부터 통상의 기술자에게 명확하게 이해될 수 있을 것이다.The objects of the present invention are not limited to the above-mentioned objects, and other objects not mentioned will be clearly understood by those skilled in the art from the following description.
이와 같은 목적을 달성하기 위한 본 발명의 칼만 필터링 방법은 입력된 센서 데이터에서 노이즈가 제거된 원본 데이터를 추정하는 단계, 상기 센서 데이터와 추정된 원본 데이터를 비교하고 분석하여 측정 노이즈를 계산하는 단계 및 상기 측정 노이즈를 사용하여 칼만 필터링을 수행하는 단계를 포함한다. The Kalman filtering method of the present invention for achieving the above object includes estimating original data from which noise is removed from the input sensor data, comparing and analyzing the sensor data and the estimated original data to calculate measurement noise, and And performing Kalman filtering using the measurement noise.
본 발명의 일 실시예에서 이동평균 변환 방식을 이용하여 상기 원본 데이터를 추정할 수 있다. In one embodiment of the present invention, the original data may be estimated using a moving average conversion method.
상기 이동평균 변환 방식을 이용하되, 입력된 센서 데이터에 k-이동평균 변환을 적용하여 최근 k개의 평균을 계산함으로써, 원본 데이터를 추정하고, 상기 센서 데이터와 추정된 원본 데이터 간의 거리의 분산을 계산하여 측정 노이즈를 결정할 수 있다. Using the moving average conversion method, the k-moving average conversion is applied to the input sensor data to calculate the recent k averages to estimate the original data, and to calculate the variance of the distance between the sensor data and the estimated original data. The measurement noise can be determined.
본 발명의 일 실시예에서 웨이블릿 변환 방식을 이용하여 상기 원본 데이터를 추정할 수 있다. In one embodiment of the present invention, the original data may be estimated using a wavelet transform method.
상기 웨이블릿 변환 방식을 이용하되, 입력된 센서 데이터에 웨이블릿 변환을 적용하고, 에너지가 집중된 웨이블릿 계수를 선택하여 그 값을 유지하고 나머지 웨이블릿 계수 값을 0으로 변환하고, 웨이블릿 변환된 데이터를 역 웨이블릿 변환하여 노이즈가 제거된 원본 데이터를 추정하고, 센서 데이터와 추정된 원본 데이터 간 거리의 분산을 계산하여 측정 노이즈를 결정할 수 있다. Using the wavelet transform method, applying a wavelet transform to the input sensor data, selecting the energy-concentrated wavelet coefficient, maintaining the value, converting the remaining wavelet coefficient values to 0, and converting the wavelet transformed data into an inverse wavelet transform By estimating the original data from which the noise has been removed, the measurement noise can be determined by calculating the variance of the distance between the sensor data and the estimated original data.
본 발명의 일 실시예에서 잡음제거 오토인코더를 이용하여 상기 원본 데이터를 추정할 수 있다. In one embodiment of the present invention, the original data may be estimated using a noise canceling autoencoder.
상기 잡음제거 오토인코더를 이용하되, 입력된 센서 데이터를 상기 잡음제거 오토인코더에 입력하여 노이즈가 제거된 원본 데이터를 추정하고, 센서 데이터와 추정된 원본 데이터 간의 거리를 계산하여 노이즈를 산출하고, 산출된 노이즈의 분산을 구하여 측정 노이즈로 결정할 수 있다. Using the noise canceling autoencoder, input the input sensor data to the noise canceling autoencoder to estimate the original data from which the noise has been removed, and calculate the noise by calculating the distance between the sensor data and the estimated original data It is possible to determine the measured noise by obtaining the dispersion of the noise.
본 발명에 의하면, 측정 노이즈 추천을 통한 칼만 필터링 방법을 제안함으로서, 전문 사용자와 일반 사용자 모두에게 정확한 필터링 결과를 제공할 수 있다는 효과가 있다. According to the present invention, by suggesting a Kalman filtering method through recommendation of measurement noise, there is an effect that it is possible to provide accurate filtering results to both professional users and general users.
도 1은 종래 사용자가 경험적으로 결정한 측정 노이즈로 칼만 필터링을 수행하는 과정을 예시한 도면이다.
도 2는 본 발명의 일 실시예에 따른 센서 데이터를 분석하여 결정된 측정 노이즈로 칼만 필터링을 수행하는 방법을 예시한 도면이다.
도 3은 본 발명의 일 실시예에 따른 측정 노이즈 추천 칼만 필터링의 전체 동작 알고리즘이다.
도 4는 본 발명의 일 실시예에 따른 원본 데이터 추정 과정을 예시한 도면이다.
도 5는 본 발명의 일 실시예에 따른 측정 노이즈 계산 과정을 예시한 도면이다.
도 6은 본 발명의 일 실시예에 따른 이동평균 변환을 사용한 측정 노이즈 계산 과정을 도시한 도면이다.
도 7은 본 발명의 일 실시예에 따른 웨이블릿 변환을 사용한 측정 노이즈 계산 과정을 도시한 도면이다.
도 8은 본 발명의 일 실시예에 따른 잡음제거 오토인코더를 사용한 측정 노이즈 계산 과정을 도시한 도면이다.
도 9는 본 발명의 일 실시예에 따른 잡음제거 오토인코더를 예시한 것이다.
도 10은 본 발명의 일 실시예에 따른 실험에 사용된 잡음제거 오토인코더의 구조를 나타낸 것이다.
도 11은 본 발명의 일 실시예에 따른 학습에 사용된 파라미터를 나타낸 도표이다.
도 12는 본 발명의 일 실시예에 따른 실험에 사용된 전력 소비 데이터의 예시도이다.
도 13은 본 발명의 일 실시예에 따른 학습에 추가되는 노이즈의 예시도이다.
도 14는 윈도우 크기 512에서 전력 데이터의 칼만 필터링 결과를 나타낸 도표이다.
도 15는 윈도우 크기 512에서 기존 방법 대비 본 발명에서 제안하는 방법의 필터링 향상률을 도시한 그래프이다.
도 16은 윈도우 크기 1024에서 전력 데이터의 칼만 필터링 결과를 나타낸 도표이다.
도 17은 윈도우 크기 1024에서 기존 방법 대비 본 발명에서 제안하는 방법의 필터링 향상률을 도시한 그래프이다.
도 18은 윈도우 크기 2048에서 전력 데이터의 칼만 필터링 결과를 나타낸 도표이다.
도 19는 윈도우 크기 2048에서 기존 방법 대비 본 발명에서 제안하는 방법의 필터링 향상률을 도시한 그래프이다.
도 20은 윈도우 크기 512에서 전압 데이터의 칼만 필터링 결과를 나타낸 도표이다.
도 21은 윈도우 크기 512에서 기존 방법 대비 본 발명에서 제안하는 방법의 필터링 향상률을 도시한 그래프이다.
도 22는 윈도우 크기 1024에서 전압 데이터의 칼만 필터링 결과를 나타낸 도표이다.
도 23은 윈도우 크기 1024에서 기존 방법 대비 본 발명에서 제안하는 방법의 필터링 향상률을 도시한 그래프이다.
도 24는 윈도우 크기 2048에서 전압 데이터의 칼만 필터링 결과를 나타낸 도표이다.
도 25는 윈도우 크기 2048에서 기존 방법 대비 본 발명에서 제안하는 방법의 필터링 향상률을 도시한 그래프이다.
도 26은 윈도우 크기 512에서 전력 데이터의 측정 노이즈 추정 결과를 나타낸 도표이다.
도 27은 윈도우 크기 1024에서 전력 데이터의 측정 노이즈 추정 결과를 나타낸 도표이다.
도 28은 윈도우 크기 2048에서 전력 데이터의 측정 노이즈 추정 결과를 나타낸 도표이다.
도 29는 윈도우 크기 512에서 전압 데이터의 측정 노이즈 추정 결과를 나타낸 도표이다.
도 30은 윈도우 크기 1024에서 전압 데이터의 측정 노이즈 추정 결과를 나타낸 도표이다.
도 31은 윈도우 크기 2048에서 전압 데이터의 측정 노이즈 추정 결과를 나타낸 도표이다. 1 is a diagram illustrating a process of performing Kalman filtering with measurement noise determined empirically by a conventional user.
2 is a diagram illustrating a method of performing Kalman filtering with measurement noise determined by analyzing sensor data according to an embodiment of the present invention.
3 is a whole operation algorithm of measurement noise recommendation Kalman filtering according to an embodiment of the present invention.
4 is a diagram illustrating an original data estimation process according to an embodiment of the present invention.
5 is a diagram illustrating a measurement noise calculation process according to an embodiment of the present invention.
6 is a diagram illustrating a process for calculating measurement noise using a moving average transform according to an embodiment of the present invention.
7 is a diagram illustrating a measurement noise calculation process using wavelet transform according to an embodiment of the present invention.
8 is a diagram illustrating a measurement noise calculation process using a noise reduction autoencoder according to an embodiment of the present invention.
9 illustrates a noise canceling autoencoder according to an embodiment of the present invention.
10 shows the structure of a noise canceling autoencoder used in an experiment according to an embodiment of the present invention.
11 is a chart showing parameters used for learning according to an embodiment of the present invention.
12 is an exemplary diagram of power consumption data used in an experiment according to an embodiment of the present invention.
13 is an exemplary diagram of noise added to learning according to an embodiment of the present invention.
14 is a table showing Kalman filtering results of power data at a window size of 512.
15 is a graph showing a filtering enhancement rate of the method proposed in the present invention compared to an existing method in a window size of 512.
16 is a diagram showing Kalman filtering results of power data at a window size of 1024.
17 is a graph showing a filtering enhancement rate of the method proposed in the present invention compared to an existing method in a window size of 1024.
18 is a table showing Kalman filtering results of power data at a window size of 2048.
19 is a graph showing a filtering enhancement rate of the method proposed in the present invention compared to the existing method in the
20 is a diagram showing Kalman filtering results of voltage data at a window size of 512.
21 is a graph showing a filtering enhancement rate of the method proposed in the present invention compared to an existing method in a window size of 512.
22 is a table showing Kalman filtering results of voltage data at a window size of 1024.
23 is a graph showing a filtering enhancement rate of a method proposed in the present invention compared to an existing method in a window size of 1024.
24 is a table showing Kalman filtering results of voltage data at a window size of 2048.
25 is a graph showing a filtering enhancement rate of a method proposed in the present invention compared to an existing method in a
26 is a chart showing the measurement noise estimation result of power data at a window size of 512.
27 is a chart showing the measurement noise estimation result of power data at a window size of 1024.
28 is a chart showing the measurement noise estimation result of power data at
FIG. 29 is a chart showing measurement noise estimation results of voltage data at a window size of 512.
30 is a table showing the result of estimation of measurement noise of voltage data at a window size of 1024.
31 is a chart showing the measurement noise estimation result of the voltage data at the
본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세하게 설명하고자 한다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.The present invention can be applied to various changes and can have various embodiments, and specific embodiments will be illustrated in the drawings and described in detail. However, this is not intended to limit the present invention to specific embodiments, and should be understood to include all modifications, equivalents, and substitutes included in the spirit and scope of the present invention.
본 출원에서 사용한 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, "포함하다" 또는 "가지다" 등의 용어는 명세서 상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.The terms used in this application are only used to describe specific embodiments, and are not intended to limit the present invention. Singular expressions include plural expressions unless the context clearly indicates otherwise. In this application, terms such as “include” or “have” are intended to indicate that a feature, number, step, operation, component, part, or combination thereof described on the specification exists, and that one or more other features are present. It should be understood that the existence or addition possibilities of fields or numbers, steps, operations, components, parts or combinations thereof are not excluded in advance.
다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 갖고 있다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥 상 갖는 의미와 일치하는 의미를 갖는 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.Unless defined otherwise, all terms used herein, including technical or scientific terms, have the same meaning as commonly understood by a person skilled in the art to which the present invention pertains. Terms, such as those defined in a commonly used dictionary, should be interpreted as having meanings consistent with meanings in the context of related technologies, and should not be interpreted as ideal or excessively formal meanings unless explicitly defined in the present application. Does not.
또한, 첨부 도면을 참조하여 설명함에 있어, 도면 부호에 관계없이 동일한 구성 요소는 동일한 참조 부호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 본 발명을 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다.In addition, in the description with reference to the accompanying drawings, the same components are given the same reference numerals regardless of the reference numerals, and redundant descriptions thereof will be omitted. In the description of the present invention, when it is determined that detailed descriptions of related known technologies may unnecessarily obscure the subject matter of the present invention, detailed descriptions thereof will be omitted.
본 발명에서 칼만 필터링 방법을 수행하는 주체는 컴퓨터를 포함하는 단말 장치라고 할 수 있으며, 또는 컴퓨터 등의 단말 장치를 전반적으로 제어하는 제어부나 프로세서(processor)일 수 있다. 즉, 본 발명의 칼만 필터링 방법은 일종의 소프트웨어인 알고리즘으로 구성되며, 소프트웨어 알고리즘은 컴퓨터 등의 단말 장치의 제어부 또는 프로세서(processor)에서 실행될 수 있다. In the present invention, the subject that performs the Kalman filtering method may be referred to as a terminal device including a computer, or may be a controller or processor that controls the terminal device such as a computer as a whole. That is, the Kalman filtering method of the present invention is composed of an algorithm that is a kind of software, and the software algorithm can be executed in a controller or processor of a terminal device such as a computer.
즉, 본 발명에서 칼만 필터링 방법을 수행하는 주체는 컴퓨터를 전반적으로 제어하는 제어부 또는 제어 명령 신호 및 일련의 프로그램을 처리하는 중앙처리장치(CPU, Central Processing Unit)일 수 있다. 즉, 본 발명의 칼만 필터링 방법은 일종의 소프트웨어인 알고리즘 또는 로직으로 구성되며, 소프트웨어 알고리즘은 컴퓨터의 제어부 또는 중앙처리장치에서 실행될 수 있다.That is, in the present invention, the subject performing the Kalman filtering method may be a control unit for controlling the computer as a whole or a central processing unit (CPU) for processing a control command signal and a series of programs. That is, the Kalman filtering method of the present invention is composed of an algorithm or logic that is a kind of software, and the software algorithm can be executed in a control unit or a central processing unit of a computer.
본 발명에서는 보다 정확한 필터링 결과를 얻기 위해서, 경험적(experiential) 방법으로 측정 노이즈를 결정하는 방식이 아닌, 센서 데이터로부터 직접 노이즈를 추출하여 칼만 필터링에 사용하는 분석적(analytical) 방법을 제안한다. In the present invention, in order to obtain a more accurate filtering result, an analytical method that extracts noise directly from sensor data and uses it for Kalman filtering, rather than a method of determining measurement noise by an experiential method, is proposed.
도 2는 본 발명의 일 실시예에 따른 센서 데이터를 분석하여 결정된 측정 노이즈로 칼만 필터링을 수행하는 방법을 예시한 도면이다. 2 is a diagram illustrating a method of performing Kalman filtering with measurement noise determined by analyzing sensor data according to an embodiment of the present invention.
도 2를 참조하면, 본 발명에서는 센서 데이터를 분석하여 측정 노이즈 R을 계산하는 방법을 제안한다. 측정 노이즈는 입력 데이터에 포함된 노이즈의 분산으로, 이를 계산하기 위해 노이즈가 포함된 실제 센서 데이터와 노이즈가 제거된 원본 추정 데이터를 비교하는 방법을 사용한다. 이때, 본 발명에서는 원본 추정 데이터를 생성하는 방법으로 비학습 기반과 학습 기반의 방법을 사용한다.Referring to FIG. 2, the present invention proposes a method for calculating measurement noise R by analyzing sensor data. Measurement noise is the variance of noise included in the input data. To calculate this, a method of comparing actual sensor data including noise and original estimated data from which noise is removed is used. At this time, the present invention uses a non-learning-based and a learning-based method as a method of generating original estimation data.
비학습 기반 방법으로는 이동평균(moving average)과 웨이블릿 변환(Wavelet transform)이 있다. Non-learning-based methods include moving average and wavelet transform.
이동평균(moving average)은 입력 데이터의 노이즈를 제거하여 원본을 추출하는데 사용된다.The moving average is used to extract the original by removing the noise of the input data.
이동평균 변환은 두 개 이상의 연속된 데이터의 평균으로 데이터의 경향을 파악하는 간단하고 유용한 방법으로 신호 스무딩, 주식 등의 분야에서 널리 사용된다. 가장 보편적인 이동평균 변환 알고리즘인 k-이동평균 변환은 입력 시퀀스를 연속된 k개 데이터의 평균으로 구성된 새로운 시퀀스로 변환하는 방법이다. 즉, 새로운 데이터가 입력되면 가장 오래된 데이터를 제거함으로써, 데이터 개수를 일정하게 유지하며 평균을 계산한다. 이동평균 변환에서 k는 이동평균 계수(moving average order)라 하는데, 이 값은 입력 데이터의 전역적 추세 정도에 따라 달리하여 사용될 수 있다.Moving average conversion is a simple and useful way to grasp the trend of data by averaging two or more consecutive data, and is widely used in fields such as signal smoothing and stocks. The most common moving average transformation algorithm, k-moving average transformation, is a method of transforming an input sequence into a new sequence consisting of the average of k consecutive data. That is, when new data is input, the oldest data is removed, and the number of data is kept constant and the average is calculated. In the moving average transformation, k is called a moving average order, and this value may be used differently according to the degree of global trend of input data.
웨이블릿 변환은 입력 데이터를 어떤 시간 구간에 대해 국소화(localization)하는 방법으로, 신호 처리 분야에서 널리 사용되고 있다.Wavelet transform is a method of localizing input data for a certain time period, and is widely used in the field of signal processing.
웨이블릿 변환은 시간 변화에 따른 다양한 주파수 특성을 분석하여 하나의 신호에서 여러 개의 주파수 성분들을 추출하는 방법으로서, 유사한 목적을 갖는 푸리에(Fourier) 변환보다 그 성능이 좋기 때문에 잡음 제거, 영상 압축, 음성 압축 등 신호처리 전 분야에서 사용되고 있다. 이 방법은 사인(sine), 코사인(cosine) 함수뿐만 아니라 Haar, Daubechies 등의 좀 더 복잡한 기저함수를 웨이블릿 모함수로 사용할 수 있다. Wavelet transform is a method of extracting multiple frequency components from a single signal by analyzing various frequency characteristics over time. Because it has better performance than Fourier transform with similar purpose, noise reduction, image compression, and voice compression It is used in all fields of signal processing. This method can use sine and cosine functions as well as more complex base functions such as Haar and Daubechies as wavelet parent functions.
학습 기반 방법으로는 잡음제거 오토인코더(denoising autoencoder)가 았다. The learning-based method was a denoising autoencoder.
잡음제거 오토인코더는 입력에 포함된 노이즈를 제거하는 신경망으로, 사전에 입력의 전역적인 특성을 추출할 수 있도록 모델을 학습하고 학습 결과로 측정 노이즈를 계산한다.The noise canceling autoencoder is a neural network that removes the noise included in the input. It trains the model to extract the global characteristics of the input in advance, and calculates the measurement noise as a training result.
잡음제거 오토인코더는 오토인코더(autoencoder)의 한 종류로, 데이터에 노이즈가 추가되었을 때 노이즈가 제거된 원본 데이터를 추정하는 인공 신경망이다. 기존 오토인코더는 입력을 해당 모델의 출력으로 생성하는 신경망으로, 인코더(encoder)와 디코더(decoder)로 구성된다. 인코더는 데이터 x를 입력받아 차원 축소로 그 특성을 학습하고, 디코더는 앞서 인코딩된 특성을 입력받아 그 출력을 데이터 x로 복원하는 역할을 한다. The noise canceling autoencoder is a type of autoencoder, and is an artificial neural network that estimates original data from which noise has been removed when noise is added to the data. The existing autoencoder is a neural network that generates an input as an output of a corresponding model, and is composed of an encoder and a decoder. The encoder receives the data x and learns its characteristics by dimension reduction, and the decoder receives the previously encoded characteristics and restores the output to the data x.
도 9는 본 발명의 일 실시예에 따른 잡음제거 오토인코더를 예시한 것이다. 9 illustrates a noise canceling autoencoder according to an embodiment of the present invention.
도 9에서 보는 바와 같이, 잡음제거 오토인코더는 기존 오토인코더의 인코더-디코더 구조는 유지하되, 입력과 학습을 변경한 방법이다.As shown in FIG. 9, the noise canceling autoencoder maintains the encoder-decoder structure of the existing autoencoder, but changes input and learning.
도 9를 참조하면, 먼저 원본 데이터(original input) x에 노이즈를 추가하여 노이즈 입력(noisy input)인 입력 데이터 
[수학식 3][Equation 3]
[수학식 4][Equation 4]
수학식 3은 입력 데이터 
[수학식 5][Equation 5]
[수학식 6][Equation 6]
일반적으로, 잡음제거 오토인코더 모델의 손실 함수(loss function)는 복원된 데이터 x'과 원본 데이터 x의 오차 제곱(square error)으로 계산하며, 이는 수학식 5와 같다. 그리고 수학식 6과 같이 수학식 5의 손실 함수 L이 최소화 되도록 모델을 최적화한다. 이때 
본 발명에서는 이와 같이 비지도 학습(unsupervised learning)으로 생성된 신경망으로 다양한 노이즈에서 원본을 추정하도록 학습시키고, 이를 제안 방법의 측정 노이즈 계산 과정의 한 가지 방법으로 사용한다.In the present invention, the neural network generated by unsupervised learning is trained to estimate the original from various noises, and it is used as one method of the measurement noise calculation process of the proposed method.
도 3은 본 발명의 일 실시예에 따른 측정 노이즈 추천 칼만 필터링의 전체 동작 알고리즘이다. 3 is a whole operation algorithm of measurement noise recommendation Kalman filtering according to an embodiment of the present invention.
도 3을 참조하면, 먼저, 입력 데이터 S에서 측정 노이즈 파라미터 추정에 사용할 길이 w의 데이터를 저장한다(라인 (3)~(5)). 그리고 앞서 생성한 데이터 A를 측정 노이즈 추천 함수 fR()로 분석하여 측정 노이즈를 결정한다(라인 (6)). 본 발명에서 함수 fR()로는 이동평균 변환, 웨이블릿 변환, 오토인코더를 사용할 수 있다. 마지막으로, 계산된 측정 노이즈 R은 노이즈 추천에 사용된 데이터를 제외한 나머지 입력 S[w+1: end]의 칼만 필터링 파라미터로 사용한다(라인 (7)~(8)).Referring to FIG. 3, first, data of length w to be used for estimation of measurement noise parameters from input data S is stored (lines (3) to (5)). Then, the previously generated data A is analyzed with the measurement noise recommendation function f R () to determine the measurement noise (line (6)). In the present invention, a moving average transform, a wavelet transform, and an autoencoder can be used as the function f R (). Finally, the calculated measurement noise R is used as the Kalman filtering parameter of the remaining inputs S [w + 1: end] excluding the data used for noise recommendation (lines (7) to (8)).
도 4는 본 발명의 일 실시예에 따른 원본 데이터 추정 과정을 예시한 도면이다. 4 is a diagram illustrating an original data estimation process according to an embodiment of the present invention.
도 4를 참조하면, 본 발명에서 원본 데이터 추정 단계에서는 분석적 방법을 사용하여 원본 데이터를 추정한다. 즉, 이동 평균(Moving average), 웨이블릿 변환(Wavelet transform), 잡음제거 오토인코더(Denoising AutoEncoder)의 분석적 방법을 이용하여 원본 데이터를 추정한다. Referring to FIG. 4, in the step of estimating original data in the present invention, original data is estimated using an analytical method. That is, original data is estimated using analytical methods of moving average, wavelet transform, and denoising autoencoder.
도 5는 본 발명의 일 실시예에 따른 측정 노이즈 계산 과정을 예시한 도면이다. 5 is a diagram illustrating a measurement noise calculation process according to an embodiment of the present invention.
도 5를 참조하면, 본 발명에서 측정 노이즈 계산 단계에서는 원본 추정 데이터와 센서 데이터의 비교를 통해 측정 노이즈를 계산한다. Referring to FIG. 5, in the measurement noise calculation step of the present invention, measurement noise is calculated through comparison of original estimation data and sensor data.
도 6은 본 발명의 일 실시예에 따른 이동평균 변환을 사용한 측정 노이즈 계산 과정을 도시한 도면이다. 도 6은 이동평균 변환을 사용한 비학습 기반 노이즈 추정 방법의 동작 과정을 나타낸다. 6 is a diagram illustrating a process for calculating measurement noise using a moving average transform according to an embodiment of the present invention. 6 shows an operation process of a non-learning based noise estimation method using a moving average transform.
도 6을 참조하면, 본 발명의 이동평균 변환을 사용한 비학습 기반 노이즈 추정 방법의 동작 과정은, 크게 (1) 이동평균 변환으로 센서 데이터로부터 원본 데이터 추정, (2) 측정 노이즈 R을 센서 데이터와 추정된 원본 데이터로 계산하는 두 단계로 구성된다. Referring to FIG. 6, the operation process of the non-learning based noise estimation method using the moving average transformation of the present invention is largely (1) estimation of original data from sensor data by moving average transformation, (2) measurement noise R and sensor data It consists of two steps to calculate the estimated original data.
단계 (1)에서는 k-이동평균 변환을 센서 데이터에 적용하여 최근 k개의 평균을 계산함으로써 원본 데이터를 추정한다. In step (1), the original data is estimated by calculating the recent k averages by applying the k-moving average transformation to the sensor data.
다음으로, 단계 (2)에서는 앞서 입력된 센서 데이터와 단계 (1)에서 생성된 원본 추정 데이터 간 거리의 분산을 계산하여, 측정 노이즈 R을 결정한다. 도 6과 같이, 센서 데이터가 S, 원본 추정 데이터가 S'인 경우, 노이즈 데이터 N = S - S' (ni = si - s'i)으로 구하면, 이 N의 분산을 측정 노이즈 R로 삼는 것이다. 이렇게 구성된 R은 센서 데이터에 포함된 실제 노이즈의 추정치이다.Next, in step (2), the measurement noise R is determined by calculating the variance of the distance between the previously input sensor data and the original estimation data generated in step (1). 6, when the sensor data is S and the original estimation data is S ', noise data N = S-S' (n i = s i -s' i ), the variance of this N is measured noise R To make. R thus constructed is an estimate of the actual noise included in the sensor data.
도 7은 본 발명의 일 실시예에 따른 웨이블릿 변환을 사용한 측정 노이즈 계산 과정을 도시한 도면이다. 도 7은 웨이블릿 변환을 사용하여 측정 노이즈 R을 계산하는 과정을 도시한 것이다. 7 is a diagram illustrating a measurement noise calculation process using wavelet transform according to an embodiment of the present invention. 7 shows a process of calculating measurement noise R using a wavelet transform.
도 7을 참조하면, 웨이블릿 변환으로 측정 노이즈를 추천하는 방법은 (1) 입력 센서 데이터에 웨이블릿 변환 적용, (2) 에너지가 집중된 소수의 웨이블릿 계수 선택, (3) 역 웨이블릿 변환, (4) 입력 센서 데이터와 역 웨이블릿 결과로 측정 노이즈 R 계산의 네 단계로 구성된다. Referring to FIG. 7, a method for recommending measurement noise by wavelet transform is (1) applying a wavelet transform to input sensor data, (2) selecting a small number of wavelet coefficients with concentrated energy, (3) inverse wavelet transform, and (4) input It consists of four steps of calculating the measurement noise R as a result of the sensor data and the inverse wavelet.
먼저, 단계 (1)에서는 입력된 길이 n인 센서 데이터(S)에 웨이블릿 변환을 적용한다. 이때, 웨이블릿 변환된 데이터(SWT)는 센서 데이터의 웨이블릿 계수들로 구성되는데, 이들은 입력 데이터의 주파수 정보를 담고 있다. First, in step (1), a wavelet transform is applied to the sensor data S having an input length n. At this time, the wavelet transformed data S WT is composed of wavelet coefficients of sensor data, which contain frequency information of input data.
그리고, 단계 (2)에서는 단계 (1)의 변환된 데이터에서 초기 f (f << n)개의 웨이블릿 계수 값은 유지하고 나머지 웨이블릿 계수 값은 0으로 변환한다. 이는 센서 데이터에서 저주파 정보 즉, 노이즈를 제거하고 에너지가 집중된 고주파 정보만을 추출하기 위함이다. Then, in step (2), the initial f (f << n) wavelet coefficient values are maintained in the converted data of step (1), and the remaining wavelet coefficient values are converted to zero. This is to remove low frequency information, that is, noise and extract high-frequency information focused on energy from sensor data.
단계 (3)에서는 앞서 추출된 고주파 데이터(SWT')를 역 웨이블릿 변환하여 노이즈가 제거된 원본 데이터(S')를 추정한다. In step (3), the inverse wavelet transform is performed on the extracted high frequency data S WT 'to estimate the original data S' from which noise has been removed.
마지막으로, 단계 (4)에서는 센서 데이터와 단계 (3)에서 얻은 원본 추정 데이터 간 차의 분산을 계산함으로써 측정 노이즈 R을 결정한다.Finally, in step (4), the measurement noise R is determined by calculating the variance of the difference between the sensor data and the original estimation data obtained in step (3).
도 8은 본 발명의 일 실시예에 따른 잡음제거 오토인코더를 사용한 측정 노이즈 계산 과정을 도시한 도면이다. 도 8은 잡음제거 오토인코더 기반 측정 노이즈 추천의 동작 과정을 나타낸다. 8 is a diagram illustrating a measurement noise calculation process using a noise reduction autoencoder according to an embodiment of the present invention. 8 shows an operation process of noise reduction autoencoder based measurement noise recommendation.
도 8을 참조하면, 잡음제거 오토인코더를 이용한 측정 노이즈 추천은 (1) 잡음제거 오토인코더로 원본 데이터 추정과 (2) 센서 데이터 S와 추정된 원본 데이터 S'에서 측정 노이즈 R 계산의 두 단계로 구성된다. Referring to FIG. 8, measurement noise recommendation using a noise canceling autoencoder is performed in two stages: (1) estimation of original data with a noise canceling autoencoder and (2) measurement noise R from sensor data S and estimated original data S '. It is composed.
단계 (1)에서는 센서 데이터를 잡음제거 오토인코더에 입력하여 노이즈가 제거된 원본 데이터를 추정한다. 이때 사용되는 잡음제거 오토인코더는 학습을 미리 수행한 모델로, 도 10에 도시된 바와 같다. In step (1), the sensor data is input to the noise reduction autoencoder to estimate the original data from which the noise has been removed. In this case, the noise canceling autoencoder used is a model in which learning is performed in advance, as shown in FIG. 10.
그리고, 단계 (2)에서는 입력된 센서 데이터와 단계 (1)에서 추정된 원본 데이터 간의 차를 계산하여 노이즈를 얻고, 그 분산을 구하여 이를 측정 노이즈 R로 결정한다. Then, in step (2), the difference between the input sensor data and the original data estimated in step (1) is calculated to obtain noise, and its variance is determined to determine the measurement noise R.
이제 본 발명에서 제안한 노이즈 추정 방법의 정확도를 실험을 통해 평가하고자 한다. 본 실험에서는 칼만 필터링 정확도와 노이즈 추정 정확도의 두 가지 척도로 평가를 수행한다. 먼저, 필터링 정확도 실험은 기존 칼만 필터링과 제안하는 측정 노이즈 추천 칼만 필터링의 비교로 수행된다. 다음으로, 노이즈 추정 정확도 실험은 데이터에 임의로 추가한 노이즈와 이들에게서 각 제안 방법들로 추정한 측정 노이즈(노이즈 분산)의 비교를 통해 수행된다.Now, the accuracy of the noise estimation method proposed in the present invention will be evaluated through experiments. In this experiment, Kalman filtering accuracy and noise estimation accuracy are evaluated on two scales. First, the filtering accuracy experiment is performed by comparing the existing Kalman filtering with the proposed Kalman filtering for measurement noise. Next, the noise estimation accuracy experiment is performed by comparing noise randomly added to the data and measurement noise (noise variance) estimated by each proposed method from them.
본 발명의 일 실시예에서 원본 데이터를 얻기 위해 구성한 오토인코더 네트워크는 도 10에 도시된 바와 같다. In one embodiment of the present invention, an autoencoder network configured to obtain original data is as shown in FIG. 10.
도 10은 본 발명의 일 실시예에 따른 실험에 사용된 잡음제거 오토인코더의 구조를 나타낸 것이다. 10 shows the structure of a noise canceling autoencoder used in an experiment according to an embodiment of the present invention.
도 10을 참조하면, 본 발명의 잡음제거 오토인코더는 인코더(Encoder)와 디코더(Decoder)로 구성된다. 인코더는 각각 세 개의 컨볼루션(Convolution)과 풀링 레이어(Pooling layer)로 구성되고, 디코더는 세 개의 전치 컨볼루션 레이어로 구성된 대칭 구조이다. 여기서, 각각의 컨볼루션 레이어는 1x5 필터를 사용하며, 다양한 특징 벡터를 추출하고 패딩(padding)으로 가장자리 정보를 유지한다. 그리고, 전치 컨볼루션 레이어 또한 1x5 필터를 사용하며 특징 벡터의 수를 감소시키며 이들을 종합한다. 마지막으로, 각 레이어 사이에는 활성 함수로 Leaky ReLU(leaky rectified linear unit)를 사용한다.10, the noise canceling autoencoder of the present invention is composed of an encoder (Encoder) and a decoder (Decoder). The encoder is composed of three convolutions and a pooling layer, and the decoder is a symmetrical structure composed of three preconvolutional layers. Here, each convolution layer uses a 1x5 filter, extracts various feature vectors, and maintains edge information by padding. In addition, the preconvolution layer also uses a 1x5 filter, reduces the number of feature vectors, and synthesizes them. Finally, a leaky rectified linear unit (ReLU) is used as an active function between each layer.
도 11은 본 발명의 일 실시예에 따른 학습에 사용된 파라미터를 나타낸 도표이다. 11 is a chart showing parameters used for learning according to an embodiment of the present invention.
도 11에서 보는 바와 같이, 학습률(learning rate)은 0.01을, 배치 크기는 200, 최적화 함수로는 Adam으로 모델을 학습하였고, 에폭(epoch)은 500 전후에서 손실(loss)과 원본-복원 데이터의 차이가 수렴하여, 500으로 설정하였다.11, the learning rate (learning rate) is 0.01, the batch size is 200, and the model is trained as Adam as the optimization function, and the epoch is about 500 of loss and original-restore data. The differences converged and set to 500.
실험이 수행된 하드웨어 플랫폼은 Intel® Core™ i5-2400 CPU 3.10GHz, 8GB RAM, 128GB SSD를 장착한 워크스테이션이며, 학습을 위해 NVIDIA GeForce GTX 970, 4GB의 GPU를 사용하였다. 또한, 소프트웨어 플랫폼은 Windows 10 운영체제이며, 개발 환경 및 실행 환경으로 IntelliJ IDEA와 Anaconda 4.4.8을 사용하였다. 실험에 사용된 데이터는 UCI 기계 학습 저장소(UCI Machine Learning Repository)의 가정 전력 소비 데이터를 사용하였다. The hardware platform on which the experiment was conducted is a workstation equipped with an Intel® Core ™ i5-2400 CPU 3.10GHz, 8GB RAM, and 128GB SSD, and an NVIDIA GeForce GTX 970, 4GB GPU was used for learning. In addition, the software platform is a
도 12는 본 발명의 일 실시예에 따른 실험에 사용된 전력 소비 데이터의 예시도이다. 도 12는 실험에 사용한 데이터의 예로서, (a)는 전력(power) 데이터, (b)는 전압(voltage) 데이터이다. 전력과 전압 데이터에는 노이즈가 존재하지 않으며, 본 실험에서는 이 원본 데이터에 노이즈를 추가하여 칼만 필터의 입력 데이터로 사용함으로써 정확도를 측정한다. 노이즈는 수학식 7과 같이 원본 데이터의 표준편차가 "σ" 라 할 때, "σ" 의 n%를 표준편차로 하는 정규분포 데이터를 노이즈로 생성하여 원본 데이터에 추가하였다.12 is an exemplary diagram of power consumption data used in an experiment according to an embodiment of the present invention. 12 is an example of data used in the experiment, (a) is power (power) data, (b) is voltage (voltage) data. There is no noise in the power and voltage data. In this experiment, accuracy is measured by adding noise to the original data and using it as input data of the Kalman filter. When the standard deviation of the original data is "σ" as shown in
[수학식 7][Equation 7]
여기서, O는 원본 데이터이고, X는 원본에 추가된 노이즈 데이터이고, σ는 원본 데이터의 표준편차이다. Here, O is the original data, X is the noise data added to the original, and σ is the standard deviation of the original data.
본 발명에서 제안한 측정 노이즈 추천 방법에는 일정 길이의 시퀀스 데이터가 요구된다. 따라서, 본 실험에서는 측정 노이즈 계산에 사용할 센서 데이터를 길이 512, 1024, 2048의 시퀀스로 나누어 계산 및 정확도를 비교한다. 이동평균 변환 방법에서 사용되는 계수 k는 시퀀스 길이의 1/4인 128, 256, 512개를 사용한다. 그리고, 웨이블릿 변환 방법에서는 웨이블릿 함수로 FWT(fast Wavelet transform)를 사용하고, 모함수로 Daubechies-4를 사용한다. 이때 사용되는 웨이블릿 계수 f는 이동평균 계수와 동일하게 128, 256, 512로 각각 사용한다.The measurement noise recommendation method proposed in the present invention requires sequence data of a certain length. Therefore, in this experiment, the sensor data to be used for calculating measurement noise is divided into a sequence of
비학습 기반 방법인 이동평균, 웨이블릿 변환과는 다르게 학습 기반 방법인 잡음제거 오토인코더는 모델 생성을 위해 학습이 요구된다. 잡음제거 오토인코더의 학습에는 노이즈가 포함되어 있지 않은 원본 데이터가 필요하므로, 본 학습에서는 길이 512, 1024, 2048의 전력 시퀀스 데이터 12,000개를 구성하고, 이중 3/5인 7,200개를 학습 데이터로, 1/5인 2,400개를 각각 평가 데이터와 테스트 데이터로 사용하였다. 잡음제거 오토인코더에는 노이즈가 포함된 데이터를 입력해야 한다. 따라서, 매 학습마다 각 데이터에 다양한 표준편차의 노이즈를 추가하였다. Unlike the non-learning-based method, moving average and wavelet transform, the learning-based method, noise canceling autoencoder, requires learning to generate a model. Since the noise reduction auto-encoder training requires original data that does not contain noise, in this lesson, 12,000 power sequence data of
도 13은 본 발명의 일 실시예에 따른 학습에 추가되는 노이즈의 예시도이다. 13 is an exemplary diagram of noise added to learning according to an embodiment of the present invention.
도 13은 원본 데이터와 학습에 입력되는 데이터의 예이고, (a)는 노이즈가 추가되기 전의 원본 데이터이며, (b)와 (c)는 모델의 입력 데이터이다. 13 is an example of original data and data input to learning, (a) is original data before noise is added, and (b) and (c) are model input data.
도 13을 참조하면, 매 학습 시 다양한 노이즈가 추가되어 학습 반복 수인 에폭(epoch)이 증가될 때마다 모델의 입력 데이터가 변화됨을 알 수 있다.Referring to FIG. 13, it can be seen that the input data of the model is changed each time the epoch, which is the number of learning iterations, is increased by adding various noises in each learning.
본 발명의 필터링 정확도 평가 실험에서는 기존 칼만 필터링과 제안하는 칼만 필터링의 정확도를 비교한다. 각 방법의 정확도는 노이즈를 포함하지 않은 원본 데이터와 각각의 칼만 필터링으로 노이즈가 제거된 결과 간의 유사 거리를 비교한다. 이때, 기존 칼만 필터링에 사용된 측정 노이즈는 비전문가인 일반 사용자를 고려하여 0부터 실험 데이터 표준편차의 30배 사이에 있는 임의의 실수를 사용하고, 정확도 측정에는 시계열 데이터의 유사도 측정에 많이 사용되는 유클리디안 거리(Euclidean distance)를 사용한다.In the filtering accuracy evaluation experiment of the present invention, the accuracy of the existing Kalman filtering and the proposed Kalman filtering is compared. The accuracy of each method compares the similar distance between the original data that does not contain noise and the noise-removed result by each Kalman filtering. At this time, the measurement noise used for the existing Kalman filtering uses a random number between 0 and 30 times the standard deviation of the experimental data in consideration of the non-expert general user, and the accuracy measurement is often used to measure the similarity of time series data. Use the Cludian distance.
도 14는 윈도우 크기 512에서 전력 데이터의 칼만 필터링 결과를 나타낸 도표이고, 도 16은 윈도우 크기 1024에서 전력 데이터의 칼만 필터링 결과를 나타낸 도표이고, 도 18은 윈도우 크기 2048에서 전력 데이터의 칼만 필터링 결과를 나타낸 도표이고, 도 20은 윈도우 크기 512에서 전압 데이터의 칼만 필터링 결과를 나타낸 도표이고, 도 22는 윈도우 크기 1024에서 전압 데이터의 칼만 필터링 결과를 나타낸 도표이고, 도 24는 윈도우 크기 2048에서 전압 데이터의 칼만 필터링 결과를 나타낸 도표이다. FIG. 14 is a chart showing Kalman filtering results of power data at
도 15는 윈도우 크기 512에서 기존 방법 대비 본 발명에서 제안하는 방법의 필터링 향상률을 도시한 그래프이고, 도 17은 윈도우 크기 1024에서 기존 방법 대비 본 발명에서 제안하는 방법의 필터링 향상률을 도시한 그래프이고, 도 19는 윈도우 크기 2048에서 기존 방법 대비 본 발명에서 제안하는 방법의 필터링 향상률을 도시한 그래프이고, 도 21은 윈도우 크기 512에서 기존 방법 대비 본 발명에서 제안하는 방법의 필터링 향상률을 도시한 그래프이고, 도 23은 윈도우 크기 1024에서 기존 방법 대비 본 발명에서 제안하는 방법의 필터링 향상률을 도시한 그래프이고, 도 25는 윈도우 크기 2048에서 기존 방법 대비 본 발명에서 제안하는 방법의 필터링 향상률을 도시한 그래프이다. 15 is a graph showing the filtering enhancement rate of the method proposed in the present invention compared to the existing method in the
도 14, 도 16, 도 18, 도 20, 도 22, 도 24는 윈도우 크기에 따라 기존 방법과 제안한 방법의 필터링 정확도를 측정하고 이를 비교한 결과이며, 도 15, 도 17, 도 19, 도 21, 도 23, 도 25는 기존 방법 대비 제안 방법의 필터링 정확도 향상률을 나타낸다.14, 16, 18, 20, 22, and 24 are the results of measuring and comparing the filtering accuracy of the existing method and the proposed method according to the window size, and FIGS. 15, 17, 19, and 21 , FIG. 23 and FIG. 25 show the improvement rate of filtering accuracy of the proposed method compared to the existing method.
본 발명의 실험에서 칼만 필터의 파라미터 중에서 측정 노이즈 R을 제외한 나머지 값을 모두 동일하게 고정하고 수행하였다. 도 14, 도 16, 도 18, 도 20, 도 22, 도 24에서, 원본 데이터에는 식 (10)을 사용하여 각각 표준편차의 20%, 40%, 60%, 80%, 100% 비율을 갖는 노이즈를 추가하였다. 또한, 각 방법의 실험 결과는 10회 반복 수행한 결과의 평균으로 나타내었으며, 측정 노이즈는 512, 1024, 2048 단위로 추정하고 이를 칼만 필터링에 적용하였다. 각 표와 그림에서, Existing_KF는 기존 칼만 필터링을 뜻하며, MA_KF는 이동평균 변환을, WT_KF는 웨이블릿 변환을, DAE_KF는 잡음제거 오토인코더를 사용한 칼만 필터링을 의미한다. 그리고, 필터링 향상률은 기존 방법의 유클리디안 거리를 제안 방법으로 나누어 계산하였다.In the experiment of the present invention, all the values except the measurement noise R among parameters of the Kalman filter were fixed and performed identically. In FIGS. 14, 16, 18, 20, 22, and 24, the original data was used to obtain the ratio of 20%, 40%, 60%, 80%, 100% of the standard deviation, respectively, using Equation (10). Noise was added. In addition, the experimental results of each method were expressed as the average of the results of 10 iterations, and the measurement noise was estimated in units of 512, 1024, and 2048 and applied to Kalman filtering. In each table and figure, Existing_KF stands for conventional Kalman filtering, MA_KF stands for moving average transform, WT_KF stands for wavelet transform, and DAE_KF stands for Kalman filtering using noise canceling autoencoder. In addition, the filtering enhancement rate was calculated by dividing the Euclidean distance of the existing method by the proposed method.
도 14, 도 16, 도 18은 전력 데이터를 이용한 실험 결과이다. 도 14, 도 16, 도 18을 보면, 원본 데이터와 필터링된 데이터 사이의 유클리디안 거리가 기존 방법(Existing_KF)보다 제안 방법(MA_KF, WT_KF, DAE_KF)이 더 가까운 것을 알 수 있다. 이는 본 발명에서 제안한 방법이 기존 방법보다 정확하게 노이즈를 필터링 하였음을 의미한다. 14, 16, and 18 are experimental results using power data. 14, 16, and 18, it can be seen that the proposed method (MA_KF, WT_KF, DAE_KF) is closer to the Euclidean distance between the original data and the filtered data than the existing method (Existing_KF). This means that the method proposed in the present invention filtered noise more accurately than the existing method.
도 15, 도 17, 도 19를 보면, 본 발명에서 제안하는 분석적으로 측정 노이즈를 추정한 제안 방법이 임의 노이즈를 부여한 기존 방법보다 최대 2.5배까지 필터링 성능을 향상시켰음을 알 수 있다. 특히, 본 발명에서 제안 방법 중에서도 이동평균 변환보다 웨이블릿 변환과 잡음제거 오토인코더를 사용한 방법의 성능이 더 뛰어난 것을 확인할 수 있다. 그 이유는 이동평균 변환에 사용되는 계수 k 때문으로, 이동평균의 계산 특성상, 원본 데이터를 추정할 때 초기 k개의 결과는 정확한 경향을 추정하기 어렵기 때문이다. 즉, 이동평균 방법은 k개의 평균값을 사용하기 때문에 k 내에서 부분적으로 값의 변화폭이 증가해도 그 값은 k개의 평균에 수렴하게 된다. 즉, 평균을 계산함으로써 일시적인 값의 변화를 감지하기가 어렵기 때문에 원본과의 차이가 발생한다. 이 문제는 측정 노이즈 추정에 k-이동평균 대신 지수이동평균을 사용하면 해결이 가능하다. 지수이동평균은 최근 발생한 값에 더 큰 가중치를 주어 계산하는 방법으로, 전체 k개 데이터에 모두 동일한 가중치를 두는 k-이동평균보다 더 정확한 원본 데이터를 추정할 것으로 예상된다.15, 17, and 19, it can be seen that the proposed method for estimating analytical measurement noise proposed in the present invention improves filtering performance up to 2.5 times compared to an existing method in which random noise is provided. In particular, it can be seen that among the proposed methods in the present invention, the performance of a method using a wavelet transform and a noise reduction autoencoder is superior to a moving average transform. The reason is because the coefficient k used for the moving average transformation, because of the nature of the calculation of the moving average, it is difficult to estimate the exact trend of the initial k results when estimating the original data. That is, since the moving average method uses k average values, even if the change width of the value partially increases within k, the values converge to the k averages. That is, since it is difficult to detect a temporary change in value by calculating the average, a difference from the original occurs. This problem can be solved by using exponential moving average instead of k-moving average for estimation of measurement noise. The exponential moving average is a method of calculating the weight by giving a greater weight to the recently generated value, and it is expected to estimate more accurate original data than the k-moving average, which puts the same weight on all k data.
도 20 내지 도 25는 전압 데이터 실험 결과를 나타낸다. 20 to 25 show voltage data experiment results.
도 20, 도 22, 도 24를 보면, 전력 데이터와 마찬가지로 웨이블릿 변환과 잡음제거 오토인코더는 기존 칼만 필터링보다 유클리디안 거리가 더 가까웠으나, 이동평균 변환을 사용한 칼만 필터링 결과는 그렇지 못하였다. 이동평균 변환의 필터링 정확도가 낮은 이유는 앞서 전력 데이터 실험에서 설명하였듯이 k-이동평균의 특징에서 기인한다. 특히, 이동평균 변환의 필터링 성능이 기존 방법보다도 낮은 이유는 실험에 사용된 전압 데이터의 특성 때문이다. 앞서 전력 데이터를 사용한 실험에서는 데이터의 평균이 약 1.09였으나 전압 데이터는 그 값이 약 240.83으로 상대적으로 매우 큰 값이다. 이동평균 변환 결과는 계산 특성상, 경향을 나타내는 값이 처음부터 초기 k의 값까지 0에 가까운 수부터 점차 증가한다. 따라서, 이동평균 변환을 전압 데이터에 적용한 초기 k개의 값들이 전력 데이터에 적용한 값들보다 더 먼 원본 데이터를 추정하게 된다. 이렇게 추정된 원본 데이터는 항상 측정 노이즈의 값에 영향을 미치게 되며 그 값을 사용한 칼만 필터링의 결과에도 영향을 미친다. 20, 22, and 24, like the power data, the wavelet transform and the noise canceling autoencoder were closer to the Euclidean distance than the existing Kalman filtering, but the Kalman filtering result using the moving average transform was not. The reason why the filtering accuracy of the moving average transformation is low is due to the characteristics of the k-moving average as described in the power data experiment. In particular, the reason why the filtering performance of the moving average transformation is lower than that of the conventional method is because of the characteristics of the voltage data used in the experiment. In the previous experiment using power data, the average of the data was about 1.09, but the voltage data was relatively large, about 240.83. The moving average conversion result gradually increases from the number close to zero from the beginning to the initial k value due to the calculation characteristics. Accordingly, the original k values that apply the moving average transform to the voltage data estimate original data farther than those applied to the power data. The original data estimated in this way always affects the value of the measurement noise and also the results of Kalman filtering using the value.
도 21, 도 23, 도 25를 보면, 웨이블릿 변환과 잡음제거 오토인코더를 사용하여 칼만 필터링을 수행한 결과는 기존 칼만 필터링에 비해 최대 1.5배 필터링 성능이 향상되었음을 알 수 있다. 이는 입력 데이터 특성에 따라 정확도에 차이가 생기는 이동평균 변환을 제외하면, 제안 방법들이 기존 방법보다 필터링을 잘 수행함을 의미한다. 특히, 웨이블릿 변환 방법의 경우 웨이블릿 계수 f를 조절하면 더 높은 성능을 얻을 것으로 기대된다. 전압 데이터에서는 웨이블릿 방법이 모든 경우에 잡음제거 오토인코더 방법보다 성능이 좋게 나타났다.21, 23, and 25, it can be seen that the result of performing Kalman filtering using wavelet transform and noise reduction autoencoder is up to 1.5 times higher in filtering performance than conventional Kalman filtering. This means that the proposed methods perform better filtering than the existing methods, except for the moving average transform, which varies in accuracy depending on the characteristics of the input data. In particular, in the case of the wavelet transform method, it is expected to obtain higher performance by adjusting the wavelet coefficient f. The voltage data showed that the wavelet method outperformed the noise canceling autoencoder method in all cases.
본 발명에서 제안 방법의 노이즈 추정 정확도는 실제 추가한 노이즈의 분산과 제안 방법들로 추정한 노이즈를 비교한다.In the present invention, the noise estimation accuracy of the proposed method compares the variance of noise actually added with the noise estimated by the proposed methods.
도 26은 윈도우 크기 512에서 전력 데이터의 측정 노이즈 추정 결과를 나타낸 도표이고, 도 27은 윈도우 크기 1024에서 전력 데이터의 측정 노이즈 추정 결과를 나타낸 도표이고, 도 28은 윈도우 크기 2048에서 전력 데이터의 측정 노이즈 추정 결과를 나타낸 도표이고, 도 29는 윈도우 크기 512에서 전압 데이터의 측정 노이즈 추정 결과를 나타낸 도표이고, 도 30은 윈도우 크기 1024에서 전압 데이터의 측정 노이즈 추정 결과를 나타낸 도표이고, 도 31은 윈도우 크기 2048에서 전압 데이터의 측정 노이즈 추정 결과를 나타낸 도표이다.FIG. 26 is a diagram showing the measurement noise estimation result of power data at
도 26 내지 도 31은 노이즈가 포함된 데이터에서 제안 방법들로 측정 노이즈를 추정하고, 이를 실제 노이즈와 비교한 결과이다. 26 to 31 are the results of estimating measurement noise from proposed data and comparing it with actual noise.
도 26 내지 도 28은의 Correct R은 전력 데이터의 원본에 포함된 실제 노이즈의 분산을 나타내고, 도 29 내지 도 31의 Correct R은 전압 데이터의 원본에 포함된 실제 노이즈의 분산을 의미한다. 또한, fMAT()은 이동평균 변환을 사용하여 추정된 측정 노이즈이고, fWavelet()은 웨이블릿 변환을 사용하여 추정된 측정 노이즈이고,fDAE()는 잡음제거 오토인코더를 사용하여 추정된 측정 노이즈를 의미한다. 본 실험에서는 실제 측정 노이즈(Correct R)와 제안 방법으로 추정한 측정 노이즈(fMAT(), fWavelet(), fDAE())를 비교하여 추정 정확도를 평가한다. 즉, Correct R과 측정 노이즈가 유사할수록 추정 정확도가 높다고 할 수 있다.Correct R in FIGS. 26 to 28 represents the dispersion of actual noise included in the original power data, and Correct R in FIGS. 29 to 31 represents the dispersion of actual noise included in the original voltage data. Also, fMAT () is the measured noise estimated using the moving average transform, fWavelet () is the measured noise estimated using the wavelet transform, and fDAE () is the measured noise estimated using the noise canceling autoencoder. do. In this experiment, the estimation accuracy is evaluated by comparing actual measurement noise (Correct R) with measurement noise (fMAT (), fWavelet (), fDAE ()) estimated by the proposed method. That is, it can be said that the estimation accuracy is higher as Correct R and measurement noise are similar.
도 26 내지 도 28을 보면 노이즈 추가율 40%를 제외한 나머지 20%, 60%, 80%, 100%는 잡음제거 오토인코더가 측정 노이즈를 더 유사하게 추정하였다. 예를 들어, 도 26의 측정 노이즈 추정 결과는 20%, 60%, 80%, 100%에서 잡음제거 오토인코더 방법이 가장 정확하며, 노이즈 40%의 경우에만 웨이블릿 변환이 가장 정확한 값을 추정하였다. 26 to 28, 20%, 60%, 80%, and 100% of the noise removal rate except for 40%, the noise canceling auto-encoder estimated the measurement noise more similarly. For example, in the measurement noise estimation result of FIG. 26, the noise canceling autoencoder method is the most accurate at 20%, 60%, 80%, and 100%, and the wavelet transform estimates the most accurate value only when the noise is 40%.
도 29 내지 도 31은 전압 데이터로 측정 노이즈 추정 정확도를 실험한 결과이다. 도 29 내지 도 31에서 측정 노이즈의 추정결과를 보면, 노이즈 추가율 20, 40%에서 웨이블릿 변환 방법이 Correct R과 가장 유사한 값을 추정하였으며, 60, 80, 100%에서는 잡음제거 오토인코더가 가장 유사한 값을 추정하였다. 29 to 31 are the results of experimenting the measurement noise estimation accuracy with voltage data. Looking at the estimation results of measurement noise in FIGS. 29 to 31, the wavelet transform method estimated the most similar value to Correct R at the noise addition rate of 20 and 40%, and the noise canceling autoencoder was the most similar at 60, 80, and 100%. Values were estimated.
이상에서 설명한 바와 같이, 본 발명에서 제안하는 칼만 필터의 다양한 노이즈 추정 방법이 정확하고 효율적으로 동작함을 확인하였으며, 본 발명에서 제안하는 비학습 기반과 학습 기반의 노이즈 추정 방법이 모두 효과적으로 동작함을 확인하였다.As described above, it has been confirmed that the various noise estimation methods of the Kalman filter proposed in the present invention operate accurately and efficiently, and that the non-learning-based and learning-based noise estimation methods proposed by the present invention operate effectively. Confirmed.
한편, 본 발명의 실시예에 따른 칼만 필터링 방법은 컴퓨터로 읽을 수 있는 기록매체에 컴퓨터가 읽을 수 있는 코드로서 구현되는 것이 가능하다. 컴퓨터가 읽을 수 있는 기록매체는 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다.On the other hand, the Kalman filtering method according to an embodiment of the present invention can be implemented as a computer-readable code on a computer-readable recording medium. The computer-readable recording medium includes all kinds of recording devices in which data readable by a computer system is stored.
예컨대, 컴퓨터가 읽을 수 있는 기록매체로는 롬(ROM), 램(RAM), 시디-롬(CD-ROM), 자기 테이프, 하드디스크, 플로피디스크, 이동식 저장장치, 비휘발성 메모리(Flash Memory), 광 데이터 저장장치 등이 포함된다.For example, a computer-readable recording medium includes ROM, RAM, CD-ROM, magnetic tape, hard disk, floppy disk, removable storage device, and non-volatile memory (Flash Memory). , Optical data storage, and the like.
또한, 컴퓨터로 읽을 수 있는 기록매체는 컴퓨터 통신망으로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 읽을 수 있는 코드로서 저장되고 실행될 수 있다. 그리고 본 발명을 구현하기 위한 기능적인(functional) 프로그램, 코드 및 코드 세그먼트들은 본 발명이 속하는 기술분야의 프로그래머들에 의해 용이하게 추론될 수 있다.In addition, the computer-readable recording medium may be distributed over computer systems connected by a computer communication network, and stored and executed as code readable in a distributed manner. In addition, functional programs, codes, and code segments for implementing the present invention can be easily inferred by programmers in the technical field to which the present invention pertains.
이상 본 발명을 몇 가지 바람직한 실시예를 사용하여 설명하였으나, 이들 실시예는 예시적인 것이며 한정적인 것이 아니다. 본 발명이 속하는 기술분야에서 통상의 지식을 지닌 자라면 본 발명의 사상과 첨부된 특허청구범위에 제시된 권리범위에서 벗어나지 않으면서 다양한 변화와 수정을 가할 수 있음을 이해할 것이다.Although the present invention has been described using several preferred embodiments, these embodiments are illustrative and not limiting. Those skilled in the art to which the present invention pertains will understand that various changes and modifications can be made without departing from the spirit of the present invention and the scope of the rights set forth in the appended claims.
Claims (8)
상기 센서 데이터와 추정된 원본 데이터를 비교하고 분석하여 측정 노이즈를 계산하는 단계; 및
상기 측정 노이즈를 파라미터로 사용하여 칼만 필터링을 수행하는 단계를 포함하며,
이동평균 변환 방식을 이용하여 상기 원본 데이터를 추정하고,
입력된 센서 데이터에 k-이동평균 변환을 적용하여 최근 k개의 평균을 계산함으로써, 원본 데이터를 추정하고, 상기 센서 데이터와 추정된 원본 데이터 간의 거리의 분산을 계산하여 측정 노이즈를 계산하는 것을 특징으로 하는 칼만 필터링 방법.
Estimating original data from which noise is removed from the input sensor data;
Comparing and analyzing the sensor data and the estimated original data to calculate the measurement noise; And
And performing Kalman filtering using the measurement noise as a parameter,
Estimating the original data using a moving average conversion method,
Characterized in that, by applying a k-moving average transformation to the input sensor data, the latest k averages are calculated, the original data is estimated, and the measurement noise is calculated by calculating the variance of the distance between the sensor data and the estimated original data. Kalman filtering method.
상기 센서 데이터와 추정된 원본 데이터를 비교하고 분석하여 측정 노이즈를 계산하는 단계; 및
상기 측정 노이즈를 파라미터로 사용하여 칼만 필터링을 수행하는 단계를 포함하며,
웨이블릿 변환 방식을 이용하여 상기 원본 데이터를 추정하고,
입력된 센서 데이터에 웨이블릿 변환을 적용하고, 에너지가 집중된 웨이블릿 계수를 선택하여 그 값을 유지하고 나머지 웨이블릿 계수 값을 0으로 변환하고, 웨이블릿 변환된 데이터를 역 웨이블릿 변환하여 노이즈가 제거된 원본 데이터를 추정하고, 센서 데이터와 추정된 원본 데이터 간 거리의 분산을 계산하여 측정 노이즈를 계산하는 것을 특징으로 하는 칼만 필터링 방법.
Estimating original data from which noise is removed from the input sensor data;
Comparing and analyzing the sensor data and the estimated original data to calculate the measurement noise; And
And performing Kalman filtering using the measurement noise as a parameter,
Estimating the original data using a wavelet transform method,
Apply the wavelet transform to the input sensor data, select the energy-concentrated wavelet coefficient, maintain the value, convert the remaining wavelet coefficient value to 0, and convert the wavelet transformed data into an inverse wavelet transform to remove the original data with no noise. A Kalman filtering method, comprising estimating and calculating measurement noise by calculating a variance of a distance between sensor data and estimated original data.
상기 센서 데이터와 추정된 원본 데이터를 비교하고 분석하여 측정 노이즈를 계산하는 단계; 및
상기 측정 노이즈를 파라미터로 사용하여 칼만 필터링을 수행하는 단계를 포함하며,
잡음제거 오토인코더를 이용하여 상기 원본 데이터를 추정하고,
입력된 센서 데이터를 상기 잡음제거 오토인코더에 입력하여 노이즈가 제거된 원본 데이터 추정하고, 센서 데이터와 추정된 원본 데이터 간의 거리를 계산하여 노이즈를 산출하고, 산출된 노이즈의 분산을 구하여 측정 노이즈를 계산하며,
상기 잡음제거 오토인코더는 인코더는 세 개의 컨볼루션(Convolution)과 풀링 레이어(Pooling layer)로 구성되는 인코더와, 세 개의 전치 컨볼루션 레이어로 구성되는 디코더로 이루어지는 대칭 구조이고, 각 컨볼루션 레이어에는 1x5 필터가 사용되고, 각 전치 컨볼루션 레이어에는 1x5 필터가 사용되며, 각 레이어 사이에는 활성 함수로 Leaky ReLU(leaky rectified linear unit)가 사용되며,
상기 잡음제거 오토인코더를 이용하여 상기 원본 데이터를 추정함에 있어서,
원본 데이터(original input) x에 노이즈를 추가하여 노이즈 입력(noisy input)인 입력 데이터
θ={W, b}와 θ'={W', b'}에서 W, W'은 가중치이고, b와 b'은 바이어스(bias)라고 할 때,
입력 데이터
으로 나타낼 수 있고,
h가 디코더를 거쳐 입력
로 나타낼 수 있고,
잡음제거 오토인코더 모델의 손실 함수(loss function)는 복원된 데이터 x'과 원본 데이터 x의 오차 제곱(square error)으로 계산하며, 이를,
로 나타낼 수 있고,
상기 수학식 5의 손실 함수 L이 최소화되도록 상기 잡음제거 오토인코더 모델을 최적화하는 것을,
으로 나타낼 수 있는 것을 특징으로 하는 칼만 필터링 방법.
Estimating original data from which noise is removed from the input sensor data;
Comparing and analyzing the sensor data and the estimated original data to calculate the measurement noise; And
And performing Kalman filtering using the measurement noise as a parameter,
Estimate the original data using a noise canceling autoencoder,
The input sensor data is input to the noise canceling autoencoder to estimate the original data from which noise has been removed, the distance between the sensor data and the estimated original data is calculated to calculate noise, and the variance of the calculated noise is calculated to calculate measurement noise. And
The noise canceling autoencoder is a symmetrical structure consisting of an encoder composed of three convolution and pooling layers, and a decoder composed of three preconvolutional layers, and each convolution layer is 1x5. A filter is used, a 1x5 filter is used for each transconvolution layer, and a leaky rectified linear unit (ReLU) is used as an active function between each layer,
In estimating the original data using the noise reduction autoencoder,
Input data that is noise input by adding noise to original input x
When θ = {W, b} and θ '= {W', b '}, W and W' are weights, and b and b 'are biases,
Input data
Can be represented by
h enters through the decoder
Can be represented by
The loss function of the noise canceling autoencoder model is calculated as the squared error of the reconstructed data x 'and the original data x.
Can be represented by
Optimizing the noise canceling autoencoder model so that the loss function L of Equation 5 is minimized,
Kalman filtering method characterized in that it can be represented by.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020180094826A KR102100386B1 (en) | 2018-08-14 | 2018-08-14 | Method for Kalman filtering using measurement noise recommendation, and recording medium thereof |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020180094826A KR102100386B1 (en) | 2018-08-14 | 2018-08-14 | Method for Kalman filtering using measurement noise recommendation, and recording medium thereof |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| KR20200019377A KR20200019377A (en) | 2020-02-24 |
| KR102100386B1 true KR102100386B1 (en) | 2020-04-13 |
Family
ID=69637384
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020180094826A KR102100386B1 (en) | 2018-08-14 | 2018-08-14 | Method for Kalman filtering using measurement noise recommendation, and recording medium thereof |
Country Status (1)
| Country | Link |
|---|---|
| KR (1) | KR102100386B1 (en) |
Families Citing this family (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| EP3913383B1 (en) * | 2020-05-22 | 2023-10-04 | Rohde & Schwarz GmbH & Co. KG | Method and system for detecting anomalies in a spectrogram, spectrum or signal |
| CN112611783A (en) * | 2020-11-30 | 2021-04-06 | 贵州电网有限责任公司 | Ground net detection signal filtering method |
| KR102544621B1 (en) * | 2021-08-09 | 2023-06-15 | 배재대학교 산학협력단 | Filtering and performance comparison system and method for correcting error values of time series data |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR101579732B1 (en) * | 2015-01-14 | 2015-12-30 | 순천향대학교 산학협력단 | A method for novel health monitoring scheme for smart concrete structures |
| JP2016143042A (en) * | 2015-02-05 | 2016-08-08 | 日本電信電話株式会社 | Noise removal system and noise removal program |
Family Cites Families (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR20150080063A (en) | 2013-12-30 | 2015-07-09 | 주식회사 효성 | Device and method of trouble diagnosis for synchronous generator using an extended Kalman filter |
| GB2557882A (en) * | 2016-06-20 | 2018-07-04 | Atlantic Inertial Systems Ltd | Inertial Navigation System |
| US10394985B2 (en) * | 2017-01-11 | 2019-08-27 | Samsung Electronics Co., Ltd. | Apparatus and method for modeling random process using reduced length least-squares autoregressive parameter estimation |
-
2018
- 2018-08-14 KR KR1020180094826A patent/KR102100386B1/en active IP Right Grant
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR101579732B1 (en) * | 2015-01-14 | 2015-12-30 | 순천향대학교 산학협력단 | A method for novel health monitoring scheme for smart concrete structures |
| JP2016143042A (en) * | 2015-02-05 | 2016-08-08 | 日本電信電話株式会社 | Noise removal system and noise removal program |
Also Published As
| Publication number | Publication date |
|---|---|
| KR20200019377A (en) | 2020-02-24 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| KR102100386B1 (en) | Method for Kalman filtering using measurement noise recommendation, and recording medium thereof | |
| US8433567B2 (en) | Compensation of intra-speaker variability in speaker diarization | |
| KR102305584B1 (en) | Method and apparatus for training language model, method and apparatus for recognizing language | |
| US20230267315A1 (en) | Diffusion Models Having Improved Accuracy and Reduced Consumption of Computational Resources | |
| CN101876546A (en) | MEMS (Micro Electronic Mechanical System) gyro data processing method based on wavelet threshold de-noising and FAR (Finite Automaton Recognizable) model | |
| US11521622B2 (en) | System and method for efficient processing of universal background models for speaker recognition | |
| JP2015521748A (en) | How to convert the input signal | |
| KR20160112793A (en) | Apparatus and method for feature compensation for speech recognition in noise enviroment | |
| CN112767959B (en) | Voice enhancement method, device, equipment and medium | |
| CN115903741B (en) | Industrial control system data anomaly detection method | |
| KR20150099770A (en) | Model based prediction in a critically sampled filterbank | |
| US10147443B2 (en) | Matching device, judgment device, and method, program, and recording medium therefor | |
| WO2021059348A1 (en) | Learning method, learning program, and learning device | |
| JPWO2021059348A5 (en) | ||
| US20140111701A1 (en) | Audio Data Spread Spectrum Embedding and Detection | |
| Ma et al. | Denoised labels for financial time series data via self-supervised learning | |
| JP7205641B2 (en) | LEARNING METHODS, LEARNING PROGRAMS AND LEARNING DEVICES | |
| JP5191500B2 (en) | Noise suppression filter calculation method, apparatus, and program | |
| CN116894778A (en) | Diffusion model sampling method and device for image generation | |
| JPWO2021059349A5 (en) | ||
| Mansouri et al. | Modeling of nonlinear biological phenomena modeled by s-systems using bayesian method | |
| Miwa et al. | Statistical Test for Anomaly Detections by Variational Auto-Encoders | |
| CN113204891A (en) | DP-TBD algorithm tracking method and device based on exponential smoothing prediction | |
| WO2024089770A1 (en) | Information processing program, device, and method | |
| JP7011309B2 (en) | Coding device, coding method and program |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A201 | Request for examination | ||
| E902 | Notification of reason for refusal | ||
| E701 | Decision to grant or registration of patent right | ||
| GRNT | Written decision to grant |