KR100921495B1 - 파티클 필터링을 이용한 가우시안 혼합 모델링 업데이트 방법 - Google Patents

파티클 필터링을 이용한 가우시안 혼합 모델링 업데이트 방법 Download PDF

Info

Publication number
KR100921495B1
KR100921495B1 KR1020090025003A KR20090025003A KR100921495B1 KR 100921495 B1 KR100921495 B1 KR 100921495B1 KR 1020090025003 A KR1020090025003 A KR 1020090025003A KR 20090025003 A KR20090025003 A KR 20090025003A KR 100921495 B1 KR100921495 B1 KR 100921495B1
Authority
KR
South Korea
Prior art keywords
gmm
updating
particle filtering
gaussian mixture
state parameter
Prior art date
Application number
KR1020090025003A
Other languages
English (en)
Inventor
김형준
홍수연
Original Assignee
삼성탈레스 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성탈레스 주식회사 filed Critical 삼성탈레스 주식회사
Priority to KR1020090025003A priority Critical patent/KR100921495B1/ko
Application granted granted Critical
Publication of KR100921495B1 publication Critical patent/KR100921495B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/40—Extraction of image or video features
    • G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G06T7/277—Analysis of motion involving stochastic approaches, e.g. using Kalman filters
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10—Character recognition
    • G06V30/19—Recognition using electronic means
    • G06V30/192—Recognition using electronic means using simultaneous comparisons or correlations of the image signals with a plurality of references
    • G06V30/194—References adjustable by an adaptive method, e.g. learning

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Image Analysis (AREA)

Abstract

본 발명은 파티클 필터링을 이용한 가우시안 혼합 모델링 업데이트 방법을 개시한다.
본 발명의 GMM 업데이트 방법은 환경 변화에 따라 센서가 감지한 관측 데이터를 반영한 가중치를 파티클 필터링에 적용함으로써 GMM을 현재 환경에 최적화할 수 있다.

Description

파티클 필터링을 이용한 가우시안 혼합 모델링 업데이트 방법{Method for updating GMM using particle filtering}
다중센서기반 패턴인식을 위한 가우시안 혼합 모델링 업데이트 방법에 관한 것으로, 보다 상세하게는, 시변 영상센서정보를 기반으로 생성된 가중치가 적용된 파티클 필터링을 이용하여 가우시안 혼합 모델링을 업데이트하는 방법에 관한 것이다.
패턴 인식 분야에서 사용되는 알고리즘은 다양하게 존재하지만, 그 중 나무, 하늘, 사람 등과 같은 자연물의 영상센서 데이터는 정규상 분포 형태를 이루는 경우가 많으므로, 주로 GMM(Gaussian Mixture Modeling)을 적용하여 모델링되고 있다. 하지만, 기존의 가우시안 모델링은 오프라인상에서의 학습을 통하여 결정된 고정된(fixed) 값으로 온라인 패턴인식을 수행하는 경우가 대부분이다. 즉, K-mean 등의 알고리즘으로 초기 데이터 분포를 파악하여 EM(Expectation Maximization)을 수행하여 학습된 한정된 데이터들의 분포를 추정하는 기법이 널리 적용되고 있다.
오프라인 GMM 학습데이터 기반의 패턴인식의 경우, 실시간으로 변화하는 환경을 모두 반영할 수는 없기 때문에 센서 데이터의 오차 및 주변 환경의 변화에 따 라서 패턴 인식의 오차가 증가하게 된다. 특히, 야외 환경에 장착된 센서의 경우, 시시각각으로 변화하는 주변 환경 정보를 모두 반영하는 모델링을 수행하는 것은 거의 불가능하며, 그 결과 센서의 유형에 따라 계절, 날씨, 주/야 등의 조건에 따라 다양한 종류의 데이터 학습을 미리 수행해야 한다. 이 경우, 오프라인 학습에 대한 많은 노력이 요구되어 지며, 또한 학습데이터를 저장하게 되는 데이터베이스( Database)의 양도 굉장히 광범위해지는 단점이 있다.
본 발명은 센서가 데이터를 새로 획득함에 따라 오프라인상에서 학습된 GMM 모델링을 업데이트 함으로써 현재 상태에 대하여 최적의 모델링을 추정하고 패턴 인식 알고리즘의 인지/분류 정확도도 증대시킬 수 있도록 하는 GMM 업데이트 방법을 제공하는 것을 목적으로 한다.
본 발명의 패턴 인식을 위한 가우시안 혼합 모델링을 업데이트하는 방법은, 센서에 의해 새로 획득된 관측데이터 값을 기초로 파티클 필터링에 적용될 가중치를 계산하는 단계; 및 상기 계산된 가중치가 적용된 상기 파티클 필터링의 수행에 의해 상기 가우시안 혼합 모델링의 상태 파라미터를 추정하고, 상기 가우시안 혼합 모델링을 업데이트하는 단계;를 포함하는 것을 특징으로 한다.
본 발명의 GMM 업데이트 방법은 환경 변화에 따라 센서가 감지한 관측 데이터를 반영한 가중치를 필터링에 적용함으로써 파라미터가 고정되지 않고 가변하므로 GMM을 현재 환경에 최적화할 수 있다. 따라서 최적화된 GMM에 의한 패턴인식은 학습과정에서 미처 반영하지 못한 환경에서의 패턴인식을 수행할 경우에도 알고리즘의 인식/분류 정확도를 증가시키는 효과가 있다. 본 발명은 온도, 조도, 습도 등의 환경 조건이 실시간으로 변경되는 야외환경에서 센서 정보를 다루는 경우에 특히 유용하며, 학습을 위한 노력 및 비용을 감소시킬 수 있다.
본 발명은 가우시안 혼합 모델링(Gaussian Mixture Model: GMM)에 필터링 알고리즘으로서 파티클 필터(Particle Filter)를 적용하여 GMM을 업데이트하는 방법이다..
도 1은 본 발명의 일 실시예에 따른 가우시안 혼합 모델링 업데이트 방법을 개략적으로 설명하는 흐름도이다.
학습을 위한 영상 샘플을 추출하고(S101), 추출된 샘플에 K-mean을 수행하여 데이터 분석을 통한 GMM 개수만큼의 학습이 수행된다(S102).
EM(Estimation Maximization)을 수행하여 GMM 파라미터(변수)를 추정한다(S103). 이때 추정된 GMM 파라미터는 GMM의 평균(m), 표준편차(σ) 및 가중치(w)이다. K-mean 및 EM 수행 방법은 종래의 기술이 적용될 수 있으므로, 이에 대한 상세한 설명은 생략하겠다.
추정된 GMM 파라미터의 값을 가우시안 혼합 모델링의 초기값으로 하여 상태 파라미터 및 초기 가우시안 혼합 모델링을 설정한다(S104).
다중센서의 감지 결과 생성된 관측데이터를 입력받는다(S106). 상기 다중센서는 관측 대상으로부터 온도, 압력, 습도, 조도, 전압, 전류 등을 센싱할 수 있는 다양한 종류가 사용될 수 있다. 또한 상기 다중센서의 관측 주기는 센서의 종류 또는 관측 대상에 따라 다르게 설정될 수 있다. 관측데이터에 대한 관측함수는 GMM에 적용된 MLE(Maximum Likelihood Estimation)을 적용한다.
다음은 본 발명을 수행하기 위해 설정된 GMM을 위한 파라미터로서, 본 실시 예는 지형인지를 위한 GMM 파라미터들을 예로서 설명하나, 다른 패턴 인식에도 동일하게 적용될 수 있음은 물론이다. GMM을 위한 파라미터로는 상태 파라미터(x), 관측데이터(z), 노이즈(u, v) 및 상태 함수와 관측 함수이다. 파티클 필터링에 적용되는 상태 파라미터는 GMM의 평균, 표준편차 및 가중치 값들의 벡터이며, 노이즈는 정규상 분포로 모델링하며, 본 실시예에서는 0~255 색상공간 중 125에서의 정규상 분포로 모델링한 것을 보여주고 있으나, 패턴 인식 대상에 따라 다른 색상 범위 또는 다른 적용 조건(온도, 압력 등)과 범위가 적용될 수 있다. 여기서, k는 시간상으로 진행되는 단계를 의미하고, 아래 첨자 m은 GMM의 개수이고, n은 모델링되는 대상의 개수를 나타내고, i는 모델링되는 대상 중 특정 대상을 나타낸다.
(1) 상태 파라미터:
Figure 112009017734601-pat00001
(2) 관측데이터:
Figure 112009017734601-pat00002
(3) 노이즈:
Figure 112009017734601-pat00003
(4) 상태 함수:
Figure 112009017734601-pat00004
(5) 관측 함수:
Figure 112009017734601-pat00005
다음으로 상태 함수를 통해 가우시안 혼합 모델링을 예측하고(S105), 관측 함수를 통해 가중치를 계산한다(S107). 이때의 가중치는 GMM 파라미터의 가중치가 아니라 파티클 필터링에 적용되는 필터 가중치로서 가우시안 혼합 모델링을 업데이트하는데 사용된다. 새로운 관측데이터가 수신되면 가중치가 새로 계산되어 파티클 필터링에 적용된다.
상기 계산된 가중치가 적용된 파티클 필터링을 통해 GMM의 상태 파라미터를 추정함으로써 상기 예측된 가우시안 혼합 모델링을 업데이트한다(S108). 따라서 새로 획득된 센서 데이터의 값을 기반으로 k에서의 GMM을 업데이트하기 위한 가중치가 계산되고, 이를 바탕으로 파티클 필터링을 적용하여, k+1에서의 새로운 GMM이 추정된다. 파티클 필터링 수행시 새로운 관측데이터에 의해 새로 계산된 필터 가중치가 적용되어 GMM의 상태 파라미터가 추정됨으로써 가우시안 혼합 모델링이 업데이트된다. 업데이트된 가우시안 혼합 모델링에 의해 타겟의 패턴을 인식한다.
다음은 파티클 필터링을 위한 파라미터 및 계산식이다. 파티클 개수 설정을 위해 랜덤 넘버(M)를 생성하고, 노이즈
Figure 112009017734601-pat00006
가 적용된 상태함수 및 관측함수를 기초로 다음과 같이 파티클의 상태 파라미터 및 필터 가중치를 계산한다.
(6) 파티클의 상태 파라미터 계산
Figure 112009017734601-pat00007
(7) 필터 가중치 계산
- 필터 가중치
Figure 112009017734601-pat00008
- 필터 가중치 정규화
Figure 112009017734601-pat00009
(8) 상태 파라미터 리샘플링
Figure 112009017734601-pat00010
(9) 최적 파티클 추정
Figure 112009017734601-pat00011
여기서, m은 특정 파티클을 나타내고, 1/M은 파티클 개수 M을 정규화하는 인자이고, E는 필터링에 의해 파티클이 수렴됨에 따라 최적의 파티클을 추정하는 식이다. 최적 파티클이 추정됨에 따라 최적 상태 파라미터가 추정된다.
도 2는 본 발명의 GMM 업데이트를 위해 이용되는 파티클 필터링을 적용하여 상태 파라미터의 추정과정을 개념적으로 도시한 일 예이다. 파티클 필터링의 각 단계는 기존의 파티클 필터링 과정과 동일하므로 상세한 설명은 생략하겠다. 본 발명은 필터 가중치 적용에 있어서 새로 입력되는 관측 데이터에 의해 필터 가중치가 새로 계산되어 적용된다.
도 2를 참조하면, 본 발명의 일 실시예에서 파티클 필터링은 시간적으로 아래에서부터 위로 진행하며, 두 번의 센서에 의해 관측된 관측데이터 입력이 있고, 각각에 의해 두 번의 가중치(a, b)가 계산된다. 각 단계에서 계산된 가중치가 필터링에 적용되어 최적 파티클이 추정되고, 최적 파티클의 상태 파라미터가 업데이트된다. 최적 파티클의 상태 파라미터는 GMM 파라미터들의 벡터에 대응하므로 상태 파라미터가 업데이트됨으로써 GMM의 업데이트가 수행된다. 가중치가 적용되는 단계 간에는 수렴된 파티클의 재분포 단계가 삽입된다. 이후 추가적으로 센서에 의해 새로운 관측데이터가 입력되는 경우 동일한 단계 진행에 의해 상태 파라미터 예측 및 업데이트가 수행되고, 이에 따라 GMM의 업데이트 또한 수행된다.
이제까지 본 발명에 대하여 그 바람직한 실시예들을 중심으로 살펴보았다. 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자는 본 발명이 본 발명의 본질적인 특성에서 벗어나지 않는 범위에서 변형된 형태로 구현될 수 있음을 이해할 수 있을 것이다. 그러므로 개시된 실시예들은 한정적인 관점이 아니라 설명적인 관점에서 고려되어야 한다. 본 발명의 범위는 전술한 설명이 아니라 특허청구범위에 나타나 있으며, 그와 동등한 범위 내에 있는 모든 차이점은 본 발명에 포함된 것으로 해석되어야 할 것이다.
도 1은 본 발명의 일 실시예에 가우시안 혼합 모델링 업데이트 방법을 개략적으로 설명하는 흐름도이다.
도 2는 본 발명의 GMM 업데이트를 위해 이용되는 파티클 필터링을 적용하여 상태 파라미터의 추정과정을 개념적으로 도시한 도면이다.

Claims (4)

  1. 다중센서 기반 패턴 인식을 위한 가우시안 혼합 모델링을 업데이트하는 방법에 있어서,
    실시간으로 상기 센서에 의해 획득된 관측데이터 값을 기초로 파티클 필터링에 적용될 필터 가중치를 계산하는 단계;
    상기 필터 가중치를 이용한 파티클 필터링 수행에 의해 상기 가우시안 혼합 모델링의 상태 파라미터를 가변하는 단계; 및
    상기 가변된 상태 파라미터를 이용하여 상기 가우시안 혼합 모델링을 업데이트하는 단계;를 포함하는 것을 특징으로 하는 가우시안 혼합 모델링 업데이트 방법.
  2. 제1항에 있어서,
    상기 필터 가중치는 최대 우도 추정(Maximum Likelihood Estimation)이 적용된 관측 함수를 통해 계산되는 것을 특징으로 하는 가우시안 혼합 모델링 업데이트 방법.
  3. 제1항에 있어서,
    상기 필터 가중치는 정규상 분포로 모델링되는 것을 특징으로 하는 가우시안 혼합 모델링 업데이트 방법.
  4. 제1항에 있어서, 상기 필터 가중치는,
    Figure 112009047154116-pat00012
    에 의해 계산되고, 여기서 좌변의 wk는 단계 k에서의 가중치이고, p는 파티클함수이고, xk는 시간 k에서의 상태 파라미터, zk는 k에서 관측데이터이고, 우변은 단계 k-1에서의 상태 파라미터 xk-1과 노이즈 vk에 의한 관측함수인 것을 특징으로 하는 가우시안 혼합 모델링 업데이트 방법.
KR1020090025003A 2009-03-24 2009-03-24 파티클 필터링을 이용한 가우시안 혼합 모델링 업데이트 방법 KR100921495B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020090025003A KR100921495B1 (ko) 2009-03-24 2009-03-24 파티클 필터링을 이용한 가우시안 혼합 모델링 업데이트 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020090025003A KR100921495B1 (ko) 2009-03-24 2009-03-24 파티클 필터링을 이용한 가우시안 혼합 모델링 업데이트 방법

Publications (1)

Publication Number Publication Date
KR100921495B1 true KR100921495B1 (ko) 2009-10-13

Family

ID=41572256

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020090025003A KR100921495B1 (ko) 2009-03-24 2009-03-24 파티클 필터링을 이용한 가우시안 혼합 모델링 업데이트 방법

Country Status (1)

Country Link
KR (1) KR100921495B1 (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101549349B1 (ko) 2014-09-26 2015-09-02 성균관대학교산학협력단 데이터 기반 모델의 건물 에너지 모델링 방법과 이를 이용한 에너지 최적관리와 제어 방법
CN114700948A (zh) * 2022-04-20 2022-07-05 中国科学技术大学 基于发散运动分量的下肢外骨骼机器人控制系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR940008423A (ko) * 1992-09-08 1994-04-29 오오가 노리오 패턴인식장치
JPH11306357A (ja) 1998-04-22 1999-11-05 Mitsubishi Heavy Ind Ltd パターン認識装置
KR20010024416A (ko) * 1998-08-05 2001-03-26 요트.게.아. 롤페즈 정적 이미지 발생 방법 및 장치
JP2004078330A (ja) 2002-08-12 2004-03-11 Fuji Xerox Co Ltd パターン認識装置およびその学習方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR940008423A (ko) * 1992-09-08 1994-04-29 오오가 노리오 패턴인식장치
JPH11306357A (ja) 1998-04-22 1999-11-05 Mitsubishi Heavy Ind Ltd パターン認識装置
KR20010024416A (ko) * 1998-08-05 2001-03-26 요트.게.아. 롤페즈 정적 이미지 발생 방법 및 장치
JP2004078330A (ja) 2002-08-12 2004-03-11 Fuji Xerox Co Ltd パターン認識装置およびその学習方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101549349B1 (ko) 2014-09-26 2015-09-02 성균관대학교산학협력단 데이터 기반 모델의 건물 에너지 모델링 방법과 이를 이용한 에너지 최적관리와 제어 방법
CN114700948A (zh) * 2022-04-20 2022-07-05 中国科学技术大学 基于发散运动分量的下肢外骨骼机器人控制系统

Similar Documents

Publication Publication Date Title
US10664754B2 (en) Information processing apparatus
CN110352349B (zh) 异常音检测装置、异常度计算装置、异常音生成装置、异常信号检测装置、及其方法、记录介质
Zolfagharian et al. Unwanted noise and vibration control using finite element analysis and artificial intelligence
Klevtsov Identification of the state of technical objects based on analyzing a limited set of parameters
KR100921495B1 (ko) 파티클 필터링을 이용한 가우시안 혼합 모델링 업데이트 방법
Souza et al. On building local models for inverse system identification with vector quantization algorithms
Liu et al. Efficient global optimization of MEMS based on surrogate model assisted evolutionary algorithm
JP2022128256A (ja) 異常度算出システムおよび方法
Cortes et al. Coordinated deployment of mobile sensing networks with limited-range interactions
Vilathgamuwa et al. Representation of power system load dynamics with ANN for real-time applications
CN108960406B (zh) 一种基于bfo小波神经网络的mems陀螺随机误差预测方法
Husaini et al. The effect of network parameters on pi-sigma neural network for temperature forecasting
Abdurakhmanova et al. Algorithms to Synthesis for Adaptive Sub-Optimal Control of Dynamic Objects Based on Regular Methods
Liu et al. Echo state networks with double-reservoir for time-series prediction
Ageev et al. Comparative analysis of algorithms for estimating traffic parameters in corporate multiservice communication networks
Sankaranarayanan et al. Soft sensor based estimation of process parameters and states with Hybridized Grey Wolf Optimizer
Angel et al. Payload estimation for a robotic system using unsupervised classification
Shashoa et al. Feature Selection for Fault Diagnosis Using Principal Component Analysis
Abadi et al. Robust identification of neuro-fractional-order Hammerstein systems
Sbarbaro et al. Multivariable generalized minimum variance control based on artificial neural networks and Gaussian process models
Kroll et al. On optimal experiment design for identifying premise and conclusion parameters of Takagi-Sugeno models: Nonlinear regression case
Butcher et al. Pruning reservoirs with random static projections
Duell et al. The Markov Decision Process Extraction Network.
Vergara et al. A strategy for time series prediction using segment growing neural gas
Herrero et al. Nonlinear robust identification using multiobjective evolutionary algorithms

Legal Events

Date Code Title Description
A201 Request for examination
A302 Request for accelerated examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20120928

Year of fee payment: 4

FPAY Annual fee payment

Payment date: 20130930

Year of fee payment: 5

FPAY Annual fee payment

Payment date: 20140929

Year of fee payment: 6

FPAY Annual fee payment

Payment date: 20150930

Year of fee payment: 7

FPAY Annual fee payment

Payment date: 20160929

Year of fee payment: 8

FPAY Annual fee payment

Payment date: 20170928

Year of fee payment: 9

FPAY Annual fee payment

Payment date: 20181001

Year of fee payment: 10

FPAY Annual fee payment

Payment date: 20191001

Year of fee payment: 11