KR100345684B1 - 움직임 추정장치 및 그 방법 - Google Patents

움직임 추정장치 및 그 방법 Download PDF

Info

Publication number
KR100345684B1
KR100345684B1 KR1020000035073A KR20000035073A KR100345684B1 KR 100345684 B1 KR100345684 B1 KR 100345684B1 KR 1020000035073 A KR1020000035073 A KR 1020000035073A KR 20000035073 A KR20000035073 A KR 20000035073A KR 100345684 B1 KR100345684 B1 KR 100345684B1
Authority
KR
South Korea
Prior art keywords
motion vector
vector estimation
module
motion
estimation
Prior art date
Application number
KR1020000035073A
Other languages
English (en)
Other versions
KR20020000388A (ko
Inventor
강현수
Original Assignee
주식회사 큐리텔
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 큐리텔 filed Critical 주식회사 큐리텔
Priority to KR1020000035073A priority Critical patent/KR100345684B1/ko
Publication of KR20020000388A publication Critical patent/KR20020000388A/ko
Application granted granted Critical
Publication of KR100345684B1 publication Critical patent/KR100345684B1/ko

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/43Hardware specially adapted for motion estimation or compensation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

본 발명은 움직임 벡터 추정의 수행 여부를 판단하는 움직임 추정 판단모듈을 이용하여 움직임 벡터 추정이 필요 없다고 판단되는 매크로블록에 대해서 움직임 벡터 추정의 단계를 모두 생략하고 주위 매크로블록의 움직임 벡터들을 이용하여 얻어진 움직임 벡터를 부호화함으로써 움직임 벡터 추정모듈에서 소요되는 계산량 및 파워 소모를 절감하도록 한 움직임 추정장치 및 그 방법에 관한 것으로, 이러한 본 발명은 이전 매크로블록과 현재 입력 매크로블록의 절대값 차의 합인 움직임 벡터를 인가받아 현재 매크로블록의 움직임 벡터 추정을 수행할 것인지를 판단하는 움직임 벡터 추정 판단모듈과, 상기 움직임 벡터 추정 판단모듈로부터 출력되는 추정값에 따라 움직임 벡터 추정을 수행하는 움직임 벡터 추정모듈과, 상기 움직임 벡터 추정모듈의 수행시 움직임 벡터 추정모듈로부터 출력되는 움직임 벡터와 상기 움직임 벡터 추정모듈이 수행하지 않을 경우 상기 움직임 벡터 추정 판단모듈로부터 출력되는 추정된 움직임 벡터를 인가받는 2 ×1 멀티플렉스를 포함하여 구성된다.

Description

움직임 추정장치 및 그 방법{Method and apparatus for motion estimation}
본 발명은 동영상 부호화기에서 영상의 움직임을 추정하는 장치 및 방법에 관한 것으로서, 보다 상세하게는 움직임 벡터 추정의 수행 여부를 판단하는 움직임추정 판단모듈을 이용하여 움직임 벡터 추정이 필요 없다고 판단되는 매크로블록에 대해서 움직임 벡터 추정의 단계를 모두 생략하고 주위 매크로블록의 움직임 벡터들을 이용하여 얻어진 움직임 벡터를 부호화함으로써 움직임 벡터 추정모듈에서 소요되는 계산량 및 파워 소모를 절감하도록 한 움직임 추정장치 및 그 방법에 관한 것이다.
일반적으로, 영상신호처리기술에서 움직임 추정(ME: Motion Estimation)이란 연속되는 영상신호에서 현재 프레임(Current Frame)의 화소(Pixel)들이 이전 매크로블록에 비해 어느 정도 움직였는지를 벡터로 표시한 움직임 벡터(Motion Vector)를 추정하여 전체 영상을 전송하는 대신에 이들 움직임 벡터를 전송함으로써 전송 정보를 줄이는 기술(즉, 영상압축)을 말하는 것이다.
이러한 움직임 추정에서 널리 사용되는 블록 정합 알고리즘(Block Matching Algorithm)은 화면의 움직임이 수평 또는 수직으로 평행 이동한 것으로 가정하여 움직임이 일어난 매크로블록(즉, 현재 매크로블록)의 블록영상이 움직임이 일어나기전 매크로블록(즉, 이전 매크로블록)의 어느 위치에 있는 블록영상과 가장 일치하는가를 추정하여 그 위치를 통해 움직임 벡터를 추정하는 방법이다. 이때, 블록의 크기로는 8 ×8, 16 ×16(가로수 픽셀 수 ×세로 픽셀 수)을 주로 사용한다.
여기서, 현재 매크로블록의 레퍼런스 블록(reference block)과 가장 유사한 이전 블록을 찾기 위하여 이전 매크로블록에서 레퍼런스 블록의 위치를 중심으로 일정 범위 안을 찾게 되는데, 이러한 범위를 서치 윈도우(search window)라 하고, 이러한 서치 윈도우안에서 각 후보블록(candidate block)과의 차를 오차(SAD: SumAbsolute Difference)라하며, 두 블록간의 유사정도를 나타낸다.
도 1에 도시된 바와 같이, 이전 매크로블록(prediction macro block)(100)과 현재 매크로블록(current macro block)(200)의 절대값을 비교하여 그 차값으로 추정하였다.
종래 움직임 추정방법을 도 2를 참조하여 설명하면 다음과 같다.
먼저, 이전 매크로블록(B')의 절대좌표(, β)와 수평, 수직 움직임 벡터값(xmin, ymin)을 X라는 임의의 장소에 저장한다.
또한, 현재 매크로블록(B)의 절대좌표 (, β)는 Y라는 임의의 장소에 저장한다.
그리고, 이전 매크로블록과 현재 입력 매크로블록의 절대값 차의 합(SAD)의 최소값(SADmin)을 임의의 값(max)으로 미리 설정해 놓는다.
이와 같은 상태에서 움직임 추정 연산을 하여 그 현재 추정값(SAD)을 구한다.
한편, 상기 현재 추정값(SAD)을 상기 미리 설정해 놓은 이전 추정값(SADmin)과 비교하여 현재 추정값(SAD)이 이전 추정값(SADmin)보다 작으면 이전 추정값(SADmin)을 현재 추정값(SAD)으로 대치한다.
또한, 그때의 수직/수평 움직임 벡터값(MVx/MVy)을 이전 매크로블록의 움직임벡터값으로 대치한다.(MVx= Xmin, MVy= ymin)
또한, 상기 수직 움직임 벡터값(ymin)을 기 설정된 수직 움직임 벡터 서치영역(SDy)과 비교하여 수직 움직임 벡터값(ymin)이 작거나 같으면 이전 매크로블록의수직 움직임 벡터값에 1을 더한 후, 처음으로 돌아간다.
그리고, 상기 수평 움직임 벡터값(xmin)을 기 설정된 수평 움직임 벡터 서치영역(SDx)과 비교하여 수평 움직임 벡터값(xmin)이 작거나 같으면 이전 매크로블록의 수평 움직임 벡터값에 1을 더한 후, 처음으로 돌아간다.
그러나, 상기한 종래의 움직임 추정방법은 움직임 벡터를 찾는 해상도에 따라 두가지 단계로 이루어져 있어 이 두 단계의 움직임 추정은 각각 많은 계산량을 소요하기 때문에 소프트웨어적으로나 하드웨어적으로 부호화기를 구현하는데 있어서 부담이 되는 문제점이 있었다.
따라서, 본 발명은 상기한 종래 기술에 따른 문제점을 해결하기 위하여 안출한 것으로 본 발명의 목적은, 동영상 부호화기의 움직임 벡터 추정을 수행할 것인지 하지 않을 것인지를 판단하여 움직임 벡터 추정을 수행하지 않는 것으로 판단되었을 경우에, 움직임 벡터 추정을 수행하는 대신 주위의 매크로블록의 움직임 벡터들로부터 계산된 움직임 벡터를 사용하여 부호화함으로써 상기 움직임 벡터 추정 시 소요되는 계산량을 크게 줄이고, 부호화기가 소프트웨어적으로 구현되었을 때는 부호화 시간을 감소시키고 하드웨어적으로 구현되었을 때는 부호화 시간을 감소시킬 뿐만 아니라 움직임 벡터 추정모듈에서 소요되는 파워를 절감시켜 저전력 부호화기의 구현을 할 수 있도록 한 움직임 추정장치 및 그 방법을 제공함에 있다.
상기한 목적을 달성하기 위한 본 발명에 따른 움직임 추정장치의 특징은, 이전 매크로블록과 현재 입력 매크로블록의 절대값 차의 합인 움직임 벡터를 인가받아 현재 매크로블록의 움직임 벡터 추정을 수행할 것인지를 판단하는 움직임 벡터 추정 판단모듈과, 상기 움직임 벡터 추정 판단모듈로부터 출력되는 추정값에 따라 움직임 벡터 추정을 수행하는 움직임 벡터 추정모듈과, 상기 움직임 벡터 추정모듈의 수행시 움직임 벡터 추정모듈로부터 출력되는 움직임 벡터와 상기 움직임 벡터 추정모듈이 수행하지 않을 경우 상기 움직임 벡터 추정 판단모듈로부터 출력되는 추정된 움직임 벡터를 인가받는 2 ×1 멀티플렉스를 포함하여 구성된다.
또한, 상기한 목적을 달성하기 위한 본 발명에 따른 움직임 추정방법의 특징은, 움직임 벡터 추정 판단모듈이 매크로블록의 움직임 벡터의 중간값(MVp)과 오차(SAD_TH)를 입력 받는 단계와, 상기 MVp를 이용하여 현재 매크로블록에 대한 움직임 보상을 수행하여 SAD_X를 얻는 단계와, 상기 SAD_X 값과 SAD_TH 값을 비교 판단하여 그 판단결과 상기 SAD_X 값이 SAD_TH 값보다 작거나 같으면 움직임 벡터 추정모듈을 수행하지 않고 상기 움직임 벡터 추정 판단모듈로부터 출력되는 추정된 움직임 벡터를 2 ×1 멀티플렉스로 입력하는 단계와, 상기 단계 판단결과 SAD_X 값이 SAD_TH 값보다 크면 움직임 벡터 추정모듈을 수행하고 상기 움직임 벡터 추정모듈로부터 얻어진 움직임 벡터를 2 ×1 멀티플렉스로 입력하는 단계를 포함하여 이루어진다.
도 1은 일반적인 움직임 추정연산을 위한 개략적인 하드웨어 구성도,
도 2는 종래 움직임 추정동작을 나타낸 흐름도,
도 3은 매크로블록의 위치를 나타낸 도면,
도 4는 본 발명에 따른 움직임 추정장치를 나타낸 구성블록도,
도 5는 본 발명에 따른 움직임 추정방법을 나타낸 흐름도이다.
<도면의 주요 부분에 대한 부호의 설명>
400 : 움직임 벡터 추정 판단모듈, 500 : 움직임 벡터 추정모듈,
600 : 2 ×1 멀티플렉스.
이하, 본 발명에 따른 움직임 추정장치 및 그 방법의 바람직한 실시예를 첨부한 도면을 참조하여 설명하면 다음과 같다.
도 3은 매크로블록의 위치를 나타낸 도면이고, 도 4는 본 발명에 따른 움직임 추정장치를 나타낸 구성블록도이며, 도 5는 본 발명에 따른 움직임 추정방법을 나타낸 흐름도이다.
도 3에 도시된 바와 같이, MB_X는 현재 매크로블록(MB: Macro Block)이고, MB_A는 MB_X의 바로 좌측에 위치한 매크로블록이며, MB_B는 MB_X의 바로 윗쪽에 위치한 매크로블록이고, MB_C는 MB_B의 바로 우측에 위치한 매크로블록이다.
여기서, 동영상 부호화기는 한장의 영상을 16 pixels ×16 lines의 크기의 블록으로 나누어 각 블록에 대해 부호화를 수행한다.
상기 16 pixels ×16 lines의 크기의 블록을 매크로블록이라고 부른다.
또한, 상기 매크로블록은 8 pixels ×8 lines크기의 4개의 블록으로 구성된다.
여기서, 움직임 벡터 추정은 매크로블록 단위 또는 블록 단위로 수행된다.
그리고, 상기 매크로블록 단위의 움직임 벡터 추정을 기준으로 설명되지만 블록 단위의 움직임 벡터 추정일 경우에도 동일하게 적용된다.
도 4는 본 발명에 따른 움직임 추정장치를 나타낸 구성블록도로서, 이전 매크로블록과 현재 입력 매크로블록의 절대값 차의 합(SAD: Sum Absolute Difference)인 움직임 벡터를 인가받아 현재 매크로블록의 움직임 벡터 추정을 수행할 것인지를 판단하는 움직임 벡터 추정 판단모듈(400)과, 상기 움직임 벡터 추정 판단모듈(400)로부터 출력되는 추정값에 따라 움직임 벡터 추정을 수행하는 움직임 벡터 추정모듈(500)과, 상기 움직임 벡터 추정모듈(500)의 수행시 움직임 벡터 추정모듈(500)로부터 출력되는 움직임 벡터와 상기 움직임 벡터 추정모듈(500)이 수행하지 않을 경우 상기 움직임 벡터 추정 판단모듈(400)로부터 출력되는 추정된 움직임 벡터를 인가받는 2 ×1 멀티플렉스(600)로 구성된다.
상기와 같이 구성된 움직임 추정장치의 동작을 도 5를 참조하여 상세히 설명하면 다음과 같다.
먼저, 움직임 벡터 추정 판단모듈(400)이 매크로블록의 움직임 벡터의 중간값(MVp)과 오차(SAD_TH)를 입력 받는다(S101, S103).
상기 MVp =중간값(Median)(MV_A, MV_B, MV_C)이다.
여기서 MVp는 x방향의 움직임 벡터(MV)와 y방향의 움직임 벡터에 대해 각각 얻어진다.
또한, 상기 SAD_TH =중간값(Median)(SAD_A, SAD_B, SAD_C)이다.
여기서, 상기 SAD_TH는 주위 매크로블록의 SAD들의 중간값 뿐만 아니라 평균 또는 최소값등으로 설정할 수도 있다.
이어, 상기 MVp를 이용하여 현재 매크로블록에 대한 움직임 보상을 수행하여 SAD_X를 얻는다(S105).
그리고, 상기 SAD_X 값과 SAD_TH 값을 비교 판단하여(S107) 그 판단결과 상기 SAD_X 값이 SAD_TH 값보다 작거나 같으면 움직임 벡터 추정모듈(500)을 수행하지 않는다.
상기 움직임 벡터 추정모듈(500)이 수행되지 않을 경우, 상기 움직임 벡터추정 판단모듈(400)로부터 추정된 움직임 벡터(MVp)가 2 ×1 멀티플렉스(600)로 입력된다.
만약, 상기 단계 S107의 판단결과 SAD_X 값이 SAD_TH 값보다 크면 움직임 벡터 추정모듈(500)을 수행한다(S109).
상기 움직임 벡터 추정모듈(500)이 수행되는 경우, 상기 움직임 벡터 추정모듈(500)로부터 얻어진 움직임 벡터가 2 ×1 멀티플렉스(600)로 입력된다.
이때, 출력단자의 움직임 벡터는 2 ×1 멀티플렉스(600)의 출력으로써 부호화를 위해 다음 부호화모듈에 전달된다.
따라서, 상기 움직임 벡터 추정 판단모듈에서 움직임 벡터 추정을 수행하는 것으로 판단된 경우에는 움직임 벡터 추정을 수행하고 그 결과로서 MV_X를 출력하고, 반면, 수행하지 않아도 되는 것으로 판단되는 경우에는 움직임 추정 과정을 모두 생략하고 주위 매크로블록들의 움직임 벡터들로부터 얻어진 MVp를 현재 매크로블록의 움직임 벡터로 출력한다.
이상에서 상기한 바와 같이 본 발명은 움직임 벡터 추정의 수행 여부를 판단하는 움직임 벡터 추정 판단모듈을 이용하여 움직임 벡터 추정이 필요 없다고 판단되는 매크로블록에 대해서는 움직임 벡터 추정과정의 첫번째 단계와 두번째 단계를 모두 생략하고 주위 매크로블록의 움직임 벡터들을 이용하여 얻어진 움직임 벡터를 부호화에 사용함으로써 움직임 벡터 추정모듈에서 소요되는 계산량 및 파워 소모를 절감하는 효과가 있다.

Claims (2)

  1. 이전 매크로블록과 현재 입력 매크로블록의 절대값 차의 합인 움직임 벡터를 인가받아 현재 매크로블록의 움직임 벡터 추정을 수행할 것인지를 판단하는 움직임 벡터 추정 판단모듈과;
    상기 움직임 벡터 추정 판단모듈로부터 출력되는 추정값에 따라 움직임 벡터 추정을 수행하는 움직임 벡터 추정모듈과;
    상기 움직임 벡터 추정모듈의 수행시 움직임 벡터 추정모듈로부터 출력되는 움직임 벡터와 상기 움직임 벡터 추정모듈이 수행하지 않을 경우 상기 움직임 벡터 추정 판단모듈로부터 출력되는 추정된 움직임 벡터를 인가받는 2 ×1 멀티플렉스를 포함하여 구성된 것을 특징으로 하는 움직임 추정장치.
  2. 움직임 벡터 추정 판단모듈이 매크로블록의 움직임 벡터의 중간값(MVp)과 오차(SAD_TH)를 입력 받는 단계와;
    상기 MVp를 이용하여 현재 매크로블록에 대한 움직임 보상을 수행하여 SAD_X를 얻는 단계와;
    상기 SAD_X 값과 SAD_TH 값을 비교 판단하여 그 판단결과 상기 SAD_X 값이 SAD_TH 값보다 작거나 같으면 움직임 벡터 추정모듈을 수행하지 않고 상기 움직임 벡터 추정 판단모듈로부터 출력되는 추정된 움직임 벡터를 2 ×1 멀티플렉스로 입력하는 단계와;
    상기 단계 판단결과 SAD_X 값이 SAD_TH 값보다 크면 움직임 벡터 추정모듈을 수행하고 상기 움직임 벡터 추정모듈로부터 얻어진 움직임 벡터를 2 ×1 멀티플렉스로 입력하는 단계를 포함하여 이루어지는 것을 특징으로 하는 움직임 추정방법.
KR1020000035073A 2000-06-24 2000-06-24 움직임 추정장치 및 그 방법 KR100345684B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020000035073A KR100345684B1 (ko) 2000-06-24 2000-06-24 움직임 추정장치 및 그 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020000035073A KR100345684B1 (ko) 2000-06-24 2000-06-24 움직임 추정장치 및 그 방법

Publications (2)

Publication Number Publication Date
KR20020000388A KR20020000388A (ko) 2002-01-05
KR100345684B1 true KR100345684B1 (ko) 2002-07-27

Family

ID=19673689

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020000035073A KR100345684B1 (ko) 2000-06-24 2000-06-24 움직임 추정장치 및 그 방법

Country Status (1)

Country Link
KR (1) KR100345684B1 (ko)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08154248A (ja) * 1994-11-28 1996-06-11 Matsushita Electric Ind Co Ltd 動画像符号化装置と動画像復号化装置
JPH09182081A (ja) * 1995-12-25 1997-07-11 Nippon Telegr & Teleph Corp <Ntt> 動き補償予測符号化装置
KR19990081353A (ko) * 1998-04-28 1999-11-15 김영환 디지털 영상 처리 시스템의 이동 벡터 부호화/복호화 방법
JP2000138935A (ja) * 1998-10-29 2000-05-16 Fujitsu Ltd 動きベクトル符号化装置および復号装置
KR20000032856A (ko) * 1998-11-18 2000-06-15 윤종용 동영상 부호화 방법

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08154248A (ja) * 1994-11-28 1996-06-11 Matsushita Electric Ind Co Ltd 動画像符号化装置と動画像復号化装置
JPH09182081A (ja) * 1995-12-25 1997-07-11 Nippon Telegr & Teleph Corp <Ntt> 動き補償予測符号化装置
KR19990081353A (ko) * 1998-04-28 1999-11-15 김영환 디지털 영상 처리 시스템의 이동 벡터 부호화/복호화 방법
JP2000138935A (ja) * 1998-10-29 2000-05-16 Fujitsu Ltd 動きベクトル符号化装置および復号装置
KR20000032856A (ko) * 1998-11-18 2000-06-15 윤종용 동영상 부호화 방법

Also Published As

Publication number Publication date
KR20020000388A (ko) 2002-01-05

Similar Documents

Publication Publication Date Title
JP4242656B2 (ja) 動きベクトル予測方法及び動きベクトル予測装置
KR100534207B1 (ko) 비디오 부호화기의 움직임 추정기 및 그 방법
KR0181069B1 (ko) 움직임 추정장치
KR100275694B1 (ko) 실시간 동영상 부호화를 위한 초고속 움직임 벡터 추정방법
US8532409B2 (en) Adaptive motion search range determining apparatus and method
KR100727795B1 (ko) 모션 추정
WO2003107648A2 (en) Interlaced video motion estimation
WO2000034920A1 (en) Motion vector estimation
JPH06351001A (ja) 動きベクトル検出方法および動き補償予測方法並びにその装置
KR100345684B1 (ko) 움직임 추정장치 및 그 방법
KR100551952B1 (ko) 영상 압축에서의 움직임 탐색 방법
US6931066B2 (en) Motion vector selection based on a preferred point
US10448047B2 (en) Encoder circuit and encoding method
KR0154920B1 (ko) 동영상 부호화 장치에 있어서 움직임 추정기
KR0185841B1 (ko) 영상 부호기에서의 움직임 추정 장치
KR100208984B1 (ko) 물체의 윤곽선을 이용한 움직임 벡터 추정 장치
JPH1032822A (ja) 動きベクトル検出装置
KR0181068B1 (ko) 움직임 추정장치
KR970003099B1 (ko) 커버/언커버된 영역을 고려한 이동벡터 추정장치
KR0129807B1 (ko) 계층 부호화 시스템에서의 움직임 벡터 추정장치 및 방법
JP3505196B2 (ja) 予測符号化回路
KR0155729B1 (ko) 움직임 추정장치의 최소절대에러 연산방법 및 그 장치
KR0185842B1 (ko) 영상 부호화기에서의 움직임 추정 장치
KR0171144B1 (ko) 단계적 움직임 추정을 채용한 움직임벡터 검출방법
KR100204477B1 (ko) 배경 영상의 움직임 추정 방법 및 그 장치

Legal Events

Date Code Title Description
A201 Request for examination
N231 Notification of change of applicant
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20130628

Year of fee payment: 12

FPAY Annual fee payment

Payment date: 20140704

Year of fee payment: 13

FPAY Annual fee payment

Payment date: 20150708

Year of fee payment: 14

FPAY Annual fee payment

Payment date: 20160701

Year of fee payment: 15

LAPS Lapse due to unpaid annual fee