KR100461018B1 - 디지털 텔레비젼의 자연영상 생성장치 및 방법 - Google Patents

디지털 텔레비젼의 자연영상 생성장치 및 방법 Download PDF

Info

Publication number
KR100461018B1
KR100461018B1 KR10-2002-0065127A KR20020065127A KR100461018B1 KR 100461018 B1 KR100461018 B1 KR 100461018B1 KR 20020065127 A KR20020065127 A KR 20020065127A KR 100461018 B1 KR100461018 B1 KR 100461018B1
Authority
KR
South Korea
Prior art keywords
color
natural
image
matrix
images
Prior art date
Application number
KR10-2002-0065127A
Other languages
English (en)
Other versions
KR20040036789A (ko
Inventor
김대희
조맹섭
강병호
김진서
김재철
정재영
허태욱
홍상기
Original Assignee
한국전자통신연구원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국전자통신연구원 filed Critical 한국전자통신연구원
Priority to KR10-2002-0065127A priority Critical patent/KR100461018B1/ko
Publication of KR20040036789A publication Critical patent/KR20040036789A/ko
Application granted granted Critical
Publication of KR100461018B1 publication Critical patent/KR100461018B1/ko

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/643Hue control means, e.g. flesh tone control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/67Circuits for processing colour signals for matrixing

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Color Image Communication Systems (AREA)
  • Processing Of Color Television Signals (AREA)
  • Image Processing (AREA)

Abstract

본 발명은 디지털 TV에서 자연영상을 생성하는 장치 및 방법에 관한 것이다. 본 발명은 디지털 RGB 신호를 입력받아 L*a*b*로 변환하는 입력영상 변환수단; 상기 변환된 L*a*b* 값을 이용하여 입력영상의 픽셀이 자연색인지를 판별하는 자연색 추출수단; 상기 자연색 추출부에서 자연색으로 판별된 입력 픽셀에 대해서는 해당 자연색의 행렬을 적용하는 행렬 적용수단; 및 상기 행렬 적용부를 거친 영상을 새로운 디지털 RGB값으로 표현해주는 출력영상 생성수단을 통해 자연영상을 자연색에 근접되게 사실적으로 생성할 수 있도록 한다.
본 발명이 적용되는 디지털 텔레비젼에서 저장된 색정보와 행렬계수는 입력 RGB영상을 보정하는 실제 영상변환에 이용되는데, 실제로 관찰자들의 선호 데이터를 이용하므로 자연영상에 가까운 화질을 구현할 수 있는 장점이 있다.

Description

디지털 텔레비젼의 자연영상 생성장치 및 방법{Natural color reproduction method and apparatus on DTV}
본 발명은 디지털 텔레비젼에서 칼라 보정기술에 관한 것으로, 더욱 상세하게는 RGB 디지털 신호를 입력으로 하는 디지털 TV에서 자연영상을 자연색에 근접되게 사실적으로 생성하기 위한 영상장치 및 방법에 관한 것이다.
일반적으로, 피부색이나 하늘색과 같은 자연색은 우리의 일상생활에서 가장 중요한 기억색으로서 위치하고 있으며 칼라 텔레비젼이나 칼라 모니터와 같은 디스플레이 장치에서 색조정을 위한 중요한 기준색으로 사용된다.
영상장치에서 색을 생성할 경우 피부색은 시청자들의 중요한 기억색으로 간주되고 있으므로 다른 기타의 색을 생성하는 것보다 더욱 중요하게 평가되고 있고, 따라서 아날로그 텔레비젼의 경우에는 피부색이나 하늘색과 같이 자연색을 보다 정밀하게 생성하기 위해 색보정장치를 이용한다.
그러나 디지털 텔레비젼의 경우에는 아직까지 적절한 색보정 장치가 제시되어 적용된 바 없었기 때문에 영상이 자연색에 근접하지 못해 영상의 칼라 품질이 떨어지는 문제점이 있다.
본 발명은 이러한 문제를 해결하기 위한 것으로, 본 발명의 목적은 자연영상을 생성하기 위한 행렬계수를 색 변환 칩셋에 적용한 후, 입력 영상에 대해 하늘색및 피부색과 같은 자연영상을 보정함으로써 자연색에 사실적으로 근접하는 디지털 텔레비젼의 자연영상 생성장치를 제공하는데 있다.
본 발명의 다른 목적은 관찰자들의 데이터를 기본으로 하여 디지털 TV에서 생생한 자연영상을 생성하기 위한 행렬 계수를 생성하는 방법을 제공하는 것이다.
상기 목적을 달성하기 위한 본 발명의 디지털 텔레비젼의 자연영상 생성장치는 디지털 RGB 신호를 입력받아 L*a*b*로 변환하는 입력영상 변환수단; 상기 변환된 L*a*b* 값을 이용하여 입력영상의 픽셀이 자연색인지를 판별하는 자연색 추출수단; 상기 자연색 추출수단에서 자연색으로 판별된 입력 픽셀에 대해서 해당 자연색의 행렬을 적용하는 행렬 적용수단; 및 상기 행렬 적용수단을 거친 영상을 새로운 디지털 RGB값으로 출력하는 출력영상 생성수단을 포함하는 것을 특징으로 한다.
또한, 본 발명의 자연영상 생성방법은 k개의 표준 RGB 영상을 입력받아 명도,채도,색상(L*C*h) 좌표계의 영상으로 변환하는 제1 단계; n명의 관찰자에 의해 상기 변환된 명도,채도,색상(L*C*h) 영상을 색선호 영상으로 조작한 후 다시 색좌표 변환하여 R1' G1' B1' 영상부터 Rn' Gn' Bn' 까지 각각 n개의 영상을 구하는 제2 단계; 상기 n개의 영상 평균치를 각각 구한 후 최종 색선호 영상을 구하고, 상기 k개의 표준영상에 대해 상기 과정을 반복하여 k개의 최종 색선호 영상을 구하는 제3 단계; 상기 k개의 최종 색선호 영상에서 자연색 부분을 추출하여 해당 표준영상과 색선호 영상의 순서쌍을 각각 구하는 제4 단계; 및 상기 순서쌍들에 대해 각각 행렬계수를 적용하여 새로운 디지털 RGB값으로 생성하여 출력하는 제5 단계;를 통해 자연영상을 자연색에 근접되게 생성할 수 있도록 하는 것을 특징으로 한다.
도 1은 본 발명의 자연영상 생성장치를 적용한 디지털 TV의 개략도,
도 2는 본 발명의 자연영상 생성장치의 상세 구성도,
도 3은 본 발명에 따라 자연영상을 위한 행렬계수를 생성하는 절차를 도시한 순서도,
도 4는 본 발명의 자연영상 생성장치의 동작을 설명하기 위한 순서도,
도 5a는 본 발명에서 자연색의 a*b* 색도상에서의 분포도,
도 5b는 본 발명에서 관측자의 색변환 후 자연색의 a*b* 색도상에서의 분포도.
*도면의 주요부분에 대한 부호의 설명*
200: 자연영상 생성장치 210: 입력영상 변환부
220: 자연색 추출부 230: 행렬 적용부
240: 출력영상 생성부
이하, 본 발명의 바람직한 실시예를 첨부된 도면을 통해 설명한다. 도 1은 본 발명에 따른 텔레비젼 자연영상 생성장치를 적용한 디지털 텔레비젼의 개략도이다.
도 1을 참조하면, 본 발명의 텔레비젼 자연영상 생성장치는 방송수신부(110), 오디오처리부(120), 비디오처리부(130) 및 자연영상 보정부(140)를 포함한다.
상기 방송수신부(110)는 공중파 방송신호를 수신한 후 복조하여 오디오신호와 비디오신호로 각각 출력하고, 오디오처리부(120)는 상기 오디오신호를 스피커를 통해 출력한다. 그리고 비디오처리부(130)에서는 비디오신호를 RGB신호로 변환시킨 후 출력되게 한다.
더욱이 본 발명에 따른 기능이 칩셋(chip set) 형태로 구현되어 적용된 자연영상 보정부(140)는 RGB영상신호에서 피부색과 하늘색(본 발명에서 이를 '자연영상'이라 한다)을 추출한 후 소정의 알고리즘에 따라 생성된 행렬계수를 적용하여 색을 보정한 후 RGB 영산신호를 CRT(150)로 출력하여 디스플레이되게 한다.
도 2는 본 발명에 따른 자연영상 생성장치의 상세 구성도이다. 전체를 부호 200으로 표시한 본 발명의 자연영상 생성장치는 입력영상 변환부(210), 자연색 추출부(220), 행렬적용부(230) 및 출력영상 생성부(240)를 포함한다.
상기 구성에 의하면, 입력영상 변환부(210)에서는 입력된 각 픽셀의 영상 디지털 RGB 신호를 "L*a*b*"의 신호로 변환시킨다. 이렇게 변환된 디지털 값은 자연색 추출부(220)에서 상기 픽셀이 피부색인지 혹은 하늘색인지 판별하게 된다.
자연색 추출부(220)에서 판별결과 해당 픽셀이 자연색(피부색, 하늘색)에 해당되지 않으면 그대로 출력영상 생성부(240)로 전달되어 입력 RGB 디지털값과 동일한 값으로 출력되고, 반대로 해당 픽셀이 피부색이나 하늘색으로 판단되면 그 픽셀은 행렬 적용부(230)에서 그에 맞는 행렬 계수를 적용하여 계산된다. 출력영상 생성부(240)는 상기 행렬 적용부(23)에 의해 행렬계수가 적용되어 계산된 "L*a*b*" 생성의 영상신호를 디스플레이를 위해 RGB 영상신호로 변환하여 출력한다.
도 3은 본 발명에 따라 행렬계수를 통해 자연영상을 생성하기 위한 방법을 도시한 순서도이다.
도 3을 참조하면, 본 발명은 k개의 표준 디지털 RGB 영상을 입력(301)하고, 이 영상은 획득하고자 하는 영상의 색분포가 많은 것을 택한다. 이렇게 입력된 영상은 각각의 RGB 픽셀에 대해서 L*C*h로 좌표로 변환한다(302). 여기서, 좌표변환 방법은 현재 디지털 TV의 측정값(303)을 이용하여 RGB와 XYZ의 관계를 이용한다. 이때 사용하는 방법은 룩업테이블(LUT) 혹은 선형변환법을 이용할 수 있다. XYZ로 변환된 신호는 L*a*b*로 바뀐 후 최종적으로 L*C*h로 변환된다.
이렇게 변환된 데이터 값은 그대로 유지하고, 처음 입력된 RGB 영상에 대해서 관찰자들은 L*C*h 좌표계 상에서 영상 중 특히 자연색에 대해서 본인이 원하는 색선호 방향으로 조작한다(304).
RGB 좌표계 상에서는 일반 관찰자들이 영상을 원하는 방향으로 조작할 수 없으나 "L*(명도), C*(채도), h(색상)" 좌표계에서는 변환시키고자 하는 부분의 색상, 명도, 채도를 조작할 수 있기 때문에 L*C*h의 좌표계를 이용한다.
모두 n 명의 관찰자(305)를 이용하여 색선호 조작과정을 반복 수행한다. 이렇게 조작된 영상은 모두 n명에 의해서 이루어 졌으므로 n개의 영상이 얻어지고, 이것은 R1' G1' B1' 영상부터 Rn' Gn' Bn' 까지로 표현된다(306).
이어 최종색변환 영상은 다음 수학식 1에 따라 관찰자에 의해 선택된 n개의 영상에 대한 평균치로 구해진다.
상기 수학식1을 참조하면, 최종 색변환 영상(R'G'B')은 R1'G1'B1'부터 Rn'Gn'Bn'까지의 합을 n으로 나누어 얻어지는 평균치인 것을 알 수 있다.
이렇게 변환된 영상중 처리하고자 하는 자연영상인 피부색과 하늘색 부분을 영상중에서 잘라내어 입력영상과 그에 대응하는 최종 변환영상의 순서쌍(RiGiBi-Ri'Gi'Bi')을 만든다. 이렇게 모두 k개의 다른 표준영상에 대해서 같은 작업을 반복하면, (R1G1B1 - R1'G1'B1')~(RkGkBk - Rk'Gk'Bk')까지 k개의 순서쌍을 얻을 수 있다(308).
이후, 본 발명의 실시예에서는 입력영상과 최종 변환영상 사이의 관계를 행렬 형태로 정의하기 위해 다음 수학식 2를 이용한다.
상기 수학식 2에서 Xk는 3*1의 크기를 가진 k번째 입력 벡터 즉 [Rk', Gk,' Bk']T이고, f(Yk)는 4*1의 크기를 가진 출력벡터 [Rk,Gk,Bk,1]T로 한다. 그리고 행렬 계수 A는 다음 수학식 3이 최소가 되도록 계산한다.
상기 수학식 3이 최소가 되도록 계산된 행렬 A는 다음 수학식 4와 같다.
상기 수학식 4에서 E는 기대값을 의미하고, N은 색 샘플의 개수를 나타낸다.
본 발명은 상기 수학식 4와 순서쌍을 이용하여 자연색인 피부색과 하늘색에 대한 두개의 행렬계수 A자연색, A피부색을 구한다(309). 또한 추후 적용에 사용될 피부색과 자연색 추출의 판단을 위해서 도 5a의 색도를 이용한다.
도 5a는 자연색의 a*b* 색도상에서의 분포도로서, 입력영상의 데이터인 Rk,Gk,Bk을 a*b* 색도 상에 표현한 것이다. 자연색 추출을 위해서 a*b* 색도상에서 원점을 지나는 선형 회귀를 이용하여 직선(선형회귀선 P)의 방정식을 구하고,구해진 직선(P)의 방정식의 기울기를 이용하여 자연색의 색상(hue)의 기본값으로 한다. 즉, 입력 데이터를 a*b* 색도 상에 표현하면 도 5a와 같고, 각각의 점들은 (a1*,b1*), ( a2*,b2*), .....( aN*, bN*)로 나타난다. 원점을 지나는 직선(P)의 기울기를 구하기 위하여 다음 수학식 5를 이용한다.
상기 수학식 5에서 N은 색 샘플의 개수를 의미한다.
이렇게 구해진 기울기로 자연색의 색상(hue)을 다음 수학식 6을 이용하여 정한다.
상기 수학식 6에서 hue는 0부터 360도 까지의 값을 가진다. hue을 중심으로 -10도부터 10도 사이의 값을 자연색의 범위로 정한다(310).
도 4는 본 발명의 자연영상 생성장치의 동작을 설명하기 위한 순서도이다. 도 4를 참조하면, RGB 디지털 영상이 입력으로 들어오면(401), 상기 설명한 방법으로 측정 데이터를 이용하여(403) 각 픽셀들을 L*C*h 값으로 변환한다(402).
변환된 L*C*h 값 중 상기 310 단계에서 구해진 피부색 색선호데이터(hue)(405)를 기준으로 -10도부터 +10도 사이의 값을 피부색으로 택한다(404). 이때 처리하려고 하는 입력영상의 픽셀 값이 해당 범위(-10도~10도)내에 있으면 행렬(피부색)을 통과하고(406), 그렇지 않으면 입력영상의 픽셀 값이 하늘색인지를 검출한다(407). 역시 같은 방법으로 도 3의 과정을 통해 구한 하늘색 색선호 데이터(hue)(408)를 이용하여 해당 픽셀이 하늘색의 범위에 포함되면 행렬(하늘색)을 통과하고(409), 그렇지 않으면 원영상을 그대로 출력하게 된다(410).
상술한 바와 같이 본 발명은 소정의 절차에 따라 다수의 관찰자로부터 얻은 색선호 데이터를 이용하여 자연색인 피부색 및 살색에 대한 행렬 계수를 생성한 후 각 영역의 색정보를 저장한다. 그리고 본 발명이 적용되는 디지털 텔레비젼에서 저장된 색정보와 행렬계수는 입력 RGB영상을 보정하는 실제 영상변환에 이용되는데, 실제로 관찰자들의 선호 데이터를 이용한 것이기 때문에 훨씬 더 자연영상에 가까운 화질을 구현할 수 있는 장점이 있다.
이상에서 설명한 것은 본 발명에 따른 자연영상을 위한 행렬 생성 방법 및 이를 이용한 디지털 텔레비젼의 자연영상 생성장치를 설명한 하나의 실시 예에 불과한 것으로써, 본 발명은 상기한 실시 예에 한정되지 않고, 이하의 특허 청구의 범위에서 청구하는 본 발명의 요지를 벗어남이 없이 당해 발명이 속하는 분야에서 통상의 지식을 가진 자라면 누구든지 다양한 변경 실시가 가능한 범위까지 본 발명의 기술적 사상이 미친다고 할 것이다.

Claims (6)

  1. 디지털 텔레비전의 영상생성 장치에 있어서,
    디지털 RGB 신호를 L*a*b*로 변환하는 입력영상 변환수단;
    상기 변환된 L*a*b* 값을 이용하여 입력영상의 픽셀이 자연색인지를 판별하는 자연색 추출수단;
    상기 자연색 추출수단에서 자연색으로 판별된 입력 픽셀에 대해서 해당 자연색의 행렬을 적용하는 행렬 적용수단; 및
    상기 행렬 적용수단을 통해 얻어진 영상을 새로운 디지털 RGB값으로 생성하는 출력영상 생성수단;을 포함하는 것을 특징으로 하는 디지털 텔레비젼의 자연영상 생성장치.
  2. 제 1항에 있어서, 상기 자연색 추출수단은
    자연색을 추출하기 위해 상기 입력영상 변환수단으로부터 입력되는 데이터를 L*a*b*로 변환후 휴(hue)값을 계산하여 자연색에 포함되는지의 여부를 판단하는 것을 특징으로 하는 디지털 텔레비젼의 자연영상 생성장치.
  3. 제 1항에 있어서, 상기 행렬 적용수단은
    상기 자연색 추출수단을 통과한 픽셀들이 피부색에 속하는지 하늘색에 속하는지 혹은 피부색과 하늘색 이외의 다른 색에 속하는지에 따라 계산에 적용될 행렬을 선택하는 것을 특징으로 하는 디지털 텔레비젼의 자연영상 생성장치.
  4. 디지털 텔레비젼의 자연영상을 생성하기 위한 방법에 있어서,
    k개의 표준 RGB 영상을 명도,채도,색상(L*C*h) 좌표계의 영상으로 변환하는 제1 단계;
    n명의 관찰자에 의해 상기 변환된 명도,채도,색상(L*C*h) 영상을 색선호 영상으로 조작한 후 다시 색좌표 변환하여 R1' G1' B1' 영상부터 Rn' Gn' Bn' 까지 각각 n개의 영상을 구하는 제2 단계;
    상기 n개의 영상 평균치를 구해 최종 색선호 영상을 구하고, 상기 k개의 표준영상에 대해 상기 과정을 반복하여 k개의 최종 색선호 영상을 구하는 제3 단계;
    상기 k개의 최종 색선호 영상에서 자연색 부분을 추출하여 해당 표준영상과 색선호 영상의 순서쌍을 각각 구하는 제4 단계; 및
    상기 표준영상과 색선호 영상으로 이루어진 순서쌍들에 대해 각각 행렬계수를 적용하여 상기 행렬계수가 적용된 표준영상신호를 새로운 디지털 RGB값으로 생성하는 제5 단계;를 포함하며, 상기 행렬계수는 행렬
    E : 기대값, N : 샘플의 갯수
    에 의해 구해지는 것을 특징으로 하는 디지털 텔레비젼의 자연영상 생성방법.
  5. 삭제
  6. 삭제
KR10-2002-0065127A 2002-10-24 2002-10-24 디지털 텔레비젼의 자연영상 생성장치 및 방법 KR100461018B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR10-2002-0065127A KR100461018B1 (ko) 2002-10-24 2002-10-24 디지털 텔레비젼의 자연영상 생성장치 및 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR10-2002-0065127A KR100461018B1 (ko) 2002-10-24 2002-10-24 디지털 텔레비젼의 자연영상 생성장치 및 방법

Publications (2)

Publication Number Publication Date
KR20040036789A KR20040036789A (ko) 2004-05-03
KR100461018B1 true KR100461018B1 (ko) 2004-12-09

Family

ID=37335429

Family Applications (1)

Application Number Title Priority Date Filing Date
KR10-2002-0065127A KR100461018B1 (ko) 2002-10-24 2002-10-24 디지털 텔레비젼의 자연영상 생성장치 및 방법

Country Status (1)

Country Link
KR (1) KR100461018B1 (ko)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100731356B1 (ko) 2005-09-21 2007-06-21 삼성전자주식회사 자연색 보정기능을 구비한 단말장치 및 자연색 보정방법
KR100801086B1 (ko) * 2006-05-22 2008-02-11 삼성전자주식회사 영상 기기의 화질 보정을 위한 장치, 및 방법

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20010063827A (ko) * 1999-12-24 2001-07-09 오길록 디지털 디스플레이용 칼라 보정 장치 및 그 방법
KR20020020173A (ko) * 2000-09-08 2002-03-14 김재을 원색보정기능을 추가한 디지털 텔레비젼 및 디지털텔레비젼의 원색보정방법
KR20030048826A (ko) * 2001-12-13 2003-06-25 한국전자통신연구원 칼라변환계수 생성 칩셋 및 그 제어방법과 이를 이용한에이치디티브이시스템의 화질개선 장치

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20010063827A (ko) * 1999-12-24 2001-07-09 오길록 디지털 디스플레이용 칼라 보정 장치 및 그 방법
KR20020020173A (ko) * 2000-09-08 2002-03-14 김재을 원색보정기능을 추가한 디지털 텔레비젼 및 디지털텔레비젼의 원색보정방법
KR20030048826A (ko) * 2001-12-13 2003-06-25 한국전자통신연구원 칼라변환계수 생성 칩셋 및 그 제어방법과 이를 이용한에이치디티브이시스템의 화질개선 장치

Also Published As

Publication number Publication date
KR20040036789A (ko) 2004-05-03

Similar Documents

Publication Publication Date Title
US10848729B2 (en) Method and apparatus for conversion of HDR signals
KR100782818B1 (ko) Yuv에서 rgb로 휘도 보존 컬러 변환 방법 및 시스템
CN108933933B (zh) 一种视频信号处理方法及装置
US20090060326A1 (en) Image processing apparatus and method
US10332481B2 (en) Adaptive display management using 3D look-up table interpolation
EP3446284B1 (en) Method and apparatus for conversion of dynamic range of video signals
KR101393487B1 (ko) 디스플레이장치 및 그의 화질개선방법
US8139079B2 (en) Color gamut component analysis apparatus, method of analyzing color gamut component, and color gamut component analysis program
US7684638B2 (en) Dynamic image contrast enhancement device
US7656462B2 (en) Systems and methods for modifying master film for viewing at different viewing locations
CN114866809A (zh) 视频转换方法、装置、设备、存储介质及程序产品
CA2661650C (en) Video monitoring device providing parametric signal curve display features and related methods
JP6742417B2 (ja) デジタル画像の処理方法、付随する装置、端末機器およびコンピュータプログラム
KR100461018B1 (ko) 디지털 텔레비젼의 자연영상 생성장치 및 방법
CN117319620B (zh) 一种hdr预览级现场实时调色方法
CN116167950B (zh) 图像处理方法、装置、电子设备及存储介质
WO2023281264A2 (en) Method and apparatus for conversion of hdr signals
KR20050109364A (ko) 색 왜곡도 검출방법 및 화이트밸런스 조정 방법 및 장치

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20081202

Year of fee payment: 5

LAPS Lapse due to unpaid annual fee