KR20050102609A - 단일영상을 이용한 거리영상 획득방법 - Google Patents

단일영상을 이용한 거리영상 획득방법 Download PDF

Info

Publication number
KR20050102609A
KR20050102609A KR1020050093563A KR20050093563A KR20050102609A KR 20050102609 A KR20050102609 A KR 20050102609A KR 1020050093563 A KR1020050093563 A KR 1020050093563A KR 20050093563 A KR20050093563 A KR 20050093563A KR 20050102609 A KR20050102609 A KR 20050102609A
Authority
KR
South Korea
Prior art keywords
phase
image
following equation
single image
distance
Prior art date
Application number
KR1020050093563A
Other languages
English (en)
Other versions
KR100714821B1 (ko
Inventor
제창수
Original Assignee
에이티아이 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 에이티아이 주식회사 filed Critical 에이티아이 주식회사
Priority to KR1020050093563A priority Critical patent/KR100714821B1/ko
Publication of KR20050102609A publication Critical patent/KR20050102609A/ko
Application granted granted Critical
Publication of KR100714821B1 publication Critical patent/KR100714821B1/ko

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20036Morphological image processing
    • G06T2207/20041Distance transform

Abstract

본 발명은 정현파 패턴(Sinusoidal Pattern)의 위상천이(phase shifting)를 이용하여 단일영상의 각 지점에서의 위상(phase)을 복원하여 이를 바탕으로 대상 물체의 거리 영상을 획득하도록 하는 단일영상을 이용한 거리영상 획득방법에 관한 것으로서,
본 발명을 적용하면, 단일영상에서 위상천이를 기반으로 하여 위상복원을 할 수 있게 되는 효과가 있으며, 그에 따라, 위상복원을 위해 종래에는 최소 3개 이상의 영상이 필요했던 정현파의 위상천이 방식에서, 최소 1개의 영상에서 고해상도 위상 및 거리영상을 획득할 수 있게 되었으며, 이를 통해 보다 적은 비용, 보다 짧은 시간에 보다 용의한 방식으로 고해상도 위상 및 거리영상 획득이 가능하게 되는 효과가 있다.

Description

단일영상을 이용한 거리영상 획득방법{METHOD FOR RANGE IMAGING FROM A SINGLE IMAGE}
본 발명은 단일영상을 이용한 거리영상 획득방법에 관한 것으로서, 보다 상세하게는 정현파 패턴(Sinusoidal Pattern)의 위상천이(phase shifting)를 이용하여 단일영상의 각 지점에서의 위상(phase)을 복원하여 이를 바탕으로 대상 물체의 거리 영상을 획득하도록 하는 단일영상을 이용한 거리영상 획득방법에 관한 것이다.
일반적으로 거리영상을 획득하는 방법으로는 접촉식과 비접촉식으로 구분된다. 이 중에서 본 발명은 비접촉식 방법에 관한 것으로, 거리영상 획득 대상에 접촉하지 않는 비접촉 방식으로는 광학식 방법이 대표적이다.
광학식 거리영상 획득방법 중에서도 거리영상을 고해상도로 복원하기 위해서는 주로 특수한 조명패턴을 이용하는 능동비전(active vision) 방식을 주로 사용하는데 조명모듈과 촬영모듈을 구비하는 구성을 갖는다.
능동비전 방식의 대표적인 기술로는 K.L.Boyer et al.의 컬러코드 구조광(color-encoded structured light), P.S. Huang et al.의 컬러 줄무늬패턴(color fringe pattern), C. Je et al.의 고대비 컬러띠 패턴(high-contrast color-stripe pattern), J. Tajima et al.의 무지개 패턴(rainbow pattern), D. Caspi et al.의 적응 컬러 구조광(adaptive color structured light), O. Hall-Holt et al.의 흑백경계코드(black/white boundary codes) 등이 있다.
상기와 같은 능동비전 기술들 중에서도 획득하고자 하는 영역의 넓이가 높이나 깊이 보다 상대적으로 큰 경우에는 정현파의 위상천이(phase shifting) 방식이 효과적이다.
위상천이는 3차원 데이터 획득 분야에서 널리 알려진 기술이며, 다른 3차원 영상 기술과 함께 결합되는 경우도 많다. 위상천이는 모아레 간섭(moire interference) 기술에서 정밀도를 높이기 위해 사용되기도 하고, 구조적 조명(structured lighting)에서 연속코딩을 위해 사용되기도 한다.
그 동안 정현파의 위상천이에 기반한 다양한 위상복원 방식이 고안되었으며 이들을 응용한 거리영상획득 기술도 매우 다양하다. 위상천이 방식에서 위상의 복원은 주로 3~5개의 위상이 천이된 광도(intensity) 정보로부터 이루어지며, 가능한 위상천이 간격은 매우 제한적이다. Carre 등에 의해 위상천이 간격을 일정하게만 하면 그 값에는 제한이 적어지는 위상복원 방법들이 제안되기도 했으나, 쉽게 응용이 가능한 위상천이의 간격에는 아직까지도 제한이 많은 편이다.
종래에 따르면 위상천이를 이용한 기술은 특허출원번호 제10-1997-0038312호, 제10-1997-0072162호, 제10-2000-0069549호, 제10-2002-0036183호, 및 제10-2002-0036848호에 제시된 바 있다.
상기와 같은 종래의 기술들은 다수의 영상에 위상천이를 이용하는 기술과 그에 따른 3차원 형상을 측정하는 기술에 대하여 서술하고 있다.
그러나, 종래의 기술에 따르면 몇 개의 위상천이 영상을 이용함으로써 거리영상을 획득할 때 위상의 천이와 관련한 여러 가지 문제점들이 발생하고 있다. 특히, 위상천이 간격에 있어서의 제한에 의해 응용의 제약이 발생하고, 위상천이를 하고 각 천이상태에서의 영상을 획득하는데 많은 시간이 소요되며, 다수의 영상을 처리하기 위해 많은 시간이 소요되는 문제점이 발생한다.
한편, 최근의 거리영상 획득에 대한 산업적 응용은 점점 더 고속의 데이터 획득을 요구하고 있는데 종래의 기술은 그 요구에 부응하기 어려운 문제점이 있다.
본 발명은 상기와 같은 문제점을 해결하기 위해 안출된 것으로서, 그 목적은 단일영상을 통하여 위상복원을 수행하고 그에 따라 거리영상을 획득하도록 하는 단일영상을 이용한 거리영상 획득방법을 제공하는 데 있다.
또한, 본 발명의 다른 목적은 조명패턴에서의 위상천이 없이 단일영상에서 위상천이를 함으로써 영상획득 시간 및 영상처리 시간을 획기적으로 줄일 수 있는 단일영상을 이용한 거리영상 획득방법을 제공하는 데 있다.
또한, 본 발명의 또 다른 목적은 단일영상에 정현파의 위상천이를 적용하여 고해상도 데이터를 보다 쉽게, 보다 고속으로, 보다 적은 비용으로 구현할 수 있도록 하는 단일영상을 이용한 거리영상 획득방법을 제공하는 데 있다.
상기의 목적을 달성하기 위한 본 발명의 특징에 따르면, 소정의 공간주파수( )를 갖는 정현파 패턴을 조명모듈을 통해 대상물체 표면에 영사한 후 그 장면을 촬영모듈로 촬영하는 제1 과정;
네 개의 변위 을 정하여 제1 과정에서 촬영한 영상으로부터, 영상의 한 지점 x에서 각 변위만큼 떨어진 4개 지점으로부터 하기의 식과 같은 4개의 광도값을 얻는 제2 과정;
상기 제2 과정의 광도값을 이용하여 하기의 식으로 위상을 복원하는 제3 과정;
상기에서 구해진 위상 정보를 토대로 기하학적 보정을 통해, 대상 물체의 거리영상을 획득하는 제4 과정을 포함하여 이루어지는 단일영상을 이용한 거리영상 획득방법을 제공한다.
이때, 본 발명의 부가적인 특징에 따르면, 상기 제1 과정에서는 위상복원을 위한 영상 촬영 시간 동안에 조명 소스, 조명 패턴, 렌즈, 거울, 프리즘, 필터 등을 포함하는 조명모듈과; 카메라, 렌즈, 필터 등을 포함하는 촬영모듈; 및 대상물체가 모두 고정된 상태에서도 위상복원 및 거리영상 획득이 가능하다.
또한, 본 발명의 다른 부가적인 특징에 따르면, 상기 제2 과정에서 주어진 광도값의 식은 가 충분히 작을 때, x로부터 변위 만큼 떨어진 위치에서 주어지는 광도값에 관한 하기의 식이
하기의 식으로 근사되는 결과를 이용한 것을 특징으로 한다.
여기서, 이고, 형상(geometry)이나 반사특성(reflectance)이 x에서 까지의 영역에서 급격하게 변하지 않는 것으로 가정하는 것이 바람직하다.
또한, 본 발명의 다른 부가적인 특징에 따르면, 상기 제3 과정에서는, 인 경우에 하기의 식으로 위상을 복원할 수 있게 되고,
이를 통해 계산량을 줄이는 것이 바람직하다.
또한, 본 발명의 다른 부가적인 특징에 따르면, 조명모듈, 촬영모듈, 및 대상물체의 구성품 중 일부의 몇 가지 변이를 통해 촬영한 영상으로 총 2개 이상의 위상 또는 거리영상 데이터를 획득하고, 이를 토대로 보다 정확한 위상 또는 거리영상 데이터를 획득하는 것이 가능하다.
본 발명의 상술한 목적과 여러 가지 장점은 이 기술분야에 숙련된 사람들에의해, 첨부된 도면을 참조하여 후술되는 본 발명의 바람직한 실시예로부터 더욱 명확하게 될 것이다.
이하, 첨부된 도면을 참조하여 본 발명의 바람직한 실시예를 상세히 설명하고자 한다.
첨부도면 도 1은 본 발명을 적용하기 위한 거리영상 획득을 위한 능동비전 방식 시스템의 개략적인 구성을 나타내는 도면이고, 도 2는 3개 정현파 위상천이의 각 광도 분포곡선과 각 패턴영상을 나타내는 도면이다.
상기 첨부도면 도 1을 참조하면, 대상물체(10)와, 상기 대상물체(10)에 조명패턴을 영사하는 조명모듈(20)과, 상기 대상물체(10)의 영상을 획득하는 촬영모듈(30)이 구비된다.
이때, 상기 조명모듈(20)은 조명 소스, 조명 패턴, 렌즈, 거울, 프리즘, 필터 등의 적절한 조합을 포함하며, 촬영모듈(30)은 카메라, 렌즈, 필터 등의 적절한 조합을 포함하게 된다.
상기의 구성에서 위상복원을 위한 영상 촬영 시간 동안에는 조명모듈(20), 촬영모듈(30), 및 대상물체(10)가 모두 고정되는 것이 바람직하다.
상기 조명모듈(20)에서는 정현파 패턴이 영사되게 되는데, 정현파 패턴은 빔 프로젝터, 격자 슬라이드 등 다양한 종류의 조명 시스템에 의해 생성될 수 있다.
본 발명에서는 정현파 패턴이 조명모듈(20)로부터 대상물체(10)에 영사되었을 때, 촬영모듈(30)로 그 장면을 촬영한다. 이 동작에 의해 도 3에 도시된 바와 같은 영상이 얻어지며, 그 영상을 분석하여 영상의 각 지점(픽셀)에서의 위상(phase)을 복원하여 이를 바탕으로 대상 물체의 거리 영상을 획득하게 된다.
일반적인 정현파 위상천이 방식에서는 도 2에 도시된 바와 같이 임의의 위치에서의 광도값( )이 위상천이에 따라 달라진다.
이 식에서 a, b는 상수, x는 위치좌표, 는 x 위치에서의 위상값, 는 각 위상천이에서의 천이값을 나타낸다. 여기서 3개의 미지수, a, b, 가 있으므로, 위상을 복원하기 위해서는 일반적으로 3개 이상의 식이 필요하다. 즉, 동일 위치에서 얻은 3개 이상의 위상천이 광도 정보가 필요한 것이다.
잘 알려진 3개 위상천이의 위상은 아래 식으로 구할 수 있다.
여기서 3개의 천이값은 이다. 이렇게 해서 일반적으로 3개 이상의 위상천이로 각각의 영상을 얻으면, 이를 통해 각 위치에서의 위상을 복원할 수 있다. 위상을 복원한 뒤에는 적절한 기하학적 보정(geometric calibration)을 통해 거리영상을 획득할 수 있다.
본 발명에서는 단일 영상으로부터 위상을 복원하고자 한다. 우선 충분히 높은 공간주파수( )를 갖는 정현파 패턴을 사용한다. 이 패턴을 대상 표면에 영사한 후 그 장면을 카메라로 촬영한다.
이때, 도 3에 도시된 바와 같은 촬영한 영상의 위치 x에서의 광도값은 아래의 수학식 1로 주어진다.
여기서 x를 두면 이차원 좌표로 확장이 가능하다.
x에서 충분히 작은 일정 변위 만큼 떨어진 위치에서의 광도값은 아래의 수학식 2로 주어진다.
일반적으로 가 충분히 작을 때, 광도값은 아래의 수학식 3으로 표현될 수 있다.
여기서, 이고, 형상(geometry)이나 반사특성(reflectance)이 x에서 까지의 영역에서 급격하게 변하지 않는 것으로 가정하였다. 일반적으로 형상이나 반사특성이 급격하게 변하는 영역에서는 기존의 광학 방식에서도 에러값이 커지게 된다.
네 가지의 값을 정하면, 각각의 값이 정해지고, 이것을 아래와 같은 값이 되게 한다:
이렇게 해서 도 4에 도시된 바와 같이 x 주변의 4개 위치에서, 아래의 수학식 4로 표현되는 4개의 광도값을 얻을 수 있다.
Carre 방법을 쓰면, 상기 수학식 4로 표현되는 광도값 4개로 아래의 수학식 5에 의해 위상을 복원할 수 있다.
여기서, 경우에 따라 정현파 패턴의 공간주파수를 조절할 수 있으므로, 일 때에는 계산량이 이보다 적은 아래의 수학식 6과 같은 위상복원 등식을 쓸 수 있다.
이렇게 해서 구해진 위상 정보를 토대로, 적절한 기하학적 보정을 통해, 대상 물체의 거리영상을 획득할 수 있다.
이상의 본 발명은 상기에 기술된 실시예들에 의해 한정되지 않고, 당업자들에 의해 다양한 변형 및 변경을 가져올 수 있으며, 이는 첨부된 청구항에서 정의되는 본 발명의 취지와 범위에 포함된다.
예를 들어, 본 발명에서 제안된 위상복원 방식 및 이를 통한 거리영상의 획득은 2개 이상의 정현파 패턴이 중첩된 간섭계에도 역시 적용이 가능하다. 또한, 보다 정확한 위상 및 거리영상 획득을 위해, 조명 구성품 일체, 카메라 구성품 일체, 대상물체 중 일부의 변이를 통한 2개 이상의 위상 또는 거리영상 데이터를 획득하고, 이를 토대로 보다 정확한 위상 또는 거리영상 획득이 가능하다.
즉, 2개 이상의 영상을 이용할 경우, 각 영상에서 독립적으로 획득된 위상 혹은 거리영상을 토대로 보다 정확한 위상복원 및 거리영상 획득이 가능하다.
이상에서 살펴본 바와 같이, 본 발명에 의한 단일영상을 이용한 거리영상 획득방법을 적용하면, 단일영상에서 위상천이를 기반으로 하여 위상복원을 할 수 있게 되는 효과가 있다.
또한, 그에 따라, 위상복원을 위해 종래에는 최소 3개 이상의 영상이 필요했던 정현파의 위상천이 방식에서, 최소 1개의 영상에서 고해상도 위상 및 거리영상을 획득할 수 있게 되었으며, 이를 통해 보다 적은 비용, 보다 짧은 시간에 보다 용의한 방식으로 고해상도 위상 및 거리영상 획득이 가능하게 되는 효과가 있다.
도 1은 본 발명을 적용하기 위한 거리영상 획득을 위한 능동비전 방식 시스템의 개략적인 구성을 나타내는 도면
도 2는 3개 정현파 위상천이의 각 광도 분포곡선과 각 패턴영상을 나타내는 도면
도 3은 정현파 조명패턴을 대상물체의 표면에 영사하여 카메라로 촬영한 영상을 나타내는 도면
도 4는 도 3의 영상에서 위상을 복원하기 위해 4개 위치에서 광도값을 취하는 방식을 나타내는 도면
< 도면의 주요 부분에 대한 부호의 설명 >
10 : 대상물체 20 : 조명모듈
30 : 촬영모듈

Claims (4)

  1. 소정의 공간주파수( )를 갖는 정현파 패턴을 조명모듈을 통해 대상물체 표면에 영사한 후 그 장면을 촬영모듈로 촬영하는 제1 과정;
    네 개의 변위 을 정하여 제1 과정에서 촬영한 영상으로부터, 영상의 한 지점 x에서 각 변위만큼 떨어진 4개 지점으로부터 하기의 식과 같은 4개의 광도값을 얻는 제2 과정;
    상기 제2 과정의 광도값을 이용하여 하기의 식으로 위상을 복원하는 제3 과정;
    상기에서 구해진 위상 정보를 토대로 기하학적 보정을 통해, 대상 물체의 거리영상을 획득하는 제4 과정을 포함하여 이루어지는 것을 특징으로 하는 단일영상을 이용한 거리영상 획득방법.
  2. 제 1 항에 있어서,
    상기 제1 과정에서는 위상복원을 위한 영상 촬영 시간 동안에 조명 소스, 조명 패턴, 렌즈, 거울, 프리즘, 필터를 포함하는 조명모듈과; 카메라, 렌즈, 필터를 포함하는 촬영모듈; 및 대상물체가 모두 고정되는 것을 특징으로 하는 단일영상을 이용한 거리영상 획득방법.
  3. 제 1 항에 있어서,
    상기 제2 과정에서 주어진 광도값의 식은 가 충분히 작을 때, x로부터 변위 만큼 떨어진 위치에서 주어지는 광도값에 관한 하기의 식이
    하기의 식으로 근사되는 결과를 이용한 것을 특징으로 하며,
    여기서, 이고, 형상(geometry)이나 반사특성(reflectance)이 x에서 까지의 영역에서 급격하게 변하지 않는 것으로 가정하는 것을 특징으로 하는 단일영상을 이용한 거리영상 획득방법.
  4. 제 1 항에 있어서,
    상기 제3 과정에서는, 인 경우에 하기의 식으로 위상의 복원이 가능하고,
    이를 통해 계산량을 줄이는 것을 특징으로 하는 단일영상을 이용한 거리영상 획득방법.
KR1020050093563A 2005-10-05 2005-10-05 단일영상을 이용한 거리영상 획득방법 KR100714821B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020050093563A KR100714821B1 (ko) 2005-10-05 2005-10-05 단일영상을 이용한 거리영상 획득방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020050093563A KR100714821B1 (ko) 2005-10-05 2005-10-05 단일영상을 이용한 거리영상 획득방법

Publications (2)

Publication Number Publication Date
KR20050102609A true KR20050102609A (ko) 2005-10-26
KR100714821B1 KR100714821B1 (ko) 2007-05-07

Family

ID=37280780

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020050093563A KR100714821B1 (ko) 2005-10-05 2005-10-05 단일영상을 이용한 거리영상 획득방법

Country Status (1)

Country Link
KR (1) KR100714821B1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8836756B2 (en) 2010-12-22 2014-09-16 Electronics And Telecommunications Research Institute Apparatus and method for acquiring 3D depth information

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20230123628A (ko) 2022-02-17 2023-08-24 서강대학교산학협력단 계층적 정현파 구조광 패턴의 생성방법 및 그 방법을 이용한 구조광 시스템

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100284080B1 (ko) * 1998-10-19 2001-03-02 임쌍근 광학식 치수/형상/표면조도 측정장치

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8836756B2 (en) 2010-12-22 2014-09-16 Electronics And Telecommunications Research Institute Apparatus and method for acquiring 3D depth information

Also Published As

Publication number Publication date
KR100714821B1 (ko) 2007-05-07

Similar Documents

Publication Publication Date Title
US8538726B2 (en) Three dimensional shape measurement apparatus, three dimensional shape measurement method, and computer program
US6438272B1 (en) Method and apparatus for three dimensional surface contouring using a digital video projection system
US6252623B1 (en) Three dimensional imaging system
KR100613421B1 (ko) 3차원 형상 측정 방법
JP5576726B2 (ja) 三次元計測装置、三次元計測方法、及びプログラム
JP6112769B2 (ja) 情報処理装置、情報処理方法
JP4830871B2 (ja) 3次元形状計測装置及び3次元形状計測方法
EP2437026A1 (en) Method and system for providing threedimensional and range inter-planar estimation
EP3524929B1 (en) Projection system
JP6418884B2 (ja) 三次元計測装置、三次元計測方法及びプログラム
JP2008190962A (ja) 3次元計測装置
JP3690212B2 (ja) 3次元形状計測方法
JP2014115108A (ja) 距離計測装置
KR101943046B1 (ko) 보조 rgb-d 카메라를 이용한 프로젝터-카메라의 캘리브레이션 방법
WO1999034301A9 (en) Method and apparatus for three-dimensional surface contouring using a digital video projection system
KR100714821B1 (ko) 단일영상을 이용한 거리영상 획득방법
KR100752545B1 (ko) 2개 영상을 이용한 물체 표면 형상 및 반사율 정보 획득 시스템
KR100982051B1 (ko) Dmd를 이용한 모아레 측정 장치
US20080279458A1 (en) Imaging system for shape measurement of partially-specular object and method thereof
KR100585272B1 (ko) 단색 정현파 위상천이 기반 2개 영상을 이용한 거리영상 획득 장치 및 방법
KR100319800B1 (ko) 모아레 무늬 획득장치 및 방법
KR101555027B1 (ko) 3차원 형상 측정 장치 및 방법
CN107493429B (zh) 自拍照片的自拍杆屏蔽方法和装置
KR100585270B1 (ko) 2개 영상을 이용한 물체 표면 형상 및 컬러 정보 획득시스템 및 방법
KR101750883B1 (ko) 비전 검사 시스템의 3차원 형상 측정 방법

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20100427

Year of fee payment: 4

LAPS Lapse due to unpaid annual fee