KR101185144B1 - 제스쳐의 2차원 궤적을 추정하는 방법 및 장치 - Google Patents

제스쳐의 2차원 궤적을 추정하는 방법 및 장치 Download PDF

Info

Publication number
KR101185144B1
KR101185144B1 KR1020060007239A KR20060007239A KR101185144B1 KR 101185144 B1 KR101185144 B1 KR 101185144B1 KR 1020060007239 A KR1020060007239 A KR 1020060007239A KR 20060007239 A KR20060007239 A KR 20060007239A KR 101185144 B1 KR101185144 B1 KR 101185144B1
Authority
KR
South Korea
Prior art keywords
gesture
component
acceleration component
acceleration
axis
Prior art date
Application number
KR1020060007239A
Other languages
English (en)
Other versions
KR20070077598A (ko
Inventor
양징
김동윤
방원철
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020060007239A priority Critical patent/KR101185144B1/ko
Priority to US11/651,531 priority patent/US20070171202A1/en
Publication of KR20070077598A publication Critical patent/KR20070077598A/ko
Application granted granted Critical
Publication of KR101185144B1 publication Critical patent/KR101185144B1/ko

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B24GRINDING; POLISHING
    • B24BMACHINES, DEVICES, OR PROCESSES FOR GRINDING OR POLISHING; DRESSING OR CONDITIONING OF ABRADING SURFACES; FEEDING OF GRINDING, POLISHING, OR LAPPING AGENTS
    • B24B27/00Other grinding machines or devices
    • B24B27/06Grinders for cutting-off
    • B24B27/08Grinders for cutting-off being portable
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0346Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B24GRINDING; POLISHING
    • B24BMACHINES, DEVICES, OR PROCESSES FOR GRINDING OR POLISHING; DRESSING OR CONDITIONING OF ABRADING SURFACES; FEEDING OF GRINDING, POLISHING, OR LAPPING AGENTS
    • B24B23/00Portable grinding machines, e.g. hand-guided; Accessories therefor
    • B24B23/005Auxiliary devices used in connection with portable grinding machines, e.g. holders
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B24GRINDING; POLISHING
    • B24BMACHINES, DEVICES, OR PROCESSES FOR GRINDING OR POLISHING; DRESSING OR CONDITIONING OF ABRADING SURFACES; FEEDING OF GRINDING, POLISHING, OR LAPPING AGENTS
    • B24B23/00Portable grinding machines, e.g. hand-guided; Accessories therefor
    • B24B23/02Portable grinding machines, e.g. hand-guided; Accessories therefor with rotating grinding tools; Accessories therefor

Abstract

본 발명은 3축 가속도계를 이용한 궤적 추정 방법 및 장치에 관한 것이다.
본 발명의 일 실시예에 따른 궤적 추정 장치는, 3축 가속도계를 이용하여 3차원 제스쳐로부터 각각의 축 별로 가속도 성분을 측정하는 움직임 감지부와, 중력 가속도 성분을 계산하고, 상기 측정된 가속도 성분에서 상기 계산된 중력 가속도 성분을 제거하는 중력 성분 제거부와, 상기 중력 가속도 성분이 제거된 가속도 성분이 나타내는 움직임의 제스쳐 종류를 판단하는 제스쳐 판단부와, 상기 중력 가속도 성분이 제거된 가속도 성분을 상기 판단된 제스쳐 종류에 따라서 서로 다른 방법에 의하여 보상하는 보상부로 이루어진다.
제스쳐, 모션, 궤적 추정, 가속도계

Description

제스쳐의 2차원 궤적을 추정하는 방법 및 장치{Method and apparatus for estimating 2-dimension trajectory of a gesture}
도 1은 종래의 관성 항법 시스템을 이용한 입력시스템의 블록도이다.
도 2a는 3차원 제스쳐의 궤적의 일 예를 도시하는 도면.
도 2b는 도 2a의 3차원 제스쳐에 대한 각 축방향의 성분을 나타내는 도면.
도 3a는 제로 속도 보상 기법을 설명하기 위한 도면.
도 3b는 제로 위치 보상 기법을 설명하기 위한 도면.
도 4는 본 발명의 일 실시예에 따른 궤적 추정 장치의 구성을 도시하는 블록도.
도 5a는 측정된 가속도의 각 축방향 성분을 나타내는 도면.
도 5b는 추정되는 중력 가속도의 각 축방향 성분을 나타내는 도면.
도 6a는 숫자 '2'를 x-y평면 상에 그리는 제스쳐의 예를 도시하는 도면.
도 6b는 숫자 '8'을 x-y평면 상에 그리는 제스쳐의 예를 도시하는 도면.
도 6c는 EPC 또는 ZPC를 적용하는 기준을 도시하는 도면.
도 7은 EPC 부에서 일어나는 동작을 도시하는 흐름도.
도 8은 x-y 평면에 그려진 제스쳐에 max(Px)-min(Px) 및 dPx가 표시한 도면.
(도면의 주요부분에 대한 부호 설명)
21 : 실제 제스쳐 궤적 22 : 측정된 궤적
23 : 실제 제스쳐 궤적의 x 성분 24 : 측정된 궤적의 x 성분
25 : 실제 제스쳐 궤적의 y 성분 26 : 측정된 궤적의 y 성분
27 : 실제 제스쳐 궤적의 z 성분 28 : 측정된 궤적의 z 성분
40 : 궤적 추정 장치 41 : 움직임 감지부
42 : 중력 성분 보상부 43 : 제스쳐 판단부
44 : EPC 부 45 : 속도 산출부
46 : 위치 산출부 47 : 테일 제거부
48 : ZVC 부 49 : 보상부
본 발명은 3축 가속도계를 이용한 궤적 추정 방법 및 장치에 관한 것이다.
정보화 시대로 발전하면서 컴퓨터가 있는 환경처럼 특정한 공간보다는 언제 어디서나 정보를 접속하고 생산하는 일이 더욱 빈번히 요구되고 있다. 개인 휴대 기기들의 발전과 보급의 확대는 이러한 요구를 충족시켜 주고 있으나 이러한 개인 휴대 기기에 적절한 입력장치에 관해서는 여전히 많은 연구가 필요한 상황이다. 개인 휴대 기기들의 입력장치에 요구되는 사항은 휴대성과 입력의 용이성이므로 개인 휴대 기기보다 소형이며 소지가 용이한 입력장치의 개발이 요구된다. 또한 개인 휴대 기기의 특성상 언제 어디서든 새로운 자료를 입력해야 하므로 마치 글을 쓰듯이 자연스럽게 입력할 수 있는 입력장치가 요구된다. 특히 이와 같은 입력장치가 일반평면이나 자유공간, 또는 종이 상에서의 자연스러운 필기동작을 복원할 수 있어 문자, 도형, 제스처 등에 대한 입력이 가능하다면 범용성 면에서 우수하며 특별한 학습과정을 필요로 하지 않아 훌륭한 입력장치로 활용될 수 있다.
따라서 상기에서 설명한 바와 같은 입력장치에 대한 요구에 부응하여 3차원 관성항법시스템 개념을 이용하여 공간상에서도 필기가 가능한 입력시스템이 제안되고 있다.
3차원 관성항법시스템(INS : Inertial Navigation System)이란 3차원 공간상에서 움직이는 물체의 위치와 자세를 추정하기 위하여 3축 가속도정보와 3축 각속도정보를 검출하고 검출된 정보를 움직이는 물체에 적용하는 시스템을 말한다. 3차원 관성항법시스템에서는 각속도정보 측정치의 적분치를 이용해 물체의 자세를 계산하고 이에 의해 가속도정보가 보정되며, 보정된 가속도정보는 한 번 적분하여 속도정보로 계산되고, 이중 적분되어 위치정보로 계산된다.
도 1은 종래의 관성항법시스템을 이용한 입력시스템의 블록도이다.
종래의 관성항법시스템을 이용한 입력시스템은 호스트장치(20) 및 입력장치(10)를 포함한다.
호스트장치(20)는 입력장치(10)로부터의 움직임에 기초하여 움직임에 대응되는 이미지를 호스트장치(20)에 디스플레이한다.
입력장치(10)는 가속도센서(11), 각속도센서(12), 회전각정보 연산부(13), 변환연산부(14) 및 송신부(15)를 포함한다.
가속도센서(11)는 입력장치(10)의 움직임에 기초하여 움직임에 대응되는 가속도정보(Abx, Aby, Abz)를 생성하여 변환연산부(14)로 출력한다. 가속도정보에서 소첨자 b는 바디프레임에서의 가속도정보임을 의미하고, 소첨자 x, y 및 z는 x축, y축 및 z축에 대한 정보임을 의미한다.
바디 프레임(body flame)은 실제 입력장치(10)의 움직임에 대응하여 가속도정보 및 각속도정보가 검출될 수 있는 프레임으로서, 바디 프레임에서의 검출결과에 기초하여 소정의 연산행렬을 적용함으로써 호스트장치(300)에서 적용될 수 있는 정보를 산출하기 위한 기준 프레임인 항법 프레임(navigation frame)과는 구별된다.
각속도센서(12)는 입력장치(10)의 움직임에 기초하여 움직임에 대응되는 각속도정보(Wbx, Wby, Wbz)를 생성하여 회전각정보 연산부(13)로 출력한다. 각속도정보에서 소첨자 b는 바디프레임에서의 가속도정보임을 의미하고, 소첨자 x, y 및 z는 x축, y축 및 z축에 대한 정보임을 의미한다.
회전각정보 연산부(13)는 각속도센서(12)로부터의 각속도정보를 입력받는다. 입력된 각속도정보는 소정의 연산과정을 거쳐 회전각정보χ(φ,θ,ψ)로 변환된다. 회전각정보로 변환되기 위한 소정의 연산과정은 공지의 기술에 속하므로 본 명세서에서는 그에 대한 상세한 설명은 생략한다.
변환연산부(14)는 가속도정보 및 회전각정보를 입력받는다. 변환연산부(14)는 회전각정보에 기초하여 입력장치(10)의 자세를 계산하고, 회전각정보에 기초하 여 가속도정보가 보정되고, 보정된 가속도정보를 한번 적분하여 속도정보를 구하고, 이중적분하여 위치정보를 계산한다.
그러나 상기와 같이 가속도센서와 각속도센서를 모두 사용할 경우 입력장치의 무게가 전체적으로 증가되어 휴대성에 부적합하다는 단점이 있다. 각속도센서의 가격 또한 고가이므로 이를 이용하는 입력장치 또한 고가가 된다는 단점이 있다.
각속도센서 및 가속도센서가 모두 구동되어야 하므로 전력의 소비량이 크다는 단점이 있다. 그리고 각속도센서를 사용할 경우 초기의 교정작업이 반드시 필요하므로 각속도센서를 구비할 경우 교정작업을 수행해야 하는 번거로움이 있다.
본 발명이 이루고자 하는 기술적 과제는, 단지 3개의 가속도계만을 사용하여 3차원상의 제스쳐 궤적(gesture trajectory)을 2차원 평면의 신호로 재생하는 방법 및 장치를 제공하고자 하는 것이다.
본 발명의 기술적 과제들은 이상에서 언급한 기술적 과제로 제한되지 않으며, 언급되지 않은 또 다른 기술적 과제들은 아래의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.
상기한 기술적 과제를 달성하기 위하여, 입력된 3차원 제스쳐를 2차원 신호로 재생하는 궤적 추정 장치에 있어서, 3축 가속도계를 이용하여 상기 3차원 제스쳐로부터 각각의 축 별로 가속도 성분을 측정하는 움직임 감지부; 중력 가속도 성분을 계산하고, 상기 측정된 가속도 성분에서 상기 계산된 중력 가속도 성분을 제 거하는 중력 성분 제거부; 상기 중력 가속도 성분이 제거된 가속도 성분이 나타내는 움직임의 제스쳐 종류를 판단하는 제스쳐 판단부; 및 상기 중력 가속도 성분이 제거된 가속도 성분을 상기 판단된 제스쳐 종류에 따라서 서로 다른 방법에 의하여 보상하는 보상부를 포함한다.
상기한 기술적 과제를 달성하기 위하여, 입력된 3차원 제스쳐를 2차원 신호로 재생하는 궤적 추정 방법에 있어서, (a) 3축 가속도계를 이용하여 상기 3차원 제스쳐로부터 각각의 축 별로 가속도 성분을 측정하는 단계; (b) 중력 가속도 성분을 계산하고, 상기 측정된 가속도 성분에서 상기 계산된 중력 가속도 성분을 제거하는 단계; (c) 상기 중력 가속도 성분이 제거된 가속도 성분이 나타내는 움직임의 제스쳐 종류를 판단하는 단계; 및 (d) 상기 중력 가속도 성분이 제거된 가속도 성분을 상기 판단된 제스쳐 종류에 따라서 서로 다른 방법에 의하여 보상하는 단계를 포함한다.
기타 실시예들의 구체적인 사항들은 상세한 설명 및 도면들에 포함되어 있다.
본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나 본 발명은 이하에서 개시되는 실시예들에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 것이며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하며, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다. 명 세서 전체에 걸쳐 동일 참조 부호는 동일 구성 요소를 지칭한다.
일반적으로, 3차원 가속도계에서 측정되는 값 an(t)와 중력 성분 agn(t)과, 순수한 움직임에 의하여 발생하는 성분 amn(t)와, 센서의 에러 성분 en(t)는 다음의 수학식 1과 같은 관계를 갖는다. 본 명세서에서, 첨자 n은 공간상의 3축 방향을 대표하는 문자로서, x, y 또는 z로 나타낼 수 있다. 그리고, 첨자 g는 중력(gravity)를 첨자 m은 움직임(motion)을 나타낸다.
an(t) = agn(t) + amn(t) + en(t)
수학식 1로부터 살펴 보면, 가속도계를 이용하여 정확한 모션을 측정하기 위해서는 시간적으로 가변하는 중력 성분의 영향을 제거하는 것과, 센서 에러의 영향을 감소시키는 것이 필요함을 알 수 있다.
일반적으로, 알 수 없는 일정한 가속도 에러 인자(Ab)로 인하여 발생되는, 위치 누적 에러(Pn)은 시간(t)의 제곱에 비례하는 경향이 있다. 도 2a 및 도 2b를 실험예를 통하여 이러한 경향을 나타낸 것이다.
도 2a와 같이, 3차원 공간상에서 실제의 제스쳐 궤적(21)에 비하여 가속도계를 통하여 측정된 궤적(22)은 다소 차이가 난다. 이러한 차이를 x축, y축, z축 각각에 대하여 투영한 것이 도 2b이다. 도 2b를 참조하면, 어떤 원인에 의하여 각 축 방향에 대한 누적 에러는 시간이 증가함에 따라서 대략 시간의 제곱에 비례하여 증 가함을 알 수 있다. 하지만 그 원인은 각 축 별로 서로 상이하므로, x축에 대한 누적 에러는 12.71cm로, y축에 대한 누적 에러는 16.63cm로, 그리고 z축에 대한 누적 에러는 17.06cm로 각각 다르게 나타난다.
각속도계를 사용하지 않고 3축 방향의 가속도계만을 사용하여 평면상의 제스쳐 궤적을 추정함에 있어서, 이러한 누적 에러를 보정하는 종래의 기술로는 제로 속도 보상(Zero Velcity Compensation; 이하 ZVC라 함)과, 제로 위치 보상(Zero Position Compensation; 이하 ZPC라 함)이 있다.
ZVC는 제스쳐가 시작되기 직전의 속도 및 제스쳐가 끝난 직후의 속도는 모두 0이라는 가정하에 적용된다. 따라서, 제스쳐가 시작되기 전 및 제스쳐가 끝난 후의 멈춤 기간(pause period)가 요구된다. 상술한 바와 같이, 위치 누적 에러는 시간의 제곱에 비례하므로, 속도 누적 에러는 도 3a와 같이 시간에 비례하게 된다. 도 3a와 같이, 실제 속도를
Figure 112006005356997-pat00001
, 가속도계로부터 산출된 속도를 Vn(t)라고 할 빼, t1 및 t2사이의 시간 동안 발생된 누적 에러가 ΔV라고 한다면, 이후에는 이러한 누적 에러 및 실제 제스쳐가 수행된 시간을 이용하면, 산출된 속도를 보정할 수가 있는 것이다.
ZVC는 대부분의 제스쳐에 대하여 우수한 결과를 보이지만, 제스쳐의 시작점과 끝나는 점이 가까운 경우, 즉 폐쇄 제스쳐(closed gesture)에서는 좋은 결과를 보이지 못하는 문제가 있다.
한편, ZPC는 제스쳐가 시작되기 직전의 위치 및 제스쳐가 끝난 직후의 위치 는 모두 0이라는 가정하에 적용된다. 그런데, 위치 누적 에러는 시간의 제곱에 비례하므로, 위치 누적 에러는 도 3b와 같이 시간의 제곱 비례하게 된다. 도 3b와 같이, 실제 위치를
Figure 112006005356997-pat00002
, 가속도계로부터 산출된 위치를 Pn(t)라고 할 빼, t1 및 t2사이의 시간 동안 발생된 누적 에러가 ΔP라고 한다면, 이후에는 이러한 누적 에러 및 실제 제스쳐가 수행된 시간을 이용하여 산출된 위치를 보정할 수가 있는 것이다.
ZPC는 시작점도 끝나는 점을 동일한 점으로 간주하므로, 폐쇄 제스쳐에서는 그 성능이 뛰어나다. 그러나, 개방 제스쳐(open gesture)에서는 그 성능이 좋지 못하다.
이러한 문제점들을 고려하여, 본원 발명에서는 예측 최종 위치 보정(Estimated End Position Compensation; 이하 EPC라고 함) 기법을 제안하고자 한다. 상기 EPC는 다음과 같이 크게 세 가지의 특징을 갖는다.
1. 제스쳐를 그리는 동안에는, 사람의 팔은 신체의 어떤 축을 중심으로 회전한다는 신체 운동의 특징을 고려하여 제스쳐 종류, 즉 폐쇄 제스쳐인지 개방 제스쳐인지를 판단한다.
2. 서로 다른 제스쳐 종류에 따라서 서로 다른 보상 방법을 적용한다.
3. 제스쳐의 최종 위치는 신체 운동 특징에 근거하여 예측되며, 전체 궤적을 보상하는데 사용된다.
도 4는 본 발명의 일 실시예에 따른 궤적 추정 장치(40)의 구성을 도시하는 블록도이다. 궤적 추정 장치(40)는 움직임 감지부(41), 중력 성분 제거부(42), 제스쳐 판단부(43), EPC 부(44), 속도 산출부(45), 위치 산출부(46), 테일 제거부(47), 및 ZVC 부(48)를 포함하여 구성될 수 있다. EPC 부(44) 및 ZVC 부는 보상부(49)에 포함된다.
움직임 감지부(41)는 사용자의 제스쳐에 의한 물체의 가속도를 감지한다. 움직임 감지부(41)는 3축 가속도계로 이루어질 수 있으며, 그 출력은 각 축방향의 가속도 성분인 an(t)이다. 상기 가속도 성분은 예를 들어, 도 5a와 같이 나타난다. 본 명세서에서는 x, y, z 세 방향 중 y축을 연직 방향과 반대 방향으로 잡기로 한다.
움직임이 시작되는 점을 t1 움직임이 종료되는 점을 t2라고 한다면, 움직임이 시작되기 소정의 이전 시간 t0로부터 t1까지는 실제 가속도는 일정하여야 하지만 잡음(noise)에 의하여 다소 떨림이 존재한다. 마찬가지로 움직임이 종료된 시간 t2로부터 이후 소정시간 t3까지도 다소 떨림이 존재한다.
중력 성분 제거부(42)는 상기 감지된 3축 방향의 가속도 각각에 대하여 중력 성분을 제거한다. 정지 구간(pause period) 에서 중력 성분은 각각 그 경계에서의 중력 성분과 같다.
다시 말하면, t0부터 t1까지의 구간에서 예측된 중력 가속도
Figure 112006005356997-pat00003
는 시간 t에서의 중력 가속도
Figure 112006005356997-pat00004
와 동일하고, t2부터 t3까지의 구간에서 예측된 중력 가속도
Figure 112006005356997-pat00005
는 시간 t에서의 중력 가속도
Figure 112006005356997-pat00006
와 동일하다. 본 명세에 있어서 "hat(^)"는 예측된 값임을 나타낸다.
그런데, 신체 운동이 어떤 축을 중심으로 회전한다는 가정에 의거하면, 움직임 구간, 즉 t1부터 t2까지의 구간에서 중력 가속도는 선형적으로 변화하게 된다. 도 5a와 같이 측정된 가속도 성분에 대하여 중력 성분을 계산한 결과를 보여주는 것이 도 5b이다. 도 5b에서 보면, 각 가속도 성분은 양 경계(t1, t2)의 값
Figure 112006005356997-pat00007
,
Figure 112006005356997-pat00008
사이에서 선형적으로 감소하거나 증가한다.
상기한 바에 따라, t1 내지 t2사이에서 중력 가속도는 다음의 수학식 2와 같다.
Figure 112006005356997-pat00009
중력 성분 제거부(42)는 수학식 2를 이용하여 산출되는 중력 가속도
Figure 112006005356997-pat00010
를 움직임 감지부에서 측정된 an(t)에서 제거한다.
제스쳐 판단부(43)는 중력 성분 제거부(42)에서 중력 가속도 성분이 제거된 가속도 성분(amn'(t))을 이용하여 입력된 제스쳐가 개방 제스쳐인지 폐쇄 제스쳐인지, 즉 제스쳐 종류를 판단한다.
이를 위하여, 제스쳐 판단부(43)는 움직임이 시작되는 점(t1)에서의 피치(θ1) 및 움직임이 종료되는 점(t2)에서의 피치(θ2)를 측정하고, 그 차이(θ2-θ1; dθ라 함)를 계산한다. 그리고 상기 차이 값이 제1 문턱값 및 제2 문턱값 사이(문턱 값 범위 내)에 존재하면 폐쇄 제스쳐라고 판단하고, 그렇지 않다면 개방 제스쳐라고 판단한다.
도 6a는 숫자 "2"를 그리는 제스쳐의 예이고, 도 6b는 숫자 "8"을 그리는 제스쳐의 예이다. 도 6a는 시작 피치(θ1)와 종료 피치(θ2)간의 차이 값(dθ)이 문턱값 범위 내에 존재하지 않는 경우로서, 개방 제스쳐라고 판단 되는 예이고, 도 6b는 상기 차이 값(dθ)이 문턱값 범위 내에 존재하는 경우로서, 폐쇄 제스쳐라고 판단되는 예이다.
결국 도 6c의 전체 구간 중, dθ가 어디에 존재하는가에 따라서 이후 ZVC 알고리즘 또는 본 발명에서 제안하는 EPC 알고리즘 중 하나를 사용하게 된다. 판단되면 EPC 부(44)가 동작한다.
ZVC 부(48)는 중력 성분 제거부(42)에서 출력되는 가속도 성분이 개방 제스쳐라고 판단된 경우, 상기 가속도 성분에 도 3a에서 설명한 바와 같이 종래의 제로 속도 보상 알고리즘을 적용하여 에러를 보정한다.
EPC 부(44)는 중력 성분 제거부(42)에서 출력되는 가속도 성분이 폐쇄 제스쳐라고 판단된 경우, 본 발명에서 제시하는 예측 제로 위치 보상(EPC)을 적용하여 에러를 보정한다. 이 때, 사용되는 가속도 성분은 중력 성분 제거부(42)에서 출력되는 가속도 성분 중, x축 성분(
Figure 112006005356997-pat00011
) 및 y축 성분(
Figure 112006005356997-pat00012
)이다. x축 및 y축은 특정 제스쳐가 그려지는 가상의 평면을 의미한다.
도 7은 EPC 부(44)에서 일어나는 동작을 도시하는 흐름도이다.
먼저, EPC 부(44)는 x축의 가속도 성분(
Figure 112006005356997-pat00013
)에 대하여 도 3a와 같은 제로 속도 보상(ZVC)을 수행한다(S71). 그리고, 상기 보상된 결과에 대하여 적분을 수행하여 위치(Px(t))를 계산한다(S72).
EPC 부(44)는 제스쳐가 이루는 궤적의 양 끝점의 x성분의 차이(dPx)를, 궤적 중 최대 x값과 최소 x값 간의 차이(max(Px)-min(Px))로 나눈 결과가 소정의 임계치(Th_Px)보다 작은지를 판단한다(S73). 이는 제스쳐의 크기를 고려하여 x축상의 시작점과 최종점이 가까운가를 판단하기 위한 것이다. x-y 평면에 그려진 제스쳐에 max(Px)-min(Px) 및 dPx가 표시한 예는 도 8에 나타나 있다.
상기 판단 결과 그러하다면(S73의 예), 시작점과 최종점은 동일한 점으로 간주하여, 추정되는 x축상의 최종 위치(Px_end)는 0으로 설정된다(S74). 그러나, 그러지 아니하다면(S74의 예) 시작점과 최종점은 다른 점으로 간주하여, Px_end는 상기 dPx로 설정된다(S76).
그러나 S74, S76 어느 경우든 간에, 추정되는 y축상의 최종 위치(Py_end)는 도 6의 예와 같이, 회전 반경(R)과 피치 값의 차이(dθ)의 곱으로 결정된다. 이와 같이 결정될 수 있는 것은, 이미 제스쳐 판단부(43)에 의하여 dθ가 미소하다고 판단되었기 때문이다.
마지막으로 EPC 부(44)는 상기 S74 또는 S76 단계에서 구한 Pn_end 값을 이용하여(n은 x 또는 y임) 가속도 성분(
Figure 112006005356997-pat00014
,
Figure 112006005356997-pat00015
)에 대한 예측 최종 위치 보상을 수행한다(S75).
S75 단계를 보다 자세히 살펴 보면, EPC 부(44)는 먼저 가속도 성분(
Figure 112006005356997-pat00016
,
Figure 112006005356997-pat00017
)으로부터 별다른 보상을 거치지 않고, 적분을 수행하여 최종 위치 Pn(t2)를 구한다(n은 x 또는 y임).
그 다음, 가속도 차이 성분(
Figure 112006005356997-pat00018
)을 상수, 선형, 또는 기타 다른 관계로 모델링한다.
예를 들어, 상수로 모델링하는 경우,
Figure 112006005356997-pat00019
는 경계 조건에 따라서 다음의 수학식 3과 같이 계산된다. 여기서, n은 x 또는 y를 나타낸다.
Figure 112006005356997-pat00020
그러면, 최종적으로 보상된 가속도
Figure 112006005356997-pat00021
는 t1로부터 t2까지의 구간에서 다음의 수학식 4와 같이 계산된다.
Figure 112006005356997-pat00022
속도 산출부(45)는 상기와 같이 보상된 가속도
Figure 112006005356997-pat00023
를 적분함으로써 속도를 산출하고, 위치 산출부(46)는 상기 산출된 속도를 적분함으로써 위치를 산출하고 이를 종합하여 입력된 제스쳐의 2차원 궤적을 산출한다.
테일 제거부(47)는 실제 제스쳐가 표현하는 도형이나 문자의 불필요한 테일(tail) 부분을 제거한다. 이러한 테일은 주로 최종 위치 근처에서 주로 발생하므로, 테일 제거부(47)는 동일한 방향으로 길게 늘어지는 마지막 스트로크의 말단 중 일부를 잘라낸다.
지금까지 도 4의 각 구성요소들은 메모리 상의 소정 영역에서 수행되는 태스크, 클래스, 서브 루틴, 프로세스, 오브젝트, 실행 쓰레드, 프로그램과 같은 소프트웨어(software)나, FPGA(field-programmable gate array)나 ASIC(application-specific integrated circuit)과 같은 하드웨어(hardware)로 구현될 수 있으며, 또한 상기 소프트웨어 및 하드웨어의 조합으로 이루어질 수도 있다. 상기 구성요소들은 컴퓨터로 판독 가능한 저장 매체에 포함되어 있을 수도 있고, 복수의 컴퓨터에 그 일부가 분산되어 분포될 수도 있다.
이상 첨부된 도면을 참조하여 본 발명의 실시예를 설명하였지만, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자는 본 발명이 그 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 실시될 수 있다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야 한다.
상술한 바와 같이 본 발명에 따른 궤적 추적 장치에 따르면, 단지 3개의 가속도계만을 사용하여 3차원상의 제스쳐 궤적(gesture trajectory)을 2차원 평면의 신호로 보다 정확하게 재생할 수 있다.
따라서, 휴대폰, PDA와 같은 소형 기기에서 제스쳐에 의한 문자, 도형 등을 보다 정확하게 입력할 수 있다.

Claims (28)

  1. 입력된 3차원 제스쳐를 2차원 신호로 재생하는 궤적 추정 장치에 있어서,
    3축 가속도계를 이용하여 상기 3차원 제스쳐로부터 각각의 축 별로 가속도 성분을 측정하는 움직임 감지부;
    중력 가속도 성분을 계산하고, 상기 측정된 가속도 성분에서 상기 계산된 중력 가속도 성분을 제거하는 중력 성분 제거부;
    상기 중력 가속도 성분이 제거된 가속도 성분이 나타내는 움직임의 제스쳐 종류를 판단하는 제스쳐 판단부; 및
    상기 중력 가속도 성분이 제거된 가속도 성분을 상기 판단된 제스쳐 종류에 따라서 서로 다른 방법에 의하여 보상하는 보상부를 포함하는 상기 장치.
  2. 제1항에 있어서, 상기 제스쳐 종류는
    폐쇄 제스쳐 및 개방 제스쳐를 포함하는 상기 장치.
  3. 제2항에 있어서, 상기 제스쳐 판단부는
    상기 제스쳐의 시작점의 연직 방향 성분과 최종점의 연직 방향 성분의 차이가 소정의 문턱값 범위 내에 존재하는가를 판단하는 상기 장치.
  4. 제3항에 있어서, 상기 제스쳐 판단부는
    상기 제스쳐의 시작점에서의 피치(pitch) 및 최종점에서의 피치를 측정하고, 상기 피치 간의 차이를 계산하여, 상기 차이가 소정의 문턱값 범위 내에 존재하면 폐쇄 제스쳐라고 판단하고, 그렇지 않다면 개방 제스쳐라고 판단하는 상기 장치.
  5. 제1항에 있어서, 중력 성분 제거부는
    제스쳐가 시작되기 직전의 가속도와 제스쳐가 종료된 직후의 가속도 사이에서 선형적으로 변화하는 것으로 가정하고 상기 중력 가속도를 계산하는 상기 장치.
  6. 제1항에 있어서, 상기 보상부는
    상기 제스쳐 종류가 폐쇄 제스쳐인 경우, 상기 중력 가속도 성분이 제거된 가속도 성분에 대하여 제로 속도 보상을 수행하는 ZVC 부; 및
    상기 제스쳐 종류가 개방 제스쳐인 경우, 상기 중력 가속도 성분이 제거된 가속도 성분에 대하여 예측 최종 위치 보상을 수행하는 EPC 부를 포함하는 상기 장치.
  7. 제6항에 있어서, EPC 부는
    상기 중력 가속도 성분이 제거된 가속도 성분 중 x축 성분에 대하여 제로 속도 보상을 수행하고, 상기 보상된 결과에 적분을 수행하여 2차원 궤적을 계산하며, 상기 궤적의 양 끝점의 x성분의 차이를 상기 궤적 중 최대 x값과 최소 x값 간의 차이로 나눈 결과가 소정의 임계치보다 작은지를 판단하는 상기 장치.
  8. 제7항에 있어서, 상기 EPC 부는
    상기 판단 결과 그러하다면, 추정된 x축상의 최종 위치는 0으로 설정하고, 그러지 아니하다면 상기 추정된 x축상의 최종 위치는 실제 최종점의 x좌표로 설정하는 상기 장치.
  9. 제8항에 있어서, 상기 EPC 부는
    상기 추정된 x축상의 최종 위치, 및 상기 3차원 제스쳐가 그려지는 가상의 평면상에서 소정의 기준점을 원의 중심으로 하여 상기 3차원 제스쳐의 시작점 및 종료점을 통과하는 원의 반경에 피치 차이를 곱한 값으로 설정되는 y축상의 최종 위치를 이용하여, 상기 중력 가속도 성분이 제거된 가속도 성분에 대하여 예측 최종 위치 보상을 수행하는 상기 장치.
  10. 제9항에 있어서, 상기 EPC 부는
    상기 중력 가속도 성분이 제거된 가속도 성분을 적분하여 보상되지 않은 x축상의 최종 위치를 구하고, 이 것과 상기 추정된 x축상의 최종 위치를 인자로 하여 가속도 차이 성분을 모델링하고, 상기 중력 가속도 성분이 제거된 가속도 성분으로부터 상기 가속도 차이 성분을 차분하는 상기 장치.
  11. 제10항에 있어서, 상기 EPC 부는
    상기 중력 가속도 성분이 제거된 가속도 성분을 적분하여 보상되지 않은 y축상의 최종 위치를 구하고, 이 것과 상기 설정된 y축상의 최종 위치를 인자로 하여 가속도 차이 성분을 모델링하고, 상기 중력 가속도 성분이 제거된 가속도 성분으로부터 상기 가속도 차이 성분을 차분하는 상기 장치.
  12. 제10항 또는 제11항에 있어서, 상기 가속도 차이 성분은
    상수 또는 선형으로 모델링되는 상기 장치.
  13. 제1항에 있어서,
    상기 보상된 가속도 성분을 적분함으로써 2차원 궤적을 산출하는 속도 및 위치 산출부를 더 포함하는 상기 장치.
  14. 제13항에 있어서,
    상기 2차원 궤적의 테일을 제거하는 테일 제거부를 더 포함하는 상기 장치.
  15. 입력된 3차원 제스쳐를 2차원 신호로 재생하는 궤적 추정 방법에 있어서,
    (a) 3축 가속도계를 이용하여 상기 3차원 제스쳐로부터 각각의 축 별로 가속도 성분을 측정하는 단계;
    (b) 중력 가속도 성분을 계산하고, 상기 측정된 가속도 성분에서 상기 계산된 중력 가속도 성분을 제거하는 단계;
    (c) 상기 중력 가속도 성분이 제거된 가속도 성분이 나타내는 움직임의 제스쳐 종류를 판단하는 단계; 및
    (d) 상기 중력 가속도 성분이 제거된 가속도 성분을 상기 판단된 제스쳐 종류에 따라서 서로 다른 방법에 의하여 보상하는 단계를 포함하는 상기 방법.
  16. 제15항에 있어서, 상기 제스쳐 종류는
    폐쇄 제스쳐 및 개방 제스쳐를 포함하는 상기 방법.
  17. 제16항에 있어서, 상기 (c) 단계는
    상기 제스쳐의 시작점의 연직 방향 성분과 최종점의 연직 방향 성분의 차이가 소정의 문턱값 범위 내에 존재하는가를 판단하는 단계를 포함하는 상기 방법.
  18. 제17항에 있어서, 상기 (c) 단계는
    상기 제스쳐의 시작점에서의 피치(pitch) 및 최종점에서의 피치를 측정하는 단계; 및
    상기 피치 간의 차이를 계산하여, 상기 차이가 소정의 문턱값 범위 내에 존재하면 폐쇄 제스쳐라고 판단하고, 그렇지 않다면 개방 제스쳐라고 판단하는 단계를 포함하는 상기 방법.
  19. 제15항에 있어서, 상기 (b) 단계는
    제스쳐가 시작되기 직전의 가속도와 제스쳐가 종료된 직후의 가속도 사이에서 선형적으로 변화하는 것으로 가정하고 상기 중력 가속도를 계산하는 단계를 포 함하는 상기 방법.
  20. 제15항에 있어서, 상기 (d) 단계는
    (d1) 상기 제스쳐 종류가 폐쇄 제스쳐인 경우, 상기 중력 가속도 성분이 제거된 가속도 성분에 대하여 제로 속도 보상을 수행하는 단계; 및
    (d2) 상기 제스쳐 종류가 개방 제스쳐인 경우, 상기 중력 가속도 성분이 제거된 가속도 성분에 대하여 예측 최종 위치 보상을 수행하는 단계를 포함하는 상기 방법.
  21. 제20항에 있어서, 상기 (d2) 단계는
    상기 중력 가속도 성분이 제거된 가속도 성분 중 x축 성분에 대하여 제로 속도 보상을 수행하는 단계;
    상기 보상된 결과에 적분을 수행하여 2차원 궤적을 계산하는 단계; 및
    상기 궤적의 양 끝점의 x성분의 차이를 상기 궤적 중 최대 x값과 최소 x값 간의 차이로 나눈 결과가 소정의 임계치보다 작은지를 판단하는 단계를 포함하는 상기 방법.
  22. 제21항에 있어서, 상기 (d2) 단계는
    상기 판단 결과 그러하다면, 추정된 x축상의 최종 위치는 0으로 설정하고, 그러지 아니하다면 상기 추정된 x축상의 최종 위치는 실제 최종점의 x좌표로 설정하 는 단계를 더 포함하는 상기 방법.
  23. 제22항에 있어서, 상기 (d2) 단계는
    상기 추정된 x축상의 최종 위치, 및 상기 3차원 제스쳐가 그려지는 가상의 평면상에서 소정의 기준점을 원의 중심으로 하여 상기 3차원 제스쳐의 시작점 및 종료점을 통과하는 원의 반경에 피치 차이를 곱한 값으로 설정되는 y축상의 최종 위치를 이용하여, 상기 중력 가속도 성분이 제거된 가속도 성분에 대하여 예측 최종 위치 보상을 수행하는 단계를 더 포함하는 상기 방법.
  24. 제23항에 있어서, 상기 (d2) 단계는
    상기 중력 가속도 성분이 제거된 가속도 성분을 적분하여 보상되지 않은 x축상의 최종 위치를 구하는 단계;
    이 위치와 상기 추정된 x축상의 최종 위치를 인자로 하여 가속도 차이 성분을 모델링하는 단계; 및
    상기 중력 가속도 성분이 제거된 가속도 성분으로부터 상기 가속도 차이 성분을 차분하는 단계를 더 포함하는 상기 방법.
  25. 제24항에 있어서, 상기 (d2) 단계는
    상기 중력 가속도 성분이 제거된 가속도 성분을 적분하여 보상되지 않은 y축상의 최종 위치를 구하는 단계;
    이 위치와 상기 설정된 y축상의 최종 위치를 인자로 하여 가속도 차이 성분을 모델링하는 단계; 및
    상기 중력 가속도 성분이 제거된 가속도 성분으로부터 상기 가속도 차이 성분을 차분하는 단계를 더 포함하는 상기 방법.
  26. 제24항 또는 제25항에 있어서, 상기 가속도 차이 성분은
    상수 또는 선형으로 모델링되는 상기 방법.
  27. 제15항에 있어서,
    상기 보상된 가속도 성분을 적분함으로써 2차원 궤적을 산출하는 단계를 더 포함하는 상기 방법.
  28. 제27항에 있어서,
    상기 2차원 궤적의 테일을 제거하는 단계를 더 포함하는 상기 방법.
KR1020060007239A 2006-01-24 2006-01-24 제스쳐의 2차원 궤적을 추정하는 방법 및 장치 KR101185144B1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020060007239A KR101185144B1 (ko) 2006-01-24 2006-01-24 제스쳐의 2차원 궤적을 추정하는 방법 및 장치
US11/651,531 US20070171202A1 (en) 2006-01-24 2007-01-10 Trajectory estimation apparatus, method, and medium for estimating two-dimensional trajectory of gesture

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020060007239A KR101185144B1 (ko) 2006-01-24 2006-01-24 제스쳐의 2차원 궤적을 추정하는 방법 및 장치

Publications (2)

Publication Number Publication Date
KR20070077598A KR20070077598A (ko) 2007-07-27
KR101185144B1 true KR101185144B1 (ko) 2012-09-24

Family

ID=38285057

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020060007239A KR101185144B1 (ko) 2006-01-24 2006-01-24 제스쳐의 2차원 궤적을 추정하는 방법 및 장치

Country Status (2)

Country Link
US (1) US20070171202A1 (ko)
KR (1) KR101185144B1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102624763B1 (ko) * 2022-10-21 2024-01-12 금호타이어 주식회사 타이어 비드의 압착력 시험장치

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB0808081D0 (en) * 2008-05-02 2008-06-11 In2Games Ltd Bridging ultrasonic position with accelerometer/gyroscope inertial guidance
KR101009579B1 (ko) * 2008-10-10 2011-01-20 한국과학기술원 가속도 신호의 처리 방법 및 이를 채용한 인터페이스 장치
US9250788B2 (en) * 2009-03-18 2016-02-02 IdentifyMine, Inc. Gesture handlers of a gesture engine
EP2251067B1 (en) * 2009-05-07 2018-01-03 Nintendo Co., Ltd. Storage medium storing information processing program, and information processing apparatus
KR101094636B1 (ko) * 2009-05-21 2011-12-20 팅크웨어(주) 제스처 기반 사용자 인터페이스 시스템 및 그 방법
US8786547B2 (en) * 2010-12-23 2014-07-22 Microsoft Corporation Effects of gravity on gestures
JP2012141930A (ja) * 2011-01-06 2012-07-26 Sony Corp 情報処理装置、情報処理システム及び情報処理方法
KR20120124874A (ko) * 2011-05-06 2012-11-14 삼성전자주식회사 그립 방향에 독립적인 움직임 감지를 위한 방법 및 장치
US20130035890A1 (en) * 2011-08-04 2013-02-07 Wang Jeen-Shing Moving trajectory calibration method and moving trajectory generation method
US20130085712A1 (en) * 2011-09-30 2013-04-04 Industrial Technology Research Institute Inertial sensing input apparatus and method thereof
US8698746B1 (en) * 2012-04-24 2014-04-15 Google Inc. Automatic calibration curves for a pointing device
US9244538B2 (en) * 2013-03-08 2016-01-26 Microsoft Technology Licensing, Llc Using portable electronic devices for user input
TWI567592B (zh) * 2013-09-03 2017-01-21 緯創資通股份有限公司 手勢辨識方法及穿戴式裝置
KR102091473B1 (ko) 2014-01-07 2020-04-14 삼성전자주식회사 이벤트 기반 센서를 이용한 피사체의 움직임 분석 방법
CN105824420B (zh) * 2016-03-21 2018-09-14 李骁 一种基于加速度传感器的手势识别方法
CN110308795B (zh) * 2019-07-05 2022-10-11 济南大学 一种动态手势识别方法及系统

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6084577A (en) 1996-02-20 2000-07-04 Ricoh Company, Ltd. Pen-shaped handwriting input apparatus using accelerometers and gyroscopes and an associated operational device for determining pen movement
JP2000242407A (ja) 1999-02-17 2000-09-08 Nippon Telegr & Teleph Corp <Ntt> データ入力方法及び装置
US6249606B1 (en) 1998-02-19 2001-06-19 Mindmaker, Inc. Method and system for gesture category recognition and training using a feature vector

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100480793B1 (ko) * 2003-06-16 2005-04-07 삼성전자주식회사 가속도 오차 보정 방법 및 장치, 및 이를 이용한 관성항법 시스템

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6084577A (en) 1996-02-20 2000-07-04 Ricoh Company, Ltd. Pen-shaped handwriting input apparatus using accelerometers and gyroscopes and an associated operational device for determining pen movement
US6249606B1 (en) 1998-02-19 2001-06-19 Mindmaker, Inc. Method and system for gesture category recognition and training using a feature vector
JP2000242407A (ja) 1999-02-17 2000-09-08 Nippon Telegr & Teleph Corp <Ntt> データ入力方法及び装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102624763B1 (ko) * 2022-10-21 2024-01-12 금호타이어 주식회사 타이어 비드의 압착력 시험장치

Also Published As

Publication number Publication date
KR20070077598A (ko) 2007-07-27
US20070171202A1 (en) 2007-07-26

Similar Documents

Publication Publication Date Title
KR101185144B1 (ko) 제스쳐의 2차원 궤적을 추정하는 방법 및 장치
KR100518832B1 (ko) 3차원 관성항법시스템에 기초한 입력시스템 및 이의궤적추정방법
KR100480793B1 (ko) 가속도 오차 보정 방법 및 장치, 및 이를 이용한 관성항법 시스템
KR101073062B1 (ko) 움직임 감지를 통한 힘 강도 및 회전 강도를 입력하는 방법 및 디바이스
US7952561B2 (en) Method and apparatus for controlling application using motion of image pickup unit
KR100543701B1 (ko) 공간형 입력 장치 및 방법
KR100552688B1 (ko) 관성 항법 시스템의 자세 보상 방법 및 장치, 이를 이용한관성 항법 시스템의 위치 계산 방법 및 장치
KR20190041315A (ko) 관성 기반 항법 장치 및 상대사전적분에 따른 관성 기반 항법 방법
US20200286302A1 (en) Method And Apparatus For Manipulating Object In Virtual Or Augmented Reality Based On Hand Motion Capture Apparatus
KR20050095386A (ko) 움직임에 기반한 소리 발생 방법 및 장치
Porzi et al. Visual-inertial tracking on android for augmented reality applications
JP2004288188A (ja) マグネチックセンサを用いたペン型入力システムおよびその軌跡復元方法
Yang et al. Analysis and compensation of errors in the input device based on inertial sensors
EP3732549A1 (en) Method for predicting a motion of an object, method for calibrating a motion model, method for deriving a predefined quantity and method for generating a virtual reality view
CN114692425A (zh) 数字孪生技术的焊接机器人仿真方法、系统、设备及介质
TWI472953B (zh) 慣性感測輸入裝置、系統及其方法
US20210311621A1 (en) Swipe gestures on a virtual keyboard with motion compensation
US10558270B2 (en) Method for determining non-contact gesture and device for the same
KR100387768B1 (ko) 휴대용 전자기기의 가상화면 제어 장치 및 방법
KR100512963B1 (ko) 관성항법시스템을 이용한 펜형 공간 입력시스템 및 그궤적 복원 방법
CN113065572A (zh) 多传感器融合的数据处理方法、定位装置及虚拟现实设备
KR100480792B1 (ko) 공간형 정보 입력 방법 및 장치
CN117760364A (zh) 折叠屏的折叠角度确定方法及装置、电子设备和存储介质
CN115704685A (zh) 地图建立方法与地图建立系统
CN117015719A (zh) 用于确定刚体的运动状态的方法

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20150828

Year of fee payment: 4

FPAY Annual fee payment

Payment date: 20160830

Year of fee payment: 5

FPAY Annual fee payment

Payment date: 20170830

Year of fee payment: 6

LAPS Lapse due to unpaid annual fee