KR102346904B1 - 제스처 인식 장치 및 방법 - Google Patents

제스처 인식 장치 및 방법 Download PDF

Info

Publication number
KR102346904B1
KR102346904B1 KR1020210030115A KR20210030115A KR102346904B1 KR 102346904 B1 KR102346904 B1 KR 102346904B1 KR 1020210030115 A KR1020210030115 A KR 1020210030115A KR 20210030115 A KR20210030115 A KR 20210030115A KR 102346904 B1 KR102346904 B1 KR 102346904B1
Authority
KR
South Korea
Prior art keywords
gesture
gesture recognition
unit
sensing data
image
Prior art date
Application number
KR1020210030115A
Other languages
English (en)
Other versions
KR20210029753A (ko
Inventor
오훈
찬우비
정현태
Original Assignee
울산대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from KR1020180128348A external-priority patent/KR20200046764A/ko
Application filed by 울산대학교 산학협력단 filed Critical 울산대학교 산학협력단
Priority to KR1020210030115A priority Critical patent/KR102346904B1/ko
Publication of KR20210029753A publication Critical patent/KR20210029753A/ko
Application granted granted Critical
Publication of KR102346904B1 publication Critical patent/KR102346904B1/ko

Links

Images

Classifications

    • G06K9/00335—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20—Movements or behaviour, e.g. gesture recognition
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01P—MEASURING LINEAR OR ANGULAR SPEED, ACCELERATION, DECELERATION, OR SHOCK; INDICATING PRESENCE, ABSENCE, OR DIRECTION, OF MOVEMENT
    • G01P15/00—Measuring acceleration; Measuring deceleration; Measuring shock, i.e. sudden change of acceleration

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Health & Medical Sciences (AREA)
  • Psychiatry (AREA)
  • Social Psychology (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

본 발명의 일실시예에 따른 제스처 인식 장치는 카메라 모듈로부터 영상 프레임을 수신하여 대기열에 저장하는 이미지 수신부, 상기 영상 프레임에서 오브젝트를 인식하여 제스처 명령의 시작을 알리는 쿼리를 발생시키는 명령 생성부, 상기 제스처 명령의 시작을 알리는 쿼리의 발생에 응답하여 가속도 센서로부터 센싱된 데이터를 수신하여 상기 대기열에 저장하는 센싱 데이터 수신부 및 상기 대기열에 저장된 상기 영상 프레임 및 상기 센싱된 데이터를 결합하여 제스처 명령을 인식하는 인식부를 포함한다.

Description

제스처 인식 장치 및 방법{METHOD AND APPARATUS FOR RECOGNIZING GESTURE}
본 발명은 촬영된 영상으로부터 사용자의 제스처를 인식하여 정보를 제공하는 장치 및 방법에 관한 것이다.
일상 생활은 물론, 산업 환경에서도 전자 기기의 사용이 필수적인 최근의 생활 환경에서, 전자기기들은 각각의 입력수단을 포함한다. 전통적으로 이러한 입력수단들은 키보드, 마우스 등을 포함하고 있으며, 최근에는 음성 인식이나 제스처 인식 등의 새로운 입력 수단의 도입이 이루어지고 있는 실정이다.
모바일 기기의 사용이 보편화되면서, 모바일 기기에서의 사용자 인터페이스(UI: user interface)의 인식 및 처리에 관한 연구도 다양해지고 있다. 통상의 모바일 기기의 사용자 인터페이스 방식은 대부분 터치스크린 방식을 사용한다. 이러한 터치스크린 방식은 손가락(Finger)를 스크린에 접촉하여 사용하는 UI 장치로 비교적 정확한 위치 인식과 최근의 멀티 터치 기능을 통해 다양한 UI를 제공할 수 있다.
하지만 터치 스크린의 접촉식 UI 방식은 2차원의 평면에서 동작하는 방식이기 때문에 UI의 다양한 표현을 제공하는데 있어서 한계점을 가지고 있다. 또한, 접촉식 방식은 산업 환경에서 사용할 경우, 터치 동작을 수행할 때 때때로 사용자 편리성에 제약을 주어 동작의 불편감을 줄 수 있다.
이에 따라, 휴대성과 편리성을 동시에 충족시킬 수 있는 입력 수단의 등장이 요구된다. 특히, 전자기기들이 소형화되는 추세에서, 새로운 입력 수단은 휴대성과 편리성뿐 아니라 전자기기들의 기능을 층분히 활용할 수 있도록 다양한 입력값들을 처리할 수 있어야 한다.
사용자의 손을 위해 디자인된 웨어러블 장치의 분야에서는, 우리는 다른 어플리케이션에서 스마트 팔찌, 손목을 위한 시계, 손가락을 위한 스마트 링, 손을 위한 스마트 장갑을 찾아볼 수 있다.
스마트 팔찌 및 시계는 블루투스를 통해 다른 장치와 무선 통신을 하고, 터치 스크린을 가진 소형 컴퓨터처럼 사용된다. 많은 경우에, 스마트 팔찌 및 시계는 GPS 및 모션 감지기(가속도계, 자이로스코프 및 자력계)를 제공 받는다.
비디오 게임 산업에서, 스크린 상에서 비디오 게임 캐릭터의 액션을 제어하기 위한 모션 센서의 사용은 알려져 있다. 예를 들어, 문서 US20130296048-A1는 가속도계와 자이로스코프를 통해 골프 클럽의 플레이어의 움직임을 제어하기 위한 제어장치로서 모바일 전화의 사용을 개시한다. 문서 US20140045463-A1는 게임 어플리케이션을 위한 가속도계, 자력계 및 자이로스코프를 갖춘 스마트 시계의 사용을 개시한다. 마찬가지로, Wii 콘솔의 제어기는 스크린을 재현하기 위해 3개의 축에 대한 가속도를 측정하기 위해 가속도계를 사용하고, 사용자가 수행하는 움직임을 결정하기 위해 가속도계를 사용한다. 예를 들면, 테니스 게임을 적용할 때, 제어기의 움직임은 게임 내의 플레이어가 행하는 라켓의 움직임을 시뮬레이션한다.
또한, 촬영된 영상으로부터 객체를 인식하는 방법 중에서, 손가락 인식은 다른 인식 대상에 비해 비교적 형태가 일정하여 인식이 용이하다. 그러나 초기에 손가락을 찾기 위해서는 다양한 크기와 각도에 대한 특징점 비교를 수행해야 한다. 손가락 인식 방법의 예로서 손가락의 형태를 템플릿으로 저장한 후 촬영된 영상 내에서 저장된 템플릿과 유사한 형태가 발견되면, 이를 손가락으로 인식하는 방법이 있다.
손가락 인식 방법의 다른 예로서, 인식률 향상을 위해 피부색을 이용할 수도 있다. 손가락의 인식 이후에는 인식된 손가락을 추적함으로써 손끝의 이동 경로를 파악할 수 있다. 이때에는 손가락의 크기, 각도 변화 등을 고려하여 위치를 파악할 수 있는 LK(Lucas-Kanade) 방식을 이용할 수도 있다.
그러나 이러한 손가락 인식 시스템은 초당 30 프레임 이상의 영상 처리 속도를 요구하기 때문에, 모바일 플랫폼(전화 또는 태블릿 PC)에 구현될 경우 동적 제스처의 인식 정확도가 크게 저하되는 문제가 있다.
본 발명의 일실시예에 따른 제스처 인식 장치 및 방법은 동적 제스처 명령어를 처리하는데 있어서 모바일 환경에서도 구현될 수 있도록 컴퓨팅 파워를 낮추는 방법을 제공하는 것을 목적으로 한다.
본 발명의 일실시예에 따른 제스처 인식 장치 및 방법은 영상 처리 및 가속도 센싱을 모바일 단말에서 처리할 수 있도록, 배터리의 사용을 줄이는 방법을 제공하는 것을 목적으로 한다.
본 발명의 목적은 상기에 언급된 목적으로 제한되지 않으며, 언급되지 않은 또 다른 목적들은 아래의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.
본 발명의 일실시예에 따른 제스처 인식 장치는 카메라 모듈로부터 영상 프레임을 수신하여 대기열에 저장하는 이미지 수신부, 상기 영상 프레임에서 오브젝트를 인식하여 제스처 명령의 시작을 알리는 쿼리를 발생시키는 명령 생성부, 상기 제스처 명령의 시작을 알리는 쿼리의 발생에 응답하여 가속도 센서로부터 센싱된 데이터를 수신하여 상기 대기열에 저장하는 센싱 데이터 수신부 및 상기 대기열에 저장된 상기 영상 프레임 및 상기 센싱된 데이터를 결합하여 제스처 명령을 인식하는 인식부를 포함할 수 있다.
일실시예에 따르면, 상기 이미지 수신부는 초당 9프레임 이하의 이미지를 수신할 수 있다.
일실시예에 따르면, 상기 명령 생성부는 오브젝트에 포함된 식별자를 인식하여 제스처 명령의 시작을 알리는 쿼리를 발생시킬 수 있다.
일실시예에 따르면, 상기 센싱 데이터 수신부는 상기 제스처 명령을 발생 시키는 사용자가 착용한 웨어러블 디바이스에 구비된 가속도 센서로부터 생성된 센싱 데이터를 수신할 수 있다.
일실시예에 따르면, 상기 센싱 데이터 수신부는 상기 가속도 센서로부터 센싱된 데이터가 미리 정해진 기준 값 이하인 경우, 0의 데이터를 상기 대기열에 저장할 수 있다.
일실시예에 따르면, 상기 명령 생성부는 상기 대기열에 저장된 센싱 데이터가 0의 데이터를 갖는 경우에 응답하여 제스처 명령의 종료를 알리는 쿼리를 발생할 수 있다.
일실시예에 따르면, 상기 센싱 데이터 수신부는 상기 제스처 명령의 시작을 알리는 쿼리가 없는 경우 또는 상기 제스처 명령의 종료를 알리는 쿼리를 수신한 경우에 응답하여 상기 가속도 센서를 슬립모드로 동작하도록 할 수 잇다.
본 발명의 일실시예에 따른 제스처 인식 방법은 카메라로부터 촬영된 영상을 수신하는 단계, 상기 수신된 영상에서 오브젝트를 인식할 경우에 응답하여 제스처 명령의 시작을 알리는 쿼리를 발생하는 단계, 상기 제스처 명령의 시작을 알리는 쿼리의 발생에 응답하여 가속도 센서로부터 센싱된 데이터를 수신하는 단계 및 상기 촬영된 영상 및 상기 센싱된 데이터를 결합하여 제스처 명령을 인식하는 단계를 포함할 수 있다.
일실시예에 따르면, 상기 영상을 수신하는 단계는 초당 9프레임 이하의 영상을 수신하는 단계를 포함할 수 있다.
일실시예에 따르면, 상기 쿼리를 발생하는 단계는 오브젝트에 포함된 식별자를 인식하여 제스처 명령의 시작을 알리는 쿼리를 발생시키는 단계를 포함할 수 있다.
일실시예에 따르면, 상기 센싱된 데이터를 수신하는 단계는 상기 제스처 명령을 발생 시키는 사용자가 착용한 웨어러블 디바이스에 구비된 가속도 센서로부터 생성된 센싱 데이터를 수신하는 단계를 포함할 수 있다.
일실시예에 따르면, 상기 센싱된 데이터를 수신하는 단계는 상기 가속도 센서로부터 센싱된 데이터가 미리 정해진 기준 값 이하인 경우에 응답하여 제스처 명령의 종료를 알리는 쿼리를 발생하는 단계를 포함할 수 있다.
일실시예에 따르면, 상기 센싱된 데이터를 수신하는 단계는 상기 제스처 명령의 종료를 알리는 쿼리를 수신한 경우에 응답하여 상기 가속도 센서를 슬립모드로 동작하도록 하는 단계를 포함할 수 있다.
개시된 기술은 다음의 효과를 가질 수 있다. 다만, 특정 실시예가 다음의 효과를 전부 포함하여야 한다거나 다음의 효과만을 포함하여야 한다는 의미는 아니므로, 개시된 기술의 권리범위는 이에 의하여 제한되는 것으로 이해되어서는 아니 될 것이다.
본 발명의 일실시예에 따른 제스처 인식 장치 및 방법에 따르면, 가속도계 센싱 데이터를 분석하여 손의 이동 및 이동 방향(좌, 우, 상, 하)을 알 수 있기 때문에 동적 제스처 명령어를 낮은 컴퓨팅 파워에서도 정확하게 인식할 수 있다.
본 발명의 일실시예에 따른 제스처 인식 장치 및 방법에 따르면, 명령의 시작과 종료를 구분하여 제스처 인식에 대한 전력 소모와 처리 시간을 절약할 수 있다.
도 1은 본 발명의 일실시예에 따른 제스처 인식 장치를 설명하기 위한 블록도이다.
도 2는 본 발명의 일실시예에 따른 제스처 인식 장치의 사용예를 설명하기 위한 도면이다.
도 3은 본 발명의 일실시예에 따른 제스처 인식 장치의 이미지 수신부를 설명하기 위한 도면이다.
도 4는 본 발명의 일실시예에 따른 제스처 인식 장치 및 방법에서 가속도 센싱 데이터의 좌우 방향 분석 방법을 설명하기 위한 그래프이다.
도 5는 본 발명의 일실시예에 따른 제스처 인식 장치 및 방법에서 가속도 센싱 데이터의 상하 방향 분석 방법을 설명하기 위한 그래프이다.
도 6은 본 발명의 일실시예에 따른 제스처 인식 장치의 대기열 저장부를 설명하기 위한 도면이다.
도 7은 본 발명의 일실시예에 따른 제스처 인식 방법을 설명하기 위한 흐름도이다.
도 8은 본 발명의 일실시예에 따른 제스처 인식 방법의 명령 생성 방법을 설명하기 위한 도면이다.
본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는바, 특정 실시예들을 도면에 예시하고 상세한 설명에 구체적으로 설명하고자 한다. 그러나 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.
각 도면을 설명하면서 유사한 참조부호를 유사한 구성요소에 대해 사용한다. 제 1, 제 2등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.
예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제 1 구성요소는 제 2 구성요소로 명명될 수 있고, 유사하게 제 2 구성요소도 제 1 구성요소로 명명될 수 있다. "및/또는" 이라는 용어는 복수의 관련된 기재된 항목들의 조합 또는 복수의 관련된 기재된 항목들 중의 어느 항목을 포함한다.
다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미가 있다.
일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥상 가지는 의미와 일치하는 의미가 있는 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않아야 한다.
제스처 중 특히, 손가락의 인식을 통한 사용자 인터페이스는 일반적으로 모든 경우에 대해 동작하여야 하기 때문에, 저장된 손가락 템플릿의 다양한 변수(예컨대, 크기, 각도, 갯수 등)에 대해 인식을 수행하여야 한다. 해당 변수를 많이 고려할수록 인식률은 증가하지만 그에 필요한 연산이 증가하게 된다. 또한, 촬영된 영상의 모든 영역에 대해 해당 연산을 수행하여야 하기 때문에 고화질 영상일수록 복잡한 연산이 필요하게 된다.
이하 첨부된 도면을 참조하여 본 발명의 일실시예에 따른 제스처 인식 장치 및 방법을 상세하게 설명하기로 한다.
도 1은 본 발명의 일실시예에 따른 제스처 인식 장치를 설명하기 위한 블록도이다.
도 1을 참조하면, 본 발명의 일실시예에 따른 제스처 인식 장치(100)는 이미지 수신부(110), 명령 생성부(120), 센싱 데이터 수신부(130), 대기열 저장부(140) 및 인식부(150)를 포함할 수 있다.
일실시예에 따르면, 이미지 수신부(110)는 카메라 모듈로부터 영상 프레임을 수신하여 대기열 저장부(140)에 저장할 수 있다.
이때, 일실시예에 따른 이미지 수신부는 초당 9프레임 이하의 이미지를 수신할 수 있다. 종래의 발명에서는 초당 약 30 프레임 정도의 이미지를 영상 처리하여 제스처를 인식하지만, 본 발명에서는 정적 제스처를 인식하거나, 동적 제스처의 경우 가속도 센싱 데이터의 보완을 통해서 제스처 인식 정확도를 높일 수 있기 때문에 영상 처리를 위한 초당 프레임 수를 낮출 수 있다.
일실시예에 따르면, 명령 생성부(120)는 영상 프레임에서 오브젝트를 인식하여 제스처 명령의 시작을 알리는 쿼리를 발생시킬 수 있다. 이때, 명령 생성부(120)는 오브젝트에 포함된 식별자를 인식하여 제스처 명령의 시작을 알리는 쿼리를 발생시킬 수 있다. 여기서 식별자는 특정 색깔, 자외선/적외선 발광 소자, LED 소자 등이 될 수 있다. 제스처 인식 장치는 오브젝트에 부착되거나 오브젝트 근처에 있는 식별자를 인식하여 제스처 명령의 시작을 판단할 수 있다. 명령 생성부(120)는 제스처 명령의 시작을 알리는 쿼리를 센싱 데이터 수신부(130)에 전달하여, 가속도 센싱 데이터를 수신하도록 할 수 있다.
일실시예에 따르면, 명령 생성부(120)는 오브젝트의 인식에 따라 제스처 명령의 시작을 알리는 쿼리를 발생시키고, 가속도 센싱 데이터를 통해 오브젝트의 움직임이 사라지면 제스처 명령의 종료를 알리는 쿼리를 발생시킬 수 있다. 예를 들면, 오브젝트가 인식되면 Command = (1)을 생성하고, 오브젝트의 움직임이 사라지면 Command = (0)을 생성하여 제스처 인식의 시작과 종료를 제어할 수 있다.
일실시예에 따르면, 센싱 데이터 수신부(130)는 물체의 움직임을 감지하기 위해 가속도 센서(102)로부터 가속도 센싱 데이터를 수신할 수 있다. 즉, 사용자의 손에 가속도 센서를 포함하는 센서 장치를 착용하고, 센싱 데이터를 수신하여 오브젝트의 움직임을 판단하면, 영상 처리만으로 동적 제스처 명령을 인식하는 것보다 오버 헤드를 훨씬 줄일 수 있다.
일실시예에 따르면, 센싱 데이터 수신부(130)는 제스처 명령의 시작을 알리는 쿼리의 발생에 응답하여 가속도 센서로부터 센싱된 데이터를 수신하여 대기열 저장부(140)에 저장할 수 있다.
일실시예에 따르면, 센싱 데이터 수신부(130)는 상기 제스처 명령을 발생 시키는 사용자가 착용한 웨어러블 디바이스에 구비된 가속도 센서로부터 생성된 센싱 데이터를 수신할 수 있다. 다른 일실시예에 따르면, 센싱 데이터 수신부(130)는 상기 제스처 명령을 발생시키는 사용자가 들고 있는 모바일 단말에 구비된 가속도 센서로부터 생성된 센싱 데이터를 수신할 수 있다.
일실시예에 따르면, 센싱 데이터 수신부(130)는 상기 가속도 센서로부터 센싱된 데이터가 미리 정해진 기준 값 이하인 경우, 0의 데이터를 상기 대기열 저장부에 저장할 수 있다. 예를 들면, 가속도 센싱 데이터가 임계치보다 작은 경우, 유효한 움직임으로 인식하지 않도록 할 수 있다. 이때, 0의 데이터가 대기열 저장부에 저장된 경우, 제스처 인식 장치는 정적 제스처로 판단하여, 영상 데이터만으로 사용자의 제스처를 인식할 수 있다.
일실시예에 따르면, 명령 생성부(120)는 상기 대기열 저장부(140)에 저장된 센싱 데이터가 0의 데이터를 갖는 경우에 응답하여 제스처 명령의 종료를 알리는 쿼리를 발생시킬 수 있다. 이 경우, 제스처 인식 장치(100)는 동적 제스처 명령이 종료된 것으로 판단하고, 제스처 인식 동작을 종료할 수 있다.
일실시예에 따르면, 센싱 데이터 수신부(130)는 상기 제스처 명령의 시작을 알리는 쿼리가 없는 경우 또는 상기 제스처 명령의 종료를 알리는 쿼리를 수신한 경우에 응답하여 상기 가속도 센서를 슬립모드로 동작하도록 할 수 있다. 이를 통해서 가속도 센서의 전력을 절약할 수 있는 효과가 있다.
일실시예에 따르면, 인식부(150)는 대기열 저장부(140)에 저장된 상기 영상 프레임 및 상기 센싱된 데이터를 결합하여 제스처 명령을 인식할 수 있다. 인식부(150)는 가속도 센싱 데이터를 통해서 오브젝트의 이동 및 이동 방향을 정하고, 영상 처리된 데이터를 통해서 획득한 명령과 결합하여 제스처 명령을 인식할 수 있다. 이때, 센싱된 데이터가 없거나 0의 값을 갖는 경우, 정적 제스처 명령으로 판단하고, 영상 프레임 데이터만으로 제스처를 인식할 수 있다.
일실시예에 따른 제스처 인식 장치(100)는 카메라(101) 및 가속도 센서(102)를 더 포함할 수 있다. 여기서 카메라(101) 및 가속도 센서(102)는 제스처 인식 장치(100)에 포함된 모듈일 수도 있으며, 제스처 인식 장치(100)가 외부의 카메라 및 가속도 센서로부터 데이터만 수신할 수도 있다.
도 2는 본 발명의 일실시예에 따른 제스처 인식 장치의 사용예를 설명하기 위한 도면이다.
도 2를 참조하면, 제스처 인식 장치의 실제 활용예를 확인할 수 있다. 일실시예에 따르면, 제스처 인식 장치(230)는 웨어러블 디바이스에 구비된 카메라(210) 또는 외부에 설치된 카메라(211)로부터 이미지 데이터를 수신할 수 있다. 이때, 웨어러블 디바이스에 구비된 카메라(210)는 도면에서는 안경으로 표현되어 있지만, 안경 모형에 구비된 카메라, 목걸이 형태의 카메라, 모자에 달린 카메라 등 사용자의 손 움직임을 촬영할 수 있는 모든 종류의 카메라를 포함할 수 있다.
일실시예에 따르면, 제스처 인식 장치(230)는 사용자의 손에 착용한 웨어러블 장치(220)에 구비된 가속도 센서로부터 가속도 센싱 데이터를 수신할 수 있다.
여기서 웨어러블 장치(220)는 장갑, 반지, 시계, 팔찌 등 손에 가까이 착용할 수 있는 모든 웨어러블 디바이스를 포함할 수 있다.
일실시예에 따르면, 제스처 인식 장치(230)는 별개의 모바일 장치로 구현될 수 있으며, 사용자의 모바일 단말(스마트 폰 또는 태블릿 단말)에 설치될 수 있다.
일실시예에 따른 제스처 인식 장치를 통해 사용자는 전방에 설치된 스크린 또는 안경에서 디스플레이되는 모니터 등을 제어할 수 있다.
도 3은 본 발명의 일실시예에 따른 제스처 인식 장치의 이미지 수신부를 설명하기 위한 도면이다.
도 3을 참조하면, 일실시예에 따른 이미지 수신부는 이미지 획득부(310), 영상 처리부(320), 특징 추출부(330) 및 SVM 분류부(340)를 포함할 수 있다.
일실시예에 따르면, 이미지 획득부(310)는 카메라로부터 초당 10회 이하의 속도로 촬영된 이미지를 수신할 수 있다.
일실시예에 따르면, 영상 처리부(320)는 수신된 이미지를 분할하여 윤곽을 검출할 수 있다. 예를 들면, 수신된 이미지에서 추출하고자 하는 오브젝트가 손일 경우, 손의 윤곽을 추출할 수 있다.
일실시예에 따르면, 특징 추출부(330)는 추출된 윤곽에서 특징 벡터를 추출할 수 있다. 예를 들면, 오브젝트의 윤곽에서 손가락 끝 점, 손바닥 중심 및 손바닥의 지름 등을 검출할 수 있다.
일실시예에 따르면, SVM 분류부(340)는 추출된 특징점들을 기반으로 SVM(Support Vector Machine) 알고리즘이나 이와 유사한 패턴 인식 알고리즘을 사용하여 학습한 데이터를 바탕으로 인식할 수 있다. SVM 분류부(340)는 각 특징 벡터 사이의 최적의 경계를 제시할 수 있다.
도 4는 본 발명의 일실시예에 따른 제스처 인식 장치 및 방법에서 가속도 센싱 데이터의 좌우 방향 분석 방법을 설명하기 위한 그래프이다.
도 4(a)를 참조하면, 가속도 센싱 데이터에서 X축 방향의 가속도가 양의 값을 갖다가 음의 값으로 변하는 경우 제스처의 오른쪽 이동을 인식할 수 있다.
도 4(b)를 참조하면, 가속도 센싱 데이터에서 X축 방향의 가속도가 음의 값을 갖다가 양의 값으로 변하는 경우 제스처의 왼쪽 이동을 인식할 수 있다.
도 5는 본 발명의 일실시예에 따른 제스처 인식 장치 및 방법에서 가속도 센싱 데이터의 상하 방향 분석 방법을 설명하기 위한 그래프이다.
도 5(a)를 참조하면, 가속도 센싱 데이터에서 Y축 방향의 가속도가 양의 값을 갖다가 음의 값으로 변하는 경우 제스처의 위쪽 이동을 인식할 수 있다.
도 5(b)를 참조하면, 가속도 센싱 데이터에서 Y축 방향의 가속도가 음의 값을 갖다가 양의 값으로 변하는 경우 제스처의 아래쪽 이동을 인식할 수 있다.
도 6은 본 발명의 일실시예에 따른 제스처 인식 장치의 대기열 저장부를 설명하기 위한 도면이다.
동 6을 참조하면, 일실시예에 따른 대기열 저장부(630)는 이미지 수신부(610) 및 센싱 데이터 수신부(620)로부터 데이터를 수신하여 대기열에 제스처 값을 저장할 수 있다.
일실시예에 따르면, 대기열 저장부(630)는 이미지 수신부(610)로부터 수신한 영상 데이터와 센싱 데이터 수신부(620)로부터 수신한 가속도 센싱 데이터를 각각의 대기열에 저장할 수 있다. 저장된 대기열 데이터의 결합을 통해 제스처 인식 장치의 인식부는 제스처를 인식할 수 있다. 여기서, 새로 저장되는 데이터는 대기열의 왼쪽부터 쌓이고, 대기열의 전체 대기열 크기(631) 중 열린 윈도우 크기(632) 내에 있는 데이터들을 이용해서 제스처를 인식할 수 있다.
일실시예에 따르면, 제스처 인식 장치는 이미지 수신부(610)로부터 수신한 영상 데이터는 지속적으로 데이터를 대기열에 저장하고, 센싱 데이터 수신부(620)로부터 수신한 가속도 센싱 데이터는 센싱 데이터의 수집 명령이 생성된 경우에만 수신하도록 할 수 있다.
도 7은 본 발명의 일실시예에 따른 제스처 인식 방법을 설명하기 위한 흐름도이다.
도 7을 참조하면, 단계(S710)에서, 일실시예에 따른 제스처 인식 장치는 카메라 모듈로부터 촬영된 영상을 수신할 수 있다.
일실시예에 따르면, 단계(S710)는 초당 9프레임 이하의 영상을 수신하는 단계를 포함할 수 있다.
단계(S720)에서, 일실시예에 따른 제스처 인식 장치는 촬영된 영상 내에 목표로 하는 오브젝트가 존재하는지 여부를 인식할 수 있다. 이때, 촬영된 영상 내에 목표로 하는 오브젝트가 인식된 경우, 단계(S730)으로 갈 수 있다. 또는 촬영된 영상 내에 목표로 하는 오브젝트가 인식되지 않은 경우, 단계(S710)으로 돌아가 계속해서 촬영된 영상을 수신할 수 있다.
단계(S730)에서, 일실시예에 따른 제스처 인식 장치는 오브젝트의 인식에 응답하여 제스처 명령의 시작을 알리는 쿼리를 발생시킬 수 있다. 이때, 발생된 제스처 명령의 시작을 알리는 쿼리는 가속도 센서에 전달되어 가속도 센서를 활성화시킬 수 있다.
일실시예에 따르면, 단계(S730)는 오브젝트에 포함된 식별자를 인식하여 제스처 명령의 시작을 알리는 쿼리를 발생시키는 단계를 포함할 수 있다.
단계(S740)에서, 일실시예에 따른 제스처 인식 장치는 제스처 명령의 시작을 알리는 쿼리의 발생에 응답하여 가속도 센서를 포함하는 디바이스로부터 가속도 센싱 데이터를 수신할 수 있다.
일실시예에 따르면, 단계(S740)는 상기 제스처 명령을 발생 시키는 사용자가 착용한 웨어러블 디바이스에 구비된 가속도 센서로부터 생성된 센싱 데이터를 수신하는 단계를 포함할 수 있다.
일실시예에 따르면, 단계(S740)는 상기 가속도 센서로부터 센싱된 데이터가 미리 정해진 기준 값 이하인 경우에 응답하여 제스처 명령의 종료를 알리는 쿼리를 발생하는 단계를 포함할 수 있다.
일실시예에 따르면, 단계(S740)는 상기 제스처 명령의 종료를 알리는 쿼리를 수신한 경우에 응답하여 상기 가속도 센서를 슬립모드로 동작하도록 하는 단계를 포함할 수 있다.
단계(S750)에서, 일실시예에 따른 제스처 인식 장치는 카메라로부터 수신한 영상 및 가속도 센서로부터 수신한 가속도 센싱 데이터를 통해서 제스처를 인식할 수 있다.
도 8은 본 발명의 일실시예에 따른 제스처 인식 방법 중 명령 생성 방법을 설명하기 위한 도면이다.
도 8을 참조하면, 단계(S810)에서, 일실시예에 따른 제스처 인식 장치는 사용자의 움직임을 감지할 수 있다. 이때, 사용자의 움직임은 카메라로부터 수신된 영상에서 오브젝트의 움직임을 감지하거나, 가속도 센서로부터 수신된 가속도 센싱 데이터의 크기를 보고 감지할 수 있다.
제스처 인식 장치에서 움직임을 감지할 경우, 단계(S840)으로 가고, 움직임이 감지되지 않은 경우, 단계(S820)으로 갈 수 있다.
단계(S820)에서, 일실시예에 따른 제스처 인식 장치는 오브젝트의 움직임이 감지되지 않은 경우에 응답하여, 카메라로부터 영상 데이터를 수신할 수 있다. 이때, 오브젝트의 움직임이 감지되지 않으므로, 영상 데이터만 수신하여 제스처를 인식하도록 할 수 있다.
단계(S830)에서, 일실시예에 따른 제스처 인식 장치는 카메라로부터 수신한 영상 데이터를 통해서 정적 제스처 인식을 명령할 수 있다.
단계(S840)에서, 일실시예에 따른 제스처 인식 장치는 오브젝트의 움직임이 감지된 경우에 응답하여, 영상 데이터 및 가속도 센싱 데이터를 수신할 수 있다.
단계(S850)에서, 일실시예에 따른 제스처 인식 장치는 오브젝트의 움직임이 유효한 움직임인지 여부를 판단할 수 있다.
이때, 유효한 움직임인지 여부는 움직임의 크기나 미리 정해진 움직임 목록에 기저장된 움직임인지에 따라 판단할 수 있다.
오브젝트의 움직임이 유효한 움직임인 경우, 단계(S860)으로 가고, 오브젝트의 움직임이 유효한 움직임이 아닌 경우, 단계(S830)으로 갈 수 있다.
단계(S860)에서, 일실시예에 따른 제스처 인식 장치는 오브젝트의 움직임이 유효한 움직임인 경우에 응답하여 카메라로부터 수신한 영상 데이터 및 가속도 센서로부터 수신된 가속도 센싱 데이터를 통한 동적 제스처 인식을 명령할 수 있다.
단계(S870)에서, 일실시예에 따른 제스처 인식 장치는 명령을 출력하여 제스처 인식 장치의 인식부에 전달할 수 있다.
이상에서 설명된 장치는 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPA(field programmable array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 애플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.
소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상과 같이 실시예들이 비록 한정된 실시예와 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.
그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.
100: 제스처 인식 장치
101: 카메라
102: 가속도 센서
110: 이미지 수신부
120: 명령 생성부
130: 센싱 데이터 수신부
140: 대기열 저장부
150: 인식부

Claims (14)

  1. 카메라로부터 영상 프레임을 수신하는 이미지 수신부;
    오브젝트 내의 가속도 센서로부터 가속도 센싱 데이터를 수신하는 센싱 데이터 수신부;
    제스처 인식 시작 쿼리 및 제스처 인식 정지 쿼리를 생성하는 명령 생성부;
    상기 영상 프레임 및 상기 가속도 센싱 데이터를 각각의 대기열에 저장하는 대기열 저장부; 및
    상기 대기열 저장부에 저장된 상기 영상 프레임 및 상기 가속도 센싱 데이터를 결합하여 제스처 명령을 인식하는 인식부를 포함하며,
    상기 오브젝트 내의 식별자가 인식되면 상기 제스처 인식 시작 쿼리를 생성하고,
    상기 가속도 센싱 데이터에서 인식된 가속도가 “0”의 값을 갖게되면 상기 제스처 인식 정지 쿼리를 생성하며,
    상기 센싱 데이터 수집부는 상기 제스처 인식 시작 쿼리 발생에 응답하여 가속도 수집 동작을 시작하는 것을 특징으로 하는 제스처 인식 장치.
  2. 제1항에 있어서,
    상기 이미지 수신부는
    초당 9프레임 이하의 이미지를 수신하는 이미지 획득부;
    상기 이미지를 분할하여 상기 오브젝트 또는 손의 윤곽을 검출하는 영상 처리부;
    상기 윤곽에서 특징 벡터를 추출하는 특징 추출부; 및
    상기 특징 벡터를 기반으로 상기 특징 벡터 사이의 최적의 경계를 제시하는 SVM 분류부;
    를 더 포함하는 것을 특징으로 하는 제스처 인식 장치.
  3. 제2항에 있어서,
    상기 특징 추출부는 상기 오브젝트의 윤곽에서 손가락 끝 점, 손바닥 중심 또는 손바닥의 지름 중 어느 하나 이상인 것을 특징으로 하는 제스처 인식 장치.
  4. 제2항에 있어서
    SVM 분류부는 SVM(Support Vector Machine) 알고리즘 또는 패턴 인식 알고리즘을 이용하는 것을 특징으로 하는 제스처 인식 장치.
  5. 제1항에 있어서,
    상기 식별자는
    상기 오브젝트에 부착되거나 상기 오브젝트 근처에 위치하는 기설정된 색깔, 자외선/적외선 발광 소자, LED 소자 중 어느 하나인 것을 특징으로 하는 제스처 인식 장치.
  6. 제1항에 있어서,
    상기 센싱 데이터 수집부에서 센싱되는 데이터가 없거나 0의 값을 갖는 경우 정적 제스처 명령으로 판단하여 상기 영상 프레임만으로 제스처를 인식하는 것을 특징으로 하는 제스처 인식 장치.
  7. 제1항에 있어서,
    상기 센싱 데이터 수신부는 상기 제스처 인식 시작 쿼리가 없는 경우 또는 상기 제스처 인식 정지 쿼리를 수신한 경우에 응답하여 상기 가속도 센서를 슬립모드로 동작하도록 하는 것을 특징으로 하는 제스처 인식 장치.
  8. 이미지 수신부에서 카메라로부터 영상 프레임을 수신하는 단계;
    명령 생성부에서 제스처 인식 시작 쿼리를 생성하는 단계;
    센싱 데이터 수집부에서 상기 제스처 인식 시작 쿼리에 응답하여 오브젝트 내의 가속도 센서에서 가속도 센싱 데이터를 수집하는 단계;
    대기열 저장부에서 상기 영상 프레임 및 상기 가속도 센싱 데이터를 각각의 대기열에 저장하는 단계;
    상기 센싱 데이터 수집부에서 수집한 가속도가 0이 되면 제스처 인식 정지 쿼리를 생성하는 단계; 및
    인식부에서 상기 대기열 저장부에 저장된 상기 영상 프레임 및 상기 가속도 센싱 데이터를 결합하여 제스처 명령을 인식하는 단계;
    를 포함하며,
    상기 오브젝트 내의 식별자가 인식되면 상기 제스처 인식 시작 쿼리를 생성하는 것을 특징으로 하는 제스처 인식 방법.
  9. 제8항에 있어서,
    상기 영상 프레임을 수신하는 단계는,
    이미지 획득부에서 초당 9프레임 이하의 이미지를 수신하는 단계;
    영상 처리부에서 상기 이미지를 분할하여 상기 오브젝트 또는 손의 윤곽을 검출하는 단계;
    특징 추출부에서 상기 윤곽의 특징 벡터를 추출하는 단계; 및
    SVM 분류부에서 상기 상기 특징 벡터를 기반으로 상기 특징 벡터 사이의 최적의 경계를 제시하는 단계;
    를 더 포함하는 것을 특징으로 하는 제스처 인식 방법.
  10. 제9항에 있어서,
    특징 벡터를 추출하는 단계는 상기 오브젝트의 윤곽에서 손가락 끝 점, 손바닥 중심 또는 손바닥의 지름 중 어느 하나 이상의 특징 벡터를 추출하는 것을 특징으로 하는 제스처 인식 방법.
  11. 제9항에 있어서,
    최적의 경계를 제시하는 단계는 SVM(Support Vector Machine) 알고리즘 또는 패턴 인식 알고리즘을 이용하는 것을 특징으로 하는 제스처 인식 방법.
  12. 제8항에 있어서,
    상기 식별자는,
    상기 오브젝트에 부착되거나 상기 오브젝트 근처에 위치하는 기설정된 색깔, 자외선/적외선 발광 소자, LED 소자 중 어느 하나인 것을 특징으로 하는 제스처 인식 방법.
  13. 제8항에 있어서,
    가속도를 수집하는 단계는 센싱되는 데이터가 없거나 0의 값을 갖는 경우 정적 제스처 명령으로 판단하여 상기 영상 프레임만으로 제스처를 인식하는 것을 특징으로 하는 제스처 인식 방법.
  14. 제8항에 있어서,
    가속도를 수집하는 단계는 상기 제스처 인식 정지 쿼리를 수신한 경우에 응답하여 상기 가속도 센서를 슬립모드로 동작하도록 하는 것을 특징으로 하는 제스처 인식 방법.
KR1020210030115A 2018-10-25 2021-03-08 제스처 인식 장치 및 방법 KR102346904B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020210030115A KR102346904B1 (ko) 2018-10-25 2021-03-08 제스처 인식 장치 및 방법

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020180128348A KR20200046764A (ko) 2018-10-25 2018-10-25 제스처 인식 장치 및 방법
KR1020210030115A KR102346904B1 (ko) 2018-10-25 2021-03-08 제스처 인식 장치 및 방법

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
KR1020180128348A Division KR20200046764A (ko) 2018-10-25 2018-10-25 제스처 인식 장치 및 방법

Publications (2)

Publication Number Publication Date
KR20210029753A KR20210029753A (ko) 2021-03-16
KR102346904B1 true KR102346904B1 (ko) 2022-01-03

Family

ID=79348248

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210030115A KR102346904B1 (ko) 2018-10-25 2021-03-08 제스처 인식 장치 및 방법

Country Status (1)

Country Link
KR (1) KR102346904B1 (ko)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016086334A (ja) * 2014-10-28 2016-05-19 レノボ・シンガポール・プライベート・リミテッド ジェスチャの認識方法、ジェスチャ入力システムおよび電子機器

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20160137253A (ko) * 2015-05-22 2016-11-30 한국전자통신연구원 증강 현실 디바이스 및 상기 증강 현실 디바이스를 위한 사용자 인터랙션 장치 및 방법
KR20180072136A (ko) * 2016-12-21 2018-06-29 주식회사 이앤지테크 화자의 감정 유형 표시가 가능한 의사 소통 시스템 및 그 구동방법

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016086334A (ja) * 2014-10-28 2016-05-19 レノボ・シンガポール・プライベート・リミテッド ジェスチャの認識方法、ジェスチャ入力システムおよび電子機器

Also Published As

Publication number Publication date
KR20210029753A (ko) 2021-03-16

Similar Documents

Publication Publication Date Title
US11429194B2 (en) Cursor mode switching
US9940507B2 (en) Image processing device and method for moving gesture recognition using difference images
US11573641B2 (en) Gesture recognition system and method of using same
EP3090331B1 (en) Systems with techniques for user interface control
US9235278B1 (en) Machine-learning based tap detection
US8166421B2 (en) Three-dimensional user interface
Rautaray et al. Real time multiple hand gesture recognition system for human computer interaction
EP3540574B1 (en) Eye tracking method, electronic device, and non-transitory computer readable storage medium
CN104516499B (zh) 利用用户接口的事件的设备和方法
EP3289435B1 (en) User interface control using impact gestures
KR102224932B1 (ko) 비전 센서를 이용한 사용자 입력 처리 장치 및 사용자 입력 처리 방법
JP2017191426A (ja) 入力装置、入力制御方法、コンピュータプログラム、及び記憶媒体
Ueng et al. Vision based multi-user human computer interaction
KR102346904B1 (ko) 제스처 인식 장치 및 방법
US9405375B2 (en) Translation and scale invariant features for gesture recognition
Agarwal et al. Gestglove: A wearable device with gesture based touchless interaction
KR20200046764A (ko) 제스처 인식 장치 및 방법
US11054941B2 (en) Information processing system, information processing method, and program for correcting operation direction and operation amount
Chan et al. Real-time tracking of hand gestures for interactive game design
US11340706B2 (en) Gesture recognition based on depth information and computer vision
Zhao et al. Motion gesture delimiters for smartwatch interaction
US20230061557A1 (en) Electronic device and program
CN115328306A (zh) 基于惯性测量单元的可穿戴输入交互方法及装置
CN118092636A (zh) 头戴式显示器、控制方法及其非暂态电脑可读取存储介质
KR20230114686A (ko) 비디오에서 사용자의 손을 결정하는 방법 및 전자 장치

Legal Events

Date Code Title Description
A107 Divisional application of patent
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant