KR20110042552A - 제스처를 이용한 사용자 인터페이스 제공 단말기 및 방법 - Google Patents

Abstract

본 발명은 손동작 제스처를 이용한 사용자 인터페이스 제공 단말기 및 방법에 관한 것으로, 단말기는 사용자의 제스처를 적외선 센서와 카메라부를 이용하여 인식하고, 제스처의 형태와 특징점을 획득 후 연관되는 제스처 정보를 생성하고, 생성된 제스처 정보와 기 설정된 제스처 정보를 비교하여 대응하는 명령어를 추출하고, 추출한 명령어에 따른 기능을 실행할 수 있다. 이를 통해 단말기는 사용자의 손동작 제스처를 인식하여 사용자 인터페이스를 수행함으로써, 다양한 입력 수단으로 제스처를 활용하고, 사용자에게 단말기 조작의 즐거움과 편리함을 제공한다. 또한, 단말기는 카메라부와 적외선 센서를 이용하여 보다 정확하게 사용자의 제스처를 인식한다. 또한, 단말기는 손동작 제스처와 단말기의 특정 기능을 연계함으로써, 다양한 조작 방법을 이용한 사용자 인터페이스를 제공할 수 있다.

제스처, 적외선 센서, 카메라, 단말기, UI

Description

제스처를 이용한 사용자 인터페이스 제공 단말기 및 방법{Apparatus and method for providing user interface by gesture}

본 발명은 사용자 인터페이스 제공 단말기 및 방법에 관한 것으로, 특히, 사용자의 제스처를 적외선 센서와 카메라부를 이용하여 인식하고, 제스처의 형태와 특징점을 획득 후 매칭하여 제스처 정보를 생성하고, 생성된 제스처 정보와 기 설정된 제스처 정보를 비교하여 대응하는 명령어를 추출하고, 추출한 명령어에 따른 기능을 실행할 수 있는 제스처를 이용한 사용자 인터페이스 제공 단말기 및 방법에 관한 것이다.

통상적인 단말기는 입력 수단으로 키 패드, 터치스크린, 조이스틱 또는 스크롤 휠 등을 제공하고 있다. 이를 통해 사용자는 단말기를 조작하거나 필요한 정보를 입력한다. 이때, 사용자는 단말기 제조 과정에서 정해지는 방법에 따라 입력 장치를 조작하여 단말기의 다양한 기능을 실행한다. 예를 들어, 사용자는 메시지 입력 수단으로서 단말기의 앞면 또는 측면에 구비된 버튼, 키 패드의 특정 버튼, 터치스크린, 조이스틱, 스크롤 휠 또는 스타일러스 펜 등을 이용하여 해당되는 기능에 따른 사용자 인터페이스를 실행한다.

또한, 최근에 개성적으로 단말기를 사용하고자 하는 사용자가 증가하면서, 단말기 제조업체는 이를 충족시키기 위해 다양한 기능을 제공할 수 있는 단말기를 제조하고 있다. 이와 함께, 단말기는 기존의 지정된 입력 수단 이외에도 사용자 각자의 개성을 살릴 수 있고, 사용자에게 입력 조작의 즐거움과 편리함을 동시에 제공할 수 있는 사용자 인터페이스가 필요하게 되었다.

이러한 종래의 문제점을 해결하기 위하여, 본 발명은 제스처를 입력 수단으로 활용하는 단말기의 조작에 있어서 적외선 센서와 카메라부를 이용하여 사용자의 제스처를 보다 정확하게 인식할 수 있는 제스처를 이용한 사용자 인터페이스 제공 단말기 및 방법을 제공하는 것을 목적으로 한다.

또한, 본 발명은 사용자의 제스처를 입력 수단으로 이용하여 제스처에 따라 연관된 기능을 실행하는 사용자 인터페이스를 제공함으로써, 사용자에게 단말기 조작의 즐거움과 편리함을 제공할 수 있는 제스처를 이용한 사용자 인터페이스 제공 단말기 및 방법을 제공하는 것을 목적으로 한다.

상술한 바와 같은 목적을 달성하기 위한 본 발명의 제스처를 이용한 사용자 인터페이스 제공 단말기는 사용자로부터 발생하는 특정 제스처에 대한 영상 데이터를 획득하는 카메라부와, 상기 특정 제스처로부터 발생하는 적외선을 감지하는 센서부 및 상기 획득한 영상 데이터를 분석하여 상기 특정 제스처의 형태를 획득하 고, 상기 감지한 적외선을 분석하여 상기 특정 제스처의 특징점을 추출하고, 상기 특정 제스처의 형태와 특징점을 매칭하여 제스처 정보를 생성하고, 상기 생성한 제스처 정보와 기 설정된 제스처 정보를 비교하고, 상기 비교 결과에 따라 상기 설정된 제스처 정보에 대응하는 명령어를 추출하고, 상기 추출한 명령어에 따라 기능을 실행하는 단말 제어부를 포함하는 것을 특징으로 한다.

본 발명에 따른 상기 단말 제어부는 상기 카메라부를 통해 획득되는 상기 영상 데이터를 분석하여 상기 특정 제스처의 형태를 획득하는 제스처 인식부와, 상기 센서부를 통해 감지되는 적외선을 분석하여 상기 특정 제스처의 특징점을 획득하는 특징점 추출부와, 상기 특정 제스처의 형태와 특징점을 매칭하여 상기 제스처 정보를 생성하고, 상기 제스처 정보와 제스처 정보 DB에 기 설정된 제스처 정보를 비교하여 대응하는 명령어를 추출하는 제스처 정보 비교부 및 상기 추출된 명령어에 따라 기능을 실행하는 기능 실행부를 포함하는 것을 특징으로 한다.

본 발명에 따른 상기 특정 제스처의 형태와 특징점의 매칭을 통해 생성되는 특정 제스처 정보가 저장되는 제스처 정보 DB, 상기 특정 제스처 정보와 연관되는 기능을 실행하기 위한 명령어를 저장하는 저장부를 더 포함하는 것을 특징으로 한다.

상기와 같은 목적을 달성하기 위한 본 발명의 제스처를 이용한 사용자 인터페이스 제공 방법에 있어서, 단말기가 센서부를 통해 사용자의 특정 제스처로부터 발생하는 적외선을 감지하고, 카메라부를 통해 상기 특정 제스처에 대한 영상 데이터를 획득하는 감지 및 획득 단계와, 상기 단말기가 상기 영상 데이터를 분석하여 상기 특정 제스처의 형태를 획득하는 획득 단계와, 상기 단말기가 상기 감지된 적외선을 분석하여 상기 특정 제스처의 특징점을 추출하는 추출 단계와, 상기 단말기가 상기 획득된 특정 제스처의 형태와 상기 추출된 특정 제스처의 특징점을 매칭하여 상기 특정 제스처에 대응하는 제스처 정보를 생성하는 생성 단계와, 상기 단말기가 상기 생성한 제스처 정보와 기 설정된 제스처 정보를 비교하는 비교 단계와, 상기 비교 결과 상기 생성한 제스처 정보와 기 설정된 제스처 정보가 연관되면, 상기 단말기가 상기 기 설정된 제스처 정보에 대응하는 명령어를 추출하는 추출 단계 및 상기 단말기가 상기 명령어에 따라 기능을 실행하는 실행 단계를 포함하는 것을 특징으로 한다.

본 발명에 따른 상기 감지 및 획득 단계 이전에 상기 단말기가 특정 이벤트의 발생을 감지하는 감지 단계를 더 포함하고, 상기 추출된 명령어는 상기 특정 이벤트를 실행하기 위한 명령어인 것을 특징으로 한다.

본 발명에 따른 상기 특정 이벤트는 통화 이벤트, 메시지 서비스 이벤트, 폰 북 이벤트 또는 메모장 이벤트 중 적어도 하나를 포함하는 것을 특징으로 한다. 본 발명에 따른 상기 특정 제스처의 형태를 획득하는 획득 단계는 상기 단말기가 상기 영상 데이터에 포함되어 있는 손가락의 각도, 상기 손가락 방향, 상기 손가락 배치, 상기 손가락 형태, 상기 손가락 위치, 상기 손가락 끝부분, 상기 손가락 마디 또는 상기 손가락 사이 부분을 분석하여 상기 특정 제스처의 형태를 획득하는 것을 특징으로 한다.

본 발명에 따른 상기 특정 제스처의 특징점을 추출하는 추출 단계는 상기 단 말기가 상기 센서부를 통해 감지되는 적외선을 분석하여 손가락의 끝부분을 판단하고, 상기 판단된 결과에 따라 상기 특정 제스처의 특징점을 추출하는 것을 특징으로 한다.

본 발명에 따른 상기 특정 제스처의 특징점을 추출하는 추출 단계는 상기 단말기가 상기 센서부를 통해 감지되는 적외선을 분석하여 손가락의 최고 온도점 및 최저 온도점을 판단하고, 상기 판단된 결과에 따라 상기 특정 제스처의 특징점을 추출하는 것을 특징으로 한다.

본 발명에 따른 상기 비교 단계는 상기 판단 결과 연관되는 제스처 정보가 제스처 정보 DB에 설정되어 있지 않으면, 상기 단말기가 상기 특정 제스처에 대한 재입력을 요청하거나 다른 제스처의 입력을 요청하는 메시지를 표시하는 단계를 더 포함하는 것을 특징으로 한다.

본 발명에 의하면, 단말기는 사용자의 손동작 제스처를 입력 수단으로 인식하여 이에 대응하는 사용자 인터페이스를 수행함으로써, 제스처를 다양한 입력 수단으로 활용하고, 사용자에게 단말기 조작에 대한 즐거움과 편리함을 제공할 수 있는 효과가 있다.

또한, 본 발명은 사용자의 손동작 제스처를 인식하기 위하여 적외선 센서와 카메라부를 동시에 이용함으로써, 보다 정확하게 사용자의 제스처를 인식할 수 있는 효과가 있다.

또한, 본 발명은 사용자의 손동작 제스처와 단말기의 특정 기능을 연계함으 로써, 특정 기능을 실행하기 위한 다양한 조작 방법을 이용한 사용자 인터페이스를 제공할 수 있는 효과가 있다.

이하, 본 발명에 따른 바람직한 실시 예를 첨부한 도면을 참조하여 상세히 설명한다. 하기의 설명에서는 본 발명의 실시 예에 따른 동작을 이해하는데 필요한 부분만이 설명되며, 그 이외 부분의 설명은 본 발명의 요지를 흩트리지 않도록 생략될 것이라는 것을 유의하여야 한다.

이하에서 설명되는 본 명세서 및 청구범위에 사용된 용어나 단어는 통상적이거나 사전적인 의미로 한정해서 해석되어서는 아니 되며, 발명자는 그 자신의 발명을 가장 최선의 방법으로 설명하기 위해 용어의 개념으로 적절하게 정의할 수 있다는 원칙에 입각하여 본 발명의 기술적 사상에 부합하는 의미와 개념으로 해석되어야만 한다. 따라서 본 명세서에 기재된 실시 예와 도면에 도시된 구성은 본 발명의 가장 바람직한 일 실시 예에 불과할 뿐이고, 본 발명의 기술적 사상을 모두 대변하는 것은 아니므로, 본 출원시점에 있어서 이들을 대체할 수 있는 다양한 균등물과 변형 예들이 있을 수 있음을 이해하여야 한다.

설명에 앞서, 이하에서는 본 발명의 실시 예에 따른 단말기는 적외선 센서와 카메라부를 통해 사용자의 제스처를 인식하고, 인식된 제스처와 연관된 기능을 실행하기 위하여 이동통신망을 이용하는 형태의 단말기를 대표적인 예로서 설명하지만, 본 발명이 이에 한정되는 것은 아니다. 즉, 단말기는 카메라부와 적외선 센서를 장착한 단말기로서, 일반 유선 단말기, 고정형 단말기 또는 IP(Internet Protocol) 단말기 등의 다양한 단말기에 적용될 수 있다.

본 발명의 실시 예에 따른‘이벤트(Event)'는 단말기에서 발생할 수 있는 통화 이벤트, 메시지 서비스 이벤트, 폰 북 이벤트 또는 메모장 이벤트 등과 같은 다양한 이벤트가 포함될 수 있다. 한편, 본 발명의 이벤트는 제시된 이벤트에 한정되는 것이 아니다. 즉, 이벤트는 단말기의 제조 과정에서 설정되거나 단말기를 구매 후 사용자의 설정에 의해 변경 또는 추가될 수 있다. 여기서, 통화 이벤트는 호 발신 또는 수신에 대한 이벤트를 포함할 수 있다. 이때, 단말기는 호 발신 또는 수신에 대한 이벤트에 따라 음성 통화뿐만 아니라 영상 통화를 지원하는 경우 영상 통화를 실행할 수 있다. 또한, 메시지 서비스 이벤트는 단문 메시지 서비스(Short Message Service, SMS) 또는 멀티미디어 메시지 서비스(Multimedia Message Service, MMS)에 대한 발신 또는 수신을 위한 이벤트를 포함할 수 있다.

본 발명의 실시 예에 따른 '제스처(Gesture)'는 이벤트가 발생하는 경우 카메라부와 적외선 센서를 통해 인식되는 사용자 손동작을 의미한다. 이때, 단말기는 제스처에 따라 기 설정된 기능을 실행할 수 있다. 예를 들어, 통화 이벤트가 발생된 후, 사람의 손동작 중 'V'자 형태의 제스처를 인식한 경우 단말기는 인식한 제스처에 대응하는 통화 기능을 실행할 수 있다.

도 1은 본 발명의 실시 예에 따른 제스처를 이용하여 사용자 인터페이스를 제공하는 단말기의 개략적인 구성을 나타내는 블록도이다.

도 1을 참조하면, 본 발명의 실시 예에 따른 제스처를 이용한 사용자 인터페이스를 제공하는 단말기(10)는 입력부(20), 표시부(30), 저장부(40), 오디오 처리 부(50), 센서부(60), 통신부(70), 카메라부(80) 및 단말 제어부(10)를 포함하여 구성될 수 있다. 특히, 단말 제어부(10)는 제스처 인식부(12), 특징점 추출부(14), 제스처 정보 비교부(16) 및 기능 실행부(18)를 포함할 수 있다. 또한, 저장부(40)는 제스처 정보 DB(Database, 42)를 포함할 수 있다.

입력부(20)는 숫자 또는 문자 정보를 입력 받고, 각종 기능들을 설정하기 위한 다수의 입력키 및 기능키들을 포함한다. 이때, 기능키들은 특정 기능을 수행하도록 설정된 방향키, 사이드 키 및 단축키 등을 포함할 수 있다. 또한, 입력부(20)는 사용자 설정 및 단말기(100)의 기능 제어와 관련하여 입력되는 키 신호를 생성하고, 이를 단말 제어부(10)로 전달한다. 특히, 본 발명의 실시 예에 따른 입력부(20)는 사용자의 요청에 따라 제스처 정보를 설정하는 과정에서 발생하는 입력 신호를 단말 제어부(10)로 전달한다.

표시부(30)는 LCD(Liquid Crystal Display), OLED(Organic Light Emitting Diodes) 등이 적용될 수 있으며, LCD가 적용되는 경우 표시부(30)는 LCD 단말 제어부, LCD 데이터를 저장할 수 있는 메모리 및 LCD 표시소자 등을 구비할 수 있다. 여기서, LCD 및 OLED 등의 표시 장치를 터치스크린 방식으로 구현하는 경우, 표시부(30)의 화면은 입력부로 동작될 수 있다. 특히, 본 발명의 실시 예에 따른 표시부(30)는 이벤트가 발생하게 되면, 해당되는 이벤트에 대한 실행 화면을 표시한다. 또한, 표시부(30)는 카메라부와 적외선 센서를 통해 인식되는 제스처에 대한 화면을 표시할 수 있다.

저장부(40)는 본 발명의 실시 예에 따른 단말기(100)의 기능 동작에 필요한 응용 프로그램을 비롯하여, 제스처 정보에 상응하는 기능을 실행하기 위한 응용 프로그램, 카메라부(80)의 동작을 위한 응용 프로그램, 제스처 인식을 위한 데이터들을 저장한다. 이러한 저장부(40)는 크게 프로그램 영역과 데이터 영역을 포함할 수 있다.

프로그램 영역은 단말기(100)를 부팅시키는 운영체제(OS, Operating System), 영상 데이터를 획득하는 카메라부(80) 조작, 적외선을 감지하는 적외선 센서 조작 및 오디오 수집을 위한 응용 프로그램, 단말기(100)의 기타 옵션(options) 기능 예컨대, 소리 재생 기능, 이미지 또는 동영상 재생 기능 등에 필요한 응용 프로그램 등을 저장할 수 있다. 여기서, 단말기(100)는 사용자의 요청에 상응하여 각 기능을 활성화하는 경우, 단말 제어부(10)의 제어 하에 해당 응용 프로그램들을 이용하여 각 기능을 제공하게 된다. 특히, 본 발명의 실시 예에 따른 프로그램 영역은 제스처의 형태를 획득하는 제스처 인식 프로그램, 특징점 추출 프로그램, 제스처 정보 생성 프로그램, 제스처 정보 비교 프로그램, 명령어 추출 프로그램 및 기능 실행 프로그램 등을 포함할 수 있다. 이때, 제스처 인식 프로그램, 특징점 추출 프로그램, 제스처 정보 생성 프로그램, 제스처 정보 비교 프로그램, 명령어 추출 프로그램 및 기능 실행 프로그램은 단말 제어부(10)에 로드되어, 구동하는 프로그램이 될 수 있다. 여기서, 제스처 인식 프로그램은 사용자가 제스처를 행하는 경우 이에 따른 제스처의 형태를 카메라부(80)를 통해 인식되는 영상 데이터를 분석하여 획득하는 기능을 수행한다. 특징점 추출 프로그램은 센서부(60)를 통해 감지되는 적외선을 분석하여 제스처의 동작 상태 및 동작 변화를 판단하여 특 징되는 점을 추출하는 기능을 수행한다. 제스처 정보 생성 프로그램은 제스처 인식 프로그램과 특징점 추출 프로그램을 통해 획득된 각각의 정보를 연관하여 제스처 정보를 생성한다. 제스처 정보 비교 프로그램은 생성된 제스처 정보가 제스처 정보 DB(42)에 기 설정되어 있는지 여부를 비교하여 명령어 추출 프로그램으로 전달한다. 명령어 추출 프로그램은 제스처 정보 비교 프로그램으로부터 전달되는 비교 결과에 따라 만족하는 제스처 정보가 제스처 정보 DB(42)에 존재하는 경우 이에 상응하는 명령어를 추출하여 기능 실행 프로그램으로 전달한다. 기능 실행 프로그램은 추출된 명령어에 따라 해당되는 기능을 실행할 수 있다.

또한, 데이터 영역은 단말기(100)의 사용에 따라 발생하는 데이터가 저장되는 영역으로서, 카메라부(80)가 수집한 영상 데이터 중 사용자가 저장하고자 하는 데이터, 단말기(100)가 제공하는 다양한 옵션 기능과 관련한 사용자 데이터들 예컨대, 동영상, 폰 북 데이터, 오디오 데이터 및 해당 컨텐츠 또는 사용자 데이터들에 대응하는 정보 등을 저장할 수 있다. 특히, 본 발명의 실시 예에 따른 데이터 영역은 제스처의 형태와 특징점의 조합으로 생성되는 제스처 정보를 저장하는 제스처 정보 DB(42)를 포함할 수 있다. 여기서, 제스처 정보 DB(42)는 카메라부(80)가 수집한 영상에서 피사체의 적어도 일부가 특정 동작 상태나 특정 동작 변화를 발생시키는 경우, 해당 동작 상태 및 동작 변화가 어떠한 제스처에 해당하는지 판별할 수 있는 정보를 제공한다. 예를 들어, 제스처 정보 DB(42)는 피사체가 사람의 손동작에 의한 제스처인 경우를 확인하기 위해 사람이 취할 수 있는 상태에 따라 표현될 수 있는 다양한 제스처에 대한 정보를 포함할 수 있다. 즉, 제스처 정보 DB(42)에 는 손가락의 각도, 손가락의 방향, 손가락의 배치 형태, 손가락의 위치 끝부분 또는 손가락의 마디 부분에 대한 정보가 저장될 수 있다. 또한, 제스처 정보 DB(42)는 다양한 종류의 제스처 정보를 포함할 수 있다. 이때, 제스처 정보는 단말기(100)의 특정 기능을 실행할 수 있는 명령어와 연계되어 저장될 수 있다.

오디오 처리부(50)는 통화 기능 시 송수신되는 오디오 데이터를 재생하기 위한 스피커(SPK)와, 통화 시 사용자의 음성 또는 기타 오디오 신호를 수집하기 위한 마이크(MIC)를 포함한다. 여기서, 오디오 처리부(50)는 음성 통화를 위해 설치된 스피커와 별도로 화상 통화 시 수신된 오디오 데이터를 출력하기 위한 스피커를 더 포함할 수 있다.

센서부(60)는 빛을 발광하고, 외부로부터 입력되는 사용자의 움직임 또는 물체의 움직임 등과 같은 물리적 신호를 감지하여 신호 처리부(미도시)로 전송할 수 있다. 이때, 센서부(60)는 외부 물체가 일정 감지 영역 내로 접근하는 것을 적외선을 이용하여 감지하는 적외선 센서(Infrared Sensor)를 사용할 수 있다. 여기서, 센서부(60)는 적외선을 복사하여 빛이 차단됨으로써 변화를 감지하는 능동식과, 자체에 발광부를 가지지 않고 외부로부터 받는 적외선의 변화만을 감지하는 수동식으로 구분될 수 있다. 특히, 센서부(60)가 능동식으로 구성되는 경우 적외선(IR)을 방사하는 발광 다이오드(Light Emitting Diode, LED)로 이루어지는 발광부(미도시)와, 반사되는 빛을 감지할 수 있는 다이오드 또는 트랜지스터(Transister, TR)와　같은 검출기(Detector)로 이루어지는 수광부(미도시)로 구성될 수 있다.

발광부는 단말 제어부(10)의 신호에 따라 외부 임의의 물체까지 빛을 발광하 는 역할을 하고, 수광부는 검출기를 통해 외부 물체로부터 반사되는　빛을 감지하는 역할을 할 수 있다. 이를 자세하게 살펴보면, 발광부는 일정 양의 적외선을 발광하고, 수광부는 물체에 반사되어 돌아오는 적외선의 양에 따라 전압의 변화를 감지할 수 있다. 특히, 본 발명의 실시 예에서 센서부(60)는 적외선을 이용하여 온도, 열, 압력 또는 방사선의 세기 등의 물리량 또는 화학량을 검지하여 신호 처리가 가능한 전기량으로 변환할 수 있다. 여기서, 센서부(60)는 이벤트가 발생하는 경우 단말 제어부(10)의 제어에 따라 활성화되며, 사용자의 움직임 즉, 제스처에 따라 발생하는 적외선을 감지하여 단말 제어부(10)에 해당되는 신호를 전달할 수 있다 이를 위해, 센서부(60)는 비교기를 사용하여 수광부에 들어오는 적외선을 감지하는 방법과, 마이크로 컨트롤러의 ADC(Analog Digital Convertor)를 통해서 적외선을 감지하는 방법을 이용할 수 있다.

통신부(70)는 단말 제어부(10)의 제어에 따라 데이터를 송신 및 수신한다. 이 때, 통신부(70)는 송신되는 신호의 주파수를 상승변환 및 증폭하는 무선 주파수 송신부와, 수신되는 신호를 저잡음 증폭하고 주파수를 하강 변환하는 무선 주파수 수신부 등을 포함할 수 있다. 특히, 본 발명의 실시 예에 따른 통신부(70)는 단말 제어부(10) 제어에 따라 사용자의 제스처에 대응하는 명령어가 실행되면, 음성 통화에 필요한 신호 송수신을 위한 통화 채널을 형성한다. 또한, 통신부(70)는, 영상 통화를 지원하는 경우 영상 통화에 필요한 신호 송수신을 위한 영상 통화 채널을 형성한다. 또한, 통신부(70)는 메시지 서비스를 확인할 수 있도록 기지국과 통신 채널을 형성할 수 있다.

카메라부(80)는 사용자의 제스처에 대한 영상 데이터를 수집한다. 이러한 카메라부(80)는 렌즈를 통해 촬상되는 영상을 촬영하며, 촬영된 광 신호를 전기적 신호로 변환하는 카메라 센서(도시되지 않음)와, 카메라 센서로부터 촬영되는 아날로그 영상신호를 디지털 데이터로 변환하는 신호처리부(도시되지 않음)를 구비한다. 여기서 카메라 센서는 CCD(Charge Coupled Device) 센서 또는 CMOS(Complementary Metal Oxide Semiconductor) 이미지 센서가 적용될 수 있고, 신호처리부는 DSP(Digital Signal Processor)로 구현될 수 있으나, 이에 한정되는 것은 아니다. 이러한 카메라부(80)는 카메라 기능을 이용하기 위한 입력 신호가 수신되는 경우에 활성화될 수 있다. 그런 다음, 카메라부(80)는 수집되는 영상 데이터를 단말 제어부(10)에 전달한다. 이러한 기능을 효과적으로 수행하기 위하여, 카메라부(80)는 영상 처리부(미도시)를 구비할 수 있다. 이때, 영상 처리부는 카메라 센서에서 출력되는 영상신호를 표시하기 위한 화면 데이터를 발생하는 기능을 수행한다. 이때, 영상 처리부는 카메라 센서에서 출력되는 영상신호를 프레임 단위로 처리하며, 프레임 영상 데이터를 표시부(30)의 표시 특성 및 크기에 대응하여 출력한다. 또한, 영상 처리부는 영상 코덱(CODEC)을 구비하며, 표시부(30)에 표시되는 프레임 영상 데이터를 설정된 방식으로 압축하거나 압축된 프레임 영상데이터를 원래의 프레임 영상 데이터로 복원하는 기능을 수행한다. 여기서 영상 코덱은 JPEG(Joint Photographic coding Experts Group) 코덱 또는 MPEG(Moving Picture Experts Group) 코덱 등이 될 수 있다.

단말 제어부(10)는 단말기(100)의 각 구성을 초기화하고, 필요한 신호 제어 를 수행할 수 있다. 특히, 본 발명의 실시 예에 따른 단말 제어부(10)는 대기 모드 중 이벤트가 발생하면, 카메라부(80)를 통해 획득되는 특정 제스처에 대한 영상 데이터를 분석하고, 센서부(60)를 통해 감지되는 특정 제스처에 대한 적외선을 분석한다. 여기서, 단말 제어부(10)는 센서부(60)를 통해 감지되는 특정 제스처로부터 발생하는 적외선을 분석하여 특정 제스처의 최고 온도점 및 최저 온도점을 추출한다. 이때, 단말 제어부(10)는 온도가 감지될 수 있는 영역인 적외선 영역의 빛을 분석하여 온도의 최고점과 최저점을 확인할 수 있다. 그런 다음 단말 제어부(10)는 온도의 최고점과 최저점을 분석하여 특정 제스처의 특징점을 판단할 수 있다. 또한, 단말 제어부(10)는 센서부(60)를 통해 감지되는 특정 제스처로부터 발생하는 적외선을 분석하여 손가락 끝부분을 추출할 수 있다. 단말 제어부(10)는 획득한 영상 데이터에서 특정 제스처의 형태를 획득할 수 있다. 이를 통해, 단말 제어부(10)는 특정 제스처의 형태와 특징점을 매칭하여 제스처 정보를 생성한다. 여기서, 단말 제어부(10)는 생성한 제스처 정보와 대응되는 설정된 제스처 정보가 제스처 정보 DB(42)에 존재하는지 비교하고, 비교 결과에 따라 설정된 제스처 정보에 대응하는 명령어를 추출한다. 이 후, 단말 제어부(10)는 추출되는 명령어에 따라 해당되는 기능을 실행하도록 제어한다. 한편, 단말 제어부(10)는 사용자의 제스처에 따라 생성된 제스처 정보가 제스처 정보 DB(42)에 기 설정되어 있지 않은 경우, 다른 제스처 입력을 요청하는 메시지를 화면에 표시할 수 있다. 이를 위하여 단말 제어부(10)는 제스처 인식부(12), 특징점 추출부(14), 제스처 정보 비교부(16) 및 기능 실행부(18)를 포함할 수 있다.

제스처 인식부(12)는 카메라부(80)를 통해 획득되는 영상 데이터를 분석하여 제스처의 형태를 인식할 수 있다. 이때, 제스처 인식부(12)는 손가락의 각도, 손가락의 방향, 손가락의 배치 형태, 손가락의 위치, 손가락의 끝부분, 손가락의 마디 또는 손가락의 사이 부분에 대한 정보를 이용하여 사용자의 손동작에 따른 제스처의 형태를 획득할 수 있다. 여기서, 제스처 인식부(12)는 수집한 영상 데이터에 대한 형태를 획득하기 위한 방법으로서, 예컨대 제스처 인식부(12)는 PCA(principal component analysis)를 통해 아다부스트(Adaboost)를 이용할 수 있다. 여기서 아다부스트는 영상 데이터에 포함되는 제스처의 형태를 획득하기 위한 학습 알고리즘으로서, Yoav Freund and Robert E. Schapire 에 의한 "A decision-theoretic generalization of on-line learning and an application to boosting", In Computational Learning Theory: Eurocolt '95, pp. 23-37, Springer-Verlag, 1995에 자세히 기재되어 있다.

특징점 추출부(14)는 센서부(60)를 통해 감지되는 적외선을 분석하여 특정 제스처의 특징점을 추출하는 기능을 한다. 이때, 특징점 추출부(14)는 제스처의 특징점을 추출하기 위한 방법으로서, 손가락의 끝부분을 판단하고, 판단된 결과에 따라 제스처의 특징점을 추출한다. 또한, 특징점 추출부(14)는 감지된 적외선을 분석하여 손가락의 최고 온도점과 최저 온도점을 판단하고, 판단된 결과에 따라 제스처의 특징점을 추출한다. 이때, 특징점 추출부(14)는 제스처로부터 감지되는 온도 또는 열에 대한 물리량을 전기적인 데이터로 신호 처리하여 손가락의 최고 온도점 및 최저 온도점을 추출할 수 있다.

제스처 정보 비교부(16)는 제스처 인식부(12)로부터 전달되는 제스처의 형태와 특징점 추출부(14)로부터 전달되는 제스처의 특징점을 매칭하여 제스처 정보를 생성하는 기능을 수행한다. 또한, 제스처 정보 비교부(16)는 제스처 정보와 매칭되는 정보가 제스처 정보 DB(42)에 저장되어 있는지 판단하여, 판단 결과에 따라 해당되는 기능을 실행하기 위하여 기능 실행부(18)에 해당되는 신호를 전달할 수 있다. 여기서, 제스처 정보 비교부(16)는 사용자의 제스처에 의해 생성된 제스처 정보가 제스처 정보 DB(42)에 기 설정되어 있는 경우, 기 설정되어 있는 제스처 정보와 연관된 명령어를 추출하여 기능 실행부(18)로 전달할 수 있다. 이때, 추출된 명령어는 특정 이벤트를 실행하기 위하여 단말기(100)에 설정되어 있는 제어 명령어일 수 있다.

기능 실행부(18)는 제스처 정보 비교부(16)로부터 추출된 명령어가 전달되면, 전달된 명령어에 따라 해당되는 기능을 실행한다. 예를 들어, 기능 실행부(18)는 메시지 서비스를 실행하기 위한 이벤트에 대한 명령어가 전달되면, 메시지 서비스에 해당되는 기능을 실행할 수 있다.

또한, 본 발명의 실시 예에서 센서부(60)와 카메라부(80)의 기능에 따른 작동 순서는 정해진 것이 아니다. 즉, 단말기(100)는 이벤트가 발생하는 경우 두 기능을 동시에 실행하거나 특정 기능을 먼저 시작하여 제스처를 인식할 수 있다. 즉, 단말기(100)는 센서부(60)를 통해 적외선을 감지하고 나서, 카메라부(80)를 통해 영상 데이터를 획득할 수도 있다. 또한, 단말기(100)는 센서부(60)와 카메라부(80)를 동시에 작동하여 제스처를 인식할 수 있다. 이때, 단말기(100)는 감지되는 적외 선과 획득되는 영상 데이터를 상호 연관시켜서 분석함으로써, 제스처 정보를 생성할 수 있다.

또한, 본 발명의 실시 예에 따른 단말기(10)는 센서부(60)를 통해 획득되는 적외선을 분석하여 제스처의 형태를 획득하고, 카메라부(80)를 통해 획득되는 영상 데이터를 분석하여 제스처의 특징점을 추출함으로써, 더욱 정밀하게 사용자의 제스처를 인식할 수 있다. 도 2는 본 발명의 실시 예에 따른 단말기의 제스처를 이용한 사용자 인터페이스를 제공 방법을 설명하기 위한 흐름도이다.

도 1 및 도 2를 참조하면, 본 발명의 실시 예에 따른 사용자의 제스처를 이용한 사용자 인터페이스 제공 방법에서 단말 제어부(10)는 먼저, 전원이 공급되면 단말기(100)의 각 구성을 초기화하고, S201 단계에서 기 설정된 대기 화면을 표시부(30)에 출력할 수 있다.

그런 다음, 단말 제어부(10)는 S203 단계에서 이벤트가 발생하는지 판단한다. 여기서, 이벤트는 통화 이벤트, 메시지 서비스 이벤트, 폰 북 이벤트 또는 메모장 이벤트 등이 포함될 수 있다. 이때, 단말 제어부(100)는 이벤트 중 통화 이벤트 또는 메시지 서비스 이벤트가 감지되는 경우 통신부(70)로부터 해당되는 신호를 전달받아 동작하거나, 통신부(70)를 통해 해당되는 신호를 전송하는 것이 바람직하다. 단말 제어부(10)는 S203 단계에서 이벤트가 감지되지 않으면, S201 단계의 대기 모드를 계속 실행하거나 배터리 절약을 위한 절전 모드를 실행할 수 있다.

단말 제어부(10)는 S203 단계에서 이벤트가 발생하는 경우, S205 단계에서 적외선 센서 및 카메라부(80)를 활성화 시킨다. 적외선 센서와 카메라부(80)의 기 능이 활성화되면, 단말 제어부(10)는 S207 단계에서 제스처를 인식할 수 있다. 여기서, 단말 제어부(10)는 카메라부(80)를 통해 획득되는 영상 데이터를 분석하여 제스처의 형태를 획득한다. 또한, 단말 제어부(10)는 센서부(60)를 통해 감지되는 적외선을 분석하여 제스처의 특징점을 추출한다. 여기서, 본 발명의 실시 예에 따른 제스처 인식 단계에 대한 설명은 후술되는 도 3을 통해 상세하게 설명하기로 한다.

단말 제어부(10)는 S207 단계에서 제스처가 인식되면, S209 단계에서 제스처 인식 단계를 통해 획득된 제스처의 형태와 특징점을 매칭하여 제스처 정보를 생성한다.

생성된 제스처 정보는 제스처 정보 DB(42)에 기 설정되어 있는 제스처 정보와 비교하는 단계를 거치게 된다. 즉, 단말 제어부(10)는 S211 단계에서 생성된 제스처 정보와 제스처 정보 DB(42)에 기 설정된 제스처 정보가 매칭되는지 판단한다. 이를 위해 단말 제어부(10)는 제스처 정보 비교부(16)를 제어하여 제스처 정보를 비교하는 단계를 수행할 수 있다. 비교 결과, S211단계의 매칭되는 제스처 정보가 존재하는 경우 단말 제어부(10)는 S215 단계에서 매칭된 제스처 정보에 대응하는 명령어를 추출한다.

단말 제어부(10)는 S215단계에서 명령어가 추출되면, S217 단계에서 추출된 명령어에 따라 해당되는 기능을 실행할 수 있다. 이 때, 단말 제어부(10)는 명령어에 따라 기능을 실행하기 위하여 기능 실행부(18)를 제어할 수 있다. 예를 들어, 단말 제어부(10)는 사용자의 제스처 중 'V'자 모양의 손동작이 통화실행을 위한 기 능으로 설정되어 있는 경우 사용자에 의해 인식되는 제스처가 'V'자 모양의 손동작으로 판단되면, 제스처에 따라 통화기능을 실행할 수 있다.

한편, 생성된 제스처 정보와 매칭되는 제스처 정보가 제스처 정보 DB(42)에 존재하지 않는 경우, 단말 제어부(10)는 S213 단계에서 화면의 일 측에 팝업 메시지를 표시할 수 있다. 예를 들어, 단말 제어부(10)는 팝업 메시지로 '매칭되는 제스처가 존재하지 않습니다. 다른 제스처를 입력해 주세요.' 혹은 '매칭된 제스처가 존재하지 않습니다. 제스처를 다시 한번 입력해 주세요.' 라는 메시지를 제시할 수 있다. 이때, 팝업 메시지는 제시된 문구에 한정되는 것이 아니고, 단말기(100)의 설정에 따라 다양한 종류의 문구가 제시될 수 있다. 그리고 나서, 단말 제어부(10)는 사용자의 제스처를 인식하기 위한 S207 단계를 다시 수행한다.

도 3은 도 2의 제스처 인식 단계를 구체적으로 설명하기 위한 흐름도이다.

도 3을 참조하면, S207 단계에 따른 제스처 인식 단계는 먼저, 단말 제어부(10)는 S301 단계에서 카메라부(80)를 통해 영상 데이터를 획득할 수 있다. 영상 데이터가 획득되면, 단말 제어부(10)는 S303 단계에서 획득된 영상 데이터를 분석하여 제스처의 형태를 획득할 수 있다. 예컨대, 단말 제어부(10)는 제스처 정보 DB(42)에 저장되어 있는 정보인 손가락의 각도, 손가락의 방향, 손가락의 배치 형태, 손가락의 위치, 손가락의 끝부분, 손가락의 마디 또는 손가락의 사이 부분에 대한 정보를 이용하여 사용자의 손동작에 따른 형태를 추출할 수 있다. 이를 위해 단말 제어부(10)는 제스처 인식부(12)를 구동하도록 제어한다.

제스처의 형태가 획득되면, 단말 제어부(10)는 S305 단계에서 사용자의 제스 처로부터 적외선을 감지할 수 있다. 이때, 적외선은 센서부(60)의 적외선 센서로부터 감지될 수 있다. 그런 다음, 단말 제어부(10)는 S307 단계에서 감지된 적외선을 분석하여 제스처의 특징점을 추출한다. 이를 위해서, 단말 제어부(10)는 분석된 적외선을 통해 손가락의 끝부분을 판단할 수 있다. 또한, 단말 제어부(10)는 감지된 적외선을 분석하여 손가락의 최고 온도점 또는 최저 온도점을 확인할 수 있다. 여기서, 도시되지는 않았으나, S301 내지 S307 단계는 그 순서가 바뀔 수 있다. 즉, 단말기(100)는 센서부(60)를 제어하여 적외선을 감지하고 나서, 카메라부(80)를 제어하여 영상 데이터를 획득할 수도 있다. 한편, 본 명세서와 도면에 개시된 본 발명의 실시 예들은 이해를 돕기 위해 특정 예를 제시한 것에 지나지 않으며, 본 발명의 범위를 한정하고자 하는 것은 아니다. 여기에 개시된 실시 예들 이외에도 본 발명의 기술적 사상에 바탕을 둔 다른 변형 예들이 실시 가능하다는 것은, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 자명한 것이다.

본 발명은 제스처를 이용한 사용자 인터페이스 제공 단말기 및 방법에 관한 것으로, 사용자가 손 동작에 의해 제스처를 행하는 경우 적외선 센서를 통해 적외선을 감지하고, 카메라부를 통해 영상 데이터를 획득할 수 있다. 이를 통해 단말기는 제스처 정보를 생성하고, 생성된 제스처 정보와 기 설정된 제스처 정보의 존재 여부를 비교하여 제스처 정보에 대응하는 명령어를 추출하여 명령어에 해당되는 기능을 실행한다. 이러한 과정을 통해 사용자는 제스처를 단말기의 입력 수단으로 사용할 수 있다. 또한, 단말기는 카메라부와 적외선 센서를 이용하여 제스처를 보다 정밀하게 인식함으로써, 단말기의 기능 실행에 있어 사용자에게 즐거움과 편리함의 기대효과를 높이고, 단말기의 사용 빈도수의 향상을 가지고 올 수 있다.

도 1은 본 발명의 실시 예에 따른 제스처를 이용하여 사용자 인터페이스를 제공하는 단말기의 개략적인 구성을 나타내는 블록도이다.

도 2는 본 발명의 실시 예에 따른 단말기의 제스처를 이용한 사용자 인터페이스를 제공 방법을 설명하기 위한 흐름도이다.

도 3은 도 2의 제스처 인식 단계를 구체적으로 설명하기 위한 흐름도이다.

* 도면의 주요 부분에 대한 설명 *

100 : 단말기 10 : 단말 제어부

12 : 제스처 인식부 14 : 특징점 추출부

16 : 제스처 정보 비교부 18 : 기능 실행부

20 : 입력부 30 : 표시부

40 : 저장부 42 : 제스처 정보 DB

50 : 오디오 처리부 60 : 센서부

70 : 통신부 80 : 카메라부

Claims (10)

1. 사용자로부터 발생하는 특정 제스처에 대한 영상 데이터를 획득하는 카메라부;

   상기 특정 제스처로부터 발생하는 적외선을 감지하는 센서부;

   상기 획득한 영상 데이터를 분석하여 상기 특정 제스처의 형태를 획득하고, 상기 감지한 적외선을 분석하여 상기 특정 제스처의 특징점을 추출하고, 상기 특정 제스처의 형태와 특징점을 매칭하여 제스처 정보를 생성하고, 상기 생성한 제스처 정보와 기 설정된 제스처 정보를 비교하고, 상기 비교 결과에 따라 상기 설정된 제스처 정보에 대응하는 명령어를 추출하고, 상기 추출한 명령어에 따라 기능을 실행하는 단말 제어부;

   를 포함하는 것을 특징으로 하는 제스처를 이용한 사용자 인터페이스 제공 단말기.
2. 제1항에 있어서, 상기 단말 제어부는

   상기 카메라부를 통해 획득되는 상기 영상 데이터를 분석하여 상기 특정 제스처의 형태를 획득하는 제스처 인식부;

   상기 센서부를 통해 감지되는 상기 적외선을 분석하여 상기 특정 제스처의 특징점을 획득하는 특징점 추출부;

   상기 특정 제스처의 형태와 특징점을 매칭하여 상기 제스처 정보를 생성하 고, 상기 생성한 제스처 정보와 제스처 정보 DB에 기 설정된 제스처 정보를 비교하여 대응하는 명령어를 추출하는 제스처 정보 비교부;

   상기 추출된 명령어에 따라 기능을 실행하는 기능 실행부;

   를 포함하는 것을 특징으로 하는 제스처를 이용한 사용자 인터페이스 제공 단말기.
3. 제1항에 있어서,

   특정 제스처의 형태와 특징점의 매칭을 통해 생성되는 특정 제스처 정보가 저장되는 제스처 정보 DB,

   상기 특정 제스처 정보와 연관되는 기능을 실행하기 위한 명령어를 저장하는 저장부;

   를 더 포함하는 것을 특징으로 하는 제스처를 이용한 사용자 인터페이스 제공 단말기.
4. 단말기가 센서부를 통해 사용자의 특정 제스처로부터 발생하는 적외선을 감지하고, 카메라부를 통해 상기 특정 제스처에 대한 영상 데이터를 획득하는 감지 및 획득 단계;

   상기 단말기가 상기 영상 데이터를 분석하여 상기 특정 제스처의 형태를 획득하는 획득 단계;

   상기 단말기가 상기 감지된 적외선을 분석하여 상기 특정 제스처의 특징점을 추출하는 추출단계;

   상기 단말기가 상기 획득된 특정 제스처의 형태와 상기 추출된 특정 제스처의 특징점을 매칭하여 상기 특정 제스처에 대응하는 제스처 정보를 생성하는 생성 단계;

   상기 단말기가 상기 생성한 제스처 정보와 기 설정된 제스처 정보를 비교하는 비교 단계;

   상기 비교 결과 상기 제스처 정보와 기 설정된 제스처 정보가 연관되면, 상기 단말기가 상기 기 설정된 제스처 정보에 대응하는 명령어를 추출하는 단계;

   상기 단말기가 상기 명령어에 따라 기능을 실행하는 실행 단계;

   를 포함하는 것을 특징으로 하는 제스처를 이용한 사용자 인터페이스 제공 방법.
5. 제4항에 있어서, 상기 감지 및 획득 단계 이전에

   상기 단말기가 특정 이벤트의 발생을 감지하는 감지 단계;

   를 더 포함하고,

   상기 추출된 명령어는 상기 특정 이벤트를 실행하기 위한 명령어인 것을 특징으로 하는 제스처를 이용한 사용자 인터페이스 제공 방법.
6. 제5항에 있어서, 상기 특정 이벤트는

   통화 이벤트, 메시지 서비스 이벤트, 폰 북 이벤트 또는 메모장 이벤트 중 적어도 하나를 포함하는 것을 특징으로 하는 제스처를 이용한 사용자 인터페이스 제공 방법.
7. 제4항에 있어서, 상기 특정 제스처의 형태를 획득하는 획득 단계는

   상기 단말기가 상기 영상 데이터에 포함되어 있는 손가락의 각도, 상기 손가락 방향, 상기 손가락 배치, 상기 손가락 형태, 상기 손가락 위치, 상기 손가락 끝부분, 상기 손가락 마디 또는 상기 손가락 사이 부분을 분석하여 상기 특정 제스처의 형태를 획득하는 것을 특징으로 하는 제스처를 이용한 사용자 인터페이스 제공 방법.
8. 제4항에 있어서, 상기 특정 제스처의 특징점을 추출하는 추출 단계는

   상기 단말기가 상기 센서부를 통해 감지되는 적외선을 분석하여 손가락의 끝부분을 판단하고, 상기 판단된 결과에 따라 상기 특정 제스처의 특징점을 추출하는 것을 특징으로 하는 제스처를 이용한 사용자 인터페이스 제공 방법.
9. 제4항에 있어서, 상기 특정 제스처의 특징점을 추출하는 추출 단계는

   상기 단말기가 상기 센서부를 통해 감지되는 적외선을 분석하여 손가락의 최고 온도점 및 최저 온도점을 판단하고, 상기 판단된 결과에 따라 상기 특정 제스처의 특징점을 추출하는 것을 특징으로 하는 제스처를 이용한 사용자 인터페이스 제공 방법.
10. 제4항에 있어서, 상기 비교 단계는

    상기 판단 결과 연관되는 제스처 정보가 제스처 정보 DB에 설정되어 있지 않으면, 상기 단말기가 상기 특정 제스처에 대한 재입력을 요청하거나 다른 제스처의 입력을 요청하는 메시지를 표시하는 단계;

    를 더 포함하는 것을 특징으로 하는 제스처를 이용한 사용자 인터페이스 제공 방법.

Images