KR20110053396A - 제스처를 이용한 사용자 인터페이스 제공 단말기 및 방법 - Google Patents

제스처를 이용한 사용자 인터페이스 제공 단말기 및 방법 Download PDF

Info

Publication number
KR20110053396A
KR20110053396A KR1020090110031A KR20090110031A KR20110053396A KR 20110053396 A KR20110053396 A KR 20110053396A KR 1020090110031 A KR1020090110031 A KR 1020090110031A KR 20090110031 A KR20090110031 A KR 20090110031A KR 20110053396 A KR20110053396 A KR 20110053396A
Authority
KR
South Korea
Prior art keywords
gesture
terminal
feature point
image data
user interface
Prior art date
Application number
KR1020090110031A
Other languages
English (en)
Inventor
홍상우
박명순
Original Assignee
에스케이텔레콤 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 에스케이텔레콤 주식회사 filed Critical 에스케이텔레콤 주식회사
Priority to KR1020090110031A priority Critical patent/KR20110053396A/ko
Publication of KR20110053396A publication Critical patent/KR20110053396A/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M1/00—Substation equipment, e.g. for use by subscribers
    • H04M1/02—Constructional features of telephone sets
    • H04M1/23—Construction or mounting of dials or of equivalent devices; Means for facilitating the use thereof
    • H04M1/233—Construction or mounting of dials or of equivalent devices; Means for facilitating the use thereof including a pointing device, e.g. roller key, track ball, rocker switch or joystick
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M2250/00—Details of telephonic subscriber devices
    • H04M2250/12—Details of telephonic subscriber devices including a sensor for measuring a physical value, e.g. temperature or motion

Abstract

본 발명은 손동작 제스처를 이용한 사용자 인터페이스 제공 단말기 및 방법에 관한 것으로, 단말기는 카메라부를 이용하여 사용자의 손동작에 대한 영상 데이터를 획득하고, 획득된 영상 데이터를 분석하여 특징점을 추출하고, 추출된 특징점에 해당하는 좌표 값을 획득한 후 좌표 값의 변화를 감지하여 특정 제스처를 인식할 수 있는 제스처를 이용한 사용자 인터페이스 제공 단말기 및 방법에 관한 것이다.
이를 통해 사용자는 손동작 제스처를 단말기의 입력 수단으로 활용하여 이에 대응하는 사용자 인터페이스를 수행함으로써, 제스처를 다양한 입력 수단으로 활용할 수 있다. 또한, 단말기는 사용자에게 단말기 사용에 대한 다양한 입력 수단을 제공함으로써, 단말기 조작에 대한 즐거움과 편리함을 제공할 수 있다. 또한, 단말기는 사용자의 손동작 제스처를 인식하기 위하여 카메라부를 이용함으로써 보다 정확하게 사용자의 제스처를 인식할 수 있다. 또한, 단말기는 인식된 사용자의 특정 제스처에 따라 해당되는 기능을 실행할 수 있다.
제스처, 카메라, 단말기, UI

Description

제스처를 이용한 사용자 인터페이스 제공 단말기 및 방법{Apparatus and method for providing user interface by gesture}
본 발명은 사용자 인터페이스 제공 단말기 및 방법에 관한 것으로, 특히, 카메라부를 이용하여 사용자의 손동작에 대한 영상 데이터를 획득하고, 획득된 영상 데이터를 분석하여 특징점을 추출하고, 추출된 특징점에 해당하는 좌표 값을 획득한 후 좌표 값의 변화를 감지하여 특정 제스처를 인식할 수 있는 제스처를 이용한 사용자 인터페이스 제공 단말기 및 방법에 관한 것이다.
단말기는 일반적인 입력 수단으로 키 패드, 터치스크린, 조이스틱 또는 스크롤 휠 등을 제공하고 있다. 이를 통해 사용자는 단말기 조작에 필요한 신호를 입력하거나 단말기에서 제공하는 서비스를 이용하기 위한 각종 정보를 입력할 수 있다. 또한, 단말기는 앞면이나 측면에 구비된 버튼들, 키 패드의 특정 버튼 또는 스타일러스 펜 등을 사용자가 이용할 수 있도록 사용자 인터페이스를 제공한다.
최근에는 단말기를 개성적으로 사용하고자 하는 사용자가 증가하면서, 다양한 입력 수단을 제공할 수 있는 단말기가 요구되고 있다. 이와 함께, 단말기는 기존의 지정된 입력 수단 이외에도 사용자의 개성을 살릴 수 있고, 사용자에게 입력 조작의 즐거움과 편리함을 동시에 제공할 수 있는 사용자 인터페이스가 필요하게 되었다.
하지만, 종래의 단말기는 카메라부를 통해 사용자의 제스처를 캡처(Capture)하여 제스처의 형태를 인식하였고, 이는 단순한 정지상태의 제스처를 인식하는 것이기 때문에 제스처 인식률이 저하되는 문제점이 있었다.
이러한 종래의 문제점을 해결하기 위하여, 본 발명은 카메라부를 이용하여 촬영되는 영상 데이터에서 특징점을 추출한 후, 특징점의 좌표 값에 대한 변화를 통해 사용자의 특정 제스처를 인식할 수 있는 제스처를 이용한 사용자 인터페이스 제공 단말기 및 방법을 제공하는 것을 목적으로 한다.
또한, 본 발명의 목적은 단말기를 통해 인식되는 사용자의 특정 제스처에 따라 해당되는 기능을 실행할 수 있는 제스처를 이용한 사용자 인터페이스 제공 단말기 및 방법을 제공하고자 한다.
본 발명에 따른 제스처를 이용한 사용자 인터페이스 제공 단말기에 있어서, 사용자로부터 발생하는 제1제스처와 제2제스처에 대한 영상 데이터를 획득하는 카메라부와, 상기 획득한 영상 데이터를 분석하여 상기 제1제스처와 제2제스처의 특징점을 추출하고, 상기 추출된 특징점의 좌표 값을 획득하고, 상기 획득된 좌표 값의 변화를 감지하고, 상기 변화된 적어도 두 개의 좌표 값을 이용하여 상기 제2제스처를 인식하고, 상기 인식된 제2제스처에 따라 해당되는 기능을 실행하는 단말 제어부를 포함하는 것을 특징으로 한다.
본 발명에 따른 상기 단말 제어부는 상기 카메라부를 통해 획득되는 영상 데이터를 분석하여 상기 제1제스처와 제2제스처의 특징점을 추출하는 특징점 추출부와, 상기 추출된 특징점의 좌표 값을 획득하고 상기 획득된 좌표 값의 변화를 감지 하여 상기 변화된 적어도 두 개의 좌표 값을 이용하여 제스처를 인식하는 제스처 인식부 및 상기 인식된 제2제스처에 따라 해당되는 기능을 실행하는 기능 실행부를 더 포함하는 것을 특징으로 한다.
본 발명에 따른 제스처를 이용한 사용자 인터페이스 제공 방법에 있어서, 단말기가 카메라부를 활성화하여 제1제스처와 제2제스처에 대한 영상 데이터를 획득하는 획득단계와, 상기 단말기가 상기 영상 데이터를 분석하여 상기 제1제스처와 제2제스처의 특징점을 추출하는 추출단계와, 상기 단말기가 상기 추출된 특징점의 좌표 값을 획득하는 획득단계와, 상기 단말기가 상기 획득된 좌표 값의 변화를 감지하는 감지단계와, 상기 단말기가 상기 변화된 적어도 두 개의 좌표 값을 이용하여 상기 제2제스처를 인식하는 인식단계 및 상기 단말기가 상기 인식된 제2제스처에 따라 해당되는 기능을 실행하는 실행단계를 포함하는 것을 특징으로 한다.
본 발명에 따른 상기 특징점을 추출하는 추출단계는 상기 단말기가 상기 영상 데이터를 다수개의 영상 프레임으로 구분하는 단계 및 상기 단말기가 상기 구분된 영상 프레임에 따라 손가락 각도, 손가락 방향, 손가락 배치, 손가락 형태, 손가락 위치, 손가락 끝부분, 손가락 마디 또는 손가락 사이 부분의 벌어짐을 분석하여 상기 제1제스처와 제2제스처의 특징점을 추출하는 단계를 포함하는 것을 특징으로 한다.
본 발명에 따른 상기 좌표 값의 변화를 감지하는 감지단계는 상기 단말기가 상기 특징점으로 구성되는 도형의 변형 정도 또는 상기 특징점의 이동 방향에 대한 변화를 감지하는 것을 특징으로 한다.
본 발명에 따른 상기 도형의 변형은 상기 특징점으로 구성되는 도형의 위치가 최초 위치에서 앞쪽으로 이동하여 상기 도형의 크기가 확대되거나, 상기 도형이 뒤쪽으로 이동하여 상기 도형의 크기가 축소되어 변화되는 것을 포함하는 것을 특징으로 한다.
본 발명에 따른 상기 이동 방향은 상기 특징점의 좌표 값들이 이동하는 상측, 하측, 좌측 또는 우측 방향을 포함하는 것을 특징으로 한다.
본 발명에 따른 상기 인식단계는 상기 단말기는 상기 변화된 적어도 두 개의 좌표 값을 획득하고, 상기 획득된 좌표 값을 분석하여 상기 제2제스처를 인식하는 것을 특징으로 한다.
본 발명에 따른 상기 실행단계는 상기 단말기가 상기 특정 제스처에 따라 통화 기능, 메시지 서비스 기능, 폰 북 기능 또는 메모장 기능 중 적어도 하나의 기능을 실행하는 것을 특징으로 한다.
본 발명에 의하면, 사용자는 손동작 제스처를 단말기의 입력 수단으로 활용하여 이에 대응하는 사용자 인터페이스를 수행함으로써, 제스처를 다양한 입력 수단으로 활용할 수 있다.
또한, 본 발명은 사용자에게 단말기 사용에 대한 다양한 입력 수단을 제공함으로써, 단말기 조작에 대한 즐거움과 편리함을 제공할 수 있다.
또한, 본 발명은 사용자의 손동작 제스처를 인식하기 위하여 카메라부를 이용함으로써 보다 정확하게 사용자의 제스처를 인식할 수 있는 효과가 있다.
또한, 본 발명은 단말기를 통해 인식되는 사용자의 특정 제스처에 따라 해당되는 기능을 실행할 수 있다.
이하, 본 발명에 따른 바람직한 실시 예를 첨부한 도면을 참조하여 상세히 설명한다. 하기의 설명에서는 본 발명의 실시 예에 따른 동작을 이해하는데 필요한 부분만이 설명되며, 그 이외 부분의 설명은 본 발명의 요지를 흩트리지 않도록 생략될 것이라는 것을 유의하여야 한다.
이하에서 설명되는 본 명세서 및 청구범위에 사용된 용어나 단어는 통상적이거나 사전적인 의미로 한정해서 해석되어서는 아니 되며, 발명자는 그 자신의 발명을 가장 최선의 방법으로 설명하기 위해 용어의 개념으로 적절하게 정의할 수 있다는 원칙에 입각하여 본 발명의 기술적 사상에 부합하는 의미와 개념으로 해석되어야만 한다. 따라서 본 명세서에 기재된 실시 예와 도면에 도시된 구성은 본 발명의 가장 바람직한 일 실시 예에 불과할 뿐이고, 본 발명의 기술적 사상을 모두 대변하는 것은 아니므로, 본 출원시점에 있어서 이들을 대체할 수 있는 다양한 균등물과 변형 예들이 있을 수 있음을 이해하여야 한다.
설명에 앞서, 이하에서는 본 발명의 실시 예에 따른 단말기는 이동통신망을 이용하고, 카메라부를 통해 사용자의 제스처를 인식하는 단말기를 대표적인 예로서 설명하지만, 본 발명이 이에 한정되는 것은 아니다. 즉, 단말기는 카메라부를 장착한 단말기로서, 유선 단말기, 고정형 단말기 또는 IP(Internet Protocol) 단말기 등의 다양한 단말기에 적용될 수 있다.
본 발명의 실시 예에 따른 '제스처'는 단말기의 카메라부를 통해 인식되는 사용자 손동작의 변화된 동작을 의미한다. 예를 들어, 제스처는 사용자의 손 동작 중 두 개의 손가락을 이용한 'V' 자 형태의 제1제스처에서 다섯 개의 손가락을 모두 펼친 형태의 손동작으로 변화하는 제2제스처가 될 수 있다. 또한, 제스처는 사용자의 손 동작 중 두 개의 손가락을 이용한 'O' 자 형태의 제1제스처에서 다섯 개의 손가락을 모두 펼친 형태의 손동작으로 변화하는 제2제스처가 될 수 있다. 또한, 제스처는 사용자의 손 동작 중 두 개의 손가락을 이용한 'V' 자 형태의 제1제스처에서 'V' 자 형태의 손가락을 손바닥 안쪽으로 약간 구부린 손동작의 제2제스처가 포함될 수 있다. 또한, 제스처는 사용자의 손 동작 중 두 개의 손가락을 이용한 'V' 자 형태의 제1제스처가 위치한 최초 위치에서 상측, 하측, 좌측 또는 우측으로 이동하는 제2제스처가 포함될 수 있다.
한편, 본 발명의 실시 예에 따른 제스처는 제시된 특정 제스처에 한정된 것이 아니다. 즉, 제스처는 변화할 수 있는 다양한 손동작이 포함될 수 있다.
도 1은 본 발명의 실시 예에 따른 제스처를 이용하여 사용자 인터페이스를 제공하는 단말기의 개략적인 구성을 나타내는 블록도이다.
도 1을 참조하면, 본 발명의 실시 예에 따른 제스처를 이용한 사용자 인터페이스를 제공하는 단말기(100)는 입력부(20), 표시부(30), 저장부(40), 오디오 처리부(50), 통신부(60), 카메라부(70) 및 단말 제어부(10)를 포함하여 구성될 수 있다. 특히, 단말 제어부(10)는 특징점 추출부(12), 제스처 인식부(14) 및 기능 실행부(16)를 포함할 수 있다.
입력부(20)는 숫자 또는 문자 정보를 입력 받고, 각종 기능들을 설정하기 위한 다수의 입력 키 및 기능키들을 포함한다. 여기서, 기능키들은 특정 기능을 수행하도록 설정된 방향키, 사이드 키 및 단축키 등을 포함할 수 있다. 특히, 본 발명의 실시 예에 따른 입력부(20)는 사용자의 제스처 설정 및 단말기(100)의 기능 제어와 관련하여 입력되는 키 신호를 생성하고, 이를 단말 제어부(10)로 전달한다.
표시부(30)는 LCD(Liquid Crystal Display), OLED(Organic Light Emitting Diodes) 등이 적용될 수 있으며, 이 때, LCD가 적용되는 경우 표시부(30)는 LCD 단말 제어부, LCD 데이터를 저장할 수 있는 메모리 및 LCD 표시소자 등을 구비할 수 있다. 여기서, 표시부(30)는 LCD 및 OLED 등의 표시 장치를 터치스크린 방식으로 구현하는 경우, 표시부(30)의 화면은 입력부(20)로 동작될 수 있다. 특히, 본 발명의 실시 예에 따른 표시부(30)는 카메라부(70)를 통해 인식되는 사용자의 제스처를 화면에 표시한다. 또한, 표시부(30)는 사용자의 제스처에 대한 기능 실행 화면을 표시한다.
저장부(40)는 본 발명의 실시 예에 따른 단말기(100)의 기능 동작에 필요한 응용 프로그램을 비롯하여, 카메라부(70)의 동작을 실행하기 위한 응용 프로그램 및/또는 제스처 인식을 위한 프로그램 등을 저장한다. 이러한 저장부(40)는 프로그램 영역과 데이터 영역을 포함할 수 있다.
프로그램 영역은 단말기(100)를 부팅시키는 운영체제(OS, Operating System), 영상 데이터를 획득하는 카메라부(70) 조작 및 오디오 수집을 위한 응용 프로그램, 단말기(100)의 기타 옵션(options) 기능 예컨대, 소리 재생 기능, 이미 지 또는 동영상 재생 기능 등에 필요한 응용 프로그램 등을 저장할 수 있다. 여기서, 단말기(100)는 사용자의 요청에 상응하여 각 기능을 활성화하는 경우, 단말 제어부(10)의 제어 하에 해당 응용 프로그램들을 실행하여 각각의 기능을 제공하게 된다. 특히, 본 발명의 실시 예에 따른 프로그램 영역은 특징점 추출 프로그램, 제스처 인식 프로그램 및 기능 실행 프로그램 등을 포함할 수 있다. 이 때, 특징점 추출 프로그램, 제스처 인식 프로그램 및 기능 실행 프로그램은 단말 제어부(10)에 로드(Load)되어, 구동하는 프로그램이 될 수 있다. 또한, 데이터 영역은 단말기(100)의 사용에 따라 발생하는 데이터가 저장되는 영역으로서, 카메라부(70)가 촬영한 영상 데이터 중 사용자가 저장하는 데이터, 단말기(100)가 제공하는 다양한 옵션 기능과 관련한 사용자 데이터들 예컨대, 동영상 데이터, 폰 북 데이터, 오디오 데이터 및 해당 컨텐츠 데이터 등을 저장할 수 있다. 특히, 본 발명의 실시 예에 따른 데이터 영역은 카메라부(70)를 통해 촬영되는 영상 데이터, 획득된 영상 데이터를 분석하여 추출되는 특징점, 추출된 특징점의 좌표 값, 사용자의 손동작 이동에 따라 변화되는 특징점의 좌표 값 및 영상 데이터를 구성하는 다수개의 프레임 등이 저장될 수 있다.
오디오 처리부(50)는 통화 기능 시 송수신되는 오디오 데이터를 재생하기 위한 스피커(SPK)와, 통화 시 사용자의 음성 또는 기타 오디오 신호를 수집하기 위한 마이크(MIC)를 포함한다. 여기서, 오디오 처리부(50)는 음성 통화를 위해 설치된 스피커와 별도로 화상 통화 시 수신된 오디오 데이터를 출력하기 위한 스피커를 더 포함할 수 있다.
통신부(60)는 단말 제어부(10)의 제어에 따라 데이터를 송신 및 수신한다. 이 때, 통신부(60)는 송신되는 신호의 주파수를 상승변환 및 증폭하는 무선 주파수 송신부와, 수신되는 신호를 저잡음 증폭하고 주파수를 하강 변환하는 무선 주파수 수신부 등을 포함할 수 있다. 특히, 본 발명의 실시 예에 따른 통신부(60)는 사용자의 손동작 제스처에 대응하는 기능이 통화 발신이나 수신 또는 메시지 서비스와 같은 통신과 연관되어 있는 경우, 단말 제어부(10)의 제어에 따라 해당되는 기능을 실행할 수 있다.
카메라부(70)는 사용자의 손동작 제스처에 대한 영상 데이터를 수집한다. 이러한 카메라부(70)는 렌즈를 통해 촬상되는 영상을 촬영하여 아날로그 영상신호로 변환하는 카메라 센서(도시되지 않음)와, 카메라 센서로부터 아날로그 영상신호를 디지털 데이터로 변환하는 신호처리부(도시되지 않음)를 구비한다. 여기서 카메라 센서는 CCD(Charge Coupled Device) 센서, CMOS(Complementary Metal Oxide Semiconductor) 이미지 센서 또는 적외선 센서가 적용될 수 있고, 신호처리부는 DSP(Digital Signal Processor)로 구현될 수 있으나, 이에 한정되는 것은 아니다. 이러한 카메라부(70)는 카메라 기능을 구동하기 위한 입력 신호가 수신되는 경우에 활성화될 수 있다. 그런 다음, 카메라부(70)는 수집되는 영상 데이터를 단말 제어부(10)에 전달한다. 이러한 기능을 효과적으로 수행하기 위하여, 카메라부(70)는 영상 처리부(미도시)를 구비할 수 있다. 이 때, 영상 처리부는 카메라 센서에서 출력되는 영상신호를 표시부(30)에 표시하기 위한 화면 데이터를 발생하는 기능을 수행한다. 이 때, 영상 처리부는 카메라 센서에서 출력되는 영상신호를 영상 프레임 단위로 처리하며, 프레임 영상 데이터를 표시부(30)의 특성 및 크기에 대응하여 출력한다. 또한, 영상 처리부는 영상 코덱(CODEC)을 구비하며, 표시부(30)에 표시되는 프레임 영상 데이터를 설정된 방식으로 압축하거나 압축된 프레임 영상데이터를 원래의 프레임 영상 데이터로 복원하는 기능을 수행한다. 여기서 영상 코덱은 JPEG(Joint Photographic coding Experts Group) 코덱 또는 MPEG(Moving Picture Experts Group) 코덱 등이 될 수 있다.
단말 제어부(10)는 단말기(100)의 각 구성을 초기화하고, 각 구성에 필요한 신호 제어를 전달할 수 있다. 특히, 본 발명의 실시 예에 따른 단말 제어부(10)는 카메라부(70)를 활성화하여 제1제스처와 제2제스처에 대한 영상을 촬영하여 영상 데이터를 획득한다. 이 때, 획득되는 영상 데이터는 영상 프레임 단위로 구분될 수 있다. 이 후, 단말 제어부(10)는 획득된 영상 데이터를 분석하여 제1제스처와 제2제스처의 특징점을 추출할 수 있다. 여기서, 단말 제어부(10)는 구분된 영상 프레임에 따라 손가락 각도, 손가락 방향, 손가락 배치, 손가락 형태, 손가락 위치, 손가락 끝부분, 손가락 마디 또는 손가락 사이 부분의 벌어짐을 분석하여 제1제스처와 제2제스처의 특징점을 추출할 수 있다.
단말 제어부(10)는 추출된 특징점의 좌표 값을 획득하고, 획득된 좌표 값을 저장부(40)에 저장한다. 그런 다음, 단말 제어부(10)는 좌표 값의 변화를 감지한다. 이 때, 단말 제어부(10)는 특징점의 연결을 통해 구성되는 도형의 변형 정도 또는 특징점의 이동 방향에 대한 변화를 감지하여 변화된 좌표 값을 획득할 수 있다. 여기서, 단말 제어부(10)는 특징점의 연결을 통해 구성되는 도형이 원근법에 의해 앞쪽으로 이동하여 도형의 크기가 확대되거나 뒤쪽으로 이동하여 도형의 크기가 축소되는 변화에 따라 도형의 변형을 감지한다. 또한, 단말 제어부(10)는 특징점의 좌표 값들이 이동하는 상측, 하측, 좌측 또는 우측 방향을 확인하여 좌표 값의 이동 방향을 감지한다.
단말 제어부(10)는 각각의 영상 프레임을 비교하여 특징점의 변화를 감지할 수 있다. 즉, 단말 제어부(10)는 영상 데이터의 이전 영상 프레임과 현재 영상 프레임을 비교하여 특징점의 변화를 확인할 수 있다.
단말 제어부(10)는 좌표 값이 변화하면, 변화된 적어도 두 개의 좌표 값에 따라 제2제스처를 인식할 수 있다. 그런 다음, 단말 제어부(10)는 인식된 제2제스처에 따라 해당되는 기능을 실행할 수 있다. 이를 위하여 단말 제어부(10)는 특징점 추출부(12), 제스처 인식부(14) 및 기능 실행부(16)를 포함할 수 있다.
특징점 추출부(12)는 제1제스처와 제2제스처의 특징점을 추출하기 위한 방법으로서, 손가락의 끝부분을 판단하고, 판단된 결과에 따라 특징점을 추출한다. 이 때, 특징점 추출부(12)는 카메라부(70)를 통해 획득되는 영상 데이터를 분석하여 특징점을 추출할 수 있다. 여기서, 특징점 추출부(12)는 손가락 각도, 손가락 방향, 손가락 배치 형태, 손가락 위치, 손가락 끝부분, 손가락 마디 또는 손가락 사이의 벌어짐에 대한 정보를 이용하여 제1제스처와 제2제스처의 특징점을 추출할 수 있다. 예를 들어, 특징점 추출부(12)는 수집한 영상 데이터를 분석하여 특징점을 추출하기 위한 방법으로서, 예컨대 특징점 추출부(12)는 PCA(principal component analysis)를 통해 영상 데이터에 포함되는 손동작의 특징점을 획득하기 위한 알고 리즘 이용할 수 있다.
제스처 인식부(14)는 특징점 추출부(12)를 통해 추출된 특징점의 좌표 값을 획득하고, 상기 획득된 좌표 값의 변화를 감지하여 변화된 좌표 값에 따라 제1제스처와 제2제스처를 인식할 수 있다. 이 때, 제스처 인식부(14)는 특징점의 연결을 통해 구성되는 도형의 변형 정도 또는 특징점의 이동 방향에 대한 변화를 감지하여 좌표 값을 획득할 수 있다.
기능 실행부(16)는 인식된 제2제스처에 따른 기능을 실행하기 위하여 단말 제어부(10)의 제어를 받는다. 예를 들어, 기능 실행부(16)는 설정된 특정 제스처에 따라 통화 기능, 메시지 서비스 기능, 폰 북 기능 또는 메모장 기능 등을 실행하도록 제어할 수 있다.
도 2는 본 발명의 실시 예에 따른 단말기의 제스처 변화를 이용하여 사용자 인터페이스를 제공 방법을 설명하기 위한 흐름도이다.
도 1 및 도 2를 참조하여 본 발명의 실시 예에 따른 사용자의 손동작 제스처의 변화를 이용하여 사용자 인터페이스 제공 방법을 설명하기로 한다.
단말 제어부(10)는 전원이 공급되면 단말기(100)의 각 구성을 초기화하고, S201 단계에서 기 설정된 대기 화면을 표시부(30)에 출력하는 대기 모드를 실행한다.
단말 제어부(10)는 S203 단계에서 카메라부(70)를 활성화 시킨다. 카메라부(70)의 기능이 활성화되면, 단말 제어부(10)는 S205 단계에서 제1제스처에 대한 영상을 촬영한다. 영상이 촬영되면, 단말 제어부(10)는 S207 단계에서 제1제스처에 대한 영상 데이터를 획득할 수 있다. 이 때, 영상 데이터는 영상 프레임 단위로 구분될 수 있다.
영상 데이터가 획득되면, 단말 제어부(10)는 S209 단계에서 영상 데이터를 분석하여 특징점을 추출한다. 여기서, 단말 제어부(10)는 제1제스처의 특징점을 추출하기 위한 방법으로 영상 프레임에 따라 손가락 각도, 손가락 방향, 손가락 배치, 손가락 형태, 손가락 위치, 손가락 끝부분, 손가락 마디 또는 손가락 사이 부분의 벌어짐을 분석하여 제1제스처의 특징점을 추출할 수 있다.
특징점이 추출되면, 단말 제어부(10)는 S211 단계에서 추출된 특징점의 좌표 값을 획득한다. 이 때, 획득된 좌표 값은 저장부(40)에 저장될 수 있다. 그런 다음, 단말 제어부(10)는 S213 단계에서 좌표 값의 변화가 감지되는지 판단한다. 좌표 값의 변화가 감지되면, 단말 제어부(10)는 S215 단계에서 변화된 좌표 값을 획득한다. 여기서, 단말 제어부(10)는 각각의 영상 프레임을 비교하여 제2제스처의 특징점의 변화를 감지할 수 있다. 즉, 단말 제어부(10)는 영상 데이터의 이전 영상 프레임과 현재 영상 프레임을 비교하여 제2제스처의 특징점의 변화를 확인할 수 있다. 이와 함께, 단말 제어부(10)는 특징점으로 구성되는 도형의 변형 정도 또는 특징점의 이동 방향에 대한 변화를 감지하여 좌표 값을 획득할 수 있다. 예를 들어, 단말 제어부(10)는 특징점의 연결을 통해 구성되는 임의의 도형의 변형 정도 또는 특징점의 이동 방향에 대한 변화를 감지하여 좌표 값의 변화를 확인한다. 즉, 단말 제어부(10)는 특징점의 연결을 통해 구성되는 도형이 원근법에 의해 앞쪽으로 이동하여 도형의 크기가 확대되거나 뒤쪽으로 이동하여 도형의 크기가 축소되는 변화에 따라 도형의 변형을 감지한다. 또한, 단말 제어부(10)는 특징점의 좌표 값들이 이동하는 상측, 하측, 좌측 또는 우측 방향을 확인하여 좌표 값의 이동 방향을 감지한다.
단말 제어부(10)는 S217 단계에서 획득된 좌표 값에 따라 제2제스처를 인식할 수 있다. 여기서, 제스처는 단말기(100)의 카메라부(70)를 통해 인식되는 사용자 손동작이 변화하여 인식되는 동작을 의미한다. 예를 들어, 제스처는 사용자의 손 동작 중 두 개의 손가락을 이용한 'V' 자 형태의 제1제스처에서 다섯 개의 손가락을 모두 펼친 형태의 손동작으로 변화하는 제2제스처가 될 수 있다. 또한, 제스처는 사용자의 손 동작 중 두 개의 손가락을 이용한 'O' 자 형태의 제1제스처에서 다섯 개의 손가락을 모두 펼친 형태의 손동작으로 변화하는 제2제스처가 될 수 있다. 또한, 제스처는 사용자의 손 동작 중 두 개의 손가락을 이용한 'V' 자 형태의 제1제스처에서 'V' 자 형태의 손가락을 손바닥 안쪽으로 약간 구부린 손동작의 제2제스처가 포함될 수 있다. 또한, 제스처는 사용자의 손 동작 중 두 개의 손가락을 이용한 'V' 자 형태의 제1제스처가 위치한 최초 위치에서 상측, 하측, 좌측 또는 우측으로 이동하는 제2제스처가 포함될 수 있다.
제2제스처가 인식되면, 단말 제어부(10)는 S219 단계에서 인식된 제2제스처에 따른 기능을 실행할 수 있다. 예를 들어, 단말 제어부(10)는 인식된 제스처가 호 발신 또는 호 수신을 실행하도록 설정되어 있는 경우, 제스처에 따라 통화 기능을 실행한다. 이 때, 단말 제어부(10)는 음성 통화뿐만 아니라 영상 통화를 지원하는 경우 영상 통화를 실행할 수 있다. 또한, 단말 제어부(10)는 인식된 제스처가 메시지 수신 또는 발신을 실행하도록 설정되어 있는 경우, 제스처에 따라 메시지 서비스 기능을 실행한다. 이 때, 메시지 서비스는 단문 메시지 서비스(Short Message Service, SMS) 또는 멀티미디어 메시지 서비스(Multimedia Message Service, MMS)를 포함할 수 있다. 또한, 단말 제어부(10)는 제스처에 따라 폰 북 기능 실행, 메모장 기능 실행 또는 카메라 기능 실행 등과 같은 다양한 기능을 실행할 수 있다. 여기서, 본 발명의 단말기가 인식되는 제스처에 따라 실행할 수 있는 기능은 제시된 기능에 한정되는 것이 아니다. 즉, 단말기에서 제스처에 따라 실행될 수 있는 기능은 제조 과정이나 사용자에 위해 설정될 수 있다.
도 3 및 도 4는 본 발명의 실시 예에 따른 단말기의 제스처 변화를 이용하여 사용자 인터페이스 제공 방법을 설명하기 위한 예이다.
도 1 내지 도 4를 참조하면, 손 동작 제스처를 입력 수단으로 활용하기 위하여 단말기(100)는 사용자의 제스처 변화를 감지함으로써 사용자 인터페이스를 제공한다.
단말 제어부(10)는 카메라부(70)를 활성화하여 손동작 제스처에 대한 영상을 촬영하고, 촬영된 영상을 통해 영상 프레임 단위로 구분되는 영상 데이터를 획득할 수 있다. 예를 들어, 도 3에 도시된 바와 같이 단말 제어부(10)는 카메라부(70)를 제어하여 사용자의 제1제스처인 'V' 자 형태의 영상 데이터를 획득할 수 있다.
단말 제어부(10)는 획득된 영상 데이터를 분석하여 특징점을 추출한다. 여기서, 단말 제어부(10)는 제1제스처의 특징점을 추출하기 위하여 각각의 손가락 각도, 손가락 방향, 손가락 배치, 손가락 형태, 손가락 위치, 손가락 끝부분, 손가락 마디 또는 손가락 사이 부분의 벌어짐 정도를 분석할 수 있다.
단말 제어부(10)는 추출된 특징점의 좌표 값을 획득하고, 각각의 영상 프레임을 비교하여 특징점의 변화를 감지하기 위하여 영상 데이터의 이전 영상 프레임과 현재 영상 프레임을 비교할 수 있다. 이를 통해 단말 제어부(10)는 특징점의 변화를 감지할 수 있다. 또한, 단말 제어부(10)는 좌표 값의 변화가 발생하는지 감지한다. 예를 들어, 단말 제어부(10)는 최초 사용자의 제1제스처에 대한 특징점의 좌표 값(a)이 제2제스처에 대한 특징점의 좌표 값(c)으로 변화하고, 좌표 값(b)이 좌표 값(d)으로 변화하는 것을 감지한다. 이 때, 단말 제어부(10)는 특징점의 연결을 통해 구성되는 도형의 변형 정도 또는 특징점의 이동 방향에 대한 변화를 감지하여 변화된 좌표 값을 획득할 수 있다.
단말 제어부(10)는 획득된 좌표 값에 따라 제2제스처를 인식할 수 있다. 그런 다음, 단말 제어부(10)는 인식된 제2제스처에 따른 기능을 실행할 수 있다. 여기서, 단말 제어부(10)는 인식된 특정 제스처인 제2제스처에 따라 통화 기능, 메시지 서비스 기능, 폰 북 기능 또는 메모장 기능 등에 해당하는 동작을 수행할 수 있다.
한편, 본 명세서와 도면에 개시된 본 발명의 실시 예들은 이해를 돕기 위해 특정 예를 제시한 것에 지나지 않으며, 본 발명의 범위를 한정하고자 하는 것은 아니다. 여기에 개시된 실시 예들 이외에도 본 발명의 기술적 사상에 바탕을 둔 다른 변형 예들이 실시 가능하다는 것은, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 자명한 것이다.
본 발명은 제스처를 이용한 사용자 인터페이스 제공 단말기 및 방법에 관한 것으로, 사용자가 손 동작 제스처를 행하는 경우 카메라부를 통해 영상 데이터를 획득할 수 있다. 이러한 과정을 통해 사용자는 제스처를 단말기의 입력 수단으로 사용할 수 있다. 또한, 단말기는 카메라부를 이용하여 제스처를 보다 정밀하게 인식함으로써, 단말기의 사용 빈도수의 향상을 가지고 올 수 있다.
도 1은 본 발명의 실시 예에 따른 제스처 변화를 이용하여 사용자 인터페이스를 제공하는 단말기의 개략적인 구성을 나타내는 블록도이다.
도 2는 본 발명의 실시 예에 따른 단말기의 제스처 변화를 이용하여 사용자 인터페이스를 제공 방법을 설명하기 위한 흐름도이다.
도 3은 본 발명의 실시 예에 따른 단말기의 제스처 변화를 이용하여 사용자 인터페이스 제공 방법을 설명하기 위한 예이다.
도 4는 본 발명의 실시 예에 따른 단말기의 제스처 변화를 이용하여 사용자 인터페이스 제공 방법을 설명하기 위한 예이다.
* 도면의 주요 부분에 대한 설명 *
100 : 단말기 10 : 단말 제어부
12 : 특징점 추출부 14 : 제스처 인식부
20 : 입력부 30 : 표시부
40 : 저장부 50 : 오디오 처리부
60 : 통신부 70 : 카메라부

Claims (9)

  1. 사용자로부터 발생하는 제1제스처와 제2제스처에 대한 영상 데이터를 획득하는 카메라부; 및
    상기 획득한 영상 데이터를 분석하여 상기 제1제스처와 제2제스처의 특징점을 추출하고, 상기 추출된 특징점의 좌표 값을 획득하고, 상기 획득된 좌표 값의 변화를 감지하고, 상기 변화된 적어도 두 개의 좌표 값을 이용하여 상기 제2제스처를 인식하고, 상기 인식된 제2제스처에 따라 해당되는 기능을 실행하는 단말 제어부;
    를 포함하는 것을 특징으로 하는 제스처를 이용한 사용자 인터페이스 제공 단말기.
  2. 제1항에 있어서, 상기 단말 제어부는
    상기 카메라부를 통해 획득되는 영상 데이터를 분석하여 상기 제1제스처와 제2제스처의 특징점을 추출하는 특징점 추출부;
    상기 추출된 특징점의 좌표 값을 획득하고, 상기 획득된 좌표 값의 변화를 감지하여 상기 변화된 적어도 두 개의 좌표 값을 이용하여 제스처를 인식하는 제스처 인식부; 및
    상기 인식된 제2제스처에 따라 해당되는 기능을 실행하는 기능 실행부;
    를 더 포함하는 것을 특징으로 하는 제스처를 이용한 사용자 인터페이스 제 공 단말기.
  3. 단말기가 카메라부를 활성화하여 제1제스처와 제2제스처에 대한 영상 데이터를 획득하는 획득단계;
    상기 단말기가 상기 영상 데이터를 분석하여 상기 제1제스처와 제2제스처의 특징점을 추출하는 추출단계;
    상기 단말기가 상기 추출된 특징점의 좌표 값을 획득하는 획득단계;
    상기 단말기가 상기 획득된 좌표 값의 변화를 감지하는 감지단계;
    상기 단말기가 상기 변화된 적어도 두 개의 좌표 값을 이용하여 상기 제2제스처를 인식하는 인식단계; 및
    상기 단말기가 상기 인식된 제2제스처에 따라 해당되는 기능을 실행하는 실행단계;
    를 포함하는 것을 특징으로 하는 제스처를 이용한 사용자 인터페이스 제공 방법.
  4. 제3항에 있어서, 상기 추출단계는
    상기 단말기가 상기 영상 데이터를 다수개의 영상 프레임으로 구분하는 단계; 및
    상기 단말기가 상기 구분된 영상 프레임에 따라 손가락 각도, 손가락 방향, 손가락 배치, 손가락 형태, 손가락 위치, 손가락 끝부분, 손가락 마디 또는 손가락 사이 부분의 벌어짐을 분석하여 상기 제1제스처와 제2제스처의 특징점을 추출하는 단계;
    를 포함하는 것을 특징으로 하는 제스처를 이용한 사용자 인터페이스 제공 방법.
  5. 제3항에 있어서, 상기 감지단계는
    상기 단말기가 상기 특징점으로 구성되는 도형의 변형 정도 또는 상기 특징점의 이동 방향에 대한 변화를 감지하는 것을 특징으로 하는 제스처를 이용한 사용자 인터페이스 제공 방법.
  6. 제5항에 있어서, 상기 도형의 변형은
    상기 특징점으로 구성되는 도형의 위치가 최초 위치에서 앞쪽으로 이동하여 상기 도형의 크기가 확대되거나,
    상기 도형이 뒤쪽으로 이동하여 상기 도형의 크기가 축소되어 변화되는 것을 포함하는 것을 특징으로 하는 제스처를 이용한 사용자 인터페이스 제공 방법.
  7. 제5항에 있어서, 상기 이동 방향은
    상기 특징점의 좌표 값들이 이동하는 상측, 하측, 좌측 또는 우측 방향을 포함하는 것을 특징으로 하는 제스처를 이용한 사용자 인터페이스 제공 방법.
  8. 제3항에 있어서, 상기 인식단계는
    상기 단말기는 상기 변화된 적어도 두 개의 좌표 값을 획득하고, 상기 획득된 좌표 값을 분석하여 상기 제2제스처를 인식하는 것을 특징으로 하는 제스처를 이용한 사용자 인터페이스 제공 방법.
  9. 제3항에 있어서, 상기 실행단계는
    상기 단말기가 상기 특정 제스처에 따라 통화 기능, 메시지 서비스 기능, 폰 북 기능 또는 메모장 기능 중 적어도 하나의 기능을 실행하는 것을 특징으로 하는 제스처를 이용한 사용자 인터페이스 제공 방법.
KR1020090110031A 2009-11-15 2009-11-15 제스처를 이용한 사용자 인터페이스 제공 단말기 및 방법 KR20110053396A (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020090110031A KR20110053396A (ko) 2009-11-15 2009-11-15 제스처를 이용한 사용자 인터페이스 제공 단말기 및 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020090110031A KR20110053396A (ko) 2009-11-15 2009-11-15 제스처를 이용한 사용자 인터페이스 제공 단말기 및 방법

Publications (1)

Publication Number Publication Date
KR20110053396A true KR20110053396A (ko) 2011-05-23

Family

ID=44362973

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020090110031A KR20110053396A (ko) 2009-11-15 2009-11-15 제스처를 이용한 사용자 인터페이스 제공 단말기 및 방법

Country Status (1)

Country Link
KR (1) KR20110053396A (ko)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20130124139A (ko) * 2012-11-21 2013-11-13 삼성전자주식회사 공간상의 상호 작용을 이용한 단말의 제어 방법 및 그 단말
KR20130124143A (ko) * 2012-11-30 2013-11-13 삼성전자주식회사 공간상의 상호 작용을 이용한 단말의 제어 방법 및 그 단말
KR101337429B1 (ko) * 2012-02-29 2013-12-05 고려대학교 산학협력단 입력 장치
KR101358422B1 (ko) * 2013-03-14 2014-02-12 고려대학교 산학협력단 문자 입력 장치
KR101370263B1 (ko) * 2013-03-15 2014-03-04 전자부품연구원 제스처 기반의 전자기기 리모트 제어 방법 및 이를 위한 컴퓨터로 판독가능한 기록매체
KR101534718B1 (ko) * 2013-12-02 2015-07-07 현대자동차 주식회사 차량용 인포테인먼트 장치 및 차량용 인포테인먼트 장치 제어방법
US9298267B2 (en) 2011-07-08 2016-03-29 Media Interactive Inc. Method and terminal device for controlling content by sensing head gesture and hand gesture, and computer-readable recording medium

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9298267B2 (en) 2011-07-08 2016-03-29 Media Interactive Inc. Method and terminal device for controlling content by sensing head gesture and hand gesture, and computer-readable recording medium
KR101337429B1 (ko) * 2012-02-29 2013-12-05 고려대학교 산학협력단 입력 장치
KR20130124139A (ko) * 2012-11-21 2013-11-13 삼성전자주식회사 공간상의 상호 작용을 이용한 단말의 제어 방법 및 그 단말
KR20130124143A (ko) * 2012-11-30 2013-11-13 삼성전자주식회사 공간상의 상호 작용을 이용한 단말의 제어 방법 및 그 단말
KR101358422B1 (ko) * 2013-03-14 2014-02-12 고려대학교 산학협력단 문자 입력 장치
KR101370263B1 (ko) * 2013-03-15 2014-03-04 전자부품연구원 제스처 기반의 전자기기 리모트 제어 방법 및 이를 위한 컴퓨터로 판독가능한 기록매체
KR101534718B1 (ko) * 2013-12-02 2015-07-07 현대자동차 주식회사 차량용 인포테인먼트 장치 및 차량용 인포테인먼트 장치 제어방법

Similar Documents

Publication Publication Date Title
KR101836340B1 (ko) 터치 버튼 및 지문 인식을 실현하기 위한 방법 및 디바이스, 그리고 터미널 디바이스
CN107528938B (zh) 一种视频通话方法、终端及计算机可读存储介质
EP3043236B1 (en) Method and apparatus for implementing a stacked touch key and fingerprint sensor
CN106951884B (zh) 采集指纹的方法、装置及电子设备
KR102062310B1 (ko) 전자 장치에서 헤드 트래킹 기술을 이용하여 제어 서비스를 제공하기 위한 장치 및 방법
KR102036054B1 (ko) 듀얼 카메라를 구비하는 휴대 단말기의 영상 촬영 방법 및 그 장치
KR20110053396A (ko) 제스처를 이용한 사용자 인터페이스 제공 단말기 및 방법
US10860857B2 (en) Method for generating video thumbnail on electronic device, and electronic device
KR102056633B1 (ko) 다자간 영상 통화 단말기 및 그의 ui 운용 방법
KR102165818B1 (ko) 입력 영상을 이용한 사용자 인터페이스 제어 방법, 장치 및 기록매체
CN110913139B (zh) 拍照方法及电子设备
WO2021190428A1 (zh) 图像拍摄方法和电子设备
CN107241552B (zh) 一种图像获取方法、装置、存储介质和终端
WO2020238647A1 (zh) 手势交互方法和终端
CN108920069B (zh) 一种触控操作方法、装置、移动终端和存储介质
CN108319886A (zh) 指纹识别方法及装置
KR20170132833A (ko) 압력 검출 방법, 장치, 프로그램 및 기록 매체
CN108881721B (zh) 一种显示方法及终端
WO2017140108A1 (zh) 压力检测方法和装置
CN117130469A (zh) 一种隔空手势识别方法、电子设备及芯片系统
US10088897B2 (en) Method and electronic device for improving performance of non-contact type recognition function
CN104718511B (zh) 通信系统、通信方法和程序
JP4685708B2 (ja) 携帯端末装置
KR20110041757A (ko) 제스처를 이용한 사용자 인터페이스 제공 단말기 및 방법
KR20190135794A (ko) 이동 단말기

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
N231 Notification of change of applicant
E601 Decision to refuse application