KR101799270B1 - 이동 단말기 및 이것의 터치 인식 방법 - Google Patents

이동 단말기 및 이것의 터치 인식 방법 Download PDF

Info

Publication number
KR101799270B1
KR101799270B1 KR1020100137503A KR20100137503A KR101799270B1 KR 101799270 B1 KR101799270 B1 KR 101799270B1 KR 1020100137503 A KR1020100137503 A KR 1020100137503A KR 20100137503 A KR20100137503 A KR 20100137503A KR 101799270 B1 KR101799270 B1 KR 101799270B1
Authority
KR
South Korea
Prior art keywords
touch
touches
gesture
mobile terminal
recognizes
Prior art date
Application number
KR1020100137503A
Other languages
English (en)
Other versions
KR20120075714A (ko
Inventor
김민주
이칠우
서융호
오치민
곽재도
김종구
Original Assignee
엘지전자 주식회사
전남대학교산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사, 전남대학교산학협력단 filed Critical 엘지전자 주식회사
Priority to KR1020100137503A priority Critical patent/KR101799270B1/ko
Priority to US13/287,062 priority patent/US9128527B2/en
Publication of KR20120075714A publication Critical patent/KR20120075714A/ko
Application granted granted Critical
Publication of KR101799270B1 publication Critical patent/KR101799270B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/002—Specific input/output arrangements not covered by G06F3/01 - G06F3/16
    • G06F3/005—Input arrangements through a video camera
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304—Detection arrangements using opto-electronic means
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/0416—Control or interface arrangements specially adapted for digitisers
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/042—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
    • G06F3/0425—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means using a single imaging device like a video camera for tracking the absolute position of a single or a plurality of objects with respect to an imaged reference surface, e.g. video camera imaging a display or a projection screen, a table or a wall surface, on which a computer generated image is displayed or projected
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04B—TRANSMISSION
    • H04B1/00—Details of transmission systems, not covered by a single one of groups H04B3/00 - H04B13/00; Details of transmission systems not characterised by the medium used for transmission
    • H04B1/38—Transceivers, i.e. devices in which transmitter and receiver form a structural unit and in which at least one part is used for functions of transmitting and receiving
    • H04B1/40—Circuits
    • H04B1/401—Circuits for selecting or indicating operating mode
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00—Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/041—Indexing scheme relating to G06F3/041 - G06F3/045
    • G06F2203/04104—Multi-touch detection in digitiser, i.e. details about the simultaneous detection of a plurality of touching locations, e.g. multiple fingers or pen and finger
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00—Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/048—Indexing scheme relating to G06F3/048
    • G06F2203/04808—Several contacts: gestures triggering a specific function, e.g. scrolling, zooming, right-click, when the user establishes several contacts with the surface simultaneously; e.g. using several fingers or a combination of fingers and pen

Abstract

본 발명은, 터치 스크린을 이용하여 복수의 터치를 동시에 입력받는 경우 상기 입력된 복수의 터치를 포함하는 복수의 영상을 일정 시간 동안 연속 입력받고, 상기 복수의 터치 각각의 터치 패턴 및 터치 패턴 변화를 상기 복수의 영상 각각에 대하여 판단하고, 상기 판단 결과에 따라 상기 복수의 터치에 의한 제스처를 인식하는 이동 단말기 및 이것의 터치 인식 방법에 관한 것이다.

Description

이동 단말기 및 이것의 터치 인식 방법{Mobile terminal and Method for recognizing touch thereof}
본 발명은 멀티 터치를 인식할 수 있는 이동 단말기 및 이것의 터치 인식 방법에 관한 것이다.
단말기는 이동 가능 여부에 따라 이동 단말기(mobile/portable terminal) 및 고정 단말기(stationary terminal)으로 나뉠 수 있다. 다시 이동 단말기는 사용자의 직접 휴대 가능 여부에 따라 휴대(형) 단말기(handheld terminal) 및 거치형 단말기(vehicle mount terminal)로 나뉠 수 있다.
이와 같은 단말기(terminal)는 기능이 다양화됨에 따라 예를 들어, 사진이나 동영상의 촬영, 음악이나 동영상 파일의 재생, 게임, 방송의 수신 등의 복합적인 기능들을 갖춘 멀티미디어 기기(Multimedia player) 형태로 구현되고 있다.
이러한 단말기의 기능 지지 및 증대를 위해, 단말기의 구조적인 부분 및/또는 소프트웨어적인 부분을 개량하는 것이 고려될 수 있다.
터치 제스처 인터페이스는, 초기에 하나의 포인터로 터치하는 싱글 터치에서 두 개 이상의 포인터로 터치하는 멀티 터치로 발전하여 왔다.
최근에는, 터치점 개수에 제약이 없는 멀티 터치 올-포인트 방식의 멀티 터치 인터페이스가 등장함에 따라 멀티 터치 올-포인트 방식의 멀티 터치의 인식 및 이에 따른 제스처 정의가 필요하게 되었다.
상기한 문제점을 해결하기 위하여, 터치 패턴 및 터치 패턴의 변화를 고려하여 다양한 형태의 제스처를 인식할 수 있는 이동 단말기 및 이것의 터치 인식 방법을 제공하는데 그 목적이 있다.
상기한 과제를 달성하기 위하여, 본 발명에 따른 이동 단말기는, 복수의 터치를 동시에 입력받는 터치 스크린; 상기 터치 스크린의 아래에 구비되며, 상기 입력된 복수의 터치를 포함하는 복수의 영상을 일정 시간 동안 연속 입력받는 카메라; 및 상기 복수의 영상 각각에 포함된 복수의 터치 각각의 터치 패턴 및 터치 패턴 변화를 상기 복수의 영상 각각에 대하여 판단하고, 상기 판단 결과에 따라 상기 복수의 터치에 의한 제스처를 인식하는 제어부를 포함한다.
또한, 상기한 과제를 달성하기 위하여, 본 발명에 따른 이동 단말기의 터치 인식 방법은, 터치 스크린을 이용하여 복수의 터치를 동시에 입력받는 단계; 상기 터치 스크린의 아래에 구비된 카메라를 이용하여 상기 입력된 복수의 터치를 포함하는 복수의 영상을 일정 시간 동안 연속 입력받는 단계; 상기 복수의 영상 각각에 포함된 복수의 터치 각각의 터치 패턴 및 터치 패턴 변화를 상기 복수의 영상 각각에 대하여 판단하는 단계; 및 상기 판단 결과에 따라 상기 복수의 터치에 의한 제스처를 인식하는 단계를 포함한다.
여기에서, 상기 터치 패턴은, 터치 개수, 터치 지점, 터치 면적, 터치 모양 중 적어도 하나를 포함할 수 있다.
상기와 같이 구성되는 본 발명의 적어도 하나의 실시예에 관련된 이동 단말기 및 이것의 터치 인식 방법에 의한 효과는 다음과 같다.
첫째, 입력 가능한 터치의 개수에 제한이 없으므로, 디스플레이 사이즈에 관계없이 사용자는 원하는 개수의 터치를 입력할 수 있을 뿐만 아니라 터치 개수에 대한 선행 학습이 불필요하다.
둘째, 터치 패턴 및 터치 패턴 변화에 따른 다양한 제스처를 인식할 수 있으므로, 사용자는 다양한 제스처를 입력할 수 있다.
셋째, 다양한 제스처를 입력할 수 있으므로, 제스처에 따른 다양한 디스플레이 제어 동작을 수행할 수 있다.
도 1은 본 발명의 일 실시예와 관련된 이동 단말기의 블록 구성도(block diagram).
도 2는 본 발명과 관련된 이동 단말기의 일 작동 상태를 설명하기 위한 이동 단말기의 정면도.
도 3은 본 발명의 일 실시예와 관련된 이동 단말기의 터치 인식 방법의 제 1 흐름도.
도 4는 본 발명에 관련하여 카메라를 통하여 입력된 터치 포함 영상을 전처리한 영상을 도시한 도면.
도 5a 내지 도 5d는 본 발명에 관련하여 제스처 종류를 도시한 도면.
도 6은 본 발명의 일 실시예와 관련된 이동 단말기의 터치 인식 방법의 제 2 흐름도.
도 7a 및 도 7b는 본 발명에 관련하여 이동 거리 및 각도 값 변경을 도시한 도면.
도 8a 내지 도 8i는 본 발명에 관련하여 복수의 영상을 이용한 제스처 인식 과정을 도시한 도면.
이하, 본 발명과 관련된 이동 단말기에 대하여 도면을 참조하여 더욱 상세하게 설명한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다.
본 명세서에서 설명되는 이동 단말기에는 휴대폰, 스마트 폰(smart phone), 노트북 컴퓨터(laptop computer), 디지털방송용 단말기, PDA(Personal Digital Assistants), PMP(Portable Multimedia Player), 내비게이션 등이 포함될 수 있다.
그러나, 본 명세서에 기재된 실시예에 따른 구성은 이동 단말기에만 적용 가능한 경우를 제외하면, 디지털 TV, 데스크탑 컴퓨터 등과 같은 고정 단말기에도 적용될 수도 있음을 본 기술분야의 당업자라면 쉽게 알 수 있을 것이다.
도 1은 본 발명의 일 실시예와 관련된 이동 단말기의 블록 구성도(block diagram)이다.
상기 이동 단말기(100)는 무선 통신부(110), A/V(Audio/Video) 입력부(120), 사용자 입력부(130), 센싱부(140), 출력부(150), 메모리(160), 인터페이스부(170), 제어부(180) 및 전원 공급부(190) 등을 포함할 수 있다. 도 1에 도시된 구성요소들이 필수적인 것은 아니어서, 그보다 많은 구성요소들을 갖거나 그보다 적은 구성요소들을 갖는 이동 단말기가 구현될 수도 있다.
이하, 상기 구성요소들에 대해 차례로 살펴본다.
무선 통신부(110)는 이동 단말기(100)와 무선 통신 시스템 사이 또는 이동 단말기(100)와 이동 단말기(100)가 위치한 네트워크 사이의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 예를 들어, 무선 통신부(110)는 방송 수신 모듈(111), 이동통신 모듈(112), 무선 인터넷 모듈(113), 근거리 통신 모듈(114) 및 위치정보 모듈(115) 등을 포함할 수 있다.
방송 수신 모듈(111)은 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다.
상기 방송 채널은 위성 채널, 지상파 채널을 포함할 수 있다. 상기 방송 관리 서버는, 방송 신호 및/또는 방송 관련 정보를 생성하여 송신하는 서버 또는 기 생성된 방송 신호 및/또는 방송 관련 정보를 제공받아 단말기에 송신하는 서버를 의미할 수 있다. 상기 방송 신호는, TV 방송 신호, 라디오 방송 신호, 데이터 방송 신호를 포함할 뿐만 아니라, TV 방송 신호 또는 라디오 방송 신호에 데이터 방송 신호가 결합한 형태의 방송 신호도 포함할 수 있다.
상기 방송 관련 정보는, 방송 채널, 방송 프로그램 또는 방송 서비스 제공자에 관련한 정보를 의미할 수 있다. 상기 방송 관련 정보는, 이동통신망을 통하여도 제공될 수 있다. 이러한 경우에는 상기 이동통신 모듈(112)에 의해 수신될 수 있다.
상기 방송 관련 정보는 다양한 형태로 존재할 수 있다. 예를 들어, DMB(Digital Multimedia Broadcasting)의 EPG(Electronic Program Guide) 또는 DVB-H(Digital Video Broadcast-Handheld)의 ESG(Electronic Service Guide) 등의 형태로 존재할 수 있다.
상기 방송 수신 모듈(111)은, 예를 들어, DMB-T(Digital Multimedia Broadcasting-Terrestrial), DMB-S(Digital Multimedia Broadcasting-Satellite), MediaFLO(Media Forward Link Only), DVB-H(Digital Video Broadcast-Handheld), ISDB-T(Integrated Services Digital Broadcast-Terrestrial) 등의 디지털 방송 시스템을 이용하여 디지털 방송 신호를 수신할 수 있다. 물론, 상기 방송 수신 모듈(111)은, 상술한 디지털 방송 시스템뿐만 아니라 다른 방송 시스템에 적합하도록 구성될 수도 있다.
방송 수신 모듈(111)을 통해 수신된 방송 신호 및/또는 방송 관련 정보는 메모리(160)에 저장될 수 있다.
이동통신 모듈(112)은, 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 상기 무선 신호는, 음성 호 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.
무선 인터넷 모듈(113)은 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 이동 단말기(100)에 내장되거나 외장될 수 있다. 무선 인터넷 기술로는 WLAN(Wireless LAN)(Wi-Fi), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access) 등이 이용될 수 있다.
근거리 통신 모듈(114)은 근거리 통신을 위한 모듈을 말한다. 근거리 통신(short range communication) 기술로 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(IrDA, infrared Data Association), UWB(Ultra Wideband), ZigBee 등이 이용될 수 있다.
위치정보 모듈(115)은 이동 단말기의 위치를 획득하기 위한 모듈로서, 그의 대표적인 예로는 GPS(Global Position System) 모듈이 있다.
도 1을 참조하면, A/V(Audio/Video) 입력부(120)는 오디오 신호 또는 비디오 신호 입력을 위한 것으로, 이에는 카메라(121)와 마이크(122) 등이 포함될 수 있다. 카메라(121)는 화상 통화모드 또는 촬영 모드에서 이미지 센서에 의해 얻어지는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 처리된 화상 프레임은 디스플레이부(151)에 표시될 수 있다.
카메라(121)에서 처리된 화상 프레임은 메모리(160)에 저장되거나 무선 통신부(110)를 통하여 외부로 전송될 수 있다. 카메라(121)는 사용 환경에 따라 2개 이상이 구비될 수도 있다.
마이크(122)는 통화모드 또는 녹음모드, 음성인식 모드 등에서 마이크로폰(Microphone)에 의해 외부의 음향 신호를 입력받아 전기적인 음성 데이터로 처리한다. 처리된 음성 데이터는 통화 모드인 경우 이동통신 모듈(112)을 통하여 이동통신 기지국으로 송신 가능한 형태로 변환되어 출력될 수 있다. 마이크(122)에는 외부의 음향 신호를 입력받는 과정에서 발생하는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수 있다.
사용자 입력부(130)는 사용자가 단말기의 동작 제어를 위한 입력 데이터를 발생시킨다. 사용자 입력부(130)는 키 패드(key pad) 돔 스위치 (dome switch), 터치 패드(정압/정전), 조그 휠, 조그 스위치 등으로 구성될 수 있다.
센싱부(140)는 이동 단말기(100)의 개폐 상태, 이동 단말기(100)의 위치, 사용자 접촉 유무, 이동 단말기의 방위, 이동 단말기의 가속/감속 등과 같이 이동 단말기(100)의 현 상태를 감지하여 이동 단말기(100)의 동작을 제어하기 위한 센싱 신호를 발생시킨다. 예를 들어 이동 단말기(100)가 슬라이드 폰 형태인 경우 슬라이드 폰의 개폐 여부를 센싱할 수 있다. 또한, 전원 공급부(190)의 전원 공급 여부, 인터페이스부(170)의 외부 기기 결합 여부 등을 센싱할 수도 있다. 한편, 상기 센싱부(140)는 근접 센서(141)를 포함할 수 있다.
출력부(150)는 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것으로, 이에는 디스플레이부(151), 음향 출력 모듈(152), 알람부(153), 햅틱 모듈(154) 및 프로젝터 모듈(155) 등이 포함될 수 있다.
디스플레이부(151)는 이동 단말기(100)에서 처리되는 정보를 표시(출력)한다. 예를 들어, 이동 단말기가 통화 모드인 경우 통화와 관련된 UI(User Interface) 또는 GUI(Graphic User Interface)를 표시한다. 이동 단말기(100)가 화상 통화 모드 또는 촬영 모드인 경우에는 촬영 또는/및 수신된 영상 또는 UI, GUI를 표시한다.
디스플레이부(151)는 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display) 중에서 적어도 하나를 포함할 수 있다.
이들 중 일부 디스플레이는 그를 통해 외부를 볼 수 있도록 투명형 또는 광투과형으로 구성될 수 있다. 이는 투명 디스플레이라 호칭될 수 있는데, 상기 투명 디스플레이의 대표적인 예로는 TOLED(Transparant OLED) 등이 있다. 디스플레이부(151)의 후방 구조 또한 광 투과형 구조로 구성될 수 있다. 이러한 구조에 의하여, 사용자는 단말기 바디의 디스플레이부(151)가 차지하는 영역을 통해 단말기 바디의 후방에 위치한 사물을 볼 수 있다.
이동 단말기(100)의 구현 형태에 따라 디스플레이부(151)이 2개 이상 존재할 수 있다. 예를 들어, 이동 단말기(100)에는 복수의 디스플레이부들이 하나의 면에 이격되거나 일체로 배치될 수 있고, 또한 서로 다른 면에 각각 배치될 수도 있다.
디스플레이부(151)와 터치 동작을 감지하는 센서(이하, '터치 센서'라 함)가 상호 레이어 구조를 이루는 경우(이하, '터치 스크린'이라 함)에, 디스플레이부(151)는 출력 장치 이외에 입력 장치로도 사용될 수 있다. 터치 센서는, 예를 들어, 터치 필름, 터치 시트, 터치 패드 등의 형태를 가질 수 있다.
터치 센서는 디스플레이부(151)의 특정 부위에 가해진 압력 또는 디스플레이부(151)의 특정 부위에 발생하는 정전 용량 등의 변화를 전기적인 입력신호로 변환하도록 구성될 수 있다. 터치 센서는 터치 되는 위치 및 면적뿐만 아니라, 터치 시의 압력까지도 검출할 수 있도록 구성될 수 있다.
터치 센서에 대한 터치 입력이 있는 경우, 그에 대응하는 신호(들)는 터치 제어기로 보내진다. 터치 제어기는 그 신호(들)를 처리한 다음 대응하는 데이터를 제어부(180)로 전송한다. 이로써, 제어부(180)는 디스플레이부(151)의 어느 영역이 터치 되었는지 여부 등을 알 수 있게 된다.
도 1을 참조하면, 상기 터치스크린에 의해 감싸지는 이동 단말기의 내부 영역 또는 상기 터치 스크린의 근처에 근접 센서(141)가 배치될 수 있다. 상기 근접 센서(141)는 소정의 검출면에 접근하는 물체, 혹은 근방에 존재하는 물체의 유무를 전자계의 힘 또는 적외선을 이용하여 기계적 접촉이 없이 검출하는 센서를 말한다. 근접 센서는 접촉식 센서보다는 그 수명이 길며 그 활용도 또한 높다.
상기 근접 센서(141)의 예로는 투과형 광전 센서, 직접 반사형 광전 센서, 미러 반사형 광전 센서, 고주파 발진형 근접 센서, 정전용량형 근접 센서, 자기형 근접 센서, 적외선 근접 센서 등이 있다. 상기 터치스크린이 정전식인 경우에는 상기 포인터의 근접에 따른 전계의 변화로 상기 포인터의 근접을 검출하도록 구성된다. 이 경우 상기 터치 스크린(터치 센서)은 근접 센서로 분류될 수도 있다.
이하에서는 설명의 편의를 위해, 상기 터치스크린 상에 포인터가 접촉되지 않으면서 근접되어 상기 포인터가 상기 터치스크린 상에 위치함이 인식되도록 하는 행위를 "근접 터치(proximity touch)"라고 칭하고, 상기 터치스크린 상에 포인터가 실제로 접촉되는 행위를 "접촉 터치(contact touch)"라고 칭한다. 상기 터치스크린 상에서 포인터로 근접 터치가 되는 위치라 함은, 상기 포인터가 근접 터치될 때 상기 포인터가 상기 터치스크린에 대해 수직으로 대응되는 위치를 의미한다.
근접 센서(141)는, 근접 터치와, 근접 터치 패턴(예를 들어, 근접 터치 거리, 근접 터치 방향, 근접 터치 속도, 근접 터치 시간, 근접 터치 위치, 근접 터치 이동 상태 등)을 감지한다. 상기 감지된 근접 터치 동작 및 근접 터치 패턴에 상응하는 정보는 터치 스크린상에 출력될 수 있다.
음향 출력 모듈(152)은 호신호 수신, 통화모드 또는 녹음 모드, 음성인식 모드, 방송수신 모드 등에서 무선 통신부(110)로부터 수신되거나 메모리(160)에 저장된 오디오 데이터를 출력할 수 있다. 음향 출력 모듈(152)은 이동 단말기(100)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음 등)과 관련된 음향 신호를 출력하기도 한다. 이러한 음향 출력 모듈(152)에는 리시버(Receiver), 스피커(speaker), 버저(Buzzer) 등이 포함될 수 있다.
알람부(153)는 이동 단말기(100)의 이벤트 발생을 알리기 위한 신호를 출력한다. 이동 단말기에서 발생 되는 이벤트의 예로는 호 신호 수신, 메시지 수신, 키 신호 입력, 터치 입력 등이 있다. 알람부(153)는 비디오 신호나 오디오 신호 이외에 다른 형태, 예를 들어 진동으로 이벤트 발생을 알리기 위한 신호를 출력할 수도 있다. 상기 비디오 신호나 오디오 신호는 디스플레이부(151)나 음성 출력 모듈(152)을 통해서도 출력될 수 있어서, 그들(151,152)은 알람부(153)의 일부로 분류될 수도 있다.
햅틱 모듈(haptic module)(154)은 사용자가 느낄 수 있는 다양한 촉각 효과를 발생시킨다. 햅틱 모듈(154)이 발생시키는 촉각 효과의 대표적인 예로는 진동이 있다. 햅틱 모듈(154)이 발생하는 진동의 세기와 패턴 등은 제어가능하다. 예를 들어, 서로 다른 진동을 합성하여 출력하거나 순차적으로 출력할 수도 있다.
햅틱 모듈(154)은, 진동 외에도, 접촉 피부면에 대해 수직 운동하는 핀 배열, 분사구나 흡입구를 통한 공기의 분사력이나 흡입력, 피부 표면에 대한 스침, 전극(eletrode)의 접촉, 정전기력 등의 자극에 의한 효과와, 흡열이나 발열 가능한 소자를 이용한 냉온감 재현에 의한 효과 등 다양한 촉각 효과를 발생시킬 수 있다.
햅틱 모듈(154)은 직접적인 접촉을 통해 촉각 효과의 전달할 수 있을 뿐만 아니라, 사용자가 손가락이나 팔 등의 근 감각을 통해 촉각 효과를 느낄 수 있도록 구현할 수도 있다. 햅틱 모듈(154)은 이동 단말기(100)의 구성 태양에 따라 2개 이상이 구비될 수 있다.
프로젝터 모듈(155)은, 이동 단말기(100)를 이용하여 이미지 프로젝트(project) 기능을 수행하기 위한 구성요소로서, 제어부(180)의 제어 신호에 따라 디스플레이부(151)상에 디스플레이되는 영상과 동일하거나 적어도 일부가 다른 영상을 외부 스크린 또는 벽에 디스플레이할 수 있다.
구체적으로, 프로젝터 모듈(155)은, 영상을 외부로 출력하기 위한 빛(일 예로서, 레이저 광)을 발생시키는 광원(미도시), 광원에 의해 발생한 빛을 이용하여 외부로 출력할 영상을 생성하기 위한 영상 생성 수단 (미도시), 및 영상을 일정 초점 거리에서 외부로 확대 출력하기 위한 렌즈(미도시)를 포함할 수 있다. 또한, 프로젝터 모듈(155)은, 렌즈 또는 모듈 전체를 기계적으로 움직여 영상 투사 방향을 조절할 수 있는 장치(미도시)를 포함할 수 있다.
프로젝터 모듈(155)은 디스플레이 수단의 소자 종류에 따라 CRT(Cathode Ray Tube) 모듈, LCD(Liquid Crystal Display) 모듈 및 DLP(Digital Light Processing) 모듈 등으로 나뉠 수 있다. 특히, DLP 모듈은, 광원에서 발생한 빛이 DMD(Digital Micromirror Device) 칩에 반사됨으로써 생성된 영상을 확대 투사하는 방식으로 프로젝터 모듈(151)의 소형화에 유리할 수 있다.
바람직하게, 프로젝터 모듈(155)은, 이동 단말기(100)의 측면, 정면 또는 배면에 길이 방향으로 구비될 수 있다. 물론, 프로젝터 모듈(155)은, 필요에 따라 이동 단말기(100)의 어느 위치에라도 구비될 수 있음은 당연하다.
메모리(160)는 제어부(180)의 동작을 위한 프로그램을 저장할 수 있고, 입/출력되는 데이터들(예를 들어, 폰북, 메시지, 정지영상, 동영상 등)을 임시 저장할 수도 있다. 상기 메모리(160)는 상기 터치스크린 상의 터치 입력시 출력되는 다양한 패턴의 진동 및 음향에 관한 데이터를 저장할 수 있다.
메모리(160)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(Random Access Memory, RAM), SRAM(Static Random Access Memory), 롬(Read-Only Memory, ROM), EEPROM(Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory), 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 이동 단말기(100)는 인터넷(internet)상에서 상기 메모리(160)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작할 수도 있다.
인터페이스부(170)는 이동 단말기(100)에 연결되는 모든 외부기기와의 통로 역할을 한다. 인터페이스부(170)는 외부 기기로부터 데이터를 전송받거나, 전원을 공급받아 이동 단말기(100) 내부의 각 구성 요소에 전달하거나, 이동 단말기(100) 내부의 데이터가 외부 기기로 전송되도록 한다. 예를 들어, 유/무선 헤드셋 포트, 외부 충전기 포트, 유/무선 데이터 포트, 메모리 카드(memory card) 포트, 식별 모듈이 구비된 장치를 연결하는 포트, 오디오 I/O(Input/Output) 포트, 비디오 I/O(Input/Output) 포트, 이어폰 포트 등이 인터페이스부(170)에 포함될 수 있다.
식별 모듈은 이동 단말기(100)의 사용 권한을 인증하기 위한 각종 정보를 저장한 칩으로서, 사용자 인증 모듈(User Identify Module, UIM), 가입자 인증 모듈(Subscriber Identify Module, SIM), 범용 사용자 인증 모듈(Universal Subscriber Identity Module, USIM) 등을 포함할 수 있다. 식별 모듈이 구비된 장치(이하 '식별 장치')는, 스마트 카드(smart card) 형식으로 제작될 수 있다. 따라서 식별 장치는 포트를 통하여 단말기(100)와 연결될 수 있다.
인터페이스부(170)는 이동 단말기(100)가 외부 크래들(cradle)과 연결될 때 상기 크래들로부터의 전원이 상기 이동 단말기(100)에 공급되는 통로가 되거나, 사용자에 의해 상기 크래들에서 입력되는 각종 명령 신호가 상기 이동 단말기(100)로 전달되는 통로가 될 수 있다. 상기 크래들로부터 입력되는 각종 명령 신호 또는 상기 전원은 상기 이동 단말기(100)가 상기 크래들에 정확히 장착되었음을 인지하기 위한 신호로 동작할 수도 있다.
제어부(180)는 통상적으로 이동 단말기(100)의 전반적인 동작을 제어한다. 예를 들어 음성 통화, 데이터 통신, 화상 통화 등을 위한 관련된 제어 및 처리를 수행한다. 제어부(180)는 멀티 미디어 재생을 위한 멀티미디어 모듈(181)을 구비할 수도 있다. 멀티미디어 모듈(181)은 제어부(180) 내에 구현될 수도 있고, 제어부(180)와 별도로 구현될 수도 있다.
제어부(180)는 상기 터치스크린 상에서 행해지는 필기 입력 또는 그림 그리기 입력을 각각 문자 및 이미지로 인식할 수 있는 패턴 인식 처리를 행할 수 있다.
전원 공급부(190)는 제어부(180)의 제어에 의해 외부의 전원, 내부의 전원을 인가받아 각 구성요소들의 동작에 필요한 전원을 공급한다.
여기에 설명되는 다양한 실시예는 예를 들어, 소프트웨어, 하드웨어 또는 이들의 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 장치로 읽을 수 있는 기록매체 내에서 구현될 수 있다.
하드웨어적인 구현에 의하면, 여기에 설명되는 실시예는 ASICs (application specific integrated circuits), DSPs (digital signal processors), DSPDs (digital signal processing devices), PLDs (programmable logic devices), FPGAs (field programmable gate arrays, 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적인 유닛 중 적어도 하나를 이용하여 구현될 수 있다. 일부의 경우에 본 명세서에서 설명되는 실시예들이 제어부(180) 자체로 구현될 수 있다.
소프트웨어적인 구현에 의하면, 본 명세서에서 설명되는 절차 및 기능과 같은 실시예들은 별도의 소프트웨어 모듈들로 구현될 수 있다. 상기 소프트웨어 모듈들 각각은 본 명세서에서 설명되는 하나 이상의 기능 및 작동을 수행할 수 있다. 적절한 프로그램 언어로 쓰여진 소프트웨어 애플리케이션으로 소프트웨어 코드가 구현될 수 있다. 상기 소프트웨어 코드는 메모리(160)에 저장되고, 제어부(180)에 의해 실행될 수 있다.
이하, 도 2를 참조하여 디스플레이부(151)와 터치 패드(미도시)의 서로 연관된 작동 방식에 대하여 살펴본다. 도 2는 본 발명과 관련된 이동 단말기의 일 작동 상태를 설명하기 위한 이동 단말기의 정면도이다.
디스플레이부(151)에는 다양한 종류의 시각 정보들이 표시될 수 있다. 이들 정보들은 문자, 숫자, 기호, 그래픽, 또는 아이콘 등의 형태로 표시될 수 있다.
이러한 정보의 입력을 위하여 상기 문자, 숫자, 기호, 그래픽 또는 아이콘 들 중 적어도 하나는 일정한 배열을 이루어 표시됨으로써 키패드의 형태로 구현될 수 있다. 이러한 키패드는 소위 '가상 키패드'(virtual keypad)라 불릴 수 있다.
디스플레이부(151)는 전체 영역으로 작동되거나, 복수의 영역들로 나뉘어져 작동될 수 있다. 후자의 경우, 상기 복수의 영역들은 서로 연관되게 작동되도록 구성될 수 있다.
예를 들어, 디스플레이부(151)의 상부와 하부에는 출력창(151a)과 입력창(151b)이 각각 표시된다. 출력창(151a)과 입력창(151b)은 각각 정보의 출력 또는 입력을 위해 할당되는 영역이다. 입력창(151b)에는 전화 번호 등의 입력을 위한 숫자가 표시된 가상 키패드(151c)가 출력된다. 가상 키패드(151c)가 터치되면, 터치된 가상 키패드에 대응되는 숫자 등이 출력창(151a)에 표시된다. 제1조작 유닛(131)이 조작되면 출력창(151a)에 표시된 전화번호에 대한 호 연결이 시도된다.
본 명세서에서 언급되는 이동 단말기는 도 1에 도시된 구성요소들 중 적어도 하나를 포함할 수 있고, 경우에 따라 도 1에 도시되지 않은 구성요소를 포함할 수도 있다.
본 명세서에서 언급되는 터치 스크린은, 하나의 포인터에 의한 싱글 터치 및 적어도 두 개의 포인터 각각에 의한 멀티 터치를 입력받을 수 있는 인터페이스를 구성할 수 있다. 예를 들어, 멀티 터치에는, 두 개의 터치점을 갖는 멀티 터치 및 터치점 개수에 제약이 없는 멀티 터치{다른 표현으로, 멀티 터치 올-포인트(multi touch all-point) 방식}가 포함될 수 있다. 또한, 터치 스크린은, 디스플레이부의 일례로서 그것과 동일한 참조번호 151을 부여받을 수 있다.
특히, 본 발명에서는, 멀티 터치 올-포인트 방식에 의한 터치 인식 방법을 설명하도록 한다. 여기에서, 멀티 터치 올-포인트 방식은, 터치 스크린에 터치되는 모든 터치점들에 대한 터치 정보를 획득할 수 있고, 구체적으로 모든 터치점들을 세분화하여 저수준(raw) 단계의 터치 정보를 얻을 수 있다.
이하에서는, 첨부된 도면들을 참조하여 본 발명에 따른 터치 인식 방법을 상세히 설명한다.
도 3은, 본 발명의 일 실시예와 관련된 이동 단말기의 터치 인식 방법의 제 1 흐름도이다.
도 3에 도시된 바와 같이, 이동 단말기(100)는, 터치 스크린(151)을 이용하여 복수의 터치를 동시에 입력받는다(S310).
여기에서, 복수의 터치를 동시에 입력받기 위하여, 복수의 포인터(예를 들어, 손가락 또는 스타일러스 펜 등)를 이용하여 복수의 터치를 각각 입력받을 수 있다.
예를 들어, 복수의 터치는, 동일한 지점에 대한 적어도 두 개의 터치, 동일한 방향으로 이동하는 적어도 두 개의 터치, 제 1 방향으로의 이동하는 적어도 두 개의 터치 및 제 2 방향(제 1 방향의 반대 방향)으로 이동하는 적어도 두 개의 터치, 일 지점으로 모이도록 이동하는 적어도 두 개의 터치, 일 지점에서 분산 이동하는 적어도 두 개의 터치 등이 포함될 수 있다.
또한, 터치 스크린(151)은, 복수의 터치를 입력받기 위한 인터페이스를 구비할 수 있고, 특히 멀티 터치 올-포인트에 적합한 인터페이스를 구비할 수 있다.
터치 스크린(151)의 작동 원리에 대하여 일 예를 들어 구체적으로 설명하도록 한다.
터치 스크린(151)은, FTIR(Fourier transform infrared) 기술을 이용하여 멀티 터치를 감지할 수 있다. FTIR 기술은 터치면 아래에서 적외선 조명을 이용하여 전반가사 잘 일어나도록 구성하고, 조명 빛은 터치가 없는 경우에는 스크린 표면 안에서 돌아다니고 터치가 있는 경우 분산된다. 그리고, 분산된 빛이 적외선 카메라로 입력될 수 있다.
이동 단말기(100)는, 카메라(미도시)를 이용하여 상기 입력되는 복수의 터치를 포함하는 복수의 영상을 일정 시간 동안 연속 입력받는다(S320).
여기에서, 카메라는, 외부 영상 촬영 또는 셀프 촬영을 위하여 구비된 카메라(121, 121')와 별개로 구비된 카메라로서, 터치 스크린(151) 아래에서 터치 스크린(151)에 대한 터치를 포함하는 영상을 입력받기 위하여 구비될 수 있다. 예를 들어, 카메라는, 적외선 카메라를 포함할 수 있다.
또한, 복수의 영상 각각에는, 상기 입력된 복수의 터치가 모두 포함될 수 있다. 일정 시간 또는 입력 영상 개수는, 자동 설정되거나 사용자 선택에 따라 설정될 수도 있다.
이동 단말기(100)는, 제어부(180)의 제어에 따라, 복수의 영상 각각에 포함된 복수의 터치 각각의 터치 패턴 및 터치 패턴 변화를 복수의 영상 각각에 대하여 판단한다(S330).
이동 단말기(100)는, 판단 단계(S330) 이전에 상기 입력된 복수의 영상 각각을 전처리(또는 영상 처리)할 수 있다. 이는, 복수의 터치 각각에 의한 터치점(또는 터치 영역)을 정확하게 판단하기 위함이다.
더욱 구체적으로, 제어부(180)는, 카메라(특히, 적외선 카메라)를 이용하여 입력된 복수의 영상 각각에 대하여, 배경 제거 및 잡음 제거를 위한 모폴로지(morphology), 평활화(smoothing) 등의 영상 처리 기법을 이용하여 전처리할 수 있다. 예를 들어, 도 4에 의하면, 복수의 터치(401 내지 405)를 포함하는 입력 영상(a)을 전처리한 결과 영상(b)을 도시한다.
판단 단계(S330)에서 이동 단말기(100)는, 복수의 영상에서 각각에 해당하는 터치 패턴을 판단하고, 복수의 영상 중 이전 영상과 다음 영상에서의 터치 패턴을 이용하여 터치 패턴 변화를 판단할 수 있다.
판단 단계(S330)에서 이동 단말기(100)는, 터치 패턴으로서, 터치 개수, 터치 지점, 터치 면적, 터치 모양 중 적어도 하나를 판단하고, 터치 패턴 변화로서, 터치 개수 변화, 터치 지점 변화, 터치 면적 변화, 터치 모양 변화 중 적어도 하나를 판단할 수 있다.
더 나아가, 판단 단계(S330)에서 이동 단말기(100)는, 터치 지점 변화에 근거하여 상기 입력된 복수의 터치 각각의 이동 거리, 이동 방향, 다른 터치와의 사이 거리 등을 판단할 수 있다.
판단 단계(S330)에서 이동 단말기(100)는, 복수의 터치 각각에 의한 터치점의 개수, 면적, 형태를 추출하기 위한 레이블링(Labeling)을 수행할 수 있다. 여기에서, 레이블링은, 복수의 터치를 포함하는 영상의 화소들이 하나의 블롭(blob)으로 이루어져 있다면 각 블롭에 해당 번호를 매김으로써 각 블롭 또는 각 블롭 번호에 해당하는 터치점을 개별화할 수 있다. 또한, 이렇게 개별화된 터치점들은 트래킹을 통하여 이동 경로 및 이동 방향이 추정될 수 있다.
또한, 판단 단계(S330)에서 이동 단말기(100)는, 터치점이 일정 거리 이상 이동하면 터치점의 방향 변화를 인지할 수 있고, 더욱 구체적으로 터치점이 매 영상 간 일정 픽셀 이상 이동하였을 때 터치 이동을 인지할 수 있다.
또한, 판단 단계(S330)에서 이동 단말기(100)는, 제어부(180)의 제어에 따라, 상기 판단된 이동 방향(터치 패턴 변화의 일례)이 동일/유사한 적어도 두 개의 터치를 포함하는 적어도 하나의 터치 그룹을 생성하고, 상기 생성된 터치 그룹에 속하는 적어도 두 개의 터치를 하나의 대표 터치로 인식할 수 있다.
예를 들어, 제어부(180)는, 대표 터치로서, 적어도 두 개의 터치의 무게 중심에 대한 터치를 인식하거나, 적어도 두 개의 터치 중 임의의 하나를 인식하거나, 적어도 두 개의 터치 중 터치 패턴 변화가 큰(또는 작은) 터치를 인식하거나, 적어도 두 개의 터치의 중간 지점에 대한 터치를 인식할 수 있다.
이동 단말기(100)는, 제어부(180)의 제어에 따라, 판단 단계(S330)에서의 판단 결과에 따라 상기 입력된 복수의 터치에 의한 제스처(gesture)를 인식한다(S340).
이동 단말기(100)는, 메모리(160)에 터치 패턴 및 터치 패턴 변화에 상응하는 제스처에 대한 정보를 저장할 수 있다. 예를 들어, 터치 패턴/터치 패턴 변화 별 제스처를 테이블 형태로 저장할 수도 있다. 따라서, 제어부(180)는, 상기 저장된 정보를 이용하여, 입력된 터치의 터치 패턴 및 터치 패턴 변화에 해당하는 제스처를 인식할 수 있다.
인식 단계(S340)에서 이동 단말기(100)는, 대표 터치(상술함)의 이동 거리(이하 대표 이동 거리) 및 대표 터치의 이동 방향(이하 대표 이동 방향)에 상응하도록 이동 제스처 및 스크롤 제스처 중 적어도 하나를 인식할 수 있다.
또한, 인식 단계(S340)에서 이동 단말기(100)는, 상기 생성된 터치 그룹이 제 1 및 제 2 터치 그룹을 포함하는 경우, 제 1 및 제 2 터치 그룹 각각에 해당하는 제 1 및 제 2 대표 터치의 사이 거리(이하 대표 사이 거리)를 판단하고, 상기 판단된 대표 사이 거리가 증가하는 경우 확대 제스처를 인식하고, 상기 판단된 대표 사이 거리가 감소하는 경우 축소 제스처를 인식할 수 있다.
제스처 인식에 관련하여, 도 5a 내지 도 5d를 참조하여 이하에서 상세히 설명한다. 설명의 편의를 위하여, 포인터를 사용자 손가락으로 한정하도록 한다.
도 5a에 의하면, 이동 단말기(100)는, 한 손가락을 누르고 있는 상태에서 다른 손가락으로 두드리는 동작을 입력받거나 두 개의 손가락으로 동시에 두드리는 동작을 입력받는 경우(511), 클릭 제스처를 인식할 수 있다(510).
또한, 이동 단말기(100)는, 한 손가락을 누르고 있는 상태에서 다른 손가락으로 두 번 두드리는 동작을 입력받거나(521) 두 손가락으로 동시에 두 번 두드리는 동작을 입력받는 경우(522), 더블 클릭 제스처를 인식할 수 있다(520).
도 5b에 의하면, 이동 단말기(100)는, 복수의 손가락이 동일한 방향으로 이동하는 경우(531 또는 532), 이동 제스처 또는 스크롤 제스처를 인식할 수 있다(530). 더욱 구체적으로, 이동 단말기(100)는, 복수의 손가락의 이동 방향 및 이동 거리에 상응하는 이동 제스처 또는 스크롤 제스처를 인식할 수 있다.
더 나아가, 이동 단말기(100)는, 복수의 손가락에 의한 복수의 터치를 포함하는 터치 그룹을 생성하고, 상기 생성된 터치 그룹의 대표 터치의 이동 방향 및 이동 거리에 상응하는 이동 제스처 또는 스크롤 제스처를 인식할 수 있다.
또한, 이동 단말기(100)는, 복수의 손가락이 동일한 방향으로 빠른 속도로 튕기는 동작을 입력받는 경우(541, 542), 이동 제스처 또는 튕김 제스처를 인식할 수 있다. 더욱 구체적으로, 이동 단말기(100)는, 복수의 손가락의 이동 방향 및 이동 속도에 상응하는 이동 제스처 또는 튕김 제스처를 인식할 수 있다.
더 나아가, 이동 단말기(100)는, 복수의 손가락에 의한 복수의 터치를 포함하는 터치 그룹을 생성하고, 상기 생성된 터치 그룹의 대표 터치의 이동 방향 및 이동 속도에 상응하는 이동 제스처 또는 튕김 제스처를 인식할 수 있다.
도 5c에 의하면, 이동 단말기(100)는, 제 1 방향으로 이동하는 제 1 복수의 손가락과 제 1 방향과 반대되는 방향으로 이동하는 제 2 복수의 손가락의 드래그 동작을 입력받거나(제 1 및 제 2 복수의 손가락 간 사이 거리가 점차 멀어짐)(551) 일 지점으로부터 나가는 방향으로 이동하는 복수의 손가락의 드래그 동작을 입력받거나(552) 두 개의 손가락이 터치된 상태에서 손가락 방향이 안에서 밖으로 회전하는 동작(터치 모양의 변화)을 입력받는 경우(553), 확대 제스처를 인식할 수 있다.
또한, 이동 단말기(100)는, 제 1 방향으로 이동하는 제 1 복수의 손가락과 제 1 방향과 반대되는 방향으로 이동하는 제 2 복수의 손가락의 드래그 동작을 입력받거나(제 1 및 제 2 복수의 손가락 간 사이 거리가 점차 가까워짐)(561) 일 지점으로 모이는 방향으로 이동하는 복수의 손가락의 드래그 동작을 입력받거나(562) 두 개의 손가락이 터치된 상태에서 손가락 방향이 밖에서 안으로 회전하는 동작(터치 모양의 변화)을 입력받는 경우(563), 축소 제스처를 인식할 수 있다.
더욱 구체적으로, 이동 단말기(100)는, 이동 거리 또는 사이 거리에 비례하는 확대 정도 또는 축소 정도를 갖는 확대 제스처 또는 축소 제스처를 인식할 수 있고, 회전 동작에 의한 각도 변화량에 비례하는 확대 정도 또는 축소 정도를 갖는 확대 제스처 또는 축소 제스처를 인식할 수 있다.
더 나아가, 이동 단말기(100)는, 제 1 복수의 손가락에 해당하는 제 1 터치 그룹 및 제 2 복수의 손가락에 해당하는 제 2 터치 그룹을 생성할 수 있다. 따라서, 제 1 및 제 2 터치 그룹 각각의 제 1 및 제 2 대표 터치 각각의 대표 이동 거리, 대표 사이 거리 또는 대표 각도 변화량에 비례하는 확대 정도 또는 축소 정도를 갖는 확대 제스처 또는 축소 제스처를 인식할 수 있다.
도 5d에 의하면, 이동 단말기(100)는, 두 개 이상의 손가락으로 원을 그리는 동작을 입력받거나(571 또는 572) 두 개 이상의 손가락이 터치된 상태에서 한 개 이상의 손가락이 정지되어 있고 나머지 손가락으로 원을 그리는 동작을 입력받는 경우(573), 회전 제스처를 인식할 수 있다. 더욱 구체적으로, 이동 단말기(100)는, 원을 그리는 동작의 회전 방향으로의 회전 제스처를 인식할 수 있고, 원을 그리는 동작의 각도 변화량만큼 회전각을 갖는 회전 제스처를 인식할 수 있다.
물론, 제스처는, 상기한 예시들에 한정되지 않고 동시 입력된 복수의 터치에 의한 다양한 형태의 제스처를 포함할 수 있다.
이하에서는, 터치 패턴 및 터치 패턴 변화의 구체적인 실시예에 따른 터치 인식 방법에 대하여 상세히 살펴보도록 한다.
도 6은, 본 발명의 일 실시예와 관련된 이동 단말기의 터치 인식 방법의 제 2 흐름도이다.
도 6에 의하면, 이동 단말기(100)는, 제어부(180)의 제어에 따라, 복수의 영상 각각에 포함된 복수의 터치 각각의 터치 패턴 및 터치 패턴 변화를 판단한다(S601). 판단 단계(S601)는, 도 3의 판단 단계(S330)와 동일하므로 판단 단계(S330)에 대하여 상술한 설명 부분을 참조하도록 한다.
이동 단말기(100)는, 제어부(180)의 제어에 따라, 터치 개수의 변화를 판단한다(S603). 터치 개수의 변화 여부는, 복수의 관측 대상 영상 각각에서의 터치 개수 변화 정보를 이용하여 판단될 수 있다.
이동 단말기(100)는, 제어부(180)의 제어에 따라, 터치 개수가 변화하였다고 판단된 경우, 클릭 제스처 또는 더블 클릭 제스처를 인식할 수 있다(S605). 예를 들어, 터치 개수 변화에 해당하는 클릭 제스처 또는 더블 클릭 제스처는, 한 손가락이 정지된 상태에서 다른 손가락에 의한 한 번 두드림 또는 두 번 두드림 동작(도 5a의 511, 521)에 의해 인식될 수 있다.
이동 단말기(100)는, 제어부(180)의 제어에 따라, 터치 개수가 변화하지 않았다고 판단된 경우, 이동 거리 변화 여부를 판단하거나(S607) 또는 각도 값 변화 여부를 판단할 수 있다(S609).
더욱 구체적으로, 이동 단말기(100)는, 복수의 터치에 의한 복수의 터치점의 무게 중심점을 구하고, 무게 중심점으로부터 복수의 터치점까지의 평균 이동 거리를 산출하고, 무게 중심점을 기준으로 복수의 터치점 각각의 각도 값 및 평균 각도 값을 산출할 수 있다.
제어부(180)는, 수학식 1을 이용하여 무게 중심점의 좌표값을 산출할 수 있다.
Figure 112010087036458-pat00001
N 터치점의 개수
Figure 112010087036458-pat00002
터치 좌표
C 무게 중심점의 좌표 값
먼저, 이동 거리 변화 여부 판단 과정(S607)에 대하여 살펴본다. 설명의 편의를 위하여, 도 7a에 도시된 바와 같이, 관측 대상 영상(또는 프레임)(710) 중 터치 지속 영상(또는 프레임)(710-1, 현재 영상_711)이 포함된다고 가정한다.
제어부(180)는, 수학식 2를 이용하여 무게 중심점과 모든 터치점과의 거리 평균값을 산출할 수 있다.
Figure 112010087036458-pat00003
Figure 112010087036458-pat00004
터치 좌표
제어부(180)는, 수학식 2를 이용하여 산출된 값을 수학식 3에 대입하여, 터치 지속 영상들 동안 복수의 터치의 평균 이동 거리를 산출할 수 있다.
Figure 112010087036458-pat00005
Nt 관측 대상 영상 수
Nk 터치 지속 영상 수
이동 단말기(100)는, 제어부(180)의 제어에 따라, 상기 판단 결과 복수의 터치의 평균 이동 거리가 변화하였다고 판단되는 경우, 이동 방향이 서로 상이한 제 1 및 제 2 복수의 터치 각각의 사이 거리의 증가 여부를 판단한다(S611). 예를 들어, 제 1 복수의 터치는 오른 방향으로 이동하고, 제 2 복수의 터치는 왼 방향으로 이동할 수 있다.
이동 단말기(100)는, 제어부(180)의 제어에 따라, 상기 판단 결과 사이 거리가 증가한 경우(Yes) 확대 제스처를 인식하고(S613), 상기 판단 결과 사이 거리가 감소한 경우(No) 축소 제스처를 인식할 수 있다(S615). 더 나아가, 이동 단말기(100)는, 상기 판단 결과 사이 거리가 변하지 않은 경우(No, 이동 방향이 동일한 경우에 해당함), 이동 방향으로의 평균 이동 거리 만큼의 이동 제스처 또는 스크롤 제스처를 인식할 수 있다.
더욱 구체적으로, 이동 단말기(100)는, S613에서 사이 거리의 증가 정도에 비례하는 확대 정도를 가지는 확대 제스처를 인식하고, S615에서 사이 거리의 감소 정도에 비례하는 축소 정도를 가지는 축소 제스처를 인식할 수 있다.
다음으로, 각도 값 변화 여부 판단 과정(S609)에 대하여 살펴본다.
제어부(180)는, 수학식 4를 이용하여 무게 중심점과 모든 터치점과의 각도값을 산출할 수 있다.
예를 들어, 도 7b(a)에 도시된 바와 같이, 제 1 내지 제 3 터치 각각에 상응하는 제 1 내지 제 2 터치점(ID1_721, ID2_722, ID3_723)이 존재하고, 제 1 내지 제 2 터치점(ID1_721, ID2_722, ID3_723) 각각에 대한 각도값은, 무게 중심(C_720)을 중심으로 θ1, θ2, θ3임을 알 수 있다. 더 나아가, 도 7b(b)에 의하면, 터치점의 모양을 도시한다. 이때, 터치점의 모양은, 직교좌표계상에서 장축의 기울기로 나타낼 수 있고, 터치점의 면적은, 터치 픽셀의 개수로 나타낼 수 있다.
Figure 112010087036458-pat00006
제어부(180)는, 수학식 4를 이용하여 산출된 값을 수학식 5에 대입함에 따라 터치 지속 영상들 동안 모든 터치점의 각도 변화값을 산출할 수 있다.
Figure 112010087036458-pat00007
또한, 제어부(180)는, 수학식 5를 이용하여 산출된 값을 수학시 6에 대입함에 따라 터치 지속 영상들 동안 모든 터치점의 각도 변화값의 평균값을 산출할 수 있다.
Figure 112010087036458-pat00008
더 나아가, 제어부(180)는, 터치 지속 영상들 동안의 각 터치점의 면적 및 모양 변화값을 및 그것의 평균값을 산출할 있다. 또한, 제어부(180)는, 무게 중심점의 이동 경로를 파악할 수도 있다(수학식 1을 이용).
이동 단말기(100)는, 판단 결과(S609) 복수의 터치의 모든 각도 변화값의 평균값이 변화하였다고 판단되는 경우(Yes), 제어부(180)의 제어에 따라 회전 제스처를 인식할 수 있다(S637).
더욱 구체적으로, S637에서 이동 단말기(100)는, 각도 변화값의 평균값에 비례하는 회전 정도를 가지는 회전 제스처를 인식할 수 있다.
한편, 이동 단말기(100)는, 판단 결과(S607 또는 S609)에서 모든 터치(또는 터치점)의 평균 이동 거리 또는 평균 각도 값이 변화하지 않았다고 판단되는 경우(No), 무게 중심 이동 여부를 판단한다(S617).
이때, 제어부(180)는, 터치 지속 영상들 중 전후 영상에서의 무게 중심점의 좌표를 산출하여 (수학식 1 이용), 무게 중심점의 이동 여부를 판단할 수 있다.
이동 단말기(100)는, 판단 결과(S617) 무게 중심점이 이동하였다고 판단되는 경우, 제어부(180)의 제어에 따라, 이동 제스처 또는 튕김 제스처를 인식할 수 있다(S635).
더욱 구체적으로, 이동 단말기(100)는, S635에서 무게 중심점의 이동 정도에 비례하는 이동 거리를 갖는 이동 제스처 또는 튕김 속도를 갖는 튕김 제스처를 인식할 수 있다.
한편, 이동 단말기(100)는, 판단 결과(S617) 무게 중심점이 이동하지 않았다고 판단되는 경우(No), 제어부(180)의 제어에 따라 터치 면적 변화 여부를 판단하거나(S619) 또는 터치 모양 변화 여부를 판단할 수 있다(S623).
이동 단말기(100)는, 제어부(180)의 제어에 따라, 판단 결과(S619) 터치 면적이 변화하였다고 판단되는 경우(Yes), 터치 면적이 증가하였다면 확대 제스처를 터치 면적이 감소하였다면 축소 제스처를 인식할 수 있다(S621). 한편, 이동 단말기(100)는, 판단 결과(S619) 터치 면적이 변화하지 않았다고 판단되는 경우(No) 터치 동작의 지연(delay)을 인식할 수 있다.
더욱 구체적으로, S621에서 이동 단말기(100)는, 터치 면적의 증가 정도에 비례하는 확대 정도를 가지는 확대 제스처를 인식하거나, 터치 면적의 감소 정도에 비례하는 축소 정도를 가지는 축소 제스처를 인식할 수 있다.
또한, 이동 단말기(100)는, 제어부(180)의 제어에 따라, 판단 결과(S623) 터치 모양이 변화하였다고 판단되는 경우(Yes) 터치 개수가 한 개인지를 판단한다(S625). 한편, 이동 단말기(100)는, 판단 결과(S623) 터치 모양이 변화하지 않았다고 판단되는 경우(No) 터치 동작의 지연(delay)을 인식할 수 있다.
그리고, 이동 단말기(100)는, 제어부(180)의 제어에 따라, 판단 결과(S625) 터치 개수가 한 개라고 판단되는 경우(Yes) 회전 제스처를 인식할 수 있다(S633). 더욱 구체적으로, S633에서 인식된 회전 제스처는, S637에서 인식된 회전 제스처에 비교하여 미세한 회전 정도를 가질 수 있다.
한편, 이동 단말기(100)는, 제어부(180)의 제어에 따라, 판단 결과(S625) 터치 개수가 한 개가 아니라고 판단되는 경우, 회전 값의 증가 여부를 판단할 수 있다(S627).
이동 단말기(100)는, 제어부(180)의 제어에 따라, 판단 결과(S627) 회전 값이 증가하였다고 판단되는 경우(Yes) 확대 제스처를 인식하고(S629), 회전 값이 감소하였다고 판단되는 경우(No) 축소 제스처를 인식할 수 있다(S631).
이때, S629의 확대 제스처는, S613의 확대 제스처에 비교하여 미세한 확대 정도를 가질 수 있고, S631의 축소 제스처는, S615의 축소 제스처에 비교하여 미세한 축소 정도를 가질 수 있다.
또한, S629에서 이동 단말기(100)는, 회전 값의 증가 정도 또는 감소 정도에 비례하는 확대 정도 또는 축소 정도를 가지는 확대 제스처 또는 축소 제스처를 인식할 수 있다.
이하에서는, 도 8a 내지 도 8i를 참조하여 복수의 영상을 이용한 제스처 인식 과정을 상세히 설명한다.
설명의 편의를 위하여, 이하에서 언급되는 제 1 내지 제 3 영상은, 터치 지속 영상을 구성하고, 순차적으로 입력된다고 가정한다.
도 8a에 의하면, 이동 단말기(100)는, 제 1 및 제 2 영상에서 두 개의 손가락을 이용하여 동시에 두드리는 동작이 각각 확인되는 경우, 더블 클릭 제스처(도 5a의 522)를 인식할 수 있다.
도 8b에 의하면, 이동 단말기(100)는, 제 1 및 제 2 영상에서 복수 개의 손가락이 오른 방향으로 이동하는 동작이 각각 확인되고, 결과 영상에서 제 1 영상에서 제 2 영상으로 갈수록 터치점의 위치가 점차 오른쪽을 이동하는 것을 확인할 수 있으므로, 오른 방향으로의 이동 제스처(도 5b의 532)를 인식할 수 있다.
도 8c(a)에 의하면, 이동 단말기(100)는, 제 1 내지 제 3 영상에서 제 1 복수의 터치(왼쪽에 위치한 4개의 터치) 및 제 2 복수의 터치(오른쪽에 위치한 4개의 터치)의 사이 거리가 점차 증가하는 경우, 확대 제스처(도 5c의 551)를 인식할 수 있다.
또한, 도 8c(b)에 의하면, 이동 단말기(100)는, 제 1 복수의 터치를 포함하는 제 1 터치 그룹(810) 및 제 2 복수의 터치를 포함하는 제 2 터치 그룹(820)을 생성하고, 제 1 복수의 터치의 무게 중심을 제 1 터치 그룹(810)의 제 1 대표 터치(811)로 제 2 복수의 터치의 무게 중심을 제 2 터치 그룹(820)의 제 2 대표 터치(821)로 인식할 수 있다. 그리고, 이동 단말기(100)는, 제 1 내지 제 3 영상에서 제 1 내지 제 2 대표 터치(811, 821) 간의 사이 거리가 증가하는 경우, 확대 제스처를 인식할 수 있다.
도 8d 또는 도 8f에 의하면, 이동 단말기(100)는, 제 1 내지 제 3 영상에서 두 개의 손가락이 터치된 상태에서 안에서 밖으로 회전하는 경우, 안에서 밖으로 회전하는 회전 제스처(도 5c의 553 또는 563)를 인식할 수 있다.
도 8e에 의하면, 제 1 내지 제 3 영상에서 복수 개의 손가락이 임의 지점을 기준으로 점점 모이는 경우(예를 들어, 주먹을 쥐는듯한 모양의 터치 동작), 축소 제스처(도 5c의 562)를 인식할 수 있다.
도 8g(a)에 의하면, 이동 단말기(100)는, 제 1 내지 제 3 영상에서 복수 개의 손가락이 반시계 방향으로 회전하는 동작을 입력받는 경우, 반시계 방향으로 회전하는 회전 제스처(도 5d의 571과 반대 방향 회전 동작_571-1)를 인식할 수 있다.
또한, 도 8g(b)에 의하면, 이동 단말기(100)는, 제 1 내지 제 3 영상에서 회전하는 복수 개의 터치를 포함하는 터치 그룹(830)을 생성하고, 복수 개의 터치의 무게 중심을 터치 그룹(830)의 대표 터치(831)로 인식할 수 있다. 그리고, 이동 단말기(100)는, 제 1 내지 제 3 영상에서 대표 터치(831)가 점차 반시계 방향으로 회전하는 경우 회전 제스처를 인식할 수 있다.
도 8h에 의하면, 이동 단말기(100)는, 제 1 내지 제 3 영상에서 제 1 내지 제 3 영상에서 복수 개의 손가락이 시계 방향으로 회전하는 동작을 입력받는 경우, 시계 방향으로 회전하는 회전 제스처(도 5d의 571과 동일한 방향 회전 동작_571-2)를 인식할 수 있다.
도 8i에 의하면, 이동 단말기(100)는, 제 1 및 제 2 영상에서 터치된 하나의 손가락이 시계 방향으로 회전하는 경우, 회전 제스처(도 5d의 574와 반대 방향으로 회전)를 인식할 수 있다.
본 발명에 의하면, 이동 단말기(100)는, 제어부(180)의 제어에 따라, 상기 인식된 제스처에 상응하는 디스플레이 제어 동작을 수행할 수 있다.
예를 들어, 이동 단말기(100)는, 클릭 또는 더블 클릭 제스처를 인식한 경우, 클릭 또는 더블 클릭 제스처가 입력된 지점에서 표시되는 정보의 선택 동작, 실행 동작, 상세 디스플레이 동작, 확대 디스플레이 동작 등을 수행할 수 있다.
또한, 이동 단말기(100)는, 확대 제스처 또는 축소 제스처를 인식한 경우, 현재 디스플레이되고 있는 정보의 확대 디스플레이 또는 축소 디스플레이를 수행할 수 있다. 더 나아가, 현재 디스플레이되고 있는 전체 정보 중 확대 제스처 또는 축소 제스처가 입력된 부분 정보에 대하여서만 확대 디스플레이 또는 축소 디스플레이를 수행할 수도 있다.
또한, 이동 단말기(100)는, 회전 제스처를 인식한 경우, 현재 디스플레이되고 있는 정보의 회전 디스플레이를 수행할 수 있다. 더 나아가, 현재 디스플레이되고 있는 전체 정보 중 회전 제스처가 입력된 부분 정보에 대하여서만 회전 디스플레이를 수행할 수도 있다.
또한, 이동 단말기(100)는, 이동 제스처(또는 튕김 제스처)를 인식한 경우, 화면을 스크롤하거나 다음 순서의 화면으로 이동할 수도 있다. 이동 제스처의 이동 속도 또는 이동 거리에 비례하여, 스크롤 정도 또는 스크롤 속도가 결정되거나, 더 멀리 위치한 순서의 화면으로 이동할 수도 있다.
또한, 본 발명의 일실시예에 의하면, 전술한 터치 인식 방법은, 프로그램이 기록된 매체에 프로세서가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 프로세서가 읽을 수 있는 매체의 예로는, ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장장치 등이 있으며, 캐리어 웨이브(예를 들어, 인터넷을 통한 전송)의 형태로 구현되는 것도 포함한다.
상기와 같이 설명된 이동 단말기 및 이것의 터치 인식 방법은 상기 설명된 실시예들의 구성과 방법이 한정되게 적용될 수 있는 것이 아니라, 상기 실시예들은 다양한 변형이 이루어질 수 있도록 각 실시예들의 전부 또는 일부가 선택적으로 조합되어 구성될 수도 있다.
100 이동 단말기
151 터치 스크린
180 제어부

Claims (19)

  1. 둘 이상의 터치들을 동시에 입력받고, 정보를 표시하는 터치 스크린;
    상기 입력된 둘 이상의 터치들을 포함하는 둘 이상의 영상들을 촬영하는 카메라; 및
    상기 영상들 각각에 포함된 터치들 각각의 터치 패턴 및 터치 패턴 변화를 상기 영상들 각각에 대하여 판단하고, 상기 판단 결과에 따라 상기 터치들에 의한 제스처를 인식하고, 상기 터치스크린 상에 입력되는 제1 타입의 터치를 확대 제스처로 인식하고, 상기 인식된 확대 제스처에 따라 상기 정보를 확대시키고, 상기 터치스크린 상에 입력되는 제2 타입의 터치를 축소 제스처로 인식하고, 상기 인식된 축소 제스처에 따라 상기 정보를 축소시키는 제어부;를 포함하고,
    상기 제1 타입 터치는, 상기 터치들 중 제1 터치 및 상기 제1 터치의 우측에 위치하는 제2 터치를 포함하고, 상기 제1 터치는 터치가 유지된 상태에서 시계 방향으로 회전되고, 상기 제2 터치는 터치가 유지된 상태에서 반시계 방향으로 회전되며,
    상기 제2 타입 터치는, 상기 터치들 중 제3 터치 및 상기 제3 터치의 우측에 위치하는 제4 터치를 포함하고, 상기 제3 터치는 터치가 유지된 상태에서 반시계 방향으로 회전되며, 상기 제4 터치는 터치가 유지된 상태에서 시계 방향으로 회전되는 이동 단말기.
  2. 제 1 항에 있어서, 상기 제어부는,
    상기 터치들 각각의 터치 지점 변화를 판단하고, 상기 판단된 터치 지점의 변화를 근거로 하여 상기 터치들 각각의 이동 거리, 이동 방향 및 다른 터치와의 사이 거리 중 적어도 하나를 판단하는 이동 단말기.
  3. 제 2 항에 있어서, 상기 제어부는,
    상기 터치들 각각의 이동 방향이 특정 지점으로 모이는 방향인 경우 축소 제스처를 인식하고, 상기 터치들 각각의 이동 방향이 상기 특정 지점에서 나가는 방향인 경우 확대 제스처를 인식하는 이동 단말기.
  4. 제 2 항에 있어서, 상기 제어부는,
    상기 터치들 각각의 이동 방향이 제 1 방향인 경우 제 1 방향으로의 회전 제스처를 인식하는 이동 단말기.
  5. 제 2 항에 있어서, 상기 제어부는,
    상기 판단된 이동 방향이 동일 또는 유사한 적어도 두 개의 터치를 포함하는 적어도 하나의 터치 그룹을 생성하고, 상기 생성된 적어도 하나의 터치 그룹에 속하는 적어도 두 개의 터치를 하나의 대표 터치로 인식하는 이동 단말기.
  6. 제 5 항에 있어서, 상기 제어부는,
    상기 인식된 대표 터치의 대표 이동 거리 및 대표 이동 방향에 따라 이동 제스처 및 스크롤 제스처 중 적어도 하나를 인식하는 이동 단말기.
  7. 제 5 항에 있어서, 상기 제어부는,
    상기 생성된 터치 그룹이 제 1 및 제 2 터치 그룹을 포함하는 경우, 상기 제 1 및 제 2 터치 그룹 각각에 해당하는 제 1 및 제 2 대표 터치의 대표 사이 거리를 판단하고,
    상기 판단된 대표 사이 거리가 증가하는 경우 확대 제스처를 인식하고, 상기 판단된 대표 사이 거리가 감소하는 경우 축소 제스처를 인식하는 이동 단말기.
  8. 제 1 항에 있어서, 상기 제어부는,
    상기 터치들 각각의 터치 면적 변화를 판단하고, 상기 터치들 각각의 터치 면적이 점차 증가하는 경우 확대 제스처를 인식하고, 상기 터치들 각각의 터치 면적이 점차 감소하는 경우 축소 제스처를 인식하는 이동 단말기.
  9. 제 1 항에 있어서, 상기 제어부는,
    상기 터치들 각각의 터치 모양 변화를 판단하고, 상기 터치들 각각의 터치 모양이 제 1 방향으로 회전하는 경우 제 1 방향으로의 회전 제스처를 인식하는 이동 단말기.
  10. 터치스크린 상에 정보를 표시하는 단계;
    카메라를 이용하여 상기 터치스크린 상에 입력된 터치들을 포함하는 둘 이상의 영상들을 촬영하는 단계;
    상기 영상들 각각에 포함된 터치들 각각의 터치 패턴 및 터치 패턴 변화를 상기 영상들 각각에 대하여 판단하는 단계;
    상기 판단 결과에 따라 상기 터치들에 의한 제스처를 인식하는 단계;
    상기 터치스크린 상에 입력되는 제1 타입의 터치를 확대 제스처로 인식하는 단계;
    상기 인식된 확대 제스처에 따라 상기 정보를 확대시키는 단계;
    상기 터치스크린 상에 입력되는 제2 타입의 터치를 축소 제스처로 인식하는 단계; 및
    상기 인식된 축소 제스처에 따라 상기 정보를 축소시키는 단계;를 포함하고,
    상기 제1 타입 터치는, 상기 터치들 중 제1 터치 및 상기 제1 터치의 우측에 위치하는 제2 터치를 포함하고, 상기 제1 터치는 터치가 유지된 상태에서 시계 방향으로 회전되고, 상기 제2 터치는 터치가 유지된 상태에서 반시계 방향으로 회전되며,
    상기 제2 타입 터치는, 상기 터치들 중 제3 터치 및 상기 제3 터치의 우측에 위치하는 제4 터치를 포함하고, 상기 제3 터치는 터치가 유지된 상태에서 반시계 방향으로 회전되며, 상기 제4 터치는 터치가 유지된 상태에서 시계 방향으로 회전되는 이동 단말기의 터치 인식 방법.
  11. 삭제
  12. 삭제
  13. 삭제
  14. 삭제
  15. 삭제
  16. 삭제
  17. 삭제
  18. 삭제
  19. 삭제
KR1020100137503A 2010-12-29 2010-12-29 이동 단말기 및 이것의 터치 인식 방법 KR101799270B1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020100137503A KR101799270B1 (ko) 2010-12-29 2010-12-29 이동 단말기 및 이것의 터치 인식 방법
US13/287,062 US9128527B2 (en) 2010-12-29 2011-11-01 Mobile terminal and touch recognizing method therein

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020100137503A KR101799270B1 (ko) 2010-12-29 2010-12-29 이동 단말기 및 이것의 터치 인식 방법

Publications (2)

Publication Number Publication Date
KR20120075714A KR20120075714A (ko) 2012-07-09
KR101799270B1 true KR101799270B1 (ko) 2017-11-21

Family

ID=46380351

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020100137503A KR101799270B1 (ko) 2010-12-29 2010-12-29 이동 단말기 및 이것의 터치 인식 방법

Country Status (2)

Country Link
US (1) US9128527B2 (ko)
KR (1) KR101799270B1 (ko)

Families Citing this family (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9612731B2 (en) * 2010-09-29 2017-04-04 Nec Corporation Information processing device, control method for the same and program
US9684379B2 (en) 2011-12-23 2017-06-20 Intel Corporation Computing system utilizing coordinated two-hand command gestures
WO2013095677A1 (en) 2011-12-23 2013-06-27 Intel Corporation Computing system utilizing three-dimensional manipulation command gestures
EP2795430A4 (en) 2011-12-23 2015-08-19 Intel Ip Corp TRANSITION MECHANISM FOR A COMPUTER SYSTEM WITH USER DETECTION
WO2013095678A1 (en) 2011-12-23 2013-06-27 Intel Corporation Mechanism to provide feedback regarding computing system command gestures
CA2863824A1 (en) * 2012-02-07 2013-08-15 Blackberry Limited Methods and devices for merging contact records
US9041844B2 (en) * 2012-04-27 2015-05-26 Blackberry Limited Camera device with a dynamic touch screen shutter and dynamic focal control area
JP6271858B2 (ja) * 2012-07-04 2018-01-31 キヤノン株式会社 表示装置及びその制御方法
JP6188288B2 (ja) 2012-07-20 2017-08-30 キヤノン株式会社 情報処理装置及びその制御方法
KR102123406B1 (ko) * 2013-07-05 2020-06-16 삼성전자주식회사 멀티 터치 입력을 지원하는 터치스크린을 구비한 모바일 단말기 및 그의 제어 방법
TWI554852B (zh) * 2014-01-22 2016-10-21 巨擘科技股份有限公司 腕錶的調時方法和系統
KR101537624B1 (ko) * 2014-02-12 2015-07-17 엘지전자 주식회사 이동단말기 및 그 제어방법
US10057483B2 (en) 2014-02-12 2018-08-21 Lg Electronics Inc. Mobile terminal and method thereof
US9851880B2 (en) * 2014-03-14 2017-12-26 Adobe Systems Incorporated Image rotation based on touch gestures
KR101650385B1 (ko) 2014-09-02 2016-08-23 엘지전자 주식회사 이동단말기 및 그 제어방법
KR102259238B1 (ko) * 2014-09-12 2021-06-01 엘지디스플레이 주식회사 터치 패널의 구동장치
KR102250780B1 (ko) 2014-10-20 2021-05-11 삼성전자주식회사 보안을 제어하기 위한 방법 및 그 전자 장치
US10891044B1 (en) * 2016-10-25 2021-01-12 Twitter, Inc. Automatic positioning of content items in a scrolling display for optimal viewing of the items
KR102032196B1 (ko) * 2017-07-20 2019-10-15 최한솔 점자 인식이 가능한 하이브리드 워치
CN111405084A (zh) * 2019-01-02 2020-07-10 武汉华星光电半导体显示技术有限公司 显示面板和智能终端
JP2022139202A (ja) * 2021-03-11 2022-09-26 富士フイルムビジネスイノベーション株式会社 情報処理装置、情報処理システムおよびプログラム
CN114466006B (zh) * 2021-12-22 2024-01-02 天翼云科技有限公司 一种触屏信息发送、响应方法及装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080168403A1 (en) 2007-01-06 2008-07-10 Appl Inc. Detecting and interpreting real-world and security gestures on touch and hover sensitive devices
US20080309632A1 (en) 2007-06-13 2008-12-18 Apple Inc. Pinch-throw and translation gestures
US20100229090A1 (en) 2009-03-05 2010-09-09 Next Holdings Limited Systems and Methods for Interacting With Touch Displays Using Single-Touch and Multi-Touch Gestures
US20100238138A1 (en) 2009-02-15 2010-09-23 Neonode Inc. Optical touch screen systems using reflected light

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100659888B1 (ko) * 2005-01-07 2006-12-20 엘지전자 주식회사 이동 단말기의 3차원 영상 처리방법
US8689132B2 (en) * 2007-01-07 2014-04-01 Apple Inc. Portable electronic device, method, and graphical user interface for displaying electronic documents and lists
US7978182B2 (en) * 2007-01-07 2011-07-12 Apple Inc. Screen rotation gestures on a portable multifunction device
CN101689244B (zh) * 2007-05-04 2015-07-22 高通股份有限公司 用于紧凑设备的基于相机的用户输入
US8269842B2 (en) * 2008-06-11 2012-09-18 Nokia Corporation Camera gestures for user interface control
US8654085B2 (en) * 2008-08-20 2014-02-18 Sony Corporation Multidimensional navigation for touch sensitive display
KR100993508B1 (ko) * 2008-09-03 2010-11-10 안공혁 터치 궤적 및 터치 방향의 인식에 기초한 사용자 인터페이스 방법
US9417699B2 (en) * 2008-12-23 2016-08-16 Htc Corporation Method and apparatus for controlling a mobile device using a camera
US8839156B2 (en) * 2011-02-03 2014-09-16 Disney Enterprises, Inc. Pointer tool for touch screens

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080168403A1 (en) 2007-01-06 2008-07-10 Appl Inc. Detecting and interpreting real-world and security gestures on touch and hover sensitive devices
US20080309632A1 (en) 2007-06-13 2008-12-18 Apple Inc. Pinch-throw and translation gestures
US20100238138A1 (en) 2009-02-15 2010-09-23 Neonode Inc. Optical touch screen systems using reflected light
US20100229090A1 (en) 2009-03-05 2010-09-09 Next Holdings Limited Systems and Methods for Interacting With Touch Displays Using Single-Touch and Multi-Touch Gestures

Also Published As

Publication number Publication date
US20120169670A1 (en) 2012-07-05
US9128527B2 (en) 2015-09-08
KR20120075714A (ko) 2012-07-09

Similar Documents

Publication Publication Date Title
KR101799270B1 (ko) 이동 단말기 및 이것의 터치 인식 방법
KR101740439B1 (ko) 이동 단말기 및 그 제어방법
EP2177976B1 (en) Mobile terminal with image projection
KR101802760B1 (ko) 이동 단말기 및 그 제어방법
KR101633332B1 (ko) 단말기 및 그 제어 방법
KR101657117B1 (ko) 이동단말기 및 그 제어방법
KR20130125652A (ko) 이동 단말기 및 그것의 제어방법
KR20120007574A (ko) 이동 단말기 및 그 제어 방법
KR20110113844A (ko) 이동 단말기 및 그 제어방법
KR20110016193A (ko) 이동단말기 및 그 제어방법
KR20130029243A (ko) 이동 단말기 및 그를 통한 정보 전송방법
KR20110018589A (ko) 이동 단말기 및 그 제어 방법
KR20110107059A (ko) 이동 단말기 및 그 제어방법
KR101842198B1 (ko) 이동 단말기 및 그 제어방법
KR20150033429A (ko) 이동 단말기 및 이의 제어방법
KR20110037064A (ko) 이동 단말기 및 그 제어 방법
KR20110080315A (ko) 이동 단말기
KR101980702B1 (ko) 이동 단말기 및 그 제어방법
KR20120033659A (ko) 이동 단말기 및 그 제어 방법
KR101813034B1 (ko) 이동 단말기 및 이것의 디스플레이 제어 방법
KR20120006672A (ko) 이동 단말기 및 그 제어 방법
KR20110065748A (ko) 이동 단말기 및 그 제어방법
KR20150008951A (ko) 휴대 단말기 및 그 제어 방법
KR20140008061A (ko) 휴대 단말기 및 그 제어 방법
KR101818113B1 (ko) 이동 단말기 및 그 페이지 전환 방법

Legal Events

Date Code Title Description
A201 Request for examination
E701 Decision to grant or registration of patent right