KR101871714B1 - 이동 단말기 및 그 제어방법 - Google Patents

이동 단말기 및 그 제어방법 Download PDF

Info

Publication number
KR101871714B1
KR101871714B1 KR1020120033764A KR20120033764A KR101871714B1 KR 101871714 B1 KR101871714 B1 KR 101871714B1 KR 1020120033764 A KR1020120033764 A KR 1020120033764A KR 20120033764 A KR20120033764 A KR 20120033764A KR 101871714 B1 KR101871714 B1 KR 101871714B1
Authority
KR
South Korea
Prior art keywords
mobile terminal
target device
user
external target
signal
Prior art date
Application number
KR1020120033764A
Other languages
English (en)
Other versions
KR20130111701A (ko
Inventor
김종환
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Priority to KR1020120033764A priority Critical patent/KR101871714B1/ko
Priority to US13/649,550 priority patent/US9495093B2/en
Publication of KR20130111701A publication Critical patent/KR20130111701A/ko
Application granted granted Critical
Publication of KR101871714B1 publication Critical patent/KR101871714B1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04B—TRANSMISSION
    • H04B1/00—Details of transmission systems, not covered by a single one of groups H04B3/00 - H04B13/00; Details of transmission systems not characterised by the medium used for transmission
    • H04B1/38—Transceivers, i.e. devices in which transmitter and receiver form a structural unit and in which at least one part is used for functions of transmitting and receiving
    • H04B1/40—Circuits
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/043—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means using propagating acoustic waves
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G06F3/165—Management of the audio stream, e.g. setting of volume, audio stream path
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04Q—SELECTING
    • H04Q9/00—Arrangements in telecontrol or telemetry systems for selectively calling a substation from a main station, in which substation desired apparatus is selected for applying a control signal thereto or for obtaining measured values therefrom

Abstract

본 발명은 사용자의 신체 주파수 특성을 이용하여 외부 대상 기기를 제어하기 위한 이동 단말기 및 이동 단말기 제어 방법에 관한 것이다.
본 발명은 무선 통신부, 이동 단말기를 소지하는 사용자의 특정 신체 부위에서 발생되는 신체 신호의 신체 주파수 특성을 감지하는 센싱부, 상기 사용자로부터 음성을 수신하는 마이크, 및 상기 센싱부로부터 감지된 신체 주파수 특성을 이용하여 상기 특정 신체 부위를 판단하고 상기 특정 신체 부위와 사전 매칭된 특정 외부 대상 기기를 확인하며, 상기 마이크로부터 수신된 음성에 기초하여 상기 외부 대상 기기를 제어하기 위한 사전 규정된 제어 명령을 판단하고, 상기 사전 규정된 제어 명령에 상응하는 상기 특정 외부 대상 기기에 대한 제어 신호를 상기 무선 통신부를 통해서 출력하는 이동 단말기 및 그 제어 방법을 제공한다.

Description

이동 단말기 및 그 제어방법{MOBILE TERMINAL AND METHOD FOR CONTROLLING THEREOF}
본 발명은 사용자의 편의가 더욱 고려되어 단말기의 사용이 구현될 수 있도록 하는 이동 단말기 및 그 제어 방법에 관한 것이다.
단말기는 이동 가능 여부에 따라 이동 단말기(mobile/portable terminal) 및 고정 단말기(stationary terminal)으로 나뉠 수 있다. 다시 이동 단말기는 사용자의 직접 휴대 가능 여부에 따라 휴대(형) 단말기(handheld terminal) 및 거치형 단말기(vehicle mount terminal)로 나뉠 수 있다.
이와 같은 단말기(terminal)는 기능이 다양화됨에 따라 예를 들어, 사진이나 동영상의 촬영, 음악이나 동영상 파일의 재생, 게임, 방송의 수신 등의 복합적인 기능들을 갖춘 멀티미디어 기기(Multimedia player) 형태로 구현되고 있다.
이러한 단말기의 기능 지지 및 증대를 위해, 단말기의 구조적인 부분 및/또는 소프트웨어적인 부분을 개량하는 것이 고려될 수 있다.
단말기가 상기 기능들과 같이 다양한 기능을 가지게 됨에 따라, 사용자가 보다 편하게 다양한 기능을 사용할 수 있는 사용자 인터페이스의 중요성도 함께 증대되고 있다. 최근의 사용자 인터페이스는 단말기의 디스플레이부에 다양한 아이콘들을 표시하여 상기 아이콘을 선택하는 방향으로 기술이 진전되어 왔다.
사용자 인터페이스의 또 다른 발전 방향으로 사용자의 자연스러운 말, 행동, 필기 등을 통해서 기기를 조작할 수 있는 방식으로 NUI (Natural User Interface) 의 필요성이 제기되었다. 즉, 기기가 사용자의 말과 글, 몸짓을 이해하고, 그에 담긴 의도와 문맥을 추론할 수 있게 되는 것이다. 따라서, 이러한, NUI 를 이용한 단말기 제어 방법에 대한 필요성이 존재한다.
본 발명은 NUI 기술을 적용한 이동 단말기로써, 사용자의 특정 신체 부위와 이동 단말기가 접촉한 경우, 특정 신체 부위와 상응하는 외부 대상 기기를 확인할 수 있는 이동 단말기 및 그 제어 방법을 제공하기 위한 것이다.
또한, 본 발명은 확인된 외부 대상 기기에 대하여 사용자의 음성 명령을 통해서 사용자가 원하는 제어 동작을 수행할 수 있는 이동 단말기 및 그 제어 방법을 제공하기 위한 것이다.
본 발명에서 이루고자 하는 기술적 과제들은 이상에서 언급한 기술적 과제들로 제한되지 않으며, 언급하지 않은 또 다른 기술적 과제들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
상기한 과제를 실현하기 위한 본 발명의 일예와 관련된 이동 단말기는 무선 통신부, 이동 단말기를 소지하는 사용자의 특정 신체 부위에서 발생되는 신체 신호의 신체 주파수 특성을 감지하는 센싱부, 상기 사용자로부터 음성을 수신하는 마이크, 및 상기 센싱부로부터 감지된 신체 주파수 특성을 이용하여 상기 특정 신체 부위를 판단하고 상기 특정 신체 부위와 사전 매칭된 특정 외부 대상 기기를 확인하며, 상기 마이크로부터 수신된 음성에 기초하여 상기 외부 대상 기기를 제어하기 위한 사전 규정된 제어 명령을 판단하고, 상기 사전 규정된 제어 명령에 상응하는 상기 특정 외부 대상 기기에 대한 제어 신호를 상기 무선 통신부를 통해서 출력할 수 있다.
상기 신체 신호는, 상기 사용자가 상기 이동 단말기를 상기 사용자의 임의의 신체 부위에 착용한 상태에서 사용자가 손을 이용하여 상기 특정 신체 부위를 접촉하는 제 1 경우, 상기 사용자가 상기 이동 단말기를 상기 사용자의 상기 특정 신체 부위에 착용하는 제 2 경우, 또는 상기 사용자가 상기 이동 단말기를 상기 특정 신체 부위로 접촉하는 제 3 경우 중 어느 한 경우에 발생하는 것을 특징으로 한다.
상기 이동 단말기는 상기 사용자의 신체 부위들 각각과 매칭되는 외부 대상 기기 각각에 대한 매칭 정보 및 상기 외부 대상 기기들 각각에 대해서 사전 규정된 제어 명령 정보를 저장하는 메모리를 더 포함한다.
상기 무선 통신부는, 상기 특정 외부 대상 기기를 제어하기 위한 상기 제어 신호를 상기 특정 외부 대상 기기에 송신할 수 있으며, 선택적으로, 상기 무선 통신부는, 다수의 외부 대상 기기들을 관리하는 외부 서버에 상기 제어 신호를 송신할 수 있다.
상기 이동 단말기는 상기 이동 단말기의 현재 위치를 판단하는 위치 정보 모듈을 더 포함하며, 상기 제어부는, 상기 이동 단말기의 현재 위치에 따라서 상기 제어 신호를 상기 특정 외부 대상 기기에 직접 송신할 지 또는 다수의 외부 대상 기기를 관리하는 외부 서버에 상기 제어 신호를 송신할 지를 결정하고, 상기 결정 결과에 따라서 상기 제어 신호를 송신하도록 상기 무선 통신부를 제어할 수 있다.
상기 제어부는, 상기 마이크로부터 수신된 음성을 분석하고, 상기 분석 결과에 따라서 상기 특정 외부 대상 기기를 확인한다.
상기 이동 단말기는 경고음을 출력하는 음향 출력 모듈을 더 포함하며, 상기 제어부는 상기 수신된 음성으로부터 사전 규정된 제어 명령을 판단하지 못한 경우, 상기 경고음을 출력하도록 상기 음향 출력 모듈을 제어한다.
상기 외부 대상 기기는, 냉장고, 웹 카메라, 가스 차단기, 화재 경보기, 텔레비젼, 라디오, 컴퓨터, 도어락, 조명 기기, 및 자동차 중 적어도 하나를 포함한다.
상기한 과제를 실현하기 위한 본 발명의 다른 예와 관련된 이동 단말기 제어 방법은 이동 단말기를 소지하는 사용자의 특정 신체 부위에서 발생되는 신체 신호의 신체 주파수 특성을 감지하는 단계, 상기 감지된 신체 주파수 특성을 이용하여 상기 특정 신체 부위를 판단하는 단계, 상기 특정 신체 부위와 사전 매칭된 특정 외부 대상 기기를 확인하는 단계, 상기 사용자로부터 음성을 수신하는 단계, 상기 수신된 음성에 기초하여 상기 외부 대상 기기를 제어하기 위한 사전 규정된 제어 명령을 판단하는 단계, 및 상기 사전 규정된 제어 명령에 상응하는 상기 특정 외부 대상 기기에 대한 제어 신호를 출력하는 단계를 포함한다.
상기 이동 단말기 제어 방법은 상기 사용자의 신체 부위들 각각과 매칭되는 외부 대상 기기 각각에 대한 매칭 정보 및 상기 외부 대상 기기들 각각에 대해서 사전 규정된 제어 명령 정보를 저장하는 단계를 더 포함한다.
상기 이동 단말기 제어 방법은 상기 특정 외부 대상 기기를 제어하기 위한 상기 제어 신호를 상기 특정 외부 대상 기기에 송신하는 단계를 더 포함하거나, 선택적으로, 상기 이동 단말기 제어 방법은 다수의 외부 대상 기기를 관리하는 외부 서버에 상기 제어 신호를 송신하는 단계를 더 포함할 수 있다.
상기 이동 단말기 제어 방법은 위치 정보 모듈을 통하여 상기 이동 단말기의 현재 위치를 판단하는 단계, 상기 이동 단말기의 현재 위치에 따라서 상기 제어 신호를 송신하는 송신 대상으로 상기 특정 외부 대상 기기 또는 외부 서버 중 적어도 하나를 결정하는 단계, 및 상기 결정된 송신 대상으로 상기 제어 신호를 송신하는 단계를 더 포함한다.
상기 특정 외부 대상 기기를 확인하는 단계는, 상기 수신된 음성을 분석하고, 상기 분석 결과에 따라서 상기 특정 외부 대상 기기를 확인한다.
상기 이동 단말기 제어 방법은 상기 수신된 음성으로부터 사전 규정된 제어 명령을 판단하지 못한 경우 경고음을 출력하는 단계를 더 포함한다.
상기와 같이 구성되는 본 발명의 적어도 하나의 실시예에 관련된 이동 단말기는 사용자의 신체를 이동 단말기와 접촉하는 것만으로 외부에 존재하는 외부 대상 기기를 제어할 수 있기 때문에 사용자가 보다 편리하게 외부 기기를 매칭할 수 있는 효과가 존재한다.
또한, 사용자의 다양한 신체 부위에서 서로 다른 신체 주파수 특성을 가진 신호가 발생하기 때문에 서로 다른 신체 주파수 특성마다 외부 객체를 매칭할 수 있기 때문에 다수의 외부 객체를 제어할 수 있는 효과가 존재한다.
본 발명에서 얻을 수 있는 효과는 이상에서 언급한 효과들로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
도 1은 본 발명의 일 실시예와 관련된 이동 단말기의 블록 구성도(block diagram).
도 2a은 본 발명의 일 실시예에 관련된 이동 단말기의 전면 사시도.
도 2b는 본 발명의 일 실시예에 관련된 이동 단말기의 후면 사시도.
도 3은 본 발명과 관련된 이동 단말기 제어 방법의 흐름을 나타내는 순서도.
도 4는 본 발명이 적용되는 구성 시스템의 일 예를 도시한 도면.
도 5는 본 발명이 적용되는 구성 시스템의 다른 예를 도시한 도면.
도 6은 본 발명과 관련하여 신체 부위에 따른 신체 주파수 특성 차이를 개략적으로 설명하기 위한 도면.
도 7은 본 발명과 관련한 제 1 실시예를 위한 도면으로, 신체 부위마다 발생하는 서로 다른 신체 주파수 특성을 가진 신체 신호가 발생하는 제 1 경우를 설명하는 도면.
도 8은 본 발명과 관련한 제 1 실시예를 위한 도면으로, 신체 부위마다 발생하는 서로 다른 신체 주파수 특성을 가진 신체 신호가 발생하는 제 2 경우를 설명하는 도면.
도 9는 본 발명과 관련한 제 1 실시예를 위한 도면으로, 신체 부위마다 발생하는 서로 다른 신체 주파수 특성을 가진 신체 신호가 발생하는 제 3 경우를 설명하는 도면.
도 10은 본 발명과 관련한 제 1 실시예를 위한 도면으로, 사용자 음성으로 외부 대상 기기를 제어하는 제어 명령을 발생시키는 동작을 나타내는 도면.
도 11은 본 발명과 관련한 제 2 실시예를 위한 도면으로, 사용자 음성으로 외부 대상 기기를 확인하는 동작을 나타내는 도면.
도 12는 본 발명과 관련한 제 2 실시예를 위한 도면으로, 사용자 음성으로 외부 대상 기기를 확인하는 동작 및 외부 대상 기기를 제어하는 제어 명령을 발생시키는 동작을 설명하기 위한 도면.
이하, 본 발명과 관련된 이동 단말기에 대하여 도면을 참조하여 보다 상세하게 설명한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다.
본 명세서에서 설명되는 이동 단말기에는 휴대폰, 스마트 폰(smart phone), 노트북 컴퓨터(laptop computer), 디지털방송용 단말기, PDA(Personal Digital Assistants), PMP(Portable Multimedia Player), 네비게이션 등이 포함될 수 있다. 그러나, 본 명세서에 기재된 실시예에 따른 구성은 이동 단말기에만 적용 가능한 경우를 제외하면, 디지털 TV, 데스크탑 컴퓨터 등과 같은 고정 단말기에도 적용될 수도 있음을 본 기술분야의 당업자라면 쉽게 알 수 있을 것이다.
도 1은 본 발명의 일 실시예와 관련된 이동 단말기의 블록 구성도(block diagram)이다.
상기 이동 단말기(100)는 무선 통신부(110), A/V(Audio/Video) 입력부(120), 사용자 입력부(130), 센싱부(140), 출력부(150), 메모리(160), 인터페이스부(170), 제어부(180) 및 전원 공급부(190) 등을 포함할 수 있다. 도 1에 도시된 구성요소들이 필수적인 것은 아니어서, 그보다 많은 구성요소들을 갖거나 그보다 적은 구성요소들을 갖는 이동 단말기가 구현될 수도 있다.
이하, 상기 구성요소들에 대해 차례로 살펴본다.
무선 통신부(110)는 이동 단말기(100)와 무선 통신 시스템 사이 또는 이동 단말기(100)와 이동 단말기(100)가 위치한 네트워크 사이의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 예를 들어, 무선 통신부(110)는 방송 수신 모듈(111), 이동통신 모듈(112), 무선 인터넷 모듈(113), 근거리 통신 모듈(114) 및 위치정보 모듈(115) 등을 포함할 수 있다.
방송 수신 모듈(111)은 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다. 상기 방송 채널은 위성 채널, 지상파 채널을 포함할 수 있다. 적어도 두 개의 방송 채널들에 대한 동시 방송 수신 또는 방송 채널 스위칭을 위해 둘 이상의 상기 방송 수신 모듈(1100)이 상기 이동단말기(100)에 제공될 수 있다.
상기 방송 관리 서버는, 방송 신호 및/또는 방송 관련 정보를 생성하여 송신하는 서버 또는 기 생성된 방송 신호 및/또는 방송 관련 정보를 제공받아 단말기에 송신하는 서버를 의미할 수 있다. 상기 방송 신호는, TV 방송 신호, 라디오 방송 신호, 데이터 방송 신호를 포함할 뿐만 아니라, TV 방송 신호 또는 라디오 방송 신호에 데이터 방송 신호가 결합한 형태의 방송 신호도 포함할 수 있다.
상기 방송 관련 정보는 방송 채널, 방송 프로그램 또는 방송 서비스 제공자에 관련한 정보를 의미한다. 상기 방송 관련 정보는, 이동통신망을 통하여도 제공될 수 있다. 이러한 경우에는 상기 이동통신 모듈(112)에 의해 수신될 수 있다.
상기 방송 관련 정보는 다양한 형태로 존재할 수 있다. 예를 들어, DMB(Digital Multimedia Broadcasting)의 EPG(Electronic Program Guide) 또는 DVB-H(Digital Video Broadcast-Handheld)의 ESG(Electronic Service Guide) 등의 형태로 존재할 수 있다.
상기 방송 수신 모듈(111)은, 예를 들어, DMB-T(Digital Multimedia Broadcasting-Terrestrial), DMB-S(Digital Multimedia Broadcasting-Satellite), MediaFLO(Media Forward Link Only), DVB-H(Digital Video Broadcast-Handheld), DVB-CBMS (Convergence of Broadcasting and Mobile Service), OMA-BCAST (Open Mobile Alliance-BroadCAST), CMMB (China Multimedia Mobile Broadcasting), MBBMS (Mobile Broadcasting Business Management System), ISDB-T(Integrated Services Digital Broadcast-Terrestrial) 등의 디지털 방송 시스템을 이용하여 디지털 방송 신호를 수신할 수 있다. 물론, 상기 방송 수신 모듈(111)은, 상술한 디지털 방송 시스템뿐만 아니라 다른 방송 시스템에 적합하도록 구성될 수도 있다.
방송 수신 모듈(111)을 통해 수신된 방송 신호 및/또는 방송 관련 정보는 메모리(160)에 저장될 수 있다.
이동통신 모듈(112)은, GSM(Gobal System for Mobile communications), CDMA(Code Division Multiple Access), WCDMA(Wideband CDMA)(이에 한정되지 않음)와 같은 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 상기 무선 신호는, 음성 호 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.
무선 인터넷 모듈(113)은 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 이동 단말기(100)에 내장되거나 외장될 수 있다. 무선 인터넷 기술로는 WLAN(Wireless LAN)(Wi-Fi), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access), GSM, CDMA, WCDMA, LTE(Long Term Evolution)(이에 한정되지 않음) 등이 이용될 수 있다.
Wibro, HSDPA, GSM, CDMA, WCDMA, LTE 등에 의한 무선인터넷 접속은 이동통신망을 통해 이루어진다는 관점에서 본다면, 상기 이동통신망을 통해 무선인터넷 접속을 수행하는 상기 무선 인터넷 모듈(113)은 상기 이동통신 모듈(112)의 일종으로으로 이해될 수도 있다.
근거리 통신 모듈(114)은 근거리 통신을 위한 모듈을 말한다. 근거리 통신(short range communication) 기술로 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(IrDA, infrared Data Association), UWB(Ultra Wideband), ZigBee 등이 이용될 수 있다.
위치정보 모듈(115)은 이동 단말기의 위치를 획득하기 위한 모듈로서, 그의 대표적인 예로는 GPS(Global Position System) 모듈이 있다. 현재 기술에 의하면, 상기 GPS모듈(115)은 3개 이상의 위성으로부터 떨어진 거리 정보와 정확한 시간 정보를 산출한 다음 상기 산출된 정보에 삼각법을 적용함으로써, 위도, 경도, 및 고도에 따른 3차원의 현 위치 정보를 정확히 산출할 수 있다. 현재, 3개의 위성을 이용하여 위치 및 시간 정보를 산출하고, 또다른 1개의 위성을 이용하여 상기 산출된 위치 및 시간 정보의 오차를 수정하는 방법이 널리 사용되고 있다. 또한, GPS 모듈(115)은 현 위치를 실시간으로 계속 산출함으로써 속도 정보를 산출할 수 있다.
도 1을 참조하면, A/V(Audio/Video) 입력부(120)는 오디오 신호 또는 비디오 신호 입력을 위한 것으로, 이에는 카메라(121)와 마이크(122) 등이 포함될 수 있다. 카메라(121)는 화상 통화모드 또는 촬영 모드에서 이미지 센서에 의해 얻어지는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 처리된 화상 프레임은 디스플레이부(151)에 표시될 수 있다.
카메라(121)에서 처리된 화상 프레임은 메모리(160)에 저장되거나 무선 통신부(110)를 통하여 외부로 전송될 수 있다. 카메라(121)는 사용 환경에 따라 2개 이상이 구비될 수도 있다.
마이크(122)는 통화모드 또는 녹음모드, 음성인식 모드 등에서 마이크로폰(Microphone)에 의해 외부의 음향 신호를 입력받아 전기적인 음성 데이터로 처리한다. 처리된 음성 데이터는 통화 모드인 경우 이동통신 모듈(112)을 통하여 이동통신 기지국으로 송신 가능한 형태로 변환되어 출력될 수 있다. 마이크(122)에는 외부의 음향 신호를 입력받는 과정에서 발생되는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수 있다.
사용자 입력부(130)는 사용자가 단말기의 동작 제어를 위한 입력 데이터를 발생시킨다. 사용자 입력부(130)는 키 패드(key pad), 돔 스위치 (dome switch), 터치 패드(정압/정전), 조그 휠, 조그 스위치 등으로 구성될 수 있다.
센싱부(140)는 이동 단말기(100)의 개폐 상태, 이동 단말기(100)의 위치, 사용자 접촉 유무, 이동 단말기의 방위, 이동 단말기의 가속/감속 등과 같이 이동 단말기(100)의 현 상태를 감지하여 이동 단말기(100)의 동작을 제어하기 위한 센싱 신호를 발생시킨다. 예를 들어 이동 단말기(100)가 슬라이드 폰 형태인 경우 슬라이드 폰의 개폐 여부를 센싱할 수 있다. 또한, 전원 공급부(190)의 전원 공급 여부, 인터페이스부(170)의 외부 기기 결합 여부 등을 센싱할 수도 있다. 한편, 상기 센싱부(140)는 근접 센서(141)를 포함할 수 있다.
출력부(150)는 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것으로, 이에는 디스플레이부(151), 음향 출력 모듈(152), 알람부(153), 및 햅틱 모듈(154) 등이 포함될 수 있다.
디스플레이부(151)는 이동 단말기(100)에서 처리되는 정보를 표시(출력)한다. 예를 들어, 이동 단말기가 통화 모드인 경우 통화와 관련된 UI(User Interface) 또는 GUI(Graphic User Interface)를 표시한다. 이동 단말기(100)가 화상 통화 모드 또는 촬영 모드인 경우에는 촬영 또는/및 수신된 영상 또는 UI, GUI를 표시한다.
디스플레이부(151)는 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display) 중에서 적어도 하나를 포함할 수 있다.
이들 중 일부 디스플레이는 그를 통해 외부를 볼 수 있도록 투명형 또는 광투과형으로 구성될 수 있다. 이는 투명 디스플레이라 호칭될 수 있는데, 상기 투명 디스플레이의 대표적인 예로는 TOLED(Transparant OLED) 등이 있다. 디스플레이부(151)의 후방 구조 또한 광 투과형 구조로 구성될 수 있다. 이러한 구조에 의하여, 사용자는 단말기 바디의 디스플레이부(151)가 차지하는 영역을 통해 단말기 바디의 후방에 위치한 사물을 볼 수 있다.
이동 단말기(100)의 구현 형태에 따라 디스플레이부(151)이 2개 이상 존재할 수 있다. 예를 들어, 이동 단말기(100)에는 복수의 디스플레이부들이 하나의 면에 이격되거나 일체로 배치될 수 있고, 또한 서로 다른 면에 각각 배치될 수도 있다.
디스플레이부(151)와 터치 동작을 감지하는 센서(이하, '터치 센서'라 함)가 상호 레이어 구조를 이루는 경우(이하, '터치 스크린'이라 함)에, 디스플레이부(151)는 출력 장치 이외에 입력 장치로도 사용될 수 있다. 터치 센서는, 예를 들어, 터치 필름, 터치 시트, 터치 패드 등의 형태를 가질 수 있다.
터치 센서는 디스플레이부(151)의 특정 부위에 가해진 압력 또는 디스플레이부(151)의 특정 부위에 발생하는 정전 용량 등의 변화를 전기적인 입력신호로 변환하도록 구성될 수 있다. 터치 센서는 터치 되는 위치 및 면적뿐만 아니라, 터치 시의 압력까지도 검출할 수 있도록 구성될 수 있다.
터치 센서에 대한 터치 입력이 있는 경우, 그에 대응하는 신호(들)는 터치 제어기(미도시)로 보내진다. 터치 제어기는 그 신호(들)를 처리한 다음 대응하는 데이터를 제어부(180)로 전송한다. 이로써, 제어부(180)는 디스플레이부(151)의 어느 영역이 터치 되었는지 여부 등을 알 수 있게 된다.
상기 근접 센서(141)는 상기 터치스크린에 의해 감싸지는 이동 단말기의 내부 영역 또는 상기 터치 스크린의 근처에 배치될 수 있다. 상기 근접 센서는 소정의 검출면에 접근하는 물체, 혹은 근방에 존재하는 물체의 유무를 전자계의 힘 또는 적외선을 이용하여 기계적 접촉이 없이 검출하는 센서를 말한다. 근접 센서는 접촉식 센서보다는 그 수명이 길며 그 활용도 또한 높다.
상기 근접 센서의 예로는 투과형 광전 센서, 직접 반사형 광전 센서, 미러 반사형 광전 센서, 고주파 발진형 근접 센서, 정전용량형 근접 센서, 자기형 근접 센서, 적외선 근접 센서 등이 있다. 상기 터치스크린이 정전식인 경우에는 상기 포인터의 근접에 따른 전계의 변화로 상기 포인터의 근접을 검출하도록 구성된다. 이 경우 상기 터치 스크린(터치 센서)은 근접 센서로 분류될 수도 있다.
이하에서는 설명의 편의를 위해, 상기 터치스크린 상에 포인터가 접촉되지 않으면서 근접되어 상기 포인터가 상기 터치스크린 상에 위치함이 인식되도록 하는 행위를 "근접 터치(proximity touch)"라고 호칭하고, 상기 터치스크린 상에 포인터가 실제로 접촉되는 행위를 "접촉 터치(contact touch)"라고 호칭할 수 있다. 상기 터치스크린 상에서 포인터로 근접 터치가 되는 위치라 함은, 상기 포인터가 근접 터치될 때 상기 포인터가 상기 터치스크린에 대해 수직으로 대응되는 위치를 의미할 수 있다.
상기 근접센서는, 근접 터치와, 근접 터치 패턴(예를 들어, 근접 터치 거리, 근접 터치 방향, 근접 터치 속도, 근접 터치 시간, 근접 터치 위치, 근접 터치 이동 상태 등)을 감지한다. 상기 감지된 근접 터치 동작 및 근접 터치 패턴에 상응하는 정보는 터치 스크린상에 출력될 수 있다.
음향 출력 모듈(152)은 호신호 수신, 통화모드 또는 녹음 모드, 음성인식 모드, 방송수신 모드 등에서 무선 통신부(110)로부터 수신되거나 메모리(160)에 저장된 오디오 데이터를 출력할 수 있다. 음향 출력 모듈(152)은 이동 단말기(100)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음 등)과 관련된 음향 신호를 출력하기도 한다. 이러한 음향 출력 모듈(152)에는 리시버(Receiver), 스피커(speaker), 버저(Buzzer) 등이 포함될 수 있다.
알람부(153)는 이동 단말기(100)의 이벤트 발생을 알리기 위한 신호를 출력한다. 이동 단말기에서 발생 되는 이벤트의 예로는 호 신호 수신, 메시지 수신, 키 신호 입력, 터치 입력 등이 있다. 알람부(153)는 비디오 신호나 오디오 신호 이외에 다른 형태, 예를 들어 진동으로 이벤트 발생을 알리기 위한 신호를 출력할 수도 있다. 상기 비디오 신호나 오디오 신호는 디스플레이부(151)나 음성 출력 모듈(152)을 통해서도 출력될 수 있으므로, 이 경우 상기 디스플레이부(151) 및 음음성출력모듈(152)은 알람부(153)의 일종으로 분류될 수도 있다.
햅틱 모듈(haptic module)(154)은 사용자가 느낄 수 있는 다양한 촉각 효과를 발생시킨다. 햅틱 모듈(154)이 발생시키는 촉각 효과의 대표적인 예로는 진동이 있다. 햅택 모듈(154)이 발생하는 진동의 세기와 패턴 등은 제어가능하다. 예를 들어, 서로 다른 진동을 합성하여 출력하거나 순차적으로 출력할 수도 있다.
햅틱 모듈(154)은, 진동 외에도, 접촉 피부면에 대해 수직 운동하는 핀 배열, 분사구나 흡입구를 통한 공기의 분사력이나 흡입력, 피부 표면에 대한 스침, 전극(eletrode)의 접촉, 정전기력 등의 자극에 의한 효과와, 흡열이나 발열 가능한 소자를 이용한 냉온감 재현에 의한 효과 등 다양한 촉각 효과를 발생시킬 수 있다.
햅틱 모듈(154)은 직접적인 접촉을 통해 촉각 효과의 전달할 수 있을 뿐만 아니라, 사용자가 손가락이나 팔 등의 근 감각을 통해 촉각 효과를 느낄 수 있도록 구현할 수도 있다. 햅틱 모듈(154)은 이동 단말기(100)의 구성 태양에 따라 2개 이상이 구비될 수 있다.
메모리부(160)는 제어부(180)의 처리 및 제어를 위한 프로그램이 저장될 수도 있고, 입/출력되는 데이터들(예를 들어, 전화번호부, 메시지, 오디오, 정지영상, 동영상 등)의 임시 저장을 위한 기능을 수행할 수도 있다. 상기 메모리부(160)에는 상기 데이터들 각각에 대한 사용 빈도(예를 들면, 각 전화번호, 각 메시지, 각 멀티미디어에 대한 사용빈도)가 저장될 수 있다.
또한, 상기 메모리부(160)에는 상기 터치스크린 상의 터치 입력시 출력되는 다양한 패턴의 진동 및 음향에 관한 데이터를 저장할 수 있다.
메모리(160)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(Random Access Memory, RAM), SRAM(Static Random Access Memory), 롬(Read-Only Memory, ROM), EEPROM(Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory), 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 이동 단말기(100)는 인터넷(internet)상에서 상기 메모리(160)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작할 수도 있다.
인터페이스부(170)는 이동 단말기(100)에 연결되는 모든 외부기기와의 통로 역할을 한다. 인터페이스부(170)는 외부 기기로부터 데이터를 전송받거나, 전원을 공급받아 이동 단말기(100) 내부의 각 구성 요소에 전달하거나, 이동 단말기(100) 내부의 데이터가 외부 기기로 전송되도록 한다. 예를 들어, 유/무선 헤드셋 포트, 외부 충전기 포트, 유/무선 데이터 포트, 메모리 카드(memory card) 포트, 식별 모듈이 구비된 장치를 연결하는 포트, 오디오 I/O(Input/Output) 포트, 비디오 I/O(Input/Output) 포트, 이어폰 포트 등이 인터페이스부(170)에 포함될 수 있다.
식별 모듈은 이동 단말기(100)의 사용 권한을 인증하기 위한 각종 정보를 저장한 칩으로서, 사용자 인증 모듈(User Identify Module, UIM), 가입자 인증 모듈(Subscriber Identify Module, SIM), 범용 사용자 인증 모듈(Universal Subscriber Identity Module, USIM) 등을 포함할 수 있다. 식별 모듈이 구비된 장치(이하 '식별 장치')는, 스마트 카드(smart card) 형식으로 제작될 수 있다. 따라서 식별 장치는 포트를 통하여 단말기(100)와 연결될 수 있다.
상기 인터페이스부는 이동단말기(100)가 외부 크래들(cradle)과 연결될 때 상기 크래들로부터의 전원이 상기 이동단말기(100)에 공급되는 통로가 되거나, 사용자에 의해 상기 크래들에서 입력되는 각종 명령 신호가 상기 이동단말기로 전달되는 통로가 될 수 있다. 상기 크래들로부터 입력되는 각종 명령 신호 또는 상기 전원은 상기 이동단말기가 상기 크래들에 정확히 장착되었음을 인지하기 위한 신호로 동작될 수도 있다.
제어부(controller)(180)는 통상적으로 이동 단말기의 전반적인 동작을 제어한다. 예를 들어 음성 통화, 데이터 통신, 화상 통화 등을 위한 관련된 제어 및 처리를 수행한다. 제어부(180)는 멀티 미디어 재생을 위한 멀티미디어 모듈(181)을 구비할 수도 있다. 멀티미디어 모듈(181)은 제어부(180) 내에 구현될 수도 있고, 제어부(180)와 별도로 구현될 수도 있다.
상기 제어부(180)는 상기 터치스크린 상에서 행해지는 필기 입력 또는 그림 그리기 입력을 각각 문자 및 이미지로 인식할 수 있는 패턴 인식 처리를 행할 수 있다.
전원 공급부(190)는 제어부(180)의 제어에 의해 외부의 전원, 내부의 전원을 인가받아 각 구성요소들의 동작에 필요한 전원을 공급한다.
여기에 설명되는 다양한 실시예는 예를 들어, 소프트웨어, 하드웨어 또는 이들의 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 장치로 읽을 수 있는 기록매체 내에서 구현될 수 있다.
하드웨어적인 구현에 의하면, 여기에 설명되는 실시예는 ASICs (application specific integrated circuits), DSPs (digital signal processors), DSPDs (digital signal processing devices), PLDs (programmable logic devices), FPGAs (field programmable gate arrays, 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적인 유닛 중 적어도 하나를 이용하여 구현될 수 있다. 일부의 경우에 본 명세서에서 설명되는 실시예들이 제어부(180) 자체로 구현될 수 있다.
소프트웨어적인 구현에 의하면, 본 명세서에서 설명되는 절차 및 기능과 같은 실시예들은 별도의 소프트웨어 모듈들로 구현될 수 있다. 상기 소프트웨어 모듈들 각각은 본 명세서에서 설명되는 하나 이상의 기능 및 작동을 수행할 수 있다. 적절한 프로그램 언어로 쓰여진 소프트웨어 어플리케이션으로 소프트웨어 코드가 구현될 수 있다. 상기 소프트웨어 코드는 메모리(160)에 저장되고, 제어부(180)에 의해 실행될 수 있다.
도 2a는 본 발명과 관련된 이동 단말기 또는 휴대 단말기의 일 예를 전면에서 바라본 사시도이다.
개시된 이동 단말기(100)는 바 형태의 단말기 바디를 구비하고 있다. 다만, 본 발명은 여기에 한정되지 않고, 2 이상의 바디들이 상대 이동 가능하게 결합되는 슬라이드 타입, 폴더 타입, 스윙 타입, 스위블 타입 등 다양한 구조에 적용이 가능하다.
바디는 외관을 이루는 케이스(케이싱, 하우징, 커버 등)를 포함한다. 본 실시예에서, 케이스는 프론트 케이스(101)와 리어 케이스(102)로 구분될 수 있다. 프론트 케이스(101)와 리어 케이스(102)의 사이에 형성된 공간에는 각종 전자부품들이 내장된다. 프론트 케이스(101)와 리어 케이스(102) 사이에는 적어도 하나의 중간 케이스가 추가로 배치될 수도 있다.
케이스들은 합성수지를 사출하여 형성되거나 금속 재질, 예를 들어 스테인레스 스틸(STS) 또는 티타늄(Ti) 등과 같은 금속 재질을 갖도록 형성될 수도 있다.
단말기 바디, 주로 프론트 케이스(101)에는 디스플레이부(151), 음향출력부(152), 카메라(121), 사용자 입력부(130/131,132), 마이크(122), 인터페이스(170) 등이 배치될 수 있다.
디스플레이부(151)는 프론트 케이스(101)의 주면의 대부분을 차지한다. 디스플레이부(151)의 양단부 중 일 단부에 인접한 영역에는 음향출력부(151)와 카메라(121)가 배치되고, 다른 단부에 인접한 영역에는 사용자 입력부(131)와 마이크(122)가 배치된다. 사용자 입력부(132)와 인터페이스(170) 등은 프론트 케이스(101) 및 리어 케이스(102)의 측면들에 배치될 수 있다.
사용자 입력부(130)는 이동 단말기(100)의 동작을 제어하기 위한 명령을 입력받기 위해 조작되는 것으로서, 복수의 조작 유닛들(131,132)을 포함할 수 있다. 조작 유닛들(131,132)은 조작부(manipulating portion)로도 통칭 될 수 있다.
제1 또는 제2조작 유닛들(131, 132)에 의하여 입력되는 내용은 다양하게 설정될 수 있다. 예를 들어, 제1 조작 유닛(131)은 시작, 종료, 스크롤 등과 같은 명령을 입력받고, 제2 조작 유닛(132)은 음향출력부(152)에서 출력되는 음향의 크기 조절 또는 디스플레이부(151)의 터치 인식 모드 활성화/비활성화 등과 같은 명령을 입력받을 수 있다.
도 2b는 도 2a에 도시된 이동 단말기의 후면 사시도이다.
도 2b를 참조하면, 단말기 바디의 후면, 다시 말해서 리어 케이스(102)에는 카메라(121')가 추가로 장착될 수 있다. 카메라(121')는 카메라(121, 도 2a 참조)와 실질적으로 반대되는 촬영 방향을 가지며, 카메라(121)와 같거나 서로 다른 화소를 가지는 카메라일 수 있다.
예를 들어, 카메라(121)는 화상 통화 등의 경우에 사용자의 얼굴을 촬영하여 상대방에 전송함에 무리가 없도록 저 화소를 가지며, 카메라(121')는 일반적인 피사체를 촬영하고 바로 전송하지는 않는 경우가 많기에 고 화소를 가지는 것이 바람직하다. 카메라(121,121')는 회전 또는 팝업(pop-up) 가능하게 단말기 바디에 설치될 수도 있다.
카메라(121')에 인접하게는 플래쉬(123)와 거울(124)이 추가로 배치될 수 있다. 플래쉬(123)는 카메라(121')로 피사체를 촬영하는 경우에 피사체를 향해 빛을 비추게 된다. 거울(124)은 사용자가 카메라(121')를 이용하여 자신을 촬영(셀프 촬영)하고자 하는 경우에, 사용자 자신의 얼굴 등을 비춰볼 수 있게 한다.
단말기 바디의 후면에는 음향 출력부(152')가 추가로 배치될 수도 있다. 음향 출력부(152')는 음향 출력부(152, 도 2a 참조)와 함께 스테레오 기능을 구현할 수 있으며, 통화시 스피커폰 모드의 구현을 위하여 사용될 수도 있다.
통화 등을 위한 안테나 외에 방송신호 수신용 안테나(116)가 단말기 바디의 측면에 추가적으로 배치될 수 있다. 방송수신모듈(111, 도 1 참조)의 일부를 이루는 안테나(116)는 단말기 바디에서 인출 가능하게 설치될 수 있다.
단말기 바디에는 이동 단말기(100)에 전원을 공급하기 위한 전원공급부(190)가 장착된다. 전원공급부(190)는 단말기 바디에 내장되거나, 단말기 바디의 외부에서 직접 탈착될 수 있게 구성될 수 있다.
리어 케이스(102)에는 터치를 감지하기 위한 터치 패드(135)가 추가로 장착될 수 있다. 터치 패드(135)는 디스플레이부(151)를 위해 광 투과형으로 구성될 수도 있다. 이 경우에, 디스플레이부(151)가 양면에서(즉, 이동단말기의 전면 및 후면 둘 다의 방향으로) 시각 정보를 출력하도록 구성된다면, 터치 패드(135)를 통해서도 상기 시각 정보를 인지할 수 있게 된다. 상기 양면에 출력되는 정보는 상기 터치 패드(135)에 의해 모두 제어될 수도 있다.
한편, 터치 패드(135) 전용 디스플레이가 별도로 장착됨으로써, 리어 케이스(102)에도 터치 스크린이 배치될 수도 있다.
터치 패드(135)는 프론트 케이스(101)의 디스플레이부(151)와 상호 관련되어 작동한다. 터치 패드(135)는 디스플레이부(151)의 후방에 평행하게 배치될 수 있다. 이러한 터치 패드(135)는 디스플레이부(151)와 동일하거나 작은 크기를 가질 수 있다.
이하에서는 이와 같이 구성된 이동 단말기에서 구현될 수 있는 제어 방법과 관련된 실시예들에 대해 첨부된 도면을 참조하여 살펴보겠다.
도 3은 본 발명과 관련된 이동 단말기 제어 방법의 흐름을 나타내는 순서도이다.
먼저, 이동 단말기 (100) 가 사용자 (10) 의 특정 신체 부위로부터의 신체 신호를 수신한다 (S310). 이동 단말기 (100) 는 신체 신호로부터 상기 특정 신체 부위와 매칭된 외부 대상 기기를 판단한다 (S320). 이동 단말기 (100) 는 사용자 (10) 로부터 사용자 음성 명령을 수신한다 (S330). 이동 단말기 (100) 는 수신된 음성 명령에 기초하여 외부 대상 기기를 제어하기 위한 제어 신호를 생성한다 (S340). 이동 단말기 (100) 는 외부 서버 (200) 로 제어 신호를 송신하며 (S350), 외부 서버 (200) 는 수신된 신호에 기반하여 외부 대상 기기들을 제어한다 (S360).
본 발명은 사용자가 제어하고자 하는 외부 대상 기기를 사용자의 동작 (예를 들어, 신체 접촉 또는 음성 수신) 으로 확인하고, 확인된 외부 대상 기기를 제어하기 위한 제어 명령을 사용자 음성을 통해서 확인하여 외부 대상 기기를 제어하기 위한 발명이다.
이동 단말기 (100) 를 사용하는 사용자 입장에서는, 자연스러운 말, 행동, 필기를 통해서 사용자가 원하는 방식으로 기기를 조작하는 것이 훨씬 편리하다. 따라서 이러한 사용자의 자연스러운 동작들을 기기를 조작하는 방식을 일반적으로 NUI (Natural User Interface) 라고 하며, 본 발명에서는, NUI 를 응용한 방식으로 사용자가 단말기에 대한 접촉 동작, 음성 동작을 이용하여 외부 대상 기기를 제어하고자 한다.
본 발명의 이동 단말기를 사용하는 사용자가 원하는 것은 사용자가 원하는 외부 대상 기기를 원하는 동작으로 제어하는 것이다. 따라서, 사용자가 원하는 외부 대상 기기가 무엇인지를 정확하게 확인하는 과정과 사용자가 외부 대상 기기를 어떻게 제어하기 원하는 지를 판단하는 과정이 크게 요구된다.
본 발명은 이러한 과정과 관련하여 제 1 및 제 2 실시예에 대해서 설명할 것이다. 간략하게 설명하면, 제 1 실시예는 사람의 특정 신체 부위 각각이 서로 다른 신체 주파수 특성을 가지고 있음을 이용하여 외부 대상 기기를 확인하고 음성 명령으로 외부 대상 기기에 대한 제어 명령을 판단하는 실시예이며, 제 2 실시예는 사용자의 음성을 분석하여 외부 대상 기기를 확인하고 제어하는 실시예이다.
제 1 실시예 및 제 2 실시예 모두 공통적으로 이동 단말기 (100) 가 사용자의 자연스러운 특정 액션을 확인하고, 그 특정 액션과 관련된 해석 과정을 통해서 외부 대상 기기에 대한 제어 신호를 생성한다.
도 4는 본 발명이 적용되는 구성 시스템의 일 예를 도시한 도면이다.
본 발명과 관련하여 이동 단말기 (100) 를 이용하여 외부 대상 기기들을 제어하는 일 시스템의 구성 요소로 이동 단말기 (100), 외부 서버 (200), 게이트 웨이 (300), 외부 대상 기기들 (401 내지 420) 등을 포함할 수 있다.
본 시스템에서, 이동 단말기 (100) 는 사용자로부터 사용자 입력을 분석하여 외부 대상 기기를 확인하고, 확인된 외부 대상 기기에 대한 제어 명령을 분석하여 외부 대상 기기를 제어하기 위한 제어 신호를 생성한다. 상기 생성된 제어 신호는 외부 서버 (200) 에 전달된다.
선택적으로, 이동 단말기 (100) 는 단순히 사용자로부터 사용자 입력을 수신하여 수신된 사용자 입력 정보를 외부 서버 (200) 에 전달할 수도 있다. 이 경우, 외부 서버 (200) 가 상기 사용자 입력 정보를 통해서 외부 대상 기기를 확인하고, 외부 대상 기기에 대한 제어 명령을 판단할 수도 있다. 예를 들어, 신체 주파수 특성을 이용하는 경우를 가정하면, 사용자가 특정 신체 부위를 단말기에 접촉한 경우, 이동 단말기 (100) 는 특정 신체 부위에 접촉한 정보를 외부 서버 (200) 에 전달할 수 있으며, 외부 서버 (200) 는 사전 저장된 데이터베이스를 기초하여 접촉된 특정 신체 부위와 사전 매칭된 외부 대상 기기를 확인할 수 있고, 그에 기반하여 제어 신호를 생성할 수 있다.
상기와 같이, 외부 서버 (200) 또는 이동 단말기 (100) 에 의해서 특정 외부 대상 기기에 대한 제어 신호가 생성된 경우, 외부 서버 (200) 는 제어 신호를 게이트 웨이 (300) 에 전달하고, 게이트 웨이 (300) 는 제어 신호에 포함된 특정 외부 대상 기기 정보를 확인하여, 게이트 웨이 (300) 에 연결 또는 접속된 다수의 외부 대상 기기들 (401 내지 420) 중 해당 특정 외부 대상 기기를 실제로 원하는 제어 동작으로 제어한다.
여기에서, 이동 단말기 (100) 과 외부 서버 (200), 외부 서버 (200) 와 게이트 웨이 (300), 및 게이트 웨이 (300) 및 외부 대상 기기들 (401 내지 420) 이 연결되는 방식은 기존에 존재하는 모든 방식을 이용할 수 있다. 예를 들어, 이동 단말기 (100) 는 무선 통신부 (110) 를 통해서 GSM(Gobal System for Mobile communications), CDMA(Code Division Multiple Access), WCDMA(Wideband CDMA)(이에 한정되지 않음)와 서버 (200) 에 연결될 수 있다. 또한, 무선 인터넷 기술, 근거리 통신 기술들도 연결 방식에 적용될 수 있다.
도 4 에 도시된 시스템의 경우, 기존의 홈 네트워킹 시스템 (home networking system) 을 그대로 이용하면서도 이동 단말기가 콘트롤러의 역할을 수행할 수 있다. 특히, 이동 단말기 (100) 가 외부 서버 (200) 에 제어 신호 또는 입력 신호를 제공하기 때문에, 이동 단말기 (100) 는 제어하려는 외부 대상 기기와 근접하게 위치하지 않더라도 외부 대상 기기를 외부 서버 (200) 및 게이트 웨이 (300) 를 통해서 용이하게 제어할 수 있는 효과가 있다.
도 5는 본 발명이 적용되는 구성 시스템의 다른 예를 도시한 도면이다.
구성 시스템의 다른 예로, 이동 단말기 (100) 가 다른 기기들의 중계를 거치지 않고 바로 외부 대상 기기들 (401 내지 420) 을 제어할 수도 있다.
도 5 를 참조하면, 본 구성 시스템을 구성하는 구성 요소로 이동 단말기 (100) 및 제어 대상인 외부 대상 기기들 (401 내지 420) 을 포함할 수 있으며, 여기에서, 외부 서버 (200) 역시 제어 대상인 외부 대상 기기 중 하나로 취급할 수 있다.
본 시스템에서, 이동 단말기 (100) 는 사용자로부터 사용자 입력을 분석하여 외부 대상 기기를 확인하고, 확인된 외부 대상 기기에 대한 제어 명령을 분석하여 외부 대상 기기를 제어하기 위한 제어 신호를 생성한다. 상기 생성된 제어 신호는 외부 서버 (200) 가 아니라 외부 대상 기기에 직접 송신된다. 즉, 이동 단말기 (100) 는 외부 대상 기기를 확인한 이후에 무선 통신부 (110) 를 통하여 확인된 외부 대상 기기에만 제어 신호를 송신한다. 제어 신호를 수신한 외부 대상 기기는 제어 신호에 포함된 제어 명령에 따라서 제어된다.
도 4 와 도 5 에서 본 발명이 적용될 수 있는 시스템에 대해서 설명하였다. 하지만, 선택적으로, 각 시스템이 교차되어 사용될 수 있다. 이동 단말기 (100) 의 위치 정보 모듈 (115) 이 이동 단말기 (100) 의 현재 위치를 파악하고 현재 위치에 적합한 시스템을 교차로 사용될 수도 있다. 예를 들어, 이동 단말기 (100) 의 현재 위치가 집으로 판단된 경우에, 도 5 의 시스템이 적용되어 이동 단말기 (100) 가 직접 외부 대상 기기를 제어할 수 있고, 또는 이동 단말기 (100) 의 현재 위치가 회사로 판단된 경우에, 도 4 의 시스템이 적용되어 이동 단말기 (100) 가 제어 신호를 외부 서버 (200) 에 송신하여 간접적으로 외부 대상 기기를 제어할 수도 있다.
도 4 및 5 에서, 다양한 외부 대상 기기들이 도시된다. 예를 들어, 외부 대상 기기는 VOD 플레이어 (401), 웹 카메라 (402), PC (403), 디지털 액자 (404), 펫 케어 (405), 리모컨 (406), 가스 렌지 (407), 전자 렌지 (408), 냉장고 (409), 세탁기 (410), 에어컨 (411), 정수기 (412), 스위치 (413), 조명 (414), 도어락 (415), 가스 차단기 (416), 아웃렛 (417), 화재경보기 (418), 마그네틱 센서 (419), 동체 감지 센서 (420) 등을 포함할 수 있다. 즉, 이러한 다양한 외부 대상기기들이 이동 단말기 (100) 에 의한 제어 대상이 될 수 있다.
이하에서는, 본 발명과 관련된 이동 단말기 (100) 가 사용자의 동작으로부터 외부 대상 기기를 확인하고, 확인한 외부 대상 기기를 제어하는 명령을 판단하는 내용에 대해서 구체적으로 설명한다.
제 1 실시예로, 사람의 신체 주파수 특성을 이용하여 외부 대상 기기를 확인하고, 음성으로 제어 명령을 판단하는 실시예에 대해서 설명한다.
도 6은 본 발명과 관련하여 신체 부위에 따른 신체 주파수 특성 차이를 개략적으로 설명하기 위한 도면이다.
사람의 신체는 신체 부위에 따라서 서로 다른 주파수 특성을 가진 신호를 발생시킬 수 있으며, 이러한 신호를 본 명세서에서는 "신체 신호" 로 지칭하고, 각각의 신체 신호의 정보를 "신체 주파수 특성"으로 지칭한다. 본 발명에서 신체 주파수 특성은 단순히 주파수 (frequency) 뿐만 아니라, 특정 신체 부위에서 발생되는 신체 신호의 신호 대역, 진폭등 신호를 구별할 수 있는 특성을 나타내도록 넓게 해석될 수도 있다.
서로 다른 신체 주파수 특성을 이용하는 기술의 예로 탭 센스 (TapSense) 기술을 설명한다. 탭 센스 기술은 주파수 인식 기술을 이용하여 변화를 감지하고, 신체 접촉시 다른 주파수 특성을 감지할 수 있는 기술이다.
탭센스 기술은 손가락 관절(Knuckle), 손톱 (nail), 손가락 끝(Tip), 손가락 패드 (pad) 을 각각 다르게 인식하는 기술이다. 도 6(a) 과 같이, 손가락의 각기 다른 부분으로 터치 스크린을 터치된 경우, 도 6(b) 와 같이, 서로 다른 주파수 특성을 가진 신호가 발생되는 것을 확인할 수 있다. 발생 신호를 확인하는 방식으로 저렴한 마이크를 터치스크린에 부착함으로써 쉽게 사용 가능하다.
본 발명과 관련하여, 신체 부위에 따른 신체 주파수 특성 차이를 확인하는 방식으로 센싱부 (140) 는 마이크 또는 초음파 센서를 추가적으로 포함하고 있으며, 특정 신체 부위를 접촉하는 경우의 공진 주파수를 분석할 수 있으며, 이러한 공진 주파수를 특정 신체 부위의 신체 주파수 특성으로 판단할 수 있다.
도 7은 본 발명과 관련한 제 1 실시예를 위한 도면으로, 신체 부위마다 발생하는 서로 다른 신체 주파수 특성을 가진 신체 신호가 발생하는 제 1 경우를 설명하는 도면이다.
신체 신호의 다른 신체 주파수 특성을 확인하는 제 1 경우로 사용자가 이동 단말기 (100) 를 특정 위치에 부착한 상태에서 손으로 사용자의 신체의 특정 부위를 잡거나 접촉한 경우에 센싱부 (140) 가 손으로 어느 부위를 잡았는 지를 확인할 수 있다.
도 7(a) 에서, 사용자 (10) 가 이동 단말기 (100) 를 오른쪽 팔뚝에 부착한 상태를 나타낸다.
도 7(b) 에서, 사용자 (10) 가 이동 단말기 (100) 를 오른쪽 팔뚝에 부착한 상태에서 왼손으로 머리를 접촉한 경우를 나타낸다. 이 경우에, 도면의 그래프를 통해서 확인할 수 있듯이, 머리라는 특정 부위에 대해서 특정 신호가 발생하는 것을 확인할 수 있으며, 머리에 대한 특정 신호의 특정 주파수는 다른 부위의 신체 주파수 특성과는 구분될 수 있다.
도 7(c) 에서, 사용자 (10) 가 이동 단말기 (100) 를 오른쪽 팔뚝에 부착한 상태에서 왼손으로 왼쪽 허벅지를 접촉한 경우를 나타낸다. 이 경우에, 도면의 그래프를 통해서 알 수 있듯이, 왼쪽 허벅지라는 특정 부위에 대해서 특정 신호가 발생하는 것으로 확인할 수 있으며, 도 7(b) 에서 발생된 신체 신호의 신체 주파수 특성과 도 7(c) 에서 발생된 신체 신호의 신체 주파수 특성은 서로 구별될 수 있음을 확인할 수 있다.
도 7 과 같이, 서로 다른 부위를 접촉한 경우에 오른쪽 팔뚝에 부착된 이동 단말기 (100) 의 센싱부 (140) 는 각각의 신체 신호 및 신체 주파수 특성을 판단한다. 제어부 (180) 는 판단된 신체 주파수 특성을 이용하여 각각의 신체 주파수 특성에 매칭된 외부 대상 기기를 확인할 수 있다.
도 8은 본 발명과 관련한 제 1 실시예를 위한 도면으로, 신체 부위마다 발생하는 서로 다른 신체 주파수 특성을 가진 신체 신호가 발생하는 제 2 경우를 설명하는 도면이다.
신체 신호의 다른 신체 주파수 특성을 확인하는 제 2 경우로 이동 단말기 (100) 를 사용자 (10) 의 특정 신체 부위에 직접 접촉한 경우이다. 이 경우에, 센싱부 (140) 는 이동 단말기 (100) 가 접촉된 신체 부위로부터의 신체 신호 및 그 신체 신호의 신체 주파수 특성을 확인할 수 있다.
도 8(a) 에서, 사용자 (10) 가 이동 단말기 (100) 를 오른손으로 잡거나 접촉한 경우를 나타낸다. 그래프를 통해서 확인할 수 있듯이, 오른손에 해당하는 신체 신호가 발생하며, 센싱부 (140) 는 신체 신호에 해당하는 특정 신체 주파수 특성을 확인할 수 있다.
도 8(b) 에서, 사용자 (10) 가 이동 단말기 (100) 를 머리에 접촉한 경우를 나타낸다. 그래프를 통해서 확인할 수 있듯이, 머리에 해당하는 신체 신호가 발생하며, 센싱부 (140) 는 신체 신호에 해당하는 특정 신체 주파수 특성을 확인할 수 있다.
도 8(c) 에서, 사용자 (10) 가 이동 단말기 (100) 를 오른쪽 가슴에 접촉한 경우를 나타낸다. 그래프를 통해서 확인할 수 있듯이, 오른쪽 가슴에 해당하는 신체 신호가 발생하며, 신체 신호에 해당하는 특정 신체 주파수 특성을 확인할 수 있다.
한편, 도 8(b) 및 8(c) 에서, 사용자 (10) 는 왼손으로 이동 단말기 (100) 를 잡고서 각각 머리 및 오른쪽 가슴을 접촉한 것으로 도시된다. 따라서, 센싱부 (140) 는 왼손에 의한 신체 신호 및 신체 주파수 특성을 머리 및 오른쪽 가슴에 해당하는 신체 신호 및 신체 주파수 특성과 구분할 필요성이 있다. 여기에서, 본 발명의 이동 단말기 (100) 는 각각의 신체 부위에 해당하는 신체 주파수 특성을 메모리 (160) 에 사전 저장하고 있기 때문에, 센싱부 (140) 가 두 개의 신체 신호, 즉, 오른손에 의한 신체 신호 및 머리 또는 오른쪽 가슴에 의한 신체 신호를 수신하더라도, 제어부 (180) 또는 센싱부 (140) 는 오른손에 의한 신체 신호는 결과 판단에 있어서 제외시킬 수 있고, 따라서, 원하는 신체 신호만을 판단 대상으로 고려할 있다.
도 9는 본 발명과 관련한 제 1 실시예를 위한 도면으로, 신체 부위마다 발생하는 서로 다른 신체 주파수 특성을 가진 신체 신호가 발생하는 제 3 경우를 설명하는 도면이다.
신체 신호의 다른 신체 주파수 특성을 확인하는 제 3 경우로 사용자 (10) 의 특정 신체 부위 각각에 이동 단말기 (100) 를 부착한 경우이다. 이 경우에, 센싱부 (140) 는 이동 단말기 (100) 가 접촉된 신체 부위로부터의 신체 신호 및 신체 주파수 특성을 확인할 수 있다.
도 9(a) 에서, 이동 단말기 (100) 가 사용자 (10) 의 오른쪽 팔뚝에 부착된 상태로 센싱부 (140) 는 오른쪽 팔뚝에 상응하는 상기 그래프와 같은 신체 신호 및 신체 주파수 특성을 확인할 수 있다.
도 9(b) 에서, 이동 단말기 (100) 가 사용자 (10) 의 왼쪽 발목에 부착된 상태로 센싱부 (140) 는 왼쪽 발목에 대응하는 상기 그래프와 같은 신체 신호 및 신체 주파수 특성을 확인할 수 있다.
도 7 내지 9 에서, 사용자의 특정 신체 부위에 따른 신체 신호 및 신체 주파수 특성을 센싱부 (140) 가 확인하는 경우에 대해서 설명하였다.
각각의 신체 부위에 대해서 서로 다른 신체 주파수 특성을 가진 신체 신호가 발생하기 때문에, 각각의 신체 주파수를 고유의 식별 정보로 활용할 수 있다. 따라서, 제어부 (180) 는 각각의 고유의 신체 주파수를 외부 대상 기기별로 매칭시킬 수 있다. 예를 들어, 오른쪽 팔뚝의 신체 주파수 특성은 TV 로 매칭할 수 있고, 머리의 신체 주파수 특성은 라디오에 매칭할 수 있고, 왼쪽 손의 신체 주파수 특성은 조명 기기에 매칭할 수 있다.
이러한 매칭 정보는 메모리 (160) 에 사전 저장될 수 있다. 따라서, 센싱부 (140) 에 의해서 서로 다른 신체 신호 및 그 신체 신호에 따른 신체 주파수 특성을 확인한 경우에, 제어부 (180) 는 저장된 매칭 정보를 검색하여, 확인된 신체 주파수 특성에 해당되는 외부 대상 기기를 확인할 수 있다.
한편, 상기 설명에 있어서, 사용자 (10) 자신이 자신의 신체를 이동 단말기 (100) 로 접촉한 경우에 대해서 설명하지만, 사용자 (10) 가 자신이 아닌 다른 사람을 이동 단말기 (100) 로 접촉한 경우에 대해서도 동일한 방식이 적용될 수도 있다. 또한, 신체 부위에 따른 신체 주파수 특성을 이용하는 다른 방식으로 사람의 신체 주파수 특성을 파악하여 감정을 인식하는 기술도 고려할 수 있다. 따라서, 타인을 접촉하여 타인의 신체 주파수 특성을 파악하여 상대방의 감정을 확인하는 방식도 고려될 수도 있다.
상기 설명에 있어서, 이동 단말기 (100) 로만 신체 주파수 특성을 파악하는 것으로 설명하였지만, 선택적으로 신체 신호를 감지할 수 있는 착용 가능 디바이스 (wearable device) 로 적용될 수 있다. 즉, 옷에 신체 신호를 감지할 수 있는 다수의 센서가 부착된 경우를 가정할 수 있다. 이 경우에, 사용자가 옷의 특정 위치를 접촉한 경우에 센서가 반응하여 특정 부위를 파악하여 상기 특정 부위에 해당하는 외부 대상 기기를 판단할 수 있다.
도 10은 본 발명과 관련한 제 1 실시예를 위한 도면으로, 사용자 음성으로 외부 대상 기기를 제어하는 제어 명령을 발생시키는 동작을 나타내는 도면이다.
신체 주파수 특성을 확인하여 제어부 (180) 가 상기 신체 주파수 특성과 사전 매칭된 외부 대상 기기를 판단한 경우에 마이크 (122) 는 사용자로부터 음성 신호를 수신한다.
신체 주파수 특성과 매칭된 외부 대상 기기를 제어하기 위한 제어 명령을 입력받는 방식은 다양하게 존재할 수 있다. 예를 들어, 사용자가 이동 단말기 (100) 에 텍스트로 직접 입력하는 방식이 존재할 수도 있다. 하지만, 본 발명에서는, 사용자의 음성을 통하여 외부 대상 기기를 제어하기 위한 제어 명령을 수신할 수 있다.
도 10(a) 에서 처럼, 이동 단말기 (100) 는 마이크 (122) 를 통하여 사용자 (10) 로부터 음성을 수신할 수 있다. 도면에서는, 예로써, 사용자 (10) 는 "우유 남았니?" 라고 말할 수 있고, 마이크 (122) 는 이를 수신할 수 있다.
상기와 같은 음성 입력이 마이크 (122) 를 통해서 수신된 경우, 제어부 (180) 는 다음과 같이 두가지 과정을 수행할 수 있다. 먼저, 마이크 (122) 를 통해서 수신된 음성을 수신하여 이를 텍스트로 인식하는 과정 (STT : Speech To Text) 및 인식된 텍스트가 정확하게 언어로써 무슨 의미가 있는 지를 파악하는 과정을 거친다.
메모리 (160) 는 각각의 외부 대상 기기에 대한 다수의 제어 명령들을 사전 저장할 수 있다. 예를 들어, 외부 대상 기기가 냉장고인 경우에 냉장고와 관련된 제어 명령들로 식품 모니터링, 온도 콘트롤링, 제품 주문등과 같이 냉장고와 관련된 여러 제어 명령들이 사전 저장될 수 있으며, 외부 대상 기기가 TV 인 경우에 TV 와 관련된 제어 명령들로 채널 컨트롤링, 볼륨 컨트롤링, 전원 온/오프, 색상 조절등과 같은 TV 와 관련된 여러 제어 명령들이 저장될 수 있다. 이외에도 외부 대상 기기 각각에 해당되는 다양한 제어 명령들이 메모리 (160) 에 사전 저장될 수 있다.
제어부 (180) 를 통해서 사용자의 음성이 정확하게 무슨 의미가 있는 지를 파악한 후에 제어부 (180) 는 메모리 (160) 에서, 상기 확인된 외부 대상 기기에 해당하는 제어 명령들을 참고하여 파악된 상기 사용자 음성이 외부 대상 기기에 적합한 제어 명령이 있는 지를 판단한다.
구체적으로, 도면과 같이, 사용자의 음성이 "우유 남았니" 이고, 외부 대상 기기가 냉장고로 판단된 경우에 냉장고에 대한 제어 명령들 중 식품 모니터링으로 사용자 음성을 판단할 수 있다. 즉, 제어부 (180) 는 사용자의 음성의 의미를 정확하게 파악한 후에 사용자의 음성의 의미와 가장 유사 또는 정확한 제어 명령을 판단할 수 있다.
도 10(b) 에서, 제어부 (180) 에 의해서 분석된 음성 및 제어 명령을 예시한 도면이다.
특정 외부 대상 기기가 냉장고인 경우를 가정하면, 장치 ID 는 이동 단말기 (100) 가 특정 외부 대상 기기를 식별하는 고유 식별 번호로 볼 수 있다. 제어부 (180) 에 의해서 상기 신체 주파수 특성을 이용하여 확인된 외부 대상 기기가 "냉장고"이며, 분석된 음성이 "우유 남았니" 인 경우에 제어 명령은 "냉장고 식품 모니터링" 으로 판단하고, 그에 따라서, 제어부 (180) 는 냉장고에 대한 식품 모니터링 제어 명령 정보를 포함하는 제어 신호를 생성하고, 이를 외부 서버 (200) 또는 냉장고에 직접 송신할 수 있다.
또한, 특정 외부 대상 기기가 TV 인 경우를 가정하면, 제어부 (180) 에 의해서 상기 신체 주파수 특성을 이용하여 확인된 외부 대상 기기가 "TV" 인 경우로, 분석된 음성이 "11 번으로 바꿔" 인 경우에 제어 명령은 "TV 채널 컨트롤링" 으로 판단하고, 제어부 (180) 는 TV 에 대한 TV 채널 컨트롤링 제어 명령 정보를 포함하는 제어 신호를 생성하여, 이를 송신할 수 있다.
이하에서는, 제 2 실시예로, 사용자의 음성을 통해서 제어할 외부 대상 기기를 확인하는 실시예에 대해서 설명한다. 제 1 실시예에서 사용자의 신체 주파수 특성을 이용하여 외부 대상 기기를 확인하였다면, 제 2 실시예에서는 사용자의 음성을 분석하여 외부 대상 기기를 확인할 수 있다.
도 11은 본 발명과 관련한 제 2 실시예를 위한 도면으로, 사용자 음성으로 외부 대상 기기를 확인하는 동작을 나타내는 도면이다.
도 10 의 경우와 유사하게, 사용자가 특정 외부 대상 기기를 음성으로 호출한 경우에 마이크 (122) 는 이러한 음성을 인식하고 특정 외부 대상 기기를 확인할 수 있다.
도 11(a) 에서, 사용자 (10) 가 "refri" 라는 음성을 말한 경우에, 마이크 (122) 는 이를 수신하고, 제어부 (180) 는 다수의 외부 대상 기기들 중에 상기 음성 "refri" 에 해당되는 외부 대상 기기가 존재하는 지를 판단한다.
음성을 통해서 외부 대상 기기를 파악하는 과정도 상기 도 10 에서와 유사하게, 먼저 마이크 (122) 가 음성을 정확하게 인식하여 제어부 (180) 가 이를 텍스트로 분석하고, 이러한 텍스트가 정확하게 무엇을 의미하는 지를 판단한다.
메모리 (160) 는 이동 단말기 (100) 가 제어할 수 있는 외부 대상 기기들의 명칭을 정확하게 저장하며, 또한, 외부 대상 기기들 각각의 약칭 역시 저장할 수 있다.
따라서, 사용자 (10) 가 약칭으로 "refri" 라고 호출하더라도, 제어부 (180) 는 메모리 (160) 에 저장된 정보를 이용하여 refri 가 냉장고로 판단할 수 있다.
도 11(b) 에서, 제어부 (180) 에 의해서 확인된 외부 대상 기기를 도시한다.
상기 설명한 바와 같이, 외부 대상 기기는 약칭 또는 가명 (alias naming) 으로도 확인될 수 있다.
먼저, 사용자 음성이 가명으로 "refri" 로 인식한 경우에 제어부 (180) 는 외부 대상 기기가 냉장고로 판단할 수 있다. 또한, 사용자 음성이 가명으로 "box" 로 인식한 경우에 제어부 (180) 는 외부 대상 기기가 TV 로 판단할 수 있다.
한편, 선택적으로, 제어부 (180) 가 음성을 통해서 외부 대상 기기를 확인한 경우에, 확인된 외부 대상 기기에 호출 신호를 송신할 수도 있다. 호출 신호를 수신한 외부 대상 기기는 예를 들어 응답 신호로써 "예, 주인님" 과 같은 음성 정보를 이동 단말기 (100) 에 송신할 수도 있다.
이렇게 사용자의 음성을 통해서, 외부 대상 기기가 확인된 경우에, 다시 사용자 음성을 수신하여 확인된 외부 대상 기기에 대한 제어 명령을 판단할 수 있으며, 제어 명령과 관련된 동작은 도 10에서 설명한 바와 동일하며 이에 대한 설명은 생략한다.
도 12는 본 발명과 관련한 제 2 실시예를 위한 도면으로, 사용자 음성으로 외부 대상 기기를 확인하는 동작 및 외부 대상 기기를 제어하는 제어 명령을 발생시키는 동작을 설명하기 위한 도면이다.
도 11 의 경우와 비교하면, 도 11 에서는 단일 음성 입력을 통하여 외부 대상 기기를 확인하고, 그와 별도로 외부 대상 기기에 대한 제어 명령을 판단하였다면, 도 12 에서는 복합 음성 입력을 통하여 외부 대상 기기를 확인하고 외부 대상 기기를 제어하는 제어 명령을 함께 확인할 수 있다.
도 12(a) 에서, 사용자 (10) 가 "box 야 소리 좀 키워" 라는 음성을 말한 경우에, 마이크 (122) 는 이 음성을 수신한다. 또한, 제어부 (180) 는 마이크 (122) 를 통해서 수신된 음성이 텍스트로 판단하고, 판단된 텍스트가 정확하게 어떤 의미가 있는 지를 판단한다.
"box 야 소리 좀 키워" 라는 사용자 음성은 "box 야" 라는 외부 대상 기기에 대한 정보 및 "소리 좀 키워" 라는 제어 명령 정보를 함께 포함한다. 따라서, 제어부 (180) 는 먼저 "box 야" 라는 음성으로부터 그에 해당하는 외부 대상 기기가 무엇인지를 확인하며, 확인된 경우에, 외부 대상 기기에 해당되는 제어 명령들을 참고하여 "소리 좀 키워" 에 상응하는 제어 명령을 판단한다.
상기 도면의 실시예에서는, 제어부 (180) 는 "box 야" 를 TV 라는 외부 대상 기기로 확인할 수 있고, "소리 좀 키워" 는 TV 에 대한 제어 명령 중 TV 볼륨 콘트롤링으로 판단할 수 있다.
도 12(b) 에서는, 제어부 (180) 에 의해서 분석된 외부 대상 기기 및 제어 명령을 예시한 도면이다.
먼저, 마이크 (122) 가 사용자로부터 "refri, 우유 남았니" 라는 복합 음성 입력을 수신한 경우에 제어부 (180) 는 "refri" 로부터 외부 대상 기기가 냉장고임을 확인하고, "우유 남았니" 로부터 제어 명령이 냉장고에 대한 식품 모니터링 명령으로 판단한다. 이후에 제어부 (180) 는 냉장고에 대한 식품 모니터링 명령을 포함하는 제어 신호를 생성하여 이를 서버 (200) 또는 냉장고에 송신할 수 있다.
다음, 마이크 (122) 가 사용자로부터 "box, 소리 좀 키워" 라는 복합 음성 입력을 수신한 경우에 제어부 (180) 는 "box" 로부터 외부 대상 기기가 TV 임을 확인하고, "소리 좀 키워" 로부터 제어 명령이 TV 에 대한 볼륨 콘트롤링으로 판단한다. 이후에 제어부 (180) 는 TV 에 대한 볼륨 콘트롤링 명령을 포함하는 제어 신호를 생성하여 이를 서버 (200) 또는 TV 에 송신할 수 있다.
제 1 실시예 및 제 2 실시예를 통하여 최종적으로 외부 대상 기기를 제어하기 위한 제어 신호가 해당 외부 대상 기기에 도달하여 제어 동작을 수행할 수 있다. 여기에서, 경우에 따라서, 이동 단말기 (100) 에게 외부 대상 기기가 피드백 정보를 제공할 수도 있다. 예를 들어, 제어 동작의 완료에 대한 정보를 피드백 정보로 제공할 수 있다. 구체적으로 "우유 남았니" 와 같은 식품 모니터링과 같은 제어 명령의 경우에 외부 대상 기기인 냉장고는 우유가 남아있지 않다는 정보를 피드백 정보로 이동 단말기 (100) 에 제공할 수 있으며, 이러한 피드백 정보는 이동 단말기 (100) 의 음향 출력 모듈 (152) 를 통해서 음성으로 사용자에게 알려줄 수도 있고, 디스플레이부 (151) 를 통해서 이미지 또는 텍스트로 사용자에게 알려줄 수도 있다.
또한, 이동 단말기 (100) 가 음성 명령을 인식한 경우에 음성 인식률이 일정 수준 (예를 들어, 80% 미만) 인 경우에 재입력을 유도할 수 있다. 예를 들어, "다시 한번 말씀해주세요" 또는 "장치를 다시 말씀해주세요" 와 같이 재입력을 유도하는 동작을 수행할 수도 있다.
한편, 상기 제 1 실시예에서 센싱부 (140) 는 사용자의 특정 인식 모드 진입 이후에 신체 신호를 감지하도록 제어될 수 있으며, 제 2 실시예에서 마이크 (122) 는 사용자의 특정 인식 모드 진입 이후에 음성을 감지하도록 제어될 수 있다.
구체적으로, 특정 키 (예를 들어, 홈 키, 잠금 키, 음성 인식 핫키, 접촉 인식 핫키) 를 일정시간 누른 경우에 한하여 인식 모드로 진입할 수 있다. 또한, 이동 단말기 (100) 를 일정 시간 귀에 가져다 되는 경우에 근접 센서를 통해서 이를 확인하여 인식 모드로 진입하도록 설정할 수도 있다. 선택적으로, 터치 스크린 (151) 을 통해서 인식 모드 진입 아이콘을 표시하고 이를 선택한 경우에 한하여 인식 모드로 진입할 수도 있다.
이하에서는, 본 발명의 또 다른 실시예로, 인체 통신 기술을 이용한 칩을 이용하여 이동 단말기 (100) 가 신체 정보를 수신하는 실시예에 대해서 설명한다.
인체 통신 기술이란 사람의 신체를 매개물질로 하여 별도의 전력 소비 없이 인체에 통하는 전류를 이용하여 통신의 매체로 사용하는 기술을 의미한다. 인체는 전해질이 많아서 전기를 잘 통하는 특성이 있다. 이러한 특성을 이용하여 다양한 정보를 송수신하는 매체로 신체를 사용할 수 있다. 인체 통신은 다양한 분야에 활용될 수 있다. 예를 들어, 인체통신 칩이 내장된 이동 단말기 또는 제품을 소지하고 있는 경우, 아파트 문에 손을 대기만 하면 신원이 자동으로 파악되어 자동으로 문을 열 수 있어서 암호를 입력할 필요가 없을 수도 있다. 또한, 처음 만난 두 사람이 인체 통신이 가능한 이동 단말기를 가지는 경우, 악수만 하더라도 자동으로 명함이 교환될 수도 있다.
본 발명과 관련하여, 신체의 임의의 일 부분에 신체 측정 칩 또는 센서를 삽입 또는 착용한 경우에, 상기 신체 측정 칩 또는 센서는 인체 통신 기술을 이용하여 신체의 각 부분의 다양한 신체 정보를 측정할 수 있다. 예를 들어, 신체 측정 칩 또는 센서는 신체의 각 부분의 체온, 혈압, 맥박 등의 신체 정보를 측정하여 저장할 수 있다.
사용자가 신체의 특정 부분을 접촉하는 경우, 접촉하는 신체 부분의 신체 정보를 측정할 수 있다. 구체적으로, 사용자가 손으로 특정 신체 부위를 접촉한 경우에 신체 측정 칩 또는 센서는 접촉된 해당 특정 신체 부위의 여러 신체 정보를 측정할 수 있다. 또는 선택적으로, 사용자가 이동 단말기 (100) 또는 다른 물건에 특정 신체 부위를 접촉한 경우에도 동일하게 접촉된 부위의 여러 신체 정보를 측정할 수 있다.
이렇게 신체 측정 칩 또는 센서에 의해서 측정되어 저장된 특정 신체 부위의 신체 정보는 이동 단말기 (100) 또는 외부 장치에 송신될 수 있다. 신체 측정 칩 또는 센서가 특정 신체 부위의 신체 정보를 측정하는 동시에 이동 단말기 (100) 가 해당 신체 정보를 수신할 수도 있다. 또는 선택적으로, 사용자의 음성 명령과 같은 제어 명령을 이동 단말기 (100) 또는 신체 측정 칩 또는 센서에 입력한 경우에 해당 신체 정보를 이동 단말기 (100) 에 송신할 수도 있다. 이동 단말기 (100) 는 이렇게 수신된 신체 정보를 판단하여, 신체 정보가 정상에서 벗어난 것으로 판단된 경우에 병원 또는 외부 단말기에 이상 (異常) 정보를 송신할 수도 있다.
본 발명은 본 발명의 정신 및 필수적 특징을 벗어나지 않는 범위에서 다른 특정한 형태로 구체화될 수 있음은 당업자에게 자명하다.
전술한 본 발명은, 프로그램이 기록된 매체에 컴퓨터가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 컴퓨터가 읽을 수 있는 매체는, 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 컴퓨터가 읽을 수 있는 매체의 예로는, ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장 장치 등이 있으며, 또한 캐리어 웨이브(예를 들어, 인터넷을 통한 전송)의 형태로 구현되는 것도 포함한다. 또한, 상기 컴퓨터는 단말기의 제어부(180)를 포함할 수도 있다.
따라서, 상기의 상세한 설명은 모든 면에서 제한적으로 해석되어서는 아니되고 예시적인 것으로 고려되어야 한다. 본 발명의 범위는 첨부된 청구항의 합리적 해석에 의해 결정되어야 하고, 본 발명의 등가적 범위 내에서의 모든 변경은 본 발명의 범위에 포함된다.
100: 이동단말기 110: 무선통신부
120: A/V 입출력부 130: 사용자 입력부
140: 센싱부 150: 출력부
160: 메모리 170: 인터페이스부
180: 제어부 190: 전원공급부

Claims (18)

  1. 무선 통신부;
    사용자의 각 신체 부위의 신체 주파수 특성을 나타내는 각각의 신체 주파수 정보에 매칭된 각각의 외부 대상 기기에 대한 매칭 정보를 저장한 메모리;
    이동 단말기의 현재 위치를 획득하는 위치 정보부;
    제1 신체 부위로부터 제1 신체 부위의 신체 주파수 특성을 포함한 제1 신체 신호를 감지하는 센싱부; 및
    상기 매칭 정보를 이용하여 상기 감지된 제1 신체 신호 내에 포함된 신체 주파수 특성에 해당하는 제1 외부 대상 기기를 제어 대상 기기로 선택하고, 상기 선택된 제1 외부 대상 기기의 동작 제어를 위한 제어 신호를 생성하고, 상기 생성된 제어 신호를 상기 무선 통신부를 통해 상기 제1 외부 대상 기기로 송신하는 제어부;를 포함하고,
    상기 제어부는,
    상기 위치 정보를 통해 획득된 현재 위치가 제1 위치에 해당되면, 상기 제어 신호를 상기 무선 통신부를 통해 상기 제1 외부 대상 기기로 송신하여 상기 제1 외부 대상 기기를 직접적으로 제어하고,
    상기 획득된 위치가 제2 위치에 해당하면, 상기 제어 신호를 상기 무선 통신부를 통해 상기 제1 외부 대상 기기의 동작 제어가 가능한 외부 서버로 송신하여 상기 제1 외부 대상 기기를 간접적으로 제어하는, 이동 단말기.
  2. 삭제
  3. 제1 항에 있어서,
    상기 제1 신체 신호는, 상기 사용자의 기 설정된 움직임에 기초하는, 이동 단말기.
  4. 제1 항에 있어서,
    상기 제1 신체 신호는, 상기 제1 신체 부위의 기 설정된 위치 또는 상기 사용자의 다른 신체 부위의 기 설정된 위치에 기초하는, 이동 단말기.
  5. 제1 항에 있어서,
    상기 제1 신체 신호는, 상기 제1 신체 부위에 대한 상기 이동 단말기의 접촉 또는 상기 사용자의 다른 신체 부위에 대한 상기 이동 단말기의 접촉에 기초하는, 이동 단말기.
  6. 삭제
  7. 삭제
  8. 삭제
  9. 삭제
  10. 삭제
  11. 삭제
  12. 삭제
  13. 삭제
  14. 삭제
  15. 삭제
  16. 삭제
  17. 삭제
  18. 삭제
KR1020120033764A 2012-04-02 2012-04-02 이동 단말기 및 그 제어방법 KR101871714B1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020120033764A KR101871714B1 (ko) 2012-04-02 2012-04-02 이동 단말기 및 그 제어방법
US13/649,550 US9495093B2 (en) 2012-04-02 2012-10-11 Mobile terminal and control method based on body parts signals

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020120033764A KR101871714B1 (ko) 2012-04-02 2012-04-02 이동 단말기 및 그 제어방법

Publications (2)

Publication Number Publication Date
KR20130111701A KR20130111701A (ko) 2013-10-11
KR101871714B1 true KR101871714B1 (ko) 2018-06-27

Family

ID=49234238

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020120033764A KR101871714B1 (ko) 2012-04-02 2012-04-02 이동 단말기 및 그 제어방법

Country Status (2)

Country Link
US (1) US9495093B2 (ko)
KR (1) KR101871714B1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190106934A (ko) * 2019-08-30 2019-09-18 엘지전자 주식회사 지능적 기기 제어 방법, 이동 단말기 및 지능형 컴퓨팅 디바이스

Families Citing this family (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101261687B1 (ko) * 2010-08-09 2013-05-06 주식회사 팬택 인체통신을 이용한 방송 시스템 및 그 방법
EP2769291B1 (en) 2011-10-18 2021-04-28 Carnegie Mellon University Method and apparatus for classifying touch events on a touch sensitive surface
KR20140114766A (ko) 2013-03-19 2014-09-29 퀵소 코 터치 입력을 감지하기 위한 방법 및 장치
US9013452B2 (en) * 2013-03-25 2015-04-21 Qeexo, Co. Method and system for activating different interactive functions using different types of finger contacts
US9612689B2 (en) 2015-02-02 2017-04-04 Qeexo, Co. Method and apparatus for classifying a touch event on a touchscreen as related to one of multiple function generating interaction layers and activating a function in the selected interaction layer
US10599250B2 (en) * 2013-05-06 2020-03-24 Qeexo, Co. Using finger touch types to interact with electronic devices
KR102218906B1 (ko) * 2014-01-17 2021-02-23 엘지전자 주식회사 이동 단말기 및 이의 제어 방법
US9600083B2 (en) 2014-07-15 2017-03-21 Immersion Corporation Systems and methods to generate haptic feedback for skin-mediated interactions
KR102297473B1 (ko) 2014-07-15 2021-09-02 삼성전자주식회사 신체를 이용하여 터치 입력을 제공하는 장치 및 방법
USD760759S1 (en) * 2014-09-01 2016-07-05 Apple Inc. Display screen or portion thereof with graphical user interface
US9329715B2 (en) 2014-09-11 2016-05-03 Qeexo, Co. Method and apparatus for differentiating touch screen users based on touch event analysis
US11619983B2 (en) 2014-09-15 2023-04-04 Qeexo, Co. Method and apparatus for resolving touch screen ambiguities
US10606417B2 (en) 2014-09-24 2020-03-31 Qeexo, Co. Method for improving accuracy of touch screen event analysis by use of spatiotemporal touch patterns
US10282024B2 (en) 2014-09-25 2019-05-07 Qeexo, Co. Classifying contacts or associations with a touch sensitive device
US9741344B2 (en) * 2014-10-20 2017-08-22 Vocalzoom Systems Ltd. System and method for operating devices using voice commands
DE102014223366A1 (de) * 2014-11-17 2016-05-19 BSH Hausgeräte GmbH Hausgerät mit einer berührungsempfindlichen Bedieneinrichtung sowie Verfahren zu seinem Betrieb
KR101603554B1 (ko) * 2014-12-16 2016-03-15 현대자동차주식회사 이기종간 차량 연동 시스템 및 그의 연동 정보 처리 방법, 그리고 이를 실행하는 컴퓨터 판독 가능한 기록 매체
US10554700B2 (en) * 2015-08-04 2020-02-04 At&T Intellectual Property I, L.P. Method and apparatus for management of communication conferencing
US10642404B2 (en) 2015-08-24 2020-05-05 Qeexo, Co. Touch sensitive device with multi-sensor stream synchronized data
CN105491470B (zh) * 2015-11-25 2019-09-20 惠州Tcl移动通信有限公司 蓝牙耳机及其通过智能佩戴接触设备实现自动通断的方法
USD814482S1 (en) * 2016-07-29 2018-04-03 Samsung Electronics Co., Ltd. Display screen or portion thereof with graphical user interface
US10732722B1 (en) * 2016-08-10 2020-08-04 Emaww Detecting emotions from micro-expressive free-form movements
CN107103503B (zh) * 2017-03-07 2020-05-12 阿里巴巴集团控股有限公司 一种订单信息确定方法和装置
US10356650B2 (en) * 2017-05-19 2019-07-16 Alliance Laundry Systems Llc Method, system, device, and program for remotely communicating with and controlling laundry units
US11009989B2 (en) 2018-08-21 2021-05-18 Qeexo, Co. Recognizing and rejecting unintentional touch events associated with a touch sensitive device
US10942603B2 (en) 2019-05-06 2021-03-09 Qeexo, Co. Managing activity states of an application processor in relation to touch or hover interactions with a touch sensitive device
US11231815B2 (en) 2019-06-28 2022-01-25 Qeexo, Co. Detecting object proximity using touch sensitive surface sensing and ultrasonic sensing
US11592423B2 (en) 2020-01-29 2023-02-28 Qeexo, Co. Adaptive ultrasonic sensing techniques and systems to mitigate interference

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100604582B1 (ko) * 2004-08-12 2006-07-25 주식회사 팬택앤큐리텔 사용자의 생체 신호를 이용하여 홈 가전기기를 제어하는 휴대용 통신 단말기
US20110285666A1 (en) * 2010-05-21 2011-11-24 Ivan Poupyrev Electrovibration for touch surfaces
US20120295662A1 (en) * 2010-11-18 2012-11-22 Jeremy Haubrich Universal Remote
KR20120082577A (ko) * 2011-01-14 2012-07-24 삼성전자주식회사 디바이스에서 펜 터치 인식 방법 및 장치
US9847083B2 (en) * 2011-11-17 2017-12-19 Universal Electronics Inc. System and method for voice actuated configuration of a controlling device
US9229231B2 (en) * 2011-12-07 2016-01-05 Microsoft Technology Licensing, Llc Updating printed content with personalized virtual data
US9182815B2 (en) * 2011-12-07 2015-11-10 Microsoft Technology Licensing, Llc Making static printed content dynamic with virtual data
US9013452B2 (en) * 2013-03-25 2015-04-21 Qeexo, Co. Method and system for activating different interactive functions using different types of finger contacts

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190106934A (ko) * 2019-08-30 2019-09-18 엘지전자 주식회사 지능적 기기 제어 방법, 이동 단말기 및 지능형 컴퓨팅 디바이스
KR102192147B1 (ko) 2019-08-30 2020-12-16 엘지전자 주식회사 지능적 기기 제어 방법, 이동 단말기 및 지능형 컴퓨팅 디바이스
US11057750B2 (en) 2019-08-30 2021-07-06 Lg Electronics Intelligent device controlling method, mobile terminal and intelligent computing device

Also Published As

Publication number Publication date
KR20130111701A (ko) 2013-10-11
US20130257757A1 (en) 2013-10-03
US9495093B2 (en) 2016-11-15

Similar Documents

Publication Publication Date Title
KR101871714B1 (ko) 이동 단말기 및 그 제어방법
KR101978205B1 (ko) 이동 단말기 및 그 제어 방법, 이를 위한 기록 매체
KR20150049440A (ko) 단말기 및 그 제어 방법
KR20140063194A (ko) 이동단말기 및 그 제어방법
KR101716892B1 (ko) 이동 단말기 크래들 및 그 제어방법
KR20150022519A (ko) 휴대 단말기 및 그 제어 방법
KR101918991B1 (ko) 헬스 케어 기능을 구비하는 이동 단말기 및 그것의 제어 방법
KR101648509B1 (ko) 이동 단말기 및 그 제어방법
KR101984090B1 (ko) 이동 단말기 및 그것의 제어방법
KR101521120B1 (ko) 이동 단말기 및 그 표시방법
KR20140094868A (ko) 이동 단말기 및 그 제어방법
KR20150094057A (ko) 이동단말 제어방법
KR20140133159A (ko) 이동단말기 및 그 제어방법
KR101495797B1 (ko) 이동 단말기 및 이동 단말기에서의 알람 제어 방법
KR101691234B1 (ko) 이동 단말기에서 입체음향 출력방법 및 그 방법을 이용한 이동 단말기
KR101601276B1 (ko) 단말기에서의 명령어 입력 방법 및 이를 적용한 단말기
KR20150092624A (ko) 전자 기기 및 그 제어 방법
KR101868353B1 (ko) 헬스 케어 기능을 구비하는 이동 단말기 및 그것의 제어 방법
KR101899815B1 (ko) 이동 단말기 및 이동 단말기 제어방법
KR101997444B1 (ko) 이동 단말기 및 이동 단말기 제어방법
KR20150057035A (ko) 이동 단말기 및 이동 단말기의 제어 방법
KR101781478B1 (ko) 이동 단말기 및 그 제어방법
KR101687350B1 (ko) 이동 단말기 및 그 제어방법
KR101608533B1 (ko) 이동 통신 단말기에서의 데이터 표시방법 및 이를 적용한 이동 통신 단말기
KR20140147530A (ko) 이동 단말기 및 이의 제어 방법

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant