KR20150033204A - 웨어러블 이동단말기 및 그 제어방법 - Google Patents

웨어러블 이동단말기 및 그 제어방법 Download PDF

Info

Publication number
KR20150033204A
KR20150033204A KR20130112892A KR20130112892A KR20150033204A KR 20150033204 A KR20150033204 A KR 20150033204A KR 20130112892 A KR20130112892 A KR 20130112892A KR 20130112892 A KR20130112892 A KR 20130112892A KR 20150033204 A KR20150033204 A KR 20150033204A
Authority
KR
South Korea
Prior art keywords
predetermined
gesture
mobile terminal
user
book
Prior art date
Application number
KR20130112892A
Other languages
English (en)
Other versions
KR102065417B1 (ko
Inventor
송유미
이지연
송영훈
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Priority to KR1020130112892A priority Critical patent/KR102065417B1/ko
Priority to US14/459,049 priority patent/US9372545B2/en
Priority to EP20140002896 priority patent/EP2866122A1/en
Priority to CN201410479692.2A priority patent/CN104461277B/zh
Publication of KR20150033204A publication Critical patent/KR20150033204A/ko
Application granted granted Critical
Publication of KR102065417B1 publication Critical patent/KR102065417B1/ko

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04BTRANSMISSION
    • H04B1/00Details of transmission systems, not covered by a single one of groups H04B3/00 - H04B13/00; Details of transmission systems not characterised by the medium used for transmission
    • H04B1/38Transceivers, i.e. devices in which transmitter and receiver form a structural unit and in which at least one part is used for functions of transmitting and receiving
    • H04B1/40Circuits
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • G06F1/163Wearable computers, e.g. on a belt
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304Detection arrangements using opto-electronic means
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0138Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B2027/0178Eyeglass type
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0179Display position adjusting means not related to the information to be displayed
    • G02B2027/0187Display position adjusting means not related to the information to be displayed slaved to motion of at least a part of the body of the user, e.g. head, eye

Abstract

본 발명은 사용자의 편의가 더욱 고려되어 단말기의 사용이 구현될 수 있도록 하는 안경 형태의 웨어러블(wearable) 이동 단말기 및 그 제어 방법에 관한 것이다. 본 발명의 실시예들 중 적어도 하나에 의하면, 사용자의 간편한 제스처를 기초로 웨어러블(wearable) 이동 단말기의 다양한 기능을 실행할 수 있다는 장점이 있다.

Description

웨어러블 이동단말기 및 그 제어방법{WEARABLE MOBILE TERMINAL AND METHOD FOR CONTROLLING THE SAME}
본 발명은 사용자의 편의가 더욱 고려되어 단말기의 사용이 구현될 수 있도록 하는 이동 단말기 및 그 제어 방법에 관한 것이다.
단말기는 이동 가능 여부에 따라 이동 단말기(mobile/portable terminal) 및 고정 단말기(stationary terminal)으로 나뉠 수 있다. 다시 이동 단말기는 사용자의 직접 휴대 가능 여부에 따라 휴대(형) 단말기(handheld terminal) 및 거치형 단말기(vehicle mount terminal)로 나뉠 수 있다.
이와 같은 단말기(terminal)는 기능이 다양화됨에 따라 예를 들어, 사진이나 동영상의 촬영, 음악이나 동영상 파일의 재생, 게임, 방송의 수신 등의 복합적인 기능들을 갖춘 멀티미디어 기기(Multimedia player) 형태로 구현되고 있다.
이러한 단말기의 기능 지지 및 증대를 위해, 단말기의 구조적인 부분 및/또는 소프트웨어적인 부분을 개량하는 것이 고려될 수 있다.
일반적인 단말기의 사용자는, 그 단말기를 가방이나 호주머니 등에 소지한 채 이동하다가, 조작이 필요한 경우에 조작하고자 하는 단말기를 손으로 파지한다. 그리고 사용자는 단말기를 손으로 파지한 상태에서, 파지하고 있는 손 또는 다른 손을 이용하여 단말기에 대한 조작을 수행할 수 있다.
최근, 이러한 단말기의 조작 방식에 대해서 불편함을 지적하고 있다. 특히, 사용자의 한 손 또는 양 손이 자유롭지 않은 상황(손으로 물건을 들고 있는 경우 또는 운동/운전 등을 하고 있는 경우)에서 단말기의 조작이 불편한 것은 당연한 사실이다. 이에 따라, 단말기를 조작하기 위한 새로운 방식에 대한 연구가 이루어지고 있다. 연구는 특히, 사람의 몸에 장착(wear)되는 형태의 이동 단말기에 대해 초점이 맞추어지고 있다. 이러한 형태의 단말기를, 웨어러블 기기(Wearable-device)(또는, 웨어러블 컴퓨터 등)이라 호칭한다. 웨어러블 기기의 대표적인 예로는, 시계형태의 단말기와 안경 형태의 단말기가 있다.
이러한 웨어러블 기기들은, 항상 사용자 신체의 일부에 착용되어 있기 때문에 휴대성 측면에 있어서 장점을 가지는 반면, 상대적으로 작은 디스플레이 및 사용자입력 수단의 제한이 존재하기 때문에 그 조작에 있어서 불편함을 초래할 단점을 가지고 있다.
이에 따라, 상기 웨어러블 기기들에 대한 조작의 불편함을 감소시켜 사용자의 편의성을 향상시키는 웨어러블 기기 및 이의 제어 방법에 대한 연구가 요구된다.
본 발명은 전술한 필요성을 충족하기 위해 제안되는 것으로서, 웨어러블 이동 단말기들을 조작하는데 있어서 편의성이 향상될 수 있도록 하는 이동단말기 및 그 제어 방법을 제공하는 것을 그 목적으로 한다.
본 발명에서 이루고자 하는 기술적 과제들은 이상에서 언급한 기술적 과제들로 제한되지 않으며, 언급하지 않은 또 다른 기술적 과제들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
상기 목적을 달성하기 위해 본 발명은, 사용자의 머리에 착용(be worn)시키기 위한 프래임, 상기 사용자의 손 제스처를 감지하는 센싱부, 착용 시, 상기 사용자의 시야방향을 향하는 카메라, 및 상기 센싱부를 통하여 소정 대상에 대한 소정 제스처를 감지할 경우, 상기 소정 대상에 대한 캡쳐이미지를 촬영하도록 상기 카메라를 제어하는, 제어부를 제공한다.
또한, 상기 목적을 달성하기 위해 본 발명은, 사용자의 머리에 착용(be worn)시키기 위한 프래임, 착용 시, 상기 사용자의 시야방향을 향하는 카메라 및 메모리를 구비하는, 웨어러블(wearable) 이동 단말기의 제어 방법에 있어서, 센싱부를 통하여 상기 사용자의 손 제스처를 감지하는 단계, 및 소정 대상에 대한 소정 제스처를 감지할 경우, 상기 소정 대상에 대한 캡쳐이미지를 촬영하도록 상기 카메라를 제어하는 단계를 제공한다.
본 발명에 따른 이동 단말기 및 그 제어 방법의 효과에 대해 설명하면 다음과 같다.
본 발명의 실시예들 중 적어도 하나에 의하면, 안경 형태의 웨어러블 이동 단말기를 사용자의 제스처로 손쉽게 제어할 수 있다는 장점이 있다.
또한, 본 발명의 실시예들 중 적어도 하나에 의하면, 안경 형태의 웨어러블 이동 단말기를 착용한 채, 인쇄물을 열람하는 경우, 인쇄물에 포함되어 있는 내용물에 증강 현실을 이용한 멀티미디어 컨텐츠를 추가 작성 및 열람할 수 있다는 장점이 있다.
본 발명에서 얻을 수 있는 효과는 이상에서 언급한 효과들로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
도 1은 본 발명의 일 실시예와 관련된 이동 단말기의 블록 구성도(block diagram)이다.
도 2는 본 발명과 관련된 이동 단말기 또는 휴대 단말기의 일 예를 전면에서 바라본 사시도이다.
도 3은 도 2에 도시된 휴대 단말기의 후면 사시도이다.
도 4는 본 발명의 일 실시예에 따른 이동 단말기의 후면커버를 분리하여 리어 케이스의 표면을 도시한 후면 사시도이다.
도 5 내지 도 7은 본 발명의 일실시예에 따라서, 사용자가 서적(book)의 소정 페이지 상에 이루어지는 손 제스처에 대응하여 캡쳐 동작을 수행하는 방법의 예시들을 도시하는 도면이다.
도 8은 본 발명의 일실시예에 따라, 사용자가 서적(book)의 표지 상에 이루어지는 손 제스처에 대응하여, 해당 서적을 등록하는 방법의 일례를 도시하는 도면이다.
도 9는 본 발명의 일실시예에 따라, 표시된 서적의 제호(title of a book)를 기초로, 서적을 등록하는 방법의 일례를 도시하는 도면이다.
도 10a 내지 도 10d는 본 발명의 일실시예에 따른, 웨어러블 기기(400)와 이동 단말기(100)간에 동기화를 수행하는 예시들을 도시하는 도면이다.
도 11은 본 발명의 일실시예에 따라, 사용자로부터 감지되는 펜 제스처를 기초로 소정 단어를 키워드로 저장하는 방법을 도시하는 도면이다.
도 12 내지 도 14는 본 발명의 일실시예에 따라, 저장된 키워드를 열람하는 상태도를 도시하는 도면이다.
도 15는 본 발명의 일실시예에 따라, 사용자의 필기 입력에 대응하여 태그 인디케이터를 표시하는 방법을 도시하는 도면이다.
도 16 및 도 17은 본 발명의 일실시예에 따라, 소정 단어에 대한 소정 제스처에 대응하여, 소정 단어에 대한 검색 결과를 제공하는 도면이다.
도 18은 본 발명의 일실시예에 따라서, 필기 컨텐츠를 메모로써 저장하는 방법을 도시하는 도면이다.
도 19에서는, 도 18에서 저장된 메모를 열람하는 상태도를 도시하고 있다.
도 20 및 도 21은 본 발명의 일실시예에 따라, 사용자에게 자동으로 암호를 검색하여 표시하는 제어 방법을 도시하는 도면이다.
도 22는 본 발명의 일실시예에 따라, 웨어러블 기기(400)가 다른 단말기와 즐겨찾기 목록을 공유하는 제어 방법을 도시하는 도면이다.
도 23 및 도 24는 본 발명의 일실시예에 따라, 웨어러블 기기(400)의 투명디스플레이(430)를 통하여 다른 이동 단말기(100)의 화면의 확장을 보조하는 방법을 도시하는 도면이다.
도 25는 본 발명의 일실시예에 따라서, 다른 이동 단말기(100)를 이용하여 웨어러블 기기(400)를 제어하는 방법을 도시하는 도면이다.
도 26은 본 발명의 일실시예에 따라, 소정 제스처의 감지에 대응하여 화면을 캡쳐하는 방법의 순서도를 도시하는 도면이다.
이하, 본 발명과 관련된 이동 단말기에 대하여 도면을 참조하여 보다 상세하게 설명한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다.
본 명세서에서 설명되는 이동 단말기에는 휴대폰, 스마트 폰(smart phone), 노트북 컴퓨터(laptop computer), 디지털방송용 단말기, PDA(Personal Digital Assistants), PMP(Portable Multimedia Player), 네비게이션 등이 포함될 수 있다. 그러나, 본 명세서에 기재된 실시예에 따른 구성은 이동 단말기에만 적용 가능한 경우를 제외하면, 디지털 TV, 데스크탑 컴퓨터 등과 같은 고정 단말기에도 적용될 수도 있음을 본 기술분야의 당업자라면 쉽게 알 수 있을 것이다.
도 1은 본 발명의 일 실시예와 관련된 이동 단말기의 블록 구성도(block diagram)이다.
상기 이동 단말기(100)는 무선 통신부(110), A/V(Audio/Video) 입력부(120), 사용자 입력부(130), 센싱부(140), 출력부(150), 메모리(160), 인터페이스부(170), 제어부(180) 및 전원 공급부(190) 등을 포함할 수 있다. 도 1에 도시된 구성요소들이 필수적인 것은 아니어서, 그보다 많은 구성요소들을 갖거나 그보다 적은 구성요소들을 갖는 이동 단말기가 구현될 수도 있다.
이하, 상기 구성요소들에 대해 차례로 살펴본다.
무선 통신부(110)는 이동 단말기(100)와 무선 통신 시스템 사이 또는 이동 단말기(100)와 이동 단말기(100)가 위치한 네트워크 사이의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 예를 들어, 무선 통신부(110)는 방송 수신 모듈(111), 이동통신 모듈(112), 무선 인터넷 모듈(113), 근거리 통신 모듈(114) 및 위치정보 모듈(115) 등을 포함할 수 있다.
방송 수신 모듈(111)은 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다. 상기 방송 채널은 위성 채널, 지상파 채널을 포함할 수 있다. 적어도 두 개의 방송 채널들에 대한 동시 방송 수신 또는 방송 채널 스위칭을 위해 둘 이상의 상기 방송 수신 모듈(1100)이 상기 이동 단말기(100)에 제공될 수 있다.
상기 방송 관리 서버는, 방송 신호 및/또는 방송 관련 정보를 생성하여 송신하는 서버 또는 기 생성된 방송 신호 및/또는 방송 관련 정보를 제공받아 단말기에 송신하는 서버를 의미할 수 있다. 상기 방송 신호는, TV 방송 신호, 라디오 방송 신호, 데이터 방송 신호를 포함할 뿐만 아니라, TV 방송 신호 또는 라디오 방송 신호에 데이터 방송 신호가 결합한 형태의 방송 신호도 포함할 수 있다.
상기 방송 관련 정보는 방송 채널, 방송 프로그램 또는 방송 서비스 제공자에 관련한 정보를 의미한다. 상기 방송 관련 정보는, 이동통신망을 통하여도 제공될 수 있다. 이러한 경우에는 상기 이동통신 모듈(112)에 의해 수신될 수 있다.
상기 방송 관련 정보는 다양한 형태로 존재할 수 있다. 예를 들어, DMB(Digital Multimedia Broadcasting)의 EPG(Electronic Program Guide) 또는 DVB-H(Digital Video Broadcast-Handheld)의 ESG(Electronic Service Guide) 등의 형태로 존재할 수 있다.
상기 방송 수신 모듈(111)은, 예를 들어, DMB-T(Digital Multimedia Broadcasting-Terrestrial), DMB-S(Digital Multimedia Broadcasting-Satellite), MediaFLO(Media Forward Link Only), DVB-H(Digital Video Broadcast-Handheld), DVB-CBMS (Convergence of Broadcasting and Mobile Service), OMA-BCAST (Open Mobile Alliance-BroadCAST), CMMB (China Multimedia Mobile Broadcasting), MBBMS (Mobile Broadcasting Business Management System), ISDB-T(Integrated Services Digital Broadcast-Terrestrial) 등의 디지털 방송 시스템을 이용하여 디지털 방송 신호를 수신할 수 있다. 물론, 상기 방송 수신 모듈(111)은, 상술한 디지털 방송 시스템뿐만 아니라 다른 방송 시스템에 적합하도록 구성될 수도 있다.
방송 수신 모듈(111)을 통해 수신된 방송 신호 및/또는 방송 관련 정보는 메모리(160)에 저장될 수 있다.
이동통신 모듈(112)은, GSM(Global System for Mobile communications), CDMA(Code Division Multiple Access), WCDMA(Wideband CDMA)(이에 한정되지 않음)와 같은 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 상기 무선 신호는, 음성 호 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.
무선 인터넷 모듈(113)은 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 이동 단말기(100)에 내장되거나 외장될 수 있다. 무선 인터넷 기술로는 WLAN(Wireless LAN)(Wi-Fi), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access), GSM, CDMA, WCDMA, LTE(Long Term Evolution)(이에 한정되지 않음) 등이 이용될 수 있다.
Wibro, HSDPA, GSM, CDMA, WCDMA, LTE 등에 의한 무선인터넷 접속은 이동통신망을 통해 이루어진다는 관점에서 본다면, 상기 이동통신망을 통해 무선인터넷 접속을 수행하는 상기 무선 인터넷 모듈(113)은 상기 이동통신 모듈(112)의 일종으로 이해될 수도 있다.
근거리 통신 모듈(114)은 근거리 통신을 위한 모듈을 말한다. 근거리 통신(short range communication) 기술로 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(IrDA, infrared Data Association), UWB(Ultra Wideband), ZigBee 등이 이용될 수 있다.
위치정보 모듈(115)은 이동 단말기의 위치를 획득하기 위한 모듈로서, 그의 대표적인 예로는 GPS(Global Position System) 모듈이 있다. 현재 기술에 의하면, 상기 위치정보 모듈(115)은 3개 이상의 위성으로부터 떨어진 거리 정보와 정확한 시간 정보를 산출한 다음 상기 산출된 정보에 삼각법을 적용함으로써, 위도, 경도, 및 고도에 따른 3차원의 현 위치 정보를 정확히 산출할 수 있다. 현재, 3개의 위성을 이용하여 위치 및 시간 정보를 산출하고, 또다른 1개의 위성을 이용하여 상기 산출된 위치 및 시간 정보의 오차를 수정하는 방법이 널리 사용되고 있다. 또한, GPS 모듈(115)은 현 위치를 실시간으로 계속 산출함으로써 속도 정보를 산출할 수 있다.
도 1을 참조하면, A/V(Audio/Video) 입력부(120)는 오디오 신호 또는 비디오 신호 입력을 위한 것으로, 이에는 카메라(121)와 마이크(122) 등이 포함될 수 있다. 카메라(121)는 화상 통화모드 또는 촬영 모드에서 이미지 센서에 의해 얻어지는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 처리된 화상 프레임은 디스플레이부(151)에 표시될 수 있다.
카메라(121)에서 처리된 화상 프레임은 메모리(160)에 저장되거나 무선 통신부(110)를 통하여 외부로 전송될 수 있다. 카메라(121)는 사용 환경에 따라 2개 이상이 구비될 수도 있다.
마이크(122)는 통화모드 또는 녹음모드, 음성인식 모드 등에서 마이크로폰(Microphone)에 의해 외부의 음향 신호를 입력받아 전기적인 음성 데이터로 처리한다. 처리된 음성 데이터는 통화 모드인 경우 이동통신 모듈(112)을 통하여 이동통신 기지국으로 송신 가능한 형태로 변환되어 출력될 수 있다. 마이크(122)에는 외부의 음향 신호를 입력받는 과정에서 발생되는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수 있다.
사용자 입력부(130)는 사용자가 단말기의 동작 제어를 위한 입력 데이터를 발생시킨다. 사용자 입력부(130)는 이동 단말기(100)의 전후면 또는 측면에 위치하는 버튼(136), 터치 센서(정압/정전)(137)로 구성될 수 있고, 도시되지는 않았지만 키패드(key pad), 돔 스위치 (dome switch), 조그 휠, 조그 스위치 등을 더욱 포함하여 구성될 수 있다.
센싱부(140)는 이동 단말기(100)의 개폐 상태, 이동 단말기(100)의 위치, 사용자 접촉 유무, 이동 단말기의 방위, 이동 단말기의 가속/감속 등과 같이 이동 단말기(100)의 현 상태를 감지하여 이동 단말기(100)의 동작을 제어하기 위한 센싱 신호를 발생시킨다. 상기 센싱부(140)의 예로는, 자이로스코프 센서, 가속도 센서, 지자기 센서 등이 있을 수 있다.
예를 들어 이동 단말기(100)가 슬라이드 폰 형태인 경우 슬라이드 폰의 개폐 여부를 센싱할 수 있다. 또한, 전원 공급부(190)의 전원 공급 여부, 인터페이스부(170)의 외부 기기 결합 여부 등을 센싱할 수도 있다. 한편, 상기 센싱부(140)는 근접 센서(141)를 포함할 수 있다.
출력부(150)는 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것으로, 이에는 디스플레이부(151), 음향 출력 모듈(152), 알람부(153), 및 햅틱 모듈(154) 등이 포함될 수 있다.
디스플레이부(151)는 이동 단말기(100)에서 처리되는 정보를 표시(출력)한다. 예를 들어, 이동 단말기가 통화 모드인 경우 통화와 관련된 UI(User Interface) 또는 GUI(Graphic User Interface)를 표시한다. 이동 단말기(100)가 화상 통화 모드 또는 촬영 모드인 경우에는 촬영 또는/및 수신된 영상 또는 UI, GUI를 표시한다.
디스플레이부(151)는 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display) 중에서 적어도 하나를 포함할 수 있다.
이들 중 일부 디스플레이는 그를 통해 외부를 볼 수 있도록 투명형 또는 광투과형으로 구성될 수 있다. 이는 투명 디스플레이라 호칭될 수 있는데, 상기 투명 디스플레이의 대표적인 예로는 TOLED(Transparent OLED) 등이 있다. 디스플레이부(151)의 후방 구조 또한 광 투과형 구조로 구성될 수 있다. 이러한 구조에 의하여, 사용자는 단말기 바디의 디스플레이부(151)가 차지하는 영역을 통해 단말기 바디의 후방에 위치한 사물을 볼 수 있다.
이동 단말기(100)의 구현 형태에 따라 디스플레이부(151)이 2개 이상 존재할 수 있다. 예를 들어, 이동 단말기(100)에는 복수의 디스플레이부들이 하나의 면에 이격되거나 일체로 배치될 수 있고, 또한 서로 다른 면에 각각 배치될 수도 있다.
디스플레이부(151)와 터치 동작을 감지하는 센서(이하, '터치 센서'라 함)가 상호 레이어 구조를 이루는 경우(이하, '터치 스크린'이라 함)에, 디스플레이부(151)는 출력 장치 이외에 입력 장치로도 사용될 수 있다. 터치 센서는, 예를 들어, 터치 필름, 터치 시트, 터치 패드 등의 형태를 가질 수 있다.
터치 센서는 디스플레이부(151)의 특정 부위에 가해진 압력 또는 디스플레이부(151)의 특정 부위에 발생하는 정전 용량 등의 변화를 전기적인 입력신호로 변환하도록 구성될 수 있다. 터치 센서는 터치 되는 위치 및 면적뿐만 아니라, 터치 시의 압력까지도 검출할 수 있도록 구성될 수 있다.
터치 센서에 대한 터치 입력이 있는 경우, 그에 대응하는 신호(들)는 터치 제어기(미도시)로 보내진다. 터치 제어기는 그 신호(들)를 처리한 다음 대응하는 데이터를 제어부(180)로 전송한다. 이로써, 제어부(180)는 디스플레이부(151)의 어느 영역이 터치 되었는지 여부 등을 알 수 있게 된다.
상기 근접 센서(141)는 상기 터치스크린에 의해 감싸지는 이동 단말기의 내부 영역 또는 상기 터치 스크린의 근처에 배치될 수 있다. 상기 근접 센서는 소정의 검출면에 접근하는 물체, 혹은 근방에 존재하는 물체의 유무를 전자계의 힘 또는 적외선을 이용하여 기계적 접촉이 없이 검출하는 센서를 말한다. 근접 센서는 접촉식 센서보다는 그 수명이 길며 그 활용도 또한 높다.
상기 근접 센서의 예로는 투과형 광전 센서, 직접 반사형 광전 센서, 미러 반사형 광전 센서, 고주파 발진형 근접 센서, 정전용량형 근접 센서, 자기형 근접 센서, 적외선 근접 센서 등이 있다. 상기 터치스크린이 정전식인 경우에는 상기 포인터의 근접에 따른 전계의 변화로 상기 포인터의 근접을 검출하도록 구성된다. 이 경우 상기 터치 스크린(터치 센서)은 근접 센서로 분류될 수도 있다.
이하에서는 설명의 편의를 위해, 상기 터치스크린 상에 포인터가 접촉되지 않으면서 근접되어 상기 포인터가 상기 터치스크린 상에 위치함이 인식되도록 하는 행위를 "근접 터치(proximity touch)"라고 호칭하고, 상기 터치스크린 상에 포인터가 실제로 접촉되는 행위를 "접촉 터치(contact touch)"라고 호칭할 수 있다. 상기 터치스크린 상에서 포인터로 근접 터치가 되는 위치라 함은, 상기 포인터가 근접 터치될 때 상기 포인터가 상기 터치스크린에 대해 수직으로 대응되는 위치를 의미할 수 있다.
상기 근접센서는, 근접 터치와, 근접 터치 패턴(예를 들어, 근접 터치 거리, 근접 터치 방향, 근접 터치 속도, 근접 터치 시간, 근접 터치 위치, 근접 터치 이동 상태 등)을 감지한다. 상기 감지된 근접 터치 동작 및 근접 터치 패턴에 상응하는 정보는 터치 스크린상에 출력될 수 있다.
음향 출력 모듈(152)은 호신호 수신, 통화모드 또는 녹음 모드, 음성인식 모드, 방송수신 모드 등에서 무선 통신부(110)로부터 수신되거나 메모리(160)에 저장된 오디오 데이터를 출력할 수 있다. 음향 출력 모듈(152)은 이동 단말기(100)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음 등)과 관련된 음향 신호를 출력하기도 한다. 이러한 음향 출력 모듈(152)에는 리시버(Receiver), 스피커(speaker), 버저(Buzzer) 등이 포함될 수 있다.
알람부(153)는 이동 단말기(100)의 이벤트 발생을 알리기 위한 신호를 출력한다. 이동 단말기에서 발생 되는 이벤트의 예로는 호 신호 수신, 메시지 수신, 키 신호 입력, 터치 입력 등이 있다. 알람부(153)는 비디오 신호나 오디오 신호 이외에 다른 형태, 예를 들어 진동으로 이벤트 발생을 알리기 위한 신호를 출력할 수도 있다. 상기 비디오 신호나 오디오 신호는 디스플레이부(151)나 음향 출력 모듈(152)을 통해서도 출력될 수 있으므로, 이 경우 상기 디스플레이부(151) 및 음향 출력 모듈(152)은 알람부(153)의 일종으로 분류될 수도 있다.
햅틱 모듈(haptic module)(154)은 사용자가 느낄 수 있는 다양한 촉각 효과를 발생시킨다. 햅틱 모듈(154)이 발생시키는 촉각 효과의 대표적인 예로는 진동이 있다. 햅틱 모듈(154)이 발생하는 진동의 세기와 패턴 등은 제어가능하다. 예를 들어, 서로 다른 진동을 합성하여 출력하거나 순차적으로 출력할 수도 있다.
햅틱 모듈(154)은, 진동 외에도, 접촉 피부면에 대해 수직 운동하는 핀 배열, 분사구나 흡입구를 통한 공기의 분사력이나 흡입력, 피부 표면에 대한 스침, 전극(electrode)의 접촉, 정전기력 등의 자극에 의한 효과와, 흡열이나 발열 가능한 소자를 이용한 냉온감 재현에 의한 효과 등 다양한 촉각 효과를 발생시킬 수 있다.
햅틱 모듈(154)은 직접적인 접촉을 통해 촉각 효과의 전달할 수 있을 뿐만 아니라, 사용자가 손가락이나 팔 등의 근 감각을 통해 촉각 효과를 느낄 수 있도록 구현할 수도 있다. 햅틱 모듈(154)은 이동 단말기(100)의 구성 태양에 따라 2개 이상이 구비될 수 있다.
메모리(160)는 제어부(180)의 처리 및 제어를 위한 프로그램이 저장될 수도 있고, 입/출력되는 데이터들(예를 들어, 전화번호부, 메시지, 오디오, 정지영상, 동영상 등)의 임시 저장을 위한 기능을 수행할 수도 있다. 상기 메모리(160)에는 상기 데이터들 각각에 대한 사용 빈도(예를 들면, 각 전화번호, 각 메시지, 각 멀티미디어에 대한 사용빈도)가 저장될 수 있다.
또한, 상기 메모리(160)에는 상기 터치스크린 상의 터치 입력시 출력되는 다양한 패턴의 진동 및 음향에 관한 데이터를 저장할 수 있다.
메모리(160)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(Random Access Memory, RAM), SRAM(Static Random Access Memory), 롬(Read-Only Memory, ROM), EEPROM(Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory), 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 이동 단말기(100)는 인터넷(internet)상에서 상기 메모리(160)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작할 수도 있다.
인터페이스부(170)는 이동 단말기(100)에 연결되는 모든 외부기기와의 통로 역할을 한다. 인터페이스부(170)는 외부 기기로부터 데이터를 전송받거나, 전원을 공급받아 이동 단말기(100) 내부의 각 구성 요소에 전달하거나, 이동 단말기(100) 내부의 데이터가 외부 기기로 전송되도록 한다. 예를 들어, 유/무선 헤드셋 포트, 외부 충전기 포트, 유/무선 데이터 포트, 메모리 카드(memory card) 포트, 식별 모듈이 구비된 장치를 연결하는 포트, 오디오 I/O(Input/Output) 포트, 비디오 I/O(Input/Output) 포트, 이어폰 포트 등이 인터페이스부(170)에 포함될 수 있다.
식별 모듈은 이동 단말기(100)의 사용 권한을 인증하기 위한 각종 정보를 저장한 칩으로서, 사용자 인증 모듈(User Identify Module, UIM), 가입자 인증 모듈(Subscriber Identify Module, SIM), 범용 사용자 인증 모듈(Universal Subscriber Identity Module, USIM) 등을 포함할 수 있다. 식별 모듈이 구비된 장치(이하 '식별 장치')는, 스마트 카드(smart card) 형식으로 제작될 수 있다. 따라서 식별 장치는 포트를 통하여 이동 단말기(100)와 연결될 수 있다.
상기 인터페이스부는 이동 단말기(100)가 외부 크래들(cradle)과 연결될 때 상기 크래들로부터의 전원이 상기 이동 단말기(100)에 공급되는 통로가 되거나, 사용자에 의해 상기 크래들에서 입력되는 각종 명령 신호가 상기 이동 단말기(100)로 전달되는 통로가 될 수 있다. 상기 크래들로부터 입력되는 각종 명령 신호 또는 상기 전원은 상기 이동 단말기(100)가 상기 크래들에 정확히 장착되었음을 인지하기 위한 신호로 동작될 수도 있다.
제어부(controller)(180)는 통상적으로 이동 단말기의 전반적인 동작을 제어한다. 예를 들어 음성 통화, 데이터 통신, 화상 통화 등을 위한 관련된 제어 및 처리를 수행한다. 제어부(180)는 멀티 미디어 재생을 위한 멀티미디어 모듈(181)을 구비할 수도 있다. 멀티미디어 모듈(181)은 제어부(180) 내에 구현될 수도 있고, 제어부(180)와 별도로 구현될 수도 있다.
상기 제어부(180)는 상기 터치스크린 상에서 행해지는 필기 입력 또는 그림 그리기 입력을 각각 문자 및 이미지로 인식할 수 있는 패턴 인식 처리를 행할 수 있다.
전원 공급부(190)는 제어부(180)의 제어에 의해 외부의 전원, 내부의 전원을 인가받아 각 구성요소들의 동작에 필요한 전원을 공급한다.
배터리는 충전 가능하도록 이루어지는 내장형 배터리가 될 수 있으며, 충전 등을 위하여 단말기 바디에 착탈 가능하게 결합될 수 있다. 연결포트는 배터리의 충전을 위하여 전원을 공급하는 외부 충전기가 전기적으로 연결되는 인터페이스부(170)의 일 예로서 구성될 수 있다.
여기에 설명되는 다양한 실시예는 예를 들어, 소프트웨어, 하드웨어 또는 이들의 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 장치로 읽을 수 있는 기록매체 내에서 구현될 수 있다.
하드웨어적인 구현에 의하면, 여기에 설명되는 실시예는 ASICs (application specific integrated circuits), DSPs (digital signal processors), DSPDs (digital signal processing devices), PLDs (programmable logic devices), FPGAs (field programmable gate arrays, 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적인 유닛 중 적어도 하나를 이용하여 구현될 수 있다. 일부의 경우에 본 명세서에서 설명되는 실시예들이 제어부(180) 자체로 구현될 수 있다.
소프트웨어적인 구현에 의하면, 본 명세서에서 설명되는 절차 및 기능과 같은 실시예들은 별도의 소프트웨어 모듈들로 구현될 수 있다. 상기 소프트웨어 모듈들 각각은 본 명세서에서 설명되는 하나 이상의 기능 및 작동을 수행할 수 있다. 적절한 프로그램 언어로 쓰여진 소프트웨어 애플리케이션으로 소프트웨어 코드가 구현될 수 있다. 상기 소프트웨어 코드는 메모리(160)에 저장되고, 제어부(180)에 의해 실행될 수 있다.
이하, 본 발명의 실시예를 설명하는데 있어서, 디스플레이부(151)는 터치스크린(151)으로 가정하여 설명하기로 한다. 하지만, 본 발명의 실시예들이 터치스크린(151)에 한정되는 것은 아니다.
또한, 본 발명의 실시예에서 터치 제스처는 터치 스크린(151)를 접촉 터치하거나 근접 터치하여 구현되는 제스처를 의미하며, 터치 입력은 터치 제스처에 의해 수신되는 입력을 의미한다.
터치 제스처는 동작에 따라 태핑(tapping), 터치 드래그(touch & drag), 플리킹(flicking), 프레스(press), 멀티 터치(multi touch), 핀치 인(pinch in), 핀치 아웃(pinch out) 등으로 구분된다.
태핑은 터치 스크린(151)을 가볍게 한번 눌렀다 떼는 동작으로, 일반 퍼스널 컴퓨터에서의 마우스의 클릭과 같은 터치 제스처를 의미한다.
또한, 터치 드래그는 터치 스크린(151)에 터치를 유지한 상태에서 특정 위치로 이동한 후 떼는 동작으로, 객체를 드래그하는 경우, 해당 객체는 드래그 방향에 따라 지속적으로 이동하여 표시될 수도 있다.
또한, 플리킹은 터치 스크린(151)을 터치한 후 특정 방향(상, 하, 좌, 우 또는 대각선)으로 이동 후 접점을 떼는 동작을 의미하며, 이동 단말기(100)는 플리킹에 의해 터치 입력이 수신되면, 플리킹 방향, 속도 등을 토대로 특정 동작의 처리를 수행한다. 예를 들어, 플리킹 방향을 토대로 전자 책(e-book)의 페이지 넘김 동작을 수행할 수 있다.
또한, 프레스는 터치 스크린(151)을 터치 후 기 설정된 시간 이상 지속적으로 터치를 유지하는 동작을 의미한다.
또한, 멀티 터치는 터치 스크린(151)의 복수의 지점을 동시에 터치하는 동작을 의미한다.
또한, 핀치 인은 터치 스크린(151)을 멀티 터치 중인 복수의 포인터가 서로 가까워지는 방향으로 드래그하는 동작을 의미한다. 즉, 터치 스크린(151)에서 멀티 터치되는 복수의 지점 중 적어도 하나의 지점으로부터 시작되고, 멀티 터치되는 복수의 지점이 서로 가까워지는 방향으로 발생하는 드래그를 의미한다.
또한, 핀치 아웃은 터치 스크린(151)을 멀티 터치 중인 복수의 포인터가 서로 멀어지는 방향으로 드래그하는 동작을 의미한다. 즉, 터치 스크린(151)에서 멀티 터치되는 복수의 지점 중 적어도 하나의 지점으로부터 시작되고, 멀티 터치되는 복수의 지점이 서로 멀어지는 방향으로 발생하는 드래그를 의미한다.
도 2는 본 발명과 관련된 이동 단말기 또는 휴대 단말기의 일 예를 전면에서 바라본 사시도이다.
개시된 이동 단말기(100)는 바 형태의 단말기 바디를 구비하고 있다. 다만, 본 발명은 여기에 한정되지 않고, 2 이상의 바디들이 상대 이동 가능하게 결합되는 슬라이드 타입, 폴더 타입, 스윙 타입, 스위블 타입 등 다양한 구조에 적용이 가능하다.
상기 이동 단말기(100)의 바디는 외관을 이루는 케이스(101, 102, 103)를 포함한다. 본 실시예에서, 케이스는 프론트 케이스(101)와 리어 케이스(102)로 구분될 수 있다. 프론트 케이스(101)와 리어 케이스(102)의 사이에 형성된 공간에는 각종 전자부품들이 내장된다.
경우에 따라서는 리어 케이스(102)의 표면에도 전자부품이 실장 될 수 있다. 상기 리어 케이스(102)의 표면에 실장되는 전자부품은 사용자가 탈착이 필요한 배터리, USIM카드 및 메모리카드 등이 있다. 이 때, 상기 리어 케이스(102)는 그 표면을 커버하기 위한 후면커버(103)를 더 구비할 수 있다. 상기 후면커버(103)는 사용자가 용이하게 탈부착 가능한 구조로 형성되며, 상기 후면커버(103)를 제거하면, 상기 리어 케이스(102)의 표면이 노출된다.
도 2에 도시된 바와 같이 상기 후면커버(103)를 결합하면, 상기 리어 케이스(102)의 측면 일부만 노출될 수도 있고, 상기 후면커버(103)의 사이즈를 작게하면 상기 리어 케이스(102)의 배면 일부도 노출될 수 있다. 상기 후면커버(103)가 상기 리어 케이스(102)의 배면 전체를 커버하는 경우 카메라(121')나 음향 출력부(152')를 외부로 노출시키기 위한 개구부(103')를 포함할 수 있다.
케이스들(101, 102, 103)은 합성수지를 사출하여 형성되거나 금속 재질, 예를 들어 스테인레스 스틸(STS) 또는 티타늄(Ti) 등과 같은 금속 재질을 갖도록 형성될 수도 있다.
단말기 케이스(101, 102)에는 디스플레이부(151), 음향 출력 모듈(152), 카메라(121), 사용자 입력부(130/131,132), 마이크(122), 인터페이스부(170) 등이 배치될 수 있다.
디스플레이부(151)는 프론트 케이스(101)의 주면의 대부분을 차지한다. 디스플레이부(151)의 양단부 중 일 단부에 인접한 영역에는 음향 출력 모듈(152)와 카메라(121)가 배치되고, 다른 단부에 인접한 영역에는 사용자 입력부(131)와 마이크(122)가 배치된다. 사용자 입력부(132)와 인터페이스부(170) 등은 프론트 케이스(101) 및 리어 케이스(102)의 측면들에 배치될 수 있다.
사용자 입력부(130)는 이동 단말기(100)의 동작을 제어하기 위한 명령을 입력받기 위해 조작되는 것으로서, 복수의 조작 유닛들(131,132)을 포함할 수 있다. 조작 유닛들(131,132)은 조작부(manipulating portion)로도 통칭 될 수 있으며, 사용자가 촉각 적인 느낌을 가면서 조작하게 되는 방식(tactile manner)이라면 어떤 방식이든 채용될 수 있다.
제1 또는 제2조작 유닛들(131, 132)에 의하여 입력되는 내용은 다양하게 설정될 수 있다. 예를 들어, 제1 조작 유닛(131)은 시작, 종료, 스크롤 등과 같은 명령을 입력받고, 제2 조작 유닛(132)은 음향 출력 모듈(152)에서 출력되는 음향의 크기 조절 과 같은 명령을 입력받고, 제 3 조작 유닛(133)은 디스플레이부(151)의 터치 인식 모드로의 전환 등과 같은 명령을 입력받을 수 있다.
도 3은 도 2에 도시된 휴대 단말기의 후면 사시도이다.
도 3를 참조하면, 단말기 바디의 후면, 다시 말해서 리어 케이스(102)에는 카메라(121')가 추가로 장착될 수 있다. 카메라(121')는 카메라(121, 도 2 참조)와 실질적으로 반대되는 촬영 방향을 가지며, 카메라(121)와 서로 다른 화소를 가지는 카메라일 수 있다.
예를 들어, 카메라(121)는 화상 통화 등의 경우에 사용자의 얼굴을 촬영하여 상대방에 전송함에 무리가 없도록 저 화소를 가지며, 카메라(121')는 일반적인 피사체를 촬영하고 바로 전송하지는 않는 경우가 많기에 고 화소를 가지는 것이 바람직하다. 카메라(121,121')는 회전 또는 팝업(pop-up) 가능하게 단말기 바디에 설치될 수도 있다.
카메라(121')에 인접하게는 플래쉬(123)와 거울(124)이 추가로 배치된다. 플래쉬(123)는 카메라(121')로 피사체를 촬영하는 경우에 피사체를 향해 빛을 비추게 된다. 거울(124)은 사용자가 카메라(121')를 이용하여 자신을 촬영(셀프 촬영)하고자 하는 경우에, 사용자 자신의 얼굴 등을 비춰볼 수 있게 한다.
단말기 바디의 후면에는 음향 출력부(152')가 추가로 배치될 수도 있다. 음향 출력부(152')는 음향 출력부(152, 도 2a 참조)와 함께 스테레오 기능을 구현할 수 있으며, 통화시 스피커폰 모드의 구현을 위하여 사용될 수도 있다.
단말기 바디의 측면에는 통화 등을 위한 안테나 외에 방송신호 수신용 안테나(116)가 추가적으로 배치될 수 있다. 방송수신모듈(111, 도 1 참조)의 일부를 이루는 안테나(116)는 단말기 바디에서 인출 가능하게 설치될 수 있다.
도 4는 본 발명의 일실시예에 따른 안경 형태의 웨어러블 기기(400)의 일 예를 전면에서 바라본 사시도이다.
웨어러블 기기(400)는, 안경 다리(423), 중앙 지지대(424), 코 받침대(425)를 포함할 수 있다. 도 4의 예시에서 중앙 지지대(424)는 안경 다리(423)와 연결되어 있다. 그리고, 도 4에 도시된 안경 형태의 웨어러블 기기(400)는 안경렌즈와, 안경렌즈를 지지하기 위한 렌즈프래임을 포함하고 있지 않을 수 있다.
컴퓨팅 시스템(426)은, 웨어러블 기기(400)의 안경 다리(423)와 중앙 지지대(434)에 걸쳐 위치하도록 도시되어 있다. 하지만, 컴퓨팅 시스템(426)의 위치는 이에 한정되지 않을 것이다. 컴퓨팅 시스템(426)은, 일반적인 이동 단말기(100)의 본체에 대응되며, 도 1과 함께 상술한 각종 장치/모듈을 포함할 수 있다.
카메라(428)는 도 4에서, 컴퓨팅 시스템(426)의 전면부에 위치하도록 도시되어 있다. 카메라(428)는 도 1에서 참조하여 상술한 카메라(121)와 동일하나, 웨어러블 기기(400)의 전면부에 위치하는 카메라임을 강조하기 위하여 다른 식별 부호를 사용하기로 한다. 카메라(428)의 위치는 웨어러블 기기(400)의 다른 곳에 위치할 수도 있을 것이다. 카메라(428)는 다양한 화질 및 프레임 레이트(frame rate)를 갖는 영상을 캡쳐할 수 있도록 구성된다. 특히, 카메라(428)는 웨어러블 기기(400)의 전면부에서 사용자가 바라보는 시야와 동일한 이미지를 얻도록 사용할 수 있다.
도 4에 도시된 바에 따르면, 투명디스플레이(430)는 헤드 마운티드 디스플레이(Head Mounted Display, HMD) 형태로써, 중앙 지지대(434) 부분에 위치하도록 도시되어 있다. HMD 형태란, 머리 부분에 장착해, 사용자의 눈앞에 직접 영상을 제시할 수 있는 디스플레이 형태를 의미한다. 즉, 사용자가 웨어러블 기기(400)를 착용하였을 때, 사용자의 눈앞에 직접 영상을 제공할 수 있도록 사용자의 눈을 향하도록 중앙 지지대(434) 부분에 위치할 수 있다.
투명디스플레이(430)를 통하여 출력되는 출력이미지는, 사용자가 일상에서 사물을 바라보는 시야(이하, 일반 시야라고 부름)와 겹쳐 출력한다. 즉, 웨어러블 기기(400)는 이러한 투명디스플레이(430)를 이용하여 증강 현실(Augmented Reality, AR)을 제공할 수 있다. 증강 현실은 현실의 이미지나 배경에 3차원 가상 이미지를 겹쳐서 하나의 영상으로 보여주는 기술이다. 이러한 증강 현실을 구현하기 위한 기술은, 공지된 기술이므로 자세한 설명은 생략하기로 한다.
일반 시야와 출력이미지를 겹쳐서 출력하기 위한 투명디스플레이(430)의 재질은 투명인 경우와 투명하지 않은 경우로 구분될 수 있다.
본 발명의 일실시예에 따른, 투명디스플레이(430)는 투명한 재질로 구비되어, 사용자가 투명디스플레이(430)를 투과하는 투과이미지와 투명디스플레이(430)를 통하여 출력되는 출력이미지가 겹쳐서 보여질 수 있다.
본 발명의 다른 실시예에 따르면, 웨어러블 기기(400)는 투명하지 않은 투명디스플레이(430)를 구비할 수 있으며, 투명디스플레이(430)을 통하여 제공되는 이미지가 사용자의 두 눈 중 한 눈을 통하여 제공됨과 동시에, 다른 눈을 통해서는 일반 사물의 시야가 제공될 수 있다.
본 발명의 또 다른 실시예에 따르면, 웨어러블 기기(400)는 투명하지 않은 투명디스플레이(430)를 구비할 수 있으며, 카메라(428)를 통하여 수신되는 이미지를 배경으로 하는 증강 현실을 제공할 수 있다.
본 발명의 일실시예에 따른 웨어러블 기기(400)는, 아이 트랙킹 센서(미도시, eye tracking sensor)를 더 포함할 수 있다. 아이 트랙킹 센서는, 사용자의 눈동자가 향하는 방향, 눈동자의 움직임 및/또는 눈동자의 위치를 감지할 수 있는 센서를 의미한다. 컴퓨팅 시스템(426)은, 아이 트랙킹 센서에 의해서 감지된 눈동자가 향하는 방향 등을 기초로 사용자의 시선이 어디를 향하는지 판단할 수 있다. 아이 트랙킹 센서는, 웨어러블 기기(400)가 사용자에 의해 착용된 경우, 사용자의 눈동자를 향하도록 배치될 수 있다.
도 4에 참조된 예시에서 컴퓨팅 시스템(426)은 사용자로부터 입력을 수신하기 위한 사용자 입력부(410, 411, 412)를 포함할 수 있다. 사용자 입력부(410,411, 412)는 본 발명의 일실시예에 따른 제어 방법을 위하여 제공된다. 사용자 입력부(410, 411, 412)는, 물리적인 버튼 또는 터치패드(이에 제한되지 않음)로 이루어질 수 있으며, 사용자가 손가락을 이용해 선택(터치)하는 입력을 감지하고 제어부(180)로 전달할 수 있다. 상기 사용자 입력부(410, 411, 412)는 드래그 패드(412)를 포함할 수 있다. 드래그 패드(412)는 터치를 기반으로, 사용자가 웨어러블 기기(400)(또는 웨어러블 기기(400)와 연결되어 있는 기타 외부 기기)의 소정 기능을 실행할 수 있도록 하는 입력 모듈이다. 드래그 패드(412)는 두 개로 구성되어 있는 안경 다리(423) 중 하나 또는 전부에 구비될 수 있으며, 사용자 손가락의 위치 또는 움직임을 센싱하고, 그 결과를 컴퓨팅 시스템(426)에 전달할 수 있다. 예를 들면, 드래그 패드(412)는 손가락이 사용자의 시야 방향을 향해 드래그되는지, 반대 방향으로 드래그 되는지 감지하고, 감지된 결과를 컴퓨팅 시스템(426)에 전달할 수 있다.
이하에서는 이와 같이 구성된 이동 단말기에서 구현될 수 있는 제어 방법과 관련된 실시예들에 대해 첨부된 도면을 참조하여 살펴보겠다.
이하 상세한 설명에서 설명될 본 발명의 적어도 하나의 실시예에서는, 사용자가 상기 웨어러블 기기(400)를 머리에 착용하고 있는 상태에서, 서적을 읽고 있는 상황에서의 사용자의 편의성을 증대시킬 수 있는 웨어러블 기기(400)의 제어 방법을 제안하고자 한다. 사용자는 웨어러블 기기(400)를 착용하게 될 경우, 웨어러블 기기(400)는 사용자에게 증강 현실을 제공할 수 있으며, 특히 그 증강 현실은 사용자가 읽고 있는 서적 간어 식별할 수 있을 뿐만 아니라, 서적에 포함되어 있는 글자 컨텐츠, 그림 컨텐츠 및/또는 필기 컨텐츠를 식별하고, 식별된 결과를 기초로 증강 현실을 제공할 수 있다. 구체적인 적용 방법에 대해서는, 이하 도면을 참조하면서 상세히 후술하기로 한다.
이하 본 발명의 실시예들을 설명하기 위한 도면에서는, 투명디스플레이(430)가 투명인 경우를 예시로 설명한다. 또한, 본 발명의 실시예들을 설명하기 위한 도면에서는, 사용자가 도 4를 참조하여 상술한 안경 형태의 웨어러블 기기(400)를 머리에 착용하고 있는 상태에서, 투명디스플레이(430)의 상태도의 도시와 함께, 투명디스플레이(430)를 투과하여 보여지는 배경을 함께 도시한다.
도 5 내지 도 7은 본 발명의 일실시예에 따라서, 사용자가 서적(book)의 소정 페이지 상에 이루어지는 손 제스처에 대응하여 캡쳐 동작을 수행하는 방법의 예시들을 도시하는 도면이다. 이하, 본 발명의 일실시예에서는, 서적을 예시로 하여 설명하나, 인쇄된 텍스트(text)를 포함하고 있는 대상(종이류에 한정하지 않음)이라면, 본 발명의 일실시예를 적용할 수 있다.
도 5 (a)를 참조하면, 사용자는 손가락(501, 도 5의 예시에서는 오른손의 검지)을 이용하여, 소정 페이지 상의 제 1 지점(501-a 손의 검지가 가리키는 지점)을 터치하고 제 2 지점(501-b 손의 검지가 가리키는 지점)까지 드래그하는 제스처(이하, 제 1 제스처)를 하고 있다. 웨어러블 기기(400)는 상기 제 1 제스처가 입력되면, 상기 소정 페이지의 적어도 일영역을 캡쳐(Capture)할 수 있다.
본 발명의 실시예에서의 캡쳐란, 사용자가 투명디스플레이(430)를 투과하여 보여지는 시야를 이미지로 저장하는 동작을 의미한다. 즉, 웨어러블 기기(400)는, 사용자의 시야와 같은 방향을 향하고 있는 카메라(428)를 통하여 이미지를 촬영하고, 촬영한 이미지를 저장함으로써 상술하는 캡쳐 동작을 수행할 수 있다. 즉, 사용자가 투명디스플레이(430)를 투과하여 보여지는 시야를 이미지로 획득하기 위하여, 사용자의 시야와 같은 방향을 향하는 카메라(428)를 통하여 이미지를 촬영할 수 있다.
본 발명의 일실시예에서의 상기 소정 페이지의 일영역은, 상기 제 1 제스처의 상기 제 1 지점 및 제 2 지점을 가로지르는 직선을 대각선으로 하는 직사각 영역(502)일 수 있다.
캡쳐 동작을 통하여 얻어진 캡쳐 이미지가 저장되면, 제어부(180)는 도 6 (c)에서와 같이, 캡쳐 동작이 이루어졌음을 나타내는 안내 문구(504)를 출력할 수 있다.
본 발명의 일실시예에 따른 웨어러블 기기(400)가 제스처를 감지하는데 있어서, 카메라(428)를 통하여 촬영되는 이미지를 분석할 수 있다. 즉, 웨어러블 기기(400)의 제어부(180)는, 카메라(428)를 통하여 (실시간으로) 수신되는 이미지를 소정 간격으로 분석하고, 분석 결과 사용자의 손이 제스처를 취하는지 여부를 감지할 수 있다. 본 발명의 다른 실시예에 따른 웨어러블 기기(400)가 제스처를 감지하는데 있어서, 센싱부(140)를 이용할 수 있다. 한편, 제스처를 감지하는 방법으로, 상기 방법에 한정되는 것은 아니다. 사용자의 제스처를 감지하는 다른 대체 방법은, 본 발명의 일실시예에 적용할 수 있을 것이다. 이하, 본 발명의 실시예들을 설명하기 위한 상세한 설명에서 사용자의 손 제스처를 감지하는 방법뿐 만 아니라, 펜 제스처를 감지하는 방법에 있어서, 상술한 방법들을 사용할 수 있다. 펜 제스처에 대해서는, 이하 관련 도면에서 상세히 설명하기로 한다.
한편, 상술하는 제스처는 정확하게 인식되어야 할 필요성이 있다. 사용자가 의도하지 않은 손 동작이, 소정 명령으로 인식되어서는 안되기 때문이다. 그러기 때문에, 상기 제 1 제스처를 좀 더 구체화시킬 필요가 있다. 본 발명의 일실시예에 따른 제 1 제스처는, 도 5 (a)에서와 같이 검지만 피고, 검지를 제외한 나머지 손가락은 접은 상태에서 제 1 지점을 소정 시간 이상 가리킨 상태에서, 제 2 지점으로 드래그 하는 입력일 수 있다. 추가적으로 상기 제 1 제스처는, 제 1 지점에서 제 2 지점으로 드래그하는 거리가 소정 거리 이상인 제스처일 수 있다. 즉, 상기 드래그하는 거리가 소정 거리 이하일 경우, 제어부(180)는 제 1 제스처로 인식하지 않을 수 있다. 즉, 제어부(180)는 구체화된 제 1 제스처를 감지할 경우, 상기 캡쳐 동작을 수행할 수 있다.
더 나아가, 본 발명의 일실시예에서는, 사용자의 선택(또는 기설정)에 따라, 캡쳐된 이미지를 이미지 데이터 및 텍스트 데이터의 두 가지 데이터 타입 중 선택된 하나로 저장할 수 있다. 즉, 제 1 제스처가 감지되면, 제어부(180)는 소정 영역을 저장하기 위한 데이터 타입을 선택하기 위한 팝업창을 출력할 수 있다(도 5 (b)참조). 출력된 팝업창은, 적어도 하나의 선택 아이콘(503-1 내지 503-3)을 포함하고, 사용자가 선택 아이콘(503-1 내지 503-3) 중 하나를 선택하면, 제어부(180)는 선택 아이콘(503-1 내지 503-3) 중 선택된 아이콘에 대응하는 데이터 타입으로 저장할 수 있다.
만약, 사용자의 선택이 아니라, 기설정된 데이터 타입을 이용하여 저장하는 경우, 팝업창을 출력하지 않고 바로 도 5 (c)에서와 같이 캡쳐가 완료되었음을 나타내는 안내 문구를 출력할 수 있을 것이다.
이미지 선택 아이콘(503-1)이 선택되면, 제어부(180)는 캡쳐된 이미지를 메모리(160)에 이미지 데이터 형식으로 저장할 수 있다.
텍스트화 선택 아이콘(503-2)가 선택되면, 제어부(180)는 캡쳐된 이미지 상의 텍스트를 인식하고, 메모리(160)에 인식한 결과를 텍스트 데이터 형식으로 저장할 수 있다.
한편, 본 발명의 일실시예에 따른 아이콘의 선택 방법은, 선택 인디케이터(504)를 이용할 것을 제안한다. 일반적으로, 안경 형태의 웨어러블 기기(400)는, 사용자의 입력을 수신하기 쉽지 않다는 단점이 있다. 왜냐하면, 일반적인 이동 단말기(100)의 입력 수단인 터치스크린을 활용하기 어렵기 때문이다. 본 발명의 일실시예에 따른 선택 인디케이터(504)는, 상기 선택 아이콘(503-1 내지 503-3) 중 어느 하나에 위치할 수 있으며, 선택 인디케이터(504)의 위치가 사용자의 입력에 따라서 상기 선택 아이콘(503-1 내지 503-3) 위치 간에 스크롤 될 수 있다. 제어부(180)는 사용자의 결정 입력이 수신되면, 선택 아이콘(503-1 내지 503-3) 중에서 상기 선택 인디케이터(504)가 위치하고 있는 아이콘을 선택할 수 있다. 상기 선택 인디케이터(504)를 스크롤하는 입력은, 상기 드래그 패드(412)를 소정 방향으로 드래그하는 입력일 수 있다. 그리고 상기 결정 입력은, 상기 드래그 패드(412)를 터치하는 입력일 수 있다.
본 발명의 일실시예에서 사용자는 이하의 도면에서 표시되는 선택 인디케이터(504)을 이용하여, 복수 개의 선택 아이콘 중에서 어느 하나의 아이콘을 선택할 수 있을 것이다.
도 6 (a)를 참조하면, 사용자는 양 손의 손가락(601 왼손의 검지 및 501 오른손의 검지) 각각을 이용하여, 소정 페이지 상의 제 1 지점(601 손의 검지가 가리키는 지점) 및 제 2 지점(501 손의 검지가 가리키는 지점)을 터치하는 제스처(이하, 제 2 제스처)를 하고 있다. 웨어러블 기기(400)는 상기 제 2 제스처가 입력되면, 상기 소정 페이지의 적어도 일영역을 캡쳐(Capture)할 수 있다.
본 발명의 일실시예에서의 상기 소정 페이지의 일영역은, 상기 제 1 제스처의 상기 제 1 지점 및 제 2 지점을 가로지르는 직선을 대각선으로 하는 직사각 영역(502)일 수 있다.
제 2 제스처 또한, 오인식을 최소화하기 위하여 좀 더 구체화할 필요가 있다. 따라서, 상기 제 2 제스처는 도 6 (a)에 도시된 바와 같이 양 손의 검지만 피고, 검지를 제외한 나머지 손가락은 접은 상태에서, 소정 페이지 상의 제 1 지점(601 손의 검지가 가리키는 지점) 및 제 2 지점(501 손의 검지가 가리키는 지점)을 터치하는 제스처일 수 있다. 더 나아가, 상기 터치를 한 채 소정 시간 이상 유지하는 제스처일 수 있다.
도 5에서와 마찬가지로, 도 6에 따른 본 발명의 일실시예에서는, 사용자의 선택(또는 기설정)에 따라, 캡쳐된 이미지를 이미지 데이터 및 텍스트 데이터의 두 가지 데이터 타입 중 선택된 하나로 저장할 수 있다. 즉, 제 1 제스처가 감지되면, 제어부(180)는 소정 영역을 저장하기 위한 데이터 타입을 선택하기 위한 팝업창을 출력할 수 있다(도 5 (b)참조). 출력된 팝업창은, 적어도 하나의 선택 아이콘(503-1 내지 503-3)을 포함하고, 사용자가 선택 아이콘(503-1 내지 503-3) 중 하나를 선택하면, 제어부(180)는 선택 아이콘(503-1 내지 503-3) 중 선택된 아이콘에 대응하는 데이터 타입으로 저장할 수 있다.
도 6 (a)를 참조하면, 사용자는 손바닥을 이용하여 소정 페이지를 덮는 제스처(이하, 제 3 제스처)를 하고 있다. 웨어러블 기기(400)는 상기 제 3 제스처가 입력되면, 상기 소정 페이지의 적어도 일영역(또는 소정 페이지 전체)을 캡쳐(Capture)할 수 있다.
마찬가지로 오인식을 줄이기 위하여 본 발명의 일실시예에 따른 상기 제 3 제스처는 구체적으로, 손바닥을 이용하여 소정 페이지를 덮는 시간이 소정 시간 이상일 수 있다. 즉, 소정 시간 이상 입력되지 않는 경우 제어부(180)는 제 3 제스처로 인식하지 않고, 캡쳐 동작을 수행하지 않을 수 있다.
도 5에서와 마찬가지로, 도 7에 따른 본 발명의 일실시예에서는, 사용자의 선택(또는 기설정)에 따라, 캡쳐된 이미지를 이미지 데이터 및 텍스트 데이터의 두 가지 데이터 타입 중 선택된 하나로 저장할 수 있다. 즉, 제 1 제스처가 감지되면, 제어부(180)는 소정 영역을 저장하기 위한 데이터 타입을 선택하기 위한 팝업창을 출력할 수 있다(도 5 (b)참조). 출력된 팝업창은, 적어도 하나의 선택 아이콘(503-1 내지 503-3)을 포함하고, 사용자가 선택 아이콘(503-1 내지 503-3) 중 하나를 선택하면, 제어부(180)는 선택 아이콘(503-1 내지 503-3) 중 선택된 아이콘에 대응하는 데이터 타입으로 저장할 수 있다.
도 8은 본 발명의 일실시예에 따라, 사용자가 서적(book)의 표지 상에 이루어지는 손 제스처에 대응하여, 해당 서적을 등록하는 방법의 일례를 도시하는 도면이다.
도 8 (a)를 참조하면, 사용자는 서적의 표지를 손바닥으로 덮는 제스처(이하, 제 4 제스처)를 하고 있다. 제어부(180)는 사용자의 제 4 제스처가 감지될 경우, 상기 서적을 등록할 수 있다.
본 발명의 일실시예에 따른 서적에 대한 등록하는 동작이란, 사용자가 해당 서적의 표지(또는 서적의 제호)를 다시 열람할 수 있도록 소정 형태로 저장하는 동작을 의미한다. 소정 형태는, 적어도 상기 표지에 대한 이미지 형태 및 상기 표지에 대한 텍스트 형태(즉, 서적의 제호) 중 적어도 하나를 포함할 수 있으며, 서적의 목록을 관리할 수 있는 소정 애플리케이션(예를 들면, Google books 애플리케이션) 상에서 서적의 목록에 추가하는 형태일 수도 있다.
본 발명의 일실시예에 따라서 서적을 등록하는 경우, 제어부(180)는 적어도 하나의 카테고리를 선택 받고, 선택 받은 카테고리에 따라 상기 서적을 등록하도록 제안한다. 카테고리에 따라 등록할 경우, 사용자는 등록된 서적을 열람할 때, 카테고리 별로 등록된 열람할 수 있을 것이다.
제어부(180)는, 상기 제 4 제스처가 감지되면, 카테고리를 선택 받기 위한 팝업창을 출력할 수 있다. 이 경우, 팝업창은 카테고리를 선택하기 위한 선택 아이콘(804-1 내지 804-4)를 포함할 수 있다. 도 8 (c)의 예시에서의 카테고리는, '읽을 도서', '읽고 있는 도서' 및 '읽을 도서'를 포함하고 있다. 상기 선택 아이콘(804-1 내지 804-4) 중 하나를 선택 받는 입력은, 상술한 선택 인디케이터(504)를 이용할 수 있다.
제어부(180)는 상기 팝업창을 통하여 사용자로부터 어느 하나를 선택 받으면, 선택된 카테고리로 분류하여 상기 서적을 등록하고, 등록되었음을 안내하는 팝업창(804)를 출력할 수 있다.
한편, 본 발명의 일실시예는, 도 8 (a)에서의 제 4 제스처에 한정되지 않는다. 도 8 (b)를 참조하면, 사용자는 서적의 표지를 손바닥으로 스위핑(sweeping)하는 제스처(이하, 제 5 제스처)를 하고 있다. 제어부(180)는 사용자의 제 5 제스처가 감지될 경우, 상기 서적을 등록할 수 있다. 특히, 상기 제 5 제스처는 좀 더 구체화될 경우, 상기 서적의 표지 상에 손바닥을 덮은 후 소정 시간 이후(예를 들면, 약 2초 이후)에, 서적의 표지의 대각선 방향으로 스위핑하는 제스처일 수 있다.
지금까지 설명된 실시예에서는, 서적의 표지를 이용하여 서적을 등록하는 방법이었다. 경우에 따라서는, 서적의 페이지 내에서 다른 서적의 제호(title of a book)에 대하여 언급이 있을 수 있다. 본 발명의 일실시예에서는, 서적의 페이지 내에 표시되는 다른 서적의 제호를 기초로, 서적을 등록하도록 제안한다. 이러한 실시예에 대해서, 도 9를 참조하여 설명한다.
도 9는 본 발명의 일실시예에 따라, 표시된 서적의 제호(title of a book)를 기초로, 서적을 등록하는 방법의 일례를 도시하는 도면이다.
일반적으로 서적의 내용 상 언급되는 다른 서적의 제호는 꺽쇠(902) 등 도서 인용 부호에 의해 식별되도록 표시된다. 따라서, 본 발명의 일실시예에서 제어부(180)는 서적의 내용 상 언급되는 서적의 제호를 인식하는데 있어서, 도서 인용 부호를 기초로 할 수 있다.
도 9 (a)를 참조하면, 투명디스플레이(430)를 통하여 소정 서적(901)의 내용이 표시되고 있으며, 상기 소정 서적(901)의 내용은 다른 서적의 제호를 포함하고 있다. 즉, 도 9 (a)의 예시에서 상기 다른 서적의 제호는 "침묵의 봄"이다. 제어부(180)는 상기 표시되는 서적의 제호에 대해, 제 6 제스처가 감지될 경우 해당 서적의 제호에 대응하는 서적을 등록할 수 있다. 서적의 등록은 도 8을 참조하여 설명한 서적의 등록과 동일하다.
본 발명의 일실시예에 따라서 서적을 등록하는 경우 도 8에서와 마찬가지로, 제어부(180)는 적어도 하나의 카테고리를 선택 받고, 선택 받은 카테고리에 따라 상기 서적을 등록하도록 제안한다. 카테고리에 따라 등록할 경우, 사용자는 서적을 열람할 때, 카테고리 별로 등록된 서적의 표지를 열람할 수 있을 것이다.
제어부(180)는, 상기 제 6 제스처가 감지되면, 카테고리를 선택 받기 위한 팝업창(803)을 출력할 수 있다. 이 경우, 팝업창은 카테고리를 선택하기 위한 선택 아이콘(804-1 내지 804-4)를 포함할 수 있다. 도 8 (c)의 예시에서의 카테고리는, '읽을 도서', '읽고 있는 도서' 및 '읽을 도서'를 포함하고 있다.
제어부(180)는 상기 팝업창을 통하여 사용자로부터 어느 하나를 선택 받으면, 선택된 카테고리로 분류하여 상기 서적을 등록하고, 등록되었음을 안내하는 팝업창(903)를 출력할 수 있다.
한편, 본 발명의 일실시예에 따른 웨어러블 기기(400)는, 적어도 하나의 다른 이동 단말기(100)와 연결되어 있을 수 있다. 여기서 연결이란, 웨어러블 기기(400) 및 이동 단말기(100) 간에 데이터를 송수신할 수 있는 상태를 의미한다. 웨어러블 기기(400)는 연결되어 있는 다른 이동 단말기(100)와 동기화 정보를 교환함으로써, 적어도 하나의 상태에 대한 동기화를 수행할 수 있다(도 10a의 (a) 및 (b)를 참조). 특히, 본 발명의 일실시예의 웨어러블 기기(400)는 다른 이동 단말기(100)와 서적에 대한 동기화를 수행할 수 있다. 그리고, 본 발명의 일실시예의 웨어러블 기기(400)는 다른 이동 단말기(100)와 소정 애플리케이션의 설정(등록된 즐겨찾기)에 대한 동기화를 수행할 수 있다.
서적에 대한 동기화란, 웨어러블 기기(400)의 증강 현실을 통하여 열람하는 서적과 이동 단말기(400)를 통하여 열람하는 이북(e-book) 간에 포함하고 있는 컨텐츠를 동일하게 유지하는 동작을 의미한다.
도 10a 내지 도 10d는 본 발명의 일실시예에 따른, 웨어러블 기기(400)와 이동 단말기(100)간에 동기화를 수행하는 예시들을 도시하는 도면이다.
도 10a (c)를 참조하면, 사용자는 투명디스플레이(430)을 통하여, 소정 서적을 열람하고 있다. 그리고, 사용자는 펜(1000, 실제 펜 또는 가상의 펜일 수도 있음)을 이용하여, 열람하고 있는 소정 서적 상에 필기 컨텐츠(1001a 내지 1003a)를 입력할 수 있다. 제어부(180)는 사용자가 펜(1000)을 통하여 입력하는 필기 컨텐츠(1001a 내지 1003a)를 투명디스플레이(430)에 표시하도록 제어할 수 있다. 더 나아가, 제어부(180)는 입력된 필기 컨텐츠(1001a 내지 1003a)에 대한 동기화 정보를 상기 연결되어 있는 적어도 하나의 이동 단말기(100)에게 전송하도록 무선 통신부(110)를 제어할 수 있다.
상기 펜(1000)을 통하여 입력되는 상기 필기 컨텐츠(1001a 내지 1003a)는, 상기 제스처를 감지하는 방법에서와 동일하게, 카메라(428)를 통하여 실시간으로 얻어지는 이미지를 분석하거나, 센싱부(140)를 통하여 감지되는 필기 입력을 기초로 얻을 수 있다.
상기 동기화 정보를 수신한 이동 단말기(100)는, 상기 입력된 필기 컨텐츠(1001a 내지 1003a)에 대응하는 필기 컨텐츠(1001b 내지 1003b)를 자신의 디스플레이(151)에 표시할 수 있다(도 10 (d) 참조).
반대로, 이동 단말기(100)를 통하여 필기 컨텐츠(1001b 내지 1003b)가 입력된다고 가정할 경우, 웨어러블 기기(400)에 동기화 정보를 전송하여 웨어러블 기기(400)에 대응하는 필기 컨텐츠(1001a 내지 1003a)로 동기화시킬 수 있음은 자명하다.
도 10b의 (a) 및 (b)에 도시된 예시에서와 같이, 본 발명의 일실시예에 따른 웨어러블 기기(400) 및 웨어러블 기기(400)와 연결된 적어도 하나의 이동 단말기(100)는, 페이지가 접힌 위치 정보(1004a 및 1004b)를 동기화할 수 있다.
도 10b의 (c) 및 (d)에 도시된 예시에서와 같이, 본 발명의 일실시예에 따른 웨어러블 기기(400) 및 웨어러블 기기(400)와 연결된 적어도 하나의 이동 단말기(100)는, 책갈피 정보(1004a 및 1004b) 및/또는 메모 컨텐츠(1006a 및 1006b)를 동기화할 수 있다.
한편, 도 10a 및 도 10b에서 상술한 예시에서는, 서적에 포함되는 컨텐츠의 동기화만을 예로 들었으나 본 발명의 일실시예에서는 이에 한정되지 않고, 다른 정보에 대해서도 동기화 동작을 수행할 수 있다. 이러한 실시예에 대해서 도 10c 및 도 10d를 참조하여 설명한다.
도 10c는 본 발명의 일실시예에 따라, 연결되어 있는 단말기 간에 웹 페이지 정보를 동기화시키는 방법을 도시하는 도면이다.
도 10c (a)를 참조하면, 사용자는 투명디스플레이(430)을 투과하여, 제 1 단말기(100-1)에 표시되는 소정 웹 페이지를 열람하고 있다. 본 발명의 일실시예에 따른 웨어러블 기기(400)는 제 1 단말기(100-1)로부터 웹 페이지에 대한 동기화 정보를 수신하고, 수신한 동기화 정보를 이용하여 투명디스플레이(430) 자체에 동일한 웹 페이지를 표시할 수 있다. 즉, 투명디스플레이(430)를 투과하여 보던 웹 페이지를, 투명디스플레이(430) 자체에 표시를 함으로써 열람할 수 있다. 반대로, 웨어러블 기기(400)의 투명디스플레이(430)를 통하여 출력되고 있는 웹 페이지에 대한 동기화 정보를 제 1 단말기(100-1)로 전송함으로써, 제 1 단말기(100-1)를 통하여 동일한 웹 페이지를 열람할 수 있을 것이다.
도 10c (c)를 참조하면, 사용자는 투명디스플레이(430)을 투과하여, 제 1 단말기(100-1)에 표시되는 소정 웹 페이지를 열람하고 있다. 본 발명의 일실시예에 따른 웨어러블 기기(400)는 제 1 단말기(100-1)로부터 웹 페이지에 대한 동기화 정보를 수신하고, 수신한 동기화 정보를 제 2 단말기(100-2)로 전달하여, 제 2 단말기(100-2)를 통하여 동일한 웹 페이지를 표시할 수 있다. 즉, 투명디스플레이(430)를 투과하여 제 1 단말기(100-1)에 표시되던 웹 페이지를, 제 2 단말기(100-2)의 디스플레이로 옮겨서 표시할 수 있다. 이러한 경우, 상기 제 1 단말기(100-1) 및 제 2 단말기(100-2) 모두 웨어러블 기기(400)와 연결되어 있는 상태를 전제로 해야 할 것이다.
도 10d는 즐겨찾기 목록에 대한 동기화 동작을 도시하는 도면이다. 본 도면과 관련된 설명에서는, 제 1 단말기(100-1), 제 2 단말기(100-2) 및 제 3 단말기(100-3)는 웨어러블 기기(400)와 연결되어 있음을 전제한다.
본 발명의 일실시예에서는, 연결되어 있는 기기 간에 즐겨찾기 목록을 공유하도록 제안한다. 즐겨찾기 목록이란, 사용자가 저장하도록 선택한 적어도 하나의 웹 페이지 정보에 대한 목록을 의미할 수 있다. 예를 들면, 도 10d에 도시되는 예시를 참조하면, 웨어러블 기기(400)의 사용자는 투명디스플레이(430)를 투과하여 제 1 단말기(100-1)의 화면을 보고 있으며, 제 1 단말기(100-1)의 화면에서는 소정의 웹 브라우져가 실행되고 있다. 본 발명의 일실시예에 따른 웨어러블 기기(400)는 제 1 단말기(100-1)의 즐겨찾기 목록에 대한 동기화 정보를 수신한다.
제 1 단말기(100-1)로부터 즐겨찾기 목록에 대한 동기화 정보를 수신한 웨어러블 기기(400)는, 투명디스플레이(430)에 상기 수신한 즐겨찾기 목록(1007)을 표시할 수 있다(도 10d (b) 참조). 또한, 상기 웨어러블 기기(400)는 상기 수신한 동기화 정보를 다른 단말기들에게 전달할 수 있다. 즉, 도 10d에 도시된 예시에서와 같이, 제 2 및 제 3 단말기(100-2 및 100-3)에게, 상기 수신한 동기화 정보를 전달할 수 있다. 그리고 본 발명의 일실시예에 따른 제 2 및 제 3 단말기(100-2 및 100-3)는, 상기 전달 받은 동기화 정보를 이용하여, 즐겨찾기 목록을 각각 출력할 수 있다(도 10d (c) 및 (d) 참조).
한편, 본 발명의 일실시예에 따른 웨어러블 기기(400)는, 사용자로부터 감지되는 소정 단어에 대한 펜 제스처를 기초로, 소정 단어를 키워드로 저장하도록 제안한다. 이에 대한 실시예에 대해서, 도 11을 참조하여 설명한다.
도 11은 본 발명의 일실시예에 따라, 사용자로부터 감지되는 펜 제스처를 기초로 소정 단어를 키워드로 저장하는 방법을 도시하는 도면이다. 본 발명의 일실시예에서, 키워드로 저장하는 동작이란, 사용자가 다시 열람할 수 있도록 소정 단어를 저장하는 동작을 의미한다. 열람하는 동작에 대해서, 도 12 내지 도 14를 참조하여 후술하기로 한다.
도 11 (a)에서, 사용자는 웨어러블 기기(400)의 투명디스플레이(430)를 통하여 소정 서적(901)를 열람하고 있다. 소정 단어에 대하여 소정의 펜 제스처가 입력될 경우, 제어부(180)는 소정 단어를 인식하고, 인식한 소정 단어를 키워드로 저장할 수 있다. 상기 소정 단어에 대한 소정의 펜 제스처는, 펜(1000)을 이용하여 상기 소정 단어에 밑줄을 긋는 제스처일 수 있다. 한편, 밑줄을 긋는 제스처에 한정하지 않으며, 단어를 특정할 수 있는 펜 제스처의 경우 본 발명의 실시예들에 적용 가능함은 자명할 것이다. 이하에서는 설명의 편의를 위하여, 상기 소정 펜 제스처가 밑줄인 경우를 예시로 설명하기로 한다.
본 발명의 일실시예에서는, 상술한 펜 제스처가 입력될 경우, 설정되어 있는 색상으로 상기 제스처의 경로(1100)를 표시하도록 투명디스플레이(430)를 제어할 수 있다. 표시되는 색상은, 사용자의 선택에 의해서 전환될 수 있을 것이다. 도 11 (a)의 예시에서, 펜 제스처 입력에 대응하여, 제어부(180)는 기설정되어 있는 파란색으로 상기 펜 제스처의 경로(1100)를 따라 "searching"이라는 단어에 밑줄을 표시하도록 투명디스플레이(430)를 제어하고 있다. 즉, 상기 표시(1100)는, 실제 서적에 표시된 밑줄이 아니라, 증강 현실 상에서 투명디스플레이(430)를 통하여 출력되고 있는 표시를 의미한다.
상기 소정 단어에 대한 상기 소정 제스처의 입력에 대응하여, 제어부(180)는 인식한 소정 단어를 키워드로 저장하고, 도 11 (b)에서와 같이 소정 단어가 키워드로 저장되었음을 나타내는 안내 문구(1101)를 출력할 수 있다.
도 12 내지 도 14는 본 발명의 일실시예에 따라, 저장된 키워드를 열람하는 상태도를 도시하는 도면이다.
도 12 (a)를 참조하면, 사용자는 투명디스플레이(430)를 투과하여 소정 서적(901)를 열람하고 있다. 본 발명의 일실시예에 따른 제어부(180)는, 저장되어 있는 키워드에 대하여, 제 1 내지 제 3 밑줄(1100-1 내지 1100-3)을 표시하도록 투명디스플레이(430)를 제어한다. 제 1 밑줄(1100-1) 및 제 3 밑줄(1100-3)은 파란색 형광펜으로 표시되고 있으며, 제 2 밑줄(1100-2)는 보라색 형광펜으로 표시되고 있는 것으로 가정한다.
더 나아가, 본 발명의 일실시예에 따른 제어부(180)는, 투명디스플레이(430)를 투과하여 소정 서적(901)를 열람하고 있는 증강 현실 상에서, 제 1 내지 제 3 밑줄(1100-1 내지 1100-3)이 표시된 시점을 시간축과 함께 표시하는 시간축 인디케이터(1201)를 상기 투명디스플레이(430)에 표시할 수 있다.
도 12 (b)는 상술하는 시간축 인디케이터(1201)를 상세히 도시하는 도면이다. 시간축 인디케이터(1201)의 아래 방향이 시간축 방향이며, 각 밑줄이 도시된 시점이 상기 시간축 인디케이터(1201) 상 대응되는 지점에 작성된 시간과 함께 표시되고 있다. 즉, 예를 들면, 제 1 밑줄(1100-1)에 대응하는 표시(1101-1)는 제 1 밑줄(1100-1)이 작성된 시간인 "10:02"와 함께, 시간축 상 대응되는 위치에 표시된다.
본 발명의 실시예에서는, 도 12에서 상술한 키워드 열람 화면에서 표시되는 펜의 색상으로 검색할 수 있는 환경을 제공한다. 이러한 실시예에 대해 도 13를 참조하여 설명한다.
도 13은 본 발명의 일실시예에 따른, 키워드를 검색하는 방법의 일례를 도시하는 도면이다. 도 13에서 설명하는 본 발명의 실시예에서는, 소정 단어에 표시된 색상을 기초로 키워드를 검색하고 있다.
도 13 (a)를 참조하면, 사용자는 웨어러블 기기(400)의 투명디스플레이(430)를 통하여 소정 서적(901)를 열람하고 있다. 또한, 도 13 (a)에서 제어부(180)는 투명디스플레이(430)의 증강 현실을 통하여 제 1 내지 제 3 밑줄(1100-1 내지 1100-3)를 표시하고 있다. 도 13 (a)의 상태에서, 파란색 형광펜으로 표시된 키워드를 검색하는 음성 명령을 수신하면, 제어부(180)는 저장된 키워드 중에서 파란색 형광펜으로 표시된 키워드 목록(1302)를 출력하도록 투명디스플레이(430)를 제어할 수 있다(도 13 (b) 참조).
더 나아가, 제어부(180)는 키워드 목록(1302)를 출력하는데 있어서, 도 13 (b)에 도시된 예시에서와 같이, 검색된 키워드와 함께 해당 키워드가 존재하는 페이지 번호를 함께 출력할 수 있다.
더 나아가, 도 10a 내지 도 10d에서 상술한 바와 같이, 웨어러블 기기(400)와 연결되어 있는 적어도 하나의 이동 단말기(100)는, 상기 키워드에 대한 동기화 정보를 수신할 수 있다. 그리고, 이동 단말기(100)를 통하여 이북(e-book)을 열람하는 경우, 해당 이동 단말기(100)의 제어부는 해당 페이지의 출력과 함께 제 1 내지 제 3 밑줄(1100-1 내지 1100-3)을 표시할 수 있다. 이북(e-book)의 경우 투명디스플레이(430)의 투과하면으로 서적을 열람하는 웨어러블 기기(400)와는 달리, 해당 이동 단말기(100)의 제어부의 제어에 의해서, 페이지를 이동하여 출력하는 것이 가능할 것이다. 이에 따라서, 본 발명의 일실시예에 따른 이동 단말기(100)에서는, 표시하고 있는 키워드 목록(1302) 중 어느 하나의 키워드가 선택될 경우, 해당 키워드가 존재하는 페이지로 이동하여 출력할 것을 제안한다.
이동 단말기(100)의 표시부(디스플레이)에서, 도 13 (b)에서와 같이 키워드 목록(1302)가 출력되고 있는 상태에서 소정 키워드를 선택하는 명령을 수신하면, 해당 이동 단말기(100)의 제어부(180)는 해당 키워드가 존재하는 페이지로 이동할 수 있다. 소정 키워드를 선택하는 명령의 일례로, 음성 명령을 들 수 있다. 즉, 음성 명령의 구체적인 예시로써, 도 13 (b)에서와 같은 키워드 목록(1302)이 출력되고 있는 상태에서, 음성 명령으로 "engaging"이 수신될 경우, 해당 이동 단말기(100)의 제어부(180)는 해당 키워드가 존재하는 이북의 페이지를 p19로 이동하여 표시할 수 있다.
도 14는 본 발명의 일실시예에 따른, 키워드를 검색하는 방법의 다른 예를 도시하는 도면이다.
도 14 (a)에서, 사용자는 웨어러블 기기(400)의 투명디스플레이(430)를 통하여, 소정 서적(901)를 열람하고 있다. 키워드를 호출하는 명령을 수신하면, 제어부(180)는 도 14 (b)에서와 같이 저장되어 있는 키워드 목록(1402)를 표시하도록 투명디스플레이(430)를 제어할 수 있다. 도 13에서와는 달리, 도 14 (b)에서는, 표시되는 색상에 상관 없이 저장되어 있는 키워드 전체에 대한 목록(1402)을 출력하고 있다.
도 15는 본 발명의 일실시예에 따라, 사용자의 필기 입력에 대응하여 태그 인디케이터를 표시하는 방법을 도시하는 도면이다.
도 15 (a)를 참조하면, 사용자는 웨어러블 기기(400)의 투명디스플레이(430)를 통하여 소정 서적(910)을 열람하고 있다. 본 발명의 일실시예에서는, 사용가 상기 소정 서적(910) 상에 필기 컨텐츠를 입력할 경우, 해당 필기 컨텐츠의 위치에 태그 인디케이터(1501)를 표시할 것을 제안한다.
도 15 (a)를 참조하면, 제어부(180)는 투명디스플레이(430)를 통하여 사용자에 의해 입력된 밑줄을 표시하고 있다. 도 15 (b)는, 상기 표시된 밑줄에 대응하는 태그 인디케이터(1501-1 내지 1501-3)를 표시하는 도면이다. 사용자로부터의 밑줄 입력이 감지되면, 제어부(180)는 도 15 (b)에서와 같이, 밑줄 입력이 감지되는 위치에 태그 인디케이터(1501-1 내지 1501-3)를 출력할 수 있다.
한편, 본 발명의 일실시예에서는, 소정 단어 또는 문장에 대한 손쉬운 검색환경을 위한 제어 방법을 제안한다. 이러한 제어 방법에 대해서 도 16 및 도 17을 참조하여 설명한다.
도 16 및 도 17은 본 발명의 일실시예에 따라, 소정 단어에 대한 소정 제스처에 대응하여, 소정 단어에 대한 검색 결과를 제공하는 도면이다.
도 16 (a)를 참조하면, 사용자는 웨어러블 기기(400)의 투명디스플레이(430)를 투과하여 소정 서적(901)를 열람하고 있다고 가정한다. 이렇게 사용자가 소정 서적(901)을 열람하고 있는 도중, 검색하고자 하는 단어(이하, 검색 대상 단어)가 존재할 수 있다. 따라서, 본 발명의 일실시예에서는, 검색 대상 단어 상에 소정 제스처가 입력될 경우, 소정 제스처에 대응하여 검색 대상 단어에 대한 검색 결과를 제공하도록 제안한다.
소정 제스처의 일례로, 본 발명의 일실시예에서는, 펜(1000)으로 검색 대상 단어 상에 물음표를 그리는 제스처(제 7 제스처, 1601)를 들 수 있다. 제어부(180)는 상술하는 제 7 제스처(1601)를 감지할 경우, 검색 대상 단어를 검색하고 검색된 결과를 출력할 수 있다(도 16 (b) 참조). 한편, 검색 대상 단어를 검색하는데 있어서, 웨어러블 기기(400)에 별도로 저장되어 있는 검색 데이타 베이스가 존재할 경우 저장되어 있는 검색 데이타 베이스를 이용할 수 있다. 또한, 별도의 검색 데이타 베이스가 없을 경우, 제어부(180)는 무선 통신부(110)를 이용하여 웹에 접속하여 검색하고, 검색한 결과를 도 16 (b)에서와 같이 출력할 수 있다.
본 발명의 일실시예에서는, 검색 대상 단어에 대한 검색이 이루어진 후, 검색 결과를 다시 열람할 수 있는 검색 결과 인디케이터(1602-1 및 1602-2)를 투명디스플레이(430)를 통하여 출력할 수 있다(도 16 (c) 참조). 도 16 (c)에 도시된 예시에서, 제어부(180)는 도 16 (a)에서 검색한 단어인 "Mutualism"에 대응하는 검색 결과 인디케이터(1602-1)를 출력과 함께, 다른 검색 결과 인디케이터(1602-2)를 출력하고 있다. 제어부(180)는 검색 결과 인디케이터(1602-1 및 1602-2)가 선택되는 입력을 수신하면, 도 16 (b)에서와 같이 검색 결과를 다시 출력할 수 있다.
한편, 본 발명의 일실시예에서는 더 나아가, 사용자가 검색 방법을 좀 더 구체적으로 지정할 수 있도록 제안한다. 즉, 상기 제 7 제스처(1601)와 함께 소정 검색 방법을 지정하는 제스처가 추가적으로 입력될 경우, 제어부(180)는 소정 단어를 지정된 방법에 의해서 검색하도록 동작한다. 이러한 실시예에 대해서 도 17을 참조하여 설명한다.
도 17 (a)에서, 사용자는, 도 16에서와 마찬가지로 소정 서적(901)을 투명디스플레이(430)를 투과하여 열람하고 있다. 사용자가 소정 단어에 대해서 제 7 제스처(1601)와 함께, 펜(1000)으로 소정 패턴을 그리는 제스처(이하, 제 8 제스처, 1701)를 입력하고, 상기 제어부(180)는 상기 제 7 및 제 8 제스처를 감지할 경우 소정 단어를 지정된 방법으로 검색할 수 있다.
도 17 (b)에서, 상기 지정된 방법은 '위키피디아(wikipedia)라는 웹페이지에 접속하여 검색'하는 것이라고 가정한다. 제어부(180)는 상기 제 7 및 제 8 제스처가 감지되면, 위키피디아라는 웹에서 상기 "Mutualism"이라는 단어를 검색한 후, 도 17 (b)에 도시된 바와 같이 검색 결과를 표시할 수 있다.
한편, 본 발명의 일실시예에서는, 사용자로부터의 필기 컨텐츠를 메모로써 저장할 수 있다. 이러한 실시예에 대해서 도 18 및 도 19를 참조하여 설명한다.
도 18은 본 발명의 일실시예에 따라서, 필기 컨텐츠를 메모로써 저장하는 방법을 도시하는 도면이다.
도 18 (a)에서, 사용자는 웨어러블 기기(400)의 투명디스플레이(430)를 통하여 제 2 서적(902)를 열람하고 있다고 가정한다. 사용자로부터 필기 컨텐츠(1801)를 입력 받으면, 제어부(180)는 상기 필기 컨텐츠(1801)를 감지하고, 감지된 필기 컨텐츠(1801)를 메모로써 저장할 수 있다.
도 18 (a)를 참조하면, 사용자는 제 2 서적(902)에, 펜(1000)을 이용하여 "NEXT MONDAY QUIZ"라는 필기 컨텐츠(1801)를 입력하였다. 본 발명의 일실시예에 따르면, 상기 필기 컨텐츠(1801)는 실제 볼펜(1000)등과 같이 작성된 경로를 따라 제 2 서적(902)상에 표시되는 잉크에 의한 필기일 수 있다. 본 발명의 다른 실시예에 따르면, 상기 필기 컨텐츠(1801)는 가상의 펜(1000)의 끝부분을 통하여 감지되는 필기 경로로써 제 2 서적(902)상에 아무런 필기가 이루어지지 않더라도, 사용자가 필기 컨텐츠(1801)를 작성하는 동안의 제스처를 감지하여 획득할 수도 있다.
필기 컨텐츠(1801)에 대한 입력이 완료된 후 소정 시간 이상 추가 입력이 없는 경우, 제어부(180)는 도 18 (b)에서와 같이, 상기 필기 컨텐츠(1801)를 저장하는 방식을 묻는 팝업창(1802)를 출력할 수 있다. 팝업창(1802)는, "이미지(Image, 1802a)" 방식으로 저장할 것인지, "텍스트(Text, 1802b)" 방식으로 저장할 것인지 나타내는 선택 아이콘을 포함할 수 있다.
이미지 방식으로 저장하는 선택 아이콘(1802a)가 선택될 경우, 제어부(180)는 작성된 필기 컨텐츠(1801)에 대한 이미지를 촬영하도록 카메라(428)를 제어하고, 촬영된 이미지를 저장함으로써 필기 컨텐츠(1801)를 메모로써 저장할 수 있을 것이다.
텍스트 방식으로 저장하는 선택 아이콘(1802b)가 선택될 경우, 제어부(180)는 작성된 필기 컨텐츠(1801)를 텍스트로 인식한 결과를 메모로써 저장할 수 있을 것이다.
도 19에서는, 도 18에서 저장된 메모를 열람하는 상태도를 도시하고 있다.
도 19 (a)를 참조하면, 웨어러블 기기(400)의 투명디스플레이(430)를 통하여 제 1 서적(901)를 열람하고 있는 상태에서, 제 2 서적(902) 상에 작성된 필기 컨텐츠(1901)에 대한 메모 인디케이터(1901)를 출력하고 있다. 즉, 도 18에서 작성된 필기 컨텐츠(1901)는 제 2 서적(902) 상에서 작성되었지만, 본 발명의 일실시예에서는, 제 2 서적(902)뿐 만 아니라, 제 1 서적(901)에서도 열람할 수 있도록 제안한다. 메모 인디케이터(1901)는, 저장되어 있는 메모가 있음을 알려주는 인디케이터로써, 메모 전체 중에서 일부에 대한 미리보기를 포함할 수 있다. 또한, 메모 인디케이터(1901)가 선택되는 입력(예를 들면, 메모 인디케이터(1901)를 터치하는 입력)이 감지되면, 제어부(180)는 저장된 메모 전체를 열람할 수 있는 팝업창(1902)를 표시하도록 투명디스플레이(430)를 제어할 수 있다.
한편, 본 발명의 일실시예에서는, 안경 형태의 웨어러블 기기(400)의 투명디스플레이(430)를 통하여, 소정 암호를 자동으로 검색하여 표시해주는 방법을 제안한다. 일반적으로 암호는 보안이 필요한 정보로써, 디스플레이를 통하여 표시하는 것이 보안이 취약해 질 수 있다. 하지만, 안경 형태의 웨어러블 기기(400)라면, 디스플레이를 통하여 표시되는 정보가 착용한 사람에게만 보여지기 때문에 보안이 취약해질 우려가 줄어들 수 있다. 구체적인 실시예에 대해서, 도 20 및 도 21을 참조하여 설명한다.
도 20 및 도 21은 본 발명의 일실시예에 따라, 사용자에게 자동으로 암호를 검색하여 표시하는 제어 방법을 도시하는 도면이다.
도 20 (a)를 참조하면, 사용자는 웨어러블 기기(400)의 투명디스플레이(430)를 통하여, 다른 이동 단말기(100)에서 표시되는 소정 페이지에 대한 로그인 화면을 표시하고 있다.
상기 로그인 화면 및 로그인 아이디를 감지하면, 제어부(180)는 상기 로그인 아이디에 대응하는 로그인 암호를 검색하고, 검색한 로그인 암호를 사용자에게 제공할 수 있다. 이 경우, 로그인 아이디 및 로그인 암호는 사용자에 의해서 웨어러블 기기(400)에 미리 저장될 수 있다. 로그인 화면은, 아이디 입력창(2001a) 및 비밀번호 입력창(2001b)를 포함할 수 있다.
본 발명의 일실시예에 따르면, 도 20 (b)에서와 같이 로그인 화면 및 로그인 아이디가 감지되면, 제어부(180)는 로그인 암호를 표시할 것인지를 확인하는 팝업창(2002)를 출력할 수 있다. 팝업창(2002)는, "표시 아이콘(2002a)" 및 "취소 아이콘(2002b)"를 포함할 수 있다.
취소 아이콘(2002b)이 선택되는 입력을 수신하면, 제어부(180)는 로그인 암호를 표시하지 않도록 동작할 수 있다.
표시 아이콘(2002a)이 선택되는 입력을 수신하면, 제어부(180)는 도 20 (c)에서와 같이 감지된 로그인 아이디에 대응하는 로그인 암호(2003, 도 20의 예시에서 "secret1234")를 표시하도록 투명디스플레이(430)를 제어할 수 있다.
도 20에서 상술한 로그인 동작뿐 만 아니라, 전자 인증서(예를 들면, 은행에 로그인 시 사용되는 공인 인증서 등)와 같이 암호의 입력이 필요한 경우, 본 발명의 일실시예에서는, 마찬가지로 그런 암호를 표시하여 제공하도록 제안한다. 전자 인증서란, 은행 등과 같이 더 높은 보안수준이 필요한 로그인을 위하여, 개인 컴퓨터(Personal Computer)나 이동식 메모리 등에 저장된 암호화된 식별 정보를 의미한다. 이러한 전자 인증서를 사용 시, 사용자에게 전자 인증서 암호의 입력이 요구된다. 구체적인 실시예에 대해서 도 21을 참조하여 설명한다.
도 21 (a)에서, 사용자는 웨어러블 기기(400)를 착용한 상태에서, 투명디스플레이(430)를 투과하여 은행 웹 페이지 및 전자 인증서 암호 입력 창(2102)를 열람하고 있다. 도 21 (a)에서 인증서 암호 입력 창(2102)에는, 공인 인증서에 대한 명의가 "James"라고 나타내고 있다.
제어부(180)는, 공인 인증서 암호 입력 창(2102) 및 인증서 명의을 감지할 경우, 감지된 인증서 명의의 공인 인증서에 대한 암호를 표시할지 여부를 묻는 팝업창(2103)을 출력할 수 있다. 팝업창(2002)는, "표시 아이콘(2103a)" 및 "취소 아이콘(2103b)"를 포함할 수 있다.
취소 아이콘(2103b)이 선택되는 입력을 수신하면, 제어부(180)는 공인 인증서 암호를 표시하지 않도록 동작할 수 있다.
표시 아이콘(2103a)이 선택되는 입력을 수신하면, 제어부(180)는 도 21 (c)에서와 같이 감지된 인증서 명의에 대응하는 인증서 암호(2104, 도 21의 예시에서 "secret1234")를 표시하도록 투명디스플레이(430)를 제어할 수 있다.
이하, 도 22를 참조하여, 즐겨찾기 목록을 손쉽게 공유하는 제어 방법에 대해서 설명하기로 한다.
도 22는 본 발명의 일실시예에 따라, 웨어러블 기기(400)가 다른 단말기와 즐겨찾기 목록을 공유하는 제어 방법을 도시하는 도면이다. 도 22와 관련되는 본 발명의 실시예에서, 웨어러블 기기(400)는 즐겨찾기 목록을 기저장하고 있는 것으로 가정한다.
도 22 (a)에서 사용자는 웨어러블 기기(400)를 착용한 상태에서 투명디스플레이(430)를 투과하여 다른 단말기에서 출력되고 있는 웹 브라우져 화면(2201)를 열람하고 있다.
제어부(180)는, 상기 웹 브라우져 화면(2201)에서 주소 입력창을 감지할 경우, 투명디스플레이(430)를 통하여 기저장되어 있는 즐겨찾기 목록을 표시하도록 제어할 수 있다.
구체적으로 살펴보면, 도 22 (a)에서 제어부(180)는 웹 브라우져 화면(2201)상에서 주소 입력창을 감지하였고, 도 22 (b)에서, 즐겨찾기 목록을 표시할 것인지 여부를 묻는 팝업창(2202)를 출력하고 있다. 팝업창(2202)는, "표시 아이콘(2202a)" 및 "취소 아이콘(2202b)"를 포함할 수 있다.
취소 아이콘(2202b)이 선택되는 입력을 수신하면, 제어부(180)는 즐겨찾기 목록을 표시하지 않도록 동작할 수 있다.
표시 아이콘(2202a)이 선택되는 입력을 수신하면, 제어부(180)는 도 22 (c)에서와 같이 즐겨찾기 목록(2203)을 표시하도록 투명디스플레이(430)를 제어할 수 있다.
본 발명의 일실시예에서는 상기 웹 브라우져를 표시하고 있는 단말기와 웨어러블 기기(400)가 연결되어 있다고 가정한다. 즉, 웨어러블 기기(400)에서 웹 브라우져를 표시하고 있는 단말기로 데이터를 전송할 수 있다고 가정한다. 표시되고 있는 즐겨찾기 목록(2203) 중, 하나가 선택되는 입력을 수신하면 제어부(180)는 선택된 즐겨찾기 항목에 대한 정보를 웹 브라우져를 표시하고 있는 단말기로 전송할 수 있다. 상기 정보를 수신한 웹 브라우져를 표시하고 있는 단말기는, 주소 입력창에 수신 받은 웹 페이지에 대한 주소를 자동으로 채워 넣을 수 있다.
본 발명의 다른 실시예에서, 웨어러블 기기(400)와 웹 브라우져를 표시하고 있는 단말기간에 연결이 되어 있지 않을 수 있다. 혹은 연결이 되어 있다고 하더라도, 웹 페이지 정보를 주고 받을 수 있는 상태가 아니라고 가정한다. 사용자는 표시되고 있는 즐겨찾기 목록(2203)에 주소를 열람하여 웹 브라우져를 표시하고 있는 단말기의 입력 수단에 직접 타이핑 입력을 할 수 있을 것이다.
웹 브라우져를 표시하고 있는 단말기는, 주소가 입력(자동 입력 또는 수동 타이핑 입력)되면, 해당 웹페이지를 표시하도록 제어할 수 있다(도 22 (e) 참조).
도 23 및 도 24는 본 발명의 일실시예에 따라, 웨어러블 기기(400)의 투명디스플레이(430)를 통하여 다른 이동 단말기(100)의 화면의 확장을 보조하는 방법을 도시하는 도면이다.
도 23 (a)는, 이동 단말기(100)의 웹 브라우져 애플리케이션 화면 상태도를 도시하고 있다. 웹 브라우져 애플리케이션은 화면의 북마크 기능을 지원하는 것으로 가정한다. 그리고, 도 23과 함께 설명될 예시에서는, N+1 개수만큼의 페이지가 북마크로써 이동 단말기(100)에 저장되어 있으며, 복수 개의 북마크 페이지들은 좌우 스크롤에 의해서 전환될 수 있다고 가정한다.
본 발명의 일실시예에서는, 이동 단말기(100)가 N 번째 북마크 페이지(2301-2)를 표시하고 있다고 감지할 경우, 웨어러블 기기(400)의 제어부(180)는 투명디스플레이(430)를 통하여 이동 단말기(100)의 왼쪽과 오른쪽 각각에 N-1 번째 북마크 페이지(2301-1) 및 N+1 번째 북마크 페이지(2301-3)를 표시하도록 제어한다. 그리고, 좌우 스크롤(2302)에 의해서 북마크 페이지가 전환될 경우, 제어부(180)는 전환된 북마크 페이지의 전 페이지를 왼쪽, 해당 북마크 페이지의 후 페이지를 오른쪽에 출력하도록 투명디스플레이(430)를 제어할 수 있다.
도 24 (a)에서, 이동 단말기(100)는 홈스크린 화면과 함께 적어도 하나의 애플리케이션 아이콘(2401-1)을 표시하고 있다.
상기 홈스크린에 대해 좀더 부연하겠다. 일반적으로 상기 홈스크린은 상기 터치스크린의 잠금 상태가 해제되었을 때 처음으로 상기 터치스크린 상에 디스플레이되는 화면으로 정의될 수 있으며, 애플리케이션 또는 내부 기능을 실행하기 위한 하나 이상의 아이콘 또는 위젯이 디스플레이되어 있을 수 있다. 상기 이동단말기에는 하나뿐만 아니라 둘 이상의 홈스크린들이 존재할 수도 있으며, 이 경우 상기 터치스크린 상에 소정 터치 제스처가 행해질 때 상기 둘 이상의 홈스크린들이 순차적으로 하나씩 디스플레이될 수 있다. 상기 홈스크린들 각각에는 다른 아이콘들(위젯들)이 배치될 수 있다.
도 24를 참조하여 설명되는 실시예에서는, 두 페이지의 홈스크린이 존재하며, 각각의 페이지에는 제 1 아이콘그룹(2401-1) 및 아이콘그룹(2401-2)이 존재하는 것으로 가정한다. 웨어러블 기기(400)는 이동 단말기(100)가 자신의 디스플레이(151)를 통하여 홈스크린의 제 1 페이지를 표시하는 것으로 감지하면, 이동 단말기(100)의 우측 영역에 홈스크린의 제 2 페이지 및 2401-2 아이콘그룹을 표시하도록 투명디스플레이(430)를 제어할 수 있다. 즉, 이동 단말기(100) 자체의 디스플레이를 통하여 제 1 페이지의 홈스크린만이 표시되고 있으므로, 웨어러블 기기(400)의 투명디스플레이(430)를 통하여 제 2 페이지를 표시하도록 제안하는 것이다. 웨어러블 기기(400)는 상기 이동 단말기(100)의 제 2 페이지 표시하기 위하여, 이동 단말기(100)로부터 직접 제 2 페이지에 대한 정보(즉, 제 2 아이콘그룹 2401-2에 대한 정보)를 수신 받을 수도 있고, 제 2 페이지에 대한 화면을 촬영하여, 촬영된 이미지를 표시할 수도 있다.
이동 단말기(100)에서 표시되는 홈스크린이 다른 페이지로 전환되는 것을 감지하면, 제어부(180)는 전환된 페이지를 기준으로 전후 페이지 각각을 이동 단말기(100)의 왼쪽 및 오른쪽 영역에 표시하도록 제어할 수 있다.
도 24 (b)에서와 같이, 이동 단말기(100)를 통하여 표시되는 홈스크린이 제 2 페이지로 변경(2402)되는 것을 감지할 경우, 제어부(180)는 이동 단말기(100)의 왼쪽 영역에 홈스크린의 제 1 페이지 및 제 1 아이콘그룹(2401-1)을 표시하도록 투명디스플레이(430)를 제어할 수 있다. 만약, 홈스크린이 제 3 페이지까지 존재할 경우, 제어부(180)는 더 나아가, 이동 단말기(100)의 오른쪽 영역에 홈스크린의 제 3 페이지를 표시하도록 투명디스플레이(430)를 제어할 수 있다.
한편, 본 발명의 일실시예에 따른 안경 형태의 웨어러블 기기(400)는, 사용자 입력 수단에 있어서 제한적일 수 있다. 왜냐하면, 일반적인 이동 단말기에 적용 가능한 입력 수단인 터치스크린을 구비하기 어렵기 때문이다. 따라서, 본 발명의 일실시예에서는, 상기 웨어러블 기기(400)와 연결되어 있는 이동 단말기(100)를 이용하는 제어 방법을 제안한다.
도 25는 본 발명의 일실시예에 따라서, 다른 이동 단말기(100)를 이용하여 웨어러블 기기(400)를 제어하는 방법을 도시하는 도면이다.
도 25 (a)는 웨어러블 기기(400)와 연결되어 있는 이동 단말기(100)를 도시하는 도면으로, 이 이동 단말기(100)는 웨어러블 기기(400)를 제어하기 위한 제어 신호를 웨어러블 기기(400)에게 전송할 수 있다. 이러한 이동 단말기(100)는 제어 신호를 만들어서 송신하기 위한 어플리케이션을 이용할 수도 있을 것이다.
도 25 (b) 및 도 25 (c)는, 이동 단말기(100)에 의해서 제어되고 있는 웨어러블 기기(400)의 투명디스플레이(430) 상태도를 도시하는 도면이다. 이 상태도는 도시된 바와 같이, 웨어러블 기기(400)의 제어에 사용되는 복수 개의 제어 아이콘들(2502-1 내지 2502-5)을 포함하고 있으며, 본 발명의 일실시예를 설명하기 위하여, 복수 개의 제어 아이콘들(2502-1 내지 2502-5) 중 "Share아이콘(2502-2)"를 선택하는 방법을 설명한다.
도 25 (b)에서는, 복수 개의 제어 아이콘들(2502-1 내지 2502-5) 중 하나의 아이콘에 결정 인디케이터(2503)를 출력하고, 결정 명령이 수신되면, 결정 인디케이터(2503)가 위치하는 아이콘을 실행시킨다. 즉 "Share아이콘(2502-2)"를 선택하기 위해, 사용자는 결정 인디케이터(2503)를 "Share아이콘(2502-2)"에 위치시키고 결정 명령을 입력할 수 있다.
이 경우, 결정 인디케이터(2503)의 위치를 변경하기 위하여, 이동 단말기(100)는 터치스크린(151)를 통하여 사용자로부터 상하좌우 드래그 입력(2501)을 수신할 수 있다. 그리고, 결정 명령은, 터치스크린(151)을 일 회 터치하는 입력일 수 있다.
도 25 (c)에서는, 복수 개의 제어 아이콘들(2502-1 내지 2502-5)의 출력과 함께 커서(2504)를 출력할 수 있다. 결정 명령이 수신되면, 결정 커서(2504)가 위치하는 아이콘을 실행시킨다. 즉 "Share아이콘(2502-2)"를 선택하기 위해, 사용자는 커서(2504)를 "Share아이콘(2502-2)"에 위치시키고 결정 명령을 입력할 수 있다.
이 경우, 커서(2504)의 위치를 변경하기 위하여, 이동 단말기(100)는 터치스크린(151)를 통하여 사용자로부터 상하좌우 드래그 입력(2501)을 수신할 수 있다. 그리고, 결정 명령은, 터치스크린(151)을 일 회 터치하는 입력일 수 있다.
도 26은 본 발명의 일실시예에 따라, 소정 제스처의 감지에 대응하여 화면을 캡쳐하는 방법의 순서도를 도시하는 도면이다.
S2601단계에서, 웨어러블 기기(400)의 제어부(180)는, 사용자에 의해서 웨어러블 기기(400)가 착용됨을 센싱부(140)로부터 감지할 수 있다.
S2602 단계에서, 제어부(180)는 글라스를 투과하여 보여지는 책의 소정 페이지 상에 사용자의 손을 통하여 이루어지는 캡쳐 제스처(Capture gesture) 감지할 수 있다.
S2602-1 단계에서, 상기 캡쳐 제스처는, 손가락으로 상기 소정 페이지 상 제 1 지점을 터치한 후, 제 2 지점으로 드래그하는 제스처(제 1 제스처)일 수 있다. 더 나아가, 제 1 제스처는, 도 5를 참조하여 상술한 바와 같이, 검지만 피고, 검지를 제외한 나머지 손가락은 접은 상태에서 제 1 지점을 소정 시간 이상 가리킨 상태에서, 제 2 지점으로 드래그 하는 입력일 수 있다. 추가적으로 상기 제 1 제스처는, 제 1 지점에서 제 2 지점으로 드래그하는 거리가 소정 거리 이상인 제스처일 수 있다. 즉, 상기 드래그하는 거리가 소정 거리 이하일 경우, 제어부(180)는 제 1 제스처로 인식하지 않을 수 있다.
S2602-2 단계에서, 상기 캡쳐 제스처는, 제 1 손가락으로 상기 소정 페이지 상 제 1 지점을 터치하고, 제 2 손가락으로 상기 소정 페이지 상 제 2 지점을 터치하는 제스처(제 2 제스처)일 수 있다. 제 2 제스처는 도 6을 참조하여 상술한 바와 같이, 양 손의 검지만 피고, 검지를 제외한 나머지 손가락은 접은 상태에서, 소정 페이지 상의 제 1 지점(601 손의 검지가 가리키는 지점) 및 제 2 지점(501 손의 검지가 가리키는 지점)을 터치하는 제스처일 수 있다. 더 나아가, 상기 터치를 한 채 소정 시간 이상 유지하는 제스처일 수 있다.
S2602-3 단계에서, 상기 캡쳐 제스처는, 상기 소정 페이지 전체를 손바닥으로 소정 시간 이상 덮는 제스처(제 3 제스처)일 수 있다. 제 3 제스처는 도 7을 참조하여 상술한 바와 같이, 손바닥을 이용하여 소정 페이지를 덮는 시간이 소정 시간 이상일 수 있다. 즉, 소정 시간 이상 입력되지 않는 경우 제어부(180)는 제 3 제스처로 인식하지 않고, 캡쳐 동작을 수행하지 않을 수 있다.
S2603단계에서, 제어부(180)는 사용자로부터 저장 방식을 선택 받을 수 있다. 사용자가 이미지로의 저장을 선택하면, S2604 단계로 진행하고, 텍스트로의 저장을 선택하면, S2605 단계로 진행할 수 있다.
S2604단계에서, 제어부(180)는 상기 소정 페이지의 적어도 일부 영역에 대해서 캡쳐 동작을 수행한 후, 캡쳐 이미지를 이미지 데이터 형태로 저장한다.
S2605단계에서, 제어부(180)는 상기 소정 페이지의 적어도 일부 영역에 대해서 캡쳐 동작을 수행한 후, 캡쳐 이미지를 텍스트 형태로 저장한다.
S2604 및 S2605 단계에서 상기 소정 페이지의 적어도 일부 영역은, 제 1 제스처 또는 제 2 제스처에 대응하여 상기 캡쳐 동작이 수행된 경우, 상기 제 1 지점 및 제 2 지점을 연결하는 직선을 대각선으로 하는 직사각형 영역일 수 있다.
S2604 및 S2605 단계에서 상기 소정 페이지의 적어도 일부 영역은, 제 3 제스처에 대응하여 상기 캡쳐 동작이 수행된 경우, 상기 소정 페이지 전체일 수 있다.
본 발명은 본 발명의 정신 및 필수적 특징을 벗어나지 않는 범위에서 다른 특정한 형태로 구체화될 수 있음은 당업자에게 자명하다.
전술한 본 발명은, 프로그램이 기록된 매체에 컴퓨터가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 컴퓨터가 읽을 수 있는 매체는, 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 컴퓨터가 읽을 수 있는 매체의 예로는, ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장 장치 등이 있으며, 또한 캐리어 웨이브(예를 들어, 인터넷을 통한 전송)의 형태로 구현되는 것도 포함한다. 또한, 상기 컴퓨터는 단말기의 제어부(180)를 포함할 수도 있다.
따라서, 상기의 상세한 설명은 모든 면에서 제한적으로 해석되어서는 아니되고 예시적인 것으로 고려되어야 한다. 본 발명의 범위는 첨부된 청구항의 합리적 해석에 의해 결정되어야 하고, 본 발명의 등가적 범위 내에서의 모든 변경은 본 발명의 범위에 포함된다.
100: 이동 단말기110: 무선통신부
120: A/V 입출력부130: 사용자 입력부
140: 센싱부150: 출력부
160: 메모리170: 인터페이스부
180: 제어부190: 전원공급부

Claims (22)

  1. 사용자의 머리에 착용(be worn)시키기 위한 프래임;
    상기 사용자의 손 제스처를 감지하는 센싱부;
    착용 시, 상기 사용자의 시야방향을 향하는 카메라; 및
    상기 센싱부를 통하여 소정 인쇄물에 대한 소정 제스처를 감지할 경우, 상기 소정 인쇄물에 대한 캡쳐이미지를 촬영하도록 상기 카메라를 제어하는,
    제어부를 포함하는,
    웨어러블(wearable) 이동 단말기.
  2. 제 1 항에 있어서,
    메모리를 더 포함하고,
    상기 소정 인쇄물은, 적어도 하나의 인쇄된 텍스트(text)를 포함하며,
    상기 제어부는, 상기 캡쳐이미지에 포함된 상기 적어도 하나의 인쇄된 텍스트(text)를 상기 메모리에 텍스트 데이터 형태로 저장하는,
    웨어러블(wearable) 이동 단말기.
  3. 제 1 항에 있어서,
    메모리를 더 포함하고,
    상기 소정 제스처는, 상기 소정 인쇄물의 제 1 지점 및 제 2 지점을 지정하는 입력을 포함하며,
    상기 제어부는, 상기 촬영된 캡쳐이미지 중 상기 지정된 제 1 지점 및 제 2 지점을 연결하는 직선을 대각선으로 하는 직사각형 영역을 저장하도록 상기 메모리를 제어하는,
    웨어러블(wearable) 이동 단말기.
  4. 제 3 항에 있어서,
    상기 소정 제스처는, 상기 사용자의 손가락으로 상기 제 1 지점을 터치한 후, 터치를 유지한 채 상기 제 2 지점으로 드래그하는 제스처인,
    웨어러블(wearable) 이동 단말기.
  5. 제 3 항에 있어서,
    상기 소정 제스처는, 상기 사용자의 한 손의 손가락으로 상기 제 1 지점을 터치하고, 다른 손의 손가락으로 상기 제 2 지점을 터치하는 제스처인,
    웨어러블(wearable) 이동 단말기.
  6. 제 1 항에 있어서,
    메모리를 더 포함하고,
    상기 소정 인쇄물은, 소정 서적의 표지이며,
    상기 제어부는, 상기 캡쳐이미지를 기초로 인식한 상기 소정 서적의 제호를 저장하도록 상기 메모리를 제어하는,
    웨어러블(wearable) 이동 단말기.
  7. 제 6 항에 있어서,
    상기 소정 제스처는, 상기 소정 서적의 표지를 상기 사용자의 손바닥으로 덮는 제스처 또는 상기 소정 서적의 표지의 일모서리에서 대각선 모서리로 스위핑(sweeping)하는 제스처 중 하나인,
    웨어러블(wearable) 이동 단말기.
  8. 제 1 항에 있어서,
    메모리를 더 포함하고,
    상기 소정 인쇄물은, 적어도 하나의 서적의 제호를 인쇄한 텍스트(text)를 포함하며,
    상기 소정 제스처는, 오브젝트(object)를 이용하여 상기 서적의 제호를 인쇄한 텍스트에 밑줄을 긋는 제스처이고,
    상기 제어부는, 상기 캡쳐이미지를 기초로 인식한 상기 서적의 제호를 저장하도록 상기 메모리를 제어하는,
    웨어러블(wearable) 이동 단말기.
  9. 제 1 항에 있어서,
    디스플레이를 더 포함하고,
    상기 소정 인쇄물은, 적어도 하나의 단어를 인쇄한 텍스트(text)를 포함하며,
    상기 소정 제스처는, 오브젝트(object)를 이용하여 소정 단어를 인쇄한 텍스트 상에 소정 패턴을 그리는 제스처이고,
    상기 제어부는, 상기 캡쳐이미지를 기초로 인식한 상기 소정 단어의 검색 결과를 출력하도록 상기 디스플레이를 제어하는,
    웨어러블(wearable) 이동 단말기.
  10. 제 1 항에 있어서,
    메모리를 더 포함하고,
    상기 소정 제스처는, 오브젝트(object)를 이용하여 상기 소정 인쇄물에 소정의 필기 메모를 입력하는 제스처이고,
    상기 제어부는, 상기 캡쳐이미지를 기초로, 상기 소정의 필기 메모를 저장하도록 상기 메모리를 제어하는,
    웨어러블(wearable) 이동 단말기.
  11. 제 1 항에 있어서,
    상기 센싱부는,
    상기 카메라를 통하여 주기적으로 촬영되는 복수 개의 이미지를 기초로 상기 사용자의 손 제스처를 감지하는,
    웨어러블(wearable) 이동 단말기.
  12. 사용자의 머리에 착용(be worn)시키기 위한 프래임, 착용 시, 상기 사용자의 시야방향을 향하는 카메라 및 메모리를 구비하는, 웨어러블(wearable) 이동 단말기의 제어 방법에 있어서,
    센싱부를 통하여 상기 사용자의 손 제스처를 감지하는 단계; 및
    소정 인쇄물에 대한 소정 제스처를 감지할 경우, 상기 소정 인쇄물에 대한 캡쳐이미지를 촬영하도록 상기 카메라를 제어하는 단계를 포함하는,
    웨어러블(wearable) 이동 단말기의 제어 방법.
  13. 제 12 항에 있어서,
    상기 소정 인쇄물은, 적어도 하나의 인쇄된 텍스트(text)를 포함하며,
    상기 캡쳐이미지에 포함된 상기 적어도 하나의 인쇄된 텍스트(text)를 상기 메모리에 텍스트 데이터 형태로 저장하는 단계를 더 포함하는,
    웨어러블(wearable) 이동 단말기의 제어 방법.
  14. 제 12 항에 있어서,
    상기 소정 제스처는, 상기 소정 인쇄물의 제 1 지점 및 제 2 지점을 지정하는 입력을 포함하며,
    상기 촬영된 캡쳐이미지 중 상기 지정된 제 1 지점 및 제 2 지점을 연결하는 직선을 대각선으로 하는 직사각형 영역을 저장하도록 상기 메모리를 제어하는 단계를 더 포함하는,
    웨어러블(wearable) 이동 단말기의 제어 방법.
  15. 제 14 항에 있어서,
    상기 소정 제스처는, 상기 사용자의 손가락으로 상기 제 1 지점을 터치한 후, 터치를 유지한 채 상기 제 2 지점으로 드래그하는 제스처인,
    웨어러블(wearable) 이동 단말기의 제어 방법.
  16. 제 14 항에 있어서,
    상기 소정 제스처는, 상기 사용자의 한 손의 손가락으로 상기 제 1 지점을 터치하고, 다른 손의 손가락으로 상기 제 2 지점을 터치하는 제스처인,
    웨어러블(wearable) 이동 단말기의 제어 방법.
  17. 제 12 항에 있어서,
    상기 소정 인쇄물은, 소정 서적의 표지이고,
    상기 캡쳐이미지를 기초로 인식한 상기 소정 서적의 제호를 저장하도록 상기 메모리를 제어하는 단계를 더 포함하는,
    웨어러블(wearable) 이동 단말기의 제어 방법.
  18. 제 17 항에 있어서,
    상기 소정 제스처는, 상기 소정 서적의 표지를 상기 사용자의 손바닥으로 덮는 제스처 또는 상기 소정 서적의 표지의 일모서리에서 대각선 모서리로 스위핑(sweeping)하는 제스처 중 하나인,
    웨어러블(wearable) 이동 단말기의 제어 방법.
  19. 제 12 항에 있어서,
    상기 소정 인쇄물은, 적어도 하나의 서적의 제호를 인쇄한 텍스트(text)를 포함하며,
    상기 소정 제스처는, 오브젝트(object)를 이용하여 상기 서적의 제호를 인쇄한 텍스트에 밑줄을 긋는 제스처이고,
    상기 캡쳐이미지를 기초로 인식한 상기 서적의 제호를 저장하도록 상기 메모리를 제어하는 단계를 더 포함하는,
    웨어러블(wearable) 이동 단말기의 제어 방법.
  20. 제 12 항에 있어서,
    상기 웨어러블 이동 단말기는 디스플레이를 더 포함하고,
    상기 소정 인쇄물은, 적어도 하나의 단어를 인쇄한 텍스트(text)를 포함하며,
    상기 소정 제스처는, 오브젝트(object)를 이용하여 소정 단어를 인쇄한 텍스트 상에 소정 패턴을 그리는 제스처이고,
    상기 캡쳐이미지를 기초로 인식한 상기 소정 단어의 검색 결과를 출력하도록 상기 디스플레이를 제어하는 단계를 더 포함하는,
    웨어러블(wearable) 이동 단말기의 제어 방법.
  21. 제 12 항에 있어서,
    상기 소정 제스처는, 오브젝트(object)를 이용하여 상기 소정 인쇄물에 소정의 필기 메모를 입력하는 제스처이고,
    상기 캡쳐이미지를 기초로, 상기 소정의 필기 메모를 저장하도록 상기 메모리를 제어하는 단계를 더 포함하는,
    웨어러블(wearable) 이동 단말기의 제어 방법.
  22. 제 12 항에 있어서,
    상기 감지하는 단계는, 상기 카메라를 통하여 주기적으로 촬영되는 복수 개의 이미지를 기초로 상기 사용자의 손 제스처를 감지하는,
    웨어러블(wearable) 이동 단말기의 제어 방법.
KR1020130112892A 2013-09-23 2013-09-23 웨어러블 이동단말기 및 그 제어방법 KR102065417B1 (ko)

Priority Applications (4)

Application Number Priority Date Filing Date Title
KR1020130112892A KR102065417B1 (ko) 2013-09-23 2013-09-23 웨어러블 이동단말기 및 그 제어방법
US14/459,049 US9372545B2 (en) 2013-09-23 2014-08-13 Mobile terminal and method of controlling therefor
EP20140002896 EP2866122A1 (en) 2013-09-23 2014-08-20 Mobile terminal and method of controlling therefor
CN201410479692.2A CN104461277B (zh) 2013-09-23 2014-09-18 移动终端及其控制方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020130112892A KR102065417B1 (ko) 2013-09-23 2013-09-23 웨어러블 이동단말기 및 그 제어방법

Publications (2)

Publication Number Publication Date
KR20150033204A true KR20150033204A (ko) 2015-04-01
KR102065417B1 KR102065417B1 (ko) 2020-02-11

Family

ID=51454514

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020130112892A KR102065417B1 (ko) 2013-09-23 2013-09-23 웨어러블 이동단말기 및 그 제어방법

Country Status (4)

Country Link
US (1) US9372545B2 (ko)
EP (1) EP2866122A1 (ko)
KR (1) KR102065417B1 (ko)
CN (1) CN104461277B (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016167406A1 (ko) * 2015-04-14 2016-10-20 엘지전자 주식회사 디스플레이 장치, 웨어러블 장치를 포함하는 동기화 시스템 및 제어 방법
US11501504B2 (en) 2018-12-20 2022-11-15 Samsung Electronics Co., Ltd. Method and apparatus for augmented reality

Families Citing this family (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9857919B2 (en) 2012-05-17 2018-01-02 Hong Kong Applied Science And Technology Research Wearable device with intelligent user-input interface
JP2015207181A (ja) * 2014-04-22 2015-11-19 ソニー株式会社 情報処理装置、情報処理方法及びコンピュータプログラム
US9575560B2 (en) 2014-06-03 2017-02-21 Google Inc. Radar-based gesture-recognition through a wearable device
US9778749B2 (en) 2014-08-22 2017-10-03 Google Inc. Occluded gesture recognition
US11169988B2 (en) 2014-08-22 2021-11-09 Google Llc Radar recognition-aided search
KR102411890B1 (ko) * 2014-09-02 2022-06-23 삼성전자주식회사 컨텐츠를 처리하는 방법 및 이를 위한 전자 장치
US9600080B2 (en) 2014-10-02 2017-03-21 Google Inc. Non-line-of-sight radar-based gesture recognition
EP3037784B1 (en) * 2014-12-23 2019-05-01 Nokia Technologies OY Causation of display of supplemental map information
KR20160076857A (ko) * 2014-12-23 2016-07-01 엘지전자 주식회사 이동 단말기 및 그의 컨텐츠 제어방법
US10241581B2 (en) 2015-04-30 2019-03-26 Google Llc RF-based micro-motion tracking for gesture tracking and recognition
US10088908B1 (en) * 2015-05-27 2018-10-02 Google Llc Gesture detection and interactions
US10069785B2 (en) * 2015-06-05 2018-09-04 Apple Inc. Network messaging for paired devices
CN104951080A (zh) * 2015-07-06 2015-09-30 联想(北京)有限公司 一种控制方法以及装置
US10817065B1 (en) 2015-10-06 2020-10-27 Google Llc Gesture recognition using multiple antenna
WO2017192167A1 (en) 2016-05-03 2017-11-09 Google Llc Connecting an electronic component to an interactive textile
US10285456B2 (en) 2016-05-16 2019-05-14 Google Llc Interactive fabric
CN106227481A (zh) * 2016-07-22 2016-12-14 北京奇虎科技有限公司 阅读文章时显示ar影像的方法和终端
US10553031B2 (en) 2017-12-06 2020-02-04 Microsoft Technology Licensing, Llc Digital project file presentation
CN109769235A (zh) * 2019-01-11 2019-05-17 深圳十米网络科技有限公司 一种基于蓝牙广播的名片交互方法
TWI719483B (zh) * 2019-05-17 2021-02-21 雅得近顯股份有限公司 便利備忘操作系統
DE102019207454B4 (de) 2019-05-21 2021-05-12 Volkswagen Aktiengesellschaft Augmented-Reality-System
US11463663B2 (en) 2019-06-21 2022-10-04 Mindgam3 Institute Camera glasses for law enforcement accountability
US11494953B2 (en) * 2019-07-01 2022-11-08 Microsoft Technology Licensing, Llc Adaptive user interface palette for augmented reality
US20210006730A1 (en) 2019-07-07 2021-01-07 Tangible Play, Inc. Computing device
USD907032S1 (en) 2019-07-07 2021-01-05 Tangible Play, Inc. Virtualization device
CN111385683B (zh) * 2020-03-25 2022-01-28 广东小天才科技有限公司 一种智能音箱应用控制方法及智能音箱

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20100047793A (ko) * 2008-10-29 2010-05-10 한국전자통신연구원 착용형 컴퓨팅 환경 기반의 사용자 인터페이스 장치 및 그 방법
KR20110070331A (ko) * 2009-12-18 2011-06-24 한국전자통신연구원 착용형 컴퓨팅 환경 기반의 사용자 인터페이스 장치 및 그 방법
US8228315B1 (en) * 2011-07-12 2012-07-24 Google Inc. Methods and systems for a virtual input device
US8471868B1 (en) * 2007-11-28 2013-06-25 Sprint Communications Company L.P. Projector and ultrasonic gesture-controlled communicator

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3039709B2 (ja) * 1991-07-24 2000-05-08 キヤノン株式会社 ビデオカメラ
US20040196400A1 (en) * 2003-04-07 2004-10-07 Stavely Donald J. Digital camera user interface using hand gestures
CN1304931C (zh) * 2005-01-27 2007-03-14 北京理工大学 一种头戴式立体视觉手势识别装置
CN1851617A (zh) * 2005-04-22 2006-10-25 英华达(上海)电子有限公司 移动设备上便于ocr并输入到现有编辑器的转换装置及其方法
US20110185299A1 (en) * 2010-01-28 2011-07-28 Microsoft Corporation Stamp Gestures
US20120242698A1 (en) * 2010-02-28 2012-09-27 Osterhout Group, Inc. See-through near-eye display glasses with a multi-segment processor-controlled optical layer
WO2012040086A1 (en) 2010-09-20 2012-03-29 Kopin Corporation Miniature communications gateway for head mounted display
CN102156606A (zh) * 2010-11-17 2011-08-17 华为终端有限公司 取景框处理方法、图片处理方法和用户设备
CN102193631A (zh) * 2011-05-05 2011-09-21 上海大学 可穿戴式三维手势交互系统及其使用方法
US8558759B1 (en) * 2011-07-08 2013-10-15 Google Inc. Hand gestures to signify what is important
KR101315303B1 (ko) * 2011-07-11 2013-10-14 한국과학기술연구원 착용형 디스플레이 장치 및 컨텐츠 디스플레이 방법
US20130039535A1 (en) * 2011-08-08 2013-02-14 Cheng-Tsai Ho Method and apparatus for reducing complexity of a computer vision system and applying related computer vision applications
US8611015B2 (en) 2011-11-22 2013-12-17 Google Inc. User interface
KR101885775B1 (ko) 2012-02-24 2018-08-07 삼성전자주식회사 컨텐트 캡쳐 방법 및 이를 위한 이동 단말기
US9335919B2 (en) * 2012-06-25 2016-05-10 Google Inc. Virtual shade
CN103186665A (zh) * 2013-01-29 2013-07-03 四川大学 一种纸质图书数字化辅助阅读软件
CN103259978B (zh) * 2013-05-20 2018-09-18 邱笑难 一种使用手势拍照的方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8471868B1 (en) * 2007-11-28 2013-06-25 Sprint Communications Company L.P. Projector and ultrasonic gesture-controlled communicator
KR20100047793A (ko) * 2008-10-29 2010-05-10 한국전자통신연구원 착용형 컴퓨팅 환경 기반의 사용자 인터페이스 장치 및 그 방법
KR20110070331A (ko) * 2009-12-18 2011-06-24 한국전자통신연구원 착용형 컴퓨팅 환경 기반의 사용자 인터페이스 장치 및 그 방법
US8228315B1 (en) * 2011-07-12 2012-07-24 Google Inc. Methods and systems for a virtual input device

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016167406A1 (ko) * 2015-04-14 2016-10-20 엘지전자 주식회사 디스플레이 장치, 웨어러블 장치를 포함하는 동기화 시스템 및 제어 방법
US10430148B2 (en) 2015-04-14 2019-10-01 Lg Electronics Inc. Synchronization system comprising display device and wearable device, and controlling method
US11501504B2 (en) 2018-12-20 2022-11-15 Samsung Electronics Co., Ltd. Method and apparatus for augmented reality

Also Published As

Publication number Publication date
CN104461277A (zh) 2015-03-25
US20150084855A1 (en) 2015-03-26
KR102065417B1 (ko) 2020-02-11
EP2866122A1 (en) 2015-04-29
US9372545B2 (en) 2016-06-21
CN104461277B (zh) 2018-10-16

Similar Documents

Publication Publication Date Title
KR102065417B1 (ko) 웨어러블 이동단말기 및 그 제어방법
KR102047696B1 (ko) 이동 단말기 및 이의 제어 방법
US9778811B2 (en) Mobile terminal and method of controlling the same terminal
KR101853057B1 (ko) 이동 단말기 및 이동 단말기의 제어 방법
KR102014776B1 (ko) 이동단말기 및 그 제어 방법
US20130176250A1 (en) Mobile terminal and control method thereof
EP2239653A2 (en) Method for inputting command in mobile terminal and mobile terminal using the same
KR102056189B1 (ko) 이동 단말기 및 그 제어방법
KR102091604B1 (ko) 이동단말기 및 그 제어방법
KR20100028699A (ko) 식별모듈 전환방법과 이를 이용한 이동 단말기
KR101698096B1 (ko) 단말기의 드로잉을 이용한 검색 방법 및 그 단말기
KR102065416B1 (ko) 이동단말기 및 그 제어방법
EP2284678A2 (en) Method for executing menu in mobile terminal and mobile terminal using the same
KR101592298B1 (ko) 이동 단말기 및 이동 단말기의 유저 인터페이스 방법
KR20120136698A (ko) 휴대 전자기기 및 이의 제어방법
KR20130034885A (ko) 이동 단말 및 이의 지능형 정보 검색 방법
KR101778969B1 (ko) 휴대 전자기기 및 이의 스크롤 방법
KR102120104B1 (ko) 이동 단말기 및 그 제어 방법
KR101786513B1 (ko) 이동 단말기의 화면 조작 방법
KR20160073205A (ko) 이동 단말기 및 그것의 제어방법
KR20150041917A (ko) 이동단말기 및 그 제어방법
KR20120057386A (ko) 이동단말기 및 그의 웹브라우저 화면 제어방법
KR20150055327A (ko) 이동 단말기 및 이의 제어 방법
KR20150063739A (ko) 이동 단말기 및 이의 제어 방법
KR20100040351A (ko) 이동 단말기의 메뉴 네비게이션 방법 및 장치

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant