KR20140002389A

KR20140002389A - 아이 트래킹 기능을 구비한 이동 단말기 및 그의 이벤트 표시방법

Info

Publication number: KR20140002389A
Application number: KR1020120071076A
Authority: KR
Inventors: 임성진
Original assignee: 엘지전자 주식회사
Priority date: 2012-06-29
Filing date: 2012-06-29
Publication date: 2014-01-08
Also published as: KR101968523B1

Abstract

본 발명은 사용자의 시선에 연동하여 이동 단말기의 이벤트를 표시하기 위한 아이 트래킹 기능을 구비한 이동 단말기 및 그의 이벤트 표시방법에 관한 것으로, 화면에 컨텐츠를 표시한 상태에서 소정 이벤트가 발생되면 아이 트래킹 센서에서 감지된 상기 컨텐츠상의 사용자의 시선에 따라 상기 이벤트의 내용의 표시위치를 결정한 후 결정된 위치에 이벤트의 내용을 표시하기 위한 창을 표시한다.

Description

아이 트래킹 기능을 구비한 이동 단말기 및 그의 이벤트 표시방법{MOBILE TERMINAL USING EYE TRACKING FUNCTION AND EVENT INDICATION METHOD THEREOF}

본 발명은 사용자의 시선에 연동하여 이동 단말기의 이벤트를 표시하기 위한 아이 트래킹 기능을 구비한 이동 단말기 및 그의 이벤트 표시방법에 관한 것이다.

이동 단말기는 다양한 기능을 수행할 수 있도록 구성될 수 있다. 그러한 다양한 기능들의 예로 데이터 및 음성 통신 기능, 카메라를 통해 사진이나 동영상을 촬영하는 기능, 음성 저장 기능, 스피커 시스템을 통한 음악 파일의 재생 기능, 이미지나 비디오의 디스플레이 기능 등이 있다. 일부 이동 단말기는 게임을 실행할 수 있는 추가적 기능을 포함하고, 다른 일부 이동 단말기는 멀티미디어 기기로서 구현되기도 한다. 더욱이 최근의 이동단말기는 방송이나 멀티캐스트(multicast) 신호를 수신하여 비디오나 텔레비전 프로그램을 시청할 수 있다.

또한, 상기 이동 단말기의 기능 지지 및 증대를 위한 노력들이 계속되고 있다. 상술한 노력은 이동 단말기를 형성하는 구조적인 구성요소의 변화 및 개량뿐만 아니라 소프트웨어나 하드웨어의 개량도 포함한다. 그 중에서 이동 단말기의 터치 기능은 터치 스크린을 이용하여 버튼/키 입력이 익숙하지 않은 사용자도 편리하게 단말기의 동작을 수행할 수 있도록 한 것으로서, 최근에는 단순한 입력뿐만 아니라 사용자 인터페이스(UI)와 함께 단말기의 중요한 기능으로서 자리 잡아가고 있다.

일반적으로 망막, 지문, 음성 및 얼굴 등은 개별적인 생체의 특성을 갖는다.

따라서, 최근 이동 단말기에 상기와 같은 개별적인 생체의 특성을 적용한 지문인식, 홍채인식, 안면인식, 음성인식 및 안구인식과 같은 다양한 생체인식 기술이 탑재되고 있는 실정이다.

상기 다양한 생체인식 기술중에서 아이트래킹(Eye Tracking) 기술은 전면 카메라 및 아이트래킹 센서를 통하여 안구의 움직임을 검출한 후 그 검출된 안구의 움직임(시선)에 따라 사용자가 원하는 특정 동작을 수행하는 기술이다. 예를들어, 사용자가 이동 단말기를 사용하기 위해 화면을 바라보면 자동으로 전원이 온되거나 화면에서 눈을 떼면 자동으로 슬립모드로 진입하는 동작을 수행할 수 있다. 또한, 사용자가 눈을 깜박이거나 눈동자의 좌우 움직임에 따라 스크롤이나 페이지 넘김등을 수행할 수도 있을 것이다.

그런데, 현재 아이트래킹 기술은 일부 이동 단말기에만 사용되고 있고, 일부 제한적인 동작 제어를 위해 사용되고 있을 뿐이다. 따라서, 현재 아이트래킹 기술에 대한 관심에 비례하여 상기 아이트래킹 기술을 이용한 이동 단말기의 다양한 동작 제어 및 그에 관련된 사용자 인터페이스가 구현이 절실한 상황이다.

본 발명의 목적은 아이 트래킹 기술을 이용하여 이벤트를 효과적으로 표시할 수 있는 이동 단말기 및 그의 이벤트 표시방법을 제공하는데 있다.

본 발명의 다른 목적은 화면상의 눈 위치에 따라 이벤트의 표시 위치를 가변할 수 있는 이동 단말기 및 그의 이벤트 표시방법을 제공하는데 있다.

상기와 같은 목적을 달성하기 위하여 본 발명에 따른 아이 트래킹을 이용한 이동 단말기의 이벤트 표시방법은, 컨텐츠를 표시하는 단계; 컨텐츠상의 사용자 시선을 감지하는 단계; 소정 이벤트가 발생되면 아이 트래킹 센서에서 감지된 사용자의 시선에 따라 해당 이벤트의 내용의 표시위치를 결정하는 단계; 상기 결정된 위치에 이벤트의 내용을 표시하기 위한 창을 표시하는 단계;를 포함한다.

상기 컨텐츠는 텍스트, 사진, 동영상, 웹 페이지 및 이동 단말기의 메뉴화면을 포함한다.

상기 이벤트는 이동 단말기의 상태를 나타내는 통지 이벤트로서 에러발생, 알람, 스케쥴, 부재중 전화, 메시지 수신 및 USB케이블연결을 포함한다.

상기 이벤트의 내용을 표시하기 위한 창은 중앙의 가로축을 중심으로 사용자의 시선과 반대 방향에 표시된다.

상기 이벤트의 내용을 표시하기 위한 창은 사용자의 시선이 컨텐츠에 머무르면 투명상태로 표시되고, 사용자의 시선이 상기 투명상태의 창으로 이동되면 진하게 표시된다.

상기 창의 표시해제 조건을 체크하여 해당 조건이 만족되면 창의 표시를 해제하는 단계;를 더 포함한다.

상기 창의 표시해제 조건은 이벤트 내용 확인 완료, 이벤트 내용에 대한 응답 완료, 사용자 의한 창 닫힘 및 사용자의 시선 변경을 포함한다.

상기 소정 이벤트가 복수개인 경우는 사용자 선택에 따라 또는 발생 순서대로 각 이벤트의 내용을 표시하기 위한 창을 사용자의 시선에 따라 표시한다.

상기와 같은 목적을 달성하기 위하여 본 발명에 따른 아이 트래킹 기능을 구비한 이동 단말기는, 컨텐츠를 표시하는 디스플레이부; 컨텐츠상의 사용자 시선을 감지하는 아이 트래킹 센서; 및 이벤트가 발생되면 아이 트래킹 센서에서 감지된 사용자의 시선에 따라 해당 이벤트의 내용의 표시위치를 결정하여 해당 위치에 이벤트 내용을 표시하기 위한 창을 표시하는 제어부;를 포함한다.

상기 이벤트는 이동 단말기의 상태를 나타내는 통지 이벤트로서 에러발생, 알람, 스케쥴, 부재중 전화, 메시지 수신 및 USB케이블 연결을 포함한다.

상기 제어부는 중앙의 가로축을 중심으로 사용자의 시선과 반대 방향에 창을 표시한다.

상기 제어부는 사용자의 시선이 컨텐츠에 머무르면 창을 투명상태로 표시하고, 사용자의 시선이 투명상태의 창으로 이동되면 진하게 표시한다.

상기 제어부는 창의 표시해제 조건을 체크하여 해당 조건이 만족되면 창의 표시를 해제한다.

상기 제어부는 소정 이벤트가 복수개인 경우 사용자 선택에 따라 또는 발생 순서대로 각 이벤트의 내용을 표시하기 위한 창을 사용자의 시선에 따라 표시한다.

본 발명은 사용자가 화면에서 컨텐츠를 보고 있는 상태에서 소정의 이벤트가 발생되면 사용자의 시선에 따라 해당 이벤트의 내용을 표시할 창의 위치를 결정한 후 해당 위치에 창을 표시하고, 사용자의 시선 변경에 따라 관련 동작을 수행함으로써 사용자는 아이 트래킹에 의해 편리하게 이벤트 내용을 확인하거나 그와 관련된 동작을 수행할 수 있는 효과가 있다.

도 1은 본 발명의 일 실시예에 관련된 이동 단말기의 블록 구성도.
도 2는 본 발명의 일 실시예에 관련된 이동 단말기가 동작할 수 있는 무선 통신 시스템에 대한 블록도.
도 3a 및 도 3b는 본 발명에 따른 이동 단말기의 이벤트 표시방법으로, 아이 트래킹을 이용하여 하나의 이벤트를 표시하는 예를 나타낸 도면.
도 4a 내지 도 4d는 메시지 창의 표시를 해제하는 다양한 실시예.
도 5는 본 발명의 실시예에 따른 이동 단말기의 아이 트래킹을 이용한 이벤트 표시방법의 다른 실시예.
도 6은 본 발명에서 사용자의 시선에 따라 예약 기능을 알리는 메시지를 표시하는 예를 나타낸 도면.
도 7a 및 도 7b는 본 발명에 따른 이동 단말기의 이벤트 표시방법으로, 아이 트래킹을 이용하여 복수의 이벤트를 표시하는 예를 나타낸 도면.
도 8은 본 발명의 실시예에 따른 아이 트래킹을 이용한 이벤트 표시방법을 나타낸 순서도
도 9는 도 8에서 복수의 이벤트가 발생되는 경우 아이 트래킹을 이용한 이벤트 표시방법을 나타낸 순서도.

이하, 본 발명과 관련된 이동 단말기에 대하여 도면을 참조하여 보다 상세하게 설명한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 단순히 본 명세서 작성의 용이함만이 고려되어 부여되는 것으로서, 그 자체로 특별히 중요한 의미 또는 역할을 부여하는 것은 아니다. 따라서, 상기 "모듈" 및 "부"는 서로 혼용되어 사용될 수도 있음을 유념해야 한다.

단말기는 다양한 형태로 구현될 수 있다. 예를 들어, 본 명세서에서 기술되는 단말기에는 휴대폰, 스마트 폰(smart phone), 노트북 컴퓨터(notebook computer), 디지털방송용 단말기, PDA(Personal Digital Assistants), PMP(Portable Multimedia Player), 네비게이션 등과 같은 이동 단말기와, 디지털 TV, 데스크탑 컴퓨터 등과 같은 고정 단말기가 있다. 이하의 설명에서는 상기 단말기가 이동 단말기인 것으로 가정하고 설명한다. 그러나, 이하의 설명에 따른 구성은 이동용을 위해 특별히 구성된 구성요소를 제외한다면 상기 고정 단말기에도 적용될 수도 있음을 본 기술분야의 당업자라면 쉽게 알 수 있을 것이다.

도 1은 본 발명의 일 실시예와 관련된 이동 단말기의 블록 구성도(block diagram)이다.

상기 이동 단말기(100)는 무선 통신부(110), A/V(Audio/Video) 입력부(120), 사용자 입력부(130), 센싱부(140), 출력부(150), 메모리(160), 인터페이스부(170), 제어부(180) 및 전원 공급부(190) 등을 포함할 수 있다. 도 1은 다양한 구성요소를 가지고 있는 이동 단말기를 나타내고 있다. 그러나 도시된 구성요소 모두가 필수구성요소인 것은 아니다. 도시된 구성요소 보다 많은 구성요소에 의해 이동 단말기가 구현될 수도 있고, 그 보다 적은 구성요소에 의해서도 이동 단말기가 구현될 수 있다.

이하 상기 구성요소들에 대해 차례로 살펴본다.

무선 통신부(110)는 이동 단말기(100)와 무선 통신 시스템 간의 무선 통신 또는 이동 단말기(100)와 이동 단말기(100)가 위치한 네트웍간의 무선 통신을 하게 하는 하나 이상의 구성요소를 포함할 수 있다. 예를 들어, 무선 통신부(110)는 방송 수신 모듈(111), 이동통신 모듈(112), 무선 인터넷 모듈(113), 근거리 통신 모듈(114) 및 위치정보 모듈(115) 등을 포함할 수 있다.

방송 수신 모듈(111)은 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다. 상기 방송 채널은 위성 채널, 지상파 채널을 포함할 수 있다. 상기 방송 관리 서버는, 방송 신호 및/또는 방송 관련 정보를 생성하여 송신하는 서버 또는 기 생성된 방송 신호 및/또는 방송 관련 정보를 제공받아 단말기에 송신하는 서버를 의미할 수 있다. 상기 방송 관련 정보는, 방송 채널, 방송 프로그램 또는 방송 서비스 제공자에 관련한 정보를 의미할 수 있다. 상기 방송 신호는, TV 방송 신호, 라디오 방송 신호, 데이터 방송 신호를 포함할 뿐만 아니라, TV 방송 신호 또는 라디오 방송 신호에 데이터 방송 신호가 결합한 형태의 방송 신호도 포함할 수 있다.

한편, 상기 방송 관련 정보는, 이동통신망을 통하여도 제공될 수 있으며, 이러한 경우에는 상기 이동통신 모듈(112)에 의해 수신될 수 있다.

상기 방송 관련 정보는 다양한 형태로 존재할 수 있다. 예를 들어, DMB(Digital Multimedia Broadcasting)의 EPG(Electronic Program Guide) 또는 DVB-H(Digital Video Broadcast-Handheld)의 ESG(Electronic Service Guide) 등의 형태로 존재할 수 있다.

상기 방송 수신 모듈(111)은, 각종 방송 시스템을 이용하여 방송 신호를 수신하는데, 특히, DMB-T(Digital Multimedia Broadcasting-Terrestrial), DMB-S(Digital Multimedia Broadcasting-Satellite), MediaFLO(Media Forward Link Only), DVB-H(Digital Video Broadcast-Handheld), ISDB-T(Integrated Services Digital Broadcast-Terrestrial) 등의 디지털 방송 시스템을 이용하여 디지털 방송 신호를 수신할 수 있다. 물론, 상기 방송 수신 모듈(111)은, 상술한 디지털 방송 시스템뿐만 아니라 방송 신호를 제공하는 모든 방송 시스템에 적합하도록 구성된다.

방송 수신 모듈(111)을 통해 수신된 방송 신호 및/또는 방송 관련 정보는 메모리(160)에 저장될 수 있다.

또한, 이동통신 모듈(112)은, 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 여기에서, 상기 무선 신호는, 음성 호 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.

무선 인터넷 모듈(113)은 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 무선 인터넷 모듈(113)은 내장되거나 외장될 수 있다. 무선 인터넷 기술로는 WLAN (Wireless LAN)(Wi-Fi), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access) 등이 이용될 수 있다.

근거리 통신 모듈(114)은 근거리 통신을 위한 모듈을 말한다. 근거리 통신 기술로 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(IrDA, infrared Data Association), UWB(Ultra Wideband), ZigBee 등이 이용될 수 있다.

또한, 위치정보 모듈(115)은 이동 단말기의 위치를 확인하거나 얻기 위한 모듈이다. 상기 위치정보 모듈(115)의 대표적인 예로는 GPS(Global Position System) 모듈이 있다. 현재 기술에 의하면, 상기 GPS모듈은 3개 이상의 위성으로부터 떨어진 거리 정보와 정확한 시간 정보를 산출한 다음 상기 산출된 정보에 삼각법을 적용함으로써, 위도, 경도, 및 고도에 따른 3차원의 현 위치 정보를 정확히 산출할 수 있다. 현재, 3개의 위성을 이용하여 위치 및 시간 정보를 산출하고, 또 다른 1개의 위성을 이용하여 상기 산출된 위치 및 시간 정보의 오차를 수정하는 방법이 널리 사용되고 있다. 또한, GPS 모듈은 현 위치를 실시간으로 계속 산출함으로써 속도 정보를 산출할 수 있다.

한편, A/V(Audio/Video) 입력부(120)는 오디오 신호 또는 비디오 신호 입력을 위한 것으로, 이에는 카메라(121)와 마이크(122) 등이 포함될 수 있다. 카메라(121)은 화상 통화모드 또는 촬영 모드에서 이미지 센서에 의해 얻어지는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 그리고, 처리된 화상 프레임은 디스플레이 모듈(151)에 표시될 수 있다.

카메라(121)에서 처리된 화상 프레임은 메모리(160)에 저장되거나 무선 통신부(110)를 통하여 외부로 전송될 수 있다. 카메라(121)은 단말기의 구성 태양에 따라 2개 이상이 구비될 수도 있다.

마이크(122)는 통화모드 또는 녹음모드, 음성인식 모드 등에서 마이크로폰 (Microphone)에 의해 외부의 음향 신호를 입력받아 전기적인 음성 데이터로 처리한다. 그리고, 처리된 음성 데이터는 통화 모드인 경우 이동통신 모듈(112)를 통하여 이동통신 기지국으로 송신 가능한 형태로 변환되어 출력될 수 있다. 마이크(122)는 외부의 음향 신호를 입력 받는 과정에서 발생되는 잡음(noise)를 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수 있다.

사용자 입력부(130)는 사용자가 단말기의 동작 제어를 위한 입력 데이터를 발생시킨다. 사용자 입력부(130)는 키 패드(key pad), 돔 스위치 (dome switch), 터치 패드(정압/정전), 조그 휠, 조그 스위치 등으로 구성될 수 있다. 특히, 터치 패드가 후술하는 디스플레이 모듈(151)과 상호 레이어 구조를 이룰 경우, 이를 터치 스크린이라 부를 수 있다.

센싱부(140)는 이동 단말기(100)의 개폐 상태, 이동 단말기(100)의 위치, 사용자 접촉 유무, 이동 단말기의 방위, 이동 단말기의 가속/감속 등과 같이 이동 단말기 (100)의 현 상태를 감지하여 이동 단말기(100)의 동작을 제어하기 위한 센싱 신호를 발생시킨다. 예를 들어 이동 단말기(100)가 슬라이드 폰 형태인 경우 슬라이드 폰의 개폐 여부를 센싱할 수 있다. 또한, 전원 공급부(190)의 전원 공급 여부, 인터페이스부(170)의 외부 기기 결합 여부 등과 관련된 센싱 기능을 담당한다. 한편, 상기 센싱부(140)는 근접 센서(141)를 포함할 수 있다. 이에 대해서는 나중에 터치스크린과 관련되어 후술된다.

또한, 상기 센싱부(140)는 사용자가 이동할 때 이동방향을 계산하는 지자기 센서, 회전방향을 계산하는 자이로 센서 및 가속도센서를 포함한다.

인터페이스부(170)는 이동 단말기(100)에 연결되는 모든 외부기기와의 인터페이스 역할을 한다. 예를 들어, 유/무선 헤드셋 포트, 외부 충전기 포트, 유/무선 데이터 포트, 메모리 카드(memory card) 포트, 식별 모듈이 구비된 장치를 연결하는 포트, 오디오 I/O(Input/Output) 포트, 비디오 I/O(Input/Output) 포트, 이어폰 포트 등이 포함될 수 있다.

여기에서, 식별 모듈은 이동 단말기(100)의 사용 권한을 인증하기 위한 각종 정보를 저장한 칩으로서, 사용자 인증 모듈(User Identify Module; 'UIM'), 가입자 인증 모듈(Subscriber Identify Module; 'SIM'), 범용 사용자 인증 모듈(Universal Subscriber Identity Module; 'USIM') 등을 포함할 수 있다. 또한, 식별 모듈이 구비된 장치(이하 '식별 장치')는, 스마트 카드(smart card) 형식으로 제작될 수 있다. 따라서 식별 장치는 포트를 통하여 단말기(100)와 연결될 수 있다. 이와 같은 인터페이스부(170)는 외부 기기로부터 데이터를 전송받거나 전원을 공급받아 이동 단말기(100) 내부의 각 구성 요소에 전달하거나 이동 단말기(100) 내부의 데이터가 외부 기기로 전송되도록 한다.

또한, 상기 인터페이스부(170)는 이동단말기(100)가 외부 크래들(cradle)과 연결될 때 상기 크래들로부터의 전원이 상기 이동단말기(100)에 공급되는 통로가 되거나, 사용자에 의해 상기 크래들에서 입력되는 각종 명령 신호가 상기 이동단말기로 전달되는 통로가 될 수 있다. 상기 크래들로부터 입력되는 각종 명령 신호 또는 상기 전원은 상기 이동단말기가 상기 크래들에 정확히 장착되었음을 인지하기 위한 신호로 동작될 수도 있다.

출력부(150)는 오디오 신호 또는 비디오 신호 또는 알람(alarm) 신호의 출력을 위한 것으로, 이에는 디스플레이 모듈(151), 음향 출력 모듈(152), 및 알람부(153) 등이 포함될 수 있다.

디스플레이 모듈(151)는 이동 단말기(100)에서 처리되는 정보를 표시 출력한다. 예를 들어 이동 단말기가 통화 모드인 경우 통화와 관련된 UI(User Interface) 또는 GUI(Graphic User Interface)를 표시한다.

한편, 전술한 바와 같이, 디스플레이 모듈(151)과 터치패드가 상호 레이어 구조를 이루어 터치 스크린으로 구성되는 경우, 디스플레이 모듈(151)은 출력 장치 이외에 입력 장치로도 사용될 수 있다. 디스플레이 모듈(151)은 액정 디스플레이(liquid crystal display), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display), 유기 발광 다이오드(organic light-emitting diode), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display) 중에서 적어도 하나를 포함할 수 있다. 이들 중 일부 디스플레이는 이를 통해 외부를 볼 수 있도록 투명하도록 구성될 수 있다. 이는 투명 디스플레이라 호칭될 수 있는데, 상기 투명 디스플레이의 대표적인 예로는 TOLED(transparent organic light emitting diode) 등이 있다. 그리고 이동 단말기(100)의 구현 형태에 따라 디스플레이 모듈(151)이 2개 이상 존재할 수도 있다. 예를 들어, 이동 단말기(100)에 외부 디스플레이 모듈(미도시)과 내부 디스플레이 모듈(미도시)이 동시에 구비될 수 있다. 상기 터치스크린은 터치 입력 위치 및 면적 뿐만 아니라 터치 입력 압력까지도 검출할 수 있도록 구성될 수 있다.

음향 출력 모듈(152)은 호신호 수신, 통화모드 또는 녹음 모드, 음성인식 모드, 방송수신 모드 등에서 무선 통신부(110)로부터 수신되거나 메모리(160)에 저장된 오디오 데이터를 출력한다. 또한, 음향 출력 모듈(152)은 이동 단말기(100)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음 등)과 관련된 음향 신호를 출력한다. 이러한 음향 출력 모듈(152)에는 스피커(speaker), 버저(Buzzer) 등이 포함될 수 있다.

알람부(153)는 이동 단말기(100)의 이벤트 발생을 알리기 위한 신호를 출력한다. 이동 단말기에서 발생되는 이벤트의 예로는 호 신호 수신, 메시지 수신, 키 신호 입력, 터치 입력 등이 있다. 알람부(153)는 오디오 신호나 비디오 신호 이외에 다른 형태로 이벤트 발생을 알리기 위한 신호를 출력할 수도 있다. 예를 들면, 진동 형태로 신호를 출력할 수 있다. 호 신호가 수신되거나 메시지가 수신된 경우, 이를 알리기 위해 알람부(153)는 진동을 출력할 수 있다. 또는, 키 신호가 입력된 경우, 키 신호 입력에 대한 피드백으로 알람부(153)는 진동을 출력할 수 있다. 상기와 같은 진동 출력을 통해 사용자는 이벤트 발생을 인지할 수 있다. 물론 이벤트 발생 알림을 위한 신호는 디스플레이 모듈(151)이나 음향 출력 모듈(152)을 통해서도 출력될 수 있다.

메모리(160)는 제어부(180)의 처리 및 제어를 위한 프로그램이 저장될 수도 있고, 입/출력되는 데이터들(예를 들어, 폰북, 메시지, 정지영상, 동영상 등)의 임시 저장을 위한 기능을 수행할 수도 있다. 또한, 상기 메모리(160)에는 상기 터치스크린 상의 터치 입력시 출력되는 다양한 패턴의 진동 및 음향에 관한 데이터를 저장할 수 있다.

메모리(160)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(RAM, Random Access Memory) SRAM(Static Random Access Memory), 롬(ROM, Read-Only Memory), EEPROM (Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory) 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 또한, 이동 단말기(100)는 인터넷(internet)상에서 상기 메모리(160)의 저장 기능을 수행하는 웹 스토리지(web storage)를 운영할 수도 있다.

그리고 제어부(180)는 통상적으로 이동 단말기의 전반적인 동작을 제어한다. 예를 들어 음성 통화, 데이터 통신, 화상 통화 등을 위한 관련된 제어 및 처리를 수행한다. 또한, 제어부(180)는 멀티 미디어 재생을 위한 멀티미디어 모듈(181)을 구비할 수도 있다. 멀티미디어 모듈(181)은 제어부(180) 내에 구현될 수도 있고, 제어부(180)와 별도로 구현될 수도 있다.

상기 제어부(180)는 상기 터치스크린 상에서 행해지는 필기 입력 또는 그림 그리기 입력을 각각 문자 및 이미지로 인식할 수 있는 패턴 인식 처리를 행할 수 있다.

전원 공급부(190)는 배터리로서 제어부(180)의 제어에 의해 외부의 전원, 내부의 전원을 인가받아 각 구성요소들의 동작에 필요한 전원을 공급한다.

여기에 설명되는 다양한 실시예는 예를 들어, 소프트웨어, 하드웨어 또는 이들의 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 장치로 읽을 수 있는 기록매체 내에서 구현될 수 있다.

하드웨어적인 구현에 의하면, 여기에 설명되는 실시예는 ASICs (application specific integrated circuits), DSPs (digital signal processors), DSPDs (digital signal processing devices), PLDs (programmable logic devices), FPGAs (field programmable gate arrays, 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기능 수행을 위한 전기적인 유닛 중 적어도 하나를 이용하여 구현될 수 있다. 일부의 경우에 그러한 실시예들이 제어부(180)에 의해 구현될 수 있다.

소프트웨어적인 구현에 의하면, 절차나 기능과 같은 실시예들은 적어도 하나의 기능 또는 작동을 수행하게 하는 별개의 소프트웨어 모듈과 함께 구현될 수 있다. 소프트웨어 코드는 적절한 프로그램 언어로 쓰여진 소프트웨어 어플리케이션에 의해 구현될 수 있다. 또한, 소프트웨어 코드는 메모리(160)에 저장되고, 제어부(180)에 의해 실행될 수 있다.

도 1에 도시된 단말기(100)는, 유무선 통신 시스템 및 위성 기반 통신 시스템을 포함하여, 프레임(frame) 또는 패킷(packet)을 통하여 데이터(data)를 전송할 수 있는 통신 시스템에서 동작 가능하도록 구성될 수 있다.

이하에서는, 도 2를 참조하여, 본 발명에 관련된 단말기가 동작 가능한 통신 시스템에 대하여 살펴보겠다.

통신 시스템은, 서로 다른 무선 인터페이스 및/또는 물리 계층을 이용할 수도 있다. 예를 들어, 통신 시스템에 의해 이용 가능한 무선 인터페이스에는, 주파수 분할 다중 접속(Frequency Division Multiple Access; 'FDMA'), 시분할 다중 접속(Time Division Multiple Access; 'TDMA'), 코드 분할 다중 접속(Code Division Multiple Access; 'CDMA'), 범용 이동통신 시스템(Universal Mobile Telecommunications Systems; 'UMTS')(특히, LTE(Long Term Evolution)), 이동통신 글로벌 시스템(Global System for Mobile Communications; 'GSM') 등이 포함될 수 있다. 이하에서는, 설명의 편의를 위하여, CDMA에 한정하여 설명하도록 한다. 그러나, 본 발명은, CDMA 무선 통신 시스템을 포함한 모든 통신 시스템 적용될 있음은 당연하다.

도 2에 도시된 바와 같이, CDMA 무선 통신 시스템은, 복수의 단말기들(100), 복수의 기지국(Base Station; 'BS')(270), 기지국 제어부(Base Station Controllers; 'BSCs')(275), 이동 스위칭 센터(Mobile Switching Center; 'MSC')(280)를 포함할 수 있다. MSC(280)는, 일반 전화 교환망(Public Switched Telephone Network; 'PSTN')(290)과 연결되도록 구성되고, BSCs(275)와도 연결되도록 구성된다. BSCs(275)는, 백홀 라인(backhaul line)을 통하여, BS(270)과 짝을 이루어 연결될 수 있다. 백홀 라인은, E1/T1, ATM, IP, PPP, Frame Relay, HDSL, ADSL 또는 xDSL 중 적어도 하나에 따라서 구비될 수 있다. 따라서, 복수의 BSCs(275)가 도 2에 도시된 시스템에 포함될 수 있다.

각각의 BS(270)는, 적어도 하나의 섹터를 포함할 수 있고, 각각의 섹터는, 전방향성 안테나 또는 BS(270)으로부터 방사상의 특정 방향을 가리키는 안테나를 포함할 수 있다. 또한, 각각의 섹터는, 다양한 형태의 안테나를 두 개 이상 포함할 수도 있다. 각각의 BS(270)는, 복수의 주파수 할당을 지원하도록 구성될 수 있고, 복수의 주파수 할당 각각은, 특정 스펙트럼(예를 들어, 1.25MHz, 5MHz 등)을 갖는다.

섹터와 주파수 할당의 교차는, CDMA 채널이라고 불릴 수 있다. BS(270)은, 기지국 송수신 하부 시스템(Base Station Transceiver Subsystem; 'BTSs')이라고 불릴수 있다. 이러한 경우, "기지국"이라는 단어는, 하나의 BSC(275) 및 적어도 하나의 BS(270)을 합하여 불릴 수도 있다. 기지국은, 또한 "셀 사이트"를 나타낼 수도 있다. 또는, 특정 BS(270)에 대한 복수의 섹터들 각각은, 복수의 셀 사이트로 불릴 수도 있다.

도 2에 도시된 바와 같이, 방송 송신부(Broadcasting Transmitter; 'BT')(295)는, 시스템 내에서 동작하는 단말기들(100)에게 방송 신호를 송신한다. 도 1에 도시된 방송수신 모듈(111)은, BT(295)에 의해 전송되는 방송 신호를 수신하기 위해 단말기(100) 내에 구비된다.

뿐만 아니라, 도 2에서는, 여러 개의 위성 위치 확인 시스템(Global Positioning System; 'GPS') 위성(300)을 도시한다. 상기 위성들(300)은, 복수의 단말기(100) 중 적어도 하나의 단말기의 위치를 파악하는 것을 돕는다. 도 2에서는 두 개의 위성이 도시되어 있지만, 유용한 위치 정보는, 두 개 이하 또는 이상의 위성들에 의해 획득될 수도 있다. 도 1에 도시된 위치정보 모듈(115)은, 원하는 위치 정보를 획득하기 위하여 위성들(300)과 협력한다. 여기에서는, GPS 추적 기술뿐만 아니라 위치를 추적할 수 있는 모든 기술들을 이용하여 위치를 추적할 수 있다. 또한, GPS 위성들(300) 중 적어도 하나는, 선택적으로 또는 추가로 위성 DMB 전송을 담당할 수도 있다.

무선 통신 시스템의 전형적인 동작 중, BS(270)은, 다양한 단말기들(100)로부터 역 링크 신호를 수신한다. 이때, 단말기들(100)은, 호를 연결 중이거나, 메시지를 송수신 중이거나 또는 다른 통신 동작을 수행하고 있다. 특정 기지국(270)에 의해 수신된 역 링크 신호들 각각은, 특정 기지국(270)에 의해 내에서 처리된다. 상기 처리 결과 생성된 데이터는, 연결된 BSC(275)로 송신된다. BSC(275)는, 기지국들(270) 간의 소프트 핸드오프(soft handoff)들의 조직화를 포함하여, 호 자원 할당 및 이동성 관리 기능을 제공한다. 또한, BSC(275)는, 상기 수신된 데이터를 MSC(280)으로 송신하고, MSC(280)은, PSTN(290)과의 연결을 위하여 추가적인 전송 서비스를 제공한다. 유사하게, PSTN(290)은 MSC(280)과 연결하고, MSC(280)은 BSCs(275)와 연결하고, BSCs(275)는 단말기들(100)로 순 링크 신호를 전송하도록 BS들(270)을 제어한다.

이동 단말기의 제어부(180)는 자신의 상태(예:에러발생, 특정사건(예: 알람, 스케쥴, 부재중 전화, 메시지, USB케이블연결 및 기타)이 발생했음을 수시로 보고하는데 이를 통지(Notification)이라고 한다. 상기 통지는 사용자에게 현 상태를 알리는 목적이외에 다음 동작에 대한 질문 및 작업지시를 받기 위함이다.

상기 통지(Notification)는 이동 단말기에서 발생되는 이벤트의 일종으로, 현재 시간, 배터리 잔량, 네트워크 상태등이 표시되는 인디케이션 영역에 통지 아이콘 형태로 표시된다. 상기 통지 아이콘은 사용자가 확인하기 전까지 계속 표시된다. 하지만, 상기 통지 아이콘의 상세 정보를 보기 위해서는 인디케이션 영역을 아래로 드래그하여 확장해야 하는 번거러움이 있었다.

이동 단말기에서 이벤트가 발생될 때 사용자가 화면에서 소정의 컨텐츠를 보고 있거나 어플리케이션을 실행하고 있을 수 있다. 만약, 사용자가 화면에서 소정의 컨텐츠를 보고 있거나 어플리케이션을 실행하는 상태에서 메시지를 확인하기 위해 메뉴를 표시하거나 또는 화면 중앙에 이벤트 발생을 알리는 메시지가 표시된다면 상기 컨텐츠 표시 또는 어플리케이션 실행에 방해를 받게 되는 단점이 있다.

따라서, 본 발명은 아이 트래킹(Eye Tracking)기능을 이용하여, 화면을 응시하는 눈의 위치, 즉 사용자의 시선 변동에 따라 이동 단말기에서 발생되는 이벤트의 표시(Indication) 위치를 가변함으로써 사용자가 화면상의 컨텐츠를 보면서 편리하게 이벤트 내용을 확인하고 그와 관련된 부가적인 동작을 수행할 수 있는 방안을 제안한다.

본 발명에 적용된 아이 트래킹(Eye Tracking)은 전면 카메라 및 아이 트래킹 센서에 의해 수행되며, 상기 아이 트래킹 센서는 도 1의 센싱부(140)내에 구비되어 화면을 응시하는 안구의 위치 및 안구의 움직임(시선)을 검출한다. 상기 검출된 안구의 움직임(시선)은 제어부(180)로 입력되어 이동 단말기의 각종 제어동작에 사용된다.

상기 이동 단말기에서 발생되는 이벤트는 문자 메시지 수신, 이동 단말기의 에러 발생 메시지, 예약기능 통지(예: 알람, 스케쥴) 및 전원 레벨 표시(베터리 전원 소진시)등과 같이 이동 단말기의 내부 및 외부에서 발생된 모든 이벤트를 포함한다. 특히 상기 이벤트는 발생시 사용자에게 표시(Indication)되는 이벤트이다.

상기 컨텐츠는 텍스트(e.g., 문자 메시지, 전자책), 사진, 영상(영화, 음악, 게임), 웹 페이지 및 기타 이동 단말기의 메뉴화면(e.g., 전화번호부등)을 포함한다.

상기 부가적인 동작은 저장, 전송, 메뉴검색등을 포함한다.

본 발명은 사용자의 시선 변동에 따라 이동 단말기에서 발생되는 이벤트를 화면의 적절한 위치에 표시할 때 현재 화면에 표시되는 컨텐츠가 동영상일 경우에는 해당 컨텐츠의 표시 또는 재생을 일시적으로 정지할 수 있다.

또한, 본 발명은 아이 트래킹(Eye Tracking)기능을 이용하여 눈의 깜박임을 특정 기능을 위한 '선택' 및 '선택 해제'를 위해 사용할 수 있다. 상기 '선택' 및 '선택 해제'는 눈 눈의 깜박임의 횟수에 의해 결정된다.

메시지 창 발생 및 표시

도 3a 및 도 3b는 본 발명에 따른 이동 단말기의 이벤트 표시방법의 일 실시예로서, 1개의 이벤트가 발생될 때 사용자의 시선에 따라 해당 이벤트를 처리하는 예이다. 특히 도 3a 및 도3b는 수신된 문자 메시지를 표시하는 예를 나타낸다.

도 3a에 도시된 바와같이, 사용자가 화면에 표시된 텍스트를 읽고 있는 도중에 메시지(e.g., 카카오톡 메시지)가 수신되면, 통지 아이콘 즉, 메시지 아이콘 (50)이 인디케이션 영역에 표시된다. 상기 텍스트는 예를들면 특정 웹사이트에 기재된 기사로 가정한다.

상기 메시지 아이콘(50)이 표시되면 아이 트래킹 센서는 사용자의 눈이 향하고 있는 화면상의 위치(시선)를 감지하고, 제어부(180)는 상기 아이 트래킹 센서에서 감지된 사용자 시선에 따라 메시지 창(51)의 표시 위치를 결정한다.

상기 메시지 창(51)의 표시위치는 화면 중앙의 가로축을 중심으로 사용자의 시선과 반대 방향으로 결정된다. 바림직하게 상기 메시지 창(51)은 사용자의 시선과 가정 먼 위치에 표시된다. 예를들어, 사용자의 시선이 텍스트의 상단에 위치하면, 상기 메시지 창(51)은 하단에 표시된다.

상기 메시지 창(51)의 표시 위치(지점)가 결정되면 제어부(180)는 해당 위치에 소정 크기의 메시지 창(51)을 투명하게 표시하고, 사용자의 시선이 투명한 메시지 창(51)으로 이동되면(사용자가 투명한 메시지 창을 바라보면) 메시지 창(51)을 진하게 표시한다.

또한, 제어부(180)는 사용자가 읽고 있던 텍스트의 일정 부분(52)은 사용자가 다시 읽을 경우 찾기 편하도록 다른 부분과 구별하여 강조 표시한다. 상기 일정 부분은 텍스트의 범위를 지정하는 것으로 메뉴에서 임의로 설정 가능하며, 상기 강조 표시는 하이라이트, 색 표시 및 볼드(bold)를 포함한다. 상기 강조 표시(52)는 사용자의 시선이 변경될 때 수행된다. 상기 메시지 창(51)의 크기 및 위치는 터치 & 드래그 동작에 의해 조정될 수 있다.

따라서, 사용자는 메시지 창(51)에 표시된 메시지의 내용을 확인할 수 있으며, 상기 메시지 창(51)을 선택하여 메시지 수신 이력을 확인하거나 응답 메시지를 작성할 수 있다. 상기 제어부(180)는 사용자가 메시지 창(51)을 직접 터치하거나 또는 아이 트래킹 센서가 눈의 깜박임을 감지한 경우 메시지 창(51)이 선택된 것으로 간주하고, 예를들면 응답 메시지 작성을 위한 입력키 및 그와 관련된 메뉴(수정, 삭제, 전송)를 표시한다.

도 3b는 사용자가 텍스트의 하단부분을 읽고 있어 시선이 화면의 하단에 위치한 상태에서 메시지가 수신될 경우 중앙을 중심으로 상단부에 메시지 창(51)을 표시하는 예이다. 상기 도 3b의 동작은 메시지 창(51)이 화면 상단부에 표시되는 점을 제외하면 그 상세 동작이 도 3a와 동일하다.

메시지 창 표시 해제

도 4a 내지 도 4d는 메시지 창(51)의 표시를 해제하는 다양한 실시예이다.

일 실시예로서, 상기 화면에 표시되고 있는 메시지 창(51)의 표시는 수신 메시지 확인 또는 응담 메시지 전송시에 해제된다. 도 4a에 도시된 바와같이, 아이 트래킹 센서에서 감지된 시선을 근거로 사용자(B)가 사용자(A)로부터 온 메시지를 다 읽은 것을 확인하거나 또는 사용자(B)가 응답 메시지를 전송한 경우, 제어부(180)는 현재 화면에 표시되고 있는 메시지 창(51)의 표시를 해제한다(닫는다). 이때, 상기 강조 표시(52)는 사용자의 시선이 이전에 읽던 부분으로 이동되면 자동 해제된다.

다른 실시예로서, 사용자는 손가락을 이용하여 메시지 창(51)을 닫을 수 있다. 도 4b에 도시된 바와같이, 사용자가 손가락을 메시지 창(51)의 상단부에 터치한 상태에서 아래 방향으로 드래그하면, 제어부(180)는 현재 화면에 표시되고 있는 메시지 창(51)의 표시를 해제한다.

또 다른 실시예로서, 상기 메시지 창(51)의 표시는 사용자의 시선 변경에 따라 해제할 수 있다. 도 4c에 도시된 바와같이, 사용자의 시선이 메시지 창(51)에서 강조 표시(52) 부분으로 이동되면, 제어부(180)는 강조 표시(52)를 해제하면서 화면의 일측에 표시된 메시지 창(51)의 표시 역시 해제한다.

또 다른 실시예로서, 상기 상기 메시지 창(51)의 표시는 시선의 유지시간에 따라 해제될 수 있다. 도 4d에 도시된 바와같이, 사용자의 시선이 메시지 창(51)에 머무르고 있는 상태에서 사용자가 화면의 다른 곳(간조 표시부분 제외)을 보거나 회면밖을 보면, 제어부 (180)는 상기 상ㅌ애가 소정 시간(임계시간)이상 지속될 경우 현재 화면에 표시되는 메시지 창(51)의 표시를 해제한다.

상기 각 실시예에서 메시지 창(51)의 표시 해제는 바로 해제할 수도 있고, 투명한 상태를 거친 후 해제될 수도 있다. 상기 도 4a 내지 도 4d에 기재된 동작은 메시지 창 표시 해제 조건으로 설정될 수 있다.

상술한 바와같이, 사용자가 화면에 표시된 소정의 컨텐츠를 보고 있는 상태에서 소정의 이벤트가 발생되면 사용자의 시선과 반대 방향에 해당 이벤트를 표시한 후 시선에 따라 처리함으로써 사용자는 편리하게 이벤트 내용을 확인하거나 그와 관련된 동작을 수행할 수 있다.

도 5는 본 발명의 실시예에 따른 이동 단말기의 이벤트 표시방법의 일 예로서, 사진을 보고 있는 도중에 수신된 문자 메시지를 표시하는 예이다.

도 5에 도시된 바와같이, 사용자가 사진을 보고 있는 도중에 문자 메시지가 수신되면, 제어부(180)는 도 3a와 동일한 방법을 수행하여, 먼저 사용자의 시선이 이동되지 않은 상태에서는 시선과 반대되는 방향 즉, 화면 하단부에 메시지 창(51)을 투명하게 표시하고, 사용자의 시선이 상기 투명한 메시지 창(51)으로 이동되면 투명한 메시지 창(51)을 진하게 표시한 후 문자 메시지를 표시한다. 상기 사용자의 시선이 메시지 창(51)으로 이동되면 이전에 보고 있던 사진은 강조 표시(52)하여 사용자가 확인할 수 있도록 한다.

도 5에서는 사진을 예로들어 설명하였지만, 화면에 다른 컨텐츠가 표시될 경우에도 동일하게 적용된다. 상기 컨텐츠는 텍스트(e.g., 문자 메시지, 전자책), 사진, 영상(영화, 음악, 게임), 웹 페이지 및 기타 이동 단말기의 메뉴화면(e.g., 전화번호부등)을 포함한다.

특히 화면에 동영상이 표시될 때 메시지가 수신되면 제어부(180)는 시선과 반대방향에 메시지 창(51)을 표시하는데 상기 동영상에 자막이 포함된 경우에는 자막이 가려지지 않도록 메시지 창(51)을 표시한다. 다른 실시예로서, 동영상 재생시 메시지가 수신되면 제어부(180)는 동영상 재생을 일시 중단하고, 시선과 반대방향에 메시지 창(51)을 표시할 수 있으며, 메시지 확인 또는 응답이 완료되면 동영상 재생을 재개할 수도 있다.

따라서, 상기 통지 메시지의 표시를 도 3a 및 도 3b에 기술한 방법으로 표시 및 확인할 수 있으며, 특히 예약기능(알람, 스케쥴)과 같이 특정 시간에 사용자에게 알림 메시지를 표시하는 경우에는 상기 알림 메시지를 중앙에 표시하지 않고, 앞에서 설명한 것 처럼 사용자의 시선과 반대되는 방향에 표시하도록 한다.

도 6은 본 발명에서 사용자의 시선에 따라 예약 기능을 알리는 메시지를 표시하는 예이다.

도 6에 도시된 바와같이, 사용자가 텍스트를 읽고 있는 상태에서 스케쥴 통시시간이 되면, 제어부(180)는 사용자의 현재 화면상의 사용자 시선을 확인한 후 사용자의 시선과 반대 방향에 알림창(53)을 표시하여, 사용자에게 스케쥴 내용 " 5시에 미팅이 있습니다"라는 메시지를 출력한다.

도 7a 및 도 7b는 본 발명에 따른 이동 단말기의 이벤트 표시방법의 다른 실시예로서, 2개 이상의 이벤트가 발생될 때 사용자의 시선에 따라 해당 이벤트를 처리하는 예이다.

도 7a에 도시된 바와같이, 사용자가 화면에 표시된 텍스트를 읽고 있는 도중에 2개 이상의 이벤트가 발생되면, 그 이벤트에 해당하는 통지 아이콘이 인디케이션 영역에 표시된다. 본 발명은 설명의 편의를 위하여 인스턴트 메신저(예:카카오톡)를 통한 메시지와 일반 메시지가 수신되며, 텍스트는 특정 웹사이트에 기재된 기사로 가정한다.

카카오톡 메시지와 일반 메시지가 수신되면 인디케이션 영역에 카카오톡 메시지를 나타내는 아이콘(50)과 일반 메시지를 나타내는 아이콘(54)가 표시된다.

상기 두개의 메시지 아이콘(50, 54)이 표시되면 아이 트래킹 센서는 사용자의 눈이 향하고 있는 화면상의 위치(시선)를 감지하고, 제어부(180)는 아이 트래킹 센서에서 감지된 사용자 시선과 반대되는 방향 즉, 화면의 하단부에 메시지 아이콘 (50, 54)을 확대하여 표시한다.

이 상태에서 사용자가 시선을 변경하여 메시지 아이콘(50)을 바라보면, 제어부(180)는 이전에 바라보던 컨텐츠의 소정 부분에 강조 표시(52)를 한다. 이후 바라보는 시간(응시시간)이 기 설정된 임계시간을 초과하면 제어부(180)는 상기 메시지 아이콘(50)이 선택된 것으로 간주하고, 상기 화면의 하단부에 메시지 창(51)을 표시하여 메시지 아이콘(50)의 내용을 표시한다. 다른 실시예로서, 상기 메시지 아이콘(50)은 사용자가 직접 터치하거나 또는 바라보는 상태에서 눈의 깜박임에 의해 선택할 수도 있다.

사용자는 메시지 창(51)에 표시된 메시지의 내용을 확인할 수 있으며, 상기 메시지 창(51)을 선택하여 메시지 수신 이력을 확인하거나 응답 메시지를 작성할 수 있다. 사용자가 메시지 창(51)의 메시지 내용을 확인하거나 응답 메시지의 전송을 완료하면, 제어부(180)는 메시지 창(51)의 표시를 해제한다.

상기 메시지 창(51)의 표시가 해제되면 도 7b에 도시된 바와같이 화면에는 선택되지 않은 메시지 아이콘(54)만 표시된다. 동일한 방법으로 사용자가 메시지 아이콘(54)을 임계시간동안 응시하면 제어부(180)는 해당 메시지 아이콘(54)이 선택된 것으로 간주하고, 상기 화면의 하단부에 다른 메시지 창(51)을 표시하여 메시지 아이콘(54)의 내용을 표시한다. 다른 실시예로서, 상기 메시지 아이콘(54)은 사용자가 직접 터치하거나 또는 바라보는 상태에서 눈의 깜박임에 의해 선택할 수도 있다.

상기 메시지 창(51)에 표시된 메시지의 내용을 확인한 후 사용자는 도 4a 내지 도 4 d에 기재된 방법에 따라 상기 메시지 창(51)의 표시를 해제한다.

다른 실시예로서 본 발명은 2개이상의 이벤트가 발생될 때 발생된 순서대로 메시지 창(51)을 사용자의 시선에 따라 표시할 수도 있다. 이 경우 상기 메시지 창(51)의 생성 및 해제는 도 4a 내지 도 4 d 및 도 7a에 기재된 방법과 동일하기 때문에 상세한 설명은 생략하기로 한다.

도 8은 본 발명의 실시예에 따른 아이 트래킹을 이용한 이벤트 표시방법을 나타낸 순서도이다.

도 8에 도시된 바와같이, 사용자는 메뉴에서 아이 트래킹 기능을 선택한 후 화면에 보고자 하는 컨텐츠를 표시한다(S10, S11). 상기 컨텐츠는 텍스트, 사진, 영상(영화, 음악 및 키다 촬영영상, 및 웹 페이지를 포함한다. 상기 아이 트래킹 기능은 컨텐츠가 화면에 표시된 후에 선택될 수도 있기 때문에 상기 단계(S10), (S11)은 그 실행순서가 바뀌어도 상관없다.

상기 아이 트래팅 기능이 활성화되면 아이 트래킹 센서는 지속적으로 사용자의 눈이 향하고 있는 컨텐츠 화면상의 위치(시선)를 감지하고, 제어부(180)는 상기 트래킹 센서에서 감지된 시선에 따라 화면에 표시된 컨텐츠의 동작(예:페이지 넘김)을 제어한다(S12).

사용자가 화면에 표시된 컨텐츠를 바라보고 있는 상태에서 이벤트가 발생되면(S13), 제어부(180)는 발생된 이벤트가 하나인지 또는 하나 이상인지 확인한다 (S14). 상기 발생된 이벤트는 동시에 발생된 이벤트 또는 제어부(180)가 이벤트 발생을 체크하는 시간내에 발생된 이벤트이다.

확인결과 발생된 이벤트가 하나이면 제어부(180)는 이이 트래킹 센서에서 감지된 사용자의 시선에 근거하여 해당 이벤트의 내용을 표시하기 위한 창의 표시 위치를 결정한 후 그 결정된 위치에 바로 이벤트의 내용을 표시하기 위한 창(51)을 표시한다(S15). 상기 이벤트가 메시지 수신 이벤트이면 상기 창은 메시지 창이다.

상기 창(51)의 표시위치는 화면 중앙의 가로축을 중심으로 사용자의 시선과 반대 방향으로 결정된다. 바림직하게 상기 창(51)은 사용자의 시선과 가정 먼 위치에 표시된다. 예를들어, 사용자의 시선이 텍스트의 상단에 위치하면, 상기 창(51)은 하단에 표시된다.

상기 창(51)의 표시 위치(지점)가 결정되면 제어부(180)는 해당 위치에 소정 크기의 창(51)을 투명하게 표시하고, 사용자의 시선이 투명한 창(51)으로 이동되면 (사용자가 투명한 창을 바라보면) 해당 창(51)을 진하게 표시한다.

이후 제어부(180)는 창 표시 해제 조건이 만족되는지 체크하여(S16), 도 4a 내지 도 4d에 도시된 바와같이, 사용자가 상기 창(51)에 표시된 내용을 확인하거나 응답을 하거나 또는 다른 곳으로 시선을 이동하면, 제어부(180)는 창 표시 해제 조건이 만족된 것으로 간주하고, 상기 창(51)의 표시를 해제한다(S17).

도 9는 도 8에서 복수의 이벤트가 발생되는 경우 아이 트래킹을 이용한 이벤트 표시방법을 나타낸 순서도이다.

도 8에서, 단계(S14)의 확인결과 발생된 이벤트가 복수개이면 제어부(180)는 컨텐츠 화면에 모드 이벤트 아이콘을 표시한다. 사용자에 의해 특정 이벤트 아이콘이 선택되면 제어부(180)는 도 9에서와 같이, 감지된 사용자의 시선과 반대되는 방향에 상기 선택된 이벤트 아이콘을 표시하기 위한 창(51)을 표시한다.

제어부(180)는 창 표시 해제 조건이 만족되는지 체크하여(S21), 도 4a 내지 도 4d에 도시된 바와같이, 사용자가 상기 창(51)에 표시된 내용을 확인하거나 응답을 하거나 또는 다른 곳으로 시선을 이동하면, 제어부(180)는 창 표시 해제 조건이 만족된 것으로 간주하고, 상기 컨텐츠 화면에 선택되지 않은 나머지 이벤트 아이콘을 표시한다(S22)(도 7b).

만약 상기 선택되지 않은 이벤트 아이콘이 마지막 이벤트 아이콘이 아닌 경우 제어부(180)는 단계(S18) 이후의 동작을 수행하여 사용자 선택을 받고, 마지막 이벤트 아미콘인 경우는 도 9에서와 같이, 사용자의 시선과 반대되는 방향에 상기 선택된 이벤트 아이콘 또는 마지막 아이콘을 표시하기 위한 창(51)을 다시 표시한다(S23, S24).

이후 전술한 창 표시 해제 조건이 만족되면 제어부(180)는 상기 선택된 이벤트 아이콘 또는 마지막 아이콘을 표시하기 위한 창(51)의 표시를 해제하고 원래의 컨텐츠 화면으로 복귀한다(S25, S26).

상술한 바와같이, 본 발명은 사용자가 화면에서 컨텐츠를 보고 있는 상태에서 소정의 이벤트가 발생되면 사용자의 시선에 따라 해당 이벤트의 내용을 표시할 창의 위치를 결정한 후 해당 위치에 창을 표시하고, 사용자의 시선 변경에 따라 관련 동작을 수행함으로써 사용자는 아이 트래킹에 의해 편리하게 이벤트 내용을 확인하거나 그와 관련된 동작을 수행할 수 있다.

또한, 본 발명의 일 실시예에 의하면, 전술한 방법은, 프로그램이 기록된 매체에 컴퓨터가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 컴퓨터가 읽을 수 있는 매체는, 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 컴퓨터가 읽을 수 있는 매체의 예로는, ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장장치 등이 있으며, 또한 캐리어 웨이브(예를 들어, 인터넷을 통한 전송)의 형태로 구현되는 것도 포함한다. 또한, 상기 컴퓨터는, 단말기의 제어부를 포함할 수도 있다.

상기와 같이 설명된 이동 단말기 및 그의 이벤트 표시방법은 상기 설명된 실시예들의 구성과 방법이 한정되게 적용될 수 있는 것이 아니라, 상기 실시예들은 다양한 변형이 이루어질 수 있도록 각 실시예들의 전부 또는 일부가 선택적으로 조합되어 구성될 수도 있다.

110 : 무선통신부 111 : 방송수신모듈
112 : 이동통신모듈 113 : 무선인터넷모듈
140 : 센싱부 150 : 출력부
151 : 디스플레이부 160 : 메모리
180 : 제어부

Claims

컨텐츠를 표시하는 단계;
컨텐츠상의 사용자 시선을 감지하는 단계;
소정 이벤트가 발생되면 아이 트래킹 센서에서 감지된 사용자의 시선에 따라 해당 이벤트의 내용의 표시위치를 결정하는 단계; 및
상기 결정된 위치에 이벤트의 내용을 표시하기 위한 창을 표시하는 단계;를 포함하는 아이 트래킹을 이용한 이동 단말기의 이벤트 표시방법.
제1항에 있어서, 상기 컨텐츠는
텍스트, 사진, 동영상, 웹 페이지 및 이동 단말기의 메뉴화면을 포함하는 것을 특징으로 하는 아이 트래킹을 이용한 이동 단말기의 이벤트 표시방법.
제1항에 있어서, 상기 이벤트는
이동 단말기의 상태를 나타내는 통지 이벤트로서 에러발생, 알람, 스케쥴, 부재중 전화, 메시지 수신 및 USB케이블연결을 포함하는 것을 특징으로 하는 아이 트래킹을 이용한 이동 단말기의 이벤트 표시방법.
제1항에 있어서, 상기 이벤트의 내용을 표시하기 위한 창은
중앙의 가로축을 중심으로 사용자의 시선과 반대 방향에 표시되는 것을 특징으로 하는 아이 트래킹을 이용한 이동 단말기의 이벤트 표시방법.
제1항에 있어서, 상기 이벤트의 내용을 표시하기 위한 창은
사용자의 시선이 컨텐츠에 머무르면 투명상태로 표시되고, 사용자의 시선이 상기 투명상태의 창으로 이동되면 진하게 표시되는 것을 특징으로 하는 아이 트래킹을 이용한 이동 단말기의 이벤트 표시방법.
제1항에 있어서, 상기 창의 표시해제 조건을 체크하여 해당 조건이 만족되면 창의 표시를 해제하는 단계;를 더 포함하는 것을 특징으로 하는 아이 트래킹을 이용한 이동 단말기의 이벤트 표시방법.
제6항에 있어서, 상기 창의 표시해제 조건은
이벤트 내용 확인 완료, 이벤트 내용에 대한 응답 완료, 사용자 의한 창 닫힘 및 사용자의 시선 변경을 포함하는 것을 특징으로 하는 아이 트래킹을 이용한 이동 단말기의 이벤트 표시방법.
제1항에 있어서, 상기 소정 이벤트가 복수개인 경우는
사용자 선택에 따라 또는 발생 순서대로 각 이벤트의 내용을 표시하기 위한 창을 사용자의 시선에 따라 표시하는 것을 특징으로 하는 아이 트래킹을 이용한 이동 단말기의 이벤트 표시방법.
컨텐츠를 표시하는 디스플레이부;
컨텐츠상의 사용자 시선을 감지하는 아이 트래킹 센서; 및
이벤트가 발생되면 아이 트래킹 센서에서 감지된 사용자의 시선에 따라 해당 이벤트의 내용의 표시위치를 결정하여 해당 위치에 이벤트 내용을 표시하기 위한 창을 표시하는 제어부;를 포함하는 아이 트래킹 기능을 구비한 이동 단말기.
제9항에 있어서, 상기 컨텐츠는
텍스트, 사진, 동영상, 웹 페이지 및 이동 단말기의 메뉴화면을 포함하는 것을 특징으로 하는 아이 트래킹 기능을 구비한 이동 단말기.
제9항에 있어서, 상기 이벤트는
이동 단말기의 상태를 나타내는 통지 이벤트로서 에러발생, 알람, 스케쥴, 부재중 전화, 메시지 수신 및 USB케이블연결을 포함하는 것을 특징으로 하는 아이 트래킹 기능을 구비한 이동 단말기.
제9항에 있어서, 상기 제어부는
중앙의 가로축을 중심으로 사용자의 시선과 반대 방향에 창을 표시하는 것을 특징으로 하는 아이 트래킹 기능을 구비한 이동 단말기.
제9항에 있어서, 상기 제어부는
사용자의 시선이 컨텐츠에 머무르면 창을 투명상태로 표시하고, 사용자의 시선이 투명상태의 창으로 이동되면 진하게 표시하는 것을 특징으로 하는 아이 트래킹 기능을 구비한 이동 단말기.
제9항에 있어서, 상기 제어부는
창의 표시해제 조건을 체크하여 해당 조건이 만족되면 창의 표시를 해제하는 것을 특징으로 하는 아이 트래킹 기능을 구비한 이동 단말기.
제14항에 있어서, 상기 창의 표시해제 조건은
이벤트 내용 확인 완료, 이벤트 내용에 대한 응답 완료, 사용자 의한 창 닫힘 및 사용자의 시선 변경을 포함하는 것을 특징으로 하는 아이 트래킹 기능을 구비한 이동 단말기.
제9항에 있어서, 상기 제어부는
소정 이벤트가 복수개인 경우 사용자 선택에 따라 또는 발생 순서대로 각 이벤트의 내용을 표시하기 위한 창을 사용자의 시선에 따라 표시하는 것을 특징으로 하는 아이 트래킹 기능을 구비한 이동 단말기.