WO2019066323A1 - 전자 장치 및 그의 시선 정보를 이용한 컨텐트 실행 방법 - Google Patents

전자 장치 및 그의 시선 정보를 이용한 컨텐트 실행 방법 Download PDF

Info

Publication number
WO2019066323A1
WO2019066323A1 PCT/KR2018/010735 KR2018010735W WO2019066323A1 WO 2019066323 A1 WO2019066323 A1 WO 2019066323A1 KR 2018010735 W KR2018010735 W KR 2018010735W WO 2019066323 A1 WO2019066323 A1 WO 2019066323A1
Authority
WO
WIPO (PCT)
Prior art keywords
dynamic
content
display
sight
electronic device
Prior art date
Application number
PCT/KR2018/010735
Other languages
English (en)
French (fr)
Inventor
최승환
김현진
박다혜
이재영
장세이
황상웅
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to US16/652,089 priority Critical patent/US11334152B2/en
Publication of WO2019066323A1 publication Critical patent/WO2019066323A1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013—Eye tracking input arrangements
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41—Structure of client; Structure of client peripherals
    • H04N21/422—Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/4223—Cameras
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/016—Input arrangements with force or tactile feedback as computer generated output to the user
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04812—Interaction techniques based on cursor appearance or behaviour, e.g. being affected by the presence of displayed objects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04817—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance using icons
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/0482—Interaction with lists of selectable items, e.g. menus
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04842—Selection of displayed objects or displayed text elements
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41—Structure of client; Structure of client peripherals
    • H04N21/422—Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41—Structure of client; Structure of client peripherals
    • H04N21/422—Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/42201—Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS] biosensors, e.g. heat sensor for presence detection, EEG sensors or any limb activity sensors worn by the user
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/442—Monitoring of processes or resources, e.g. detecting the failure of a recording device, monitoring the downstream bandwidth, the number of times a movie has been viewed, the storage space available from the internal hard disk
    • H04N21/44213—Monitoring of end-user related data
    • H04N21/44218—Detecting physical presence or behaviour of the user, e.g. using sensors to detect if the user is leaving the room or changes his face expression during a TV program
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47—End-user applications
    • H04N21/482—End-user interface for program selection
    • H04N21/4821—End-user interface for program selection using a grid, e.g. sorted out by channel and broadcast time

Abstract

본 발명의 다양한 실시예들은 전자 장치 및 그의 시선 정보를 이용한 컨텐트 실행 방법에 관한 것으로, 상기 전자 장치는 디스플레이; 시선 추적 모듈; 적어도 하나의 명령을 저장하는 메모리; 및 상기 디스플레이, 상기 시선 추적 모듈, 및 상기 메모리와 작동적으로(operatively) 연결되는 적어도 하나의 프로세서를 포함하되, 상기 적어도 하나의 프로세서는, 상기 적어도 하나의 명령의 실행에 기반하여, 적어도 하나의 컨텐트를 표시하도록 상기 디스플레이를 제어하고, 상기 시선 추적 모듈을 통해 추적된 사용자의 시선 정보에 기초하여, 상기 적어도 하나의 컨텐트 중 사용자가 응시하는 하나의 컨텐트를 식별하고, 상기 식별된 컨텐트에 대한 시선 이동이 감지되는 것에 대응하여 상기 시선 이동에 따라 동적으로 변화되는 동적 UI(user interface)를 상기 디스플레이 상에 표시하고, 및 상기 사용자의 시선 이동 경로가 기 지정된 조건을 만족하는 것에 대응하여 상기 식별된 컨텐트를 실행하도록 설정될 수 있다. 그 밖의 다양한 실시예들이 가능하다.

Description

전자 장치 및 그의 시선 정보를 이용한 컨텐트 실행 방법
본 발명의 다양한 실시예들은 시선(sight-line) 정보를 이용하여 컨텐트를 실행하는 방법 및 그 전자 장치에 관한 것이다.
전자 장치들(예: 이동 단말기, 스마트 폰, 착용형(wearable) 전자 장치 등)은 다양한 기능을 제공할 수 있다. 예를 들어, 스마트 폰은 기본적인 음성 통신 기능에 추가적으로, 근거리 무선 통신(예: 블루투스(bluetooth), 와이파이(wireless fidelity), NFC (near field communication) 등), 이동 통신(3G(generation), 4G, 5G 등), 음악 또는 동영상 재생 기능, 촬영 기능, 네비게이션 기능, 메신저 기능 등을 제공할 수 있다.
한편, 상기 전자 장치들은 다양한 입력 인터페이스를 포함할 수 있다. 예를 들어, 전자 장치들은 마우스(mouse), 트렉 볼(track ball), 키보드(keyboard), 버튼 키, 터치 스크린(touch screen) 및/또는 전자 펜 등의 입력 장치를 포함할 수 있다.
일반적으로, 전자 장치들은 사용자의 다양한 입력에 따라 컨텐트를 실행할 수 있다. 예를 들어, 전자 장치들은 컨텐트가 마우스를 통해 더블 클릭되거나, 터치 도구(예: 손가락, 스타일러스, 전자 펜 등)를 통해 터치되는 경우 해당 컨텐츠를 실행할 수 있다.
최근에는 사용자의 시선을 인식할 수 있는 시선 추적 기능을 가지는 전자 장치들이 제공되고 있다. 상기 시선 추적 기능을 가지는 전자 장치는 시선 정보를 이용하여 다양한 기능을 제공하고 있다. 예를 들어, 상기 전자 장치는 사용자가 화면을 바라보고 있는 동안 화면을 오프하지 않거나, 사용자가 아이콘을 일정 시간 이상 응시하는 경우 해당 컨텐트를 실행할 수 있다.
하지만, 종래의 시선 정보를 이용한 컨텐트 실행 방법은 실행하고자 하는 컨텐트(예: 아이콘, 썸네일 이미지 등)를 지정된 시간(예: 2초)동안 응시해야만 하며, 실행이 완료되기 전에 시선을 다른 곳으로 이동할 수 없다는 불편함이 존재한다. 또한, 종래의 시선 정보를 이용한 컨텐트 실행 방법은 사용자가 실행하고자 하는 의도없이 단순히 컨텐트를 바로보고 있는 경우에도 지정된 시간이 경과하면 컨텐트가 실행되는 불편함이 존재한다.
상술한 문제점들을 해결하기 위한 본 발명의 다양한 실시예들은 시선 정보만을 이용하여 컨텐트를 빠르고 효율적으로 실행할 수 있는 전자 장치 및 그의 시선 정보를 이용한 컨텐트 실행 방법을 제공할 수 있다.
본 발명의 다양한 실시예들에 따르면, 전자 장치는, 디스플레이; 시선 추적 모듈; 적어도 하나의 명령을 저장하는 메모리; 및 상기 디스플레이, 상기 시선 추적 모듈 및 상기 메모리와 작동적으로(operatively) 연결되는 적어도 하나의 프로세서를 포함하되, 상기 적어도 하나의 프로세서는, 상기 적어도 하나의 명령의 실행에 기반하여, 적어도 하나의 컨텐트를 표시하도록 상기 디스플레이를 제어하고, 상기 시선 추적 모듈을 통해 추적된 사용자의 시선 정보에 기초하여, 상기 적어도 하나의 컨텐트 중 사용자가 응시하는 하나의 컨텐트를 식별하고, 상기 식별된 컨텐트에 대한 시선 이동이 감지되는 것에 대응하여 상기 시선 이동에 따라 동적으로 변화되는 동적 UI(user interface)를 상기 디스플레이 상에 표시하고, 및 상기 사용자의 시선 이동 경로가 기 지정된 조건을 만족하는 것에 대응하여 상기 식별된 컨텐트를 실행하도록 설정될 수 있다.
본 발명의 다양한 실시예들에 따르면, 전자 장치의 컨텐트 실행 방법은, 적어도 하나의 컨텐트를 디스플레이 상에 표시하는 동작; 상기 적어도 하나의 컨텐트 중 사용자가 응시하는 하나의 컨텐트를 식별하는 동작; 상기 식별된 컨텐트에 대한 사용자의 시선 이동이 감지되는 것에 대응하여 상기 시선 이동에 따라 동적으로 변화되는 동적 UI(user interface)를 상기 디스플레이 상에 표시하는 동작; 및 상기 사용자의 시선 이동 경로가 기 지정된 조건을 만족하는 것에 대응하여 상기 식별된 컨텐트를 실행하는 동작을 포함할 수 있다.
본 발명의 다양한 실시예들은 시선 정보를 이용하여 컨텐트의 실행을 효율적으로 제어할 수 있다. 예를 들어, 본 발명의 다양한 실시예들은 사용자가 시선을 빠르게 이동하거나, 느리게 이동하여 컨텐트의 실행 속도를 제어할 수 있다.
또한, 본 발명의 다양한 실시예들은 시선이 일시적으로 이탈하더라도 실행 명령을 바로 취소하지 않아, 사용자의 의도와 무관하게 일시적으로 시선의 이탈되었을 때 컨텐트 실행이 취소되는 불편함을 방지할 수 있다.
또한, 본 발명의 다양한 실시예들은 시선 정보만을 이용하여 컨텐트를 실행할 수 있어 별도의 입력 장치를 필요로 하지 않는다.
또한, 본 발명의 다양한 실시예들은 시선의 이동을 통해 컨텐트를 실행함에 따라, 실행 의도없이 단순히 컨텐트를 응시하는 경우 컨텐트가 실행되는 종래의 불편함을 해소할 수 있다.
또한, 본 발명의 다양한 실시예들은 시선의 이동 방향에 따라 다른 기능을 수행할 수 있어, 컨텐트와 관련된 다양한 기능을 용이하게 실행할 수 있다.
도 1은 다양한 실시예들에 따른, 네트워크 환경 내의 전자 장치의 블록도 이다.
도 2는 본 발명의 한 실시예에 따른 전자 장치의 구성을 도시하는 블록도 이다.
도 3은 본 발명의 한 실시예에 따른 전자 장치의 시선 정보를 이용한 컨텐트 실행 방법을 설명하는 순서도이다.
도 4a 내지 도 4e는 본 발명의 한 실시예에 따른 전자 장치의 시선 이동에 따른 동적 UI의 변화를 설명하는 도면이다.
도 5는 본 발명의 한 실시예에 따른 전자 장치의 시선 정보를 이용한 컨텐트 실행 방법을 설명하는 순서도이다.
도 6a 및 도 6b는 본 발명의 한 실시예에 따른 컨텐트의 실행 대기 상태를 알리는 알림 UI를 표시 위치를 설명하는 도면이다.
도 6c는 본 발명의 한 실시예에 따른 전자 장치의 시선 이동에 따른 동적 UI의 변화를 설명하는 도면이다.
도 7a 내지 7h는 본 발명의 한 실시예에 따른 전자 장치의 시선 정보를 이용하여 파일을 실행하는 예시도이다.
도 8a 내지 도 8f는 본 발명의 한 실시예에 따른 전자 장치의 시선 정보를 이용하여 이미지를 실행하는 예시도이다.
도 9a 내지 도 9c는 본 발명의 한 실시예에 따른 전자 장치의 시선의 방향 정보를 이용하여 어플리케이션을 실행하는 예시도이다.
도 10a 내지 도 10g는 본 발명의 한 실시예에 따른 3차원 공간에서 시선 정보를 이용하여 컨텐트를 실행하는 예시도이다.
이하, 첨부된 도면을 참조하여 본 발명의 다양한 실시예들을 설명한다. 본 문서는 특정 실시예들이 도면에 예시되고 관련된 상세한 설명이 기재되어 있으나, 이는 본 발명의 다양한 실시예들을 특정한 형태로 한정하려는 것이 아니다. 예를 들어, 본 발명의 실시예들은 다양하게 변경될 수 있다는 것은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에게 자명한 것이다.
도 1은, 다양한 실시예들에 따른, 네트워크 환경(100) 내의 전자 장치(101)의 블럭도이다. 도 1을 참조하면, 네트워크 환경(100)에서 전자 장치(101)는 제 1 네트워크(198)(예: 근거리 무선 통신)를 통하여 전자 장치(102)와 통신하거나, 또는 제 2 네트워크(199)(예: 원거리 무선 통신)를 통하여 전자 장치(104) 또는 서버(108)와 통신할 수 있다. 일실시예에 따르면, 전자 장치(101)는 서버(108)를 통하여 전자 장치(104)와 통신할 수 있다. 일실시예에 따르면, 전자 장치(101)는 프로세서(120), 메모리(130), 입력 장치(150), 음향 출력 장치(155), 표시 장치(160), 오디오 모듈(170), 센서 모듈(176), 인터페이스(177), 햅틱 모듈(179), 카메라 모듈(180), 전력 관리 모듈(188), 배터리(189), 통신 모듈(190), 가입자 식별 모듈(196), 및 안테나 모듈(197)을 포함할 수 있다. 어떤 실시예에서는, 전자 장치(101)에는, 이 구성요소들 중 적어도 하나(예: 표시 장치(160) 또는 카메라 모듈(180))가 생략되거나 다른 구성 요소가 추가될 수 있다. 어떤 실시예에서는, 예를 들면, 표시 장치(160)(예: 디스플레이)에 임베디드된 센서 모듈(176)(예: 지문 센서, 홍채 센서, 또는 조도 센서)의 경우와 같이, 일부의 구성요소들이 통합되어 구현될 수 있다.
프로세서(120)는, 예를 들면, 소프트웨어(예: 프로그램(140))를 구동하여 프로세서(120)에 연결된 전자 장치(101)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)을 제어할 수 있고, 다양한 데이터 처리 및 연산을 수행할 수 있다. 프로세서(120)는 다른 구성요소(예: 센서 모듈(176) 또는 통신 모듈(190))로부터 수신된 명령 또는 데이터를 휘발성 메모리(132)에 로드하여 처리하고, 결과 데이터를 비휘발성 메모리(134)에 저장할 수 있다. 일실시예에 따르면, 프로세서(120)는 메인 프로세서(121)(예: 중앙 처리 장치 또는 어플리케이션 프로세서), 및 이와는 독립적으로 운영되고, 추가적으로 또는 대체적으로, 메인 프로세서(121)보다 저전력을 사용하거나, 또는 지정된 기능에 특화된 보조 프로세서(123)(예: 그래픽 처리 장치, 이미지 시그널 프로세서, 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다. 여기서, 보조 프로세서(123)는 메인 프로세서(121)와 별개로 또는 임베디드되어 운영될 수 있다.
이런 경우, 보조 프로세서(123)는, 예를 들면, 메인 프로세서(121)가 인액티브(예: 슬립) 상태에 있는 동안 메인 프로세서(121)를 대신하여, 또는 메인 프로세서(121)가 액티브(예: 어플리케이션 수행) 상태에 있는 동안 메인 프로세서(121)와 함께, 전자 장치(101)의 구성요소들 중 적어도 하나의 구성요소(예: 표시 장치(160), 센서 모듈(176), 또는 통신 모듈(190))와 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일실시예에 따르면, 보조 프로세서(123)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성 요소(예: 카메라 모듈(180) 또는 통신 모듈(190))의 일부 구성 요소로서 구현될 수 있다.
메모리(130)는, 전자 장치(101)의 적어도 하나의 구성요소(예: 프로세서(120) 또는 센서모듈(176))에 의해 사용되는 다양한 데이터, 예를 들어, 소프트웨어(예: 프로그램(140)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 저장할 수 있다. 메모리(130)는, 휘발성 메모리(132) 또는 비휘발성 메모리(134)를 포함할 수 있다.
프로그램(140)은 메모리(130)에 저장되는 소프트웨어로서, 예를 들면, 운영 체제(142), 미들 웨어(144) 또는 어플리케이션(146)을 포함할 수 있다.
입력 장치(150)는, 전자 장치(101)의 구성요소(예: 프로세서(120))에 사용될 명령 또는 데이터를 전자 장치(101)의 외부(예: 사용자)로부터 수신하기 위한 장치로서, 예를 들면, 마이크, 마우스, 또는 키보드를 포함할 수 있다.
음향 출력 장치(155)는 음향 신호를 전자 장치(101)의 외부로 출력하기 위한 장치로서, 예를 들면, 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용되는 스피커와 전화 수신 전용으로 사용되는 리시버를 포함할 수 있다. 일실시예에 따르면, 리시버는 스피커와 일체 또는 별도로 형성될 수 있다.
표시 장치(160)는 전자 장치(101)의 사용자에게 정보를 시각적으로 제공하기 위한 장치로서, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일실시예에 따르면, 표시 장치(160)는 터치 회로(touch circuitry) 또는 터치에 대한 압력의 세기를 측정할 수 있는 압력 센서를 포함할 수 있다.
오디오 모듈(170)은 소리와 전기 신호를 쌍방향으로 변환시킬 수 있다. 일실시예에 따르면, 오디오 모듈(170)은, 입력 장치(150)를 통해 소리를 획득하거나, 음향 출력 장치(155), 또는 전자 장치(101)와 유선 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(102)(예: 스피커 또는 헤드폰))를 통해 소리를 출력할 수 있다.
센서 모듈(176)은 전자 장치(101)의 내부의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 센서 모듈(176)은, 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서를 포함할 수 있다.
인터페이스(177)는 외부 전자 장치(예: 전자 장치(102))와 유선 또는 무선으로 연결할 수 있는 지정된 프로토콜을 지원할 수 있다. 일실시예에 따르면, 인터페이스(177)는 HDMI(high definition multimedia interface), USB(universal serial bus) 인터페이스, SD카드 인터페이스, 또는 오디오 인터페이스를 포함할 수 있다.
연결 단자(178)는 전자 장치(101)와 외부 전자 장치(예: 전자 장치(102))를 물리적으로 연결시킬 수 있는 커넥터, 예를 들면, HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 또는 오디오 커넥터(예: 헤드폰 커넥터)를 포함할 수 있다.
햅틱 모듈(179)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다. 햅틱 모듈(179)은, 예를 들면, 모터, 압전 소자, 또는 전기 자극 장치를 포함할 수 있다.
카메라 모듈(180)은 정지 영상 및 동영상을 촬영할 수 있다. 일실시예에 따르면, 카메라 모듈(180)은 하나 이상의 렌즈, 이미지 센서, 이미지 시그널 프로세서, 또는 플래시를 포함할 수 있다.
전력 관리 모듈(188)은 전자 장치(101)에 공급되는 전력을 관리하기 위한 모듈로서, 예를 들면, PMIC(power management integrated circuit)의 적어도 일부로서 구성될 수 있다.
배터리(189)는 전자 장치(101)의 적어도 하나의 구성 요소에 전력을 공급하기 위한 장치로서, 예를 들면, 재충전 불가능한 1차 전지, 재충전 가능한 2차 전지 또는 연료 전지를 포함할 수 있다.
통신 모듈(190)은 전자 장치(101)와 외부 전자 장치(예: 전자 장치(102), 전자 장치(104), 또는 서버(108))간의 유선 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(190)은 프로세서(120)(예: 어플리케이션 프로세서)와 독립적으로 운영되는, 유선 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일실시예에 따르면, 통신 모듈(190)은 무선 통신 모듈(192)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(194)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함하고, 그 중 해당하는 통신 모듈을 이용하여 제 1 네트워크(198)(예: 블루투스, WiFi direct 또는 IrDA(infrared data association) 같은 근거리 통신 네트워크) 또는 제 2 네트워크(199)(예: 셀룰러 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN)와 같은 원거리 통신 네트워크)를 통하여 외부 전자 장치와 통신할 수 있다. 상술한 여러 종류의 통신 모듈(190)은 하나의 칩으로 구현되거나 또는 각각 별도의 칩으로 구현될 수 있다.
일실시예에 따르면, 무선 통신 모듈(192)은 가입자 식별 모듈(196)에 저장된 사용자 정보를 이용하여 통신 네트워크 내에서 전자 장치(101)를 구별 및 인증할 수 있다.
안테나 모듈(197)은 신호 또는 전력을 외부로 송신하거나 외부로부터 수신하기 위한 하나 이상의 안테나들을 포함할 수 있다. 일시예에 따르면, 통신 모듈(190)(예: 무선 통신 모듈(192))은 통신 방식에 적합한 안테나를 통하여 신호를 외부 전자 장치로 송신하거나, 외부 전자 장치로부터 수신할 수 있다.
상기 구성요소들 중 일부 구성요소들은 주변 기기들간 통신 방식(예: 버스, GPIO(general purpose input/output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))를 통해 서로 연결되어 신호(예: 명령 또는 데이터)를 상호간에 교환할 수 있다.
일실시예에 따르면, 명령 또는 데이터는 제 2 네트워크(199)에 연결된 서버(108)를 통해서 전자 장치(101)와 외부의 전자 장치(104)간에 송신 또는 수신될 수 있다. 전자 장치(102, 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 일실시예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 다른 하나 또는 복수의 외부 전자 장치에서 실행될 수 있다. 일실시예에 따르면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로 또는 요청에 의하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 그와 연관된 적어도 일부 기능을 외부 전자 장치에게 요청할 수 있다. 상기 요청을 수신한 외부 전자 장치는 요청된 기능 또는 추가 기능을 실행하고, 그 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 수신된 결과를 그대로 또는 추가적으로 처리하여 요청된 기능이나 서비스를 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.
도 2는 본 발명의 한 실시예에 따른 전자 장치의 구성을 도시하는 블록도 이다.
상세한 설명에 앞서, 본 발명의 실시예에 따른 전자 장치(200)는 사용자의 시선을 추적할 수 있는 PC(personnel computer), TV(television) 등의 비휴대용 전자 장치, 스마트 폰(smart phone), 태블릿 PC(personal computer), 노트북(notebool) 등의 휴대형 전자 장치, 또는 사용자의 신체 일부에 착용 가능한 착용형 전자 장치(wearable electronic device)(예: 머리 착용형 전자 장치(head mounted device) 중 하나일 수 있다.
도 2를 참조하면, 본 발명의 한 실시예에 따른 전자 장치(200)는, 예를 들면, 도 1에 도시된 전자 장치(101)의 전체 또는 일부를 포함할 수 있다.
본 발명의 한 실시예에 따른 전자 장치(200)는 프로세서(210), 메모리(220), 디스플레이(230), 시선 추적 모듈(240) 및 통신 모듈(250)을 포함할 수 있다.
프로세서(210)(예: 도 1의 프로세서(120))는 전자 장치(200)의 전반적인 동작을 제어할 수 있다. 예를 들어, 상기 프로세서(210)는 전자 장치(200)의 각 구성 요소들을 제어할 수 있다. 상기 프로세서(210)는 메모리(220)에 저장된 명령(command) 또는 인스트럭션들(instructions)의 실행에 기반하여 각 구성 요소들을 제어하고, 다양한 기능들을 수행할 수 있다.
프로세서(210)는 중앙 처리 장치(central processing unit: CPU), 어플리케이션 프로세서(application processor: AP), 마이크로 컨트롤 유닛(micro control unit: MCU), 마이크로 프로세서 유닛(micro processor unit: MPU) 등으로 형성될 수 있다. 상기 프로세서(210)는 싱글 코어 프로세서(single core processor) 또는 멀티 코어 프로세서(multi-core processor)로 형성될 수 있다. 다른 실시예에에 따르면, 상기 프로세서(210)는 다수의 프로세서로 구성된 멀티 프로세서일 수 있다. 예를 들어, 상기 프로세서(210)는 어플리케이션 프로세서 및 통신 프로세서(communication processor: CP)를 포함할 수 있다.
본 발명의 한 실시예에 따른 프로세서(210)는 메모리(220), 디스플레이(230), 시선 추적 모듈(240) 및/또는 통신 모듈(250)과 기능적으로 연결될 수 있다. 본 발명의 한 실시예에 따른 프로세서(210)는 시선 정보를 이용한 컨텐트의 실행을 제어할 수 있다. 예를 들어, 프로세서(210)는 디스플레이(230)에 표시된 적어도 하나의 컨텐트들 중 사용자가 응시하는 하나의 컨텐트를 식별(또는 인식)하고, 상기 식별된 컨텐츠에 대한 시선 이동이 지정된 조건을 만족하는 경우 상기 식별된 컨텐트를 실행할 수 있다. 본 발명의 한 실시예에 따른 프로세서(210)는 시선 이동에 의해 컨텐트가 실행되기 전까지(예를 들어, 시선 이동을 컨텐트 실행 명령으로 인식하기 전까지) 식별된 컨텐츠의 실행 명령이 입력 중임을 사용자에게 시각적으로 피드백할 수 있다. 예를 들어, 상기 프로세서(210)는 시선 이동에 따라 시각적 속성(예: 크기, 투명도, 위치 등)이 동적으로 변하는 동적 UI(user interface)를 디스플레이(230) 상에 표시하도록 제어할 수 있다.
본 발명의 한 실시예에 따르면, 상기 프로세서(210)는 시선 이동에 따른 실행 명령의 취소 이벤트가 발생하는지 확인할 수 있다. 예를 들어, 상기 프로세서(210)는 사용자의 시선이 동적 UI로부터 지정된 거리 이상 이탈하는지 확인할 수 있다. 상기 시선이 이탈한 경우 상기 프로세서는 동적 UI를 역변화하여 실행 명령이 취소 중임을 시각적으로 피드백할 수 있다. 상기 실행 명령의 취소가 완료되기 전에 사용자의 시선이 동적 UI 내에 재진입하는 경우 상기 프로세서(210)는 사용자의 시선 이동에 의한 컨텐츠 실행 명령의 입력을 재개(resume)할 수 있다.
본 발명의 한 실시예에 따르면, 상기 프로세서(210)는 실행하고자 하는 컨텐트가 식별되는 경우 식별된 컨텐트를 하이라이트할 수 있으며, 실행 대기 상태임을 알리는 알림 UI를 상기 식별된 컨텐트의 주변에 표시할 수 있다. 또한, 상기 프로세서(210)는 시선 이동 경로를 가이드하는 가이드 UI를 표시할 수 있다. 이에 대한 상세한 설명은 도 3 내지 도 6c를 참조하여 후술하기로 한다.
상기 메모리(220)(예: 도 1의 메모리(130))는 전자 장치(200)의 하우징 내부에 위치하며, 프로세서(210)와 전기적(또는 작동적)으로 연결될 수 있다. 상기 메모리(220)는 다양한 프로그램들을 저장하며, 상기 다양한 프로그램들을 수행하는 중에 발생되는 데이터 또는 다운로드된 데이터 등을 저장할 수 있다. 상기 메모리(220)는 프로세서(210)를 동작시키기 위한 다양한 명령(command) 및/또는 인스트럭션(instruction)들을 저장할 수 있다. 상기 메모리(220)는 내장 메모리 또는 외장 메모리 중 적어도 어느 하나를 포함할 수 있다.
본 발명의 한 실시예에 따른 메모리(220)는 시선 정보를 이용한 컨텐트의 실행을 제어하는 다양한 프로그램 코드, 명령 또는 인스트럭션 등을 저장할 수 있다. 상기 메모리(220)는 시선 이동을 상기 식별된 컨텐트의 실행 명령으로 인식하기 위한 조건을 저장할 수 있다. 예를 들어, 상기 메모리(220)는 시선의 이동 방향, 이동 경로, 이동 속도, 이동 시간 등을 상기 조건으로 저장할 수 있다.
디스플레이(230)(예: 도 1의 표시 장치(160))는 전자 장치(200)의 하우징의 제 1 표면(예: 전면(front surface))을 통해 노출되며, 출력 기능을 제공할 수 있다. 예를 들어, 상기 디스플레이(230)는 액정 디스플레이(LCD), 발광 다이오드(LED) 디스플레이, 유기 발광 다이오드(OLED) 디스플레이, 또는 마이크로 전자기계 시스템 (MEMS) 디스플레이, 또는 전자 종이(electronic paper) 디스플레이로 형성될 수 있다. 어떤 실시예에 따르면, 상기 디스플레이(230)는 사용자 입력을 수신하기 위한 터치 패널을 포함하거나, 터치 패널과 일체형으로 형성될 수 있다. 상기 터치 패널은, 예를 들어, 손가락을 이용한 터치를 감지하는 제1패널(미도시), 전자 펜에 의한 입력을 인식하기 위한 제2패널(미도시), 및/또는 압력 감지를 위한 제3패널(미도시)을 포함할 수 있다. 본 발명의 다양한 실시예에 따른 디스플레이(230)는 시선 정보를 이용한 컨텐트 실행을 제어하는 다양한 유저 인터페이스(user interface)를 표시할 수 있다. 이에 대한 상세한 설명은 도 7a 내지 도 10g를 참조하여 후술하기로 한다.
시선 추적 모듈(240)은 사용자의 시선을 추적할 수 있다. 예를 들어, 상기 시선 추적 모듈(240)은 적외선 센서 또는 카메라 모듈(예: 도 1의 카메라 모듈(180))를 이용하여 시선을 추적할 수 있다. 어떤 실시예에 따르면, 시선 추적 모듈(240)은 헤드 트레킹을 통해 시선을 추적할 수 있다.
통신 모듈(250)(예: 도 1의 통신 모듈(190))은 전자 장치(200)의 하우징 내부에 위치하며, 유선 통신 및/또는 무선 통신을 수행할 수 있다. 예를 들어, 상기 통신 모듈(250)은 적어도 하나의 무선(예: 이동 통신, WiFi, LiFi, 또는 블루투스(Bluetooth) 등) 통신 회로 및/또는 적어도 하나의 유선(예: HDMI(high definition multimedia interface), DP(display port), 또는 USB(universal serial bus) 등) 통신 회로를 포함할 수 있다.
본 발명의 다양한 실시예에 따르면, 상기 통신 모듈(250)은 전자 장치(200)가 가상 현실(virtual reality) 장치인 경우 프로세서(210)의 제어 하에 적어도 하나의 외부 전자 장치로부터 3차원 가상 공간을 제공하기 위한 데이터를 수신할 수 있다.
한편, 상기 도 2에 도시하지 않았지만, 상기 전자 장치(200)는 설명된 구성 요소들 중 일부를 포함하지 않거나, 설명된 구성 요소들과 동등한 수준의 적어도 하나 이상의 다른 구성 요소(예: 디지털 방송 모듈, 지문 인식 모듈, 오디오 처리 모듈, 센서 모듈 등)를 더 포함할 수 있다.
도 3은 본 발명의 한 실시예에 따른 전자 장치의 시선 정보를 이용한 컨텐트 실행 방법을 설명하는 순서도이고, 도 4a 내지 도 4e는 본 발명의 한 실시예에 따른 전자 장치의 시선 이동에 따른 동적 UI의 변화를 설명하는 도면이다.
도 3 내지 도 4e를 참조하면, 본 발명의 한 실시예에 따른 전자 장치(예: 도 1의 전자 장치(101), 도 2의 전자 장치(200))의 프로세서(예: 도 1의 프로세서(120), 도 2의 프로세서(210))는, 301 동작에서, 적어도 하나의 컨텐트를 디스플레이(예: 도 1의 표시 장치(160), 도 2의 디스플레이(230)) 상에 표시할 수 있다.
본 발명의 한 실시예에 따른 프로세서는, 303 동작에서, 시선을 추적할 수 있다. 예를 들어, 상기 프로세서는 적외선 센서, 카메라, 헤드 추적 모듈 등과 같은 시선 추적 모듈(예: 시선 추적 모듈(240))을 통해 사용자의 시선을 추적할 수 있다.
본 발명의 한 실시예에 따른 프로세서는, 305 동작에서, 사용자가 응시하는 컨텐트를 식별할 수 있다. 예를 들어, 상기 프로세서는 사용자의 시선이 디스플레이에 표시된 적어도 하나의 컨텐트 중 일 컨텐트(이하, 특정 컨텐트)로 이동하는지 판단하고, 상기 시선이 상기 특정 컨텐트 상에 일정 시간(예: 0.5 초) 이상 머무르는지 판단할 수 있다.
본 발명의 한 실시예에 따른 프로세서는, 307 동작에서, 상기 식별된 컨텐트에 대한 시선 이동이 감지되는지 확인할 수 있다. 예를 들어, 상기 프로세서는 설정된 방향(예: 컨텐트의 우측 방향)으로 시선이 이동되는지 확인할 수 있다. 어떤 실시예에 따르면, 상기 프로세서는 설정된 위치(예: 컨텐트의 우측 모서리)로 시선이 이동되는지 확인할 수 있다. 어떤 실시예에 따르면, 상기 프로세서는 설정된 시간 내에 설정된 방향 및/또는 설정된 위치로 시선이 이동되는지 확인할 수 있다. 어떤 실시예에 따르면, 상기 프로세서는 설정된 범위 내의 속도로 설정된 방향 또는 설정된 위치로 시선이 이동되는지 확인할 수 있다. 어떤 실시예에 따르면, 상기 프로세서는 설정된 기준치 이하 및/또는 초과하는 속도로 설정된 방향 또는 설정된 위치로 시선이 이동되는지 확인할 수 있다.
상기 307 동작의 확인 결과 상기 시선 이동이 감지되지 않는 경우 상기 프로세서는, 상기 303 동작으로 진행하여 상술한 동작들을 반복할 수 있다. 반면에, 상기 307 동작의 확인 결과 상기 시선 이동이 감지되는 경우 상기 프로세서는, 309 동작에서, 시선 이동에 따라 동적으로 변화되는 동적 UI를 표시할 수 있다. 예를 들어, 상기 프로세서는, 상기 도 4a에 도시된 바와 같이, 컨텐트(411) 상에 위치하는 시선(41)이 우측으로 이동되는 경우 상기 컨텐트(411)의 우측에 동적 UI(412)를 표시하고, 시선(41)의 이동에 따라 동적 UI(412)의 시각적 속성을 변화시킬 수 있다. 예를 들어, 상기 프로세서는 시선(41)의 이동에 대응하여 동적 UI(412)를 가로 방향으로 확장하도록 디스플레이를 제어할 수 있다. 상기 도 4a에서는 동적 UI(412)가 우측 방향으로 동적으로 확장되는 막대 형태로 도시하였지만, 본 발명의 실시예들은 이에 한정되지 않는다. 예를 들어, 상기 동적 UI(412)는 원형, 타원형, 삼각형 등의 다양한 형태를 가지며, 시선의 이동에 대응하여 점차 커질 수 있다. 또는 상기 동적 UI(412)는 컨텐트의 썸네일 이미지 또는 미리보기 이미지일 수 있으며, 시선의 이동에 대응하여 썸네일 이미지 또는 미리보기 이미지가 점점 커질 수 있다. 어떤 실시예에 따르면, 상기 동적 UI(412)는 시선의 이동에 대응하여 투명도가 가변될 수 있다. 어떤 실시예에 따르면, 상기 전자 장치는 별도의 동적 UI를 표시하지 않고, 상기 식별된 컨텐트(또는 식별된 컨텐트에 대응하는 가상의 컨텐트)의 위치를 시선의 이동에 대응하여 이동시킬 수 있다.
본 발명의 한 실시예에 따른 프로세서는, 311 동작에서, 시선 이동이 설정된(또는 지정된) 조건을 만족하는지 확인할 수 있다. 상기 조건은 이동 방향, 이동 거리, 이동 속도 및/또는 이동 경로 등을 포함할 수 있다. 예를 들어, 상기 프로세서는 설정된 방향으로 설정된 거리 이상 이동한 경우 상기 조건을 만족하는 것으로 판단할 수 있다. 다른 실시예에 따르면, 상기 프로세서는, 도 4b에 도시된 바와 같이, 시선의 이동 경로가 설정된 경로(예: "ㄱ"자 모양의 경로)와 매칭되는 경우 상기 조건을 만족하는 것으로 판단할 수 있다.
상기 311 동작의 확인 결과, 상기 시선 이동이 상기 조건을 만족하는 경우 본 발명의 한 실시예에 따른 프로세서는, 313 동작에서, 컨텐트를 실행할 수 있다.
반면에, 상기 311 동작의 확인 결과, 상기 시선 이동이 상기 조건을 만족하지 못하는 경우 본 발명의 한 실시예에 따른 프로세서는, 315 동작에서, 실행 명령에 대한 취소 이벤트가 감지(또는 발생)되는지 확인할 수 있다. 예를 들어, 상기 프로세서는, 도 4c에 도시된 바와 같이, 사용자의 시선이 동적 UI(412)를 이탈하는지 확인할 수 있다.
상기 315 동작의 확인 결과, 상기 취소 이벤트가 감지되지 않은 경우 상기 프로세서는 상기 309 동작으로 복귀할 수 있다. 반면에, 상기 315 동작의 확인 결과 상기 취소 이벤트가 감지되는 경우 상기 프로세서는, 317 동작에서, 동적 UI를 역으로 변화할 수 있다. 이는 실행 명령의 입력이 취소 중임을 사용자에게 피드백하기 위함이다. 예를 들어, 상기 프로세서는, 도 4d에 도시된 바와 같이, 동적 UI(412)의 크기를 좌측 방향으로 감소시킬 수 있다. 상기 동적 UI(412)의 크기 감소는 설정된 속도로 수행될 수 있다.
본 발명의 한 실시예에 따른 프로세서는, 319 동작에서, 상기 동적 UI가 제거되기 이전에 시선이 동적 UI로 복귀하는지 확인할 수 있다. 상기 319 동작의 확인 결과, 상기 시선이 동적 UI로 복귀하는 경우 상기 프로세서는 상기 309 동작으로 복귀하여 상술한 동작을 반복할 수 있다. 예를 들어, 상기 프로세서는, 도 4e에 도시된 바와 같이, 동적 UI(412)가 완전히 제거되기 전에 시선이 복귀하는 경우 시선 이동에 따른 동적 UI(412)의 표시를 재개할 수 있다.
반면에, 상기 319 동작의 확인 결과, 상기 시선이 복귀하지 않는 경우 상기 프로세서는 상기 303 동작으로 복귀하여 상술한 동작들을 수행할 수 있다.
어떤 실시예에 따르면, 상기 전자 장치는 시선 정보를 이용하여 컨텐트를 실행하는 기능(이하, 시선 실행 기능)을 온/오프(ON/OFF)하는 메뉴를 제공할 수 있다. 상기 전자 장치는 상기 시선 실행 기능이 온(또는 활성화)된 경우 상술한 도 3의 방법을 수행할 수 있다.
도 5는 본 발명의 한 실시예에 따른 전자 장치의 시선 정보를 이용한 컨텐트 실행 방법을 설명하는 순서도이고, 도 6a 및 도 6b는 본 발명의 한 실시예에 따른 컨텐트의 실행 대기 상태를 알리는 알림 UI의 표시 위치를 설명하는 도면이며, 도 6c는 본 발명의 한 실시예에 따른 전자 장치의 시선 이동에 따른 동적 UI의 변화를 설명하는 도면이다.
도 5 내지 도 6c를 참조하면, 본 발명의 한 실시예에 따른 전자 장치(예: 도 1의 전자 장치(101), 도 2의 전자 장치(200))의 프로세서(예: 도 1의 프로세서(120), 도 2의 프로세서(210))는, 501 동작에서, 적어도 하나의 컨텐트를 디스플레이(예: 도 1의 표시 장치(160), 도 2의 디스플레이(230)) 상에 표시할 수 있다.
본 발명의 한 실시예에 따른 프로세서는, 503 동작에서, 시선을 추적할 수 있다. 예를 들어, 상기 프로세서는 적외선 센서, 카메라, 헤드 추적 모듈 등과 같은 시선 추적 모듈(예: 시선 추적 모듈(240))을 통해 사용자의 시선을 추적할 수 있다.
본 발명의 한 실시예에 따른 프로세서는, 505 동작에서, 사용자가 응시하는 컨텐트를 식별할 수 있다. 예를 들어, 상기 프로세서는 사용자의 시선이 디스플레이에 표시된 적어도 하나의 컨텐트 중 특정 컨텐트로 이동하는지 판단하고, 상기 시선이 일정 시간(예: 0.5 초)이상 상기 특정 컨텐트 상에 머무르는지 판단할 수 있다.
본 발명의 한 실시예에 따른 프로세서는, 507 동작에서, 상기 식별된 컨텐트가 실행 대기 상태임을 시각적으로 피드백하는 알림 UI를 표시할 수 있다. 예를 들어, 상기 프로세서는, 도 6a에 도시된 바와 같이, 컨텐트(611)의 주변에 알림 UI(613)를 표시할 수 있다. 상기 알림 UI(613)는 컨텐트(611)의 화면상의 상대적 위치(이하, 배치)에 따라 표시 위치가 달라질 수 있다. 예를 들어, 상기 컨텐트(611)가 화면의 좌측에 배치된 경우 알림 UI(613)는 컨텐트(611)의 우측에 표시될 수 있다. 상기 컨텐트(611)가 화면의 우측에 배치된 경우 알림 UI(613)는 컨텐트(611)의 좌측에 표시될 수 있다. 상기 컨텐트(611)가 화면의 중앙에 배치된 경우 알림 UI(613)는 컨텐트(611)를 둘러 싸도록 표시될 수 있다. 상기 컨텐트(611)가 화면의 상단에 배치된 경우 알림 UI(613)는 컨텐트(611)의 하단에 표시될 수 있다. 상기 컨텐트(611)가 화면의 하단에 배치된 경우 알림 UI(613)는 컨텐트(611)의 상단에 표시될 수 있다. 어떤 실시예에 따르면, 상기 알림 UI(613)는 3차원 적으로 표시될 수 있다. 예를 들어, 상기 알림 UI(613)는 컨텐트(611)의 뒤(또는 앞)에 표시될 수 있다.
어떤 실시예에 따르면, 상기 알림 UI(613)는 다수개 일 수 있다. 예를 들어, 도 6b에 도시된 바와 같이, 컨텐트(611)의 우측에 제1알림 UI(613a)가 표시되고, 컨텐트(611)의 좌측에 제 2 알림 UI(613b)가 표시될 수 있다. 이는 일예일 뿐, 본 발명의 실시예들 한정하지는 않는다. 예를 들어, 상기 제 1알림 UI(613a) 및 제2알림 UI(613b)는 컨텐트의 상측 및 하측에 각각 표시될 수 있다. 또는, 상기 제 1알림 UI(613a) 및 제2알림 UI(613b)는 컨텐트(611)의 좌측 및 상측에 각각 표시될 수 있다. 또는, 상기 제 1알림 UI(613a) 및 제2알림 UI(613b)는 컨텐트(611)의 상측에 가로 방향으로 나란히 배치될 수 있다. 또 다른 예에서는 3개 이상의 알림 UI가 컨텐트(611) 주변에 표시될 수 있다.
본 발명의 한 실시예에 따른 프로세서는, 509 동작에서, 상기 알림 UI로 시선이 이동되는지 확인할 수 있다.
상기 509 동작의 확인 결과 상기 알림 UI로 시선이 이동되지 않은 경우 상기 프로세서는, 상기 503 동작으로 진행하여 상술한 동작들을 반복할 수 있다. 반면에, 상기 509 동작의 확인 결과 상기 알림 UI로 시선이 이동된 것으로 판단되는 경우 상기 프로세서는, 511 동작에서, 시선 이동에 따라 동적으로 변하는 동적 UI를 표시할 수 있다. 예를 들어, 상기 전자 장치는 사용자의 시선(61)이 알림 UI(613)로 이동됨을 감지하는 경우, 도 6c에 도시된 바와 같이, 알림 UI(613)의 옆에 동적 UI(612)를 표시하고, 시선(61)의 이동에 대응하여 동적 UI(612)를 변화(예: 시선(61)의 이동 방향으로 크기를 확장)시킬 수 있다. 한편, 상기 도 6c는 알림 UI(613)와 동적 UI(612)를 구분하여 표시하였지만, 본 발명의 실시예는 이에 한정되지는 않는다. 예를 들어, 어떤 실시예에 따르면, 상기 프로세서는 동적 UI(612)를 별도로 표시하지 않고, 알림 UI(613)를 확장시킬 수 있다.
본 발명의 한 실시예에 따른 프로세서는, 513 동작에서, 시선 이동이 설정된(또는 지정된) 조건을 만족하는지 확인할 수 있다. 상기 조건은 이동 방향, 이동 거리, 이동 속도 및/또는 이동 경로 등을 포함할 수 있다. 상기 513 동작의 확인 결과, 상기 시선 이동이 상기 조건을 만족하는 경우 본 발명의 한 실시예에 따른 프로세서는, 515 동작에서, 상기 식별된 컨텐트를 실행할 수 있다.
반면에, 상기 513 동작의 확인 결과, 상기 시선 이동이 상기 조건을 만족하지 못하는 경우 본 발명의 한 실시예에 따른 프로세서는, 517 동작에서, 실행 명령에 대한 취소 이벤트가 감지(또는 발생)되는지 확인할 수 있다. 예를 들어, 상기 프로세서는 사용자의 시선이 동적 UI(612)를 이탈하는지 확인할 수 있다.
상기 517 동작의 확인 결과, 상기 취소 이벤트가 감지되지 않은 경우 상기 프로세서는 상기 511 동작으로 복귀할 수 있다. 반면에, 상기 517 동작의 확인 결과 상기 취소 이벤트가 감지되는 경우 상기 프로세서는, 519 동작에서, 동적 UI를 역으로 변화시킬 수 있다. 예를 들어, 상기 프로세서는 동적 UI(612)의 크기를 일정 속도로 감소시킬 수 있다.
본 발명의 한 실시예에 따른 프로세서는, 521 동작에서, 상기 동적 UI가 제거되기 이전에 시선이 동적 UI로 복귀하는지 확인할 수 있다. 상기 521 동작의 확인 결과, 상기 시선이 동적 UI로 복귀하는 경우 상기 프로세서는 상기 511 동작으로 복귀하여 상술한 동작을 반복할 수 있다. 반면에, 상기 521 동작의 확인 결과, 상기 동적 UI가 완전히 제거될 때까지 상기 시선이 동적 UI로 복귀하지 않는 경우 상기 프로세서는 상기 503 동작으로 복귀하여 상술한 동작들을 수행할 수 있다.
도 7a 내지 7h는 본 발명의 한 실시예에 따른 전자 장치의 시선 정보를 이용하여 파일을 실행하는 예시도이다.
도 7a 내지 7h를 참조하면, 본 발명의 한 실시예에 따른 전자 장치(예: 도 1의 전자 장치(101), 도 2의 전자 장치(200))는 시선 정보를 이용하여 저장된 파일을 실행할 수 있다. 예를 들어, 상기 전자 장치는, 도 7a에 도시된 바와 같이, 메모리(예: 도 1의 메모리(130), 도 2의 메모리(220))에 저장된 적어도 하나의 파일의 리스트를 표시하는 탐색기(710)를 디스플레이(예: 도 1의 표시 장치(160), 도 2의 디스플레이(230))의 일측에 출력할 수 있다.
본 발명의 한 실시예에 따른 전자 장치는 시선 추적 모듈(예: 도 2의 시선 추적 모듈(240))을 통해 사용자의 시선 이동을 인식하고, 사용자의 시선(71)이 특정 파일(711)을 향하고 있는 것으로 판단되면, 도 7b에 도시된 바와 같이, 상기 특정 파일(711)을 하이라이트할 수 있다.
본 발명의 한 실시예에 따른 전자 장치는 사용자의 시선(71)이 일정 시간(예: 0.5 초) 이상 상기 특정 파일(711)에 머무는 경우 사용자가 특정 파일(711)을 실행하고자 하는 것으로 판단하고, 도 7c에 도시된 바와 같이, 상기 특정 파일(711)이 실행 대기 상태임을 피드백하는 알림 UI(713)를 특정 파일(711)의 우측에 표시할 수 있다.
본 발명의 한 실시예에 따른 전자 장치는, 도 7d 및 도 7e에 도시된 바와 같이, 사용자의 시선(71)이 알림 UI(713)로 이동되면, 가이드 UI(712)를 표시할 수 있다. 상기 가이드 UI(712)는 컨텐트 실행을 위한 시선(71)의 이동 정도 및 이동 경로를 사용자에게 가이드할 수 있다. 상기 전자 장치는 시선의 이동에 따라 가이드 UI(712)의 배경 색상을 변경하여 이동 정도를 피드백할 수 있다. 어떤 실시예에 따르면, 상기 시선의 이동 정도를 텍스트 형태(예: xx %)로 표시할 수 있다. 어떤 실시예에 따르면, 상기 가이드 UI(712)를 제공하는 상기 도 7e의 동작은 생략될 수 있다.
사용자가 가이드 UI(712)를 따라 시선을 이동하면, 본 발명의 한 실시예에 따른 전자 장치는, 도 7f 및 도 7g에 도시된 바와 같이, 시선(71)의 이동에 대응하여 가이드 UI(712)의 색상을 변경할 수 있다.
본 발명의 한 실시예에 따른 전자 장치는 시선(71)의 이동이 설정된 조건을 만족(예: 시선(71)이 가이드 UI(712)의 우측 끝까지 이동)하면, 도 7h에 도시된 바와 같이, 상기 특정 파일(711)을 실행하고, 실행 화면을 디스플레이에 출력할 수 있다.
도 8a 내지 도 8f는 본 발명의 한 실시예에 따른 전자 장치의 시선 정보를 이용하여 이미지를 실행하는 예시도이다.
도 8a 내지 도 8f를 참조하면, 본 발명의 한 실시예에 따른 전자 장치(예: 도 1의 전자 장치(101), 도 2의 전자 장치(200))는 시선 정보를 이용하여 이미지(예: 사진)을 실행할 수 있다.
본 발명의 한 실시예에 따른 전자 장치는, 도 8a에 도시된 바와 같이, 메모리(예: 도 1의 메모리(130), 도 2의 메모리(220))에 저장된 이미지들의 리스트를 썸네일 형태로 디스플레이(예: 도 1의 표시 장치(160), 도 2의 디스플레이(230))의 일측(예: 하단)에 출력할 수 있다.
사용자가 시선(81)을 특정 이미지(811)로 이동하면, 본 발명의 한 실시예에 따른 전자 장치는, 도 8b에 도시된 바와 같이, 시선 추적 모듈(예: 도 2의 시선 추적 모듈(240))을 통해 사용자의 시선(81)이 특정 이미지(811)로 이동되었음을 감지할 수 있다. 어떤 실시예에 따르면, 상기 전자 장치는 시선(811)이 이동되었음을 피드백하기 위하여 특정 이미지(811)를 하이라이트할 수 있다.
본 발명의 한 실시예에 따른 전자 장치는 특정 이미지(811)에 시선이 일정 시간 이상 머무르는 경우, 특정 이미지(811)를 실행하고자 하는 것으로 판단하여 동적 UI(813)를 표시할 수 있다. 예를 들어, 상기 전자 장치는, 도 8c에 도시된 바와 같이, 반투명(예: 투명도 50%)하며 상기 특정 이미지(811)보다 설정된 크기(또는 비율)만큼 증가된 이미지를 동적 UI(813)로 제공할 수 있다. 이를 통해 본 발명의 다양한 실시예에 따른 전자 장치는 상기 특정 이미지(811)가 시선 이동을 통해 실행 가능한 상태(실행 대기 상태)임을 사용자에게 피드백할 수 있다.
본 발명의 한 실시예에 따른 전자 장치는, 도 8d 및 도 8e에 도시된 바와 같이, 시선(81)의 이동에 대응하여 동적 UI(813)를 변화시킬 수 있다. 예를 들어, 상기 시선 이동에 대응하여 동적 UI(813)의 크기를 증가시킬 수 있다. 어떤 실시예에 따르면, 상기 전자 장치는 시선 이동에 대응하여 동적 UI(813)의 투명도를 순차적으로 감소시킬 수 있다.
어떤 실시예에 따르면, 상기 전자 장치는 특정 이미지(811)의 실행 명령의 입력이 완료된 것으로 판단하기 위한 기준 정보(예: 기준 UI)를 표시할 수 있다. 예를 들어, 상기 기준 UI는 특정 이미지(811)의 실행 화면의 일정 비율(예: 70%)의 크기를 가지는 점선의 사각형 박스 형태로 표시될 수 있다. 이는 일예일 뿐, 본 발명의 실시예를 한정하지는 않으며, 상기 기준 정보는 다양한 형태로 제공될 수 있다.
본 발명의 한 실시예에 따른 전자 장치는 시선(81)의 이동이 설정된 조건을 만족하면, 도 8f에 도시된 바와 같이, 상기 특정 이미지(811)를 실행할 수 있다. 어떤 실시예에 따르면, 상기 전자 장치는 실행이 완료되었음을 시각적으로 피드백할 수 있다. 예를 들어, 상기 전자 장치는, 도 8f에 도시된 바와 같이, 실행된 이미지의 주변에 마크(815)를 표시할 수 있다. 이는 일예일 뿐, 본 발명의 실시예를 한정하지 않고, 전자 장치는 다양한 방식(예: 시각, 청각 및/또는 촉각)으로 실행 완료에 대한 피드백을 제공할 수 있다.
도 9a 내지 도 9c는 본 발명의 한 실시예에 따른 전자 장치의 시선의 방향 정보를 이용하여 어플리케이션을 실행하는 예시도이다.
도 9a를 참조하면, 본 발명의 한 실시예에 따른 전자 장치(예: 도 1의 전자 장치(101), 도 2의 전자 장치(200))는 시선의 방향에 따라 특정 기능을 실행할 수 있다.
본 발명의 한 실시예에 따른 전자 장치는, 식별 부호 910의 도면에 도시된 바와 같이, 어플리케이션을 실행할 수 있는 아이콘(911)을 디스플레이(예: 도 1의 표시 장치(160), 도 2의 디스플레이(230))의 일측에 표시할 수 있다. 상기 식별 부호 910의 도면은 설명의 편의를 위하여 하나의 아이콘만을 도시하였지만, 본 발명의 실시예는 이에 한정되지 않는다. 예를 들어, 상기 전자 장치는 다수의 아이콘을 포함하는 홈 화면(또는 메뉴 화면)을 표시할 수 있다.
본 발명의 한 실시예에 따른 전자 장치는 사용자의 시선(91)이 아이콘(911)으로 이동되면, 식별 부호 920 및 930의 도면에 도시된 바와 같이, 상기 아이콘(911)의 주변에 상기 아이콘(911)과 관련된 제1동적 UI(913a) 및 제2동적 UI(913b)를 표시할 수 있다. 상기 제1동적 UI(913a)는 어플리케이션의 제1기능과 관련될 수 있다. 예를 들어, 상기 제1동적 UI(913a)는 제1기능의 실행 화면(예: 대화 창)의 썸네일 형태일 수 있다. 상기 제2동적 UI(913b)는 어플리케이션의 제2기능(예: 알림 중지)과 관련될 수 있다. 상기 식별 부호 930의 도면은 설명의 편의를 위하여 2 개의 동적 UI를 도시하였지만, 본 발명의 실시예는 이에 한정되지 않는다. 예를 들어, 상기 전자 장치는 3개 이상의 동적 UI를 아이콘(911) 주변에 표시할 수 있다.
도 9b를 참조하면, 본 발명의 한 실시예에 따른 전자 장치는 시선(91)이 제1동적 UI(913a)로 이동하면, 식별 부호 940 내지 960의 도면에 도시된 바와 같이, 시선(91)의 이동에 대응하여 제1동적 UI(913a)를 변화시킬 수 있다. 예를 들어, 상기 시선(91)의 이동에 대응하여 제1동적 UI(913a)의 크기를 증가시킬 수 있다. 상기 식별 부호 940 내지 960의 도면은 제1동적 UI(913a)의 투명도가 "0"인 것으로 도시하였지만, 제 1 동적 UI(913a)는 제1기능이 실행되기 전까지 반투명(예: 50%)하게 표시될 수 있다. 어떤 실시예에 따르면, 제 1 동적 UI(913a)의 투명도는 시선의 이동에 대응하여 점차 감소될 수 있다. 예를 들어, 제 1 동적 UI(913a)의 투명도는 50 % 에서 0 %로 점차 감소될 수 있다.
본 발명의 한 실시예에 따른 전자 장치는 시선(91)의 이동이 설정된 조건을 만족하면 제 1 기능을 실행할 수 있다. 예를 들어, 상기 전자 장치는 대화 화면을 전체 화면으로 표시할 수 있다.
어떤 실시예에 따르면, 상기 전자 장치는 제 1 동적 UI(913a)가 변화되는 동안 제 2 동적 UI(913b)를 표시하지 않을 수 있다.
도 9c를 참조하면, 본 발명의 한 실시예에 따른 전자 장치는 시선(91)이 제2동적 UI(913b)로 이동하면, 식별 부호 970 내지 990의 도면에 도시된 바와 같이, 가이드 UI(912)를 표시하고, 시선(91)의 이동에 대응하여 제2동적 UI(913b)를 가이드 UI(912)를 따라 이동시킬 수 있다. 어떤 실시예에 따르면, 상기 전자 장치는 제 2 동적 UI(913b)의 이동에 대응하여 가이드 UI(912)의 색상을 변경할 수 있다.
본 발명의 한 실시예에 따른 전자 장치는 시선(91)의 이동이 설정된 조건을 만족하면 제 2 기능을 실행할 수 있다. 예를 들어, 상기 전자 장치는 알림 종료 기능을 수행하여, 식별 부호 990의 도면에 도시된 바와 같이, 미확인 메시지가 존재함을 알리는 인디케이터(92)를 아이콘(911) 상에서 제거할 수 있다.
어떤 실시예에 따르면, 상기 전자 장치는 제 2 동적 UI(913b)가 변화되는 동안 제 1 동적 UI(913a)를 표시하지 않을 수 있다.
도 10a 내지 도 10g는 본 발명의 한 실시예에 따른 3차원 공간에서 시선 정보를 이용하여 컨텐트를 실행하는 예시도이다.
도 10a 내지 도 10g를 참조하면, 본 발명의 한 실시예에 따른 전자 장치(예: 도 1의 전자 장치(101), 도 2의 전자 장치(200))는 3차원 공간에서 시선 정보를 이용하여 컨텐트를 실행할 수 있다. 예를 들어, 상기 전자 장치는 VR(virtual reality) 장치일 수 있다.
본 발명의 한 실시예에 따른 전자 장치는 3차원 화면을 제공할 수 있다. 상기 3차원 화면은, 도 10a에 도시된 바와 같이, VR 장치를 통해 인식되는 현실 세계의 거실 공간에 적어도 하나의 가상 객체를 표시할 수 있다. 예를 들어, 상기 전자 장치는 3차원 공간 일측(예: 허공)에 공(1011)을 표시하고, 탁자에 웹브라우저(1015)를 표시할 수 있다.
본 발명의 한 실시예에 따른 전자 장치는, 도 10b 및 도 10c에 도시된 바와 같이, 사용자의 시선(11)이 공(1011)으로 이동되면, 상기 가상의 공(1011)을 설정된 방향(예: 좌측하단 방향)으로 이동시킬 수 있다. 이는 일 예일 뿐, 상기 가상의 공은 다양한 방향으로 이동될 수 있다.
본 발명의 한 실시예에 따른 전자 장치는, 도 10d 및 도 10e에 도시된 바와 같이, 시선(11)의 이동에 대응하여 가상의 공(1011)을 탁자 방향으로 이동시킬 수 있다.
본 발명의 한 실시예에 따른 전자 장치는 시선(11)의 이동이 설정된 조건을 만족하면 컨텐트를 실행할 수 있다. 예를 들어, 상기 전자 장치는, 도 10f에 도시된 바와 같이, 상기 탁자의 웹브라우저(1015)를 축구 경기 화면(1017)으로 변경하여 출력할 수 있다.
상기 실행이 완료되면, 상기 전자 장치는, 도 10g에 도시된 바와 같이, 공(1011)을 원래의 위치로 이동시킬 수 있다.
어떤 실시예에 따르면, 상기 전자 장치는 가상의 공(1011)을 이동하지 않고, 반 투명한 공을 별도로 생성하고, 시선의 이동에 대응하여 반투명한 공을 이동할 수 있다. 이러한 경우 상기 도 10g의 동작은 생략될 수 있다.
한편, 이상에서는 시선 이동의 의한 컨텐트의 실행 명령이 입력 중임을 시각적으로 피드백하는 것으로 설명하였지만, 본 발명의 다양한 실시예들은 이에 한정되지 않는다. 예를 들어, 상기 전자 장치는 시각적 피드백과 함께 청각적 피드백 및/또는 촉각적 피드백을 제공할 수 있다. 또는, 상기 전자 장치가 디스플레이를 포함하지 않는 경우 청각적 피드백 및/또는 촉각적 피드백을 제공할 수 있다. 예를 들어, 상기 전자 장치는 시선 이동에 따른 컨텐트의 실행 명령이 완료될 때까지 시선 이동에 따라 효과음을 점점 크게 하거나, 진동 세기를 점점 크게할 수 있다. 또는, 상기 전자 장치는 시선 이동에 따른 컨텐트의 실행 명령이 완료될 때까지 시선 이동에 따라 효과음 또는 진동의 출력 주기를 짧게할 수 있다.
이상에서는, 시선 이동에 대응하여 피드백 정보를 제공하는 것으로 설명하였다. 하지만, 본 발명의 다양한 실시예들은 이에 한정되지 않는다. 예를 들어, 본 발명의 다른 실시예에서는 다양한 포인팅 장치(예: 마우스, 터치, 호버, 제스처 등)를 통해 컨텐트를 선택하고, 상기 포인팅 장치를 설정된 조건에 대응하도록 이동시켜 컨텐트를 실행할 수 있으며, 상기 포인팅 장치들의 이동에 대응하여 상기 선택된 컨텐트의 실행 명령이 입력 중임을 시각, 청각 또는 촉각적으로 피드백할 수 있다.
본 발명의 다양한 실시예들은 시선 정보를 이용하여 컨텐트의 실행을 효율적으로 제어할 수 있다. 예를 들어, 본 발명의 다양한 실시예들은 사용자가 시선을 빠르게 이동하거나, 느리게 이동하여 컨텐트의 실행 속도를 제어할 수 있다. 또한, 본 발명의 다양한 실시예들은 시선이 일시적으로 이탈하더라도 실행 명령을 바로 취소하지 않아, 사용자의 의도와 무관하게 일시적으로 시선의 이탈되었을 때 컨텐트 실행이 취소되는 불편함을 방지할 수 있다.
또한, 본 발명의 다양한 실시예들은 시선 정보만을 이용하여 컨텐트를 실행할 수 있어 별도의 입력 장치를 필요로 하지 않는다. 또한, 본 발명의 다양한 실시예들은 시선의 이동을 통해 컨텐트를 실행함에 따라, 실행 의도없이 단순히 컨텐트를 응시하는 경우 컨텐트가 실행되는 종래의 불편함을 해소할 수 있다. 또한, 본 발명의 다양한 실시예들은 시선의 이동 방향에 따라 다른 기능을 수행할 수 있어, 컨텐트와 관련된 다양한 기능을 용이하게 실행할 수 있다.
본 문서에 개시된 다양한 실시예들에 따른 전자 장치는 다양한 형태의 장치가 될 수 있다. 전자 장치는, 예를 들면, 휴대용 통신 장치 (예: 스마트폰), 컴퓨터 장치, 휴대용 멀티미디어 장치, 휴대용 의료 기기, 카메라, 웨어러블 장치, 또는 가전 장치 중 적어도 하나를 포함할 수 있다. 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다.
본 문서의 다양한 실시예들 및 이에 사용된 용어들은 본 문서에 기재된 기술을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 및/또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및/또는 B 중 적어도 하나", "A, B 또는 C" 또는 "A, B 및/또는 C 중 적어도 하나" 등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. "제 1", "제 2", "첫째" 또는 "둘째" 등의 표현들은 해당 구성요소들을, 순서 또는 중요도에 상관없이 수식할 수 있고, 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 뿐 해당 구성요소들을 한정하지 않는다. 어떤(예: 제 1) 구성요소가 다른(예: 제 2) 구성요소에 "(기능적으로 또는 통신적으로) 연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제 3 구성요소)를 통하여 연결될 수 있다.
본 문서에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구성된 유닛을 포함하며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로 등의 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 모듈은 ASIC(application-specific integrated circuit)으로 구성될 수 있다.
본 문서의 다양한 실시예들은 기기(machine)(예: 컴퓨터)로 읽을 수 있는 저장 매체(machine-readable storage media)(예: 내장 메모리(136) 또는 외장 메모리(138))에 저장된 명령어를 포함하는 소프트웨어(예: 프로그램(140))로 구현될 수 있다. 기기는, 저장 매체로부터 저장된 명령어를 호출하고, 호출된 명령어에 따라 동작이 가능한 장치로서, 개시된 실시예들에 따른 전자 장치(예: 전자 장치(101), 전자 장치(200))를 포함할 수 있다. 상기 명령이 프로세서(예: 프로세서(120), 프로세서(210))에 의해 실행될 경우, 프로세서가 직접, 또는 상기 프로세서의 제어하에 다른 구성요소들을 이용하여 상기 명령에 해당하는 기능을 수행할 수 있다. 명령은 컴파일러 또는 인터프리터에 의해 생성 또는 실행되는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장매체는, 비일시적(non-transitory) 저장매체의 형태로 제공될 수 있다. 여기서, '비일시적'은 저장매체가 신호(signal)를 포함하지 않으며 실재(tangible)한다는 것을 의미할 뿐 데이터가 저장매체에 반영구적 또는 임시적으로 저장됨을 구분하지 않는다.
일시예에 따르면, 본 문서에 개시된 다양한 실시예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory (CD-ROM))의 형태로, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 온라인으로 배포될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
다양한 실시예들에 따른 구성 요소(예: 모듈 또는 프로그램) 각각은 단수 또는 복수의 개체로 구성될 수 있으며, 전술한 해당 서브 구성 요소들 중 일부 서브 구성 요소가 생략되거나, 또는 다른 서브 구성 요소가 다양한 실시예에 더 포함될 수 있다. 대체적으로 또는 추가적으로, 일부 구성 요소들(예: 모듈 또는 프로그램)은 하나의 개체로 통합되어, 통합되기 이전의 각각의 해당 구성 요소에 의해 수행되는 기능을 동일 또는 유사하게 수행할 수 있다. 다양한 실시예들에 따른, 모듈, 프로그램 또는 다른 구성 요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱하게 실행되거나, 적어도 일부 동작이 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다.

Claims (15)

  1. 전자 장치에 있어서,
    디스플레이;
    시선 추적 모듈;
    적어도 하나의 명령을 저장하는 메모리; 및
    상기 디스플레이, 상기 시선 추적 모듈 및 상기 메모리와 작동적으로(operatively) 연결되는 적어도 하나의 프로세서를 포함하되,
    상기 적어도 하나의 프로세서는, 상기 적어도 하나의 명령의 실행에 기반하여,
    적어도 하나의 컨텐트를 표시하도록 상기 디스플레이를 제어하고,
    상기 시선 추적 모듈을 통해 추적된 사용자의 시선 정보에 기초하여, 상기 적어도 하나의 컨텐트 중 사용자가 응시하는 하나의 컨텐트를 식별하고,
    상기 식별된 컨텐트에 대한 시선 이동이 감지되는 것에 대응하여 상기 시선 이동에 따라 동적으로 변화되는 동적 UI(user interface)를 상기 디스플레이 상에 표시하고, 및
    상기 사용자의 시선 이동 경로가 기 지정된 조건을 만족하는 것에 대응하여 상기 식별된 컨텐트를 실행하도록 설정된 전자 장치.
  2. 제 1 항에 있어서,
    상기 적어도 하나의 프로세서는
    상기 시선 이동 경로가 상기 동적 UI로부터 이탈하는 것에 대응하여 상기 변화된 동적 UI를 일정 속도로 역으로 변화시키도록 상기 디스플레이를 제어하고,
    상기 동적 UI가 완전히 제거되기 이전에 상기 시선이 상기 동적 UI 내로 복귀하는 것에 대응하여 상기 시선 이동에 따른 상기 컨텐트 동적 UI의 표시를 재개(resume)하며, 및
    상기 동적 UI가 완전히 제거될 때까지 상기 시선이 상기 동적 UI 내로 복귀하지 않는 것에 대응하여 상기 식별된 컨텐트의 실행 명령의 입력을 취소하도록 설정된 전자 장치.
  3. 제 2 항에 있어서,
    상기 적어도 하나의 프로세서는
    상기 식별된 컨텐트가 실행되었음을 피드백하거나, 상기 식별된 컨텐트의 실행 입력이 취소되었음을 피드백하도록 상기 디스플레이를 제어하는 전자 장치.
  4. 제 1 항에 있어서,
    상기 지정된 조건은
    상기 시선 이동의 시간, 속도, 방향 또는 경로 중 적어도 하나를 포함하는 전자 장치.
  5. 제 1 항에 있어서,
    상기 적어도 하나의 프로세서는
    상기 컨텐트가 식별되었을 때, 시선 이동을 통해 상기 식별된 컨텐트의 실행이 가능함을 피드백하는 적어도 하나의 알림 UI를 표시하도록 상기 디스플레이를 제어하는 전자 장치.
  6. 제 5 항에 있어서,
    상기 적어도 하나의 프로세서는
    상기 시선의 이동에 대응하여 상기 알림 UI를 동적으로 변화시켜 상기 동적 UI를 표시하도록 설정된 전자 장치.
  7. 제 1 항에 있어서,
    상기 적어도 하나의 프로세서는
    상기 동적 UI를 제공할 때, 상기 시선의 이동 경로를 가이드하는 가이드 UI를 더 제공하도록 상기 디스플레이를 제어하는 전자 장치.
  8. 제 1 항에 있어서,
    상기 적어도 하나의 프로세서는
    상기 동적 UI의 크기, 위치 또는 투명도 중 적어도 하나를 동적으로 가변하도록 상기 디스플레이를 제어하는 전자 장치.
  9. 전자 장치의 시선 정보를 이용한 컨텐트 실행 방법에 있어서,
    적어도 하나의 컨텐트를 디스플레이 상에 표시하는 동작;
    상기 적어도 하나의 컨텐트 중 사용자가 응시하는 하나의 컨텐트를 식별하는 동작;
    상기 식별된 컨텐트에 대한 사용자의 시선 이동이 감지되는 것에 대응하여 상기 시선 이동에 따라 동적으로 변화되는 동적 UI(user interface)를 상기 디스플레이 상에 표시하는 동작; 및
    상기 사용자의 시선 이동 경로가 기 지정된 조건을 만족하는 것에 대응하여 상기 식별된 컨텐트를 실행하는 동작을 포함하는 방법.
  10. 제 9 항에 있어서,
    상기 시선 이동 경로가 상기 동적 UI의 영역을 이탈하는 것에 대응하여 상기 변화된 동적 UI를 역으로 변화시키는 동작;
    상기 동적 UI가 제거되기 이전에 상기 시선이 상기 동적 UI의 영역 내로 복귀하는 것에 대응하여 상기 시선 이동에 따른 상기 동적 UI의 표시를 재개(resume)하는 동작; 및
    상기 동적 UI가 완전히 제거될 때까지 상기 시선이 상기 동적 UI의 영역 내로 복귀하지 않는 것에 대응하여 상기 식별된 컨텐트의 실행 명령의 입력을 취소하는 동작을 더 포함하는 방법.
  11. 제 10 항에 있어서,
    상기 시선 이동에 의해 상기 식별된 컨텐트가 실행되었음을 피드백하는 동작; 또는
    상기 식별된 컨텐트의 실행이 취소되었음을 피드백하는 동작 중 적어도 하나를 더 포함하는 방법.
  12. 제 9 항에 있어서,
    상기 지정된 조건은
    상기 시선 이동의 시간, 속도, 방향 또는 경로 중 적어도 하나를 포함하는 방법.
  13. 제 9 항에 있어서,
    상기 컨텐트가 식별되었을 때, 시선 이동을 통해 상기 식별된 컨텐트의 실행이 가능함을 피드백하는 적어도 하나의 알림 UI를 표시하는 동작을 더 포함하는 방법.
  14. 제 9 항에 있어서,
    상기 동적 UI를 표시하는 동작은
    상기 시선 이동 경로를 가이드 하는 가이드 UI를 표시하는 동작을 더 포함하는 방법.
  15. 제 9 항에 있어서,
    상기 동적 UI를 표시하는 동작은
    상기 동적 UI의 크기, 위치 또는 투명도 중 적어도 하나를 동적으로 가변하는 동작을 포함하는 방법.
PCT/KR2018/010735 2017-09-29 2018-09-13 전자 장치 및 그의 시선 정보를 이용한 컨텐트 실행 방법 WO2019066323A1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US16/652,089 US11334152B2 (en) 2017-09-29 2018-09-13 Electronic device and content executing method using sight-line information thereof

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020170127918A KR102518404B1 (ko) 2017-09-29 2017-09-29 전자 장치 및 그의 시선 정보를 이용한 컨텐트 실행 방법
KR10-2017-0127918 2017-09-29

Publications (1)

Publication Number Publication Date
WO2019066323A1 true WO2019066323A1 (ko) 2019-04-04

Family

ID=65902344

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2018/010735 WO2019066323A1 (ko) 2017-09-29 2018-09-13 전자 장치 및 그의 시선 정보를 이용한 컨텐트 실행 방법

Country Status (3)

Country Link
US (1) US11334152B2 (ko)
KR (1) KR102518404B1 (ko)
WO (1) WO2019066323A1 (ko)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023113204A1 (ko) * 2021-12-13 2023-06-22 삼성전자 주식회사 기능 자동 실행 과정에서 가변형 ui와 사용자 반응을 활용한 기능 실행 및 취소 방법 및 그 장치
US20230333643A1 (en) * 2022-03-30 2023-10-19 Apple Inc. Eye Tracking Based Selection of a User Interface (UI) Element Based on Targeting Criteria

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130145304A1 (en) * 2011-12-02 2013-06-06 International Business Machines Corporation Confirming input intent using eye tracking
US20130321265A1 (en) * 2011-02-09 2013-12-05 Primesense Ltd. Gaze-Based Display Control
WO2014210151A1 (en) * 2013-06-28 2014-12-31 Microsoft Corporation Web-like hierarchical menu display configuration for a near-eye display
US20150268821A1 (en) * 2014-03-20 2015-09-24 Scott Ramsby Selection using eye gaze evaluation over time
US20160195924A1 (en) * 2013-08-27 2016-07-07 Auckland Uniservices Limited Gaze-controlled interface method and system

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100182232A1 (en) 2009-01-22 2010-07-22 Alcatel-Lucent Usa Inc. Electronic Data Input System
US8235529B1 (en) 2011-11-30 2012-08-07 Google Inc. Unlocking a screen using eye tracking information
JP2014085954A (ja) * 2012-10-25 2014-05-12 Kyocera Corp 携帯端末装置、プログラムおよび入力操作受け付け方法
KR20140073730A (ko) * 2012-12-06 2014-06-17 엘지전자 주식회사 이동 단말기 및 이동 단말기 제어방법
US9329682B2 (en) 2013-06-18 2016-05-03 Microsoft Technology Licensing, Llc Multi-step virtual object selection
JP6127839B2 (ja) * 2013-09-02 2017-05-17 ソニー株式会社 情報処理装置、情報処理方法、およびプログラム
US9201578B2 (en) 2014-01-23 2015-12-01 Microsoft Technology Licensing, Llc Gaze swipe selection
US9547365B2 (en) * 2014-09-15 2017-01-17 Google Inc. Managing information display
KR20160033376A (ko) * 2014-09-18 2016-03-28 (주)에프엑스기어 시선에 의해 제어되는 헤드 마운트형 디스플레이 장치, 이의 제어 방법 및 이의 제어를 위한 컴퓨터 프로그램
KR101671838B1 (ko) * 2015-06-17 2016-11-03 주식회사 비주얼캠프 시선 추적을 이용한 입력 장치
US20170185146A1 (en) * 2015-12-29 2017-06-29 Ford Global Technologies, Llc Vehicle notification system including transparent and mirrored displays

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130321265A1 (en) * 2011-02-09 2013-12-05 Primesense Ltd. Gaze-Based Display Control
US20130145304A1 (en) * 2011-12-02 2013-06-06 International Business Machines Corporation Confirming input intent using eye tracking
WO2014210151A1 (en) * 2013-06-28 2014-12-31 Microsoft Corporation Web-like hierarchical menu display configuration for a near-eye display
US20160195924A1 (en) * 2013-08-27 2016-07-07 Auckland Uniservices Limited Gaze-controlled interface method and system
US20150268821A1 (en) * 2014-03-20 2015-09-24 Scott Ramsby Selection using eye gaze evaluation over time

Also Published As

Publication number Publication date
KR20190038003A (ko) 2019-04-08
US20200249750A1 (en) 2020-08-06
KR102518404B1 (ko) 2023-04-06
US11334152B2 (en) 2022-05-17

Similar Documents

Publication Publication Date Title
WO2019088793A1 (ko) 전자 장치 및 이를 이용한 화면 공유 방법
WO2019117566A1 (ko) 전자 장치 및 그의 입력 제어 방법
WO2019088667A1 (ko) 디스플레이를 이용하여 지문을 인식하기 위한 전자 장치
WO2019143071A1 (en) Electronic device for controlling a plurality of applications
WO2019103396A1 (en) Method for configuring input interface and electronic device using same
WO2020050636A1 (ko) 사용자 의도 기반 제스처 인식 방법 및 장치
WO2019164092A1 (ko) 디스플레이를 통해 표시된 제 1 콘텐트에 대해 제 2 콘텐트를 외부 객체의 움직임에 따라 제공하기 위한 전자 장치 및 그의 동작 방법
WO2020130667A1 (en) Method and electronic device for controlling augmented reality device
WO2019124841A1 (ko) 전자 장치 및 스트로크 입력에 따른 기능 실행 방법
WO2020159302A1 (ko) 증강 현실 환경에서 다양한 기능을 수행하는 전자 장치 및 그 동작 방법
WO2021230568A1 (ko) 증강 현실 서비스를 제공하기 위한 전자 장치 및 그의 동작 방법
WO2019035607A1 (en) ELECTRONIC DEVICE AND METHOD FOR CONTROLLING TOUCH DETECTION SIGNALS, AND INFORMATION CARRIER
WO2020091538A1 (ko) 저전력 상태에서 디스플레이를 통해 화면을 표시하기 위한 전자 장치 및 그의 동작 방법
WO2019066323A1 (ko) 전자 장치 및 그의 시선 정보를 이용한 컨텐트 실행 방법
AU2018321518B2 (en) Method for determining input detection region corresponding to user interface and electronic device thereof
WO2019156412A1 (ko) 음성 인식 서비스 운용 방법 및 이를 지원하는 전자 장치
WO2019107719A1 (ko) 360 비디오에서 화자의 음성을 시각적으로 표시하기 위한 장치 및 방법
WO2021194252A1 (ko) 화면을 공유하는 전자 장치 및 방법
WO2021133123A1 (ko) 플렉서블 디스플레이를 포함하는 전자 장치와 이의 동작 방법
WO2021172832A1 (ko) 제스처 인식 기반의 영상 편집 방법 및 이를 지원하는 전자 장치
KR20200091278A (ko) 음성 입력과 관련된 비주얼 정보를 표시하는 방법 및 이를 지원하는 전자 장치
WO2020022750A1 (ko) 디스플레이에서 출력된 광에 대해 다중 초점을 제공할 수 있는 전자 장치
WO2021261829A1 (ko) 밝기 조절 방법 및 hmd 장치
WO2021149938A1 (en) Electronic device and method for controlling robot
WO2019177437A1 (ko) 화면 제어 방법 및 이를 지원하는 전자 장치

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 18862147

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 18862147

Country of ref document: EP

Kind code of ref document: A1