KR102302721B1 - 복수의 어플리케이션을 실행하는 전자 장치 및 그 제어 방법 - Google Patents

복수의 어플리케이션을 실행하는 전자 장치 및 그 제어 방법 Download PDF

Info

Publication number
KR102302721B1
KR102302721B1 KR1020140164500A KR20140164500A KR102302721B1 KR 102302721 B1 KR102302721 B1 KR 102302721B1 KR 1020140164500 A KR1020140164500 A KR 1020140164500A KR 20140164500 A KR20140164500 A KR 20140164500A KR 102302721 B1 KR102302721 B1 KR 102302721B1
Authority
KR
South Korea
Prior art keywords
application
user
input
electronic device
execution screen
Prior art date
Application number
KR1020140164500A
Other languages
English (en)
Other versions
KR20160061733A (ko
Inventor
신동준
조한주
양지은
이은주
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020140164500A priority Critical patent/KR102302721B1/ko
Priority to PCT/KR2015/012679 priority patent/WO2016085244A1/en
Priority to US14/950,954 priority patent/US10572104B2/en
Priority to CN201580063573.1A priority patent/CN107003727B/zh
Priority to EP15863801.5A priority patent/EP3224698B1/en
Publication of KR20160061733A publication Critical patent/KR20160061733A/ko
Application granted granted Critical
Publication of KR102302721B1 publication Critical patent/KR102302721B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/0482—Interaction with lists of selectable items, e.g. menus
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013—Eye tracking input arrangements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0354—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
    • G06F3/03545—Pens or stylus
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04842—Selection of displayed objects or displayed text elements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04886—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures by partitioning the display area of the touch-screen or the surface of the digitising tablet into independently controllable areas, e.g. virtual keyboards or menus
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00—Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/048—Indexing scheme relating to G06F3/048
    • G06F2203/04803—Split screen, i.e. subdividing the display area or the window area into separate subareas

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • General Health & Medical Sciences (AREA)
  • User Interface Of Digital Computer (AREA)
  • Multimedia (AREA)

Abstract

복수의 어플리케이션을 실행하는 전자 장치의 제어 방법이 개시된다. 하나의 실시예에 의한 상기 제어 방법은, 상기 복수의 어플리케이션 중 획득되는 사용자의 입력과 연관되는 제1 어플리케이션을 판단하는 과정 및 상기 제1 어플리케이션을 통해 상기 사용자의 입력에 대응하는 태스크를 수행하는 과정을 포함할 수 있다.

Description

복수의 어플리케이션을 실행하는 전자 장치 및 그 제어 방법{ELECTRONIC APPARATUS FOR EXECUTING PLURALITY OF APPLICATIONS AND METHOD FOR CONTROLLING THEREOF}
본 발명은 복수의 어플리케이션을 실행하는 전자 장치 및 그 제어 방법에 관한 것이다.
다양한 기기에서 CPU(Central Processing Unit)의 성능이 높아짐에 따라 사용자가 두 가지 이상의 태스크를 같이 수행할 수 있는 멀티 태스킹(multi tasking) 환경이 사용자에게 제공되고 있다. 또한, 멀티 태스킹을 위하여 어플리케이션이 실행되는 N 개의 윈도우가 시각적으로 제공되고 있다. 싱글 태스킹(single tasking) 환경에서는 하나의 태스크가 처리되는 동안 다른 태스크가 수행될 수 없었으나, 멀티 태스킹 환경에서는 하나의 태스크의 처리가 종료되는 것을 기다리지 않더라도 다른 태스크가 수행될 수 있다.
N 개의 어플리케이션이 각각 실행되는 윈도우가 디스플레이 되어 있는 전자 장치를 통해 사용자가 멀티 태스킹을 하기 위하여, 사용자가 태스크 수행을 위한 어플리케이션이 실행되는 윈도우를 선택하고, 전자 장치는 사용자에 의해 선택된 태스크를 수행하는 과정이 반복된다. 이는 사용자가 N 개의 윈도우에서 실행되는 어플리케이션들을 함께 조작한다기 보다는 순차적으로 조작하게 되는 문제점이 있다.
본 발명의 다양한 실시 예들은 전술한 문제점 또는 다른 문제점을 해결하기 위한 복수의 어플리케이션을 실행하는 전자 장치 및 그 제어 방법을 제공할 수 있다.
본 발명의 실시 예에 따르면, 복수의 어플리케이션을 실행하는 전자 장치의 제어 방법은, 상기 복수의 어플리케이션 중 획득되는 사용자의 입력과 연관되는 제1 어플리케이션을 판단하는 과정 및 상기 제1 어플리케이션을 통해 상기 사용자의 입력에 대응하는 태스크를 수행하는 과정을 포함할 수 있다.
본 발명의 실시 예에 따르면, 전자 장치는, 실행 중인 복수의 어플리케이션을 표시하는 터치 스크린 및 상기 복수의 어플리케이션 중 획득되는 사용자의 입력과 연관되는 제1 어플리케이션을 판단하고, 상기 제1 어플리케이션을 통해 상기 사용자의 입력에 대응하는 태스크를 수행하도록 제어하는 제어부를 포함할 수 있다.
본 발명의 실시 예에 따르면, 복수의 어플리케이션을 실행하는 전자 장치의 제어 방법은 포어 그라운드에서 제1 어플리케이션을 실행하고, 백 그라운드에서 제2 어플리케이션을 실행하는 과정 사용자의 입력을 획득하는 과정 및 상기 제2 어플리케이션을 통하여, 상기 획득된 사용자의 입력에 대응하는 태스크를 상기 백 그라운드에서 수행하는 과정을 포함할 수 있다.
본 발명의 실시 예에 따르면, 전자 장치는, 포어 그라운드에서 실행 중인 제1 어플리케이션 및 백 그라운드에서 실행 중인 제2 어플리케이션을 표시하는 터치 스크린; 및 사용자의 입력을 획득하고, 상기 제2 어플리케이션을 통하여, 상기 획득된 사용자의 입력에 대응하는 태스크를 상기 백 그라운드에서 수행하도록 제어하는 제어부를 포함할 수 있다.
본 발명의 다양한 실시 예들에서는, 전자 장치가 사용자의 입력과 연관되는 어플리케이션을 판단하여, 사용자의 의도에 적합하게 어플리케이션을 실행할 수 있다.
본 발명의 다양한 실시 예들에서는, 전자 장치가 어플리케이션에서 수행되고 있는 태스크를 중단하지 않고, 다른 어플리케이션에서 태스크를 수행할 수 있다.
이에 따라, 사용자가 다른 어플리케이션에서 태스크를 수행하기 위해, 다른 어플리케이션을 선택하고, 전자 장치가 선택된 태스크를 수행하는 과정이 반복되지 않을 수 있어, 사용자에게 빠르고 편리한 기기 조작 환경을 제공할 수 있다.
도 1은 본 발명의 다양한 실시예에 따른 복수의 어플리케이션을 실행하는 전자 장치의 블록도를 도시한다.
도 2는 본 발명의 다양한 실시예에 따른 복수의 어플리케이션을 실행하는 전자 장치의 제어 방법을 설명하는 흐름도이다.
도 3은 일 실시예에 의한 사용자의 입력과 연관되는 제1 어플리케이션을 판단하는 과정을 설명하는 흐름도이다.
도 4는 일 실시예에 의한 추적된 사용자의 시선을 이용하여 제1 어플리케이션을 판단하는 과정을 설명하는 흐름도이다.
도 5는 일 실시예에 의한 태스크 처리 과정을 나타내는 개념도이다.
도 6은 일 실시예에 의한 태스크 처리 과정을 도시한다.
도 7은 일 실시예에 의한 제 사용자에 의해 선택된 어플리케이션을 통해 태스크를 처리하는 과정을 도시한다.
도 8은 일 실시예에 의한 제1 어플리케이션 선택을 위한 팝업 윈도우의 제공을 통해 태스크를 처리하는 과정을 도시한다.
도 9는 일 실시예에 의한 태스크의 처리 과정을 도시한다.
도 10은 일 실시예에 의한 태스크의 처리 과정을 도시한다.
도 11은 일 실시예에 의한 전자 장치의 표시를 도시한다.
도 12는 일 실시예에 의한 펜 입력을 통해 태스크가 처리되는 전자 장치를 도시한다.
도 13은 일 실시예에 의한 사용자의 시선 추적을 통해 태스크가 처리되는 과정을 도시한다.
도 14는 일 실시예에 의한 제스처 입력을 통해 태스크가 처리되는 전자 장치를 도시한다.
도 15는 일 실시예에 의한 제스처 입력을 통해 태스크가 처리되는 전자 장치를 도시한다.
도 16은 일 실시예에 의한 전자 장치의 제어 방법을 설명하는 흐름도이다.
도 17은 일 실시예에 의한 사용자 입력이 전달되는 과정 및 각 어플리케이션의 태스크 스택을 도시한다.
도 18은 일 실시예에 의한 태스크 처리에 따른 결과가 제시되는 팝업 윈도우를 표시하는 전자 장치를 도시한다.
이하, 본 개시의 다양한 실시예가 첨부된 도면을 참조하여 기재된다. 그러나, 이는 본 개시를 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 개시의 실시예의 다양한 변경(modification), 균등물(equivalent), 및/또는 대체물(alternative)을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다.
본 문서에서, "가진다," "가질 수 있다,""포함한다," 또는 "포함할 수 있다" 등의 표현은 해당 특징(예: 수치, 기능, 동작, 또는 부품 등의 구성요소)의 존재를 가리키며, 추가적인 특징의 존재를 배제하지 않는다.
본 문서에서, "A 또는 B,""A 또는/및 B 중 적어도 하나,"또는 "A 또는/및 B 중 하나 또는 그 이상"등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. 예를 들면, "A 또는 B," " A 및 B 중 적어도 하나,"또는 " A 또는 B 중 적어도 하나"는,(1) 적어도 하나의 A를 포함,(2) 적어도 하나의 B를 포함, 또는(3) 적어도 하나의 A 및 적어도 하나의 B 모두를 포함하는 경우를 모두 지칭할 수 있다.
다양한 실시예에서 사용된 "제 1,""제 2,""첫째,"또는"둘째,"등의 표현들은 다양한 구성요소들을, 순서 및/또는 중요도에 상관없이 수식할 수 있고, 해당 구성요소들을 한정하지 않는다. 상기 표현들은 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 수 있다. 예를 들면, 제 1 사용자 기기와 제 2 사용자 기기는, 순서 또는 중요도와 무관하게, 서로 다른 사용자 기기를 나타낼 수 있다. 예를 들면, 본 개시의 권리 범위를 벗어나지 않으면서 제 1 구성요소는 제 2 구성요소로 명명될 수 있고, 유사하게 제 2 구성요소도 제 1 구성요소로 바꾸어 명명될 수 있다.
어떤 구성요소(예: 제 1 구성요소)가 다른 구성요소(예: 제 2 구성요소)에 "(기능적으로 또는 통신적으로) 연결되어((operatively or communicatively) coupled with/to)" 있다거나 "접속되어(connected to)" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제 3 구성요소)를 통하여 연결될 수 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소(예: 제 1 구성요소)가 다른 구성요소(예: 제 2 구성요소)에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소와 상기 다른 구성요소 사이에 다른 구성요소(예: 제 3 구성요소)가 존재하지 않는 것으로 이해될 수 있다.
본 문서에서 사용된 표현 "~하도록 구성된(또는 설정된)(configured to)"은 상황에 따라, 예를 들면, "~에 적합한(suitable for)," "~하는 능력을 가지는(having the capacity to)," "~하도록 설계된(designed to)," "~하도록 변경된(adapted to)," "~하도록 만들어진(made to),"또는 "~를 할 수 있는(capable of)"과 바꾸어 사용될 수 있다. 용어 "~하도록 구성(또는 설정)된"은 하드웨어적으로 "특별히 설계된(specifically designed to)"것만을 반드시 의미하지 않을 수 있다. 대신, 어떤 상황에서는, "~하도록 구성된 장치"라는 표현은, 그 장치가 다른 장치 또는 부품들과 함께 "~할 수 있는" 것을 의미할 수 있다. 예를 들면, 문구 "A, B, 및 C를 수행하도록 구성(또는 설정)된 프로세서"는 해당 동작을 수행하기 위한 전용 프로세서(예: 임베디드 프로세서), 또는 메모리 장치에 저장된 하나 이상의 소프트웨어 프로그램들을 실행함으로써, 해당 동작들을 수행할 수 있는 범용 프로세서(generic-purpose processor)(예: CPU 또는 application processor)를 의미할 수 있다.
본 문서에서 사용된 용어들은 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 다른 실시예의 범위를 한정하려는 의도가 아닐 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 개시의 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가질 수 있다. 일반적으로 사용되는 사전에 정의된 용어들은 관련 기술의 문맥 상 가지는 의미와 동일 또는 유사한 의미를 가지는 것으로 해석될 수 있으며, 본 문서에서 명백하게 정의되지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다. 경우에 따라서, 본 문서에서 정의된 용어일지라도 본 개시의 실시예들을 배제하도록 해석될 수 없다.
본 개시의 다양한 실시예들에 따른 전자 장치는, 예를 들면, 전자 장치는 스마트폰(smartphone), 태블릿 PC(tablet personal computer), 이동 전화기(mobile phone), 화상 전화기, 전자북 리더기(e-book reader), 데스크탑 PC(desktop personal computer), 랩탑 PC(laptop personal computer), 넷북 컴퓨터(netbook computer), 워크스테이션(workstation), 서버, PDA(personal digital assistant), PMP(portable multimedia player), MP3 플레이어, 모바일 의료기기, 카메라(camera), 또는 웨어러블 장치(wearable device)(예: 스마트 안경, 머리 착용형 장치(head-mounted-device(HMD)), 전자 의복, 전자 팔찌, 전자 목걸이, 전자 앱세서리(appcessory), 전자 문신, 스마트 미러, 또는 스마트 와치(smart watch))중 적어도 하나를 포함할 수 있다.
어떤 실시예들에서, 전자 장치는 스마트 가전 제품(smart home appliance)일 수 있다. 스마트 가전 제품은, 예를 들면, 텔레비전, DVD(digital video disk) 플레이어, 오디오, 냉장고, 에어컨, 청소기, 오븐, 전자레인지, 세탁기, 공기 청정기, 셋톱 박스(set-top box), 홈 오토매이션 컨트롤 패널(home automation control panel), 보안 컨트롤 패널(security control panel), TV 박스(예: 삼성 HomeSync™, 애플TV™, 또는 구글 TV™), 게임 콘솔(예: Xbox™, PlayStation™), 전자 사전, 전자 키, 캠코더(camcorder), 또는 전자 액자 중 적어도 하나를 포함할 수 있다.
다른 실시예에서, 전자 장치는, 각종 의료기기(예: 각종 휴대용 의료측정기기(혈당 측정기, 심박 측정기, 혈압 측정기, 또는 체온 측정기 등), MRA(magnetic resonance angiography), MRI(magnetic resonance imaging), CT(computed tomography), 촬영기, 또는 초음파기 등), 네비게이션(navigation) 장치, GPS 수신기(global positioning system receiver), EDR(event data recorder), FDR(flight data recorder), 자동차 인포테인먼트(infotainment) 장치, 선박용 전자 장비(예: 선박용 항법 장치, 자이로 콤파스 등), 항공 전자기기(avionics), 보안 기기, 차량용 헤드 유닛(head unit), 산업용 또는 가정용 로봇, 금융 기관의 ATM(automatic teller's machine), 상점의 POS(point of sales), 또는 사물 인터넷 장치(internet of things)(예: 전구, 각종 센서, 전기 또는 가스 미터기, 스프링클러 장치, 화재경보기, 온도조절기(thermostat), 가로등, 토스터(toaster), 운동기구, 온수탱크, 히터, 보일러 등) 중 적어도 하나를 포함할 수 있다.
어떤 실시예에 따르면, 전자 장치는 가구(furniture) 또는 건물/구조물의 일부, 전자 보드(electronic board), 전자 사인 수신 장치(electronic signature receiving device), 프로젝터(projector), 또는 각종 계측 기기(예: 수도, 전기, 가스, 또는 전파 계측 기기 등) 중 적어도 하나를 포함할 수 있다. 다양한 실시예에서, 전자 장치는 전술한 다양한 장치들 중 하나 또는 그 이상의 조합일 수 있다. 어떤 실시예에 따른 전자 장치는 플렉서블 전자 장치일 수 있다. 또한, 본 개시의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않으며, 기술 발전에 따른 새로운 전자 장치를 포함할 수 있다.
이하, 첨부 도면을 참조하여, 다양한 실시예에 따른 전자 장치가 설명된다. 본 문서에서, 사용자라는 용어는 전자 장치를 사용하는 사람 또는 전자 장치를 사용하는 장치(예: 인공지능 전자 장치)를 지칭할 수 있다.
도 1은 본 발명의 다양한 실시예에 따른 복수의 어플리케이션을 실행하는 전자 장치(100)의 블록도를 도시한다. 도 1을 참조하면, 상기 전자 장치(100)는 처리 모듈(110), 수행 모듈(120) 및 표시 모듈(130)의 적어도 일부 또는 전체를 포함할 수 있다. 상기 전자 장치(100)에 포함된 처리 모듈(110), 수행 모듈(120) 및 표시 모듈(130)은 버스(bus)(미도시)를 통하여 서로 연결될 수 있다. 버스(미도시)는 구성요소들 간의 통신(예: 제어 메시지 및/또는 데이터)을 전달하는 회로를 포함할 수 있다.
전자 장치(100)는 복수의 어플리케이션들을 실행하고, 실행되는 복수의 어플리케이션들을 표시할 수 있다. 전자 장치(100)는 각각이 어플리케이션을 실행하는 윈도우를 표시할 수 있다. 전자 장치(100)는 복수의 어플리케이션을 실행하고, 사용자의 입력과 연관되는 제1 어플리케이션을 통해 사용자의 입력에 대응하는 태스크의 수행 결과가 상기 윈도우를 통해 표시될 수 있다.
본 발명의 다양한 실시예에 따른 상기 처리 모듈(110)은 전자 장치(100)에서 실행되는 복수의 어플리케이션 중 획득되는 사용자의 입력과 연관되는 제1 어플리케이션을 판단할 수 있다. 전자 장치(100)는 상기 복수의 어플리케이션을 통해 태스크를 수행하기 위한 사용자의 입력을 획득할 수 있다. 사용자의 입력은 터치 입력, 음성 입력, 제스처 입력 및 펜 입력 등 상기 전자 장치(100)의 입출력 인터페이스((미도시)를 통해 획득되는 모든 종류의 입력 중 적어도 하나를 포함할 수 있다.
상기 입출력 인터페이스는, 예를 들면, 사용자 또는 다른 외부 기기로부터 입력된 명령 또는 데이터를 상기 전자 장치(100)의 다른 구성요소(들)에 전달할 수 있는 인터페이스의 역할을 할 수 있다. 또한, 상기 입출력 인터페이스는 상기 전자 장치의 다른 구성요소(들)로부터 수신되는 명령 또는 데이터를 사용자 또는 다른 외부 기기로 출력할 수 있다.
다만, 사용자의 입력은 전자 장치(100)의 포어 그라운드에서 실행 중인 어플리케이션에서 지원하는 입력의 유형과는 상이한 유형의 입력일 수 있다. 예를 들어, 포어 그라운드에서 실행 중인 어플리케이션에서 터치 입력을 지원하는 경우, 사용자의 입력은 터치 입력을 제외한 나머지 종류의 입력 중 적어도 하나를 포함할 수 있다. 또한, 포어 그라운드에서 실행 중인 어플리케이션에서 음성 입력을 지원하는 경우, 사용자의 입력은 음성 입력을 제외한 나머지 종류의 입력 중 적어도 하나를 포함할 수 있다.
본 발명의 다양한 실시예에 따른 수행 모듈(120)은 상기 제1 어플리케이션을 통해 상기 사용자의 입력에 대응하는 태스크를 수행할 수 있다. 처리 모듈(110)은 상기 제1 어플리케이션을 판단하고, 상기 제1 어플리케이션으로 상기 사용자의 입력을 할당할 수 있다. 이를 통하여 수행 모듈(120)은 상기 제1 어플리케이션을 통해 상기 사용자의 입력에 대응하는 태스크를 백 그라운드에서 수행할 수 있다.
예를 들어, 수행 모듈(120)은 포어 그라운드에서 실행 중인 어플리케이션의 태스크를 유지하면서, 상기 제1 어플리케이션을 통해 상기 사용자의 입력에 대응하는 태스크를 백 그라운드에서 수행할 수 있다. 또한, 수행 모듈(120)은 제1 어플리케이션을 통해 태스크를 수행하기 위하여, 제1 어플리케이션을 선택하는 과정 없이, 상기 사용자의 입력에 대응하는 태스크를 수행할 수 있다.
본 발명의 다양한 실시예에 따른 표시 모듈(130)은 상기 사용자의 입력과 연관되는 제1 어플리케이션이 판단되지 않은 경우, 사용자에게 상기 사용자의 입력과 연관되는 상기 제1 어플리케이션을 선택하기 위한 팝업 윈도우를 표시할 수 있다. 예를 들어, 표시 모듈(130)은 상기 복수의 어플리케이션 모두를 선택할 수 있도록 팝업 윈도우를 표시할 수 있고, 상기 복수의 어플리케이션 중 적어도 일부를 선택할 수 있도록 팝업 윈도우를 표시할 수도 있다.
예를 들면, 표시 모듈(130)은 사용자에게 각종 콘텐츠(예: 텍스트, 이미지, 비디오, 아이콘 또는 심볼 등)를 표시할 수 있는 장치로서, 한 실시예에 따르면, 액정 디스플레이(LCD), 발광 다이오드(LED) 디스플레이, 유기 발광 다이오드(OLED) 디스플레이, 또는 마이크로 전자기계 시스템(micro electromechanical systems(MEMS)) 디스플레이, 또는 전자 종이(electronic paper) 디스플레이를 포함할 수 있다. 상기 디스플레이는, 터치 스크린을 포함할 수 있으며, 예를 들면, 전자 펜 또는 사용자의 신체의 일부를 이용한 터치, 제스처, 근접 또는 호버링 입력을 수신할 수 있다.
한 실시예에서, 처리 모듈(110)은 복수의 어플리케이션 각각에서 수행 가능한 태스크와 사용자의 입력이 매칭되어 전자 장치(100)의 메모리(미도시)에 저장된 데이터 베이스(DB: Database)를 이용하여 상기 제1 어플리케이션을 판단할 수 있다. 상기 데이터 베이스를 이용하여 상기 제1 어플리케이션을 판단하는 방법에 관하여서는 더욱 상세하게 후술하도록 한다.
한 실시예에서, 처리 모듈(110)은 전자 장치(100)의 카메라와 같은 영상 인식 장치를 통해 사용자의 시선을 추적하여, 상기 복수의 어플리케이션 중 상기 사용자의 시선이 향하는 어플리케이션을 검출할 수 있다. 처리 모듈(110)은 카메라를 통하여 사용자의 얼굴 영상 또는 양안의 영상을 획득하고, 전자 장치(100)와 사용자의 거리에 기초하여 사용자의 시선을 추적할 수 있다. 처리 모듈(110)은 상술한 바와 같이 사용자의 시선을 추적할 수도 있고, 시선 추적 모듈과 같은 별도의 모듈을 통해 사용자의 시선이 추적된 결과를 획득할 수도 있다.
처리 모듈(110)은 상술한 바와 같이 획득된 사용자의 시선이 추적된 결과를 이용하여, 사용자의 시선이 향하는 어플리케이션을 검출하고, 상기 제1 어플리케이션을 판단할 수 있다. 예를 들어, 처리 모듈(110)은 상기 사용자의 입력이 획득된 시점에서, 상기 복수의 어플리케이션 중 사용자의 시선이 향하는 것으로 검출된 어플리케이션을 상기 제1 어플리케이션으로 판단할 수 있다.
또한, 처리 모듈(110)은 미리 설정된 시간 동안 상기 사용자의 시선이 향하는 것으로 검출된 어플리케이션들의 검출 히스토리를 상기 전자 장치(101)의 메모리에 저장하도록 할 수 있다. 이를 통하여, 처리 모듈(110)은 어플리케이션의 검출 히스토리에 기초하여, 미리 설정된 시간 동안 상기 복수의 어플리케이션 중 사용자의 시선이 향하는 것으로 검출된 빈도수가 최대인 어플리케이션을 상기 제1 어플리케이션으로 판단할 수 있다. 사용자의 시선을 추적하여 상기 제1 어플리케이션을 판단하는 방법에 관하여서는 더욱 상세하게 후술하도록 한다.
한 실시예에서, 처리 모듈(110)은 미리 설정된 특정 어플리케이션을 지시하는 추가 입력을 통해 상기 제1 어플리케이션을 판단할 수 있다. 예를 들어, 처리 모듈(110)은 추가 입력이 지시하는 특정 어플리케이션을 제1 어플리케이션으로 판단할 수 있다. 추가 입력은 상기 사용자의 입력이 획득되는 시점에서 획득될 수 있으며, 각 입력 유형에 따라 특정 어플리케이션을 각각 지시하도록 미리 설정될 수 있다. 또한, 추가 입력은 상기 사용자의 입력과 동일한 입력 유형일 수도 있고, 상이한 입력 유형일 수도 있다.
예를 들어, 전자 장치(100)의 입출력 인터페이스를 통해 사용자의 입력으로 "PLAY"라는 음성 입력과 추가 입력으로 "MUSIC"이라는 음성 입력으로 획득할 수 있다. 이 경우, 처리 모듈(110)은 "MUSIC"이라는 추가 입력이 지시하는 뮤직 플레이어 어플리케이션에서 "PLAY"라는 사용자의 입력에 대응하는 뮤직 플레이어를 실행하는 태스크를 수행할 수 있다. 추가 입력을 통해 상기 제1 어플리케이션을 판단하는 방법에 대해서는 더욱 상세하게 후술하도록 한다.
한 실시예에서, 처리 모듈(110)은 표시 모듈(130)을 통해 표시된 상기 제1 어플리케이션을 선택하기 위한 팝업 윈도우를 통해 사용자가 선택한 어플리케이션을 상기 제1 어플리케이션으로 판단할 수 있다. 처리 모듈(110)이 상기 사용자의 입력을 통해 상기 제1 어플리케이션을 판단할 수 없는 경우, 처리 모듈(110)은 사용자의 선택을 통해 상기 제1 어플리케이션을 판단할 수 있다.
처리 모듈(110) 및/또는 수행 모듈(120)은, 중앙처리장치(central processing unit(CPU)), 어플리케이션 프로세서(application processor(AP)), 또는 커뮤니케이션 프로세서(communication processor(CP)) 중 하나 또는 그 이상을 포함할 수 있다. 처리 모듈(110) 및/또는 수행 모듈(120)은, 예를 들면, 전자 장치(100)의 적어도 하나의 다른 구성요소들의 제어 및/또는 통신에 관한 연산이나 데이터 처리를 실행할 수 있다. 처리 모듈(110) 및/도는 수행 모듈(120)은 제어부(controller)라고 칭하거나, 제어부를 그 일부로서 포함할 수도 있다.
처리 모듈(110) 및/또는 수행 모듈(120)은, 예를 들면, 전자 장치(100)의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 처리하는 프로그램 또는 어플리케이션을 실행할 수 있다. 프로그램은, 예를 들면, 커널, 미들웨어, 어플리케이션 프로그래밍 인터페이스(application programming interface(API)), 및/또는 어플리케이션 프로그램(또는 "어플리케이션") 등을 포함할 수 있다. 커널, 미들웨어, 또는 API의 적어도 일부는, 운영 시스템(operating system(OS))라 불릴 수 있다. 커널은, 예를 들면, 다른 프로그램들(예: 미들웨어, API, 또는 어플리케이션 프로그램)에 구현된 동작 또는 기능을 실행하는 데 사용되는 시스템 리소스들(예: 버스, 처리 모듈(110), 수행 모듈(120) 또는 메모리 등)을 제어 또는 관리할 수 있다. 또한, 커널은 미들웨어, API, 또는 어플리케이션 프로그램에서 전자 장치(100)의 개별 구성요소에 접근함으로써, 시스템 리소스들을 제어 또는 관리할 수 있는 인터페이스를 제공할 수 있다. 미들웨어는, 예를 들면, API 또는 어플리케이션 프로그램이 상기 커널과 통신하여 데이터를 주고받을 수 있도록 중개 역할을 수행할 수 있다. 또한, 상기 미들웨어는 상기 어플리케이션 프로그램으로부터 수신된 작업 요청들과 관련하여, 예를 들면, 상기 어플리케이션 프로그램 중 적어도 하나의 어플리케이션에 전자 장치(100)의 시스템 리소스를 사용할 수 있는 우선 순위를 배정하는 등의 방법을 이용하여 작업 요청에 대한 제어(예: 스케쥴링 또는 로드 밸런싱)을 수행할 수 있다.
상기 API는, 예를 들면, 상기 어플리케이션이 상기 커널 또는 상기 미들웨어에서 제공되는 기능을 제어하기 위한 인터페이스로, 예를 들면, 파일 제어, 윈도우 제어, 화상 처리, 또는 문제 제어 등을 위한 적어도 하나의 인터페이스 또는 함수(예: 명령어)를 포함할 수 있다. 본 명세서에서, 어플리케이션은 어플리케이션 프로그램이라고 칭할 수도 있다.
도 2는 본 발명의 다양한 실시예에 따른 복수의 어플리케이션을 실행하는 전자 장치의 제어 방법을 설명하는 흐름도이다.
210 과정에서, 복수의 어플리케이션을 실행하는 전자 장치(100)는 획득되는 사용자의 입력과 연관되는 제1 어플리케이션을 판단할 수 있다. 전자 장치(100)는 실행되는 복수의 어플리케이션을 표시할 수 있다. 전자 장치(100)는 멀티 태스킹을 위하여 실행되고 있는 복수의 어플리케이션 중 획득되는 사용자의 입력과 연관되는 제1 어플리케이션을 판단할 수 있다.
예를 들어, 전자 장치(100)는 복수의 어플리케이션 각각에서 수행되는 태스크와 사용자의 입력이 매칭되어 저장된 데이터베이스를 이용하여 상기 제1 어플리케이션을 판단할 수 있다. 또한, 전자 장치(100)는 사용자의 시선을 추적하여 상기 제1 어플리케이션을 판단할 수 있다. 더불어, 사용자로부터 특정 어플리케이션을 지시하는 추가 입력을 획득하여 상기 제1 어플리케이션을 판단할 수 있으며, 사용자의 선택에 의해 상기 제1 어플리케이션을 판단할 수도 있다. 상기 제1 어플리케이션을 판단하는 방법은 도 3을 통해 더욱 상세하게 설명하도록 한다.
220 과정에서, 전자 장치(100)는 상기 제1 어플리케이션을 통해 상기 사용자의 입력에 대응되는 태스크를 수행할 수 있다. 전자 장치(100)는 상기 제1 어플리케이션으로 상기 사용자의 입력을 할당하고, 상기 제1 어플리케이션을 통해 상기 태스크를 수행할 수 있다.
이를 통하여, 전자 장치(100)는 현재 태스크가 수행 중인 어플리케이션 외에 다른 어플리케이션에서 태스크를 수행하기 위하여, 태스크의 수행을 유지하면서 다른 어플리케이션에서 태스크를 수행할 수 있다. 또한, 전자 장치(100)는 획득되는 사용자의 입력과 연관되는 제1 어플리케이션을 판단함으로써, 사용자가 상기 제1 어플리케이션을 선택하지 않아도 상기 제1 어플리케이션을 통해 상기 사용자의 입력에 대응되는 태스크를 수행할 수 있다.
도 3은 일 실시예에 의한 사용자의 입력과 연관되는 제1 어플리케이션을 판단하는 과정을 설명하는 흐름도이다.
310 과정에서, 전자 장치(100)는 복수의 어플리케이션 각각에서 수행되는 태스크와 사용자의 입력이 매칭되어 메모리에 저장된 데이터베이스(DB)를 이용하여 상기 제1 어플리케이션이 판단이 가능한지를 확인할 수 있다.
하나의 실시예에서, 전자 장치(100)는 표 1과 같은 복수의 어플리케이션 각각에서 수행 가능한 태스크와 사용자의 입력이 매칭된 데이터 베이스를 저장할 수 있다.
어플리케이션 태스크 사용자 입력
제1 어플리케이션 제1 태스크 제1 사용자 입력
제2 어플리케이션 제2 태스크 제2 사용자 입력
제3 어플리케이션 제3 태스크 제3 사용자 입력
예를 들어, 전자 장치(100)는, 제2 사용자 입력을 획득하면, 이에 대응하는 어플리케이션이 제2 어플리케이션인 것으로 판단할 수 있다. 전자 장치(100)는, 확인된 제2 어플리케이션을 통하여 제2 태스크를 수행할 수 있다. 특히, 전자 장치(100)는, 제1 어플리케이션이 포어 그라운드에서 실행되는 중에도, 제2 사용자 입력의 획득에 따라 제2 태스크를 백 그라운드에서 수행할 수 있다.
다른 실시예에서, 데이터베이스는 전자 장치(100)에서 실행되는 어플리케이션에서 수행 가능한 태스크 별 또는 태스크 셋 별로 사용자의 입력이 매칭되어 표 2와 같이 저장할 수 있다.
어플리케이션 어플리케이션 내의 스크린 태스크 사용자의 입력
제1 어플리케이션 제1 스크린 제1 태스크 제1 사용자의 입력
제2 태스크 제2 사용자의 입력
제3 사용자의 입력
... ...
제2 스크린 제1 태스크 제4 사용자의 입력
제5 사용자의 입력
제6 사용자의 입력
제2 태스크
 제7 사용자의 입력
제8 사용자의 입력
... 태스크 ... 사용자의 입력
... 스크린 ... 태스크 ... 사용자의 입력
제2 어플리케이션 제1 스크린 제1 태스크 제9 사용자의 입력
... ... ... ...
제N 어플리케이션
 제1 스크린 제1 태스크 제10 사용자의 입력
... 스크린 ... 태스크 ... 사용자의 입력
표 2를 참조하면, 전자 장치(101)는 전자 장치(100)에서 실행되고 있는 각각의 어플리케이션에서 제공되는 스크린 별로 수행 가능한 태스크가 구분된 데이터 베이스를 포함할 수 있다. 여기에서, 스크린은 어플리케이션 실행 화면을 명명할 수 있다. 예를 들어, 제1 어플리케이션은 제1 스크린을 표시하거나 또는 제2 스크린을 표시할 수 있다. 또한, 동일한 어플리케이션이 실행되더라도, 스크린에 따라 사용자의 입력에 매칭되는 태스크 또는 태스크 셋이 다르게 저장될 수 있다. 각각의 태스크는 적어도 하나의 사용자의 입력과 매칭되어 저장될 수 있다. 예를 들어, 제1 어플리케이션의 제2 스크린에서 수행되는 제1 태스크는 제4 사용자 입력, 제5 사용자 입력 및 제6 사용자 입력 중 적어도 하나와 매칭될 수 있다.
예를 들어, 전자 장치(100)는 제1 사용자 입력을 획득하면, 이에 매칭되는 제1 어플리케이션의 제1 스크린에서 수행되는 제1 태스크를 검색할 수 있다. 이를 통해 전자 장치(100)는 제1 어플리케이션을 제1 사용자의 입력과 연관되는 어플리케이션으로 판단할 수 있다.
어플리케이션이 추가적으로 실행되는 경우, 추가되는 어플리케이션에서 수행 가능한 태스크 별로 매칭되는 사용자의 입력이 업데이트될 수 있다. 또한 추가되는 어플리케이션에서 수행되는 태스크와 매칭되는 사용자의 입력을 획득할 수 있도록, 전자 장치(100)는 관련 센서 등을 작동시키고, 센서 허브(저전력 센서 컨트롤) 등을 통해 저전력으로 주기적인 사용자 입력을 센싱하여 획득 할 수 있게 한다.
또한, 전자 장치(100) 상기 사용자의 입력이 매칭되는 태스크의 검색 속도를 향상시키기 위하여, 현재 실행 중인 복수의 어플리케이션들에서 표시되는 스크린의 변경에 따라 실시간으로 전체 데이터 베이스 중 필요한 데이터를 필터링 할 수 있다. 예를 들어, 전자 장치(100)는 A 어플리케이션에서 제1 화면이 표시되고 있는 경우, 제1 화면에 관련된 데이터를 제외한 나머지 데이터들, 예를 들어 제2 화면에 관련된 데이터, 제3 화면에 관련된 데이터 등을 필터링 할 수 있다. 이를 통하여, 전자 장치(100)는 상기 사용자의 입력이 매칭되는 태스크의 검색 속도를 향상시킬 수 있다.
한편, 다른 실시예에서는, 전자 장치(100)는 저장된 모든 어플리케이션, 태스크 및 사용자의 입력 사이의 연관성에 대한 데이터 베이스를 저장할 수도 있다. 전자 장치(100)는 저장된 데이터 베이스를 이용하여, 획득된 사용자의 입력과 연관되는 어플리케이션을 판단할 수도 있다.
전자 장치(100)는 상기 데이터 베이스를 이용하여 상기 사용자의 입력이 매칭되는 태스크를 검색할 수 있다. 검색된 태스크가 하나이거나, 복수의 태스크가 검색되더라도, 검색된 복수의 태스크가 하나의 어플리케이션에서 수행되는 경우, 전자 장치(100)는 상기 제1 어플리케이션을 상기 데이터 베이스를 이용하여 판단할 수 있다.
다만, 복수의 태스크가 검색되고, 검색된 복수의 태스크를 수행하는 어플리케이션이 복수인 경우, 전자 장치(100)는 상기 제1 어플리케이션을 상기 데이터 베이스를 이용하여 판단하지 못할 수 있다. 따라서, 전자 장치(100)는 상기 데이터 베이스를 이용하여 획득되는 사용자의 입력과 매칭되는 태스크를 검색함으로써, 상기 제1 어플리케이션이 판단 가능한지를 확인할 수 있다.
한편, 다른 실시예에서는, 검색된 복수의 태스크를 수행하는 어플리케이션이 복수인 경우에는, 전자 장치(100)는 복수 어플리케이션 모두를 상기 사용자의 입력과 연관되는 어플리케이션으로 판단하고, 상기 복수의 어플리케이션 각각이 태스크를 수행하도록 제어할 수도 있다.
또 다른 실시예에서는, 전자 장치(100)는 데이터 베이스를 이용하여 획득된 사용자의 입력에 대응하는 어플리케이션을 직접 판단할 수도 있다. 예를 들어, 전자 장치(100)는 획득된 사용자의 명령에 대응하는 태스크를 검색하는 과정을 거치지 않고, 상기 사용자의 입력과 연관되는 어플리케이션을 직접 판단할 수 있다.
311 과정에서, 전자 장치(100)가 상기 데이터 베이스를 이용하여 상기 제1 어플리케이션이 판단 가능한 경우, 전자 장치(100)는 상기 데이터 베이스 및 획득된 사용자의 입력에 기초하여 상기 제1 어플리케이션을 판단할 수 있다. 전자 장치(100)는 상술한 바와 같이 데이터 베이스를 이용하여, 획득되는 사용자의 입력이 매칭되는 태스크를 검색할 수 있다. 전자 장치(100)는 검색된 태스크가 수행되는 어플리케이션을 상기 제1 어플리케이션으로 판단할 수 있다.
예를 들어, 전자 장치(100)가 사용자로부터 "STOP"이라는 음성 입력을 획득하는 경우, 상기 데이터 베이스를 이용하여 "STOP"이라는 음성 입력과 매칭되는 태스크를 검색할 수 있다. 상기 "STOP"이라는 음성 입력과 매칭되는 태스크가 검색되고, 상기 태스크를 수행하는 어플리케이션이 뮤직 플레이어 어플리케이션인 경우, 상기 뮤직 플레이어 어플리케이션을 상기 제1 어플리케이션으로 판단할 수 있다.
다른 실시예에서는, 상기 "STOP"이라는 음성 입력과 매칭되는 태스크가 검색되고, 상기 태스크를 수행하는 어플리케이션이 뮤직 플레이어 어플리케이션 및 미디어 플레이어 어플리케이션인 경우, 전자 장치(100)는 상기 뮤직 플레이어 어플리케이션 및 미디어 플레이어 어플리케이션 모두를 상기 제1 어플리케이션으로 판단할 수 있다.
또 다른 실시예에서는, 전자 장치는 상기 "STOP"이라는 음성 입력과 매칭되는 태스크를 검색하는 과정 없이, 상기 "STOP"이라는 음성 입력에 대응하는 어플리케이션을 결정할 수 있다. 전자 장치(100)는 결정된 어플리케이션을 상기 제1 어플리케이션으로 판단할 수 있다.
320 과정에서, 전자 장치(100)가 상기 데이터 베이스를 이용하여 상기 제1 어플리케이션이 판단 가능하지 않은 경우, 전자 장치(100)는 사용자의 시선을 추적할 수 있다. 전자 장치(100)는 카메라를 통해 사용자의 얼굴 영상 또는 양안의 영상을 획득할 수 있다. 전자 장치(100)는 획득된 사용자의 얼굴 영상 또는 양안의 영상 및 전자 장치(100)와 사용자의 거리에 기초하여 사용자의 시선을 추적할 수 있다.
330 과정에서, 전자 장치(100)는 추적된 사용자의 시선을 이용하여 상기 제1 어플리케이션이 판단 가능한지를 확인할 수 있다. 전자 장치(100)는 추적된 사용자의 시선이 향하는 어플리케이션을 검출할 수 있다. 전자 장치(100)는 상술한 바와 같이 사용자의 시선을 추적하여 검출된 어플리케이션을 획득된 사용자의 입력과 연관되는 제1 어플리케이션으로 판단할 수 있다.
다만, 사용자의 시선을 추적하여 검출된 어플리케이션이 현재 태스크가 수행 중인 어플리케이션이거나, 사용자의 시선의 움직임이 미리 설정된 임계치보다 작거나, 사용자가 전자 장치(100)가 아닌 다른 곳을 응시하고 있는 경우 등과 같이 전자 장치(100)가 사용자의 시선을 추적하더라도 상기 제1 어플리케이션을 판단하지 못할 수 있다. 따라서, 전자 장치(100)는 사용자의 시선을 추적하고, 추적된 사용자의 시선을 통해 상기 제1 어플리케이션이 판단 가능한지를 확인할 수 있다.
331 과정에서, 추적된 사용자의 시선을 통해 상기 제1 어플리케이션이 판단 가능한 경우, 전자 장치(100)는 추적된 사용자의 시선을 이용하여 상기 제1 어플리케이션을 판단할 수 있다. 예를 들어, 전자 장치(100)는 상기 사용자의 입력이 획득된 시점에서, 상기 복수의 어플리케이션 중 상기 사용자의 시선이 향하는 것으로 검출된 어플리케이션을 상기 제1 어플리케이션으로 판단할 수 있다. 또한, 전자 장치(100)는 추적된 사용자의 시선을 이용하여 상기 제1 어플리케이션을 판단하기 위하여, 미리 설정된 시간 동안 추적된 사용자의 시선이 향하는 것으로 검출된 어플리케이션들의 검출 히스토리를 상기 전자 장치(100)의 메모리에 저장할 수 있다. 전자 장치(100)는 상기 검출 히스토리에 기초하여, 상기 사용자의 시선이 향하는 것으로 검출된 빈도 수가 최대인 어플리케이션을 상기 제1 어플리케이션으로 판단할 수 있다. 전자 장치(100)가 상기 검출 히스토리에 기초하여 상기 제1 어플리케이션을 판단하는 구체적인 방법에 대해서는 도 4에서 더욱 상세히 후술하도록 한다.
340 과정에서, 추적된 사용자의 시선을 통해 상기 제1 어플리케이션이 판단 가능하지 않은 경우, 전자 장치(100)는 상기 제1 어플리케이션 선택을 위한 팝업 윈도우를 상기 전자 장치(100)의 디스플레이에 표시할 수 있다. 이를 통해 사용자의 입력이 상기 복수의 어플리케이션 중 어느 어플리케이션에서 수행되어야 하는 지를 결정하기 위하여, 전자 장치(100)는 상기 팝업 윈도우를 통해 사용자의 선택을 입력 받을 수 있다. 또한, 사용자의 선택을 입력 받기 위하여 상술한 바와 같이 팝업 윈도우를 디스플레이에 표시할 수도 있고, 스피커를 통해 상기 제1 어플리케이션을 선택하기 위한 음성을 출력할 수도 있다.
350 과정에서, 전자 장치(100)는 상기 340 과정에서 표시된 팝업 윈도우를 통해 선택된 어플리케이션을 상기 제1 어플리케이션으로 판단할 수 있다. 또한 전자 장치(100)가 스피커를 통해 상기 제1 어플리케이션 선택을 선택하기 위한 음성을 출력한 경우, 전자 장치(100)는 사용자로부터 상기 제1 어플리케이션 선택을 나타내는 음성 입력을 수신하고, 수신된 음성 입력에 기초하여 선택된 어플리케이션을 상기 제1 어플리케이션으로 판단할 수 있다.
상술한 바와 같이 전자 장치(100)는 상기 사용자의 입력과 연관되는 제1 어플리케이션을 판단하는 과정을 순차적으로 수행할 수도 있으나, 순서에 상관없이 수행할 수도 있다. 예를 들어, 전자 장치(100)는 상기 데이터 베이스를 이용하지 않고, 우선적으로 추적된 사용자의 시선을 추적하여 상기 제1 어플리케이션을 판단할 수도 있다. 또한 전자 장치(100)는 사용자의 입력이 획득되는 경우 상기 팝업 윈도우를 우선적으로 제공하여 상기 제1 어플리케이션을 판단할 수도 있다.
또한, 도 3에서는 도시되지 않았으나, 전자 장치(100)는 미리 설정된 특정 어플리케이션을 지시하는 추가 입력을 더 획득하고, 상기 추가 입력이 지시하는 특정 어플리케이션을 상기 제1 어플리케이션으로 판단할 수도 있다. 전자 장치(100)가 추가 입력을 통하여 상기 제1 어플리케이션을 판단하는 방법에 대해서는 더욱 상세하게 후술하도록 한다.
도 4는 일 실시예에 의한 추적된 사용자의 시선을 이용하여 제1 어플리케이션을 판단하는 단계를 설명하는 흐름도이다.
410 과정에서, 전자 장치(100)는 사용자의 시선을 추적하여, 사용자의 시선이 향하는 어플리케이션을 검출할 수 있다. 상술한 바와 같이 전자 장치(100)는 획득된 사용자의 얼굴 영상 또는 양안의 영상 및 전자 장치(100)와 사용자의 거리에 기초하여 사용자의 시선을 추적할 수 있다. 이를 통하여 전자 장치(100)는 사용자의 시선이 디스플레이의 어느 지점에 향하는 지를 검출할 수 있고, 사용자의 시선이 향하는 지점에 표시되는 어플리케이션 역시 검출할 수 있다.
420 과정에서, 전자 장치(100)는 미리 설정된 시간 동안 사용자의 시선이 향하는 것으로 검출된 어플리케이션들의 검출 히스토리를 저장할 수 있다. 상기 사용자의 입력이 획득된 시점에서, 사용자의 시선이 향하는 것으로 검출된 어플리케이션을 상기 제1 어플리케이션으로 판단할 수도 있으나, 이 경우 사용자의 의도와 다른 어플리케이션을 상기 제1 어플리케이션으로 판단할 수 있다. 따라서, 보다 정확하게 상기 제1 어플리케이션을 판단하기 위하여, 전자 장치(100)는 미리 설정된 시간 동안 사용자의 시선이 향하는 것으로 검출된 어플리케이션들의 검출 히스토리를 저장할 수 있다.
예를 들어, 미리 설정된 시간 동안 A 어플리케이션에 사용자의 시선이 향한 것으로 검출된 횟수가 7번이고, B 어플리케이션에 사용자의 시선이 향하는 것으로 검출된 횟수가 2번이고, C 어플리케이션에 사용자의 시선이 향하는 것으로 검출된 횟수가 1번인 경우, 전자 장치(100)는 각 어플리케이션에 따라 검출된 횟수를 검출 히스토리로 저장할 수 있다.
또한, 전자 장치(100)는 검출 히스토리에 현재 태스크가 수행 중인 어플리케이션과의 연관 관계를 추가적으로 저장할 수 있다. 예를 들어, 전자 장치(100)는 현재 태스크가 수행 중인 어플리케이션이 A 어플리케이션인 경우 또는 B 어플리케이션인 경우에 따라, 사용자의 시선이 향한 것으로 검출된 횟수를 구분하여 저장할 수 있다. 이를 통하여 전자 장치(100)는 각 어플리케이션과의 상관 관계를 도출하여 상기 제1 어플리케이션 판단에 이용할 수 있다.
430 과정에서, 전자 장치(100)는 검출된 빈도수가 최대인 어플리케이션을 상기 제1 어플리케이션으로 판단할 수 있다. 이를 통하여, 전자 장치(100)는 상기 사용자의 입력이 획득된 시점에서, 사용자의 시선이 향하는 것으로 검출된 어플리케이션을 상기 제1 어플리케이션으로 판단하는 것에 비하여 보다 정확하게 상기 제1 어플리케이션을 판단할 수 있다.
또한, 전자 장치(100)는 상기 검출 히스토리에 기초하여, 현재 태스크가 수행 중인 어플리케이션이 A 어플리케이션인 경우, 검출된 총 빈도수와 관계 없이 상기 A 어플리케이션과 각 어플리케이션과의 상관 관계를 고려하여 상기 제1 어플리케이션을 판단할 수 있다.
예를 들어, 사용자의 시선이 향하는 것으로 검출된 횟수가 A 어플리케이션이 2번, B 어플리케이션이 4번, C 어플리케이션이 7번이고, A 어플리케이션에서 현재 태스크가 수행 중인 경우, 사용자의 시선이 향하는 것으로 검출된 횟수가 B 어플리케이션은 3번, C 어플리케이션인 1번인 경우 하기와 같이 제1 어플리케이션이 판단될 수 있다. 전자 장치(100)는 현재 태스크가 수행 중인 어플리케이션이 A 어플리케이션인 경우에 사용자의 시선이 향하는 것으로 검출된 빈도가 가장 많은 B 어플리케이션을 상기 제1 어플리케이션으로 판단할 수 있다. 검출된 총 빈도수는 C 어플리케이션이 더 많더라도, A 어플리케이션과의 상관 관계를 고려하여 상기 B 어플리케이션을 획득된 사용자의 입력과 연관되는 제1 어플리케이션으로 판단할 수 있다.
도 5는 일 실시예에 의한 태스크 처리 과정을 나타내는 개념도이다.
도 5(a)와 같이 전자 장치(100)는 A 어플리케이션과 B 어플리케이션을 동시에 실행할 수 있고, A 어플리케이션과 B 어플리케이션은 각각이 실행되는 윈도우를 통해 표시될 수 있다. 도 5(a)에서는, 전자 장치(100)가 A 어플리케이션을 통해 태스크를 수행하고 있는 경우를 도시한다.
도 5(a)와 같이 전자 장치(100)가 A 어플리케이션을 통해 태스크를 수행하고 있는 경우, B 어플리케이션과 관련되는 사용자의 입력이 획득될 수 있다. 이 경우 전자 장치(100)는 획득되는 사용자의 입력이 B 어플리케이션과 관련된 것으로 판단하고, 도 5(b)와 같이 A 어플리케이션을 통해 수행되고 있는 태스크를 중단 없이 유지하면서 B 어플리케이션을 통해 상기 사용자의 입력에 대응하는 태스크를 수행할 수 있다.
상술한 바와 같이 전자 장치(100)는 획득되는 사용자의 입력에 대응되는 태스크를 B 어플리케이션을 통해 수행하기 위하여, B 어플리케이션을 선택하는 과정을 거치지 않을 수 있다.
도 5(c)에서는 전자 장치(100)가 상기 사용자의 입력에 대응하는 태스크가 B 어플리케이션을 통해 수행한 후, A 어플리케이션을 통한 태스크가 계속적으로 수행되는 경우를 도시한다. 이와 같이 전자 장치(100)는 A 어플리케이션을 통한 태스크의 수행을 유지하면서 B 어플리케이션을 통한 태스크를 수행할 수 있다.
도 6은 일 실시예에 의한 태스크 처리 과정을 도시한다.
도 6(a)에서와 같이 전자 장치(100)는 A 어플리케이션, B 어플리케이션 및 C 어플리케이션을 동시에 실행할 수 있고, A 어플리케이션, B 어플리케이션 및 C 어플리케이션은 각각이 실행되는 윈도우를 통해 표시될 수 있다.
도 6(b)에서는 사용자가 추가적으로 D 어플리케이션을 실행하는 경우, 전자 장치(100)는 D 어플리케이션을 호출하고, D 어플리케이션이 실행되는 윈도우를 추가적으로 표시하는 경우를 도시한다. 또한, 도 6(b)에서는, 전자 장치(100)가 새롭게 추가된 D 어플리케이션을 통해 태스크를 수행하고 있는 경우를 도시한다.
도 6(b)와 같이 전자 장치(100)가 D 어플리케이션을 통해 태스크를 수행하고 있는 경우, A 어플리케이션과 관련되는 사용자의 입력이 획득될 수 있다. 이 경우 전자 장치(100)는 획득되는 사용자의 입력이 현재 전자 장치(100)에서 실행 중인 복수의 어플리케이션 중 어느 어플리케이션에 연관되는지를 판단할 수 있다. 전자 장치(100)가 상기 사용자의 입력과 연관되는 제1 어플리케이션을 판단하는 과정은 도 3에서 설명한 판단 과정이 적용될 수 있다.
도 6(c)에서는, 전자 장치(100)가 상기 사용자의 입력이 A 어플리케이션과 연관되는 것으로 판단하고, A 어플리케이션을 통해 상기 사용자의 입력에 대응하는 태스크를 수행하는 경우를 도시한다. 이와 같이 전자 장치(100)는 A 어플리케이션을 통해 상기 사용자의 입력에 대응하는 태스크를 수행하기 위하여, A 어플리케이션을 선택하는 과정을 거치지 않을 수 있다.
도 6(d)에서는 전자 장치(100)가 상기 사용자의 입력에 대응하는 태스크를 A 어플리케이션을 통해 수행 한 후, D 어플리케이션을 통한 태스크가 지속적으로 수행되는 경우를 도시한다. 이와 같이 전자 장치(100)는 D 어플리케이션을 통한 태스크 수행의 중단 없이 A 어플리케이션을 통한 태스크를 수행할 수 있다.
도 7은 일 실시예에 의한 사용자에 의해 선택된 어플리케이션을 통해 태스크 처리 과정을 도시한다.
도 7(a)에서와 같이, 전자 장치(100)에서 A 어플리케이션, B 어플리케이션, C 어플리케이션 및 D 어플리케이션이 실행되고, 각각의 어플리케이션이 윈도우를 통해 표시될 수 있다. 이 경우, A 어플리케이션, B 어플리케이션 및 C 어플리케이션 중 하나의 어플리케이션과 연관되는 사용자의 입력이 전자 장치(100)를 통해 획득될 수 있다.
도 5 및 도 6에서 설명한 바와 같이, 상기 사용자의 입력과 연관되는 A 어플리케이션을 전자 장치(100)가 판단 가능한 경우, 도 7(c)와 같이 전자 장치(100)가 A 어플리케이션을 통해 상기 사용자의 입력에 대응하는 태스크를 수행할 수 있다.
다만, 상기 사용자의 입력과 연관되는 A 어플리케이션을 전자 장치(100)가 판단할 수 없는 경우, 도 7(b)와 같이 전자 장치(100)는 사용자에게 제1 어플리케이션을 선택 받기 위하여, 스피커를 통해 상기 제1 어플리케이션을 선택 받기 위한 음성을 출력할 수 있다.
사용자는 전자 장치(100)를 통해 상기 어플리케이션을 선택 받기 위한 음성이 출력되는 경우, A 어플리케이션, B 어플리케이션 및 C 어플리케이션 중 상기 제1 어플리케이션을 음성 입력을 통해 선택할 수 있다. 전자 장치(100)는 사용자로부터 상기 음성 입력을 획득하고, 상기 음성 입력 기초하여 상기 제1 어플리케이션을 판단할 수 있다.
예를 들어, 도 7(b)에서, 전자 장치(100)는 상기 제1 어플리케이션이 A 어플리케이션, B 어플리케이션 및 C 어플리케이션인지의 선택을 요구하는 음성을 출력할 수 있다. 사용자는 전자 장치(100)에서 출력된 음성을 듣고, 상기 제1 어플리케이션을 A 어플리케이션으로 선택하기 위하여, "A 어플리케이션"이라는 음성 입력을 전자 장치(100)로 제공할 수 있다. 전자 장치(100)는 사용자로부터 제공된 상기 음성 입력에 기초하여, 상기 제1 어플리케이션을 A 어플리케이션으로 판단할 수 있다. 그 후, 전자 장치(100)는 도 7(c)와 같이 A 어플리케이션을 통해 상기 사용자의 입력에 대응하는 태스크를 수행할 수 있다.
도 7에서는 전자 장치(100)는 사용자로부터 추가적인 음성 입력을 수신한다. 다만, 상기 추가적인 음성 입력은 A 어플리케이션을 직접적으로 선택하는 것이 아니고, 전자 장치(100)가 상기 사용자의 입력과 연관되는 어플리케이션을 판단하는 데에 이용될 뿐이다. 따라서, 도 7에서도 전자 장치(100)는 A 어플리케이션을 선택하는 과정을 거치지 않고, D 어플리케이션을 통해 수행되는 태스크를 유지하면서 A 어플리케이션을 통해 사용자의 입력에 대응하는 태스크를 수행할 수 있다.
도 8은 일 실시예에 의한 제제1 어플리케이션 선택을 위한 팝업 윈도우의 제공을 통해 태스크를 처리하는 과정을 도시한다.
전자 장치(100)가 획득되는 사용자의 입력과 연관되는 제1 어플리케이션을 판단할 수 있는 경우, 도 8(c)와 같이 전자 장치(100)가 A 어플리케이션을 통해 상기 사용자의 입력에 대응하는 태스크를 수행할 수 있다.
다만, 도 7과 마찬가지로, 도 8(a)에서와 같이 전자 장치(100)에서 A 어플리케이션, B 어플리케이션, C 어플리케이션 및 D 어플리케이션이 실행되는 중, 획득되는 사용자의 입력이 어느 어플리케이션과 연관되는지 전자 장치(100)가 판단할 수 없는 경우가 발생할 수 있다.
이 경우, 도 7과는 달리, 도 8(b)에서는 전자 장치(100)가 사용자로부터 상기 사용자의 입력과 연관되는 제1 어플리케이션을 선택 받기 위하여, 스피커를 통한 음성 출력이 아닌, 제1 어플리케이션을 선택 받기 위한 팝업 윈도우(810)를 제공하는 경우를 도시한다.
사용자는 전자 장치(100)에서 상기 팝업 윈도우(810)가 표시된 경우, 상기 팝업 윈도우(810)를 통해 상기 제1 어플리케이션을 선택할 수 있다. 전자 장치(100)는 상기 팝업 윈도우(810)를 통해 획득되는 입력에 기초하여, 상기 제1 어플리케이션을 판단할 수 있다.
예를 들어, 도 8(b)에서 사용자가 제1 어플리케이션을 A 어플리케이션으로 선택하기 위하여, 팝업 윈도우(810) 상에 표시되는 A 어플리케이션 아이콘을 터치할 수 있다. 전자 장치(100)는 사용자의 A 어플리케이션 아이콘 터치를 통해 획득되는 터치 입력에 기초하여, 상기 제1 어플리케이션을 A 어플리케이션으로 판단할 수 있다. 그 후, 전자 장치(100)는 도 8(c)와 같이 A 어플리케이션을 통해 상기 사용자의 입력에 대응하는 태스크를 수행할 수 있다.
도 8에서는 전자 장치(100)가 팝업 윈도우(810)를 통해 사용자로부터 추가적인 터치 입력을 수신하는 경우를 도시한다. 다만, 도 7과 마찬가지로, 상기 추가적인 터치 입력은 A 어플리케이션을 직접적으로 선택하는 것이 아니고, 전자 장치(100)가 상기 제1 어플리케이션을 판단하는 데에 이용될 뿐이다. 따라서, 도 8에서도 전자 장치(100)는 A 어플리케이션을 선택하는 과정을 거치지 않고, D 어플리케이션을 통해 수행되는 태스크를 유지하면서 A 어플리케이션을 통해 상기 사용자의 입력에 대응하는 태스크를 수행할 수 있다.
도 9는 일 실시예에 의한 태스크의 처리 과정을 도시한다.
도 5 내지 도 8에서 도시된 바와 같이, 전자 장치(100)는 복수의 어플리케이션 각각이 실행되는 윈도우가 디스플레이에 중첩되지 않게 분할하여 표시할 수도 있으나, 전자 장치(100)는 복수의 어플리케이션 각각이 실행되는 윈도우의 적어도 일부분을 중첩하여 표시할 수 있다.
도 9(a)과 같이 전자 장치(100)는 실행되고 있는 A 어플리케이션, B 어플리케이션, C 어플리케이션,D 어플리케이션 및 E 어플리케이션 각각이 실행되는 윈도우를 표시 순위에 기초하여 중첩되게 표시할 수 있다. 현재 태스크가 수행 중인 A 어플리케이션이 실행되는 윈도우가 나머지 어플리케이션이 실행되는 윈도우 보다 높은 표시 순위를 부여하여 상위에 표시할 수 있다. A 어플리케이션을 통해 태스크를 수행되고 있는 중에, 전자 장치(100)는 D 어플리케이션과 연관되는 사용자의 입력을 획득할 수 있다. 이 경우 전자 장치(100)는 획득되는 사용자의 입력이 현재 전자 장치(100)에서 실행 중인 복수의 어플리케이션 중 어느 어플리케이션에 연관되는 지를 판단할 수 있다. 전자 장치(100)가 상기 사용자의 입력과 연관되는 제1 어플리케이션을 판단하는 과정은 도 3에서 설명한 판단 과정이 적용될 수 있다.
도 9(b)에서는, 전자 장치(100)가 상기 사용자의 입력이 D 어플리케이션과 연관되는 것으로 판단하고, D 어플리케이션을 통해 상기 사용자의 입력에 대응하는 태스크를 수행하는 경우를 도시한다. 이와 같이 전자 장치(100)는 D 어플리케이션을 통해 상기 사용자의 입력에 대응하는 태스크를 수행하기 위하여, D 어플리케이션을 선택하여 표시 순위 변경을 통해 나머지 어플리케이션보다 상위에 표시한 후 태스크를 수행하는 과정을 거치지 않을 수 있다.
도 9(c)에서는 전자 장치(100)가 상기 사용자의 입력에 대응하는 태스크를 D 어플리케이션을 통해 수행 한 후, A 어플리케이션을 통한 태스크가 지속적으로 수행되는 경우를 도시한다. 이와 같이 전자 장치(100)는 A 어플리케이션을 통한 태스크의 수행을 유지하면서 D 어플리케이션을 통한 태스크를 수행할 수 있다.
도 10은 일 실시예에 의한 태스크의 처리 과정을 도시한다.
전자 장치(100)는 복수의 어플리케이션 각각이 실행되는 윈도우를 캐스캐이드(cascade) 방식으로 표시할 수 있다. 도 10(a)와 같이 전자 장치(100)는 실행되고 있는 A 어플리케이션, B 어플리케이션, C 어플리케이션 및 D 어플리케이션 각각이 실행되는 윈도우를 캐스캐이드 방식으로 정렬하여 표시할 수 있다. 또한, 전자 장치(100)는 현재 태스크가 수행 중인 A 어플리케이션이 실행되는 윈도우를 나머지 어플리케이션이 실행되는 윈도우보다 상위에 표시할 수 있다. A 어플리케이션을 통해 태스크가 수행되고 있는 중에 전자 장치(100)는 C 어플리케이션과 연관되는 사용자의 입력을 획득할 수 있다. 이 경우 전자 장치(100)는 획득되는 사용자의 입력이 현재 전자 장치(100)에서 실행 중인 복수의 어플리케이션 중 어느 어플리케이션에 연관되는 지를 판단할 수 있다. 전자 장치(100)가 상기 사용자의 입력과 연관되는 제1 어플리케이션을 판단하는 과정은 도 3에서 설명한 판단 과정이 적용될 수 있다.
도 10(b)에서는, 전자 장치(100)가 상기 사용자의 입력이 C 어플리케이션과 연관되는 것으로 판단하고, C 어플리케이션을 통해 상기 사용자의 입력에 대응되는 태스크를 수행하는 경우를 도시한다. 이와 같이 전자 장치(100)는 C 어플리케이션을 통해 상기 사용자의 입력에 대응하는 태스크를 수행하기 위하여, C 어플리케이션을 선택하여 나머지 어플리케이션보다 상위에 표시되도록 한 후 태스크를 수행하는 과정을 거치지 않을 수 있다.
도 10(c)에서는 전자 장치(100)가 상기 사용자의 입력에 대응하는 태스크를 C 어플리케이션을 통해 수행 한 후, A 어플리케이션을 통한 태스크가 지속적으로 수행되는 경우를 도시한다. 이와 같이 전자 장치(100)는 A 어플리케이션을 통한 태스크의 수행을 유지하면서 C 어플리케이션을 통한 태스크를 수행할 수 있다.
도 11은 일 실시예에 의한 전자 장치의 표시를 도시한다.
도 11(a)에서는 전자 장치(100)가 실행되고 있는 A 어플리케이션(1110), B 어플리케이션(1120) 및 C 어플리케이션(1130) 각각이 실행되는 윈도우를 표시 순위에 기초하여 중첩되게 표시하는 경우를 도시한다. B 어플리케이션(1120)과 같이 일부분이 A 어플리케이션(1110)과 중첩되어 표시될 수도 있고, C 어플리케이션(1130)과 같이 전체가 A 어플리케이션(1110)에 중첩되어 표시될 수 있다.
이 경우에 C 어플리케이션(1130)과 연관되는 사용자의 입력이 획득되는 경우, 전자 장치(100)는 상기 사용자의 입력이 복수의 어플리케이션 중 어느 어플리케이션에 연관되는 지를 판단할 수 있다. 전자 장치(100)는 상기 사용자의 입력이 C 어플리케이션(1130)과 연관되는 것으로 판단하고, C 어플리케이션(1130)을 통해 상기 사용자의 입력에 대응하는 태스크를 수행할 수 있다.
도 9 및 도 10에서 설명한 바와 마찬가지로, 전자 장치(100)는 C 어플리케이션 수행을 위하여 C 어플리케이션(1130)을 선택하여 나머지 어플리케이션보다 상위에 표시한 후 태스크를 수행하는 과정을 거치지 않을 수 있다. 도 11과 같이 C 어플리케이션(1130) 전체가 A 어플리케이션에 중첩되어 전자 장치(100)에 표시되지 않은 상태에서도, 전자 장치(100)는 C 어플리케이션(1130)을 통해 상기 사용자의 입력에 대응하는 태스크를 수행할 수 있다.
도 12는 일 실시예에 의한 펜 입력을 통해 태스크가 처리되는 전자 장치를 도시한다.
도 12(a)와 같이 전자 장치(100)는 현재 A 어플리케이션을 통해 태스크를 수행하는 중, 펜을 통한 사용자의 입력을 획득할 수 있다. 사용자는 펜을 통하여 A 어플리케이션이 아닌 다른 어플리케이션을 실행하기 위한 입력을 전자 장치(100)에 제공할 수 있다.
전자 장치(100)는 상기 펜을 통한 사용자의 입력이 실행 중인 복수의 어플리케이션 중 어느 어플리케이션에 연관되는 지를 판단할 수 있다. 전자 장치(100)가 상기 펜을 통한 사용자의 입력이 D 어플리케이션과 연관되는 것으로 판단하는 경우, 상기 A 어플리케이션을 통한 태스크를 유지하면서, D 어플리케이션을 통해 상기 펜을 통한 사용자의 입력에 대응하는 태스크를 수행할 수 있다.
사용자는 상기 펜을 통한 사용자의 입력과 함께, 미리 설정된 특정 어플리케이션을 지시하는 추가 입력을 더 제공할 수 있다. 전자 장치(100)는 상기 추가 입력이 지시하는 특정 어플리케이션을 상기 제1 어플리케이션으로 판단할 수 있다.
예를 들어, 도 12(b)와 같이 사용자는 "PLAY"라는 입력을 펜을 통해 제공하고, "MUSIC"이라는 추가 입력을 더 제공할 수 있다. "MUSIC"은 뮤직 플레이어 어플리케이션을 지시하는 미리 설정된 입력일 수 있다. 전자 장치(100)는 상기 "MUSIC"이라는 추가 입력이 지시하는 뮤직 플레이어 어플리케이션인 D 어플리케이션을 상기 제1 어플리케이션으로 판단할 수 있다. 그 후, 전자 장치(100)는 D 어플리케이션을 통해 "PLAY"라는 펜을 통한 사용자의 입력에 대응하는 태스크를 수행할 수 있다.
도 13은 일 실시예에 의한 사용자의 시선 추적을 통해 태스크가 처리되는 과정을 도시한다.
전자 장치(100)는 카메라를 통해 사용자의 시선을 추적하여, 실행 되고 있는 복수의 어플리케이션 중 획득되는 사용자의 입력과 연관되는 제1 어플리케이션을 판단할 수 있다.
예를 들어, 도 13(a)와 같이 전자 장치(100)는 사용자의 시선에 A 어플리케이션에 향하는 것으로 검출된 시점에서, 다른 어플리케이션을 실행하기 위한 사용자의 입력을 획득할 수 있다.
이 경우, 전자 장치(100)는 사용자의 시선이 향하는 것으로 검출된 A 어플리케이션을 제1 어플리케이션으로 판단할 수 있다. 그 후, 도 13(b)와 같이 A 어플리케이션을 통해 상기 사용자의 입력에 대응하는 태스크를 수행할 수 있다.
다만, 도 4에서 설명한 바와 같이, 보다 정확하게 상기 제1 어플리케이션을 판단하기 위하여, 전자 장치(100)는 미리 설정된 시간 동안 사용자의 시선이 향하는 것으로 검출된 어플리케이션들의 검출 히스토리를 이용하여 상기 제1 어플리케이션을 판단할 수도 있다.
도 14는 일 실시예에 의한 제스처 입력을 통해 태스크가 처리되는 전자 장치를 도시한다.
도 14와 같이 전자 장치(100)는 현재 D 어플리케이션을 통해 태스크를 수행하는 중, 제스처를 통한 사용자의 입력을 획득할 수 있다. 사용자는 제스처를 통하여 D 어플리케이션이 아닌 다른 어플리케이션을 실행하기 위한 입력을 전자 장치(100)에 제공할 수 있다.
전자 장치(100)는 상기 제스처를 통한 사용자의 입력이 실행 중인 복수의 어플리케이션 중 어느 어플리케이션에 연관되는 지를 판단할 수 있다. 전자 장치(100)가 상기 제스처를 통한 사용자의 입력이 C 어플리케이션과 연관되는 것으로 판단하는 경우, 상기 D 어플리케이션을 통한 태스크를 유지하면서, C 어플리케이션을 통해 상기 제스처를 통한 사용자의 입력에 대응하는 태스크를 수행할 수 있다.
도 15는 일 실시예에 의한 제스처 입력을 통해 태스크가 처리되는 전자 장치를 도시한다.
사용자는 도 14에서와 같은 제스처를 통한 사용자의 입력과 함께, 미리 설정된 특정 어플리케이션을 지시하는 추가 입력을 더 제공할 수 있다. 예를 들어, 사용자는 추가 입력으로 특정 어플리케이션을 지시하는 제스처 입력을 추가적으로 제공할 수 있다. 도 15와 같이, 사용자가 C 어플리케이션을 지시하는 추가적인 제스처를 상기 추가 입력으로 제공할 수 있다.
전자 장치(100)는 상기 C 어플리케이션을 지시하는 추가 입력에 기초하여 C 어플리케이션을 제1 어플리케이션으로 판단할 수 있다. 이를 통해 전자 장치(100)는 C 어플리케이션을 통해 상기 제스처를 통한 사용자의 입력에 대응하는 태스크를 수행할 수 있다.
도 15에서는 추가 입력으로 제스처 입력을 설명하였으나, 이에 제한되는 것은 아니며, 제스처를 통한 사용자의 입력과 함께, 사용자는 펜 입력, 음성 입력 등으로 추가 입력을 제공할 수 있다.
도 16은 일 실시예에 의한 전자 장치의 제어 방법을 설명하는 흐름도이다.
1610 과정에서, 전자 장치(100)는 포어 그라운드에서 제1 어플리케이션을 실행하고, 백 그라운드에서 제2 어플리케이션을 실행할 수 있다. 전자 장치(100)는 복수의 어플리케이션을 실행하기 위하여 현재 태스크가 수행 중인 제1 어플리케이션을 포어 그라운드에서 실행하고, 태스크가 수행되고 있지 않은 제2 어플리케이션을 백 그라운드에서 실행할 수 있다.
1620 과정에서, 전자 장치(100)는 상기 제2 어플리케이션을 통해 태스크를 수행하기 위한 사용자의 입력을 획득할 수 있다. 상기 사용자의 입력은 상기 제1 어플리케이션에서 지원하는 입력의 유형과는 상이한 유형의 입력일 수 있다. 예를 들어, 제1 어플리케이션에서 터치 입력을 지원하는 경우, 상기 사용자의 입력은 상기 터치 입력과는 상이한 유형의 입력인 음성 입력, 제스처 입력, 펜 입력 등일 수 있다. 또한, 제1 어플리케이션에서 터치 입력, 음성 입력을 지원하는 경우라도, 현재 수행 중인 태스크에 대응하는 입력이 터치 입력일 경우, 상기 사용자의 입력은 음성 입력을 포함할 수 있다. 이는 제1 어플리케이션에서 수행 중인 태스크에 영향을 주지 않기 위함이다.
1630 과정에서, 전자 장치(100)는 상기 사용자의 입력을 제2 어플리케이션에 할당할 수 있다. 상기 사용자의 입력은 제2 어플리케이션을 통해 태스크를 수행하기 위함이므로, 전자 장치(100)는 상기 사용자의 입력을 제2 어플리케이션에 할당할 수 있다. 또한, 상기 제2 어플리케이션이 복수인 경우, 상기 사용자의 입력을 제2 어플리케이션에 할당하기에 앞서서, 상기 사용자의 입력과 연관되는 어플리케이션을 판단할 수 있다. 전자 장치(100)가 상기 사용자의 입력과 연관되는 어플리케이션을 판단하는 과정은 도 3에서 설명한 판단 과정이 적용될 수 있다.
1640 과정에서, 전자 장치(100)는 제2 어플리케이션을 통하여 상기 사용자의 입력에 대응하는 태스크를 백 그라운드에서 수행할 수 있다. 상기 사용자의 입력에 대응하는 태스크를 백 그라운드에서 수행함으로써, 상기 제1 어플리케이션을 통해 포어 그라운드에서 수행 중인 태스크를 중단하지 않고 유지할 수 있다.
도 17은 일 실시예예 의한 사용자 입력이 전달되는 과정 및 각 어플리케이션의 태스크 스택을 도시한다.
도 17(a)와 같이 입력 장치와 같은 하드웨어(1710)를 통해 획득되는 사용자의 입력은 커널(1720)을 통해 미들웨어(1730)로 전달될 수 있다. 미들웨어(1730)는 전달된 사용자의 입력을 어플리케이션의 태스크 스택의 순위에 기초하여 태스크 스택 상에 우선 순위가 높은 어플리케이션으로 상기 사용자의 입력을 전달한다.
도 17(b)와 같은 어플리케이션의 태스크 스택에 있어서, 제1 어플리케이션의 태스크 스택(1750)이 제2 어플리케이션의 태스크 스택(1760)보다 우선할 수 있다. 이 경우, 미들웨어(1730)는 상기 태스크 스택에 기초하여 획득되는 사용자의 입력을 어플리케이션(1740)으로 전달할 수 있다. 예를 들어, 미들 웨어(1730)는 어플리케이션(1740)에 포함되는 제1 어플리케이션(1741) 및 제2 어플리케이션(1742) 중 태스크 우선 순위가 높은 제1 어플리케이션(1741)으로 전달하고, 제1 어플리케이션(1741)을 통해 태스크를 수행한다.
본 발명의 다양한 실시예에 따르면, 획득되는 사용자의 명령과 연관되는 어플리케이션을 판단할 수 있다. 이를 통해 현재 수행 중인 어플리케이션의 태스크를 유지하면서, 상기 사용자의 명령과 연관되는 어플리케이션을 통해 상기 사용자의 입력에 대응하는 태스크를 수행할 수 있다.
예를 들어, 획득되는 사용자의 입력이 제2 어플리케이션(1742)과 연관되는 경우, 제2 어플리케이션의 태스크 스택(1760)이 제1 어플리케이션의 태스크 스택(1750) 보다 우선 순위가 낮은 경우에도, 미들웨어(1730)는 획득되는 사용자의 입력을 제2 어플리케이션(1742)으로 전달할 수 있다. 이와 같이 사용자가 제2 어플리케이션(1742)을 선택하여 태스크 스택의 우선 순위가 변동되지 않더라도, 상기 사용자의 입력과 연관되는 어플리케이션을 판단함으로써 태스크 스택의 우선 순위가 낮은 제2 어플리케이션(1742)으로 상기 사용자의 입력을 전달할 수 있다.
도 18은 일 실시예에 의한 태스크 처리에 따른 결과가 제시되는 팝업 윈도우를 표시하는 전자 장치를 도시한다.
도 18(a)와 같이 전자 장치(100)에서 A 어플리케이션 및 B 어플리케이션이 실행되는 중, B 어플리케이션과 연관되는 사용자의 입력이 획득될 수 있다. 이 경우, 전자 장치(100)는 B 어플리케이션이 사용자의 입력과 연관되는 제1 어플리케이션으로 판단하고, B 어플리케이션을 통해 상기 사용자의 입력에 대응하는 태스크를 수행할 수 있다.
도 18(b)를 참조하면, 전자 장치(100)는 B 어플리케이션을 통해 상기 태스크가 수행된 결과를 별도의 팝업 윈도우(1810)를 통해 표시할 수 있다. 이를 통하여 사용자는 B 어플리케이션을 통해 상기 사용자의 입력에 대응하는 태스크가 수행되었음을 인지할 수 있다. 전자 장치(100)는 상기 태스크가 B 어플리케이션을 통해 수행되었음을 도 18(b)와 같이 팝업 윈도우를 통해 표시할 수도 있고, 스피커를 통해 음성 신호로 출력할 수도 있다.
본 발명의 실시예에 따르면, 복수의 어플리케이션을 실행하는 전자 장치의 제어 방법은 상기 복수의 어플리케이션 중 획득되는 사용자의 입력과 연관되는 제1 어플리케이션을 판단하는 과정 및 상기 제1 어플리케이션을 통해 상기 사용자의 입력에 대응하는 태스크를 수행하는 과정을 포함할 수 있다.
본 발명의 실시예에 따르면, 상기 사용자의 입력은, 음성 입력, 제스처 입력 및 펜 입력 중 적어도 하나를 포함할 수 있다.
본 발명의 실시예에 따르면, 상기 제1 어플리케이션을 판단하는 과정은, 상기 복수의 어플리케이션 각각에서 수행 가능한 태스크와 사용자의 입력이 매칭되어 저장된 데이터 베이스를 이용하여 상기 제1 어플리케이션을 판단할 수 있다.
본 발명의 실시예에 따르면, 상기 제1 어플리케이션을 판단하는 과정은, 상기 사용자의 시선을 추적하여 상기 복수의 어플리케이션 중 상기 사용자의 시선이 향하는 어플리케이션을 검출하는 과정을 포함할 수 있다.
본 발명의 실시예에 따르면, 상기 제1 어플리케이션을 판단하는 과정은, 상기 사용자의 입력이 획득된 시점에서, 상기 복수의 어플리케이션 중 상기 사용자의 시선이 향하는 것으로 검출된 어플리케이션을 상기 제1 어플리케이션으로 판단할 수 있다.
본 발명의 실시예에 따르면, 상기 제1 어플리케이션을 판단하는 과정은, 미리 설정된 시간 동안 상기 사용자의 시선이 향하는 것으로 검출된 어플리케이션들의 검출 히스토리를 저장하는 과정을 더 포함할 수 있다.
본 발명의 실시예에 따르면, 상기 제1 어플리케이션을 판단하는 과정은, 상기 어플리케이션의 검출 히스토리에 기초하여, 상기 복수의 어플리케이션 중 상기 사용자의 시선이 향하는 것으로 검출된 빈도수가 최대인 어플리케이션을 상기 제1 어플리케이션으로 판단할 수 있다.
본 발명의 실시예에 따르면, 상기 제1 어플리케이션을 판단하는 과정은, 상기 사용자의 입력이 획득되는 시점에서, 미리 설정된 특정 어플리케이션을 지시하는 추가 입력을 더 획득하는 과정을 포함할 수 있다.
본 발명의 실시예에 따르면, 상기 제1 어플리케이션을 판단하는 과정은, 상기 추가 입력이 지시하는 특정 어플리케이션을 상기 제1 어플리케이션으로 판단할 수 있다.
본 발명의 실시예에 따르면, 상기 사용자의 입력과 연관되는 제1 어플리케이션이 판단되지 않은 경우, 상기 사용자에게 상기 사용자의 입력과 연관되는 상기 제1 어플리케이션을 선택하기 위한 팝업 윈도우를 표시하는 과정을 더 포함할 수 있다.
본 발명의 실시예에 따르면, 상기 제1 어플리케이션을 판단하는 과정은, 상기 팝업 윈도우를 통해 상기 사용자가 선택한 어플리케이션을 상기 제1 어플리케이션으로 판단할 수 있다.
본 발명의 실시예에 따르면, 전자 장치는 실행 중인 복수의 어플리케이션을 표시하는 터치 스크린 및 상기 복수의 어플리케이션 중 획득되는 사용자의 입력과 연관되는 제1 어플리케이션을 판단하고, 상기 제1 어플리케이션을 통해 상기 사용자의 입력에 대응하는 태스크를 수행하도록 제어하는 제어부를 포함할 수 있다.
본 발명의 실시예에 따르면, 상기 사용자의 입력은, 음성 입력, 제스처 입력 및 펜 입력 중 적어도 하나를 포함할 수 있다.
본 발명의 실시예에 따르면, 상기 제어부는, 상기 복수의 어플리케이션 각각에서 수행 가능한 태스크와 사용자의 입력이 매칭되어 저장된 데이터 베이스를 이용하여 상기 제1 어플리케이션을 판단할 수 있다.
본 발명의 실시예에 따르면, 사용자의 얼굴 영상을 촬영하는 카메라를 더 포함하고, 상기 제어부는 상기 촬영된 사용자의 얼굴 영상에 기초하여 상기 사용자의 시선을 추적하고, 상기 복수의 어플리케이션 중 상기 사용자의 시선이 향하는 어플리케이션을 검출할 수 있다.
본 발명의 실시예에 따르면, 상기 제어부는, 상기 사용자의 입력이 획득된 시점에서, 상기 복수의 어플리케이션 중 상기 사용자의 시선이 향하는 것으로 검출된 어플리케이션을 상기 제1 어플리케이션으로 판단할 수 있다.
본 발명의 실시예에 따르면, 상기 제어부는, 미리 설정된 시간 동안 상기 사용자의 시선이 향하는 것으로 검출된 어플리케이션의 검출 히스토리를 저장하도록 제어할 수 있다.
본 발명의 실시예에 따르면, 상기 제어부는, 상기 어플리케이션의 검출 히스토리에 기초하여, 상기 복수의 어플리케이션 중 상기 사용자의 시선이 향하는 것으로 검출된 빈도수가 최대인 어플리케이션을 상기 제1 어플리케이션으로 판단할 수 있다.
본 발명의 실시예에 따르면, 상기 제어부는, 상기 사용자의 입력이 획득되는 시점에서, 미리 설정된 특정 어플리케이션을 지시하는 추가 입력을 더 획득할 수 있다.
본 발명의 실시예에 따르면, 상기 제어부는, 상기 추가 입력이 지시하는 특정 어플리케이션을 상기 제1 어플리케이션으로 판단할 수 있다.
본 발명의 실시예에 따르면, 상기 제어부는, 상기 사용자의 입력과 연관되는 제1 어플리케이션이 판단되지 않은 경우, 상기 사용자에게 상기 사용자의 입력과 연관되는 상기 제1 어플리케이션을 선택하기 위한 팝업 윈도우가 상기 터치 스크린에 표시되도록 제어할 수 있다.
본 발명의 실시예에 따르면, 상기 제어부는, 상기 팝업 윈도우를 통해 상기 사용자가 선택한 어플리케이션을 상기 제1 어플리케이션으로 판단할 수 있다.
본 발명의 실시예에 따르면, 복수의 어플리케이션을 실행하는 전자 장치의 제어 방법은, 포어 그라운드에서 제 1 어플리케이션을 실행하고, 백 그라운드에서 제 2 어플리케이션을 실행하는 과정, 사용자의 입력을 획득하는 과정 및 상기 제 2 어플리케이션을 통하여, 상기 획득된 사용자의 입력에 대응하는 태스크를 상기 백 그라운드에서 수행하는 과정을 포함할 수 있다.
본 발명의 실시예에 따르면, 상기 사용자의 입력은 상기 제1 어플리케이션에서 지원하는 입력의 유형과는 상이한 유형의 입력일 수 있다.
본 발명의 실시예에 따르면, 상기 획득된 사용자의 입력을 상기 제2 어플리케이션으로 할당하는 과정을 더 포함할 수 있다.
본 발명의 실시예에 따르면, 전자 장치는, 포어 그라운드에서 실행 중인 제 1 어플리케이션 및 백 그라운드에서 실행 중인 제 2 어플리케이션을 표시하는 터치 스크린 및 사용자의 입력을 획득하고, 상기 제 2 어플리케이션을 통하여, 상기 획득된 사용자의 입력에 대응하는 태스크를 상기 백 그라운드에서 수행하도록 제어하는 제어부를 포함할 수 있다.
본 발명의 실시예에 따르면, 상기 사용자의 입력은 상기 제1 어플리케이션에서 지원하는 입력의 유형과는 상이한 유형의 입력일 수 있다.
본 발명의 실시예에 따르면, 상기 제어부는, 상기 획득된 사용자의 입력을 상기 제2 어플리케이션으로 할당할 수 있다.
상기 전자 장치의 전술한 구성요소들 각각은 하나 또는 그 이상의 부품(component)으로 구성될 수 있으며, 해당 구성 요소의 명칭은 전자 장치의 종류에 따라서 달라질 수 있다. 다양한 실시예에서, 전자 장치는 전술한 구성요소 중 적어도 하나를 포함하여 구성될 수 있으며, 일부 구성요소가 생략되거나 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 또한, 다양한 실시예에 따른 전자 장치의 구성 요소들 중 일부가 결합되어 하나의 개체(entity)로 구성됨으로써, 결합되기 이전의 해당 구성 요소들의 기능을 동일하게 수행할 수 있다.
본 문서에서 사용된 용어 "모듈"은, 예를 들면, 하드웨어, 소프트웨어 또는 펌웨어(firmware) 중 하나 또는 둘 이상의 조합을 포함하는 단위(unit)를 의미할 수 있다. "모듈"은, 예를 들면, 유닛(unit), 로직(logic), 논리 블록(logical block), 부품(component), 또는 회로(circuit) 등의 용어와 바꾸어 사용(interchangeably use)될 수 있다. "모듈"은, 일체로 구성된 부품의 최소 단위 또는 그 일부가 될 수 있다. "모듈"은 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수도 있다. "모듈"은 기계적으로 또는 전자적으로 구현될 수 있다. 예를 들면,"모듈"은, 알려졌거나 앞으로 개발될, 어떤 동작들을 수행하는 ASIC(application-specific integrated circuit) 칩, FPGAs(field-programmable gate arrays) 또는 프로그램 가능 논리 장치(programmable-logic device) 중 적어도 하나를 포함할 수 있다.
다양한 실시예에 따른 장치(예: 모듈들 또는 그 기능들) 또는 방법(예: 동작들)의 적어도 일부는, 예컨대, 프로그램 모듈의 형태로 컴퓨터로 읽을 수 있는 저장매체(computer-readable storage media)에 저장된 명령어로 구현될 수 있다. 상기 명령어는, 프로세서에 의해 실행될 경우, 상기 하나 이상의 프로세서가 상기 명령어에 해당하는 기능을 수행할 수 있다. 컴퓨터로 읽을 수 있는 저장매체는, 예를 들면, 상기 메모리가 될 수 있다.
상기 컴퓨터로 판독 가능한 기록 매체는, 하드디스크, 플로피디스크, 마그네틱 매체(magnetic media)(예: 자기테이프), 광기록 매체(optical media)(예: CD-ROM(compact disc read only memory), DVD(digital versatile disc), 자기-광 매체(magneto-optical media)(예: 플롭티컬 디스크(floptical disk)), 하드웨어 장치(예: ROM(read only memory), RAM(random access memory), 또는 플래시 메모리 등) 등을 포함할 수 있다. 또한, 프로그램 명령에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함할 수 있다. 상술한 하드웨어 장치는 다양한 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지다.
다양한 실시예에 따른 모듈 또는 프로그램 모듈은 전술한 구성요소들 중 적어도 하나 이상을 포함하거나, 일부가 생략되거나, 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 다양한 실시예에 따른 모듈, 프로그램 모듈 또는 다른 구성요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱(heuristic)한 방법으로 실행될 수 있다. 또한, 일부 동작은 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다.
본 발명의 다양한 실시예에 따르면, 명령들을 저장하고 있는 저장 매체에 있어서, 상기 명령들은 적어도 하나의 프로세서에 의하여 실행될 때에 상기 적어도 하나의 프로세서로 하여금 적어도 하나의 과정을 수행하도록 설정된 것으로서, 상기 적어도 하나의 과정은, 상기 복수의 어플리케이션 중 획득되는 사용자의 입력과 연관되는 제1 어플리케이션을 판단하는 과정; 및 상기 제1 어플리케이션을 통해 상기 사용자의 입력에 대응하는 태스크를 수행하는 과정을 포함할 수 있다.
그리고 본 문서에 개시된 실시예는 개시된, 기술 내용의 설명 및 이해를 위해 제시된 것이며, 본 개시의 범위를 한정하는 것은 아니다. 따라서, 본 개시의 범위는, 본 개시의 기술적 사상에 근거한 모든 변경 또는 다양한 다른 실시예를 포함하는 것으로 해석되어야 한다.

Claims (28)

  1. 복수의 어플리케이션을 실행하는 전자 장치의 제어 방법에 있어서,
    제1 어플리케이션의 제1 실행 화면 및 상기 제1 어플리케이션과 상이한 제2 어플리케이션의 제2 실행 화면을 상기 전자 장치의 터치 스크린 상에 표시하는 과정;
    특정 태스크를 수행하기 위한 사용자의 입력을 수신하는 과정, 상기 특정 태스크는 상기 제1 어플리케이션 및 상기 제2 어플리케이션을 통해 수행 가능하고;
    상기 전자 장치의 카메라를 이용하여, 상기 표시된 제1 실행 화면 및 상기 표시된 제2 실행 화면 중, 상기 사용자 입력에 대응하는 상기 특정 태스크를 수행할 어플리케이션의 실행 화면을 확인하기 위해 사용자의 시선의 움직임을 추적하는 과정;
    상기 추적된 시선의 움직임에 기반하여, 상기 표시된 제1 실행 화면 및 상기 표시된 제2 실행 화면 중 상기 사용자의 시선이 향하는 실행 화면을 확인하는 과정; 및
    상기 확인된 실행 화면의 어플리케이션을 통해 상기 사용자의 입력에 대응하는 상기 특정 태스크를 수행하는 과정을 포함하는, 전자 장치의 제어 방법.
  2. 제1항에 있어서,
    상기 사용자의 입력은,
    음성 입력, 제스처 입력 및 펜 입력 중 적어도 하나를 포함하는, 전자 장치의 제어 방법.
  3. 제1항에 있어서,
    상기 복수의 어플리케이션 각각을 통해 수행 가능한 태스크와 사용자의 입력들이 매칭되어 저장된 데이터 베이스를 이용하여 수행될 상기 특정 태스크를 확인하는 과정을 더 포함하는, 전자 장치의 제어 방법.
  4. 삭제
  5. 삭제
  6. 제1항에 있어서,
    미리 설정된 시간 동안 상기 사용자의 시선이 향하는 것으로 검출된 어플리케이션들의 검출 히스토리를 저장하는 과정을 더 포함하는, 전자 장치의 제어 방법.
  7. 제6항에 있어서,
    상기 사용자의 시선이 향하는 실행 화면을 확인하는 과정은,
    상기 어플리케이션들의 검출 히스토리에 기초하여, 상기 사용자의 시선이 향하는 것으로 검출된 빈도수가 최대인 상기 실행 화면을 확인하는 과정을 포함하는, 전자 장치의 제어 방법.
  8. 제1항에 있어서,
    상기 사용자의 입력을 수신하는 동안, 미리 설정된 특정 어플리케이션을 지시하는 추가 입력을 수신하는 과정을 더 포함하는, 전자 장치의 제어 방법.
  9. 제8항에 있어서,
    상기 추가 입력이 지시하는 상기 미리 설정된 특정 어플리케이션을 확인하는 과정을 더 포함하는, 전자 장치의 제어 방법.
  10. 제1항에 있어서,
    상기 제1 어플리케이션 또는 상기 제2 어플리케이션 중, 상기 사용자의 입력에 기반하여 상기 특정 태스크를 수행할 어플리케이션의 선택을 수신하기 위한 팝업 윈도우를 상기 터치 스크린 상에 표시하는 과정을 더 포함하는, 전자 장치의 제어 방법.
  11. 제10항에 있어서,
    상기 팝업 윈도우를 통해 상기 사용자에 의해 선택된 어플리케이션을 확인하는 과정을 더 포함하는, 전자 장치의 제어 방법.
  12. 전자 장치에 있어서,
    터치 스크린;
    카메라; 및
    제어부를 포함하고, 상기 제어부는,
    제1 어플리케이션의 제1 실행 화면 및 상기 제1 어플리케이션과 상이한 제2 어플리케이션의 제2 실행 화면을 상기 터치 스크린 상에 표시하고,
    특정 태스크를 수행하기 위한 사용자 입력을 수신하고, 상기 특정 태스크는 상기 제1 어플리케이션 및 상기 제2 어플리케이션을 통해 수행 가능하고,
    상기 카메라를 이용하여, 상기 표시된 제1 실행 화면 및 상기 표시된 제2 실행 화면 중, 상기 사용자 입력에 대응하는 상기 특정 태스크를 수행할 어플리케이션의 실행 화면을 확인하기 위해 사용자의 시선의 움직임을 추적하고,
    상기 추적된 시선의 움직임에 기반하여, 상기 표시된 제1 실행 화면 및 상기 표시된 제2 실행 화면 중 상기 사용자의 시선이 향하는 실행 화면을 확인하고,
    상기 확인된 실행 화면의 어플리케이션을 통해 상기 사용자의 입력에 대응하는 상기 특정 태스크를 수행하도록 설정된, 전자 장치.
  13. 제12항에 있어서,
    상기 사용자의 입력은,
    음성 입력, 제스처 입력 및 펜 입력 중 적어도 하나를 포함하는, 전자 장치.
  14. 제12항에 있어서,
    상기 제어부는,
    상기 복수의 어플리케이션 각각을 통해 수행 가능한 태스크와 사용자의 입력들이 매칭되어 저장된 데이터 베이스를 이용하여 수행될 상기 특정 태스크를 판단하도록 설정된, 전자 장치.
  15. 제12항에 있어서,
    상기 제어부는
    상기 촬영된 사용자의 얼굴 영상에 기초하여 상기 사용자의 시선을 추적하도록 설정된, 전자 장치.
  16. 삭제
  17. 제15항에 있어서,
    상기 제어부는,
    미리 설정된 시간 동안 상기 사용자의 시선이 향하는 것으로 검출된 어플리케이션들의 검출 히스토리를 저장하도록 더 설정된, 전자 장치.
  18. 제17항에 있어서,
    상기 제어부는,
    상기 어플리케이션들의 검출 히스토리에 기초하여, 상기 사용자의 시선이 향하는 것으로 검출된 빈도수가 최대인 상기 실행 화면을 확인하도록 설정된, 전자 장치.
  19. 제12항에 있어서,
    상기 제어부는,
    상기 사용자의 입력을 수신하는 동안, 미리 설정된 특정 어플리케이션을 지시하는 추가 입력을 수신하도록 더 설정된, 전자 장치.
  20. 제19항에 있어서,
    상기 제어부는,
    상기 추가 입력이 지시하는 상기 미리 설정된 특정 어플리케이션을 확인하도록 더 설정된, 전자 장치.
  21. 제12항에 있어서,
    상기 제어부는,
    상기 제1 어플리케이션 또는 상기 제2 어플리케이션 중, 상기 사용자의 입력에 기반하여 상기 특정 태스크를 수행할 어플리케이션의 선택을 수신하기 위한 팝업 윈도우를 상기 터치 스크린 상에 표시하도록 더 설정된, 전자 장치.
  22. 제21항에 있어서,
    상기 제어부는,
    상기 팝업 윈도우를 통해 상기 사용자에 의해 선택된 어플리케이션을 확인하도록 더 설정된, 전자 장치.
  23. 복수의 어플리케이션을 실행하는 전자 장치의 제어 방법에 있어서,
    포어 그라운드에서 제 1 어플리케이션을 실행하여 상기 제1 어플리케이션의 제1 실행 화면을 상기 전자 장치의 터치 스크린 상에 표시하고, 백 그라운드에서 상기 제1 어플리케이션과 상이한 제 2 어플리케이션을 실행하여 상기 제2 어플리케이션의 제2 실행 화면을 상기 터치 스크린 상에 표시하는 과정;
    특정 태스크를 수행하기 위한 사용자의 입력을 수신하는 과정, 상기 특정 태스크는 상기 제1 어플리케이션 및 상기 제2 어플리케이션을 통해 수행 가능하고;
    상기 전자 장치의 카메라를 이용하여, 상기 표시된 제1 실행 화면 및 상기 표시된 제2 실행 화면 중, 상기 사용자의 입력에 대응하는 상기 특정 태스크를 수행할 어플리케이션의 실행 화면을 확인하기 위해 사용자의 시선의 움직임을 추적하는 과정; 및
    상기 확인된 실행 화면의 어플리케이션을 통해, 상기 사용자의 입력에 대응하는 상기 특정 태스크를 수행하는 과정을 포함하는, 전자 장치의 제어 방법.
  24. 삭제
  25. 삭제
  26. 전자 장치에 있어서,
    터치 스크린;
    카메라; 및
    제어부를 포함하고, 상기 제어부는,
    포어 그라운드에서 제 1 어플리케이션을 실행하여 상기 제1 어플리케이션의 제1 실행 화면을 상기 터치 스크린 상에 표시하고, 백 그라운드에서 상기 제1 어플리케이션과 상이한 제 2 어플리케이션을 실행하여 상기 제2 어플리케이션의 제2 실행 화면을 상기 터치 스크린 상에 표시하고,
    특정 태스크를 수행하기 위한 사용자의 입력을 수신하고, 상기 특정 태스크는 상기 제1 어플리케이션 및 상기 제2 어플리케이션을 통해 수행 가능하고,
    상기 카메라를 이용하여, 상기 표시된 제1 실행 화면 및 상기 표시된 제2 실행 화면 중, 상기 사용자의 입력에 대응하는 상기 특정 태스크를 수행할 어플리케이션의 실행 화면을 확인하기 위해 사용자의 시선의 움직임을 추적하고,
    상기 확인된 실행 화면의 어플리케이션을 통해, 상기 사용자의 입력에 대응하는 상기 특정 태스크를 수행하도록 설정된, 전자 장치.
  27. 삭제
  28. 삭제
KR1020140164500A 2014-11-24 2014-11-24 복수의 어플리케이션을 실행하는 전자 장치 및 그 제어 방법 KR102302721B1 (ko)

Priority Applications (5)

Application Number Priority Date Filing Date Title
KR1020140164500A KR102302721B1 (ko) 2014-11-24 2014-11-24 복수의 어플리케이션을 실행하는 전자 장치 및 그 제어 방법
PCT/KR2015/012679 WO2016085244A1 (en) 2014-11-24 2015-11-24 Electronic device for executing a plurality of applications and method for controlling the electronic device
US14/950,954 US10572104B2 (en) 2014-11-24 2015-11-24 Electronic device for executing a plurality of applications and method for controlling the electronic device
CN201580063573.1A CN107003727B (zh) 2014-11-24 2015-11-24 运行多个应用的电子设备及用于控制电子设备的方法
EP15863801.5A EP3224698B1 (en) 2014-11-24 2015-11-24 Electronic device for executing a plurality of applications and method for controlling the electronic device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020140164500A KR102302721B1 (ko) 2014-11-24 2014-11-24 복수의 어플리케이션을 실행하는 전자 장치 및 그 제어 방법

Publications (2)

Publication Number Publication Date
KR20160061733A KR20160061733A (ko) 2016-06-01
KR102302721B1 true KR102302721B1 (ko) 2021-09-15

Family

ID=56010194

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020140164500A KR102302721B1 (ko) 2014-11-24 2014-11-24 복수의 어플리케이션을 실행하는 전자 장치 및 그 제어 방법

Country Status (5)

Country Link
US (1) US10572104B2 (ko)
EP (1) EP3224698B1 (ko)
KR (1) KR102302721B1 (ko)
CN (1) CN107003727B (ko)
WO (1) WO2016085244A1 (ko)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11068125B2 (en) * 2016-10-27 2021-07-20 Google Llc Multi-spatial overview mode
KR102389996B1 (ko) * 2017-03-28 2022-04-25 삼성전자 주식회사 전자 장치 및 이를 이용한 사용자 입력을 처리하기 위한 화면 제어 방법
KR102365649B1 (ko) * 2017-06-28 2022-02-22 삼성전자주식회사 화면 제어 방법 및 이를 지원하는 전자 장치
KR102440651B1 (ko) * 2017-09-19 2022-09-06 삼성전자주식회사 자연어 표현 제공 방법 및 이를 지원하는 전자 장치
US11354030B2 (en) 2018-02-22 2022-06-07 Kyocera Corporation Electronic device, control method, and program
KR102508863B1 (ko) * 2018-03-19 2023-03-10 삼성전자 주식회사 전자 장치 및 상기 전자 장치로부터 수신된 데이터를 처리하는 서버
KR102506158B1 (ko) 2018-07-30 2023-03-07 삼성전자주식회사 디지털 펜을 포함하는 전자 장치
KR20200092763A (ko) * 2019-01-25 2020-08-04 삼성전자주식회사 사용자 음성을 처리하는 전자장치 및 그 제어 방법
KR20220102898A (ko) * 2021-01-14 2022-07-21 삼성전자주식회사 전자 장치 및 이를 이용한 키 입력 회로에서 검출되는 터치 인터랙션에 기반하여 어플리케이션의 기능 제어 방법
CN114168029A (zh) * 2021-11-30 2022-03-11 深圳市鸿合创新信息技术有限责任公司 显示方法、装置、设备及介质
US12019849B1 (en) * 2023-01-03 2024-06-25 Truist Bank System and method for setting number of days until a certain action

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120257035A1 (en) 2011-04-08 2012-10-11 Sony Computer Entertainment Inc. Systems and methods for providing feedback by tracking user gaze and gestures
US20130300684A1 (en) 2012-05-11 2013-11-14 Samsung Electronics Co. Ltd. Apparatus and method for executing multi applications
US20140282272A1 (en) 2013-03-15 2014-09-18 Qualcomm Incorporated Interactive Inputs for a Background Task

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8059099B2 (en) 2006-06-02 2011-11-15 Apple Inc. Techniques for interactive input to portable electronic devices
KR100751859B1 (ko) 2006-06-08 2007-08-23 삼성전자주식회사 디지털 방송 휴대 단말기에서 멀티태스킹 장치 및 방법
KR101548958B1 (ko) * 2008-09-18 2015-09-01 삼성전자주식회사 휴대단말기의 터치스크린 동작 제어 방법 및 장치
KR101640460B1 (ko) 2009-03-25 2016-07-18 삼성전자 주식회사 휴대 단말기의 분할 화면 운용 방법 및 이를 지원하는 휴대 단말기
CN102243889B (zh) 2010-05-13 2014-12-17 北京三星通信技术研究有限公司 基于用户输入来执行应用程序的移动终端及其方法
US8996510B2 (en) 2011-08-23 2015-03-31 Buckyball Mobile, Inc. Identifying digital content using bioresponse data
CA2847975A1 (en) * 2011-09-07 2013-03-14 Tandemlaunch Technologies Inc. System and method for using eye gaze information to enhance interactions
KR101888457B1 (ko) 2011-11-16 2018-08-16 삼성전자주식회사 복수 개의 어플리케이션을 실행하는 터치스크린을 가지는 장치 및 그 제어 방법
KR102009423B1 (ko) 2012-10-08 2019-08-09 삼성전자주식회사 음성 인식을 이용한 미리 설정된 동작 모드의 수행 방법 및 장치
KR20140068573A (ko) 2012-11-28 2014-06-09 삼성전자주식회사 디스플레이 장치 및 그 제어 방법
KR102029242B1 (ko) 2013-01-03 2019-11-08 엘지전자 주식회사 이동 단말기 제어방법
KR20140090883A (ko) 2013-01-10 2014-07-18 삼성테크윈 주식회사 멀티 태스크용 작업 안내 장치 및 방법
US9041741B2 (en) * 2013-03-14 2015-05-26 Qualcomm Incorporated User interface for a head mounted display
US9330296B2 (en) * 2013-03-15 2016-05-03 Sri International Recognizing entity interactions in visual media
US20140267019A1 (en) * 2013-03-15 2014-09-18 Microth, Inc. Continuous directional input method with related system and apparatus

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120257035A1 (en) 2011-04-08 2012-10-11 Sony Computer Entertainment Inc. Systems and methods for providing feedback by tracking user gaze and gestures
US20130300684A1 (en) 2012-05-11 2013-11-14 Samsung Electronics Co. Ltd. Apparatus and method for executing multi applications
US20140282272A1 (en) 2013-03-15 2014-09-18 Qualcomm Incorporated Interactive Inputs for a Background Task

Also Published As

Publication number Publication date
US20160147388A1 (en) 2016-05-26
EP3224698B1 (en) 2021-03-03
WO2016085244A1 (en) 2016-06-02
US10572104B2 (en) 2020-02-25
CN107003727B (zh) 2020-08-14
CN107003727A (zh) 2017-08-01
EP3224698A4 (en) 2017-11-08
KR20160061733A (ko) 2016-06-01
EP3224698A1 (en) 2017-10-04

Similar Documents

Publication Publication Date Title
KR102302721B1 (ko) 복수의 어플리케이션을 실행하는 전자 장치 및 그 제어 방법
US11249592B2 (en) Method of splitting display area of a screen and electronic device for processing the same
EP3480816B1 (en) Method for voice recognition and electronic device for performing the same
US10860271B2 (en) Electronic device having bended display and control method thereof
EP3015956B1 (en) Method and apparatus for controlling screen display on electronic devices
KR102183212B1 (ko) 화면 제어 방법 및 그 방법을 처리하는 전자 장치
KR102335925B1 (ko) 네트워크 서비스를 위한 전자장치와 게이트웨이, 및 이를 위한 동작 방법
US10102422B2 (en) Electronic device based on optical object recognition and method of operating the same
KR102303217B1 (ko) 터치 스크린을 제어하는 방법과 이를 지원하는 전자 장치
EP2958006A1 (en) Electronic device and method for controlling display
US20160026272A1 (en) Method for displaying screen in electronic device, and electronic device thereof
US20180335908A1 (en) Electronic device and content output method of electronic device
EP2998854A1 (en) Electronic device having independent screen configurations
US11848007B2 (en) Method for operating voice recognition service and electronic device supporting same
KR102416071B1 (ko) 전자장치 및 전자장치의 어플리케이션 실행 방법
US20170242646A1 (en) Electronics device and method for controlling the same
US20170017359A1 (en) Electronic device for displaying image and control method thereof
US20180129409A1 (en) Method for controlling execution of application on electronic device using touchscreen and electronic device for the same
US11013435B2 (en) Electronic device and method for measuring biometric information
KR20170050137A (ko) 공동으로 그림을 그리는 방법 및 전자장치
US9852331B2 (en) Method for providing motion recognition service and electronic device thereof
KR102369319B1 (ko) 전자 장치 및 전자 장치의 핸드오프 기능 제공 방법
KR20160043778A (ko) 검색어 제공 방법 및 이를 지원하는 전자 장치
US20220108694A1 (en) Method and appartaus for supporting voice instructions
US11126345B2 (en) Electronic device comprising touch screen and operation method thereof

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant