KR20180129478A - 외부 장치의 선택 및 제어를 위한 전자 장치와 그의 동작 방법 - Google Patents

외부 장치의 선택 및 제어를 위한 전자 장치와 그의 동작 방법 Download PDF

Info

Publication number
KR20180129478A
KR20180129478A KR1020170065585A KR20170065585A KR20180129478A KR 20180129478 A KR20180129478 A KR 20180129478A KR 1020170065585 A KR1020170065585 A KR 1020170065585A KR 20170065585 A KR20170065585 A KR 20170065585A KR 20180129478 A KR20180129478 A KR 20180129478A
Authority
KR
South Korea
Prior art keywords
electronic device
external electronic
information
user
display
Prior art date
Application number
KR1020170065585A
Other languages
English (en)
Other versions
KR102329761B1 (ko
Inventor
김상헌
김성준
백종우
이영대
이은영
정인형
채호창
이청재
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020170065585A priority Critical patent/KR102329761B1/ko
Priority to US15/989,489 priority patent/US20180341400A1/en
Publication of KR20180129478A publication Critical patent/KR20180129478A/ko
Application granted granted Critical
Publication of KR102329761B1 publication Critical patent/KR102329761B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0354—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
    • G06F3/03545—Pens or stylus
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04847—Interaction techniques to control parameter settings, e.g. interaction with sliders or dials
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44—Arrangements for executing specific programs
    • G06F9/451—Execution arrangements for user interfaces
    • G06F9/453—Help systems
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M1/00—Substation equipment, e.g. for use by subscribers
    • H04M1/72—Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724—User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/72409—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality by interfacing with external accessories
    • H04M1/72415—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality by interfacing with external accessories for remote control of appliances
    • H04M1/72533—
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41—Structure of client; Structure of client peripherals
    • H04N21/422—Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/42204—User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor
    • H04N21/42206—User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor characterized by hardware details
    • H04N21/42224—Touch pad or touch panel provided on the remote control
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10—Character recognition
    • G06V30/32—Digital ink
    • G06V30/36—Matching; Classification
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41—Structure of client; Structure of client peripherals
    • H04N21/422—Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/42204—User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47—End-user applications
    • H04N21/472—End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
    • H04N21/47214—End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for content reservation or setting reminders; for requesting event notification, e.g. of sport results or stock market

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Multimedia (AREA)
  • User Interface Of Digital Computer (AREA)
  • Telephone Function (AREA)

Abstract

본 발명의 다양한 실시예들은, 핸드라이팅 입력을 이용하여 외부 전자장치를 제어하는 전자 장치 및 그의 동작 방법에 관한 것이다.
본 발명의 다양한 실시예에 따른 전자 장치는, 하우징, 하우징의 일부를 통해 노출된 터치스크린 디스플레이, 무선 통신 회로, 하우징의 내부에 위치하며 디스플레이 및 무선 통신 회로와 전기적으로 연결된 프로세서, 하우징의 내부에 위치하며 프로세서와 전기적으로 연결된 메모리를 포함하며, 메모리는 프로세서로 하여금 실행 시에, 사용자 핸드라이팅 입력을 수신하기 위하여 사용자 인터페이스를 제공하고, 디스플레이를 통하여 제1 객체를 그리는 제1 핸드라이팅 입력을 수신하고, 제1 객체의 모양을 결정하고, 제1 객체의 모양에 기반하여 제어할 외부 전자 장치를 선택하고, 무선 통신 회로를 통하여 제어할 외부 전자 장치와 무선 통신을 수립하는 동작을 실행하도록 하는 명령어들을 저장할 수 있다.
그 외에 다양한 실시예들이 가능하다.

Description

외부 장치의 선택 및 제어를 위한 전자 장치와 그의 동작 방법{ELECTRONIC DEVICE FOR SELECTING EXTERNAL DEVICE AND CONTROLLING THE SAME AND OPERATING METHOD THEREOF}
본 발명의 다양한 실시예들은, 사용자 입력을 이용하여 외부 전자장치를 선택 및 제어할 수 있는 전자 장치 및 그의 동작 방법에 관한 것이다.
스마트 폰과 같은 휴대용 전자 장치가 점차 고성능화됨에 따라, 전자 장치를 통해 다양한 서비스들이 제공되고 있다. 예를 들어, 전화 통화, 문자 발신 등과 같은 기본적인 서비스에 더하여, 게임, 메신저, 문서 편집, 이미지/동영상 재생 및 편집 등 보다 복잡한 서비스들이 제공되고 있다.
또한, 무선 인터넷 서비스의 발달은 콘텐츠 서비스 방법을 변화시키고 있다. 전자 장치의 사용자들은 단순히 전자 장치에서 콘텐츠를 재생하는 형태에서 벗어나, 네트워크에 연결된 다수의 전자 장치들 간 정보를 주고 받으며 상황에 따른 서비스를 제공받을 수 있다.
또한, 상황에 따른 서비스를 제공 받기 위하여, 터치 입력 이외에 다양한 방법의 사용자 입력들이 활용되고 있다. 예를 들어, 텍스트 입력, 음성 입력, 제스쳐 입력, 시선 추적(eye tracking), 뇌파(electroencephalography, EEG), 근전도(electromyogram, EMG)등 다양한 방법의 사용자 입력들이 활용되고 있다.
상황에 따른 서비스를 제공 받기 위하여 텍스트 입력을 사용하는 경우, 반복된 형태의 동작이 사용자의 불편함을 초래할 수 있다. 또한, 음성 입력을 이용하여 서비스를 제공 받는 시스템은 배경 소음이 시끄럽거나, 사람들 앞에서 음성 입력을 발화할 때와 같이 사용자의 불편함을 초래할 수 있는 경우가 많다.
본 발명의 다양한 실시예들은, 사용자의 입력을 수신하고, 사용자의 입력에 기반하여 제어할 외부 전자 장치를 선택 또는 제어하는 방법 및 장치를 제공할 수 있다.
본 발명이 이루고자 하는 기술적 과제들은 이상에서 언급한 기술적 과제로 제한되지 않으며, 언급되지 않은 또 다른 기술적 과제들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
본 발명의 다양한 실시예에 따른 전자 장치는, 하우징, 상기 하우징의 일부를 통해 노출된 터치스크린 디스플레이, 무선 통신 회로, 상기 하우징의 내부에 위치하며 상기 디스플레이 및 상기 무선 통신 회로와 전기적으로 연결된 프로세서, 상기 하우징의 내부에 위치하며 상기 프로세서와 전기적으로 연결된 메모리를 포함하며, 상기 메모리는 상기 프로세서로 하여금 실행 시에, 사용자 핸드라이팅 입력을 수신하기 위하여 사용자 인터페이스를 제공하고, 상기 디스플레이를 통하여 제1 객체를 그리는 제1 핸드라이팅 입력을 수신하고, 상기 제1 객체의 모양을 결정하고, 상기 제1 객체의 모양에 기반하여 제어할 외부 전자 장치를 선택하고, 상기 무선 통신 회로를 통하여 상기 제어할 외부 전자 장치와 무선 통신을 수립하는 동작을 실행하도록 하는 명령어들을 저장할 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치의 동작 방법은, 사용자 핸드라이팅 입력을 수신하기 위하여 사용자 인터페이스를 제공하는 동작, 디스플레이를 통하여 제1 객체를 그리는 제1 핸드라이팅 입력을 수신하는 동작, 상기 제1 객체의 모양을 결정하는 동작, 상기 제1 객체의 모양에 기반하여 제어할 외부 전자 장치를 선택하는 동작, 및 상기 무선 통신 회로를 이용하여 상기 제어할 외부 전자 장치와 무선 통신을 수립하는 동작을 포함할 수 있다.
다양한 실시예에 따른 전자 장치 및 그의 동작 방법은, 사용자의 입력(예: 핸드라이팅) 통하여 외부 전자 장치를 제어하기 위한 것으로, 사용자의 의도에 기반하여 외부 전자 장치를 손쉽게 선택 및 제어할 수 있어 사용자 편의성을 향상시킬 수 있다.
도 1은 본 발명의 다양한 실시예들에 따른 네트워크에 대한 환경을 도시한다.
도 2는 본 발명의 다양한 실시예들에 따른 전자 장치의 블록도를 도시한다.
도 3은 본 발명의 다양한 실시예들에 따른 프로그래밍 모듈의 블록도를 도시한다.
도 4는 본 발명의 다양한 실시예들에 따른 전자 장치 및 서버를 도시한다.
도 5는 본 발명의 다양한 실시예들에 따른 전자 장치, 서버 및 외부 전자 장치간 신호 흐름을 도시한다.
도 6은 본 발명의 다양한 실시예들에 따른 전자 장치의 블록도를 도시한다.
도 7은 본 발명의 다양한 실시예들에 따른 전자 장치의 저장부에 저장된 정보를 도시한다.
도 8은 본 발명의 다양한 실시예들에 따른 전자 장치의 저장부에 저장된 모양 정보를 도시한다.
도 9는 본 발명의 다양한 실시예들에 따른 전자 장치의 저장부에 저장된, 외부 전자 장치들의 위치 정보 및 전자 장치의 위치 정보를 도시한다.
도 10 및 11은 본 발명의 다양한 실시예들에 따른 전자 장치의 저장부에 저장된 액션 정보 중 동작 정보를 도시한다.
도 12는 본 발명의 다양한 실시예들에 따른 전자 장치가 사용자의 핸드라이팅 입력을 이용하여 외부 전자 장치를 제어하기 위한 동작 순서를 도시한 순서도이다.
도 13은 본 발명의 다양한 실시예들에 따른 전자 장치가 사용자의 핸드라이팅 입력을 이용하여 외부 전자 장치를 제어하기 위한 동작 순서를 도시한 순서도이다.
도 14는 본 발명의 다양한 실시예들에 따른 전자 장치가 제1 객체 또는 제2 객체의 모양을 인식하기 위한 개념도이다.
도 15는 본 발명의 다양한 실시예들에 따른 전자 장치가 제1 객체 또는 제2 객체의 모양을 인식하기 위한 개념도이다.
도 16는 본 발명의 다양한 실시예들에 따른 전자 장치가 객체의 모양을 결정하는 과정을 도시하는 개념도이다.
도 17은 본 발명의 다양한 실시예들에 따른 전자 장치가 제1 객체를 그리는 제1 핸드라이팅 입력을 수신하기 위한 동작의 세부 순서도이다.
도 18은 본 발명의 다양한 실시예들에 따른 전자 장치가 제1 객체를 그리는 제1 핸드라이팅 입력을 수신하기 위한 동작의 세부 순서도이다.
도 19는 본 발명의 다양한 실시예들에 따른 전자 장치가 제1 객체를 그리는 제1 핸드라이팅 입력을 수신하기 위한 동작의 세부 순서도이다.
도 20은 본 발명의 다양한 실시예들에 따른 전자 장치가 형상 후보군을 수정하는 예를 나타낸다.
도 21은 본 발명의 다양한 실시예들에 따른 전자 장치가 외부 전자 장치를 제어하기 위한 동작의 세부 순서도이다.
도 22은 본 발명의 다양한 실시예들에 따른 전자 장치가 외부 전자 장치 또는 전자 장치 중 적어도 하나의 장치를 제어하기 위한 동작의 세부 순서도이다.
도 23은 본 발명의 다양한 실시예들에 따른 전자 장치가 동작 및 파라미터의 값을 결정하기 위하여 제공하는 사용자 인터페이스의 예를 나타낸다.
도 24는 본 발명의 다양한 실시예들에 따른 전자 장치가 사용자 인터페이스에 대한 사용자 입력에 따라 동작 및 파라미터의 값을 결정하는 예를 나타낸다.
도 25는 본 발명의 다양한 실시예들에 따른 전자 장치가 외부 전자 장치를 제어할 수 있는 사용자 인터페이스를 제공하기 위한 동작 순서를 도시한 순서도이다.
도 26은 본 발명의 다양한 실시예들에 따른 전자 장치가 외부 전자 장치를 제어하기 위한 사용자 인터페이스를 제공하는 예를 나타낸다.
도 27은 본 발명의 다양한 실시예들에 따른 전자 장치가 외부 전자 장치의 상태 정보를 표시하는 예를 나타낸다.
도 28은 본 발명의 다양한 실시예들에 따른 전자 장치가 사용자의 음성 입력에 기반하여 외부 전자 장치를 제어하기 위한 동작 순서를 도시한 순서도이다.
도 29는 본 발명의 다양한 실시예들에 따른 전자 장치가 사용자의 음성 입력에 기반하여 외부 전자 장치를 제어하는 예를 나타낸다.
도 30은 본 발명의 다양한 실시예들에 따른 전자 장치가 사용자의 음성 입력에 기반하여 외부 전자 장치를 제어하는 다른 예를 나타낸다.
도 31은 본 발명의 다양한 실시예들에 따른 전자 장치가 외부 전자 장치를 제어하기 위한 동작 순서를 도시한 순서도이다.
도 32는 본 발명의 다양한 실시예들에 따른 전자 장치가 제1 객체를 외부 전자 장치에 매핑하기 위한 동작 순서를 도시한 순서도이다.
도 33은 본 발명의 다양한 실시예들에 따른 전자 장치가 제1 객체에 대응하는 외부 전자 장치의 형상을 결정하는 예를 나타낸다.
도 34는 본 발명의 다양한 실시예들에 따른 전자 장치가 제1 객체에 매핑할 외부 전자 장치를 결정하기 위한 동작 순서를 도시한 순서도이다.
도 35는 본 발명의 다양한 실시예들에 따른 전자 장치가 제1 객체에 매핑할 외부 전자 장치를 결정하는 예를 나타낸다.
도 36은 본 발명의 다양한 실시예들에 따른 전자 장치가 제1 객체에 대응하는 외부 전자 장치의 형상을 결정하기 위한 동작 순서를 도시한 순서도이다.
도 37은 본 발명의 다양한 실시예들에 따른 전자 장치가 외부 전자 자치를 제어하는 예를 나타낸 도면이다.
이하, 본 문서의 다양한 실시예들이 첨부된 도면을 참조하여 기재된다. 실시예 및 이에 사용된 용어들은 본 문서에 기재된 기술을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 및/또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 본 문서에서, "A 또는 B" 또는 "A 및/또는 B 중 적어도 하나" 등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. "제1," "제2," "첫째," 또는 "둘째,"등의 표현들은 해당 구성요소들을, 순서 또는 중요도에 상관없이 수식할 수 있고, 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 뿐 해당 구성요소들을 한정하지 않는다. 어떤(예: 제1) 구성요소가 다른(예: 제2) 구성요소에 "(기능적으로 또는 통신적으로) 연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제 3 구성요소)를 통하여 연결될 수 있다.
본 문서에서, "~하도록 구성된(또는 설정된)(configured to)"은 상황에 따라, 예를 들면, 하드웨어적 또는 소프트웨어적으로 "~에 적합한," "~하는 능력을 가지는," "~하도록 변경된," "~하도록 만들어진," "~를 할 수 있는," 또는 "~하도록 설계된"과 상호 호환적으로(interchangeably) 사용될 수 있다. 어떤 상황에서는, "~하도록 구성된 장치"라는 표현은, 그 장치가 다른 장치 또는 부품들과 함께 "~할 수 있는" 것을 의미할 수 있다. 예를 들면, 문구 "A, B, 및 C를 수행하도록 구성된(또는 설정된) 프로세서"는 해당 동작을 수행하기 위한 전용 프로세서(예: 임베디드 프로세서), 또는 메모리 장치에 저장된 하나 이상의 소프트웨어 프로그램들을 실행함으로써, 해당 동작들을 수행할 수 있는 범용 프로세서(예: CPU 또는 application processor)를 의미할 수 있다.
본 문서의 다양한 실시예들에 따른 전자 장치는, 예를 들면, 스마트폰, 태블릿 PC, 이동 전화기, 영상 전화기, 전자책 리더기, 데스크탑 PC, 랩탑 PC, 넷북 컴퓨터, 워크스테이션, 서버, PDA, PMP(portable multimedia player), MP3 플레이어, 의료기기, 카메라, 또는 웨어러블 장치 중 적어도 하나를 포함할 수 있다. 웨어러블 장치는 액세서리형(예: 시계, 반지, 팔찌, 발찌, 목걸이, 안경, 콘택트 렌즈, 또는 머리 착용형 장치(head-mounted-device(HMD)), 직물 또는 의류 일체형(예: 전자 의복), 신체 부착형(예: 스킨 패드 또는 문신), 또는 생체 이식형 회로 중 적어도 하나를 포함할 수 있다. 어떤 실시예들에서, 전자 장치는, 예를 들면, 텔레비전, DVD(digital video disk) 플레이어, 오디오, 냉장고, 에어컨, 청소기, 오븐, 전자레인지, 세탁기, 공기 청정기, 셋톱 박스, 홈 오토매이션 컨트롤 패널, 보안 컨트롤 패널, 미디어 박스(예: 삼성 HomeSyncTM, 애플TVTM, 또는 구글 TVTM), 게임 콘솔(예: XboxTM, PlayStationTM), 전자 사전, 전자 키, 캠코더, 또는 전자 액자 중 적어도 하나를 포함할 수 있다.
다른 실시예에서, 전자 장치는, 각종 의료기기(예: 각종 휴대용 의료측정기기(혈당 측정기, 심박 측정기, 혈압 측정기, 또는 체온 측정기 등), MRA(magnetic resonance angiography), MRI(magnetic resonance imaging), CT(computed tomography), 촬영기, 또는 초음파기 등), 네비게이션 장치, 위성 항법 시스템(GNSS(global navigation satellite system)), EDR(event data recorder), FDR(flight data recorder), 자동차 인포테인먼트 장치, 선박용 전자 장비(예: 선박용 항법 장치, 자이로 콤파스 등), 항공 전자기기(avionics), 보안 기기, 차량용 헤드 유닛(head unit), 산업용 또는 가정용 로봇, 드론(drone), 금융 기관의 ATM, 상점의 POS(point of sales), 또는 사물 인터넷 장치 (예: 전구, 각종 센서, 스프링클러 장치, 화재 경보기, 온도조절기, 가로등, 토스터, 운동기구, 온수탱크, 히터, 보일러 등) 중 적어도 하나를 포함할 수 있다. 어떤 실시예에 따르면, 전자 장치는 가구, 건물/구조물 또는 자동차의 일부, 전자 보드(electronic board), 전자 사인 수신 장치(electronic signature receiving device), 프로젝터, 또는 각종 계측 기기(예: 수도, 전기, 가스, 또는 전파 계측 기기 등) 중 적어도 하나를 포함할 수 있다. 다양한 실시예들에서, 전자 장치는 플렉서블하거나, 또는 전술한 다양한 장치들 중 둘 이상의 조합일 수 있다. 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다. 본 문서에서, 사용자라는 용어는 전자 장치를 사용하는 사람 또는 전자 장치를 사용하는 장치(예: 인공지능 전자 장치)를 지칭할 수 있다.
도 1을 참조하여, 다양한 실시예들에서의, 네트워크 환경(100) 내의 전자 장치(101)가 기재된다. 전자 장치(101)는 버스(110), 프로세서(120), 메모리(130), 입출력 인터페이스(150), 디스플레이(160), 및 통신 인터페이스(170)를 포함할 수 있다. 어떤 실시예에서는, 전자 장치(101)는, 구성요소들 중 적어도 하나를 생략하거나 다른 구성요소를 추가적으로 구비할 수 있다. 버스(110)는 구성요소들(110-170)을 서로 연결하고, 구성요소들 간의 통신(예: 제어 메시지 또는 데이터)을 전달하는 회로를 포함할 수 있다. 프로세서(120)는, 중앙처리장치, 어플리케이션 프로세서, 또는 커뮤니케이션 프로세서(communication processor(CP)) 중 하나 또는 그 이상을 포함할 수 있다. 프로세서(120)는, 예를 들면, 전자 장치(101)의 적어도 하나의 다른 구성요소들의 제어 및/또는 통신에 관한 연산이나 데이터 처리를 실행할 수 있다.
메모리(130)는, 휘발성 및/또는 비휘발성 메모리를 포함할 수 있다. 메모리(130)는, 예를 들면, 전자 장치(101)의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 저장할 수 있다. 일 실시예에 따르면, 메모리(130)는 소프트웨어 및/또는 프로그램(140)을 저장할 수 있다. 프로그램(140)은, 예를 들면, 커널(141), 미들웨어(143), 어플리케이션 프로그래밍 인터페이스(API)(145), 및/또는 어플리케이션 프로그램(또는 "어플리케이션")(147) 등을 포함할 수 있다. 커널(141), 미들웨어(143), 또는 API(145)의 적어도 일부는, 운영 시스템으로 지칭될 수 있다. 커널(141)은, 예를 들면, 다른 프로그램들(예: 미들웨어(143), API(145), 또는 어플리케이션 프로그램(147))에 구현된 동작 또는 기능을 실행하는 데 사용되는 시스템 리소스들(예: 버스(110), 프로세서(120), 또는 메모리(130) 등)을 제어 또는 관리할 수 있다. 또한, 커널(141)은 미들웨어(143), API(145), 또는 어플리케이션 프로그램(147)에서 전자 장치(101)의 개별 구성요소에 접근함으로써, 시스템 리소스들을 제어 또는 관리할 수 있는 인터페이스를 제공할 수 있다.
미들웨어(143)는, 예를 들면, API(145) 또는 어플리케이션 프로그램(147)이 커널(141)과 통신하여 데이터를 주고받을 수 있도록 중개 역할을 수행할 수 있다. 또한, 미들웨어(143)는 어플리케이션 프로그램(147)으로부터 수신된 하나 이상의 작업 요청들을 우선 순위에 따라 처리할 수 있다. 예를 들면, 미들웨어(143)는 어플리케이션 프로그램(147) 중 적어도 하나에 전자 장치(101)의 시스템 리소스(예: 버스(110), 프로세서(120), 또는 메모리(130) 등)를 사용할 수 있는 우선 순위를 부여하고, 상기 하나 이상의 작업 요청들을 처리할 수 있다. API(145)는 어플리케이션(147)이 커널(141) 또는 미들웨어(143)에서 제공되는 기능을 제어하기 위한 인터페이스로, 예를 들면, 파일 제어, 창 제어, 영상 처리, 또는 문자 제어 등을 위한 적어도 하나의 인터페이스 또는 함수(예: 명령어)를 포함할 수 있다. 입출력 인터페이스(150)는, 예를 들면, 사용자 또는 다른 외부 기기로부터 입력된 명령 또는 데이터를 전자 장치(101)의 다른 구성요소(들)에 전달하거나, 또는 전자 장치(101)의 다른 구성요소(들)로부터 수신된 명령 또는 데이터를 사용자 또는 다른 외부 기기로 출력할 수 있다.
디스플레이(160)는, 예를 들면, 액정 디스플레이(LCD), 발광 다이오드(LED) 디스플레이, 유기 발광 다이오드(OLED) 디스플레이, 또는 마이크로 전자기계 시스템 (MEMS) 디스플레이, 또는 전자종이(electronic paper) 디스플레이를 포함할 수 있다. 디스플레이(160)는, 예를 들면, 사용자에게 각종 콘텐츠(예: 텍스트, 이미지, 비디오, 아이콘, 및/또는 심볼 등)을 표시할 수 있다. 디스플레이(160)는, 터치 스크린을 포함할 수 있으며, 예를 들면, 전자 펜 또는 사용자의 신체의 일부를 이용한 터치, 제스쳐, 근접, 또는 호버링 입력을 수신할 수 있다. 통신 인터페이스(170)는, 예를 들면, 전자 장치(101)와 외부 장치(예: 제1 외부 전자 장치(102), 제2 외부 전자 장치(104), 또는 서버(106)) 간의 통신을 설정할 수 있다. 예를 들면, 통신 인터페이스(170)는 무선 통신 또는 유선 통신을 통해서 네트워크(162)에 연결되어 외부 장치(예: 제2 외부 전자 장치(104) 또는 서버(106))와 통신할 수 있다.
무선 통신은, 예를 들면, LTE, LTE-A(LTE Advance), CDMA(code division multiple access), WCDMA(wideband CDMA), UMTS(universal mobile telecommunications system), WiBro(Wireless Broadband), 또는 GSM(Global System for Mobile Communications) 등 중 적어도 하나를 사용하는 셀룰러 통신을 포함할 수 있다. 한 실시예에 따르면, 무선 통신은, 예를 들면, 도 1의 element 164로 예시된 바와 같이, WiFi(wireless fidelity), LiFi(light fidelity), 블루투스, 블루투스 저전력(BLE), 지그비(Zigbee), NFC(near field communication), 자력 시큐어 트랜스미션(Magnetic Secure Transmission), 라디오 프리퀀시(RF), 또는 보디 에어리어 네트워크(BAN) 중 적어도 하나를 포함할 수 있다. 한실시예에 따르면, 무선 통신은 GNSS를 포함할 수 있다. GNSS는, 예를 들면, GPS(Global Positioning System), Glonass(Global Navigation Satellite System), Beidou Navigation Satellite System(이하 "Beidou") 또는 Galileo, the European global satellite-based navigation system일 수 있다. 이하, 본 문서에서는, "GPS"는 "GNSS"와 상호 호환적으로 사용될 수 있다. 유선 통신은, 예를 들면, USB(universal serial bus), HDMI(high definition multimedia interface), RS-232(recommended standard232), 전력선 통신, 또는 POTS(plain old telephone service) 등 중 적어도 하나를 포함할 수 있다. 네트워크(162)는 텔레커뮤니케이션 네트워크, 예를 들면, 컴퓨터 네트워크(예: LAN 또는 WAN), 인터넷, 또는 텔레폰 네트워크 중 적어도 하나를 포함할 수 있다.
제1 및 제2 외부 전자 장치(102, 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 다양한 실시예들에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 다른 하나 또는 복수의 전자 장치(예: 전자 장치(102,104), 또는 서버(106)에서 실행될 수 있다. 일 실시예에 따르면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로 또는 요청에 의하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 그와 연관된 적어도 일부 기능을 다른 장치(예: 전자 장치(102, 104), 또는 서버(106))에게 요청할 수 있다. 다른 전자 장치(예: 전자 장치(102, 104), 또는 서버(106))는 요청된 기능 또는 추가 기능을 실행하고, 그 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 수신된 결과를 그대로 또는 추가적으로 처리하여 요청된 기능이나 서비스를 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.
도 2는 본 발명의 다양한 실시예들에 따른 전자 장치의 블록도를 도시한다. 전자 장치(201)는, 예를 들면, 도 1에 도시된 전자 장치(101)의 전체 또는 일부를 포함할 수 있다. 전자 장치(201)는 하나 이상의 프로세서(예: AP)(210), 통신 모듈(220), (가입자 식별 모듈(224), 메모리(230), 센서 모듈(240), 입력 장치(250), 디스플레이(260), 인터페이스(270), 오디오 모듈(280), 카메라 모듈(291), 전력 관리 모듈(295), 배터리(296), 인디케이터(297), 및 모터(298) 를 포함할 수 있다. 프로세서(210)는, 예를 들면, 운영 체제 또는 응용 프로그램을 구동하여 프로세서(210)에 연결된 다수의 하드웨어 또는 소프트웨어 구성요소들을 제어할 수 있고, 각종 데이터 처리 및 연산을 수행할 수 있다. 프로세서(210)는, 예를 들면, SoC(system on chip) 로 구현될 수 있다. 일 실시예에 따르면, 프로세서(210)는 GPU(graphic processing unit) 및/또는 이미지 신호 프로세서를 더 포함할 수 있다. 프로세서(210)는 도 2에 도시된 구성요소들 중 적어도 일부(예: 셀룰러 모듈(221))를 포함할 수도 있다. 프로세서(210) 는 다른 구성요소들(예: 비휘발성 메모리) 중 적어도 하나로부터 수신된 명령 또는 데이터를 휘발성 메모리에 로드)하여 처리하고, 결과 데이터를 비휘발성 메모리에 저장할 수 있다.
통신 모듈(220)(예: 통신 인터페이스(170))와 동일 또는 유사한 구성을 가질 수 있다. 통신 모듈(220)은, 예를 들면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227), NFC 모듈(228) 및 RF 모듈(229)을 포함할 수 있다. 셀룰러 모듈(221)은, 예를 들면, 통신망을 통해서 음성 통화, 영상 통화, 문자 서비스, 또는 인터넷 서비스 등을 제공할 수 있다. 일 실시예에 따르면, 셀룰러 모듈(221)은 가입자 식별 모듈(예: SIM 카드)(224)을 이용하여 통신 네트워크 내에서 전자 장치(201)의 구별 및 인증을 수행할 수 있다. 일 실시예에 따르면, 셀룰러 모듈(221)은 프로세서(210)가 제공할 수 있는 기능 중 적어도 일부 기능을 수행할 수 있다. 일 실시예에 따르면, 셀룰러 모듈(221)은 커뮤니케이션 프로세서(CP)를 포함할 수 있다. 어떤 실시예에 따르면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227) 또는 NFC 모듈(228) 중 적어도 일부(예: 두 개 이상)는 하나의 integrated chip(IC) 또는 IC 패키지 내에 포함될 수 있다. RF 모듈(229)은, 예를 들면, 통신 신호(예: RF 신호)를 송수신할 수 있다. RF 모듈(229)은, 예를 들면, 트랜시버, PAM(power amp module), 주파수 필터, LNA(low noise amplifier), 또는 안테나 등을 포함할 수 있다. 다른 실시예에 따르면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227) 또는 NFC 모듈(228) 중 적어도 하나는 별개의 RF 모듈을 통하여 RF 신호를 송수신할 수 있다. 가입자 식별 모듈(224)은, 예를 들면, 가입자 식별 모듈을 포함하는 카드 또는 임베디드 SIM을 포함할 수 있으며, 고유한 식별 정보(예: ICCID(integrated circuit card identifier)) 또는 가입자 정보(예: IMSI(international mobile subscriber identity))를 포함할 수 있다.
메모리(230)(예: 메모리(130))는, 예를 들면, 내장 메모리(232) 또는 외장 메모리(234)를 포함할 수 있다. 내장 메모리(232)는, 예를 들면, 휘발성 메모리(예: DRAM, SRAM, 또는 SDRAM 등), 비휘발성 메모리(예: OTPROM(one time programmable ROM), PROM, EPROM, EEPROM, mask ROM, flash ROM, 플래시 메모리, 하드 드라이브, 또는 솔리드 스테이트 드라이브 (SSD) 중 적어도 하나를 포함할 수 있다. 외장 메모리(234)는 플래시 드라이브(flash drive), 예를 들면, CF(compact flash), SD(secure digital), Micro-SD, Mini-SD, xD(extreme digital), MMC(multi-media card) 또는 메모리 스틱 등을 포함할 수 있다. 외장 메모리(234)는 다양한 인터페이스를 통하여 전자 장치(201)와 기능적으로 또는 물리적으로 연결될 수 있다.
센서 모듈(240)은, 예를 들면, 물리량을 계측하거나 전자 장치(201)의 작동 상태를 감지하여, 계측 또는 감지된 정보를 전기 신호로 변환할 수 있다. 센서 모듈(240)은, 예를 들면, 제스처 센서(240A), 자이로 센서(240B), 기압 센서(240C), 마그네틱 센서(240D), 가속도 센서(240E), 그립 센서(240F), 근접 센서(240G), 컬러(color) 센서(240H)(예: RGB(red, green, blue) 센서), 생체 센서(240I), 온/습도 센서(240J), 조도 센서(240K), 또는 UV(ultra violet) 센서(240M) 중의 적어도 하나를 포함할 수 있다. 추가적으로 또는 대체적으로, 센서 모듈(240)은, 예를 들면, 후각(e-nose) 센서, 일렉트로마이오그라피(EMG) 센서, 일렉트로엔씨팔로그램(EEG) 센서, 일렉트로카디오그램(ECG) 센서, IR(infrared) 센서, 홍채 센서 및/또는 지문 센서를 포함할 수 있다. 센서 모듈(240)은 그 안에 속한 적어도 하나 이상의 센서들을 제어하기 위한 제어 회로를 더 포함할 수 있다. 어떤 실시예에서는, 전자 장치(201)는 프로세서(210)의 일부로서 또는 별도로, 센서 모듈(240)을 제어하도록 구성된 프로세서를 더 포함하여, 프로세서(210)가 슬립(sleep) 상태에 있는 동안, 센서 모듈(240)을 제어할 수 있다.
입력 장치(250)는, 예를 들면, 터치 패널(252), (디지털) 펜 센서(254), 키(256), 또는 초음파 입력 장치(258)를 포함할 수 있다. 터치 패널(252)은, 예를 들면, 정전식, 감압식, 적외선 방식, 또는 초음파 방식 중 적어도 하나의 방식을 사용할 수 있다. 또한, 터치 패널(252)은 제어 회로를 더 포함할 수도 있다. 터치 패널(252)은 택타일 레이어(tactile layer)를 더 포함하여, 사용자에게 촉각 반응을 제공할 수 있다. (디지털) 펜 센서(254)는, 예를 들면, 터치 패널의 일부이거나, 별도의 인식용 쉬트를 포함할 수 있다. 키(256)는, 예를 들면, 물리적인 버튼, 광학식 키, 또는 키패드를 포함할 수 있다. 초음파 입력 장치(258)는 마이크(예: 마이크(288))를 통해, 입력 도구에서 발생된 초음파를 감지하여, 상기 감지된 초음파에 대응하는 데이터를 확인할 수 있다.
디스플레이(260)(예: 디스플레이(160))는 패널(262), 홀로그램 장치(264), 프로젝터(266), 및/또는 이들을 제어하기 위한 제어 회로를 포함할 수 있다. 패널(262)은, 예를 들면, 유연하게, 투명하게, 또는 착용할 수 있게 구현될 수 있다. 패널(262)은 터치 패널(252)과 하나 이상의 모듈로 구성될 수 있다. 홀로그램 장치(264)는 빛의 간섭을 이용하여 입체 영상을 허공에 보여줄 수 있다. 프로젝터(266)는 스크린에 빛을 투사하여 영상을 표시할 수 있다. 스크린은, 예를 들면, 전자 장치(201)의 내부 또는 외부에 위치할 수 있다. 인터페이스(270)는, 예를 들면, HDMI(272), USB(274), 광 인터페이스(optical interface)(276), 또는 D-sub(D-subminiature)(278)를 포함할 수 있다. 인터페이스(270)는, 예를 들면, 도 1에 도시된 통신 인터페이스(170)에 포함될 수 있다. 추가적으로 또는 대체적으로, 인터페이스(270)는, 예를 들면, MHL(mobile high-definition link) 인터페이스, SD카드/MMC(multi-media card) 인터페이스, 또는 IrDA(infrared data association) 규격 인터페이스를 포함할 수 있다.
오디오 모듈(280)은, 예를 들면, 소리와 전기 신호를 쌍방향으로 변환시킬 수 있다. 오디오 모듈(280)의 적어도 일부 구성요소는, 예를 들면, 도 1 에 도시된 입출력 인터페이스(145)에 포함될 수 있다. 오디오 모듈(280)은, 예를 들면, 스피커(282), 리시버(284), 이어폰(286), 또는 마이크(288) 등을 통해 입력 또는 출력되는 소리 정보를 처리할 수 있다. 카메라 모듈(291)은, 예를 들면, 정지 영상 및 동영상을 촬영할 수 있는 장치로서, 일 실시예에 따르면, 하나 이상의 이미지 센서(예: 전면 센서 또는 후면 센서), 렌즈, 이미지 시그널 프로세서(ISP), 또는 플래시(예: LED 또는 xenon lamp 등)를 포함할 수 있다. 전력 관리 모듈(295)은, 예를 들면, 전자 장치(201)의 전력을 관리할 수 있다. 일 실시예에 따르면, 전력 관리 모듈(295)은 PMIC(power management integrated circuit), 충전 IC, 또는 배터리 또는 연료 게이지를 포함할 수 있다. PMIC는, 유선 및/또는 무선 충전 방식을 가질 수 있다. 무선 충전 방식은, 예를 들면, 자기공명 방식, 자기유도 방식 또는 전자기파 방식 등을 포함하며, 무선 충전을 위한 부가적인 회로, 예를 들면, 코일 루프, 공진 회로, 또는 정류기 등을 더 포함할 수 있다. 배터리 게이지는, 예를 들면, 배터리(296)의 잔량, 충전 중 전압, 전류, 또는 온도를 측정할 수 있다. 배터리(296)는, 예를 들면, 충전식 전지 및/또는 태양 전지를 포함할 수 있다.
인디케이터(297)는 전자 장치(201) 또는 그 일부(예: 프로세서(210))의 특정 상태, 예를 들면, 부팅 상태, 메시지 상태 또는 충전 상태 등을 표시할 수 있다. 모터(298)는 전기적 신호를 기계적 진동으로 변환할 수 있고, 진동, 또는 햅틱 효과 등을 발생시킬 수 있다. 전자 장치(201)는, 예를 들면, DMB(digital multimedia broadcasting), DVB(digital video broadcasting), 또는 미디어플로(mediaFloTM) 등의 규격에 따른 미디어 데이터를 처리할 수 있는 모바일 TV 지원 장치(예: GPU)를 포함할 수 있다. 본 문서에서 기술된 구성요소들 각각은 하나 또는 그 이상의 부품(component)으로 구성될 수 있으며, 해당 구성요소의 명칭은 전자 장치의 종류에 따라서 달라질 수 있다. 다양한 실시예들에서, 전자 장치(예: 전자 장치(201))는 일부 구성요소가 생략되거나, 추가적인 구성요소를 더 포함하거나, 또는, 구성요소들 중 일부가 결합되어 하나의 개체로 구성되되, 결합 이전의 해당 구성요소들의 기능을 동일하게 수행할 수 있다.
도 3은 본 발명의 다양한 실시예들에 따른 프로그램 모듈의 블록도이다. 일 실시예에 따르면, 프로그램 모듈(310)(예: 프로그램(140))은 전자 장치(예: 전자 장치(101))에 관련된 자원을 제어하는 운영 체제 및/또는 운영 체제 상에서 구동되는 다양한 어플리케이션(예: 어플리케이션 프로그램(147))을 포함할 수 있다. 운영 체제는, 예를 들면, AndroidTM, iOSTM, WindowsTM, SymbianTM, TizenTM, 또는 BadaTM를 포함할 수 있다. 도 3을 참조하면, 프로그램 모듈(310)은 커널(320)(예: 커널(141)), 미들웨어(330)(예: 미들웨어(143)), (API(360)(예: API(145)), 및/또는 어플리케이션(370)(예: 어플리케이션 프로그램(147))을 포함할 수 있다. 프로그램 모듈(310)의 적어도 일부는 전자 장치 상에 프리로드 되거나, 외부 전자 장치(예: 전자 장치(102, 104), 서버(106) 등)로부터 다운로드 가능하다.
커널(320)은, 예를 들면, 시스템 리소스 매니저(321) 및/또는 디바이스 드라이버(323)를 포함할 수 있다. 시스템 리소스 매니저(321)는 시스템 리소스의 제어, 할당, 또는 회수를 수행할 수 있다. 일 실시예에 따르면, 시스템 리소스 매니저(321)는 프로세스 관리부, 메모리 관리부, 또는 파일 시스템 관리부를 포함할 수 있다. 디바이스 드라이버(323)는, 예를 들면, 디스플레이 드라이버, 카메라 드라이버, 블루투스 드라이버, 공유 메모리 드라이버, USB 드라이버, 키패드 드라이버, WiFi 드라이버, 오디오 드라이버, 또는 IPC(inter-process communication) 드라이버를 포함할 수 있다. 미들웨어(330)는, 예를 들면, 어플리케이션(370)이 공통적으로 필요로 하는 기능을 제공하거나, 어플리케이션(370)이 전자 장치 내부의 제한된 시스템 자원을 사용할 수 있도록 API(360)를 통해 다양한 기능들을 어플리케이션(370)으로 제공할 수 있다. 일 실시예에 따르면, 미들웨어(330) 는 런타임 라이브러리(335), 어플리케이션 매니저(341), 윈도우 매니저(342), 멀티미디어 매니저(343), 리소스 매니저(344), 파워 매니저(345), 데이터베이스 매니저(346), 패키지 매니저(347), 커넥티비티 매니저(348), 노티피케이션 매니저(349), 로케이션 매니저(350), 그래픽 매니저(351), 또는 시큐리티 매니저(352) 중 적어도 하나를 포함할 수 있다.
런타임 라이브러리(335)는, 예를 들면, 어플리케이션(370)이 실행되는 동안에 프로그래밍 언어를 통해 새로운 기능을 추가하기 위해 컴파일러가 사용하는 라이브러리 모듈을 포함할 수 있다. 런타임 라이브러리(335)는 입출력 관리, 메모리 관리, 또는 산술 함수 처리를 수행할 수 있다. 어플리케이션 매니저(341)는, 예를 들면, 어플리케이션(370)의 생명 주기를 관리할 수 있다. 윈도우 매니저(342)는 화면에서 사용되는 GUI 자원을 관리할 수 있다. 멀티미디어 매니저(343)는 미디어 파일들의 재생에 필요한 포맷을 파악하고, 해당 포맷에 맞는 코덱을 이용하여 미디어 파일의 인코딩 또는 디코딩을 수행할 수 있다. 리소스 매니저(344)는 어플리케이션(370)의 소스 코드 또는 메모리의 공간을 관리할 수 있다. 파워 매니저(345)는, 예를 들면, 배터리의 용량, 온도 또는 전원을 관리하고, 이 중 해당 정보를 이용하여 전자 장치의 동작에 필요한 전력 정보를 결정 또는 제공할 수 있다. 일 실시예에 따르면, 파워 매니저(345)는 바이오스(BIOS: basic input/output system)와 연동할 수 있다. 데이터베이스 매니저(346)는, 예를 들면, 어플리케이션(370)에서 사용될 데이터베이스를 생성, 검색, 또는 변경할 수 있다. 패키지 매니저(347)는 패키지 파일의 형태로 배포되는 어플리케이션의 설치 또는 갱신을 관리할 수 있다.
커넥티비티 매니저(348)는, 예를 들면, 무선 연결을 관리할 수 있다. 노티피케이션 매니저(349)는, 예를 들면, 도착 메시지, 약속, 근접성 알림 등의 이벤트를 사용자에게 제공할 수 있다. 로케이션 매니저(350)는, 예를 들면, 전자 장치의 위치 정보를 관리할 수 있다. 그래픽 매니저(351)는, 예를 들면, 사용자에게 제공될 그래픽 효과 또는 이와 관련된 사용자 인터페이스를 관리할 수 있다. 보안 매니저(352)는, 예를 들면, 시스템 보안 또는 사용자 인증을 제공할 수 있다. 일 실시예에 따르면, 미들웨어(330)는 전자 장치의 음성 또는 영상 통화 기능을 관리하기 위한 통화(telephony) 매니저 또는 전술된 구성요소들의 기능들의 조합을 형성할 수 있는 하는 미들웨어 모듈을 포함할 수 있다. 일 실시예에 따르면, 미들웨어(330)는 운영 체제의 종류 별로 특화된 모듈을 제공할 수 있다. 미들웨어(330)는 동적으로 기존의 구성요소를 일부 삭제하거나 새로운 구성요소들을 추가할 수 있다. API(360)는, 예를 들면, API 프로그래밍 함수들의 집합으로, 운영 체제에 따라 다른 구성으로 제공될 수 있다. 예를 들면, 안드로이드 또는 iOS의 경우, 플랫폼 별로 하나의 API 셋을 제공할 수 있으며, 타이젠의 경우, 플랫폼 별로 두 개 이상의 API 셋을 제공할 수 있다.
어플리케이션(370)은, 예를 들면, 홈(371), 다이얼러(372), SMS/MMS(373), IM(instant message)(374), 브라우저(375), 카메라(376), 알람(377), 컨택트(378), 음성 다이얼(379), 이메일(380), 달력(381), 미디어 플레이어(382), 앨범(383), 와치(384), 헬스 케어(예: 운동량 또는 혈당 등을 측정), 또는 환경 정보(예: 기압, 습도, 또는 온도 정보) 제공 어플리케이션을 포함할 수 있다. 일 실시예에 따르면, 어플리케이션(370)은 전자 장치와 외부 전자 장치 사이의 정보 교환을 지원할 수 있는 정보 교환 어플리케이션을 포함할 수 있다. 정보 교환 어플리케이션은, 예를 들면, 외부 전자 장치에 특정 정보를 전달하기 위한 노티피케이션 릴레이 어플리케이션, 또는 외부 전자 장치를 관리하기 위한 장치 관리 어플리케이션을 포함할 수 있다. 예를 들면, 알림 전달 어플리케이션은 전자 장치의 다른 어플리케이션에서 발생된 알림 정보를 외부 전자 장치로 전달하거나, 또는 외부 전자 장치로부터 알림 정보를 수신하여 사용자에게 제공할 수 있다. 장치 관리 어플리케이션은, 예를 들면, 전자 장치와 통신하는 외부 전자 장치의 기능(예: 외부 전자 장치 자체(또는, 일부 구성 부품)의 턴-온/턴-오프 또는 디스플레이의 밝기(또는, 해상도) 조절), 또는 외부 전자 장치에서 동작하는 어플리케이션을 설치, 삭제, 또는 갱신할 수 있다. 일 실시예에 따르면, 어플리케이션(370)은 외부 전자 장치의 속성에 따라 지정된 어플리케이션(예: 모바일 의료 기기의 건강 관리 어플리케이션)을 포함할 수 있다. 일 실시예에 따르면, 어플리케이션(370)은 외부 전자 장치로부터 수신된 어플리케이션을 포함할 수 있다. 프로그램 모듈(310)의 적어도 일부는 소프트웨어, 펌웨어, 하드웨어(예: 프로세서(210)), 또는 이들 중 적어도 둘 이상의 조합으로 구현(예: 실행)될 수 있으며, 하나 이상의 기능을 수행하기 위한 모듈, 프로그램, 루틴, 명령어 세트 또는 프로세스를 포함할 수 있다.
도 4는 본 발명의 다양한 실시예들에 따른 전자 장치 및 서버를 도시한다.
도 4를 참조하면, 일 실시예에서, 전자 장치(401)는 특정한 모양의 객체를 그리는 핸드라이팅 입력을 사용자로부터 수신하고, 핸드라이팅 입력의 특성 정보 등에 따라 결정된 외부 전자 장치를 제어하기 위한 제어 정보를 서버(403)로 송신하는 사용자 장치일 수 있다.
일 실시예에서, 결정된 외부 전자 장치는, 서버(403)와 네트워크(423)을 통해 연결된 외부 전자 장치들(405 내지 411)중 적어도 하나일 수 있다.
일 실시예에서, 전자 장치(401)에, 전자 장치(401)의 제어 범위와 관련된 계정(account)이 지정될 수 있다. 일 실시예에서 전자 장치(401)에 지정된 계정에는, 전자 장치(401)가 제어할 수 있는, 외부 전자 장치들(405 내지 411)중 적어도 하나의 외부 전자 장치가 등록될 수 있다. 일 실시예에서, 전자 장치(401)는 핸드라이팅 입력의 특성 정보 등에 따라 전자 장치(401)의 계정에 등록된 외부 전자 장치 중 하나의 외부 전자 장치를 결정하고, 결정된 외부 전자 장치를 제어하기 위한 제어 정보를 서버(403)에 송신할 수 있다.
일 실시예에서, 전자 장치(401)는 도 1에 도시된 전자 장치(101)일 수 있다. 예를 들면, 전자 장치(401)는 스마트폰(smart phone), 태블릿(tablet), 웨어러블 장치(wearable device), 스마트 TV(smart TV), 스마트 냉장고(smart refrigerator), 스마트 세탁기(smart washing machine), 스마트 오븐(smart oven), 또는 로봇 청소기(robot cleaner) 중 적어도 하나일 수 있으나, 이에 한정하는 것은 아니다.
일 실시예에서, 서버(403)는 서버(403)와 연결된 외부 전자 장치들(405 내지 411)의 정보를 저장 및 관리하고, 전자 장치(401)의 요청에 따라 전자 장치에게 외부 전자 장치들(405 내지 411)에 대한 정보를 전송하며, 전자 장치(401)로부터 수신한 제어 정보에 따라, 외부 전자 장치들(405 내지 411)에게 외부 전자 장치들(405 내지 411)을 제어하기 위한 신호를 전송하는 장치일 수 있다.
일 실시예에서, 서버(403)는 외부 전자 장치들(405 내지 411)과 연결되어 주기적으로, 또는 실시간으로, 또는 이벤트 발생시, 외부 전자 장치들(405 내지 411)과 통신할 수 있다. 일 실시예에서, 이벤트는 외부 전자 장치들(405 내지 411) 중 하나의 외부 전자 장치의 상태 정보의 변경 또는 새로운 외부 전자 장치의 등록 중 하나일 수 있다. 예를 들어, 외부 전자 장치의 상태 정보의 변경은, 외부 전자 장치가 TV(407)일 때, TV(407)의 ON/OFF 상태의 변경일 수 있다. 일 실시예에서, 서버(403)는 외부 전자 장치들(405 내지 411)과 통신함으로써, 외부 전자 장치들(405 내지 411)의 정보를 수신하고, 수신된 정보를 저장 및 관리할 수 있다.
일 실시예에서, 전자 장치(401)는 외부 전자 장치들(405 내지 411) 중적어도 하나의 외부 전자 장치에 대한 정보를 요청하는 신호 또는 외부 전자 장치들(405 내지 411) 중 적어도 하나의 외부 전자 장치를 제어하기 위한 신호를 서버(403)에 전송할 수 있다.
일 실시예에서, 전자 장치(401)가 서버(403)에 요청하는 외부 전자 장치들(405 내지 411)에 대한 정보는, 서버(403)와 연결된 외부 전자 장치들(405 내지 411)의 목록, 서버(403)와 연결된 외부 전자 장치들(405 내지 411)의 상태 정보, 또는 전자 장치(401)가 제어할 수 있는 외부 전자 장치들의 목록 중 적어도 하나를 포함할 수 있다.
일 실시예에서, 전자 장치(401)는 서버(403)와 연결된 외부 전자 장치들(405 내지 411)의 목록 중 적어도 하나의 외부 전자 장치를 나타내는 객체를 선택하는 사용자 입력 혹은 적어도 하나의 외부 전자 장치에 대응하는 검색어를 입력하는 사용자 입력을 수신함으로써, 서버와 연결된 외부 전자 장치들(405 내지 411) 중 적어도 하나의 전자 장치를 결정할 수 있다. 일 실시예에서, 전자 장치(401)는 결정된 적어도 하나의 전자 장치에 대한 정보를 서버에 요청할 수 있다.
일 실시예에서, 서버(403)는, 서버(403)와 연결되어 주기적으로, 또는 실시간으로, 또는 이벤트 발생시, 통신하는 외부 전자 장치들(405 내지 411)중 하나의 전자 장치에 적어도 하나의 저장 공간을 할당할 수 있다. 일 실시예에서, 서버(403)는 할당된 저장 공간에 복수의 외부 전자 장치들(405 내지 411) 각각의 전자 장치로부터 수신한 연결 정보 및 상태 정보를 저장하고, 저장된 정보를 전자 장치(401)의 요청에 따라 전자 장치(401)에 제공할 수 있다.
예를 들어, 전자 장치(401)는 제어할 외부 전자 장치들(405 내지 411)중 하나의 전자 장치에 직접 접속하지 않고도, 서버(403)에 연결함으로써 외부 전자 장치들(405 내지 411)중 하나의 전자 장치에 대한 정보를 수신할 수 있다. 또 다른 예를 들어, 전자 장치(401)는 상기 외부 전자 장치(405 내지 411중 하나)에 대한 제어 명령을, 서버(403)를 통하여 상기 외부 전자 장치(405 내지 411중 하나)에 전송할 수 있다.
일 실시예에서, 서버(403)은 IoT(internet of things) 클라우드 서버일 수 있으며, 외부 전자 장치들(405 내지 411)은 IoT 클라우드 시스템에 가입된 전자 장치일 수 있다.
일 실시예에서, 외부 전자 장치들(405 내지 411)은 통신 기능을 갖고, 일정한 영역 이내에 위치하여 서버(403)와 연결되며, 주기적으로, 또는 실시간으로, 또는 이벤트 발생시 서버(403)와 통신을 수행할 수 있다. 예를 들어, 외부 전자 장치들(405 내지 411)은 냉장고(405), TV(407), 스피커(409), 또는 전구(411) 등을 포함할 수 있으며, 이에 한정되지 않는다.
일 실시예에서, 네트워크(421, 423)은 도 1의 네트워크(162)의 일종으로서 통신 네트워크(telecommunications network)일 수 있다. 예를 들어, 네트워크(421)은 셀룰러 통신 네트워크일 수 있으며, 네트워크(423)은 가정 내 다양한 전자 기기들 상호간에 구축된 홈 네트워크일 수 있다.
일 실시예에서, 도시되지 않았지만, 전자 장치(401)는 서버(403)를 통하지 않고 외부 전자 장치(405 내지 411)들과 직접 연결될 수 있다. 일 실시예에서, 전자 장치(401)는 외부 전자 장치들(405 내지 411)과 주기적으로, 또는 실시간으로, 또는 이벤트 발생시 통신하며, 사용자의 핸드라이팅 입력에 따라 외부 전자 장치들 중 하나 이상의 장치들 및 제어 정보를 결정하고, 결정된 제어 정보를 결정된 장치들에 직접적으로 전송할 수 있다.
도 5는 본 발명의 다양한 실시예들에 따른 전자 장치, 서버 및 외부 전자 장치간 신호 흐름을 도시한다.
일 실시예에 따르면, 외부 전자 장치(505)는 외부 전자 장치들(예: 도 4의 외부 전자 장치들(405 내지 411)) 중 하나로, 서버(503)와 연결되어, 주기적으로, 또는 실시간으로, 또는 이벤트 발생시 네트워크(예: 도 4의 네트워크(423))를 통해 서버(503)와 통신하는 장치일 수 있다. 예를 들어, 외부 전자 장치(505)는 냉장고(405)일 수 있다.
511동작에서, 외부 전자 장치(505)는 네트워크를 통해 연결된 서버(503)에 연결 정보 및 상태 정보를 송신할 수 있다.
일 실시예에 따르면, 연결 정보는 외부 전자 장치(505)가 서버(503)와 연결하기 위해 필요한 설정 정보를 포함할 수 있다. 예를 들어, 연결 정보는 외부 전자 장치(505)의 아이피 정보일 수 있다.
일 실시예에 따르면, 연결 정보는 외부 전자 장치(505)와 서버(503)간 연결 상태(즉, 네트워크 상태)를 나타내는 정보를 포함할 수 있다. 예를 들어, 네트워크(예: 도 4의 네트워크(423))가 와이파이인 경우, 연결 정보는 와이파이 신호 세기 정보일 수 있다.
일 실시예에 따르면, 상태 정보는 외부 전자 장치(505)의 현재 상태를 나타내는 정보를 포함할 수 있다. 예를 들어, 외부 전자 장치(505)가 에어컨이고, 현재 에어컨이 ON상태인 경우, 상태 정보는 에어컨이 표시하는 현재 온도, 설정 온도, 전원이 ON된 후 경과 시간, 또는 예약 종료가 설정되어 있는 경우 예약 종료에 대한 정보를 포함할 수 있다.
513동작에서 서버(503)는 외부 전자 장치(505)로부터 연결 정보 및 상태 정보를 수신하면, 연결 정보 및 상태 정보를 수신하였음을 나타내는 ACK정보를 외부 전자 장치(505)로 송신할 수 있다.
515동작에서 서버(503)는 외부 전자 장치(505)로부터 수신한 연결 정보 및 상태 정보를 저장할 수 있다. 서버(503)는 서버(503)에 포함된 내부 데이터베이스, 또는 서버(503)에 포함되지 않는 외부 데이터베이스에 연결 정보 및 상태 정보를 저장할 수 있다. 일 실시예에 의하면, 511동작, 513동작 및 515동작은 지정된 시간을 간격으로 하여 주기적으로 수행되거나, 실시간으로 수행되거나 또는 이벤트 발생시 수행될 수 있다.
517동작에서, 전자 장치(501)(예: 프로세서(120))는 디스플레이(예: 디스플레이(160))를 통해 제1 객체를 그리는 제1 핸드라이팅 입력을 수신할 수 있다. 전자 장치(501)는 예를 들면, 도 4에 도시된 전자 장치(401)일 수 있다. 전자 장치(501)는 제1 핸드라이팅 입력을 사용자로부터 수신할 수도 있고, 혹은 전자 장치의 저장부(도 2의 메모리(230))에 저장되어, 디스플레이(160)에 제1 객체를 표시하도록 설정된 프로그램의 실행에 의하여 수신할 수도 있다.
일 실시예에 따르면, 제1 객체는 하나 이상의 기하학적 기본 요소들(점, 선)의 조합에 의해서 디스플레이(160)에 표시되는 형태일 수 있다. 예를 들어, 제1 객체는 도형, 문자, 또는 숫자, 혹은 이들의 조합일 수 있다. 다른 실시예에 따르면 하나 이상의 기하학적 요소들의 조합은, 하나 이상의 기하학적 요소들의 상대적 위치 관계(즉, 포함, 평행, 대칭, 또는 중첩 등)을 포함할 수 있다.
일 실시예에 따르면, 디스플레이(160)에 표시된 제1 객체는 사용자의 입력에 따라서 이동이 가능할 수 있다.
일 실시예에 따르면, 전자 장치(501)는 제1 핸드라이팅 입력을, 디스플레이(160)를 통하여 수신할 수 있으며, 상기 디스플레이(160)는 터치 스크린일 수 있다.
일 실시예에 따르면, 전자 장치(501)는 사용자의 신체(예: 손가락)를 이용한 터치 스크린에의 터치를 감지함으로써 제1 핸드라이팅 입력을 수신할 수 있다. 다른 실시예에 따르면, 전자 장치(501)는 전자 펜 등과 같은 입력 장치를 통하여 제1 핸드라이팅 입력을 수신할 수도 있다.
519동작에서, 전자 장치(501)는 외부 전자 장치를 결정할 수 있다. 일실시예에 따르면, 전자 장치(501)는 제1 핸드라이팅 입력의 특성 정보 등에 기반하여 제어할 외부 전자 장치를 결정할 수 있다. 일 실시예에 따르면, 제어할 외부 전자 장치는 외부 전자 장치(505)일 수 있다. 예를 들어, 전자 장치(501)는 직사각형 및 직사각형 내부에 위치한 2개의 직선의 모양새를 단순화한 모양을 제1 객체를 수신한 경우, 제어할 외부 전자 장치(505)를 냉장고(예: 냉장고(405))로 결정할 수 있다.
일 실시예에 따르면, 전자 장치(501)는 제1 핸드라이팅 입력의 특성 정보에 기반하여 제어할 외부 전자 장치(505)를 하나로 특정할 수 없는 경우, 사용자의 추가 입력에 기반하여 제어할 하나의 외부 전자 장치(505)를 결정할 수 있다. 예를 들어, 전자 장치(501)가 냉장고의 모양새를 단순화한 모양의 제1 객체를 수신하였고, 제어할 수 있는 외부 전자 장치들(405 내지 411) 중에 동일한 냉장고가 2개 이상 포함된 경우, 전자 장치(501)는 2개 이상의 외부 전자 장치에 대한 후보군의 목록을 제공할 수 있다. 다른 예를 들어, 전자 장치(501)가 세탁기 및 청소기의 형상의 일부가 될 수 있는 제1 객체를 수신한 경우, 전자 장치(501)는 세탁기와 청소기를 포함하는 외부 전자 장치에 대한 후보군의 목록을 제공할 수 있다. 일 실시예에 따르면, 전자 장치(501)는 표시된 목록에 대한 사용자의 입력에 기반하여 제어할 하나의 외부 전자 장치(505)를 결정할 수 있다. 예를 들어, 전자 장치(501)는 사용자에게 후보군의 목록에 대한 정보를 디스플레이(160) 또는 스피커(예: 스피커(282)) 등을 통해 제공하고, 사용자의 입력(예: 터치 또는 음성 등)을 통해 외부 전자 장치(505)를 결정할 수 있다.
일 실시예에 따르면, 전자 장치(501)는, 전자 장치(501)에 지정된 계정에 등록된 외부 전자 장치 중에서 제1 핸드라이팅 입력의 특성 정보(예: 모양 정보) 등에 기반하여 제어할 외부 전자 장치(505)를 결정할 수 있다.
일 실시예에 따르면, 전자 장치(501)는 전자 장치(501)의 사용 이력 정보, 혹은 사용 빈도 정보에 기반하여 제어할 외부 전자 장치(505)를 결정할 수 있다. 예를 들면, 전자 장치(501)가, 전자 장치(501)의 사용 이력 정보 혹은 사용 빈도 정보를 참조하여, 이제까지 TV(407)를 가장 높은 빈도로 제어하였다고 판단한 경우, 제1 핸드라이팅 입력의 특성 정보(예: 모양 정보) 등에 기반하여 제어할 외부 전자 장치(505)를 TV(407)로 결정할 수 있다. 이 때, 전자 장치(501)는 제1 핸드라이팅 입력에 의해 표시된 객체가, 가장 높은 빈도를 나타내는 미리 결정된 기호(mark)를 단순화한 모양인지 여부에 따라 제어할 외부 전자 장치(505)를 TV(407)로 결정할 수 있다.
525동작에서, 전자 장치(501)는 제1 객체를 외부 전자 장치(505)에 매핑할 수 있다. 여기서 외부 전자 장치(505)는 519단계에서 결정된 외부 전자 장치일 수 있다.
일 실시예에 따르면, 제1 객체를 외부 전자 장치(505)에 매핑하는 것은, 제1 객체가 표시된 상태에서 입력되는 사용자 입력을 이용하여 외부 전자 장치(505)를 제어하기 위해, 제1 객체를 외부 전자 장치(505)와 대응시키는 것을 의미한다. 예를 들어, 냉장고(405)의 모양새를 단순화한 모양의 제1 객체를 냉장고(405)와 매핑시키는 것은, 냉장고(405)의 모양새를 단순화한 모양의 제1 객체가 디스플레이(160)에 표시된 상태에서 입력되는 사용자의 추가 입력을 이용하여 냉장고(405)를 제어하기 위해, 제1 객체를 냉장고와 대응시키는 것을 의미한다.
일 실시예에 따르면, 외부 전자 장치(505)를 결정하는 동작(519)은 제1 객체를 그리는 제1 핸드라이팅 입력에 기반하여, 제어할 외부 전자 장치(505)를 결정하는 동작이며, 제1 객체를 외부 전자 장치(505)에 매핑하는 동작(525)은 상기 표시된 제1 객체를 이용하여 사용자가 결정된 외부 전자 장치(505)를 제어할 수 있도록, 상기 표시된 제1 객체와 연관된 사용자 입력에 따라서, 전자 장치(501)가 상기 결정된 외부 전자 장치(505)를 제어하는 모드(mode)에 진입하는 동작일 수 있다.
527동작에서, 전자 장치(501)는 서버(503)에 상태 정보를 요청할 수 있다. 일 실시예에 따르면, 전자 장치(501)는 서버(503)에 제어할 외부 전자 장치(505)의 상태 정보를 요청할 수 있다.
529동작에서, 서버(503)는 전자 장치(501)에 외부 전자 장치(505)의 상태 정보를 송신할 수 있다. 예를 들어, 서버(503)는 외부 전자 장치(505)(예: 냉장고)에 대한 현재 온도 정보, 또는 메모가 입력되어 있다면 입력된 메모 정보 등을 전자 장치(501)에 송신할 수 있다.
531동작에서, 전자 장치(501)는 디스플레이(160)를 통해 제2 객체를 그리는 제2 핸드라이팅 입력을 수신할 수 있다. 일 실시예에 따르면, 전자 장치(501)는 외부 전자 장치(505)와 매핑된 제1 객체가 디스플레이에 표시되어 있는 상태에서 제2 객체를 그리는 제2 핸드라이팅 입력을 수신할 수 있다.
533동작에서, 전자 장치(501)는 제어 동작 및 동작의 파라미터 값을 결정할 수 있다. 일 실시예에 따르면, 전자 장치(501)는 제2 핸드라이팅 입력의 특성 정보에 기반하여 제어 동작 및 동작의 파라미터의 값을 결정할 수 있다. 일 실시예에 따르면 제어 동작은 외부 전자 장치(505)가 수행할 동작을 나타낼 수 있다.
535동작에서, 전자 장치(501)는 제어 정보를 서버(503)에 송신할 수 있다. 일 실시예에 따르면 제어 정보는 제어할 외부 전자 장치(505)에 대한 정보, 제어 동작 및 동작의 파라미터 값에 대한 정보를 포함할 수 있다.
537동작에서, 서버(503)는 제어 정보에 기반하여, 제어할 외부 전자 장치(505)에, 제어 동작 및 동작의 파라미터 값에 대한 정보를 포함하는 제어 명령을 전달할 수 있다.
539동작에서, 외부 전자 장치(505)는 수신한 제어 명령에 기반하여, 제어 동작을 수행할 수 있다. 일 실시예에 따르면 외부 전자 장치(505)는 동작의 파라미터 값에 대한 정보를 고려하여 상기 제어 동작을 수행할 수 있다. 예를 들어, 외부 전자 장치(505)가 냉장고인 경우, 외부 전자 장치(505)는 수신한 제어 명령에 따라서 설정 온도를 2도 낮추는 동작을 수행할 수 있다. 다른 예를 들어, 외부 전자 장치(505)가 TV인 경우, 외부 전자 장치(505)는 수신한 제어 명령에 따라서 현재 볼륨을 3도 높이는 동작을 수행할 수 있다.
541동작에서, 외부 전자 장치(505)는 결과 정보를 서버(503)에 전송할 수 있다. 일 실시예에서, 결과 정보는 외부 전자 장치(505)가 539동작에서 수행한 동작의 결과에 대한 정보를 나타낸다.
543동작에서, 서버(503)는 외부 전자 장치(505)로부터 수신한 결과 정보를 전자 장치(501)에 전송할 수 있다. 도시되지 않았지만, 전자 장치(501)는 수신한 결과 정보를 디스플레이에 표시할 수 있다.
상술한 과정을 통하여, 전자 장치(501)는 객체를 그리는 핸드라이팅 입력에 기반하여 외부 전자 장치(505)가 특정한 동작을 수행하도록, 외부 전자 장치(505)를 제어할 수 있다. 상술한 과정은 전자 장치(501)가 서버(503)를 통하여 외부 전자 장치(505)를 제어하는 과정이지만, 다른 실시예에 따르면 전자 장치(501)는 서버(503)를 통하지 않고, 외부 전자 장치(505)와 직접적으로 연결하여 외부 전자 장치(505)를 제어할 수도 있다.
도 6은 본 발명의 다양한 실시예들에 따른 전자 장치의 블록도를 도시한다. 일 실시예에 따르면, 전자 장치(501)는, 도 4에 도시된 전자 장치(401)일 수 있다. 전자 장치(501)는 표시부(610), 통신부(620), 저장부(630), 또는 제어부(600, processor)를 포함할 수 있다.
표시부(610)는 제어부(600)와 전기적으로 연결되어, 사용자의 핸드라이팅 입력을 수신하기 위한 사용자 인터페이스, 핸드라이팅 입력과 같은 사용자의 입력 데이터, 또는 제어부(600)로부터의 알림 메시지 등을 표시할 수 있다. 예를 들어 표시부(610)는 디스플레이(160)일 수 있다. 일 실시예에서 표시부(610)는 사용자로부터 데이터를 입력 받을 수도 있다. 예를 들어, 표시부(610)는 터치스크린 디스플레이일 수 있다.
통신부(620)는 제어부(600)와 전기적으로 연결되어, 수신된 사용자의 핸드라이팅 입력에 기반하여 외부 전자 장치(505, 예: TV)를 제어하기 위한 제어 정보를 서버(503)에 전송할 수 있다. 예를 들어, 통신부(620)는 도 2의 통신 모듈(220)일 수 있다.
저장부(630)는 제어부(600)와 전기적으로 연결되어, 사용자의 핸드라이팅 입력을 이용하여 외부 전자 장치(505)를 제어하기 위한 정보들을 저장할 수 있다. 일 실시예에서, 저장부(630)는 도 1의 메모리(130) 혹은 도 2의 메모리(230)일 수 있다. 저장부(630)에 대한 자세한 사항은 도 7에서 후술한다.
제어부(600)는 전자 장치(501)에 적어도 하나 이상 포함되어, 전자 장치(501)의 지정된 기능을 수행할 수 있다. 일 실시예에서, 제어부(600)는 수신한 사용자 핸드라이팅 입력에 의하여 디스플레이(160)에 표시된 제1 객체의 모양을 결정하고, 제1 객체의 모양에 기반하여 외부 전자 장치(505)를 선택하고, 통신부(620)를 이용하여 상기 외부 전자 장치(505)와 무선 통신을 수립하도록 설정될 수 있다. 예를 들어, 제어부(600)는 서버(403)를 통하여 외부 전자 장치(505)와 무선 통신을 수립할 수 있으며, 서버(403)를 통하지 않고 외부 전자 장치(505)와 직접적으로 무선 통신을 수립할 수도 있다. 일 실시예에서, 제어부(600)는 핸드라이팅 부(601), 인터워킹 부(603), 인텔리전스 부(605) 또는 커넥티비티 부(607)를 포함할 수 있다. 예를 들어, 제어부(600)는 도 1의 프로세서(120) 또는 도 2의 프로세서(210)일 수 있다.
핸드라이팅 부(601)는 사용자의 핸드라이팅 입력에 대한 처리 및 표시를 수행할 수 있다. 일 실시예에 따르면 핸드라이팅 부(601)는 사용자의 신체(예: 손가락)을 이용한 터치 스크린에의 터치를 감지함으로써 사용자의 핸드라이팅 입력을 수신할 수 있다. 다른 실시예에 따르면, 핸드라이팅 부(601)는 전자 펜 등과 같은 입력 장치를 통하여 핸드라이팅 입력을 수신할 수도 있다.
일 실시예에 따르면 핸드라이팅 부(601)는 핸드라이팅 입력에 대한 특성 정보를 결정할 수 있다. 핸드라이팅 입력의 특성 정보는 핸드라이팅 입력에 의하여 디스플레이(160)에 표시된 객체의 형상, 위치, 객체의 입력과 관련된 필압, 필속, 펜 기울기, 방향, 객체에 포함된 선의 두께 또는 획의 길이 중 적어도 하나를 포함할 수 있다.
인터워킹 부(603)는 핸드라이팅 부(601)로부터 수신된 핸드라이팅 입력의 특성 정보를 이용하여, 디스플레이(160)에 표시된 객체를 외부 전자 장치(505)와 매핑하거나, 디스플레이(160)에 표시된 객체와 매핑된 외부 전자 장치(505)를 제어할 수 있다. 일 실시예에 따르면, 객체에 외부 전자 장치(505)를 매핑하는 것은, 상기 객체가 표시된 상태에서 입력되는 사용자 입력을 이용하여 외부 전자 장치(505)를 제어하기 위하여, 제1 객체를 외부 전자 장치(505)와 대응시키는 것을 의미할 수 있다.
일 실시예에 따르면, 인터워킹 부(603)는 상기 매핑에 대한 정보 및 상기 제어에 대한 정보를 저장부(630)에 저장할 수 있다. 다른 실시예에 따르면, 인터워킹 부(603)는 상기 제어의 결과에 대한 정보를 디스플레이(160)를 통해 표시할 수도 있다.
인텔리전스 부(605)는 핸드라이팅 부(601)로부터 수신된 핸드라이팅 입력의 특성 정보를 이용하여, 디스플레이(160)에 표시된 객체로부터 연상되는 개념 또는 단어를 외부 서버로부터 수신할 수 있다.
일 실시예에 의하면, 인텔리전스 부(605)는 사용자의 핸드라이팅 입력에 의하여 디스플레이(160)에 표시된 객체의 모양으로부터 연상되는 단어를 추출하고, 추출된 단어에 온톨로지(ontology)를 적용하여 연관된 단어를 나열할 수 있다. 예를 들어, 사용자의 핸드라이팅 입력에 의하여 디스플레이(160)에 표시된 객체가 직사각형 및 직사각형에 포함된 원인 경우, 인텔리전스 부(605)는 가전 제품이라는 카테고리에 포함된 복수 개의 전자 장치의 이미지를 검색하여, 디스플레이(160)에 표시된 객체의 모양으로부터 연상되는 단어로 "세탁기"를 추출할 수 있다.
일 실시예에 의하면, 인텔리전스 부(605)는 수신한 개념 혹은 단어에 기반하여, 디스플레이(160)에 표시된 객체에 매핑할 전자 장치를 결정하거나 디스플레이(160)에 표시된 객체와 매핑된 외부 전자 장치(505)가 수행할 동작을 결정할 수 있다. 예를 들어, 디스플레이(160)에 표시된 객체의 모양으로부터 연상되는 단어가 "세탁기"인 경우, 인텔리전스 부(605)는 디스플레이(160)에 표시된 객체에, 도 4에 도시된 외부 전자 장치들(405 내지 411)중 하나인 세탁기를 매핑할 수 있다.
커넥티비티 부(607)는 서버(503)로부터 연결 가능한 외부 전자 장치의 정보를 수신하고, 수신한 정보를 인텔리전스 부(605) 또는 인터워킹 부(603)에 전송할 수 있다. 일 실시예에 따르면, 커넥티비티 부(607)는 인텔리전스 부(605)에서 결정한 동작에 대한 정보를 인터워킹 부(603)에 전송하거나, 외부 전자 장치(505)를 제어한 결과에 대한 정보를 인터워킹 부(603)에 전송할 수도 있다.
다만, 편의상 핸드라이팅 부(601), 인터워킹 부(603), 인텔리전스 부(605) 또는 커넥티비티 부(607)로 구분한 것뿐, 상기 각 부에서 수행하는 동작 모두 제어부(600)가 수행하도록 설정될 수 있다.
도 7은 본 발명의 다양한 실시예들에 따른 전자 장치의 저장부에 저장된 정보를 도시한다.
또한, 도 9는 도 7에 도시된 정보 중 하나인, 외부 전자 장치들(405 내지 411)의 위치 정보를 도시한다.
일 실시예에 따르면, 전자 장치(501)의 저장부(630)는 단말ID(701), 모양 정보(703), 위치 정보(705), 액션 정보(707) 또는 장치 연결 데이터(709)를 포함할 수 있다.
일 실시예에 따르면, 전자 장치(501)는 상기 정보들(예: 모양 정보, 위치 정보 또는 액션 정보 등)을 서버(403)로부터 수신하여 저장할 수 있다. 일 실시예에 따르면, 전자 장치(501)는 상기 정보들을, 사용자로부터 핸드라이팅 입력을 수신하기 전, 미리 서버(403)로부터 수신하여 저장할 수 있다. 다른 실시예에 따르면, 전자 장치(501)는 사용자로부터 핸드라이팅 입력을 수신한 후, 서버(503)에 상기 정보들의 적어도 하나의 정보를 요청하여, 요청한 정보를 수신하고, 수신한 정보를 저장부(630)에 저장할 수도 있다.
단말ID(701)는 외부 전자 장치들(405 내지 411) 중 적어도 하나의 외부 전자 장치(예: 외부 전자 장치(505))의 고유 식별 정보를 포함할 수 있다. 일 실시예에 따르면, 전자 장치(501)는 서버(503)에 상태 정보를 요청(527)하거나 제어 정보를 송신(535)할 때, 단말ID(701)에 대한 정보를 서버(503)에 전송할 수 있다. 예를 들어, 단말ID(701)는 외부 전자 장치(예: 외부 전자 장치(505))의 맥 어드레스(MAC address) 정보 또는 IMEI(international mobile equipment identity) 식별코드일 수 있다.
모양 정보(703)는 전자 장치(501)가 사용자의 핸드라이팅 입력을 이용하여 제어할 외부 전자 장치(505)를 결정하기 위한 기준 정보일 수 있다. 일 실시예에 따르면, 모양 정보(703)는 하나 이상의 외부 전자 장치(505)와, 상기 외부 전자 장치(505)와 대응하는 하나 이상의 형상을 포함할 수 있다. 모양 정보(703)의 자세한 내용은 도 8에서 후술한다.
위치 정보(705)는 도 9를 참조할 때, 하나 이상의 외부 전자 장치들(405 내지 411)의 위치들을 포함할 수 있다. 예를 들어, 도 9를 참조하면, 서버에 연결된 외부 전자 장치가 3개의 TV(905, 907, 909)인 경우, 위치 정보(705)는 3개의 TV가 배치된 지도상 위치 정보를 포함할 수 있다. 다른 예를 들어, 위치 정보(705)는 3개의 TV가 배치된 위치를 나타내는 위도 및 경도 정보를 포함할 수 있다.
일 실시예에 따르면, 전자 장치(501)는 전자 장치의 GPS센서를 통하여 획득된 GPS정보, 또는 신호 세기에 기반한 삼각측량법에 의하여 전자 장치(501)의 현재 위치를 결정할 수 있고, 결정된 전자 장치(501)의 현재 위치 및 위치 정보(705)를 이용하여 전자 장치(501)와 외부 전자 장치들(405 내지 411)의 거리 관계를 결정할 수 있다. 예를 들어, 도 9를 참조하면, 전자 장치(501)는 전자 장치의 현재 위치(903) 및 3개의 TV(905, 907, 909)의 위치 정보에 기반하여, 전자 장치의 현재 위치(903)로부터 침실2에 있는 TV(907)이 가장 가깝고, 침실3에 있는 TV(909)가 가장 멀다고 결정할 수 있다.
일 실시예에 따르면, 전자 장치(501)는 전자 장치(501)의 현재 방향 정보를 결정하고, 결정된 전자 장치(501)의 현재 방향 정보, 현재 위치 정보 및 위치 정보(705)를 이용하여 상대적 위치 관계를 결정할 수 있다. 예를 들어, 도 9를 참조하면, 전자 장치(501)는 전자 장치(501)의 현재 방향 정보와 전자 장치의 현재 위치 정보(903)에 기반하여, 침실3에 있는 TV(909)는 전자 장치의 현재 방향을 기준으로 오른쪽에, 침실1에 있는 TV(905)는 전자 장치의 현재 방향을 기준으로 왼쪽에 위치한다고 결정할 수 있다.
액션 정보(707)는 전자 장치(501)가 사용자의 핸드라이팅 입력을 이용하여, 외부 전자 장치(505)가 어떤 동작을 수행하도록 제어할지를 결정하기 위한 기준 정보일 수 있다. 일 실시예에 따르면, 액션 정보(707)는 동작 정보 및 상기 동작 정보와 대응하는 하나 이상의 형상을 포함할 수 있다.
일 실시예에 따르면, 액션 정보(707)에 포함되는 동작 정보는 외부 전자 장치(505)가 수행할 수 있는 하나 이상의 동작에 대한 정보를 포함할 수 있으며, 전자 장치(501)는 액션 정보(707)에 포함되는 동작 정보를 서버(503) 또는 제어할 외부 전자 장치(505)로부터 수신할 수 있다. 일 실시예에서, 동작 정보는 외부 전자 장치(505)에 따라 다를 수 있다. 예를 들어, 외부 전자 장치(505)가 에어컨인 경우, 동작 정보는 온도 조절, 또는 모드 조절 등을 포함할 수 있으며, 외부 전자 장치(505)가 TV(407)인 경우, 동작 정보는 채널 조절, 볼륨 조절, 또는 음소거 등을 포함할 수 있다.
다른 실시예에 따르면, 액션 정보(707)에 포함되는 형상은 대응하는 동작 정보를 연상할 수 있는 형상일 수 있다. 예를 들어, 위쪽 방향의 화살표 형상은 수치로 표현될 수 있는 값(예: 볼륨, TV의 채널 번호, 또는 에어컨의 설정 온도 등)을 증가시키는 동작과 대응할 수 있다.
또 다른 실시예에 따르면, 액션 정보(707)에 포함되는 형상 중에서 그리는 순서가 다른 동일한 형상은 서로 구별될 수 있다. 즉, 그리는 순서가 다른 동일한 형상은 서로 다른 동작 정보와 대응될 수 있다. 예를 들어, 원을 그리고 원의 내부를 지나는 사선을 그림으로써 표시되는 형상은 전자 장치를 OFF하는 동작에 대응되며, 사선을 그리고 사선과 겹치게 원을 그림으로써 표시되는 형상은 전자 장치를 ON하는 동작에 대응될 수 있다.
또 다른 실시예에 따르면, 액션 정보(707)에 포함되는 형상과 동작 정보와의 대응 관계는, 결정된 외부 전자 장치(505)에 따라 달라질 수 있다. 예를 들어, 위쪽 방향의 화살표 형상은 제어할 전자 장치가 TV인 경우, 볼륨을 높이는 동작과 대응하며, 제어할 전자 장치가 에어컨인 경우, 설정 온도를 높이는 동작과 대응할 수 있다. 따라서, 복수 개의 전자 장치를 각각 제어하기 위한 하나의 형상(예: 위쪽 방향의 화살표)이 있을 수 있고, 하나의 전자 장치만을 제어하기 위한 하나의 형상이 있을 수도 있다.
장치 연결 데이터(709)는 전자 장치가 제어할 수 있는 외부 전자 장치들(405 내지 411)에 대한 정보 또는 전자 장치가 이전에 제어하였던 외부 전자 장치(예: 외부 전자 장치(505))에 대한 정보를 포함할 수 있다. 일 실시예에 따르면, 장치 연결 데이터(709)는 전자 장치가 제어할 수 있는 외부 전자 장치들(405 내지 411)의 사양에 대한 정보 혹은 사용 설명서에 대한 정보를 포함할 수 있다. 다른 실시예에 따르면, 장치 연결 데이터(709)는 특정한 외부 전자 장치(예: 외부 전자 장치(505))를 제어한 기록을 포함할 수 있다. 예를 들어, 장치 연결 데이터(709)는 핸드라이팅을 입력하여 외부 전자 장치(예: 외부 전자 장치(505))를 제어하였던 사용 이력 정보, 외부 전자 장치를 제어한 사용 빈도 정보 등을 포함할 수 있다. 또 다른 실시예에 따르면, 장치 연결 데이터(709)는 전자 장치(501)가 서버(503)를 통하지 않고 외부 전자 장치들(405 내지 411)중 적어도 하나의 외부 전자 장치(예: 외부 전자 장치(505))를 제어하기 위한 정보를 포함할 수 있다. 예를 들어, 장치 연결 데이터(709)는 외부 전자 장치들(405 내지 411)중 적어도 하나의 외부 전자 장치와 직접 통신 및 연결하기 위한 외부 전자 장치의 정보(예: MAC address 또는 IP address)등을 포함할 수 있다.
도시되지 않았지만, 저장부(630)는 사용자의 음성 입력을 텍스트로 변환하기 위한 프로그램 또는 외부 전자 장치(505)를 제어하기 위한 키워드 단어에 대한 정보 등을 추가적으로 저장할 수 있다.
도 8은 본 발명의 다양한 실시예들에 따른 전자 장치의 저장부에 저장된 모양 정보를 도시한다.
일 실시예에 따르면 전자 장치(801)는 특정한 모양의 객체를 그리는 핸드라이팅 입력을 사용자로부터 수신하는 장치일 수 있다. 예를 들어, 전자 장치(801)는 도 4에 도시된 전자 장치(401)일 수 있다.
일 실시예에 따르면, 모양 정보(703)에 포함되는 형상(803)은 전자 장치(801)가 제어할 수 있는 외부 전자 장치들(405 내지 411)의 통상적인 모양새를 단순화한 형상일 수 있다. 예를 들어, 모양 정보(703)에 포함되는 형상(803)은, 하나 이상의 기하학적 요소(점, 또는 선)를 포함하며, 하나 이상의 기하학적 요소의 조합에 의하여 결정될 수 있다.
일 실시예에 따르면 하나 이상의 기하학적 요소들의 조합은, 하나 이상의 기하학적 요소들의 상대적인 위치 관계(즉, 포함, 평행, 대칭, 또는 중첩 등)를 포함할 수 있다. 예를 들어, 모양 정보(703)는 벽걸이 에어컨의 통상적 이미지를 단순화한 형상(즉, 밑변의 길이가 좌변 또는 우변의 길이보다 긴 직사각형과, 직사각형 내부에 밑변과 평행하며 밑변의 길이보다 작은 선분)이 벽걸이 에어컨과 서로 대응한다는 정보를 포함할 수 있다. 또 다른 예를 들어, TV(407)의 통상적인 이미지를 단순화한 형상(즉, 사각형 및 상기 사각형의 밑변 아래에 위치한, Y자를 거꾸로 한 형상)과 TV(407)가 서로 대응한다는 정보를 포함할 수 있다.
일 실시예에 따르면, 형상은 개인별로 학습될 수 있다. 즉, 전자 장치(801)는 사용자의 별도의 입력을 통하여, 특정한 외부 전자 장치와 대응하는 형상을 수정할 수 있다. 예를 들어, 전자 장치(801)는 TV(407)에 대응하는 형상을,
사각형과 Y자를 거꾸로 한 형상이 아니라, 삼각형과 상기 삼각형의 하단에 Y자를 거꾸로 한 형상으로 결정하고, 모양 정보(703)를 그에 맞게 갱신할 수 있다.
도 10은 본 발명의 다양한 실시예들에 따른 전자 장치의 저장부에 저장된 액션 정보 중 동작 정보를 도시한다.
일 실시예에 따르면 전자 장치(예: 전자 장치(501))의 저장부(예: 저장부(630))에 저장된 액션 정보 중 동작 정보는 제어할 외부 전자 장치(505)에 따라 다양하게 결정될 수 있다. 예를 들어, 외부 전자 장치(505)가 결정되면, 결정된 외부 전자 장치(505)를 제어할 수 있는 동작(action)에 대한 정보가 결정될 수 있다. 예를 들어, 제어할 외부 전자 장치(505)가 TV(1010)인 경우, 제어부(예: 도 6의 제어부(600))는 동작 정보가 전원 ON/OFF, 채널 변경, 볼륨 업/다운, 또는 음소거 등의 항목을 포함한다는 것을 확인할 수 있다. 다른 예를 들어, 제어할 외부 전자 장치(505)가 A/C(1020)인 경우, 제어부(600)는 동작 정보가 전원 ON/OFF, 온도 조절, 또는 모드 조절 등의 항목을 포함한다는 것을 확인할 수 있다.
일 실시예에 따르면, 결정된 외부 전자 장치(505)를 제어할 수 있는 동작(action)은, 동작의 중요도, 동작의 사용 빈도 또는 동작이 콘텐트의 제공과 관련되는지 여부 중 적어도 하나에 기반하여 주된 제어 동작(main control action), 보조 제어 동작(sub control action) 또는 콘텐트 앤 서비스 동작(content & service)으로 분류될 수 있다. 예를 들어, 제어할 외부 전자 장치(505)가 TV(1010)로 결정된 경우, 전원 ON/OFF 등이 주된 제어 동작으로, 채널 조절, 음량 조절 또는 음소거 등이 서브 제어 동작으로 분류될 수 있다. 다른 예를 들어, 제어할 외부 전자 장치(505)가 TV(1010)로 결정된 경우, Smartview(즉, 스크린 미러링 동작) 등이 콘텐트 앤 서비스 동작으로,분류될 수 있다.
다른 실시예에 따르면, 제어할 외부 전자 장치(505)가 결정되면, 결정된 외부 전자 장치(505)의 장치 정보(device info) 혹은 상태 정보에 어떤 항목들이 포함되는지가 결정될 수 있다. 예를 들어, 제어할 외부 전자 장치(505)가 A/C(1020)인 경우, 제어부(600)는 장치 정보(device info)가 전원 ON/OFF정보, 현재 온도, 설정 온도 또는 모드 정보를 나타내는 항목을 포함한다는 것을 확인할 수 있다.
도 11은 본 발명의 다양한 실시예들에 따른 전자 장치의 저장부에 저장된 액션 정보 중 동작 정보를 도시한다.
일 실시예에 따르면, 도 10과 유사하게, 전자 장치(예: 전자 장치(501))의 저장부(예: 저장부(630))에 저장된 액션 정보 중 동작 정보는 제어할 외부 전자 장치(505)에 따라 다양하게 결정될 수 있다. 예를 들어, 제어할 외부 전자 장치(505)가 Garage Door(1110)로 결정된 경우, 전자 장치는 제어할 외부 전자 장치(505)의 동작 정보로 Garage Door Control(Open/Close) 등을 확인할 수 있다.
다른 실시예에 따르면, 제어할 외부 전자 장치(505)가 결정되면, 전자 장치는 결정된 외부 전자 장치(505)의 상태(status)에 어떤 항목들이 포함되는지가 결정될 수 있다. 예를 들어, 제어할 외부 전자 장치(505)가 Garage Door(1110)로 결정된 경우, 전자 장치는 제어할 외부 전자 장치(505)의 상태(status)가 Garage Door가 열렸는지 닫혔는지에 대한 상태를 나타내는 항목을 포함한다는 것을 확인할 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치(예: 도 5의 전자 장치(501))는, 하우징, 상기 하우징의 일부를 통해 노출된 터치스크린 디스플레이(예: 도 1의 디스플레이(160)), 무선 통신 회로(예: 도 1의 통신 인터페이스(170) 또는 도 2의 통신 모듈(220)), 상기 하우징의 내부에 위치하며 상기 디스플레이(160) 및 상기 무선 통신 회로(170)와 전기적으로 연결된 프로세서(예: 도 6의 제어부(600) 또는 도 1의 프로세서(120)) 및 상기 하우징의 내부에 위치하며 상기 프로세서와 전기적으로 연결된 메모리(예: 도 1의 메모리(130))를 포함하며, 상기 메모리(130)는, 실행 시 상기 프로세서(600)가 사용자 핸드라이팅 입력을 수신하기 위하여 사용자 인터페이스를 제공하고, 상기 디스플레이(160)를 통하여 제1 객체를 그리는 제1 핸드라이팅 입력을 수신하고, 상기 제1 객체의 모양을 결정하고, 상기 제1 객체의 모양에 기반하여 제어할 외부 전자 장치(505)를 선택하고, 상기 무선 통신 회로(170)를 통하여 상기 제어할 외부 전자 장치(505)와 무선 통신을 수립하도록 하는 명령어들을 저장할 수 있다.
다양한 실시예에 따르면, 상기 메모리(130)는 실행 시 상기 프로세서(600)가 상기 디스플레이(160)를 통하여 제2 객체를 그리는 제2 핸드라이팅 입력을 수신하고, 상기 제2 핸드라이팅 입력의 특성 정보에 기반하여, 상기 제어할 외부 전자 장치(505)가 수행할 기능 및 상기 기능과 관련된 파라미터 값을 결정하도록 하는 명령어들을 더 저장할 수 있다.
다양한 실시예에 따르면, 상기 전자 장치(501)는 상기 하우징의 내부에 위치한 디지타이저를 더 포함하며, 상기 프로세서(600)는 상기 제1 핸드라이팅 입력 또는 상기 제2 핸드라이팅 입력을, 상기 디지타이저와 상기 디지타이저에 상기 핸드라이팅 입력들을 입력하는 스타일러스 펜을 이용하여 수신하도록 설정될 수 있다.
다양한 실시예에 따르면, 상기 제2 객체를 그리는 상기 제2 핸드라이팅 입력의 특성 정보는, 상기 제2 핸드라이팅 입력의 세기, 상기 제2 핸드라이팅 입력의 방향, 상기 제2 객체의 형상, 또는 상기 제2 객체의 위치 중 적어도 하나를 포함할 수 있다.
다양한 실시예에 따르면, 상기 메모리(130)는 실행시 상기 프로세서(600)가, 상기 제1 객체를 구성하는 하나 이상의 요소들을 포함하는 하나 이상의 형상들을, 제1 저장 영역에 포함된 복수 개의 형상들 중에서 추출하고, 상기 추출된 하나 이상의 형상들에 대응하는 하나 이상의 외부 전자 장치들을 결정하고, 상기 하나 이상의 외부 전자 장치들 중 하나를 상기 제어할 외부 전자 장치(505)로 선택하도록 하는 명령어들을 저장할 수 있다.
다양한 실시예에 따르면, 상기 메모리(130)는 실행 시 상기 프로세서(600)가, 상기 하나 이상의 외부 전자 장치들을 결정할 때, 사용자의 추가 입력을 수신하고, 상기 수신한 사용자의 추가 입력에 기반하여 상기 하나 이상의 외부 전자 장치들 중 하나를 상기 제어할 외부 전자 장치(505)로 선택하도록 하는 명령어들을 저장할 수 있다.
다양한 실시예에 따르면, 상기 메모리(130)는 실행 시 상기 프로세서(600)가, 상기 하나 이상의 외부 전자 장치들을 결정할 때, 상기 하나 이상의 외부 전자 장치들과 관련된 가이드를 제공하도록 하는 명령어를 더 포함하고, 상기 사용자의 추가 입력은, 상기 제공된 가이드에 대한 사용자 입력일 수 있다.
다양한 실시예에 따르면, 상기 메모리(130)는 실행 시 상기 프로세서(600)가, 상기 제1 객체가 상기 디스플레이(160)에 표시된 상태에서, 상기 제1 객체를 상기 결정된 하나 이상의 형상들 중 하나의 형상으로 완성시키기 위하여 필요한 요소들을 상기 디스플레이(160)에 표시함으로써 상기 하나 이상의 외부 전자 장치들과 관련된 가이드를 제공하도록 하는 명령어를 포함할 수 있다.
다양한 실시예에 따르면, 상기 메모리(130)는 실행 시 상기 프로세서(600)가, 상기 제1 객체를 구성하는 하나 이상의 요소들의 기하학적 특성, 디스플레이 크기와의 비율 및 상기 하나 이상의 요소들간 상대적 위치 관계에 기반하여, 상기 제1 저장 영역에 포함된 복수 개의 형상들 중에서 상기 제1 객체에 대응하는 하나 이상의 형상들을 결정하고, 상기 결정된 하나 이상의 형상들에 대응하는 하나 이상의 외부 전자 장치들을 결정하고, 상기 하나 이상의 외부 전자 장치들 중 하나를 상기 제어할 외부 전자 장치(505)로 선택하도록 하는 명령어들을 저장할 수 있다.
다양한 실시예에 따르면, 상기 추출된 하나 이상의 형상들이 동일한 형상들인 경우, 상기 메모리(130)는 실행 시 상기 프로세서(600)가, 위치 정보, 방향 정보, 거리 정보, 사용 빈도 정보, 또는 사용 이력 정보 중 적어도 하나에 기반하여, 상기 추출된 하나 이상의 동일한 형상들 중 하나의 형상을 결정하고, 상기 하나의 형상에 대응하는 외부 전자 장치를 상기 제어할 외부 전자 장치(505)로 선택하도록 하는 명령어들을 저장할 수 있다.
다양한 실시예에 따르면, 상기 제어할 외부 전자 장치는 제1 외부 전자 장치와 제2 외부 전자 장치 중 적어도 하나를 포함하고, 상기 메모리(130)는 실행시 상기 프로세서가, 상기 제1 외부 전자 장치와 상기 제2 외부 전자 장치 중 적어도 하나가 수행할 기능 및 상기 기능과 관련된 파라미터 값을 결정하는 명령어들을 저장할 수 있다.
도 12는 본 발명의 다양한 실시예들에 따른 전자 장치가 사용자의 핸드라이팅 입력을 이용하여 외부 전자 장치를 제어하기 위한 동작 순서를 도시한 순서도이다.
전자 장치(예: 전자 장치(501))의 제어부(예: 도 6의 제어부(600))는 1201동작에서, 핸드라이팅 입력을 수신 받기 위한 사용자 인터페이스를 제공할 수 있다.
일 실시예에 따르면, 제어부(600)는 특정한 어플리케이션을 실행하고 있는 도중, 핸드라이팅 입력을 수신 할 수 있는 특정한 모드를 구동함으로써 핸드라이팅 입력을 수신 받기 위한 사용자 인터페이스를 제공할 수 있다. 예를 들어, 특정한 어플리케이션은 메모 어플리케이션일 수 있다.
다른 실시예에 따르면, 제어부(600)는 사용자 입력을 트리거링 이벤트로 하여 핸드라이팅 입력을 수신 받기 위한 사용자 인터페이스를 제공할 수도 있다. 예를 들어, 메모 어플리케이션을 실행하고 있는 도중, 특정한 버튼 또는 아이콘을 선택하는 사용자의 입력이 감지되면, 제어부(600)는 핸드라이팅 입력을 수신 받기 위한 사용자 인터페이스를 제공할 수 있다. 또 다른 예를 들어, 전자 장치로부터 분리 가능하게 결합된 펜이 분리되고, OFF된 상태의 디스플레이로 사용자 입력이 감지되는 경우, 제어부(600)는 핸드라이팅 입력을 수신 받기 위한 사용자 인터페이스를 제공할 수 있다.
제어부(600)는 1203동작에서, 제1 객체를 그리는 제1 핸드라이팅 입력을 수신할 수 있다.
일 실시예에 따르면, 제1 객체는 하나 이상의 기하학적 기본 요소들(점, 선)의 조합에 의하여 디스플레이(160)에 표시되는 형태일 수 있다.
다른 실시예에 따르면, 제어부(600)는 전자 펜 등과 같은 입력 장치를 통하여 제1 핸드라이팅 입력을 수신할 수도 있고, 저장부(예: 도 6의 저장부(630))에 저장된 사용 이력 정보 또는 사용 빈도 정보중 적어도 하나를 로딩(loading)하고, 상기 사용 이력 정보 또는 사용 빈도 정보에 포함된 객체를 디스플레이(160)에 표시할 수도 있다.
또 다른 실시예에서, 상기 사용 이력 정보 또는 사용 빈도 정보는 객체와, 상기 객체와 매핑되는 특정한 외부 전자 장치(505)에 대한 정보를 포함하지만, 제어부(600)는 상기 제1 객체를, 상기 특정한 외부 전자 장치(505)와 상이한 장치와 대응시킬 수도 있다.
제어부(600)는 1205동작에서, 제1 객체의 모양을 결정할 수 있다.
일 실시예에 따르면, 제어부(600)는 제1 객체를 구성하는 복수 개의 점들의 좌표 정보에 기반하여, 제1 객체의 모양을 결정할 수 있다.
일 실시예에서, 결정된 제1 객체의 모양은, 제1 객체를 구성하는 하나 이상의 구성 요소에 대한 정보를 포함할 수 있다. 예를 들어, 제어부(600)는 전자 장치의 디스플레이(160)를 2차원 좌표평면으로 설정하고, 디스플레이(160)에 표시된 제1 객체를 구성하는 복수 개의 점들의 좌표 정보를 획득하며, 좌표 정보에 기반하여 디스플레이(160)에 표시된 제1 객체가 직사각형 및 2개의 선분으로 구성되어 있음을 결정할 수 있다.
일 실시예에서, 결정된 제1 객체의 모양은, 제1 객체를 구성하는 하나 이상의 구성 요소에 대한 상대적 위치 관계에 대한 정보를 포함할 수 있다. 예를 들어, 디스플레이(160)에 표시된 제1 객체를 구성하는 2개의 선분은, 직사각형의 밑변에 포함되는 서로 다른 두 점을 끝점으로 하며, 직사각형의 중심을 지나는 상하 방향의 가상의 선을 기준으로 서로 대칭이라는 정보를 포함할 수 있다.
제어부(600)는 1207동작에서, 결정된 제1 객체의 모양에 기반하여 외부 전자 장치(505)를 선택할 수 있다.
일 실시예에서, 제어부(600)는 결정된 제1 객체의 모양을 저장부(630)에 저장된 모양 정보(703)의 형상(803)과 비교하여, 제어할 외부 전자 장치(505)를 선택할 수 있다. 예를 들어, 결정된 제1 객체가 직사각형 및 2개의 선분으로 구성되고 상술한 상대적 위치 관계를 갖는 경우, 제어부(600)는 모양 정보(703)의 형상 중에서, 직사각형 및 2개의 선분을 포함하며, 직사각형과 2개의 선분의 상기 상대적 위치 관계를 만족하는 형상을 결정할 수 있고, 결정된 형상과 대응하는 외부 전자 장치(505)를 결정할 수 있다.
도시되지 않았지만, 제어부(600)는 결정된 제1 객체의 모양 및 제1 객체를 구성하는 하나 이상의 구성 요소들의 상대적 크기, 위치 또는 입력 순서에 기반하여 외부 전자 장치(505)를 선택할 수도 있다.
제어부(600)는 1209동작에서, 선택된 외부 전자 장치(505)와 무선 통신을 수립할 수 있다. 일 실시예에 따르면, 제어부(600)는 선택된 외부 전자 장치(505)를 제어하기 위하여 선택된 외부 전자 장치(505)와 device to device통신을 수립할 수도 있고, 선택된 외부 전자 장치(505)를 제어하기 위한 제어 정보를 서버(503)에 송신하기 위하여 서버(503)와 무선 통신을 수립할 수도 있다.
도 13은 본 발명의 다양한 실시예들에 따른 전자 장치가 사용자의 핸드라이팅 입력을 이용하여 외부 전자 장치를 제어하기 위한 동작 순서를 도시한 순서도이다.
동작1301 내지 동작1303동작은 동작1201 내지 동작1203과 유사하므로, 구체적인 설명은 생략하기로 한다.
전자 장치(예: 도 5의 전자 장치(501))의 제어부(예: 도 6의 제어부(600))는 동작1305에서, 제1 객체에 외부 전자 장치(505)를 매핑할 수 있다.
일 실시예에 따르면, 제1 객체는 하나 이상의 기하학적 기본 요소들의 조합에 의하여 디스플레이(160)에 표시되는 형상으로서, 제1 객체에 외부 전자 장치(505)를 매핑하는 것은, 제1 객체가 표시된 상태에서 입력되는 사용자 입력을 이용하여 외부 전자 장치(505)를 제어하기 위하여, 제1 객체를 외부 전자 장치(505)와 대응시키는 것을 의미할 수 있다.
제어부(600)는 동작1307에서, 외부 전자 장치(505)의 상태 정보를 수신할 수 있다.
일 실시예에 따르면, 외부 전자 장치(505)의 상태 정보는 외부 전자 장치(505)의 현재 상태를 나타내는 정보로서, 외부 전자 장치(505)의 ON/OFF정보, 외부 전자 장치(505)가 현재 수행하고 있는 태스크 정보, 또는 외부 전자 장치(505)에 예약이 설정되어 있는 경우 예약 설정 정보 등을 포함할 수 있다. 예를 들어, 외부 전자 장치(505)가 TV인 경우, TV의 상태 정보는 TV의 ON/OFF정보, TV가 현재 송출하고 있는 채널 정보, 볼륨 정보, 또는 설정 정보(예: 1시간 후 종료) 중 적어도 어느 하나를 포함할 수 있다.
다른 실시예에 따르면, 제어부(600)는 전자 장치(501)의 상태 정보를 확인할 수 있으며, 전자 장치의 상태 정보는 반드시 동작1307에서 수행되는 것은 아니고, 동작1301 내지 동작1305 중 어느 한 동작에서 수행될 수 있다. 전자 장치의 상태 정보는 전자 장치의 현재 상태를 나타내는 정보일 수 있으며, 전자 장치가 현재 수행하고 있는 태스크 정보, 또는 전자 장치의 센서 정보(예: 위치 정보, 방향 정보 또는 조도 정보 등) 중 적어도 어느 하나를 포함할 수 있다.
제어부(600)는 동작1309에서, 제2 객체를 그리는 제2 핸드라이팅 입력을 수신할 수 있다.
일 실시예에 따르면, 제2 객체는 제1 객체와 동일하게, 하나 이상의 기하학적 기본 요소들(점 또는 선)의 조합에 의하여 디스플레이(160)에 표시되는 형상일 수 있다. 예를 들면, 제2 객체는 도형, 문자, 숫자, 또는 이들의 조합일 수 있다.
다른 실시예에 따르면, 제1 객체와 제2 객체는 시간에 따라 구분될 수 있다. 예를 들어, 별도의 객체가 표시되어 있지 않은 디스플레이(160)에 최초로 객체가 입력된 경우, 제어부(600)는 상기 입력된 객체를 제1 객체로 판단할 수 있다. 다른 예를 들어, 디스플레이(160)에 별도의 객체가 표시되어 있는 상태에서 추가 객체가 입력된 경우, 제어부(600)는 상기 입력된 객체를 제2 객체로 판단할 수 있다.
또 다른 실시예에 따르면, 제2 객체는 디스플레이(160)에 제1 객체가 표시되어 있는 상태에서, 추가적으로 디스플레이(160)에 표시될 수 있으며, 제1 객체의 적어도 일부와 중첩되게 표시될 수도 있고, 제1 객체의 외부에 표시될 수도 있다.
동작1311에서, 제어부(600)는 제2 핸드라이팅 입력의 특성 정보, 전자 장치의 상태 정보 또는 외부 전자 장치(505)의 상태 정보 중 적어도 하나에 기반하여 외부 전자 장치(505)를 제어할 수 있다.
일 실시예에서, 제어부(600)는 외부 전자 장치(505), 전자 장치(501) 중 적어도 하나의 장치를 제어하기 전, 제2 핸드라이팅 입력의 특성 정보를 결정할 수 있다. 제2 핸드라이팅 입력의 특성 정보는 제2 객체의 형상, 제2 객체가 디스플레이(160)에 표시된 위치, 제2 객체의 입력과 관련된 필압, 필속, 펜 기울기, 방향 또는 제2 객체에 포함된 선의 두께, 획의 길이 중 적어도 어느 하나를 포함할 수 있다. 일 실시예에 따르면, 제2 객체의 형상은, 제2 객체가 문자 혹은 숫자일 경우, 문자 혹은 숫자의 값을 나타낼 수 있다.
다른 실시예에서, 제어부(600)는 제2 객체를 그리는 제2 핸드라이팅 입력의 특성 정보, 전자 장치(501)의 상태 정보 또는 외부 전자 장치(505)의 상태 정보 중 적어도 어느 하나에 기반하여, 외부 전자 장치(505)가 수행할 동작 및 파라미터의 값에 대한 정보를 결정할 수 있다. 일 실시예에 따르면, 파라미터의 값에 대한 정보는, 외부 전자 장치(505)가 수행할 동작을 보다 구체적으로 결정하기 위하여 필요한 부가 정보일 수 있다. 예를 들어, 외부 전자 장치(505)가 TV이고, 수행할 동작이 "볼륨 조절"인 경우, 파라미터의 값에 대한 정보는 "볼륨을 몇 단계 높일 것인지"에 대한 정보, 즉 "볼륨 조절 값"에 대한 정보일 수 있다. 또 다른 예를 들어, 외부 전자 장치(505)가 Smart Lock과 관련된 장치이고, 수행할 동작이 "언락(Unlock)"인 경우, 파라미터의 값에 대한 정보는 보안에 관한 정보, 즉 "언락을 수행하기 위해 요구되는 보안 수준을 만족하는지"에 대한 정보일 수 있다.
또 다른 실시예에 따르면, 제어부(600)는 제2 객체의 모양 또는 제2 핸드라이팅 입력의 방향에 기반하여, 외부 전자 장치(505)가 수행할 동작을 결정할 수 있고, 제2 객체의 모양 또는 제2 객체를 입력하는 압력의 크기에 기반하여, 외부 전자 장치(505)가 수행할 동작의 파라미터의 값을 결정할 수 있다. 예를 들어, 외부 전자 장치(505, 예: TV)와 매핑된 제1 객체가 디스플레이(160)에 표시된 상태에서, 제2 객체를 그리는 제2 핸드라이팅 입력을 수신한 경우를 가정해보자. 제어부(600)는 제2 객체의 모양(예: 직선) 또는 제2 핸드라이팅 입력의 방향(예: 위쪽 방향)에 기반하여, 외부 전자 장치(505)가 수행할 동작을 "볼륨 조절"로 판단할 수 있고, 제2 객체의 모양(예: 직선) 또는 제2 객체를 입력하는 압력의 크기에 기반하여 동작의 파라미터의 값, 즉 "볼륨의 조절 값"을 결정할 수 있다.
또 다른 실시예에서, 제어부(600)는 외부 전자 장치(505)가 수행할 동작 및 수행할 동작의 파라미터 값에 대한 정보를 서버(503)로 송신할 수 있다. 예를 들어, 제어부(600)는 외부 전자 장치(505, 예: TV)와 매핑된 제1 객체가 디스플레이(160)에 표시된 상태에서, 제2 객체를 그리는 제2 핸드라이팅 입력을 수신한 경우, 제2 객체의 모양, 입력의 방향에 기반하여, 외부 전자 장치(505)가 수행할 동작을 "음소거"동작으로 판단할 수 있다. 이에 따라 제어부(600)는 통신부(예: 도 6의 통신부(620))를 이용하여 서버(503)에, 외부 전자 장치(505)가 "음소거"동작을 수행하도록 하는 제어 정보를 송신할 수 있다.
또 다른 실시예에서, 제어부(600)는 제2 객체를 그리는 제2 핸드라이팅 입력의 특성 정보, 전자 장치의 상태 정보 또는 외부 전자 장치(505)의 상태 정보 중 적어도 어느 하나에 기반하여, 외부 전자 장치(505)와 함께, 외부 전자 장치(505)와 상이한 전자 장치를 제어할 수도 있다. 일 실시예에 따르면 외부 전자 장치(505)와 상이한 전자 장치는 전자 장치(501)를 포함할 수 있다. 또 다른 실시예에 따르면 외부 전자 장치(505)와 상이한 전자 장치는, 외부 전자 장치(505)가 제1 외부 전자 장치(102)일 때, 제2 외부 전자 장치(104)일 수 있다.
예를 들어, 제어부(600)는 외부 전자 장치(505, 예: TV)와 매핑된 제1 객체가 디스플레이(160)에 표시된 상태에서, 제2 객체를 그리는 제2 핸드라이팅 입력을 수신한 경우, 제2 객체의 모양, 입력의 방향에 기반하여, 외부 전자 장치(505)가 수행할 동작을 "음소거" 및 "전자 장치(501)로 사운드 정보를 송신"하는 동작으로 판단할 수 있으며, 전자 장치(501)가 수행할 동작을 "외부 전자 장치(505)로부터 수신한 사운드 정보를 출력"하는 동작으로 판단할 수 있다. 이에 따라 제어부(600)는 통신부(620)를 이용하여 서버(503)에, 외부 전자 장치(505)가 "음소거" 및 "전자 장치(501)로 사운드 정보를 송신"하는 동작을 수행하도록 하는 제어 정보를 송신하며, 서버(503)로부터 수신한 사운드 정보를 출력하도록, 입출력 인터페이스(예: 도 1의 입출력 인터페이스(150))를 제어할 수 있다.
또 다른 예를 들어, 제1 외부 전자 장치(102, 예: TV)와 매핑된 제1 객체 및 제2 외부 전자 장치(104, 예: 냉장고)와 매핑된 제2 객체가 디스플레이(160)에 표시된 상태에서, 제2 객체의 적어도 일부와 중첩되도록 제1 객체를 이동시키는 사용자 입력을 수신한 경우, 제어부(600)는 통신부(620)를 이용하여 서버(503)에, 제1 외부 전자 장치(102)가 "재생 중지" 및 "제2 외부 전자 장치(104)로 화면, 사운드 정보를 송신"하는 동작을 수행하도록 하는 제어 정보를 송신하고, 제2 외부 전자 장치(104)가 "제1 외부 전자 장치(102)로부터 수신된 화면, 사운드 정보를 출력"하는 동작을 수행하도록 하는 제어 정보를 송신할 수 있다. 이에 따라, TV 화면에서 재생 중인 방송이 냉장고의 화면에서 표시될 수 있다.
또 다른 예를 들어, 제1 외부 전자 장치(102, 예: 전구)와 매핑된 제1 객체 및 제2 외부 전자 장치(104, 예: 전구)와 매핑된 제2 객체가 디스플레이(160)에 표시되어 있고, 제1 외부 전자 장치(102)와 제2 외부 전자 장치(104)가 동일한 장치일 경우(즉, 제1 외부 전자 장치(102)와 제2 외부 전자 장치(104)에 대응하는 모양 정보(703)와 액션 정보(707)가 서로 동일할 경우), 제어부(600)는 사용자의 핸드라이팅 입력에 기반하여 제1 외부 전자 장치와 제2 외부 전자 장치를 그룹핑하여 제어할 수 있다. 예를 들어, 제1 객체와 제2 객체를 포함하는 폐곡선(예: 원)을 그리는 핸드라이팅 입력을 수신한 경우, 제어부(600)는 제1 외부 전자 장치와 제2 외부 전자 장치를 그룹핑할 수 있다. 이후, 제어부(600)는 사용자의 추가 입력(예: 제2 핸드라이팅 입력)에 기반하여 제1 외부 전자 장치와 제2 외부 전자 장치를 동시에 제어(예: 불 끄기)할 수 있다.
도시되지 않았지만, 제어부(600)는 외부 전자 장치(505)를 제어한 뒤, 제1 객체 및 제2 객체를 저장부(예: 도 6의 저장부(630))에 저장할 수도 있다. 일 실시예에 따르면, 제어부(600)는 제1 객체를 외부 전자 장치(505)와 대응시켜 저장할 수 있으며, 제2 객체를 수행할 동작 및 동작의 파라미터의 값과 대응시켜 저장할 수도 있다.
도 14는 본 발명의 다양한 실시예들에 따른 전자 장치가 제1 객체 또는 제2 객체의 모양을 인식하기 위한 개념도이다.
일 실시예에 따르면, 전자 장치(예: 도 5의 전자 장치(501)의 제어부(예: 도 6의 제어부(600))는 사용자의 핸드라이팅 입력을 수신하면(1401), 디스플레이(160)에 객체를 그리는 입력인지, 디스플레이(160)에 표시된 객체를 수정하는 입력인지를 결정할 수 있다.
일 실시예에 따르면, 사용자 입력이 디스플레이(160)에 객체를 그리는 입력으로 판단되면, 제어부(600))는 하나의 획(stroke)이 입력될 때마다 객체가 될 수 있는 후보군을 결정 또는 갱신할 수 있다. 일 실시예에 따르면, 제어부(600)는 상기 객체가 텍스트(text)인지 비-텍스트인지(non-text) 여부를 결정할 수 있다(1403). 텍스트는 하나 이상의 글자에 포함되는 문자(예: 영어의 알파벳 또는 한글의 자음, 모음, 또는 자음과 모음의 결합에 의해 만들어진 문자, 혹은 숫자)등을 포함할 수 있다. 객체가 텍스트로 결정되면, 텍스트의 경계선을 추출하고(1409), 추출된 경계선에 기반하여 텍스트 혹은 단락의 모양을 인식하며(1411, 1413), 레이아웃을 미화(beautification)(1415)할 수 있다.
다른 실시예에 따르면, 전자 장치의 제어부(600)는 객체가 비-텍스트인 경우, 객체의 속성을 표(table)인지(1405), 밑줄(underline)인지(1407), 모양(shape)인지(1419)를 결정하고, 결정된 속성에 따라 객체의 의미를 추출할 수 있다. 또 다른 실시예에 따르면, 전자 장치의 제어부(600)는 객체의 속성을 모양으로 결정하였다면, 객체의 형상을 인식하고(1419), 인식된 형상의 레이아웃을 미화(beautification)(1421)할 수 있다.
또 다른 실시예에 따르면, 사용자 입력이 디스플레이(160)에 표시된 객체를 수정하는 입력으로 판단되면, 전자 장치의 제어부(600)는 디스플레이(160)에 표시된 객체를 지우거나 수정할 수 있다(1417). 도시되지 않았으나 동작1417은 텍스트뿐 만이 아니라 비-텍스트에도 적용될 수 있다.
또 다른 실시예에 따르면, 상기 객체는 제1 객체뿐만 아니라 제2 객체를 포함할 수 있다.
도 15는 본 발명의 다양한 실시예들에 따른 전자 장치가 제1 객체 또는 제2 객체의 모양을 인식하기 위한 개념도이다.
일 실시예에 따르면, 제1 객체는 하나 이상의 기하학적 기본 요소들(점, 또는 선)의 조합에 의해서 디스플레이(160)에 표시되는 형상으로서, 예를 들면 도형일 수 있다.
일 실시예에 따르면, 제1 객체는 도 15에서 예시된 평면 도형들(정사각형, 사다리꼴, 직사각형, 평행사변형, 마름모, 정삼각형, 선, 원, 타원, 폴리라인(polyline), 또는 화살표 등)중 적어도 어느 하나를 포함하는 형상일 수 있다. 예를 들어, 전자 장치는 사용자의 입력에 따라 디스플레이(160)에 표시된 제1 객체의 모양에 기반하여 제1 객체가 원 또는 타원임을 확인할 수 있다.
일 실시예에 따르면, 도 15에 예시된 평면 도형들은 제1 객체뿐 만 아니라 제2 객체의 모양도 나타낼 수 있다.
도 16는 본 발명의 다양한 실시예들에 따른 전자 장치가 객체의 모양을 결정하는 과정을 도시하는 개념도이다.
일 실시예에서, 객체는 제1 객체 및 제2 객체를 포함할 수 있다.
도 16(a)에서, 전자 장치(예: 도 5의 전자 장치(501))의 제어부(예: 도 6의 제어부(600))는 사용자가 터치한 터치점들의 좌표 정보에 기반하여 사용자가 입력한 객체의 최초 모양을 인식할 수 있다. 예를 들어, 사용자가 입력한 객체의 최초 모양은 불완전한 타원, 찌그러진 사각형을 나열한 모양일 수 있다.
도 16(b)에서, 제어부(600)는 사용자가 입력한 객체의 최초 모양에 전처리(pro-processing)과정을 수행할 수 있다. 전처리 과정은 사용자가 입력한 객체의 최초 모양에 포함되는 하나 이상의 점들을 미리 정해진 기준, 미리 결정된 간격 혹은 랜덤으로 추출하는 과정을 포함할 수 있다. 예를 들어 미리 정해진 기준은 선들의 교점일 수 있다.
도 16(c)에서, 제어부(600)는 하나 이상의 추출된 점들의 위치 및 미리 결정된 일정한 오차 범위를 기반으로, 하나 이상의 추출된 점들이 만족하는 기하학적 도형 중 하나의 도형을 선택할 수 있다. 예를 들어, 불완전한 타원에서 추출된 9개의 점은 9각형을 나타낼 수 있지만, 타원을 나타낼 수도 있으며, 전자 장치(501)는 사용자가 입력한 객체의 최초 모양이 직선이 아닌 곡선을 포함한다는 것을 고려하여 제어부(600)는 타원을 선택할 수 있다.
도 16(d)에서, 제어부(600)는 선택된 도형의 레이아웃을 미화(beautification)할 수 있다. 예를 들어, 디스플레이(160)의 밑변을 기준으로, 미리 결정된 오차 범위 이내로 기울어진 직선을 디스플레이(160)의 밑변과 평행하게 할 수 있다. 다른 예를 들어, 제어부(600)는 타원의 이심률이 미리 설정된 값보다 작은 경우, 타원을 원으로 수정할 수 있다. 또 다른 예를 들어, 제어부(600)는 하나 이상의 객체를 중심점을 기준으로 정렬할 수 있다.
도 17은 본 발명의 다양한 실시예들에 따른 전자 장치가 제1 객체를 그리는 제1 핸드라이팅 입력을 수신하기 위한 동작의 세부 순서도이다.
도 17은 전자 장치가 제1 객체를 그리는 제1 핸드라이팅 입력을 수신하는 동작(도 13의 1303동작)의 세부 순서도이다.
전자 장치(예: 전자 장치(501))의 제어부(예: 도6의 제어부(600))는 동작1701에서, 제1 요소를 수신할 수 있다. 요소는 하나 이상의 점 또는 선을 포함하는 평면 도형으로, 제1 요소는 제1 핸드라이팅 입력 중 처음으로 입력되는 요소일 수 있다. 예를 들어, 제1 요소는 직사각형일 수 있다.
제어부(600)는 동작1703에서, 제1 요소를 입력 받은 후, 사용자의 입력 없이 미리 결정된 시간이 경과하는지 판단할 수 있다. 만약 미리 결정된 시간이 경과하기 전 사용자의 입력이 확인되면, 제어부(600)는 동작1705에서, 확인된 사용자의 입력에 따른 추가 요소를 수신하고, 동작1703을 반복하여 수행할 수 있다. 만약 사용자의 입력 없이 미리 결정된 시간이 경과하였다면, 제어부(600)는 동작 1705에서, 제1 요소를 포함하는 하나 이상의 수신된 요소들을 제1 객체로 결정할 수 있다.
즉, 제어부(600)는 사용자 입력이 없이 미리 결정된 시간이 경과할 때까지 디스플레이(160)에 입력된 하나 이상의 요소들을 제1 객체로 결정할 수 있다. 도시되지 않았지만, 제어부(600)는 입력을 종료하는 미리 결정된 특정한 버튼 혹은 아이콘 등의 터치가 검출되면 미리 결정된 시간이 경과하지 않더라도 디스플레이(160)에 입력된 하나 이상의 요소들을 제1 객체로 결정할 수도 있다.
도 18은 본 발명의 다양한 실시예들에 따른 전자 장치가 제1 객체를 그리는 제1 핸드라이팅 입력을 수신하기 위한 동작의 세부 순서도이다.
도 18은 전자 장치가 제1 객체를 그리는 제1 핸드라이팅 입력을 수신하는 동작(도 13의 1303동작)의 세부 순서도이다.
전자 장치(예: 전자 장치(501))의 제어부(예: 도6의 제어부(600))는 동작1801에서, 제1 요소를 수신할 수 있다. 제1 요소는 하나 이상의 점 또는 선을 포함하는 평면 도형일 수 있다. 예를 들어, 제1 요소는 직사각형일 수 있다.
제어부(600)는 동작1803에서, 제1 저장 영역에 저장된 형상들 중에서 하나 이상의 수신 요소들을 포함하는 형상 후보군을 결정할 수 있다.
일 실시예에서, 제1 저장 영역은 저장부(예: 도 6의 저장부(630))에서 모양 정보(703)가 저장된 영역일 수 있다.
다른 실시예에서, 형상 후보군은, 모양 정보(703)의 형상들(803) 중에서, 이제까지 입력된 하나 이상의 요소들을 포함하는 형상으로서, 사용자가 입력한 객체에 매핑될 수 있는 외부 전자 장치들에 대응하는 형상일 수 있다. 예를 들어, 이제까지 입력된 요소가 직사각형인 경우, 형상 후보군은, 직사각형을 포함하는 스탠드 에어컨, 벽걸이 에어컨, 시스템 에어컨, 공기 청정기, 세탁기, 건조기, 또는 오븐의 형상 등을 포함할 수 있다.
제어부(600)는 동작 1805에서, 사용자의 입력 없이 미리 결정된 시간이 경과하는지 판단할 수 있다. 만약 미리 결정된 시간이 경과하기 전 사용자의 입력이 확인되면, 제어부(600)는 동작 1807에서, 확인된 사용자의 입력에 따른 추가 요소를 수신하고, 동작1803을 반복하여 수행할 수 있다. 예를 들어, 제1 요소가 직사각형이고, 형상 후보군이 스탠드 에어컨, 벽걸이 에어컨, 시스템 에어컨, 공기 청정기, 세탁기, 건조기, 오븐의 형상이었을 때, 추가 요소가 원인 경우, 형상 후보군은 직사각형과 원을 포함하는, 스탠드 에어컨, 세탁기, 건조기에 대응하는 형상만을 포함하도록 변경될 수 있다.
제어부(600)는 동작1805에서, 사용자의 입력 없이 미리 결정된 시간이 경과하였다면, 동작1809에서 제1 요소를 포함하는 하나 이상의 수신된 요소들을 제1 객체로 결정할 수 있다. 예를 들어, 제어부(600)는 직사각형과 원으로 구성된 형상을 제1 객체로 결정할 수 있다.
도시되지 않았지만, 제어부(600)는 결정된 형상 후보군을 제1 객체에 대응하는 형상들로 판단할 수 있다. 예를 들어, 제어부(600)는 제1 객체에 대응하는 하나 이상의 형상들을, 스탠드 에어컨, 세탁기, 건조기의 형상들로 결정할 수 있다.
도 19는 본 발명의 다양한 실시예들에 따른 전자 장치가 제1 객체를 그리는 제1 핸드라이팅 입력을 수신하는 과정의 세부 순서도이다.
도 19는 전자 장치가 제1 객체를 그리는 제1 핸드라이팅 입력을 수신하는 동작(도 13의 1303동작)의 세부 순서도이다.
전자 장치(예: 전자 장치(501))의 제어부(예: 도 6의 제어부(600))는 동작1901에서, 제1 요소를 수신할 수 있다. 제1 요소는 제1 핸드라이팅 입력 중 처음으로 입력되는 요소일 수 있으며, 예를 들면 원(circle)일 수 있다.
제어부(600)는 제1 요소가 수신한 후, 동작1903에서, 제1 저장 영역에 저장된 형상들 중에서 제1 요소를 포함하는 형상 후보군을 결정할 수 있다. 예를 들면, 저장부(예: 도 6의 저장부(630))의 모양 정보(703)에 포함된 형상들(803) 중에서, 원을 포함하는 하나 이상의 형상들을 형상 후보군(세탁기, 건조기, 청소 로봇의 형상 등)으로 결정할 수 있다.
제어부(600)는 동작1905에서, 결정된 형상 후보군들을 수정할 수 있다. 일 실시예에 따르면, 제어부(600)는 동작1905에서, 제1 요소와 디스플레이(160)와의 관계에 기반하여 형상 후보군을 수정할 수 있다. 제1 요소와 디스플레이(160)와의 관계는, 디스플레이(160)의 크기를 고려했을 때, 제1 요소와 나머지 요소들 간의 상대적 위치 관계를, 디스플레이(160)에 표시된 제1 요소에 동일하게 적용할 수 있는지에 대한 정보일 수 있다. 상대적 위치 관계는 요소들의 포함 관계, 요소들의 크기의 비율 관계 등을 포함할 수 있다.
예를 들어, 제1 요소가 디스플레이(160)를 거의 가득 채우는 원인 경우, 제어부(600)는 원을 포함하는 기존 형상 후보군들(세탁기, 건조기, 청소 로봇) 중에서, 세탁기, 건조기를 제외하도록 기존 형상 후보군을 수정할 수 있다. 세탁기, 건조기의 형상은 원을 포함하는 직사각형을 나머지 요소로 갖지만, 디스플레이(160)에 표시된 원은 너무 커서, 원을 포함하는 직사각형을 디스플레이(160)에 표시할 수 없기 때문이다.
다른 실시예에 따르면, 제어부(600)는 동작1905에서 제1 요소의 기하학적 특성에 기반하여 동작1905에서 결정된 형상 후보군을 수정할 수 있다. 제1 요소가 밑변의 길이가 좌변의 길이보다 작은 직사각형인 경우, 동작1903동작에서 직사각형을 포함하는 형상 후보군(예를 들어, 스탠드 에어컨, 벽걸이 에어컨, 시스템 에어컨, 공기 청정기, 세탁기, 건조기, 또는 오븐의 형상 등)중에서, 벽걸이 에어컨의 형상을 제외하도록 기존 형상 후보군을 수정할 수 있다. 벽걸이 에어컨의 형상은 밑변의 길이가 좌변의 길이보다 크기 때문이다.
제어부(600)는 동작1907에서, 추가 요소를 수신하지 않는지 판단할 수 있다. 만약 추가 요소가 수신된다면, 제어부(600)는 동작1905를 반복할 수 있다.
일 실시예에서, 제어부(600)는 추가 요소와 기존 요소들과의 공간 관계, 추가 요소들의 기하학적 특성, 또는 추가 요소들과 디스플레이(160)와의 관계 중 적어도 하나에 기반하여, 기존 형상 후보군을 수정할 수 있다.
일 실시예에 따르면, 제어부(600)는 추가 요소와 기존 요소들과의 공간 관계에 기반하여, 기존 형상 후보군을 수정할 수 있다. 공간 관계는 포함 관계를 포함할 수 있다. 예를 들어, 제1 요소가 원이고, 추가 요소가 상기 원을 포함하는 직사각형인 경우, 제어부(600)는 원과 직사각형을 포함하는 기존 형상 후보군(스탠드 에어컨, 세탁기, 건조기, 또는 청소 로봇 등)중에서, 청소 로봇의 형상을 제외하도록 기존 형상 후보군을 수정할 수 있다. 청소 로봇은 직사각형이 원에 포함되기 때문이다.
다른 실시예에 따르면, 제어부(600)는 추가 요소들과 디스플레이(160)와의 관계 또는 추가 요소들의 기하학적 특성에 기반하여 기존 형상 후보군을 수정할 수 있다. 다만 상술한, 제1 요소들과 디스플레이(160)와의 관계, 제1 요소들의 기하학적 특성에 기반하여 형상 후보군을 수정하는 실시예와 유사하므로, 자세한 설명을 생략하기로 한다.
도 20은 본 발명의 다양한 실시예들에 따른 전자 장치가 형상 후보군을 수정하는 예를 나타낸다.
전자 장치(예: 도 5의 전자 장치(501))의 제어부(예: 도 6의 제어부(600))는 사용자로부터 원을 그리는 핸드라이팅 입력을 수신하였을 때, 원이 디스플레이(160)에서 차지하는 비율을 결정할 수 있다. 예를 들어, 제어부(600)는 디스플레이(160)의 입력 가능 영역에서 원이 차지하는 비율을 결정할 수 있다. 또한, 제어부(600)는 원을 포함하는 형상 후보군을 결정할 수 있다. 예를 들어 제어부(600)는 원을 포함하는 형상 후보군으로 세탁기(도 20a)와 로봇 청소기(도 20b)의 형상을 결정할 수 있다.
제어부(600)는 형상 후보군에서, 원과, 원을 제외한 나머지 요소들과의 상대적 위치 관계를 결정할 수 있다. 예를 들어, 제어부(600)는 형상 후보군 중에서 세탁기의 형상(도 20a)은 원(2003)을 포함하는 직사각형(2001)을 포함하며, 직사각형의 크기는 원의 크기 대비 150%인 상대적 위치 관계를 갖는다고 결정할 수 있다. 또 다른 예를 들어, 제어부(600)는 형상 후보군 중에서 로봇 청소기의 형상(도 20b)은 원(2005) 외부에 두 개의 직선을 포함하며, 직선의 길이는 원의 반지름 대비 20%인 상대적 위치 관계를 갖는다고 결정할 수 있다.
제어부(600)는 원이 디스플레이(160)에서 차지하는 비율과, 형상 후보군에서 원과 나머지 요소들과의 상대적 위치 관계에 기반하여 형상 후보군을 수정할 수 있다. 예를 들어, 제어부(600)는 사용자로부터 핸드라이팅 입력으로 디스플레이(160)에서 90%를 차지하는 원을 입력 받은 경우, 원을 포함하며 원의 크기 대비 150%의 크기인 직사각형을 포함하는 세탁기의 형상(도 20a)을 형상 후보군에서 제외할 수 있다.
도 21은 본 발명의 다양한 실시예들에 따른 전자 장치가 외부 전자 장치 또는 전자 장치 중 적어도 하나의 장치를 제어하기 위한 동작의 세부 순서도이다.
도 21은, 전자 장치가 외부 전자 장치(505)를 제어하는 동작(도 13의 1311동작)의 세부 순서도이다. 전자 장치(예: 도 5의 전자 장치(501))의 제어부(예: 도 6의 제어부(600))는 동작2101에서, 제어할 전자 장치를 결정할 수 있다.
일 실시예에 따르면, 제어부(600)는 제1 객체에 매핑된 외부 전자 장치 (505), 또는 전자 장치(501) 중에서 적어도 하나의 장치를 제어할 전자 장치로 결정할 수 있다.
일 실시예에 따르면, 제어부(600)는 제2 객체를 그리는 제2 핸드라이팅 입력의 특성 정보에 기반하여 제어할 전자 장치를 결정할 수 있다. 예를 들어, 제2 핸드라이팅 입력의 특성 정보는 제2 객체의 형상 및 제2 객체가 디스플레이(160)에 표시된 위치 등을 포함할 수 있다. 예를 들어, 외부 전자 장치(505)와 매핑된 제1 객체가 디스플레이(160)에 표시된 상태에서, 제2 객체를 그리는 제2 핸드라이팅 입력을 수신하는 경우, 제어부(600)는 제2 객체가 디스플레이(160)에 표시된 위치(예: 제1 객체의 내부)에 기반하여, 제어할 전자 장치를 외부 전자 장치(505)로 결정할 수 있다.
제어부(600)는 동작2103에서, 제2 객체를 그리는 제2 핸드라이팅 입력의 특성 정보, 전자 장치(501)의 상태 정보 또는 외부 전자 장치(505)의 상태 정보에 기반하여 결정된 전자 장치가 수행할 동작을 결정할 수 있다.
일 실시예에 따르면, 제어부(600)는 제2 객체의 형상을 액션 정보(707)에 포함된 형상과 비교함으로써 결정된 전자 장치가 수행할 동작을 결정할 수 있다. 예를 들어, 외부 전자 장치(505)와 매핑된 제1 객체가 디스플레이(160)에 표시된 상태에서, 제2 객체를 그리는 제2 핸드라이팅 입력을 수신한 경우, 제어부(600)는 제2 객체의 형상(예: 스피커 모양 및 X글자)을 액션 정보(707)에 포함된 형상과 비교함으로써, 외부 전자 장치(505)가 수행할 동작을 "음소거"동작으로 결정할 수 있다.
제어부(600)는 동작2105에서, 제2 핸드라이팅 입력의 특성 정보, 전자 장치(501)의 상태 정보 또는 외부 전자 장치(505)의 상태 정보에 기반하여 결정된 동작의 파라미터 값을 결정할 수 있다. 예를 들어, 결정된 장치가 수행할 동작이 "볼륨 조절"인 경우, 제어부(600)는 제2 객체를 그리는 제2 핸드라이팅 입력의 방향 또는 제2 객체의 모양 등에 기반하여 "볼륨 조절"의 파라미터 값(예: 볼륨 높힘 or 내림, 조절 값 등)을 결정할 수 있다. 다른 예를 들어, 제2 핸드라이팅 입력의 방향이 위쪽이고, 제2 객체의 모양이 4cm의 길이를 갖는 직선인 경우, 제어부(600)는 "볼륨 2단계 상승"이라는 "볼륨 조절"의 파라미터 값을 결정할 수 있다.
제어부(600)는 동작2107에서, 결정된 동작 및 파라미터 값에 기반하여 결정된 전자 장치를 제어할 수 있다. 예를 들어, 제어부(600)는 서버(503)가 제어 명령을 결정된 전자 장치에 전달할 수 있도록, 결정된 전자 장치, 결정된 동작 및 파라미터 값을 나타내는 제어 정보를 서버(503)에 전송할 수 있다.
도 22은 본 발명의 다양한 실시예들에 따른 전자 장치가 외부 전자 장치 또는 전자 장치 중 적어도 하나의 장치를 제어하기 위한 동작의 세부 순서도이다.
도 22은, 전자 장치가 외부 전자 장치(505)를 제어하는 동작(도 13의 1311동작)의 세부 순서도이다.
전자 장치(예: 도 5의 전자 장치(501))의 제어부(예: 도 6의 제어부(600))는 동작2201에서, 제어할 전자 장치를 결정할 수 있다. 일 실시예에 따르면, 제어부(600)는 제1 객체에 매핑된 외부 전자 장치(505), 또는 전자 장치(예: 전자 장치(501)) 중에서 적어도 하나의 장치를 제어할 전자 장치로 결정할 수 있다.
제어부(600)는 동작2203에서, 제2 핸드라이팅 입력의 특성 정보에 기반하여 동작을 결정하기 위한 사용자 인터페이스를 제공할 수 있다.
일 실시예에 따르면, 제어부(600)는 제2 객체의 형상을 액션 정보(707)에 포함된 형상과 비교하더라도, 결정된 전자 장치가 수행할 동작을 하나로 결정할 수 없다면, 동작을 결정하기 위한 추가적인 사용자 인터페이스를 제공할 수 있다. 예를 들어, 제어부(600)는 제2 객체의 형상에 기반하여 액션 정보(707)에 포함된 2개 이상의 형상들 및 대응하는 2개 이상의 동작 정보를 결정하고, 결정된 2개 이상의 동작 정보에 대한 사용자 인터페이스를 각각 제공할 수 있다. 예를 들어, 외부 전자 장치(505, 예: TV)와 매핑된 제1 객체 외부에 위쪽을 가리키는 화살표 형상의 제2 객체가 표시된 경우, 제어부(600)는 TV의 채널 또는 음량을 조절하기 위한 사용자 인터페이스를 각각 표시할 수 있다.
다른 실시예에 따르면, 제어부(600)는 수행할 동작 및 동작의 파라미터 값을 결정하기 위한 사용자 인터페이스를 제공할 수도 있다.
또 다른 실시예에 따르면, 제어부(600)는 제공된 사용자 인터페이스에 시각적 효과를 부가할 수도 있다. 예를 들어, 제어부(600)는 "채널 조절"을 위한 사용자 인터페이스와 "음량 조절"을 위한 사용자 인터페이스의 색깔을 다르게 할 수 있다. 또 다른 예를 들어, 제어부(600)는 사용자 인터페이스가 표시되었음을 알리기 위하여 사용자 인터페이스가 깜박거리는 효과를 제공할 수 있다.
제어부(600)는 동작2205에서, 제공된 사용자 인터페이스에 대한 사용자 입력에 기반하여 수행할 동작 및 동작의 파라미터 값을 결정할 수 있다. 예를 들어, TV의 채널 또는 음량을 조절하기 위한 사용자 인터페이스에서 사용자의 터치 위치에 따라, 수행할 동작을 "음량 조절"로, 파라미터 값을 "2단계 상승"으로 결정할 수 있다.
제어부(600)는 동작2207에서, 결정된 동작 및 파라미터 값에 기반하여 결정된 전자 장치를 제어할 수 있다.
도 23은 본 발명의 다양한 실시예들에 따른 전자 장치가 동작 및 파라미터 값을 결정하기 위하여 제공하는 사용자 인터페이스의 예를 나타낸다.
도 23(a)에서, 전자 장치(예: 도 5의 전자 장치(501))의 제어부(예: 도6의 제어부(600))는 외부 전자 장치(505, 예: TV)와 매핑된 제1 객체(2301)를 디스플레이(160)에 표시할 수 있다.
도 23(b)에서, 제어부(600)는 제1 객체(2301)의 외부에 위쪽을 가리키는 화살표 형상의 제2 객체(2303)를 그리는 제2 핸드라이팅 입력을 수신할 수 있다.
도 23(c)에서, 제어부(600)는 제2 객체(2303)의 형상에 기반하여 액션 정보(707)에 포함된 2개 이상의 형상들 및 상기 형상들에 대응하는 2개 이상의 동작 정보(예: 채널 조절, 음량 조절)를 결정하고, 결정된 2개 이상의 동작 정보에 대한 객체 또는 오브젝트(2305, 2307)를 각각 제공할 수 있다.
일 실시예에 따르면 제어부(600)는 사용자 인터페이스와 함께, 외부 전자 장치(505)의 상태 정보도 제공할 수 있다. 예를 들어, 제어부(600)는 채널 조절 및 음량 조절에 대한 사용자 인터페이스(예: 객체 또는 오브젝트(2305, 2307))를 제공함과 동시에, 현재 채널이 11번이고 현재 볼륨이 30이라는 것을 나타내는 상태 정보도 제공할 수 있다.
도 24는 본 발명의 다양한 실시예들에 따른 전자 장치가 사용자 인터페이스에 대한 사용자 입력에 따라 동작 및 파라미터 값을 결정하는 예를 나타낸다.
도 24(a)에서, 전자 장치(예: 도 5의 전자 장치(501))의 제어부(예: 도6의 제어부(600))는 외부 전자 장치(505, 예: TV)와 매핑된 제1 객체(2301) 외부에 위쪽을 가리키는 화살 표 형상의 제2 객체(2303)을 그리는 제2 핸드라이팅 입력을 수신하는 경우, 제2 객체(2303)의 형상에 기반하여 채널 조절 및 음량 조절에 대한 객체 또는 오브젝트(2305, 2307)를 제공할 수 있다.
도 24(b)에서, 제어부(600)는 제공된 사용자 인터페이스(예: 객체 또는 오브젝트(2305, 2307))에 대한 사용자 입력에 따라 동작 및 파라미터 값을 결정할 수 있다. 예를 들어, 제어부(600)는 "채널 조절"을 위한 사용자 인터페이스(2305)가 선택된 후, 변경될 채널 번호(예: 32)를 나타내는 별도의 사용자 핸드라이팅 입력(2409)을 수신하면, 동작을 "채널 조절"로 결정하고, 파라미터 값을 "변경될 채널: 32번"으로 결정할 수 있다. 다른 실시예에서, 제어부(600)는 "채널 조절"을 위한 사용자 인터페이스가 선택된 때, "음량 조절"을 위한 사용자 인터페이스(2307)는 디스플레이(160)에서 사라질 수 있다.
도 24(c)에서, 일 실시 예에 따르면, 제공된 사용자 인터페이스(2305, 2307)는 사용자 입력에 따라 길이 또는 크기가 변경될 수 있고, 변경되는 길이 또는 크기에 따라 동작 또는 파라미터 값이 결정될 수 있다. 예를 들어, 제어부(600)는 "채널 조절"을 위한 사용자 인터페이스(2305)의 길이를 위쪽 방향(예: 기존 길이의 3배)으로 늘리는 사용자 입력을 수신하면, 동작을 "채널 조절"로 결정할 수 있고, 동작의 파라미터 값을 "채널 10개만큼 채널 번호를 상승"으로 결정할 수 있다. 다른 실시예에서, "채널 조절"을 위한 사용자 인터페이스(2305)의 길이를 늘리거나 줄이는 사용자 입력을 수신하면, 제어부(600)는 "음량 조절"을 위한 사용자 인터페이스(2307)를 디스플레이(160)에 더 이상 표시하지 않을 수 있다.
도 25는 본 발명의 다양한 실시예들에 따른 전자 장치가 외부 전자 장치를 제어할 수 있는 사용자 인터페이스를 제공하기 위한 동작 순서를 도시한 순서도이다.
동작2501 내지 동작2507은 도 13의 동작1301 내지 동작1307과 유사하므로, 자세한 설명을 생략하기로 한다.
전자 장치(예: 전자 장치(501))의 제어부(예: 도6의 제어부(600))는 동작2509에서, 외부 전자 장치(505) 제어용 사용자 인터페이스를 표시할 수 있다.
일 실시예에 따르면, 제어부(600)는 외부 전자 장치(505) 제어용 사용자인터페이스와 함께 외부 전자 장치(505)의 상태 정보를 표시할 수 있다. 일 실시예에 따르면 외부 전자 장치(505)의 상태 정보는 외부 전자 장치(505)의 현재 상태를 나타내는 정보로서, 외부 전자 장치(505)의 ON/OFF정보, 외부 전자 장치(505)가 현재 수행하고 있는 태스크 정보, 또는 외부 전자 장치(505)에 예약이 설정되어 있는 경우 예약 설정 정보 등을 포함할 수 있다.
다른 실시예에 따르면, 제어부(600)는 외부 전자 장치(505)의 상태 정보를 표시할 수 있다. 제어부(600)는 외부 전자 장치(505)에 매핑된 제1 객체의 미리 결정된 위치(예: 내부)에 외부 전자 장치(505)의 상태 정보를 표시할 수 있다. 예를 들어, 제어부(600)는 외부 전자 장치(505)가 TV(407)인 경우, 현재 TV가 방송하고 있는 프로그램이, 프로그램의 전체 구간 중 어떤 구간을 재생하고 있는지를 나타내는 재생 바를 제1 객체의 내부에 표시할 수 있다. 다른 예를 들어, 제어부(600)는 TV의 채널 목록 아이콘, 또는 방송 안내 아이콘 등을 제1 객체의 내부 혹은 외부, 혹은 미리 지정된 위치에 표시할 수 있다.
또 다른 실시예에 따르면, 제어부(600)는 외부 전자 장치(505)를 제어할 수 있는 사용자 인터페이스를 표시할 수 있다. 예를 들어, 제어부(600)는 외부 전자 장치(505)가 TV(407)인 경우, TV를 제어할 수 있는 사용자 인터페이스(예: 채널 조절 아이콘, 음량 조절 아이콘 등)를 제1 객체의 내부에 표시할 수 있다.
또 다른 실시예에 따르면, 제어부(600)는 외부 전자 장치(505)를 제어할 수 있는 사용자 인터페이스를 제1 객체의 미리 결정된 위치에 표시할 수 있다. 예를 들어, 제1 객체가 외부 전자 장치(505, 예: TV)의 형상을 단순화한 형태로 직사각형 및 직사각형의 아래에 위치하는 직선 2개를 포함하는 경우, TV를 제어할 수 있는 사용자 인터페이스는 직사각형 내부에 위치할 수 있다. 왜냐하면 제1 객체에서 직사각형은 TV(407)의 화면에 대응되기 때문이다. 또한, TV를 제어할 수 있는 사용자 인터페이스는 직사각형 내부에 좌우, 혹은 상하로 대칭되게 배치될 수도 있다.
또 다른 실시예에 따르면, 제어부(600)는 동작2507에서 외부 전자 장치(505)의 상태 정보를 수신한 후, 사용자 입력이 입력되지 않은 채 미리 결정된 시간이 경과한 경우, 또는 별도의 사용자 입력을 검출함에 따라, 동작2509를 수행할 수 있다.
도시되지 않았지만, 제어부(600)는 동작2509에서 외부 전자 장치(505)의 상태 정보를 표시하거나, 외부 전자 장치(505) 또는 전자 장치(501)를 제어할 수 있는 사용자 인터페이스를 표시하는 경우, 외부 전자 장치(505)에, 상태 정보 또는 사용자 인터페이스를 표시하였음을 나타내는 알리는 신호를 전송할 수 있다.
제어부(600)는 동작2511에서, 표시된 사용자 인터페이스에 대한 사용자 입력에 기반하여 외부 전자 장치(505)를 제어할 수 있다. 예를 들어, 제어부(600)는 외부 전자 장치(505)가 TV(407)인 경우, TV 채널 목록 아이콘에 대한 사용자 입력을 검출하면, TV가 현재 방송하고 있는 채널 및 TV가 방송할 수 있는 채널에 대한 정보를 디스플레이(160)에 표시하도록 디스플레이(160)를 제어할 수 있다. 또 다른 예를 들어, 제어부(600)는 음량 조절 아이콘에 대한 사용자 입력을 검출하면, TV가 음량을 조절하도록, 검출된 사용자 입력에 따른 제어 정보를 서버(503)로 송신할 수도 있다.
도 26은 본 발명의 다양한 실시예들에 따른 전자 장치가 외부 전자 장치를 제어하기 위한 사용자 인터페이스를 제공하는 예를 나타낸다.
일 실시예에 따르면, 전자 장치(501)의 제어부(예: 도6의 제어부(600))는 외부 전자 장치(505, 예: TV)와 매핑된 제1 객체(2601)가 디스플레이(160)에 표시된 상태에서, 외부 전자 장치(505) 혹은 전자 장치(501)를 제어하기 위한 사용자 인터페이스(2603, 2605, 2607)를 제1 객체의 내부 또는 제1 객체의 주변에 표시할 수 있다. 다른 실시예에 따르면, 전자 장치의 상태 정보를 나타내는 사용자 인터페이스(2609)가 함께 표시될 수 있다. 예를 들어, 방송 안내를 실행하는 아이콘(2603), 채널 목록을 실행하는 아이콘(2605), 스피커를 선택하는 아이콘(2607)이 제1 객체의 내부에 표시될 수 있다. 추가적으로, 전자 장치의 ON/OFF를 나타내는 아이콘(2609)이 제1 객체의 내부에 표시될 수 있다.
다른 실시예에 따르면, 제어부(600)는 외부 전자 장치(2611)와 매핑된 제1 객체(2601)가 디스플레이(160)에 표시된 상태에서, 사용자 입력 없이 미리 결정된 시간이 경과하거나, 별도의 사용자 입력을 검출함에 따라, 외부 전자 장치(2611) 혹은 전자 장치(501)를 제어하기 위한 사용자 인터페이스를 제1 객체의 내부에 표시할 수 있다. 이 때, 외부 전자 장치(2611)는 외부 전자 장치(505)일 수 있다.
다른 실시예에 따르면, 외부 전자 장치(2611)의 디스플레이에서도, 전자 장치의 디스플레이(160)에 표시된 사용자 인터페이스(2603, 2605, 2607, 2609)들과 동일 혹은 서로 대응하는 사용자 인터페이스들을(2613, 2615, 2617, 2619) 표시할 수 있다.
일 실시예에 따르면, 서버(403)는 전자 장치(501)의 제어부(600)가 외부 전자 장치(2611) 혹은 전자 장치(501)를 제어하기 위한 사용자 인터페이스를 표시하기 위하여 외부 전자 장치(2611)의 정보를 전자 장치(501)로 전송할 수 있다. 예를 들어, 외부 전자 장치(2611)가 TV일 경우, 서버(403)는 TV가 지원하는 기능(예: 재생(play), 정지(stop) 또는 되감기(rewind) 등) 또는 외부 전자 장치(2611)의 상태 정보를 전자 장치에 전송할 수 있다.
다른 실시예에 따르면, 서버(403)는 외부 전자 장치(2611)의 디스플레이에, 전자 장치의 디스플레이(160)에 표시된 사용자 인터페이스들(2603, 2605, 2607, 2609)과 동일 혹은 서로 대응하는 사용자 인터페이스들(2613, 2615, 2617, 2619)을 표시하기 위하여, 전자 장치의 디스플레이(160)에 표시된 사용자 인터페이스들(2603, 2605, 2607, 2609)의 위치에 대한 정보를 외부 전자 장치(2611)에 전송할 수 있다.
도 27은 본 발명의 다양한 실시예들에 따른 전자 장치가 외부 전자 장치의 상태 정보를 표시하는 예를 나타낸다.
일 실시예에 따르면, 전자 장치(501)의 제어부(예: 도 6의 제어부(600))는 외부 전자 장치(2711, 예: TV)와 매핑된 제1 객체(2701)가 디스플레이(160)에 표시된 상태에서, 외부 전자 장치(2711)의 상태 정보를 제1 객체의 미리 결정된 위치(예: 내부)에 표시할 수 있다. 이 때, 외부 전자 장치(2711)는 외부 전자 장치(505)일 수 있다.
예를 들어, 제어부(600)는 TV가 현재 방송하고 있는 프로그램의 재생 구간 정보를 나타내는 재생 바(2703)와 현재 위치를 나타내는 객체(2705)를 제1 객체의 미리 결정된 위치(예: 직사각형의 하단)에 표시할 수 있다.
다른 실시예에 따르면, 전자 장치(501)가 외부 전자 장치(2711)의 상태 정보를 제1 객체(2701)의 미리 결정된 위치에 표시하면, 외부 전자 장치(2711)도 전자 장치(501)가 표시하는 상태 정보와 대응하는 정보를 디스플레이에 표시할 수 있다. 예를 들어, TV(2711)는 현재 방송하고 있는 프로그램의 재생 구간 정보를 나타내는 재생 바(2707)와 현재 위치를 나타내는 객체(2709)를 디스플레이의 미리 결정된 위치(예: 디스플레이의 하단)에 표시할 수 있다.
일 실시예에 따르면, 서버(403)는 전자 장치(501)에서 표시하는 상태 정보를 외부 전자 장치(2711)로 전송하거나 또는 외부 전자 장치(2711)에서 표시하는 상태 정보를 전자 장치(501)로 전송할 수 있다.
도 28은 본 발명의 다양한 실시예들에 따른 전자 장치가 사용자의 음성 입력에 기반하여 외부 전자 장치를 제어하기 위한 동작 순서를 도시한 순서도이다.
동작2801 내지 동작2807은 도 13의 동작1301 내지 동작1307과 유사하므로, 자세한 설명을 생략하기로 한다.
전자 장치(예: 도 5의 전자 장치(501))의 제어부(예: 도 6의 제어부(600))는 동작2809에서, 제1 객체가 표시된 상태에서 사용자 음성 입력을 수신할 수 있다. 일 실시예에 따르면, 외부 전자 장치(505)와 매핑된 제1 객체가 표시된 상태에서, 사용자의 음성 입력을 수신할 수 있다. 예를 들어, 제어부(600)는 외부 전자 장치(505, 예: TV)와 매핑된 제1 객체가 표시된 상태에서, 사용자로부터 "화면 캡처해줘!"와 같은 음성 입력을 수신할 수 있다.
일 실시예에서, 제어부(600)는 수신된 사용자 음성 입력을 텍스트로 변환하고, 변환된 텍스트에 포함된 일부 단어가 외부 전자 장치(505)를 제어하기 위한 키워드 단어임을 확인하여, 외부 전자 장치(505)가 수행할 동작을 결정할 수 있다.
다른 실시예에서, 외부 전자 장치(505)를 제어하기 위한 키워드 단어는 액션 정보(707)에 포함된 동작 정보를 텍스트로 변환한 단어일 수 있다. 예를 들어, 외부 전자 장치(505)를 제어하기 위한 키워드 단어는 "화면 캡처", "예약 녹화"또는 "채널 공유"등일 수 있다. 예를 들어, 제어부(600)는 수신한 "화면 캡처해줘!"와 같은 음성 입력을 수신하였을 때, 수신한 음성 입력을 변환한 텍스트에 "화면 캡처"와 같은 키워드 단어가 포함되어 있음을 확인하고, 이에 따라 수행할 동작을 "화면 캡처"로 결정할 수 있다.
또 다른 실시예에서, 제어부(600)는 변환된 텍스트에 포함된 일부 단어에 기반하여 동작의 파라미터 값을 결정할 수 있다. 예를 들어 사용자로부터 "음량을 2단계 줄여줘"라는 음성 입력을 수신한 경우, 변환된 텍스트에 "음량"이라는 단어가 포함되어 있음을 확인하여 외부 전자 장치(505)가 수행할 동작을 "음량 조절"로 결정할 수 있다. 또한, "2단계"라는 단어가 포함되어 있음을 확인하여 "음량 조절"의 파라미터 값을 "2단계"로 결정할 수 있다.
제어부(600)는 동작2811에서, 사용자 음성 입력에 기반하여 외부 전자 장치(505)를 제어할 수 있다. 예를 들어, 제어부(600)는 서버(503)가 제어 명령을 외부 전자 장치(505)에 전달할 수 있도록, 사용자 음성 입력에 기반하여 결정된 동작 및 파라미터 값을 나타내는 제어 정보를 서버(503)에 전송할 수 있다. 또 다른 예를 들어, 제어부(600)는 저장부(예: 도 6의 저장부(630))에 저장되어 있는 장치 연결 데이터(709))를 참조하여 외부 전자 장치(505)와 연결을 수행하고, 사용자 음성 입력에 기반하여 결정된 동작 및 파라미터 값을 나타내는 제어 정보를 외부 전자 장치(505)로 전송할 수 있다.
도 29는 본 발명의 다양한 실시예들에 따른 전자 장치가 사용자의 음성 입력에 기반하여 외부 전자 장치를 제어하는 예를 나타낸다.
도 29(a)에서, 전자 장치(예: 도 5의 전자 장치(501))의 제어부(예: 도 6의 제어부(600))는 외부 전자 장치(505, 예: TV)와 매핑된 제1 객체를 표시한 상태에서, 사용자의 음성 입력을 수신할 수 있다. 예를 들어, 제어부(600)는 "화면 캡처해줘"라는 사용자 음성 입력을 수신할 수 있다.
일 실시예에서, 제어부(600)는 사용자의 음성 입력에 기반하여, 외부 전자 장치(505)가 수행할 동작을 결정할 수 있다. 예를 들어, 제어부(600)는 사용자의 음성 입력을 텍스트로 변환한 뒤, 변환된 텍스트에 포함된"화면" 과 "캡처"라는 단어로부터 외부 전자 장치(505)가 수행할 동작을 "화면 캡처"로 결정할 수 있다.
다른 실시예에서, 제어부(600)는 사용자의 음성 입력에 기반하여 외부 전자 장치(505)를 제어할 수 있다. 일 실시예에 따르면, 제어부(600)는 서버(503)가 제어 명령을 외부 전자 장치(505)에 전달할 수 있도록, 사용자 음성 입력에 기반하여 결정된 동작 (또는 동작의 파라미터 값)을 나타내는 제어 정보를 서버(503)에 전송할 수 있다. 예를 들어, 제어부(600)는 사용자가 음성을 발화한 시간, 외부 전자 장치(505)가 수행할 동작(예: 화면 캡처)에 대한 정보를 포함한 제어 정보를 서버(503)에 전송할 수 있다.
또 다른 실시예에서, 외부 전자 장치(505)는 서버(503)로부터 수신한 제어 명령에 기반하여 동작을 수행하고, 결과 정보를 서버(503)에 전송할 수 있으며, 서버는 외부 전자 장치(505)로부터 수신한 결과 정보를 전자 장치(501)에 전송할 수 있다. 예를 들어, 외부 전자 장치(505)인 TV는 서버(503)로부터 수신한 제어 명령에 기반하여 화면 캡처 동작을 수행할 수 있다. 즉, TV는 사용자가 음성을 발화한 시간에 따른 화면을 캡처하고, 캡처한 화면을 서버(503)를 통해 전자 장치에 전송할 수 있다.
도 29(b)에서, 제어부(600)는 서버(503)로부터 수신한 결과 정보를 디스플레이(160)에 표시할 수 있으며, 추가적인 사용자 입력에 기반하여 특정한 동작을 수행하도록 전자 장치를 제어할 수 있다. 일 실시예에서, 추가적인 사용자 입력은 음성 입력 또는 핸드라이팅 입력을 포함할 수 있다. 예를 들어, 디스플레이(160)에 표시된 결과 정보 중에서 특정한 객체를 가리키는 핸드라이팅 입력과 "나영에게 이 사진 공유해줘"라는 음성 입력을 수신할 수 있다.
도 29(c)에서, 제어부(600)는 "사진 공유" 동작을 수행하기 위한 사용자 인터페이스를 디스플레이(160)에 표시할 수 있다. 예를 들어, "나영이에게 공유하시겠습니까"와 같이, 사용자의 선택을 수신 받기 위한 사용자 인터페이스를 캡처 화면 하단에 표시할 수 있고, 사용자의 선택에 기반하여 사진 공유 동작을 수행할 수 있다.
다른 실시예에서, 제어부(600)는 서버(503)를 통하지 않고 외부 전자 장치(505)를 제어하기 위하여 외부 전자 장치(505)에 직접 제어 정보를 전송할 수 있다. 예를 들어, 제어부(600)는 사용자가 음성을 발화한 시간, 외부 전자 장치(505)가 수행할 동작(예: 화면 캡처)에 대한 정보를 외부 전자 장치에 직접 전송할 수 있다.
도 30은 본 발명의 다양한 실시예들에 따른 전자 장치가 사용자의 음성 입력에 기반하여 외부 전자 장치를 제어하는 다른 예를 나타낸다.
도 30(a)에서, 전자 장치(예: 도 5의 전자 장치(501))의 제어부(예: 도 6의 제어부(600))는 외부 전자 장치(505, 예: TV)와 매핑된 제1 객체를 표시한 상태에서, 사용자의 음성 입력을 수신할 수 있다. 예를 들어, 제어부(600)는 "기능 설명서 보여줘"라는 사용자 음성 입력을 수신할 수 있다. 또한, 제어부(600)는 사용자의 음성 입력에 기반하여, 외부 전자 장치(505)의 기능 설명서를 디스플레이(160)에 표시할 수 있다. 일 실시예에 따르면, 기능 설명서는 저장부(예: 도 6의 저장부(630))에 미리 저장되어 있거나, 서버(503)으로부터 다운로드 받거나 또는 외부 전자 장치(505)로부터 수신할 수 있다.
도 30(b)에서, 제어부(600)는 디스플레이(160)에 표시된 기능 설명서에 관련된 추가적인 사용자 입력에 기반하여 특정한 동작을 수행하도록 전자 장치를 제어할 수 있다. 일 실시예에서, 추가적인 사용자 입력은 음성 입력 또는 핸드라이팅 입력을 포함할 수 있다. 예를 들어, 디스플레이(160)에 표시된 기능 설명서에서 특정한 동작(예: 녹화 예약)을 가리키는 핸드라이팅 입력과, "이거 지금 실행해줘"라는 음성 입력을 수신한 경우, 제어부(600)는 특정한 동작을 수행하기 위한 사용자 인터페이스를 디스플레이(160)에 표시할 수 있다. 즉, 제어부(600)는 추가적인 사용자의 핸드라이팅 입력을 수신하고, 상기 핸드라이팅 입력의 좌표 정보에 따라 특정한 동작 정보(예: 녹화 예약)를 결정할 수 있다.
도 30(c)에서, 제어부(600)는 외부 전자 장치(505)가, 결정된 동작을 수행하기 위한 사용자 인터페이스를 디스플레이(160)에 표시할 수 있다. 즉, "녹화 예약을 지금 실행하시겠습니까?"와 같이, 사용자의 선택을 수신 받기 위한 사용자 인터페이스를 캡처 화면 하단에 표시할 수 있다. 일 실시예에 따르면, 제어부(600)는 사용자의 선택에 기반하여 외부 전자 장치(505)로 제어 명령을 전송할 수 있다.
도 31은 본 발명의 다양한 실시예들에 따른 전자 장치가 외부 전자 장치를 제어하기 위한 동작 순서를 도시한 순서도이다.
동작3101 내지 동작3105은 도 13의 동작1301 내지 동작1307과 유사하므로, 자세한 설명을 생략하기로 한다.
전자 장치(예: 전자 장치(501))의 제어부(예: 도6의 제어부(600))는 동작 3107에서, 외부 전자 장치(505, 예: TV)에 매핑된 제1 객체를 이동시키는 사용자 입력을 수신할 수 있다.
일 실시예에 따르면, 제1 객체의 내부에 포함된 임의의 위치에서 미리 결정된 일정한 시간 동안 터치(예: 롱 프레스)를 유지하거나 또는 일정한 압력 이상을 유지하는 사용자 입력은, 제1 객체를 전체로 선택하는 사용자 입력일 수 있다.
다른 실시예에 따르면, 제1 객체가 전체로 선택된 상태에서 일정한 길이만큼 끌고(예: 드래그) 터치를 해제하는 경우, 제1 객체를 이동시키는 사용자 입력일 수 있다.
제어부(600)는 동작3109에서, 제1 객체가 이동된 위치에 기반하여 제1 객체에 매핑된 외부 전자 장치(505)를 제어할 수 있다. 예를 들어, TV와 매핑된 제1 객체와 전자 장치(501)와 매핑된 제2 객체가 디스플레이(160)에 표시되어 있는 경우, 제1 객체의 적어도 일부와 중첩되도록 제2 객체를 이동시키는 사용자 입력을 수신한 경우, 제어부(600)는 전자 장치(501)가 이후로 수신하는 알림(notification, 예: 메시지)을 TV로 전달(forward)하도록 제어하고, TV는 전자 장치로부터 전달된 알림을 디스플레이(160)에 표시할 수 있다.
도 32는 본 발명의 다양한 실시예들에 따른 전자 장치가 제1 객체를 외부 전자 장치에 매핑하기 위한 동작 순서를 도시한 순서도이다.
전자 장치(예: 전자 장치(501))의 제어부(예: 도6의 제어부(600))는 동작3201에서, 제1 핸드라이팅 입력에 의하여 디스플레이(160)에 표시된 제1 객체가 제1 저장 영역에 저장된 형상들 중 하나 이상의 형상에 대응하는지 판단할 수 있다. 제1 저장 영역은 저장부(예: 도 6의 저장부(630))에서 모양 정보(703)가 저장된 영역일 수 있다.
제어부(600)는 동작3201에서, 제1 객체가 제1 저장 영역에 저장된 형상들 중 하나 이상의 형상에 대응한다고 판단되면, 동작3203에서, 제1 저장 영역에 저장된 형상들 중 두 개 이상의 형상에 대응하는지 판단할 수 있다. 만약 아니라고 판단되면, 제1 객체는 제1 저장 영역에 저장된 형상들 중 하나의 형상에 대응하는 것이므로, 동작3213에서 대응하는 하나의 형상에 기반하여 외부 전자 장치(505)를 결정하고, 동작3215에서 결정된 외부 전자 장치(505)와 제1 객체를 매핑할 수 있다.
제어부(600)는 동작3203에서 제1 객체가 제1 저장 영역에 저장된 형상들 중 두 개 이상의 형상에 대응한다고 판단되면, 동작3205에서 두 개 이상의 형상들이 서로 동일한 형상인지를 판단할 수 있다. 두 개 이상의 형상들이 서로 동일한 형상이라는 것은 동일한 사양의 2개 이상의 외부 전자 장치가 존재한다는 의미일 수 있다. 예를 들어, 두 개 이상의 형상들이 서로 동일한 형상이라는 것은 도 9에서 침실1, 침실2 및 침실3에 동일한 사양을 가지는 TV가 각각 놓여 있는 경우를 의미할 수 있다. 이 경우, 동작3401로 진행하며, 자세한 사항은 도 34에서 후술한다.
제어부(600)는 동작3205에서 제1 객체에 대응하는 두 개 이상의 형상들이 서로 동일하지 않은 형상으로 판단된 경우, 동작3207에서 추가 사용자 핸드라이팅 입력이 검출되는지 여부를 확인할 수 있다. 예를 들어, 원과, 원을 포함하는 직사각형으로 제1 객체가 확정된 경우, 제1 객체에 대응하는 두 개 이상의 형상들(예: 세탁기, 건조기)이 서로 동일하지 않은 형상으로 판단되므로, 동작3207에서 추가 사용자 핸드라이팅 입력이 검출되는지 여부를 확인할 수 있다.
제어부(600)는 동작3207에서 추가 사용자 핸드라이팅 입력이 검출되면, 동작3208에서, 제1 객체에 대응하는 형상을 결정할 수 있다. 일 실시예에서, 제어부(600)는 추가 사용자 핸드라이팅 입력에 의해 표시된 추가 요소들을 고려하여 제1 객체를 갱신하고, 갱신된 제1 객체에 대응하는 형상을 다시 결정할 수 있다.
제어부(600)는 동작3208을 수행한 후, 동작3203을 다시 수행할 수 있다. 일 실시예에 의하면 제어부(600)는 추가 사용자 핸드라이팅 입력에 따라 제1 저장 영역에 저장된 형상들 중 하나의 형상에 대응할 때까지 상기 동작들(3203, 3205, 3207, 3208)을 반복 수행할 수 있다. 예를 들어, 원의 우측 방향으로 물결 무늬를 입력하는 추가 사용자 핸드라이팅 입력이 검출되면, 제어부(600)는 제1 객체에 대응하는 하나의 형상으로 건조기의 형상을 결정할 수 있다.
제어부(600)는 동작3207에서 추가 사용자 핸드라이팅 입력이 검출되지 않을 경우, 동작 3209에서 둘 이상의 형상들 중에서 하나의 형상을 선택 받기 위한 사용자 인터페이스를 제공할 수 있다. 일 실시예에서, 제어부(600)는 제1 객체가 디스플레이(160)에 표시된 상태에서, 제1 객체를 둘 이상의 형상들 중 하나의 형상으로 완성시키기 위하여 필요한 요소들을 디스플레이(160)에 표시할 수 있다.
제어부(600)는 동작3211에서 제공된 사용자 인터페이스에 대한 사용자 입력에 기반하여 대응하는 하나의 형상을 결정할 수 있다. 예를 들어, 세탁기의 형상과 건조기의 형상에 대응하는 사용자 인터페이스를 각각 제공하고, 건조기의 형상에 대응하는 사용자 인터페이스에 대한 사용자의 터치 입력을 감지한 경우, 제어부(600)는 제1 객체에 대응하는 하나의 형상으로 건조기의 형상을 결정할 수 있다. 이후, 제어부(600)는 제1 객체에 대응하는 하나의 형상을 결정하였으므로, 동작3213으로 진행하여 대응하는 하나의 형상에 기반하여 제1 객체에 매핑될 외부 전자 장치(505)를 결정할 수 있다. 예를 들어, 제어부(600)는 제1 객체에 매핑될 외부 전자 장치(505)로 건조기를 결정할 수 있다. 이후, 제어부(600)는 제1 객체와 건조기를 매핑할 수 있다.
도 33은 본 발명의 다양한 실시예들에 따른 전자 장치가 제1 객체에 대응하는 외부 전자 장치의 형상을 결정하는 예를 나타낸 도면이다.
전자 장치(예: 도 5의 전자 장치(501))의 제어부(예: 도 6의 제어부(600))는 제1 객체를 그리는 제1 핸드라이팅 입력을 수신할 수 있다. 예를 들어, 제어부(600)는 직사각형을 그리는 제1 핸드라이팅 입력을 수신할 수 있다.
제어부(600)는 제1 저장 영역의 형상 중에서 제1 객체에 대응하는 복수 개의 형상(TV(3303), 세탁기(3301), 냉장고(3302))이 존재하는 경우, 제어부(600)는 복수 개의 형상들 중에서 하나의 형상을 선택 받기 위한 사용자 인터페이스를 제공할 수 있다.
일 실시예에서, 복수 개의 형상들 중에서 하나의 형상을 선택 받기 위한 사용자 인터페이스는, 제1 객체를 복수 개의 형상들 중 하나의 형상으로 완성시키기 위하여 필요한 요소를 표시할 수 있다. 예를 들어, 제어부(600)는 제1 객체(직사각형)를 TV에 대응하는 형상으로 완성시키기 위해 필요한 요소(직사각형의 하단에 위치한 2개의 직선, 3309), 제1 객체를 세탁기의 형상으로 완성시키기 위해 필요한 요소(직사각형의 내부에 위치한 원, 3307), 제1 객체를 냉장고의 형상으로 완성시키기 위해 필요한 요소(직사각형의 밑변과 평행한 직선과, 상기 평행한 직선의 수직이등분선의 일부, 3308)를 각각 표시할 수 있다.
일 실시예에 따르면, 제어부(600)는, 사용자 인터페이스는 기존에 표시된 제1 객체와 구별되도록 표시될 수 있다. 예를 들어, 사용자 인터페이스는 실선으로 표시된 제1 객체와 구별되도록 점선으로 표시되거나 다른 색상 또는 다른 굵기의 선으로 표시될 수 있다.
다른 실시예에 따르면, 제어부(600)는 각각의 형상으로 완성시키기 위하여 필요한 각 요소들(예: 3307, 3308, 3309)을 시각적으로 구분하기 위하여 서로 다른 색깔을 적용할 수 있다.
제어부(600)는 제공된 사용자 인터페이스에 대한 사용자 입력에 기반하여 복수 개의 형상들 중 하나의 형상을 결정할 수 있다. 예를 들어, 사용자가 제1 객체(직사각형)의 하단에 표시된 2개의 직선(3309)을 터치하는 경우, 제어부(600)는 복수 개의 형상들 중 하나의 형상(TV의 형상)을 결정할 수 있다. 제어부(600)는 사용자 입력에 기반하여 제1 객체를 업데이트하고, 결정된 형상에 대응하는 외부 전자 장치(505)와, 업데이트된 제1 객체를 매핑할 수 있다.
도 34는 본 발명의 다양한 실시예들에 따른 전자 장치가 제1 객체에 매핑할 외부 전자 장치를 결정하기 위한 동작 순서를 도시한 순서도이다.
전자 장치(예: 전자 장치(501))의 제어부(예: 도6의 제어부(600))는 동작3401에서, 제1 객체에 대응하는 복수의 형상들에 기반하여 복수의 외부 전자 장치들을 확인할 수 있다. 일 실시예에 따르면, 상기 복수의 형상들은 서로 동일한 형상들일 수 있으며, 복수의 형상들이 서로 동일한 형상이라는 것은 동일한 사양(예: 형태, 성능 또는 기능 등)의 복수의 외부 전자 장치가 존재한다는 의미일 수 있다. 예를 들어, 복수의 형상들이 서로 동일한 형상이라는 것은 도 9에서 침실2 및 침실3에 동일한 사양을 가지는 TV가 각각 놓여 있는 경우를 의미할 수 있다.
제어부(600)는 동작3403에서, 사용자의 위치 정보, 방향 정보 및 거리 정보, 사용 빈도 정보, 또는 사용 이력 정보 중 적어도 하나를 확인할 수 있다. 일 실시예에서, 제어부(600)는 도 7의 위치 정보(705), 또는 장치 연결 데이터(709)를 이용할 수 있다. 도 9를 참조할 때, 예를 들어, 제어부(600)는 현재 사용자가 침실1과 침실2의 사이에 존재하며, 현재 사용자가 침실1를 사용자의 왼쪽에 두고 있는 방향으로 서 있고, 현재 사용자는 침실2의 TV가 침실3의 TV보다 가깝고, 사용자는 핸드라이팅 입력을 이용하여 침실2의 TV보다 침실3의 TV를 더 많이 제어하였다는 빈도 정보를 확인할 수 있다.
제어부(600)는 동작3405에서, 확인한 정보에 기반하여 복수의 외부 전자 장치 중 제어할 외부 전자 장치(505)를 결정하기 위한 사용자 인터페이스를 제공할 수 있다.
일 실시예에 따르면 제어부(600)는 복수의 외부 전자 장치들 각각에 대응하는 형상들을 크기 혹은 색깔을 달리하여 디스플레이(160)에 표시할 수 있다. 예를 들어, 제어부(600)는 침실2의 TV(907), 침실3의 TV(909)를 나타내는 형상들을 현재 사용자로부터의 거리에 따라 크기를 달리하여 디스플레이(160)에 표시할 수 있다. 다른 예를 들어, 제어부(600)는 침실2의 TV(907), 침실3의 TV(909)를 나타내는 형상들을 빈도 정보에 따라 크기 혹은 색깔을 달리하여 디스플레이(160)에 표시할 수 있다.
제어부(600)는 동작3407에서, 사용자 인터페이스에 대한 사용자 입력에 기반하여 제어할 외부 전자 장치(505)를 결정할 수 있다.
일 실시예에 따르면, 제어할 외부 전자 장치(505)는 하나의 장치로 한정되지 않는다. 예를 들어, 제어부(600)는 침실2의 TV(907), 침실3의 TV(909)를 나타내는 형상들 중에서 침실2의 TV(907)를 나타내는 형상에 대한 사용자 입력을 검출한 경우, 제어할 외부 전자 장치(505)로 침실2의 TV(907)를 결정할 수 있다. 다른 예를 들어, 제어부(600)는 침실2의 TV(907)와 침실3의 TV(909)를 나타내는 형상들에 대한 사용자 입력을 검출한 경우, 제어할 외부 전자 장치(505)로 침실2의 TV(907)와 침실3의 TV(909)를 결정할 수 있다.
제어부(600)는 동작3409에서, 제1 객체를 제어할 외부 전자 장치(505)에 매핑할 수 있다. 예를 들어, 제어부(600)는 제1 객체를 침실2의 TV(907)에 매핑할 수 있다.
도 35는 본 발명의 다양한 실시예들에 따른 전자 장치가 제1 객체에 매핑할 외부 전자 장치를 결정하는 예를 나타낸 도면이다.
도 35(a)에서, 전자 장치(예: 도 5의 전자 장치(501))의 제어부(예: 도 6의 제어부(600))는 제1 객체(3501)를 그리는 제1 핸드라이팅 입력을 수신할 수 있다. 예를 들어 제1 객체(3501)는 직사각형일 수 있다.
도 35(b)에서, 제어부(600)는 제1 저장 영역에 포함된 형상들 중에서, 제1 객체에 대응하며 서로 동일한 복수의 형상들(3503, 3505)이 존재하는 경우, 사용자의 위치 정보, 방향 정보 및 거리 정보, 사용 빈도 정보, 또는 사용 이력 정보 중 적어도 하나에 기반하여 상기 서로 동일한 복수의 형상들(3503, 3505)을 서로 구별되게 표시할 수 있다. 예를 들어, 제어부(600)는 전자 장치와의 거리 정보에 기반하여, 상기 서로 동일한 복수의 형상들을(3503, 3505) 크기를 달리하여 디스플레이(160)에 표시할 수 있다. 도 35(b)를 참조할 때, 3503는 크게, 3505는 작게 표시될 수 있다. 예를 들어, 도 9를 참조할 때, 크게 표시된 3503은 전자 장치와 가장 가까운 TV(907)를 나타낼 수 있고, 3505는 전자 장치와 가장 먼 TV(909)를 나타낼 수 있다. 또 다른 예를 들어, 크게 표시된 3503은 사용 빈도수가 높은 TV(907)를 나타낼 수 있고, 3505는 사용 빈도수가 적은 TV(909)를 나타낼 수 있다. 또 다른 예를 들어, 크게 표시된 3503은 최근 사용한 TV(907)를 나타낼 수 있다.
일 실시예에 따르면, 제어부(600)는 서로 구별되게 표시된 복수의 형상들(3503, 3505)에 대한 사용자 입력에 기반하여 제어할 외부 전자 장치(505)를 결정할 수 있다. 예를 들어, 제어부(600)는 서로 구별되게 표시된 복수의 형상들(3503, 3505)중 하나의 형상(3505)에 대한 사용자 입력을 검출한 경우, 제어할 외부 전자 장치(505)를, 사용자 입력이 검출된 형상(3505)에 대응하는 전자 장치로 결정할 수 있다. 예를 들어, 도 9를 참조할 때, 제어부(600)는 침실3에 위치하는 TV(909)를 제어할 외부 전자 장치(505)로 결정할 수 있다.
도 35(c)에서, 제어부(600)는 제1 객체를 업데이트하고, 업데이트된 제1 객체를 결정된 외부 전자 장치(505)와 매핑할 수 있다. 예를 들어, 제어부(600)는 제1 객체를 직사각형에서 침실3에 위치하는 TV(909)에 대응하는 형상으로 업데이트하고, 상기 업데이트된 제1 객체를 침실3에 위치하는 TV(909)와 매핑할 수 있다. 일 실시예에서, 제어부(600)는 업데이트된 제1 객체와 매핑된 장치(예: TV(909)에 대한 정보를 추가적으로 표시할 수 있다. 예를 들어, 업데이트된 제1 객체와 매핑된 장치의 종류, 위치 또는 상태 정보(예: 전원 상태, 채널 상태 또는 볼륨 상태 등)에 대한 정보를 추가적으로 표시할 수 있다.
도 36은 본 발명의 다양한 실시예들에 따른 전자 장치가 제1 객체에 대응하는 외부 전자 장치의 형상을 결정하기 위한 동작 순서를 도시한 순서도이다.
동작3609, 동작3611을 제외한 나머지 동작들은 도 32에서 동작3209, 동작3211을 제외한 나머지 동작들과 유사하므로, 구체적인 설명은 생략하기로 한다.
전자 장치(예: 전자 장치(501))의 제어부(예: 도6의 제어부(600))는 제1 핸드라이팅 입력에 의해 표시된 제1 객체가, 제1 저장 영역에 저장된 형상들 중 두 개 이상의 형상들에 대응하며, 대응하는 두 개 이상의 형상들 중 하나의 형상을 결정하기 위한 추가 사용자 핸드라이팅 입력이 수신되지 않는 경우, 동작 3609에서, 제1 객체의 형상에 기반하여 외부 서버(예: 서버(503))로부터 연상되는 개념을 수신할 수 있다.
일 실시예에 따르면 외부 서버는 가상 세계에 대한 지식 베이스에 대한 서버로서, 온톨로지(ontology) 서버일 수 있고, 일반적인 웹 서버일 수 있다.
다른 실시예에 따르면, 제어부(600)는 제1 객체의 형상으로부터 연상되는 단어를 추출하고, 추출된 단어에 온톨로지를 적용하여 연관된 단어를 나열하는 동작을 수행함으로써, 제1 객체의 형상에 기반하여 외부 서버로부터 연상되는 개념을 수신할 수 있다.
또 다른 실시예에 따르면, 제어부(600)는 제1 객체의 형상을 웹 서버에서 검색함으로써, 제1 객체의 형상에 대응하는 전자 장치를 결정할 수 있다. 예를 들어, 제1 객체가 직사각형 및 직사각형에 포함된 원인 경우, 인텔리전스 부(예: 도 6의 인텔리전스 부(605))는 가전 제품이라는 카테고리에 포함된 복수 개의 전자 장치의 이미지를 온톨로지 서버에 검색하여, 디스플레이(160)에 표시된 객체의 모양으로부터 연상되는 단어로 "세탁기"를 추출할 수 있다. 다른 예를 들어, 제1 객체의 형상이 가로 길이보다 세로 길이가 긴 직사각형 및 상기 직사각형에 포함된 원을 포함하는 경우, 제1 객체의 형상을 웹 서버에 검색함으로써, 대응하는 전자 장치(예: 에어컨)을 결정할 수도 있다.
동작3611에서, 제어부(600)는 수신한 개념에 기반하여 외부 전자 장치(505)를 결정할 수 있다. 예를 들어, 제어부(600)는 제1 객체의 형상으로부터 연상되는 단어에 온톨로지를 적용하여 결정된 개념이 특정한 전자 장치의 이름과 연관되는지를 판단하고, 연관된다면 상기 특정한 전자 장치를 외부 전자 장치(505)로 결정할 수 있다.
도 37은 본 발명의 다양한 실시예들에 따른 전자 장치가 외부 전자 장치를 제어하는 예를 나타낸 도면이다.
도 37의 4가지 세부 도면들은, 전자 장치(예: 도 5의 전자 장치(501))의 제어부(예: 도 6의 제어부(600))가, 제1 핸드라이팅 입력을 통하여 표시된 제1 객체에 외부 전자 장치(505)를 매핑한 상태에서, 외부 전자 장치(505)를 제어하기 위한 제2 객체를 그리는 제2 핸드라이팅 입력을 수신하면, 제2 핸드라이팅 입력의 특성 정보에 기반하여 외부 전자 장치(505)를 제어하는 예를 나타낸 도면들이다.
도 37(a)는 제1 핸드라이팅 입력을 통하여 표시된 제1 객체(3703)에 로봇 청소기(3707)을 매핑한 상태에서, 로봇 청소기(3707)를 제어하기 위한 제2 객체(3705)를 그리는 제2 핸드라이팅 입력을 수신하면, 제어부(600)는 제2 핸드라이팅 입력의 특성 정보(예: 제2 객체의 모양)에 기반하여 로봇 청소기(3707)의 이동 경로를 결정하고, 결정된 이동 경로로 로봇 청소기(3707)가 청소 동작을 수행하도록 로봇 청소기(3707)를 제어할 수 있다.
도 37(b)는 제1 핸드라이팅 입력을 통하여 표시된 제1 객체(3713)에 다수의 전구들(3715)의 그룹을 매핑한 상태에서, 다수의 전구들(3715)을 한꺼번에 제어하기 위한 제2 객체(3717)를 그리는 제2 핸드라이팅 입력을 수신하면, 제어부(600)는 제2 핸드라이팅 입력의 특성 정보(예: 제2 객체의 모양)에 기반하여 다수의 전구들(3715)이 한꺼번에 점등되도록, 다수의 전구들(3715)을 제어할 수 있다.
일 실시예에서 전자 장치는 제1 객체(3713)를 그리는 제1 핸드라이팅 입력을 수신한 경우, 제1 객체(3713)와 다수의 전구들(3715)을 매핑한다는 표시(3711)를 디스플레이(160)에 나타낼 수 있다.
도 37(c)는 제1 핸드라이팅 입력을 통하여 표시된 제1 객체(3721)에 에어컨(3727)을 매핑하고, 에어컨(3727)의 상태 정보(3723)가 표시된 상태에서, 에어컨(3727)을 제어하기 위한 제2 객체(3725)를 그리는 제2 핸드라이팅 입력을 수신하면, 제어부(600)는 제2 핸드라이팅 입력의 특성 정보에 기반하여 에어컨(3727)이 정해진 온도 구간 내의 온도를 유지하도록 에어컨을 제어할 수 있다.
도 37(d)는 제1 핸드라이팅 입력을 통하여 표시된 제1 객체(3731)에 냉장고(3735)를 매핑하고, 냉장고(3735)를 제어하기 위한 제2 객체(3733)을 그리는 제2 핸드라이팅 입력을 수신하면, 제어부(600)는 제2 핸드라이팅 입력의 특성 정보에 기반하여 제2 객체가 표시하는 문자를 냉장고(3735)의 디스플레이에 표시하도록 냉장고(3735)를 제어할 수 있다.
컴퓨터로 판독 가능한 기록 매체는, 하드디스크, 플로피디스크, 마그네틱 매체(예: 자기테이프), 광기록 매체(예: CD-ROM, DVD, 자기-광 매체 (예: 플롭티컬 디스크), 내장 메모리 등을 포함할 수 있다. 명령어는 컴파일러에 의해 만들어지는 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 다양한 실시예에 따른 모듈 또는 프로그램 모듈은 전술한 구성요소들 중 적어도 하나 이상을 포함하거나, 일부가 생략되거나, 또는 다른 구성요소를 더 포함할 수 있다. 다양한 실시예에 따른, 모듈, 프로그램 모듈 또는 다른 구성요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱하게 실행되거나, 적어도 일부 동작이 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치(예: 도 5의 전자 장치(501))의 동작 방법은, 사용자 핸드라이팅 입력을 수신하기 위하여 사용자 인터페이스를 제공하는 동작, 디스플레이(160)를 통하여 제1 객체를 그리는 제1 핸드라이팅 입력을 수신하는 동작, 상기 제1 객체의 모양을 결정하는 동작, 상기 제1 객체의 모양에 기반하여 제어할 외부 전자 장치(505)를 선택하는 동작, 무선 통신 회로(예: 도 1의 통신 인터페이스(170) 또는 도 2의 통신 모듈(220))를 이용하여 상기 제어할 외부 전자 장치(505)와 무선 통신을 수립하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 상기 디스플레이(160)를 통하여 제2 객체를 그리는 제2 핸드라이팅 입력을 수신하는 동작, 상기 제2 핸드라이팅 입력의 특성 정보에 기반하여, 상기 제어할 외부 전자 장치(505)가 수행할 기능 및 상기 기능과 관련된 파라미터 값을 결정하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 상기 제1 핸드라이팅 입력을 수신하는 동작 또는 상기 제2 핸드라이팅 입력을 수신하는 동작은 디지타이저와 상기 디지타이저에 상기 핸드라이팅 입력들을 입력하는 스타일러스 펜을 이용하여 수신하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 상기 제2 핸드라이팅 입력의 특성 정보는, 상기 제2 핸드라이팅 입력의 세기, 상기 제2 핸드라이팅 입력의 방향, 상기 제2 객체의 형상, 또는 상기 제2 객체의 위치 중 적어도 하나를 포함할 수 있다.
다양한 실시예에 따르면, 상기 제1 객체의 모양에 기반하여 상기 제어할 외부 전자 장치(505)를 선택하는 동작은, 상기 제1 객체를 구성하는 하나 이상의 요소들을 포함하는 하나 이상의 형상들을, 제1 저장 영역에 포함된 복수 개의 형상들 중에서 추출하고, 상기 추출된 하나 이상의 형상들에 대응하는 하나 이상의 외부 전자 장치들을 결정하고, 상기 하나 이상의 외부 전자 장치들 중 하나를 상기 외부 전자 장치(505)로 선택하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 상기 하나 이상의 외부 전자 장치들 중 하나를 상기 외부 전자 장치(505)로 선택하는 동작은, 상기 하나 이상의 외부 전자 장치를 결정할 때, 사용자의 추가 입력을 수신하고, 상기 수신한 사용자의 추가 입력에 기반하여 상기 하나 이상의 외부 전자 장치들 중 하나를 상기 제어할 외부 전자 장치(505)로 선택하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 상기 하나 이상의 외부 전자 장치들 중 하나를 상기 제어할 외부 전자 장치(505)로 선택하는 동작은, 상기 하나 이상의 외부 전자 장치를 결정할 때, 상기 하나 이상의 외부 전자 장치들과 관련된 가이드를 제공하는 동작을 포함하고, 상기 사용자의 추가 입력은, 상기 제공된 가이드에 대한 사용자 입력을 포함할 수 있다.
다양한 실시예에 따르면, 상기 하나 이상의 외부 전자 장치들과 관련된 가이드를 제공하는 동작은, 상기 제1 객체가 상기 디스플레이(160)에 표시된 상태에서, 상기 제1 객체를 상기 결정된 하나 이상의 형상들 중 하나의 형상으로 완성시키기 위하여 필요한 요소들을 상기 디스플레이(160)에 표시함으로써, 상기 하나 이상의 외부 전자 장치들과 관련된 가이드를 제공하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 상기 제1 객체의 모양에 기반하여 상기 제어할 외부 전자 장치(505)를 선택하는 동작은, 상기 제1 객체를 구성하는 하나 이상의 요소들의 기하학적 특성, 디스플레이 크기와의 비율 및 상기 하나 이상의 요소들간 상대적 위치 관계에 기반하여, 상기 제1 저장 영역에 포함된 복수 개의 형상들 중에서 상기 제1 객체에 대응하는 하나 이상의 형상들을 결정하고, 상기 결정된 하나 이상의 형상들에 대응하는 하나 이상의 외부 전자 장치들을 결정하고, 상기 하나 이상의 외부 전자 장치들 중 하나를 상기 제어할 외부 전자 장치(505)로 선택하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 상기 추출된 하나 이상의 형상들이 동일한 형상들인 경우, 상기 제1 객체의 모양에 기반하여 상기 제어할 외부 전자 장치(505)를 선택하는 동작은, 위치 정보, 방향 정보, 거리 정보, 사용 빈도 정보, 또는 사용 이력 정보 중 적어도 하나에 기반하여, 상기 추출된 하나 이상의 동일한 형상들 중 하나의 형상을 결정하고, 상기 하나의 형상에 대응하는 외부 전자 장치를 상기 제어할 외부 전자 장치(505)로 선택하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 상기 제어할 외부 전자 장치는 제1 외부 전자 장치와 제2 외부 전자 장치 중 적어도 하나를 포함하고, 상기 외부 전자 장치가 수행할 기능 및 상기 기능과 관련된 파라미터 값을 결정하는 동작을 포함할 수 있다.
그리고 본 명세서와 도면에 개시된 실시 예들은 본 발명의 내용을 쉽게 설명하고, 이해를 돕기 위해 특정 예를 제시한 것일 뿐이며, 본 발명의 범위를 한정하고자 하는 것은 아니다. 따라서 본 발명의 범위는 여기에 개시된 실시 예들 이외에도 본 발명의 기술적 사상을 바탕으로 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.
401: 전자 장치 421: 네트워크
403: 서버 501: 전자 장치
505: 외부 전자 장치 600: 제어부
630: 저장부 703: 모양 정보
705: 위치 정보 707: 액션 정보

Claims (22)

  1. 전자 장치에 있어서,
    하우징(housing);
    상기 하우징의 일부를 통해 노출된 터치스크린 디스플레이;
    무선 통신 회로;
    상기 하우징의 내부에 위치하며 상기 디스플레이 및 상기 무선 통신 회로와 전기적으로 연결된 프로세서; 및
    상기 하우징의 내부에 위치하며, 상기 프로세서와 전기적으로 연결된 메모리를 포함하며, 상기 메모리는, 실행 시 상기 프로세서가
    사용자 핸드라이팅 입력을 수신하기 위하여 사용자 인터페이스를 제공하고,
    상기 디스플레이를 통하여 제1 객체를 그리는 제1 핸드라이팅 입력을 수신하고,
    상기 제1 객체의 모양을 결정하고,
    상기 제1 객체의 모양에 기반하여 제어할 외부 전자 장치를 선택하고,
    상기 무선 통신 회로를 통하여 상기 제어할 외부 전자 장치와 무선 통신을 수립하도록 하는 명령어들(instructions)을 저장하는 전자 장치.
  2. 제1항에 있어서,
    상기 메모리는, 실행 시 상기 프로세서가,
    상기 디스플레이를 통하여 제2 객체를 그리는 제2 핸드라이팅 입력을 수신하고,
    상기 제2 핸드라이팅 입력의 특성 정보에 기반하여, 상기 제어할 외부 전자 장치가 수행할 기능 및 상기 기능과 관련된 파라미터 값을 결정하도록 하는 명령어들을 더 저장하는 전자 장치.
  3. 제2항에 있어서,
    상기 하우징의 내부에 위치한 디지타이저를 더 포함하며,
    상기 프로세서는 상기 제1 핸드라이팅 입력 또는 상기 제2 핸드라이팅 입력을, 상기 디지타이저와 상기 디지타이저에 상기 핸드라이팅 입력들을 입력하는 스타일러스 펜을 이용하여 수신하도록 설정된 전자 장치.
  4. 제2항에 있어서,
    상기 제2 객체를 그리는 상기 제2 핸드라이팅 입력의 특성 정보는,
    상기 제2 핸드라이팅 입력의 세기, 상기 제2 핸드라이팅 입력의 방향, 상기 제2 객체의 형상, 또는 상기 제2 객체의 위치 중 적어도 하나를 포함하는 전자 장치.
  5. 제1항에 있어서,
    상기 메모리는, 실행 시 상기 프로세서가,
    상기 제1 객체를 구성하는 하나 이상의 요소들을 포함하는 하나 이상의 형상들을, 제1 저장 영역에 포함된 복수 개의 형상들 중에서 추출하고, 상기 추출된 하나 이상의 형상들에 대응하는 하나 이상의 외부 전자 장치들을 결정하고, 상기 하나 이상의 외부 전자 장치들 중 하나를 상기 제어할 외부 전자 장치로 선택하도록 하는 명령어들을 저장하는 전자 장치.
  6. 제5항에 있어서,
    상기 메모리는, 실행 시 상기 프로세서가,
    상기 하나 이상의 외부 전자 장치들을 결정할 때, 사용자의 추가 입력을 수신하고, 상기 수신한 사용자의 추가 입력에 기반하여 상기 하나 이상의 외부 전자 장치들 중 하나를 상기 제어할 외부 전자 장치로 선택하도록 하는 명령어들을 저장하는 전자 장치.
  7. 제6항에 있어서,
    상기 메모리는 실행 시 상기 프로세서가
    상기 하나 이상의 외부 전자 장치들을 결정할 때, 상기 하나 이상의 외부 전자 장치들과 관련된 가이드를 제공하도록 하는 명령어를 더 포함하고,
    상기 사용자의 추가 입력은, 상기 제공된 가이드에 대한 사용자 입력인 전자 장치.
  8. 제7항에 있어서,
    상기 메모리는, 실행 시 상기 프로세서가,
    상기 제1 객체가 상기 디스플레이에 표시된 상태에서, 상기 제1 객체를 상기 결정된 하나 이상의 형상들 중 하나의 형상으로 완성시키기 위하여 필요한 요소들을 상기 디스플레이에 표시함으로써 상기 하나 이상의 외부 전자 장치들과 관련된 가이드를 제공하도록 하는 명령어를 포함하는 전자 장치.
  9. 제1항에 있어서,
    상기 메모리는, 실행 시 상기 프로세서가,
    상기 제1 객체를 구성하는 하나 이상의 요소들의 기하학적 특성, 디스플레이 크기와의 비율 및 상기 하나 이상의 요소들간 상대적 위치 관계에 기반하여, 상기 제1 저장 영역에 포함된 복수 개의 형상들 중에서 상기 제1 객체에 대응하는 하나 이상의 형상들을 결정하고, 상기 결정된 하나 이상의 형상들에 대응하는 하나 이상의 외부 전자 장치들을 결정하고, 상기 하나 이상의 외부 전자 장치들 중 하나를 상기 제어할 외부 전자 장치로 선택하도록 하는 명령어들을 저장하는 전자 장치.
  10. 제5항에 있어서,
    상기 추출된 하나 이상의 형상들이 동일한 형상들인 경우,
    상기 메모리는 실행 시 상기 프로세서가,
    위치 정보, 방향 정보, 거리 정보, 사용 빈도 정보, 또는 사용 이력 정보 중 적어도 하나에 기반하여, 상기 추출된 하나 이상의 동일한 형상들 중 하나의 형상을 결정하고, 상기 하나의 형상에 대응하는 외부 전자 장치를 상기 제어할 외부 전자 장치로 선택하도록 하는 명령어들을 저장하는 전자 장치.
  11. 제2항에 있어서,
    상기 제어할 외부 전자 장치는 제1 외부 전자 장치와 제2 외부 전자 장치 중 적어도 하나를 포함하고,
    상기 메모리는, 실행 시 상기 프로세서가, 상기 제1 외부 전자 장치와 상기 제2 외부 전자 장치 중 적어도 하나가 수행할 기능 및 상기 기능과 관련된 파라미터 값을 결정하는 명령어들을 저장하는 전자 장치.
  12. 전자 장치의 동작 방법에 있어서,
    사용자 핸드라이팅 입력을 수신하기 위하여 사용자 인터페이스를 제공하는 동작;
    디스플레이를 통하여 제1 객체를 그리는 제1 핸드라이팅 입력을 수신하는 동작;
    상기 제1 객체의 모양을 결정하는 동작;
    상기 제1 객체의 모양에 기반하여 제어할 외부 전자 장치를 선택하는 동작; 및
    무선 통신 회로를 이용하여 상기 제어할 외부 전자 장치와 무선 통신을 수립하는 동작을 포함하는 방법.
  13. 제12항에 있어서,
    상기 디스플레이를 통하여 제2 객체를 그리는 제2 핸드라이팅 입력을 수신하는 동작;
    상기 제2 핸드라이팅 입력의 특성 정보에 기반하여, 상기 제어할 외부 전자 장치가 수행할 기능 및 상기 기능과 관련된 파라미터 값을 결정하는 동작을 더 포함하는 방법.
  14. 제13항에 있어서,
    상기 제1 핸드라이팅 입력을 수신하는 동작 또는 상기 제2 핸드라이팅 입력을 수신하는 동작은 디지타이저와 상기 디지타이저에 상기 핸드라이팅 입력들을 입력하는 스타일러스 펜을 이용하여 수신하는 동작을 포함하는 방법.
  15. 제13항에 있어서,
    상기 제2 핸드라이팅 입력의 특성 정보는,
    상기 제2 핸드라이팅 입력의 세기, 상기 제2 핸드라이팅 입력의 방향, 상기 제2 객체의 형상, 또는 상기 제2 객체의 위치 중 적어도 하나를 포함하는 방법.
  16. 제12항에 있어서,
    상기 제1 객체의 모양에 기반하여 상기 제어할 외부 전자 장치를 선택하는 동작은
    상기 제1 객체를 구성하는 하나 이상의 요소들을 포함하는 하나 이상의 형상들을, 제1 저장 영역에 포함된 복수 개의 형상들 중에서 추출하고, 상기 추출된 하나 이상의 형상들에 대응하는 하나 이상의 외부 전자 장치들을 결정하고, 상기 하나 이상의 외부 전자 장치들 중 하나를 상기 제어할 외부 전자 장치로 선택하는 동작을 포함하는 방법.
  17. 제16항에 있어서,
    상기 하나 이상의 외부 전자 장치들 중 하나를 상기 제어할 외부 전자 장치로 선택하는 동작은,
    상기 하나 이상의 외부 전자 장치를 결정할 때, 사용자의 추가 입력을 수신하고, 상기 수신한 사용자의 추가 입력에 기반하여 상기 하나 이상의 외부 전자 장치들 중 하나를 상기 제어할 외부 전자 장치로 선택하는 동작을 포함하는 방법.
  18. 제17항에 있어서,
    상기 하나 이상의 외부 전자 장치들 중 하나를 상기 제어할 외부 전자 장치로 선택하는 동작은,
    상기 하나 이상의 외부 전자 장치를 결정할 때, 상기 하나 이상의 외부 전자 장치들과 관련된 가이드를 제공하는 동작을 포함하고,
    상기 사용자의 추가 입력은, 상기 제공된 가이드에 대한 사용자 입력을 포함하는 방법.
  19. 제18항에 있어서,상기 하나 이상의 외부 전자 장치들과 관련된 가이드를 제공하는 동작은,
    상기 제1 객체가 상기 디스플레이에 표시된 상태에서, 상기 제1 객체를 상기 결정된 하나 이상의 형상들 중 하나의 형상으로 완성시키기 위하여 필요한 요소들을 상기 디스플레이에 표시함으로써, 상기 하나 이상의 외부 전자 장치들과 관련된 가이드를 제공하는 동작을 포함하는 방법.
  20. 제12항에 있어서,
    상기 제1 객체의 모양에 기반하여 상기 제어할 외부 전자 장치를 선택하는 동작은,
    상기 제1 객체를 구성하는 하나 이상의 요소들의 기하학적 특성, 디스플레이 크기와의 비율 및 상기 하나 이상의 요소들간 상대적 위치 관계에 기반하여, 상기 제1 저장 영역에 포함된 복수 개의 형상들 중에서 상기 제1 객체에 대응하는 하나 이상의 형상들을 결정하고, 상기 결정된 하나 이상의 형상들에 대응하는 하나 이상의 외부 전자 장치들을 결정하고, 상기 하나 이상의 외부 전자 장치들 중 하나를 상기 제어할 외부 전자 장치로 선택하는 동작을 포함하는 방법.
  21. 제16항에 있어서,
    상기 추출된 하나 이상의 형상들이 동일한 형상들인 경우,
    상기 제1 객체의 모양에 기반하여 상기 제어할 외부 전자 장치를 선택하는 동작은,
    위치 정보, 방향 정보, 거리 정보, 사용 빈도 정보, 또는 사용 이력 정보 중 적어도 하나에 기반하여, 상기 추출된 하나 이상의 동일한 형상들 중 하나의 형상을 결정하고, 상기 하나의 형상에 대응하는 외부 전자 장치를 상기 제어할 외부 전자 장치로 선택하는 동작을 포함하는 방법.
  22. 제13항에 있어서,
    상기 제어할 외부 전자 장치는 제1 외부 전자 장치와 제2 외부 전자 장치 중 적어도 하나를 포함하고,
    상기 외부 전자 장치가 수행할 기능 및 상기 기능과 관련된 파라미터 값을 결정하는 동작은, 상기 제1 외부 전자 장치와 상기 제2 외부 전자 장치 중 적어도 하나가 수행할 기능 및 상기 기능과 관련된 파라미터 값을 결정하는 동작을 포함하는 방법.



KR1020170065585A 2017-05-26 2017-05-26 외부 장치의 선택 및 제어를 위한 전자 장치와 그의 동작 방법 KR102329761B1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020170065585A KR102329761B1 (ko) 2017-05-26 2017-05-26 외부 장치의 선택 및 제어를 위한 전자 장치와 그의 동작 방법
US15/989,489 US20180341400A1 (en) 2017-05-26 2018-05-25 Electronic device for selecting external device and controlling the same and operating method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020170065585A KR102329761B1 (ko) 2017-05-26 2017-05-26 외부 장치의 선택 및 제어를 위한 전자 장치와 그의 동작 방법

Publications (2)

Publication Number Publication Date
KR20180129478A true KR20180129478A (ko) 2018-12-05
KR102329761B1 KR102329761B1 (ko) 2021-11-22

Family

ID=64401628

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020170065585A KR102329761B1 (ko) 2017-05-26 2017-05-26 외부 장치의 선택 및 제어를 위한 전자 장치와 그의 동작 방법

Country Status (2)

Country Link
US (1) US20180341400A1 (ko)
KR (1) KR102329761B1 (ko)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022025526A1 (ko) * 2020-07-27 2022-02-03 삼성전자 주식회사 입력 데이터를 제공하는 방법 및 이를 지원하는 전자 장치
WO2022182043A1 (ko) * 2021-02-24 2022-09-01 삼성전자주식회사 전자 장치 및 전자 장치를 동작시키는 방법
WO2023075159A1 (ko) * 2021-10-26 2023-05-04 삼성전자 주식회사 발화 기반 목적 장치의 식별 방법 및 이를 위한 전자 장치
WO2024010198A1 (ko) * 2022-07-08 2024-01-11 삼성전자 주식회사 분류에 기반하는 객체의 선택 및 제어를 위한 전자 장치 및 그 방법

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10616343B1 (en) * 2018-10-22 2020-04-07 Motorola Mobility Llc Center console unit and corresponding systems and methods
USD921691S1 (en) * 2018-12-11 2021-06-08 Lg Electronics Inc. Display screen with graphical user interface
DE102019101308A1 (de) * 2019-01-18 2020-07-23 Aesculap Ag Integrierte Leistungseinheit IPU
US10956016B1 (en) * 2019-11-14 2021-03-23 Rockwell Collins, Inc. No look touchscreen panel / CDU
CN112596660B (zh) * 2020-12-18 2023-09-12 维沃移动通信有限公司 一种书写显示处理方法和电子设备

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120322374A1 (en) * 2010-12-28 2012-12-20 Masaru Yamaoka Communication apparatus and communication method
KR20140146346A (ko) * 2013-06-17 2014-12-26 삼성전자주식회사 파지된 물체를 이용한 모션을 인식하는 장치 및 방법, 시스템
US20150326704A1 (en) * 2014-05-12 2015-11-12 Lg Electronics Inc. Mobile terminal and method for controlling the mobile terminal
KR20160084188A (ko) * 2015-01-05 2016-07-13 엘지전자 주식회사 이동 단말기 및 그 제어 방법

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102203885B1 (ko) * 2013-04-26 2021-01-15 삼성전자주식회사 사용자 단말 장치 및 그 제어 방법
US9524440B2 (en) * 2014-04-04 2016-12-20 Myscript System and method for superimposed handwriting recognition technology
US10025407B2 (en) * 2016-03-03 2018-07-17 Wipro Limited System and method for remotely controlling a device

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120322374A1 (en) * 2010-12-28 2012-12-20 Masaru Yamaoka Communication apparatus and communication method
KR20140146346A (ko) * 2013-06-17 2014-12-26 삼성전자주식회사 파지된 물체를 이용한 모션을 인식하는 장치 및 방법, 시스템
US20150326704A1 (en) * 2014-05-12 2015-11-12 Lg Electronics Inc. Mobile terminal and method for controlling the mobile terminal
KR20160084188A (ko) * 2015-01-05 2016-07-13 엘지전자 주식회사 이동 단말기 및 그 제어 방법

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022025526A1 (ko) * 2020-07-27 2022-02-03 삼성전자 주식회사 입력 데이터를 제공하는 방법 및 이를 지원하는 전자 장치
WO2022182043A1 (ko) * 2021-02-24 2022-09-01 삼성전자주식회사 전자 장치 및 전자 장치를 동작시키는 방법
US11868547B2 (en) 2021-02-24 2024-01-09 Samsung Electronics Co., Ltd. Electronic device and method of operating the electronic device
WO2023075159A1 (ko) * 2021-10-26 2023-05-04 삼성전자 주식회사 발화 기반 목적 장치의 식별 방법 및 이를 위한 전자 장치
WO2024010198A1 (ko) * 2022-07-08 2024-01-11 삼성전자 주식회사 분류에 기반하는 객체의 선택 및 제어를 위한 전자 장치 및 그 방법

Also Published As

Publication number Publication date
US20180341400A1 (en) 2018-11-29
KR102329761B1 (ko) 2021-11-22

Similar Documents

Publication Publication Date Title
KR102329761B1 (ko) 외부 장치의 선택 및 제어를 위한 전자 장치와 그의 동작 방법
KR102335925B1 (ko) 네트워크 서비스를 위한 전자장치와 게이트웨이, 및 이를 위한 동작 방법
KR102482850B1 (ko) 전자 장치 및 전자 장치의 필체 교정 기능 제공 방법
KR20170096408A (ko) 어플리케이션을 표시하는 방법 및 이를 지원하는 전자 장치
KR102398503B1 (ko) 입력의 압력을 감지하는 전자 장치 및 그 동작 방법
KR20160064853A (ko) 전자 장치들 간에 기능을 공유하는 방법 및 장치
KR20170116883A (ko) 플렉서블 디바이스 및 그 동작 방법
KR20170071960A (ko) 전자 장치의 사용자 인터페이스 제공 방법 및 장치
KR20180109229A (ko) 전자 장치에서 증강현실 기능 제공 방법 및 장치
KR20160087644A (ko) 전자 장치 및 전자 장치에서의 정보 처리 방법
CN105446611B (zh) 用于对触摸输入进行处理的装置及其方法
KR102388590B1 (ko) 전자 장치 및 전자 장치의 입력 방법
KR20170119934A (ko) 제스처 입력을 처리하기 위한 전자 장치 및 방법
KR102328102B1 (ko) 전자 장치 및 전자 장치의 화면 표시방법
KR102294705B1 (ko) 유저 입력에 기초한 오브젝트 속성을 제어하는 전자 장치 및 방법
KR20170046407A (ko) 전자 장치 및 그의 동작 방법
KR20160128606A (ko) 바로가기 ui를 제공하는 전자 장치 및 방법
KR20160124536A (ko) 사용자 인터페이스를 제공하는 방법 및 전자장치
KR20180041911A (ko) 전자 장치 및 전자 장치에서의 디스플레이 제어 방법
KR20180131900A (ko) 외부 입력 장치의 입력을 처리하는 전자 장치 및 방법
KR20170054746A (ko) 컨텐츠와 연관된 영역 선택 방법 및 전자장치
KR20170014407A (ko) 전자장치의 보안 장치 및 제어 방법
KR20170009008A (ko) 이미지를 표시하는 전자 장치 및 그 제어 방법
KR20180051002A (ko) 터치 스크린을 이용하는 전자 장치에서 애플리케이션의 실행을 제어하는 방법과 이를 위한 전자 장치
KR20160071897A (ko) 전자장치 및 전자장치의 어플리케이션 실행 방법

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant