KR20190141109A - 디바이스에 연결된 외부 기기를 제어하는 시스템 및 방법 - Google Patents

디바이스에 연결된 외부 기기를 제어하는 시스템 및 방법 Download PDF

Info

Publication number
KR20190141109A
KR20190141109A KR1020190163977A KR20190163977A KR20190141109A KR 20190141109 A KR20190141109 A KR 20190141109A KR 1020190163977 A KR1020190163977 A KR 1020190163977A KR 20190163977 A KR20190163977 A KR 20190163977A KR 20190141109 A KR20190141109 A KR 20190141109A
Authority
KR
South Korea
Prior art keywords
information
user
server
external device
external devices
Prior art date
Application number
KR1020190163977A
Other languages
English (en)
Other versions
KR102175165B1 (ko
Inventor
신항식
고재우
박세준
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020190163977A priority Critical patent/KR102175165B1/ko
Publication of KR20190141109A publication Critical patent/KR20190141109A/ko
Application granted granted Critical
Publication of KR102175165B1 publication Critical patent/KR102175165B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G06F3/167—Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • G06F17/20—
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/08—Speech classification or search
    • G10L15/18—Speech classification or search using natural language modelling
    • G10L15/1822—Parsing for meaning understanding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L12/00—Data switching networks
    • H04L12/28—Data switching networks characterised by path configuration, e.g. LAN [Local Area Networks] or WAN [Wide Area Networks]
    • H04L12/2803—Home automation networks
    • H04L12/2816—Controlling appliance services of a home automation network by calling their functionalities
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L12/00—Data switching networks
    • H04L12/28—Data switching networks characterised by path configuration, e.g. LAN [Local Area Networks] or WAN [Wide Area Networks]
    • H04L12/2803—Home automation networks
    • H04L12/283—Processing of data at an internetworking point of a home automation network
    • H04L12/2834—Switching of information between an external network and a home network

Landscapes

  • Engineering & Computer Science (AREA)
  • Automation & Control Theory (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • Acoustics & Sound (AREA)
  • Computing Systems (AREA)
  • Selective Calling Equipment (AREA)
  • Telephonic Communication Services (AREA)

Abstract

디바이스에 연결된 외부 기기를 제어하는 시스템 및 방법이 제공된다. 디바이스가 외부 기기를 제어하는 방법은, 사용자의 입력 정보를 서버에게 제공하는 단계; 상기 디바이스에 의해 제어 가능한 적어도 하나의 외부 기기를 확인하는 단계; 상기 확인된 외부 기기에 관한 기기 정보를 상기 서버에게 제공하는 단계; 상기 입력 정보 및 상기 기기 정보에 기초하여 생성되는, 상기 외부 기기에 관한 제어 정보를 상기 서버로부터 수신하는 단계; 및 상기 수신된 제어 정보에 기초하여, 상기 적어도 하나의 외부 기기에게 제어 명령을 전송하는 단계;를 포함하며, 상기 사용자의 입력 정보는 상기 서버가 상기 사용자의 의도를 판단하는데 이용되며, 상기 사용자의 의도에 기초하여 상기 서버에 의해 상기 제어 정보가 생성된다.

Description

디바이스에 연결된 외부 기기를 제어하는 시스템 및 방법{SYSTEM AND METHOD FOR CONTROLLING EXTERNAL APPARATUS CONNENCED WHTH DEVICE}
본 발명은 사용자의 의도에 적합하도록 디바이스에 연결된 외부 기기를 제어하는 시스템 및 방법에 관한 것이다.
자연어 해석 기술 및 모바일 기술의 발전으로 인하여, 디바이스는 사용자에 의해 입력된 정보를 해석하고 사용자에 의도에 따라 디바이스를 동작시킬 수 있게 되었다. 그러나, 종래에는 사용자의 의도에 부합되도록 디바이스의 동작을 실행하는데 있어서, 디바이스가 다양한 주변 기기들을 활용하기 힘든 문제가 있었다. 또한, 이로 인하여 사용자의 다양한 의도를 효과적으로 반영하여 디바이스를 제어하기 힘든 문제가 있었다.
따라서, 디바이스뿐만 아니라 디바이스와 연결 가능한 외부 기기를 이용하여 다양한 종류의 상황 정보를 획득할 수 있으며, 사용자의 다양한 의도를 효과적으로 반영하여 디바이스 및 외부 기기를 동작시킬 수 있는 기술이 요구되고 있다.
본 발명의 일 실시예는, 사용자 입력 정보에 기초하여 사용자의 의도를 판단하고, 사용자의 의도에 따라 디바이스 및 외부 기기를 제어할 수 있는, 디바이스에 연결된 외부 기기를 제어하는 시스템 및 방법을 제공할 수 있다.
상술한 기술적 과제를 달성하기 위한 기술적 수단으로서, 본 발명의 제 1 측면은, 사용자의 입력 정보를 서버에게 제공하는 단계; 상기 디바이스에 의해 제어 가능한 적어도 하나의 외부 기기를 확인하는 단계; 상기 확인된 외부 기기에 관한 기기 정보를 상기 서버에게 제공하는 단계; 상기 입력 정보 및 상기 기기 정보에 기초하여 생성되는, 상기 외부 기기에 관한 제어 정보를 상기 서버로부터 수신하는 단계; 및 상기 수신된 제어 정보에 기초하여, 상기 적어도 하나의 외부 기기에게 제어 명령을 전송하는 단계;를 포함하며, 상기 사용자의 입력 정보는 상기 서버가 상기 사용자의 의도를 판단하는데 이용되며, 상기 사용자의 의도에 기초하여 상기 서버에 의해 상기 제어 정보가 생성되는 것인, 디바이스가 외부 기기를 제어하는 방법을 제공할 수 있다.
또한, 상기 사용자의 의도에 기초하여, 상기 서버에 의해 상기 외부 기기를 제어하기 위한 조건이 결정되며, 상기 결정된 조건에 기초하여, 상기 서버에 의해 상기 제어 정보가 생성될 수 있다.
또한, 상기 제어 정보는, 상기 결정된 조건이 만족되었는지를 확인하기 위한 정보 및, 상기 결정된 조건이 만족됨에 따라 상기 디바이스 및 상기 외부 기기 중 적어도 하나의 동작을 제어하기 위한 정보를 포함할 수 있다.
또한, 상기 방법은, 상기 결정된 조건에 관련된 상황 정보를 획득하는 단계;를 더 포함하며, 상기 제어 명령을 전송하는 단계는, 상기 획득된 상황 정보에 기초하여 상기 결정된 조건이 만족되었음이 확인됨에 따라 상기 제어 명령을 상기 외부 기기에게 전송할 수 있다.
또한, 상기 상황 정보를 획득하는 단계는, 상기 적어도 하나의 외부 기기로부터 상기 상황 정보를 획득할 수 있다.
또한, 상기 상황 정보는, 상기 디바이스의 위치, 상기 디바이스 주변의 상태, 상기 디바이스가 위치한 곳의 날씨, 시간, 온도, 습도, 조도 및 기 설정된 위치의 교통 상황 중 적어도 하나에 관한 정보를 포함할 수 있다.
또한, 상기 사용자 입력 정보는, 상기 사용자에 의해 입력된 문자, 상기 사용자의 음성, 및 상기 사용자의 동작 중 적어도 하나에 관한 정보를 포함할 수 있다.
또한, 상기 기기 정보는, 상기 외부 기기의 식별 값, 상기 외부 기기의 종류, 및 상기 외부 기기의 제어에 이용되는 명령어 중 적어도 하나에 관한 정보를 포함할 수 있다.
또한, 상기 외부 기기 중 상기 사용자의 의도와 관련된 외부 기기가 상기 서버에 의해 선택되며, 상기 제어 명령은 상기 선택된 외부 기기의 동작을 실행시키기 위한 명령일 수 있다.
또한, 상기 방법은, 상기 디바이스에 외부 기기가 추가로 연결됨에 따라, 상기 추가로 연결된 외부 기기에 관한 기기 정보를 상기 서버에게 제공하는 단계;를 더 포함하며, 상기 추가로 연결된 외부 기기에 관한 제어 명령을 포함하는 상기 제어 정보가 상기 서버에 의해 생성될 수 있다.
또한, 본 발명의 제 2 측면은, 사용자의 입력 정보를 디바이스로부터 수신하는 단계; 상기 디바이스에 의해 제어 가능한 적어도 하나의 외부 기기에 관한 기기 정보를 상기 디바이스로부터 수신하는 단계; 상기 사용자 입력 정보에 기초하여 상기 사용자의 의도를 판단하는 단계; 상기 판단된 의도 및 상기 기기 정보에 기초하여, 상기 외부 기기에 관한 제어 정보를 생성하는 단계; 및 상기 제어 정보를 상기 디바이스에게 제공하는 단계;를 포함하는, 서버가 외부 기기를 제어하기 위한 제어 정보를 디바이스에게 제공하는 방법을 제공할 수 있다.
또한, 상기 방법은, 상기 사용자의 의도에 기초하여, 상기 외부 기기를 제어하기 위한 조건을 결정하는 단계;를 더 포함하며, 상기 제어 정보를 생성하는 단계는, 상기 결정된 조건에 기초하여, 상기 제어 정보를 생성할 수 있다.
또한, 상기 제어 정보는, 상기 결정된 조건이 만족되었는지를 확인하기 위한 정보 및, 상기 결정된 조건이 만족됨에 따라 상기 디바이스 및 상기 외부 기기 중 적어도 하나의 동작을 제어하기 위한 정보를 포함할 수 있다.
또한, 상기 제어 정보에 기초하여, 상기 디바이스에 의해 상기 결정된 조건에 관련된 상황 정보가 획득되며, 상기 획득된 상황 정보에 기초하여 상기 결정된 조건이 만족되었음이 확인됨에 따라 상기 제어 명령이 상기 디바이스로부터 상기 외부 기기에게 전송될 수 있다.
또한, 상기 상황 정보는, 상기 적어도 하나의 외부 기기를 이용하여 상기 디바이스에 의해 획득될 수 있다.
또한, 상기 상황 정보는, 상기 디바이스의 위치, 상기 디바이스 주변의 상태, 상기 디바이스가 위치한 곳의 날씨, 시간, 온도, 습도, 조도 및 기 설정된 위치의 교통 상황 중 적어도 하나에 관한 정보를 포함할 수 있다.
또한, 상기 사용자 입력 정보는, 상기 사용자에 의해 입력된 문자, 상기 사용자의 음성, 및 상기 사용자의 동작 중 적어도 하나에 관한 정보를 포함할 수 있다.
또한, 상기 기기 정보는, 상기 외부 기기의 식별 값, 상기 외부 기기의 종류, 및 상기 외부 기기의 제어에 이용되는 명령어 중 적어도 하나에 관한 정보를 포함할 수 있다.
또한, 상기 외부 기기 중 상기 사용자의 의도와 관련된 외부 기기가 상기 서버에 의해 선택되며, 상기 제어 정보는 상기 선택된 외부 기기의 동작을 실행시키기 위한 정보일 수 있다.
또한, 상기 기기 정보를 수신하는 단계는, 상기 디바이스에 외부 기기가 추가로 연결됨에 따라, 상기 추가로 연결된 외부 기기에 관한 기기 정보를 상기 디바이스로부터 수신하며, 상기 제어 정보를 생성하는 단계는, 상기 추가로 연결된 외부 기기에 관한 제어 명령을 포함하는 상기 제어 정보를 생성할 수 있다.
또한, 본 발명의 제 3 측면은, 적어도 하나의 프로그램이 저장되는 메모리; 및 상기 적어도 하나의 프로그램을 실행함으로써 외부 기기를 제어하도록 하는 프로세서를 포함하고, 상기 적어도 하나의 프로그램은, 디바이스에 의해 제어 가능한 적어도 하나의 외부 기기를 확인하는 단계; 상기 확인된 외부 기기에 관한 기기 정보를 상기 서버에게 제공하는 단계; 상기 입력 정보 및 상기 기기 정보에 기초하여 생성되는, 상기 외부 기기에 관한 제어 정보를 상기 서버로부터 수신하는 단계; 및 상기 수신된 제어 정보에 기초하여, 상기 적어도 하나의 외부 기기에게 제어 명령을 전송하는 단계;를 실행하는 명령어들을 포함하며, 상기 사용자의 입력 정보는 상기 서버가 상기 사용자의 의도를 판단하는데 이용되며, 상기 사용자의 의도에 기초하여 상기 서버에 의해 상기 제어 정보가 생성되는 것인, 디바이스를 제공할 수 있다.
또한, 상기 사용자의 의도에 기초하여, 상기 서버에 의해 상기 외부 기기를 제어하기 위한 조건이 결정되며, 상기 결정된 조건에 기초하여, 상기 서버에 의해 상기 제어 정보가 생성될 수 있다.
또한, 상기 제어 정보는, 상기 결정된 조건이 만족되었는지를 확인하기 위한 정보 및, 상기 결정된 조건이 만족됨에 따라 상기 디바이스 및 상기 외부 기기 중 적어도 하나의 동작을 제어하기 위한 정보를 포함할 수 있다.
또한, 본 발명의 제 4 측면은, 상기 제 1 측면의 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록 매체를 제공할 수 있다 .
도 1은 본 발명의 일 실시예에 따른 디바이스를 통한 외부 기기 제어 시스템의 전체 개요도이다 .
도 2는 본 발명의 일 실시예에 따른 디바이스(1000)가 서버(3000)에 의해 생성된 제어 정보에 기초하여 외부 기기(2000)를 제어하는 방법의 흐름도이다.
도 3은 본 발명의 다른 실시예에 따른 디바이스(1000)가 서버(3000)에 의해 생성된 제어 정보에 기초하여 외부 기기(2000)를 제어하는 방법의 흐름도이다.
도 4는 본 발명의 일 실시예에 따른 디바이스(1000)가 서버(3000)로부터 수신되는 사용자 의도 정보에 기초하여 제어 명령을 생성하고 외부 기기(2000)를 제어하는 방법의 흐름도이다.
도 5는 본 발명의 일 실시예에 따른 디바이스(1000)가 사용자 입력 정보에 기초하여 사용자의 의도를 직접 판단하고, 외부 기기(2000)를 제어하는 방법의 흐름도이다.
도 6은 본 발명의 일 실시예에 따른 외부 기기(2000)의 제어를 위한 디바이스(1000)의 동작 테이블의 일례를 도시한 도면이다.
도 7은 본 발명의 일 실시예에 따른 외부 기기 제어 시스템에서, 디바이스(1000)에 입력된 사용자 입력 정보에 따라 외부 기기(2000)가 제어되는 일례를 도시한 도면이다.
도 8은 본 발명의 다른 실시예에 따른 외부 기기 제어 시스템에서, 디바이스(1000)에 입력된 사용자 입력 정보에 따라 외부 기기(2000)가 제어되는 일례를 도시한 도면이다.
도 9는 본 발명의 또 다른 실시예에 따른 외부 기기 제어 시스템에서, 디바이스(1000)에 입력된 사용자 입력 정보에 따라 외부 기기(2000)가 제어되는 일례를 도시한 도면이다.
도 10은 본 발명의 일 실시예에 따른 디바이스(1000)의 블록도이다.
도 11은 본 발명의 일 실시예에 따른 상황 정보 획득부(1400)의 블록도이다.
도 12는 본 발명의 다른 실시예에 따른 디바이스(1000)의 블록도이다.
도 13은 본 발명의 일 실시예에 따른 서버(3000)의 블록도이다.
아래에서는 첨부한 도면을 참조하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 본 발명의 실시예를 상세히 설명한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예에 한정되지 않는다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.
명세서 전체에서, 어떤 부분이 다른 부분과 "연결"되어 있다고 할 때, 이는 "직접적으로 연결"되어 있는 경우뿐 아니라, 그 중간에 다른 소자를 사이에 두고 "전기적으로 연결"되어 있는 경우도 포함한다. 또한 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미한다.
이하 첨부된 도면을 참고하여 본 발명을 상세히 설명하기로 한다.
도 1은 본 발명의 일 실시예에 따른 디바이스를 통한 외부 기기 제어 시스템의 전체 개요도이다.
도 1에 도시된 바와 같이, 본 발명의 일 실시예에 따른 외부 기기 제어 시스템은 디바이스(1000), 디바이스(1000)에 연결된 적어도 하나의 외부 기기(2000), 서버(3000) 및 네트워크(4000)를 포함한다.
도 1을 참조하면, 디바이스(1000)는 사용자 입력에 기초하여 사용자 입력 정보를 생성하고, 사용자의 의도에 따라 외부 기기(2000)가 제어될 수 있도록, 사용자 입력 정보, 외부 기기(2000)에 관한 기기 정보, 및 상황 정보를 서버(3000)에게 제공할 수 있다.
디바이스(1000)는 사용자의 텍스트 입력 및 음성 입력을 수신하고, 수신된 입력에 기초하여 사용자 입력 정보를 생성할 수 있으며, 생성된 입력 정보를 서버(3000)에게 제공할 수 있다. 또한, 디바이스(1000)는 디바이스(1000)에 연결 가능한 외부 기기(2000)를 확인하고, 외부 기기(2000)에 관한 기기 정보를 획득하여 서버(3000)에게 제공할 수 있다. 또한, 디바이스(1000)는 디바이스(1000) 또는 외부 기기(2000)를 통하여 상황 정보를 획득할 수 있으며, 획득된 상황 정보를 서버(3000)에게 제공할 수 있다. 디바이스(1000)는 후술할 제어 정보에 기초하여 상황 정보를 획득할 수도 있으나, 이에 제한되지 않는다.
또한, 서버(3000)는 사용자 입력 정보에 기초하여 사용자의 의도를 분석할 수 있으며, 사용자의 의도에 따라 디바이스(1000)가 동작하고 디바이스(1000)에 의해 외부 기기가 제어될 수 있도록 제어 정보를 생성하여, 디바이스(1000)에게 제공할 수 있다. 서버(3000)는 사용자 입력 정보를 해석하여 사용자의 의도를 판단할 수 있으며, 사용자의 의도가 만족되도록 외부 기기(2000)의 제어를 위한 조건을 결정할 수 있다. 또한, 서버(3000)는, 결정된 조건의 만족 여부를 확인하고 디바이스(1000) 및 외부 기기(2000)의 동작을 제어하기 위한 제어 정보를 생성할 수 있다.
또한, 디바이스(1000)는 서버(3000)로부터 제어 정보를 수신하고, 제어 정보에 기초하여 외부 기기(2000) 중 일부에게 제어 명령을 전송할 수 있다.
디바이스(1000)는 서버(3000)와 정보를 송수신하고 외부 기기(2000)에게 제어 명령을 전송할 수 있는 장치로서, 예를 들어, 스마트폰, 휴대폰, PDA(personal digital assistant), 랩톱, 미디어 플레이어, GPS(global positioning system) 장치, 랩톱, 및 기타 모바일 또는 비모바일 컴퓨팅 장치일 수 있으나, 이에 제한되지 않는다.
또한, 외부 기기(2000)는 디바이스(1000)와 연결 가능하며 디바이스(1000)에 의해 제어되거나, 디바이스(1000)에서 제공되는 기능의 적어도 일부를 공유할 수 있는 기기일 수 있다. 외부 기기(2000)는 어플리케이션을 독립적으로(stand-alone) 실행할 수 없는 기기일 수 있으나 이에 제한되지 않는다. 또한, 외부 기기(2000)는 입력 장치, 출력 장치, 제어 장치 등을 포함할 수 있으며, 예를 들어, 스마트 TV, 에어컨 등의 가전 기기, 감시 카메라, 녹음 장치, 모바일 폰, PC, 베개 진동 장치, 자동차, 네비게이션 장치, 마이크(microphone), 스피커, 페달, 조이스틱, 악기(예컨대, 피아노, 오르간, 전자 키보드, 기타, 바이올린, 첼로 등), 게임 조작 장치, 인형, 의료 기구, 운동 기구, 카메라, 센서 등을 포함할 수 있다.
또한, 서버(3000)는 디바이스(1000)가 사용자의 의도에 맞게 외부 기기(2000)를 제어하도록 하기 위한 정보를 제공하는 서비스 제공 서버일 수 있으나, 이에 제한되지 않는다.
서버(3000)는 클라우드 서버일 수도 있으며, 예를 들어, 사용자의 PC일 수 있다. 또한, 서버(3000)가 클라우드 서버인 경우에, 서버(3000)는 소정의 인텔리젼스 엔진을 포함할 수 있으며, 서버(3000)는 인텔리젼스 엔진을 통하여 사용자의 의도를 해석하고, 외부 기기(2000)를 제어하기 위한 정보를 디바이스(1000)에게 제공할 수 있다. 또한, 서버(3000)가 클라이언트 서버인 경우에, 서버(3000)는 별도의 서비스 제공 서버(예를 들어, 날씨 제공 서버, 교통 정보 제공 서버 등)로부터 소정의 정보를 수신할 수 있다.
또한, 네트워크(4000)는 근거리 통신망(Local Area Network; LAN), 광역 통신망(Wide Area Network; WAN) 또는 부가가치 통신망(Value Added Network; VAN) 등과 같은 유선 네트워크나 이동 통신망(mobile radio communication network), 근접 통신망(Near Field Communication network) 또는 위성 통신망 등과 같은 무선 네트워크로 구현될 수 있다. 또한, 도 1에 도시된 각 네트워크 구성 주체가 서로 원활하게 통신을 할 수 있도록 하는 포괄적인 의미의 데이터 통신망이며, 유선 인터넷, 무선 인터넷 및 모바일 무선 통신망을 포함한다.
도 2는 본 발명의 일 실시예에 따른 디바이스(1000)가 서버(3000)에 의해 생성된 제어 정보에 기초하여 외부 기기(2000)를 제어하는 방법의 흐름도이다.
단계 S200에서 디바이스(1000)는 디바이스(1000)에 의해 제어 될 수 있는 외부 기기(2000)를 확인한다. 디바이스(1000)는 디바이스(1000)에 연결 가능한 외부 기기(2000) 중에서 디바이스(1000)에 의해 제어 가능한 외부 기기(2000)를 확인할 수 있다. 제어 가능한 외부 기기(2000)는, 디바이스(1000)와 연결되었거나 연결될 수 있는 외부 기기로서, 본 발명의 일 실시예에 따른 제어 서비스를 이용할 수 있는 소정의 애플리케이션이 설치될 수 있는 외부 기기일 수 있다. 만약, 제어 가능한 외부 기기(2000)에 상기 애플리케이션이 설치되어 있지 않은 경우에는, 디바이스(1000)는 외부 기기(2000)와 통신 연결 및 페어링을 수행하고, 외부 기기(2000)에게 상기 애플리케이션 또는 상기 애플리케이션을 다운로드할 수 있는 링크 정보를 제공할 수 있다.
외부 기기(2000)는, 예를 들어, 스마트 TV, 에어컨 등의 가전 기기, 감시 카메라, 녹음 장치, 모바일 폰, PC, 베개 진동 장치, 자동차, 네비게이션 장치를 포함할 수 있으나, 이에 제한되지 않는다. 디바이스(1000)와 외부 기기는, 근거리 통신망, 광역 통신망 또는 부가가치 통신망 등과 같은 유선 네트워크나 이동 통신망, 근접 통신망 또는 위성 통신망 등과 같은 무선 네트워크를 통하여 서로 연결 가능하다. 또한, 디바이스(1000)는, 예를 들어, 댁 내의 홈 게이트웨이(미도시)를 통하여 외부 기기(2000)와 연결될 수도 있다.
또한, 디바이스(1000)는 확인된 외부 기기(2000)로부터 외부 기기(2000)에 관한 기기 정보를 수신할 수 있으나, 이에 제한되지 않는다. 디바이스(1000)는 별도의 서버(미도시)로부터 외부 기기(2000)에 관한 기기 정보를 수신할 수도 있다. 예를 들어, 댁 내의 홈 게이트웨이(미도시)를 통하여 디바이스(1000)가 외부 기기(2000)와 연결되는 경우에는, 디바이스(1000)는 홈 게이트웨이(미도시)에게 외부 기기(2000)에 관한 기기 정보를 요청할 수도 있다. 또한, 외부 기기(2000)에 관한 기기 정보는, 외부 기기(2000)의 식별 값, MAC 정보, SSID, 외부 기기(2000)의 종류, 외부 기기(2000)에 의해 제공되는 기능(capability), 카테고리 및 외부 기기(2000)의 제어에 이용되는 명령어 중 적어도 하나에 관한 정보를 포함할 수 있다. 외부 기기(2000)에 의해 제공되는 기능(capability)은, 예를 들어, 음성 출력 기능, 비디오 출력 기능, 음성 녹음 기능, 영상 촬영 기능, 습도 감지 기능 등을 포함할 수 있으나, 이에 제한되지 않는다.
한편, 디바이스(1000)는 후술할 단계 S202에서 사용자 입력 정보가 생성되거나, 후술할 단계 S204에서 사용자의 의도가 판단된 이후에, 사용자 입력 정보 또는 사용자의 의도에 기초하여 디바이스(1000)가 이용할 외부 기기(2000)를 검색할 수도 있다.
단계 S202에서 디바이스(1000)는 사용자 입력 정보를 서버(3000)에게 제공한다. 디바이스(1000)는 사용자 입력에 기초하여 사용자 입력 정보를 생성할 수 있으며, 생성된 입력 정보를 서버(3000)에게 제공할 수 있다. 또한, 사용자의 입력 정보는, 사용자에 의해 입력된 문자, 사용자의 음성, 사용자의 표정, 사용자의 동작 및 사용자의 신체 상태 중 적어도 하나에 관한 정보일 수 있다.
사용자가 디바이스(1000)에 텍스트를 입력하면, 디바이스(1000)는 사용자에 의해 입력된 텍스트 데이터를 사용자 입력 정보로서 서버(3000)에게 제공할 수 있다. 예를 들어, 사용자가 “내일 비가 오지 않으면, 7:00에 깨워줘.”라는 텍스트를 디바이스(1000)에 입력하면, 디바이스(1000)는 입력된 텍스트 데이터를 사용자 입력 정보로서 서버(3000)에게 제공할 수 있다. 또한, 사용자가 디바이스(1000)에 음성을 입력하면, 디바이스(1000)는 입력된 음성 데이터를 사용자 입력 정보로서 서버(3000)에게 제공할 수 있다. 또한, 디바이스(1000)는 입력된 음성 데이터를 텍스트 데이터로 변환하고, 변환된 텍스트 데이터를 사용자 입력 정보로서 서버(3000)에게 제공할 수도 있다. 또한, 예를 들어, 디바이스(1000)는 디바이스(1000)에 저장된 이메일 또는 문자 메시지를 이용하여 사용자 입력 정보를 생성할 수도 있다.
또한, 디바이스(1000)는 사용자 입력 정보를 파싱(parsing)하고, 파싱된 데이터를 서버(3000)에게 제공할 수 있다. 디바이스(1000)는 사용자 입력 정보가 텍스트 데이터인 경우에, 텍스트 데이터를 파싱할 수 있다. 또한, 디바이스(1000)는 사용자 입력 정보가 음성 데이터인 경우에, 음성 데이터를 텍스트 데이터로 변환하고 변환된 텍스트 데이터를 파싱할 수 있다. 그러나, 이에 제한되지 않는다. 디바이스(1000)는 음성 데이터의 파일을 서버(3000)에게 제공하고, 서버(3000)가 수신된 음성 데이터 파일을 텍스트로 변환하여 파싱할 수도 있다.
단계 S204에서 서버(3000)는 사용자 입력 정보에 기초하여 사용자의 의도를 판단한다. 서버(3000)는 사용자 입력 정보를 해석함으로써, 사용자의 의도를 판단할 수 있다. 서버(3000)는 사용자 입력 정보로서 수신된 텍스트 데이터를 해석하기 위하여, 다양한 종류의 자연어 해석 기법을 이용할 수 있다. 예를 들어, 서버(3000)는 형태소 분석, 구문 분석, 개체명 인식(Named Entity Recognition) 등의 자연어 처리 방식을 이용하여 텍스트 데이터를 해석할 수 있다. 또한, 서버(3000)는, 예를 들어, 온톨로지 기반의 추론 방식 및 확률 기반의 추론 방식을 이용하여 사용자 입력 정보로부터 사용자의 의도를 판단할 수 있다. 만약, 서버(3000)가 사용자 입력 정보로서 음성 데이터를 수신하였다면, 서버(3000)는 수신된 음성 데이터를 텍스트 데이터로 변환하고, 변환된 텍스트 데이터를 해석할 수 있다. 또한, 서버(3000)는 사용자 입력 정보를 해석하여 사용자 의도 정보를 생성할 수 있다. 예를 들어, 사용자 입력 정보가 “내일 비가 오지 않으면, 7시에 깨워줘.”인 경우에, 서버(3000)는 “내일, 7:00”라는 시간 정보, “비가 오지 않으면”이라는 상황 정보에 관련된 정보 및 “깨워 줘”라는 동작 정보를 포함하는 사용자 의도 정보를 생성할 수 있다. 상황 정보에 관련된 정보는, 디바이스(1000) 또는 서버(3000)가 사용자의 의도에 관한 상황 정보를 획득하는데 이용되는 정보일 수 있다.
또한, 서버(3000)는 피드백을 통한 대화형 인터페이스를 통하여 사용자의 의도를 판단할 수도 있다. 예를 들어, 디바이스(1000)로부터 수신된 사용자 입력 정보에 기초하여 사용자의 의도를 판단하기 힘든 경우에 서버(3000)는 디바이스(1000)에게 추가적인 사용자 입력 정보를 요청할 수 있다. 이 경우, 서버(3000)는 디바이스(1000)에게 어떠한 정보가 추가적으로 필요한 지를 알릴 수 있다. 또한, 서버(3000)는 디바이스(1000)로부터 추가로 수신된 사용자 입력 정보를 이용하여 사용자의 의도를 판단할 수 있다. 예를 들어, 디바이스(1000)로부터 “아기가 깨면 통화 연결을 해줘”라는 사용자 입력 정보가 수신되면, 서버(3000)는 아기가 깬 시점에 관한 정보를 추가로 제공해 줄 것을 디바이스(1000)에게 요청할 수 있다. 또한, 디바이스(1000)는 “내일 오전에 아기가 깨면 통화 연결을 해 줘”라는 사용자 입력 정보가 서버(3000)에게 추가로 제공할 수 있으며, 서버(3000)는 추가로 수신된 사용자 입력 정보에 기초하여 사용자의 의도를 판단할 수가 있다.
단계 S206에서 디바이스(1000)는 확인된 외부 기기(2000)에 관한 기기 정보를 서버(3000)에게 제공한다. 디바이스(1000)는 외부 기기(2000)의 식별 값, MAC 정보, SSID, 외부 기기(2000)의 종류, 외부 기기(2000)에 의해 제공되는 기능(capability), 카테고리 및 외부 기기(2000)의 제어에 이용되는 명령어 중 적어도 하나에 관한 정보를 서버(3000)에게 제공할 수 있다. 또한, 단계 S206에서 디바이스(1000)는 디바이스(1000)의 기기 정보를 서버(3000)에게 제공할 수 있다. 디바이스(1000)의 기기 정보는, 예를 들어, 디바이스(1000)의 식별 값, MAC 정보, SSID, 디바이스(1000)의 종류, 디바이스(1000)에 의해 제공되는 기능(capability), 카테고리 및 디바이스(1000)의 제어에 이용되는 명령어 중 적어도 하나에 관한 정보를 포함할 수 있다.
단계 S208에서 서버(3000)는 사용자의 의도에 기초하여 외부 기기(2000)를 제어하기 위한 조건을 결정한다. 외부 기기(2000)를 제어하기 위한 조건은, 사용자의 의도에 따라 사용자가 목적하는 동작이 수행되기 위한 조건으로서, 예를 들어, 사용자 입력 정보가 “내일 7:00에 비가 오지 않으면 깨워줘”인 경우에, 사용자가 목적하는 동작인 “깨워줘”를 위한 “내일 7:00에 비가 오지 않으면”이 외부 기기(2000)를 제어하기 위한 조건일 수 있다. 서버(3000)는 사용자 의도 정보에 기초하여, 외부 기기(2000) 또는 디바이스(1000)의 동작을 제어하기 위하여 만족시켜야 하는 조건을 결정할 수 있다. 예를 들어, 사용자 의도 정보가 “내일, 7:00”라는 시간 정보, “비가 오지 않으면”이라는 상황 정보에 관련된 정보를 포함하는 경우에, 서버(3000)는 “내일”이라는 시간 조건, “맑음, 흐림”이라는 날씨 조건, 및 “디바이스의 위치”라는 장소 조건을 외부 기기(2000)의 제어를 위한 조건으로 결정할 수 있다. 또한, 결정된 조건의 만족 여부를 확인하기 위하여 소정의 외부 기기(2000)가 제어될 수도 있다.
단계 S210에서 서버(3000)는 사용자의 의도와 관련된 외부 기기(2000)를 선택한다. 서버(3000)는 사용자 의도 정보에 포함된 동작 정보 및 디바이스(1000)로부터 수신된 기기 정보에 기초하여, 사용자의 의도와 관련된 외부 기기(2000)를 선택할 수 있다. 예를 들어, 사용자 의도 정보에 “깨워 줘”라는 동작 정보가 포함되는 경우에, 서버(3000)는 사용자를 깨우기 위하여 필요한 외부 기기(2000)를 디바이스(1000)로부터 수신된 기기 정보를 이용하여 선택할 수 있다. 서버(3000)는 사용자를 깨우기 위한 외부 기기(2000)로서, 예를 들어, 베개를 진동시키는 장치 및 조명 장치를 선택할 수 있다.
단계 S212에서 서버(3000)는 사용자의 의도를 만족시키기 위한 제어 정보를 생성한다. 제어 정보는, 서버(3000)에 의해 결정된 조건이 만족되었는지를 확인하기 위한 정보 및, 서버(3000)에 의해 결정된 조건이 만족됨에 따라 디바이스(1000) 및 선택된 외부 기기 중 적어도 하나의 동작을 제어하기 위한 정보를 포함할 수 있다. 또한, 제어 정보는, 디바이스(1000) 또는 외부 기기(2000)의 동작을 실행시키기 위한 제어 명령, 및 제어 명령을 생성하기 위하여 필요한 정보를 포함할 수 있다.
구체적으로, 서버(3000)는 서버(3000)에 의해 결정된 조건 및 디바이스(1000)로부터 수신된 기기 정보에 기초하여, 서버(3000)에 의해 결정된 조건이 만족됨을 확인하기 위한 제어 정보를 생성할 수 있다. 예를 들어, 서버(3000)에 의해 결정된 조건이 “내일”이라는 시간 조건, “맑음, 흐림”이라는 날씨 조건, 및 “디바이스의 위치”라는 장소 조건을 포함하는 경우에, 서버(3000)는 디바이스(1000)가 디바이스(1000) 또는 외부 기기(2000)를 통하여 날짜, 디바이스(1000)의 위치 및 날씨를 확인함으로써 서버(3000)에 의해 결정된 조건이 만족되는지를 확인할 수 있도록 제어 정보를 생성할 수 있다. 이 경우, 제어 정보는, 날짜 및 날씨를 확인하도록 하는 제어 명령, 습도 센서로부터 습도 정보를 획득하기 위한 제어 명령 및 디바이스(1000)의 위치를 확인하기 위한 제어 명령을 포함할 수 있으며, 제어 정보에 포함된 제어 명령은 소정의 순서로 배열될 수 있다.
그러나, 이에 제한되지 않으며, 제어 정보는 별도의 제어 명령을 포함하지 않으며, “내일 디바이스의 위치에서 날씨가 맑거나 흐린지를 판단하라”와 같이, 제어 명령 생성을 위하여 참고될 수 있는 정보일 수도 있다.
또한, 서버(3000)는 서버(3000)에 의해 결정된 조건이 만족될 경우에 디바이스(1000) 또는 외부 기기(2000)의 동작을 실행시키기 위한 제어 정보를 생성할 수 있다. 서버(3000)는 사용자 의도 정보에 포함된 동작 정보 및 디바이스(1000)로부터 수신된 기기 정보에 기초하여, 디바이스(1000) 또는 외부 기기(2000)의 동작을 실행시키기 위한 제어 정보를 생성할 수 있다. 예를 들어, 사용자 의도 정보에 “깨워 줘”라는 동작 정보가 포함된 경우에, 서버(3000)는 디바이스(1000)에서 알람 정보가 출력되도록 하는 제어 명령, 조명 장치의 전원이 켜지도록 하는 제어 명령, 베개 진동 장치에서 진동이 발생되도록 하는 제어 명령을 생성할 수 있다.
제어 정보는, 디바이스(1000) 및 외부 기기(2000) 중 적어도 하나의 동작을 제어하기 위한 복수의 제어 명령을 포함할 수 있으며, 복수의 제어 명령은 소정의 순서로 디바이스(1000) 및 외부 기기(2000) 중 적어도 하나에 의해 실행될 수 있다.
또한, 단계 S214에서 서버(3000)는 생성된 제어 정보를 디바이스(1000)에게 제공한다.
단계 S216에서 디바이스(1000)는 외부 기기(2000)를 제어하기 위한 조건이 만족되었는지를 확인한다. 디바이스(1000)는 서버(3000)로부터 수신된 제어 정보에 기초하여, 서버(3000)에 의해 결정된 조건이 만족되는지를 확인할 수 있다. 만약, 서버(3000)로부터 수신된 제어 정보에, 디바이스(1000)는 외부 기기(2000)를 제어하기 위한 조건이 만족되었는지를 확인하기 위한 제어 명령이 포함된 경우에, 디바이스(1000)는 제어 정보에 포함된 제어 명령에 따라 동작함으로써, 조건이 만족되었는지를 확인할 수 있다. 또한, 서버(3000)로부터 수신된 제어 정보에 외부 기기(2000)를 제어하기 위한 조건이 만족되었는지를 확인하기 위한 제어 명령이 포함되지 않은 경우에, 디바이스(1000)는 제어 정보에 기초하여 제어 명령을 생성하고, 생성된 제어 명령에 따라, 조건의 만족 여부를 확인할 수 있다.
단계 S218에서 디바이스(1000)는 제어 정보에 기초하여 외부 기기(2000)에게 제어 명령을 제공한다. 디바이스(1000)는 외부 기기(2000)를 제어하기 위한 조건이 만족됨에 따라 사용자 의도에 부합되도록 외부 기기(2000)에게 제어 명령을 전송할 수 있다. 디바이스(1000)는 외부 기기(2000)를 제어하기 위한 조건이 만족됨에 따라, 외부 기기(2000)의 동작을 실행시키기 위한 제어 명령을 소정의 순서대로 외부 기기(2000)에게 전송할 수 있다. 또한, 디바이스(1000)는 제어 정보에 기초하여 소정의 동작을 수행할 수도 있다.
단계 S220에서 다른 외부기기(미도시)가 추가적으로 디바이스(1000)에 연결되며, 단계 S224에서 디바이스(1000)는 추가된 외부 기기(미도시)의 기기 정보를 서버(3000)에게 제공한다.
단계 S226에서 서버(3000)는 추가된 외부 기기(미도시)에 대한 제어 명령을 포함하는 제어 정보를 생성한다. 서버(3000)는 추가된 외부 기기(미도시)의 기기 정보에 기초하여, 사용자 의도를 만족시키기 위한 제어 정보를 변경할 수 있다.
단계 S228에서 서버(3000)는 변경된 제어 정보를 디바이스(1000)에게 제공한다. 이에 따라, 디바이스(1000)는 변경된 제어 정보에 기초하여, 디바이스(1000) 또는 외부 기기(2000)의 동작을 제어할 수 있다.
도 3은 본 발명의 다른 실시예에 따른 디바이스(1000)가 서버(3000)에 의해 생성된 제어 정보에 기초하여 외부 기기(2000)를 제어하는 방법의 흐름도이다. 도 3에서는 외부기기 제어를 위한 조건이 만족되었는지를 서버(3000)가 확인할 수 있다.
단계 S300에서 디바이스(1000)는 디바이스(1000)에 의해 제어 될 수 있는 외부 기기(2000)를 확인한다. 디바이스(1000)는 디바이스(1000)에 연결 가능한 외부 기기(2000) 중에서 디바이스(1000)에 의해 제어 가능한 외부 기기(2000)를 확인할 수 있다. 디바이스(1000)와 외부 기기는, 근거리 통신망, 광역 통신망 또는 부가가치 통신망 등과 같은 유선 네트워크나 이동 통신망, 근접 통신망 또는 위성 통신망 등과 같은 무선 네트워크를 통하여 서로 연결 가능하다. 또한, 디바이스(1000)는, 예를 들어, 댁 내의 홈 게이트웨이(미도시)를 통하여 외부 기기(2000)와 연결될 수도 있다.
또한, 디바이스(1000)는 확인된 외부 기기(2000)로부터 외부 기기(2000)에 관한 기기 정보를 수신할 수 있으나, 이에 제한되지 않는다. 디바이스(1000)는 별도의 서버(미도시)로부터 외부 기기(2000)에 관한 기기 정보를 수신할 수도 있다. 예를 들어, 댁 내의 홈 게이트웨이(미도시)를 통하여 디바이스(1000)가 외부 기기(2000)와 연결되는 경우에는, 디바이스(1000)는 홈 게이트웨이(미도시)에게 외부 기기(2000)에 관한 기기 정보를 요청할 수도 있다.
단계 S302에서 디바이스(1000)는 사용자 입력 정보 및 기기 정보를 서버(3000)에게 제공한다. 디바이스(1000)는 사용자 입력에 기초하여 사용자 입력 정보를 생성할 수 있으며, 생성된 입력 정보를 서버(3000)에게 제공할 수 있다. 사용자가 디바이스(1000)에 텍스트를 입력하면, 디바이스(1000)는 사용자에 의해 입력된 텍스트 데이터를 사용자 입력 정보로서 서버(3000)에게 제공할 수 있다. 예를 들어, 사용자가 “내일 비가 오지 않으면, 7:00에 깨워줘.”라는 텍스트를 디바이스(1000)에 입력하면, 디바이스(1000)는 입력된 텍스트 데이터를 사용자 입력 정보로서 서버(3000)에게 제공할 수 있다. 또한, 사용자가 디바이스(1000)에 음성을 입력하면, 디바이스(1000)는 입력된 음성 데이터를 사용자 입력 정보로서 서버(3000)에게 제공할 수 있다. 또한, 디바이스(1000)는 입력된 음성 데이터를 텍스트 데이터로 변환하고, 변환된 텍스트 데이터를 사용자 입력 정보로서 서버(3000)에게 제공할 수도 있다. 또한, 예를 들어, 디바이스(1000)는 디바이스(1000)에 저장된 이메일 또는 문자 메시지를 이용하여 사용자 입력 정보를 생성할 수도 있다.
또한, 디바이스(1000)는 외부 기기(2000)의 식별 값, 외부 기기(2000)의 종류, 및 외부 기기(2000)의 제어에 이용되는 명령어 중 적어도 하나에 관한 정보를 서버(3000)에게 제공할 수 있다.
단계 S304에서 서버(3000)는 사용자 입력 정보에 기초하여 사용자의 의도를 판단한다. 서버(3000)는 사용자 입력 정보를 해석함으로써, 사용자의 의도를 판단할 수 있다. 서버(3000)는 사용자 입력 정보로서 수신된 텍스트 데이터를 해석하기 위하여, 다양한 종류의 자연어 해석 기법을 이용할 수 있다. 예를 들어, 서버(3000)는 형태소 분석, 구문 분석, 개체명 인식(Named Entity Recognition) 등의 자연어 처리 방식을 이용하여 텍스트 데이터를 해석할 수 있다. 만약, 서버(3000)가 사용자 입력 정보로서 음성 데이터를 수신하였다면, 서버(3000)는 수신된 음성 데이터를 텍스트 데이터로 변환하고, 변환된 텍스트 데이터를 해석할 수 있다. 또한, 사용자는 사용자 입력 정보를 해석하여 사용자 의도 정보를 생성할 수 있다. 예를 들어, 사용자 입력 정보가 “내일 비가 오지 않으면, 7시에 깨워줘.”인 경우에, 서버(3000)는 “내일, 7:00”라는 시간 정보, “비가 오지 않으면”이라는 상황 정보에 관련된 정보 및 “깨워 줘”라는 동작 정보를 포함하는 사용자 의도 정보를 생성할 수 있다.
단계 S306에서 서버(3000)는 사용자의 의도에 기초하여 외부 기기(2000)를 제어하기 위한 조건을 결정한다. 서버(3000)는 사용자 의도 정보에 기초하여, 외부 기기(2000) 또는 디바이스(1000)의 동작을 제어하기 위하여 만족시켜야 하는 조건을 결정할 수 있다. 예를 들어, 사용자 의도 정보가 “내일, 7:00”라는 시간 정보, “비가 오지 않으면”이라는 상황 정보에 관련된 정보를 포함하는 경우에, 서버(3000)는 “내일”이라는 시간 조건, “맑음, 흐림”이라는 날씨 조건, 및 “디바이스의 위치”라는 장소 조건을 외부 기기(2000)의 제어를 위한 조건으로 결정할 수 있다.
단계 S308에서 서버(3000)는 디바이스(1000)에게 상황 정보를 요청한다. 서버(3000)는 상황 정보에 관련된 정보에 기초하여, 디바이스(1000)에 의해 획득될 수 있는 상황 정보 및 외부 기기(2000)에 의해 획득될 수 있는 상황 정보를 디바이스(1000)에게 요청할 수 있다. 또한, 서버(3000)는 결정된 조건이 만족되는지를 확인하는데 필요한 상황 정보를 디바이스(1000)에게 요청할 수 있다. 예를 들어, 시간 조건, 날씨 조건, 및 장소 조건이 결정된 경우에, 서버(3000)는 정해진 시간에 정해진 장소에서의 날씨에 관한 정보를 상황 정보로서 서버(3000)에게 제공해 줄 것을 디바이스(1000)에게 요청할 수 있다. 서버(3000)는 상황 정보의 종류를 디바이스(1000)에게 제공할 수 있으나 이에 제한되지 않는다. 서버(3000)는 디바이스(1000) 및 외부 기기(2000)가 상황 정보를 획득하도록 하기 위한 제어 명령을 디바이스(1000)에게 제공할 수도 있다.
단계 S310에서 디바이스(1000)는 상황 정보를 획득한다. 디바이스(1000)는 상황 정보의 요청에 응답하여 상황 정보를 획득할 수 있다. 디바이스(1000)는 외부 기기(2000) 및 별도의 서버(미도시)로부터 다양한 종류의 상황 정보를 획득할 수 있다. 예를 들어, 디바이스(1000)는 위치 정보 제공 서버(미도시)로부터 디바이스(1000)의 위치 정보를 획득하고, 날씨 서버(미도시)로부터 디바이스(1000) 주변의 날씨 정보를 획득하며, 교통 정보 제공 서버(미도시)로부터 소정의 경로에 대한 교통 정보를 획득할 수 있다. 또한, 예를 들어, 디바이스(1000)는 습도 센서(미도시)로부터 습도 정보를 획득하고, 촬영 장치(미도시)로부터 촬영 이미지를 획득하고, 녹음 장치(미도시)로부터 녹음된 음성 데이터를 획득할 수 있다 . 또한, 디바이스(1000)는 디바이스(1000)에 포함된 장치를 통하여 상황 정보를 획득할 수도 있다. 예를 들어, 디바이스(1000)는 디바이스(1000)에 포함된 온도 센서, 습도 센서, 지자기 센서, 중력 센서, 모션 센서, 자이로 센서, 카메라, 녹음 장치를 통하여 다양한 종류의 상황 정보를 획득할 수 있다. 또한, 디바이스(1000)는 사용자의 신체 상태에 관한 상황 정보를 획득할 수도 있다. 사용자의 신체 상태에 관한 상황 정보는, 예를 들어, 사용자의 심박수, 심전도, 호흡, 맥박, 운동량에 관한 정보일 수 있으며, 디바이스(1000) 또는 디바이스(1000)와 연결된 외부 기기로부터 획득될 수 있다. 또한, 디바이스(1000)는 네트워크 상태, 외부 디바이스(1000)의 로그인 상태, 디바이스(1000) 또는 외부 디바이스(1000)에 설치된 애플리케이션 및 애플리케이션을 이용하는 사용자에 관한 상황 정보를 획득할 수도 있다. 그러나, 이에 제한되지 않으며, 디바이스(1000)는 다양한 종류의 정보를 상황 정보로 획득할 수 있다.
단계 S312에서 디바이스(1000)는 획득된 상황 정보를 서버(3000)에게 제공한다. 디바이스(1000)는 기 설정된 주기로 상황 정보를 획득하고, 획득된 상황 정보를 실시간으로 서버(3000)에게 제공할 수 있으나, 이에 제한되지 않는다. 또한, 서버(3000)는 다른 디바이스(미도시) 및 다른 서버(미도시)로부터 상황 정보를 획득할 수도 있다.
단계 S314에서 서버(3000)는 외부 기기(2000)를 제어하기 위한 조건이 만족되었는지를 확인한다. 서버(3000)는 상황 정보에 기초하여, 서버(3000)에 의해 결정된 조건이 만족되는지를 확인할 수 있다. 서버(3000)는 디바이스(1000), 다른 디바이스(미도시), 다른 서버(미도시) 중 적어도 하나를 통하여 획득된 상황 정보에 기초하여, 상기 조건이 만족되었는지를 확인할 수 있다.
단계 S316에서 서버(3000)는 사용자의 의도에 관련된 외부 기기(2000)를 선택한다. 서버(3000)는 사용자의 의도를 만족시키기 위한 동작을 확인할 수 있으며, 확인된 동작을 수행하기 위한 외부 기기(2000)를 선택할 수 있다. 예를 들어, 사용자 의도 정보에 “깨워 줘”라는 동작 정보가 포함된 경우에, 서버(3000)는 조명 장치 및 베개 진동 장치를 선택할 수 있다.
단계 S318에서 서버(3000)는 선택된 외부 기기(2000)에 관한 제어 정보를 생성한다. 서버(3000)에 의해 결정된 조건이 만족되면, 서버(3000)는 디바이스(1000) 또는 외부 기기(2000)의 동작을 실행시키기 위한 제어 정보를 생성할 수 있다. 서버(3000)는 사용자 의도 정보에 포함된 동작 정보 및 디바이스(1000)로부터 수신된 기기 정보에 기초하여, 디바이스(1000) 또는 외부 기기(2000)의 동작을 실행시키기 위한 제어 정보를 생성할 수 있다. 예를 들어, 사용자 의도 정보에 “깨워 줘”라는 동작 정보가 포함된 경우에, 서버(3000)는 디바이스(1000)에서 알람 정보가 출력되도록 하는 제어 명령, 조명 장치의 전원이 켜지도록 하는 제어 명령, 베개 진동 장치에서 진동이 발생되도록 하는 제어 명령을 생성할 수 있다. 또한, 서버(3000)에 의해 생성된 제어 정보에 포함된 제어 명령들은 소정의 순서로 배열될 수 있다.
또한, 단계 S320에서 서버(3000)는 생성된 제어 정보를 디바이스(1000)에게 제공한다.
단계 S322에서 디바이스(1000)는 제어 정보에 기초하여 외부 기기(2000)에게 제어 명령을 전송한다. 디바이스(1000)는 외부 기기(2000)의 동작을 실행시키기 위한 제어 명령을 외부 기기(2000)에게 소정의 순서로 전송할 수 있다. 또한, 디바이스(1000)는 제어 정보에 기초하여 소정의 동작을 수행할 수도 있다.
단계 S324에서 다른 외부기기(미도시)가 추가적으로 디바이스(1000)에 연결되며, 단계 S326에서 디바이스(1000)는 추가된 외부 기기(미도시)의 기기 정보를 서버(3000)에게 제공한다.
단계 S328에서 서버(3000)는 추가된 외부 기기(미도시)에 대한 제어 명령을 포함하는 제어 정보를 생성한다. 서버(3000)는 추가된 외부 기기(미도시)의 기기 정보에 기초하여, 사용자 의도를 만족시키기 위한 제어 정보를 변경할 수 있다.
단계 S330에서 서버(3000)는 변경된 제어 정보를 디바이스(1000)에게 제공한다. 이에 따라, 디바이스(1000)는 변경된 제어 정보에 기초하여, 디바이스(1000) 또는 외부 기기(2000)의 동작을 제어할 수 있다.
도 4는 본 발명의 일 실시예에 따른 디바이스(1000)가 서버(3000)로부터 수신되는 사용자 의도 정보에 기초하여 제어 명령을 생성하고 외부 기기(2000)를 제어하는 방법의 흐름도이다. 도 4에서는 디바이스(1000)가 사용자 의도 정보에 기초하여, 외부 기기(2000)를 제어하기 위한 조건을 결정할 수 있다.
단계 S400에서 디바이스(1000)는 제어 가능한 외부 기기(2000)를 확인하며, 단계 S402에서 디바이스(1000)는 사용자 입력 정보를 서버(3000)에게 제공한다. 또한, 단계 S404에서 서버(3000)는 사용자 입력 정보에 기초하여 사용자의 의도를 판단한다. 단계 S400내지 단계 S404는 단계 S200 내지 단계 S204에 대응될 수 있다.
단계 S406에서 서버(3000)는 디바이스(1000)에게 사용자 의도 정보를 제공한다. 예를 들어, 사용자 입력 정보가 “내일 비가 오지 않으면, 7시에 깨워줘.”인 경우에, 서버(3000)는 “내일, 7:00”라는 시간 정보, “비가 오지 않으면”이라는 상황 정보 및 “깨워 줘”라는 동작 정보를 포함하는 사용자 의도 정보를 디바이스(1000)에게 제공할 수 있다
단계 S408에서 디바이스(1000)는 사용자의 의도에 기초하여 외부 기기(2000)를 제어하기 위한 조건을 결정한다. 디바이스(1000)는 사용자 의도 정보에 기초하여, 외부 기기(2000) 또는 디바이스(1000)의 동작을 제어하기 위하여 만족시켜야 하는 조건을 결정할 수 있다. 예를 들어, 사용자 의도 정보가 “내일, 7:00”라는 시간 정보, “비가 오지 않으면”이라는 상황 정보를 포함하는 경우에, 디바이스(1000)는 “내일”이라는 시간 조건, “맑음, 흐림”이라는 날씨 조건, 및 “디바이스의 위치”라는 장소 조건을 외부 기기(2000)의 제어를 위한 조건으로 결정할 수 있다.
단계 S410에서 디바이스(1000)는 상황 정보를 획득한다. 디바이스(1000)는 외부 기기(2000) 및 별도의 서버(미도시)로부터 다양한 종류의 상황 정보를 획득할 수 있다. 예를 들어, 디바이스(1000)는 위치 정보 제공 서버(미도시)로부터 디바이스(1000)의 위치 정보를 획득하고, 날씨 서버(미도시)로부터 디바이스(1000) 주변의 날씨 정보를 획득하며, 교통 정보 제공 서버(미도시)로부터 소정의 경로에 대한 교통 정보를 획득할 수 있다. 또한, 예를 들어, 디바이스(1000)는 습도 센서(미도시)로부터 습도 정보를 획득하고, 촬영 장치(미도시)로부터 촬영 이미지를 획득하고, 녹음 장치(미도시)로부터 녹음된 음성 데이터를 획득할 수 있다. 또한 , 디바이스(1000)는 디바이스(1000)에 포함된 장치를 통하여 상황 정보를 획득할 수도 있다. 예를 들어, 디바이스(1000)는 디바이스(1000)에 포함된 온도 센서, 습도 센서, 지자기 센서, 중력 센서, 모션 센서, 자이로 센서, 카메라, 녹음 장치를 통하여 다양한 종류의 상황 정보를 획득할 수 있다.
단계 S412에서 디바이스(1000)는 외부 기기(2000)에 관한 기기 정보를 획득한다. 디바이스(1000)는 외부 기기(2000)로부터 외부 기기(2000)에 관한 기기 정보를 수신할 수 있으나, 이에 제한되지 않는다. 디바이스(1000)는 별도의 서버(미도시)로부터 외부 기기(2000)에 관한 기기 정보를 수신할 수도 있다. 예를 들어, 댁 내의 홈 게이트웨이(미도시)를 통하여 디바이스(1000)가 외부 기기(2000)와 연결되는 경우에는, 디바이스(1000)는 홈 게이트웨이(미도시)에게 외부 기기(2000)에 관한 기기 정보를 요청할 수도 있다. 또한, 외부 기기(2000)에 관한 기기 정보는, 외부 기기(2000)의 식별 값, 외부 기기(2000)의 종류, 및 외부 기기(2000)의 제어에 이용되는 명령어 중 적어도 하나에 관한 정보를 포함할 수 있다.
단계 S414에서 디바이스(1000)는 사용자의 의도에 관련된 외부 기기(2000)를 선택한다. 디바이스(1000)는 사용자의 의도를 만족시키기 위한 동작을 확인할 수 있으며, 확인된 동작을 수행하기 위한 외부 기기(2000)를 선택할 수 있다.
단계 S416에서 디바이스(1000)는 선택된 외부 기기(2000)에 관한 제어 정보를 생성한다. 디바이스(1000)에 의해 결정된 조건이 만족되면, 디바이스(1000)는 디바이스(1000) 또는 외부 기기(2000)의 동작을 실행시키기 위한 제어 정보를 생성할 수 있다. 디바이스(1000)는 사용자 의도 정보에 포함된 동작 정보, 및 외부 기기(2000)에 관한 기기 정보에 기초하여, 디바이스(1000) 또는 외부 기기(2000)의 동작을 실행시키기 위한 제어 정보를 생성할 수 있다. 제어 정보는, 적어도 하나의 외부 기기(2000) 및 디바이스(1000)에 대한 제어 명령들을 포함할 수 있으며, 제어 명령들은 소정의 순서로 배열될 수 있다.
또한, 단계 S418에서 디바이스(1000)는 생성된 제어 정보에 기초하여, 소정의 제어 명령을 외부 기기(2000)에게 제공한다.
단계 S420에서 다른 외부기기(미도시)가 추가적으로 디바이스(1000)에 연결되며, 단계 S422에서 디바이스(1000)는 추가된 외부 기기(미도시)에 대한 제어 명령을 포함하는 제어 정보를 생성한다. 디바이스(1000)는 추가된 외부 기기(미도시)의 기기 정보에 기초하여, 사용자 의도를 만족시키기 위한 제어 정보를 변경할 수 있다. 이에 따라, 디바이스(1000)는 변경된 제어 정보에 기초하여, 디바이스(1000) 또는 외부 기기(2000)의 동작을 제어할 수 있다.
도 5는 본 발명의 일 실시예에 따른 디바이스(1000)가 사용자 입력 정보에 기초하여 사용자의 의도를 직접 판단하고, 외부 기기(2000)를 제어하는 방법의 흐름도이다.
단계 S500에서 디바이스(1000)는 제어 가능한 외부 기기(2000)를 확인한다.
단계 S502에서 디바이스(1000)는 사용자 입력 정보에 기초하여 사용자의 의도를 판단한다. 디바이스(1000)는 사용자 입력 정보를 해석함으로써, 사용자의 의도를 판단할 수 있다. 디바이스(1000)는 사용자 입력 정보를 해석하기 위하여, 다양한 종류의 자연어 해석 기법을 이용할 수 있다. 예를 들어, 디바이스(1000)는 형태소 분석, 구문 분석, 개체명 인식(Named Entity Recognition) 등의 자연어 처리 방식을 이용하여 텍스트 데이터인 사용자 입력 정보를 해석할 수 있다. 만약, 사용자 입력 정보가 음성 데이터라면, 디바이스(1000)는 음성 데이터를 텍스트 데이터로 변환하고, 변환된 텍스트 데이터를 해석할 수 있다. 또한, 디바이스(1000)는 사용자 입력 정보를 해석하여 사용자 의도 정보를 생성할 수 있다. 예를 들어, 사용자 입력 정보가 “내일 비가 오지 않으면, 7시에 깨워줘.”인 경우에, 디바이스(1000)는 “내일, 7:00”라는 시간 정보, “비가 오지 않으면”이라는 상황 정보 및 “깨워 줘”라는 동작 정보를 포함하는 사용자 의도 정보를 생성할 수 있다.
단계 S504에서 디바이스(1000)는 사용자의 의도에 기초하여 외부 기기(2000)를 제어하기 위한 조건을 결정하고, 단계 S506에서 디바이스(1000)는 상황 정보를 획득한다. 또한, 단계 S508에서 디바이스(1000)는 외부 기기(2000)에 관한 기기 정보를 획득하고, 단계 S510에서 디바이스(1000)는 사용자의 의도에 관련된 외부 기기(2000)를 선택하며, 단계 S512에서 디바이스(1000)는 선택된 외부 기기(2000)에 관한 제어 정보를 생성한다. 또한, 단계 S514에서 디바이스(1000)는 생성된 제어 정보에 기초하여, 소정의 제어 명령을 외부 기기(2000)에게 제공한다.
단계 S504 내지 단계 S514는 단계 S408 내지 단계 S418에 대응될 수 있으며, 단계 S504 내지 단계 S514에 대한 구체적인 설명은 편의상 생략하기로 한다.
도 6은 본 발명의 일 실시예에 따른 외부 기기(2000)의 제어를 위한 디바이스(1000)의 동작 테이블의 일례를 도시한 도면이다. 디바이스(1000)의 동작 테이블에는 사용자 입력 정보에 관련된 디바이스(1000)의 동작에 관한 정보가 기록될 수 있다.
도 6에 도시된 바와 같이, 디바이스(1000)의 동작 테이블은, 사용자 입력 정보 필드(60), 사용자의 의도 필드(62), 외부 기기 제어를 위한 조건 필드(64) 및 동작 필드(66)를 포함할 수 있다. 또한, 디바이스(1000)의 동작 테이블은 디바이스(1000) 및 서버(3000) 중 적어도 하나에 의해 생성될 수 있다 .
사용자 입력 정보 필드(60)에는 디바이스(1000)에서 획득된 사용자 입력 정보가 기록된다. 사용자가 디바이스(1000)에 텍스트를 입력하면, 사용자에 의해 입력된 텍스트 데이터가 사용자 입력 정보 필드(60)에 기록될 수 있다. 또한, 사용자 입력 정보가 음성 데이터인 경우에, 음성 데이터가 텍스트 데이터로 변환될 수 있으며, 변환된 텍스트 데이터가 사용자 입력 정보 필드(60)에 저장될 수 있다.
사용자 입력 정보 필드(60)에는, 예를 들어, “내일 비가 오지 않으면, 7:00에 깨워줘.”, “내일 20시 전에 차가 안 막히면 집에 가자.”, “아기가 깨면 영상 통화를 연결해 줘.”와 같은 사용자 입력 정보가 기록될 수 있다.
또한, 사용자의 의도 필드(62)에는 사용자 입력 정보로부터 판단된 사용자의 의도에 관한 정보가 기록될 수 있다. 사용자 입력 정보는, 형태소 분석, 구문 분석, 개체명 인식(Named Entity Recognition) 등의 자연어 처리 방식을 통하여 해석될 수 있다. 예를 들어, 사용자 입력 정보가 “내일 비가 오지 않으면, 7:00에 깨워줘.”인 경우에, 사용자의 의도 필드(62)에는 “When: 내일, 7:00, Condition: 비가 오지 않으면, Do: 깨워 줘”가 기록될 수 있다.
또한, 외부 기기 제어를 위한 조건 필드(64)에는 사용자의 의도에 따라 외부 기기(2000)를 제어하기 위하여 만족시켜야 하는 조건에 관한 정보가 기록될 수 있다. 예를 들어, 사용자의 의도 필드(62)에 기록된 정보가 “When: 내일, 7:00, Condition: 비가 오지 않으면, Do: 깨워 줘”인 경우에, 외부 기기 제어를 위한 조건 필드(64)에는 “Who: x, What: 날씨, When: 내일, Condition: 맑음, 흐림, Where: 디바이스의 위치“가 기록될 수 있다. 즉, 외부 기기 제어를 위한 조건 필드(64)에는 “날씨”라는 주어 조건, “내일”이라는 시간 조건, “맑음, 흐림”이라는 날씨 조건, 및 “디바이스의 위치”라는 장소 조건이 기록될 수 있다. 조건 필드(64)에는 “Who”, “What”, “When”, “Condition”, 및 “Where” 이외에도 다양한 종류의 조건 항목이 포함될 수 있으며, 서버(3000)는 조건 항목에 소정의 데이터가 기록되지 않을 경우에, 데이터가 기록되지 않은 조건 항목에 대한 추가적인 사용자 입력 정보를 디바이스(1000)에게 요청할 수 있으며, 디바이스(1000)로부터 추가적으로 사용자 입력 정보를 수신하여 기록되지 않은 조건 항목에 소정의 데이터를 기록할 수 있다. 즉, 서버(3000)는 사용자 입력 정보로부터 사용자의 의도가 파악되지 않는 경우, 또는 사용자의 의도에 따라 외부 기기 제어를 위한 조건 및 동작이 판단되지 않는 경우에, 디바이스(1000)에게 추가적으로 사용자 입력 정보를 요청할 수 있다.
또한, 디바이스(1000)는 조건 필드(64)에 기록된 정보에 기초하여, 소정의 조건이 만족되었는지를 확인하기 위한 제어 명령을 생성할 수 있다.
또한, 동작 필드(66)에는 외부 기기 제어를 위한 조건이 만족되었는지를 판단하고, 사용자의 의도에 따라 디바이스(1000) 및 외부 기기(2000)를 동작시키기 위한, 디바이스(1000) 및 외부 기기(2000)의 동작에 관한 정보가 기록될 수 있다. 예를 들어, 사용자의 의도 필드(62)에 기록된 정보가 “When: 내일, 7:00, Condition: 비가 오지 않으면, Do: 깨워 줘”인 경우에, 외부 기기 제어를 위한 조건을 확인하기 위한 동작으로서, 동작 필드(66)에는 “시간 확인”, “디바이스 위치 확인” 및 “날씨 확인”이 기록될 수 있다. 또한, 외부 기기 제어를 위한 조건이 만족되는 경우에 디바이스(1000) 및 외부 기기(2000)의 동작으로서, 동작 필드(66)에는 “알람 정보 출력”이 기록될 수 있다.
또한, 동작 필드(66)에 기록된 동작 정보에 기초하여, 동작 필드(66)에 기록된 동작을 수행하기 위한 디바이스(1000) 및 외부 기기(2000)의 제어 정보가 생성될 수 있다. 또한, 제어 정보는, 디바이스(1000) 및 외부 기기(2000) 중 적어도 하나의 동작을 제어하기 위한 복수의 제어 명령을 포함할 수 있으며, 복수의 제어 명령은 소정의 순서로 디바이스(1000) 및 외부 기기(2000) 중 적어도 하나에 의해 실행될 수 있다. 예를 들어, 동작 필드(66)에 기록된 “시간 확인”, “디바이스 위치 확인” 및 “날씨 확인”에 기초하여, 디바이스(1000)가 디바이스(1000), 별도의 서버(미도시), 외부 기기(2000) 중 적어도 하나를 이용하여 시간, 디바이스(1000)의 위치 및 날씨를 확인할 수 있도록 제어 명령이 생성될 수 있다. 또한, 예를 들어, 동작 필드(66)에 기록된 “알람 정보 출력”에 기초하여, 디바이스(1000) 및 외부 기기(2000)가 소정의 알람 정보를 출력할 수 있도록 제어 명령이 생성될 수 있다.
또한, 본 명세서에서는 디바이스(1000)가 사용자의 의도를 판단하고 외부 기기 제어를 위한 조건 및 동작을 결정하는 것으로 설명하였지만, 이에 제한되지 않는다. 디바이스(1000)가 사용자 입력 정보로부터 외부 기기 제어를 위한 조건 및 동작을 결정하는 것이 사용자의 의도를 판단하는 것에 포함될 수도 있다.
도 7은 본 발명의 일 실시예에 따른 외부 기기 제어 시스템에서, 디바이스(1000)에 입력된 사용자 입력 정보에 따라 외부 기기(2000)가 제어되는 일례를 도시한 도면이다.
도 7을 참조하면, 사용자가 디바이스(1000)에 “내일 비가 오지 않으면, 7시에 깨워줘.”라는 음성을 입력하면, 디바이스(1000)는 사용자 입력 정보로서, 음성 데이터를 텍스트로 변환한 데이터 또는 음성 데이터를 서버(3000)에게 제공할 수 있다. 또한, 디바이스(1000)는 디바이스(1000)에 연결 가능한 습도 센서(72), 조명 장치(74) 및 베개를 진동 시키는 베개 진동 장치(76)에 관한 기기 정보를 서버(3000)에게 제공할 수 있다.
또한, 서버(3000)는 사용자 입력 정보에 기초하여 사용자의 의도를 판단하고, 외부 기기(2000)를 제어하기 위한 조건을 결정할 수 있다. 또한, 서버(3000)는 결정된 조건이 만족되었는지를 판단하고 디바이스(1000) 및 외부 기기(2000)를 제어하기 위한 제어 정보를 생성하고, 생성된 제어 정보를 디바이스(1000)에게 제공할 수 있다.
또한, 디바이스(1000)는 수신된 제어 정보에 기초하여 날씨 서버(70)로부터 날씨 정보를 획득하고, 습도 센서(72)로부터 습도 정보를 획득함으로써 조건이 만족되었는지를 판단할 수 있다. 또한, 디바이스(1000)는 조건이 만족된 경우에 조명 장치(74)에게 전원을 켜는 제어 명령을 전송하고 베개 진동 장치(76)에게 진동을 발생시키는 제어 명령을 전송할 수 있다.
도 8은 본 발명의 다른 실시예에 따른 외부 기기 제어 시스템에서, 디바이스(1000)에 입력된 사용자 입력 정보에 따라 외부 기기(2000)가 제어되는 일례를 도시한 도면이다.
도 8을 참조하면, 사용자가 디바이스(1000)에 “내일 9시 전에 차가 안 막히면, 집에 가자.”라는 음성을 입력하면, 디바이스(1000)는 사용자 입력 정보로서, 음성 데이터를 텍스트로 변환한 데이터 또는 음성 데이터를 서버(3000)에게 제공할 수 있다. 또한, 디바이스(1000)는 디바이스(1000)에 연결 가능한 자동차(82) 및 네비게이션 장치(84) 에 관한 기기 정보를 서버(3000)에게 제공할 수 있다.
또한, 서버(3000)는 사용자 입력 정보에 기초하여 사용자의 의도를 판단하고, 외부 기기(2000)를 제어하기 위한 조건을 결정할 수 있다. 또한, 서버(3000)는 결정된 조건이 만족되었는지를 판단하고 디바이스(1000) 및 외부 기기(2000)를 제어하기 위한 제어 정보를 생성하고, 생성된 제어 정보를 디바이스(1000)에게 제공할 수 있다.
또한, 디바이스(1000)는 수신된 제어 정보에 기초하여 교통 정보 제공 서버(80)로부터 디바이스(1000)의 현재 위치에서 집으로 가기 위한 경로에 대한 교통 정보를 획득함으로써 조건이 만족되었는지를 판단할 수 있다. 또한, 디바이스(1000)는 조건이 만족된 경우에 자동차(82)에게 시동을 거는 제어 명령을 전송하고 네비게이션(84)에게 길 안내 정보를 출력하는 제어 명령을 전송할 수 있다.
도 9는 본 발명의 또 다른 실시예에 따른 외부 기기 제어 시스템에서, 디바이스(1000)에 입력된 사용자 입력 정보에 따라 외부 기기(2000)가 제어되는 일례를 도시한 도면이다.
도 9를 참조하면, 사용자가 디바이스(1000)에 “아기가 깨면, 영상 통화를 연결해 줘.”라는 음성을 입력하면, 디바이스(1000)는 사용자 입력 정보로서, 음성 데이터를 텍스트로 변환한 데이터 또는 음성 데이터를 서버(3000)에게 제공할 수 있다. 또한, 디바이스(1000)는 디바이스(1000)에 연결 가능한 촬영 장치(90), 녹음 장치(92) 및 전화기(94)에 관한 기기 정보를 서버(3000)에게 제공할 수 있다.
또한, 서버(3000)는 사용자 입력 정보에 기초하여 사용자의 의도를 판단하고, 외부 기기(2000)를 제어하기 위한 조건을 결정할 수 있다. 또한, 서버(3000)는 결정된 조건이 만족되었는지를 판단하고 디바이스(1000) 및 외부 기기(2000)를 제어하기 위한 제어 정보를 생성하고, 생성된 제어 정보를 디바이스(1000)에게 제공할 수 있다.
또한, 디바이스(1000)는 수신된 제어 정보에 기초하여 촬영 장치(90)로부터 촬영된 이미지를 획득하고 녹음 장치(92)로부터 녹음된 음성의 데이터를 획득함으로써 조건이 만족되었는지를 판단할 수 있다. 또한, 디바이스(1000)는 조건이 만족된 경우에 전화기(94)에게 영상 통화를 연결하는 제어 명령을 전송할 수 있다.
도 10은 본 발명의 일 실시예에 따른 디바이스(1000)의 블록도이다.
도 10에 도시된 바와 같이, 본 발명의 일 실시예에 따른 디바이스(1000)는 외부 기기 확인부(1100), 입력부(1200), 정보 제공부(1300), 상황 정보 획득부(1400), 제어 정보 획득부(1500), 제어 명령 제공부(1600), DB(1700), 송수신부(1800) 및 제어부(1900)를 포함한다.
외부 기기 확인부(1100)는 디바이스(1000)에 의해 제어 될 수 있는 외부 기기(2000)를 확인한다. 외부 기기 확인부(1100)는 디바이스(1000)에 연결 가능한 외부 기기(2000) 중에서 디바이스(1000)에 의해 제어 가능한 외부 기기(2000)를 확인할 수 있다.
또한, 외부 기기 확인부(1100)는 확인된 외부 기기(2000)로부터 외부 기기(2000)에 관한 기기 정보를 수신할 수 있으나, 이에 제한되지 않는다. 외부 기기 확인부(1100)는 별도의 서버(미도시)로부터 외부 기기(2000)에 관한 기기 정보를 수신할 수도 있다. 예를 들어, 댁 내의 홈 게이트웨이(미도시)를 통하여 디바이스(1000)가 외부 기기(2000)와 연결되는 경우에는, 디바이스(1000)는 홈 게이트웨이(미도시)에게 외부 기기(2000)에 관한 기기 정보를 요청할 수도 있다. 외부 기기(2000)에 관한 기기 정보는, 외부 기기(2000)의 식별 값, 외부 기기(2000)의 종류, 및 외부 기기(2000)의 제어에 이용되는 명령어 중 적어도 하나에 관한 정보를 포함할 수 있다.
입력부(1200)는 디바이스(1000)에 대한 사용자 입력을 수신하고, 사용자 입력 정보를 생성한다. 사용자 입력 정보는 텍스트 데이터 및 음성 데이터를 포함할 수 있으나, 이에 제한되지 않는다. 또한, 입력부(1200)는 디바이스(1000)에 저장된 이메일 또는 문자 메시지를 이용하여 사용자 입력 정보를 생성할 수도 있다.
정보 제공부(1300)는 제어 정보 생성을 위한 각종의 정보를 서버(3000)에게 제공한다. 정보 제공부(1300)는, 외부 기기(2000)의 기기 정보, 사용자 입력 정보, 및 후술할 상황 정보 중 적어도 하나를 서버(3000)에게 제공할 수 있다.
상황 정보 획득부(1400)는 디바이스(1000), 별도의 서버(미도시) 및 외부 기기(2000) 중 적어도 하나를 통하여 상황 정보를 획득할 수 있다. 상황 정보 획득부(1400)는, 후술할 제어 정보 획득부(1500)에 의해 획득된 제어 정보에 기초하여 상황 정보를 획득할 수 있으나, 이에 제한되지 않는다. 상황 정보 획득부(1400)는, 사용자의 의도를 만족시키기 위하여 외부 기기(2000)를 제어하기 위한 조건에 관련된 상황 정보를 획득할 수 있다.
제어 정보 획득부(1500)는 사용자의 의도에 적합하도록 디바이스(1000) 및 외부 기기(2000)를 제어하기 위한 제어 정보를 획득한다. 제어 정보 획득부(1500)는 서버(3000)로부터 생성된 제어 정보를 수신할 수 있으나, 이에 제한되지 않는다. 제어 정보 획득부(1500)는 사용자 입력 정보에 기초하여 사용자 의도를 판단하고, 외부 기기(2000)를 제어하기 위한 조건을 결정하고 제어 정보를 생성할 수도 있다. 또한, 제어 정보 획득부(1500)는 외부 기기(2000)를 제어하기 위한 조건 정보 및 사용자 의도 정보 중 적어도 하나를 서버(3000)로부터 수신하고 제어 정보를 생성할 수도 있다. 제어 정보 획득부(1500)에 대하여는 도 11에서 보다 상세히 설명하기로 한다.
제어 명령 제공부(1600)는 획득된 제어 정보에 기초하여, 외부 기기(2000)에게 소정의 제어 명령을 제공한다. 제어 정보는 소정의 순서로 배열된 복수의 제어 명령을 포함할 수 있으며, 제어 명령 제공부(1600)는 복수의 제어 명령을 소정의 순서로 적어도 하나의 외부 기기(2000)에게 전송할 수 있다.
DB(1700)는 디바이스(1000)가 사용자 의도에 적합하도록 디바이스(1000) 및 외부 기기(2000)를 제어하기 위하여 필요한 각종의 정보를 저장한다.
송수신부(1800)는 디바이스(1000)가 사용자 의도에 적합하도록 디바이스(1000) 및 외부 기기(2000)를 제어하기 위하여 필요한 각종의 정보를 외부 기기(2000) 및 서버(3000)와 송수신한다.
제어부(1900)는 디바이스(1000)의 전체 동작을 제어하며, 디바이스(1000)가 사용자 의도에 적합하도록 디바이스(1000) 및 외부 기기(2000)를 제어할 수 있도록 외부 기기 확인부(1100), 입력부(1200), 정보 제공부(1300), 상황 정보 획득부(1400), 제어 정보 획득부(1500), 제어 명령 제공부(1600), DB(1700) 및 송수신부(1800)를 제어한다.
외부 기기 확인부(1100), 입력부(1200), 정보 제공부(1300), 상황 정보 획득부(1400), 제어 정보 획득부(1500) 및 제어 명령 제공부(1600) 중 일부 또는 전부는 소프트웨어 모듈에 의해 동작할 수 있으나 이에 제한되지 않는다. 또한, 외부 기기 확인부(1100), 입력부(1200), 정보 제공부(1300), 상황 정보 획득부(1400), 제어 정보 획득부(1500) 및 제어 명령 제공부(1600) 중 일부가 하드웨어일 수도 있다.
또한, 외부 기기 확인부(1100), 입력부(1200), 정보 제공부(1300), 상황 정보 획득부(1400), 제어 정보 획득부(1500) 및 제어 명령 제공부(1600) 중 적어도 일부는 제어부(1900)에 포함될 수 있으며, 외부 기기 확인부(1100), 입력부(1200), 정보 제공부(1300), 상황 정보 획득부(1400), 제어 정보 획득부(1500), 제어 명령 제공부(1600) 및 제어부(1900)는 하나의 프로세서의 의해 동작될 수 있다. 그러나, 이에 제한되지 않는다.
도 11은 본 발명의 일 실시예에 따른 상황 정보 획득부(1400)의 블록도이다.
도 11에 도시된 바와 같이, 본 발명의 일 실시예에 따른 상황 정보 획득부(1400)는 사용자 의도 판단부(1410), 기기 제어 조건 결정부(1420), 제어 정보 생성부(1430) 및 제어 정보 수신부(1440)를 포함할 수 있다.
사용자 의도 판단부(1410)는 사용자 입력 정보에 기초하여 사용자의 의도를 판단한다. 사용자 의도 판단부(1410)는 사용자 입력 정보를 해석함으로써, 사용자의 의도를 판단할 수 있다. 사용자 의도 판단부(1410)는 사용자 입력 정보를 해석하기 위하여, 다양한 종류의 자연어 해석 기법을 이용할 수 있다. 예를 들어, 디바이스(1000)는 형태소 분석, 구문 분석, 개체명 인식(Named Entity Recognition) 등의 자연어 처리 방식을 이용하여 텍스트 데이터인 사용자 입력 정보를 해석할 수 있다. 만약, 사용자 입력 정보가 음성 데이터라면, 사용자 의도 판단부(1410)는 음성 데이터를 텍스트 데이터로 변환하고, 변환된 텍스트 데이터를 해석할 수 있다. 또한, 사용자 의도 판단부(1410)는 사용자 입력 정보를 해석하여 사용자 의도 정보를 생성할 수 있다. 예를 들어, 사용자 입력 정보가 “내일 비가 오지 않으면, 7시에 깨워줘.”인 경우에, 사용자 의도 판단부(1410)는 “내일, 7:00”라는 시간 정보, “비가 오지 않으면”이라는 상황 정보 및 “깨워 줘”라는 동작 정보를 포함하는 사용자 의도 정보를 생성할 수 있다. 또한, 사용자 의도 판단부(1410)는 서버(3000)에서 생성된 사용자 의도 정보를 서버(3000)로부터 수신할 수도 있다.
기기 제어 조건 결정부(1420)는 사용자의 의도에 기초하여 외부 기기(2000)를 제어하기 위한 조건을 결정한다. 기기 제어 조건 결정부(1420)는 사용자 의도 정보에 기초하여, 외부 기기(2000) 또는 디바이스(1000)의 동작을 제어하기 위하여 만족시켜야 하는 조건을 결정할 수 있다. 예를 들어, 사용자 의도 정보가 “내일, 7:00”라는 시간 정보, “비가 오지 않으면”이라는 상황 정보를 포함하는 경우에, 기기 제어 조건 결정부(1420)는 “내일”이라는 시간 조건, “맑음, 흐림”이라는 날씨 조건, 및 “디바이스의 위치”라는 장소 조건을 외부 기기(2000)의 제어를 위한 조건으로 결정할 수 있다. 또한, 기기 제어 조건 결정부(1420)는 서버(3000)에서 결정된 조건에 관한 정보를 서버(3000)로부터 수신할 수도 있다.
제어 정보 생성부(1430)는 디바이스(1000) 및 외부 기기(2000)에 관한 제어 정보를 생성한다. 제어 정보 생성부(1430)는 상황 정보에 기초하여 조건의 만족 여부를 판단하고, 디바이스(1000)에 의해 결정된 조건이 만족되면, 제어 정보 생성부(1430)는 디바이스(1000) 또는 외부 기기(2000)의 동작을 실행시키기 위한 제어 정보를 생성할 수 있다. 제어 정보 생성부(1430)는 사용자 의도 정보에 포함된 동작 정보 및 외부 기기(2000)에 관한 기기 정보에 기초하여, 디바이스(1000) 또는 외부 기기(2000)의 동작을 실행시키기 위한 제어 정보를 생성할 수 있다. 제어 정보는, 적어도 하나의 외부 기기(2000) 및 디바이스(1000)에 대한 제어 명령들을 포함할 수 있으며, 제어 명령들은 소정의 순서로 배열될 수 있다.
또한, 제어 정보 수신부(1440)는 서버(3000)에 의해 생성된 제어 정보를 서버(3000)로부터 수신할 수 있다.
도 12는 본 발명의 다른 실시예에 따른 디바이스(1000)의 블록도이다.
이동 통신부(1001)는 3G/4G와 같은 셀룰러 네트워크를 통해 기지국과의 호 설정, 데이터 통신 등을 수행한다. 서브 통신부(1002)는 블루투스나 NFC 등 근거리 통신을 위한 기능을 수행한다. 방송부(1003)는 DMB 방송 신호를 수신한다.
카메라부(1004)는 사진이나 동영상을 촬영하기 위한 렌즈 및 광학 소자들을 포함한다.
센서부(1005)는 멀티 비전 컨트롤러(1000)의 움직임을 감지하는 중력 센서, 빛의 밝기를 감지하는 조도 센서, 사람의 근접도를 감지하는 근접 센서, 사람의 움직임을 감지하는 모션 센서 등을 포함할 수 있다.
GPS 수신부(1006)는 인공 위성으로부터 GPS 신호를 수신한다. 이러한 GPS 신호를 이용하여 다양한 서비스가 사용자에게 제공될 수 있다.
입출력부(1010)은 외부 기기나 사람과의 인터페이스를 제공하며, 버튼(1011), 마이크(1012), 스피커(1013), 진동 모터(1014), 커넥터(1015), 키패드(1016)을 포함한다.
터치 스크린(1018)은 사용자의 터치 입력을 수신한다. 터치 스크린 컨트롤러(1017)는 터치 스크린(1018)을 통해 입력된 터치 입력을 제어부(1050)에 전달한다. 전원 공급부(1019)는 멀티 비전 컨트롤러(1019)에 필요한 전력을 공급하기 위해 배터리 또는 외부 전원 소스와 연결된다.
제어부(1050)는 메모리(1060)에 저장된 프로그램들을 실행함으로써 본 발명에 따라 제어 명령을 외부 기기(2000)에게 제공한다.
메모리(1060)에 저장된 프로그램들은 그 기능에 따라 복수 개의 모듈들로 분류할 수 있는데, 이동 통신 모듈(1061), Wi-Fi 모듈(1062), 블루투스 모듈(1063), DMB 모듈(1062), 카메라 모듈(1065), 센서 모듈(1066), GPS 모듈(1067), 동영상 재생 모듈(1068), 오디오 재생 모듈(1069), 전원 모듈(1070), 터치 스크린 모듈(1071), UI 모듈(1072), 어플리케이션 모듈(1073) 등으로 분류될 수 있다.
각 모듈들의 기능은 그 명칭으로부터 당업자가 직관적으로 추론할 수 있을 것이므로 여기서는 어플리케이션 모듈(1073)에 대해서만 설명하기로 한다. 어플리케이션 모듈(1073)은 이동 통신부(1001) 및 서브 통신부(1002)를 이용하여 디바이스(1000)에 연결된 외부 기기(2000)를 확인하고, 외부 기기(2000)로부터 기기 정보를 수신할 수 있다. 또한, 애플리케이션 모듈(1073)은 입/출력부(1010)를 이용하여 사용자 입력을 수신하고, 사용자 입력 정보를 생성할 수 있다. 또한, 애플리케이션 모듈(1073)은 카메라부(1004), 센서부(1005), GPS 수신부(1006)를 통하여 상황 정보를 직접 획득하거나, 이동 통신부(1001) 및 서브 통신부(1002)를 이용하여 외부 기기(2000) 또는 별도의 서버(미도시)로부터 상황 정보를 획득할 수 있다. 또한, 애플리케이션 모듈(1073)은 디바이스(1000) 및 외부 기기(2000)를 제어하기 위한 제어 정보를 획득할 수 있다. 애플리케이션 모듈(1073)은 사용자 입력 정보에 기초하여 사용자의 의도를 판단하거나 서버(3000)로부터 사용자 의도 정보를 수신할 수 있다. 또한, 애플리케이션 모듈(1073)은 사용자의 의도에 기초하여 외부 기기(2000)를 제어하기 위한 조건을 결정하거나, 서버(3000)로부터 결정된 조건에 관한 정보를 수신할 수 있다. 또한, 애플리케이션 모듈(1073)은 조건의 만족 여부를 판단하고 디바이스(1000) 및 외부 기기(2000)를 제어하기 위한 제어 정보를 생성할 수 있다. 애플리케이션 모듈(1073)은 서버(3000)에 의해 생성된 제어 정보를 수신할 수도 있다. 또한, 애플리케이션 모듈(1073)은 제어 정보에 포함된 제어 명령을 외부 기기(2000)에게 제공할 수 있다.
도 13은 본 발명의 일 실시예에 따른 서버(3000)의 블록도이다.
도 13에 도시된 바와 같이, 본 발명의 일 실시예에 따른 서버(3000)는 입력 정보 수신부(3100), 기기 정보 수신부(3200), 사용자 의도 판단부(3300), 상황 정보 수신부(3400), 제어 정보 생성부(3500), 정보 제공부(3600), DB(3700), 송수신부(3800) 및 제어부(3900)를 포함한다.
입력 정보 수신부(3100)는 디바이스(1000)로부터 사용자 입력 정보를 수신한다. 사용자 입력 정보는 텍스트 데이터 및 음성 데이터 중 적어도 하나를 포함할 수 있으나, 이에 제한되지 않는다.
기기 정보 수신부(3200)는 디바이스(1000)로부터 외부 기기(2000)에 관한 기기 정보를 수신한다. 기기 정보는, 외부 기기(2000)의 식별 값, 외부 기기(2000)의 종류, 및 외부 기기(2000)의 제어에 이용되는 명령어 중 적어도 하나에 관한 정보를 포함할 수 있다.
사용자 의도 판단부(3300)는 사용자 입력 정보에 기초하여 사용자의 의도를 판단한다. 서버(3000)는 사용자 입력 정보를 해석함으로써, 사용자의 의도를 판단할 수 있다. 또한, 서버(3000)는 사용자 입력 정보로서 수신된 텍스트 데이터를 해석하기 위하여, 다양한 종류의 자연어 해석 기법을 이용할 수 있다
상황 정보 수신부(3400)는 디바이스(1000)로부터 상황 정보를 수신한다. 상황 정보 수신부(3400)는 디바이스(1000)에게 상황 정보를 요청하고 디바이스(1000)에 의해 획득된 상황 정보를 디바이스(1000)로부터 수신할 수 있다.
제어 정보 생성부(3500)는 디바이스(1000) 및 외부 기기(2000)를 제어하기 위한 제어 정보를 생성한다. 제어 정보 생성부(3500)는 사용자 의도 정보, 기기 정보 및 상황 정보 중 적어도 하나에 기초하여 제어 정보를 생성할 수 있다. 제어 정보 생성부(3500)는 사용자 입력 정보에 기초하여 사용자 의도를 판단하고, 외부 기기(2000)를 제어하기 위한 조건을 결정하고 제어 정보를 생성할 수도 있다.
정보 제공부(3600)는 사용자 의도 정보, 외부 기기 제어를 위한 조건 정보 및 제어 정보 중 적어도 하나를 디바이스(1000)에게 제공할 수 있다.
DB(3700)는 서버(3000)가 사용자 입력 정보에 기초하여 사용자의 의도에 맞도록 디바이스(1000) 및 외부 기기(2000)가 동작되기 위한 제어 정보를 생성하고 생성된 제어 정보를 디바이스(1000)에게 제공하기 위하여 필요한 각종의 정보를 저장한다.
송수신부(3800)는 서버(3000)가 사용자 입력 정보에 기초하여 사용자의 의도에 맞도록 디바이스(1000) 및 외부 기기(2000)가 동작되기 위한 제어 정보를 생성하고 생성된 제어 정보를 디바이스(1000)에게 제공하기 위하여 필요한 각종의 정보를 디바이스(1000)와 송수신한다.
제어부(3900)는 서버(3000)의 전체 동작을 제어하며, 서버(3000)가 사용자 입력 정보에 기초하여 사용자의 의도에 맞도록 디바이스(1000) 및 외부 기기(2000)가 동작되기 위한 제어 정보를 생성하고 생성된 제어 정보를 디바이스(1000)에게 제공할 수 있도록, 입력 정보 수신부(3100), 기기 정보 수신부(3200), 사용자 의도 판단부(3300), 상황 정보 수신부(3400), 제어 정보 생성부(3500), 정보 제공부(3600), DB(3700) 및 송수신부(3800)를 제어한다.
입력 정보 수신부(3100), 기기 정보 수신부(3200), 사용자 의도 판단부(3300), 상황 정보 수신부(3400), 제어 정보 생성부(3500) 및 정보 제공부(3600) 중 일부 또는 전부는 소프트웨어 모듈에 의해 동작할 수 있으나 이에 제한되지 않는다. 또한, 입력 정보 수신부(3100), 기기 정보 수신부(3200), 사용자 의도 판단부(3300), 상황 정보 수신부(3400), 제어 정보 생성부(3500) 및 정보 제공부(3600) 중 일부가 하드웨어일 수도 있다.
또한, 입력 정보 수신부(3100), 기기 정보 수신부(3200), 사용자 의도 판단부(3300), 상황 정보 수신부(3400), 제어 정보 생성부(3500) 및 정보 제공부(3600) 중 적어도 일부는 제어부(3900)에 포함될 수 있으며, 입력 정보 수신부(3100), 기기 정보 수신부(3200), 사용자 의도 판단부(3300), 상황 정보 수신부(3400), 제어 정보 생성부(3500), 정보 제공부(3600) 및 제어부(3900)는 하나의 프로세서의 의해 동작될 수 있다. 그러나, 이에 제한되지 않는다.
본 발명의 일 실시예는 컴퓨터에 의해 실행되는 프로그램 모듈과 같은 컴퓨터에 의해 실행가능한 명령어를 포함하는 기록 매체의 형태로도 구현될 수 있다. 컴퓨터 판독 가능 매체는 컴퓨터에 의해 액세스될 수 있는 임의의 가용 매체일 수 있고, 휘발성 및 비휘발성 매체, 분리형 및 비분리형 매체를 모두 포함한다. 또한, 컴퓨터 판독가능 매체는 컴퓨터 저장 매체 및 통신 매체를 모두 포함할 수 있다. 컴퓨터 저장 매체는 컴퓨터 판독가능 명령어, 데이터 구조, 프로그램 모듈 또는 기타 데이터와 같은 정보의 저장을 위한 임의의 방법 또는 기술로 구현된 휘발성 및 비휘발성, 분리형 및 비분리형 매체를 모두 포함한다. 통신 매체는 전형적으로 컴퓨터 판독가능 명령어, 데이터 구조, 프로그램 모듈, 또는 반송파와 같은 변조된 데이터 신호의 기타 데이터, 또는 기타 전송 메커니즘을 포함하며, 임의의 정보 전달 매체를 포함한다.
전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.
본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.

Claims (21)

  1. 서버로부터, 복수의 외부 기기들의 제1 식별 정보 및 상기 복수의 외부 기기들이 수행할 수 있는 기능에 관한 제1 기능 정보를 수신하는 단계;
    상기 복수의 외부 기기들과 구별되는 디바이스로부터, 사용자에 의해 상기 디바이스에 입력된 하나의 사용자 음성 명령을 수신하는 단계;
    상기 수신된 하나의 사용자 음성 명령에 기초하여, 상기 수신된 하나의 사용자 음성 명령에 관한 사용자의 의도를 획득하는 단계;
    상기 사용자의 의도 및 상기 복수의 외부 기기들의 제1 식별 정보에 기초하여, 상기 복수의 외부 기기들 중 적어도 두 개의 외부 기기들을 결정하는 단계;
    상기 사용자의 의도, 상기 식별된 적어도 두 개의 외부 기기들의 제2 식별 정보, 및 상기 적어도 두 개의 외부 기기들의 제2 기능 정보에 기초하여, 상기 결정된 적어도 두 개의 외부 기기를 제어하는 제어 정보를 생성하는 단계;
    상기 생성된 제어 정보를 출력하는 단계;
    를 포함하는, 외부 기기를 제어하는 방법.
  2. 제1항에 있어서,
    상기 생성된 제어 정보는 상기 결정된 적어도 두 개의 외부 기기의 동작을 제어하기 위한 기능 정보를 포함하고,
    상기 기능 정보는 소정의 순서로 상기 결정된 적어도 두 개의 외부 기기에 의하여 사용되는 것인, 방법.
  3. 제 1 항에 있어서,
    상기 하나의 사용자 음성 명령은 사용자 음성에 의해 상기 디바이스에 입력되는 문구이고, 조합 명령을 포함하며,
    상기 조합 명령은 동작, 시간 및 조건을 포함하는, 방법.
  4. 제 1 항에 있어서,
    상기 제1 식별 정보 및 상기 제1 기능 정보를 수신하는 단계는, 상기 사용자에 의해 상기 디바이스에 입력되고 상기 디바이스로부터 수신되는 사용자 입력 정보에 기초하여, 상기 제1 식별 정보 및 상기 제1 기능 정보를 수신하는 단계를 포함하는, 방법.
  5. 제 1 항에 있어서,
    상기 제1 식별 정보 및 상기 제1 기능 정보는 상기 하나의 사용자 음성 명령을 수신하는 것과는 별개로 독립적으로 수신되는 것인, 방법.
  6. 제 5 항에 있어서,
    상기 수신된 하나의 사용자 음성 명령은 상기 결정된 적어도 두 개의 외부 기기들 각각에 대한 결정을 포함하지 않고,
    상기 적어도 두 개의 외부 기기들을 결정하는 단계는, 상기 수신된 하나의 사용자 음성 명령을 분석하여 상기 수신된 하나의 사용자 음성 명령에 대응되는 적어도 상기 적어도 두 개의 외부 기기들을 결정하는 단계를 포함하는, 방법.
  7. 제 1 항에 있어서,
    상기 디바이스 및 상기 복수의 외부 기기들은 홈 게이트웨이를 통하여 동일한 네트워크에 연결되는 것인, 방법.
  8. 제 1 항에 있어서,
    상기 하나의 사용자 음성 명령을 수신하는 단계는, 상기 디바이스로부터 인터넷 통신을 통하여 상기 서버에 의해, 상기 사용자에 의해 상기 디바이스에 입력된 상기 하나의 사용자 음성 명령을 수신하는 단계를 포함하는, 방법.
  9. 제 1 항에 있어서,
    상기 적어도 두 개의 외부 기기를 결정하는 단계는,
    상기 디바이스에 추가적인 사용자 입력 정보를 요청하는 단계;
    상기 디바이스로부터, 상기 사용자에 의해 상기 디바이스에 입력된 추가적인 사용자 음성 정보를 수신하는 단계; 및
    상기 수신된 추가적인 사용자 음성 정보에 기초하여, 상기 적어도 두 개의 외부 기기를 결정하는 단계를 포함하는, 방법.
  10. 제1항에 있어서,
    상기 제어 정보를 생성하는 단계는, 상기 결정된 적어도 두 개의 외부 기기를 소정의 순서로 제어하는 제어 명령을 위한 제어 정보를 생성하는 단계를 포함하는, 방법.
  11. 제 1 항에 있어서,
    상기 사용자의 의도를 획득하는 단계는, 상기 수신된 하나의 사용자 음성 명령에 대하여 자연어 처리를 수행하는 단계를 포함하는, 방법.
  12. 적어도 하나의 인스트럭션이 저장되도록 설정되는 메모리; 및
    상기 적어도 하나의 인스트럭션을 실행하는 프로세서를 포함하고,
    상기 프로세서는 상기 적어도 하나의 인스트럭션을 실행함으로써,
    다른 서버로부터, 복수의 외부 기기들의 제1 식별 정보 및 상기 복수의 외부 기기들이 수행 가능한 기능에 관한 제1 기능 정보를 수신하고,
    상기 복수의 외부 기기들과 구별되는 디바이스로부터, 사용자에 의해 상기 디바이스에 입력된 하나의 사용자 음성 명령을 수신하고,
    상기 수신된 하나의 사용자 음성 명령에 기초하여, 상기 수신된 하나의 사용자 음성 명령에 관한 사용자의 의도를 획득하고,
    상기 사용자의 의도 및 상기 복수의 외부 기기들의 제1 식별 정보에 기초하여, 상기 복수의 외부 기기들 중 적어도 두 개의 외부 기기들을 결정하고,
    상기 사용자의 의도, 상기 식별된 적어도 두 개의 외부 기기들의 제2 식별 정보, 및 상기 적어도 두 개의 외부 기기들의 제2 기능 정보에 기초하여, 상기 결정된 적어도 두 개의 외부 기기를 제어하는 제어 정보를 생성하고,
    상기 생성된 제어 정보를 출력하도록 설정되는, 서버.
  13. 제 12 항에 있어서,
    상기 하나의 사용자 음성 명령은 사용자 음성에 의해 상기 디바이스에 입력되는 문구이고, 조합 명령을 포함하며,
    상기 조합 명령은 동작, 시간 및 조건을 포함하는, 서버.
  14. 제 12 항에 있어서,
    상기 프로세서는 상기 적어도 하나의 인스트럭션을 실행함으로써,
    상기 사용자에 의해 상기 디바이스에 입력되고 상기 디바이스로부터 수신되는 사용자 입력 정보에 기초하여, 상기 제1 식별 정보 및 상기 제1 기능 정보를 수신하도록 설정되는, 서버.
  15. 제 12 항에 있어서,
    상기 제1 식별 정보 및 상기 제1 기능 정보는 상기 하나의 사용자 음성 명령을 수신하는 것과는 별개로, 독립적으로 수신되는 것인, 서버.
  16. 제 15 항에 있어서,
    상기 수신된 하나의 사용자 음성 명령은 상기 결정된 적어도 두 개의 외부 기기들 각각을 지정하지 않고,
    상기 프로세서는 상기 적어도 하나의 인스트럭션을 실행함으로써, 상기 수신된 하나의 사용자 음성 명령을 분석하여 상기 수신된 하나의 사용자 음성 명령에 대응되는 적어도 상기 적어도 두 개의 외부 기기들을 결정하도록 설정되는, 서버.
  17. 제 12 항에 있어서,
    상기 디바이스 및 상기 복수의 외부 기기들은 홈 게이트웨이를 통하여 동일한 네트워크에 연결되는 것인, 서버.
  18. 제 12 항에 있어서,
    상기 수신된 하나의 사용자 음성 명령에 기초하여 외부 기기를 결정할 수 없는 경우, 상기 프로세서는 상기 적어도 하나의 인스트럭션을 실행함으로써,
    상기 디바이스에 추가적인 사용자 입력 정보를 요청하고,
    상기 디바이스로부터, 상기 사용자에 의해 상기 디바이스에 입력된 추가적인 사용자 음성 정보를 수신하고,
    상기 수신된 추가적인 사용자 음성 정보에 기초하여, 상기 적어도 두 개의 외부 기기를 결정하도록 설정되는, 서버.
  19. 제12항에 있어서,
    상기 프로세서는 상기 적어도 하나의 인스트럭션을 실행함으로써, 상기 결정된 적어도 두 개의 외부 기기를 소정의 순서로 제어하는 제어 명령을 위한 제어 정보를 생성하도록 설정되는, 서버.
  20. 제 12 항에 있어서,
    상기 프로세서는 상기 적어도 하나의 인스트럭션을 실행함으로써, 상기 수신된 하나의 사용자 음성 명령에 대하여 자연어 처리를 수행하도록 설정되는, 서버.
  21. 제 1 항의 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록 매체.
KR1020190163977A 2019-12-10 2019-12-10 디바이스에 연결된 외부 기기를 제어하는 시스템 및 방법 KR102175165B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020190163977A KR102175165B1 (ko) 2019-12-10 2019-12-10 디바이스에 연결된 외부 기기를 제어하는 시스템 및 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190163977A KR102175165B1 (ko) 2019-12-10 2019-12-10 디바이스에 연결된 외부 기기를 제어하는 시스템 및 방법

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
KR1020120099739A Division KR102177830B1 (ko) 2012-09-10 2012-09-10 디바이스에 연결된 외부 기기를 제어하는 시스템 및 방법

Related Child Applications (1)

Application Number Title Priority Date Filing Date
KR1020200143881A Division KR20200126960A (ko) 2020-10-30 2020-10-30 디바이스에 연결된 외부 기기를 제어하는 시스템 및 방법

Publications (2)

Publication Number Publication Date
KR20190141109A true KR20190141109A (ko) 2019-12-23
KR102175165B1 KR102175165B1 (ko) 2020-11-05

Family

ID=69051969

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190163977A KR102175165B1 (ko) 2019-12-10 2019-12-10 디바이스에 연결된 외부 기기를 제어하는 시스템 및 방법

Country Status (1)

Country Link
KR (1) KR102175165B1 (ko)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021162363A1 (en) * 2020-02-10 2021-08-19 Samsung Electronics Co., Ltd. Method and apparatus for providing voice assistant service
WO2022177351A1 (ko) * 2021-02-19 2022-08-25 삼성전자 주식회사 발화 입력에 기초한 커맨드를 처리하는 방법 및 모바일 디바이스
US20220270607A1 (en) * 2021-02-19 2022-08-25 Samsung Electronics Co., Ltd. Method and mobile device for processing command based on utterance input
KR102492916B1 (ko) * 2022-04-06 2023-01-31 주식회사 퍼플코퍼레이션 스마트워치를 이용한 쇼핑 선호도 측정 서비스 제공 방법 및 장치
WO2023080419A1 (ko) * 2021-11-04 2023-05-11 삼성전자주식회사 비전 정보를 이용하여 전자기기를 제어하는 웨어러블 전자 장치 및 방법
WO2023121077A1 (ko) * 2021-12-21 2023-06-29 삼성전자 주식회사 목적 장치의 식별 방법 및 이를 위한 전자 장치

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20030001727A1 (en) * 2001-06-29 2003-01-02 Steinmark Daniel E. System and method for creating an adjusted alarm time
US20030187646A1 (en) * 2002-03-27 2003-10-02 Sony Corporation Method of and apparatus for configuring and controlling home entertainment systems through natural language and spoken commands using a natural language server
US20120127012A1 (en) * 2010-11-24 2012-05-24 Samsung Electronics Co., Ltd. Determining user intent from position and orientation information

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20030001727A1 (en) * 2001-06-29 2003-01-02 Steinmark Daniel E. System and method for creating an adjusted alarm time
US20030187646A1 (en) * 2002-03-27 2003-10-02 Sony Corporation Method of and apparatus for configuring and controlling home entertainment systems through natural language and spoken commands using a natural language server
US20120127012A1 (en) * 2010-11-24 2012-05-24 Samsung Electronics Co., Ltd. Determining user intent from position and orientation information

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021162363A1 (en) * 2020-02-10 2021-08-19 Samsung Electronics Co., Ltd. Method and apparatus for providing voice assistant service
WO2022177351A1 (ko) * 2021-02-19 2022-08-25 삼성전자 주식회사 발화 입력에 기초한 커맨드를 처리하는 방법 및 모바일 디바이스
US20220270607A1 (en) * 2021-02-19 2022-08-25 Samsung Electronics Co., Ltd. Method and mobile device for processing command based on utterance input
WO2023080419A1 (ko) * 2021-11-04 2023-05-11 삼성전자주식회사 비전 정보를 이용하여 전자기기를 제어하는 웨어러블 전자 장치 및 방법
WO2023121077A1 (ko) * 2021-12-21 2023-06-29 삼성전자 주식회사 목적 장치의 식별 방법 및 이를 위한 전자 장치
KR102492916B1 (ko) * 2022-04-06 2023-01-31 주식회사 퍼플코퍼레이션 스마트워치를 이용한 쇼핑 선호도 측정 서비스 제공 방법 및 장치

Also Published As

Publication number Publication date
KR102175165B1 (ko) 2020-11-05

Similar Documents

Publication Publication Date Title
US11651676B2 (en) System and method of controlling external apparatus connected with device
KR102175165B1 (ko) 디바이스에 연결된 외부 기기를 제어하는 시스템 및 방법
US10991462B2 (en) System and method of controlling external apparatus connected with device
CN110503959B (zh) 语音识别数据分发方法、装置、计算机设备及存储介质
JP2020520206A (ja) アプリケーションエコシステムを備える、ウェアラブルマルチメディアデバイス及びクラウドコンピューティングプラットフォーム
CN104487914A (zh) 使用来自相同传感器的各种参数的同时数据串流
CN113168227A (zh) 执行电子装置的功能的方法以及使用该方法的电子装置
CN104471957A (zh) 利用使用各种参数的同时数据串流的传感器
CN112116690B (zh) 视频特效生成方法、装置及终端
CN115699036A (zh) 支持跨平台、边缘-云混合人工智能服务的智能层
KR20200126960A (ko) 디바이스에 연결된 외부 기기를 제어하는 시스템 및 방법
JP2022540736A (ja) キャラクタ推薦方法、キャラクタ推薦装置、コンピュータ装置およびプログラム
WO2021202605A1 (en) A universal client api for ai services
CN111294320A (zh) 数据转换的方法和装置
US11995561B2 (en) Universal client API for AI services
US20210304020A1 (en) Universal client api for ai services
KR102396343B1 (ko) 전자 장치의 움직임과 관련된 상태의 변화에 기반하여 데이터를 전송하는 방법 및 장치
KR20230094769A (ko) 목적 장치의 식별 방법 및 이를 위한 전자 장치
CN116301557A (zh) 一种显示方法及电子设备
CN114721310A (zh) 智能设备控制方法、扩展设备控制方法、装置及存储介质

Legal Events

Date Code Title Description
A107 Divisional application of patent
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right