KR20230002130A - 사용자 디바이스에서 상황 인식 서비스 제공 방법 및 장치 - Google Patents

사용자 디바이스에서 상황 인식 서비스 제공 방법 및 장치 Download PDF

Info

Publication number
KR20230002130A
KR20230002130A KR1020220166423A KR20220166423A KR20230002130A KR 20230002130 A KR20230002130 A KR 20230002130A KR 1020220166423 A KR1020220166423 A KR 1020220166423A KR 20220166423 A KR20220166423 A KR 20220166423A KR 20230002130 A KR20230002130 A KR 20230002130A
Authority
KR
South Korea
Prior art keywords
rule
user
input
user device
voice
Prior art date
Application number
KR1020220166423A
Other languages
English (en)
Other versions
KR102623206B1 (ko
Inventor
배주윤
고민정
김성수
김진성
김화경
전진하
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Publication of KR20230002130A publication Critical patent/KR20230002130A/ko
Application granted granted Critical
Publication of KR102623206B1 publication Critical patent/KR102623206B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G06F3/167—Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M1/00—Substation equipment, e.g. for use by subscribers
    • H04M1/72—Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724—User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72448—User interfaces specially adapted for cordless or mobile telephones with means for adapting the functionality of the device according to specific conditions
    • H04M1/72454—User interfaces specially adapted for cordless or mobile telephones with means for adapting the functionality of the device according to specific conditions according to context-related or environment-related conditions
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/016—Input arrangements with force or tactile feedback as computer generated output to the user
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/038—Control and interface arrangements therefor, e.g. drivers or device-embedded control circuitry
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M1/00—Substation equipment, e.g. for use by subscribers
    • H04M1/72—Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724—User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W88/00—Devices specially adapted for wireless communication networks, e.g. terminals, base stations or access point devices
    • H04W88/02—Terminal devices
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00—Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/038—Indexing scheme relating to G06F3/038
    • G06F2203/0381—Multimodal input, i.e. interface arrangements enabling the user to issue commands by simultaneous use of input devices of different nature, e.g. voice plus gesture on digitizer
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M2250/00—Details of telephonic subscriber devices
    • H04M2250/22—Details of telephonic subscriber devices including a touch pad, a touch sensor or a touch detector
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M2250/00—Details of telephonic subscriber devices
    • H04M2250/74—Details of telephonic subscriber devices with voice recognition means

Abstract

본 발명은 사용자 디바이스에서 사용자에 의해 정의된 규칙(Rule)에 따라 사용자의 상황 인식(context aware)을 수행하고, 그에 따른 적어도 하나의 액션(action)을 자동 실행하여 그의 상황 정보를 사용자 또는 정의된 타 사용자에게 피드백(feedback)할 수 있는 상황 인식 서비스 제공 방법 및 장치에 관한 것으로, 이러한 본 발명은 텍스트 입력 및 음성 입력 중 적어도 하나의 사용자 입력을 조건 및 상기 조건에 대응하는 액션으로 구분하여 상기 조건 및 상기 액션을 포함하는 규칙을 정의하는 과정; 상기 규칙에 대응하는 명령에 반응하여 상기 규칙을 활성화하는 과정; 상기 규칙 활성화에 응답하여 상기 규칙에 따른 조건을 감지하는 과정; 및 상기 조건이 감지될 시 상기 조건에 대응하는 상기 액션을 실행하는 과정을 포함할 수 있다.

Description

사용자 디바이스에서 상황 인식 서비스 제공 방법 및 장치{METHOD AND APPARATUS FOR PROVIDING CONTEXT AWARE SERVICE IN A USER DEVICE}
본 발명은 상황 인식 서비스(Context Aware Service) 제공 방법 및 장치에 관한 것으로, 특히 본 발명은 사용자 디바이스에서 사용자에 의해 정의된 규칙(Rule)에 따라 사용자의 상황을 인식(context aware)하고, 그에 따른 액션(action)을 자동 실행하여 사용자에게 피드백(feedback)할 수 있는 사용자 디바이스에서 상황 인식 서비스 제공 방법 및 장치에 관한 것이다.
최근 디지털 기술의 발달과 함께 통신 및 개인정보 처리가 가능한 다양한 사용자 디바이스(user device)(예컨대, 이동통신 단말기, PDA(Personal Digital Assistant), 전자수첩, 스마트 폰, 태블릿 PC(Personal Computer)가 출시되고 있다. 사용자 디바이스는 각자의 전통적인 고유 영역에 머무르지 않고 다른 단말들의 영역까지 아우르는 모바일 컨버전스(mobile convergence) 단계에 이르고 있다. 예를 들어, 사용자 디바이스는 음성통화 및 영상통화 등과 같은 통화 기능, SMS(Short Message Service)/MMS(Multimedia Message Service) 및 이메일(e-mail) 등과 같은 메시지 송수신 기능, 내비게이션 기능, 촬영 기능, 방송 재생 기능, 미디어(동영상 및 음악) 재생 기능, 인터넷 기능, 메신저 기능 및 소셜 네트워크 서비스(SNS, Social Networking Service) 기능 등의 다양한 기능들을 구비할 수 있다.
또한 최근에는 개인의 삶을 디지털 정보로 기록하는 라이프로그(life-log)에 대한 다양한 기술들이 개발되고 있으며, 이를 이용한 상황 인식 서비스(CAS, Context Aware Service)에 대한 관심이 높아지고 있다. 상기 상황 인식 서비스는 서비스 객체(object)가 정의하는 상황이 변경됨에 따라 서비스 여부와 서비스의 내용이 결정되는 서비스를 나타낸다. 여기서, 상황(Context)이란, 상황 인식 서비스 객체에 의해 정의된 서비스 행위를 결정하는 정보를 의미하며, 서비스 행위를 결정하는 정보에는 서비스의 제공 시점, 서비스의 제공 여부, 서비스의 제공 대상, 그리고 서비스의 제공 위치 등이 포함될 수 있다. 이러한 기술들은 개인의 행동을 특정 지을 수 있는 다양한 정보들을 저장하고, 이를 기초로 상황 인식 서비스를 제공하고 있다.
그러나 종래의 경우, 개인으로부터 정보를 수집하기 위하여 도메인(domain) 기반으로 다양한 센서 장치를 설치하여야 하는 부담이 있다. 종래에서의 상황 인식 시스템은 주로 센서로부터 데이터를 획득하는 사용자 디바이스, 사용자 디바이스의 센서로부터 획득된 데이터로부터 상황을 추출 및 해석하고, 상황에 적합한 서비스를 실행하는 서버로 이루어져 있다. 따라서 종래에서는 상황 인식 서비스를 지원하기 위해 사용자 디바이스가 다양한 센서를 구비해야 하며, 서버와의 연동에 의해 사용자 상황에 따른 서비스가 처리됨에 따라 시스템 구현에 비용적 측면 및 설계적 측면 등에서 어려움이 있다.
또한 종래의 경우, 사용자 디바이스로부터 수집하는 정보를 한정하고 있고, 또한 이러한 정보에 대한 효과적인 학습 과정이 부족하여 실질적으로 유효한 상황 인식 서비스를 제공하기 어려운 문제점이 있다. 예를 들어, 종래에서는 사용자가 상황 인식 서비스를 이용하고자 하는 경우 사용자 디바이스 제조사에 의해 정의된 규칙(Rule)에 한해서만 사용할 수 있으며, 이에 따라 모든 사용자의 사용성을 충족시킬 수 없는 문제점이 있다. 또한 종래에서는 사용자가 상황 인식 서비스를 이용하고자 하는 경우 별도의 프로그램을 실행하거나 또는 복잡한 설정 과정을 거쳐야만 이용 가능함에 따라, 일반 사용자의 접근성이 떨어지는 문제점이 있다. 더욱이, 종래에서는 하나의 상황 인식(Single Context Aware) 시나리오에 국한되어 있어 다양한 상황에 대한 조건 설정이 불가능한 문제점이 있다.
본 발명의 목적은 사용자 디바이스에서 사용자 정의에 따른 하나 또는 그 이상의 규칙에 따라 상황 인식 서비스를 지원할 수 있는 상황 인식 서비스 방법 및 장치를 제공함에 있다.
본 발명의 다른 목적은 사용자 디바이스에서 사용자에 의해 미리 정의되는 하나 또는 그 이상의 규칙에 대응하는 사용자의 각 상황들을 인식하고, 인식된 상황에 따른 해당 액션(action)을 자동 실행하여 사용자에게 하나 또는 그 이상으로 정의된 규칙 기반의 상황 정보(context information)를 피드백(feedback)할 수 있는 상황 인식 서비스 방법 및 장치를 제공함에 있다.
본 발명의 또 다른 목적은 사용자 디바이스에서 사용자가 자연어 기반의 텍스트 또는 음성을 통해 규칙(또는 상황), 해당 규칙 실행을 위한 명령 및 해당 규칙에 대해 실행할 액션을 정의할 수 있는 상황 인식 서비스 방법 및 장치를 제공함에 있다.
본 발명의 또 다른 목적은 사용자 디바이스에서 자연어 기반의 텍스트 또는 음성을 통해 규칙, 명령 및 액션을 정의하고, 자연어 기반의 텍스트 또는 음성에 따르거나, 또는 사용자 디바이스의 동작 감지에 따라 정의된 해당 규칙의 자동 실행을 지원함으로써, 상황 인식 서비스의 지원을 확장할 수 있는 상황 인식 서비스 방법 및 장치를 제공함에 있다.
본 발명의 또 다른 목적은 하나의 규칙에 다수의 조건들을 설정할 수 있고, 다수의 조건들에 대응하는 다중 상황 인식(multi context aware) 및 다중 상황 인식에 따른 다수의 액션들을 함께 수행할 수 있는 상황 인식 서비스 방법 및 장치를 제공함에 있다.
본 발명의 또 다른 목적은 규칙 정의 시 사용자 선호도에 따른 하나 또는 그 이상의 조건 설정이 가능한 상황 인식 서비스 방법 및 장치를 제공함에 있다.
본 발명의 또 다른 목적은 상황 인식 서비스를 지원하기 위한 최적의 환경을 구현하여 사용자 편의성 및 사용자 디바이스의 사용성을 향상시킬 수 있는 상황 인식 서비스 방법 및 장치를 제공함에 있다.
상기와 같은 과제를 해결하기 위한 본 발명의 실시 예에 따른 전자 장치는, 입력부; 디스플레이; 메모리; 및 상기 입력부, 상기 디스플레이 및 상기 메모리와 작동적으로 연결된 프로세서를 포함하고, 상기 프로세서는, 제 1 설정 메뉴 및 제 2 설정 메뉴를 포함하며, 사용자의 입력을 수신하기 위한 유저 인터페이스를 디스플레이하고, 상기 제 1 설정 메뉴를 이용하여, 제 1 커맨드를 수신 및 저장하고, 상기 제 2 설정 메뉴를 이용하여, 상기 제 1 커맨드와 관련된 적어도 하나의 액션을 설정 및 저장하고, 상기 입력부에 의해, 상기 제 1 커맨드에 대응하는 제 2 커맨드를 수신하고, 상기 제 1 커맨드 및 상기 제 2 커맨드가 일치하면, 상기 설정된 적어도 하나의 액션을 실행하도록 설정될 수 있다.
상기와 같은 과제를 해결하기 위한 본 발명의 실시 예에 따른 방법은, 커맨드에 따른 적어도 하나의 액션을 수행하는 방법으로서, 제 1 설정 메뉴 및 제 2 설정 메뉴를 포함하며, 사용자의 입력을 수신하기 위한 유저 인터페이스를 디스플레이하는 동작; 상기 제 1 설정 메뉴를 이용하여, 제 1 커맨드를 수신 및 저장하는 동작; 상기 제 2 설정 메뉴를 이용하여, 상기 제 1 커맨드와 관련된 적어도 하나의 액션을 설정 및 저장하는 동작; 상기 제 1 커맨드에 대응하는 제 2 커맨드를 수신하는 동작; 및 상기 제 1 커맨드 및 상기 제 2 커맨드가 일치하면, 상기 설정된 적어도 하나의 액션을 실행하는 동작을 포함할 수 있다.
상기와 같은 과제를 해결하기 위하여 본 발명의 실시 예에서는, 상기 방법을 프로세서에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록 매체를 포함할 수 있다.
전술한 바와 같은 내용들은 당해 분야 통상의 지식을 가진 자가 후술되는 본 발명의 구체적인 설명으로부터 보다 잘 이해할 수 있도록 하기 위하여 본 발명의 특징들 및 기술적인 장점들을 다소 넓게 약술한 것이다. 이러한 특징들 및 장점들 이외에도 본 발명의 청구범위의 주제를 형성하는 본 발명의 추가적인 특징들 및 장점들이 후술되는 본 발명의 구체적인 설명으로부터 잘 이해될 것이다.
상술한 바와 같이 본 발명에서 제안하는 사용자 디바이스에서 상황 인식 서비스 제공 방법 및 장치에 따르면, 사용자 디바이스에서 상황 인식 서비스를 위한 규칙(Rule)(또는 상황)을 사용자 정의에 따라 다양하게 설정이 가능하다. 따라서 본 발명에 따르면, 사용자 디바이스에서 사용자에 의해 정의되는 하나 또는 그 이상의 규칙에 대응하는 사용자의 각 상황들을 인식하고, 인식된 상황에 정의된 해당 규칙에 따라 하나 또는 그 이상의 액션(action)을 실행할 수 있다. 그리고 액션 실행에 따른 내부 또는 외부의 하나 또는 그 이상의 상황 정보(context information)를 사용자에게 다양한 방식으로 피드백(feedback)할 수 있다.
본 발명에 따르면, 사용자는 사용자 디바이스를 이용하여 자연어 기반의 텍스트 또는 음성을 통해 상황 인식 서비스를 위한 규칙(또는 상황), 해당 규칙 실행을 위한 명령 및 해당 규칙에 대해 실행할 액션을 정의할 수 있다. 따라서 본 발명에서는 사용자 디바이스 제조사에 의해 정의된 규칙을 비롯하여 사용자가 정의하는 하나 또는 그 이상의 조건에 따른 다양한 규칙 설정이 가능하다. 또한 본 발명에 따르면, 사용자 디바이스에서 자연어 기반의 텍스트 또는 음성을 통해 규칙과 명령을 정의하고, 자연어 기반의 텍스트 또는 음성에 따르거나, 또는 사용자 디바이스의 동작 감지에 따라 정의된 해당 규칙이 자동으로 실행되도록 할 수 있다. 이에 의해, 본 발명에서는 상황 인식 서비스의 지원 범위를 확장할 수 있고, 각 사용자 별로 사용성을 충족시킬 수 있다.
본 발명에 따르면, 하나의 규칙에 다수의 조건들을 설정할 수 있고, 다수의 조건들에 대응하는 다중 상황 인식(multi context aware) 시나리오를 지원할 수 있다. 이에 따라, 본 발명에서는 사용자의 선호도(preference)에 따른 다양한 조건 설정이 가능하며, 또한 다중 상황 인식 시나리오에 대응하여 복수의 액션들을 한 번에 수행할 수 있다. 또한 본 발명에 따르면, 통계 기반의 상황 인식(context aware)을 지원하는 종래 기술에 반해, 추천 기능과 혼용하여 상황 인식을 수행함에 따라 상황 인식의 기능성을 향상할 수 있으며, 결과적으로 상황 인식의 정확도를 향상시킬 수 있다.
본 발명에 따르면 사용자에게 상황 인식 서비스를 지원하기 위한 최적의 환경을 구현함으로써, 사용자의 편의성을 향상시키고, 사용자 디바이스의 사용성, 편의성 및 경쟁력을 향상시키는데 기여할 수 있다. 이러한 본 발명은 이동통신 단말기, 스마트 폰, 태블릿 PC, PDA 등과 같은 모든 형태의 사용자 디바이스뿐만 아니라, 상황 인식 서비스가 가능한 다양한 디바이스들에 구현될 수 있다.
도 1은 본 발명의 실시 예에 따른 사용자 디바이스의 구성을 개략적으로 도시한 도면이다.
도 2는 본 발명의 실시 예에 따른 사용자 디바이스에서 상황 인식 서비스를 운용하는 방법을 도시한 흐름도이다.
도 3a 내지 도 3k는 본 발명의 실시 예에 따른 사용자 디바이스에서 규칙을 생성하는 동작 예시를 도시한 도면들이다.
도 4a 내지 도 4j는 본 발명의 실시 예에 따른 사용자 디바이스에서 규칙을 생성하는 동작 예시를 도시한 도면들이다.
도 5a 내지 도 5e는 본 발명의 실시 예에 따른 사용자 디바이스에서 규칙을 실행하는 동작 예시를 도시한 도면들이다.
도 6 내지 도 13은 본 발명의 실시 예에 따른 사용자 디바이스를 이용하여 상황 인식 서비스가 제공되는 동작 예시를 도시한 도면들이다.
도 14a 및 도 14b는 본 발명의 실시 에에 따른 사용자 디바이스에서 실행 중인 규칙을 일시 중지하는 동작 예시를 도시한 도면들이다.
도 15a 및 도 15b는 본 발명의 실시 예에 따른 사용자 디바이스에서 실행 중인 규칙을 일시 중지하는 동작 예시를 도시한 도면들이다.
도 16a 내지 도 16c는 본 발명의 실시 예에 따른 사용자 디바이스에서 실행 중인 규칙을 일시 중지하는 동작 예시를 도시한 도면들이다.
도 17은 본 발명의 실시 예에 따른 사용자 디바이스에서 실행 규칙에 대해 알림하는 동작 화면 예시를 도시한 도면이다.
도 18a 및 도 18b는 본 발명의 실시 예에 따른 사용자 디바이스에서 실행 규칙에 대해 알림하는 동작 화면 예시를 도시한 도면들이다.
도 19a 및 도 19b는 본 발명의 실시 예에 따른 사용자 디바이스에서 실행 규칙에 대해 알림하는 동작 화면 예시를 도시한 도면들이다.
도 20a 내지 도 20c는 본 발명의 실시 예에 따른 사용자 디바이스에서 실행 규칙에 대해 알림하는 동작 화면 예시를 도시한 도면들이다.
도 21a 및 도 21b는 본 발명의 실시 예에 따른 사용자 디바이스에서 실행 규칙에 대해 알림하는 동작 화면 예시를 도시한 도면들이다.
도 22a 내지 도 22c는 본 발명의 실시 예에 따른 사용자 디바이스에서 실행 중인 규칙을 종료하는 동작 예시를 도시한 도면들이다.
도 23a 및 도 23b는 본 발명의 실시 예에 따른 사용자 디바이스에서 실행 중인 규칙을 종료하는 동작 예시를 도시한 도면들이다.
도 24 및 도 25는 본 발명의 실시 예에 따른 사용자 디바이스에서 상황 인식 서비스를 종료하는 동작 예시를 도시한 도면들이다.
도 26a 및 도 26b는 본 발명의 실시 예에 따른 사용자 디바이스에서 규칙을 삭제하는 동작 예시를 도시한 도면들이다.
도 27은 본 발명의 실시 예에 따른 사용자 디바이스에서 규칙을 생성하는 동작을 도시한 흐름도이다.
도 28은 본 발명의 실시 예에 따른 사용자 디바이스에서 상황 인식 서비스가 제공되는 동작을 도시한 흐름도이다.
도 29는 본 발명의 실시 예에 따른 사용자 디바이스에서 상황 인식 서비스가 제공되는 동작을 도시한 흐름도이다.
도 30은 본 발명의 실시 예에 따른 사용자 디바이스에서 상황 인식 서비스가 제공되는 동작을 도시한 흐름도이다.
도 31a 내지 도 31n은 본 발명의 실시 예에 따른 사용자 디바이스에서 규칙을 생성하는 다른 동작 예시를 도시한 도면들이다.
도 32a 내지 도 32e는 본 발명의 실시 예에 따른 사용자 디바이스에서 규칙을 실행하는 다른 동작 예시를 도시한 도면들이다.
도 33a 내지 도 33d는 본 발명의 실시 예에 따른 사용자 디바이스에서 실행 중인 규칙을 일시 중지하는 다른 동작 예시를 도시한 도면들이다.
도 34a 내지 도 34d는 본 발명의 실시 예에 따른 사용자 디바이스에서 실행 중인 규칙을 종료하는 다른 동작 예시를 도시한 도면들이다.
이하, 첨부된 도면들을 참조하여 본 발명의 다양한 실시 예들을 상세히 설명한다. 이때, 첨부된 도면들에서 동일한 구성 요소는 가능한 동일한 부호로 나타내고 있음에 유의해야 한다. 또한 본 발명의 요지를 흐리게 할 수 있는 공지 기능 및 구성에 대한 상세한 설명은 생략할 것이다. 즉, 하기의 설명에서는 본 발명의 다양한 실시 예들에 따른 동작을 이해하는데 필요한 부분만이 설명되며, 그 이외 부분의 설명은 본 발명의 요지를 흩트리지 않도록 생략될 것이라는 것을 유의하여야 한다.
제안하는 본 발명은 사용자 디바이스(user device)에서 상황 인식 서비스(CAS, Context Aware Service)를 제공하는 방법 및 장치에 관한 것이다. 본 발명의 실시 예에 따르면. 사용자 디바이스에서 사용자에 의해 정의된 한 또는 그 이상의 규칙(Rule)에 따라 사용자의 다양한 상황(context)들에 대한 상황 인식(context aware)을 수행할 수 있다. 또한 본 발명의 실시 예에 따르면, 상황 인식에 따른 하나 또는 그 이상의 액션(action) 실행을 자동 처리하고, 액션 실행에 대응하는 상황 정보(context information)를 사용자 또는 정의된 타 사용자에게 피드백(feedback)할 수 있다. 본 발명의 다양한 실시 예에서, 상기 상황 정보는 사용자 디바이스를 통해 피드백 되거나, 외부 기기(예컨대, 텔레비전, 전등 등)의 제어를 통해 사용자에게 피드백 되거나, 또는 메시지 전송 등을 통해 타 사용자에게 피드백할 수 있다.
본 발명의 다양한 실시 예에서 상기 규칙은 자연어(또는 자연 언어)(natural language) 기반의 텍스트(예컨대, 필기(hand writing)) 또는 음성 입력을 통해 정의될 수 있다. 본 발명의 다양한 실시 예에서, 상기 자연어는 사람들이 일상적으로 사용하는 언어를 인공적으로 만들어진 언어인 인공어(또는 기계어)(artificial language)와 구분하여 부르는 개념이다. 본 발명의 다양한 실시 예에서 상기 규칙은 적어도 하나의 조건 및 적어도 하나의 액션으로 구분될 수 있으며, 상기 규칙을 생성하는 동작에 대해서는 후술될 것이다.
본 발명의 다양한 실시 예에서 미리 정의된 규칙에 대한 실행은 상기 규칙에 대응하는 명령(instruction) 수신을 통해 수행될 수 있다. 본 발명의 다양한 실시 예에서 상기 명령은 사용자 디바이스의 다양한 입력 수단(예컨대, 터치스크린, 키패드, 마이크 등)을 통해 입력되는 자연어 기반의 텍스트 또는 음성에 따른 명령어 또는 명령어 문장(sentence)(예컨대, 명령문)을 포함할 수 있다. 또한 상기 명령은 미리 정의된 규칙에 따라 사용자 디바이스의 다양한 센서(sensor)(예컨대, 근접센서, 조도센서, 가속도센서, 자이로센서, 음성센서 등)를 통해 감지되는 사용자 디바이스의 변화(예컨대, 자세 변화 등) 감지를 포함할 수 있다. 또한 상기 명령은 미리 정의된 규칙에 대응하는 외부의 메시지 또는 외부의 사운드 수신을 포함할 수도 있다. 또한 상기 명령은 미리 정의된 규칙에 대응하는 사용자(또는 사용자 디바이스)의 지역적 위치 변화를 포함할 수도 있다.
본 발명의 다양한 실시 예에서 상기 규칙을 실행하는 명령(예컨대, 명령어, 명령어 문장, 감지하고자 하는 사용자 디바이스의 동작 또는 동작 감지를 위한 센서 정의)은 자연어 기반의 음성 또는 텍스트 입력으로 설정될 수 있다. 또한 본 발명의 다양한 실시 예에서 상기 규칙을 실행하는 명령 중 명령어 또는 명령어 문장은 상기 규칙 정의 시 상기 규칙에 포함되는 자연어의 일부(예컨대, 단어), 일부 문장 또는 전체 문장으로 입력될 수 있다. 본 발명의 다양한 실시 예에서 상기 문장은 생각이나 감정을 말로 표현할 때 완결된 내용을 나타내는 최소의 단위일 수 있고, 주어와 서술어를 갖추고 있는 것이 원칙이나, 때로 주어와 서술어가 생략될 수도 있다. 또한 본 발명의 다양한 실시 예에서 상기 규칙을 실행하는 명령 중 사용자 디바이스의 동작 감지는 상기 규칙 정의 시 설정되는 하나 또는 그 이상의 센서들이 동작하는 것에 의해 입력될 수 있다.
본 발명의 다양한 실시 예에서 상기 액션은 실행 중인 규칙에서 해당 규칙에 대응하는 상황이 인지될 시 사용자 디바이스가 수행하는 동작을 포함할 수 있다. 본 발명의 다양한 실시 예에서 상기 액션은 사용자 디바이스의 내부 구성(예컨대, 표시부, 통신 모듈, 스피커 등)을 제어하여 해당 규칙에 대응하는 상황 정보를 사용자 디바이스를 통해 피드백하는 동작 제어(예컨대, 내부 동작 제어), 또는 사용자 디바이스의 외부 기기(예컨대, 텔레비전, 전등, 외부 스피커 등)를 제어하여 해당 규칙에 대응하는 상황 정보를 외부 기기를 통해 피드백하는 동작 제어(예컨대, 외부 동작 제어), 또는 사용자 디바이스의 내부 동작 및 외부 기기의 외부 동작을 함께 제어하는 것을 포함할 수 있다.
본 발명의 다양한 실시 예에서 상황 인식 서비스는 사용자 디바이스가 사용자에 의해 정의된 규칙에 따른 상황을 인식하고 판단하여 그에 대응하는 액션을 실행하고, 액션 실행에 따른 상황 정보를 사용자(또는 정의되는 타 사용자)에게 제공하는 서비스를 나타낸다. 상기 상황 정보는 사용자가 상호 작용(interaction)을 하는 시점에 이용할 수 있는 모든 정보로서 사용자(또는 사용자 디바이스)의 위치, 식별, 활동, 그리고 상태 등을 포함하며, 사용자 디바이스의 어플리케이션도 포함할 수 있다.이하에서, 본 발명의 실시 예에 따른 사용자 디바이스의 구성과 그의 운용 제어 방법에 대하여 하기 도면들을 참조하여 살펴보기로 한다. 본 발명의 실시 예에 따른 사용자 디바이스의 구성과 그의 운용 제어 방법이 하기에서 기술하는 내용에 제한되거나 한정되는 것은 아니므로 하기의 실시 예들에 의거하여 다양한 실시 예들에 적용할 수 있음에 유의하여야 한다.
도 1은 본 발명의 실시 예에 따른 사용자 디바이스의 구성을 개략적으로 도시한 도면이다.
상기 도 1을 참조하면, 본 발명의 사용자 디바이스는 무선 통신부(110), 사용자 입력부(120), 터치스크린(130), 오디오 처리부(140), 저장부(150), 인터페이스부(160), 제어부(170), 그리고 전원 공급부(180)를 포함하여 구성된다. 본 발명의 사용자 디바이스는 도 1에 도시된 구성 요소들 보다 많은 구성 요소들을 가지거나, 또는 그보다 적은 구성 요소들을 가지는 것으로 구현될 수 있다. 예를 들어, 본 발명의 실시 예에 따른 사용자 디바이스가 촬영 기능을 지원하는 경우 카메라 모듈(미도시)의 구성이 더 포함될 수도 있고, 본 발명의 실시 예에 따른 사용자 디바이스가 방송 수신 및 재생 기능을 지원하지 않는 경우 일부 모듈(예컨대, 상기 무선 통신부(110)의 방송 수신 모듈(119)의 구성은 생략될 수도 있다.
상기 무선 통신부(110)는 사용자 디바이스와 무선 통신 시스템 사이 또는 사용자 디바이스와 다른 사용자 디바이스 사이의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 예를 들어, 무선 통신부(110)는 이동통신 모듈(111), 무선 랜(WLAN, Wireless Local Area Network) 모듈(113), 근거리 통신 모듈(115), 위치 산출 모듈(117), 그리고 방송 수신 모듈(119) 등을 포함하여 구성될 수 있다.
이동통신 모듈(111)은 이동통신 네트워크 상에서 기지국, 외부의 단말, 그리고 다양한 서버들(예컨대, 통합 서버(integration server), 프로바이더 서버(provider server), 컨텐츠 서버(content server), 인터넷 서버(internet server), 클라우드 서버(cloud server) 등) 중 적어도 하나와 무선 신호를 송수신할 수 있다. 상기 무선 신호는 음성통화 신호, 화상통화 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다. 이동통신 모듈(111)은 제어부(170)의 제어에 따라 프로바이더 서버 또는 컨텐츠 서버 등에 접속하여 상황 인식 서비스를 위한 다양한 규칙을 다운로드(download)할 수 있다. 상기 이동통신 모듈(111)은 제어부(170)의 제어에 따라 액션 실행에 대한 결과(상황 정보)를 적어도 하나의 타겟 사용자 디바이스에게 전송할 수 있다. 또한 상기 이동통신 모듈(111)은 제어부(170)의 제어에 따라 특정 규칙이 실행 중인 상태에서 상기 특정 규칙에 정의된 조건에 부합되는 메시지를 수신할 수 있다.
무선 랜 모듈(113)은 무선 인터넷 접속 및 다른 사용자 디바이스와 무선 랜 링크(link)를 형성하기 위한 모듈을 나타내는 것으로, 사용자 디바이스에 내장되거나 외장될 수 있다. 무선 인터넷 기술로는 무선 랜(Wi-Fi), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), 그리고 HSDPA(High Speed Downlink Packet Access) 등이 이용될 수 있다. 무선 랜 모듈(113)은 다양한 서버들과 무선 랜 통신이 연결될 시 상황 인식 서비스를 위한 다양한 데이터(예컨대, 규칙 포함)를 수신 받을 수 있다. 또한 무선 랜 모듈(113)은 다른 사용자 디바이스와 무선 랜 링크가 형성될 시 사용자 선택에 따른 상황 인식 서비스를 위한 다양한 데이터(예컨대, 규칙 포함)를 다른 사용자 디바이스로 전송하거나 다른 사용자 디바이스로부터 수신 받을 수 있다. 또는 무선 랜 모듈(113)은 무선 랜을 통해 상황 인식 서비스를 위한 다양한 데이터(예컨대, 규칙 포함)를 클라우드 서버 등으로 전송하거나 클라우드 서버로부터 수신 받을 수 있다. 상기 무선 랜 모듈(113)은 제어부(170)의 제어에 따라 액션 실행에 대한 결과(상황 정보)를 적어도 하나의 타겟 사용자 디바이스에게 전송할 수 있다. 또한 상기 무선 랜 모듈(113)은 제어부(170)의 제어에 따라 특정 규칙이 실행 중인 상태에서 상기 특정 규칙에 정의된 조건에 부합되는 메시지를 수신할 수 있다.
근거리 통신 모듈(115)은 근거리 통신(short range communication)을 위한 모듈을 나타낸다. 근거리 통신 기술로 블루투스(Bluetooth), 블루투스 저에너지(BLE, Bluetooth Low Energy), RFID(Radio Frequency Identification), 적외선 통신(IrDA, Infrared Data Association), UWB(Ultra Wideband), 지그비(ZigBee), 그리고 NFC(Near Field Communication) 등이 이용될 수 있다. 또한 근거리 통신 모듈(115)은 다른 사용자 디바이스와 근거리 통신이 연결될 시 사용자 선택에 따른 상황 인식 서비스를 위한 다양한 데이터(예컨대, 규칙 포함)를 다른 사용자 디바이스로 전송하거나 수신 받을 수 있다.
위치 산출 모듈(115)은 사용자 디바이스의 위치를 획득하기 위한 모듈로서, 대표적인 예로는 GPS(Global Position System) 모듈이 있다. 위치 산출 모듈(115)은 3개 이상의 기지국으로부터 떨어진 거리 정보와 정확한 시간 정보를 산출한 다음 상기 산출된 정보에 삼각법을 적용함으로써, 위도(latitude), 경도(longitude), 및 고도(altitude)에 따른 3차원의 현 위치 정보를 산출할 수 있다. 또는 위치 산출 모듈(115)은 3개 이상의 위성들로부터 사용자 디바이스의 위치 정보를 실시간으로 계속 수신함으로써 위치 정보를 산출할 수도 있다. 사용자 디바이스의 위치 정보는 다양한 방법에 의해 획득될 수 있다.
방송 수신 모듈(119)은 방송 채널(예컨대, 위성 방송 채널, 지상파 방송 채널 등)을 통하여 외부의 방송 관리 서버로부터 방송 신호(예컨대, TV 방송 신호, 라디오 방송 신호, 데이터 방송 신호 등) 및/또는 상기 방송과 관련된 정보(예컨대, 방송 채널, 방송 프로그램 또는 방송 서비스 제공자에 관련한 정보 등)를 수신할 수 있다.
사용자 입력부(120)는 사용자 디바이스의 동작 제어를 위한 입력 데이터를 사용자 입력에 대응하여 발생시킨다. 사용자 입력부(120)는 키패드(key pad), 돔 스위치(dome switch), 터치패드(정압/정전), 조그 휠(jog wheel), 조그 스위치(jog switch), 센서(예컨대, 음성센서, 근접센서, 조도센서, 가속도센서, 자이로센서 등) 등을 포함하여 구성될 수 있다. 상기 사용자 입력부(120)는 사용자 디바이스의 외부에 버튼 형태로 구현될 수 있으며, 일부 버튼들은 터치 패널(touch panel)로 구현될 수도 있다. 사용자 입력부(120)는 규칙 정의 및 규칙 실행(예컨대, 명령)을 위한 사용자 입력(예컨대, 텍스트 입력, 음성 입력, 사용자 디바이스 동작 변화 등)이 수신될 시 그에 따른 입력 데이터를 발생시킬 수 있다.
터치스크린(130)은 입력 기능과 표시 기능을 동시에 수행하는 입출력 수단으로, 표시부(131)와 터치감지부(133)를 포함할 수 있다. 본 발명의 실시 예에서 터치스크린(130)은 상기 표시부(131)를 통해 사용자 디바이스 운용에 따른 화면(예컨대, 규칙(조건 및 액션) 설정 화면, 통화 발신을 위한 화면, 메신저 화면, 게임 화면, 갤러리 화면 등) 표시 중에, 상기 터치감지부(133)에 의한 사용자의 터치 이벤트(예컨대, 하나 또는 그 이상의 터치(touch), 탭(tap), 드래그(drag), 스윕(sweep), 플릭(flick) 등)가 입력되면, 상기 터치 이벤트에 따른 입력신호를 상기 제어부(180)에게 전달할 수 있다. 그러면, 제어부(180)는 상기 터치 이벤트를 구분하고, 터치 이벤트에 따른 동작 수행을 제어할 수 있다. 예를 들어, 표시부(131)에 규칙 설정 화면이 표시된 상태에서 터치감지부(133)에 의해 사용자의 자연어 기반의 텍스트가 필기되는 터치 이벤트가 입력되면, 제어부(170)는 상기 터치 이벤트에 따라 규칙을 생성하는 동작을 수행할 수 있다.
표시부(131)는 사용자 디바이스에서 처리되는 정보를 표시(출력)할 수 있다. 예를 들어, 사용자 디바이스가 통화모드인 경우 통화와 관련된 사용자 인터페이스(UI, User Interface) 또는 그래픽 사용자 인터페이스(GUI, Graphical UI)를 표시할 수 있다. 또한 표시부(131)는 사용자 디바이스가 화상통화 모드 또는 촬영 모드인 경우에는 촬영 또는/및 수신된 영상 또는 UI, GUI를 표시할 수 있다. 특히, 표시부(131)는 상황 인식 서비스 운용과 관련된 다양한 UI, GUI를 표시할 수 있다. 예를 들어, 표시부(131)는 사용자 입력에 따른 규칙 설정, 규칙 실행 상태, 규칙에 대응하는 액션 실행 상태, 그리고 액션 실행에 따른 결과(예컨대, 상황 정보) 등과 관련된 다양한 UI, GUI를 표시할 수 있다. 또한 표시부(131)는 사용자 디바이스의 회전 방향(또는 놓인 방향)에 따라 가로모드에 의한 화면 표시, 세로모드에 의한 화면 표시 및 가로모드와 세로모드 간의 변화에 따른 화면 전환 표시를 지원할 수 있다. 본 발명에서 운용되는 표시부(131)의 화면 예시에 대해 후술될 것이다.
표시부(131)는 액정 디스플레이(LCD, Liquid Crystal Display), 박막 트랜지스터 액정 디스플레이(TFT LCD, Thin Film Transistor-LCD), 발광 다이오드(LED, Light Emitting Diode), 유기 발광 다이오드(OLED, Organic LED), 능동형 OLED(AMOLED, Active Matrix OLED), 플렉서블 디스플레이(flexible display), 벤디드 디스플레이(bended display), 그리고 3차원 디스플레이(3D display) 중에서 적어도 하나를 포함할 수 있다. 이들 중 일부 디스플레이는 외부를 볼 수 있도록 투명형 또는 광투명형으로 구성되는 투명 디스플레이(transparent display)로 구현될 수 있다.
터치감지부(133)는 상기 표시부(131)에 안착될 수 있으며, 상기 터치스크린(130) 표면에 접촉하는 사용자의 터치 이벤트(예컨대, 싱글터치 이벤트, 멀티터치 이벤트, 터치 기반의 제스처 이벤트 등)을 감지할 수 있다. 터치감지부(133)는 상기 터치스크린(130) 표면에 사용자의 터치 이벤트를 감지할 시 상기 터치 이벤트가 발생된 좌표를 검출하고, 검출된 좌표를 상기 제어부(180)에게 전송할 수 있다. 터치감지부(133)는 사용자에 의해 발생되는 터치 이벤트를 감지하고, 감지된 터치 이벤트에 따른 신호를 생성하여 상기 제어부(180)에게 전송할 수 있다. 제어부(180)는 상기 터치감지부(133)에서 전송되는 신호에 의해 터치 이벤트가 발생된 영역에 해당하는 기능을 수행할 수 있다.
터치감지부(133)는 표시부(131)의 특정 부위에 가해진 압력 또는 표시부(131)의 특정 부위에 발생하는 정전 용량 등의 변화를 전기적인 입력신호로 변환하도록 구성될 수 있다. 터치감지부(133)는 터치되는 위치 및 면적뿐만 아니라, 적용한 터치 방식에 따라 터치 시의 압력까지도 검출할 수 있도록 구성될 수 있다. 터치감지부(133)에 대한 터치 입력이 있는 경우, 그에 대응하는 신호(들)는 터치 제어기(미도시)로 전달될 수 있다. 터치 제어기(미도시)는 그 신호(들)를 처리한 다음 대응하는 데이터를 제어부(170)로 전송할 수 있다. 이로써, 제어부(170)는 표시부(131)의 어느 영역이 터치되었는지 여부 등을 알 수 있다.
오디오 처리부(140)는 제어부(170)로부터 입력 받은 오디오 신호를 스피커(SPK, speaker)(141)로 전송하고, 마이크(MIC, microphone)(143)로부터 입력 받은 음성 등의 오디오 신호를 제어부(170)로 전달하는 기능을 수행할 수 있다. 오디오 처리부(140)는 음성/음향 데이터를 제어부(170)의 제어에 따라 스피커(141)를 통해 가청음으로 변환하여 출력하고 마이크(143)로부터 수신되는 음성 등의 오디오 신호를 디지털 신호로 변환하여 제어부(170)로 전달할 수 있다.
스피커(141)는 통화 모드, 녹음(녹화) 모드, 음성인식 모드, 방송수신 모드, 촬영 모드, 그리고 상황 인식 서비스 모드 등에서 무선 통신부(110)로부터 수신되거나, 또는 저장부(150)에 저장된 오디오 데이터를 출력할 수 있다. 스피커(141)는 사용자 디바이스에서 수행되는 기능(예컨대, 규칙 실행, 액션 실행, 상황 정보 피드백, 통화 연결 수신, 통화 연결 발신, 촬영, 미디어 컨텐츠(예컨대, 음악 파일, 동영상 파일 등) 재생 등)과 관련된 음향 신호를 출력할 수도 있다.
마이크(143)는 통화 모드, 녹음(녹화) 모드, 음성인식 모드, 촬영 모드, 메신저 모드, 그리고 상황 인식 서비스 모드 등에서 외부의 음향 신호를 입력 받아 전기적인 음성 데이터로 처리할 수 있다. 처리된 음성 데이터는 예컨대, 통화모드인 경우 이동통신 모듈(111)을 통하여 이동통신 기지국으로 송신 가능한 형태로 변환되어 출력될 수 있다. 마이크(143)에는 외부의 음향 신호를 입력 받는 동작에서 발생되는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수 있다. 마이크(143)는 규칙 정의 및 규칙 실행(명령)을 위한 사용자 입력(예컨대, 자연어 기반의 텍스트 또는 음성 등의 입력)이 수신될 시 그에 따른 입력 데이터를 발생하여 제어부(170)에게 전달할 수 있다.
저장부(150)는 제어부(170)의 처리 및 제어를 위한 프로그램(program)을 저장할 수도 있고, 입/출력되는 데이터들(예컨대, 규칙 정보, 명령 정보, 액션 정보, 상황 정보, 컨택트(contact) 정보, 메시지, 미디어 컨텐츠(예컨대, 오디오, 동영상, 전자도서 등) 등)의 임시 저장을 위한 기능을 수행할 수도 있다. 저장부(150)에는 사용자 디바이스 기능 운용에 따른 사용 빈도(예컨대, 규칙 사용빈도, 명령 사용빈도, 어플리케이션 사용빈도, 데이터(예컨대, 전화번호, 메시지, 미디어 컨텐츠)에 대한 사용빈도 등), 중요도 및 우선순위도 함께 저장될 수 있다. 저장부(150)에는 사용자 입력부(120)에 의한 사용자 입력에 응답하여 출력되는 다양한 패턴(pattern)의 진동 및 음향 또는 터치스크린(130) 상의 터치 입력에 응답하여 출력되는 다양한 패턴의 진동 및 음향에 관한 데이터를 저장할 수도 있다. 특히, 저장부(150)는 사용자 정의에 따른 규칙, 정의되는 규칙 별 명령(예컨대, 규칙 실행 명령), 규칙 별 실행 액션(예컨대, 기능 또는 어플리케이션), 그리고 규칙 종료 조건 등이 매칭되는 매핑 테이블을 저장할 수 있다.
저장부(150)는 사용자 디바이스의 운영체제(OS, Operating System), 터치스크린(130)을 이용한 입력 및 표시 제어 동작과 관련된 프로그램, 상황 인식 서비스를 운용하는 제어 동작(예컨대, 규칙(예컨대, 조건 및 액션) 생성, 규칙(예컨대, 조건)에 따른 상황 인식, 규칙에 따른 액션 실행, 상황 정보 피드백 등)과 관련된 프로그램, 그리고 각 프로그램들의 동작에 의해 발생되는 데이터 등을 지속적으로 또는 일시적으로 저장할 수 있다. 또한 저장부(150)는 본 발명의 실시 예에 따른 상황 인식 서비스를 지원하는 것과 관련된 다양한 설정정보를 저장할 수 있다. 상기 설정정보는 상황 인식 서비스를 지원함에 있어서 음성을 기반으로 할 것인지, 또는 텍스트를 기반으로 할 것인지에 대한 정보를 포함할 수 있다. 또한 상기 설정정보는 규칙 별 하나 또는 그 이상의 조건 및 상기 조건 별 액션을 포함하는 규칙을 포함할 수 있고, 또한 상기 정의된 규칙을 실행하는 명령이 더 포함될 수도 있다.
저장부(150)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 마이크로 타입(micro type), 및 카드 타입(예컨대, SD 카드(Secure Digital Card) 또는 XD 카드(eXtream Digital Card) 등의 메모리(memory)와, 램(RAM, Random Access Memory), DRAM(Dynamic RAM), SRAM(Static RAM), 롬(ROM, Read-Only Memory), PROM(Programmable ROM), EEPROM(Electrically Erasable PROM), 자기 메모리(MRAM, Magnetic RAM), 자기 디스크(magnetic disk), 및 광디스크(optical disk) 타입의 메모리 중 적어도 하나의 타입의 저장 매체(storage medium)를 포함할 수 있다. 사용자 디바이스는 인터넷 상에서 상기 저장부(150)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작할 수도 있다.
인터페이스부(160)는 사용자 디바이스에 연결되는 모든 외부 기기와의 통로 역할을 수행할 수 있다. 인터페이스부(160)는 외부 기기로부터 데이터를 전송 받거나 전원을 공급받아 사용자 디바이스 내부의 각 구성 요소에 전달하거나, 사용자 디바이스 내부의 데이터가 외부 기기로 전송되도록 할 수 있다. 예를 들어, 유/무선 헤드셋 포트(port), 외부 충전기 포트, 유/무선 데이터 포트, 메모리 카드(memory card) 포트, 식별 모듈이 구비된 장치를 연결하는 포트, 오디오 입/출력(Input/Output) 포트, 비디오 입/출력 포트, 이어폰 포트 등이 인터페이스부(160)에 포함될 수 있다.
제어부(170)는 사용자 디바이스의 전반적인 동작을 제어할 수 있다. 예를 들어, 음성 통신, 데이터 통신, 화상 통신 등에 관련된 제어를 수행할 수 있다. 제어부(170)는 본 발명의 다양한 실시 예에서 상황 인식 서비스를 제공하는 것과 관련된 전반적인 동작을 제어할 수 있다. 본 발명의 다양한 실시 예에 따르면, 제어부(170)는 규칙 설정 모듈(173), 규칙 실행 모듈(175), 조건 감지 모듈(177), 그리고 액션 실행 모듈(179)을 포함하는 데이터 처리 모듈(171)을 포함할 수 있다. 상기 규칙 설정 모듈(173), 규칙 실행 모듈(175), 조건 감지 모듈(177), 그리고 액션 실행 모듈(179)에 관한 동작은 아래에서 설명되는 도면들과 관련하여 설명될 것이다. 또한 제어부(170)는 상황 인식 서비스 운용을 위한 상황 인식 서비스 프레임워크(framework)(미도시), 멀티미디어 재생을 위한 멀티미디어 모듈(미도시)을 구비할 수도 있다. 본 발명에서 상황 인식 서비스 프레임워크(미도시) 및 멀티미디어 모듈(미도시)은 제어부(170) 내에 구현될 수도 있고, 제어부(170)와 별도로 구현될 수도 있다.
본 발명의 실시 예에 따르면, 제어부(170)는 사용자 입력에 따라 정의되는 규칙 설정, 사용자 정의에 따른 규칙 실행, 정의된 규칙에 대응하는 상황 인식, 정의된 규칙에 따른 액션 실행, 그리고 액션 실행에 따른 상황 정보의 피드백 등과 관련된 상황 인식 서비스의 운용을 제어할 수 있다. 제어부(170)(예컨대, 규칙 설정 모듈(173))는 사용자 입력(예컨대, 자연어 기반의 음성 또는 텍스트 입력)에 따라 상황 인식 서비스를 위한 규칙을 정의할 수 있다. 제어부(170)(예컨대, 규칙 실행 모듈(175))는 상기 설정된 규칙에 따른 규칙 실행을 위한 명령이 감지되면 상기 명령에 대응하는 하나 또는 그 이상의 규칙 실행을 제어할 수 있다. 제어부(170)(예컨대, 조건 감지 모듈(177))는 상기 규칙 실행에 응답하여 실행된 해당 규칙에 따른 조건(또는 상황)을 감지 및 인식할 수 있다. 제어부(170)(예컨대, 액션 실행 모듈(179))는 해당 규칙에 따른 조건이 인식될 시 상기 실행된 해당 규칙에 대응하는 액션 실행을 제어할 수 있다. 제어부(170)(예컨대, 액션 실행 모듈(179))는 액션에 대응하는 하나의 기능(또는 어플리케이션) 또는 적어도 두 개 이상의 복합 기능(또는 어플리케이션)을 실행하고, 실행하는 기능(또는 어플리케이션)에 대응하는 해당 동작 수행을 제어할 수 있다.
또한 제어부(170)는 규칙 실행 모듈(175)에 의해 사용자 요청에 따른 하나 또는 그 이상의 규칙이 실행된 상태에서 조건 감지 모듈(177)에 의해 이벤트의 발생(예컨대, 규칙에 설정된 조건에 대응하는 동작 감지)을 검출하면, 액션 실행 모듈(179)을 통해 상기 실행 규칙에서 상기 이벤트에 대한 액션 실행을 위해 정의된 기능을 추출할 수 있다. 그리고 제어부(170)는 액션 실행 모듈(179)에 의해 상기 추출된 기능에 대응하는 액션을 실행을 제어할 수 있다. 제어부(170)는 규칙 실행 모듈(175)에 의해 사용자 요청에 따른 하나 또는 그 이상의 규칙이 실행된 상태에서 이벤트의 발생이 없으면, 조건 감지 모듈(175)에 의해 현재 상황이 실행된 하나 또는 그 이상의 규칙을 종료하는 규칙 종료 조건에 해당하는지 판별할 수 있다. 제어부(170)는 조건 감지 모듈(177)에 의해 상기 규칙 종료 조건이 감지되면 규칙 실행 모듈(175)에 의해 상기 실행된 규칙의 종료를 제어할 수 있다.
또한 제어부(170)는 규칙 실행 모듈(175)에 의해 하나 또는 그 이상의 규칙이 실행된 상태에서 조건 감지 모듈(177)에 의해 인식된 조건에 따른 액션을 실행할 시 액션 실행 모듈(179)에 의해 액션 실행에 대응하는 상황 정보의 피드백 동작을 제어할 수 있다. 또한 제어부(170)는 규칙 실행 모듈(175)에 의해 하나 또는 그 이상의 규칙이 실행된 상태에서 조건 감지 모듈(177)에 의해 인식된 조건에 따라 실행된 규칙을 종료할 시 액션 실행 모듈(179)에 의해 액션 종료에 대응하는 피드백 동작을 제어할 수 있다.
본 발명의 다양한 실시 예에서 상기 액션 실행에 따른 피드백 동작은 액션 실행에 대한 결과(예컨대, 상황 정보)를 표시부(131) 등을 통해 사용자에게 출력하거나, 또는 액션 실행에 대한 결과(예컨대, 상황 정보)를 무선 통신부(110)를 통해 다른 사용자에게 전송하는 것을 포함할 수 있다. 또한 상기 액션 실행에 따른 피드백 동작은 액션 실행에 대응하여 외부의 기기(예컨대, 전등, 텔레비전 등)의 동작(예컨대, 기기 턴-온(turn-on) 또는 턴-오프(turn-off), 기기 볼륨 가감 등)을 제어하기 위한 제어 신호를 해당 외부의 기기로 전송하는 것을 포함할 수 있다. 본 발명의 다양한 실시 예에서 상기 규칙 종료에 따른 피드백 동작은 청각(예컨대, 스피커(141)를 통한 설정된 음향 데이터 출력), 시각(예컨대, 표시부(131)를 통한 설정된 화면 표시), 그리고 촉각(예컨대, 진동 모듈(미도시)를 통한 설정된 진동 패턴 출력)의 요소 중 적어도 하나를 통해 사용자 디바이스의 사용자에게 제공하는 것을 포함할 수 있다.
이러한 제어부(170)의 상세 제어 동작에 대해 후술하는 도면들을 참조한 사용자 디바이스의 동작 예시 및 그의 제어 방법에서 설명될 것이다.
그리고 본 발명의 다양한 실시 예에 따른 제어부(170)는 상기의 동작 제어 외에 사용자 디바이스의 통상적인 기능과 관련된 각종 동작을 제어할 수도 있다. 예를 들어, 제어부(170)는 특정 어플리케이션을 실행할 시 실행하는 어플리케이션의 운용 및 화면 표시를 제어할 수 있다. 또한 제어부(170)는 터치 기반의 입력 인터페이스(예컨대, 터치스크린(130))에서 지원하는 다양한 터치 이벤트 입력에 대응하는 입력신호를 수신하고, 수신된 입력신호에 따른 기능 운용을 제어할 수 있다. 또한 제어부(170)는 유선통신 기반 또는 무선통신 기반으로 각종 데이터의 송수신을 제어할 수도 있다.
전원 공급부(180)는 제어부(170)의 제어에 의해 외부의 전원, 내부의 전원을 인가받아 각 구성 요소들의 동작에 필요한 전원을 공급할 수 있다.
이상에서 살펴본 바와 같이, 본 발명의 다양한 실시 예에 따른 사용자 디바이스는, 한 실시 예에 따르면, 자연어 기반의 음성 또는 텍스트를 이용한 규칙 설정을 위한 사용자 입력을 받아들이고, 상기 사용자 입력에 따른 규칙을 설정하기 위한 컴퓨터에 의해 실행되는(computer-implemented) 규칙 설정 모듈(173), 자연어 기반의 음성 또는 텍스트, 사용자 디바이스의 동작 감지 또는 외부의 메시지 수신을 이용한 규칙 실행을 위한 명령을 받아들이고, 상기 명령에 따른 규칙을 실행하기 위한 컴퓨터에 의해 실행되는 규칙 실행 모듈(175), 규칙에 설정된 하나 또는 그 이상의 조건(상황)에 반응하여 내부 또는 외부에서 발생되는 하나 또는 그 이상의 조건을 감지(인식)하기 위한 컴퓨터에 의해 실행되는 조건 감지 모듈(177), 규칙에 설정된 하나 또는 그 이상의 조건 인식에 반응하여 하나 또는 그 이상의 액션 실행을 제어하기 위한 컴퓨터에 의해 실행되는 액션 실행 모듈(179)에 의해 구현될 수 있다.
본 발명의 다양한 실시 예에서 상기 규칙 설정 모듈(175)은 규칙 설정 모드에서 사용자에 의한 자연어 기반의 음성 또는 텍스트 입력에 반응하여 상기 음성 또는 텍스트를 인식(예컨대, 음성 인식, 필기 인식)하도록 동작할 수 있다. 본 발명의 다양한 실시 예에서 상기 규칙 설정 모듈(175)은 하나의 규칙에 대해 다수의 조건들을 설정할 수 있고, 다수의 조건들에 대응하는 다수의 액션들을 설정하도록 동작할 수 있다. 본 발명의 다양한 실시 예에서 상기 조건 감지 모듈(177)은 하나의 규칙에 설정된 다수의 조건들에 대응하는 다중 상황 인식(multi context aware)을 수행하도록 동작할 수 있다. 본 발명의 다양한 실시 예에서 상기 액션 실행 모듈(179)은 하나의 규칙에서 다중 상황 인식에 반응하여 다수의 액션들을 동시 또는 순차적으로 수행하도록 동작할 수 있다.
본 발명에서 설명되는 다양한 실시 예들은 소프트웨어(software), 하드웨어(hardware) 또는 이들의 조합된 것을 이용하여 컴퓨터(computer) 또는 이와 유사한 장치로 읽을 수 있는 기록 매체 내에서 구현될 수 있다. 하드웨어적인 구현에 의하면, 본 발명에서 설명되는 실시 예들은 ASICs(Application Specific Integrated Circuits), DSPs(digital signal processors), DSPDs(digital signal processing devices), PLDs(programmable logic devices), FPGAs(field programmable gate arrays), 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로프로세서(microprocessors), 기타 기능 수행을 위한 전기적인 유닛(unit) 중 적어도 하나를 이용하여 구현될 수 있다.
그리고 일부의 경우에 본 명세서에서 설명되는 실시 예들이 제어부(170) 자체로 구현될 수 있다. 소프트웨어적인 구현에 의하면, 본 명세서에서 설명되는 절차 및 기능과 같은 실시 예들은 별도의 소프트웨어 모듈들(예컨대, 규칙 설정 모듈(173), 규칙 실행 모듈(175), 조건 감지 모듈(177) 또는 액션 실행 모듈(179))로 구현될 수 있다. 상기 소프트웨어 모듈들 각각은 본 명세서에서 설명되는 하나 이상의 기능 및 동작을 수행할 수 있다.
여기서, 상기 기록 매체는 사용자 입력에 따라 상황 인식 서비스를 위한 규칙을 정의하고, 상기 규칙 실행을 위한 명령이 검출되면 상기 명령에 대응하는 하나 또는 그 이상의 규칙을 실행하며, 상기 실행된 규칙에 따른 조건(상황)이 인식될 시 상기 실행 규칙에서 상기 조건에 대응하는 하나 또는 그 이상의 액션이 실행되도록 처리하는 프로그램을 저장한 컴퓨터로 읽을 수 있는 기록 매체를 포함할 수 있다. 또한, 상기 기록 매체는 자연어 기반의 음성 및 텍스트 중 적어도 하나의 사용자 입력을 조건 및 상기 조건에 대응하는 액션으로 구분하여 상기 조건 및 상기 액션을 포함하는 규칙을 설정하는 동작, 상기 규칙에 대응하는 명령에 반응하여 상기 규칙을 활성화하는 동작, 상기 규칙 활성화에 응답하여 상기 규칙에 따른 조건을 감지하는 동작, 상기 조건이 감지될 시 상기 조건에 대응하는 상기 액션을 실행하는 동작을 수행하는 프로그램을 저장한 컴퓨터로 읽을 수 있는 기록 매체를 포함할 수 있다.
이상에서 살펴본 바와 같은, 본 발명의 다양한 실시 예에 따른 사용자 디바이스는 본 발명의 기능을 지원하는 모든 정보통신기기, 멀티미디어기기 및 그에 대한 응용기기와 같이 AP(Application Processor), GPU(Graphic Processing Unit), CPU(Central Processing Unit)를 사용하는 모든 디바이스를 포함할 수 있다. 예를 들어, 상기 사용자 디바이스는 다양한 통신 시스템에 대응되는 각 통신 프로토콜들(communication protocols)에 의거하여 동작하는 이동통신 단말기를 비롯하여, 태블릿(tablet) PC(Personal Computer), 스마트 폰(Smart Phone), 디지털 카메라(Digital Camera), PMP(Portable Multimedia Player), 미디어 플레이어(Media Player)(예컨대, MP3 플레이어), 휴대게임단말, 및 PDA(Personal Digital Assistant) 등의 디바이스를 포함할 수 있다. 아울러, 본 발명의 다양한 실시 예에 따른 기능 제어 방법은 디지털 TV(Digital Television), DS(Digital Signage), LFD(Large Format Display) 등과 같이 다양한 디스플레이 디바이스, 노트북 등과 같은 랩탑 컴퓨터 및 개인용 컴퓨터(PC) 등에 적용되어 운용될 수도 있다.
도 2는 본 발명의 실시 예에 따른 사용자 디바이스에서 상황 인식 서비스를 운용하는 방법을 도시한 흐름도이다.
상기 도 2를 참조하면, 제어부(170)(예컨대, 규칙 설정 모듈(173))는 사용자 입력부(120), 마이크(143) 또는 터치스크린(130)을 통해 상황 인식 서비스를 위한 규칙을 정의하는 입력이 발생하면, 사용자로부터 입력(또는 선택)되는 규칙을 정의(예컨대, 규칙 설정 및 생성)할 수 있다(201단계).
예를 들어, 사용자는 규칙 설정 모드에서 마이크(143)를 통해 설정하고자 하는 규칙에 대응하는 자연어 기반의 음성을 입력할 수 있다. 또는 사용자는 규칙 설정 모드에서 터치스크린(130)을 통해 설정하고자 하는 규칙에 대응하는 자연어 기반의 텍스트를 입력할 수도 있다. 그러면, 제어부(170)(예컨대, 규칙 설정 모듈(173))는 사용자 입력을 인식(예컨대, 음성 인식 또는 필기 인식 등) 및 파싱(parsing)하여 실행할 규칙을 정의할 수 있다. 제어부(170)(예컨대, 규칙 실행 모듈(175))는 사용자에 의해 규칙이 정의될 시 설정된 규칙에 대한 규칙 실행을 대기(즉, 규칙 실행을 위한 명령 검출 대기)하는 활성화 상태로 관리할 수도 있다. 본 발명의 다양한 실시 예에서 규칙을 설정 및 생성하는 동작에 대해 후술하는 도면들(예컨대, 도 3a 내지 3k, 도 31a 내지 도 31n 등)과 관련하여 아래에서 설명될 것이다.
제어부(170)(예컨대, 규칙 실행 모듈(175))는 사용자 입력에 따른 하나 또는 그 이상의 규칙이 정의된 상태에서 특정 규칙의 실행을 위한 명령이 수신되면, 해당 규칙 실행을 제어할 수 있다(203단계).
예를 들어, 사용자는 사용자 입력부(120), 마이크(143) 또는 터치스크린(130)을 통해 미리 정의된 규칙을 실행하기 위한 명령어 또는 명령어 문장을 자연어 기반으로 입력할 수 있다. 사용자는 기능키 입력 기반, 음성 입력 기반, 터치 입력(예컨대, 텍스트의 필기 입력, 위젯 선택 등) 기반, 또는 사용자 디바이스를 이용한 제스처 기반(예컨대, 사용자 디바이스의 자세 변화(예컨대, 기울이기, 가속 운동 등) 등) 중 상황 인식 서비스의 활성화를 위한 하나 또는 그 이상의 규칙에 대응하는 특정 명령을 입력하는 것에 의해 해당 규칙을 실행할 수 있다. 이와 같이, 본 발명의 실시 예에서 상기 규칙 실행을 위한 명령은 규칙 실행을 위해 해당 규칙에 정의된 조건에 부합되는 사용자의 다양한 입력 방식을 포함할 수 있다. 또한 본 발명의 실시 예에서 상기 규칙 실행을 위한 명령은 상기 사용자에 의한 입력을 비롯하여, 규칙 실행을 위해 정의된 조건에 부합되는 특정 메시지 또는 사운드가 외부로부터 수신되는 것을 포함할 수 있다. 그러면, 제어부(170)(예컨대, 규칙 실행 모듈(175))는 규칙 실행을 위한 조건을 만족하는 특정 명령를 인식하고, 인식된 명령에 응답하여 해당 규칙을 실행하여 상황 인식 서비스의 활성화를 제어할 수 있다.
제어부(170)(예컨대, 조건 감지 모듈(177))는 실행되고 있는 규칙에 대응하는 조건(상황)을 트리거링(triggering)할 수 있다(205단계). 그리고 제어부(170)(예컨대, 액션 실행 모듈(179))은 실행 중인 규칙에 대응하는 조건이 트리거링되면, 상기 조건에 대응하는 하나 또는 그 이상의 액션 실행을 제어할 수 있다(207단계).
예를 들어, 제어부(170)(예컨대, 조건 감지 모듈(179))는 하나 또는 그 이상의 규칙이 실행될 시 해당 규칙에서 액션을 유발시키는 조건 또는 상황(triggering condition)을 감시할 수 있다. 그리고 제어부(170)(예컨대, 액션 실행 모듈(179))은 상기 액션을 유발하는 조건 또는 상황이 감지되면 해당 액션을 실행하기 위한 내부 또는 외부에 대한 동작을 제어할 수 있다. 여기서, 액션 실행은 정의된 규칙(예컨대, 조건 및 액션)에 따라 기능(또는 어플리케이션)을 실행하고 그에 따른 결과(예컨대, 상황 정보)를 생성하여 사용자 또는 타 사용자에게 피드백되도록 하는 동작을 포함할 수 있다.
한편, 본 발명의 실시 예에서는 상기 201단계에 따른 규칙 정의 동작은 사용자에 의해 미리 정의되어 저장된 상태일 수 있으며, 또는 사용자가 희망하는 규칙을 실행하기 전 사용자에 의해 추가 정의될 수도 있다. 따라서 전자의 경우에서 사용자는 규칙 실행을 위한 명령을 입력하는 203단계를 바로 수행할 수 있고, 후자의 경우에서 사용자는 규칙 정의 및 규칙 실행을 위한 명령을 입력하는 201단계 및 203단계를 모두 수행할 수도 있다.
도 3a 내지 도 3k는 본 발명의 실시 예에 따른 사용자 디바이스에서 규칙을 생성하는 동작 예시를 도시한 도면들이다.
상기 도 3a 내지 도 3k는 앞서 도 2를 참조한 설명에서 제어부(170)(예컨대, 규칙 설정 모듈(173))가 사용자 입력 중 자연어 기반의 음성 입력을 받아들이고, 상기 음성 입력에 반응하여 규칙(예컨대, 조건 및 액션)을 정의하는 동작의 예시를 도시한 것이다.
상기 도 3a 내지 도 3k를 참조하면, 상기 도 3a는 사용자 디바이스의 사용자가 본 발명의 실시 예에 따른 상황 인식 서비스를 위한 어플리케이션을 실행했을 때의 사용자 디바이스의 화면 예시를 나타낸 것이다.
상기 도 3a에 도시된 바와 같이, 상황 인식 서비스를 위한 어플리케이션은 사용자가 정의한 규칙의 리스트(list)를 표시하기 위한 제1 메뉴(menu)(310)(예컨대, 마이 메뉴, 도 3a에서 "My Rule"), 정의된 규칙들 중 현재 실행되고 있는 규칙의 목록을 표시하기 위한 제2 메뉴(320)(예컨대, 액팅 메뉴, 도 3a에서 "Acting Rule"), 새로운 규칙을 추가 정의하기 위한 제3 메뉴(350)(예컨대, 추가 메뉴, 도 3a에서 "Add Rule") 등을 포함하는 UI 또는 GUI(이하, 화면 인터페이스(display interface)라 칭함)를 제공할 수 있다.
또한 상기 화면 인터페이스는 제1 메뉴(310) 또는 제2 메뉴(320) 중 선택된 메뉴 아이템에 대응하는 리스트를 제공할 수 있다. 예를 들어, 상기 도 3a의 예시와 같이, 제1 메뉴(310)가 선택된 상태일 시 사용자에 의해 정의된 각 규칙에 대응하는 아이템(item)(예컨대, "집" 아이템(330), "택시" 아이템(340))의 리스트가 표시될 수 있다.
또한 상기 아이템(330, 340)은 해당 아이템에 설정된 상세 정보를 표시하기 위한 풀다운 메뉴(pull-down menu)(335)를 포함할 수 있다. 예를 들어, 사용자가 풀다운 메뉴(335)를 선택할 시 풀다운 메뉴(335)가 선택된 해당 아이템의 규칙에 설정된 세부 정보가 해당 아이템의 아래쪽으로 펼쳐져 표시될 수 있다.
상기 도 3a와 같은 상태에서, 사용자는 새로운 규칙을 추가 정의하기 위하여 제3 메뉴(350)(Add Rule)를 선택(예컨대, 탭 기반 터치 이벤트)할 수 있다. 그러면 사용자 디바이스의 제어부(170)(예컨대, 규칙 설정 모듈(173))는 규칙을 정의하기 위한 동작 개시인 것으로 결정하고, 그에 따라 규칙 설정 모드로 전환하여 그에 따른 화면 인터페이스를 표시할 수 있다. 이러한 예시가 상기 도 3b에 도시되어 있다.
상기 도 3b는 사용자 디바이스의 사용자가 규칙을 정의하기 위한 규칙 설정 모드를 실행했을 때의 사용자 디바이스의 화면 예시를 나타낸 것이다. 본 발명의 실시 예에서 상기 도 3b에 따른 동작은 규칙 정의에 따른 동작 수행 방법에 대한 튜토리얼(tutorial)을 사용자에게 제공하기 위한 동작에 해당하는 것으로, 이러한 튜토리얼을 제공하는 동작은 사용자 선택에 따라 생략될 수 있다.
상기 도 3b에 도시된 바와 같이, 튜토리얼은 팝업 윈도우(pop-up window)(351)를 통해 제공될 수 있다. 제어부(170)는 튜토리얼이 표시되도록 동작할 시 팝업 윈도우(351) 표시를 제어하고, 팝업 윈도우(351) 내에 규칙을 정의하는 방법을 안내하는 수행 정보(예컨대, 이미지, 텍스트 등)를 표시할 수 있다. 예를 들어, 상기 수행 정보는 음성 인식 동작 상태를 지시하는 이미지(351c)와 규칙을 정의하는 방법을 안내하는 텍스트(351d)(예컨대, 다음과 같이 Rule을 만들어 보세요. "지하철이라고 말하면 음악을 재생해줘", "지하철 이라고 말하면 다음을 해줘") 등을 포함하여 제공될 수 있다. 또한 튜토리얼을 제공하는 팝업 윈도우(351)는 규칙 정의하는 다음 동작으로 진행하기 위한 선택 메뉴(351a)(예컨대, 확인)와 규칙 정의를 취소하는 동작으로 진행하기 위한 선택 메뉴(351b)(예컨대, 취소)를 포함할 수 있다. 상기 도 3b와 같은 튜토리얼이 수행되는 동작에서 상기 팝업 윈도우(351)의 선택 메뉴(351a, 351b)의 선택에 따라 규칙 정의를 위한 다음 동작이 수행하거나 규칙 정의를 위한 동작이 취소될 수 있다.
상기 도 3c 내지 도 3k는 본 발명의 실시 예에서 규칙 설정 모드로 진입하여 새로운 규칙을 정의하는 동작을 나타낸 것이다. 상기 도 3c 내지 도 3k에서는 해당 규칙의 조건 및 액션을 설정하는 자연어 기반의 음성을 사용자로부터 입력 받고, 사용자 입력에 따라 해당 규칙을 설정하는 동작 예시를 도시한다.
상기 도 3c 내지 도 3k에 도시된 바와 같이, 상기 도 3c에서 제어부(170)는 규칙 설정 모드 진입에 반응하여 사용자의 음성 입력을 안내(예컨대, "Rule을 말하세요")하는 팝업 윈도우(353)를 표시한 후 사용자의 음성 입력을 대기할 수 있다. 상기 도 3c와 같은 상태에서 사용자는 정의하는 규칙의 타입(예컨대, 단수 구조 또는 복수 구조 등)에 따라 자연어 기반으로 하나 또는 그 이상의 조건과, 해당 조건에 설정할 하나 또는 그 이상의 액션에 대한 음성을 입력할 수 있다.
예를 들어, 상기 도 3c와 같은 상태에서, 사용자는 "지하철이라고 말하면 다음을 해줘"라고 음성을 입력할 수 있다. 그러면, 제어부(170)는 상기 사용자의 음성 입력을 인식하고, 도 3d와 같이 음성 인식에 따른 결과 화면을 팝업 윈도우(355)를 통해 제공할 수 있다. 한 실시 예에 따르면, 제어부(170)는 "명령어 [지하철] 무엇을 해드릴까요?"와 같이 음성 인식에 대한 결과와 "지하철"이라는 조건에서 수행할 액션에 대한 음성 입력을 안내(예컨대, "무엇을 해드릴까요?")하는 팝업 윈도우(355)를 표시한 후 사용자의 음성 입력을 대기할 수 있다.
상기 도 3d와 같은 상태에서, 사용자는 "와이파이(WiFi) 켜줘"라고 음성을 입력할 수 있다. 그러면, 제어부(170)는 상기 사용자의 음성 입력을 인식하고, 도 3e와 같이 음성 인식 및 앞서 입력된 조건(예컨대, 지하철)과 그에 따른 액션(예컨대, 와이파이 턴-온)을 매핑하는 동작 중임을 안내(예컨대, 인식중)하는 팝업 윈도우(359)를 제공할 수 있다. 본 발명의 다양한 실시 예에서 상기 인식 동작에 따른 관련 화면 표시는 생략될 수도 있다.
제어부(170)는 상기한 인식 및 매핑 동작이 완료될 시 도 3f와 같이 그에 따른 결과 화면을 팝업 윈도우(359)를 통해 제공할 수 있다. 예를 들어, 제어부(170)는 사용자의 음성 입력에 따라 새로운 규칙이 정의되고, 정의된 규칙 및 그의 액션에 대한 정보를 안내하는 팝업 윈도우(359)를 제공할 수 있다. 한 실시 예에 따르면, 상기 팝업 윈도우(359)를 통해 나타낸 바와 같이, 제어부(170)는 "새로운 Rule이 생성되었으며, 생성된 Rule의 조건이 지하철이고, 지하철의 조건에서 실행될 액션이 Wi-Fi의 턴-온 설정"임을 안내하고, 그에 대한 사용자 확인(예컨대, 확인 및 취소)을 요구하는 메뉴를 제공할 수 있다. 상기 도 3f와 같은 상태에서, 사용자는 상기한 절차에 따라 설정된 규칙을 정의하고자 할 시 확인 메뉴를 선택할 수 있고, 상기와 같이 설정된 규칙을 취소하고자 할 시 취소 메뉴를 선택할 수 있다.
상기 도 3f와 같은 상태에서, 사용자가 확인 메뉴를 선택(또는 음성 입력)할 시 도 3g와 같이 사용자의 다음 음성 입력을 안내(예컨대, "다음을 말씀해 주세요")하는 팝업 윈도우(361)를 표시한 후 사용자의 음성 입력을 대기할 수 있다. 상기 도 3g와 같은 상태에서 사용자는 "진동으로 바꿔죠"라고 음성을 입력할 수 있다. 그러면, 제어부(170)는 상기 사용자의 음성 입력을 인식하고, 도 3h와 같이 음성 인식 및 앞서 입력된 조건(예컨대, 지하철)과 그에 따른 추가 액션(예컨대, 진동 설정)을 매핑하는 동작 중임을 안내(예컨대, 인식중)하는 팝업 윈도우(363)를 제공할 수 있다. 그리고 제어부(170)는 상기한 인식 및 매핑 동작이 완료될 시 도 3i와 같이 그에 따른 결과 화면을 팝업 윈도우(365)를 통해 제공할 수 있다. 예를 들어, 제어부(170)는 사용자의 음성 입력에 따라 설정이 진행 중인 규칙 및 그의 액션에 대한 정보를 안내하는 팝업 윈도우(365)를 제공할 수 있다. 한 실시 예에 따르면, 상기 팝업 윈도우(365)를 통해 나타낸 바와 같이, 제어부(170)는 "새로운 Rule이 생성되었으며, 생성된 Rule의 조건이 지하철이고, 지하철의 조건에서 실행될 추가 액션이 진동 모드로 전환 설정"임을 안내하고, 그에 대한 사용자 확인(예컨대, 확인 및 취소)을 요구하는 메뉴를 제공할 수 있다. 상기 도 3i와 같은 상태에서, 사용자는 상기한 절차에 따라 설정된 규칙을 정의하고자 할 시 확인 메뉴를 선택할 수 있고, 상기와 같이 설정된 규칙을 취소하고자 할 시 취소 메뉴를 선택할 수 있다.
상기 도 3i와 같은 상태에서, 사용자가 확인 메뉴를 선택할 시 도 3j와 같이 사용자의 다음 음성 입력을 안내(예컨대, "다음을 말씀해 주세요")하는 팝업 윈도우(367)를 표시한 후 사용자의 음성 입력을 대기할 수 있다. 상기 도 3i와 같은 상태에서 사용자는 "끝(또는 그만 등)"라고 음성을 입력할 수 있다. 그러면, 제어부(170)는 상기 사용자의 음성 입력을 인식하고, 도 3k와 같이 상기 도 3b 내지 도 3j에 따라 진행된 규칙 정의에 따라 설정된 조건 및 그에 대응하는 하나 또는 그 이상의 액션에 대한 정보를 제공할 수 있다.
예를 들어, 제어부(170)는 도 3k에 도시한 바와 같이, 앞서 절차에 따라 진행된 규칙 정의 동작에서 상기 규칙의 조건이 지하철이고, 상기 조건에 따라 실행될 액션이 "Wi-Fi의 턴-온 설정"과 "진동 모드 전환 설정"임을 나타낼 수 있다. 이와 같이, 추가 정의된 규칙은 앞서 도 3a에서 설명한 규칙 리스트에서 상기 추가된 정의가 포함되어 제공될 수 있다. 예를 들어, 사용자에 의해 이전에 정의된 규칙에 대응하는 아이템(예컨대, "집" 아이템(330), "택시" 아이템(340))에 상기 새롭게 추가 정의된 규칙에 대응하는 아이템(예컨대, "지하철" 아이템(360))이 추가되어 나타날 수 있고, 상기 새롭게 추가된 "지하철" 아이템(360)에 대한 상세 정보(예컨대, 조건 및 그의 액션)가 펼쳐진 형태로 제공될 수 있다.
한편, 이상에서 도 3a 내지 도 3k를 통해 살펴본 바와 같이, 본 발명의 다양한 실시 예에 따르면 하나의 조건에 하나 또는 그 이상의 액션을 매핑할 수 있다. 즉, 본 발명의 실시 예에 따르면, 단수 구조에 따른 규칙 정의 동작과 복수 구조에 따른 규칙 정의 동작을 지원할 수 있다. 이를 정리하여 살펴보면 다음과 같다.
상기 단수 구조에 따른 규칙 정의 동작을 요약하면 아래의 <표 1>과 같이 나타낼 수 있다.
Figure pat00001
상기 복수 구조에 따른 규칙 정의 동작을 요약하면 아래의 <표 1>와 같이 나타낼 수 있다.
Figure pat00002
*상기 <표 1> 및 상기 <표 2>에 개시된 바와 같이, <"집"이라고 말하면, 벨소리로 바꿔줘.>와 같이 단순 If 조건문 형태로 가능하며, 또는 <"집"이라고 말하면, 전화올 때, TV 음소거 해줘.> 와 같이 중복 If 조건문 형태로도 가능하다. 또한 본 발명의 실시 예에 따르면, 단순 If 조건문 또는 중복 If 조건문에 따른 하나 또는 그 이상의 조건에 대해 복수의 액션(예컨대, 단말기 기능, 상황에 따른 다중 앱세서리(Multi-Appcessory(App + Accessory) 연동, 클라우드(Cloud) 서비스 사용)이 설정될 수 있다. 예를 들어, 복수의 액션 중 단말기 기능의 경우, WiFi 모드 설정, 벨소리/진동/무음 모드 변경, 문자전송(수신인, 내용 음성 설정), 카메라 플래시 점등 등이 포함될 수 있고, 상황에 따른 다중 앱세서리의 경우 TV 음소거 설정, LED 전구 점등 등이 포함될 수 있고, 클라우드 서비스 사용의 경우 사용자 위치 파악(예컨대, GPS 이용) 후 문자 전송 등이 포함될 수 있다.
이러한 본 발명의 실시 예서 규칙으로 설정될 수 있는 조건(또는 명령)의 종류 및 적어도 하나의 조건에 대해 설정될 수 있는 액션의 종류를 정리하여 살펴보면 아래 <표 3>과 같이 나타낼 수 있다.
Figure pat00003
한편, 본 발명의 다양한 실시 예에 따르면, 사용자가 특정 조건에 대해 실행하고자 하는 액션에 따라 사용자 디바이스는 부가적으로 필요한 정보를 사용자에게 음성 또는 텍스트로 피드백(feedback)하면서 인터랙션(interaction)(예컨대, 질의 응답 방식) 동작을 수행할 수 있다. 예를 들어, 본 발명의 다양한 실시 예에 따르면, 사용자 디바이스에서 지원 가능한 모든 액션들에 대해서 사용자로부터 어떠한 정보를 받아야 하는지 미리 데이터베이스(DB, Data Base)화 되어 제공될 수 있다. 한 실시 예에 따르면, 문자를 전송하는 액션의 경우 수신자와 문자 내용에 대한 추가적인 정보가 필요하다는 것을 사용자 디바이스가 인지하고, 사용자에게 음성 및 텍스트로 추가 정보를 입력하도록 유도할 수 있고, 또한 잘못된 입력 값의 경우 오류를 알려주고 재입력을 요청 및 받을 수 있다. 이러한 동작 예시에 대해 아래 도 4a 내지 도 4j를 참조하여 살펴보기로 한다.
도 4a 내지 도 4j는 본 발명의 실시 예에 따른 사용자 디바이스에서 규칙을 생성하는 동작 예시를 도시한 도면들이다.
상기 도 4a 내지 도 4j를 참조하면, 제어부(170)는 앞서 도 3a(또는 도 3b 동작 포함)와 같은 상태에서, 사용자의 규칙 설정 모드 진입에 반응하여 사용자의 음성 입력을 안내(예컨대, "Rule을 말하세요")하는 팝업 윈도우(451)를 표시한 후 사용자의 음성 입력을 대기할 수 있다. 상기 도 4a와 같은 상태에서 사용자는 정의하는 규칙의 타입(예컨대, 단수 구조 또는 복수 구조 등)에 따라 자연어 기반으로 하나 또는 그 이상의 조건과, 해당 조건에 설정할 하나 또는 그 이상의 액션에 대한 음성을 입력할 수 있다.
예를 들어, 상기 도 4a와 같은 상태에서, 사용자는 "택시라고 말하면 다음을 해줘"라고 음성을 입력할 수 있다. 그러면, 제어부(170)는 상기 사용자의 음성 입력을 인식하고, 도 4b와 같이 음성 인식에 따른 결과 화면을 팝업 윈도우(453)를 통해 제공할 수 있다. 한 실시 예에 따르면, 제어부(170)는 "명령어 [택시] 무엇을 해드릴까요?"와 같이 음성 인식에 대한 결과와 "택시"라는 조건에서 수행할 액션에 대한 음성 입력을 안내(예컨대, "무엇을 해드릴까요?")하는 팝업 윈도우(453)를 표시한 후 사용자의 음성 입력을 대기할 수 있다.
상기 도 4b와 같은 상태에서, 사용자는 "문자 보내줘"라고 음성을 입력할 수 있다. 그러면, 제어부(170)는 상기 사용자의 음성 입력을 인식하고, 도 4c 내지 도 4f와 같이 상기 액션(예컨대, "문자 보내줘")에 대해서 사용자로부터 입력 받아야 할 정보를 인식하고 그에 대한 피드백을 제공하는 인터랙션 동작을 수행할 수 있다.
예를 들어, 상기 도 4c에 도시된 바와 같이, 제어부(170)는 상기 "문자 보내줘"의 액션에 대해 추가될 수 있는 정보인 "수신자"에 대해 입력할 것을 안내(예컨대, "명령어 [택시] 수신자를 말하세요.")하는 팝업 윈도우(455)를 표시한 후 사용자의 음성 입력을 대기할 수 있다. 상기 도 4c와 같은 상태에서, 사용자는 문자를 전송할 특정 수신자 정보(예컨대, "남자친구")에 대한 음성을 입력할 수 있다. 그러면, 제어부(170)는 상기 사용자의 음성 입력을 인식하고, 도 4d에 도시된 바와 같이, 상기 "문자 보내줘"의 액션에 대해 추가될 수 있는 정보인 "문자 내용"에 대해 추가 입력할 것을 안내(예컨대, "To. [남자친구] 문자 내용을 말하세요.")하는 팝업 윈도우(457)를 표시한 후 사용자의 음성 입력을 대기할 수 있다. 즉, 제어부(170)는 도 4c에서 입력된 수신자(예컨대, "남자친구")의 개션에 대한 추가적인 정보가 필요하다는 것을 인지하고, 그에 따라 전송할 문자의 내용에 대해 입력할 것을 요청할 수 있다.
상기 도 4d와 같은 상태에서, 사용자는 도 4d에서 입력된 수신자(예컨대, "남자친구")에게 전송할 문자내용을 입력할 수 있다. 한 실시 예에 따르면, 사용자는 "남자친구"에게 전송할 문자내용으로 "내 위치를 전송해줘"라는 음성을 입력할 수 있다. 그러면, 제어부(170)는 상기 사용자의 음성 입력을 인식하고, 도 4e에 도시된 바와 같이, 상기 "위치 전송"의 액션에 대한 추가적인 정보가 필요하다는 것을 인지하고 사용자에게 상기 "위치 전송"에 대한 주기를 안내(예컨대, To. [남자친구] 몇 분마다 보낼까요?")하는 팝업 윈도우(459)를 표시한 후 사용자의 음성 입력을 대기할 수 있다.
상기 도 4e와 같은 상태에서, 사용자는 "내 위치 전송"에 대해 전송할 주기를 입력할 수 있다. 한 실시 예에 따르면, 사용자는 "내 위치 전송"에 대한 주기로 "5분마다"라는 음성을 입력할 수 있다. 그러면, 제어부(170)는 상기 사용자의 음성 입력을 인식하고, 도 4f에 도시된 바와 같이 그에 대한 결과 화면을 제공할 수 있다.
예를 들어, 상기 도 4f에 도시된 바와 같이, 사용자가 현재 정의하고자 하는 규칙의 조건으로 설정된 조건 정보(410)와, 상기 조건에 대한 액션으로 설정된 액션 정보(411, 413, 415, 417)에 대해 팝업 윈도우(461)를 통해 제공될 수 있다. 특히, 상기 액션 정보(411, 413, 415, 417)의 경우 처음 설정되는 액션에 따라 부가적으로 설정된 액션들이 제공될 수 있다. 한 실시 예에 따르면, 제1액션으로 "메시지 전송(411)"이 설정될 수 있고, 상기 제1액션에 따른 메시지를 전송할 대상인 제2액션으로 "남자친구(413)"이 설정될 수 있고, 상기 제1액션 및 제2액션(또는 제2액션)에 따라 남자친구에게 전송할 메시지의 내용인 제3액션으로 "내 위치 전송(415)"이 설정될 수 있고, 상기 제1액션 내지 제3액션(또는 제3액션)에 따라 남자친구에게 내 위치에 대한 메시지를 전송할 주기인 제4액션으로 "5분(417)"이 설정될 수 있다. 즉, 본 발명의 실시 예에 따르면, 제어부(170)는 앞서와 같이 액션에 따라서 부가적으로 필요한 정보를 사용자에게 음성 또는 텍스트로 물어보면서 인터랙션 동작을 수행할 수 있다. 이때, 제어부(170)는 액션에 대한 인터랙션 동작 중 추가적인 정보가 더 이상 불필요한 액션에 대해 이를 인지하고 상기 도 4f와 같이 요청된 조건(예컨대, "택시(410)")에 대해 설정된 액션(예컨대, "메시지 전송(411)", "남자친구(413)", "내 위치 전송(415)", "5분(417)")에 대한 정보를 팝업 윈도우(461)를 통해 제공할 수 있다. 이를 통해, 사용자는 "택시"라는 조건에서 남자친구에게 5분마다 내 위치를 포함하는 메시지를 전송하는 액션을 가지는 규칙을 정의할 수 있다.
한편, 상기 도 4f와 같은 상태에서, 사용자는 상기한 절차에 따라 설정된 규칙의 조건(예컨대, 택시)에 대한 액션(예컨대, 남자 친구, 내 위치 전송, 5분)을 정의하고자 할 시 확인 메뉴를 선택할 수 있고, 상기와 설정된 규칙을 취소하거나 재설정 하고자 할 시 취소 메뉴를 선택할 수 있다.
상기 도 4f와 같은 상태에서, 사용자가 확인 메뉴를 선택(또는 음성 입력)하면(예컨대, "확인"이라고 말하면), 도 4g와 같이 사용자의 다음 음성 입력을 안내(예컨대, "다음을 말씀해 주세요")하는 팝업 윈도우(463)를 표시한 후 사용자의 음성 입력을 대기할 수 있다. 상기 도 4g와 같은 상태에서 사용자는 상기 조건(예컨대, 택시)에 대한 추가적인 액션으로 진동모드로의 전환 설정을 위해 "진동으로 바꿔죠"라고 음성을 입력할 수 있다. 그러면, 제어부(170)는 상기 사용자의 음성 입력을 인식하고, 도 4h와 같이 음성 인식 및 앞서 입력된 조건(예컨대, 택시)과 그에 따른 추가 액션(예컨대, 진동 설정)에 대한 결과 화면을 팝업 윈도우(465)를 통해 제공할 수 있다. 한 실시 예에 따르면, 상기 팝업 윈도우(465)를 통해 나타낸 바와 같이, 제어부(170)는 "새로운 Rule이 생성되었으며, 생성된 Rule의 조건이 택시이고, 택시의 조건에서 실행될 추가 액션이 진동 모드로 전환 설정"임을 안내하고, 그에 대한 사용자 확인(예컨대, 확인 및 취소)를 요구하는 메뉴를 제공할 수 있다.
상기 도 4h와 같은 상태에서, 사용자가 확인 메뉴를 선택할 시 도 4i와 같이 사용자의 다음 음성 입력을 안내(예컨대, "다음을 말씀해 주세요")하는 팝업 윈도우(467)를 표시한 후 사용자의 음성 입력을 대기할 수 있다. 상기 도 4i와 같은 상태에서 사용자는 진행 중인 규칙에 대한 추가 설정을 마치고자 할 시 "끝(또는 그만 등)"라고 음성을 입력할 수 있다. 그러면, 제어부(170)는 상기 사용자의 음성 입력을 인식하고, 도 4j와 같이 상기 도 4a 내지 도 4i에 따라 진행된 규칙으로 설정된 조건 및 그에 대응하는 하나 또는 그 이상의 액션에 대한 정보를 제공할 수 있다.
예를 들어, 제어부(170)는 도 4j에 도시한 바와 같이, 앞서 절차에 따라 진행된 규칙 정의 동작에서 상기 규칙의 조건이 택시이고, 상기 조건에 따라 실행될 액션이 "메시지 전송"과 "소리 설정"에 해당하고, 그에 대한 세부 정보로서 "남자 친구에게 내 위치를 5분마다 메시지로 전송"이고, "소리 설정으로 진동"이 설정되어 있음을 안내하는 결과 화면을 제공할 수 있다.
한편, 본 발명의 다양한 실시 예에 따르면, 상기 도 4a 내지 도 4f에 도시된 바와 같이, 사용자가 입력하는 액션에 따라서 부가적으로 필요한 정보를 사용자에게 음성 또는 텍스트로 물어보면서 인터랙션을 동작을 수행할 수 있다. 또한 본 발명의 다양한 실시 예에 따르면, 상기 도 4g 내지 도 4i에 도시된 바와 같이, 추가적인 정보가 불필요한 액션(예컨대, 소리 설정 등)을 인지할 수 있고, 추가적인 정보가 불필요한 액션에 대해서는 추가적인 사용자 입력을 요청하지 않고 다음 동작을 바로 진행할 수 있다.
이상에서는 본 발명의 다양한 실시 예에 따라 규칙을 정의하는 동작에 대하여 설명하였다. 이하에서는 상기와 같이 정의된 특정 규칙을 실행하는 동작 예시에 대하여 살펴보기로 한다. 본 발명의 다양한 실시 예에 따르면, 정의된 규칙에 대한 실행은 앞서 살펴본 바와 같이 사용자의 음성 또는 텍스트 입력에 의해 바로 실행될 수 있다. 또한 정의된 규칙에 대한 실행은 이하에서 설명하는 바와 같이 사용자 디바이스에서 사용자의 정의에 따른 규칙에 대해 위젯(widget)을 생성하고, 상기 위젯에 의해 해당 규칙을 실행할 수도 있다. 즉, 본 발명의 다양한 실시 예에 따르면, 위젯을 통해서 규칙에 대한 명령을 바로 실행할 수 있도록 지원할 수 있다.
그리고 본 발명의 다양한 실시 예에서 규칙 생성 시, 규칙을 생성하는 동작 중 통화 수신 또는 기타 동작에 따른 인터럽트가 발생되어 규칙 생성 동작이 불가한 경우, 인터럽트 발생 시점까지 진행 중이던 규칙을 저장(또는 임시 저장)하고 인터럽트에 따른 동작이 수행되도록 할 수 있다.
도 5a 내지 도 5e는 본 발명의 실시 예에 따른 사용자 디바이스에서 규칙을 실행하는 동작 예시를 도시한 도면들이다.
상기 도 5a 내지 도 5e는 앞서 도 2를 참조한 설명에서 제어부(170)(예컨대, 규칙 실행 모듈(175))가 사용자 입력 중 자연어 기반의 음성 입력을 받아들이고, 상기 음성 입력에 반응하여 규칙을 실행하고, 제어부(170)(예컨대, 조건 감지 모듈(177))가 규칙 실행에 반응하여 상기 규칙에 대응하는 조건을 감지하고, 제어부(170)(예컨대, 액션 실행 모듈(179))가 조건 감지에 반응하여 해당 조건에 대응하는 하나 또는 그 이상의 액션을 실행하는 동작의 예시를 도시한 것이다.
상기 도 5a 내지 도 5e를 참조하면, 상기 도 5a는 본 발명의 실시 예에 따른 상황 인식 서비스를 위한 위젯이 제공되고 있을 때의 사용자 디바이스의 화면 예시를 나타낸 것이다.
상기 도 5a에 도시된 바와 같이, 상황 인식 서비스를 위한 위젯(500)은 사용자 디바이스의 홈 화면(또는 메뉴 화면 등)에서 표시될 수 있다. 상기 위젯(500)은 규칙 실행을 명령하는 사용자 입력(예컨대, 탭, 터치)을 받아들이기 위한 명령 입력 영역(또는 규칙 실행 버튼)(510)과, 사용자에 의해 정의된 규칙들 중 현재 동작 중인 규칙에 대한 정보를 표시하는 실행 정보 영역(520)을 포함할 수 있다. 또한 상기 위젯(500)은 실행 중인 규칙 등에 대한 정보를 갱신하기 위한 새로 고침 기능을 제공하는 아이템(530)을 더 포함할 수 있다. 한 실시 예에 따르면, 상기 명령 입력 영역(510)은 사용자의 직관성이 고려될 수 있는 이미지와 텍스트를 포함하여 제공될 수 있다. 그리고 상기 도 5a의 예시에서는 현재 실행 중인 규칙이 없는 상태의 예시를 나타낸 것으로, 상기 실행 정보 영역(520)에는 동작 중인 규칙이 없음이 안내될 수 있다.
상기 도 5a와 같은 상태에서, 사용자는 규칙을 실행하기 위하여 상기 명령 입력 영역(510)을 선택(예컨대, 탭 기반의 터치 이벤트 등)할 수 있다. 그러면, 제어부(170)(예컨대, 규칙 실행 모듈(175))는 규칙을 실행하기 위한 동작 개시인 것으로 결정하고, 그에 따라 실행하고자 하는 규칙에 대한 정보 입력(예컨대, 음성)을 안내(예컨대, "명령어를 말하세요")하는 팝업 윈도우(551)를 표시한 후 사용자의 음성 입력을 대기할 수 있다.
상기 도 5a와 같은 상태에서, 사용자는 실행하고자 하는 해당 규칙에 대한 음성(예컨대, "지하철")을 입력할 수 있다. 그러면, 제어부(170)는 상기 사용자의 음성 입력을 인식하고, 도 5c에 도시된 바와 같이 상기 "지하철"에 대응하는 규칙을 로딩(loading) 중임을 안내(예컨대, 인식중)하는 팝업 윈도우(553)를 제공할 수 있다. 본 발명의 다양한 실시 예에서 상기 인식 동작에 따른 관련 화면 표시는 생략될 수도 있다.
제어부(170)는 상기한 인식 및 로딩 동작이 완료될 시 도 5d와 같이 그에 따른 결과 화면을 팝업 윈도우(555)를 통해 제공할 수 있다. 예를 들어, 제어부(170)는 사용자의 음성 입력에 따라 실행할 규칙과, 상기 규칙에 따른 조건 및 액션에 대한 정보를 팝업 윈도우(555)를 통해 제공할 수 있다. 한 실시 예에 따르면, 제어부(170)는 실행할 규칙이 "지하철"이고, 그의 조건으로 "지하철"이 설정(예컨대, [지하철] 실행)되어 있고, 상기 조건에 의해 동작할 액션으로 "WiFi 턴-온" 및 "진동 전환"이 설정(예컨대, 'WiFi' on, '진동' 설정)되어 있음을 안내할 수 있다. 본 발명의 다양한 실시 예에서 상기 실행될 규칙에 대한 정보 제공 동작과 관련된 화면 표시는 생략될 수 있고, 후술되는 도 5e의 동작으로 바로 진행될 수도 있다. 그리고 상기 도 5e의 동작은 설정된 일정 시간 동안 표시된 후 일정시간이 경과하는 시점에서 도 5e의 동작으로 자동 전환될 수 있다.
상기 도 5d와 같은 상태에서 일정 시간이 경과할 시, 제어부(170)는 도 5e에 도시된 바와 같이 상기 위젯(500)의 실행 정보 영역(520)에 사용자에 의해 실행된 규칙(또는 현재 동작 중인 규칙)에 대한 정보(예컨대, 지하철)를 이미지 또는 텍스트 중 적어도 하나를 이용하여 제공할 수 있다. 예를 들어, 상기 도 5e에 도시된 바와 같이, 위젯(500)의 실행 정보 영역(520)이 "동작 중인 rule이 없습니다." 대신 지하철에 대응하는 아이콘 및 텍스트가 표시될 수 있다. 아울러, 상기 도 5e에 도시된 바와 같이 제어부(170)는 규칙 실행에 반응하여, 사용자 디바이스의 다양한 동작 상태 정보를 제공하는 인디케이터 영역(indicator area)에 규칙이 동작 중에 있음을 알리는 노티피케이션 아이템(notification item)(550)을 제공할 수도 있다. 상기 노티피케이션 아이템에 관하여 후술될 것이다.
그리고 상기 도 5e에서는 하나의 규칙이 동작됨을 예시로 나타내었으나, 상기도 절차를 통해 복수 개의 규칙이 실행될 수 있으며, 이러한 경우 상기 실행 정보 영역(520)에서는 실행 중인 복수 개의 규칙들에 대한 정보가 제공될 수 있다. 또한 상기에서는 명령 입력 영역(510)이 선택될 시 사용자 음성 입력을 요청하는 동작으로 진행하는 것을 예시로 하였으나, 본 발명의 다양한 실시 예에 따르면, 상기 명령 입력 영역(510)의 선택에 반응하여 사용자에 의해 정의된 규칙들에 대한 규칙 리스트를 제공하고, 규칙 리스트에서 사용자가 실행하고자 하는 적어도 하나의 규칙을 선택 받는 동작으로 진행될 수도 있다.
한편, 제어부(170)(예컨대, 조건 감지 모듈(177))는 상기와 같이 정의된 다양한 규칙들 중 특정 규칙이 동작 중인 상태에서, 동작 중인 해당 규칙에 반응할 조건을 감지하도록 동작할 수 있다. 그리고 제어부(170)(예컨대, 액션 실행 모듈(179))는 해당 규칙의 조건이 감지될 시 해당 조건에 매핑된 하나 또는 그 이상의 액션을 실행하도록 동작할 수 있다.
이상에서와 같이, 본 발명의 다양한 실시 예에 따르면, 위젯(500)을 통해 규칙을 실행할 수 있다. 한 실시 예에 따르면, 사용자는 위젯(500)에서 명령 입력 영역(또는 규칙 실행 버튼)(510)을 선택하고, 설정된 규칙(또는 명령어)에 대한 음성을 말할 수 있다. 그러면, 제어부(170)는 규칙의 시작을 알리면서 어떠한 액션이 수행되는 지를 텍스트 팝업 또는 음성(예컨대, TTS(Text To speech) 동작)으로 사용자에게 피드백할 수 있다. 그리고 제어부(170)는 실행하는 해당 규칙에 대해 실행 정보 영역(520)에 추가하면서, 인디케이터 영역을 통해 실행 중인 규칙이 있음을 알리는 노티피케이션 아이템(550)을 표시할 수 있다. 상기 노티피케이션 아이템(550)에 대해서는 후술될 것이다.
이하에서는, 본 발명의 다양한 실시 예에 따른 상황 인식 서비스 운용 방법에 대한 구체적 동작 예시에 대하여 하기 도면들(예컨대, 도 6 내지 도 13)을 참조하여 살펴보기로 한다.
도 6은 본 발명의 실시 예에 따른 사용자 디바이스를 이용한 상황 인식 서비스가 제공되는 동작 예시를 도시한 도면이다.
상기 도 6을 참조하면, 상기 도 6은 사용자가 음성을 이용하여 규칙을 설정 및 실행하고, 사용자 디바이스(100)가 상기 규칙에 따라 정의된 조건을 인지하고 그에 따른 액션을 실행하는 동작의 예시를 나타낸 것이다. 특히, 상기 도 6에서는 사용자가 특정 조건1(예컨대, 집)에서 액션1(예컨대, 소리설정)을 실행하고, 상기 조건1 하에 수행되는 이중 조건(조건2)(예컨대, 전화 올 때)으로 액션2(예컨대, 전등 깜빡임) 및 액션3(예컨대, TV 음소거(mute))이 수행되도록 하는 규칙에 대한 동작 예시를 나타낸 것이다.
상기 도 6에 도시된 바와 같이, 사용자는 사용자 디바이스(100)를 이용하여 규칙을 정의할 수 있다. 예를 들어, 사용자는 사용자 디바이스(100)를 조작하여 규칙 생성을 위한 기능을 활성화하고, 사용자 디바이스(100)와의 인터랙션을 통해 특정 위치에서 벨소리를 자동 전환하고, 상기 특정 위치에서 전화가 올 때 전등 깜빡임 및 TV 음소거를 제어하도록 하는 규칙을 정의할 수 있다. 한 실시 예에 따르면, 사용자는 "집에서는 소리 설정을 벨소리로 바꾸고, 집에서 전화 올 때 전등을 깜빡이고 TV를 음소거"하는 것과 관련된 규칙을 사용자 디바이스(100)와의 단계별 인터랙션 동작에 의해 정의할 수 있다. 이러한 규칙을 정의하는 동작은 앞서 도 3a 내지 도 4j를 참조한 규칙 생성 동작에 의해 수행될 수 있다. 여기서, 상기 규칙을 정의하는 동작은 자연어 기반으로 입력되어 설정될 수 있다.
그리고 사용자는 음성 또는 텍스트를 이용한 자연어 기반으로 상기 정의된 규칙의 실행을 명령할 수 있다. 상기 도 6에서 정의된 규칙에 따른 상황 인식 대상 즉, 조건은 "[집]이라는 음성이 입력될 때, 집에서 전화 올 때"가 될 수 있고, 상기 조건에 따른 액션 실행 대상은 "벨소리 설정, 전등 깜박임, TV 음소거"가 될 수 있다. 상기 도 6에서 사용자는 별도의 정의를 하지 않지만, 사용자 디바이스(100)에서는 실행 액션에 따라서 부가적인 액션 실행을 내부적으로 관리할 수도 있다. 예를 들어, 전화 올 때 전등 깜빡임 및 TV 음소거에 대응하여, "전화를 받으면 전등은 이전 상태로 복귀하고, 전화를 마치면 TV 소리를 자동 재생"하는 추가적인 액션이 수행되도록 동작할 수 있다.
한편, 사용자는 상기와 같이 규칙이 정의된 상태에서, 사용자 필요에 따라 상기 정의된 규칙을 실행할 수 있다. 예를 들어, 사용자가 외부에서 집으로 들어 올 때, 앞서 도 5a 내지 도 5e와 같은 동작 예시에 준하여, "집"이라는 음성을 입력할 수 있다. 그러면, 사용자 디바이스(100)는 현재 동작 중인 하나 또는 그 이상의 규칙 중 상기 "집"에 대응하는 규칙이 동작 중인지 확인할 수 있다. 사용자 디바이스(100)는 상기 "집"에 대응하는 규칙이 동작 중인 경우, 상기 "집"이라는 규칙에 설정된 하나 또는 그 이상의 조건 및 해당 조건에 대한 액션을 확인할 수 있다.
사용자 디바이스(100)는 상기 "집"이라는 규칙에 정의된 첫 번째 조건으로 "집"을 인지하고 그에 대응하는 첫 번째 액션으로 "벨소리 모드 변경"을 인지할 수 있다. 따라서 사용자 디바이스(100)는 사용자의 "집"이라는 음성 입력에 반응하여 사용자 디바이스(100)의 소리 설정을 벨소리 모드로 자동 변경(610)할 수 있다.
또한 사용자 디바이스(100)는 상기 "집"이라는 규칙에 정의된 두 번째 조건으로 "전화 올 때"를 인지하고, 그에 대한 인터럽트(예컨대, 외부로부터의 전화 수신)를 체크할 수 있다. 이후, 사용자 디바이스(100)는 외부로부터 전화가 수신되면(620), 해당 인터럽트에 반응하여 상기 "집"이라는 규칙에 정의된 두 번째 조건으로 "전화 올 때"를 인지할 수 있다. 그리고 사용자 디바이스(100)는 상기 전화 수신에 반응하여 두 번째 액션으로 "전등 깜빡임(630)" 및 세 번째 액션으로 "TV 음소거(640)"를 제어하도록 동작할 수 있다.
한편, 사용자 디바이스(100)는 전화 수신에 따른 알람(예컨대, 전화 벨 발생) 중에 사용자에 의해 전화가 수락(예컨대, 통화 연결)되면, 전등을 이전 상태로 복귀를 제어하도록 동작할 수 있고, 또한 통화 연결이 종료되면 TV 음소거 해제에 의해 소리 재생을 제어하도록 동작할 수도 있다.
도 7은 본 발명의 실시 예에 따른 사용자 디바이스를 이용한 상황 인식 서비스가 제공되는 동작 예시를 도시한 도면이다.
상기 도 7을 참조하면, 상기 도 7은 사용자가 음성을 이용하여 규칙을 설정 및 실행하고, 사용자 디바이스(100)가 상기 규칙에 따라 정의된 조건을 인지하고 그에 따른 액션을 실행하는 동작의 예시를 나타낸 것이다. 특히, 상기 도 7에서는 사용자가 자신의 위치(또는 사용자 디바이스의 위치)를 설정된 시간마다 지정된 적어도 하나의 타겟 사용자 디바이스에게 자동 전송하도록 하는 규칙을 정의할 수 있다. 그리고 사용자 디바이스(100)는 사용자 입력에 따라 상기 규칙을 실행하고, 실행 규칙에서 정의된 시간마다 상기 적어도 하나의 타겟 사용자 디바이스에게 위치 정보를 전송하는 액션을 실행하는 경우의 예시를 나타낸 것이다.
상기 도 7에 도시된 바와 같이, 사용자는 사용자 디바이스(100)를 이용하여 규칙을 정의할 수 있다. 예를 들어, 사용자는 사용자 디바이스(100)를 조작하여 규칙을 생성할 수 있는 기능(또는 어플리케이션)을 활성화하여 적어도 하나의 타겟 사용자 디바이스(200)에게 설정된 시간마다 위치 정보를 전송하도록 하는 규칙을 정의할 수 있다. 한 실시 예에 따르면, 사용자는 "내가 택시를 타면 아빠와 동생에게 5분마다 나의 위치 정보를 알려줘"와 같이 규칙을 생성할 수 있다. 이때, 상기 규칙은 앞서 설명한 바와 같이 마이크(143)를 통해 음성 기반으로 입력되거나, 또는 후술하는 바와 같이 사용자 입력부(120) 또는 터치스크린(130)를 통해 텍스트 기반으로 입력될 수 있다. 상기 음성 또는 텍스트는 상기의 예시와 같이 자연어 기반으로 입력되어 설정되는 것을 특징으로 한다. 상기 도 7에서 정의된 규칙에 따른 상황 인식 대상 즉, 조건은 "이동 변화가 있을 때"가 될 수 있고, 상기 조건에 따른 액션 실행 대상은 "아빠와 동생에게 5분마다 위치 정보 전송"이 될 수 있다.
사용자 디바이스(100)는 사용자 요청에 따라 상기 규칙을 정의할 시 위치 정보를 전송할 적어도 하나의 타겟 사용자 디바이스(200)를 지정하기 위한 인터페이스를 제공하고, 사용자 입력에 따라 상기 적어도 하나의 타겟 사용자 디바이스(200)의 정보(예컨대, 전화번호, 이름, 별명 등)를 상기 규칙에 매핑하여 저장할 수 있다. 상기 규칙은 미리 정의되거나, 또는 사용자 필요에 따라 시간 및 장소의 제한 없이 실시간으로 입력 및 정의될 수 있다.
또한 사용자는 상기 규칙 정의 시 주어지는 인터페이스를 통해 상기 규칙을 실행하기 위한 별도의 명령을 음성, 텍스트 또는 제스처 기반으로 입력할 수 있다. 그러면, 사용자 디바이스(100)는 상기 정의된 규칙과 상기 명령을 매핑하여 저장할 수 있다. 여기서, 사용자 디바이스(100)는 음성 기반으로 명령이 입력될 시 음성의 파형을 저장할 수 있고, 또는 입력된 음성을 텍스트로 변환하여 저장할 수도 있고, 또는 음성의 파형 및 변환된 텍스트를 모두 저장할 수도 있다.
사용자는 상기와 같이 규칙이 정의된 상태에서, 사용자 필요에 따라 상기 정의된 명령(예컨대, 음성, 텍스트, 또는 제스처 등)으로 규칙을 실행할 수 있다. 예를 들어, 사용자는 앞서 도 5a 내지 도 5e와 같은 동작 예시에 준하여, 택시(TAXI)를 타기 전 또는 택시를 타면서 음성으로 상기 정의된 규칙을 실행하기 위한 해당 명령(예컨대, "택시", "택시모드", "지금 택시 타" 등의 음성)를 입력할 수 있다. 여기서, 상기 명령은 마이크(143)를 통해 음성 기반으로 입력되는 것을 예시로 하지만, 사용자 입력부(120) 또는 터치스크린(130)을 통해 텍스트 기반으로 입력되거나, 또는 제스처 기반으로 입력될 수도 있다. 상기 음성 및 텍스트는 상기의 예시와 같이 자연어 기반으로 입력되는 것을 특징으로 한다.
또한, 사용자는 상기 규칙(또는 조건, 상황 인식 등)을 실행하기 위한 음성을 입력하고자 할 시 사용자 디바이스(100)에게 규칙 실행을 위한 음성 입력을 수행함을 알리는 동작을 선행할 수도 있다. 예를 들어, 음성으로 규칙(또는 조건, 상황 인식 등)을 실행하는 방식의 경우 마이크(143)를 활성화 하는 동작이 필요할 수 있다. 즉, 음성 입력을 대기하기 위해 마이크(143)를 항상 턴-온 상태로 유지할 시 의도되지 않은 음성 입력으로 불필요한 동작이나 에러가 발생될 수 있다. 따라서 음성 입력 방식에서는 마이크(143)를 활성화 하는 특정 동작(예컨대, 위젯, 제스처 또는 기능키 등)을 정의하고 음성 입력 전 마이크(143)를 턴-온하기 위해 정의된 해당 동작이 선행될 수 있다. 한 실시 예에 따르면, 사용자는 정의된 제스처를 수행한 후 음성을 입력하거나, 또는 정의된 기능키를 누른 상태에서 음성을 입력하거나, 또는 위젯의 규칙 실행 버튼을 선택한 후 음성을 입력할 수 있다.
사용자 디바이스(100)는 입력된 음성을 인식 및 파싱하여, 해당 음성에 대응하는 규칙을 실행할 수 있다. 예를 들어, 사용자 디바이스(100)는 특정 규칙에 대응하는 음성이 입력될 시 미리 정의된 규칙들(예컨대, 각 규칙 별로 매핑된 음성 파형) 중에서 입력 음성에 대응하는 음성 파형을 검색할 수 있다. 또는 사용자 디바이스(100)는 미리 정의된 규칙들(예컨대, 각 규칙 별로 매핑된 텍스트) 중에서 입력 음성을 텍스트로 변환하여 변환된 텍스트에 대응하는 텍스트를 검색할 수 있다. 또는 미리 정의된 규칙들(예컨대, 각 규칙 별로 매핑된 음성 파형 및 텍스트) 중에서 상기 입력 음성에 대응하는 음성 파형 및 텍스트를 모두 검색할 수도 있다.
사용자 디바이스(100)는 규칙 실행에 따라 조건(상황) 인식을 수행할 수 있다. 예를 들어, 사용자 디바이스(100)는 상기 정의된 규칙에 따라 사용자의 "지금 택시 타"와 같은 조건1을 인지하고, 상기 조건1에 따라 동작하여 설정된 시간(예컨대, 5분)와 같은 조건2를 체크할 수 있다. 그리고 사용자 디바이스(100)는 상기 조건2의 설정된 시간마다 사용자 디바이스(100)의 위치 정보를 획득하는 액션1을 수행하도록 동작할 수 있다. 또한 사용자 디바이스(100)는 액션1의 수행에 따라 획득된 위치 정보를 지정된 적어도 하나의 타겟 사용자 디바이스(200)에게 전송하는 액션2를 수행하도록 동작할 수 있다.
한편, 상기 적어도 하나의 타겟 사용자 디바이스(200)는 상기 사용자 디바이스(100)로부터 위치 정보가 수신될 시 미리 정의된 인터페이스를 통해 상기 사용자 디바이스(100)에 대한 위치 정보를 피드백 할 수 있다. 예를 들어, 상기 도 7에 도시된 바와 같이 타겟 사용자 디바이스(200)는 맵 이미지와 함께 사용자 디바이스(100)의 사용자 위치 정보를 나타낼 수 있다. 이때, 상기 맵 이미지와 위치 정보는 사용자 디바이스(100)에서 가공되어 전송되거나, 또는 타겟 사용자 디바이스(200)에서 위치 정보를 수신할 시 해당 위치 정보에 대한 맵 이미지를 매핑하여 출력할 수도 있다.
이상에서 살펴본 바와 같은 도 7의 실시 예에 따라, 사용자는 자신의 위치에 대해 설정된 시간마다 지정된 적어도 하나의 다른 사용자에게 알릴 수 있다. 그리고 적어도 하나의 다른 사용자는 별도의 행위를 수행하지 않고서도 상기 사용자의 위치 및 이동 경로에 대해 제공받을 수 있다.
도 8은 본 발명의 실시 예에 따른 사용자 디바이스를 이용한 상황 인식 서비스가 제공되는 동작 예시를 도시한 도면이다.
상기 도 8을 참조하면, 상기 도 8은 컴포지트 어플리케이션(Composite Application)을 이용하여 규칙을 설정 및 실행하고, 사용자 디바이스(100)가 상기 규칙에 따라 정의된 조건을 인지하고 그에 따른 액션을 실행하는 동작의 예시를 나타낸 것이다. 특히, 상기 도 8에서는 사용자가 자신의 위치(또는 사용자 디바이스(100)의 위치)를 외부의 이벤트에 따라 특정 타겟 사용자 디바이스(200)에게 자동 전송하도록 하는 규칙을 정의할 수 있다. 그리고 사용자 디바이스(100)는 사용자 입력에 따라 상기 규칙을 실행하고, 실행 규칙에서 정의된 타겟 사용자 디바이스(200)로부터 이벤트가 수신될 시 상기 타겟 사용자 디바이스(200)에게 위치 정보를 전송하는 액션을 실행하는 경우의 예시를 나타낸 것이다. 상기 도 8에서는 외부 디바이스(예컨대, 타겟 사용자 디바이스(200))로부터의 입력(이벤트)을 사용자 디바이스(100) 내부에서 감지하여 지정된 액션을 실행하는 경우의 예시를 나타낸다.
본 발명의 다양한 실시 예에서 상기 컴포지트 어플리케이션은 다양한 리소스(resource)로부터 얻은 각기 다른 정보를 최종 사용자에게 가장 바람직한 방식으로, 즉 사용자가 원하는 방식으로 전달하기 위해 화면 구성을 모듈화하고 사용자의 권한과 역할에 따라 화면 구성 및 화면 전환을 달리할 수 있도록 하는 등 사용자 경험을 최적화시키기 위한 어플리케이션을 나타낼 수 있다.
상기 도 8에 도시된 바와 같이, 사용자는 사용자 디바이스(100)를 이용하여 규칙을 정의할 수 있다. 예를 들어, 사용자는 사용자 디바이스(100)를 조작하여 규칙을 생성할 수 있는 기능(또는 어플리케이션)을 활성화하여 적어도 하나의 타겟 사용자 디바이스(200)로부터 이벤트(예컨대, 메시지 수신) 시마다 위치 정보를 전송하도록 하는 규칙을 정의할 수 있다. 한 실시 예에 따르면, 사용자는 "운전 중에 와이프한테 문자가 오면 현재 내 위치 정보를 알려줘"와 같이 규칙을 생성할 수 있다. 이때, 상기 규칙은 앞서 설명한 바와 같이 마이크(143)를 통해 음성 기반으로 입력되거나, 또는 후술하는 바와 같이 사용자 입력부(120) 또는 터치스크린(130)를 통해 텍스트 기반으로 입력될 수 있다. 상기 음성 또는 텍스트는 자연어 기반으로 입력되어 설정되는 것을 특징으로 한다. 상기 도 8에서 정의된 규칙에 따른 상황 인식 대상 즉, 조건은 "운전 중인 상태에서 와이프로부터 문자 수신 시"가 될 수 있고, 상기 조건에 따른 액션 실행 대상은 "이벤트 시마다 위치 정보를 지정된 대상에게 전송"이 될 수 있다. 또한 추가적으로, "운전 중인 상태에서 와이프로부터 '어디야'와 같은 위치를 확인하는 문구를 포함하는 문자 수신 시"와 같이 추가 조건이 설정될 수도 있다.
사용자 디바이스(100)는 사용자 요청에 따라 상기 규칙을 정의할 시 이벤트를 제공하는 대상인 적어도 하나의 타겟 사용자 디바이스(200)를 지정하기 위한 인터페이스를 제공하고, 사용자 입력에 따라 상기 적어도 하나의 타겟 사용자 디바이스(200)의 정보(예컨대, 전화번호, 이름, 별명 등)를 상기 규칙에 매핑하여 저장할 수 있다. 상기 규칙은 앞서 설명한 바와 같이 미리 정의되거나, 또는 사용자 필요에 따라 시간 및 장소의 제한 없이 실시간으로 입력 및 정의될 수 있으며, 주어지는 인터페이스를 통해 상기 규칙을 실행하기 위한 명령이 음성, 텍스트 또는 제스처 기반으로 입력될 수 있다. 그러면, 사용자 디바이스(100)는 앞서 살펴본 바와 같이 상기 정의된 규칙과 상기 명령을 매핑하여 저장할 수 있다.
사용자는 상기와 같이 규칙이 정의된 상태에서, 사용자 필요에 따라 상기 정의된 명령(예컨대, 음성, 텍스트, 또는 제스처 등)으로 규칙을 실행할 수 있다. 예를 들어, 사용자는 앞서 도 5a 내지 도 5e와 같은 동작 예시에 준하여, 자동차를 타기 전 또는 자동차를 타면서 음성으로 상기 정의된 규칙을 실행하기 위한 해당 명령(예컨대, "운전", "운전모드", "운전할거야" 등의 음성)을 입력할 수 있다. 여기서, 상기 명령은 마이크(143)를 통해 음성 기반으로 입력되는 것을 예시로 하지만, 사용자 입력부(120) 또는 터치스크린(130)을 통해 텍스트 기반으로 입력되거나, 또는 제스처 기반으로 입력될 수도 있다. 상기 음성 및 텍스트는 상기의 예시와 같이 자연어 기반으로 입력되는 것을 특징으로 한다. 또한, 사용자는 상기 명령을 입력할 시 앞서 설명한 바와 같이 사용자 디바이스(100)에게 명령 입력을 수행함을 알리는 동작(예컨대, 마이크(143)를 턴-온하기 위한 동작)을 선행할 수도 있다.
사용자 디바이스(100)는 입력된 음성을 인식 및 파싱하여, 해당 음성에 대응하는 규칙을 실행할 수 있다. 그리고 사용자 디바이스(100)는 규칙 실행에 따라 조건(상황) 인식을 수행할 수 있다. 예를 들어, 사용자 디바이스(100)는 상기 정의된 규칙에 따라 사용자의 "운전할꺼야"와 같은 조건1을 인지하고, 상기 조건1에 따라 동작하여 지정된 타겟 디바이스(200)와 같은 조건2로부터 문자 메시지(특정 조건(예컨대, "어디야"를 포함하는 문자 메시지로 설정될 수도 있음) 수신과 같은 조건3을 체크할 수 있다. 이때, 사용자 디바이스(100)는 상기 조건2에 따른 상기 타겟 사용자 디바이스(200)로부터 조건3에 따른 문자 메시지가 수신되면, 사용자 디바이스(100)의 위치 정보를 획득하는 액션1을 수행하도록 동작할 수 있다. 또한 사용자 디바이스(100)는 액션1의 수행에 따라 획득된 위치 정보를 상기 타겟 사용자 디바이스(200)에게 전송하는 액션2를 수행하도록 동작할 수 있다.
한편, 상기 타겟 사용자 디바이스(200)는 상기 사용자 디바이스(100)로부터 위치 정보가 수신될 시 미리 정의된 인터페이스를 통해 상기 사용자 디바이스(100)에 대한 위치 정보를 피드백 할 수 있다. 예를 들어, 상기 도 8에 도시된 바와 같이 타겟 사용자 디바이스(200)는 맵 이미지와 함께 사용자 디바이스(100)의 사용자 위치 정보를 나타낼 수 있다.
이상에서 살펴본 바와 같은 도 8의 실시 예에 따라, 사용자는 지정한 타겟 사용자로부터 외부 이벤트가 수신되면, 별도의 동작을 수행하지 않고서도 상기 타겟 사용자에게 사용자의 위치를 문자 메시지를 통해 바로 알릴 수 있다. 그리고 상기 타겟 사용자는 상기 사용자의 위치 및 이동 경로에 대해 제공받을 수 있다.
도 9는 본 발명의 실시 예에 따른 사용자 디바이스를 이용한 상황 인식 서비스가 제공되는 동작 예시를 도시한 도면이다.
상기 도 9를 참조하면, 상기 도 9는 규칙 실행 시 유사한 복수의 규칙들 중 사용자 선택 또는 자동에 의해 어느 하나의 규칙을 추천하거나, 또는 규칙 실행 시 유사한 복수의 규칙들을 함께 운용하는 동작의 예시를 나타낸 것이다. 특히, 상기 도 9에서는 사용자가 특정 환경 변화에 따라 사용자 디바이스(100)를 통해 알람을 피드백 하거나, 또는 사용자 디바이스(100)의 특정 기능을 제어하도록 하는 규칙을 정의할 수 있다. 그리고 사용자 디바이스(100)는 사용자 입력에 따라 상기 규칙을 실행하고, 상기 규칙에서 정의된 환경 변화가 감지될 시 사용자 디바이스(100)의 특정 기능을 제어하거나, 알람을 출력하는 액션을 실행하는 경우의 예시를 나타낸 것이다.
상기 도 9에 도시된 바와 같이, 사용자는 사용자 디바이스(100)를 이용하여 규칙을 정의할 수 있다. 예를 들어, 사용자는 사용자 디바이스(100)를 조작하여 규칙을 생성할 수 있는 기능(도는 어플리케이션)을 활성화하여 환경 변화에 따른 이벤트 시마다 알람을 출력하도록 하는 하나의 규칙(이하, 제1규칙)과, 환경 변화에 따른 이벤트 시마다 사용자 디바이스의 기능을 제어하도록 하는 다른 하나의 규칙(이하, 제2규칙)을 생성할 수 있다. 한 실시 예에 따르면, 사용자는 "운전 중에 시속 80Km/h 이상이면 경고 알람 출력"과 같은 제1규칙과, "운전 중 시속 60Km/h 이상이면 오디오 볼륨(자동차의 오디오 볼륨 또는 사용자 디바이스(100)의 오디오 볼륨)을 증가"와 같은 제2규칙을 생성할 수 있다. 이때, 상기 규칙은 앞서 설명한 바와 같이 마이크(143)를 통해 음성 기반으로 입력되거나, 또는 사용자 입력부(120) 또는 터치스크린(130)를 통해 텍스트 기반으로 입력될 수 있다. 상기 음성 또는 텍스트는 자연어 기반으로 입력되어 설정될 수 있다. 상기 도 9에서 정의된 규칙에 따른 상황 인식 대상 즉, 조건은 "운전 중인 상태에서 환경 변화(즉, 속도 변화)가 일정 기준치 이상"이 될 수 있고, 상기 조건에 따른 액션 실행 대상은 "알람 출력 또는 오디오 볼륨 제어"가 될 수 있다.
상기 제1규칙 및 제2규칙은 앞서 설명한 바와 같이 미리 정의되거나, 또는 사용자 필요에 따라 시간 및 장소의 제한 없이 실시간으로 입력 및 정의될 수 있으며, 주어지는 인터페이스를 통해 상기 규칙을 실행하기 위한 명령이 음성, 텍스트 또는 제스처 기반으로 입력될 수 있다. 그러면, 사용자 디바이스(100)는 앞서 살펴본 바와 같이 상기 정의된 규칙과 상기 명령을 매핑하여 저장할 수 있다. 상기 도 9에서는 상기 제1규칙 및 제2규칙과 같이 복수개의 규칙들에 대해 하나의 동일한 명령이 매핑되는 경우를 예시로 한다.
사용자는 상기와 같이 규칙들(제1규칙 및 제2규칙)이 정의된 상태에서, 사용자 필요에 따라 상기 정의된 명령(예컨대, 음성, 텍스트, 또는 제스처 등)으로 규칙을 실행할 수 있다. 예를 들어, 사용자는 앞서 도 5a 내지 도 5e와 같은 동작 예시에 준하여, 자동차를 타기 전 또는 자동차를 타면서 음성으로 정의된 규칙을 실행하기 위한 명령(예컨대, "운전", "운전모드", "운전할거야" 등의 음성)을 입력할 수 있다. 여기서, 상기 명령은 마이크(143)를 통해 음성 기반으로 입력되는 것을 예시로 하지만, 사용자 입력부(120) 또는 터치스크린(130)을 통해 텍스트 기반으로 입력될 수 있고, 또는 제스처 기반으로 입력될 수도 있다. 사용자는 상기 음성 기반의 명령을 입력할 시 앞서 설명한 바와 같이 사용자 디바이스(100)에게 명령 입력을 수행함을 알리는 동작(예컨대, 마이크(143)를 턴-온하기 위한 동작)을 선행할 수도 있다.
사용자 디바이스(100)는 입력된 음성을 인식 및 파싱하여, 해당 음성에 대응하는 규칙을 실행할 수 있다. 그리고 사용자 디바이스(100)는 규칙 실행에 따라 조건(상황) 인식을 수행할 수 있다. 예를 들어, 사용자 디바이스(100)는 상기 정의된 규칙에 따라 사용자의 "운전할꺼야"와 같은 조건1을 인지하고, 상기 조건1에 따라 동작하여 이동 속도가 특정 조건(예컨대, 60Km/h 이상, 80Km/h 이상)에 도달하는지와 같은 조건2를 체크할 수 있다. 이때, 사용자 디바이스(100)는 이동 속도가 상기 조건2에 따른 이동 속도에 도달하면, 해당 조건에 부합하는 기능 실행을 처리하는 액션1을 수행하도록 동작할 수 있다. 예를 들어, 60Km/h 이상인 조건에 부합되면 상기 정의된 제2규칙에 따라 오디오 볼륨(예컨대, 설정 조건에 따라 사용자 디바이스(100)의 오디오 볼륨 또는 자동차의 오디오 볼륨)을 증가하는 액션을 수행할 수 있다. 또는 80Km/h 이상인 조건에 부합되면 상기 정의된 제1규칙에 따라 경고 알람을 발생하는 액션을 수행할 수 있다.
한편, 사용자 디바이스(200)는 상기와 같이 하나의 명령에 대해 복수의 규칙들(예컨대, 제1규칙 및 제2규칙)이 정의된 경우에서, 조건(상황) 인식에 따른 액션 실행 시 복수의 규칙들 중 적어도 하나의 규칙을 선택할 수 있도록 해당 규칙들(예컨대, 제1규칙 및 제2규칙)에 대한 규칙 추천을 제공할 수 있다. 예를 들어, 상기 도 9에 도시된 바와 같이 상기 명령에 대해 정의된 제1규칙(80Km/h 이상)과 제2규칙(60Km/h)이 정의되어 있음을 팝업 윈도우를 통해 제공할 수 있다.
또한, 앞서의 실시 예에서는 사용자가 운전을 시작하기 전 규칙을 실행하는 경우의 예시를 나타낸 것이다. 따라서 미리 정의된 복수의 규칙들이 동작 중인 경우에서, 해당 규칙들에 대응하는 조건들인 60Km/h 및 80Km/h가 순차적으로 감시되고 그에 따른 액션이 순차적으로 모두 실행되거나 또는 마지막 검출된 조건에 따른 액션만이 실행될 수도 있다.
이와는 다르게, 사용자는 차량을 운전하는 상태(예컨대, 도 9에 도시된 바와 같이 현재 시속 110Km/h인 상태)에서 앞서와 같이 정의된 규칙을 실행할 수도 있다.
이러한 경우, 사용자 디바이스(100)는 입력된 음성을 인식 및 파싱하여, 해당 음성에 대응하는 규칙을 실행할 수 있다. 그리고 사용자 디바이스(100)는 규칙 실행에 따라 조건(상황) 인식을 수행할 수 있다. 예를 들어, 사용자 디바이스(100)는 상기 정의된 규칙에 따라 사용자의 "운전할꺼야"와 같은 조건1을 인지하고, 상기 조건1에 따라 동작하여 이동 속도가 특정 조건(예컨대, 60Km/h 이상, 80Km/h 이상)에 도달하는지와 같은 조건2를 체크할 수 있다. 이때, 사용자 디바이스(100)는 현재 이동 속도가 110Km/h이고, 미리 정의된 상기 특정 조건들을 모두 만족함에 따라, 상기 복수개의 조건들에 대한 각 액션들을 동시에 실행하도록 동작할 수 있다. 한 실시 예에 따르면, 현재 이동 속도(110Km/h)가 60Km/h 및 80Km/h 이상의 조건을 모두 만족함에 따라 상기 정의된 제1규칙 및 제2규칙에 따라 오디오 볼륨(예컨대, 설정 조건에 따라 사용자 디바이스(100)의 오디오 볼륨 또는 자동차의 오디오 볼륨)을 증가하면서 경고 알람을 발생할 수도 있다.
또는 사용자 디바이스(200)는 상기와 같이 하나의 명령에 대해 복수의 규칙들이 정의된 경우에서, 상황 인식에 따른 액션 실행 시 복수의 규칙들 중 적어도 하나의 규칙을 선택할 수 있도록 정의된 규칙들에 대한 규칙 추천을 제공할 수 있다. 예를 들어, 상기 도 9에 도시된 바와 같이 상기 명령에 대해 정의된 제1규칙(80Km/h 이상)과 제2규칙(60Km/h)이 정의되어 있는 상황이고, 현재 상황 인식(110Km/h)에 따라 제1규칙 및 제2규칙을 모두 만족할 시 팝업 윈도우를 통해 복수개의 규칙들 중 현재 조건을 만족하는 적어도 하나의 규칙을 선택할 수 있는 규칙 추천을 제공할 수 있다. 그리고 사용자는 규칙 추천에 따른 특정 규칙 선택 시 운전 중임을 고려하여 음성 입력에 의해 선택할 수 있다. 그리고 사용자 설정에 따라 규칙 추천에 따른 적어도 하나의 규칙 선택은 음성을 비롯하여, 텍스트 및 제스처에 의해 선택할 수도 있다.
도 10은 본 발명의 실시 예에 따른 사용자 디바이스를 이용한 상황 인식 서비스가 제공되는 동작 예시를 도시한 도면이다.
상기 도 10을 참조하면, 상기 도 10은 사용자 디바이스(100)와 외부 디바이스(또는 사용자 디바이스와 통신 가능하거나 통신 가능한 장치가 부착된 물체 등)와 연동하여 상황 인식 서비스를 제공하는 동작의 예시를 나타낸 것이다. 상기 도 10에서는 사용자에 의해 설정된 시간마다 외부의 환경 변화를 체크하고, 그 결과에 따라 사용자 디바이스(100)에 의해 알람을 피드백 하도록 하는 규칙을 정의할 수 있다. 그리고 사용자 디바이스(100)는 정의된 규칙에 대한 사용자 명령에 따라 규칙을 실행한 후 상기 규칙에서 정의된 외부의 환경 변화가 감지될 시 알람을 출력하는 액션을 실행하는 경우의 예시를 나타낸 것이다.
상기 도 10에 도시된 바와 같이, 사용자는 사용자 디바이스(100)를 이용하여 규칙을 정의할 수 있다. 예를 들어, 사용자는 사용자 디바이스(100)를 조작하여 규칙을 생성할 수 있는 기능(또는 어플리케이션)을 활성화하여 설정된 시간마다 외부의 환경 변화에 따른 이벤트를 검출하고, 이벤트 검출 시마다 알람을 출력하도록 하는 규칙을 정의할 수 있다. 한 실시 예에 따르면, 사용자는 "4시간마다 약을 먹지 않으면 밤 10시와 오전 7시 사이를 제외하고 리마인드(remind) 메시지를 보여주고 욕실에 불을 켜줘"와 같이 규칙을 생성할 수 있다. 이때, 상기 규칙은 마이크(143)를 통해 음성 기반으로 입력되거나, 또는 사용자 입력부(120) 또는 터치스크린(130)를 통해 텍스트 기반으로 입력될 수 있다. 상기 음성 또는 텍스트는 상기의 예시와 같이 자연어 기반으로 입력되어 설정될 수 있다. 상기 도 10에서 정의된 규칙에 따른 상황 인식 대상 즉, 조건은 "4시간마다 약을 먹지 않으면(예컨대, 약통의 움직임이 감지되지 않으면)"과 "밤 10시와 오전 7시 사이"가 될 수 있고, 상기 조건에 따른 액션 실행 대상은 "리마인드 메시지 출력 및 욕실 전등 온"이 될 수 있다.
상기 규칙은 앞서 설명한 바와 같이 미리 정의되거나, 또는 사용자 필요에 따라 시간 및 장소의 제한 없이 실시간으로 입력 및 정의될 수 있으며, 주어지는 인터페이스를 통해 상기 규칙을 실행하기 위한 명령을 음성, 텍스트 또는 제스처 기반으로 입력될 수 있다. 그러면, 사용자 디바이스(100)는 앞서 살펴본 바와 같이 상기 정의된 규칙과 상기 명령을 매핑하여 저장할 수 있다.
사용자는 상기와 같이 규칙이 정의된 상태에서, 사용자 필요에 따라 상기 정의된 명령(예컨대, 음성, 텍스트, 또는 제스처 등)으로 규칙을 실행할 수 있다. 예를 들어, 사용자는 앞서 도 5a 내지 도 5e와 같은 동작 예시에 준하여, 음성으로 상기 정의된 규칙을 실행하기 위한 명령(예컨대, "약", "약통위치확인", "약시간" 등의 음성)을 입력할 수 있다. 여기서, 상기 명령은 마이크(143)를 통해 음성 기반으로 입력되는 것을 예시로 하지만, 사용자 입력부(120) 또는 터치스크린(130)를 통해 텍스트 기반으로 입력될 수 있고, 또는 제스처 기반으로 입력될 수도 있다. 사용자는 음성 기반으로 명령을 입력할 시 앞서 설명한 바와 같이 사용자 디바이스(100)에게 명령 입력을 수행함을 알리는 동작(예컨대, 마이크(143)를 턴-온하기 위한 동작)을 선행할 수도 있다.
사용자 디바이스(100)는 입력된 음성을 인식 및 파싱하여, 해당 음성에 대응하는 규칙을 실행할 수 있다. 그리고 사용자 디바이스(100)는 규칙 실행에 따라 조건(상황) 인식을 수행하여 특정 이벤트를 감시할 수 있다. 예를 들어, 사용자 디바이스(100)는 상기 정의된 규칙에 따라 사용자의 "약 시간"과 같은 조건1을 인지하고, 상기 조건1에 따라 동작하여 설정된 시간(예컨대, 4시간)과 같은 조건2를 체크하고, 상기 조건2에 반응하여 외부 디바이스(예컨대, 약통)의 움직임(흔들림) 여부와 같은 조건3을 감시할 수 있다. 본 발명의 다양한 실시 예에서 외부 디바이스의 움직임 감시는 상호 간의 무선 신호 교신에 의해 확인할 수 있다. 따라서 상기 외부 디바이스(예컨대, 약통)는 사용자 디바이스(100)와 통신 가능한 장치(예컨대, BLE(Bluetooth Low Energy) 태그, RF 태그, NFC 태그 등)가 부착될 수 있다.
그리고 사용자 디바이스(100)는 설정된 시간(예컨대, 4시간)동안 상기 외부 디바이스(즉, 약통)의 움직임이 감지되지 않으면, 사용자에게 "약을 복용하세요!"와 같은 리마인드 메시지를 출력하는 액션1을 수행하도록 동작할 수 있다. 또한 사용자 디바이스(100)는 상기 액션1에 따른 리마인드 메시지 출력과 함께 타겟 디바이스(예컨대, 전등, 냉장고, 전기포트 등)를 제어하는 액션2를 수행하도록 동작할 수 있다.
본 발명의 실시 예에서 타겟 디바이스는 사용자 디바이스(100)와 같은 스마트 기기를 비롯하여, 전등, 냉장고, 전기포트 등과 같이 사용자가 일상적으로 사용하는 다양한 물건을 포함할 수 있고, 사용자에게 정의된 규칙에 따른 상황을 인지시키고 해당 상황에서 필요로 하는 액션을 수행할 수 있는 모든 물체를 포함할 수 있다. 그리고 상기 도 10에서와 같은 동작 예시에서, 상기 타겟 디바이스의 제어는 타겟 디바이스들이 사용자 디바이스(100)와 직접 통신 가능한 경우에는 타겟 디바이스가 직접 제어될 수 있으며, 직접 통신이 불가능한 경우에는 타겟 디바이스 제어를 위한 별도의 디바이스(예컨대, 통신 기능을 구비한 전원 제어 장치 등)와 연동하여 타겟 디바이스가 간접 제어될 수 있다. 한 실시 예에 따르면, 사용자 디바이스(100)는 통신 기능을 구비한 전원 제어 장치와 통신하여 타겟 디바이스인 욕실의 전등에 전원이 인가되도록 제어할 수 있다.
도 11은 본 발명의 실시 예에 따른 사용자 디바이스를 이용한 상황 인식 서비스가 제공되는 동작 예시를 도시한 도면이다.
상기 도 11을 참조하면, 상기 도 11은 컴포지트 어플리케이션을 이용하여 규칙을 설정 및 실행하고, 사용자 디바이스(100)가 상기 규칙에 따라 정의된 조건을 인지하고 그에 따른 액션을 실행하는 동작의 예시를 나타낸 것이다. 특히, 상기 도 11에서는 사용자가 자신의 위치(또는 사용자 디바이스(100)의 위치)를 외부의 이벤트에 따라 특정 타겟 사용자 디바이스(200)에게 자동 전송하도록 하는 규칙을 정의할 수 있다. 그리고 사용자 디바이스(100)는 사용자 입력에 따라 상기 규칙을 실행하고, 실행 규칙에서 정의된 타겟 사용자 디바이스(200)로부터 이벤트가 수신될 시 상기 타겟 사용자 디바이스(200)에게 사진 정보 및 위치 정보를 전송하는 액션을 실행하는 경우의 예시를 나타낸 것이다. 상기 도 11에서는 특정 모드 상태에서 외부 디바이스(예컨대, 타겟 사용자 디바이스(200))로부터의 입력(이벤트)을 사용자 디바이스(100) 내부에서 감지하여 지정된 액션을 실행하는 경우의 예시를 나타낸다.
상기 도 11에 도시된 바와 같이, 사용자는 사용자 디바이스(100)를 이용하여 규칙을 정의할 수 있다. 예를 들어, 사용자(또는 사용자의 보호자)는 사용자 디바이스(100)를 조작하여 규칙을 생성할 수 있는 기능(또는 어플리케이션)을 활성화하여 적어도 하나의 타겟 사용자 디바이스(200)로부터 이벤트(예컨대, 메시지 수신) 시 사진 정보와 위치 정보를 전송하도록 하는 규칙을 정의할 수 있다. 한 실시 예에 따르면, 사용자(또는 보호자)는 "보호 모드 중에 엄마한테 문자가 오면 카메라로 사진을 찍고, 내 위치와 함께 보내줘"와 같이 규칙을 생성할 수 있다. 이때, 상기 규칙은 마이크(143)를 통해 음성 기반으로 입력될 수 있고, 또는 사용자 입력부(120) 또는 터치스크린(130)을 통해 텍스트 기반으로 입력될 수도 있다. 상기 음성 또는 텍스트는 자연어 기반으로 입력되어 설정될 수 있다. 상기 도 11에서 정의된 규칙에 따른 상황 인식 대상 즉, 조건은 "보호 모드에서 엄마로부터 문자 수신 시"가 될 수 있고, 상기 조건에 따른 액션 실행 대상은 "이벤트에 따라 카메라로 사진을 찍고, 위치 정보를 지정된 대상에게 전송"이 될 수 있다. 또한 추가적으로, "보호 모드 중에 엄마한테 '어디야'와 같은 위치를 확인하는 문구를 포함하는 문자 수신 시"와 같이 추가 조건이 설정될 수도 있다.
사용자 디바이스(100)는 사용자 요청에 따라 상기 규칙을 정의할 시 이벤트를 제공하는 대상인 적어도 하나의 타겟 사용자 디바이스(200)를 지정하기 위한 인터페이스를 제공하고, 사용자 입력에 따라 상기 적어도 하나의 타겟 사용자 디바이스(200)의 정보(예컨대, 전화번호, 이름, 별명 등)를 상기 규칙에 매핑하여 저장할 수 있다. 상기 규칙은 앞서 설명한 바와 같이 미리 정의되거나, 또는 사용자 필요에 따라 시간 및 장소의 제한 없이 실시간으로 입력 및 정의될 수 있으며, 주어지는 인터페이스를 통해 상기 규칙을 실행하기 위한 명령이 음성, 텍스트 또는 제스처 기반으로 입력될 수 있다. 그러면, 사용자 디바이스(100)는 앞서 살펴본 바와 같이 상기 정의된 규칙과 상기 명령을 매핑하여 저장할 수 있다.
사용자는 상기와 같이 규칙이 정의된 상태에서, 사용자 필요에 따라 상기 정의된 명령(예컨대, 음성, 텍스트, 또는 제스처 등)으로 규칙을 실행할 수 있다. 예를 들어, 사용자는 앞서 도 5a 내지 도 5e와 같은 동작 예시에 준하여, 학교(학원)에서 나와 집에 가면서 규칙을 실행(예컨대, 보호 모드로 상태 설정)하기 위한 해당 명령(예컨대, "보호 모드", "하교", "집에갈거야" 등의 음성)을 입력할 수 있다. 여기서, 상기 명령은 마이크(143)를 통해 음성 기반으로 입력되는 것을 예시로 하지만, 사용자 입력부(120) 또는 터치스크린(130)을 통해 텍스트 기반으로 입력될 수 있고, 또는 제스처 기반으로 입력될 수도 있다. 상기 음성 및 텍스트는 자연어 기반으로 입력될 수 있다. 또한, 사용자는 음성 기반으로 명령을 입력할 시 사용자 디바이스(100)에게 명령 입력을 수행함을 알리는 동작(예컨대, 마이크(143)를 턴-온하기 위한 동작)을 선행할 수도 있다.
사용자 디바이스(100)는 입력된 음성을 인식 및 파싱하여, 해당 음성에 대응하는 규칙을 실행할 수 있다. 그리고 사용자 디바이스(100)는 규칙 실행에 따라 조건(상황) 인식을 수행할 수 있다. 예를 들어, 사용자 디바이스(100)는 상기 실행 중인 규칙에 따라 "보호 모드"와 같은 조건1을 인지하고, 상기 조건1에 따라 동작하여 지정된 타겟 디바이스(200)와 같은 조건2로부터 특정 조건(예컨대, "어디야"와 같은 문자)을 포함하는 문자 메시지 수신과 같은 조건3을 체크할 수 있다. 이때, 사용자 디바이스(100)는 상기 조건2에 따른 타겟 사용자 디바이스(200)로부터 조건3에 따른 특정 조건(예컨대, 어디야)을 포함하는 문자 메시지가 수신되면, 카메라모듈(미도시)을 구동하는 액션1을 수행하도록 동작할 수 있다. 또한 사용자 디바이스(100)는 액션1의 수행에 따라 자동 촬영을 수행하여 사진 정보를 획득하는 액션2를 수행하도록 동작할 수 있다. 또한 사용자 디바이스(100)는 위치 산출 모듈(117)을 구동하는 액션3을 수행하도록 동작할 수 있다. 또한 사용자 디바이스(100)는 액션3의 수행에 따라 사용자 디바이스(100)의 위치 정보를 획득하는 액션 4를 수행하도록 동작할 수 있다. 그리고 사용자 디바이스(100)는 액션1 내지 액션4의 수행에 따라 획득된 사진 정보와 위치 정보를 상기 타겟 사용자 디바이스(200)에게 전송하는 액션5를 수행하도록 동작할 수 있다.
한편, 상기 타겟 사용자 디바이스(200)는 상기 사용자 디바이스(100)로부터 사진 정보와 위치 정보가 수신될 시 미리 정의된 인터페이스를 통해 상기 사용자 디바이스(100)에 대한 주변의 사진 정보 및 위치 정보를 피드백 할 수 있다. 예를 들어, 상기 도 11에 도시된 바와 같이 타겟 사용자 디바이스(200)는 맵 이미지 상에 사용자 디바이스(100)가 획득한 사진 정보와 위치 정보를 나타낼 수 있다.
상기 도 11에서는 도시를 생략하였으나, 상기 사진 정보는 사용자 디바이스(100)의 위치에 대한 주변의 사진 정보를 외부의 서버로부터 획득할 수도 있다. 예를 들어, 사용자 디바이스(100)가 사용자의 주머니에 있는 상태에서 촬영이 이루어질 시 희망되는 피사체(예컨대, 주변 사진)가 아닌 흑백의 사진만이 획득될 수 있다. 따라서 사용자 디바이스(100)는 촬영된 사진 정보를 확인하거나, 또는 사용자 디바이스(100)의 상태(예컨대, 조도 센서(미도시)를 통해 주머니 속에 있는지 여부 확인 등)를 체크하여 상기 예시와 같이 비정상 상태의 사진 정보인지 판별할 수 있다. 그리고 사용자 디바이스(100)는 비정상 상태의 사진 정보인 경우 사용자 디바이스(100)의 현재 위치에 대응하는 주변 사진을 외부의 서버로부터 수신하여 상기 사진 정보를 획득하는 것으로 진행하는 조건 및 액션을 추가적으로 설정 및 동작되도록 할 수도 있다.
또한, 상기 도 11에서는 규칙 실행을 위한 명령을 사용자 디바이스(100)를 소지한 사용자가 직접 입력하는 경우를 예시로 한다. 하지만, 어린 아이와 같은 사용자의 경우 정의된 규칙을 실행하지 못하는 경우도 발생할 수 있다. 따라서 보호자가 지속적으로 아이의 위치를 모니터링하기 위한 방안으로 상기 규칙 실행을 외부의 보호자가 실행하도록 할 수도 있다. 예를 들어, 규칙 정의 시 "엄마한테 '어디야'라고 문자가 오면 보호 모드를 실행하고 내 위치를 알려줘"와 같이 규칙이 설정될 수도 있다. 그러면, 사용자 디바이스(100)는 타겟 사용자 디바이스(200)로부터 '어디야'를 포함하는 메시지를 수신할 시 보호 모드의 실행 상태를 체크하고, 보호 모드가 실행 상태인 경우 앞서와 같은 동작을 수행할 수 있다. 반면, 보호 모드가 실행되지 않은 상태인 경우 보호 모드를 실행한 후 앞서와 같은 동작을 수행할 수도 있다.
이상에서 살펴본 바와 같은 도 11의 실시 예에 따라, 사용자(아이)의 위치 및 주변 환경에 대해 이벤트를 요청한 다른 사용자(보호자)에게 보다 편리하고 빠르게 알릴 수 있다. 그리고 상기 다른 사용자는 상기 사용자의 위치, 이동 경로 및 주변 환경에 대해 제공받을 수 있다.
도 12는 본 발명의 실시 예에 따른 사용자 디바이스를 이용한 상황 인식 서비스가 제공되는 동작 예시를 도시한 도면이다.
상기 도 12를 참조하면, 상기 도 12는 사용자가 음성을 이용하여 규칙을 설정 및 실행하고, 사용자 디바이스(100)가 상기 규칙에 따라 정의된 조건을 인지하고 그에 따른 액션을 실행하는 동작의 예시를 나타낸 것이다. 특히, 상기 도 12에서는 사용자가 특정 환경에서 사용자 디바이스(100)의 특정 기능을 제어하도록 하는 규칙을 정의할 수 있다. 그리고 사용자 디바이스(100)는 사용자 입력에 따라 상기 규칙을 실행하고, 실행 규칙에서 정의된 사용자 디바이스(100)의 특정 기능을 처리하는 액션을 실행하는 경우의 예시를 나타낸 것이다.
상기 도 12에 도시된 바와 같이, 사용자는 사용자 디바이스(100)를 이용하여 규칙을 정의할 수 있다. 예를 들어, 사용자는 사용자 디바이스(100)를 조작하여 규칙을 생성할 수 있는 기능(또는 어플리케이션)을 활성화하여 특정 환경에서 정의된 복수개의 기능들(또는 어플리케이션들)을 실행하도록 하는 규칙을 정의할 수 있다. 한 실시 예에 따르면, 사용자는 "지하철을 타면 WiFi를 켜고, 음악 APP을 실행시켜줘"와 같이 규칙을 생성할 수 있다. 이때, 상기 규칙은 마이크(143)를 통해 음성 기반으로 입력될 수 있고, 또는 사용자 입력부(120) 또는 터치스크린(130)을 통해 텍스트 기반으로 입력될 수도 있다. 상기 음성 또는 텍스트는 자연어 기반으로 입력되어 설정될 수 있다. 상기 도 12에서 정의된 규칙에 따른 상황 인식 대상 즉, 조건은 "지하철을 타면"과 같이 사용자에 의한 명시적인 명령 입력이나 지하철에 탑승하는 상태 변화에 따른 명령 입력이 될 수 있고, 상기 조건에 따른 액션 실행 대상은 "WiFi 기능 턴-온(turn-on) 및 음악 APP 실행"이 될 수 있다.
사용자 디바이스(100)는 사용자 요청에 따라 상기 규칙을 정의할 시 해당 조건에서 실행하고자 하는 복수의 액션들(예컨대, 기능, 어플리케이션)을 선택하기 위한 인터페이스를 제공할 수 있고, 사용자는 상기 인터페이스를 통해 복수의 액션들을 선택할 수도 있다. 예를 들어, 사용자가 해당 규칙에 대한 조건인 "지하철"을 입력할 시 사용자 디바이스(100)는 상기 지하철과 연관되어 실행될 수 있는 액션들(예컨대, 기능, 어플리케이션)의 리스트(액션 리스트)를 표시하고, 상기 액션 리스트에서 실행하고자 하는 액션(예컨대, WiFi 온, 음악 어플리케이션 등)을 선택하는 사용자 입력을 수신 받을 수도 있다. 여기서, 상기 규칙은 미리 정의되거나, 또는 사용자 필요에 따라 시간 및 장소의 제한 없이 실시간으로 입력 및 정의될 수 있다.
사용자는 상기와 같이 규칙이 정의된 상태에서, 사용자 필요에 따라 상기 정의된 명령(예컨대, 음성, 텍스트, 또는 제스처 등)으로 규칙을 실행할 수 있다. 예를 들어, 사용자는 앞서 도 5a 내지 도 5e와 같은 동작 예시에 준하여, 지하철을 타기 전 또는 지하철을 타면서 음성으로 상기 정의된 규칙을 실행하기 위한 해당 명령(예컨대, "지하철 타", "지하철", "지하철 모드" 등의 음성)을 입력할 수 있다. 여기서, 상기 명령은 마이크(143)를 통해 음성 기반으로 입력되는 것을 예시로 하지만, 사용자 입력부(120) 또는 터치스크린(130)를 통해 텍스트 기반으로 입력될 수 있고, 또는 제스처 기반으로 입력될 수도 있다. 상기 음성 및 텍스트는 자연어 기반으로 입력될 수 있다. 또한, 사용자는 음성 기반으로 명령을 입력할 시 사용자 디바이스(100)에게 명령 입력을 수행함을 알리는 동작(예컨대, 마이크(143)를 턴-온하기 위한 동작(예컨대, 기능키 입력, 위젯의 규칙 실행 버튼 입력 등)을 선행할 수도 있다.
사용자 디바이스(100)는 입력된 음성을 인식 및 파싱하여, 해당 음성에 대응하는 규칙을 실행할 수 있다. 그리고 사용자 디바이스(100)는 규칙 실행에 따라 조건(상황) 인식을 수행할 수 있다. 예를 들어, 사용자 디바이스(100)는 상기 실행 중인 규칙에 따라 "지하철 타"와 같은 조건을 인지하고, 상기 조건에 따라 동작하여 WiFi를 턴-온하는 액션1 및 음악 어플리케이션을 실행하는 액션2를 수행하도록 동작할 수 있다. 사용자 디바이스(100)는 상기 액션1 및 액션2에 따른 동작으로 WiFi 연결을 위한 송수신 신호 처리 및 음악 어플리케이션 실행에 따른 음악 재생을 처리할 수 있다.
상기 사용자 디바이스(100)는 상기 규칙이 실행되고 상기 규칙에 따른 조건(예컨대, 지하철 탑승)이 검출될 시 WiFi 기능 온 및 음악 어플리케이션을 함께 실행하고, 그에 대한 정보를 피드백 할 수 있다. 예를 들어, 상기 도 12에 도시된 바와 같이 사용자 디바이스(100)는 WiFi의 턴-온 상태를 표시하고 음악 재생에 따른 사운드를 출력할 수 있다.
이상에서 살펴본 바와 같은 도 12의 실시 예에 따라, 사용자는 동작 중인 규칙에 대한 조건 감지로 음성 또는 상태 변화를 통해 입력할 수 있고, 해당 조건에 따라 복수 개의 액션(기능, 어플리케이션 등)들을 복합적으로 운용할 수도 있다.
도 13은 본 발명의 실시 예에 따른 사용자 디바이스를 이용한 상황 인식 서비스가 제공되는 동작 예시를 도시한 도면이다.
상기 도 13을 참조하면, 상기 도 13은 사용자가 자연어 기반의 음성 또는 텍스트를 이용하여 규칙을 설정 및 실행하고, 사용자 디바이스(100)가 상기 규칙에 따라 정의된 조건을 인지하고 그에 따른 액셩을 실행하는 동작의 예시를 나타낸다. 특히, 상기 도 13에서는 사용자가 추상적인 상황을 정의하고, 사용자 디바이스(100)는 사용자 입력에 따라 상기 규칙을 실행하고, 실행 규칙에서 정의된 사용자 디바이스(100)의 특정 기능 처리 및 외부 디바이스(또는 사용자 디바이스(100)와 통신 가능하거나 통신 가능한 장치가 부착된 물체 등)를 제어하는 액션을 실행하는 경우의 예시를 나타낸 것이다.
상기 도 13에 도시된 바와 같이, 사용자는 사용자 디바이스(100)를 이용하여 규칙을 정의할 수 있다. 예를 들어, 사용자는 사용자 디바이스(100)를 조작하여 규칙을 생성할 수 있는 기능(또는 어플리케이션)을 활성화하여 특정 환경에서 정의된 복수개의 기능들(사용자 디바이스(100) 자체의 기능 및 외부 디바이스의 기능)을 실행하도록 하는 규칙을 정의할 수 있다. 한 실시 예에 따르면, 사용자는 "우울하면 조명 밝기를 2단계로 하고, 클래식 음악 장르를 재생해줘"와 같이 규칙을 생성할 수 있다. 이때, 상기 규칙은 마이크(143)를 통해 음성 기반으로 입력될 있고, 또는 사용자 입력부(120) 또는 터치스크린(130)을 통해 텍스트 기반으로 입력될 수도 있다. 상기 음성 또는 텍스트는 자연어 기반으로 입력되어 설정될 수 있다. 상기 도 13에서 정의된 규칙에 따른 상황 인식 대상 즉, 조건은 "우울하면"이 될 수 있고, 액션 실행 대상은 "조명 밝기 조절 및 클래식 음악 재생"이 될 수 있다.
이때, 사용자 디바이스(100)는 사용자 요청에 따라 상기 규칙을 정의할 시 해당 조건에서 실행하고자 하는 복수의 액션들(예컨대, 사용자 디바이스(100)의 기능 제어 및 외부 디바이스의 기능 제어)를 선택하기 위한 인터페이스를 제공할 수 있고, 사용자는 상기 인터페이스를 통해 복수의 액션들을 선택할 수도 있다. 예를 들어, 사용자가 해당 규칙에 대한 조건인 "우울해"을 입력할 시 사용자 디바이스(100)는 상기 "우울해"와 연관되어 실행될 수 있는 액션들의 리스트(액션 리스트)를 표시하고, 상기 액션 리스트에서 실행하고자 하는 액션(예컨대, 조명 밝기 조절, 음악 어플리케이션 실행 및 클래식 음악 재생 등) 을 선택하는 사용자 입력을 수신 받을 수도 있다. 여기서, 상기 규칙은 미리 정의되거나, 또는 사용자 필요에 따라 시간 및 장소의 제한 없이 실시간으로 입력 및 정의될 수 있다.
사용자는 상기와 같이 규칙이 정의된 상태에서, 사용자 필요에 따라 상기 정의된 명령(예컨대, 음성, 텍스트, 또는 제스처 등)으로 규칙을 실행할 수 있다. 예를 들어, 사용자는 앞서 도 5a 내지 도 5b와 같은 동작 예시에 준하여 자연어 기반의 음성으로 상기 정의된 규칙을 실행하기 위한 해당 명령(예컨대, "우울해", "피곤해", "우울 모드" 등의 음성)를 입력할 수 있다. 또는 사용자는 후술하는 바와 같이 자연어 기반의 텍스트로 상기 정의된 규칙을 실행하기 위한 해당 명령을 입력할 수도 있다. 한 실시 예에 따르면, 상기 명령은 마이크(143)를 통해 음성 기반으로 입력될 수 있고,, 사용자 입력부(120) 또는 터치스크린(130)을 통해 텍스트 기반으로 입력될 수 있고, 또는 제스처 기반으로 입력될 수도 있다. 상기 음성 및 텍스트는 자연어 기반으로 입력될 수 있다. 또한, 사용자는 음성 기반으로 상기 명령을 입력할 시 사용자 디바이스(100)에게 명령 입력을 수행함을 알리는 동작(예컨대, 마이크(143)를 턴-온하기 위한 동작(예컨대, 기능키 입력, 위젯의 규칙 실행 버튼 입력 등)을 선행할 수도 있다.
사용자 디바이스(100)는 입력된 명령(예컨대, 음성, 텍스트 또는 제스처)을 인식 및 파싱하여, 해당 명령에 대응하는 규칙을 실행할 수 있다. 그리고 사용자 디바이스(100)는 규칙 실행에 따라 조건(상황) 인식을 수행할 수 있다. 예를 들어, 사용자 디바이스(100)는 상기 실행 중인 규칙에 따라 "우울해"와 같은 사용자의 음성 입력에 따른 조건을 인지하고, 상기 조건에 따라 동작하여 외부 디바이스를 제어하여 조명 밝기를 2단계로 조절하는 액션1을 수행하도록 동작하고, 사용자 디바이스(100)의 음악 어플리케이션을 실행하는 액션2를 수행하도록 동작하여 클래식 음악을 재생하는 액션 3을 수행하도록 동작할 수 있다.
그리고 상기 도 13에서와 같은 동작 예시에서, 상기 외부 디바이스의 제어는 외부 디바이스(예컨대, 거실의 조명)가 사용자 디바이스(100)와 직접 통신 가능한 경우에는 외부 디바이스가 직접 제어될 수 있으며, 직접 통신이 불가능한 경우에는 외부 디바이스 제어를 위한 별도의 디바이스(예컨대, 통신 기능을 구비한 전원 제어 장치 등)와 연동하여 외부 디바이스가 간접 제어될 수도 있다. 한 실시 예에 따르면, 사용자 디바이스(100)는 통신 기능을 구비한 전원 제어 장치와 통신하여 외부 디바이스인 거실의 조명의 밝기가 조절되도록 제어할 수 있다.
상기 사용자 디바이스(100)는 상기 규칙 실행을 위한 명령이 입력될 시 외부 조명 밝기 조절 및 음악 어플리케이션을 함께 실행하고, 그에 대한 정보를 피드백 할 수 있다. 예를 들어, 상기 도 13에 도시된 바와 같이 사용자 디바이스(100)는 조명 밝기 제어를 통해 그 밝기를 2단계로 낮추고, 클래식 음악 재생에 따른 사운드 출력 및 그의 화면을 출력할 수 있다.
이상에서 살펴본 바와 같은 도 13의 실시 예에 따라, 사용자는 추상적인 상황을 정의하고 이에 따른 액션을 실행하는 규칙 설정이 가능하다. 한 실시 예에 따르면, 앞서의 예시에서 살펴본 바와 같이 사용자는 우울(또는 피곤)하다는 것을 사용자 상황을 통해서가 아닌 자연어를 통해서 인식시키고, 그에 따른 액션을 실행하여 피드백을 제공받을 수 있다.
한편, 이상에서 도 6 내지 도 13에 따른 동작 예시에서는 규칙과 명령을 구분하여 정의 및 설정하는 것을 예시로 하였다. 하지만, 본 발명의 다양한 실시 예에 따르면, 규칙 실행을 위한 명령을 별도로 정의하지 않더라도, 정의된 규칙에서 추출하여 운용할 수도 있다.
예를 들어, 상기 도 7의 예시와 같이, "내가 택시를 타면 아빠와 동생에게 5분마다 나의 위치 정보를 알려줘"와 같은 규칙이 정의되는 경우를 가정한다. 사용자 디바이스(100)는 상기 규칙에서 "택시를 타면"을 인식하여 그와 관련된 연관 명령(또는 연관 단어(Associative word)(규칙 실행을 위한 명령어로 정의된 규칙 내의 단어들에 대해 연관도 높은 명령어))인 "지금 택시 타", "택시", "택시 모드" 등을 자동 검출하여 규칙을 실행할 수도 있다. 즉, 사용자는 별도의 명령어 지정 없이 상기와 같은 규칙만을 정의한 상태에서 "지금 택시 타", "택시", 또는 "택시 모드" 등의 연관 명령어를 입력하는 것만으로 규칙을 실행할 수 있다.
또한 상기 도 8의 예시에서 "운전 중에 와이프한테 문자가 오면 현재 내 위치 정보를 알려줘"와 같은 규칙이 정의되는 경우를 가정한다. 사용자 디바이스(100)는 상기 규칙에서 "운전 중"을 인식하여 그와 관련된 연관 명령어인 "운전할거야", "운전", "운전모드" 등을 검출하여 규칙을 실행할 수 있다. 즉, 사용자는 별도의 명령어 지정 없이 상기와 같은 규칙만을 정의한 상태에서 "운전할거야", "운전", 또는 "운전모드" 등의 연관 명령어를 입력하는 것만으로 규칙을 실행할 수 있다.
사용자 디바이스(100)는 상기의 동작 예시와 같이 연관 명령어가 입력될 시 그에 대응하는 규칙을 미리 정의된 다양한 규칙들로부터 추적하여 해당 규칙 실행하도록 동작할 수 있다.
한편, 상기 도 7 및 도 8의 예시에서 살펴본 바와 같은 운용 방식을 도 6, 도 9 내지 도 13의 경우에서도 적용될 수 있다. 예를 들어, 상기 도 9의 경우 정의된 규칙에 따라 "운전할거야", "운전", 또는 "운전모드" 등이 연관 명령어로 입력될 수 있고, 상기 도 10의 경우 정의된 규칙에 따라 "약", "약통위치확인", 또는 "약시간" 등이 연관 명령어로 입력될 수 있고, 상기 도 11의 경우 정의된 규칙에 따라 "보호 모드", "하교", 또는 "집에갈거야" 등이 연관 명령어로 입력될 수 있고, 상기 도 12의 경우 정의된 규칙에 따라 "지하철 타", "지하철", 또는 "지하철 모드" 등이 연관 명령어로 입력될 수 있고, 상기 도 13의 경우 정의된 규칙에 따라 "우울해", 또는 "피곤해" 등이 연관 명령어로 입력될 수 있다. 따라서 사용자 디바이스(100)는 별도의 명령어가 정의되어 있지 않더라도, 미리 정의된 규칙에 대응하는 연관 명령어를 기반으로 해당 규칙 실행을 제어할 수 있다.
도 14a 및 도 14b는 본 발명의 실시 예에 따른 사용자 디바이스에서 실행 중인 규칙을 일시 중지하는 동작 예시를 도시한 도면이다.
상기 도 14a 및 도 14b를 참조하면, 상기 도 14a는 본 발명의 실시 예에 따른 상황 인식 서비스를 위한 위젯(500)이 제공되고 있으며, 상기 위젯(500)의 실행 정보 영역(520)을 통해 현재 동작 중인 규칙들에 대한 정보가 표시되고 있을 때의 사용자 디바이스(100)의 화면 예시를 나타낸 것이다.
상기 도 14a에 도시된 바와 같이, 현재 동작 중인 규칙들이 "택시" 및 "지하철"에 해당하는 경우를 가정한다. 사용자는 위젯(500)의 실행 정보 영역(520)을 통해 제공 중인 특정 규칙을 선택하는 것에 의해 해당 규칙을 일시 중지시킬 수 있다. 예를 들어, 상기 도 14a와 같은 상태에서 사용자는 "택시"의 규칙을 선택(예컨대, 탭 기반의 터치 이벤트)할 수 있다. 그러면, 사용자 디바이스(100)는 도 14b에 도시된 바와 같이, 실행 중인 규칙들(예컨대, 택시, 지하철) 중 사용자 선택에 대응하는 규칙(예컨대, 택시)을 일시 중지시킬 수 있다.
그리고 사용자 디바이스(100)는 일시 중지하는 규칙에 대한 표시를 변경하여 제공할 수 있다. 한 실시 예에 따르면, 사용자 디바이스(100)는 상기 도 14b에 도시된 바와 같이 실행 정보 영역(520)에서 "택시"에 대응하는 규칙의 활성화 상태를 비활성화 상태로 전환하여 표시할 수 있다. 즉, 상기 도 14b는 위젯(500)의 실행 정보 영역(520)에서 특정 규칙(예컨대, 택시)의 버튼을 통해 해당 규칙이 잠시 중단되고 있는 상태의 사용자 디바이스(100)의 화면 예시를 나타낸 것이다.
이와 같이, 본 발명의 실시 예에 따르면, 현재 실행 중인 규칙을 위젯(500)을 통해 표시할 수 있고, 표시 중인 규칙에 대해 사용자 입력에 따라 잠시 중지할 수 있도록 지원할 수 있다. 이를 통해, 반복적으로 수행되어야 하는 규칙(예컨대, 주기적으로 상태를 체크하거나 주기적으로 문자를 보내야 하는 액션 등)의 경우 사용자 선택에 따라 잠시 중단할 수 있도록 함으로써, 사용자의 사용성이 증대될 수 있다.
도 15a 및 도 15b는 본 발명의 실시 예에 따른 사용자 디바이스에서 실행 중인 규칙을 일시 중지하는 동작 예시를 도시한 도면들이다.
상기 도 15a 및 도 15b를 참조하면, 상기 도 15a 및 도 15b는 본 발명의 실시 예에 따른 상황 인식 서비스를 위한 어플리케이션(예컨대, 규칙 리스트)을 실행했을 때의 사용자 디바이스(100)의 화면 예시를 나타낸 것이다.
상기 도 15a 및 도 15b에 도시된 바와 같이, 현재 설정된 규칙(1510)이 "지하철"이고, 사용자 선택에 따라 상기 규칙에 설정된 상세 정보가 풀다운되어 표시 중인 상태일 수 있다. 예를 들어, 사용자가 풀다운 메뉴(335)를 선택하여 상기 규칙(1510)에 설정된 세부 정보(예컨대, 조건 및 액션 등)(1520, 1530)에 대응하는 "Wi-Fi 설정: 온"과 "소리설정: 진동"으로 각각 설정되어 있음을 표시할 수 있다.
사용자는 상기 도 15a와 같은 상태에서 하나의 규칙에서 정의된 복수개의 액션들(1520, 1530) 중 특정 액션을 선택하는 것에 의해 해당 액션만을 일시 중지시킬 수 있다. 예를 들어, 상기 도 15a와 같은 상태에서 사용자는 "지하철" 규칙(1510)에 설정된 액션들(예컨대, Wi-Fi 설정, 소리설정)(1520, 1530) 중 "Wi-Fi 설정"과 관련된 액션(1520)을 선택할 수 있다. 그러면, 사용자 디바이스(100)는 도 15b에 도시된 바와 같이, 실행 중인 규칙(예컨대, 지하철)(1510)의 액션들(예컨대, Wi-Fi 설정, 소리설정)(1520, 1530) 중 사용자 선택에 대응하는 액션(예컨대, Wi-Fi 설정)(1520)을 일시 중지시킬 수 있다.
그리고 사용자 디바이스(100)는 일시 중지하는 액션에 대한 표시를 변경하여 제공할 수 있다. 한 실시 예에 따르면, 사용자 디바이스(100)는 상기 도 15b에 도시된 바와 같이 "Wi-Fi 설정"에 대응하는 액션(1520)의 활성화 상태를 비활성화 상태로 전환하여 표시할 수 있다. 즉, 상기 도 15b는 특정 규칙에 설정된 복수개의 액션들(1520, 1530) 중 특정 액션(예컨대, Wi-Fi 설정)(1520)의 버튼을 통해 해당 액션(1520)이 잠시 중단되고 있는 상태의 사용자 디바이스(100)의 화면 예시를 나타낸 것이다.
이와 같이, 본 발명의 실시 예에 따르면, 하나의 규칙에서 복수 개의 액션이 실행되는 경우, 실행 중인 규칙 리스트 화면에서 전체 또는 일부 액션을 선택적으로 중단할 수도 있다.
도 16a 내지 도 16b는 본 발명의 실시 예에 따른 사용자 디바이스에서 실행 중인 규칙을 일시 중지하는 동작 예시를 도시한 도면들이다.
상기 도 16a 및 도 16b를 참조하면, 상기 도 16a는 본 발명의 실시 예에 따른 상황 인식 서비스를 위한 위젯(500)이 실행되고 있으며, 상기 위젯(500)의 실행 정보 영역(520)을 통해 현재 동작 중인 규칙들에 대한 정보가 표시되고 있을 때의 사용자 디바이스(100)의 화면 예시를 나타낸 것이다.
상기 도 16a에 도시된 바와 같이, 현재 동작 중인 규칙들이 "택시" 및 "지하철"에 해당하는 경우를 가정한다. 사용자는 위젯(500)의 명령 입력 영역(또는 규칙 실행 버튼)(510)을 선택(예컨대, 탭 기반의 터치 이벤트 등)할 수 있다. 그러면, 제어부(170)는 규칙의 실행, 실행 중인 규칙의 일시 중지, 또는 실행 중인 규칙의 종료 중 적어도 하나의 동작을 수행하기 위한 동작 개시인 것으로 결정할 수 있다. 상기 도 16a 내지 도 16c의 동작 예시에서는 실행 중인 규칙을 일시 정지하기 위한 동작인 경우를 가정할 수 있다. 따라서 사용자 디바이스(100)는 도 16b에 도시된 바와 같이, 실행을 일시 중지하고자 하는 규칙에 대한 정보 입력(예컨대, 음성 입력)을 안내(예컨대, "명령어를 말하세요")하는 팝업 윈도우(1651)를 표시한 후 사용자의 음성 입력을 대기할 수 있다.
상기 도 16b와 같은 상태에서, 사용자는 실행을 일시 중지하고자 하는 해당 규칙(예컨대, 택시)을 일시 중지하는 음성(예컨대, "택시 일시 중지")을 입력할 수 있다. 그러면, 제어부(170)는 상기 사용자의 음성 입력을 인식하고, 실행 중인 규칙들(예컨대, "택시", "지하철")에서 상기 음성에 대응하는 규칙(예컨대, "택시")을 일시 중지시킬 수 있다. 그리고 제어부(170)는 도 16c에 도시된 바와 같이 위젯(500)의 실행 정보 영역(520)에서 사용자에 의해 일시 중지 요청된 해당 규칙(예컨대, "택시")에 대한 표시를 변경하여 제공할 수 있다.
한 실시 예에 따르면, 제어부(170)는 상기 도 16c에 도시된 바와 같이 실행 정보 영역(520)에서 "택시"에 대응하는 규칙의 활성화 상태를 비활성화 상태로 전환하여 표시할 수 있다. 즉, 상기 도 16c는 위젯(500)의 실행 정보 영역(520)에서 특정 규칙(예컨대, 택시)이 사용자의 음성 입력에 의해 해당 규칙이 잠시 중단되고 있는 상태의 사용자 디바이스(100)의 화면 예시를 나타낸 것이다.
이와 같이, 본 발명의 실시 예에 따르면, 현재 실행 중인 규칙을 위젯(500)을 통해 표시할 수 있고, 표시 중인 규칙에 대해 사용자의 음성 입력(예컨대, "OOO 일시 중지", OOO은 규칙 또는 조건을 포함) 에 따라 잠시 중지할 수 있도록 지원할 수 있다.
도 17은 본 발명의 실시 예에 따른 사용자 디바이스에서 실행 규칙에 대해 알림하는 동작 화면 예시를 도시한 도면이다.
상기 도 17을 참조하면, 사용자 디바이스(100)는 사용자 요청에 따른 규칙을 실행할 시 표시부(131)의 화면 상에 관련 노티피케이션 아이템(700)을 제공할 수 있다. 상기 노티피케이션 아이템(700)은 실행된 규칙에 대응하는 아이콘 또는 텍스트 등으로 제공될 수 있다. 예를 들어, 앞서 살펴본 동작 예시에 따라 운전과 관련된 규칙 실행의 경우 상기 도 17의 예시와 같이 "자동차" 이미지(또는 텍스트)와 관련된 노티피케이션 아이템(700)이 화면 상의 일 영역을 통해 제공될 수 있다. 또는 앞서 살펴본 예시에 따라 약과 관련된 규칙 실행의 경우 "약국 또는 약통" 이미지(또는 텍스트)와 관련된 노티피케이션 아이템(700)이 화면 상의 일 영역을 통해 제공될 수 있다. 이와 같이, 본 발명의 다양한 실시 예에 따르면, 규칙이 실행될 시 현재 실행 중인 규칙에 대해 사용자가 직관적으로 인지할 수 있도록 관련 노티피케이션 아이템(700)을 통해 사용자에게 피드백할 수 있다.
한편, 상기 도 17에서는 본 발명의 실시 예에 따른 노티피케이션 아이템(700)이 표시부(131)의 화면 상에서 어느 일 영역을 통해 제공되는 것을 예시로 하였다. 하지만, 본 발명이 이에 한정되는 것은 아니며, 앞서 도 5e를 참조한 설명에서 살펴본 바와 같이 사용자 디바이스(100)의 다양한 동작 상태 정보를 제공하는 인디케이터 영역을 통해 제공될 수도 있다. 이를 아래 도 18a 내지 19b를 참조하여 살펴보기로 한다.
도 18a 및 도 18b는 본 발명의 실시 예에 따른 사용자 디바이스에서 실행 규칙에 대해 알림하는 동작 화면 예시를 도시한 도면들이다.
상기 도 18a 및 도 18b를 참조하면, 사용자 디바이스(100)는 사용자 요청에 따른 규칙을 실행할 시 표시부(131)의 인디케이터 영역(1850) 중 어느 일 영역을 통해 노티피케이션 아이템(550)을 제공할 수 있다. 한 실시 예에 따르면, 인디케이터 영역(1850)의 좌측 영역을 이용하여 노티피케이션 아이템(550)을 표시함으로써, 현재 실행 중인 규칙이 있다는 것을 알림할 수 있다.
상기 도 18a 및 도 18b에 도시된 바와 같이, 본 발명의 다양한 실시 예에서 상기 노티피케이션 아이템(550)은 실행 중인 규칙들에 상관 없이 실행되고 있는 하나의 규칙이라도 있다면 제공될 수 있다.
예를 들어, 상기 도 18a를 참조하면, 위젯(500)의 실행 정보 영역(520)에 나타낸 바와 같이 복수의 규칙들(예컨대, "택시"와 "지하철"과 같이 2개의 규칙들)이 현재 동작 중인 상태일 수 있다. 상기 도 18b를 참조하면, 위젯(500)의 실행 정보 영역(520)에 나타낸 바와 같이 복수의 규칙들(예컨대, "택시"와 "지하철"과 같이 2개의 규칙들) 중 어느 하나의 규칙(예컨대, "지하철")만이 동작 중이고 다른 하나의 규칙(예컨대, "택시")은 비활성화 상태(예컨대, 앞서 살펴본 동작 예시를 참조할 때 일시 중지된 상태)일 수 있다.
이와 같이, 본 발명의 다양한 실시 예에 따르면, 인디케이터 영역(1850)에 현재 실행 중인 규칙이 있다는 것을 노티피케이션 아이템(550)을 통해 피드백 할 수 있고, 하나 또는 그 이상의 규칙들이 실행 중인 경우 실행 중인 모든 규칙을 대표하여 하나의 노티피케이션 아이템(500)이 표시될 수 있다. 하지만, 본 발명이 이에 한정되는 것은 아니며, 본 발명의 다양한 실시 예에 따르면 실행 중인 규칙들마다 노티피케이션 아이템을 제공할 수도 있다. 즉, 인디케이터 영역(1850)을 통해 복수의 노티피케이션 아이템들이 제공될 수도 있다.
도 19a 및 도 19b는 본 발명의 실시 예에 따른 사용자 디바이스에서 실행 규칙에 대해 알림하는 동작 화면 예시를 도시한 도면들이다.
상기 도 19a 및 도 19b를 참조하면, 사용자 디바이스(100)는 사용자 요청에 따라 규칙을 실행할 시 표시부(131)의 앞서 살펴본 바와 같이 인디케이터 영역(1850)을 통해 실행 중인 규칙이 존재함을 알리는 노티피케이션 아이템(550)을 제공할 수 있다. 그리고 본 발명의 실시 예에 따르면, 실행 중인 규칙이 일시적으로 중지될 시, 그에 반응하여 사용자 디바이스(100)는 현재 일시적으로 중지된 규칙이 있다는 것을 인디케이터 영역(1850)의 해당 노티피케이션 아이템(550)을 통해 피드백할 수도 있다.
예를 들어, 상기 도 19a에 도시된 바와 같이, 동작 중이던 규칙(예컨대, 택시)이 사용자 선택에 따라 일시 중지할 시, 사용자 디바이스(100)는 해당 규칙의 일시 중지에 반응하여 노티피케이션 아이템(550)을 비활성화 상태로 전환하여 제공할 수 있다.
또한, 본 발명의 실시 예에 따르면, 상기 도 19b에 도시된 바와 같이, 노티피케이션 아이템(550)은 해당 규칙에 대응하는 아이콘 또는 어플리케이션 실행 아이콘 등 다양하게 제공될 수 있다. 그리고 해당 규칙에 대응하는 아이콘 형태를 규칙의 실행 상태(예컨대, 동작 중 또는 일시 중지 중)에 따라 활성화 또는 비활성화 상태를 구분하여 직관적으로 제공할 수 있다. 한 실시 예에 따르면, 상기 도 19b의 예시와 같이 "택시"와 관련된 규칙의 경우 택시 모양의 아이콘의 노티피케이션 아이템(550)이 제공될 수 있다.
도 20a 내지 도 20c는 본 발명의 실시 예에 따른 사용자 디바이스에서 실행 규칙에 대해 알림하는 동작 화면 예시를 도시한 도면들이다.
상기 도 20a 내지 도 20c를 참조하면, 사용자 디바이스(100)는 하나 또는 그 이상의 실행 규칙에 대한 노티피케이션 아이템(550)을 인디케이터 영역(1850)을 통해 제공할 수 있다. 그리고 본 발명의 실시 예에 따르면, 사용자가 상기 인디케이터 영역(1850)의 노티피케이션 아이템(550)을 선택(예컨대, 탭 또는 터치 기반의 터치 이벤트 등)하거나, 또는 퀵 패널(Quick Panel)(2010)을 표시하기 위해 인디케이터 영역(1850)을 터치하여 아래로 드래그할 수 있다.
상기 퀵 패널(2010)은 사용자 디바이스(100)의 다양한 기능(예컨대, Wi-Fi, GPS, 소리, 화면 자동회전, 절전모드 등)에 대한 설정 정보 및 그들의 빠른 설정을 등을 지원할 수 있고, 사용자 입력에 반응하여 슬라이딩되어 표시부(131)의 전체 화면 또는 일부 화면상에 반투명 형태로 제공될 수 잇다. 특히, 본 발명의 다양한 실시 예에서 상기 퀵 패널(2010)은 상기 도 20b에 도시된 바와 같이, 규칙이 동작 중인 경우 동작 중인 해당 규칙에 대한 정보 아이템(2050)을 제공할 수 있다. 따라서 사용자는 상기 퀵 패널(2010)를 통해 인디케이터 영역(1850)에 제공된 노티피케이션 아이템(550)에 대응하는 적어도 하나의 규칙의 조건 및 액션이 무엇인지 직관적으로 확인할 수 있다.
상기 도 20b와 같은 상태에서, 사용자는 해당 규칙에 대한 상세 정보를 확인하기 위해 상기 도 20c에 도시된 바와 같이 상기 퀵 패널(2010)의 정보 아이템(2050)을 선택(예컨대, 탭 또는 터치 기반의 터치 이벤트 등)할 수 있다. 사용자 디바이스(100)는 상기 정보 아이템(2050)의 선택에 반응하여 현재 실행 중인 규칙(즉, 사용자에 의해 선택된 정보 아이템(2050)에 대응하는 규칙)에 대한 상세 정보를 출력할 수 있다. 본 발명의 다양한 실시 예에서 상기 상세 정보 출력은 상기 퀵 패널(2050) 상의 팝업 윈도우를 통해 텍스트 기반으로 제공될 수도 있고, 또는 화면 전환을 통해 앞서 살펴본 바와 같은 규칙 리스트를 통해 제공될 수도 있고, 또는 상기 퀵 패널(2050)을 유지하는 상태에서 음성 기반으로 제공될 수도 있다.
예를 들어, 본 발명의 다양한 실시 예에 따르면, 인디케이터 영역(1850)의 노티피케이션 아이템(550)을 터치할 시 해당 규칙의 조건 및 액션 등이 무엇인지 음성 또는 텍스트를 통해 피드백할 수 있다.
또한 본 발명의 다양한 실시 예에 따르면, 인디케이터 영역(1850)의 노티피케이션 아이템(550)을 터치하거나, 또는 인디케이터 영역(1850)을 터치하여 아래로 드래그할 시, 퀵 패널(2010)을 통해 해당 규칙에 대한 정보 아이템(2050)을 제공할 수 있다. 그리고 정보 아이템(2050)을 터치할 시 해당 규칙에 대한 상세 정보(예컨대, 조건 및 규칙)에 대해 음성으로 피드백 할 수 있다. 한 실시 예에 따르면, 상기 도 20c의 정보 아이템(2050)이 선택될 시 "[집] 실행 중입니다. 소리설정 벨, WiFi ON"과 같은 음성을 출력할 수 있고, 또는 텍스트를 출력할 수 있고, 또는 음성 및 텍스트를 모두 출력할 수도 있다.
도 21a 및 도 21b는 본 발명의 실시 예에 따른 사용자 디바이스에서 실행 규칙에 대해 알림하는 동작 화면 예시를 도시한 도면들이다.
상기 도 21a 및 도 21b를 참조하면, 상기 도 21a 및 도 21b는 본 발명의 실시 예에 따른 위젯(500)을 이용하여 사용자가 현재 어떠한 규칙을 실행 중인지 대해 알림하는 동작 예를 나타낸 것이다.
상기 도 21a에 도시된 바와 같이, 사용자는 위젯(500)의 실행 정보 영역(520)을 통해 현재 실행 중인 규칙(예컨대, 집)이 표시 중인 상태에서, 해당 규칙을 선택할 수 있다. 그러면, 사용자 디바이스(100)는 상기 실행 정보 영역(520)에서 선택된 해당 규칙에 대한 상세 정보를 텍스트 또는 음성 기반으로 피드백 할 수 있다.
예를 들어, 상기 도 21b에 도시된 바와 같이, 사용자 디바이스(100)는 사용자 선택에 따른 해당 규칙(예컨대, 집)에 대해 설정된 "[집] 실행 중, 소리설정 벨소리, WiFi ON"과 같은 조건 및 액션을 팝업 윈도우(2150)를 통해 텍스트 기반으로 출력할 수 있다. 또는 사용자 디바이스(100)는 사용자의 설정 방식에 대응하여, 상기한 상세 정보를 음성 기반으로 출력하도록 동작하거나, 또는 상기 텍스트와 상기 음성을 모두 출력하도록 동작할 수도 있다.
도 22a 내지 도 22c는 본 발명의 실시 예에 따른 사용자 디바이스에서 실행 중인 규칙을 종료하는 동작 예시를 도시한 도면들이다.
상기 도 22a 내지 도 22c를 참조하면, 상기 도 22a는 본 발명의 실시 예에 따른 상황 인식 서비스를 위한 위젯(500)이 실행되고 있으며, 상기 위젯(500)의 실행 정보 영역(520)을 통해 현재 동작 중인 규칙들에 대한 정보가 표시되고 있을 때의 사용자 디바이스(100)의 화면 예시를 나타낸 것이다.
상기 도 22a에 도시된 바와 같이, 현재 동작 중인 규칙이 "지하철"에 해당하는 경우를 가정한다. 이에 따라, 위젯(500)의 실행 정보 영역(520)을 통해 실행 중인 규칙인 "지하철"에 대한 정보가 표시될 수 있고, 인디케이터 영역(1850)에 상기 동작 중인 규칙 "지하철"에 대응하여 노티피케이션 아이템(550)이 제공될 수 있다.
사용자는 위젯(500)의 명령 입력 영역(또는 규칙 실행 버튼)(510)을 선택(예컨대, 탭 기반의 터치 이벤트 등)할 수 있다. 그러면, 제어부(170)는 규칙의 실행, 실행 중인 규칙의 일시 중지, 또는 실행 중인 규칙의 종료 중 적어도 하나의 동작을 수행하기 위한 동작 개시인 것으로 결정할 수 있다. 상기 도 22a 내지 도 22c의 동작 예시에서는 실행 중인 특정 규칙을 종료하기 위한 동작인 경우를 가정할 수 있다. 따라서 사용자 디바이스(100)는 도 22b에 도시된 바와 같이, 실행을 종료하고자 하는 규칙에 대한 정보 입력(예컨대, 음성 입력)을 안내(예컨대, "명령어를 말하세요")하는 팝업 윈도우(2251)를 표시한 후 사용자의 음성 입력을 대기할 수 있다.
상기 도 22b와 같은 상태에서, 사용자는 실행을 종료하고자 하는 해당 규칙(예컨대, 지하철)을 종료하는 음성(예컨대, "지하철 종료")을 입력할 수 있다. 그러면, 제어부(170)는 상기 사용자의 음성 입력을 인식하고, 실행 중인 규칙들(예컨대, "지하철")에서 상기 음성에 대응하는 규칙(예컨대, "지하철")을 종료시킬 수 있다. 그리고 제어부(170)는 도 22c에 도시된 바와 같이 위젯(500)의 실행 정보 영역(520)에서 사용자에 의해 종료 요청된 해당 규칙(예컨대, "지하철")에 대한 표시를 변경하여 제공할 수 있다. 또한 제어부(170)는 실행 중인 규칙 "지하철"의 종료에 반응하여 인디케이터 영역(1850)에 표시되던 노티피케이션 아이템(550)의 표시도 제거할 수 있다.
한 실시 예에 따르면, 제어부(170)는 상기 도 22c에 도시된 바와 같이 실행 정보 영역(520)에서 "지하철"에 대응하는 규칙의 활성화 상태를 비활성화 상태로 전환하여 표시할 수 있다. 상기 도 22c는 사용자의 종료 음성 입력에 반응하여 위젯(500)의 실행 정보 영역(520)에서 동작 중인 것으로 표시되던 해당 규칙(예컨대, 지하철)이 제거된 상태의 사용자 디바이스(100)의 화면 예시를 나타낸 것이다. 상기 도 22c에 도시된 바와 같이 동작 중이던 "지하철" 규칙의 종료 요청에 반응하여, 실행 정보 영역(520)에 표시되던 "지하철" 규칙과 관련된 정보 표시 대신 "동작 중인 규칙이 없습니다."와 같은 정보가 대체되어 표시될 수 있다. 또한 복수개의 규칙들이 실행 중이고 종료 요청된 규칙이 하나인 경우를 가정할 시, 상기 실행 정보 영역(520)에는 종료 요청된 규칙의 정보 표시만이 제거되고 다른 규칙의 정보 표시는 유지될 수 있다.
이사에서와 같이, 본 발명의 다양한 실시 예에 따르면, "OOO 종료"와 같이 특정 규칙에 대한 종료를 지시하는 음성 입력을 통해 해당 규칙에 대해 간편하게 종료시킬 수 있다. 또한 본 발명의 다양한 실시 예에서, 사용자 입력에 따라 특정 규칙이 종료될 시, 상기 특정 규칙의 조건 및 액션에 따라 변경된 사용자 디바이스(100)의 하나 또는 그 이상의 설정을 변경되기 전의 상태로 자동 복귀하도록 동작할 수도 있다.
도 23a 및 도 23b는 본 발명의 실시 예에 따른 사용자 디바이스에서 실행 중인 규칙을 종료하는 동작 예시를 도시한 도면들이다.
상기 도 23a 및 도 23b를 참조하면, 상기 도 23a 및 도 23b는 앞서 살펴본 바와 같은 위젯(500) 또는 규칙 리스트 등에서 해당 규칙에 대해 종료를 입력할 수 있는 종료 버튼을 제공하고, 상기 종료 버튼을 이용하여 해당 규칙을 종료시키는 경우의 동작 예시를 나타낸 것이다.
상기 도 23a에 도시된 바와 같이, 위젯(500)을 통해 현재 동작 중인 규칙이 "지하철"에 해당함을 피드백 할 수 있다. 이때, 상기 도 23a에 도시된 바와 같이, 인디케이터 영역(1850)에 상기 동작 중인 규칙에 대응하여 노티피케이션 아이템(550)이 제공될 수 있다.
사용자는 현재 동작 중인 상기 "지하철" 규칙에 대해 종료하기 위해 해당 규칙에 매핑되어 제공되는 종료 버튼(525)를 이용하여 해당 규칙의 동작 상태를 종료할 수 있다. 예를 들어, 상기 도 23a에 도시된 바와 같이 사용자는 위젯(500)의 실행 정보 영역(520)에서 해당 규칙(예컨대, "지하철")에 매핑된 종료 버튼(525)을 선택(예컨대, 탭 또는 터치 기반의 터치 이벤트)할 수 있다.
그러면, 제어부(170)는 상기 종료 버튼(525)에 대한 사용자 입력을 인식하고, 실행 중인 규칙들(예컨대, "지하철")에서 상기 종료 버튼(525)에 대응하는 규칙(예컨대, "지하철")을 종료시킬 수 있다. 그리고 제어부(170)는 도 23b에 도시된 바와 같이 위젯(500)의 실행 정보 영역(520)에서 사용자에 의해 종료 요청된 해당 규칙(예컨대, "지하철")에 대한 표시를 변경하여 제공할 수 있다. 또한 제어부(170)는 실행 중인 규칙의 종료에 반응하여 인디케이터 영역(1850)에 표시되던 노티피케이션 아이템(550)의 표시도 제거할 수 있다.
한 실시 예에 따르면, 제어부(170)는 상기 도 23b에 도시된 바와 같이 실행 정보 영역(520)에서 "지하철"에 대응하는 규칙의 활성화 상태를 비활성화 상태로 전환하여 표시할 수 있다. 상기 도 23b는 사용자의 종료 버튼(525) 입력에 반응하여 위젯(500)의 실행 정보 영역(520)에서 동작 중인 것으로 표시되던 해당 규칙(예컨대, 지하철)이 제거된 상태의 사용자 디바이스(100)의 화면 예시를 나타낸 것이다. 상기 도 23b에 도시된 바와 같이 동작 중이던 "지하철" 규칙의 종료 요청에 반응하여, 실행 정보 영역(520)에 표시되던 "지하철" 규칙과 관련된 정보 표시 대신 "동작 중인 규칙이 없습니다."와 같은 정보가 대체되어 표시될 수 있다. 또한 복수개의 규칙들이 실행 중이고 종료 요청된 규칙이 하나인 경우를 가정할 시, 상기 실행 정보 영역(520)에는 종료 요청된 규칙의 정보 표시만이 제거되고 다른 규칙의 정보 표시는 유지될 수 있다.
도 24 및 도 25는 본 발명의 실시 예에 따른 사용자 디바이스에서 상황 인식 서비스를 종료하는 동작 예시를 도시한 도면들이다.
상기 도 24를 참조하면, 사용자는 규칙 종료를 위해 미리 정의된 특정 명령(예컨대, 음성, 텍스트, 위젯의 종료 버튼, 또는 제스처 등)을 입력하는 것에 의해, 현재 실행 중인 적어도 하나의 규칙을 종료할 수 있다. 여기서, 상기 규칙 종료를 위한 명령은 음성 명령이나 텍스트 명령을 포함할 수 있다. 또는 상기 규칙 종료는 별도로 할당된 기능키 입력을 통해 종료할 수 있고, 위젯(500)을 통해 각 규칙마다 할당된 종료 버튼(525) 입력을 통해 종료할 수도 있고, 또는 필기 입력과 같은 텍스트 입력을 통해 종료할 수도 있고, 또는 설정된 특정 제스처 입력을 통해 종료할 수도 있다.
예를 들어, 상기 도 24에 도시된 바와 같이, 사용자는 "OOO(규칙에 대응하는 명령어 등) 종료, 집 도착, 또는 집에 다 왔어" 등과 같이 미리 정의된 규칙 종료를 위한 자연어 기반의 음성을 입력할 수 있다. 그러면, 사용자 디바이스(100)는 사용자로부터 입력된 음성을 인식 및 파싱하고, 해당 음성이 특정 규칙의 종료를 위한 명령에 해당할 시 실행되고 있는 해당 규칙을 종료할 수 있다. 본 발명의 다양한 실시 예에서 상기 규칙 종료를 위한 명령은 정의되는 각 규칙별로 설정될 수 있다. 또한 상기 규칙 종료를 위한 명령은 실행되고 있는 규칙에 상관없이 모든 규칙들에 대해 일괄적으로 종료 처리할 수 있는 통합 명령(예컨대, 규칙 종료)이 설정될 수도 있다. 그리고 통합 명령의 경우, 복수개로 실행 중인 규칙들에 대해 모두 일괄적으로 종료하도록 동작할 수 있다.
상기 도 25를 참조하면, 사용자 디바이스(100)는 사용자에 의해 규칙 종료를 위한 명령이 직접적으로 입력되지 않더라도, 특정 조건이 지속되면 해당 규칙의 종료를 자동으로 수행하거나, 또는 규칙 종료를 사용자에게 유도할 수도 있다.
예를 들어, 상기 도 25에 도시된 바와 같이, 사용자 디바이스(100)는 실행된 규칙에 따른 상황을 감시하고, 현재 상황이 매핑 테이블에서 상기 규칙에 대해 정의된 규칙 종료 조건에 대응되는지 구분할 수 있다. 본 발명의 다양한 실시 예에서, 상기 규칙 종료는 사용자에 의해 정의된 하나 또는 그 이상의 규칙이 일정 시간동안 어떠한 조건(상황) 변화도 검출되지 않거나, 또는 사용자가 정의한 규칙 종료 조건(예컨대, 규칙 종료를 위한 음성 입력, 규칙 종료 기능키 입력, 특정 조건 지속 등)이 만족되면 해당 규칙의 종료로 결정할 수 있다.
사용자 디바이스(100)는 상기 규칙에 대한 종료 조건이 충족될 시 사용자에게 실행 중인 해당 규칙의 종료를 유도하는 메시지(예컨대, "운전 모드를 종료할까요?")를 팝업(900)으로 제공할 수 있고, 팝업(900)을 통한 사용자 선택에 따라 해당 규칙을 유지하거나 또는 해당 규칙을 종료할 수 있도록 한다.
도 26a 및 도 26b는 본 발명의 실시 예에 따른 사용자 디바이스에서 규칙을 삭제하는 동작 예시를 도시한 도면들이다.
상기 도 26a 및 도 26b를 참조하면, 상기 도 26a 및 도 26b는 본 발명의 실시 예에 따른 상황 인식 서비스를 위한 어플리케이션(예컨대, 규칙 리스트)을 실행했을 때의 사용자 디바이스(100)의 화면 예시를 나타낸 것이다.
상기 도 26a 및 도 26b에 도시된 바와 같이, 사용자에 의해 "집", "택시" 및 "지하철"과 같이 3개의 규칙들이 생성되어 저장된 경우를 가정할 수 있다. 사용자는 상기와 같이 3개의 규칙들에 대한 규칙 리스트가 표시된 상태에서 메뉴 조작, 음성 입력, 또는 제스처 입력 등을 통해 삭제 기능을 활성화 할 수 있다.
예를 들어, 사용자는 상기 도 26a와 같은 상태에서 사용자 디바이스(100)의 메뉴를 조작하는 사용자 입력, "규칙 삭제"와 같은 음성 또는 텍스트 기반의 사용자 입력, 규칙 삭제 기능 실행을 위해 미리 정의된 제스처 기반의 사용자 입력 등을 통해 삭제 기능 실행을 요청할 수 있다. 그러면, 제어부(170)는 상기와 같은 사용자 입력 중 어느 하나의 사용자 입력에 반응하여 규칙 삭제 기능을 활성화 할 수 있고, 상기 도 26b와 같이 규칙을 삭제할 수 있는 화면 인터페이스를 제공할 수 있다. 한 실시 예에 따르면, 상기 도 26b에 도시된 바와 같이, 미리 정의된 규칙들에 대한 리스트가 표시될 수 있고, 상기 리스트 내의 각 규칙들을 선택할 수 있는 선택 아이템(2600)(예컨대, 체크 박스(Check Box))가 제공될 수 있다.
사용자는 규칙들에 대응하는 선택 아이템(2600) 중 삭제하고자 하는 적어도 하나의 규칙을 선택할 수 있다. 이때, 제어부(170)는 사용자의 선택 입력에 반응하여 선택 아이템(2600) 상에 해당 규칙이 선택됨을 표시할 수 있다. 한 실시 예에 따르면, 선택 아이템(2600)의 "
Figure pat00004
"상에 "v"와 같이 마킹하여 "
Figure pat00005
"와 같이 나타낼 수 있다. 그리고 사용자는 메뉴 조작 또는 삭제 버튼을 이용하여 선택된 적어도 하나의 규칙을 삭제할 수 있다.
한편, 상기 도 26a 및 도 26b에서는 사용자가 메뉴 및 선택 아이템(2600) 등을 이용하여 규칙을 삭제하는 동작을 예시로 하였으나, 사용자는 상기 도 26a 또는 도 26b와 같은 상태에서 음성 기반 또는 텍스트 기반으로 규칙을 삭제할 수도 있다. 예를 들어, 사용자는 상기 도 26a 또는 도 26b와 같은 상태에서 "집 삭제"에 대응하는 음성 또는 필기 입력에 의해 "집" 규칙을 삭제할 수도 있다.
도 27은 본 발명의 실시 예에 따른 사용자 디바이스에서 규칙을 생성하는 동작을 도시한 흐름도이다.
상기 도 27을 참조하면, 제어부(170)(예컨대, 규칙 설정 모듈(173))는 상황 인식 서비스를 위해 입력되는 사용자 입력을 수신할 수 있다(1001단계). 예를 들어, 사용자는 사용자 입력부(120), 마이크(143) 및 터치스크린(130) 중 적어도 하나를 조작하여 상황 인식 서비스의 규칙을 정의하기 위한 설정 모드 실행을 제어할 수 있다. 그리고 사용자는 설정 모드에서 마이크(143)를 통한 음성 입력, 사용자 입력부(120) 또는 터치스크린(130)을 통한 텍스트 입력 등을 통해 사용자의 규칙을 정의하는 입력을 수행할 수 있다. 그러면, 제어부(170)는 상기 설정 모드에서 상황 인식 서비스를 위한 상기 사용자 입력을 감지할 수 있다. 여기서, 사용자는 앞서 살펴본 다양한 동작 예시들에서와 같이 적어도 하나의 입력 수단을 통해 규칙, 조건(상황), 액션 및 규칙 실행 명령 등을 입력할 수 있다.
예를 들어, 사용자는 규칙으로 "택시타면 문자 보내"를 정의하고, 상기 문자를 전송할 타겟으로 적어도 하나의 타겟 사용자 디바이스(예컨대, "아빠에게 보내")를 지정하고, 그에 따른 규칙 실행 명령으로 "나 택시 탔어"를 정의할 수 있다. 또한, 사용자는 앞서의 예시들에서 살펴본 바와 같이 "내가 택시를 타면 아빠와 동생에게 5분마다 나의 위치 정보를 알려줘"나 "내가 택시를 탄 후 아빠로부터 '어디야'가 포함하는 문자 수신 시 아빠에게 문자를 보내" 등과 같이 구체적인 규칙을 정의할 수도 있다.
제어부(170)는 사용자 입력을 인식할 수 있다(1003단계). 예를 들어, 제어부(170)는 사용자 규칙의 설정 모드에서 사용자 입력이 수신될 시 해당 수단에 통해 입력된 음성 또는 텍스트를 인식할 수 있다. 예를 들어, 제어부(170)는 마이크(143)를 통해 사용자의 음성이 입력될 시 음성 인식을 수행할 수 있고, 사용자 입력부(120) 또는 터치스크린(130)를 통해 사용자의 텍스트가 입력될 시 텍스트 인식을 수행할 수 있다. 여기서, 본 발명의 실시 예에서 사용자의 음성 또는 사용자의 텍스트는 앞서 살펴본 예시들과 같이 자연어(사용자가 일상적으로 사용하는 언어) 기반으로 입력될 수 있으며, 제어부(170)는 사용자의 음성 또는 텍스트에 따른 자연어를 인식할 수 있다.
제어부(170)는 인식된 사용자 입력(예컨대, 자연어 기반의 사용자 음성 또는 텍스트)을 파싱할 수 있다(1005단계). 예를 들어, 제어부(170)는 상기 자연어 기반의 사용자 음성을 파싱하여 사용자에 의해 의도된 규칙, 상황 및 규칙 실행 명령어를 추출 및 구분할 수 있다. 또는 제어부(170)는 사용자로부터 텍스트가 입력된 경우 인식된 자연어 기반의 사용자 텍스트를 파싱하여 사용자에 의해 의도된 규칙, 상황 및 규칙 실행 명령어를 추출 및 구분할 수 있다. 여기서, 상기 규칙, 조건(상황), 액션 및 규칙 실행 명령은 가이드에 따라 순차적으로 입력될 수도 있다. 또한, 제어부(170)는 상기 사용자 입력에 대한 파싱 결과에서 상황 인식에 따른 액션 실행을 위한 항목(예컨대, 상황 인식 대상, 타겟, 명령어 등)을 체크하여 누락 부분을 확인할 수도 있다. 한 실시 예에 따르면, 제어부(170)는 사용자와의 인터랙션 동작을 통해 규칙 생성에 대한 가이드 제공 및 그에 반응하여 입력된 정보를 기반으로 규칙을 생성할 수 있다.
예를 들어, 사용자가 "택시타면 문자 보내"와 같이 상황 인식을 위한 규칙 내용만을 정의하고 타겟을 지정하지 않은 경우, 제어부(170)는 상기 규칙 내용에서 문자를 보낼 대상(즉, 타겟)이 없음을 인지할 수 있다. 그리고 제어부(170)는 타겟이 지정되지 않음에 따라 정의된 규칙에 대한 액션 실행 시 어떤 타겟에게 보낼지를 가이드할 수 있다. 즉, 제어부(170)는 액션에 따라서 부가적으로 필요한 정보를 사용자에게 음성 또는 텍스트로 물어보면서 인터랙션 동작을 수행할 수 있다. 한 실시 예에 따르면, 제어부(170)는 "수신자를 말하세요" 또는 "누구에게 보낼까요?" 등과 같은 팝업(음성 안내 포함)을 제공할 수 있다. 그러면, 사용자는 "나중에 정할께", "남자친구" 또는 "아빠에게 보내" 등과 같이 타겟을 지정할 수 있다. 상기 타겟 지정은 앞서 살펴본 바와 같이 음성 또는 텍스트 기반의 자연어로 지정될 수 있다. 그리고 제어부(170)는 상기와 같이 규칙에 대한 추가 정의가 이루어질 시 앞서 살펴본 바와 같은 절차에 따라 인식 및 파싱을 수행하고 해당 사항들을 하나의 규칙으로 매칭할 수 있다.
제어부(170)는 파싱된 사용자 입력에 대응하여 상황 인식 서비스를 위한 규칙을 정의하여 관리할 수 있다(1007단계). 예를 들어, 제어부(170)는 파싱된 사용자 입력으로부터 추출된 규칙, 조건(상황), 액션 및 규칙 실행 명령 등을 매핑하여 매핑 테이블로 저장 및 관리할 수도 있다.
한편, 상기 도 27에서는 도시를 생략하였으나, 본 발명의 다양한 실시 예에 따르면 상기 규칙 정의 시 사용자를 위한 가이드를 추가 제공할 수도 있다. 예를 들어, 앞서와 같은 설정 모드에서 사용자는 특정 입력 도구(예컨대, 전자펜, 사용자 손가락 등)를 이용하여 정의하고자 하는 규칙에 대한 문구를 필기 입력하거나, 가상의 터치 키패드를 이용하여 자판 입력할 수도 있다. 그러면, 제어부(170)는 상기 필기 또는 자판에 의한 텍스트를 인식하고, 인식된 텍스트에 따른 규칙을 정의할 수 있는 화면 인터페이스를 제공할 수 있다.
상기 화면 인터페이스를 통해 지정 가능한 조건 및 액션(또는 기능, 어플리케이션) 등의 리스트(예컨대, 조건 리스트, 액션 리스트)가 제공될 수 있고, 사용자는 해당 리스트에서 원하는 또는 필요한 조건 또는 액션(또는 기능, 어플리케이션)을 온/오프(On/Off)하거나, 또는 원하는 조건 또는 액션을 선택할 수 있다. 예를 들어, 사용자가 사무실에서 GPS 기능을 자동 오프하기 위한 규칙을 정의하고자 할 시 상기 설정 모드에서 전자펜(또는 사용자 손가락)으로 사용자 디바이스의 화면 상에 "office"를 입력(필기 입력 또는 터치 키패드에 의한 자판(문자) 선택 입력)할 수 있다.
본 발명의 다양한 실시 예에서는 사용자 필기 입력 또는 자판 입력을 위한 화면 인터페이스(예컨대, 명령어 패드(command pad)나 터치 키패드)를 화면 상에 제공할 수도 있다. 그리고 상기 명령어 패드나 터치 키패드와 같은 화면 인터페이스를 통해 여러 가지 입력 도구(전자펜 또는 사용자 손가락 등)을 이용한 사용자의 필기 또는 키패드 입력에 의한 텍스트를 입력받아 "office"를 인식하고 해당 입력이 규칙 정의를 위한 입력인 것으로 인지할 수 있다. 그러면, 제어부(170)는 설정 리스트 화면으로 전환하고, 사용자는 상기 설정 리스트 화면에서 상기 "office"에 관련된 다양한 조건 또는 액션(기능, 어플리케이션 등) 중에서 적어도 하나의 조건 또는 액션에 대한 온/오프를 설정할 수 있다. 일 예로, 사용자는 GPS 기능의 오프를 선택할 수 있다.
이와 같이, 본 발명의 실시 예에 따르면, 규칙 정의는 사용자의 음성 입력 및 사용자의 텍스트 입력 중 적어도 하나의 입력 방식을 통해 규칙을 정의할 수 있다. 또한 상기 사용자의 텍스트 입력 방식은 사용자가 앞서 살펴본 바와 같은 자연어 기반으로 규칙을 정의하거나, 또는 앞서 살펴본 바와 같은 명령어 패드나 터치 키패드를 통해 특정 색인어(예컨대, 'office')를 입력하고 그에 대응하는 액션 리스트에서 적어도 하나의 액션에 대한 온/오프를 선택적으로 설정하는 방식으로 구분될 수 있다.
도 28은 본 발명의 실시 예에 따른 사용자 디바이스에서 상황 인식 서비스가 제공되는 동작을 도시한 흐름도이다.
상기 도 28에서는 사용자 디바이스(100)에서 사용자에 의해 정의된 규칙 실행을 위한 해당 명령 입력에 따른 규칙을 실행하고, 실행 규칙에 대응하는 조건(상황)이 감지될 시 그에 따른 액션을 실행하는 동작을 나타낸 것이다.
상기 도 28을 참조하면, 제어부(170)는 상황 인식 서비스를 위한 명령 입력을 수신할 수 있다(1101단계). 예를 들어, 사용자는 마이크(143)를 통해 상황 인식 서비스를 위해 정의된 규칙 실행을 위한 음성을 입력할 수 있다. 그러면, 제어부(170)는 상기 마이크(143)를 통해 사용자의 음성을 수신할 수 있다. 여기서, 본 발명의 다양한 실시 예에 따르면, 사용자의 규칙 실행을 위한 명령은 상기와 같이 마이크(143)를 통해 음성을 기반으로 입력될 수 있고, 사용자 입력부(120) 또는 터치스크린(130)를 통해 텍스트 기반으로 입력될 수 있고, 또는 미리 정의된 특정 제스처를 기반으로 입력될 수도 있다.
또한 본 발명의 다양한 실시 예에서는 음성 명령을 입력하기 위해, 사용자 디바이스(100)의 기능키들 중 사용자에 의해 규칙 실행을 위한 음성 입력을 대기하도록 하는 명령키(예컨대, 단축키 또는 위젯(500)의 규칙 실행 버튼 등)를 지정할 수도 있다. 예를 들어, 제어부(170)는 상기 명령키에 의한 입력이 발생할 시 사용자의 상황 이식 서비스를 위한 음성 입력 수신을 대기하고, 상기 대기 상태에서 입력되는 음성에 대해서만 규칙 실행을 위한 명령으로 인지할 수 있다. 여기서, 상기 명령키의 입력 방식은 한번 입력으로 대기 상태로 전환되는 방식이거나, 또는 명령키가 눌러지고 있는 동안에만 대기 상태로 전환하는 방식일 수 있다.
제어부(170)는 입력되는 명령을 인식할 수 있다(1103단계). 예를 들어, 제어부(170)는 사용자로부터 음성이 입력될 시 입력된 음성으로부터 규칙 실행을 명령하는 명령어를 인식할 수 있다.
제어부(170)는 인식된 명령을 파싱할 수 있다(1105단계). 예를 들어, 제어부(170)는 인식된 사용자 음성(예컨대, "나 택시 타")을 파싱하여 규칙 실행 명령어(예컨대, "택시")를 추출할 수 있다,
제어부(170)는 실행 명령어가 추출될 시 미리 정의된 규칙들에서 상기 실행 명령어에 대응하는 규칙이 있는지 판별할 수 있다(1107단계).
제어부(170)는 상기 실행 명령어에 대응하는 규칙이 없으면(1107단계의 NO) 가이드 출력을 제어할 수 있다(1109단계). 예를 들어, 제어부(170)는 사용자에 의해 요청된 규칙이 없음을 알리는 가이드 팝업을 출력할 수 있다. 또는 제어부(170)는 상기 가이드 팝업을 통해 해당 명령어에 대한 규칙을 추가로 정의할 지 등을 문의하는 가이드를 출력할 수도 있다. 또는 제어부(170)는 사용자에 의해 정의된 규칙들의 규칙 리스트를 제공할 수도 있다.
제어부(170)는 가이드 출력 후 사용자 요청에 따른 해당 동작 수행을 제어할 수 있다(1111단계). 예를 들어, 제어부(170)는 사용자 선택에 따라 상기한 절차를 종료하거나, 또는 사용자 선택에 따라 상기 명령어에 대응하는 새로운 규칙을 정의하거나, 규칙 리스트에서 특정 규칙을 선택 받도록 하는 등의 동작을 처리할 수 있다.
제어부(170)는 상기 실행 명령어에 대응하는 규칙이 있으면(1107단계의 YES) 상기 실행 명령어에 대해 정의된 규칙이 복수 개인지 판별할 수 있다(1113단계). 예를 들어, 사용자는 하나의 명령에 대해 하나 또는 그 이상의 규칙을 정의할 수 있다. 한 실시 예에 따르면, 사용자는 "운전"이라는 규칙(명령어)에 "운전 중에 지정된 외부로부터 이벤트가 발생될 시 현재 위치를 전송"하도록 하는 제1규칙, "운전 중 시속 100Km/h 이상이면 경고 알람을 출력"하도록 하는 제2규칙, 그리고 "운전 중 시속 60Km/h 이상이면 오디오 볼륨을 증가"하도록 하는 제3규칙 등과 같이 복수 개를 정의할 수 있다. 또는 사용자는 "운전1"이라는 명령어에 상기 제1규칙을 정의하고, "운전2"라는 명령어에 상기 제2규칙을 정의하고, "운전3"이라는 명령어에 상기 제3규칙을 각각 매핑하여 정의할 수도 있다.
제어부(180)는 상기 실행 명령어에 대해 정의된 규칙이 복수개가 아니면(1113단계의 NO), 즉 상기 실행 명령어에 대응하는 규칙이 하나이면, 상기 하나의 규칙에 따른 단일의 액션 실행을 제어할 수 있다(1115단계). 예를 들어, 제어부(180)는 상기 하나의 규칙에 따른 조건(상황)만을 감시하고, 상기 하나의 규칙에 대한 해당 조건(상황)이 검출될 시 그에 반응하여 하나 또는 그 이상의 액션을 실행하도록 동작할 수 있다.
제어부(180)는 상기 실행 명령어에 대해 정의된 규칙이 복수 개이면(1113단계의 YES), 상기 복수의 규칙들에 따른 복수의 액션 실행을 제어할 수 있다(1117단계). 예를 들어, 제어부(180)는 상기 복수의 규칙들에 따른 각각의 조건(상황)들을 감시하고, 상기 복수의 규칙들에 대한 하나 또는 그 이상의 해당 조건(상황)이 검출될 시 그에 반응하여 하나 또는 그 이상의 액션을 실행하도록 동작할 수 있다.
또한, 상기 도 28에서는 도시를 생략하였으나, 제어부(180)는 하나의 명령에 대해 복수개의 정의된 규칙들이 존재할 시 복수개의 규칙들 중 어느 하나의 규칙 선택을 가이드(또는 추천) 하는 인터페이스를 제공할 수도 있다. 그리고 제어부(180)는 사용자 선택(음성, 텍스트, 제스처 등에 의한 선택 입력)에 따라 복수개의 규칙들에 대한 복수의 액션 실행을 제어할 수 있고, 또는 선택된 어느 하나의 규칙에 대한 단일의 액션 실행을 제어할 수도 있다.
또한 상기 도 28에서는 도시를 생략하였으나, 상기 사용자 입력에 따른 규칙에서 액션 실행을 위한 항목(예컨대, 조건(상황) 인식 대상, 타겟)을 체크하여 누락 부분을 확인할 수도 있다. 즉, 제어부(170)는 사용자에 의해 규칙이 실행되는 과정에서 인터랙션을 체크할 수 있다.
예를 들어, 사용자가 규칙 정의 시 "택시타면 문자 보내"와 같이 조건(상황) 인식을 위한 규칙 내용만을 정의하고, 문자를 전송할 타겟을 "나중에 정할께"로 정의할 수 있다. 이러한 경우, 제어부(170)는 규칙 실행 단계 또는 규칙 실행 중에 해당 조건을 검출하여 문자 전송의 액션을 실행하고자 하는 단계에서, 해당 문자를 보낼 대상(즉, 타겟)이 없음을 인지할 수 있다. 따라서 제어부(170)는 타겟이 지정되지 않음에 따라 해당 규칙에 따라 문자를 전송하고자 할 시 어떤 타겟에게 보낼지를 가이드할 수 있다. 한 실시 예에 따르면, 제어부(170)는 "문자를 누구에게 보낼까요?"와 같은 팝업(음성 안내 포함)을 제공할 수 있다. 그러면, 사용자는 "아빠에게 보내" 등과 같이 타겟을 지정할 수 있으며, 상기 타겟 지정은 음성 또는 텍스트 기반의 자연어로 지정될 수 있다.
도 29는 본 발명의 실시 예에 따른 사용자 디바이스에서 상황 인식 서비스가 제공되는 동작을 도시한 흐름도이다.
특히, 상기 도 29에서는 사용자 디바이스(100)에서 규칙 실행 후 실행된 규칙에 대응하는 하나 또는 그 이상의 조건(상황)을 체크하여 액션을 실행하거나, 또는 동작 중인 규칙을 해제하는 동작의 예시를 나타낸 것이다.
상기 도 29를 참조하면, 제어부(170)는 사용자 요청에 따른 규칙을 실행하고(1201단계). 상기 규칙 실행에 따른 실행정보(예컨대, 노티피케이션 아이템)를 피드백할 수 있다(1203단계). 예를 들어, 제어부(170)는 앞서 살펴본 바와 같이 표시부(131)의 화면 상에 실행되고 있는 규칙과 관련된 아이템(아이콘, 텍스트 등)이 표시되도록 동작할 수 있다.
제어부(170)는 규칙 실행에 따른 상태를 체크할 수 있다(1205단계). 예를 들어, 제어부(170)는 현재 실행 중인 규칙에 대응하는 조건(상황)이 발생되는지를 지속적 또는 주기적으로 감시할 수 있다.
제어부(170)는 상기 상태 체크된 결과를 통해 액션 실행 조건이 만족되는지 판별할 수 있다(1207단계). 예를 들어, 제어부(170)는 실행 중인 규칙에서 정의된 하나 또는 그 이상의 조건(상황)을 감시하고, 현재 상황이 매핑 테이블에서 상기 규칙에 대해 정의된 액션이 실행되도록 하는 특정 조건에 대응되는지 판별할 수 있다.
제어부(170)는 사용자 디바이스(100)의 조건(상황)이 액션 실행 조건에 대응하면(1207단계의 YES) 상기 실행 규칙에서 해당 조건에 대응하는 액션 실행을 제어할 수 있다(1209단계). 예를 들어, 제어부(170)는 규칙 실행 시 액션을 유발시키는 조건 또는 상황을 감시하고, 액션을 유발하는 조건 또는 상황이 되면 해당 액션이 실행되도록 동작할 수 있다. 여기서, 액션 실행은 정의된 규칙에 따라 기능(또는 어플리케이션)을 실행하고 그에 따른 결과(예컨대, 상황 정보)를 생성하여 사용자 또는 타 사용자에게 출력되도록 하는 동작 등을 포함할 수 있다.
제어부(170)는 사용자 디바이스(100)의 조건(상황)이 액션 실행 조건에 대응하지 않으면(1207단계의 NO) 상기 상태 체크된 결과를 통해 규칙 해제 조건이 만족되는지 판별할 수 있다(1211단계). 예를 들어, 제어부(170)는 실행된 규칙에 따른 조건(상황)을 감시하고, 현재 상황이 매핑 테이블에서 상기 규칙에 대해 정의된 규칙 해제 조건에 대응되지는 판별할 수 있다. 여기서, 상기 규칙 해제는 사용자 설정에 따른 일정 시간동안 어떠한 상황 변화도 검출되지 않거나, 또는 사용자가 정의한 규칙 해제 조건(예컨대, 규칙 해제를 위한 음성 명령 입력, 규칙 해제를 위한 기능키 입력, 규칙 해제를 위한 텍스트 입력, 규치 해제를 위한 제스처 입력, 또는 특정 조건 지속 등)이 만족되면 실행 중인 규칙의 해제로 결정할 수 있다.
제어부(170)는 사용자 디바이스(100)의 조건(상황)이 규칙 해제 조건에 대응하지 않으면(1211단계의 NO) 상기 1205단계로 진행하여 상태 체크를 수행하면서 이하의 동작 수행을 제어할 수 있다.
제어부(170)는 사용자 디바이스(100)의 조건(상황)이 규칙 해제 조건에 대응하면(1211단계의 YES) 실행 중인 규칙을 해제하고(1213단계), 규칙 해제에 따른 해제정보를 피드백할 수 있다(1215단계). 예를 들어, 제어부(170)는 실행된 규칙이 해제됨을 청각, 시각, 그리고 촉각 중 적어도 하나를 통해 피드백할 수 있다. 한 실시 예에 따르면, 제어부(170)는 오디오(예컨대, 음성, 음향 등), 해제 안내 팝업, 그리고 진동 중 적어도 하나를 통해 규칙이 해제됨을 피드백 하는 출력이 수행되도록 동작할 수 있다.
여기서, 상기 도 29에서는 도시를 생략하였으나, 제어부(170)는 상기 규칙 해제 조건이 충족될 시 사용자에게 실행 규칙 종료를 유도하는 팝업을 제공할 수도 있고, 해당 팝업을 통한 사용자 선택에 따라 실행 중인 규칙을 유지하거나 해제할 수도 있다.
도 30은 본 발명의 실시 예에 따른 사용자 디바이스에서 상황 인식 서비스가 제공되는 동작을 도시한 흐름도이다.
상기 도 30을 참조하면, 제어부(170)는 사용자 요청에 따른 규칙이 실행된 상태에서 이벤트를 감시하고(1301단계), 그에 따른 이벤트(조건) 발생 여부를 체크할 수 있다(1303단계) 예를 들어, 제어부(170)는 실행 중인 규칙에 따른 조건(상황)을 감시하여 내부 또는 외부에서 발생되는 이벤트(조건)가 있는지 여부를 체크할 수 있다.
상기 이벤트(조건)는 실행되는 규칙에 따라 사용자 디바이스(100) 자체에서 상황 변화(이벤트)가 감시되는 내부 이벤트와, 외부에서 사용자 디바이스(100)에 수신되어 상황 변화(이벤트)가 감시되는 외부 이벤트를 포함할 수 있다. 한 실시 예에 따르면, 상기 내부 이벤트는 사용자 디바이스(100)의 속도 변화가 설정된 조건을 초과할 시 발생되는 이벤트, 설정된 시간의 주기에 따라 발생되는 이벤트, 사용자로부터 입력되는 음성 또는 텍스트에 따라 발생되는 이벤트, 사용자 디바이스(100)의 동작 변화(예컨대, 모션, 조도 등)에 따라 발생되는 이벤트 등을 포함할 수 있다. 상기 외부 이벤트는 외부로부터 메시지 수신(특히, 실행 중인 규칙에서 지정된 타겟 사용자 디바이스로부터의 메시지 수신)에 따라 발생되는 이벤트 등을 포함할 수 있다.
제어부(170)는 이벤트 발생이 있으면(1303단계의 YES), 상기 실행 규칙에서 수행할 기능을 체크할 수 있다(1305단계). 예를 들어, 제어부(170)는 현재 실행 중인 규칙에서 해당 이벤트(조건)에 대해 액션으로 정의된 기능(또는 어플리케이션)을 추출할 수 있다.
제어부(170)는 추출된 기능을 활성화 하고(1307단계), 활성화된 기능에 따라 액션이 실행되도록 동작할 수 있다(1309단계). 예를 들어, 제어부(170)는 상기 실행 규칙에서 해당 이벤트(조건)에 따른 액션이 사용자 디바이스(100)의 오디오 볼륨 제어에 관한 액션인 경우 오디오 볼륨 제어를 위한 기능을 활성화 하여 볼륨을 가감하도록 동작할 수 있다. 또는 제어부(170)는 상기 실행 규칙에서 해당 이벤트(조건)에 따른 액션이 사용자 디바이스(100)의 현재 위치 전송에 관한 액션인 경우 위치 정보 전송을 위한 기능(또는 어플리케이션)(예컨대, GPS 기능(내비게이션 기능) 및 메시지 기능 등)을 활성화 하여 사용자 디바이스(100)의 현재 위치 정보를 해당 타겟 디바이스에게 전송하도록 동작할 수 있다. 즉, 제어부(170)는 액션을 실행하는 타입에 따라 하나의 기능(또는 어플리케이션) 또는 적어도 두 개 이상의 복합 기능(또는 어플리케이션)을 운용할 수 있다.
제어부(170)는 액션 실행에 따라 관련정보의 피드백을 제어할 수 있다(1311단계). 예를 들어, 제어부(170)는 오디오 볼륨 제어에 따라 오디오 출력 크기를 변화하여 출력하면서 변화된 오디오 볼륨에 대한 화면 인터페이스 표시를 제어할 수 있다. 또는 제어부(170)는 사용자 디바이스(100)의 위치 정보를 지정된 타겟 디바이스에게 전송하였음을 알리는 화면 인터페이스 표시 또는 음향(효과음 등) 출력을 제어할 수 있다.
제어부(170)는 이벤트(조건) 발생이 없으면(1303단계의 NO) 현재 상황이 규칙 해제 조건에 해당하는지 판별할 수 있다(1315단계). 예를 들어, 제어부(170)는 현재 실행되고 있는 규칙에 따른 상황을 감시하고, 현재 상황이 매핑 테이블에서 상기 규칙에 대해 정의된 규칙 해제 조건에 대응되는지 판별할 수 있다.
제어부(170)는 상기 규칙 해제 조건에 대응하지 않으면(1315단계의 NO) 상기 1301단계로 진행하여 이벤트 감시를 수행하면서 이하의 동작 수행을 제어할 수 있다.
제어부(170)는 상기 규칙 해제 조건에 대응하면(1315단계의 YES) 상기 실행된 규칙을 해제하고(1317단계), 규칙 해제에 따른 해제정보의 피드백을 제어할 수 있다(1319단계). 예를 들어, 상기 규칙 해제 조건이 충족될 시 사용자에게 실행 규칙 종료를 유도하는 팝업을 제공하고, 팝업을 통한 사용자 선택에 따라 실행 규칙을 유지하거나 실행 규칙을 해제할 수도 있다. 그리고 제어부(170)는 실행 규칙 해제 시 규칙이 해제됨을 청각, 시각, 그리고 촉각 중 적어도 하나를 통해 피드백할 수 있다.
도 31a 내지 도 31n은 본 발명의 실시 예에 따른 사용자 디바이스에서 규칙을 생성하는 다른 동작 예시를 도시한 도면들이다.
상기 도 31a 내지 도 31n은 제어부(170)(예컨대, 규칙 설정 모듈(173))가 사용자 입력 중 필기에 의한 자연어 기반의 텍스트 입력을 받아들이고, 상기 텍스트 입력에 반응하여 규칙(예컨대, 조건 및 액션)을 정의하는 동작의 예시를 도시한 것이다.
상기 도 31a 내지 도 31n을 참조하면, 상기 도 31a 내지 도 31n은 앞서 도 3a 내지 도 3k 또는 도 4a 내지 도 4j를 참조한 설명 부분에서 설명한 바와 같은 규칙 생성 동작에 대응될 수 있다. 예를 들어, 도 31a는 도 4a에 대응되는 동작일 수 있고, 도 31c는 도 4b에 대응되는 동작일 수 있고, 도 31e는 도 4c에 대응되는 동작일 수 있고, 도 31g는 도 4d에 대응되는 동작일 수 있고, 도 31i는 도 4e에 대응되는 동작일 수 있고, 도 31k는 도 4f에 대응되는 동작일 수 있고, 도 31l은 도 4i에 대응되는 동작일 수 있고, 도 31n은 도 4j에 대응되는 동작일 수 있다. 따라서 이하에서는 도 31a 내지 도 31n을 참조하는 설명에서 상기 도 4a 내지 도 4j를 참조한 설명에 대응되거나 같은 동작에 대해서는 그 설명을 생략하거나 간소화 한다.
즉, 상기 도 31a 내지 도 31n은, 상기 도 4a 내지 도 4j에 대응되는 동작 수행으로 규칙을 생성하는 본 발명의 실시 예를 나타낸 것이다. 다만, 도 31a 내지 도 31n에서는 규칙 생성을 위한 사용자 입력이 음성이 아닌 사용자의 필기에 의해 텍스트로 입력되는 것에서 차이가 있다. 따라서 도 31a 내지 도 31n에서는 음성 기반으로 규칙을 생성하는 동작(예컨대, 도 4a 내지 도 4j)에 비해 사용자 음성 입력을 받아들이는 동작 대신, 사용자의 필기 기반의 텍스트 입력을 받아들이는 동작이 수행될 수 있다.
예를 들어, 도 31a 내지 도 31n의 경우, 규칙 생성을 위한 사용자 입력이 텍스트 기반으로 이루어짐에 따라, 사용자 디바이스(100)는 사용자와의 인터랙션 동작에 따라 제공하는 팝업 윈도우에 사용자 입력으로 "음성 입력"의 안내 대신 "텍스트 입력"을 안내하는 정보를 제공할 수 있다. 한 실시 예에 따르면, 도 4a의 팝업 윈도우(451)에서는 사용자에게 음성 입력 인터랙션 동작임을 알리는 "사용자가 말하는 형태의 이미지"와 "OOO을 말하세요"와 같은 음성 입력에 대한 안내가 제공될 수 있다. 반면, 도 31a, 도 31e, 도 31g, 또는 도 31l 등의 팝업 윈도우(3151, 3155, 3157, 3167 등)에서는 사용자에게 텍스트 입력 인터랙션 동작임을 알리는 "펜으로 글을 쓰는 형태의 이미지"와 "OOO을 적어주세요"와 같은 텍스트 입력에 대한 안내가 제공될 수 있다.
또한 도 31a 내지 도 31n의 경우, 규칙 생성을 위한 사용자 입력이 텍스트 기반으로 이루어짐에 따라, 사용자 입력으로 음성이 아닌 텍스트를 위한 필기를 입력 받는 동작이 수행될 수 있다. 예를 들어, 도 31b, 도 31d, 도 31f, 도 31h, 도 31j, 그리고 도 31m에 도시된 바와 같이, 사용자 디바이스(100)의 질의에 대한 텍스트 응답을 입력(예컨대, 필기 입력)받는 동작이 수행될 수 있고, 그에 따른 필기 입력창(3100)이 제공될 수 있다. 한 실시 예에 따르면, 도 31a의 팝업 윈도우(3151)를 통해 사용자 디바이스(100)의 "명령어를 적어주세요"라는 안내(질의) 후 도 31b에서와 같이 필기 입력창(3100)이 제공되면, 사용자는 상기 필기 입력창(3100)을 통해 텍스트(예컨대, 택시)를 필기 입력할 수 있다.
이와 같이, 본 발명의 다양한 실시 예에 따르면, 규칙을 생성함에 있어서, 사용자 디바이스(100)와 사용자 간의 인터랙션 동작으로 규칙 생성 과정이 수행될 수 있고, 사용자는 사용자 디바이스(100)의 안내에 따라 생성하고자 하는 규칙의 조건 및 액션에 대해 자연어 기반의 텍스트로 입력하여 규칙을 설정할 수 있다. 즉, 도 31a 내지 도 31n에서 사용자 디바이스(100)는 규칙의 조건 및 액션을 설정하는 자연어 기반의 텍스트를 사용자로부터 입력 받고, 사용자 입력에 따라 해당 규칙을 설정할 수 있다.
도 32a 내지 도 32e는 본 발명의 실시 예에 따른 사용자 디바이스에서 규칙을 실행하는 다른 동작 예시를 도시한 도면들이다.
상기 도 32a 내지 도 32e는 제어부(170)(예컨대, 규칙 실행 모듈(175))가 사용자 입력 중 필기에 의한 자연어 기반의 텍스트 입력을 받아들이고, 상기 텍스트 입력에 반응하여 규칙을 실행하고, 제어부(170)(예컨대, 조건 감지 모듈(177))가 규칙 실행에 반응하여 상기 규칙에 대응하는 조건을 감지하고, 제어부(170)(예컨대, 액션 실행 모듈(179))가 조건 감지에 반응하여 해당 조건에 대응하는 하나 또는 그 이상의 액션을 실행하는 동작의 예시를 도시한 것이다.
상기 도 32a 내지 도 32e를 참조하면, 상기 도 32a 내지 도 32e는 앞서 도 5a 내지 도 5e를 참조한 설명 부분에서 설명한 바와 같은 규칙 실행 동작에 대응될 수 있다. 예를 들어, 도 32a는 도 5a에 대응되는 동작일 수 있고, 도 32b는 도 5b에 대응되는 동작일 수 있고, 도 32d는 도 5c에 대응되는 동작일 수 있고, 도 32e는 도 5d에 대응되는 동작일 수 있다. 따라서 이하에서는 도 32a 내지 도 32e를 참조하는 설명에서 상기 도 5a 내지 도 5e를 참조한 설명에 대응되거나 같은 동작에 대해서는 그 설명을 생략하거나 간소화 한다.
즉, 도 32a 내지 도 32e는, 상기 도 5a 내지 도 5e에 대응되는 동작 수행으로 규칙을 실행하는 본 발명의 실시 예를 나타낸 것이다. 다만, 도 32a 내지 도 32e에서는 규칙 실행을 위한 사용자 입력이 음성이 아닌 사용자의 필기에 의해 텍스트로 입력되는 것에서 차이가 있다. 따라서 도 32a 내지 도 32e에서는 음성 기반으로 규칙을 생성하는 동작(예컨대, 도 5a 내지 도 5e)에 비해 사용자 음성 입력을 받아들이는 동작 대신, 사용자의 필기 기반의 텍스트 입력을 받아들이는 동작이 수행될 수 있다.
예를 들어, 도 32a 내지 도 32e의 경우, 규칙 실행을 위한 사용자 입력이 텍스트 기반으로 이루어짐에 따라, 사용자 디바이스(100)는 사용자와의 인터랙션 동작에 따라 제공하는 팝업 윈도우에 사용자 입력으로 "음성 입력"의 안내 대신 "텍스트 입력"을 안내하는 정보를 제공할 수 있다. 한 실시 예에 따르면, 도 5b의 팝업 윈도우(551)에서는 사용자에게 음성 입력 인터랙션 동작임을 알리는 "사용자가 말하는 형태의 이미지"와 "OOO을 말하세요"와 같은 음성 입력에 대한 안내가 제공될 수 있다. 반면, 도 32b 등의 팝업 윈도우(3251)에서는 사용자에게 텍스트 입력 인터랙션 동작임을 알리는 "펜으로 글을 쓰는 형태의 이미지"와 "OOO을 적어주세요"와 같은 텍스트 입력에 대한 안내가 제공될 수 있다.
또한 도 32a 내지 도 32e의 경우, 규칙 실행을 위한 사용자 입력이 텍스트 기반으로 이루어짐에 따라, 사용자 입력으로 음성이 아닌 텍스트를 위한 필기를 입력 받는 동작이 수행될 수 있다. 예를 들어, 도 32c에 도시된 바와 같이, 사용자 디바이스(100)의 질의에 대한 텍스트 응답을 입력(예컨대, 필기 입력)받는 동작이 수행될 수 있고, 그에 따른 필기 입력창(3200)이 제공될 수 있다. 한 실시 예에 따르면, 도 32b의 팝업 윈도우(3251)를 통해 사용자 디바이스(100)의 "명령어를 적어주세요"라는 안내(질의) 후 도 32c에서와 같이 필기 입력창(3200)이 제공되면, 사용자는 상기 필기 입력창(3200)을 통해 텍스트(예컨대, 지하철)를 필기 입력할 수 있다.
이와 같이, 본 발명의 다양한 실시 예에 따르면, 규칙을 실행함에 있어서, 사용자 디바이스(100)와 사용자 간의 인터랙션 동작으로 규칙 실행 과정이 수행될 수 있고, 사용자는 사용자 디바이스(100)의 안내에 따라 실행하고자 하는 해당 규칙에 대해 자연어 기반의 텍스트를 입력하여 해당 규칙을 실행할 수 있다. 즉, 도 32a 내지 도 32e에서 사용자 디바이스(100)는 해당 규칙을 실행하는 자연어 기반의 텍스트를 사용자로부터 입력 받고, 사용자 입력에 따라 해당 규칙을 실행할 수 있다.
이상에서와 같이, 본 발명의 다양한 실시 예에 따르면, 위젯(500)을 통해 규칙을 실행할 수 있다. 한 실시 예에 따르면, 사용자는 위젯(500)에서 명령 입력 영역(또는 규칙 실행 버튼)(510)을 선택하고, 설정된 규칙(또는 명령어)에 대한 텍스트를 입력할 수 있다. 그러면, 제어부(170)는 규칙의 시작을 알리면서 어떠한 액션이 수행되는 지를 텍스트 팝업 또는 음성(예컨대, TTS 동작)으로 사용자에게 피드백할 수 있다. 그리고 제어부(170)는 실행하는 해당 규칙에 대해 실행 정보 영역(520)에 추가하면서, 인디케이터 영역을 통해 실행 중인 규칙이 있음을 알리는 노티피케이션 아이템을 표시할 수도 있다.
또한 상기 도 32a에 도시된 바와 같이, 텍스트 입력을 기반으로 하는 상기 위젯(500)의 경우 도 5a에서 제시된 음성 입력을 기반으로 하는 위젯(500)과 구별되게 제공될 수 있다. 한 실시 예에 따르면, 도 5a의 위젯(500)의 경우 명령 입력 영역(또는 규칙 실행 버튼)(510)에 "사용자가 말하는 형태의 이미지"가 제공될 수 있고, 이를 통해 음성 기반의 동작임을 사용자에게 알릴 수 있다. 또한 도 32a의 위젯(500)의 경우 명령 입력 영역(또는 규칙 실행 버튼)(510)에 "펜으로 글을 쓰는 형태의 이미지"가 제공될 수 있고, 이를 통해 텍스트 기반의 동작임을 사용자에게 알릴 수 있다.
도 33a 내지 도 33d는 본 발명의 실시 예에 따른 사용자 디바이스에서 실행 중인 규칙을 일시 중지하는 다른 동작 예시를 도시한 도면들이다.
상기 도 33a 내지 도 33d를 참조하면, 제어부(170)가 사용자 입력 중 필기에 의한 자연어 기반의 텍스트 입력을 받아들이고, 상기 텍스트 입력에 반응하여 현재 동작 중인 규칙을 일시 중지하는 동작의 예시를 도시한 것이다.
상기 도 33a 내지 도 33d를 참조하면, 상기 도 33a 내지 도 33d는 앞서 도 16a 내지 도 16c를 참조한 설명 부분에서 설명한 바와 같은 규칙 일시 중지 동작에 대응될 수 있다. 예를 들어, 도 33a는 도 16a에 대응되는 동작일 수 있고, 도 33b는 도 16b에 대응되는 동작일 수 있고, 도 33d는 도 16c에 대응되는 동작일 수 있다. 따라서 이하에서는 도 33a 내지 도 33d를 참조하는 설명에서 상기 도 16a 내지 도 16c를 참조한 설명에 대응되거나 같은 동작에 대해서는 그 설명을 생략하거나 간소화 한다.
즉, 도 33a 내지 도 33d는, 상기 도 16a 내지 도 16c에 대응되는 동작 수행으로 실행 중인 규칙을 일시 중지하는 본 발명의 실시 예를 나타낸 것이다. 다만, 도 33a 내지 도 33d에서는 규칙을 일시 중지하기 위한 사용자 입력이 음성이 아닌 사용자의 필기에 의해 텍스트로 입력되는 것에서 차이가 있다. 따라서 도 33a 내지 도 33d에서는 음성 기반으로 규칙을 일시 중지하는 동작(예컨대, 도 16a 내지 도 16c)에 비해 사용자 음성 입력을 받아들이는 동작 대신, 사용자의 필기 기반의 텍스트 입력을 받아들이는 동작이 수행될 수 있다.
예를 들어, 도 33a 내지 도 33d의 경유, 규칙을 일시 중지하기 위한 사용자 입력이 텍스트 기반으로 이루어짐에 따라, 사용자 디바이스(100)는 사용자와의 인터랙션 동작에 따라 제공하는 팝업 윈도우에 사용자 입력으로 "음성 입력"의 안내 대신 "텍스트 입력"을 안내하는 정보를 제공할 수 있다. 한 실시 예에 따르면, 도 33b의 팝업 윈도우(3351)에서는 사용자에게 텍스트 입력 인터랙션션 동작임을 알리는 "펜으로 글을 쓰는 형태의 이미지"와 "OOO을 적어주세요"와 같이 텍스트 입력에 대한 안내가 제공될 수 있다.
또한 도 33a 내지 도 33d의 경우, 규칙을 일시 중지하기 위한 사용자 입력이 텍스트 기반으로 이루어짐에 따라, 사용자 입력으로 음성이 아닌 텍스트를 위한 필기를 입력 받는 동작이 수행될 수 있다. 예를 들어, 도 33c에 도시된 바와 같이, 사용자 디바이스(100)의 질의에 대한 텍스트 응답을 입력(예컨대, 필기 입력)받는 동작이 수행될 수 있고, 그에 따른 필기 입력창(3300)이 제공될 수 있다. 한 실시 예에 따르면, 도 33b의 팝업 윈도우(3351)를 통해 사용자 디바이스(100)의 "명령어를 적어주세요"라는 안내(질의) 후 도 33c에서와 같이 필기 입력창(3300)이 제공되면, 사용자는 상기 필기 입력창(3300)을 통해 텍스트(예컨대, 택시 일시중지)를 필기 입력할 수 있다.
이와 같이, 본 발명의 다양한 실시 예에 따르면, 규칙을 일시 중지함에 있어서, 사용자 디바이스(100)와 사용자 간의 인터랙션 동작으로 일시 중지 과정이 수행될 수 있고, 사용자는 사용자 디바이스(100)의 안내에 따라 일시 중지하고자 하는 규칙에 대해 자연어 기반의 텍스트를 입력하여 해당 규칙을 일시 중지시킬 수 있다. 즉, 도 33a 내지 도 33d에서 사용자 디바이스(100)는 해당 규칙을 일시 중지하는 자연어 기반의 텍스트를 사용자로부터 입력 받고, 사용자 입력에 따라 해당 규칙을 일시 중지할 수 있다.
이상에서와 같이, 본 발명의 다양한 실시 예에 따르면, 위젯(500)을 통해 규칙을 일시 중지할 수 있다. 한 실시 예에 따르면, 사용자는 위젯(500)에서 명령 입력 영역(또는 규칙 실행 버튼)(510)을 선택하고, 동작 중인 규칙의 일시 중지를 위한 텍스트를 입력할 수 있다. 이를 통해, 사용자는 주기적으로 반복 실행되는 적어도 하나의 규칙을 일시적으로 중지할 수 있다. 즉, 제어부(170)는 "OOO 일시 중지"와 같이 텍스트 기반의 사용자 입력이 들어오면 해당 규칙(예컨대, OOO)을 일시 중지시킬 수 있다.
도 34a 내지 도 34d는 본 발명의 실시 예에 따른 사용자 디바이스에서 실행 중인 규칙을 종료하는 다른 동작 예시를 도시한 도면들이다.
상기 도 34a 내지 도 34d를 참조하면, 상기 도 34a 내지 도 34d는 앞서 도 22a 내지 도 22c를 참조한 설명 부분에서 설명한 바와 같은 규칙 종료 동작에 대응될 수 있다. 예를 들어, 도 34a는 도 22a에 대응되는 동작일 수 있고, 도 34b는 도 22b에 대응되는 동작일 수 있고, 도 34d는 도 22c에 대응되는 동작일 수 있다. 따라서 이하에서는 도 34a 내지 도 34d를 참조한 설명에 대응되거나 같은 동작에 대해서는 그 설명을 생략하거나 간소화 한다.
즉, 도 34a 내지 도 34d는, 상기 도 22a 내지 도 22c에 대응되는 동작 수행으로 규칙을 종료하는 본 발명의 실시 예를 나타낸 것이다. 다만, 도 34a 내지 도 34d에서는 규칙 종료를 위한 사용자 입력이 음성이 아닌 사용자의 필기에 의해 텍스트로 입력되는 것에서 차이가 있다. 따라서 도 34a 내지 도 34d에서는 음성 기반으로 규칙을 종료하는 동작(예컨대, 도 22a 내지 도 22c)에 비해 사용자 음성 입력을 받아들이는 동작 대신, 사용자의 필기 기반의 텍스트 입력을 받아들이는 동작이 수행될 수 있다.
예를 들어, 도 34a 내지 도 34d의 경우, 규칙 종료를 위한 사용자 입력이 텍스트 기반으로 이루어짐에 따라, 사용자 디바이스(100)는 사용자와의 인터랙션 동작에 따라 제공하는 팝업 윈도우에 사용자 입력으로 "음성 입력"의 안내 대신 "텍스트 입력"을 안내하는 정보를 제공할 수 있다. 한 실시 예에 따르면, 도 34b의 팝업 윈도우(3451)에서는 사용자에게 텍스트 입력 인터랙션 동작임을 알리는 "펜으로 글을 쓰는 형태의 이미지"와 "OOO을 적어주세요"와 같은 텍스트 입력에 대한 안내가 제공될 수 있다.
또한 도 34a 내지 도 34d의 경우, 규칙 종료를 위한 사용자 입력이 텍스트 기반으로 이루어짐에 따라, 사용자 입력으로 음성이 아닌 텍스트를 위한 필기를 입력 받는 동작이 수행될 수 있다. 예를 들어, 도 34c에 도시된 바와 같이, 사용자 디바이스(100)의 질의에 대한 텍스트 응답을 입력(예컨대, 필기 입력)받는 동작이 수행될 수 있고, 그에 따른 필기 입력창(3400)이 제공될 수 있다. 한 실시 예에 따르면, 도 34b의 팝업 윈도우(3451)를 통해 사용자 디바이스(100)의 "명령어를 적어주세요"라는 안내(질의) 후 도 34c에서와 같이 필기 입력창(3400)이 제공되면, 사용자는 상기 필기 입력창(3400)을 통해 텍스트(예컨대, 지하철 종료)를 필기 입력할 수 있다.
이와 같이, 본 발명의 다양한 실시 예에 따르면, 규칙을 실행함에 있어서, 사용자 디바이스(100)와 사용자 간의 인터랙션 동작으로 규칙 종료 과정이 수행될 수 있고, 사용자는 사용자 디바이스(100)의 안내에 따라 종료하고자 하는 해당 규칙에 대해 자연어 기반의 텍스트를 입력하여 해당 규칙을 종료할 수 있다. 즉, 도 34a 내지 도 34d에서 사용자 디바이스(100)는 해당 규칙을 종료하는 자연어 기반의 텍스트를 사용자로부터 입력 받고, 사용자 입력에 따라 해당 규칙을 종료할 수 있다.
이상에서와 같이, 본 발명의 다양한 실시 예에 따르면, 위젯(500)을 통해 규칙을 종료할 수 있다. 한 실시 예에 따르면, 사용자는 위젯(500)에서 명령 입력 영역(또는 규칙 실행 버튼)(510)을 선택하고, 동작 중인 규칙의 종료를 위한 텍스트를 입력할 수 있다. 또한 본 발명의 다양한 실시 예에 따르면, 사용자의 텍스트 입력에 따라 해당 규칙이 종료될 시, 상기 해당 규칙의 조건 및 액션에 따라 변경된 사용자 디바이스(100)의 하나 또는 그 이상의 설정을 변경되기 전의 상태로 자동 복귀하도록 동작할 수도 있다.
본 발명의 다양한 실시 예에 따르면, 각각의 모듈들은 소프트웨어, 펌웨어, 하드웨어 또는 그 조합으로 구성될 수 있다. 또한, 일부 또는 전체 모듈은 하나의 개체(entity)에 구성되되, 각 모듈의 해당 기능을 동일하게 수행되도록 구성할 수 있다. 또한 본 발명의 다양한 실시 예에 따르면, 각각의 동작들은 순차적, 반복적 또는 병렬적으로 실행될 수 있다. 또한, 일부 동작들은 생략되거나, 다른 동작들이 추가되어 실행될 수도 있다.
상술한 바와 같은 본 발명의 다양한 실시 예들은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터로 판독 가능한 기록 매체에 기록될 수 있다. 상기 컴퓨터로 판독 가능한 기록 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 기록 매체에 기록되는 프로그램 명령은 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다.
상기 컴퓨터로 판독 가능한 기록 매체에는 하드디스크, 플로피디스크 및 자기 테이프와 같은 마그네틱 매체(Magnetic Media)와, CD-ROM(Compact Disc Read Only Memory), DVD(Digital Versatile Disc)와 같은 광기록 매체(Optical Media)와, 플롭티컬 디스크(Floptical Disk)와 같은 자기-광 매체(Magneto-Optical Media)와, 그리고 ROM(Read Only Memory), RAM(Random Access Memory), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 또한 프로그램 명령에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함할 수 있다. 상술한 하드웨어 장치는 본 발명의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지다.
그리고 본 명세서와 도면에 개시된 본 발명의 실시 예들은 본 발명의 기술 내용을 쉽게 설명하고 본 발명의 이해를 돕기 위해 특정 예를 제시한 것일 뿐이며, 본 발명의 범위를 한정하고자 하는 것은 아니다. 따라서 본 발명의 범위는 여기에 개시된 실시 예들 이외에도 본 발명의 기술적 사상을 바탕으로 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.
100, 200: 사용자 디바이스
110: 무선 통신부 120: 사용자 입력부
130: 터치스크린 140: 오디오 처리부
150: 저장부 160: 인터페이스부
170: 제어부 171: 데이터 처리 모듈
173: 규칙 설정 모듈 175: 규칙 실행 모듈
177: 조건 감지 모듈 179: 액션 실행 모듈
180: 전원 공급부

Claims (1)

  1. 전자 장치를 이용하여 상황 인식 서비스를 제공하기 위한 방법에 있어서,
    전자 장치의 터치스크린 상에 표시하기 위해, 규칙을 추가하기 위한 사용자 선택 가능한 시각적 엘리먼트를 포함하는 실행 중인 상황 인식 서비스 어플리케이션의 화면을 제공하는 동작;
    상기 규칙을 추가하기 위한 상기 사용자 선택 가능한 시각적 엘리먼트에 대한 터치 입력인 제 1 사용자 입력을 수신하는 것을 기초로 하여, 상기 전자 장치의 터치스크린 상에 표시하기 위해, 상기 규칙을 추가하기 위해 상기 전자 장치의 사용자와 상호 작용하기 위한 대화식 사용자 인터페이스를 제공하는 동작;
    상기 전자 장치의 터치스크린 상에 표시하기 위해, 상기 규칙에 대한 조건을 추가하기 위한 상기 대화식 사용자 인터페이스에 의해 제 1 가이드를 제공하는 동작이되, 상기 제 1 가이드는 상기 전자 장치의 사용자가 상기 조건에 대한 텍스트를 입력하도록 가이드하고, 상기 규칙은 상기 입력된 텍스트에 대응하는 음성 수신에 기초하여 만족 가능한 동작;
    텍스트 입력인 적어도 하나의 제 2 사용자 입력을 수신하는 것을 기초로 하여, 상기 적어도 하나의 제 2 사용자 입력의 상기 텍스트 입력에 대응하는 음성 수신에 기초 하여 만족하는 제 1 규칙의 조건을 확인하는 동작;
    상기 전자 장치의 터치스크린 상에 표시하기 위해, 상기 규칙에 대한 액션을 추가하기 위한 대화식 사용자 인터페이스에 의해 제 2 가이드를 제공하는 동작;
    제 3 사용자 입력을 수신함에 따라, 상기 제 3 사용자 입력을 기초로 실행 가능한 제 1 오퍼레이션에 대응하는 상기 제 1 규칙의 액션을 확인하는 동작;
    상기 제 1 규칙의 조건 및 상기 제 1 규칙의 액션을 포함하는 상기 제 1 규칙을 저장하기 위한 제 4 사용자 입력을 수신하는 동작;
    제 2 규칙의 조건이 만족되는 제 1 확인을 기초로 하여, 상기 제 2 규칙의 액션에 대응하는 제 2 오퍼레이션의 실행을 개시하는 동작이되, 상기 제 2 규칙은 상기 제 2 규칙의 조건 및 상기 제 2 규칙의 액션을 포함하여 저장된 동작;
    상기 제 2 규칙의 액션에 대응하는 상기 제 2 오퍼레이션이 완료되기 전에, 상기 조건을 만족하기 위한 음성 입력인 제 5 사용자 입력을 수신함에 따라, 상기 제 5 사용자 입력인 상기 음성 입력이 상기 적어도 하나의 제 2 사용자 입력인 상기 텍스트 입력에 대응하는지의 여부를 기초로 하여, 상기 제 1 규칙의 조건이 만족되는지의 여부를 확인하는 동작; 및
    상기 제 1 규칙의 조건이 만족되는 제 2 확인을 기초로 하여, 상기 제 1 규칙의 액션에 대응하는 상기 제 1 오퍼레이션을 실행하는 동작을 포함하는 방법.
KR1020220166423A 2012-09-20 2022-12-02 사용자 디바이스에서 상황 인식 서비스 제공 방법 및 장치 KR102623206B1 (ko)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
KR20120104357 2012-09-20
KR1020120104357 2012-09-20
KR1020220023872A KR102475223B1 (ko) 2012-09-20 2022-02-23 사용자 디바이스에서 상황 인식 서비스 제공 방법 및 장치

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
KR1020220023872A Division KR102475223B1 (ko) 2012-09-20 2022-02-23 사용자 디바이스에서 상황 인식 서비스 제공 방법 및 장치

Publications (2)

Publication Number Publication Date
KR20230002130A true KR20230002130A (ko) 2023-01-05
KR102623206B1 KR102623206B1 (ko) 2024-01-12

Family

ID=50650463

Family Applications (6)

Application Number Title Priority Date Filing Date
KR1020130048755A KR102070196B1 (ko) 2012-09-20 2013-04-30 사용자 디바이스에서 상황 인식 서비스 제공 방법 및 장치
KR1020200007188A KR102120984B1 (ko) 2012-09-20 2020-01-20 사용자 디바이스에서 상황 인식 서비스 제공 방법 및 장치
KR1020200067135A KR102245288B1 (ko) 2012-09-20 2020-06-03 사용자 디바이스에서 상황 인식 서비스 제공 방법 및 장치
KR1020210051942A KR102368698B1 (ko) 2012-09-20 2021-04-21 사용자 디바이스에서 상황 인식 서비스 제공 방법 및 장치
KR1020220023872A KR102475223B1 (ko) 2012-09-20 2022-02-23 사용자 디바이스에서 상황 인식 서비스 제공 방법 및 장치
KR1020220166423A KR102623206B1 (ko) 2012-09-20 2022-12-02 사용자 디바이스에서 상황 인식 서비스 제공 방법 및 장치

Family Applications Before (5)

Application Number Title Priority Date Filing Date
KR1020130048755A KR102070196B1 (ko) 2012-09-20 2013-04-30 사용자 디바이스에서 상황 인식 서비스 제공 방법 및 장치
KR1020200007188A KR102120984B1 (ko) 2012-09-20 2020-01-20 사용자 디바이스에서 상황 인식 서비스 제공 방법 및 장치
KR1020200067135A KR102245288B1 (ko) 2012-09-20 2020-06-03 사용자 디바이스에서 상황 인식 서비스 제공 방법 및 장치
KR1020210051942A KR102368698B1 (ko) 2012-09-20 2021-04-21 사용자 디바이스에서 상황 인식 서비스 제공 방법 및 장치
KR1020220023872A KR102475223B1 (ko) 2012-09-20 2022-02-23 사용자 디바이스에서 상황 인식 서비스 제공 방법 및 장치

Country Status (4)

Country Link
US (2) US11048474B2 (ko)
JP (1) JP6710791B2 (ko)
KR (6) KR102070196B1 (ko)
TW (1) TWI635414B (ko)

Families Citing this family (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102318907B1 (ko) * 2014-05-27 2021-10-29 삼성전자주식회사 사용자 단말, 사용자 단말의 룰 실행 방법, 서버 장치 및 룰 실행 시스템
TWI634473B (zh) * 2014-10-29 2018-09-01 富智康（香港）有限公司 掌上型電子裝置的輸入法自動切換系統及方法
US11223936B2 (en) 2014-11-17 2022-01-11 Lg Electronics Inc. IoT management device for carrying out condition modification mode and method for controlling same
KR20160084663A (ko) * 2015-01-06 2016-07-14 삼성전자주식회사 메시지를 송신하는 디바이스 및 방법
US10108269B2 (en) * 2015-03-06 2018-10-23 Align Technology, Inc. Intraoral scanner with touch sensitive input
WO2016185809A1 (ja) * 2015-05-19 2016-11-24 ソニー株式会社 情報処理装置、情報処理方法およびプログラム
CN106469040B (zh) * 2015-08-19 2019-06-21 华为终端有限公司 通信方法、服务器及设备
KR102491287B1 (ko) 2016-01-14 2023-01-25 삼성전자주식회사 전자 장치
US10049670B2 (en) * 2016-06-06 2018-08-14 Google Llc Providing voice action discoverability example for trigger term
EP4220630A1 (en) 2016-11-03 2023-08-02 Samsung Electronics Co., Ltd. Electronic device and controlling method thereof
US10614487B1 (en) * 2017-06-04 2020-04-07 Instreamatic, Inc. Server for enabling voice-responsive content as part of a media stream to an end user on a remote device
KR102467090B1 (ko) * 2017-07-05 2022-11-16 주식회사 케이티 능동형 서비스를 제공하는 서비스 제공 서버, 사용자 단말 및 방법
CN111295888B (zh) * 2017-11-01 2021-09-10 松下知识产权经营株式会社 行动引导系统、行动引导方法以及记录介质
US11120326B2 (en) * 2018-01-09 2021-09-14 Fujifilm Business Innovation Corp. Systems and methods for a context aware conversational agent for journaling based on machine learning
CN111788566A (zh) * 2018-03-08 2020-10-16 索尼公司 信息处理设备、终端装置、信息处理方法和程序
KR20200013162A (ko) 2018-07-19 2020-02-06 삼성전자주식회사 전자 장치 및 그의 제어 방법
KR102527107B1 (ko) * 2018-08-08 2023-05-02 삼성전자주식회사 음성에 기반하여 기능을 실행하기 위한 방법 및 이를 지원하는 사용자 전자 장치
US10904029B2 (en) 2019-05-31 2021-01-26 Apple Inc. User interfaces for managing controllable external devices
US11363071B2 (en) 2019-05-31 2022-06-14 Apple Inc. User interfaces for managing a local network
US11726568B2 (en) * 2019-05-31 2023-08-15 Apple Inc. Haptics application programming interface
JP2021082292A (ja) * 2019-11-20 2021-05-27 株式会社リコー 表示装置、表示方法、プログラム
US11733830B2 (en) 2019-11-20 2023-08-22 Ricoh Company, Ltd. Display apparatus for displaying handwritten data with displayed operation menu
US11079913B1 (en) 2020-05-11 2021-08-03 Apple Inc. User interface for status indicators
CN114079838B (zh) * 2020-08-21 2024-04-09 华为技术有限公司 一种音频控制方法、设备及系统
US11635885B2 (en) 2020-12-02 2023-04-25 Samsung Electronics Co., Ltd. Electronic device for supporting automation services
US11799768B1 (en) * 2021-09-09 2023-10-24 Amazon Technologies, Inc. Lightweight reactive workflows through internal event generation and matching

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007042226A1 (en) * 2005-10-07 2007-04-19 Ganesh Technologies Ltd Control of operation of mobile communication devices
KR20090031780A (ko) * 2004-07-01 2009-03-27 노키아 코포레이션 이동 장치 애플리케이션 개인화에 콘텍스트 온톨로지를 활용하는 방법, 장치 및 컴퓨터 프로그램 생성물
KR20100090865A (ko) * 2009-02-09 2010-08-18 삼성전자주식회사 휴대용 단말기에서 문장을 이용한 기능 제어 방법 및 장치
KR20110101182A (ko) * 2008-12-04 2011-09-15 코닌클리즈케 필립스 일렉트로닉스 엔.브이. 디바이스 선택 및 제어 방법
KR20120066089A (ko) * 2010-10-13 2012-06-22 숭실대학교산학협력단 모바일 기기에서의 상황인지 기반 제어장치 및 방법

Family Cites Families (48)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6996402B2 (en) * 2000-08-29 2006-02-07 Logan James D Rules based methods and apparatus for generating notification messages based on the proximity of electronic devices to one another
US5917489A (en) * 1997-01-31 1999-06-29 Microsoft Corporation System and method for creating, editing, and distributing rules for processing electronic messages
DE69942663D1 (de) 1999-04-13 2010-09-23 Sony Deutschland Gmbh Zusammenfügen von Sprachschnittstellen zur gleichzeitigen Benützung von Vorrichtungen und Anwendungen
US6622119B1 (en) * 1999-10-30 2003-09-16 International Business Machines Corporation Adaptive command predictor and method for a natural language dialog system
US6775658B1 (en) * 1999-12-21 2004-08-10 Mci, Inc. Notification by business rule trigger control
JP2002283259A (ja) 2001-03-27 2002-10-03 Sony Corp ロボット装置のための動作教示装置及び動作教示方法、並びに記憶媒体
US7324947B2 (en) 2001-10-03 2008-01-29 Promptu Systems Corporation Global speech user interface
US20030147624A1 (en) 2002-02-06 2003-08-07 Koninklijke Philips Electronics N.V. Method and apparatus for controlling a media player based on a non-user event
KR100434545B1 (ko) * 2002-03-15 2004-06-05 삼성전자주식회사 홈네트워크로 연결된 가전기기들을 제어하는 방법 및 장치
KR100651729B1 (ko) 2003-11-14 2006-12-06 한국전자통신연구원 홈네트워크 환경에서의 멀티-모달 상황 인식어플리케이션을 위한 시스템 및 방법
KR100711524B1 (ko) 2004-12-01 2007-04-27 한국전자통신연구원 규칙기반 상황 맞춤형 서비스 제공 방법 및 시스템
KR100661224B1 (ko) 2005-01-27 2006-12-22 에스케이 텔레콤주식회사 무선망에서 유비 쿼터스 컴퓨팅 실현을 위한 유비에이전트 방법 및 시스템
JP2006221270A (ja) * 2005-02-08 2006-08-24 Nec Saitama Ltd 音声認識機能を備えた携帯端末装置のマルチタスクシステム及び方法
US7352279B2 (en) * 2005-03-02 2008-04-01 Matsushita Electric Industrial Co., Ltd. Rule based intelligent alarm management system for digital surveillance system
US8554599B2 (en) 2005-03-25 2013-10-08 Microsoft Corporation Work item rules for a work item tracking system
US7640160B2 (en) * 2005-08-05 2009-12-29 Voicebox Technologies, Inc. Systems and methods for responding to natural language speech utterance
KR100695331B1 (ko) 2005-09-23 2007-03-16 한국전자통신연구원 상황인지 환경을 위한 사용자 인터페이스 장치 및 이에연동되는 기기 제어 장치 및 그의 동작 방법
KR20070083264A (ko) 2006-02-03 2007-08-24 주식회사 케이티 상황 인지 서비스 관리 시스템 및 방법
JP2007220045A (ja) 2006-02-20 2007-08-30 Toshiba Corp コミュニケーション支援装置、コミュニケーション支援方法およびコミュニケーション支援プログラム
US8311836B2 (en) 2006-03-13 2012-11-13 Nuance Communications, Inc. Dynamic help including available speech commands from content contained within speech grammars
JP4786384B2 (ja) 2006-03-27 2011-10-05 株式会社東芝 音声処理装置、音声処理方法および音声処理プログラム
JP2007305039A (ja) * 2006-05-15 2007-11-22 Sony Corp 情報処理装置および方法、並びにプログラム
US9318108B2 (en) 2010-01-18 2016-04-19 Apple Inc. Intelligent automated assistant
US20080220810A1 (en) 2007-03-07 2008-09-11 Agere Systems, Inc. Communications server for handling parallel voice and data connections and method of using the same
WO2008144638A2 (en) 2007-05-17 2008-11-27 Redstart Systems Inc. Systems and methods of a structured grammar for a speech recognition command system
US8620652B2 (en) 2007-05-17 2013-12-31 Microsoft Corporation Speech recognition macro runtime
US8886521B2 (en) * 2007-05-17 2014-11-11 Redstart Systems, Inc. System and method of dictation for a speech recognition command system
KR20090053179A (ko) 2007-11-22 2009-05-27 주식회사 케이티 상황인지 지식서비스를 위한 서비스 제어 장치 및 그 방법
CA2708375C (en) 2007-12-14 2015-05-26 Research In Motion Limited Method and system for a context aware mechanism for use in presence and location
JP2009211241A (ja) 2008-03-03 2009-09-17 Fujitsu Ltd 表示画面設定プログラム、情報処理装置および表示画面設定方法
US8958848B2 (en) 2008-04-08 2015-02-17 Lg Electronics Inc. Mobile terminal and menu control method thereof
KR20090107364A (ko) 2008-04-08 2009-10-13 엘지전자 주식회사 이동 단말기 및 그 메뉴 제어방법
KR20100001928A (ko) 2008-06-27 2010-01-06 중앙대학교 산학협력단 감정인식에 기반한 서비스 장치 및 방법
KR101053897B1 (ko) 2008-12-01 2011-08-04 한국과학기술원 상황 정보 관리 시스템 및 방법과 상황 정보 생성 방법
US8489599B2 (en) 2008-12-02 2013-07-16 Palo Alto Research Center Incorporated Context and activity-driven content delivery and interaction
KR101566379B1 (ko) 2009-05-07 2015-11-13 삼성전자주식회사 입력 신호 종류 별 사용자 기능 활성화 방법 및 이를 지원하는 휴대 단말기
US10540976B2 (en) 2009-06-05 2020-01-21 Apple Inc. Contextual voice commands
US20120311585A1 (en) 2011-06-03 2012-12-06 Apple Inc. Organizing task items that represent tasks to perform
US9100465B2 (en) * 2009-08-11 2015-08-04 Eolas Technologies Incorporated Automated communications response system
KR20110023977A (ko) 2009-09-01 2011-03-09 삼성전자주식회사 휴대단말기의 위젯 관리 방법 및 장치
US20110099507A1 (en) * 2009-10-28 2011-04-28 Google Inc. Displaying a collection of interactive elements that trigger actions directed to an item
US8423508B2 (en) 2009-12-04 2013-04-16 Qualcomm Incorporated Apparatus and method of creating and utilizing a context
TWI438675B (zh) * 2010-04-30 2014-05-21 Ibm 提供情境感知援助說明之方法、裝置及電腦程式產品
US8494981B2 (en) * 2010-06-21 2013-07-23 Lockheed Martin Corporation Real-time intelligent virtual characters with learning capabilities
US8359020B2 (en) 2010-08-06 2013-01-22 Google Inc. Automatically monitoring for voice input based on context
US10042603B2 (en) 2012-09-20 2018-08-07 Samsung Electronics Co., Ltd. Context aware service provision method and apparatus of user device
CN105723451B (zh) * 2013-12-20 2020-02-28 英特尔公司 从低功率始终侦听模式到高功率语音识别模式的转换
US8938394B1 (en) * 2014-01-09 2015-01-20 Google Inc. Audio triggers based on context

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20090031780A (ko) * 2004-07-01 2009-03-27 노키아 코포레이션 이동 장치 애플리케이션 개인화에 콘텍스트 온톨로지를 활용하는 방법, 장치 및 컴퓨터 프로그램 생성물
WO2007042226A1 (en) * 2005-10-07 2007-04-19 Ganesh Technologies Ltd Control of operation of mobile communication devices
KR20110101182A (ko) * 2008-12-04 2011-09-15 코닌클리즈케 필립스 일렉트로닉스 엔.브이. 디바이스 선택 및 제어 방법
KR20100090865A (ko) * 2009-02-09 2010-08-18 삼성전자주식회사 휴대용 단말기에서 문장을 이용한 기능 제어 방법 및 장치
KR20120066089A (ko) * 2010-10-13 2012-06-22 숭실대학교산학협력단 모바일 기기에서의 상황인지 기반 제어장치 및 방법

Also Published As

Publication number Publication date
US11907615B2 (en) 2024-02-20
KR102245288B1 (ko) 2021-04-27
JP6710791B2 (ja) 2020-06-17
TW201415294A (zh) 2014-04-16
KR20140039961A (ko) 2014-04-02
KR102623206B1 (ko) 2024-01-12
US20190265946A1 (en) 2019-08-29
KR102368698B1 (ko) 2022-03-02
KR102070196B1 (ko) 2020-01-30
KR20200067798A (ko) 2020-06-12
TWI635414B (zh) 2018-09-11
KR20220031586A (ko) 2022-03-11
JP2019135831A (ja) 2019-08-15
KR20210048462A (ko) 2021-05-03
KR20200010537A (ko) 2020-01-30
KR102475223B1 (ko) 2022-12-09
US20210286590A1 (en) 2021-09-16
US11048474B2 (en) 2021-06-29
KR102120984B1 (ko) 2020-06-10

Similar Documents

Publication Publication Date Title
KR102475223B1 (ko) 사용자 디바이스에서 상황 인식 서비스 제공 방법 및 장치
US10684821B2 (en) Context aware service provision method and apparatus of user device
US11099810B2 (en) Systems and methods for communicating notifications and textual data associated with applications
KR102404702B1 (ko) 크로스-디바이스 핸드오프
CN105493479A (zh) 多设备无线禁用和启用
JP6253639B2 (ja) コンテンツのオートネーミング遂行方法及びその装置、並びに記録媒体
KR20150026132A (ko) 전자 장치를 이용하여 오브젝트를 공유하는 방법 및 장치
KR102057196B1 (ko) 정보 전송 방법 및 시스템과 그 기기
KR102354326B1 (ko) 웨어러블 디바이스 및 웨어러블 장치의 메시지 수신 설정 방법
EP2806364B1 (en) Method and apparatus for managing audio data in electronic device

Legal Events

Date Code Title Description
A107 Divisional application of patent
AMND Amendment
E902 Notification of reason for refusal
AMND Amendment
E601 Decision to refuse application
AMND Amendment
X701 Decision to grant (after re-examination)