KR20200094839A - 사용자 입력에 대한 피드백 정보를 제공하는 전자 장치 및 그 동작 방법 - Google Patents

사용자 입력에 대한 피드백 정보를 제공하는 전자 장치 및 그 동작 방법 Download PDF

Info

Publication number
KR20200094839A
KR20200094839A KR1020190008608A KR20190008608A KR20200094839A KR 20200094839 A KR20200094839 A KR 20200094839A KR 1020190008608 A KR1020190008608 A KR 1020190008608A KR 20190008608 A KR20190008608 A KR 20190008608A KR 20200094839 A KR20200094839 A KR 20200094839A
Authority
KR
South Korea
Prior art keywords
user
information
electronic device
intention
input
Prior art date
Application number
KR1020190008608A
Other languages
English (en)
Inventor
백서현
유승학
윤희원
정호진
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020190008608A priority Critical patent/KR20200094839A/ko
Priority to US16/718,672 priority patent/US11645036B2/en
Priority to EP20150327.3A priority patent/EP3686752A1/en
Publication of KR20200094839A publication Critical patent/KR20200094839A/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33—Querying
    • G06F16/332—Query formulation
    • G06F16/3329—Natural language query formulation or dialogue systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G06F3/167—Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/26—Speech to text systems
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/225—Feedback of the input speech

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Mathematical Physics (AREA)
  • General Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Computational Linguistics (AREA)
  • Artificial Intelligence (AREA)
  • Human Computer Interaction (AREA)
  • Evolutionary Computation (AREA)
  • Computing Systems (AREA)
  • Multimedia (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Biophysics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Molecular Biology (AREA)
  • Biomedical Technology (AREA)
  • Acoustics & Sound (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Databases & Information Systems (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

본 개시는 딥러닝 등의 기계 학습 알고리즘을 활용하여 인간 두뇌의 인지, 판단 등의 기능을 모사하는 인공지능(AI) 시스템 및 그 응용에 관련된 것이다.
사용자의 의도를 결정하고, 사용자로부터 입력된 정보에 기초하여, 의도에 대응하여 결정될 수 있는 동작의 후보 개수에 대한 변화량을 측정하고, 측정된 변화량에 기초하여, 피드백 정보를 생성하여, 사용자에게 제공하는, 사용자의 입력에 대한 피드백 정보를 제공하는 방법이 제공된다.

Description

사용자 입력에 대한 피드백 정보를 제공하는 전자 장치 및 그 동작 방법 {Electronic device and operating method for providing a feedback information for a user input}
본 개시는, 사용자의 입력에 대한 피드백 정보를 제공하는 전자 장치 및 그 동작 방법에 관한 것이다. 또한, 본 개시는 딥러닝 등의 기계 학습 알고리즘을 활용하는 인공지능(Artificial Intelligence, AI) 시스템 및 그 응용에 관련된 것이다.
인공지능(Artificial Intelligence, AI) 시스템은 인간 수준의 지능을 구현하는 컴퓨터 시스템이며, 기존 Rule 기반 스마트 시스템과 달리 기계가 스스로 학습하고 판단하며 똑똑해지는 시스템이다. 인공지능 시스템은 사용할수록 인식률이 향상되고 사용자 취향을 보다 정확하게 이해할 수 있게 되어, 기존 Rule 기반 스마트 시스템은 점차 딥러닝 기반 인공지능 시스템으로 대체되고 있다.
인공지능 기술은 기계학습(딥러닝) 및 기계학습을 활용한 요소 기술들로 구성된다.
기계학습은 입력 데이터들의 특징을 스스로 분류/학습하는 알고리즘 기술이며, 요소기술은 딥러닝 등의 기계학습 알고리즘을 활용하여 인간 두뇌의 인지, 판단 등의 기능을 모사하는 기술로서, 언어적 이해, 시각적 이해, 추론/예측, 지식 표현, 동작 제어 등의 기술 분야로 구성된다.
인공지능 기술이 응용되는 다양한 분야는 다음과 같다. 언어적 이해는 인간의 언어/문자를 인식하고 응용/처리하는 기술로서, 자연어 처리, 기계 번역, 대화시스템, 질의 응답, 음성 인식/합성 등을 포함한다. 시각적 이해는 사물을 인간의 시각처럼 인식하여 처리하는 기술로서, 객체 인식, 객체 추적, 영상 검색, 사람 인식, 장면 이해, 공간 이해, 영상 개선 등을 포함한다. 추론 예측은 정보를 판단하여 논리적으로 추론하고 예측하는 기술로서, 지식/확률 기반 추론, 최적화 예측, 선호 기반 계획, 추천 등을 포함한다. 지식 표현은 인간의 경험정보를 지식데이터로 자동화 처리하는 기술로서, 지식 구축(데이터 생성/분류), 지식 관리(데이터 활용) 등을 포함한다. 동작 제어는 차량의 자율 주행, 로봇의 움직임을 제어하는 기술로서, 움직임 제어(항법, 충돌, 주행), 조작 제어(행동 제어) 등을 포함한다.
전자 장치는 사용자와의 대화를 통해 여러가지 응답을 제공할 수 있다. 예를 들면, 전자 장치는, 사용자와의 대화를 통해 사용자의 의도를 파악하고, 파악된 의도에 따른 동작(operation)을 수행하여, 사용자에게 그 결과를 제공할 수 있다. 그러나, 사용자에 의해 제공된 정보가 부족하면, 사용자의 의도에 맞는 동작이 결정되기 어려워짐에 따라, 사용자의 의도에 맞는 결과가 제공되기 어렵다.
따라서, 동작을 결정하기 위한 정보가 사용자에 의해 충분히 제공될 수 있도록 가이드하는 방법이 필요하다.
본 개시가 해결하고자 하는 과제는 전술한 문제를 해결하기 위한 것으로서, 사용자의 입력에 대한 피드백 정보를 제공하는 전자 장치 및 그 동작 방법을 제공하기 위한 것이다.
또한, 상기 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체를 포함하는 컴퓨터 프로그램 제품을 제공하는 데 있다. 해결하려는 기술적 과제는 상기된 바와 같은 기술적 과제들로 한정되지 않으며, 또 다른 기술적 과제들이 존재할 수 있다.
상술한 기술적 과제를 달성하기 위한 기술적 수단으로서, 본 개시의 제1 측면은, 전자 장치에서, 사용자의 입력에 대한 피드백 정보를 제공하는 방법에 있어서, 상기 사용자의 의도를 결정하는 단계; 상기 사용자로부터 입력된 정보에 기초하여, 상기 의도에 대응하여 결정될 수 있는 동작의 후보 개수에 대한 변화량을 측정하는 단계; 상기 측정된 변화량에 기초하여, 피드백 정보를 생성하는 단계; 및 상기 피드백 정보를 상기 사용자에게 제공하는 단계를 포함한다.
또한, 본 개시의 제2 측면은, 사용자의 입력을 수신하는 사용자 입력부; 상기 사용자의 의도를 결정하고, 상기 사용자로부터 입력된 정보에 기초하여, 상기 의도에 대응하여 결정될 수 있는 동작의 후보 개수에 대한 변화량을 측정하고, 상기 측정된 변화량에 기초하여, 피드백 정보를 생성하는 적어도 하나의 프로세서; 및 상기 피드백 정보를 상기 사용자에게 제공하는 출력부를 포함하는, 사용자의 입력에 대한 피드백 정보를 제공하는 전자 장치를 제공한다.
또한, 본 개시의 제3 측면은, 제1 측면 또는 제2 측면의 방법을 수행하도록 하는 프로그램이 저장된 기록매체를 포함하는 컴퓨터 프로그램 제품을 제공할 수 있다.
일 실시 예에 의하면, 피드백 정보를 통해, 사용자로부터 동작을 결정하기 위한 정보가 충분히 제공될 수 있도록 가이드함으로써, 사용자의 의도에 맞는 동작을 정확도 높게 결정할 수 있다.
도 1은 일 실시 예에 의한 사용자 입력에 대한 피드백 정보를 제공하는 시스템을 설명하기 위한 도면이다.
도 2는 일 실시 예에 의한 사용자의 입력에 대한 피드백 정보를 제공하는 일 예를 나타내는 도면이다.
도 3 및 도 4는 일 실시 예에 의한 전자 장치의 내부 구성을 설명하기 위한 블록도이다.
도 5는 일 실시 예에 의한 사용자의 입력에 대한 피드백 정보를 제공하는 방법을 나타낸 순서도이다.
도 6은 일 실시 예에 의한 사용자의 입력에 대한 피드백 정보를 제공하는 일 예를 나타내는 도면이다.
도 7은 일 실시 예에 의한 사용자 의도에 대응하여 결정될 수 있는 동작의 정확도의 일 예를 도시한 그래프이다.
도 8은 일 실시 예에 따라 사용자의 입력에 대한 피드백 정보를 제공하는 전자 장치의 내부 구성을 나타내는 블록도이다.
도 9는 일부 실시예에 따른 프로세서의 블록도이다.
도 10은 일부 실시예에 따른 데이터 학습부의 블록도이다.
도 11은 일부 실시예에 따른 데이터 인식부의 블록도이다.
도 12의 일부 실시예에 따른 전자 장치 및 서버가 서로 연동함으로써 데이터를 학습하고 인식하는 예시를 나타내는 도면이다.
아래에서는 첨부한 도면을 참조하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 본 발명의 실시예를 상세히 설명한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예에 한정되지 않는다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.
명세서 전체에서, 어떤 부분이 다른 부분과 "연결"되어 있다고 할 때, 이는 "직접적으로 연결"되어 있는 경우뿐 아니라, 그 중간에 다른 소자를 사이에 두고 "전기적으로 연결"되어 있는 경우도 포함한다. 또한 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미한다.
이하 첨부된 도면을 참고하여 본 발명을 상세히 설명하기로 한다.
도 1은 일 실시 예에 의한 사용자 입력에 대한 피드백 정보를 제공하는 시스템을 설명하기 위한 도면이다.
도 1을 참조하면, 일 실시 예에 의한 사용자(110)의 입력(111)에 대한 피드백 정보(120)를 제공하는 시스템은 전자 장치(1000)를 포함할 수 있다.
전자 장치(1000)는 사용자(110)의 입력(111)에 대응하여 응답을 제공하는 장치의 일 예로서, 음성 제어 기능이 탑재되어 사용자의 입력에 따른 동작을 수행하는 인공 지능 스피커 장치일 수 있다.
일 실시예에 따른 전자 장치(1000)는 다양한 형태로 구현될 수 있다. 예를 들어, 본 명세서에서 기술되는 전자 장치(1000)는, 스마트 TV, 셋탑 박스, 휴대폰, 태블릿 PC, 디지털 카메라, 노트북 컴퓨터(laptop computer), 데스크탑, 전자책 단말기, 디지털 방송용 단말기, PDA(Personal Digital Assistants), PMP(Portable Multimedia Player), 네비게이션, MP3 플레이어, 착용형 기기(wearable device) 등이 있을 수 있으나, 이에 한정되는 것은 아니다. 이하에서는, 설명의 편의상, 전자 장치(1000)가 인공 지능 스피커인 경우를 예로 들어 설명하기로 한다.
일 실시 예에 의하면, 전자 장치(1000)는 대화형 인터페이스를 통해 사용자(110)의 입력(111)을 수신하고, 사용자(110)의 입력(111)에 대한 피드백 정보를 제공하는 장치일 수 있다. 대화형 인터페이스는 사용자로부터의 입력(예컨대, 음성 입력 또는 텍스트 입력)을 수신하고, 사용자로부터의 입력에 대한 응답을 제공하는 사용자를 위한 인터페이스일 수 있다. 일 실시예에 의하면, 대화형 인터페이스는 가상 비서(Virtual assistant), 인공지능 비서 등을 포함할 수 있으나, 이에 한정되는 것은 아니다. 가상 비서 또는 인공지능 비서는 사용자가 요구하는 작업을 처리하고 사용자에게 특화된 서비스를 제공하는 소프트웨어 에이전트일 수 있다.
일 실시 예에 의하면, 전자 장치(1000)는, 인공지능 모델을 이용하여, 사용자의 의도를 판단하고, 사용자로부터 입력된 정보에 기초하여, 사용자의 의도에 대응되는 동작(140)을 수행할 수 있다.
사용자의 의도는, 사용자로부터 입력된 정보에 기초하여, 결정될 수 있으나, 이에 한하지 않고, 사용자의 주변 환경에 관한 정보, 사용자의 명령 이력에 관한 정보 등 사용자에 관한 다양한 정보에 기초하여 다양한 방법에 따라 결정될 수 있다.
사용자의 의도에 대응되는 동작은, 사용자로부터 입력된 정보에 기초하여, 수행될 동작에 관한 구체적인 내용이 결정될 수 있다. 예를 들면, 사용자의 의도가 "돼지고기 주문"인 경우, 전자 장치(1000)는, 사용자로부터 입력된 정보에 기초하여, 주문하고자 하는 돼지 고기의 부위, 가격대, 원산지, 구매처 등의 구체적인 내용을 결정하고, 결정된 내용에 따라 돼지고기를 주문하기 위한 동작을 수행할 수 있다.
동작에 관한 구체적인 내용은, 사용자로부터 입력된 정보에 기초하여, 결정될 수 있으나, 이에 한하지 않고, 사용자의 주변 환경에 관한 정보, 사용자의 명령 이력에 관한 정보 등 사용자에 관한 다양한 정보를 더 이용하여 결정될 수 있다.
일 실시 예에 의하면, 전자 장치(1000)는, 사용자로부터 입력된 정보에 기초하여 동작의 구체적인 내용을 결정할 수 있다. 동작의 구체적인 내용이 결정됨에 의하여, 사용자의 의도에 대응하는 적어도 하나의 동작 후보가 결정될 수 있다. 예를 들면, 동작의 내용이 구체적으로 결정된 만큼, 결정될 수 있는 동작 후보의 개수는 적어질 수 있다. 그러나, 사용자로부터 입력된 정보가 동작의 구체적인 내용을 결정하기에 부족한 경우, 결정될 수 있는 동작 후보의 개수가 많아짐에 따라, 사용자의 의도와 맞지 않는 동작이 수행될 가능성이 있다.
예를 들어, 사용자의 의도가 "돼지고기 주문"이고, 동작에 대한 구체적인 내용은 "삼겹살", 및 "1만원 대 가격"인 경우, 동작 후보는, 상기 구체적인 내용에 따라, 전자 장치(1000)에서 수행 가능한 동작들이 저장된 데이터 베이스를 검색한 결과에 따라서 결정될 수 있다. 예를 들면, 동작 후보는, 상기 결정된 동작에 대한 구체적인 내용인, "삼겹살" 및 "1만원 대 가격"을 동시에 포함하는 동작인, "1만원 대 삼겹살 유럽산 A 마트 주문", "1만원 대 유럽산 삼겹살 B 마트 주문", "1만원 대 삼겹살 미국산 B 마트 주문" 등으로 결정될 수 있다. 전자 장치(1000)는, 사용자로부터 제공된 정보에 기초하여 동작에 대한 구체적인 내용을 더 추가함으로써, 적은 개수의 동작 후보들 중에서 수행할 동작을 결정할 수 있다.
데이터 베이스에는, 전자 장치(1000)가 수집된 정보에 따라 수행할 수 있는 동작에 관한 정보들이 저장될 수 있다. 예를 들면, 전자 장치(1000)에 의해 A 마트에서 실제로 주문할 수 있는 삼겹살의 그람 수 및 원산지 별로 구분된 주문 정보들이 데이터 베이스에 저장될 수 있다. 주문 이외 다른 예로, 다른 장치를 제어하는 경우를 예를 들면, 전자 장치(1000)에 의해 제어할 수 있는 장치 및 제어 가능한 기능에 관한 제어 정보들이 데이터 베이스에 저장될 수 있다. 따라서, 전자 장치(1000)는 데이터 베이스에서 검색한 결과에 따라 전자 장치(1000)에서 제어 가능한 장치 및 기능을 포함하는 동작 후보들을 획득할 수 있다.
다만, 일 실시 예에 의한 전자 장치(1000)는, 동작 후보들 중에서 수행할 동작을 결정하기 전에, 현재 수집된 정보에 기초하여, 사용자의 의도와 대응하여 결정될 수 있는 적어도 하나의 동작 후보에 관한 피드백 정보(120)를 사용자(110)에게 제공함으로써, 사용자가 전자 장치(1000)에 추가 정보를 제공(130)하도록 가이드할 수 있다.
예를 들면, 전자 장치(1000)는, 피드백 정보(120)는, 현재 수집된 정보에 기초하여, 사용자의 의도와 대응하여 결정될 수 있는 적어도 하나의 동작 후보의 개수에 대한 변화량에 기초하여 생성될 수 있다. 일 실시 예에 의한 동작 후보의 개수에 대한 변화량은, 실시간으로 전자 장치(1000)에 입력되는 정보에 따라, 결정될 수 있는 동작 후보의 개수가 단위 시간 동안 변하는 정도를 나타낼 수 있다.
예를 들면, 단위시간 동안 동작의 구체적인 내용을 결정하기에 적절한 정보가 사용자에 의해 제공되고 있는 경우, 사용자의 입력에 따라 결정될 수 있는 동작 후보의 개수에 대한 변화량은, 상대적으로 큰 값으로 결정될 수 있다. 전자 장치(1000)는, 단위 시간동안 사용자로부터 제공되고 있는 정보가 적절한 것으로 보고, 사용자가 현 상태와 같이 지속적으로 적절한 정보가 제공될 수 있도록 피드백 정보(120)를 통해 사용자를 가이드할 수 있다.
반면, 단위시간 동안 사용자로부터 제공된 정보들이 동작의 구체적인 내용을 결정하기에 적절하지 않거나, 이전에 제공된 정보와 실질적으로 차이가 없거나 동일한 정보가 사용자에 의해 제공되는 경우, 사용자의 입력에 따라 결정될 수 있는 동작 후보의 개수에 대한 변화량은, 상대적으로 작은 값으로 측정될 수 있다. 전자 장치(1000)는, 단위 시간동안 사용자로부터 제공되고 있는 정보가 부족한 것으로 보고, 사용자가 동작의 구체적인 내용을 결정하기 위한 적절한 정보를 제공할 수 있도록 피드백 정보(120)를 통해 사용자를 가이드할 수 있다.
상술한 동작 후보의 개수는, 현재 수집된 정보에 기초하여 결정된 동작의 구체적인 내용에 따라 데이터베이스를 검색한 결과 획득될 수 잇다. 예를 들어, 사용자의 의도가 "돼지고기 주문"이고, 동작에 대한 구체적인 내용은 "삼겹살", 및 "1만원 대 가격"인 경우, 상기 정보에 기초하여 데이터베이스를 검색한 결과 상기 정보와 대응되는 동작들이 검색될 수 있으며, 상기 검색된 동작들의 개수가 동작 후보의 개수로 획득될 수 있다.
따라서, 전자 장치(1000)는, 일 실시 예에 의한 피드백 정보(120)를 사용자에게 제공함으로써, 현재 사용자로부터 제공된 정보들이, 사용자의 의도에 맞는 동작의 구체적인 내용을 결정하기에 적절한지를 나타내는 정보를 사용자에게 전달할 수 있다.
일 실시예에 의하면, 사용자(110)의 입력(111)에 대한 피드백 정보(120)를 제공하는 시스템은 전자 장치(1000) 이외에 서버(미도시)를 더 포함할 수도 있다.
서버(미도시)는 적어도 하나의 컴퓨터 장치로 구현될 수 있다. 서버(미도시)는 클라우드 형태로 분산될 수 있으며, 명령, 코드, 파일, 컨텐츠 등을 제공할 수 있다.
서버(미도시)는 전자 장치(1000)가 실행할 수 있는 동작들을 수행할 수 있다. 예컨대, 서버(미도시)는 전자 장치(1000)로부터 수신되는 사용자의 입력 신호에 기초하여 피드백 정보(120)를 생성하고, 생성된 피드백 정보(120)를 전자 장치(1000)에 송신할 수 있다. 또한, 서버(미도시)는 전자 장치(1000)로부터 수신되는 사용자의 입력 정보에 기초하여 동작(140)을 수행하고, 동작(140)이 수행된 결과를 생성할 수 있다.
도 2는 일 실시 예에 의한 사용자의 입력에 대한 피드백 정보를 제공하는 일 예를 나타내는 도면이다.
도 2를 참조하면, 사용자(110)는 대화형 인터페이스를 통하여, 도 2에 도시된 211, 213, 215, 217 및 219의 입력을 전자 장치(1000)에 전달할 수 있다.
전자 장치(1000)는 사용자(110)로부터 수신한 211, 213, 215, 217 및 219의 입력에 기초하여, 사용자의 의도를 결정하고, 결정된 의도에 대응하는 동작을 수행할 수 있다. 또한, 전자 장치(1000)는 현재 수신된 사용자의 입력에 기초하여 결정될 수 있는 동작의 후보 개수에 대한 변화량을 포함하는 피드백 정보를 사용자에게 제공하여, 사용자가 적절한 정보를 전자 장치(1000)에 제공할 수 있도록 가이드할 수 있다.
전자 장치(1000)는 사용자(110)로부터 211의 입력을 수신하면, 사용자의 입력이 수신됨을 감지하고, 사용자의 추가 입력을 대기함을 나타내는 피드백 정보로서, 주황색 불빛(222)을 출력할 수 있다.
전자 장치(1000)는, 사용자(110)로부터 수신된 211의 입력으로부터 사용자의 의도를 결정하고, 의도에 대응되는 동작을 결정하기 위한 정보도 함께 획득할 수 있다. 예를 들면, 전자 장치(1000)는 사용자의 의도로, "물품 주문"을 결정할 수 있고, 의도에 대응되는 동작을 결정하기 위한 정보로, "돼지고기", "1인분(300g)", 및 "포장 제품"을 획득할 있다.
또한, 전자 장치(1000)는, 사용자(110)로부터 211 입력에 이어 213 입력을 추가로 수신할 수 있다. 213 입력으로부터 전자 장치(1000)는, 의도에 대응되는 동작을 결정하기 위한 정보로, "볶음밥용", "이전에 샀던 제품과 유사한 제품"을 획득할 수 있다. 전자 장치(1000)는, 213 입력에서 획득된 정보에서, 동작의 구체적인 내용을 결정할 수 있는 유의미한 정보를 획득함에 따라, 피드백 정보로서, 녹색 불빛(224)을 출력할 수 있다. 녹색 불빛(224)은 사용자(110)로부터 현재 수신된 입력(213)이 동작의 구체적인 내용을 결정하기에 적절한 정보를 포함함을 나타낼 수 있다.
전자 장치(1000)는, 사용자(110)로부터 213 입력에 이어 215 입력을 수신할 수 있다. 215 입력으로부터 전자 장치(1000)는 의도에 대응되는 동작을 결정하기 위한 정보로, "돼지고기"를 획득할 수 있다. 그러나, 215 입력으로부터 획득된 정보는, 이전에 획득된 정보와 중복되어, 동작의 구체적인 내용을 결정할 수 있는 유의미한 정보에 해당되지 않는다. 따라서, 전자 장치(1000)에 의해 결정될 수 있는 동작의 후보 개수에 대한 변화량은 낮아짐에 따라, 현재 입력된 정보가 동작의 구체적인 내용을 결정하기에 도움이 되지 않은 정보를 포함함을 나타내는 피드백 정보로서, 빨간색 불빛(226)을 출력할 수 있다.
전자 장치(1000)는, 사용자(110)로부터 215 입력에 이어 217 입력을 수신할 수 있다. 217 입력에도 동작의 구체적인 내용을 결정할 수 있는 유의미한 정보를 포함하지 않음에 따라, 전자 장치(1000)에 의해 결정될 수 있는 동작의 후보 개수에 대한 변화량은 계속 낮은 상태일 수 있다.
전자 장치(1000)는, 상기 변화량이 기준값 이하인 상태가 일정 시간 이상 지속됨에 따라, 동작의 구체적인 내용을 결정할 수 있는 유의미한 추가 정보를 사용자에게 요청(228)할 수 있다. 예를 들면, 전자 장치(1000)는, 결정될 수 있는 동작의 후보 개수를 줄일 수 있는 정보로서, 주문하고자 하는 돼지 고기의 종류가 무엇인지에 대해 사용자에게 직접 질의할 수 있다.
전자 장치(1000)는 질의(228)에 대한 응답(219)으로부터 동작의 구체적인 내용을 결정할 수 있는 유의미한 추가 정보인 "항정살"을 획득할 수 있다.
일 실시 예에 따라, 전자 장치(1000)는, "항정살" 정보를 획득함에 따라, 사용자 의도에 대응하여 결정될 수 있는 동작의 정확도가 기준값 이상인 경우, 현재 수집된 정보에 기초하여, 사용자 의도에 대응한 동작을 결정할 수 있다. 예를 들면, 전자 장치(1000)는, 사용자로부터 현재 수집된 정보에 따라 결정된 "돼지고기 항정살 볶음밥용 1인분 포장된 것으로, A 가격으로 구매할 수 있는, B 마켓에서 온라인 주문하는 동작"(229)을 수행할 수 있다.
도 3 및 도 4는 일 실시 예에 의한 전자 장치(1000)의 내부 구성을 설명하기 위한 블록도이다.
도 3을 참조하면, 전자 장치(1000)는, 사용자 입력부(1100), 프로세서(1300) 및 출력부(1200)을 포함할 수 있다. 그러나, 도 3에 도시된 구성 요소 모두가 전자 장치(1000)의 필수 구성 요소인 것은 아니다. 도 3에 도시된 구성 요소보다 많은 구성 요소에 의해 전자 장치(1000)가 구현될 수도 있고, 도 3에 도시된 구성 요소보다 적은 구성 요소에 의해 전자 장치(1000)가 구현될 수도 있다.
예를 들면, 전자 장치(1000)는 도 4에 도시된 바와 같이, 일부 실시예에 따른 전자 장치(1000)는, 사용자 입력부(1100), 프로세서(1300) 및 출력부(1200) 이외에 센싱부(1400), 통신부(1500), A/V 입력부(1600) 및 메모리(1700)를 더 포함할 수도 있다.
사용자 입력부(1100)는, 사용자가 전자 장치(1000)를 제어하기 위한 데이터를 입력하는 수단을 의미한다. 예를 들어, 사용자 입력부(1100)에는 키 패드(key pad), 돔 스위치 (dome switch), 터치 패드(접촉식 정전 용량 방식, 압력식 저항막 방식, 적외선 감지 방식, 표면 초음파 전도 방식, 적분식 장력 측정 방식, 피에조 효과 방식 등), 조그 휠, 조그 스위치 등이 있을 수 있으나 이에 한정되는 것은 아니다.
일 실시 예에 의하면, 사용자 입력부(1100)는, 대화형 인터페이스를 통해 사용자 입력(예컨대, 음성 입력 또는 텍스트 입력)을 수신할 수 있다.
출력부(1200)는, 오디오 신호 또는 비디오 신호 또는 진동 신호를 출력할 수 있으며, 출력부(1200)는 디스플레이부(1210), 음향 출력부(1220), 및 진동 모터(1230)를 포함할 수 있다.
디스플레이부(1210)는 전자 장치(1000)에서 처리되는 정보를 표시 출력한다. 일 실시 예에 의하면, 디스플레이부(1210)는 사용자의 입력에 대한 피드백 정보를 출력할 수 있다. 일 실시 예에 의한 디스플레이부(1210)는, 상기 피드백 정보를 나타내는 불빛을 출력할 수 있는 LED(Light-Emitting Diode) 조명을 더 포함할 수 있다.
한편, 디스플레이부(1210)와 터치패드가 레이어 구조를 이루어 터치 스크린으로 구성되는 경우, 디스플레이부(1210)는 출력 장치 이외에 입력 장치로도 사용될 수 있다. 디스플레이부(1210)는 액정 디스플레이(liquid crystal display), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display), 유기 발광 다이오드(organic light-emitting diode), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display), 전기영동 디스플레이(electrophoretic display) 중에서 적어도 하나를 포함할 수 있다. 그리고 전자 장치(1000)의 구현 형태에 따라 전자 장치(1000)는 디스플레이부(1210)를 2개 이상 포함할 수도 있다.
음향 출력부(1220)는 통신부(1500)로부터 수신되거나 메모리(1700)에 저장된 오디오 데이터를 출력한다. 일 실시 예에 의하면, 음향 출력부(1220)는 사용자의 입력에 따른 동작이 수행된 결과를 나타내는 문자열을 합성음으로 출력할 수 있다. 예를 들면, 음향 출력부(1220)는, 사용자의 입력에 따라 결정된 의도에 따라 동작의 구체적인 내용을 결정하기 위해 사용자에게 질의하는 문자열을 합성음으로 출력할 수 있다. 또한, 음향 출력부(1220)는, 사용자의 의도에 따라 결정된 동작의 구체적인 내용을 나타내는 문자열을 합성음으로 출력할 수 있다. 또한, 음향 출력부(1220)는, 사용자의 의도에 따라 결정된 동작의 수행 결과를 나타내는 문자열을 합성음으로 출력할 수 있다.
진동 모터(1230)는 진동 신호를 출력할 수 있다. 또한, 진동 모터(1230)는 터치스크린에 터치가 입력되는 경우 진동 신호를 출력할 수도 있다. 일 실시 예에 의하면, 진동 모터(1230)는 사용자 입력에 대한 피드백 정보를 나타내는 진동 신호를 출력할 수 있다.
프로세서(1300)는, 통상적으로 전자 장치(1000)의 전반적인 동작을 제어한다. 예를 들어, 프로세서(1300)는, 메모리(1700)에 저장된 프로그램들을 실행함으로써, 사용자 입력부(1100), 출력부(1200), 센싱부(1400), 통신부(1500), A/V 입력부(1600) 등을 전반적으로 제어할 수 있다. 전자 장치(1000)는 적어도 하나의 프로세서(1300)를 포함할 수 있다.
프로세서(1300)는 기본적인 산술, 로직 및 입출력 연산을 수행함으로써, 컴퓨터 프로그램의 명령을 처리하도록 구성될 수 있다. 명령은 메모리(1700)로부터 프로세서(1300)에 제공되거나, 통신부(1500)를 통해 수신되어 프로세서(1300)로 제공될 수 있다. 예를 들면 프로세서(1300)는 메모리와 같은 기록 장치에 저장된 프로그램 코드에 따라 명령을 실행하도록 구성될 수 있다.
일 실시 예에 의한 프로세서(1300)는 사용자의 의도를 결정하고, 사용자 입력부(1100)를 통해 입력된 정보에 기초하여, 상기 결정된 의도에 대응하여 결정될 수 있는 동작의 후보 개수에 대한 변화량을 측정할 수 있다. 그리고, 프로세서(1300)는, 상기 변화량에 기초하여 생성된 피드백 정보를 사용자에게 제공함으로써, 사용자가 전자 장치(1000)에 의도와 대응되는 동작의 구체적인 내용을 결정하기 위한 추가 정보를 제공하도록 가이드할 수 있다.
센싱부(1400)는, 전자 장치(1000)의 상태 또는 전자 장치(1000) 주변의 상태를 감지하고, 감지된 정보를 프로세서(1300)로 전달할 수 있다.
센싱부(1400)는, 지자기 센서(Magnetic sensor)(1410), 가속도 센서(Acceleration sensor)(1420), 온/습도 센서(1430), 적외선 센서(1440), 자이로스코프 센서(1450), 위치 센서(예컨대, GPS)(1460), 기압 센서(1470), 근접 센서(1480), 및 RGB 센서(illuminance sensor)(1490) 중 적어도 하나를 포함할 수 있으나, 이에 한정되는 것은 아니다.
통신부(1500)는, 전자 장치(1000)가 서버(2000) 또는 외부 장치(미도시)와 통신을 하게 하는 하나 이상의 구성요소를 포함할 수 있다. 예를 들어, 통신부(1500)는, 근거리 통신부(1510), 이동 통신부(1520), 방송 수신부(1530)를 포함할 수 있다.
근거리 통신부(short-range wireless communication unit)(1510)는, 블루투스 통신부, BLE(Bluetooth Low Energy) 통신부, 근거리 무선 통신부(Near Field Communication unit), WLAN(와이파이) 통신부, 지그비(Zigbee) 통신부, 적외선(IrDA, infrared Data Association) 통신부, WFD(Wi-Fi Direct) 통신부, UWB(ultra wideband) 통신부, Ant+ 통신부 등을 포함할 수 있으나, 이에 한정되는 것은 아니다.
이동 통신부(1520)는, 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 여기에서, 무선 신호는, 음성 호 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.
방송 수신부(1530)는, 방송 채널을 통하여 외부로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다. 방송 채널은 위성 채널, 지상파 채널을 포함할 수 있다. 구현 예에 따라서 전자 장치(1000)가 방송 수신부(1530)를 포함하지 않을 수도 있다.
일 실시 예에 의한, 통신부(1500)는, 서버(미도시)로부터 송신된 동작의 수행 결과를 수신할 수 있다.
A/V(Audio/Video) 입력부(1600)는 오디오 신호 또는 비디오 신호 입력을 위한 것으로, 이에는 카메라(1610)와 마이크로폰(1620) 등이 포함될 수 있다. 카메라(1610)는 화상 통화모드 또는 촬영 모드에서 이미지 센서를 통해 정지영상 또는 동영상 등의 화상 프레임을 얻을 수 있다. 이미지 센서를 통해 캡쳐된 이미지는 프로세서(1300) 또는 별도의 이미지 처리부(미도시)를 통해 처리될 수 있다.
마이크로폰(1620)은, 외부의 음향 신호를 입력 받아 전기적인 음성 데이터로 처리한다. 예를 들어, 마이크로폰(1620)은 사용자의 음성 입력을 수신할 수 있다.
메모리(1700)는, 프로세서(1300)의 처리 및 제어를 위한 프로그램을 저장할 수 있고, 전자 장치(1000)로 입력되거나 전자 장치(1000)로부터 출력되는 데이터를 저장할 수도 있다. 일 실시 예에 의한 메모리(1700)는 사용자의 의도를 결정하는데 필요한 정보 및 의도에 대응하는 동작을 결정하는데 필요한 정보를 저장할 수 있다.
메모리(1700)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(RAM, Random Access Memory) SRAM(Static Random Access Memory), 롬(ROM, Read-Only Memory), EEPROM(Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory), 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다.
메모리(1700)에 저장된 프로그램들은 그 기능에 따라 복수 개의 모듈들로 분류할 수 있는데, 예를 들어, UI 모듈(1710), 터치 스크린 모듈(1720), 알림 모듈(1730) 등으로 분류될 수 있다.
UI 모듈(1710)은, 애플리케이션 별로 전자 장치(1000)와 연동되는 특화된 UI, GUI 등을 제공할 수 있다. 터치 스크린 모듈(1720)은 사용자의 터치 스크린 상의 터치 제스처를 감지하고, 터치 제스처에 관한 정보를 프로세서(1300)로 전달할 수 있다. 일부 실시예에 따른 터치 스크린 모듈(1720)은 터치 코드를 인식하고 분석할 수 있다. 터치 스크린 모듈(1720)은 컨트롤러를 포함하는 별도의 하드웨어로 구성될 수도 있다.
터치스크린의 터치 또는 근접 터치를 감지하기 위해 터치스크린의 내부 또는 근처에 다양한 센서가 구비될 수 있다. 터치스크린의 터치를 감지하기 위한 센서의 일례로 촉각 센서가 있다. 촉각 센서는 사람이 느끼는 정도로 또는 그 이상으로 특정 물체의 접촉을 감지하는 센서를 말한다. 촉각 센서는 접촉면의 거칠기, 접촉 물체의 단단함, 접촉 지점의 온도 등의 다양한 정보를 감지할 수 있다.
사용자의 터치 제스처에는 탭, 터치&홀드, 더블 탭, 드래그, 패닝, 플릭, 드래그 앤드 드롭, 스와이프 등이 있을 수 있다.
알림 모듈(1730)은 전자 장치(1000)의 이벤트 발생을 알리기 위한 신호를 발생할 수 있다.
도 5는 일 실시 예에 의한 사용자의 입력에 대한 피드백 정보를 제공하는 방법을 나타낸 순서도이다.
도 5를 참조하면, 단계 510에서, 전자 장치(1000)는 사용자의 의도를 결정할 수 있다. 일 실시 예에 의하면, 사용자의 의도는 사용자로부터 입력된 정보에 기초하여 결정될 수 있으나, 이에 한하지 않고, 사용자의 주변 환경에 관한 정보, 사용자의 명령 이력에 관한 정보 등 사용자에 관한 다양한 정보에 기초하여 다양한 방법에 따라 결정될 수 있다.
단계 520에서, 전자 장치(1000)는 사용자로부터 입력된 정보에 기초하여, 의도에 대응하여 결정될 수 있는 동작의 후보 개수에 대한 변화량을 측정할 수 있다. 또한, 단계 530에서, 전자 장치(1000)는 단계 520에서 결정한 변화량에 기초하여, 피드백 정보를 생성하고, 단계 540에서, 생성된 피드백 정보를 사용자에게 제공할 수 있다.
일 실시 예에 의하면, 사용자로부터 입력된 정보에 기초하여, 사용자의 의도와 대응되는 동작의 구체적인 내용이 결정될 수 있다. 동작의 구체적인 내용이 결정됨에 의하여, 사용자의 의도에 대응하는 적어도 하나의 동작 후보가 결정될 수 있다.
전자 장치(1000)는 적어도 하나의 동작 후보 중 전자 장치(1000)에서 수행될 동작을 결정할 수 있다. 예를 들면, 적어도 하나의 동작 후보 중 사용자의 명령 이력이나 사용자의 선호도 정보 등의 사용자에 관한 정보에 기초하여, 전자 장치(1000)에서 수행될 동작이 결정될 수 있다. 또 다른 예로, 사용자의 입력에 따라, 적어도 하나의 동작 후보 중 전자 장치(1000)에서 수행될 동작이 결정될 수 있다. 상술한 예에 한하지 않고, 다양한 방법에 따라, 적어도 하나의 동작 후보 중 전자 장치(1000)에서 수행될 동작이 결정될 수 있다.
동작 후보의 개수가 적어질수록, 사용자가 의도하는 동작으로 결정될 확률이 높아질 수 있다. 따라서, 일 실시예에 의한 전자 장치(1000)는, 결정될 수 있는 동작 후보의 개수가 적어지도록 사용자의 입력에 대해 가이드할 수 있다. 예를 들면, 전자 장치(1000)는, 피드백 정보를 사용자에게 제공함으로써, 결정될 수 있는 동작 후보의 개수가 적어지도록 사용자의 입력에 대해 가이드할 수 있다.
일 실시 예에 있어서, 의도에 대응하여 결정될 수 있는 동작의 후보 개수에 대한 변화량은, 현재 단위시간 동안 사용자로부터 제공된 정보들이 동작의 구체적인 내용을 결정하기에 적절한 정도인지를 나타낼 수 있다. 예를 들어, 단위시간 동안 제공된 정보들이 동작의 구체적인 내용을 결정하기에 적절한 정보들이 제공되고 있는 경우, 의도에 대응하여 결정될 수 있는 동작의 후보 개수는 상대적으로 빠르게 줄어들 수 있으므로, 상기 변화량은 큰 값으로 측정될 수 있다. 반면, 단위시간 동안 제공된 정보들이 동작의 구체적인 내용을 결정하기에 부족하거나 도움이 되지 않는 정보들이 제공되고 있는 경우, 의도에 대응하여 결정될 수 있는 동작의 후보 개수는 상대적으로 느리게 줄어들 수 있으므로, 상기 변화량은 작은 값으로 측정될 수 있다.
따라서, 일 실시 예에 의한 전자 장치(1000)는, 의도에 대응하여 결정될 수 있는 동작의 후보 개수에 대한 변화량에 기초하여, 사용자에게 피드백 정보를 제공하여, 사용자가 동작의 구체적인 내용을 결정하기 위한 적절한 정보를 제공할 수 있도록 피드백 정보(120)를 통해 사용자를 가이드할 수 있다.
도 6은 일 실시 예에 의한 사용자의 입력에 대한 피드백 정보를 제공하는 일 예를 나타내는 도면이다.
도 6을 참조하면, 사용자(110)는 대화형 인터페이스를 통하여, 도 6에 도시된 610, 640, 660, 및 680의 입력을 전자 장치(1000)에 전달할 수 있다.
도 2에 도시된 예와 달리, 도 6에 도시된 예에 의하면, 의도와 대응되는 동작을 결정하기 위한 정보의 특성에 관한 정보를 포함한 슬롯 정보를 이용하여, 의도에 대응하여 결정될 수 있는 동작의 후보 개수에 대한 변화량을 측정할 수 있다.
전자 장치(1000)는 사용자(110)로부터 수신한 610, 640, 660 및 680의 입력에 기초하여, 사용자의 의도를 결정하고, 결정된 의도에 대응하는 동작을 수행할 수 있다. 또한, 전자 장치(1000)는 현재 수신된 사용자의 입력에 기초하여 결정될 수 있는 동작의 후보 개수에 대한 변화량을 포함하는 피드백 정보를 사용자에게 제공하여, 사용자가 적절한 정보를 전자 장치(1000)에 제공할 수 있도록 가이드할 수 있다.
전자 장치(1000)는 사용자(110)로부터 610의 입력을 수신하면, 사용자의 입력이 수신됨을 감지하고, 사용자의 추가 입력을 대기함을 나타내는 피드백 정보로서, 주황색 불빛(620)을 출력할 수 있다.
전자 장치(1000)는, 사용자(110)로부터 수신된 610의 입력에 따라 사용자의 의도를 결정하고, 의도에 대응되는 동작을 결정하기 위한 정보도 함께 획득할 수 있다. 예를 들면, 전자 장치(1000)는 사용자의 의도로, "소고기 구매"를 결정할 수 있다.
일 실시 예에 따라, 사용자의 의도를 결정하기 위한 정보를 제1 정보로 지칭하면, 상기 제1 정보는, 사용자에 의해 입력된 정보, 사용자의 주변 환경 정보 등 사용자에 관한 다양한 정보에 기초하여 획득될 수 있다.
사용자의 의도는, 실시간으로 획득될 수 있는 제1 정보에 따라, 서로 다른 시점(time point)에서 새롭게 결정되거나, 복수 개의 의도가 함께 결정될 수 있다. 예를 들면, 시간 흐름에 따라 새롭게 획득된 제1 정보에 따라서, 이전에 결정된 의도와 다른 새로운 의도가 결정될 수 있고, 전자 장치(1000)는, 새롭게 결정된 의도에 따라 동작을 결정할 수 있다. 또한, 전자 장치(1000)는 결정된 사용자의 적어도 하나의 의도에 따라서, 각각의 의도에 대응되는 적어도 하나의 동작을 결정할 수 있다.
일 실시 예에 의한 전자 장치(1000)는, 결정된 의도와 대응되는 슬롯 정보를 결정할 수 있다. 슬롯 정보는, 의도에 대응하는 동작을 결정하기 위한 정보의 특성에 관한 정보를 포함할 수 있다. 예를 들면, 슬롯 정보는, 도 6에 도시된 것과 같이 (고기분류, 고기종류, 무게, 제조회사, 가격, 원산지)의 형태로 구성될 수 있으며, 각 슬롯에 포함된 정보들인, 고기분류, 고기종류, 무게, 제조회사, 가격, 원산지는, 동작을 결정하기 위한 정보들의 특성을 나타낼 수 있다.
일 실시 예에 의한 슬롯 정보는, 각각 적어도 하나의 의도와 대응되어, 메모리(1700)에 미리 저장된 것일 수 있다. 또한, 슬롯 정보는, 사용자의 명령 이력에 기초하여 학습된 정보에 기초하여, 실시간으로 갱신될 수 있다. 예를 들면, 슬롯 정보는, 일 실시 예에 따라 의도와 대응되는 동작을 결정하기에 가장 적합하도록 각 사용자에 맞게 학습된 정보에 기초하여, 실시간으로 갱신될 수 있다.
전자 장치(1000)는 의도에 대응되는 동작을 결정하기 위한 제2 정보로, "소고기", "300g", 및 "미역국"을 획득할 수 있다. 상기 제2 정보는, 사용자로부터 입력된 정보로부터 획득된 키워드 정보를 지칭할 수 있다.
일 실시 예에 의한 전자 장치(1000)는 슬롯 정보에 기초하여, 제2 정보로부터 제3 정보를 획득할 수 있다. 상기 제3 정보는, 의도에 대응되는 동작을 결정하기 위한 정보로서, 슬롯 정보에 기초하여 제2 정보로부터 획득된 정보를 지칭할 수 있다. 예를 들면, 제2 정보인 "소고기", "300g", 및 "미역국"를 슬롯 정보인, (고기분류, 고기종류, 무게, 제조회사, 가격, 원산지)에 적용시킴으로써, (소고기, 국물용, 300g, _, _, _)의 형태의 제3 정보가 획득될 수 있다.
일 실시 예에 의하면, 전자 장치(1000)는, 획득된 제3 정보를 이용하여 데이터베이스를 검색함으로써, 상기 제3 정보와 대응되는 적어도 하나의 동작을 동작 후보로서 획득할 수 있다.
전자 장치(1000)는 사용자로부터 입력되는 제2 정보를 계속 수집하여, 제3 정보의 "_"로 표시된 빈 슬롯을 채워갈 수 있다. 슬롯이 채워질수록 의도와 대응되어 결정될 수 있는 동작 후보의 개수는 줄어들 수 있다. 예를 들면, 슬롯이 채워질수록 데이터베이스에서 검색할 때의 조건이 추가되므로, 결정될 수 있는 동작 후보의 개수는 줄어들 수 있다.
빈 슬롯을 채울 정보들이 서로 모순되는 정보인 경우, 전자 장치(1000)는 제3 정보에 따라 결정될 수 있는 동작의 정확도 값이 이상적인 값에서 벗어나는지 여부, 사용자의 명령 이력, 선호도 정보 등 사용자에 관한 다양한 정보에 기초하여, 빈 슬롯을 채울 정보를 결정할 수 있다.
예를 들어, "소고기"와 모순되는 정보인 "양고기" 정보가 함께 제2 정보로 수집된 경우, "소고기" 및 "양고기"는 슬롯 정보에서 같은 카테고리인 "고기 분류"에 해당되므로, 전자 장치(1000)는 둘 중 하나를 선택하여야 한다. 일 실시 예에 의한 전자 장치(1000)는, "소고기" 대신 "양고기"를 제3 정보의 슬롯에 넣어 데이터 베이스에서 검색하는 경우, 국물용으로 "양고기"를 주문할 수 있는 경우가 거의 존재하지 않는다면, 데이터 베이스에서 검색 가능한 동작 후보의 개수가 급감할 수 있다. 또한, 전자 장치(1000)는 사용자의 구매 이력, 선호도 정보 등 사용자에 관한 다양한 정보에 기초하여 판단하면, 사용자가 국물용으로 양고기를 요리할 가능성이 희박하다고 판단할 수 있다.
따라서, 전자 장치(1000)는 "양고기"는 사용자의 의도에 맞지 않는 부적절한 정보인 것으로 판단하고, "양고기" 대신 "소고기"를 제3 정보의 슬롯에 넣을 수 있다. 상술한 예에 한하지 않고, 전자 장치(1000)는 제2 정보 중 제3 정보의 슬롯에 넣을 정보를 다양한 방법에 따라 결정하여, 제3 정보를 획득할 수 있다.
또한, 전자 장치(1000)는, 610 입력에서 획득된 정보에서, 동작의 구체적인 내용을 결정할 수 있는 유의미한 정보를 획득함에 따라, 피드백 정보로서, 녹색 불빛(630)을 출력할 수 있다. 녹색 불빛(630)은 사용자(110)로부터 현재 수신된 입력(213)이 동작의 구체적인 내용을 결정하기에 적절한 정보를 포함함을 나타낼 수 있다.
전자 장치(1000)는, 사용자(110)로부터 610 입력에 이어 640 입력을 추가로 수신할 수 있다. 640 입력으로부터 전자 장치(1000)는, 제2 정보로, "국물용", "1인분"을 획득할 수 있다. 예를 들면, 제2 정보인 "국물용", 및 "1인분"을 슬롯 정보인, (고기분류, 고기종류, 무게, 제조회사, 가격, 원산지)에 적용시킴으로써, (소고기, 국물용, 300g, _, _, _)의 형태의 제3 정보가 획득될 수 있다. 그러나, 640 입력으로부터 획득된 제3 정보는, 이전에 획득된 제3 정보와 동일하여, 동작의 구체적인 내용을 결정할 수 있는 유의미한 정보를 제공하지 않는다. 따라서, 전자 장치(1000)에 의해 결정될 수 있는 동작의 후보 개수에 대한 변화량은 낮아짐에 따라, 현재 입력된 정보가 동작의 구체적인 내용을 결정하기에 도움이 되지 않은 정보를 포함함을 나타내는 피드백 정보로서, 빨간색 불빛(650)을 출력할 수 있다.
사용자(110)는, 전자 장치(1000)의 피드백 정보인 빨간색 불빛(650)을 통해, 동작의 구체적인 내용을 결정할 수 있는 유의미한 정보를 전자 장치(1000)에 제공해야 함을 인지하여, 660 입력과 같은 반응을 할 수 있다.
전자 장치(1000)는, 상기 변화량이 기준값 이하인 상태가 일정 시간 이상 지속됨에 따라, 동작의 구체적인 내용을 결정할 수 있는 유의미한 추가 정보를 얻기 위해 사용자에게 직접 질의(670)할 수 있다. 예를 들면, 전자 장치(1000)는, 결정될 수 있는 동작의 후보 개수를 줄일 수 있는 정보로서, 주문하고자 하는 소고기의 가격대를 사용자에게 직접 질의할 수 있다.
전자 장치(1000)는 질의(670)에 대한 응답(680)으로부터 동작의 구체적인 내용을 결정할 수 있는 유의미한 추가 정보인 "1만5천원", "국산"을 획득할 수 있다.
일 실시 예에 따라, 전자 장치(1000)는, 사용자의 응답(680)으로부터 제2 정보로서 "1만5천원", "국산" 정보를 획득할 수 있고, 제2 정보로부터 제3 정보 (소소기, 국물용, 300g, _, 15000원 내외, 국산)를 획득할 수 있다.
전자 장치(1000)는, 제3 정보에 기초하여, 사용자 의도에 대응하여 결정될 수 있는 동작의 정확도가 기준값 이상인 경우, 제3 정보에 기초하여, 사용자 의도에 대응한 동작을 결정할 수 있다.
사용자 의도에 대응하여 결정될 수 있는 동작의 정확도는, 제3 정보에 기초하여 결정될 수 있는 동작의 후보 개수에 따라 실시간으로 결정될 수 있다. 예를 들어, 동작의 후보 개수가 적은 경우, 사용자 의도에 맞는 동작이 결정될 가능성이 높으므로, 상기 정확도는 높은 값으로 결정될 수 있다. 반면, 동작의 후보 개수가 많은 경우, 사용자 의도에 맞는 동작이 결정될 가능성이 낮으므로, 상기 정확도는 낮은 값으로 결정될 수 있다.
또한, 사용자 의도에 대응하여 결정될 수 있는 동작의 정확도는, 상기 동작의 후보 개수뿐만 아니라, 제3 정보에서 결정되지 않은 "_"로 표시된 정보가 어떤 특성의 정보인지에 따라 결정될 수 있다. 예를 들면, "_"로 표시된 정보가 사용자의 명령 이력이나 사용자의 선호도 정보 등의 사용자에 관한 다양한 정보에 기초하여, 높은 확률로 사용자의 의도에 맞게 자동으로 결정될 수 있는 특성의 정보인 경우, 상기 동작의 정확도는 높은 값으로 결정될 수 있다. 예를 들면, 사용자가 가격 상관없이 "돼지고기"는 매번 국산만 주문하여 온 경우, 사용자로부터 "돼지고기" 주문을 위한 원산지 정보를 입력받지 않은 경우에도, 전자 장치(1000)는, 제3 정보에서 원산지 정보가 없더라도, 높은 정확도로 원산지 정보를 "국산"으로 결정할 수 있다.
일 실시 예에 의하면, 전자 장치(1000)는 상기 동작의 정확도가 기준값을 넘는 경우 적어도 하나의 동작 후보 중 전자 장치(1000)에서 수행될 동작을 결정할 수 있다. 예를 들면, 전자 장치(1000)는 사용자의 명령 이력이나 사용자의 선호도 정보 등의 사용자에 관한 다양한 정보에 기초하여, 동작의 구체적인 내용 중 결정되지 않은 내용을 자동으로 결정할 수 있다. 일 예로, 사용자가 돼지고기는 같은 가격인 경우 포인트 적립율이 더 높은 A 마트에서 주문하는 것을 더 선호하는 경우, 사용자가 구매처에 관하여 입력된 정보가 없다면, 전자 장치(1000)는 돼지 고기를 A 마트에서 주문하는 동작으로 결정할 수 있다. 원산지 정보 자동으로 결정된 동작의 구체적인 내용에 따라 적어도 하나의 동작 후보 중 전자 장치(1000)에서 수행될 동작이 결정될 수 있다. 또 다른 예로, 사용자의 입력에 따라, 적어도 하나의 동작 후보 중 전자 장치(1000)에서 수행될 동작이 결정될 수 있다. 상술한 예에 한하지 않고, 다양한 방법에 따라, 적어도 하나의 동작 후보 중 전자 장치(1000)에서 수행될 동작이 결정될 수 있다.
예를 들면, 전자 장치(1000)는, 제3 정보에서 결정되지 않은 "_"로 표시된 정보는, 사용자에 관한 다양한 정보에 기초하여 자동으로 결정함으로써, 사용자로부터 현재 수집된 정보에 따라 결정된 "돼지고기 항정살 볶음밥용 1인분 포장된 것으로, A 가격으로 구매할 수 있는, B 마켓에서 온라인 주문하는 동작"(690)을 최종 수행될 동작으로 결정할 수 있다. 일 실시 예에 의하면, 전자 장치(1000)는 최종 수행될 동작의 구체적인 내용(690)을 사용자에게 제공하고, 사용자로부터 690의 동작을 수행할 것을 최종적으로 확인 받음에 따라 690의 동작을 수행한 후 그 결과를 사용자에게 제공할 수 있다.
도 7은 일 실시 예에 의한 사용자 의도에 대응하여 결정될 수 있는 동작의 정확도의 일 예를 도시한 그래프이다.
도 7을 참조하면, 시간 흐름에 따라 사용자에 의해 전자 장치(1000)로 입력되는 정보에 따라, 결정될 수 있는 동작의 정확도 값은 도 7에 도시된 것과 같이 변화될 수 있다. 사용자 의도에 대응하여 결정될 수 있는 동작의 정확도는 사용자로부터 수신된 입력에 기초하여 결정될 수 있는 동작의 후보 개수에 따라 실시간으로 결정될 수 있다.
전자 장치(1000)는 사용자로부터 1차 발화(710)를 수신하면, 전자 장치(1000)는 사용자의 발화를 인식(111)하여, 사용자의 의도를 결정하고, 사용자의 의도와 대응되는 동작을 결정하기 위한 프로세스를 수행할 수 있다.
일 실시 예의 사용자의 발화는, 음성 입력을 의미하나 이에 한하지 않고, 대화형 인터페이스를 통한 텍스트 입력 등 다양한 종류의 입력을 포함할 수 있다.
도시된 예에서, 동작의 후보 개수와 동작의 정확도는 서로 반비례하나, 동작의 후보 개수에 대한 변화량의 절대값과 동작의 정확도에 대한 변화량의 절대값은 비례하므로, 동작의 후보 개수에 대한 변화량이 클수록 그래프의 기울기가 커질 수 있다. 반면, 동작의 후보 개수에 대한 변화량이 작을 수록 그래프의 기울기가 완만해질 수 있다.
1차 발화(710)에서, 전자 장치(1000)는 사용자로부터 동작의 구체적인 내용을 결정할 수 있는 유의미한 정보를 수신함에 따라, 수신 중인 정보량이 적절(712)함을 판단하고, 이를 나타내는 피드백 정보를 사용자에게 제공할 수 있다. 일 실시 예에 의하면, 전자 장치(1000)는 소정 시간 구간에서 수신된 정보에 기초하여, 결정될 수 있는 동작의 후보 개수에 대한 변화량에 따라, 사용자로부터 수신되는 정보량이 적절한지 여부를 판단할 수 있다.
예를 들어, 소정 시간 구간에서 수신된 정보에 기초하여, 결정될 수 있는 동작의 후보 개수에 대한 변화량이 기준값 이상인 경우, 현재 수신되고 있는 정보량이 적절함을 나타내는 피드백 정보를 사용자에게 제공할 수 있다. 또한, 전자 장치(1000)는, 소정 시간 구간에서 수신된 정보에 기초하여, 결정될 수 있는 동작의 후보 개수에 대한 변화량이 기준값 이상인 경우, 전자 장치(1000)가 상기 사용자로부터 상기 의도에 대응하는 동작을 결정하기 위한 추가적인 정보를 입력받기 위한, 대기 상태를 일정 시간 구간 동안 유지할 수 있다. 또한, 전자 장치(1000)는, 추가적인 정보를 입력받기 위한 대기 상태임을 나타내는 피드백 정보를 일정 시간 구간 동안 사용자에게 제공할 수 있다.
또한, 일 실시 예에 의하면, 전자 장치(1000)는, 사용자에 의해 발화된 정보가 오인식됨에 따라 데이터 베이스에서 검색 가능하지 않는 경우, 이를 나타내는 피드백 정보를 사용자에게 제공할 수 있다.
일 예로, 사용자의 의도가 "통화 연결"인 경우, 전자 장치(1000)는 의도와 대응되는 슬롯 정보로, (통화 연결할 사람)을 획득할 수 있다. 전자 장치(1000)가 사용자의 발화를 통해 통화 연결 "자래과", "A(사람이름)"를 데이터베이스에서 검색할 수 있으나, "자래과"가 "자재과"의 오인식된 키워드임에 따라 검색할 수 없는 경우, 전자 장치(1000)는 사용자에게 입력된 정보인 "자래과"가 검색할 수 없는 정보임을 나타내는 피드백 정보를 제공할 수 있다. 다만, 전자 장치(1000)가 "A"를 데이터 베이스에서 고유하게 검색할 수 있는 경우, "A"가 "자재과"의 "A"인지 여부를 사용자에게 질의함으로써, 수행될 동작을 최종 결정할 수 있다.
소정 시간이 경과함에 따라, 전자 장치(1000)는 그래프에 도시된 것과 같이, 사용자로부터 동작의 구체적인 내용을 결정하는데 도움이 되지 않는 정보를 지속적으로 수신함에 따라, 동작의 후보 개수에 대한 변화량이 기준값 이하인 것으로 판단하고, 수신 중인 정보량이 부족(713)함을 판단할 수 있다. 전자 장치(1000)는, 동작의 후보 개수에 대한 변화량이 기준값 이하인 상태이면, 사용자의 발화가 종료된 것으로 판단할 수 있다. 예를 들어, 전자 장치(1000)는 사용자가 할말이 없거나 무슨 말을 해야할지 몰라서, 직전에 얘기했던 것들을 반복하여 발화하는 경우를 인지하여, 정보량이 부족한 상태가 지속되는 경우, 사용자의 발화가 종료된 것으로 판단하고, 전자 장치(1000)는 동작을 결정하기 위한 추가 정보를 얻기 위해 사용자에게 직접 질의할 수 있다.
예를 들면, 전자 장치(1000)는 동작의 후보 개수에 대한 변화량이 기준값 이하이면, 정보량이 부족(713)한 상태이며, 사용자의 발화가 끝난 상태인 것으로 판단할 수 있다. 전자 장치(1000)는, 현재 사용자로부터 수신 중인 정보량이 부족하므로, 상기 의도에 대응하는 동작을 결정하기 위한 추가적인 정보를 상기 사용자에게 요청함을 나타내는 피드백 정보를 일정 시간 구간 동안 사용자에게 제공할 수 있다.
또한, 전자 장치(1000)는, 변화량이 기준값 이하인 상태가 소정 시간 이상 지속됨에 따라서, 상기 의도에 대응하는 동작을 결정하기 위한 추가적인 정보를 사용자에게 요청하는 메시지를 출력(714)할 수 있다. 예를 들면, 전자 장치(1000)는 사용자로부터 동작의 후보 개수를 줄이는데 필요한 정보로, 슬롯 정보에서 채워지지 않은 정보를 얻기 위하여 직접 질의할 수 있다.
일 예로, 사용자의 의도가 "책상 수리 요청"인 경우, 전자 장치(1000)는 의도와 대응되는 슬롯 정보로, (요청 부서, 요청할 사람)을 획득할 수 있다. 전자 장치(1000)는, 요청 부서는, 사용자의 발화 내용 및 사용자의 소속 부서에 관한 정보에 기초하여, "자재과"인 것으로 자동으로 결정할 수 있다. 그러나, 전자 장치(1000)는 "요청할 사람"에 관한 정보가 획득되지 않은 경우, 데이터 베이스에서 검색된 정보에 기초하여, 전자 장치(1000)에서 책상 수리가 가능한 자재과의 사람 중에서 전화 연결이 가능한 사람의 이름인 "A, B, C" 중 누구에게 전화를 연결할지 여부를 사용자에게 직접 질의할 수 있다.
사용자는 전자 장치(1000)의 정보 요청(714)을 수신함에 응답하여 2차 발화(720)를 전자 장치(1000)에 입력할 수 있다.
2차 발화(720)에서, 전자 장치(1000)는 사용자로부터 동작의 구체적인 내용을 결정할 수 있는 유의미한 정보를 수신함에 따라, 수신 중인 정보량이 적절(722)함을 판단하고, 이를 나타내는 피드백 정보를 사용자에게 제공할 수 있다.
예를 들어, 소정 시간 구간에서 수신된 정보에 기초하여, 결정될 수 있는 동작의 후보 개수에 대한 변화량이 기준값 이상인 경우, 현재 수신되고 있는 정보량이 적절함을 나타내는 피드백 정보를 사용자에게 제공할 수 있다. 또한, 전자 장치(1000)는, 소정 시간 구간에서 수신된 정보에 기초하여, 결정될 수 있는 동작의 후보 개수에 대한 변화량이 기준값 이상인 경우, 전자 장치(1000)가 상기 사용자로부터 상기 의도에 대응하는 동작을 결정하기 위한 추가적인 정보를 입력받기 위한, 대기 상태를 일정 시간 구간 동안 유지할 수 있다. 또한, 전자 장치(1000)는, 추가적인 정보를 입력받기 위한 대기 상태임을 나타내는 피드백 정보를 일정 시간 구간 동안 사용자에게 제공할 수 있다.
사용자 의도에 대응하여 결정될 수 있는 동작의 정확도가 기준값(730) 이상이 되면, 현재 수집된 정보에 따라 사용자 의도에 맞는 동작이 결정될 가능성이 높은 것으로 판단될 수 있다. 따라서, 전자 장치(1000)는, 기준값(730)을 넘는 시점에서, 지금까지 수집한 정보에 기초하여, 사용자의 의도에 대응되는 동작을 결정(740)할 수 있다.
도 8은 일 실시 예에 따라 사용자의 입력에 대한 피드백 정보를 제공하는 전자 장치(1000)의 내부 구성을 나타내는 블록도이다.
전자 장치(1000)는, 일 실시 예에 따라 사용자의 입력에 대한 피드백 정보를 제공하는 방법을 수행하기 위한 구성으로, 질의 이해부(821), 응답후보 검색부(822), 정보 품질 판단부(824), 및 피드백 생성부(825)를 포함할 수 있다. 질의 이해부(821), 응답후보 검색부(822), 정보 품질 판단부(824), 및 피드백 생성부(825)를 포함하는 구성(820)의 동작은, 실시간으로 수행될 수 있다.
도 8을 참조하면, 전자 장치(1000)의 질의 이해부(821)는 사용자(810)로부터 입력된 정보로부터 텍스트를 획득하고, 텍스트로부터 사용자의 의도 및 제2 정보를 획득할 수 있다. 제2 정보는, 사용자의 의도와 대응되는 동작을 결정하는데 이용되는 정보를 지칭한다. 예를 들면, 제2 정보는, 텍스트에 포함된 적어도 하나의 키워드를 포함할 수 있다.
질의 이해부(821)에 의해 획득된 의도 및 제2 정보는, 응답 후보 검색부(822)로 전달될 수 있다. 응답 후보 검색부(822)는, 의도 및 제2 정보를 이용하여 데이터베이스(823)에서 검색을 수행함으로써, 슬롯 정보 및 제3 정보를 획득할 수 있다. 예를 들면, 응답 후보 검색부(822)는 의도를 이용하여 데이터베이스(823)에서 슬롯 정보를 획득할 수 있다. 또한, 응답 후보 검색부(822)는 슬롯 정보 및 제2 정보를 이용하여, 제3 정보를 획득할 수 있다. 예를 들면, 응답 후보 검색부(822)는 데이터베이스(823)에 저장된 정보를 이용하여, 제2 정보를 슬롯 정보에 적용시킴으로써, 제3 정보를 획득할 수 있다.
데이터 베이스(823)에는, 전자 장치(1000)가 수집된 정보에 따라 수행할 수 있는 동작에 관한 정보들이 저장될 수 있다. 예를 들면, 전자 장치(1000)에 의해 A 마트에서 실제로 주문할 수 있는 삼겹살의 그람 수 및 원산지 별로 구분된 주문 정보들이 데이터 베이스에 저장될 수 있다.
정보 품질 판단부(824)는 응답 후보 검색부(822)에 기초하여 획득된 제3 정보에 기초하여, 의도에 대응하여 결정될 수 있는 동작의 후보 개수의 시간에 따른 변화량을 측정할 수 있다.
피드백 생성부(825)는 정보 품질 판단부(824)에 의해 결정된 동작의 후보 개수의 변화량에 기초하여 피드백 정보를 생성할 수 있다. 예를 들면, 동작의 후보 개수의 변화량이 기준값 이상인 경우, 피드백 생성부(825)는 전자 장치(1000)가 사용자로부터 상기 의도에 대응하는 동작을 결정하기 위한 추가적인 정보를 입력받기 위한, 대기 상태임을 나타내는 피드백 정보를 생성할 수 있다. 또한, 동작의 후보 개수의 변화량이 기준값 이하인 경우, 피드백 생성부(825)는 전자 장치(1000)가 의도에 대응하는 동작을 결정하기 위한 추가적인 정보를 사용자에게 요청함을 나타내는 피드백 정보를 생성할 수 있다.
도 9는 일부 실시예에 따른 프로세서(1300)의 블록도이다.
도 9를 참조하면, 일부 실시예에 따른 프로세서(1300)는 데이터 학습부(1310) 및 데이터 인식부(1320)를 포함할 수 있다.
데이터 학습부(1310)는 상황 판단을 위한 기준을 학습할 수 있다. 데이터 학습부(1310)는 소정의 상황을 판단하기 위하여 어떤 데이터를 이용할 지, 데이터를 이용하여 상황을 어떻게 판단할 지에 관한 기준을 학습할 수 있다. 데이터 학습부(1310)는 학습에 이용될 데이터를 획득하고, 획득된 데이터를 후술할 데이터 인식 모델에 적용함으로써, 상황 판단을 위한 기준을 학습할 수 있다.
일 실시 예에 의하면, 데이터 학습부(1310)는 사용자로부터 입력된 정보에 기초하여, 사용자의 의도에 대응하여 결정될 수 있는 동작의 후보 개수에 대한 변화량을 측정하고, 피드백 정보를 생성하는데 필요한 정보를 학습할 수 있다. 데이터 학습부(1310)는, 학습 결과, 사용자로부터 입력된 정보를 입력 값으로 하여, 상기 변화량을 측정하는데 필요한 학습 모델을 생성할 수 있다.
데이터 인식부(1320)는 데이터에 기초한 상황을 판단할 수 있다. 데이터 인식부(1320)는 학습된 데이터 인식 모델을 이용하여, 소정의 데이터로부터 상황을 인식할 수 있다. 데이터 인식부(1320)는 학습에 의한 기 설정된 기준에 따라 소정의 데이터를 획득하고, 획득된 데이터를 입력 값으로 하여 데이터 인식 모델을 이용함으로써, 소정의 데이터에 기초한 소정의 상황을 판단할 수 있다. 또한, 획득된 데이터를 입력 값으로 하여 데이터 인식 모델에 의해 출력된 결과 값은, 데이터 인식 모델을 갱신하는데 이용될 수 있다.
일 실시 예에 의하면, 데이터 인식부(1320)는 데이터 학습부(1310)에 의해 학습된 학습 모델을 이용하여, 사용자의 의도에 대응하여 결정될 수 있는 동작의 후보 개수에 대한 변화량을 측정하고, 피드백 정보를 생성할 수 있다.
데이터 학습부(1310) 및 데이터 인식부(1320) 중 적어도 하나는, 적어도 하나의 하드웨어 칩 형태로 제작되어 전자 장치에 탑재될 수 있다. 예를 들어, 데이터 학습부(1310) 및 데이터 인식부(1320) 중 적어도 하나는 인공 지능(AI; artificial intelligence)을 위한 전용 하드웨어 칩 형태로 제작될 수도 있고, 또는 기존의 범용 프로세서(예: CPU 또는 application processor) 또는 그래픽 전용 프로세서(예: GPU)의 일부로 제작되어 전술한 각종 전자 장치에 탑재될 수도 있다.
이 경우, 데이터 학습부(1310) 및 데이터 인식부(1320)는 하나의 전자 장치에 탑재될 수도 있으며, 또는 별개의 전자 장치들에 각각 탑재될 수도 있다. 예를 들어, 데이터 학습부(1310) 및 데이터 인식부(1320) 중 하나는 전자 장치에 포함되고, 나머지 하나는 서버에 포함될 수 있다. 또한, 데이터 학습부(1310) 및 데이터 인식부(1320)는 유선 또는 무선으로 통하여, 데이터 학습부(1310)가 구축한 모델 정보를 데이터 인식부(1320)로 제공할 수도 있고, 데이터 인식부(1320)로 입력된 데이터가 추가 학습 데이터로서 데이터 학습부(1310)로 제공될 수도 있다.
한편, 데이터 학습부(1310) 및 데이터 인식부(1320) 중 적어도 하나는 소프트웨어 모듈로 구현될 수 있다. 데이터 학습부(1310) 및 데이터 인식부(1320) 중 적어도 하나가 소프트웨어 모듈(또는, 인스터력션(instruction) 포함하는 프로그램 모듈)로 구현되는 경우, 소프트웨어 모듈은 컴퓨터로 읽을 수 있는 판독 가능한 비일시적 판독 가능 기록매체(non-transitory computer readable media)에 저장될 수 있다. 또한, 이 경우, 적어도 하나의 소프트웨어 모듈은 OS(Operating System)에 의해 제공되거나, 소정의 애플리케이션에 의해 제공될 수 있다. 또는, 적어도 하나의 소프트웨어 모듈 중 일부는 OS(Operating System)에 의해 제공되고, 나머지 일부는 소정의 애플리케이션에 의해 제공될 수 있다.
도 10은 일부 실시예에 따른 데이터 학습부(1310)의 블록도이다.
도 10을 참조하면, 일부 실시예에 따른 데이터 학습부(1310)는 데이터 획득부(1310-1), 전처리부(1310-2), 학습 데이터 선택부(1310-3), 모델 학습부(1310-4) 및 모델 평가부(1310-5)를 포함할 수 있다.
데이터 획득부(1310-1)는 상황 판단에 필요한 데이터를 획득할 수 있다. 데이터 획득부(1310-1)는 상황 판단을 위한 학습을 위하여 필요한 데이터를 획득할 수 있다.
데이터 획득부(1310-1)는 일 실시 예에 의한 피드백 정보를 생성하기 위하여, 사용자에 의해 입력된 다양한 종류 및 내용의 정보를 획득할 수 있다.
전처리부(1310-2)는 상황 판단을 위한 학습에 획득된 데이터가 이용될 수 있도록, 획득된 데이터를 전처리할 수 있다. 전처리부(1310-2)는 후술할 모델 학습부(1310-4)가 상황 판단을 위한 학습을 위하여 획득된 데이터를 이용할 수 있도록, 획득된 데이터를 기 설정된 포맷으로 가공할 수 있다.
예를 들어, 전처리부(1310-2)는, 사용자로부터 입력된 정보에서 키워드를 추출할 수 있다.
학습 데이터 선택부(1310-3)는 전처리된 데이터 중에서 학습에 필요한 데이터를 선택할 수 있다. 선택된 데이터는 모델 학습부(1310-4)에 제공될 수 있다. 학습 데이터 선택부(1310-3)는 상황 판단을 위한 기 설정된 기준에 따라, 전처리된 데이터 중에서 학습에 필요한 데이터를 선택할 수 있다. 또한, 학습 데이터 선택부(1310-3)는 후술할 모델 학습부(1310-4)에 의한 학습에 의해 기 설정된 기준에 따라 데이터를 선택할 수도 있다.
모델 학습부(1310-4)는 학습 데이터에 기초하여 상황을 어떻게 판단할 지에 관한 기준을 학습할 수 있다. 또한, 모델 학습부(1310-4)는 상황 판단을 위하여 어떤 학습 데이터를 이용해야 하는 지에 대한 기준을 학습할 수도 있다.
일 실시 예에 의하면, 모델 학습부(1310-4)는 사용자로부터 입력된 다양한 종류 및 내용의 정보로부터 피드백 정보를 생성하기 위한 학습 모델을 생성할 수 있다.
또한, 모델 학습부(1310-4)는 상황 판단에 이용되는 데이터 인식 모델을 학습 데이터를 이용하여 학습시킬 수 있다. 이 경우, 데이터 인식 모델은 미리 구축된 모델일 수 있다. 예를 들어, 데이터 인식 모델은 기본 학습 데이터(예를 들어, 샘플 이미지 등)을 입력 받아 미리 구축된 모델일 수 있다.
데이터 인식 모델은, 인식 모델의 적용 분야, 학습의 목적 또는 장치의 컴퓨터 성능 등을 고려하여 구축될 수 있다. 데이터 인식 모델은, 예를 들어, 신경망(Neural Network)을 기반으로 하는 모델일 수 있다. 예컨대, DNN(Deep Neural Network), RNN(Recurrent Neural Network), BRDNN(Bidirectional Recurrent Deep Neural Network)과 같은 모델이 데이터 인식 모델로서 사용될 수 있으나, 이에 한정되지 않는다.
데이터 인식 모델은, 일 실시 예에 따라서, 다양한 종류 및 내용의 사용자 입력 정보로부터 사용자의 의도에 대응하여 결정될 수 있는 동작의 후보 개수에 대한 변화량을 측정하고, 측정된 변화량에 기초하여 피드백 정보를 생성할 수 있다.
다양한 실시예에 따르면, 모델 학습부(1310-4)는 미리 구축된 데이터 인식 모델이 복수 개가 존재하는 경우, 입력된 학습 데이터와 기본 학습 데이터의 관련성이 큰 데이터 인식 모델을 학습할 데이터 인식 모델로 결정할 수 있다. 이 경우, 기본 학습 데이터는 데이터의 타입 별로 기 분류되어 있을 수 있으며, 데이터 인식 모델은 데이터의 타입 별로 미리 구축되어 있을 수 있다. 예를 들어, 기본 학습 데이터는 학습 데이터가 생성된 지역, 학습 데이터가 생성된 시간, 학습 데이터의 크기, 학습 데이터의 장르, 학습 데이터의 생성자, 학습 데이터 내의 오브젝트의 종류 등과 같은 다양한 기준으로 기 분류되어 있을 수 있다.
또한, 모델 학습부(1310-4)는, 예를 들어, 오류 역전파법(error back-propagation) 또는 경사 하강법(gradient descent)을 포함하는 학습 알고리즘 등을 이용하여 데이터 인식 모델을 학습시킬 수 있다.
또한, 모델 학습부(1310-4)는, 예를 들어, 학습 데이터를 입력 값으로 하는 지도 학습(supervised learning) 을 통하여, 데이터 인식 모델을 학습시킬 수 있다. 또한, 모델 학습부(1310-4)는, 예를 들어, 별다른 지도없이 상황 판단을 위해 필요한 데이터의 종류를 스스로 학습함으로써, 상황 판단을 위한 기준을 발견하는 비지도 학습(unsupervised learning)을 통하여, 데이터 인식 모델을 학습시킬 수 있다. 또한, 모델 학습부(1310-4)는, 예를 들어, 학습에 따른 상황 판단의 결과가 올바른 지에 대한 피드백을 이용하는 강화 학습(reinforcement learning)을 통하여, 데이터 인식 모델을 학습시킬 수 있다.
또한, 데이터 인식 모델이 학습되면, 모델 학습부(1310-4)는 학습된 데이터 인식 모델을 저장할 수 있다. 이 경우, 모델 학습부(1310-4)는 학습된 데이터 인식 모델을 데이터 인식부(1320)를 포함하는 전자 장치의 메모리에 저장할 수 있다. 또는, 모델 학습부(1310-4)는 학습된 데이터 인식 모델을 후술할 데이터 인식부(1320)를 포함하는 전자 장치의 메모리에 저장할 수 있다. 또는, 모델 학습부(1310-4)는 학습된 데이터 인식 모델을 전자 장치와 유선 또는 무선 네트워크로 연결되는 서버의 메모리에 저장할 수도 있다.
이 경우, 학습된 데이터 인식 모델이 저장되는 메모리는, 예를 들면, 전자 장치의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 함께 저장할 수도 있다. 또한, 메모리는 소프트웨어 및/또는 프로그램을 저장할 수도 있다. 프로그램은, 예를 들면, 커널, 미들웨어, 어플리케이션 프로그래밍 인터페이스(API) 및/또는 어플리케이션 프로그램(또는 "어플리케이션") 등을 포함할 수 있다.
모델 평가부(1310-5)는 데이터 인식 모델에 평가 데이터를 입력하고, 평가 데이터로부터 출력되는 인식 결과가 소정 기준을 만족하지 못하는 경우, 모델 학습부(1310-4)로 하여금 다시 학습하도록 할 수 있다. 이 경우, 평가 데이터는 데이터 인식 모델을 평가하기 위한 기 설정된 데이터일 수 있다.
예를 들어, 모델 평가부(1310-5)는 평가 데이터에 대한 학습된 데이터 인식 모델의 인식 결과 중에서, 인식 결과가 정확하지 않은 평가 데이터의 개수 또는 비율이 미리 설정된 임계치를 초과하는 경우 소정 기준을 만족하지 못한 것으로 평가할 수 있다. 예컨대, 소정 기준이 비율 2%로 정의되는 경우, 학습된 데이터 인식 모델이 총 1000개의 평가 데이터 중의 20개를 초과하는 평가 데이터에 대하여 잘못된 인식 결과를 출력하는 경우, 모델 평가부(1310-5)는 학습된 데이터 인식 모델이 적합하지 않은 것으로 평가할 수 있다.
한편, 학습된 데이터 인식 모델이 복수 개가 존재하는 경우, 모델 평가부(1310-5)는 각각의 학습된 동영상 인식 모델에 대하여 소정 기준을 만족하는지를 평가하고, 소정 기준을 만족하는 모델을 최종 데이터 인식 모델로서 결정할 수 있다. 이 경우, 소정 기준을 만족하는 모델이 복수 개인 경우, 모델 평가부(1310-5)는 평가 점수가 높은 순으로 미리 설정된 어느 하나 또는 소정 개수의 모델을 최종 데이터 인식 모델로서 결정할 수 있다.
한편, 데이터 학습부(1310) 내의 데이터 획득부(1310-1), 전처리부(1310-2), 학습 데이터 선택부(1310-3), 모델 학습부(1310-4) 및 모델 평가부(1310-5) 중 적어도 하나는, 적어도 하나의 하드웨어 칩 형태로 제작되어 전자 장치에 탑재될 수 있다. 예를 들어, 데이터 획득부(1310-1), 전처리부(1310-2), 학습 데이터 선택부(1310-3), 모델 학습부(1310-4) 및 모델 평가부(1310-5) 중 적어도 하나는 인공 지능(AI; artificial intelligence)을 위한 전용 하드웨어 칩 형태로 제작될 수도 있고, 또는 기존의 범용 프로세서(예: CPU 또는 application processor) 또는 그래픽 전용 프로세서(예: GPU)의 일부로 제작되어 전술한 각종 전자 장치에 탑재될 수도 있다.
또한, 데이터 획득부(1310-1), 전처리부(1310-2), 학습 데이터 선택부(1310-3), 모델 학습부(1310-4) 및 모델 평가부(1310-5)는 하나의 전자 장치에 탑재될 수도 있으며, 또는 별개의 전자 장치들에 각각 탑재될 수도 있다. 예를 들어, 데이터 획득부(1310-1), 전처리부(1310-2), 학습 데이터 선택부(1310-3), 모델 학습부(1310-4) 및 모델 평가부(1310-5) 중 일부는 전자 장치에 포함되고, 나머지 일부는 서버에 포함될 수 있다.
또한, 데이터 획득부(1310-1), 전처리부(1310-2), 학습 데이터 선택부(1310-3), 모델 학습부(1310-4) 및 모델 평가부(1310-5) 중 적어도 하나는 소프트웨어 모듈로 구현될 수 있다. 데이터 획득부(1310-1), 전처리부(1310-2), 학습 데이터 선택부(1310-3), 모델 학습부(1310-4) 및 모델 평가부(1310-5) 중 적어도 하나가 소프트웨어 모듈(또는, 인스터력션(instruction) 포함하는 프로그램 모듈)로 구현되는 경우, 소프트웨어 모듈은 컴퓨터로 읽을 수 있는 판독 가능한 비일시적 판독 가능 기록매체(non-transitory computer readable media)에 저장될 수 있다. 또한, 이 경우, 적어도 하나의 소프트웨어 모듈은 OS(Operating System)에 의해 제공되거나, 소정의 애플리케이션에 의해 제공될 수 있다. 또는, 적어도 하나의 소프트웨어 모듈 중 일부는 OS(Operating System)에 의해 제공되고, 나머지 일부는 소정의 애플리케이션에 의해 제공될 수 있다.
도 11은 일부 실시예에 따른 데이터 인식부(1320)의 블록도이다.
도 11을 참조하면, 일부 실시예에 따른 데이터 인식부(1320)는 데이터 획득부(1320-1), 전처리부(1320-2), 인식 데이터 선택부(1320-3), 인식 결과 제공부(1320-4) 및 모델 갱신부(1320-5)를 포함할 수 있다.
데이터 획득부(1320-1)는 상황 판단에 필요한 데이터를 획득할 수 있으며, 전처리부(1320-2)는 상황 판단을 위해 획득된 데이터가 이용될 수 있도록, 획득된 데이터를 전처리할 수 있다. 전처리부(1320-2)는 후술할 인식 결과 제공부(1320-4)가 상황 판단을 위하여 획득된 데이터를 이용할 수 있도록, 획득된 데이터를 기 설정된 포맷으로 가공할 수 있다.
인식 데이터 선택부(1320-3)는 전처리된 데이터 중에서 상황 판단에 필요한 데이터를 선택할 수 있다. 선택된 데이터는 인식 결과 제공부(1320-4)에게 제공될 수 있다. 인식 데이터 선택부(1320-3)는 상황 판단을 위한 기 설정된 기준에 따라, 전처리된 데이터 중에서 일부 또는 전부를 선택할 수 있다. 또한, 인식 데이터 선택부(1320-3)는 후술할 모델 학습부(1310-4)에 의한 학습에 의해 기 설정된 기준에 따라 데이터를 선택할 수도 있다.
인식 결과 제공부(1320-4)는 선택된 데이터를 데이터 인식 모델에 적용하여 상황을 판단할 수 있다. 인식 결과 제공부(1320-4)는 데이터의 인식 목적에 따른 인식 결과를 제공할 수 있다. 인식 결과 제공부(1320-4)는 인식 데이터 선택부(1320-3)에 의해 선택된 데이터를 입력 값으로 이용함으로써, 선택된 데이터를 데이터 인식 모델에 적용할 수 있다. 또한, 인식 결과는 데이터 인식 모델에 의해 결정될 수 있다.
일 실시 예에 의하면, 사용자로부터 입력된 정보로부터 사용자의 의도에 대응하여 결정될 수 있는 동작의 후보 개수에 대한 변화량이 측정될 수 있고, 측정된 변화량에 기초하여 생성된 피드백 정보가 사용자에게 제공될 수 있다.
모델 갱신부(1320-5)는 인식 결과 제공부(1320-4)에 의해 제공되는 인식 결과에 대한 평가에 기초하여, 데이터 인식 모델이 갱신되도록할 수 있다. 예를 들어, 모델 갱신부(1320-5)는 인식 결과 제공부(1320-4)에 의해 제공되는 인식 결과를 모델 학습부(1310-4)에게 제공함으로써, 모델 학습부(1310-4)가 데이터 인식 모델을 갱신하도록 할 수 있다.
한편, 데이터 인식부(1320) 내의 데이터 획득부(1320-1), 전처리부(1320-2), 인식 데이터 선택부(1320-3), 인식 결과 제공부(1320-4) 및 모델 갱신부(1320-5) 중 적어도 하나는, 적어도 하나의 하드웨어 칩 형태로 제작되어 전자 장치에 탑재될 수 있다. 예를 들어, 데이터 획득부(1320-1), 전처리부(1320-2), 인식 데이터 선택부(1320-3), 인식 결과 제공부(1320-4) 및 모델 갱신부(1320-5) 중 적어도 하나는 인공 지능(AI; artificial intelligence)을 위한 전용 하드웨어 칩 형태로 제작될 수도 있고, 또는 기존의 범용 프로세서(예: CPU 또는 application processor) 또는 그래픽 전용 프로세서(예: GPU)의 일부로 제작되어 전술한 각종 전자 장치에 탑재될 수도 있다.
또한, 데이터 획득부(1320-1), 전처리부(1320-2), 인식 데이터 선택부(1320-3), 인식 결과 제공부(1320-4) 및 모델 갱신부(1320-5)는 하나의 전자 장치에 탑재될 수도 있으며, 또는 별개의 전자 장치들에 각각 탑재될 수도 있다. 예를 들어, 데이터 획득부(1320-1), 전처리부(1320-2), 인식 데이터 선택부(1320-3), 인식 결과 제공부(1320-4) 및 모델 갱신부(1320-5) 중 일부는 전자 장치에 포함되고, 나머지 일부는 서버에 포함될 수 있다.
또한, 데이터 획득부(1320-1), 전처리부(1320-2), 인식 데이터 선택부(1320-3), 인식 결과 제공부(1320-4) 및 모델 갱신부(1320-5) 중 적어도 하나는 소프트웨어 모듈로 구현될 수 있다. 데이터 획득부(1320-1), 전처리부(1320-2), 인식 데이터 선택부(1320-3), 인식 결과 제공부(1320-4) 및 모델 갱신부(1320-5) 중 적어도 하나가 소프트웨어 모듈(또는, 인스터력션(instruction) 포함하는 프로그램 모듈)로 구현되는 경우, 소프트웨어 모듈은 컴퓨터로 읽을 수 있는 판독 가능한 비일시적 판독 가능 기록매체(non-transitory computer readable media)에 저장될 수 있다. 또한, 이 경우, 적어도 하나의 소프트웨어 모듈은 OS(Operating System)에 의해 제공되거나, 소정의 애플리케이션에 의해 제공될 수 있다. 또는, 적어도 하나의 소프트웨어 모듈 중 일부는 OS(Operating System)에 의해 제공되고, 나머지 일부는 소정의 애플리케이션에 의해 제공될 수 있다.
도 12의 일부 실시예에 따른 전자 장치(1000) 및 서버(2000)가 서로 연동함으로써 데이터를 학습하고 인식하는 예시를 나타내는 도면이다.
도 12의 전자 장치(1000)는 도 1에 도시된 전자 장치(1000)와 대응될 수 있다.
서버(2000)는 네트워크(미도시)를 통해 전자 장치(1000)와 통신하며, 적어도 하나의 컴퓨터 장치로 구현될 수 있다. 서버(2000)는 클라우드 형태로 분산될 수 있으며, 명령, 코드, 파일, 컨텐츠 등을 제공할 수 있다.
일 실시 예에 의한 서버(2000)는 전자 장치(1000)가 영상에서 오브젝트를 인식하는데 필요한 데이터를 전자 장치(1000)에 제공할 수 있다. 예를 들면, 서버(2000)는 사용자의 입력에 대한 피드백 정보를 생성하기 위한 학습 모델을 전자 장치(1000)에 제공할 수 있다.
일 실시 예에 의한 서버(2000)는 전자 장치(1000)가 실행할 수 있는 동작들을 대신 수행할 수 있다. 예컨대, 서버(2000)는, 전자 장치(1000) 대신 사용자의 입력에 대한 피드백 정보를 생성할 수 있다.
상술된 예에 한하지 않고 서버(2000)는 전자 장치(1000)가 사용자의 입력에 대한 피드백 정보를 생성하기 위한 다양한 동작을 수행하고, 그 결과를 전자 장치(1000)로 송신할 수 있다.
도 12를 참조하면, 서버(2000)는 상황 판단을 위한 기준을 학습할 수 있으며, 전자 장치(1000)는 서버(2000)에 의한 학습 결과에 기초하여 상황을 판단할 수 있다.
이 경우, 서버(2000)의 모델 학습부(2340)는 도 2에 도시된 데이터 학습부(1310)의 기능을 수행할 수 있다. 서버(2000)의 모델 학습부(2340)는 소정의 상황을 판단하기 위하여 어떤 데이터를 이용할 지, 데이터를 이용하여 상황을 어떻게 판단할 지에 관한 기준을 학습할 수 있다. 모델 학습부(2340)는 학습에 이용될 데이터를 획득하고, 획득된 데이터를 후술할 데이터 인식 모델에 적용함으로써, 상황 판단을 위한 기준을 학습할 수 있다.
또한, 전자 장치(1000)의 인식 결과 제공부(1320-4)는 인식 데이터 선택부(1320-3)에 의해 선택된 데이터를 서버(2000)에 의해 생성된 데이터 인식 모델에 적용하여 상황을 판단할 수 있다. 예를 들어, 인식 결과 제공부(1320-4)는 인식 데이터 선택부(1320-3)에 의해 선택된 데이터를 서버(2000)에게 전송하고, 서버(2000)가 인식 데이터 선택부(1320-3)에 의해 선택된 데이터를 인식 모델에 적용하여 상황을 판단할 것을 요청할 수 있다. 또한, 인식 결과 제공부(1320-4)는 서버(2000)에 의해 판단된 상황에 관한 정보를 서버(2000)로부터 수신할 수 있다.
예를 들면, 전자 장치(1000)는, 사용자로부터 입력된 정보를 서버(2000)로 전송하고, 서버(2000)는, 데이터 인식 모델을 이용하여, 사용자로부터 입력된 정보에 기초하여 사용자의 의도에 대응하여 결정될 수 있는 동작의 후보 개수에 대한 변화량을 측정하고, 측정된 변화량에 따라 피드백 정보를 생성할 수 있다. 서버(2000)는, 생성된 피드백 정보를 전자 장치(1000)로 전송할 수 있다.
또는, 전자 장치(1000)의 인식 결과 제공부(1320-4)는 서버(2000)에 의해 생성된 인식 모델을 서버(2000)로부터 수신하고, 수신된 인식 모델을 이용하여 상황을 판단할 수 있다. 이 경우, 전자 장치(1000)의 인식 결과 제공부(1320-4)는 인식 데이터 선택부(1320-3)에 의해 선택된 데이터를 서버(2000)로부터 수신된 데이터 인식 모델에 적용하여 상황을 판단할 수 있다.
예를 들면, 전자 장치(1000)는 사용자로부터 입력된 정보를 서버(2000)로부터 수신된 데이터 인식 모델에 적용하여, 생성된 피드백 정보를 사용자에게 제공할 수 있다.
일 실시 예에 의하면, 사용자의 입력에 대한 피드백 정보를 제공하여, 사용자로부터 동작을 결정하기 위한 정보가 충분히 제공될 수 있도록 가이드함으로써, 사용자의 의도에 맞는 동작을 정확도 높게 결정할 수 있다.
일 실시예는 컴퓨터에 의해 실행되는 프로그램 모듈과 같은 컴퓨터에 의해 실행가능한 명령어를 포함하는 기록 매체의 형태로도 구현될 수 있다. 컴퓨터 판독 가능 매체는 컴퓨터에 의해 액세스될 수 있는 임의의 가용 매체일 수 있고, 휘발성 및 비휘발성 매체, 분리형 및 비분리형 매체를 모두 포함한다. 또한, 컴퓨터 판독가능 매체는 컴퓨터 저장 매체 및 통신 매체를 모두 포함할 수 있다. 컴퓨터 저장 매체는 컴퓨터 판독가능 명령어, 데이터 구조, 프로그램 모듈 또는 기타 데이터와 같은 정보의 저장을 위한 임의의 방법 또는 기술로 구현된 휘발성 및 비휘발성, 분리형 및 비분리형 매체를 모두 포함한다. 통신 매체는 전형적으로 컴퓨터 판독가능 명령어, 데이터 구조, 또는 프로그램 모듈을 포함하며, 임의의 정보 전달 매체를 포함한다.
또한, 본 명세서에서, “부”는 프로세서 또는 회로와 같은 하드웨어 구성(hardware component), 및/또는 프로세서와 같은 하드웨어 구성에 의해 실행되는 소프트웨어 구성(software component)일 수 있다.
전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.
본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.

Claims (15)

  1. 전자 장치에서, 사용자의 입력에 대한 피드백 정보를 제공하는 방법에 있어서,
    상기 사용자의 의도를 결정하는 단계;
    상기 사용자로부터 입력된 정보에 기초하여, 상기 의도에 대응하여 결정될 수 있는 동작의 후보 개수에 대한 변화량을 측정하는 단계;
    상기 측정된 변화량에 기초하여, 피드백 정보를 생성하는 단계; 및
    상기 피드백 정보를 상기 사용자에게 제공하는 단계를 포함하는, 방법.
  2. 제1항에 있어서, 상기 피드백 정보는
    상기 변화량이 기준값 이하인 경우, 상기 의도에 대응하는 동작을 결정하기 위한 추가적인 정보를 상기 사용자에게 요청함을 나타내는 정보인, 방법.
  3. 제1항에 있어서,
    상기 변화량이 기준값 이하인 상태가 소정 시간 이상 지속되는 경우, 상기 의도에 대응하는 동작을 결정하기 위한 추가적인 정보를 상기 사용자에게 요청하는 메시지를 출력하는 단계를 더 포함하는, 방법.
  4. 제1항에 있어서, 상기 피드백 정보는
    상기 변화량이 기준값 이상인 경우, 상기 전자 장치가 상기 사용자로부터 상기 의도에 대응하는 동작을 결정하기 위한 추가적인 정보를 입력받기 위한, 대기 상태임을 나타내는 정보인, 방법.
  5. 제1항에 있어서, 상기 변화량을 측정하는 단계는
    상기 의도에 대응하는, 적어도 하나의 정보의 특성에 관한 정보를 획득하는 단계;
    상기 사용자로부터 입력된 정보에서, 상기 특성을 가진 적어도 하나의 정보를 획득하는 단계; 및
    상기 획득된 적어도 하나의 정보에 기초하여, 상기 변화량을 측정하는 단계를 포함하는, 방법.
  6. 제1항에 있어서, 상기 사용자로부터 입력된 정보는,
    상기 사용자의 음성이 음성 인식됨으로써 획득된 텍스트 및 상기 사용자에 의해 입력된 텍스트 중 적어도 하나에 기초하여 획득되는, 방법.
  7. 제1항에 있어서,
    상기 사용자로부터 입력된 정보에 기초하여, 상기 의도에 대응하여 결정될 수 있는 동작의 정확도가 기준값 이상인 경우, 상기 사용자로부터 입력된 정보에 따라 상기 의도에 대응한 동작의 후보를 결정하는 단계; 및
    상기 결정된 동작의 후보에 기초하여, 상기 의도에 대응하는 동작을 수행하는 단계를 더 포함하는 방법.
  8. 사용자의 입력에 대한 피드백 정보를 제공하는 전자 장치에 있어서,
    상기 사용자의 입력을 수신하는 사용자 입력부;
    상기 사용자의 의도를 결정하고, 상기 사용자로부터 입력된 정보에 기초하여, 상기 의도에 대응하여 결정될 수 있는 동작의 후보 개수에 대한 변화량을 측정하고, 상기 측정된 변화량에 기초하여, 피드백 정보를 생성하는 적어도 하나의 프로세서; 및
    상기 피드백 정보를 상기 사용자에게 제공하는 출력부를 포함하는, 전자 장치.
  9. 제8항에 있어서, 상기 피드백 정보는
    상기 변화량이 기준값 이하인 경우, 상기 의도에 대응하는 동작을 결정하기 위한 추가적인 정보를 상기 사용자에게 요청함을 나타내는 정보인, 전자 장치.
  10. 제8항에 있어서, 상기 적어도 하나의 프로세서는
    상기 변화량이 기준값 이하인 상태가 소정 시간 이상 지속되는 경우, 상기 의도에 대응하는 동작을 결정하기 위한 추가적인 정보를 상기 사용자에게 요청하는 메시지를 출력하도록 상기 출력부를 제어하는, 전자 장치.
  11. 제8항에 있어서, 상기 피드백 정보는
    상기 변화량이 기준값 이상인 경우, 상기 전자 장치가 상기 사용자로부터 상기 의도에 대응하는 동작을 결정하기 위한 추가적인 정보를 입력받기 위한, 대기 상태임을 나타내는 정보인, 전자 장치.
  12. 제8항에 있어서, 상기 적어도 하나의 프로세서는
    상기 의도에 대응하는, 적어도 하나의 정보의 특성에 관한 정보를 획득하고, 상기 사용자로부터 입력된 정보에서, 상기 특성을 가진 적어도 하나의 정보를 획득하고, 상기 획득된 적어도 하나의 정보에 기초하여, 상기 변화량을 측정하는, 전자 장치.
  13. 제8항에 있어서, 상기 사용자로부터 입력된 정보는,
    상기 사용자의 음성이 음성 인식됨으로써 획득된 텍스트 및 상기 사용자에 의해 입력된 텍스트 중 적어도 하나에 기초하여 획득되는, 전자 장치.
  14. 제8항에 있어서, 상기 적어도 하나의 프로세서는
    상기 사용자로부터 입력된 정보에 기초하여, 상기 의도에 대응하여 결정될 수 있는 동작의 정확도가 기준값 이상인 경우, 상기 사용자로부터 입력된 정보에 따라 상기 의도에 대응한 동작의 후보를 결정하고, 상기 결정된 동작의 후보에 기초하여, 상기 의도에 대응하는 동작을 수행하는, 전자 장치.
  15. 사용자의 의도를 결정하는 동작;
    상기 사용자로부터 입력된 정보에 기초하여, 상기 의도에 대응하여 결정될 수 있는 동작의 후보 개수에 대한 변화량을 측정하는 동작;
    상기 측정된 변화량에 기초하여, 피드백 정보를 생성하는 동작; 및
    상기 피드백 정보를 상기 사용자에게 제공하는 동작을 수행하도록 하는 프로그램이 저장된 기록매체를 포함하는 컴퓨터 프로그램 제품.
KR1020190008608A 2019-01-23 2019-01-23 사용자 입력에 대한 피드백 정보를 제공하는 전자 장치 및 그 동작 방법 KR20200094839A (ko)

Priority Applications (3)

Application Number Priority Date Filing Date Title
KR1020190008608A KR20200094839A (ko) 2019-01-23 2019-01-23 사용자 입력에 대한 피드백 정보를 제공하는 전자 장치 및 그 동작 방법
US16/718,672 US11645036B2 (en) 2019-01-23 2019-12-18 Electronic device and operating method for providing feedback information in response to user input
EP20150327.3A EP3686752A1 (en) 2019-01-23 2020-01-06 Electronic device and operating method for providing feedback information in response to user input

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190008608A KR20200094839A (ko) 2019-01-23 2019-01-23 사용자 입력에 대한 피드백 정보를 제공하는 전자 장치 및 그 동작 방법

Publications (1)

Publication Number Publication Date
KR20200094839A true KR20200094839A (ko) 2020-08-10

Family

ID=69137785

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190008608A KR20200094839A (ko) 2019-01-23 2019-01-23 사용자 입력에 대한 피드백 정보를 제공하는 전자 장치 및 그 동작 방법

Country Status (3)

Country Link
US (1) US11645036B2 (ko)
EP (1) EP3686752A1 (ko)
KR (1) KR20200094839A (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20220033328A (ko) * 2020-09-09 2022-03-16 주식회사 한국정보보안원 온라인에서 보안 솔루션을 제공하는 인공지능 시스템 및 방법

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004045900A (ja) 2002-07-12 2004-02-12 Toyota Central Res & Dev Lab Inc 音声対話装置及びプログラム
US7548859B2 (en) 2005-08-03 2009-06-16 Motorola, Inc. Method and system for assisting users in interacting with multi-modal dialog systems
US9318108B2 (en) * 2010-01-18 2016-04-19 Apple Inc. Intelligent automated assistant
US8073681B2 (en) * 2006-10-16 2011-12-06 Voicebox Technologies, Inc. System and method for a cooperative conversational voice user interface
US8886521B2 (en) * 2007-05-17 2014-11-11 Redstart Systems, Inc. System and method of dictation for a speech recognition command system
US9858925B2 (en) 2009-06-05 2018-01-02 Apple Inc. Using context information to facilitate processing of commands in a virtual assistant
KR101522837B1 (ko) 2010-12-16 2015-05-26 한국전자통신연구원 대화 방법 및 이를 위한 시스템
US9223537B2 (en) * 2012-04-18 2015-12-29 Next It Corporation Conversation user interface
EP3809407A1 (en) * 2013-02-07 2021-04-21 Apple Inc. Voice trigger for a digital assistant
KR102057795B1 (ko) * 2013-03-15 2019-12-19 애플 인크. 콘텍스트-민감성 방해 처리
US9805718B2 (en) 2013-04-19 2017-10-31 Sri Internaitonal Clarifying natural language input using targeted questions
KR101922663B1 (ko) * 2013-06-09 2018-11-28 애플 인크. 디지털 어시스턴트의 둘 이상의 인스턴스들에 걸친 대화 지속성을 가능하게 하기 위한 디바이스, 방법 및 그래픽 사용자 인터페이스
US9754591B1 (en) 2013-11-18 2017-09-05 Amazon Technologies, Inc. Dialog management context sharing
US10181322B2 (en) 2013-12-20 2019-01-15 Microsoft Technology Licensing, Llc Multi-user, multi-domain dialog system
KR20170033722A (ko) 2015-09-17 2017-03-27 삼성전자주식회사 사용자의 발화 처리 장치 및 방법과, 음성 대화 관리 장치
US10417346B2 (en) 2016-01-23 2019-09-17 Microsoft Technology Licensing, Llc Tool for facilitating the development of new language understanding scenarios
US10249300B2 (en) * 2016-06-06 2019-04-02 Apple Inc. Intelligent list reading
US11157490B2 (en) 2017-02-16 2021-10-26 Microsoft Technology Licensing, Llc Conversational virtual assistant
US10762892B2 (en) * 2017-02-23 2020-09-01 Semantic Machines, Inc. Rapid deployment of dialogue system
US11087748B2 (en) * 2018-05-11 2021-08-10 Google Llc Adaptive interface in a voice-activated network
KR20210099629A (ko) * 2018-12-06 2021-08-12 베스텔 일렉트로닉 사나이 베 티카레트 에이에스 음성제어가능 전자 장치에 대한 커맨드를 생성하는 기술

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20220033328A (ko) * 2020-09-09 2022-03-16 주식회사 한국정보보안원 온라인에서 보안 솔루션을 제공하는 인공지능 시스템 및 방법

Also Published As

Publication number Publication date
US11645036B2 (en) 2023-05-09
EP3686752A1 (en) 2020-07-29
US20200233639A1 (en) 2020-07-23

Similar Documents

Publication Publication Date Title
KR102425578B1 (ko) 객체를 인식하는 방법 및 장치
KR102520627B1 (ko) 상품을 추천하는 디바이스 및 방법
KR102491546B1 (ko) 객체를 인식하는 방법 및 장치
KR102556492B1 (ko) 텍스트와 연관된 이미지 제공 방법 및 이를 위한 전자 장치
US11508364B2 (en) Electronic device for outputting response to speech input by using application and operation method thereof
KR102606287B1 (ko) 애플리케이션의 번역 정보를 제공하는 디바이스 및 방법
KR20200042739A (ko) 지식 그래프에 기초하여 콘텐트를 제공하는 시스템 및 방법
US11721333B2 (en) Electronic apparatus and control method thereof
KR102628037B1 (ko) 제품의 판매 정보를 제공하는 방법 및 장치
US11126140B2 (en) Electronic device, external device capable of being combined with the electronic device, and a display method thereof
CN111418198B (zh) 提供文本相关图像的电子装置及其操作方法
KR102430567B1 (ko) 텍스트와 연관된 이미지 제공 방법 및 이를 위한 전자 장치
US20190325224A1 (en) Electronic device and method for controlling the electronic device thereof
KR102304701B1 (ko) 사용자의 음성 입력에 대한 답변을 제공하는 방법 및 장치
KR102628042B1 (ko) 연락처 정보를 추천하는 방법 및 디바이스
KR20190117837A (ko) 사용자 입력에 대한 답변 메시지를 제공하는 디바이스 및 방법
KR20190140519A (ko) 전자 장치 및 그의 제어방법
KR102384878B1 (ko) 동영상을 필터링하는 방법 및 장치
US20190251355A1 (en) Method and electronic device for generating text comment about content
US11347805B2 (en) Electronic apparatus, method for controlling the same, and non-transitory computer readable recording medium
KR102464906B1 (ko) 패션 상품을 추천하는 전자 장치, 서버 및 그 동작 방법
KR20200028089A (ko) 전자 장치 및 그의 제어방법
KR20200094839A (ko) 사용자 입력에 대한 피드백 정보를 제공하는 전자 장치 및 그 동작 방법
KR102440963B1 (ko) 전자 장치, 이의 제어 방법 및 비일시적인 컴퓨터 판독가능 기록매체
US11893063B2 (en) Electronic device and operation method thereof

Legal Events

Date Code Title Description
E902 Notification of reason for refusal