KR20190002067A - 사람-기계 간 감정 대화를 위한 방법 및 시스템 - Google Patents

사람-기계 간 감정 대화를 위한 방법 및 시스템 Download PDF

Info

Publication number
KR20190002067A
KR20190002067A KR1020170082427A KR20170082427A KR20190002067A KR 20190002067 A KR20190002067 A KR 20190002067A KR 1020170082427 A KR1020170082427 A KR 1020170082427A KR 20170082427 A KR20170082427 A KR 20170082427A KR 20190002067 A KR20190002067 A KR 20190002067A
Authority
KR
South Korea
Prior art keywords
user
emotion
emotion information
outputting
sentence
Prior art date
Application number
KR1020170082427A
Other languages
English (en)
Other versions
KR102034255B1 (ko
Inventor
한지훈
이우섭
Original Assignee
네이버 주식회사
라인 가부시키가이샤
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 네이버 주식회사, 라인 가부시키가이샤 filed Critical 네이버 주식회사
Priority to KR1020170082427A priority Critical patent/KR102034255B1/ko
Priority to JP2017220003A priority patent/JP6678632B2/ja
Publication of KR20190002067A publication Critical patent/KR20190002067A/ko
Application granted granted Critical
Publication of KR102034255B1 publication Critical patent/KR102034255B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33—Querying
    • G06F16/332—Query formulation
    • G06F16/3329—Natural language query formulation or dialogue systems
    • G06F17/30654—
    • G06F17/2785—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G06F3/167—Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • G06K9/00221—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Multimedia (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Artificial Intelligence (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

사람-기계 간 감정 대화를 위한 방법 및 시스템이 개시된다. 인공지능 대화 방법은 사용자의 대화 의도를 판단하는 단계; 상기 사용자의 대화 의도에 대응되는 답변 문장을 결정하는 단계; 및 상기 답변 문장에 해당되는 음성 파일을 출력하되 상기 답변 문장에 포함된 감정 용어가 출력하는 시점에 상기 감정 용어에 대응되는 감정 정보를 함께 출력하는 단계를 포함할 수 있다.

Description

사람-기계 간 감정 대화를 위한 방법 및 시스템{METHOD AND SYSTEM FOR HUMAN-MACHINE EMOTIONAL COMMUNICATION}
아래의 설명은 인공지능 대화 시스템에 관한 것이다.
일반적으로 개인비서 시스템, 챗봇 플랫폼(chatbot platform), 인공지능(AI) 스피커 등에서 사용되는 인공지능 대화 시스템은 사람의 명령어에 대한 의도를 이해하고 그에 대응하는 답변 문구를 제공하는 방식이다.
주로 인공지능 대화 시스템은 사람이 기능적인 요구를 전달하고 이에 기계가 사람의 요구에 대한 해답을 제공하는 방식으로, 마이크(microphone)를 통해 사용자의 음성 입력을 수신하고 수신된 음성 입력에 기반하여 디바이스 동작이나 컨텐츠 제공을 제어할 수 있다.
예를 들어, 한국공개특허 제10-2011-0139797호(공개일 2011년 12월 30일)에는 홈 네트워크 서비스에서 이동통신망 외에 와이파이와 같은 제2 통신망을 이용하여 홈 네트워크 서비스를 제공하는 것이 가능하고 홈 내 복수의 멀티미디어 기기를 사용자가 별도의 버튼 조작 없이도 음성 명령을 통해 다중 제어할 수 있는 기술이 개시되어 있다.
인공지능 대화 시스템은 사람의 감정 파악이나 기계의 감정 표현이 배제되며 사람의 명령어 표현 및 기계 표현의 방식 역시, 단순히 텍스트나 음성으로 제한되어 있다. 다시 말해, 기존 인공지능 대화 시스템은 사람의 기능적 요구 해결에는 적합하나, 기계의 표현을 사람처럼 풍부하고 자연스럽게 느껴지게 하고 사람-기계 간 정서적 교류를 불러일으키는 인터랙션(interaction)을 구현하기에는 부족하다.
사람의 감정을 파악하여 이에 대응하는 다양한 감정을 음성, 시각, 동작 등 통합 정보로 표현할 수 있는 환경을 통해 사람-기계 간 정서적 교감을 불러일으킬 수 있는 방법 및 시스템을 제공한다.
컴퓨터로 구현되는 인공지능 대화 방법에 있어서, 사용자의 대화 의도를 판단하는 단계; 상기 사용자의 대화 의도에 대응되는 답변 문장을 결정하는 단계; 및 상기 답변 문장에 해당되는 음성 파일을 출력하되 상기 답변 문장에 포함된 감정 용어가 출력하는 시점에 상기 감정 용어에 대응되는 감정 정보를 함께 출력하는 단계를 포함하는 인공지능 대화 방법을 제공한다.
일 측면에 따르면, 상기 판단하는 단계는, 상기 사용자의 음성 입력 및 얼굴 영상 중 적어도 하나를 이용하여 상기 사용자의 감정 정보를 추출하는 단계를 포함할 수 있다.
다른 측면에 따르면, 상기 판단하는 단계는, 상기 사용자의 음성 입력을 수신하여 상기 음성 입력의 문장으로부터 제1 감정 정보를 추출하는 단계; 상기 사용자의 얼굴 영상을 수신하여 얼굴 표정으로부터 제2 감정 정보를 추출하는 단계; 및 상기 제1 감정 정보와 상기 제2 감정 정보를 종합하여 상기 사용자의 대화 의도를 판단하는 단계를 포함할 수 있다.
또 다른 측면에 따르면, 의도 별로 복수 개의 문장 세트가 사전에 정해지며, 상기 결정하는 단계는, 상기 사용자의 대화 의도에 해당되는 문장 세트 중에서 상기 답변 문장을 선택할 수 있다.
또 다른 측면에 따르면, 상기 출력하는 단계는, 상기 답변 문장에 포함된 상기 감정 용어 각각에 대하여 상기 감정 용어에 대응되는 감정 정보를 추출하는 단계; 상기 답변 문장을 상기 음성 파일로 변환하는 단계; 상기 감정 용어 각각에 대하여 상기 음성 파일 내에서의 위치 값을 추출하는 단계; 및 상기 음성 파일의 출력과 함께 상기 위치 값에 대응되는 시점에 상기 감정 정보를 출력하는 단계를 포함할 수 있다.
또 다른 측면에 따르면, 상기 위치 값에 대응되는 시점에 상기 감정 정보를 출력하는 단계는, 상기 위치 값을 이용하여 상기 음성 파일과 상기 감정 정보에 대한 싱크로나이징(synchronizing)을 수행할 수 있다.
또 다른 측면에 따르면, 상기 출력하는 단계는, 상기 감정 용어에 대응되는 감정 정보를 디스플레이 장치와 모터 제어 동작 장치 중 적어도 하나의 디바이스를 통해 출력할 수 있다.
또 다른 측면에 따르면, 상기 사용자의 음성 입력 및 얼굴 영상 중 적어도 하나로부터 판단되는 상기 사용자의 감정에 대해 즉각 호응 감정을 판단하는 단계; 및 상기 음성 파일을 출력하기 이전에 상기 즉각 호응 감정에 대한 정보를 출력하는 단계를 더 포함할 수 있다.
상기 인공지능 대화 방법을 컴퓨터에 실행시키기 위해 컴퓨터 판독 가능한 기록매체에 저장된 컴퓨터 프로그램을 제공한다.
상기 인공지능 대화 방법을 컴퓨터에 실행시키기 위한 프로그램이 기록되어 있는 것을 특징으로 하는 컴퓨터에서 판독 가능한 기록매체를 제공한다.
컴퓨터로 구현되는 인공지능 대화 시스템에 있어서, 컴퓨터에서 판독 가능한 명령을 실행하도록 구현되는 적어도 하나의 프로세서를 포함하고, 상기 적어도 하나의 프로세서는, 사용자의 대화 의도를 판단하고, 상기 사용자의 대화 의도에 대응되는 답변 문장을 결정하고, 상기 답변 문장에 해당되는 음성 파일을 출력하되 상기 답변 문장에 포함된 감정 용어가 출력하는 시점에 상기 감정 용어에 대응되는 감정 정보를 함께 출력할 수 있다.
본 발명의 실시예들에 따르면, 사람의 감정을 파악하여 이에 대응하는 다양한 감정을 음성, 시각, 동작 등 통합 정보로 표현할 수 있는 환경을 통해 사람-기계 간 정서적 교감을 불러일으킬 수 있다.
도 1은 본 발명의 일실시예에 따른 음성 기반 인터페이스를 활용한 서비스 환경의 예를 도시한 도면이다.
도 2는 본 발명의 일실시예에 따른 음성 기반 인터페이스를 활용한 서비스 환경의 다른 예를 도시한 도면이다.
도 3은 본 발명의 일실시예에 있어서, 클라우드 인공지능 플랫폼의 예를 도시한 도면이다.
도 4는 본 발명의 일실시예에 있어서, 전자 기기 및 서버의 내부 구성을 설명하기 위한 블록도이다.
도 5는 본 발명의 일실시예에 있어서, 인공지능 대화 방법의 예를 도시한 흐름도이다.
도 6은 본 발명의 일실시예에 있어서, 통합 답변 생성 과정의 예를 도시한 흐름도이다.
도 7 내지 도 9는 본 발명의 일실시예에 있어서, 통합 답변 정보의 예시들을 도시한 것이다.
이하, 본 발명의 실시예를 첨부된 도면을 참조하여 상세하게 설명한다.
본 발명의 실시예들에 따른 인공지능 대화 시스템은 사용자와의 대화를 기반으로 동작하는 인터페이스를 제공하는 전자 기기를 통해 구현될 수 있다. 이때, 인공지능 대화 시스템은 사용자의 감정에 대응하여 풍부하고 자연스러운 기계의 표현을 구현할 수 있다.
본 발명의 실시예들에 따른 인공지능 대화 방법은 상술한 전자 기기를 통해 수행될 수 있다. 이때, 전자 기기에는 본 발명의 일실시예에 따른 컴퓨터 프로그램이 설치 및 구동될 수 있고, 전자 기기는 구동된 컴퓨터 프로그램의 제어에 따라 본 발명의 일실시예에 따른 인공지능 대화 방법을 수행할 수 있다. 상술한 컴퓨터 프로그램은 컴퓨터로 구현되는 전자 기기와 결합되어 인공지능 대화 방법을 컴퓨터에 실행시키기 위해 컴퓨터 판독 가능한 기록매체에 저장될 수 있다.
도 1은 본 발명의 일실시예에 따른 대화 기반 인터페이스를 활용한 서비스 환경의 예를 도시한 도면이다. 도 1의 실시예에서는 스마트홈(smart home)이나 홈 네트워크 서비스와 같이 댁내의 디바이스들을 연결하여 제어하는 기술에서, 사용자와의 대화를 기반으로 동작하는 인터페이스를 제공하는 전자 기기(100)가 사용자(110)의 발화에 따라 수신되는 음성 입력 "불 꺼줘"를 인식 및 분석하여 댁내에서 전자 기기(100)와 내부 네트워크를 통해 연계된 댁내 조명기기(120)의 라이트 전원을 제어하는 예를 나타내고 있다.
예를 들어, 댁내의 디바이스들은 상술한 댁내 조명기기(120) 외에도 텔레비전, PC(Personal Computer), 주변기기, 에어컨, 냉장고, 로봇 청소기 등과 같은 가전제품을 비롯하여, 수도, 전기, 냉난방 기기 등과 같은 에너지 소비장치, 도어록, 감시카메라 등과 같은 보안기기 등 온라인 상에서 연결되어 제어될 수 있는 다양한 디바이스들을 포함할 수 있다. 또한, 내부 네트워크는 이더넷(Ethernet), HomePNA, IEEE 1394와 같은 유선 네트워크 기술이나, 블루투스(Bluetooth), UWB(ultra Wide Band), 지그비(ZigBee), Wireless 1394, Home RF와 같은 무선 네트워크 기술 등이 활용될 수 있다.
전자 기기(100)는 댁내의 디바이스들 중 하나일 수 있다. 예를 들어, 전자 기기(100)는 댁내에 구비된 인공지능 스피커나 대화 로봇, 로봇 청소기 등과 같은 디바이스들 중 하나일 수 있다. 또한, 전자 기기(100)는 스마트폰(smart phone), 휴대폰, 노트북, 디지털방송용 단말, PDA(Personal Digital Assistants), PMP(Portable Multimedia Player), 태블릿 PC 등과 같은 사용자(110)의 모바일 기기일 수도 있다. 이처럼 전자 기기(100)는 사용자(110)의 감정을 인식하여 그에 대응되는 동작을 위해 각종 디바이스들과 연결 가능한 기능을 포함하는 기기라면 특별히 제한되지 않는다. 또한, 실시예에 따라 상술한 사용자(110)의 모바일 기기들이 댁내의 디바이스들로서 포함될 수도 있다.
도 2는 본 발명의 일실시예에 따른 대화 기반 인터페이스를 활용한 서비스 환경의 다른 예를 도시한 도면이다. 도 2는 사용자와의 대화를 기반으로 동작하는 인터페이스를 제공하는 전자 기기(100)가 사용자(110)의 발화에 따라 수신되는 음성 입력 "오늘 날씨"를 인식 및 분석하여 외부 네트워크를 통해 외부 서버(210)로부터 오늘의 날씨에 대한 정보를 획득하고, 획득한 정보를 "오늘의 날씨는 ..."와 같이 음성으로 출력하는 예를 나타내고 있다.
예를 들어, 외부 네트워크는 PAN(personal area network), LAN(local area network), CAN(campus area network), MAN(metropolitan area network), WAN(wide area network), BBN(broadband network), 인터넷 등의 네트워크 중 하나 이상의 임의의 네트워크를 포함할 수 있다.
도 2의 실시예에서도 전자 기기(100)는 댁내의 디바이스들 중 하나이거나 사용자(110)의 모바일 기기 중 하나일 수 있으며, 사용자(110)의 감정을 인식하여 처리하기 위한 기능과 외부 네트워크를 통해 외부 서버(210)에 접속하여 외부 서버(210)가 제공하는 서비스나 컨텐츠를 사용자(110)에게 제공하기 위한 기능을 포함하는 기기라면 특별히 제한되지 않는다.
이처럼, 본 발명의 실시예들에 따른 전자 기기(100)는 대화 기반 인터페이스를 통해 사용자(110)의 음성 입력 및/또는 얼굴 영상을 포함하는 사용자 명령을 처리할 수 있는 기기라면 특별히 제한되지 않을 수 있다. 예를 들어, 전자 기기(100)는 직접 사용자의 감정을 인식 및 분석하여 그에 대응되는 동작을 수행함으로써 사용자 명령을 처리할 수도 있으나, 실시예에 따라 사용자의 감정 인식이나 분석, 사용자에게 제공될 음성이나 정보 합성 등의 처리를 전자 기기(100)와 연계된 외부의 플랫폼을 통해 수행할 수도 있다.
도 3은 본 발명의 일실시예에 있어서, 클라우드 인공지능 플랫폼의 예를 도시한 도면이다. 도 3은 전자 기기들(310)과 클라우드 인공지능 플랫폼(320) 및 컨텐츠·서비스(330)를 나타내고 있다.
일례로, 전자 기기들(310)은 댁내에 구비되는 디바이스들을 의미할 수 있으며, 적어도 앞서 설명한 전자 기기(100)를 포함할 수 있다. 이러한 전자 기기들(310)이나 전자 기기들(310)에 설치 및 구동되는 어플리케이션들(이하, 앱들)은 인터페이스 커넥트(340)를 통해 클라우드 인공지능 플랫폼(320)과 연계될 수 있다. 여기서 인터페이스 커넥트(340)는 전자 기기들(310)이나 전자 기기들(310)에 설치 및 구동되는 앱들의 개발을 위한 SDK(Software Development Kit) 및/또는 개발 문서들을 개발자들에게 제공할 수 있다. 또한, 인터페이스 커넥트(340)는 전자 기기들(310)이나 전자 기기들(310)에 설치 및 구동되는 앱들이 클라우드 인공지능 플랫폼(320)이 제공하는 기능들을 활용할 수 있는 API(Application Program Interface)를 제공할 수 있다. 구체적인 예로, 개발자들은 인터페이스 커넥트(340)가 제공하는 SDK(Software Development Kit) 및/또는 개발 문서를 이용하여 개발한 기기나 앱은 인터페이스 커넥트(340)가 제공하는 API를 이용하여 클라우드 인공지능 플랫폼(320)이 제공하는 기능들을 활용할 수 있게 된다.
여기서 클라우드 인공지능 플랫폼(320)은 대화 기반의 서비스를 제공하기 위한 기능을 제공할 수 있다. 예를 들어, 클라우드 인공지능 플랫폼(320)은 수신된 음성 입력 및/또는 얼굴 영상을 인식하고, 출력될 정보를 합성하기 위한 음성처리모듈(321), 수신된 영상이나 동영상을 분석하여 처리하기 위한 비전처리모듈(322), 수신된 음성 입력 및/또는 얼굴 영상에 따라 알맞은 정보를 출력하기 위해 적절한 대화를 결정하기 위한 대화처리모듈(323), 수신된 음성 입력 및/또는 얼굴 영상에 알맞은 기능을 추천하기 위한 추천모듈(324), 인공지능이 데이터 학습을 통해 문장 단위로 언어를 번역할 수 있도록 지원하는 인공신경망 기반 기계 번역(Neural Machine Translation, NMT, 325) 등과 같이 대화 기반 서비스를 제공하기 위한 다양한 모듈들을 포함할 수 있다.
예를 들어, 도 1 및 도 2의 실시예들에서 전자 기기(100)는 사용자(110)의 음성 입력 및/또는 얼굴 영상을 인터페이스 커넥트(340)에서 제공하는 API를 이용하여 클라우드 인공지능 플랫폼(320)으로 전송할 수 있다. 이 경우, 클라우드 인공지능 플랫폼(320)은 수신된 음성 입력 및/또는 얼굴 영상을 상술한 모듈들(321 내지 325)을 활용하여 사용자(110)의 감정을 인식 및 분석할 수 있으며, 사용자(110)의 감정에 따라 적절한 답변 음성을 합성하여 제공하거나, 적절한 동작을 추천할 수 있다.
또한, 확장 키트(350)는 제3자 컨텐츠 개발자 또는 회사들이 클라우드 인공지능 플랫폼(320)에 기반하여 새로운 인공지능 대화 기반 기능을 구현할 수 있는 개발 키트를 제공할 수 있다. 예를 들어, 도 2의 실시예에서, 전자 기기(100)는 수신된 사용자(110)의 음성 입력 및/또는 얼굴 영상을 외부 서버(210)로 전송할 수 있고, 외부 서버(210)는 확장 키트(350)를 통해 제공되는 API를 통해 클라우드 인공지능 플랫폼(320)으로 음성 입력 및/또는 얼굴 영상을 전송할 수 있다. 이 경우, 앞서 설명한 바와 유사하게 클라우드 인공지능 플랫폼(320)은 수신되는 음성 입력 및/또는 얼굴 영상을 인식, 분석하여 적절한 답변 정보를 합성하여 제공하거나 음성 입력 및/또는 얼굴 영상을 통해 처리되어야 할 기능에 대한 추천정보를 외부 서버(210)로 제공할 수 있다. 일례로, 도 2에서, 외부 서버(210)는 음성 입력 "오늘 날씨"를 클라우드 인공지능 플랫폼(320)으로 전송할 수 있고, 클라우드 인공지능 플랫폼(320)으로부터 음성 입력 "오늘 날씨"의 인식을 통해 추출되는 키워드 "오늘" 및 "날씨"를 수신할 수 있다. 이 경우, 외부 서버(210)는 키워드 "오늘" 및 "날씨"를 통해 "오늘의 날씨는 ..."와 같은 텍스트 정보를 생성하여 다시 클라우드 인공지능 플랫폼(320)으로 생성된 텍스트 정보를 전송할 수 있다. 이때, 클라우드 인공지능 플랫폼(320)는 텍스트 정보를 음성으로 합성하여 외부 서버(210)로 제공할 수 있다. 외부 서버(210)는 합성된 음성을 전자 기기(100)로 전송할 수 있고, 전자 기기(100)는 합성된 음성 "오늘의 날씨는 ..."을 스피커를 통해 출력함으로써, 사용자(110)로부터 수신한 음성 입력 "오늘 날씨"가 처리될 수 있다.
이때, 전자 기기(100)는 음성 입력 및/또는 얼굴 영상에 대응되는 디바이스 동작이나 컨텐츠 제공을 위해 본 발명의 실시예에 따른 인공지능 대화 방법을 수행할 수 있다.
도 4는 본 발명의 일실시예에 있어서, 전자 기기 및 서버의 내부 구성을 설명하기 위한 블록도이다. 도 4의 전자 기기(410)는 앞서 설명한 전자 기기(100)에 대응할 수 있고, 서버(420)는 앞서 설명한 외부 서버(210)나 클라우드 인공지능 플랫폼(320)을 구현하는 하나의 컴퓨터 장치에 대응할 수 있다.
전자 기기(410)과 서버(420)는 메모리(411, 421), 프로세서(412, 422), 통신 모듈(413, 423) 그리고 입출력 인터페이스(414, 424)를 포함할 수 있다. 메모리(411, 421)는 컴퓨터에서 판독 가능한 기록매체로서, RAM(random access memory), ROM(read only memory) 및 디스크 드라이브와 같은 비소멸성 대용량 기록장치(permanent mass storage device)를 포함할 수 있다. 여기서 ROM과 디스크 드라이브와 같은 비소멸성 대용량 기록장치는 메모리(411, 421)와는 구분되는 별도의 영구 저장 장치로서 전자 기기(410)나 서버(420)에 포함될 수도 있다. 또한, 메모리(411, 421)에는 운영체제와 적어도 하나의 프로그램 코드(일례로 전자 기기(410)에 설치되어 특정 서비스의 제공을 위해 전자 기기(410)에서 구동되는 어플리케이션 등을 위한 코드)가 저장될 수 있다. 이러한 소프트웨어 구성요소들은 메모리(411, 421)와는 별도의 컴퓨터에서 판독 가능한 기록매체로부터 로딩될 수 있다. 이러한 별도의 컴퓨터에서 판독 가능한 기록매체는 플로피 드라이브, 디스크, 테이프, DVD/CD-ROM 드라이브, 메모리 카드 등의 컴퓨터에서 판독 가능한 기록매체를 포함할 수 있다. 다른 실시예에서 소프트웨어 구성요소들은 컴퓨터에서 판독 가능한 기록매체가 아닌 통신 모듈(413, 423)을 통해 메모리(411, 421)에 로딩될 수도 있다. 예를 들어, 적어도 하나의 프로그램은 개발자들 또는 어플리케이션의 설치 파일을 배포하는 파일 배포 시스템이 네트워크(430)를 통해 제공하는 파일들에 의해 설치되는 컴퓨터 프로그램(일례로 상술한 어플리케이션)에 기반하여 전자 기기(410)의 메모리(411)에 로딩될 수 있다.
프로세서(412, 422)는 기본적인 산술, 로직 및 입출력 연산을 수행함으로써, 컴퓨터 프로그램의 명령을 처리하도록 구성될 수 있다. 명령은 메모리(411, 421) 또는 통신 모듈(413, 423)에 의해 프로세서(412, 422)로 제공될 수 있다. 예를 들어 프로세서(412, 422)는 메모리(411, 421)와 같은 기록 장치에 저장된 프로그램 코드에 따라 수신되는 명령을 실행하도록 구성될 수 있다.
통신 모듈(413, 423)은 네트워크(430)를 통해 전자 기기(410)과 서버(420)가 서로 통신하기 위한 기능을 제공할 수 있으며, 전자 기기(410) 및/또는 서버(420)가 다른 전자 기기 또는 다른 서버와 통신하기 위한 기능을 제공할 수 있다. 일례로, 전자 기기(410)의 프로세서(412)가 메모리(411)와 같은 기록 장치에 저장된 프로그램 코드에 따라 생성한 요청이 통신 모듈(213)의 제어에 따라 네트워크(430)를 통해 서버(420)로 전달될 수 있다. 역으로, 서버(420)의 프로세서(422)의 제어에 따라 제공되는 제어 신호나 명령, 컨텐츠, 파일 등이 통신 모듈(223)과 네트워크(430)를 거쳐 전자 기기(410)의 통신 모듈(213)을 통해 전자 기기(410)로 수신될 수 있다. 예를 들어 통신 모듈(213)을 통해 수신된 서버(420)의 제어 신호나 명령, 컨텐츠, 파일 등은 프로세서(412)나 메모리(411)로 전달될 수 있고, 컨텐츠나 파일 등은 전자 기기(410)가 더 포함할 수 있는 저장 매체(상술한 영구 저장 장치)로 저장될 수 있다.
입출력 인터페이스(414)는 입출력 장치(415)와의 인터페이스를 위한 수단일 수 있다. 예를 들어, 입력 장치는 마이크, 키보드 또는 마우스, 카메라 등의 장치를, 그리고 출력 장치는 디스플레이, 스피커와 같은 장치를 포함할 수 있다. 다른 예로 입출력 인터페이스(414)는 터치스크린과 같이 입력과 출력을 위한 기능이 하나로 통합된 장치와의 인터페이스를 위한 수단일 수도 있다. 입출력 장치(415)는 전자 기기(410)와 하나의 장치로 구성될 수도 있다. 또한, 서버(420)의 입출력 인터페이스(424)는 서버(420)와 연결되거나 서버(420)가 포함할 수 있는 입력 또는 출력을 위한 장치(미도시)와의 인터페이스를 위한 수단일 수 있다.
또한, 다른 실시예들에서 전자 기기(410) 및 서버(420)는 도 4의 구성요소들보다 더 적은 또는 더 많은 구성요소들을 포함할 수도 있다. 그러나, 대부분의 종래기술적 구성요소들을 명확하게 도시할 필요성은 없다. 예를 들어, 전자 기기(410)는 상술한 입출력 장치(415) 중 적어도 일부를 포함하도록 구현되거나 또는 트랜시버(transceiver), GPS(Global Positioning System) 모듈, 카메라, 각종 센서, 데이터베이스 등과 같은 다른 구성요소들을 더 포함할 수도 있다. 보다 구체적인 예로, 전자 기기(410)가 스마트폰인 경우, 일반적으로 스마트폰이 포함하고 있는 가속도 센서나 자이로 센서, 카메라 모듈, 각종 물리적인 버튼, 터치패널을 이용한 버튼, 입출력 포트, 진동을 위한 진동기 등의 다양한 구성요소들이 전자 기기(410)에 더 포함되도록 구현될 수 있다.
본 실시예들에서 전자 기기(410)는 사용자의 음성 입력을 수신하기 위한 마이크 및/또는 사용자의 얼굴 영상을 수신하기 위한 카메라를 입출력 장치(415)로서 기본적으로 포함할 수 있으며, 사용자의 감정에 대응하는 음성이나 오디오 컨텐츠와 같은 소리를 출력하기 위한 스피커, 사용자의 감정에 대응하는 감정 정보를 시각적으로 출력하기 위한 디스플레이, 사용자의 감정에 대응하는 동작 정보를 출력하기 위한 디바이스 중 적어도 하나를 입출력 장치(415)로서 더 포함할 수 있다.
도 5는 본 발명의 일실시예에 있어서, 인공지능 대화 방법의 예를 도시한 흐름도이다. 본 발명의 실시예들에 따른 인공지능 대화 방법은 앞서 설명한 전자 기기(410)과 같은 컴퓨터 장치에 의해 수행될 수 있다. 이때, 전자 기기(410)의 프로세서(412)는 메모리(411)가 포함하는 운영체제의 코드나 적어도 하나의 프로그램의 코드에 따른 제어 명령(instruction)을 실행하도록 구현될 수 있다. 여기서, 프로세서(412)는 전자 기기(410)에 저장된 코드가 제공하는 제어 명령에 따라 전자 기기(410)가 도 5의 인공지능 대화 방법이 포함하는 단계들을 수행하도록 전자 기기(410)를 제어할 수 있다.
단계(S511)에서 전자 기기(410)는 대화 기반 인터페이스를 통해 사용자의 음성 입력을 수신할 수 있다. 예를 들어, 전자 기기(410)는 대화 기반 인터페이스로서 전자 기기(410)가 포함하는 마이크 또는 전자 기기(410)와 연동된 마이크와 같은 음성 입력 장치를 통해 사용자의 발화에 따른 음성 입력을 수신할 수 있다.
단계(S512)에서 전자 기기(410)는 대화 기반 인터페이스를 통해 사용자의 얼굴 영상을 수신할 수 있다. 예를 들어, 전자 기기(410)는 대화 기반 인터페이스로서 전자 기기(410)가 포함하는 카메라 또는 전자 기기(410)와 연동된 카메라와 같은 영상 입력 장치를 통해 사용자의 얼굴 영상을 수신할 수 있다.
단계(S521)에서 전자 기기(410)는 단계(S511)에서 수신된 음성 입력의 문장 의도를 추출할 수 있다. 전자 기기(410)는 사용자의 음성 입력에 따른 문장 자체가 담고 있는 사전적인 의도를 판단하는 것으로, 일례로, 문맥 자유 문법(context-free grammar) 및 의존 문법(dependency grammar) 등을 이용하여 인식된 음성에 대한 문장 의도를 분석할 수 있다. 전자 기기(410)는 문맥 자유 문법을 이용하여 각 단어 또는 구문에 대한 의미 역할(semantic role) 및 각 단어나 구문 사이의 문법적 연관 관계를 파악할 수 있고, 의존 문법을 이용하여 문장의 문법성 또는 의미적 유효성을 파악할 수 있다. 문장에 문맥 자유 문법이 적용되면 문장의 단어 또는 구문에 의미 역할이 부착되고 문장 전체에 대해 분석된 의도가 결정될 수 있다. 상기한 문장 의도를 추출하는 기술은 예시적인 것으로 이에 한정되는 것은 아니며, 이미 잘 알려진 다른 기술들을 이용하는 것 또한 가능하다.
단계(S522)에서 전자 기기(410)는 단계(S511)에서 수신된 음성 입력의 문장에서 감정 정보(이하, '문장 감정 정보'라 칭함)를 추출할 수 있다. 이때, 문장 감정 정보는 감정 종류와 감정 강도(감정 정도)를 포함할 수 있다. 감정을 나타내는 용어, 즉 감정 용어들은 사전에 정해지며 소정 기준에 따라 복수 개의 감정 종류(예컨대, 기쁨, 슬픔, 놀람, 고민, 괴로움, 불안, 공포, 혐오, 분노 등)로 분류되고 감정 용어의 강약에 따라 복수 개의 강도 등급(예컨대, 1~10)으로 분류될 수 있다. 감정 용어는 감정을 나타내는 특정 단어는 물론, 특정 단어를 포함한 구절이나 문장 등을 포함할 수 있다. 예를 들어, '좋아해요'나 '괴롭지만요'와 같은 단어, 혹은 '너무너무 좋아해요'와 같은 구절이나 문장 등이 감정 용어의 범주에 포함될 수 있다. 일례로, 전자 기기(410)는 사용자의 음성 입력에 따른 문장에서 형태소를 추출한 후 추출된 형태소에서 미리 정해진 감정 용어를 추출하여 추출된 감정 용어에 대응되는 감정 종류와 감정 강도를 분류할 수 있다. 전자 기기(410)는 음성 입력의 문장에 복수 개의 감정 용어가 포함된 경우 감정 용어가 속한 감정 종류와 감정 강도에 따라 가중치를 계산할 수 있고 이를 통해 문장의 감정 정보에 대한 감정 벡터를 계산하여 해당 문장을 대표하는 감정 정보를 추출할 수 있다. 상기한 문장 감정 정보를 추출하는 기술은 예시적인 것으로 이에 한정되는 것은 아니며, 이미 잘 알려진 다른 기술들을 이용하는 것 또한 가능하다.
단계(S523)에서 전자 기기(410)는 단계(S512)에서 수신된 얼굴 영상에서 감정 정보(이하, '얼굴 감정 정보'라 칭함)를 추출할 수 있다. 전자 기기(410)는 영상을 기반으로 얼굴 표정으로부터 감정 종류와 감정 강도를 포함한 얼굴 감정 정보를 추출할 수 있다. 얼굴 표정은 눈썹, 눈, 코, 입, 피부와 같은 얼굴 요소들의 변형이 일어날 때 발생하는 얼굴 근육의 수축에 의하여 나타나며, 얼굴 표정의 강도는 얼굴 특징의 기하학적 변화 또는 근육 표현의 밀도에 따라서 결정될 수 있다. 일례로, 전자 기기(410)는 표정에 따른 특징을 추출하기 위한 관심 영역(예컨대, 눈 영역, 눈썹 영역, 코 영역, 입 영역 등)을 추출한 후 관심 영역에서 특징점(point)을 추출하고 특징점을 이용하여 일정한 특징값을 결정할 수 있다. 특징값은 특징점 사이의 거리 등을 기반으로 사람의 표정을 나타내는 특정한 수치에 해당한다. 전자 기기(410)는 결정한 특징값을 감정 감응치 모델에 적용하기 위하여 영상에 나타난 특징값에 대한 수치의 정도에 따라 일정한 세기값을 결정하고, 미리 마련한 맵핑 테이블을 이용하여 각 특정값의 수치에 매칭하는 일정한 세기값을 결정한다. 맵핑 테이블은 감정 감응치 모델에 따라 사전에 마련된다. 전자 기기(410)는 감정 감응치 모델과 세기값을 맵핑하고 해당 세기값을 감정 감응치 모델에 적용한 결과에 따라 결정한 감정의 종류와 강도를 추출할 수 있다. 상기한 얼굴 감정 정보를 추출하는 기술은 예시적인 것으로 이에 한정되는 것은 아니며, 이미 잘 알려진 다른 기술들을 이용하는 것 또한 가능하다.
단계(S531)에서 전자 기기(410)는 단계(S522)에서 추출된 문장 감정 정보와 단계(S523)에서 추출된 얼굴 감정 정보를 종합하여 사용자 감정을 판단할 수 있다. 일례로, 전자 기기(410)는 문장 감정 정보와 얼굴 감정 정보에 따라 가중치를 계산할 수 있고 이를 통해 종합적인 사용자 감정 정보를 판단할 수 있다.
단계(S532)에서 전자 기기(410)는 단계(S521)에서 추출된 문장 의도와 단계(S531)에서 판단된 사용자 감정을 종합하여 사용자의 최종 의도를 판단할 수 있다. 전자 기기(410)는 문장 의도와 사용자 감정에 따라 가중치를 계산할 수 있고 이를 통해 문장 자체에서 나타나는 사전적 의도, 음성 입력에 따른 문장에서 나타내는 감정, 얼굴 영상의 표정에서 나타나는 감정을 종합하여 최종적인 대화 의도를 판단할 수 있다.
단계(S541)에서 전자 기기(410)는 사용자의 최종 의도에 대응되는 답변 문장을 선택할 수 있다. 답변 문장은 의도 별로 복수 개의 문장 세트가 사전에 정해질 수 있으며, 이를 통해 전자 기기(410)는 사용자의 최종 의도에 해당되는 문장 세트 중 선택 횟수 등을 고려한 추천 방식이나 혹은 랜덤 추천 방식 등에 따라 답변 문장을 선택할 수 있다. 더 나아가, 답변 문장은 감정 종류 및/또는 감정 강도에 따라 소정 기준에 따라 분류될 수 있으며, 이를 통해 전자 기기(410)는 사용자의 최종 의도에 포함된 감정 종류 및/또는 감정 강도에 대응되는 답변 문장을 선택하는 것 또한 가능하다. 상기한 답변 문장을 선택하는 기술은 예시적인 것으로 이에 한정되지 않으며, 학습을 통해 사용자의 최종 의도에 따른 답변 문장을 생성하는 기술 등 이미 잘 알려진 다른 기술들을 이용하는 것 또한 가능하다.
단계(S551)에서 전자 기기(410)는 단계(S541)에서 선택된 답변 문장에서 감정 정보(이하, '답변 감정 정보'라 칭함)를 추출할 수 있다. 이때, 답변 감정 정보는 감정 종류와 감정 강도를 포함할 수 있다. 감정 용어들은 사전에 정해지며 소정 기준에 따라 복수 개의 감정 종류(예컨대, 기쁨, 슬픔, 놀람, 고민, 괴로움, 불안, 공포, 혐오, 분노 등)로 분류되고 감정 용어의 강약에 따라 복수 개의 강도 등급(예컨대, 1~10)으로 분류될 수 있다. 일례로, 전자 기기(410)는 답변 문장에서 형태소를 추출한 후 추출된 형태소에서 사전에 정해진 감정 용어를 추출하여 추출된 감정 용어에 대응되는 감정 종류와 감정 강도를 분류할 수 있다. 전자 기기(410)는 답변 문장에 복수 개의 감정 용어가 포함된 경우 각각의 감정 용어에 따른 감정 종류와 감정 강도를 추출할 수 있다. 상기한 답변 감정 정보를 추출하는 기술은 예시적인 것으로 이에 한정되는 것은 아니며, 이미 잘 알려진 다른 기술들을 이용하는 것 또한 가능하다.
단계(S561)에서 전자 기기(410)는 단계(S531)에서 판단된 사용자 감정에 대응되는 즉각 호응 감정을 판단할 수 있다. 전자 기기(410)는 문장 감정 정보와 얼굴 감정 정보를 종합하여 판단한 사용자 감정에 대해 즉각 대응하는 감정을 판단할 수 있다. 이때, 전자 기기(410)는 사용자의 음성 입력이나 얼굴 영상을 실시간으로 트래킹 하여 즉각적으로 호응할 수 있는 감정을 판단할 수 있다. 즉각 호응 감정에 대한 정보에는 마찬가지로 감정 종류와 감정 강도가 포함될 수 있다. 예를 들어, 사용자가 슬픈 이야기를 하거나 슬픈 표정을 지으면 '슬픔'을, 놀라운 이야기를 하거나 놀란 표정을 지으면 '놀람'을 즉각 호응 감정으로 결정할 수 있다. 따라서, 전자 기기(410)는 사용자의 음성 입력 및/또는 얼굴 영상을 통해 실시간으로 판단되는 사용자 감정에 대해 즉각적으로 대응하기 위한 호응 감정을 결정할 수 있다.
단계(S570)에서 전자 기기(410)는 단계(S541)에서 선택된 답변 문장과, 단계(S551)에서 추출된 답변 감정 정보, 그리고 단계(S561)에서 판단된 즉각 호응 감정을 조합한 통합 답변 정보를 생성할 수 있다. 통합 답변 정보에는 시각적, 청각적, 촉각적 출력 등이 가능한 복수의 서로 다른 정보가 포함될 수 있으며, 일례로 음성 답변, 표정 정보, 동작 정보 등이 포함될 수 있다. 통합 답변 정보를 생성하는 과정에서 대해서는 이하에서 구체적으로 설명하기로 한다.
단계(S581)에서 전자 기기(410)는 사용자의 최종 의도에 대해 전자 기기(410)가 포함하는 스피커 또는 전자 기기(410)와 연동된 스피커와 같은 음성 출력 장치를 통해 통합 답변 정보에 따른 음성 답변을 출력할 수 있다.
단계(S582)에서 전자 기기(410)는 사용자의 최종 의도에 대해 전자 기기(410)가 포함하는 디스플레이 또는 전자 기기(410)와 연동된 디스플레이와 같은 영상 출력 장치를 통해 통합 답변 정보에 따른 표정 정보를 출력할 수 있다. 예를 들어, 영상 출력 장치는 대화 기반 인터페이스에 해당되는 소정의 캐릭터를 표시할 수 있고, 사용자의 음성 입력이나 얼굴 영상에 대응하는 답변으로서 표정 정보를 해당 캐릭터에 반영할 수 있다.
단계(S583)에서 전자 기기(410)는 사용자의 최종 의도에 대해 전자 기기(410)가 포함하는 모터 제어 동작 장치 또는 전자 기기(410)와 연동된 모터 제어 동작 장치를 통해 통합 답변 정보에 따른 동작 정보를 출력할 수 있다. 예컨대, 전자 기기(410)가 대화 로봇인 경우 사용자의 최종 의도에 대응하는 통합 답변 정보에 따라 해당 답변과 관련된 동작을 구현할 수 있다.
전자 기기(410)는 단계(S570)에서 조합한 통합 답변 정보를 각종 디바이스로 출력할 수 있으며, 예를 들어 답변 문장의 음성 파일은 스피커로 출력될 수 있고, 답변 문장에서 추출된 감정 정보는 그에 대응하는 표정 애니메이션이나 동작을 위해 디스플레이 장치와 모터 제어 동작 장치 중 적어도 하나의 디바이스로 출력될 수 있다.
도 6은 본 발명의 일실시예에 있어서, 통합 답변 생성 과정(S570)의 예를 도시한 흐름도이다.
단계(S601)에서 전자 기기(410)는 단계(S541)에서 선택된 답변 문장을 음성 파일로 변환할 수 있다. 다시 말해, 전자 기기(410)는 TTS(text to speech) 음성 합성기를 이용하여 답변 문장의 음성 파일을 추출할 수 있다.
단계(S602)에서 전자 기기(410)는 답변 문장에 포함된 감정 용어 각각에 대하여 음성 파일 내에서의 위치 값을 추출할 수 있다. 전자 기기(410)는 답변 문장의 음성 파일에서 감정 용어가 위치하는 지점을 파악할 수 있다. 예를 들어, 답변 문장 '힘든 일이 많겠지만, 언젠가는 좋은 일이 생길거에요.'에서 감정 용어에 해당되는 '힘든'과 '좋은'의 위치 값을 각각 추출할 수 있다.
단계(S603)에서 전자 기기(410)는 답변 문장에서 추출된 답변 감정 정보, 사용자 감정에 대응되는 즉각 호응 감정 정보, 답변 문장의 음성 파일, 및 음성 파일 내 감정 용어 별 위치 값을 이용하여 통합 답변을 위한 싱크로나이징(synchronizing)을 수행할 수 있다. 전자 기기(410)는 음성 파일에서의 감정 용어 별 위치 값을 바탕으로 답변 문장의 음성 파일과 답변 문장에서 추출된 답변 감정 정보를 싱크로나이징 할 수 있다. 일례로, 전자 기기(410)는 음성 파일이 출력되기 전에 즉각 호응 감정이 출력되고 즉각 호응 감정이 출력된 후 음성 파일이 출력되되 음성 파일의 출력과 함께 감정 용어 별 위치 값에 대응되는 시점에 해당 감정이 출력되도록 하는 답변 출력 제어 정보를 생성할 수 있고, 사용자의 최종 의도에 대응되는 통합 답변이 이루어지도록 상기한 답변 출력 제어 정보와 함께 답변 문장의 음성 파일을 답변 출력 장치(예컨대, 음성 출력 장치, 영상 출력 장치, 모터 제어 동작 장치 등)로 전달할 수 있다. 이때, 답변 출력 장치에서는 장치 별로 정해진 규칙에 따라 사용자의 최종 의도에 대응하는 답변 데이터로서 통합 답변 정보를 답변 출력 제어 정보에 맞게 출력할 수 있다.
도 7 내지 도 9는 본 발명의 일실시예에 있어서, 통합 답변 정보의 예시들을 도시한 것이다.
도 7은 사용자의 음성 입력 '좋아하는 음식이 뭐야'에 대해 생성된 통합 답변 정보의 예시를 나타낸 것이다.
도 7의 예시에서는 사용자의 음성 입력(701) '좋아하는 음식이 뭐야?'에 대해 답변 문장(702)으로 '치킨 너무너무 좋아해요! 살이 쪄서 괴롭지만요.'가 선택되고, 음성 입력(701)에 대해 즉각 호응 감정 [고민(종류), 5(강도)]이 판단되고, 답변 문장(702)에 포함된 감정 용어 <너무너무 좋아해요>에 대해 감정 정보 [기쁨, 10], 음성 파일 내 위치 값 0.5sec가 추출되고, 감정 용어 <괴롭지만요>에 대해 감정 정보 [괴로움, 5], 음성 파일 내 위치 값 1.5sce가 추출될 수 있다.
이에, 전자 기기(410)는 답변 문장(702)의 음성 파일(710)을 출력하기에 앞서 음성 입력(701)에 대해 바로 즉각 호응 감정 [고민, 5]를 먼저 출력하고 이후 음성 파일(710)을 출력하되 음성 파일(710)에서 감정 용어 <너무너무 좋아해요>가 등장하는 0.5sec 시점에 감정 [기쁨, 10]을 출력하고 이어 감정 용어 <괴롭지만요>가 등장하는 1.5sec 시점에 감정 [괴로움, 5]을 출력하기 위한 답변 출력 제어 정보(720)를 생성할 수 있다.
도 8은 사용자의 음성 입력 '요즘 왠지 우울해'에 대해 생성된 통합 답변 정보의 예시를 나타낸 것이다.
도 8의 예시에서는 사용자의 음성 입력(801) '요즘 왠지 우울해'에 대해 답변 문장(802)으로 '걱정돼요. 달콤한 초콜릿 어때요? 기분이 좋아질거에요.'가 선택되고, 음성 입력(801)에 대해 즉각 호응 감정 [슬픔, 7]이 판단되고, 답변 문장(802)에 포함된 감정 용어 <걱정돼요>에 대해 감정 정보 [불안, 5], 음성 파일 내 위치 값 0.0sec가 추출되고, 감정 용어 <좋아질거에요>에 대해 감정 정보 [기쁨, 5], 음성 파일 내 위치 값 2.5sce가 추출될 수 있다.
이에, 전자 기기(410)는 답변 문장(802)의 음성 파일(810)을 출력하기에 앞서 음성 입력(801)에 대해 바로 즉각 호응 감정 [슬픔, 7]를 먼저 출력하고 이후 음성 파일(810)을 출력하되 음성 파일(810)에서 감정 용어 <걱정돼요>가 등장하는 0.0sec 시점에 감정 [불안, 5]을 출력하고 이어 감정 용어 <좋아질거에요>가 등장하는 2.5sec 시점에 감정 [기쁨, 5]을 출력하기 위한 답변 출력 제어 정보(820)를 생성할 수 있다.
도9는 사용자의 음성 입력 '나 주말에 여행갈거야!'에 대해 생성된 통합 답변 정보의 예시를 나타낸 것이다.
도 9의 예시에서는 사용자의 음성 입력(901) '나 주말에 여행갈거야!'에 대해 답변 문장(902)으로 '재밌는 여행되세요. 차 조심하시구요'가 선택되고, 음성 입력(901)에 대해 즉각 호응 감정 [놀람, 5]이 판단되고, 답변 문장(902)에 포함된 감정 용어 <재밌는>에 대해 감정 정보 [기쁨, 8], 음성 파일 내 위치 값 0.0sec가 추출되고, 감정 용어 <조심하시구요>에 대해 감정 정보 [불안, 5], 음성 파일 내 위치 값 2.2sce가 추출될 수 있다.
이에, 전자 기기(410)는 답변 문장(902)의 음성 파일(910)을 출력하기에 앞서 음성 입력(901)에 대해 바로 즉각 호응 감정 [놀람, 5]를 먼저 출력하고 이후 음성 파일(910)을 출력하되 음성 파일(910)에서 감정 용어 <재밌는>이 등장하는 0.0sec 시점에 감정 [기쁨, 8]을 출력하고 이어 감정 용어 <조심하시구요>가 등장하는 2.2sec 시점에 감정 [불안, 5]을 출력하기 위한 답변 출력 제어 정보(920)를 생성할 수 있다.
따라서, 전자 기기(410)는 사용자의 최종 의도에 대응하는 답변 문장의 음성 파일을 출력하는 과정에서 음성 파일의 특정 영역에서 발현되는 특정한 감정들을 음성 형태, 디스플레이 형태, 동작 형태 등으로 표현할 수 있고, 답변 음성을 출력하기 이전에 사용자의 음성 입력 및/또는 얼굴 영상을 통해 실시간으로 판단되는 사용자 감정에 대해 즉각적으로 대응하기 위한 호응 감정을 출력할 수 있다.
이처럼 본 발명의 실시예들에 따르면, 사람의 감정을 파악하여 이에 대응하는 다양한 감정을 음성, 시각, 동작 등 통합 정보로 표현할 수 있는 환경을 통해 사람-기계 간 정서적 교감을 불러일으킬 수 있다.
이상에서 설명된 장치는 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치 및 구성요소는, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPGA(field programmable gate array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 어플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.
소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 컴퓨터 저장 매체 또는 장치에 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 이때, 매체는 컴퓨터로 실행 가능한 프로그램을 계속 저장하거나, 실행 또는 다운로드를 위해 임시 저장하는 것일 수도 있다. 또한, 매체는 단일 또는 수 개의 하드웨어가 결합된 형태의 다양한 기록수단 또는 저장수단일 수 있는데, 어떤 컴퓨터 시스템에 직접 접속되는 매체에 한정되지 않고, 네트워크 상에 분산 존재하는 것일 수도 있다. 매체의 예시로는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM 및 DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical medium), 및 ROM, RAM, 플래시 메모리 등을 포함하여 프로그램 명령어가 저장되도록 구성된 것이 있을 수 있다. 또한, 다른 매체의 예시로, 어플리케이션을 유통하는 앱 스토어나 기타 다양한 소프트웨어를 공급 내지 유통하는 사이트, 서버 등에서 관리하는 기록매체 내지 저장매체도 들 수 있다.
이상과 같이 실시예들이 비록 한정된 실시예와 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.
그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.

Claims (18)

  1. 컴퓨터로 구현되는 인공지능 대화 방법에 있어서,
    사용자의 대화 의도를 판단하는 단계;
    상기 사용자의 대화 의도에 대응되는 답변 문장을 결정하는 단계; 및
    상기 답변 문장에 해당되는 음성 파일을 출력하되 상기 답변 문장에 포함된 감정 용어가 출력하는 시점에 상기 감정 용어에 대응되는 감정 정보를 함께 출력하는 단계
    를 포함하는 인공지능 대화 방법.
  2. 제1항에 있어서,
    상기 판단하는 단계는,
    상기 사용자의 음성 입력 및 얼굴 영상 중 적어도 하나를 이용하여 상기 사용자의 감정 정보를 추출하는 단계
    를 포함하는 인공지능 대화 방법.
  3. 제1항에 있어서,
    상기 판단하는 단계는,
    상기 사용자의 음성 입력을 수신하여 상기 음성 입력의 문장으로부터 제1 감정 정보를 추출하는 단계;
    상기 사용자의 얼굴 영상을 수신하여 얼굴 표정으로부터 제2 감정 정보를 추출하는 단계; 및
    상기 제1 감정 정보와 상기 제2 감정 정보를 종합하여 상기 사용자의 대화 의도를 판단하는 단계
    를 포함하는 인공지능 대화 방법.
  4. 제1항에 있어서,
    의도 별로 복수 개의 문장 세트가 사전에 정해지며,
    상기 결정하는 단계는,
    상기 사용자의 대화 의도에 해당되는 문장 세트 중에서 상기 답변 문장을 선택하는 것
    을 특징으로 하는 인공지능 대화 방법.
  5. 제1항에 있어서,
    상기 출력하는 단계는,
    상기 답변 문장에 포함된 상기 감정 용어 각각에 대하여 상기 감정 용어에 대응되는 감정 정보를 추출하는 단계;
    상기 답변 문장을 상기 음성 파일로 변환하는 단계;
    상기 감정 용어 각각에 대하여 상기 음성 파일 내에서의 위치 값을 추출하는 단계; 및
    상기 음성 파일의 출력과 함께 상기 위치 값에 대응되는 시점에 상기 감정 정보를 출력하는 단계
    를 포함하는 인공지능 대화 방법.
  6. 제5항에 있어서,
    상기 위치 값에 대응되는 시점에 상기 감정 정보를 출력하는 단계는,
    상기 위치 값을 이용하여 상기 음성 파일과 상기 감정 정보에 대한 싱크로나이징(synchronizing)을 수행하는 것
    을 특징으로 하는 인공지능 대화 방법.
  7. 제1항에 있어서,
    상기 출력하는 단계는,
    상기 감정 용어에 대응되는 감정 정보를 디스플레이 장치와 모터 제어 동작 장치 중 적어도 하나의 디바이스를 통해 출력하는 것
    을 특징으로 하는 인공지능 대화 방법.
  8. 제1항에 있어서,
    상기 사용자의 음성 입력 및 얼굴 영상 중 적어도 하나로부터 판단되는 상기 사용자의 감정에 대해 즉각 호응 감정을 판단하는 단계; 및
    상기 음성 파일을 출력하기 이전에 상기 즉각 호응 감정에 대한 정보를 출력하는 단계
    를 더 포함하는 인공지능 대화 방법.
  9. 컴퓨터와 결합되어 제1항 내지 제8항 중 어느 한 항의 인공지능 대화 방법을 컴퓨터에 실행시키기 위해 컴퓨터 판독 가능한 기록매체에 저장된 컴퓨터 프로그램.
  10. 제1항 내지 제8항 중 어느 한 항의 인공지능 대화 방법을 컴퓨터에 실행시키기 위한 프로그램이 기록되어 있는 것을 특징으로 하는 컴퓨터에서 판독 가능한 기록매체.
  11. 컴퓨터로 구현되는 인공지능 대화 시스템에 있어서,
    컴퓨터에서 판독 가능한 명령을 실행하도록 구현되는 적어도 하나의 프로세서
    를 포함하고,
    상기 적어도 하나의 프로세서는,
    사용자의 대화 의도를 판단하고,
    상기 사용자의 대화 의도에 대응되는 답변 문장을 결정하고,
    상기 답변 문장에 해당되는 음성 파일을 출력하되 상기 답변 문장에 포함된 감정 용어가 출력하는 시점에 상기 감정 용어에 대응되는 감정 정보를 함께 출력하는 것
    을 특징으로 하는 인공지능 대화 시스템.
  12. 제11항에 있어서,
    상기 적어도 하나의 프로세서는, 상기 사용자의 대화 의도를 판단하기 위해,
    상기 사용자의 음성 입력 및 얼굴 영상 중 적어도 하나를 이용하여 상기 사용자의 감정 정보를 추출하는 것
    을 특징으로 하는 인공지능 대화 시스템.
  13. 제11항에 있어서,
    상기 적어도 하나의 프로세서는, 상기 사용자의 대화 의도를 판단하기 위해,
    상기 사용자의 음성 입력을 수신하여 상기 음성 입력의 문장으로부터 제1 감정 정보를 추출하고,
    상기 사용자의 얼굴 영상을 수신하여 얼굴 표정으로부터 제2 감정 정보를 추출하고,
    상기 제1 감정 정보와 상기 제2 감정 정보를 종합하여 상기 사용자의 대화 의도를 판단하는 것
    을 특징으로 하는 인공지능 대화 시스템.
  14. 제11항에 있어서,
    의도 별로 복수 개의 문장 세트가 사전에 정해지며,
    상기 적어도 하나의 프로세서는, 상기 답변 문장을 결정하기 위해,
    상기 사용자의 대화 의도에 해당되는 문장 세트 중에서 상기 답변 문장을 선택하는 것
    을 특징으로 하는 인공지능 대화 시스템.
  15. 제11항에 있어서,
    상기 적어도 하나의 프로세서는, 상기 감정 용어에 대응되는 감정 정보를 출력하기 위해,
    상기 답변 문장에 포함된 상기 감정 용어 각각에 대하여 상기 감정 용어에 대응되는 감정 정보를 추출하고,
    상기 답변 문장을 상기 음성 파일로 변환하고,
    상기 감정 용어 각각에 대하여 상기 음성 파일 내에서의 위치 값을 추출하고,
    상기 음성 파일의 출력과 함께 상기 위치 값에 대응되는 시점에 상기 감정 정보를 출력하는 것
    을 특징으로 하는 인공지능 대화 시스템.
  16. 제15항에 있어서,
    상기 적어도 하나의 프로세서는, 상기 감정 용어에 대응되는 감정 정보를 출력하기 위해,
    상기 위치 값을 이용하여 상기 음성 파일과 상기 감정 정보에 대한 싱크로나이징(synchronizing)을 수행하는 것
    을 특징으로 하는 인공지능 대화 시스템.
  17. 제11항에 있어서,
    상기 적어도 하나의 프로세서는, 상기 감정 용어에 대응되는 감정 정보를 출력하기 위해,
    상기 감정 용어에 대응되는 감정 정보를 디스플레이 장치와 모터 제어 동작 장치 중 적어도 하나의 디바이스를 통해 출력하는 것
    을 특징으로 하는 인공지능 대화 시스템.
  18. 제11항에 있어서,
    상기 적어도 하나의 프로세서는,
    상기 사용자의 음성 입력 및 얼굴 영상 중 적어도 하나로부터 판단되는 상기 사용자의 감정에 대해 즉각 호응 감정을 판단하고,
    상기 음성 파일을 출력하기 이전에 상기 즉각 호응 감정에 대한 정보를 출력하는 것
    을 특징으로 하는 인공지능 대화 시스템.
KR1020170082427A 2017-06-29 2017-06-29 사람-기계 간 감정 대화를 위한 방법 및 시스템 KR102034255B1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020170082427A KR102034255B1 (ko) 2017-06-29 2017-06-29 사람-기계 간 감정 대화를 위한 방법 및 시스템
JP2017220003A JP6678632B2 (ja) 2017-06-29 2017-11-15 人間−機械間の感情会話のための方法及びシステム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020170082427A KR102034255B1 (ko) 2017-06-29 2017-06-29 사람-기계 간 감정 대화를 위한 방법 및 시스템

Publications (2)

Publication Number Publication Date
KR20190002067A true KR20190002067A (ko) 2019-01-08
KR102034255B1 KR102034255B1 (ko) 2019-10-18

Family

ID=65021254

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020170082427A KR102034255B1 (ko) 2017-06-29 2017-06-29 사람-기계 간 감정 대화를 위한 방법 및 시스템

Country Status (2)

Country Link
JP (1) JP6678632B2 (ko)
KR (1) KR102034255B1 (ko)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111210818A (zh) * 2019-12-31 2020-05-29 北京三快在线科技有限公司 匹配情感极性的词语采集方法、装置、电子设备
WO2020196977A1 (ko) * 2019-03-26 2020-10-01 한국과학기술원 사용자 페르소나를 고려한 대화형 에이전트 장치 및 방법
WO2020214011A1 (en) * 2019-04-19 2020-10-22 Samsung Electronics Co., Ltd. Information processing method, apparatus, electronic device and computer readable storage medium
KR20210058449A (ko) * 2019-11-14 2021-05-24 주식회사 셀바스에이아이 인공 지능 기반의 정신 건강 관리를 위한 장치 및 방법
KR102565197B1 (ko) * 2022-11-30 2023-08-11 주식회사 엘젠 사용자 공간 방문 목적에 근거한 디지털 휴먼 제공 방법 및 시스템

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110349577B (zh) * 2019-06-19 2022-12-06 达闼机器人股份有限公司 人机交互方法、装置、存储介质及电子设备
CN110370275A (zh) * 2019-07-01 2019-10-25 夏博洋 基于表情识别的情绪聊天机器人
KR102544262B1 (ko) * 2022-08-19 2023-06-16 (주)페르소나에이아이 사용자와 메타휴먼의 쌍방향 대화 응대 서비스를 스트리밍 기반으로 제공하는 전자 장치

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20040106960A (ko) * 2003-06-10 2004-12-20 (주)얄리 자연어 기반 감정인식, 감정표현 시스템 및 그 방법
KR20140067678A (ko) * 2012-11-27 2014-06-05 포항공과대학교 산학협력단 상담 대화 제공 방법 및 이를 이용하는 장치

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002127062A (ja) * 2000-08-18 2002-05-08 Nippon Telegr & Teleph Corp <Ntt> ロボットシステム、ロボット制御信号生成装置、ロボット制御信号生成方法、記録媒体、プログラムおよびロボット
JP3676981B2 (ja) * 2001-01-16 2005-07-27 株式会社エイ・ジー・アイ 感性発生方法及び感性発生装置並びにソフトウェア
JP3372532B2 (ja) * 2000-10-11 2003-02-04 日本電信電話株式会社 感情情報抽出方法および感情情報抽出プログラムの計算機読み取り可能な記録媒体
JP4409279B2 (ja) * 2003-12-22 2010-02-03 株式会社日立製作所 音声合成装置及び音声合成プログラム
JP2006043780A (ja) * 2004-07-30 2006-02-16 Shinshu Univ 曲面顔画像表示を用いたコミュニケーションロボット
JP2007264284A (ja) * 2006-03-28 2007-10-11 Brother Ind Ltd 感情付加装置、感情付加方法及び感情付加プログラム
JP6359478B2 (ja) * 2015-03-31 2018-07-18 シャープ株式会社 ロボット
JP6601069B2 (ja) * 2015-09-01 2019-11-06 カシオ計算機株式会社 対話制御装置、対話制御方法及びプログラム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20040106960A (ko) * 2003-06-10 2004-12-20 (주)얄리 자연어 기반 감정인식, 감정표현 시스템 및 그 방법
KR20140067678A (ko) * 2012-11-27 2014-06-05 포항공과대학교 산학협력단 상담 대화 제공 방법 및 이를 이용하는 장치

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020196977A1 (ko) * 2019-03-26 2020-10-01 한국과학기술원 사용자 페르소나를 고려한 대화형 에이전트 장치 및 방법
KR20200113775A (ko) * 2019-03-26 2020-10-07 한국과학기술원 사용자 페르소나를 고려한 대화형 에이전트 장치 및 방법
WO2020214011A1 (en) * 2019-04-19 2020-10-22 Samsung Electronics Co., Ltd. Information processing method, apparatus, electronic device and computer readable storage medium
KR20210058449A (ko) * 2019-11-14 2021-05-24 주식회사 셀바스에이아이 인공 지능 기반의 정신 건강 관리를 위한 장치 및 방법
CN111210818A (zh) * 2019-12-31 2020-05-29 北京三快在线科技有限公司 匹配情感极性的词语采集方法、装置、电子设备
WO2021135140A1 (zh) * 2019-12-31 2021-07-08 北京三快在线科技有限公司 匹配情感极性的词语采集
KR102565197B1 (ko) * 2022-11-30 2023-08-11 주식회사 엘젠 사용자 공간 방문 목적에 근거한 디지털 휴먼 제공 방법 및 시스템

Also Published As

Publication number Publication date
JP6678632B2 (ja) 2020-04-08
JP2019012255A (ja) 2019-01-24
KR102034255B1 (ko) 2019-10-18

Similar Documents

Publication Publication Date Title
KR102034255B1 (ko) 사람-기계 간 감정 대화를 위한 방법 및 시스템
KR101949497B1 (ko) 사용자 발화의 표현법을 파악하여 기기의 동작이나 컨텐츠 제공 범위를 조정하여 제공하는 사용자 명령 처리 방법 및 시스템
US20200279553A1 (en) Linguistic style matching agent
US10832674B2 (en) Voice data processing method and electronic device supporting the same
CN106373569B (zh) 语音交互装置和方法
CN105843381B (zh) 用于实现多模态交互的数据处理方法及多模态交互系统
KR102204979B1 (ko) 딥러닝 생성모델과 다중모달 분포를 이용하여 멀티턴 대화 응답을 생성하는 방법 및 시스템
US11430438B2 (en) Electronic device providing response corresponding to user conversation style and emotion and method of operating same
KR102281600B1 (ko) 합성 음성에 대한 보정을 수행하는 인공 지능 장치 및 그 방법
JP6728319B2 (ja) 人工知能機器で複数のウェイクワードを利用したサービス提供方法およびそのシステム
CN112840396A (zh) 用于处理用户话语的电子装置及其控制方法
CN110148406B (zh) 一种数据处理方法和装置、一种用于数据处理的装置
Singh The role of speech technology in biometrics, forensics and man-machine interface.
KR20220129989A (ko) 아바타에 기초한 인터랙션 서비스 방법 및 장치
KR20190002073A (ko) 기계의 자동 활성을 위한 방법 및 시스템
Aylett et al. Building and designing expressive speech synthesis
KR20190109651A (ko) 인공지능 기반의 음성 모방 대화 서비스 제공 방법 및 시스템
Feldman et al. Engagement with artificial intelligence through natural interaction models
CN116580691A (zh) 语音合成方法、语音合成装置、电子设备及存储介质
KR20220070466A (ko) 지능적 음성 인식 방법 및 장치
KR20200132645A (ko) 음성 인식 서비스를 제공하는 장치 및 방법
KR20190018666A (ko) 기계의 자동 활성을 위한 방법 및 시스템
US20220301250A1 (en) Avatar-based interaction service method and apparatus
Jeong et al. A computer remote control system based on speech recognition technologies of mobile devices and wireless communication technologies
WO2020087534A1 (en) Generating response in conversation

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant