KR102488886B1 - 하이브리드 지능형 고객 상담장치 및 방법 - Google Patents

Abstract

효율적인 주문서 작성 및 응답 예측을 위한 하이브리드 지능형 고객 상담장치 및 방법을 개시한다.
본 실시예는, 상담사가 상담을 진행할 때, 대화 진행 과정을 분석하여 고객의 의도(intent)에 대한 예측을 기반으로 상담 업무의 일부를 자동화한다. 대화 진행 과정에 대한 분석을 바탕으로 주문서 작성 및 응답 문장의 자동 생성 및 수정이 가능한 하이브리드(hybrid) 고객 상담장치 및 방법을 제공한다.

Description

하이브리드 지능형 고객 상담장치 및 방법{Method and Apparatus for Providing Hybrid Intelligent Customer Consultation}

본 발명은 효율적인 주문서 작성 및 응답 예측을 위한 하이브리드 지능형 고객 상담장치 및 방법에 관한 것이다.

이하에 기술되는 내용은 단순히 본 발명과 관련되는 배경 정보만을 제공할 뿐 종래기술을 구성하는 것이 아니다.

일반적인 고객 상담 시스템에서는 고객이 전화나 메신저로 상담 서비스에 접속하면, 상담사와의 직접 대화 또는 상담사에 의한 정보 검색 등에 기반하여 상담의 전체 과정이 진행될 수 있다. 도 10은 기존의 일반적인 상담 시스템에 대한 구성도이다. 여기서 IVR(Interactive Voice Response) 시스템은 음성 대화에 의존하는 상담 시스템이고, 메시징 시스템(messaging system)은 메신저 서비스(messenger service)에 의존하는 상담 시스템이다. 고객 서비스 시스템은 상담 과정에서 정보 검색을 위해 상담사가 이용 가능한 정보를 포함할 수 있다.

일반적인 상담 시스템은 상담사의 높은 숙련도를 요구하므로 방대한 양의 서비스를 고품질로 처리하기에 어려움이 존재한다. 즉 상담사 별로 숙련도가 상이하므로 일관되지 못한 서비스가 제공되거나, 잘못된 상담이 진행되는 문제도 발생할 수 있다.

한편, 최근 AI(Artificial Intelligence) 기술이 발전에 따라 대화 이해(dialogue understanding) 기술을 도입한 상담 시스템이 개발되어 사용되고 있다. 도 11은 대화시스템에 기반하는 기존의 지능형 상담 시스템의 구성도이다. 지능형 상담 시스템은 일반적인 상담 시스템과 연계되는 AI 기술에 기반하는 대화 이해 시스템을 포함한다.

통상적인 대화 이해 시스템은 언어이해 모듈, 태스크예측 및 실행 모듈, 응답생성 모듈 및 고객 서비스 지원 모델(assistance model) 등을 포함한다. 언어 이해 모듈은 고객의 의도를 추론하고, 태스크 예측 및 실행 모듈은 의도에 부합하는 정보를 검색하여 서비스 항목을 추천하며, 응답 생성 모듈은 의도에 대한 응답을 생성한다. 고객 서비스지원 모델은 각 모듈의 동작을 지원하는 것이 가능한 딥러닝 기반 모델(deep learning based models)을 포함할 수 있다.

AI 대화 시스템에서 종종 발생하는 언어 이해 오류 또는 응답 생성 오류에 따라, 지능형 상담 시스템은 상담 업무에 실패하는 경우가 빈번하다. 또한 지능형 상담 시스템은 오류 상황 정정 또는 복구하지 못하는 경우도 빈번하므로, 고객에게 큰 불편함을 유발할 수 있다.

따라서, 상담사에 대한 높은 숙련도 요구를 완화하면서도, AI 대화 시스템이 보이는 빈번한 오류 상황의 극복이 가능한 하이브리드 지능형 상담 시스템을 필요로 한다.

비특허문헌 1: Alec Radford, Karthik Narasimhan, Tim Salimans, and Ilya Sutskever. 2018. Improving language understanding with unsupervised learning. Technical report, OpenAI.

본 개시는, 상담사가 상담을 진행할 때, 대화 진행 과정을 분석하여 고객의 의도(intent)에 대한 예측을 기반으로 상담 업무의 일부를 자동화한다. 대화 진행 과정에 대한 분석을 바탕으로 주문서 작성 및 응답 문장의 자동 생성 및 수정이 가능한 하이브리드(hybrid) 고객 상담장치 및 방법을 제공하는 데 주된 목적이 있다.

본 발명의 실시예에 따르면, 고객과의 대화(dialogues)로부터 키워드(keywords)를 추출하는 언어이해부; 상기 키워드를 기반으로 상기 대화의 문맥(context)을 분석하여, 상기 고객과의 상담 진행에 필요한 태스크(tasks)를 예측 및 실행하는 태스크예측 및 실행부; 상기 태스크에 대한 실행 결과를 기반으로, 응답예측 모델(response prediction model)을 이용하여 상기 대화에 대한 적어도 하나의 후보 응답(candidate responses)을 생성하는 응답생성부; 및 상기 태스크에 대한 실행 결과를 기반으로, 주문서작성 모델(order generation model)을 이용하여 상기 고객의 의도(intent)에 부합하는 주문서를 생성하는 서비스검토 생성부를 포함하는 것을 특징으로 하는 하이브리드(hybrid) 상담장치를 제공한다.

본 발명의 다른 실시예에 따르면, 하이브리드(hybrid) 상담장치의 하이브리드 상담방법에 있어서, 고객과의 대화로부터 키워드(keywords)를 추출하는 과정; 상기 키워드를 기반으로 상기 대화의 문맥을 분석하여, 상기 고객과의 상담 진행에 필요한 태스크(task)를 예측하고 실행하는 과정; 상기 태스크에 대한 실행 결과를 기반으로, 사전에 트레이닝된 딥러닝(deep-learning) 기반 응답예측 모델(response prediction model)을 이용하여 상기 대화에 대한 적어도 하나의 후보 응답(candidate responses)을 생성하는 과정; 및 상기 태스크에 대한 실행 결과를 기반으로, 사전에 트레이닝된 딥러닝 기반 주문서작성 모델(order generation model)을 이용하여 상기 고객의 의도(intent)에 부합하는 주문서를 생성하는 과정을 포함하는 것을 특징으로 하는, 컴퓨터 상에 구현되는 하이브리드 상담방법을 제공한다.

본 발명의 다른 실시예에 따르면, 하이브리드 상담방법이 포함하는 각 단계를 실행시키기 위하여 컴퓨터로 읽을 수 있는, 기록매체에 저장된 컴퓨터프로그램을 제공한다.

이상에서 설명한 바와 같이 본 실시예에 따르면, 대화 진행 과정에 대한 분석을 바탕으로 주문서 작성 및 응답 문장의 자동 생성 및 수정이 가능한 하이브리드 지능형 고객 상담장치 및 방법을 제공함으로써, 상담 업무의 효율성 증대가 가능해지는 효과가 있다.

또한 본 실시예에 따르면, 대화 진행 과정에 대한 분석을 바탕으로 주문서 작성 및 응답 문장의 자동 생성 및 수정이 가능한 하이브리드 지능형 고객 상담장치 및 방법을 제공함으로써, 방대한 상담 업무의 신속 정확한 처리에 따른 고객 만족도 증대가 가능해지는 효과가 있다.

도 1은 본 발명의 일 실시예에 따른 하이브리드 지능형 고객 상담 시스템에 대한 구성도이다.
도 2는 본 발명의 일 실시예에 따른 주문서 검토 화면에 대한 예시도이다.
도 3은 본 발명의 일 실시예에 따른 주문서작성 모델에 대한 구성도이다.
도 4는 본 발명의 일 실시예에 따른 응답 수정 과정에 대한 예시도이다.
도 5는 본 발명의 일 실시예에 따른 AR 언어 모델링 방법에 대한 예시도이다.
도 6은 본 발명의 일 실시예에 따른 응답예측 모델에 대한 구성도이다.
도 7은 본 발명의 다른 실시예에 따른 DB 검색 기반 응답 수정에 대한 예시도이다.
도 8은 본 발명의 일 실시예에 따른 상담 지원방법 중 응답 생성에 대한 순서도이다.
도 9는 본 발명의 일 실시예에 따른 상담 지원방법 중 주문서 생성에 대한 순서도이다.
도 10은 기존의 일반적인 상담 시스템에 대한 구성도이다.
도 11은 대화시스템에 기반하는 기존의 지능형 상담 시스템의 구성도이다.

이하, 본 발명의 실시예들을 예시적인 도면을 참조하여 상세하게 설명한다. 각 도면의 구성요소들에 참조부호를 부가함에 있어서, 동일한 구성요소들에 대해서는 비록 다른 도면상에 표시되더라도 가능한 한 동일한 부호를 가지도록 하고 있음에 유의해야 한다. 또한, 본 실시예들을 설명함에 있어, 관련된 공지 구성 또는 기능에 대한 구체적인 설명이 본 실시예들의 요지를 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명은 생략한다.

또한, 본 실시예들의 구성요소를 설명하는 데 있어서, 제 1, 제 2, A, B, (a), (b) 등의 용어를 사용할 수 있다. 이러한 용어는 그 구성요소를 다른 구성요소와 구별하기 위한 것일 뿐, 그 용어에 의해 해당 구성요소의 본질이나 차례 또는 순서 등이 한정되지 않는다. 명세서 전체에서, 어떤 부분이 어떤 구성요소를 '포함', '구비'한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미한다. 또한, 명세서에 기재된 '…부', '모듈' 등의 용어는 적어도 하나의 기능이나 동작을 처리하는 단위를 의미하며, 이는 하드웨어나 소프트웨어 또는 하드웨어 및 소프트웨어의 결합으로 구현될 수 있다.

첨부된 도면과 함께 이하에 개시될 상세한 설명은 본 발명의 예시적인 실시형태를 설명하고자 하는 것이며, 본 발명이 실시될 수 있는 유일한 실시형태를 나타내고자 하는 것이 아니다.

본 실시예는 효율적인 주문서 작성 및 응답 예측을 위한 하이브리드(hybrid) 고객 상담장치 및 방법에 대한 내용을 개시한다. 보다 자세하게는, 상담사가 상담을 진행할 때, 대화 진행 과정을 분석하여 고객의 의도(intent)에 대한 예측을 기반으로 상담 업무의 일부를 자동화한다. 대화 진행 과정에 대한 분석을 바탕으로 주문서 작성 및 응답 문장의 자동 생성 및 수정이 가능한 하이브리드 고객 상담장치 및 방법을 제공한다.

도 1은 본 발명의 일 실시예에 따른 하이브리드 고객 상담 시스템에 대한 구성도이다.

본 발명의 실시예에 있어서, 하이브리드 고객 상담 시스템(100)은 상담사와 고객 간의 대화 진행 과정을 분석하여 고객의 의도를 예측하여 주문서 작성 및 응답 예측을 수행한다. 하이브리드 고객 상담 시스템(100, 이하 하이브리드 상담 시스템)은 접속 시스템(110), 고객 서비스 시스템(120), 상담 지원장치(130)의 전부 또는 일부를 포함한다.

접속 시스템(110)은 고객과 고객 서비스 시스템(120) 간을 연계한다. 접속 시스템으로는 IVR(Interactive Voice Response) 시스템 또는 메시징 시스템(messaging system)을 이용할 수 있다. IVR 시스템은 전화를 이용하는 음성 대화에 기반하고, 메시징 시스템은 메신저 서비스(messenger service)를 이용하는 문자 대화에 기반한다.

고객과의 커뮤니케이션 측면에서 두 접속 시스템은 큰 차이가 없다. 다만 인력 운용 측면에서 메시징 시스템의 특징은 IVR 시스템과 달리 한 명의 상담사가 동시에 다수의 고객을 상대하는 것이 가능하다는 점이다.

한편, IVR 시스템이 이용되는 경우, 하이브리드 상담 시스템(100) 내에 음성 대화를 인식하여 텍스트로 또는 그 역으로 변환하는 모듈이 추가되면, 텍스트 변환 이후의 과정을 메시징 시스템과 동일하게 운용하는 것이 가능해질 수 있다.

따라서, 이하 본 실시예에 대한 설명에서 대화는 문자 대화를 의미하는 것으로 가정한다.

고객 서비스 시스템(120)은 고객에 대한 정보 및 고객이 원하는 제품 또는 서비스에 대한 정보를 보유하고, 고객 서비스의 대상이 되는 데이터 검색을 위해 내부에 DB(Database)를 포함하거나 외부의 DB와 연계될 수 있다.

상담 지원장치(130)의 지원을 받는 채로, 고객 서비스 시스템(120)을 이용하여 상담사는 응답 및 주문서 작성 등과 같은 고객에 대한 서비스를 실행할 수 있다. 상담사는 고객 서비스 시스템(120)이 탑재되는 디바이스 상의 화면을 이용하여 접속 시스템(110), 상담 지원장치(130)와 연결되고, 고객 서비스 시스템(120) 내부의 정보를 사용할 수 있다.

본 실시예에 따른 상담 지원장치(130)는 문자 대화 과정에 대한 분석을 기반으로 고객의 의도(intent)를 예측하여 주문서 작성 및 응답 예측을 수행한다. 상담 지원장치(130)는 언어이해부(131), 태스크예측(task prediction) 및 실행부(132), 응답생성부(133), 서비스검토 생성부(134) 및 서비스지원 모델풀(135, service assistance model pool)의 전부 또는 일부를 포함할 수 있다. 여기서, 본 실시예에 따른 상담 지원장치(130)에 포함되는 구성요소가 반드시 이에 한정되는 것은 아니다. 예컨대, 상담 지원장치(130) 상에 추론 모델의 트레이닝을 위한 트레이닝부(미도시)를 추가로 구비하거나, 외부의 트레이닝부와 연동되는(서버의 의미) 형태로 구현될 수 있다.

언어이해부(131)는 고객과의 대화로부터 키워드(keywords)를 추출한다. 여기서 키워드는 고객 상담에 필요한 고유 명사(예컨대 고객명 또는 제품명), 고객의 의도를 내포하는 단어 등을 포함할 수 있다.

언어이해부(131)는 대화를 언어이해 모델(language understanding model)에 입력하여 키워드를 추출할 수 있다. 언어이해 모델은 딥러닝(deep-learning) 기반의 신경망(neural network)으로 구현되되, 자연어 처리(natural language processing)에 적합하도록 사전에 트레이닝될 수 있다.

태스크예측 및 실행부(132)는 키워드를 기반으로 대화의 문맥을 분석하여, 고객과의 상담 진행에 필요한 태스크를 예측 및 실행한다. 태스크는 상담 시스템의 검색, 제품 또는 서비스 항목 추천 등을 포함하며, 태스크에 대한 실행 결과는 응답 예측 또는 주문서 작성을 위한 기초 정보로 이용될 수 있다.

태스크예측 및 실행부(132)는 상담사와 고객 간의 대화 및 상담 시스템의 태스크 실행 히스토리(history)에 대한 정보를 저장하고, 저장된 정보를 태스크예측 모델(task prediction model)에 입력하여 상담에 필요한 태스크를 예측할 수 있다. 태스크예측 모델은 딥러닝 기반의 신경망으로 구현되되, 태스크 예측에 적합하도록 사전에 트레이닝될 수 있다.

응답생성부(133)는 태스크에 대한 실행 결과를 기반으로 고객에게 전달될 대응 정보를 생성한다. 대응 정보는 상담 진행 중인 대화에 대한 응답, 정리된 형태의 표 또는 그림 등을 포함할 수 있다. 여기서 정리된 표 또는 그림은 응답의 일부로 포함될 수 있으므로, 대응 정보의 생성은 대화에 대한 응답을 생성하는 것으로 가정할 수 있다. 이하 응답생성부(133)는 응답을 생성하는 것으로 가정한다.

응답생성부(133)는 태스크에 대한 실행 결과를 기반으로 딥러닝 기반의 응답예측 모델(response prediction model)을 이용하여 복수의 후보 응답(candidate responses)을 생성할 수 있다. 생성된 복수의 후보 응답은 상담사에 의하여 검토(review)될 수 있다. 응답예측 모델, 후보 응답 생성 과정 및 상담사에 의한 검토 단계에 대한 사항은 추후에 설명하기로 한다.

상담사의 사전 설정에 따라, 상담 지원장치(130)는 응답생성부(133)가 예측한 응답을 이용하여, 고객과 직접 대화를 교환할 수 있다. 그러나, 상담 지원장치(130)와 고객 간의 직접 대화의 경우, 상담사는 대화 내역을 검토하여 문제가 없는지 확인해야 한다. 확인 과정은 시간을 많이 소모하고, 세부 내역을 자세히 확인해야 하는 번거로움을 발생시킨다. 따라서, 직접 대화보다는, 전술한 바와 같이 응답예측 모델이 예측한 후보 응답을 상담사가 검토 및 수정한 후, 고객에게 제공하는 방식이 더 효율적일 수 있다.

서비스검토 생성부(134)는 태스크에 대한 실행 결과를 기반으로 고객의 의도에 부합하는 주문서를 생성한다. 서비스검토 생성부(134)는 태스크에 대한 실행 결과를 기반으로 딥러닝 기반의 주문서작성 모델(order generation model)을 이용하여 주문서를 생성할 수 있다.

자동화된 상담 지원장치(130)가 주문과 같은 중요한 작업을 직접 실행하는 경우 오동작으로 인한 위험 부담이 존재한다(특히 고가의 제품 또는 서비스인 경우). 따라서 상담 지원장치(130)가 예측한 주문서는 상담사에 의하여 수동적으로 검토될 수 있다. 주문서작성 모델 및 주문서 생성 과정에 대한 사항은 추후에 설명하기로 한다.

서비스지원 모델풀(135)은 상담 지원장치(130)가 담당하는 태스크 영역(task domain)에 대한 상담을 수행하기 위해 필요한 추론 모델 및 추론 모델에 대한 정보를 저장한다. 추론 모델은 언어이해 모델, 태스크예측 모델, 주문서작성 모델 및/또는 응답예측 모델이다.

도 1의 도시된 상담 지원장치(130)의 구성은 본 실시예에 따른 예시적인 구성이며, 언어이해 모델, 태스크예측 모델, 주문서작성 모델 및 응답예측 모델의 구조, 및 상담사와 상담 지원장치(130) 간의 역할 분담 등에 따라 다른 구성요소 또는 구성요소 간의 다른 연결을 포함하는 구현이 가능하다.

이하 상담 진행 중인 대화로부터 도출 가능한 주문 내역 및 주문서를 작성하는 주문서 작성 모델에 대하여 설명한다.

도 2는 본 발명의 일 실시예에 따른 주문서 검토 화면에 대한 예시도이다. 도 2의 (a)의 예시는 진행 중인 대화를 표시하는 채팅창(chatting window)이고, 도 2의 (b)의 예시는 고객 서비스 시스템(120)의 화면 상에 표시되는 주문서이다.

상담 지원장치(130)는 대화로부터 추론(inference)한 키워드(도 2의 (a)의 경우, 이탤릭체 단어)를 기반으로, 주문서 내역 중에 검토가 필요한 부분에 대하여 하이라이트(highlight)를 표시한다(도 2의 (b)의 경우, 굵은 실선 박스). 화면 상에는 "GG phone"에 분석 결과에 따른 모델명, 대화 문장 해석에 따른 "기기 변경" 및 "24 개월 분할 상환"이 하이라이트되어, 상담사의 확인이 필요함을 나타내고 있다. 상담사는 주문서를 확인한 후, 관련 부서로 전달하거나 고객과 추가 상담을 진행할 수 있다.

상담 지원장치(130)는 언어이해부(131)에서 추출한 키워드에 대응하는 주문서 내역 항목(detail items)의 신뢰도(confidence score)를 산정함으로써, 상담사의 확인이 필요한 주문서 내역 정보를 선택한 후, 하이라이트할 수 있다. 키워드 열(keyword sequence)

에 대하여, 신뢰도는 예측 타겟(prediction target)

에 대한 사후 확률(posterior probability)이며 수학식 1로 표현할 수 있다.

여기서 예측 타겟은 주문서의 개별 주문 항목을 나타낸다. 예측 타겟은 유한한 클래스 혹은 출력 시퀀스(sequence) 형태를 가질 수 있다. 도 2의 (b)의 도시와 같이 주문서는 다수의 내역 항목으로 구성되고, 각 주문 내역 간의 독립(independence)을 가정할 수 있다. 수학식 2에 나타낸 것과 같이, 전체 주문 내역에 대한 신뢰도

는 결합확률(joint probability)을 이용하여 산정할 수 있다.

상담 지원장치(130)는 키워드 열을 기반으로 주문서작성 모델을 이용하여, 예측 타겟에 대한 신뢰도를 산정할 수 있다.

도 3은 본 발명의 일 실시예에 따른 주문서작성 모델에 대한 구성도이다.

주문서 작성 모델은 딥러닝 기반의 신경망으로 구현될 수 있다. 본 실시예에서는 트랜스포머 디코더(Transformer decoder)에 기반하는 주문서 작성 모델을 이용하되, 인코더 관련된 부분이 삭제된 트랜스포머 디코더를 이용한다(비특허문헌 1 참조). 도 3에 도시된 바와 같이, 주문서 작성 모델은 N(N은 자연수이고, 보통 12 이상) 개의 디코더 모듈 및 검출 모듈을 포함한다. 이하 디코더 모듈이 적층된 전체를 표현층(representation layer)으로 표기한다.

도 3의 도시에서

는 입력을 워드 임베딩(word embedding) 형태로 변환시키는 임베딩 행렬이며,

는 단어의 위치 정보에 대한 포지션 임베딩(position embedding)이다.

은 표현층의 출력으로서 예측 타겟에 대한 신뢰도를 추정 검출 모듈로 전달된다. 검출 모듈은 피드포워드(feedforward) 망 및 소프트맥스 층(softmax layer)을 포함할 수 있다.

정답 라벨이 없는(unlabeled) 대용량의 말뭉치(dialogue corpus)에 비지도 학습방법(unsupervised learning)을 적용하여 표현층은 사전 트레이닝(pre-training)될 수 있다. 대용량의 말뭉치로는 위키피디아(Wikipedia) 및 북스코퍼스(Bookscorpus)를 이용할 수 있으며, 대용량의 말뭉치로부터 추출된 수억 내지 수십억 개의 단어가 사전 트레이닝에 사용된다.

사전 트레이닝된 표현층 및 검출 모듈을 포함하는 주문서 작성 모델은, 학습용 데이터 및 정답 라벨을 이용하여 지도학습(supervised learning) 기반으로 파라미터가 정밀 조정(fine tuning)될 수 있다.

사전 트레이닝된 표현층과 검출 모듈을 포함하는 주문서 작성 모델은 다수의 주문 내역을 효율적으로 검출할 수 있다. 검출 범위가 확장 또는 축소되는 경우, 주문서 작성 모델에서 필요한 부분만 정밀 조정할 수 있다. 또한 신뢰도 산정을 위한 별도의 모듈이 없이도 소프트맥스 층을 이용하여 사후 확률의 추정이 가능하므로, 불필요한 연산 및 모델링 오차의 감소가 가능해지는 효과가 있다.

이하 상담 진행 중인 대화에 대한 응답을 생성하는 응답예측 모델 및 상담사가 예측된 응답을 수정하는 과정에 대하여 설명한다.

상담 지원장치(130)가 예측한 응답을 상담사가 수동으로 수정해야 하는 경우가 존재한다. 이 경우 상담사가 응답을 수정하는 작업을 편리하게 실행하도록, 상담 지원장치(130)는 복수의 후보 응답을 실시간으로 예측하여, 후보 응답을 고객 서비스 시스템(120)의 화면 상에 표시할 수 있다.

도 4는 본 발명의 일 실시예에 따른 응답 수정 과정에 대한 예시도이다. 최초의 "택배, 오늘 도착, 바로 픽업, 찾아가는 개통 ..."으로 표현된 문장을 조금씩 수정함에 따라서 단계적으로 다수의 후보 문장이 제안된다. 문장 수정이 진행됨에 따라 후보 응답의 종류, 순위 또는 개수가 변동될 수 있다. 상담사는 추천 문구 중에서 선택을 하거나, 추천 문구에 적당한 응답이 없는 경우에 수동으로 직접 수정을 수행할 수 있다.

본 실시예에서는 실시간 응답 추천을 위해 AR(Auto Regressive) 언어모델 기반 실시간 응답 확률 계산 방법을 이용한다. 수학식 3에 표현된 바와 같이, AR 언어 모델은 순차적인 단어 열을 기반으로 확률적으로 높은 문장열을 생성하는 방법이다.

DNN(Deep Neural Network) 또는 RNN(Recurrent Neural Network)과 같은 심층(deep layered) 신경망은 AR 방식으로 시계열(time series) 및 문자열(character sequence) 등을 생성하기에 적합한 구조로 알려져 있다.

도 5는 본 발명의 일 실시예에 따른 AR 언어 모델링 방법에 대한 예시도이다. 도 5의 예시와 같은 AR 언어 모델링 방식이 실시간 응답 문장 생성에 적용될 수 있다. 문장 시작 토큰(token) <START>에 대해서 단어 출력

이 출력되며 이 출력은 다시 신경망의 입력으로 사용되어 다음 단어 출력

가 얻어지는 재귀적(recurrent) 과정을 기반으로 응답이 생성된다. 여기서 토큰은 단어, 단어 취급되는 문구, 문장 구분을 위한 구분자(예컨대, <START>, <SEP> 등) 등을 의미한다.

도 5의 예시도와 같은 단순한 형태의 재귀 신경망을 이용하는 AR 언어 모델은 저성능 때문에 실제 적용이 어려울 수 있다. 따라서, 본 실시예에서는 응답예측 모델로서 트랜스포머 디코더 기반의 심층 신경망을 이용한다.

도 6은 본 발명의 일 실시예에 따른 응답예측 모델에 대한 구성도이다.

응답예측 모델은 딥러닝 기반의 신경망으로 구현될 수 있다. 본 실시예에서는 트랜스포머 디코더에 기반하는 응답예측 모델을 이용한다(비특허문헌 1 참조). 도 6에 도시된 바와 같이, 응답예측 모델은 N(N은 자연수이고, 보통 12 이상) 개의 디코더 모듈을 포함한다.

도 6의 도시에서

는 입력을 워드 임베딩 형태로 변환시키는 임베딩 행렬이며,

는 단어의 위치 정보에 대한 포지션 임베딩이다. 또한

은 최종 디코더 모듈의 출력으로서 워드 임베딩으로 변환된 후, 응답에 대한 확률을 추정할 수 있는 소프트맥스 층(softmax layer)으로 전달된다. 또한

이 디코더 모듈의 입력 쪽으로 전달됨으로써 응답예측 모델의 재귀 구조가 형성될 수 있다.

응답예측 모델은 정답 라벨이 없는 대용량의 말뭉치에 비지도 학습방법을 적용하여 사전 트레이닝(pre-training)될 수 있다. 사전 트레이닝된 응답예측 모델은, 학습용 데이터 및 정답 라벨을 이용하여 지도학습 기반으로 파라미터가 정밀 조정(fine tuning)될 수 있다.

입력 토큰열(token sequence)

에 대한 로그 라이클리후드(log likelihood)를 최대화시키는 손실 함수(loss function)를 기반으로 응답예측 모델에 대한 사전 트레이닝이 진행될 수 있다. 수학식 4는 사전 트레이닝 과정에서 이용되는 손실 함수를 나타낸다. 사전 트레이닝 과정에서의 입력 토큰열은 말뭉치로부터 추출한 임의의 문장일 수 있다.

또한 입력 토큰열(token sequence)

에 대하여, 정답 라벨 y를 기반으로 응답예측 모델의 출력에 대한 로그 라이클리후드(log likelihood)를 최대화시키는 손실 함수(loss function)를 기반으로 응답예측 모델에 대한 정밀 조정이 진행될 수 있다. 수학식 5는 정밀 조정 과정에서 이용되는 손실 함수를 나타낸다. 정밀 조정 과정에서의 입력 토큰열은 라벨이 부착된 학습용 문장일 수 있다.

태스크에 대한 실행 결과인 토큰열을 획득하여, 응답예측 모델은 후보 응답을 추론한다. 여기서 토큰열은 응답을 구성할 수 있는 다수의 단어를 포함할 수 있다. 응답예측 모델의 출력단에는 소프트맥스 함수가 이용되므로, 하나의 토큰 입력에 대해서 m(m은 자연수) 개의 토큰 출력이 획득될 수 있다. 수학식 6은 m 개의 출력 토큰을 포함하는 집합

를 나타내고 있다. 여기서 k는 시간에 대한 인덱스(index)이다.

응답예측 모델은 상담사의 선택폭을 넓히기 위해 매 시간 k에서 복수의 후보 응답을 생성할 수 있다. 수학식 7은 시간 k에서의 후보 응답 집합

를 나타낸다.

상담사가 응답을 수정하는 경우, 응답예측 모델은 수정된 응답을 시작 토큰으로 이용하여 복수의 후보 응답을 실시간으로 다시 생성할 수 있다.

본 발명의 다른 실시예에 있어서, 후보 응답을 생성하는 대신 응답예측 모델은 기 정의된 응답풀에서 후보 응답을 선택하는 DB 검색(Database retrieval) 방식을 이용할 수 있다. 기 정의된 응답 중에서 하나를 선택하기 때문에 DB 검색 방식은 안정적인 응답을 생성할 수 있다. 검색 기반의 응답은 후보 응답이 고정되어 있다는 특징이 있다.

상담사가 응답의 일부를 수정하는 경우, 응답풀에서 검색된 응답 중에서 상담사가 수정한 문구와 일치하는 부분을 가지는 응답만을 우선 선택한다. 다음, 선택된 응답을 응답예측 모델에 적용하여 응답별 확률을 구한 후, 선택된 후보 응답 간의 순위 재조정(re-rank)을 실행한다.

도 7은 본 발명의 다른 실시예에 따른 DB 검색 기반 응답 수정에 대한 예시도이다. 도 7의 (a)의 예시는 응답풀에서 검색된 응답의 리스트이고, 도 7의 (b)예시는 순위가 재조정된 후보 응답의 리스트이다. 전술한 바와 같이, 도 7의 (a)에 예시된 응답에 대하여 상담사가 "택배는 지금"을 선택하였으므로, 도 7의 (b)의 예시에는 응답예측 모델이 추론한 확률에 근거하여 "택배는 지금"으로 시작하는 후보 응답이 순위가 재조정된 채로 나열된다.

본 실시예에 따른 상담 지원장치(130)가 탑재되는 디바이스(미도시)는 프로그램 가능 컴퓨터일 수 있으며, 서버(미도시)와 연결이 가능한 적어도 한 개의 통신 인터페이스를 포함한다.

본 실시예에 따른 상담 지원장치(130) 내에 포함되는 딥러닝 기반 신경회로망에 대한 트레이닝은 서버에서 진행될 수 있다. 디바이스 상에 탑재된 상담 지원장치(130)의 언어이해 모델, 태스크예측 모델, 주문서작성 모델 및 응답예측 모델과 동일한 구조의 딥러닝 모델에 대하여 서버의 트레이닝부(미도시)는 트레이닝을 수행할 수 있다. 디바이스와 연결되는 통신 인터페이스를 이용하여 서버는 트레이닝된 파라미터를 디바이스로 전달하고, 전달받은 파라미터를 이용하여 상담 지원장치(130)는 언어이해 모델, 태스크예측 모델, 주문서작성 모델 및 응답예측 모델의 파라미터를 업데이트할 수 있다. 또한 디바이스 출하 시점 또는 상담 지원장치(130)가 디바이스에 탑재되는 시점에, 언어이해 모델, 태스크예측 모델, 주문서작성 모델 및 응답예측 모델의 파라미터가 설정될 수 있다.

본 발명의 다른 실시예에 있어서, 상담 지원장치(130)는 서버 또는 서버에 준하는 연산 능력을 보유하는 프로그램 가능 시스템에 탑재될 수 있다. 서버는 고객과의 대화를 제공할 수 있는 복수의 디바이스(예컨대 IVR 시스템 또는 메신저 시스템 등)로부터 유선 또는 무선 전송방식을 이용하여 대화를 획득하는 것으로 가정한다.

도 8은 본 발명의 일 실시예에 따른 상담 지원방법 중 응답 생성에 대한 순서도이다.

본 실시예에 따른 상담 지원장치(130)는 고객과의 대화로부터 키워드(keywords)를 추출한다(S801). 여기서 키워드는 고객 상담에 필요한 고유 명사(예컨대 고객명 또는 제품명), 고객의 의도(intent)를 내포하는 단어 등을 포함할 수 있다.

상담 지원장치(130)는 키워드를 기반으로 상기 대화의 문맥을 분석하여, 상기 고객과의 상담 진행에 필요한 태스크(task)를 예측 및 실행한다(S802). 태스크는 상담 시스템의 검색, 제품 또는 서비스 항목 추천 등을 포함하며, 태스크에 대한 실행 결과는 응답 예측 또는 주문서 작성을 위한 기반 정보로 이용될 수 있다.

상담 지원장치(130)는 태스크에 대한 실행 결과를 기반으로, 응답예측 모델(response prediction model)을 이용하여 대화에 대한 적어도 하나의 후보 응답(candidate responses)을 생성한다(S803).

응답예측 모델은 딥러닝 기반의 신경망으로 구현될 수 있다. 본 실시예에서는 트랜스포머 디코더(Transformer decoder)에 기반하는 응답예측 모델을 이용한다.

정답 라벨이 없는(unlabeled) 대용량의 말뭉치(dialogue corpus)에 비지도 학습방법(unsupervised learning)을 적용하여 응답예측 모델은 사전 트레이닝(pre-training)될 수 있다. 사전 트레이닝된 응답예측 모델은, 학습용 데이터 및 정답 라벨을 이용하여 지도학습(supervised learning) 기반으로 파라미터가 정밀 조정(fine tuning)될 수 있다.

상담 지원장치(130)는 후보 응답을 상담사에게 제공한다(S804).

상담사는 후보 응답을 이용하여 대화에 대한 응답 완성 여부를 확인한다(S805). 상담사가 응답을 완성할 때까지 상담 지원장치(130)는 상담사의 선택을 기반으로 응답예측 모델을 이용하여 대화에 대한 적어도 하나의 후보 응답을 생성하여(S806) 상담사에게 제공하는 과정(S804)을 반복할 수 있다.

IVR 시스템 또는 메신저 시스템을 이용하여 상담사는 완성된 응답을 고객에게 제공한다(S807)

도 9는 본 발명의 일 실시예에 따른 상담 지원방법 중 주문서 생성에 대한 순서도이다.

주문서 생성에 있어서, 본 실시예에 따른 상담 지원장치(130)가 키워드를 추출하고(S901), 태스크(task)를 예측 및 실행하는(S902) 단계는 응답을 생성하는 단계의 일부(S801 및 S802 단계)와 동일하다.

상담 지원장치(130)는 태스크에 대한 실행 결과를 기반으로, 주문서작성 모델(order generation model)을 이용하여 고객의 의도(intent)에 부합하는 주문서를 생성한다(S903). 검토를 위하여 생성된 주문서는 상담사에게 제공된다.

주문서 작성 모델은 딥러닝 기반의 신경망으로 구현될 수 있다. 본 실시예에서는 트랜스포머 디코더에 기반하는 주문서 작성 모델을 이용한다.

정답 라벨이 없는 대용량의 말뭉치에 비지도 학습방법을 적용하여 주문서 작성 모델은 사전 트레이닝(pre-training)될 수 있다. 사전 트레이닝된 주문서 작성 모델은, 학습용 데이터 및 정답 라벨을 이용하여 지도학습 기반으로 파라미터가 정밀 조정(fine-tuning)될 수 있다.

상담사는 주문서를 확인한 후, 관련 부서로 전달하거나 고객과 추가 상담을 진행한다(S904).

이상에서 설명한 바와 같이 본 실시예에 따르면, 대화 진행 과정에 대한 분석을 바탕으로 주문서 작성 및 응답 문장의 자동 생성 및 수정이 가능한 하이브리드 지능형 고객 상담장치 및 방법을 제공함으로써, 상담 업무의 효율성 증대가 가능해지는 효과가 있다.

또한 본 실시예에 따르면, 대화 진행 과정에 대한 분석을 바탕으로 주문서 작성 및 응답 문장의 자동 생성 및 수정이 가능한 하이브리드 지능형 고객 상담장치 및 방법을 제공함으로써, 방대한 상담 업무의 신속 정확한 처리에 따른 고객 만족도 증대가 가능해지는 효과가 있다.

본 실시예에 따른 각 순서도에서는 각각의 과정을 순차적으로 실행하는 것으로 기재하고 있으나, 반드시 이에 한정되는 것은 아니다. 다시 말해, 순서도에 기재된 과정을 변경하여 실행하거나 하나 이상의 과정을 병렬적으로 실행하는 것이 적용 가능할 것이므로, 순서도는 시계열적인 순서로 한정되는 것은 아니다.

본 명세서에 설명되는 시스템들 및 기법들의 다양한 구현예들은, 디지털 전자 회로, 집적 회로, FPGA(field programmable gate array), ASIC(application specific integrated circuit), 컴퓨터 하드웨어, 펌웨어, 소프트웨어, 및/또는 이들의 조합으로 실현될 수 있다. 이러한 다양한 구현예들은 프로그래밍가능 시스템 상에서 실행가능한 하나 이상의 컴퓨터 프로그램들로 구현되는 것을 포함할 수 있다. 프로그래밍가능 시스템은, 저장 시스템, 적어도 하나의 입력 디바이스, 그리고 적어도 하나의 출력 디바이스로부터 데이터 및 명령들을 수신하고 이들에게 데이터 및 명령들을 전송하도록 결합되는 적어도 하나의 프로그래밍가능 프로세서(이것은 특수 목적 프로세서일 수 있거나 혹은 범용 프로세서일 수 있음)를 포함한다. 컴퓨터 프로그램들(이것은 또한 프로그램들, 소프트웨어, 소프트웨어 애플리케이션들 혹은 코드로서 알려져 있음)은 프로그래밍가능 프로세서에 대한 명령어들을 포함하며 "컴퓨터가 읽을 수 있는　기록매체"에 저장된다.

컴퓨터가 읽을 수 있는　기록매체는, 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 이러한 컴퓨터가 읽을 수 있는　기록매체는 ROM, CD-ROM, 자기 테이프, 플로피디스크, 메모리 카드, 하드 디스크, 광자기 디스크, 스토리지 디바이스 등의 비휘발성(non-volatile) 또는 비일시적인(non-transitory) 매체일 수 있다. 또한 컴퓨터가 읽을 수 있는　기록매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장되고 실행될 수도 있다.

본 명세서에 설명되는 시스템들 및 기법들의 다양한 구현예들은, 프로그램가능 컴퓨터에 의하여 구현될 수 있다. 여기서, 컴퓨터는 프로그램가능 프로세서, 데이터 저장 시스템(휘발성 메모리, 비휘발성 메모리, 또는 다른 종류의 저장 시스템이거나 이들의 조합을 포함함) 및 적어도 한 개의 커뮤니케이션 인터페이스를 포함한다. 예컨대, 프로그램가능 컴퓨터는 서버, 네트워크 기기, 셋탑 박스, 내장형 장치, 컴퓨터 확장 모듈, 개인용 컴퓨터, 랩탑, PDA(Personal Data Assistant), 클라우드 컴퓨팅 시스템 또는 모바일 장치 중 하나일 수 있다.

이상의 설명은 본 실시예의 기술 사상을 예시적으로 설명한 것에 불과한 것으로서, 본 실시예가 속하는 기술 분야에서 통상의 지식을 가진 자라면 본 실시예의 본질적인 특성에서 벗어나지 않는 범위에서 다양한 수정 및 변형이 가능할 것이다. 따라서, 본 실시예들은 본 실시예의 기술 사상을 한정하기 위한 것이 아니라 설명하기 위한 것이고, 이러한 실시예에 의하여 본 실시예의 기술 사상의 범위가 한정되는 것은 아니다. 본 실시예의 보호 범위는 아래의 청구범위에 의하여 해석되어야 하며, 그와 동등한 범위 내에 있는 모든 기술 사상은 본 실시예의 권리범위에 포함되는 것으로 해석되어야 할 것이다.

100: 하이브리드 고객 상담 시스템
110: 접속 시스템 120: 고객 서비스 시스템
130: 상담 지원장치 131: 언어이해부
132: 태스크예측 및 실행부 133: 응답생성부
134: 서비스검토 생성부 135: 서비스지원 모델풀

Claims (12)

1. 고객과의 대화(dialogues)로부터 키워드(keywords)를 추출하는 언어이해부;
   상기 키워드를 기반으로 상기 대화의 문맥(context)을 분석하여, 상기 고객과의 상담 진행에 필요한 태스크(tasks)를 예측 및 실행하는 태스크예측 및 실행부;
   상기 태스크에 대한 실행 결과를 기반으로, 응답예측 모델(response prediction model)을 이용하여 상기 대화에 대한 적어도 하나의 후보 응답(candidate responses)을 생성하는 응답생성부; 및
   상기 태스크에 대한 실행 결과를 기반으로, 주문서작성 모델(order generation model)을 이용하여 상기 고객의 의도(intent)에 부합하는 주문서를 생성하는 서비스검토 생성부
   를 포함하고,
   상기 서비스검토 생성부는,
   상기 키워드의 열(sequence)을 기반으로 주문서생성 모델을 이용하여 상기 주문서의 내역 항목(detail items)에 대한 신뢰도(confidence score)를 산정하고, 상기 신뢰도에 기반하여 상기 주문서 상에서 내역 정보를 강조(highlight)하고,
   상기 응답생성부는,
   상기 상기 태스크에 대한 실행 결과인 토큰열(token sequence)을 기반으로 상기 응답예측 모델이 상기 토큰열에 대응하는 적어도 하나의 후보 응답을 생성하고, 상기 적어도 하나의 후보 응답에 대한 상담사의 선택 또는 수정을 기반으로, 상기 고객과의 대화에 대한 응답이 완성될 때까지 상기 응답예측 모델을 이용하여 상기 적어도 하나의 후보 응답의 생성을 반복하는 것을 특징으로 하는 하이브리드(hybrid) 상담장치.
2. 제1항에 있어서,
   서비스지원 모델풀(service assistance model pool)을 더 포함하되, 상기 서비스지원 모델풀은 상기 고객과의 상담 진행에 필요한 추론 모델(inference model) 및 상기 추론 모델에 대한 정보를 저장하며, 상기 추론 모델은 상기 키워드를 추출하는 언어이해 모델(language understanding model), 상기 태스크를 예측하는 태스크예측 모델(task prediction model), 상기 주문서작성 모델 및/또는 상기 응답예측 모델인 것을 특징으로 하는 하이브리드 상담장치.
3. 제1항에 있어서,
   상기 키워드는,
   상기 고객과의 상담 진행에 필요한 고유 명사 및/또는 상기 고객의 의도를 내포하는 단어를 포함하는 것을 특징으로 하는 하이브리드 상담장치.
4. 제1항에 있어서,
   상기 태스크는,
   상기 고객에 대한 정보 검색, 상기 고객의 의도에 부합하는 제품 또는 서비스에 대한 검색, 및/또는 상기 제품 또는 서비스의 추천을 포함하는 것을 특징으로 하는 하이브리드 상담장치.
5. 제1항에 있어서,
   상기 응답예측 모델 및 상기 주문서작성 모델은 딥러닝 기반 신경망으로 구현되되, 정답 라벨이 없는(unlabeled) 대용량의 말뭉치(dialogue corpus)를 이용하여 비지도 학습방법(unsupervised learning)을 기반으로 사전 트레이닝(pre-training)된 후, 학습용 데이터 및 정답 라벨을 이용하여 지도학습(supervised learning) 기반으로 파라미터가 정밀 조정(fine tuning)되는 것을 특징으로 하는 하이브리드 상담장치.
6. 제1항에 있어서,
   상기 응답생성부는,
   상기 토큰열을 기반으로 상기 응답예측 모델이 재귀적인(recurrent) 동작을 실행하여 소프트맥스(softmax) 출력을 생성함으로써, 상기 토큰열에 대응하는 적어도 하나의 후보 응답을 생성하는 것을 특징으로 하는 하이브리드 상담장치.
7. 제1항에 있어서,
   상기 응답생성부는 상기 적어도 하나의 후보 응답을 상담사에게 제공하고, 상기 서비스검토 생성부는 상기 주문서를 상기 상담사에게 제공하는 것을 특징으로 하는 하이브리드 상담장치.
8. 삭제
9. 하이브리드(hybrid) 상담장치의 하이브리드 상담방법에 있어서,
   고객과의 대화로부터 키워드(keywords)를 추출하는 과정;
   상기 키워드를 기반으로 상기 대화의 문맥을 분석하여, 상기 고객과의 상담 진행에 필요한 태스크(task)를 예측하고 실행하는 과정;
   상기 태스크에 대한 실행 결과를 기반으로, 사전에 트레이닝된 딥러닝(deep-learning) 기반 응답예측 모델(response prediction model)을 이용하여 상기 대화에 대한 적어도 하나의 후보 응답(candidate responses)을 생성하는 과정; 및
   상기 태스크에 대한 실행 결과인 토큰열(token sequence)을 기반으로, 응답예측 모델(response prediction model)을 이용하여 상기 토큰열에 대응하는 적어도 하나의 후보 응답(candidate responses)을 생성하는
   상기 태스크에 대한 실행 결과를 기반으로, 사전에 트레이닝된 딥러닝 기반 주문서작성 모델(order generation model)을 이용하여 상기 고객의 의도(intent)에 부합하는 주문서를 생성하는 과정
   을 포함하고,
   상기 주문서를 생성하는 과정은,
   상기 키워드의 열(sequence)을 기반으로 주문서생성 모델을 이용하여 상기 주문서의 내역 항목(detail items)에 대한 신뢰도(confidence score)를 산정하고, 상기 신뢰도에 기반하여 상기 주문서 상에서 내역 정보를 강조(highlight)하고,
   상기 후보 응답을 생성하는 과정은,
   상기 상기 태스크에 대한 실행 결과인 토큰열(token sequence)을 기반으로 상기 응답예측 모델이 상기 토큰열에 대응하는 적어도 하나의 후보 응답을 생성하고, 상기 적어도 하나의 후보 응답에 대한 상담사의 선택 또는 수정을 기반으로, 상기 고객과의 대화에 대한 응답이 완성될 때까지 상기 응답예측 모델을 이용하여 상기 적어도 하나의 후보 응답의 생성을 반복하는 것을 특징으로 하는, 하이브리드 상담방법.
10. 제9항에 있어서,
    상기 적어도 하나의 후보 응답 및 상기 주문서를 상담사에게 제공하는 과정을 더 포함하는 것을 특징으로 하는, 하이브리드 상담방법.
11. 삭제
12. 제9항 및 제10항 중 어느 한 항에 따른 하이브리드 상담방법이 포함하는 각 단계를 실행시키기 위하여 컴퓨터로 읽을 수 있는, 기록매체에 저장된 컴퓨터프로그램.
    

Images