TWI751504B

TWI751504B - 人機協作對話系統與方法

Info

Publication number: TWI751504B
Application number: TW109106513A
Authority: TW
Inventors: 楊宗憲
Original assignee: 中華電信股份有限公司
Priority date: 2020-02-27
Filing date: 2020-02-27
Publication date: 2022-01-01
Also published as: TW202133027A

Abstract

一種人機協作對話系統與方法，係接收用戶輸入的對話文字，藉此預測危機機率，以及用戶的意圖與情緒，並根據危機機率以及用戶的意圖與情緒，以自動判斷是否轉接給客服人員回覆用戶，還是自動回覆用戶。

Description

人機協作對話系統與方法

本發明係關於自然語言分析，且特別是有關於一種人機協作對話系統與方法。

目前許多產品與服務的提供業者都需要客服系統，以解答用戶的疑問，或協助解決用戶的問題。使用對話機器人可大幅降低文字客服的人力與成本支出，且對話機器人具有即時回覆用戶，同時服務許多用戶，且每天24小時服務全年無休的特點。然而，完全依靠對話機器人進行回答時，常會有答非所問的問題發生，如此，徒增用戶困擾且降低用戶使用意願。因此，如何提升對話機器人的服務品質，是目前業者重視的問題之一。

根據過往研究與市面上大部分產品可知，傳統技術大多以對話式文字客服介面提供以下列兩方式作為切換機器人與轉接真人服務之入口：1.於介面上設置專人按鈕，供使用者自行點擊，觸發轉接真人服務；2.於對話過程中提供轉接真人服務連結，詢問使用者是否轉接真人服務。其中，方法1容易造成使用者一進系統即直接點選轉接真人服務，則對話機器人形同虛設，而方法2大多是於對話過程中設定關鍵字偵測方式(如對話過程中出現「我要轉服務人員」等設定好的語句)或是設定信心度低於某一預設門檻值，則提供轉接真人客服人員的連結。然而上述方法均會造成使用者對於文字客服機器人的使用體驗不佳，認為文字客服機器人無法處理相關的問題因而降低使用意願。

因此，如何做好真人與機器人搭配回應，在一定的使用者滿意度水準下，尋求真人客服投入成本最小化，是目前智慧文字客服機器人系統或對話機器人的目標。

為解決上述問題，本發明提供一種人機協作對話系統，包括文字前處理模組、危機識別模組、意圖分類模組、情緒偵測模組、轉接識別模組、智慧輔助回覆模組與機器人回覆模組。文字前處理模組用於接收用戶輸入的對話文字，擷取對話文字中的對話詞彙，以將對話詞彙轉化為對話向量。危機識別模組用於根據對話詞彙輸出危機信心值機率。意圖分類模組用於根據對話向量輸出意圖分類機率分布。情緒偵測模組用於根據對話向量輸出情緒輪廓機率分布。轉接識別模組用於根據危機信心值機率、意圖分類機率分布與情緒輪廓機率分布輸出轉接客服機率。智慧輔助回覆模組用於在轉接客服機率大於或等於門檻值時，以客服人員輸入的第一回覆語句回覆用戶。機器人回覆模組用於在轉接客服機率小於門檻值時，根據意圖分類機率分布產生第二回覆語句，以第二回覆語句回覆用戶。

本發明另提供一種人機協作對話方法，包括：接收用戶輸入的對話文字，擷取對話文字中的對話詞彙，以將對話詞彙轉化為對話向量；根據對話詞彙輸出危機信心值機率；根據對話向量輸出意圖分類機率分布；根據對話向量輸出情緒輪廓機率分布；根據危機信心值機率、意圖分類機率分布與情緒輪廓機率分布輸出轉接客服機率；在轉接客服機率大於或等於門檻值時，以客服人員輸入的第一回覆語句回覆用戶；以及，在轉接客服機率小於門檻值時，根據意圖分類機率分布產生第二回覆語句，以第二回覆語句回覆用戶。

本發明的人機協作對話系統與方法具備以下特點及功效：1.自動辨別用戶問題意圖，即時轉接真人客服或機器人客服，將制式容易回覆的問題交由機器人回覆，減少客服人員工作量。2.結合危機與情緒偵測功能，相較於完全用機器人制式回應並依照用戶指示轉接真人回應，可提供更有溫度的智慧客服。3.提供客服人員智慧輔助介面，快速有效的掌握用戶問題，可加快客服人員回應速度與品質。

10:人機協作對話系統

21~29:流程步驟

100:文字前處理模組

110:對話文字

120:文句正規化器

130:文句斷詞器

140:詞彙向量化器

150:資料庫

200:危機識別模組

220:敏感詞庫

230:危機識別器

240:危機信心值機率

300:意圖分類模組

320:意圖分類器

330:意圖分類機率分布

400:情緒偵測模組

420:情緒詞庫

430:情緒偵測器

440:情緒輪廓機率分布

500:轉接識別模組

540:轉接識別器

550:轉接客服機率

600:上下文摘要模組

610:資料庫

620:上下文摘要器

630:摘要語句

700:智慧輔助回覆模組

705:智慧輔助介面

710:上下文對話摘要資訊畫面

720:機器人輔助語句畫面

730:回覆語句輸入介面

740:敏感詞顯示畫面

750:用戶情緒顯示燈號

800:機器人回覆模組

830:問答知識庫

840:回覆生成器

850:回覆語句

第1圖為根據本發明一實施例的一種人機協作對話系統的方塊圖。

第2圖為根據本發明一實施例的一種人機協作對話方法的流程圖。

第3圖為第1圖中的文字前處理模組的示意圖。

第4圖為第1圖中的危機識別模組的示意圖。

第5圖為第1圖中的意圖分類模組的示意圖。

第6圖為第1圖中的情緒偵測模組的示意圖。

第7圖為第1圖中的轉接識別模組的示意圖。

第8圖為第1圖中的上下文摘要模組的示意圖。

第9圖為第1圖中的智慧輔助回覆模組的智慧輔助介面的示意圖。

第10圖為第1圖中的機器人回覆模組的示意圖。

以下藉由特定的具體實施例說明本發明之實施方式，熟悉此技藝之人士可由本說明書所揭示之內容輕易地瞭解本發明之其他優點及功效。

第1圖為根據本發明一實施例的一種人機協作對話系統10的方塊圖。人機協作對話系統10包括文字前處理模組100、危機識別模組200、意圖分類模組300、情緒偵測模組400、轉接識別模組500、上下文摘要模組600、智慧輔助回覆模組700、以及機器人回覆模組800。其中，文字前處理模組100耦接危機識別模組200、意圖分類模組300、以及情緒偵測模組400。轉接識別模組500耦接危機識別模組200、意圖分類模組300、情緒偵測模組400、上下文摘要模組600、智慧輔助回覆模組700、以及機器人回覆模組800。上下文摘要模組600耦接轉接識別模組500、智慧輔助回覆模組700、以及機器人回覆模組800。

在一實施例中，上述的每一個模組皆為硬體，例如具有資料處理能力或程式執行能力的伺服器或其他電子裝置。在另一實施例中，上述的每一個模組皆為軟體或韌體，例如電腦程式，可由單一電子裝置執行，或由多個電子裝置分散執行。在另一實施例中，上述的模組中之有一部分模組為硬體，其餘部分為軟體或韌體。

在一實施例中，敏感詞庫220、情緒詞庫420、以及問答知識庫830均為資料庫，這些資料庫可以是人機協作對話系統10的一部分，也可以是獨立的資料庫。

請一併參照第1圖和第2圖。第2圖為人機協作對話系統10所執行的人機協作對話方法的流程圖，其中，人機協作對話方法的流程從步驟21開始。

在步驟21，文字前處理模組100接收用戶輸入的對話文字110，擷取對話文字110中的對話詞彙，以將對話詞彙轉化為對話向量。請同時參照第3圖，文字前處理模組100包括文句正規化器120、文句斷詞器130、以及詞彙向量化器140。如同第1圖所示的各模組，文句正規化器120、文句斷詞器130、以及詞彙向量化器140均可為硬體、韌體或軟體。

文句正規化器120用於濾除對話文字110中的除了預設語文以外的文字，並濾除對話文字110中的比較不重要的多餘符號。例如，在一個實施例中，人機協作對話系統10的預設語文為中文和英文，則文句正規化器120會濾除對話文字110中除了中文和英文以外的文字，僅保留中文和英文。文句正規化器120也能轉換對話文字110的編碼，例如在繁體中文和簡體中文之間互相轉換。例如，當用戶輸入的對話文字110為簡體中文的「我的帐单扣错款了，真烂@#$@」，經過文句正規化器120的濾除和編碼轉換之後，對話文字110轉為繁體中文的「我的帳單扣錯款了真爛」。

文句斷詞器130用於接收文句正規化器120輸出的對話文字110，然後以詞彙為單位分隔對話文字110，並將對話文字110中列於停止詞表中的詞彙去除。停止詞表中的詞彙均為贅詞，所以文句斷詞器130能去除對話文字110 中的贅詞。例如，文句斷詞器130接收的對話文字為「我的帳單扣錯款了真爛」，分隔後的對話文字110為「我.的.帳單.扣錯.款.了.真爛」，並假設詞彙「我」、「的」跟「了」出現在停止詞表中，所以去除贅詞後的結果為「帳單.扣錯.款.真爛」。上述的對話詞彙為經過文句正規化器120和文句斷詞器130處理後的對話文字110。若延續前面的範例，則對話詞彙為「帳單.扣錯.款.真爛」。

詞彙向量化器140用於接收文句斷詞器130輸出的對話詞彙，然後根據詞典將對話詞彙轉化為對話向量。例如，若採用單一位元有效(One-Hot)向量表示法，則每個詞彙的向量的長度為詞典所包含的詞彙數，每個維度代表詞典裡的一個詞彙。每個詞彙的One-Hot向量只有在其唯一代表維度是1，其他維度都是0，例如，根據某一個預設詞典，「帳單」的One-Hot向量表示為[1,0,0,0,0,0,0]，「扣錯」的One-Hot向量表示為[0,1,0,0,0,0,0]，「款」的One-Hot向量表示為[0,0,1,0,0,0,0]，「真爛」的One-Hot向量表示為[0,0,0,1,0,0,0]。上述的對話向量為對話詞彙中每個詞彙轉化的向量所組成的集合。文字前處理模組100最後的輸出為上述的對話詞彙與對話向量。在一實施例中，文字前處理模組100將對話詞彙與對話向量儲存於一個資料庫150，以供其他模組使用。資料庫150可為人機協作對話系統10其中的一部分。

接下來，在步驟22，危機識別模組200根據資料庫150中的對話詞彙輸出危機信心值機率。請同時參照第4圖，危機識別模組200包括危機識別器230。敏感詞庫220儲存預先蒐集好的敏感詞彙。危機識別器230是使用敏感詞庫220中的敏感詞彙預先訓練的人工智慧模型，用於危機識別。使用危機識別器230，危機識別模組200可根據對話詞彙中是否包含敏感詞庫220中的敏感詞彙，以及對話詞彙中包含的敏感詞彙的前綴詞彙是否包含否定詞彙，輸出危機信心值機率240。例如，當對話詞彙中包含敏感詞庫220中的任一詞彙(例如「投訴」、「態度很差」或「真爛」等等)，且其前綴詞彙不包含否定詞彙，則危機識別器230識別為危機。如果對話詞彙中不包含敏感詞彙，或包含敏感詞彙但其前綴詞彙包含否定詞彙，則危機識別器230識別為沒有危機。例如，當用戶輸入的對話文字為「客服態度不會很差」，因具有否定詞彙「不會」，所以不會被識別為危機，危機識別器230會輸出較低的危機信心值機率240。當對話詞彙為「帳單.扣錯.款.真爛」，則會被識別為危機，危機識別器230會輸出較高的危機信心值機率240，例如[0.88]。

接下來，在步驟23，意圖分類模組300根據資料庫150中的對話向量輸出意圖分類機率分布。請同時參照第5圖，意圖分類模組300包括意圖分類器320。意圖分類器320為使用預先蒐集好的意圖標注資料預先訓練的人工智慧模型，用於進行用戶的意圖分類。意圖分類器320根據上述對話向量，透過softmax函數(或稱為歸一化指數函數)輸出意圖分類機率分布330。意圖分類機率分布330包括在多個預設意圖類別中的機率分布。例如，假設有三個預設的意圖類別，分別為「帳單問題」、「手機問題」和「通訊問題」，則意圖分類機率分布330可為3維向量，例如[0.8,0.15,0.05]，其中「帳單問題」的機率最高。意圖分類機率分布330其中各維度的機率值的總和為1。

接下來，在步驟24，情緒偵測模組400根據資料庫150中的對話向量輸出情緒輪廓機率分布。請同時參照第6圖，情緒偵測模組400包括情緒偵測器430。情緒偵測器430為使用預先蒐集好的情緒標注資料預先訓練的人工智慧模型，用於偵測用戶的情緒。另外還可以透過情緒詞庫420其中預先蒐集儲存的情緒詞彙加強情緒偵測器430的偵測能力。情緒偵測器430根據上述的對話向量，並透過softmax函數，輸出情緒輪廓機率分布440。情緒輪廓機率分布440包括在多個預設情緒指標中的機率分布。例如，假設有六個預設的情緒指標：[開心，害怕，驚訝，生氣，難過，噁心]，則情緒輪廓機率分布440為6維向量，例如[0.01,0.1,0.03,0.8,0.02,0.04]，其中「生氣」的機率最高。情緒輪廓機率分布440其中各維度的機率值的總和為1。

接下來，在步驟25，轉接識別模組500根據危機信心值機率240、意圖分類機率分布330、以及情緒輪廓機率分布440輸出轉接客服機率。請同時參照第7圖，轉接識別模組500包括轉接識別器540。轉接識別器540為使用預先蒐集好的資料預先訓練的人工智慧模型。轉接識別模組500將危機識別模組200產生的危機信心值機率240、意圖分類模組300產生的意圖分類機率分佈330、以及情緒偵測模組400產生的情緒輪廓機率分佈440串接成一個長向量輸入轉接識別器540。若延續前面的範例，則危機信心值機率240為1維向量[0.88],意圖分類機率分佈330為3維向量[0.8,0.15,0.05]，與情緒輪廓機率分佈440為6維向量[0.01,0.1,0.03,0.8,0.02,0.04]，三者串接組成的10維向量[0.88,0.8,0.15,0.05,0.01,0.1,0.03,0.8,0.02,0.04]即為轉接識別器540的輸入。然後轉接識別器540輸出轉接客服機率550，例如其值為[0.68]。

接下來，在步驟26，上下文摘要模組600節錄和用戶的所有對話內容中的摘要語句。摘要語句只包含重要內容，例如，問候語就會被剔除。上述的所有對話內容也包括對話文字110。對話文字110通常是所有對話內容其中的最近一次對話。請同時參照第8圖，上下文摘要模組600會記錄和用戶的對話過程中的所有對話內容，例如，將這些所有對話內容儲存在資料庫610。資料庫610可以是人機協作對話系統10其中一部分。上下文摘要模組600包括上下文摘要器620。上下文摘要器620為預先訓練的人工智慧模型，例如，可採用深度學習的序列到序列(sequence to sequence)的訓練方式。訓練時需要收集大量長句與相對應的摘要短句，透過梯度下降法反覆修正權重，以得到上下文摘要器620，可自動將在資料庫610中冗長的所有對話內容轉成簡短的摘要語句630。例如，用戶在輸入「扣錯款了真爛」之前已經輸入過「你好，有個帳單問題要請教」，則上下文摘要器620輸出的摘要語句630可為「帳單扣錯款」。摘要語句630可支援智慧輔助回覆模組700提供給客服人員參考，也可提供給機器人回覆模組800以自動生成回覆語句。

接下來，在步驟27檢查轉接識別模組500輸出的轉接客服機率550是否大於或等於一個預設的門檻值。步驟27可由轉接識別模組500執行，或者也可由智慧輔助回覆模組700和機器人回覆模組800執行。如果轉接客服機率550大於或等於門檻值時，則智慧輔助回覆模組700在步驟28以客服人員輸入的回覆語句回覆用戶，否則機器人回覆模組800在步驟29自動產生回覆語句以回覆用戶。例如，假設轉接客服機率550為[0.68]而且門檻值為0.5，則流程進入步驟28，轉由客服人員和用戶對話。例如，假設轉接客服機率550為[0.68]而且門檻值為0.7，則流程進入步驟29，由機器人回覆模組800自動與用戶對話。

請參照第9圖，為了輔助客服人員，智慧輔助回覆模組700可在人機協作對話系統10的一個顯示螢幕上顯示智慧輔助介面705，以供客服人員使用。智慧輔助介面705包括上下文對話摘要資訊畫面710、機器人輔助語句畫面720、回覆語句輸入介面730、敏感詞顯示畫面740和用戶情緒顯示燈號750，用於顯示輔助資訊並接收客服人員輸入的回覆語句。上下文對話摘要資訊畫面 710可顯示上下文摘要模組600提供的摘要語句630，機器人輔助語句畫面720可顯示機器人回覆模組800自動產生的回覆語句850(細節後述)，回覆語句輸入介面730可接收客服人員輸入的回覆語句，敏感詞顯示畫面740可顯示對話文字110中的敏感詞彙，用戶情緒顯示燈號750可根據情緒輪廓機率分布440顯示用戶情緒。在另一實施例中，用戶情緒顯示燈號750可改為直接顯示情緒輪廓機率分布440。在另一實施例中，上下文對話摘要資訊畫面710除了顯示摘要語句630，還可以顯示在資料庫610中的所有對話內容。

延續前面的範例，若轉接識別模組500產生的轉接客服機率550為[0.68]，而且轉接識別模組500預設的門檻值為0.5，則因為轉接客服機率550大於門檻值，此實施例會轉接智慧輔助回覆模組700。為了輔助客服人員，上下文對話摘要資訊畫面710顯示的摘要語句630為「帳單扣錯款」，機器人輔助語句畫面720顯示的機器人回覆模組800自動產生的回覆語句850為「請登入個人帳戶查詢相關扣繳資訊並與客服人員聯繫」，敏感詞顯示畫面740顯示的敏感詞彙為「真爛」，用戶情緒顯示燈號750顯示目前用戶的情緒輪廓為「生氣」指標最高。客服人員利用上述輔助資訊做出判斷，於回覆語句輸入介面730輸入回覆語句「很抱歉造成您的困擾，能否跟您確認個人資料？」。接著客服人員與用戶直接進行身分驗證等確認流程後，可於人機協作對話系統10中查詢用戶的帳單資訊並回覆用戶「請問扣錯的款項是X月X日OO這筆嗎？」。如此可快速的針對相關問題進行回覆並與用戶直接進行相關問題的確認流程。

智慧輔助介面705顯示的所有對話內容、摘要語句、自動回覆語句、敏感詞彙、以及用戶情緒等輔助資訊可幫助客服人員掌握當前重點，迅速且正確地回覆用戶，以提高服務效率。智慧輔助回覆模組700會在步驟28用客服人員在回覆語句輸入介面730輸入的回覆語句回覆用戶。除了客服人員自行輸入的回覆語句之外，根據客服人員在智慧輔助介面705下達的操作或指令，智慧輔助回覆模組700還可以在步驟28直接用自動回覆語句850回覆用戶，或是用客服人員先行修改後的自動回覆語句850回覆用戶。

在另一實施例中，可以簡化智慧輔助介面705，例如可以省略上述的輔助資訊其中一部分，或是省略上下文對話摘要資訊畫面710、機器人輔助語句畫面720、回覆語句輸入介面730、敏感詞顯示畫面740和用戶情緒顯示燈號750其中至少一者。

請參照第10圖，機器人回覆模組800包括回覆生成器840。機器人回覆模組800依據意圖分類機率分佈330選擇其中機率最高的意圖分類，用此意圖分類查詢問答知識庫830以產生候選回覆語句，然後將候選回覆語句和摘要語句630一起輸入回覆生成器840，以產生機器人自動回覆的語句850，然後在步驟29使用回覆語句850回覆用戶。其中，問答知識庫830包括用戶的常見問題與相對應的最佳解答。回覆生成器840為使用預先收集的資料預先訓練的人工智慧模型。回覆生成器840的輸入，除了用戶目前的意圖，還包括和用戶在資料庫610中的所有對話內容的摘要語句630，因此能考量更深遠的背景，提供更具有智慧的回覆。

延續前面的範例，若轉接識別模組500產生的轉接客服機率550為[0.68]，而且轉接識別模組500預設的門檻值為0.7，則因為轉接客服機率550小於門檻值，此實施例會轉接機器人回覆模組800。機器人回覆模組800依據意圖分類模組300產生的意圖分類機率分佈330判斷用戶意圖為「帳單問題」，並接收上下文摘要模組600提供的摘要語句630「帳單扣錯款」，以上兩者透過問答知識庫830和回覆生成器840產生的回覆語句850為「請登入個人帳戶查詢相關扣繳資訊並與客服人員聯繫」。另外，機器人回覆模組800可顯示查詢帳戶之網頁連結或轉接客服人員之提示按鍵，以供用戶選擇後續處理程序。因處理此類帳單問題需先經過用戶個人資料身分驗證的程序，若用戶選擇查詢帳戶之網頁連結，便連接至相關客服網站進行後續認證與查詢動作，而若用戶選擇轉接客服人員提示按鍵，則如前述轉接智慧輔助回覆模組700的流程，由真人客服進行用戶身分驗證並由真人客服進行回覆。

此外，第2圖所示的某些步驟的執行順序是可調整的。例如，步驟22、23和24這三個步驟之間的執行順序可以任意調整，這三個步驟也可以同時執行。步驟26的執行順序也可以調整，只要在步驟28和步驟29之前執行即可。

在另一實施例中，可以省略上下文摘要模組600、步驟26、以及摘要語句630。在某些實施例中，可以用在資料庫610中的所有對話內容替代摘要語句630。

如上所述，危機識別器230、意圖分類器320、情緒偵測器430、轉接識別器540、上下文摘要器620、以及回覆生成器840均為人工智慧模型。這些人工智慧模型其中的每一個均可使用模式匹配、資訊檢索、規則分析、統計方法、機器學習、以及深度學習其中的個別或組合方式以建構模型。上述的統計方法例如迴歸分析(regression analysis)。上述的機器學習例如可使用支援向量機(support vector machine；簡稱SVM)、類神經網路(neural network)、以及決策樹(decision tree)其中的一種或多種模型。上述的深度學習例如可使用遞歸神經網路(recurrent neural network；簡稱RNN)、長短期記憶模型(long short-term memory；簡稱LSTM)、深度神經網路(deep neural network；簡稱DNN)、以及卷積神經網路(convolutional neural network；簡稱CNN)其中的一種或多種模型。

本發明的人機協作對話系統與方法具備以下特點及功效：1.自動辨別用戶問題意圖，即時轉接真人客服或機器人客服，將制式容易回覆的問題交由機器人回覆，減少客服人員工作量。2.結合危機與情緒偵測功能，相較於完全用機器人制式回應並依照用戶指示轉接真人回應，可提供更有溫度的智慧客服。3.提供客服人員智慧輔助介面，快速有效的掌握用戶問題，可加快客服人員回應速度與品質。此外，本發明的人機協作對話系統與方法可應用於任何會使用到對話介面與用戶互動的產業與產品。

上述實施形態僅例示性說明本發明之原理及其功效，而非用於限制本發明。任何熟習此項技藝之人士均可在不違背本發明之精神及範疇下，對上述實施形態進行修飾與改變。因此，本發明之權利保護範圍，應如後述之申請專利範圍所列。