TWM653797U

TWM653797U - 訊息處理系統

Info

Publication number: TWM653797U
Application number: TW113200017U
Authority: TW
Inventors: 呂遠宏; 徐銘霞; 林宗穎; 鄭東濬; 陳建安; 徐雋崴; 陳照元; 蔡根元
Original assignee: 玉山商業銀行股份有限公司
Priority date: 2024-01-02
Filing date: 2024-01-02
Publication date: 2024-04-01

Abstract

一種訊息處理系統，包含一處理單元及一與該處理單元電連接的儲存單元，用於判斷一初始輸入訊息中是否存在一或多個符合一檢核條件的目標部分，並於判斷結果為是的情形下，產生一對應於該初始輸入訊息且不具有任何目標部分的替代輸入訊息；在獲得一由一語言模型所輸出的初始輸出訊息之後，根據該初始輸出訊息產生一具有該(等)目標部分之其中至少一者的替代輸出訊息。

Description

訊息處理系統

本新型是有關於一種訊息處理系統，特別是指一種適合與語言模型配合應用的訊息處理系統。

由於機器學習及自然語言處理技術的發展，語言模型的應用在近期愈趨廣泛。舉例來說，許多店家或企業會利用語言模型來提供線上的客服功能，而一般的使用者也可以利用語言模型來進行數據分析或者蒐集各種資料。

然而，使用者可能會在使用語言模型的過程中不慎輸入自身或他人的敏感個人資訊，而衍生個資外洩的疑慮。因此，要如何降低利用語言模型所導致的個資外洩風險，便成為一個值得探討的議題。

因此，本新型之目的，便在於提供一種有助於避免個資透過語言模型外洩的訊息處理系統。

本新型訊息處理系統包含一處理單元及一與該處理單元電連接的儲存單元。該儲存單元儲存有一指示出一檢核條件的檢核規則資料。該處理單元用於：判斷一初始輸入訊息中是否存在一或多個符合該檢核條件的目標部分，並於判斷結果為是的情形下，產生一對應於該初始輸入訊息且不具有該（等）目標部分之其中任一者的替代輸入訊息；在獲得一由一語言模型所輸出的初始輸出訊息之後，根據該初始輸出訊息產生一具有該（等）目標部分之其中至少一者的替代輸出訊息。

在本新型訊息處理系統的一些實施態樣中，該處理單元產生該替代輸入訊息的方式，是將該初始輸入訊息中的每一目標部分替換為一對應於該目標部分的替代部分。該處理單元產生該替代輸出訊息的方式，是判斷該初始輸出訊息中是否存在該（等）替代部分的其中任一者，並於判斷結果為是的情形下將該初始輸出訊息中的每一替代部分替換為該替代部分所對應的該目標部分。

在本新型訊息處理系統的一些實施態樣中，該處理單元產生該替代輸入訊息的方式包含：判斷該初始輸入訊息中是否存在一或多個符合該檢核條件的目標部分；在判定該初始輸入訊息中存在該（等）目標部分的情形下，判斷該等目標部分的數量是否大於等於一警示門檻值，在判斷結果為否的情形下自動產生該替代輸入訊息，在判斷結果為是的情形下先將該初始輸入訊息輸出，並於接收到一對應於該初始輸入訊息的准予處理指令時才產生該替代輸入訊息。

在本新型訊息處理系統的一些實施態樣中，該檢核條件包含一能被用於辨識文字訊息中是否存在姓名的第一子條件、一能被用於辨識文字訊息中是否存在地址的第二子條件、以及一能被用於辨識文字訊息中是否存在特定種類識別碼的第三子條件，並且，該處理單元是將該初始輸入訊息中符合該第一子條件、該第二子條件及該第三子條件其中任一者的每一部分作為該目標部分。

本新型之功效在於：該訊息處理系統能將該初始輸入訊息中疑似敏感個人資訊的目標部分去除，從而產生不具有任何目標部分的替代輸入訊息，並以其作為語言模型的輸入，藉此，該訊息處理系統能夠避免將敏感個資輸入語言模型，而能避免敏感個資被該語言模型所記錄或外洩。進一步地，一旦該訊息處理系統接收到由該語言模型所輸出的初始輸出訊息，該訊息處理系統還能先針對初始輸出訊息將至少一個原先被去除的目標部分還原，再將還原後的結果呈現給使用者瀏覽，以避免使用者的瀏覽體驗受到不良影響。藉此，該訊息處理系統不但有助於避免個資透過語言模型被外洩，更能兼顧使用者利用語言模型時的使用體驗。

在本新型被詳細描述之前應當注意：在未特別定義的情況下，本專利說明書中所述的「電連接(electrically connected)」是用來描述電腦硬體（例如電子系統、設備、裝置、單元、元件）之間的「耦接(coupled)」關係，且泛指複數電腦硬體之間透過導體/半導體材料彼此實體相連而實現的「有線電連接」，以及利用無線通訊技術（例如但不限於無線網路、藍芽及電磁感應等）而實現無線資料傳輸的「無線電連接」。另一方面，在未特別定義的情況下，本專利說明書中所述的「電連接」也泛指複數電腦硬體之間彼此直接耦接而實現的「直接電連接」，以及複數電腦硬體之間是透過其他電腦硬體間接耦接而實現的「間接電連接」。

在本新型被詳細描述之前應當注意：本專利說明書中所述的「單元(unit)」是代表電腦硬體而非軟體，舉例來說，「處理單元11」是用來代表具備資料處理功能的電腦硬體。另一方面，本專利說明書中所述的「單元」可以是指具備特定功能的單一個電腦硬體，也可以是指具備類似功能的一群電腦硬體，舉例來說，「處理單元11」可以是指具備資料處理功能的單一個處理器，但也可以是指一群處理器的集合。

本專利說明書提供了同一創作的多種實施例，因此，在後續的說明內容中，不同實施例之間的類似的元件是以相同的編號來表示。

參閱圖1，本新型訊息處理系統1的一實施例適用於與多個使用端2（圖1僅示出其中一者）、一管理端3以及一語言模型伺服端4配合應用。每一使用端2歸屬於一使用者，且每一使用端2可以是一台手機、平板電腦、筆記型電腦或者桌上型電腦。該管理端3可以是一台手機、平板電腦、筆記型電腦或者桌上型電腦，而用於供負責管理該訊息處理系統1的一位管理者操作。該語言模型伺服端4儲存有一語言模型M，而且，在本實施例的應用環境中，該語言模型M是一個基於生成式AI(Generative AI)技術所實現的大型語言模型（Large Language Model，簡稱LLM），例如但不限於基於轉換器的生成式預訓練模型（Generative Pre-trained Transformers，簡稱GPT）、對話程式語言模型（Language Model for Dialogue Applications，也稱LaMDA）或者LLaMA（全名為Large Language Model Meta AI）。此外，為了便於理解，以下的描述中僅以圖1所示出的該使用端2對本實施例進行說明。

在本實施例中，該訊息處理系統1是一台伺服設備，而且，該訊息處理系統1包含一適用於與該使用端2、該管理端3及該語言模型伺服端4透過網路電連接的處理單元11，以及一電連接該處理單元11的儲存單元12。更具體地說，在本實施例中，該處理單元11為一以積體電路實現且具有資料運算及指令收發功能的處理器，該儲存單元12則為一用於儲存數位資料的資料儲存裝置（例如硬碟，或者是其他種類的電腦可讀取記錄媒體）。但是，在類似的實施態樣中，該處理單元11也可以是一包括有處理器及電路板的電路組件，而該儲存單元12也可以是多個相同或相異種類之儲存裝置的集合。進一步地，在其他實施例中，該訊息處理系統1也可被實施為多台彼此電連接的伺服設備，在此情況下，該處理單元11可被實施為該等伺服設備所分別具有之多個處理器／電路組件的集合，而該儲存單元12則可被實施為該等伺服設備所分別具有之多個儲存裝置的集合。基於上述，該訊息處理系統1在電腦硬體方面的實際實施態樣並不以本實施例為限。

該儲存單元12儲存有一指示出一檢核條件的檢核規則資料D1，而且，該檢核條件能被該處理單元11用來辨識文字訊息中的特定種類資訊。在本實施例中，所述的特定種類資訊例如包含姓名、地址、身分證號碼、居留證號碼及金融帳戶號碼，但並不以此為限。

更詳細地說，在本實施例中，該檢核規則資料D1包含一第一規則部分D11、一第二規則部分D12及一第三規則部分D13，而且，該第一規則部分D11、該第二規則部分D12及該第三規則部分D13分別指示出該檢核條件所包含的一第一子條件、一第二子條件及一第三子條件。

具體而言，在本實施例中，該第一規則部分D11例如包括多個姓氏關鍵字以及一能被用於對文字訊息進行自然語言理解及分詞的語意理解模組，並且，該第一規則部分D11所指示出的該第一子條件，是用於供該處理單元11辨識文字訊息中是否存在任何姓名。

另一方面，該第二規則部分D12例如包括一或多個在表示地址時常被使用的文字格式規則（例如依序包含「路」、「段」、「巷」、「號」、「樓」等關鍵字）。換言之，該第二子條件在本實施例中是用於供該處理單元11辨識文字訊息中是否存在地址。

再一方面，該第三規則部分D13例如包括一能用於判斷一字串是否屬於身分證號碼的第一編碼規則、一能用於判斷一字串是否屬於居留證號碼的第二編碼規則，以及一能用於判斷一字串是否屬於金融帳戶號碼的第三編碼規則，換言之，該第三子條件在本實施例中是用於供該處理單元11辨識文字訊息中是否存在身分證號碼、居留證號碼及金融帳戶號碼等種類的特定種類識別碼。補充說明的是，在其他實施例中，依據該第三規則部分D13所包括的實際內容，該第三子條件還能進一步用於供該處理單元11辨識文字訊息中是否存在例如室內電話號碼、手機號碼及信用卡號碼等其他種類的特定種類識別碼。

由於從文字訊息中識別出姓名、地址、身分證號碼、居留證號碼及金融帳戶號碼等特定內容的方式並非本案的技術重點，故在此不過度詳述其細節。

補充說明的是，在本實施例的不同應用環境中，該語言模型M也可以是被儲存在該儲存單元12內，並且，在此種應用環境中，該訊息處理系統1便無須與該語言模型伺服端4配合應用。

配合參閱圖2，以下示例性地詳細說明本實施例的該訊息處理系統1如何實施一訊息處理方法。

首先，在步驟S1中，該處理單元11接收一由文字及符號所組成的初始輸入訊息。在本實施例中，該處理單元11是從該使用端2接收初始輸入訊息，並且，該初始輸入訊息是由該使用端2根據使用者的手動輸入所產生。更明確地說，該初始輸入訊息是使用者要輸入至該語言模型M的訊息，然而，在其他實施例中，該初始輸入訊息也可以是被包含在一附件（例如一個PDF檔）中的文字訊息。

在該處理單元11接收到該初始輸入訊息之後，流程進行至步驟S2。

在步驟S2中，該處理單元11根據該檢核規則資料D1，判斷該初始輸入訊息中是否存在一或多個符合該檢核條件的目標部分。若該處理單元11的判斷結果為是，流程進行至步驟S3。另一方面，若該處理單元11的判斷結果為否，流程則進行至步驟S11。

在本實施例中，該處理單元11是判斷該初始輸入訊息中是否存在任何符合該第一子條件、該第二子條件及該第三子條件其中任一者的部分，並且將該初始輸入訊息中符合該第一子條件、該第二子條件及該第三子條件其中任一者的每一部分作為其中一個目標部分。更具體地說，每一目標部分為一個字串，並且，基於該第一子條件、該第二子條件及該第三子條件在本實施例中的示例性態樣，符合該第一子條件的每一目標部分極可能為一姓名，符合該第二子條件的每一目標部分極可能為一地址，符合該第三子條件的每一目標部分則極可能為一身分證號碼、一居留證號碼或者一金融帳戶號碼。換言之，每一目標部分是該初始輸入訊息中疑似敏感個人資訊而應避免被外洩的部分。

在接續於步驟S2之後的步驟S3中，一旦判定該初始輸入訊息中存在該（等）目標部分，該處理單元11判斷該（等）目標部分的數量是否大於等於一被預設好的警示門檻值，藉此判斷該初始輸入訊息中是否有過多存在個資外洩風險的內容。其中，該警示門檻值可例如被設定為3，然而，警示門檻值的實際數值可依據不同的需求而被自由設定與調整，故並不以前述所舉之例為限。若該處理單元11的判斷結果為否，流程進行至步驟S4。另一方面，若該處理單元11的判斷結果為是，流程則進行至步驟S5。

在接續於步驟S3之後的步驟S4中，一旦判定該（等）目標部分的數量並未大於等於該警示門檻值，該處理單元11自動產生一對應於該初始輸入訊息且不具有該（等）目標部分之其中任一者的替代輸入訊息。

更詳細地說，在本實施例中，該處理單元11產生該替代輸入訊息的方式，是將該初始輸入訊息中的每一目標部分替換為一對應於該目標部分的替代部分，且每一替代部分可例如是被預先儲存在該儲存單元12內，但並不以此為限。舉例來說，對於每一目標部分，若該目標部分是符合該第一子條件的一個疑似姓名部分，則該目標部分所對應的該替代部分可例如是一個虛擬姓名字串。若該目標部分是符合該第二子條件的一個疑似地址部分，則該目標部分所對應的該替代部分可例如是一個虛擬地址字串。若該目標部分是符合該第三子條件的一個疑似個人識別碼部分，則該目標部分所對應的該替代部分可例如是一個虛擬識別碼。

藉由產生該替代輸入訊息，該處理單元11能將該初始輸入訊息中疑似敏感個人資訊的部分去除，而改以對應的替代部分呈現。

在該處理單元11產生該替代輸入訊息之後，流程進行至步驟S7。

在接續於步驟S3之後的步驟S5中，一旦判定該（等）目標部分的數量確實大於等於該警示門檻值，表示該初始輸入訊息中存在個資外洩風險的內容過多。在此情況下，該處理單元11產生一包含該初始輸入訊息的警示通知，並將該警示通知傳送至該管理端3，以供該管理端3將該初始輸入訊息顯示給管理者進行評估。接著，流程進行至步驟S6。

在步驟S6中，當該處理單元11從該管理端3接收到一對應於該初始輸入訊息的准予處理指令時，該處理單元11根據該准予處理指令以步驟S4所述的方式產生該替代輸入訊息，其中，該准予處理指令例如是由該管理端3根據管理者的手動操作所產生。特別說明的是，在本步驟中，該處理單元11是在接收到該准予處理指令時才會產生該替代輸入訊息，並且，若該處理單元11並未在一等待回應期間內接收到該准予處理指令，或者從該管理端3接收到一對應於該初始輸入訊息的禁止處理指令時，該處理單元11例如產生並傳送一對應於該初始輸入訊息的拒絕通知至該使用端2，以提示使用者該初始輸入訊息存在資安風險，而不適合被輸入至該語言模型M。

在該處理單元11根據該准予處理指令產生該替代輸入訊息之後，流程進行至步驟S7。

在接續於步驟S4或步驟S6之後的步驟S7中，該處理單元11將該替代輸入訊息傳送至該語言模型伺服端4，藉此將該替代輸入訊息輸入該語言模型M，以使該語言模型M根據該替代輸入訊息進行自然語言理解及生成。值得一提的是，由於該替代輸入訊息中不存在任何目標部分（即不存在任何疑似敏感個人資訊的內容），本實施例能夠避免將敏感個資輸入該語言模型M，而能避免敏感個資被該語言模型M所記錄或外洩。

在該處理單元11將該替代輸入訊息輸入該語言模型M之後，流程進行至步驟S8。

在步驟S8中，當該處理單元11從該語言模型伺服端4接收到一由該語言模型M根據該替代輸入訊息所輸出的初始輸出訊息時，該處理單元11判斷該初始輸出訊息中是否存在該（等）替代部分的其中任一者。其中，該初始輸出訊息相當於是該語言模型M針對該替代輸入訊息所產生的自然語言回應。若該處理單元11的判斷結果為是，流程進行至步驟S9。另一方面，若該處理單元11的判斷結果為否，流程則進行至步驟S10。

在接續於步驟S8之後的步驟S9中，一旦判定該初始輸出訊息中存在該（等）替代部分的其中任一者，該處理單元11根據該初始輸出訊息產生一具有該（等）目標部分之其中至少一者且與該初始輸出訊息部分相同的替代輸出訊息，並將該替代輸出訊息輸出。在本實施例中，該處理單元11將該替代輸出訊息輸出的方式，是將該替代輸出訊息傳送至該使用端2，以供該使用端2將該替代輸出訊息顯示給使用者瀏覽，但並不以此為限。

更具體地說，該處理單元11產生該替代輸出訊息的方式，是將該初始輸出訊息中的每一替代部分替換為該替代部分所對應的該目標部分，換言之，該處理單元11是將該初始輸出訊息中的每一替代部分還原成步驟S4或步驟S6中被取代的目標部分，因此，在本實施例中，該替代輸出訊息除了該（等）目標部分以外的部分與該初始輸出訊息相同。舉一例來說，假設使用者有在該初始輸入訊息中輸入自己的本名，則其本名便會在步驟S4或步驟S6中被該處理單元11以虛擬姓名字串所取代，而不會被輸入至該語言模型M。進一步地，假若該語言模型M所輸出的該初始輸出訊息中仍存在有該處理單元11用來取代使用者本名的虛擬姓名字串，該處理單元11便會先將該初始輸出訊息中的虛擬姓名字串還原成使用者所輸入的本名（亦即產生該替代輸出訊息），再將還原後的結果呈現給使用者，以避免使用者的瀏覽體驗受替代部分所影響。

在接續於步驟S8之後的步驟S10中，一旦判定該初始輸出訊息中不存在任何該（等）替代部分，表示該語言模型M並未將任一替代部分（例如前述的虛擬姓名字串及虛擬地址字串）直接作為其自然語言生成結果的一部分。在此情況下，該處理單元11無須對該初始輸出訊息進行其他處理，而直接將該初始輸出訊息輸出（亦即將該初始輸出訊息傳送至該使用端2以供其顯示，但不以此為限）。

在接續於步驟S2之後的步驟S11中，一旦判定該初始輸入訊息中不存在任何目標部分，表示該初始輸入訊息中不存在疑似敏感個人資訊的內容，故該處理單元11無須對該初始輸入訊息中的內容進行替換，在此情況下，該處理單元11直接將該初始輸入訊息輸入該語言模型M，並於獲得一由該語言模型M根據該初始輸入訊息所輸出的輸出訊息時，將該輸出訊息傳送至該使用端2以供其顯示給使用者瀏覽。

以上即為本實施例之訊息處理系統1如何實施該訊息處理方法的示例說明。

特別說明的是，本實施例的步驟S1至步驟S11及圖2的流程圖僅是用於示例說明本新型訊息處理方法的其中一種可實施方式。應當理解，即便將步驟S1至步驟S11進行合併、拆分或順序調整，若合併、拆分或順序調整之後的流程與本實施例相比是以實質相同的方式達成實質相同的功效，便仍屬於本新型訊息處理方法的可實施態樣，因此，本實施例的步驟S1至步驟S11及圖2的流程圖並非用於限制本新型的可實施範圍。

在該訊息處理系統1的另一種實施例中，該訊息處理系統1是被實施為一台手機、平板電腦、筆記型電腦或者桌上型電腦，並且，該訊息處理系統1還包含與該處理單元11電連接的一輸入單元（例如觸控面板或鍵盤）以及一顯示單元（例如螢幕）。並且，在該訊息處理方法的實施過程中，該處理單元11是透過該輸入單元而接收該初始輸入訊息，而且，該處理單元11輸出該替代輸出訊息或該初始輸出訊息的方式，是控制該顯示單元顯示該替代輸出訊息或該初始輸出訊息。

本新型還提供了一種電腦程式產品的一實施例。具體來說，該電腦程式產品能被儲存於各種電腦可讀取記錄媒體（例如硬碟、隨身碟及光碟等），並且，該電腦程式產品包含一應用程式，且該應用程式包括該檢核規則資料D1。當一電子裝置（例如一台行動電子裝置或電腦設備）載入並執行該電腦程式產品的應用程式時，該應用程式能使該電子裝置被作為前述任一實施態樣中所述的該訊息處理系統1，並用於執行前述任一種實施態樣中所述的該訊息處理方法。

綜上所述，藉由執行該訊息處理方法，該訊息處理系統1能將該初始輸入訊息中疑似敏感個人資訊的目標部分以替代部分所取代，從而產生不具有任何目標部分的替代輸入訊息，並以其作為語言模型M的輸入，藉此，該訊息處理系統1能夠避免將敏感個資輸入語言模型M，而能避免敏感個資被該語言模型M所記錄或外洩。進一步地，一旦該處理單元11接收到由該語言模型M所輸出的初始輸出訊息，且判定該初始輸出訊息中存在其中一或多個替代部分時，該處理單元11還能先將該初始輸出訊息中的每一替代部分還原成原本的目標部分（亦即產生該替代輸出訊息），再將還原後的結果呈現給使用者瀏覽，以避免使用者的瀏覽體驗受到替代部分影響。藉此，本實施例不但有助於避免個資透過語言模型M被外洩，更能兼顧使用者利用語言模型M時的使用體驗，而確實能達成本新型之目的。

惟以上所述者，僅為本新型之實施例而已，當不能以此限定本新型實施之範圍，凡是依本新型申請專利範圍及專利說明書內容所作之簡單的等效變化與修飾，皆仍屬本新型專利涵蓋之範圍內。

1:訊息處理系統

11:處理單元

12:儲存單元

D1:檢核規則資料

D11:第一規則部分

D12:第二規則部分

D13:第三規則部分

2:使用端

3:管理端

4:語言模型伺服端

M:語言模型

S1~S11:步驟

本新型之其他的特徵及功效，將於參照圖式的實施方式中清楚地呈現，其中：圖1是一方塊示意圖，示例性地表示本新型訊息處理系統的一實施例，以及適合與該實施例配合應用的一使用端及一語言模型伺服端；及圖2是一流程圖，用於示例性地說明該實施例如何實施一訊息處理方法。