CN112035648B - 一种用户数据的处理方法、装置及电子设备 - Google Patents
一种用户数据的处理方法、装置及电子设备 Download PDFInfo
- Publication number
- CN112035648B CN112035648B CN202010910307.0A CN202010910307A CN112035648B CN 112035648 B CN112035648 B CN 112035648B CN 202010910307 A CN202010910307 A CN 202010910307A CN 112035648 B CN112035648 B CN 112035648B
- Authority
- CN
- China
- Prior art keywords
- dialogue
- text
- target
- dialog
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 9
- 238000000034 method Methods 0.000 claims abstract description 74
- 238000012545 processing Methods 0.000 claims abstract description 65
- 230000008569 process Effects 0.000 claims abstract description 57
- 239000013598 vector Substances 0.000 claims description 45
- 238000012549 training Methods 0.000 claims description 32
- 230000006870 function Effects 0.000 claims description 14
- 238000012216 screening Methods 0.000 claims description 7
- 230000003993 interaction Effects 0.000 description 6
- 238000012360 testing method Methods 0.000 description 5
- 238000013473 artificial intelligence Methods 0.000 description 3
- 238000013145 classification model Methods 0.000 description 3
- 238000013135 deep learning Methods 0.000 description 3
- 238000011161 development Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 235000021147 sweet food Nutrition 0.000 description 2
- 238000010200 validation analysis Methods 0.000 description 2
- RWSOTUBLDIXVET-UHFFFAOYSA-N Dihydrogen sulfide Chemical compound S RWSOTUBLDIXVET-UHFFFAOYSA-N 0.000 description 1
- 244000141359 Malus pumila Species 0.000 description 1
- 230000004308 accommodation Effects 0.000 description 1
- 235000021016 apples Nutrition 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000002457 bidirectional effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 230000004807 localization Effects 0.000 description 1
- 235000012054 meals Nutrition 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000000630 rising effect Effects 0.000 description 1
- 238000004148 unit process Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/332—Query formulation
- G06F16/3329—Natural language query formulation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/3331—Query processing
- G06F16/334—Query execution
- G06F16/3344—Query execution using natural language analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/3331—Query processing
- G06F16/334—Query execution
- G06F16/3346—Query execution using probabilistic model
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/35—Clustering; Classification
- G06F16/353—Clustering; Classification into predefined classes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/30—Semantic analysis
- G06F40/35—Discourse or dialogue representation
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Artificial Intelligence (AREA)
- Mathematical Physics (AREA)
- Human Computer Interaction (AREA)
- Probability & Statistics with Applications (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- General Health & Medical Sciences (AREA)
- Machine Translation (AREA)
Abstract
本发明提供了一种用户数据的处理方法、装置及电子设备，在进行对话时，获取用户数据，该用户数据包括当前文本以及历史文本；对当前文本进行意图识别，得到当前文本对应的对话意图概率值；确定与该对话意图概率值对应的目标对话单元，并调用目标对话单元对用户数据进行处理，得到并输出当前文本对应的文本处理结果。本发明能够根据用户当前的输入文本来选择对应的对话单元进行处理，从而能够根据用户对话内容及时调整对话单元，在用户对话意图不同时，采用不同的对话模式的对话单元进行处理，增加了对话处理的灵活性，提高用户体验。
Description
技术领域
本发明涉及人工智能领域，更具体的说，涉及一种用户数据的处理方法、装置及电子设备。
背景技术
近年来，人工智能技术快速发展，用户采用自然语言与智能终端设备进行对话交互的操作越来越普遍，在进行对话交互时，需要使用对话系统，随着科学技术的不断发展，对对话系统的智能化程度要求也越来越高。
对话系统按照功能分类一般分为任务导向型对话系统和非任务导向型(闲聊型)对话系统，不管是选择哪种系统执行对话交互，都是采用该对话系统使用的固定的对话模式与用户进行对话，对话模式单一，用户体验较差。
发明内容
有鉴于此，本发明提供一种用户数据的处理方法、装置及电子设备，以解决现有的对话系统的对话模式单一，用户体验较差的问题。
为解决上述技术问题，本发明采用了如下技术方案：
一种用户数据的处理方法，应用于处理器，所述处理器中设置有至少两个对话单元，不同的所述对话单元对应不同的对话模式以及对话意图概率区间，所述对话方法包括：
与目标用户对话的过程中，在接收到用户输入的文本数据的情况下，获取用户数据，所述用户数据包括当前文本以及历史文本；
对所述当前文本进行意图识别，得到所述当前文本对应的对话意图概率值；
基于不同的所述对话单元对应的对话意图概率区间，确定与所述对话意图概率值对应的目标对话单元，并调用所述目标对话单元对所述用户数据进行处理；
输出所述当前文本对应的文本处理结果。
可选地，对所述当前文本进行意图识别，得到所述当前文本对应的对话意图概率值，包括：
调用预先构建的意图识别模块对所述当前文本进行处理，得到所述当前文本对应的对话意图概率值。
可选地，基于不同的所述对话单元对应的对话意图概率区间，确定与所述对话意图概率值对应的目标对话单元，包括：
获取各个所述对话单元对应的对话意图概率区间；
确定出所述对话意图概率值所属的目标对话意图概率区间，并确定所述目标对话意图概率区间对应的目标对话单元。
可选地，调用所述目标对话单元对所述用户数据进行处理，包括：
从所述历史文本中筛选出与所述目标对话单元对应的目标历史文本；
调用所述目标对话单元对所述当前文本以及所述目标历史文本进行处理，得到所述当前文本对应的文本处理结果。
可选地，在所述对话单元为非任务导向型对话单元的情况下，所述非任务导向型对话单元的生成过程包括：
获取非任务导向型对话数据集；所述非任务导向型对话数据集包括多个连续的非任务导向型对话数据；
使用所述非任务导向型对话数据集对预设的多源编码解码模型进行训练，直至所述多源编码解码模型的损失函数值小于第一预设阈值；
在所述对话单元为任务导向型对话单元的情况下，所述任务导向型对话单元的生成过程包括：
获取任务导向型对话数据集；所述任务导向型对话数据集包括多个连续的任务导向型对话数据；
使用所述任务导向型对话数据集对预设的多层记忆网络模型进行训练，直至所述多层记忆网络模型的损失函数值小于第二预设阈值。
可选地，获取用户数据，包括：
获取当前文本，并对所述当前文本进行向量编码，得到所述当前文本对应的句向量；
获取历史文本对应的句向量。
一种用户数据的处理装置，应用于处理器，所述处理器中设置有至少两个对话单元，不同的所述对话单元对应不同的对话模式以及对话意图概率区间，所述对话装置包括：
数据获取模块，用于与目标用户对话的过程中，在接收到用户输入的文本数据的情况下，获取用户数据，所述用户数据包括当前文本以及历史文本；
意图识别模块，用于对所述当前文本进行意图识别，得到所述当前文本对应的对话意图概率值；
文本处理模块，用于基于不同的所述对话单元对应的对话意图概率区间，确定与所述对话意图概率值对应的目标对话单元，并调用所述目标对话单元对所述用户数据进行处理；
文本输出模块，用于输出所述当前文本对应的文本处理结果。
可选地，所述意图识别模块具体用于：
调用预先构建的意图识别模块对所述当前文本进行处理，得到所述当前文本对应的对话意图概率值。
可选地，所述文本处理模块具体用于：
获取各个所述对话单元对应的对话意图概率区间，确定出所述对话意图概率值所属的目标对话意图概率区间，并确定所述目标对话意图概率区间对应的目标对话单元。
一种电子设备，所述电子设备中设置有至少两个对话单元，不同的所述对话单元对应不同的对话模式以及对话意图概率区间，所述电子设备包括：存储器和处理器；
其中，所述存储器用于存储程序；
处理器调用程序并用于：
与目标用户对话的过程中，在接收到用户输入的文本数据的情况下，获取用户数据，所述用户数据包括当前文本以及历史文本；
对所述当前文本进行意图识别，得到所述当前文本对应的对话意图概率值；
基于不同的所述对话单元对应的对话意图概率区间，确定与所述对话意图概率值对应的目标对话单元，并调用所述目标对话单元对所述用户数据进行处理；
输出所述当前文本对应的文本处理结果。
相较于现有技术，本发明具有以下有益效果：
本发明提供了一种用户数据的处理方法、装置及电子设备，在进行对话时，获取用户数据，该用户数据包括当前文本以及历史文本；对当前文本进行意图识别，得到当前文本对应的对话意图概率值；确定与该对话意图概率值对应的目标对话单元，并调用目标对话单元对用户数据进行处理，得到并输出当前文本对应的文本处理结果。本发明能够根据用户当前的输入文本来选择对应的对话单元进行处理，从而能够根据用户对话内容及时调整对话单元，在用户对话意图不同时，采用不同的对话模式的对话单元进行处理，增加了对话处理的灵活性，提高用户体验。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据提供的附图获得其他的附图。
图1为本发明实施例提供的一种用户数据的处理方法的方法流程图；
图2为本发明实施例提供的一种执行用户数据的处理方法的装置的内部结构图；
图3为本发明实施例提供的另一种用户数据的处理方法的方法流程图；
图4为本发明实施例提供的再一种用户数据的处理方法的方法流程图；
图5为本发明实施例提供的又一种用户数据的处理方法的方法流程图；
图6为本发明实施例提供的一种用户数据的处理装置的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
近年来，人工智能技术的快速发展，使得人们采用自然语言与智能终端设备进行交互成为可能，不断涌现的各种实际应用对对话系统的需求持续高涨。对话系统按其功能定位大致可以分为两类：任务导向型对话系统和非任务导向型(闲聊型)对话系统。任务导向型对话系统旨在帮助用户完成某些任务，比如预订住宿、查找餐馆等。非任务导向型对话系统致力于在开放域上与人交谈，提供合理的反应和娱乐。
由于任务导向型对话系统和非任务导向型对话系统在领域模型设计和数据集特征上的巨大差异，目前存在的对话系统多为单一的任务导向型对话系统或非任务导向型(闲聊型)对话系统，只能解决有限任务或只能用于聊天娱乐。即目前的任务导向型对话系统或非任务导向型(闲聊型)对话系统存在的主要问题如下：
1)目前的任务导向型对话系统交互亲切度不足。在完成任务过程中，任务导向型对话系统难以像非任务导向型(闲聊型)对话系统一样对用户闲聊语句产生相应回应，对话模式较为单一，程序化的对话使用户感觉生硬、有距离感，用户交互体验差。
2)非任务导向型(闲聊型)对话系统在对话过程中，难以为用户提供有效信息，相较于任务型系统实用性不足。
为了解决上述的技术问题，发明人经过研究发现，可以通过设置一个对话模式切换方法，在与用户对话的过程中，实时根据用户的当前文本选择相应的模式进行对话，这样既能够实现任务导向，还能够实现与用户的闲聊。
具体的，本发明中，在进行对话时，获取用户数据，该用户数据包括当前文本以及历史文本；对当前文本进行意图识别，得到当前文本对应的对话意图概率值；确定与该对话意图概率值对应的目标对话单元，并调用目标对话单元对用户数据进行处理，得到并输出当前文本对应的文本处理结果。本发明能够根据用户当前的输入文本来选择对应的对话单元进行处理，从而能够根据用户对话内容及时调整对话单元，在用户对话意图不同时，采用不同的对话模式的对话单元进行处理，增加了对话处理的灵活性，提高用户体验。
在上述内容的基础上，本发明的一实施例提供了一种用户数据的处理方法，应用于处理器，所述处理器中设置有至少两个对话单元，两个对话单元可以包括上述的任务导向型对话系统和非任务导向型(闲聊型)对话系统，此外，还可以有其他类型的对话系统。
本发明实施例为不同的所述对话单元对应不同的对话模式以及对话意图概率区间，假设对话意图概率区间为(0-0.5)对应任务导向型对话系统，对话意图概率区间为(0.5-1)对应非任务导向型(闲聊型)对话系统。通过对当前文本进行意图识别，可以得到对话意图概率区间，进而决定调用哪一对话系统与用户对话。通过本发明，结合任务导向型对话系统和非任务导向型(闲聊型)对话系统，用以满足用户在闲聊和完成任务之间的轻松切换。
参照图1，所述对话方法包括：
S11、与目标用户对话的过程中，在接收到用户输入的文本数据的情况下，获取用户数据。
本发明实施例的应用场景为用户不断与处理器进行对话的场景，本实施例中的处理器可以是手机、电脑等可以实现文本交互的设备。
在实际应用中，为了节省电能，可以设置成处理器在接收到目标用户的文本或语音输入后，才被唤醒。在不需要节省电能的场景下，处理器可以持续性工作，实时监测是否接收到用户输入的文本数据。
具体的，在处理器接收到用户输入的语音之后，将该语音转换成文本，或者直接接收的就是用户输入的文本数据，在此之后，为了保证处理器能够正常识别，需要将该文本数据进行向量编码，得到当前文本对应的句向量，将该语句的文本表示及其句向量存入黑板模块的对话历史单元。在实际应用中，向量编码可以通过编码单元实现，需要提前训练一个BERT(Bidirectional Encoder Representations fromTransformers)预训练语言模型(即编码单元)，将当前文本输入到该模型中，即可通过该模型对当前文本进行编码，得到当前文本对应的句向量。
需要说明的是，一般情况下，是处理器与目标用户持续性对话，目标用户说一句话，处理器回复一句话，然后目标用户继续说话，这样一来一往，实现了目标用户与处理器的对话。
进而，本实施例中，与目标用户对话的过程中，在接收到用户输入的文本数据的情况下，获取用户数据，所述用户数据包括当前文本以及历史文本。
当前文本就是当前用户输入的语音对应的文本数据或者用户直接输入的文本数据，对当前文本进行上述的解码，得到所述当前文本对应的句向量。
此外，还会获取历史文本，其中，历史文本已经编码成对应的句向量，并进行存储。
需要说明的是，处理器和用户的历史对话已经进行编码，并且已经进行了存储，在实际应用中，会预先设置黑板模块，黑板模块包括对话历史单元和对话知识库单元，两者均采用数据库模式实现。
对话历史单元负责存储由用户输入语句及其编码、处理器回复语句及其编码组成的对话历史数据。本实施例中，将上述的历史对话以及进行了编码的当前文本存储到上述的对话历史单元中。
对话知识库单元负责对话知识库等系统数据的存储，如存储苹果的含义、三角形的解释等等，对话历史单元和对话知识库单元同时支持其它模块所需的数据调取。
S12、对所述当前文本进行意图识别，得到所述当前文本对应的对话意图概率值。
在实际应用中，采用识别单元(即意图识别模块)进行意图识别，识别单元是预先训练的一个深度学习文本分类模型，用于计算当前用户输入的文本的对话意图概率，计算得到的对话意图概率值是一个具体的数值，如可以是0-1中的任意值。将当前文本输入到上述的识别单元中，即可得到当前文本对应的对话意图概率值。
本实施例中，判断当前用户输入语句的对话意图，若当前用户输入语句对话意图为闲聊，则调用专家模块的闲聊对话单元，如非任务导向型(闲聊型)对话系统，若当前用户输入语句对话意图为执行某任务，则调用专家模块的任务对话单元，如任务导向型对话系统。
在实际应用中，专家模块包括至少两个对话单元，如闲聊对话单元(如任务导向型对话系统)和任务对话单元(如非任务导向型(闲聊型)对话系统)，闲聊对话单元负责回复用户输入的闲聊意图的语句，并将结果语句及向量存入黑板模块中的对话历史单元，任务对话单元负责回复用户输入的执行某任务意图的语句，并将结果语句及向量存入黑板模块中的对话历史单元中。本实施例中根据用户意图，实时调用相应的单元进行对话。
S13、基于不同的所述对话单元对应的对话意图概率区间，确定与所述对话意图概率值对应的目标对话单元，并调用所述目标对话单元对所述用户数据进行处理。
本步骤可以通过设置在处理器中的判定单元实现，判定单元根据输入的当前用户的对话意图概率，判断调用专家模块中的哪个单元，进而切换单元根据判定单元的判断结果，调用专家模块的闲聊对话单元或任务对话单元对用户数据进行处理。
具体的，由于已经预先确定了不同的所述对话单元对应不同的对话模式以及对话意图概率区间，所以，本实施例中，获取各个所述对话单元对应的对话意图概率区间，直接确定计算出来的当前用户的对话意图概率值落入哪一对话意图概率区间，并使用切换单元切换至该区间对应的目标对话单元。
具体的，参照图3，步骤S13可以包括：
S21、从所述历史文本中筛选出与所述目标对话单元对应的目标历史文本。
在实际应用中，对话单元均是通过文本对话样本训练得到，不同的对话单元的训练样本的类型不同，如闲聊对话单元的训练样本均是闲聊对话，如聊天内容涉及天气、游玩等等，任务对话单元的训练样本主要是一些与任务相关的样本，如如何购买理财，如何办理流量业务等等。
对话单元能处理的历史对话长度有限，所以过滤掉其他意图的对话历史，来提高输出准确度，这样可以保证该单元输出的文本的准确度较高。
在目标历史文本确定之后，由于处理器和目标用户的历史文本中，每一历史文本均标注了对应的对话意图概率值，所以在历史文本中找到落入该目标对话单元对应的对话意图概率区间中的目标历史文本，然后调用该目标对话单元对当前文本以及所述目标历史文本进行处理，即可得到所述当前文本对应的文本处理结果。
S22、调用所述目标对话单元对所述当前文本以及所述目标历史文本进行处理，得到所述当前文本对应的文本处理结果。
S14、输出所述当前文本对应的文本处理结果。
在实际应用中，切换单元调用的对话单元，会对用户数据，即对当前文本和历史文本进行处理，得到当前文本对应的文本对话结果，并文字输出该文本对话结果。此后，将该文本对话结果以及该结果对应的向量存储到上述的黑板模块中的对话历史单元。
本实施例中，在进行对话时，获取用户数据，该用户数据包括当前文本以及历史文本；对当前文本进行意图识别，得到当前文本对应的对话意图概率值；确定与该对话意图概率值对应的目标对话单元，并调用目标对话单元对用户数据进行处理，得到并输出当前文本对应的文本处理结果。本发明能够根据用户当前的输入文本来选择对应的对话单元进行处理，从而能够根据用户对话内容及时调整对话单元，在用户对话意图不同时，采用不同的对话模式的对话单元进行处理，增加了对话处理的灵活性，提高用户体验。
另外，本实施例中，黑板模块会获取每轮用户的语音输入对应的文本或用户直接输入的文本进行存储，并将当前用户输入语句进行编码，将编码结果发送给黑板模块进行存储，同时识别当前用户输入意图，选择相应的对话模型对用户当前输入计算系统回复，并将回复语句及其编码存储至黑板模块，以便下一轮对话使用。本发明基于黑板模型，集成了闲聊型对话系统和任务型对话系统，使得用户在使用过程中能够在闲聊及任务对话模式之间自由切换，更接近于人与人之间的交谈模式，提高了人机交互体验。另外，由于黑板模型的特点，根据用户需求，在现有系统的基础上，可以通过在专家模块中添加不同的对话单元，以及相应地更新控制模块的识别单元、判定单元及切换单元，来增加不同的对话功能，拥有较好的可扩展性。
上述实施例介绍了对话单元均是通过文本对话样本训练得到，现对不同的对话单元的训练过程进行介绍。
1、在所述对话单元为非任务导向型对话单元的情况下，参照图4，所述非任务导向型对话单元的生成过程包括：
S31、获取非任务导向型对话数据集。
所述非任务导向型对话数据集包括多个连续的非任务导向型对话数据。
一般来说，非任务导向型对话数据主要是闲聊对话，如聊天内容可以涉及到天气、穿衣、工作等等，非任务导向型对话数据也是文本数据。
S32、使用所述非任务导向型对话数据集对预设的多源编码解码模型进行训练，直至所述多源编码解码模型的损失函数值小于第一预设阈值。
本实施例中，非任务导向型对话单元可以是多源编码解码模型，对该模型进行训练，在该模型的损失函数值小于第一预设阈值时，就可以停止训练。在进行训练时，可以将非任务导向型对话数据分为训练集、测试集和验证集，训练集用于训练，测试集和验证集用于测试。
在实际应用中，训练一个非任务导向型对话单元，获取当前用户输入的当前文本的句向量及历史对话向量，计算生成一个系统回复向量，并将其转换为文字信息，回复给用户并将该回复及其编码向量存储到黑板模块中的对话历史单元。
2、参照图5，在所述对话单元为任务导向型对话单元的情况下，所述任务导向型对话单元的生成过程包括：
S41、获取任务导向型对话数据集。
所述任务导向型对话数据集包括多个连续的任务导向型对话数据。
一般来说，任务导向型对话数据是用户办理业务时的对话数据，如用户办理流量购买的业务、办理提前还款业务时的对话数据。
S42、使用所述任务导向型对话数据集对预设的多层记忆网络模型进行训练，直至所述多层记忆网络模型的损失函数值小于第二预设阈值。
本实施例中，任务导向型对话单元可以是多层记忆网络模型，对该模型进行训练，在该模型的损失函数值小于第二预设阈值时，就可以停止训练。在进行训练时，可以将任务导向型对话数据分为训练集和测试集，训练集用于训练，测试集用于测试。
在实际应用中，任务导向型对话单元，利用黑板模块知识库，采用多层记忆网络模型，训练一个基于检索模型的任务对话模型，获取当前用户输入的句向量、历史对话向量以及黑板模块对话知识库单元中存储对话知识库，计算检索一个系统回复向量，并将其转换为文字信息，回复给用户并将该回复及其编码向量存储到黑板模块中的对话历史单元，同时更新黑板模块的对话知识库单元。
本实施例中，非任务导向型对话单元以及任务导向型对话单元均采用模型训练得到，模型基于较多的样本训练得到，进而使得模型的准确度较高，则基于训练得到的模型进行对话的准确度也会较高，提高用户体验。
为了本领域技术人员能够更加清楚的了解本发明，现结合一个场景实施例进行解释说明。
例如首轮用户输入“帮我订个餐。”
首先由所述编码单元将该句用户输入通过BERT预训练语言模型进行编码，获得其句向量表示，将该句的文字信息及向量表示写到黑板模块的对话历史单元。
然后通过以下方法判定对话意图及调用的对话单元：
由所述识别单元，将当前用户输入语句编码向量，通过一个深度学习文本二分类模型，计算得到当前用户输入的对话意图概率；
由所述判定单元，根据上一步骤得到的当前用户输入的对话意图概率大于0.50，判断当前用户输入的对话意图为执行任务；
由所述切换单元，根据上一步骤判定单元确定的对话意图，调用专家模块的任务对话单元。
如，通过训练的基于多层记忆网络模型的任务对话模型，以当前用户输入和历史对话的向量表示作为输入，辅以黑板模块的对话知识库单元中存储的对话知识库，计算检索相应的系统回复的向量表示，并更新对话知识库；
将检索得到的系统回复向量表示解码为对应的文字信息，得到最终系统回复“请问您想吃什么？”。
将得到的系统回复及其向量表示存入黑板模块的对话历史单元，更新黑板上的历史对话信息，并将系统回复的文字信息“请问您想吃什么？”输出给用户。
下一轮对话获取用户输入为“你喜欢吃什么？”。
本发明的另一实现场景中，首先由所述编码单元将该句用户输入通过BERT预训练语言模型进行编码，获得其句向量表示，将该句的文字信息及向量表示写到黑板模块的对话历史单元。
由所述识别单元，将当前用户输入语句编码向量，通过一个深度学习文本二分类模型，计算得到当前用户输入的对话意图概率；
由所述判定单元，根据上一步骤得到的当前用户输入的对话意图概率小于0.50，判断当前用户输入的对话意图为闲聊；
由所述切换单元，根据上一步骤判定单元确定的对话意图，调用专家模块的闲聊对话单元。
通过训练的基于多源编码解码模型的闲聊对话模型，以当前用户输入和历史对话的向量表示作为输入，计算生成相应的系统回复的向量表示；
将生成的系统回复向量表示解码为对应的文字信息，得到最终系统回复“我猜我喜欢吃甜食”。
将得到的系统回复及其向量表示存入黑板模块的对话历史单元，更新黑板上的历史对话信息，并将系统回复的文字信息“我猜我喜欢吃甜食”输出给用户。
可选地，在上述用户数据的处理方法的实施例的基础上，本发明的另一实施例提供了一种用户数据的处理装置，应用于处理器，所述处理器中设置有至少两个对话单元，不同的所述对话单元对应不同的对话模式以及对话意图概率区间，所述对话装置包括：
数据获取模块11，用于与目标用户对话的过程中，在接收到用户输入的文本数据的情况下，获取用户数据，所述用户数据包括当前文本以及历史文本；
意图识别模块12，用于对所述当前文本进行意图识别，得到所述当前文本对应的对话意图概率值；
文本处理模块13，用于基于不同的所述对话单元对应的对话意图概率区间，确定与所述对话意图概率值对应的目标对话单元，并调用所述目标对话单元对所述用户数据进行处理；
文本输出模块14，用于输出所述当前文本对应的文本处理结果。
进一步，所述意图识别模块具体用于：
调用预先构建的意图识别模块对所述当前文本进行处理，得到所述当前文本对应的对话意图概率值。
进一步，所述文本处理模块具体用于：
获取各个所述对话单元对应的对话意图概率区间，确定出所述对话意图概率值所属的目标对话意图概率区间，并确定所述目标对话意图概率区间对应的目标对话单元。
进一步，文本处理模块具体用于：
从所述历史文本中筛选出与所述目标对话单元对应的目标历史文本，调用所述目标对话单元对所述当前文本以及所述目标历史文本进行处理，得到所述当前文本对应的文本处理结果。
进一步，还包括模型构建模块，用于在所述对话单元为非任务导向型对话单元的情况下，生成非任务导向型对话单元，以及在所述对话单元为任务导向型对话单元的情况下，生成任务导向型对话单元。
具体的，模型构建模块用于生成非任务导向型对话单元时，具体用于：
获取非任务导向型对话数据集；所述非任务导向型对话数据集包括多个连续的非任务导向型对话数据；
使用所述非任务导向型对话数据集对预设的多源编码解码模型进行训练，直至所述多源编码解码模型的损失函数值小于第一预设阈值。
具体的，模型构建模块用于生成任务导向型对话单元时，具体用于：
获取任务导向型对话数据集；所述任务导向型对话数据集包括多个连续的任务导向型对话数据；
使用所述任务导向型对话数据集对预设的多层记忆网络模型进行训练，直至所述多层记忆网络模型的损失函数值小于第二预设阈值。
进一步，数据获取模块具体用于：
获取当前文本，并对所述当前文本进行向量编码，得到所述当前文本对应的句向量；
获取历史文本对应的句向量。
本实施例中，在进行对话时，获取用户数据，该用户数据包括当前文本以及历史文本；对当前文本进行意图识别，得到当前文本对应的对话意图概率值；确定与该对话意图概率值对应的目标对话单元，并调用目标对话单元对用户数据进行处理，得到并输出当前文本对应的文本处理结果。本发明能够根据用户当前的输入文本来选择对应的对话单元进行处理，从而能够根据用户对话内容及时调整对话单元，在用户对话意图不同时，采用不同的对话模式的对话单元进行处理，增加了对话处理的灵活性，提高用户体验。
需要说明的是，本实施例中的各个模块的工作过程，请参照上述实施例中的相应说明，在此不再赘述。
可选地，在上述用户数据的处理方法及装置的实施例的基础上，本发明的另一实施例提供了一种电子设备，所述电子设备中设置有至少两个对话单元，不同的所述对话单元对应不同的对话模式以及对话意图概率区间，所述电子设备包括：存储器和处理器；
其中，所述存储器用于存储程序；
处理器调用程序并用于：
与目标用户对话的过程中，在接收到用户输入的文本数据的情况下，获取用户数据，所述用户数据包括当前文本以及历史文本；
对所述当前文本进行意图识别，得到所述当前文本对应的对话意图概率值；
基于不同的所述对话单元对应的对话意图概率区间，确定与所述对话意图概率值对应的目标对话单元，并调用所述目标对话单元对所述用户数据进行处理；
输出所述当前文本对应的文本处理结果。
进一步，对所述当前文本进行意图识别，得到所述当前文本对应的对话意图概率值，包括：
调用预先构建的意图识别模块对所述当前文本进行处理，得到所述当前文本对应的对话意图概率值。
进一步，基于不同的所述对话单元对应的对话意图概率区间，确定与所述对话意图概率值对应的目标对话单元，包括：
获取各个所述对话单元对应的对话意图概率区间；
确定出所述对话意图概率值所属的目标对话意图概率区间，并确定所述目标对话意图概率区间对应的目标对话单元。
进一步，调用所述目标对话单元对所述用户数据进行处理，包括：
从所述历史文本中筛选出与所述目标对话单元对应的目标历史文本；
调用所述目标对话单元对所述当前文本以及所述目标历史文本进行处理，得到所述当前文本对应的文本处理结果。
进一步，在所述对话单元为非任务导向型对话单元的情况下，所述非任务导向型对话单元的生成过程包括：
获取非任务导向型对话数据集；所述非任务导向型对话数据集包括多个连续的非任务导向型对话数据；
使用所述非任务导向型对话数据集对预设的多源编码解码模型进行训练，直至所述多源编码解码模型的损失函数值小于第一预设阈值；
在所述对话单元为任务导向型对话单元的情况下，所述任务导向型对话单元的生成过程包括：
获取任务导向型对话数据集；所述任务导向型对话数据集包括多个连续的任务导向型对话数据；
使用所述任务导向型对话数据集对预设的多层记忆网络模型进行训练，直至所述多层记忆网络模型的损失函数值小于第二预设阈值。
进一步，获取用户数据，包括：
获取当前文本，并对所述当前文本进行向量编码，得到所述当前文本对应的句向量；
获取历史文本对应的句向量。
本实施例中，在进行对话时，获取用户数据，该用户数据包括当前文本以及历史文本；对当前文本进行意图识别，得到当前文本对应的对话意图概率值；确定与该对话意图概率值对应的目标对话单元，并调用目标对话单元对用户数据进行处理，得到并输出当前文本对应的文本处理结果。本发明能够根据用户当前的输入文本来选择对应的对话单元进行处理，从而能够根据用户对话内容及时调整对话单元，在用户对话意图不同时，采用不同的对话模式的对话单元进行处理，增加了对话处理的灵活性，提高用户体验。
对所公开的实施例的上述说明，使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的，本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下，在其它实施例中实现。因此，本发明将不会被限制于本文所示的这些实施例，而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
Claims (7)
1.一种用户数据的处理方法，其特征在于，应用于处理器，所述处理器中设置有至少两个对话单元，不同的所述对话单元对应不同的对话模式以及对话意图概率区间，所述对话方法包括：
与目标用户对话的过程中，在接收到用户输入的文本数据的情况下，获取用户数据，所述用户数据包括当前文本以及历史文本；
对所述当前文本进行意图识别，得到所述当前文本对应的对话意图概率值；
基于不同的所述对话单元对应的对话意图概率区间，确定与所述对话意图概率值对应的目标对话单元，并调用所述目标对话单元对所述用户数据进行处理；
输出所述当前文本对应的文本处理结果；
基于不同的所述对话单元对应的对话意图概率区间，确定与所述对话意图概率值对应的目标对话单元，包括：
获取各个所述对话单元对应的对话意图概率区间；
确定出所述对话意图概率值所属的目标对话意图概率区间，并确定所述目标对话意图概率区间对应的目标对话单元；
调用所述目标对话单元对所述用户数据进行处理，包括：
从所述历史文本中筛选出与所述目标对话单元对应的目标历史文本；
调用所述目标对话单元对所述当前文本以及所述目标历史文本进行处理，得到所述当前文本对应的文本处理结果。
2.根据权利要求1所述的处理方法，其特征在于，对所述当前文本进行意图识别，得到所述当前文本对应的对话意图概率值，包括：
调用预先构建的意图识别模块对所述当前文本进行处理，得到所述当前文本对应的对话意图概率值。
3.根据权利要求1所述的处理方法，其特征在于，在所述对话单元为非任务导向型对话单元的情况下，所述非任务导向型对话单元的生成过程包括：
获取非任务导向型对话数据集；所述非任务导向型对话数据集包括多个连续的非任务导向型对话数据；
使用所述非任务导向型对话数据集对预设的多源编码解码模型进行训练，直至所述多源编码解码模型的损失函数值小于第一预设阈值；
在所述对话单元为任务导向型对话单元的情况下，所述任务导向型对话单元的生成过程包括：
获取任务导向型对话数据集；所述任务导向型对话数据集包括多个连续的任务导向型对话数据；
使用所述任务导向型对话数据集对预设的多层记忆网络模型进行训练，直至所述多层记忆网络模型的损失函数值小于第二预设阈值。
4.根据权利要求1所述的处理方法，其特征在于，获取用户数据，包括：
获取当前文本，并对所述当前文本进行向量编码，得到所述当前文本对应的句向量；
获取历史文本对应的句向量。
5.一种用户数据的处理装置，其特征在于，应用于处理器，所述处理器中设置有至少两个对话单元，不同的所述对话单元对应不同的对话模式以及对话意图概率区间，所述对话装置包括：
数据获取模块，用于与目标用户对话的过程中，在接收到用户输入的文本数据的情况下，获取用户数据，所述用户数据包括当前文本以及历史文本；
意图识别模块，用于对所述当前文本进行意图识别，得到所述当前文本对应的对话意图概率值；
文本处理模块，用于基于不同的所述对话单元对应的对话意图概率区间，确定与所述对话意图概率值对应的目标对话单元，并调用所述目标对话单元对所述用户数据进行处理；
文本输出模块，用于输出所述当前文本对应的文本处理结果；
所述文本处理模块具体用于：
获取各个所述对话单元对应的对话意图概率区间，确定出所述对话意图概率值所属的目标对话意图概率区间，并确定所述目标对话意图概率区间对应的目标对话单元；
从所述历史文本中筛选出与所述目标对话单元对应的目标历史文本；
调用所述目标对话单元对所述当前文本以及所述目标历史文本进行处理，得到所述当前文本对应的文本处理结果。
6.根据权利要求5所述的处理装置，其特征在于，所述意图识别模块具体用于：
调用预先构建的意图识别模块对所述当前文本进行处理，得到所述当前文本对应的对话意图概率值。
7.一种电子设备，其特征在于，所述电子设备中设置有至少两个对话单元，不同的所述对话单元对应不同的对话模式以及对话意图概率区间，所述电子设备包括：存储器和处理器；
其中，所述存储器用于存储程序；
处理器调用程序并用于：
与目标用户对话的过程中，在接收到用户输入的文本数据的情况下，获取用户数据，所述用户数据包括当前文本以及历史文本；
对所述当前文本进行意图识别，得到所述当前文本对应的对话意图概率值；
基于不同的所述对话单元对应的对话意图概率区间，确定与所述对话意图概率值对应的目标对话单元，并调用所述目标对话单元对所述用户数据进行处理；
输出所述当前文本对应的文本处理结果；
基于不同的所述对话单元对应的对话意图概率区间，确定与所述对话意图概率值对应的目标对话单元，包括：
获取各个所述对话单元对应的对话意图概率区间；
确定出所述对话意图概率值所属的目标对话意图概率区间，并确定所述目标对话意图概率区间对应的目标对话单元；
调用所述目标对话单元对所述用户数据进行处理，包括：
从所述历史文本中筛选出与所述目标对话单元对应的目标历史文本；
调用所述目标对话单元对所述当前文本以及所述目标历史文本进行处理，得到所述当前文本对应的文本处理结果。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010910307.0A CN112035648B (zh) | 2020-09-02 | 2020-09-02 | 一种用户数据的处理方法、装置及电子设备 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010910307.0A CN112035648B (zh) | 2020-09-02 | 2020-09-02 | 一种用户数据的处理方法、装置及电子设备 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN112035648A CN112035648A (zh) | 2020-12-04 |
| CN112035648B true CN112035648B (zh) | 2024-02-23 |
Family
ID=73591217
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202010910307.0A Active CN112035648B (zh) | 2020-09-02 | 2020-09-02 | 一种用户数据的处理方法、装置及电子设备 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN112035648B (zh) |
Families Citing this family (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113268610B (zh) * | 2021-06-22 | 2023-10-03 | 中国平安人寿保险股份有限公司 | 基于知识图谱的意图跳转方法、装置、设备及存储介质 |
| CN115394289A (zh) * | 2022-07-27 | 2022-11-25 | 京东科技信息技术有限公司 | 识别信息生成方法、装置、电子设备和计算机可读介质 |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2017032738A (ja) * | 2015-07-31 | 2017-02-09 | 日本電信電話株式会社 | 発話意図モデル学習装置、発話意図抽出装置、発話意図モデル学習方法、発話意図抽出方法、プログラム |
| EP3230979A1 (en) * | 2014-12-09 | 2017-10-18 | Microsoft Technology Licensing, LLC | Method and system for determining user intent in a spoken dialog based on transforming at least one portion of a semantic knowledge graph to a probabilistic state graph |
| CN111177331A (zh) * | 2019-11-25 | 2020-05-19 | 云知声智能科技股份有限公司 | 一种对话意图识别方法及装置 |
-
2020
- 2020-09-02 CN CN202010910307.0A patent/CN112035648B/zh active Active
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| EP3230979A1 (en) * | 2014-12-09 | 2017-10-18 | Microsoft Technology Licensing, LLC | Method and system for determining user intent in a spoken dialog based on transforming at least one portion of a semantic knowledge graph to a probabilistic state graph |
| JP2017032738A (ja) * | 2015-07-31 | 2017-02-09 | 日本電信電話株式会社 | 発話意図モデル学習装置、発話意図抽出装置、発話意図モデル学習方法、発話意図抽出方法、プログラム |
| CN111177331A (zh) * | 2019-11-25 | 2020-05-19 | 云知声智能科技股份有限公司 | 一种对话意图识别方法及装置 |
Non-Patent Citations (1)
| Title |
|---|
| 一种基于记忆网络的多轮对话下的意图识别方法;杨成彪;吕荣荣;吴刚;;电子技术与软件工程(10);全文 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN112035648A (zh) | 2020-12-04 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN109658928B (zh) | 一种家庭服务机器人云端多模态对话方法、装置及系统 | |
| CN109977207A (zh) | 对话生成方法、对话生成装置、电子设备及存储介质 | |
| CN108710704B (zh) | 对话状态的确定方法、装置、电子设备及存储介质 | |
| CN112017645B (zh) | 一种语音识别方法及装置 | |
| CN112101045A (zh) | 一种多模态语义完整性识别方法、装置及电子设备 | |
| CN111402861A (zh) | 一种语音识别方法、装置、设备及存储介质 | |
| CN115309877A (zh) | 对话生成方法、对话模型训练方法及装置 | |
| CN112766990B (zh) | 基于多轮对话改进的智能客服辅助系统和方法 | |
| CN112214591A (zh) | 一种对话预测的方法及装置 | |
| CN112035648B (zh) | 一种用户数据的处理方法、装置及电子设备 | |
| CN112669842A (zh) | 人机对话控制方法、装置、计算机设备及存储介质 | |
| CN111858875A (zh) | 智能交互方法、装置、设备及存储介质 | |
| CN116975214A (zh) | 文本生成方法、装置、存储介质及计算机设备 | |
| CN109933773A (zh) | 一种多重语义语句解析系统及方法 | |
| CN110955765A (zh) | 智能助理的语料构建方法、装置、计算机设备和存储介质 | |
| CN114239607A (zh) | 一种对话答复方法及装置 | |
| CN112257432A (zh) | 一种自适应意图识别方法、装置及电子设备 | |
| CN114218356B (zh) | 基于人工智能的语义识别方法、装置、设备及存储介质 | |
| CN114154517B (zh) | 一种基于深度学习的对话质量评估方法及系统 | |
| CN113656566B (zh) | 智能对话处理方法、装置、计算机设备及存储介质 | |
| CN117150338A (zh) | 任务处理、自动问答以及多媒体数据识别模型训练方法 | |
| CN117496960A (zh) | 语音识别模型的训练方法、装置、电子设备及存储介质 | |
| CN116959417A (zh) | 对话回合的检测方法、装置、设备、介质、程序产品 | |
| CN114819062A (zh) | 自然语言理解模型的训练方法、装置、终端设备、介质及用户意图判断方法 | |
| CN111553171B (zh) | 语料处理方法、装置及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |