CN114357129B - 高并发多轮聊天机器人系统及其数据处理方法 - Google Patents

Abstract

本发明公开了一种高并发多轮聊天机器人系统及其数据处理方法，包括：高并发处理模块，用于解决聊天机器人在线的能处理多请求的需求，其应用了网络IO处理模式，将处理逻辑集中在服务器中，终端进行任务请求，通过网络传输请求和回应；第三方语音识别接口模块，用于解析语音信息；基于自然语言处理的多轮聊天处理模块，用于处理关键逻辑，实现多轮聊天对话。本发明通过将高并发网络技术、语音识别接口和基于自然语言处理的多轮聊天机器人智能模型结合，构建一个高效完整的在线的能处理多请求且支持多轮聊天的机器人系统，进一步提升聊天机器人的适应性和交互性，也体现了一种广泛适用的聊天机器人系统框架。

Description

高并发多轮聊天机器人系统及其数据处理方法

技术领域

本发明涉及自然语言处理及网络高并发的技术领域，尤其是指一种基于自然语言处理的高并发多轮聊天机器人系统及其数据处理方法。

背景技术

图灵在1950就提出，建立一个自动化的聊天机器人是人工智能的一个长期目标。以往该方面的研究包括面向任务的聊天对话系统，其重点是完成垂直领域的任务。而聊天机器人的目的是可以一致性地和自然地与人类在开放域的主题交谈。2015年前大多数聊天机器人都是数据驱动或者以信息检索的方式进行响应，也有以序列生成的方式。最近比较流行的模型都是以循环神经网络为基础。

自1962年第一台工业机器人在美国诞生，机器人技术在各国的重视下获得了飞速发展，它不仅是硬件技术的提高，也随着二十一世纪以来人工智能的高速发展，其真正的智能性也逐渐体现出来。除了工业机器人从制造业逐渐普及到其他产业以及各国的军事机器人层出不穷，类人型机器人也得到了商业市场的极大关注，其中聊天型机器人更是最核心的一类机器人。

虽然聊天机器人有很好的应用前景，但也存在一些不容忽视的问题。目前应用于市场的聊天机器人产品大多是以单轮的聊天为主，不会以上下文为前提进行回答提问。此外大多数聊天机器人产品的智能模型是以离线的形式进行运行，也即其模型是固定不变的，对于同一个问题或者同一句话，其回应总是相同的，即使现实状况已经改变。

基于上述的研究现状，需要克服聊天机器人单轮聊天以及离线导致无法更新学习的限制，使得聊天机器人可以支持多轮聊天，同时以一种在线的形式实现实时更新学习模型，从而提高聊天机器人的适应性和交互性。本系统便是基于自然语言处理和网络高并发的相关理论方法对构建聊天机器人系统进行相应实验与研究，以提高聊天机器人的交互性和适应性为最终实现目标。

发明内容

本发明的第一目的在于克服现有技术的缺点与不足，提供一种基于自然语言处理的高并发多轮聊天机器人系统，通过将高并发网络技术、语音识别接口和基于自然语言处理的多轮聊天机器人智能模型结合，构建一个高效完整的在线的能处理多请求且支持多轮聊天的机器人系统，进一步提升聊天机器人的适应性和交互性，也体现了一种广泛适用的聊天机器人系统框架。

本发明的第二目的在于提供一种基于自然语言处理的高并发多轮聊天机器人系统的数据处理方法。

本发明的第一目的通过下述技术方案实现：一种基于自然语言处理的高并发多轮聊天机器人系统，包括：

高并发处理模块，用于解决聊天机器人在线的能处理多请求的需求，其应用了网络IO处理模式，将处理逻辑集中在服务器中，终端进行任务请求，通过网络传输请求和回应；

第三方语音识别接口模块，用于解析语音信息；

基于自然语言处理的多轮聊天处理模块，用于处理关键逻辑，实现多轮聊天对话。

进一步，所述高并发处理模块包括有四个部分：事件处理模式、线程池、任务队列和逻辑处理单元；对于事件处理模式，这里使用proactor模式，主线程和内核负责处理I/O操作，包括读写数据和接收新连接，工作线程仅负责业务逻辑；线程池的设计模式为半同步/半反应堆，其中反应堆为proactor事件处理模式；主线程为异步线程，负责监听文件描述符，接收socket新连接，若当前监听的socket发生了读写事件，将任务插入到请求队列；工作线程从请求队列中取出任务，完成读写数据的处理；对于任务队列，主要用于并发情况下缓存请求数据，向队列中添加数据时，通过互斥锁保证线程安全，添加完成后通过信号量提醒有任务要处理，最后需要进行线程同步；逻辑处理单元包含第三方语音识别接口模块和基于自然语言处理的多轮聊天处理模块，仍由线程池中的一条线程处理，用于处理系统的主要逻辑，输入为音频数据，输出为人类能理解的回答。

进一步，所述第三方语音识别接口模块使用语音识别接口获得接口鉴权信息，包括appid、apikey和apiSecret，然后将接收的音频数据按照接口协议-发送到第三方平台进行语音识别，最后获取识别出来的结果。

进一步，所述基于自然语言处理的多轮聊天模块包括缓存对话模块和多轮聊天学习模型；

所述缓存对话模块以第三方语音识别接口模块输出的数据作为输入，也即音频转成的文本数据，将增添至名为多轮聊天累积对话的缓存的尾部，经过与终端的多次交互，该缓存中将记录所有的按时序排列的对话数据；

所述多轮聊天学习模型以缓存对话模块的数据作为输入，匹配得到最好的应答；该多轮聊天学习模型有以下三个特点：

①使用改进的transformer模块：不同于transformer模块的Encoder层，改进的transformer模块没有用到多头结构，一开始不用做维度的变化。通过改进的transformer模块能够得到不同粒度的表示向量，以此能够挖掘语句不同层级粒度的信息；

②使用交叉注意：通过将改进的transformer模块的输入修改为每条对话和回应句子的同等层级粒度向量，以此完成上下文语句与回应句子的交叉注意，得到两者相互之间存在的依赖信息；

③使用移位方式进行匹配：匹配不同层级粒度的表示向量，进一步挖掘不同层级粒度的向量空间中存在的有效信息。

本发明的第二目的通过下述技术方案实现：一种基于自然语言处理的高并发多轮聊天机器人系统的数据处理方法，包括以下步骤：

S1、在服务器上运行系统，在终端上输入音频数据，进入高并发处理模块，使得高并发处理模块中的主线程响应事件，读取音频数据并放入任务队列中，当有空闲线程监听到任务队列有数据时，则取出数据，并调用第三方语音识别接口模块；

S2、在第三方语音识别接口模块中，将音频数据传输到第三方语音识别系统进行处理转换，再将转换结果返回并添加到基于自然语言处理的多轮聊天处理模块中的多轮聊天累积对话缓存当中；

S3、在基于自然语言处理的多轮聊天处理模块中，将累积对话缓存中的数据作为多轮聊天学习模型的输入，通过多轮聊天学习模型处理得出的回应需要同时输出到累积对话缓存以及高并发处理模块中并返回到终端。

进一步，在步骤S3中，先将输入数据进行预处理成合适维度的表示向量，再将表示向量经过多层的改进的transformer模块得到不同粒度的表示向量，接下来需要获得三种匹配矩阵：①self匹配矩阵：将每条对话分别与回应句子的同等层级粒度表示向量进行相似度匹配，获得的矩阵为self匹配矩阵；②cross匹配矩阵：将每条对话分别与回应句子的同等层级粒度向量进行交叉注意，其中transformer模块的Q,K输入为表示对话的向量，V输入为表示回应句子的向量，两者互换再进行一次，以此得到两种交叉注意的表示向量，使用得到的两种表示向量进行相似度匹配，得到cross匹配矩阵；③移位矩阵：将每条对话分别与回应句子的错n位层级粒度表示向量进行相似度匹配得到移位矩阵；然后将三种2D匹配矩阵聚合成一个大的3D匹配图像，最后进行卷积训练，采用两次的3D卷积和最大池化去提取特征，通过卷积和池化提取到特征后，后面接一层线性层将维度转化成1，用来表示匹配的分数，得分最高的回应则为多轮聊天学习模型选出的最佳回应。

本发明与现有技术相比，具有如下优点与有益效果：

1、本发明实现高并发处理，能更好处理多终端请求，提高系统交互性。将处理逻辑放在线上，能更方便地进行改进、迭代处理模型。

2、克服了只能使用单轮聊天的局限性，使用了最前沿、最先进的多轮聊天机器人训练模型，将当前流行的注意力机制结合入多轮聊天学习模型中，创新性地将语句解析成多粒度表示，再匹配同层粒度间、非同层粒度间的相似度以提取语句中更多的信息用以模型学习，提高模型回答的正确率。同时针对多轮聊天的特性构建适应的系统结构，实现了前沿技术的实用化。

3、功能模块之间耦合性低，结构清晰，功能明确，使得系统的改进以及测试操作更加简单。

附图说明

图1是基于自然语言处理的高并发多轮聊天机器人系统的运作流程图。

图2是高并发处理模块的设计图。

图3是第三方语音识别接口模块和多轮聊天处理模块的数据流图。

图4是多轮聊天学习模型的设计图。

具体实施方式

下面结合实施例及附图对本发明作进一步详细的描述，但本发明的实施方式不限于此。

本实施例公开了一种基于自然语言处理的高并发多轮聊天机器人系统，包括以下功能模块：

高并发处理模块，用于解决聊天机器人在线的可处理多请求的需求，主要应用了现今流行的网络IO处理模式，将处理逻辑集中在服务器中，终端进行任务请求，通过网络传输请求和回应。

第三方语音识别接口模块，用于解析语音信息；目前市面有许多效果很好的语音识别系统，国外有微软，IBM，国内有科大讯飞，百度；这里使用科大讯飞提供的语音识别接口，获得接口鉴权信息(appid,apikey和apiSecret)，然后将接收的音频数据按照接口协议(websocket)发送到第三方平台(科大讯飞)进行语音识别，最后获取识别出来的结果。

基于自然语言处理的多轮聊天处理模块，用于处理关键逻辑，实现多轮聊天对话。

所述高并发处理模块的框架主要有四个部分：事件处理模式、线程池、任务队列和逻辑处理单元。对于事件处理模式，这里使用proactor模式，主线程和内核负责处理读写数据、接收新连接等I/O操作，工作线程仅负责业务逻辑。线程池的设计模式为半同步/半反应堆，其中反应堆为proactor事件处理模式。具体的，主线程为异步线程，负责监听文件描述符，接收socket新连接，若当前监听的socket发生了读写事件，将任务插入到请求队列。工作线程从请求队列中取出任务，完成读写数据的处理。对于任务队列，主要用于并发情况下缓存请求数据，向队列中添加数据时，通过互斥锁保证线程安全，添加完成后通过信号量提醒有任务要处理，最后需要进行线程同步。逻辑处理单元包含第三方语音识别接口模块和基于自然语言处理的多轮聊天处理模块，仍由线程池中的一条线程处理，用于处理系统的主要逻辑，输入为音频数据(提问语音)，输出为人类可理解的回答。

所述基于自然语言处理的多轮聊天模块包括缓存对话模块和多轮聊天学习模型。所述缓存对话模块以第三方语音识别接口模块输出的数据作为输入，也即音频转成的文本数据，将增添至名为多轮聊天累积对话的缓存的尾部，经过与终端的多次交互，该缓存中将记录所有的按时序排列的对话数据。

所述多轮聊天学习模型以缓存对话模块的数据作为输入，匹配得到最好的应答；该多轮聊天学习模型有以下三个特点：

①使用改进的transformer模块：不同于transformer模块的Encoder层，改进的transformer模块没有用到多头结构，一开始不用做维度的变化，通过改进的transformer模块可以得到不同粒度的表示向量，以此可以挖掘语句不同层级粒度的信息；

②使用交叉注意：通过将改进的transformer模块的输入修改为每条对话和回应句子的同等层级粒度向量，以此完成上下文语句与回应句子的交叉注意，得到两者相互之间存在的依赖信息；

③使用移位方式进行匹配：匹配不同层级粒度的表示向量，进一步挖掘不同层级粒度的向量空间中存在的有效信息。

整个高并发多轮聊天机器人系统运行流程如图1所示，首先，通过高并发处理模块，主线程和内核负责处理读写数据、接收新连接等I/O操作，工作线程仅负责业务逻辑。使用同步I/O模拟实现proactor模式。先由终端输入音频数据，即要交互的内容，通过网络传输使得高并发模块中的主线程响应该事件，读取音频数据并放入任务队列中，如图2中的(1)。当有空闲线程监听到任务队列有数据时，则取出数据，如图2中的(2)，并调用语音识别接口，如图2中的(3)和图3中的(1)。通过语音识别接口，将音频数据传输到第三方语音识别系统进行处理转换，再将转换结果返回并添加到系统的多轮聊天累积对话缓存当中，如图3中的(2)、(3)、(4)。将累积对话缓存中的数据作为多轮聊天学习模型的输入，如图3中的(5)，通过模型处理得出的回应需要同时输出到累积对话缓存以及高并发处理模块中并返回到终端，如图3中的(6)、(7)和图2中的(4)。

如图4所示，是本实施例采用的多轮聊天学习模型的设计图。先将输入数据进行预处理成合适维度的表示向量。再将表示向量经过多层的改进的transformer模块得到不同粒度的表示向量(每层的transformer会得出一种粒度的表示向量)，接下来需要获得三种匹配矩阵：①self匹配矩阵：将每条对话分别与回应句子的同等层级粒度表示向量进行相似度匹配，获得的矩阵为self匹配矩阵；②cross匹配矩阵：将每条对话分别与回应句子的同等层级粒度向量进行交叉注意(transformer模块的Q,K输入为表示对话的向量，V输入为表示回应句子的向量，两者互换再进行一次，以此得到两种交叉注意的表示向量)，使用得到的两种表示向量进行相似度匹配，得到cross匹配矩阵；③移位矩阵：将每条对话分别与回应句子的错n位层级粒度表示向量进行相似度匹配得到移位矩阵。然后将三种2D匹配矩阵聚合成一个大的3D匹配图像(就是简单地将所有矩阵进行排列)；最后进行卷积训练，聚合成3D匹配图像后，采用两次的3D卷积和最大池化去提取特征，通过卷积和池化提取到特征后，后面接一层线性层将维度转化成1，用来表示匹配的分数，得分最高的回应则为多轮聊天学习模型选出的最佳回应。

上述实施例为本发明较佳的实施方式，但本发明的实施方式并不受上述实施例的限制，其他的任何未背离本发明的精神实质与原理下所作的改变、修饰、替代、组合、简化，均应为等效的置换方式，都包含在本发明的保护范围之内。

Claims (3)

1.一种基于自然语言处理的高并发多轮聊天机器人系统，其特征在于，包括：

高并发处理模块，用于解决聊天机器人在线的能处理多请求的需求，其应用了网络IO处理模式，将处理逻辑集中在服务器中，终端进行任务请求，通过网络传输请求和回应；

第三方语音识别接口模块，用于解析语音信息；

基于自然语言处理的多轮聊天处理模块，用于处理关键逻辑，实现多轮聊天对话；

所述高并发处理模块包括有四个部分：事件处理模式、线程池、任务队列和逻辑处理单元；对于事件处理模式，这里使用proactor模式，主线程和内核负责处理I/O操作，包括读写数据和接收新连接，工作线程仅负责业务逻辑；线程池的设计模式为半同步/半反应堆，其中反应堆为proactor事件处理模式；主线程为异步线程，负责监听文件描述符，接收socket新连接，若当前监听的socket发生了读写事件，将任务插入到请求队列；工作线程从请求队列中取出任务，完成读写数据的处理；对于任务队列，主要用于并发情况下缓存请求数据，向队列中添加数据时，通过互斥锁保证线程安全，添加完成后通过信号量提醒有任务要处理，最后需要进行线程同步；逻辑处理单元包含第三方语音识别接口模块和基于自然语言处理的多轮聊天处理模块，仍由线程池中的一条线程处理，用于处理系统的主要逻辑，输入为音频数据，输出为人类能理解的回答；

所述第三方语音识别接口模块使用语音识别接口获得接口鉴权信息，包括appid、apikey和apiSecret，然后将接收的音频数据按照接口协议-发送到第三方平台进行语音识别，最后获取识别出来的结果；

所述基于自然语言处理的多轮聊天模块包括缓存对话模块和多轮聊天学习模型；

所述缓存对话模块以第三方语音识别接口模块输出的数据作为输入，也即音频转成的文本数据，将增添至名为多轮聊天累积对话的缓存的尾部，经过与终端的多次交互，该缓存中将记录所有的按时序排列的对话数据；

所述多轮聊天学习模型以缓存对话模块的数据作为输入，匹配得到最好的应答；该多轮聊天学习模型有以下三个特点：

①使用改进的transformer模块：不同于transformer模块的Encoder层，改进的transformer模块没有用到多头结构，一开始不用做维度的变化，通过改进的transformer模块能够得到不同粒度的表示向量，以此能够挖掘语句不同层级粒度的信息；

②使用交叉注意：通过将改进的transformer模块的输入修改为每条对话和回应句子的同等层级粒度向量，以此完成上下文语句与回应句子的交叉注意，得到两者相互之间存在的依赖信息；

③使用移位方式进行匹配：匹配不同层级粒度的表示向量，进一步挖掘不同层级粒度的向量空间中存在的有效信息。

2.一种权利要求1所述基于自然语言处理的高并发多轮聊天机器人系统的数据处理方法，其特征在于，包括以下步骤：

S1、在服务器上运行系统，在终端上输入音频数据，进入高并发处理模块，使得高并发处理模块中的主线程响应事件，读取音频数据并放入任务队列中，当有空闲线程监听到任务队列有数据时，则取出数据，并调用第三方语音识别接口模块；

S2、在第三方语音识别接口模块中，将音频数据传输到第三方语音识别系统进行处理转换，再将转换结果返回并添加到基于自然语言处理的多轮聊天处理模块中的多轮聊天累积对话缓存当中；

S3、在基于自然语言处理的多轮聊天处理模块中，将累积对话缓存中的数据作为多轮聊天学习模型的输入，通过多轮聊天学习模型处理得出的回应需要同时输出到累积对话缓存以及高并发处理模块中并返回到终端。

3.根据权利要求2所述的基于自然语言处理的高并发多轮聊天机器人系统的数据处理方法，其特征在于：在步骤S3中，先将输入数据进行预处理成合适维度的表示向量，再将表示向量经过多层的改进的transformer模块得到不同粒度的表示向量，接下来需要获得三种匹配矩阵：①self匹配矩阵：将每条对话分别与回应句子的同等层级粒度表示向量进行相似度匹配，获得的矩阵为self匹配矩阵；②cross匹配矩阵：将每条对话分别与回应句子的同等层级粒度向量进行交叉注意，其中transformer模块的Q,K输入为表示对话的向量，V输入为表示回应句子的向量，两者互换再进行一次，以此得到两种交叉注意的表示向量，使用得到的两种表示向量进行相似度匹配，得到cross匹配矩阵；③移位矩阵：将每条对话分别与回应句子的错n位层级粒度表示向量进行相似度匹配得到移位矩阵；然后将三种2D匹配矩阵聚合成一个大的3D匹配图像，最后进行卷积训练，采用两次的3D卷积和最大池化去提取特征，通过卷积和池化提取到特征后，后面接一层线性层将维度转化成1，用来表示匹配的分数，得分最高的回应则为多轮聊天学习模型选出的最佳回应。

Images