CN115757725A - 问答处理方法、装置、计算机设备及存储介质 - Google Patents

Abstract

本申请实施例属于人工智能领域，涉及一种问答处理方法、装置、计算机设备及存储介质，方法包括：获取携带有问题文本特征的问答请求，问题文本特征基于问题文本生成；获取多条初始信息特征，初始信息特征为图像特征或文本特征；筛选与问题文本相关的初始信息特征，得到多条召回信息特征；根据问题文本特征和各召回信息特征构建问答特征并输入问答模型，以基于问答模型中的图像处理子模型对问答特征中的图像特征进行处理生成图像答案信息，以及基于问答模型中的文本处理子模型对问答特征中的文本特征进行处理生成文本答案信息，从而得到答案信息。本申请还涉及区块链技术，初始信息特征可存储于区块链中_。本申请提高了多模态问答的准确性。

Description

问答处理方法、装置、计算机设备及存储介质

技术领域

本申请涉及人工智能技术领域，尤其涉及一种问答处理方法、装置、计算机设备及存储介质。

背景技术

随着计算机技术的发展，基于计算机的自然语言处理也得到了极大的发展。智能问答是自然语言处理中的重要应用，它是根据用户输入的问题进行检索，返回与问题相关的答案信息。

当前的问答技术通常是单模态的，即输出的答案只能是文本与图像中的一种，在答案以文本和图像共同表示更佳的情况下，问答的准确度会有所欠缺。

发明内容

本申请实施例的目的在于提出一种问答处理方法、装置、计算机设备及存储介质，以解决问答准确性较低的问题。

为了解决上述技术问题，本申请实施例提供一种问答处理方法，采用了如下所述的技术方案：

获取携带有问题文本特征的问答请求，其中，所述问题文本特征基于问题文本生成；

获取多条初始信息特征，其中，初始信息特征为基于图像生成的图像特征或者基于文本生成的文本特征；

通过关联评估模型筛选与所述问题文本相关的初始信息特征，得到多条召回信息特征；

根据所述问题文本特征和各召回信息特征构建问答特征；

将所述问答特征输入问答模型，以基于所述问答模型中的图像处理子模型对所述问答特征中的图像特征进行处理生成图像答案信息，以及基于所述问答模型中的文本处理子模型对所述问答特征中的文本特征进行处理生成文本答案信息；

根据所述图像答案信息和所述文本答案信息生成所述问答请求的答案信息。

为了解决上述技术问题，本申请实施例还提供一种问答处理装置，采用了如下所述的技术方案：

请求获取模块，用于获取携带有问题文本特征的问答请求，其中，所述问题文本特征基于问题文本生成；

信息获取模块，用于获取多条初始信息特征，其中，初始信息特征为基于图像生成的图像特征或者基于文本生成的文本特征；

信息筛选模块，用于通过关联评估模型筛选与所述问题文本相关的初始信息特征，得到多条召回信息特征；

特征构建模块，用于根据所述问题文本特征和各召回信息特征构建问答特征；

答案生成模块，用于将所述问答特征输入问答模型，以基于所述问答模型中的图像处理子模型对所述问答特征中的图像特征进行处理生成图像答案信息，以及基于所述问答模型中的文本处理子模型对所述问答特征中的文本特征进行处理生成文本答案信息；

信息生成模块，用于根据所述图像答案信息和所述文本答案信息生成所述问答请求的答案信息。

为了解决上述技术问题，本申请实施例还提供一种计算机设备，采用了如下所述的技术方案：

获取携带有问题文本特征的问答请求，其中，所述问题文本特征基于问题文本生成；

获取多条初始信息特征，其中，初始信息特征为基于图像生成的图像特征或者基于文本生成的文本特征；

通过关联评估模型筛选与所述问题文本相关的初始信息特征，得到多条召回信息特征；

根据所述问题文本特征和各召回信息特征构建问答特征；

将所述问答特征输入问答模型，以基于所述问答模型中的图像处理子模型对所述问答特征中的图像特征进行处理生成图像答案信息，以及基于所述问答模型中的文本处理子模型对所述问答特征中的文本特征进行处理生成文本答案信息；

根据所述图像答案信息和所述文本答案信息生成所述问答请求的答案信息。

为了解决上述技术问题，本申请实施例还提供一种计算机可读存储介质，采用了如下所述的技术方案：

获取携带有问题文本特征的问答请求，其中，所述问题文本特征基于问题文本生成；

获取多条初始信息特征，其中，初始信息特征为基于图像生成的图像特征或者基于文本生成的文本特征；

通过关联评估模型筛选与所述问题文本相关的初始信息特征，得到多条召回信息特征；

根据所述问题文本特征和各召回信息特征构建问答特征；

将所述问答特征输入问答模型，以基于所述问答模型中的图像处理子模型对所述问答特征中的图像特征进行处理生成图像答案信息，以及基于所述问答模型中的文本处理子模型对所述问答特征中的文本特征进行处理生成文本答案信息；

根据所述图像答案信息和所述文本答案信息生成所述问答请求的答案信息。

与现有技术相比，本申请实施例主要有以下有益效果：获取问题文本的问题文本特征，并获取多条初始信息特征，初始信息特征为图像的图像特征或文本的文本特征，可能蕴含有答案信息；通过关联评估模型筛选与问题文本相关的初始信息特征，得到多条召回信息特征，从而过滤掉与问题文本无关的信息，提高了问答的准确性；根据问题文本特征和各召回信息特征构建问答特征，然后输入问答模型，问答模型中具有图像处理子模型和文本处理子模型，基于图像处理子模型可以对问答特征中的图像特征进行处理以及图像生成，得到图像答案信息，基于文本处理子模型可以对问答特征中的文本特征进行处理以及文本生成，得到文本答案信息，从而实现多模态答案信息的生成，提升了多模态问答的准确性。

附图说明

为了更清楚地说明本申请中的方案，下面将对本申请实施例描述中所需要使用的附图作一个简单介绍，显而易见地，下面描述中的附图是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是本申请可以应用于其中的示例性系统架构图；

图2是根据本申请的问答处理方法的一个实施例的流程图；

图3是根据本申请的token对齐的一个实施例的示意图。

图4是根据本申请的问答处理装置的一个实施例的结构示意图；

图5是根据本申请的计算机设备的一个实施例的结构示意图。

具体实施方式

除非另有定义，本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同；本文中在申请的说明书中所使用的术语只是为了描述具体的实施例的目的，不是旨在于限制本申请；本申请的说明书和权利要求书及上述附图说明中的术语“包括”和“具有”以及它们的任何变形，意图在于覆盖不排他的包含。本申请的说明书和权利要求书或上述附图中的术语“第一”、“第二”等是用于区别不同对象，而不是用于描述特定顺序。

在本文中提及“实施例”意味着，结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例，也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是，本文所描述的实施例可以与其它实施例相结合。

为了使本技术领域的人员更好地理解本申请方案，下面将结合附图，对本申请实施例中的技术方案进行清楚、完整地描述。

如图1所示，系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用，例如网页浏览器应用、购物类应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。

终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、电子书阅读器、MP3播放器(Mov i ng P i ctureExpertsGroup Aud i o Layer I I I，动态影像专家压缩标准音频层面3)、MP4(Mov i ngP i ctureExperts Group Aud i o Layer I V，动态影像专家压缩标准音频层面4)播放器、膝上型便携计算机和台式计算机等等。

服务器105可以是提供各种服务的服务器，例如对终端设备101、102、103上显示的页面提供支持的后台服务器。

需要说明的是，本申请实施例所提供的问答处理方法一般由服务器执行，相应地，问答处理装置一般设置于服务器中。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

继续参考图2，示出了根据本申请的问答处理方法的一个实施例的流程图。所述的问答处理方法，包括以下步骤：

步骤S201，获取携带有问题文本特征的问答请求，其中，问题文本特征基于问题文本生成。

在本实施例中，问答处理方法运行于其上的电子设备(例如图1所示的服务器)可以通过有线连接方式或者无线连接方式与终端进行通信。需要指出的是，上述无线连接方式可以包括但不限于3G/4G/5G连接、W i F i连接、蓝牙连接、W i MAX连接、Z i gbee连接、UWB(u l t ra w i deband)连接、以及其他现在已知或将来开发的无线连接方式。

具体地，用户可以通过终端输入问题文本，终端根据问题文本生成问答请求并将其发送至服务器。服务器接收到问答请求后，对问题文本进行编码得到问题文本特征。服务器可以将问题文本特征插入问答请求，并对问答请求进行响应，实现问答处理。

在一个实施例中，服务器通过分词器处理问题文本得到多个分词，然后将各分词输入编码网络得到问题文本特征，其中，编码网络可以是bert网络。

步骤S202，获取多条初始信息特征，其中，初始信息特征为基于图像生成的图像特征或者基于文本生成的文本特征。

具体地，服务器获取多条初始信息特征。初始信息特征基于海量的初始信息生成，海量的初始信息中的数据类型包括图像和文本，其中，图像可以生成图像特征，文本可以生成文本特征，图像特征和文本特征将作为初始信息特征。

海量的初始信息可以是服务器预先获取到的，然后对初始信息进行处理得到大量的初始信息特征并存储于数据库中。在接收到问答请求后，可以直接获取准备好的初始信息特征，可以提高问答响应速度。

需要强调的是，为进一步保证上述初始信息特征的私密和安全性，上述初始信息特征还可以存储于一区块链的节点中。

本申请所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(B l ockcha i n)，本质上是一个去中心化的数据库，是一串使用密码学方法相关联产生的数据块，每一个数据块中包含了一批次网络交易的信息，用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。

步骤S203，通过关联评估模型筛选与问题文本相关的初始信息特征，得到多条召回信息特征。

具体地，关联评估模型可以基于神经网络搭建，用于评估初始信息和问题文本的相关性。对于每一条初始信息特征，将初始信息特征和问题文本特征输入关联评估模型，得到关联评估结果。关联评估结果可以显示问题文本特征所对应问题文本与初始信息特征所对应的初始信息是否相关。

根据关联评估结果，选取表示相关的初始信息特征，得到多条召回信息特征。初始信息与问题文本相关，表示问题文本所对应的答案信息蕴含于初始信息中，从而实现初始信息的筛选，确保后续得到的答案信息的准确性。

步骤S204，根据问题文本特征和各召回信息特征构建问答特征。

具体地，将问题文本特征和各召回信息特征进行拼接处理，得到问答特征。可以理解，多条召回信息特征中既可以包括图像特征，也可以包括文本特征，在拼接时，图像特征可以先拼接到一起，文本特征可以先拼接到一起，然后再与问题文本特征进行拼接，得到问答特征。

步骤S205，将问答特征输入问答模型，以基于问答模型中的图像处理子模型对问答特征中的图像特征进行处理生成图像答案信息，以及基于问答模型中的文本处理子模型对问答特征中的文本特征进行处理生成文本答案信息。

具体地，问答模型由子模型构成，子模型包括图像处理子模型和文本处理子模型，其中，图像处理子模型用于对问答特征中的图像特征进行处理，并可以基于图像特征生成图像形式的图像答案信息；文本处理子模型用于对问答特征中的文本特征进行处理，并可以基于文本特征生成文本形式的文本答案信息。

可以理解，问答特征中可以仅包含图像特征和文本特征中的一种，此时仅需要对应的子模型进行处理即可。

问答模型中的子模型可以基于类bert模型构建，类bert模型可以包括Roberta、Al bert、V I NVL、VLMo等，这些模型都是预训练模型，且网络架构相同，在预训练过程中网络参数出现差异，有的更适用于图像处理以及生成，有的更适用于文本处理以及生成，例如，通常Roberta和A l bert会作为文本预训练模型，用于处理文本特征，V I NVL与VLMo会作为图像预训练模型，用于处理图像特征。但是，上述预训练模型都可以同时对图像特征和文本特征进行处理。因此，问答模型中也可以只有一个预训练模型，它既根据图像特征进行图像处理与生成，又根据文本特征进行文本处理与生成，即，图像处理子模型和文本处理子模型可以重合，图像处理子模型和文本处理子模型可以是同一个或者同一种预训练模型。

步骤S206，根据图像答案信息和文本答案信息生成问答请求的答案信息。

具体地，图像答案信息和文本答案信息都可以作为答案信息，服务器向终端返回的答案信息可以同时包含图像答案信息和文本答案信息，实现多模态的答案输出。

本实施例中，获取问题文本的问题文本特征，并获取多条初始信息特征，初始信息特征为图像的图像特征或文本的文本特征，可能蕴含有答案信息；通过关联评估模型筛选与问题文本相关的初始信息特征，得到多条召回信息特征，从而过滤掉与问题文本无关的信息，提高了问答的准确性；根据问题文本特征和各召回信息特征构建问答特征，然后输入问答模型，问答模型中具有图像处理子模型和文本处理子模型，基于图像处理子模型可以对问答特征中的图像特征进行处理以及图像生成，得到图像答案信息，基于文本处理子模型可以对问答特征中的文本特征进行处理以及文本生成，得到文本答案信息，从而实现多模态答案信息的生成，提升了多模态问答的准确性。

进一步的，上述步骤S201之前，还可以包括：获取多条初始信息；当初始信息为图像时，通过第一视觉特征提取模型对图像进行特征提取，得到第一视觉特征和图像中的目标对象图像；通过第二视觉特征提取模型对目标对象图像进行特征提取，得到第二视觉特征；基于第一视觉特征和第二视觉特征生成图像的图像特征；当初始信息为文本时，对文本进行编码得到文本特征；将得到的图像特征和文本特征确定为初始信息特征。

具体地，服务器可以预先获取多条初始信息，初始信息可以是图像或者文本。当初始信息为图像时，将图像输入第一视觉特征提取模型，第一视觉特征模型可以是目标检测网络V I NVL Detector，由它对图像进行视觉特征(V i nv l Features)提取，并预测图像中目标对象的坐标(BBoxes)，其中，目标对象可以是图像中的主体，例如，当图像为一只猫的照片时，猫即为目标对象。连接各坐标所对应的坐标点，可以得到包含目标对象、且面积最小化的目标对象图像。

然后将目标对象图像输入第二视觉特征提取模型进行特征提取，得到第二视觉特征(CL I P Features)，其中，第二视觉特征可以是CL I P神经网络。第一视觉特征与第二视觉特征都是视觉特征，但基于不同的神经网络进行提取，可以互为补偿。

第一视觉特征提取模型可以不限于V I NVL，第二视觉特征提取模型也可以不限于CL I P，它们还可以是其他神经网络。

第一视觉特征与第二视觉特征可以进行拼接，得到图像的图像特征。在一个实施例中，第一视觉特征与第二视觉特征拼接后可以与域编码(Doma i n Embedd i ng)相加，得到图像特征(V i sua l Feature)。在多模态问答中，文本属于一个模态，即一个域，图像属于另一个模块，即另一个域。可以通过域编号对不同模态的信息进行标记，例如图像领域的域编号为1，文本领域的域编号为0，域编号经过编码网络映射到与第一视觉特征/第二视觉特征相同的维度(第一视觉特征与第二视觉特征信息维度可以相同)，得到域编码。

当初始信息为文本时，可以通过分词器处理文本得到多个分词，然后将各分词输入编码网络得到文本特征，其中，编码网络可以是bert网络。

基于初始信息生成的图像特征和文本特征被确定为初始信息特征，从而实现初始信息的预处理。初始信息特征可以存储到数据库中，在接收到问答请求后，直接获取初始信息特征进行筛选，提高了问答响应速度。

本实施例中，当初始信息为图像时，基于不同的视觉特征提取模型处理图像，以充分提取图像特征；当初始信息为文本时，对文本进行编码得到文本特征，完成初始信息的预处理，确保了后续问答响应的速度。

进一步的，上述步骤S203可以包括：将问题文本特征与各初始信息特征分别进行拼接，得到多条待评估特征；将各待评估特征分别输入关联评估模型，得到多个关联评估值；选取关联评估值大于预设的关联阈值的待评估特征；将选取到的待评估特征中的初始信息特征确定为召回信息特征。

具体地，将问题文本特征与每条初始信息特征分别进行拼接，得到多条待评估特征。将各待评估特征分别输入经过预先训练的关联评估模型，得到关联评估值。关联评估值反应了待评估特征中初始信息特征与问题文本特征之间的关联性，可以理解，关联评估值越大，初始信息特征与问题文本特征之间的关联性越高，初始信息特征中越可能蕴含问题文本所对应的答案。

获取预设的关联阈值，并选取数值大于关联阈值的关联评估值，将选取到的关联评估值所对应的待评估特征中的初始信息特征确定为召回信息特征。选取召回信息特征，除了确保后续生成的答案信息的准确性，还避免了后续对大量无关信息进行计算，减少了资源开销。

在一个实施例中，待评估特征的形式为[CLS]+初始信息特征+[SEP]+问题文本特征+[SEP]，其中，[CLS]、初始信息特征、[SEP]和问题文本特征还对应具有位置编码和特征类型编码，其中，位置编码(pos i d)可以标记每个元素在序列(例如上述的待评估特征)中的位置，特征类型编码(TT i ds，即token type i ndex，也可以表示为seg i d)用于标记元素的信息类型，用于丰富输入特征的表征，上文中的域编码便是特征类型编码的一种。

关联评估模型由Be rt模型和全连接层构成，待评估特征首先输入Bert模型，经过Bert模型中embedd i ng l ayer和t ransformer encoder，然后将Bert模型输出结果中第一个[CLS]token对应的特征输入全连接层，由全连接层输出关联评估值。

在关联评估模型的训练过程中，关联评估模型输出关联评估值，关联评估值是初始信息特征与问题文本特征相关性的置信度，然后获取关联标签值，根据关联标签值和关联评估值计算模型损失，其中，损失函数可以是CE损失函数。根据模型损失对模型进行参数调整并进行迭代训练，直至模型损失收敛，停止训练，得到最终的关联评估模型。

本实施例中，将问题文本特征与各初始信息特征分别进行拼接得到多条待评估特征，将各待评估特征分别输入关联评估模型得到关联评估值，关联评估值以数值的形式反应待评估特征中初始信息特征与问题文本特征之间的相关性，从而依据关联评估值选取与问题文本特征具有高相关性的初始信息特征作为召回信息特征，确保了后续基于召回信息特征生成的答案信息的准确性，并降低了计算资源开销。

进一步的，上述步骤S204可以包括：对各召回信息特征中的图像特征进行拼接，并对各召回信息特征中的文本特征进行拼接；将问题文本特征、拼接后的图像特征和拼接后的文本特征分别调整至预设的类型特征长度；对长度调整后的问题文本特征、图像特征和文本特征进行拼接，得到初始问答特征；对初始问答特征中的问题文本特征、图像特征和文本特征分别添加位置编码和特征类型编码，得到问答特征。

具体地，召回信息特征可以有多条，其中可以包含图像特征，也可以包含文本特征。将召回的各图像特征拼接到一起，并将召回的各文本特征拼接到一起，而不是图像特征与文本特征任意性地交叉拼接。

本申请中的问题文本特征、图像特征和文本特征是token序列。本申请预设了类型特征长度，类型特征长度是问题文本特征、拼接后的图像特征和拼接后的文本特征的token序列的期望长度，三者的类型特征长度可以相同，也可以是其中两者相同，也可以三者相同。

当问题文本特征/拼接后的图像特征/拼接后的文本特征的序列长度达不到预设的类型特征长度时，通过在问题文本特征/拼接后的图像特征/拼接后的文本特征最后填充PAD token的方式，将token序列长度对齐至对应的类型特征长度，从而实现token对齐；将token对齐后的问题文本特征、图像特征和文本特征按照预设的拼接顺序进行拼接，得到初始问答特征。其中，PAD token是一种标记填充的token。

图3是一个实施例中序列token对齐的示意图，具体地，参照图3，在常规方式即现有技术中，序列形式为：[CLS]+图像特征+文本特征+[SEP]+问题文本特征+[SEP]+PADtoken，PAD token处于序列尾部，[CLS]+图像特征+文本特征+[SEP]共享一个特征类型编码TT i ds，问题文本特征+[SEP]+PAD token共享一个特征类型编码TT i ds。而在本申请中，是预先设置了每类特征的类型特征长度，当该类特征的序列长度不够时，在该类特征后边添加PAD token，使其达到类型特征长度。对于不同的样本，图像特征+PAD token的长度全部相同，文本特征+PAD token的长度全部相同，问题文本特征+PAD token的长度全部相同，而不会受到初始信息(例如图像中目标对象的数量和文本的长度)的影响。

本申请中，还要给初始问答特征中的[CLS]、token对齐后的图像特征、token对齐后的文本特征、[SEP]、token对齐后的问题文本特征添加位置编码和特征类型编码TT ids，得到问答特征。

本实施例中，将问题文本特征、拼接后的图像特征和拼接后的文本特征分别调整至预设的类型特征长度，使得每次输入问答模型的序列形式一致，模型无需学习序列中某个位置是什么类型的信息，只需要专注于信息内容，从而降低了模型拟合负担，提升了答案信息生成的准确性。

进一步的，上述对各召回信息特征中的文本特征进行拼接的步骤之后，还可以包括：获取预设的问答配置信息，其中，问答配置信息包括问答风格信息、场景信息和用户信息；将问答配置信息合并至文本特征。

具体地，还可以获取预设的问答配置信息，问答配置信息用于对答案信息的生成进行配置、风格化定制。问答配置信息包括风格信息、场景信息和用户信息。其中，风格信息是答案信息的文案风格、图像风格、表达情绪；场景信息可以是问答使用场景，例如用于电商场景，或者学术文章，不同场景答案具有不同的表达风格、形式与倾向；用户信息可以是发起问答请求的用户的信息，例如可以是用户的画像。问答配置信息被映射为向量特征，并合并到拼接后的文本特征中，从而对答案信息进行个性化配置。

本实施例中，将问答风格信息、场景信息和用户信息等问答配置信息合并到文本特征中，从而对答案信息进行个性化配置。

进一步的，上述步骤S205可以包括：将问答特征输入问答模型，以通过问答模型中的图像处理子模型获取问答特征中的图像特征，以及通过问答模型中的文本处理子模型获取问答特征中的文本特征；通过图像处理子模型对图像特征进行编码得到图像答案特征，并通过文本处理子模型对文本特征进行编码得到文本答案特征；分别对图像答案特征和文本答案特征进行解码，得到图像答案信息和文本答案信息。

具体地，将问答特征输入问答模型，问答模型中的图像处理子模型可以根据特征类型编码识别并获取问答特征中的图像特征，问答模型中的文本处理子模型可以根据特征类型编码识别并获取问答特征中的文本特征。

图像处理子模型对图像特征进行编码处理，得到图像答案特征，图像答案特征是答案图像的特征向量，通过解码网络对图像答案特征进行解码可以得到图像答案信息；文本处理子模型对文本特征进行编码处理，得到文本答案特征，文本答案特征是答案文本的特征向量，通过解码网络对文本答案特征进行解码可以得到文本答案信息。

图像处理子模型和文本处理子模型可以由类Bert模型和解码网络构成，其中，类Bert模型可以对图像特征/文本特征进行编码。图像处理子模型于文本处理子模型可以是同一个类Bert模型(例如Roberta、A l be rt、V I NVL、VLMo中的任意一个)，也可以是同一种类Bert模型(Roberta和A l bert为文本预训练模型，V I NVL与VLMo为图像预训练模型)。

本实施例中，问答模型中的图像处理子模型获取问答特征中的图像特征进行编码得到图像答案特征，文本处理子模型获取问答特征中的文本特征进行编码得到文本答案特征，再分别对图像答案特征和文本答案特征进行解码得到图像答案信息和文本答案信息，从而实现多模态的答案信息的生成。

进一步的，文本答案特征有多条，则上述分别对图像答案特征和文本答案特征进行解码，得到图像答案信息和文本答案信息的步骤可以包括：将图像答案特征输入图像解码网络进行解码处理，得到初始答案图像；对初始答案图像进行优化处理得到图像答案信息，其中，优化处理包括超分处理和渲染处理；将各文本答案特征分别输入文本解码网络，以通过文本解码网络基于束搜索算法生成各文本答案特征分别对应的初始答案文本；对各初始答案文本进行融合，得到文本答案信息。

具体地，将图像答案特征输入图像解码网络，图像解码网络可以是t ransformer、CNN、MLP等神经网络结构，由图像解码网络对图像答案特征进行解码处理，得到初始答案图像。

可以对初始答案图像进行优化处理，以提升图像质量以及准确性并生成图像答案信息，其中，优化处理包括超分处理和渲染处理，其中，超分处理是通过超分辨率算法对初始答案图像进行处理，以提升图像分辨率；渲染处理是图像渲染(i mage render i ng)，它与超分处理相似但又不同。在应用中，超分处理和渲染处理可以择一进行，也可以全部进行。

文本处理子模型输出的文本答案特征可以有多条，例如可以有多个文本处理子模型，每个文本处理子模型输出至少一条文本答案特征，或者一个文本处理子模型输出多条文本答案特征。

文本答案特征被输入文本解码网络，文本解码网络对文本答案特征进行解码生成初始答案文本，在解码过程中可以基于束搜索算法提升初始答案文本的准确性。

初始答案文本中的每个字符具有置信度，在解码多条文本答案特征得到多个初始答案文本后，可以根据置信度对多个初始答案文本进行加权平均，实现初始答案文本的融合，得到文本答案信息，进一步提升文本答案信息的准确性。

图像解码网络与文本解码网络而可以是同一个解码网络，也可以是不同的解码网络。

本申请中的问答模型需要预先经过训练，在训练中，获取完成预训练的类bert模型，然后根据训练样本进行微调。

本实施例中，通过图像解码网络对初始答案图像进行解码处理得到初始答案图像，对初始答案图像进行超分处理或者渲染处理，得到更加优化的图像答案信息；文本解码网络基于束搜索算法对文本答案特征进行解码生成初始答案文本，并对初始答案文本进行融合，提高了得到的文本答案信息的准确性。

在一个实施例中，用户可以同时输入问题文本和图像，实现多模态输入，例如问题文本为“图中的建筑叫什么名字”，并附上一张建筑物的图像。该图像将作为初始信息，其对应的初始信息特征会通过关联评估模型的筛选作为召回信息特征，然后被构建为问答特征。问答模型中经过预训练的子模型可以根据问答特征输出问题文本的答案信息。

本申请实施例可以基于人工智能技术对相关的数据进行获取和处理。其中，人工智能(Art i f i c i a l I nte l l i gence，A I)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。

人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、机器人技术、生物识别技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。

本申请可应用于智慧城市领域中，应用于各种具体的智能问答场景中，从而推动智慧城市的建设。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机可读指令来指令相关的硬件来完成，该计算机可读指令可存储于一计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，前述的存储介质可为磁碟、光盘、只读存储记忆体(Read-On l y Memory，ROM)等非易失性存储介质，或随机存储记忆体(Random Access Memory，RAM)等。

应该理解的是，虽然附图的流程图中的各个步骤按照箭头的指示依次显示，但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明，这些步骤的执行并没有严格的顺序限制，其可以以其他的顺序执行。而且，附图的流程图中的至少一部分步骤可以包括多个子步骤或者多个阶段，这些子步骤或者阶段并不必然是在同一时刻执行完成，而是可以在不同的时刻执行，其执行顺序也不必然是依次进行，而是可以与其他步骤或者其他步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。

进一步参考图4，作为对上述图2所示方法的实现，本申请提供了一种问答处理装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。

如图4所示，本实施例所述的问答处理装置300包括：请求获取模块301、信息获取模块302、信息筛选模块303、特征构建模块304、问答处理模块305以及答案生成模块306，其中：

请求获取模块301，用于获取携带有问题文本特征的问答请求，其中，问题文本特征基于问题文本生成。

信息获取模块302，用于获取多条初始信息特征，其中，初始信息特征为基于图像生成的图像特征或者基于文本生成的文本特征。

信息筛选模块303，用于通过关联评估模型筛选与问题文本相关的初始信息特征，得到多条召回信息特征。

特征构建模块304，用于根据问题文本特征和各召回信息特征构建问答特征。

问答处理模块305，用于将问答特征输入问答模型，以基于问答模型中的图像处理子模型对问答特征中的图像特征进行处理生成图像答案信息，以及基于问答模型中的文本处理子模型对问答特征中的文本特征进行处理生成文本答案信息。

答案生成模块306，用于根据图像答案信息和文本答案信息生成问答请求的答案信息。

本实施例中，获取问题文本的问题文本特征，并获取多条初始信息特征，初始信息特征为图像的图像特征或文本的文本特征，可能蕴含有答案信息；通过关联评估模型筛选与问题文本相关的初始信息特征，得到多条召回信息特征，从而过滤掉与问题文本无关的信息，提高了问答的准确性；根据问题文本特征和各召回信息特征构建问答特征，然后输入问答模型，问答模型中具有图像处理子模型和文本处理子模型，基于图像处理子模型可以对问答特征中的图像特征进行处理以及图像生成，得到图像答案信息，基于文本处理子模型可以对问答特征中的文本特征进行处理以及文本生成，得到文本答案信息，从而实现多模态答案信息的生成，提升了多模态问答的准确性。

在本实施例的一些可选的实现方式中，问答处理装置300还可以包括：初始获取模块、第一提取模块、第二提取模块、图像生成模块、文本编码模块以及特征确定模块，其中：

初始获取模块，用于获取多条初始信息。

第一提取模块，用于当初始信息为图像时，通过第一视觉特征提取模型对图像进行特征提取，得到第一视觉特征和图像中的目标对象图像。

第二提取模块，用于通过第二视觉特征提取模型对目标对象图像进行特征提取，得到第二视觉特征。

图像生成模块，用于基于第一视觉特征和第二视觉特征生成图像的图像特征。

文本编码模块，用于当初始信息为文本时，对文本进行编码得到文本特征。

特征确定模块，用于将得到的图像特征和文本特征确定为初始信息特征。

本实施例中，当初始信息为图像时，基于不同的视觉特征提取模型处理图像，以充分提取图像特征；当初始信息为文本时，对文本进行编码得到文本特征，完成初始信息的预处理，确保了后续问答响应的速度。

在本实施例的一些可选的实现方式中，信息筛选模块303可以包括：评估生成子模块、评估输入子模块、特征选取子模块以及召回确定子模块，其中：

评估生成子模块，用于将问题文本特征与各初始信息特征分别进行拼接，得到多条待评估特征。

评估输入子模块，用于将各待评估特征分别输入关联评估模型，得到多个关联评估值。

特征选取子模块，用于选取关联评估值大于预设的关联阈值的待评估特征。

召回确定子模块，用于将选取到的待评估特征中的初始信息特征确定为召回信息特征。

本实施例中，将问题文本特征与各初始信息特征分别进行拼接得到多条待评估特征，将各待评估特征分别输入关联评估模型得到关联评估值，关联评估值以数值的形式反应待评估特征中初始信息特征与问题文本特征之间的相关性，从而依据关联评估值选取与问题文本特征具有高相关性的初始信息特征作为召回信息特征，确保了后续基于召回信息特征生成的答案信息的准确性，并降低了计算资源开销。

在本实施例的一些可选的实现方式中，特征构建模块304可以包括：特征拼接子模块、长度调整子模块、初始生成子模块以及问答生成子模块，其中：

特征拼接子模块，用于对各召回信息特征中的图像特征进行拼接，并对各召回信息特征中的文本特征进行拼接。

长度调整子模块，用于将问题文本特征、拼接后的图像特征和拼接后的文本特征分别调整至预设的类型特征长度。

初始生成子模块，用于对长度调整后的问题文本特征、图像特征和文本特征进行拼接，得到初始问答特征。

问答生成子模块，用于对初始问答特征中的问题文本特征、图像特征和文本特征分别添加位置编码和特征类型编码，得到问答特征。

本实施例中，将问题文本特征、拼接后的图像特征和拼接后的文本特征分别调整至预设的类型特征长度，使得每次输入问答模型的序列形式一致，模型无需学习序列中某个位置是什么类型的信息，只需要专注于信息内容，从而降低了模型拟合负担，提升了答案信息生成的准确性。

在本实施例的一些可选的实现方式中，特征构建模块304可以包括：配置获取子模块以及配置合并子模块，其中：

配置获取子模块，用于获取预设的问答配置信息，其中，问答配置信息包括问答风格信息、场景信息和用户信息。

配置合并子模块，用于将问答配置信息合并至文本特征。

本实施例中，将问答风格信息、场景信息和用户信息等问答配置信息合并到文本特征中，从而对答案信息进行个性化配置。

在本实施例的一些可选的实现方式中，问答处理模块305可以包括：问答输入子模块、特征编码子模块以及特征解码子模块，其中：

问答输入子模块，用于将问答特征输入问答模型，以通过问答模型中的图像处理子模型获取问答特征中的图像特征，以及通过问答模型中的文本处理子模型获取问答特征中的文本特征。

特征编码子模块，用于通过图像处理子模型对图像特征进行编码得到图像答案特征，并通过文本处理子模型对文本特征进行编码得到文本答案特征。

特征解码子模块，用于分别对图像答案特征和文本答案特征进行解码，得到图像答案信息和文本答案信息。

本实施例中，问答模型中的图像处理子模型获取问答特征中的图像特征进行编码得到图像答案特征，文本处理子模型获取问答特征中的文本特征进行编码得到文本答案特征，再分别对图像答案特征和文本答案特征进行解码得到图像答案信息和文本答案信息，从而实现多模态的答案信息的生成。

在本实施例的一些可选的实现方式中，特征解码子模块可以包括：图像解码单元、图像优化单元、文本解码单元以及文本融合单元，其中：

图像解码单元，用于将图像答案特征输入图像解码网络进行解码处理，得到初始答案图像。

图像优化单元，用于对初始答案图像进行优化处理得到图像答案信息，其中，优化处理包括超分处理和渲染处理。

文本解码单元，用于将各文本答案特征分别输入文本解码网络，以通过文本解码网络基于束搜索算法生成各文本答案特征分别对应的初始答案文本。

文本融合单元，用于对各初始答案文本进行融合，得到文本答案信息。

本实施例中，通过图像解码网络对初始答案图像进行解码处理得到初始答案图像，对初始答案图像进行超分处理或者渲染处理，得到更加优化的图像答案信息；文本解码网络基于束搜索算法对文本答案特征进行解码生成初始答案文本，并对初始答案文本进行融合，提高了得到的文本答案信息的准确性。

为解决上述技术问题，本申请实施例还提供计算机设备。具体请参阅图5，图5为本实施例计算机设备基本结构框图。

所述计算机设备4包括通过系统总线相互通信连接存储器41、处理器42、网络接口43。需要指出的是，图中仅示出了具有组件41-43的计算机设备4，但是应理解的是，并不要求实施所有示出的组件，可以替代的实施更多或者更少的组件。其中，本技术领域技术人员可以理解，这里的计算机设备是一种能够按照事先设定或存储的指令，自动进行数值计算和/或信息处理的设备，其硬件包括但不限于微处理器、专用集成电路(App l i cat i onSpec i f i c I ntegrated C i rcu i t，AS I C)、可编程门阵列(F i e l d－Programmab l e Gate Ar ray，FPGA)、数字处理器(D i g i ta l S i gna l Processor，DSP)、嵌入式设备等。

所述计算机设备可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述计算机设备可以与用户通过键盘、鼠标、遥控器、触摸板或声控设备等方式进行人机交互。

所述存储器41至少包括一种类型的可读存储介质，所述可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如，SD或DX存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等。在一些实施例中，所述存储器41可以是所述计算机设备4的内部存储单元，例如该计算机设备4的硬盘或内存。在另一些实施例中，所述存储器41也可以是所述计算机设备4的外部存储设备，例如该计算机设备4上配备的插接式硬盘，智能存储卡(Smart Media Card,SMC)，安全数字(Secure Digital,SD)卡，闪存卡(FlashCard)等。当然，所述存储器41还可以既包括所述计算机设备4的内部存储单元也包括其外部存储设备。本实施例中，所述存储器41通常用于存储安装于所述计算机设备4的操作系统和各类应用软件，例如问答处理方法的计算机可读指令等。此外，所述存储器41还可以用于暂时地存储已经输出或者将要输出的各类数据。

所述处理器42在一些实施例中可以是中央处理器(Central Processing Unit，CPU)、控制器、微控制器、微处理器、或其他数据处理芯片。该处理器42通常用于控制所述计算机设备4的总体操作。本实施例中，所述处理器42用于运行所述存储器41中存储的计算机可读指令或者处理数据，例如运行所述问答处理方法的计算机可读指令。

所述网络接口43可包括无线网络接口或有线网络接口，该网络接口43通常用于在所述计算机设备4与其他电子设备之间建立通信连接。

本实施例中提供的计算机设备可以执行上述问答处理方法。此处问答处理方法可以是上述各个实施例的问答处理方法。

本实施例中，获取问题文本的问题文本特征，并获取多条初始信息特征，初始信息特征为图像的图像特征或文本的文本特征，可能蕴含有答案信息；通过关联评估模型筛选与问题文本相关的初始信息特征，得到多条召回信息特征，从而过滤掉与问题文本无关的信息，提高了问答的准确性；根据问题文本特征和各召回信息特征构建问答特征，然后输入问答模型，问答模型中具有图像处理子模型和文本处理子模型，基于图像处理子模型可以对问答特征中的图像特征进行处理以及图像生成，得到图像答案信息，基于文本处理子模型可以对问答特征中的文本特征进行处理以及文本生成，得到文本答案信息，从而实现多模态答案信息的生成，提升了多模态问答的准确性。

本申请还提供了另一种实施方式，即提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机可读指令，所述计算机可读指令可被至少一个处理器执行，以使所述至少一个处理器执行如上述的问答处理方法的步骤。

本实施例中，获取问题文本的问题文本特征，并获取多条初始信息特征，初始信息特征为图像的图像特征或文本的文本特征，可能蕴含有答案信息；通过关联评估模型筛选与问题文本相关的初始信息特征，得到多条召回信息特征，从而过滤掉与问题文本无关的信息，提高了问答的准确性；根据问题文本特征和各召回信息特征构建问答特征，然后输入问答模型，问答模型中具有图像处理子模型和文本处理子模型，基于图像处理子模型可以对问答特征中的图像特征进行处理以及图像生成，得到图像答案信息，基于文本处理子模型可以对问答特征中的文本特征进行处理以及文本生成，得到文本答案信息，从而实现多模态答案信息的生成，提升了多模态问答的准确性。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本申请各个实施例所述的方法。

显然，以上所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例，附图中给出了本申请的较佳实施例，但并不限制本申请的专利范围。本申请可以以许多不同的形式来实现，相反地，提供这些实施例的目的是使对本申请的公开内容的理解更加透彻全面。尽管参照前述实施例对本申请进行了详细的说明，对于本领域的技术人员来而言，其依然可以对前述各具体实施方式所记载的技术方案进行修改，或者对其中部分技术特征进行等效替换。凡是利用本申请说明书及附图内容所做的等效结构，直接或间接运用在其他相关的技术领域，均同理在本申请专利保护范围之内。

Claims (10)

1.一种问答处理方法，其特征在于，包括下述步骤：

获取携带有问题文本特征的问答请求，其中，所述问题文本特征基于问题文本生成；

获取多条初始信息特征，其中，初始信息特征为基于图像生成的图像特征或者基于文本生成的文本特征；

通过关联评估模型筛选与所述问题文本相关的初始信息特征，得到多条召回信息特征；

根据所述问题文本特征和各召回信息特征构建问答特征；

将所述问答特征输入问答模型，以基于所述问答模型中的图像处理子模型对所述问答特征中的图像特征进行处理生成图像答案信息，以及基于所述问答模型中的文本处理子模型对所述问答特征中的文本特征进行处理生成文本答案信息；

根据所述图像答案信息和所述文本答案信息生成所述问答请求的答案信息。

2.根据权利要求1所述的问答处理方法，其特征在于，在所述获取携带有问题文本特征的问答请求的步骤之前，还包括：

获取多条初始信息；

当初始信息为图像时，通过第一视觉特征提取模型对所述图像进行特征提取，得到第一视觉特征和所述图像中的目标对象图像；

通过第二视觉特征提取模型对所述目标对象图像进行特征提取，得到第二视觉特征；

基于所述第一视觉特征和所述第二视觉特征生成所述图像的图像特征；

当初始信息为文本时，对所述文本进行编码得到文本特征；

将得到的图像特征和文本特征确定为初始信息特征。

3.根据权利要求1所述的问答处理方法，其特征在于，所述通过关联评估模型筛选与所述问题文本相关的初始信息特征，得到多条召回信息特征的步骤包括：

将所述问题文本特征与各初始信息特征分别进行拼接，得到多条待评估特征；

将各待评估特征分别输入关联评估模型，得到多个关联评估值；

选取关联评估值大于预设的关联阈值的待评估特征；

将选取到的待评估特征中的初始信息特征确定为召回信息特征。

4.根据权利要求1所述的问答处理方法，其特征在于，所述根据所述问题文本特征和各召回信息特征构建问答特征的步骤包括：

对各召回信息特征中的图像特征进行拼接，并对所述各召回信息特征中的文本特征进行拼接；

将所述问题文本特征、拼接后的图像特征和拼接后的文本特征分别调整至预设的类型特征长度；

对长度调整后的所述问题文本特征、所述图像特征和所述文本特征进行拼接，得到初始问答特征；

对所述初始问答特征中的所述问题文本特征、所述图像特征和所述文本特征分别添加位置编码和特征类型编码，得到问答特征。

5.根据权利要求4所述的问答处理方法，其特征在于，在所述对所述各召回信息特征中的文本特征进行拼接的步骤之后，还包括：

获取预设的问答配置信息，其中，所述问答配置信息包括问答风格信息、场景信息和用户信息；

将所述问答配置信息合并至所述文本特征。

6.根据权利要求1所述的问答处理方法，其特征在于，所述将所述问答特征输入问答模型，以基于所述问答模型中的图像处理子模型对所述问答特征中的图像特征进行处理生成图像答案信息，以及基于所述问答模型中的文本处理子模型对所述问答特征中的文本特征进行处理生成文本答案信息的步骤包括：

将所述问答特征输入问答模型，以通过所述问答模型中的图像处理子模型获取所述问答特征中的图像特征，以及通过所述问答模型中的文本处理子模型获取所述问答特征中的文本特征；

通过所述图像处理子模型对所述图像特征进行编码得到图像答案特征，并通过所述文本处理子模型对所述文本特征进行编码得到文本答案特征；

分别对所述图像答案特征和所述文本答案特征进行解码，得到图像答案信息和文本答案信息。

7.根据权利要求6所述的问答处理方法，其特征在于，所述文本答案特征有多条，所述分别对所述图像答案特征和所述文本答案特征进行解码，得到图像答案信息和文本答案信息的步骤包括：

将所述图像答案特征输入图像解码网络进行解码处理，得到初始答案图像；

对所述初始答案图像进行优化处理得到图像答案信息，其中，所述优化处理包括超分处理和渲染处理；

将各文本答案特征分别输入文本解码网络，以通过所述文本解码网络基于束搜索算法生成所述各文本答案特征分别对应的初始答案文本；

对各初始答案文本进行融合，得到文本答案信息。

8.一种问答处理装置，其特征在于，包括：

请求获取模块，用于获取携带有问题文本特征的问答请求，其中，所述问题文本特征基于问题文本生成；

信息获取模块，用于获取多条初始信息特征，其中，初始信息特征为基于图像生成的图像特征或者基于文本生成的文本特征；

信息筛选模块，用于通过关联评估模型筛选与所述问题文本相关的初始信息特征，得到多条召回信息特征；

特征构建模块，用于根据所述问题文本特征和各召回信息特征构建问答特征；

问答处理模块，用于将所述问答特征输入问答模型，以基于所述问答模型中的图像处理子模型对所述问答特征中的图像特征进行处理生成图像答案信息，以及基于所述问答模型中的文本处理子模型对所述问答特征中的文本特征进行处理生成文本答案信息；

答案生成模块，用于根据所述图像答案信息和所述文本答案信息生成所述问答请求的答案信息。

9.一种计算机设备，包括存储器和处理器，所述存储器中存储有计算机可读指令，所述处理器执行所述计算机可读指令时实现如权利要求1至7中任一项所述的问答处理方法的步骤。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机可读指令，所述计算机可读指令被处理器执行时实现如权利要求1至7中任一项所述的问答处理方法的步骤。

Images