CN112464958A - 多模态神经网络信息处理方法、装置、电子设备与介质 - Google Patents

Abstract

本发明提供了一种多模态神经网络信息处理方法、装置、电子设备与介质，所述方法包括：获取N种不同类型的样本数据，并标定所述样本数据的样本输出结果；提取所述样本数据的样本特征数据，并预处理所述样本特征数据，所述样本特征数据继承所述样本数据的样本输出结果；构建神经网络模型，将所述预处理后的样本特征数据输入所述神经网络模型进行训练，得到初级神经网络模型；获取实际数据，并提取所述实际数据的实际特征数据；基于所述标定的样本输出结果，将所述实际特征数据输入所述初级神经网络模型中，得到实际输出结果；对所述实际输出结果进行评价，并调整所述实际输出结果的权值。本发明有助于提高神经网络处理不同类型数据的能力。

Description

多模态神经网络信息处理方法、装置、电子设备与介质

技术领域

本发明涉及信息处理领域，尤其涉及一种多模态神经网络信息处理方法、装置、电子设备与存储介质。

背景技术

现有神经网络系统的一个系统模型通常只能针对某一类信息进行训练、识别和合成，对于多种类型的信息无法同时处理，例如图像和声音不能在一个系统模型中处理。

本发明采用不同类型的多模态机制来实现类脑神经网络系统。通过将多种不同类型的样本数据提取特征数据后，输入预先构建的神经网络模型中，将多种不同类型的样本数据转化为相同类型的神经元，如图像、声音、距离、温度、湿度、压强、电压、电流等都可以转化为多个同类型的神经元；同时标定样本特征数据对应的输出结果；然后获取实际数据后提取实际特征数据，通过预先标定的样本特征数据的输出结果，来匹配到实际特征数据的输出结果，再根据对实际输出结果的评价来调整实际输出结果的权值，让输出结果趋于稳定，从而使得神经网络可以处理不同类型的数据，有助于提高神经网络处理不同类型数据的能力。

发明内容

本发明提供一种多模态神经网络信息处理方法、装置、电子设备与介质，以解决一个神经网络处理多种类型数据的能力较低的问题。

根据本发明的第一方面，提供了一种多模态神经网络信息处理方法，包括：

获取N种不同类型的样本数据，并标定所述样本数据的样本输出结果，其中N为正整数；

提取所述样本数据的样本特征数据，并预处理所述样本特征数据，所述样本特征数据继承所述样本数据的样本输出结果；

构建神经网络模型，将所述预处理后的样本特征数据输入所述神经网络模型进行训练，得到初级神经网络模型；

获取实际数据，并提取所述实际数据的实际特征数据；

基于所述标定的样本输出结果，将所述实际特征数据输入所述初级神经网络模型中，得到实际输出结果；

对所述实际输出结果进行评价，并调整所述实际输出结果的权值。

根据本发明的第二方面，提供了一种多模态神经网络信息处理装置，包括：

样本输出标定模块，用于获取N种不同类型的样本数据，并标定所述样本数据的样本输出结果，其中N为正整数；

样本特征数据模块，用于提取所述样本数据的样本特征数据，并预处理所述样本特征数据，所述样本特征数据继承所述样本数据的样本输出结果；

神经网络训练模块，用于构建神经网络模型，将所述预处理后的样本特征数据输入所述神经网络模型进行训练，得到初级神经网络模型；

实际特征数据模块，用于获取实际数据，并提取所述实际数据的实际特征数据；

实际输出模块，用于基于所述标定的样本输出结果，将所述实际特征数据输入所述初级神经网络模型中，得到实际输出结果；

评价模块，用于对所述实际输出结果进行评价，并调整所述实际输出结果的权值。

根据本发明的第三方面，提供了一种电子设备，其特征在于，包括存储器、处理器以及存储在上述存储器中并可在上述处理器上运行的计算机程序，上述处理器执行上述计算机程序时实现如上第一方面所提供的方法的步骤。

根据本发明的第四方面，提供了一种存储介质，其上存储有计算机程序，该程序被处理器执行时实现第一方面、第二方面及其可选方案涉及的方法。

本发明提供的多模态神经网络信息处理方法、装置、电子设备与介质中，能够先建立多种不同类型的样本数据对应的输出结果，然后将样本数据提取样本特征数据后，输入神经网络模型进行训练，转化为相同类型的神经元，然后获取实际数据并提取实际特征数据后，通过预先标定的样本数据的输出结果，来匹配到实际特征数据的输出结果，并对根据对实际输出结果的评价来调整实际输出结果的权值，有助于提高神经网络处理不同类型数据的能力。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1是本发明实施例提供的多模态神经网络信息处理方法的流程图；

图2是本发明实施例提供的神经网络模型训练的流程图；

图3是本发明实施例提供的多模态神经网络信息处理装置的示意图；

图4是本发明实施例提供的神经网络模型训练模块的示意图；

图5是本发明实施例提供的电子设备的构造示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”“第四”等(如果存在)是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。

下面以具体地实施例对本发明的技术方案进行详细说明。下面这几个具体的实施例可以相互结合，对于相同或相似的概念或过程可能在某些实施例不再赘述。

实施例一

图1示出了本发明实施例一提供的多模态神经网络信息处理方法的实现流程，该方法的执行主体可以是电子设备，包括但不限于智能手机、平板电脑、个人电脑、服务器等。需要说明的是，该电子设备的数目并不是固定的，可以根据实际情况进行部署。进一步地，上述实施例一提供的多模态神经网络信息处理的实现流程详述如下：

S101：用于获取N种不同类型的样本数据，并标定所述样本数据的样本输出结果，其中N为正整数。

可选地，获取N种不同类型的样本数据，所述不同类型的样本数据包括但不限于：图像数据、声音数据、压强数据、湿度数据、温度数据、湿度数据等，获取样本数据的可以是红外传感器、摄像头、麦克风等设备，此处对样本数据的类型和获取样本数据的方式不作限定。

进一步地，标定所述样本数据的样本输出结果，使用者通过开放式接口对样本数据的样本输出结果进行标定。具体地，使用者通过样本数据自定义输出结果接口/界面标定样本输出结果，其中所述样本输出结果可以是动作输出、数值输出或图像输出等。

S102：提取所述样本数据的样本特征数据，并预处理所述样本特征数据，所述样本特征数据继承所述样本数据的样本输出结果。

可选地，提取所述样本数据的样本特征数据。具体地，上述样本数据可以是多种不同类型的数据，如图像数据、声音数据等，提取上述样本数据的特征数据。示例的，图像可以用RGB模型表示，图像中的每个像素都可以分解成RGB模型，所述图像中每个像素用RGB模型表示后的矩阵即为提取后的图像数据的特征数据。示例的，声音可以分解成音色、响度、音调等维度，用数值表示声音的每个维度，从而构成提取后的声音数据的特征数据。对于样本数据的特征数据提取方法，此处不作限定。

进一步地，预处理上述样本特征数据。

具体地，基于预设标准对上述样本特征数据的格式进行统一。其中，预设标准可以是数据样式的标准，此处不做限定。通过删减或增加所述样本特征数据的长度来使得样本特征数据统一化、标准化，从而使得神经网络模型的训练更方便。

示例的，数据样式的统一标准可以是：

[0xh0][类型][数据内容][0hx0]

0xh0开始编码32位

类型特征类型16位

数据内容不限长度(遇到开始和结尾编码，需转码)

0hx0结尾编码32位

可选地，在本发明提供的一个实施例中，提供开放式接口，对使用者开放。具体地，样本数据可以是使用者通过样本数据自定义接口/界面输入的；样本数据对应的输出结果可以是使用者通过样本数据自定义输出结果接口/界面标定的；使用者也可以通过样本数据自定义统一接口来对上述样本特征数据的格式进行统一。

S103：构建神经网络模型，将所述预处理后的样本特征数据输入所述神经网络模型进行训练，得到初级神经网络模型。

可选地，上述神经网络模型可以是人工神经网络或脉冲神经网络。

图2示出了步骤S103中的神经网络模型训练的流程图。

请参考图2，其中一种实施方式中，步骤S103可以包括：

S1031：将所述预处理后的样本特征数据输入所述神经网络模型，得到卷积数据；

可选地，上述神经网络模型为卷积神经网络，该卷积神经网络可以包括至少一个卷积层。进一步地，上述卷积层可包括卷积核，输入卷积层的样本特征数据经过与卷积核的卷积运算后，输出包含特征信息的卷积数据。

可选地，上述卷积神经网络还可以包括池化层、Inception模块、全连接层等，此处不作限定。

S1032：根据所述预处理后的样本特征数据和卷积数据生成损失函数；

可选地，所述预处理后的样本特征数据和卷积数据之间的损失函数可以使用MSE(均方误差)。

S1033：根据所述损失函数对所述神经网络模型进行梯度更新；

可选地，梯度更新的公式如公式(1)所示：

W’＝W-αΔW (1)

其中，W代表神经网络模型的权重参数，W’代表更新后的权重参数，α是预先设定的学习率，ΔW是计算梯度。

可选地，在进行梯度更新的时候，可以使用现有的自适应梯度优化器来进行计算。

具体地，可以使用Adam优化器。进一步地，在Adam优化器中输入上述MSE计算结果、神经网络模型的权重参数、预先设定的学习率，即可得到更新后的权重参数。

S1034：通过所述梯度更新调整所述神经网络模型的权重参数。

可选地，将上述计算得到的更新后的权重参数替换掉神经网络模型中原有的权重参数。

进一步地，训练后得到神经网络模型。上述初级神经网络模型是使用多模态样本数据训练出来的神经网络模型，用于匹配实际数据，返回对应的输出结果，能起到结果预测、行为响应的作用。

S104：获取实际数据，并提取所述实际数据的实际特征数据。

可选地，获取不同类型的实际数据，所述不同类型的实际数据包括但不限于：图像数据、声音数据、压强数据、湿度数据等，获取实际数据的可以是红外传感器、摄像头、麦克风等设备，此处对实际数据的类型和获取实际数据的方式不作限定。可选地，所述实际数据的类型需要被样本数据的类型包括。本发明的一个实施例中，获取的实际数据的类型不被样本数据的类型包括，则可以将所述获取的实际数据作为样本数据，并跳转至步骤S101，将上述不被样本数据类型包括的实际数据，作为新的样本数据。

进一步地，提取所述实际数据的实际特征数据。具体地，上述实际数据可以是多种不同类型的数据，如图像数据、声音数据等，提取上述实际数据的实际特征数据。示例的，图像可以用RGB模型表示，图像中的每个像素都可以分解成RGB模型，所述图像中每个像素用RGB模型表示后的矩阵即为提取后的图像数据的特征数据。示例的，声音可以分解成音色、响度、音调等维度，用数值表示声音的每个维度，从而构成提取后的声音数据的特征数据。对于实际数据的特征数据提取方法，此处不作限定。

S105：基于所述标定的样本输出结果，将所述实际特征数据输入所述初级神经网络模型中，得到实际输出结果。

可选地，将所述实际特征输入初级网络模型中，与样本特征数据进行匹配，匹配到对应的样本特征数据后，基于预先标定的样本特征数据的输出结果得到实际输出结果。其中，匹配规则可以是：实际特征数据的输出与样本特征数据的输出的数值相同，或实际特征数据的输出的数值与样本特征数据的输出的数值之间的差值在预设范围内，此处对匹配规则不作限定。

S106：对所述实际输出结果进行评价，并调整所述实际输出结果的权值。

可选地，对所述实际输出结果进行评价，得到评价分数。

具体地，对所述实际输出结果进行评价，可以从实际输出结果与预设输出结果的差值、实际输出结果的响应速度等方面对所述实际输出结果进行评价，得到评价分数。

可选地，在本发明提供的一个实施例中，提供开放式接口，对使用者开放。具体地，使用者可以通过自定义评分接口对上述实际输出结果进行评价，打出评价分数。

可选地，基于所述评价分数，调整所述实际输出结果的权值。

可选地，所述实际输出结果可以是多个输出结果，基于所述评价分数，对所述多个输出结果的权值进行调整，评价分数越高的输出结果，权值越大。

可选地，在本发明提供的一个实施例中，提供开放式接口，对使用者开放。具体地，使用者可以通过自定义去权重接口，根据上述的评价分数对上述实际输出结果的权值进行调整。

图1所示的方法可应用于服务端，也可应用于目标终端，还可应用于其他任意服务端或终端，不论应用于何种场景，只要以适应于场景的方式实现了步骤S101至步骤S106，就不脱离本发明实施例的范围。

本实施例中，通过将多种不同类型的样本数据提取样本特征数据后，输入神经网络模型进行训练，转化为相同类型的神经元并建立样本特征数据对应的反馈，然后获取实际数据并提取实际特征数据后，通过预先标定的样本特征数据的输出结果，来匹配到实际特征数据的输出结果，并对根据对实际输出结果的评价来调整实际输出结果的权值，有助于提高神经网络处理不同类型数据的能力。

同时，本实施例也提供开放式自定义接口，供使用者对整个过程进行主观调整：如输入样本数据、标定样本数据的输出结果、对实际输出结果进行评价、根据评价调整实际输出结果的权值。通过自定义接口，人为干涉整个流程，可以使得本方案的流程更接近使用者的思想。

应理解，上述实施例中各步骤的序号的大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本发明实施例的实施过程构成任何限定。

实施例二

图3是本发明实施例提供的多模态神经网络信息处理装置的示意图。

如图3所示，多模态神经网络信息处理装置3包括：

样本输出标定模块31，用于获取N种不同类型的样本数据，并标定所述样本数据的样本输出结果，其中N为正整数；

样本特征数据模块32，用于提取所述样本数据的样本特征数据，并预处理所述样本特征数据，所述样本特征数据继承所述样本数据的样本输出结果；

神经网络训练模块33，用于构建神经网络模型，将所述预处理后的样本特征数据输入所述神经网络模型进行训练，得到初级神经网络模型；

实际特征数据模块34，用于获取实际数据，并提取所述实际数据的实际特征数据；

实际输出模块35，用于基于所述标定的样本输出结果，将所述实际特征数据输入所述初级神经网络模型中，得到实际输出结果；

评价模块36，用于对所述实际输出结果进行评价，并调整所述实际输出结果的权值。

可选的，上述样本特征数据模块32，包括：

样本预处理单元，用于对所述样本特征数据的格式进行统一。

可选的，请参考图4，图4是本发明实施例提供的神经网络训练模块33的示意图，包括：

卷积单元331，用于将所述预处理后的样本特征数据输入所述神经网络模型，得到卷积数据；

损失函数单元332，用于根据所述预处理后的样本特征数据和卷积数据生成损失函数；

梯度更新单元333，用于根据所述损失函数对所述神经网络模型进行梯度更新；

参数调整模块334，用于通过所述梯度更新调整所述神经网络模型的权重参数。

可选的，评价模块模块36包括：

评价分数单元，用于对所述实际输出结果进行评价，得到评价分数；

权值调整单元，用于基于所述评价分数，调整所述实际输出结果的权值。

实施例三

图5是本发明实施例提供的电子设备的构造示意图。

如图5所示，本实施例的电子设备5包括：处理器50、存储器51以及存储在所述存储器51中并可在所述处理器50上运行的计算机程序52，例如多模态神经网络信息处理程序。所述处理器50执行所述计算机程序52时实现上述各个多模态神经网络信息处理方法实施例中的步骤，例如图1所示的步骤101至106。或者，所述处理器50执行所述计算机程序52时实现上述各装置实施例中各模块的功能，例如图3所示模块31至36的功能。

示例性的，所述计算机程序52可以被分割成一个或多个模块/单元，所述一个或者多个模块/单元被存储在所述存储器51中，并由所述处理器50执行，以完成本发明。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段，该指令段用于描述所述计算机程序52在所述电子设备5中的执行过程。例如，所述计算机程序52可以被分割成样本输出标定模块、样本特征数据模块、神经网络模型训练模块、实际特征数据模块、实际输出模块和评价模块，各模块具体功能如下：

样本输出标定模块，用于获取N种不同类型的样本数据，并标定所述样本数据的样本输出结果，其中N为正整数；

样本特征数据模块，用于提取所述样本数据的样本特征数据，并预处理所述样本特征数据，所述样本特征数据继承所述样本数据的样本输出结果；

神经网络模型训练模块，用于构建神经网络模型，将所述预处理后的样本特征数据输入所述神经网络模型进行训练，得到初级神经网络模型；

实际特征数据模块，用于获取实际数据，并提取所述实际数据的实际特征数据；

实际输出模块，用于基于所述标定的样本输出结果，将所述实际特征数据输入所述初级神经网络模型中，得到实际输出结果；

评价模块，用于对所述实际输出结果进行评价，并调整所述实际输出结果的权值。

所述电子设备5可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述电子设备可包括，但不仅限于，处理器50、存储器51。本领域技术人员可以理解，图5仅仅是电子设备5的示例，并不构成对电子设备5的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件，例如所述电子设备5还可以包括输入输出设备、网络接入设备、总线等。

所称处理器50可以是中央处理单元(Central Processing Unit，CPU)，还可以是其他通用处理器、数字信号处理器(Digital Signal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现成可编程门阵列(FieldProgrammable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。

所述存储器51可以是所述电子设备5的内部存储单元，例如电子设备5的硬盘或内存。所述存储器51也可以是所述电子设备5的外部存储设备，例如所述电子设备5上配备的插接式硬盘，智能存储卡(Smart Media Card，SMC)，安全数字(Secure Digital，SD)卡，闪存卡(Flash Card)等。进一步地，所述存储器51还可以既包括所述电子设备5的内部存储单元也包括外部存储设备。所述存储器51用于存储所述计算机程序以及所述电子设备所需的其他程序和数据。所述存储器51还可以用于暂时地存储已经输出或者将要输出的数据。

实施例四

本实施例还提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现以上所涉及的方法。

由上可见，本发明先建立多种不同类型的样本数据对应的输出结果，然后将样本数据提取样本特征数据后，输入神经网络模型进行训练，转化为相同类型的神经元，然后获取实际数据并提取实际特征数据后，通过预先标定的样本数据的输出结果，来匹配到实际特征数据的输出结果，并对根据对实际输出结果的评价来调整实际输出结果的权值，有助于提高神经网络处理不同类型数据的能力。

所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能单元、模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能单元、模块完成，即将所述装置的内部结构划分成不同的功能单元或模块，以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中，上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。另外，各功能单元、模块的具体名称也只是为了便于相互区分，并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。

在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述或记载的部分，可以参见其它实施例的相关描述。

本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。

在本发明所提供的实施例中，应该理解到，所揭露的装置/电子设备和方法，可以通过其它的方式实现。例如，以上所描述的装置/电子设备实施例仅仅是示意性的，例如，所述模块或单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口，装置或单元的间接耦合或通讯连接，可以是电性，机械或其它的形式。

所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。

所述集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明实现上述实施例方法中的全部或部分流程，也可以通过计算机程序来指令相关的硬件来完成，所述的计算机程序可存储于一计算机可读存储介质中，该计算机程序在被处理器执行时，可实现上述各个方法实施例的步骤。其中，所述计算机程序包括计算机程序代码，所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括：能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是，所述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减，例如在某些司法管辖区，根据立法和专利实践，计算机可读介质不包括是电载波信号和电信信号。

以上所述实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围，均应包含在本发明的保护范围之内。

Claims (10)

1.一种多模态神经网络信息处理方法，其特征在于，包括：

获取N种不同类型的样本数据，并标定所述样本数据的样本输出结果，其中N为正整数；

提取所述样本数据的样本特征数据，并预处理所述样本特征数据，所述样本特征数据继承所述样本数据的样本输出结果；

构建神经网络模型，将所述预处理后的样本特征数据输入所述神经网络模型进行训练，得到初级神经网络模型；

获取实际数据，并提取所述实际数据的实际特征数据；

基于所述标定的样本输出结果，将所述实际特征数据输入所述初级神经网络模型中，得到实际输出结果；

对所述实际输出结果进行评价，并调整所述实际输出结果的权值。

2.根据权利要求1所述的多模态神经网络信息处理方法，其特征在于，所述预处理所述样本特征数据包括：

对所述样本特征数据的格式进行统一。

3.根据权利要求1所述多模态神经网络信息处理方法，其特征在于，所述将所述预处理后的样本特征数据输入所述神经网络模型进行训练，得到初级神经网络模型包括：

将所述预处理后的样本特征数据输入所述神经网络模型，得到卷积数据；

根据所述预处理后的样本特征数据和卷积数据生成损失函数；

根据所述损失函数对所述神经网络模型进行梯度更新；

通过所述梯度更新调整所述神经网络模型的权重参数。

4.根据权利要求1任一项所述的多模态神经网络信息处理方法，其特征在于，所述对所述实际输出结果进行评价，并调整所述实际输出结果的权值包括：

对所述实际输出结果进行评价，得到评价分数；

基于所述评价分数，调整所述实际输出结果的权值。

5.根据权利要求1至4任一项所述的多模态神经网络信息处理方法，其特征在于，

所述样本数据和实际数据包括：声音数据、图像数据、温度数据、湿度数据、压强数据、距离数据、电压数据和电流数据；

所述样本输出结果和实际输出结果包括：语音输出结果、动作输出结果和显示输出结果。

6.一种多模态神经网络信息处理装置，其特征在于，包括：

样本输出标定模块，用于获取N种不同类型的样本数据，并标定所述样本数据的样本输出结果，其中N为正整数；

样本特征数据模块，用于提取所述样本数据的样本特征数据，并预处理所述样本特征数据，所述样本特征数据继承所述样本数据的样本输出结果；

神经网络模型训练模块，用于构建神经网络模型，将所述预处理后的样本特征数据输入所述神经网络模型进行训练，得到初级神经网络模型；

实际特征数据模块，用于获取实际数据，并提取所述实际数据的实际特征数据；

实际输出模块，用于基于所述标定的样本输出结果，将所述实际特征数据输入所述初级神经网络模型中，得到实际输出结果；

评价模块，用于对所述实际输出结果进行评价，并调整所述实际输出结果的权值。

7.根据权利要求6所述的多模态神经网络信息处理方法，其特征在于，所述样本特征数据模块，包括：

样本预处理单元，用于对所述样本特征数据的格式进行统一。

8.根据权利要求6至7任一项所述的多模态神经网络信息处理方法，其特征在于，所述评价模块模块包括：

评价分数单元，用于对所述实际输出结果进行评价，得到评价分数；

权值调整单元，用于基于所述评价分数，调整所述实际输出结果的权值。

9.一种电子设备，其特征在于，包括处理器与存储器，

所述存储器，用于存储代码；

所述处理器，用于执行所述存储器中的代码用以实现权利要求1至5任一项所述的方法。

10.一种存储介质，其上存储有计算机程序，该程序被处理器执行时实现权利要求1至5任一项所述的方法。

Images