CN117171712A - 辅助信息生成方法、装置、电子设备和计算机可读介质 - Google Patents
辅助信息生成方法、装置、电子设备和计算机可读介质 Download PDFInfo
- Publication number
- CN117171712A CN117171712A CN202311452648.8A CN202311452648A CN117171712A CN 117171712 A CN117171712 A CN 117171712A CN 202311452648 A CN202311452648 A CN 202311452648A CN 117171712 A CN117171712 A CN 117171712A
- Authority
- CN
- China
- Prior art keywords
- data
- real
- time acquisition
- feature
- acquisition data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 45
- 239000013598 vector Substances 0.000 claims abstract description 94
- 230000005540 biological transmission Effects 0.000 claims abstract description 13
- 238000010606 normalization Methods 0.000 claims description 46
- 238000000605 extraction Methods 0.000 claims description 22
- 230000007246 mechanism Effects 0.000 claims description 21
- 230000004044 response Effects 0.000 claims description 18
- 238000012545 processing Methods 0.000 claims description 13
- 230000004927 fusion Effects 0.000 claims description 11
- 238000004590 computer program Methods 0.000 claims description 10
- 230000002776 aggregation Effects 0.000 claims description 6
- 238000004220 aggregation Methods 0.000 claims description 6
- 230000009466 transformation Effects 0.000 claims description 6
- 239000011159 matrix material Substances 0.000 claims description 5
- 230000011218 segmentation Effects 0.000 claims description 4
- 230000009467 reduction Effects 0.000 claims description 3
- 238000003709 image segmentation Methods 0.000 claims description 2
- 230000006870 function Effects 0.000 description 15
- 238000010586 diagram Methods 0.000 description 8
- 230000004913 activation Effects 0.000 description 6
- 238000004891 communication Methods 0.000 description 6
- 230000001419 dependent effect Effects 0.000 description 6
- 230000008569 process Effects 0.000 description 6
- 238000012546 transfer Methods 0.000 description 6
- 230000000694 effects Effects 0.000 description 5
- 238000005457 optimization Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000013528 artificial neural network Methods 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000009432 framing Methods 0.000 description 2
- 210000002569 neuron Anatomy 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 206010063385 Intellectualisation Diseases 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 238000005065 mining Methods 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 238000011176 pooling Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开的实施例公开了辅助信息生成方法、装置、电子设备和计算机可读介质。该方法的一具体实施方式包括：获取实时采集数据集合；根据实时采集数据的数据模态类型，对实时采集数据进行特征嵌入，以生成嵌入特征向量；通过预先训练的辅助信息生成模型包括的主干网络和得到的嵌入特征向量集合，生成多模态辅助信息；通过网络传输协议，将多模态辅助信息发送至业务前端。该实施方式保证了生成的辅助信息的准确性。
Description
技术领域
本公开的实施例涉及计算机技术领域，具体涉及辅助信息生成方法、装置、电子设备和计算机可读介质。
背景技术
城市大脑是新型城市建设的核心要素之一，依托物联网、大数据、和云计算等技术，通过数据汇聚、分析和挖掘，以此实现城市运行台式感知、检测预警和辅助决策等功能，进而提升城市应急处理能力，促进城市管理科学化和决策智能化。传统的辅助决策，通常采用的方式为：依据历史经验进行辅助决策，或基于预先设定的规则进行辅助决策。
然而，当采用上述方式时，经常会存在如下技术问题：
基于历史经验的辅助决策方式，较为依赖人的主观经验、基于预先设定的规则进行辅助决策，较为依赖设定规则的完整性和全面性，导致生成的辅助信息准确性难以保证。
该背景技术部分中所公开的以上信息仅用于增强对本发明构思的背景的理解，并因此，其可包含并不形成本国的本领域普通技术人员已知的现有技术的信息。
发明内容
本公开的内容部分用于以简要的形式介绍构思，这些构思将在后面的具体实施方式部分被详细描述。本公开的内容部分并不旨在标识要求保护的技术方案的关键特征或必要特征，也不旨在用于限制所要求的保护的技术方案的范围。
本公开的一些实施例提出了辅助信息生成方法、装置、电子设备和计算机可读介质，来解决以上背景技术部分提到的技术问题中的一项或多项。
第一方面，本公开的一些实施例提供了一种辅助信息生成方法，该方法包括：获取实时采集数据集合，其中，上述实时采集数据集合中的实时采集数据是由不同数据源汇聚得到的、数据模态类型不同的数据；对于上述实时采集数据集合中的每个实时采集数据，根据上述实时采集数据的数据模态类型，对上述实时采集数据进行特征嵌入，以生成嵌入特征向量；通过预先训练的辅助信息生成模型包括的主干网络和得到的嵌入特征向量集合，生成多模态辅助信息，其中，上述主干网络包括：融合特征提取网络集合、分类器和至少一个预测器，上述多模态辅助信息包括：至少一种数据模态类型的辅助信息，融合特征提取网络包括：基于遮罩的多头自注意力机制层、第一深度归一化层、门控线性层和第二深度归一化层，基于遮罩的多头自注意力机制层的输入特征和输出特征所构成的叠加特征为第一深度归一化层的输入特征，门控线性层的输入特征和输出特征所构成的叠加特征为第二深度归一化层的输入特征，上述分类器用于分类任务类别，上述至少一个预测器中的预测器用于生成不同数据模态类型的辅助信息；通过网络传输协议，将上述多模态辅助信息发送至业务前端。
第二方面，本公开的一些实施例提供了一种辅助信息生成装置，装置包括：获取单元，被配置成获取实时采集数据集合，其中，上述实时采集数据集合中的实时采集数据是由不同数据源汇聚得到的、数据模态类型不同的数据；特征嵌入单元，被配置成对于上述实时采集数据集合中的每个实时采集数据，根据上述实时采集数据的数据模态类型，对上述实时采集数据进行特征嵌入，以生成嵌入特征向量；生成单元，被配置成通过预先训练的辅助信息生成模型包括的主干网络和得到的嵌入特征向量集合，生成多模态辅助信息，其中，上述主干网络包括：融合特征提取网络集合、分类器和至少一个预测器，上述多模态辅助信息包括：至少一种数据模态类型的辅助信息，融合特征提取网络包括：基于遮罩的多头自注意力机制层、第一深度归一化层、门控线性层和第二深度归一化层，基于遮罩的多头自注意力机制层的输入特征和输出特征所构成的叠加特征为第一深度归一化层的输入特征，门控线性层的输入特征和输出特征所构成的叠加特征为第二深度归一化层的输入特征，上述分类器用于分类任务类别，上述至少一个预测器中的预测器用于生成不同数据模态类型的辅助信息；发送单元，被配置成通过网络传输协议，将上述多模态辅助信息发送至业务前端。
第三方面，本公开的一些实施例提供了一种电子设备，包括：一个或多个处理器；存储装置，其上存储有一个或多个程序，当一个或多个程序被一个或多个处理器执行，使得一个或多个处理器实现上述第一方面任一实现方式所描述的方法。
第四方面，本公开的一些实施例提供了一种计算机可读介质，其上存储有计算机程序，其中，程序被处理器执行时实现上述第一方面任一实现方式所描述的方法。
本公开的上述各个实施例具有如下有益效果：通过本公开的一些实施例的辅助信息生成方法，保证了生成的辅助信息的准确性。具体来说，造成生成的辅助信息准确性难以保证的原因在于：基于历史经验的辅助决策方式，较为依赖人的主观经验、基于预先设定的规则进行辅助决策，较为依赖设定规则的完整性和全面性，导致生成的辅助信息准确性难以保证。基于此，本公开的一些实施例的辅助信息生成方法，首先，获取实时采集数据集合，其中，上述实时采集数据集合中的实时采集数据是由不同数据源汇聚得到的、数据模态类型不同的数据。通过汇聚不同数据源的数据，相较于传统的、依赖单一数据源的辅助信息生成方式，本公开能够结合多种来源、多种数据模态的数据，大大提高了数据的丰度。其次，对于上述实时采集数据集合中的每个实时采集数据，根据上述实时采集数据的数据模态类型，对上述实时采集数据进行特征嵌入，以生成嵌入特征向量。以此根据不同实时采集数据的数据特征，实现数据特征的提取。接着，通过预先训练的辅助信息生成模型包括的主干网络和得到的嵌入特征向量集合，生成多模态辅助信息，其中，上述主干网络包括：融合特征提取网络集合、分类器和至少一个预测器，上述多模态辅助信息包括：至少一种数据模态类型的辅助信息，融合特征提取网络包括：基于遮罩的多头自注意力机制层、第一深度归一化层、门控线性层和第二深度归一化层，基于遮罩的多头自注意力机制层的输入特征和输出特征所构成的叠加特征为第一深度归一化层的输入特征，门控线性层的输入特征和输出特征所构成的叠加特征为第二深度归一化层的输入特征，上述分类器用于分类任务类别，上述至少一个预测器中的预测器用于生成不同数据模态类型的辅助信息。通过主干网络实现统一的、针对多数据模态类型的嵌入特征向量的数据建模。同时考虑到传统的生成式模型中的LN（Layer Norm）层存在超参数较多的问题，会导致参数调优难度增大，以及优化过程中收敛速度缓慢等问题。本申请采用第一深度归一化层和第二深度归一化层，即在执行LN层之前，引入残差连接，提高了模型的稳定性和模型优化效率。同时，考虑到传统的生成式模型采用ReLU激活函数，而ReLU激活函数的输出是非零中心化的，会导致后续计算引入偏置转移的问题，影响梯度下降的效率。同时，ReLU激活函数还会造成神经元训练过程中出现死亡的问题，即参数梯度为0，无法被激活。因此，本申请采用门控线性层替代传统的前馈神经网络层，以此提升针对多模态数据的学习效果。最后，通过网络传输协议，将上述多模态辅助信息发送至业务前端。通过此种方式，保证了生成的辅助信息的准确性。
附图说明
结合附图并参考以下具体实施方式，本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中，相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的，元件和元素不一定按照比例绘制。
图1是本公开的一些实施例的辅助信息生成方法的一个应用场景的示意图；
图2是根据本公开的辅助信息生成方法的一些实施例的流程图；
图3是根据本公开的辅助信息生成装置的一些实施例的结构示意图；
图4是适于用来实现本公开的一些实施例的电子设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例，然而应当理解的是，本公开可以通过各种形式来实现，而且不应该被解释为限于这里阐述的实施例。相反，提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是，本公开的附图及实施例仅用于示例性作用，并非用于限制本公开的保护范围。
另外还需要说明的是，为了便于描述，附图中仅示出了与有关发明相关的部分。在不冲突的情况下，本公开中的实施例及实施例中的特征可以相互组合。
需要注意，本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分，并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
需要注意，本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的，本领域技术人员应当理解，除非在上下文另有明确指出，否则应该理解为“一个或多个”。
本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的，而并不是用于对这些消息或信息的范围进行限制。
下面将参考附图并结合实施例来详细说明本公开。
图1是本公开的一些实施例的辅助信息生成方法的一个应用场景的示意图。
在图1的应用场景中，首先，计算设备101可以获取实时采集数据集合，其中，上述实时采集数据集合中的实时采集数据是由不同数据源汇聚得到的、数据模态类型不同的数据。在本应用场景中，实时采集数据集合可以包括：音频实时采集数据101、图像实时采集数据102和三维点云实时采集数据103。其次，计算设备101可以对于上述实时采集数据集合中的每个实时采集数据，根据上述实时采集数据的数据模态类型，对上述实时采集数据进行特征嵌入，以生成嵌入特征向量。接着，计算设备101可以通过预先训练的辅助信息生成模型105包括的主干网络106和得到的嵌入特征向量集合104，生成多模态辅助信息109，其中，上述主干网络105包括：融合特征提取网络集合、分类器107和至少一个预测器108，上述多模态辅助信息109包括：至少一种数据模态类型的辅助信息，融合特征提取网络包括：基于遮罩的多头自注意力机制层、第一深度归一化层、门控线性层和第二深度归一化层，基于遮罩的多头自注意力机制层的输入特征和输出特征所构成的叠加特征为第一深度归一化层的输入特征，门控线性层的输入特征和输出特征所构成的叠加特征为第二深度归一化层的输入特征，上述分类器107用于分类任务类别，上述至少一个预测器108中的预测器用于生成不同数据模态类型的辅助信息。在本应用场景中，以融合特征提取网络106为例，融合特征提取网络106可以包括：基于遮罩的多头自注意力机制层1061、第一深度归一化层1062、门控线性层1063和第二深度归一化层1064。最后，计算设备101可以通过网络传输协议，将上述多模态辅助信息109发送至业务前端。
需要说明的是，上述计算设备101可以是硬件，也可以是软件。当计算设备为硬件时，可以实现成多个服务器或终端设备组成的分布式集群，也可以实现成单个服务器或单个终端设备。当计算设备体现为软件时，可以安装在上述所列举的硬件设备中。其可以实现成例如用来提供分布式服务的多个软件或软件模块，也可以实现成单个软件或软件模块。在此不做具体限定。
应该理解，图1中的计算设备的数目仅仅是示意性的。根据实现需要，可以具有任意数目的计算设备。
继续参考图2，示出了根据本公开的辅助信息生成方法的一些实施例的流程200。该辅助信息生成方法，包括以下步骤：
步骤201，获取实时采集数据集合。
在一些实施例中，辅助信息生成方法的执行主体（例如图1所示的计算设备101）可以通过有线连接，或无线连接的方式，获取上述实时采集数据集合。其中，上述实时采集数据集合中的实时采集数据是由不同数据源汇聚得到的、数据模态类型不同的数据。
作为示例，实时采集数据集合可以是雨量观测站收集的实时降雨数据、交通摄像头采集的实时视频数据、重点区域对应的三维点云数据、社交软件发布的数据（例如，文本数据、图像数据、短视频数据等）、重点区域对应的高光谱影像数据等。
需要指出的是，上述无线连接方式可以包括但不限于3G/4G/5G连接、WiFi连接、蓝牙连接、WiMAX连接、Zigbee连接、UWB（ultra wideband）连接、以及其他现在已知或将来开发的无线连接方式。
步骤202，对于实时采集数据集合中的每个实时采集数据，根据实时采集数据的数据模态类型，对实时采集数据进行特征嵌入，以生成嵌入特征向量。
在一些实施例中，对于实时采集数据集合中的每个实时采集数据，根据实时采集数据的数据模态类型，对实时采集数据进行特征嵌入，以生成嵌入特征向量。
作为示例，针对文本数据类型的实时采集数据，上述执行主体可以通过Word2Vec模型，对实时采集数据信息特征嵌入，以生成对应的嵌入特征向量。
在一些实施例的可选的实现方式中，上述执行主体根据上述实时采集数据的数据模态类型，对上述实时采集数据进行特征嵌入，以生成嵌入特征向量，可以包括以下步骤：
响应于确定上述实时采集数据的数据模态类型为结构化数值类型，通过自编码模型包括的编码器，对上述实时采集数据进行低维度特征嵌入，以生成上述实时采集数据对应的嵌入特征向量。其中，自编码模型可以是包含编码器和解码器的、拥有对称结构的神经网络模型。其中，编码器和解码器的网络结构对称。编码器可以包括：1个输入层和K个隐藏层。其中，编码器是将数据模态类型为结构化数值类型的实时采集数据映射后到低维度的特征表示，即特征嵌入。通过此种方式可以去除冗余信息，减少特征维度，提高后续任务的性能和效果。
在一些实施例的一些可选的实现方式中，上述执行主体根据上述实时采集数据的数据模态类型，对上述实时采集数据进行特征嵌入，以生成嵌入特征向量，还可以包括以下步骤：
第一步，响应于确定上述实时采集数据的数据模态类型为非结构化三维点云数据，对上述实时采集数据进行数据聚类，以生成至少一个数据簇。
其中，上述至少一个数据簇中的数据簇包括：与簇中心对应的32个三维点云点。实践中，上述执行主体通过KNN（K-Nearest Neighbor，K-最邻近）聚类算法，对实时采集数据进行数据聚类。
第二步，将上述至少一个数据簇中的数据簇作为点块输入多层感知机，以生成与上述实时采集数据对应的嵌入特征向量。
实践中，上述执行主体可以将数据簇作为点块（Point patches）输入多层感知机。其中，多层感知机可以包括：1个输入层、M个隐藏层和1个输出层。通过先聚类再特征嵌入的方式，可以压缩得到的嵌入特征向量的向量维度。
在一些实施例的一些可选的实现方式中，上述执行主体根据上述实时采集数据的数据模态类型，对上述实时采集数据进行特征嵌入，以生成嵌入特征向量，还可以包括以下步骤：
第一步，响应于确定上述实时采集数据的数据模态类型为非结构化高光谱影像数据类型，按照像素点为划分单位，对上述实时采集数据进行数据划分，以生成像素点对应的高光谱信息，得到高光谱信息集合。
实践中，上述执行主体可以确定实时采集数据中包括的每个像素点对应的高光谱信息，以得到上述高光谱信息集合。其中，高光谱信息表征对应像素点在固定频率范围下的电磁波能量的变化情况。
第二步，对于上述高光谱信息集合中的每个高光谱信息，对上述高光谱信息进行特征提取和降维，以生成上述高光谱信息对应像素点的像素点特征向量。
实践中，上述执行主体可以通过降采样的方式，对高光谱信息进行特征提取和降维，以生成上述高光谱信息对应像素点的像素点特征向量。
第三步，根据得到的像素点特征向量集合，构建特征矩阵，作为上述实时采集数据对应的嵌入特征向量。
其中，特征矩阵的维度可以是W×H×D。其中，W×N表征像素点的数量。W表征像素点在横向排布方向的像素点数量。H表征像素点在竖向排布方向的像素点数量。D表征像素点对应的像素点特征向量的向量长度。
在一些实施例的一些可选的实现方式中，上述执行主体根据上述实时采集数据的数据模态类型，对上述实时采集数据进行特征嵌入，以生成嵌入特征向量，还可以包括以下步骤：
第一步，响应于确定上述实时采集数据的数据模态类型为文本数据类型，确定上述实时采集数据的文本长度。
第二步，响应于确定上述文本长度大于预设长度，通过第一文本特征嵌入模型，对上述实时采集数据进行特征嵌入，以生成上述实时采集数据对应的嵌入特征向量。
其中，上述预设长度可以是512个token长度。第一文本特征嵌入模型可以是MLP-Mixer模型，以解决较长文本所存在的词语位置丢失的问题。
第三步，响应于确定上述文本长度小于等于上述预设长度，执行以下第一处理步骤：
第一子步骤，对上述实时采集数据进行分词处理，以生成词集合。
其中，上述执行主体可以通过BERT模型中的分词器，对实时采集数据进行分词处理，以生成词集合。
第二子步骤，对上述词集合添加标识符，得到标识符添加后词集合。
其中，标识符可以是[CLS]，[SEP]标识符等。
第三子步骤，通过第二文本特征嵌入模型，生成上述标识符添加后词集合中每个标识符添加后词对应的词特征向量，得到词特征向量集合。
其中，上述第二文本特征嵌入模型可以是BERT模型。词特征向量集合中的词特征向量包括：词向量和位置编码向量。
第四子步骤，对上述词特征向量集合中的词特征向量进行向量相加，得到上述实时采集数据对应的嵌入特征向量。
在一些实施例的一些可选的实现方式中，上述执行主体根据上述实时采集数据的数据模态类型，对上述实时采集数据进行特征嵌入，以生成嵌入特征向量，还可以包括以下步骤：
第一步，响应于确定上述实时采集数据的数据模态类型为非结构化音频数据，对上述实时数据进行音频特征提取，以生成音频特征。
其中，上述执行主体可以通过声谱图、梅尔语谱图、倒谱和梅尔倒谱系数，对实时采集数据进行音频特征提取和表征，以生成音频特征。
第二步，对上述音频特征进行音频变换，以生成上述实时采集数据对应的嵌入特征向量。
其中，上述执行主体可以对音频特征进行分帧、加窗、傅里叶变换、Mel滤波、取对数和离散余弦变换等操作后，最后将分帧后的所有帧对应的特征向量进行拼接，并通过最大池化后，得到上述实时采集数据对应的嵌入特征向量。
在一些实施例的一些可选的实现方式中，上述执行主体根据上述实时采集数据的数据模态类型，对上述实时采集数据进行特征嵌入，以生成嵌入特征向量，还可以包括以下步骤：
第一步，响应于确定上述实时采集数据的数据模态类型为非结构化图像数据，执行以下第二处理步骤：
第一子步骤，将上述实时采集数据进行图像切分，以生成切分图像集合。
其中，其中，切分图像的图像通道数与上述实时采集数据的图像通道数相同，切分图像的图像长度与图像宽度相同。实践中，数据模态类型为非结构化图像数据的实时采集数据的维度可以为H（图像长度）×W（图像宽度）×C（图像通道数）。切分图像的维度可以是P（图像长度）×P（图像宽度）×C（图像通道数）。切分图像集合中的切分图像的数量可以为N。
第二子步骤，对上述切分图像集合进行格式调整，以生成格式调整后图像集合。
实践中，上述执行主体可以通过reshape()函数，对切分图像集合进行格式调整，以生成格式调整后图像集合。格式调整后图像集合的维度可以是N×（P×P×C）。其中，N=H×W/P2。
第三子步骤，对上述格式调整后图像集合中的格式调整后图像进行线性变换，以及将线性变换后图像投影至维度为目标维度的空间上，得到上述实时采集数据对应的嵌入特征向量。
其中，目标维度（D）等于切分图像的图像长度的平方（P2）。
第二步，响应于确定上述实时采集数据的数据模态类型为非结构化视频数据，对上述实时采集数据进行关键帧提取，以生成视频关键帧集合。
第三步，对上述视频关键帧集合中的视频关键帧执行上述第二处理步骤，得到上述实时采集数据对应的嵌入特征向量。
步骤203，通过预先训练的辅助信息生成模型包括的主干网络和得到的嵌入特征向量集合，生成多模态辅助信息。
在一些实施例中，上述执行主体可以通过预先训练的辅助信息生成模型包括的主干网络和得到的嵌入特征向量集合，生成多模态辅助信息。上述主干网络包括：融合特征提取网络集合、分类器和至少一个预测器，上述多模态辅助信息包括：至少一种数据模态类型的辅助信息，融合特征提取网络包括：基于遮罩的多头自注意力机制层、第一深度归一化层、门控线性层和第二深度归一化层，基于遮罩的多头自注意力机制层的输入特征和输出特征所构成的叠加特征为第一深度归一化层的输入特征，门控线性层的输入特征和输出特征所构成的叠加特征为第二深度归一化层的输入特征，上述分类器用于分类任务类别，上述至少一个预测器中的预测器用于生成不同数据模态类型的辅助信息。实践中，预测器可以输出文本模态、视频模态、语音模态的辅助信息。例如，多模态辅助信息可以是用于降雨量预警的辅助信息，也可以是用于预测交通拥堵的辅助信息，还可以是用于辅助调度规划的辅助信息。
可选地，输入上述主干网络嵌入特征向量集合中的嵌入特征向量，也可以是通过对历史采集数据进行特征嵌入得到。其中，历史采集数据可以是由不同数据源汇聚得到的、数据模态类型不同的历史数据。具体的，嵌入特征向量集合中可以仅包含实时采集数据对应的嵌入特征向量，嵌入特征向量集合中可以仅包含历史采集数据对应的嵌入特征向量，嵌入特征向量集合中可以包含实时采集数据对应的嵌入特征向量和历史采集数据对应的嵌入特征向量。
步骤204，通过网络传输协议，将多模态辅助信息发送至业务前端。
在一些实施例中，上述执行主体可以通过网络传输协议，将多模态辅助信息发送至业务前端。其中，上述业务前端可以是用于接收多模态辅助信息的前端应用或可移动终端。例如，在辅助调度规划的场景中，业务前端可以是可移动终端。其中，上述网络传输协议可以是HTTP（Hyper Text Transfer Protocol，超文本传输协议）协议，或HTTPS（HyperText Transfer Protocol over Secure Socket Layer，超文本传输安全协议）协议。
本公开的上述各个实施例具有如下有益效果：通过本公开的一些实施例的辅助信息生成方法，保证了生成的辅助信息的准确性。具体来说，造成生成的辅助信息准确性难以保证的原因在于：基于历史经验的辅助决策方式，较为依赖人的主观经验、基于预先设定的规则进行辅助决策，较为依赖设定规则的完整性和全面性，导致生成的辅助信息准确性难以保证。基于此，本公开的一些实施例的辅助信息生成方法，首先，获取实时采集数据集合，其中，上述实时采集数据集合中的实时采集数据是由不同数据源汇聚得到的、数据模态类型不同的数据。通过汇聚不同数据源的数据，相较于传统的、依赖单一数据源的辅助信息生成方式，本公开能够结合多种来源、多种数据模态的数据，大大提高了数据的丰度。其次，对于上述实时采集数据集合中的每个实时采集数据，根据上述实时采集数据的数据模态类型，对上述实时采集数据进行特征嵌入，以生成嵌入特征向量。以此根据不同实时采集数据的数据特征，实现数据特征的提取。接着，通过预先训练的辅助信息生成模型包括的主干网络和得到的嵌入特征向量集合，生成多模态辅助信息，其中，上述主干网络包括：融合特征提取网络集合、分类器和至少一个预测器，上述多模态辅助信息包括：至少一种数据模态类型的辅助信息，融合特征提取网络包括：基于遮罩的多头自注意力机制层、第一深度归一化层、门控线性层和第二深度归一化层，基于遮罩的多头自注意力机制层的输入特征和输出特征所构成的叠加特征为第一深度归一化层的输入特征，门控线性层的输入特征和输出特征所构成的叠加特征为第二深度归一化层的输入特征，上述分类器用于分类任务类别，上述至少一个预测器中的预测器用于生成不同数据模态类型的辅助信息。通过主干网络实现统一的、针对多数据模态类型的嵌入特征向量的数据建模。同时考虑到传统的生成式模型中的LN（Layer Norm）层存在超参数较多的问题，会导致参数调优难度增大，以及优化过程中收敛速度缓慢等问题。本申请采用第一深度归一化层和第二深度归一化层，即在执行LN层之前，引入残差连接，提高了模型的稳定性和模型优化效率。同时，考虑到传统的生成式模型采用ReLU激活函数，而ReLU激活函数的输出是非零中心化的，会导致后续计算引入偏置转移的问题，影响梯度下降的效率。同时，ReLU激活函数还会造成神经元训练过程中出现死亡的问题，即参数梯度为0，无法被激活。因此，本申请采用门控线性层替代传统的前馈神经网络层，以此提升针对多模态数据的学习效果。最后，通过网络传输协议，将上述多模态辅助信息发送至业务前端。通过此种方式，保证了生成的辅助信息的准确性。
进一步参考图3，作为对上述各图所示方法的实现，本公开提供了一种辅助信息生成装置的一些实施例，这些装置实施例与图2所示的那些方法实施例相对应，该辅助信息生成装置具体可以应用于各种电子设备中。
如图3所示，一些实施例的辅助信息生成装置300包括：获取单元301、特征嵌入单元302、生成单元303和发送单元304。其中，获取单元301，被配置成获取实时采集数据集合，其中，上述实时采集数据集合中的实时采集数据是由不同数据源汇聚得到的、数据模态类型不同的数据；特征嵌入单元302，被配置成对于上述实时采集数据集合中的每个实时采集数据，根据上述实时采集数据的数据模态类型，对上述实时采集数据进行特征嵌入，以生成嵌入特征向量；生成单元303，被配置成通过预先训练的辅助信息生成模型包括的主干网络和得到的嵌入特征向量集合，生成多模态辅助信息，其中，上述主干网络包括：融合特征提取网络集合、分类器和至少一个预测器，上述多模态辅助信息包括：至少一种数据模态类型的辅助信息，融合特征提取网络包括：基于遮罩的多头自注意力机制层、第一深度归一化层、门控线性层和第二深度归一化层，基于遮罩的多头自注意力机制层的输入特征和输出特征所构成的叠加特征为第一深度归一化层的输入特征，门控线性层的输入特征和输出特征所构成的叠加特征为第二深度归一化层的输入特征，上述分类器用于分类任务类别，上述至少一个预测器中的预测器用于生成不同数据模态类型的辅助信息；发送单元304，被配置成通过网络传输协议，将上述多模态辅助信息发送至业务前端。
可以理解的是，该辅助信息生成300中记载的诸单元与参考图2描述的方法中的各个步骤相对应。由此，上文针对方法描述的操作、特征以及产生的有益效果同样适用于辅助信息生成装置300及其中包含的单元，在此不再赘述。
下面参考图4，其示出了适于用来实现本公开的一些实施例的电子设备（如图1所示的计算设备101）400的结构示意图。图4示出的电子设备仅仅是一个示例，不应对本公开的实施例的功能和使用范围带来任何限制。
如图4所示，电子设备400可以包括处理装置（例如中央处理器、图形处理器等）401，其可以根据存储在只读存储器402中的程序或者从存储装置408加载到随机访问存储器403中的程序而执行各种适当的动作和处理。在随机访问存储器403中，还存储有电子设备400操作所需的各种程序和数据。处理装置401、只读存储器402以及随机访问存储器403通过总线404彼此相连。输入/输出接口405也连接至总线404。
通常，以下装置可以连接至I/O接口405：包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置406；包括例如液晶显示器（LCD）、扬声器、振动器等的输出装置407；包括例如磁带、硬盘等的存储装置408；以及通信装置409。通信装置409可以允许电子设备400与其他设备进行无线或有线通信以交换数据。虽然图4示出了具有各种装置的电子设备400，但是应理解的是，并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。图4中示出的每个方框可以代表一个装置，也可以根据需要代表多个装置。
特别地，根据本公开的一些实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的一些实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的一些实施例中，该计算机程序可以通过通信装置409从网络上被下载和安装，或者从存储装置408被安装，或者从只读存储器402被安装。在该计算机程序被处理装置401执行时，执行本公开的一些实施例的方法中限定的上述功能。
需要说明的是，本公开的一些实施例中记载的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器（RAM）、只读存储器（ROM）、可擦式可编程只读存储器（EPROM或闪存）、光纤、便携式紧凑磁盘只读存储器（CD-ROM）、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开的一些实施例中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开的一些实施例中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、RF（射频）等等，或者上述的任意合适的组合。
在一些实施方式中，客户端、服务器可以利用诸如HTTP（Hyper Text TransferProtocol，超文本传输协议）之类的任何当前已知或未来研发的网络协议进行通信，并且可以与任意形式或介质的数字数据通信（例如，通信网络）互连。通信网络的示例包括局域网（“LAN”），广域网（“WAN”），网际网（例如，互联网）以及端对端网络（例如，ad hoc端对端网络），以及任何当前已知或未来研发的网络。
上述计算机可读介质可以是上述电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：获取实时采集数据集合，其中，上述实时采集数据集合中的实时采集数据是由不同数据源汇聚得到的、数据模态类型不同的数据；对于上述实时采集数据集合中的每个实时采集数据，根据上述实时采集数据的数据模态类型，对上述实时采集数据进行特征嵌入，以生成嵌入特征向量；通过预先训练的辅助信息生成模型包括的主干网络和得到的嵌入特征向量集合，生成多模态辅助信息，其中，上述主干网络包括：融合特征提取网络集合、分类器和至少一个预测器，上述多模态辅助信息包括：至少一种数据模态类型的辅助信息，融合特征提取网络包括：基于遮罩的多头自注意力机制层、第一深度归一化层、门控线性层和第二深度归一化层，基于遮罩的多头自注意力机制层的输入特征和输出特征所构成的叠加特征为第一深度归一化层的输入特征，门控线性层的输入特征和输出特征所构成的叠加特征为第二深度归一化层的输入特征，上述分类器用于分类任务类别，上述至少一个预测器中的预测器用于生成不同数据模态类型的辅助信息；通过网络传输协议，将上述多模态辅助信息发送至业务前端。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的一些实施例的操作的计算机程序代码，上述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网（LAN）或广域网（WAN）——连接到用户计算机，或者，可以连接到外部计算机（例如利用因特网服务提供商来通过因特网连接）。
附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开的一些实施例中的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中，例如，可以描述为：一种处理器包括获取单元、特征嵌入单元、生成单元和发送单元。其中，这些单元的名称在某种情况下并不构成对该单元本身的限定，例如，特征嵌入单元还可以被描述为“对于上述实时采集数据集合中的每个实时采集数据，根据上述实时采集数据的数据模态类型，对上述实时采集数据进行特征嵌入，以生成嵌入特征向量的单元”。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如，非限制性地，可以使用的示范类型的硬件逻辑部件包括：现场可编程门阵列（FPGA）、专用集成电路（ASIC）、专用标准产品（ASSP）、片上系统（SOC）、复杂可编程逻辑设备（CPLD）等等。
以上描述仅为本公开的一些较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本公开的实施例中所涉及的发明范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述发明构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开的实施例中公开的（但不限于）具有类似功能的技术特征进行互相替换而形成的技术方案。
Claims (10)
1.一种辅助信息生成方法，包括：
获取实时采集数据集合，其中，所述实时采集数据集合中的实时采集数据是由不同数据源汇聚得到的、数据模态类型不同的数据；
对于所述实时采集数据集合中的每个实时采集数据，根据所述实时采集数据的数据模态类型，对所述实时采集数据进行特征嵌入，以生成嵌入特征向量；
通过预先训练的辅助信息生成模型包括的主干网络和得到的嵌入特征向量集合，生成多模态辅助信息，其中，所述主干网络包括：融合特征提取网络集合、分类器和至少一个预测器，所述多模态辅助信息包括：至少一种数据模态类型的辅助信息，融合特征提取网络包括：基于遮罩的多头自注意力机制层、第一深度归一化层、门控线性层和第二深度归一化层，基于遮罩的多头自注意力机制层的输入特征和输出特征所构成的叠加特征为第一深度归一化层的输入特征，门控线性层的输入特征和输出特征所构成的叠加特征为第二深度归一化层的输入特征，所述分类器用于分类任务类别，所述至少一个预测器中的预测器用于生成不同数据模态类型的辅助信息；
通过网络传输协议，将所述多模态辅助信息发送至业务前端。
2.根据权利要求1所述的方法，其中，所述根据所述实时采集数据的数据模态类型，对所述实时采集数据进行特征嵌入，以生成嵌入特征向量，包括：
响应于确定所述实时采集数据的数据模态类型为结构化数值类型，通过自编码模型包括的编码器，对所述实时采集数据进行低维度特征嵌入，以生成所述实时采集数据对应的嵌入特征向量。
3.根据权利要求2所述的方法，其中，所述根据所述实时采集数据的数据模态类型，对所述实时采集数据进行特征嵌入，以生成嵌入特征向量，还包括：
响应于确定所述实时采集数据的数据模态类型为非结构化三维点云数据，对所述实时采集数据进行数据聚类，以生成至少一个数据簇，其中，所述至少一个数据簇中的数据簇包括：与簇中心对应的32个三维点云点；
将所述至少一个数据簇中的数据簇作为点块输入多层感知机，以生成与所述实时采集数据对应的嵌入特征向量。
4.根据权利要求3所述的方法，其中，所述根据所述实时采集数据的数据模态类型，对所述实时采集数据进行特征嵌入，以生成嵌入特征向量，还包括：
响应于确定所述实时采集数据的数据模态类型为非结构化高光谱影像数据类型，按照像素点为划分单位，对所述实时采集数据进行数据划分，以生成像素点对应的高光谱信息，得到高光谱信息集合；
对于所述高光谱信息集合中的每个高光谱信息，对所述高光谱信息进行特征提取和降维，以生成所述高光谱信息对应像素点的像素点特征向量；
根据得到的像素点特征向量集合，构建特征矩阵，作为所述实时采集数据对应的嵌入特征向量。
5.根据权利要求4所述的方法，其中，所述根据所述实时采集数据的数据模态类型，对所述实时采集数据进行特征嵌入，以生成嵌入特征向量，还包括：
响应于确定所述实时采集数据的数据模态类型为文本数据类型，确定所述实时采集数据的文本长度；
响应于确定所述文本长度大于预设长度，通过第一文本特征嵌入模型，对所述实时采集数据进行特征嵌入，以生成所述实时采集数据对应的嵌入特征向量；
响应于确定所述文本长度小于等于所述预设长度，执行以下第一处理步骤：
对所述实时采集数据进行分词处理，以生成词集合；
对所述词集合添加标识符，得到标识符添加后词集合；
通过第二文本特征嵌入模型，生成所述标识符添加后词集合中每个标识符添加后词对应的词特征向量，得到词特征向量集合，其中，所述词特征向量集合中的词特征向量包括：词向量和位置编码向量；
对所述词特征向量集合中的词特征向量进行向量相加，得到所述实时采集数据对应的嵌入特征向量。
6.根据权利要求5所述的方法，其中，所述根据所述实时采集数据的数据模态类型，对所述实时采集数据进行特征嵌入，以生成嵌入特征向量，还包括：
响应于确定所述实时采集数据的数据模态类型为非结构化音频数据，对所述实时数据进行音频特征提取，以生成音频特征；
对所述音频特征进行音频变换，以生成所述实时采集数据对应的嵌入特征向量。
7.根据权利要求6所述的方法，其中，所述根据所述实时采集数据的数据模态类型，对所述实时采集数据进行特征嵌入，以生成嵌入特征向量，还包括：
响应于确定所述实时采集数据的数据模态类型为非结构化图像数据，执行以下第二处理步骤：
将所述实时采集数据进行图像切分，以生成切分图像集合，其中，切分图像的图像通道数与所述实时采集数据的图像通道数相同，切分图像的图像长度与图像宽度相同；
对所述切分图像集合进行格式调整，以生成格式调整后图像集合；
对所述格式调整后图像集合中的格式调整后图像进行线性变换，以及将线性变换后图像投影至维度为目标维度的空间上，得到所述实时采集数据对应的嵌入特征向量，其中，目标维度等于切分图像的图像长度的平方；
响应于确定所述实时采集数据的数据模态类型为非结构化视频数据，对所述实时采集数据进行关键帧提取，以生成视频关键帧集合；
对所述视频关键帧集合中的视频关键帧执行所述第二处理步骤，得到所述实时采集数据对应的嵌入特征向量。
8.一种辅助信息生成装置，包括：
获取单元，被配置成获取实时采集数据集合，其中，所述实时采集数据集合中的实时采集数据是由不同数据源汇聚得到的、数据模态类型不同的数据；
特征嵌入单元，被配置成对于所述实时采集数据集合中的每个实时采集数据，根据所述实时采集数据的数据模态类型，对所述实时采集数据进行特征嵌入，以生成嵌入特征向量；
生成单元，被配置成通过预先训练的辅助信息生成模型包括的主干网络和得到的嵌入特征向量集合，生成多模态辅助信息，其中，所述主干网络包括：融合特征提取网络集合、分类器和至少一个预测器，所述多模态辅助信息包括：至少一种数据模态类型的辅助信息，融合特征提取网络包括：基于遮罩的多头自注意力机制层、第一深度归一化层、门控线性层和第二深度归一化层，基于遮罩的多头自注意力机制层的输入特征和输出特征所构成的叠加特征为第一深度归一化层的输入特征，门控线性层的输入特征和输出特征所构成的叠加特征为第二深度归一化层的输入特征，所述分类器用于分类任务类别，所述至少一个预测器中的预测器用于生成不同数据模态类型的辅助信息；
发送单元，被配置成通过网络传输协议，将所述多模态辅助信息发送至业务前端。
9.一种电子设备，包括：
一个或多个处理器；
存储装置，其上存储有一个或多个程序；
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1至7中任一所述的方法。
10.一种计算机可读介质，其上存储有计算机程序，其中，所述计算机程序被处理器执行时实现如权利要求1至7中任一所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202311452648.8A CN117171712B (zh) | 2023-11-03 | 2023-11-03 | 辅助信息生成方法、装置、电子设备和计算机可读介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202311452648.8A CN117171712B (zh) | 2023-11-03 | 2023-11-03 | 辅助信息生成方法、装置、电子设备和计算机可读介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN117171712A true CN117171712A (zh) | 2023-12-05 |
| CN117171712B CN117171712B (zh) | 2024-02-02 |
Family
ID=88932188
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202311452648.8A Active CN117171712B (zh) | 2023-11-03 | 2023-11-03 | 辅助信息生成方法、装置、电子设备和计算机可读介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN117171712B (zh) |
Citations (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111598030A (zh) * | 2020-05-21 | 2020-08-28 | 山东大学 | 一种航拍图像中车辆检测和分割的方法及系统 |
| US11244119B1 (en) * | 2021-01-04 | 2022-02-08 | Institute Of Automation, Chinese Academy Of Sciences | Multi-modal lie detection method and apparatus, and device |
| CN114398976A (zh) * | 2022-01-13 | 2022-04-26 | 福州大学 | 基于bert与门控类注意力增强网络的机器阅读理解方法 |
| CN116092294A (zh) * | 2023-03-02 | 2023-05-09 | 长沙理工大学 | 一种基于Transformer与图注意力网络的高速公路交通流量预测方法 |
| CN116110565A (zh) * | 2022-08-19 | 2023-05-12 | 常州大学 | 一种基于多模态深度神经网络对人群抑郁状态辅助检测的方法 |
| CN116127132A (zh) * | 2023-03-03 | 2023-05-16 | 西安电子科技大学 | 基于跨模态文本相关注意力的时序语言定位方法 |
| CN116227668A (zh) * | 2022-12-23 | 2023-06-06 | 北京交通大学 | 基于注意力机制的城市轨道交通多步短时客流预测方法 |
| CN116451068A (zh) * | 2023-03-01 | 2023-07-18 | 太原理工大学 | 一种多模态数据融合的心力衰竭诊断辅助方法 |
| CN116452593A (zh) * | 2023-06-16 | 2023-07-18 | 武汉大学中南医院 | 血管性认知障碍的ai评估模型的构建方法、装置及系统 |
| CN116469553A (zh) * | 2023-03-01 | 2023-07-21 | 太原理工大学 | 一种基于LSTM模型与ResNet50模型的多模态心衰预测辅助方法 |
| CN116595133A (zh) * | 2023-04-18 | 2023-08-15 | 浙江理工大学 | 一种基于堆叠注意力与门控融合的视觉问答方法 |
| CN116757497A (zh) * | 2023-06-12 | 2023-09-15 | 南京航空航天大学 | 基于图类感知Transformer的多模态军事智能辅助作战决策方法 |
-
2023
- 2023-11-03 CN CN202311452648.8A patent/CN117171712B/zh active Active
Patent Citations (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111598030A (zh) * | 2020-05-21 | 2020-08-28 | 山东大学 | 一种航拍图像中车辆检测和分割的方法及系统 |
| US11244119B1 (en) * | 2021-01-04 | 2022-02-08 | Institute Of Automation, Chinese Academy Of Sciences | Multi-modal lie detection method and apparatus, and device |
| CN114398976A (zh) * | 2022-01-13 | 2022-04-26 | 福州大学 | 基于bert与门控类注意力增强网络的机器阅读理解方法 |
| CN116110565A (zh) * | 2022-08-19 | 2023-05-12 | 常州大学 | 一种基于多模态深度神经网络对人群抑郁状态辅助检测的方法 |
| CN116227668A (zh) * | 2022-12-23 | 2023-06-06 | 北京交通大学 | 基于注意力机制的城市轨道交通多步短时客流预测方法 |
| CN116451068A (zh) * | 2023-03-01 | 2023-07-18 | 太原理工大学 | 一种多模态数据融合的心力衰竭诊断辅助方法 |
| CN116469553A (zh) * | 2023-03-01 | 2023-07-21 | 太原理工大学 | 一种基于LSTM模型与ResNet50模型的多模态心衰预测辅助方法 |
| CN116092294A (zh) * | 2023-03-02 | 2023-05-09 | 长沙理工大学 | 一种基于Transformer与图注意力网络的高速公路交通流量预测方法 |
| CN116127132A (zh) * | 2023-03-03 | 2023-05-16 | 西安电子科技大学 | 基于跨模态文本相关注意力的时序语言定位方法 |
| CN116595133A (zh) * | 2023-04-18 | 2023-08-15 | 浙江理工大学 | 一种基于堆叠注意力与门控融合的视觉问答方法 |
| CN116757497A (zh) * | 2023-06-12 | 2023-09-15 | 南京航空航天大学 | 基于图类感知Transformer的多模态军事智能辅助作战决策方法 |
| CN116452593A (zh) * | 2023-06-16 | 2023-07-18 | 武汉大学中南医院 | 血管性认知障碍的ai评估模型的构建方法、装置及系统 |
Non-Patent Citations (4)
| Title |
|---|
| YULAI XIE ET AL.: "Global-shared Text Representation based Multi-Stage Fusion Transformer Network for Multi-modal Dense Video Captioning", 《IEEE TRANSACTIONS ON MULTIMEDIA》 * |
| 徐菲菲 等: "结合卷积神经网络和最小门控单元注意力的文本情感分析", 计算机应用与软件, no. 09 * |
| 陈佳丽 等: "利用门控机制融合依存与语义信息的事件检测方法", 中文信息学报, no. 08 * |
| 韩坤 等: "基于多模态医学图像的Alzheimer病分类方法", 清华大学学报(自然科学版), no. 08 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN117171712B (zh) | 2024-02-02 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US20230306081A1 (en) | Method for training a point cloud processing model, method for performing instance segmentation on point cloud, and electronic device | |
| CN112786069B (zh) | 语音提取方法、装置和电子设备 | |
| CN113689372A (zh) | 图像处理方法、设备、存储介质及程序产品 | |
| CN116164770B (zh) | 路径规划方法、装置、电子设备和计算机可读介质 | |
| CN114964296A (zh) | 车辆行驶路径规划方法、装置、设备和计算机可读介质 | |
| CN111312223B (zh) | 语音分割模型的训练方法、装置和电子设备 | |
| CN110956127A (zh) | 用于生成特征向量的方法、装置、电子设备和介质 | |
| CN114429658A (zh) | 人脸关键点信息获取方法、生成人脸动画的方法及装置 | |
| CN116913258B (zh) | 语音信号识别方法、装置、电子设备和计算机可读介质 | |
| CN117171712B (zh) | 辅助信息生成方法、装置、电子设备和计算机可读介质 | |
| CN111312224B (zh) | 语音分割模型的训练方法、装置和电子设备 | |
| CN117573123A (zh) | 应用于网页应用的页面生成方法、装置和电子设备 | |
| CN112070888B (zh) | 图像生成方法、装置、设备和计算机可读介质 | |
| CN114972876A (zh) | 基于知识蒸馏技术的图像处理方法、装置、设备及介质 | |
| CN114648712A (zh) | 视频分类方法、装置、电子设备及计算机可读存储介质 | |
| CN112418233A (zh) | 图像处理方法、装置、可读介质及电子设备 | |
| CN118097788B (zh) | 应用于婴幼儿的行为识别方法、装置和电子设备 | |
| CN118092671B (zh) | 目标视听数据生成方法、装置、电子设备和可读介质 | |
| CN116934557B (zh) | 行为预测信息生成方法、装置、电子设备和可读介质 | |
| CN118170371B (zh) | 基于拖拽式页面组件的页面生成方法、装置和电子设备 | |
| CN114863025B (zh) | 三维车道线生成方法、装置、电子设备和计算机可读介质 | |
| CN118314264B (zh) | 基于数字孪生的城市模型渲染系统及方法 | |
| CN116109989B (zh) | 评价信息生成方法、装置、电子设备和计算机可读介质 | |
| CN111582482B (zh) | 用于生成网络模型信息的方法、装置、设备和介质 | |
| CN117058371A (zh) | 图像分割信息生成方法、装置、设备、介质和程序产品 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |