CN116095089B - 遥感卫星数据处理方法及系统 - Google Patents
遥感卫星数据处理方法及系统 Download PDFInfo
- Publication number
- CN116095089B CN116095089B CN202310376712.2A CN202310376712A CN116095089B CN 116095089 B CN116095089 B CN 116095089B CN 202310376712 A CN202310376712 A CN 202310376712A CN 116095089 B CN116095089 B CN 116095089B
- Authority
- CN
- China
- Prior art keywords
- task
- matrix
- neural network
- feature
- convolutional neural
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
- H04L67/1004—Server selection for load balancing
- H04L67/1023—Server selection for load balancing based on a hash applied to IP addresses or costs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04B—TRANSMISSION
- H04B7/00—Radio transmission systems, i.e. using radiation field
- H04B7/14—Relay systems
- H04B7/15—Active relay systems
- H04B7/185—Space-based or airborne stations; Stations for satellite systems
- H04B7/1851—Systems using a satellite or space-based relay
- H04B7/18513—Transmission in a satellite or space-based system
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Theoretical Computer Science (AREA)
- Biomedical Technology (AREA)
- General Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Aviation & Aerospace Engineering (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Astronomy & Astrophysics (AREA)
- Image Processing (AREA)
Abstract
一种遥感卫星数据处理方法及系统,其获取多个边缘计算节点在预定时间段内多个预定时间点的任务量;采用基于深度学习的人工智能技术,挖掘各个边缘计算节点的任务量的时序动态变化关联特征,基于时序动态变化关联特征对于每个边缘计算节点的任务量的时序变化情况进行评估,以此提高各个边缘节点的任务量的时序关联特征的表达能力。这样,可以避免造成数据载荷堆积,提高遥感卫星数据处理的时效性。
Description
技术领域
本申请涉及智能化处理技术领域,并且更具体地,涉及一种遥感卫星数据处理方法及系统。
背景技术
随着卫星遥感的快速发展,遥感卫星数据在国土、林业等领域逐渐呈现出业务化应用的趋势。随着在轨遥感卫星越来越密集,其载荷数据及应用多样性越来越显著,同时遥感卫星数据规模急速增长,用户对数据处理及应用的高时效性需求越来越强烈,系统还面临着高可扩展性需求及资源整合紧迫性需求。当前,遥感卫星数据处理系统还无法满足用户对数据处理高时效性的需求,因此必须结合当前大数据技术的发展,解决目前系统面临的挑战。
因此,期望一种优化的遥感卫星数据处理方案。
发明内容
为了解决上述技术问题,提出了本申请。本申请的实施例提供了一种遥感卫星数据处理方法及系统,其获取多个边缘计算节点在预定时间段内多个预定时间点的任务量;采用基于深度学习的人工智能技术,挖掘各个边缘计算节点的任务量的时序动态变化关联特征,基于时序动态变化关联特征对于每个边缘计算节点的任务量的时序变化情况进行评估,以此提高各个边缘节点的任务量的时序关联特征的表达能力。这样,可以避免造成数据载荷堆积,提高遥感卫星数据处理的时效性。
第一方面,提供了一种遥感卫星数据处理方法,其包括:
获取多个边缘计算节点在预定时间段内多个预定时间点的任务量;
将所述各个边缘计算节点在预定时间段内多个预定时间点的任务量分别按照时间维度排列为任务量时序输入向量以得到多个任务量时序输入向量;
将所述多个任务量时序输入向量分别通过包含第一一维卷积神经网络和第二一维卷积神经网络的双分支结构以得到多个多尺度任务量时序特征向量,其中,所述第一一维卷积神经网络和所述第二一维卷积神经网络使用具有不同尺度的一维卷积核;
将所述多个多尺度任务量时序特征向量进行二维排列为全局任务量时序输入矩阵后通过作为特征提取器的卷积神经网络模型以得到节点间任务量关联特征矩阵;
以所述各个多尺度任务量时序特征向量作为查询特征向量,计算其与所述节点间任务量关联特征矩阵之间的矩阵乘积以得到多个分类特征向量;
将所述多个分类特征向量通过分类器以得到多个概率值,并对所述多个概率值进行归一化以使得所述多个概率值之和为1;
以及基于所述多个概率值,对所述多个边缘计算节点进行数据分配。
在上述遥感卫星数据处理方法中,将所述多个任务量时序输入向量分别通过包含第一一维卷积神经网络和第二一维卷积神经网络的双分支结构以得到多个多尺度任务量时序特征向量,包括:将所述多个任务量时序输入向量输入所述包含第一一维卷积神经网络和第二一维卷积神经网络的双分支结构的第一一维卷积神经网络以得到第一尺度任务量特征向量,其中,所述第一一维卷积神经网络具有第一尺度的一维卷积核;将所述多个任务量时序输入向量输入所述包含第一一维卷积神经网络和第二一维卷积神经网络的双分支结构的第二一维卷积神经网络以得到第二尺度任务量特征向量,其中,所述第二一维卷积神经网络具有第二尺度的一维卷积核,所述第一尺度不同于所述第二尺度;以及,将所述第一尺度任务量特征向量和所述第二尺度任务量特征向量进行级联以得到所述多个多尺度任务量时序特征向量。
在上述遥感卫星数据处理方法中,将所述多个多尺度任务量时序特征向量进行二维排列为全局任务量时序输入矩阵后通过作为特征提取器的卷积神经网络模型以得到节点间任务量关联特征矩阵,包括:使用所述作为特征提取器的卷积神经网络模型的各层在层的正向传递中对输入数据分别进行卷积处理、沿通道维度的池化处理和非线性激活处理以由所述作为特征提取器的卷积神经网络模型的最后一层的输出为所述节点间任务量关联特征矩阵,其中,所述作为特征提取器的卷积神经网络模型的第一层的输入为所述全局任务量时序输入矩阵。
在上述遥感卫星数据处理方法中,以所述各个多尺度任务量时序特征向量作为查询特征向量,计算其与所述节点间任务量关联特征矩阵之间的矩阵乘积以得到多个分类特征向量,包括:以如下矩阵公式计算所述各个多尺度任务量时序特征向量与所述节点间任务量关联特征矩阵之间的矩阵乘积以得到多个分类特征向量;其中,所述矩阵公式为:
在上述遥感卫星数据处理方法中,将所述多个分类特征向量通过分类器以得到多个概率值,包括:使用所述分类器的多个全连接层对所述多个分类特征向量进行全连接编码以得到编码分类特征向量;以及,将所述编码分类特征向量通过所述分类器的Softmax分类函数以得到所述分类结果。
在上述遥感卫星数据处理方法中,还包括对所述包含第一一维卷积神经网络和第二一维卷积神经网络的双分支结构、所述作为特征提取器的卷积神经网络模型和所述分类器进行训练;其中,对所述包含第一一维卷积神经网络和第二一维卷积神经网络的双分支结构、所述作为特征提取器的卷积神经网络模型和所述分类器进行训练,包括:获取训练数据,所述训练数据包括多个边缘计算节点在预定时间段内多个预定时间点的训练任务量,以及,所述多个概率值的真实值;将所述各个边缘计算节点在预定时间段内多个预定时间点的训练任务量分别按照时间维度排列为训练任务量时序输入向量以得到多个训练任务量时序输入向量;将所述多个训练任务量时序输入向量分别通过所述包含第一一维卷积神经网络和第二一维卷积神经网络的双分支结构以得到多个训练多尺度任务量时序特征向量,其中,所述第一一维卷积神经网络和所述第二一维卷积神经网络使用具有不同尺度的一维卷积核;将所述多个训练多尺度任务量时序特征向量进行二维排列为训练全局任务量时序输入矩阵后通过所述作为特征提取器的卷积神经网络模型以得到训练节点间任务量关联特征矩阵;以所述各个训练多尺度任务量时序特征向量作为查询特征向量,计算其与所述训练节点间任务量关联特征矩阵之间的矩阵乘积以得到多个训练分类特征向量;将所述多个训练分类特征向量通过所述分类器以得到多个分类损失函数值;以及,基于所述多个分类损失函数值并通过梯度下降的方向传播来对所述包含第一一维卷积神经网络和第二一维卷积神经网络的双分支结构、所述作为特征提取器的卷积神经网络模型和所述分类器进行训练,其中,在所述训练的每一轮迭代中,对所述分类器的权重矩阵进行权重矩阵的空间正则化约束迭代。
在上述遥感卫星数据处理方法中,将所述多个训练分类特征向量通过所述分类器以得到多个分类损失函数值,包括:所述分类器以如下分类公式对所述多个训练分类特征向量进行处理以生成分类结果,其中,所述分类公式为:,其中/>表示所述多个训练分类特征向量,/>至/>为权重矩阵,/>至/>表示偏置矩阵;以及,计算所述分类结果与真实值之间的交叉熵值作为所述多个分类损失函数值。
在上述遥感卫星数据处理方法中,在所述训练的每一轮迭代中,以如下迭代公式对所述分类器的权重矩阵进行权重矩阵的空间正则化约束迭代;其中,所述迭代公式为:
其中,是所述分类器的权重矩阵,/>是所述分类器的权重矩阵的转置矩阵,表示矩阵的Frobenius范数,/>是偏置矩阵,/>表示矩阵乘法,/>表示矩阵加法,/>表示按位置点乘,/>表示矩阵的指数运算,所述矩阵的指数运算表示计算以矩阵中各个位置的特征值为幂的自然指数函数值,/>表示迭代后的所述分类器的权重矩阵。
第二方面,提供了一种遥感卫星数据处理系统,其包括:
数据获取模块,用于获取多个边缘计算节点在预定时间段内多个预定时间点的任务量;
向量生成模块,用于将所述各个边缘计算节点在预定时间段内多个预定时间点的任务量分别按照时间维度排列为任务量时序输入向量以得到多个任务量时序输入向量;
多尺度模块,用于将所述多个任务量时序输入向量分别通过包含第一一维卷积神经网络和第二一维卷积神经网络的双分支结构以得到多个多尺度任务量时序特征向量,其中,所述第一一维卷积神经网络和所述第二一维卷积神经网络使用具有不同尺度的一维卷积核;
特征提取模块,用于将所述多个多尺度任务量时序特征向量进行二维排列为全局任务量时序输入矩阵后通过作为特征提取器的卷积神经网络模型以得到节点间任务量关联特征矩阵;
矩阵乘积计算模块,用于以所述各个多尺度任务量时序特征向量作为查询特征向量,计算其与所述节点间任务量关联特征矩阵之间的矩阵乘积以得到多个分类特征向量;
归一化处理模块,用于将所述多个分类特征向量通过分类器以得到多个概率值,并对所述多个概率值进行归一化以使得所述多个概率值之和为1;以及
数据分配模块,用于基于所述多个概率值,对所述多个边缘计算节点进行数据分配。
在上述遥感卫星数据处理系统中,所述多尺度模块,包括:第一尺度提取单元,用于将所述多个任务量时序输入向量输入所述包含第一一维卷积神经网络和第二一维卷积神经网络的双分支结构的第一一维卷积神经网络以得到第一尺度任务量特征向量,其中,所述第一一维卷积神经网络具有第一尺度的一维卷积核;第二尺度提取单元,用于将所述多个任务量时序输入向量输入所述包含第一一维卷积神经网络和第二一维卷积神经网络的双分支结构的第二一维卷积神经网络以得到第二尺度任务量特征向量,其中,所述第二一维卷积神经网络具有第二尺度的一维卷积核,所述第一尺度不同于所述第二尺度;以及,级联单元,用于将所述第一尺度任务量特征向量和所述第二尺度任务量特征向量进行级联以得到所述多个多尺度任务量时序特征向量。
与现有技术相比,本申请提供的遥感卫星数据处理方法及系统,其获取多个边缘计算节点在预定时间段内多个预定时间点的任务量;采用基于深度学习的人工智能技术,挖掘各个边缘计算节点的任务量的时序动态变化关联特征,基于时序动态变化关联特征对于每个边缘计算节点的任务量的时序变化情况进行评估,以此提高各个边缘节点的任务量的时序关联特征的表达能力。这样,可以避免造成数据载荷堆积,提高遥感卫星数据处理的时效性。
附图说明
为了更清楚地说明本申请实施例的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为根据本申请实施例的遥感卫星数据处理方法的场景示意图。
图2为根据本申请实施例的遥感卫星数据处理方法的流程图。
图3为根据本申请实施例的遥感卫星数据处理方法中步骤130的子步骤的流程图。
图4为根据本申请实施例的遥感卫星数据处理方法中步骤160的子步骤的流程图。
图5为根据本申请实施例的遥感卫星数据处理方法中步骤180的子步骤的流程图。
图6为根据本申请实施例的遥感卫星数据处理系统的框图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
除非另有说明,本申请实施例所使用的所有技术和科学术语与本申请的技术领域的技术人员通常理解的含义相同。本申请中所使用的术语只是为了描述具体的实施例的目的,不是旨在限制本申请的范围。
在本申请实施例记载中,需要说明的是,除非另有说明和限定,术语“连接”应做广义理解,例如,可以是电连接,也可以是两个元件内部的连通,可以是直接相连,也可以通过中间媒介间接相连,对于本领域的普通技术人员而言,可以根据具体情况理解上述术语的具体含义。
需要说明的是,本申请实施例所涉及的术语“第一\第二\第三”仅仅是是区别类似的对象,不代表针对对象的特定排序,可以理解地,“第一\第二\第三”在允许的情况下可以互换特定的顺序或先后次序。应该理解“第一\第二\第三”区分的对象在适当情况下可以互换,以使这里描述的本申请的实施例可以除了在这里图示或描述的那些以外的顺序实施。
相应地,考虑到在实际进行遥感卫星数据处理的过程中,为了能够提高数据处理的时效性,需要对边缘计算节点的任务量进行数据合理地分配。也就是说,在实际遥感卫星进行数据处理时,会将任务数据分配给就近节点,以此来完成任务的分配处理,但是,这种方式会导致一部分边缘计算节点的数据载荷堆积,而另一部分则没有过多的待处理数据,造成边缘计算节点的任务数据分配不均,严重影响遥感卫星的数据处理效率。
基于此,在本申请的技术方案中,期望以各个边缘计算节点的任务量的时序动态变化关联特征来作为基础,来对于每个所述边缘计算节点的任务量的时序变化情况进行评估,进而来实现对于各个边缘计算节点的任务量的合理分配。在此过程中,难点在于如何充分地挖掘出所述各个边缘计算节点的任务量的时序动态变化关联特征,以此来提高所述各个边缘节点的任务量的时序关联特征的表达能力,以避免造成数据载荷堆积,提高遥感卫星数据处理的时效性。
近年来,深度学习以及神经网络已经广泛应用于计算机视觉、自然语言处理、文本信号处理等领域。此外,深度学习以及神经网络在图像分类、物体检测、语义分割、文本翻译等领域,也展现出了接近甚至超越人类的水平。
深度学习以及神经网络的发展为挖掘所述各个边缘计算节点的任务量的时序动态变化关联特征提供了新的解决思路和方案。
具体地,在本申请的技术方案中,首先,获取多个边缘计算节点在预定时间段内多个预定时间点的任务量。接着,考虑到由于所述各个边缘节点的任务量在时间维度上都具有着各自的变化特征信息,因此,进一步将所述各个边缘计算节点在预定时间段内多个预定时间点的任务量分别按照时间维度排列为任务量时序输入向量以得到多个任务量时序输入向量,以此来整合所述各个边缘计算节点的任务量在时间维度上的时序数据分布信息。
然后,考虑到由于所述各个边缘节点的任务量在时间维度上具有着波动性和不确定性,其在所述预定时间段内的不同时间周期跨度下具有着不同的变化特征信息。因此,为了能够提高所述各个边缘节点的任务量的时序变化特征的表达充分性,在本申请的技术方案中,进一步将所述多个任务量时序输入向量分别通过包含第一一维卷积神经网络和第二一维卷积神经网络的双分支结构以得到多个多尺度任务量时序特征向量。特别地,这里,所述第一一维卷积神经网络和所述第二一维卷积神经网络使用具有不同尺度的一维卷积核,以分别提取出所述各个边缘节点的任务量在不同时间跨度下的多尺度动态关联特征分布信息,从而得到多个多尺度任务量时序特征向量。
进一步地,由于所述各个边缘计算节点的任务量时序变化特征之间具有着关联性,这种关联性特征信息对于节点的数据分配具有着重要意义。也就是说,由于所述各个边缘计算节点的任务量时序变化特征之间的关联关系,使得并不能够依据每个边缘计算节点的任务量各自的时序变化情况来单独进行数据任务的分配,需要基于所述各个边缘计算节点全局的任务量协同变化情况来进行分析。因此,在本申请的技术方案中,进一步将所述多个多尺度任务量时序特征向量进行二维排列为全局任务量时序输入矩阵后通过作为特征提取器的卷积神经网络模型中进行特征提取,以提取出所述各个边缘计算节点的任务量时序多尺度动态变化特征间的协同关联特征分布信息,从而得到节点间任务量关联特征矩阵。
接着,进一步以所述各个多尺度任务量时序特征向量作为查询特征向量,计算其与所述节点间任务量关联特征矩阵之间的矩阵乘积以得到多个分类特征向量,以此来将所述各个边缘计算节点的任务量时序多尺度动态变化特征间的协同关联特征作为背景基础,将所述各个边缘计算节点的任务量时序多尺度动态变化特征映射到此高维空间中,从而判断所述各个边缘计算节点的任务量的时序变化情况,以此来进行任务量的合理分配。具体地,将所述多个分类特征向量通过分类器以得到多个概率值,并对所述多个概率值进行归一化以使得所述多个概率值之和为1。也就是说,所述多个概率值为所述各个边缘计算节点的任务量适宜分配情况,因此,在得到所述多个概率值后,将其转换为0到1的概率系数,以此来对于所述多个边缘计算节点进行数据合理分配。
特别地,在本申请的技术方案中,这里,在以所述各个多尺度任务量时序特征向量作为查询特征向量,计算其与所述节点间任务量关联特征矩阵之间的矩阵乘积以得到多个分类特征向量时,由于每个所述分类特征向量表达所述节点间任务量关联特征矩阵的任务量节点间关联特征在单个节点的任务量时序多尺度关联下的映射表示,能够提高其特征表达效果。但是,在将所述节点间任务量关联特征矩阵表达的高阶时序-样本交叉关联特征映射到所述多尺度任务量时序特征向量的低阶纯时序关联特征空间内时,由于特征表达阶次的差异,可能导致所述分类特征向量的特征分布在时序方向上具有较大偏离,从而使得在训练过程中所述分类器的权重矩阵的收敛速度慢,影响了分类器以至于模型整体的训练速度。
因此,在本申请的技术方案中,本申请的申请人在每次分类器的权重矩阵的迭代时进行权重矩阵的空间正则化约束,表示为:
所述权重矩阵的空间正则化约束在权重矩阵与其自身转置进行空间嵌入得到的内生相关性矩阵的基础上,对所述分类器的权重矩阵进行基于其欧式空间的内生相关分布的L2正则化,从而与待加权特征的数值分布和按位置数值大小无关地,反映出权重空间对于待分类特征所表达的特定类表达模式的语义依赖程度,从而使得权重空间反应出模型所提取的特征的内在本质知识的传递效果,加快权重矩阵的收敛,从而提升分类器以至于模型整体的训练速度。这样,能够对于遥感卫星数据进行合理适宜地边缘计算节点分配,以避免造成数据载荷堆积,提高遥感卫星数据处理的时效性。
图1为根据本申请实施例的遥感卫星数据处理方法的场景示意图。如图1所示,在该应用场景中,首先,获取多个边缘计算节点在预定时间段内多个预定时间点的任务量(如图1中所示意的C);然后,将获取的任务量输入至部署有遥感卫星数据处理算法的服务器(如图1中所示意的S)中,其中所述服务器能够基于遥感卫星数据处理算法对所述任务量进行处理,以得到多个概率值,基于所述多个概率值,对所述多个边缘计算节点进行数据分配。
在介绍了本申请的基本原理之后,下面将参考附图来具体介绍本申请的各种非限制性实施例。
在本申请的一个实施例中,图2为根据本申请实施例的遥感卫星数据处理方法的流程图。如图2所示,根据本申请实施例的遥感卫星数据处理方法100,包括:110,获取多个边缘计算节点在预定时间段内多个预定时间点的任务量;120,将所述各个边缘计算节点在预定时间段内多个预定时间点的任务量分别按照时间维度排列为任务量时序输入向量以得到多个任务量时序输入向量;130,将所述多个任务量时序输入向量分别通过包含第一一维卷积神经网络和第二一维卷积神经网络的双分支结构以得到多个多尺度任务量时序特征向量,其中,所述第一一维卷积神经网络和所述第二一维卷积神经网络使用具有不同尺度的一维卷积核;140,将所述多个多尺度任务量时序特征向量进行二维排列为全局任务量时序输入矩阵后通过作为特征提取器的卷积神经网络模型以得到节点间任务量关联特征矩阵;150,以所述各个多尺度任务量时序特征向量作为查询特征向量,计算其与所述节点间任务量关联特征矩阵之间的矩阵乘积以得到多个分类特征向量;160,将所述多个分类特征向量通过分类器以得到多个概率值,并对所述多个概率值进行归一化以使得所述多个概率值之和为1;170,基于所述多个概率值,对所述多个边缘计算节点进行数据分配。
在该网络架构中,首先,获取多个边缘计算节点在预定时间段内多个预定时间点的任务量;然后,将所述各个边缘计算节点在预定时间段内多个预定时间点的任务量分别按照时间维度排列为任务量时序输入向量以得到多个任务量时序输入向量;接着,将所述多个任务量时序输入向量分别通过包含第一一维卷积神经网络和第二一维卷积神经网络的双分支结构以得到多个多尺度任务量时序特征向量,其中,所述第一一维卷积神经网络和所述第二一维卷积神经网络使用具有不同尺度的一维卷积核;然后,将所述多个多尺度任务量时序特征向量进行二维排列为全局任务量时序输入矩阵后通过作为特征提取器的卷积神经网络模型以得到节点间任务量关联特征矩阵;接着,以所述各个多尺度任务量时序特征向量作为查询特征向量,计算其与所述节点间任务量关联特征矩阵之间的矩阵乘积以得到多个分类特征向量;然后,将所述多个分类特征向量通过分类器以得到多个概率值,并对所述多个概率值进行归一化以使得所述多个概率值之和为1;以及,最后,基于所述多个概率值,对所述多个边缘计算节点进行数据分配。
具体地,在步骤110中,获取多个边缘计算节点在预定时间段内多个预定时间点的任务量。
相应地,考虑到在实际进行遥感卫星数据处理的过程中,为了能够提高数据处理的高时效性,需要对于边缘计算节点的任务量进行数据合理地分配。也就是说,在实际遥感卫星进行数据处理时,会将任务数据分配给就近节点,以此来完成任务的分配处理,但是,这种方式会导致一部分边缘计算节点的数据载荷堆积,而另一部分则没有过多的待处理数据,造成边缘计算节点的任务数据分配不均,严重影响遥感卫星的数据处理效率。
基于此,在本申请的技术方案中,期望以各个边缘计算节点的任务量的时序动态变化关联特征来作为基础,来对于每个所述边缘计算节点的任务量的时序变化情况进行评估,进而来实现对于各个边缘计算节点的任务量的合理分配。在此过程中,难点在于如何充分地挖掘出所述各个边缘计算节点的任务量的时序动态变化关联特征,以此来提高所述各个边缘节点的任务量的时序关联特征的表达能力,以避免造成数据载荷堆积,提高遥感卫星数据处理的时效性。
近年来,深度学习以及神经网络已经广泛应用于计算机视觉、自然语言处理、文本信号处理等领域。此外,深度学习以及神经网络在图像分类、物体检测、语义分割、文本翻译等领域,也展现出了接近甚至超越人类的水平。
具体地,在步骤120中,将所述各个边缘计算节点在预定时间段内多个预定时间点的任务量分别按照时间维度排列为任务量时序输入向量以得到多个任务量时序输入向量。接着,考虑到由于所述各个边缘节点的任务量在时间维度上都具有着各自的变化特征信息,因此,进一步将所述各个边缘计算节点在预定时间段内多个预定时间点的任务量分别按照时间维度排列为任务量时序输入向量以得到多个任务量时序输入向量,以此来整合所述各个边缘计算节点的任务量在时间维度上的时序数据分布信息。
具体地,在步骤130中,将所述多个任务量时序输入向量分别通过包含第一一维卷积神经网络和第二一维卷积神经网络的双分支结构以得到多个多尺度任务量时序特征向量,其中,所述第一一维卷积神经网络和所述第二一维卷积神经网络使用具有不同尺度的一维卷积核。然后,考虑到由于所述各个边缘节点的任务量在时间维度上具有着波动性和不确定性,其在所述预定时间段内的不同时间周期跨度下具有着不同的变化特征信息。
因此,为了能够提高所述各个边缘节点的任务量的时序变化特征的表达充分性,特别地,这里,所述第一一维卷积神经网络和所述第二一维卷积神经网络使用具有不同尺度的一维卷积核,以分别提取出所述各个边缘节点的任务量在不同时间跨度下的多尺度动态关联特征分布信息,从而得到多个多尺度任务量时序特征向量。
图3为根据本申请实施例的遥感卫星数据处理方法中步骤130的子步骤的流程图,如图3所示,将所述多个任务量时序输入向量分别通过包含第一一维卷积神经网络和第二一维卷积神经网络的双分支结构以得到多个多尺度任务量时序特征向量,包括:131,将所述多个任务量时序输入向量输入所述包含第一一维卷积神经网络和第二一维卷积神经网络的双分支结构的第一一维卷积神经网络以得到第一尺度任务量特征向量,其中,所述第一一维卷积神经网络具有第一尺度的一维卷积核;132,将所述多个任务量时序输入向量输入所述包含第一一维卷积神经网络和第二一维卷积神经网络的双分支结构的第二一维卷积神经网络以得到第二尺度任务量特征向量,其中,所述第二一维卷积神经网络具有第二尺度的一维卷积核,所述第一尺度不同于所述第二尺度;以及,133,将所述第一尺度任务量特征向量和所述第二尺度任务量特征向量进行级联以得到所述多个多尺度任务量时序特征向量。
具体地,在步骤140中,将所述多个多尺度任务量时序特征向量进行二维排列为全局任务量时序输入矩阵后通过作为特征提取器的卷积神经网络模型以得到节点间任务量关联特征矩阵。进一步地,由于所述各个边缘计算节点的任务量时序变化特征之间具有着关联性,这种关联性特征信息对于节点的数据分配具有着重要意义。
也就是说,由于所述各个边缘计算节点的任务量时序变化特征之间的关联关系,使得并不能够依据每个边缘计算节点的任务量各自的时序变化情况来单独进行数据任务的分配,需要基于所述各个边缘计算节点全局的任务量协同变化情况来进行分析。因此,在本申请的技术方案中,进一步将所述多个多尺度任务量时序特征向量进行二维排列为全局任务量时序输入矩阵后通过作为特征提取器的卷积神经网络模型中进行特征提取,以提取出所述各个边缘计算节点的任务量时序多尺度动态变化特征间的协同关联特征分布信息,从而得到节点间任务量关联特征矩阵。
其中,将所述多个多尺度任务量时序特征向量进行二维排列为全局任务量时序输入矩阵后通过作为特征提取器的卷积神经网络模型以得到节点间任务量关联特征矩阵,包括:使用所述作为特征提取器的卷积神经网络模型的各层在层的正向传递中对输入数据分别进行卷积处理、沿通道维度的池化处理和非线性激活处理以由所述作为特征提取器的卷积神经网络模型的最后一层的输出为所述节点间任务量关联特征矩阵,其中,所述作为特征提取器的卷积神经网络模型的第一层的输入为所述全局任务量时序输入矩阵。
卷积神经网络(Convolutional Neural Network,CNN)是一种人工神经网络,在图像识别等领域有着广泛的应用。卷积神经网络可以包括输入层、隐藏层和输出层,其中,隐藏层可以包括卷积层、池化(pooling)层、激活层和全连接层等,上一层根据输入的数据进行相应的运算,将运算结果输出给下一层,输入的初始数据经过多层的运算之后得到一个最终的结果。
卷积神经网络模型利用卷积核作为特征过滤因子在图像局部特征提取方面具有非常优异的性能表现,且相较于传统的基于统计或者基于特征工程的图像特征提取算法,所述卷积神经网络模型具有更强的特征提取泛化能力和拟合能力。
具体地,在步骤150中,以所述各个多尺度任务量时序特征向量作为查询特征向量,计算其与所述节点间任务量关联特征矩阵之间的矩阵乘积以得到多个分类特征向量。接着,进一步以所述各个多尺度任务量时序特征向量作为查询特征向量,计算其与所述节点间任务量关联特征矩阵之间的矩阵乘积以得到多个分类特征向量,以此来将所述各个边缘计算节点的任务量时序多尺度动态变化特征间的协同关联特征作为背景基础,将所述各个边缘计算节点的任务量时序多尺度动态变化特征映射到此高维空间中,从而判断所述各个边缘计算节点的任务量的时序变化情况,以此来进行任务量的合理分配。
其中,以所述各个多尺度任务量时序特征向量作为查询特征向量,计算其与所述节点间任务量关联特征矩阵之间的矩阵乘积以得到多个分类特征向量,包括:以如下矩阵公式计算所述各个多尺度任务量时序特征向量与所述节点间任务量关联特征矩阵之间的矩阵乘积以得到多个分类特征向量;其中,所述矩阵公式为:
具体地,在步骤160和步骤170中,将所述多个分类特征向量通过分类器以得到多个概率值,并对所述多个概率值进行归一化以使得所述多个概率值之和为1;以及,基于所述多个概率值,对所述多个边缘计算节点进行数据分配。
具体地,将所述多个分类特征向量通过分类器以得到多个概率值,并对所述多个概率值进行归一化以使得所述多个概率值之和为1。也就是说,所述多个概率值为所述各个边缘计算节点的任务量适宜分配情况,因此,在得到所述多个概率值后,将其转换为0到1的概率系数,以此来对于所述多个边缘计算节点进行数据合理分配。
图4为根据本申请实施例的遥感卫星数据处理方法中步骤160的子步骤的流程图,如图4所示,将所述多个分类特征向量通过分类器以得到多个概率值,包括:161,使用所述分类器的多个全连接层对所述多个分类特征向量进行全连接编码以得到编码分类特征向量;以及,162,将所述编码分类特征向量通过所述分类器的Softmax分类函数以得到所述分类结果。
进一步地,所述遥感卫星数据处理方法还包括对所述包含第一一维卷积神经网络和第二一维卷积神经网络的双分支结构、所述作为特征提取器的卷积神经网络模型和所述分类器进行训练;其中,图5为根据本申请实施例的遥感卫星数据处理方法中训练步骤的子步骤的流程图,如图5所示,对所述包含第一一维卷积神经网络和第二一维卷积神经网络的双分支结构、所述作为特征提取器的卷积神经网络模型和所述分类器进行训练的训练步骤,包括:181,获取训练数据,所述训练数据包括多个边缘计算节点在预定时间段内多个预定时间点的训练任务量,以及,所述多个概率值的真实值;182,将所述各个边缘计算节点在预定时间段内多个预定时间点的训练任务量分别按照时间维度排列为训练任务量时序输入向量以得到多个训练任务量时序输入向量;183,将所述多个训练任务量时序输入向量分别通过所述包含第一一维卷积神经网络和第二一维卷积神经网络的双分支结构以得到多个训练多尺度任务量时序特征向量,其中,所述第一一维卷积神经网络和所述第二一维卷积神经网络使用具有不同尺度的一维卷积核;184,将所述多个训练多尺度任务量时序特征向量进行二维排列为训练全局任务量时序输入矩阵后通过所述作为特征提取器的卷积神经网络模型以得到训练节点间任务量关联特征矩阵;185,以所述各个训练多尺度任务量时序特征向量作为查询特征向量,计算其与所述训练节点间任务量关联特征矩阵之间的矩阵乘积以得到多个训练分类特征向量;186,将所述多个训练分类特征向量通过所述分类器以得到多个分类损失函数值;以及,187,基于所述多个分类损失函数值并通过梯度下降的方向传播来对所述包含第一一维卷积神经网络和第二一维卷积神经网络的双分支结构、所述作为特征提取器的卷积神经网络模型和所述分类器进行训练,其中,在所述训练的每一轮迭代中,对所述分类器的权重矩阵进行权重矩阵的空间正则化约束迭代。
进一步地,将所述多个训练分类特征向量通过所述分类器以得到多个分类损失函数值,包括:所述分类器以如下分类公式对所述多个训练分类特征向量进行处理以生成分类结果,其中,所述分类公式为:,其中/>表示所述多个训练分类特征向量,/>至/>为权重矩阵,/>至/>表示偏置矩阵;以及,计算所述分类结果与真实值之间的交叉熵值作为所述多个分类损失函数值。
特别地,在本申请的技术方案中,这里,在以所述各个多尺度任务量时序特征向量作为查询特征向量,计算其与所述节点间任务量关联特征矩阵之间的矩阵乘积以得到多个分类特征向量时,由于每个所述分类特征向量表达所述节点间任务量关联特征矩阵的任务量节点间关联特征在单个节点的任务量时序多尺度关联下的映射表示,能够提高其特征表达效果。但是,在将所述节点间任务量关联特征矩阵表达的高阶时序-样本交叉关联特征映射到所述多尺度任务量时序特征向量的低阶纯时序关联特征空间内时,由于特征表达阶次的差异,可能导致所述分类特征向量的特征分布在时序方向上具有较大偏离,从而使得在训练过程中所述分类器的权重矩阵的收敛速度慢,影响了分类器以至于模型整体的训练速度。
因此,在本申请的技术方案中,本申请的申请人在每次分类器的权重矩阵的迭代时进行权重矩阵的空间正则化约束,表示为:在所述训练的每一轮迭代中,以如下迭代公式对所述分类器的权重矩阵进行权重矩阵的空间正则化约束迭代;其中,所述迭代公式为:
其中,是所述分类器的权重矩阵,/>是所述分类器的权重矩阵的转置矩阵,表示矩阵的Frobenius范数,/>是偏置矩阵,/>表示矩阵乘法,/>表示矩阵加法,/>表示按位置点乘,/>表示矩阵的指数运算,所述矩阵的指数运算表示计算以矩阵中各个位置的特征值为幂的自然指数函数值,/>表示迭代后的所述分类器的权重矩阵。
所述权重矩阵的空间正则化约束在权重矩阵与其自身转置进行空间嵌入得到的内生相关性矩阵的基础上,对所述分类器的权重矩阵进行基于其欧式空间的内生相关分布的L2正则化,从而与待加权特征的数值分布和按位置数值大小无关地,反映出权重空间对于待分类特征所表达的特定类表达模式的语义依赖程度,从而使得权重空间反应出模型所提取的特征的内在本质知识的传递效果,加快权重矩阵的收敛,从而提升分类器以至于模型整体的训练速度。这样,能够对于遥感卫星数据进行合理适宜地边缘计算节点分配,以避免造成数据载荷堆积,提高遥感卫星数据处理的时效性。
综上,基于本申请实施例的遥感卫星数据处理方法100被阐明,其获取多个边缘计算节点在预定时间段内多个预定时间点的任务量;采用基于深度学习的人工智能技术,挖掘各个边缘计算节点的任务量的时序动态变化关联特征,基于时序动态变化关联特征对于每个边缘计算节点的任务量的时序变化情况进行评估,以此提高各个边缘节点的任务量的时序关联特征的表达能力。这样,可以避免造成数据载荷堆积,提高遥感卫星数据处理的时效性。
在本申请的一个实施例中,图6为根据本申请实施例的遥感卫星数据处理系统的框图。如图6所示,根据本申请实施例的遥感卫星数据处理系统200,包括:数据获取模块210,用于获取多个边缘计算节点在预定时间段内多个预定时间点的任务量;向量生成模块220,用于将所述各个边缘计算节点在预定时间段内多个预定时间点的任务量分别按照时间维度排列为任务量时序输入向量以得到多个任务量时序输入向量;多尺度模块230,用于将所述多个任务量时序输入向量分别通过包含第一一维卷积神经网络和第二一维卷积神经网络的双分支结构以得到多个多尺度任务量时序特征向量,其中,所述第一一维卷积神经网络和所述第二一维卷积神经网络使用具有不同尺度的一维卷积核;特征提取模块240,用于将所述多个多尺度任务量时序特征向量进行二维排列为全局任务量时序输入矩阵后通过作为特征提取器的卷积神经网络模型以得到节点间任务量关联特征矩阵;矩阵乘积计算模块250,用于以所述各个多尺度任务量时序特征向量作为查询特征向量,计算其与所述节点间任务量关联特征矩阵之间的矩阵乘积以得到多个分类特征向量;归一化处理模块260,用于将所述多个分类特征向量通过分类器以得到多个概率值,并对所述多个概率值进行归一化以使得所述多个概率值之和为1;以及,数据分配模块270,用于基于所述多个概率值,对所述多个边缘计算节点进行数据分配。
在一个具体示例中,在上述遥感卫星数据处理系统中,所述多尺度模块,包括:第一尺度提取单元,用于将所述多个任务量时序输入向量输入所述包含第一一维卷积神经网络和第二一维卷积神经网络的双分支结构的第一一维卷积神经网络以得到第一尺度任务量特征向量,其中,所述第一一维卷积神经网络具有第一尺度的一维卷积核;第二尺度提取单元,用于将所述多个任务量时序输入向量输入所述包含第一一维卷积神经网络和第二一维卷积神经网络的双分支结构的第二一维卷积神经网络以得到第二尺度任务量特征向量,其中,所述第二一维卷积神经网络具有第二尺度的一维卷积核,所述第一尺度不同于所述第二尺度;以及,级联单元,用于将所述第一尺度任务量特征向量和所述第二尺度任务量特征向量进行级联以得到所述多个多尺度任务量时序特征向量。
在一个具体示例中,在上述遥感卫星数据处理系统中,所述特征提取模块,用于:使用所述作为特征提取器的卷积神经网络模型的各层在层的正向传递中对输入数据分别进行卷积处理、沿通道维度的池化处理和非线性激活处理以由所述作为特征提取器的卷积神经网络模型的最后一层的输出为所述节点间任务量关联特征矩阵,其中,所述作为特征提取器的卷积神经网络模型的第一层的输入为所述全局任务量时序输入矩阵。
在一个具体示例中,在上述遥感卫星数据处理系统中,所述矩阵乘积计算模块,用于:以如下矩阵公式计算所述各个多尺度任务量时序特征向量与所述节点间任务量关联特征矩阵之间的矩阵乘积以得到多个分类特征向量;其中,所述矩阵公式为:
在一个具体示例中,在上述遥感卫星数据处理系统中,所述归一化处理模块,包括:全连接编码单元,用于使用所述分类器的多个全连接层对所述多个分类特征向量进行全连接编码以得到编码分类特征向量;以及,分类结果单元,用于将所述编码分类特征向量通过所述分类器的Softmax分类函数以得到所述分类结果。
在一个具体示例中,在上述遥感卫星数据处理系统中,还包括对所述包含第一一维卷积神经网络和第二一维卷积神经网络的双分支结构、所述作为特征提取器的卷积神经网络模型和所述分类器进行训练的训练模块;其中,所述训练模块,包括:训练数据获取单元,用于获取训练数据,所述训练数据包括多个边缘计算节点在预定时间段内多个预定时间点的训练任务量,以及,所述多个概率值的真实值;训练向量排列单元,用于将所述各个边缘计算节点在预定时间段内多个预定时间点的训练任务量分别按照时间维度排列为训练任务量时序输入向量以得到多个训练任务量时序输入向量;训练多尺度单元,用于将所述多个训练任务量时序输入向量分别通过所述包含第一一维卷积神经网络和第二一维卷积神经网络的双分支结构以得到多个训练多尺度任务量时序特征向量,其中,所述第一一维卷积神经网络和所述第二一维卷积神经网络使用具有不同尺度的一维卷积核;训练特征提取单元,用于将所述多个训练多尺度任务量时序特征向量进行二维排列为训练全局任务量时序输入矩阵后通过所述作为特征提取器的卷积神经网络模型以得到训练节点间任务量关联特征矩阵;训练矩阵计算单元,用于以所述各个训练多尺度任务量时序特征向量作为查询特征向量,计算其与所述训练节点间任务量关联特征矩阵之间的矩阵乘积以得到多个训练分类特征向量;训练损失函数值计算单元,用于将所述多个训练分类特征向量通过所述分类器以得到多个分类损失函数值;以及,迭代单元,用于基于所述多个分类损失函数值并通过梯度下降的方向传播来对所述包含第一一维卷积神经网络和第二一维卷积神经网络的双分支结构、所述作为特征提取器的卷积神经网络模型和所述分类器进行训练,其中,在所述训练的每一轮迭代中,对所述分类器的权重矩阵进行权重矩阵的空间正则化约束迭代。
在一个具体示例中,在上述遥感卫星数据处理系统中,所述训练损失函数值计算单元,用于:所述分类器以如下分类公式对所述多个训练分类特征向量进行处理以生成分类结果,其中,所述分类公式为:,其中/>表示所述多个训练分类特征向量,/>至/>为权重矩阵,/>至/>表示偏置矩阵;以及,计算所述分类结果与真实值之间的交叉熵值作为所述多个分类损失函数值。
在一个具体示例中,在上述遥感卫星数据处理系统中,所述迭代单元,用于:在所述训练的每一轮迭代中,以如下迭代公式对所述分类器的权重矩阵进行权重矩阵的空间正则化约束迭代;其中,所述迭代公式为:
其中,是所述分类器的权重矩阵,/>是所述分类器的权重矩阵的转置矩阵,表示矩阵的Frobenius范数,/>是偏置矩阵,/>表示矩阵乘法,/>表示矩阵加法,/>表示按位置点乘,/>表示矩阵的指数运算,所述矩阵的指数运算表示计算以矩阵中各个位置的特征值为幂的自然指数函数值,/>表示迭代后的所述分类器的权重矩阵。
这里,本领域技术人员可以理解,上述遥感卫星数据处理系统中的各个单元和模块的具体功能和操作已经在上面参考图1到图5的遥感卫星数据处理方法的描述中得到了详细介绍,并因此,将省略其重复描述。
如上所述,根据本申请实施例的遥感卫星数据处理系统200可以实现在各种终端设备中,例如用于遥感卫星数据处理的服务器等。在一个示例中,根据本申请实施例的遥感卫星数据处理系统200可以作为一个软件模块和/或硬件模块而集成到终端设备中。例如,该遥感卫星数据处理系统200可以是该终端设备的操作系统中的一个软件模块,或者可以是针对于该终端设备所开发的一个应用程序;当然,该遥感卫星数据处理系统200同样可以是该终端设备的众多硬件模块之一。
替换地,在另一示例中,该遥感卫星数据处理系统200与该终端设备也可以是分立的设备,并且遥感卫星数据处理系统200可以通过有线和/或无线网络连接到该终端设备,并且按照约定的数据格式来传输交互信息。
本申请还提供了一种计算机程序产品,所述计算机程序产品包括指令,当所述指令被执行时,以使得装置执行对应于上述方法中的操作。
在本申请的一个实施例中,还提供了一种计算机可读存储介质,所述计算机可读存储介质存储有执行上述所述方法的计算机程序。
应可以理解,本申请的实施例可提供为方法、系统、或计算机程序产品。因此,可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等) 上实施的计算机程序产品的形式。
本申请实施例的方法、系统、和计算机程序产品的流程图和/或框图来描述的。应理解可由计算机程序指令实现流程图和/或框图中的每一流程和/或方框、以及流程图和/或框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或框图一个方框或多个方框中指定的功能的步骤。
以上结合具体实施例描述了本申请的基本原理,但是,需要指出的是,在本申请中提及的优点、优势、效果等仅是示例而非限制,不能认为这些优点、优势、效果等是本申请的各个实施例必须具备的。另外,上述公开的具体细节仅是为了示例的作用和便于理解的作用,而非限制,上述细节并不限制本申请为必须采用上述具体的细节来实现。
本申请中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的,可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇,指“包括但不限于”,且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”,且可与其互换使用,除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”,且可与其互换使用。
还需要指出的是,在本申请的装置、设备和方法中,各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本申请的等效方案。
提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本申请。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的,并且在此定义的一般原理可以应用于其他方面而不脱离本申请的范围。因此,本申请不意图被限制到在此示出的方面,而是按照与在此公开的原理和新颖的特征一致的最宽范围。
最后,还需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者终端设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者终端设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者终端设备中还存在另外的相同要素。
为了例示和描述的目的已经给出了以上描述。此外,此描述不意图将本申请的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例,但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。
Claims (9)
1.一种遥感卫星数据处理方法,其特征在于,包括:
获取多个边缘计算节点在预定时间段内多个预定时间点的任务量;
将所述各个边缘计算节点在预定时间段内多个预定时间点的任务量分别按照时间维度排列为任务量时序输入向量以得到多个任务量时序输入向量;
将所述多个任务量时序输入向量分别通过包含第一一维卷积神经网络和第二一维卷积神经网络的双分支结构以得到多个多尺度任务量时序特征向量,其中,所述第一一维卷积神经网络和所述第二一维卷积神经网络使用具有不同尺度的一维卷积核;
将所述多个多尺度任务量时序特征向量进行二维排列为全局任务量时序输入矩阵后通过作为特征提取器的卷积神经网络模型以得到节点间任务量关联特征矩阵;
以所述各个多尺度任务量时序特征向量作为查询特征向量,计算其与所述节点间任务量关联特征矩阵之间的矩阵乘积以得到多个分类特征向量;
将所述多个分类特征向量通过分类器以得到多个概率值,并对所述多个概率值进行归一化以使得所述多个概率值之和为1;以及基于所述多个概率值,对所述多个边缘计算节点进行数据分配;
以所述各个多尺度任务量时序特征向量作为查询特征向量,计算其与所述节点间任务量关联特征矩阵之间的矩阵乘积以得到多个分类特征向量,包括:以如下矩阵公式计算所述各个多尺度任务量时序特征向量与所述节点间任务量关联特征矩阵之间的矩阵乘积以得到多个分类特征向量;
其中,所述矩阵公式为:
2.根据权利要求1所述的遥感卫星数据处理方法,其特征在于,将所述多个任务量时序输入向量分别通过包含第一一维卷积神经网络和第二一维卷积神经网络的双分支结构以得到多个多尺度任务量时序特征向量,包括:
将所述多个任务量时序输入向量输入所述第一一维卷积神经网络以得到第一尺度任务量特征向量,其中,所述第一一维卷积神经网络具有第一尺度的一维卷积核;
将所述多个任务量时序输入向量输入所述第二一维卷积神经网络以得到第二尺度任务量特征向量,其中,所述第二一维卷积神经网络具有第二尺度的一维卷积核,所述第一尺度不同于所述第二尺度;以及
将所述第一尺度任务量特征向量和所述第二尺度任务量特征向量进行级联以得到所述多个多尺度任务量时序特征向量。
3.根据权利要求2所述的遥感卫星数据处理方法,其特征在于,将所述多个多尺度任务量时序特征向量进行二维排列为全局任务量时序输入矩阵后通过作为特征提取器的卷积神经网络模型以得到节点间任务量关联特征矩阵,包括:使用所述作为特征提取器的卷积神经网络模型的各层在层的正向传递中对输入数据分别进行卷积处理、沿通道维度的池化处理和非线性激活处理以由所述作为特征提取器的卷积神经网络模型的最后一层的输出为所述节点间任务量关联特征矩阵,其中,所述作为特征提取器的卷积神经网络模型的第一层的输入为所述全局任务量时序输入矩阵。
4.根据权利要求3所述的遥感卫星数据处理方法,其特征在于,将所述多个分类特征向量通过分类器以得到多个概率值,包括:
使用所述分类器的多个全连接层对所述多个分类特征向量进行全连接编码以得到编码分类特征向量;以及
将所述编码分类特征向量通过所述分类器的Softmax分类函数以得到分类结果。
5.根据权利要求4所述的遥感卫星数据处理方法,其特征在于,还包括对所述包含第一一维卷积神经网络和第二一维卷积神经网络的双分支结构、所述作为特征提取器的卷积神经网络模型和所述分类器进行训练;
其中,对所述包含第一一维卷积神经网络和第二一维卷积神经网络的双分支结构、所述作为特征提取器的卷积神经网络模型和所述分类器进行训练,包括:
获取训练数据,所述训练数据包括多个边缘计算节点在预定时间段内多个预定时间点的训练任务量,以及,所述多个概率值的真实值;
将所述各个边缘计算节点在预定时间段内多个预定时间点的训练任务量分别按照时间维度排列为训练任务量时序输入向量以得到多个训练任务量时序输入向量;
将所述多个训练任务量时序输入向量分别通过所述包含第一一维卷积神经网络和第二一维卷积神经网络的双分支结构以得到多个训练多尺度任务量时序特征向量,其中,所述第一一维卷积神经网络和所述第二一维卷积神经网络使用具有不同尺度的一维卷积核;
将所述多个训练多尺度任务量时序特征向量进行二维排列为训练全局任务量时序输入矩阵后通过所述作为特征提取器的卷积神经网络模型以得到训练节点间任务量关联特征矩阵;
以所述各个训练多尺度任务量时序特征向量作为查询特征向量,计算其与所述训练节点间任务量关联特征矩阵之间的矩阵乘积以得到多个训练分类特征向量;
将所述多个训练分类特征向量通过所述分类器以得到多个分类损失函数值;以及
基于所述多个分类损失函数值并通过梯度下降的方向传播来对所述包含第一一维卷积神经网络和第二一维卷积神经网络的双分支结构、所述作为特征提取器的卷积神经网络模型和所述分类器进行训练,其中,在所述训练的每一轮迭代中,对所述分类器的权重矩阵进行权重矩阵的空间正则化约束迭代。
6.根据权利要求5所述的遥感卫星数据处理方法,其特征在于,将所述多个训练分类特征向量通过所述分类器以得到多个分类损失函数值,包括:
所述分类器以如下分类公式对所述多个训练分类特征向量进行处理以生成分类结果,其中,所述分类公式为:softmax{(Wn,Bn):…:(W1,B1)|Xi},其中Xi表示所述多个训练分类特征向量,W1至Wn为权重矩阵,B1至Bn表示偏置矩阵;以及
计算所述分类结果与真实值之间的交叉熵值作为所述多个分类损失函数值。
8.一种遥感卫星数据处理系统,其特征在于,包括:
数据获取模块,用于获取多个边缘计算节点在预定时间段内多个预定时间点的任务量;
向量生成模块,用于将所述各个边缘计算节点在预定时间段内多个预定时间点的任务量分别按照时间维度排列为任务量时序输入向量以得到多个任务量时序输入向量;
多尺度模块,用于将所述多个任务量时序输入向量分别通过包含第一一维卷积神经网络和第二一维卷积神经网络的双分支结构以得到多个多尺度任务量时序特征向量,其中,所述第一一维卷积神经网络和所述第二一维卷积神经网络使用具有不同尺度的一维卷积核;
特征提取模块,用于将所述多个多尺度任务量时序特征向量进行二维排列为全局任务量时序输入矩阵后通过作为特征提取器的卷积神经网络模型以得到节点间任务量关联特征矩阵;
矩阵乘积计算模块,用于以所述各个多尺度任务量时序特征向量作为查询特征向量,计算其与所述节点间任务量关联特征矩阵之间的矩阵乘积以得到多个分类特征向量;
归一化处理模块,用于将所述多个分类特征向量通过分类器以得到多个概率值,并对所述多个概率值进行归一化以使得所述多个概率值之和为1;以及
数据分配模块,用于基于所述多个概率值,对所述多个边缘计算节点进行数据分配;
所述矩阵乘积计算模块,还用于:以如下矩阵公式计算所述各个多尺度任务量时序特征向量与所述节点间任务量关联特征矩阵之间的矩阵乘积以得到多个分类特征向量;
其中,所述矩阵公式为:
9.根据权利要求8所述的遥感卫星数据处理系统,其特征在于,所述多尺度模块,包括:
第一尺度提取单元,用于将所述多个任务量时序输入向量输入所述第一一维卷积神经网络以得到第一尺度任务量特征向量,其中,所述第一一维卷积神经网络具有第一尺度的一维卷积核;
第二尺度提取单元,用于将所述多个任务量时序输入向量输入所述第二一维卷积神经网络以得到第二尺度任务量特征向量,其中,所述第二一维卷积神经网络具有第二尺度的一维卷积核,所述第一尺度不同于所述第二尺度;以及
级联单元,用于将所述第一尺度任务量特征向量和所述第二尺度任务量特征向量进行级联以得到所述多个多尺度任务量时序特征向量。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310376712.2A CN116095089B (zh) | 2023-04-11 | 2023-04-11 | 遥感卫星数据处理方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310376712.2A CN116095089B (zh) | 2023-04-11 | 2023-04-11 | 遥感卫星数据处理方法及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN116095089A CN116095089A (zh) | 2023-05-09 |
CN116095089B true CN116095089B (zh) | 2023-06-16 |
Family
ID=86212419
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310376712.2A Active CN116095089B (zh) | 2023-04-11 | 2023-04-11 | 遥感卫星数据处理方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116095089B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116649850B (zh) * | 2023-07-17 | 2023-12-08 | 东莞市商斯迈智能科技有限公司 | 一种智能洗地机控制系统 |
CN116841754B (zh) * | 2023-08-31 | 2023-12-15 | 中国电子信息产业集团有限公司第六研究所 | 一种低轨卫星边缘计算服务系统及方法 |
CN116910107B (zh) * | 2023-09-13 | 2023-12-15 | 北京航天驭星科技有限公司 | 轨道数据的提取、轨道计算方法、装置及存储介质和设备 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113268321A (zh) * | 2021-05-17 | 2021-08-17 | 杭州克涵科技有限公司 | 用于边缘计算的数据处理调配方法 |
CN114338675A (zh) * | 2021-12-30 | 2022-04-12 | 六安市空间数据应用有限公司 | 一种基于边缘计算的遥感卫星大数据处理方法及系统 |
CN115373813A (zh) * | 2022-04-03 | 2022-11-22 | 福建福清核电有限公司 | 云计算环境中基于gpu虚拟化的调度方法、系统和电子设备 |
CN115834433A (zh) * | 2023-02-17 | 2023-03-21 | 杭州沄涞科技有限公司 | 基于物联网技术的数据处理方法及系统 |
CN115878319A (zh) * | 2022-12-13 | 2023-03-31 | 中国计量大学 | 负载均衡方法、系统和电子设备 |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019127492A1 (zh) * | 2017-12-29 | 2019-07-04 | 华为技术有限公司 | 节点流量占比预测方法及装置 |
CN109815339B (zh) * | 2019-01-02 | 2022-02-08 | 平安科技(深圳)有限公司 | 基于TextCNN知识抽取方法、装置、计算机设备及存储介质 |
EP3772709A1 (en) * | 2019-08-06 | 2021-02-10 | Robert Bosch GmbH | Deep neural network with equilibrium solver |
CN111683108B (zh) * | 2020-08-17 | 2020-11-17 | 鹏城实验室 | 一种网络流异常检测模型的生成方法和计算机设备 |
CN114254724A (zh) * | 2020-09-11 | 2022-03-29 | 华为技术有限公司 | 一种数据处理方法、神经网络的训练方法以及相关设备 |
CN112949753B (zh) * | 2021-03-26 | 2023-10-24 | 西安交通大学 | 一种基于二元关系的卫星遥测时序数据异常检测方法 |
CN113191306A (zh) * | 2021-05-17 | 2021-07-30 | 杭州咏情科技有限公司 | 基于边缘计算的设备异常状态预测方法 |
CN115546821A (zh) * | 2021-06-30 | 2022-12-30 | 华为技术有限公司 | 一种配置边缘服务器中神经网络模型的系统及装置 |
CN113590321B (zh) * | 2021-07-30 | 2024-02-27 | 西安电子科技大学 | 面向异构分布式机器学习集群的任务配置方法 |
CN115827257B (zh) * | 2023-02-20 | 2023-05-05 | 腾云创威信息科技(威海)有限公司 | 用于处理器体系的cpu容量预测方法及其系统 |
-
2023
- 2023-04-11 CN CN202310376712.2A patent/CN116095089B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113268321A (zh) * | 2021-05-17 | 2021-08-17 | 杭州克涵科技有限公司 | 用于边缘计算的数据处理调配方法 |
CN114338675A (zh) * | 2021-12-30 | 2022-04-12 | 六安市空间数据应用有限公司 | 一种基于边缘计算的遥感卫星大数据处理方法及系统 |
CN115373813A (zh) * | 2022-04-03 | 2022-11-22 | 福建福清核电有限公司 | 云计算环境中基于gpu虚拟化的调度方法、系统和电子设备 |
CN115878319A (zh) * | 2022-12-13 | 2023-03-31 | 中国计量大学 | 负载均衡方法、系统和电子设备 |
CN115834433A (zh) * | 2023-02-17 | 2023-03-21 | 杭州沄涞科技有限公司 | 基于物联网技术的数据处理方法及系统 |
Also Published As
Publication number | Publication date |
---|---|
CN116095089A (zh) | 2023-05-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN116095089B (zh) | 遥感卫星数据处理方法及系统 | |
Zhou et al. | Stacked extreme learning machines | |
CN112529168B (zh) | 一种基于gcn的属性多层网络表示学习方法 | |
CN106897268B (zh) | 文本语义理解方法、装置和系统 | |
CN109033095B (zh) | 基于注意力机制的目标变换方法 | |
CN109885756B (zh) | 基于cnn和rnn的序列化推荐方法 | |
CN112035743B (zh) | 数据推荐方法、装置、计算机设备以及存储介质 | |
Chen et al. | An efficient network behavior anomaly detection using a hybrid DBN-LSTM network | |
CN114329232A (zh) | 一种基于科研网络的用户画像构建方法和系统 | |
CN112417289B (zh) | 一种基于深度聚类的资讯信息智能推荐方法 | |
Zhou | A review of text classification based on deep learning | |
CN113157919B (zh) | 语句文本方面级情感分类方法及系统 | |
Li et al. | A deep graph structured clustering network | |
CN112487200A (zh) | 一种改进的包含多重边信息与多任务学习的深度推荐方法 | |
CN114529085A (zh) | 基于大数据的居民收入预测系统及其预测方法 | |
CN115017178A (zh) | 数据到文本生成模型的训练方法和装置 | |
CN115951883A (zh) | 分布式微服务架构的服务组件管理系统及其方法 | |
CN116434123A (zh) | 一种用于玫瑰蒸馏加工的控制方法及系统 | |
Meng et al. | Decentralized distributed deep learning with low-bandwidth consumption for smart constellations | |
WO2023087303A1 (en) | Method and apparatus for classifying nodes of a graph | |
CN111144500A (zh) | 基于解析高斯机制的差分隐私深度学习分类方法 | |
Hu et al. | Learning knowledge graph embedding with a bi-directional relation encoding network and a convolutional autoencoder decoding network | |
CN114911778A (zh) | 数据处理方法、装置、计算机设备及存储介质 | |
CN114726870B (zh) | 基于可视化拖拽的混合云资源编排方法、系统和电子设备 | |
CN115564092A (zh) | 用于风电场的短时风电功率预测系统及其方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |