CN118097359A - 一种模型训练方法、装置、存储介质以及电子设备 - Google Patents
一种模型训练方法、装置、存储介质以及电子设备 Download PDFInfo
- Publication number
- CN118097359A CN118097359A CN202410493628.3A CN202410493628A CN118097359A CN 118097359 A CN118097359 A CN 118097359A CN 202410493628 A CN202410493628 A CN 202410493628A CN 118097359 A CN118097359 A CN 118097359A
- Authority
- CN
- China
- Prior art keywords
- image
- feature
- fusion
- characteristic
- full
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 78
- 238000012549 training Methods 0.000 title claims abstract description 28
- 238000003860 storage Methods 0.000 title claims abstract description 22
- 230000004927 fusion Effects 0.000 claims abstract description 143
- 238000005457 optimization Methods 0.000 claims abstract description 7
- 230000007704 transition Effects 0.000 claims description 36
- 238000012545 processing Methods 0.000 claims description 24
- 230000003044 adaptive effect Effects 0.000 claims description 22
- 230000008569 process Effects 0.000 claims description 21
- 238000004590 computer program Methods 0.000 claims description 15
- 239000000284 extract Substances 0.000 claims description 13
- 238000005070 sampling Methods 0.000 claims description 5
- 238000010586 diagram Methods 0.000 description 17
- 238000001228 spectrum Methods 0.000 description 13
- 230000000694 effects Effects 0.000 description 11
- 230000006870 function Effects 0.000 description 10
- 230000006872 improvement Effects 0.000 description 8
- 238000005516 engineering process Methods 0.000 description 5
- 238000012804 iterative process Methods 0.000 description 4
- 230000003595 spectral effect Effects 0.000 description 4
- 230000000007 visual effect Effects 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 241000006302 Usnea Species 0.000 description 1
- 230000004931 aggregating effect Effects 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 229920001296 polysiloxane Polymers 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 239000010979 ruby Substances 0.000 description 1
- 229910001750 ruby Inorganic materials 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/80—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level
- G06V10/806—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level of extracted features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/80—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level
- G06V10/803—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level of input or preprocessed data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/10—Terrestrial scenes
- G06V20/13—Satellite images
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Evolutionary Computation (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Computing Systems (AREA)
- Databases & Information Systems (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Software Systems (AREA)
- Remote Sensing (AREA)
- Astronomy & Astrophysics (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
本说明书提供的一种模型训练方法、装置、存储介质以及电子设备，获取目标区域的全色图像、多光谱图像以及标准融合图像，将全色图像以及多光谱图像输入到目标模型中，以提取出全色图像的频域特征以及多光谱图像的频域特征，并将全色图像的频域特征以及多光谱图像的频域特征进行特征融合，以确定出第一特征图像，以及，对全色图像以及多光谱图像进行图像融合，以根据融合后的图像中包含的各像素点的像素信息，确定出自适应权重，并根据自适应权重对融合后的图像进行处理，以得到第二特征图像，将第一特征图像与第二特征图像进行叠加，以确定输出的预测融合图像，以最小化预测融合图像与标准融合图像之间的偏差为优化目标，对目标模型进行训练。
Description
技术领域
本说明书涉及计算机技术领域，尤其涉及一种模型训练方法、装置、存储介质以及电子设备。
背景技术
近年来，随着航空航天行业的迅速发展，遥感卫星得到了广泛的应用，可以根据遥感卫星所拍摄的遥感图像来执行农业估产、土地覆盖分类等任务。
目前，遥感卫星的内部包含有多种不同的传感器，不同的传感器来对应不同的图像采集模式，在不同的图像采集模式下所拍摄的图像的特性不同，可以通过切换不同的图像采集模式来采集具有不同特性的图像。例如，当切换成采集空间纹理信息（如区域内的物体的纹理结构）的图像的模式时，遥感卫星可以拍摄出包含有较多空间纹理信息的图像。又例如，当切换成采集光谱信息（如区域内的物体所反射的光在其波长上的分布信息）的图像的模式所对应的传感器时，遥感卫星可以拍摄出包含有较多光谱信息的图像。
但是，由于土地覆盖分类、农业估产等任务需要对地面上的物体的细节进行区分与识别，因此，需要所拍摄的遥感图像中既包含丰富的空间纹理信息又包含丰富的光谱信息。而由于通过切换图像采集模式的方式只能获取到具有单一特性的图像，因此，现有技术可以将针对同一区域的采集空间纹理信息的图像的模式下所拍摄的包含有较多空间纹理信息的图像与采集光谱信息的图像的模式下所拍摄的包含有较多光谱信息的图像进行简单的叠加，并根据叠加后的图像来执行农业估产、土地覆盖分类等任务。
但是，往往采用上述简单叠加的方式所得到的图像的视觉效果较差（如边缘模糊），从而导致执行土地覆盖分类、农业估产等任务的效果不理想。
发明内容
本说明书提供了一种模型训练方法、装置、存储介质以及电子设备，以部分的解决现有技术存在的上述问题。
本说明书采用下述技术方案：
本说明书提供了一种模型训练方法，包括：
获取目标区域的全色图像、所述目标区域的多光谱图像，以及获取所述目标区域的标准融合图像；
将所述全色图像以及所述多光谱图像输入到目标模型中，以使所述目标模型从所述全色图像中提取出所述全色图像的频域特征，以及从所述多光谱图像中提取出所述多光谱图像的频域特征，并将所述全色图像的频域特征以及所述多光谱图像的频域特征进行特征融合，以根据融合后的特征确定出第一特征图像，以及，对所述全色图像以及所述多光谱图像进行图像融合，以根据融合后的图像中包含的各像素点的像素信息，确定出自适应权重，并根据所述自适应权重对所述融合后的图像进行处理，以得到第二特征图像，将所述第一特征图像与所述第二特征图像进行叠加，并根据叠加后的图像，确定输出的预测融合图像；
以最小化所述预测融合图像与所述标准融合图像之间的偏差为优化目标，对所述目标模型进行训练。
可选地，频域特征包括：相位特征；
将所述全色图像的频域特征以及所述多光谱图像的频域特征进行特征融合，以根据融合后的特征确定出第一特征图像，具体包括：
将所述全色图像的相位特征以及所述多光谱图像的相位特征进行特征融合，以根据融合后的特征确定出第一特征图像。
可选地，频域特征包括：幅度特征；
将所述全色图像的频域特征以及所述多光谱图像的频域特征进行特征融合，以根据融合后的特征确定出第一特征图像，具体包括：
将所述全色图像的幅度特征以及所述多光谱图像的幅度特征进行特征融合，以根据融合后的特征确定出第一特征图像。
可选地，将所述全色图像的频域特征以及所述多光谱图像的频域特征进行特征融合，以根据融合后的特征确定出第一特征图像，具体包括：
将所述全色图像的相位特征以及所述多光谱图像的相位特征进行特征融合，以得到第一融合特征，以及将所述全色图像的幅度特征以及所述多光谱图像的幅度特征进行特征融合，以得到第二融合特征；
将所述第一融合特征与所述第二融合特征进行特征融合，以根据融合后的特征，确定出第一特征图像。
可选地，对所述全色图像以及所述多光谱图像进行图像融合，以根据融合后的图像中包含的各像素点的像素信息，确定出自适应权重，具体包括：
通过预设的卷积核对所述融合后的图像进行采样，以得到采样后的特征图像；
根据所述采样后的特征图像中各特征元素之间的关联关系，确定出所述采样后的特征图像对应的自适应空间权重，以及根据所述采样后的特征图像中各特征元素在不同通道中的像素强度信息，确定出所述采样后的特征图像对应的自适应通道权重；
根据所述自适应空间权重以及所述自适应通道权重，确定出自适应权重。
可选地，根据所述采样后的特征图像中各特征元素之间的关联关系，确定出所述采样后的特征图像对应的自适应空间权重，具体包括：
从所述采样后的特征图像中提取出部分特征图像，作为子特征图像，所述子特征图像指所述采样后的特征图像中的一行或者一列的特征元素的集合；
针对每一个子特征图像，将该子特征图像按照指定方式进行重新排列，并根据预设的卷积滑窗对重新排列后的特征图像进行卷积操作，以确定出该子特征图像中各特征元素之间的关联关系，并根据该子特征图像中各特征元素之间的关联关系，确定出该子特征图像对应的自适应空间权重；
根据每个子特征图像对应的自适应空间权重，确定出所述采样后的特征图像对应的自适应空间权重。
可选地，根据所述采样后的特征图像中各特征元素在不同通道中的像素强度信息，确定出所述采样后的特征图像对应的自适应通道权重，具体包括：
根据所述采样后的特征图像中各特征元素在不同通道中的像素强度信息，确定出各通道对应的目标权重；
根据所述目标权重，对所述采样后的特征图像中的各特征元素进行卷积操作，以得到通道特征图像，并根据所述通道特征图像中各特征元素在不同通道中的像素强度信息，重新确定目标权重，直至满足预设的迭代条件，将满足预设的迭代条件时的目标权重作为所述采样后的特征图像对应的自适应通道权重。
可选地，根据叠加后的图像，确定输出的预测融合图像，具体包括：
针对每轮迭代，将上一轮迭代所得到的叠加后的图像作为本轮迭代的过渡图像，并将本轮迭代的过渡图像以及所述全色图像重新输入到所述目标模型中，以使所述目标模型从所述全色图像中提取出所述全色图像的频域特征，以及从本轮迭代的过渡图像中提取出本轮迭代的过渡图像的频域特征，并将所述全色图像的频域特征以及本轮迭代的过渡图像的频域特征进行特征融合，以根据融合后的特征确定出本轮迭代的第一特征图像，以及，对所述全色图像以及本轮迭代的过渡图像进行图像融合，以根据本轮迭代的融合后的图像中包含的各像素点的像素信息，确定出本轮迭代的自适应权重，并根据本轮迭代的自适应权重对本轮迭代的融合后的图像进行处理，以得到本轮迭代的第二特征图像，将本轮迭代的第一特征图像与本轮迭代的第二特征图像进行叠加，得到下一轮迭代的过渡图像；
将迭代结束后所得到的过渡图像，作为输出的预测融合图像。
本说明书提供了一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序被处理器执行时实现上述模型训练方法。
本说明书提供了一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现上述模型训练方法。
本说明书采用的上述至少一个技术方案能够达到以下有益效果：
本说明书提供的模型训练方法，首先获取目标区域的全色图像、多光谱图像以及标准融合图像，而后，将全色图像以及多光谱图像输入到目标模型中，以提取出全色图像的频域特征以及多光谱图像的频域特征，并将全色图像的频域特征以及多光谱图像的频域特征进行特征融合，以确定出第一特征图像，以及，对全色图像以及多光谱图像进行图像融合，以根据融合后的图像中包含的各像素点的像素信息，确定出自适应权重，并根据自适应权重对融合后的图像进行处理，以得到第二特征图像，将第一特征图像与第二特征图像进行叠加，以确定输出的预测融合图像，以最小化预测融合图像与标准融合图像之间的偏差为优化目标，对目标模型进行训练。
从上述方法中可以看出，可以将全色图像和多光谱图像在频率域下的对应的第一特征图像以及全色图像和多光谱图像在空间域下对应的第二特征图像进行叠加来作为预测融合图像，并根据预测融合图像来对目标模型进行训练。该训练方式中通过将频率域下的特征与空间域下的特征进行融合，可以实现对频率域下的特征信息与空间域下的特征信息的互补，从而使训练后的模型可以获取到全色图像和多光谱图像的更加全面的信息，进而使输出的融合图像的效果更好，同时，也避免了现有技术中采用简单叠加的方式所得到的图像视觉效果较差的情况，大大提升了土地覆盖分类、农业估产等任务的执行效果。
附图说明
此处所说明的附图用来提供对本说明书的进一步理解，构成本说明书的一部分，本说明书的示意性实施例及其说明用于解释本说明书，并不构成对本说明书的不当限定。在附图中：
图1为本说明书提供的一种模型训练方法的流程示意图；
图2为本说明书提供的一种目标模型进行迭代处理的示意图；
图3为本说明书提供的一种模型训练流程的示意图；
图4为本说明书提供的一种在空间域上的处理流程的示意图；
图5为本说明书提供的一种模型训练装置的示意图；
图6为本说明书提供的一种对应于图1的电子设备的示意结构图。
具体实施方式
为使本说明书的目的、技术方案和优点更加清楚，下面将结合本说明书具体实施例及相应的附图对本说明书技术方案进行清楚、完整地描述。显然，所描述的实施例仅是本说明书一部分实施例，而不是全部的实施例。基于本说明书中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本说明书保护的范围。
以下结合附图，详细说明本说明书各实施例提供的技术方案。
图1为本说明书中提供的一种模型训练方法的流程示意图，包括以下步骤：
S101：获取目标区域的全色图像、所述目标区域的多光谱图像，以及获取所述目标区域的标准融合图像。
本说明书中涉及的业务执行方法的执行主体可以是诸如台式电脑、笔记本电脑等终端设备，也可以是安装在终端设备中的客户端，亦或是服务器。下面仅以服务器是执行主体为例，对本说明书实施例中的模型训练方法进行说明。
目前，可以将针对同一区域的采集空间纹理信息的图像的模式下所拍摄的包含有较多空间纹理信息的图像与采集光谱信息的图像的模式下所拍摄的包含有较多光谱信息的图像进行简单的叠加，并根据叠加后的图像来执行农业估产、土地覆盖分类等任务。但是，往往采用简单叠加的方式所得到的图像的视觉效果较差（如边缘模糊），从而导致执行土地覆盖分类、农业估产等任务的效果不理想。
为了解决上述问题，在本说明书中，服务器可以首先获取目标区域的全色图像、目标区域的多光谱图像，其中，目标区域可以是地面上的某个区域（如森林区域、城镇区域等），目标区域的全色图像和多光谱图像可以通过遥感卫星拍摄得到。另外，还需要获取目标区域的标准融合图像，标准融合图像可以指目标区域的标准高空间分辨率多光谱图像。换个角度来说，标准融合图像可以理解为既包含有丰富的光谱信息又包含有丰富的空间纹理信息的图像。
S102：将所述全色图像以及所述多光谱图像输入到目标模型中，以使所述目标模型从所述全色图像中提取出所述全色图像的频域特征，以及从所述多光谱图像中提取出所述多光谱图像的频域特征，并将所述全色图像的频域特征以及所述多光谱图像的频域特征进行特征融合，以根据融合后的特征确定出第一特征图像，以及，对所述全色图像以及所述多光谱图像进行图像融合，以根据融合后的图像中包含的各像素点的像素信息，确定出自适应权重，并根据所述自适应权重对所述融合后的图像进行处理，以得到第二特征图像，将所述第一特征图像与所述第二特征图像进行叠加，并根据叠加后的图像，确定输出的预测融合图像。
服务器可以将全色图像以及多光谱图像输入到目标模型中，通过目标模型从频率域以及空间域这两个角度对输入的图像进行处理。
首先，在频率域角度，可以通过目标模型从全色图像中提取出全色图像的频域特征，以及从多光谱图像中提取出多光谱图像的频域特征。其中，目标模型所提取出的频域特征可以包含有相位特征，另外，还可以包含有幅度特征。并且，提取图像的相位特征以及幅度特征可以采用多种方式，例如，可以通过对图像进行二维离散傅里叶变换的方式来提取图像的相位特征以及幅度特征，首先，可以将图像由空间域向频率域进行转换，具体可以参考如下公式：
其中，可以用于表征将图像由频率域向空间域转换的结果，/>可以用于表征频率域的行索引，/>可以用于表征频率域的列索引，/>可以用于表征指定图像（如上述全色图像或上述多光谱图像），/>可以用于表征空间域的行索引，/>可以用于表征空间域的列索引，/>可以用于表征图像的宽度，/>可以用于表征图像的高度，/>可以用于表征虚数单位。
而后，可以通过频谱运算提取图像的幅度特征以及相位特征，具体可以参考如下公式：
其中，可以用于表征将图像由频率域向空间域转换的结果，可以用于表征图像的幅度特征，/>可以用于表征图像的相位特征，/>可以用于表征频谱运算，/>可以用于表征频率域的实部信息，/>可以用于表征频率域的虚部信息。
因此，可以采用上述方式提取出全色图像的相位特征、全色图像的幅度特征、多光谱图像的相位特征以及多光谱图像的幅度特征。
而后，将全色图像的频域特征与多光谱图像的频域特征进行特征融合，进而可以根据融合后的特征确定出第一特征图。
其中，可以通过目标模型将全色图像的相位特征与多光谱的图像的相位特征进行特征融合，并可以将全色图像的幅度特征与多光谱图像的幅度特征进行特征融合，可以根据经过特征融合后得到的特征，确定出第一特征图像。
具体地，可以将全色图像的相位特征与多光谱的图像的相位特征进行特征融合，以得到第一融合特征，具体可以参考如下公式：
其中，可以用于表征第一融合特征，/>可以用于表征多光谱图像的相位特征，/>可以用于表征全色图像的相位特征，/>（）可以用于表征特征融合操作。
以及，可以将全色图像的幅度特征与多光谱图像的幅度特征进行特征融合，以得到第二融合特征，具体可以参考如下公式：
其中，可以用于表征第二融合特征，/>可以用于表征多光谱图像的幅度特征，/>可以用于表征全色图像的幅度特征，/>（）可以用于表征特征融合操作。
而后，可以将第一融合特征与第二融合特征进行特征融合，并通过逆频谱运算确定出经特征融合后的实部信息以及虚部信息，具体可以参考如下公式：
其中，可以用于表征经特征融合后的实部信息，/>可以用于表征经特征融合后的虚部信息，/>（）可以用于表征逆频谱运算，/>可以用于表征第二融合特征，/>可以用于表征第一融合特征。
并且，由频率域向空间域进行转换，以根据经特征融合后的实部信息以及虚部信息，确定出第一特征图像，具体可以参考如下公式：
其中，可以用于表征第一特征图像，/>可以用于表征由频率域向空间域进行转换的结果，/>可以用于表征经特征融合后的实部信息，可以用于表征经特征融合后的虚部信息。
其次，在空间域角度，可以通过目标模型对全色图像以及多光谱图像进行图像融合，并根据融合后的图像中包含的各像素点的像素信息，确定出自适应权重，并根据自适应权重对融合后的图像进行处理，以得到第二特征图像。
其中，可以从空间维度和通道维度两个层面对全色图像以及多光谱图像进行处理，以确定出第二特征图像。
在空间维度上，可以通过目标模型对全色图像以及多光谱图像进行图像融合，并通过预设的卷积核对融合后的图像进行采样，以得到采样后的特征图像。 而后，可以根据采样后的特征图像中各特征元素之间的关联关系，确定出采样后的特征图像对应的自适应空间权重。
具体地，可以通过目标模型从采样后的特征图像中提取出部分特征图像，作为子特征图像。其中，在提取部分特征图像时，可以采用提取一行或一列的特征元素的方式进行提取，即，子特征图像可以指采样后的特征图像中的一行或一列的特征元素的集合。
为了便于后续对子特征图像进行处理，针对每个子特征图像，可以将子特征图像按照指定方式进行重新排列，以便于后续通过预设的卷积滑窗对重新排列后的特征图像进行处理。例如，可以将大小为125的子特征图像重新排列为大小为5/>5特征图像。
针对每个子特征图像，可以通过预设的卷积滑窗对重新排列后的特征图像进行卷积操作，进而可以确定出该子特征图像中的各特征元素之间的关联关系。例如，在重新排列后大小为55特征图像上，通过预设的大小为3/>3的卷积滑窗进行卷积操作，以得到9个大小为3/>3的特征图像，并通过对这9个大小为3/>3的特征图像进行聚合，以得到包含有各特征元素之间的关联关系的特征图像。
而后，根据该子特征图像中各特征元素之间的关联关系，确定出该子特征图像对应的自适应空间权重。其中，各特征元素之间的关联关系可以表征出上述融合后的图像的局部特性（如图像内的物体边界信息）。其中，可以对包含有各特征元素之间的关联关系的特征图像进行通道维度的扩充，并可以根据包含有各特征元素之间的关联关系的扩充后的特征图像，确定出该子特征图像对应的自适应空间权重。
进而，可以根据每个子特征图像对应的自适应空间权重，确定出采样后的特征图像对应的自适应空间权重。
在通道维度上，可以通过目标模型对全色图像以及多光谱图像进行图像融合，并通过预设的卷积核对融合后的图像进行采样，以得到采样后的特征图像，并可以根据采样后的特征图像中各特征元素在不同通道中的像素强度信息，确定出采样后的特征图像对应的自适应通道权重。
具体地，可以根据采样后的特征图像中各特征元素在不同通道中的像素强度信息（如像素点的亮度信息），确定出各通道对应的目标通道权重。其中，在确定各通道对应的目标通道权重时，可以采用多种方式，诸如，可以采用通道注意力机制来确定出各通道的全局统计信息，并根据各通道的全局统计信息来对各通道赋予相对应的权重。
而后，可以对目标权重进行调整。具体地，可以根据各通道对应的目标权重，对采样后的特征图像进行卷积操作，进而可以得到通道特征图像，并根据通道特征图像中各特征元素在不同通道中的像素强度信息，重新确定出目标权重。而后，可以将重新确定出的目标权重对通道特征图像进行卷积操作，以再次重新确定出目标权重，直至满足预设的迭代条件为止，将满足预设的迭代条件时的目标权重作为采样后的特征图像对应的自适应通道权重。其中，预设的迭代条件可以是诸如：当对目标权重进行更新的次数接近采样后的特征图像包含的通道数时，停止进行迭代处理。
需要注意的是，为了在进行图像融合的过程中实现精确的空间配准，可以对多光谱图像进行上采样操作，以确保多光谱图像与全色图像的像素尺寸保持一致，从而在图像融合的过程中有效地进行空间配准，进而有效地合并两者的图像信息。
而后，可以根据确定出的自适应空间权重以及自适应通道权重，来确定出自适应权重，并根据自适应权重对融合后的图像进行处理，进而可以得到第二特征图像。诸如，可以对自适应空间权重以及自适应通道权重进行点乘操作，以根据点乘操作的结果确定出自适应权重。
通过目标模型将在频率域上所确定出的第一特征图像以及在空间域上所确定出的第二特征图像进行叠加，并可以根据叠加后的图像，确定输出的预测融合图像。
当然，为了增强目标模型的预测效果，可以通过目标模型对输入的图像的进行迭代处理，具体可以参考如下图2。
图2为本说明书提供的一种目标模型进行迭代处理的示意图。
由图2可以看出，在第一次迭代过程中，可以将多光谱图像以及全色图像输入到目标模型中，以进行后续迭代处理。后续在每轮迭代过程中，可以将上一轮迭代所得到的叠加后的图像作为本轮迭代的过渡图像，并将本轮迭代的过渡图像以及全色图像重新输入到目标模型中。进而，可以使目标模型从全色图像中提取出全色图像的频域特征，并且从本轮迭代的过渡图像中提取出本轮迭代的过渡图像的频域特征。而后，可以将全色图像的频域特征以及本轮迭代的过渡图像的频域特征进行特征融合，进而根据融合后的特征确定出本轮迭代的第一特征图像。
并且，可以通过目标模型对全色图像以及本轮迭代的过渡图像进行图像融合，进而，可以根据本轮迭代的融合后的图像中包含的各像素点的像素信息，确定出本轮迭代的自适应权重。而后，可以根据本轮迭代的自适应权重对本轮迭代的融合后的图像进行处理，以得到本轮迭代的第二特征图像。
之后，可以将本轮迭代的第一特征图像与本轮迭代的第二特征图像进行叠加，得到下一轮迭代的过渡图像。并且，在迭代结束后，可以将迭代结束所得到的过渡图像，作为输出的预测融合图像。其中，迭代处理的结束条件可以根据模型的实际情况来确定，诸如，可以是在进行了三轮迭代处理之后，将第三轮所得到的过渡图像作为输出的预测融合图像。
当然，为了进一步增强目标模型的预测效果，还可以将迭代结束所得到的过渡图像与上采样后的多光谱图像进行再次叠加，并将叠加后的图像作为输出的预测融合图像。通过叠加的方式可以将过渡图像中包含的图像信息与上采样后的多光谱图像中包含的光谱信息进行融合，以使输出图像中包含有更加丰富的光谱信息，从而优化了目标模型的预测效果。
S103：以最小化所述预测融合图像与所述标准融合图像之间的偏差为优化目标，对所述目标模型进行训练。
服务器在通过目标模型确定出预测融合图像之后，可以通过目标模型逐渐减小预测融合图像以及标准融合图像之间的差值，并将其作为优化目标，以此来对目标模型进行训练。例如，在对目标模型进行训练的过程中，可以通过采用均方误差（Mean SquaredError, MSE）损失函数来对目标模型的参数进行调整，具体可以参考如下公式：
其中，可以用于表征总体的损失，N可以用于表征目标模型输入的图像的数量，可以用于表征第/>组输入的图像对应的预测融合图像，/>可以用于表征第/>组输入的图像对应的标准融合图像，/>可以用于表征弗罗贝尼乌斯范数。
当然，训练完成的目标模型可以部署在服务器等终端设备上去执行相应的任务。其中，可以将针对同一区域的全色图像以及多光谱图像输入到部署有训练后的目标模型的终端设备中，以得到相应的融合图像，并根据融合图像去执行农业估产、土地覆盖分类等任务。
从上述方法中可以看出，可以将全色图像和多光谱图像在频率域下的对应的第一特征图像以及全色图像和多光谱图像在空间域下对应的第二特征图像进行叠加来作为预测融合图像，并根据预测融合图像来对目标模型进行训练。该训练方式中通过将频率域下的特征与空间域下的特征进行融合，可以实现对频率域下的特征信息与空间域下的特征信息的互补，从而使训练后的模型可以获取到全色图像和多光谱图像的更加全面的信息，进而使输出的融合图像的效果更好，同时，也避免了现有技术中采用简单叠加的方式所得到的图像视觉效果较差的情况，大大提升了土地覆盖分类、农业估产等任务的执行效果。
另外，经过上述方法训练得到的训练后的目标模型可以针对不同的输入图像，生成与之对应的自适应权重，进而增强了对输入图像的进行特征提取的能力，进一步提升了输出的融合图像的效果，从而大大提升了土地覆盖分类、农业估产等任务的执行效果。
为了进一步地对上述方法进行说明，接下来将对本说明书所提供的方法的整体流程进行阐述，具体可以参考如下图3。
图3为本说明书提供的一种模型训练流程的示意图。
由图3可以看出，本说明书提供的方法可以整体分为两个部分，一部分是在空间域上对全色图像以及多光谱图像进行处理，进而可以得到第二特征图像，另一部分是在频率域上对全色图像以及多光谱图像进行处理，进而可以得到第三特征图像。并且，可以将第一特征图像与第二特征图像进行叠加，并根据叠加后的图像可以确定出预测融合图像，以对目标模型进行训练。其中，在频率域上，可以通过频谱运算的方式从全色图像中提取出全色图像的幅度特征以及全色图像的相位特征，以及，从多光谱图像中提取出多光谱图像的幅度特征以及多光谱图像的想相位特征。而后，可以将全色图像的相位特征与多光谱图像的相位特征进行特征融合，以得到第一融合特征。并且，可以将全色图像的幅度特征与多光谱图像的幅度特征进行特征融合，以得到第二融合特征。将第一融合特征与第二融合特征再次进行特征融和，并通过逆频谱运算的方式由频率域转换到空间域上，以得到第一特征图像。另外，在空间域上对全色图像以及多光谱图像进行处理的流程将通过后续的示意图进行阐述。
当然，由图3也可以看出，可以通过目标模型对输入的图像进行迭代处理。首先，在第一轮迭代过程中，可以将多光谱图像以及全色图像输入到目标模型中，通过目标模型将在空间域上所确定出的第二特征图像与在频率域上所确定出的第一特征图像进行叠加。将叠加后的图像作为第二轮迭代的过渡图像，并且将第二轮迭代的过渡图像和全色图像重新输入到目标模型中，以进行第二轮的迭代处理。而后，将在第二轮迭代中所得到的叠加后的图像作为第三轮迭代的过渡图像，并且将第三轮迭代的过渡图像和全色图像重新输入到目标模型中，以进行第三轮的迭代处理。当然，为了使输出的图像中包含有更加丰富的光谱信息，可以将多光谱图像进行上采样，并将第三轮迭代处理所确定出的叠加后的图像与上采样后的多光谱图像进行再次叠加，并将叠加后的图像作为预测融合图像。当然，图3只是本说明书提供的一种目标模型进行迭代处理的形式，在实际应用过程中可以根据实际需求来确定具体的迭代轮次等。
另外，通过目标模型在空间域上对全色图像以及多光谱图像的处理过程具体可以参考如下图4。
图4为本说明书提供的一种在空间域上的处理流程的示意图。
由图4可以看出，通过目标模型在空间域上对全色图像以及多光谱图像的处理可以分为两个部分，一部分为在通道维度上对输入的图像进行处理，另一部分为在空间维度上对输入的图像进行处理。而后，可以根据在通道维度上所确定的自适应通道权重以及在空间维度上所确定的自适应通道权重，来确定出自适应权重，并根据自适应权重对将全色图像以及多光谱图像进行图像融合后所得到的融合后图像进行处理，进而可以得到第二特征图像。
如图4所示，在通道维度上，首先可以通过目标模型对全色图像以及多光谱图像进行图像融合，并采用预设的卷积核对融合后的图像进行采样，以得到采样后特征图像。而后，可以根据采样后的特征图像中各特征元素在不同通道中的像素强度信息，确定出目标通道权重，并对其进行迭代自适应调整，以确定出自适应通道权重，其中，通道权重可以表征出各通道的重要性程度。对目标通道权重进行迭代自适应调整的方式有多种，诸如采用通道注意力机制，可以根据各通道对应的目标权重对采样后的特征图像进行卷积操作，进而可以得到通道特征图像，并根据通道特征图像中各特征元素在不同通道中的像素强度信息，重新确定出目标权重。而后，可以根据重新确定出的目标权重对通道特征图像进行卷积操作，以根据该次卷积操作得到的特征图中各特征元素在不同通道中的像素强度信息，再次重新确定出目标权重，直至满足预设的迭代条件为止，将满足预设的迭代条件时的目标权重作为自适应通道权重。当然，迭代停止条件可以根据实际需求来确定，诸如可以是当迭代次数达到与输入的图像所对应的通道数相同为止就停止迭代处理。
另外，如图4所示，在空间维度上，首先可以通过目标模型对全色图像以及多光谱图像进行图像融合，并采用预设的卷积核对融合后的图像进行采样，以得到采样后特征图像，可以根据采样后的特征图像中各特征元素之间的关联关系，确定出采样后的特征图像对应的自适应空间权重。
在对采样后的特征图像进行处理时，可以一部分一部分进行处理。其中，可以从采样后特征图像中提取出一行或一列特征元素对应的子特征图像，并对子特征图像进行重新排列为长和宽相同的特征图像，以通过预设的卷积核对重新排列后的特征图像进行卷积操作。并且，可以对卷积操作得到的特征图像进行聚合，以得到与重新排列后的特征图像大小相同且包含有各特征元素之间的关联关系的特征图像。而后，可以对包含有各特征元素之间的关联关系的特征图像进行通道维度上的扩充，进而可以根据包含有各特征元素之间的关联关系的扩充后的特征图像，确定出子特征图像对应的自适应空间权重。在图4中，可以先从采样后特征图像中提取出大小为125的子特征图像，并对其进行重新排列为大小为55的特征图像。而后，可以通过预设的大小为3/>3的卷积核对重新排列后的特征图像进行卷积操作，以得到重新排列后的大小为5/>5且包含有各特征元素之间的关联关系的特征图像。而后，可以对重新排列后的大小为5/>5且包含有各特征元素之间的关联关系的特征图像进行通道维度上的扩充，进而，可以根据包含有各特征元素之间的关联关系的扩充后的特征图像，确定出子特征图像对应的自适应空间权重。
而后，根据各子特征图像对应的自适应空间权重，确定出采样后的特征图像对应的自适应空间权重。
而后，可以根据在通道维度上所确定的自适应通道权重以及在空间维度上所确定的自适应通道权重，确定出自适应权重，并根据自适应权重对将全色图像以及多光谱图像进行图像融合后所得到的融合后图像进行处理，进而可以得到第二特征图像。
以上为本说明书的一个或多个实施的方法，基于同样的思路，本说明书还提供了相应的模型训练装置，如图5所示。
图5为本说明书提供的一种模型训练装置的示意图，包括：
获取模块501：用于获取目标区域的全色图像、所述目标区域的多光谱图像，以及获取所述目标区域的标准融合图像；
预测模块502：用于将所述全色图像以及所述多光谱图像输入到目标模型中，以使所述目标模型从所述全色图像中提取出所述全色图像的频域特征，以及从所述多光谱图像中提取出所述多光谱图像的频域特征，并将所述全色图像的频域特征以及所述多光谱图像的频域特征进行特征融合，以根据融合后的特征确定出第一特征图像，以及，对所述全色图像以及所述多光谱图像进行图像融合，以根据融合后的图像中包含的各像素点的像素信息，确定出自适应权重，并根据所述自适应权重对所述融合后的图像进行处理，以得到第二特征图像，将所述第一特征图像与所述第二特征图像进行叠加，并根据叠加后的图像，确定输出的预测融合图像；
训练模块503：用于以最小化所述预测融合图像与所述标准融合图像之间的偏差为优化目标，对所述目标模型进行训练。
可选地，频域特征包括：相位特征；
所述预测模块502具体用于：将所述全色图像的相位特征以及所述多光谱图像的相位特征进行特征融合，以根据融合后的特征确定出第一特征图像。
可选地，频域特征包括：幅度特征；
所述预测模块502具体用于：将所述全色图像的幅度特征以及所述多光谱图像的幅度特征进行特征融合，以根据融合后的特征确定出第一特征图像。
可选地，所述预测模块502具体用于：将所述全色图像的相位特征以及所述多光谱图像的相位特征进行特征融合，以得到第一融合特征，以及将所述全色图像的幅度特征以及所述多光谱图像的幅度特征进行特征融合，以得到第二融合特征；将所述第一融合特征与所述第二融合特征进行特征融合，以根据融合后的特征，确定出第一特征图像。
可选地，所述预测模块502具体用于：通过预设的卷积核对所述融合后的图像进行采样，以得到采样后的特征图像；根据所述采样后的特征图像中各特征元素之间的关联关系，确定出所述采样后的特征图像对应的自适应空间权重，以及根据所述采样后的特征图像中各特征元素在不同通道中的像素强度信息，确定出所述采样后的特征图像对应的自适应通道权重；根据所述自适应空间权重以及所述自适应通道权重，确定出自适应权重。
可选地，所述预测模块502具体用于：从所述采样后的特征图像中提取出部分特征图像，作为子特征图像，所述子特征图像指所述采样后的特征图像中的一行或者一列的特征元素的集合；针对每一个子特征图像，将该子特征图像按照指定方式进行重新排列，并根据预设的卷积滑窗对重新排列后的特征图像进行卷积操作，以确定出该子特征图像中各特征元素之间的关联关系，并根据该子特征图像中各特征元素之间的关联关系，确定出该子特征图像对应的自适应空间权重；根据每个子特征图像对应的自适应空间权重，确定出所述采样后的特征图像对应的自适应空间权重。
可选地，所述预测模块502具体用于：根据所述采样后的特征图像中各特征元素在不同通道中的像素强度信息，确定出各通道对应的目标权重；根据所述目标权重，对所述采样后的特征图像中的各特征元素进行卷积操作，以得到通道特征图像，并根据所述通道特征图像中各特征元素在不同通道中的像素强度信息，重新确定目标权重，直至满足预设的迭代条件，将满足预设的迭代条件时的目标权重作为所述采样后的特征图像对应的自适应通道权重。
可选地，所述预测模块502具体用于：针对每轮迭代，将上一轮迭代所得到的叠加后的图像作为本轮迭代的过渡图像，并将本轮迭代的过渡图像以及所述全色图像重新输入到所述目标模型中，以使所述目标模型从所述全色图像中提取出所述全色图像的频域特征，以及从本轮迭代的过渡图像中提取出本轮迭代的过渡图像的频域特征，并将所述全色图像的频域特征以及本轮迭代的过渡图像的频域特征进行特征融合，以根据融合后的特征确定出本轮迭代的第一特征图像，以及，对所述全色图像以及本轮迭代的过渡图像进行图像融合，以根据本轮迭代的融合后的图像中包含的各像素点的像素信息，确定出本轮迭代的自适应权重，并根据本轮迭代的自适应权重对本轮迭代的融合后的图像进行处理，以得到本轮迭代的第二特征图像，将本轮迭代的第一特征图像与本轮迭代的第二特征图像进行叠加，得到下一轮迭代的过渡图像；将迭代结束后所得到的过渡图像，作为输出的预测融合图像。
本说明书还提供了一种计算机可读存储介质，该存储介质存储有计算机程序，计算机程序可用于执行上述图1所示的模型训练方法。
本说明书还提供了图6所示的一种对应于图1的电子设备的示意结构图。如图6所示，在硬件层面，该电子设备包括处理器、内部总线、网络接口、内存以及非易失性存储器，当然还可能包括其他业务所需要的硬件。处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行，以实现上述图1所示的模型训练方法。
当然，除了软件实现方式之外，本说明书并不排除其他实现方式，比如逻辑器件抑或软硬件结合的方式等等，也就是说以下处理流程的执行主体并不限定于各个逻辑单元，也可以是硬件或逻辑器件。
在20世纪90年代，对于一个技术的改进可以很明显地区分是硬件上的改进（例如，对二极管、晶体管、开关等电路结构的改进）还是软件上的改进（对于方法流程的改进）。然而，随着技术的发展，当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此，不能说一个方法流程的改进就不能用硬件实体模块来实现。例如，可编程逻辑器件（Programmable Logic Device, PLD）（例如现场可编程门阵列（Field Programmable GateArray，FPGA））就是这样一种集成电路，其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片PLD上，而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且，如今，取代手工地制作集成电路芯片，这种编程也多半改用“逻辑编译器（logic compiler）”软件来实现，它与程序开发撰写时所用的软件编译器相类似，而要编译之前的原始代码也得用特定的编程语言来撰写，此称之为硬件描述语言（Hardware Description Language，HDL），而HDL也并非仅有一种，而是有许多种，如ABEL（Advanced Boolean Expression Language）、AHDL（Altera Hardware DescriptionLanguage）、Confluence、CUPL（Cornell University Programming Language）、HDCal、JHDL（Java Hardware Description Language）、Lava、Lola、MyHDL、PALASM、RHDL（RubyHardware Description Language）等，目前最普遍使用的是VHDL（Very-High-SpeedIntegrated Circuit Hardware Description Language）与Verilog。本领域技术人员也应该清楚，只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中，就可以很容易得到实现该逻辑方法流程的硬件电路。
控制器可以按任何适当的方式实现，例如，控制器可以采取例如微处理器或处理器以及存储可由该（微）处理器执行的计算机可读程序代码（例如软件或固件）的计算机可读介质、逻辑门、开关、专用集成电路（Application Specific Integrated Circuit，ASIC）、可编程逻辑控制器和嵌入微控制器的形式，控制器的例子包括但不限于以下微控制器：ARC 625D、Atmel AT91SAM、Microchip PIC18F26K20 以及Silicone Labs C8051F320，存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道，除了以纯计算机可读程序代码方式实现控制器以外，完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件，而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至，可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。
上述实施例阐明的系统、装置、模块或单元，具体可以由计算机芯片或实体实现，或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的，计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
为了描述的方便，描述以上装置时以功能分为各种单元分别描述。当然，在实施本说明书时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本领域内的技术人员应明白，本说明书的实施例可提供为方法、系统、或计算机程序产品。因此，本说明书可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本说明书可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质（包括但不限于磁盘存储器、CD-ROM、光学存储器等）上实施的计算机程序产品的形式。
本说明书是参照根据本说明书实施例的方法、设备（系统）、和计算机程序产品的流程图和／或方框图来描述的。应理解可由计算机程序指令实现流程图和／或方框图中的每一流程和／或方框、以及流程图和／或方框图中的流程和／或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和／或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和／或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和／或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中，计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。
还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白，本说明书的实施例可提供为方法、系统或计算机程序产品。因此，本说明书可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且，本说明书可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质（包括但不限于磁盘存储器、CD-ROM、光学存储器等）上实施的计算机程序产品的形式。
本说明书可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本说明书，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于系统实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
以上所述仅为本说明书的实施例而已，并不用于限制本说明书。对于本领域技术人员来说，本说明书可以有各种更改和变化。凡在本说明书的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本说明书的权利要求范围之内。
Claims (10)
1.一种模型训练方法，其特征在于，包括：
获取目标区域的全色图像、所述目标区域的多光谱图像，以及获取所述目标区域的标准融合图像；
将所述全色图像以及所述多光谱图像输入到目标模型中，以使所述目标模型从所述全色图像中提取出所述全色图像的频域特征，以及从所述多光谱图像中提取出所述多光谱图像的频域特征，并将所述全色图像的频域特征以及所述多光谱图像的频域特征进行特征融合，以根据融合后的特征确定出第一特征图像，以及，对所述全色图像以及所述多光谱图像进行图像融合，以根据融合后的图像中包含的各像素点的像素信息，确定出自适应权重，并根据所述自适应权重对所述融合后的图像进行处理，以得到第二特征图像，将所述第一特征图像与所述第二特征图像进行叠加，并根据叠加后的图像，确定输出的预测融合图像；
以最小化所述预测融合图像与所述标准融合图像之间的偏差为优化目标，对所述目标模型进行训练。
2.如权利要求1所述的方法，其特征在于，频域特征包括：相位特征；
将所述全色图像的频域特征以及所述多光谱图像的频域特征进行特征融合，以根据融合后的特征确定出第一特征图像，具体包括：
将所述全色图像的相位特征以及所述多光谱图像的相位特征进行特征融合，以根据融合后的特征确定出第一特征图像。
3.如权利要求2所述的方法，其特征在于，频域特征包括：幅度特征；
将所述全色图像的频域特征以及所述多光谱图像的频域特征进行特征融合，以根据融合后的特征确定出第一特征图像，具体包括：
将所述全色图像的幅度特征以及所述多光谱图像的幅度特征进行特征融合，以根据融合后的特征确定出第一特征图像。
4.如权利要求3所述的方法，其特征在于，将所述全色图像的频域特征以及所述多光谱图像的频域特征进行特征融合，以根据融合后的特征确定出第一特征图像，具体包括：
将所述全色图像的相位特征以及所述多光谱图像的相位特征进行特征融合，以得到第一融合特征，以及将所述全色图像的幅度特征以及所述多光谱图像的幅度特征进行特征融合，以得到第二融合特征；
将所述第一融合特征与所述第二融合特征进行特征融合，以根据融合后的特征，确定出第一特征图像。
5.如权利要求1所述的方法，其特征在于，对所述全色图像以及所述多光谱图像进行图像融合，以根据融合后的图像中包含的各像素点的像素信息，确定出自适应权重，具体包括：
通过预设的卷积核对所述融合后的图像进行采样，以得到采样后的特征图像；
根据所述采样后的特征图像中各特征元素之间的关联关系，确定出所述采样后的特征图像对应的自适应空间权重，以及根据所述采样后的特征图像中各特征元素在不同通道中的像素强度信息，确定出所述采样后的特征图像对应的自适应通道权重；
根据所述自适应空间权重以及所述自适应通道权重，确定出自适应权重。
6.如权利要求5所述的方法，其特征在于，根据所述采样后的特征图像中各特征元素之间的关联关系，确定出所述采样后的特征图像对应的自适应空间权重，具体包括：
从所述采样后的特征图像中提取出部分特征图像，作为子特征图像，所述子特征图像指所述采样后的特征图像中的一行或者一列的特征元素的集合；
针对每一个子特征图像，将该子特征图像按照指定方式进行重新排列，并根据预设的卷积滑窗对重新排列后的特征图像进行卷积操作，以确定出该子特征图像中各特征元素之间的关联关系，并根据该子特征图像中各特征元素之间的关联关系，确定出该子特征图像对应的自适应空间权重；
根据每个子特征图像对应的自适应空间权重，确定出所述采样后的特征图像对应的自适应空间权重。
7.如权利要求5所述的方法，其特征在于，根据所述采样后的特征图像中各特征元素在不同通道中的像素强度信息，确定出所述采样后的特征图像对应的自适应通道权重，具体包括：
根据所述采样后的特征图像中各特征元素在不同通道中的像素强度信息，确定出各通道对应的目标权重；
根据所述目标权重，对所述采样后的特征图像中的各特征元素进行卷积操作，以得到通道特征图像，并根据所述通道特征图像中各特征元素在不同通道中的像素强度信息，重新确定目标权重，直至满足预设的迭代条件，将满足预设的迭代条件时的目标权重作为所述采样后的特征图像对应的自适应通道权重。
8.如权利要求1所述的方法，其特征在于，根据叠加后的图像，确定输出的预测融合图像，具体包括：
针对每轮迭代，将上一轮迭代所得到的叠加后的图像作为本轮迭代的过渡图像，并将本轮迭代的过渡图像以及所述全色图像重新输入到所述目标模型中，以使所述目标模型从所述全色图像中提取出所述全色图像的频域特征，以及从本轮迭代的过渡图像中提取出本轮迭代的过渡图像的频域特征，并将所述全色图像的频域特征以及本轮迭代的过渡图像的频域特征进行特征融合，以根据融合后的特征确定出本轮迭代的第一特征图像，以及，对所述全色图像以及本轮迭代的过渡图像进行图像融合，以根据本轮迭代的融合后的图像中包含的各像素点的像素信息，确定出本轮迭代的自适应权重，并根据本轮迭代的自适应权重对本轮迭代的融合后的图像进行处理，以得到本轮迭代的第二特征图像，将本轮迭代的第一特征图像与本轮迭代的第二特征图像进行叠加，得到下一轮迭代的过渡图像；
将迭代结束后所得到的过渡图像，作为输出的预测融合图像。
9.一种计算机可读存储介质，其特征在于，所述存储介质存储有计算机程序，所述计算机程序被处理器执行时实现上述权利要求1~8任一项所述的方法。
10.一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现上述权利要求1~8任一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202410493628.3A CN118097359B (zh) | 2024-04-23 | 2024-04-23 | 一种模型训练方法、装置、存储介质以及电子设备 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202410493628.3A CN118097359B (zh) | 2024-04-23 | 2024-04-23 | 一种模型训练方法、装置、存储介质以及电子设备 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN118097359A true CN118097359A (zh) | 2024-05-28 |
| CN118097359B CN118097359B (zh) | 2024-07-19 |
Family
ID=91157542
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202410493628.3A Active CN118097359B (zh) | 2024-04-23 | 2024-04-23 | 一种模型训练方法、装置、存储介质以及电子设备 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN118097359B (zh) |
Citations (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| EP2095330A1 (en) * | 2006-12-01 | 2009-09-02 | Harris Corporation | Panchromatic modulation of multispectral imagery |
| CN111681171A (zh) * | 2020-06-15 | 2020-09-18 | 中国人民解放军军事科学院国防工程研究院 | 基于分块匹配的全色与多光谱图像高保真融合方法及装置 |
| CN113129247A (zh) * | 2021-04-21 | 2021-07-16 | 重庆邮电大学 | 基于自适应多尺度残差卷积的遥感图像融合方法及介质 |
| CN113191993A (zh) * | 2021-04-20 | 2021-07-30 | 山东师范大学 | 基于深度学习的全色与多光谱图像融合方法 |
| US20210390747A1 (en) * | 2020-06-12 | 2021-12-16 | Qualcomm Incorporated | Image fusion for image capture and processing systems |
| CN113837980A (zh) * | 2021-10-12 | 2021-12-24 | Oppo广东移动通信有限公司 | 分辨率的调整方法、装置、电子设备及存储介质 |
| KR102390433B1 (ko) * | 2020-12-21 | 2022-04-25 | 서울시립대학교 산학협력단 | 글로벌 융합영상 제작 장치 및 제작 방법 |
| CN116402700A (zh) * | 2023-02-14 | 2023-07-07 | 中国科学院合肥物质科学研究院 | 基于多尺度双域信息融合技术的遥感图像全色锐化方法 |
| CN116596822A (zh) * | 2023-05-25 | 2023-08-15 | 西安交通大学 | 基于自适应权重与目标感知的像素级实时多光谱图像融合方法 |
| CN117079105A (zh) * | 2023-08-04 | 2023-11-17 | 中国科学院空天信息创新研究院 | 遥感图像空谱融合方法、装置、电子设备及存储介质 |
| CN117456323A (zh) * | 2023-10-17 | 2024-01-26 | 之江实验室 | 一种图像融合的方法、装置、存储介质及电子设备 |
-
2024
- 2024-04-23 CN CN202410493628.3A patent/CN118097359B/zh active Active
Patent Citations (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| EP2095330A1 (en) * | 2006-12-01 | 2009-09-02 | Harris Corporation | Panchromatic modulation of multispectral imagery |
| US20210390747A1 (en) * | 2020-06-12 | 2021-12-16 | Qualcomm Incorporated | Image fusion for image capture and processing systems |
| CN111681171A (zh) * | 2020-06-15 | 2020-09-18 | 中国人民解放军军事科学院国防工程研究院 | 基于分块匹配的全色与多光谱图像高保真融合方法及装置 |
| KR102390433B1 (ko) * | 2020-12-21 | 2022-04-25 | 서울시립대학교 산학협력단 | 글로벌 융합영상 제작 장치 및 제작 방법 |
| CN113191993A (zh) * | 2021-04-20 | 2021-07-30 | 山东师范大学 | 基于深度学习的全色与多光谱图像融合方法 |
| CN113129247A (zh) * | 2021-04-21 | 2021-07-16 | 重庆邮电大学 | 基于自适应多尺度残差卷积的遥感图像融合方法及介质 |
| CN113837980A (zh) * | 2021-10-12 | 2021-12-24 | Oppo广东移动通信有限公司 | 分辨率的调整方法、装置、电子设备及存储介质 |
| CN116402700A (zh) * | 2023-02-14 | 2023-07-07 | 中国科学院合肥物质科学研究院 | 基于多尺度双域信息融合技术的遥感图像全色锐化方法 |
| CN116596822A (zh) * | 2023-05-25 | 2023-08-15 | 西安交通大学 | 基于自适应权重与目标感知的像素级实时多光谱图像融合方法 |
| CN117079105A (zh) * | 2023-08-04 | 2023-11-17 | 中国科学院空天信息创新研究院 | 遥感图像空谱融合方法、装置、电子设备及存储介质 |
| CN117456323A (zh) * | 2023-10-17 | 2024-01-26 | 之江实验室 | 一种图像融合的方法、装置、存储介质及电子设备 |
Non-Patent Citations (2)
| Title |
|---|
| 吴一全;陶飞翔;: "改进投影梯度NMF的NSST域多光谱与全色图像融合", 光学学报, no. 04, 10 April 2015 (2015-04-10) * |
| 陈然;伍世虔;徐望明;: "一种基于空域和频域多特征融合的人脸活体检测算法", 电视技术, no. 03, 5 February 2019 (2019-02-05) * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN118097359B (zh) | 2024-07-19 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN112784857B (zh) | 一种模型训练以及图像处理方法及装置 | |
| CN117372631B (zh) | 一种多视角图像生成模型的训练方法、应用方法 | |
| CN116805393A (zh) | 一种基于3DUnet光谱-空间信息融合的高光谱图像分类方法和系统 | |
| CN113888415B (zh) | 一种模型训练以及图像修复方法及装置 | |
| CN117635822A (zh) | 一种模型训练的方法、装置、存储介质及电子设备 | |
| CN117197781B (zh) | 一种交通标志识别的方法、装置、存储介质及电子设备 | |
| CN117456323A (zh) | 一种图像融合的方法、装置、存储介质及电子设备 | |
| CN118097359B (zh) | 一种模型训练方法、装置、存储介质以及电子设备 | |
| CN116342888B (zh) | 一种基于稀疏标注训练分割模型的方法及装置 | |
| CN117237675A (zh) | 一种无人机自主定位的方法、装置、存储介质及电子设备 | |
| CN115358962B (zh) | 一种端到端视觉里程计方法及装置 | |
| CN114494151B (zh) | 一种复杂果园环境下的果实检测方法及系统 | |
| CN115984154A (zh) | 一种图像融合的方法、装置、存储介质及电子设备 | |
| CN113205451A (zh) | 图像处理方法、装置、电子设备及存储介质 | |
| CN117911712A (zh) | 一种特征提取方法、装置、存储介质及电子设备 | |
| CN112561961B (zh) | 一种实例追踪的方法及装置 | |
| CN117808976B (zh) | 一种三维模型构建方法、装置、存储介质及电子设备 | |
| CN118211132B (zh) | 一种基于点云的三维人体表面数据生成方法及装置 | |
| CN116245773A (zh) | 一种人脸合成模型训练方法、装置、存储介质及电子设备 | |
| US20240161487A1 (en) | Adaptive mixed-resolution processing | |
| CN114897700B (zh) | 图像优化方法、校正模型的训练方法及装置 | |
| CN118840641A (zh) | 一种多波段图像融合方法、装置、存储介质及设备 | |
| CN117975202B (zh) | 模型训练方法、业务执行方法、装置、介质及设备 | |
| CN118644556B (zh) | 一种基于图像特征匹配的无人机定位的方法、装置 | |
| CN117649613B (zh) | 一种光学遥感图像优化方法、装置、存储介质及电子设备 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |