CN110929080B - 基于注意力和生成对抗网络的光学遥感图像检索方法 - Google Patents
基于注意力和生成对抗网络的光学遥感图像检索方法 Download PDFInfo
- Publication number
- CN110929080B CN110929080B CN201911171794.7A CN201911171794A CN110929080B CN 110929080 B CN110929080 B CN 110929080B CN 201911171794 A CN201911171794 A CN 201911171794A CN 110929080 B CN110929080 B CN 110929080B
- Authority
- CN
- China
- Prior art keywords
- layer
- network
- image
- hash
- remote sensing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
- G06F16/58—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
- G06F16/583—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
- G06F16/53—Querying
- G06F16/532—Query formulation, e.g. graphical querying
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
- G06F16/55—Clustering; Classification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Mathematical Physics (AREA)
- Biomedical Technology (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Artificial Intelligence (AREA)
- Software Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Library & Information Science (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种基于注意力和生成对抗网络的光学遥感图像检索方法,主要解决现有技术中光学遥感图像检索精度低的问题。本发明具体步骤如下:(1)构建深度卷积网络;(2)构建注意力网络;(3)构建生成对抗网络;(4)构建哈希学习网络;(5)训练网络;(6)获取每幅光学遥感图像的哈希编码向量;(7)检索光学遥感图像。本发明构建注意力网络,提取图像的可判别性特征,提高了图像特征的表达能力;构建生成对抗网络,提取图像哈希编码向量,减小了量化误差;最终提高了光学遥感图像的检索精度。
Description
技术领域
本发明属于图像处理技术领域,更进一步涉及光学遥感图像检索技术领域中的一种基于注意力和生成对抗网络的光学遥感图像检索方法。本发明可以实现从海量光学遥感图像中快速、准确地查询到用户感兴趣的图像。
背景技术
随着卫星遥感和航空遥感技术的发展,遥感图像的数据量以及图像的分辨率不断增长,可以从遥感图像中获得更多有用的数据和信息。而针对不同场合的应用,对遥感图像的处理也有着不同的要求,所以为了有效地对这些遥感图像数据进行分析和管理,需要根据图像内容快速查询从海量的遥感图像库中检索出感兴趣的图像。而遥感图像的哈希检索就是解决该类问题的一种重要途径。哈希检索指的是提取遥感图像的特征,并且将这些特征映射为哈希编码,利用哈希编码去检索。因此,遥感图像特征提取方法和映射为哈希编码的方法是光学遥感图像检索的两个关键环节,该两种方法的鲁棒性直接影响到系统的运行效率和检索效果。
武汉大学在其申请的专利文献“基于显著性和卷积神经网络的遥感图像检索方法及系统”(专利申请号:201810862331.4,公开号:109086405A)中公开了一种深度学习的光学遥感图像检索方法。该方法首先用预训练的卷积神经网络,提取图像的各层卷积特征,并将所获得的各层卷积特征融合,得到合成的卷积特征。其次提取图像的显著图,利用显著图对合成的卷积特征进行加权整合,得到最终的图像特征。最后通过词袋模型对最终的图像特征进行编码,得到图像特征向量。通过图像特征向量完成图像的相似度度量和检索。这种方法通过联合利用显著性图和卷积神经网络的特征,增强了图像的特征的表征能力,从而提高了检索的精确度。但是,该方法仍然存在的不足之处是:仅仅依靠词袋模型对图像的特征进行编码,得到的图像特征向量,利用这种图像特征向量对海量的光学遥感图像检索,时间消耗是非常大。
Fang Zhao在其发表的论文“Deep Semantic Ranking Based Hashing forMulti-Label Image Retrieval”(IEEE Transactions on Pattern Analysis andMachine Intelligence,2015)中提出了一种深度卷积网络Alexnet的图像检索方法。该方法首先利用卷积网络Alexnet获取图像的深度特征,并引入哈希层学习哈希函数,将图像的深度特征学习和哈希函数学习在同一过程中完成,挖掘图像的深度特征与哈希函数内在关系,该方法虽然克服了现有技术中利用图像的底层特征而导致特征表达能力不强、检索精度低的问题,大大提高图像检索准确率。但是,该方法仍然存在不足之处是:由于哈希函数是离散的,因此从图像的深度特征到哈希编码存在量化误差,然而该方法并没有有效的机制去减小量化误差,从而影响最终的检索精度。
发明内容
本发明的目的是针对上述现有技术的不足,提出一种基于注意力和生成对抗网络的光学遥感图像检索方法。
本发明实现上述目的的思路是:利用注意力机制去学习光学遥感图像复杂的图像内容,从而捕捉鲁棒性强的图像特征,通过生成对抗网络的模型,使得学习到的图像特征转化为量化误差小的哈希编码向量。
本发明实现的具体步骤包括如下:
(1)构建深度卷积网络:
搭建一个11层的深度卷积网络,其结构依次为:输入层→第一卷积层→第一池化层→第二卷积层→第二池化层→第三卷积层→第四卷积层→第五卷积层→第一融合层;其中第三卷积层通过第一残差层与第一融合层连接,第四卷积层通过第二残差层与第一融合层连接;
设置各层参数如下:
将输入层特征映射图的总数设置为3个;
第一至五卷积层的特征映射图的总数分别设置为64、128、384、256、256,卷积核的大小分别设置为11×11、5×5、3×3、3×3、3×3;
第一、二池化层的特征映射图的大小均设置为3×3;
第一、二残差层均由卷积层构成,卷积层的特征映射图的总数均设置为256,卷积核的大小均设置为1×1;
(2)构建注意力网络:
搭建一个由卷积编码模块、分类模块、注意力图模块构成的注意力网络,其中卷积编码模块结构依次为:第一卷积层→第二卷积层;分类模块结构依次为:第一卷积层→第一池化层→分类层;注意力图模块结构依次为:第一卷积层→注意力层;
设置各层参数如下:
将卷积编码模块的第一、二卷积层的特征映射图的总数分别设置为256、光学遥感图像的类别个数,卷积核的大小分别设置为3×3、1×1;
将分类模块的第一卷积层特征映射图的总数设置为光学遥感图像的类别个数,卷积核的大小设置为1×1;
将分类模块的第一池化层特征映射图的大小设置为13×13;
将分类模块的分类层的特征映射图的总数设置为光学遥感图像的类别个数;
将注意力图模块的第一卷积层的特征映射图的总数设置为1,卷积核的大小设置为1×1;
将注意力图模块注意力层的激活函数设置为sigmoid;
(3)构建生成对抗网络:
搭建一个5层的对抗网络,其结构依次为:输入层→第一连接层→第二连接层→第三连接层→判别层;搭建一个4层的生成网络,其结构依次为:第一连接层→第二连接层→哈希层→分类层;
设置对抗网络各层参数如下:
将输入层特征映射图的总数设置为哈希编码的位数;
将第一、二、三连接层的特征映射图的总数均设置为4096;
将判别层的特征映射图总数设置为1;
设置生成网络各层参数如下:
将生成网络的第一、二连接层特征映射图的总数均设置为4096;
将生成网络的哈希层特征映射图的总数设置为哈希编码的位数,激活函数设置为sigmoid;
将生成网络的分类层特征映射图的总数设置为光学遥感图像的类别个数;
(4)搭建哈希学习网络:
将搭建的深度卷积网络、注意力网络、生成对抗网络依次拼接,构成哈希学习网络;
(5)构建训练集:
(5a)从光学遥感图像数据集的每一个类别中至少选取80幅图像,将数据集中所有类别所选的图像组成训练集;
(5b)对训练集中的每一幅光学遥感图像进行归一化处理;
(5c)构造符合离散均匀分布性质的离散分布的向量,且该向量的每位可取数值为0或1;
(6)训练网络:
(6a)将归一化后的训练集中的图像输入到哈希学习网络中,经过深度卷积网络输出每幅图像的多尺度特征矩阵;
(6b)每幅图像的多尺度特征矩阵经过注意力网络中分类模块的分类层和注意力图模块的注意力层,输出每幅图像的类别预测概率和注意力图矩阵;
(6c)用注意力图矩阵与多尺度特征矩阵相乘,得到每幅图像的可判别性特征矩阵;
(6d)每幅图像的可判别性特征矩阵经过生成对抗网络中生成网络的哈希层和分类层,输出每幅图像的伪哈希编码向量和伪哈希编码向量的类别预测概率;
(6e)每幅图像的伪哈希编码向量经过生成对抗网络中对抗网络的判别层,输出伪哈希编码向量的判别概率;
(6f)将步骤(5c)构造的符合离散均匀分布的向量输入到生成对抗网络中,经过对抗网络的判别层,输出该向量的判别概率;
(6g)用每幅图像的类别预测概率、伪哈希编码向量、伪哈希编码向量的类别预测概率构建哈希学习的损失函数,用伪哈希编码向量的判别概率构建生成网络的损失函数,用构造的符合离散均匀分布向量的判别概率构建对抗网络的损失函数,通过随机梯度优化算法,优化对抗网络的损失函数,直至对抗网络损失函数收敛,得到训练好的对抗网络;再用训练好的对抗网络权重参数,交替优化哈希学习的损失函数和生成网络的损失函数,直至哈希学习的损失函数收敛,得到训练好的哈希学习网络;
(7)获取每幅光学遥感图像的哈希编码向量:
(7a)对光学遥感图像数据集中的每幅图像进行归一化处理;
(7b)将归一化后的图像输入到训练好哈希学习网络,输出每幅图像对应的一个伪哈希编码向量;
(7c)对每个伪哈希编码向量进行离散化处理,得到每幅图像的哈希编码向量;
(8)检索光学遥感图像:
(8a)将待检索的光学遥感图像输入到训练好的哈希学习网络中,输出待检索图像的伪哈希编码向量,再对该向量进行离散化,得到待检索图像的哈希编码向量;
(8b)利用相似度公式,计算待检索图像的哈希编码向量与每幅光学遥感图像的哈希编码向量两两之间的相似度;
(8c)根据相似度从小到大的顺序,将对应的每幅光学遥感图像排序;
(8d)用户按其需求选取排名靠前的图像,作为检索的光学遥感图像结果。
本发明与现有的技术相比具有以下优点:
第一,本发明通过构建哈希学习网络,使用哈希学习网络中的对抗网络对哈希学习网络输出的伪哈希编码向量进行判别,再将伪哈希编码向量进行离散化处理,克服了现有技术中提取图像的哈希编码向量存在量化误差的问题,使得本发明的哈希编码向量量化误差小,提高了光学遥感图像检索的精度。
第二,本发明通过将注意力图模块注意力层输出的注意力图矩阵与图像的多尺度特征矩阵相乘,得到图像的可判别性特征矩阵,克服了现有技术提取光学遥感图像特征鲁棒性不强,造成了对于信息复杂度高的图像检索能力较弱的问题,使得本发明对于信息复杂度高的图像的检索精度得到提高。
附图说明
图1是本发明的流程图;
图2是本发明构建的哈希学习网络的结构示意图。
具体实施方式
下面结合附图对本发明做进一步的详细描述。
参照附图1,对本发明的步骤做进一步的详细描述。
步骤1,构建深度卷积网络。
搭建一个11层的深度卷积网络,其结构依次为:输入层→第一卷积层→第一池化层→第二卷积层→第二池化层→第三卷积层→第四卷积层→第五卷积层→第一融合层;其中第三卷积层通过第一残差层与第一融合层连接,第四卷积层通过第二残差层与第一融合层连接。
设置各层参数如下:
将输入层特征映射图的总数设置为3个。
第一至五卷积层的特征映射图的总数分别设置为64、128、384、256、256,卷积核的大小分别设置为11×11、5×5、3×3、3×3、3×3。
第一、二池化层的特征映射图的大小均设置为3×3。
第一、二残差层均由卷积层构成,卷积层的特征映射图的总数均设置为256,卷积核的大小均设置为1×1。
步骤2,构建注意力网络。
搭建一个由卷积编码模块、分类模块、注意力图模块构成的注意力网络,其中卷积编码模块结构依次为:第一卷积层→第二卷积层;分类模块结构依次为:第一卷积层→第一池化层→分类层;注意力图模块结构依次为:第一卷积层→注意力层。
设置各层参数如下:
将卷积编码模块的第一、二卷积层的特征映射图的总数分别设置为256、光学遥感图像的类别个数,卷积核的大小分别设置为3×3、1×1。
将分类模块的第一卷积层特征映射图的总数设置为光学遥感图像的类别个数,卷积核的大小设置为1×1。
将分类模块的第一池化层特征映射图的大小设置为13×13。
将分类模块的分类层的特征映射图的总数设置为光学遥感图像的类别个数。
将注意力图模块的第一卷积层的特征映射图的总数设置为1,卷积核的大小设置为1×1。
将注意力图模块注意力层的激活函数设置为sigmoid。
步骤3,构建生成对抗网络。
搭建一个5层的对抗网络,其结构依次为:输入层→第一连接层→第二连接层→第三连接层→判别层;搭建一个4层的生成网络,其结构依次为:第一连接层→第二连接层→哈希层→分类层。
设置对抗网络各层参数如下:
将输入层特征映射图的总数设置为哈希编码的位数。
将第一、二、三连接层的特征映射图的总数均设置为4096。
将判别层的特征映射图总数设置为1。
设置生成网络各层参数如下:
将生成网络的第一、二连接层特征映射图的总数均设置为4096。
将生成网络的哈希层特征映射图的总数设置为哈希编码的位数,激活函数设置为sigmoid。
将生成网络的分类层特征映射图的总数设置为光学遥感图像的类别个数。
步骤4,搭建哈希学习网络。
将搭建的深度卷积网络、注意力网络、生成对抗网络依次拼接,构成哈希学习网络。
参照附图2,对搭建的哈希学习网络的结构做进一步的描述。
将深度卷积网络的第一融合层与注意力网络的卷积编码模块的第一卷积层相连接,深度卷积网络的第一融合层和注意力网络注意力图模块的注意力层共同与生成网络的第一连接层相连接。
步骤5,构建训练集。
从光学遥感图像数据集的每一个类别中至少选取80幅图像,将数据集中所有类别所选的图像组成训练集。
对训练集中的每一幅光学遥感图像进行归一化处理。
所述的归一化是指,对训练集、光学遥感图像数据集中的每幅图像减去该幅图像的最小值,并除以该幅图像的最大值与最小值的差值。
构造符合离散均匀分布性质的离散分布的向量,且该向量的每位可取数值为0或1。
步骤6,训练网络。
将归一化后的训练集中的图像输入到哈希学习网络中,经过深度卷积网络输出每幅图像的多尺度特征矩阵。
每幅图像的多尺度特征矩阵经过注意力网络中分类模块的分类层和注意力图模块的注意力层,输出每幅图像的类别预测概率和注意力图矩阵。
用注意力图矩阵与多尺度特征矩阵相乘,得到每幅图像的可判别性特征矩阵。
每幅图像的可判别性特征矩阵经过生成对抗网络中生成网络的哈希层和分类层,输出每幅图像的伪哈希编码向量和伪哈希编码向量的类别预测概率。
每幅图像的伪哈希编码向量经过生成对抗网络中对抗网络的判别层,输出伪哈希编码向量的判别概率。
将步骤5构造的符合离散均匀分布的向量输入到生成对抗网络中,经过对抗网络的判别层,输出该向量的判别概率。
用每幅图像的类别预测概率、伪哈希编码向量、伪哈希编码向量的类别预测概率构建哈希学习的损失函数,用伪哈希编码向量的判别概率构建生成网络的损失函数,用构造的符合离散均匀分布向量的判别概率构建对抗网络的损失函数,通过随机梯度优化算法,优化对抗网络的损失函数,直至对抗网络损失函数收敛,得到训练好的对抗网络;再用训练好的对抗网络权重参数,交替优化哈希学习的损失函数和生成网络的损失函数,直至哈希学习的损失函数收敛,得到训练好的哈希学习网络。
所述的哈希学习的损失函数由伪哈希编码向量的铰链损失函数、伪哈希编码向量的类别预测概率的交叉熵、伪哈希编码向量中每一位的交叉熵和注意力网络中输出的类别预测概率的交叉熵共四个损失函数相加构成。
步骤7,获取每幅光学遥感图像的哈希编码向量。
对光学遥感图像数据集中的每幅图像进行归一化处理。
将归一化后的图像输入到训练好哈希学习网络,输出每幅图像对应的一个伪哈希编码向量。
对每个伪哈希编码向量进行离散化处理,得到每幅图像的哈希编码向量。
所述离散化处理是指对于每幅图像的伪哈希编码向量中的每位,当该位的值大于0.5时,将该位的值设置为1,否则,设置为0。
步骤8,检索光学遥感图像。
将待检索的光学遥感图像输入到训练好的哈希学习网络中,输出待检索图像的伪哈希编码向量,再对该向量进行离散化,得到待检索图像的哈希编码向量。
利用下述相似度公式,计算待检索图像的哈希编码向量与每幅光学遥感图像的哈希编码向量两两之间的相似度:
其中,dj表示待检索图像的哈希编码向量与第j幅光学遥感图像的哈希编码向量的相似度,dj的值越小表示两幅图像的相似度越大,K表示哈希编码向量位数的总数,xi表示待检索图像的哈希编码向量中的第i位元素,yji表示第j幅光学遥感图像哈希编码向量中的第i位元素,|·|表示取绝对值操作。
根据相似度从小到大的顺序,将对应的每幅光学遥感图像排序。
用户按其需求选取排名靠前的图像,作为检索的光学遥感图像结果。
下面结合仿真实验对本发明的效果做进一步的说明。
1.仿真条件:
本发明的仿真实验的硬件平台为:处理器为Intel E5-2650 CPU,主频为2.20GHz,内存256GB。
本发明的仿真实验的软件平台为:Ubuntu16.04操作系统和Pytorch。
本发明仿真实验所使用的输入图像为UC-Merced光学遥感图像,该光学遥感图像由加利福尼亚大学提取自美国国家地质勘探局公布的国家城市地区图像数据,每幅图像大小为256×256个像素,共有2100幅图像和21种场景类别,图像格式为tif。
仿真内容与结果分析:
本发明的仿真实验是使用本发明的方法和三个现有技术(深度量化网络DQN检索方法、深度有监督哈希DSH检索方法、深度柯西哈希学习DCH检索方法)分别对UC-Merced光学遥感图像中2100幅图像,进行图像检索,获取每幅检索图像与光学遥感图像之间相似度。
在仿真实验中,采用的三个现有技术分别如下:
现有技术深度量化网络DQN检索方法是指,Y.Gao等人在其发表的论文“Deepquantizationnetwork for efficient image retrieval”(inThirtieth AAAIConference onArtificial Intelligence,2016)中提出的图像检索方法,简称深度量化网络DQN检索方法。
现有技术深度有监督哈希DSH检索方法是指,H.Liu,等人在其发表的论文“Deepsupervised hashing forfast image retrieval”(in Proceedings of the IEEEconference on computervision and pattern recognition,2016)中提出的图像检索方法,简称深度有监督哈希DSH检索方法。
现有技术深度柯西哈希学习DCH检索方法是指,Y.Gao等人在其发表的论文“Deepcauchy hashing forhamming space retrieval”(in Proceedings of the IEEEConference onComputer Vision and Pattern Recognition,2018)中提出的图像检索方法,简称深度柯西哈希学习DCH检索方法。
为了验证本发明的效果,将本发明仿真实验获取的所有检索图像与光学遥感图像之间相似度按照相似度从小到大进行排序,提取排名前60的图像的场景类别,采用平均精度均值mAP指标,分别对本发明和三个现有技术,深度量化网络DQN检索方法、深度有监督哈希DSH检索方法和深度柯西哈希学习DCH检索方法的检索结果进行评价。
利用下式,分别计算本发明和三个现有技术检索结果的平均精度均值mAP:
其中,AP表示每幅检索图像的平均精度,N为返回的检索结果个数,Sr表示第r个检索结果,若Sr与检索图像的场景类别相同,则Sr=1,否则Sr=0,Sm表示第m个检索结果,若Sm与检索图像的场景类别相同,则Sm=1,否则Sm=0;Q表示检索图像的个数,AP(q)为第q个检索图像的平均精度。mAP表示检索图像的平均精度均值。
将本发明和三个现有技术对光学遥感图像的平均精度均值mAP的计算结果记录在表1中。其中DQN表示深度量化网络DQN检索方法,DSH表示深度有监督哈希DSH检索方法,DCH表示深度柯西哈希学习DCH检索方法;32位、64位、128位和256位分别表示哈希编码向量的位数为32、64、128和256。
表1.四种检索方法效果一览表
32位 | 64位 | 128位 | 256位 | |
本发明 | 97.22% | 98.20% | 98.33% | 98.15% |
DQN | 89.36% | 91.30% | 90.36% | 85.28% |
DSH | 96.09% | 94.12% | 96.60% | 94.53% |
DCH | 96.74% | 97.28% | 97.05% | 96.43% |
表2.四种检索方法的单类平均精度均值mAP一览表
从表1可见,本发明的平均精度均值mAP,在哈希编码向量位数分别为32、64、128和256时,均高于三种现有技术方法,证明本发明可以得到更好的光学遥感图像检索效果。
为了验证本发明的效果,将本发明仿真实验获取的所有检索图像与光学遥感图像之间相似度按照相似度从小到大进行排序,提取排名前60的图像的场景类别,采用平均精度均值mAP指标,分别对本发明和深度量化网络DQN检索方法、深度有监督哈希DSH检索方法和深度柯西哈希学习DCH检索方法对于UC-Merced光学遥感图像中每一类检索结果进行评价。
将本发明和三个现有技术对光学遥感图像的单类平均精度均值mAP的计算结果记录在表2中,其中表格左边第一列表示21类图像中每一类的平均精度均值mAP,DQN表示深度量化网络DQN检索方法,DSH表示深度有监督哈希DSH检索方法,DCH表示深度柯西哈希学习DCH检索方法。
从表2可见,本发明对于信息含量较为丰富的图像如密集住宅区、中等密度住宅区、式子路口、公园这些类别图像的单类平均精度均值mAP,明显高于三种现有技术方法,证明本发明可以对于信息含量较为丰富的图像有较高的检索精度。
综上所述,本发明通过构建深度哈希学习网络,利用训练好的深度哈希学习网络中的注意力网络,提取光学遥感图像的可判别性特征,能够提升特征的表征能力,从而提高了图像的检索精度;利用训练好的深度哈希学习网络中的生成网络,将光学遥感图像的可判别性特征转化为哈希编码向量,能够得到更加有效的哈希编码向量,从而进一步提高了图像的检索精度。
Claims (4)
1.一种基于注意力和生成对抗网络的光学遥感图像检索方法,其特征在于,分别构建并训练深度卷积网络、注意力网络和生成对抗网络,利用训练好的深度卷积网络提取光学遥感图像的多尺度特征矩阵,通过训练好的注意力网络得到图像的可判别性特征矩阵,通过训练好的生成对抗网络将图像的可判别性特征矩阵映射为哈希编码向量;该方法的具体步骤包括如下:
(1)构建深度卷积网络:
搭建一个11层的深度卷积网络,其结构依次为:输入层→第一卷积层→第一池化层→第二卷积层→第二池化层→第三卷积层→第四卷积层→第五卷积层→第一融合层;其中第三卷积层通过第一残差层与第一融合层连接,第四卷积层通过第二残差层与第一融合层连接;
设置各层参数如下:
将输入层特征映射图的总数设置为3个;
第一至五卷积层的特征映射图的总数分别设置为64、128、384、256、256,卷积核的大小分别设置为11×11、5×5、3×3、3×3、3×3;
第一、二池化层的特征映射图的大小均设置为3×3;
第一、二残差层均由卷积层构成,卷积层的特征映射图的总数均设置为256,卷积核的大小均设置为1×1;
(2)构建注意力网络:
搭建一个由卷积编码模块、分类模块、注意力图模块构成的注意力网络,其中卷积编码模块结构依次为:第一卷积层→第二卷积层;分类模块结构依次为:第一卷积层→第一池化层→分类层;注意力图模块结构依次为:第一卷积层→注意力层;
设置各层参数如下:
将卷积编码模块的第一、二卷积层的特征映射图的总数分别设置为256、光学遥感图像的类别个数,卷积核的大小分别设置为3×3、1×1;
将分类模块的第一卷积层特征映射图的总数设置为光学遥感图像的类别个数,卷积核的大小设置为1×1;
将分类模块的第一池化层特征映射图的大小设置为13×13;
将分类模块的分类层的特征映射图的总数设置为光学遥感图像的类别个数;
将注意力图模块的第一卷积层的特征映射图的总数设置为1,卷积核的大小设置为1×1;
将注意力图模块注意力层的激活函数设置为sigmoid;
(3)构建生成对抗网络:
搭建一个5层的对抗网络,其结构依次为:输入层→第一连接层→第二连接层→第三连接层→判别层;搭建一个4层的生成网络,其结构依次为:第一连接层→第二连接层→哈希层→分类层;
设置对抗网络各层参数如下:
将输入层特征映射图的总数设置为哈希编码的位数;
将第一、二、三连接层的特征映射图的总数均设置为4096;
将判别层的特征映射图总数设置为1;
设置生成网络各层参数如下:
将生成网络的第一、二连接层特征映射图的总数均设置为4096;
将生成网络的哈希层特征映射图的总数设置为哈希编码的位数,激活函数设置为sigmoid;
将生成网络的分类层特征映射图的总数设置为光学遥感图像的类别个数;
(4)搭建哈希学习网络:
将搭建的深度卷积网络、注意力网络、生成对抗网络依次拼接,构成哈希学习网络;
(5)构建训练集:
(5a)从光学遥感图像数据集的每一个类别中至少选取80幅图像,将数据集中所有类别所选的图像组成训练集;
(5b)对训练集中的每一幅光学遥感图像进行归一化处理;
(5c)构造符合离散均匀分布性质的离散分布的向量,且该向量的每位可取数值为0或1;
(6)训练网络:
(6a)将归一化后的训练集中的图像输入到哈希学习网络中,经过深度卷积网络输出每幅图像的多尺度特征矩阵;
(6b)每幅图像的多尺度特征矩阵经过注意力网络中分类模块的分类层和注意力图模块的注意力层,输出每幅图像的类别预测概率和注意力图矩阵;
(6c)用注意力图矩阵与多尺度特征矩阵相乘,得到每幅图像的可判别性特征矩阵;
(6d)每幅图像的可判别性特征矩阵经过生成对抗网络中生成网络的哈希层和分类层,输出每幅图像的伪哈希编码向量和伪哈希编码向量的类别预测概率;
(6e)每幅图像的伪哈希编码向量经过生成对抗网络中对抗网络的判别层,输出伪哈希编码向量的判别概率;
(6f)将步骤(5c)构造的符合离散均匀分布的向量输入到生成对抗网络中,经过对抗网络的判别层,输出该向量的判别概率;
(6g)用每幅图像的类别预测概率、伪哈希编码向量、伪哈希编码向量的类别预测概率构建哈希学习的损失函数,用伪哈希编码向量的判别概率构建生成网络的损失函数,用构造的符合离散均匀分布向量的判别概率构建对抗网络的损失函数,通过随机梯度优化算法,优化对抗网络的损失函数,直至对抗网络损失函数收敛,得到训练好的对抗网络;再用训练好的对抗网络权重参数,交替优化哈希学习的损失函数和生成网络的损失函数,直至哈希学习的损失函数收敛,得到训练好的哈希学习网络;
(7)获取每幅光学遥感图像的哈希编码向量:
(7a)对光学遥感图像数据集中的每幅图像进行归一化处理;
(7b)将归一化后的图像输入到训练好哈希学习网络,输出每幅图像对应的一个伪哈希编码向量;
(7c)对每个伪哈希编码向量进行离散化处理,得到每幅图像的哈希编码向量;
(8)检索光学遥感图像:
(8a)将待检索的光学遥感图像输入到训练好的哈希学习网络中,输出待检索图像的伪哈希编码向量,再对该向量进行离散化,得到待检索图像的哈希编码向量;
(8b)利用相似度公式,计算待检索图像的哈希编码向量与每幅光学遥感图像的哈希编码向量两两之间的相似度;
(8c)根据相似度从小到大的顺序,将对应的每幅光学遥感图像排序;
(8d)用户按其需求选取排名靠前的图像,作为检索的光学遥感图像结果。
2.根据权利要求1所述的基于注意力和生成对抗网络的光学遥感图像检索方法,其特征在于,步骤(6g)中所述的哈希学习的损失函数是由伪哈希编码向量的铰链损失函数、伪哈希编码向量的类别预测概率的交叉熵、伪哈希编码向量中每一位的交叉熵和注意力网络中输出的类别预测概率的交叉熵共四个损失函数相加构成。
3.根据权利要求1所述的基于注意力和生成对抗网络的光学遥感图像检索方法,其特征在于,步骤(7c)中所述离散化处理是指对于每幅图像的伪哈希编码向量的每位,当该位的值大于0.5时,将该位的值设置为1,否则,设置为0。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911171794.7A CN110929080B (zh) | 2019-11-26 | 2019-11-26 | 基于注意力和生成对抗网络的光学遥感图像检索方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911171794.7A CN110929080B (zh) | 2019-11-26 | 2019-11-26 | 基于注意力和生成对抗网络的光学遥感图像检索方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110929080A CN110929080A (zh) | 2020-03-27 |
CN110929080B true CN110929080B (zh) | 2022-03-22 |
Family
ID=69851933
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911171794.7A Active CN110929080B (zh) | 2019-11-26 | 2019-11-26 | 基于注意力和生成对抗网络的光学遥感图像检索方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110929080B (zh) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111429436B (zh) * | 2020-03-29 | 2022-03-15 | 西北工业大学 | 一种基于多尺度注意力和标签损失的本质图像分析方法 |
CN111738058B (zh) * | 2020-05-07 | 2023-04-25 | 华南理工大学 | 基于生成对抗网络的针对生物模板保护的重构攻击方法 |
CN111683250B (zh) * | 2020-05-13 | 2021-03-16 | 武汉大学 | 一种基于深度学习的生成式遥感图像压缩方法 |
CN111915689B (zh) * | 2020-07-16 | 2023-11-24 | 抖音视界有限公司 | 用于生成目标函数的方法、装置、电子设备和计算机可读介质 |
CN112364195B (zh) * | 2020-10-22 | 2022-09-30 | 天津大学 | 一种基于属性引导对抗哈希网络的零样本图像检索方法 |
CN112950661B (zh) * | 2021-03-23 | 2023-07-25 | 大连民族大学 | 一种基于注意力生成对抗网络人脸卡通画生成方法 |
CN113537384B (zh) * | 2021-07-30 | 2023-11-28 | 中国海洋大学 | 基于通道注意力的哈希遥感图像检索方法、装置及介质 |
CN113836341B (zh) * | 2021-09-13 | 2023-08-18 | 武汉理工大学 | 基于无监督转换器平衡哈希的遥感图像检索方法 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106997380A (zh) * | 2017-03-21 | 2017-08-01 | 北京工业大学 | 基于dcgan深度网络的成像光谱图像安全检索方法 |
CN109960738A (zh) * | 2019-03-15 | 2019-07-02 | 西安电子科技大学 | 基于深度对抗哈希学习的大规模遥感影像内容检索方法 |
CN110222140A (zh) * | 2019-04-22 | 2019-09-10 | 中国科学院信息工程研究所 | 一种基于对抗学习和非对称哈希的跨模态检索方法 |
-
2019
- 2019-11-26 CN CN201911171794.7A patent/CN110929080B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106997380A (zh) * | 2017-03-21 | 2017-08-01 | 北京工业大学 | 基于dcgan深度网络的成像光谱图像安全检索方法 |
CN109960738A (zh) * | 2019-03-15 | 2019-07-02 | 西安电子科技大学 | 基于深度对抗哈希学习的大规模遥感影像内容检索方法 |
CN110222140A (zh) * | 2019-04-22 | 2019-09-10 | 中国科学院信息工程研究所 | 一种基于对抗学习和非对称哈希的跨模态检索方法 |
Non-Patent Citations (3)
Title |
---|
基于哈希算法及生成对抗网络的图像检索;彭晏飞 等;《激光与光电子学进展》;20181231;全文 * |
基于图像学习表征和重排序的遥感影像内容检索;唐旭;《工程科技Ⅱ辑》;20190115;全文 * |
基于生成对抗网络的精准图像检索方法研究;杨照宇;《信息科技辑》;20190915;全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN110929080A (zh) | 2020-03-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110929080B (zh) | 基于注意力和生成对抗网络的光学遥感图像检索方法 | |
CN109522942B (zh) | 一种图像分类方法、装置、终端设备和存储介质 | |
CN111353076B (zh) | 训练跨模态检索模型的方法、跨模态检索的方法和相关装置 | |
Shabbir et al. | Satellite and scene image classification based on transfer learning and fine tuning of ResNet50 | |
CN108052911B (zh) | 基于深度学习的多模态遥感影像高层特征融合分类方法 | |
CN106909924B (zh) | 一种基于深度显著性的遥感影像快速检索方法 | |
CN108960330B (zh) | 基于快速区域卷积神经网络的遥感图像语义生成方法 | |
CN111680176A (zh) | 基于注意力与双向特征融合的遥感图像检索方法及系统 | |
CN108734210B (zh) | 一种基于跨模态多尺度特征融合的对象检测方法 | |
CN113780149B (zh) | 一种基于注意力机制的遥感图像建筑物目标高效提取方法 | |
CN106845341B (zh) | 一种基于虚拟号牌的无牌车辆识别方法 | |
CN113360701B (zh) | 一种基于知识蒸馏的素描图处理方法及其系统 | |
CN103714148B (zh) | 基于稀疏编码分类的sar图像检索方法 | |
CN110175248B (zh) | 一种基于深度学习和哈希编码的人脸图像检索方法和装置 | |
CN114398491A (zh) | 一种基于知识图谱的语义分割图像实体关系推理方法 | |
CN113435253B (zh) | 一种多源影像联合城区地表覆盖分类方法 | |
Pang et al. | Building discriminative CNN image representations for object retrieval using the replicator equation | |
CN113657450A (zh) | 基于注意机制的陆战场图像-文本跨模态检索方法及其系统 | |
CN113094533B (zh) | 一种基于混合粒度匹配的图文跨模态检索方法 | |
CN112163114B (zh) | 一种基于特征融合的图像检索方法 | |
CN115222998B (zh) | 一种图像分类方法 | |
CN108805280B (zh) | 一种图像检索的方法和装置 | |
CN106355210A (zh) | 基于深度神经元响应模式的绝缘子红外图像特征表达方法 | |
CN115965789A (zh) | 一种基于场景感知类注意力的遥感图像语义分割方法 | |
Wang | Remote sensing image semantic segmentation algorithm based on improved ENet network |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |