CN112183561A - 一种用于图像特征提取的联合融减自动编码器算法 - Google Patents

一种用于图像特征提取的联合融减自动编码器算法 Download PDF

Info

Publication number
CN112183561A
CN112183561A CN202011238012.XA CN202011238012A CN112183561A CN 112183561 A CN112183561 A CN 112183561A CN 202011238012 A CN202011238012 A CN 202011238012A CN 112183561 A CN112183561 A CN 112183561A
Authority
CN
China
Prior art keywords
layer
model
characteristic
fusion
layers
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202011238012.XA
Other languages
English (en)
Other versions
CN112183561B (zh
Inventor
魏本征
孙宇
刘川
张魁星
丛金玉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shandong University of Traditional Chinese Medicine
Original Assignee
Shandong University of Traditional Chinese Medicine
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shandong University of Traditional Chinese Medicine filed Critical Shandong University of Traditional Chinese Medicine
Priority to CN202011238012.XA priority Critical patent/CN112183561B/zh
Priority claimed from CN202011238012.XA external-priority patent/CN112183561B/zh
Publication of CN112183561A publication Critical patent/CN112183561A/zh
Application granted granted Critical
Publication of CN112183561B publication Critical patent/CN112183561B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/40—Extraction of image or video features
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks

Abstract

本发明公开了一种用于图像特征提取的联合融减自动编码器算法，包括建立联合融减网络结构模型和分解重构损失函数模型，S1：利用卷积和池化操作对受损信号进行特征提取及降维；S2：对于每个卷积层均使用Relu函数作为激活函数，以及对每层池化后的特征进行局部响应归一化；S3：在特征提取过程中在第3特征层对第1特征层进行融合，在第4特征层对第2特征层进行融合；S4：模型将原本应与编码器对称的4层解码层精简到2层，使得整个模型网络规模由8层减少到6层；S5：模型再相互对称的编码层和解码层之间计算均方误差损失，并联合重构误差损失函数按照0.2：0.8比例形成多重构损失，一并进行优化。

Description

一种用于图像特征提取的联合融减自动编码器算法
技术领域
本发明涉及图像特征提取技术领域，具体为一种用于图像特征提取的联合融减自动编码器算法。
背景技术
传统自动编码器主要由编码器、解码器和隐含层三部分构成，编码器主要是对输入信息进行特征提取，解码器是对特征进行解码恢复，隐含层利用恢复信号和输入信号间的重构损失函数对特征进行优化。现有自动编码器虽已在特征提取方面取得了一定进展，但在编码过程中存在特征缺乏融合、在解码过程中产生棋盘效应和逐层上采样引起模型效率低下，以及损失函数过早最优化导致模型早熟等问题。
基于此，本发明设计了一种用于图像特征提取的联合融减自动编码器算法，以解决上述提到的问题。
发明内容
本发明的目的在于提供一种用于图像特征提取的联合融减自动编码器算法，在编码阶段提升特征表达能力，在解码阶段精简解码网络结构和提升解码效率；在降低模型整体的参数量的同时，更好地优化模型所提取的目标特征和避免模型早熟。
为实现上述目的，本发明提供如下技术方案：一种用于图像特征提取的联合融减自动编码器算法，包括建立联合融减网络结构模型和分解重构损失函数模型，
所述建立联合融减网络结构模型包括以下步骤：
编码阶段：
S1：利用卷积和池化操作对受损信号进行特征提取及降维；
S2：对于每个卷积层均使用Relu函数作为激活函数，以及对每层池化后的特征进行局部响应归一化；
S3：在特征提取过程中在第3特征层对第1特征层进行融合，在第4特征层对第2特征层进行融合；
解码阶段：
S4：模型将原本应与编码器对称的4层解码层精简到2层，使得整个模型网络规模由8层减少到6层；
所述建立分解重构损失函数模型包括以下步骤：
S5：模型再相互对称的编码层和解码层之间计算均方误差损失，并联合重构误差损失函数按照0.2：0.8比例形成多重构损失，一并进行优化。
优选的，所述第3特征层的融合系数为0.7，第1特征层的融合系数为0.3。
优选的，所述第4特征层的融合系数为0.8，第2特征层的融合系数为0.2。
与现有技术相比，本发明的有益效果是：本发明通过联合融减自动编码器中的联合融减网络结构能够提升模型的特征表达能力并提升模型的运行效率，同时该算法的多重构损失函数也能加强过程特征层之间的联系以及避免模型早熟。
附图说明
为了更清楚地说明本发明实施例的技术方案，下面将对实施例描述所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本发明联合融减自动编码器网络结构框架图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其它实施例，都属于本发明保护的范围。
请参阅图1，本发明提供一种技术方案：一种用于图像特征提取的联合融减自动编码器算法，包括建立联合融减网络结构模型和分解重构损失函数模型，
所述建立联合融减网络结构模型包括以下步骤：
编码阶段：
S1：利用卷积和池化操作对受损信号进行特征提取及降维；
S2：对于每个卷积层均使用Relu函数作为激活函数，以及对每层池化后的特征进行局部响应归一化；
S3：在特征提取过程中在第3特征层对第1特征层进行融合，第3特征层的融合系数为0.7，第1特征层的融合系数为0.3，在第4特征层对第2特征层进行融合，第4特征层的融合系数为0.8，第2特征层的融合系数为0.2；
解码阶段：
S4：模型将原本应与编码器对称的4层解码层精简到2层，使得整个模型网络规模由8层减少到6层。
所述建立分解重构损失函数模型包括以下步骤：
S5：模型再相互对称的编码层和解码层之间计算均方误差损失，并联合重构误差损失函数按照0.2：0.8比例形成多重构损失，一并进行优化。
为联合融减自动编码器的有效性，我们在肺部3分类CT图像数据集上分别使用稀疏自编码器、卷积自编码器、卷积降噪自编码器以及联合融减自编码器进行了特征提取，并将提取特征进行了分类。实验结果显示，与稀疏自编码器、卷积自编码器、卷积降噪自编码器相比，在测试集上联合融减自编码器的准确率分别提升了28.98％、29.18％、29.18％，这表明联合融减自动编码器在图像特征提取方面的优异性能。
为进一步联合融减自动编码器的有效性，我们在Cats vs.Dogs自然图像数据集上分别使用稀疏自编码器、卷积自编码器、卷积降噪自编码器以及联合融减自编码器进行了特征提取，并将提取特征进行了分类。实验结果显示，与稀疏自编码器、卷积自编码器、卷积降噪自编码器相比，在测试集上联合融减自编码器的准确率分别提升了30.89％、34.58％、30.58％，同时联合融减自动编码器在验证集和测试集上所提取特征的分类准确率近乎相同，这表明模型有较强抗拟合能力。
联合融减自动编码器网络参数表：
Figure BDA0002767420160000041
在本说明书的描述中，参考术语“一个实施例”、“示例”、“具体示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不一定指的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施例或示例中以合适的方式结合。
以上公开的本发明优选实施例只是用于帮助阐述本发明。优选实施例并没有详尽叙述所有的细节，也不限制该发明仅为所述的具体实施方式。显然，根据本说明书的内容，可作很多的修改和变化。本说明书选取并具体描述这些实施例，是为了更好地解释本发明的原理和实际应用，从而使所属技术领域技术人员能很好地理解和利用本发明。本发明仅受权利要求书及其全部范围和等效物的限制。

Claims (3)

1.一种用于图像特征提取的联合融减自动编码器算法，其特征在于：包括建立联合融减网络结构模型和分解重构损失函数模型，
所述建立联合融减网络结构模型包括以下步骤：
编码阶段：
S1：利用卷积和池化操作对受损信号进行特征提取及降维；
S2：对于每个卷积层均使用Relu函数作为激活函数，以及对每层池化后的特征进行局部响应归一化；
S3：在特征提取过程中在第3特征层对第1特征层进行融合，在第4特征层对第2特征层进行融合；
解码阶段：
S4：模型将原本应与编码器对称的4层解码层精简到2层，使得整个模型网络规模由8层减少到6层；
所述建立分解重构损失函数模型包括以下步骤：
S5：模型再相互对称的编码层和解码层之间计算均方误差损失，并联合重构误差损失函数按照0.2：0.8比例形成多重构损失，一并进行优化。
2.根据权利要求1所述的一种用于图像特征提取的联合融减自动编码器算法，其特征在于：所述第3特征层的融合系数为0.7，第1特征层的融合系数为0.3。
3.根据权利要求1所述的一种用于图像特征提取的联合融减自动编码器算法，其特征在于：所述第4特征层的融合系数为0.8，第2特征层的融合系数为0.2。
CN202011238012.XA 2020-11-09 一种用于图像特征提取的联合融减自动编码器算法 Active CN112183561B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011238012.XA CN112183561B (zh) 2020-11-09 一种用于图像特征提取的联合融减自动编码器算法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011238012.XA CN112183561B (zh) 2020-11-09 一种用于图像特征提取的联合融减自动编码器算法

Publications (2)

Publication Number Publication Date
CN112183561A true CN112183561A (zh) 2021-01-05
CN112183561B CN112183561B (zh) 2024-04-30

Family

ID=

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113192052A (zh) * 2021-05-20 2021-07-30 山东中医药大学 一种用于图像特征提取的分解融减自动编码器算法
CN113762333A (zh) * 2021-07-20 2021-12-07 广东省科学院智能制造研究所 一种基于双流联合密度估计的无监督异常检测方法和系统

Citations (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107180248A (zh) * 2017-06-12 2017-09-19 桂林电子科技大学 基于联合损失增强网络的高光谱图像分类方法
CN107369147A (zh) * 2017-07-06 2017-11-21 江苏师范大学 基于自我监督学习的图像融合方法
CN108446716A (zh) * 2018-02-07 2018-08-24 武汉大学 基于FCN与稀疏-低秩子空间表示融合的PolSAR图像分类方法
CN109389171A (zh) * 2018-10-11 2019-02-26 云南大学 基于多粒度卷积降噪自动编码器技术的医疗图像分类方法
CN109559358A (zh) * 2018-10-22 2019-04-02 天津大学 一种基于卷积自编码的图像样本升采样方法
CN109902736A (zh) * 2019-02-25 2019-06-18 东北大学 一种基于自动编码器构建特征表示的肺结节图像分类方法
CN110084288A (zh) * 2019-04-11 2019-08-02 江南大学 一种基于自学习神经单元的图像融合方法
CN110084773A (zh) * 2019-03-25 2019-08-02 西北工业大学 一种基于深度卷积自编码网络的图像融合方法
CN110097528A (zh) * 2019-04-11 2019-08-06 江南大学 一种基于联合卷积自编码网络的图像融合方法
CN110533721A (zh) * 2019-08-27 2019-12-03 杭州师范大学 一种基于增强自编码器的室内目标物体6d姿态估计方法
CN111127449A (zh) * 2019-12-25 2020-05-08 汕头大学 一种基于编码器-解码器的自动化裂缝检测方法
CN111144214A (zh) * 2019-11-27 2020-05-12 中国石油大学(华东) 基于多层堆栈式自动编码器的高光谱图像解混方法
CN111259923A (zh) * 2020-01-06 2020-06-09 燕山大学 一种基于改进三维r-cnn算法的多目标检测方法
CN111461087A (zh) * 2020-06-16 2020-07-28 南京理工大学 基于光谱保持稀疏自编码器的高光谱异常检测方法
CN111681252A (zh) * 2020-05-30 2020-09-18 重庆邮电大学 一种基于多路径注意力融合的医学图像自动分割方法
CN111680706A (zh) * 2020-06-17 2020-09-18 南开大学 一种基于编码和解码结构的双通道输出轮廓检测方法
CN111784619A (zh) * 2020-07-03 2020-10-16 电子科技大学 一种红外和可见光图像的融合方法
JPWO2019193899A1 (ja) * 2018-04-05 2021-04-01 コニカミノルタ株式会社 演算装置の学習方法、学習装置、学習プログラム、および学習済みモデル

Patent Citations (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107180248A (zh) * 2017-06-12 2017-09-19 桂林电子科技大学 基于联合损失增强网络的高光谱图像分类方法
CN107369147A (zh) * 2017-07-06 2017-11-21 江苏师范大学 基于自我监督学习的图像融合方法
CN108446716A (zh) * 2018-02-07 2018-08-24 武汉大学 基于FCN与稀疏-低秩子空间表示融合的PolSAR图像分类方法
JPWO2019193899A1 (ja) * 2018-04-05 2021-04-01 コニカミノルタ株式会社 演算装置の学習方法、学習装置、学習プログラム、および学習済みモデル
CN109389171A (zh) * 2018-10-11 2019-02-26 云南大学 基于多粒度卷积降噪自动编码器技术的医疗图像分类方法
CN109559358A (zh) * 2018-10-22 2019-04-02 天津大学 一种基于卷积自编码的图像样本升采样方法
CN109902736A (zh) * 2019-02-25 2019-06-18 东北大学 一种基于自动编码器构建特征表示的肺结节图像分类方法
CN110084773A (zh) * 2019-03-25 2019-08-02 西北工业大学 一种基于深度卷积自编码网络的图像融合方法
CN110097528A (zh) * 2019-04-11 2019-08-06 江南大学 一种基于联合卷积自编码网络的图像融合方法
CN110084288A (zh) * 2019-04-11 2019-08-02 江南大学 一种基于自学习神经单元的图像融合方法
CN110533721A (zh) * 2019-08-27 2019-12-03 杭州师范大学 一种基于增强自编码器的室内目标物体6d姿态估计方法
CN111144214A (zh) * 2019-11-27 2020-05-12 中国石油大学(华东) 基于多层堆栈式自动编码器的高光谱图像解混方法
CN111127449A (zh) * 2019-12-25 2020-05-08 汕头大学 一种基于编码器-解码器的自动化裂缝检测方法
CN111259923A (zh) * 2020-01-06 2020-06-09 燕山大学 一种基于改进三维r-cnn算法的多目标检测方法
CN111681252A (zh) * 2020-05-30 2020-09-18 重庆邮电大学 一种基于多路径注意力融合的医学图像自动分割方法
CN111461087A (zh) * 2020-06-16 2020-07-28 南京理工大学 基于光谱保持稀疏自编码器的高光谱异常检测方法
CN111680706A (zh) * 2020-06-17 2020-09-18 南开大学 一种基于编码和解码结构的双通道输出轮廓检测方法
CN111784619A (zh) * 2020-07-03 2020-10-16 电子科技大学 一种红外和可见光图像的融合方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
LUO, W: "Learning Sparse Features in Convolutional Neural Networks for Image Classification", LECTURE NOTES IN COMPUTER SCIENCE, vol. 9242, pages 29 - 38 *
YU SUN等: "co-melting reduction auto-encoder", INTERNATIONAL CONFERENCE ON INFORMATION SCIENCE AND CONTROL ENGINEERIN, vol. 7, pages 1530 - 1533 *
梁煜;张金铭;张为;: "一种改进的卷积神经网络的室内深度估计方法", 天津大学学报(自然科学与工程技术版), no. 08, pages 74 - 80 *

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113192052A (zh) * 2021-05-20 2021-07-30 山东中医药大学 一种用于图像特征提取的分解融减自动编码器算法
CN113762333A (zh) * 2021-07-20 2021-12-07 广东省科学院智能制造研究所 一种基于双流联合密度估计的无监督异常检测方法和系统
CN113762333B (zh) * 2021-07-20 2023-02-28 广东省科学院智能制造研究所 一种基于双流联合密度估计的无监督异常检测方法和系统

Similar Documents

Publication Publication Date Title
CN110728682B (zh) 一种基于残差金字塔池化神经网络的语义分割方法
CN108460746B (zh) 一种基于结构和纹理分层预测的图像修复方法
CN113850824B (zh) 一种基于多尺度特征融合的遥感图像路网提取方法
CN110490205B (zh) 基于全残差空洞卷积神经网络的道路场景语义分割方法
JP2019530119A (ja) エンドツーエンドモデリング方法及びシステム
CN110378398B (zh) 一种基于多尺度特征图跳跃融合的深度学习网络改进方法
CN108460056A (zh) 一种dxf文件有效图元转换json数据的方法
US20090278844A1 (en) Method and apparatus for encoding/decoding 3d mesh information including stitching information
CN116051549A (zh) 一种太阳能电池片缺陷分割方法、系统、介质及设备
CN111784762A (zh) X光造影图像血管中心线提取方法及装置
CN112381716A (zh) 一种基于生成式对抗网络的图像增强方法
CN112861795A (zh) 基于多尺度特征融合的遥感图像显著目标检测方法及装置
CN110782458A (zh) 一种非对称编码网络的物体图像3d语义预测分割方法
CN112767423A (zh) 一种基于改进SegNet的遥感图像建筑物分割方法
CN114742985A (zh) 一种高光谱特征提取方法、装置及存储介质
CN112132158A (zh) 一种基于自编码网络的可视化图片信息嵌入方法
CN110728186B (zh) 一种基于多网融合的火灾检测方法
CN112183561A (zh) 一种用于图像特征提取的联合融减自动编码器算法
CN114821148A (zh) 一种基于多模态特征融合的零样本学习分类方法及设备
CN116935292B (zh) 一种基于自注意力模型的短视频场景分类方法及系统
CN112396137A (zh) 一种融合上下文语义的点云语义分割方法
CN112183561B (zh) 一种用于图像特征提取的联合融减自动编码器算法
CN105488822A (zh) 基于ambtc算法的可逆图像隐藏算法
CN112988967A (zh) 基于两阶段解码的对话生成方法及装置、介质和计算设备
CN116778318A (zh) 一种卷积神经网络遥感影像道路提取模型及方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant