CN112446415A - 一种用于图像特征提取的融减自动编码器算法 - Google Patents

一种用于图像特征提取的融减自动编码器算法 Download PDF

Info

Publication number
CN112446415A
CN112446415A CN202011072934.8A CN202011072934A CN112446415A CN 112446415 A CN112446415 A CN 112446415A CN 202011072934 A CN202011072934 A CN 202011072934A CN 112446415 A CN112446415 A CN 112446415A
Authority
CN
China
Prior art keywords
fusion
layer
characteristic
feature extraction
subtraction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202011072934.8A
Other languages
English (en)
Other versions
CN112446415B (zh
Inventor
魏本征
孙宇
徐云峰
张魁星
丛金玉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shandong University of Traditional Chinese Medicine
Original Assignee
Shandong University of Traditional Chinese Medicine
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shandong University of Traditional Chinese Medicine filed Critical Shandong University of Traditional Chinese Medicine
Priority to CN202011072934.8A priority Critical patent/CN112446415B/zh
Priority claimed from CN202011072934.8A external-priority patent/CN112446415B/zh
Publication of CN112446415A publication Critical patent/CN112446415A/zh
Application granted granted Critical
Publication of CN112446415B publication Critical patent/CN112446415B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/213—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/25—Fusion techniques
    • G06F18/253—Fusion techniques of extracted features

Abstract

本发明公开了一种用于图像特征提取的融减自动编码器算法，包括以下步骤：S1：将输入信号增加随机噪声形成受损信号；S2：利用4组卷积和池化对受损信号进行特征提取及降维；S3：在特征提取过程中在第4特征层对第2特征层进行融合、在第5特征层对第3特征层进行融合；S4：在相互对称的编码第3特征层和解码第1特征层之间计算均方误差损失；并与恢复信号和输入信号的均方误差损失形成联合重构损失，并将其一起进行优化，通过融减自动编码器中的融减网络结构能够建立特征层之间的联系和提升解码效率，同时该算法的联合重构损失函数也能够加强编码和解码阶段对应层之间的联系和避免模型早熟。

Description

一种用于图像特征提取的融减自动编码器算法
技术领域
本发明涉及图像特征提取技术领域，具体为一种用于图像特征提取的融减自动编码器算法。
背景技术
目前现存的各种自动编码器在特征提取部分主要是利用逐层卷积和池化进行特征提取和降维，在解码恢复方面本质上都是根据各自的任务背景对损失函数其实施一定的松弛或限制以提高算法性能。但由于自动编码器算法是基于无监督学习原理，上述方法容易使得模型在训练过程中更加难以收敛，并且在网络初始化初期就会出现梯度爆炸或梯度消失的情况；同时，在图像特征提取过程中仍存在特征提取过程中特征缺乏融合、信息损失过多以及模型容易早熟等问题。
基于此，本发明设计了一种用于图像特征提取的融减自动编码器算法，以解决上述提到的问题。
发明内容
本发明的目的在于提供一种用于图像特征提取的融减自动编码器算法，在自动编码器的编码阶段建立特征层之间的联系，在解码阶段提升了解码效率和质量；设计的重构损失函数能够用于特征层之间的优化和避免模型早熟。
为实现上述目的，本发明提供如下技术方案：一种用于图像特征提取的融减自动编码器算法，包括建立融减网络结构模型和联合重构损失函数模型，
所述建立融减网络结构模型包括以下步骤：
S1：将输入信号增加随机噪声形成受损信号；
S2：利用4组卷积和池化对受损信号进行特征提取及降维；
S3：在特征提取过程中在第4特征层对第2特征层进行融合、在第5特征层对第3特征层进行融合；
所述建立联合重构损失函数模型包括以下步骤：
S4：在相互对称的编码第3特征层和解码第1特征层之间计算均方误差损失；并与恢复信号和输入信号的均方误差损失形成联合重构损失，并将其一起进行优化。
与现有技术相比，本发明的有益效果是：本发明通过融减自动编码器中的融减网络结构能够建立特征层之间的联系和提升解码效率，同时该算法的联合重构损失函数也能够加强编码和解码阶段对应层之间的联系和避免模型早熟。
附图说明
为了更清楚地说明本发明实施例的技术方案，下面将对实施例描述所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本发明融减自动编码器网络结构框架图；
图2为本发明融减自动编码器网络参数表图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其它实施例，都属于本发明保护的范围。
请参阅图1-2，本发明提供一种技术方案：一种用于图像特征提取的融减自动编码器算法，包括建立融减网络结构模型和联合重构损失函数模型，
所述建立融减网络结构模型包括以下步骤：
S1：将输入信号增加随机噪声形成受损信号；
S2：利用4组卷积和池化对受损信号进行特征提取及降维；
S3：在特征提取过程中在第4特征层对第2特征层进行融合、在第5特征层对第3特征层进行融合；
所述建立联合重构损失函数模型包括以下步骤：
S4：在相互对称的编码第3特征层和解码第1特征层之间计算均方误差损失；并与恢复信号和输入信号的均方误差损失形成联合重构损失，并将其一起进行优化。
为测试融减网络结构及联合重构损失函数的有效性，首先，我们分别使用融减网络结构对卷积降噪自编码器进行改进以及使用联合重构损失函数优化对卷积降噪自编码器进行优化；其次，利用上述改进后的两个模型与原始卷积降噪自编码器肺部CT数据集进行特征提取；最后，对比所提取特征在SVM、K-Means和CART分类器上的分类准确率，以此验证融减网络结构及联合重构损失函数的有效性。实验结果表明与卷积降噪自编码器相比，利用融减网络结构改进后的卷积降噪自编码器和使用联合重构损失函数优化的卷积降噪自编码器所提取特征的肺炎筛查准确率在K-Means分类器上平均提高了6.45％，在SVM分类器上平均提高了6.95％，在CART分类器上平均提高了2.95％。
为验证融减自动编码器的特征提取性能，实验中分别使用传统特征提取算法中的分层梯度方向直方图和融减自动编码器在肺部CT数据集进行特征提取，实验结果显示与分层梯度方向直方图和卷积降噪自编码器相比，使用融减自动编码器所提取特征的肺炎筛查准确率在K-Means分类器上平均提高 19.78％，在SVM分类器上平均提高11.86％，在CART分类器上平均提高 11.68％，这表明融减自动编码器在图像特征提取方面的优异性能；其次，基于融减自动编码器所提取的特征在不同分类器上的分类准确率均大于97％，说明模型所提取特征对于肺部异常图像的鲁棒性；最后，融减自动编码器在验证集和测试集上所提取特征的分类准确率近乎相同，这表明模型有较强抗拟合能力。
在本说明书的描述中，参考术语“一个实施例”、“示例”、“具体示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不一定指的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施例或示例中以合适的方式结合。
以上公开的本发明优选实施例只是用于帮助阐述本发明。优选实施例并没有详尽叙述所有的细节，也不限制该发明仅为所述的具体实施方式。显然，根据本说明书的内容，可作很多的修改和变化。本说明书选取并具体描述这些实施例，是为了更好地解释本发明的原理和实际应用，从而使所属技术领域技术人员能很好地理解和利用本发明。本发明仅受权利要求书及其全部范围和等效物的限制。

Claims (1)

1.一种用于图像特征提取的融减自动编码器算法，其特征在于：包括建立融减网络结构模型和联合重构损失函数模型，
所述建立融减网络结构模型包括以下步骤：
S1：将输入信号增加随机噪声形成受损信号；
S2：利用4组卷积和池化对受损信号进行特征提取及降维；
S3：在特征提取过程中在第4特征层对第2特征层进行融合、在第5特征层对第3特征层进行融合；
所述建立联合重构损失函数模型包括以下步骤：
S4：在相互对称的编码第3特征层和解码第1特征层之间计算均方误差损失；并与恢复信号和输入信号的均方误差损失形成联合重构损失，并将其一起进行优化。
CN202011072934.8A 2020-10-09 一种用于图像特征提取的融减自动编码器的方法 Active CN112446415B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011072934.8A CN112446415B (zh) 2020-10-09 一种用于图像特征提取的融减自动编码器的方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011072934.8A CN112446415B (zh) 2020-10-09 一种用于图像特征提取的融减自动编码器的方法

Publications (2)

Publication Number Publication Date
CN112446415A true CN112446415A (zh) 2021-03-05
CN112446415B CN112446415B (zh) 2024-04-30

Family

ID=

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113192052A (zh) * 2021-05-20 2021-07-30 山东中医药大学 一种用于图像特征提取的分解融减自动编码器算法

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109141881A (zh) * 2018-07-06 2019-01-04 东南大学 一种深度自编码网络的旋转机械健康评估方法
CN109389171A (zh) * 2018-10-11 2019-02-26 云南大学 基于多粒度卷积降噪自动编码器技术的医疗图像分类方法
CN110456332A (zh) * 2019-08-12 2019-11-15 哈尔滨工程大学 一种基于自动编码器的水声信号增强方法
CN110942101A (zh) * 2019-11-29 2020-03-31 湖南科技大学 基于深度生成式对抗网络的滚动轴承剩余寿命预测方法
US10610098B1 (en) * 2017-04-11 2020-04-07 VisionQuest Biomedical LLC Generalized retinal image screening system (GRIS)
CN111507100A (zh) * 2020-01-14 2020-08-07 上海勃池信息技术有限公司 一种卷积自编码器及基于该编码器的词嵌入向量压缩方法
CN111639067A (zh) * 2020-05-21 2020-09-08 中国地质大学（武汉） 多特征融合卷积自编码的多元地球化学异常识别方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10610098B1 (en) * 2017-04-11 2020-04-07 VisionQuest Biomedical LLC Generalized retinal image screening system (GRIS)
CN109141881A (zh) * 2018-07-06 2019-01-04 东南大学 一种深度自编码网络的旋转机械健康评估方法
CN109389171A (zh) * 2018-10-11 2019-02-26 云南大学 基于多粒度卷积降噪自动编码器技术的医疗图像分类方法
CN110456332A (zh) * 2019-08-12 2019-11-15 哈尔滨工程大学 一种基于自动编码器的水声信号增强方法
CN110942101A (zh) * 2019-11-29 2020-03-31 湖南科技大学 基于深度生成式对抗网络的滚动轴承剩余寿命预测方法
CN111507100A (zh) * 2020-01-14 2020-08-07 上海勃池信息技术有限公司 一种卷积自编码器及基于该编码器的词嵌入向量压缩方法
CN111639067A (zh) * 2020-05-21 2020-09-08 中国地质大学（武汉） 多特征融合卷积自编码的多元地球化学异常识别方法

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
HAN Z等: "Spine-GAN: Semantic segmentation of multiple spinal structures", 《MEDICAL IMAGE ANALYSIS》, vol. 50, pages 23 - 35, XP085513247, DOI: 10.1016/j.media.2018.08.005 *
LI R等: "Stacked Fusion Supervised Auto-encoder with an Additional Classification Layer", 《NEURAL PROCESSING LETTERS》, vol. 51, pages 2649 - 2667, XP037157383, DOI: 10.1007/s11063-020-10223-w *
SUN Y等: "A Co-Melting Reduction Auto-Encoder", 《2020 7TH INTERNATIONAL CONFERENCE ON INFORMATION SCIENCE AND CONTROL ENGINEERING (ICISCE)》, pages 1530 - 1533 *
孙宇等: "融减自动编码器", 《计算机科学与探索》, pages 1 - 8 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113192052A (zh) * 2021-05-20 2021-07-30 山东中医药大学 一种用于图像特征提取的分解融减自动编码器算法

Similar Documents

Publication Publication Date Title
CN111598761A (zh) 一种基于图像降噪的抗打印拍摄图像数字水印方法
CN111179285B (zh) 一种图像处理方法、系统及存储介质
CN111179187B (zh) 基于循环生成对抗网络的单幅图像去雨方法
KR20190025976A (ko) 엔드 투 엔드 모델링 방법 및 시스템
CN111047522A (zh) 一种基于边缘生成的图像修复方法
CN112036260B (zh) 一种自然环境下多尺度子块聚合的表情识别方法及系统
CN110097110B (zh) 一种基于目标优化的语义图像修复方法
CN110738153A (zh) 异质人脸图像转换方法、装置、电子设备及存储介质
CN114972312A (zh) 基于YOLOv4-Tiny改进的绝缘子缺陷检测方法
CN110263164A (zh) 一种基于模型融合的情感倾向分析方法
CN112784929A (zh) 一种基于双元组扩充的小样本图像分类方法及装置
CN112651360A (zh) 一种小样本下骨架动作识别方法
CN116206327A (zh) 一种基于在线知识蒸馏的图像分类方法
CN113255569B (zh) 一种基于图空洞卷积编码器解码器的3d姿态估计方法
Zhao et al. Detecting deepfake video by learning two-level features with two-stream convolutional neural network
CN109508689B (zh) 一种对抗强化的表情识别方法
CN116935292B (zh) 一种基于自注意力模型的短视频场景分类方法及系统
CN111861935B (zh) 一种基于图像修复技术的去雨方法
CN112446415A (zh) 一种用于图像特征提取的融减自动编码器算法
CN112446415B (zh) 一种用于图像特征提取的融减自动编码器的方法
CN111428801A (zh) 改进融合层与损失函数交替更新的图文匹配方法
CN104200194A (zh) 一种人脸识别方法
CN114387190B (zh) 一种基于复杂环境下的自适应图像增强方法及系统
CN113781324B (zh) 一种老照片修复方法
CN112949344B (zh) 一种用于异常检测的特征自回归方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant