CN117011718B - 一种基于多元损失融合的植物叶片细粒度识别方法和系统 - Google Patents

一种基于多元损失融合的植物叶片细粒度识别方法和系统 Download PDF

Info

Publication number
CN117011718B
CN117011718B CN202311288015.8A CN202311288015A CN117011718B CN 117011718 B CN117011718 B CN 117011718B CN 202311288015 A CN202311288015 A CN 202311288015A CN 117011718 B CN117011718 B CN 117011718B
Authority
CN
China
Prior art keywords
image
mask
classification
feature
original
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202311288015.8A
Other languages
English (en)
Other versions
CN117011718A (zh
Inventor
章依依
徐晓刚
王军
李萧缘
卫思迪
何鹏飞
曹卫强
张耀华
马寅星
陈家杰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Northeast Institute of Geography and Agroecology of CAS
Zhejiang Lab
Original Assignee
Northeast Institute of Geography and Agroecology of CAS
Zhejiang Lab
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Northeast Institute of Geography and Agroecology of CAS, Zhejiang Lab filed Critical Northeast Institute of Geography and Agroecology of CAS
Priority to CN202311288015.8A priority Critical patent/CN117011718B/zh
Publication of CN117011718A publication Critical patent/CN117011718A/zh
Application granted granted Critical
Publication of CN117011718B publication Critical patent/CN117011718B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/10—Terrestrial scenes
    • G06V20/188—Vegetation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/0464—Convolutional networks [CNN, ConvNet]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/0895—Weakly supervised learning, e.g. semi-supervised or self-supervised learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/094—Adversarial learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/40—Extraction of image or video features
    • G06V10/42—Global feature extraction by analysis of the whole pattern, e.g. using frequency domain transformations or autocorrelation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/40—Extraction of image or video features
    • G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/80—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level
    • G06V10/806—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level of extracted features
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/30—Computing systems specially adapted for manufacturing

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Software Systems (AREA)
  • Multimedia (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Medical Informatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Molecular Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Image Analysis (AREA)

Abstract

一种基于多元损失融合的植物叶片细粒度识别方法和系统，首先将植物叶片图像以九宫格的方式进行随机掩码完成图像增强，并与原图成对地输入到特征提取网络模型中，得到特征向量；将特征向量输入分类网络层中，并进行品种识别；将特征向量输入到对抗网络层中，进行二分类识别；将掩码图的特征向量输入到自编码网络模块中，进行图像复原的自监督学习；三项任务的损失函数共同监督并指导网络的训练；在自监督任务中掩码图像通过学习复原本身位置使特征提取网络关注到叶片局部特征，而原图在品种识别任务中使特征提取网络关注叶片原有形状信息和全局特征；采用对抗损失函数进行原图与增强图的辨别，预防分类模型过拟合到增强数据中。

Description

一种基于多元损失融合的植物叶片细粒度识别方法和系统
技术领域
本发明涉及计算机视觉识别技术领域，尤其是涉及一种基于多元损失融合的植物叶片细粒度识别方法。
背景技术
植物不仅为我们提供氧气和食物，还具有许多药用价值。然而由于人为干预，许多植物物种已经濒临灭绝。可靠、高效地认定植物品种，有利于植物育种者在种质资源的产权保护和创新。许多研究者已经开始积极研究自动化植物识别方法。此研究不仅对植物学家有用，对外行也有很大的价值。在多数时候，人们知道各种植物的价值，但无法识别它们，导致新型或稀有物种无法得到及时保护。目前已有研究分别从叶子、花朵或其他部分识别植物。而叶子被广泛认为是最可靠的信息来源，因为它全年都可以获取，且是植物最稳定的一大器官之一。因此也被称作植物的“指纹”。除了需要专业知识和知识外，在专门的植物实验室分析植物叶子是一项昂贵且耗时的工作任务。为了解决这个问题，许多计算机视觉研究人员使用树叶图像作为识别植物种类的工具。
在过去的几十年中，许多方法通过提取叶片图像特征以区分植物物种。它们可以分为传统的手工方法和深度学习方法。在传统的人工特征方法中，叶子的视觉特征，如叶子的形状、纹理、叶脉和颜色，是通过人工提取的，作为识别植物物种的线索。而后者直接使用叶子图像的训练样本从叶子图像的原始表示中学习判别特征。随着越来越多的研究学者关注到植物叶片所包含的丰富信息，人工智能也被应用到植物叶片智能分类中。深度学习的方法在植物物种识别的端到端学习中自动提取叶片特征，并已产出了不少成果。与传统的特征提取模块相比，深度学习技术是完全数据驱动的，这使得它们在有足够的训练数据时通常有更高的可能性来捕获判别特征模式。
虽然基于叶片图像的方法在植物物种鉴定中得到了广泛的应用，但由于品系之间叶片的相似性较高，品种鉴定仍然存在巨大的挑战。植物叶片各品系间差异较小，而品系内差异大，使用物种分类模型往往效果不佳，细粒度分类性能有待提高。
发明内容
为解决现有技术的不足，在保证推理速度的前提下提升细粒度识别的性能，本发明提出一种基于多元损失融合的植物叶片细粒度识别方法。
一种基于多元损失融合的植物叶片细粒度识别方法，包括如下步骤：
S1，构建细粒度叶片分类数据集，并按照8:2划分训练集和测试集；
S2，将训练集中每张叶片图像大小缩放到，并划分为/>的宫格，随机选取/>的宫格进行掩码处理，生成对应的掩码图；
S3，将原始图与掩码图成对地输入到特征提取网络模型中，得到二者的特征图；
S4，将原始图与掩码图的特征图经过平均池化后输入到分类层中，得到二者的分类结果，并与真实标签进行分类损失函数计算；
S5，将原始图与掩码图的特征图经过平均池化后输入到对抗网络中，得到二者的二分类结果，并与真实标签进行对抗损失函数计算；
S6，将掩码图的特征图输入到自编码网络模块中进行图像像素复原，得到恢复后的图像，与原始图像进行基于掩码位置像素的相似度计算，作为自监督损失函数；
S7，将分类损失函数、对抗损失函数、自监督损失函数进行加权融合，同时指导整个网络的训练；
S8，推理阶段，将待测图像输入训练完成的特征提取网络模型与分类层进行分类预测，根据预测的标签分布确定图像类别。
进一步，步骤S1具体包括：采集大豆叶片图像，包括107种大豆品种：每种类别30张图像，共计3210张图像数据。
进一步，步骤S2中N=14。
进一步，步骤S3具体包括：下载于ImageNet数据集上预训练的卷积网络模型ResNet50作为特征提取网络，将原始图与掩码图成对地输入到特征提取网络模型中，最后一层卷积网络输出特征图，M代表原始图特征图，/>代表掩码图特征图，特征图大小均为/>，将特征图进行平均池化后得到特征向量/>，I代表原始图特征向量，/>代表掩码图特征向量，特征值维度均为2048。
进一步，步骤S4具体包括：将原始图与掩码图的特征向量输入到分类层中，该分类层由一个/>的全连接网络构成，得到分类结果后与真实标签/>进行分类损失函数计算，其计算公式如下：
（1）
进一步，步骤S5具体包括：将原始图与掩码图的特征向量入到对抗网络中，对抗网络由一个/>的全连接网络构成，得到二分类结果，并与真实标签进行对抗损失函数计算，其计算公式如下：
（2）
进一步，步骤S6具体包括：将掩码图的特征图输入到自编码网络模块中进行图像复原，该自编码网络模块由4层反卷积网络构成，输出恢复后的图像/>，/>大小与原始图Z均为/>，将复原图/>与原始图Z进行基于掩码位置像素的相似度计算，作为自监督损失函数，采用均方差损失函数，其计算公式如下：
（3）
其中，n代表掩码位置像素的总数，，/>分别代表原始图和复原图中第i个掩码位置的像素值。
进一步，步骤S7具体包括：将分类损失函数、对抗损失函数、自监督损失函数进行加权融合，同时指导整个网络的训练，加权融合损失函数计算公式如下：
（4）
。
再进一步，网络的训练采用Adam优化器，批次大小batch size设置为32，其初始学习率为0.02，当训练epoch达到[80，120]时，将当前学习率乘以0.1；当训练epoch达到150次后，停止训练。
本发明还涉及一种基于多元损失融合的植物叶片细粒度识别系统，包括：
细粒度叶片分类数据集构建模块，用于构建细粒度叶片分类数据集，并按照8:2划分训练集和测试集；
掩码图生成模块，用于将训练集中每张叶片图像大小缩放到，并划分为的宫格，随机选取/>的宫格进行掩码处理，生成对应的掩码图；
特征图获得模块，用于将原始图与掩码图成对地输入到特征提取网络模型中，得到二者的特征图；
分类模块，用于将原始图与掩码图的特征图经过平均池化后输入到分类层中，得到二者的分类结果，并与真实标签进行分类损失函数计算；
二分类模块，用于将原始图与掩码图的特征图经过平均池化后输入到对抗网络中，得到二者的二分类结果，并与真实标签进行对抗损失函数计算；
相似度计算模块，用于将掩码图的特征图输入到自编码网络模块中进行图像像素复原，得到恢复后的图像，与原始图像进行基于掩码位置像素的相似度计算，作为自监督损失函数；
加权融合模块，用于将分类损失函数、对抗损失函数、自监督损失函数进行加权融合，同时指导整个网络的训练；
推理模块，用于将待测图像输入训练完成的特征提取网络模型与分类层进行分类预测，根据预测的标签分布确定图像类别。
本发明还涉及一种基于多元损失融合的植物叶片细粒度识别装置，包括存储器和一个或多个处理器，所述存储器中存储有可执行代码，所述一个或多个处理器执行所述可执行代码时，用于实现本发明的一种基于多元损失融合的植物叶片细粒度识别方法。
本发明还涉及一种计算机可读存储介质，其上存储有程序，该程序被处理器执行时，实现本发明的一种基于多元损失融合的植物叶片细粒度识别方法。
一种计算设备，包括存储器和处理器，其中，所述存储器中存储有可执行代码，所述处理器执行所述可执行代码时，实现本发明的一种基于多元损失融合的植物叶片细粒度识别方法。
本发明的优势和有益效果在于：
1.自编码网络模块能让网络学会如何将掩盖的叶片恢复成原始的图像。在学习恢复的过程中，网络必须学会关注宫格间叶片的关联信息，比如纹理、叶脉、颜色等连续性特征。因此该模块可以让特征提取网络关注到微观层面的叶片特征，捕捉到更加丰富的叶片局部信息。
2.增强图尽管能让模型更加关注到局部细节信息，如叶片的纹理与叶脉，但是却也给模型增加了一些噪声干扰，即与真实的数据分布不同。我们设计了对抗损失函数进行原图与增强图的辨别，与分类损失形成一种对抗互存的关系，从而预防分类模型过拟合到增强数据中。
3.原图保留了叶片的形状信息与全局特征，而增强图则捕捉了叶片局部细节信息，全局特征与局部特征相融合，充分弥补了目前分类网络在叶片细粒度特征提取上的缺陷。该方法在已有的大豆叶片细粒度分类数据集中能达到90.6%的识别准确率，表明其先进性与实用性。
附图说明
图1是本发明的网络架构图。
图2是本发明中训练阶段流程图。
图3a-图3c分别是本发明算法中原始图、掩码图、复原图的示例样本。
图4是本发明与其他方法的性能对比图。
图5是本发明的系统结构图。
具体实施方式
以下结合附图对本发明的具体实施方式进行详细说明。应当理解的是，此处所描述的具体实施方式仅用于说明和解释本发明，并不用于限制本发明。
实施例1
如图1、图2所示，本发明的一种基于多元损失融合的植物叶片细粒度识别方法，包括以下步骤：
步骤1：构建细粒度植物叶片分类数据集，并按照8:2划分训练集和测试集，具体地，采集大豆叶片图像，包括107种大豆品种：每种类别30张图像，共计3210张图像数据。
步骤2：将训练集中原始叶片图像集合Z中的各个样本大小缩放到，并划分为/>的宫格，随机选取/>的宫格进行掩码处理，生成对应的掩码图，本实施例N=14，图3a-图3b分别是本发明算法中原始图和掩码图的示例样本。
步骤3：下载于ImageNet数据集上预训练的卷积网络模型ResNet50作为特征提取网络，将原始图与掩码图成对地输入到特征提取网络模型中，最后一层卷积网络输出特征图，M代表原始图特征图，/>代表掩码图特征图，特征图大小均为/>，将特征图进行平均池化后得到特征向量/>，I代表原始图特征向量，/>代表掩码图特征向量，特征值维度均为2048。
步骤4：将原始图与掩码图的特征向量输入到分类层/>中，该分类层由一个/>的全连接网络构成，得到分类结果后与真实标签/>进行分类损失函数计算，其计算公式如下：
（1）
步骤5：将原始图与掩码图的特征向量输入到对抗网络/>中，对抗网络由一个/>的全连接网络构成，得到二分类结果，并与真实标签/>进行对抗损失函数计算，其计算公式如下：
（2）
步骤6：将掩码图的特征图输入到自编码网络模块中进行图像复原，该网络模块由4层反卷积网络构成，输出恢复后的图像/>，/>大小与原始图Z均为/>，将复原图/>与原始图Z进行基于掩码位置像素的相似度计算，作为自监督损失函数，本实施例采用均方差损失函数，其计算公式如下：
（3）
其中，n代表掩码位置像素的总数，，/>分别代表原始图和复原图中第i个掩码位置的像素值，图3c是复原图的示例样本。
步骤7：将分类损失函数、对抗损失函数、自监督损失函数进行加权融合，同时指导整个网络的训练。加权融合损失函数计算公式如下：
（4）
本实施例中，时，性能最佳。
步骤8：推理阶段，将待测图像输入训练完成的特征提取网络模型与分类层进行分类预测，根据预测的标签分布确定图像类别。
本实例训练采用Adam优化器，批次大小batch size设置为32，其初始学习率为0.02，当训练epoch达到[80，120]时，将当前学习率乘以0.1。当训练epoch达到150次后，停止训练。采用单卡GPU服务器A100实现。
本发明针对细粒度图像类间差异小的情况，在自监督任务中使模型关注到叶片局部连续特征（纹理、叶脉），在有监督任务中则使模型关注叶片原有形状信息和全局特征。全局特征与局部特征相融合，充分弥补了目前分类网络在叶片细粒度特征提取上的缺陷。此外，为了让分类模型更偏向真实的测试数据，采用对抗损失函数进行原图与增强图的辨别。该方法在已有的大豆叶片细粒度分类数据集中能达到90.6%的识别准确率，充分验证了其先进性与实用性，图4是本发明与其他方法的性能对比图。下表比较了本发明与现有技术的准确率：
本发明方法，首先将植物叶片图像以九宫格的方式进行随机掩码完成图像增强，并与原图成对地输入到特征提取网络模型中，得到特征向量。将原图与掩码图的特征向量输入分类网络层中，并进行品种识别；将原图与掩码图的特征向量输入到对抗网络层中，进行二分类识别；将掩码图的特征向量输入到自编码网络模块中，进行图像复原的自监督学习。三项任务的损失函数共同监督并指导网络的训练。在自监督任务中掩码图像通过学习复原本身位置使特征提取网络关注到叶片局部特征（纹理、叶脉），而原图在品种识别任务中使特征提取网络关注叶片原有形状信息和全局特征。采用对抗损失函数进行原图与增强图的辨别，与分类损失形成一种对抗互存的关系，从而预防分类模型过拟合到增强数据中。该方法在已有的大豆叶片细粒度分类数据集中能达到90.6%的识别准确率，表明其先进性与实用性。
实施例2
参照图5，本实施例涉及实现实施例1所述的方法的一种基于多元损失融合的植物叶片细粒度识别系统，包括：
细粒度叶片分类数据集构建模块，用于构建细粒度叶片分类数据集，并按照8:2划分训练集和测试集；
掩码图生成模块，用于将训练集中每张叶片图像大小缩放到，并划分为的宫格，随机选取/>的宫格进行掩码处理，生成对应的掩码图；
特征图获得模块，用于将原始图与掩码图成对地输入到特征提取网络模型中，得到二者的特征图；
分类模块，用于将原始图与掩码图的特征图经过平均池化后输入到分类层中，得到二者的分类结果，并与真实标签进行分类损失函数计算；
二分类模块，用于将原始图与掩码图的特征图经过平均池化后输入到对抗网络中，得到二者的二分类结果，并与真实标签进行对抗损失函数计算；
相似度计算模块，用于将掩码图的特征图输入到自编码网络模块中进行图像像素复原，得到恢复后的图像，与原始图像进行基于掩码位置像素的相似度计算，作为自监督损失函数；
加权融合模块，用于将分类损失函数、对抗损失函数、自监督损失函数进行加权融合，同时指导整个网络的训练；
推理模块，用于将待测图像输入训练完成的特征提取网络模型与分类层进行分类预测，根据预测的标签分布确定图像类别。
实施例3
本实施例涉及实现实施例1所述的方法的一种计算设备，包括存储器和处理器，其中，所述存储器中存储有可执行代码，所述处理器执行所述可执行代码时，实现实施例1所述的方法。
在硬件层面，该计算设备包括处理器、内部总线、网络接口、内存以及非易失性存储器，当然还可能包括其他业务所需要的硬件。处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行，以实现上述图1所述的方法。当然，除了软件实现方式之外，本发明并不排除其他实现方式，比如逻辑器件抑或软硬件结合的方式等等，也就是说以下处理流程的执行主体并不限定于各个逻辑单元，也可以是硬件或逻辑器件。
对于一个技术的改进可以很明显地区分是硬件上的改进（例如，对二极管、晶体管、开关等电路结构的改进）还是软件上的改进（对于方法流程的改进）。然而，随着技术的发展，当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此，不能说一个方法流程的改进就不能用硬件实体模块来实现。例如，可编程逻辑器件（ProgrammableLogic Device, PLD）（例如现场可编程门阵列（Field Programmable Gate Array，FPGA））就是这样一种集成电路，其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片PLD上，而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且，如今，取代手工地制作集成电路芯片，这种编程也多半改用“逻辑编译器（logic compiler）”软件来实现，它与程序开发撰写时所用的软件编译器相类似，而要编译之前的原始代码也得用特定的编程语言来撰写，此称之为硬件描述语言（HardwareDescription Language，HDL），而HDL也并非仅有一种，而是有许多种，如ABEL（AdvancedBoolean Expression Language）、AHDL（Altera Hardware Description Language）、Confluence、CUPL（Cornell University Programming Language）、HDCal、JHDL（JavaHardware Description Language）、Lava、Lola、MyHDL、PALASM、RHDL（Ruby HardwareDescription Language）等，目前最普遍使用的是VHDL（Very-High-Speed IntegratedCircuit Hardware Description Language）与Verilog。本领域技术人员也应该清楚，只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中，就可以很容易得到实现该逻辑方法流程的硬件电路。
控制器可以按任何适当的方式实现，例如，控制器可以采取例如微处理器或处理器以及存储可由该（微）处理器执行的计算机可读程序代码（例如软件或固件）的计算机可读介质、逻辑门、开关、专用集成电路（Application Specific Integrated Circuit，ASIC）、可编程逻辑控制器和嵌入微控制器的形式，控制器的例子包括但不限于以下微控制器：ARC 625D、Atmel AT91SAM、Microchip PIC18F26K20 以及Silicone Labs C8051F320，存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道，除了以纯计算机可读程序代码方式实现控制器以外，完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件，而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至，可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。
上述实施例阐明的系统、装置、模块或单元，具体可以由计算机芯片或实体实现，或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的，计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
为了描述的方便，描述以上装置时以功能分为各种单元分别描述。当然，在实施本发明时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本领域内的技术人员应明白，本发明的实施例可提供为方法、系统、或计算机程序产品。因此，本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质（包括但不限于磁盘存储器、CD-ROM、光学存储器等）上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备（系统）、和计算机程序产品的流程图和／或方框图来描述的。应理解可由计算机程序指令实现流程图和／或方框图中的每一流程和／或方框、以及流程图和／或方框图中的流程和／或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和／或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和／或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和／或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中，计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。
还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白，本发明的实施例可提供为方法、系统或计算机程序产品。因此，本发明可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质（包括但不限于磁盘存储器、CD-ROM、光学存储器等）上实施的计算机程序产品的形式。
本发明可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本发明，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
实施例4
本实施例涉及一种基于多元损失融合的植物叶片细粒度识别装置，包括存储器和一个或多个处理器，所述存储器中存储有可执行代码，所述一个或多个处理器执行所述可执行代码时，用于实现实施例1所述的一种基于多元损失融合的植物叶片细粒度识别方法。
实施例5
本实施例涉及一种计算机可读存储介质，其上存储有程序，该程序被处理器执行时，实现实施例1所述的一种基于多元损失融合的植物叶片细粒度识别方法。
本发明中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于系统实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述实施例所记载的技术方案进行修改，或者对其中部分或者全部技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明实施例技术方案的范围。

Claims (12)

1.一种基于多元损失融合的植物叶片细粒度识别方法，包括如下步骤：
S1，构建细粒度叶片分类数据集，并按照8:2划分训练集和测试集；
S2，将训练集中每张叶片图像大小缩放到，并划分为/>的宫格，随机选取的宫格进行掩码处理，生成对应的掩码图；
S3，将原始图与掩码图成对地输入到特征提取网络模型中，得到二者的特征图；
S4，将原始图与掩码图的特征图经过平均池化后输入到分类层中，得到二者的分类结果，并与真实标签进行分类损失函数计算；
S5，将原始图与掩码图的特征图经过平均池化后输入到对抗网络中，得到二者的二分类结果，并与真实标签进行对抗损失函数计算；
S6，将掩码图的特征图输入到自编码网络模块中进行图像像素复原，得到恢复后的图像，与原始图像进行基于掩码位置像素的相似度计算，作为自监督损失函数；具体包括：将掩码图的特征图输入到自编码网络模块中进行图像复原，该自编码网络模块由4层反卷积网络构成，输出恢复后的图像/>，/>大小与原始图/>均为/>，将复原图/>与原始图/>进行基于掩码位置像素的相似度计算，作为自监督损失函数，采用均方差损失函数，其计算公式如下：/> （3）
其中，n代表掩码位置像素的总数，，/>分别代表原始图和复原图中第i个掩码位置的像素值；
S7，将分类损失函数、对抗损失函数、自监督损失函数进行加权融合，同时指导整个网络的训练；
S8，推理阶段，将待测图像输入训练完成的特征提取网络模型与分类层进行分类预测，根据预测的标签分布确定图像类别。
2.如权利要求1所述的一种基于多元损失融合的植物叶片细粒度识别方法，其特征在于，步骤S1具体包括：采集大豆叶片图像，包括107种大豆品种：每种类别30张图像，共计3210张图像数据。
3.如权利要求1所述的一种基于多元损失融合的植物叶片细粒度识别方法，其特征在于，步骤S2中N=14。
4.如权利要求1所述的一种基于多元损失融合的植物叶片细粒度识别方法，其特征在于，步骤S3具体包括：下载于ImageNet数据集上预训练的卷积网络模型ResNet50作为特征提取网络，将原始图与掩码图成对地输入到特征提取网络模型中，最后一层卷积网络输出特征图，/>代表原始图特征图，/>代表掩码图特征图，特征图大小均为/>，将特征图进行平均池化后得到特征向量/>，/>代表原始图特征向量，/>代表掩码图特征向量，特征值维度均为2048。
5.如权利要求1所述的一种基于多元损失融合的植物叶片细粒度识别方法，其特征在于，步骤S4具体包括：将原始图与掩码图的特征向量输入到分类层/>中，该分类层由一个/>的全连接网络构成，得到分类结果后与真实标签/>进行分类损失函数计算，其计算公式如下： /> （1）。
6.如权利要求1所述的一种基于多元损失融合的植物叶片细粒度识别方法，其特征在于，步骤S5具体包括：将原始图与掩码图的特征向量输入到对抗网络/>中，对抗网络由一个/>的全连接网络构成，得到二分类结果，并与真实标签/>进行对抗损失函数计算，其计算公式如下：/> （2）。
7.如权利要求1所述的一种基于多元损失融合的植物叶片细粒度识别方法，其特征在于，步骤S7具体包括：将分类损失函数、对抗损失函数、自监督损失函数进行加权融合，同时指导整个网络的训练，加权融合损失函数计算公式如下：（4）
，/>，/>。
8.如权利要求7所述的一种基于多元损失融合的植物叶片细粒度识别方法，其特征在于，训练采用Adam优化器，批次大小batch size设置为32，其初始学习率为0.02，当训练epoch达到[80，120]时，将当前学习率乘以0.1；当训练epoch达到150次后，停止训练。
9.一种基于多元损失融合的植物叶片细粒度识别系统，其特征在于：包括：
细粒度叶片分类数据集构建模块，用于构建细粒度叶片分类数据集，并按照8:2划分训练集和测试集；
掩码图生成模块，用于将训练集中每张叶片图像大小缩放到，并划分为的宫格，随机选取/>的宫格进行掩码处理，生成对应的掩码图；
特征图获得模块，用于将原始图与掩码图成对地输入到特征提取网络模型中，得到二者的特征图；
分类模块，用于将原始图与掩码图的特征图经过平均池化后输入到分类层中，得到二者的分类结果，并与真实标签进行分类损失函数计算；
二分类模块，用于将原始图与掩码图的特征图经过平均池化后输入到对抗网络中，得到二者的二分类结果，并与真实标签进行对抗损失函数计算；
相似度计算模块，用于将掩码图的特征图输入到自编码网络模块中进行图像像素复原，得到恢复后的图像，与原始图像进行基于掩码位置像素的相似度计算，作为自监督损失函数；具体包括：将掩码图的特征图输入到自编码网络模块中进行图像复原，该自编码网络模块由4层反卷积网络构成，输出恢复后的图像/>，/>大小与原始图/>均为/>，将复原图/>与原始图/>进行基于掩码位置像素的相似度计算，作为自监督损失函数，采用均方差损失函数，其计算公式如下：/> （3）
其中，n代表掩码位置像素的总数，，/>分别代表原始图和复原图中第i个掩码位置的像素值；
加权融合模块，用于将分类损失函数、对抗损失函数、自监督损失函数进行加权融合，同时指导整个网络的训练；
推理模块，用于将待测图像输入训练完成的特征提取网络模型与分类层进行分类预测，根据预测的标签分布确定图像类别。
10.一种基于多元损失融合的植物叶片细粒度识别装置，其特征在于，包括存储器和一个或多个处理器，所述存储器中存储有可执行代码，所述一个或多个处理器执行所述可执行代码时，用于实现权利要求1-8之一所述的一种基于多元损失融合的植物叶片细粒度识别方法。
11.一种计算机可读存储介质，其特征在于，其上存储有程序，该程序被处理器执行时，实现权利要求1-8之一所述的一种基于多元损失融合的植物叶片细粒度识别方法。
12.一种计算设备，其特征在于，包括存储器和处理器，其中，所述存储器中存储有可执行代码，所述处理器执行所述可执行代码时，实现权利要求1-8之一所述的一种基于多元损失融合的植物叶片细粒度识别方法。
CN202311288015.8A 2023-10-08 2023-10-08 一种基于多元损失融合的植物叶片细粒度识别方法和系统 Active CN117011718B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202311288015.8A CN117011718B (zh) 2023-10-08 2023-10-08 一种基于多元损失融合的植物叶片细粒度识别方法和系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202311288015.8A CN117011718B (zh) 2023-10-08 2023-10-08 一种基于多元损失融合的植物叶片细粒度识别方法和系统

Publications (2)

Publication Number Publication Date
CN117011718A CN117011718A (zh) 2023-11-07
CN117011718B true CN117011718B (zh) 2024-02-02

Family

ID=88574756

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202311288015.8A Active CN117011718B (zh) 2023-10-08 2023-10-08 一种基于多元损失融合的植物叶片细粒度识别方法和系统

Country Status (1)

Country Link
CN (1) CN117011718B (zh)

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109359684A (zh) * 2018-10-17 2019-02-19 苏州大学 基于弱监督定位和子类别相似性度量的细粒度车型识别方法
CN110544275A (zh) * 2019-08-19 2019-12-06 中山大学 生成配准的带病灶分割标签的多模态mri的方法、系统及介质
CN111369540A (zh) * 2020-03-06 2020-07-03 西安电子科技大学 基于掩码卷积神经网络的植物叶片病害识别方法
CN112257601A (zh) * 2020-10-22 2021-01-22 福州大学 基于弱监督学习的数据增强网络的细粒度车辆识别方法
CN112381835A (zh) * 2020-10-29 2021-02-19 中国农业大学 基于卷积神经网络的作物叶片分割方法及装置
CN112446423A (zh) * 2020-11-12 2021-03-05 昆明理工大学 一种基于迁移学习的快速混合高阶注意力域对抗网络的方法
CN112784869A (zh) * 2020-11-13 2021-05-11 北京航空航天大学 一种基于注意力感知与对抗学习的细粒度图像识别方法
CN114494786A (zh) * 2022-02-16 2022-05-13 重庆邮电大学 一种基于多层协调卷积神经网络的细粒度图像分类方法
CN115631369A (zh) * 2022-10-09 2023-01-20 中国石油大学(华东) 一种基于卷积神经网络的细粒度图像分类方法
CN116152577A (zh) * 2023-04-19 2023-05-23 深圳须弥云图空间科技有限公司 图像分类方法及装置
CN116452845A (zh) * 2023-03-01 2023-07-18 浙江工商大学 一种基于数据增强的鸟类细粒度图像分类方法
CN116612351A (zh) * 2023-05-24 2023-08-18 西南交通大学 基于多尺度掩码特征自编码器的城轨车底异常检测方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11983502B2 (en) * 2021-11-24 2024-05-14 Yahoo Ad Tech Llc Extracting fine-grained topics from text content

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109359684A (zh) * 2018-10-17 2019-02-19 苏州大学 基于弱监督定位和子类别相似性度量的细粒度车型识别方法
CN110544275A (zh) * 2019-08-19 2019-12-06 中山大学 生成配准的带病灶分割标签的多模态mri的方法、系统及介质
CN111369540A (zh) * 2020-03-06 2020-07-03 西安电子科技大学 基于掩码卷积神经网络的植物叶片病害识别方法
CN112257601A (zh) * 2020-10-22 2021-01-22 福州大学 基于弱监督学习的数据增强网络的细粒度车辆识别方法
CN112381835A (zh) * 2020-10-29 2021-02-19 中国农业大学 基于卷积神经网络的作物叶片分割方法及装置
CN112446423A (zh) * 2020-11-12 2021-03-05 昆明理工大学 一种基于迁移学习的快速混合高阶注意力域对抗网络的方法
CN112784869A (zh) * 2020-11-13 2021-05-11 北京航空航天大学 一种基于注意力感知与对抗学习的细粒度图像识别方法
CN114494786A (zh) * 2022-02-16 2022-05-13 重庆邮电大学 一种基于多层协调卷积神经网络的细粒度图像分类方法
CN115631369A (zh) * 2022-10-09 2023-01-20 中国石油大学(华东) 一种基于卷积神经网络的细粒度图像分类方法
CN116452845A (zh) * 2023-03-01 2023-07-18 浙江工商大学 一种基于数据增强的鸟类细粒度图像分类方法
CN116152577A (zh) * 2023-04-19 2023-05-23 深圳须弥云图空间科技有限公司 图像分类方法及装置
CN116612351A (zh) * 2023-05-24 2023-08-18 西南交通大学 基于多尺度掩码特征自编码器的城轨车底异常检测方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
Self-supervised Visual Representation Learning for Fine-Grained Ship Detection;Gang Li 等;《2021 IEEE 4th International Conference on Information Systems and Computer Aided Education (ICISCAE)》;67-71 *
基于中层细微特征提取与多尺度特征融合细粒度图像识别;齐爱玲 等;《计算机应用》;第43卷(第8期);2556-2563 *
基于多模态特征的无监督领域自适应多级对抗语义分割网络;王泽宇 等;《通信学报》;第43卷(第12期);157-171 *

Also Published As

Publication number Publication date
CN117011718A (zh) 2023-11-07

Similar Documents

Publication Publication Date Title
WO2022000426A1 (zh) 基于孪生深度神经网络的动目标分割方法及系统
CN107358157B (zh) 一种人脸活体检测方法、装置以及电子设备
CN111563502B (zh) 图像的文本识别方法、装置、电子设备及计算机存储介质
CN112308113A (zh) 一种基于半监督的目标识别方法、设备及介质
CN115618964B (zh) 一种模型训练的方法、装置、存储介质及电子设备
CN112507831A (zh) 活体检测方法、装置、设备和存储介质
CN113887325A (zh) 一种模型训练方法、表情识别方法以及装置
CN116205290A (zh) 一种基于中间特征知识融合的知识蒸馏方法和装置
CN116343314A (zh) 一种表情识别方法、装置、存储介质及电子设备
CN111652286A (zh) 一种基于图嵌入的物体识别方法、设备及介质
CN114998962A (zh) 一种活体检测以及模型训练方法及装置
CN112991281B (zh) 视觉检测方法、系统、电子设备及介质
CN117036829A (zh) 一种基于原型学习实现标签增强的叶片细粒度识别方法和系统
CN117197781B (zh) 一种交通标志识别的方法、装置、存储介质及电子设备
CN117011718B (zh) 一种基于多元损失融合的植物叶片细粒度识别方法和系统
CN115830633B (zh) 基于多任务学习残差神经网络的行人重识别方法和系统
CN113033371A (zh) 基于csp模型的多级特征融合行人检测方法
Banzi et al. Plant species identification from leaf images using deep learning models (CNN-LSTM architecture)
CN116805393A (zh) 一种基于3DUnet光谱-空间信息融合的高光谱图像分类方法和系统
CN116188906A (zh) 一种识别弹窗图像中关闭标识的方法、装置、设备及介质
CN112906698B (zh) 一种苜蓿植株识别的方法及装置
CN115578796A (zh) 一种活体检测模型的训练方法、装置、设备及介质
CN112800952B (zh) 一种基于改进ssd算法的海洋生物识别方法及系统
CN114359935A (zh) 一种模型训练以及表格识别方法及装置
CN116721412B (zh) 一种自下而上的基于结构性先验的豆荚关键点检测方法和系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant