CN113312999B - 一种自然果园场景下的柑橘木虱高精度检测方法及装置 - Google Patents

一种自然果园场景下的柑橘木虱高精度检测方法及装置 Download PDF

Info

Publication number
CN113312999B
CN113312999B CN202110546086.8A CN202110546086A CN113312999B CN 113312999 B CN113312999 B CN 113312999B CN 202110546086 A CN202110546086 A CN 202110546086A CN 113312999 B CN113312999 B CN 113312999B
Authority
CN
China
Prior art keywords
model
training
citrus
yolov4
tiny
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110546086.8A
Other languages
English (en)
Other versions
CN113312999A (zh
Inventor
李震
胡嘉沛
姜晟
黄河清
吕石磊
薛秀云
洪添胜
宋淑然
代秋芳
吴伟斌
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
South China Agricultural University
Original Assignee
South China Agricultural University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by South China Agricultural University filed Critical South China Agricultural University
Priority to CN202110546086.8A priority Critical patent/CN113312999B/zh
Publication of CN113312999A publication Critical patent/CN113312999A/zh
Application granted granted Critical
Publication of CN113312999B publication Critical patent/CN113312999B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/10Terrestrial scenes
    • G06V20/13Satellite images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/23Clustering techniques
    • G06F18/232Non-hierarchical techniques
    • G06F18/2321Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions
    • G06F18/23213Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions with fixed number of clusters, e.g. K-means clustering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/56Extraction of image or video features relating to colour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/41Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/46Extracting features or characteristics from the video content, e.g. video fingerprints, representative shots or key frames

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Multimedia (AREA)
  • Evolutionary Computation (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • Molecular Biology (AREA)
  • Mathematical Physics (AREA)
  • Biophysics (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Computing Systems (AREA)
  • Evolutionary Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Health & Medical Sciences (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Probability & Statistics with Applications (AREA)
  • Remote Sensing (AREA)
  • Astronomy & Astrophysics (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种自然果园场景下的柑橘木虱高精度检测方法及装置,该方法包括:获取待检测是否存在柑橘木虱的自然果园场景下的柑橘图像;通过预先训练得到的柑橘木虱检测模型对柑橘图像进行检测;检测模型通过多组训练数据对改进后的YOLOv4‑Tiny网络模型进行训练得到的;改进后的YOLOv4‑Tiny网络模型包括一条与浅层卷积层相连的路径,增加一个输出对小目标敏感的高分辨率输出特征图;根据所述检测模型的检测结果,确定柑橘图像是否存在柑橘木虱以及柑橘木虱的位置。该方法基于对YOLOv4‑Tiny模型进行了改进,增加一个高分辨率的输出特征图,用于采样抽象小目标柑橘木虱的特征,可提升模型对目标柑橘木虱的检测精度。该方法可在复杂的田间环境下进行柑橘木虱的准确检测。

Description

一种自然果园场景下的柑橘木虱高精度检测方法及装置
技术领域
本发明涉及农业计算机视觉的图像检测技术领域,具体涉及了一种基于YOLOv4-Tiny的自然果园场景下的柑橘木虱高精度检测方法及装置。
背景技术
柑橘产业作为千亿元级别的大产业,已经成为我国农民收入的重要来源。黄龙病是当前最严重的柑橘疾病之一,尚无有效的治疗方法,由于黄龙病的影响,全球柑橘产业受到严重威胁。柑橘木虱是柑橘黄龙病的主要传播媒介,对柑橘木虱进行检测与防控可以有效地控制黄龙病传播。
田间人工检测是常用的检测方法,如通过黄色粘虫板、捕虫网采集并计数和使用塑料棒敲打枝干取样等,这些方法都依赖于人工目测并且效率低下耗费劳动力。目前防治柑橘木虱的主要手段仍为化学防治,长期的不合理使用,不仅导致柑橘木虱出现了不同程度的抗药性,而且引发了环境污染和农药残留等一系列问题。
精确高效的柑橘木虱检测是防控柑橘黄龙病的重要前提,也是实现精准农业的关键环节。针对田间人工检测方法存在的问题,国内外诸多学者已经在基于卷积神经网络技术的农作物病虫害识别领域做了大量研究工作。韩国学者在柑橘病虫害分类领域开展系列研究,首先构建一个共有12561幅图像的数据集,包含24类柑橘病虫害,其中柑橘木虱图像有359张,其次基于DenseNet提出柑橘病虫害分类模型WeaklyDenseNet和BridgeNet-19,分类的准确率分别为93.42%和95.47%,模型大小分别为30.5MB和69.8MB。上述的两个模型主要应用于帮助农户进行柑橘病虫害分类,而不是专门针对柑橘木虱监测,因此模型的输出不包含柑橘木虱目标的位置和数量信息,无法精确判断柑橘木虱的虫害情况。美国学者以四轮摩托为行走机构,通过气动敲击机构拍打柑橘树的枝干,使柑橘木虱跌落至观察台,结合计算机视觉技术实现柑橘木虱检测,其中检测算法采用YOLOv1和YOLOv3目标检测模型,在总共8800幅白色背景下的柑橘木虱图像训练和测试,识别的准确率为80%,召回率为95%。美国橘园规模大,地势平坦,橘园的坡度小,柑橘树行距设置大,可以使用大型机械作业。而中国的柑橘大部分在山坡地种植,行株距也不统一,机械作业环境复杂,我国大部分的田间环境不适宜使用上述设备。
因此,如何针对我国柑橘园实际的种植情况,准确识别柑橘木虱是同行从业人员亟待解决的问题。
发明内容
鉴于上述问题,本发明提供一种自然果园场景下的柑橘木虱高精度检测方法及装置,该方法基于YOLOv4-Tiny对自然果园场景下的柑橘图像进行检测,能够解决自然果园场景下受复杂环境下准确检测的难题。
第一方面,本发明实施例提供一种自然果园场景下的柑橘木虱高精度检测方法,包括:
S1、获取待检测是否存在柑橘木虱的自然果园场景下的柑橘图像;
S2、通过预先训练得到的柑橘木虱检测模型对所述柑橘图像进行检测;所述检测模型通过多组训练数据对改进后的YOLOv4-Tiny网络模型进行训练得到的;所述多组训练数据的每一组数据包括柑橘木虱的目标框;所述改进后的YOLOv4-Tiny网络模型包括一条与浅层卷积层相连的路径,增加一个输出对小目标敏感的高分辨率输出特征图;
S3、根据所述检测模型的检测结果,确定所述柑橘图像是否存在柑橘木虱以及柑橘木虱的位置。
在一个实施例中,所述改进后的YOLOv4-Tiny网络模型训练过程,包括:
S21、通过手持式拍摄设备采集果园中柑橘树上柑橘木虱的彩色图像,所述彩色图像包括柑橘木虱小目标或被枝叶干扰的柑橘木虱图像;
S22、对采集的彩色图像进行预处理;
S23、对YOLOv4-Tiny网络模型进行改进,增加一条与浅层卷积层相连的路径,增加一个输出对小目标敏感的高分辨率输出特征图,获得改进后的YOLOv4-Tiny网络模型;
S24、对改进后的YOLOv4-Tiny网络模型设置网络模型参数;
S25、设置网络模型参数后,使用预处理后的部分彩色图像对改进后的YOLOv4-Tiny网络模型进行迭代训练;
S26、当满足预设条件后,迭代训练所对应的改进后的YOLOv4-Tiny网络模型作为最终的检测模型。
在一个实施例中,所述步骤S21对采集的彩色图像进行预处理,包括:
S211、对采集的彩色图像中的柑橘木虱标注目标框,包括木虱的位置和边框尺寸;
S212、将标注后的彩色图像数据按照预设比例构建训练集、验证集和测试集;
S213、对所述训练集中的彩色图像进行亮度调节、对比度调节、加入噪声和旋转四种操作扩增数据。
在一个实施例中,所述步骤S23,包括:
S231、原YOLOv4-Tiny网络利用深层卷积层的信息,输出两张分辨率较低的特征图;在原模型的特征融合网络的基础上添加一条与浅层卷积层相连的路径,增加一个对小目标敏感的高分辨率输出特征图;
S232、在原YOLOv4-Tiny网络结构其中的一个输出特征图上,通过上采样操作与新增的高分辨率输出特征图进行连接,融合模型中浅层的细节信息和深层的语义信息;获得改进后的YOLOv4-Tiny网络模型。
在一个实施例中,所述步骤S24包括:
S241、使用k-means++算法对所述训练集中的目标框大小进行聚类;根据模型输出目标框的数量设置聚类算法的k值,聚类的结果作为改进的YOLOv4-Tiny网络的目标框参数值;
S242、设置卷积神经网络输入图像的像素、batch size、mini-batch、权值的衰减速率、初始学习率和模型迭代次数。
在一个实施例中,所述步骤S241包括:
S2411、从所述训练集中随机选择1个样本作为第1个初始聚类中心;
S2412、计算每个样本与当前已有初始聚类中心的最短距离;
S2413、计算每个样本被选为下一个初始聚类中心的概率,按照轮盘法选择出下一个初始聚类中心;
S2414、重复步骤S2412步和步骤S2413,直到选择出k个初始聚类中心;
S2415、计算每个样本与k个聚类中心的距离,并将其分到距离最小的聚类中心,形成k个簇;
S2416、更新聚类中心为隶属簇全部样本的均值;
S2417、重复步骤S2415和步骤S2416直到聚类中心不再变化,获得聚类的结果作为改进的YOLOv4-Tiny网络的目标框参数值。
在一个实施例中,所述步骤S25中还包括:
在迭代训练过程中,每一次迭代开始前,深度学习框架从训练集中读取图像,通过mosaic数据增强生成新图像;将新生成的图像和读取的图像组合成训练样本,输入到模型进行训练。
第二方面,本发明实施例还提供一种自然果园场景下的柑橘木虱高精度检测装置,包括:
获取模块,用于获取待检测是否存在柑橘木虱的自然果园场景下的柑橘图像;
检测模块,用于通过预先训练得到的柑橘木虱检测模型对所述柑橘图像进行检测;所述检测模型通过多组训练数据对改进后的YOLOv4-Tiny网络模型进行训练得到的;所述多组训练数据的每一组数据包括柑橘木虱的目标框;所述改进后的YOLOv4-Tiny网络模型包括一条与浅层卷积层相连的路径,增加一个输出对小目标敏感的高分辨率输出特征图;
确定模块,用于根据所述检测模型的检测结果,确定所述柑橘图像是否存在柑橘木虱以及柑橘木虱的位置。
本发明实施例提供的上述技术方案的有益效果至少包括:
本发明实施例提供的一种自然果园场景下的柑橘木虱高精度检测方法:
1、中国橘园机械作业环境复杂,而且果园环境不便于部署价格昂贵的服务器。本发明以具有结构精简和推理速度快等优点的YOLOv4-Tiny模型为基础,提出一种适用于嵌入式设备的柑橘木虱目标检测方法,为小型及便于部署的柑橘木虱检测装备提供算法基础。
2、小目标检测是深度学习中较难解决的问题,柑橘木虱个体小,成虫尺寸通常为3-4mm,在普通设备所拍摄的图像中通常为小目标。本发明通过改进YOLOv4-Tiny模型的网络结构,增加52x52像素的输出特征图,提升模型对小目标的检测精度。
3、果园环境复杂,柑橘木虱目标容易被果树枝叶等非检测目标遮挡,本发明通过使用和改进mosaic数据增强,提升模型对遮挡目标的检测精度。
本发明的其它特征和优点将在随后的说明书中阐述,并且,部分地从说明书中变得显而易见,或者通过实施本发明而了解。本发明的目的和其他优点可通过在所写的说明书、权利要求书、以及附图中所特别指出的结构来实现和获得。
下面通过附图和实施例,对本发明的技术方案做进一步的详细描述。
附图说明
附图用来提供对本发明的进一步理解,并且构成说明书的一部分,与本发明的实施例一起用于解释本发明,并不构成对本发明的限制。在附图中:
图1为本发明实施例提供的自然果园场景下的柑橘木虱高精度检测方法流程图;
图2为本发明实施例提供的改进后的YOLOv4-Tiny网络模型训练过程的流程图;
图3为本发明实施例提供的改进后的YOLOv4-Tiny网络模型整体结构图;
图4为本发明实施例提供的使用验证集测试模型的mAP值的曲线图;
图5为本发明实施例提供的mosaic数据增强示意图;
图6为本发明实施例提供的自然果园场景下的柑橘木虱高精度检测装置的框图。
具体实施方式
下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例,然而应当理解,可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反,提供这些实施例是为了能够更透彻地理解本公开,并且能够将本公开的范围完整的传达给本领域的技术人员。
参照图1所示,本发明实施例提供的自然果园场景下的柑橘木虱高精度检测方法,包括:S1~S3;
S1、获取待检测是否存在柑橘木虱的自然果园场景下的柑橘图像;
S2、通过预先训练得到的柑橘木虱检测模型对所述柑橘图像进行检测;所述检测模型通过多组训练数据对改进后的YOLOv4-Tiny网络模型进行训练得到的;所述多组训练数据的每一组数据包括柑橘木虱的目标框;所述改进后的YOLOv4-Tiny网络模型包括一条与浅层卷积层相连的路径,增加一个输出对小目标敏感的高分辨率输出特征图;
S3、根据所述检测模型的检测结果,确定所述柑橘图像是否存在柑橘木虱以及柑橘木虱的位置。
本实施例中,步骤S1中可通过手持式拍摄设备,比如照相机、拍照手机等便于手持设备,利于在柑橘园内进行拍照作业,来获得柑橘图像;将获取的柑橘图像输入预先训练得到的柑橘木虱检测模型进行检测,并输出检测结果确定是否存在柑橘木虱以及柑橘木虱的位置。其中,检测模型是通过对YOLOv4-Tiny模型进行了改进,其思想是先修改原模型特征融合网络的结构,增加一个高分辨率的输出特征图,用于采样抽象小目标柑橘木虱的特征,可提升模型对目标柑橘木虱的检测精度。该方法可部署在小型设备Jetson nano和Raspberry Pi等嵌入式硬件平台上,可在复杂的田间环境下进行柑橘木虱的准确检测。
下面分别对上述各个步骤进行详细的说明。
参照图2所示,上述步骤S2中改进后的YOLOv4-Tiny网络模型训练过程包括:
S21、通过手持式拍摄设备采集果园中柑橘树上柑橘木虱的彩色图像,所述彩色图像包括柑橘木虱小目标或被枝叶干扰的柑橘木虱图像。比如,可采用手持式拍摄设备(照相机、拍照手机)对果园中柑橘树上的柑橘木虱进行拍摄,获得果园场景下的柑橘木虱彩色图像,图像包括小目标或被枝叶干扰的柑橘木虱图像。
S22、对采集的彩色图像进行预处理;
在步骤S21采集到的图像中,比如使用图像标注工具LabelImg对图像中的柑橘木虱进行标记,柑橘木虱的位置和边框大小等标签信息以YOLO格式储存于txt文件;
然后,将标注后的图像数据比如按照70%、10%、20%的比例拆分为训练集、验证集和测试集;
最后,对上述训练集中的图像通过亮度调节、对比度调节、加入噪声和旋转四种操作扩增数据。
S23、对YOLOv4-Tiny网络模型进行改进,增加一条与浅层卷积层相连的路径,增加一个输出对小目标敏感的高分辨率输出特征图,获得改进后的YOLOv4-Tiny网络模型;
在该步骤S23中,对YOLOv4-Tiny网络结构进行改进,得到改进后的YOLOv4-Tiny网络结构,改进过程如下:
S231、原YOLOv4-Tiny网络利用深层卷积层的信息,输出两张分辨率较低的特征图。参照图3所示,Input为输入的图像,比如(416,416,3)括号中的前两个数字为像素,第三个数字为通道数。Convolutional为卷积层,CSPResblock为跨阶段局部网络结构,FPN为特征金字塔网络,Upsample为上采样操作,Route为通道融合操作,YOLO Head则为模型的输出。对于416*416像素的输入图像,输出特征图的大小分别13*13和26*26。为充分利用浅层卷积层的细节信息,在原模型的特征融合网络的基础上添加一条与浅层卷积层相连的路径,增加一个对小目标敏感的高分辨率输出特征图。对于416*416像素的输入图像,新增特征图的大小为52*52;
S232、原YOLOv4-Tiny网络结构中大小为26*26的输出特征图通过上采样操作与新增的特征图进行连接,融合模型中浅层的细节信息和深层的语义信息,获得改进后的YOLOv4-Tiny网络模型。
S24、对改进后的YOLOv4-Tiny网络模型设置网络模型参数;
具体的,步骤S24中比如使用k-means++算法对步骤S22所得训练集中的目标框大小进行聚类。根据模型输出锚框(目标框)的数量设置聚类算法的k值,聚类的结果作为改进的YOLOv4-Tiny网络的锚框参数值;
1:从训练集中随机选择1个样本作为第1个初始聚类中心;
2:使用公式(3)计算每个样本与当前已有初始聚类中心的最短距离;
3:使用公式(2)计算每个样本被选为下一个初始聚类中心的概率,按照轮盘法选择出下一个初始聚类中心;
4:重复第2步和第3步,直到选择出k个初始聚类中心;
5:使用公式(1)计算每个样本与k个聚类中心的距离,并将其分到距离最小的聚类中心,形成k个簇;
6:更新聚类中心为隶属簇全部样本的均值;
7:重复第5步和第6步直到聚类中心不再变化;
d(box,cen)=1-IOU(box,cen) (1)
Figure BDA0003073692850000091
Figure BDA0003073692850000092
然后,设置改进后的YOLOv4-Tiny网络模型输入图像的像素、batch size、mini-batch、权值的衰减速率、初始学习率和模型迭代次数。
式(1)中box为训练集的目标框,cen为聚类中心;IOU指训练集目标框box与聚类中心cen的交并比(Intersection of Union,IoU),d为训练集目标框box与聚类中心cen的距离。式(2)中G为训练集所有目标框的宽和高的集合,g为训练集中一个目标的宽和高;p为每个样本被选为下一个初始聚类中心的概率,dmin为每个样本与当前已有初始聚类中心的最短距离。式(3)中S为所有聚类中心的集合,s为聚类中心集合中的一个样本。
S25、设置网络模型参数后,使用预处理后的部分彩色图像对改进后的YOLOv4-Tiny网络模型进行迭代训练;
训练网络模型:将设置好参数后的改进的YOLOv4-Tiny网络结构放入配置好环境的计算机中,使用训练集对模型进行训练,每迭代预设次数使用验证集测试模型的mAP值并保存一个模型。参照图4所示,比如每迭代1000次使用验证集测试模型的mAP值并将模型的权值保存到指定路径,mAP值显示为图4上部的折线。
S26、当满足预设条件后,比如验证集的检测准确率达到97%时,迭代训练所对应的改进后的YOLOv4-Tiny网络模型作为最终的检测模型。当模型的训练损失完全收敛或者达到最大迭代次数时,停止训练模型,迭代训练所对应的改进后的YOLOv4-Tiny网络模型作为最终的检测模型。
在上述步骤S25中,在训练模型时,可使用mosaic数据增强:
在每一次迭代开始前,深度学习框架不仅会从训练集中读取图像,而且会通过mosaic数据增强生成新图像,随后将新生成的图像和读取的图像组合成训练样本,输入到模型进行训练
比如mosaic数据增强将4张训练集的图像进行随机裁剪,然后拼接成1张图像,最后以IOU作为评价指标,对新生成图像中的目标框进行筛选。以IOU作为指标,结合标定数据集时所使用的相关标准设定阈值。如果新图像目标框与相应原图目标框的IOU小于阈值,删除新图像中的目标框,认为此处不存在柑橘木虱目标。反之,如果新图像目标框与相应原图目标框的IOU大于或等于阈值,保留新图像中的目标框,认为此处存在柑橘木虱目标。参照图5所示,mosaic数据增强会随机裁剪训练集的图像,裁剪区域中包含背景和目标框的一部分,假设阈值Threshhold为0.3,上方裁剪图像目标框与原图像目标框的交并比IOU为0.5,大于阈值,所以保留裁剪图像中的目标框,而下方图像由于IOU为0.3,低于阈值,所以删除裁剪图像中的目标框。
传统mosaic数据增强生成的图像使模型在训练过程中仅通过局部特征对目标进行识别,强化模型对柑橘木虱局部特征的认知,弱化模型对于目标全部特征的依赖,有效提升模型对遮挡目标的检测精度。但是传统方法会产生只包含极少目标信息甚至完全没有目标信息的目标框,这类含有歧义的目标框会导致模型的学习变得困难。而本发明实施例结合IOU改进后的mosaic数据增强可以过滤部分含有歧义的目标框,从而提升模型的识别精度。
最后,可运用训练后得到的网络模型进行识别:在计算机上准备拍摄好的柑橘木虱图像,通过终端输入测试命令,命令内容包括训练好的网络模型和需要识别的图片名,最终得到柑橘木虱的识别结果。
为了进一步说明本发明提供的自然果园场景下的柑橘木虱高精度检测方法,列举一个具体实施例:
本实施例的所有数据皆采集于自然柑橘园中,来源于广东省广州市内。主要使用高清拍摄手机,距离柑橘数枝叶上的柑橘木虱10-40厘米处拍摄RGB彩色图像,剔除模糊的图像,最终保留2024张。
使用图像标注工具LabelImg对图像中的柑橘木虱进行标记,柑橘木虱的位置和边框大小等标签信息以YOLO格式储存于txt文件。从数据集中随机挑选1417张作为训练集,再从剩下的图像中挑选202张作为验证集,余下的405张作为测试集。
对上述训练集中的图像通过亮度调节、对比度调节、加入噪声和旋转4种操作扩增数据,最终训练集包含5668幅图像。此外,对图像中的柑橘木虱目标进行尺寸估计,将占图像像素面积分小于32×32的柑橘木虱个体定义为小目标。
使用k-means++算法对所得训练集中的目标框大小进行聚类。根据模型输出锚框的数量设置聚类算法的k值为9,最终得到的聚类结果为:(30,57),(42,28),(42,86),(58,57),(77,81),(86,44)。
实验采用16GB内存、Nvidia GeForce RTX 2080 Ti型号的GPU、Intel Core i7-10700@2.90GHz处理器的硬件平台和Ubuntu16.04操作系统。在Darknet深度学习框架上,采用C语言作为编程语言实现本发明方法。
将训练的初始学习率设置为0.00261,学习率衰减因子为0.1,每迭代1000次保存一次模型,最大迭代次数为20000次,改进的YOLOv4-Tiny网络的锚框参数值为:(30,57),(42,28),(42,86),(58,57),(77,81),(86,44)。
在模型训练过程中,使用结合IOU改进后的mosaic数据增强对数据集中的每四张图像进行裁剪、拼接和筛选操作,生成新的训练图像。观察模型的总损失值,当总损失收敛或者达到最大迭代次数时,停止训练,得到改进后的YOLOv4-Tiny网络模型。
改进后模型检测柑橘木虱平均精度为96.16%,相比基础训练模型提升了2.14%,对小目标检测的平均精度提升了4.29%。改进后的模型在检测速度基本不变的前提下,提升了检测精度,同时也基本克服了小目标不好检测的困难。
本发明实施例提供的方法,其中所使用的检测模型,是对YOLOv4-Tiny模型进行了改进,其思想是先修改原模型特征融合网络的结构,增加一个高分辨率的输出特征图,用于采样抽象小目标柑橘木虱的特征,其次在训练时使用mosaic数据增强降低模型对目标全部特征的依赖,最终达到在保持原模型结构精简和检测速度快等优点的同时,提升模型对目标的检测精度,可以在复杂的田间环境下对不同遮挡程度的树上柑橘木虱进行识别。
基于同一发明构思,本发明实施例还提供自然果园场景下的柑橘木虱高精度检测装置,由于该装置所解决问题的原理与前述方法相似,因此该装置的实施可以参见前述方法的实施,重复之处不再赘述。
一种自然果园场景下的柑橘木虱高精度检测装置,参照图6所示,包括:
获取模块61,用于获取待检测是否存在柑橘木虱的自然果园场景下的柑橘图像;
检测模块62,用于通过预先训练得到的柑橘木虱检测模型对所述柑橘图像进行检测;所述检测模型通过多组训练数据对改进后的YOLOv4-Tiny网络模型进行训练得到的;所述多组训练数据的每一组数据包括柑橘木虱的目标框;所述改进后的YOLOv4-Tiny网络模型包括一条与浅层卷积层相连的路径,增加一个输出对小目标敏感的高分辨率输出特征图;
确定模块63,用于根据所述检测模型的检测结果,确定所述柑橘图像是否存在柑橘木虱以及柑橘木虱的位置。
本领域内的技术人员应明白,本发明的实施例可提供为方法、系统、或计算机程序产品。因此,本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器和光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
显然,本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样,倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内,则本发明也意图包含这些改动和变型在内。

Claims (6)

1.一种自然果园场景下的柑橘木虱高精度检测方法,其特征在于,包括:
S1、获取待检测是否存在柑橘木虱的自然果园场景下的柑橘图像;
S2、通过预先训练得到的柑橘木虱检测模型对所述柑橘图像进行检测;所述检测模型通过多组训练数据对改进后的YOLOv4-Tiny网络模型进行训练得到的;所述多组训练数据的每一组数据包括柑橘木虱的目标框;所述改进后的YOLOv4-Tiny网络模型包括一条与浅层卷积层相连的路径,增加一个输出对小目标敏感的高分辨率输出特征图;
S3、根据所述检测模型的检测结果,确定所述柑橘图像是否存在柑橘木虱以及柑橘木虱的位置;
其中,所述改进后的YOLOv4-Tiny网络模型训练过程,包括:
S21、通过手持式拍摄设备采集果园中柑橘树上柑橘木虱的彩色图像,所述彩色图像包括柑橘木虱小目标或被枝叶干扰的柑橘木虱图像;
S22、对采集的彩色图像进行预处理;
S23、对YOLOv4-Tiny网络模型进行改进,增加一条与浅层卷积层相连的路径,增加一个输出对小目标敏感的高分辨率输出特征图,获得改进后的YOLOv4-Tiny网络模型;
S24、对改进后的YOLOv4-Tiny网络模型设置网络模型参数;
S25、设置网络模型参数后,使用预处理后的部分彩色图像对改进后的YOLOv4-Tiny网络模型进行迭代训练;
S26、当满足预设条件后,迭代训练所对应的改进后的YOLOv4-Tiny网络模型作为最终的检测模型;
所述步骤S23,包括:
S231、原YOLOv4-Tiny网络利用深层卷积层的信息,输出两张分辨率低的特征图;其中,改进后的YOLOv4-Tiny网络结构中,Input为输入的图像,包含三个数值,前两个数字为像素,第三个数字为通道数;Convolutional为卷积层,CSPResblock为跨阶段局部网络结构,FPN为特征金字塔网络,Upsample为上采样操作,Route为通道融合操作,YOLO Head则为模型的输出;并在原模型的特征融合网络的基础上添加一条与浅层卷积层相连的路径,增加一个对小目标敏感的高分辨率输出特征图;
S232、在原YOLOv4-Tiny网络结构其中的一个输出特征图上,通过上采样操作与新增的高分辨率输出特征图进行连接,融合模型中浅层的细节信息和深层的语义信息;获得改进后的YOLOv4-Tiny网络模型。
2.如权利要求1所述的方法,其特征在于,所述步骤S21对采集的彩色图像进行预处理,包括:
S211、对采集的彩色图像中的柑橘木虱标注目标框,包括木虱的位置和边框尺寸;
S212、将标注后的彩色图像数据按照预设比例构建训练集、验证集和测试集;
S213、对所述训练集中的彩色图像进行亮度调节、对比度调节、加入噪声和旋转四种操作扩增数据。
3.如权利要求1所述的方法,其特征在于,所述步骤S24包括:
S241、使用k-means++算法对训练集中的目标框大小进行聚类;根据模型输出目标框的数量设置聚类算法的k值,聚类的结果作为改进的YOLOv4-Tiny网络的目标框参数值;
S242、设置卷积神经网络输入图像的像素、batch size、mini-batch、权值的衰减速率、初始学习率和模型迭代次数。
4.如权利要求3所述的方法,其特征在于,所述步骤S241包括:
S2411、从所述训练集中随机选择1个样本作为第1个初始聚类中心;
S2412、计算每个样本与当前已有初始聚类中心的最短距离;
S2413、计算每个样本被选为下一个初始聚类中心的概率,按照轮盘法选择出下一个初始聚类中心;
S2414、重复步骤S2412步和步骤S2413,直到选择出k个初始聚类中心;
S2415、计算每个样本与k个聚类中心的距离,并将其分到距离最小的聚类中心,形成k个簇;
S2416、更新聚类中心为隶属簇全部样本的均值;-
S2417、重复步骤S2415和步骤S2416直到聚类中心不再变化,获得聚类的结果作为改进的YOLOv4-Tiny网络的目标框参数值。
5.如权利要求3所述的方法,其特征在于,所述步骤S25中还包括:
在迭代训练过程中,每一次迭代开始前,深度学习框架从训练集中读取图像,通过mosaic数据增强生成新图像;将新生成的图像和读取的图像组合成训练样本,输入到模型进行训练。
6.一种自然果园场景下的柑橘木虱高精度检测装置,其特征在于,包括:获取模块,用于获取待检测是否存在柑橘木虱的自然果园场景下的柑橘图像;
检测模块,用于通过预先训练得到的柑橘木虱检测模型对所述柑橘图像进行检测;所述检测模型通过多组训练数据对改进后的YOLOv4-Tiny网络模型进行训练得到的;所述多组训练数据的每一组数据包括柑橘木虱的目标框;所述改进后的YOLOv4-Tiny网络模型包括一条与浅层卷积层相连的路径,增加一个输出对小目标敏感的高分辨率输出特征图;
确定模块,用于根据所述检测模型的检测结果,确定所述柑橘图像是否存在柑橘木虱以及柑橘木虱的位置;
其中,所述改进后的YOLOv4-Tiny网络模型训练过程,包括:
S21、通过手持式拍摄设备采集果园中柑橘树上柑橘木虱的彩色图像,所述彩色图像包括柑橘木虱小目标或被枝叶干扰的柑橘木虱图像;
S22、对采集的彩色图像进行预处理;
S23、对YOLOv4-Tiny网络模型进行改进,增加一条与浅层卷积层相连的路径,增加一个输出对小目标敏感的高分辨率输出特征图,获得改进后的YOLOv4-Tiny网络模型;
S24、对改进后的YOLOv4-Tiny网络模型设置网络模型参数;
S25、设置网络模型参数后,使用预处理后的部分彩色图像对改进后的YOLOv4-Tiny网络模型进行迭代训练;
S26、当满足预设条件后,迭代训练所对应的改进后的YOLOv4-Tiny网络模型作为最终的检测模型;
所述步骤S23,包括:
S231、原YOLOv4-Tiny网络利用深层卷积层的信息,输出两张分辨率低的特征图;其中,改进后的YOLOv4-Tiny网络结构中,Input为输入的图像,包含三个数值,前两个数字为像素,第三个数字为通道数;Convolutional为卷积层,CSPResblock为跨阶段局部网络结构,FPN为特征金字塔网络,Upsample为上采样操作,Route为通道融合操作,YOLO Head则为模型的输出;并在原模型的特征融合网络的基础上添加一条与浅层卷积层相连的路径,增加一个对小目标敏感的高分辨率输出特征图;
S232、在原YOLOv4-Tiny网络结构其中的一个输出特征图上,通过上采样操作与新增的高分辨率输出特征图进行连接,融合模型中浅层的细节信息和深层的语义信息;获得改进后的YOLOv4-Tiny网络模型。
CN202110546086.8A 2021-05-19 2021-05-19 一种自然果园场景下的柑橘木虱高精度检测方法及装置 Active CN113312999B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110546086.8A CN113312999B (zh) 2021-05-19 2021-05-19 一种自然果园场景下的柑橘木虱高精度检测方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110546086.8A CN113312999B (zh) 2021-05-19 2021-05-19 一种自然果园场景下的柑橘木虱高精度检测方法及装置

Publications (2)

Publication Number Publication Date
CN113312999A CN113312999A (zh) 2021-08-27
CN113312999B true CN113312999B (zh) 2023-07-07

Family

ID=77373862

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110546086.8A Active CN113312999B (zh) 2021-05-19 2021-05-19 一种自然果园场景下的柑橘木虱高精度检测方法及装置

Country Status (1)

Country Link
CN (1) CN113312999B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114049346B (zh) * 2021-11-26 2024-03-26 赣南师范大学 一种基于剪裁YOLOv3-SPP3的柑橘木虱检测与识别方法
CN115588117B (zh) * 2022-10-17 2023-06-09 华南农业大学 基于YOLOv5s-BC的柑橘木虱检测方法及系统

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111709489A (zh) * 2020-06-24 2020-09-25 广西师范大学 一种基于改进YOLOv4的柑橘识别方法
CN112348828A (zh) * 2020-10-27 2021-02-09 浙江大华技术股份有限公司 基于神经网络的实例分割方法和装置以及存储介质
CN112580664A (zh) * 2020-12-15 2021-03-30 哈尔滨理工大学 一种基于ssd网络的小目标检测方法
CN112613438A (zh) * 2020-12-29 2021-04-06 华南农业大学 一种便携式柑橘在线测产仪
CN112651966A (zh) * 2021-01-18 2021-04-13 厦门大学嘉庚学院 一种基于acyolov4_csp的印刷电路板微小缺陷检测方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111709489A (zh) * 2020-06-24 2020-09-25 广西师范大学 一种基于改进YOLOv4的柑橘识别方法
CN112348828A (zh) * 2020-10-27 2021-02-09 浙江大华技术股份有限公司 基于神经网络的实例分割方法和装置以及存储介质
CN112580664A (zh) * 2020-12-15 2021-03-30 哈尔滨理工大学 一种基于ssd网络的小目标检测方法
CN112613438A (zh) * 2020-12-29 2021-04-06 华南农业大学 一种便携式柑橘在线测产仪
CN112651966A (zh) * 2021-01-18 2021-04-13 厦门大学嘉庚学院 一种基于acyolov4_csp的印刷电路板微小缺陷检测方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
基于模型剪枝改进FCOS 的实时柑橘检测研究;黄河清 等;《河南农业大学学报》;第55卷(第3期);第453-459页 *

Also Published As

Publication number Publication date
CN113312999A (zh) 2021-08-27

Similar Documents

Publication Publication Date Title
CN112464971A (zh) 害虫检测模型构建方法
CN110929756B (zh) 基于深度学习的钢材尺寸和数量的识别方法、智能设备和存储介质
CN113392775B (zh) 一种基于深度神经网络的甘蔗幼苗自动识别与计数方法
CN111340141A (zh) 一种基于深度学习的作物幼苗与杂草检测方法及系统
CN110796011B (zh) 一种基于深度学习的稻穗识别方法、系统、装置及介质
CN113312999B (zh) 一种自然果园场景下的柑橘木虱高精度检测方法及装置
CN108154102A (zh) 一种道路交通标志识别方法
Mishra et al. A Deep Learning-Based Novel Approach for Weed Growth Estimation.
CN110321956B (zh) 一种基于人工智能的牧草病虫害治理方法及装置
CN113160062B (zh) 一种红外图像目标检测方法、装置、设备及存储介质
CN110096994A (zh) 一种基于模糊标签语义先验的小样本PolSAR图像分类方法
CN106600595A (zh) 一种基于人工智能算法的人体特征尺寸自动测量方法
CN104463240B (zh) 一种仪表定位方法及装置
CN113657326A (zh) 一种基于多尺度融合模块和特征增强的杂草检测方法
CN111179216A (zh) 一种基于图像处理与卷积神经网络的作物病害识别方法
CN112464766A (zh) 一种农田地头自动识别方法及系统
CN112862849A (zh) 一种基于图像分割和全卷积神经网络的田间稻穗计数方法
CN114818909A (zh) 一种基于作物长势特征的杂草检测方法和装置
Sehree et al. Olive trees cases classification based on deep convolutional neural network from unmanned aerial vehicle imagery
CN111444816A (zh) 一种基于Faster RCNN的多尺度密集行人检测方法
CN110188662A (zh) 一种水表数字的ai智能识别方法
CN108764233A (zh) 一种基于连续卷积激活的场景字符识别方法
CN116739739A (zh) 一种贷款额度评估方法、装置、电子设备及存储介质
CN116385717A (zh) 叶面病害识别方法、装置、电子设备、存储介质及产品
CN115690778A (zh) 基于深度神经网络的成熟期水果的检测与跟踪计数的方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant