CN111126222A - 一种基于神经网络的穴盘苗空穴识别方法以及穴盘苗补苗系统 - Google Patents
一种基于神经网络的穴盘苗空穴识别方法以及穴盘苗补苗系统 Download PDFInfo
- Publication number
- CN111126222A CN111126222A CN201911296761.5A CN201911296761A CN111126222A CN 111126222 A CN111126222 A CN 111126222A CN 201911296761 A CN201911296761 A CN 201911296761A CN 111126222 A CN111126222 A CN 111126222A
- Authority
- CN
- China
- Prior art keywords
- plug
- seedling
- plug seedling
- convolutional
- neural network
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 38
- 230000001502 supplementing effect Effects 0.000 title claims abstract description 20
- 238000013528 artificial neural network Methods 0.000 title claims description 14
- 230000006870 function Effects 0.000 claims abstract description 82
- 238000013527 convolutional neural network Methods 0.000 claims abstract description 45
- 230000004913 activation Effects 0.000 claims abstract description 33
- 210000002569 neuron Anatomy 0.000 claims description 50
- 238000012549 training Methods 0.000 claims description 48
- 238000012360 testing method Methods 0.000 claims description 24
- 238000011176 pooling Methods 0.000 claims description 17
- 230000002829 reductive effect Effects 0.000 claims description 13
- 239000000758 substrate Substances 0.000 claims description 12
- 230000005540 biological transmission Effects 0.000 claims description 11
- 238000007781 pre-processing Methods 0.000 claims description 9
- 238000005286 illumination Methods 0.000 claims description 7
- 238000004458 analytical method Methods 0.000 claims description 6
- 238000006243 chemical reaction Methods 0.000 claims description 6
- 238000007667 floating Methods 0.000 claims description 6
- 230000008859 change Effects 0.000 claims description 5
- 238000010223 real-time analysis Methods 0.000 claims description 4
- 239000002689 soil Substances 0.000 claims description 4
- 239000013589 supplement Substances 0.000 claims description 4
- 241000512668 Eunectes Species 0.000 claims description 3
- 238000005520 cutting process Methods 0.000 claims description 3
- 230000003247 decreasing effect Effects 0.000 claims description 3
- 238000013135 deep learning Methods 0.000 claims description 3
- 238000002474 experimental method Methods 0.000 claims description 3
- 238000010606 normalization Methods 0.000 claims description 3
- 235000015097 nutrients Nutrition 0.000 claims description 3
- 238000012545 processing Methods 0.000 claims description 3
- 229910052902 vermiculite Inorganic materials 0.000 claims description 3
- 235000019354 vermiculite Nutrition 0.000 claims description 3
- 239000010455 vermiculite Substances 0.000 claims description 3
- 230000000007 visual effect Effects 0.000 claims description 3
- 230000003213 activating effect Effects 0.000 claims description 2
- 230000000694 effects Effects 0.000 abstract description 9
- 235000013311 vegetables Nutrition 0.000 abstract description 9
- 238000005516 engineering process Methods 0.000 abstract description 6
- 206010063385 Intellectualisation Diseases 0.000 abstract 1
- 235000007688 Lycopersicon esculentum Nutrition 0.000 description 10
- 240000003768 Solanum lycopersicum Species 0.000 description 10
- 230000009286 beneficial effect Effects 0.000 description 4
- 238000001514 detection method Methods 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 230000007547 defect Effects 0.000 description 3
- 239000000284 extract Substances 0.000 description 3
- 238000000605 extraction Methods 0.000 description 3
- 238000003709 image segmentation Methods 0.000 description 3
- 230000036961 partial effect Effects 0.000 description 3
- 230000011218 segmentation Effects 0.000 description 3
- 241000196324 Embryophyta Species 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 230000007423 decrease Effects 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 230000033001 locomotion Effects 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 238000002054 transplantation Methods 0.000 description 2
- NAWXUBYGYWOOIX-SFHVURJKSA-N (2s)-2-[[4-[2-(2,4-diaminoquinazolin-6-yl)ethyl]benzoyl]amino]-4-methylidenepentanedioic acid Chemical compound C1=CC2=NC(N)=NC(N)=C2C=C1CCC1=CC=C(C(=O)N[C@@H](CC(=C)C(O)=O)C(O)=O)C=C1 NAWXUBYGYWOOIX-SFHVURJKSA-N 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000008034 disappearance Effects 0.000 description 1
- 230000000670 limiting effect Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 238000010899 nucleation Methods 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 230000011514 reflex Effects 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 230000000630 rising effect Effects 0.000 description 1
- 230000007226 seed germination Effects 0.000 description 1
- 230000001629 suppression Effects 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
- 239000013598 vector Substances 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/10—Terrestrial scenes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/26—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
- G06V10/267—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion by performing operations on regions, e.g. growing, shrinking or watersheds
Abstract
为了提升全自动蔬菜移栽机的自动化和智能化,以解决现有技术中相邻穴孔茎叶相互重叠造成的穴盘苗识别准确率低的技术问题,本发明提供了一种穴盘苗补苗装置,并提出了基于卷积神经网络的穴盘苗空穴识别方法,对穴盘苗图像进行了预处理,将整个穴盘图像按照穴盘规格拆分成多个穴孔图像,将识别转化成单个穴孔图像的二分类识别问题,构建了LeNet‑5卷积神经网络识别模型,采用Relu和Sigmoid两种激活函数,使用交叉熵损失函数,通过正则化和数据增强技术,本发明的技术方案提高了卷积神经网络的穴盘苗识别模型具有较高的识别准确率和泛化能力,解决了穴盘苗补苗装置识别准确度低的技术问题,提高了空穴盘苗的识别精度,进一步提升了全自动蔬菜的移栽效果。
Description
技术领域:
本发明涉及一种穴盘苗空穴识别的技术领域,并具体涉及一种基于卷积神经网络的穴盘苗空穴识别的技术领域。
背景技术:
众所周知,我国是世界上最大的蔬菜生产国,穴盘育苗移栽是蔬菜生产中的主要种植方式,随着种植量的增加和劳动力成本的提高,正在越来越多的采用机械移栽,但目前所采用的移栽机械多为人工喂苗的半自动移栽机,还无法从根本上解决劳动强度大、移栽效率低、移栽精度低的问题。全自动蔬菜移栽机自动从穴盘中抓取钵苗,然后栽植到更大的钵体或大田,具有移栽效率高、劳动强度低等优点,成为相关机构的研究重点。受种子发芽率、育苗环境等因素影响,穴盘中会出现以空穴为主的空穴、弱苗、残苗等现象,如果全自动移栽机无法识别空穴,仍然正常移栽,将极大影响全自动移栽机的移栽效果,造成漏栽率升高。因此,识别判断穴盘中每个穴孔是否为空,并补入同龄钵苗,可以提升全自动移栽机的自动化和智能化水平,是提高全自动移栽机移栽效果的有效途径。
现有技术的穴盘苗识别方法中,如目前现有技术中已经使用的机器视觉辅助的自动移栽机,基于图像的灰度信息,通过采样获取分割阈值,确定穴孔是否为空;又如已经被研发了的具有视觉系统的苗床移栽机器人,其视觉系统以一个预先定义的值进行图像分割确定空穴以减少移栽时间;意大利Ferrari公司Futura型全自动移栽机,使用光电技术扫描穴盘苗,判别是否缺苗;金鑫、吴俭敏等设计了使用背景抑制漫反射光电传感器检测系统,传感器可调整自身高度和检测距离对第一排穴盘苗叶片以下的杆茎进行检测,以判断是否缺苗。而上述现有技术中的穴盘识别方法从检测方法上分为两种,一是光电传感器检测,但该方法只能检测缺苗信息,功能单一,并且容易受幼苗植株大小、生长角度以及相邻穴孔幼苗的干扰,智能化程度较低。二是图像处理法,以上的图像处理法都是以图像分割为出发点,将幼苗和背景分割开,然后计算穴孔中幼苗像素点的数量,受光照、拍摄角度和穴盘苗基质的影响,图像分割后会丢失幼苗部分杆茎、叶片以及杆茎叶片间的连贯性信息,且容易受相邻穴孔的影响,会出现误判现象,以上图像处理法比较适合早期穴盘苗识别。
蔬菜穴盘育苗,一般在中早期开始对穴盘进行补苗,由于穴盘苗生长较快,中期或中早期穴盘苗就会出现重叠现象,为此,如何能够使用一种更有效的穴盘苗识别方法。在该领域需要一种能够更加精准有效的穴盘识别方法以及装置。
近年来卷积神经网络(convolutional neural network,CNN)的应用非常广泛,是机器学习领域中最有效的学习方法之一,并且由于其学到的特征具有平移不变的性质,以及可以学习到对象的空间层次结构,使得它在图像识别领域的表现更加优异。越来越多技术人员也开展了卷积神经网络在农业领域的应用研究。本申请为了克服上述提到的技术问题,提供了一种基于机器视觉的穴盘苗补苗装置,将卷积神经网络应用于穴盘苗图像,提供了一种基于神经网络模型,通过模型强大的特征提取能力,解决相邻穴孔幼苗相互干扰的技术问题,从而有效地识别判断穴孔是否为空穴,显著地提升全自动蔬菜移栽机的自动化和智能化。
发明内容:
本发明的目的在于提供一种穴盘苗补苗装置和基于神经网络的穴盘苗空穴识别方法,以克服现有技术中的穴盘苗空穴识别中容易受相邻穴孔的影响会出现误判现象,提到识别精度,从而解决相邻穴孔幼苗相互干扰的技术问题。
具体而言,本发明提供一种基于神经网络的穴盘苗空穴识别方法,用于获得穴盘苗空穴状态并进行实时分析,其特征在于,步骤一:首先进行穴盘苗图像采集及数据集预处理,采用穴盘苗图像进行训练,采集穴盘苗图像时,通过调节人工温室的光照强度,模拟穴盘苗补苗装置在室内工作时光照发生的变化,在穴苗盘的多个角度进行拍摄,采集获得穴盘苗在育苗期一定天数内的若干张穴盘苗图像;步骤二:对穴盘苗图像进行预处理及数据集构建,采取将大的穴盘苗图像拆分成小的单个的穴孔图像的方式,先裁剪掉原图上的非苗盘区域,然后根据苗盘规格,沿穴孔边沿拆分成12×6共72个小图像,每个图片对应一个穴孔,上述穴盘苗图像预处理过程在穴盘苗补苗装置运行时,由于穴盘停在相机正下方,其位置固定,其通过位置标定实现工控机自动处理。步骤三:构建卷积神经网络穴盘苗识别模型,模型包含4个卷积块,每个卷积块包含一个卷积层、一个激活层和一个池化层,卷积层都采用3×3的卷积核,卷积运算时的步幅设定为1,输入数据经卷积运算后成为特征图,特征图数量分别为32、64、128、128,随着模型的深入,特征图数量不断增加,但随着卷积运算的进行其尺寸在逐渐变小,池化层采用最大池化降采样,采用2×2的窗口,步幅设定为2,将特征图的尺寸减小为原来的一半,以减小模型参数,平铺层将卷积块输出的多维张量扁平化,转变为一维张量,全连接层包含512个神经元节点,对卷积层识别出的特征图进行整合,该层也含有激活函数层,输出层也是一个全连接层,只包含一个神经元节点,输出最终的分类结果。步骤四:训练所述卷积神经网络模型,采取批量的方法,每个批次训练100张图片,每一个批次的训练作为一次迭代,共迭代60次,每迭代完一次后更新模型的参数,然后使用每次迭代后的网络模型在测试集上进行测试,并记录模型在训练集和测试集上的识别准确率和损失函数的损失值。
进一步地,所述步骤一中的穴盘苗图像采集时使用在人工温室中培育四盘穴盘苗,温室白天温度保持在25℃,夜晚温度保持在15℃,育苗基质由草炭、蛭石、营养土构成,穴苗盘采用12×6孔穴盘。
进一步地,所述步骤二中穴盘苗图像预处理拆分后的图像经过RGB格式转化、大小调整、浮点数转化以及0-1归一化处理,形成大小为128×128像素、深度为3、数值在0-1之间的浮点数张量。
更进一步地,其中所述步骤三中的卷积神经网络穴盘苗识别模型的卷积层采用Relu作为激活函数,输出层采用适合二分类的Sigmoid激活函数。
优选地是,其中所述步骤三中的卷积神经网络穴盘苗识别模型中引入交叉熵损失函数,以避免激活函数导数导致的网络速率缓慢从而对卷积神经网络模型进行了优化。
更优选地是,所述的卷积神经网络分析选取的交叉熵(crossentropy)损失函数的公式如下:
更进一步地是,所述步骤四中的卷积神经网络模型训练所使用的环境是在戴尔Vostro 3470-R1328R台式机上完成的,配置为:酷睿八代i5处理器、8G内存、GeForce GTX760M显卡、Windows10操作系统,实验所使用的编程软件是Anaconda,采用TensorFlow深度学习框架,编程语言是Python3.5。
本发明还提供了一种基于卷积神经网络的穴盘苗补苗系统,用于对穴盘苗进行图像采集并实时分析进行补苗,其特征在于,包括:控制装置、视觉装置、传输带、机械手、霍尔传感器,所述控制装置,用于实现系统的整体控制;所述视觉装置,用于穴盘苗识别,其是由工业相机和工控机组成的;所述传输带在步进电机驱动下完成苗盘的输送,机械手固定在直线模组上,伺服电机驱动直线模组,实现钵苗的抓取、补苗等动作,霍尔传感器用于实现苗盘的精确定位;其中,所述苗盘包括第一苗盘和第二苗盘,所述的穴盘苗补苗装置从所述第一苗盘上取出适合移栽的钵苗,补到第二苗盘上。补苗作业时,操作人员将第一苗盘放置到第一传输带和第二传输带上,两个传输带独立工作,输送第一苗盘到相机正下方,视觉系统识别判断穴盘苗,识别完成后给控制器发送识别数据,然后第一传输带将第一苗盘输送到机械手下方,机械手首先运行到第二苗盘上,在控制器的控制下取出空穴孔中的基质;接着运行到两个传输带的中间,丢弃基质;然后运行到第一苗盘上,取出适合移栽的钵苗;最后运行到第二传输带,将钵苗补入苗盘穴孔;所述补苗系统中传输带、直线模组和机械手在控制装置的控制下协调工作、往复运行实现补苗作业;所述第二苗盘补苗完成或第一苗盘上没有适合移栽的钵苗时,控制装置发出声光报警,提醒操作人员及时取走或补充新的苗盘。
进一步地,所述卷积神经网络分析具体使用穴盘苗识别模型,模型包含4个卷积块,每个卷积块包含一个卷积层、一个激活层和一个池化层,卷积层都采用3×3的卷积核,卷积运算时的步幅设定为1,输入数据经卷积运算后成为特征图,特征图数量分别为32、64、128、128,随着模型的深入,特征图数量不断增加,但随着卷积运算的进行其尺寸在逐渐变小,池化层采用最大池化降采样,采用2×2的窗口,步幅设定为2,将特征图的尺寸减小为原来的一半,以减小模型参数,平铺层将卷积块输出的多维张量扁平化,转变为一维张量,全连接层包含512个神经元节点,对卷积层识别出的特征图进行整合,该层也含有激活函数层,输出层也是一个全连接层,只包含一个神经元节点,输出最终的分类结果。
更优选地是,所述的卷积神经网络分析选取交叉熵(crossentropy)损失函数,函数公式如下:
本发明通过采用上述技术方案的穴盘苗空穴识别方法与系统,整个方案就对比现有技术而言,具有如下优点:
(1)能够实时地将穴盘苗的情况进行分析,克服了在背景技术中提到的相邻穴孔幼苗对空穴识别造成的干扰的技术问题;
(2)简化成小的穴孔图像二分类识别,极大地减小了识别模型的大小,有助于提升模型的识别精度;
(3)本发明使用的卷积神经网络穴盘苗识别模型,使得模型识别精度高,泛化能力强;
(4)进一步提升全自动蔬菜移栽机的自动化和智能化,达到了有益技术效果。
附图说明:
图1是穴盘苗补苗装置结构示意图;
图2是获取到的番茄苗图像图;
图3是获取到的图像预处理及数据集构建的流程图;
图4是网络架构、损失函数和优化器关系图;
图5:构建的卷积神经网络穴盘苗识别模型;
图6:Relu激活函数模型准确率与损失值曲线图;
图7:Elu激活函数模型准确率与损失值曲线图;
图8:正则化模型准确率与损失值曲线图;
图9:图像随机增强示例图;
图10:数据增强模型训练准确率与损失值曲线图。
图中:1-一号步进电机;2-第一传输带;3-二号步进电机;4-第二传输带;5-机架;6-霍尔传感器;7-控制箱;8-伺服电机;9-二号相机;10-一号相机;11.机械手;12-直线模组;13-苗盘。
具体实施方式:
为了更好地说明本发明的发明目的、技术方案的实施及本发明相比较现有技术而言的优点,下面将以示例性的方式,具体结合所示出的附图及不同实施例的举例,对本发明进行进一步详细阐述与说明。应当理解地是,此部分描述地或者示例性地具体实施例仅仅用以解释或便于理解本发明的整体发明构思,但不应当理解为用于局限本发明的权利要求保护范围。凡是在本发明的发明构思与核心的均落在本发明的保护范围之内,特别是基于本发明的发明思路或主题进行的等效替换或者具体变形,将均落入本发明的保护范畴之列。
下面以具体的实施例对本发明的技术方案以及本发明的技术方案如何解决上述技术问题进行详细说明。下面这几个具体的实施例可以相互结合,对于相同或相似的概念或过程可能在某些实施例中不再赘述。
本实施例提供一种穴盘苗补苗系统,如图1所示,主要包括控制箱、视觉装置、传输带、机械手和霍尔传感器等,控制箱实现装置的整体控制,视觉装置由工业相机、工控机组成用于穴盘苗识别,传输带在步进电机驱动下完成苗盘的输送,机械手固定在直线模组上,伺服电机驱动直线模组,实现钵苗的抓取、补苗等动作,霍尔传感器用于实现苗盘的精确定位。
补苗装置的功能是从一号传输带苗盘上取出适合移栽的钵苗,补到二号传输带苗盘上。补苗作业时,操作人员将苗盘放置到一号和二号传输带上,两个传输带独立工作,输送苗盘到相机正下方,视觉系统识别判断穴盘苗,识别完成后给控制器发送识别数据,然后传输带将苗盘输送到机械手下方。机械手首先运行到二号传输带苗盘上,在控制器的控制下取出空穴孔中的基质;接着运行到两个传输带的中间,丢弃基质;然后运行到一号传输带苗盘上,取出适合移栽的钵苗;最后运行到二号传输带,将钵苗补入苗盘穴孔。补苗装置中传输带、直线模组和机械手在控制器的控制下协调工作、往复运行实现补苗作业,二号传输带苗盘补苗完成或一号传输带苗盘上没有适合移栽的钵苗时,控制器发出声光报警,提醒操作人员及时取走或补充新的苗盘。
首先是进行图像采集,本发明采用番茄苗图像进行训练,在人工温室中培育了四盘番茄苗,温室白天温度保持在25℃,夜晚温度保持在15℃,育苗基质由草炭、蛭石、营养土等构成,苗盘采用12×6孔穴盘。图像采集使用佳能550D单反相机,像素为1800万,相机使用机架放在苗盘正上方,机架高度50cm。2018年10月8日播种,10月19日开始图像采集,采集图像时,通过调节人工温室的光照强度,模拟穴盘苗补苗装置在室内工作时光照发生的变化,在苗盘正上方、正中等9个角度进行拍摄,共采集育苗期10~28d的番茄苗图像581张。图2为育苗期11d~25d的番茄苗图像,育苗期11d的番茄苗刚刚出土3d,如图可见此时番茄苗的两叶片长度已基本和穴孔宽度相等,有些幼苗已经伸展到相邻穴孔,但基本分布在自己的穴孔区域。育苗期25d图像中相邻穴孔重叠已比较严重,但穴孔轮廓基本清楚,通过幼苗茎叶信息仍能判断出穴孔是否为空。
采集到的番茄苗原图大小为3264×1840像素,由于原图比较大,如果直接识别,卷积神经网络模型的规模将非常大;如果降低分辨率,又会损失很多特征信息,降低识别准确率。又由于本文模型识别目的是判断穴孔是否为空,为降低识别难度,提高识别准确率,采取将大的穴盘图像拆分成小的单个的穴孔图像的方式,这样网络模型只需要识别穴孔图像是否为空,穴盘苗识别就转化为一个二分类识别问题,且小图像仍保留了较高的分辨率,保存着幼苗大部分杆茎、叶片信息,可保证识别准确率。
图像预处理及数据集构建流程如图3所示,首先裁剪掉原图上的非苗盘区域,然后根据苗盘规格,沿穴孔边沿拆分成12×6共72个小图像,每个图片对应一个穴孔,拆分后的图像为JPEG格式文件,经过RGB格式转化、大小调整、浮点数转化以及0~1归一化处理,形成大小为128×128像素、深度为3、数值在0~1之间的浮点数张量。上述图像预处理过程在穴盘苗补苗装置运行时,由于穴盘停在相机正下方,其位置固定,可通过位置标定实现工控机自动处理。
每张番茄苗图像中空穴和非空穴的比例大概是1:5,为保证本发明是一个平衡的二分类,从番茄苗原图预处理后的图片中选择了4000张图像作为训练集,1000张图像作为测试集,训练集和测试集中空穴和非空穴图像的数量相等。
穴盘苗识别时,如果穴盘苗较小,其茎叶主要分布在自己的穴孔区域,可通过颜色等分割技术实现空穴识别。穴盘苗生长到一定阶段后会出现相邻穴孔茎叶互相重叠、分布在穴盘四周的幼苗向外生长等现象,如图3红色箭头所示。通过分析可以看出穴孔图像除了包含叶片,还含有幼苗的杆茎,可以通过提取叶片和杆茎的特征进行空穴识别。由于茎秆很细,并且和基质颜色接近,通过颜色分割等技术提取特征的难度较大,为此本发明建立了卷积神经网络识别模型,通过其强大的特征提取能力实现空穴识别。
卷积神经网络主要由输入层、卷积层、池化层、全连接层和输出层组成。输入层输入训练图像,卷积层是卷积神经网络的核心,一般由多个3×3或5×5的卷积核构成,卷积核可理解为特征提取器,单个卷积核很小,只能提取图像的局部特征,但通过增加卷积核的数量,卷积层可提取图像的多个局部特征,并且特征提取后卷积层可在图像的其他任何地方识别应用。通常卷积神经网络包含多个卷积层,靠近输入层的卷积层学习较小的局部特征,下一卷积层根据上一卷积层的特征学习图像更大的特征。池化层主要作用是通过降采样的方式,在不影响模型效果的情况下,减小模型参数数量。全连接层从卷积层提取图像的整体特征,输出层输出模型的最终结果。
卷积神经网络确定网络架构后,使用合适的网络参数,通过训练实现具体的任务,网络参数训练由损失函数和优化器实现,网络架构、损失函数和优化器的关系如图4所示。损失函数计算网络识别结果和真实值间的差异,得出损失值,优化器根据损失值和训练数据更新网络参数,优化器的最终目标是使损失值尽可能小,因此损失函数也称目标函数。
接着,识别模型构建,本发明在卷积神经网络模型LeNet-5的基础上增大了网络,构建了卷积神经网络穴盘苗识别模型,模型结构如图5所示,模型参数如表1所示。模型包含4个卷积块,每个卷积块包含一个卷积层、一个激活层和一个池化层。卷积层都采用3×3的卷积核,卷积运算时的步幅设定为1,输入数据经卷积运算后成为特征图,特征图数量分别为32、64、128、128,随着模型的深入,特征图数量不断增加,但随着卷积运算的进行其尺寸在逐渐变小。池化层采用最大池化降采样,采用2×2的窗口,步幅设定为2,将特征图的尺寸减小为原来的一半,以减小模型参数。平铺层将卷积块输出的多维张量扁平化,转变为一维张量。全连接层包含512个神经元节点,对卷积层识别出的特征图进行整合,该层也含有激活函数层。输出层也是一个全连接层,只包含一个神经元节点,输出最终的分类结果。
表1卷积神经网络穴盘苗识别模型参数
Table 1 Parameters of CNN plug seedlings recognition model
然后识别模型优化,卷积神经网络需要优化器函数、损失函数、激活函数等,每个函数又有多种不同的类型,为使模型获得最佳性能,需要根据应用场合选择合适的函数。
激活函数使模型具有非线性建模能力,本文使用修正线性单元(rectifiedlinear units,Relu),指数线性单元(exponential linear units,Elu)和Sigmoid函数。
Relu是当前应用最广泛的激活函数之一,表达式如式(1)。由表达式可知当输入是负值时,它的输出是0,对应的神经元不会被激活,这使得只有部分神经元会被激活,从而减小了网络容量,有利于提高计算效率。
激活函数Elu的表达式如式(2),它是Relu函数的改进,在x>0的区间Elu和Relu相同;在x≤0的区间,其输出不为0,使其对输入变化和噪声具有更强的鲁棒性,其输出均值更接近0,使其具有更快的收敛速度。
式中α为常数,可设置为0.01。本文使用Relu和Elu作为卷积层的激活函数,并对比其效果。
Sigmoid函数表达式如式(3),Sigmoid函数可以将输入值映射到0~1区间内,常用于二分类,但该函数具有计算量大、反向传播梯度容易消失的缺点。本文穴盘苗识别是一个二分类问题,符合该函数的使用特点,同时为避免其缺点,本发明中所提供的的模型只在最后一层使用该函数。
S(x)=1/(1+e-x) (3)
数据集增强是为了降低模型过拟合,本发明主要采用图像随机旋转、随机缩放、水平垂直移动和水平翻转这4种方式。本发明采取L2[19]正则化和Dropout[20]正则化。L2正则化表达式如式(4)所示,
由式(4)可见,L2正则化就是在损失函数基础上增加了权重平方和的均值,其目的是让网络学习更小的权重,所以L2正则化也称网络参数权重衰减。
Dropout正则化是一种简单的降低过拟合提高模型泛化能力的方法,它的核心思想是随机丢弃一些神经单元,也称为丢弃正则化,实现过程可表现为式(5)和(6)。
本发明所涉及到的穴盘苗识别属于二分类问题,所以选取交叉熵(crossentropy)损失函数,函数公式如式(7)
损失函数参数的偏导数如式(8)和式(9),可以看出其偏导数值不受激活函数f导数的影响,所以引入交叉熵损失函数可以避免激活函数导数导致的网络学习速率缓慢的问题。
最后将进行训练,模型训练所使用的环境是在戴尔Vostro 3470-R1328R台式机上完成的,配置为:酷睿八代i5处理器、8G内存、GeForce GTX 760M显卡、Windows10操作系统。实验所使用的编程软件是Anaconda,采用TensorFlow深度学习框架,编程语言是Python3.5。
模型优化器采用RMSProp(Root Mean Square Prop)算法,学习率设置为0.0001,L2正则化系数设置为0.001,Dropout正则化概率设置为0.5。模型训练时采取批量的方法,每个批次训练100张图片,每一个批次的训练作为一次迭代,共迭代60次,每迭代完一次后更新模型的参数,然后使用每次迭代后的网络模型在测试集上进行测试,并记录模型在训练集和测试集上的识别准确率和损失函数的损失值。
为了测试本发明采用不同方法时的穴盘苗识别准确率,分别对采用不同激活函数、正则化和数据增强的模型进行了训练,并分析了训练结果。
模型识别效果由模型识别准确率进行评价,计算如式(10)
式中P为识别准确率,A0为识别正确的穴孔图像个数,A为穴孔图像总识别数。
模型卷积层采用Relu作为激活函数,输出层采用适合二分类的Sigmoid激活函数,模型最终的训练精度为0.998,测试精度达到了0.952,由此可见本文构建的模型适合穴盘苗穴孔图像的二分类识别,且模型较小,其参数内存占有量仅为9.5MB。由图6(a)可看到模型训练迭代到第10次时训练精度继续上升,而测试精度开始下降,此时模型出现过拟合现象,训练迭代到第40次时模型开始收敛,可看出使用Relu作为激活函数,模型的收敛速度比较慢。图6(b)可见模型训练损失值曲线和准确率曲线变化趋势基本相同,训练损失值持续下降,最终值为0.0056,验证损失值迭代到第10次时停止下降,最终值为0.2212,并且有上升的趋势。
模型卷积层采用Elu激活函数,输出层采用Sigmoid激活函数,由图7可见,训练迭代到第15次时模型已经收敛,符合该函数收敛速度快的特点,但模型在第10次迭代时也出现过拟合现象。模型最终的训练精度为1.0,测试精度为0.938,训练损失为0,测试损失为0.383,其穴盘苗识别分类能力略低于Relu函数,为此该实施例中采用Relu作为卷积层的激活函数。
模型采用L2正则化、Dropout正则化,Relu作为卷积层激活函数、Sigmoid作为输出层激活函数,由图8可见,模型训练、测试准确率和损失值曲线的变化趋势在整个训练期都基本一致的,但是训练迭代到20次时,模型测试精度上升趋势开始小于训练精度,表明正则化只能部分解决模型的过拟合问题。模型最终的训练精度为0.993,测试精度为0.958,训练损失为0.0242,测试损失为0.1236,正则化后模型性能有一定提升。
模型采用增强数据集进行训练,穴孔图像进行了小角度随机旋转、平移、缩放等操作,使数据集的代表性更强,增强后的数据集图像示例如图9所示,第一行是穴孔有苗的图片,第二行是穴孔为空时的图片。
由于增强后的数据集数量增加,为此训练时将参数修改为每次迭代训练200张图片,模型优化措施与正则化时所采用措施一致。由图10可见模型训练、测试精度和损失值曲线的变化趋势在整个训练区都保持一致,模型的过拟合问题得到解决,模型最终训练精度为0.993,测试精度为0.985,训练损失为0.0099,测试损失为0.0233,模型性能有了进一步提升,优化后的模型完全能满足穴盘苗空穴识别的要求。
如前所述,具体实施方式中所提供的仅仅是其中一种可能的具体实施方式,仅仅是举例性而非限制性的,所有根据本发明的保护精神的技术方案均落入本发明的保护范围。
本发明通过提供这样一种穴盘苗补苗装置,将卷积神经网络应用于补苗装置的幼苗识别上,同时还提供这样一种基于神经网络的穴盘苗空穴识别方法,参照LeNet-5卷积神经网络模型构建了穴盘苗识别模型。通过图像预处理将采集到的穴盘苗图像分割成单个穴孔图像,将大的穴盘苗图像识别,简化成小的穴孔图像二分类识别,极大地减小了识别模型的大小,有助于提升模型的识别精度。通过采用Relu激活函数、Sigmoid激活函数、交叉熵损失函数对模型进行了优化,通过正则化和数据集增强解决了模型的过拟合问题,提升了模型的泛化能力,优化后的模型在测试集上的识别精度达到0.985。
本发明相比较现有的优点和有益的技术效果概括如下:
(1)能够实时地将穴盘苗的情况进行分析,克服了在背景技术中提到的相邻穴孔幼苗对空穴识别造成的干扰的技术问题;
(2)简化成小的穴孔图像二分类识别,极大地减小了识别模型的大小,有助于提升模型的识别精度;
(3)本发明使用的卷积神经网络穴盘苗识别模型,使得模型识别精度高,泛化能力强;
(4)进一步提升全自动蔬菜移栽机的自动化和智能化,达到了有益技术效果。
Claims (10)
1.一种基于神经网络的穴盘苗空穴识别方法,用于获得穴盘苗空穴状态并进行实时分析,其特征在于,包括:
步骤一:首先进行穴盘苗图像采集及数据集预处理,采用穴盘苗图像进行训练,采集穴盘苗图像时,通过调节人工温室的光照强度,模拟穴盘苗补苗装置在室内工作时光照发生的变化,在穴苗盘的多个角度进行拍摄,采集获得穴盘苗在育苗期一定天数内的若干张穴盘苗图像;
步骤二:对穴盘苗图像进行预处理及数据集构建,采取将大的穴盘苗图像拆分成小的单个的穴孔图像的方式,先裁剪掉原图上的非苗盘区域,然后根据苗盘规格,沿穴孔边沿拆分成12×6共72个小图像,每个图片对应一个穴孔,上述穴盘苗图像预处理过程在穴盘苗补苗装置运行时,由于穴盘停在相机正下方,其位置固定,其通过位置标定实现工控机自动处理。
步骤三:构建卷积神经网络穴盘苗识别模型,模型包含4个卷积块,每个卷积块包含一个卷积层、一个激活层和一个池化层,卷积层都采用3×3的卷积核,卷积运算时的步幅设定为1,输入数据经卷积运算后成为特征图,特征图数量分别为32、64、128、128,随着模型的深入,特征图数量不断增加,但随着卷积运算的进行其尺寸在逐渐变小,池化层采用最大池化降采样,采用2×2的窗口,步幅设定为2,将特征图的尺寸减小为原来的一半,以减小模型参数,平铺层将卷积块输出的多维张量扁平化,转变为一维张量,全连接层包含512个神经元节点,对卷积层识别出的特征图进行整合,该层也含有激活函数层,输出层也是一个全连接层,只包含一个神经元节点,输出最终的分类结果。
步骤四:训练所述卷积神经网络模型,采取批量的方法,每个批次训练100张图片,每一个批次的训练作为一次迭代,共迭代60次,每迭代完一次后更新模型的参数,然后使用每次迭代后的网络模型在测试集上进行测试,并记录模型在训练集和测试集上的识别准确率和损失函数的损失值。
2.如权利要求1所述的基于神经网络的穴盘苗空穴识别方法,其特征在于:所述步骤一中的穴盘苗图像采集时使用在人工温室中培育四盘穴盘苗,温室白天温度保持在25℃,夜晚温度保持在15℃,育苗基质由草炭、蛭石、营养土构成,穴苗盘采用12×6孔穴盘。
3.如权利要求2所述的基于神经网络的穴盘苗空穴识别方法,其特征在于:所述步骤二中穴盘苗图像预处理拆分后的图像经过RGB格式转化、大小调整、浮点数转化以及0-1归一化处理,形成大小为128×128像素、深度为3、数值在0-1之间的浮点数张量。
4.如权利要求3所述的基于神经网络的穴盘苗空穴识别方法,其中所述步骤三中的卷积神经网络穴盘苗识别模型的卷积层采用Relu作为激活函数,输出层采用适合二分类的Sigmoid激活函数。
5.如权利要求4所述的基于神经网络的穴盘苗空穴识别方法,其中所述步骤三中的卷积神经网络穴盘苗识别模型中引入交叉熵损失函数,以避免激活函数导数导致的网络速率缓慢从而对卷积神经网络模型进行了优化。
7.如权利要求6所述的基于神经网络的穴盘苗空穴识别方法,所述步骤四中的卷积神经网络模型训练所使用的环境是在戴尔Vostro 3470-R1328R台式机上完成的,配置为:酷睿八代i5处理器、8G内存、GeForce GTX 760M显卡、Windows10操作系统,实验所使用的编程软件是Anaconda,采用TensorFlow深度学习框架,编程语言是Python3.5。
8.一种基于卷积神经网络的穴盘苗补苗系统,用于对穴盘苗进行图像采集并实时分析进行补苗,其特征在于,包括:控制装置、视觉装置、传输带、机械手、霍尔传感器,
所述控制装置,用于实现系统的整体控制;
所述视觉装置,用于穴盘苗识别,其是由工业相机和工控机组成的;
所述传输带在步进电机驱动下完成苗盘的输送,机械手固定在直线模组上,伺服电机驱动直线模组,实现钵苗的抓取、补苗等动作,霍尔传感器用于实现穴苗盘的精确定位;
其中,所述穴苗盘包括第一穴苗盘和第二穴苗盘,所述传输带包括第一传输带和第二传输带,所述的穴盘苗补苗装置从所述第一穴苗盘上取出适合移栽的钵苗,补到第二穴苗盘上。补苗作业时,操作人员将第一穴苗盘放置到第一传输带和第二传输带上,两个传输带独立工作,输送第一穴苗盘到相机正下方,视觉系统识别判断穴盘苗,识别完成后给控制器发送识别数据,然后第一传输带将第一穴苗盘输送到机械手下方,机械手首先运行到第二穴苗盘上,在控制器的控制下取出空穴孔中的基质;接着运行到两个传输带的中间,丢弃基质;然后运行到第一穴苗盘上,取出适合移栽的钵苗;最后运行到第二传输带,将钵苗补入穴苗盘的穴孔;
所述穴盘苗补苗系统中的传输带、直线模组和机械手在控制装置的控制下协调工作、往复运行实现补苗作业,
所述第二穴苗盘补苗完成或第一穴苗盘上没有适合移栽的钵苗时,控制装置发出声光报警,提醒操作人员及时取走或补充新的穴苗盘。
9.如权利要求8所述的基于卷积神经网络的穴盘苗补苗系统,所述卷积神经网络分析具体使用穴盘苗识别模型,模型包含4个卷积块,每个卷积块包含一个卷积层、一个激活层和一个池化层,卷积层都采用3×3的卷积核,卷积运算时的步幅设定为1,输入数据经卷积运算后成为特征图,特征图数量分别为32、64、128、128,随着模型的深入,特征图数量不断增加,但随着卷积运算的进行其尺寸在逐渐变小,池化层采用最大池化降采样,采用2×2的窗口,步幅设定为2,将特征图的尺寸减小为原来的一半,以减小模型参数,平铺层将卷积块输出的多维张量扁平化,转变为一维张量,全连接层包含512个神经元节点,对卷积层识别出的特征图进行整合,该层也含有激活函数层,输出层也是一个全连接层,只包含一个神经元节点,输出最终的分类结果。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911296761.5A CN111126222A (zh) | 2019-12-16 | 2019-12-16 | 一种基于神经网络的穴盘苗空穴识别方法以及穴盘苗补苗系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911296761.5A CN111126222A (zh) | 2019-12-16 | 2019-12-16 | 一种基于神经网络的穴盘苗空穴识别方法以及穴盘苗补苗系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN111126222A true CN111126222A (zh) | 2020-05-08 |
Family
ID=70499271
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911296761.5A Pending CN111126222A (zh) | 2019-12-16 | 2019-12-16 | 一种基于神经网络的穴盘苗空穴识别方法以及穴盘苗补苗系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111126222A (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112036461A (zh) * | 2020-08-24 | 2020-12-04 | 湖北师范大学 | 手写数字图像识别方法、装置、设备及计算机存储介质 |
CN112262685A (zh) * | 2020-11-17 | 2021-01-26 | 西北农林科技大学 | 一种用于工厂化育苗的温室钵苗自动移栽系统 |
CN112907516A (zh) * | 2021-01-27 | 2021-06-04 | 山东省计算中心(国家超级计算济南中心) | 一种用于穴盘育苗的甜玉米种子识别方法及装置 |
CN113065501A (zh) * | 2021-04-15 | 2021-07-02 | 黑龙江惠达科技发展有限公司 | 苗线识别的方法、装置和农机 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104604403A (zh) * | 2015-02-01 | 2015-05-13 | 浙江大学 | 自动补苗机械作业装置 |
CN109522797A (zh) * | 2018-10-16 | 2019-03-26 | 华南农业大学 | 基于卷积神经网络的水稻秧苗及苗期杂草识别方法和系统 |
CN110132625A (zh) * | 2019-05-15 | 2019-08-16 | 中国农业机械化科学研究院 | 一种鸭嘴滚筒式播种机的播种质量检测方法及装置 |
WO2019200753A1 (zh) * | 2018-04-17 | 2019-10-24 | 平安科技(深圳)有限公司 | 病变监测方法、装置、计算机设备和存储介质 |
-
2019
- 2019-12-16 CN CN201911296761.5A patent/CN111126222A/zh active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104604403A (zh) * | 2015-02-01 | 2015-05-13 | 浙江大学 | 自动补苗机械作业装置 |
WO2019200753A1 (zh) * | 2018-04-17 | 2019-10-24 | 平安科技(深圳)有限公司 | 病变监测方法、装置、计算机设备和存储介质 |
CN109522797A (zh) * | 2018-10-16 | 2019-03-26 | 华南农业大学 | 基于卷积神经网络的水稻秧苗及苗期杂草识别方法和系统 |
CN110132625A (zh) * | 2019-05-15 | 2019-08-16 | 中国农业机械化科学研究院 | 一种鸭嘴滚筒式播种机的播种质量检测方法及装置 |
Non-Patent Citations (2)
Title |
---|
张勇: ""全自动移栽机穴盘苗识别与控制系统的研究"", 《万方》, pages 2 - 6 * |
张勇;马建祥;杨建强;张绩;: "利用复配基质培育瓜类壮苗技术", 西北园艺(综合), no. 06 * |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112036461A (zh) * | 2020-08-24 | 2020-12-04 | 湖北师范大学 | 手写数字图像识别方法、装置、设备及计算机存储介质 |
CN112036461B (zh) * | 2020-08-24 | 2023-06-02 | 湖北师范大学 | 手写数字图像识别方法、装置、设备及计算机存储介质 |
CN112262685A (zh) * | 2020-11-17 | 2021-01-26 | 西北农林科技大学 | 一种用于工厂化育苗的温室钵苗自动移栽系统 |
CN112907516A (zh) * | 2021-01-27 | 2021-06-04 | 山东省计算中心(国家超级计算济南中心) | 一种用于穴盘育苗的甜玉米种子识别方法及装置 |
CN113065501A (zh) * | 2021-04-15 | 2021-07-02 | 黑龙江惠达科技发展有限公司 | 苗线识别的方法、装置和农机 |
CN113065501B (zh) * | 2021-04-15 | 2024-03-22 | 黑龙江惠达科技股份有限公司 | 苗线识别的方法、装置和农机 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111126222A (zh) | 一种基于神经网络的穴盘苗空穴识别方法以及穴盘苗补苗系统 | |
CN111709489B (zh) | 一种基于改进YOLOv4的柑橘识别方法 | |
Altaheri et al. | Date fruit classification for robotic harvesting in a natural environment using deep learning | |
Yin et al. | Computer vision and machine learning applied in the mushroom industry: A critical review | |
CN109325495B (zh) | 一种基于深度神经网络建模的作物图像分割系统及方法 | |
CN110222215B (zh) | 一种基于f-ssd-iv3的作物害虫检测方法 | |
CN109472883A (zh) | 巡塘方法和装置 | |
CN113657326A (zh) | 一种基于多尺度融合模块和特征增强的杂草检测方法 | |
Selvi et al. | Weed detection in agricultural fields using deep learning process | |
CN115050020A (zh) | 一种基于改进Mask R-CNN草莓叶面积的智能视觉检测方法及系统 | |
Li et al. | Design and experiment of intelligent sorting and transplanting system for healthy vegetable seedlings | |
CN115311316A (zh) | 基于深度学习的立体栽培模式下小型西瓜识别与定位方法 | |
CN114842337A (zh) | 基于深度学习与多维信息融合聚类的果实采摘点识别方法 | |
Zhang et al. | Robust image segmentation method for cotton leaf under natural conditions based on immune algorithm and PCNN algorithm | |
CN111291686A (zh) | 农作物根果表型参数的提取与根果表型判别方法及系统 | |
CN114140403A (zh) | 一种基于卷积神经网络的植物叶片病害检测方法 | |
Zhao et al. | Transient multi-indicator detection for seedling sorting in high-speed transplanting based on a lightweight model | |
CN109102019A (zh) | 基于HP-Net卷积神经网络的图像分类方法 | |
CN113313692A (zh) | 一种基于航拍可见光图像的香蕉幼株自动识别与计数方法 | |
Sun et al. | A recognition method of cattle and sheep based on convolutional neural network | |
Zhang et al. | Application of convolution neural network algorithm based on intelligent sensor network in target recognition of corn weeder at seedling stage | |
CN117036926A (zh) | 一种融合深度学习与图像处理的杂草识别方法 | |
Jin et al. | An improved mask r-cnn method for weed segmentation | |
Zhang | Seedlings Supplement Device and Seedling Recognition Based on Convolution Neural Network. | |
CN113837039A (zh) | 一种基于卷积神经网络的果实生长形态视觉辨识方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |