CN112697984B - 基于神经网络的水果缺陷无损检测方法及水果分级方法 - Google Patents
基于神经网络的水果缺陷无损检测方法及水果分级方法 Download PDFInfo
- Publication number
- CN112697984B CN112697984B CN202011437542.7A CN202011437542A CN112697984B CN 112697984 B CN112697984 B CN 112697984B CN 202011437542 A CN202011437542 A CN 202011437542A CN 112697984 B CN112697984 B CN 112697984B
- Authority
- CN
- China
- Prior art keywords
- fruit
- image
- ray
- defect
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/30—Computing systems specially adapted for manufacturing
Landscapes
- Analysing Materials By The Use Of Radiation (AREA)
Abstract
本发明提供了一种基于神经网络的水果缺陷无损检测方法及分级方法,用以解决现有技术中对水果缺陷检测和分级不够准确的问题。所述无损检测方法首先采集水果的外观图像集、对应的两张X射线图集、切片图像集以及切片化学检测数据集;再将采集的数据进行整合,得到水果缺陷分类及与缺陷类型对应的信息包,以缺陷类型作为标签,对拼接后的X射线图进行标记;基于神经网络构建水果缺陷无损检测或分级模型,以带有标签的X射线图的像素点矩阵对模型进行训练,训练完成后输入待检测水果的X射线图数据,得到缺陷或分级结果。本发明对水果的内部和外部缺陷同时进行无损检测,分级包含水果的外观特征和内部特征,提高了检测或分级效率以及分级的准确性。
Description
技术领域
本发明属于水果检测领域,具体涉及一种基于神经网络的水果缺陷无损检测方法及水果分级方法。
背景技术
随着当今世界的经济发展,人们生活质量的提高,消费者对水果品质的要求也愈来愈高,因此需要对水果进行检测分级,满足不同消费者的需求。无损检测技术为实现这些需求提供了一种省时省力、高效、无损和无污染的检测手段。
在现有的水果品质无损检测技术中,有机器视觉技术、电子鼻技术、介电特性技术、低场核磁共振技术、声特征技术、光谱技术等。其中机器视觉技术通常由CCD摄像机得到水果形状、大小、颜色、纹理、表皮损伤等特征信息来进行检测。电子鼻技术通过获得挥发性化合物与传感器活性材料表面接触时发生的信号,来得到水果的糖度、硬度、成熟度、腐败程度、机械损伤等信息来进行检测。介电特性技术通过水果放入平板电极间测定其电特性参数来得到水果的水果新鲜度、机械损伤、成熟度、含水率、糖度与硬度等品质信息对水果进行检测。低场核磁共振技术通过对处于恒定磁场中的样品施加不同的射频脉冲,对使氢质子发生共振、衰减、聚相等现象而呈现不同的信号进行处理,从而对水果的成熟度、货架期、硬度、机械损伤、水心病、木质化等进行无损检测。而光谱技术主要是以反射、半透射和全透射种方式经过水果并携带水果品质相关信息从而对水果品质进行检测,其主要有可见/近红外光谱、X射线、激光多普勒、太赫兹及高光谱等技术,以上光谱技术中只有X射线的的波长最小,在0.001~10nm之间,故其具有极强的穿透性。
现有技术的上述的检测方法中,对于一些水果的木栓病害,只有X射线及低场核磁共振技术才能有较好的识别作用。但低场核磁共振技术成本高昂,价格昂贵,生产流水线中应用并不现实。另外,对于现有的分级算法,大都采用从图片中提取的特征值作为输入,来对水果进行简单的判断好坏或者直接分级。而一张拥有百万甚至千万像素点的图片经过特征提取变为几个单独的特征值来作为输入则会损失掉一些特征。除此之外,在提取图像特征值的时候进行粗略的近似变换也会导致所得特征值的误差较大,而某些特征值的误差会则造成较大的影响,所以目前水果无损检测的准确度及精度并不高。
发明内容
鉴于现有技术中的上述缺陷或不足,本发明旨在提供一种基于神经网络的水果缺陷无损检测方法及水果分级方法,采用X射线成像,结合水果特征信息及缺陷信息对基于神经网络的水果检测及分级模型进行训练,对水果进行检测和分级,实现对水果内部和外部的同时检测,获得更加准确的水果分级结果。
为了实现上述目的,本发明实施例采用如下技术方案:
第一方面,本发明实施例提供了一种基于神经网络的水果缺陷无损检测方法,所述方法包括如下步骤:
步骤S1,采集水果的外观图像集、对应的X射线图集、切片图像集以及切片化学检测数据集;其中,每个水果采集两张X射线图,两张X射线图的X射线入射方向在垂直于果轴的平面上成90度;
步骤S2,将外观图像、切片图像和切片化学检测数据所包含的特征信息及缺陷信息进行整合,得到水果缺陷分类以及与缺陷类型对应的信息包,以信息包对应的缺陷类型作为标签,记录在标签列表中,对两张X射线图进行拼接后再进行标记,得到带有标签的拼接后的X射线图集;
步骤S3,对带有标签的拼接后的X射线图进行预处理,得到特征图像,再将所述拼接后的X射线图与所述特征图像在通道上进行融合,得到带标签的像素点矩阵,当前像素点矩阵的通道数是X射线图与特征图像通道数的加和;
步骤S4,将所述带有标签的像素点矩阵集分为训练集和测试集,其中训练集中30%作为验证集;
步骤S5,基于神经网络构建水果缺陷无损检测模型;
步骤S6,以所述训练集和测试集对所述水果缺陷无损检测模型进行训练、验证和测试,得到训练完成的水果缺陷无损检测模型;
步骤S7,采集待检测水果的两张X射线图,两张X射线图的X射线入射方向在垂直于果轴的平面上成90度;通过X射线图得到特征图像,再将所述待检测水果的X射线图与所述特征图像在通道上进行融合,得到待检测水果的像素点矩阵;将像素点矩阵输入所述训练完成的水果缺陷无损检测模型,得到待检测水果的缺陷结果。
作为本发明的一个优选实施例,所述步骤S2中,将外观图像、切片图像和切片化学检测数据所包含的特征信息及缺陷信息进行整合,具体包括:
从所述外观图像中获取相应信息,在图像中用第一边界框将水果边界区域圈出来,再用第二边界框将外表损伤的区域圈出来,存储第一边界框和第二边界框的信息;
从所述切片图像中获取相应信息,在图像中用第三边界框将存在内部缺陷的区域圈出来,并存储第三边界框及切片厚度的信息;
从所述切片化学检测数据中获取水果糖度、蛋白质含量、成熟度信息;
将第一边界框、第二边界框、第三边界框、厚度和水果糖度、蛋白质含量、成熟度信息,转化为与X射线图对应的标签格式,记录在标签列表中。
作为本发明的一个优选实施例,所述边界框信息包括形成边界框各点的位置信息以及所圈出来区域大小以及所属类型的信息。
作为本发明的一个优选实施例,所述第三边界框、厚度转化为与X射线图对应的标签格式前,首先将第三边界框与厚度相乘,得到缺陷区域体积,将所述缺陷区域体积作为转化为与X射线图对应的标签格式。
作为本发明的一个优选实施例,所述步骤S4中构建水果缺陷无损检测模型,采用计算机视觉组VGG深度卷积神经网络进行搭建,增加对输入数据的组归一化处理,同时将神经网络最后的全连接层替换为一层最大池化层、三层卷积层和softmax层的组合。
作为本发明的一个优选实施例,所述步骤S5中,对模型进行训练时,首先输入训练集对所述模型进行训练,判断损失函数的值是否随着时间的变化而减小,当损失函数值在较长一段时间内没有发生变化时,采用验证集进行判断,看模型是否很好的学习到这种特征;如果验证集得到的结果符合要求,用测试集进行测试;如果测试集的结果不达标,重新调整模型的初始参数或者学习率,并重新进行训练;如果验证集得到的结果不符合要求,继续进行训练。
作为本发明的一个优选实施例,所述步骤S6所检测的缺陷结果,包括存在何种缺陷及缺陷程度。
作为本发明的一个优选实施例,所述步骤S1中外观图像包括水果外观的六视图,六视图中的水果特征信息包括:水果的大小、形状、光滑程度、外表缺陷、缺陷面积。
第二方面,本发明实施例还提供了一种基于神经网络的水果分级方法,所述分级方法包括如下步骤:
步骤S1,采集水果的外观图像集、对应的X射线图集、切片图像集以及切片化学检测数据集;其中,每个水果采集两张X射线图,两张X射线图的X射线入射方向在垂直于果轴的平面上成90度;
步骤S2,将外观图像、切片图像和切片化学检测数据所包含的特征信息及缺陷信息进行整合,得到水果等级以及与等级对应的信息包,以信息包对应的等级作为标签,记录在标签列表中,对两张X射线图进行拼接后再进行标记,得到带有标签的拼接后的X射线图集;
步骤S3,对带有标签的拼接后的X射线图进行预处理,得到特征图像,再将所述拼接后的X射线图与所述特征图像在通道上进行融合,得到带标签的像素点矩阵,当前像素点矩阵的通道数是X射线图与特征图像通道数的加和;
步骤S4,将所述带有标签的像素点矩阵集分为训练集和测试集,其中训练集中30%作为验证集;
步骤S5,基于神经网络构建水果分级模型;
步骤S6,以所述训练集和测试集对所述水果分级模型进行训练、验证和测试,得到训练完成的水果分级模型;
步骤S7,采集待检测水果的两张X射线图,两张X射线图的X射线入射方向在垂直于果轴的平面上成90度;通过X射线图得到特征图像,再将所述待检测水果的X射线图与所述特征图像在通道上进行融合,得到待检测水果的像素点矩阵;将像素点矩阵输入所述训练完成的水果分级模型,得到待检测水果的分级结果。
综上所述,本发明实施方式所提供的基于神经网络的水果缺陷无损检测方法及分级方法,每个水果采集两张X射线图,两张X射线图的X射线入射方向在垂直于果轴的平面上成90度,对两张X射线图进行拼接;采用外观图像、切片图像及化学检测数据对拼接后的X射线图加注标签,对带有标签的X射线图与特征图像进行融合,得到更多维度的带标签的像素点矩阵,作为模型输入;将若干水果的融合后的带标签的像素点矩阵集分为训练集和测试集,对构建的水果缺陷无损检测模型或分级模型进行训练、验证和测试,采用训练完成的模型,以待检测水果的两张X射线图融合后的像素点矩阵作为模型的输入,输出相应的缺陷结果或分级结果。本发明可同时对水果的内部和外部缺陷进行检测,分级结果也同时考量了水果的外部特征和内部特征,是一种全面、准确、客观的分级方法,实现了水果内外部缺陷的无损检测,提高了检测和分级效率以及分级的准确性。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来说,在不付出创造性劳动的前提下,还可以根据这些附图获得其他附图。
图1是本发明实施方式提供的基于神经网络的水果缺陷无损检测方法流程图;
图2是本发明实施方式中任一水果的X射线图示例图;
图3是图2中水果的另一X射线图示例图;
图4是图2和图3所示两张X射线图拼接后的示例图。
具体实施方式
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅用于解释相关发明,而非对该发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与发明相关的部分。需要说明的是,在不冲突的情况下,本发明中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本发明。
本发明实施方式提供了一种基于神经网络的水果缺陷无损检测方法及水果分级方法,基于神经网络构建水果检测和分类模型,每个水果采集两张X射线图,两张X射线图的X射线入射方向在垂直于果轴的平面上成90度,对两张X射线图进行拼接;以水果的外观图像、切片图像对拼接后的X射线图进行标记,对带有标签的X射线图与特征图像进行融合,得到更多维度的带标签的像素点矩阵,作为模型输入;将若干水果的融合后的带标签的像素点矩阵集分为训练集和测试集,对模型进行训练,得到水果无损检测模型和分级模型;再以待检测水果的两张X射线图融合后的像素点矩阵作为模型的输入,得到水果无损检测或分级结果,通过神经网络对水果进行检测和分级,提高了检测和分级效率,同时提高要检测和分级的准确性;X射线相关联的模型所获得的检测结果不仅包括水果的外部检测结果,也包括水果的内部检测结果,根据水果的外部和内部检测结果,对水果进行分级,在无损检测的前提下,获得更加准确的水果分级结果。
图1示出了本发明实施方式所提供的基于神经网络的水果缺陷无损检测方法流程图。如图1所示,所述基于神经网络的水果无损检测方法,包括如下步骤:
步骤S1,采集水果的外观图像集、对应的X射线图集、切片图像集以及切片化学检测数据集。其中,每个水果采集两张X射线图,两张X射线图的X射线入射方向在垂直于果轴的平面上成90度。
本步骤中,所述外观图像包括水果外观的六视图。六视图中反应了水果的大小、形状、光滑程度、外表缺陷、缺陷面积等外观信息。所述缺陷,包括损伤和病害。对应的切片图像反应了水果内部的状态,是否存在虫洞、木栓、内部损伤、腐烂及各种缺陷相应的程度。所述切片化学检测数据包括糖度、蛋白质、成熟度等化学信息。在实际检测中,针对不同的水果所需要检测项目的不同,对上述所采集的图像和数据进行相应的补充或修正。
例如,针对每一个用于采集数据的水果,分别对水果外观从上下左右前后六个方向的采集外观图像6张(要求:水果和相机在拍摄时在固定的位置)、水果被X射线扫描后得到的图像2张、梨被切成片后平铺在桌面上的图片1张、以及对切片进行糖度、蛋白质含量、成熟度检测的数据。如图2和图3所示,是任一标号为8的水果的两张X射线图,两张X射线图的X射线入射方向在垂直于果轴Z的平面XOY上成,其中图2中X射线入射沿X轴,图3中X射线沿与X轴成90度的Y轴,从而全面反映水果内部缺陷。
步骤S2,将外观图像、切片图像和切片化学检测数据所包含的特征信息及缺陷信息进行整合,得到水果缺陷分类以及与缺陷类型对应的信息包,以信息包对应的缺陷类型作为标签,记录在标签列表中,对两张X射线图进行拼接后再进行标记,得到带有标签的拼接后的X射线图集。
本步骤中,对特征信息和缺陷信息进行整合时,首先需要对所述图像和数据进行处理,处理后从图像和数据中得到相关信息。
其中,从所述外观图像中获取相应信息,在图像中用第一边界框将水果边界区域圈出来,再用第二边界框将外表损伤的区域圈出来,存储第一边界框和第二边界框的信息,所述边界框信息可以存储为json等格式文件。
从所述切片图像中获取相应信息,在图像中用第三边界框将存在内部缺陷的区域圈出来,切片本身具有一个厚度,同时存储第三边界框及切片厚度的信息。这里也可以将边界框信息存储为json等格式文件。通过切片厚度及第三边界框,可以计算内部缺陷体积,即边界框面积乘以厚度的值。
所述边界框信息包括形成边界框各点的位置信息以及所圈出来区域大小以及所属类型的信息。
从所述切片化学检测数据中获取相应信息,化学检测结果包括糖度、蛋白质含量、成熟度等信息。
将第一边界框、第二边界框、第三边界框、厚度和水果糖度、蛋白质含量、成熟度信息,转化为与X射线图对应的标签格式,记录在标签列表中。其中,第三边界框、厚度转化为与X射线图对应的标签格式前,首先将第三边界框与厚度相乘,得到缺陷区域体积,将所述缺陷区域体积作为转化为与X射线图对应的标签格式。
将以上与两张X射线图对应的外观图像、切片图像和切片化学检测数据所获取的特征信息和缺陷信息进行整合,打包为与缺陷对应的信息包,对X射线图打标签,则从X射线图的标签中可直接与当前X射线图对应的水果缺陷信息及特征信息相对应。
在本发明的一个具体实施例中,在得到水果特征信息时,对所述X射线图进行图像处理得到。比如进行轮廓提取,通过轮廓提取后的图像得出水果的大小。
如图4所示,是对图2及图3中所示的标号为8的水果的两张X射线图进行拼接后的示例图。
步骤S3,对带有标签的拼接后的X射线图进行预处理,得到特征图像,再将所述拼接后的X射线图与所述特征图像在通道上进行融合,得到带标签的像素点矩阵,当前像素点矩阵的通道数是X射线图与特征图像通道数的加和。
本步骤中,所述融合过程为,将进行图像处理后的图像与原X射线图在通道上进行融合,例如,之前的输入有4个维度,分别是训练时的每批次的数量、图片的高度、图片的宽度及1个通道数,现在将特征图像与原X射线图在通道上进行拼接,特征图像的个数决定通道数增加的维度。例如,通过图像处理后的得到K张特征图像,则与X射线图融合后,得到与X射线图对应的通道数为K+1的像素点矩阵。
步骤S4,将所述带有标签的像素点矩阵集分为训练集和测试集。其中,训练集和测试集比例为7:3。其中,训练集中又包括验证集,验证集占训练集的30%。
步骤S5,基于神经网络构建水果缺陷无损检测模型。
本步骤中,所述水果缺陷无损检测模型,采用改进的计算机视觉组(VisualGeometry Group,VGG)深度卷积神经网络进行搭建。所述改进在于:第一,采用了组归一化对输入图片进行归一化处理,加速神经网络收敛;第二,把神经网络最后的全连接层改为一层最大池化层、三层卷积层和最后softmax层的组合。通过上述改进,一方面改变了VGG神经网络对输入图片尺寸大小的限制,另一方面使训练参数急剧减少,使训练加速。
步骤S6,以所述训练集和测试集对所述水果缺陷无损检测模型进行训练、验证和测试,得到训练完成的水果缺陷无损检测模型。
本步骤中,所述训练集包括验证集,且验证集数据占训练集的30%。首先输入训练集对所述模型进行训练,判断损失函数的值是否随着时间的变化而减小,当损失函数值在较长一段时间内没有发生变化时,则说明已经收敛,此时采用验证集进行判断,看模型是否很好的学习到这种特征;如果验证集得到的结果符合要求,则说明训练完成,然后用测试集进行测试看效果如何;如何测试集的结果不达标,说明模型陷入局部最优解,需要重新调整神经网络的初始参数或者学习率,并重新进行训练;如果验证集的结果不符合要求,说明模型并未学习到这种特征,则继续进行训练。
在本发明的一个具体实施例中,训练时,所述X射线图首先转为tfrecord文件或者tf.data文件。
实质上,所述基于神经网络的水果缺陷无损检测模型所学习的是与特征信息和/或缺陷信息对应的图像灰度值及灰度值的变化。水果的形状、光滑程度、体积、甜度、蛋白质含量、成熟度、损伤、病害等因素会影响水果的X射线图的灰度值的变化,所以利用机器学习的手段,通过神经网络直接将水果的X射线图作为输入,学习水果的灰度值及其变化规律,通过训练后得到水果缺陷无损检测模型,实现对水果的缺陷检测和/或分级,从而将其直接应用到工业生产中。
步骤S7,采集待检测水果的两张X射线图,两张X射线图的X射线入射方向在垂直于果轴的平面上成90度;通过X射线图得到特征图像,再将所述待检测水果的X射线图与所述特征图像在通道上进行融合,得到待检测水果的像素点矩阵,像素点矩阵的通道是X射线图与特征图像通道数的加和;输入所述训练完成的水果缺陷无损检测模型,得到待检测水果的缺陷结果。
本发明实施方式还提供了一种基于神经网络的水果分级方法,所述分级方法与所述水果无损检测方法基本相同,所不同的是,所述步骤S2中所获得的标签,是将外观图像、切片图像和切片化学检测数据所包含的特征信息及缺陷信息进行整合,得到水果等级以及与各等级对应的信息包,以信息包对应的等级作为标签,记录在标签列表中,对两张X射线图进行拼接后再进行标记,得到带有标签的拼接后的X射线图集。所述等级标签中对应的信息包中包含缺陷信息,同时也包含特征信息。所述步骤S5中所构建的模型为水果分级模型。所述步骤S7中,得到待检测水果的分级结果。
在上述实施方式中,所述缺陷检测结果,包括内部和外部是否存在缺陷、存在何种缺陷及缺陷程度;所述分级结果,包括待检测水果处于哪个等级,以及相应等级具有的特征信息及缺陷信息。这里的分级依据,不仅包括水果的外观特征,也包含水果的内部特征,是一种全面考察水果质量的分级方法。
由以上实施方式可以看出,本发明实施方式所提供的基于神经网络的水果缺陷无损检测方法及分级方法,采用外观图像、切片图像及化学检测数据对两张X射线图拼接后的X射线图加注标签,以带标签的X射线图与特征图像融合后得到的更多通道数的带标签的像素点矩阵集作为模型输入数据,对构建的水果缺陷无损检测和/或分级模型进行训练、验证和测试,采用训练完成的模型,以待检测水果的两张X射线图融合后的像素点矩阵作为模型的输入,输出相应的缺陷结果或分级结果。
本发明可同时对水果的内部和外部缺陷进行检测,分级结果也同时考量了水果的外观特征和内部特征,是一种全面、准确、客观的分级方法,同时完成对水果的检测或分级,实现了水果内外部缺陷的无损检测,提高了检测和分级效率以及分级的准确性。
以上描述仅为本发明的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本发明中所涉及的发明范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离所述发明构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本发明中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
Claims (7)
1.一种基于神经网络的水果缺陷无损检测方法,其特征在于,所述方法包括如下步骤:
步骤S1,采集水果的外观图像集、对应的X射线图集、切片图像集以及切片化学检测数据集;其中,每个水果采集两张X射线图,两张X射线图的X射线入射方向在垂直于果轴的平面上成90度;
步骤S2,将外观图像、切片图像和切片化学检测数据所包含的特征信息及缺陷信息进行整合,得到水果缺陷分类以及与缺陷类型对应的信息包,以信息包对应的缺陷类型作为标签,记录在标签列表中,对两张X射线图进行拼接后再进行标记,得到带有标签的拼接后的X射线图集;
所述将外观图像、切片图像和切片化学检测数据所包含的特征信息及缺陷信息进行整合,具体包括:
从所述外观图像中获取相应信息,在图像中用第一边界框将水果边界的区域圈出来,再用第二边界框将外表损伤的区域圈出来,存储第一边界框和第二边界框的信息;
从所述切片图像中获取相应信息,在图像中用第三边界框将存在内部缺陷的区域圈出来,并存储第三边界框及切片厚度的信息;
从所述切片化学检测数据中获取水果糖度、蛋白质含量、成熟度信息;
将第一边界框、第二边界框、第三边界框、厚度和水果糖度、蛋白质含量、成熟度信息,转化为与X射线图对应的标签格式,记录在标签列表中;
步骤S3,对带有标签的拼接后的X射线图进行预处理,得到特征图像,再将所述拼接后的X射线图与所述特征图像在通道上进行融合,得到带标签的像素点矩阵,当前像素点矩阵的通道数是X射线图与特征图像通道数的加和;
步骤S4,将所述带有标签的像素点矩阵集分为训练集和测试集,其中训练集中30%作为验证集;
步骤S5,基于神经网络构建水果缺陷无损检测模型;
步骤S6,以所述训练集和测试集对所述水果缺陷无损检测模型进行训练、验证和测试,得到训练完成的水果缺陷无损检测模型;
步骤S7,采集待检测水果的两张X射线图,两张X射线图的X射线入射方向在垂直于果轴的平面上成90度;通过X射线图得到特征图像,再将所述待检测水果的X射线图与所述特征图像在通道上进行融合,得到待检测水果的像素点矩阵,将像素点矩阵输入所述训练完成的水果缺陷无损检测模型,得到待检测水果的缺陷结果。
2.根据权利要求1所述的水果缺陷无损检测方法,其特征在于,所述第三边界框、厚度转化为与X射线图对应的标签格式前,首先将第三边界框与厚度相乘,得到缺陷区域体积,将所述缺陷区域体积作为转化为与X射线图对应的标签格式。
3.根据权利要求1所述的水果缺陷无损检测方法,其特征在于,所述步骤S4中构建水果缺陷无损检测模型,采用计算机视觉组VGG深度卷积神经网络进行搭建,增加对输入数据的组归一化处理,同时将神经网络最后的全连接层替换为一层最大池化层、三层卷积层和softmax层的组合。
4.根据权利要求1所述的水果缺陷无损检测方法,其特征在于,所述步骤S5中,对模型进行训练时,首先输入训练集对所述模型进行训练,判断损失函数的值是否随着时间的变化而减小,当损失函数值在较长一段时间内没有发生变化时,采用验证集进行判断,看模型是否很好的学习到这种特征;如果验证集得到的结果符合要求,用测试集进行测试;如果测试集的结果不达标,重新调整模型的初始参数或者学习率,并重新进行训练;如果验证集得到的结果不符合要求,继续进行训练。
5.根据权利要求1所述的水果缺陷无损检测方法,其特征在于,所述步骤S6所检测的缺陷结果,包括存在何种缺陷及缺陷程度。
6.根据权利要求1至5任一项所述的水果缺陷无损检测方法,其特征在于,所述步骤S1中外观图像包括水果外观的六视图,六视图中的水果特征信息包括:水果的大小、形状、光滑程度、外表缺陷、缺陷面积。
7.一种基于神经网络的水果分级方法,其特征在于,所述分级方法包括如下步骤:
步骤S1,采集水果的外观图像集、对应的X射线图集、切片图像集以及切片化学检测数据集;其中,每个水果采集两张X射线图,两张X射线图的X射线入射方向在垂直于果轴的平面上成90度;
步骤S2,将外观图像、切片图像和切片化学检测数据所包含的特征信息及缺陷信息进行整合,得到水果等级以及与等级对应的信息包,以信息包对应的等级作为标签,记录在标签列表中,对两张X射线图进行拼接后再进行标记,得到带有标签的拼接后的X射线图集;
所述将外观图像、切片图像和切片化学检测数据所包含的特征信息及缺陷信息进行整合,具体包括:
从所述外观图像中获取相应信息,在图像中用第一边界框将水果边界的区域圈出来,再用第二边界框将外表损伤的区域圈出来,存储第一边界框和第二边界框的信息;
从所述切片图像中获取相应信息,在图像中用第三边界框将存在内部缺陷的区域圈出来,并存储第三边界框及切片厚度的信息;
从所述切片化学检测数据中获取水果糖度、蛋白质含量、成熟度信息;
将第一边界框、第二边界框、第三边界框、厚度和水果糖度、蛋白质含量、成熟度信息,转化为与X射线图对应的标签格式,记录在标签列表中;
步骤S3,对带有标签的拼接后的X射线图进行预处理,得到特征图像,再将所述拼接后的X射线图与所述特征图像在通道上进行融合,得到带标签的像素点矩阵,当前像素点矩阵的通道数是X射线图与特征图像通道数的加和;
步骤S4,将所述带有标签的像素点矩阵集分为训练集和测试集,其中训练集中30%作为验证集;
步骤S5,基于神经网络构建水果分级模型;
步骤S6,以所述训练集和测试集对所述水果分级模型进行训练、验证和测试,得到训练完成的水果分级模型;
步骤S7,采集待检测水果的两张X射线图,两张X射线图的X射线入射方向在垂直于果轴的平面上成90度;通过X射线图得到特征图像,再将所述待检测水果的X射线图与所述特征图像在通道上进行融合,得到待检测水果的像素点矩阵;将所述像素点矩阵输入所述训练完成的水果分级模型,得到待检测水果的分级结果。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011437542.7A CN112697984B (zh) | 2020-12-11 | 2020-12-11 | 基于神经网络的水果缺陷无损检测方法及水果分级方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011437542.7A CN112697984B (zh) | 2020-12-11 | 2020-12-11 | 基于神经网络的水果缺陷无损检测方法及水果分级方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112697984A CN112697984A (zh) | 2021-04-23 |
CN112697984B true CN112697984B (zh) | 2023-07-21 |
Family
ID=75507281
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011437542.7A Active CN112697984B (zh) | 2020-12-11 | 2020-12-11 | 基于神经网络的水果缺陷无损检测方法及水果分级方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112697984B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114627469B (zh) * | 2022-05-16 | 2022-08-12 | 河北工业大学 | 一种水果状态无损识别方法 |
CN117388292B (zh) * | 2023-12-08 | 2024-06-04 | 海南大学三亚研究院 | 一种榴莲内部品质无损快速检测、分级方法及系统 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH08117694A (ja) * | 1994-08-31 | 1996-05-14 | Takaaki Satake | 青果物選果方法および装置 |
CN1940555A (zh) * | 2006-09-04 | 2007-04-04 | 江苏大学 | 一种农产品内外品质检测方法及装置 |
CN105067531A (zh) * | 2014-12-31 | 2015-11-18 | 广西师范学院 | 一种芒果品质无损检测方法及装置 |
CN109100323B (zh) * | 2018-08-20 | 2020-11-20 | 江苏大学 | 一种苹果水心病的透射光谱无损定量评价方法 |
CN110276386A (zh) * | 2019-06-11 | 2019-09-24 | 济南大学 | 一种基于机器视觉的苹果分级方法及系统 |
CN112001901A (zh) * | 2020-08-18 | 2020-11-27 | 济南大学 | 基于卷积神经网络的苹果缺陷检测方法及系统 |
-
2020
- 2020-12-11 CN CN202011437542.7A patent/CN112697984B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN112697984A (zh) | 2021-04-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109767418B (zh) | 检査装置、数据生成装置、数据生成方法及存储介质 | |
CN111784633B (zh) | 一种面向电力巡检视频的绝缘子缺损自动检测算法 | |
CN111223093A (zh) | 一种aoi缺陷检测方法 | |
CN112697984B (zh) | 基于神经网络的水果缺陷无损检测方法及水果分级方法 | |
CN111507426B (zh) | 基于视觉融合特征的无参考图像质量分级评价方法及装置 | |
CN106355579A (zh) | 烟条表面褶皱的缺陷检测方法 | |
CN110781889B (zh) | 一种基于深度学习的蓝莓果实中总糖含量的无损检测方法 | |
CN110736709A (zh) | 一种基于深度卷积神经网络的蓝莓成熟度的无损检测方法 | |
CN113298780B (zh) | 一种基于深度学习的儿童骨龄评估方法及系统 | |
CN116539619B (zh) | 产品缺陷检测方法、系统、装置及存储介质 | |
CN109285140A (zh) | 一种印刷电路板图像配准评估方法 | |
CN110619619A (zh) | 一种缺陷检测方法、装置及电子设备 | |
CN111192260A (zh) | 一种基于高光谱图像深度特征融合的甜瓜品质检测方法 | |
CN116524313A (zh) | 基于深度学习和多模态图像的缺陷检测方法及相关装置 | |
CN116756372A (zh) | 一种烟支缺陷检测方法及装置 | |
CN114913148A (zh) | 基于无监督学习的丝印疵点检测方法、装置及存储介质 | |
EP3896650A1 (en) | Quality control system for series production | |
TW201822121A (zh) | 水果成熟度與品質優劣辨識系統及方法 | |
CN113763384B (zh) | 工业质检中的缺陷检测方法、缺陷检测装置 | |
CN114140400B (zh) | 一种基于ransac与cnn算法检测烟包封签缺陷的方法 | |
CN115545383A (zh) | 一种草莓脆外观品质的双目立体视觉检测方法 | |
CN115546141A (zh) | 一种基于多维度度量的小样本Mini LED缺陷检测方法及系统 | |
Cui et al. | Automated pattern recognition and defect inspection system | |
Menon et al. | Digital grading and sorting of fruits | |
CN110197189A (zh) | 一种引信装配正确性检测方法和设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |