CN115266608A - 基于相位和高光谱信息融合的果蔬品质检测装置及方法 - Google Patents

基于相位和高光谱信息融合的果蔬品质检测装置及方法 Download PDF

Info

Publication number
CN115266608A
CN115266608A CN202210909262.4A CN202210909262A CN115266608A CN 115266608 A CN115266608 A CN 115266608A CN 202210909262 A CN202210909262 A CN 202210909262A CN 115266608 A CN115266608 A CN 115266608A
Authority
CN
China
Prior art keywords
hyperspectral
image
dimensional
sample
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210909262.4A
Other languages
English (en)
Inventor
韦鑫宇
陈元平
徐一新
季颖
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Jiangsu University
Original Assignee
Jiangsu University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Jiangsu University filed Critical Jiangsu University
Priority to CN202210909262.4A priority Critical patent/CN115266608A/zh
Publication of CN115266608A publication Critical patent/CN115266608A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/17Systems in which incident light is modified in accordance with the properties of the material investigated
    • G01N21/25Colour; Spectral properties, i.e. comparison of effect of material on the light at two or more different wavelengths or wavelength bands
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/254Projection of a pattern, viewing through a pattern, e.g. moiré
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/80Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level
    • G06V10/803Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level of input or preprocessed data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/68Food, e.g. fruit or vegetables
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30181Earth observation
    • G06T2207/30188Vegetation; Agriculture

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Computation (AREA)
  • Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • General Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Databases & Information Systems (AREA)
  • Medical Informatics (AREA)
  • Computing Systems (AREA)
  • Artificial Intelligence (AREA)
  • Chemical & Material Sciences (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Quality & Reliability (AREA)
  • Analytical Chemistry (AREA)
  • Biochemistry (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • Computer Graphics (AREA)
  • Geometry (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)

Abstract

本发明提供一种基于相位和高光谱信息融合的果蔬品质检测装置及方法,包括高光谱分析单元、结构光成像单元、被测物载物台单元和数据处理单元;高光谱分析单元用于采集被测样本在设定波长范围内的高光谱图像;结构光成像单元用于采集由被测样本面型高度导致的变形条纹图像;本发明对被测物表面高光谱信息和三维高度信息同步检测,基于三维重建图像与高光谱图像的像素坐标的映射关系,将高光谱图像的像素值赋予三维图像的像素,通过对二者数据进行匹配,将被测物高光谱信息和三维信息的融合,实现对被测物外观和内部成分四维信息的同步对应表征。

Description

基于相位和高光谱信息融合的果蔬品质检测装置及方法
技术领域
本发明属于光学测量与异常检测技术领域,尤其涉及一种基于相位和高光谱信息融合的果蔬品质检测装置及方法。
背景技术
农产品果实的品质不仅取决于外观特征和形状大小,还与其硬度、各类元素含量等因素有关。果实的品质检测很重要,但是人工检测不仅耗费人力大,而且分拣标准不够严格。针对果实品质快速检测的需求以及果实内部检测的困难,研究人员提出多种针对农产品果实的无损检测技术,例如高光谱成像技术、红外热成像技术、声脉冲振动检测技术等,这些技术可以根据样本的形态、光谱等信息判断果实外形和成分情况,但也存在不足,例如数据处理复杂、成本高、识别度低等。因此出现了多信息融合检测技术,这类技术可以在一定程度上解决检测过程中信息量不足、信息类型不全的问题。对于农产品果实的品质检测,为了具有更好的普适性,需要检测设备尽可能小型化,检测技术具有无损、非接触、鲁棒性强的特征,所以多种视觉融合检测技术成为当前研究的重要方向。从技术原理和手段来看,目前已经提出的融合检测技术主要以融合高光谱图像与普通视觉图像技术为主,该技术能够利用获取到的高光谱数据检测到被测物成分的异常,但是无法判断异常区域是否具有表面缺陷,从而容易导致异常的误判。以番茄果实检测为例,对直径6cm的带有干疤的合格番茄进行高光谱图像与普通视觉图像采集,特定光谱波段的图像中可以区别干疤区域与正常区域,普通视觉图像无法判断干疤区域是否存在畸形缺陷,则直接把该番茄判为不合格样本,这样的检测标准不全面的。目前融合技术已经应用在众多领域中,使用较为广泛的融合方式为特征级融合,由于信息量的大小在图像任务中是较为重要的影响因素,许多的图像任务中只需要根据不同的特征对被测物进行判断,比如提取被测物的轮廓等局部特征,该融合方式在特征提取的过程中损失细节信息,虽然主要特征信息会通过算法的设计进行保留,但是对于更加严格的图像任务来说,特征级融合不能满足任务要求。
发明内容
本发明旨在至少在一定程度上解决上述技术问题之一。本发明提供一种基于相位和高光谱信息融合的果蔬品质检测装置及方法,对被测物表面高光谱信息和三维高度信息同步检测,基于三维重建图像与高光谱图像的像素坐标的映射关系,将高光谱图像的像素值赋予三维图像的像素,通过对二者数据进行匹配,将被测物高光谱信息和三维信息的融合,实现对被测物外观和内部成分四维信息的同步对应表征。
本发明所述的像素级融合指直接对采集来得数据进行处理而获得融合图像的过程,经过像素级图像融合以后得到的图像具有更多的细节信息,有利于通过图像识别潜在的目标像素区域的操作。
本发明使用条纹图像-高光谱采集双光路,对被测物的三维面型和高光谱信息进行同步采集;基于相位成像原理获取被测物的变形光场图像,使用深度学习预测算法获取相位信息,并恢复三维高度映射图像;基于高光谱成像原理获取被测物的高光谱图像;设计数据匹配算法对三维高度图像与高光谱图像进行像素级融合,实现二者数据的多维图示。本发明可基于单幅由多维数据矩阵组成的图像,实现对被测物的表面缺陷及其内部成分异常的无损、准确、多维可视化分析,提高检测效率。
本发明为实现上述目的所采用的技术方案是:
基于相位和高光谱信息融合的果蔬品质检测装置,包括高光谱分析单元、相位成像单元、被测物载物台单元和数据处理单元;
所述高光谱分析单元用于采集被测样本在设定波长范围内的高光谱图像,并将高光谱图像数据传递给数据处理单元;
所述相位成像单元用于采集由被测样本面型高度导致的变形条纹图像,并将变形条纹图像数据传递给数据处理单元;
所述被测物载物台单元用于放置被测样本;
所述数据处理单元包括计算机,所述计算机分别与高光谱分析单元、相位成像单元和被测物载物台单元连接,计算机对高光谱图像数据和变形条纹图像数据进行处理,将处理后的变形条纹图像输入建立的预测三维高度的神经网络模型中,得到被测样品的三维重建图像;对高光谱数据进行解析,生成完整的样本高光谱图像,基于三维重建图像与高光谱图像的像素坐标的映射关系,将高光谱图像的像素值赋予三维图像的像素,实现三维重建图像与高光谱图像的数据融合。
上述方案中,所述高光谱分析单元包括高光谱相机和卤素灯;所述高光谱相机用于采集被测样本在设定波长范围内的高光谱图像;所述卤素灯用于对样本的照明。
进一步的,所述高光谱相机用于采集被测样本在400-1000nm波长范围内的高光谱图像;所述卤素灯用于对样本的照明,照射波长范围覆盖400-1000nm的光。
上述方案中,所述相位成像单元包括编码结构光投影仪和工业CCD,编码结构光投影仪和工业CCD分别与计算机连接;计算机根据被测样本的高度设置编码条纹,并将条纹传送至编码结构投影仪,编码结构光投影仪用于将条纹投影到被测样本的表面,被测样本高度的变化导致条纹发生变形,条纹的形变量包含样本高度信息,工业CCD用于采集由被测物面型高度导致的变形条纹图像,并上传至计算机。
上述方案中,所述被测物载物台单元包括步进电机、载物台、遮光罩和散热风扇;
所述载物台置于步进电机的滑轨上,步进电机通过螺杆驱动载物台,使载物台能够双向移动,步进电机与计算机连接;
所述遮光罩置于高光谱相机下方,遮光罩上部设有用于透过被测样本反射光线的空隙,遮光罩下部与载物台之间设有用于被测样本进出的间隙;遮光罩内部设有散热风扇。
根据所述基于相位和高光谱信息融合的果蔬品质检测装置的检测方法,包括以下步骤:
采集变形条纹图像:通过数据处理单元的计算机根据被测样本的高度设置特定频率的编码条纹,并将编码条纹传送至投影仪,编码结构光投影仪将标准的正弦编码条纹投影到被测样本表面,由于样本高度的变化导致条纹发生变形,条纹的形变量包含样本高度信息,工业CCD对变形条纹图像实时采集,得到变形条纹图像,并上传至数据处理单元的计算机;
采集高光谱图像:开启高光谱成像单元,载物台配合高光谱相机的采集频率移动,进行线扫的高光谱图像采集,并将高光谱图像上传至数据处理单元的计算机;
数据处理:所述数据处理单元的计算机对获取到的变形条纹图像进行数据预测,首先进行预处理,将预处理后的变形条纹图像输入建立的预测三维高度的神经网络模型中,得到被测样品的三维重建图像,数据处理单元对高光谱数据进行解析,生成完整的样本高光谱图像;数据处理单元基于三维重建图像与高光谱图像的像素坐标的映射关系,将高光谱图像的像素值赋予三维图像的像素,实现三维重建图像与高光谱图像的数据融合,并进行四维可视化。
上述方案中,所述采集变形条纹图像的步骤具体为:
将被测样品置于载物台上,此时载物台位于遮光罩外部,开启相位成像单元,编码结构光投影仪将特定频率的编码条纹投影到被测样品表面,工业CCD对变形条纹实时采集,得到多个频率下的变形条纹图像,并上传至数据处理单元的计算机。
上述方案中,所述采集高光谱图像的步骤具体为:
关闭相位成像单元,开启高光谱分析单元,计算机控制步进电机使载物台移动至遮光罩内,步进电机与载物台配合高光谱相机的采集频率移动,进行线扫的高光谱图像采集,并上传至数据处理单元的计算机。
上述方案中,所述数据处理单元对变形条纹数据预测具体为:
计算机对获取的变形条纹图像进行预处理,包括对变形条纹图像进行标准化处理、使用DCT算法对图像进行无损压缩;使用MATLAB软件建立被测样本模型,模拟被测样本的变形条纹光场分布,得到仿真模拟的变形条纹;设计预测三维高度的神经网络模型,把实验采集的变形条纹与仿真模拟的变形条纹作为训练数据集进行训练;以待预测条纹图作为神经网路的输入,预测被测样本的高度信息,并恢复上表面三维结构,得到被测样品的三维重建图像。
上述方案中,所述数据处理单元将高光谱数据和三维重建数据进行融合具体为:
对工业CCD与高光谱相机进行分布式标定,根据空间位置对图像像素进行匹配,建立数据关联;
按照像素坐标提取同名特征点对三维重建图像像素与高光谱图像像素进行联合标定;
使用共线方程法,获得三维重建图像在高光谱图像中对应的像素坐标,将对应像素的光谱信息值赋值给三维图像的像素点,实现图像融合,并进行四维可视化。
与现有技术相比,本发明的有益效果是:
本发明基于高光谱成像、相位成像技术,属于无接触检测技术,不会对被测物造成物理、化学损伤;在相位三维成像中引入深度学习技术,能够实现单幅条纹图到三维结构的快速重建;不易受到干扰光影响,相比传统重建方法有更强的抗噪性;基于高光谱成像技术,对被测物的表面及浅层组织进行异常检测,能弥补单纯依赖三维重建进行异常检测中非面型缺陷的问题;对高光谱图像与三位重建图像融合,三维图像的像素被赋予光谱信息属性,从而能够通过三维空间角度、光谱信息角度更真实、更详细地还原被测物信息,可以减少对被测物品质检测的误判,增加质检容错率,节约生产成本。
附图说明
图1是本发明一实施方式的装置的结构框图;
图2是本发明一实施方式的检测方法流程图;
图3是本发明一实施方式的神经网络结构图;
图4是本发明一实施方式的神经网络的三维重建预测效果;
图5是本发明一实施方式的三维高度图与单波长光谱图的融合图,图5a为三维高度图,图5b为单波长光谱图,图5c为二者融合图。
图中,1、编码结构光投影仪;2、工业CCD;3、高光谱相机;4、遮光罩;5、卤素灯;6、步进电机;7、载物台;8、散热风扇;9、计算机;10、暗箱。
具体实施方式
下面详细描述本发明的实施例,所述实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的,旨在用于解释本发明,而不能理解为对本发明的限制。
在本发明的描述中,需要理解的是,术语“中心”、“纵向”、“横向”、“长度”、“宽度”、“厚度”、“前”、“后”、“左”、“右”、“上”、“下”、“轴向”、“径向”、“竖直”、“水平”、“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本发明的限制。此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。在本发明的描述中,“多个”的含义是两个或两个以上,除非另有明确具体的限定。
在本发明中,除非另有明确的规定和限定,术语“安装”、“相连”、“连接”、“固定”等术语应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或一体地连接;可以是机械连接,也可以是电连接;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通。对于本领域的普通技术人员而言,可以根据具体情况理解上述术语在本发明中的具体含义。
图1所示为所述基于相位和高光谱信息融合的果蔬品质检测装置的一种较佳实施方式,所述基于相位和高光谱信息融合的果蔬品质检测装置,包括高光谱分析单元、相位成像单元、被测物载物台单元和数据处理单元;
所述高光谱分析单元用于采集被测样本波长在设定范围内的高光谱图像,并将高光谱图像数据传递给数据处理单元;
所述相位成像单元用于采集由被测样本面型高度导致的变形条纹图像,并将变形条纹图像数据传递给数据处理单元;
所述被测物载物台单元用于放置被测样本;
所述数据处理单元包括计算机9,所述计算机9分别与高光谱分析单元、相位成像单元和被测物载物台单元连接计算机9对高光谱图像数据和变形条纹图像数据进行处理,将处理后的变形条纹图像输入建立的预测三维高度的神经网络模型中,得到被测样品的三维重建图像;对高光谱数据进行解析,生成完整的样本高光谱图像,基于三维重建图像与高光谱图像的像素坐标的映射关系,将高光谱图像的像素值赋予三维图像的像素,实现三维重建图像与高光谱图像的数据融合。
根据本实施例,优选的,所述高光谱分析单元、相位成像单元和被测物载物台单元都置于暗箱10中。
所述高光谱分析单元包括高光谱相机3和卤素灯5;所述高光谱相机3用于采集被测样本在设定波长范围内的高光谱图像;所述卤素灯5用于对样本的照明,照射波长覆盖设定范围的光。
根据本实施例,优选的,所述高光谱相机3用于采集被测样本在400-1000nm波长范围内的高光谱图像;所述卤素灯5用于对样本的照明,照射波长范围覆盖400-1000nm的光。
根据本实施例,优选的,所述相位成像单元包括编码结构光投影仪1和工业CCD2,编码结构光投影仪1和工业CCD2分别与计算机9连接;计算机9根据被测样本的高度设置相应的编码条纹,并将条纹传送至编码结构投影仪1,编码结构投影仪1用于将条纹投影到被测样本的表面,被测样本高度的变化导致条纹发生变形,条纹的形变量包含样本高度信息,工业CCD2用于采集由被测物面型高度导致的变形条纹图像,并上传至计算机9。
根据本实施例,优选的,所述被测物载物台单元包括步进电机6、载物台7、遮光罩4和散热风扇8;被测物载物台单元用于调整被测物的姿态、位置以及受光面积,方便获取符合要求的观测数据。
所述载物台7置于步进电机6的滑轨上,步进电机6通过螺杆驱动载物台7,使载物台7能够双向移动;步进电机6与计算机9连接;
所述遮光罩4置于高光谱相机3正下方,遮光罩4上部设有空隙,用于透过被测样本反射的光线,遮光罩4下部与载物台7之间设有间隙,用于被测样本的进出;遮光罩4内部设有散热风扇8,用于对卤素灯5的散热。
根据本实施例,优选的,所述编码结构投影仪1置于相位成像单元台架横杆上靠近竖杆的一侧,编码结构投影仪1与横杆之间设有可滑动铰链,用于对投影仪投射角度的调节,编码结构投影仪1与横杆之间的角度调节范围为15°至90°;编码结构投影仪1与计算机9连接,可以投影高精度的编码条纹图像至载物台7上的被测样品表面。
根据本实施例,优选的,所述工业CCD2置于横杆上远离竖杆的一侧,工业CCD2垂直于载物台7放置,工业CCD2与横杆之间设有滑动轨道,用于调节编码结构投影仪1与工业CCD2之间的距离;工业CCD2与计算机9连接,实时上传采集图像至计算机9。
根据本实施例,优选的,所述高光谱相机3置于高光谱成像单元台架的竖杆上,高光谱相机3与竖杆之间设有滑轨,用于调节高光谱相机3与载物台7之间的距离,高光谱相机3的拍摄角度垂直于载物台7;高光谱相机3装有变焦镜头,通过调节光圈能够控制进光量的大小,通过调节焦段能够实现不同高度被测物的对焦成像;高光谱相机3的感光元件可对波长范围为400-1000nm的光成像;高光谱相机3与计算机9连接,实时上传高光谱数据至计算机9。
根据本实施例,优选的,所述遮光罩4置于高光谱相机3正下方,遮光罩4上部之间留有2cm宽的空隙,用于透过被测物反射的光线,遮光罩4下部与载物台7之间有10cm高的间隙,用于被测物的进出;遮光罩4内部设有散热风扇8,用于对卤素灯5的散热。
根据本实施例,优选的,所述卤素灯5置于遮光罩4内部上方,能够发射波长范围覆盖400nm-1000nm的光线,用于对遮光罩4内被测物样本的照明。
根据本实施例,优选的,所述载物台7置于步进电机6的滑轨上,步进电机6通过螺杆驱动载物台7,实现载物台7的双向移动;步进电机6与计算机9连接,由计算机9控制移动距离。
根据本实施例,优选的,所述相位成像单元的光路参数设置为:工业CCD设于被测物正上方50cm,投影仪设于工业CCD水平方向,投影仪到被测物连线和CCD到被测物连线夹角为20°~35°。
根据本实施例,优选的,所述高光谱成像单元的光路参数设置为:高光谱相机设于被测物正上方30-50cm,遮光罩设于载物台上,卤素灯设于遮光罩内。
根据所述基于相位和高光谱信息融合的果蔬品质检测装置的检测方法,包括以下步骤:
采集变形条纹图像:通过数据处理单元的计算机9根据被测样本的高度设置相应频率的编码条纹,并将编码条纹传送至投影仪1,编码结构光投影仪1将标准的正弦编码条纹投影到被测样本表面,由于样本高度的变化导致条纹发生变形,条纹的形变量包含样本高度信息,工业CCD2对变形条纹图像实时采集,得到变形条纹图像,并上传至数据处理单元的计算机9;
采集高光谱图像:开启高光谱成像单元,载物台7配合高光谱相机3移动,进行线扫的高光谱图像采集,并将高光谱图像上传至数据处理单元的计算机9;
数据处理:所述数据处理单元的计算机9对获取到的变形条纹图像进行数据预测,首先进行预处理,将预处理后的变形条纹图像输入建立的预测三维高度的神经网络模型中,得到被测样品的三维重建图像,数据处理单元的光谱分析软件自动对高光谱数据进行解析,生成完整的样本高光谱图像;数据处理单元基于三维重建图像与高光谱图像的像素坐标的映射关系,将高光谱图像的像素值赋予三维图像的像素,实现三维重建图像与高光谱图像的数据融合。
根据本实施例,优选的,所述采集变形条纹图像的步骤具体为:
将被测样品置于载物台7的正中位置,此时载物台7位于遮光罩4外部;开启相位成像单元,编码结构光投影仪1将特定频率的编码条纹投影到被测样品表面,工业CCD2对变形条纹实时采集,得到多个频率下的变形条纹图像,并上传至数据处理单元的计算机9。
所述采集高光谱图像的步骤具体为:关闭相位成像单元,开启高光谱分析单元,计算机9控制步进电机6使载物台7移动至遮光罩4内,步进电机6与载物台7配合高光谱相机3移动,进行线扫的高光谱图像采集,并上传至数据处理单元的计算机9,计算机9的ENVI软件对高光谱相机的采集数据进行预处理,得到一组完整的高光谱图像数据。
所述数据处理单元对变形条纹数据预测:根据实验光路建立仿真模型,生成模拟变形条纹图像;设计由单帧条纹图像预测三维高度的神经网络模型,把以往实验采集的变形条纹与仿真模拟的变形条纹作为训练数据集进行训练,得到预测神经网络权重;将待预测条纹图像喂入预测网络,得到被测物的三维重建图像。具体的:计算机9对获取的变形条纹图像进行预处理,包括对变形条纹图像进行标准化处理、使用DCT算法对图像进行无损压缩;使用MATLAB软件建立被测样本模型,按照相位成像的基本原理模拟样本的变形条纹光场分布,得到仿真模拟的变形条纹;设计预测三维高度的神经网络模型,把实验采集的变形条纹与仿真模拟的变形条纹作为训练数据集进行训练;以待预测条纹图作为神经网路的输入,预测被测样本的高度信息,并恢复上表面三维结构,得到被测样品的三维重建图像。
所述编码结构光投影仪1对被测样品进行相位条纹投影具体为:根据被测样品设定合适频率的编码条纹,计算机9将编码条纹下传至投影仪进行投影。
所述数据处理单元将高光谱数据和三维重建数据进行融合具体为:对工业CCD2与高光谱相机3进行分布式标定,根据空间位置对图像像素进行匹配,建立数据关联,求解高光谱图像坐标与三维图像坐标之间的几何映射关系;压缩二者像素至同一标准,按照像素坐标提取同名特征点对三维重建图像像素与高光谱图像像素进行联合标定;根据标定得到的映射关系矩阵,使用共线方程法,获得三维重建图像在高光谱图像中对应的像素坐标;将对应像素的光谱信息值赋值给三维图像的像素点,实现图像素级融合并进行四维可视化。
本发明对待测样品进行检测的具体过程如下:
步骤S1、对待测样本进行预处理以符合检测要求,比如对待测样本表面进行清理,考虑到反光表面对于三维成像的干扰,需去除样本表面存在的水等;
步骤S2、对所有成像设备进行校准,包括对编码结构光投影仪1进行校准,具体操作为:调节相位成像单元台架的高度至50cm,连接编码结构光投影仪1与计算机9,计算机9将编码条纹上传至编码结构光投影仪1并进行投射,缓慢调节编码结构光投影仪1的镜头进行调焦,待载物台7上的条纹显示最清晰的时候停止调节,固定投影仪1镜头;对工业CCD2进行校准,具体操作为:连接工业CCD2与计算机9,调节工业CCD2的镜头至载物台7成像清晰;对高光谱相机3进行校准,具体操作为:调节高光谱相机3与载物台7之间的距离至35-50cm,连接高光谱相机3与计算机9,调节高光谱相机3镜头的光圈至最大,将校准板置于载物台7,并移动至遮光罩内,打开计算机9成像软件的实时预览功能,调节镜头的焦段至能够清晰显示校准板的内容。
步骤S3、将被测样品置于载物台7的正中位置,此时载物台7位于遮光罩4的外部,同时在载物台7对角位置放置两个标定参照物,用于减小后期图像融合时像素错位带来的误差,见图4;要求标定参照物为规则的面型、直径小于被测物、面型高度起伏较明显;要求标定参照物的位置不超出条纹投影的视野;在本发明中,使用的标定参照物为直径为2-3cm的标准半球面型,放置于工业CCD2视野的斜对角;开启相位成像单元的所有开关;根据被测样本的高度在计算机9设置合适的编码条纹,上传至编码结构光投影仪1进行投影;调节编码结构光投影仪1与横杆之间的夹角使投影条纹斜入射到样本表面,调节编码结构光投影仪1与工业CCD2之间的距离,防止变形条纹图像出现条纹断层;若出现断层,则减小编码结构光投影仪1与工业CCD2之间的距离;编码结构光投影仪1投射标准的正弦条纹至样本表面,由于样本高度的变化导致条纹发生变形,条纹的形变量包含样本高度信息;工业CCD2对变形条纹进行采集,并上传至计算机9;
计算机9对获取的条纹进行预处理,如使用图像制式转换算法对图像的彩色格式进行转换,实现三通道图像到单通道图像的转换、使用归一化算法对灰度进行标准化处理,减小编码结构光投影仪1干扰光对变形条纹图灰度的影响,要求处理之后的条纹明暗变化能够符合标准的正弦变化,在亮度极小处和极大处的值分别为0和1,通过预处理的图像用于神经网络三维重建可以减小恢复噪声,使用DCT算法对采集图像进行无损压缩,减小后期神经网络预测的运算量;
使用MATLAB软件建立被测样本模型,以半球为例,并按照相位成像的基本原理模拟了样本的变形条纹光场分布,原理基于以下公式:
Figure BDA0003773538180000091
式子中:L表示工业CCD2的镜头到待测样本所放置平面的距离,d表示投影仪1的镜头到工业CCD2的镜头的水平距离,z表示待测样本面型的高度值,f0为投影标准条纹的频率,
Figure BDA0003773538180000092
为包含高度信息的相位值,其中L、d、z的单位为米,f0的单位为赫兹;
设计预测三维高度的神经网络模型,把实验采集的变形条纹与仿真模拟的变形条纹作为训练数据集进行训练,得到预测神经网络权重;神经网络的训练集根据VOC结构设定,在初始数据的基础上,对数据集进行数据增强,以增强网络模型的泛化性;神经网络的输入为变形条纹图与对应的标签图,标签图采用八位彩图;神经网络模型采用U-Net网络,本发明基于训练任务对网络参数进行了改进,将网络中所有的下采样模块由最大池化层调整为输出长、宽为上层1/2的卷积层,从而避免网络丢失特征过多的问题,将上采样模块的转置卷积函数调整为插值函数,从而避免上采样过程中在特征层中插入过多的空洞像素;神经网络结构图见图3,神经网络由图像输入层、下采样部分、上采样部分及图像的输出层组成,网络结构图的左半部分是下采样部分。图像输入到神经网络的下采样部分后,首先经过两次卷积核为3×3,步长为1,padding策略为reflect的卷积操作,目的是提取当前大小图像的初步特征,卷积后图像大小保持不变;然后经过一次卷积核为3×3,步长为2的卷积操作,目的是减小特征图像的尺寸,从而减少神经网络的数据计算量和加快训练速度,每次卷积后图像大小缩小为操作前的1/2,特征图的通道数保持不变。每次卷积后加入批归一化(BatchNorm)、激活函数(LeakyReLU)操作,目的是为了加快训练收敛速度,防止梯度弥散。重复五次特征提取和四次图像缩小步骤后,获得的五个初步特征将会用于上采样的特征融合。在经典的U-Net网络模型中,第二步通常采用最大池化操作,考虑到最大池化操作容易丢失特征的缺陷,本发明采用的是卷积操作,可以更好的保留图像特征。
网络结构图的右半部分是上采样部分。特征图像到达上采样部分的操作可以分为三步,首先经过倍数为2的反卷积操作,并经过输出通道为输入通道1/2,卷积核为1×1的卷积的操作,目的是扩大特征图的尺寸;然后与左侧对称层的输出特征进行通道拼接,目的是将深层与浅层的特征融合;最后通过两次特征提取卷积操作,该卷积与下采样部分中特征提取的卷积一样。上采样的质量在一定程度上决定着最终的分割效果,常见的上采样方法有插值法如最邻近插值、转置卷积、上池化,在本发明中采用的上采样方法为最临近插值法,方法的优点是学习参数比其他方法更少,可以获得更快的训练速度。网络结构的输出层采用输出通道为3的卷积层,用于输出通道为3的分割图像。
步骤S4、关闭相位成像单元的所有开关,打开高光谱成像单元的所有开关;控制载物台7移动至遮光罩内,卤素灯5照射波长范围覆盖400-1000nm的光到被测样本表面;开启高光谱相机3采集按钮,载物台7配合高光谱相机3采集频率移动实现线扫成像并上传至计算机9,采集的高光谱图像信息包括反射率、光吸收率,采集结束后关闭高光谱成像单元。
步骤S5、对工业CCD2与高光谱相机3进行分布式标定,建立工业CCD2与高光谱相机3之间的数据关联,以待预测条纹图作为神经网路的输入,预测被测样本的上表面三维结构映射图,求解高光谱图像坐标与三维图像坐标之间的几何映射关系,神经网络的预测效果如图4所示。
根据本实施例,优选的,根据步骤S3中放置的标定参照物,调整三维高度图像与单一波长下光谱图像的像素,具体包括对图像的比例的裁剪、对图像像素的压缩实现对应空间位置的像素的匹配、对光谱图像中未匹配像素的去除,使二者图像中三维高度图像区域的像素一一对应,按照像素坐标对同名特征点进行联合标定,同名特征点指在多幅图像中同一像素坐标的点;其中,未匹配像素的去除用到边缘检测算法,经过边缘检测算法检索出未包含三维高度信息的像素并返回其坐标值,根据坐标将光谱图像中的对应像素值归零,实现未匹配像素的去除;
经过对二者图像中像素点的标定,实际物体的成像点在三维图像与高光谱图像中的坐标位置是一致的,这就实现了图像的配准。根据标定得到的矩阵坐标,使用numpy库将高光谱图像的像素值赋给三维图像中的同名像素点,实现像素级的图像融合。使用napari多维数据显示软件,对融合后的数据进行可视化。三维高度图与单波长光谱图的融合显示见图5,图5a为三维高度图,图5b为单波长光谱图,图5c为二者融合图。
融合后的数据,从理论上来讲具有四个空间维度,并且第四维度上数据量的大小取决于高光谱相机的采集波段数量。根据本实施例,优选的,所采用的高光谱相机具有较高的光谱分辨率,可以在400-1000nm的波长范围内采集300个波段的图像,则第四维度上可以用作融合的图像就有300幅。通常,某一种异常,比如病变、霉菌,只会影响到某几种特征的波长,所以在数据融合的时候,可以选取几种特定的波长的图片进行融合,从而减少数据量。
通过napari数据显示软件可以实现在三维结构图的基础上,让每个空间点显示不同的灰度色标;这里灰度颜色代表第四维度的数据值,通常为高光谱图像的反射率值。
对数据进行融合并可视化之后,可以通过三维结构数据快速识别出被测物的表面缺陷区域,并且通过三维空间点的灰度显示来进一步判断某区域是否存在成分异常。目前基于视觉的农产品的检测技术多是依据其表面缺陷与表面颜色进行质检,容易出现质检误判。比如具有干疤的番茄在整个生产过程中不会影响其保质期与食用风味,可以作为合格产品。若仅根据颜色判断,就会导致误判,造成生产过程中的浪费。本发明中的检测方法可以在一定程度上增加质检容错,减少误判,节约生产成本;并且可以实现更细化的产品分级。最终实现对果实的表面形态和内部成分的无损、可视化检测。
应当理解,虽然本说明书是按照各个实施例描述的,但并非每个实施例仅包含一个独立的技术方案,说明书的这种叙述方式仅仅是为清楚起见,本领域技术人员应当将说明书作为一个整体,各实施例中的技术方案也可以经适当组合,形成本领域技术人员可以理解的其他实施方式。
上文所列出的一系列的详细说明仅仅是针对本发明的可行性实施例的具体说明,它们并非用以限制本发明的保护范围,凡未脱离本发明技艺精神所作的等效实施例或变更均应包含在本发明的保护范围之内。

Claims (10)

1.基于相位和高光谱信息融合的果蔬品质检测装置,其特征在于,包括高光谱分析单元、相位成像单元、被测物载物台单元和数据处理单元;
所述高光谱分析单元用于采集被测样本在设定波长范围内的高光谱图像,并将高光谱图像数据传递给数据处理单元;
所述相位成像单元用于采集由被测样本面型高度导致的变形条纹图像,并将变形条纹图像数据传递给数据处理单元;
所述被测物载物台单元用于放置被测样本;
所述数据处理单元包括计算机(9),所述计算机(9)分别与高光谱分析单元、相位成像单元和被测物载物台单元连接,计算机(9)对高光谱图像数据和变形条纹图像数据进行处理,将处理后的变形条纹图像输入建立的预测三维高度的神经网络模型中,得到被测样品的三维重建图像;对高光谱数据进行解析,生成完整的样本高光谱图像;基于三维重建图像与高光谱图像的像素坐标的映射关系,将高光谱图像的像素值赋予三维图像的像素,实现三维重建图像与高光谱图像的数据融合。
2.根据权利要求1所述的基于相位和高光谱信息融合的果蔬品质检测装置,其特征在于,所述高光谱分析单元包括高光谱相机(3)和卤素灯(5);
所述高光谱相机(3)用于采集被测样本在设定波长范围内的高光谱图像;所述卤素灯(5)用于对样本的照明。
3.根据权利要求2所述的基于相位和高光谱信息融合的果蔬品质检测装置,其特征在于,所述高光谱相机(3)用于采集被测样本在400-1000nm波长范围内的高光谱图像;所述卤素灯(5)用于对样本的照明,照射波长范围覆盖400-1000nm的光。
4.根据权利要求1所述的基于相位和高光谱信息融合的果蔬品质检测装置,其特征在于,所述相位成像单元包括编码结构光投影仪(1)和工业CCD(2),编码结构光投影仪(1)和工业CCD(2)分别与计算机(9)连接;计算机(9)根据被测样本的高度设置编码条纹,并将条纹传送至编码结构投影仪(1),编码结构光投影仪(1)用于将条纹投影到被测样本的表面,被测样本高度的变化导致条纹发生变形,条纹的形变量包含样本高度信息,工业CCD(2)用于采集由被测物面型高度导致的变形条纹图像,并上传至计算机(9)。
5.根据权利要求1所述的基于相位和高光谱信息融合的果蔬品质检测装置,其特征在于,所述被测物载物台单元包括步进电机(6)、载物台(7)、遮光罩(4)和散热风扇(8);
所述载物台(7)置于步进电机(6)的滑轨上,步进电机(6)通过螺杆驱动载物台(7),使载物台(7)能够双向移动,步进电机(6)与计算机(9)连接;
所述遮光罩(4)置于高光谱相机(3)下方,遮光罩(4)上部设有用于透过被测样本反射光线的空隙,遮光罩(4)下部与载物台(7)之间设有用于被测样本进出的间隙;遮光罩(4)内部设有散热风扇(8)。
6.根据权利要求1-5任意一项所述基于相位和高光谱信息融合的果蔬品质检测装置的检测方法,其特征在于,包括以下步骤:
采集变形条纹图像:通过数据处理单元的计算机(9)根据被测样本的高度设置频率的编码条纹,并将编码条纹传送至投影仪(1),编码结构光投影仪(1)将标准的正弦编码条纹投影到被测样本表面,由于样本高度的变化导致条纹发生变形,条纹的形变量包含样本高度信息,工业CCD(2)对变形条纹图像实时采集,得到变形条纹图像,并上传至数据处理单元的计算机(9);
采集高光谱图像:开启高光谱成像单元,载物台(7)配合高光谱相机(3)的采集频率移动,进行线扫的高光谱图像采集,并将高光谱图像上传至数据处理单元的计算机(9);
数据处理:所述数据处理单元的计算机(9)对获取到的变形条纹图像进行数据预测,首先进行预处理,将预处理后的变形条纹图像输入建立的预测三维高度的神经网络模型中,得到被测样品的三维重建图像,数据处理单元对高光谱数据进行解析,生成完整的样本高光谱图像;数据处理单元基于三维重建图像与高光谱图像的像素坐标的映射关系,将高光谱图像的像素值赋予三维图像的像素,实现三维重建图像与高光谱图像的数据融合,并进行四维可视化。
7.根据权利要求6所述基于相位和高光谱信息融合的果蔬品质检测装置的检测方法,其特征在于,所述采集变形条纹图像的步骤具体为:
将被测样品置于载物台(7)上,此时载物台(7)位于遮光罩(4)外部,开启相位成像单元,编码结构光投影仪(1)将特定频率的编码条纹投影到被测样品表面,工业CCD(2)对变形条纹实时采集,得到多个频率下的变形条纹图像,并上传至数据处理单元的计算机(9)。
8.根据权利要求6所述基于相位和高光谱信息融合的果蔬品质检测装置的检测方法,其特征在于,所述采集高光谱图像的步骤具体为:
关闭相位成像单元,开启高光谱分析单元,计算机(9)控制步进电机(6)使载物台(7)移动至遮光罩(4)内,步进电机(6)与载物台(7)配合高光谱相机(3)的采集频率移动,进行线扫的高光谱图像采集,并上传至数据处理单元的计算机(9)。
9.根据权利要求6所述基于相位和高光谱信息融合的果蔬品质检测装置的检测方法,其特征在于,所述数据处理单元对变形条纹数据预测具体为:
计算机(9)对获取的变形条纹图像进行预处理,包括对变形条纹图像进行标准化处理、使用DCT算法对图像进行无损压缩;使用MATLAB软件建立被测样本模型,模拟被测样本的变形条纹光场分布,得到仿真模拟的变形条纹;设计预测三维高度的神经网络模型,把实验采集的变形条纹与仿真模拟的变形条纹作为训练数据集进行训练;以待预测条纹图作为神经网路的输入,预测被测样本的高度信息,并恢复上表面三维结构,得到被测样品的三维重建图像。
10.根据权利要求6所述基于相位和高光谱信息融合的果蔬品质检测装置的检测方法,其特征在于,所述数据处理单元将高光谱数据和三维重建数据进行融合具体为:
对工业CCD(2)与高光谱相机(3)进行分布式标定,根据空间位置对图像像素进行匹配,建立数据关联;
按照像素坐标提取同名特征点对三维重建图像像素与高光谱图像像素进行联合标定;
使用共线方程法,获得三维重建图像在高光谱图像中对应的像素坐标,将对应像素的光谱信息值赋值给三维图像的像素点,实现图像融合,并进行四维可视化。
CN202210909262.4A 2022-07-29 2022-07-29 基于相位和高光谱信息融合的果蔬品质检测装置及方法 Pending CN115266608A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210909262.4A CN115266608A (zh) 2022-07-29 2022-07-29 基于相位和高光谱信息融合的果蔬品质检测装置及方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210909262.4A CN115266608A (zh) 2022-07-29 2022-07-29 基于相位和高光谱信息融合的果蔬品质检测装置及方法

Publications (1)

Publication Number Publication Date
CN115266608A true CN115266608A (zh) 2022-11-01

Family

ID=83746838

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210909262.4A Pending CN115266608A (zh) 2022-07-29 2022-07-29 基于相位和高光谱信息融合的果蔬品质检测装置及方法

Country Status (1)

Country Link
CN (1) CN115266608A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116772731A (zh) * 2023-06-21 2023-09-19 华中农业大学 一种香菇子实体高通量表型与品质检测装置
CN117347312A (zh) * 2023-12-06 2024-01-05 华东交通大学 基于多光谱结构光的柑橘连续检测方法和设备

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110335249A (zh) * 2019-05-31 2019-10-15 浙江大学山东工业技术研究院 基于高光谱成像技术的柑橘黄龙病检测方法
CN111047681A (zh) * 2019-11-07 2020-04-21 北京理工大学 基于深度学习的单像素三维端到端重建方法及装置
CN112697737A (zh) * 2021-01-21 2021-04-23 浙江大学 一种凝视型高光谱形貌四维系统
CN113256575A (zh) * 2021-05-13 2021-08-13 南京农业大学 一种基于结构化高光谱系统的水果缺陷检测方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110335249A (zh) * 2019-05-31 2019-10-15 浙江大学山东工业技术研究院 基于高光谱成像技术的柑橘黄龙病检测方法
CN111047681A (zh) * 2019-11-07 2020-04-21 北京理工大学 基于深度学习的单像素三维端到端重建方法及装置
CN112697737A (zh) * 2021-01-21 2021-04-23 浙江大学 一种凝视型高光谱形貌四维系统
CN113256575A (zh) * 2021-05-13 2021-08-13 南京农业大学 一种基于结构化高光谱系统的水果缺陷检测方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
张保华: "基于机器视觉和光谱成像技术的苹果外部品质检测方法研究", 《中国博士学位论文全文数据库-农业科技辑》, 15 March 2020 (2020-03-15), pages 23 - 115 *

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116772731A (zh) * 2023-06-21 2023-09-19 华中农业大学 一种香菇子实体高通量表型与品质检测装置
CN117347312A (zh) * 2023-12-06 2024-01-05 华东交通大学 基于多光谱结构光的柑橘连续检测方法和设备
CN117347312B (zh) * 2023-12-06 2024-04-26 华东交通大学 基于多光谱结构光的柑橘连续检测方法和设备

Similar Documents

Publication Publication Date Title
CN115266608A (zh) 基于相位和高光谱信息融合的果蔬品质检测装置及方法
CN111127412B (zh) 一种基于生成对抗网络的病理图像识别装置
CN110286130B (zh) 一种缺陷检测装置及其方法
USRE47921E1 (en) Reflectance imaging and analysis for evaluating tissue pigmentation
WO2020168094A1 (en) Simultaneous depth profile and spectral measurement
JP2006170669A (ja) 青果物の品質検査装置
US8508591B2 (en) System and method for estimating the height of an object using tomosynthesis-like techniques
CN117437278B (zh) 一种检测镀膜机膜厚均匀性的方法及系统
US8285018B2 (en) Method for reconstructing color images
KR102448123B1 (ko) 농산물 신선도 예측 방법 및 장치
CN114419311B (zh) 一种基于多源信息的百香果成熟度无损检测方法及装置
CN102663340A (zh) 一种对板材进行分类识别的装置和方法
US9153023B2 (en) Diagnostic image change highlighter
CN116543247A (zh) 基于光度立体表面重建的数据集制作方法及验证系统
CN113483892B (zh) 一种多光谱影像测量系统和方法
CN113272639B (zh) 一种提取待测物质的光谱信息的方法
CN113425259A (zh) 一种高空间分辨率的多光谱舌象采集系统
KR102727706B1 (ko) 측정 대상 물질의 스펙트럼 정보를 추출하는 방법
CN118628494B (zh) 一种柔性电路板的图像检测方法及系统
KR102561029B1 (ko) 초분광 이미지 분석에 기반한 모노셀 불량 검사 시스템 및 그 검사 방법
KR102702535B1 (ko) 인공지능을 이용한 이미지 분석 기반의 관 내부 감시 진단 방법 및 장치
EP3865813A1 (en) Scanning of objects
WO2024203282A1 (ja) 撮像システムおよび方法
CN109406267A (zh) 一种苹果舌触力学信息的三维重构方法
KR20230139958A (ko) 초분광 이미지 분석에 기반한 컬러 및 두께 상태를 판정하는 시스템 및 방법

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination