CN113111946A - 一种集手眼脑于一体的品质管控方法及其系统 - Google Patents

一种集手眼脑于一体的品质管控方法及其系统 Download PDF

Info

Publication number
CN113111946A
CN113111946A CN202110405560.5A CN202110405560A CN113111946A CN 113111946 A CN113111946 A CN 113111946A CN 202110405560 A CN202110405560 A CN 202110405560A CN 113111946 A CN113111946 A CN 113111946A
Authority
CN
China
Prior art keywords
optical information
product
detected
server
detection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110405560.5A
Other languages
English (en)
Inventor
王孟哲
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ningbo Jiuzong Intelligent Technology Co ltd
Original Assignee
Ningbo Jiuzong Intelligent Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ningbo Jiuzong Intelligent Technology Co ltd filed Critical Ningbo Jiuzong Intelligent Technology Co ltd
Priority to CN202110405560.5A priority Critical patent/CN113111946A/zh
Publication of CN113111946A publication Critical patent/CN113111946A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/25Fusion techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/136Segmentation; Edge detection involving thresholding
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30168Image quality inspection

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Evolutionary Biology (AREA)
  • Software Systems (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Graphics (AREA)
  • Geometry (AREA)
  • Image Analysis (AREA)

Abstract

本发明提供了一种集手眼脑于一体的品质管控方法及其系统。方法包括:机械臂固定待检测产品,按照预设轨迹在空间内作轨迹运动,构成检测空间;在检测空间周围设置有多个光源和多个视觉传感器,视觉传感器采集待检测产品在检测空间内被光源照射时的光学信息,并将光学信息反馈给服务器;基于深度学习网络,利用预训练后的服务器根据光学信息判断待检测产品是否存在缺陷。本发明通过模仿人工检测的方式检测产品表面质量,依靠机械手固定产品作为手实现产品的多方位运动,依靠视觉传感器+光源作为眼睛进行图像检测,通过服务器配合深度学习算法作为大脑判断产品是否存在缺陷,检测效率高、检测质量稳定,通用性强,适用于批量化产品检测。

Description

一种集手眼脑于一体的品质管控方法及其系统
技术领域
本发明涉及产品表面质量检测领域,具体而言,涉及一种集手眼脑于一体的品质管控方法及其系统。
背景技术
随着技术的不断革新,产品质量检测也不断迎来新的挑战。在某些精密电子领域,产品的每一个部件都要求极高的精度,任何一个细小的缺陷都有可能导致产品的故障。
因此,机器视觉检测得以在产品表面质量检测领域得到越来越多的应用。视觉检测是指通过机器视觉产品(即图像摄取装置,分CMOS和CCD两种)将被摄取目标转换成图像信号,传送给专用的图像处理系统,根据像素分布和亮度、颜色等信息,判断摄取目标表面是否存在缺陷。
在传统的机器视觉检测系统中,通常采用图像采集装置和光源组成,图像采集装置用于采集工件表面图像,光源用于提供照明使图像采集设备获得清晰的高质量图像。基于图像采集装置和光源自身的缺陷,以及二者的配合协调上的技术手段的缺陷,均能影响机器视觉检测系统的性能,例如准确度、效率等。此外,传统的视觉检测系统只适用于小部分的产品检测,每进行一次检测都需要人工设置,难以进行大批量的产品检测,严重制约产品表面品质检测的发展。
综上,现有技术中的视觉检测还存在诸多缺陷,例如检测精度不高、采集效率低等问题,严重制约产品的批量化检测。因此,继续一种方案来提升机器视觉检测的精度和效率。
发明内容
基于现有技术存在的问题,本发明提供了一种。具体技术方案如下所示:
一种集手眼脑于一体的品质管控方法,适用于包括机械臂、光源、视觉传感器和服务器的系统中,方法包括如下:
机械臂固定待检测产品,按照预设轨迹在空间内作轨迹运动,构成检测空间;
在所述检测空间周围设置有多个光源以及多个视觉传感器,多个所述视觉传感器采集所述待检测产品在所述检测空间内被多个所述光源照射时的光学信息,并将所述光学信息反馈给所述服务器;
基于深度学习网络,利用预训练后的所述服务器根据所述光学信息判断所述待检测产品是否存在缺陷。
在一个具体实施例中,所述预设轨迹的获取过程包括:
获取经过检测后不存在缺陷的样本产品;
通过所述机械臂固定所述样本产品,设置第一轨迹使所述样本产品跟随所述机械臂在轨迹空间内作轨迹运动,构建第一检测空间;
在所述第一检测空间周围设置多个光源和多个所述视觉传感器;
多个所述视觉传感器采集所述样本产品在所述检测空间内被多个所述光源照射时的光学信息,并将所述光学信息反馈给服务器;
根据所述光学信息调整所述光源的位置、所述视觉传感器的位置和所述第一轨迹,直至满足预设条件后,固定光源的位置和视觉传感器的位置,将满足预设条件的第一轨迹作为预设轨迹。
在一个具体实施例中,所述预训练包括:
获取满足所述预设条件时的光学信息,并作为期望光学信息;
按照视觉传感器的位置对所述期望光学信息进行编号,将所述期望光学信息和对应的编号存储在所述服务器中;
“基于深度学习网络,利用预训练后的所述服务器根据所述光学信息判断所述待检测产品是否存在缺陷”具体包括:
所述服务器按照视觉传感器的位置对所述光学信息进行编号;
基于深度学习网络,逐一对比相同编号下的所述光学信息和所述期望光学信息,若存在差异,则所述待检测产品存在缺陷。
在一个具体实施例中,所述检测空间为二维空间;
所述光源和所述视觉传感器固定在设置曲面支架上
所述曲面支架设置在所述检测空间的上方。
在一个具体实施例中,所述检测空间为三维空间;
所述光源和所述视觉传感器固定在设置球状支架上;
所述球状支架覆盖在所述检测空间周围。
在一个具体实施例中,所述服务器根据所述光学信息构建出所述待检测产品的三维模型,具体包括:
通过深度学习网络提取所述光学信息的特征;
通过单应性映射将所述特征投影到同一个参考视角,构建出不同参考视角之间的匹配误差;
根据所述匹配误差预测在所述参考视角下的深度图,融合各参考视角下的深度图构建出所述待检测产品的三维模型。
在一个具体实施例中,“逐一对比相同编号下的所述光学信息和所述期望光学信息”具体包括:
对所述光学信息和所述期望光学信息进行自适应阈值分割,并对区域轮廓进行提取优化;
通过全局几何特征描述计算所述区域的特征描述,获取所述光学信息特征点集和所述期望光学信息特征点集;
基于深度学习网络构建评估模型,根据所述评估模型评估所述光学信息特征点集和所述期望光学信息特征点集,获取评估结果;
根据所述评估结果判断所述光学信息和所述期望光学信息是否存在差异。
一种集手眼脑于一体的品质管控系统,包括:
运动单元:用于通过机械臂固定待检测产品,按照预设轨迹在空间内作轨迹运动,构成检测空间;
视觉单元:包括光源和视觉传感器,用于在所述检测空间周围设置有多个光源以及多个视觉传感器,多个所述视觉传感器采集所述待检测产品在所述检测空间内被多个所述光源照射时的光学信息,并将所述光学信息反馈给预设的服务器;
处理单元:用于基于深度学习网络,利用预训练后的所述服务器根据所述光学信息判断所述待检测产品是否存在缺陷。
在一个具体实施例中,所述系统还包括轨迹获取单元,
轨迹获取单元:用于获取经过检测后不存在缺陷的样本产品,通过所述机械臂固定所述样本产品,设置第一轨迹使所述样本产品跟随所述机械臂在轨迹空间内作轨迹运动,构建第一检测空间;
在所述第一检测空间周围设置多个光源和多个所述视觉传感器;
多个所述视觉传感器采集所述样本产品在所述检测空间内被多个所述光源照射时的光学信息,并将所述光学信息反馈给服务器;
根据所述光学信息调整所述光源的位置、所述视觉传感器的位置和所述第一轨迹,直至满足预设条件后,固定光源的位置和视觉传感器的位置,将满足预设条件的第一轨迹作为预设轨迹。
在一个具体实施例中,所述处理单元具体包括,
预训练单元:用于获取满足所述预设条件时的光学信息,并作为期望光学信息,按照视觉传感器的位置将所述期望光学信息进行编号,将所述期望光学信息和对应的编号存储在所述服务器;
判断单元:用于通过所述服务器按照视觉传感器的位置对所述光学信息进行编号,基于深度学习网络,逐一对比相同编号下的所述光学信息和所述期望光学信息,若存在差异,则所述待检测产品存在缺陷。
在一个具体实施例中,所述处理单元还包括,
模型构建单元:用于构建待检测产品的三维模型,通过深度学习网络提取所述光学信息的特征;
通过单应性映射将所述特征投影到同一个参考视角,构建出不同参考视角之间的匹配误差;
根据所述匹配误差预测在所述参考视角下的深度图,融合各参考视角下的深度图构建出所述待检测产品的三维模型。
有益效果:本发明提供了一种集手眼脑于一体的品质管控方法及其系统,模仿人工检测的方式,依靠机械手固定产品作为手实现产品的多方位运动,依靠视觉传感器+光源作为眼睛进行图像检测,通过服务器配合深度学习算法作为大脑判断产品是否存在缺陷,手眼脑于一体检测产品表面质量,检测效率高、检测质量稳定,适用于批量化产品检测。
为使本发明的上述目的、特征和优点能更明显易懂,下文特举较佳实施例,并配合所附附图,作详细说明如下。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本发明的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1是本发明提出的集手眼脑于一体的品质管控方法的模块示意图;
图2是本发明提出的二维空间下的检测原理示意图;
图3是本发明提出的三维空间下的检测原理示意图;
图4是本发明提出集手眼脑于一体的品质管控系统结构图。
附图标记:1-运动单元;2-视觉单元;3-处理单元;11-机械臂11;21(a~l)-光源;22(a~f)-视觉传感器;5-服务器;6-待检测产品;31-预训练单元;32-判断单元;33-模型构建单元。
具体实施方式
本实施例针对现有技术中的缺陷,提出了一种集手眼脑于一体的品质管控方法及其系统,通过机械臂作“手”进行运动,视觉传感器作“眼”进行检测,服务器作“脑”进行判断处理,模拟人工检测的方式,实现手眼脑一体运行检测,极大提升了产品表面质量检测的效率和精度,降低检测成本的同时保证检测的高精度,具有很强的通用性。
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅是本发明的一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
实施例1
针对现有技术的不足,本实施例提供了一种集手眼脑于一体的品质管控方法,具体结构如说明书附图1所示,具体方案如下:
一种集手眼脑于一体的品质管控方法,适用于包括机械臂、光源、视觉传感器和服务器的系统中。检测方法包括:
101、通过机械臂固定待检测产品,按照预设轨迹在空间内作轨迹运动,构成检测空间;
102、在检测空间周围设置有多个光源以及多个视觉传感器,多个视觉传感器采集待检测产品在检测空间内被多个光源照射时的光学信息,并将光学信息反馈给预设的服务器;
103、基于深度学习网络,通过预训练的服务器根据光学信息判断待检测产品是否存在缺陷。
在本实施例中,通过机械臂、视觉传感器和服务器的协调运行实现产品的表面质量检测,在提升检测效率的同时保证检测的高精度。
在检测之前,还包括合理设置光源和视觉传感器的位置、获取预设轨迹等。具体如下:
获取经过检测后不存在缺陷的样本产品;通过机械臂固定样本产品,设置第一轨迹使样本产品跟随机械臂在轨迹空间内作轨迹运动,构建第一检测空间;在第一检测空间周围设置多个光源和多个视觉传感器;多个视觉传感器采集样本产品在检测空间内被多个光源照射时的光学信息,并将光学信息反馈给服务器;根据光学信息调整光源的位置、视觉传感器的位置和第一轨迹,直至满足预设条件后,固定光源的位置和视觉传感器的位置,将满足预设条件的第一轨迹作为预设轨迹。
其中,样本产品包括人工检测后不存在缺陷的产品,样本产品与待检测产品属于一个系列、一个品类。样本产品与待检测产品相同,则待检测产品不存在缺陷,样本产品与待检测产品不同,则待检测产品存在缺陷,存在不同之处即为缺陷之处。
具体地,101、通过机械臂固定待检测产品,按照预设轨迹在空间内作轨迹运动,构成检测空间。机械臂可通过夹持、吸附等任意一种已知的机械臂连接方式固定待检测产品。产品固定到机械臂后会跟随机械臂运动,运动空间即为检测空间,一般来说,检测空间为球状。
可通过设置机械臂的运动轨迹,实现从抓取、固定、检测、松开的过程。机械臂首先抓取待检测产品,然后进行固定,开始检测后,按照预设轨迹进行运动,使产品的各个表面都被充分检测。检测结束后,若产品存在缺陷,则将产品提取出,若产品不存在缺陷,则将产品放置于预设地点,开始下一次检测。借助机械臂可重复进行检测,实现产品的批量化检测,节约时间和成本。
需要说明的是,本实施例中的检测空间可以为二维空间,也可为三维空间,可根据待检测产品的形状以及待检测的表面进行选择。例如,待检测产品为扁平状结构,只需检测该产品的表面,此时可将检测空间设置为二维空间。又或者,待检测产品为立体结构,需检测产品的各个侧面,此时可将检测空间设置为三维空间。
机械臂的选择包括多自由度机械臂,多自由度机械臂可提升产品的活动空间,更好的进行产品检测。
具体地,102、在检测空间周围设置有多个光源以及多个视觉传感器,多个视觉传感器采集待检测产品在检测空间内被多个光源照射时的光学信息,并将光学信息反馈给预设的服务器。在本实施例中,视觉传感器包括CCD相机,光源多角度设置,使光线从不同角度照射到待检测物品的表面上。视觉传感器+光源作为眼睛,检测产品的表面。
在本实施例中,光源和视觉传感器固定设置在支架上。当检测空间为二维空间时,支架呈平面或平面,设置在检测空间上方,结构如说明书附图2所示。当检测空间为三维空间时,支架呈球状或柱状,设置在检测空间周围,环绕着检测空间,结构如说明书附图3所示。光源数量可适当设置,根据实际应用场景进行设置。视觉传感器的数量根据待检测产品的实际情况进行设置。当检测空间为二维空间时,视觉传感器拍摄的图像需要完整覆盖整个产品的表面。当检测空间为三维空间时,视觉传感器拍摄的图像需要完整覆盖产品的各个表面。
多角度光源,并且配合多个相机共同检测,无论是二维的信息还是三维的信息都可以抓取,实现二维AOI跟三维AOI的融合。多个光源实现了在不同产品检测下对不同角度及波长光源的需求,多个相机实现了对检测产品不同景深面检测的需求。
视觉传感器包括CMOS和CCD,光源包括常见的可见光。
103、基于深度学习网络,通过预训练的服务器根据光学信息判断待检测产品是否存在缺陷。
预训练包括:获取满足预设条件时的光学信息,并作为期望光学信息;按照视觉传感器的位置将期望光学信息进行编号,将期望光学信息和对应的编号存储在服务器。
具体的检测包括:服务器按照视觉传感器的位置对光学信息进行编号;基于深度学习网络,逐一对比相同编号下的光学信息和期望光学信息,若存在差异,则待检测产品存在缺陷。
基于深度学习网络判断产品是否存在差异具体包括:获取光学信息和期望光学信息。在本实施例中,光学信息和期望光学信息都为灰度图像。对光学信息和期望光学信息进行自适应阈值分割,并对区域轮廓进行提取优化;通过全局几何特征描述计算区域的特征描述,获取光学信息特征点集和期望光学信息特征点集;基于深度学习网络构建评估模型,评估光学信息特征点集和期望光学信息特征点集,获取评估结果;根据评估结果判断光学信息和期望光学信息是否存在差异。
经过预训练的服务器内,存储有样本产品的光学信息,只需判断期望光学信息与待检测产品的光学信息是否一致即可判断产品是否存在缺陷。深度学习网络能够准确判断出光学信息之间是否存在差异,无需人工用肉眼进行观测,避免存在因像素、亮度等问题影响图像质量,导致肉眼无法观测出差异的问题。
此外,借助本实施例提供的方法,还可进行三维模型重建:通过深度学习网络提取光学信息的特征;通过单应性映射将特征投影到同一个参考视角,构建出不同参考视角之间的匹配误差;根据匹配误差预测在参考视角下的深度图,融合各参考视角下的深度图构建出待检测产品的三维模型。
具体地,获取足够的样本数,借助于深度卷积神经网络(Convolutional neuralnetwork,CNN)的强大的特征提取能力,基于深度学习的方法将CNN提取的特征图通过单应性映射投影到同一个参考视角上,并构建在若干种深度下这些参考视角之间的匹配误差体。匹配误差体会预测出在参考视角的深度图。每个视角下的深度图融合在一起便可以重建出整个场景的三维信息。这类基于数据驱动的三维重建方法,例如MVSNet、R-MVSNet、Point-MVSNet,取得了比传统三维重建方法更好地效果。当发现某些角度的样本图像不足时,可控制相机进行获取,确保样本的充足性和准确性。
本实施例提供了一种集手眼脑于一体的品质管控方法,模仿人工检测的方式,依靠机械手固定产品作为手实现产品的多方位运动,依靠视觉传感器+光源作为眼睛进行图像检测,通过服务器配合深度学习算法作为大脑判断产品是否存在缺陷,手眼脑于一体检测产品表面质量,检测效率高、检测质量稳定,适用于批量化产品检测。
实施例2
本实施例在实施例1的基础上,提供了一种集手眼脑于一体的品质管控系统。具体结构如说明书附图3所示,具体方案如下:
一种集手眼脑于一体的品质管控系统,适用于实施例1的一种集手眼脑于一体的品质管控方法。该系统包括运动单元1、视觉单元2和处理单元3。具体包括:
运动单元1:用于通过机械臂11固定待检测产品6,按照预设轨迹在空间内作轨迹运动,构成检测空间。
视觉单元2:包括光源和视觉传感器,在检测空间周围设置有多个光源21以及多个视觉传感器22,多个视觉传感器22采集待检测产品在检测空间内被多个光源21照射时的光学信息,并将光学信息反馈给服务器5。
处理单元3:用于基于深度学习网络,通过预训练的服务器5根据光学信息判断待检测产品6是否存在缺陷。
其中,系统还包括轨迹获取单元4:
轨迹获取单元4:用于获取经过检测后不存在缺陷的样本产品,通过机械臂11固定样本产品,设置第一轨迹使样本产品跟随机械臂11在轨迹空间内作轨迹运动,构建第一检测空间;
在第一检测空间周围设置多个光源21和多个视觉传感器22;
多个视觉传感器22采集样本产品在检测空间内被多个光源21照射时的光学信息,并将光学信息反馈给服务器5;
根据光学信息调整光源21的位置、视觉传感器22的位置和第一轨迹,直至满足预设条件后,固定光源21的位置和视觉传感器22的位置,将满足预设条件的第一轨迹作为预设轨迹。
在本实施例中,光源21和视觉传感器22固定设置在支架23上。当检测空间为二维空间时,支架23呈平面或平面,设置在检测空间上方。当检测空间为三维空间时,支架23呈球状或柱状,设置在检测空间周围,环绕着检测空间,具体结构如说明书附图2和说明书附图3所示。光源21数量可适当设置,根据实际应用场景进行设置。视觉传感器22的数量根据待检测产品的实际情况进行设置。当检测空间为二维空间时,视觉传感器22拍摄的图像需要完整覆盖整个产品的表面。当检测空间为三维空间时,视觉传感器22拍摄的图像需要完整覆盖产品的各个表面。
处理单元3具体包括预训练单元31和判断单元32。
预训练单元31:用于获取满足预设条件时的光学信息,并作为期望光学信息,按照视觉传感器22的位置将期望光学信息进行编号,将期望光学信息和对应的编号存储在服务器5;
判断单元32:用于通过服务器5按照视觉传感器22的位置对光学信息进行编号,基于深度学习网络,逐一对比相同编号下的光学信息和期望光学信息,若存在差异,则待检测产品6存在缺陷。
模型构建单元33:用于构建待检测产品6的三维模型,通过深度学习网络提取光学信息的特征;通过单应性映射将特征投影到同一个参考视角,构建出不同参考视角之间的匹配误差;根据匹配误差预测在参考视角下的深度图,融合各参考视角下的深度图构建出待检测产品6的三维模型。
具体的模型构建流程包括:获取足够的样本数,借助于深度卷积神经网络(Convolutional neural network,CNN)的强大的特征提取能力,基于深度学习的方法将CNN提取的特征图通过单应性映射投影到同一个参考视角上,并构建在若干种深度下这些参考视角之间的匹配误差体。匹配误差体会预测出在参考视角的深度图。每个视角下的深度图融合在一起便可以重建出整个场景的三维信息。这类基于数据驱动的三维重建方法,例如MVSNet、R-MVSNet、Point-MVSNet,取得了比传统三维重建方法更好地效果。当发现某些角度的样本图像不足时,可控制相机进行获取,确保样本的充足性和准确性。
判断单元33的判断原理包括:基于深度学习网络判断产品是否存在差异具体,获取光学信息和期望光学信息。在本实施例中,光学信息和期望光学信息都为灰度图像。对光学信息和期望光学信息进行自适应阈值分割,并对区域轮廓进行提取优化;通过全局几何特征描述计算区域的特征描述,获取光学信息特征点集和期望光学信息特征点集;基于深度学习网络构建评估模型,评估光学信息特征点集和期望光学信息特征点集,获取评估结果;根据评估结果判断光学信息和期望光学信息是否存在差异。
本实施例将实施例1的方法系统化,使其更具实用性。
本发明提供了一种集手眼脑于一体的品质管控方法及其系统,模仿人工检测的方式,依靠机械手固定产品作为手实现产品的多方位运动,依靠视觉传感器+光源作为眼睛进行图像检测,通过服务器配合深度学习算法作为大脑判断产品是否存在缺陷,手眼脑于一体检测产品表面质量,检测效率高、检测质量稳定,适用于批量化产品检测。
本领域技术人员可以理解附图只是一个优选实施场景的示意图,附图中的模块或流程并不一定是实施本发明所必须的。
本领域技术人员可以理解实施场景中的装置中的模块可以按照实施场景描述进行分布于实施场景的装置中,也可以进行相应变化位于不同于本实施场景的一个或多个装置中。上述实施场景的模块可以合并为一个模块,也可以进一步拆分成多个子模块。
上述本发明序号仅仅为了描述,不代表实施场景的优劣。
以上公开的仅为本发明的几个具体实施场景,但是,本发明并非局限于此,任何本领域的技术人员能思之的变化都应落入本发明的保护范围。

Claims (10)

1.一种集手眼脑于一体的品质管控方法,其特征在于,适用于包括机械臂、光源、视觉传感器和服务器的系统中,方法包括如下:
机械臂固定待检测产品,按照预设轨迹在空间内作轨迹运动,构成检测空间;
在所述检测空间周围设置有多个光源以及多个视觉传感器,多个所述视觉传感器采集所述待检测产品在所述检测空间内被多个所述光源照射时的光学信息,并将所述光学信息反馈给所述服务器;
基于深度学习网络,利用预训练后的所述服务器根据所述光学信息判断所述待检测产品是否存在缺陷。
2.根据权利要求1所述的方法,其特征在于,所述预设轨迹的获取过程包括:
获取经过检测后不存在缺陷的样本产品;
通过所述机械臂固定所述样本产品,设置第一轨迹使所述样本产品跟随所述机械臂在轨迹空间内作轨迹运动,构建第一检测空间;
在所述第一检测空间周围设置多个光源和多个所述视觉传感器;
多个所述视觉传感器采集所述样本产品在所述检测空间内被多个所述光源照射时的光学信息,并将所述光学信息反馈给服务器;
根据所述光学信息调整所述光源的位置、所述视觉传感器的位置和所述第一轨迹,直至满足预设条件后,固定光源的位置和视觉传感器的位置,将满足预设条件的第一轨迹作为预设轨迹。
3.根据权利要求2所述的方法,其特征在于,所述预训练包括:
获取满足所述预设条件时的光学信息,并作为期望光学信息;
按照视觉传感器的位置对所述期望光学信息进行编号,将所述期望光学信息和对应的编号存储在所述服务器中;
“基于深度学习网络,利用预训练后的所述服务器根据所述光学信息判断所述待检测产品是否存在缺陷”具体包括:
所述服务器按照视觉传感器的位置对所述光学信息进行编号;
基于深度学习网络,逐一对比相同编号下的所述光学信息和所述期望光学信息,若存在差异,则所述待检测产品存在缺陷。
4.根据权利要求2所述的方法,其特征在于,所述检测空间为二维空间;
所述光源和所述视觉传感器固定在设置曲面支架上
所述曲面支架设置在所述检测空间的上方。
5.根据权利要求2所述的方法,其特征在于,所述检测空间为三维空间;
所述光源和所述视觉传感器固定在设置球状支架上;
所述球状支架覆盖在所述检测空间周围。
6.根据权利要求2所述的方法,其特征在于,所述服务器根据所述光学信息构建出所述待检测产品的三维模型,具体包括:
通过深度学习网络提取所述光学信息的特征;
通过单应性映射将所述特征投影到同一个参考视角,构建出不同参考视角之间的匹配误差;
根据所述匹配误差预测在所述参考视角下的深度图,融合各参考视角下的深度图构建出所述待检测产品的三维模型。
7.根据权利要求3所述的方法,其特征在于,“逐一对比相同编号下的所述光学信息和所述期望光学信息”具体包括:
对所述光学信息和所述期望光学信息进行自适应阈值分割,并对区域轮廓进行提取优化;
通过全局几何特征描述计算所述区域的特征描述,获取所述光学信息特征点集和所述期望光学信息特征点集;
基于深度学习网络构建评估模型,通过所述评估模型评估所述光学信息特征点集和所述期望光学信息特征点集,获取评估结果;
根据所述评估结果判断所述光学信息和所述期望光学信息是否存在差异。
8.一种集手眼脑于一体的品质管控系统,其特征在于,包括:
运动单元:用于通过机械臂固定待检测产品,按照预设轨迹在空间内作轨迹运动,构成检测空间;
视觉单元:包括光源和视觉传感器,用于在所述检测空间周围设置有多个光源以及多个视觉传感器,多个所述视觉传感器采集所述待检测产品在所述检测空间内被多个所述光源照射时的光学信息,并将所述光学信息反馈给预设的服务器;
处理单元:用于基于深度学习网络,利用预训练后的所述服务器根据所述光学信息判断所述待检测产品是否存在缺陷。
9.根据权利要求8所述的系统,其特征在于,所述处理单元具体包括,
预训练单元:用于获取满足所述预设条件时的光学信息,并作为期望光学信息,按照视觉传感器的位置将所述期望光学信息进行编号,将所述期望光学信息和对应的编号存储在所述服务器;
判断单元:用于通过所述服务器按照视觉传感器的位置对所述光学信息进行编号,基于深度学习网络,逐一对比相同编号下的所述光学信息和所述期望光学信息,若存在差异,则所述待检测产品存在缺陷。
10.根据权利要求9所述的系统,其特征在于,所述处理单元还包括,
模型构建单元:用于构建待检测产品的三维模型,通过深度学习网络提取所述光学信息的特征;
通过单应性映射将所述特征投影到同一个参考视角,构建出不同参考视角之间的匹配误差;
根据所述匹配误差预测在所述参考视角下的深度图,融合各参考视角下的深度图构建出所述待检测产品的三维模型。
CN202110405560.5A 2021-04-15 2021-04-15 一种集手眼脑于一体的品质管控方法及其系统 Pending CN113111946A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110405560.5A CN113111946A (zh) 2021-04-15 2021-04-15 一种集手眼脑于一体的品质管控方法及其系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110405560.5A CN113111946A (zh) 2021-04-15 2021-04-15 一种集手眼脑于一体的品质管控方法及其系统

Publications (1)

Publication Number Publication Date
CN113111946A true CN113111946A (zh) 2021-07-13

Family

ID=76717423

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110405560.5A Pending CN113111946A (zh) 2021-04-15 2021-04-15 一种集手眼脑于一体的品质管控方法及其系统

Country Status (1)

Country Link
CN (1) CN113111946A (zh)

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105651782A (zh) * 2015-12-12 2016-06-08 机械科学研究总院先进制造技术研究中心 一种发动机缸盖表面缺陷机器视觉自动检测设备
CN105834120A (zh) * 2016-03-19 2016-08-10 中国计量学院 基于机器视觉的全自动abs齿圈缺陷检测系统
CN106053473A (zh) * 2016-05-16 2016-10-26 深圳市思普泰克科技有限公司 一种利用机械手进行视觉定位检测的装置和方法
CN106525873A (zh) * 2016-10-25 2017-03-22 广州市申发机电有限公司 一种基于机器视觉的全自动旋转印刷产品缺陷检测装置
WO2019107614A1 (ko) * 2017-11-30 2019-06-06 전자부품연구원 제조 공정에서 딥러닝을 활용한 머신 비전 기반 품질검사 방법 및 시스템
CN110658198A (zh) * 2018-06-29 2020-01-07 由田新技股份有限公司 光学检测方法、光学检测装置及光学检测系统
CN110827256A (zh) * 2019-10-31 2020-02-21 广东华中科技大学工业技术研究院 透明构件缺陷的光学和热红外多级成像检测方法及装置
CN110956627A (zh) * 2019-12-13 2020-04-03 智泰科技股份有限公司 智能型光学检测样品特征与瑕疵智能打光取像方法及装置
CN111103292A (zh) * 2019-12-31 2020-05-05 深圳市智信精密仪器有限公司 一种基于深度学习的手机缺陷检查视觉装置
US20200150055A1 (en) * 2018-11-09 2020-05-14 Haiyang Quan Automatic detection device and method for detecting surface detects of large caliber cambered optical element
CN111784663A (zh) * 2020-06-30 2020-10-16 北京百度网讯科技有限公司 零部件的检测方法、装置、电子设备及存储介质
CN112605002A (zh) * 2020-12-04 2021-04-06 上海应用技术大学 一种磁瓦缺陷检测及位姿识别校正的分拣装置

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105651782A (zh) * 2015-12-12 2016-06-08 机械科学研究总院先进制造技术研究中心 一种发动机缸盖表面缺陷机器视觉自动检测设备
CN105834120A (zh) * 2016-03-19 2016-08-10 中国计量学院 基于机器视觉的全自动abs齿圈缺陷检测系统
CN106053473A (zh) * 2016-05-16 2016-10-26 深圳市思普泰克科技有限公司 一种利用机械手进行视觉定位检测的装置和方法
CN106525873A (zh) * 2016-10-25 2017-03-22 广州市申发机电有限公司 一种基于机器视觉的全自动旋转印刷产品缺陷检测装置
WO2019107614A1 (ko) * 2017-11-30 2019-06-06 전자부품연구원 제조 공정에서 딥러닝을 활용한 머신 비전 기반 품질검사 방법 및 시스템
CN110658198A (zh) * 2018-06-29 2020-01-07 由田新技股份有限公司 光学检测方法、光学检测装置及光学检测系统
US20200150055A1 (en) * 2018-11-09 2020-05-14 Haiyang Quan Automatic detection device and method for detecting surface detects of large caliber cambered optical element
CN110827256A (zh) * 2019-10-31 2020-02-21 广东华中科技大学工业技术研究院 透明构件缺陷的光学和热红外多级成像检测方法及装置
CN110956627A (zh) * 2019-12-13 2020-04-03 智泰科技股份有限公司 智能型光学检测样品特征与瑕疵智能打光取像方法及装置
CN111103292A (zh) * 2019-12-31 2020-05-05 深圳市智信精密仪器有限公司 一种基于深度学习的手机缺陷检查视觉装置
CN111784663A (zh) * 2020-06-30 2020-10-16 北京百度网讯科技有限公司 零部件的检测方法、装置、电子设备及存储介质
CN112605002A (zh) * 2020-12-04 2021-04-06 上海应用技术大学 一种磁瓦缺陷检测及位姿识别校正的分拣装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
言有三: "《深度学习之人脸图像处理核心算法与案例实战[M]》", 31 July 2020 *

Similar Documents

Publication Publication Date Title
CN112700499B (zh) 一种辐照环境下基于深度学习的视觉定位仿真方法及系统
Liu et al. Keypose: Multi-view 3d labeling and keypoint estimation for transparent objects
CN108555908B (zh) 一种基于rgbd相机的堆叠工件姿态识别及拾取方法
Singh et al. Bigbird: A large-scale 3d database of object instances
CN1324529C (zh) 对场景中的物体进行分类的系统及其方法
CN111151463B (zh) 一种基于3d视觉的机械臂分拣抓取系统及方法
CN110142785A (zh) 一种基于目标检测的巡检机器人视觉伺服方法
CN109465809A (zh) 一种基于双目立体视觉定位识别的智能垃圾分类机器人
CN110207951B (zh) 一种基于视觉的飞机线缆支架装配状态检测方法
CN116879308A (zh) 一种工业机器视觉系统图像处理方法
CN113850865A (zh) 一种基于双目视觉的人体姿态定位方法、系统和存储介质
CN209289269U (zh) 一种基于双目立体视觉定位识别的智能垃圾分类机器人
CN110298885A (zh) 一种非光滑类球体目标的立体视觉识别方法和定位夹持检测装置及其应用
CN110415363A (zh) 一种基于三目视觉的散乱物识别定位方法
CN112164048A (zh) 一种基于深度学习的磁瓦表面缺陷自动检测方法和装置
CN111080685A (zh) 一种基于多视角立体视觉的飞机钣金零件三维重建方法及系统
CN111866490A (zh) 深度图像成像系统和方法
CN115629066A (zh) 一种基于视觉引导的面向自动配线的方法及装置
CN113111946A (zh) 一种集手眼脑于一体的品质管控方法及其系统
CN113706496A (zh) 一种基于深度学习模型的飞行器结构裂纹检测方法
JP2011095131A (ja) 画像処理方法
CN117975276A (zh) 一种基于双目视觉的实时战场三维场景与目标感知方法及系统
Peebles et al. Overview of sensor technologies used for 3D localization of asparagus spears for robotic harvesting
CN111625001B (zh) 机器人的控制方法及装置、工业机器人
CN115880220A (zh) 多视角苹果成熟度检测方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination