CN117085969A - 人工智能工业视觉检测方法、装置、设备及存储介质 - Google Patents
人工智能工业视觉检测方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN117085969A CN117085969A CN202311309316.4A CN202311309316A CN117085969A CN 117085969 A CN117085969 A CN 117085969A CN 202311309316 A CN202311309316 A CN 202311309316A CN 117085969 A CN117085969 A CN 117085969A
- Authority
- CN
- China
- Prior art keywords
- workpiece
- detection
- image
- visual
- artificial intelligence
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 187
- 238000013473 artificial intelligence Methods 0.000 title claims abstract description 62
- 238000003860 storage Methods 0.000 title claims abstract description 14
- 230000000007 visual effect Effects 0.000 claims abstract description 105
- 238000000034 method Methods 0.000 claims description 49
- 238000007689 inspection Methods 0.000 claims description 33
- 238000012216 screening Methods 0.000 claims description 12
- 238000000605 extraction Methods 0.000 claims description 10
- 238000011179 visual inspection Methods 0.000 claims description 9
- 230000008878 coupling Effects 0.000 claims description 8
- 238000010168 coupling process Methods 0.000 claims description 8
- 238000005859 coupling reaction Methods 0.000 claims description 8
- 238000003708 edge detection Methods 0.000 claims description 6
- 238000010606 normalization Methods 0.000 claims description 6
- 238000010586 diagram Methods 0.000 description 11
- 239000002184 metal Substances 0.000 description 11
- 230000007547 defect Effects 0.000 description 10
- 230000008569 process Effects 0.000 description 9
- 238000012545 processing Methods 0.000 description 9
- 230000000694 effects Effects 0.000 description 7
- 238000004891 communication Methods 0.000 description 6
- 238000013461 design Methods 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 238000004364 calculation method Methods 0.000 description 4
- 238000003384 imaging method Methods 0.000 description 4
- 238000004519 manufacturing process Methods 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 238000012706 support-vector machine Methods 0.000 description 4
- 238000013528 artificial neural network Methods 0.000 description 3
- 238000013135 deep learning Methods 0.000 description 3
- 238000009826 distribution Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 238000001914 filtration Methods 0.000 description 3
- 238000011160 research Methods 0.000 description 3
- 206010063385 Intellectualisation Diseases 0.000 description 2
- 238000013459 approach Methods 0.000 description 2
- 230000007797 corrosion Effects 0.000 description 2
- 238000005260 corrosion Methods 0.000 description 2
- 238000002474 experimental method Methods 0.000 description 2
- 238000011176 pooling Methods 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 208000034656 Contusions Diseases 0.000 description 1
- 229910000831 Steel Inorganic materials 0.000 description 1
- 230000004913 activation Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000002950 deficient Effects 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 230000008676 import Effects 0.000 description 1
- 239000012535 impurity Substances 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- JEIPFZHSYJVQDO-UHFFFAOYSA-N iron(III) oxide Inorganic materials O=[Fe]O[Fe]=O JEIPFZHSYJVQDO-UHFFFAOYSA-N 0.000 description 1
- 238000002372 labelling Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 239000007769 metal material Substances 0.000 description 1
- 238000003032 molecular docking Methods 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 238000000638 solvent extraction Methods 0.000 description 1
- 239000010959 steel Substances 0.000 description 1
- 238000005482 strain hardening Methods 0.000 description 1
- 230000001629 suppression Effects 0.000 description 1
- 230000009897 systematic effect Effects 0.000 description 1
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B07—SEPARATING SOLIDS FROM SOLIDS; SORTING
- B07C—POSTAL SORTING; SORTING INDIVIDUAL ARTICLES, OR BULK MATERIAL FIT TO BE SORTED PIECE-MEAL, e.g. BY PICKING
- B07C5/00—Sorting according to a characteristic or feature of the articles or material being sorted, e.g. by control effected by devices which detect or measure such characteristic or feature; Sorting by manually actuated devices, e.g. switches
- B07C5/34—Sorting according to other particular properties
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B07—SEPARATING SOLIDS FROM SOLIDS; SORTING
- B07C—POSTAL SORTING; SORTING INDIVIDUAL ARTICLES, OR BULK MATERIAL FIT TO BE SORTED PIECE-MEAL, e.g. BY PICKING
- B07C5/00—Sorting according to a characteristic or feature of the articles or material being sorted, e.g. by control effected by devices which detect or measure such characteristic or feature; Sorting by manually actuated devices, e.g. switches
- B07C5/36—Sorting apparatus characterised by the means used for distribution
- B07C5/361—Processing or control devices therefor, e.g. escort memory
- B07C5/362—Separating or distributor mechanisms
Landscapes
- Image Analysis (AREA)
Abstract
本发明公开了一种人工智能工业视觉检测方法、装置、设备及存储介质,属于人工智能技术领域。本发明通过机械臂控制待检测工件并采集全方位的工件视觉图像;对所述工件视觉图像进行算法耦合的图像检测,得到视觉检测结果;根据所述视觉检测结果控制托辊线对所述待检测工件进行合格分类。通过这种方式,实现了通过将机械臂与图像采集结合,降低图像的检测难度,并且通过算法耦合的图像检测,使得图像检测可以适应工业检测不稳定的环境,提高了工件的视觉检测的实用性和准确率。
Description
技术领域
本发明涉及人工智能技术领域,尤其涉及一种人工智能工业视觉检测方法、装置、设备及存储介质。
背景技术
金属制品加工是一种把金属物料加工成为物品、零件、组件的工艺技术,这些工件会被广泛应用在建筑、车辆、工具、仪器等不同的领域。金属制品在冷加工与热加工时容易产生瑕疵,典型的缺陷种类有辊印、锈斑、气泡、腐蚀、印痕、杂质、凹凸、划伤、碰伤等。
目前金属制品的瑕疵与缺陷大部分是由人工肉眼检测,有些场景下会有光源或者其他设备进行辅助,然而质检人员经过长时间工作后难免会因疲劳导致判断失误。大部分企业对此采取的措施是对同一工件进行多人多次检测,这便增加了大量的人工成本,而且错检与漏检的现象依然无法完全避免。
上述内容仅用于辅助理解本发明的技术方案,并不代表承认上述内容是现有技术。
发明内容
本发明的主要目的在于提供一种人工智能工业视觉检测方法、装置、设备及存储介质,旨在解决现有技术工业金属制品的缺陷检测成本高且正确率低的技术问题。
为实现上述目的,本发明提供了一种人工智能工业视觉检测方法,所述人工智能工业视觉检测方法包括以下步骤:
通过机械臂控制待检测工件并采集全方位的工件视觉图像;
对所述工件视觉图像进行算法耦合的图像检测,得到视觉检测结果;
根据所述视觉检测结果控制托辊线对所述待检测工件进行合格分类。
可选地,所述通过机械臂控制待检测工件并采集全方位的工件视觉图像,包括:
在待检测工件进入图像采集工位时,根据预设检测需求确定检测设备组;
通过机械臂控制所述待检测工件在所述检测设备组中进行图像采集,得到全方位的工件视觉图像。
可选地,所述对所述工件视觉图像进行算法耦合的图像检测,得到视觉检测结果,包括:
通过目标分类器构建耦合算法的图像检测模型;
将所述工件视觉图像导入所述图像检测模型,得到视觉检测结果。
可选地,所述将所述工件视觉图像导入所述图像检测模型,得到视觉检测结果,包括:
将所述工件视觉图像导入所述图像检测模型进行区域选择,得到候选区域;
对所述候选区域进行特征提取,得到多个区域特征;
对所述区域特征进行边缘检测和圆检测,得到视觉检测结果。
可选地,所述将所述工件视觉图像导入所述图像检测模型进行区域选择,得到候选区域,包括:
通过选择性搜索对所述工件视觉图像进行区域划分,得到初筛区域;
计算各初筛区域之间的颜色相似度、纹理相似度和像素空间距离;
根据所述颜色相似度、所述纹理相似度和所述像素空间距离对各初筛区域进行合并,得到候选区域。
可选地,所述对所述候选区域进行特征提取,得到多个区域特征,包括:
计算各候选区域的梯度方向直方图或边缘方向直方图;
根据所述梯度方向直方图和/或所述边缘方向直方图得到局部直方图;
对所述局部直方图进行对比度归一化和组合,得到多个区域特征。
可选地,所述根据所述视觉检测结果控制托辊线对所述待检测工件进行合格分类,包括:
根据所述视觉检测结果确定所述待检测工件是否为合格产品;
在所述待检测工件为合格产品时,控制托辊线将所述待检测工件传送到合格区域;
在所述待检测工件不为合格产品时,控制托辊线将所述待检测工件传送到不合格区域。
此外,为实现上述目的,本发明还提出一种人工智能工业视觉检测装置,所述人工智能工业视觉检测装置包括:
图像采集模块,用于通过机械臂控制待检测工件并采集全方位的工件视觉图像;
图像检测模块,用于对所述工件视觉图像进行算法耦合的图像检测,得到视觉检测结果;
产品分类模块,用于根据所述视觉检测结果控制托辊线对所述待检测工件进行合格分类。
此外,为实现上述目的,本发明还提出一种人工智能工业视觉检测设备,所述人工智能工业视觉检测设备包括:存储器、处理器及存储在所述存储器上并在所述处理器上运行的人工智能工业视觉检测程序,所述人工智能工业视觉检测程序配置为实现如上文所述的人工智能工业视觉检测方法。
此外,为实现上述目的,本发明还提出一种存储介质,所述存储介质上存储有人工智能工业视觉检测程序,所述人工智能工业视觉检测程序被处理器执行时实现如上文所述的人工智能工业视觉检测方法。
本发明通过机械臂控制待检测工件并采集全方位的工件视觉图像;对所述工件视觉图像进行算法耦合的图像检测,得到视觉检测结果;根据所述视觉检测结果控制托辊线对所述待检测工件进行合格分类。通过这种方式,实现了通过将机械臂与图像采集结合,降低图像的检测难度,并且通过算法耦合的图像检测,使得图像检测可以适应工业检测不稳定的环境,提高了工件的视觉检测的实用性和准确率。
附图说明
图1是本发明实施例方案涉及的硬件运行环境的人工智能工业视觉检测设备的结构示意图;
图2为本发明人工智能工业视觉检测方法第一实施例的流程示意图;
图3为本发明人工智能工业视觉检测方法一实施例中的整体流程示意图;
图4为本发明人工智能工业视觉检测方法一实施例中的视觉检测工位机械臂示意图;
图5为本发明人工智能工业视觉检测方法一实施例中的通用光源尺寸示意图;
图6为本发明人工智能工业视觉检测方法第二实施例的流程示意图;
图7为本发明人工智能工业视觉检测方法一实施例中的分类器示意图;
图8为本发明人工智能工业视觉检测方法一实施例中的特征提取流程示意图;
图9为本发明人工智能工业视觉检测方法一实施例中的卷积核示意图;
图10为本发明人工智能工业视觉检测装置第一实施例的结构框图。
本发明目的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
应当理解,此处所描述的具体实施例仅用以解释本发明,并不用于限定本发明。
参照图1,图1为本发明实施例方案涉及的硬件运行环境的人工智能工业视觉检测设备结构示意图。
如图1所示,该人工智能工业视觉检测设备可以包括:处理器1001,例如中央处理器(Central Processing Unit,CPU),通信总线1002、用户接口1003,网络接口1004,存储器1005。其中,通信总线1002用于实现这些组件之间的连接通信。用户接口1003可以包括显示屏(Display)、输入单元比如键盘(Keyboard),可选用户接口1003还可以包括标准的有线接口、无线接口。网络接口1004可选的可以包括标准的有线接口、无线接口(如无线保真(Wireless-Fidelity,Wi-Fi)接口)。存储器1005可以是高速的随机存取存储器(RandomAccess Memory,RAM)存储器,也可以是稳定的非易失性存储器(Non-Volatile Memory,NVM),例如磁盘存储器。存储器1005可选的还可以是独立于前述处理器1001的存储装置。
本领域技术人员可以理解,图1中示出的结构并不构成对人工智能工业视觉检测设备的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。
如图1所示,作为一种存储介质的存储器1005中可以包括操作系统、网络通信模块、用户接口模块以及人工智能工业视觉检测程序。
在图1所示的人工智能工业视觉检测设备中,网络接口1004主要用于与网络服务器进行数据通信;用户接口1003主要用于与用户进行数据交互;本发明人工智能工业视觉检测设备中的处理器1001、存储器1005可以设置在人工智能工业视觉检测设备中,所述人工智能工业视觉检测设备通过处理器1001调用存储器1005中存储的人工智能工业视觉检测程序,并执行本发明实施例提供的人工智能工业视觉检测方法。
本发明实施例提供了一种人工智能工业视觉检测方法,参照图2,图2为本发明一种人工智能工业视觉检测方法第一实施例的流程示意图。
本实施例中,所述人工智能工业视觉检测方法包括以下步骤:
步骤S10:通过机械臂控制待检测工件并采集全方位的工件视觉图像。
在本实施例中,本实施例的执行主体可为所述人工智能工业视觉检测设备,该人工智能工业视觉检测设备具有数据处理、数据通信及程序运行等功能,所述人工智能工业视觉检测设备可以为计算机、服务器等。当然,还可为其他具有相似功能的设备,本实施条件对此不加以限制。为便于说明,本实施方式以人工智能工业视觉检测设备为例进行说明。
需要说明的是,本实施例的方案是为金属制品行业提供自动化智能化的工业缺陷检测方案,目前本行业尚没有成体系的自动化质检通用方案。对于部分结构较为简单的金属制品,目前使用较多的解决方案是采用CCD照相机扫描工件表面获取图像,将被检测的产品图像转换成信号,发送给连接的图像处理系统,对传送的图像进行识别比对后,确定瑕疵的类型以及所在位置,实时反馈出来。其中算法部分,即图像识别比对环节,利用图像处理结合人工智能技术,首先准备数据,包括去噪、配准和标注,然后构建和训练深度学习网络(YOLO v5)。但是由于质检需求的准确率较高,合格品中不允许出现不良品,因此类似的技术方案都需要人工辅助,不能从根本上实现全自动化、智能化。类似的方案多为简单的工件检测,不能适用于复杂检测场景,同时多为定制化方案,缺乏通用性,需要较多的成本与时间进行设计且难以产品化。类似的方案多为单纯的检测算法研究,忽略了光学工位与自动化设计,不具有整体性,导致效果较差,且难以落地。本方案为视觉检测系统的整体设计方案,主要分为三部分:工件视觉图像的获取,视觉图像分析检测的算法,以及该系统与产线的连接,整体流程如图3所示。本方案具有较高的智能化与自动化,能代替人力进行质检,结合多种技术,基于第六部分的关键点,检测准确性很高。使用机械臂,增加检测柔性,设计通用方案使得面对不同的检测环境都能有针对性的较好的解决方法。算法包含多技术、可以模块化更高效且具有较高学习、泛化能力。本方案为整体方案的设计,有很强的落地能力,且整个方案统一性较高,可以更高效并获得更好的结果。
应理解的是,机械臂为预先设定的6关节机械臂,并且在图像采集的工位上搭载不同光学工位、以及多种不同光源、镜头、相机组合,使得图像采集的效果更佳。
进一步的,为了采集并获取到效果最好的工件视觉图像,步骤S10包括:在待检测工件进入图像采集工位时,根据预设检测需求确定检测设备组;通过机械臂控制所述待检测工件在所述检测设备组中进行图像采集,得到全方位的工件视觉图像。
在具体实施中,本方案在产线中加入视觉检测工位进行质量检测,该工位主要负责工件全方位的图像采集,并传入算法部分进行后续智能检测。由于工件的大小、形状不固定,因此采用机械臂进行拍摄。部分工件可能较大(如发动机等),需要机械臂延伸长度大于800mm。为保证精确性和灵活性,我们选取6关节的机械臂且要求定位精度小于0.02mm。图像采集的功能主要由三个部分实现:相机、镜头和光源。经过研究对比发现使用两套设备足以完成大多数场景的质检任务,其中一套是工业相机+工业内全景镜头+红色环形光源,另一套是工业相机+工业FA变焦镜头+红色环形光源,每次检测时选择其中一套作为检测设备组,整体构造的示意图见图4。
需要说明的是,由于部分厂家对工件只有外表面检测的需求或内壁面检测需求不复杂,有时也可以仅用FA镜头,达到优化流程、节约成本的目的,经研究FA镜头可满足厂家所有点位的缺陷检测需求。金属瑕疵一般为毫米级别的小范围检测,因此工业相机使用的是500万像素,针对精度需求高的检测也可替换为更高像素的相机。镜头选用工业FA变焦镜头检测外表面,在机械臂的帮助下可以全方位运动,把工件的外观瑕疵采集下来。对于有凹陷结构如孔洞等的工件,镜头无法深入探测,即可使用工业内全景镜头进行内壁面检测。针对金属表面的反光特性,使用环形光源使光线更加柔和均匀,并配合波长最长的红光使得采集的图像达到最佳的清晰度与对比度。光源的大小、角度和距离都需要根据工件特性及成像需求进行设计,因此需要特别定制。如无特别需求,图5中直径100mm的环形光源尺寸设计即可满足大多数场景的光源使用。根据实际情况可使用多个不同光源组合打光,使得每个需要检测的面都达到最佳亮度。部分场景可使用不同波长光源组合,进行叠加计算。
应理解的是,下方表1中列举了可选用的一些组件及其特性。其中,表1为相机对比,表2为镜头对比,表3为光源对比。
表1
表2
表3
上述为通用方案,适合厘米到米级静止工件的检测。针对特殊场景需要进行调整。对于极小缺陷的检测,需要用到显微级别镜头,配合高精度移动台加拼接算法。在生产线上实时检测钢棒等长条、运动中的工件可采用线阵相机+线光源,线阵相机高精度与快捷的特性可以支持高速运动物体的检测。部分工件仅需检测物理性缺陷,如缺损、变形、凹凸、印痕等的,可使用传感器进行检测,配合三维移动台可生成3D点云,简化算法流程。不同硬件的组合会带来较大的区别,因此在工件检测有特定的需求时,即可针对性的进行视觉硬件的设计与选型。
通过这种方式,实现了通过设置结合了机械臂的视觉检测工位进行图像采集,大大提高了待检测工件的图像采集的效果。
步骤S20:对所述工件视觉图像进行算法耦合的图像检测,得到视觉检测结果。
需要说明的是,对工件视觉图像进行的图像检测是通过预先设定的神经网络模型进行的,具体的,图像检测模型耦合了多种算法,所以可以使得视觉检测结果更加准确。
步骤S30:根据所述视觉检测结果控制托辊线对所述待检测工件进行合格分类。
应理解的是,根据视觉检测结果控制待检测工件进行分类指的是根据最终是否通过视觉检测,确定待检测工件的流向。
进一步的,为了准确的进行合格分类,步骤S30包括:根据所述视觉检测结果确定所述待检测工件是否为合格产品;在所述待检测工件为合格产品时,控制托辊线将所述待检测工件传送到合格区域;在所述待检测工件不为合格产品时,控制托辊线将所述待检测工件传送到不合格区域。
在具体实施中,在完成了工位与算法的设计后,就需要完成视觉检测系统与产线的对接。
由于通常检测节拍较快,采用离线检测。使用托辊线将工件传入视觉检测工位,同时在工位周围加上安全光栅,保证工位正常、安全的运行,并在完成检测后分离NG品与OK品完成检测。其中的NG品即为不合格产品,OK品即为合格产品。
通过这种方式,实现了准确的在进行视觉检测后进行产品分类,提高了出品的良品率,并且实现自动回收不合格产品。
本实施例通过机械臂控制待检测工件并采集全方位的工件视觉图像;对所述工件视觉图像进行算法耦合的图像检测,得到视觉检测结果;根据所述视觉检测结果控制托辊线对所述待检测工件进行合格分类。通过这种方式,实现了通过将机械臂与图像采集结合,降低图像的检测难度,并且通过算法耦合的图像检测,使得图像检测可以适应工业检测不稳定的环境,提高了工件的视觉检测的实用性和准确率。
参考图6,图6为本发明一种人工智能工业视觉检测方法第二实施例的流程示意图。
基于上述第一实施例,本实施例人工智能工业视觉检测方法在所述步骤S20包括:
步骤S201:通过目标分类器构建耦合算法的图像检测模型。
需要说明的是,算法部分采用传统图像算法+深度学习的方式,使用传统算法进行图像的处理、检测,并收集数据训练神经网络,以深度学习的方式提高准确率。
同时,由于工件通常是不平整的,不同的平面成像效果不一致,所以本方案会根据工件的形状及工位成像结果进行图像的区域划分,对不同区域与可能出现的缺陷适配不同检测算法。本方案使用机械臂,通过路径控制加上自动化支撑可保证成像角度一致。我们首先使用滤波加上二值化的方法把工件与背景区分开来,然后根据工件形状选取多条直线从不同角度往图像中间逼近,当与属于工件部分的像素点有重合时停止,由此得出工件外轮廓,再根据工件几何信息进行区域划分。此处为几何(物理)划分,与检测算法中的区域选择不是同一概念。
在具体实施中,分类器:使用SVM(支持向量机),SVM可以对数据进行二元分类,将问题化为一个求解凸二次规划的问题。找最佳超平面,即以最大间隔把两类样本分开的超平面,以SVM寻找的最优决策边界如图7。
需要说明的是,数据在线性可分时,在原空间寻找两类样本的最优分类超平面。在线性不可分时,加入松弛变量并通过使用非线性映射将低维度输入空间的样本映射到高维度空间使其变为线性可分(核方法),这样就可以在该特征空间中寻找最优分类超平面。经实验,通用性最好的核函数为径向基函数,公式如下:
步骤S202:将所述工件视觉图像导入所述图像检测模型,得到视觉检测结果。
应理解的是,传统的图像检测算法主要包含四个步骤图像处理、区域选择、特征提取、分类回归。本方案划分完区域后会耦合多种图像检测算法,进行分区域检测。各部分算法需根据实际情况选取最合适的方法并做出调整,此处为优化后适用性最高的算法。图像处理主要是为了解决图像质量较差的问题可使用腐蚀、膨胀、降噪、滤波等方法。
进一步的,为了准确的通过图像检测模型进行视觉检测,步骤S202包括:将所述工件视觉图像导入所述图像检测模型进行区域选择,得到候选区域;对所述候选区域进行特征提取,得到多个区域特征;对所述区域特征进行边缘检测和圆检测,得到视觉检测结果。
在具体实施中,使用基于选择性搜索的算法,利用区域划分将输入图像分成很多个小的区域,计算颜色相似度、纹理相似度、像素空间距离,并根据最终区域距离将距离接近(具有相似特征)的小区域进行合并,重复流程直至没有近似区域,得到候选区域。
需要说明的是,使用基于HOG的特征提取算法,通过计算和统计图像局部区域的梯度方向直方图来构成特征。局部目标的表象和形状能够被梯度和边缘的方向密度很好地描述,因此将整幅图像分为多个小的连通区域,并计算每个区域的梯度或边缘方向直方图,这些直方图的组合可用于描述特征,同时为了提高准确率,可将局部直方图在图像更大范围内进行对比度归一化,最终得到区域特征。
应理解的是,由于金属工件常有圆形部分,且边缘部分常有磨损容易出现瑕疵,引入边缘检测、圆检测算法。
在具体实施中,当基本算法布置完成即可收集数据训练神经网络,优化算法准确率。神经网络结构基于VGG16,由13个卷积层,5个池化层和3个全连接层构成。我们使用卷积与池化层进行特征提取,全连接层进行分类检测。其中卷积层使用ELU激活,它具有更高鲁棒性,适合工业环境。同时,算法部分所有的阈值也将放入单独的网络进行学习,不断更新优化阈值的划分效果。
通过这种方式,实现了准确的通过图像检测模型中设置的不同算法进行图像的检测。
进一步的,为了进行区域选择,将所述工件视觉图像导入所述图像检测模型进行区域选择,得到候选区域的步骤包括:通过选择性搜索对所述工件视觉图像进行区域划分,得到初筛区域;计算各初筛区域之间的颜色相似度、纹理相似度和像素空间距离;根据所述颜色相似度、所述纹理相似度和所述像素空间距离对各初筛区域进行合并,得到候选区域。
需要说明的是,使用基于选择性搜索的算法,利用区域划分将输入图像分成很多个小的区域,计算颜色相似度、纹理相似度、像素空间距离,并根据最终区域距离将距离接近(具有相似特征)的小区域进行合并,重复流程直至没有近似区域,得到候选区域。
应理解的是,基于颜色通道直方图向量值c计算颜色相似度的方法如下:
在具体实施中,纹理相似度计算方法如下,t为区域纹理直方图归一化后的向量值:
需要说明的是,为了计算区域像素值分布差异,我们将其视为像素空间中的距离间隔。对于高维的像素空间我们使用流形学习寻找规律,并引入Wasserstein Distance,因其满足正定性,对称性,三角不等式,我们可以用它计算区域间在像素空间上的距离,在保证各区域内像素分布几何形态特征不变的前提下,度量变换分布的代价,计算像素空间距离。最终对颜色相似度、纹理相似度、像素空间距离加权平均得到最终区域距离。
通过这种方式,实现了基于流形学习与Wasserstein Distance的选择性搜索,提高了区域合并与搜索的准确性和效率。
进一步的,为了进行特征提取,对所述候选区域进行特征提取,得到多个区域特征的步骤包括:计算各候选区域的梯度方向直方图或边缘方向直方图;根据所述梯度方向直方图和/或所述边缘方向直方图得到局部直方图;对所述局部直方图进行对比度归一化和组合,得到多个区域特征。
应理解的是,使用基于HOG的特征提取算法,通过计算和统计图像局部区域的梯度方向直方图来构成特征。局部目标的表象和形状能够被梯度和边缘的方向密度很好地描述,因此将整幅图像分为多个小的连通区域,并计算每个区域的梯度或边缘方向直方图,这些直方图的组合可用于描述特征,同时为了提高准确率,可将局部直方图在图像更大范围内进行对比度归一化。具体流程如图8所示。
在具体实施中,由于此方法具有几何和光学不变性,因此可以在大部分情况下表现较好。然而在工厂中,部分检测环境较差,影响条件较多,因此我们引入边缘特征,帮助剔除小尺度的噪点和可忽略的瑕疵。根据每个像素点四个方向(米字)两侧像素做差,获取边缘方向特征,辅助HOG特征进行鲁棒性更强的特征提取。
通过这种方式,实现了准确的进行包含边缘方向特征的HOG特征检测,提高特征检测和提取的效果。
需要说明的是,由于金属工件常有圆形部分,且边缘部分常有磨损容易出现瑕疵,我们引入边缘检测、圆检测算法。经实验,霍夫圆变换为适用性较高的算法,能够很好的抑制噪声干扰,因此我们使用基于霍夫的检测算法。首先用Canny算子找边缘;然后利用Sobel算子求梯度,得到x轴方向和y轴方向的梯度后就能够求边缘点梯度的方向,即是半径的方向;然后在半径方向上进行累加器计数,范围是所设定的最小半径到最大半径;最后只有计数值大于一定阈值的点,并且是四邻域范围内最大的点才能作为圆心;半径值是通过边缘点到已找到的圆心的距离来求得的,只要有足够多的边缘点投某圆心一票,那该圆心和半径就能准确找到。
其中Sobel计算梯度的原理是基于中心差商:
在计算时我们使用了如图9所示的卷积核,Canny原理和Sobel是类似的,区别在于Canny在计算梯度前加入了高斯滤波,并在后续使用进行非极大值抑制、用双阈值算法检测和连接边缘。然而对于齿轮等边缘不平滑的圆形工件,霍夫计算难度较大,且结果不够准确,因此我们先用霍夫算法进行简单的初步检测,获取候选圆心与半径,在用圆心均值加上半径最大最小值进行双圆逼近,通过被检测圆边缘与候选圆的重合度控制两个圆的逼近速度,最终候选圆重合处即为该被检近似圆的最佳圆拟合。
本实施例通过目标分类器构建耦合算法的图像检测模型;将所述工件视觉图像导入所述图像检测模型,得到视觉检测结果。通过这种方式,实现了结合多种算法耦合进行工业上金属工件的视觉检测,提高了检测的准确度,并且落地能力强,可以适应多种环境。
此外,本发明实施例还提出一种存储介质,所述存储介质上存储有人工智能工业视觉检测程序,所述人工智能工业视觉检测程序被处理器执行时实现如上文所述的人工智能工业视觉检测方法的步骤。
由于本存储介质采用了上述所有实施例的全部技术方案,因此至少具有上述实施例的技术方案所带来的所有有益效果,在此不再一一赘述。
参照图10,图10为本发明人工智能工业视觉检测装置第一实施例的结构框图。
如图10所示,本发明实施例提出的人工智能工业视觉检测装置包括:
图像采集模块10,用于通过机械臂控制待检测工件并采集全方位的工件视觉图像。
图像检测模块20,用于对所述工件视觉图像进行算法耦合的图像检测,得到视觉检测结果。
产品分类模块30,用于根据所述视觉检测结果控制托辊线对所述待检测工件进行合格分类。
本实施例通过机械臂控制待检测工件并采集全方位的工件视觉图像;对所述工件视觉图像进行算法耦合的图像检测,得到视觉检测结果;根据所述视觉检测结果控制托辊线对所述待检测工件进行合格分类。通过这种方式,实现了通过将机械臂与图像采集结合,降低图像的检测难度,并且通过算法耦合的图像检测,使得图像检测可以适应工业检测不稳定的环境,提高了工件的视觉检测的实用性和准确率。
在一实施例中,所述图像采集模块10,还用于在待检测工件进入图像采集工位时,根据预设检测需求确定检测设备组;通过机械臂控制所述待检测工件在所述检测设备组中进行图像采集,得到全方位的工件视觉图像。
在一实施例中,所述图像检测模块20,还用于通过目标分类器构建耦合算法的图像检测模型;将所述工件视觉图像导入所述图像检测模型,得到视觉检测结果。
在一实施例中,所述图像检测模块20,还用于将所述工件视觉图像导入所述图像检测模型进行区域选择,得到候选区域;对所述候选区域进行特征提取,得到多个区域特征;对所述区域特征进行边缘检测和圆检测,得到视觉检测结果。
在一实施例中,所述图像检测模块20,还用于通过选择性搜索对所述工件视觉图像进行区域划分,得到初筛区域;计算各初筛区域之间的颜色相似度、纹理相似度和像素空间距离;根据所述颜色相似度、所述纹理相似度和所述像素空间距离对各初筛区域进行合并,得到候选区域。
在一实施例中,所述图像检测模块20,还用于计算各候选区域的梯度方向直方图或边缘方向直方图;根据所述梯度方向直方图和/或所述边缘方向直方图得到局部直方图;对所述局部直方图进行对比度归一化和组合,得到多个区域特征。
在一实施例中,所述产品分类模块30,还用于根据所述视觉检测结果确定所述待检测工件是否为合格产品;在所述待检测工件为合格产品时,控制托辊线将所述待检测工件传送到合格区域;在所述待检测工件不为合格产品时,控制托辊线将所述待检测工件传送到不合格区域。
应当理解的是,以上仅为举例说明,对本发明的技术方案并不构成任何限定,在具体应用中,本领域的技术人员可以根据需要进行设置,本发明对此不做限制。
需要说明的是,以上所描述的工作流程仅仅是示意性的,并不对本发明的保护范围构成限定,在实际应用中,本领域的技术人员可以根据实际的需要选择其中的部分或者全部来实现本实施例方案的目的,此处不做限制。
另外,未在本实施例中详尽描述的技术细节,可参见本发明任意实施例所提供的人工智能工业视觉检测方法,此处不再赘述。
此外,需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者系统不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者系统所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者系统中还存在另外的相同要素。
上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述 实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通 过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的 技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体 现出来,该计算机软件产品存储在一个存储介质(如只读存储器(Read Only Memory,ROM)/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,或者网络设备等)执行本发明各个实施例所述的方法。
以上仅为本发明的优选实施例,并非因此限制本发明的专利范围,凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本发明的专利保护范围内。
Claims (10)
1.一种人工智能工业视觉检测方法,其特征在于,所述人工智能工业视觉检测方法包括:
通过机械臂控制待检测工件并采集全方位的工件视觉图像;
对所述工件视觉图像进行算法耦合的图像检测,得到视觉检测结果;
根据所述视觉检测结果控制托辊线对所述待检测工件进行合格分类。
2.如权利要求1所述的人工智能工业视觉检测方法,其特征在于,所述通过机械臂控制待检测工件并采集全方位的工件视觉图像,包括:
在待检测工件进入图像采集工位时,根据预设检测需求确定检测设备组;
通过机械臂控制所述待检测工件在所述检测设备组中进行图像采集,得到全方位的工件视觉图像。
3.如权利要求1所述的人工智能工业视觉检测方法,其特征在于,所述对所述工件视觉图像进行算法耦合的图像检测,得到视觉检测结果,包括:
通过目标分类器构建耦合算法的图像检测模型;
将所述工件视觉图像导入所述图像检测模型,得到视觉检测结果。
4.如权利要求3所述的人工智能工业视觉检测方法,其特征在于,所述将所述工件视觉图像导入所述图像检测模型,得到视觉检测结果,包括:
将所述工件视觉图像导入所述图像检测模型进行区域选择,得到候选区域;
对所述候选区域进行特征提取,得到多个区域特征;
对所述区域特征进行边缘检测和圆检测,得到视觉检测结果。
5.如权利要求4所述的人工智能工业视觉检测方法,其特征在于,所述将所述工件视觉图像导入所述图像检测模型进行区域选择,得到候选区域,包括:
通过选择性搜索对所述工件视觉图像进行区域划分,得到初筛区域;
计算各初筛区域之间的颜色相似度、纹理相似度和像素空间距离;
根据所述颜色相似度、所述纹理相似度和所述像素空间距离对各初筛区域进行合并,得到候选区域。
6.如权利要求4所述的人工智能工业视觉检测方法,其特征在于,所述对所述候选区域进行特征提取,得到多个区域特征,包括:
计算各候选区域的梯度方向直方图或边缘方向直方图;
根据所述梯度方向直方图和/或所述边缘方向直方图得到局部直方图;
对所述局部直方图进行对比度归一化和组合,得到多个区域特征。
7.如权利要求4所述的人工智能工业视觉检测方法,其特征在于,所述根据所述视觉检测结果控制托辊线对所述待检测工件进行合格分类,包括:
根据所述视觉检测结果确定所述待检测工件是否为合格产品;
在所述待检测工件为合格产品时,控制托辊线将所述待检测工件传送到合格区域;
在所述待检测工件不为合格产品时,控制托辊线将所述待检测工件传送到不合格区域。
8.一种人工智能工业视觉检测装置,其特征在于,所述人工智能工业视觉检测装置包括:
图像采集模块,用于通过机械臂控制待检测工件并采集全方位的工件视觉图像;
图像检测模块,用于对所述工件视觉图像进行算法耦合的图像检测,得到视觉检测结果;
产品分类模块,用于根据所述视觉检测结果控制托辊线对所述待检测工件进行合格分类。
9.一种人工智能工业视觉检测设备,其特征在于,所述人工智能工业视觉检测设备包括:存储器、处理器及存储在所述存储器上并在所述处理器上运行的人工智能工业视觉检测程序,所述人工智能工业视觉检测程序配置为实现如权利要求1至7中任一项所述的人工智能工业视觉检测方法。
10.一种存储介质,其特征在于,所述存储介质上存储有人工智能工业视觉检测程序,所述人工智能工业视觉检测程序被处理器执行时实现如权利要求1至7任一项所述的人工智能工业视觉检测方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311309316.4A CN117085969B (zh) | 2023-10-11 | 2023-10-11 | 人工智能工业视觉检测方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311309316.4A CN117085969B (zh) | 2023-10-11 | 2023-10-11 | 人工智能工业视觉检测方法、装置、设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN117085969A true CN117085969A (zh) | 2023-11-21 |
CN117085969B CN117085969B (zh) | 2024-02-13 |
Family
ID=88775639
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311309316.4A Active CN117085969B (zh) | 2023-10-11 | 2023-10-11 | 人工智能工业视觉检测方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117085969B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117884377A (zh) * | 2024-03-11 | 2024-04-16 | 北京晶品特装科技股份有限公司 | 一种基于机器视觉的工业机器人检测装置 |
Citations (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000030058A (ja) * | 1999-05-24 | 2000-01-28 | Honda Motor Co Ltd | カラ―画像におけるish変換装置および変換方法 |
EP1026601A2 (en) * | 1999-02-01 | 2000-08-09 | Hyundai Electronics Industries Co., Ltd. | Method and apparatus for retrieving multimedia data using shape information |
AUPS020302A0 (en) * | 2002-01-31 | 2002-02-21 | Silverbrook Research Pty. Ltd. | Methods and systems (npw007) |
CN101609506A (zh) * | 2008-06-20 | 2009-12-23 | 索尼株式会社 | 对象识别装置、方法及其程序以及记录该程序的记录介质 |
CN101645135A (zh) * | 2009-07-13 | 2010-02-10 | 北京中星微电子有限公司 | 一种人体检测方法和系统 |
CN101877126A (zh) * | 2009-11-19 | 2010-11-03 | 东软集团股份有限公司 | 一种车牌候选区域的分割方法及装置 |
CN101900687A (zh) * | 2010-07-06 | 2010-12-01 | 重庆大学 | 一种基于图像处理的小型水域水华监测预警方法 |
CN102542303A (zh) * | 2010-12-24 | 2012-07-04 | 富士通株式会社 | 生成用于检测图像中的特定对象的分类器的装置和方法 |
CN102855498A (zh) * | 2011-07-01 | 2013-01-02 | 富士通株式会社 | 字符识别方法和装置 |
CN103177235A (zh) * | 2013-04-18 | 2013-06-26 | 河海大学常州校区 | 一种复杂背景下汉信码的识别装置及方法 |
CN103473571A (zh) * | 2013-09-12 | 2013-12-25 | 天津大学 | 一种人体检测方法 |
US20140198234A1 (en) * | 2011-09-21 | 2014-07-17 | Nikon Corporation | Image processing apparatus, program, image processing method, and imaging apparatus |
CN107214099A (zh) * | 2017-06-30 | 2017-09-29 | 中国农业大学 | 一种调整下滑颗粒物料运动状态的弹性栅管 |
CN108273759A (zh) * | 2018-01-22 | 2018-07-13 | 成都建工预筑科技有限公司 | 一种图像识别筛选红砖与混凝土的方法及其系统 |
CN109277318A (zh) * | 2018-06-29 | 2019-01-29 | 烟台大学 | 一种水果品质视觉检测分级装置及检测分级方法 |
CN115511869A (zh) * | 2022-10-20 | 2022-12-23 | 上海谷湘电子科技有限公司 | 基于视觉分析的智能检测方法、装置、设备及介质 |
-
2023
- 2023-10-11 CN CN202311309316.4A patent/CN117085969B/zh active Active
Patent Citations (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1026601A2 (en) * | 1999-02-01 | 2000-08-09 | Hyundai Electronics Industries Co., Ltd. | Method and apparatus for retrieving multimedia data using shape information |
JP2000030058A (ja) * | 1999-05-24 | 2000-01-28 | Honda Motor Co Ltd | カラ―画像におけるish変換装置および変換方法 |
AUPS020302A0 (en) * | 2002-01-31 | 2002-02-21 | Silverbrook Research Pty. Ltd. | Methods and systems (npw007) |
CN101609506A (zh) * | 2008-06-20 | 2009-12-23 | 索尼株式会社 | 对象识别装置、方法及其程序以及记录该程序的记录介质 |
CN101645135A (zh) * | 2009-07-13 | 2010-02-10 | 北京中星微电子有限公司 | 一种人体检测方法和系统 |
CN101877126A (zh) * | 2009-11-19 | 2010-11-03 | 东软集团股份有限公司 | 一种车牌候选区域的分割方法及装置 |
CN101900687A (zh) * | 2010-07-06 | 2010-12-01 | 重庆大学 | 一种基于图像处理的小型水域水华监测预警方法 |
CN102542303A (zh) * | 2010-12-24 | 2012-07-04 | 富士通株式会社 | 生成用于检测图像中的特定对象的分类器的装置和方法 |
CN102855498A (zh) * | 2011-07-01 | 2013-01-02 | 富士通株式会社 | 字符识别方法和装置 |
US20140198234A1 (en) * | 2011-09-21 | 2014-07-17 | Nikon Corporation | Image processing apparatus, program, image processing method, and imaging apparatus |
CN103177235A (zh) * | 2013-04-18 | 2013-06-26 | 河海大学常州校区 | 一种复杂背景下汉信码的识别装置及方法 |
CN103473571A (zh) * | 2013-09-12 | 2013-12-25 | 天津大学 | 一种人体检测方法 |
CN107214099A (zh) * | 2017-06-30 | 2017-09-29 | 中国农业大学 | 一种调整下滑颗粒物料运动状态的弹性栅管 |
CN108273759A (zh) * | 2018-01-22 | 2018-07-13 | 成都建工预筑科技有限公司 | 一种图像识别筛选红砖与混凝土的方法及其系统 |
CN109277318A (zh) * | 2018-06-29 | 2019-01-29 | 烟台大学 | 一种水果品质视觉检测分级装置及检测分级方法 |
CN115511869A (zh) * | 2022-10-20 | 2022-12-23 | 上海谷湘电子科技有限公司 | 基于视觉分析的智能检测方法、装置、设备及介质 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117884377A (zh) * | 2024-03-11 | 2024-04-16 | 北京晶品特装科技股份有限公司 | 一种基于机器视觉的工业机器人检测装置 |
CN117884377B (zh) * | 2024-03-11 | 2024-05-28 | 北京晶品特装科技股份有限公司 | 一种基于机器视觉的工业机器人检测装置 |
Also Published As
Publication number | Publication date |
---|---|
CN117085969B (zh) | 2024-02-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Li et al. | Automatic pavement crack detection by multi-scale image fusion | |
CN110314854B (zh) | 一种基于视觉机器人的工件检测分拣的装置及方法 | |
CN107941808B (zh) | 基于机器视觉的3d打印成型质量检测系统及方法 | |
Deshpande et al. | One-shot recognition of manufacturing defects in steel surfaces | |
CN107230203B (zh) | 基于人眼视觉注意机制的铸件缺陷识别方法 | |
Peng et al. | Computer vision algorithm for measurement and inspection of O-rings | |
CN111507976B (zh) | 基于多角度成像的缺陷检测方法及系统 | |
CN117085969B (zh) | 人工智能工业视觉检测方法、装置、设备及存储介质 | |
CN103913468A (zh) | 生产线上大尺寸lcd玻璃基板的多视觉缺陷检测设备及方法 | |
Medina et al. | Automated visual classification of frequent defects in flat steel coils | |
CN110763700A (zh) | 一种半导体元器件缺陷检测方法和设备 | |
CN113012098B (zh) | 一种基于bp神经网络的铁塔角钢冲孔缺陷检测方法 | |
CN113538503B (zh) | 一种基于红外图像的太阳能板缺陷检测方法 | |
de la Calle Herrero et al. | Inspection system for rail surfaces using differential images | |
CN111487192A (zh) | 一种基于人工智能的机器视觉表面缺陷检测装置及方法 | |
CN113393426A (zh) | 一种轧钢板表面缺陷检测方法 | |
CN110728657A (zh) | 一种基于深度学习的环状轴承外表面缺陷检测方法 | |
CN116678826A (zh) | 一种基于快速立体重建的外观缺陷检测系统及方法 | |
CN114187267B (zh) | 基于机器视觉的冲压件缺陷检测方法 | |
Ekambaram et al. | Identification of defects in casting products by using a convolutional neural network | |
Zhang et al. | Fabric defect detection based on visual saliency map and SVM | |
CN114219753A (zh) | 一种基于深度学习的电力设备表面缺陷检测方法及终端 | |
Zhou et al. | An adaptive clustering method detecting the surface defects on linear guide rails | |
CN117381793A (zh) | 一种基于深度学习的物料智能检测视觉系统 | |
Cao et al. | Tube defect detection algorithm under noisy environment using feature vector and neural networks |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |