CN117372369A - 基于图像的缺陷区域检测方法、装置及计算机设备 - Google Patents
基于图像的缺陷区域检测方法、装置及计算机设备 Download PDFInfo
- Publication number
- CN117372369A CN117372369A CN202311354330.6A CN202311354330A CN117372369A CN 117372369 A CN117372369 A CN 117372369A CN 202311354330 A CN202311354330 A CN 202311354330A CN 117372369 A CN117372369 A CN 117372369A
- Authority
- CN
- China
- Prior art keywords
- image
- defect
- detected
- model
- good
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000007547 defect Effects 0.000 title claims abstract description 242
- 238000001514 detection method Methods 0.000 title claims abstract description 51
- 238000000034 method Methods 0.000 claims abstract description 34
- 238000012549 training Methods 0.000 claims description 51
- 238000004590 computer program Methods 0.000 claims description 17
- 238000007781 pre-processing Methods 0.000 claims description 7
- 238000010606 normalization Methods 0.000 claims description 5
- 238000012512 characterization method Methods 0.000 claims description 2
- 230000002950 deficient Effects 0.000 abstract description 5
- 238000004891 communication Methods 0.000 description 14
- 238000003860 storage Methods 0.000 description 11
- 238000003062 neural network model Methods 0.000 description 10
- 230000008569 process Effects 0.000 description 10
- 238000012545 processing Methods 0.000 description 10
- 230000003287 optical effect Effects 0.000 description 4
- 238000000605 extraction Methods 0.000 description 3
- 230000002159 abnormal effect Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000009826 distribution Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000009776 industrial production Methods 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 230000001413 cellular effect Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012805 post-processing Methods 0.000 description 1
- 230000002035 prolonged effect Effects 0.000 description 1
- 238000012797 qualification Methods 0.000 description 1
- 238000003908 quality control method Methods 0.000 description 1
- 230000008439 repair process Effects 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 239000002699 waste material Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
- G06T7/001—Industrial image inspection using an image reference approach
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/774—Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30108—Industrial image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/06—Recognition of objects for industrial automation
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/30—Computing systems specially adapted for manufacturing
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Computing Systems (AREA)
- Artificial Intelligence (AREA)
- Health & Medical Sciences (AREA)
- Databases & Information Systems (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Software Systems (AREA)
- Multimedia (AREA)
- Quality & Reliability (AREA)
- Image Analysis (AREA)
Abstract
本申请涉及产品缺陷检测领域,具体而言,涉及一种基于图像的缺陷区域检测方法、装置及计算机设备。该检测方法包括:获取待检测图像和预设的良品图像,将待检测图像和良品图像进行图像配准得到图像数据对,并将图像数据对输入至预训练的缺陷识别模型,获取该缺陷识别模型输出的缺陷区域。通过该检测方法可以更好地兼顾待检测图像与良品图像之间的差异性,更高效准确地检测出图像中的缺陷区域,抗背景干扰能力更强,可以有效减少产品检测中的漏检、过检问题,提高产品检测效率。
Description
技术领域
本申请涉及产品缺陷检测领域,尤其涉及一种基于图像的缺陷区域检测方法、装置及计算机设备。
背景技术
缺陷检测是工业生产中极为重要的一环,检测效率的高低直接影响着对产品的品控成本。通过产品的图像可以快速确定产品存在的缺陷并根据标准筛选出合格产品和不合格产品,这种方式易于实现且效率较高,被广泛应用于各种产品检测环节。
缺陷检测可为人工检测,由质检人员一一确定产品图像中的异常区域,并确定异常区域是否为影响产品合格与否的缺陷区域。这种情况下,产品图像的数量达到一定规模后会严重影响人工检测的准确率,耗时也会大大加长。此外,当产品图像为非单一背景时,缺陷检测处理复杂图像的能力较差,容易造成漏检、过检等问题。
发明内容
本申请实施例提供一种基于图像的缺陷区域检测方法、装置及计算机设备,以解决缺陷区域检测方法准确率低、耗时长的问题。
第一方面,本申请实施例提供一种基于图像的缺陷区域检测方法,该检测方法包括:
获取待检测图像和预设的良品图像;
将待检测图像和良品图像进行图像配准,得到配准后的图像数据对;
将配准后的图像数据对输入至预训练的缺陷识别模型;其中,缺陷识别模型由训练样本训练得到,训练样本通过缺陷图像和良品图像配准生成;
获取缺陷识别模型输出的缺陷区域。
在一种可能的实现方式中,将配准后的图像数据对输入至预训练的缺陷识别模型包括:
将配准后的图像数据对按照图像通道的维度进行拼接,得到一个或多个通道维度的图像数据;其中,每个通道维度的图像数据包含待检测图像和良品图像的图像特征;
将图像数据输入至预训练的缺陷识别模型。
在一种可能的实现方式中,图像通道包括图像的红色通道、绿色通道、蓝色通道。
在一种可能的实现方式中,获取待检测图像和预设的良品图像包括:
获取待检测产品的表面图像;
对表面图像进行图像预处理,得到目标尺度的待检测图像;
图像预处理包括图像缩放、图像裁剪、图像归一化中的一项或多项的组合。
在一种可能的实现方式中,在获取缺陷识别模型输出的缺陷区域之后,还包括:
基于预设的缺陷特征指标,获取缺陷区域对应于缺陷特征指标的特征值;
如果特征值大于或等于预设阈值,将缺陷区域确定为目标缺陷区域。
在一种可能的实现方式中,缺陷确定指标包括缺陷区域面积、缺陷区域灰度值、缺陷区域骨架宽度中的一项或多项组合。
第二方面,本申请实施例提供一种缺陷识别模型的训练方法,该训练方法包括:
获取图像样本集;图像样本集包括缺陷图像和良品图像;
将缺陷图像和良品图像进行图像配准,得到图像样本对;
将图像样本对按照图像通道的维度进行拼接,得到初始训练样本;
将初始训练样本输入至初始模型中;
基于初始模型的输出结果以及缺陷图像预先标注的缺陷区域,对初始模型执行训练,以得到缺陷识别模型。
在一种可能的实现方式中,基于初始模型的输出结果以及缺陷图像预先标注的缺陷区域,对初始模型执行训练包括:
计算初始模型的输出结果与缺陷图像预先标注的缺陷区域的误差值;
如果误差值小于或等于误差阈值,输出初始模型的模型参数,以获得预训练的缺陷识别模型;
如果误差值大于误差阈值,根据误差值修改初始模型的模型参数。
第三方面,本申请提供一种基于图像的缺陷区域检测装置,包括:
图像获取模块,用于获取待检测图像和预设的良品图像;
图像配准模块,用于将所述待检测图像和所述良品图像进行图像配准,得到配准后的图像数据对;
输入模块,用于将所述配准后的图像数据对输入至预训练的缺陷识别模型;其中,所述缺陷识别模型由训练样本训练得到,所述训练样本通过缺陷图像和良品图像配准生成;
缺陷获取模块,用于获取所述缺陷识别模型输出的缺陷区域。
第四方面,本申请提供一种计算机设备,该设备包括存储器和处理器,存储器存储有计算机程序,处理器从存储器中调用并执行计算机程序时实现上述第一方面所述的基于图像的缺陷区域检测方法的步骤。
第五方面,本申请提供一种计算机存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现上述第一方面所述的基于图像的缺陷区域检测方法的步骤。
第六方面,本申请提供一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现上述第一方面所述的基于图像的缺陷区域检测方法的步骤。
通过本申请提供的技术方案,可以将获取的待检测图像和预设的良品图像进行图像配准,得到配准后的图像数据对并将该图像数据对输入至预训练的缺陷识别模型,进而可以获取由该缺陷识别模型输出的缺陷区域。本申请技术方案中的缺陷识别模型可以通过包含缺陷图像和良品图像的训练样本训练得到,由于训练样本经缺陷图像和良品图像配准生成,该模型通过预先学习缺陷图像与良品图像之间的差异特征,可以更好地识别不同图像之间的差异性,从而可以根据预设的良品图像更准确地检测出待检测图像中的缺陷区域,减少漏检、过检等问题。
附图说明
为了更清楚地说明本申请的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,显而易见地,对于本领域普通技术人员而言,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本申请实施例中提供的一种计算机设备的结构框图;
图2为本申请实施例中提供的一种基于图像的缺陷区域检测方法的流程示意图;
图3为本申请实施例中提供的一种将图像数据对输入至缺陷识别模型的流程示意图;
图4为本申请实施例中提供的一种获取待检测图像的流程示意图;
图5为本申请实施例中提供的一种根据模型输出的缺陷区域确定目标缺陷区域的流程示意图;
图6为本申请实施例中提供的一种缺陷识别模型的训练方法的流程示意图;
图7为本申请实施例中提供的一种对初始模型执行训练的流程示意图;
图8为本申请实施例中提供的一种基于图像的缺陷区域检测装置的结构框图。
具体实施方式
为便于对申请的技术方案进行,以下首先在对本申请所涉及到的一些概念进行说明。
需要说明的是,本申请中对于术语的简要说明,仅是为了方便理解接下来描述的实施方式,而不是意图限定本申请的实施方式。除非另有说明,这些术语应当按照其普通和通常的含义理解。
本申请中说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”等是用于区别类似或同类的对象或实体,而不必然意味着限定特定的顺序或先后次序,除非另外注明。应该理解这样使用的用语在适当情况下可以互换。
术语“包括”和“具有”以及他们的任何变形,意图在于覆盖但不排他的包含,例如,包含了一系列组件的产品或设备不必限于清楚地列出的所有组件,而是可包括没有清楚地列出的或对于这些产品或设备固有的其它组件。
缺陷检测是工业生产流程中不可缺少的一环,根据产品的缺陷区域和类型可以确定其是可以合格出厂还是应进入后续修复流程或者直接作为废弃品回收。缺陷检测可以通过人工方式,工作人员通过预先采集的产品表面图像确定产品的缺陷,可以使缺陷检测与产品的生产环境分离。然而,受产品环境、产品结构特点等因素影响,一些产品的图像较为复杂,通过肉眼检测出图像中缺陷的难度较大,导致人工检测效率低下,且由于人工判定的尺度不同,产品图像越复杂,检测中的漏检、过检问题就越严重。
在一些工业缺陷检测场景下,为改进人工检测存在的弊端,可以使用机器学习算法,将大量产品图像输入神经网络模型中进行训练,通过神经网络模型来检测图像中的缺陷区域。相较于人工检测,这种方式虽然在一定程度上加快了检测速度,但由于这种神经网络模型是基于对产品图像缺陷的学习,仅依靠图像中缺陷本身同周边的特征来进行识别检测,随着图像背景纹理的改变,容易出现检出泛化效果不佳的问题。
为解决缺陷检测中的技术问题,本申请实施例提供一种基于图像的缺陷区域检测方法、装置及计算机设备,用以提高产品缺陷检测的效率。接下来,将通过实施例并结合附图具体地对本申请的技术方案,以及本申请的技术方案如何解决上述技术问题进行详细说明。各实施例之间可以相互结合,对于相同或相似的概念或过程可能在某些实施例中不再赘述。显然,所描述的实施例是本申请实施例一部分实施例,而不是全部的实施例。
在一个示例性实施例中,本申请可以利用计算机设备对待检测产品的待检测图像进行缺陷区域的检测,从而判断待检测产品是否存在缺陷。
在一种可能的实现方式中,该计算机设备的结构如图1所示,该计算机设备100包括至少一个处理器110、存储器120、通信总线130,以及至少一个通信接口140。
其中,处理器110可以是一个通用中央处理器(Central Process ing Unit,CPU)、网络处理器(Network Processor,NP)、微处理器,或者可以是一个或多个用于实现本申请方案的集成电路,例如,专用集成电路(Application-Specific Integrated Circuit,ASIC),可编程逻辑器件(Programmable Logic Device,PLD)或其组合。上述PLD可以是复杂可编程逻辑器件(Complex Programmable Logic Device,CPLD),现场可编程逻辑门阵列(Field-Programmable Gate Array,FPGA),通用阵列逻辑(Generic Array Logic,GAL)或其任意组合。
处理器110可以包括一个或多个CPU。计算机设备100可以包括多个处理器110。这些处理器110中的每一个可以是一个单核处理器(single-CPU),也可以是一个多核处理器(multi-CPU)。需要说明的是,这里的处理器110可以指一个或多个设备、电路和/或用于处理数据(如计算机程序指令)的处理核。
存储器120可以是只读存储器(Read-Only Memory,ROM)或可存储静态信息和指令的其它类型的静态存储设备,也可以是随机存取存储器(Random Access Memory,RAM)或者可存储信息和指令的其它类型的动态存储设备,还可以是电可擦可编程只读存储器(Electrically Erasable Programmable Read-Only Memory,EEPROM)、只读光盘(CompactDi sc Read-Only Memory,CD-ROM)或其它光盘存储、光碟存储(包括压缩光碟、激光碟、光碟、数字通用光碟、蓝光光碟等)、磁盘存储介质或者其它磁存储设备,或者是能够用于携带或存储具有指令或数据结构形式的期望的程序代码并能够由计算机存取的任何其它介质,但不限于此。可选地,存储器120可以是独立存在,并通过通信总线130与处理器110相连接;存储器120也可以和处理器110集成在一起。
通信总线130用于在各组件之间(比如处理器和存储器之间)传送信息,通信总线120可以分为地址总线、数据总线、控制总线等。为便于表示,图1中仅用一条通信总线进行示意,但并不表示仅有一根总线或一种类型的总线。通信接口140用于供该计算机设备100与其它设备或通信网络进行通信。
通信接口140包括有线通信接口或无线通信接口。其中,有线通信接口例如可以为以太网接口。以太网接口可以是光接口,电接口或其组合。无线通信接口可以为无线局域网(Wireless Local Area Networks,WLAN)接口、蜂窝网络通信接口或其组合等。
在一些实施例中,存储器120可以用于存储执行本申请方案的计算机程序,处理器110可以执行存储器120中存储的计算机程序。例如,该计算机设备100可以通过处理器110调用并执行存储在存储器120中的计算机程序,以实现本申请实施例提供的表面缺陷检测方法的步骤。应该理解的是,本申请提供的缺陷区域检测方法,可以应用于缺陷区域检测装置,该缺陷区域检测装置可以通过软件、硬件或者软硬件结合的方式实现成为处理器110的部分或者全部,集成在计算机设备100中。
参见图2,本申请实施例提供一种基于图像的缺陷区域检测方法,该检测方法包括:
步骤S210,获取待检测图像和预设的良品图像。
其中,待检测图像可以是采集待检测产品得到的任意图像,例如可以是待检测产品的一个侧面的图像,也可以是待检测产品某一部位或某一结构的图像。良品图像可以是采集与待检测产品同一类型的合格产品得到的图像。需要说明的是,良品图像可以用于作为待检测图像缺陷检出的参考,良品图像中至少包含与待检测图像中缺陷检测区域相对应的区域。
在一些可能的实现方式中,可以预先通过工业相机等图像采集设备从预设角度获取待检测产品的图像,良品图像可以通过同样的方式预先对合格产品拍摄得到。
步骤S220,将待检测图像和良品图像进行图像配准,得到配准后的图像数据对。
其中,图像配准是一种可以将两张或多张图像进行匹配、叠加的图像处理技术,可以用于解决不同图像间坐标尺度差异等问题。图像配准的方式可以包括相对配准和绝对配准。其中,相对配准是指选择多张图像中的一张图像作为参考图像,将其它的相关图像与之配准,其坐标系统是任意的;绝对配准是指先定义一个控制网格,所有的图像相对于这个网格来进行配准,也就是分别完成各分量图像的几何校正来实现坐标系的统一。本申请实施例中的图像配准可以是相对配准,也可以是绝对配准。
在一些可能的实现方式中,良品图像可以为一张,也可以为多张,通过图像配准,可以将待检测图像与良品图像的相关图层区域的纹理能够对应起来。当预设的良品图像为一张时,可以在待检测图像与这一张良品图像中各选取若干对应的点或纹理特征作为特征匹配点,基于这些特征匹配点进行配准得到图像对。当预设的良品图像为多张时,可以以预先设置的二维网格为基准,以网格为单位统一待检测图像和多张良品图像中的特征,得到待检测图像与多张良品图像配准后的图像对。
步骤S230,将配准后的图像数据对输入至预训练的缺陷识别模型。
其中,缺陷识别模型由训练样本训练得到,训练样本通过缺陷图像和良品图像配准生成。
在一些可能的实现方式中,可以采用深度学习技术结合预先选取的若干张产品图像对初始的神经网络模型进行训练,这些预先选取的产品图像中可以包含具有产品缺陷特征的缺陷图像以及符合良品标准的良品图像,通过将缺陷图像和良品图像配准可以生成配准后的图像对作为初始神经网络模型的训练样本,神经网络模型在对这些训练样本进行学习的过程中不断优化自身模型参数,直至神经网络模型输出的缺陷识别结果符合要求,可以将此时的神经网络模型作为训练好的缺陷识别模型。这样,初始神经网络模型既可以对单一的缺陷图像进行学习,也可以通过图像对的形式对缺陷图像和良品图像之间的差异进行学习。
步骤S240,获取缺陷识别模型输出的缺陷区域。
由于缺陷识别模型的训练样本是经缺陷图像和良品图像配准生成的,该模型在训练过程中已经预先学习了缺陷图像与良品图像之间的差异特征,对于不同图像之间的差异性有更强的识别能力。
在上述实施例中,通过输入图像数据对,可以在利用模型进行缺陷特征识别时,兼顾待检测图像和良品图像的特征呈现,既考量了待检测图像与良品图像之间的差异性,又综合了缺陷本身的特征表现。这样,通过该检测方法可以先检出良品图像与待检测图像的差异区域,再从差异区域中确定出符合缺陷目标特征的缺陷区域,避免了直接识别待检测图像时容易将背景差异误判为产品缺陷的问题。本申请方案可以在待检测图像与良品图像具有差异区域且符合缺陷特征时检出作为缺陷区域,抗背景干扰能力更强,泛化表现更好。
图3示出了本申请实施例中一种将配准后的图像数据对输入至预训练的缺陷识别模型的流程示意图,如图3所示,该过程包括:
步骤S232,将配准后的图像数据对按照图像通道的维度进行拼接,得到一个或多个通道维度的图像数据。
其中,每个通道维度的图像数据均包含待检测图像和良品图像的图像特征。图像通道可以包括图像的红色通道、绿色通道、蓝色通道。
在一些可能的实现方式中,如果待检测图像和良品图像为灰度图像,由于灰度图像为单通道图像,将图像数据对拼接后可以得到该通道下的图像数据。
在一些可能的实现方式中,如果待检测图像和良品图像为RGB(R、G、B分别对应红、绿、蓝三个通道的颜色)图像,将图像数据对拼接后可以得到三个颜色通道下的图像数据。
步骤S234,将图像数据输入至预训练的缺陷识别模型。
在一些可能的实现方式中,如果待检测图像和良品图像为灰度图像,当图像数据对拼接完成后,可以将得到的一个通道维度的图像数据输入缺陷识别模型中。
在一些可能的实现方式中,如果待检测图像和良品图像为RGB图像,当图像数据对拼接完成后,可以将得到的三个通道维度的图像数据输入缺陷识别模型中。
上述实施例中,将待检测图像和良品图像构成的图像数据对按照通道维度进行拼接,可以综合考虑待检测图像与良品图像在同一位置、同一颜色通道下的差异,通过提取待检测图像与良品图像之间的差异区域,可以降低单一图像中背景纹理变化对缺陷区域检测的影响,提高缺陷检测的准确率。
图4示出了本申请实施例中一种获取待检测图像的流程示意图,如图4所示,该过程包括:
步骤S212,获取待检测产品的表面图像。
在一些可能的实现方式中,可以在产品流水线或者其他产品放置区域的周围设置图像采集设备,根据产品的缺陷特点从特定角度采集待检测产品的表面图像。其中,图像采集设备可以包括工业相机、面阵相机、摄像摄影设备等。
在一些可能的其他实现方式中,也可以根据产品的实际结构获取待检测产品某一部位或某一结构的图像,例如若产品包含镂空结构或半开放式结构时,可以使图像采集设备从指定角度获取待检测产品的内部图像。
步骤S214,对表面图像进行图像预处理,得到目标尺度的待检测图像。
其中,图像预处理包括图像缩放、图像裁剪、图像归一化中的一项或多项的组合。在一些可能的实现方式中,可以将预设的良品图像的尺寸作为待检测图像预处理的目标尺度。
在一些可能的实现方式中,如果在获取表面图像时采集了对缺陷检测而言非必要的特征,例如,良品图像中仅包含良品器件的结构A、结构B,而获取到的表面图像中包含了待检测产品的结构A、结构B、结构C,则可以裁剪表面图像使裁剪后的表面图像仅包含结构A、结构B,这样可以避免非必要特征对缺陷区域识别造成干扰。
在一些可能的实现方式中,在获取表面图像时,如果待检测产品排放位置等因素导致采集到的表面图像虽然具有与良品图像对应的特征,但表面图像的尺寸与良品图像存在较大差距,则可以对表面图像进行图像缩放以使缩放后的表面图像具有与良品图像相同或相近的尺寸。
作为一个示例,图像归一化处理包括减均值和除方差。图像中的各像素点的像素值,减去图像中所有像素值的均值,之后再除以所有像素值的方差。图像其实是一种平稳的分布,减去数据对应维度的统计平均值,以凸显个体之间的差异和特征,再除以方差就是将原本图像黑白像素差异化较大的像素取值范围固定到-1到1之间,使图像所有像素值符合正态分布。
应当理解的是,上述图像缩放、图像裁剪、图像归一化等操作是为了使待检测产品的表面图像可以具有与良品图像相匹配的尺度,以便待检测图像与良品图像进行图像配准。
在一些可能的其他实现方式中,在对表面图像进行预处理后,还可以对该表面图像进行图像增强处理。
图像增强是通过一定手段对原图像附加一些信息或变换数据,有选择地突出图像中感兴趣的特征或者抑制(掩盖)图像中某些不需要的特征。
需要说明的是,受产品结构、材质等特点影响,一些产品可能在某些特定结构或特定部位较其他部位更容易出现缺陷,可以将这些更容易出现缺陷的部位作为感兴趣区域,通过图像增强处理,突出该部分区域的特征。
作为一个示例,如果待检测产品在连接部位更容易出现缺陷,可以将产品图像中涵盖连接部位的区域进行图像增强,突出该区域的特征,使缺陷识别模型更容易识别该区域可能存在的缺陷,降低缺陷识别模型的整体识别难度。
图5示出了本申请实施例中一种根据缺陷识别模型输出的缺陷区域确定目标缺陷区域的流程示意图,如图5所示,该过程包括:
步骤S252,基于预设的缺陷特征指标,获取缺陷区域对应于缺陷特征指标的特征值。
在一些可能的实现方式中,缺陷特征指标可以包括缺陷区域面积、缺陷区域灰度值、缺陷区域骨架宽度中的一项或多项组合。其中,骨架宽度是对图像进行骨架提取后得到的特征,骨架提取是一种二值图像细化方法,可以将一个连通区域细化成一个像素的宽度,得到连接局部极值点的线条,用于特征提取和目标拓扑表示。
在缺陷识别模型输出缺陷区域后,可以基于预先设置的缺陷特征指标计算缺陷区域的特征值。例如缺陷特征指标为面积时,可以计算缺陷识别模型输出的缺陷区域的面积值,通过缺陷特征指标对缺陷区域进行筛选,过滤不符合指标要求的缺陷区域,输出符合指标要求的缺陷区域。
步骤S254,如果特征值大于或等于预设阈值,将缺陷区域确定为目标缺陷区域。
在一些可能的实现方式中,可以预先设置缺陷特征指标的阈值。例如在其中一个示例中,缺陷特征指标为面积,且面积阈值为10×10像素,如果缺陷识别模型输出的缺陷区域的面积为20×20像素,则可以将缺陷识别模型输出的该缺陷区域确定为目标缺陷区域。
上述实施例中,可以通过面积值、灰度值、骨架宽度等缺陷特征指标对缺陷识别模型输出的缺陷区域进行选取,将不满足要求的区域进行滤除,仅保留满足条件的缺陷区域。这样,通过对缺陷识别模型的输出结果进行后处理,可以避免待检测图像中一些不影响产品合格的细微瑕疵被误判为缺陷区域,减少过检问题的出现,提高产品检测效率。
图6示出了本申请实施例中一种缺陷识别模型的训练方法的流程示意图,如图6所示,该过程包括:
步骤S201,获取图像样本集;图像样本集包括缺陷图像和良品图像。
步骤S202,将缺陷图像和良品图像进行图像配准,得到图像样本对。
步骤S203,将图像样本对按照图像通道的维度进行拼接,得到初始训练样本。
步骤S204,将初始训练样本输入至初始模型中。
步骤S205,基于初始模型的输出结果以及缺陷图像预先标注的缺陷区域,对初始模型执行训练,以得到缺陷识别模型。
在一些可能的实现方式中,可以预先选取若干张缺陷图像和良品图像作为图像样本,并将缺陷图像和良品图像配准后按通道维度拼接,拼接后得到训练样本输入至初始模型中。其中,缺陷图像可以是预先标注有若干缺陷区域的产品图像。初始模型可以是具有图像处理能力的语义分割模型,也可以是采用深度学习算法的神经网络模型等其他可以用于图像处理的模型。初始模型可以利用训练样本训练后得到缺陷识别模型,缺陷识别模型可以用于上述缺陷区域检测方法的实施例中的步骤。
在一些可能的其他实现方式中,由于缺陷图像和良品图像是以图像样本对的形式被输入至初始模型中,在对初始模型执行训练时,可以设置初始模型的层级,例如:使初始模型在第一层级时先识别出缺陷图像与良品图像的差异区域,并将差异区域作为第二层级的输入;由第二层级在差异区域的基础上进行缺陷特征识别,确定该差异区域是否为特征区域并输出,从而提升得到的缺陷识别模型的识别效率。
在一些基于单一缺陷图像的机器学习过程中,未同时考虑缺陷图像和良品图像。而在上述实施例中,通过利用初始模型先识别缺陷图像与良品图像的差异区域,再确定差异区域是否构成缺陷区域,使得到的缺陷识别模型具有更强的抗干扰能力,减少将产品图像本身背景的差异误判为产品缺陷的概率,增强泛化能力。
图7示出了本申请实施例中一种对初始模型执行训练的流程示意图,如图7所示,该过程包括:
步骤S2051,计算初始模型的输出结果与缺陷图像预先标注的缺陷区域的误差值。
步骤S2052,如果误差值小于或等于误差阈值,输出初始模型的模型参数,以获得预训练的缺陷识别模型。
步骤S2053,如果误差值大于误差阈值,根据误差值修改初始模型的模型参数。
可以将训练样本依次输入至初始模型并获取初始模型输出的缺陷区域,将这些由初始模型输出的缺陷区域与缺陷图像中预先标注的缺陷区域进行比较,计算二者的误差值。若误差值大于预设的误差阈值,则根据误差值修改初始模型的模型参数,直至初始模型输出结果的误差值小于或等于误差阈值,根据初始模型此时的模型参数可以得到训练好的缺陷识别模型。
与前述基于图像的缺陷区域检测方法的实施例相对应,本申请还提供一种基于图像的缺陷区域检测装置300的实施例。如图8所示,该装置包括:
图像获取模块310,用于获取待检测图像和预设的良品图像;
图像配准模块320,用于将所述待检测图像和所述良品图像进行图像配准,得到配准后的图像数据对;
输入模块330,用于将所述配准后的图像数据对输入至预训练的缺陷识别模型;其中,所述缺陷识别模型由训练样本训练得到,所述训练样本通过缺陷图像和良品图像配准生成;
缺陷获取模块340,用于获取所述缺陷识别模型输出的缺陷区域。
关于缺陷区域检测装置的具体限定可以参见上文中对于缺陷区域检测方法的限定,在此不再赘述。上述缺陷区域检测装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储于计算机设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。
此外,应该理解的是,本申请实施例可以全部或部分地通过软件、硬件、固件或者其任意结合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。该计算机程序产品包括计算机程序。在计算机设备上加载和运行该计算机程序时,全部或部分地产生按照本申请实施例所示的流程或功能。
其中,计算机程序可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,该计算机程序可以从一个网站站点、终端、服务器或数据中心通过有线或无线方式向另一个网站站点、终端、服务器或数据中心进行传输。
该计算机可读存储介质可以是计算机设备能够存取的任何可用介质,或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。
应该理解的是,以上仅为本申请实施例的具体实施方式而已,并不用于限定本申请实施例的保护范围。凡在本申请实施例的技术方案的基础之上,所做的任何修改、等同替换、改进等,均应包括在本申请实施例的保护范围之内。
Claims (10)
1.一种基于图像的缺陷区域检测方法,其特征在于,包括:
获取待检测图像和预设的良品图像;
将所述待检测图像和所述良品图像进行图像配准,得到配准后的图像数据对;
将所述配准后的图像数据对输入至预训练的缺陷识别模型;其中,所述缺陷识别模型由训练样本训练得到,所述训练样本通过缺陷图像和良品图像配准生成;
获取所述缺陷识别模型输出的缺陷区域。
2.根据权利要求1所述的方法,其特征在于,所述将所述配准后的图像数据对输入至预训练的缺陷识别模型包括:
将所述配准后的图像数据对按照图像通道的维度进行拼接,得到一个或多个通道维度的图像数据;其中,每个通道维度的图像数据包含所述待检测图像和所述良品图像的图像特征;
将所述图像数据输入至预训练的缺陷识别模型。
3.根据权利要求2所述的方法,其特征在于,所述图像通道包括图像的红色通道、绿色通道、蓝色通道。
4.根据权利要求1所述的方法,其特征在于,所述获取待检测图像和预设的良品图像包括:
获取待检测产品的表面图像;
对所述表面图像进行图像预处理,得到目标尺度的待检测图像;
所述图像预处理包括图像缩放、图像裁剪、图像归一化中的一项或多项的组合。
5.根据权利要求1所述的方法,其特征在于,在获取所述缺陷识别模型输出的缺陷区域之后,还包括:
基于预设的缺陷特征指标,获取所述缺陷区域对应于所述缺陷特征指标的特征值;
如果所述特征值大于或等于预设阈值,将所述缺陷区域确定为目标缺陷区域。
6.根据权利要求5所述的方法,其特征在于,所述缺陷特征指标包括缺陷区域面积、缺陷区域灰度值、缺陷区域骨架宽度中的一项或多项组合。
7.一种缺陷识别模型的训练方法,其特征在于,所述训练方法包括:
获取图像样本集;所述图像样本集包括缺陷图像和良品图像;
将所述缺陷图像和良品图像进行图像配准,得到图像样本对;
将所述图像样本对按照图像通道的维度进行拼接,得到初始训练样本;
将所述初始训练样本输入至初始模型中;
基于所述初始模型的输出结果以及所述缺陷图像预先标注的缺陷区域,对所述初始模型执行训练,以得到缺陷识别模型。
8.根据权利要求7所述的训练方法,其特征在于,所述基于所述初始模型的输出结果以及所述缺陷图像预先标注的缺陷区域,对所述初始模型执行训练包括:
计算所述初始模型的输出结果与所述缺陷图像预先标注的缺陷区域的误差值;
如果所述误差值小于或等于误差阈值,输出所述初始模型的模型参数,以获得预训练的缺陷识别模型;
如果所述误差值大于误差阈值,根据所述误差值修改所述初始模型的模型参数。
9.一种基于图像的缺陷区域检测装置,其特征在于,包括:
图像获取模块,用于获取待检测图像和预设的良品图像;
图像配准模块,用于将所述待检测图像和所述良品图像进行图像配准,得到配准后的图像数据对;
输入模块,用于将所述配准后的图像数据对输入至预训练的缺陷识别模型;其中,所述缺陷识别模型由训练样本训练得到,所述训练样本通过缺陷图像和良品图像配准生成;
缺陷获取模块,用于获取所述缺陷识别模型输出的缺陷区域。
10.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至6中任一项所述的基于图像的缺陷区域检测方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311354330.6A CN117372369A (zh) | 2023-10-19 | 2023-10-19 | 基于图像的缺陷区域检测方法、装置及计算机设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311354330.6A CN117372369A (zh) | 2023-10-19 | 2023-10-19 | 基于图像的缺陷区域检测方法、装置及计算机设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117372369A true CN117372369A (zh) | 2024-01-09 |
Family
ID=89394136
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311354330.6A Pending CN117372369A (zh) | 2023-10-19 | 2023-10-19 | 基于图像的缺陷区域检测方法、装置及计算机设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117372369A (zh) |
-
2023
- 2023-10-19 CN CN202311354330.6A patent/CN117372369A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111612763B (zh) | 手机屏幕缺陷检测方法、装置及系统、计算机设备及介质 | |
CN111028213B (zh) | 图像缺陷检测方法、装置、电子设备及存储介质 | |
CN113469997B (zh) | 平面玻璃的检测方法、装置、设备和介质 | |
CN115205223B (zh) | 透明物体的视觉检测方法、装置、计算机设备及介质 | |
CN110596120A (zh) | 玻璃边界缺陷检测方法、装置、终端及存储介质 | |
CN115170518A (zh) | 基于深度学习和机器视觉的细胞检测方法及系统 | |
CN113077416A (zh) | 一种基于图像处理的焊点焊接缺陷检测方法与系统 | |
CN115272350A (zh) | 一种计算机pcb主板生产质量检测方法 | |
Chavan et al. | Quality control of PCB using image processing | |
CN117314880A (zh) | 图像缺陷检测方法及装置 | |
CN115239672A (zh) | 缺陷检测方法及装置、设备、存储介质 | |
CN117455917B (zh) | 一种蚀刻引线框架误报库建立及误报在线判定筛选方法 | |
CN114708247A (zh) | 基于深度学习的烟盒包装缺陷识别方法和装置 | |
CN114170153A (zh) | 一种晶圆缺陷检测方法、装置、电子设备及存储介质 | |
CN116523922B (zh) | 一种轴承表面缺陷识别方法 | |
CN116912338A (zh) | 一种用于纺织品的像素图片矢量化方法 | |
CN117372369A (zh) | 基于图像的缺陷区域检测方法、装置及计算机设备 | |
CN115860139A (zh) | 一种基于深度学习的多尺度船舶目标检测方法 | |
CN115546141A (zh) | 一种基于多维度度量的小样本Mini LED缺陷检测方法及系统 | |
CN111048183B (zh) | 数字病理图像均一化的方法、装置、设备及存储介质 | |
CN117495846B (zh) | 图像检测方法、装置、电子设备及存储介质 | |
CN111325732B (zh) | 面部残留物检测方法及相关设备 | |
CN117474915B (zh) | 一种异常检测方法、电子设备及存储介质 | |
CN112801112B (zh) | 一种图像二值化处理方法、装置、介质及设备 | |
CN117670820B (zh) | 一种塑料薄膜生产缺陷检测方法及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |