CN111060514B - 缺陷检测方法、装置及终端设备 - Google Patents

缺陷检测方法、装置及终端设备 Download PDF

Info

Publication number
CN111060514B
CN111060514B CN201911214371.9A CN201911214371A CN111060514B CN 111060514 B CN111060514 B CN 111060514B CN 201911214371 A CN201911214371 A CN 201911214371A CN 111060514 B CN111060514 B CN 111060514B
Authority
CN
China
Prior art keywords
detection result
image sample
defect detection
image
defect
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201911214371.9A
Other languages
English (en)
Other versions
CN111060514A (zh
Inventor
孔庆杰
林姝
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Jingrui Vision Intelligent Technology Shanghai Co ltd
Original Assignee
Jingrui Vision Intelligent Technology Shanghai Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Jingrui Vision Intelligent Technology Shanghai Co ltd filed Critical Jingrui Vision Intelligent Technology Shanghai Co ltd
Priority to CN201911214371.9A priority Critical patent/CN111060514B/zh
Publication of CN111060514A publication Critical patent/CN111060514A/zh
Application granted granted Critical
Publication of CN111060514B publication Critical patent/CN111060514B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84—Systems specially adapted for particular applications
    • G01N21/88—Investigating the presence of flaws or contamination
    • G01N21/8851—Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/0002—Inspection of images, e.g. flaw detection
    • G06T7/0004—Industrial image inspection
    • G06T7/0006—Industrial image inspection using a design-rule based approach
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84—Systems specially adapted for particular applications
    • G01N21/88—Investigating the presence of flaws or contamination
    • G01N21/8851—Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • G01N2021/8854—Grading and classifying of flaws
    • G01N2021/888—Marking defects
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84—Systems specially adapted for particular applications
    • G01N21/88—Investigating the presence of flaws or contamination
    • G01N21/8851—Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • G01N2021/8887—Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges based on image processing techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30108—Industrial image inspection
    • G06T2207/30164—Workpiece; Machine component

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Biochemistry (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Signal Processing (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • Quality & Reliability (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)

Abstract

本申请适用于检测技术领域，提供了缺陷检测方法、装置及终端设备，该缺陷检测方法包括：获取待检测器件的图像样本；通过缺陷检测网络对所述图像样本进行缺陷检测，得到待检测器件的检测结果；基于所述检测结果，对满足预设条件的图像样本进行人工标注，并采用经过所述人工标注的图像样本对所述缺陷检测网络进行更新。本申请根据满足预设条件的图像样本更新缺陷检测网络，既能够保证缺陷检测网络的质量，也能够有效的控制人工成本。

Description

缺陷检测方法、装置及终端设备
技术领域
本申请属于检测技术领域，尤其涉及缺陷检测方法、装置及终端设备。
背景技术
针对工业元器件的缺陷检测方法有诸多研究，高质量的缺陷检测对于提高生产质量和效率有重大意义。目前人工检测的效率低下，且容易受到个体状态影响，精度不高，而基于深度学习的检测方法所需要的标注量较大。
发明内容
为克服相关技术中存在的问题，本申请实施例提供了缺陷检测方法、装置及终端设备。
本申请是通过如下技术方案实现的：
第一方面，本申请实施例提供了一种缺陷检测方法，包括：
采集待检测器件的图像样本；
通过缺陷检测网络对所述图像样本进行缺陷检测，得到所述待检测器件的检测结果；
基于所述检测结果，选取满足预设条件的图像样本以进行人工标注；
采用经过所述人工标注的图像样本对所述缺陷检测网络进行更新。
在第一方面的一种可能的实现方式中，所述基于所述检测结果，选取满足预设条件的图像样本以进行人工标注，包括：
基于所述检测结果，获取检测结果超出第一预设范围的图像样本以进行人工标注。
在第一方面的一种可能的实现方式中，所述基于所述检测结果，选取满足预设条件的图像样本以进行人工标注，包括：
基于所述检测结果，获取检测结果的置信度小于置信度阈值的第一图像样本，以对所述第一图像样本进行人工标注。
在第一方面的一种可能的实现方式中，所述基于所述检测结果，获取检测结果的置信度小于置信度阈值的第一图像样本，包括：
基于所述检测结果，在检测结果的置信度小于所述置信度阈值的图像样本中，选取检测结果超出第二预设范围的图像样本，作为所述第一图像样本。
可选的，可以根据迭代周期人工标注的预估量，设置置信度阈值以选取第一图像样本。
在第一方面的一种可能的实现方式中，所述基于所述检测结果，获取检测结果的置信度小于置信度阈值的第一图像样本，包括：
在一个迭代周期内人工标注的预估量为M，所述缺陷监测网络得到检测结果的样本量根据缺陷置信度进行排序；其中，对于图像样本xi，有k个检测结果输出分别为
Figure BDA0002299078120000021
对应的置信度分别为s1,…,sk，则排序分数scorei为
Figure BDA0002299078120000022
根据所述排序分数scorei对一个迭代周期内的图像样本进行排序，选取M个图像样本作为所述第一图像样本进行人工标注。
在第一方面的一种可能的实现方式中，所述方法还包括：
采用经过人工标注的第二图像样本训练所述缺陷检测网络；
其中，使用经过训练后的所述缺陷检测网络对所述图像样本进行缺陷检测。
在第一方面的一种可能的实现方式中，所述获取待检测器件的图像样本，包括：
通过工业相机采集所述待检测器件的图像样本。
第二方面，本申请实施例提供了一种缺陷检测装置，包括：
样本采集模块，用于获取待检测器件的图像样本；
缺陷检测模块，用于通过缺陷检测网络对所述图像样本进行缺陷检测，得到所述待检测器件的检测结果；
样本选取模块，用于基于所述检测结果，选取满足预设条件的图像样本以进行人工标注；
网络更新模块，用于采用通过所述人工标注的图像样本对所述缺陷检测网络进行更新。
第三方面，本申请实施例提供了一种终端设备，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现如第一方面任一项所述的缺陷检测方法。
第四方面，本申请实施例提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时实现如第一方面任一项所述的缺陷检测方法。
第五方面，本申请实施例提供了一种计算机程序产品，当计算机程序产品在终端设备上运行时，使得终端设备执行上述第一方面中任一项所述的缺陷检测方法。
可以理解的是，上述第二方面至第五方面的有益效果可以参见上述第一方面中的相关描述，在此不再赘述。
本申请实施例与现有技术相比存在的有益效果是：
本申请实施例，通过缺陷检测网络对图像样本进行缺陷检测，得到检测结果；基于该检测结果，对满足预设条件的图像样本进行人工标注，并采用通过人工标注的图像样本对缺陷检测网络进行更新，使得该缺陷检测网络能够根据满足预设条件的图像样本进行更新，既能够保证缺陷检测网络的质量，也能够有效的控制人工成本。
应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本说明书。
附图说明
为了更清楚地说明本申请实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1是本申请一实施例提供的缺陷检测方法的应用系统示意图；
图2是本申请一实施例提供的缺陷检测方法的流程示意图；
图3是本申请一实施例提供的缺陷检测方法的流程示意图；
图4是本申请一实施例提供的缺陷检测方法的流程示意图；
图5是本申请一实施例提供的缺陷检测方法的流程示意图；
图6是本申请一实施例提供的缺陷检测装置的结构示意图；
图7是本申请实施例提供的缺陷检测装置的结构示意图；
图8是本申请实施例提供的终端设备的结构示意图；
图9是本申请实施例提供的缺陷检测方法所适用的计算机的结构示意图。
具体实施方式
以下描述中，为了说明而不是为了限定，提出了诸如特定系统结构、技术之类的具体细节，以便透彻理解本申请实施例。然而，本领域的技术人员应当清楚，在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中，省略对众所周知的系统、装置、电路以及方法的详细说明，以免不必要的细节妨碍本申请的描述。
应当理解，当在本申请说明书和所附权利要求书中使用时，术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在，但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解，在本申请说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。
如在本申请说明书和所附权利要求书中所使用的那样，术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地，短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
另外，在本申请说明书和所附权利要求书的描述中，术语“第一”、“第二”、“第三”等仅用于区分描述，而不能理解为指示或暗示相对重要性。
在本申请说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本申请的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此，在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例，而是意味着“一个或多个但不是所有的实施例”，除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”，除非是以其他方式另外特别强调。
针对工业元器件的缺陷检测方法有诸多研究，高质量的缺陷检测对于提高生产质量和效率有重大意义。目前人工检测的效率低下，且容易受到个体状态影响，精度不高，而基于深度学习的检测方法所需要的标注量较大。
基于上述问题，本申请实施例中的缺陷检测方法，通过缺陷检测网络对待检测器件的图像样本进行缺陷检测，并对检测结果满足预设条件的图像样本进行人工标注，再采用经过人工标注的图像样本对缺陷检测网络进行更新，既能够保证缺陷检测网络的质量，也能够有效的控制人工成本。
图1为本申请实施例提供的缺陷检测方法的应用系统示意图，参见图1，上述缺陷检测方法可以用于对工业生产过程中的元器件进行缺陷检测。其中，图像采集设备10用于采集待检测器件30的图像样本，然后将图像样本输入到缺陷检测设备20中进行缺陷检测处理。其中，待检测器件30可以为一个待检测器件或多个待检测器件，本申请实施例的缺陷检测方法均可以实现。
具体地，缺陷检测设备20具体可以用于通过缺陷检测网络对图像样本进行缺陷检测，得到待检测器件的检测结果，再基于该检测结果选取满足预设条件的图像样本以进行人工标注，然后采用经过人工标注的图像样本对缺陷检测网络进行更新，从而实现对元器件的缺陷检测。
以下结合图1对本申请实施例的缺陷检测方法进行详细说明。
图2是本申请一实施例提供的缺陷检测方法的示意性流程图，参照图2，对该缺陷检测方法的详述如下：
在步骤101中，获取待检测器件的图像样本。
其中，可以通过图像采集设备采集待检测器件的图像样本，例如可以直接获取图像采集设备采集的待检测器件的图像样本以进行后续步骤的处理，也可以向图像采集设备发送图像采集指令，并获取图像采集设备基于该图像采集指令采集到的待检测器件的图像样本，本申请实施例对此不予限定。
一些实施例中，可以通过工业相机采集待检测器件的图像样本。其中，工业相机具有图像稳定性高、传输能力高和抗干扰能力高等优点，例如可以是基于CCD(ChargeCoupled Device，电荷藕合器件图像传感器)芯片的工业相机或CMOS(ComplementaryMetal Oxide Semiconductor，互补金属氧化物半导体)芯片的工业相机。
其中，可以对每个待检测器件采集一张图像作为图像样本，也可以对每个待检测器件采集两张及以上的图像作为图像样本，本申请实施例对此不予限定，具体可以根据器件的结构和种类，以及检测要求而定。
需要说明的是，本步骤中所述的待检测器件的图像样本，可以为一个待检测器件的一个图像样本，也可以为一个待检测器件的多个图像样本，也可以为多个待检测器件的多个图像样本，本申请实施例对此不予限定。
在步骤102中，通过缺陷检测网络对所述图像样本进行缺陷检测，得到所述待检测器件的检测结果。
其中，上述缺陷检测网络可以为目标检测网络，本步骤中可以利用目标检测网络对步骤101中获取到的元器件样本图像进行检测，得到元器件样本图像所对应的元器件可能存在的缺陷。
示例性的，该目标检测网络可以为RCNN网络、RFCN网络或者SSD网络等，具体使用哪种目标检测网络可以根据情况进行选择，本申请实施例对此不予限定。
以下以RCNN网络为例对本申请实施例进行示例性说明，但不以此为限。
在采用RCNN网络对待检测器件进行缺陷检测时，检测结果可以包括待检测器件的缺陷位置、缺陷类型以及每个检测结果预测值的置信度等信息。
例如，对于输入的k个图像样本xi，RCNN网络可以输出k个检测结果分别对应为
Figure BDA0002299078120000071
每个检测结果对应的置信度分别可以为s1,…,sk。其中，每个图像样本对应一个检测结果，每个检测结果对应一个置信度。
在步骤103中，基于所述检测结果，选取满足预设条件的图像样本以进行人工标注。
其中，人工标注的范围可以包括缺陷的类型和缺陷的位置，例如缺陷的位置可以采用矩形框进行标注。
所述选取满足预设条件的图像样本以进行人工标注可以为：选取检测结果满足预设条件的图像样本，并对该图像样本的检测结果进行重新标注，以使得重新标注后的检测结果更加符合待检测器件的真实缺陷。
例如，对于图像样本xi和对应的检测结果
Figure BDA0002299078120000072
可以选取满足预设条件的检测结果重新进行标注，不满足预设条件的检测结果不做改变，从而能够得到待检测器件的真实缺陷位置y1,…,yk，并将真实缺陷位置作为标签。
本步骤中，可以根据上述检测结果，选取满足预设条件的图像样本以进行人工标注，而不是对所有图像样本都进行人工标注，由于满足预设条件的图像样本相对所有图像样本而言数量较少，因此能够减少人工工作量，控制人工成本；而且满足预设条件的图像样本是缺陷检测模型所需要的图像样本，对缺陷检测模型的更新能够起到很好的作用，因此也能够充分保证缺陷监测网络的准确性。
参见图3，在一种可能的实现方式中，所述基于所述检测结果，选取满足预设条件的图像样本以进行人工标注，可以包括：
在步骤1031中，基于所述检测结果，获取检测结果超出第一预设范围的图像样本以进行人工标注。
其中，第一预设范围可以根据经验值进行设定，用于筛选检测结果误差较大的图像样本。而采用误差较大的图像样本进行重新标注后对缺陷检测网络进行更新，能够使得更新后的缺陷检测网络更加符合待检测器件的缺陷种类和位置，更加符合器件和生产的实际情况，更具有针对性，进而提高缺陷检测网络对待检测器件缺陷检测的准确性。
需要说明的是，在对待检测器件的检测过程中，可以实时执行步骤1031，也可以每隔预设时间执行一次步骤1031，可以根据设备的性能进行选择，本申请实施例对此不予限定。
本步骤中，可以每隔预设时间执行一次步骤1031，获取检测结果超出第一预设范围的图像样本以进行人工标注。
参见图4，在另一种可能的实现方式中，所述基于所述检测结果，选取满足预设条件的图像样本以进行人工标注，可以包括：
在步骤1032中，基于所述检测结果，获取检测结果的置信度小于置信度阈值的第一图像样本，以对所述第一图像样本进行人工标注。
其中，置信度阈值可以根据经验值进行设定，用于筛选检测结果的置信度较小的图像样本。而采用置信度较小的图像样本对缺陷检测网络进行更新，能够使得更新后的缺陷检测网络更加符合待检测器件的缺陷种类和位置，更加符合器件和生产的实际情况，更具有针对性，进而提高缺陷检测网络对待检测器件缺陷检测的准确性。
需要说明的是，在对待检测器件的检测过程中，可以实时执行步骤1032，也可以每隔预设时间执行一次步骤1032，可以根据设备的性能进行选择，本申请实施例对此不予限定。
本步骤中，可以每隔预设时间执行一次步骤1032，获取检测结果的置信度小于置信度阈值的第一图像样本，以对所述第一图像样本进行人工标注。
一些实施例中，所述基于所述检测结果，获取检测结果的置信度小于置信度阈值的第一图像样本，可以包括：
基于所述检测结果，在检测结果的置信度小于所述置信度阈值的图像样本中，选取检测结果超出第二预设范围的图像样本，作为所述第一图像样本。
其中，第二预设范围可以根据经验值进行设定，用于筛选检测结果误差较大的图像样本。本实施例中，先根据检测结果的置信度筛选出图像样本，再在筛选出的图像样本中通过检测结果的误差筛选出第一图像样本，能够提高第一图像样本选取的质量，使得更新后的缺陷检测网络更加符合器件和生产的实际情况，更具有针对性，进而提高缺陷检测网络对待检测器件缺陷检测的准确性。
一些实施例中，可以根据迭代周期人工标注的预估量，设置置信度阈值以选取第一图像样本。
示例性的，所述基于所述检测结果，获取检测结果的置信度小于置信度阈值的第一图像样本，可以包括：
在一个迭代周期内人工标注的预估量为M，所述缺陷监测网络得到检测结果的样本量根据缺陷置信度进行排序；其中，对于图像样本xi，有k个检测结果输出分别为
Figure BDA0002299078120000091
对应的置信度分别为s1,…,sk，则排序分数scorei为
Figure BDA0002299078120000092
根据所述排序分数scorei对一个迭代周期内的图像样本进行排序，选取M个图像样本作为所述第一图像样本进行人工标注。
在步骤104中，采用通过所述人工标注的图像样本对所述缺陷检测网络进行更新。
本步骤中，采用步骤103得到的图像样本对缺陷检测网络进行更新，能够使得更新后的缺陷检测网络更加符合待检测器件的缺陷种类和位置，更加符合器件和生产的实际情况，更具有针对性，进而提高缺陷检测网络对待检测器件缺陷检测的准确性。
一些实施例中，本申请实施例的缺陷检测方法还可以包括训练缺陷检测网络的步骤。参见图5，本申请实施例中的缺陷检测方法可以包括以下步骤：
在步骤201中，采用经过人工标注的第二图像样本训练所述缺陷检测网络。
其中，使用经过训练后的所述缺陷检测网络对所述图像样本进行缺陷检测。即，首次使用上述缺陷检测网络对待检测器件进行缺陷检测时，可以采用经过人工标注的第二图像验本对缺陷检测网络进行训练，以使得该缺陷检测网络能够对待检测器件进行缺陷检测。
本申请实施例对第二图像样本的数量不做限定，能够对缺陷检测网络进行训练，使得缺陷检测网络能够对待检测器件进行初步的缺陷检测，使得缺陷检测结果满足一定准确度即可。
在步骤202中，获取待检测器件的图像样本。
在步骤203中，通过经过训练的缺陷检测网络对所述图像样本进行缺陷检测，得到所述待检测器件的检测结果。
在步骤204中，基于所述检测结果，选取满足预设条件的图像样本以进行人工标注。
在步骤205中，采用通过所述人工标注的图像样本对所述缺陷检测网络进行更新，返回执行步骤202，采用经过更新后的缺陷检测网络对图像样本进行缺陷检测。
本申请实施例的缺陷检测方法具有以下优点：
使用图像样本采集结合缺陷检测网络代替人工检测，使得缺陷检测的效率得到了提高，并且流程自动化；
使用RCNN作为主网络结构，而对训练样本的生成使用主动学习的方式选取，有效降低了人工成本，并能使模型在迭代中使用有限的样本最大化训练效果；
迭代更新的方式，使得待检测器件的缺陷特征的变化能够实时反应到缺陷检测网络表现上，而仅选取部分样本标注也同时保证了缺陷检测网络更新的效率；
对待检测器件缺陷的标注进行适当选取和放弃，保证了难区分样本的准确率，在易区分样本上不做处理，改善了缺陷检测网络的过拟合问题。
应理解，上述实施例中各步骤的序号的大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本申请实施例的实施过程构成任何限定。
对应于上文实施例所述的缺陷检测方法，图6示出了本申请实施例提供的缺陷检测装置的结构框图，为了便于说明，仅示出了与本申请实施例相关的部分。
参见图6，本申请实施例中的缺陷检测装置可以包括样本采集模块301、缺陷检测模块302、样本选取模块303和网络更新模块304。
其中，样本采集模块301，用于获取待检测器件的图像样本；
缺陷检测模块302，用于通过缺陷检测网络对所述图像样本进行缺陷检测，得到所述待检测器件的检测结果；
样本选取模块303，用于基于所述检测结果，选取满足预设条件的图像样本以进行人工标注；
网络更新模块304，用于采用通过所述人工标注的图像样本对所述缺陷检测网络进行更新。
作为一种可实施方式，样本选取模块303具体可以用于：
基于所述检测结果，获取检测结果超出第一预设范围的图像样本以进行人工标注。
作为一种可实施方式，样本选取模块303具体可以用于：
基于所述检测结果，获取检测结果的置信度小于置信度阈值的第一图像样本，以对所述第一图像样本进行人工标注。
可选的，所述基于所述检测结果，获取检测结果的置信度小于置信度阈值的第一图像样本，可以包括：
基于所述检测结果，在检测结果的置信度小于所述置信度阈值的图像样本中，选取检测结果超出第二预设范围的图像样本，作为所述第一图像样本。
可选的，所述基于所述检测结果，获取检测结果的置信度小于置信度阈值的第一图像样本，可以包括：
在一个迭代周期内人工标注的预估量为M，所述缺陷监测网络得到检测结果的样本量根据缺陷置信度进行排序；其中，对于图像样本xi，有k个检测结果输出分别为
Figure BDA0002299078120000121
对应的置信度分别为s1,…,sk，则排序分数scorei为
Figure BDA0002299078120000122
根据所述排序分数scorei对一个迭代周期内的图像样本进行排序，选取M个图像样本作为所述第一图像样本进行人工标注。
可选的，参见图7，基于图6所示的实施例，上述缺陷检测装置还可以包括：
网络训练模块205，用于采用经过人工标注的第二图像样本训练所述缺陷检测网络；
其中，使用经过训练后的所述缺陷检测网络对所述图像样本进行缺陷检测。
可选的，样本采集模块201具体可以用于：
通过工业相机采集所述待检测器件的图像样本。
需要说明的是，上述装置/单元之间的信息交互、执行过程等内容，由于与本申请方法实施例基于同一构思，其具体功能及带来的技术效果，具体可参见方法实施例部分，此处不再赘述。
所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能单元、模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能单元、模块完成，即将所述装置的内部结构划分成不同的功能单元或模块，以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中，上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。另外，各功能单元、模块的具体名称也只是为了便于相互区分，并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
本申请实施例还提供了一种终端设备，参见图8，该终端设400可以包括：至少一个处理器410、存储器420以及存储在所述存储器420中并可在所述至少一个处理器410上运行的计算机程序，所述处理器410执行所述计算机程序时实现上述任意各个方法实施例中的步骤，例如图2所示实施例中的步骤S101至步骤S104。或者，处理器410执行所述计算机程序时实现上述各装置实施例中各模块/单元的功能，例如图6所示模块301至304的功能。
示例性的，计算机程序可以被分割成一个或多个模块/单元，一个或者多个模块/单元被存储在存储器420中，并由处理器410执行，以完成本申请。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序段，该程序段用于描述计算机程序在终端设备400中的执行过程。
本领域技术人员可以理解，图8仅仅是终端设备的示例，并不构成对终端设备的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件，例如输入输出设备、网络接入设备、总线等。
处理器410可以是中央处理单元(Central Processing Unit，CPU)，还可以是其他通用处理器、数字信号处理器(Digital Signal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现成可编程门阵列(Field-Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
存储器420可以是终端设备的内部存储单元，也可以是终端设备的外部存储设备，例如插接式硬盘，智能存储卡(Smart Media Card，SMC)，安全数字(Secure Digital，SD)卡，闪存卡(Flash Card)等。所述存储器420用于存储所述计算机程序以及终端设备所需的其他程序和数据。所述存储器420还可以用于暂时地存储已经输出或者将要输出的数据。
总线可以是工业标准体系结构(Industry Standard Architecture，ISA)总线、外部设备互连(Peripheral Component，PCI)总线或扩展工业标准体系结构(ExtendedIndustry Standard Architecture，EISA)总线等。总线可以分为地址总线、数据总线、控制总线等。为便于表示，本申请附图中的总线并不限定仅有一根总线或一种类型的总线。
本申请实施例提供的缺陷检测方法可以应用于计算机、平板电脑、笔记本电脑、上网本、个人数字助理(personal digital assistant，PDA)等终端设备上，本申请实施例对终端设备的具体类型不作任何限制。
以所述终端设备为计算机为例。图9示出的是与本申请实施例提供的计算机的部分结构的框图。参考图9，计算机包括：通信电路510、存储器520、输入单元530、显示单元540、音频电路550、无线保真(wireless fidelity，WiFi)模块560、处理器570以及电源580等部件。本领域技术人员可以理解，图9中示出的计算机结构并不构成对计算机的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。
下面结合图9对计算机的各个构成部件进行具体的介绍：
通信电路510可用于收发信息或通话过程中，信号的接收和发送，特别地，将图像采集设备发送的图像样本接收后，给处理器570处理；另外，将图像采集指令发送给图像采集设备。通常，通信电路包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器(Low Noise Amplifier，LNA)、双工器等。此外，通信电路510还可以通过无线通信与网络和其他设备通信。上述无线通信可以使用任一通信标准或协议，包括但不限于全球移动通讯系统(Global System of Mobile communication，GSM)、通用分组无线服务(GeneralPacket Radio Service，GPRS)、码分多址(Code Division Multiple Access，CDMA)、宽带码分多址(Wideband Code Division Multiple Access,WCDMA)、长期演进(Long TermEvolution,LTE))、电子邮件、短消息服务(Short Messaging Service，SMS)等。
存储器520可用于存储软件程序以及模块，处理器570通过运行存储在存储器520的软件程序以及模块，从而执行计算机的各种功能应用以及数据处理。存储器520可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等；存储数据区可存储根据计算机的使用所创建的数据(比如音频数据、电话本等)等。此外，存储器520可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。
输入单元530可用于接收输入的数字或字符信息，以及产生与计算机的用户设置以及功能控制有关的键信号输入。具体地，输入单元530可包括触控面板531以及其他输入设备532。触控面板531，也称为触摸屏，可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板531上或在触控面板531附近的操作)，并根据预先设定的程式驱动相应的连接装置。可选的，触控面板531可包括触摸检测装置和触摸控制器两个部分。其中，触摸检测装置检测用户的触摸方位，并检测触摸操作带来的信号，将信号传送给触摸控制器；触摸控制器从触摸检测装置上接收触摸信息，并将它转换成触点坐标，再送给处理器570，并能接收处理器570发来的命令并加以执行。此外，可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板531。除了触控面板531，输入单元530还可以包括其他输入设备532。具体地，其他输入设备532可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆等中的一种或多种。
显示单元540可用于显示由用户输入的信息或提供给用户的信息以及计算机的各种菜单。显示单元540可包括显示面板541，可选的，可以采用液晶显示器(Liquid CrystalDisplay，LCD)、有机发光二极管(Organic Light-Emitting Diode,OLED)等形式来配置显示面板541。进一步的，触控面板531可覆盖显示面板541，当触控面板531检测到在其上或附近的触摸操作后，传送给处理器570以确定触摸事件的类型，随后处理器570根据触摸事件的类型在显示面板541上提供相应的视觉输出。虽然在图9中，触控面板531与显示面板541是作为两个独立的部件来实现计算机的输入和输入功能，但是在某些实施例中，可以将触控面板531与显示面板541集成而实现计算机的输入和输出功能。
音频电路550可提供用户与计算机之间的音频接口。音频电路550可将接收到的音频数据转换后的电信号，传输到扬声器由扬声器转换为声音信号输出；另一方面，传声器将收集的声音信号转换为电信号，由音频电路550接收后转换为音频数据，再将音频数据输出处理器570处理后，经通信电路510以发送给比如另一计算机，或者将音频数据输出至存储器520以便进一步处理。
WiFi属于短距离无线传输技术，计算机通过WiFi模块560可以帮助用户收发电子邮件、浏览网页和访问流式媒体等，它为用户提供了无线的宽带互联网访问。虽然图9示出了WiFi模块560，但是可以理解的是，其并不属于计算机的必须构成，完全可以根据需要在不改变发明的本质的范围内而省略。
处理器570是计算机的控制中心，利用各种接口和线路连接整个计算机的各个部分，通过运行或执行存储在存储器520内的软件程序和/或模块，以及调用存储在存储器520内的数据，执行计算机的各种功能和处理数据，从而对计算机进行整体监控。可选的，处理器570可包括一个或多个处理单元；优选的，处理器570可集成应用处理器和调制解调处理器，其中，应用处理器主要处理操作系统、用户界面和应用程序等，调制解调处理器主要处理无线通信。可以理解的是，上述调制解调处理器也可以不集成到处理器570中。
计算机还包括给各个部件供电的电源580(比如电池)，优选的，电源580可以通过电源管理系统与处理器570逻辑相连，从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。
本申请实施例还提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时实现可实现上述缺陷检测方法各个实施例中的步骤。
本申请实施例提供了一种计算机程序产品，当计算机程序产品在移动终端上运行时，使得移动终端执行时实现可实现上述缺陷检测方法各个实施例中的步骤。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请实现上述实施例方法中的全部或部分流程，可以通过计算机程序来指令相关的硬件来完成，所述的计算机程序可存储于一计算机可读存储介质中，该计算机程序在被处理器执行时，可实现上述各个方法实施例的步骤。其中，所述计算机程序包括计算机程序代码，所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质至少可以包括：能够将计算机程序代码携带到拍照装置/终端设备的任何实体或装置、记录介质、计算机存储器、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，RandomAccess Memory)、电载波信号、电信信号以及软件分发介质。例如U盘、移动硬盘、磁碟或者光盘等。在某些司法管辖区，根据立法和专利实践，计算机可读介质不可以是电载波信号和电信信号。
在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述或记载的部分，可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本申请的范围。
在本申请所提供的实施例中，应该理解到，所揭露的装置/网络设备和方法，可以通过其它的方式实现。例如，以上所描述的装置/网络设备实施例仅仅是示意性的，例如，所述模块或单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口，装置或单元的间接耦合或通讯连接，可以是电性，机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
以上所述实施例仅用以说明本申请的技术方案，而非对其限制；尽管参照前述实施例对本申请进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围，均应包含在本申请的保护范围之内。

Claims (6)

1.一种缺陷检测方法，其特征在于，包括：
获取待检测器件的图像样本；
通过缺陷检测网络对所述图像样本进行缺陷检测，得到所述待检测器件的检测结果；
基于所述检测结果，选取满足预设条件的图像样本以进行人工标注，包括：基于所述检测结果，获取检测结果的置信度小于置信度阈值的第一图像样本，以对所述第一图像样本进行人工标注；
采用经过所述人工标注的图像样本对所述缺陷检测网络进行更新；
所述基于所述检测结果，获取检测结果的置信度小于置信度阈值的第一图像样本，包括：
基于所述检测结果，在检测结果的置信度小于所述置信度阈值的图像样本中，选取检测结果超出第二预设范围的图像样本，作为所述第一图像样本；其中，所述第二预设范围用于筛选检测结果误差较大的图像样本；
或，
所述基于所述检测结果，获取检测结果的置信度小于置信度阈值的第一图像样本，包括：
在一个迭代周期内人工标注的预估量为M，所述缺陷检测网络得到检测结果的样本量根据缺陷置信度进行排序；其中，对于图像样本
Figure 370203DEST_PATH_IMAGE001
，有k个检测结果输出分别为
Figure 862364DEST_PATH_IMAGE002
，对应的置信度分别为
Figure 103990DEST_PATH_IMAGE003
，则排序分数
Figure 379113DEST_PATH_IMAGE004
为
Figure 22584DEST_PATH_IMAGE005
；
根据所述排序分数
Figure 167870DEST_PATH_IMAGE004
对一个迭代周期内的图像样本进行排序，选取M个图像样本作为所述第一图像样本进行人工标注。
2.如权利要求1所述的缺陷检测方法，其特征在于，所述方法还包括：
采用经过人工标注的第二图像样本训练所述缺陷检测网络；
其中，使用经过训练后的所述缺陷检测网络对所述图像样本进行缺陷检测。
3.如权利要求1所述的缺陷检测方法，其特征在于，所述获取待检测器件的图像样本，包括：
通过工业相机采集所述待检测器件的图像样本。
4.一种缺陷检测装置，其特征在于，包括：
样本采集模块，用于获取待检测器件的图像样本；
缺陷检测模块，用于通过缺陷检测网络对所述图像样本进行缺陷检测，得到所述待检测器件的检测结果；
样本选取模块，用于基于所述检测结果，选取满足预设条件的图像样本以进行人工标注；
网络更新模块，用于采用经过所述人工标注的图像样本对所述缺陷检测网络进行更新；
所述样本选取模块具体用于：
基于所述检测结果，获取检测结果的置信度小于置信度阈值的第一图像样本，以对所述第一图像样本进行人工标注；
所述基于所述检测结果，获取检测结果的置信度小于置信度阈值的第一图像样本，包括：
基于所述检测结果，在检测结果的置信度小于所述置信度阈值的图像样本中，选取检测结果超出第二预设范围的图像样本，作为所述第一图像样本；其中，所述第二预设范围用于筛选检测结果误差较大的图像样本；
或，
所述基于所述检测结果，获取检测结果的置信度小于置信度阈值的第一图像样本，包括：
在一个迭代周期内人工标注的预估量为M，所述缺陷检测网络得到检测结果的样本量根据缺陷置信度进行排序；其中，对于图像样本
Figure 896792DEST_PATH_IMAGE001
，有k个检测结果输出分别为
Figure 975606DEST_PATH_IMAGE002
，对应的置信度分别为
Figure 535901DEST_PATH_IMAGE003
，则排序分数
Figure 307547DEST_PATH_IMAGE004
为
Figure 258186DEST_PATH_IMAGE005
；
根据所述排序分数
Figure 953741DEST_PATH_IMAGE004
对一个迭代周期内的图像样本进行排序，选取M个图像样本作为所述第一图像样本进行人工标注。
5.一种终端设备，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1至3任一项所述的方法。
6.一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至3任一项所述的方法。
CN201911214371.9A 2019-12-02 2019-12-02 缺陷检测方法、装置及终端设备 Active CN111060514B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201911214371.9A CN111060514B (zh) 2019-12-02 2019-12-02 缺陷检测方法、装置及终端设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201911214371.9A CN111060514B (zh) 2019-12-02 2019-12-02 缺陷检测方法、装置及终端设备

Publications (2)

Publication Number Publication Date
CN111060514A CN111060514A (zh) 2020-04-24
CN111060514B true CN111060514B (zh) 2022-11-04

Family

ID=70299608

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911214371.9A Active CN111060514B (zh) 2019-12-02 2019-12-02 缺陷检测方法、装置及终端设备

Country Status (1)

Country Link
CN (1) CN111060514B (zh)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111982911B (zh) * 2020-07-10 2023-08-25 深圳先进技术研究院 一种电路板缺陷的检测方法、装置、终端设备及存储介质
CN112184701A (zh) * 2020-10-22 2021-01-05 中国联合网络通信集团有限公司 检测结果的确定方法、装置及系统
CN113723467A (zh) * 2021-08-05 2021-11-30 武汉精创电子技术有限公司 用于缺陷检测的样本收集方法、装置和设备
CN114104653A (zh) * 2021-09-14 2022-03-01 精锐视觉智能科技(上海)有限公司 一种输煤仓区域输煤皮带机智能巡检检测方法
TWI823159B (zh) * 2021-10-20 2023-11-21 開必拓數據股份有限公司 具人機互動功能的瑕疵檢測系統
CN115829912A (zh) * 2022-07-29 2023-03-21 宁德时代新能源科技股份有限公司 检测电芯表面缺陷的方法和装置
TWI828544B (zh) * 2023-02-22 2024-01-01 開必拓數據股份有限公司 應用於協助提升自動視覺檢測系統之檢測準確率的互動式用戶反饋系統
CN117333493B (zh) * 2023-12-01 2024-03-15 深圳市志达精密科技有限公司 一种基于机器视觉的显示器底座生产用检测系统以及方法

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20080077829A (ko) * 2007-02-21 2008-08-26 엘지디스플레이 주식회사 액정표시장치의 불량 판별 장치 및 방법
CN103092762A (zh) * 2013-02-19 2013-05-08 南京大学 一种适用于快速软件开发模式的实时软件缺陷检测方法
CN108230321A (zh) * 2018-01-19 2018-06-29 深圳市亿图视觉自动化技术有限公司 缺陷检测方法及装置
EP3382386A1 (en) * 2017-03-29 2018-10-03 Fujitsu Limited Defect detection using ultrasound scan data
CN109145973A (zh) * 2018-08-10 2019-01-04 北京百度网讯科技有限公司 用于检测单晶硅太阳能电池缺陷的方法和装置
CN109903287A (zh) * 2019-03-29 2019-06-18 北京百度网讯科技有限公司 质量检测方法及装置
CN110175982A (zh) * 2019-04-16 2019-08-27 浙江大学城市学院 一种基于目标检测的缺陷检测方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20080077829A (ko) * 2007-02-21 2008-08-26 엘지디스플레이 주식회사 액정표시장치의 불량 판별 장치 및 방법
CN103092762A (zh) * 2013-02-19 2013-05-08 南京大学 一种适用于快速软件开发模式的实时软件缺陷检测方法
EP3382386A1 (en) * 2017-03-29 2018-10-03 Fujitsu Limited Defect detection using ultrasound scan data
CN108230321A (zh) * 2018-01-19 2018-06-29 深圳市亿图视觉自动化技术有限公司 缺陷检测方法及装置
CN109145973A (zh) * 2018-08-10 2019-01-04 北京百度网讯科技有限公司 用于检测单晶硅太阳能电池缺陷的方法和装置
CN109903287A (zh) * 2019-03-29 2019-06-18 北京百度网讯科技有限公司 质量检测方法及装置
CN110175982A (zh) * 2019-04-16 2019-08-27 浙江大学城市学院 一种基于目标检测的缺陷检测方法

Also Published As

Publication number Publication date
CN111060514A (zh) 2020-04-24

Similar Documents

Publication Publication Date Title
CN111060514B (zh) 缺陷检测方法、装置及终端设备
CN108230232B (zh) 一种图像处理的方法以及相关装置
CN111104967B (zh) 图像识别网络训练方法、图像识别方法、装置及终端设备
CN111982911A (zh) 一种电路板缺陷的检测方法、装置、终端设备及存储介质
CN111044045B (zh) 基于神经网络的导航方法、装置及终端设备
CN111125523B (zh) 搜索方法、装置、终端设备及存储介质
CN106856543B (zh) 一种图片显示方法、装置及移动终端
WO2021089008A1 (zh) 一种分子间的结合活性预测方法及装置
CN107463807A (zh) 权限管理方法、诊断装置及服务器
CN111222563A (zh) 一种模型训练方法、数据获取方法以及相关装置
CN107193470B (zh) 解锁控制方法及相关产品
CN110083742B (zh) 一种视频查询方法和装置
CN104793879A (zh) 终端设备上的对象选择方法和终端设备
CN108491733A (zh) 隐私应用推荐方法和装置、存储介质、电子设备
CN107179596B (zh) 对焦方法及相关产品
CN103729413B (zh) 一种即时通讯中对话项的排序方法、装置及移动终端
CN111160174B (zh) 网络训练方法、车头朝向识别方法、装置及终端设备
CN107507143A (zh) 一种图像还原方法及终端
CN113112442A (zh) 缺陷检测方法、装置及终端设备
CN111242081B (zh) 视频检测方法、目标检测网络训练方法、装置及终端设备
CN110825291B (zh) 数据处理方法、数据处理装置以及计算机设备
CN108052495A (zh) 数据显示方法、终端及计算机可读存储介质
CN110633192B (zh) 测试方法、测试装置、终端设备及计算机可读存储介质
CN111858525A (zh) 日志追踪方法、生成方法、追踪装置、生成装置及系统
CN113971364A (zh) 一种模型的性能评估方法、装置、终端设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant