CN117333493A - 一种基于机器视觉的显示器底座生产用检测系统以及方法 - Google Patents
一种基于机器视觉的显示器底座生产用检测系统以及方法 Download PDFInfo
- Publication number
- CN117333493A CN117333493A CN202311636596.XA CN202311636596A CN117333493A CN 117333493 A CN117333493 A CN 117333493A CN 202311636596 A CN202311636596 A CN 202311636596A CN 117333493 A CN117333493 A CN 117333493A
- Authority
- CN
- China
- Prior art keywords
- image
- target
- annotation
- annotated
- defect detection
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 385
- 238000004519 manufacturing process Methods 0.000 title claims abstract description 18
- 230000007547 defect Effects 0.000 claims abstract description 475
- 238000000034 method Methods 0.000 claims abstract description 60
- 239000013598 vector Substances 0.000 claims description 165
- 238000013441 quality evaluation Methods 0.000 claims description 77
- 238000012512 characterization method Methods 0.000 claims description 47
- 230000007704 transition Effects 0.000 claims description 19
- 238000001303 quality assessment method Methods 0.000 claims description 14
- 238000004590 computer program Methods 0.000 claims description 12
- 238000005259 measurement Methods 0.000 claims description 12
- 238000004891 communication Methods 0.000 claims description 8
- 238000003384 imaging method Methods 0.000 claims description 2
- 230000008569 process Effects 0.000 abstract description 15
- 238000003860 storage Methods 0.000 description 17
- 238000012545 processing Methods 0.000 description 8
- 238000012549 training Methods 0.000 description 7
- 230000000694 effects Effects 0.000 description 6
- 238000007689 inspection Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 238000013528 artificial neural network Methods 0.000 description 4
- 230000008901 benefit Effects 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 238000000605 extraction Methods 0.000 description 4
- 230000010365 information processing Effects 0.000 description 4
- 230000009286 beneficial effect Effects 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 3
- 238000013527 convolutional neural network Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 238000009826 distribution Methods 0.000 description 2
- 238000009776 industrial production Methods 0.000 description 2
- 238000003908 quality control method Methods 0.000 description 2
- 230000004075 alteration Effects 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 238000013475 authorization Methods 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 125000004122 cyclic group Chemical group 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000003708 edge detection Methods 0.000 description 1
- 238000002372 labelling Methods 0.000 description 1
- 239000003550 marker Substances 0.000 description 1
- 238000011176 pooling Methods 0.000 description 1
- 238000012552 review Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
- G06F16/51—Indexing; Data structures therefor; Storage structures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
- G06F16/53—Querying
- G06F16/532—Query formulation, e.g. graphical querying
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
- G06F16/55—Clustering; Classification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
- G06F16/58—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
- G06F16/5866—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using information manually generated, e.g. tags, keywords, comments, manually generated location and time information
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/04—Inference or reasoning models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30108—Industrial image inspection
- G06T2207/30121—CRT, LCD or plasma display
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/30—Computing systems specially adapted for manufacturing
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- General Health & Medical Sciences (AREA)
- Multimedia (AREA)
- Quality & Reliability (AREA)
- Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Library & Information Science (AREA)
- Computational Linguistics (AREA)
- Image Processing (AREA)
Abstract
本发明提供一种基于机器视觉的显示器底座生产用检测系统以及方法,采用目标图像缺陷检测网络高效检测目标显示器底座对应的显示器底座的缺陷检测分类,在目标显示器底座属于目标缺陷检测分类时,再依据预设缺陷类型图像库检测目标显示器底座包含的目标缺陷类型图像,最后通过目标缺陷类型图像确定目标显示器底座对应的显示器底座缺陷类型。对于网络的调试过程,未携带注释图像组为不用进行注释的样本图像,可以缓解样本图像的注释需求,仅对少数样本图像的注释得到携带注释图像,进而通过未携带注释图像组和携带注释图像对基础图像缺陷检测网络进行调试,可以加快调试得到目标图像缺陷检测网络,进一步提升缺陷类型检测的速度。
Description
技术领域
本公开涉及人工智能领域,具体而言,涉及一种基于机器视觉的显示器底座生产用检测系统以及方法。
背景技术
随着显示器产品的不断发展,显示器底座作为固定和支撑显示器的重要组件,其质量和功能的稳定性对于整个显示器产品的性能和可靠性具有重要影响。传统的显示器底座生产过程中,通常采用人工检测的方式进行质量控制,存在效率低下、易受主观因素影响等问题。为了克服传统检测方法的不足,近年来,机器视觉技术在工业生产中得到了广泛应用。机器视觉技术利用计算机对图像信息进行处理和分析,能够实现对复杂工件的自动化检测和识别,具有高速、高精度、无疲劳等优点。在显示器底座生产过程中,利用机器视觉技术进行检测可以有效提高生产效率和质量控制的精度,以快速检测显示器底座的缺陷类型,如划痕、凹陷、变形、裂纹、色差、正常等。基于机器视觉进行缺陷检测,往往依赖大量样本调试得到检测神经网络,基于该神经网络来对图像进行检测,然而,现有方式在图像检测过程中,效果过低,此外,在网络调试环节,由于工业生产中,具有缺陷的样本数量非常少,基于少量样本进行特征抽取后训练得到的网络,其泛化能力往往达不到要求,使得检测效果差。
发明内容
本发明的目的在于提供一种基于机器视觉的显示器底座生产用检测系统以及方法,以改善上述问题。
本公开实施例的技术方案是这样实现的:
第一方面,本公开实施例提供了一种基于机器视觉的显示器底座生产用检测方法,所述方法包括:
获取目标显示器底座对应的表面图像;
将所述目标显示器底座对应的表面图像输入目标图像缺陷检测网络,得到所述目标显示器底座对应的推理图像缺陷检测分类指示信息;所述目标图像缺陷检测网络是通过携带注释图像和未携带注释图像组,对基础图像缺陷检测网络进行调试得到的,所述携带注释图像是已注释显示器底座缺陷检测分类的显示器底座对应的表面图像,所述未携带注释图像组中的图像是没有注释显示器底座缺陷检测分类的显示器底座对应的表面图像,所述未携带注释图像组中的各图像为近似的图像;所述显示器底座缺陷检测分类用以指示所述显示器底座具有缺陷或不具有缺陷;
在所述目标显示器底座对应的推理图像缺陷检测分类指示信息指示所述目标显示器底座属于目标缺陷检测分类时,将所述目标显示器底座对应的表面图像和预设缺陷类型图像库进行对比,得到所述目标显示器底座包含的目标缺陷类型图像;
通过所述目标缺陷类型图像,确定所述目标显示器底座对应的显示器底座缺陷类型。
可选地,所述方法还包括:
获取多个待注释图像,抽取各个所述待注释图像分别对应的图像表征向量;
在各个待注释图像中确定目标图像;
通过所述目标图像对应的图像表征向量在第一图像库中索引目标图像对应的目标匹配图像,得到索引结果;
如果所述索引结果为索引到目标图像对应的目标匹配图像,将目标图像添加到所述第一图像库,如果索引结果为没有索引到目标图像对应的目标匹配图像,将目标图像分别添加到第一图像库和第二图像库;
在所述各个待注释图像中获取后一待注释图像确定为目标图像,返回所述通过目标图像对应的图像表征向量在第一图像库中索引目标图像对应的目标匹配图像,得到索引结果的操作进行执行,直至所述各个待注释图像得到遍历;
对遍历完成时获得的第二图像库中的各个待注释图像所属的显示器底座进行缺陷检测分类注释,得到多个携带注释图像。
可选地,所述通过目标图像对应的图像表征向量在第一图像库中索引目标图像对应的目标匹配图像,得到索引结果,包括:
通过目标图像对应的图像表征向量分别和第一图像库中各图像各自的图像表征向量之间的向量共性度量结果,在第一图像库包含的各图像中确定目标图像对应的基础匹配图像;
在目标图像和对应的基础匹配图像之间的向量空间误差不小于设定空间误差时,将目标图像对应的基础匹配图像确定为目标图像对应的目标匹配图像,得到索引结果;
在目标图像和对应的基础匹配图像之间的向量空间误差小于所述设定空间误差,或者目标图像未索引到对应的基础匹配图像,确定索引结果为没有索引到目标图像对应的目标匹配图像。
可选地,所述方法还包括:
获取携带注释图像库和未携带注释图像库;
通过所述携带注释图像库对候选图像缺陷检测网络进行调试,得到过渡图像缺陷检测网络;
将所述未携带注释图像库中各个未携带注释图像输入所述过渡图像缺陷检测网络,得到所述各个未携带注释图像分别对应的推理图像缺陷检测分类指示信息;其中,所述未携带注释图像组应的推理图像缺陷检测分类指示信息用于作为未携带注释图像组应的假注释;
通过所述假注释对所述各个未携带注释图像进行选取,得到目标未携带注释图像库;
对所述目标未携带注释图像库中的每一目标未携带注释图像分别进行生成转换,得到所述每一目标未携带注释图像分别对应的匹配图像;
将目标未携带注释图像和对应的匹配图像组成未携带注释图像组,得到多个未携带注释图像组。
可选地,所述通过所述假注释对所述各个未携带注释图像进行选取,得到目标未携带注释图像库,包括:
确定各个假注释中积极注释和消极注释的数目,得到积极注释数目和消极注释数目;
在所述积极注释数目和所述消极注释数目中获取较少的注释数目作为对照注释数目,将所述对照注释数目对应的图像缺陷检测分类指示信息作为对照注释;
在包括所述对照注释的各个未携带注释图像中,获取第一数目的未携带注释图像确定为目标未携带注释图像;其中,所述第一数目小于所述对照注释数目;
在不包括所述对照注释的各个未携带注释图像中,获取第二数目的未携带注释图像确定为目标未携带注释图像;其中,所述第一数目和所述第二数目的比值位于设定比值区间;
通过各个目标未携带注释图像得到目标未携带注释图像库;
所述对所述目标未携带注释图像库中的每一目标未携带注释图像分别进行生成转换,得到所述每一目标未携带注释图像分别对应的匹配图像,包括:
对所述目标未携带注释图像库中的每一目标未携带注释图像分别进行生成对抗操作,得到所述每一目标未携带注释图像分别对应的生成图像,将目标未携带注释图像组应的生成图像确定为目标未携带注释图像组应的匹配图像。
可选地,所述方法还包括:
将所述携带注释图像、所述未携带注释图像组中的第一图像和第二图像分别输入所述基础图像缺陷检测网络,得到所述携带注释图像、所述第一图像和所述第二图像分别对应的推理图像缺陷检测分类指示信息;
通过所述携带注释图像对应的推理图像缺陷检测分类指示信息和注释图像缺陷检测分类指示信息之间的误差,得到第一网络质量评估指标,通过所述未携带注释图像组中的第一图像和第二图像分别对应的推理图像缺陷检测分类指示信息之间的误差,得到第二网络质量评估指标;
通过所述第一网络质量评估指标和所述第二网络质量评估指标,优化所述基础图像缺陷检测网络的网络可学习变量,直至符合调试截止要求,得到所述目标图像缺陷检测网络。
可选地,所述通过所述携带注释图像对应的推理图像缺陷检测分类指示信息和注释图像缺陷检测分类指示信息之间的误差,得到第一网络质量评估指标,包括:
在各个携带注释图像中删除推理图像缺陷检测分类指示信息的指示值大于指示设定值的携带注释图像;
在余下的各个携带注释图像中,通过同一携带注释图像对应的推理图像缺陷检测分类指示信息和注释图像缺陷检测分类指示信息之间的误差,得到第一网络质量评估指标;
其中,所述指示设定值不小于对照值,所述对照值为基于注释图像缺陷检测分类指示信息对应的分类指示信息类型数目对推理图像缺陷检测分类指示信息对应的数值区间进行确定得到;其中,所述指示设定值在网络调试次数递增时,数值随之上升;
所述通过所述未携带注释图像组中的第一图像和第二图像分别对应的推理图像缺陷检测分类指示信息之间的误差,得到第二网络质量评估指标,包括:
在各个未携带注释图像组中,删除推理图像缺陷检测分类指示信息的指示值在设定数值范围内的未携带注释图像组;其中,所述设定数值范围是推理图像缺陷检测分类指示信息对应的数值区间中的中间值;
在余下的各个未携带注释图像组中,通过同一未携带注释图像组中第一图像和第二图像分别对应的推理图像缺陷检测分类指示信息之间的误差,得到第二网络质量评估指标。
可选地,所述推理图像缺陷检测分类指示信息包括在积极注释和消极注释上分别对应的推理概率;所述通过所述未携带注释图像组中的第一图像和第二图像分别对应的推理图像缺陷检测分类指示信息之间的误差,得到第二网络质量评估指标,包括:
通过所述未携带注释图像组中的第一图像和第二图像分别对应的推理图像缺陷检测分类指示信息之间的误差,得到分类指示信息代价;
通过同一推理图像缺陷检测分类指示信息包含的各个推理概率进行不确定度确定,各自获得所述各个未携带注释图像组所对应的不确定度;
通过各个未携带注释图像组所对应的不确定度,得到不确定度代价;
通过所述分类指示信息代价和所述不确定度代价,得到第二网络质量评估指标。
可选地,所述将所述目标显示器底座对应的表面图像和预设缺陷类型图像库进行对比,得到所述目标显示器底座包含的目标缺陷类型图像,包括:
获取缺陷类型图像查询拓扑和索引向量库;其中,所述缺陷类型图像查询拓扑是通过预设缺陷类型图像库生成的,所述索引向量库包括所述预设缺陷类型图像库中各个缺陷类型图像的特征向量;
从所述目标显示器底座对应的表面图像中确定目标图像块的图像块表征向量;
如果在所述索引向量库中索引到目标图像块的图像块表征向量时,将目标图像块的图像块表征向量对应的目标图像块的图像块表征向量元素和所述缺陷类型图像查询拓扑进行对比;
如果目标图像块的图像块表征向量对应的目标图像块的图像块表征向量元素在所述缺陷类型图像查询拓扑中索引到拓扑分支时,将索引到的拓扑分支对应的缺陷类型图像确定为所述目标显示器底座中包含的目标缺陷类型图像;
从所述目标显示器底座对应的表面图像中获取后一个图像块作为目标图像块的图像块表征向量,返回所述如果在所述索引向量库中索引到目标图像块的图像块表征向量时,将目标图像块的图像块表征向量对应的目标图像块的图像块表征向量元素和所述缺陷类型图像查询拓扑进行对比的操作进行执行,直至所述目标显示器底座对应的表面图像中每一个图像块都完成对比,得到所述目标显示器底座包含的各个目标缺陷类型图像。
第二方面,本公开提供了一种显示器底座生产用检测系统,包括互相通信连接的摄像设备和检测设备,所述检测设备包括存储器和处理器,所述存储器存储有可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现以上所述的方法。
本公开至少具有的有益效果:
本公开提供的基于机器视觉的显示器底座生产用检测方法,通过获取目标显示器底座对应的表面图像,将目标显示器底座对应的表面图像输入目标图像缺陷检测网络,得到目标显示器底座对应的推理图像缺陷检测分类指示信息,目标图像缺陷检测网络是通过携带注释图像和未携带注释图像组,对基础图像缺陷检测网络进行调试得到的,携带注释图像是已注释显示器底座缺陷检测分类的显示器底座对应的表面图像,未携带注释图像组中的图像是没有注释显示器底座缺陷检测分类的显示器底座对应的表面图像,未携带注释图像组中的各图像为近似的图像,在目标显示器底座对应的推理图像缺陷检测分类指示信息指示目标显示器底座属于目标缺陷检测分类时,将目标显示器底座对应的表面图像和预设缺陷类型图像库进行对比,得到目标显示器底座包含的目标缺陷类型图像,通过目标缺陷类型图像,确定目标显示器底座对应的显示器底座缺陷类型。基于此,采用目标图像缺陷检测网络高效检测目标显示器底座对应的显示器底座的缺陷检测分类,在目标显示器底座属于目标缺陷检测分类时,再依据预设缺陷类型图像库检测目标显示器底座包含的目标缺陷类型图像,最后通过目标缺陷类型图像确定目标显示器底座对应的显示器底座缺陷类型。根据目标图像缺陷检测网络的显示器底座的缺陷检测分类结果根据实际情况进行缺陷类型检测,不是无差别统一进行缺陷类型检测,可以减少计算开销,增加缺陷类型检测的速度。此外,对于网络的调试过程,未携带注释图像组为不用进行注释的样本图像,可以缓解样本图像的注释需求,仅对少数样本图像的注释得到携带注释图像,进而通过未携带注释图像组和携带注释图像对基础图像缺陷检测网络进行调试,可以加快调试得到目标图像缺陷检测网络,进一步提升缺陷类型检测的速度。
在后面的描述中,将部分地陈述其他的特征。在检查后面内容和附图时,本领域的技术人员将部分地发现这些特征,或者可以通过生产或运用了解到这些特征。通过实践或使用后面所述详细示例中列出的方法、工具和组合的各个方面,当前申请中的特征可以被实现和获得。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,这些附图示出了符合本公开的实施例,并与说明书一起用于说明本公开的技术方案。
图1是本公开实施例提供的基于机器视觉的显示器底座生产用检测系统的示意图。
图2是本公开实施例提供的一种基于机器视觉的显示器底座生产用检测方法的流程图。
图3是本公开实施例提供的缺陷检测装置的功能模块架构示意图。
图4是本公开实施例提供的一种检测设备的组成示意图。
具体实施方式
为了使本公开的目的、技术方案和优点更加清楚,下面将结合附图对本公开作进一步地详细描述,所描述的实施例不应视为对本公开的限制,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例,都属于本公开保护的范围。
在以下的描述中,涉及到“一些实施例”、“作为一种实施方式/方案”、“在一种实施方式中”,其描述了所有可能实施例的子集,但是可以理解,“一些实施例”、“作为一种实施方式/方案”、“在一种实施方式中”可以是所有可能实施例的相同子集或不同子集,并且可以在不冲突的情况下相互结合。
在以下的描述中,所涉及的术语“第一\第二\第三”等类似术语,仅仅是区别类似的对象,不代表针对对象的特定排序,可以理解地,“第一\第二\第三”在允许的情况下可以互换特定的顺序或先后次序,以使这里描述的本公开实施例能够以除了在这里图示或描述的以外的顺序实施。除非另有定义,本文所使用的所有的技术和科学术语与属于本公开的技术领域的技术人员通常理解的含义相同。本文中所使用的术语只是为了描述本公开实施例的目的,不是旨在限制本公开。
本公开实施例提供的基于机器视觉的显示器底座生产用检测方法可以由检测设备执行,其中检测设备可以是笔记本电脑,平板电脑,台式计算机,移动设备(例如,移动电话,便携式音乐播放器,个人数字助理,专用消息设备,便携式游戏设备)等各种类型的终端,也可以实施为服务器。服务器可以是独立的物理服务器,也可以是多个物理服务器构成的服务器集群或者分布式系统,还可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、内容分发网络(Content DeliveryNetwork,CDN)、以及大数据和人工智能平台等基础云计算服务的云服务器。
图1是本公开实施例提供的基于机器视觉的显示器底座生产用检测方法的显示器底座生产用检测系统的示意图。本公开实施例提供的显示器底座生产用检测系统10中包括多个摄像设备100、网络200和检测设备300,多个摄像设备100和检测设备300之间通过网络200实现通信连接。检测设备300用于执行本公开实施例提供的方法。具体地,本公开实施例提供了一种基于机器视觉的显示器底座生产用检测方法,该方法应用于检测设备300,如图2所示,该方法包括:
操作S110,获取目标显示器底座对应的表面图像。
目标显示器底座即需要进行缺陷类型检测的显示器的底座,其表面图像可以通过摄像设备进行拍摄得到。
操作S120,将目标显示器底座对应的表面图像输入目标图像缺陷检测网络,得到目标显示器底座对应的推理图像缺陷检测分类指示信息;其中,目标图像缺陷检测网络是通过携带注释图像和未携带注释图像组,对基础图像缺陷检测网络进行调试得到的,携带注释图像是已注释显示器底座缺陷检测分类的显示器底座对应的表面图像,未携带注释图像组中的图像是没有注释显示器底座缺陷检测分类的显示器底座对应的表面图像,未携带注释图像组中的各图像为近似的图像。
本公开实施例中,图像缺陷检测网络为深度神经网络,例如卷积神经网络、循环神经网络、长短时记忆网络等,用于检测显示器底座对应的显示器底座的缺陷检测分类。图像缺陷检测网络的执行数据为显示器底座对应的表面图像,输出结果为显示器底座对应的推理图像缺陷检测分类指示信息。图像缺陷检测网络的网络组成可采取通用的图像分类网络的网络架构,或者针对性的网络组成,基础图像缺陷检测网络为拟进行调试的图像缺陷检测网络,目标图像缺陷检测网络为调试好的图像缺陷检测网络。
携带注释图像是已注释(例如通过标记进行注释)显示器底座缺陷检测分类的显示器底座对应的表面图像,携带注释图像具有对应的注释图像缺陷检测分类指示信息,注释图像缺陷检测分类指示信息为调试分类指示信息(即指示实际缺陷分类的信息,可以用标签实现),即,注释图像缺陷检测分类指示信息为指示表面图像对应的显示器底座实际的显示器底座的缺陷检测分类的分类指示信息。换言之,携带注释图像是已知显示器底座类型的显示器底座对应的表面图像,携带注释图像对应的调试分类指示信息为已知的显示器底座的缺陷检测分类。其中,显示器底座缺陷检测分类用以指示显示器底座具有缺陷或不具有缺陷。
未携带注释图像组包括一对表面图像。未携带注释图像组中的图像是没有注释显示器底座缺陷检测分类的显示器底座对应的表面图像,换言之,未携带注释图像组中的图像是不确定显示器底座类型的显示器底座对应的表面图像。未携带注释图像组中的各图像为近似的图像,换言之,未携带注释图像组中的一对表面图像是近似的表面图像。未携带注释图像组包括第一图像和第二图像,第一图像和第二图像为近似的表面图像。譬如,第一图像是一显示器底座对应的表面图像,第二图像为对第一图像进行生成对抗操作获得的图像。通过携带注释图像和未携带注释图像组对基础图像缺陷检测网络进行调试,获得目标图像缺陷检测网络。网络的调试预期是对携带注释图像输出与注释图像缺陷检测分类指示信息近似的推理图像缺陷检测分类指示信息,对未携带注释图像组中的第一图像和第二图像输出近似的推理图像缺陷检测分类指示信息。
例如,将目标显示器底座对应的表面图像输入目标图像缺陷检测网络,网络输出目标显示器底座对应的推理图像缺陷检测分类指示信息。
作为一种实施方式,推理图像缺陷检测分类指示信息可以采用推理概率进行表示,推理概率即表面图像对应的显示器底座属于目标缺陷检测分类的概率,表面图像对应的推理概率越大,表面图像对应的显示器底座属于目标缺陷检测分类的概率越大。譬如,如果推理概率大于预设概率,就确定表面图像对应的显示器底座对应的显示器底座的缺陷检测分类是目标缺陷检测分类,如果推理概率不大于预设概率,就确定表面图像对应的显示器底座对应的显示器底座的缺陷检测分类不是目标缺陷检测分类。
作为一种实施方式,用于网络调试的携带注释图像的数目少于用于网络调试的未携带注释图像组的数目,以通过大量未携带注释图像组和较少的携带注释图像对基础图像缺陷检测网络进行网络调试,可以缩短样本图像的注释用时,增加网络调试速度。
作为一种实施方式,获取多个不近似的待注释图像对待注释图像进行缺陷检测分类注释,获得携带注释图像和携带注释图像对应的注释图像缺陷检测分类指示信息,用于网络调试的多个携带注释图像是互相不近似的图像,携带注释图像可在数量不足样本图像的前提下为网络调试提供学习知识,对不近似的待注释图像进行缺陷检测分类注释,可减少对近似的待注释图像的冗余注释过程,增加注释的速度。
操作S130,在目标显示器底座对应的推理图像缺陷检测分类指示信息指示目标显示器底座属于目标缺陷检测分类时,将目标显示器底座对应的表面图像和预设缺陷类型图像库进行对比,得到目标显示器底座包含的目标缺陷类型图像。
携带注释图像对应的注释图像缺陷检测分类指示信息包括积极注释和消极注释。积极注释代表表面图像对应的显示器底座对应的显示器底座的缺陷检测分类是目标缺陷检测分类,即表面图像对应的显示器底座属于目标缺陷检测分类(比如具有缺陷),积极注释为正例注释。消极注释代表表面图像对应的显示器底座对应的显示器底座的缺陷检测分类不是目标缺陷检测分类,即表面图像对应的显示器底座不属于目标缺陷检测分类(比如没有缺陷),消极注释为负例注释。
预设缺陷类型图像库包括预设的各缺陷类型图像各自的缺陷类型图像的特征向量,即对缺陷类型图像进行特征表征得到的向量,具体方式可以参考通用技术实现。缺陷类型图像可以基于实际情况进行准备,如缺陷类型图像可以为具有裂纹、污渍、气泡、凸起等类型的图像。
实际应用中,图像缺陷检测网络的样本图像包括属于目标缺陷检测分类的显示器底座和不属于目标缺陷检测分类的显示器底座的图像,目标图像缺陷检测网络用于检测属于目标缺陷检测分类的显示器底座。将目标显示器底座的表面图像输入目标图像缺陷检测网络,网络输出推理图像缺陷检测分类指示信息。譬如,推理图像缺陷检测分类指示信息用推理概率进行表示,预设概率越大,目标显示器底座属于目标缺陷检测分类的概率越大,如果推理概率大于预设概率,确定目标显示器底座属于目标缺陷检测分类,推理图像缺陷检测分类指示信息属于积极注释,如果推理概率不大于预设概率,确定目标显示器底座不属于目标缺陷检测分类,推理图像缺陷检测分类指示信息属于消极注释。
在推理图像缺陷检测分类指示信息为积极注释时,将目标显示器底座对应的表面图像和预设缺陷类型图像库进行对比(即进行匹配),将预设缺陷类型图像库中配对到的缺陷类型图像的特征向量对应的缺陷类型图像确定为目标显示器底座包含的目标缺陷类型图像。在推理图像缺陷检测分类指示信息为消极注释时,不用对目标显示器底座进行继续处理。
操作S140,通过目标缺陷类型图像确定目标显示器底座对应的显示器底座缺陷类型。
例如,通过目标显示器底座包含的目标缺陷类型图像确定目标显示器底座对应的显示器底座缺陷类型。比如获取目标显示器底座和目标缺陷类型图像之间的共性程度,得到显示器底座缺陷类型。
以上基于机器视觉的显示器底座生产用检测方法中,通过目标图像缺陷检测网络高效检测目标显示器底座对应的显示器底座的缺陷检测分类,在目标显示器底座属于目标缺陷检测分类时,再依据预设缺陷类型图像库检测目标显示器底座包含的目标缺陷类型图像,最后通过目标缺陷类型图像确定目标显示器底座对应的显示器底座缺陷类型。基于目标图像缺陷检测网络的显示器底座的缺陷检测分类结果根据实际情况进行缺陷类型检测,不是无差别统一进行缺陷类型检测,可以减少计算开销,增加缺陷类型检测的速度。此外,对于网络的调试过程,未携带注释图像组为不用进行注释的样本图像,可以缓解样本图像的注释需求,仅对少数样本图像的注释得到携带注释图像,从而通过未携带注释图像组和携带注释图像对基础图像缺陷检测网络进行调试,可以加快调试得到目标图像缺陷检测网络,进一步提升缺陷类型检测的速度。
作为一种实施方式,基于机器视觉的显示器底座生产用检测方法还包括:获取多个待注释图像,抽取各个所述待注释图像分别对应的图像表征向量;在各个待注释图像中确定目标图像(视为当前处理的图像),通过目标图像对应的图像表征向量在第一图像库中索引目标图像对应的目标匹配图像,得到索引结果,如果索引结果为索引到目标图像对应的目标匹配图像,将目标图像添加到第一图像库,如果索引结果为没有索引到目标图像对应的目标匹配图像,将目标图像分别添加到第一图像库和第二图像库,在各个待注释图像中获取后一待注释图像确定为目标图像,返回通过目标图像对应的图像表征向量在第一图像库中索引目标图像对应的目标匹配图像,得到索引结果的操作进行执行,直至各个待注释图像得到遍历,对遍历完成时获得的第二图像库中的各个待注释图像所属的显示器底座进行缺陷检测分类注释,得到多个携带注释图像。其中,待注释图像为需要注释所属显示器底座对应的显示器底座的缺陷检测分类的表面图像,换言之,待注释图像是不确定显示器底座类型的显示器底座对应的表面图像。待注释图像对应的目标匹配图像为与待注释图像近似的其他待注释图像。
对表面图像所属的显示器底座进行缺陷检测分类注释为注释表面图像对应的显示器底座对应的显示器底座的缺陷检测分类。比如人工对缺陷检测分类注释。
可以获取多个待注释图像,抽取各个所述待注释图像分别对应的图像表征向量,通过待注释图像对应的图像表征向量在各个待注释图像中确定不近似的待注释图像得到携带注释图像,可以在各个待注释图像中任意确定一个待注释图像确定为目标图像,通过目标图像对应的图像表征向量在第一图像库中索引目标图像对应的目标匹配图像,如果在第一图像库中索引到目标图像对应的目标匹配图像,则代表在各待注释图像中具有与目标图像近似的图像,则将目标图像添加到第一图像库,第一图像库用于保存待注释图像。如果在第一图像库中没有索引到目标图像对应的目标匹配图像,则代表在各个待注释图像中没有与目标图像近似的图像,则可将目标图像添加到第一图像库,以及将目标图像添加到第二图像库,第二图像库用于保存互相不近似的待注释图像。然后,在各个待注释图像中获取后一个待注释图像确定为目标图像,通过是否能在当前第一图像库中索引出目标图像对应的目标匹配图像,来确定是否将目标图像添加到第二图像库,以及将目标图像添加到第一图像库。同理,将各个待注释图像持续添加到第一图像库,将在第一图像库中索引不到对应的目标匹配图像的待注释图像添加到第二图像库,令最后的第二图像库包括各待注释图像中互相不近似的待注释图像,对最后的第二图像库中的各个待注释图像所属的显示器底座进行缺陷检测分类注释,获得多个互相不近似的携带注释图像。
本公开中,图像的图像表征向量是表征图像特征信息的向量,其特征抽取方式不做限定,例如基于卷积神经网络(如通过其中的卷积层、池化层)进行图像表征向量的抽取、使用SIFT、SURF、HOG等算法提取图像的局部特征。以上实施例将各待注释图像逐一作为目标图像,对任一目标图像而言,如果在第一图像库中索引目标图像对应的目标匹配图像,则将目标图像添加到第一图像库,如果在第一图像库中没有索引目标图像对应的目标匹配图像,则将目标图像分别添加到第一图像库和第二图像库,以令第一图像库持续被填补,第一图像库包括多样的待注释图像,第一图像库一致能帮助选取新的待注释图像,以令第二图像库包括互相不近似的待注释图像。那么对第二图像库中的图像所属的显示器底座进行缺陷检测分类注释时,可以防止匹配图像的重复注释,增加注释的速度。基于缺陷检测分类注释得到的携带注释图像是互相不近似的携带注释图像,可以在少量样本图像上为网络调试提供学习知识,以强化网络调试的效果,增加网络调试速度。
作为一种实施方式,通过目标图像对应的图像表征向量在第一图像库中索引目标图像对应的目标匹配图像,得到索引结果,包括:通过目标图像对应的图像表征向量分别和第一图像库中各图像各自的图像表征向量之间的向量共性度量结果,在第一图像库包含的各图像中确定目标图像对应的基础匹配图像;在目标图像和对应的基础匹配图像之间的向量空间误差不小于设定空间误差时,将目标图像对应的基础匹配图像确定为目标图像对应的目标匹配图像,得到索引结果;在目标图像和对应的基础匹配图像之间的向量空间误差小于设定空间误差,或者目标图像未索引到对应的基础匹配图像,确定索引结果为没有索引到目标图像对应的目标匹配图像。
两个表征向量之间的向量共性度量结果可以表征两个表征向量的相似度,两个表征向量之间的向量共性度量结果越大,越近似。确定两个表征向量之间的向量共性度量结果的方式例如是计算两个表征向量向量距离(如欧几里得距离)来表示。两个图像之间的向量空间误差即各自对应的表征向量之间的向量距离,向量距离越大,向量空间误差越大。
目标图像对应的基础匹配图像为基于图像表征向量在第一图像库中直接索引到的与目标图像近似的图像,目标图像对应的目标匹配图像是对目标图像对应的基础匹配图像进行再次选取获得的与目标图像近似的图像,目标图像对应的目标匹配图像是与目标图像的向量空间误差大于设定空间误差的基础匹配图像。设定空间误差即预设的向量空间误差阈值。
例如,可以通过目标图像对应的图像表征向量先在第一图像库中索引到目标图像对应的基础匹配图像,然后通过目标图像和对应的基础匹配图像之间的向量空间误差,从目标图像对应的基础匹配图像中确定目标图像对应的目标匹配图像。
可以计算目标图像对应的图像表征向量分别和第一图像库中各图像分别对应的图像表征向量之间的向量共性度量结果,通过向量共性度量结果在第一图像库中的各图像中确定目标图像对应的基础匹配图像。比如将第一图像库中与目标图像的向量共性度量结果大于预设共性度量结果的图像作为目标图像对应的基础匹配图像;例如基于向量共性度量结果递减顺序将第一图像库中各图像进行排序,将前面的N个图像作为目标图像对应的基础匹配图像。如果在第一图像库中索引不到目标图像对应的基础匹配图像,则确定索引结果为没有索引到目标图像对应的目标匹配图像,如果在第一图像库中索引到目标图像对应的基础匹配图像,则再计算目标图像分别和对应的各个基础匹配图像之间的向量空间误差,将与目标图像的向量空间误差不小于设定空间误差的基础匹配图像确定为目标图像对应的目标匹配图像,确定索引结果为索引到目标图像对应的目标匹配图像。如果目标图像和对应的基础匹配图像之间的向量空间误差小于设定空间误差,则代表目标图像和对应的基础匹配图像之间近似程度不够,确定索引结果为没有索引到目标图像对应的目标匹配图像。
以上实施方式,图像表征向量的抽取速度快于向量空间误差,先通过图像表征向量在第一图像库中确定目标图像对应的基础匹配图像,能快速索引得到与目标图像基本近似的图像,再通过向量空间误差从目标图像对应的基础匹配图像中确定目标图像对应的目标匹配图像,能准确索引得到与目标图像足够近似的图像,通过两种选取可以加快确定目标图像对应的准确的目标匹配图像。
作为一种实施方式,图像缺陷检测网络依赖分类指示信息引导调试以获得高质量的网络推理结果,则人工注释环节不能被取代,在注释时,部分显示器底座的图像会因为过于近似,对其进行反复注释,不能给网络调试给予更多帮助,则过于近似的显示器底座的反复注释是浪费的,同时令注释的效率不高。为了增加注释的速度,本公开实施例中提供了一种去重的过程,然后对余下的不近似的显示器底座进行人工注释,获得少量积极训练数据和消极训练数据,积极训练数据为目标缺陷检测分类的显示器底座对应的表面图像,消极训练数据为非目标缺陷检测分类的显示器底座对应的表面图像。
作为一种实施方式,基于机器视觉的显示器底座生产用检测方法还包括:获取携带注释图像库和未携带注释图像库;通过携带注释图像库对候选图像缺陷检测网络进行调试,得到过渡图像缺陷检测网络;将未携带注释图像库中各个未携带注释图像输入过渡图像缺陷检测网络,得到各个未携带注释图像分别对应的推理图像缺陷检测分类指示信息;未携带注释图像组应的推理图像缺陷检测分类指示信息用于作为未携带注释图像组应的假注释(pseudo-labeling);通过假注释对各个未携带注释图像进行选取,得到目标未携带注释图像库;对目标未携带注释图像库中的每一目标未携带注释图像分别进行生成转换,得到每一目标未携带注释图像分别对应的匹配图像;将目标未携带注释图像和对应的匹配图像组成未携带注释图像组,得到多个未携带注释图像组。其中,携带注释图像库包括多个携带注释图像,携带注释图像为已知显示器底座类型的显示器底座对应的表面图像,未携带注释图像库包括多个未携带注释图像,未携带注释图像为未知显示器底座类型的显示器底座对应的表面图像。目标未携带注释图像库包括多个目标未携带注释图像,目标未携带注释图像是从多个携带注释图像选取得到。
对图像进行生成转换即将图像生成为另一图像,生成前后的图像为近似的图像。例如,生成转换可以是基于生成对抗网络(GAN)中的生成器和判别器将图像进行生成,其中,生成器用于将输入的随机向量或噪声转换为生成图像,判别器判断图像为真实图像或生成图像,然后基于生成损失和判别损失对生成器和判别器进行调试得到目标生成对抗网络。候选图像缺陷检测网络为待调试的图像缺陷检测网络。候选图像缺陷检测网络的网络可学习变量和基础图像缺陷检测网络的网络可学习变量(即各种参数,如权重)可以是一致的或不一致的。
可选地,可以通过携带注释图像库对候选图像缺陷检测网络进行调试,得到过渡图像缺陷检测网络,通过过渡图像缺陷检测网络对未携带注释图像库中的数据进行删除,得到目标未携带注释图像库,通过目标未携带注释图像库生成未携带注释图像组。可以通过携带注释图像库对候选图像缺陷检测网络进行有监督调试,得到过渡图像缺陷检测网络。譬如将携带注释图像库中的携带注释图像输入候选图像缺陷检测网络,得到携带注释图像对应的推理图像缺陷检测分类指示信息,通过携带注释图像对应的推理图像缺陷检测分类指示信息和注释图像缺陷检测分类指示信息生成网络质量评估指标(即网络的代价或损失),将网络质量评估指标进行逆向传递以优化网络可学习变量,直至符合调试截止要求,得到过渡图像缺陷检测网络。
通过过渡图像缺陷检测网络检测未携带注释图像所属显示器底座对应的显示器底座的缺陷检测分类,将未携带注释图像库中各个未携带注释图像输入过渡图像缺陷检测网络,网络输出各个未携带注释图像分别对应的推理图像缺陷检测分类指示信息。未携带注释图像组应的推理图像缺陷检测分类指示信息用于作为未携带注释图像组应的假注释,通过假注释对各个未携带注释图像进行选取,得到多个目标未携带注释图像,将各个目标未携带注释图像组成目标未携带注释图像库。比如,假注释包括积极注释和消极注释,在各个未携带注释图像中获取x个包含积极注释的未携带注释图像和x个包含消极注释的未携带注释图像分别作为目标未携带注释图像。然后对目标未携带注释图像库中的每一目标未携带注释图像分别进行生成转换,得到每一目标未携带注释图像分别对应的匹配图像,将目标未携带注释图像和对应的匹配图像组成未携带注释图像组,最后得到多个未携带注释图像组。
作为一种实施方式,携带注释图像库中携带注释图像的图像数目小于未携带注释图像库中未携带注释图像的图像数目。通过少量的携带注释图像对候选图像缺陷检测网络进行初步调试,得到过渡图像缺陷检测网络,过渡图像缺陷检测网络在鉴别不同类型的显示器底座对应的表面图像上,能包含一定的精度。通过过渡图像缺陷检测网络对大量未携带注释图像进行删除,将余下的未携带注释图像确定为目标未携带注释图像,令各目标未携带注释图像可达到类型上一定的均衡。然后对目标未携带注释图像进行生成转换,得到目标未携带注释图像组应的匹配图像,将目标未携带注释图像和对应的匹配图像组成未携带注释图像组,令各未携带注释图像组达到类型上一定的均衡。
以上实施方式,通过携带注释图像库对候选图像缺陷检测网络进行调试,得到过渡图像缺陷检测网络,过渡图像缺陷检测网络在检测未携带注释图像所属显示器底座对应的显示器底座的缺陷检测分类上能达到一定精度。将未携带注释图像库中各未携带注释图像输入过渡图像缺陷检测网络,得到各未携带注释图像分别对应的推理图像缺陷检测分类指示信息,通过假注释对各个未携带注释图像进行选取,得到目标未携带注释图像库,令目标未携带注释图像库包括所属显示器底座类型一定平衡的未携带注释图像。对目标未携带注释图像库中的每一目标未携带注释图像分别进行生成转换,得到每一目标未携带注释图像分别对应的匹配图像,将目标未携带注释图像和对应的匹配图像组成未携带注释图像组,得到多个未携带注释图像组,令各未携带注释图像组对应的显示器底座的缺陷检测分类相对平衡,通过以上未携带注释图像进行网络调试可以令网络的拟合质量和泛化性更强。
作为一种实施方式,通过假注释对各个未携带注释图像进行选取,得到目标未携带注释图像库,包括:确定各个假注释中积极注释和消极注释的数目,得到积极注释数目和消极注释数目;在积极注释数目和消极注释数目中获取较少的注释数目作为对照注释数目,将对照注释数目对应的图像缺陷检测分类指示信息作为对照注释;在包括对照注释的各个未携带注释图像中,获取第一数目的未携带注释图像确定为目标未携带注释图像;第一数目小于对照注释数目;在不包括对照注释的各个未携带注释图像中,获取第二数目的未携带注释图像确定为目标未携带注释图像;第一数目和第二数目的比值位于设定比值区间;通过各个目标未携带注释图像得到目标未携带注释图像库。其中,图像缺陷检测分类指示信息包括积极注释和消极注释。积极注释代表表面图像对应的显示器底座对应的显示器底座的缺陷检测分类是目标缺陷检测分类,消极注释代表表面图像对应的显示器底座对应的显示器底座的缺陷检测分类不是目标缺陷检测分类。
积极注释数目为在各未携带注释图像组应的假注释中积极注释的数量,消极注释数目为在各未携带注释图像组应的假注释中,消极注释的数量。对照注释数目是在积极注释数目和消极注释数目中,数目更小的注释数目。对照注释为对照注释数目对应的图像缺陷检测分类指示信息。第一数目小于对照注释数目。第一数目和第二数目具体数值不做限定,第一数目和第二数目的比值位于设定比值区间。
例如,通过假注释对各个未携带注释图像进行选取时,通过假注释进行显示器底座类型的平衡,令选取得到的正消极训练数据的数目最平衡。对各未携带注释图像组应的假注释进行分类指示信息类型确定,得到积极注释数目和消极注释数目,在积极注释数目和消极注释数目中获取较少的注释数目作为对照注释数目,将对照注释数目对应的图像缺陷检测分类指示信息作为对照注释。在包括对照注释的各个未携带注释图像中,获取第一数目的未携带注释图像确定为目标未携带注释图像,在不包括对照注释的各未携带注释图像中,获取第二数目的未携带注释图像确定为目标未携带注释图像,以获得多个目标未携带注释图像,最后将各目标未携带注释图像组成目标未携带注释图像库。比如第一数目和第二数目的比值为1,即第一数目等于第二数目,从假注释为积极注释的各未携带注释图像中任意选取x个未携带注释图像确定为目标未携带注释图像,从假注释为消极注释的各个未携带注释图像中任意选取x个未携带注释图像确定为目标未携带注释图像。
以上实施方式,确定各个假注释中积极注释和消极注释的数目,得到积极注释数目和消极注释数目,在积极注释数目和消极注释数目中获取较少的注释数目作为对照注释数目,将对照注释数目对应的图像缺陷检测分类指示信息作为对照注释,通过对照注释数目和设定比值区间确定第一数目和第二数目,在包括对照注释的各个未携带注释图像中,获取第一数目的未携带注释图像确定为目标未携带注释图像;在不包括对照注释的各个未携带注释图像中,获取第二数目的未携带注释图像确定为目标未携带注释图像,令假注释为积极注释的目标未携带注释图像的数目和假注释为消极注释的目标未携带注释图像的数目的比值位于设定比值区间,令假注释为积极注释的目标未携带注释图像的数目和假注释为消极注释的目标未携带注释图像的数目平衡。作为一种实施方式,对目标未携带注释图像库中的每一目标未携带注释图像分别进行生成转换,得到每一目标未携带注释图像分别对应的匹配图像,包括:对目标未携带注释图像库中的每一目标未携带注释图像分别进行生成对抗操作,得到每一目标未携带注释图像分别对应的生成图像,将目标未携带注释图像组应的生成图像确定为目标未携带注释图像组应的匹配图像。
生成转换具体可以是生成对抗操作,对目标未携带注释图像库中的每一目标未携带注释图像分别进行生成对抗操作,得到每一目标未携带注释图像分别对应的生成图像,将目标未携带注释图像组应的生成图像确定为目标未携带注释图像组应的匹配图像,将目标未携带注释图像和对应的生成图像组成未携带注释图像组。以上实施方式,对目标未携带注释图像进行生成对抗操作得到目标未携带注释图像组应的生成图像,可令生成图像在留存目标未携带注释图像已有语义的前提下包含多元性,将目标未携带注释图像和对应的生成图像组成未携带注释图像组,如此未携带注释图像组可以给网络调试提供更多知识,使得网络拟合效果和泛化性更强。
作为一种实施方式,可获取大量初始显示器底座,这些初始显示器底座并没有注释图像缺陷检测分类指示信息,则视为无分类指示信息显示器底座。基于过渡图像缺陷检测网络对这些无分类指示信息显示器底座进行显示器底座类型检测,将无分类指示信息显示器底座的表面图像输入过渡图像缺陷检测网络,将过渡图像缺陷检测网络输出的推理图像缺陷检测分类指示信息作为无分类指示信息显示器底座的假注释,假注释包括积极注释和消极注释。根据假注释对无分类指示信息显示器底座进行类别平衡,令正消极训练数据的数目尽量均衡,最后获得平衡无分类指示信息图像库B。
作为一种实施方式,基于机器视觉的显示器底座生产用检测方法还包括:
操作S210,将携带注释图像、未携带注释图像组中的第一图像和第二图像分别输入基础图像缺陷检测网络,得到携带注释图像、第一图像和第二图像分别对应的推理图像缺陷检测分类指示信息。
操作S220,通过携带注释图像对应的推理图像缺陷检测分类指示信息和注释图像缺陷检测分类指示信息之间的误差,得到第一网络质量评估指标。
操作S230,通过未携带注释图像组中的第一图像和第二图像分别对应的推理图像缺陷检测分类指示信息之间的误差,得到第二网络质量评估指标。
其中,携带注释图像对应的注释图像缺陷检测分类指示信息为表征携带注释图像所属显示器底座对应的实际的显示器底座的缺陷检测分类的分类指示信息。携带注释图像对应的推理图像缺陷检测分类指示信息是网络通过携带注释图像推理得到的携带注释图像所属显示器底座对应的显示器底座的缺陷检测分类的分类指示信息。网络的调试预期是让携带注释图像对应的推理图像缺陷检测分类指示信息和携带注释图像对应的调试图像缺陷检测分类指示信息更加接近,以令网络可以输出正确的分类指示信息。
未携带注释图像组中的第一图像和第二图像是近似的图像,网络的调试预期是让第一图像对应的推理图像缺陷检测分类指示信息和第二图像对应的推理图像缺陷检测分类指示信息更加接近,以令网络针对近似的图像可以输出相同的分类指示信息。例如,可以将携带注释图像输入基础图像缺陷检测网络,网络对携带注释图像进行图像处理,得到携带注释图像对应的推理图像缺陷检测分类指示信息。可以将未携带注释图像组中的第一图像输入基础图像缺陷检测网络,网络对第一图像进行图像处理,输出第一图像对应的推理图像缺陷检测分类指示信息。可以将未携带注释图像组中的第二图像输入基础图像缺陷检测网络,网络对第二图像进行图像处理,输出第二图像对应的推理图像缺陷检测分类指示信息。
可以通过携带注释图像对应的推理图像缺陷检测分类指示信息和注释图像缺陷检测分类指示信息获取第一网络质量评估指标,比如计算携带注释图像对应的推理图像缺陷检测分类指示信息和注释图像缺陷检测分类指示信息之间的MSE值以获得第一网络质量评估指标,或通过携带注释图像对应的推理图像缺陷检测分类指示信息和注释图像缺陷检测分类指示信息计算交叉熵网络质量评估指标作为第一网络质量评估指标。第一网络质量评估指标用以体现携带注释图像对应的推理图像缺陷检测分类指示信息和注释图像缺陷检测分类指示信息之间的误差。可以通过未携带注释图像组中的第一图像和第二图像分别对应的推理图像缺陷检测分类指示信息获取第二网络质量评估指标,比如计算未携带注释图像组中的第一图像和第二图像分别对应的推理图像缺陷检测分类指示信息之间的距离作为第二网络质量评估指标,第二网络质量评估指标可以体现未携带注释图像组中的第一图像和第二图像分别对应的推理图像缺陷检测分类指示信息之间的误差。
操作S240,通过第一网络质量评估指标和第二网络质量评估指标,优化基础图像缺陷检测网络的网络可学习变量,直至符合调试截止要求,得到目标图像缺陷检测网络。
其中,调试截止要求为评估网络是否收敛的要求,调试截止要求例如是网络质量评估指标小于预设网络质量评估指标、网络调试轮次达到预设轮次、网络质量评估指标的变化率达到最小值等。
可以通过第一网络质量评估指标和第二网络质量评估指标得到目标网络质量评估指标,比如将第一网络质量评估指标和第二网络质量评估指标相加的结果作为目标网络质量评估指标。然后将目标网络质量评估指标进行逆向传递以优化基础图像缺陷检测网络的网络可学习变量,直至符合调试截止要求,得到目标图像缺陷检测网络。具体可才采用梯度下降,通过目标网络质量评估指标优化基础图像缺陷检测网络的网络可学习变量。
通过第一网络质量评估指标和第二网络质量评估指标,优化基础图像缺陷检测网络的网络可学习变量,得到迭代图像缺陷检测网络,将迭代图像缺陷检测网络作为新的基础图像缺陷检测网络,回到获取携带注释图像和未携带注释图像组的操作进行执行,基于多次网络迭代,直至符合调试截止要求,获得目标图像缺陷检测网络。
比如获取多个携带注释图像和多个未携带注释图像组,将携带注释图像输入基础图像缺陷检测网络,得到携带注释图像对应的推理图像缺陷检测分类指示信息,将未携带注释图像组中的第一图像和第二图像分别输入基础图像缺陷检测网络,获得未携带注释图像组中的第一图像和第二图像各自对应的推理图像缺陷检测分类指示信息,通过各个携带注释图像对应的推理图像缺陷检测分类指示信息和注释图像缺陷检测分类指示信息得到第一网络质量评估指标,通过各未携带注释图像组中的第一图像和第二图像各自对应的推理图像缺陷检测分类指示信息得到第二网络质量评估指标,通过第一网络质量评估指标和第二网络质量评估指标获取目标网络质量评估指标,通过目标网络质量评估指标优化基础图像缺陷检测网络的网络可学习变量,得到迭代图像缺陷检测网络,将迭代图像缺陷检测网络作为新的基础图像缺陷检测网络,回到获取多个携带注释图像和多个未携带注释图像组的操作进行执行,再次进行迭代调试。
以上实施方式,未携带注释图像组为不用进行注释的样本图像,可以缓解样本图像的注释需求,仅对少数样本图像的注释得到携带注释图像,进而通过未携带注释图像组和携带注释图像对基础图像缺陷检测网络进行调试,可以加快调试得到目标图像缺陷检测网络,能够有效增加网络调试速度。然后,在网络调试的过程中,网络质量评估指标包括第一网络质量评估指标和第二网络质量评估指标,第一网络质量评估指标是通过携带注释图像对应的推理图像缺陷检测分类指示信息和注释图像缺陷检测分类指示信息得到的,通过第一网络质量评估指标优化网络可学习变量可以帮助网络对携带注释图像输出接近于注释图像缺陷检测分类指示信息的推理图像缺陷检测分类指示信息,第二网络质量评估指标是通过未携带注释图像组中的第一图像和第二图像各自对应的推理图像缺陷检测分类指示信息之间的误差得到的,通过第二网络质量评估指标优化网络可学习变量帮助网络对近似的图像输出接近的推理图像缺陷检测分类指示信息,通过第一网络质量评估指标和第二网络质量评估指标优化网络可学习变量,可以提高网络调试效果,调试得到的网络的推理精度高。
作为一种实施方式,通过携带注释图像对应的推理图像缺陷检测分类指示信息和注释图像缺陷检测分类指示信息之间的误差,得到第一网络质量评估指标,包括:在各个携带注释图像中,删除推理图像缺陷检测分类指示信息的指示值大于指示设定值的携带注释图像;在余下的各个携带注释图像中,通过同一携带注释图像对应的推理图像缺陷检测分类指示信息和注释图像缺陷检测分类指示信息之间的误差,得到第一网络质量评估指标。其中,指示设定值根据实际需要进行设定。
例如,在通过携带注释图像和未携带注释图像组一起调试网络时,因携带注释图像较少,网络在短时间内对样本图像集可能就出现过拟合现象,为杜绝该现象,在获取第一网络质量评估指标时,删除推理图像缺陷检测分类指示信息的指示值小于指示设定值的携带注释图像。比如推理图像缺陷检测分类指示信息用推理概率进行表示,获取第一网络质量评估指标时,不加载推理概率大于指示设定值的携带注释图像,在余下的各个携带注释图像中,通过同一携带注释图像对应的推理图像缺陷检测分类指示信息和注释图像缺陷检测分类指示信息之间的误差,得到第一网络质量评估指标。例如,通过单个携带注释图像对应的推理图像缺陷检测分类指示信息和注释图像缺陷检测分类指示信息之间的误差,得到第一子网络质量评估指标,各携带注释图像存在对应的第一子网络质量评估指标,整合各第一子网络质量评估指标以获得第一网络质量评估指标。
以上实施方式,在获取第一网络质量评估指标时,不将推理概率过大的有分类指示信息数据进行考量,通过第一网络质量评估指标优化网络可学习变量时,推理概率过大的有分类指示信息数据的误差不能回传,以防止网络过拟合到推理概率过大的有分类指示信息数据。作为一种实施方式,指示设定值不小于对照值,对照值为基于注释图像缺陷检测分类指示信息对应的分类指示信息类型数目对推理图像缺陷检测分类指示信息对应的数值区间进行确定得到,指示设定值在网络调试次数递增时,数值随之上升。
其中,注释图像缺陷检测分类指示信息对应的分类指示信息类型数目为共包括多种注释图像缺陷检测分类指示信息,比如注释图像缺陷检测分类指示信息包括积极注释和消极注释,积极注释表示表面图像对应的显示器底座对应的显示器底座的缺陷检测分类是指定类型,消极注释表示表面图像对应的显示器底座对应的显示器底座的缺陷检测分类不是指定类型,则注释图像缺陷检测分类指示信息对应的分类指示信息类型数目为2。推理图像缺陷检测分类指示信息用推理概率进行表示,推理图像缺陷检测分类指示信息对应的数值区间表示推理概率的数值区间。比如推理概率的数值区间为(0,1),那么推理图像缺陷检测分类指示信息对应的数值区间为(0,1)。
基于注释图像缺陷检测分类指示信息对应的分类指示信息类型数目对推理图像缺陷检测分类指示信息对应的数值区间进行分割得到对照值。比如基于分类指示信息类型数目对数值区间进行均分,得到对照值。在获取第一网络质量评估指标时使用的指示设定值不小于对照值,从而防止在网络调试时,删除过多有分类指示信息图像。
一次网络迭代为获取样本图像,通过样本图像和网络获取目标网络质量评估指标,通过目标网络质量评估指标对网络的网络可学习变量进行优化的过程。
作为一种实施方式,通过未携带注释图像组中的第一图像和第二图像分别对应的推理图像缺陷检测分类指示信息之间的误差,得到第二网络质量评估指标,包括:在各个未携带注释图像组中,删除推理图像缺陷检测分类指示信息的指示值在设定数值范围内的未携带注释图像组;设定数值范围是推理图像缺陷检测分类指示信息对应的数值区间中的中间值;在余下的各个未携带注释图像组中,通过同一未携带注释图像组中第一图像和第二图像分别对应的推理图像缺陷检测分类指示信息之间的误差,得到第二网络质量评估指标。
其中,设定数值范围是推理图像缺陷检测分类指示信息对应的数值区间中的中间值,中间值为包含数值区间中的中值的区间。
在通过携带注释图像和未携带注释图像组联合调试网络时,如果有分类指示信息数据很少,网络对样本的学习不够,无分类指示信息数据的推理分布过于平缓,在获取目标网络质量评估指标时,大多数源于有分类指示信息数据,和基于无分类指示信息数据冲突。由于多样的数据分布对网络调试更加有利,则在各未携带注释图像组中删除推理图像缺陷检测分类指示信息的指示值在设定数值范围内的未携带注释图像组。比如推理图像缺陷检测分类指示信息用推理概率进行表示,在获取第二网络质量评估指标时,不考虑推理概率在50%周围的未携带注释图像组,如果未携带注释图像组应的推理概率接近50%,代表网络对该未携带注释图像的推理结果无信心,不能鉴别该未携带注释图像是积极注释还是消极注释。然后在余下的各个未携带注释图像组中,通过同一未携带注释图像组中第一图像和第二图像分别对应的推理图像缺陷检测分类指示信息之间的误差,得到第二网络质量评估指标。比如通过单个未携带注释图像组中第一图像和第二图像对应的推理图像缺陷检测分类指示信息之间的误差,得到第二子网络质量评估指标,各个未携带注释图像组具有对应的第二子网络质量评估指标,整合各第二子网络质量评估指标得到第二网络质量评估指标。
以上实施方式在获取第二网络质量评估指标时,不考虑推理概率在设定数值范围内的未携带注释图像组,通过第二网络质量评估指标优化网络可学习变量时,网络推理不确定的无分类指示信息数据的误差不能回传,帮助提升网络的鉴别能力。作为一种实施方式,通过未携带注释图像组中的第一图像和第二图像分别对应的推理图像缺陷检测分类指示信息之间的误差,得到第二网络质量评估指标,包括:通过未携带注释图像组中的第一图像和第二图像分别对应的推理图像缺陷检测分类指示信息之间的误差,得到分类指示信息代价,通过同一推理图像缺陷检测分类指示信息涵盖的各推理概率进行不确定度确定,各自获得各个未携带注释图像组对应的不确定度(或称信息熵),通过各个未携带注释图像组对应的不确定度,得到不确定度代价,通过分类指示信息代价和不确定度代价,得到第二网络质量评估指标。
其中,推理图像缺陷检测分类指示信息包括在积极注释和消极注释上分别对应的推理概率。在积极注释上的推理概率表示表面图像对应的显示器底座对应的显示器底座的缺陷检测分类属于积极注释的概率。在消极注释上的推理概率表示表面图像对应的显示器底座对应的显示器底座的缺陷检测分类属于消极注释的概率。
可以通过未携带注释图像组中的第一图像和第二图像分别对应的推理图像缺陷检测分类指示信息之间的误差,得到分类指示信息代价。分类指示信息代价用于引导网络针对近似的图像可以得到相同的分类指示信息。通过同一推理图像缺陷检测分类指示信息包含的各个推理概率进行不确定度确定,各自获得各个未携带注释图像组对应的不确定度,通过各个未携带注释图像组所对应的不确定度,得到不确定度代价。比如获取各不确定度的和值,将其作为不确定度代价。最后,通过分类指示信息代价和不确定度代价,得到第二网络质量评估指标。比如将分类指示信息代价和不确定度代价的和值确定为第二网络质量评估指标。
以上实施方式,第二网络质量评估指标包括分类指示信息代价和不确定度代价,通过第二网络质量评估指标优化网络可学习变量时,利于网络的鉴别能力。
作为一种实施方式,将目标显示器底座对应的表面图像和预设缺陷类型图像库进行对比,得到目标显示器底座包含的目标缺陷类型图像,包括:获取缺陷类型图像查询拓扑和索引向量库;缺陷类型图像查询拓扑是通过预设缺陷类型图像库生成的拓扑结构,索引向量库包括预设缺陷类型图像库中各个缺陷类型图像的特征向量,各个缺陷类型图像的特征向量是非重复的;在目标显示器底座对应的表面图像中确定目标图像块的图像块表征向量;如果在索引向量库中索引到目标图像块的图像块表征向量时,将目标图像块的图像块表征向量对应的目标图像块的图像块表征向量元素和缺陷类型图像查询拓扑进行对比;目标图像块的图像块表征向量对应的目标图像块的图像块表征向量元素包括目标图像块的图像块表征向量和目标图像块的图像块表征向量在目标显示器底座对应的表面图像中的后向字符串;如果目标图像块的图像块表征向量对应的目标图像块的图像块表征向量元素在缺陷类型图像查询拓扑中索引到拓扑分支时,将索引到的拓扑分支对应的缺陷类型图像确定为目标显示器底座中包含的目标缺陷类型图像;从目标显示器底座对应的表面图像中获取后一个图像块作为目标图像块的图像块表征向量,返回如果在索引向量库中索引到目标图像块的图像块表征向量时,将目标图像块的图像块表征向量对应的目标图像块的图像块表征向量元素和缺陷类型图像查询拓扑进行对比的操作进行执行,直至目标显示器底座对应的表面图像中每一个图像块都完成对比,得到目标显示器底座包含的各个目标缺陷类型图像。上述过程中,涉及到先对表面图像划分为多个图像块,划分方式可以为多种,例如基于边缘检测、区域生长、聚类、U-Net深度学习等图像分割方法进行图像分割得到不同对象的图像区域,将对应的图像区域作为图像块,或者简单的按照预设的图像尺寸进行裁切得到多个图像块,具体不做限定。
其中,缺陷类型图像查询拓扑是一种索引缺陷类型图像的查询拓扑结构,通过预设缺陷类型图像库生成缺陷类型图像查询拓扑。在缺陷类型图像查询拓扑中,底层拓扑点和顶层拓扑点不包含向量元素,除底层拓扑点和顶层拓扑点外每一个拓扑点均仅包括一个向量元素,从底层拓扑点到某一顶层拓扑点,路径上的所有向量元素组合得到一个缺陷类型图像对应的缺陷类型图像的特征向量。缺陷类型图像查询拓扑包括多个拓扑分支,一个拓扑分支对应一个缺陷类型图像的特征向量。
可以将目标显示器底座对应的表面图像和缺陷类型图像查询拓扑进行对比来确定目标显示器底座包含的目标缺陷类型图像。在目标显示器底座对应的表面图像中获取第一个特征向量作为目标图像块的图像块表征向量,为了提高索引效率,先在索引向量库中索引是否具有目标图像块的图像块表征向量,如果具有,再将目标图像块的图像块表征向量对应的目标图像块的图像块表征向量元素和缺陷类型图像查询拓扑进行对比,如不没有,则在目标显示器底座对应的表面图像中获取后一个图像块作为目标图像块的图像块表征向量,在索引向量库中索引是否具有新的目标图像块的图像块表征向量。
如果在索引向量库中索引目标图像块的图像块表征向量,就将目标图像块的图像块表征向量对应的目标图像块的图像块表征向量元素和缺陷类型图像查询拓扑进行对比,目标图像块的图像块表征向量对应的目标图像块的图像块表征向量元素包括目标图像块的图像块表征向量和目标图像块的图像块表征向量在目标显示器底座对应的表面图像中的后向向量元素,如果缺陷类型图像查询拓扑中具有与目标图像块的图像块表征向量对应的目标图像块的图像块表征向量元素匹配的拓扑分支,则确定目标显示器底座对应的表面图像中出现拓扑分支对应的缺陷类型图像,将索引到的拓扑分支对应的缺陷类型图像确定为目标显示器底座中包含的目标缺陷类型图像。换言之,将目标图像块的图像块表征向量作为起始的图像向量,输入缺陷类型图像查询拓扑中进行对比,如果可以在底层拓扑点索引到顶层拓扑点,则得到路径对应的向量元素集合,该向量元素集合即目标缺陷类型图像对应的缺陷类型图像的特征向量。
在将目标图像块的图像块表征向量对应的目标图像块的图像块表征向量元素和缺陷类型图像查询拓扑进行对比后,在目标显示器底座对应的表面图像中获取后一个图像块作为目标图像块的图像块表征向量,回到在索引向量库中索引是否具有目标图像块的图像块表征向量的操作进行执行,直至目标显示器底座对应的表面图像中每一个图像块都完成对比,即直至目标显示器底座对应的表面图像中每一个图像块都作为过目标图像块的图像块表征向量,最后得到目标显示器底座包含的各个目标缺陷类型图像。
以上实施方式,将目标显示器底座对应的表面图像包含的每一个图像块逐一作为目标图像块的图像块表征向量,对于任一目标图像块的图像块表征向量,先确定索引向量库中是否具有目标图像块的图像块表征向量,如果具有,在缺陷类型图像查询拓扑中索引是否具有对应向量元素集合,可以防止无目的地在缺陷类型图像查询拓扑中索引向量元素,增加目标显示器底座包含的缺陷类型图像的索引速度。
基于上述实施例,本公开实施例提供一种缺陷检测装置,图3是本公开实施例提供的一种缺陷检测装置340,如图3所示,所述装置340包括:
图像获取模块341,用于获取目标显示器底座对应的表面图像;
初步检测模块342,用于将所述目标显示器底座对应的表面图像输入目标图像缺陷检测网络,得到所述目标显示器底座对应的推理图像缺陷检测分类指示信息;所述目标图像缺陷检测网络是通过携带注释图像和未携带注释图像组,对基础图像缺陷检测网络进行调试得到的,所述携带注释图像是已注释显示器底座缺陷检测分类的显示器底座对应的表面图像,所述未携带注释图像组中的图像是没有注释显示器底座缺陷检测分类的显示器底座对应的表面图像,所述未携带注释图像组中的各图像为近似的图像;所述显示器底座缺陷检测分类用以指示所述显示器底座具有缺陷或不具有缺陷;
缺陷对比模块343,用于在所述目标显示器底座对应的推理图像缺陷检测分类指示信息指示所述目标显示器底座属于目标缺陷检测分类时,将所述目标显示器底座对应的表面图像和预设缺陷类型图像库进行对比,得到所述目标显示器底座包含的目标缺陷类型图像;
缺陷确定模块344,用于通过所述目标缺陷类型图像,确定所述目标显示器底座对应的显示器底座缺陷类型。
以上装置实施例的描述,与上述方法实施例的描述是类似的,具有同方法实施例相似的有益效果。对于本公开装置实施例中未披露的技术细节,请参照本公开方法实施例的描述而理解。
若本公开技术方案涉及个人或私密信息,应用本公开技术方案的产品在处理个人信息前,已明确告知个人信息处理规则,并取得个人自主同意。若本公开技术方案涉及敏感个人信息,应用本公开技术方案的产品在处理敏感个人信息前,已取得个人单独同意,并且同时满足“明示同意”的要求,同时在法律法规的范围内收集。例如,在摄像头等个人信息采集装置处,设置明确显著的标识告知已进入个人信息采集范围,将会对个人信息进行采集,若个人自愿进入采集范围即视为同意对其个人信息进行采集;或者在个人信息处理的装置上,利用明显的标识/信息告知个人信息处理规则的情况下,通过弹窗信息或请个人自行上传其个人信息等方式获得个人授权;其中,个人信息处理规则可包括个人信息处理者、个人信息处理目的、处理方式、处理的个人信息种类等信息。
需要说明的是,本公开实施例中,如果以软件功能模块的形式实现上述方法,并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。基于这样的理解,本公开实施例的技术方案本质上或者说对相关技术做出贡献的部分可以以软件产品的形式体现出来,该软件产品存储在一个存储介质中,包括若干指令用以使得一台检测设备(可以是个人计算机、服务器、或者网络设备等)执行本公开各个实施例所述方法的全部或部分。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read Only Memory,ROM)、磁碟或者光盘等各种可以存储程序代码的介质。这样,本公开实施例不限制于任何特定的硬件和软件结合。
本公开实施例提供一种检测设备,包括存储器和处理器,所述存储器存储有可在处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现上述方法。
本公开实施例提供一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现上述方法。所述计算机可读存储介质可以是瞬时性的,也可以是非瞬时性的。
本公开实施例提供一种计算机程序产品,所述计算机程序产品包括存储了计算机程序的非瞬时性计算机可读存储介质,所述计算机程序被计算机读取并执行时,实现上述方法中的部分或全部操作。该计算机程序产品可以具体通过硬件、软件或其结合的方式实现。在一个可选实施例中,所述计算机程序产品具体体现为计算机存储介质,在另一个可选实施例中,计算机程序产品具体体现为软件产品,例如软件开发包(Software DevelopmentKit,SDK)等等。
需要说明的是,图4是本公开实施例提供的一种检测设备300的硬件实体示意图,如图4所示,该检测设备300的硬件实体包括:处理器310、通信接口320和存储器330,其中:处理器310通常控制检测设备300的总体操作。通信接口320可以使检测设备通过网络与其他终端或服务器通信。存储器330配置为存储由处理器310可执行的指令和应用,还可以缓存待处理器310以及检测设备300中各模块待处理或已经处理的数据(例如,图像数据、音频数据、语音通信数据和视频通信数据),可以通过闪存(FLASH)或随机访问存储器(RandomAccess Memory,RAM)实现。处理器310、通信接口320和存储器330之间可以通过总线340进行数据传输。这里需要指出的是:以上存储介质和设备实施例的描述,与上述方法实施例的描述是类似的,具有同方法实施例相似的有益效果。对于本公开存储介质和设备实施例中未披露的技术细节,请参照本公开方法实施例的描述而理解。
应理解,说明书通篇中提到的“一个实施例”或“一实施例”意味着与实施例有关的特定特征、结构或特性包括在本公开的至少一个实施例中。因此,在整个说明书各处出现的“在一个实施例中”或“在一实施例中”未必一定指相同的实施例。此外,这些特定的特征、结构或特性可以任意适合的方式结合在一个或多个实施例中。应理解,在本公开的各种实施例中,上述各过程的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本公开实施例的实施过程构成任何限定。上述本公开实施例序号仅仅为了描述,不代表实施例的优劣。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。
在本公开所提供的几个实施例中,应该理解到,所揭露的设备和方法,可以通过其它的方式实现。以上所描述的设备实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,如:多个单元或组件可以结合,或可以集成到另一个系统,或一些特征可以忽略,或不执行。另外,所显示或讨论的各组成部分相互之间的耦合、或直接耦合、或通信连接可以是通过一些接口,设备或单元的间接耦合或通信连接,可以是电性的、机械的或其它形式的。
上述作为分离部件说明的单元可以是、或也可以不是物理上分开的,作为单元显示的部件可以是、或也可以不是物理单元;既可以位于一个地方,也可以分布到多个网络单元上;可以根据实际的需要选择其中的部分或全部单元来实现本实施例方案的目的。
另外,在本公开实施例中的各功能单元可以全部集成在一个处理单元中,也可以是各单元分别单独作为一个单元,也可以两个或两个以上单元集成在一个单元中;上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能单元的形式实现。
本领域普通技术人员可以理解:实现上述方法实施例的全部或部分操作可以通过程序指令相关的硬件来完成,前述的程序可以存储于计算机可读取存储介质中,该程序在执行时,执行包括上述方法实施例的操作;而前述的存储介质包括:移动存储设备、只读存储器(Read Only Memory,ROM)、磁碟或者光盘等各种可以存储程序代码的介质。
或者,本公开上述集成的单元如果以软件功能模块的形式实现并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。基于这样的理解,本公开的技术方案本质上或者说对相关技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台检测设备(可以是个人计算机、服务器、或者网络设备等)执行本公开各个实施例所述方法的全部或部分。而前述的存储介质包括:移动存储设备、ROM、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,仅为本公开的实施方式,但本公开的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本公开揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本公开的保护范围之内。
Claims (10)
1.一种基于机器视觉的显示器底座生产用检测方法,其特征在于,所述方法包括:
获取目标显示器底座对应的表面图像;
将所述目标显示器底座对应的表面图像输入目标图像缺陷检测网络,得到所述目标显示器底座对应的推理图像缺陷检测分类指示信息;所述目标图像缺陷检测网络是通过携带注释图像和未携带注释图像组,对基础图像缺陷检测网络进行调试得到的,所述携带注释图像是已注释显示器底座缺陷检测分类的显示器底座对应的表面图像,所述未携带注释图像组中的图像是没有注释显示器底座缺陷检测分类的显示器底座对应的表面图像,所述未携带注释图像组中的各图像为近似的图像;所述显示器底座缺陷检测分类用以指示所述显示器底座具有缺陷或不具有缺陷;
在所述目标显示器底座对应的推理图像缺陷检测分类指示信息指示所述目标显示器底座属于目标缺陷检测分类时,将所述目标显示器底座对应的表面图像和预设缺陷类型图像库进行对比,得到所述目标显示器底座包含的目标缺陷类型图像;
通过所述目标缺陷类型图像,确定所述目标显示器底座对应的显示器底座缺陷类型。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
获取多个待注释图像,抽取各个所述待注释图像分别对应的图像表征向量;
在各个待注释图像中确定目标图像;
通过所述目标图像对应的图像表征向量在第一图像库中索引目标图像对应的目标匹配图像,得到索引结果;
如果所述索引结果为索引到目标图像对应的目标匹配图像,将目标图像添加到所述第一图像库,如果索引结果为没有索引到目标图像对应的目标匹配图像,将目标图像分别添加到第一图像库和第二图像库;
在所述各个待注释图像中获取后一待注释图像确定为目标图像,返回所述通过所述目标图像对应的图像表征向量在第一图像库中索引目标图像对应的目标匹配图像,得到索引结果的操作进行执行,直至所述各个待注释图像得到遍历;
对遍历完成时获得的第二图像库中的各个待注释图像所属的显示器底座进行缺陷检测分类注释,得到多个携带注释图像。
3.根据权利要求2所述的方法,其特征在于,所述通过所述目标图像对应的图像表征向量在第一图像库中索引目标图像对应的目标匹配图像,得到索引结果,包括:
通过目标图像对应的图像表征向量分别和第一图像库中各图像各自的图像表征向量之间的向量共性度量结果,在第一图像库包含的各图像中确定目标图像对应的基础匹配图像;
在目标图像和对应的基础匹配图像之间的向量空间误差不小于设定空间误差时,将目标图像对应的基础匹配图像确定为目标图像对应的目标匹配图像,得到索引结果;
在目标图像和对应的基础匹配图像之间的向量空间误差小于所述设定空间误差,或者目标图像未索引到对应的基础匹配图像,确定索引结果为没有索引到目标图像对应的目标匹配图像。
4.根据权利要求1所述的方法,其特征在于,所述方法还包括:
获取携带注释图像库和未携带注释图像库;
通过所述携带注释图像库对候选图像缺陷检测网络进行调试,得到过渡图像缺陷检测网络;
将所述未携带注释图像库中各个未携带注释图像输入所述过渡图像缺陷检测网络,得到所述各个未携带注释图像分别对应的推理图像缺陷检测分类指示信息;其中,所述未携带注释图像组应的推理图像缺陷检测分类指示信息用于作为未携带注释图像组应的假注释;
通过所述假注释对所述各个未携带注释图像进行选取,得到目标未携带注释图像库;
对所述目标未携带注释图像库中的每一目标未携带注释图像分别进行生成转换,得到所述每一目标未携带注释图像分别对应的匹配图像;
将目标未携带注释图像和对应的匹配图像组成未携带注释图像组,得到多个未携带注释图像组。
5.根据权利要求4所述的方法,其特征在于,所述通过所述假注释对所述各个未携带注释图像进行选取,得到目标未携带注释图像库,包括:
确定各个假注释中积极注释和消极注释的数目,得到积极注释数目和消极注释数目;
在所述积极注释数目和所述消极注释数目中获取较少的注释数目作为对照注释数目,将所述对照注释数目对应的图像缺陷检测分类指示信息作为对照注释;
在包括所述对照注释的各个未携带注释图像中,获取第一数目的未携带注释图像确定为目标未携带注释图像;其中,所述第一数目小于所述对照注释数目;
在不包括所述对照注释的各个未携带注释图像中,获取第二数目的未携带注释图像确定为目标未携带注释图像;其中,所述第一数目和所述第二数目的比值位于设定比值区间;
通过各个目标未携带注释图像得到目标未携带注释图像库;
所述对所述目标未携带注释图像库中的每一目标未携带注释图像分别进行生成转换,得到所述每一目标未携带注释图像分别对应的匹配图像,包括:
对所述目标未携带注释图像库中的每一目标未携带注释图像分别进行生成对抗操作,得到所述每一目标未携带注释图像分别对应的生成图像,将目标未携带注释图像组应的生成图像确定为目标未携带注释图像组应的匹配图像。
6.根据权利要求1所述的方法,其特征在于,所述方法还包括:
将所述携带注释图像、所述未携带注释图像组中的第一图像和第二图像分别输入所述基础图像缺陷检测网络,得到所述携带注释图像、所述第一图像和所述第二图像分别对应的推理图像缺陷检测分类指示信息;
通过所述携带注释图像对应的推理图像缺陷检测分类指示信息和注释图像缺陷检测分类指示信息之间的误差,得到第一网络质量评估指标,通过所述未携带注释图像组中的第一图像和第二图像分别对应的推理图像缺陷检测分类指示信息之间的误差,得到第二网络质量评估指标;
通过所述第一网络质量评估指标和所述第二网络质量评估指标,优化所述基础图像缺陷检测网络的网络可学习变量,直至符合调试截止要求,得到所述目标图像缺陷检测网络。
7.根据权利要求6所述的方法,其特征在于,所述通过所述携带注释图像对应的推理图像缺陷检测分类指示信息和注释图像缺陷检测分类指示信息之间的误差,得到第一网络质量评估指标,包括:
在各个携带注释图像中删除推理图像缺陷检测分类指示信息的指示值大于指示设定值的携带注释图像;
在余下的各个携带注释图像中,通过同一携带注释图像对应的推理图像缺陷检测分类指示信息和注释图像缺陷检测分类指示信息之间的误差,得到第一网络质量评估指标;
其中,所述指示设定值不小于对照值,所述对照值为基于注释图像缺陷检测分类指示信息对应的分类指示信息类型数目对推理图像缺陷检测分类指示信息对应的数值区间进行确定得到;其中,所述指示设定值在网络调试次数递增时,数值随之上升;
所述通过所述未携带注释图像组中的第一图像和第二图像分别对应的推理图像缺陷检测分类指示信息之间的误差,得到第二网络质量评估指标,包括:
在各个未携带注释图像组中,删除推理图像缺陷检测分类指示信息的指示值在设定数值范围内的未携带注释图像组;其中,所述设定数值范围是推理图像缺陷检测分类指示信息对应的数值区间中的中间值;
在余下的各个未携带注释图像组中,通过同一未携带注释图像组中第一图像和第二图像分别对应的推理图像缺陷检测分类指示信息之间的误差,得到第二网络质量评估指标。
8.根据权利要求6所述的方法,其特征在于,所述推理图像缺陷检测分类指示信息包括在积极注释和消极注释上分别对应的推理概率;所述通过所述未携带注释图像组中的第一图像和第二图像分别对应的推理图像缺陷检测分类指示信息之间的误差,得到第二网络质量评估指标,包括:
通过所述未携带注释图像组中的第一图像和第二图像分别对应的推理图像缺陷检测分类指示信息之间的误差,得到分类指示信息代价;
通过同一推理图像缺陷检测分类指示信息包含的各个推理概率进行不确定度确定,各自获得各个未携带注释图像组所对应的不确定度;
通过各个未携带注释图像组所对应的不确定度,得到不确定度代价;
通过所述分类指示信息代价和所述不确定度代价,得到第二网络质量评估指标。
9.根据权利要求1所述的方法,其特征在于,所述将所述目标显示器底座对应的表面图像和预设缺陷类型图像库进行对比,得到所述目标显示器底座包含的目标缺陷类型图像,包括:
获取缺陷类型图像查询拓扑和索引向量库;其中,所述缺陷类型图像查询拓扑是通过预设缺陷类型图像库生成的,所述索引向量库包括所述预设缺陷类型图像库中各个缺陷类型图像的特征向量;
从所述目标显示器底座对应的表面图像中确定目标图像块的图像块表征向量;
如果在所述索引向量库中索引到目标图像块的图像块表征向量时,将目标图像块的图像块表征向量对应的目标图像块的图像块表征向量元素和所述缺陷类型图像查询拓扑进行对比;
如果目标图像块的图像块表征向量对应的目标图像块的图像块表征向量元素在所述缺陷类型图像查询拓扑中索引到拓扑分支时,将索引到的拓扑分支对应的缺陷类型图像确定为所述目标显示器底座中包含的目标缺陷类型图像;
从所述目标显示器底座对应的表面图像中获取后一个图像块作为目标图像块的图像块表征向量,返回所述如果在所述索引向量库中索引到目标图像块的图像块表征向量时,将目标图像块的图像块表征向量对应的目标图像块的图像块表征向量元素和所述缺陷类型图像查询拓扑进行对比的操作进行执行,直至所述目标显示器底座对应的表面图像中每一个图像块都完成对比,得到所述目标显示器底座包含的各个目标缺陷类型图像。
10.一种显示器底座生产用检测系统,其特征在于,包括互相通信连接的摄像设备和检测设备,所述检测设备包括存储器和处理器,所述存储器存储有可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现权利要求1~9任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311636596.XA CN117333493B (zh) | 2023-12-01 | 2023-12-01 | 一种基于机器视觉的显示器底座生产用检测系统以及方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311636596.XA CN117333493B (zh) | 2023-12-01 | 2023-12-01 | 一种基于机器视觉的显示器底座生产用检测系统以及方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN117333493A true CN117333493A (zh) | 2024-01-02 |
CN117333493B CN117333493B (zh) | 2024-03-15 |
Family
ID=89279734
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311636596.XA Active CN117333493B (zh) | 2023-12-01 | 2023-12-01 | 一种基于机器视觉的显示器底座生产用检测系统以及方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117333493B (zh) |
Citations (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106839986A (zh) * | 2017-03-24 | 2017-06-13 | 中国计量大学 | 一种基于机器视觉和机器学习的双工位载带检测系统 |
CN111060514A (zh) * | 2019-12-02 | 2020-04-24 | 精锐视觉智能科技(上海)有限公司 | 缺陷检测方法、装置及终端设备 |
US20210241109A1 (en) * | 2019-03-26 | 2021-08-05 | Tencent Technology (Shenzhen) Company Limited | Method for training image classification model, image processing method, and apparatuses |
WO2022065621A1 (ko) * | 2020-09-28 | 2022-03-31 | (주)미래융합정보기술 | 제품 결함 이미지 원격 학습을 통한 비전 검사 시스템 |
CN114863221A (zh) * | 2022-05-31 | 2022-08-05 | 商汤人工智能研究中心(深圳)有限公司 | 检测模型的训练方法、装置、系统、设备及存储介质 |
CN114972213A (zh) * | 2022-05-09 | 2022-08-30 | 浙江科技学院 | 一种基于机器视觉的两阶段主板图像缺陷检测及定位方法 |
CN115222691A (zh) * | 2022-07-14 | 2022-10-21 | 深圳市人工智能与机器人研究院 | 图像缺陷检测方法、系统及相关装置 |
CN115409785A (zh) * | 2022-08-16 | 2022-11-29 | 湖南大学 | 小型可插拔收发光模块底座缺陷的检测方法 |
CN116152257A (zh) * | 2023-04-22 | 2023-05-23 | 拓普思传感器(太仓)有限公司 | 应用于传感器的检测信息优化方法、服务器及介质 |
CN116309554A (zh) * | 2023-05-12 | 2023-06-23 | 广东奥普特科技股份有限公司 | 缺陷检测网络的构建及缺陷检测方法、装置和设备 |
CN116579998A (zh) * | 2023-04-28 | 2023-08-11 | 深圳供电局有限公司 | 变电设备的缺陷检测方法、装置、设备、介质和程序产品 |
CN116593482A (zh) * | 2023-05-25 | 2023-08-15 | 中南大学 | 一种瓷砖表面缺陷在线检测装置及方法 |
US11783474B1 (en) * | 2021-11-15 | 2023-10-10 | Changzhou Microintelligence Co., Ltd. | Defective picture generation method and apparatus applied to industrial quality inspection |
-
2023
- 2023-12-01 CN CN202311636596.XA patent/CN117333493B/zh active Active
Patent Citations (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106839986A (zh) * | 2017-03-24 | 2017-06-13 | 中国计量大学 | 一种基于机器视觉和机器学习的双工位载带检测系统 |
US20210241109A1 (en) * | 2019-03-26 | 2021-08-05 | Tencent Technology (Shenzhen) Company Limited | Method for training image classification model, image processing method, and apparatuses |
CN111060514A (zh) * | 2019-12-02 | 2020-04-24 | 精锐视觉智能科技(上海)有限公司 | 缺陷检测方法、装置及终端设备 |
WO2022065621A1 (ko) * | 2020-09-28 | 2022-03-31 | (주)미래융합정보기술 | 제품 결함 이미지 원격 학습을 통한 비전 검사 시스템 |
US11783474B1 (en) * | 2021-11-15 | 2023-10-10 | Changzhou Microintelligence Co., Ltd. | Defective picture generation method and apparatus applied to industrial quality inspection |
CN114972213A (zh) * | 2022-05-09 | 2022-08-30 | 浙江科技学院 | 一种基于机器视觉的两阶段主板图像缺陷检测及定位方法 |
CN114863221A (zh) * | 2022-05-31 | 2022-08-05 | 商汤人工智能研究中心(深圳)有限公司 | 检测模型的训练方法、装置、系统、设备及存储介质 |
CN115222691A (zh) * | 2022-07-14 | 2022-10-21 | 深圳市人工智能与机器人研究院 | 图像缺陷检测方法、系统及相关装置 |
CN115409785A (zh) * | 2022-08-16 | 2022-11-29 | 湖南大学 | 小型可插拔收发光模块底座缺陷的检测方法 |
CN116152257A (zh) * | 2023-04-22 | 2023-05-23 | 拓普思传感器(太仓)有限公司 | 应用于传感器的检测信息优化方法、服务器及介质 |
CN116579998A (zh) * | 2023-04-28 | 2023-08-11 | 深圳供电局有限公司 | 变电设备的缺陷检测方法、装置、设备、介质和程序产品 |
CN116309554A (zh) * | 2023-05-12 | 2023-06-23 | 广东奥普特科技股份有限公司 | 缺陷检测网络的构建及缺陷检测方法、装置和设备 |
CN116593482A (zh) * | 2023-05-25 | 2023-08-15 | 中南大学 | 一种瓷砖表面缺陷在线检测装置及方法 |
Also Published As
Publication number | Publication date |
---|---|
CN117333493B (zh) | 2024-03-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108509463B (zh) | 一种问题的应答方法及装置 | |
CN112199375A (zh) | 跨模态的数据处理方法、装置、存储介质以及电子装置 | |
CN109167816B (zh) | 信息推送方法、装置、设备和存储介质 | |
CN108154198B (zh) | 知识库实体归一方法、系统、终端和计算机可读存储介质 | |
US11651014B2 (en) | Source code retrieval | |
CN111382255A (zh) | 用于问答处理的方法、装置、设备和介质 | |
CN109388634B (zh) | 地址信息的处理方法、终端设备及计算机可读存储介质 | |
CN110502677B (zh) | 一种设备识别方法、装置及设备、存储介质 | |
CN109299276B (zh) | 一种将文本转化为词嵌入、文本分类方法和装置 | |
CN111027576A (zh) | 基于协同显著性生成式对抗网络的协同显著性检测方法 | |
CN111008620A (zh) | 目标用户识别方法、装置及存储介质、电子设备 | |
CN110135428B (zh) | 图像分割处理方法和装置 | |
CN115169534A (zh) | 卷积神经网络的样本优化训练方法及计算机可读存储介质 | |
CN110197213B (zh) | 基于神经网络的图像匹配方法、装置和设备 | |
CN115062779A (zh) | 基于动态知识图谱的事件预测方法及装置 | |
CN111931050B (zh) | 基于智能识别和大数据的信息推送方法及区块链金融服务器 | |
CN117333493B (zh) | 一种基于机器视觉的显示器底座生产用检测系统以及方法 | |
CN111753735A (zh) | 视频片段检测方法、装置、电子设备及存储介质 | |
CN114692778B (zh) | 用于智能巡检的多模态样本集生成方法、训练方法及装置 | |
CN116167336A (zh) | 基于云计算的传感器数据加工方法、云服务器及介质 | |
CN115797291A (zh) | 回路端子的识别方法、装置、计算机设备和存储介质 | |
CN105824871B (zh) | 一种图片检测方法与设备 | |
CN107766373A (zh) | 图片所属类目的确定方法及其系统 | |
CN115587297A (zh) | 构建图像识别模型和图像识别的方法、装置、设备及介质 | |
CN113537249A (zh) | 图像的确定方法、装置、存储介质及电子装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |