CN116416513A - 信息获取方法、装置、电子设备及计算机可读存储介质 - Google Patents
信息获取方法、装置、电子设备及计算机可读存储介质 Download PDFInfo
- Publication number
- CN116416513A CN116416513A CN202111627105.6A CN202111627105A CN116416513A CN 116416513 A CN116416513 A CN 116416513A CN 202111627105 A CN202111627105 A CN 202111627105A CN 116416513 A CN116416513 A CN 116416513A
- Authority
- CN
- China
- Prior art keywords
- defect
- information
- detection model
- image
- target
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 86
- 230000007547 defect Effects 0.000 claims abstract description 381
- 238000001514 detection method Methods 0.000 claims abstract description 171
- 238000012545 processing Methods 0.000 claims abstract description 55
- 238000012549 training Methods 0.000 claims abstract description 51
- 230000006870 function Effects 0.000 claims description 19
- 238000002372 labelling Methods 0.000 claims description 12
- 238000004590 computer program Methods 0.000 claims description 8
- 238000012795 verification Methods 0.000 claims description 8
- 238000000605 extraction Methods 0.000 claims description 5
- 238000005457 optimization Methods 0.000 abstract description 10
- 238000012937 correction Methods 0.000 abstract description 6
- 238000010801 machine learning Methods 0.000 description 10
- 238000005516 engineering process Methods 0.000 description 9
- 238000013473 artificial intelligence Methods 0.000 description 8
- 238000004458 analytical method Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 238000004891 communication Methods 0.000 description 3
- 230000001133 acceleration Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 125000004122 cyclic group Chemical group 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000007689 inspection Methods 0.000 description 2
- 238000007726 management method Methods 0.000 description 2
- 230000011218 segmentation Effects 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 238000007599 discharging Methods 0.000 description 1
- 230000006698 induction Effects 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 238000011176 pooling Methods 0.000 description 1
- 230000002787 reinforcement Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000013526 transfer learning Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30108—Industrial image inspection
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Quality & Reliability (AREA)
- Image Analysis (AREA)
Abstract
本申请实施例公开了一种信息获取方法、装置、电子设备及计算机可读存储介质,该方法包括:将获取的当前待处理图像输入已训练的缺陷检测模型进行处理,输出缺陷位置预测信息;根据缺陷位置预测信息和获得的当前待处理图像的缺陷位置实际信息,对已训练的缺陷检测模型进行优化,得到已优化的缺陷检测模型;将获取的目标待处理图像输入已优化的缺陷检测模型进行处理,输出目标缺陷位置信息。通过对图像缺陷的预测以及对预测结果的校正,将预测图像作为已训练的缺陷检测模型的训练数据,以对已训练的缺陷检测模型进行优化,实现图像中缺陷的预测以及缺陷检测模型优化训练的协同进行,提高模型预测的准确性以及图像缺陷预测的整体效率。
Description
技术领域
本申请实施例涉及计算机技术领域,具体涉及一种信息获取方法、装置、电子设备及计算机可读存储介质。
背景技术
随着计算机技术的发展,机器学习可以应用在信息提取和预测方面,同时,机器学习也提高了信息预测的准确性,因此,机器学习在识别、分类方面的应用越来越广泛。
其中,机器学习的预测模型是在训练后才具备了较为准确的预测能力,但是,由于训练集的数据量往往有限,难以保证训练后模型准确预测的能力,使得模型在预测时仍会出现预测不准确的情况。
发明内容
本申请实施例提供一种信息获取方法、装置、电子设备及计算机可读存储介质,可以提高模型准确预测的能力,提高信息获取的准确性。
第一方面,本申请实施例提供了一种信息获取方法,包括:
将获取的当前待处理图像输入已训练的缺陷检测模型进行处理,输出缺陷位置预测信息;
根据缺陷位置预测信息和获得的当前待处理图像的缺陷位置实际信息,对已训练的缺陷检测模型进行优化,得到已优化的缺陷检测模型;
将获取的目标待处理图像输入已优化的缺陷检测模型进行处理,输出目标缺陷位置信息。
第二方面,本申请实施例还提供了一种信息获取装置,包括:
第一预测模块,用于将获取的当前待处理图像输入已训练的缺陷检测模型进行处理,输出缺陷位置预测信息;
优化模块,用于根据缺陷位置预测信息和获得的当前待处理图像的缺陷位置实际信息,对已训练的缺陷检测模型进行优化,得到已优化的缺陷检测模型;
第二预测模块,用于将获取的目标待处理图像输入已优化的缺陷检测模型进行处理,输出目标缺陷位置信息。
第三方面,本申请实施例还提供了一种电子设备,电子设备包括存储器、处理器及存储在存储器中并可在处理器上运行的计算机程序,处理器执行计算机程序时实现上述的信息获取方法中的步骤。
第四方面,本申请实施例还提供了一种计算机可读存储介质,计算机可读存储介质上存储有计算机程序,计算机程序被处理器执行时实现上述的信息获取方法中的步骤。
本申请实施例通过对训练后的缺陷检测模型预测结果的校对,并根据校对结果对已训练的缺陷检测模型进行优化,提升模型准确预测信息的能力,并根据优化后的缺陷检测模型对目标图像进行预测分析,提升图像中缺陷位置定位的准确性,其中,通过对待处理图像中缺陷的预测、并且在预测过程中对模型预测结果的校对、以及根据校对结果对模型预测能力的提升,实现了图像缺陷预测的同时,模型预测能力的提升,提升了图像缺陷预测的效率和准确性。
附图说明
为了更清楚地说明本申请中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的信息获取方法的场景示意图;
图2是本申请实施例提供的信息获取方法的流程示意图;
图3是本申请实施例提供的信息获取方法中已训练的缺陷检测模型优化的流程示意图;
图4是本申请实施例提供的信息获取方法中图像缺陷预测以及已训练的缺陷检测模型优化的流程示意图;
图5是本申请实施例提供的信息获取装置的结构示意图;
图6是本申请实施例提供的电子设备的结构示意图。
具体实施方式
下面将结合本申请中的附图,对本申请中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本申请实施例提供一种信息获取方法、装置、电子设备及计算机可读存储介质。具体地,本申请实施例提供适用于电子设备的信息获取装置,其中,电子设备可以为终端或服务器等设备。其中,终端可以为摄像机、高清摄像头或者光学检测(AOI,Automated OpticalInspection)相机等具有图像采集功能的设备。服务器可以是独立的物理服务器,也可以是多个物理服务器构成的服务器集群或者分布式系统,还可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、内容分发网络(CDN,Content Delivery Network)、以及大数据和人工智能平台等基础云计算服务的云服务器,服务器可以通过有线或无线通信方式进行直接或间接地连接。
本申请实施例可以单独由终端执行信息获取方法,或者是单独由服务器执行信息获取方法,或者是终端和服务器共同执行信息获取方法,请参阅图1,以终端和服务器共同执行信息获取方法为例,其中,在终端和服务器的基础上也可以增加其他设备来辅助完成信息获取方法,在此对其他设备的类型不做限定;终端与服务器之间通过网络连接,比如,通过有线或无线网络连接等,具体执行过程如下:
终端设备10启动图像采集功能,获取待处理的图像信息,其中,图像信息包括面板图像(面板包括TFT-LCD面板或集成电路面板等)、视频画面或者产品表面图像等,随后,终端设备10将图像信息传输到服务器11中。
服务器11在接收到终端设备10传输过来的图像信息后,根据已训练的缺陷检测模型对图像信息进行识别预测,识别出图像中包含的缺陷,以及标注出缺陷所在的位置,得到缺陷位置预测信息,随后,将标注有缺陷位置的图像信息发送给终端设备12。
终端设备12接收到服务器11发送的图像信息后,对图像信息及图像中缺陷的预测位置信息进行展示,随后,在展示界面上对已训练的缺陷检测模型预测的缺陷位置进行人工校对,得到校对结果,根据校对结果对已训练的缺陷检测模型进行优化,得到优化后的缺陷检测模型(即已优化的缺陷检测模型),并根据优化后的缺陷检测模型对其他图像进行缺陷位置预测。
其中,在本申请实施例中,根据缺陷位置实际信息对缺陷位置预测信息进行校对,根据缺陷位置预测信息和缺陷位置实际信息之间的差异,对已训练的缺陷检测模型进行优化,使优化后的缺陷检测模型能够提高对缺陷预测的准确性。
其中,在本申请实施例中,校对结果包括缺陷的预测位置和实际位置之间匹配、轻微不匹配和严重不匹配,其中,匹配说明预测位置与实际位置重合或者基本重合,轻微不匹配说明预测位置与实际位置存在少部分不重合(例如,不重合部分小于缺陷面积的一半),严重不匹配说明预测位置与实际位置不重合的面积过半,其中,在本申请实施例中,匹配、轻微不匹配和严重不匹配的判断标准可以根据实际需要进行灵活调整。
其中,针对预测位置和实际位置匹配的校对结果,则不需要进行缺陷位置的人工标注,即缺陷的预测位置即为实际位置,针对预测位置和实际位置轻微不匹配的校对结果,可人工对预测位置进行调整,得到缺陷的实际位置,针对预测位置和实际位置严重不匹配的校对结果,则可以重新对缺陷进行人工标注,得到准确的缺陷实际位置信息。
其中,本申请实施例提供的信息获取方法涉及人工智能领域中的机器学习。本申请实施例可以提高模型预测的准确性,提高信息获取的准确性。
其中,人工智能(AI,Artificial Intelligence)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。换句话说,人工智能是计算机科学的一个综合技术,它企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法,使机器具有感知、推理与决策的功能。人工智能技术是一门综合学科,涉及领域广泛,既有硬件层面的技术也有软件层面的技术。其中,人工智能软件技术主要包括计算机视觉技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等方向。
其中,机器学习(ML,Machine Learning)是一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能。机器学习是人工智能的核心,是使计算机具有智能的根本途径,其应用遍及人工智能的各个领域。机器学习和深度学习通常包括人工神经网络、置信网络、强化学习、迁移学习、归纳学习、式教学习等技术。
本申请实施例提供一种信息获取方法,具体如下:
将获取的当前待处理图像输入已训练的缺陷检测模型进行处理,输出缺陷位置预测信息。
其中,在本申请实施例中,当前待处理图像是需要进行缺陷预测的图像,其中,当前待处理图像可以是在对面板、视频画面或者产品表面拍摄后得到。
其中,在本申请实施例中,已训练的缺陷检测模型是根据样本数据进行训练后得到的模型,具备缺陷预测的能力,但是,由于样本数据一方面数据量较小,另一方面样本数据与实际的待处理数据之间存在耦合性较低的情况,因此,单独以样本数据训练后得到的缺陷检测模型对待处理数据进行预测的准确性相对较差,因此,在本申请实施例中,后续会对预测的结果进行检测,根据检测结果对已训练的缺陷检测模型进行优化,提升模型预测的准确性。
根据缺陷位置预测信息和获得的当前待处理图像的缺陷位置实际信息,对已训练的缺陷检测模型进行优化,得到已优化的缺陷检测模型。
其中,在本申请实施例中,缺陷位置实际信息可以根据人工对图像中缺陷的识别检测确定,通过人工标注的方式获取缺陷准确的位置信息,即缺陷位置实际信息。
其中,当已训练的缺陷检测模型预测的位置信息与实际位置信息存在差异时,则说明已训练的缺陷检测模型预测的准确性有待提升,因此,本申请实施例中,通过缺陷的实际位置信息和预测的位置信息之间的差异对已训练的缺陷检测模型进行优化,可以提高模型预测的准确性。
将获取的目标待处理图像输入已优化的缺陷检测模型进行处理,输出目标缺陷位置信息。
其中,在本申请实施例中,当前待处理图像和目标待处理图像之间存在处理时间上的先后差异,即先对当前待处理图像进行处理,后对目标待处理图像进行处理,其中,在本申请实施例中,对目标待处理图像的处理还依赖于当前待处理图像的处理结果,根据当前待处理图像的处理结果,优化目标待处理图像的处理过程,逐渐提高图像处理的准确性。
其中,通过已优化的缺陷检测模型对其他待处理图像(目标待处理图像)的预测,可以提高图像中缺陷预测的准确性。
本申请实施例通过对训练后缺陷检测模型预测结果的校对,并根据校对结果对已训练的缺陷检测模型进行优化,提升模型准确预测信息的能力,并根据优化后的缺陷检测模型对目标图像进行预测分析,提升图像中缺陷位置定位的准确性,其中,通过对待处理图像中缺陷的预测、并且在预测过程中对模型预测结果的校对、以及根据校对结果对模型预测能力的提升,实现了图像缺陷预测的同时,模型预测能力的提升,提升了图像缺陷预测的效率和准确性。
以下分别进行详细说明。需说明的是,以下实施例的描述顺序不作为对实施例优先顺序的限定。
请参阅图2,图2为本申请实施例提供的信息获取方法的流程示意图。该信息获取方法的具体流程可以如下:
101、将获取的当前待处理图像输入已训练的缺陷检测模型进行处理,输出缺陷位置预测信息。
其中,在本申请实施例中,当前待处理图像是需要进行图像中缺陷预测的图像,包括由对面板、视频画面或者产品表面等拍摄后获取,其中,面板包括TFT-LCD面板或集成电路面板等。
其中,在本申请实施例中,当前待处理图像和目标待处理图像之间存在处理时间上的先后差异,例如,先对当前待处理图像进行处理,后对目标待处理图像进行处理,其中,在本申请实施例中,对目标待处理图像的处理还依赖于当前待处理图像的处理结果,根据当前待处理图像的处理结果,优化目标待处理图像的处理过程,逐渐提高图像处理的准确性。其中,在图像处理过程中对处理过程进行优化,实现图像处理的同时优化处理过程的效果,提高整体结果的准确性和效率。
其中,通过已训练的缺陷检测模型对图像中缺陷位置的预测,节省人力投入,提高缺陷预测的效率。其中,缺陷检测模型在训练后,能够提升图像中缺陷预测的准确性。
其中,在本申请实施例中,已训练的缺陷检测模型是在原始模型的基础上进行训练后得到的,即,可选的,步骤“将获取的当前待处理图像输入已训练的缺陷检测模型进行处理,输出缺陷位置预测信息”之前,该方法还包括:
获取模型训练数据,模型训练数据包括至少一个样本图像;
将至少一个样本图像划分为训练集和校验集,训练集和校验集均包括至少一个标注有缺陷的样本图像;
基于训练集,对预设缺陷检测模型进行训练;
利用校验集对预设缺陷检测模型的训练结果进行验证,得到已训练的缺陷检测模型。
其中,通过训练集对原始模型(即预设缺陷检测模型)进行训练,使训练后的缺陷检测模型具备图像中缺陷识别和标注的能力,通过校验集对训练后的缺陷检测模型进行校验,并根据校验对模型进行验证训练,可以提升模型预测的准确性。
其中,在本申请实施例中,原始模型包括深度分割模型(如UNet,PSPNet,FPN或者DeepLab等),样本图像从基准数据集中获取,其中,基准数据集包括但不限于PascalVOC2012,MVTec D2S或者MS COCO等)。其中,在本申请实施例中,以深度分割模型UNet为例进行说明,UNet包括编码器和解码器,其中编码器的作用为提取输入图像的特征,解码器作用是把提取的特征图解码为掩膜(mask),其中,在本申请实施例中,编码器中有多个特征提取器(Down Block),每个特征提取器可以包含两个卷积层和一个池化层,解码器包含两个卷积层和一个上采样层,原始图像经卷积层处理后形成特征图,特征图经过上采样后得到模型的输出掩膜(mask)。其中,掩膜(mask)是用选定的图像、图形或物体,对处理的图像(全部或局部)进行遮挡,来控制图像处理的区域或处理过程,用于覆盖的特定图像或物体。其中,mask的轮廓点的坐标即为预测到的缺陷的位置信息。
其中,由于已训练的缺陷检测模型在训练过程中是采用样本数据进行训练的,而样本数据与实际的待处理数据之间可能存在差异,以及样本数据可能数据量较小,因此,基于样本数据对预设缺陷检测模型进行训练后,得到的已训练的缺陷检测模型对待处理图像进行准确预测的能力较差,因此,在本申请实施例中,还将预测过程中的实际待处理图像作为训练数据,对已训练的缺陷检测模型进行不断训练,从而可以提升模型准确预测的能力,其中,由于对待处理数据进行预测和对缺陷检测模型进行训练是交替进行的,因此,可以在实现对图像中缺陷进行预测的过程中实现对缺陷检测模型预测能力的同步提升,不但提高了模型预测的准确性,还提高了待处理数据预测的效率(例如,在模型训练过程中对图像进行了预测,相较于传统的训练完成后再进行缺陷定位预测,具备较高的处理效率)。
102、根据缺陷位置预测信息和获得的当前待处理图像的缺陷位置实际信息,对已训练的缺陷检测模型进行优化,得到已优化的缺陷检测模型。
其中,通过对图像中缺陷的实际位置的确定,可根据实际位置和预测位置之间的差异来确定已训练的缺陷检测模型预测的是否准确,根据实际位置和预测位置之间的损失,可以对已训练的缺陷检测模型进行优化调整,进而提升模型预测的准确性。
其中,通过预测位置与实际位置之间的差异(损失),可以确定已训练的缺陷检测模型待优化的方向,根据两者之间的差异对已训练的缺陷检测模型的优化调整,提高了模型预测的准确性。例如,请参阅图3,图3是本申请实施例中已训练的缺陷检测模型优化的流程示意图,具体如下:
111、根据训练后缺陷检测模型对图像中缺陷进行预测,获取缺陷位置预测信息;
112、通过人工标注确定图像中缺陷位置实际信息;
113、计算缺陷位置预测信息和缺陷位置实际信息之间的损失;
114、根据损失对训练后的缺陷检测模型进行优化更新。
其中,通过图像中缺陷的预测,以及根据预测结果对已训练后的缺陷检测模型进行优化更新,实现图像缺陷预测的同时,对模型进行优化的效果。
其中,在本申请实施例中,缺陷的实际位置可以通过人工识别标注的方式进行获取和确定,即,可选的,步骤“将获取的当前待处理图像输入已训练的缺陷检测模型进行处理,输出缺陷位置预测信息”之后,该方法还包括:
对当前待处理图像进行缺陷人工标注处理,得到缺陷轮廓标注信息;
确定缺陷轮廓标注信息对应的实际位置信息,实际位置信息为当前待处理图像的缺陷位置实际信息。
其中,通过人工的方式对缺陷的实际位置进行标注,可以提升缺陷实际位置获取的准确性。
其中,由于单个数据不具备普遍性,而多个数据之间可以具备互补性,因此,在本申请实施例中,可以结合多个图像的校对结果对已训练的缺陷检测模型进行优化调整,以此提高模型调整的必要性和调整后的准确性,即,可选的,当前待处理图像的数量为至少一个,则步骤“根据缺陷位置预测信息和获得的当前待处理图像的缺陷位置实际信息,对已训练的缺陷检测模型进行优化,得到已优化的缺陷检测模型”,包括:
获得至少一个当前待处理图像分别对应的缺陷位置预测信息和缺陷位置实际信息;
根据至少一个缺陷位置预测信息和至少一个缺陷位置实际信息,对已训练的缺陷检测模型进行优化,得到已优化的缺陷检测模型。
其中,通过多个图像中缺陷对应的预测位置信息和实际位置信息,可以综合确定出已训练的缺陷检测模型的调整方向,而多个数据的综合结果则提高了模型调整的准确性。例如,在本申请实施例中,一个预测和训练的当前待处理图像的数据可以为32个(即模型训练时batch_size为32),其中,32个图像不会产生较大的人工标注工作量,并且32个图像在模型预测时所消耗的时间也是短暂的,有利于提高缺陷预测的整体效率。
其中,在本申请实施例中,对已训练的缺陷检测模型的调整主要依赖于已训练的缺陷检测模型中损失函数对应的损失值的调整,通过对已训练的缺陷检测模型中损失函数的损失值的调整,可以实现对模型预测结果的调整,即,可选的,步骤“根据至少一个缺陷位置预测信息和至少一个缺陷位置实际信息,对已训练的缺陷检测模型进行优化,得到已优化的缺陷检测模型”,包括:
根据缺陷位置预测信息和缺陷位置实际信息,计算每个当前待处理图像对应的像素点损失值;
根据至少一个像素点损失值,确定已训练的缺陷检测模型中损失函数的损失值;
根据损失值对已训练的缺陷检测模型进行优化,得到已优化的缺陷检测模型。
其中,通过预测位置与实际位置之间像素点的差异,可以确定出每个图像在预测时的损失情况(即与实际位置的差异情况),通过多个图像对应的像素点的损失值可以确定损失函数的损失值,实现对损失函数的调整,通过调整后的损失函数对已训练的缺陷检测模型进行优化,提高了模型预测的准确性。
103、将获取的目标待处理图像输入已优化的缺陷检测模型进行处理,输出目标缺陷位置信息。
其中,通过优化后的缺陷检测模型对图像缺陷位置的预测,提高了图像缺陷位置预测的准确性。
其中,在本申请实施例中,在根据优化后的缺陷检测模型对图像进行预测时,还可以根据图像的预测结果对优化后的缺陷检测模型进行再次优化,直到缺陷检测模型预测的准确性满足要求为止,即,可选的,目标待处理图像包括第一目标待处理图像和第二目标待处理图像,则步骤“将获取的目标待处理图像输入已优化的缺陷检测模型进行处理,输出目标缺陷位置信息”,包括:
根据已优化的缺陷检测模型对第一目标待处理图像进行缺陷位置预测处理,得到第一目标缺陷位置预测信息;
获得第一目标待处理图像的目标缺陷位置实际信息;
根据第一目标缺陷位置预测信息和目标缺陷位置实际信息对已优化的缺陷检测模型进行再次优化,得到再次优化后的缺陷检测模型;
根据再次优化后的缺陷检测模型对第二目标待处理图像进行缺陷位置预测处理,得到第二目标缺陷位置预测信息;
将目标缺陷位置实际信息确定为第一目标待处理图像的目标缺陷位置信息,以及将第二目标缺陷位置预测信息确定为第二目标待处理图像的目标缺陷位置信息,并输出两个目标缺陷位置信息。
其中,通过已优化后的缺陷检测模型的预测结果对已优化后的缺陷检测模型进行再次优化,可以提升模型准确预测的能力,在本申请实施例中,可以对缺陷检测模型进行循环优化,即不断根据预测结果对缺陷检测模型进行优化,可以逐渐提高模型准确预测的能力。
例如,请参阅图4,图4是本申请实施例中图像缺陷预测和缺陷检测模型优化的流程示意图,具体如下:
121、根据训练后缺陷检测模型(预训练模型)对训练样本数(如32)个图像进行缺陷位置信息的预测,例如,预测得到缺陷的轮廓信息;
122、对上述训练样本数(32)个图像进行人工校对,确定每个图像中缺陷的实际轮廓信息;
123、根据训练后缺陷检测模型预测得到的缺陷轮廓信息和人工校对后标注的实际轮廓信息确定训练后的缺陷检测模型的损失函数的损失值;
124、将损失值进行反向传递更新训练后的缺陷检测模型,得到优化后模型;
125、循环步骤121-124,直到缺陷检测模型预测的准确率满足要求或者所有图像缺陷预测完成。
其中,通过对缺陷检测模型的循环优化处理,提高模型预测的准确性。并且,随着整个缺陷标注过程(包括模型缺陷预测、人工校对、模型优化训练和基于训练后模型对其他图像中缺陷的预测标注的循环过程)的进行,人工需要修改标注信息的图片数量将会越来越少,人工所需的干预也会逐渐降低,因此,标注的速度也会越来越高。一般情况下,标注任务是针对数千张或者上万张图像的,因此,缺陷检测模型可以得到充分的更新优化,相应的,整个标注任务的加速效果也会更加明显,节省整体的时间以及人力的投入。其中,在本申请实施例中,缺陷检测模型预测执行可以选择运行有GPU、TPU或者NPU等具有矩阵运算加速的硬件系统上。
其中,本申请实施例将待处理数据作为已训练的缺陷检测模型训练的数据集,一方面解决训练数据量不够的问题,并且还能够提高待处理数据的预测效率,另一方面解决样本数据与实际处理数据之间存在差异的问题,另外,该种根据待处理数据对模型的训练还便于将模型应用在新的场景数据中,不需要进行新的样本数据的获取或者对样本数据的数据量要求较低,降低模型训练样本数据获取的难度,便于模型在工业视觉领域的应用。
其中,可以根据优化后的缺陷检测模型对图像特征信息进行提取,根据提取后特征信息确定图像中的缺陷的位置信息,即,可选的,目标待处理图像包括第一目标待处理图像和第二目标待处理图像,则步骤“将获取的目标待处理图像输入已优化的缺陷检测模型进行处理,输出目标缺陷位置信息”,包括:
根据已优化的缺陷检测模型对获取的目标待处理图像进行特征提取处理,得到目标图像特征信息;
将目标图像特征信息输入已优化的缺陷检测模型进行预测,输出目标缺陷位置信息。
其中,通过优化后的缺陷检测模型对图像特征信息的提取,便于对图像中缺陷的识别以及缺陷位置信息的确定。
本申请实施例通过对训练后的缺陷检测模型预测结果的校对,并根据校对结果对已训练的缺陷检测模型进行优化,提升模型准确预测信息的能力,并根据优化后的缺陷检测模型对目标图像进行预测分析,提升图像中缺陷位置定位的准确性,其中,通过对待处理图像中缺陷的预测、并且在预测过程中对缺陷检测模型预测结果的校对、以及根据校对结果对模型预测能力的提升,实现在图像缺陷预测的同时,缺陷检测模型预测能力的提升,提升了图像缺陷预测的效率和准确性,其中,通过待处理图像代替样本图像对缺陷检测模型进行训练,可以提高模型预测的准确性,同时,通过待处理图像对模型进行训练的方法,也提升了模型的可移植性,即方便将模型应用在新场景数据下。
为便于更好的实施本申请的信息获取方法,本申请还提供一种基于上述信息获取方法的信息获取装置。其中名词的含义与上述信息获取方法中相同,具体实现细节可以参考方法实施例中的说明。
请参阅图5,图5为本申请提供的信息获取装置的结构示意图,其中该信息获取装置可以包括:
第一预测模块,用于将获取的当前待处理图像输入已训练的缺陷检测模型进行处理,输出缺陷位置预测信息。
可选的,该装置还包括训练模块,训练模块包括:
获取单元,用于获取模型训练数据,模型训练数据包括至少一个样本图像;
划分单元,用于将至少一个样本图像划分为训练集和校验集,训练集和校验集均包括至少一个标注有缺陷的样本图像;
训练单元,用于基于训练集,对预设缺陷检测模型进行训练;
验证单元,用于利用校验集对预设缺陷检测模型的训练结果进行验证,得到已训练的缺陷检测模型。
优化模块202,用于根据缺陷位置预测信息和获得的当前待处理图像的缺陷位置实际信息,对已训练的缺陷检测模型进行优化,得到已优化的缺陷检测模型。
其中,优化模块202包括:
标注单元,用于对当前待处理图像进行缺陷人工标注处理,得到缺陷轮廓标注信息;
第一确定单元,用于确定缺陷轮廓标注信息对应的实际位置信息,实际位置信息为当前待处理图像的缺陷位置实际信息。
其中,当前待处理图像的数量为至少一个,优化模块202包括:
第二确定单元,用于获得至少一个当前待处理图像分别对应的缺陷位置预测信息和缺陷位置实际信息;
第一优化单元,用于根据至少一个缺陷位置预测信息和至少一个缺陷位置实际信息,对已训练的缺陷检测模型进行优化,得到已优化的缺陷检测模型。
其中,第一优化单元包括:
计算子单元,用于根据缺陷位置预测信息和缺陷位置实际信息,计算每个当前待处理图像对应的像素点损失值;
确定子单元,用于根据至少一个像素点损失值,确定已训练的缺陷检测模型中损失函数的损失值;
优化子单元,用于根据损失值对已训练的缺陷检测模型进行优化,得到已优化的缺陷检测模型。
第二预测模块203,用于将获取的目标待处理图像输入已优化的缺陷检测模型进行处理,输出目标缺陷位置信息。
其中,目标待处理图像包括第一目标待处理图像和第二目标待处理图像,第二预测模块203包括:
第一预测单元,用于根据已优化的缺陷检测模型对第一目标待处理图像进行缺陷位置预测处理,得到第一目标缺陷位置预测信息;
第四确定单元,用于获得第一目标待处理图像的目标缺陷位置实际信息;
第二优化单元,用于根据第一目标缺陷位置预测信息和目标缺陷位置实际信息对已优化的缺陷检测模型进行再次优化,得到再次优化后的缺陷检测模型;
第一预测单元,用于根据再次优化后的缺陷检测模型对第二目标待处理图像进行缺陷位置预测处理,得到第二目标缺陷位置预测信息;
第五确定单元,用于将目标缺陷位置实际信息确定为第一目标待处理图像的目标缺陷位置信息,以及将第二目标缺陷位置预测信息确定为第二目标待处理图像的目标缺陷位置信息,并输出两个目标缺陷位置信息。
其中,第二预测模块203包括:
提取单元,用于根据已优化的缺陷检测模型对获取的目标待处理图像进行特征提取处理,得到目标图像特征信息;
第二预测单元,用于将目标图像特征信息输入已优化的缺陷检测模型进行预测,输出目标缺陷位置信息。
本申请实施例首先由第一预测模块201根据已训练的缺陷检测模型对获取到的当前待处理图像进行缺陷预测,得到缺陷位置预测信息,随后,由优化模块202根据缺陷位置预测信息和当前待处理图像中缺陷的缺陷位置实际信息对已训练的缺陷检测模型进行优化,得到已优化的缺陷检测模型,然后,由第二预测模块203根据已优化的缺陷检测模型对获取的目标待处理图像进行缺陷识别和预测,输出目标缺陷位置信息。
其中,本申请实施例通过对已训练的缺陷检测模型预测结果的校对,并根据校对结果对已训练的缺陷检测模型进行优化,提升模型准确预测信息的能力,并根据已优化的缺陷检测模型对目标图像进行预测分析,提升图像中缺陷位置定位的准确性,其中,通过对待处理图像中缺陷的预测、并且在预测过程中对模型预测结果的校对、以及根据校对结果对模型预测能力的提升,实现在图像缺陷预测的同时,模型预测能力的提升,提升了图像缺陷预测的效率和准确性,其中,通过待处理图像代替样本图像对模型进行训练,可以提高模型预测的准确性,同时,通过待处理图像对模型进行训练的方法,也提升了模型的可移植性,即方便将模型应用在新场景数据下。
此外,本申请实施例还提供一种电子设备,如图6所示,其示出了本申请所涉及的电子设备的结构示意图,具体来讲:
该电子设备可以包括一个或者一个以上处理核心的处理器401、一个或一个以上计算机可读存储介质的存储器402、电源403和输入单元404等部件。本领域技术人员可以理解,图6中示出的电子设备结构并不构成对电子设备的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。其中:
处理器401是该电子设备的控制中心,利用各种接口和线路连接整个电子设备的各个部分,通过运行或执行存储在存储器402内的软件程序和/或模块,以及调用存储在存储器402内的数据,执行电子设备的各种功能和处理数据,从而对电子设备进行整体监控。可选的,处理器401可包括一个或多个处理核心;优选的,处理器401可集成应用处理器和调制解调处理器,其中,应用处理器主要处理操作系统、用户界面和应用程序等,调制解调处理器主要处理无线通信。可以理解的是,上述调制解调处理器也可以不集成到处理器401中。
存储器402可用于存储软件程序以及模块,处理器401通过运行存储在存储器402的软件程序以及模块,从而执行各种功能应用以及数据处理。存储器402可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据电子设备的使用所创建的数据等。此外,存储器402可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。相应地,存储器402还可以包括存储器控制器,以提供处理器401对存储器402的访问。
电子设备还包括给各个部件供电的电源403,优选的,电源403可以通过电源管理系统与处理器401逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。电源403还可以包括一个或一个以上的直流或交流电源、再充电系统、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。
该电子设备还可包括输入单元404,该输入单元404可用于接收输入的数字或字符信息,以及产生与用户设置以及功能控制有关的键盘、鼠标、操作杆、光学或者轨迹球信号输入。
尽管未示出,电子设备还可以包括显示单元等,在此不再赘述。具体在本实施例中,电子设备中的处理器401会按照如下的指令,将一个或一个以上的应用程序的进程对应的可执行文件加载到存储器402中,并由处理器401来运行存储在存储器402中的应用程序,从而实现本申请实施例所提供的任一种信息获取方法中的步骤。
本申请实施例通过对已训练的缺陷检测模型预测结果的校对,并根据校对结果对已训练的缺陷检测模型进行优化,提升模型准确预测信息的能力,并根据优化后的缺陷检测模型对目标图像进行预测分析,提升图像中缺陷位置定位的准确性,其中,通过对待处理图像中缺陷的预测、并且在预测过程中对模型预测结果的校对、以及根据校对结果对模型预测能力的提升,实现在图像缺陷预测的同时,模型预测能力的提升,提升了图像缺陷预测的效率和准确性,其中,通过待处理图像代替样本图像对模型进行训练,可以提高模型预测的准确性,同时,通过待处理图像对模型进行训练的方法,也提升了模型的可移植性,即方便将模型应用在新场景数据下。
本领域普通技术人员可以理解,上述实施例的各种方法中的全部或部分步骤可以通过指令来完成,或通过指令控制相关的硬件来完成,该指令可以存储于一计算机可读存储介质中,并由处理器进行加载和执行。
为此,本申请实施例提供一种计算机可读存储介质,该计算机可读存储介质上存储有计算机程序,计算机程序被处理器执行时实现本申请实施例所提供的任一种信息获取方法中的步骤。
其中,该存储介质可以包括:只读存储器(ROM,Read Only Memory)、随机存取记忆体(RAM,Random Access Memory)、磁盘或光盘等。
由于该存储介质中所存储的指令,可以执行本申请所提供的任一种信息获取中的步骤,因此,可以实现本申请所提供的任一种信息获取方法所能实现的有益效果,详见前面的实施例,在此不再赘述。
以上对本申请所提供的一种信息获取方法、装置、电子设备以及计算机可读存储介质进行了详细介绍,本文中应用了具体个例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想;同时,对于本领域的技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处,综上,本说明书内容不应理解为对本发明的限制。
Claims (10)
1.一种信息获取方法,其特征在于,包括:
将获取的当前待处理图像输入已训练的缺陷检测模型进行处理,输出缺陷位置预测信息;
根据所述缺陷位置预测信息和获得的所述当前待处理图像的缺陷位置实际信息,对所述已训练的缺陷检测模型进行优化,得到已优化的缺陷检测模型;
将获取的目标待处理图像输入所述已优化的缺陷检测模型进行处理,输出目标缺陷位置信息。
2.根据权利要求1所述的方法,其特征在于,所述目标待处理图像包括第一目标待处理图像和第二目标待处理图像,所述将获取的目标待处理图像输入所述已优化的缺陷检测模型进行处理,输出目标缺陷位置信息,包括:
根据所述已优化的缺陷检测模型对所述第一目标待处理图像进行缺陷位置预测处理,得到第一目标缺陷位置预测信息;
获得所述第一目标待处理图像的目标缺陷位置实际信息;
根据所述第一目标缺陷位置预测信息和所述目标缺陷位置实际信息对所述已优化的缺陷检测模型进行再次优化,得到再次优化后的缺陷检测模型;
根据所述再次优化后的缺陷检测模型对所述第二目标待处理图像进行缺陷位置预测处理,得到第二目标缺陷位置预测信息;
将所述目标缺陷位置实际信息确定为所述第一目标待处理图像的目标缺陷位置信息,以及将所述第二目标缺陷位置预测信息确定为所述第二目标待处理图像的目标缺陷位置信息,并输出两个所述目标缺陷位置信息。
3.根据权利要求1或2所述的方法,其特征在于,所述将获取的当前待处理图像输入已训练的缺陷检测模型进行处理,输出缺陷位置预测信息之前,所述方法还包括:
获取模型训练数据,所述模型训练数据包括至少一个样本图像;
将所述至少一个样本图像划分为训练集和校验集,所述训练集和所述校验集均包括至少一个标注有缺陷的样本图像;
基于所述训练集,对预设缺陷检测模型进行训练;
利用所述校验集对所述预设缺陷检测模型的训练结果进行验证,得到所述已训练的缺陷检测模型。
4.根据权利要求3所述的方法,其特征在于,所述将获取的当前待处理图像输入已训练的缺陷检测模型进行处理,输出缺陷位置预测信息之后,所述方法还包括:
对所述当前待处理图像进行缺陷人工标注处理,得到缺陷轮廓标注信息;
确定所述缺陷轮廓标注信息对应的实际位置信息,所述实际位置信息为所述当前待处理图像的缺陷位置实际信息。
5.根据权利要求1所述的方法,其特征在于,所述将获取的目标待处理图像输入所述已优化的缺陷检测模型进行处理,输出目标缺陷位置信息,包括:
根据所述已优化的缺陷检测模型对获取的目标待处理图像进行特征提取处理,得到目标图像特征信息;
将所述目标图像特征信息输入所述已优化的缺陷检测模型进行预测,输出目标缺陷位置信息。
6.根据权利要求1所述的方法,其特征在于,所述当前待处理图像的数量为至少一个,所述根据所述缺陷位置预测信息和获得的所述当前待处理图像的缺陷位置实际信息,对所述已训练的缺陷检测模型进行优化,得到已优化的缺陷检测模型,包括:
获得所述至少一个当前待处理图像分别对应的缺陷位置预测信息和缺陷位置实际信息;
根据至少一个所述缺陷位置预测信息和至少一个所述缺陷位置实际信息,对所述已训练的缺陷检测模型进行优化,得到已优化的缺陷检测模型。
7.根据权利要求6所述的方法,其特征在于,所述根据至少一个所述缺陷位置预测信息和至少一个所述缺陷位置实际信息,对所述已训练的缺陷检测模型进行优化,得到已优化的缺陷检测模型,包括:
根据所述缺陷位置预测信息和所述缺陷位置实际信息,计算每个所述当前待处理图像对应的像素点损失值;
根据至少一个所述像素点损失值,确定所述已训练的缺陷检测模型中损失函数的损失值;
根据所述损失值对所述已训练的缺陷检测模型进行优化,得到已优化的缺陷检测模型。
8.一种信息获取装置,其特征在于,包括:
第一预测模块,用于将获取的当前待处理图像输入已训练的缺陷检测模型进行处理,输出缺陷位置预测信息;
优化模块,用于根据所述缺陷位置预测信息和获得的所述当前待处理图像的缺陷位置实际信息,对所述已训练的缺陷检测模型进行优化,得到已优化的缺陷检测模型;
第二预测模块,用于将获取的目标待处理图像输入所述已优化的缺陷检测模型进行处理,输出目标缺陷位置信息。
9.一种电子设备,其特征在于,所述电子设备包括存储器、处理器及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如权利要求1-7任一项所述的信息获取方法中的步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1-7任一项所述的信息获取方法中的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111627105.6A CN116416513A (zh) | 2021-12-28 | 2021-12-28 | 信息获取方法、装置、电子设备及计算机可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111627105.6A CN116416513A (zh) | 2021-12-28 | 2021-12-28 | 信息获取方法、装置、电子设备及计算机可读存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116416513A true CN116416513A (zh) | 2023-07-11 |
Family
ID=87056389
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111627105.6A Pending CN116416513A (zh) | 2021-12-28 | 2021-12-28 | 信息获取方法、装置、电子设备及计算机可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116416513A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117710366A (zh) * | 2024-02-02 | 2024-03-15 | 杭州百子尖科技股份有限公司 | 用于保温杯的质检方法、装置和存储介质 |
-
2021
- 2021-12-28 CN CN202111627105.6A patent/CN116416513A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117710366A (zh) * | 2024-02-02 | 2024-03-15 | 杭州百子尖科技股份有限公司 | 用于保温杯的质检方法、装置和存储介质 |
CN117710366B (zh) * | 2024-02-02 | 2024-05-14 | 杭州百子尖科技股份有限公司 | 用于保温杯的质检方法、装置和存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2022001623A1 (zh) | 基于人工智能的图像处理方法、装置、设备及存储介质 | |
CN109902548B (zh) | 一种对象属性识别方法、装置、计算设备及系统 | |
WO2018108129A1 (zh) | 用于识别物体类别的方法及装置、电子设备 | |
WO2022247005A1 (zh) | 图像中目标物识别方法、装置、电子设备及存储介质 | |
CN110889446A (zh) | 人脸图像识别模型训练及人脸图像识别方法和装置 | |
CN110796018A (zh) | 一种基于深度图像和彩色图像的手部运动识别方法 | |
CN112417947B (zh) | 关键点检测模型的优化及面部关键点的检测方法及装置 | |
US11694331B2 (en) | Capture and storage of magnified images | |
CN113222149A (zh) | 模型训练方法、装置、设备和存储介质 | |
CN114332590B (zh) | 联合感知模型训练、联合感知方法、装置、设备和介质 | |
CN116778527A (zh) | 人体模型构建方法、装置、设备及存储介质 | |
WO2021097595A1 (zh) | 图像的病变区域分割方法、装置及服务器 | |
CN116416513A (zh) | 信息获取方法、装置、电子设备及计算机可读存储介质 | |
CN116797864B (zh) | 基于智能镜子的辅助化妆方法、装置、设备及存储介质 | |
CN115439850B (zh) | 基于审单的图文字符识别方法、装置、设备及存储介质 | |
CN113947771B (zh) | 图像识别方法、装置、设备、存储介质以及程序产品 | |
TWI803243B (zh) | 圖像擴增方法、電腦設備及儲存介質 | |
CN113537398A (zh) | 颜值评估模型训练方法及组件,颜值评估方法及组件 | |
WO2024104365A1 (zh) | 一种设备测温方法及其相关设备 | |
CN111626912B (zh) | 水印去除方法及装置 | |
WO2024074146A1 (zh) | 多媒体数据处理方法、装置、设备及存储介质 | |
CN115098644B (zh) | 图像与文本匹配方法、装置、电子设备及存储介质 | |
CN114299541B (zh) | 模型的训练方法及装置、人体姿态识别方法及装置 | |
CN114612449A (zh) | 图像检测方法、装置、电子设备及存储介质 | |
CN113705690A (zh) | 正脸定位方法、装置、电子设备及计算机可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication |