CN116721115A - 金相组织获取方法、装置、存储介质及芯片 - Google Patents

金相组织获取方法、装置、存储介质及芯片 Download PDF

Info

Publication number
CN116721115A
CN116721115A CN202310714277.XA CN202310714277A CN116721115A CN 116721115 A CN116721115 A CN 116721115A CN 202310714277 A CN202310714277 A CN 202310714277A CN 116721115 A CN116721115 A CN 116721115A
Authority
CN
China
Prior art keywords
metallographic
metallographic structure
picture
prompt
points
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310714277.XA
Other languages
English (en)
Inventor
刘陆琛
尹茸
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xiaomi Automobile Technology Co Ltd
Original Assignee
Xiaomi Automobile Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xiaomi Automobile Technology Co Ltd filed Critical Xiaomi Automobile Technology Co Ltd
Priority to CN202310714277.XA priority Critical patent/CN116721115A/zh
Publication of CN116721115A publication Critical patent/CN116721115A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/187Segmentation; Edge detection involving region growing; involving region merging; involving connected component labelling
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • G06T7/62Analysis of geometric attributes of area, perimeter, diameter or volume
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30136Metal
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30204Marker
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/30Computing systems specially adapted for manufacturing

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Geometry (AREA)
  • Quality & Reliability (AREA)
  • Image Processing (AREA)

Abstract

本公开涉及一种金相组织获取方法、装置、存储介质及芯片,无需训练样本和复杂的调参过程获取金相组织。该金相组织获取方法包括:获取目标材料的金相图片;根据预设提示点策略,生成对应所述金相图片的提示点;将所述金相图片和所述提示点输入到视觉分割模型中,得到所述视觉分割模型输出的分割结果;根据所述分割结果,确定所述目标材料的金相组织。本公开无需训练样本和复杂的调参过程,既能解决传统方法的泛化性不足、调参复杂的问题,又能根据不需要任何标注数据的金相图片实现图像分割。

Description

金相组织获取方法、装置、存储介质及芯片
技术领域
本公开涉及材料领域,尤其涉及一种金相组织获取方法、装置、存储介质及芯片。
背景技术
在材料学中,主要通过视觉领域的图像分割技术,将定量金相图片划分为多个具有特定特征的区域,以对金属及合金显微组织的定量分析。相关技术中,可通过传统的图像分割算法来实现图像分割,也可以通过深度学习技术来实现图像分割。
其中,传统的图像分割算法包括阈值分割、边缘检测、区域生长等方法,这些方法通常是基于图像的灰度、颜色、纹理等低级特征进行分割,传统的图像分割算法调参复杂,泛化性差,在复杂场景下,无法实现对图像的准确分割。
深度学习算法包括卷积神经网络(Convolutional Neural Networks,CNN)的全卷积网络(Fully Convolutional Networks,FCN)、语义分割网络(U-Net)、实例分割网络(Mask R-CNN)等,这些方法通常采用CNN对图像进行端到端的训练和预测,能够自动学习图像的高级语义特征,从而在复杂场景下实现更准确的分割,但深度学习算法需要基于大量的带标注的金相图片训练,而金相图片获取不便且标注困难。
发明内容
为克服相关技术中存在的问题,本公开提供一种金相组织获取方法、装置、存储介质及芯片。
根据本公开实施例的第一方面,提供一种金相组织获取方法,包括
获取目标材料的金相图片;
根据预设提示点策略,生成对应所述金相图片的提示点;
将所述金相图片和所述提示点输入到视觉分割模型中,得到所述视觉分割模型输出的分割结果;
根据所述分割结果,确定所述目标材料的金相组织。
可选地,所述提示点包括正样本点以及负样本点;
所述根据预设提示点策略,生成对应所述金相图片的提示点,包括:
根据所述金相图片中的目标金相组织,确定出所述金相图片的第一数量个区域;
生成对应所述目标金相组织的区域的正样本点;
生成对应除所述目标金相组织之外的区域的负样本点,得到对应所述金相图片的提示点。
可选地,所述提示点包括正样本点以及负样本点;
所述根据预设提示点策略,生成对应所述金相图片的提示点,包括:
将所述金相图片进行二值化处理,得到二值图;
对所述二值图进行连通域分析,得到第二数量个连通域;
生成对应目标金相组织所处连通域的正样本点;
生成对应除所述目标金相组织之外的连通域的负样本点,得到对应所述金相图片的提示点。
可选地,每一连通域对应的样本点的数量,通过以下步骤确定:
根据所述第二数量个所述连通域的面积,从大到小对所述第二数量个连通域进行排序,从而确定所述第二数量个连通域中的每个连通域的序号;
针对每一所述连通域,根据样本点的总数、所述第二数量以及所述连通域的序号计算得到对应所述连通域中的样本点的数量。
可选地,所述将所述金相图片和所述提示点输入到视觉分割模型中,得到所述视觉分割模型输出的分割结果,包括:
将所述金相图片裁切为多个子样本图;
分别将所述子样本图以及对应所述子样本图的提示点输入到所述视觉分割模型中,得到所述视觉分割模型输出的多个子分割区;
根据多个所述子样本图与所述金相图片的像素对应关系,将所述多个子分割区进行拼接,得到分割结果。
可选地,所述视觉分割模型包括编码器以及解码器;
所述编码器用于根据所述提示点将所述金相图片转换为嵌入特征,并对所述嵌入特征进行编码,得到特征图;
所述解码器用于对所述特征图中的每个像素的类别进行标注,并剔除负样本点对应区域的像素点,输出分割结果。
可选地,所述提示点的获取方式还包括:
响应于用户的标注操作,生成对应所述金相图片的提示点。
根据本公开实施例的第二方面,提供一种金相组织获取装置,包括:
获取模块,被配置为获取目标材料的金相图片;
嵌入模块,被配置为根据预设提示点策略,生成对应所述金相图片的提示点;
执行模块,被配置为将所述金相图片和所述提示点输入到视觉分割模型中,得到所述视觉分割模型输出的分割结果;
确定模块,被配置为根据所述分割结果,确定所述目标材料的金相组织。
根据本公开实施例的第三方面,提供一种金相组织获取装置,包括:
第一处理器;
用于存储第一处理器可执行指令的存储器;
其中,所述第一处理器被配置为:
获取目标材料的金相图片;
根据预设提示点策略,生成对应所述金相图片的提示点;
将所述金相图片和所述提示点输入到视觉分割模型中,得到所述视觉分割模型输出的分割结果;
根据所述分割结果,确定所述目标材料的金相组织。
根据本公开实施例的第四方面,提供一种计算机可读存储介质,其上存储有计算机程序指令,该程序指令被第一处理器执行时实现本公开第一方面所提供的金相组织获取方法的步骤。
第五方面,本公开提供一种芯片,包括第二处理器和接口;
所述第二处理器用于读取指令以执行本公开第一方面所提供的金相组织获取方法。
本公开的实施例提供的技术方案可以包括以下有益效果:本公开根据预设提示策略生成对应目标材料的金相图片的提示点,将金相图片和提示点输入到视觉分割模型中,得到视觉分割模型输出的分割结果,根据分割结果确定目标材料的金相组织,既能解决传统方法的泛化性不足、调参复杂的问题,又能根据不需要任何标注数据的金相图片实现图像分割,从而得到目标材料的金相组织。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。
图1是根据一示例性实施例示出的一种金相组织获取方法的流程图。
图2是根据一示例性实施例示出的S12的一种流程图。
图3是根据一示例性实施例示出的S12的另一流程图。
图4是根据一示例性实施例示出的一种确定样本点数量的流程图。
图5是根据一示例性实施例示出的S13的流程图。
图6是根据一示例性实施例示出的一种金相组织获取方法的另一流程图。
图7a是根据一示例性实施例示出的一种铝合金材料的金相图片。
图7b是根据一示例性实施例示出的一种铝合金材料的二值图。
图7c是根据一示例性实施例示出的一种对应铝合金材料中的α-Al组织的提示点示意图。
图7d是根据一示例性实施例示出的一种铝合金材料中的α-Al组织的分割结果。
图7e是根据一示例性实施例示出的一种对应铝合金材料中的AlSi组织的提示点示意图。
图7f是根据一示例性实施例示出的一种铝合金材料中的AlSi组织的分割结果。
图7g是根据一示例性实施例示出的一种铝合金材料中的FeMnSi组织的金相图片。
图7h是根据一示例性实施例示出的一种对应铝合金材料中的FeMnSi组织的提示点示意图。
图7i是根据一示例性实施例示出的一种铝合金材料中的FeMnSi组织的分割结果。
图8根据一示例性实施例示出的一种金相组织获取装置的框图。
图9是根据一示例性实施例示出的一种金相组织获取装置的另一框图。
图10是根据一示例性实施例示出的一种芯片的框图。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。
需要说明的是,本公开中所有获取目标材料的金相图片的动作都是在遵照所在地国家相应的数据保护法规政策的前提下,并获得由相应装置所有者给予授权的情况下进行的。
金相组织为用金相方法观察到的金属及合金的内部组织,应用于原材料检验、原材料在生产过程中的质量控制、产品质量检验以及失效分析等场景。
图1是根据一示例性实施例示出的一种金相组织获取方法的流程图,如图1所示,金相组织获取方法可以用于服务器或终端中,终端可以为智能终端、交互终端等,例如计算机,平板设备,个人数字助理等,包括以下步骤:
在步骤S11中,获取目标材料的金相图片。
其中,目标材料可以包括金属材料、合金材料等具有金相组织的材料。
示例地,可以通过光学显微镜获取目标材料的金相图片,还可以用模拟信号摄像头通过视频卡捕捉目标材料的金相图片,本公开对金相图片的获取方式不进行限定。
在步骤S12中,根据预设提示点策略,生成对应金相图片的提示点。
示例地,金相图片中包括多种金相组织的情况下,需分别根据不同金相组织对应的预设提示点策略,分别将每一种金相组织从金相图片中分割出来,因此,需根据预设提示点策略生成对应金相图片中不同金相组织的提示点,以便于从金相图片中分割出不同的金相组织。
示例地,金相图片中同时包括一种金相组织和其它非金相组织的情况下,需根据该金相组织对应的预设提示点策略,生成对应金相图片该金相组织的提示点,以便于从金相图片中分割出金相组织。
在步骤S13中,将金相图片和提示点输入到视觉分割模型中,得到视觉分割模型输出的分割结果。
其中,视觉分割模型通过大量精细标注的训练样本进行训练,从而在零样本的情况下,很好的泛化到下游的视觉分割任务上。本公开中的视觉分割模型可以采用SAM(Segment Anything Model)。
现有的图像分割模型在对不同材料的金相图片进行分割时,需通过对应不同材料的训练样本进行训练,训练样本包括大量带精细标注的金相图片,但金相图片的获取需耗费大量人力物力,且在金相图片中进行精细标注困难。相较于现有的图像分割模型,本公开中的视觉分割模型对不同材料的金相图片进行分割时,可以在没有训练数据的情况下直接根据金相图片和对应该金相图片的提示点进行图像分割,无需再次通过训练样本进行训练。
示例地,将金相图片和提示点输入到SAM中,得到分割mask。
在步骤S14中,根据分割结果,确定目标材料的金相组织。
示例地,金相图片中包括多种金相组织的情况下,得到多个不同的分割结果,从而确定目标材料中的金相组织。
本公开根据金相组织对应的预设提示点策略生成对应金相图片的提示点,通过视觉分割模型根据提示点对金相图片进行分割,得到分割结果,提升了分割结果的可靠性,根据分割结果确定目标材料中的金相组织,无需训练样本和复杂的调参过程,既能解决传统方法的泛化性不足、调参复杂的问题,又能根据不需要任何标注数据的金相图片实现图像分割,从而实现对目标材料的定量分析。
为了便于本领域技术人员更加理解本公开提供的金相组织获取方法,下面对上述金相组织获取方法涉及的相关步骤进行详细举例说明。
在一可能的实施例中,提示点包括正样本点和负样本点,参见图2,在步骤S12中,根据预设提示点策略,生成对应金相图片的提示点,可以包括以下步骤:
在步骤S21中,根据金相目标中的目标金相组织,确定出金相图片的第一数量个区域。
示例地,根据金相图片中的金相组织,从金相图片中确定出属于同一金相组织所处的第一数量个区域。
在步骤S22中,生成对应目标金相组织的区域的正样本点。
示例地,将金相图片中的所有区域按面积从大到小的顺序排列,将排列在前n个区域确定为面积较大的区域,剩余的区域确定为面积较小区域,生成对应第一数量个区域的正样本点。
其中,正样本点的数量与区域的面积成反比,区域的面积越大,对应该区域的正样本点的数量越少,区域的面积越小,对应该区域的正样本点的数量越多,n可根据图像分割精度要求预设,本公开在此不作限定。
在步骤S23中,生成对应除目标金相组织之外的区域的负样本点,得到对应金相图片的提示点。
示例地,将金相图片中的所有区域按面积从大到小的顺序排列,将排列在前n个区域确定为面积较大的区域,剩余的区域确定为面积较小区域,生成对应剩余区域的负样本点。
其中,负样本点的数量与区域的面积成反比,区域的面积越大,对应该区域的负样本点的数量越少,区域的面积越小,对应该区域的负样本点的数量越多,n可根据图像分割精度要求预设,本公开在此不作限定。
其中,金相图片中的每个区域中的正样本点和负样本点均可通过第二计算式进行计算,第二计算式包括:
mi1表征第i1个区域对应的样本点的数量,M1表征样本点总数,α1表征可调参数,rank1(Si1)表征面积从大到小排列的第i1个区域在k1个区域中的位置,即序号,rank1(Sj1)表征面积从大到小排列的第j1个区域在k1个区域中的位置,k1表示区域总数。
本公开的视觉分割模型可根据正样本点和负样本点对金相图片直接进行图像分割,从而得到分割结果。
对金相图片进行图像分割的分割结果,受金相图片的质量影响,而金相图片的清晰度、对比度以及噪声水平均与金相图片的质量相关,因此,在对金相图片进行图像分割前可先进行降噪处理。
在一可能的实施例中,提示点包括正样本点以及负样本点,参见图3,在步骤S12中,根据预设提示点策略,生成对应金相图片的提示点,还可以包括以下步骤:
在步骤S31中,将金相图片进行二值化处理,得到二值图。
示例地,将金相图片转换成灰度图,进行去噪处理,再进行二值化处理以及去孔洞处理,得到二值图。
在步骤S32中,对二值图进行连通域分析,得到第二数量个连通域。
其中,连通域是指二值图中位置相邻的前景像素点组成的图像区域,连通域分析是指找出二值图像中的各个连通区域并标记。
在步骤S33中,生成对应目标金相组织所处连通域的正样本点。
示例地,将对应二值图的第二数量个连通域按面积从大到小的顺序排列,将排列在前n个连通域确定为面积较大的连通域,剩余的连通域确定为面积较小的连通域,生成对应目标金相组织的连通域的正样本点,n可根据图像分割精度要求预设,本公开在此不作限定。
其中,正样本点的数量与连通域的面积成反比,连通域的面积越大,对应该连通域的正样本点的数量越少,连通域的面积越小,对应该连通域的正样本点的数量越多。
在步骤S34中,生成对应除目标金相组织之外的连通域的负样本点,得到对应金相图片的提示点。
示例地,将对应二值图的第二数量个连通域按面积从大到小的顺序排列,将排列在前k个连通域确定为面积较大的连通域,剩余的连通域确定为面积较小的连通域,生成对应除目标金相组织之外的连通域的负样本点,n可根据图像分割精度要求预设,本公开在此不作限定。
其中,负样本点的数量与连通域的面积成反比,连通域的面积越大,对应该连通域的负样本点的数量越少,连通域的面积越小,对应该连通域的负样本点的数量越多。
本公开对金相图片进行去噪处理后,将金相图片转换为二值图,并生成对应二值图的正样本点及负样本点,将二值图、正样本点及负样本点输入到视觉分割模型中,得到视觉分割模型输出的分割结果,提高了分割结果的可靠性。
在一可能的实施例中,参见图4,每一连通域对应的样本点的数量,可以通过以下步骤确定:
在步骤S41中,根据第二数量个所述连通域的面积,从大到小对第二数量个连通域进行排序,从而确定第二数量个连通域中的每个连通域的序号。
示例地,将第二数量个连通域按面积从大到小的顺序排列,并根据每一连通域的排列位置生成对应的序号。
在步骤S42中,针对每一连通域,根据样本点的总数、第二数量以及连通域的序号计算得到对应连通域中的样本点的数量。
示例地,将样本点的总数、第二数量以及连通域的序号代入第一计算式得到对应连通域中的样本点的数量,其中,第一计算式包括:
mi表征第i个连通域对应的正样本点的数量,M表征样本点总数,α表征可调参数,rank(Si)表征面积从大到小排列的第i个连通域在k个连通域中的位置,rank(Sj)表征面积从大到小排列的第j个连通域在k个连通域中的位置,即序号,k表示第二数量。
在一可能的实施例中,参见图5,在步骤S13中,将金相图片输入到视觉分割模型中,得到视觉分割模型输出的分割结果,可以包括以下步骤:
在步骤S51中,将金相图片裁切为多个子样本图。
示例地,将金相图片裁切为多个小的子样本图,每个子样本图之间可保留一定的重复面,重复面为每两个相邻子样本图之间的重叠部分,便于后续对每个子样本图对应的分割mask进行拼接,并保留各个子样本图与金相图片中的像素对应关系。
在步骤S52中,分别将子样本图以及对应该子样本图的提示点输入到视觉分割模型中,得到视觉分割模型输出的多个子分割区。
示例地,分别将子样本图以及对应该子样本图的提示点输入到SAM中,得到SAM输出的子分割mask。
在步骤S53中,根据多个子样本图与金相图片的像素对应关系,将多个子分割区进行拼接,得到分割结果。
示例地,根据像素对应关系,将多个子分割mask拼接为对应金相图片的分割mask。
本公开在金相图片过大或者金相图片中的枝晶结构复杂的情况下,可将金相图片裁切成多个子样本图,通过视觉分割模型分别对子样本图进行图像分割,得到多个子分割mask,将各个子分割mask进行拼接,得到完整的分割mask,从而在金相图片较大或金相图片中枝晶结构复杂的情况下,实现图像的精确分割,提高了分割mask的准确性与可靠性。
在一可能的实施例中,视觉分割模型包括编码器以及解码器;
编码器用于根据提示点将金相图片转换为嵌入特征,并对嵌入特征进行编码,得到特征图;
解码器用于对特征图中的每个像素的类别进行标注,并剔除负样本点对应区域的像素点,输出分割结果。
其中,视觉分割模型有通过检测框作为提示和通过点作为提示两种方法,通过输入提示,该视觉分割模型可在没有训练数据的情况下,根据对应图像的提示点进行图像分割并直接输出分割结果。
在一可能的实施例中,在步骤S12中,提示点的获取方式还可以包括以下步骤:
响应于用户的标注操作,生成对应金相图片的提示点。
示例地,在金相图片中的面积较小和/或色差不明显的金相组织,可响应于用户的标注操作,生成对应金相图片的提示点,以实现图像分割。
本公开根据用户的标注操作生成对应金相图片的提示点,避免对金相图片中的金相组织漏分割,进一步提高了分割结果的可靠性。
示例地,参见图6,金相组织获取方法可以包括以下步骤:
在步骤S61中,获取目标材料的金相图片。
在步骤S62中,将金相图片进行二值化处理,得到二值图。
在步骤S63中,对二值图进行连通域分析,得到第二数量个连通域。
在步骤S64中,生成对应目标金相组织所处连通域的正样本点。
在步骤S65中,生成对应除目标金相组织之外的连通域的负样本点,得到对应金相图片的提示点。
在步骤S66中,将金相图片和提示点输入到视觉分割模型中,得到视觉分割模型输出的分割结果。
在步骤S67中,根据分割结果,确定目标材料的金相组织。
示例地,以基恩士数码显微镜VHX-6000光学显微镜以2500倍拍摄的十一元铝合金材料定量金相图片为例,金相图片参见图7a。对金相图片进行图像增强和去噪处理,得到如图7b所示的二值图,十一元铝合金材料包括α-Al相、AlSi相以及FeMnSi相。
针对α-Al相,生成如图7b所示的对应二值图中的白色区域的正样本点,以及对应黑色区域的负样本点,得到图7c所示的对应α-Al相的提示点示意图,将二值图和对应α-Al相的提示点输入到SAM中,得到SAM输出的如图7d所示的α-Al相分割mask图。
针对AlSi相,生成如图7b所示的对应二值图中的黑色区域的正样本点,以及对应白色区域的负样本点,得到图7e所示的对应AlSi相的提示点示意图,将二值图和对应AlSi相的提示点输入到SAM中,得到SAM输出的如图7f所示的AlSi相分割mask图。
针对FeMnSi相,如图7g所示,FeMnSi相的颜色介于深色和浅色之间,根据预设提示点策略生成的对应金相图片的提示点以及该金相图片无法分割FeMnSi相,因此响应于用户的标注操作,生成图7g所示的对应金相图片的正样本点和负样本点,得到如图7h所示的对应FeMnSi相的提示点示意图,将该金相图片和对应FeMnSi相的提示点输入到SAM中,得到SAM输出的如图7i所示的FeMnSi相分割mask图。
根据α-Al相分割mask图、AlSi相分割mask图以及FeMnSi相分割mask图,确定十一元铝合金材料的金相组织。
本公开引入视觉分割模型,根据预设提示点策略生成对应金相图片的提示点,并将金相图片和提示点输入到视觉模型中,实现图像分割,从而根据分割结果确定目标材料的金相组织,调参简单且具有较高的泛化性,无需在金相图片中标注数据便可实现图像分割,且分割结果可靠。
基于同一发明构思,本公开还提供一种金相组织获取装置,参见图8,该金相组织获取模块800包括获取模块801、嵌入模块802、执行模块803以及确定模块804。
其中,获取模块801配置为获取目标材料的金相图片。
嵌入模块802被配置为根据预设提示点策略,生成对应金相图片的提示点。
执行模块803被配置为将金相图片和提示点输入到视觉分割模型中,得到视觉分割模型输出的分割结果。
确定模块804被配置为根据分割结果,确定目标材料的金相组织。
本公开根据金相组织对应的预设提示点策略生成对应金相图片的提示点,通过视觉分割模型根据提示点对金相图片进行分割,得到分割结果,提升了分割结果的可靠性,根据分割结果确定目标材料中的金相组织,无需训练样本和复杂的调参过程,既能解决传统方法的泛化性不足、调参复杂的问题,又能根据不需要任何标注数据的金相图片实现图像分割,从而实现对目标材料的定量分析。
进一步的,提示点包括正样本点以及负样本点,嵌入模块802被配置为根据金相图片中的目标金相组织,确定出金相图片的第一数量个区域;
生成对应目标金相组织的区域的正样本点;
生成对应除目标金相组织之外的区域得的负样本点,得到对应金相图片的提示点。
进一步的,提示点包括正样本点以及负样本点,嵌入模块802还被配置为将金相图片进行二值化处理,得到二值图;
对二值图进行连通域分析,得到第二数量个连通域;
生成对应目标金相组织所处连通域的正样本点;
生成对应除目标金相组织之外的连通域的负样本点,得到对应金相图片的提示点。
进一步的,嵌入模块802还被配置为根据第二数量个所述连通域的面积,从大到小对第二数量个连通域进行排序,从而确定第二数量个连通域中的每个连通域的序号;
针对每一连通域,根据样本点的总数、第二数量以及连通域的序号计算得到对应连通域中的样本点的数量。
进一步的,执行模块803被配置为将金相图片裁切为多个子样本图;
分别将子样本图以及对应子样本图的提示点输入到视觉分割模型中,得到视觉分割模型输出的多个子分割区;
根据多个子样本图与金相图片的像素对应关系,将多个子分割区进行拼接,得到分割结果。
进一步的,视觉分割模型包括编码器以及解码器;
编码器用于根据提示点将金相图片转换为嵌入特征,并对嵌入特征进行编码,得到特征图;
解码器用于对特征图中的每个像素的类别进行标注,并剔除负样本点对应区域的像素点,输出分割结果。
进一步的,嵌入模块802还被配置为响应于用户的标注操作,生成对应所述金相图片的提示点。
关于上述实施例中的金相组织获取装置,其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述,此处将不做详细阐述说明。
本公开还提供一种计算机可读存储介质,其上存储有计算机程序指令,该程序指令被处理器执行时实现本公开提供的金相组织获取方法的步骤:
基于同一发明构思,本公开还提供一种金相组织获取装置,包括:
第一处理器;
用于存储第一处理器可执行指令的存储器;
其中,第一处理器被配置为:
获取目标材料的金相图片;
根据预设提示点策略,生成对应金相图片的提示点;
将金相图片和提示点输入到视觉分割模型中,得到视觉分割模型输出的分割结果;
根据分割结果,确定目标材料的金相组织。
本公开根据金相组织对应的预设提示点策略生成对应金相图片的提示点,通过视觉分割模型根据提示点对金相图片进行分割,得到分割结果,提升了分割结果的可靠性,根据分割结果确定目标材料中的金相组织,无需训练样本和复杂的调参过程,既能解决传统方法的泛化性不足、调参复杂的问题,又能根据不需要任何标注数据的金相图片实现图像分割,从而实现对目标材料的定量分析。
图9是根据一示例性实施例示出的一种金相组织获取装置900的框图。例如,金相组织获取装置900可以是移动电话,计算机,平板设备,个人数字助理等。
参照图9,金相组织获取装置900可以包括以下一个或多个组件:第一处理组件902,第一存储器904,第一电源组件906,多媒体组件908,音频组件910,第一输入/输出接口912,传感器组件914,以及通信组件916。
第一处理组件902通常控制金相组织获取装置900的整体操作,诸如与获取金相图片以及记录操作相关联的操作。第一处理组件902可以包括一个或多个第一处理器920来执行指令,以完成上述的金相组织获取方法的全部或部分步骤。此外,第一处理组件902可以包括一个或多个模块,便于第一处理组件902和其他组件之间的交互。例如,第一处理组件902可以包括多媒体模块,以方便多媒体组件908和第一处理组件902之间的交互。
第一存储器904被配置为存储各种类型的数据以支持在金相组织获取装置900的操作。这些数据的示例包括用于在金相组织获取装置900上操作的任何应用程序或方法的指令,如用户的标注操作、金相图片等。第一存储器904可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
第一电源组件906为金相组织获取装置900的各种组件提供电力。第一电源组件906可以包括电源管理系统,一个或多个电源,及其他与为金相组织获取装置900生成、管理和分配电力相关联的组件。
多媒体组件908包括在金相组织获取装置900和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件908包括一个前置摄像头和/或后置摄像头。当金相组织获取装置900处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件910被配置为输出和/或输入音频信号。例如,音频组件910包括一个麦克风(MIC),当金相组织获取装置900处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在第一存储器904或经由通信组件916发送。在一些实施例中,音频组件910还包括一个扬声器,用于输出音频信号。
第一输入/输出接口912为第一处理组件902和外围接口模块之间提供接口,上述外围接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件914包括一个或多个传感器,用于为金相组织获取装置900提供各个方面的状态评估。例如,传感器组件914可以检测到金相组织获取装置900的打开/关闭状态,组件的相对定位,例如所述组件为金相组织获取装置900的显示器和小键盘,传感器组件914还可以检测金相组织获取装置900或金相组织获取装置900一个组件的位置改变,用户与金相组织获取装置900接触的存在或不存在,金相组织获取装置900方位或加速/减速和金相组织获取装置900的温度变化。传感器组件914可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件914还可以包括光传感器,如CMOS或CCD图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件914还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。
通信组件916被配置为便于金相组织获取装置900和其他设备之间有线或无线方式的通信。金相组织获取装置900可以接入基于通信标准的无线网络,如WiFi,2G或3G,或它们的组合。在一个示例性实施例中,通信组件916经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中,所述通信组件916还包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频识别(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其他技术来实现。
在示例性实施例中,金相组织获取装置900可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述金相组织获取方法。
在示例性实施例中,还提供了一种包括指令的非临时性计算机可读存储介质,例如包括指令的第一存储器904,上述指令可由金相组织获取装置900的第一处理器920执行以完成上述金相组织获取方法。例如,所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
上述金相组织获取装置900除了可以是独立的电子设备外,也可是独立电子设备的一部分,例如在一种实施例中,该装置可以是集成电路(Integrated Circuit,IC)或芯片,其中该集成电路可以是一个IC,也可以是多个IC的集合;该芯片可以包括但不限于以下种类:GPU(Graphics Processing Unit,图形处理器)、CPU(Central Processing Unit,中央处理器)、FPGA(Field Programmable Gate Array,可编程逻辑阵列)、DSP(DigitalSignal Processor,数字信号处理器)、ASIC(Application Specific IntegratedCircuit,专用集成电路)、SOC(System on Chip,SoC,片上系统或系统级芯片)等。上述的集成电路或芯片中可以用于执行可执行指令(或代码),以实现上述的金相组织获取方法。其中该可执行指令可以存储在该集成电路或芯片中,也可以从其他的装置或设备获取,例如该集成电路或芯片中包括处理器、存储器,以及用于与其他的装置通信的接口。该可执行指令可以存储于该第二存储器中,当该可执行指令被处理器执行时实现上述的金相组织获取方法;或者,该集成电路或芯片可以通过该接口接收可执行指令并传输给该处理器执行,以实现上述的金相组织获取方法。
本公开根据金相组织对应的预设提示点策略生成对应金相图片的提示点,通过视觉分割模型根据提示点对金相图片进行分割,得到分割结果,提升了分割结果的可靠性,根据分割结果确定目标材料中的金相组织,无需训练样本和复杂的调参过程,既能解决传统方法的泛化性不足、调参复杂的问题,又能根据不需要任何标注数据的金相图片实现图像分割,从而实现对目标材料的定量分析。
图10是根据一示例性实施例示出的一种芯片1000的框图。例如,芯片1000可以被提供为一服务器。参照图10,芯片1000包括第二处理组件1022,其进一步包括一个或多个处理器,以及由第二存储器1032所代表的存储器资源,用于存储可由第二处理组件1022的执行的指令,例如应用程序。第二存储器1032中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外,第二处理组件1022被配置为执行指令,以执行上述金相组织获取方法。
芯片1000还可以包括一个第二电源组件1026被配置为执行芯片1000的电源管理,一个有线或无线网络接口1050被配置为将芯片1000连接到网络,和一个第二输入/输出接口1058。芯片1000可以操作基于存储在第二存储器1032的操作系统,例如WindowsServerTM,Mac OS XTM,UnixTM,LinuxTM,FreeBSDTM或类似。
在另一示例性实施例中,还提供一种计算机程序产品,该计算机程序产品包含能够由可编程的装置执行的计算机程序,该计算机程序具有当由该可编程的装置执行时用于执行上述的金相组织获取方法的代码部分。
本领域技术人员在考虑说明书及实践本公开后,将容易想到本公开的其它实施方案。本公开旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由下面的权利要求指出。
应当理解的是,本公开并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。

Claims (11)

1.一种金相组织获取方法,其特征在于,包括:
获取目标材料的金相图片;
根据预设提示点策略,生成对应所述金相图片的提示点;
将所述金相图片和所述提示点输入到视觉分割模型中,得到所述视觉分割模型输出的分割结果;
根据所述分割结果,确定所述目标材料的金相组织。
2.根据权利要求1所述的金相组织获取方法,其特征在于,所述提示点包括正样本点以及负样本点;
所述根据预设提示点策略,生成对应所述金相图片的提示点,包括:
根据所述金相图片中的目标金相组织,确定出所述金相图片的第一数量个区域;
生成对应所述目标金相组织的区域的正样本点;
生成对应除所述目标金相组织之外的区域的负样本点,得到对应所述金相图片的提示点。
3.根据权利要求1所述的金相组织获取方法,其特征在于,所述提示点包括正样本点以及负样本点;
所述根据预设提示点策略,生成对应所述金相图片的提示点,包括:
将所述金相图片进行二值化处理,得到二值图;
对所述二值图进行连通域分析,得到第二数量个连通域;
生成对应目标金相组织所处连通域的正样本点;
生成对应除所述目标金相组织之外的连通域的负样本点,得到对应所述金相图片的提示点。
4.根据权利要求3所述的金相组织获取方法,其特征在于,每一连通域对应的样本点的数量,通过以下步骤确定:
根据所述第二数量个所述连通域的面积,从大到小对所述第二数量个连通域进行排序,从而确定所述第二数量个连通域中的每个连通域的序号;
针对每一所述连通域,根据样本点的总数、所述第二数量以及所述连通域的序号计算得到对应所述连通域中的样本点的数量。
5.根据权利要求1-4中任一项所述的金相组织获取方法,其特征在于,所述将所述金相图片和所述提示点输入到视觉分割模型中,得到所述视觉分割模型输出的分割结果,包括:
将所述金相图片裁切为多个子样本图;
分别将所述子样本图以及对应所述子样本图的提示点输入到所述视觉分割模型中,得到所述视觉分割模型输出的多个子分割区;
根据多个所述子样本图与所述金相图片的像素对应关系,将所述多个子分割区进行拼接,得到分割结果。
6.根据权利要求5所述的金相组织获取方法,其特征在于,所述视觉分割模型包括编码器以及解码器;
所述编码器用于根据所述提示点将所述金相图片转换为嵌入特征,并对所述嵌入特征进行编码,得到特征图;
所述解码器用于对所述特征图中的每个像素的类别进行标注,并剔除负样本点对应区域的像素点,输出分割结果。
7.根据权利要求1所述的金相组织获取方法,其特征在于,所述提示点的获取方式还包括:
响应于用户的标注操作,生成对应所述金相图片的提示点。
8.一种金相组织获取装置,其特征在于,包括:
获取模块,被配置为获取目标材料的金相图片;
嵌入模块,被配置为根据预设提示点策略,生成对应所述金相图片的提示点;
执行模块,被配置为将所述金相图片和所述提示点输入到视觉分割模型中,得到所述视觉分割模型输出的分割结果;
确定模块,被配置为根据所述分割结果,确定所述目标材料的金相组织。
9.一种金相组织获取装置,其特征在于,包括:
第一处理器;
用于存储第一处理器可执行指令的存储器;
其中,所述第一处理器被配置为:
获取目标材料的金相图片;
根据预设提示点策略,生成对应所述金相图片的提示点;
将所述金相图片和所述提示点输入到视觉分割模型中,得到所述视觉分割模型输出的分割结果;
根据所述分割结果,确定所述目标材料的金相组织。
10.一种计算机可读存储介质,其上存储有计算机程序指令,其特征在于,该程序指令被第一处理器执行时实现权利要求1~7中任一项所述方法的步骤。
11.一种芯片,其特征在于,包括第二处理器和接口;
所述第二处理器用于读取指令以执行权利要求1~7中任一项所述的方法。
CN202310714277.XA 2023-06-15 2023-06-15 金相组织获取方法、装置、存储介质及芯片 Pending CN116721115A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310714277.XA CN116721115A (zh) 2023-06-15 2023-06-15 金相组织获取方法、装置、存储介质及芯片

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310714277.XA CN116721115A (zh) 2023-06-15 2023-06-15 金相组织获取方法、装置、存储介质及芯片

Publications (1)

Publication Number Publication Date
CN116721115A true CN116721115A (zh) 2023-09-08

Family

ID=87865695

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310714277.XA Pending CN116721115A (zh) 2023-06-15 2023-06-15 金相组织获取方法、装置、存储介质及芯片

Country Status (1)

Country Link
CN (1) CN116721115A (zh)

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050111720A1 (en) * 2003-11-25 2005-05-26 Gurcan Metin N. Shape estimates and temporal registration of lesions and nodules
CN103871050A (zh) * 2014-02-19 2014-06-18 小米科技有限责任公司 图标分割方法、装置和终端
CN103996189A (zh) * 2014-05-05 2014-08-20 小米科技有限责任公司 图像分割方法及装置
US20150317800A1 (en) * 2014-05-05 2015-11-05 Xiaomi Inc. Method and device for image segmentation
CN112102328A (zh) * 2019-06-18 2020-12-18 创新工场(北京)企业管理股份有限公司 基于深度学习的图像分割处理方法及其系统、电子设备
CN113159230A (zh) * 2021-05-20 2021-07-23 聚时科技(上海)有限公司 一种基于深度学习的金相评级分类方法
WO2021212940A1 (zh) * 2020-04-21 2021-10-28 宁波深莱医疗科技有限公司 牙颌三维数字模型的分割方法
CN114972300A (zh) * 2022-06-17 2022-08-30 鞍钢集团北京研究院有限公司 一种基于计算机视觉和深度学习的材料图像分割识别方法
JP2022188504A (ja) * 2021-06-09 2022-12-21 Jfeスチール株式会社 金属組織のセグメンテーション方法

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050111720A1 (en) * 2003-11-25 2005-05-26 Gurcan Metin N. Shape estimates and temporal registration of lesions and nodules
CN103871050A (zh) * 2014-02-19 2014-06-18 小米科技有限责任公司 图标分割方法、装置和终端
CN103996189A (zh) * 2014-05-05 2014-08-20 小米科技有限责任公司 图像分割方法及装置
US20150317800A1 (en) * 2014-05-05 2015-11-05 Xiaomi Inc. Method and device for image segmentation
EP2942753A1 (en) * 2014-05-05 2015-11-11 Xiaomi Inc. Method and device for image segmentation
CN112102328A (zh) * 2019-06-18 2020-12-18 创新工场(北京)企业管理股份有限公司 基于深度学习的图像分割处理方法及其系统、电子设备
WO2021212940A1 (zh) * 2020-04-21 2021-10-28 宁波深莱医疗科技有限公司 牙颌三维数字模型的分割方法
US20220222818A1 (en) * 2020-04-21 2022-07-14 Ningbo Shenlai Medical Technology Co., Ltd. Method for segmenting 3d digital model of jaw
CN113159230A (zh) * 2021-05-20 2021-07-23 聚时科技(上海)有限公司 一种基于深度学习的金相评级分类方法
JP2022188504A (ja) * 2021-06-09 2022-12-21 Jfeスチール株式会社 金属組織のセグメンテーション方法
CN114972300A (zh) * 2022-06-17 2022-08-30 鞍钢集团北京研究院有限公司 一种基于计算机视觉和深度学习的材料图像分割识别方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
陈可: "基于支持向量机的极光图像分割", 《电子制作》 *

Similar Documents

Publication Publication Date Title
KR101805090B1 (ko) 영역 인식 방법 및 장치
CN111598091A (zh) 图像识别方法、装置、电子设备及计算可读存储介质
WO2023087741A1 (zh) 缺陷检测方法及装置、电子设备、存储介质及计算机程序产品
CN106228556B (zh) 图像质量分析方法和装置
CN109934275B (zh) 图像处理方法及装置、电子设备和存储介质
CN108717542B (zh) 识别文字区域的方法、装置及计算机可读存储介质
CN111666941B (zh) 一种文本检测方法、装置及电子设备
CN109670458A (zh) 一种车牌识别方法及装置
CN111476057B (zh) 车道线获取方法及装置、车辆驾驶方法及装置
CN110781905A (zh) 一种图像检测方法及装置
CN116863286B (zh) 一种双流目标检测方法及其模型搭建方法
CN111814538B (zh) 目标对象的类别识别方法、装置、电子设备及存储介质
CN113888543B (zh) 肤色分割方法、装置、电子设备及存储介质
CN110991412A (zh) 人脸识别的方法、装置、存储介质及电子设备
CN112306601A (zh) 一种应用交互方法、装置、电子设备及存储介质
CN116611482A (zh) 模型训练方法、装置、电子设备及介质
CN114723715B (zh) 车辆目标检测方法、装置、设备、车辆及介质
CN116563359A (zh) 高光处理模型的训练方法、图像处理方法和装置
CN116310633A (zh) 一种关键点检测模型训练方法及关键点检测方法
CN116721115A (zh) 金相组织获取方法、装置、存储介质及芯片
CN111428806B (zh) 图像标签确定方法、装置、电子设备及存储介质
CN117671473B (zh) 基于注意力和多尺度特征融合的水下目标检测模型及方法
CN117392527B (zh) 一种高精度水下目标分类检测方法及其模型搭建方法
CN115033731B (zh) 图像检索方法、装置、电子设备及存储介质
CN112036507B (zh) 图像识别模型的训练方法、装置、存储介质和电子设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination