CN116704178A - 一种图像的实例分割方法、装置、存储介质及电子设备 - Google Patents

一种图像的实例分割方法、装置、存储介质及电子设备 Download PDF

Info

Publication number
CN116704178A
CN116704178A CN202310361842.9A CN202310361842A CN116704178A CN 116704178 A CN116704178 A CN 116704178A CN 202310361842 A CN202310361842 A CN 202310361842A CN 116704178 A CN116704178 A CN 116704178A
Authority
CN
China
Prior art keywords
target
image
positioning frame
sample image
sample
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310361842.9A
Other languages
English (en)
Inventor
顾章轩
陈昊星
许卓尔
兰钧
孟昌华
王维强
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alipay Hangzhou Information Technology Co Ltd
Original Assignee
Alipay Hangzhou Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alipay Hangzhou Information Technology Co Ltd filed Critical Alipay Hangzhou Information Technology Co Ltd
Priority to CN202310361842.9A priority Critical patent/CN116704178A/zh
Publication of CN116704178A publication Critical patent/CN116704178A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/20—Image preprocessing
    • G06V10/26—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G06N3/0455—Auto-encoder networks; Encoder-decoder networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/20—Image preprocessing
    • G06V10/22—Image preprocessing by selection of a specific region containing or referencing a pattern; Locating or processing of specific regions to guide the detection or recognition
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/20—Image preprocessing
    • G06V10/28—Quantising the image, e.g. histogram thresholding for discrimination between background and foreground patterns
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/20—Image preprocessing
    • G06V10/30—Noise filtering
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/40—Extraction of image or video features
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/774—Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/80—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level
    • G06V10/806—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level of extracted features
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Evolutionary Computation (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Databases & Information Systems (AREA)
  • Medical Informatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Molecular Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Image Analysis (AREA)

Abstract

本说明书公开了一种图像的实例分割方法、装置、存储介质和电子设备，获取待分割图像以及若干待调整定位框；将所述待分割图像输入所述编码端，以提取所述待分割图像的多尺度特征，将多尺度特征输入所述解码端，以检测所述待分割图像中的各目标，针对每个目标，将各待调整定位框作为包含噪声的定位框输入所述解码端，对各待调整定位框进行去噪，得到用于定位该目标的标准定位框，所述噪声为导致各待调整定位框相对于该目标的标准定位框存在差异的噪声，根据该目标的标准定位框和所述多尺度特征，从所述待分割图像中分割该目标。本方法通过除去图像噪声，实现对图像进行实例分割。

Description

一种图像的实例分割方法、装置、存储介质及电子设备
技术领域
本说明书涉图像处理领域，尤其涉及一种图像的实例分割方法、装置、存储介质及电子设备。
背景技术
随着互联网技术的发展，越来越多的场景需要应用实例分割，即对图像进行处理，以获取仅包含目标物的图像，该图像可能包含个人隐私数据。例如，仅获取图像中某一目标物的图像，因此，如何对图像进行实例分割是个亟待解决的问题。
基于此，本说明书提供一种图像的实例分割方法。
发明内容
本说明书提供一种图像的实例分割方法、装置、存储介质及电子设备，以至少部分的解决现有技术存在的上述问题。
本说明书采用下述技术方案：
本说明书提供一种图像的实例分割方法，预先训练的分割模型包括编码端和解码端，所述解码端由扩散模型实现，所述方法包括：
获取待分割图像以及若干待调整定位框；
将所述待分割图像输入所述编码端，以通过所述编码端提取所述待分割图像的多尺度特征；
将多尺度特征输入所述解码端，以通过所述解码端基于所述多尺度特征检测所述待分割图像中的各目标；
针对每个目标，将各待调整定位框作为包含噪声的定位框输入所述解码端，以通过所述解码端基于该目标对各待调整定位框进行去噪，得到用于定位该目标的标准定位框；所述噪声为导致各待调整定位框相对于该目标的标准定位框存在差异的噪声；
根据该目标的标准定位框和所述多尺度特征，从所述待分割图像中分割该目标。
可选地，根据该目标的标准定位框和所述多尺度特征，从所述待分割图像中分割该目标，具体包括：
融合所述多尺度特征得到融合后的特征图，作为融合图像；
根据该目标的标准定位框、所述多尺度特征及所述融合图像，从所述待分割图像中分割该目标。
可选地，根据该目标的标准定位框、所述多尺度特征及所述融合图像，从所述待分割图像中分割该目标，具体包括：
根据所述待分割图像中位于该目标的标准定位框的部分及所述多尺度特征，确定该目标的特征向量；
根据所述特征向量及所述融合图像，从所述待分割图像中分割该目标。
可选地，根据所述特征向量及所述融合图像，从所述待分割图像中分割该目标，具体包括：
根据所述特征向量确定该目标对应的卷积核；
利用所述卷积核对所述融合图像进行卷积，以确定该目标的二值化掩膜；
根据该目标的二值化掩膜，从所述待分割图像中分割该目标。
可选地，训练所述分割模型，具体包括：
获取样本图像、所述样本图像的标签以及各待调整样本定位框，所述标签包括所述样本图像中各目标的掩膜；
将所述样本图像输入所述分割模型的编码端，以通过所述编码端提取所述样本图像的多尺度特征；
将所述样本图像的多尺度特征输入所述分割模型的解码端，以通过所述解码端基于所述样本图像的多尺度特征检测所述样本图像中的各目标；
针对所述样本图像中的每个目标，将各待调整样本定位框输入所述解码端，以通过所述解码端基于该目标对各待调整样本定位框进行去噪，得到用于定位该目标的第一定位框；
根据该目标的第一定位框和所述样本图像的多尺度特征，确定所述分割模型输出的该目标的掩膜；
根据所述样本图像中每个目标的掩膜及所述标签，对所述分割模型进行训练。
可选地，获取各待调整样本定位框，具体包括：
获取对样本图像中已标注出的各目标对应的标准定位框；
对所述标准定位框加入噪声，得到各待调整样本定位框。
可选地，所述分割模型还用于对所述样本图像中的各目标进行分类；
所述标签还包括所述样本图像中各目标对应的标准定位框及各目标的类别；
根据所述样本图像中每个目标的掩膜及所述标签，对所述分割模型进行训练，具体包括：
根据所述分割模型对所述样本图像中检测出的各目标进行分类的分类结果及所述标签，确定分类损失；
根据所述样本图像中每个目标的掩膜及所述标签，确定第一损失；
根据所述标签及所述样本图像中每个目标的第一定位框，确定第二损失；
根据所述分类损失、所述第一损失和所述第二损失，确定综合损失；
以最小化所述综合损失为训练目标，对所述分割模型进行训练。
本说明书提供了一种图像的实例分割装置，预先训练的分割模型包括编码端和解码端，所述解码端由扩散模型实现，所述装置包括：
图像获取模块，用于获取待分割图像以及若干待调整定位框；
特征提取模块，用于将所述待分割图像输入所述编码端，以通过所述编码端提取所述待分割图像的多尺度特征；
目标确定模块，用于将多尺度特征输入所述解码端，以通过所述解码端基于所述多尺度特征检测所述待分割图像中的各目标；
去噪模块，用于针对每个目标，将各待调整定位框作为包含噪声的定位框输入所述解码端，以通过所述解码端基于该目标对各待调整定位框进行去噪，得到用于定位该目标的标准定位框；所述噪声为导致各待调整定位框相对于该目标的标准定位框存在差异的噪声；
目标分割模块，用于根据该目标的标准定位框和所述多尺度特征，从所述待分割图像中分割该目标。
可选地，所述目标分割模块具体用于，融合所述多尺度特征得到融合后的特征图，作为融合图像；根据该目标的标准定位框、所述多尺度特征及所述融合图像，从所述待分割图像中分割该目标。
可选地，所述目标分割模块具体用于，根据所述待分割图像中位于该目标的标准定位框的部分及所述多尺度特征，确定该目标的特征向量；根据所述特征向量及所述融合图像，从所述待分割图像中分割该目标。
可选地，所述目标分割模块具体用于，根据所述特征向量确定该目标对应的卷积核；利用所述卷积核对所述融合图像进行卷积，以确定该目标的二值化掩膜；根据该目标的二值化掩膜，从所述待分割图像中分割该目标。
可选地，所述装置还包括：
模型训练模块，用于获取样本图像、所述样本图像的标签以及各待调整样本定位框，所述标签包括所述样本图像中各目标的掩膜；将所述样本图像输入所述分割模型的编码端，以通过所述编码端提取所述样本图像的多尺度特征；将所述样本图像的多尺度特征输入所述分割模型的解码端，以通过所述解码端基于所述样本图像的多尺度特征检测所述样本图像中的各目标；针对所述样本图像中的每个目标，将各待调整样本定位框输入所述解码端，以通过所述解码端基于该目标对各待调整样本定位框进行去噪，得到用于定位该目标的第一定位框；根据该目标的第一定位框和所述样本图像的多尺度特征，确定所述分割模型输出的该目标的掩膜；根据所述样本图像中每个目标的掩膜及所述标签，对所述分割模型进行训练。
可选地，所述模型训练模块，具体用于获取对样本图像中已标注出的各目标对应的标准定位框；对所述标准定位框加入噪声，得到各待调整样本定位框。
可选地，所述标签还包括所述样本图像中各目标对应的标准定位框及各目标的类别；所述模型训练模块具体用于，根据所述分割模型对所述样本图像中检测出的各目标进行分类的分类结果及所述标签，确定分类损失；根据所述样本图像中每个目标的掩膜及所述标签，确定第一损失；根据所述标签及所述样本图像中每个目标的第一定位框，确定第二损失；根据所述分类损失、所述第一损失和所述第二损失，确定综合损失；以最小化所述综合损失为训练目标，对所述分割模型进行训练。
本说明书提供了一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序被处理器执行时实现上述图像的实例分割方法。
本说明书提供了一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现上述图像的实例分割方法。
本说明书采用的上述至少一个技术方案能够达到以下有益效果：
在本说明书提供的图像的实例分割方法中，预先训练的分割模型包括编码端和解码端，所述解码端由扩散模型实现，获取待分割图像以及若干待调整定位框；将所述待分割图像输入所述编码端，以通过所述编码端提取所述待分割图像的多尺度特征；将多尺度特征输入所述解码端，以通过所述解码端基于所述多尺度特征检测所述待分割图像中的各目标；针对每个目标，将各待调整定位框作为包含噪声的定位框输入所述解码端，以通过所述解码端基于该目标对各待调整定位框进行去噪，得到用于定位该目标的标准定位框；所述噪声为导致各待调整定位框相对于该目标的标准定位框存在差异的噪声；根据该目标的标准定位框和所述多尺度特征，从所述待分割图像中分割该目标。
从上述方法中可以看出，本方法通过扩散模型对包含待调整定位框的图像除去噪声，得到待分割图像中各目标的标准定位框，通过标准定位框及多尺度特征，实现对待分割图像进行实例分割。
附图说明
此处所说明的附图用来提供对本说明书的进一步理解，构成本说明书的一部分，本说明书的示意性实施例及其说明用于解释本说明书，并不构成对本说明书的不当限定。在附
图中：
图1为本说明书提供的一种图像的实例分割方法的流程示意图；
图2为本说明书提供分割模型的结构示意图；
图3为本说明书提供的训练分割模型的示意图；
图4为本说明书提供的一种图像的实例分割装置示意图；
图5为本说明书提供的对应于图1的电子设备示意图。
具体实施方式
为使本说明书的目的、技术方案和优点更加清楚，下面将结合本说明书具体实施例及相应的附图对本说明书技术方案进行清楚、完整地描述。显然，所描述的实施例仅是本说明书一部分实施例，而不是全部的实施例。基于本说明书中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。
以下结合附图，详细说明本说明书各实施例提供的技术方案。
图1为本说明书提供的一种图像的实例分割方法的流程示意图，具体包括以下步骤：
S100：获取待分割图像以及若干待调整定位框。
在本说明书一个或多个实施例中，在用户执行各类业务时，可能需要从包含多个目标物的原始图像中分割出仅包含目标物的图像，那么则需要对原始图像进行实例分割。在目前存在的对图像进行实例分割的方法中，对于利用单阶段实例分割算法得到的分割结果准确度比较低，因此，本说明出提出了利用扩散模型对图像进行实例分割的方法。对图像进行图像分割通常可由服务器或其他具有计算功能的设备对图像执行，为了方便说明，下面以服务器为对图像进行实例分割的执行主体进行说明。
在对图像进行实例分割之前，服务器要先获取待分割图像以及若干待调整定位框，其中，服务器可随机生成(即尺寸随机)一定数量的定位框，这些随机生成的定位框即为待调整定位框，待调整定位框的数量可以是服务器随机生成的，也可以是预设的数量，本说明书对此不做限制，但随机生成的待调整定位框的数量至少等于待分割图像中目标的数量。
S102：将所述待分割图像输入所述编码端，以通过所述编码端提取所述待分割图像的多尺度特征。
图2为本说明书提供分割模型的结构示意图，如图2所示，分割模型具有编码端和解码端，编码端用于提取该待分割图像的多尺度特征，解码端由扩散模型实现，用于确定该待分割图像的各目标及对各待调整定位框进行去噪。
服务器在对图像进行实例分割时，还需要得到待分割图像的多尺度特征，以便后续确定待分割图像中的各目标，因此，服务器可将该待分割图像输入分割模型的编码端，该编码端提取该待分割图像的多尺度特征。其中，该编码端可由主干网络(Backbone)及特征金字塔(Feature Pyramid Network，FPN)构成，本说明书对此不做限制。
S104：将多尺度特征输入所述解码端，以通过所述解码端基于所述多尺度特征检测所述待分割图像中的各目标。
服务器将多尺度特征输入扩散模型，扩散模型根据该多尺度特征，对待分割图像中的各目标进行检测，扩散模型还可对检测出的各目标进行分类，得到各目标的分类结果。
S106：针对每个目标，将各待调整定位框作为包含噪声的定位框输入所述解码端，以通过所述解码端基于该目标对各待调整定位框进行去噪，得到用于定位该目标的标准定位框。
如图2所示，为了更准确地分割出各目标，还可先确定各目标对应的标准定位框，服务器根据标准定位框及多尺度特征，对图像进行分割。在本说明书一个或多个实施例中，解码端由扩散模型实现，这是由于扩散模型本可用于去除图像中的噪声，以得到真实图像。而本说明书中需要先根据各待调整定位框确定出该目标的标准定位框，可将各待调整定位框理解为受噪声影响的标准定位框，正是由于受到了噪声的影响，所以才导致各待调整定位框相对于该目标的标准定位框存在差异。因此，通过扩散模型对第一模型进行去噪，以得到各目标对应的标准定位框。即针对每个目标，服务器将各待调整定位框输入解码端，解码端基于该目标对各待调整定位框进行去噪，得到用于定位该目标的标准定位框，其中服务器是根据各待调整定位框的位置将各待调整定位输入解码端，各待调整定位框的位置可以是各待调整定位框的坐标，例如，服务器可根据各待调整定位框的顶点的坐标将各待调整定位框输入解码端。
具体的，针对每个目标，扩散模型在各待调整定位框中判断是否存在该目标的标准定位框，若存在，则将该待调整定位框确定为该目标的标准定位框，若不存在，则确定与该目标的标准定位框最接近的目标定位框，调整该目标定位框的位置、大小等，得到用于定位该目标的标准定位框，再除去除该标准定位框的其他定位框。
S108：根据该目标的标准定位框和所述多尺度特征，从所述待分割图像中分割该目标。
具体的，首先，服务器融合多尺度特征得到融合后的特征图，作为融合图像，由于该融合图融合了待分割图像的多种尺度的特征，因此，融合图像更能表征待分割图像。如图2所示，服务器可通过融合网络对多种尺度的特征图进行上/下采样，以得到与待分割图像大小相等的特征图，再将采样后的各特征图进行通道拼接，然后利用卷积核在通道维度上进行卷积，得到单通道的融合特征图，作为融合图像，本说明书不限制得到融合图像的方法。
接着，根据待分割图像中位于该目标的标准定位框的部分及多尺度特征，确定该目标的特征向量，该目标的特征向量可以是169维，也可以是其他维数，本说明书对此不作限制。
然后，根据该特征向量确定该目标对应的卷积核，本说明书不限制该目标对应的卷积核的数量。
最后，利用卷积核对融合图像进行卷积，以确定该目标的二值化掩膜，根据该目标的二值化掩膜，从待分割图像中分割该目标，例如将该目标的二值化掩膜与待分割图像进行矩阵点乘从得到仅包含该目标的图像。
基于图1所示的图像的实例分割方法，本方法通过扩散模型对包含待调整定位框的图像除去噪声，得到待分割图像中各目标的标准定位框，通过标准定位框及多尺度特征，实现对待分割图像进行实例分割。
图3为本说明书提供的训练分割模型的示意图，如图3所示。
本说明书还提供对分割模型进行训练的方法，在对分割模型进行训练时，服务器先获取样本图像、样本图像的标签以及各待调整样本定位框，该标签包括该样本图像中各目标的掩膜。
具体的，服务器在获取各待调整样本定位框时，要获取对样本图像中已标注出各目标对应的标准定位框，对各目标对应的标准定位框加入噪声，得到各待调整样本定位框。其中，可通过调整该标准图像中的标准定位框的位置、大小、及加入预设数量的待调整定位框等方式，对该标准图像中的标准定位框加入噪声，本说明书对此不做限制。当然，服务器也可以直接随机生成一定数量的定位框，作为待调整样本定位框，本说明书对此不做限制。
接着，将该样本图像输入该分割模型的编码端，以通过该编码端提取该样本图像的多尺度特征。将该样本图像的多尺度特征输入该分割模型的解码端，以通过该解码端基于该样本图像的多尺度特征检测该样本图像中的各目标。
然后，针对该样本图像中的每个目标，将各待调整样本定位框输入该解码端，以通过该解码端基于该目标对各待调整样本定位框进行去噪，得到用于定位该目标的第一定位框。
最后，利用融合网络融合该样本图像的多尺度特征，得到样本融合图像。根据该样本图像中位于该目标的第一定位框的部分及该样本图像的多尺度特征，确定该目标的目标特征向量。根据该目标的目标特征向量，确定该目标的样本卷积核，利用该样本卷积核对样本融合图像进行卷积，以确定该分割模型输出的该目标的样本二值化掩膜。由于该分割模型还可用于对该样本图像中的各目标进行分类，并且标签还可包括该样本图像中各目标对应的标准定位框及各目标的类别。因此，服务器可根据该样本图像中每个目标的掩膜及该标签，对该分割模型进行训练。
具体的，服务器先根据该分割模型对从该样本图像中检测出的各目标进行分类的分类结果，及该标签中与该目标对应的类别，确定该分类结果及该类别的差异，根据该差异确定分类损失，该分类损失与该差异成正相关。再根据该样本图像中每个目标的掩膜及该标签中与该目标对应的掩膜，确定两者掩膜的差异，根据两者掩膜的差异，确定第一损失，该第一损失与该差异成正相关。然后，根据该标签中与该目标对应的标准定位框及该样本图像中每个目标的第一定位框，确定标准定位框及第一定位框的差异，根据该定位框之间的差异确定第二损失，该第二损失与该差异成正相关。接着，根据该分类损失、第一损失和第二损失，确定综合损失，本说明书不限制确定分类损失、第一损失和第二损失的顺序。最后，以最小化该综合损失为训练目标，对该分割模型进行训练，训练后的分割模型用于对图像进行实例分割。其中，可对分类损失、第一损失和第二损失设置权重，将设置权重后的各类损失进行加和，将加和结果作为综合损失，也可以直接将各类损失进行加和，将该加和结果作为综合损失，本说明书对此不做限制。
以上为本说明书的一个或多个实施例提供的图像的实例分割方法，基于同样的思路，本说明书还提供了相应的图像的实例分割装置，如图4所示。
图4本说明书提供的一种图像的实例分割装置示意图，预先训练的分割模型包括编码端和解码端，所述解码端由扩散模型实现，所述装置包括：
图像获取模块400，用于获取待分割图像以及若干待调整定位框；
特征提取模块402，用于将所述待分割图像输入所述编码端，以通过所述编码端提取所述待分割图像的多尺度特征；
目标确定模块404，用于将多尺度特征输入所述解码端，以通过所述解码端基于所述多尺度特征检测所述待分割图像中的各目标；
去噪模块406，用于针对每个目标，将各待调整定位框作为包含噪声的定位框输入所述解码端，以通过所述解码端基于该目标对各待调整定位框进行去噪，得到用于定位该目标的标准定位框；所述噪声为导致各待调整定位框相对于该目标的标准定位框存在差异的噪声；
目标分割模块408，用于根据该目标的标准定位框和所述多尺度特征，从所述待分割图像中分割该目标。
可选地，所述目标分割模块408具体用于，融合所述多尺度特征得到融合后的特征图，作为融合图像；根据该目标的标准定位框、所述多尺度特征及所述融合图像，从所述待分割图像中分割该目标。
可选地，所述目标分割模块408具体用于，根据所述待分割图像中位于该目标的标准定位框的部分及所述多尺度特征，确定该目标的特征向量；根据所述特征向量及所述融合图像，从所述待分割图像中分割该目标。
可选地，所述目标分割模块408具体用于，根据所述特征向量确定该目标对应的卷积核；利用所述卷积核对所述融合图像进行卷积，以确定该目标的二值化掩膜；根据该目标的二值化掩膜，从所述待分割图像中分割该目标。
可选地，所述装置还包括：
模型训练模块410，用于获取样本图像、所述样本图像的标签以及各待调整样本定位框，所述标签包括所述样本图像中各目标的掩膜；将所述样本图像输入所述分割模型的编码端，以通过所述编码端提取所述样本图像的多尺度特征；将所述样本图像的多尺度特征输入所述分割模型的解码端，以通过所述解码端基于所述样本图像的多尺度特征检测所述样本图像中的各目标；针对所述样本图像中的每个目标，将各待调整样本定位框输入所述解码端，以通过所述解码端基于该目标对各待调整样本定位框进行去噪，得到用于定位该目标的第一定位框；根据该目标的第一定位框和所述样本图像的多尺度特征，确定所述分割模型输出的该目标的掩膜；根据所述样本图像中每个目标的掩膜及所述标签，对所述分割模型进行训练。
可选地，所述模型训练模块410，具体用于获取对样本图像中已标注出的各目标对应的标准定位框；对所述标准定位框加入噪声，得到各待调整样本定位框。
可选地，所述标签还包括所述样本图像中各目标对应的标准定位框及各目标的类别；所述模型训练模块410具体用于，根据所述分割模型对所述样本图像中检测出的各目标进行分类的分类结果及所述标签，确定分类损失；根据所述样本图像中每个目标的掩膜及所述标签，确定第一损失；根据所述标签及所述样本图像中每个目标的第一定位框，确定第二损失；根据所述分类损失、所述第一损失和是第二损失，确定综合损失；以最小化所述综合损失为训练目标，对所述分割模型进行训练。
本说明书还提供了一种计算机可读存储介质，该存储介质存储有计算机程序，计算机程序可用于执行上述图1提供的图像的实例分割方法。
本说明书还提供了图5所示的电子设备的结构示意图。如图5所示，在硬件层面，该无人驾驶设备包括处理器、内部总线、网络接口、内存以及非易失性存储器，当然还可能包括其他业务所需要的硬件。处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行，以实现上述图1所述的图像的实例分割方法。当然，除了软件实现方式之外，本说明书并不排除其他实现方式，比如逻辑器件抑或软硬件结合的方式等等，也就是说以下处理流程的执行主体并不限定于各个逻辑单元，也可以是硬件或逻辑器件。
在20世纪90年代，对于一个技术的改进可以很明显地区分是硬件上的改进(例如，对二极管、晶体管、开关等电路结构的改进)还是软件上的改进(对于方法流程的改进)。然而，随着技术的发展，当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此，不能说一个方法流程的改进就不能用硬件实体模块来实现。例如，可编程逻辑器件(Programmable Logic Device,PLD)(例如现场可编程门阵列(Field Programmable GateArray，FPGA))就是这样一种集成电路，其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片PLD上，而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且，如今，取代手工地制作集成电路芯片，这种编程也多半改用“逻辑编译器(logic compiler)”软件来实现，它与程序开发撰写时所用的软件编译器相类似，而要编译之前的原始代码也得用特定的编程语言来撰写，此称之为硬件描述语言(Hardware Description Language，HDL)，而HDL也并非仅有一种，而是有许多种，如ABEL(Advanced Boolean Expression Language)、AHDL(Altera Hardware DescriptionLanguage)、Confluence、CUPL(Cornell University Programming Language)、HDCal、JHDL(Java Hardware Description Language)、Lava、Lola、MyHDL、PALASM、RHDL(RubyHardware Description Language)等，目前最普遍使用的是VHDL(Very-High-SpeedIntegrated Circuit Hardware Description Language)与Verilog。本领域技术人员也应该清楚，只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中，就可以很容易得到实现该逻辑方法流程的硬件电路。
控制器可以按任何适当的方式实现，例如，控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(Application Specific Integrated Circuit，ASIC)、可编程逻辑控制器和嵌入微控制器的形式，控制器的例子包括但不限于以下微控制器：ARC 625D、Atmel AT91SAM、Microchip PIC18F26K20以及Silicone Labs C8051F320，存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道，除了以纯计算机可读程序代码方式实现控制器以外，完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件，而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至，可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。
上述实施例阐明的系统、装置、模块或单元，具体可以由计算机芯片或实体实现，或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的，计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
为了描述的方便，描述以上装置时以功能分为各种单元分别描述。当然，在实施本说明书时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本领域内的技术人员应明白，本发明的实施例可提供为方法、系统、或计算机程序产品。因此，本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中，计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。
还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白，本说明书的实施例可提供为方法、系统或计算机程序产品。因此，本说明书可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且，本说明书可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本说明书可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本说明书，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于系统实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
以上所述仅为本说明书的实施例而已，并不用于限制本说明书。对于本领域技术人员来说，本说明书可以有各种更改和变化。凡在本说明书的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本申请的权利要求范围之内。

Claims (16)

1.一种图像的实例分割方法，预先训练的分割模型包括编码端和解码端，所述解码端由扩散模型实现，所述方法包括：
获取待分割图像以及若干待调整定位框；
将所述待分割图像输入所述编码端，以通过所述编码端提取所述待分割图像的多尺度特征；
将多尺度特征输入所述解码端，以通过所述解码端基于所述多尺度特征检测所述待分割图像中的各目标；
针对每个目标，将各待调整定位框作为包含噪声的定位框输入所述解码端，以通过所述解码端基于该目标对各待调整定位框进行去噪，得到用于定位该目标的标准定位框；所述噪声为导致各待调整定位框相对于该目标的标准定位框存在差异的噪声；
根据该目标的标准定位框和所述多尺度特征，从所述待分割图像中分割该目标。
2.如权利要求1所述的方法，根据该目标的标准定位框和所述多尺度特征，从所述待分割图像中分割该目标，具体包括：
融合所述多尺度特征得到融合后的特征图，作为融合图像；
根据该目标的标准定位框、所述多尺度特征及所述融合图像，从所述待分割图像中分割该目标。
3.如权利要求2所述的方法，根据该目标的标准定位框、所述多尺度特征及所述融合图像，从所述待分割图像中分割该目标，具体包括：
根据所述待分割图像中位于该目标的标准定位框的部分及所述多尺度特征，确定该目标的特征向量；
根据所述特征向量及所述融合图像，从所述待分割图像中分割该目标。
4.如权利要求3所述的方法，根据所述特征向量及所述融合图像，从所述待分割图像中分割该目标，具体包括：
根据所述特征向量确定该目标对应的卷积核；
利用所述卷积核对所述融合图像进行卷积，以确定该目标的二值化掩膜；
根据该目标的二值化掩膜，从所述待分割图像中分割该目标。
5.如权利要求1所述的方法，训练所述分割模型，具体包括：
获取样本图像、所述样本图像的标签以及各待调整样本定位框，所述标签包括所述样本图像中各目标的掩膜；
将所述样本图像输入所述分割模型的编码端，以通过所述编码端提取所述样本图像的多尺度特征；
将所述样本图像的多尺度特征输入所述分割模型的解码端，以通过所述解码端基于所述样本图像的多尺度特征检测所述样本图像中的各目标；
针对所述样本图像中的每个目标，将各待调整样本定位框输入所述解码端，以通过所述解码端基于该目标对各待调整样本定位框进行去噪，得到用于定位该目标的第一定位框；
根据该目标的第一定位框和所述样本图像的多尺度特征，确定所述分割模型输出的该目标的掩膜；
根据所述样本图像中每个目标的掩膜及所述标签，对所述分割模型进行训练。
6.如权利要求5所述的方法，获取各待调整样本定位框，具体包括：
获取对样本图像中已标注出的各目标对应的标准定位框；
对所述标准定位框加入噪声，得到各待调整样本定位框。
7.如权利要求5所述的方法，所述分割模型还用于对所述样本图像中的各目标进行分类；
所述标签还包括所述样本图像中各目标对应的标准定位框及各目标的类别；
根据所述样本图像中每个目标的掩膜及所述标签，对所述分割模型进行训练，具体包括：
根据所述分割模型对所述样本图像中检测出的各目标进行分类的分类结果及所述标签，确定分类损失；
根据所述样本图像中每个目标的掩膜及所述标签，确定第一损失；
根据所述标签及所述样本图像中每个目标的第一定位框，确定第二损失；
根据所述分类损失、所述第一损失和所述第二损失，确定综合损失；
以最小化所述综合损失为训练目标，对所述分割模型进行训练。
8.一种图像的实例分割的装置，预先训练的分割模型包括编码端和解码端，所述解码端由扩散模型实现，所述装置包括：
图像获取模块，用于获取待分割图像以及若干待调整定位框；
特征提取模块，用于将所述待分割图像输入所述编码端，以通过所述编码端提取所述待分割图像的多尺度特征；
目标确定模块，用于将多尺度特征输入所述解码端，以通过所述解码端基于所述多尺度特征检测所述待分割图像中的各目标；
去噪模块，用于针对每个目标，将各待调整定位框作为包含噪声的定位框输入所述解码端，以通过所述解码端基于该目标对各待调整定位框进行去噪，得到用于定位该目标的标准定位框；所述噪声为导致各待调整定位框相对于该目标的标准定位框存在差异的噪声；
目标分割模块，用于根据该目标的标准定位框和所述多尺度特征，从所述待分割图像中分割该目标。
9.如权利要求8所述的装置，所述目标分割模块，具体用于融合所述多尺度特征得到融合后的特征图，作为融合图像；根据该目标的标准定位框、所述多尺度特征及所述融合图像，从所述待分割图像中分割该目标。
10.如权利要求9所述的装置，所述目标分割模块，具体用于根据所述待分割图像中位于该目标的标准定位框的部分及所述多尺度特征，确定该目标的特征向量；根据所述特征向量及所述融合图像，从所述待分割图像中分割该目标。
11.如权利要求9所述的装置，所述目标分割模块，具体用于根据所述特征向量确定该目标对应的卷积核；利用所述卷积核对所述融合图像进行卷积，以确定该目标的二值化掩膜；根据该目标的二值化掩膜，从所述待分割图像中分割该目标。
12.如权利要求8所述的装置，所述装置还包括：
模型训练模块，用于获取样本图像、所述样本图像的标签以及各待调整样本定位框，所述标签包括所述样本图像中各目标的掩膜；将所述样本图像输入所述分割模型的编码端，以通过所述编码端提取所述样本图像的多尺度特征；将所述样本图像的多尺度特征输入所述分割模型的解码端，以通过所述解码端基于所述样本图像的多尺度特征检测所述样本图像中的各目标；针对所述样本图像中的每个目标，将各待调整样本定位框输入所述解码端，以通过所述解码端基于该目标对各待调整样本定位框进行去噪，得到用于定位该目标的第一定位框；根据该目标的第一定位框和所述样本图像的多尺度特征，确定所述分割模型输出的该目标的掩膜；根据所述样本图像中每个目标的掩膜及所述标签，对所述分割模型进行训练。
13.如权利要求12所述的装置，所述模型训练模块，具体用于获取对样本图像中已标注出的各目标对应的标准定位框；对所述标准定位框加入噪声，得到各待调整样本定位框。
14.如权利要求12所述的装置，所述标签还包括所述样本图像中各目标对应的标准定位框及各目标的类别；
所述模型训练模块，具体用于根据所述分割模型对所述样本图像中检测出的各目标进行分类的分类结果及所述标签，确定分类损失；根据所述样本图像中每个目标的掩膜及所述标签，确定第一损失；根据所述标签及所述样本图像中每个目标的第一定位框，确定第二损失；根据所述分类损失、所述第一损失和所述第二损失，确定综合损失；以最小化所述综合损失为训练目标，对所述分割模型进行训练。
15.一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序被处理器执行时实现上述权利要求1～7任一项所述的方法。
16.一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现上述权利要求1～7任一项所述的方法。
CN202310361842.9A 2023-04-04 2023-04-04 一种图像的实例分割方法、装置、存储介质及电子设备 Pending CN116704178A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310361842.9A CN116704178A (zh) 2023-04-04 2023-04-04 一种图像的实例分割方法、装置、存储介质及电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310361842.9A CN116704178A (zh) 2023-04-04 2023-04-04 一种图像的实例分割方法、装置、存储介质及电子设备

Publications (1)

Publication Number Publication Date
CN116704178A true CN116704178A (zh) 2023-09-05

Family

ID=87828206

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310361842.9A Pending CN116704178A (zh) 2023-04-04 2023-04-04 一种图像的实例分割方法、装置、存储介质及电子设备

Country Status (1)

Country Link
CN (1) CN116704178A (zh)

Similar Documents

Publication Publication Date Title
CN113095124B (zh) 一种人脸活体检测方法、装置以及电子设备
CN108334892B (zh) 一种基于卷积神经网络的车型识别方法、装置及设备
CN109034183B (zh) 一种目标检测方法、装置及设备
CN112990172B (zh) 一种文本识别方法、字符识别方法及装置
CN115600157B (zh) 一种数据处理的方法、装置、存储介质及电子设备
CN114943307B (zh) 一种模型训练的方法、装置、存储介质以及电子设备
CN115828162B (zh) 一种分类模型训练的方法、装置、存储介质及电子设备
CN111797711A (zh) 一种模型训练的方法及装置
CN111639684B (zh) 一种数据处理模型的训练方法及装置
CN112365513A (zh) 一种模型训练的方法及装置
CN114359935A (zh) 一种模型训练以及表格识别方法及装置
CN117197781B (zh) 一种交通标志识别的方法、装置、存储介质及电子设备
CN113988162A (zh) 模型训练及图像识别方法、装置、存储介质及电子设备
CN116186330B (zh) 一种基于多模态学习的视频去重方法及装置
CN117392688A (zh) 一种图像分类的方法、装置、存储介质以及电子设备
CN117036829A (zh) 一种基于原型学习实现标签增强的叶片细粒度识别方法和系统
CN112561961A (zh) 一种实例追踪的方法及装置
CN111523539A (zh) 一种文字检测方法及装置
CN116863484A (zh) 一种字符识别的方法、装置、存储介质及电子设备
CN116704178A (zh) 一种图像的实例分割方法、装置、存储介质及电子设备
CN112949642B (zh) 一种文字生成方法、装置、存储介质及电子设备
CN114926437A (zh) 一种图像质量评价方法及装置
CN114332189A (zh) 一种高精地图构建方法、装置、存储介质及电子设备
CN111539962A (zh) 一种目标图像分类方法、装置以及介质
CN117746193B (zh) 一种标签优化方法、装置、存储介质及电子设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination