CN116977930A - 基于图像的油迹检测方法及装置 - Google Patents

Abstract

本发明公开了一种基于图像的油迹检测方法及装置。该方法包括：获取待检测图像，并获取预先训练的与待检测图像对应的油迹检测模型，其中，油迹检测模型包括第一特征提取模块、与第一特征提取模块的输出端连接的第一特征融合模块、与第一特征融合模块的输出端连接的第二特征提取模块、分别与第二特征提取模块和第一特征融合模块的输出端连接的第二特征融合模块以及与第二特征融合模块的输出端连接的特征图输出模块；将待检测图像输入至油迹检测模型中，得到油迹检测模型的模型输出图像，基于模型输出图像确定与所述待检测图像对应的油迹检测图像。解决了油迹检测准确度较低的问题，达到了提高油迹检测准确度的有益效果。

Description

基于图像的油迹检测方法及装置

技术领域

本发明涉及图像检测技术领域，尤其涉及基于图像的油迹检测方法及装置。

背景技术

工业仪器设备发生漏油会导致较大安全隐患，漏油检测对工业仪器设备的安全使用起到至关重要的作用。

传统检测漏油一般采取1)人工观察和触摸，通过直观的观察加上手动的触摸，效率比较低，且无法实现全天候及时检测。2)电子探头检漏，用专用的电子探头来检测所有可能漏油的位置，成本较高且检测的范围较小，需不断移动探头才能实现对一个区域的检测。3)基于图像的漏油检测，检测精度较低。

发明内容

本发明提供了一种基于图像的油迹检测方法及装置，以解决漏油检测精准度较低的问题。

根据本发明的一方面，提供了一种基于图像的油迹检测方法，该方法包括：

获取待检测图像，并获取预先训练的与所述待检测图像对应的油迹检测模型，其中，所述油迹检测模型包括第一特征提取模块、与所述第一特征提取模块的输出端连接的第一特征融合模块、与所述第一特征融合模块的输出端连接的第二特征提取模块、分别与所述第二特征提取模块和所述第一特征融合模块的输出端连接的第二特征融合模块以及与所述第二特征融合模块的输出端连接的特征图输出模块；

将所述待检测图像输入至所述油迹检测模型中，得到所述油迹检测模型的模型输出图像，基于所述模型输出图像确定与所述待检测图像对应的油迹检测图像。

根据本发明的另一方面，提供了一种基于图像的油迹检测装置，该装置包括：

图像获取模块，用于获取待检测图像，并获取预先训练的与所述待检测图像对应的油迹检测模型，其中，所述油迹检测模型包括第一特征提取模块、与所述第一特征提取模块的输出端连接的第一特征融合模块、与所述第一特征融合模块的输出端连接的第二特征提取模块、分别与所述第二特征提取模块和所述第一特征融合模块的输出端连接的第二特征融合模块以及与所述第二特征融合模块的输出端连接的特征图输出模块；

图像检测模块，用于将所述待检测图像输入至所述油迹检测模型中，得到所述油迹检测模型的模型输出图像，基于所述模型输出图像确定与所述待检测图像对应的油迹检测图像。

根据本发明的另一方面，提供了一种电子设备，所述电子设备包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行本发明任一实施例所述的基于图像的油迹检测方法。

根据本发明的另一方面，提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现本发明任一实施例所述的基于图像的油迹检测方法。

本发明实施例的技术方案，通过获取待检测图像，并获取预先训练的与所述待检测图像对应的油迹检测模型，其中，所述油迹检测模型包括第一特征提取模块、与所述第一特征提取模块的输出端连接的第一特征融合模块、与所述第一特征融合模块的输出端连接的第二特征提取模块、分别与所述第二特征提取模块和所述第一特征融合模块的输出端连接的第二特征融合模块以及与所述第二特征融合模块的输出端连接的特征图输出模块，该油迹检测模型能够对输入的图像进行多层次特征融合分析；然后，将所述待检测图像输入至所述油迹检测模型中，得到所述油迹检测模型的模型输出图像，基于所述模型输出图像确定与所述待检测图像对应的油迹检测图像，解决了油迹检测准确度较低的问题，达到了提高油迹检测准确度的有益效果。

应当理解，本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征，也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。

附图说明

为了更清楚地说明本发明实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是根据本发明实施例一提供的一种基于图像的油迹检测方法的流程图；

图2a是根据本发明实施例二提供的一种基于图像的油迹检测方法的流程图；

图2b是根据本发明实施例二提供的一种基于图像的油迹检测方法的可选实例的流程图；

图2c是根据本发明实施例二提供的一种基于图像的油迹检测方法的可选实例的信息半保留特征图融合结构示意图；

图2d是根据本发明实施例二提供的一种基于图像的油迹检测方法的可选实例的信息全保留特征图融合结构示意图；

图3是根据本发明实施例三提供的一种基于图像的油迹检测装置的结构示意图；

图4是实现本发明实施例的基于图像的油迹检测方法的电子设备的结构示意图。

具体实施方式

为了使本技术领域的人员更好地理解本发明方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分的实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本发明保护的范围。

需要说明的是，本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。

实施例一

图1为本发明实施例一提供了一种基于图像的油迹检测方法的流程图，本实施例可适用于图像检测情况，该方法可以由基于图像的油迹检测装置来执行，该基于图像的油迹检测装置可以采用硬件和/或软件的形式实现，该基于图像的油迹检测装置可配置于电子设备中。如图1所示，该方法包括：

S110、获取待检测图像，并获取预先训练的与所述待检测图像对应的油迹检测模型，其中，所述油迹检测模型包括第一特征提取模块、与所述第一特征提取模块的输出端连接的第一特征融合模块、与所述第一特征融合模块的输出端连接的第二特征提取模块、分别与所述第二特征提取模块和所述第一特征融合模块的输出端连接的第二特征融合模块以及与所述第二特征融合模块的输出端连接的特征图输出模块。

其中，待检测图像可以理解为待进行油迹检测的图像。油迹检测模型可以理解为用于对图像中的油迹进行检测的网络模型。

具体的，第一特征提取模块用于提取图像低层特征。第一特征融合模块用于将提取到的低层特征经过信息半保留特征图融合结构进行融合，形成信息半保留特征图。第二特征提取模块用于将信息半保留特征图通过卷积操作经过空洞卷积结构进行上下文特征抽取，获得上下文特征。第一特征提取模块还用于将上下文特征图经过全保留特征图融合结构进行融合，形成高层特征图，并与信息半保留特征图拼接融合，得到包含上下文信息和多层次特征的特征图。第二特征融合模块用于特征图通过卷积操作得到最终的图像特征提取结果。

具体的，通过图像拍摄设备获取待检测图像，根据待检测图像的图像信息，获取与待检测图像的图像信息对应的油迹检测模型。其中，图像信息包括但不限于图像格式信息、图像尺寸信息和图像特征信息。

S120、将所述待检测图像输入至所述油迹检测模型中，得到所述油迹检测模型的模型输出图像，基于所述模型输出图像确定与所述待检测图像对应的油迹检测图像。

其中，模型输出图像可以理解为经过油迹检测后输出的图像。油迹检测图像可以理解为检测到包含油迹区域的图像。

具体的，将待检测图像输入值油迹检测模型中，分别经过油迹检测模型的第一特征提取模块、第一特征融合模块、第二特征提取模块和第二特征融合模块处理后，得到处理后的模型输出图像。根据油迹检测模型输出的图像，确定与所述待检测图像对应的油迹检测图像。

可选的，在所述将所述待检测图像输入至所述油迹检测模型中之前，还包括：对预先建立的油迹检测模型进行训练，得到用于对待检测图像进行检测的所述油迹检测模型。

具体地，获取样本检测图像以及与所述样本检测图像对应的期望检测图像，其中，所述期望检测图像为针对所述样本检测图像中的油迹区域进行标注后得到的图像；将所述样本检测图像输入至预先建立的油迹检测模型中，得到与所述样本检测图像对应的实际输出图像；基于所述实际输出图像和所述期望检测图像计算与所述油迹检测模型对应的模型损失，基于所述模型损失对所述油迹检测模型的模型参数调整，以得到用于进行油迹检测的油迹检测模型。

其中，样本检测图像可以理解为作为对油迹检测模型进行训练的训练样本的图像。

具体的，可以从历史油迹检测图像中抽取预设数量的油迹检测图像作为样本检测图像，进一步地，在针对所述样本检测图像中的油迹区域进行标注后得到的图像的期望检测图像。将预设数量的样本检测图像输入值预先建立的油迹检测模型。根据油迹检测模型输出的实际输出图像和期望图像，计算油迹检测模型对应的模型损失值。若模型损失值未处于预设损失区间内，则将模型损失调整至预设损失区间的最高限值处，或将模型损失调整至预设损失区间内。并基于模型损失对所述油迹检测模型的模型参数调整，将更新模型参数后的油迹检测模型作为进行油迹检测的油迹检测模型。

示例性的，在模型训练阶段，可以通过最小化损失来训练油迹检测模型：

L(Y，P)＝‖Y-P‖₂

其中，Y和P均为与输入的样本检测图像大小一致的矩阵。Y中每个元素的值指示样本图像相应像素点位置是否为油迹(例如：1为是，0为否)。P中每个元素的值指示样本检测图像相应像素位置经过油迹检测模型预测是油迹的概率。

可选的，所述基于所述实际输出图像和所述期望检测图像计算与所述油迹检测模型对应的模型损失，包括：基于所述期望检测图像中每个像素点对应的标注油迹概率，以及，所述实际输出图像中每个像素点对应的输出油迹概率，计算与所述油迹检测模型对应的模型损失。

其中，标注油迹概率可以理解为标注该像素点为油迹的概率。输出油迹概率可以理解为输出图像中该像素点判定为油迹的概率。

具体的，基于期望检测图像中每个像素点对应的标注油迹概率和实际输出图像中每个像素点对应的输出油迹概率，计算标注油迹概率和输出油迹概率之间的差值。将得到的差值结果作为与所述油迹检测模型对应的模型损失。

可选的，在获取到模型输出图像之后，根据模型输出图像每个像素点的输出油迹概率大小判断该像素点是否属于油迹。若模型输出图像中的像素点值趋近于1或等于1，则判断该像素点属于油迹，反之，若模型输出图像中的像素点值趋近于0或等于0，则判断该像素点不属于油迹。其中，可以通过设定像素点阈值进行判断，例如：设定像素点阈值为0.5，若像素点不小于0.5，则认为像素点值趋近于1，该像素点属于油迹。像素点小于0.5，则认为像素点值趋近于0，该像素点不属于油迹。

本发明实施例的技术方案，通过获取待检测图像，并获取预先训练的与所述待检测图像对应的油迹检测模型，其中，所述油迹检测模型包括第一特征提取模块、与所述第一特征提取模块的输出端连接的第一特征融合模块、与所述第一特征融合模块的输出端连接的第二特征提取模块、分别与所述第二特征提取模块和所述第一特征融合模块的输出端连接的第二特征融合模块以及与所述第二特征融合模块的输出端连接的特征图输出模块；准确获取与待检测原图像对应的油迹检测模型；然后，将所述待检测图像输入至所述油迹检测模型中，得到所述油迹检测模型的模型输出图像，基于所述模型输出图像确定与所述待检测图像对应的油迹检测图像，解决了油迹检测准确度较低的问题，达到了提高油迹检测准确度的有益效果。

实施例二

图2a为本发明实施例二提供的一种基于图像的油迹检测方法的流程图，本实施例是对上述实施例中如何将所述待检测图像输入至所述油迹检测模型中，得到所述油迹检测模型的模型输出图像的进一步的细化。可选的，所述将所述待检测图像输入至所述油迹检测模型中，得到所述油迹检测模型的模型输出图像，包括：将所述待检测图像输入至所述第一特征提取模块中，得到与所述待检测图像对应的第一图像特征图；将所述第一图像特征图输入至所述第一特征融合模块中，得到与所述第一图像特征图对应的第一融合特征图；将所述第一融合特征图输入至所述第二特征提取模块中，得到与所述待检测图像对应的第二图像特征图；将所述第二图像特征图输入至所述第一特征融合模块中，得到与所述第二图像特征图对应的第二融合特征图；基于所述第一融合特征图和所述第二融合特征图进行拼接后，输入至所述第二特征融合模块中，得到第三融合特征图；将所述第三特征融合图输入至所述特征图输出模块中，得到所述油迹检测模型的模型输出图像。具体实施方式可以参见本实施例的说明。其中，与前述实施例相同或相似的技术特征在此不再赘述。

如图2a所示，该方法包括：

S210、获取待检测图像，并获取预先训练的与所述待检测图像对应的油迹检测模型，其中，所述油迹检测模型包括第一特征提取模块、与所述第一特征提取模块的输出端连接的第一特征融合模块、与所述第一特征融合模块的输出端连接的第二特征提取模块、分别与所述第二特征提取模块和所述第一特征融合模块的输出端连接的第二特征融合模块以及与所述第二特征融合模块的输出端连接的特征图输出模块。

S220、将所述待检测图像输入至所述第一特征提取模块中，得到与所述待检测图像对应的第一图像特征图。

其中，第一特征提取模块可以包括第一数量的卷积层，如，第一特征提取模块可以包括一层卷积层、两层卷积层或三层卷积层等。示例性的，可以根据待检测图像的图像大小以及计算时间要求选定卷积层和滤波核，例如：一般选取三层卷积操作，每层采用3x3大小的滤波器。

具体的，将待检测图像输入至所述第一特征提取模块中，经过卷积操作，从待检测图像提取特征，生成第一图像特征图。此时，提取到的第一图像特征图可以理解为初始的低层特征图。

S230、将所述第一图像特征图输入至所述第一特征融合模块中，得到与所述第一图像特征图对应的第一融合特征图。

其中，第一特征融合模块包括信息半保留特征图融合结构。第一融合特征图可以为信息半保留特征图。可选的，第一特征融合模块可依次串联的多个卷积单元和以及分别与每个卷积单元的输出端连接的特征融合单元。特征融合单元用于将多个卷积单元输出的卷积结果进行融合。每个卷积单元中可以包括一个或多个卷积层，每个卷积层对应的卷积核的大小可以相同或不同。

可选的，所述第一特征融合模块包括第一卷积单元、与所述第一卷积单元的输出端连接的第二卷积单元以及分别与所述第一卷积单元和所述第二卷积单元的输出端连接的第一拼接单元。

具体的，将第一图像特征图输入至所述第一特征融合模块，通过第一特征融合模块处理，生成第一融合特征图。示例性的，在信息半保留特征图融合结构中，可选取两层卷积操作，每层采用3x3大小的卷积滤波器。

可选的，所述将所述第一图像特征图输入至所述第一特征融合模块中，得到与所述第一图像特征图对应的第一融合特征图，包括：将所述第一图像特征图输入至所述第一卷积单元中，得到与所述第一图像特征图对应的第一卷积特征图；将所述第一卷积特征图输入至所述第二卷积单元中，得到与所述第一卷积特征图对应的第二卷积特征图；将所述第一卷积特征图和所述第二卷积特征图输入至所述第一拼接单元中进行图像拼接，得到与所述第一图像特征图对应的第一融合特征图。

具体的，将第一图像特征图输入至第一特征模块的第一卷积单元中，通过卷积操作，从第一图像特征图提取特征，生成第一卷积特征图。将第一卷积特征图输入至第一特征模块的第二卷积单元中，通过卷积操作，从第一卷积特征图提取特征，生成第二卷积特征图。在完成对第一图像特征图和第一卷积特征图卷积操作后，将得到的第一卷积特征图和第二卷积特征图输入至拼接单元，进行拼接操作并输出拼接后的融合特征图像。将输出的拼接后的融合特征图像作为与所述第一图像特征图对应的第一融合特征图。

可选的，所述第一特征融合模块包括第三卷积单元、与所述第三卷积单元的输出端连接的第四卷积单元、分别与所述第三卷积单元和所述第四卷积单元的输出端连接的第二拼接单元、与所述第二拼接单元的输出端连接的第五卷积单元，以及分别与所述第三卷积单元的输入端以及所述第五卷积单元的输出端相连接的求和单元。

可选的，所述将所述第一卷积特征图输入至所述第二卷积单元中，得到与所述第一卷积特征图对应的第二卷积特征图，包括：将所述第二图像特征图输入至所述第三卷积单元中，得到与所述第二图像特征图对应的第三卷积特征图；将所述第三卷积特征图输入至所述第四卷积单元中，得到与所述第三卷积特征图对应的第四卷积特征图；将所述第三卷积特征图和所述第四卷积特征图输入至所述第二拼接单元中进行图像拼接，得到拼接特征图；将所述拼接特征图输入至所述第五卷积单元中，得到第五卷积特征图；将所述第二图像特征图和所述第五卷积特征图输入至所述求和单元中进行求和，得到与所述第二图像特征图对应的第二融合特征图。

其中，第一特征融合模块包括信息全保留特征图融合结构。第二图像特征图可以理解为上下文特征图。第二融合特征图可以理解为包含上下文信息和多层次的特征图。

具体的，将上下文特征图输入至第三卷积单元中，经过卷积操作从高层特征图中提取特征，生成第三卷积图。将第三卷积图输入至第四卷积单元中，经过卷积操作从第三卷积图提取特征，生成第四卷积特征图。将第三卷积特征图和所述第四卷积特征图输入至第二拼接单元中进行图像拼接，得到拼接特征图。将拼接特征图输入值第五卷积单元中，通过卷积得到包含多层次特征的第五卷积特征图。最后，将包含上下文信息的第二图像特征图和包含多层次特征的第五卷积特征图，进行求和计算，从而得到包含上下文信息和多层次特征的第二融合特征图。

本发明实施例中，通过在半保留特征图融合结构的基础上，结合信息全保留特征图融合结构，将上下文特征图经过全保留特征图融合结构，形成高层特征图，同时与信息半保留特征图拼接融合，得到包含上下文信息、多层次特征的特征图。提高第二融合特征图的完整性。

S240、将所述第一融合特征图输入至所述第二特征提取模块中，得到与所述待检测图像对应的第二图像特征图。

其中，第一融合特征图为信息半保留特征图。第二图像特征图为上下文特征图。

具体的，将第一融合特征图通过卷积操作经过第二特征提取模块进行卷积操作，进行上下文特征抽取，获得第二图像特征图。

可选的，所述第二特征提取模块包括空洞卷积单元。示例性地，将所述第一融合特征图输入至所述第二特征提取模块中，得到与所述待检测图像对应的第二图像特征图，包括：将所述第一融合特征图输入至所述空洞卷积单元中进行上下文特征提取，得到与所述待检测图像对应的第二图像特征图。

具体的，将第一融合特征图通过卷积操作经过空洞卷积结构进行上下文特征抽取，获得第二图像特征图。其中，第一融合特征图为信息半保留特征图，第二图像特征图为上下文特征图。示例性的，在本实施例中，选取7x7大小的空洞卷积滤波器，空洞率为3。

S250、将所述第二图像特征图输入至所述第一特征融合模块中，得到与所述第二图像特征图对应的第二融合特征图。

具体的，将上下文特征图输入至第一特征融合模块中，通过第一特征融合模块包含的信息半保留结构对第二图像特征图中的图像特征进行融合，生成第二融合特征图。

S260、基于所述第一融合特征图和所述第二融合特征图进行拼接后，输入至所述第二特征融合模块中，得到第三融合特征图；

具体的，将信息半保留特征图和包含上下文信息和多层次的特征图输入至第二特征融合模块中，将信息半保留特征图和包含上下文信息和多层次的特征图进行融合操作，得到图像特征信息完整的第三融合特征图。

S270、将所述第三特征融合图输入至所述特征图输出模块中，得到所述油迹检测模型的模型输出图像，基于所述模型输出图像确定与所述待检测图像对应的油迹检测图像。

具体的，将图像特征信息完整的第三融合特征图通过卷积操作得到最终的特征提取结果，基于最终的特征提取结果生成模型输出图像并输出。

示例性的，在本发明实施例中，特征图输出模块可以包括三个第一卷积层和一个第二卷积层，每个第一卷积层采用3x3大小的滤波器，第二卷积层采用1x1大小的滤波器。先经过三层3x3卷积操作，再经过1x1卷积变形为与原图像大小一致的特征图。

本发明实施例的技术方案，通过将所述待检测图像输入至所述第一特征提取模块中，得到与所述待检测图像对应的第一图像特征图，准确提取待检测图像中的低层特征图；然后，将所述第一图像特征图输入至所述第一特征融合模块中，得到与所述第一图像特征图对应的第一融合特征图；将将低层特征图经过信息半保留特征图融合结构，准确形成信息半保留特征图；将所述第一融合特征图输入至所述第二特征提取模块中，得到与所述待检测图像对应的第二图像特征图；将信息半保留特征图通过卷积操作经过空洞卷积结构进行上下文特征抽取，准确获得上下文特征图；将所述第二图像特征图输入至所述第一特征融合模块中，得到与所述第二图像特征图对应的第二融合特征图；将上下文特征图经过全保留特征图融合结构处理，得到高层特征图；再基于所述第一融合特征图和所述第二融合特征图进行拼接后，输入至所述第二特征融合模块中，得到第三融合特征图；将拼接后的包含上下文信息和多层次特征的图像输入至第三融合模块中，通过卷积操作得到最终完整准确的待检测图像的图像特征提取结果。最后，将所述第三特征融合图输入至所述特征图输出模块中，得到所述油迹检测模型的模型输出图像。解决了油迹检测准确度较低的问题，达到了提高油迹检测准确度的有益效果。

图2b提供了一种基于图像的油迹检测方法的可选实例的流程图。如图2b所示，该基于图像的油迹检测方法具体包括以下步骤：

(1)通过卷积操作，从待检测图像中提取第一特征，生成第一图像特征图。在本发明实施例中，可以根据图像大小以及计算时间要求选定卷积层和滤波核。例如，选取三层卷积操作，每层采用3x3大小的滤波器。

(2)将第一图像特征图经过第一特征融合模块信息，形成第一融合特征图。信息半保留特征图融合结构示意图如图2c所示。在本发明实施例中，选取3x3大小的卷积滤波器。其中，第一特征融合模块包括半保留特征图融合结构

(3)将第一融合特征图通过卷积操作经过第二特征提取模块的空洞卷积结构进行上下文特征抽取，获得第二图像特征图。在本发明实施例中，选取7x7大小的空洞卷积滤波器，空洞率为3。

(4)将第二图像特征图经过第一特征融合模块处理，形成第二融合特征图，同时与第一融合特征图拼接融合，得到包含上下文信息、多层次特征的特征图。信息全保留特征图融合结构示意图如图2d所示。其中，第一特征融合模块包括还包括全保留特征图融合结构。

(5)将特征图输入第二特征融合模块，通过卷积操作得到最终的特征提取结果。在本发明实施例中，选取三层卷积操作，每层采用3x3大小的滤波器。再经过1x1卷积变形为与原图像大小一致的特征图。根据特征提取结果中每个像素点的输出油迹概率大小判断其是否属于油迹。

示例性的，在模型训练阶段，可以通过最小化损失来训练油迹检测模型：

L(Y，P)＝‖Y-P‖

其中，Y和P均为与输入的样本检测图像大小一致的矩阵。Y中每个元素的值指示样本图像相应像素点位置是否为油迹(例如：1为是，0为否)。P中每个元素的值指示样本检测图像相应像素位置经过油迹检测模型预测是油迹的概率。

本发明实施例，通过预先训练的与所述待检测图像对应的油迹检测模型，输出图像特征完整的模型输出图像，并根据模型输出图像的像素点的输出油迹概率，确定属于油迹的像素点，进而确定图像中的油迹。解决了油迹检测准确度较低的问题，达到了提高油迹检测准确度的有益效果。

实施例三

图3为本发明实施例三提供的一种基于图像的油迹检测装置的结构示意图。如图3所示，该装置包括：图像获取模块310和图像检测模块320。

其中，图像获取模块310，用于获取待检测图像，并获取预先训练的与所述待检测图像对应的油迹检测模型，其中，所述油迹检测模型包括第二特征融合模块、与所述第二特征融合模块的输出端连接的第一特征融合模块、与所述第一特征融合模块的输出端连接的第二特征提取模块、分别与所述第二特征提取模块和所述第一特征融合模块的输出端连接的第三特征提取模块以及与所述第三特征提取模块的输出端连接的特征图输出模块；图像检测模块320，用于将所述待检测图像输入至所述油迹检测模型中，得到所述油迹检测模型的模型输出图像，基于所述模型输出图像确定与所述待检测图像对应的油迹检测图像。

本发明实施例的技术方案，通过图像获取模块，获取待检测图像，并获取预先训练的与所述待检测图像对应的油迹检测模型，其中，所述油迹检测模型包括第一特征提取模块、与所述第一特征提取模块的输出端连接的第一特征融合模块、与所述第一特征融合模块的输出端连接的第二特征提取模块、分别与所述第二特征提取模块和所述第一特征融合模块的输出端连接的第二特征融合模块以及与所述第二特征融合模块的输出端连接的特征图输出模块；准确获取与待检测原图像对应的油迹检测模型；然后，通过图像检测模块，将所述待检测图像输入至所述油迹检测模型中，得到所述油迹检测模型的模型输出图像，基于所述模型输出图像确定与所述待检测图像对应的油迹检测图像，解决了油迹检测准确度较低的问题，达到了提高油迹检测准确度的有益效果。

可选的，所述图像检测模块包括：

第一图像特征图获取单元，用于将所述待检测图像输入至所述第一特征融合模块中，得到与所述待检测图像对应的第一图像特征图；

第一图像融合图获取单元，用于将所述第一图像特征图输入至所述第一特征融合模块中，得到与所述第一图像特征图对应的第一融合特征图；

第二图像特征图获取单元，用于将所述第一融合特征图输入至所述第二特征提取模块中，得到与所述待检测图像对应的第二图像特征图；

第二融合特征图获取单元，用于将所述第二图像特征图输入至所述第一特征融合模块中，得到与所述第二图像特征图对应的第二融合特征图；

图像拼接单元，用于基于所述第一融合特征图和所述第二融合特征图进行拼接后，输入至所述第二特征融合模块中，得到第三融合特征图；

图像输出单元，用于将所述第三特征融合图输入至所述特征图输出模块中，得到所述油迹检测模型的模型输出图像。

可选的，所述第一特征融合模块包括第一卷积单元、与所述第一卷积单元的输出端连接的第二卷积单元以及分别与所述第一卷积单元和所述第二卷积单元的输出端连接的第一拼接单元。

可选的，所述第一图像融合图获取单元，包括：

第一卷积特征图获取子单元，用于将所述第一图像特征图输入至所述第一卷积单元中，得到与所述第一图像特征图对应的第一卷积特征图；

第二卷积特征图获取子单元，用于将所述第一卷积特征图输入至所述第二卷积单元中，得到与所述第一卷积特征图对应的第二卷积特征图；

图像拼接子单元，用于将所述第一卷积特征图和所述第二卷积特征图输入至所述第一拼接单元中进行图像拼接，得到与所述第一图像特征图对应的第一融合特征图。

可选的，所述第二特征提取模块包括空洞卷积单元；

相应地，所述第二图像特征图获取单元具体用于：

将所述第一融合特征图输入至所述空洞卷积单元中进行上下文特征提取，得到与所述待检测图像对应的第二图像特征图。

可选的，所述第一特征融合模块包括第三卷积单元、与所述第三卷积单元的输出端连接的第四卷积单元、分别与所述第三卷积单元和所述第四卷积单元的输出端连接的第二拼接单元、与所述第二拼接单元的输出端连接的第五卷积单元，以及分别与所述第三卷积单元的输入段以及所述第五卷积单元的输出端相连接的求和单元。

可选的，所述第二卷积特征图获取子单元，具体用于：

将所述第二图像特征图输入至所述第三卷积单元中，得到与所述第二图像特征图对应的第三卷积特征图；

将所述第三卷积特征图输入至所述第四卷积单元中，得到与所述第三卷积特征图对应的第四卷积特征图；

将所述第三卷积特征图和所述第四卷积特征图输入至所述第二拼接单元中进行图像拼接，得到拼接特征图；

将所述拼接特征图输入至所述第五卷积单元中，得到第五卷积特征图；

将所述第二图像特征图和所述第五卷积特征图输入至所述求和单元中进行求和，得到与所述第二图像特征图对应的第二融合特征图。

可选的，所述装置还包括期望检测图像获取模块、实际输出图像获取模块和油迹检测模型获取模块；

其中，所述期望检测图像获取模块，用于在所述将所述待检测图像输入至所述油迹检测模型中之前，获取样本检测图像以及与所述样本检测图像对应的期望检测图像，其中，所述期望检测图像为针对所述样本检测图像中的油迹区域进行标注后得到的图像；

所述实际输出图像获取模块，用于将所述样本检测图像输入至预先建立的油迹检测模型中，得到与所述样本检测图像对应的实际输出图像；

所述油迹检测模型获取模块，用于基于所述实际输出图像和所述期望检测图像计算与所述油迹检测模型对应的模型损失，基于所述模型损失对所述油迹检测模型的模型参数调整，以得到用于进行油迹检测的油迹检测模型。

可选的，所述油迹检测模型获取模块，具体用于：

基于所述期望检测图像中每个像素点对应的标注油迹概率，以及，所述实际输出图像中每个像素点对应的输出油迹概率，计算与所述油迹检测模型对应的模型损失。

本发明实施例所提供的基于图像的油迹检测装置可执行本发明任意实施例所提供的基于图像的油迹检测方法，具备执行方法相应的功能模块和有益效果。

实施例四

图4示出了可以用来实施本发明的实施例的电子设备10的结构示意图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备(如头盔、眼镜、手表等)和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本发明的实现。

如图4所示，电子设备10包括至少一个处理器11，以及与至少一个处理器11通信连接的存储器，如只读存储器(ROM)12、随机访问存储器(RAM)13等，其中，存储器存储有可被至少一个处理器执行的计算机程序，处理器11可以根据存储在只读存储器(ROM)12中的计算机程序或者从存储单元18加载到随机访问存储器(RAM)13中的计算机程序，来执行各种适当的动作和处理。在RAM 13中，还可存储电子设备10操作所需的各种程序和数据。处理器11、ROM 12以及RAM 13通过总线14彼此相连。输入/输出(I/O)接口15也连接至总线14。

电子设备10中的多个部件连接至I/O接口15，包括：输入单元16，例如键盘、鼠标等；输出单元17，例如各种类型的显示器、扬声器等；存储单元18，例如磁盘、光盘等；以及通信单元19，例如网卡、调制解调器、无线通信收发机等。通信单元19允许电子设备10通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

处理器11可以是各种具有处理和计算能力的通用和/或专用处理组件。处理器11的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的处理器、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。处理器11执行上文所描述的各个方法和处理，例如方法基于图像的油迹检测。

在一些实施例中，方法基于图像的油迹检测可被实现为计算机程序，其被有形地包含于计算机可读存储介质，例如存储单元18。在一些实施例中，计算机程序的部分或者全部可以经由ROM 12和/或通信单元19而被载入和/或安装到电子设备10上。当计算机程序加载到RAM 13并由处理器11执行时，可以执行上文描述的方法基于图像的油迹检测的一个或多个步骤。备选地，在其他实施例中，处理器11可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行方法基于图像的油迹检测。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本发明的方法的计算机程序可以采用一个或多个编程语言的任何组合来编写。这些计算机程序可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器，使得计算机程序当由处理器执行时使流程图和/或框图中所规定的功能/操作被实施。计算机程序可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本发明的上下文中，计算机可读存储介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的计算机程序。计算机可读存储介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。备选地，计算机可读存储介质可以是机器可读信号介质。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在电子设备上实施此处描述的系统和技术，该电子设备具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给电子设备。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)、区块链网络和互联网。

计算系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与VPS服务中，存在的管理难度大，业务扩展性弱的缺陷。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发明中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本发明的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本发明保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等，均应包含在本发明保护范围之内。

Claims (10)

1.一种基于图像的油迹检测方法，其特征在于，包括：

获取待检测图像，并获取预先训练的与所述待检测图像对应的油迹检测模型，其中，所述油迹检测模型包括第一特征提取模块、与所述第一特征提取模块的输出端连接的第一特征融合模块、与所述第一特征融合模块的输出端连接的第二特征提取模块、分别与所述第二特征提取模块和所述第一特征融合模块的输出端连接的第二特征融合模块以及与所述第二特征融合模块的输出端连接的特征图输出模块；

将所述待检测图像输入至所述油迹检测模型中，得到所述油迹检测模型的模型输出图像，基于所述模型输出图像确定与所述待检测图像对应的油迹检测图像。

2.根据权利要求1所述的方法，其特征在于，所述将所述待检测图像输入至所述油迹检测模型中，得到所述油迹检测模型的模型输出图像，包括：

将所述待检测图像输入至所述第一特征提取模块中，得到与所述待检测图像对应的第一图像特征图；

将所述第一图像特征图输入至所述第一特征融合模块中，得到与所述第一图像特征图对应的第一融合特征图；

将所述第一融合特征图输入至所述第二特征提取模块中，得到与所述待检测图像对应的第二图像特征图；

将所述第二图像特征图输入至所述第一特征融合模块中，得到与所述第二图像特征图对应的第二融合特征图；

基于所述第一融合特征图和所述第二融合特征图进行拼接后，输入至所述第二特征融合模块中，得到第三融合特征图；

将所述第三特征融合图输入至所述特征图输出模块中，得到所述油迹检测模型的模型输出图像。

3.根据权利要求2所述的方法，其特征在于，所述第一特征融合模块包括第一卷积单元、与所述第一卷积单元的输出端连接的第二卷积单元以及分别与所述第一卷积单元和所述第二卷积单元的输出端连接的第一拼接单元。

4.根据权利要求3所述的方法，其特征在于，所述将所述第一图像特征图输入至所述第一特征融合模块中，得到与所述第一图像特征图对应的第一融合特征图，包括：

将所述第一图像特征图输入至所述第一卷积单元中，得到与所述第一图像特征图对应的第一卷积特征图；

将所述第一卷积特征图输入至所述第二卷积单元中，得到与所述第一卷积特征图对应的第二卷积特征图；

将所述第一卷积特征图和所述第二卷积特征图输入至所述第一拼接单元中进行图像拼接，得到与所述第一图像特征图对应的第一融合特征图。

5.根据权利要求2所述的方法，其特征在于，所述第二特征提取模块包括空洞卷积单元；

所述将所述第一融合特征图输入至所述第二特征提取模块中，得到与所述待检测图像对应的第二图像特征图，包括：

将所述第一融合特征图输入至所述空洞卷积单元中进行上下文特征提取，得到与所述待检测图像对应的第二图像特征图。

6.根据权利要求4所述的方法，其特征在于，所述第一特征融合模块包括第三卷积单元、与所述第三卷积单元的输出端连接的第四卷积单元、分别与所述第三卷积单元和所述第四卷积单元的输出端连接的第二拼接单元、与所述第二拼接单元的输出端连接的第五卷积单元，以及分别与所述第三卷积单元的输入端以及所述第五卷积单元的输出端相连接的求和单元。

7.根据权利要求6所述的方法，其特征在于，所述将所述第一卷积特征图输入至所述第二卷积单元中，得到与所述第一卷积特征图对应的第二卷积特征图，包括：

将所述第二图像特征图输入至所述第三卷积单元中，得到与所述第二图像特征图对应的第三卷积特征图；

将所述第三卷积特征图输入至所述第四卷积单元中，得到与所述第三卷积特征图对应的第四卷积特征图；

将所述第三卷积特征图和所述第四卷积特征图输入至所述第二拼接单元中进行图像拼接，得到拼接特征图；

将所述拼接特征图输入至所述第五卷积单元中，得到第五卷积特征图；

将所述第二图像特征图和所述第五卷积特征图输入至所述求和单元中进行求和，得到与所述第二图像特征图对应的第二融合特征图。

8.根据权利要求1所述的方法，其特征在于，在所述将所述待检测图像输入至所述油迹检测模型中之前，还包括：

获取样本检测图像以及与所述样本检测图像对应的期望检测图像，其中，所述期望检测图像为针对所述样本检测图像中的油迹区域进行标注后得到的图像；

将所述样本检测图像输入至预先建立的油迹检测模型中，得到与所述样本检测图像对应的实际输出图像；

基于所述实际输出图像和所述期望检测图像计算与所述油迹检测模型对应的模型损失，基于所述模型损失对所述油迹检测模型的模型参数调整，以得到用于进行油迹检测的油迹检测模型。

9.根据权利要求8所述的方法，其特征在于，所述基于所述实际输出图像和所述期望检测图像计算与所述油迹检测模型对应的模型损失，包括：

基于所述期望检测图像中每个像素点对应的标注油迹概率，以及，所述实际输出图像中每个像素点对应的输出油迹概率，计算与所述油迹检测模型对应的模型损失。

10.一种基于图像的油迹检测装置，其特征在于，包括：

图像获取模块，用于获取待检测图像，并获取预先训练的与所述待检测图像对应的油迹检测模型，其中，所述油迹检测模型包括第一特征提取模块、与所述第一特征提取模块的输出端连接的第一特征融合模块、与所述第一特征融合模块的输出端连接的第二特征提取模块、分别与所述第二特征提取模块和所述第一特征融合模块的输出端连接的第二特征融合模块以及与所述第二特征融合模块的输出端连接的特征图输出模块；

图像检测模块，用于将所述待检测图像输入至所述油迹检测模型中，得到所述油迹检测模型的模型输出图像，基于所述模型输出图像确定与所述待检测图像对应的油迹检测图像。