CN113239928A

CN113239928A - 图像差异检测及模型训练的方法、设备及程序产品

Info

Publication number: CN113239928A
Application number: CN202110512934.3A
Authority: CN
Inventors: 任彦伟; 尹飞; 顾友达; 熊冰; 邢潘红
Original assignee: Beijing Baidu Netcom Science and Technology Co Ltd
Current assignee: Beijing Baidu Netcom Science and Technology Co Ltd
Priority date: 2021-05-11
Filing date: 2021-05-11
Publication date: 2021-08-10
Anticipated expiration: 2041-05-11
Also published as: CN113239928B

Abstract

本公开提供了图像差异检测及模型训练的方法、设备及程序产品，涉及计算机技术中的软件测试、计算机视觉、深度学习等领域。本公开提供的图像差异检测模型可以确定输入的样本图像和基准图像的差异可视化矩阵，根据差异可视化矩阵确定两张图像存在差异的预测概率，由于差异可视化矩阵是确定两张存在差异的预测概率的过程中产生的中间结果，在模型训练时，训练样本集中的标注数据只需包含样本图像与基准图像是否存在差异的标注信息，即可实现模型的训练，得到的模型能精准地判定图像间是否存在差异，并定位图像间差异的位置信息，无需标注出每个差异所在区域，大大简化了标注数据，降低了获取标注数据的难度和成本，提高了模型的可用性。

Description

图像差异检测及模型训练的方法、设备及程序产品

技术领域

本公开涉及计算机技术中的软件测试、计算机视觉、深度学习等，尤其涉及一种图像差异检测及模型训练的方法、设备及程序产品。

背景技术

在用户界面(User Interface，简称UI)测试中UI界面上缺陷的识别和定位、交通环境中障碍物的识别和定位、图书排版中错误的识别定位、医学影像比对等很多应用场景中，都可以通过将当前图像相对于基准图像是否存在差异，并定位差异的位置，来实现相应的功能。

目前，用于检测两个图像的差异，并定位差异的位置的检测模型，是基于目标检测的方法，将两个图像的差异区域作为检测目标，需要大量的差异区域的标注数据来训练模型，但是差异区域的标注数据的获取需要耗费大量人力进行人工标注，获取标注数据的成本高、难度大、效率低，导致检测模型的可用性低。

发明内容

本公开提供了一种图像差异检测及模型训练的方法、设备及程序产品。

根据本公开的第一方面，提供了一种图像差异检测模型训练方法，包括：

获取训练样本集，所述训练样本集中的每个训练样本包括样本图像、所述样本图像对应的基准图像、和标注信息，所述标注信息用于表示所述样本图像与所述基准图像是否存在差异；

将所述样本图像和所述基准图像输入图像差异检测模型，通过所述图像差异检测模型，确定所述样本图像和所述基准图像的差异可视化矩阵，并根据所述差异可视化矩阵确定所述样本图像和所述基准图像存在差异的预测概率，所述差异可视化矩阵包含所述样本图像和所述基准图像的差异位置信息；

根据所述预测概率，确定所述样本图像和所述基准图像是否存在差异的预测结果；

根据所述预测结果和所述标注信息，确定第一损失，并根据所述第一损失，更新所述图像差异检测模型的模型参数。

根据本公开的第二方面，提供了一种图像差异检测方法，包括：

获取待检测图像和所述待检测图像对应的基准图像；

将所述待检测图像和所述基准图像输入训练好的图像差异检测模型，通过所述图像差异检测模型，确定所述待检测图像和所述基准图像的差异可视化矩阵，以及所述待检测图像和所述基准图像存在差异的预测概率，所述差异可视化矩阵包含所述待检测图像和所述基准图像的差异位置信息；

若根据所述预测概率，确定所述待检测图像和所述基准图像存在差异，则根据所述差异可视化矩阵，显示所述待检测图像，在所显示的待检测图像上标记出所述待检测图像与所述基准图像存在差异的区域。

根据本公开的第三方面，提供了一种图像差异检测模型训练的设备，包括：

训练数据获取模块，用于获取训练样本集，所述训练样本集中的每个训练样本包括样本图像、所述样本图像对应的基准图像、和标注信息，所述标注信息用于表示所述样本图像与所述基准图像是否存在差异；

差异检测模块，用于将所述样本图像和所述基准图像输入图像差异检测模型，通过所述图像差异检测模型，确定所述样本图像和所述基准图像的差异可视化矩阵，并根据所述差异可视化矩阵确定所述样本图像和所述基准图像存在差异的预测概率，所述差异可视化矩阵包含所述样本图像和所述基准图像的差异位置信息；

预测结果确定模块，用于根据所述预测概率，确定所述样本图像和所述基准图像是否存在差异的预测结果；

参数更新模块，用于根据所述预测结果和所述标注信息，确定第一损失，并根据所述第一损失，更新所述图像差异检测模型的模型参数。

根据本公开的第四方面，提供了一种图像差异检测设备，包括：

图像获取模块，用于获取待检测图像和所述待检测图像对应的基准图像；

差异检测模块，用于将所述待检测图像和所述基准图像输入训练好的图像差异检测模型，通过所述图像差异检测模型，确定所述待检测图像和所述基准图像的差异可视化矩阵，以及所述待检测图像和所述基准图像存在差异的预测概率，所述差异可视化矩阵包含所述待检测图像和所述基准图像的差异位置信息；

预测结果可视化模块，用于若根据所述预测概率，确定所述待检测图像和所述基准图像存在差异，则根据所述差异可视化矩阵，显示所述待检测图像，在所显示的待检测图像上标记出所述待检测图像与所述基准图像存在差异的区域。

根据本公开的第五方面，提供了一种电子设备，包括：

至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行上述任一方面所述的方法。

根据本公开的第六方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行上述任一方面所述的方法。

根据本公开的第七方面，提供了一种计算机程序产品，所述计算机程序产品包括：计算机程序，所述计算机程序存储在可读存储介质中，电子设备的至少一个处理器可以从所述可读存储介质读取所述计算机程序，所述至少一个处理器执行所述计算机程序使得电子设备执行上述任一方面所述的方法。

根据本公开的技术简化了图像差异检测模型训练时的标注数据，降低了训练样本集获取的难度和标注成本，提高了模型的训练效率和模型的可用性。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案，不构成对本公开的限定。其中：

图1是是可以实现本公开实施例图像差异检测场景示意图；

图2是本公开第一实施例提供的图像差异检测模型训练方法流程图；

图3是本公开实施例提供的图像差异检测模型的结构示意图；

图4是本公开第二实施例提供的图像差异检测模型训练方法流程图；

图5是本公开第三实施例提供的图像差异检测方法流程图；

图6是本公开第四实施例提供的图像差异检测方法流程图；

图7是本公开第五实施例提供的图像差异检测模型训练的设备示意图；

图8是本公开第五实施例提供的图像差异检测模型训练设备示意图；

图9是本公开第六实施例提供的图像差异检测设备示意图；

图10是本公开第六实施例提供的图像差异检测设备示意图；

图11是用来实现本公开实施例的图像差异检测方法或者图像差异检测模型训练方法的电子设备的示意性框图。

具体实施方式

以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

本公开提供一种图像差异检测及模型训练的方法、设备及程序产品，应用于计算机技术中的软件测试、计算机视觉、深度学习等领域，能够基于是否存在差异的简单标注信息，训练得到不仅能精准地判断图像是否存在差异、而且能够定位差异区域的图像差异检测模型，大大降低获取标注数据的成本、难度和效率，提高了图像差异检测模型的可用性。

本实施例提供的图像差异检测方法和图像差异检测模型训练方法，具体可以应用于UI测试中UI界面上缺陷的识别和定位、交通环境中障碍物的识别和定位、图书排版中错误的识别定位、医学影像比对等任意一种应用场景，还可以应用于其他需要识别图像间差异的类似的应用场景中，本实施例此处不再一一列举。

随着移动设备的普及，图形用户界面(Graphical User Interface，简称GUI)在应用程序中无处不在。GUI对用户界面(User Interface，简称UI)的测试增加了挑战，因为GUI开发环境有可复用的构件，开发UI更加省时而且更加精确。同时，UI的复杂性也增加了，从而加大了设计和执行测试用例的难度。如何确保应用程序的UI的正确性变得极其重要。

示例性地，以UI测试为例，对图像差异检测方法的应用场景进行示例性地说明，如图1所示，图像差异检测方法的执行主体可以是电子设备10，电子设备10上存储有训练好的图像差异检测模型。在UI测试场景中，待检测图像11可以是待检测的UI的截图，基准图像12可以是该UI的设计图，将待检测图像11和基准图像12输入图像差异检测模型，通过图像差异检测模型生成两个图像的差异可视化矩阵，基于该差异可视化矩阵可以进一步判定这两个图像是否存在差异。如果确定两个图像存在差异，则可以显示待检测图像，并在所显示的待检测图像上标记出两个图像的差异区域，从而实现对差异区域的定位及可视化显示。另外，无论两个图像是否存在差异，都可以输出两个图像是否存在差异的判定结果，以供用户查看。

示例性地，在医学领域，待检测图像可以是本次拍摄的目标对象的医学影像，基准图像可以是之前拍摄的该目标对象的医学影像，基于图像差异检测方法可以检测出本次拍摄的医学影像与之前拍摄的医学影像间的差异，并进行差异区域的可视化显示。

示例性地，在出版领域，待检测图像可以是本次排版后的图像，基准图像可以是之前某一次排版图像，基于图像差异检测方法可以检测出本次排版后的图像与之前排版图像间的差异，并进行差异区域的可视化显示。

示例性地，在交通环境中障碍物的识别和定位的场景下，待检测图像可以是车辆或路侧单元当前采集的某一区域的图像，基准图像可以是在该区域内没有任何障碍物的情况下采集的图像，基于图像差异检测方法可以检测出该区域当前采集的图像和基准图像间是否差异，差异区域也就是障碍物所在的区域，从而实现障碍物的识别，并进行障碍物所在区域的可视化显示。

另外，本公开提供的图像差异检测及模型训练的方法应用于不同的应用场景时，模型训练过程中所使用的训练样本集不同，训练样本集基于具体的应用场景，获取与应用场景对应的训练样本集。训练得到的图像差异检测模型应用于对应应用场景中的图像差异检测。

图2是本公开第一实施例提供的图像差异检测模型训练方法流程图。本实施例的执行主体可以是用于进行模型训练的电子设备等。如图2所示，该方法具体步骤如下：

步骤S201、获取训练样本集，训练样本集中的每个训练样本包括样本图像、样本图像对应的基准图像、和标注信息，标注信息用于表示样本图像与基准图像是否存在差异。

本实施例中，获取的训练样本集中的标注数据只需包含样本图像与基准图像是否存在差异的标注信息即可，无需标注出每个差异所在区域，大大简化了训练样本集的标注数据，降低了训练样本集获取的难度和标注成本，提高了训练样本集获取的效率。

另外，在应用于不同的应用场景时，模型训练过程中所使用的训练样本集不同。基于具体的应用场景，获取与应用场景对应的训练样本集。训练得到的图像差异检测模型应用于对应应用场景中的图像差异检测，使得基于训练样本集训练得到的模型能够更好地应用于对应场景中的图像差异的检测，提高图像差异检测的精准度。

步骤S202、将样本图像和基准图像输入图像差异检测模型，通过图像差异检测模型，确定样本图像和基准图像的差异可视化矩阵，并根据差异可视化矩阵确定样本图像和基准图像存在差异的预测概率，差异可视化矩阵包含样本图像和基准图像的差异位置信息。

其中，图像差异检测模型确定样本图像和基准图像的差异可视化矩阵，并根据差异可视化矩阵确定样本图像和基准图像存在差异的预测概率，差异可视化矩阵包含样本图像和基准图像的差异位置信息，基于差异可视化矩阵可以定位样本图像和基准图像的差异，并进行差异区域的可视化显示。

由于差异可视化矩阵是确定样本图像和基准图像存在差异的预测概率以及预测结果过程中产生的中间结果，在模型训练时，基于预测结果的标注信息和损失即可实现模型的训练，训练得到的模型能够精准地判定图像间是否存在差异，并且可以确定两个图像的差异可视化矩阵，实现图像差异的定位和可视化显示。

本实施例中，在进行模型训练时，分别将每一训练样本中的样本图像和基准图像输入图像差异检测模型，通过图像差异检测模型能够生成样本图像和基准图像的差异可视化矩阵，并根据差异可视化矩阵确定样本图像和基准图像存在差异的预测概率。

其中，差异可视化矩阵包含样本图像和基准图像的差异位置信息。基于差异可视矩阵中的数值，可以确定样本图像与基准图像是否存在差异。

示例性地，差异可视化矩阵中正数在样本图像中的对应区域与基准图像有差异；差异可视化矩阵中0和负数在样本图像中的对应区域与基准图像没有差异。这样，根据差异可视化矩阵中是否存在大于0的值，可以确定样本图像和基准图像是否存在差异。

可选地，可以根据差异可视化矩阵中最大值，将最大值映射到[0,1]区间得到的映射值作为预测概率。

可选地，还可以根据差异可视化矩阵中所有大于0的值，确定预测概率。

步骤S203、根据预测概率，确定样本图像和基准图像是否存在差异的预测结果。

在确定样本图像和基准图像存在差异的预测概率之后，若预测概率大于概率阈值，可以确定样本图像和基准图像存在差异。

若预测概率小于或等于概率阈值，可以确定样本图像和基准图像不存在差异。

其中，概率阈值可以根据实际应用场景的需要进行设置和调整，本实施例此处不做具体限定。

步骤S204、根据预测结果和标注信息，确定第一损失，并根据第一损失，更新图像差异检测模型的模型参数。

在得到预测结果之后，根据预测结果和标注信息，可以计算得到第一损失，并根据第一损失，更新图像差异检测模型的模型参数。

其中，确定第一损失使用的损失函数可以是Softmax、交叉熵损失函数，或者其他常用的分类模型的损失函数，本实施例此处不做具体限定。

通过多次迭代训练，在图像差异检测模型满足收敛条件时，得到训练好的图像差异检测模型。

其中，收敛条件可以包括以下任意一种：图像差异检测模型的精准度达到要求、第一损失小于预设损失值、两次迭代之间模型参数的变化小于预设范围、或者迭代次数大于预设次数。其中预设损失值，预设次数可以根据实际应用场景的需要进行设置和调整，此处不做具体限定。

本实施例中图像差异检测模型能够确定样本图像和基准图像的差异可视化矩阵，并根据差异可视化矩阵确定样本图像和基准图像存在差异的预测概率，图像差异检测模型确定样本图像和基准图像的差异可视化矩阵，由于差异可视化矩阵是确定样本图像和基准图像存在差异的预测概率以及预测结果过程中产生的中间结果，在模型训练时，基于预测结果的标注信息和损失即可实现模型的训练，训练得到的模型能够精准地判定图像间是否存在差异，并且可以确定两个图像的差异可视化矩阵，基于差异可视化矩阵实现图像差异的定位和可视化显示，这样，训练样本集中的标注数据只需包含样本图像与基准图像是否存在差异的标注信息即可，无需标注出每个差异所在区域，大大简化了训练样本集的标注数据，降低了训练样本集获取的难度和标注成本，提高了模型的训练效率和模型的可用性。

图3是本公开实施例提供的图像差异检测模型的结构示意图；图4是本公开第二实施例提供的图像差异检测模型训练方法流程图。在上述第一实施例的基础上，本实施例中，在进行模型训练时，如图3所示，图像差异检测模型包括特征提取子模型、差异定位子模型和辅助训练子模型。其中，辅助训练子模型仅在模型训练过程中使用。在模型训练结束后，训练好的模型在应用于图像差异检测的方法时，使用特征提取子模型和差异定位子模型进行图像差异的检测。

下面以图3中所示的模型结构为例，对图像差异检测模型的结构进行示例性地说明：

如图3所示，图像差异检测模型包括特征提取子模型、差异定位子模型和辅助训练子模型。

考虑到实际应用场景中，种类繁多的机型和复杂的界面显示问题，待检测差异的两个图像可能来自于不同分辨率的屏幕，显示内容可能具有不同的物理意义，基于Pseudo-siamese网络结构，利用具有两个分支的卷积升级网络的网络框架，分别利用两个不同分支网络提取两个图像的图像特征，得到对应的特征矩阵。

本实施例中，特征提取子模型可以包括两个分支网络，这两个分支网络具有相同的结构，但是两个分支网络的权重不共享，在模型训练过程中，两个分支网络的权重会随着训练的过程发生变化，训练好的图像差异检测模型中特征提取子模型的两个分支网络的权重不同。

示例性地，每个分支的网络可以包括第一卷积块和第二卷积块，第一卷积块用于对该分支网络的输入图像进行特征提取，得到输入图像的初始图像特征，将初始图像特征输入第二卷积块，第二卷积块对初始图像特征进行特征细化处理，得到细化后的第二图像特征，将初始图像特征和第二图像特征融合处理后，得到输入图像的特征矩阵。

可选地，将初始图像特征和第二图像特征进行融合处理后，得到输入图像的特征矩阵包括：将初始图像特征经过缩放处理；将缩放处理后的图像特征和第二图像特征进行融合处理，得到输入图像的特征矩阵，这样，通过将缩放后的图像特征和特征细化处理的第二图像特征融合，得到输入图像的特征矩阵，能够保留更多的底层纹理特征，从而保留更多的细节特征，便于后续提取两个图像的差异特征。

其中，将任意两个图像特征进行融合处理，可以是将两个图像特征连接。

例如，如图3中所示，第一卷积块可以由3层由32个3×3的卷积核的卷积层叠加而成，其中，前两层卷积层中卷积操作的步长(strides)为1，第3层卷积层中卷积操作的步长为2，利用步长为2的卷积操作代替池化操作，可以保留更多的细节特征。另外，每层卷积层之后还可以增加一个线性整流函数(Rectified Linear Unit，简称ReLU)单元。

如图3中所示，第二卷积块可以由3层由64个3×3的卷积核的卷积层叠加而成，其中，前两层卷积层中卷积操作的步长为1，第3层卷积层中卷积操作的步长为2，利用步长为2的卷积操作代替池化操作，可以保留更多的细节特征。另外，每层卷积层之后还可以增加一个线性整流函数(Rectified Linear Unit，简称ReLU)单元。

进一步地，将初始图像特征和第二图像特征融合处理后，还可以将融合后的图像特征输入第三卷积块，通过第三卷积块进行降维，得到指定维度的特征矩阵。

如图3所示，第三卷积块可以包括由64个1×1的卷积核构成的卷积块，其中，该卷积层中卷积操作的步长为1。另外，该卷积层后还可以增加一个ReLU单元。

本实施例中，为了使得模型能够判断图像是否存在差异，并且进定位差异区域，提供了差异定位子模型，通过差异定位子模型将两个图像的特征矩阵连接后的融合特征矩阵，经过一系列卷积操作进行特征细化后，突出两个图像的差异特征，并将细化后的图像特征进行编码处理，得到具有固定长宽的差异可视化矩阵。将差异可视化矩阵通过全局最大池化层(Global Max polling layer)，对差异可视化矩阵进行下采样，得到两个图像是否存在差异的预测值。最后，通过sigmoid函数将预测值映射到0到1之间，得到两个图像存在差异的预测概率，预测概率的值在区间[0，1]内。根据预测概率和标准信息可以进一步确定第一损失。

可选地，可以利用第一损失更新模型参数，实现模型的训练。

例如，如图3所示，差异定位子模型中可以由第四卷积块，第五卷积块，第六卷积块对融合特征矩阵进行一系列卷积操作，实现特征细化，突出两个图像的差异特征。其中，第四卷积块由3层由128个3×3的卷积核的卷积层叠加而成，其中，前两层卷积层中卷积操作的步长为1，第3层卷积层中卷积操作的步长为2，利用步长为2的卷积操作代替池化操作，可以保留更多的细节特征。每层卷积层之后还可以增加一个线性整流函数(RectifiedLinear Unit，简称ReLU)单元。

第五卷积块由32个3×3的卷积核构成的卷积块，其中，该卷积层中卷积操作的步长为1，该卷积层后还可以增加一个ReLU单元。

第六卷积块可以包括由1个1×1的卷积核构成的卷积块，其中卷积操作的步长为1，该卷积层后还可以增加一个ReLU单元。

本实施例的一种可选的实施方式中，在模型训练过程中，为了能够使得图像差异检测模型迅速收敛，增加了辅助训练子模型。如图3所示，经过特征提取子模型提取得到的两个图像的特征矩阵(第一特征矩阵和第二特征矩阵)，分别通过平均池化处理，以减小数据的大小；将平均池化处理以后的特征矩阵拉平(Flatten)成对应的向量，向量经过多层全连接(Fully Connected layer，简称FC)层(如图3中所示的128维的全连接层)的处理，得到图像的特征向量，多重全连接层的关系增加了学习复杂函数的可能性。最后，为了判断两幅图像是否存在差异，计算两个图像的特征向量之间的距离，两个图像的特征向量之间的距离越近，则两个图像的相似度越高。基于两个图像的特征向量之间的距离，可以确定第二损失，结合第一损失和第二损失可以确定综合损失，根据综合损失可以更新模型参数，实现模型参数的训练，能够加速模型的收敛，从而使用少量的训练样本即可实现模型训练，提高模型训练的效率。

示例性地，平均池化处理的池化窗口的大小可以为5×5，或者还可以设置成其他大小，本实施例此处不做具体限定。

基于上述的图像差异检测模型，如图4所示，图像差异检测模型训练方法的具体步骤如下：

步骤S401、获取训练样本集。

其中，训练样本集中的每个训练样本包括样本图像、样本图像对应的基准图像、和标注信息，标注信息用于表示样本图像与基准图像是否存在差异。

示例性地，在应用于UI测试场景时，训练样本中的样本图像可以是UI截图，基准图像可以是UI截图的设计图，标注信息可以包括UI截图与UI设计图是否存在差异。

步骤S402、将样本图像和基准图像输入特征提取子模型，通过特征提取子模型，提取样本图像的图像特征，得到第一特征矩阵，并提取基准图像的图像特征，得到第二特征矩阵。

本实施例中，特征提取子模型包括第一网络和第二网络，第一网络和第二网络具有相同的结构，并且第一网络和第二网络的权重不共享。

该步骤具体可以采用如下方式实现：

将样本图像和基准图像分别输入第一网络和第二网络，利用第一网络，提取样本图像的图像特征，得到第一特征矩阵；利用特征提取子模型的第二网络，提取基准图像的图像特征，得到第二特征矩阵。

示例性地，利用特征提取子模型的任一网络，提取输入图像的图像特征，得到输入图像的特征矩阵，包括：

利用特征提取子模型的任一网络，提取输入图像的初始图像特征；对图像特征进行缩放处理，得到细化后的第二图像特征；将初始图像特征和第二图像特征进行融合处理后，得到输入图像的特征矩阵。

其中，任一网络为第一网络或第二网络，若任一网络为第一网络，则输入图像为样本图像，输入图像的特征矩阵为第一特征矩阵，若任一网络为第二网络，则输入图像为基准图像，输入图像的特征矩阵为第二特征矩阵。

可选地，将初始图像特征和第二图像特征进行融合处理后，得到输入图像的特征矩阵，包括：将初始图像特征经过缩放处理；将缩放处理后的图像特征和第二图像特征进行融合处理，得到输入图像的特征矩阵。这样，通过将缩放后的图像特征和特征细化处理的第二图像特征融合，得到输入图像的特征矩阵，能够保留更多的底层纹理特征，从而保留更多的细节特征，便于后续提取两个图像的差异特征。

本实施例中，通过结构相同、且权重不共享的两个分支网络分别提取两个图像的特征矩阵，基于得到的两个图像的特征矩阵，能够有效地提取两个图像的差异特征，能够提高训练得到的图像差异检测模型的精准度。

步骤S403、通过差异定位子模型，根据第一特征矩阵和第二特征矩阵，确定差异可视化矩阵；并根据差异可视化矩阵，确定样本图像和基准图像存在差异的预测概率。

该步骤中，基于前述的模型结构，根据第一特征矩阵和第二特征矩阵，确定差异可视化矩阵，具体可以采用如下方式实现：

将第一特征矩阵和第二特征矩阵连接，得到融合特征矩阵；对融合特征矩阵进行差异特征提取处理，得到样本图像和基准图像的差异可视化矩阵，能够突出差异特征，生成包含样本图像和基准图像的差异信息的差异可视化矩阵，为判断是否存在差异和定位差异区域提供基础。

进一步地，根据差异可视化矩阵，确定样本图像和基准图像存在差异的预测概率，包括：

对差异可视化矩阵进行最大池化处理，得到预测值；将预测值映射到0到1之间，得到样本图像和基准图像存在差异的预测概率。基于该预测概率，可以确定样本图像和基准图像是否存在差异，得到预测结果。

本实施例中，通过差异定位子模型将两个图像的特征矩阵连接后的融合特征矩阵，经过一系列卷积操作进行特征细化后，突出两个图像的差异特征，并将细化后的图像特征进行编码处理，得到具有固定长宽的差异可视化矩阵。其中，该差异可视化矩阵包含两个图像的差异位置信息。

示例性地，将差异可视化矩阵通过全局最大池化层(Global Max pollinglayer)，对差异可视化矩阵进行下采样，得到两个图像是否存在差异的预测值。通过sigmoid函数将预测值映射到0到1之间，得到两个图像存在差异的预测概率，预测概率的值在区间[0，1]内。

可选地，还可以利用以下公式一，根据差异可视化矩阵确定预测概率：

其中，f表示差异可视化矩阵，P表示对应预测概率。

步骤S404、根据预测概率，确定样本图像和基准图像是否存在差异的预测结果。

在得到两个图像存在差异的预测概率之后，根据预测概率，若预测概率大于概率阈值，可以确定样本图像和基准图像存在差异。

在得到样本图像的第一特征矩阵和基准图像的第二特征矩阵之后，通过步骤S403-S404，通过差异定位子模型，根据样本图像的第一特征矩阵和基准图像的第二特征矩阵，进行图像差异检测，确定样本图像和基准图像的差异可视化矩阵，根据差异可视化矩阵，确定样本图像和基准图像是否存在差异的预测结果，不仅能够判断出样本图像和基准图像是否存在差异，还可以基于差异可视化矩阵定位两个图像的差异区域，并进行差异区域的可视化显示。

步骤S405、根据预测结果和标注信息，确定第一损失。

示例性地，可以通过如下公式二，确定第一损失：

其中，y2_loss表示第一损失；m为训练样本的数量；x_i表示第i个训练样本；y_i表示第i个训练样本的标注信息，y_i的取值为1表示两个图像存在差异，y_i的取值为0表示两个图像不存在差异；p(x_i)表示将xi输入图像差异检测模型，根据模型输出的预测概率确定的预测结果，p(x_i)为1表示预测结果为两个图像存在差异，p(x_i)为0表示预测结果为两个图像不存在差异。

其中，收敛条件可以包括以下任意一种：图像差异检测模型的精准度达到要求、第一损失小于预设损失值、两次迭代之间模型参数的变化小于预设范围、或者迭代次数大于预设次数。其中，预设损失值、预设范围、预设次数均可以根据实际应用场景需要进行设置，此处不做具体限定。

本实施例中，在模型训练过程中，为了能够使得图像差异检测模型迅速收敛，增加了辅助训练子模型。在步骤S402之后，通过步骤S406-S407，利用辅助训练子模型，将第一特征矩阵转换为第一特征向量，并将第二特征矩阵转换为第二特征向量；根据第一特征向量与第二特征向量之间的距离，以及标注信息，确定第二损失。

步骤S406、将第一特征矩阵转换为第一特征向量，并将第二特征矩阵转换为第二特征向量。

示例性地，将任一特征矩阵转换为特征向量，包括：

将任一特征矩阵进行展平处理，得到第一向量；通过至少一个全连接层，对第一向量进行至少一次特征变换处理，得到对应的特征向量。

可选地，将任一特征矩阵进行展平处理，得到第一向量之前，还可以对任一特征矩阵进行平均池化处理，以减小数据的大小，提高训练效率。

示例性地，如图3所示，经过特征提取子模型提取得到的两个图像的特征矩阵(第一特征矩阵和第二特征矩阵)，分别通过平均池化处理，以减小数据的大小；将平均池化处理以后的特征矩阵拉平(Flatten)成对应的向量，向量经过多层全连接(Fully Connectedlayer，简称FC)层(如图3中所示的128维的全连接层)的处理，得到图像的特征向量，多重全连接层的关系增加了学习复杂函数的可能性。最后，为了判断两幅图像是否存在差异，计算两个图像的特征向量之间的距离，两个图像的特征向量之间的距离越近，则两个图像的相似度越高。基于两个图像的特征向量之间的距离，可以确定第二损失，结合第一损失和第二损失可以确定综合损失，根据综合损失可以更新模型参数，实现模型参数的训练，能够加速模型的收敛，从而使用少量的训练样本即可实现模型训练，提高模型训练的效率。

步骤S407、根据第一特征向量与第二特征向量之间的距离，以及标注信息，确定第二损失。

示例性地，可以利用如下公式三，根据第一特征向量与第二特征向量之间的距离，以及标注信息，确定第二损失：

其中，y1_loss表示第二损失；f₁，f₂分别表示第一特征向量和第二特征向量，D(f₁，f₂)表示f₁和f₂之间的距离；y表示两个图像的标注信息，y的取值为1表示两个图像存在差异，y的取值为0表示两个图像不存在差异；margin为安全系数，是预先设定的固定值；max表示取最大值。

margin的值可以根据实际应用场景和经验值设置，例如，margin的值可以为1，本实施例此处不做具体限定。

步骤S408、根据第一损失和第二损失，确定综合损失值。

在确定第一损失和第二损失之后，可以综合第一损失和第二损失，确定综合损失值。

可选地，可以对第一损失和第二损失求和、或者将第一损失和第二损失分别乘以对应的权重系数后求和、或者还可以采用其他方式确定综合损失值，本实施例此处不做具体限定。

示例性地，可以利用如下公式四，根据第一损失和第二损失，确定综合损失值：

L_all＝α·y1_loss+(1-α)·y2_loss 公式四

其中，L_all表示综合损失值，y2_loss表示第一损失，y1_loss表示第二损失，α为权重系数，α可以根据实际应用场景和经验值设置。

步骤S409、根据综合损失值，更新图像差异检测模型的模型参数。

在结合第一损失和第二损失，确定综合损失值之后，根据综合损失值，更新图像差异检测模型的模型参数，实现模型训练。

本实施例中，通过包含两个结构相同且权重不共享的网络分别提取两个图像的特征矩阵，能够更加突出两个图像的差异特征，便于精准地提取两个图像差异特征；通过差异定位子模型将两个图像的特征矩阵连接后的融合特征矩阵，经过一系列卷积操作进行特征细化后，突出两个图像的差异特征，并将细化后的图像特征进行编码处理，得到具有固定长宽的差异可视化矩阵，并根据差异可视化矩阵确定样本图像和基准图像存在差异的预测概率，由于差异可视化矩阵是确定两张图像存在差异的预测概率的过程中产生的中间结果，在模型训练时，基于预测结果的标注信息和损失即可实现模型的训练，训练得到的模型不仅能够精准地判定图像间是否存在差异，而且可以确定两个图像的差异可视化矩阵，基于差异可视化矩阵实现图像差异的定位和可视化显示，这样训练样本集中的标注数据只需包含样本图像与基准图像是否存在差异的标注信息即可，无需标注出每个差异所在区域，大大简化了训练样本集的标注数据，降低了训练样本集获取的难度和标注成本，提高了模型的训练效率和模型的可用性；进一步地，通过增加辅助训练子模型，增加了学习复杂函数的可能性，基于两个图像的特征矩阵确定第二损失，根据结合第一损失和第二损失确定的综合损失更新模型参数，实现模型参数的训练，能够加速模型的收敛，从而使用少量的训练样本即可实现模型训练，提高模型训练的效率。

图5是本公开第三实施例提供的图像差异检测方法流程图。本实施例的执行主体可以是用于进行图像差异检测的电子设备等。如图5所示，该方法具体步骤如下：

步骤S501、获取待检测图像和待检测图像对应的基准图像。

本实施例提供的图像差异检测方法，具体可以应用于UI测试中UI界面上缺陷的识别和定位、交通环境中障碍物的识别和定位、图书排版中错误的识别定位、医学影像比对等任意一种应用场景，还可以应用于其他需要识别图像间差异的类似的应用场景中，本实施例此处不再一一列举。

示例性地，在应用于UI测试的场景时，待检测图像可以是待测试的UI的截图，基准图像可以是待测试的UI的设计图。

响应于对待测试的UI的测试指令，可以获取待测试的UI的截图和设计图，将截图作为待检测图像，将设计图作为基准图像，输入训练好的图像差异检测模型。

步骤S502、将待检测图像和基准图像输入训练好的图像差异检测模型，通过图像差异检测模型，确定待检测图像和基准图像的差异可视化矩阵，以及待检测图像和基准图像存在差异的预测概率，差异可视化矩阵包含待检测图像和基准图像的差异位置信息。

其中，图像差异检测模型可以通过上述任一实施例提供的图像差异检测模型训练方法训练得到，模型的结构和模型训练的具体实现方式参考上述第一实施例或第二实施例，本实施例此处不再赘述。

图像差异检测模型可以分别提取检测图像和基准图像的特征矩阵，根据两张图像的特征矩阵生成待检测图像和基准图像的差异可视化矩阵，根据差异可视化矩阵可以确定待检测图像和基准图像存在差异的预测概率。

其中，差异可视化矩阵包含待检测图像和基准图像的差异位置信息。基于差异可视矩阵中的数值，可以确定待检测图像与基准图像是否存在差异。

示例性地，差异可视化矩阵中正数在待检测图像中的对应区域与基准图像有差异；差异可视化矩阵中0和负数在待检测图像中的对应区域与基准图像没有差异。这样，根据差异可视化矩阵中是否存在大于0的值，可以确定待检测图像和基准图像是否存在差异。

步骤S503、若根据预测概率，确定待检测图像和基准图像存在差异，则根据差异可视化矩阵，显示待检测图像，在所显示的待检测图像上标记出待检测图像与基准图像存在差异的区域。

在确定待检测图像和基准图像存在差异预测概率之后，根据预测概率，确定待检测图像和基准图像存在差异。

若确定待检测图像和基准图像存在差异，可以显示待检测图像，并根据差异可视化矩阵，在所显示的待检测图像上标记出待检测图像与基准图像存在差异的区域。

本实施例通过训练好的图像差异检测模型，不仅可以精准地检测两张图像是否存在差异，还可以定位两张图像的差异区域并进行差异区域的可视化显示。

图6是本公开第四实施例提供的图像差异检测方法流程图。在上述第三实施例的基础上，本实施例中，如图6所示，该方法具体步骤如下：

步骤S601、获取待检测图像和待检测图像对应的基准图像。

该步骤与上述步骤S501一致，此处不再赘述。

步骤S602、将待检测图像和基准图像输入特征提取子模型，通过特征提取子模型，提取待检测图像的图像特征，得到第一特征矩阵，并提取基准图像的图像特征，得到第二特征矩阵。

本实施例中，特征提取子模型包括第一网络和第二网络，第一网络和第二网络具有相同的结构，并且第一网络和第二网络的权重不共享。训练好的图像差异检测模型中特征提取子模型的两个分支网络的结构相同但是权重不同。

该步骤中，将待检测图像和基准图像分别输入第一网络和第二网络，利用第一网络，提取待检测图像的图像特征，得到第一特征矩阵；利用特征提取子模型的第二网络，提取基准图像的图像特征，得到第二特征矩阵。

进一步地，利用特征提取子模型的任一网络，提取输入图像的图像特征，得到输入图像的特征矩阵，包括：

其中，任一网络为第一网络或第二网络，若任一网络为第一网络，则输入图像为待检测图像，输入图像的特征矩阵为第一特征矩阵，若任一网络为第二网络，则输入图像为基准图像，输入图像的特征矩阵为第二特征矩阵。

可选地，将初始图像特征和第二图像特征进行融合处理后，得到输入图像的特征矩阵，包括：将初始图像特征经过缩放处理，得到缩放处理后的图像特征；将缩放处理后的图像特征和第二图像特征进行融合处理，得到输入图像的特征矩阵。这样，通过将缩放后的图像特征和特征细化处理的第二图像特征融合，得到输入图像的特征矩阵，能够保留更多的底层纹理特征，从而保留更多的细节特征，便于后续提取两个图像的差异特征。

本实施例中，通过结构相同且权重不同的两个分支网络分别提取两个图像的特征矩阵，基于得到的两个图像的特征矩阵，能够有效地提取两个图像的差异特征，能够提高训练得到的图像差异检测模型的精准度。

本实施例中，在得到待检测图像的第一特征矩阵和基准图像的第二特征矩阵之后，通过差异定位子模型，根据第一特征矩阵和第二特征矩阵，确定差异可视化矩阵；并根据差异可视化矩阵，确定待检测图像和基准图像存在差异的预测概率。

步骤S603、根据第一特征矩阵和第二特征矩阵，确定差异可视化矩阵。

其中，根据第一特征矩阵和第二特征矩阵，确定差异可视化矩阵，包括：

将第一特征矩阵和第二特征矩阵连接，得到融合特征矩阵；对融合特征矩阵进行特征细化处理，得到细化后的融合特征矩阵；对细化后的融合特征矩阵进行差异特征提取处理，得到待检测图像和基准图像的差异可视化矩阵。

步骤S604、根据差异可视化矩阵，确定待检测图像和基准图像存在差异的预测概率。

该步骤中，对差异可视化矩阵进行最大池化处理，得到预测值；将预测值映射到0到1之间，得到待检测图像和基准图像存在差异的预测概率。

可选地，还可以利用公式一，根据差异可视化矩阵确定预测概率：

其中，f表示差异可视化矩阵，P表示对应预测概率。

步骤S605、根据预测概率，确定待检测图像和基准图像是否存在差异。

在得到两个图像存在差异的预测概率之后，根据预测概率，若预测概率大于概率阈值，可以确定待检测图像和基准图像存在差异，执行步骤S606。

若预测概率小于或等于概率阈值，可以确定待检测图像和基准图像不存在差异，执行步骤S607。

在得到待检测图像的第一特征矩阵和基准图像的第二特征矩阵之后，通过步骤S603-S605，通过差异定位子模型，根据待检测图像的第一特征矩阵和基准图像的第二特征矩阵，进行图像差异检测，确定待检测图像和基准图像的差异可视化矩阵，根据差异可视化矩阵，确定待检测图像和基准图像是否存在差异的预测结果，不仅能够判断出待检测图像和基准图像是否存在差异，还可以基于差异可视化矩阵定位两个图像的差异区域，并进行差异区域的可视化显示。

步骤S606、根据差异可视化矩阵，显示待检测图像，在所显示的待检测图像上标记出待检测图像与基准图像存在差异的区域。

若根据预测概率，确定待检测图像和基准图像存在差异，则根据差异可视化矩阵，显示待检测图像，在所显示的待检测图像上标记出待检测图像与基准图像存在差异的区域。

可选地，在根据差异可视化矩阵，显示待检测图像，在所显示的待检测图像上标记出待检测图像与基准图像存在差异的区域之前，还可以将差异可视化矩阵中的负数置为0，使得差异可视化矩阵中只存在0和正数，其中正数值在待检测图像中的对应区域为与基准图像存在差异的区域，0在在待检测图像中的对应区域为与基准图像不存在差异的区域。这样便于进行差异区域的可视化显示。

示例性地，该步骤中，可以根据差异特征矩阵，生成差异区域的标注图像，标注图像中将差异区域和非差异区域区分显示(如图1中的13所示)，其中差异区域是指与差异特征矩阵中大于0的值对应的区域，非差异区域是指与差异特征矩阵中0和小于0的值对应的区域；将差异区域标注图像叠加在待检测图像上，即可实现差异区域的可视化显示。

可选地，在所显示的待检测图像上标记出差异区域的方式，可以是将差异区域高亮显示、用红色(或其他颜色)矩形(或其他形状)框圈出差异区域等等，本实施例此处不做具体限定。

步骤S607、输出结果信息。

若根据预测概率，确定待检测图像和基准图像不存在差异，则输出结果信息。

如果确定待检测图像和基准图像不存在差异，可以将预测结果显示在指定界面上；或者将结果信息生成报告后，将报告显示或以预设方式发送，本实施例此处不做具体限定。

图7是本公开第五实施例提供的图像差异检测模型训练的设备示意图。本公开实施例提供的图像差异检测模型训练设备可以执行图像差异检测模型的方法实施例提供的处理流程。如图7所示，该图像差异检测模型训练设备70包括：训练数据获取模块701，差异检测模块702，预测结果确定模块703和参数更新模块704。

具体地，训练数据获取模块701，用于获取训练样本集，训练样本集中的每个训练样本包括样本图像、样本图像对应的基准图像、和标注信息，标注信息用于表示样本图像与基准图像是否存在差异。

差异检测模块702，用于将样本图像和基准图像输入图像差异检测模型，通过图像差异检测模型，确定样本图像和基准图像的差异可视化矩阵，并根据差异可视化矩阵确定样本图像和基准图像存在差异的预测概率，差异可视化矩阵包含样本图像和基准图像的差异位置信息。

预测结果确定模块703，用于根据预测概率，确定样本图像和基准图像是否存在差异的预测结果。

参数更新模块704，用于根据预测结果和标注信息，确定第一损失，并根据第一损失，更新图像差异检测模型的模型参数。

本公开实施例提供的设备可以具体用于执行上述第一实施例提供的方法实施例，具体功能此处不再赘述。

图8是本公开第五实施例提供的图像差异检测模型训练设备示意图。本公开实施例提供的图像差异检测模型训练设备可以执行图像差异检测模型的方法实施例提供的处理流程。如图8所示，该图像差异检测模型训练设备80包括：训练数据获取模块801，差异检测模块802，预测结果确定模块803和参数更新模块804。

具体地，训练数据获取模块801，用于获取训练样本集，训练样本集中的每个训练样本包括样本图像、样本图像对应的基准图像、和标注信息，标注信息用于表示样本图像与基准图像是否存在差异。

差异检测模块802，用于将样本图像和基准图像输入图像差异检测模型，通过图像差异检测模型，确定样本图像和基准图像的差异可视化矩阵，并根据差异可视化矩阵确定样本图像和基准图像存在差异的预测概率，差异可视化矩阵包含样本图像和基准图像的差异位置信息。

预测结果确定模块803，用于根据预测概率，确定样本图像和基准图像是否存在差异的预测结果。

参数更新模块804，用于根据预测结果和标注信息，确定第一损失，并根据第一损失，更新图像差异检测模型的模型参数。

可选地，图像差异检测模型包括特征提取子模型和差异定位子模型，如图8所示，差异检测模块802，包括：

特征提取子模块8021，用于将样本图像和基准图像输入特征提取子模型，通过特征提取子模型，提取样本图像的图像特征，得到第一特征矩阵，并提取基准图像的图像特征，得到第二特征矩阵。

差异定位子模块8022，用于通过差异定位子模型，根据第一特征矩阵和第二特征矩阵，确定差异可视化矩阵；并根据差异可视化矩阵，确定样本图像和基准图像存在差异的预测概率。

可选地，如图8所示，参数更新模块804，还包括：

第一损失确定子模块8041，用于根据预测结果和标注信息，确定第一损失。

第二损失确定子模块8042，用于将第一特征矩阵转换为第一特征向量，并将第二特征矩阵转换为第二特征向量；根据第一特征向量与第二特征向量之间的距离，以及标注信息，确定第二损失。

综合损失确定子模块8043，用于根据第一损失和第二损失，确定综合损失值。

参数更新子模块8044，用于根据综合损失值，更新图像差异检测模型的模型参数。

可选地，第二损失确定子模块还用于：

将任一特征矩阵进行展平处理，得到第一向量之前，对任一特征矩阵进行平均池化处理。

可选地，特征提取子模型包括第一网络和第二网络，第一网络和第二网络具有相同的结构，并且第一网络和第二网络的权重不共享。特征提取子模块还用于：

可选地，特征提取子模块还用于：

利用特征提取子模型的任一网络，提取输入图像的初始图像特征；对初始图像特征进行特征细化处理，得到细化后的第二图像特征；将初始图像特征和第二图像特征进行融合处理后，得到输入图像的特征矩阵；其中，任一网络为第一网络或第二网络，若任一网络为第一网络，则输入图像为样本图像，输入图像的特征矩阵为第一特征矩阵，若任一网络为第二网络，则输入图像为基准图像，输入图像的特征矩阵为第二特征矩阵。

可选地，特征提取子模块还用于：

将初始图像特征经过缩放处理，得到缩放处理后的图像特征；将缩放处理后的图像特征和第二图像特征进行融合处理，得到输入图像的特征矩阵。

可选地，差异定位子模块还用于：

将第一特征矩阵和第二特征矩阵连接，得到融合特征矩阵；对融合特征矩阵进行差异特征提取处理，得到样本图像和基准图像的差异可视化矩阵。

可选地，差异定位子模块还用于：

对差异可视化矩阵进行最大池化处理，得到预测值；将预测值映射到0到1之间，得到样本图像和基准图像存在差异的预测概率。

本公开实施例提供的设备可以具体用于执行上述第二实施例提供的方法实施例，具体功能此处不再赘述。

图9是本公开第六实施例提供的图像差异检测设备示意图。本公开实施例提供的图像差异检测设备可以执行图像差异检测方法实施例提供的处理流程。如图9所示，该图像差异检测设备90包括：图像获取模块901，差异检测模块902和预测结果可视化模块903。

具体地，图像获取模块901，用于获取待检测图像和待检测图像对应的基准图像。

差异检测模块902，用于将待检测图像和基准图像输入训练好的图像差异检测模型，通过图像差异检测模型，确定待检测图像和基准图像的差异可视化矩阵，以及待检测图像和基准图像存在差异的预测概率，差异可视化矩阵包含待检测图像和基准图像的差异位置信息。

预测结果可视化模块903，用于若根据预测概率，确定待检测图像和基准图像存在差异，则根据差异可视化矩阵，显示待检测图像，在所显示的待检测图像上标记出待检测图像与基准图像存在差异的区域。

本公开实施例提供的设备可以具体用于执行上述第三实施例提供的方法实施例，具体功能此处不再赘述。

图10是本公开第六实施例提供的图像差异检测设备示意图。本公开实施例提供的图像差异检测设备可以执行图像差异检测方法实施例提供的处理流程。如图10所示，该图像差异检测设备100包括：图像获取模块1001，差异检测模块1002和预测结果可视化模块1003。

具体地，图像获取模块1001，用于获取待检测图像和待检测图像对应的基准图像。

差异检测模块1002，用于将待检测图像和基准图像输入训练好的图像差异检测模型，通过图像差异检测模型，确定待检测图像和基准图像的差异可视化矩阵，以及待检测图像和基准图像存在差异的预测概率，差异可视化矩阵包含待检测图像和基准图像的差异位置信息。

预测结果可视化模块1003，用于若根据预测概率，确定待检测图像和基准图像存在差异，则根据差异可视化矩阵，显示待检测图像，在所显示的待检测图像上标记出待检测图像与基准图像存在差异的区域。

可选地，如图10所示，图像差异检测模型包括特征提取子模型和差异定位子模型，差异检测模块1002，包括：

特征提取子模块10021，用于将待检测图像和基准图像输入特征提取子模型，通过特征提取子模型，提取待检测图像的图像特征，得到第一特征矩阵，并提取基准图像的图像特征，得到第二特征矩阵。

差异定位子模块10022，用于通过差异定位子模型，根据第一特征矩阵和第二特征矩阵，确定差异可视化矩阵；并根据差异可视化矩阵，确定待检测图像和基准图像存在差异的预测概率。

可选地，特征提取子模型包括第一网络和第二网络，第一网络和第二网络具有相同的结构，并且第一网络和第二网络的权重不共享；特征提取子模块还用于：

将待检测图像和基准图像分别输入第一网络和第二网络，利用第一网络，提取待检测图像的图像特征，得到第一特征矩阵；利用特征提取子模型的第二网络，提取基准图像的图像特征，得到第二特征矩阵。

可选地，特征提取子模块还用于：

利用特征提取子模型的任一网络，提取输入图像的初始图像特征；对初始图像特征进行特征细化，得到细化后的第二图像特征；将初始图像特征和第二图像特征进行融合处理后，得到输入图像的特征矩阵；其中，任一网络为第一网络或第二网络，若任一网络为第一网络，则输入图像为待检测图像，输入图像的特征矩阵为第一特征矩阵，若任一网络为第二网络，则输入图像为基准图像，输入图像的特征矩阵为第二特征矩阵。

可选地，特征提取子模块还用于：

可选地，差异定位子模块还用于：

对差异可视化矩阵进行最大池化处理，得到预测值；将预测值映射到0到1之间，得到待检测图像和基准图像存在差异的预测概率。

可选地，差异检测模块，还用于：

根据差异可视化矩阵，显示待检测图像，在所显示的待检测图像上标记出待检测图像与基准图像存在差异的区域之前，将差异可视化矩阵中的负数置为0，差异可视化矩阵中的正数值在待检测图像中的对应区域为与基准图像存在差异的区域。

本公开实施例提供的设备可以具体用于执行上述第四实施例提供的方法实施例，具体功能此处不再赘述。

根据本公开的实施例，本公开还提供了一种电子设备和一种可读存储介质。

根据本公开的实施例，本公开还提供了一种计算机程序产品，计算机程序产品包括：计算机程序，计算机程序存储在可读存储介质中，电子设备的至少一个处理器可以从可读存储介质读取计算机程序，至少一个处理器执行计算机程序使得电子设备执行上述任一实施例提供的方案。

图11示出了可以用来实施本公开的实施例的示例电子设备1100的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。

如图11所示，电子设备1100包括计算单元1101，其可以根据存储在只读存储器(ROM)1102中的计算机程序或者从存储单元1108加载到随机访问存储器(RAM)1103中的计算机程序，来执行各种适当的动作和处理。在RAM 1103中，还可存储设备1100操作所需的各种程序和数据。计算单元1101、ROM 1102以及RAM 1103通过总线1104彼此相连。输入/输出(I/O)接口1105也连接至总线1104。

设备1100中的多个部件连接至I/O接口1105，包括：输入单元1106，例如键盘、鼠标等；输出单元1107，例如各种类型的显示器、扬声器等；存储单元1108，例如磁盘、光盘等；以及通信单元1109，例如网卡、调制解调器、无线通信收发机等。通信单元1109允许设备1100通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

计算单元1101可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元1101的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元1101执行上文所描述的各个方法和处理，例如图像差异检测模型训练方法或者图像差异检测方法。例如，在一些实施例中，图像差异检测模型训练方法或者图像差异检测方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元1108。在一些实施例中，计算机程序的部分或者全部可以经由ROM1102和/或通信单元1109而被载入和/或安装到设备1100上。当计算机程序加载到RAM 1103并由计算单元1101执行时，可以执行上文描述的图像差异检测模型训练方法或者图像差异检测方法的一个或多个步骤。备选地，在其他实施例中，计算单元1101可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行图像差异检测模型训练方法或者图像差异检测方法。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与VPS服务("Virtual Private Server"，或简称"VPS")中，存在的管理难度大，业务扩展性弱的缺陷。服务器也可以为分布式系统的服务器，或者是结合了区块链的服务器。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

Claims

1.一种图像差异检测模型训练方法，包括：

2.根据权利要求1所述的方法，其中，所述图像差异检测模型包括特征提取子模型和差异定位子模型，所述将所述样本图像和所述基准图像输入图像差异检测模型，通过所述图像差异检测模型，确定所述样本图像和所述基准图像的差异可视化矩阵，并根据所述差异可视化矩阵确定所述样本图像和所述基准图像存在差异的预测概率，包括：

将所述样本图像和所述基准图像输入所述特征提取子模型，通过所述特征提取子模型，提取所述样本图像的图像特征，得到第一特征矩阵，并提取所述基准图像的图像特征，得到第二特征矩阵；

通过所述差异定位子模型，根据所述第一特征矩阵和所述第二特征矩阵，确定所述差异可视化矩阵；并根据所述差异可视化矩阵，确定所述样本图像和所述基准图像存在差异的预测概率。

3.根据权利要求2所述的方法，其中，所述根据所述第一损失，更新所述图像差异检测模型的模型参数，包括：

将所述第一特征矩阵转换为第一特征向量，并将所述第二特征矩阵转换为第二特征向量；

根据所述第一特征向量与所述第二特征向量之间的距离，以及所述标注信息，确定第二损失；

根据所述第一损失和所述第二损失，确定综合损失值；

根据所述综合损失值，更新所述图像差异检测模型的模型参数。

4.根据权利要求3所述的方法，其中，将任一特征矩阵转换为特征向量，包括：

将所述任一特征矩阵进行展平处理，得到第一向量；

通过至少一个全连接层，对所述第一向量进行至少一次特征变换处理，得到对应的特征向量。

5.根据权利要求4所述的方法，其中，所述将所述任一特征矩阵进行展平处理，得到第一向量之前，还包括：

对所述任一特征矩阵进行平均池化处理。

6.根据权利要求2-5中任一项所述的方法，其中，所述将所述样本图像和所述基准图像输入所述特征提取子模型，通过所述特征提取子模型，提取所述样本图像的图像特征，得到所述第一特征矩阵，并提取所述基准图像的图像特征，得到所述第二特征矩阵，包括：

所述特征提取子模型包括第一网络和第二网络，所述第一网络和第二网络具有相同的结构，并且所述第一网络和第二网络的权重不共享；

将所述样本图像和所述基准图像分别输入所述第一网络和第二网络，利用所述第一网络，提取所述样本图像的图像特征，得到所述第一特征矩阵；利用所述特征提取子模型的第二网络，提取所述基准图像的图像特征，得到所述第二特征矩阵。

7.根据权利要求6所述的方法，其中，利用所述特征提取子模型的任一网络，提取输入图像的图像特征，得到输入图像的特征矩阵，包括：

利用所述特征提取子模型的任一网络，提取输入图像的初始图像特征；

对所述初始图像特征进行特征细化处理，得到细化后的第二图像特征；

将所述初始图像特征和所述第二图像特征进行融合处理后，得到所述输入图像的特征矩阵；

其中，所述任一网络为所述第一网络或所述第二网络，若所述任一网络为所述第一网络，则所述输入图像为所述样本图像，所述输入图像的特征矩阵为所述第一特征矩阵，若所述任一网络为第二网络，则所述输入图像为所述基准图像，所述输入图像的特征矩阵为所述第二特征矩阵。

8.根据权利要求7所述的方法，其中，所述将所述初始图像特征和所述第二图像特征进行融合处理后，得到所述输入图像的特征矩阵，包括：

将所述初始图像特征经过缩放处理，得到缩放处理后的图像特征；

将缩放处理后的图像特征和所述第二图像特征进行融合处理，得到所述输入图像的特征矩阵。

9.根据权利要求2-8中任一项所述的方法，其中，所述根据所述第一特征矩阵和所述第二特征矩阵，确定所述差异可视化矩阵，包括：

将所述第一特征矩阵和所述第二特征矩阵连接，得到融合特征矩阵；

对所述融合特征矩阵进行差异特征提取处理，得到所述样本图像和所述基准图像的差异可视化矩阵。

10.根据权利要求1-9中任一项所述的方法，其中，所述根据所述差异可视化矩阵，确定所述样本图像和所述基准图像存在差异的预测概率，包括：

对所述差异可视化矩阵进行最大池化处理，得到预测值；

将所述预测值映射到0到1之间，得到所述样本图像和所述基准图像存在差异的预测概率。

11.一种图像差异检测方法，包括：

获取待检测图像和所述待检测图像对应的基准图像；

12.根据权利要求11所述的方法，其中，所述图像差异检测模型包括特征提取子模型和差异定位子模型，所述将所述待检测图像和所述基准图像输入训练好的图像差异检测模型，通过所述图像差异检测模型，确定所述待检测图像和所述基准图像的差异可视化矩阵，以及所述待检测图像和所述基准图像存在差异的预测概率，包括：

将所述待检测图像和所述基准图像输入所述特征提取子模型，通过所述特征提取子模型，提取所述待检测图像的图像特征，得到第一特征矩阵，并提取所述基准图像的图像特征，得到第二特征矩阵；

通过所述差异定位子模型，根据所述第一特征矩阵和所述第二特征矩阵，确定所述差异可视化矩阵；并根据所述差异可视化矩阵，确定所述待检测图像和所述基准图像存在差异的预测概率。

13.根据权利要求12所述的方法，其中，所述将所述待检测图像和所述基准图像输入所述特征提取子模型，通过所述特征提取子模型，提取所述待检测图像的图像特征，得到所述第一特征矩阵，并提取所述基准图像的图像特征，得到所述第二特征矩阵，包括：

将所述待检测图像和所述基准图像分别输入所述第一网络和第二网络，利用所述第一网络，提取所述待检测图像的图像特征，得到所述第一特征矩阵；利用所述特征提取子模型的第二网络，提取所述基准图像的图像特征，得到所述第二特征矩阵。

14.根据权利要求13所述的方法，其中，利用所述特征提取子模型的任一网络，提取输入图像的图像特征，得到输入图像的特征矩阵，包括：

对所述初始图像特征进行特征细化，得到细化后的第二图像特征；

其中，所述任一网络为所述第一网络或所述第二网络，若所述任一网络为所述第一网络，则所述输入图像为所述待检测图像，所述输入图像的特征矩阵为所述第一特征矩阵，若所述任一网络为第二网络，则所述输入图像为所述基准图像，所述输入图像的特征矩阵为所述第二特征矩阵。

15.根据权利要求14所述的方法，其中，所述将所述初始图像特征和所述第二图像特征进行融合处理后，得到所述输入图像的特征矩阵，包括：

16.根据权利要求12-15中任一项所述的方法，其中，所述根据所述第一特征矩阵和所述第二特征矩阵，确定所述差异可视化矩阵，包括：

对所述融合特征矩阵进行特征细化处理，得到细化后的融合特征矩阵；

对所述细化后的融合特征矩阵进行差异特征提取处理，得到所述待检测图像和所述基准图像的差异可视化矩阵。

17.根据权利要求12-16中任一项所述的方法，其中，所述根据所述差异可视化矩阵，确定所述待检测图像和所述基准图像存在差异的预测概率，包括：

对所述差异可视化矩阵进行最大池化处理，得到预测值；

将所述预测值映射到0到1之间，得到所述待检测图像和所述基准图像存在差异的预测概率。

18.根据权利要求11-17中任一项所述的方法，其中，所述根据所述差异可视化矩阵，显示所述待检测图像，在所显示的待检测图像上标记出所述待检测图像与所述基准图像存在差异的区域之前，还包括：

将所述差异可视化矩阵中的负数置为0，所述差异可视化矩阵中的正数值在所述待检测图像中的对应区域为与所述基准图像存在差异的区域。

19.一种图像差异检测模型训练的设备，包括：

20.根据权利要求19所述的设备，其中，所述图像差异检测模型包括特征提取子模型和差异定位子模型，所述差异检测模块，包括：

特征提取子模块，用于将所述样本图像和所述基准图像输入所述特征提取子模型，通过所述特征提取子模型，提取所述样本图像的图像特征，得到第一特征矩阵，并提取所述基准图像的图像特征，得到第二特征矩阵；

差异定位子模块，用于通过所述差异定位子模型，根据所述第一特征矩阵和所述第二特征矩阵，确定所述差异可视化矩阵；并根据所述差异可视化矩阵，确定所述样本图像和所述基准图像存在差异的预测概率。

21.根据权利要求20所述的设备，其中，所述参数更新模块，还包括：

第一损失确定子模块，用于根据所述预测结果和所述标注信息，确定第一损失；

第二损失确定子模块，用于将所述第一特征矩阵转换为第一特征向量，并将所述第二特征矩阵转换为第二特征向量；根据所述第一特征向量与所述第二特征向量之间的距离，以及所述标注信息，确定第二损失；

综合损失确定子模块，用于根据所述第一损失和所述第二损失，确定综合损失值；

参数更新子模块，用于根据所述综合损失值，更新所述图像差异检测模型的模型参数。

22.根据权利要求20或21所述的设备，其中，所述特征提取子模型包括第一网络和第二网络，所述第一网络和第二网络具有相同的结构，并且所述第一网络和第二网络的权重不共享；所述特征提取子模块，还用于：

23.根据权利要求20-22中任一项所述的设备，其中，所述差异定位子模块还用于：

24.根据权利要求20-23中任一项所述的设备，其中，所述差异定位子模块还用于：

对所述差异可视化矩阵进行最大池化处理，得到预测值；

25.一种图像差异检测设备，包括：

26.根据权利要求25所述的设备，其中，所述图像差异检测模型包括特征提取子模型和差异定位子模型，所述差异检测模块，包括：

特征提取子模块，用于将所述待检测图像和所述基准图像输入所述特征提取子模型，通过所述特征提取子模型，提取所述待检测图像的图像特征，得到第一特征矩阵，并提取所述基准图像的图像特征，得到第二特征矩阵；

差异定位子模块，用于通过所述差异定位子模型，根据所述第一特征矩阵和所述第二特征矩阵，确定所述差异可视化矩阵；并根据所述差异可视化矩阵，确定所述待检测图像和所述基准图像存在差异的预测概率。

27.根据权利要求26所述的设备，其中，所述特征提取子模型包括第一网络和第二网络，所述第一网络和第二网络具有相同的结构，并且所述第一网络和第二网络的权重不共享；

所述特征提取子模块还用于：

28.一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-18中任一项所述的方法。

29.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行权利要求1-18中任一项所述的方法。

30.一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现根据权利要求1-18中任一项所述的方法。