CN115984671B - 模型在线更新方法、装置、电子设备及可读存储介质 - Google Patents

Abstract

本申请涉及一种模型在线更新方法、装置、电子设备及可读存储介质，其方法包括：在工作模型不间断执行图像相关任务的情况下，循环执行以下处理：基于工作模型，根据特征池中的多个聚类中心对待处理图像进行异常检测，以确定待处理图像是否为难样本，其中，特征池的初始值是根据所述工作模型的训练数据集生成的；若确定难样本的数量达到预设的数量阈值，则基于难样本集对工作模型进行训练并更新，难样本集至少包括本轮次处理确定出的多个难样本；根据难样本集对特征池进行更新。本申请实现了模型的终身学习，显著提高了模型更新的效率，节省了大量的人力、时间和算力成本，且显著提升了模型的精度和检测效果。

Description

模型在线更新方法、装置、电子设备及可读存储介质

技术领域

本申请涉及计算机技术领域，具体涉及了一种模型在线更新方法、装置、电子设备及可读存储介质。

背景技术

随着计算机技术的发展，各种各样的图像处理智能模型被应用于各种领域，如工厂流水线在做质量检测的时候，往往训练好一个缺陷识别模型应用在流水线上，当发觉检测效果不好的时候，需要人工筛选一批数据进行人工标注，然后重新训练模型，这需要消耗大量的人力和算力，且极大降低了模型更新的效率。

发明内容

针对上述情况，本申请实施例提供了一种模型在线更新方法、装置、电子设备及可读存储介质，可实现模型的在线更新，以克服或者部分克服现有技术的不足之处。

第一方面，本申请实施例提供了一种模型在线更新方法，包括在工作模型不间断执行图像相关任务的情况下，循环执行以下处理：

基于工作模型，根据特征池中的多个聚类中心对待处理图像进行异常检测，以确定所述待处理图像是否为难样本，其中，所述特征池的初始值是根据所述工作模型的训练数据集生成的；

若确定难样本的数量达到预设的数量阈值，则基于难样本集对所述工作模型进行训练并更新，其中，所述难样本集至少包括本轮次处理确定出的多个难样本；

根据所述难样本集对所述特征池进行更新。

第二方面，本申请实施例还提供了一种模型在线更新装置，所述装置用于实现上述的模型在线更新方法。

第三方面，本申请实施例还提供了一种电子设备，包括：处理器；以及被安排成存储计算机可执行指令的存储器，所述可执行指令在被执行时使所述处理器执行上述的模型在线更新方法。

第四方面，本申请实施例还提供了一种计算机可读存储介质，计算机可读存储介质存储一个或多个程序，一个或多个程序当被包括多个应用程序的电子设备执行时，使得电子设备执行上述任一所述的模型在线更新方法。

本申请实施例采用的上述至少一个技术方案能够达到以下有益效果：

本申请在工作模型不间断执行图像相关任务的情况下，以根据特征池中的多个聚类中心为基准，基于工作模型对待处理图像进行异常检测，以确定每个待处理图像是否为难样本，其中，所述特征池的初始值是根据所述工作模型的训练数据集生成的，并对难样本的数量进行累计，当难样本的数量达到预设的数量阈值，则基于难样本集对工作模型进行训练和更新，其中，上述的难样本集至少包括本轮次处理确定出的多个难样本；然后根据难样本集对特征池进行更新，以备下一个轮次循环使用。本申请通过对工作中的待处理图像是否为难样本进行识别和累计，当难样本数量达到一定数量，则启动模型的训练模式，基于识别出的难样本形成的难样本集对工作模型进行训练和更新，并且根据难样本集对特征池进行更新，通过循环执行以上处理步骤，实现了模型的在线更新，实现了模型的终身学习，显著提高了模型更新的效率，节省了大量的人力、时间和算力成本，且显著提升了模型的精度和检测效果，进一步极大提高了整个工作流水线的工作效率，减少企业的人工成本，逐步提升产品质量。

附图说明

此处所说明的附图用来提供对本申请的进一步理解，构成本申请的一部分，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。在附图中：

图1示出了根据本申请的一个实施例的模型在线更新方法的流程示意图；

图2示出了根据本申请的一个比对特征向量在三维空间的映射示意图；

图3示出根据本申请的一个实施例的计算置信度向量的数据流转示意图；

图4示出了根据本申请的另一个实施例的模型在线更新方法的流程示意图；

图5示出了根据本申请的一个实施例的模型在线更新装置的结构示意图；

图6示出了本申请实施例提供的一种电子设备的结构示意图。

具体实施方式

为使本申请的目的、技术方案和优点更加清楚，下面将结合本申请具体实施例及相应的附图对本申请技术方案进行清楚、完整地描述。显然，所描述的实施例仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。

以下结合附图，详细说明本申请各实施例提供的技术方案。

现有技术，图像处理任务相关模型经常用于质量检测、文本识别等等领域，以工厂流水线在做质量检测为例，经常训练好一个模型用在流水线上，当发觉效果不好时候需要人工筛选一批数据然后标注，重新训练模型。这往往需要消耗大量的人力和机器，即现有技术中，对于在线模型需要人工介入判定模型效果，并且对检测模型效果进行提升需要耗费大量人力和物力。

对此，本申请提供了一种模型在线更新方法，图1示出了根据本申请的一个实施例的模型在线更新方法的流程示意图，从图1可以看出，本申请包括在工作模型不间断执行图像相关任务的情况下，循环执行以下至少包括步骤S110~步骤S130的处理：

步骤S110：基于所述工作模型，根据特征池中的多个聚类中心对待处理图像进行异常检测，以确定所述待处理图像是否为难样本，其中，所述特征池的初始值是根据所述工作模型的训练数据集生成的。

本申请可适用于全部的图像相关任务的场景，如从图像中进行人脸检测、活体检测、客流统计、文本识别、产品质量检测等等，即工作模型为产品缺陷检测模型、文本提取模型、人脸检测模型、和客流统计模型等等中的任意一种。以下为了方便描述，均以产品缺陷检测场景为例进行说明。

本申请中的工作模型可以为现有技术中任意一种用于执行图像相关任务的机器学习模型，具体可以根据场景进行选择，如产品缺陷检测模型等、客流统计模型等等，对于工作模型的算法，本申请亦不作限定，如可以是基于卷积神经的图像处理算法、可以是基于多头注意力机制的图像处理算法等等。但是需要说明的是，工作模型应具有模型普遍存在的特征提取网络（backbone模块），其通常包括多层卷积块（block），不同的特征提取网络细节上还有差异，其主要作用就是提取输入的图片的特征。

在工作模型执行图像相关任务时，首先获取待处理图像，待处理图像为图像相关任务的目标图像，通常为实时或者在线获取的，以产品的缺陷检测场景为例，流水线上每个产品都会经过拍摄设备得到至少一张原始图片，包括但不局限于彩色图和灰度图等。

工作模型对待处理图像进行异常检测，检测其是否为难样本，本申请中的“难样本”是指数据集中效果不好测图片。通常识别效果不好的图像往往集中在难样本上，所谓难样本是指数据集中效果不好测图片，这是由于图片模糊或者有噪音等问题造成的检测效果不佳。

具体的，难样本的检测可以以特征池中的多个聚类中心为基准进行，以确定所述待处理图像是否为难样本，特征池中包含多个聚类中心，所谓“聚类”是将物理或抽象对象的集合分成由类似的对象组成的多个类的过程被称为聚类。由聚类所生成的簇是一组数据对象的集合，这些对象与同一个簇中的对象彼此相似，与其他簇中的对象相异，也就是说聚类中心表征的是整个训练样本集中性质不同的多个特征。

简单理解，检测一个待处理图像属于特征池中的每个聚类中心的概率（置信度），当该待处理图像属于特征池中的某一个或者某几个聚类中心的置信度大于预设的置信度阈值，则确定该待处理图像为难样本，如设置置信度阈值为0.5；若该待处理图像属于特征池中的某一个或者某几个聚类中心的置信度小于等于预设的置信度阈值，则确定该待处理图像为正常样本。

需要说明的是，模型的在线更新与工作模型执行图像相关任务是并行的，一个待处理图像即便被识别为难样本，也会按照图像相关任务的业务逻辑执行对应的任务处理。

上述的特征池在每次模型更新后，也会被更新，而特征池的初始值是根据工作模型的训练数据集生成的。具体的，在工作模型在投入使用前通常需要训练，训练的大概过程是，构建训练数据集，在训练数据集中包含很多条训练样本，然后将训练样本分条或者分批输入到工作模型中，工作模型基于输入的训练样本执行相应的图像相关任务，并对工作模型中的参数权重进行反向传播，最后得到训练好的工作模型。

这里将工作模型的训练数据集记为训练数据集X，根据训练数据集X可构建特征池的初始值，这里记为初始特征池，后续每次在更新模型后，均对特征池进行更新，以备下一个循环使用。

将训练数据集X中的每一条训练样本输入工作模型中进行特征提取，对于每一个训练样本提取一条特征向量，然后采用聚类的方法，将多条特征向量进行聚类，即可得到多个聚类中心，从而形成特征池。

步骤S120：若确定难样本的数量达到预设的数量阈值，则基于难样本集对所述工作模型进行训练并更新，其中，所述难样本集至少包括本轮次处理确定出的多个难样本。

在每一个循环处理中，对难样本的数量进行累加，当难样本的数量累计到数量阈值，如设置数量阈值为100，则说明当前的工作模型对待处理图像的检测效果已经不是很理想，这时即启动工作模型的训练模式，即基于难样本集对于工作模型进行在线训练，训练好后，对工作模型进行更新。

其中，难样本集至少包括本轮次循环确定出的多个难样本，即上述确定出的100条难样本组成难样本集。

为了形成难样本集，在本申请的一些实施例中，若确定一个待处理图像为难样本，则将所待处理图像存入所述难样本集；若确定所述工作模型训练完毕，则将所述难样本集清零。

由于工作模型已经采用训练数据集X进行训练，因此，只需采用确定出的多条难样本进行训练即可显著提高工作模型的检测效果，因此，在工作模型的更新过程中，在一个循环中，首先置难样本集为空集，即在工作模型每次训练完毕后，即对难样本集进行清零，当确定一个待处理图像为难样本，则将该处理图像存入难样本集，从而形成了本轮次循环的难样本集。

在本申请的另一些实施例中，还可以在每个循环的难样本集中加入其它一些难样本，以增加训练数据量，提高工作模型的精度。

步骤S130：根据所述难样本集对所述特征池进行更新。

最后，根据本轮次循环形成的难样本集对特征池进行更新，由于在执行任务的时候，会获得新的样本，即待处理图像，这些图像产生了与上一轮次循环中的特征池中的聚类中心不同的特征，因此需要根据难样本集对特征池进行更新，以备下一个循环使用。

具体的，可将难样本集加入上一轮次形成特征池的数据集中，然后重新进行聚类，即可得到新的多个聚类中心，从而形成新的特征值，以备下一个循环使用。

由图1所示的方法可以看出，本申请在工作模型不间断执行图像相关任务的情况下，以根据特征池中的多个聚类中心为基准，基于工作模型对待处理图像进行异常检测，以确定每个待处理图像是否为难样本，其中，所述特征池的初始值是根据所述工作模型的训练数据集生成的，并对难样本的数量进行累计，当难样本的数量达到预设的数量阈值，则基于难样本集对工作模型进行训练和更新，其中，上述的难样本集至少包括本轮次循环确定出的多个难样本；然后根据难样本集对特征池进行更新，以备下一个轮次循环使用。本申请通过对工作中的待处理图像是否为难样本进行识别和累计，当难样本数量达到一定数量，则启动模型的训练模式，基于识别出的难样本形成的难样本集对工作模型进行训练和更新，并且根据难样本集对特征池进行更新，通过循环执行以上处理步骤，实现了模型的在线更新，实现了了模型的终身学习，显著提高了模型更新的效率，节省了大量的人力、时间和算力成本，且显著提升了模型的精度和检测效果，进一步极大提高了整个工作流水线的工作效率，减少企业的人工成本，逐步提升产品质量。

在本申请的一些实施例中，在上述方法中，所述基于工作模型，根据特征池的多个聚类中心对待处理图像进行异常检测，以确定所述待处理图像是否为难样本，包括：基于所述工作模型的特征提取网络，对所述待处理图像进行特征提取，得到目标特征矩阵，对所述目标特征矩阵进行向量化处理，得到目标特征向量；基于注意力机制，根据所述目标特征向量与各所述聚类中心的相似性，确定所述目标特征向量属于各所述聚类中心的置信度向量；根据所述置信度向量以及预设的置信度阈值，确定所述待处理图像是否为难样本。

首先，对待处理图像进行特征提取，得到目标特征矩阵，对目标特征矩阵进行向量化即可得到目标特征向量，然后可以基于注意力机制，确定目标特征向量与各个聚合中心的相似度，进一步的，根据相似度确定目标特征向量属于各个聚合中心的置信度，得到的多个置信度组成置信度向量，最后，根据置信度向量中个元素与预设的置信度阈值的相对大小，确定目标特征向量对应的待处理图像是否为难样本。

将待处理图像记为

，将其输入工作模型中，基于工作模型的特征提取网络，对其进行特征提取，得到待处理图像的特征向量，这里记为目标特征向量/>

，“向量”是指矩阵是一维，“特征”是该向量的物理意义，表示是工作模型的特征提取网络提取出的特征，包含但不限于纹理特征和抽象特征等等。目标特征向量/>

为一维向量，特征提取网络直接输出的通常为三维矩阵，可以将其转换为一维矩阵，转换方式可以选择现有技术中的任意一种矩阵转化工具，如torch库中的flatten函数等，可以将这些工具连接于工作模型的特征提取网络之后，或者直接整合到工作模型的特征提取网络之中即可。

然后确定目标特征向量所属各个聚类中心的置信度，具体的，可以根据目标特征向量与各个聚类中心的相似度进行确定，简单理解，目标特征向量与哪个聚类中心的相似度高，则目标特征向量所属哪个聚类中心的置信度就越高。

在本申请的一些实施例中，特征提取网络可以为但不限于多层卷积神经网络，当利用特征提取网络对所述待处理图像进行特征提取时，具体可包括：利用所述多层卷积神经网络对所述待处理图像进行多级特征提取，得到目标特征矩阵，所述目标特征矩阵包括所述待处理图像的纹理特征和/或抽象特征。

即将待处理图像输入到多层卷积神经网络中，多层卷积神经网络对待处理图像进行多级特征提取，卷积神经网络为现有技术中的任意一种卷积神经结构，其多层（多个block）相连，可以实现对待处理图像的多层特征提取，多层卷积神经网络输出的为目标特征矩阵，目标特征矩阵中包含的信息为表征待处理图像的纹理特征和抽象特征的至少一种。

具体的，在本申请的一些实施例中，在上述方法中，所述基于注意力机制，根据所述目标特征向量与各所述聚类中心的相似性，确定所述目标特征向量属于各所述聚类中心的置信度向量，包括：利用注意力网络，确定所述目标特征向量与各所述聚类中心的相似性，得到相似度矩阵；基于解码网络，对所述相似度矩阵进行置信度转化，得到置信度向量，所述置信度向量的各元素表示所述目标特征向量属于各元素对应的聚类中心的置信度。

在本申请中，将特征池中的多个聚类中心记为

，将目标特征向量/>

输入到注意力网络或者模块（attention模块）中，注意力网络可分别计算目标特征向量与各聚类中心的相似性，并输出相似度矩阵，然后采用解码网络对相似度矩阵进行处理，即可得到置信度向量，在置信度向量中，各个元素分别与一个聚类中心对应，各元素表示目标特征向量属于各元素对应的聚类中心的置信度（一个概率值）。

具体的，在本申请的一些实施例中，所述利用注意力网络，确定所述目标特征向量与各所述聚类中心的相似性，得到相似度矩阵，包括：将所述目标特征向量作为询问，将各所述聚类中心作为键值，输入至所述注意力网络中，计算所述目标特征向量与各所述聚类中心的相似性，得到相似度矩阵；其中，所述相似度矩阵的列数是根据所述注意力网络的预设参数生成的。

将目标特征向量

作为查询（query），将特征池中聚类中心/>

作为键值（key），通过注意力网络计算目标特征向量/>

和各个聚类中心记/>

的相似度score，得到相似度矩阵（score map），相似度矩阵是一个形状为k×m的矩阵，其中m和k均≥1，m数值取决于注意力网络中的参数设置，如可以设置为10。

然后将得到的相似度矩阵输入到解码网络或者模块（decoder模块）中，在本申请的一些实施例中，解码网络可以使用但不局限于单层全连接网络，解码网络的输入为前述的k×m的相似度矩阵，输出为k维的置信度向量

，置信度向量/>

的每一个元素数值表示目标特征向量/>

属于各个聚类中心记/>

中的置信度。

在本申请的一些实施例中，在上述方法中，所述根据所述置信度向量以及预设的置信度阈值，确定所述待处理图像是否为难样本，包括： 确定所述置信度向量的各元素的最大值；判断所述最大值是否大于所述置信度阈值，若是，则确定所述待处理图像为难样本；若所述最大值小于等于所述置信度阈值，则确定所述待处理图像为正常样本。

如设置置信度阈值为0.5，先确定一个目标特征向量

的置信度向量中各元素的最大值，然后将最大值与预设的置信度阈值比较大小，若该最大值大于置信度阈值，则确定待处理图像为难样本；否则，确定该待处理图像为正常样本。

图3示出根据本申请的一个实施例的计算置信度向量的数据流转示意图，从图3可以看出，本实施例包括：

将待处理图像输入工作模型的特征提取网络，得到目标特征矩阵。

将目标特征矩阵进行向量化，得到目标特征向量。

将目标特征向量和上一轮次的特征池同时输入到注意力模型中，注意力模型输出相似度矩阵。

将相似度矩阵输入解码网络，解码网络输出置信度向量，如置信度向量为：[0.17、0.03、……、0.41]。

在本申请的一些实施例中，在上述方法中，所述根据所述难样本集对所述特征池进行更新，包括：根据所述难样本集对上一轮次循环产生的训练数据集进行更新；对更新后的训练数据集的各张图像进行预处理，以使各张图像的通道数量一致；基于所述特征提取网络对训练数据集中的各张图像进行特征提取，得到多个比对特征矩阵；将各所述比对特征矩阵进行向量化处理，得到多个比对特征向量；对所述多个比对特征向量进行聚类，得到多个聚类中心，并将各所述聚类中心存储于所述特征池中。

在本申请的一些实施例中，特征池可以根据上述方法进行确定或者更新，在首次计算特征池时，直接基于工作模型的训练数据集进行计算获得；而在非首次计算特征池时，首先将本轮次循环产生的难样本集加入上一轮次产生的训练数据集中，形成新的训练数据集，然后根据新的训练数据集进行聚合，形成新的特征池，以备下一个轮次循环使用。矩阵到向量的转化同前，即利用torch库中的flatten函数，对各所述比对特征矩阵进行向量化处理，得到多个比对特征向量。

以下以首次计算特征池为例，对特征池的具体计算方法进行简要说明：首先对训练数据集中的每张图像均进行预处理，使得每张图像的通道均相同，所述对更新后的训练数据集的各张图像进行预处理，以使各张图像的通道数量一致，包括：确定各张图像的图像类型；若各张图像的图像类型包括彩色图和灰度图，则对图像类型为灰度图的图像进行通道补齐处理。

具体的，彩色图片通道数是3，即RGB，灰色图片通道数是1，即灰度值，如果训练数据集中都是彩色或者都是灰度图，则无需处理；若彩色图片中混有灰度图，应将灰度图三通道补齐，虽然视觉上还是灰色，但在计算机读取时是和彩色图像一致的。

需要说明的是，当非首次计算特征池时，需要对每个轮次循环加入到训练数据集中的难样本集中的难样本也进行通道统一的处理。

将训练数据集中的图像记为

，并一一输入到工作模型的特征提取网络中，得到每张图像对应的特征向量/>

，这里记为比对特征向量/>

，其中i的取值范围为1~n，n为训练数据集中的图像数量。

对所有比对特征向量

，视其为高维空间点集，请参考图2，图2示出了根据本申请的一个比对特征向量在三维空间的的映射示意图，可以看出比对特征向量可以看做是三维空间中的点，然后使用聚类的方法，对多个比对特征向量/>

进行聚类，得到多个聚类中心，从图2中可以看出，聚类中心也可以看做是三维空间中的点。

基于所述特征提取网络对训练数据集中的各张图像进行特征提取，得到多个比对特征向量聚类中心

，其中，/>

为聚类中心点之一，k为聚类算法定义的聚类中心个数，将得到多个聚类中心进行保存即可得到特征池。在本申请的一些实施例中，在上述方法中，所述对所述多个比对特征向量进行聚类，得到多个聚类中心，包括：采用k均值聚类算法、bi均值聚类算法、密度聚类算法中的任意一种对所述多个比对特征向量进行聚类，得到多个聚类中心。

在对多个比对特征向量

进行聚类时，可以采用现有技术中的任意一种，在本申请的一些实施例中，推荐使用k均值聚类算法、bi均值聚类算法、密度聚类算法中的任意一种，如k均值聚类算法包括K-Means聚类算法、K-means++聚类算法，其中，K-Means聚类算法会选择一些类/组来使用，并随机地初始化它们各自的中心点，要想知道要使用的类的数量，最好快速地查看一下数据，并尝试识别任何不同的分组。组的中心点（类的中心点）是与每个数据点向量相同长度的向量；每个数据点（一个特征向量）通过计算该数据点和每个组中心之间的距离进行分类，然后将该数据点分类为最接近它的组或类；基于这些分类点，通过取组或类中所有向量的均值来重新计算组中心；对一组迭代重复这些步骤，即可得到聚类中心。在本申请的另外一些实施例中，对于初始组中心的选择，还可以选择随机初始化组中心几次，然后选择那些看起来提供了最好结果的组中心来运行。K-Means聚类算法的优势在于其速度非常快，因为本申请中所做的只是计算数据点和组中心之间的距离，这极大提高了聚类的速度。对于其他聚类算法这里不再一一赘述。

对于聚类的方法可简述如下：确定各所述比对特征向量在映射空间中的位置信息；基于欧式距离、马氏距离、标准化欧式距离、或者余弦距离中的任一种，确定各所述比对特征向量之间的相对位置信息；根据所述相对位置信息对所述多个比对特征向量进行分类，得到多个聚类特征组；确定各个聚类特征组的质心，得到多个聚类中心。

请参考图2，可以将各个比对特征向量看做是三维空间（映射空间）中的各个点，可以基于各个点之间的距离，包括但不限于欧式距离、马氏距离、标准化欧式距离、或者余弦距离等，将其聚合为多个聚类特征组，将各个聚类特征组的质心作为各个聚类中心。

图4示出了根据本申请的另一个实施例的模型在线更新方法的流程示意图，从图4可以看出，本申请包括：

根据工作模型的第一训练数据集（初始训练数据集），确定第一特征池（特征池的初始值）。

获取待处理图像，并将其输入到工作模型的特征提取网络中进行特征提取，得到第一目标特征向量。

将第一目标特征向量与第一特征池同时输入注意力网络，得到第一相似度矩阵；然后将第一相似度矩阵输入解码网络，得到第一置信度向量。

确定第一执行度向量中各元素的第一最大值，并确定第一最大值是否大于预设的置信度阈值，若是则确定该待处理图像为难样本，并将该难样本存入第一难样本集中；否则，为正常样本。

对难样本数量进行累计，在每检测一个待处理图像之后，确定难样本的数量是否大于预设的数量阈值，若否，则回到获取待处理图像的步骤；若是，则基于第一难样本集对工作模型进行训练并更新。

将第一难样本集加入到第一训练数据集中，形成第二训练数据集，并清空第一难样本集。并循环以上各个步骤（以下图中未示出）：

根据第二训练数据集，确定第二特征池。

获取待处理图像，并将其输入到工作模型的特征提取网络中进行特征提取，得到第二目标特征向量。

将第二目标特征向量与第二特征池同时输入注意力网络，得到第二相似度矩阵。

然后将第二相似度矩阵输入解码网络，得到第二置信度向量。

确定第二执行度向量中各元素的第二最大值，并确定第二最大值是否大于预设的置信度阈值，若是则确定该待处理图像为难样本，并将该难样本存入难样本集中；否则，为正常样本。

对难样本数量进行累计，在每检测一个待处理图像之后，确定难样本的数量是否大于预设的数量阈值，若否，则回到获取待处理图像的步骤；若是，则基于难样本集对工作模型进行训练并更新。

将第二难样本集加入到第二训练数据集中，形成第三训练数据集，并清空第二难样本集。然后一直循环上述步骤，从而实现模型的在线更新。

图5示出了根据本申请的一个实施例的一种模型在线更新装置的结构示意图，从图5可以看出，模型在线更新装置500包括：

难样本检测单元510，用于基于所述工作模型，根据特征池中的多个聚类中心对待处理图像进行异常检测，以确定所述待处理图像是否为难样本，其中，所述特征池的初始值是根据所述工作模型的训练数据集生成的；

模型训练和更新单元520，用于若确定难样本的数量达到预设的数量阈值，则基于难样本集对所述工作模型进行训练并更新，其中，所述难样本集至少包括本轮次处理确定出的多个难样本；

特征池更新单元530，用于更新单元根据所述难样本集对所述特征池进行更新。

在本申请的一些实施例中，在上述装置中，模型训练和更新单元520，还用于若确定一个待处理图像为难样本，则将所述待处理图像存入所述难样本集。

在本申请的一些实施例中，在上述装置中，模型训练和更新单元520，还用于若确定所述工作模型训练完毕，则将所述难样本集清零。

在本申请的一些实施例中，在上述装置中，难样本检测单元510，用于基于所述工作模型的特征提取网络，对所述待处理图像进行特征提取，得到目标特征矩阵；对所述目标特征矩阵进行向量化处理，得到目标特征向量；基于注意力机制，根据所述目标特征向量与各所述聚类中心的相似性，确定所述目标特征向量属于各所述聚类中心的置信度向量；根据所述置信度向量以及预设的置信度阈值，确定所述待处理图像是否为难样本。

在本申请的一些实施例中，在上述装置中，所述特征提取网络为多层卷积神经网络。

在本申请的一些实施例中，在上述装置中，难样本检测单元510，用于利用所述多层卷积神经网络对所述待处理图像进行多级特征提取，得到目标特征矩阵，所述目标特征矩阵包括所述待处理图像的纹理特征和/或抽象特征。

在本申请的一些实施例中，在上述装置中，难样本检测单元510，用于利用注意力网络，确定所述目标特征向量与各所述聚类中心的相似性，得到相似度矩阵；基于解码网络，对所述相似度矩阵进行置信度转化，得到置信度向量，所述置信度向量的各元素表示所述目标特征向量属于与各元素对应的聚类中心的置信度。

在本申请的一些实施例中，在上述装置中，难样本检测单元510，用于将所述目标特征向量作为询问，将各所述聚类中心作为键值，输入至所述注意力网络中，计算所述目标特征向量与各所述聚类中心的相似性，得到相似度矩阵；其中，所述相似度矩阵的列数是根据所述注意力网络的预设参数生成的。

在本申请的一些实施例中，在上述装置中，所述解码网络为单层全连接网络。

在本申请的一些实施例中，在上述装置中，难样本检测单元510，用于确定所述置信度向量的各元素的最大值；判断所述最大值是否大于所述置信度阈值，若是，则确定所述待处理图像为难样本。

在本申请的一些实施例中，在上述装置中，难样本检测单元510，还若所述最大值小于等于所述置信度阈值，则确定所述待处理图像为正常样本。用于。

在本申请的一些实施例中，在上述装置中，特征池更新单元530，用于根据所述难样本集对上一轮次循环产生的训练数据集进行更新；对更新后的训练数据集的各张图像进行预处理，以使各张图像的通道数量一致；基于所述特征提取网络对训练数据集中的各张图像进行特征提取，得到多个比对特征矩阵；将各所述比对特征矩阵进行向量化处理，得到多个比对特征向量；对所述多个比对特征向量进行聚类，得到多个聚类中心，并将各所述聚类中心存储于所述特征池中。

在本申请的一些实施例中，在上述装置中，特征池更新单元530，用于确定各张图像的图像类型；若各张图像的图像类型包括彩色图和灰度图，则对图像类型为灰度图的图像进行通道补齐处理。

在本申请的一些实施例中，在上述装置中，特征池更新单元530，用于利用torch库中的flatten函数，对各所述比对特征矩阵进行向量化处理，得到多个比对特征向量。

在本申请的一些实施例中，在上述装置中，特征池更新单元530，用于采用k均值聚类算法、bi均值聚类算法、密度聚类算法中的任意一种对所述多个比对特征向量进行聚类，得到多个聚类中心。

在本申请的一些实施例中，在上述装置中，特征池更新单元530，用于确定各所述比对特征向量在映射空间中的位置信息；基于欧式距离、马氏距离、标准化欧式距离、或者余弦距离中的任意一种，确定各所述比对特征向量之间的相对位置信息；根据所述相对位置信息对所述多个比对特征向量进行分类，得到多个聚类特征组；确定各个聚类特征组的质心，得到多个聚类中心。

在本申请的一些实施例中，在上述装置中，所述工作模型为产品缺陷检测模型、文本提取模型、人脸检测模型、或客流统计模型。

需要说明的是，上述的模型在线更新装置可一一实现前述的模型在线更新方法，在此不再赘述。

图6示出了本申请实施例提供的一种电子设备的结构示意图。如图6所示，在硬件层面，该电子设备包括处理器，可选地还包括内部总线、网络接口、存储器。其中，存储器可能包含内存，例如高速随机存取存储器(Random-Access Memory，RAM)，也可能还包括非易失性存储器（non-volatile memory），例如至少1个磁盘存储器等。当然，该电子设备还可能包括其他业务所需要的硬件。

处理器、网络接口和存储器可以通过内部总线相互连接，该内部总线可以是ISA(Industry Standard Architecture，工业标准体系结构）总线、PCI(PeripheralComponent Interconnect，外设部件互连标准)总线或EISA(Extended Industry StandardArchitecture，扩展工业标准结构）总线等。总线可以分为地址总线、数据总线、控制总线等。为便于表示，图6中仅用一个双向箭头表示，但并不表示仅有一根总线或一种类型的总线。

存储器，用于存放程序。具体地，程序可以包括程序代码，程序代码包括计算机操作指令。存储器可以包括内存和非易失性存储器，并向处理器提供指令和数据。

处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行，在逻辑层面上形成模型在线更新装置。处理器，执行存储器所存放的程序，并具体用于执行前述方法。

处理器可能是一种集成电路芯片，具有信号的处理能力。在实现过程中，上述方法的各步骤可以通过处理器中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器可以是通用处理器，包括中央处理器（Central Processing Unit，CPU）、网络处理器（Network Processor，NP）等；还可以是数字信号处理器（Digital Signal Processor，DSP）、专用集成电路（Application Specific Integrated Circuit，ASIC）、现场可编程门阵列（Field－Programmable Gate Array，FPGA）或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本申请实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本申请实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成，或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器，闪存、只读存储器，可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器，处理器读取存储器中的信息，结合其硬件完成上述方法的步骤。

该电子设备可执行本申请多个实施例提供的模型在线更新方法，并实现成模型在线更新装置在图1所示实施例的功能，本申请实施例在此不再赘述。

本申请实施例还提出了一种计算机可读存储介质，该计算机可读存储介质存储一个或多个程序，该一个或多个程序包括指令，该指令当被包括多个应用程序的电子设备执行时，能够使该电子设备执行本申请多个实施例提供的模型在线更新装方法。

本领域内的技术人员应明白，本申请的实施例可提供为方法、系统、或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质（包括但不限于磁盘存储器、CD-ROM、光学存储器等）上实施的计算机程序产品的形式。

本申请是参照根据本申请实施例的方法、设备（系统）、和计算机程序产品的流程图和／或方框图来描述的。应理解可由计算机程序指令实现流程图和／或方框图中的每一流程和／或方框、以及流程图和／或方框图中的流程和／或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和／或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和／或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和／或方框图一个方框或多个方框中指定的功能的步骤。

在一个典型的配置中，计算设备包括一个或多个处理器 (CPU)、输入/输出接口、网络接口和内存。

内存可能包括计算机可读介质中的非永久性存储器，随机存取存储器 (RAM) 和/或非易失性内存等形式，如只读存储器 (ROM) 或闪存(flash RAM)。内存是计算机可读介质的示例。

计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存 (PRAM)、静态随机存取存储器 (SRAM)、动态随机存取存储器 (DRAM)、其他类型的随机存取存储器 (RAM)、只读存储器 (ROM)、电可擦除可编程只读存储器 (EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘 (DVD) 或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体 (transitory media)，如调制的数据信号和载波。

还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限定的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的同一要素。

本领域技术人员应明白，本申请的实施例可提供为方法、系统或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质（包括但不限于磁盘存储器、CD-ROM、光学存储器等）上实施的计算机程序产品的形式。

以上仅为本申请的实施例而已，并不用于限定本申请。对于本领域技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本申请的权利要求范围之内。

Claims (15)

1.一种模型在线更新方法，其特征在于，应用于工厂流水线质量检测场景，包括在工作模型不间断执行图像相关任务的情况下，循环执行以下处理：

实时或者在线获取待处理图像，基于所述工作模型，根据特征池中的多个聚类中心对所述待处理图像进行异常检测，以确定所述待处理图像是否为难样本，若确定一个待处理图像为难样本，则将该待处理图像存入难样本集；其中，所述特征池的初始值是根据所述工作模型的训练数据集生成的；

若确定难样本的数量达到预设的数量阈值，则基于所述难样本集对所述工作模型进行训练并更新，其中，所述难样本集至少包括本轮次处理确定出的多个难样本；

根据所述难样本集对所述特征池进行更新；

所述基于所述工作模型，根据特征池中的多个聚类中心对所述待处理图像进行异常检测，以确定所述待处理图像是否为难样本，包括：

基于所述工作模型的特征提取网络，对所述待处理图像进行特征提取，得到目标特征矩阵；

对所述目标特征矩阵进行向量化处理，得到目标特征向量；

基于注意力机制，根据所述目标特征向量与各所述聚类中心的相似性，确定所述目标特征向量属于各所述聚类中心的置信度向量；

根据所述置信度向量以及预设的置信度阈值，确定所述待处理图像是否为难样本；

其中，所述特征提取网络为多层卷积神经网络；所述基于所述工作模型的特征提取网络，对所述待处理图像进行特征提取，得到目标特征矩阵，包括：

利用所述多层卷积神经网络对所述待处理图像进行多级特征提取，得到目标特征矩阵，所述目标特征矩阵包括所述待处理图像的纹理特征和抽象特征；

所述根据所述难样本集对所述特征池进行更新，包括：

将所述难样本集加入到上一轮次循环产生的训练数据集，以根据所述难样本集对上一轮次循环产生的训练数据集进行更新；

对更新后的训练数据集的各张图像进行预处理，以使各张图像的通道数量一致；

基于所述特征提取网络对训练数据集中的各张图像进行特征提取，得到多个比对特征矩阵；

将各所述比对特征矩阵进行向量化处理，得到多个比对特征向量；

对所述多个比对特征向量进行聚类，得到多个聚类中心，并将各所述聚类中心存储于所述特征池中。

2.根据权利要求1所述的方法，其特征在于，所述处理还包括：

若确定所述工作模型训练完毕，则将所述难样本集清零。

3.根据权利要求1所述的方法，其特征在于，所述基于注意力机制，根据所述目标特征向量与各所述聚类中心的相似性，确定所述目标特征向量属于各所述聚类中心的置信度向量，包括：

利用注意力网络，确定所述目标特征向量与各所述聚类中心的相似性，得到相似度矩阵；

基于解码网络，对所述相似度矩阵进行置信度转化，得到置信度向量，所述置信度向量的各元素表示所述目标特征向量属于各元素对应的聚类中心的置信度。

4.根据权利要求3所述的方法，其特征在于，所述利用注意力网络，确定所述目标特征向量与各所述聚类中心的相似性，得到相似度矩阵，包括：

将所述目标特征向量作为询问，将各所述聚类中心作为键值，输入至所述注意力网络中，计算所述目标特征向量与各所述聚类中心的相似性，得到相似度矩阵；其中，所述相似度矩阵的列数是根据所述注意力网络的预设参数生成的。

5.根据权利要求3所述的方法，其特征在于，所述解码网络为单层全连接网络。

6.根据权利要求5所述的方法，其特征在于，所述根据所述置信度向量以及预设的置信度阈值，确定所述待处理图像是否为难样本，包括：

确定所述置信度向量的各元素的最大值；

判断所述最大值是否大于所述置信度阈值，若是，则确定所述待处理图像为难样本。

7.根据权利要求6所述的方法，其特征在于，所述根据所述置信度向量以及预设的置信度阈值，确定所述待处理图像是否为难样本，还包括：

若所述最大值小于等于所述置信度阈值，则确定所述待处理图像为正常样本。

8.根据权利要求1所述的方法，其特征在于，所述对更新后的训练数据集的各张图像进行预处理，以使各张图像的通道数量一致，包括：

确定各张图像的图像类型；

若各张图像的图像类型包括彩色图和灰度图，则对图像类型为灰度图的图像进行通道补齐处理。

9.根据权利要求1所述的方法，其特征在于，所述将各所述比对特征矩阵进行向量化处理，得到多个比对特征向量，包括：

利用torch库中的flatten函数，对各所述比对特征矩阵进行向量化处理，得到多个比对特征向量。

10.根据权利要求1所述的方法，其特征在于，所述对所述多个比对特征向量进行聚类，得到多个聚类中心，包括：

采用k均值聚类算法、bi均值聚类算法、密度聚类算法中的任意一种，对所述多个比对特征向量进行聚类，得到多个聚类中心。

11.根据权利要求10所述的方法，其特征在于，所述对所述多个比对特征向量进行聚类，得到多个聚类中心，包括：

确定各所述比对特征向量在映射空间中的位置信息；

基于欧式距离、马氏距离、标准化欧式距离、或者余弦距离中的任意一种，确定各所述比对特征向量之间的相对位置信息；

根据所述相对位置信息对所述多个比对特征向量进行分类，得到多个聚类特征组；

确定各个聚类特征组的质心，得到多个聚类中心。

12.根据权利要求1~11中任一项所述的方法，其特征在于，所述工作模型为产品缺陷检测模型、文本提取模型、人脸检测模型、或客流统计模型。

13.一种模型在线更新装置，其特征在于，所述装置用于实现权利要求1~12中任一项所述的模型在线更新方法。

14.一种电子设备，包括：

处理器；以及

被安排成存储计算机可执行指令的存储器，所述可执行指令在被执行时使所述处理器执行所述权利要求1~12任一所述的方法。

15.一种计算机可读存储介质，所述计算机可读存储介质存储一个或多个程序，所述一个或多个程序当被包括多个应用程序的电子设备执行时，使得所述电子设备执行所述权利要求1~12任一所述的方法。

Images