CN116363389A - 显著性区域定位模型训练方法和装置 - Google Patents
显著性区域定位模型训练方法和装置 Download PDFInfo
- Publication number
- CN116363389A CN116363389A CN202310356949.4A CN202310356949A CN116363389A CN 116363389 A CN116363389 A CN 116363389A CN 202310356949 A CN202310356949 A CN 202310356949A CN 116363389 A CN116363389 A CN 116363389A
- Authority
- CN
- China
- Prior art keywords
- image
- saliency
- salient
- region
- classified
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 83
- 238000012549 training Methods 0.000 title claims abstract description 52
- 238000001514 detection method Methods 0.000 claims abstract description 48
- 230000006870 function Effects 0.000 claims description 35
- 238000004590 computer program Methods 0.000 claims description 14
- 238000012545 processing Methods 0.000 claims description 11
- 230000004044 response Effects 0.000 claims description 8
- 230000009466 transformation Effects 0.000 claims description 5
- 230000004807 localization Effects 0.000 claims description 3
- 238000013473 artificial intelligence Methods 0.000 abstract description 4
- 238000013135 deep learning Methods 0.000 abstract description 4
- 238000010586 diagram Methods 0.000 description 10
- 238000004891 communication Methods 0.000 description 8
- 230000008569 process Effects 0.000 description 7
- 238000002372 labelling Methods 0.000 description 4
- 238000003379 elimination reaction Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000011161 development Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 230000035800 maturation Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000003203 everyday effect Effects 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000012827 research and development Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/46—Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
- G06V10/462—Salient features, e.g. scale invariant feature transforms [SIFT]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/774—Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Computing Systems (AREA)
- Databases & Information Systems (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Software Systems (AREA)
- Image Analysis (AREA)
Abstract
本公开提供了显著性区域定位模型训练方法和装置,涉及人工智能技术领域,尤其涉及计算机视觉、深度学习等技术领域,可应用于智慧城市等场景。具体实现方案为:获取待分类产品的图像数据集,并获取所述待分类产品的显著性图像;基于所述显著性图像,确定所述图像数据集中每张图像的显著性区域;提取所述显著性区域的显著性特征,并基于所述显著性特征训练目标检测模型,得到显著性区域定位模型,通过本公开可以提高模型的显著性区域的识别能力。
Description
技术领域
本公开涉及人工智能技术领域,尤其涉及计算机视觉、深度学习等技术领域,可应用于智慧城市等场景,具体涉及一种显著性区域定位模型训练方法和装置、一种显著性区域识别方法和装置、电子设备、存储介质和产品。
背景技术
快消数字化和深度访销是近年内新兴升起的应用,随着深度学习的成熟和发展,在零售商店数字化中一项比较重要的需求就是快消商品识别。即,对商品进行细粒度类别。
但是,产品外观的颜色、规格、大小、花纹、样式都非常相近,因此智能识别模型在识别细粒度类别时会遇到比较多难点。
发明内容
本公开提供了一种显著性区域定位模型训练方法和装置、一种显著性区域识别方法和装置、电子设备、存储介质和产品。
根据本公开的一方面,提供了一种显著性区域定位模型训练方法,所述方法包括:
获取待分类产品的图像数据集,并获取所述待分类产品的显著性图像;基于所述显著性图像,确定所述图像数据集中每张图像的显著性区域;提取所述显著性区域的显著性特征,并基于所述显著性特征训练目标检测模型,得到显著性区域定位模型。
根据本公开的第二方面,提供了一种显著性区域识别方法,所述方法包括:
获取待分类产品的图像;将所述图像输入至显著性区域定位模型中,得到所述图像的显著性区域,所述显著性区域定位模型是基于第一方面所述的训练方法训练得到的;识别所述显著性区域,确定所述待分类产品的类别。
根据本公开的第三方面,提供了一种细粒度显著性区域定位模型训练装置,所述装置包括:
获取模块,用于获取待分类产品对的图像数据集,并获取所述待分类产品的显著性图像;确定模块,用于基于所述显著性图像,确定所述图像数据集中每张图像的显著性区域;训练模块,用于提取所述显著性区域的显著性特征,并基于所述显著性特征训练目标检测模型,得到显著性区域定位模型。
根据本公开的第四方面,提供了一种显著性区域识别装置,所述装置包括:
获取模块,用于获取待分类产品的图像;输入模块,用于将所述图像输入至显著性区域定位模型中,得到所述图像的显著性区域,所述显著性区域定位模型是基于第三方面所述的训练装置训练得到的;识别模块,用于识别所述显著性区域,确定所述待分类产品的类别。
根据本公开的第五方面,提供了一种电子设备,包括:
至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行第一方面或第二方面所述的方法。
根据本公开的第六方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据第一方面或第二方面所述的方法。
根据本公开的第七方面,提供了一种计算机产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据第一方面或第二方面所述的方法。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1示出了本公开实施例提供的一种显著性区域定位模型训练方法的流程示意图;
图2示出了本公开实施例提供的一种显著性区域获取方法的流程示意图;
图3示出了本公开实施例提供的一种显著性区域确定方法的流程示意图;
图4示出了本公开实施例提供的一种显著性区域学习训练方法的流程示意图;
图5示出了本公开实施例提供的一种显著性区域学习训练方法的流程示意图;
图6示出了本公开实施例提供的一种显著性区域学习训练方法的流程示意图;
图7示出了本公开实施例提供的一种显著性区域识别方法的流程示意图;
图8示出了本公开实施例提供的一种显著性区域定位模型训练装置的结构示意图;
图9示出了本公开实施例提供的一种显著性区域识别装置的结构示意图;
图10示出了可以用来实施本公开的实施例的示例电子设备的示意性框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
快消数字化和深度访销是近年内新兴升起的应用,随着深度学习的成熟和发展,行业的前景是使用AI来实现零售商店的线下渠道深度分销的数据,获取每个业代人员每天在店中的巡检的进度和审核数据真实性。在零售商店数字化中一项比较重要的需求就是快消商品识别,在形形色色的商品中存在非常多的细粒度类别,这些类别外观中的颜色、规格、大小、花纹、样式都非常相近,无法进行快速的识别,因此模型在识别细粒度类别时会遇到比较多难点。
在此基础上,相关技术中提出,在模型中增加注意力网络进行识别。但是,注意力网络是通过超参数学习得到,而对于不同系列中不同细粒度产品的应用场景不能通用。
因为不同系列中不同细粒度产品之间的显著性区域是不同的,所以不能直接学习一个通用的网络来增加注意力。
因此,本公开提出一种显著性区域定位模型训练方法和装置。根据不同细粒度产品之间的显著性区域位置的特性进行学习和加权,从而得到的模型能更好的区分不同细粒度产品中的显著性区域,提升模型的细粒度识别能力。
需要说明的是,本公开的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本公开的实施例能够以除了在这里图示或描述的那些以外的顺序实施。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。
图1示出了本公开实施例提供的一种显著性区域定位模型训练方法的流程示意图,如图1中所示,该方法可以包括:
在步骤S110中,获取待分类产品的图像数据集,并获取待分类产品的显著性图像。
在本公开实施例中,待分类产品可以是细粒度产品,细粒度产品是对产品的精细化划分,是可以直接区分到具体产品。例如,XX品牌XX系列中的某一种产品。其中,待分类产品可以是多个产品,也可以是一个产品。
本公开实施例可以获取待区分的多种细粒度产品的图像数据集,从而在获取的图像数据集中进一步的提取部分图像,提取的部分图像用于确定图像中细粒度产品的显著性区域。通过裁剪等方式获得到显著性区域对应的图像。
需要说明的是,显著性区域对应的图像也可以基于其他图像获取,本公开在此不做具体限定。
在步骤S120中,基于显著性图像,确定图像数据集中每张图像的显著性区域。
在本公开实施例中,可以基于获取的待分类产品的显著性图像,与获取的图像数据集进行对比匹配,从而确定图像数据集中每张图像的待分类产品显著性区域。以便于后续基于目标检测模型对显著性区域进行识别,以确定该图像待分类产品的类别。
在步骤S130中,提取显著性区域的显著性特征,并基于显著性特征训练目标检测模型,得到显著性区域定位模型。
在本公开实施例中,可以在确定图像对应的待分类产品的类别之后,进一步提取该待分类产品图像的显著性区域的显著性特征,从而基于该显著性特征对目标检测模型进行训练,使得目标检测模型具有定位显著性区域的能力。从而实现目标检测模型,在定位的显著性区域中识别待分类产品类别,提高待分类产品识别的准确性。
本公开根据获取的待分类产品的显著性图像,为获取的图像数据集标注对应的显著性区域,从而可以减少标注量,提高研发效率。进一步根据显著性区域的特征训练模型,可以使得模型具有显著性区域定位的能力,从而提高了识别待分类产品的类别的准确性。
在本公开实施例种,获取待分类产品的显著性图像的实施方式可以参考下述实施例。
图2示出了本公开实施例提供的一种显著性区域获取方法的流程示意图,如图2中所示,该方法可以包括:
在步骤S210中,在图像数据集中选取部分图像数据。
在本公开实施例种,可以在获取的图像数据集中选取部分图像,以对选取的部分图像进行显著性区域的标注。例如,获取的图像数据集中包括一万张图像,则可以在这一万张图像中选取100张图像。需要说明的是,一百张图像中包括每种待分类产品的图像。
在步骤S220中,提取部分图像数据的第一显著性图像。
在本公开实施例种,根据选取的部分图像进行裁剪等,得到每张图像包括的显著性区域的小图,从而得到第一显著性图像。换言之,第一显著性图像即为每个待分类产品的显著性区域的图像。
在步骤S230中,对第一显著性图像进行图像变换处理,得到待分类产品的显著性图像。
在本公开实施例中,图像变换处理可以是旋转、颜色抖动、裁剪中的一种或多种处理方式。通过对第一显著性图像进行旋转、颜色抖动(color jitter)、裁剪中的一种或多种处理方式来增加显著性图像的样本数据,无需重新获取图像数据进行裁剪等处理过程,节省资源。其中,颜色抖动就是对曝光度(exposure)、饱和度(saturation)和色调(hue)进行随机变换,让模型拟合不同光照下的场景,从而增加显著性图像的丰富度。
本公开通过对部分显著性图像的增强处理,来增加显著性图像的丰富度,可以降低显著性区域的标注量,提高标注效率。
本公开还可以采用图像搜索、匹配等方式为获取的图像数据集中的每张图像标注显著性区域,其实施方式如下。
图3示出了本公开实施例提供的一种显著性区域确定方法的流程示意图,如图3中所示,该方法可以包括:
在步骤S310中,按照预设大小划分图像数据集中的每张图像,得到图像的多个区域。
在步骤S320中,匹配显著性图像与多个区域,确定与显著性图像相匹配的区域。
在步骤S330中,将与显著性图像相匹配的区域,确定为每张图像的显著性区域。
在本公开实施例中,针对每张待分类产品的图像,可以将图像划分为大小相同的多个区域。例如,将每张图像划分为16*16的大小的多个区域。
在本公开中,可以通过滑动窗口的方式搜索图像区域,将搜索的区域与显著性图像进行匹配,确定显著性区域在其图像中的位置,并在图像中标注显著性区域。
在本公开实施例中,得到图像数据集的显著性区域标注的数据后,则可以基于标注了显著性区域的图像数据集训练相关模型,从而确定可以定位待分类产品图像的显著性区域的模型。
在本公开实施例中,可以选取飞浆(PaddleDetection)模型的ppyoloe-plus-large模型。其中,ppyoloe-plus-large模型属于目标检测模型(anchor free)中的一种。ppyoloe-plus-large模型预测速度快,符合本公开业务中的速度要求。其实施方式为:
图4示出了本公开实施例提供的一种显著性区域学习训练方法的流程示意图,如图4中所示,该方法可以包括:
在步骤S410中,获取目标检测模型。
在步骤S420中,在目标检测模型中添加三层一乘一的卷积核。
在步骤S430中,基于卷积核迭代学习显著性特征,得到用于预测待分类产品显著性特征的第一目标检测模型。
在步骤S440中,基于预设的损失函数对第一目标检测模型预测结果的准确性进行约束,得到显著性区域定位模型。
在本公开实施例中,可以在目标检测模型(例如,ppyoloe-plus-large模型)中,增加一个分支。该分支可以是一个3层一乘一的卷积核。本公开中可以基于增加的3层一乘一的卷积核学习显著性特征,得到用于预测细粒度产品显著性特征的第一目标检测模型。
其中,卷积核学习的显著性特征可以是显著性区域的掩膜(mask),最初的显著性区域的掩膜是随机初始化的一个特征。
在本公开中,还可以基于损失函数对第一目标检测模型预测结果的准确性进行约束,通过多次迭代训练,从而得到显著性区域定位模型。
图5示出了本公开实施例提供的一种显著性区域学习训练方法的流程示意图,如图5中所示,该方法可以包括:
在步骤S510中,基于平滑平均绝对误差损失函数对第一目标检测模型预测结果的准确性进行约束。
在步骤S520中,响应于确定平滑平均绝对误差损失函数的值小于或等于第一阈值,获取第一目标检测模型预测的待分类产品显著性特征。
在步骤S530中,基于显著性特征对预测的所述待分类产品显著性特征进行加权,得到显著性区域定位模型。
在本公开中,还可以在损失函数(loss function)中选取平滑平均绝对误差损失函数(smooth L1 loss)对预测第一目标检测模型预测结果的准确性进行约束,从而使得第一目标检测模型学习显著性区域,以实现对图像中显著性区域的定位。
进一步的,在基于标注了显著性区域的图像数据集,训练目标检测模型的过程中,可以在平滑L1损失函数的值小于或等于第一阈值的情况下,获取第一目标检测模型预测的待分类产品显著性特征,从而基于显著性特征对预测的所述待分类产品显著性特征进行加权。根据多次迭代,对加权的权重更新迭代的次数增多,直到得到显著性区域定位模型。
图6示出了本公开实施例提供的一种显著性区域学习训练方法的流程示意图,如图6中所示,该方法可以包括:
在步骤S610中,获取基于卷积核学习显著性特征的迭代次数。
在步骤S620中,响应于确定迭代次数大于第二阈值,获取大于第二阈值迭代次数对应的平滑平均绝对误差损失函数的值。
在步骤S630中,逐一比较平滑平均绝对误差损失函数的值与第一阈值的大小,直到确定平滑平均绝对误差损失函数的值小于或等于第一阈值。
在本公开实施例中,可以通过获取基于卷积核学习显著性特征的迭代次数确定获取平滑平均绝对误差损失函数的值。例如,不适用前十次训练过程(epoch)。需要理解的是,一个epoch等于使用训练集(标注了显著性区域的图像数据集)中的全部样本训练一次的过程。当一个完整的标注了显著性区域的图像数据集通过了神经网络一次并且返回了一次,即进行了一次正向传播和反向传播,这个过程称为一个epoch。
基于加权后的显著性区域特征来增强显著性区域注意力,以使得训练后的目标检测模型关注于更有区别性的显著性特征位置,从而使得训练后的目标检测模型可以定位待分类产品图像的显著性区域,得到细粒度显著性区域定位模型。细粒度显著性区域定位模型可以对识别待分类产品进行优化。
本公开对待分类产品识别进行的优化,针对于业务数据的观察,统计出来每种待分类产品的对应显著性区域位置,并采用一种底库检索和搜索的方法在图片中对显著性区域位置进行粗粒度标注,降低标注量。而在训练的过程中会使用显著性区域注意力加权让训练的目标检测模型获取到更高权重的显著性位置的特征,从而提高模型的细粒度识别能力。
基于相似的构思,本公开还提高一种细粒度显著性区域定位模型使用方法。
图7示出了本公开实施例提供的一种显著性区域识别方法的流程示意图,如图7中所示,该方法可以包括:
在步骤S710中,获取待分类产品的图像。
在本公开中,可以通过拍摄等方式获取到需要区分的待分类产品的图像。该图像需包含用于区分待分类产品的显著性标志。
在步骤S720中,将图像输入至显著性区域定位模型中,得到图像的显著性区域。
其中,显著性区域定位模型是基于上述实施例的训练方法训练得到的在步骤S730中,识别显著性区域,确定待分类产品的类别。
在本公开中,可以将获取的图像输入至预先训练完成的细粒度显著性区域定位模型中,细粒度显著性区域定位模型输出该图像中待分类产品属于的类别。
本公开提供的细粒度显著性区域定位模型可以对识别待分类产品进行优化,提高了待分类产品(细粒度产品)的识别能力和准确性,从而减少错误,以及人力资源的浪费。
基于与图1中所示的方法相同的原理,图8示出了本公开实施例提供的一种显著性区域定位模型训练装置的结构示意图,如图8所示,该显著性区域定位模型训练装置800可以包括:
获取模块801,用于获取待分类产品的图像数据集,并获取所述待分类产品的显著性图像;确定模块802,用于基于所述显著性图像,确定所述图像数据集中每张图像的显著性区域;训练模块803,用于提取所述显著性区域的显著性特征,并基于所述显著性特征训练目标检测模型,得到细粒度显著性区域定位模型。
在本公开实施例中,所述获取模块801,用于在所述图像数据集中选取部分图像数据;提取所述部分图像数据的第一显著性图像;对所述第一显著性图像进行图像变换处理,得到所述待分类产品的显著性图像。
在本公开实施例中,所述确定模块802,用于按照预设大小划分所述图像数据集中的每张图像,得到所述图像的多个区域;匹配所述显著性图像与所述多个区域,确定与所述显著性图像相匹配的区域;将与所述显著性图像相匹配的区域,确定为每张图像的显著性区域。
在本公开实施例中,所述训练模块803,用于获取目标检测模型;
在所述目标检测模型中添加三层一乘一的卷积核;基于所述卷积核迭代学习所述显著性特征,得到用于预测所述待分类产品显著性特征的第一目标检测模型;基于预设的损失函数对所述第一目标检测模型预测结果的准确性进行约束,得到显著性区域定位模型。
在本公开实施例中,所述训练模块803,用于基于平滑平均绝对误差损失函数对所述第一目标检测模型预测结果的准确性进行约束;响应于确定所述平滑平均绝对误差损失函数的值小于或等于第一阈值,获取所述第一目标检测模型预测的待分类产品显著性特征;基于所述显著性特征对预测的所述待分类产品显著性特征进行加权,得到细粒度显著性区域定位模型。
在本公开实施例中,所述训练模块803,用于获取基于所述卷积核学习所述显著性特征的迭代次数;响应于确定所述迭代次数大于第二阈值,获取大于所述第二阈值迭代次数对应的所述平滑平均绝对误差损失函数的值;逐一比较平滑平均绝对误差损失函数的值与所述第一阈值的大小,直到确定所述平滑平均绝对误差损失函数的值小于或等于第一阈值。
基于与图7中所示的方法相同的原理,图9示出了本公开实施例提供的一种显著性区域识别装置的结构示意图,如图9所示,该显著性区域识别装置900可以包括:
获取模块901,用于获取待分类产品的图像;输入模块902,用于将所述图像输入至显著性区域定位模型中,得到所述图像的显著性区域,所述显著性区域定位模型是基于训练装置训练得到的;识别模块903,用于识别所述显著性区域,确定所述待分类产品的类别。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
示例性实施例中,电子设备,包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如以上实施例所述的方法。该电子设备可以是上述计算机或服务器。
示例性实施例中,可读存储介质可以是存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使计算机执行根据以上实施例所述的方法。
示例性实施例中,计算机程序产品包括计算机程序,所述计算机程序在被处理器执行时实现根据以上实施例所述的方法。
本公开的技术方案中,所涉及的用户个人信息的获取,存储和应用等,均符合相关法律法规的规定,且不违背公序良俗。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图10示出了可以用来实施本公开的实施例的示例电子设备1000的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图10所示,设备1000包括计算单元1001,其可以根据存储在只读存储器(ROM)1002中的计算机程序或者从存储单元1008加载到随机访问存储器(RAM)1003中的计算机程序,来执行各种适当的动作和处理。在RAM 1003中,还可存储设备1000操作所需的各种程序和数据。计算单元1001、ROM 1002以及RAM 1003通过总线1004彼此相连。输入/输出(I/O)接口1005也连接至总线1004。
设备1000中的多个部件连接至I/O接口1005,包括:输入单元1006,例如键盘、鼠标等;输出单元1007,例如各种类型的显示器、扬声器等;存储单元1008,例如磁盘、光盘等;以及通信单元1009,例如网卡、调制解调器、无线通信收发机等。通信单元1009允许设备1000通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元1001可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元1001的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元1001执行上文所描述的各个方法和处理,例如显著性区域定位模型训练方法和显著性区域识别方法。例如,在一些实施例中,细粒度显著性区域定位模型训练方法和细粒度显著性区域识别方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元1008。在一些实施例中,计算机程序的部分或者全部可以经由ROM 1002和/或通信单元1009而被载入和/或安装到设备1000上。当计算机程序加载到RAM 1003并由计算单元1001执行时,可以执行上文描述的显著性区域定位模型训练方法和显著性区域识别方法的一个或多个步骤。备选地,在其他实施例中,计算单元1001可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行显著性区域定位模型训练方法和显著性区域识别方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以为分布式系统的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (17)
1.一种显著性区域定位模型训练方法,所述方法包括:
获取待分类产品的图像数据集,并获取所述待分类产品的显著性图像;
基于所述显著性图像,确定所述图像数据集中每张图像的显著性区域;
提取所述显著性区域的显著性特征,并基于所述显著性特征训练目标检测模型,得到显著性区域定位模型。
2.根据权利要求1所述的方法,其中,所述获取所述待分类产品的显著性图像,包括:
在所述图像数据集中选取部分图像数据;
提取所述部分图像数据的第一显著性图像;
对所述第一显著性图像进行图像变换处理,得到所述待分类产品的显著性图像。
3.根据权利要求1所述的方法,其中,所述基于所述显著性图像,确定所述图像数据集中每张图像的显著性区域,包括:
按照预设大小划分所述图像数据集中的每张图像,得到所述图像的多个区域;
匹配所述显著性图像与所述多个区域,确定与所述显著性图像相匹配的区域;
将与所述显著性图像相匹配的区域,确定为每张图像的显著性区域。
4.根据权利要求1所述的方法,其中,所述基于所述显著性特征训练目标检测模型,得到显著性区域定位模型,包括:
获取目标检测模型;
在所述目标检测模型中添加三层一乘一的卷积核;
基于所述卷积核迭代学习所述显著性特征,得到用于预测所述待分类产品显著性特征的第一目标检测模型;
基于预设的损失函数对所述第一目标检测模型预测结果的准确性进行约束,得到显著性区域定位模型。
5.根据权利要求4所述的方法,其中,所述基于预设的损失函数对所述第一目标检测模型预测结果的准确性进行约束,得到显著性区域定位模型,包括:
基于平滑平均绝对误差损失函数对所述第一目标检测模型预测结果的准确性进行约束;
响应于确定所述平滑平均绝对误差损失函数的值小于或等于第一阈值,获取所述第一目标检测模型预测的待分类产品显著性特征;
基于所述显著性特征对预测的所述待分类产品显著性特征进行加权,得到显著性区域定位模型。
6.根据权利要求5所述的方法,其中,所述确定所述平滑平均绝对误差损失函数的值小于或等于第一阈值,包括:
获取基于所述卷积核学习所述显著性特征的迭代次数;
响应于确定所述迭代次数大于第二阈值,获取大于所述第二阈值迭代次数对应的所述平滑平均绝对误差损失函数的值;
逐一比较平滑平均绝对误差损失函数的值与所述第一阈值的大小,直到确定所述平滑平均绝对误差损失函数的值小于或等于第一阈值。
7.一种显著性区域识别方法,所述方法包括:
获取待分类产品的图像;
将所述图像输入至显著性区域定位模型中,得到所述图像的显著性区域,所述显著性区域定位模型是基于权利要求1-6中任意一项所述的训练方法训练得到的;
识别所述显著性区域,确定所述待分类产品的类别。
8.一种显著性区域定位模型训练装置,所述装置包括:
获取模块,用于获取待分类产品的图像数据集,并获取所述待分类产品的显著性图像;
确定模块,用于基于所述显著性图像,确定所述图像数据集中每张图像的显著性区域;
训练模块,用于提取所述显著性区域的显著性特征,并基于所述显著性特征训练目标检测模型,得到显著性区域定位模型。
9.根据权利要求8所述的装置,其中,所述获取模块,用于:
在所述图像数据集中选取部分图像数据;
提取所述部分图像数据的第一显著性图像;
对所述第一显著性图像进行图像变换处理,得到所述待分类产品的显著性图像。
10.根据权利要求8所述的装置,其中,所述确定模块,用于:
按照预设大小划分所述图像数据集中的每张图像,得到所述图像的多个区域;
匹配所述显著性图像与所述多个区域,确定与所述显著性图像相匹配的区域;
将与所述显著性图像相匹配的区域,确定为每张图像的显著性区域。
11.根据权利要求8所述的装置,其中,所述训练模块,用于:
获取目标检测模型;
在所述目标检测模型中添加三层一乘一的卷积核;
基于所述卷积核迭代学习所述显著性特征,得到用于预测所述待分类产品显著性特征的第一目标检测模型;
基于预设的损失函数对所述第一目标检测模型预测结果的准确性进行约束,得到显著性区域定位模型。
12.根据权利要求11所述的装置,其中,所述训练模块,用于:
基于平滑平均绝对误差损失函数对所述第一目标检测模型预测结果的准确性进行约束;
响应于确定所述平滑平均绝对误差损失函数的值小于或等于第一阈值,获取所述第一目标检测模型预测的待分类产品显著性特征;
基于所述显著性特征对预测的所述待分类产品显著性特征进行加权,得到细粒度显著性区域定位模型。
13.根据权利要求12所述的装置,其中,所述确定模块,用于:
获取基于所述卷积核学习所述显著性特征的迭代次数;
响应于确定所述迭代次数大于第二阈值,获取大于所述第二阈值迭代次数对应的所述平滑平均绝对误差损失函数的值;
逐一比较平滑平均绝对误差损失函数的值与所述第一阈值的大小,直到确定所述平滑平均绝对误差损失函数的值小于或等于第一阈值。
14.一种显著性区域识别装置,所述装置包括:
获取模块,用于获取待分类产品的图像;
输入模块,用于将所述图像输入至显著性区域定位模型中,得到所述图像的显著性区域,所述显著性区域定位模型是基于权利要求8-13中任意一项所述的训练装置训练得到的;
识别模块,用于识别所述显著性区域,确定所述待分类产品的类别。
15.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-7中任一项所述的方法。
16.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-7中任一项所述的方法。
17.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1-7中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310356949.4A CN116363389A (zh) | 2023-04-04 | 2023-04-04 | 显著性区域定位模型训练方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310356949.4A CN116363389A (zh) | 2023-04-04 | 2023-04-04 | 显著性区域定位模型训练方法和装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116363389A true CN116363389A (zh) | 2023-06-30 |
Family
ID=86907202
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310356949.4A Pending CN116363389A (zh) | 2023-04-04 | 2023-04-04 | 显著性区域定位模型训练方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116363389A (zh) |
-
2023
- 2023-04-04 CN CN202310356949.4A patent/CN116363389A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110249304B (zh) | 电子设备的视觉智能管理 | |
CN112559800B (zh) | 用于处理视频的方法、装置、电子设备、介质和产品 | |
CN113971751A (zh) | 训练特征提取模型、检测相似图像的方法和装置 | |
CN113360700B (zh) | 图文检索模型的训练和图文检索方法、装置、设备和介质 | |
CN113239807B (zh) | 训练票据识别模型和票据识别的方法和装置 | |
CN112560993A (zh) | 数据筛选方法、装置、电子设备及存储介质 | |
CN112861885A (zh) | 图像识别方法、装置、电子设备及存储介质 | |
CN113033458A (zh) | 动作识别方法和装置 | |
CN114898266B (zh) | 训练方法、图像处理方法、装置、电子设备以及存储介质 | |
CN113378958A (zh) | 自动标注方法、装置、设备、存储介质及计算机程序产品 | |
CN114511743B (zh) | 检测模型训练、目标检测方法、装置、设备、介质及产品 | |
CN116935368A (zh) | 深度学习模型训练方法、文本行检测方法、装置及设备 | |
CN114973333B (zh) | 人物交互检测方法、装置、设备以及存储介质 | |
CN114882315B (zh) | 样本生成方法、模型训练方法、装置、设备及介质 | |
CN115527069A (zh) | 物品识别和物品识别系统构建方法及装置 | |
CN116363389A (zh) | 显著性区域定位模型训练方法和装置 | |
CN114724144A (zh) | 文本识别方法、模型的训练方法、装置、设备及介质 | |
CN114120410A (zh) | 用于生成标签信息的方法、装置、设备、介质和产品 | |
CN113642472A (zh) | 判别器模型的训练方法和动作识别方法 | |
CN112580620A (zh) | 标志图片处理方法、装置、设备和介质 | |
CN117333487B (zh) | 一种痘痘分级方法、装置、设备及存储介质 | |
CN114037865B (zh) | 图像处理方法、装置、设备、存储介质和程序产品 | |
CN113642495B (zh) | 用于评价时序提名的模型的训练方法、设备、程序产品 | |
CN114724090B (zh) | 行人再识别模型的训练方法、行人再识别方法及装置 | |
CN113190698B (zh) | 配对图片集的生成方法、装置、电子设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |