CN115019057A - 图像特征提取模型确定方法及装置、图像识别方法及装置 - Google Patents
图像特征提取模型确定方法及装置、图像识别方法及装置 Download PDFInfo
- Publication number
- CN115019057A CN115019057A CN202210542518.2A CN202210542518A CN115019057A CN 115019057 A CN115019057 A CN 115019057A CN 202210542518 A CN202210542518 A CN 202210542518A CN 115019057 A CN115019057 A CN 115019057A
- Authority
- CN
- China
- Prior art keywords
- image
- image feature
- model
- training sample
- feature extraction
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/774—Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
Abstract
本公开提供了一种图像特征提取模型确定方法及装置、图像识别方法及装置,涉及人工智能技术领域,尤其涉及计算机视觉技术领域。图像特征提取模型确定的具体实现方案为:获取训练样本集,其中,训练样本集中包括多个训练样本对,每个训练样本对中包括:完整图像和与完整图像对应的遮挡图像;对于每个训练样本对,利用教师模型提取训练样本对中的第一图像特征,并利用学生模型提取训练样本对中的第二图像特征;基于第一图像特征和第二图像特征构建目标损失函数;基于目标损失函数迭代训练学生模型,得到图像特征提取模型,图像特征提取模型用于在图像识别时提取待识别图像的图像特征。
Description
技术领域
本公开涉及人工智能技术领域,尤其涉及计算机视觉技术领域中的一种模型训练方法及装置、图像识别方法及装置。
背景技术
模型在训练后需要更改,以创建更紧凑的表示形式,这一过程的主要实现技术包括剪枝和知识蒸馏。其中,知识蒸馏的基本理念,是考虑到较大网络内部存在的稀疏性或冗余性,虽然大规模网络具有较高的表示能力,但如果网络容量未达到饱和,则可以用具有较低表示能力的较小网络表示。模型蒸馏,就是经过训练的卷积神经网络模型将知识转移到参数较少的小规模卷积神经网络模型的过程,即教师模型教导学生模型的过程。目前,相关技术中的蒸馏方法很难保证学生模型具有特征遮挡不变性。
发明内容
本公开提供了一种图像特征提取模型确定方法及装置、图像识别方法及装置。
根据本公开的一方面,提供了一种图像特征提取模型确定方法,该方法包括:获取训练样本集,其中,训练样本集中包括多个训练样本对,每个训练样本对中包括:完整图像和与完整图像对应的遮挡图像;对于每个训练样本对,利用教师模型提取训练样本对中的第一图像特征,并利用学生模型提取训练样本对中的第二图像特征;基于第一图像特征和第二图像特征构建目标损失函数;基于目标损失函数迭代训练学生模型,得到图像特征提取模型,图像特征提取模型用于在图像识别时提取待识别图像的图像特征。
根据本公开的另一方面,提供了一种图像识别方法,该方法包括:获取待识别图像;利用目标特征提取模型提取待识别图像的目标图像特征,其中,目标特征提取模型是通过本公开实施例的图像特征提取模型确定方法对学生模型进行训练得到。
根据本公开的另一方面,提供了一种图像特征提取模型确定装置,该装置包括:第一获取模块,用于获取训练样本集,其中,训练样本集中包括多个训练样本对,每个训练样本对中包括:完整图像和与完整图像对应的遮挡图像;第一提取模块,用于对于每个训练样本对,利用教师模型提取训练样本对中的第一图像特征,并利用学生模型提取训练样本对中的第二图像特征;构建模块,用于基于第一图像特征和第二图像特征构建目标损失函数;训练模块,用于基于目标损失函数迭代训练学生模型,得到目标特征提取模型,目标特征提取模型用于在图像识别时提取待识别图像的图像特征。
根据本公开的另一方面,提供了一种图像识别装置,该装置包括:第二获取模块,用于获取待识别图像;第二提取模块,用于利用图像特征提取模型提取待识别图像的目标图像特征,其中,图像特征提取模型是通过本公开实施例的图像特征提取模型确定方法对学生模型进行训练得到;识别模块,用于基于目标图像特征确定图像识别结果,并输出图像识别结果。
根据本公开的另一方面,还提供了一种电子设备,该电子设备包括:至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行本公开实施例的图像特征提取模型确定方法或本公开实施例的图像识别方法。
根据本公开的另一方面,还提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,计算机指令用于使计算机执行本公开实施例的图像特征提取模型确定方法或本公开实施例的图像识别方法。
根据本公开的另一方面,还提供了一种计算机程序产品,包括计算机程序,计算机程序在被处理器执行时实现本公开实施例的图像特征提取模型确定方法或本公开实施例的图像识别方法。
在本公开中,通过对完整图像进行处理得到遮挡图像并组成训练样本对,分别将完整图像和完整图像对应的遮挡图像输入教师模型和学生模型提取对应的图像特征,通过构建目标损失函数使学生模型提取的特征不断逼近教师模型提取的特征,使得最终训练得到的特征提取模型具有特征遮挡不变性,从而提升最终图像识别结果的准确性。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1是根据本公开实施例的一种图像特征提取模型确定方法的流程示意图;
图2a是根据本公开实施例的一种处理前的完整人脸图像的示意图;
图2b是根据本公开实施例的一种处理后的遮挡人脸图像的示意图;
图3是根据本公开实施例的一种模型蒸馏过程的示意图;
图4是根据本公开实施例的一种图像识别方法的流程示意图;
图5是根据本公开实施例的一种图像特征提取模型确定装置的结构示意图;
图6是根据本公开实施例的一种图像识别装置的结构示意图;
图7是根据本公开实施例的一种电子设备的结构示意图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
图1是根据本公开实施例的一种图像特征提取模型确定方法的流程图。如图1所示,该方法可以包括步骤S102-S108,其中:
步骤S102,获取训练样本集,其中,训练样本集中包括多个训练样本对,每个训练样本对中包括:完整图像和与完整图像对应的遮挡图像。
通常,在模型蒸馏过程中,采用的训练样本图像都是随机获取,由于部分图像中可能存在遮挡区域,会对训练效果产生较大影响,很难保证蒸馏得到的学生模型具有特征遮挡不变性。为此,本公开首先对训练样本进行了处理,将完整图像和与该完整图像对应的遮挡图像组成训练样本对,用于后续的模型训练。
其中,完整图像指的是没有画面信息丢失的图像,是与后面处理得到的遮挡图像相对而言的,在实际应用过程中,使用直接从图像采集设备或其他存储设备中正常采集的图像即可。
图像的类型也可以根据模型应用的场景自行选择,例如在行人识别场景中,可以采集多张行人图像;在车辆识别场景中,可以采集多张车辆图像;在人脸识别场景中,可以采集多张人脸图像。
步骤S104,对于每个训练样本对,利用教师模型提取训练样本对中的第一图像特征,并利用学生模型提取训练样本对中的第二图像特征。
教师模型和学生模型可以是根据应用场景选择的用于图像特征提取的神经网络模型,教师模型通常为参数较多的大规模卷积神经网络模型,而学生模型则为参数较少的小规模卷积神经网络模型。
其中,第一图像特征包括:由教师模型提取的完整图像的第一完整图像特征和遮挡图像的第一遮挡图像特征;第二图像特征则包括:由学生模型提取的完整图像的第二完整图像特征和遮挡图像的第二遮挡图像特征。
步骤S106,基于第一图像特征和第二图像特征构建目标损失函数。
其中,目标损失函数用于表示教师模型提取的第一图像特征和学生模型提取的第二图像特征之间的差异,具体可以表示以下信息至少之一:第一完整图像特征和第二完整图像特征之间的差异,第一完整图像特征和第二遮挡图像特征之间的差异,第一遮挡图像特征和第二完整图像特征之间的差异,第一遮挡图像特征和第二遮挡图像特征之间的差异。
步骤S108,基于目标损失函数迭代训练学生模型,得到图像特征提取模型,图像特征提取模型用于在图像识别时提取待识别图像的图像特征。
迭代训练的过程,即是不断优化学生模型的模型参数的过程,通过最小化目标损失函数,使得学生模型提取的第二图像特征不断逼近教师模型提取的第一图像特征的过程,从而保证最终得到的图像特征提取模型具有特征遮挡不变性,进而提升图像识别时的准确性。
作为一种可选的实施方式,在图1所示的步骤S102中,获取训练样本集包括:获取多张完整图像,对于每张完整图像,可以将该完整图像进行栅格化处理,并以预设方式遮挡完整图像中的部分栅格化区域,得到与完整图像对应的遮挡图像,然后将遮挡图像和完整图像组成一个训练样本对,再将多张完整图像对应的多个训练样本对构成训练样本集。
可选地,在对完整图像进行栅格化处理时,可以将完整图像均匀划分为第一数量的栅格化区域,其中,第一数量可根据用户需求自行设定;然后基于预设比例,从第一数量的栅格化区域中随机确定第二数量的目标栅格化区域,遮挡目标栅格化区域,预设比例同样可根据用户需求自行设定。由于遮挡的目的是丢弃图像中目标栅格化区域部分的图像信息,因此遮挡时可以采用以下方式:利用目标颜色覆盖目标栅格化区域,例如涂黑或涂白。
图2a和图2b为一种对人脸图像进行栅格化处理及遮挡处理前后的对比示意图。其中,图2a是获取的完整人脸图像,将其平均划分为4*4共16个面积相等的栅格化区域;预设遮挡比例为25%,即需要遮挡其中4个栅格化区域,可从栅格化区域1-16中随机选择4个栅格化区域,如1、7、9、16,将这4个栅格化区域涂白,即得到图2b所示的遮挡人脸图像。之后可以将图2a中的完整人脸图像和图2b中的遮挡人脸图像组成一个训练样本对(pair对)。
将获取的多张完整图像均按照上述过程进行栅格化处理,得到所有训练样本对后,将所有训练样本对组成训练样本集,然后分别利用教师模型和学生模型对其中的训练样本对中的图像进行图像特征提取。
其中,教师模型和学生模型是根据应用场景选择的用于图像特征提取的神经网络模型,例如在人脸识别场景中,二者皆为人脸识别模型;在车辆识别场景中,二者皆为车辆识别模型。教师模型通常为参数较多的大规模卷积神经网络模型,而学生模型则为参数较少的小规模卷积神经网络模型。
作为一种可选的实施方式,在图1所示的步骤S104中,对于每个训练样本对,利用教师模型提取训练样本对中的第一图像特征,并利用学生模型提取训练样本对中的第二图像特征,包括:利用教师模型提取训练样本对中完整图像的第一完整图像特征和遮挡图像的第一遮挡图像特征;利用学生模型提取训练样本对中完整图像的第二完整图像特征和遮挡图像的第二遮挡图像特征。
在提取对应的图像特征后,可以构建目标损失函数,通过最小化目标损失函数,使学生模型提取的图像特征不断逼近教师模型提取的图像特征,从而使最终训练得到的特征提取模型具有特征遮挡不变性。
作为一种可选的实施方式,在图1所示的步骤S106中,基于第一图像特征和第二图像特征构建目标损失函数,包括:分别构建用于表示第一完整图像特征和第二完整图像特征之间的差异的第一损失函数、用于表示第一完整图像特征和第二遮挡图像特征之间的差异的第二损失函数、用于表示第一遮挡图像特征和第二完整图像特征之间的差异的第三损失函数、用于表示第一遮挡图像特征和第二遮挡图像特征之间的差异的第四损失函数,对第一损失函数、第二损失函数、第三损失函数和第四损失函数求和,得到目标损失函数。
其中,第一损失函数、第二损失函数、第三损失函数和第四损失函数可以选用最小平方误差损失函数(LSE Loss),又称L2损失函数。其公式表示为:
作为一种可选的实施方式,在图1所示的步骤S108中,基于目标损失函数迭代训练学生模型,得到图像特征提取模型,包括:在确定目标损失函数后,可以依次将多个训练样本对分别输入教师模型和学生模型进行特征提取,并基于目标损失函数迭代调整学生模型的模型参数,得到图像特征提取模型。
图3示出了一种完整的模型蒸馏过程的示意图,其中,首先对完整图像进行图像栅格化处理,并遮挡部分栅格区域,得到遮挡图像;将完整图像和遮挡图像组成训练样本对,并分别输入教师模型和学生模型;教师模型提取完整图像的第一完整图像特征T1和遮挡图像的第一遮挡图像特征T2,学生模型提取完整图像的第二完整图像特征S1和遮挡图像的第二遮挡图像特征S2;分别构建第一损失函数L2(T1,S1),第二损失函数L2(T1,S2),第三损失函数L2(T2,S1)和第四损失函数L2(T2,S2);最终确定目标损失函数:
Loss=L2(T1,S1)+L2(T1,S2)+L2(T2,S1)+L2(T2,S2)
之后,通过最小化目标损失函数的方式,迭代调整学生模型的模型参数,得到最终的图像特征提取模型。
图像特征提取模型训练完成后,还可以通过测试样本图像对其进行测试。作为一种可选的实施方式,可以先获取测试样本图像,然后将测试样本图像输入图像特征提取模型,得到特征提取结果,基于特征提取结果验证图像特征提取模型具有特征遮挡不变性。其中,测试样本图像可以是带有标签信息的图像。
需要说明的是,学生模型中通常包括有用于提取完整图像的特征的第一特征提取子模型和用于提取遮挡图像的特征的第二特征提取子模型,在进行测试或是实际应用时,图像特征提取模型中仅保留第一特征提取子模型或第二特征提取子模型中的一个。
在上述得到的图像特征提取模型的基础上,本公开实施例还提供了一种图像识别方法,如图4所示,该方法可以包括步骤S402-S406,其中:
步骤S402,获取待识别图像。
其中,待识别图像可以是待识别的行人图像、车辆图像、人脸图像等,且对图像中的信息完整性不进行限制。
步骤S404,利用图像特征提取模型提取待识别图像的目标图像特征,其中,图像特征提取模型是通过上述的图像特征提取模型确定方法对学生模型进行训练得到。
与图像类型对应的,在选取图像特征提取模型时,需要选择对应类型的图像特征提取模型。如进行人脸识别时,需要选用利用人脸图像训练得到的用于进行人脸图像特征提取的图像特征提取模型。
图像特征提取模型的具体训练过程则可以参考上述的图像特征提取模型确定方法,此处不再过多赘述。
步骤S406,基于目标图像特征确定图像识别结果,并输出图像识别结果。
在得到待识别图像的目标图像特征后,可以将该目标图像特征输入预训练的特征分类器进行分类,得到目标图像特征的分类结果;然后基于分类结果确定图像识别结果。
在本公开中,通过对完整图像进行处理得到遮挡图像并组成训练样本对,分别将完整图像和遮挡图像输入教师模型和学生模型提取对应的特征,通过构建损失函数使学生模型提取的特征不断逼近教师模型提取的特征,使得最终训练得到的特征提取模型具有特征遮挡不变性,从而提升最终图像识别结果的准确性。
本公开实施例还提供了一种用于执行上述的图像特征提取模型确定方法的图像特征提取模型确定装置。
图5是根据本公开实施例的一种图像特征提取模型确定装置的示意图。如图5所示,该图像识别装置可以包括:第一获取模块51,第一提取模块52,构建模块53和训练模块54,其中:
第一获取模块51,用于获取训练样本集,其中,训练样本集中包括多个训练样本对,每个训练样本对中包括:完整图像和与完整图像对应的遮挡图像;
第一提取模块52,用于利用特征提取模型提取待检测图像的目标图像特征,其中,特征提取模型是基于蒸馏模块蒸馏得到;
构建模块53,用于基于第一图像特征和第二图像特征构建目标损失函数;
训练模块54,用于基于目标损失函数迭代训练学生模型,得到图像特征提取模型,图像特征提取模型用于在图像识别时提取待识别图像的图像特征。
可选地,第一获取模块51中可以包括:获取单元511,处理单元512和组成单元513,其中:
获取单元511,用于获取多张完整图片;
处理单元512,用于对每张完整图像,将完整图像进行栅格化处理,并以预设方式遮挡完整图像中的部分栅格化区域,得到与完整图像对应的遮挡图像,将遮挡图像和完整图像组成一个训练样本对;
组成单元513,用于将多张完整图像对应的多个训练样本对构成训练样本集。
可选地,构建模块53中可以包括:特征提取单元531和损失函数构建单元532,其中:
特征提取单元531,用于提取第一图像特征和第二图像特征,其中,第一图像特征包括:由教师模型提取的完整图像的第一完整图像特征和遮挡图像的第一遮挡图像特征;第二图像特征包括:由学生模型提取的完整图像的第二完整图像特征和遮挡图像的第二遮挡图像特征。
损失函数构建单元532,用于基于第一完整图像特征、第一遮挡图像特征、第二完整图像特征和第二遮挡图像特征构建目标损失函数,目标损失函数可以表示以下信息至少之一:第一完整图像特征和第二完整图像特征之间的差异,第一完整图像特征和第二遮挡图像特征之间的差异,第一遮挡图像特征和第二完整图像特征之间的差异,第一遮挡图像特征和第二遮挡图像特征之间的差异。
本公开实施例还提供了一种用于执行上述的图像识别方法的图像识别装置。
图6是根据本公开实施例的一种图像识别装置的示意图。如图6所示,该图像识别装置可以包括:第二获取模块61,第二提取模块62和识别模块63,其中:
第二获取模块61,用于获取待识别图像;
第二提取模块62,用于利用图像特征提取模型提取待识别图像的目标图像特征,其中,图像特征提取模型是通过上述的图像特征提取模型确定方法对学生模型进行训练得到;
识别模块63,用于基于目标图像特征确定图像识别结果,并输出图像识别结果。
根据本公开的实施例,还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
本公开的实施例提供了一种电子设备,该电子设备可以包括:至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行本公开实施例的图像特征提取模型确定方法或图像识别方法。
可选地,上述电子设备还可以包括传输设备以及输入输出设备,其中,该传输设备和上述处理器连接,该输入输出设备和上述处理器连接。
图7是根据本公开实施例的一种可以实现图像识别方法的电子设备的框图。该电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图7所示,设备700包括计算单元701,其可以根据存储在只读存储器(ROM)702中的计算机程序或者从存储单元708加载到随机访问存储器(RAM)703中的计算机程序,来执行各种适当的动作和处理。在RAM 703中,还可存储设备700操作所需的各种程序和数据。计算单元701、ROM 702以及RAM 703通过总线704彼此相连。输入/输出(I/O)接口705也连接至总线704。
设备700中的多个部件连接至I/O接口705,包括:输入单元706,例如键盘、鼠标等;输出单元707,例如各种类型的显示器、扬声器等;存储单元708,例如磁盘、光盘等;以及通信单元709,例如网卡、调制解调器、无线通信收发机等。通信单元709允许设备700通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元701可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元701的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元701执行上文所描述的各个方法和处理步骤,例如图像识别方法。例如,在一些实施例中,图像识别方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元708。在一些实施例中,计算机程序的部分或者全部可以经由ROM 702和/或通信单元709而被载入和/或安装到设备700上。当计算机程序加载到RAM 703并由计算单元701执行时,可以执行上文描述的图像识别方法的一个或多个步骤。备选地,在其他实施例中,计算单元701可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行图像识别方法。
本公开还提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,计算机指令用于使计算机执行本公开实施例的图像特征提取模型确定方法或图像识别方法。
可选地,在本实施例中,上述非瞬时计算机可读存储介质可以被设置为存储用于执行以下步骤的计算机程序:
S1,获取训练样本集,其中,训练样本集中包括多个训练样本对,每个训练样本对中包括:完整图像和与完整图像对应的遮挡图像;
S2,对于每个训练样本对,利用教师模型提取训练样本对中的第一图像特征,并利用学生模型提取训练样本对中的第二图像特征;
S3,基于第一图像特征和第二图像特征构建目标损失函数;
S4,基于目标损失函数迭代训练学生模型,得到图像特征提取模型,图像特征提取模型用于在图像识别时提取待识别图像的图像特征。
可选地,在本实施例中,上述非瞬时计算机可读存储介质还可以被设置为存储用于执行以下步骤的计算机程序:
S1,获取待识别图像;
S2,利用图像特征提取模型提取待识别图像的目标图像特征,其中,图像特征提取模型是通过上述的图像特征提取模型确定方法对学生模型进行训练得到;
S3,基于目标图像特征确定图像识别结果,并输出图像识别结果。
本公开还提供了一种计算机程序产品,包括计算机程序,该计算机程序在被处理器执行时实现以下步骤:
S1,获取训练样本集,其中,训练样本集中包括多个训练样本对,每个训练样本对中包括:完整图像和与完整图像对应的遮挡图像;
S2,对于每个训练样本对,利用教师模型提取训练样本对中的第一图像特征,并利用学生模型提取训练样本对中的第二图像特征;
S3,基于第一图像特征和第二图像特征构建目标损失函数;
S4,基于目标损失函数迭代训练学生模型,得到图像特征提取模型,图像特征提取模型用于在图像识别时提取待识别图像的图像特征。
可选地,该计算机程序还可以在被处理器执行时实现以下步骤:
S1,获取待识别图像;
S2,利用图像特征提取模型提取待识别图像的目标图像特征,其中,图像特征提取模型是通过上述的图像特征提取模型确定方法对学生模型进行训练得到;
S3,基于目标图像特征确定图像识别结果,并输出图像识别结果。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以为分布式系统的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (14)
1.一种图像特征提取模型确定方法,包括:
获取训练样本集,其中,所述训练样本集中包括多个训练样本对,每个所述训练样本对中包括:完整图像和与所述完整图像对应的遮挡图像;
对于每个所述训练样本对,利用教师模型提取所述训练样本对中的第一图像特征,并利用学生模型提取所述训练样本对中的第二图像特征;
基于所述第一图像特征和所述第二图像特征构建目标损失函数;
基于所述目标损失函数迭代训练所述学生模型,得到图像特征提取模型,所述图像特征提取模型用于在图像识别时提取待识别图像的图像特征。
2.根据权利要求1所述的方法,其中,所述获取训练样本集包括:
获取多张所述完整图像;
对于每张所述完整图像,将所述完整图像进行栅格化处理,并以预设方式遮挡所述完整图像中的部分栅格化区域,得到与所述完整图像对应的所述遮挡图像,将所述遮挡图像和所述完整图像组成一个所述训练样本对;
将多张所述完整图像对应的多个所述训练样本对构成所述训练样本集。
3.根据权利要求2所述的方法,其中,所述将所述完整图像进行栅格化处理,并以预设方式遮挡所述完整图像中的部分栅格化区域包括:
将所述完整图像均匀划分为第一数量的栅格化区域;
基于预设比例,从所述第一数量的栅格化区域中随机确定第二数量的目标栅格化区域,利用目标颜色覆盖所述目标栅格化区域。
4.根据权利要求1所述的方法,其中,
所述第一图像特征包括:由所述教师模型提取的所述完整图像的第一完整图像特征和所述遮挡图像的第一遮挡图像特征;
所述第二图像特征包括:由所述学生模型提取的所述完整图像的第二完整图像特征和所述遮挡图像的第二遮挡图像特征。
5.根据权利要求4所述的方法,其中,所述目标损失函数用于表示以下信息至少之一:
所述第一完整图像特征和所述第二完整图像特征之间的差异,所述第一完整图像特征和所述第二遮挡图像特征之间的差异,所述第一遮挡图像特征和所述第二完整图像特征之间的差异,所述第一遮挡图像特征和所述第二遮挡图像特征之间的差异。
6.根据权利要求1所述的方法,其中,所述基于所述目标损失函数迭代训练所述学生模型,得到图像特征提取模型包括:
依次将所述多个训练样本对分别输入所述教师模型和所述学生模型进行特征提取,并基于所述目标损失函数迭代调整所述学生模型的模型参数,得到所述图像特征提取模型。
7.根据权利要求1所述的方法,其中,所述学生模型中包括用于提取所述完整图像的特征的第一特征提取子模型和用于提取所述遮挡图像的特征的第二特征提取子模型,在得到所述图像特征提取模型后,所述方法还包括:
获取测试样本图像;
将所述测试样本图像输入所述图像特征提取模型,得到特征提取结果,其中,所述图像特征提取模型中仅保留所述第一特征提取子模型或所述第二特征提取子模型;
基于所述特征提取结果验证所述图像特征提取模型具有特征遮挡不变性。
8.一种图像识别方法,包括:
获取待识别图像;
利用图像特征提取模型提取所述待识别图像的目标图像特征,其中,所述图像特征提取模型是通过权利要求1至7中任意一项所述的图像特征提取模型确定方法对学生模型进行训练得到;
基于所述目标图像特征确定图像识别结果,并输出所述图像识别结果。
9.根据权利要求8所述的方法,其中,所述基于所述目标图像特征确定图像识别结果包括:
将所述目标图像特征输入预训练的特征分类器进行分类,得到所述目标图像特征的分类结果;
基于所述分类结果确定所述图像识别结果。
10.一种图像特征提取模型确定装置,包括:
第一获取模块,用于获取训练样本集,其中,所述训练样本集中包括多个训练样本对,每个所述训练样本对中包括:完整图像和与所述完整图像对应的遮挡图像;
第一提取模块,用于对于每个所述训练样本对,利用教师模型提取所述训练样本对中的第一图像特征,并利用学生模型提取所述训练样本对中的第二图像特征;
构建模块,用于基于所述第一图像特征和所述第二图像特征构建目标损失函数;
训练模块,用于基于所述目标损失函数迭代训练所述学生模型,得到图像特征提取模型,所述图像特征提取模型用于在图像识别时提取待识别图像的图像特征。
11.一种图像识别装置,包括:
第二获取模块,用于获取待识别图像;
第二提取模块,利用图像特征提取模型提取所述待识别图像的目标图像特征,其中,所述图像特征提取模型是通过权利要求1至7中任意一项所述的图像特征提取模型确定方法对学生模型进行训练得到;
识别模块,用于基于所述目标图像特征确定图像识别结果,并输出所述图像识别结果。
12.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1至7中任一项所述的图像特征提取模型确定方法或权利要求8至9中任一项所述的图像识别方法。
13.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1至7中任一项所述的图像特征提取模型确定方法或权利要求8至9中任一项所述的图像识别方法。
14.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1至7中任一项所述的图像特征提取模型确定方法或权利要求8至9中任一项所述的图像识别方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210542518.2A CN115019057A (zh) | 2022-05-18 | 2022-05-18 | 图像特征提取模型确定方法及装置、图像识别方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210542518.2A CN115019057A (zh) | 2022-05-18 | 2022-05-18 | 图像特征提取模型确定方法及装置、图像识别方法及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115019057A true CN115019057A (zh) | 2022-09-06 |
Family
ID=83068925
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210542518.2A Pending CN115019057A (zh) | 2022-05-18 | 2022-05-18 | 图像特征提取模型确定方法及装置、图像识别方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115019057A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116524206A (zh) * | 2023-06-30 | 2023-08-01 | 深圳须弥云图空间科技有限公司 | 目标图像的识别方法及装置 |
-
2022
- 2022-05-18 CN CN202210542518.2A patent/CN115019057A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116524206A (zh) * | 2023-06-30 | 2023-08-01 | 深圳须弥云图空间科技有限公司 | 目标图像的识别方法及装置 |
CN116524206B (zh) * | 2023-06-30 | 2023-10-03 | 深圳须弥云图空间科技有限公司 | 目标图像的识别方法及装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN114186632B (zh) | 关键点检测模型的训练方法、装置、设备、存储介质 | |
CN112966742A (zh) | 模型训练方法、目标检测方法、装置和电子设备 | |
CN112989995B (zh) | 文本检测方法、装置及电子设备 | |
CN112819007B (zh) | 图像识别方法、装置、电子设备及存储介质 | |
CN112651451B (zh) | 图像识别方法、装置、电子设备及存储介质 | |
CN112949767A (zh) | 样本图像增量、图像检测模型训练及图像检测方法 | |
CN113379627A (zh) | 图像增强模型的训练方法和对图像进行增强的方法 | |
CN114120413A (zh) | 模型训练方法、图像合成方法、装置、设备及程序产品 | |
CN114120454A (zh) | 活体检测模型的训练方法、装置、电子设备及存储介质 | |
CN113643260A (zh) | 用于检测图像质量的方法、装置、设备、介质和产品 | |
CN115019057A (zh) | 图像特征提取模型确定方法及装置、图像识别方法及装置 | |
CN115116111B (zh) | 抗扰动人脸活体检测模型训练方法、装置及电子设备 | |
CN114494782B (zh) | 图像处理方法、模型训练方法、相关装置及电子设备 | |
CN114140320B (zh) | 图像迁移方法和图像迁移模型的训练方法、装置 | |
CN115273184A (zh) | 人脸活体检测模型训练方法及装置 | |
CN114842541A (zh) | 模型的训练及人脸识别方法、装置、设备以及存储介质 | |
CN113963011A (zh) | 图像识别方法、装置、电子设备及存储介质 | |
CN113903071A (zh) | 人脸识别方法、装置、电子设备和存储介质 | |
CN114066790A (zh) | 图像生成模型的训练方法、图像生成方法、装置和设备 | |
CN114093006A (zh) | 活体人脸检测模型的训练方法、装置、设备以及存储介质 | |
CN113610856A (zh) | 训练图像分割模型和图像分割的方法和装置 | |
CN116071625B (zh) | 深度学习模型的训练方法、目标检测方法及装置 | |
CN114494818B (zh) | 图像处理方法、模型训练方法、相关装置及电子设备 | |
CN113221920B (zh) | 图像识别方法、装置、设备、存储介质以及计算机程序产品 | |
CN113591969B (zh) | 面部相似度评测方法、装置、设备以及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |