CN113887608B - 一种模型训练的方法、图像检测的方法及装置 - Google Patents
一种模型训练的方法、图像检测的方法及装置 Download PDFInfo
- Publication number
- CN113887608B CN113887608B CN202111143124.1A CN202111143124A CN113887608B CN 113887608 B CN113887608 B CN 113887608B CN 202111143124 A CN202111143124 A CN 202111143124A CN 113887608 B CN113887608 B CN 113887608B
- Authority
- CN
- China
- Prior art keywords
- image
- target object
- region
- area
- processed
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2415—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/25—Fusion techniques
- G06F18/253—Fusion techniques of extracted features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Computational Biology (AREA)
- Molecular Biology (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Probability & Statistics with Applications (AREA)
- Image Analysis (AREA)
Abstract
本说明书公开了一种模型训练的方法、图像检测的方法及装置,首先,获取样本图像。其次,将样本图像输入到待训练的预测模型,确定样本图像中涉及指定目标物的至少一个候选图像区域以及原始特征。而后,筛选出包含其他目标物的待处理区域,并根据其他目标物的图像在待处理区域中的位置,得到待处理区域对应的补偿特征。最后,根据待处理区域对应的补偿特征以及其他候选图像区域对应的原始特征,得到目标物检测结果,并以最小化目标物检测结果与样本图像中针对指定目标物的标签信息之间的偏差为优化目标,对预测模型进行训练。本方法可以在确定指定目标物所在区域时,避免将其他目标物所在区域检测为指定目标物区域,提高了预测模型的识别准确率。
Description
技术领域
本说明书涉及计算机技术领域,尤其涉及一种模型训练的方法、图像检测的方法及装置。
背景技术
随着计算机视觉技术的发展,图像处理技术得到了广泛应用。例如,图像处理技术中的实例分割在自动驾驶领域有着很高的应用价值,其中,通过实例分割检测车道线、行人、障碍物等,向无人驾驶设备提供较为准确的目标物检测信息。
在实际应用中,实例分割任务通常需要通过检测算法,检测出目标物所在的区域,然后在各个目标物所在的区域进行语义分割。若图像中出现多个目标物相近或重叠的情况,检测算法难以区分不同的目标物,可能将不同目标物检测为同一目标物,导致对图像进行目标物检测的准确性较低。
因此,如何能够有效地提高目标物检测的准确性,则是一个亟待解决的问题。
发明内容
本说明书提供一种模型训练的方法及装置,以部分的解决现有技术存在的上述问题。
本说明书采用下述技术方案:
本说明书提供了一种模型训练的方法,包括:
获取样本图像;
将所述样本图像输入到待训练的预测模型,确定所述样本图像中涉及指定目标物的至少一个候选图像区域,并确定每个候选图像区域对应的原始特征;
从所述至少一个候选图像区域中,筛选出包含其他目标物的候选图像区域,作为待处理区域;
根据所述其他目标物的图像在所述待处理区域中的位置,对所述待处理区域对应的原始特征进行补偿,得到所述待处理区域对应的补偿特征;
根据所述待处理区域对应的补偿特征以及其他候选图像区域对应的原始特征,得到针对所述样本图像的目标物检测结果,并以最小化所述目标物检测结果与所述样本图像中针对所述指定目标物的标签信息之间的偏差为优化目标,对所述预测模型进行训练。
可选地,所述预测模型包括:特征提取层、区域感知层;
将所述样本图像输入到待训练的预测模型,确定所述样本图像中涉及指定目标物的至少一个候选图像区域,并确定出每个候选图像区域对应的原始特征,具体包括:
将所述样本图像输入到所述特征提取层,确定所述样本图像对应的各尺寸的特征图;
针对每个尺寸的特征图,将该尺寸的特征图输入到所述区域感知层,确定该尺寸的特征图中涉及所述指定目标物对应的至少一个候选图像区域,并确定出在该尺寸的特征图下的每个候选图像区域对应的原始特征。
可选地针对每个尺寸的特征图,将该尺寸的特征图输入到所述区域感知层,确定该尺寸的特征图中涉及所述指定目标物对应的至少一个候选图像区域,具体包括:
针对每个尺寸的特征图,将该尺寸的特征图输入到所述区域感知层,预测该尺寸的特征图中每个像素点属于所述指定目标物的第一类别概率;
将第一类别概率不小于设定概率阈值的像素点,作为目标像素点;
根据所述目标像素点,确定该尺寸的特征图中涉及所述指定目标物对应的至少一个候选图像区域。
可选地,以最小化所述目标物检测结果与所述样本图像中针对所述指定目标物的标签信息之间的偏差为优化目标,对所述预测模型进行训练,具体包括:
以最小化所述至少一个候选图像区域与所述区域感知层使用的第一标签信息之间的偏差,以及所述目标物检测结果与所述样本图像中针对所述指定目标物的标签信息之间的偏差为优化目标,对所述预测模型进行训练,所述第一标签信息用于表示候选图像区域是否为所述指定目标物在所述样本图像中的实际图像区域。
可选地,所述预测模型包括:目标物分类层;
从所述至少一个候选图像区域中,筛选出包含其他目标物的候选图像区域,作为待处理区域,具体包括:
针对每个候选图像区域,将该候选图像区域进行图像放大,得到放大后的候选图像区域,所述放大后的候选图像区域包含有若干个图像网格;
将该候选图像区域对应的原始特征输入到所述目标物分类层,预测所述放大后的候选图像区域中,每个图像网格属于所述指定目标物的第二类别概率;
若确定所述放大后的候选图像区域中包含有第二类别概率小于设定概率阈值的图像网格,将该候选图像区域作为所述待处理区域。
可选地,以最小化所述目标物检测结果与所述样本图像中针对所述指定目标物的标签信息之间的偏差为优化目标,对所述预测模型进行训练,具体包括:
以最小化所述待处理区域与所述目标物分类层使用的第二标签信息之间的偏差,以及所述目标物检测结果与所述样本图像中针对所述指定目标物的标签信息之间的偏差为优化目标,对所述预测模型进行训练,所述第二标签信息用于标识出所述待处理区域中各目标物所处的实际图像区域。
可选地,根据所述其他目标物的图像在所述待处理区域中的位置,对所述待处理区域对应的原始特征进行补偿,得到所述待处理区域对应的补偿特征,具体包括:
根据所述其他目标物的图像在所述待处理区域中的位置,对所述待处理区域对应的原始特征进行坐标卷积,得到所述待处理区域对应的补偿特征。
可选地,所述预测模型包括:类别预测层;
根据所述待处理区域对应的补偿特征以及其他候选图像区域对应的原始特征,得到针对所述样本图像的目标物检测结果,具体包括:
将所述待处理区域对应的补偿特征输入到所述类别预测层,预测所述其他目标物的图像在所述待处理区域中对应的第三类别概率;
根据所述第三类别概率,确定所述其他目标物的图像在所述待处理区域中对应的类别预测结果。
可选地,以最小化所述目标物检测结果与所述样本图像中针对所述指定目标物的标签信息之间的偏差为优化目标,对所述预测模型进行训练,具体包括:
以最小化所述类别预测结果与所述类别预测层使用的第三标签信息之间的偏差,以及所述目标物检测结果与所述样本图像中针对所述指定目标物的标签信息之间的偏差为优化目标,对所述预测模型进行训练,所述第三标签信息用于表示所述其他目标物对应的实际类别信息。
可选地,所述预测模型还包括:目标物关联层;
以最小化所述目标物检测结果与所述样本图像中针对所述指定目标物的标签信息之间的偏差为优化目标,对所述预测模型进行训练,具体包括:
针对每个候选图像区域,确定该候选图像区域与所述样本图像中包含的每个其他图像区域之间的相似度;
以最小化所述相似度与所述目标物关联层使用的第四标签信息之间的偏差,以及所述目标物检测结果与所述样本图像中针对所述指定目标物的标签信息之间的偏差为优化目标,对所述预测模型进行训练,针对每个候选图像区域,所述第四标签信息用于表示该候选图像区域与所述样本图像中包含的每个其他图像区域之间的实际相似度。
本说明书提供了一种图像检测的方法,包括:
获取待识别图像;
将所述待识别图像输入到预先训练的预测模型中,确定所述待识别图像对应的目标物检测结果,所述预测模型是通过上述模型训练的方法训练得到的;
根据所述目标物检测结果,进行业务执行。
本说明书提供了一种模型训练的装置,包括:
获取模块,用于获取样本图像;
输入模块,用于将所述样本图像输入到待训练的预测模型,确定所述样本图像中涉及指定目标物的至少一个候选图像区域,并确定每个候选图像区域对应的原始特征;
筛选模块,用于从所述至少一个候选图像区域中,筛选出包含其他目标物的候选图像区域,作为待处理区域;
补偿模块,用于根据所述其他目标物的图像在所述待处理区域中的位置,对所述待处理区域对应的原始特征进行补偿,得到所述待处理区域对应的补偿特征;
训练模块,用于根据所述待处理区域对应的补偿特征以及其他候选图像区域对应的原始特征,得到针对所述样本图像的目标物检测结果,并以最小化所述目标物检测结果与所述样本图像中针对所述指定目标物的标签信息之间的偏差为优化目标,对所述预测模型进行训练。
本说明书提供了一种图像检测的装置,包括:
接收模块,用于获取待识别图像;
预测模块,用于将所述待识别图像输入到预先训练的预测模型中,确定所述待识别图像对应的目标物检测结果,所述预测模型是通过上述模型训练的方法训练得到的;
执行模块,用于根据所述目标物检测结果,进行业务执行。
本说明书提供了一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述模型训练的方法以及图像检测的方法。
本说明书提供了一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现上述模型训练的方法以及图像检测的方法。
本说明书采用的上述至少一个技术方案能够达到以下有益效果:
在本说明书提供的模型训练的方法以及图像检测的方法中,首先,获取样本图像。其次,将样本图像输入到待训练的预测模型,确定样本图像中涉及指定目标物的至少一个候选图像区域,并确定每个候选图像区域对应的原始特征。而后,从至少一个候选图像区域中,筛选出包含其他目标物的候选图像区域,作为待处理区域,并根据其他目标物的图像在待处理区域中的位置,对待处理区域对应的原始特征进行补偿,得到待处理区域对应的补偿特征。最后,根据待处理区域对应的补偿特征以及其他候选图像区域对应的原始特征,得到针对样本图像的目标物检测结果,并以最小化目标物检测结果与样本图像中针对指定目标物的标签信息之间的偏差为优化目标,对预测模型进行训练。
从上述方法中可以看出,本方法能够从各候选图像区域中,筛选出包含其他目标物的候选图像区域,作为待处理区域。再确定待处理区域中其他目标物所在区域对应的补偿特征,以此得到针对样本图像的目标物检测结果,将样本图像中的指定目标物所在区域与其他目标物所在区域进行区分。也就是说,本方法可以在确定指定目标物所在区域时,避免将其他目标物所在区域检测为指定目标物区域,提高了预测模型的识别准确率,从而提高了对图像进行目标物检测的准确性,以更好的进行任务执行。
附图说明
此处所说明的附图用来提供对本说明书的进一步理解,构成本说明书的一部分,本说明书的示意性实施例及其说明用于解释本说明书,并不构成对本说明书的不当限定。在附图中:
图1为本说明书中一种模型训练的方法的流程示意图;
图2为本说明书提供的一种特征提取层结构的示意图;
图3为本说明书中一种图像检测的方法的流程示意图;
图4为本说明书提供的一种模型训练的装置示意图;
图5为本说明书提供的一种图像检测的装置示意图;
图6为本说明书提供的对应于图1的电子设备示意图。
具体实施方式
为使本说明书的目的、技术方案和优点更加清楚,下面将结合本说明书具体实施例及相应的附图对本说明书技术方案进行清楚、完整地描述。显然,所描述的实施例仅是本说明书一部分实施例,而不是全部的实施例。基于本说明书中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本说明书保护的范围。
以下结合附图,详细说明本说明书各实施例提供的技术方案。
图1为本说明书中一种模型训练的方法的流程示意图,具体包括以下步骤:
S100:获取样本图像。
在本说明书实施例中,对模型训练的方法的执行主体可以是服务器,也可以是诸如台式电脑等电子设备,为了便于描述,下面仅以服务器为执行主体,对本说明书提供的模型训练的方法进行说明。
在本说明书实施例中,服务器可以获取样本图像,样本图像对应有相应的标签信息。这里提到的标签信息可以是指样本图像对应的类别信息,例如,样本图像中的每个像素点对应的类别信息。
S102:将所述样本图像输入到待训练的预测模型,确定所述样本图像中涉及指定目标物的至少一个候选图像区域,并确定每个候选图像区域对应的原始特征。
在本说明书实施例中,服务器可以将样本图像输入到待训练的预测模型,确定样本图像中涉及指定目标物的至少一个候选图像区域,并确定每个候选图像区域对应的原始特征。这里提到的候选图像区域可以是指将样本图像进行网格划分,分为若干个样本图像网格,一个候选图像区域对应一个样本图像网格,所以,上述提到的标签信息也可以包括每个样本图像网格对应的类别信息。
在本说明书实施例中,预测模型包括:特征提取层、区域感知层。服务器可以将样本图像输入到特征提取层,确定样本图像对应的各尺寸的特征图。再针对每个尺寸的特征图,将该尺寸的特征图输入到区域感知层,确定该尺寸的特征图中涉及指定目标物对应的至少一个候选图像区域,并确定出在该尺寸的特征图下的每个候选图像区域对应的原始特征。
具体的,特征提取层可以包括第一特征提取网络、第二特征提取网络以及特征融合网络。如图2所示。
图2为本说明书提供的一种特征提取层结构的示意图;
在图2中,第一特征提取网络,用于对输入的样本图像自下而上,逐层进行下采样,得到不同尺寸的特征图C1~C5。第二特征提取网络,用于对第一特征提取网络的最顶层特征图C5自上而下,逐层进行上采样,得到不同尺寸的特征图M2~M5。将第一特征提取网络的次高层特征图C4与第二特征提取网络的最高层特征图M4进行相加,融合成特征融合网络的融合特征图P4,并自上而下逐层进行融合,得到不同尺寸的融合特征图P2~P4。其中,融合特征图P5、特征图M5以及特征图C5三者相同。
需要说明的是,第一特征提取网络、第二特征提取网络以及特征融合网络中的融合特征图对应的数量以及尺寸可以是人为预先设定的。
进一步的,服务器可以针对每个尺寸的特征图,将该尺寸的特征图输入到区域感知层,预测该尺寸的特征图中每个像素点属于指定目标物的第一类别概率。这里提到的第一类别概率可以用于表征像素点属于指定目标物对应的类别的概率。例如,若指定目标物为马,第一类别概率可以是指像素点属于马的概率。其次,将第一类别概率不小于设定概率阈值的像素点,作为目标像素点。最后,根据目标像素点,确定该尺寸的特征图中涉及指定目标物对应的至少一个候选图像区域。
为了保证服务器通过区域感知层预测出的候选图像区域更为准确,服务器可以通过交叉熵损失函数,对区域感知层对应的模型参数进行调整。以最小化至少一个候选图像区域与区域感知层使用的第一标签信息之间的偏差,以及目标物检测结果与样本图像中针对指定目标物的标签信息之间的偏差为优化目标,对预测模型进行训练。第一标签信息用于表示候选图像区域是否为指定目标物在样本图像中的实际图像区域。具体公式如下所示:
在上述公式中,i可以用于表征特征图中的第i个像素点。Gi可以用于表征第i个像素点的真实类别标签。Pi可以用于表征通过区域感知层预测出的第i个像素点的第一类别概率。Hf×Wf可以用于表征尺寸为Hf×Wf的特征图。若Gi为1时,公式为可以看出,服务器通过区域感知层预测出的像素点的第一类别概率越接近Gi(值为1),交叉熵损失函数BCE(P,G)的值越小。若Gi为0时,公式为/>可以看出,服务器通过区域感知层预测出的像素点的第一类别概率越接近Gi(值为0),交叉熵损失函数BCE(P,G)的值越小。因此,服务器可以通过上述公式对区域感知层的模型参数进行调整,使得服务器通过区域感知层预测出的候选图像区域与区域感知层使用的第一标签信息之间的偏差减小,进而得到准确的候选图像区域。
由于,服务器通过特征提取层得到了不同尺寸的融合特征图,因此,服务器需要保证将不同尺寸的融合特征图输入到区域感知层,预测出的候选图像区域都较为准确。具体公式如下所示:
在上述公式中,s可以用于表征融合特征图对应的索引,n可以用于表征融合特征图的数量,从上述公式中可以看出,对于不同尺寸的融合特征图,服务器都需要将预测出的候选图像区域与区域感知层使用的第一标签信息之间的偏差降到最小,进而得到在不同尺寸的融合特征图下都较为准确的候选图像区域。
S104:从所述至少一个候选图像区域中,筛选出包含其他目标物的候选图像区域,作为待处理区域。
在实际应用中,由于图像中可能会出现多个目标物相近或重叠的情况,在这种情况下,可能会出现一个候选图像区域中包含有多个目标物的情况。因此,服务器需要从目标物对应的各候选图像区域中,筛选出包含有其他目标物的候选图像区域。
在本说明书实施例中,服务器可以对至少一个候选图像区域进行筛选,若该候选图像区域中包含其他目标物的候选图像区域,则将该候选图像区域作为待处理区域。若该候选图像区域中不包含其他目标物的候选图像区域,则该候选图像区域保留,作为样本图像对应的目标物检测结果中的指定目标物所在的部分区域。这里提到的其他目标物可以是指与指定目标物类别相同的目标物。例如,指定目标物与其他目标物的类别均为马,指定目标物为样本图像中的黑色马,其他目标物为样本图像中的棕色马。
也就是说,服务器可以从样本图像中对指定目标物与不同类别的物体进行区分,确定出指定目标物所在的候选图像区域。再对与指定目标物相接近或重叠的同一类别的不同目标物进行区分,确定出包含其他目标物的候选图像区域,作为待处理区域。
具体的,预测模型包括:目标物分类层。服务器可以针对每个候选图像区域,将该候选图像区域进行图像放大,得到放大后的候选图像区域。这里提到的放大后的候选图像区域包含有若干个图像网格。其次,将该候选图像区域对应的原始特征输入到目标物分类层,预测放大后的候选图像区域中,每个图像网格属于指定目标物的第二类别概率。最后,若确定放大后的候选图像区域中包含有第二类别概率小于设定概率阈值的图像网格,将该候选图像区域作为待处理区域。
进一步的,服务器通过特征提取层得到的不同尺寸的融合特征图的过程中,需要对样本图像进行下采样,对图像区域进行缩小。而在进行下采样的过程中,可能将不同的目标物所在的图像区域缩小到一个图像区域中。因此,服务器需要将图像区域进行上采样,放大图像区域,并将放大后的图像区域对应的原始特征输入到目标物分类层中,进而检测出放大后的图像区域中是否包含有其他目标物。
为了保证服务器通过目标物分类层预测出的目标物分类结果更为准确,服务器可以通过交叉熵损失函数,对目标物分类层的模型参数进行调整。以最小化待处理区域与目标物分类层使用的第二标签信息之间的偏差,以及目标物检测结果与样本图像中针对指定目标物的标签信息之间的偏差为优化目标,对预测模型进行训练。第二标签信息用于标识出待处理区域中各目标物所处的实际图像区域。具体公式如下所示:
在上述公式中,Gi可以用于表征第i个图像网格的真实类别标签。Ki可以用于表征通过区域感知层预测出的第i个图像网格的第二类别概率。具体如何通过交叉熵损失函数BCE(K,G),确定出交叉熵损失函数BCE(K,G)的值最小的方法,与之前提到的区域感知层对应的交叉熵损失函数BCE(P,G)相同,在此就不进行详细赘述了。基于此,服务器可以通过上述公式对目标物分类层的模型参数进行调整,使得服务器通过目标物分类层预测出的待处理区域与目标物分类层使用的第二标签信息之间的偏差减小,进而准确的判断出放大后图像区域中是否还包含有其他的目标物。
由于,样本图像中可能包含有若干个候选图像区域,因此,服务器需要保证将各候选图像区域对应的原始特征输入到目标物分类层,预测出的待处理区域都较为准确。具体公式如下所示:
在上述公式中,s可以用于表征候选图像区域对应的索引。n可以用于表征候选图像区域对应的数量,从上述公式中可以看出,服务器可以通过对目标物分类层的模型参数进行调整,使得服务器通过目标物分类层预测出的待处理区域与目标物分类层使用的第二标签信息之间的偏差减小,进而准确的判断出候选图像区域中是否还包含有其他的目标物。
S106:根据所述其他目标物的图像在所述待处理区域中的位置,对所述待处理区域对应的原始特征进行补偿,得到所述待处理区域对应的补偿特征。
在实际应用中,由于待处理区域是由放大后的候选图像区域确定出的,服务器可以通过目标物分类层,确定出放大后的候选图像区域中其他目标物的图像在待处理区域中的位置,但是无法得到在待处理区域中其他目标物对应的特征数据。因此,服务器需要对待处理区域对应的原始特征进行处理,得到在待处理区域中其他目标物对应的特征数据。
在本说明书实施例中,服务器可以根据其他目标物的图像在待处理区域中的位置,对待处理区域对应的原始特征进行补偿,得到待处理区域对应的补偿特征。
具体的,服务器可以根据其他目标物的图像在待处理区域中的位置,对待处理区域对应的原始特征进行坐标卷积,得到待处理区域对应的补偿特征。也就是说,将待处理区域对应的原始特征,与其他目标物的图像在待处理区域中的位置对应的特征数据进行相加,再通过两层卷积层进行坐标卷积,得到待处理区域对应的补偿特征。
当然,服务器还可以通过其他方式,来确定上述补偿特征,例如,服务器还可以根据其他目标物的图像在待处理区域中的位置对应的特征数据,与待处理区域对应的原始特征进行相加,得到待处理区域对应的补偿特征。
S108:根据所述待处理区域对应的补偿特征以及其他候选图像区域对应的原始特征,得到针对所述样本图像的目标物检测结果,并以最小化所述目标物检测结果与所述样本图像中针对所述指定目标物的标签信息之间的偏差为优化目标,对所述预测模型进行训练。
在本说明书实施例中,服务器可以根据待处理区域对应的补偿特征以及其他候选图像区域对应的原始特征,得到针对样本图像的目标物检测结果,并以最小化目标物检测结果与样本图像中针对指定目标物的标签信息之间的偏差为优化目标,对预测模型进行训练。
在实际应用中,服务器通过目标物分类层可以确定出放大后的候选图像区域是否存在多个目标物,但是无法区分出其他目标物对应的目标物类别,因此,服务器可以将待处理区域对应的补偿特征输入到类别预测层,确定待处理区域对应的类别预测结果。
在本说明书实施例中,由于服务器通过预测模型中的区域感知层、目标物分类层,可以得到准确的指定目标物所在的区域。因此,类别预测层主要用于对待处理区域中的其他目标物的类别进行预测。
具体的,服务器可以将待处理区域对应的补偿特征输入到类别预测层,预测其他目标物的图像在待处理区域中对应的第三类别概率。再根据第三类别概率,确定其他目标物的图像在待处理区域中对应的类别预测结果。
为了保证服务器通过类别预测层预测出的其他目标物对应的类别更为准确,服务器可以通过交叉熵损失函数,对类别预测层的模型参数进行调整。以最小化类别预测结果与类别预测层使用的第三标签信息之间的偏差,以及目标物检测结果与样本图像中针对指定目标物的标签信息之间的偏差为优化目标,对预测模型进行训练,第三标签信息用于表示其他目标物对应的实际类别信息。具体公式如下所示:
在上述公式中,Gi可以用于表征第i个待处理区域中的其他目标物对应的真实类别标签。Ji可以用于表征通过类别预测层预测出的第i个待处理区域中的其他目标物对应的第三类别概率。具体如何通过交叉熵损失函数BCE(J,G),确定出交叉熵损失函数BCE(J,G)的值最小的方法,与之前提到的区域感知层对应的交叉熵损失函数BCE(P,G)相同,在此就不进行详细赘述了。基于此,服务器可以通过上述公式对类别预测层的模型参数进行调整,使得服务器通过类别预测层预测出的类别预测结果与类别预测层使用的第三标签信息之间的偏差减小,更为准确的确定出其他目标物的类别。
由于,样本图像中可能包含有多个待处理区域,因此,服务器需要保证将多个待处理区域对应的补偿特征输入到类别预测层,预测出的类别预测结果都较为准确。具体公式如下所示:
在上述公式中,s可以用于表征待处理区域对应的索引。n可以用于表征待处理区域对应的数量。k可以用于表征待处理区域中的图像网格对应的索引。N可以用于表征待处理区域中的图像网格的数量。
从上述公式中可以看出,服务器可以通过对类别预测层的模型参数进行调整,使得服务器通过预测模型可以准确的预测出其他目标物对应的类别。
通过上述方法,服务器可以先从样本图像中确定出指定目标物所在的大致区域,再通过放大指定目标物区域中的候选图像区域,对与指定目标物相接近或重叠的其他目标物进行区分,以得到准确的样本图像对应的目标物检测结果。
在本说明书实施例中,预测模型还包括:目标物关联层。服务器可以针对每个候选图像区域,确定该候选图像区域与样本图像中包含的每个其他图像区域之间的相似度。再以最小化相似度与目标物关联层使用的第四标签信息之间的偏差,以及目标物检测结果与样本图像中针对指定目标物的标签信息之间的偏差为优化目标,对预测模型进行训练,针对每个候选图像区域,第四标签信息用于表示该候选图像区域与样本图像中包含的每个其他图像区域之间的实际相似度。
为了保证服务器通过目标物关联层可以将在样本图像中的相同目标物对应的图像区域之间的相似性增大,并将同类别的不同目标物对应的图像区域之间的相似性减小,基于此,服务器可以通过交叉熵损失函数,对目标物关联层的模型参数进行调整。具体公式如下所示:
在上述公式中,Gi可以用于表征第i个候选图像区域与样本图像中包含的其他图像区域之间的真实类别标签。Mi可以用于表征通过目标物关联层预测出的第i个候选图像区域与样本图像中包含的其他图像区域之间的相似度。具体如何通过交叉熵损失函数BCE(M,G),确定出交叉熵损失函数BCE(M,G)的值最小的方法,与之前提到的区域感知层对应的交叉熵损失函数BCE(P,G)相同,在此就不进行详细赘述了。
基于此,服务器可以通过上述公式对目标物关联层的模型参数进行调整,使得服务器通过目标物关联层预测出的相似度与目标物关联层使用的第四标签信息之间的偏差减小,以减小同类别的不同目标物对应的图像区域之间的相似性。
在实际应用中,由于服务器通过特征提取层,得到若干个不同尺寸的融合特征图,在不同尺寸的融合特征图中,会存在有同一目标物所处的位置上的多张图像。例如,在不同尺寸的融合特征图中,都包含有同一只马的马头部分的图像,大尺寸的融合特征图中马头部分的图像包含的特征数据较多,小尺寸的融合特征图中马头部分的图像包含的特征数据较少。因此,需要将在样本图像中同一目标物所处位置对应的多个图像的特征数据进行融合,避免在样本图像对应的目标物检测结果中,出现同一目标物所处位置对应有多个目标物检测结果的情况。
在本说明书实施例中,若该候选图像区域与样本图像中包含的每个其他图像区域之间的相似度大于设定相似度阈值,将相似度大于设定相似度阈值的其他图像区域对应的特征数据,与该候选图像区域对应的特征数据进行融合,得到该候选图像区域对应的融合后特征数据。最后,根据各候选图像区域对应的融合后特征数据,确定样本图像对应的目标物检测结果。例如,在不同尺寸的融合特征图中,都包含有同一只马的马头部分的图像,服务器可以将样本图像中的马头部分对应的多个融合特征图的马头部分的特征数据进行融合,得到样本图像中马头部分对应的融合后特征数据。基于此,可以得到用于表征样本图像中完整的马对应的融合后特征数据。
在本说明书实施例中,不同目标物之间具有部分相似的特征,例如,不同目标物与样本图像中的背景之间的边缘特征。基于此,服务器可以将样本图像输入到共有特征层,确定样本图像中的各目标物对应的共有特征。再根据样本图像对应的共有特征以及各候选图像区域对应的融合后特征数据,确定样本图像对应的目标物检测结果。具体公式如下所示:
在上述公式中,s可以用于表征图像区域对应的索引。Mind可以用于表征图像区域对应的目标物检测结果。Is可以用于表征索引为s的图像区域对应的融合后特征数据。B可以用于表征样本图像中的各目标物对应的共有特征。
为了保证样本图像对应的目标物检测结果更为准确,服务器可以通过交叉熵损失函数,对预测模型的模型参数进行调整。具体公式如下所示:
在上述公式中,Gi可以用于表征目标物所在区域的真实标签。Ui可以用于表征预测出的目标物所在区域。具体如何通过交叉熵损失函数BCE(U,G),确定出交叉熵损失函数BCE(U,G)的值最小的方法,与之前提到的区域感知层对应的交叉熵损失函数BCE(P,G)相同,在此就不进行详细赘述了。基于此,服务器可以通过上述公式对预测模型的模型参数进行调整,使得服务器通过预测模型预测出的样本图像对应的目标物检测结果更为准确。
由于,样本图像中可能包含有多个目标物,因此,服务器需要保证预测出的不同的目标物所在区域都较为准确。具体公式如下所示:
在上述公式中,s可以用于表征目标物对应的索引。n可以用于表征目标物对应的数量。从上述公式中可以看出,服务器可以通过对预测模型的模型参数进行调整,使得服务器通过预测模型可以准确的预测出不同的目标物所在区域。
进一步的,服务器可以以最小化LP、LK、LJ、LM、LU之间的和值为优化目标,对预测模型进行训练,使得和值不断减小,并在总体上使得预测模型的参数收敛在一个数值范围内,进而完成整个预测模型的训练。
在上述过程中可以看出,本方法能够先从样本图像中对指定目标物与不同类别的物体进行区分,确定出指定目标物所在的候选图像区域,再通过放大指定目标物区域中的候选图像区域,对与指定目标物相接近或重叠的同一类别的不同目标物进行区分,以得到准确的样本图像对应的目标物检测结果。本方法可以在确定指定目标物所在区域时,避免将其他目标物所在区域检测为指定目标物区域,提高了预测模型的识别准确率,从而提高了对图像进行目标物检测的准确性,以更好的进行任务执行。
本说明书实施例在预测模型的训练完成后,可以通过预测模型对用户进行目标物检测,具体过程如图3所示。
图3为本说明书中一种图像检测的方法的流程示意图。
S300:获取待识别图像。
S302:将所述待识别图像输入到预先训练的预测模型中,确定所述待识别图像对应的目标物检测结果,所述预测模型是通过上述模型训练的方法训练得到的。
S304:根据所述目标物检测结果,进行业务执行。
在本说明书实施例中,服务器可以获取待识别图像。其次,将待识别图像输入到预先训练的预测模型中,确定待识别图像对应的目标物检测结果。最后,根据目标物检测结果,进行业务执行。
通过本说明书中训练后的预测模型执行的业务可以有多种,如医疗影像分析、人脸识别、无人驾驶等,若应用在无人驾驶领域,可以将预测模型部署到无人驾驶设备中进行图像检测,其中,无人驾驶设备可以是指无人车、机器人、自动配送设备等能够实现自动驾驶的设备。基于此,应用本说明书提供的模型训练的无人驾驶设备可以用于执行配送领域的配送任务,如,使用无人驾驶设备进行快递、物流、外卖等配送的业务场景。
以上为本说明书的一个或多个实施例提供的模型训练的方法,基于同样的思路,本说明书还提供了相应的模型训练的装置,如图4所示。
图4为本说明书提供的一种模型训练的装置示意图,具体包括:
获取模块400,用于获取样本图像;
输入模块402,用于将所述样本图像输入到待训练的预测模型,确定所述样本图像中涉及指定目标物的至少一个候选图像区域,并确定每个候选图像区域对应的原始特征;
筛选模块404,用于从所述至少一个候选图像区域中,筛选出包含其他目标物的候选图像区域,作为待处理区域;
补偿模块406,用于根据所述其他目标物的图像在所述待处理区域中的位置,对所述待处理区域对应的原始特征进行补偿,得到所述待处理区域对应的补偿特征;
训练模块408,用于根据所述待处理区域对应的补偿特征以及其他候选图像区域对应的原始特征,得到针对所述样本图像的目标物检测结果,并以最小化所述目标物检测结果与所述样本图像中针对所述指定目标物的标签信息之间的偏差为优化目标,对所述预测模型进行训练。
可选地,所述输入模块402具体用于,所述预测模型包括:特征提取层、区域感知层;
将所述样本图像输入到所述特征提取层,确定所述样本图像对应的各尺寸的特征图,针对每个尺寸的特征图,将该尺寸的特征图输入到所述区域感知层,确定该尺寸的特征图中涉及所述指定目标物对应的至少一个候选图像区域,并确定出在该尺寸的特征图下的每个候选图像区域对应的原始特征。
可选地,所述输入模块402具体用于,针对每个尺寸的特征图,将该尺寸的特征图输入到所述区域感知层,预测该尺寸的特征图中每个像素点属于所述指定目标物的第一类别概率,将第一类别概率不小于设定概率阈值的像素点,作为目标像素点,根据所述目标像素点,确定该尺寸的特征图中涉及所述指定目标物对应的至少一个候选图像区域。
可选地,所述训练模块408具体用于,以最小化所述至少一个候选图像区域与所述区域感知层使用的第一标签信息之间的偏差,以及所述目标物检测结果与所述样本图像中针对所述指定目标物的标签信息之间的偏差为优化目标,对所述预测模型进行训练,所述第一标签信息用于表示候选图像区域是否为所述指定目标物在所述样本图像中的实际图像区域。
可选地,所述预测模型包括:目标物分类层;
所述筛选模块404具体用于,针对每个候选图像区域,将该候选图像区域进行图像放大,得到放大后的候选图像区域,所述放大后的候选图像区域包含有若干个图像网格,将该候选图像区域对应的原始特征输入到所述目标物分类层,预测所述放大后的候选图像区域中,每个图像网格属于所述指定目标物的第二类别概率,若确定所述放大后的候选图像区域中包含有第二类别概率小于设定概率阈值的图像网格,将该候选图像区域作为所述待处理区域。
可选地,所述训练模块408具体用于,以最小化所述待处理区域与所述目标物分类层使用的第二标签信息之间的偏差,以及所述目标物检测结果与所述样本图像中针对所述指定目标物的标签信息之间的偏差为优化目标,对所述预测模型进行训练,所述第二标签信息用于标识出所述待处理区域中各目标物所处的实际图像区域。
可选地,所述补偿模块406具体用于,根据所述其他目标物的图像在所述待处理区域中的位置,对所述待处理区域对应的原始特征进行坐标卷积,得到所述待处理区域对应的补偿特征。
可选地,所述预测模型包括:类别预测层;
所述补偿模块406具体用于,将所述待处理区域对应的补偿特征输入到所述类别预测层,预测所述其他目标物的图像在所述待处理区域中对应的第三类别概率,根据所述第三类别概率,确定所述其他目标物的图像在所述待处理区域中对应的类别预测结果。
可选地,所述训练模块408具体用于,以最小化所述类别预测结果与所述类别预测层使用的第三标签信息之间的偏差,以及所述目标物检测结果与所述样本图像中针对所述指定目标物的标签信息之间的偏差为优化目标,对所述预测模型进行训练,所述第三标签信息用于表示所述其他目标物对应的实际类别信息。
可选地,所述预测模型还包括:目标物关联层;
所述训练模块408具体用于,针对每个候选图像区域,确定该候选图像区域与所述样本图像中包含的每个其他图像区域之间的相似度,以最小化所述相似度与所述目标物关联层使用的第四标签信息之间的偏差,以及所述目标物检测结果与所述样本图像中针对所述指定目标物的标签信息之间的偏差为优化目标,对所述预测模型进行训练,针对每个候选图像区域,所述第四标签信息用于表示该候选图像区域与所述样本图像中包含的每个其他图像区域之间的实际相似度。
图5为本说明书提供的一种图像检测的装置示意图,包括:
接收模块500,用于获取待识别图像;
预测模块502,用于将所述待识别图像输入到预先训练的预测模型中,确定所述待识别图像对应的目标物检测结果,所述预测模型是通过上述模型训练的方法训练得到的;
执行模块504,用于根据所述目标物检测结果,进行业务执行。
本说明书还提供了一种计算机可读存储介质,该存储介质存储有计算机程序,计算机程序可用于执行上述图1所示的模型训练的方法以及图像检测的方法。
本说明书还提供了图6所示的电子设备的示意结构图。如图6所述,在硬件层面,该电子设备包括处理器、内部总线、网络接口、内存以及非易失性存储器,当然还可能包括其他业务所需要的硬件。处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行,以实现上述图1所示的模型训练的方法以及图像检测的方法。当然,除了软件实现方式之外,本说明书并不排除其他实现方式,比如逻辑器件抑或软硬件结合的方式等等,也就是说以下处理流程的执行主体并不限定于各个逻辑单元,也可以是硬件或逻辑器件。
在20世纪90年代,对于一个技术的改进可以很明显地区分是硬件上的改进(例如,对二极管、晶体管、开关等电路结构的改进)还是软件上的改进(对于方法流程的改进)。然而,随着技术的发展,当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此,不能说一个方法流程的改进就不能用硬件实体模块来实现。例如,可编程逻辑器件(Programmable Logic Device,PLD)(例如现场可编程门阵列(Field Programmable GateArray,FPGA))就是这样一种集成电路,其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片PLD上,而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且,如今,取代手工地制作集成电路芯片,这种编程也多半改用“逻辑编译器(logic compiler)”软件来实现,它与程序开发撰写时所用的软件编译器相类似,而要编译之前的原始代码也得用特定的编程语言来撰写,此称之为硬件描述语言(Hardware Description Language,HDL),而HDL也并非仅有一种,而是有许多种,如ABEL(Advanced Boolean Expression Language)、AHDL(Altera Hardware DescriptionLanguage)、Confluence、CUPL(Cornell University Programming Language)、HDCal、JHDL(Java Hardware Description Language)、Lava、Lola、MyHDL、PALASM、RHDL(RubyHardware Description Language)等,目前最普遍使用的是VHDL(Very-High-SpeedIntegrated Circuit Hardware Description Language)与Verilog。本领域技术人员也应该清楚,只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中,就可以很容易得到实现该逻辑方法流程的硬件电路。
控制器可以按任何适当的方式实现,例如,控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(Application Specific Integrated Circuit,ASIC)、可编程逻辑控制器和嵌入微控制器的形式,控制器的例子包括但不限于以下微控制器:ARC 625D、Atmel AT91SAM、Microchip PIC18F26K20以及Silicone Labs C8051F320,存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道,除了以纯计算机可读程序代码方式实现控制器以外,完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件,而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至,可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。
上述实施例阐明的系统、装置、模块或单元,具体可以由计算机芯片或实体实现,或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的,计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
为了描述的方便,描述以上装置时以功能分为各种单元分别描述。当然,在实施本说明书时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本领域内的技术人员应明白,本发明的实施例可提供为方法、系统、或计算机程序产品。因此,本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白,本说明书的实施例可提供为方法、系统或计算机程序产品。因此,本说明书可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且,本说明书可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本说明书可以在由计算机执行的计算机可执行指令的一般上下文中描述,例如程序模块。一般地,程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本说明书,在这些分布式计算环境中,由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中,程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于系统实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
以上所述仅为本说明书的实施例而已,并不用于限制本说明书。对于本领域技术人员来说,本说明书可以有各种更改和变化。凡在本说明书的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本说明书的权利要求范围之内。
Claims (15)
1.一种模型训练的方法,其特征在于,包括:
获取样本图像;
将所述样本图像输入到待训练的预测模型,确定所述样本图像中涉及指定目标物的至少一个候选图像区域,并确定每个候选图像区域对应的原始特征;
从所述至少一个候选图像区域中,筛选出包含其他目标物的候选图像区域,作为待处理区域;
根据所述其他目标物的图像在所述待处理区域中的位置,对所述待处理区域对应的原始特征进行补偿,得到所述待处理区域对应的补偿特征;
根据所述待处理区域对应的补偿特征以及其他候选图像区域对应的原始特征,得到针对所述样本图像的目标物检测结果,并以最小化所述目标物检测结果与所述样本图像中针对所述指定目标物的标签信息之间的偏差为优化目标,对所述预测模型进行训练。
2.如权利要求1所述的方法,其特征在于,所述预测模型包括:特征提取层、区域感知层;
将所述样本图像输入到待训练的预测模型,确定所述样本图像中涉及指定目标物的至少一个候选图像区域,并确定出每个候选图像区域对应的原始特征,具体包括:
将所述样本图像输入到所述特征提取层,确定所述样本图像对应的各尺寸的特征图;
针对每个尺寸的特征图,将该尺寸的特征图输入到所述区域感知层,确定该尺寸的特征图中涉及所述指定目标物对应的至少一个候选图像区域,并确定出在该尺寸的特征图下的每个候选图像区域对应的原始特征。
3.如权利要求2所述的方法,其特征在于,针对每个尺寸的特征图,将该尺寸的特征图输入到所述区域感知层,确定该尺寸的特征图中涉及所述指定目标物对应的至少一个候选图像区域,具体包括:
针对每个尺寸的特征图,将该尺寸的特征图输入到所述区域感知层,预测该尺寸的特征图中每个像素点属于所述指定目标物的第一类别概率;
将第一类别概率不小于设定概率阈值的像素点,作为目标像素点;
根据所述目标像素点,确定该尺寸的特征图中涉及所述指定目标物对应的至少一个候选图像区域。
4.如权利要求3所述的方法,其特征在于,以最小化所述目标物检测结果与所述样本图像中针对所述指定目标物的标签信息之间的偏差为优化目标,对所述预测模型进行训练,具体包括:
以最小化所述至少一个候选图像区域与所述区域感知层使用的第一标签信息之间的偏差,以及所述目标物检测结果与所述样本图像中针对所述指定目标物的标签信息之间的偏差为优化目标,对所述预测模型进行训练,所述第一标签信息用于表示候选图像区域是否为所述指定目标物在所述样本图像中的实际图像区域。
5.如权利要求1~4任一项所述的方法,其特征在于,所述预测模型包括:目标物分类层;
从所述至少一个候选图像区域中,筛选出包含其他目标物的候选图像区域,作为待处理区域,具体包括:
针对每个候选图像区域,将该候选图像区域进行图像放大,得到放大后的候选图像区域,所述放大后的候选图像区域包含有若干个图像网格;
将该候选图像区域对应的原始特征输入到所述目标物分类层,预测所述放大后的候选图像区域中,每个图像网格属于所述指定目标物的第二类别概率;
若确定所述放大后的候选图像区域中包含有第二类别概率小于设定概率阈值的图像网格,将该候选图像区域作为所述待处理区域。
6.如权利要求5所述的方法,其特征在于,以最小化所述目标物检测结果与所述样本图像中针对所述指定目标物的标签信息之间的偏差为优化目标,对所述预测模型进行训练,具体包括:
以最小化所述待处理区域与所述目标物分类层使用的第二标签信息之间的偏差,以及所述目标物检测结果与所述样本图像中针对所述指定目标物的标签信息之间的偏差为优化目标,对所述预测模型进行训练,所述第二标签信息用于标识出所述待处理区域中各目标物所处的实际图像区域。
7.如权利要求1所述的方法,其特征在于,根据所述其他目标物的图像在所述待处理区域中的位置,对所述待处理区域对应的原始特征进行补偿,得到所述待处理区域对应的补偿特征,具体包括:
根据所述其他目标物的图像在所述待处理区域中的位置,对所述待处理区域对应的原始特征进行坐标卷积,得到所述待处理区域对应的补偿特征。
8.如权利要求5所述的方法,其特征在于,所述预测模型包括:类别预测层;
根据所述待处理区域对应的补偿特征以及其他候选图像区域对应的原始特征,得到针对所述样本图像的目标物检测结果,具体包括:
将所述待处理区域对应的补偿特征输入到所述类别预测层,预测所述其他目标物的图像在所述待处理区域中对应的第三类别概率;
根据所述第三类别概率,确定所述其他目标物的图像在所述待处理区域中对应的类别预测结果。
9.如权利要求8所述的方法,其特征在于,以最小化所述目标物检测结果与所述样本图像中针对所述指定目标物的标签信息之间的偏差为优化目标,对所述预测模型进行训练,具体包括:
以最小化所述类别预测结果与所述类别预测层使用的第三标签信息之间的偏差,以及所述目标物检测结果与所述样本图像中针对所述指定目标物的标签信息之间的偏差为优化目标,对所述预测模型进行训练,所述第三标签信息用于表示所述其他目标物对应的实际类别信息。
10.如权利要求9所述的方法,其特征在于,所述预测模型还包括:目标物关联层;
以最小化所述目标物检测结果与所述样本图像中针对所述指定目标物的标签信息之间的偏差为优化目标,对所述预测模型进行训练,具体包括:
针对每个候选图像区域,确定该候选图像区域与所述样本图像中包含的每个其他图像区域之间的相似度;
以最小化所述相似度与所述目标物关联层使用的第四标签信息之间的偏差,以及所述目标物检测结果与所述样本图像中针对所述指定目标物的标签信息之间的偏差为优化目标,对所述预测模型进行训练,针对每个候选图像区域,所述第四标签信息用于表示该候选图像区域与所述样本图像中包含的每个其他图像区域之间的实际相似度。
11.一种图像检测的方法,其特征在于,包括:
获取待识别图像;
将所述待识别图像输入到预先训练的预测模型中,确定所述待识别图像对应的目标物检测结果,所述预测模型是通过上述权利要求1~10任一项的方法训练得到的;
根据所述目标物检测结果,进行业务执行。
12.一种模型训练的装置,其特征在于,包括:
获取模块,用于获取样本图像;
输入模块,用于将所述样本图像输入到待训练的预测模型,确定所述样本图像中涉及指定目标物的至少一个候选图像区域,并确定每个候选图像区域对应的原始特征;
筛选模块,用于从所述至少一个候选图像区域中,筛选出包含其他目标物的候选图像区域,作为待处理区域;
补偿模块,用于根据所述其他目标物的图像在所述待处理区域中的位置,对所述待处理区域对应的原始特征进行补偿,得到所述待处理区域对应的补偿特征;
训练模块,用于根据所述待处理区域对应的补偿特征以及其他候选图像区域对应的原始特征,得到针对所述样本图像的目标物检测结果,并以最小化所述目标物检测结果与所述样本图像中针对所述指定目标物的标签信息之间的偏差为优化目标,对所述预测模型进行训练。
13.一种图像检测的装置,其特征在于,包括:
接收模块,用于获取待识别图像;
预测模块,用于将所述待识别图像输入到预先训练的预测模型中,确定所述待识别图像对应的目标物检测结果,所述预测模型是通过上述权利要求1~10任一项的方法训练得到的;
执行模块,用于根据所述目标物检测结果,进行业务执行。
14.一种计算机可读存储介质,其特征在于,所述存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述权利要求1~10或11任一项所述的方法。
15.一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现上述权利要求1~10或11任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111143124.1A CN113887608B (zh) | 2021-09-28 | 2021-09-28 | 一种模型训练的方法、图像检测的方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111143124.1A CN113887608B (zh) | 2021-09-28 | 2021-09-28 | 一种模型训练的方法、图像检测的方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113887608A CN113887608A (zh) | 2022-01-04 |
CN113887608B true CN113887608B (zh) | 2023-03-24 |
Family
ID=79007523
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111143124.1A Active CN113887608B (zh) | 2021-09-28 | 2021-09-28 | 一种模型训练的方法、图像检测的方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113887608B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114550244A (zh) * | 2022-02-11 | 2022-05-27 | 支付宝(杭州)信息技术有限公司 | 一种活体检测方法、装置及设备 |
CN116091895B (zh) * | 2023-04-04 | 2023-07-11 | 之江实验室 | 一种面向多任务知识融合的模型训练方法及装置 |
CN116310406B (zh) * | 2023-05-22 | 2023-08-11 | 浙江之科云创数字科技有限公司 | 一种图像检测的方法、装置、存储介质及电子设备 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7467107B2 (ja) * | 2019-12-25 | 2024-04-15 | キヤノン株式会社 | 画像処理装置、画像処理方法、およびプログラム |
CN112036462A (zh) * | 2020-08-25 | 2020-12-04 | 北京三快在线科技有限公司 | 一种模型训练以及目标检测的方法及装置 |
CN113076871B (zh) * | 2021-04-01 | 2022-10-21 | 华南理工大学 | 一种基于目标遮挡补偿的鱼群自动检测方法 |
-
2021
- 2021-09-28 CN CN202111143124.1A patent/CN113887608B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN113887608A (zh) | 2022-01-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113887608B (zh) | 一种模型训练的方法、图像检测的方法及装置 | |
CN111639682A (zh) | 基于点云数据的地面分割方法及装置 | |
CN112036462A (zh) | 一种模型训练以及目标检测的方法及装置 | |
CN114283357A (zh) | 一种车辆检测方法、装置、存储介质及电子设备 | |
CN111797711A (zh) | 一种模型训练的方法及装置 | |
CN113642620A (zh) | 一种模型训练以及障碍物检测方法及装置 | |
CN112990099B (zh) | 一种车道线检测的方法以及装置 | |
CN117197781B (zh) | 一种交通标志识别的方法、装置、存储介质及电子设备 | |
CN112883871B (zh) | 一种模型训练以及确定无人车运动策略方法及装置 | |
CN111426299B (zh) | 一种基于目标物的景深进行测距的方法及装置 | |
CN112950564B (zh) | 一种图像检测方法、装置、存储介质及电子设备 | |
CN112365513A (zh) | 一种模型训练的方法及装置 | |
CN116486153A (zh) | 图像分类方法、装置、设备及存储介质 | |
CN115689676A (zh) | 一种行业识别的方法、装置、存储介质及电子设备 | |
CN113887351B (zh) | 一种用于无人驾驶的障碍物检测方法及障碍物检测装置 | |
CN112734851B (zh) | 一种位姿确定的方法以及装置 | |
CN116246276A (zh) | 一种信息识别方法、装置、设备及可读存储介质 | |
CN116152933A (zh) | 一种异常检测模型的训练方法、装置、设备及存储介质 | |
CN113344198B (zh) | 一种模型训练的方法及装置 | |
CN113591543B (zh) | 交通标志识别方法、装置、电子设备及计算机存储介质 | |
CN114863206A (zh) | 一种模型训练的方法、目标检测的方法及装置 | |
CN114332189A (zh) | 一种高精地图构建方法、装置、存储介质及电子设备 | |
CN114359935A (zh) | 一种模型训练以及表格识别方法及装置 | |
CN114187355A (zh) | 一种图像标定方法及装置 | |
CN113205144B (zh) | 一种模型训练的方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |