CN115937691A - 基于小样本持续学习的遥感图像细粒度分类方法和设备 - Google Patents

Abstract

本公开提供了一种基于小样本持续学习的遥感图像细粒度分类方法和设备，可以应用于计算机视觉领域。该方法包括：利用训练好的分类模型，提取第一遥感图像的图像特征，得到第一遥感图像，其中，分类模型是利用小样本持续学习方法训练的；根据第一遥感图像特征，得到第一遥感图像特征中的目标响应区域，其中，目标响应区域表征第一遥感图像特征中目标对象对应的特征响应区域，特征响应区域包含目标对象的特征和背景特征；根据目标响应区域，得到特征筛选条件；基于特征筛选条件，对第一遥感图像特征执行特征过滤操作，得到目标对象对应的多个目标图像特征；对多个目标图像特征进行分类处理，得到与第一遥感图像对应的分类结果。

Description

基于小样本持续学习的遥感图像细粒度分类方法和设备

技术领域

本公开涉及计算机视觉领域，尤其涉及一种基于小样本持续学习的遥感图像细粒度分类方法、设备和存储介质。

背景技术

随着对地观测技术的发展，新的地物类别在海量的遥感数据中不断出现。在相关技术中，通常是通过训练好的深度学习模型对遥感图像进行细粒度分类。

在实现本公开发明构思的过程中，发明人发现，由于遥感图像样本较少，在使用小样本训练的过程中存在过拟合的问题，并且由于遥感图像中分类对象的细粒度类别间差异较小，进而在对遥感图像进行细粒度分类情况下，存在细粒度分类精度较低的情况。

发明内容

鉴于上述问题，本公开提供了一种基于小样本持续学习的遥感图像细粒度分类方法、设备和存储介质。

根据本公开的第一个方面，提供了一种基于小样本持续学习的遥感图像细粒度分类方法，包括：利用训练好的分类模型，提取第一遥感图像的图像特征，得到第一遥感图像特征，其中，分类模型是利用小样本持续学习方法训练的；根据第一遥感图像特征，得到第一遥感图像特征中的目标响应区域，其中，目标响应区域表征第一遥感图像特征中目标对象对应的特征响应区域，特征响应区域包含目标对象的特征和背景特征；根据目标响应区域，得到特征筛选条件；基于特征筛选条件，对第一遥感图像特征执行特征过滤操作，得到目标对象对应的多个目标图像特征；对多个目标图像特征进行分类处理，得到与第一遥感图像对应的分类结果。

根据本公开的实施例，根据第一遥感图像特征，得到第一遥感图像特征中的目标响应区域，包括：根据多个目标图像特征之间的关联关系，得到相关度结果；根据相关度结果，对特征响应区域进行划分，得到目标响应区域。

根据本公开的实施例，根据目标响应区域，得到特征筛选条件，包括：根据多个目标图像特征，确定多个特征值；根据多个特征值的平均值，得到特征筛选条件。

根据本公开的实施例，分类模型的训练方法，包括：提取样本遥感图像的图像特征，得到用于训练预设模型的第一特征数据集；利用第一特征数据集，对预设模型进行训练，得到中间模型和第一分类结果；固定中间模型中至少一个目标残差块的参数；利用第二特征数据集，对中间模型进行训练，得到分类模型和第二分类结果，其中，第二特征数据集是通过对第一特征数据集进行采样得到的。

根据本公开的实施例，利用第二特征数据集，对中间模型进行训练，得到分类模型，包括：对第二特征数据集进行划分，得到第三特征数据集，其中，第三特征数据集中包括至少两个类别不相同的特征数据集；利用第三特征数据集，对中间模型进行训练，得到分类模型。

根据本公开的实施例，利用第一特征数据集，对预设模型进行训练，得到中间模型，包括：利用第一特征数据集和交叉熵损失函数，通过梯度反向传播方法，对预设模型进行训练，得到第一参数信息；基于第一参数信息，得到中间模型。

根据本公开的实施例，对多个目标图像特征进行分类处理，得到与第一遥感图像对应的分类结果，包括：利用余弦相似度分类函数，确定多个图像特征与第二分类结果的相似度；根据相似度，对多个目标图像特征进行分类，得到分类结果。

根据本公开的实施例，利用第三特征数据集，对中间模型进行训练，得到分类模型，包括：利用第三特征数据集，对中间模型进行训练，得到第二参数信息；根据第二参数信息，得到分类模型。

本公开的第二方面提供了一种电子设备，包括：一个或多个处理器；存储器，用于存储一个或多个程序，其中，当所述一个或多个程序被所述一个或多个处理器执行时，使得一个或多个处理器执行上述方法。

本公开的第三方面还提供了一种计算机可读存储介质，其上存储有可执行指令，该指令被处理器执行时使处理器执行上述方法。

根据本公开提供的基于小样本持续学习的遥感图像细粒度分类方法、设备和存储介质，由于确定目标对象对应的目标响应区域，再根据目标响应区域对应的特征筛选条件，可以通过特征筛选条件筛选得到目标对象的特征和背景特征，并对筛选得到的背景特征执行特征过滤操作，以避免对目标对象进行细粒度分类的过程中受到背景特征的干扰，得到目标对象对应的多个目标图像特征，再对不包含背景特征的多个目标图像特征进行分类处理，提高了遥感图像的细粒度分类精度。

附图说明

通过以下参照附图对本公开实施例的描述，本公开的上述内容以及其他目的、特征和优点将更为清楚，在附图中：

图1示意性示出了根据本公开实施例的遥感图像细粒度分类方法的应用场景图；

图2示意性示出了根据本公开实施例的遥感图像细粒度分类方法的流程图；

图3示意性示出了根据本公开实施例的分类模型的训练方法的流程图；

图4示意性示出了根据本公开实施例的训练中间模型的示意图；

图5示意性示出了根据本公开实施例的遥感图像细粒度分类装置的结构框图；以及

图6示意性示出了根据本公开实施例的适于实现遥感图像细粒度分类方法的电子设备的方框图。

具体实施方式

以下，将参照附图来描述本公开的实施例。但是应该理解，这些描述只是示例性的，而并非要限制本公开的范围。在下面的详细描述中，为便于解释，阐述了许多具体的细节以提供对本公开实施例的全面理解。然而，明显地，一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外，在以下说明中，省略了对公知结构和技术的描述，以避免不必要地混淆本公开的概念。

在此使用的术语仅仅是为了描述具体实施例，而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在，但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。

在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义，除非另外定义。应注意，这里使用的术语应解释为具有与本说明书的上下文相一致的含义，而不应以理想化或过于刻板的方式来解释。

在使用类似于“A、B和C等中至少一个”这样的表述的情况下，一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如，“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。

在本公开的技术方案中，所涉及的用户个人信息的收集、存储、使用、加工、传输、提供、公开和应用等处理，均符合相关法律法规的规定，采取了必要保密措施，且不违背公序良俗。

在本公开的技术方案中，对数据的获取、收集、存储、使用、加工、传输、提供、公开和应用等处理，均符合相关法律法规的规定，采取了必要保密措施，且不违背公序良俗。

目前，大多数深度学习模型只能使用所有的训练数据进行一次训练，当新的数据到来时只能重新训练新的模型。因此，可以通过持续学习使模型可以持续不断的学习新的类别或新的任务。

由于新获取的地物类别样本数量不够充分，因此，模型在持续学习的同时还需要具备小样本学习能力，即小样本持续学习。但是，由于新的类别仅包含少量的训练样本，因此通过小样本持续学习对模型进行训练，可能会存在过拟合的问题。

并且，由于遥感图像细粒度类别间差异小、背景干扰大，因此，在对目标信息分类的情况下需要更多的计算机资源，常见的小样本持续学习方法不适合直接用于遥感图像细粒度分类中。并且，模型在持续学习新的类别的情况下，存在会影响之前学习的类别的情况，导致学习到的类别数量难以满足需求。

有鉴于此，本公开的实施例提供了一种基于小样本持续学习的遥感图像细粒度分类方法，包括：

利用训练好的分类模型，提取第一遥感图像的图像特征，得到第一遥感图像，其中，分类模型是利用小样本持续学习方法训练的；

根据第一遥感图像特征，得到第一遥感图像特征中的目标响应区域，其中，目标响应区域表征第一遥感图像特征中目标对象对应的特征响应区域，特征响应区域包含目标对象的特征和背景特征；

根据目标响应区域，得到特征筛选条件；

基于特征筛选条件，对第一遥感图像特征执行特征过滤操作，得到目标对象对应的多个目标图像特征；

对多个目标图像特征进行分类处理，得到与第一遥感图像对应的分类结果。

图1示意性示出了根据本公开实施例的遥感图像细粒度分类方法的应用场景图。

如图1所示，根据该实施例的应用场景100可以包括第一终端设备101、第二终端设备102、第三终端设备103、网络104和服务器105。网络104用以在第一终端设备101、第二终端设备102、第三终端设备103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用第一终端设备101、第二终端设备102、第三终端设备103通过网络104与服务器105交互，以接收或发送消息等。第一终端设备101、第二终端设备102、第三终端设备103上可以安装有各种通讯客户端应用，例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。

第一终端设备101、第二终端设备102、第三终端设备103可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。

服务器105可以是提供各种服务的服务器，例如对用户利用第一终端设备101、第二终端设备102、第三终端设备103所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理，并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。

需要说明的是，本公开实施例所提供的遥感图像细粒度分类方法一般可以由服务器105执行。相应地，本公开实施例所提供的遥感图像细粒度分类装置一般可以设置于服务器105中。本公开实施例所提供的遥感图像细粒度分类方法也可以由不同于服务器105且能够与第一终端设备101、第二终端设备102、第三终端设备103和/或服务器105通信的服务器或服务器集群执行。相应地，本公开实施例所提供的遥感图像细粒度分类装置也可以设置于不同于服务器105且能够与第一终端设备101、第二终端设备102、第三终端设备103和/或服务器105通信的服务器或服务器集群中。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

以下将基于图1描述的场景，通过图2～图4对公开实施例的遥感图像细粒度分类方法进行详细描述。

图2示意性示出了根据本公开实施例的遥感图像细粒度分类方法的流程图。

如图2所示，该实施例的遥感图像细粒度分类方法包括操作S210～操作S250。

在操作S210，利用训练好的分类模型，提取第一遥感图像的图像特征，得到第一遥感图像特征，其中，分类模型是利用小样本持续学习方法训练的。

根据本公开的实施例，分类模型可以是用于对第一遥感图像中的目标对象进行细粒度分类的模型。例如，第一遥感图像中可以包含飞机，可以利用训练好的分类模型对第一遥感图像中的飞机进行细粒度分类，可以得到飞机对应的细粒度分类结果，分类结果可以包括遥感图像中的飞机各部分的类别信息，类别信息可以包括机身部分对应的信息、机翼部分对应的信息等。

根据本公开的实施例，例如，第一遥感图像特征可以是第一遥感图像的图像特征，可以包含目标对象和背景特征。目标对象可以表征需要分类的对象特征，背景特征可以表征不需要分类的特征。

根据本公开的实施例，由于利用传统的小样本方法训练模型，会存在过拟合的问题，因此，可以利用小样本持续学习方法对模型进行训练。例如，训练过程可以包括：先利用样本集对预设模型进行训练，得到中间模型，在完成该训练过程之后对该样本集进行小样本任务式采样；固定中间模型的部分参数，以减少后续训练过程，对中间模型在之前训练过程中得到的分类能力的影响；再利用采样后的样本集对中间模型进行任务式持续训练，可以在最大程度上扩大训练好的分类模型的分类范围，解决上述过拟合的问题。

在操作S220，根据第一遥感图像特征，得到第一遥感图像特征中的目标响应区域，其中，目标响应区域表征第一遥感图像特征中目标对象对应的特征响应区域，特征响应区域包含目标对象的特征和背景特征。

根据本公开的实施例，特征响应区域可以是在第一遥感图像特征中目标对象所在的区域。

根据本公开的实施例，例如，可以从第一遥感图像特征中确定目标对象所在的特征响应区域为目标响应区域。可以对目标响应区域中的背景特征进行过滤，以提高对目标对象进行细粒度分类的精确度。

在操作S230，根据目标响应区域，得到特征筛选条件。

根据本公开的实施例，特征筛选条件可以是根据目标响应区域中的目标对象得到的。例如，可以根据目标对象的特征对应的特征值，确定特征值的平均值为特征筛选条件，再根据特征筛选条件对背景特征进行过滤，保留目标对象的特征。在此基础上，再对目标对象进行细粒度分类，可以提高目标对象的分类精度。

在操作S240，基于特征筛选条件，对第一遥感图像特征执行特征过滤操作，得到目标对象对应的多个目标图像特征。

根据本公开的实施例，特征过滤操作可以用于过滤背景特征。通过基于特征筛选条件对背景特征进行过滤，可以得到目标对象对应的多个目标图像特征。

根据本公开的实施例，目标图像特征可以表征目标对象的特征。

在操作S250，对多个目标图像特征进行分类处理，得到与第一遥感图像对应的分类结果。

根据本公开的实施例，可以对目标图像特征进行分类，以对目标对象进行分类，得到第一遥感图像中目标对象的分类结果。

根据本公开的实施例，例如，分类结果中可以包括目标对象对应的类别信息。

根据本公开的实施例，由于确定目标对象对应的目标响应区域，再根据目标响应区域对应的特征筛选条件，可以通过特征筛选条件筛选得到目标对象的特征和背景特征，并对筛选得到的背景特征执行特征过滤操作，以避免对目标对象进行细粒度分类的过程中受到背景特征的干扰，得到目标对象对应的多个目标图像特征，再对不包含背景特征的多个目标图像特征进行分类处理，提高了遥感图像的细粒度分类精度。

根据本公开的实施例，根据第一遥感图像特征，得到第一遥感图像特征中的目标响应区域，包括：

根据多个目标图像特征之间的关联关系，得到相关度结果；

根据相关度结果，对特征响应区域进行划分，得到目标响应区域。

根据本公开的实施例，关联关系可以是目标图像中多个目标图像特征对应的目标对象上的不同目标部件之间的关联关系。例如，目标对象可以是飞机，目标部件可以包括机身和机翼等。可以根据关联关系进行相关度评分，同属于同一目标部件的多个目标图像特征的相关度评分较高，不属于同一目标部件的多个目标图像特征的相关度评分较低。例如：表征机身部分的多个目标图像特征彼此之间的关联关系的评分可以较高，表征机翼部分的多个目标图像特征彼此之间的关联关系的评分可以较高。但是，表征机身部分的目标图像特征和表征机翼部分的目标图像特征彼此之间的关联关系的评分会较低。可以根据上述对关联关系的评分得到多个目标图像特征之间的关联关系的相关度结果。

根据本公开的实施例，例如，分类模型可以具有多个输出通道，每个输出通道可以输出对应的多个图像特征。可以确定从多个输出通道彼此之间输出的图像特征的相关度，得到相关度结果。

根据本公开的实施例，例如，相关度结果可以包含多个输出通道彼此之间输出的图像特征的相关度。可以根据相关度结果，对相关度满足预设条件的图像特征进行整合，以对特征响应区域进行划分。在整合后，可以得到相关度满足预设条件的图像特征对应的区域，即目标响应区域。

根据本公开的实施例，由于根据多个目标图像特征之间的关联关系，得到相关度结果，再根据相关度结果，对特征响应区域进行划分，得到目标响应区域，实现对目标对象所在的目标响应区域的确定，进而可以提高对目标对象进行细粒度分类的精度。

根据本公开的实施例，根据目标响应区域，得到特征筛选条件，包括：

根据多个目标图像特征，确定多个特征值；

根据多个特征值的平均值，得到特征筛选条件。

根据本公开的实施例，例如，可以确定多个目标图像特征中每个特征对应的特征值，可以将确定的多个特征值的平均值，作为特征筛选条件。可以根据平均值对目标响应区域中背景特征进行过滤，以提高目标响应区域的精度，得到多个目标图像特征。在过滤背景特征后再对多个目标图像特征进行分类，可以提高分类精度。

根据本公开的实施例，例如，多个目标图像特征可以对应机翼的特征，可以确定机翼的特征对应的特征值，再根据多个确定的特征值确定平均值，通过平均值，可以将目标图像特征中不属于机翼部分的特征进行过滤，以提取机翼的特征。

根据本公开的实施例，由于根据多个目标图像特征，确定多个特征值，再根据多个特征值的平均值，得到特征筛选条件，进而可以对目标响应区域中的背景特征进行过滤，保留目标图像特征，避免了背景特征影响遥感图像的细粒度分类，提高了对遥感图像进行细粒度分类的精度。

图3示意性示出了根据本公开实施例的分类模型的训练方法的流程图。

如图3所示，该实施例的分类模型的训练方法包括操作S310～操作S340。

在操作S310，提取样本遥感图像的图像特征，得到用于训练预设模型的第一特征数据集。

根据本公开的实施例，样本遥感图像可以是用来训练得到分类模型的图像样本。

根据本公开的实施例，第一特征数据集可以包括所需要训练的目标对象的所有类别的样本数据。

根据本公开的实施例，预设模型可以是待训练的ResNet18(一种卷积神经网络模型)主干网络模型。

在操作S320，利用第一特征数据集，对预设模型进行训练，得到中间模型和第一分类结果。

根据本公开的实施例，中间模型可以是由第一特征数据集训练得到的模型。可以通过对中间模型进行训练得到分类模型。

根据本公开的实施例，第一分类结果可以是预设模型对第一特征数据集中目标对象进行分类的分类结果。

在操作S330，固定中间模型中至少一个目标残差块的参数。

根据本公开的实施例，例如，中间模型中可以包括四个残差块，可以固定四个残差块中一至三个残差块的参数，再对中间模型进行训练，以使中间模型保留所固定的残差块的参数，以及可以通过未固定参数的残差块继续训练类别，进而可以减少中间模型由于后续的训练对之前训练的分类能力的影响。

根据本公开的实施例，例如，目标残差块可以是在数据传输过程中，特征数据集经过的中间模型的前三个残差块。通过固定该前三个残差块的参数，可以使中间模型最大程度地避免丢失之前训练的类别以及存储之后训练的类别。

在操作S340，利用第二特征数据集，对中间模型进行训练，得到分类模型和第二分类结果，其中，第二特征数据集是通过对第一特征数据集进行采样得到的。

根据本公开的实施例，例如，在固定上述前三个残差块参数的情况下，中间模型可以在第三个残差块之后，第四个残差块之间加入背景削弱机制。例如，背景削弱机制可以包括：将中间模型中第三个残差块输出的特征层经过通道整合机制，整合多个输出通道彼此之间输出的特征，得到第二特征数据集对应的目标响应区域。再根据目标响应区域中的目标图像特征，确定特征筛选条件，然后，根据特征筛选条件，滤除目标响应区域的背景特征，以提高第二特征数据集中目标对象的分类精度。

根据本公开的实施例，例如，通过在对中间模型进行训练的过程加入上述背景削弱机制，可以避免中间模型受到背景特征的干扰，提高训练得到的分类模型的分类精度，进而可以提高训练过程的有效性，扩大分类模型的分类范围。

图4示意性示出了根据本公开实施例的训练中间模型的示意图。

如图4所示，中间模型可以包括第一残差块420、第二残差块430、第三残差块440、背景削弱机制450、第四残差块460和分类器470，其中，分类器470可以用于对第四残差块460输出的多个目标图像特征进行分类。在训练过程中，第一残差块420、第二残差块430和第三残差块440的参数固定，仅更新第四残差块460的参数。将遥感图像输入中间模型410，并依次由第一残差块420、第二残差块430、第三残差块440、背景削弱机制450、第四残差块460和分类器470对遥感图像进行处理，并输出分类结果480。

根据本公开的实施例，第二分类结果可以是中间模型对第二特征数据集进行分类的分类结果。

根据本公开的实施例，由于利用第一特征数据集，对分类模型进行训练，得到中间模型和第一分类结果，再固定目标残差块的参数，然后利用第二特征数据集，对中间模型中未固定参数的残差块进行训练，减少了利用第二特征数据集训练的类别对利用第一特征数据集训练的类别的影响，最大程度地保留了利用第一特征数据集训练的类别。并且由于在最大程度地保留了利用第一特征数据集训练的类别的情况下，还利用根据第一特征数据集得到的第二特征数据集，对中间模型进行训练，避免了传统训练过程中过拟合的问题，可以最大程度地扩大训练得到的分类模型的分类范围。

根据本公开的实施例，利用第二特征数据集，对中间模型进行训练，得到分类模型和第二分类结果，包括：

对第二特征数据集进行划分，得到第三特征数据集，其中，第三特征数据集中包括至少两个类别不相同的特征数据集；

利用第三特征数据集，对中间模型进行训练，得到分类模型。

根据本公开的实施例，根据第一分类结果，对第二特征数据集进行划分，得到第三特征数据集。例如，可以根据第一分类结果，确定训练失败的至少两个类别。可以根据训练失败的至少两个类别，对第二特征数据集进行划分，得到至少两个类别不相同的特征数据集。可以利用至少两个类别不相同的特征数据集组成的第三特征数据集，对中间模型进行训练，以最大程度地扩大训练得到的分类模型的分类范围。

根据本公开的实施例，由于根据第一分类结果，对第二特征数据集进行划分，得到包括至少两个类别不相同的特征数据集第三特征数据集，再利用第三特征数据集，对中间模型进行训练，可以最大程度地扩大训练得到的分类模型的分类范围。

根据本公开的实施例，第一特征数据集可以对应与元学习中的基数据集对应，第二特征数据集可以与元学习中的小样本数据集对应。中间模型的训练过程可以是任务式训练。

例如，本公开实施例的小样本持续学习方法，如下所示：

可以根据各类别样本数量的多少，对根据样本遥感图像得到的数据集进行划分，得到第一特征数据集。可以将第一特征数据集表示为

可以对第一特征数据集

进行小样本任务采样得到第二特征数据集{T₁ T₂ …T_n}，其中，第二特征数据集中每一个任务都是N-way-K-shot模式的训练数据，即每个任务选取N个类别，每个类别包含K个特征样本数据。在每个任务中，可以训练所选取N个类别。通过上述任务式训练，可以完成对中间模型的训练过程，N和K为正整数。

对于第二特征数据集，可以将N个类别划分为一组，得到第三特征数据集，且每个类别选取K张特征样本数据构成一次任务的训练集

通过该一次任务的训练集可以完成对中间模型的一次训练，使中间模型学习N个类别。第三特征数据集对应的所有任务可以表示为：

可以利用5-way-5-shot模式的第三特征数据集进行训练，即N＝5，K＝5。通过该任务式训练可以完成对中间模型的n次训练过程，其中，n和i为正整数，i≤n。

在训练阶段，每个任务所学习的类别可以表示为{C⁽⁰⁾ C⁽¹⁾ … C⁽ⁿ⁾}，其中，C⁽⁰⁾为利用第一特征数据集学习的类别，C⁽ⁱ⁾为第i个任务中利用第三特征数据集学习的类别，C^(j)为第j个任务中利用第三特征数据集学习的类别。不同任务之间学习的类别不重叠，即当i≠j的情况下，C⁽ⁱ⁾∩C^(j)＝φ，且i,j∈{0,1,…,n}。

在测试阶段，每个任务需要评估到该任务为止学习过的全部类别，以根据学习过的全部类别对测试样本的分类，测试样本可以是从第一遥感图像提取得到的第一遥感图像特征。可以由测试样本构成测试集，所有任务的测试集可以表示为

以第i个任务为例，测试集

可以包含前i个任务中所有类别的测试数据，可表示为

根据本公开的实施例，第一分类结果可以包括第一分类向量，第一分类向量可以表示如公式(1)所示，其中，P_c ⁰为训练预设模型的过程中第c个类别的分类向量，P_c ⁰可以是由计算该类别所有训练样本的表示平均得到的：

其中，

为训练预设模型的过程中第c个类别的样本总数，

为该类别的第i个训练样本，F₀(·)为训练预设模型过程中的特征提取器，其中，i和c均为正整数。

根据本公开的实施例，第二分类结果可以包括第二分类向量，第二分类向量如公式(2)所示：

其中，

为第i个任务中第c个类别的分类向量，K表示该类别的样本数量，

表示该类别的第i个样本，F₁(·)表示训练中间模型过程中的特征提取器，其中，i和c均为正整数。

根据本公开的实施例，利用第一特征数据集，对预设模型进行训练，得到中间模型，包括：

利用第一特征数据集和交叉熵损失函数，通过梯度反向传播方法，对预设模型进行训练，得到第一参数信息；

基于第一参数信息，得到中间模型。

根据本公开的实施例，例如，第一参数信息可以是通过对预设模型训练得到的，可以用于得到中间模型的参数信息。可以根据该将第一参数信息用于预设模型，得到中间模型。

根据本公开的实施例，例如，可以将ResNet18网络模型作为预预设模型。可以利用第一特征数据集

对ResNet18网络模型进行训练，计算训练过程的损失函数，以通过梯度反向传播方法来优化整个预设模型的参数。损失函数可以为交叉熵损失函数，交叉熵损失函数可以如式(3)所示：

其中，B可以为预设模型在一场训练过程中处理的总样本数，|C⁽⁰⁾|为需要训练预设模型的类别数量，

和

分别为训练预设模型的过程中第j个样本属于第c个类别的真实概率和预设模型的预测概率，其中，j和c均为正整数。

根据本公开的实施例，利用第一特征数据集和交叉熵损失函数，通过梯度反向传播方法，对预设模型进行训练，得到第一参数信息，再将第一参数信息用于预设模型，得到了满足需求的中间模型。

根据本公开的实施例，在对中间模型进行训练的过程中，也可以通过计算交叉熵损失函数，使用梯度反向传播方法，以优化未被固定参数的残差块的参数，扩大分类模型的分类范围。

根据本公开的实施例，对多个目标图像特征进行分类处理，得到与第一遥感图像对应的分类结果，包括：

利用余弦相似度分类函数，确定所述多个图像特征与所述第二分类结果的相似度；

根据相似度，对多个目标图像特征进行分类，得到分类结果。

根据本公开的实施例，例如，通过确定图像特征和第二分类结果的相似度，可以从第二分类结果中确定与图像特征最相似的分类结果，根据该与图像特征最相似的分类结果对应的类别，确定图像特征的类别。

根据本公开的实施例，例如，可以利用余弦相似度函数对多个目标图像特征进行分类。将第一遥感图像特征x_j输入分类模型后，得到的目标图像特征可以表示为：v_j＝F₁(x_j)。第二分类结果可以表示为：

计算余弦相似度函数对目标图像特征进行分类，预测结果定义可以表示如式(4)所示：

其中，pre可以表征根据余弦相似度得分预测的最终类别。

根据本公开的实施例，由于利用余弦相似度分类函数，确定多个图像特征与第二分类结果的相似度，再根据相似度，对多个目标图像特征进行分类，提高了对目标对象进行分类的精度。

根据本公开的实施例，利用第三特征数据集，对中间模型进行训练，得到分类模型，包括：

利用第三特征数据集，对中间模型进行训练，得到第二参数信息；

根据第二参数信息，得到分类模型。

根据本公开的实施例，例如，第二参数信息可以通过对中间模型训练得到的，可以用于得到分类模型的参数信息。可以将第二参数信息用于中间模型得到分类模型。

根据本公开的实施例，由于利用第三特征数据集，对中间模型进行训练，得到第二参数信息，再将第二参数信息用于中间模型，得到了满足需求的分类模型。

基于上述遥感图像细粒度分类方法，本公开还提供了一种遥感图像细粒度分类装置。以下将结合图5对该装置进行详细描述。

图5示意性示出了根据本公开实施例的遥感图像细粒度分类装置的结构框图。

如图5所示，该实施例的遥感图像细粒度分类装置500包括提取模块510、第一获取模块520、第二获取模块530、过滤模块540和分类模块550。

提取模块510用于利用训练好的分类模型，提取第一遥感图像的图像特征，得到第一遥感图像特征。在一实施例中，提取模块510可以用于执行前文描述的操作S210，在此不再赘述。

第一获取模块520用于根据第一遥感图像特征，得到第一遥感图像特征中的目标响应区域，其中，目标响应区域表征第一遥感图像特征中目标对象对应的特征响应区域，特征响应区域包含目标对象的特征和背景特征。在一实施例中，第一获取模块520可以用于执行前文描述的操作S220，在此不再赘述。

第二获取模块530用于根据目标响应区域，得到特征筛选条件。在一实施例中，第二获取模块530可以用于执行前文描述的操作S230，在此不再赘述。

过滤模块540用于基于特征筛选条件，对第一遥感图像特征执行特征过滤操作，得到目标对象对应的多个目标图像特征。在一实施例中，过滤模块540可以用于执行前文描述的操作S240，在此不再赘述。

分类模块550用于对多个目标图像特征进行分类处理，得到与第一遥感图像对应的分类结果。在一实施例中，分类模块550可以用于执行前文描述的操作S250，在此不再赘述。

根据本公开的实施例，第一获取模块520包括第一获取子模块和划分子模块。其中，第一获取子模块用于根据多个目标图像特征之间的关联关系，得到相关度结果；划分子模块用于根据相关度结果，对特征响应区域进行划分，得到目标响应区域。

根据本公开的实施例，第二获取模块530包括确定子模块和第二获取子模块。其中，确定子模块用于根据多个目标图像特征，确定多个特征值；第二获取子模块用于根据多个特征值的平均值，得到特征筛选条件。

根据本公开的实施例，提取模块510包括提取子模块、第一训练子模块、固定子模块和第二训练子模块。其中，提取子模块用于提取样本遥感图像的图像特征，得到用于训练预设模型的第一特征数据集；第一训练子模块用于利用第一特征数据集，对预设模型进行训练，得到中间模型和第一分类结果；固定子模块用于固定中间模型中至少一个目标残差块的参数；第二训练子模块用于利用第二特征数据集，对中间模型进行训练，得到分类模型和第二分类结果，其中，第二特征数据集是通过对第一特征数据集进行采样得到的。

根据本公开的实施例，第二训练子模块包括划分单元和第一训练单元。其中，划分单元用于对第二特征数据集进行划分，得到第三特征数据集，其中，第三特征数据集中包括至少两个类别不相同的特征数据集；第一训练单元用于利用第三特征数据集，对中间模型进行训练，得到分类模型。

根据本公开的实施例，第一训练子模块包括第二训练单元和获取单元。其中，第二训练单元用于利用第一特征数据集和交叉熵损失函数，通过梯度反向传播方法，对预设模型进行训练，得到第一参数信息；获取单元用于基于第一参数信息，得到中间模型。

根据本公开的实施例，分类模块550包括确定子模块和分类子模块。其中，确定子模块用于利用余弦相似度分类函数，确定所述多个图像特征与所述第二分类结果的相似度；分类子模块用于根据相似度，对多个目标图像特征进行分类，得到分类结果。

根据本公开的实施例，第一训练单元包括训练子单元和获取子单元。其中，训练子单元用于利用第三特征数据集，对中间模型进行训练，得到第二参数信息；获取子单元用于根据第二参数信息，得到分类模型。

根据本公开的实施例，提取模块510、第一获取模块520、第二获取模块530、过滤模块540和分类模块550中的任意多个模块可以合并在一个模块中实现，或者其中的任意一个模块可以被拆分成多个模块。或者，这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合，并在一个模块中实现。根据本公开的实施例，提取模块510、第一获取模块520、第二获取模块530、过滤模块540和分类模块550中的至少一个可以至少被部分地实现为硬件电路，例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC)，或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现，或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者，提取模块510、第一获取模块520、第二获取模块530、过滤模块540和分类模块550中的至少一个可以至少被部分地实现为计算机程序模块，当该计算机程序模块被运行时，可以执行相应的功能。

图6示意性示出了根据本公开实施例的适于实现遥感图像细粒度分类方法的电子设备的方框图。

如图6所示，根据本公开实施例的电子设备600包括处理器601，其可以根据存储在只读存储器(ROM)602中的程序或者从存储部分608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。处理器601例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如，专用集成电路(ASIC))等等。处理器601还可以包括用于缓存用途的板载存储器。处理器601可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。

在RAM 603中，存储有电子设备600操作所需的各种程序和数据。处理器601、ROM602以及RAM 603通过总线604彼此相连。处理器601通过执行ROM 602和/或RAM 603中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意，所述程序也可以存储在除ROM 602和RAM 603以外的一个或多个存储器中。处理器601也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。

根据本公开的实施例，电子设备600还可以包括输入/输出(I/O)接口605，输入/输出(I/O)接口605也连接至总线604。电子设备600还可以包括连接至I/O接口605的以下部件中的一项或多项：包括键盘、鼠标等的输入部分606；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分607；包括硬盘等的存储部分608；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分609。通信部分609经由诸如因特网的网络执行通信处理。驱动器610也根据需要连接至I/O接口605。可拆卸介质611，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器610上，以便于从其上读出的计算机程序根据需要被安装入存储部分608。

本公开还提供了一种计算机可读存储介质，该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的；也可以是单独存在，而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序，当上述一个或者多个程序被执行时，实现根据本公开实施例的方法。

根据本公开的实施例，计算机可读存储介质可以是非易失性的计算机可读存储介质，例如可以包括但不限于：便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。例如，根据本公开的实施例，计算机可读存储介质可以包括上文描述的ROM 602和/或RAM 603和/或ROM 602和RAM 603以外的一个或多个存储器。

本公开的实施例还包括一种计算机程序产品，其包括计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。当计算机程序产品在计算机系统中运行时，该程序代码用于使计算机系统实现本公开实施例所提供的遥感图像细粒度分类方法。

在该计算机程序被处理器601执行时执行本公开实施例的系统/装置中限定的上述功能。根据本公开的实施例，上文描述的系统、装置、模块、单元等可以通过计算机程序模块来实现。

在一种实施例中，该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中，该计算机程序也可以在网络介质上以信号的形式进行传输、分发，并通过通信部分609被下载和安装，和/或从可拆卸介质611被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输，包括但不限于：无线、有线等等，或者上述的任意合适的组合。

在这样的实施例中，该计算机程序可以通过通信部分609从网络上被下载和安装，和/或从可拆卸介质611被安装。在该计算机程序被处理器601执行时，执行本公开实施例的系统中限定的上述功能。根据本公开的实施例，上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。

根据本公开的实施例，可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例提供的计算机程序的程序代码，具体地，可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如Java，C++，python，“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。

附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

需要说明的是，本公开实施例中的流程图所示的操作除非明确说明不同操作之间存在执行的先后顺序，或者不同操作在技术实现上存在执行的先后顺序，否则，多个操作之间的执行顺序可以不分先后，多个操作也可以同时执行。

本领域技术人员可以理解，本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合或/或结合，即使这样的组合或结合没有明确记载于本公开中。特别地，在不脱离本公开精神和教导的情况下，本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。

以上对本公开的实施例进行了描述。但是，这些实施例仅仅是为了说明的目的，而并非为了限制本公开的范围。尽管在以上分别描述了各实施例，但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围，本领域技术人员可以做出多种替代和修改，这些替代和修改都应落在本公开的范围之内。

Claims (10)

1.一种基于小样本持续学习的遥感图像细粒度分类方法，包括：

利用训练好的分类模型，提取第一遥感图像的图像特征，得到第一遥感图像特征，其中，所述分类模型是利用小样本持续学习方法训练的；

根据所述第一遥感图像特征，得到所述第一遥感图像特征中的目标响应区域，其中，所述目标响应区域表征所述第一遥感图像特征中目标对象对应的特征响应区域，所述特征响应区域包含目标对象的特征和背景特征；

根据所述目标响应区域，得到特征筛选条件；

基于所述特征筛选条件，对所述第一遥感图像特征执行特征过滤操作，得到所述目标对象对应的多个目标图像特征；

对所述多个目标图像特征进行分类处理，得到与所述第一遥感图像对应的分类结果。

2.根据权利要求1所述的方法，其中，所述根据所述第一遥感图像特征，得到所述第一遥感图像特征中的目标响应区域，包括：

根据所述多个目标图像特征之间的关联关系，得到相关度结果；

根据所述相关度结果，对所述特征响应区域进行划分，得到所述目标响应区域。

3.根据权利要求1所述的方法，其中，所述根据所述目标响应区域，得到特征筛选条件，包括：

根据所述多个目标图像特征，确定多个所述特征值；

根据所述多个特征值的平均值，得到所述特征筛选条件。

4.根据权利要求1所述的方法，其中，所述分类模型的训练方法，包括：

提取样本遥感图像的图像特征，得到用于训练预设模型的第一特征数据集；

利用所述第一特征数据集，对所述预设模型进行训练，得到中间模型和第一分类结果；

固定所述中间模型中至少一个目标残差块的参数；

利用第二特征数据集，对所述中间模型进行训练，得到所述分类模型和第二分类结果，其中，所述第二特征数据集是通过对所述第一特征数据集进行采样得到的。

5.根据权利要求2所述的方法，其中，所述利用第二特征数据集，对所述中间模型进行训练，得到所述分类模型，包括：

对所述第二特征数据集进行划分，得到第三特征数据集，其中，所述第三特征数据集中包括至少两个类别不相同的特征数据集；

利用所述第三特征数据集，对所述中间模型进行训练，得到所述分类模型。

6.根据权利要求2所述的方法，其中，所述利用所述第一特征数据集，对所述预设模型进行训练，得到中间模型，包括：

利用所述第一特征数据集和交叉熵损失函数，通过梯度反向传播方法，对所述预设模型进行训练，得到第一参数信息；

基于所述第一参数信息，得到所述中间模型。

7.根据权利要求4所述的方法，其中，所述对所述多个目标图像特征进行分类处理，得到与所述第一遥感图像对应的分类结果，包括：

利用余弦相似度分类函数，确定所述多个图像特征与所述第二分类结果的相似度；

根据所述相似度，对所述多个目标图像特征进行分类，得到所述分类结果。

8.根据权利要求5所述的方法，其中，所述利用所述第三特征数据集，对所述中间模型进行训练，得到所述分类模型，包括：

利用所述第三特征数据集，对所述中间模型进行训练，得到第二参数信息；

根据所述第二参数信息，得到所述分类模型。

9.一种电子设备，包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序，

其中，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器执行根据权利要求1～8中任一项所述的方法。

10.一种计算机可读存储介质，其上存储有可执行指令，该指令被处理器执行时使处理器执行根据权利要求1～8中任一项所述的方法。

Images