CN115761529B - 图像处理方法和电子设备 - Google Patents

图像处理方法和电子设备 Download PDF

Info

Publication number
CN115761529B
CN115761529B CN202310026426.3A CN202310026426A CN115761529B CN 115761529 B CN115761529 B CN 115761529B CN 202310026426 A CN202310026426 A CN 202310026426A CN 115761529 B CN115761529 B CN 115761529B
Authority
CN
China
Prior art keywords
image block
image
features
remote sensing
feature
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202310026426.3A
Other languages
English (en)
Other versions
CN115761529A (zh
Inventor
袁建龙
王志斌
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alibaba China Co Ltd
Original Assignee
Alibaba China Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alibaba China Co Ltd filed Critical Alibaba China Co Ltd
Priority to CN202310026426.3A priority Critical patent/CN115761529B/zh
Publication of CN115761529A publication Critical patent/CN115761529A/zh
Application granted granted Critical
Publication of CN115761529B publication Critical patent/CN115761529B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Analysis (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Processing (AREA)

Abstract

本申请公开了一种图像处理方法和电子设备。其中,该方法包括:获取遥感图像;对遥感图像进行划分,得到多个图像块;利用特征提取模型对多个图像块进行特征提取,得到多个图像块对应的目标图像块特征;基于目标图像块特征对遥感图像进行图像处理,得到遥感图像的处理结果,其中,特征提取模型通过未包含标注信息的第一样本集对第一骨干网络进行自监督学习,第一骨干网络的网络参数在自监督学习过程中是基于第一样本集中第一样本的第一图像块特征、第一样本集中所有样本的图像块特征集合、以及图像块特征集合中的目标图像块特征确定的。本申请解决了相关技术中对模型进行自监督训练的效果较差的技术问题。

Description

图像处理方法和电子设备
技术领域
本申请涉及图像处理领域,具体而言,涉及一种图像处理方法和电子设备。
背景技术
目前,地球观测数据在呈几何形状增长,但是,在遥感领域还没有像图像集这样的大规模分类任务用于预训练,并且,对遥感数据的注释往往需要许多专业人员,这些都限制了遥感领域的发展。目前可以通过自监督学习的方式对遥感领域的模型进行预训练,但是,目前的自监督学习的方法一般是针对自然图像,然而,遥感图像和自然图像有很大的不同,例如颜色不如自然图像丰富,在数万平方公里的范围内会发现相同的相似特征,并且遥感领域的数据构建更为复杂,从而导致对于遥感领域的模型进行自监督训练的效果较差。
针对上述的问题,目前尚未提出有效的解决方案。
发明内容
本申请实施例提供了一种图像处理方法和电子设备,以至少解决相关技术中对模型进行自监督训练的效果较差的技术问题。
根据本申请实施例的一个方面,提供了一种图像处理方法,包括:获取遥感图像;对遥感图像进行划分,得到多个图像块;利用特征提取模型对多个图像块进行特征提取,得到多个图像块对应的目标图像块特征;基于目标图像块特征对遥感图像进行图像处理,得到遥感图像的处理结果;其中,特征提取模型通过未包含标注信息的第一样本集对第一骨干网络进行自监督学习,并通过包含标注信息的第二样本集对第一骨干网络进行参数调整得到,第一骨干网络的网络参数在自监督学习过程中是基于第一样本集中第一样本的第一图像块特征、第一样本集中所有样本的图像块特征集合、以及图像块特征集合中的目标图像块特征确定的,目标图像块特征与第一图像块特征之间的相似度满足预设条件。
根据本申请实施例的另一方面,还提供了一种图像处理方法,包括:获取建筑物图像;对建筑物图像进行划分,得到多个图像块;利用特征提取模型对多个图像块进行特征提取,得到多个图像块对应的目标图像块特征;基于目标图像块特征对建筑物图像进行图像处理,得到建筑物图像的处理结果;其中,特征提取模型通过未包含标注信息的第一样本集对第一骨干网络进行自监督学习,并通过包含标注信息的第二样本集对第一骨干网络进行参数调整得到,第一骨干网络的网络参数在自监督学习过程中是基于第一样本集中第一样本的第一图像块特征、第一样本集中所有样本的图像块特征集合、以及图像块特征集合中的目标图像块特征确定的,目标图像块特征与第一图像块特征之间的相似度满足预设条件。
根据本申请实施例的另一方面,还提供了一种图像处理方法,包括:获取农作物图像;对农作物图像进行划分,得到多个图像块;利用特征提取模型对多个图像块进行特征提取,得到多个图像块对应的目标图像块特征;基于目标图像块特征对农作物图像进行图像处理,得到农作物图像的处理结果;其中,特征提取模型通过未包含标注信息的第一样本集对第一骨干网络进行自监督学习,并通过包含标注信息的第二样本集对第一骨干网络进行参数调整得到,第一骨干网络的网络参数在自监督学习过程中是基于第一样本集中第一样本的第一图像块特征、第一样本集中所有样本的图像块特征集合、以及图像块特征集合中的目标图像块特征确定的,目标图像块特征与第一图像块特征之间的相似度满足预设条件。
根据本申请实施例的另一方面,还提供了一种模型训练方法,包括:获取未包含标注信息的第一样本集和包含标注信息的第二样本集;利用第一样本集对第一骨干网络进行自监督学习,得到预训练模型,第一骨干网络的网络参数是基于第一样本集中第一样本的第一图像块特征、第一样本集中所有样本的图像块特征集合、以及图像块特征集合中的目标图像块特征确定的,目标图像块特征与第一图像块特征之间的相似度满足预设条件;利用第二样本集对预训练模型的模型参数进行参数调整,得到特征提取模型,其中,特征提取模型用于对遥感图像包含的多个图像块进行特征提取。
根据本申请实施例的另一方面,还提供了一种图像处理方法,包括:响应作用于操作界面上的输入指令,在操作界面上显示监测到的遥感图像;响应作用于操作界面上的识别指令,在操作界面上显示遥感图像的处理结果,其中,处理结果基于遥感图像包含的多个图像块对应的目标图像块特征对遥感图像进行图像处理得到,目标图像块特征通过特征提取模型对多个图像块进行特征提取得到,多个图像块通过对遥感图像进行划分得到,特征提取模型通过未包含标注信息的第一样本集对第一骨干网络进行自监督学习,并通过包含标注信息的第二样本集对第一骨干网络进行参数调整得到,第一骨干网络的网络参数在自监督学习过程中是基于第一样本集中第一样本的第一图像块特征、第一样本集中所有样本的图像块特征集合、以及图像块特征集合中的目标图像块特征确定的,目标图像块特征与第一图像块特征之间的相似度满足预设条件。
根据本申请实施例的另一方面,还提供了一种图像处理方法,包括:通过调用第一接口获取遥感图像,其中,第一接口包括第一参数,第一参数的参数值为遥感图像;对遥感图像进行划分,得到多个图像块;利用特征提取模型对多个图像块进行特征提取,得到多个图像块对应的目标图像块特征;基于目标图像块特征对遥感图像进行图像处理,得到遥感图像的处理结果;通过调用第二接口输出处理结果,其中,第二接口包括第二参数,第二参数的参数值为处理结果;其中,特征提取模型通过未包含标注信息的第一样本集对第一骨干网络进行自监督学习,并通过包含标注信息的第二样本集对第一骨干网络进行参数调整得到,第一骨干网络的网络参数在自监督学习过程中是基于第一样本集中第一样本的第一图像块特征、第一样本集中所有样本的图像块特征集合、以及图像块特征集合中的目标图像块特征确定的,目标图像块特征与第一图像块特征之间的相似度满足预设条件。
通过上述步骤,首先,获取遥感图像;对遥感图像进行划分,得到多个图像块;利用特征提取模型对多个图像块进行特征提取,得到多个图像块对应的目标图像块特征;基于目标图像块特征对遥感图像进行图像处理,得到遥感图像的处理结果,其中,特征提取模型通过未包含标注信息的第一样本集对第一骨干网络进行自监督学习,并通过包含标注信息的第二样本集对第一骨干网络进行参数调整得到,第一骨干网络的网络参数在自监督学习过程中的是基于第一样本集中第一样本的第一图像块特征、第一样本集中所有样本的图像块特征集合、以及图像块特征集合中的目标图像块特征确定的,目标图像块特征与第一图像块特征之间的相似度满足预设条件,实现了提高模型的自监督训练效果的目的,容易注意到的是,本申请提供了一个新的像素级任务,结合最近邻的目标图像块特征构建的损失函数对特征提取模型进行自监督训练,可以通过特征提取模型利用来自多个图像块的图像块特征集合来探索每个图像块中的不同对象对应的目标图像块特征,有效的针对每个图像块得到其最近邻的图像块特征,另外,基于图像块特征对遥感图像进行图像处理,相较于基于完整的图像对遥感图像处理可以节省内存空间,从而提高计算机的处理性能,进而解决相关技术中对模型进行自监督训练的效果较差的技术问题。
容易注意到的是,上面的通用描述和后面的详细描述仅仅是为了对本申请进行举例和解释,并不构成对本申请的限定。
附图说明
此处所说明的附图用来提供对本申请的进一步理解,构成本申请的一部分,本申请的示意性实施例及其说明用于解释本申请,并不构成对本申请的不当限定。在附图中:
图1是根据本申请实施例的一种用于实现图像处理方法的计算机终端(或移动设备)的硬件结构框图;
图2是根据本申请实施例1的一种图像处理方法的流程图;
图3是根据本申请实施例的一种交互界面的示意图;
图4是根据本申请实施例2的一种图像处理方法的流程图;
图5是根据本申请实施例3的一种图像处理方法的流程图;
图6是根据本申请实施例4的一种模型训练方法的流程图;
图7是根据本申请实施例5的一种图像处理方法的流程图;
图8是根据本申请实施例6的一种图像处理方法的流程图;
图9是根据本申请实施例7的一种图像处理装置的示意图;
图10是根据本申请实施例8的一种图像处理装置的示意图;
图11是根据本申请实施例9的一种图像处理装置的示意图;
图12是根据本申请实施例10的一种模型训练装置的示意图;
图13是根据本申请实施例11的一种图像处理装置的示意图;
图14是根据本申请实施例12的一种图像处理装置的示意图;
图15是根据本申请实施例的一种计算机终端的结构框图。
具体实施方式
为了使本技术领域的人员更好地理解本申请方案,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分的实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本申请保护的范围。
需要说明的是,本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本申请的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
实施例1
根据本申请实施例,还提供了一种图像处理方法的实施例,需要说明的是,在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行,并且,虽然在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤。
本申请实施例一所提供的方法实施例可以在移动终端、计算机终端或者类似的运算装置中执行。图1是根据本申请实施例的一种用于实现图像处理方法的计算机终端(或移动设备)的硬件结构框图。如图1所示,计算机终端10(或移动设备)可以包括一个或多个(图中采用102a,102b,……,102n来示出)处理器102(处理器102可以包括但不限于微处理器MCU或可编程逻辑器件FPGA等的处理装置)、用于存储数据的存储器104、以及用于通信功能的传输装置106。除此以外,还可以包括:显示器、输入/输出接口(I/O接口)、通用串行总线(USB)端口(可以作为BUS总线的端口中的一个端口被包括)、网络接口、电源和/或相机。本领域普通技术人员可以理解,图1所示的结构仅为示意,其并不对上述电子装置的结构造成限定。例如,计算机终端10还可包括比图1中所示更多或者更少的组件,或者具有与图1所示不同的配置。
应当注意到的是上述一个或多个处理器102和/或其他数据处理电路在本文中通常可以被称为“数据处理电路”。该数据处理电路可以全部或部分的体现为软件、硬件、固件或其他任意组合。此外,数据处理电路可为单个独立的处理模块,或全部或部分的结合到计算机终端10(或移动设备)中的其他元件中的任意一个内。如本申请实施例中所涉及到的,该数据处理电路作为一种处理器控制(例如与接口连接的可变电阻终端路径的选择)。
存储器104可用于存储应用软件的软件程序以及模块,如本申请实施例中的图像处理方法对应的程序指令/数据存储装置,处理器102通过运行存储在存储器104内的软件程序以及模块,从而执行各种功能应用以及数据处理,即实现上述的图像处理方法。存储器104可包括高速随机存储器,还可包括非易失性存储器,如一个或者多个磁性存储装置、闪存、或者其他非易失性固态存储器。在一些实例中,存储器104可进一步包括相对于处理器102远程设置的存储器,这些远程存储器可以通过网络连接至计算机终端10。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
传输装置106用于经由一个网络接收或者发送数据。上述的网络具体实例可包括计算机终端10的通信供应商提供的无线网络。在一个实例中,传输装置106包括一个网络适配器(Network Interface Controller,NIC),其可通过基站与其他网络设备相连从而可与互联网进行通讯。在一个实例中,传输装置106可以为射频(Radio Frequency,RF)模块,其用于通过无线方式与互联网进行通讯。
显示器可以例如触摸屏式的液晶显示器(LCD),该液晶显示器可使得用户能够与计算机终端10(或移动设备)的用户界面进行交互。
此处需要说明的是,在一些可选实施例中,上述图1所示的计算机设备(或移动设备)可以包括硬件元件(包括电路)、软件元件(包括存储在计算机可读介质上的计算机代码)、或硬件元件和软件元件两者的结合。应当指出的是,图1仅为特定具体实例的一个实例,并且旨在示出可存在于上述计算机设备(或移动设备)中的部件的类型。
在上述运行环境下,本申请提供了如图2所示的图像处理方法。图2是根据本申请实施例1的一种图像处理方法的流程图。该方法包括:
步骤S202,获取遥感图像。
上述的遥感图像可以为建筑物遥感图像、气象遥感图像、农林遥感图像、交通工具遥感图像等,此处对遥感图像的类型不做限定。
在一种可选的实施例中,可以通过无人机、雷达或者卫星通过对场景进行监测,得到该场景区域对应的遥感图像,还可以从网络图库中获取到遥感图像。可以根据场景任务来获取到该场景对应的遥感图像。图3是根据本申请实施例的一种交互界面的示意图,如图3所示,遥感图像可以显示在交互界面中的遥感图像采集区域内;在另一种可选的实施例中,遥感图像可以由用户主动上传给服务器,由服务器处理,如图3所示,用户可以通过点击交互界面中的“上传遥感图像”按钮,或将遥感图像直接拖入到虚线框的方式完成将遥感图像上传至服务器的目的,而且,用户上传的遥感图像可以显示在遥感图像的采集区域内;此处的服务器可以使部署在本地的服务器,也可以是部署在云端的服务器。
步骤S204,对遥感图像进行划分,得到多个图像块。
在一种可选的实施例中,可以对遥感图像进行划分,划分为多个大小相同的图像块。
在另一种可选的实施例中,可以根据预设划分尺寸对遥感图像进行划分,得到多个图像块,其中,预设划分尺寸可以根据需求自行设定。
步骤S206,利用特征提取模型对多个图像块进行特征提取,得到多个图像块对应的目标图像块特征。
其中,特征提取模型通过未包含标注信息的第一样本集对第一骨干网络进行自监督学习,并通过包含标注信息的第二样本集对第一骨干网络进行参数调整得到,第一骨干网络的网络参数在自监督学习过程中是基于第一样本集中第一样本的第一图像块特征、第一样本集中所有样本的图像块特征集合、以及图像块特征集合中的目标图像块特征确定的,目标图像块特征与第一图像块特征之间的相似度满足预设条件。
上述的特征提取模型在自监督训练的过程中,通过最近邻的样本可以使训练更有效,也即,通过上述的第一图像块特征和目标图像块特征可以使得提高对特征提取模型的学习效果,并且,通过增加图像块特征集合可以使其包含更多的负样本补丁进行学习,从而有效的降低在训练过程中产生的噪声。
在一种可以选的实施例中,可以基于第一样本集中第一样本的第一图像块特征、第一样本集中所有样本的图像块特征集合、以及图像块特征集合中的目标图像块特征构建损失函数。
上述的损失函数通过第一样本集中第一样本的第一图像块特征、第一样本集中所有样本的图像块特征集合、以及图像块特征集合中目标图像块特征进行构建,使得在构建的过程中考虑到更多的数据,可以关联到图像块特征对应的最近邻图像块特征,通过最近邻图像块特征构建的损失函数对特征提取模型进行训练,可以使特征提取模型在进行特征提取时考虑到最近邻的图像块特征,从而可以提高特征提取模型的准确度。
在一种可选的实施例中,可以利用特征提取模型对多个图像块进行特征提取,得到多个图像块对应的目标图像块特征,每个目标图像块特征都可以是该图像块的图像块特征对应的最近邻图像块特征。对于一个遥感图像中的不同对象,其可以对应于不同图像块中,通过对不同的图像块进行特征提取,可以针对于该图像块得到与该图像块对应的最近邻,也即上述的目标图像块特征,也即,对于每个图像块都可以得到其最近邻特征,从而使每个图像块都可以得到能够准确表征该图形块所表达含义的目标图像块特征。
上述的第一骨干网络可以为主干网络。
上述的第一样本集可以是通用的遥感图像集,上述的第一样本集还可以根据特征提取模型待处理的遥感图像的类型确定,若待处理的遥感图像为农业类型的遥感图像,则第一样本集可以将农业类型的遥感图像作为样本,此处仅做实例进行说明。上述的第一样本可以是第一样本集中的任意一个或多个样本。
上述第二样本集可以根据特征提取模型待处理的遥感图像的类型确定,若待处理的遥感图像为农业类型的遥感图像,则第二样本集可以将农业类型的遥感图像作为样本。
上述的第二样本集可以与第一样本集相同,也可以与第一样本集不同,可选的,第二样本集可以为第一样本集中待处理的遥感图像的类型相关的一部分样本。在一种可选的实施例中,可以通过包含标注信息的第二样本集对第一骨干网络进行参数调整,可以使得到的特征提取模型的效果更好,使得特征提取模型更符合待处理的遥感图像的处理需求。
上述的第一图像块特征可以为第一样本的任意一个或多个图像块特征。上述的图像块集合中包含第一样本集中所有样本的图像块特征。
上述的预设条件可以是任意两个图像块特征之间的相似度大于与该图像块与其他图像块之间的相似度。也即,目标图像块特征和第一图像块特征之间满足最近邻。
步骤S208,基于目标图像块特征对遥感图像进行图像处理,得到遥感图像的处理结果。
上述的图像处理包括但不限于图像分割、变化检测等。
在另一种可选的实施例中,可以根据目标图像块特征对遥感图像进行图像识别,得到遥感图像中包含的目标对象的类型。在另一种可选的实施例中,可以根据目标图像块特征对遥感图像中的目标区域进行识别,确定该目标区域是否出现变化。在又一种可选的实施例中,可以根据目标图像块特征对遥感图像中的场景进行识别,得到高遥感图像对应的场景类别。
在遥感图像为农业场景对应的遥感图像时,可以根据目标图像块特征对遥感图像中的农作物进行识别,确定该遥感图像中农作物的类别;还可以根据目标图像块特征对遥感图像中的农作物所处的区域进行识别,确定该农作物所处的区域是否出现降雨、虫害、冰雹等灾害。
在遥感图像为建筑物场景对应的遥感图像时,可以根据目标图像块特征对遥感图像中的建筑物进行识别,确定该遥感图像中建筑物的类别;还可以根据目标图像块特征对遥感图像中的建筑物所处的区域进行识别,确定该建筑物所处的区域是否出现降雨、下雪等影响工期的情况。
通过上述步骤,首先,获取遥感图像,对遥感图像进行划分,得到多个图像块;利用特征提取模型对多个图像块进行特征提取,得到多个图像块对应的目标图像块特征,基于目标图像块特征对遥感图像进行图像处理,得到遥感图像的处理结果,其中,特征提取模型通过未包含标注信息的第一样本集对第一骨干网络进行自监督学习,并通过包含标注信息的第二样本集对第一骨干网络进行参数调整得到,第一骨干网络的网络参数在自监督学习过程中是基于第一样本集中第一样本的第一图像块特征、第一样本集中所有样本的图像块特征集合、以及图像块特征集合中的目标图像块特征确定的,目标图像块特征与第一图像块特征之间的相似度满足预设条件,实现了提高模型的自监督训练效果的目的,容易注意到的是,本申请提供了一个新的像素级任务,结合最近邻的目标图像块特征构建的损失函数对特征提取模型进行自监督训练,可以通过特征提取模型利用来自多个图像块的图像块特征集合来探索每个图像块中的不同对象对应的目标图像块特征,有效的针对每个图像块得到其最近邻的图像块特征,另外,基于图像块特征对遥感图像进行图像处理,相较于基于完整的图像对遥感图像处理可以节省内存空间,从而提高计算机的处理性能,进而解决相关技术中对模型进行自监督训练的效果较差的技术问题。
本申请上述实施例中,该方法还包括:将图像块特征集合中的预设图像块特征存储至内存中;基于第一图像块特征,从内存中获取原始图像块特征,其中,原始图像块特征与第一图像块特征之间的第一相似度大于第一其他特征与第一图像块特征之间的第一相似度,第一其他特征为内存中除原始图像块特征之外的图像块特征;基于原始图像块特征,从内存中获取目标图像块特征,其中,目标图像块特征与原始图像块特征之间的第二相似度大于第二其他特征与原始图像块特征之间的第二相似度,第二其他特征为内存中除目标图像块特征之外的图像块特征。
上述的预设图像块特征可以是对图像块特征集合中的每个图像块特征进行筛选后得到的一个或多个具有代表性的图像块特征。通过将图像块特征集合中的具有代表性的预设图像块特征存储在内存中,达到解决计算机资源,避免内存更新频繁的目的,从而避免出现模型训练不稳定。需要说明的,上述的内存的更新周期可以是定时的更新周期,也可以是在得到预设图像块特征之后立即对内存进行更新,此处对内存的更新方式可以根据需求设定。
上述的原始图像块特征可以为内存中与第一图像块特征相似度较大的一个或多个图像块特征。
上述的目标图像块特征可以为内存中与原始图像块特征相似度较大的一个或多个图像块特征。
在一种可选的实施例中,可以通过原始图像块特征获取到更多的目标图像块特征,从而达到利用来自于同一图像的其他视图的更多最近邻来减少内存库中最近邻的噪声。具体来说,Kp和Km分别为正视图和内存库中最近邻的数量,从
Figure 345674DEST_PATH_IMAGE001
中给出一个图像块特征,首先从/>
Figure 415261DEST_PATH_IMAGE002
中检索Kp个最近邻,即原始图像块特征,然后,为/>
Figure 3237DEST_PATH_IMAGE003
中每个图像块特征从内存库中选择所有图像块特征的Km个最近邻,即目标图像块特征,最后,总共有/>
Figure 82052DEST_PATH_IMAGE004
个来自内存库的目标图像块特征会被认为是给定第一图像块特征的正样本对。这个损失被称为K2NN(K2最近邻)损失,可以通过如下公式(1)表示:/>
Figure 314450DEST_PATH_IMAGE005
Figure 820517DEST_PATH_IMAGE006
(1)
其中,Kp和Km为来自内存库的目标图像块特征,S为第一图像块特征、
Figure 505577DEST_PATH_IMAGE007
,/>
Figure 981557DEST_PATH_IMAGE008
和/>
Figure 334041DEST_PATH_IMAGE009
中分别表示/>
Figure 11010DEST_PATH_IMAGE010
和/>
Figure 183366DEST_PATH_IMAGE011
中第s个图像块的特征表示,λ为常数。
遥感图像的多个图像块特征被用来从内存库中检索图像块特征,与单个图像块特征检索相比,可以通过多个查询同时选择内存库中的一个图像块特征,根据正样本对的不同权重可以有效地降低噪声。
本申请上述实施例中,该方法还包括:获取图像块特征集合中任意两个图像块特征之间的相似度;基于任意两个图像块特征之间的相似度,从任意两个图像块特征中获取预设图像块特征。
在传统的基于图像的对比学习中,记忆库可以由小批量的所有图像进行更新,然而,图像块特征的数量是图像的S倍,因此,在内存库中保留小批量的所有图像块特征会使得更新过于频繁,这可能会导致训练不稳定,此外,对于遥感图像可能存在冗余的图像块特征,因此,本申请中可以根据任意两个图像块特征之间的相似度,从任意两个图像块特征中获取相似度较高的预设图像块特征,从而得到具有代表性的预设图像块特征。
本申请上述实施例中,基于任意两个图像块特征之间的相似度,从任意两个图像块特征中获取预设图像块特征包括:基于任意两个图像块特征之间的相似度,生成子模函数;对子模函数进行求解,确定预设图像块特征。
上述的子模函数用于表示所有图像块特征中任意两个图像块特征之间的相似度,通过对子模函数进行求解,可以得到所有图像块特征中相似度较大的一个或多个图像块特征,也即上述的预设图像块特征。
给定来自同一图像的一组图像块特征
Figure 465967DEST_PATH_IMAGE012
,其中/>
Figure 672957DEST_PATH_IMAGE013
表示所有图像块特征的两两相似度矩阵,可以从/>
Figure 520828DEST_PATH_IMAGE014
中选择一个子集V:
Figure 446058DEST_PATH_IMAGE015
(2)
这是一个组合优化问题,一种有效的逼近方法可以应用于子模函数,子模函数的定义为设置函数g是子模块化的,如果对于每个A⊆B⊆V和e∈V\B,其认为
Figure 404787DEST_PATH_IMAGE016
命题1,公式(2)中的函数g(s)是一个子模函数,由于子模函数有良好的性质,因此,可以通过贪婪算法得到一个近似解,同时从理论上保证其性能。
推论1,让Sg表示由贪婪算法所选择的子集,有如下:
Figure 325339DEST_PATH_IMAGE017
推论1表明,通过贪心算法得到的结果不会超过最优解的63%左右。
本申请上述实施例中,基于第一图像块特征,从内存中获取原始图像块特征包括:确定内存中至少一个图像块特征与第一图像块特征之间的第一相似度;按照第一相似度从大到小的顺序对至少一个图像块特征进行排序,得到排序后的图像块特征;获取排序后的图像块特征中排名靠前的预设数量的图像块特征,得到原始图像块特征。
上述的预设数量可以根据需求自行设定。
在一种可选的实施例中,可以确定内存中至少一个图像块特征与第一图像块特征之间的第一相似度,根据第一相似度从大到小的顺序对至少一个图像块特征进行排序,使得与第一图像块特征相似度较大的图像块特征可以排序靠前,可以确定排序靠前的预设数量的图像块特征为上述的原始图像块特征。由此,可以从至少一个图像块特征中得到与第一图像块特征相似度较大的原始图像块特征。
本申请上述实施例中,该方法还包括:对第一样本集中所有样本进行图像增强,得到第一增强图像集合和第二增强图像集合;分别对第一增强图像集合和第二增强图像集合进行划分,得到第一图像块集合和第二图像块集合;利用第一骨干网络对第一图像块集合中的第一图像块进行特征提取,得到第一特征集合,并利用第二骨干网络对第二图像块集合中的第二图像块进行特征提取,得到第二特征集合,其中,第二骨干网络通过对第一骨干网络的网络参数进行调整得到;对第一特征集合和第二特征集合进行汇总,得到图像块特征集合。
上述的第一骨干网络和第二骨干网络可以为不同编码器网络中包含的骨干网络。
在一种可选的实施例中,可以对第一样本集中所有样本进行两次图像增强,分别得到第一增强图像集合和第二增强图像集合,可以分别对第一增强图像集合和第二增强图像集合进行划分,得到第一增强图像集合对应的第一图像块集合和第二增强图像集合对应的第二图像块集合,从而可以得到同一视图对应的两个增强后的图像块集合,便于后续通过优化对比损失可以学习到一个有效的模型。
进一步的,可以利用第一骨干网络对第一图像块集合中的第一图像块进行特征提取,得到第一特征集合,可以利用第二骨干网络对第二图像块集合中的第二图像块进行特征提取,得到第二特征集合,可以通过对比学习观察来自同一图像在不同视角来产生正对;可以对第一特征集合和第二特征集合进行汇总,以便丰富图像块特征集合中所包含的特征,从而得到图像块特征集合。
给定一个增强过程h(x),可以为给定图像增强得到多个视图,可选的,可以依赖两个视图来进行更新的,假设,
Figure 344110DEST_PATH_IMAGE018
表示从增强过程中得到的两个视图,即上述的第一增强图像集合和第二图像增强集合,通过更新对比损失可以学习到一个有效的模型,例如:
Figure 491058DEST_PATH_IMAGE019
(3)
其中,
Figure 253477DEST_PATH_IMAGE020
和/>
Figure 435060DEST_PATH_IMAGE021
,/>
Figure 483787DEST_PATH_IMAGE022
和/>
Figure 118031DEST_PATH_IMAGE023
分别表示编码器网络和相应的动量编码器。
可以保留一个内存库来存储不同的实例
Figure 418562DEST_PATH_IMAGE024
的特征,内存库的大小可以为m。
本申请上述实施例中,利用第一骨干网络对第一图像块集合中的第一图像块进行特征提取,得到第一特征集合,并利用第二骨干网络对第二图像块集合中的第二图像块进行特征提取,得到第二特征集合,包括:利用第一骨干网络对第一图像块进行特征提取,得到第一图像块的第一初始特征;利用第二骨干网络对第二图像块进行特征提取,得到第二图像块的第二初始特征;利用第一投影头模型对第一初始特征进行特征融合,得到第一特征集合;利用第二投影头模型对第二初始特征进行特征融合,得到第二特征集合,其中,第二投影头模型通过对第一投影头模型的网络参数进行调整得到。
上述的第一投影头模型和第二投影头模型可以为密集投影头模型。其中,密集投影头模型可以将密集的特征映射作为输出,输出密集的特征向量。
上述的第一骨干网络和第一投影头模型可以是属于同一个编码器网络。
上述的第二骨干网络和第二投影头模型可以是属于同一个编码器网络。
在一种可选的实施例中,可以由第一骨干网络对第一图像块进行特征提取,得到第一图像块的第一初始特征,该第一初始特征可以为密集的特征映射,可以利用第一投影头模型对第一初始特征进行特征融合,得到密集的第一特征集合。可以由第二骨干网络对第二图像块进行特征提取,得到第二图像块的第二初始特征,该第二初始特征可以为密集的特征映射,可以利用第二投影头模型对第二初始特征进行特征融合,得到密集的第二特征集合。
本申请上述实施例中,基于目标图像块特征对遥感图像进行图像处理,得到遥感图像的处理结果包括如下之一:基于目标图像块特征对遥感图像进行语义分割,得到处理结果,其中,处理结果用于表征遥感图像中每个像素所属对象的类型;基于目标图像块特征对遥感图像中的目标区域进行变化检测,得到处理结果,其中,处理结果用于表征目标区域是否发生变化。
在一种可选的实施例中,可以根据目标图像块特征对遥感图像进行语义分割,得到遥感图像中对象的类型,可以根据目标图像块特征对遥感图像中的目标区域进行变化检测,确定该目标区域是否发生变化。
本申请上述实施例中,在基于目标图像块特征对遥感图像进行语义分割,得到处理结果之后,该方法还包括:基于处理结果,确定遥感图像中每个像素的输出方式;按照每个像素的输出方式,输出遥感图像。
在一种可选的实施例中,在处理结果用于表征遥感图像中每个像素所属对象的类型的情况下,对于不同类型的对象,可以通过不同的输出方式输出其对应的像素,以便可以对遥感图像中属于不同类型的对象进行区分。
上述的输出方式可以用于表示通过不同的颜色对不同类型的对象对应的像素进行输出。
上述的输出方式还可以用于表示通过不同的透明度对不同类型的对象对应的像素进行输出,例如,对预设类型的对象对应的像素,可以采用预设的颜色进行输出,对于其他类型的对象对应的像素,可以采用全透明的方式进行输出,此处仅做实例进行说明。
本申请上述实施例中,在基于目标图像块特征对遥感图像中的目标区域进行变化检测,得到处理结果之后,该方法还包括:确定目标区域发生变化的目标原因;基于目标原因生成提示信息;输出遥感图像,并在目标区域的显示位置上输出处理结果和提示信息。
上述的目标区域可以为农业场景中的目标农作物所属的区域。上述的目标区域还可以为建筑场景中建筑物所属的区域。目标区域可以根据遥感图像所对应的场景进行设置。
上述的显示位置可以是遥感图像中目标区域所处的位置,也可以是任意设置的位置,此处不做限定。
在一种可选的实施例中,在处理结果为遥感图像中的目标区域是否发生变化的情况下,若目标区域发生变化,则确定出目标区域发生变化的目标原因,根据该目标原因生成语音、图像、短信或者文字等任意一种或多种类型的提示信息,并输出遥感图像,并在目标区域的显示位置上输出处理结果和提示信息。需要说明的是,在目标区域没有发生变化的情况下,其可以仅输出处理结果为目标区域没有发生变化。在目标区域发生变化的情况下,其可以同时输出处理结果和提示信息。
示例性的,在遥感图像中显示目标农作物所属的区域遭遇虫害导致目标区域发生变化,此时可以生成农作物遭遇虫害的文字信息,并将目标区域发生变化的处理结果和农作物遭遇虫害的文字信息在目标区域的显示位置上进行输出。
本申请上述实施例中,在按照每个像素的输出方式,输出遥感图像之后,该方法还包括:接收处理结果对应的反馈信息,其中,反馈信息用于对处理结果进行修改;基于反馈信息对特征提取模型的模型参数进行调整。
在一种可选的实施例中,接收遥感图像对应的第一反馈信息,其中,第一反馈信息用于对遥感图像中任意一个像素所属对象的类型进行修改;基于第一反馈信息对特征提取模型的模型参数进行调整。
为了确保输出的遥感图像的准确度,可以将输出的遥感图像展示给用户查看,也即,可以将遥感图像展示在图3交互界面的反馈信息反馈区域上,也可以通过网络将遥感图像下发给客户端,由客户端展示给用户查看。进一步地,若用户认为展示的遥感图像中任意一个像素所属对象的类型有误,可以该像素所属对象的类型进行修改,得到第一反馈信息,以便通过该第一反馈信息对特征提取模型的模型参数进行调整,从而提高特征提取模型的精确度。
在另一种可选的实施例中,接收处理结果对应的第二反馈信息,其中,第二反馈信息用于对处理结果进行修改;基于第二反馈信息对特征提取模型的模型参数进行调整。
为了确保输出的处理结果的准确度,在一种可选的实施例中,可以将处理结果展示给用户查看,也即,可以将处理结果展示在图3交互界面的反馈信息反馈区域上,也可以通过网络将处理结果下发至客户端,由客户端展示给用户查看。进一步地,若用户认为展示的处理结果有误,可以将该处理结果进行修改,得到第二反馈信息,以便通过第二反馈信息对特征提取模型的模型参数进行调整,从而提高特征提取模型的精确度。
上述的自监督学习的目的是从一个无标记的数据集
Figure 454652DEST_PATH_IMAGE025
中学习有效表示。其中,x可以使视觉表示学习的图像。
传统的对比学习通过观察来自于同一图像的不同视角来产生正对,该策略保证了两个不同的实例来自同一类,但是语义信息可能不足,最近,一些研究提出来要有来自最近邻的正样本对,具体来说,对比损失可以写成如下所示:
Figure 674280DEST_PATH_IMAGE026
(4)
其中,
Figure 61399DEST_PATH_IMAGE027
表示内存库中/>
Figure 165622DEST_PATH_IMAGE028
的K个最近邻的集合。
上述的策略引入了来自最近邻的极大方差,比只使用来自同一图像的样本对能更好地捕获语义信息。
然而,在最近邻中可能会出现假阳性,这可能会降低性能,此外,用整个图像定义的任务可能聚焦于单个对象,而忽略图像中的不同组件,对于具有不同对象的数据,如遥感数据可能是次优的,因此,提出了一个新的基于图像块的框架来缓解这个问题,即,通过本申请上述的第一图像块特征和图像块集合以及目标图像块特征来构建损失函数,从而考虑到更多的数据,使得学习的范围更广,从而提高特征提取模型的性能。
在一种可选的实施例中,可以根据第一样本特征和图像块特征集合构建损失函数进行自监督学习,公式如下:
Figure 790638DEST_PATH_IMAGE029
(5)
进一步的,为了提高特征提取模型的准确度,可以利用来自最近邻的样本对使学习更有效,其中,最近邻样本为上述的目标图像块特征,公式如下:
Figure 322113DEST_PATH_IMAGE030
Figure 790004DEST_PATH_IMAGE031
(6)
然后,利用来自最近邻的样本对使学习更有效,公式如下:
Figure 697917DEST_PATH_IMAGE032
Figure 708598DEST_PATH_IMAGE033
(7)
对于每个图像块特征,都可以从另一个图像中得到1个最近邻,并采用目标图像块特征集合中的k个最近邻来更新对比损失。
本申请上述实施例中,该方法还包括:输出至少一个初始骨干网络;接收对至少一个初始骨干网络进行选择的第一选择指令,确定第一选择指令对应的初始骨干网络为第一骨干网络。
上述至少一个初始骨干网络可以是特征提取模型中的初始骨干网络。
在一种可选的实施例中,可以将至少一个初始骨干网络显示在用户界面,用户可以对至少一个初始骨干网络进行选择,从而生成第一选择指令,可以根据第一选择指令对应的初始骨干网络得到第一骨干网络,以便通过样本集对第一骨干网络进行调整,得到调整结果。
本申请上述实施例中,该方法还包括:输出至少一种训练方式,其中,至少一种训练方式用于对第一骨干网络进行训练;接收对至少一种训练方式进行选择的第二选择指令,确定第二选择指令对应的目标训练方式;在接收到第二样本集的情况下,利用第二样本集按照目标训练方式对第一骨干网络进行训练,得到特征提取模型。
上述的至少一种训练方式可以是预先设置的有监督训练方式或无监督训练方式。
在一种可选的实施例中,可以在用户界面展示至少一种训练方式,可以确定第二选择指令从至少一种训练方式选择用户需要使用的训练方式,并生成第二选择指令,可以确定第二选择指令对应的目标训练方式,在接收到第二样本集的情况下,可以利用第二样本集按照目标训练方式对第一骨干网络进行训练,得到用户需要使用的特征提取模型。
本申请方案实现的相关工作如下:
上述的自我监督的表示学习主要是挑选出吸引相似样本的表示,并排除不同的样本,以学习特定于实例的判别表示,同时,自监督学习的神经网络(MoCo和MoCov2)使用动量编码器来保持从记忆库中提取的负对一致表示,损失函数是基于MoCov2在潜在空间中引入来自数据集中的最近邻样本,将其视为正样本。在此之后,提出了另一类基于聚类的方法,其在聚类特征表示和预测聚类分配的学习之间交替进行,目前,相关人员提出了在不考虑负样本的情况下直接拉动不同视图的输出,然而,上述方法是为图像级任务设计的,忽略了像素级任务,从而使得图像级的自我监督预训练对于密集的预测任务可能是次优的自监督表征学习。
目前,一些研究集中在基于像素识别的对比学习,以便更好地转移到下游密集预测任务,这些方法通过匹配来自不同视图的像素或补丁来构建正样本对,将图像级对比学习扩展到像素级对比学习,具体来说,其比较了所有补丁组合,并将最相似的对拉在一起,K2神经网络属于密集的自监督预训练模式,然而,这些方式都是为自然图像而设计的,遥感图像与自然图像有很大的不同,例如,遥感图像中的特征和类型不如自然图像丰富,在数万平方公里的范围内也会发现相同的相似特征,这将导致自然图像的方法不适用于遥感图像。
遥感研究中的自监督表示学习,每年地球观测数据都在呈几何形状增长,然而,众所周知,在遥感领域还没有像图像集这样的大规模分类任务用于预训练,此外,对遥感数据的注释往往需要许多专业人员,所有这些都大大限制了遥感邻域的发展,因此,自监督方法引起了遥感的极大兴趣,一些方法已经证明,在同一领域,通过预先训练的遥感模型可以获得更好的性能。首先探索了自监督学习在地理数据集上的应用,通过利用遥感图像中的时空信息构建样本对。利用随着时间推移的空间对齐图像,在对比学习和地理位置中构建正时间对来设计前文本任务。可以通过构建一个包含多个季节的数据集,以便扩展到不同的季节,以获得用于遥感任务的图像级对比学习,然而,所有这些方法都必须构建结构化数据,然而构建结构化数据的过程较为复杂,因此,希望减少对数据构建的限制,由于对所需数据的特殊处理,构建大规模的自监督预训练数据具有挑战性。本申请所提出的方法不需要对数据进行特殊的处理,可以更加一般化,同时,还进行了算法的设计,其本身就使它对遥感任务更加友好,此外,本申请的方案能适应实际操作,例如,变化检测和特征分类,从而解决遥感任务中比较迫切的两种技术。
目前,在源域上对深度学习模型进行预训练,然后在目标域上对其进行微调的训练范式取得了显著的成功,与传统的端到端训练相比,自监督学习(self-supervisedlearning,简称为SSL)可以利用大量的未标记数据来获得合适的预训练模型,当来自于目标域的标记数据的数据量不足时,可以提高下游任务的性能,自我监督学习的常用接口任务包括实例识别、聚类识别等。虽然SSL方法通过更新图像级任务来获得模型,但是目前提出了某些像素级任务来学习密集表示,与假设每个图像中都有一个主要对象的假设不同,在像素上定义的任务的目标是探索每个图像中的多个对象,因此,当依赖于图像中密集内容的下游任务时,如检测、分割时,其可以表现出更好的性能,然而,目前的方法大多侧重于在传统图像级任务中观察同一图像的正对,而缺乏对不同图像之间语义相似性的探索。
本申请利用最近邻进行自监督学习,可以从图像块中引入最近邻来代替密集自监督学习的图像,但是,对像素级任务应用最近邻的挑战来源于两个方面,首先,在最近邻中可能会出现假阳性,这可能会降低性能,第二,大量的补丁使得内存库的更新过于频繁,对于此,本申请提出了一个新的框架组成的层次最近邻来应对上述的挑战,本申请中可以以像素级SSL的分层方式从最近邻获得正对,来自层次结构的集成可以减少近邻中的噪声,并获得更合适的表示;本申请提出了一种简单而有效的子模函数采样策略来有效地更新内存,并且通过本申请的上述方法还可以为每个图像探索到多个目标。
需要说明的是,对于前述的各方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本申请并不受所描述的动作顺序的限制,因为依据本申请,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作和模块并不一定是本申请所必须的。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到根据上述实施例的方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,或者网络设备等)执行本申请各个实施例的方法。
实施例2
根据本申请实施例,还提供了一种图像处理方法,需要说明的是,在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行,并且,虽然在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于此处的顺序执行所示或描述的步骤。
图4是根据本申请实施例2的一种图像处理方法的流程图,如图4所示,该方法可以包括如下步骤:
步骤S402,获取建筑物图像。
步骤S404,对建筑物图像进行划分,得到多个图像块。
步骤S406,利用特征提取模型对多个图像块进行特征提取,得到多个图像块对应的目标图像块特征。
步骤S408,基于目标图像块特征对建筑物图像进行图像处理,得到建筑物图像的处理结果。
其中,特征提取模型通过未包含标注信息的第一样本集对第一骨干网络进行自监督学习,并通过包含标注信息的第二样本集对第一骨干网络进行参数调整得到,第一骨干网络的网络参数在自监督学习过程中的是基于第一样本集中第一样本的第一图像块特征、第一样本集中所有样本的图像块特征集合、以及图像块特征集合中的目标图像块特征确定的,目标图像块特征与第一图像块特征之间的相似度满足预设条件。
通过上述步骤,首先获取建筑物图像;对建筑物图像进行划分,得到多个图像块;利用特征提取模型对多个图像块进行特征提取,得到多个图像块对应的目标图像块特征;基于目标图像块特征对建筑物图像进行图像处理,得到建筑物图像的处理结果;其中,特征提取模型通过未包含标注信息的第一样本集对第一骨干网络进行自监督学习,并通过包含标注信息的第二样本集对第一骨干网络进行参数调整得到,第一骨干网络的网络参数在自监督学习过程中的是基于第一样本集中第一样本的第一图像块特征、第一样本集中所有样本的图像块特征集合、以及图像块特征集合中的目标图像块特征确定的,目标图像块特征与第一图像块特征之间的相似度满足预设条件,实现了提高模型的自监督训练效果的目的,容易注意到的是,本申请提供了一个新的像素级任务,结合最近邻的目标图像块特征构建的损失函数对特征提取模型进行自监督训练,可以通过特征提取模型利用来自多个图像块的图像块特征集合来探索每个图像块中的不同对象对应的目标图像块特征,有效的针对每个图像块得到其最近邻的图像块特征,另外,基于图像块特征对遥感图像进行图像处理,相较于基于完整的图像对遥感图像处理可以节省内存空间,从而提高计算机的处理性能,进而解决相关技术中对模型进行自监督训练的效果较差的技术问题。
实施例3
根据本申请实施例,还提供了一种图像处理方法,需要说明的是,在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行,并且,虽然在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于此处的顺序执行所示或描述的步骤。
图5是根据本申请实施例3的一种图像处理方法的流程图,如图5所示,该方法可以包括如下步骤:
步骤S502,获取农作物图像。
步骤S504,对农作物图像进行划分,得到多个图像块。
步骤S506,利用特征提取模型对多个图像块进行特征提取,得到多个图像块对应的目标图像块特征。
步骤S508,基于目标图像块特征对农作物图像进行图像处理,得到农作物图像的处理结果。
其中,特征提取模型通过未包含标注信息的第一样本集对第一骨干网络进行自监督学习,并通过包含标注信息的第二样本集对第一骨干网络进行参数调整得到,第一骨干网络的网络参数在自监督学习过程中的是基于第一样本集中第一样本的第一图像块特征、第一样本集中所有样本的图像块特征集合、以及图像块特征集合中的目标图像块特征确定的,目标图像块特征与第一图像块特征之间的相似度满足预设条件。
通过上述步骤,获取农作物图像;对农作物图像进行划分,得到多个图像块;利用特征提取模型对多个图像块进行特征提取,得到多个图像块对应的目标图像块特征;基于目标图像块特征对农作物图像进行图像处理,得到农作物图像的处理结果;其中,特征提取模型通过未包含标注信息的第一样本集对第一骨干网络进行自监督学习,并通过包含标注信息的第二样本集对第一骨干网络进行参数调整得到,第一骨干网络的网络参数在自监督学习过程中是基于第一样本集中第一样本的第一图像块特征、第一样本集中所有样本的图像块特征集合、以及图像块特征集合中的目标图像块特征确定的,目标图像块特征与第一图像块特征之间的相似度满足预设条件,目标图像块特征与第一图像块特征之间的相似度满足预设条件,实现了提高模型的自监督训练效果的目的,容易注意到的是,本申请提供了一个新的像素级任务,结合最近邻的目标图像块特征构建的损失函数对特征提取模型进行自监督训练,可以通过特征提取模型利用来自多个图像块的图像块特征集合来探索每个图像块中的不同对象对应的目标图像块特征,有效的针对每个图像块得到其最近邻的图像块特征,另外,基于图像块特征对遥感图像进行图像处理,相较于基于完整的图像对遥感图像处理可以节省内存空间,从而提高计算机的处理性能,进而解决相关技术中对模型进行自监督训练的效果较差的技术问题。
实施例4
根据本申请实施例,还提供了一种模型训练方法,需要说明的是,在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行,并且,虽然在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于此处的顺序执行所示或描述的步骤。
图6是根据本申请实施例4的一种模型训练方法的流程图,如图6所示,该方法可以包括如下步骤:
步骤S602,获取未包含标注信息的第一样本集和包含标注信息的第二样本集。
步骤S604,利用第一样本集对第一骨干网络进行自监督学习,得到预训练模型。
其中,第一骨干网络的网络参数在自监督学习过程中的是基于第一样本集中第一样本的第一图像块特征、第一样本集中所有样本的图像块特征集合、以及图像块特征集合中的目标图像块特征确定的,目标图像块特征与第一图像块特征之间的相似度满足预设条件。
步骤S606,利用第二样本集对预训练模型的模型参数进行参数调整,得到特征提取模型。
其中,特征提取模型用于对遥感图像包含的多个图像块进行特征提取。
通过上述步骤,获取未包含标注信息的第一样本集和包含标注信息的第二样本集;利用第一样本集对第一骨干网络进行自监督学习,得到预训练模型,第一骨干网络的网络参数在自监督学习过程中的是基于第一样本集中第一样本的第一图像块特征、第一样本集中所有样本的图像块特征集合、以及图像块特征集合中的目标图像块特征确定的,目标图像块特征与第一图像块特征之间的相似度满足预设条件;利用第二样本集对预训练模型的模型参数进行参数调整,得到特征提取模型,其中,特征提取模型用于对遥感图像包含的多个图像块进行特征提取,实现了提高模型的自监督训练效果的目的,容易注意到的是,本申请提供了一个新的像素级任务,结合最近邻的目标图像块特征构建的损失函数对特征提取模型进行自监督训练,可以通过特征提取模型利用来自多个图像块的图像块特征集合来探索每个图像块中的不同对象对应的目标图像块特征,有效的针对每个图像块得到其最近邻的图像块特征,另外,基于图像块特征对遥感图像进行图像处理,相较于基于完整的图像对遥感图像处理可以节省内存空间,从而提高计算机的处理性能,进而解决相关技术中对模型进行自监督训练的效果较差的技术问题。
实施例5
根据本申请实施例,还提供了一种图像处理方法,需要说明的是,在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行,并且,虽然在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于此处的顺序执行所示或描述的步骤。
图7是根据本申请实施例5的一种图像处理方法的流程图,如图7所示,该方法可以包括如下步骤:
步骤S702,响应作用于操作界面上的输入指令,在操作界面上显示监测到的遥感图像。
步骤S704,响应作用于操作界面上的识别指令,在操作界面上显示遥感图像的处理结果。
其中,处理结果基于遥感图像包含的多个图像块对应的目标图像块特征对遥感图像进行图像处理得到,目标图像块特征通过特征提取模型对多个图像块进行特征提取得到,多个图像块通过对遥感图像进行划分得到,特征提取模型通过未包含标注信息的第一样本集对第一骨干网络进行自监督学习,并通过包含标注信息的第二样本集对第一骨干网络进行参数调整得到,第一骨干网络的网络参数在自监督学习过程中的是基于第一样本集中第一样本的第一图像块特征、第一样本集中所有样本的图像块特征集合、以及图像块特征集合中的目标图像块特征确定的,目标图像块特征与第一图像块特征之间的相似度满足预设条件。
通过上述步骤,响应作用于操作界面上的输入指令,在操作界面上显示监测到的遥感图像;响应作用于操作界面上的识别指令,在操作界面上显示遥感图像的处理结果,其中,处理结果基于遥感图像包含的多个图像块对应的目标图像块特征对遥感图像进行图像处理得到,目标图像块特征通过特征提取模型对多个图像块进行特征提取得到,多个图像块通过对遥感图像进行划分得到,特征提取模型通过未包含标注信息的第一样本集对第一骨干网络进行自监督学习,并通过包含标注信息的第二样本集对第一骨干网络进行参数调整得到,第一骨干网络的网络参数在自监督学习过程中的是基于第一样本集中第一样本的第一图像块特征、第一样本集中所有样本的图像块特征集合、以及图像块特征集合中的目标图像块特征确定的,目标图像块特征与第一图像块特征之间的相似度满足预设条件,实现了提高模型的自监督训练效果的目的,容易注意到的是,本申请提供了一个新的像素级任务,结合最近邻的目标图像块特征构建的损失函数对特征提取模型进行自监督训练,可以通过特征提取模型利用来自多个图像块的图像块特征集合来探索每个图像块中的不同对象对应的目标图像块特征,有效的针对每个图像块得到其最近邻的图像块特征,另外,基于图像块特征对遥感图像进行图像处理,相较于基于完整的图像对遥感图像处理可以节省内存空间,从而提高计算机的处理性能,进而解决相关技术中对模型进行自监督训练的效果较差的技术问题。
实施例6
根据本申请实施例,还提供了一种图像处理方法,需要说明的是,在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行,并且,虽然在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于此处的顺序执行所示或描述的步骤。
图8是根据本申请实施例6的一种图像处理方法的流程图,如图8所示,该方法可以包括如下步骤:
步骤S802,通过调用第一接口获取遥感图像。
其中,第一接口包括第一参数,第一参数的参数值为遥感图像。
上述的第一接口可以是服务器对应的接口。
步骤S804,对遥感图像进行划分,得到多个图像块。
步骤S806,利用特征提取模型对多个图像块进行特征提取,得到多个图像块对应的目标图像块特征。
步骤S808,基于目标图像块特征对遥感图像进行图像处理,得到遥感图像的处理结果。
步骤S810,通过调用第二接口输出处理结果。
其中,第二接口包括第二参数,第二参数的参数值为处理结果。
其中,特征提取模型通过未包含标注信息的第一样本集对第一骨干网络进行自监督学习,并通过包含标注信息的第二样本集对第一骨干网络进行参数调整得到,第一骨干网络的网络参数在自监督学习过程中的是基于第一样本集中第一样本的第一图像块特征、第一样本集中所有样本的图像块特征集合、以及图像块特征集合中的目标图像块特征确定的,目标图像块特征与第一图像块特征之间的相似度满足预设条件。
上述的第二接口可以为客户端对应的接口。
通过上述步骤,通过调用第一接口获取遥感图像,其中,第一接口包括第一参数,第一参数的参数值为遥感图像;对遥感图像进行划分,得到多个图像块;利用特征提取模型对多个图像块进行特征提取,得到多个图像块对应的目标图像块特征;基于目标图像块特征对遥感图像进行图像处理,得到遥感图像的处理结果;通过调用第二接口输出处理结果,其中,第二接口包括第二参数,第二参数的参数值为处理结果;其中,特征提取模型通过未包含标注信息的第一样本集对第一骨干网络进行自监督学习,并通过包含标注信息的第二样本集对第一骨干网络进行参数调整得到,第一骨干网络的网络参数在自监督学习过程中的是基于第一样本集中第一样本的第一图像块特征、第一样本集中所有样本的图像块特征集合、以及图像块特征集合中的目标图像块特征确定的,目标图像块特征与第一图像块特征之间的相似度满足预设条件,实现了提高模型的自监督训练效果的目的,容易注意到的是,本申请提供了一个新的像素级任务,结合最近邻的目标图像块特征构建的损失函数对特征提取模型进行自监督训练,可以通过特征提取模型利用来自多个图像块的图像块特征集合来探索每个图像块中的不同对象对应的目标图像块特征,有效的针对每个图像块得到其最近邻的图像块特征,另外,基于图像块特征对遥感图像进行图像处理,相较于基于完整的图像对遥感图像处理可以节省内存空间,从而提高计算机的处理性能,进而解决相关技术中对模型进行自监督训练的效果较差的技术问题。
实施例7
根据本申请实施例,还提供了一种用于实施上述图像处理方法对应的图像处理装置,图9是根据本申请实施例7的一种图像处理装置的示意图,如图9所示,该装置900包括:获取模块902、划分模块904、提取模块906、处理模块908。
其中,获取模块用于获取遥感图像;划分模块用于对遥感图像进行划分,得到多个图像块;提取模块用于利用特征提取模型对多个图像块进行特征提取,得到多个图像块对应的目标图像块特征;处理模块用于基于目标图像块特征对遥感图像进行图像处理,得到遥感图像的处理结果;其中,特征提取模型通过未包含标注信息的第一样本集对第一骨干网络进行自监督学习,并通过包含标注信息的第二样本集对第一骨干网络进行参数调整得到,第一骨干网络的网络参数在自监督学习过程中的是基于第一样本集中第一样本的第一图像块特征、第一样本集中所有样本的图像块特征集合、以及图像块特征集合中的目标图像块特征确定的,目标图像块特征与第一图像块特征之间的相似度满足预设条件。
此处需要说明的是,上述获取模块902、划分模块904、提取模块906、处理模块908对应于实施例1中的步骤S202至步骤S208,四个模块与对应的步骤所实现的实例和应用场景相同,但不限于上述实施例1所公开的内容。需要说明的是,上述模块作为装置的一部分可以运行在实施例1提供的计算机终端中。
本申请上述实施例中,该装置还包括:存储模块。
其中,存储模块用于将图像块特征集合中的预设图像块特征存储至内存中;获取模块还用于基于第一图像块特征,从内存中获取原始图像块特征,其中,原始图像块特征与第一图像块特征之间的第一相似度大于第一其他特征与第一图像块特征之间的第一相似度,第一其他特征为内存中除原始图像块特征之外的图像块特征;获取模块还用于基于原始图像块特征,从内存中获取目标图像块特征,其中,目标图像块特征与原始图像块特征之间的第二相似度大于第二其他特征与原始图像块特征之间的第二相似度,第二其他特征为内存中除目标图像块特征之外的图像块特征。
本申请上述实施例中,获取模块还用于获取图像块特征集合中任意两个图像块特征之间的相似度;获取模块还用于基于任意两个图像块特征之间的相似度,从任意两个图像块特征中获取预设图像块特征。
本申请上述实施例中,获取模块还用于基于任意两个图像块特征之间的相似度,生成子模函数;获取模块还用于对子模函数进行求解,确定预设图像块特征。
本申请上述实施例中,该装置还包括:语义分割模块、检测模块。
其中,语义分割模块用于基于目标图像块特征对遥感图像进行语义分割,得到处理结果,其中,处理结果用于表征遥感图像中每个像素所属对象的类型;检测模块用于基于目标图像块特征对遥感图像中的目标区域进行变化检测,得到处理结果,其中,处理结果用于表征目标区域是否发生变化。
本申请上述实施例中,获取模块还用于确定内存中至少一个图像块特征与第一图像块特征之间的第一相似度;获取模块还用于按照第一相似度从大到小的顺序对至少一个图像块特征进行排序,得到排序后的图像块特征;获取模块还用于获取排序后的图像块特征中排名靠前的预设数量的图像块特征,得到原始图像块特征。
本申请上述实施例中,该装置还包括:增强模块、划分模块、汇总模块。
其中,增强模块用于对第一样本集中所有样本进行图像增强,得到第一增强图像集合和第二增强图像集合;划分模块用于分别对第一增强图像集合和第二增强图像集合进行划分,得到第一图像块集合和第二图像块集合;提取模块还用于利用第一骨干网络对第一图像块集合中的第一图像块进行特征提取,得到第一特征集合,并利用第二骨干网络对第二图像块集合中的第二图像块进行特征提取,得到第二特征集合,其中,第二骨干网络通过对第一骨干网络的网络参数进行调整得到;汇总模块用于对第一特征集合和第二特征集合进行汇总,得到图像块特征集合。
本申请上述实施例中,提取模块还用于利用第一骨干网络对第一图像块进行特征提取,得到第一图像块的第一初始特征;提取模块还用于利用第二骨干网络对第二图像块进行特征提取,得到第二图像块的第二初始特征;提取模块还用于利用第一投影头模型对第一初始特征进行特征融合,得到第一特征集合;提取模块还用于利用第二投影头模型对第二初始特征进行特征融合,得到第二特征集合,其中,第二投影头模型对通过对第一投影头模型对的网络参数进行调整得到。
本申请上述实施例中,该装置还包括:确定模块、输出模块。
其中,确定模块用于基于处理结果,确定遥感图像中每个像素的输出方式;输出模块用于按照每个像素的输出方式,输出遥感图像。
本申请上述实施例中,该装置还包括:输出模块。
其中,确定模块用于确定目标区域发生变化的目标原因;基于目标原因生成提示信息;输出模块用于输出遥感图像,并在目标区域的显示位置上输出处理结果和提示信息。
本申请上述实施例中,该装置还包括:第一接收模块、调整模块。
其中,第一接收模块用于接收处理结果对应的反馈信息,其中,反馈信息用于对处理结果进行修改;调整模块用于基于反馈信息对特征提取模型的模型参数进行调整。
本申请上述实施例中,该装置还包括:第一输出模块、第二接收模块。
其中,第一输出模块用于输出至少一个初始骨干网络;第二接收模块用于接收对至少一个初始骨干网络进行选择的第一选择指令,确定第一选择指令对应的初始骨干网络为第一骨干网络。
本申请上述实施例中,该装置还包括:第二输出模块、第三接收模块、训练模块。
其中,第二输出模块用于输出至少一种训练方式,其中,至少一种训练方式用于对第一骨干网络进行训练;第三接收模块用于接收对至少一种训练方式进行选择的第二选择指令,确定第二选择指令对应的目标训练方式;训练模块用于在接收到第二样本集的情况下,利用第二样本集按照目标训练方式对第一骨干网络进行训练,得到特征提取模型。
需要说明的是,本申请上述实施例中涉及到的优选实施方案与实施例1提供的方案以及应用场景、实施过程相同,但不仅限于实施例1所提供的方案。
实施例8
根据本申请实施例,还提供了一种用于实施上述图像处理方法对应的图像处理装置,图10是根据本申请实施例8的一种图像处理装置的示意图,如图10所示,该装置1000包括:获取模块1002、划分模块1004、提取模块1006、处理模块1008。
其中,获取模块用于获取建筑物图像;划分模块用于对建筑物图像进行划分,得到多个图像块;提取模块用于利用特征提取模型对多个图像块进行特征提取,得到多个图像块对应的目标图像块特征;处理模块用于基于目标图像块特征对建筑物图像进行图像处理,得到建筑物图像的处理结果;其中,特征提取模型通过未包含标注信息的第一样本集对第一骨干网络进行自监督学习,并通过包含标注信息的第二样本集对第一骨干网络进行参数调整得到,第一骨干网络的网络参数在自监督学习过程中是基于第一样本集中第一样本的第一图像块特征、第一样本集中所有样本的图像块特征集合、以及图像块特征集合中的目标图像块特征确定的,目标图像块特征与第一图像块特征之间的相似度满足预设条件。
此处需要说明的是,上述获取模块1002、划分模块1004、提取模块1006、处理模块1008对应于实施例2中的步骤S402至步骤S408,四个模块与对应的步骤所实现的实例和应用场景相同,但不限于上述实施例1所公开的内容。需要说明的是,上述模块作为装置的一部分可以运行在实施例1提供的计算机终端中。
需要说明的是,本申请上述实施例中涉及到的优选实施方案与实施例1提供的方案以及应用场景、实施过程相同,但不仅限于实施例1所提供的方案。
实施例9
根据本申请实施例,还提供了一种用于实施上述图像处理方法对应的图像处理装置,图11是根据本申请实施例9的一种图像处理装置的示意图,如图11所示,该装置1100包括:获取模块1102、划分模块1104、提取模块1106、处理模块1108。
其中,获取模块用于获取农作物图像;划分模块用于对农作物图像进行划分,得到多个图像块;提取模块用于利用特征提取模型对多个图像块进行特征提取,得到多个图像块对应的目标图像块特征;处理模块用于基于目标图像块特征对农作物图像进行图像处理,得到农作物图像的处理结果;其中,特征提取模型通过未包含标注信息的第一样本集对第一骨干网络进行自监督学习,并通过包含标注信息的第二样本集对第一骨干网络进行参数调整得到,第一骨干网络的网络参数在自监督学习过程中是基于第一样本集中第一样本的第一图像块特征、第一样本集中所有样本的图像块特征集合、以及图像块特征集合中的目标图像块特征确定的,目标图像块特征与第一图像块特征之间的相似度满足预设条件。
此处需要说明的是,上述获取模块1102、划分模块1104、提取模块1106、处理模块1108对应于实施例3中的步骤S502至步骤S508,四个模块与对应的步骤所实现的实例和应用场景相同,但不限于上述实施例1所公开的内容。需要说明的是,上述模块作为装置的一部分可以运行在实施例1提供的计算机终端中。
需要说明的是,本申请上述实施例中涉及到的优选实施方案与实施例1提供的方案以及应用场景、实施过程相同,但不仅限于实施例1所提供的方案。
实施例10
根据本申请实施例,还提供了一种用于实施上述模型训练方法对应的模型训练装置,图12是根据本申请实施例10的一种模型训练装置的示意图,如图12所示,该装置1200包括:获取模块1202、监督模块1204、调整模块1206。
其中,获取模块用于获取未包含标注信息的第一样本集和包含标注信息的第二样本集;监督模块用于利用第一样本集对第一骨干网络进行自监督学习,得到预训练模型,第一骨干网络的网络参数是基于第一样本集中第一样本的第一图像块特征、第一样本集中所有样本的图像块特征集合、以及图像块特征集合中的目标图像块特征确定的,目标图像块特征与第一图像块特征之间的相似度满足预设条件;调整模块用于利用第二样本集对预训练模型的模型参数进行参数调整,得到特征提取模型,其中,特征提取模型用于对遥感图像包含的多个图像块进行特征提取。
此处需要说明的是,上述获取模块1202、监督模块1204、调整模块1206对应于实施例4中的步骤S602至步骤S606,三个模块与对应的步骤所实现的实例和应用场景相同,但不限于上述实施例1所公开的内容。需要说明的是,上述模块作为装置的一部分可以运行在实施例1提供的计算机终端中。
需要说明的是,本申请上述实施例中涉及到的优选实施方案与实施例1提供的方案以及应用场景、实施过程相同,但不仅限于实施例1所提供的方案。
实施例11
根据本申请实施例,还提供了一种用于实施上述图像处理方法对应的图像处理装置,图13是根据本申请实施例11的一种图像处理装置的示意图,如图13所示,该装置1300包括:第一显示模块1302、第二显示模块1304。
其中,第一显示模块用于响应作用于操作界面上的输入指令,在操作界面上显示监测到的遥感图像;第二显示模块用于响应作用于操作界面上的识别指令,在操作界面上显示遥感图像的处理结果,其中,处理结果基于遥感图像包含的多个图像块对应的目标图像块特征对遥感图像进行图像处理得到,目标图像块特征通过特征提取模型对多个图像块进行特征提取得到,多个图像块通过对遥感图像进行划分得到,特征提取模型通过未包含标注信息的第一样本集对第一骨干网络进行自监督学习,并通过包含标注信息的第二样本集对第一骨干网络进行参数调整得到,第一骨干网络的网络参数在自监督学习过程中是基于第一样本集中第一样本的第一图像块特征、第一样本集中所有样本的图像块特征集合、以及图像块特征集合中的目标图像块特征确定的,目标图像块特征与第一图像块特征之间的相似度满足预设条件。
此处需要说明的是,上述第一显示模块1302、第二显示模块1304对应于实施例5中的步骤S702至步骤S704,两个模块与对应的步骤所实现的实例和应用场景相同,但不限于上述实施例1所公开的内容。需要说明的是,上述模块作为装置的一部分可以运行在实施例1提供的计算机终端中。
需要说明的是,本申请上述实施例中涉及到的优选实施方案与实施例1提供的方案以及应用场景、实施过程相同,但不仅限于实施例1所提供的方案。
实施例12
根据本申请实施例,还提供了一种用于实施上述图像处理方法对应的图像处理装置,图14是根据本申请实施例12的一种图像处理装置的示意图,如图14所示,该装置1400包括:获取模块1402、划分模块1404、提取模块1406、处理模块1408、输出模块1410。
其中,获取模块用于通过调用第一接口获取遥感图像,其中,第一接口包括第一参数,第一参数的参数值为遥感图像;划分模块用于对遥感图像进行划分,得到多个图像块;提取模块用于利用特征提取模型对多个图像块进行特征提取,得到多个图像块对应的目标图像块特征;处理模块用于基于目标图像块特征对遥感图像进行图像处理,得到遥感图像的处理结果;输出模块用于通过调用第二接口输出处理结果,其中,第二接口包括第二参数,第二参数的参数值为处理结果;其中,特征提取模型通过未包含标注信息的第一样本集对第一骨干网络进行自监督学习,并通过包含标注信息的第二样本集对第一骨干网络进行参数调整得到,第一骨干网络的网络参数在自监督学习过程中是基于第一样本集中第一样本的第一图像块特征、第一样本集中所有样本的图像块特征集合、以及图像块特征集合中的目标图像块特征确定的,目标图像块特征与第一图像块特征之间的相似度满足预设条件。
此处需要说明的是,上述获取模块1402、划分模块1404、提取模块1406、处理模块1408、输出模块1410对应于实施例6中的步骤S802至步骤S810,五个模块与对应的步骤所实现的实例和应用场景相同,但不限于上述实施例1所公开的内容。需要说明的是,上述模块作为装置的一部分可以运行在实施例1提供的计算机终端中。
需要说明的是,本申请上述实施例中涉及到的优选实施方案与实施例1提供的方案以及应用场景、实施过程相同,但不仅限于实施例1所提供的方案。
实施例13
本申请的实施例可以提供一种电子设备,该电子设备可以为计算机终端,该计算机终端可以是计算机终端群中的任意一个计算机终端设备。可选地,在本实施例中,上述计算机终端也可以替换为移动终端等终端设备。
可选地,在本实施例中,上述计算机终端可以位于计算机网络的多个网络设备中的至少一个网络设备。
在本实施例中,上述计算机终端可以执行图像处理方法中以下步骤的程序代码:获取遥感图像;对遥感图像进行划分,得到多个图像块;利用特征提取模型对多个图像块进行特征提取,得到多个图像块对应的目标图像块特征;基于目标图像块特征对遥感图像进行图像处理,得到遥感图像的处理结果;其中,特征提取模型通过未包含标注信息的第一样本集对第一骨干网络进行自监督学习,并通过包含标注信息的第二样本集对第一骨干网络进行参数调整得到,第一骨干网络的网络参数在自监督学习过程中是基于第一样本集中第一样本的第一图像块特征、第一样本集中所有样本的图像块特征集合、以及图像块特征集合中的目标图像块特征确定的,目标图像块特征与第一图像块特征之间的相似度满足预设条件。
可选地,图15是根据本申请实施例的一种计算机终端的结构框图。如图15所示,该计算机终端A可以包括:一个或多个(图中仅示出一个)处理器102、存储器104、存储控制器、以及外设接口,其中,外设接口与射频模块、音频模块和显示器连接。
其中,存储器可用于存储软件程序以及模块,如本申请实施例中的图像处理方法和装置对应的程序指令/模块,处理器通过运行存储在存储器内的软件程序以及模块,从而执行各种功能应用以及数据处理,即实现上述的图像处理方法。存储器可包括高速随机存储器,还可以包括非易失性存储器,如一个或者多个磁性存储装置、闪存、或者其他非易失性固态存储器。在一些实例中,存储器可进一步包括相对于处理器远程设置的存储器,这些远程存储器可以通过网络连接至终端A。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
处理器可以通过传输装置调用存储器存储的信息及应用程序,以执行下述步骤:获取遥感图像;对遥感图像进行划分,得到多个图像块;利用特征提取模型对多个图像块进行特征提取,得到多个图像块对应的目标图像块特征;基于目标图像块特征对遥感图像进行图像处理,得到遥感图像的处理结果;其中,特征提取模型通过未包含标注信息的第一样本集对第一骨干网络进行自监督学习,并通过包含标注信息的第二样本集对第一骨干网络进行参数调整得到,第一骨干网络的网络参数在自监督学习过程中是基于第一样本集中第一样本的第一图像块特征、第一样本集中所有样本的图像块特征集合、以及图像块特征集合中的目标图像块特征确定的,目标图像块特征与第一图像块特征之间的相似度满足预设条件。
可选的,上述处理器还可以执行如下步骤的程序代码:将图像块特征集合中的预设图像块特征存储至内存中;基于第一图像块特征,从内存中获取原始图像块特征,其中,原始图像块特征与第一图像块特征之间的第一相似度大于第一其他特征与第一图像块特征之间的第一相似度,第一其他特征为内存中除原始图像块特征之外的图像块特征;基于原始图像块特征,从内存中获取目标图像块特征,其中,目标图像块特征与原始图像块特征之间的第二相似度大于第二其他特征与原始图像块特征之间的第二相似度,第二其他特征为内存中除目标图像块特征之外的图像块特征。
可选的,上述处理器还可以执行如下步骤的程序代码:获取图像块特征集合中任意两个图像块特征之间的相似度;基于任意两个图像块特征之间的相似度,从任意两个图像块特征中获取预设图像块特征。
可选的,上述处理器还可以执行如下步骤的程序代码:基于任意两个图像块特征之间的相似度,生成子模函数;对子模函数进行求解,确定预设图像块特征。
可选的,上述处理器还可以执行如下步骤的程序代码:确定内存中至少一个图像块特征与第一图像块特征之间的第一相似度;按照第一相似度从大到小的顺序对至少一个图像块特征进行排序,得到排序后的图像块特征;获取排序后的图像块特征中排名靠前的预设数量的图像块特征,得到原始图像块特征。
可选的,上述处理器还可以执行如下步骤的程序代码:对第一样本集中所有样本进行图像增强,得到第一增强图像集合和第二增强图像集合;分别对第一增强图像集合和第二增强图像集合进行划分,得到第一图像块集合和第二图像块集合;利用第一骨干网络对第一图像块集合中的第一图像块进行特征提取,得到第一特征集合,并利用第二骨干网络对第二图像块集合中的第二图像块进行特征提取,得到第二特征集合,其中,第二骨干网络通过对第一骨干网络的网络参数进行调整得到;对第一特征集合和第二特征集合进行汇总,得到图像块特征集合。
可选的,上述处理器还可以执行如下步骤的程序代码:利用第一骨干网络对第一图像块进行特征提取,得到第一图像块的第一初始特征;利用第二骨干网络对第二图像块进行特征提取,得到第二图像块的第二初始特征;利用第一投影头模型对第一初始特征进行特征融合,得到第一特征集合;利用第二投影头模型对第二初始特征进行特征融合,得到第二特征集合,其中,第二投影头模型通过对第一投影头模型的网络参数进行调整得到。
可选的,上述处理器还可以执行如下步骤的程序代码:基于目标图像块特征对遥感图像进行语义分割,得到处理结果,其中,处理结果用于表征遥感图像中每个像素所属对象的类型;基于目标图像块特征对遥感图像中的目标区域进行变化检测,得到处理结果,其中,处理结果用于表征目标区域是否发生变化。
可选的,上述处理器还可以执行如下步骤的程序代码:基于处理结果,确定遥感图像中每个像素的输出方式;按照每个像素的输出方式,输出遥感图像。
可选的,上述处理器还可以执行如下步骤的程序代码:确定目标区域发生变化的目标原因;基于目标原因生成提示信息;输出遥感图像,并在目标区域的显示位置上输出处理结果和提示信息。
可选的,上述处理器还可以执行如下步骤的程序代码:接收处理结果对应的反馈信息,其中,反馈信息用于对处理结果进行修改;基于反馈信息对特征提取模型的模型参数进行调整。
可选的,上述处理器还可以执行如下步骤的程序代码:输出至少一个初始骨干网络;接收对至少一个初始骨干网络进行选择的第一选择指令,确定第一选择指令对应的初始骨干网络为第一骨干网络。
可选的,上述处理器还可以执行如下步骤的程序代码:输出至少一种训练方式,其中,至少一种训练方式用于对第一骨干网络进行训练;接收对至少一种训练方式进行选择的第二选择指令,确定第二选择指令对应的目标训练方式;在接收到第二样本集的情况下,利用第二样本集按照目标训练方式对第一骨干网络进行训练,得到特征提取模型。
处理器可以通过传输装置调用存储器存储的信息及应用程序,以执行下述步骤:获取建筑物图像;对建筑物图像进行划分,得到多个图像块;利用特征提取模型对多个图像块进行特征提取,得到多个图像块对应的目标图像块特征;基于目标图像块特征对建筑物图像进行图像处理,得到建筑物图像的处理结果;其中,特征提取模型通过未包含标注信息的第一样本集对第一骨干网络进行自监督学习,并通过包含标注信息的第二样本集对第一骨干网络进行参数调整得到,第一骨干网络的网络参数在自监督学习过程中是基于第一样本集中第一样本的第一图像块特征、第一样本集中所有样本的图像块特征集合、以及图像块特征集合中的目标图像块特征确定的,目标图像块特征与第一图像块特征之间的相似度满足预设条件。
处理器可以通过传输装置调用存储器存储的信息及应用程序,以执行下述步骤:获取农作物图像;对农作物图像进行划分,得到多个图像块;利用特征提取模型对多个图像块进行特征提取,得到多个图像块对应的目标图像块特征;基于目标图像块特征对农作物图像进行图像处理,得到农作物图像的处理结果;其中,特征提取模型通过未包含标注信息的第一样本集对第一骨干网络进行自监督学习,并通过包含标注信息的第二样本集对第一骨干网络进行参数调整得到,第一骨干网络的网络参数在自监督学习过程中是基于第一样本集中第一样本的第一图像块特征、第一样本集中所有样本的图像块特征集合、以及图像块特征集合中的目标图像块特征确定的,目标图像块特征与第一图像块特征之间的相似度满足预设条件。
处理器可以通过传输装置调用存储器存储的信息及应用程序,以执行下述步骤:获取未包含标注信息的第一样本集和包含标注信息的第二样本集;利用第一样本集对第一骨干网络进行自监督学习,得到预训练模型,第一骨干网络的网络参数是基于第一样本集中第一样本的第一图像块特征、第一样本集中所有样本的图像块特征集合、以及图像块特征集合中的目标图像块特征确定的,目标图像块特征与第一图像块特征之间的相似度满足预设条件;利用第二样本集对预训练模型的模型参数进行参数调整,得到特征提取模型,其中,特征提取模型用于对遥感图像包含的多个图像块进行特征提取。
处理器可以通过传输装置调用存储器存储的信息及应用程序,以执行下述步骤:响应作用于操作界面上的输入指令,在操作界面上显示监测到的遥感图像;响应作用于操作界面上的识别指令,在操作界面上显示遥感图像的处理结果,其中,处理结果基于遥感图像包含的多个图像块对应的目标图像块特征对遥感图像进行图像处理得到,目标图像块特征通过特征提取模型对多个图像块进行特征提取得到,多个图像块通过对遥感图像进行划分得到,特征提取模型通过未包含标注信息的第一样本集对第一骨干网络进行自监督学习,并通过包含标注信息的第二样本集对第一骨干网络进行参数调整得到,第一骨干网络的网络参数在自监督学习过程中是基于第一样本集中第一样本的第一图像块特征、第一样本集中所有样本的图像块特征集合、以及图像块特征集合中的目标图像块特征确定的,目标图像块特征与第一图像块特征之间的相似度满足预设条件。
处理器可以通过传输装置调用存储器存储的信息及应用程序,以执行下述步骤:通过调用第一接口获取遥感图像,其中,第一接口包括第一参数,第一参数的参数值为遥感图像;对遥感图像进行划分,得到多个图像块;利用特征提取模型对多个图像块进行特征提取,得到多个图像块对应的目标图像块特征;基于目标图像块特征对遥感图像进行图像处理,得到遥感图像的处理结果;通过调用第二接口输出处理结果,其中,第二接口包括第二参数,第二参数的参数值为处理结果;其中,特征提取模型通过未包含标注信息的第一样本集对第一骨干网络进行自监督学习,并通过包含标注信息的第二样本集对第一骨干网络进行参数调整得到,第一骨干网络的网络参数在自监督学习过程中是基于第一样本集中第一样本的第一图像块特征、第一样本集中所有样本的图像块特征集合、以及图像块特征集合中的目标图像块特征确定的,目标图像块特征与第一图像块特征之间的相似度满足预设条件。
通过上述步骤,首先,获取遥感图像;对遥感图像进行划分,得到多个图像块;利用特征提取模型对多个图像块进行特征提取,得到多个图像块对应的目标图像块特征;基于目标图像块特征对遥感图像进行图像处理,得到遥感图像的处理结果,其中,特征提取模型通过未包含标注信息的第一样本集对第一骨干网络进行自监督学习,并通过包含标注信息的第二样本集对第一骨干网络进行参数调整得到,第一骨干网络的网络参数在自监督学习过程中是基于第一样本集中第一样本的第一图像块特征、第一样本集中所有样本的图像块特征集合、以及图像块特征集合中的目标图像块特征确定的,目标图像块特征与第一图像块特征之间的相似度满足预设条件,实现了提高模型的自监督训练效果的目的,容易注意到的是,本申请提供了一个新的像素级任务,结合最近邻的目标图像块特征构建的损失函数对特征提取模型进行自监督训练,可以通过特征提取模型利用来自多个图像块的图像块特征集合来探索每个图像块中的不同对象对应的目标图像块特征,有效的针对每个图像块得到其最近邻的图像块特征,另外,基于图像块特征对遥感图像进行图像处理,相较于基于完整的图像对遥感图像处理可以节省内存空间,从而提高计算机的处理性能,进而解决相关技术中对模型进行自监督训练的效果较差的技术问题。
本领域普通技术人员可以理解,图15所示的结构仅为示意,计算机终端也可以是智能手机(如Android手机、iOS手机等)、平板电脑、掌上电脑以及移动互联网设备(MobileInternet Devices,MID)、PAD等终端设备。图15其并不对上述电子装置的结构造成限定。例如,计算机终端A还可包括比图15中所示更多或者更少的组件(如网络接口、显示装置等),或者具有与图15所示不同的配置。
本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过程序来指令终端设备相关的硬件来完成,该程序可以存储于一计算机可读存储介质中,存储介质可以包括:闪存盘、只读存储器(Read-Only Memory,ROM)、随机存取器(RandomAccess Memory,RAM)、磁盘或光盘等。
实施例14
本申请的实施例还提供了一种计算机可读存储介质。可选地,在本实施例中,上述存储介质可以用于保存上述实施例一所提供的图像处理方法所执行的程序代码。
可选地,在本实施例中,上述存储介质可以位于计算机网络中计算机终端群中的任意一个计算机终端中,或者位于移动终端群中的任意一个移动终端中。
可选地,在本实施例中,存储介质被设置为存储用于执行以下步骤的程序代码:获取遥感图像;对遥感图像进行划分,得到多个图像块;利用特征提取模型对多个图像块进行特征提取,得到多个图像块对应的目标图像块特征;基于目标图像块特征对遥感图像进行图像处理,得到遥感图像的处理结果;其中,特征提取模型通过未包含标注信息的第一样本集对第一骨干网络进行自监督学习,并通过包含标注信息的第二样本集对第一骨干网络进行参数调整得到,第一骨干网络的网络参数在自监督学习过程中是基于第一样本集中第一样本的第一图像块特征、第一样本集中所有样本的图像块特征集合、以及图像块特征集合中的目标图像块特征确定的,目标图像块特征与第一图像块特征之间的相似度满足预设条件。
可选地,上述存储介质还被设置为存储用于执行以下步骤的程序代码:将图像块特征集合中的预设图像块特征存储至内存中;基于第一图像块特征,从内存中获取原始图像块特征,其中,原始图像块特征与第一图像块特征之间的第一相似度大于第一其他特征与第一图像块特征之间的第一相似度,第一其他特征为内存中除原始图像块特征之外的图像块特征;基于原始图像块特征,从内存中获取目标图像块特征,其中,目标图像块特征与原始图像块特征之间的第二相似度大于第二其他特征与原始图像块特征之间的第二相似度,第二其他特征为内存中除目标图像块特征之外的图像块特征。
可选地,上述存储介质还被设置为存储用于执行以下步骤的程序代码:获取图像块特征集合中任意两个图像块特征之间的相似度;基于任意两个图像块特征之间的相似度,从任意两个图像块特征中获取预设图像块特征。
可选地,上述存储介质还被设置为存储用于执行以下步骤的程序代码:基于任意两个图像块特征之间的相似度,生成子模函数;对子模函数进行求解,确定预设图像块特征。
可选地,上述存储介质还被设置为存储用于执行以下步骤的程序代码:确定内存中至少一个图像块特征与第一图像块特征之间的第一相似度;按照第一相似度从大到小的顺序对至少一个图像块特征进行排序,得到排序后的图像块特征;获取排序后的图像块特征中排名靠前的预设数量的图像块特征,得到原始图像块特征。
可选地,上述存储介质还被设置为存储用于执行以下步骤的程序代码:对第一样本集中所有样本进行图像增强,得到第一增强图像集合和第二增强图像集合;分别对第一增强图像集合和第二增强图像集合进行划分,得到第一图像块集合和第二图像块集合;利用第一骨干网络对第一图像块集合中的第一图像块进行特征提取,得到第一特征集合,并利用第二骨干网络对第二图像块集合中的第二图像块进行特征提取,得到第二特征集合,其中,第二骨干网络通过对第一骨干网络的网络参数进行调整得到;对第一特征集合和第二特征集合进行汇总,得到图像块特征集合。
可选地,上述存储介质还被设置为存储用于执行以下步骤的程序代码:利用第一骨干网络对第一图像块进行特征提取,得到第一图像块的第一初始特征;利用第二骨干网络对第二图像块进行特征提取,得到第二图像块的第二初始特征;利用第一投影头模型对第一初始特征进行特征融合,得到第一特征集合;利用第二投影头模型对第二初始特征进行特征融合,得到第二特征集合,其中,第二投影头模型通过对第一投影头模型的网络参数进行调整得到。
可选地,上述存储介质还被设置为存储用于执行以下步骤的程序代码:对遥感图像进行语义分割,得到处理结果,其中,处理结果用于表征遥感图像中每个像素所属对象的类型;基于目标图像块特征对遥感图像中的目标区域进行变化检测,得到处理结果,其中,处理结果用于表征目标区域是否发生变化。
可选地,上述存储介质还被设置为存储用于执行以下步骤的程序代码:基于处理结果,确定遥感图像中每个像素的输出方式;按照每个像素的输出方式,输出遥感图像。
可选地,上述存储介质还被设置为存储用于执行以下步骤的程序代码:接收遥感图像对应的第一反馈信息,其中,一反馈信息用于对遥感图像中任意一个像素所属对象的类型进行修改;基于一反馈信息对特征提取模型的模型参数进行调整。
可选地,上述存储介质还被设置为存储用于执行以下步骤的程序代码:确定目标区域发生变化的目标原因;基于目标原因生成提示信息;输出遥感图像,并在目标区域的显示位置上输出处理结果和提示信息。
可选地,上述存储介质还被设置为存储用于执行以下步骤的程序代码:接收处理结果对应的反馈信息,其中,反馈信息用于对处理结果进行修改;基于反馈信息对特征提取模型的模型参数进行调整。
可选地,上述存储介质还被设置为存储用于执行以下步骤的程序代码:输出至少一个初始骨干网络;接收对至少一个初始骨干网络进行选择的第一选择指令,确定第一选择指令对应的初始骨干网络为第一骨干网络。
可选地,上述存储介质还被设置为存储用于执行以下步骤的程序代码:输出至少一种训练方式,其中,至少一种训练方式用于对第一骨干网络进行训练;接收对至少一种训练方式进行选择的第二选择指令,确定第二选择指令对应的目标训练方式;在接收到第二样本集的情况下,利用第二样本集按照目标训练方式对第一骨干网络进行训练,得到特征提取模型。
可选地,在本实施例中,存储介质被设置为存储用于执行以下步骤的程序代码:获取建筑物图像;对建筑物图像进行划分,得到多个图像块;利用特征提取模型对多个图像块进行特征提取,得到多个图像块对应的目标图像块特征;基于目标图像块特征对建筑物图像进行图像处理,得到建筑物图像的处理结果;其中,特征提取模型通过未包含标注信息的第一样本集对第一骨干网络进行自监督学习,并通过包含标注信息的第二样本集对第一骨干网络进行参数调整得到,第一骨干网络的网络参数在自监督学习过程中是基于第一样本集中第一样本的第一图像块特征、第一样本集中所有样本的图像块特征集合、以及图像块特征集合中的目标图像块特征确定的,目标图像块特征与第一图像块特征之间的相似度满足预设条件。
可选地,在本实施例中,存储介质被设置为存储用于执行以下步骤的程序代码:获取农作物图像;对农作物图像进行划分,得到多个图像块;利用特征提取模型对多个图像块进行特征提取,得到多个图像块对应的目标图像块特征;基于目标图像块特征对农作物图像进行图像处理,得到农作物图像的处理结果;其中,特征提取模型通过未包含标注信息的第一样本集对第一骨干网络进行自监督学习,并通过包含标注信息的第二样本集对第一骨干网络进行参数调整得到,第一骨干网络的网络参数在自监督学习过程中是基于第一样本集中第一样本的第一图像块特征、第一样本集中所有样本的图像块特征集合、以及图像块特征集合中的目标图像块特征确定的,目标图像块特征与第一图像块特征之间的相似度满足预设条件。
可选地,在本实施例中,存储介质被设置为存储用于执行以下步骤的程序代码:获取未包含标注信息的第一样本集和包含标注信息的第二样本集;利用第一样本集对第一骨干网络进行自监督学习,得到预训练模型,第一骨干网络的网络参数是基于第一样本集中第一样本的第一图像块特征、第一样本集中所有样本的图像块特征集合、以及图像块特征集合中的目标图像块特征确定的,目标图像块特征与第一图像块特征之间的相似度满足预设条件;利用第二样本集对预训练模型的模型参数进行参数调整,得到特征提取模型,其中,特征提取模型用于对遥感图像包含的多个图像块进行特征提取。
可选地,在本实施例中,存储介质被设置为存储用于执行以下步骤的程序代码:响应作用于操作界面上的输入指令,在操作界面上显示监测到的遥感图像;响应作用于操作界面上的识别指令,在操作界面上显示遥感图像的处理结果,其中,处理结果基于遥感图像包含的多个图像块对应的目标图像块特征对遥感图像进行图像处理得到,目标图像块特征通过特征提取模型对多个图像块进行特征提取得到,多个图像块通过对遥感图像进行划分得到,特征提取模型通过未包含标注信息的第一样本集对第一骨干网络进行自监督学习,并通过包含标注信息的第二样本集对第一骨干网络进行参数调整得到,第一骨干网络的网络参数在自监督学习过程中是基于第一样本集中第一样本的第一图像块特征、第一样本集中所有样本的图像块特征集合、以及图像块特征集合中的目标图像块特征确定的,目标图像块特征与第一图像块特征之间的相似度满足预设条件。
可选地,在本实施例中,存储介质被设置为存储用于执行以下步骤的程序代码:通过调用第一接口获取遥感图像,其中,第一接口包括第一参数,第一参数的参数值为遥感图像;对遥感图像进行划分,得到多个图像块;利用特征提取模型对多个图像块进行特征提取,得到多个图像块对应的目标图像块特征;基于目标图像块特征对遥感图像进行图像处理,得到遥感图像的处理结果;通过调用第二接口输出处理结果,其中,第二接口包括第二参数,第二参数的参数值为处理结果;其中,特征提取模型通过未包含标注信息的第一样本集对第一骨干网络进行自监督学习,并通过包含标注信息的第二样本集对第一骨干网络进行参数调整得到,第一骨干网络的网络参数在自监督学习过程中是基于第一样本集中第一样本的第一图像块特征、第一样本集中所有样本的图像块特征集合、以及图像块特征集合中的目标图像块特征确定的,目标图像块特征与第一图像块特征之间的相似度满足预设条件。
通过上述步骤,首先,获取遥感图像;对遥感图像进行划分,得到多个图像块;利用特征提取模型对多个图像块进行特征提取,得到多个图像块对应的目标图像块特征;基于目标图像块特征对遥感图像进行图像处理,得到遥感图像的处理结果,其中,特征提取模型通过未包含标注信息的第一样本集对第一骨干网络进行自监督学习,并通过包含标注信息的第二样本集对第一骨干网络进行参数调整得到,第一骨干网络的网络参数在自监督学习过程中是基于第一样本集中第一样本的第一图像块特征、第一样本集中所有样本的图像块特征集合、以及图像块特征集合中的目标图像块特征确定的,目标图像块特征与第一图像块特征之间的相似度满足预设条件,实现了提高模型的自监督训练效果的目的,容易注意到的是,本申请提供了一个新的像素级任务,结合最近邻的目标图像块特征构建的损失函数对特征提取模型进行自监督训练,可以通过特征提取模型利用来自多个图像块的图像块特征集合来探索每个图像块中的不同对象对应的目标图像块特征,有效的针对每个图像块得到其最近邻的图像块特征,另外,基于图像块特征对遥感图像进行图像处理,相较于基于完整的图像对遥感图像处理可以节省内存空间,从而提高计算机的处理性能,进而解决相关技术中对模型进行自监督训练的效果较差的技术问题。
上述本申请实施例序号仅仅为了描述,不代表实施例的优劣。
在本申请的上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。
在本申请所提供的几个实施例中,应该理解到,所揭露的技术内容,可通过其它的方式实现。其中,以上所描述的装置实施例仅仅是示意性的,例如单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,单元或模块的间接耦合或通信连接,可以是电性或其它的形式。
作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可为个人计算机、服务器或者网络设备等)执行本申请各个实施例方法的全部或部分步骤。而前述的存储介质包括:U盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。
以上仅是本申请的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本申请原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本申请的保护范围。

Claims (14)

1.一种图像处理方法,其特征在于,包括:
获取遥感图像;
对所述遥感图像进行划分,得到多个图像块;
利用特征提取模型对所述多个图像块进行特征提取,得到所述多个图像块对应的目标图像块特征;
基于所述目标图像块特征对所述遥感图像进行图像处理,得到所述遥感图像的处理结果;
其中,所述特征提取模型通过未包含标注信息的第一样本集对第一骨干网络进行自监督学习,并通过包含标注信息的第二样本集对所述第一骨干网络进行参数调整得到,所述第一骨干网络的网络参数在自监督学习过程中是基于所述第一样本集中第一样本的第一图像块特征、所述第一样本集中所有样本的图像块特征集合、以及所述图像块特征集合中的目标图像块特征确定的,所述目标图像块特征与所述第一图像块特征之间的相似度满足预设条件,其中,所述预设条件用于表示所述目标图像块特征与所述第一图像块特征之间的相似度大于所述第一图像块特征与所述样本中其他图像块特征之间的相似度。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
将所述图像块特征集合中的预设图像块特征存储至内存中;
基于所述第一图像块特征,从所述内存中获取原始图像块特征,其中,所述原始图像块特征与所述第一图像块特征之间的第一相似度大于第一其他特征与所述第一图像块特征之间的第一相似度,所述第一其他特征为所述内存中除所述原始图像块特征之外的图像块特征;
基于所述原始图像块特征,从所述内存中获取所述目标图像块特征,其中,所述目标图像块特征与所述原始图像块特征之间的第二相似度大于第二其他特征与所述原始图像块特征之间的第二相似度,所述第二其他特征为所述内存中除所述目标图像块特征之外的图像块特征。
3.根据权利要求2所述的方法,其特征在于,所述方法还包括:
获取所述图像块特征集合中任意两个图像块特征之间的相似度;
基于所述任意两个图像块特征之间的相似度,从所述任意两个图像块特征中获取预设图像块特征。
4.根据权利要求3所述的方法,其特征在于,基于所述任意两个图像块特征之间的相似度,从所述任意两个图像块特征中获取预设图像块特征包括:
基于所述任意两个图像块特征之间的相似度,生成子模函数;
对所述子模函数进行求解,确定所述预设图像块特征。
5.根据权利要求1所述的方法,其特征在于,基于所述目标图像块特征对所述遥感图像进行图像处理,得到所述遥感图像的处理结果包括如下之一:
基于所述目标图像块特征对所述遥感图像进行语义分割,得到所述处理结果,其中,所述处理结果用于表征所述遥感图像中每个像素所属对象的类型;
基于所述目标图像块特征对所述遥感图像中的目标区域进行变化检测,得到所述处理结果,其中,所述处理结果用于表征所述目标区域是否发生变化。
6.根据权利要求5所述的方法,其特征在于,在基于所述目标图像块特征对所述遥感图像进行语义分割,得到所述处理结果之后,所述方法还包括:
基于所述处理结果,确定所述遥感图像中每个像素的输出方式;
按照所述每个像素的输出方式,输出所述遥感图像。
7.根据权利要求5所述的方法,其特征在于,在基于所述目标图像块特征对所述遥感图像中的目标区域进行变化检测,得到所述处理结果之后,所述方法还包括:
确定所述目标区域发生变化的目标原因;
基于所述目标原因生成提示信息;
输出所述遥感图像,并在所述目标区域的显示位置上输出所述处理结果和所述提示信息。
8.根据权利要求6或7所述的方法,其特征在于,在输出所述遥感图像之后,所述方法还包括:
接收所述处理结果对应的反馈信息,其中,所述反馈信息用于对所述处理结果进行修改;
基于所述反馈信息对所述特征提取模型的模型参数进行调整。
9.根据权利要求1所述的方法,其特征在于,所述方法还包括:
输出至少一个初始骨干网络;
接收对所述至少一个初始骨干网络进行选择的第一选择指令,确定所述第一选择指令对应的初始骨干网络为所述第一骨干网络。
10.根据权利要求1所述的方法,其特征在于,所述方法还包括:
输出至少一种训练方式,其中,所述至少一种训练方式用于对所述第一骨干网络进行训练;
接收对所述至少一种训练方式进行选择的第二选择指令,确定所述第二选择指令对应的目标训练方式;
在接收到所述第二样本集的情况下,利用所述第二样本集按照所述目标训练方式对所述第一骨干网络进行训练,得到所述特征提取模型。
11.一种图像处理方法,其特征在于,包括:
获取建筑物图像;
对所述建筑物图像进行划分,得到多个图像块;
利用特征提取模型对所述多个图像块进行特征提取,得到所述多个图像块对应的目标图像块特征;
基于所述目标图像块特征对所述建筑物图像进行图像处理,得到所述建筑物图像的处理结果;
其中,所述特征提取模型通过未包含标注信息的第一样本集对第一骨干网络进行自监督学习,并通过包含标注信息的第二样本集对所述第一骨干网络进行参数调整得到,第一骨干网络的网络参数在自监督学习过程中是基于所述第一样本集中第一样本的第一图像块特征、所述第一样本集中所有样本的图像块特征集合、以及所述图像块特征集合中的目标图像块特征确定的,所述目标图像块特征与所述第一图像块特征之间的相似度满足预设条件,其中,所述预设条件用于表示所述目标图像块特征与所述第一图像块特征之间的相似度大于所述第一图像块特征与所述样本中其他图像块特征之间的相似度。
12.一种图像处理方法,其特征在于,包括:
响应作用于操作界面上的输入指令,在所述操作界面上显示监测到的遥感图像;
响应作用于所述操作界面上的识别指令,在所述操作界面上显示所述遥感图像的处理结果,其中,所述处理结果基于所述遥感图像包含的多个图像块对应的目标图像块特征对所述遥感图像进行图像处理得到,所述目标图像块特征通过特征提取模型对所述多个图像块进行特征提取得到,所述多个图像块通过对所述遥感图像进行划分得到,所述特征提取模型通过未包含标注信息的第一样本集对第一骨干网络进行自监督学习,并通过包含标注信息的第二样本集对所述第一骨干网络进行参数调整得到,所述第一骨干网络的网络参数在自监督学习过程中是基于所述第一样本集中第一样本的第一图像块特征、所述第一样本集中所有样本的图像块特征集合、以及所述图像块特征集合中的目标图像块特征确定的,所述目标图像块特征与所述第一图像块特征之间的相似度满足预设条件,其中,所述预设条件用于表示所述目标图像块特征与所述第一图像块特征之间的相似度大于所述第一图像块特征与所述样本中其他图像块特征之间的相似度。
13.一种图像处理方法,其特征在于,包括:
通过调用第一接口获取遥感图像,其中,所述第一接口包括第一参数,所述第一参数的参数值为所述遥感图像;
对所述遥感图像进行划分,得到多个图像块;
利用特征提取模型对所述多个图像块进行特征提取,得到所述多个图像块对应的目标图像块特征;
基于所述目标图像块特征对所述遥感图像进行图像处理,得到所述遥感图像的处理结果;
通过调用第二接口输出所述处理结果,其中,所述第二接口包括第二参数,所述第二参数的参数值为所述处理结果;
其中,所述特征提取模型通过未包含标注信息的第一样本集对第一骨干网络进行自监督学习,并通过包含标注信息的第二样本集对所述第一骨干网络进行参数调整得到,所述第一骨干网络的网络参数在自监督学习过程中是基于所述第一样本集中第一样本的第一图像块特征、所述第一样本集中所有样本的图像块特征集合、以及所述图像块特征集合中的目标图像块特征确定的,所述目标图像块特征与所述第一图像块特征之间的相似度满足预设条件,其中,所述预设条件用于表示所述目标图像块特征与所述第一图像块特征之间的相似度大于所述第一图像块特征与所述样本中其他图像块特征之间的相似度。
14.一种电子设备,其特征在于,包括:
存储器,存储有可执行程序;
处理器,用于运行所述程序,其中,所述程序运行时执行权利要求1至13中任意一项所述的方法。
CN202310026426.3A 2023-01-09 2023-01-09 图像处理方法和电子设备 Active CN115761529B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310026426.3A CN115761529B (zh) 2023-01-09 2023-01-09 图像处理方法和电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310026426.3A CN115761529B (zh) 2023-01-09 2023-01-09 图像处理方法和电子设备

Publications (2)

Publication Number Publication Date
CN115761529A CN115761529A (zh) 2023-03-07
CN115761529B true CN115761529B (zh) 2023-05-30

Family

ID=85348744

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310026426.3A Active CN115761529B (zh) 2023-01-09 2023-01-09 图像处理方法和电子设备

Country Status (1)

Country Link
CN (1) CN115761529B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116246176B (zh) * 2023-05-12 2023-09-19 山东建筑大学 一种农作物的病害检测方法、装置、电子设备及存储介质
CN116778330A (zh) * 2023-06-21 2023-09-19 阿里巴巴达摩院(杭州)科技有限公司 遥感目标提取方法、电子设备以及计算机可读存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113704531A (zh) * 2021-03-10 2021-11-26 腾讯科技(深圳)有限公司 图像处理方法、装置、电子设备及计算机可读存储介质
CN113971757A (zh) * 2021-09-26 2022-01-25 阿里巴巴达摩院(杭州)科技有限公司 图像分类方法、计算机终端及存储介质
WO2022021029A1 (zh) * 2020-07-27 2022-02-03 深圳市大疆创新科技有限公司 检测模型训练方法、装置、检测模型使用方法及存储介质
CN114119989A (zh) * 2021-11-29 2022-03-01 北京百度网讯科技有限公司 图像特征提取模型的训练方法、装置及电子设备

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110287962B (zh) * 2019-05-20 2023-10-27 平安科技(深圳)有限公司 基于超对象信息的遥感图像目标提取方法、装置及介质
CN114202459B (zh) * 2021-10-26 2024-03-22 北京工业大学 一种基于深度先验的盲图像超分辨率方法
CN114937204B (zh) * 2022-04-29 2023-07-25 南京信息工程大学 一种轻量级多特征聚合的神经网络遥感变化检测方法
CN114926511A (zh) * 2022-05-11 2022-08-19 西安电子科技大学 一种基于自监督学习的高分辨率遥感影像变化检测方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022021029A1 (zh) * 2020-07-27 2022-02-03 深圳市大疆创新科技有限公司 检测模型训练方法、装置、检测模型使用方法及存储介质
CN113704531A (zh) * 2021-03-10 2021-11-26 腾讯科技(深圳)有限公司 图像处理方法、装置、电子设备及计算机可读存储介质
CN113971757A (zh) * 2021-09-26 2022-01-25 阿里巴巴达摩院(杭州)科技有限公司 图像分类方法、计算机终端及存储介质
CN114119989A (zh) * 2021-11-29 2022-03-01 北京百度网讯科技有限公司 图像特征提取模型的训练方法、装置及电子设备

Also Published As

Publication number Publication date
CN115761529A (zh) 2023-03-07

Similar Documents

Publication Publication Date Title
US20210241109A1 (en) Method for training image classification model, image processing method, and apparatuses
CN115761529B (zh) 图像处理方法和电子设备
Chen et al. MANet: A multi-level aggregation network for semantic segmentation of high-resolution remote sensing images
CN111325271B (zh) 图像分类方法及装置
CN110765882B (zh) 一种视频标签确定方法、装置、服务器及存储介质
CN112132197A (zh) 模型训练、图像处理方法、装置、计算机设备和存储介质
CN112990390B (zh) 一种图像识别模型的训练方法、图像识别的方法及装置
CN114283316A (zh) 一种图像识别方法、装置、电子设备和存储介质
CN113704531A (zh) 图像处理方法、装置、电子设备及计算机可读存储介质
JP6787831B2 (ja) 検索結果による学習が可能な対象検出装置、検出モデル生成装置、プログラム及び方法
CN104063686A (zh) 作物叶部病害图像交互式诊断系统与方法
CN113807399A (zh) 一种神经网络训练方法、检测方法以及装置
CN111582342A (zh) 一种图像识别方法、装置、设备以及可读存储介质
CN110866469A (zh) 一种人脸五官识别方法、装置、设备及介质
CN114140637B (zh) 图像分类方法、存储介质和电子设备
CN115131604A (zh) 一种多标签图像分类方法、装置、电子设备及存储介质
CN116452810A (zh) 一种多层次语义分割方法、装置、电子设备及存储介质
CN116701706B (zh) 一种基于人工智能的数据处理方法、装置、设备及介质
CN116229188B (zh) 图像处理显示方法、分类模型的生成方法及其设备
CN113705293A (zh) 图像场景的识别方法、装置、设备及可读存储介质
CN112906517A (zh) 一种自监督的幂律分布人群计数方法、装置和电子设备
CN115690592B (zh) 图像处理方法和模型训练方法
Osuna-Coutiño et al. Structure extraction in urbanized aerial images from a single view using a CNN-based approach
CN114581994A (zh) 一种课堂考勤管理方法和系统
Pellegrin et al. Towards depth estimation in a single aerial image

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant