CN114511500A - 图像处理方法、存储介质以及计算机终端 - Google Patents
图像处理方法、存储介质以及计算机终端 Download PDFInfo
- Publication number
- CN114511500A CN114511500A CN202111632596.3A CN202111632596A CN114511500A CN 114511500 A CN114511500 A CN 114511500A CN 202111632596 A CN202111632596 A CN 202111632596A CN 114511500 A CN114511500 A CN 114511500A
- Authority
- CN
- China
- Prior art keywords
- image
- initial
- spot
- type
- target
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30181—Earth observation
- G06T2207/30188—Vegetation; Agriculture
Abstract
本申请公开了一种图像处理方法、存储介质以及计算机终端。其中,该方法包括:获取第一图像和第二图像,其中,第一图像和第二图像为不同时间对同一区域进行采集得到的图像;对第一图像和第二图像进行变化检测,确定初始图斑,其中,初始图斑用于表征第一图像和第二图像中图像发生变化的区域;对第一图像和第二图像进行图像识别,确定初始图斑对应的目标类型;基于目标类型对初始图斑进行过滤,得到目标图斑,其中,目标图斑对应的类型为预设类型。本申请解决了相关技术中图像识别的精确度较低的技术问题。
Description
技术领域
本申请涉及图像处理领域,具体而言,涉及一种图像处理方法、存储介质以及计算机终端。
背景技术
目前,基于深度学习算法的耕地变化检测算法通常采用与通用变化检测算法相同的范式,仅对关注的耕地变化区域进行预测。针对不同的场景,例如退耕还林、耕地 撂荒、耕地开挖、耕地修复等,其需要针对性的构建所需要的数据集用于训练模型, 而用于构建数据集的样本数量较少,因此,难以得到精确度较高的模型,从而难以提 高图像识别的精确度。
针对上述的问题,目前尚未提出有效的解决方案。
发明内容
本申请实施例提供了一种图像处理方法、存储介质以及计算机终端,以至少解决相关技术中图像识别的精确度较低的技术问题。
根据本申请实施例的一个方面,提供了一种图像处理方法,包括:获取第一图像和第二图像,其中,第一图像和第二图像为不同时间对同一区域进行采集得到的图像; 对第一图像和第二图像进行变化检测,确定初始图斑,其中,初始图斑用于表征第一 图像和第二图像中图像发生变化的区域;对第一图像和第二图像进行图像识别,确定 初始图斑对应的目标类型;基于目标类型对初始图斑进行过滤,得到目标图斑,其中, 目标图斑对应的类型为预设类型。
根据本申请实施例的一个方面,提供了一种图像处理方法,包括:获取第一耕地图像和第二耕地图像,其中,第一耕地图像和第二耕地图像为不同时间对同一耕地区 域进行采集得到的图像;对第一耕地图像和第二耕地图像进行变化检测,确定初始耕 地图斑,其中,初始耕地图斑用于表征第一耕地图像和第二耕地图像中耕地图像发生 变化的区域;对第一耕地图像和第二耕地图像进行图像识别,确定初始耕地图斑对应 的目标类型;基于目标类型对初始耕地图斑进行过滤,得到目标耕地图斑,其中,目 标耕地图斑对应的类型为耕地类型。
根据本申请实施例的另一方面,还提供了一种计算机可读存储介质,计算机可读存储介质包括存储的程序,其中,在程序运行时控制计算机可读存储介质所在设备执 行上述任意一个实施例中的图像处理方法。
根据本申请实施例的另一方面,还提供了一种计算机终端,包括:处理器和存储器,处理器用于运行存储器中存储的程序,其中,程序运行时执行上述任意一个实施 例中的图像处理方法。
通过上述步骤,首先,获取第一图像和第二图像,其中,第一图像和第二图像为 不同时间对同一区域进行采集得到的图像;对第一图像和第二图像进行变化检测,确 定初始图斑,其中,初始图斑用于表征第一图像和第二图像中图像发生变化的区域; 对第一图像和第二图像进行图像识别,得到初始图斑对应的目标类型,基于目标类型 对初始图斑进行过滤,得到目标图斑,其中,目标图斑对应的类型为预设类型,实现 了提高图像识别精度的目的。容易注意到的是,可以通过对初始图斑进行分类,以便 通过目标类型对初始图斑进行过滤,得到目标图斑,可以保留预设类型的目标图斑, 由于在识别的过程融入了区域的信息,因此,可以进一步的提高图像识别的精确度, 以至少解决相关技术中图像识别的精确度较低的技术问题。
附图说明
此处所说明的附图用来提供对本申请的进一步理解,构成本申请的一部分,本申请的示意性实施例及其说明用于解释本申请,并不构成对本申请的不当限定。在附图 中:
图1是根据本申请实施例的一种用于实现图像处理方法的计算机终端(或移动设备)的硬件结构框图;
图2是根据本申请实施例的一种图像处理方法的流程图;
图3是根据本申请实施例的一种可选的交互界面的示意图;
图4是根据本申请实施例的一种可选的交互界面的示意图;
图5是根据本申请实施例的一种通用二分类变化检测网络的示意图;
图6是根据本申请实施例的一种图斑分类器的结构示意图;
图7是根据本申请实施例的另一种图像处理方法的流程图;
图8是根据本申请实施例的另一种图像处理方法的流程图;
图9是根据本申请实施例的一种图像处理装置的示意图;
图10是根据本申请实施例的另一种图像处理装置的示意图;
图11是根据本申请实施例的一种计算机终端的结构框图。
具体实施方式
为了使本技术领域的人员更好地理解本申请方案,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例 仅仅是本申请一部分的实施例,而不是全部的实施例。基于本申请中的实施例,本领 域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于 本申请保护的范围。
需要说明的是,本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这 样使用的数据在适当情况下可以互换,以便这里描述的本申请的实施例能够以除了在 这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的 任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方 法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚 地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
随着卫星和机载传感器的发展,遥感、航拍图像和视频数据的获取越来越便捷,这些数据在城市规划、农林业等方面都得到了广泛的应用。因此,分析遥感和航拍图 像中的信息愈发重要。然而,对这些数据进行标注需要消耗大量的人力资源,这极大 的提高了遥感数据的利用成本。另外,将遥感数据在运用到不同场景上时,由于不同 的任务需求,对于数据的标注规则也不尽相同,这使得复用现有标注数据变得极为困 难。耕地变化检测是资源变化监测中的一项重要任务,目前一般采用人工目视解译的 方式,随着遥感数据量的急剧增加,传统的人工标定的方法难以支撑爆发式增长的任 务与需求工作量。
基于深度学习的通用变化检测算法被广泛应用在遥感图像变化检测任务中,用于预测输入前后两期影像的变化区域。这类算法通常采用孪生网络结构,并对两期影像 的特征进行比对交互,输出不包含地物类别的变化区域。通用变化检测数据集较特定 变化场景数据集,如耕地变化检测数据集,其包含的影像种类更加丰富,覆盖的数据 更加全面,因此通常将通用变化检测模型作为特定类型变化检测任务的预训练模型。
目前已有的基于深度学习算法的耕地变化检测算法通常采用与通用变化检测算法 相同的范式,仅对关注的耕地变化区域进行预测。针对不同的场景,如退耕还林、耕 地撂荒、耕地开挖、耕地修复等,需要针对特定场景构建所需要的数据集用于训练模 型。随着遥感解译任务的日益增加,这种针对特定场景需要重新设计算法的方式严重 阻碍了影像解译的效率。并且在包含多种耕地变化类型的场景中,难以预测每个图斑 的耕地变化类型。
为了解决上述问题,本申请提供了一种图像处理方法,可以将通用变化检测模型复用在各个场景中,以降低检测的成本,并且对于包含多种耕地变化类型的场景,可 以准确的预测每个图斑的耕地变化类型。
实施例1
根据本申请实施例,还提供了一种图像处理方法的实施例,需要说明的是,在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行,并且, 虽然在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于此处的顺序执行 所示出或描述的步骤。
本申请实施例所提供的方法实施例可以在移动终端、计算机终端或者类似的运算装置中执行。图1示出了一种用于实现图像处理方法的计算机终端(或移动设备)的 硬件结构框图。如图1所示,计算机终端10(或移动设备10)可以包括一个或多个(图 中采用102a、102b,……,102n来示出)处理器102(处理器102可以包括但不限于 微处理器MCU或可编程逻辑器件FPGA等的处理装置)、用于存储数据的存储器104、 以及用于通信功能的传输装置106。除此以外,还可以包括:显示器、输入/输出接口 (I/O接口)、通用串行总线(USB)端口(可以作为BUS总线的端口中的一个端口被 包括)、网络接口、电源和/或相机。本领域普通技术人员可以理解,图1所示的结构 仅为示意,其并不对上述电子装置的结构造成限定。例如,计算机终端10还可包括比 图1中所示更多或者更少的组件,或者具有与图1所示不同的配置。
应当注意到的是上述一个或多个处理器102和/或其他数据处理电路在本文中通常可以被称为“数据处理电路”。该数据处理电路可以全部或部分的体现为软件、硬件、 固件或其他任意组合。此外,数据处理电路可为单个独立的处理模块,或全部或部分 的结合到计算机终端10(或移动设备)中的其他元件中的任意一个内。该数据处理电 路作为一种处理器控制(例如与接口连接的可变电阻终端路径的选择)。
存储器104可用于存储应用软件的软件程序以及模块,如本申请实施例中的图像处理方法对应的程序指令/数据存储装置,处理器102通过运行存储在存储器104内的 软件程序以及模块,从而执行各种功能应用以及数据处理,即实现上述的图像处理方 法。存储器104可包括高速随机存储器,还可包括非易失性存储器,如一个或者多个 磁性存储装置、闪存、或者其他非易失性固态存储器。在一些实例中,存储器104可 进一步包括相对于处理器102远程设置的存储器,这些远程存储器可以通过网络连接 至计算机终端10。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动 通信网及其组合。
传输装置106用于经由一个网络接收或者发送数据。上述的网络具体实例可包括计算机终端10的通信供应商提供的无线网络。在一个实例中,传输装置106包括一个 网络适配器(Network Interface Controller,NIC),其可通过基站与其他网络设备 相连从而可与互联网进行通讯。在一个实例中,传输装置106可以为射频(Radio Frequency,RF)模块,其用于通过无线方式与互联网进行通讯。
显示器可以例如触摸屏式的液晶显示器(LCD),该液晶显示器可使得用户能够与计算机终端10(或移动设备)的用户界面进行交互。
此处需要说明的是,在一些可选实施例中,上述图1所示的计算机设备(或移动 设备)可以包括硬件元件(包括电路)、软件元件(包括存储在计算机可读介质上的计 算机代码)、或硬件元件和软件元件两者的结合。应当指出的是,图1仅为特定具体实 例的一个实例,并且旨在示出可存在于上述计算机设备(或移动设备)中的部件的类 型。
在上述运行环境下,本申请提供了如图2所示的图像处理方法。图2是根据本申 请实施例的图像处理方法的流程图。如图2所示,该方法可以包括如下步骤:
步骤S202,获取第一图像和第二图像。
其中,第一图像和第二图像为不同时间对同一区域进行采集得到的图像。
上述的第一图像和第二图像可以为遥感图像,也可以是无人机拍摄的航拍图像,还可以是雷达图像,还可以是相机获取到的影像,但不仅限于此。
上述的第一图像和第二图像可以是不同时间对同一区域进行采集得到的图像,也即,第一图像和第二图像中都包含同一区域。需要说明的是,第一图像和第二图像的 采集位置可以相同,也可以不同。为了提高图像识别的精确度,可以在不同时间点在 同一采集位置采集得到第一图像和第二图像,但是并不限于此。
上述的第一图像的采集时间可以早于第二图像的采集时间。上述第一图像的采集时间也可以晚于第二图像的采集时间,具体的,可以根据实际情况进行设置。
上述的图像处理方法可以应用于检测地物覆盖类型变化的过程中,其中,地物覆盖类型变化包括动土、在建大棚,在建建筑,地膜,大棚,建筑,无作物耕地,有作 物耕地,林地,水域,硬化空地,绿地,自然裸地,运动场等多种类型之间的互相转 变。通过对第一图像和第二图像进行检测,可以检测到地物的覆盖类型是否发生改变。 进一步地,还可以根据用户关注的类型变化来进行检测,若用户关注于耕地类型变为 建大棚类型,则可以在耕地类型变为建大棚类型的情况下,提醒用户地物的覆盖类型 发生改变。
在一种可选的实施例中,第一图像和第二图像可以由卫星或无人机拍摄,并通过网络传输给服务器,由服务器处理,同时可以将第一图像和第二图像展示给用户,如 图3所示,可以将第一图像输入至前期图像采集框中,可以将第二图像输入至后期图 像采集框中;在另一种可选的实施例中,第一图像和第二图像可以由卫星或无人机拍 摄,并由用户主动上传至服务器,由服务器处理。如图4所示,用户可以通过点击交 互界面中的“上传前期图像”按钮和“上传后期图像”按钮,或将第一图像和第二图 像分别拖入两个虚线框的方式完成将第一图像和第二图像,以达到上传服务器的目的, 而且,用户上传的图像可以显示在前期图像采集框和后期图像采集框内,以便用户进 行查看或者修改,此处的服务器可以是部署在本地的服务器,也可以是部署在云端的 服务器。
步骤S204,对第一图像和第二图像进行变化检测,确定初始图斑。
其中,初始图斑用于表征第一图像和第二图像中图像发生变化的区域。
在一种可选的实施例中,可以利用通用变化检测模型对第一图像和第二图像进行通用变化检测,以便确定出发生变化的区域对应的初始图斑。需要说明的是,通用的 变化是指对发生地物覆盖类型的变化,通常包含动土,在建大棚,在建建筑,地膜, 大棚,建筑,无作物耕地,有作物耕地,林地,水域,硬化空地,绿地,自然裸地, 运动场等多个类别之间的相互转换。由于涵盖了大部分情况的地物变化类型,也即其 数据覆盖范围较广,数据量也较大,因此,通用变化检测模型可以为目前所采用的基 于孪生结构的变化检测网络,具体的,基于孪生结构的变化检测网络可以为efficient net+cascade bifpn(通用二分类变化检测网络)的网络结构。
在另一种可选的实施例中,可以先搭建如图5所示的通用二分类变化检测网络,采用efficient-b0(复合缩放网络)作为主干网络提取第一图像对应的特征和第二图 像对应的特征,可以将第一图像对应的特征和第二图像对应的特征进行拼接,输入到cascadebifpn(级联特征层)结构中做特征交互,得到目标特征,可以将目标特征输 入到解码器中,得到最终的预测结果,也即,上述第一图像和第二图像中图像发生变 化区域对应的初始图斑。
在另一种可选的实施例中,在对上述的通用变化检测模型进行训练的过程中,可以将训练数据划分为14,932对前后期影像(上述的第一图像和第二图像)作为训练集, 3,494对前后期影像作为测试集,图像尺寸均为1024*1024,所有影像中变化区域中的 标注均按照动土,在建大棚,在建建筑,地膜,大棚,建筑,无作物耕地,有作物耕 地,林地,水域,硬化空地,绿地,自然裸地,运动场等多个类别之间的相互转换规 则进行。采用0.005的初始学习率,32的批大小,迭代500,000次,以便得到一个精 确度较高的通用变化检测模型。
在另一种可选的实施例中,由于通用变化检测得到的单个图斑内可能包含有多个类型的地物,而图斑分类数据集中的图斑均为只包含单类地物的图斑,因此,训练图 斑和测试场景的图斑分布存在巨大的差异。因此,可以对通用变化得到的图斑进行无 监督的预分割,以尽可能保证预分割后的每个图斑内仅包含单一类别的地物。预分割 的方法包括网格法、超像素法、基于深度学习的模型方法。可以选择兼顾性能和速度 的超像素方法作为预分割的方法。
进一步地,所采用的超像素的方式可以为seeds(超像素分割算法),具体的预分割过程可以是将原有较大图斑划分成一系列位置相邻且颜色、亮度、纹理等特征相似 的像素点组成的小区域。由于这些小区域大多保留了进一步进行图像分割的有效信息, 且一般不会破坏图像中物体的边界信息,因此,可以将这些小区域作为上述的初始图 斑用于后续的图像识别。
步骤S206,对第一图像和第二图像进行图像识别,确定初始图斑对应的目标类型。
在一种可选的实施例中,可以对第一图像中初始图斑所在的区域进行识别,确定初始图斑在第一图像中的类型,可以对第二图像中初始图斑所在的区域进行识别,确 定初始图斑在第二图像中的类型。
具体的,可以利用残差卷积神经网络(ResNeSt50)对第一图像和第二图像进行图像识别,得到初始图斑对应的目标类型。具体的,可以在残差卷积神经网络(ResNeSt50) 的基础上加入蒙板信息融合分支,根据输出的初始图斑的特征可以对蒙板的尺寸进行 调整,使得蒙板尺寸可以与初始图斑对应的特征对齐,得到蒙板信息,可以使用一次 卷积操作将单通道的蒙板信息进行拓展,得到蒙板特征,然后将蒙板特征与初始图斑 的特征进行相加,输入到后续的网络中,以实现结合蒙板信息对图像进行识别,以提 高识别精确度的目的。
步骤S208,基于目标类型对初始图斑进行过滤,得到目标图斑。
其中,目标图斑对应的类型为预设类型。
上述的预设类型用于表示预先设置的图斑的变化类型,例如,预先设置的变化前的图斑对应的类型和变化后的图斑对应的类型,其主要用于筛选出用户需要关注的图 斑的变化类型。示例性的,预设类型可以为耕地-耕地、耕地-其他、其他-耕地、水域 -水域、水域-其他、其他-水域等其中的一个或多个变化类型。
上述的预设类型还可以表示用户所关注的类型。若目标类型中包含有预设类型的初始图斑,则可以直接将该预设类型的初始图斑作为目标图斑进行保留。示例性的, 预设类型可以包括耕地、水域、大棚等一个或多个类型。
在一种可选的实施例中,预设类型可以为耕地-耕地、水域-水域等图斑变化前后相同的类型。若目标的类型为耕地-耕地,则说明目标类型与预设类型相同,用户需要 关注前后类型相同的初始图斑,此时,可以对该初始图斑作为目标图斑进行保留。若 初始图斑的类型为耕地-其他,则说明目标类型与预设类型不同,此时,说明该初始图 斑并非是用户需要关注的前后类型相同的初始图斑,此时,可以对该初始图斑进行过 滤,将剩余的图斑作为目标图斑进行保留。
在另一种可选的实施例中,预设类型可以为耕地-其他、其他-耕地等图斑变化前后不相同的类型。若目标的类型为耕地-耕地,则说明目标类型与预设类型不同,用户 并不需要关注前后类型不同的初始图斑,此时,可以对该初始图斑进行过滤,将剩余 的图斑作为目标图斑进行保留;若目标的类型为耕地-其他,或者其他-耕地,则说明 目标类型与预设类型相同,用户需要关注前后类型相同的初始图斑,此时,可以将该 初始图斑作为目标图斑进行保留。
在另一种可选的实施例中,预设类型可以为耕地、水域,若初始图斑的目标类型为耕地,则说明初始图斑的目标类型与预设类型相同,此时,可以确定该初始图斑为 目标图斑,并保留该目标图斑。
通过上述的步骤,首先,获取第一图像和第二图像,其中,第一图像和第二图像 为不同时间对同一区域进行采集得到的图像;对第一图像和第二图像进行变化检测, 确定初始图斑,其中,初始图斑用于表征第一图像和第二图像中图像发生变化的区域; 对第一图像和第二图像进行图像识别,得到初始图斑对应的目标类型,基于目标类型 对初始图斑进行过滤,得到目标图斑,其中,目标图斑对应的类型为预设类型,实现 了提高图像识别精度的目的。容易注意到的是,可以通过对初始图斑进行分类,以便 通过目标类型对初始图斑进行过滤,得到目标图斑,可以保留预设类型的目标图斑, 由于在识别的过程融入了区域的信息,因此,可以进一步的提高图像识别的精确度, 以至少解决相关技术中图像识别的精确度较低的技术问题。
可选地,所述目标类型包括:所述初始图斑在所述第一图像中的第一子类型,和所述初始图斑在所述第二图像中的第二子类型,其中,对所述第一图像和所述第二图 像进行图像识别,确定所述初始图斑对应的目标类型包括:确定初始图斑对应的第一 蒙板信息和第二蒙板信息;利用图斑分类器对第一蒙板信息和第一图像进行图像识别, 得到第一子类型;利用图斑分类器对第二蒙板信息和第二图像进行图像识别,得到第 二子类型。
其中,第一蒙板信息用于表征第一图像中每个第一像素点是否位于初始图斑内,第二蒙板信息用于表征第二图像中每个第二像素点是否位于初始图斑内。
上述的第一蒙板信息和第二蒙板信息主要用于描述初始图斑在第一图像和第二图 像中的区域信息,其中,区域信息可以采用的像素的方式进行表示,具体的,可以通 过像素的数值来描述区域信息,例如,蒙板信息可以包括遥感图像中每个像素点对应 的数值,该数值可以是0或1,因此,可以确定数值为1的所有像素点组成的区域为 初始图斑的区域。
上述的第一像素点和第二像素点可以是图像中的每个像素点,对于位于初始图斑内的第一像素点和第二像素点,可以用1表示,否则用0表示。
在一种可选的实施例中,可以根据第一图像中每个第一像素点的数值来确定第一蒙板信息,其中,第一蒙板信息可以包括数值为1的第一像素点;可以根据第二图像 中每个第二像素点的数值来确定第二蒙板信息,其中,第二蒙板信息可以包括数值为 1的第二像素点。
在一种可选的实施例中,在确定初始图斑之后,可以根据初始图斑确定出第一图像中发生变化的区域对应的第一蒙板信息,以便通过第一蒙板信息确定初始图斑在第 一图像中的区域;可以根据初始图斑确定出第二图像中发生变化的区域对应的第二蒙 板信息,以便通过第二蒙板信息确定初始图斑在第二图像中的区域。
通过获取上述的第一蒙板信息和第二蒙板信息,可以将初始图斑对应的图像信息和区域信息进行融合,并基于融合后的信息识别初始图斑的目标类型,以便提高识别 的精确度。
在一种可选的实施例中,可以分别基于第一蒙板信息和第二蒙板信息,对第一图像和第二图像进行图像识别,得到初始图斑对应的目标类型。其中,目标类型包括: 初始图斑在第一图像中的第一子类型,和初始图斑在第二图像中的第二子类型。
具体的,可以根据输出的初始图斑在第一图像中的特征对蒙板的尺寸进行调整,得到上述的第一蒙板信息,可以对第一蒙板信息进行特征处理,得到第一蒙板特征, 可以将第一蒙板特征与初始图斑在第一图像上的特征相加,输入到后续网络进行图像 识别,以便识别出初始图斑在第一图像中的第一子类型。可以根据输出的初始图斑在 第二图像中的特征对蒙板的尺寸进行调整,得到上述的第二蒙板信息,可以对第二蒙 板信息进行特征处理,得到第二蒙板特征,可以将第二蒙板特征与初始图斑在第二图 像上的特征相加,输入到后续网络进行图像识别,以便识别出初始图斑在第二图像中 的第二子类型。
在另一种可选的实施例中,为了解决面积较小初始图斑受背景干扰严重的问题,可以在整图的特征图中使用图斑的外接矩形对图斑区域的特征做扣取。考虑到小面积 图斑在深层特征上尺寸过小的问题,可以引入特征金字塔结构,根据图斑的尺寸决定 采用的特征的层级,即对于面积较小的图斑可以在浅层特征扣取图斑特征,对于面积 较大的图斑可以在深层特征扣取图斑特征,保证微小图斑的特征在低层特征上能够有 一个合适的尺寸,并且由于特征金字塔自上而下的特征传递方式,可以保证低层特征 上同样包含深层语义信息。
在交通运输的应用场景中,第一图像可以为前期采集的不包含车辆的车位图像,第二图像可以为后期采集的包含车辆的车位图像,可以对第一图像和第二图像进行变 化检测,确定车辆变化区域对应的初始图斑,可以确定初始图斑在第一图像中对应的 区域信息,即上述的第一蒙板信息,可以确定初始图斑在第二图像中对应的区域信息, 即上述的第二蒙板信息,分别根据第一蒙板信息和第二蒙板信息对第一图像和第二图 像识别,得到初始图斑在第一图像中的类型为车位不存在车辆,得到初始图斑在第二 图像中的类型为车位存在车辆。
在农林应用场景中,第一图像可以为前期采集的无作物耕地场景,第二图像可以为后期采集的有作物耕地场景,可以对第一图像和第二图像进行变化检测,确定耕地 场景中发生变化的区域对应的初始图斑,可以确定初始图斑在第一图像中对应的区域 信息,即上述的第一蒙板信息,可以确定初始图斑在第二图像中对应的区域信息,即 上述的第二蒙板信息,分别根据第一蒙板信息和第二蒙板信息对第一图像和第二图像 进行图像识别,得到初始图斑在第一图像中的类型为无作物耕地,得到初始图斑在第 二图像中的类型为有作物耕地。
在城市规划应用场景中,第一图像可以为前期采集的在建建筑对应的建筑图像,第二图像可以为后期采集的完工建筑对应的建筑图像,可以对第一图像和第二图像进 行变化检测,确定建筑图像中发生变化区域对应的初始图斑,可以确定初始图斑在第 一图像中对应的区域信息,即上述的第一蒙板信息,可以确定初始图斑在第二图像中 对应的区域信息,即上述的第二蒙板信息,分别根据第一蒙板信息和第二蒙板信息对 第一图像和第二图像进行图像识别,得到初始图斑在第一图像中的类型为在建建筑, 得到初始图斑在第二图像中的类型为完工建筑。
上述的图斑分类器用于对初始图斑的属性进行分类。
在一种可选的实施例中,可以利用图斑分类器对第一蒙板信息和第一图像中初始图斑对应的图像信息进行融合,并基于融合后的信息进行图像识别,得到第一子类型; 可以利用图斑分类器对第二蒙板信息和第二图像中初始图斑对应的图像信息进行融合, 并基于融合后的信息进行图像识别,得到第二子类型。
在另一种可选的实施例中,可以对动土,在建大棚,在建建筑,地膜,大棚,建 筑,无作物耕地,有作物耕地,林地,水域,硬化空地,绿地,自然裸地,运动场等 多个类别的数据集进行初始图斑的属性标注,可以在减少标注任务量级的同时尽可能 覆盖到所有的测试场景,在完成所有初始图斑的属性标注之后,可以将标注好的初始 图斑划分为训练集和测试集用于对上述图斑分类器的训练,从而提高图斑分类器的精 确度。
进一步地,在按照动土,在建大棚,在建建筑,地膜,大棚,建筑,无作物耕地, 有作物耕地,林地,水域,硬化空地,绿地,自然裸地,运动场等多个类别对二分类 变化检测数据集中的图斑进行属性标注。并以每个初始图斑的几何中心从对应的图像 中切取400*400大小的图像及对应的蒙板信息用于构建图斑分类数据集,最终得到 2,230,032组初始图斑的训练集和179,864对初始图斑的测试集。由于在构建训练数 据的过程中加入了初始图斑对应的蒙板信息,因此,通过训练得到的图斑分类器的精 确越高。
在又一种可选的实施例中,可以使用随机梯度下降法通过训练数据集对图斑分类器进行训练,其中,初始学习率可以为0.1,批大小可以为512,一共可以训练50个 批次。
在本申请上述实施例中,所述图斑分类器至少包括:蒙板信息输入模块、图像输入模块、特征提取模块和输出模块,其中,所述特征提取模块分别与所述蒙板信息输 入模块和所述图像输入模块连接,所述输出模块与所述特征提取模块连接。
上述的蒙板信息输入模块可以用于输入图像对应的蒙板信息,上述的图像输入模块可以用于输入需要进行识别的图像,特征提取模块可以分别与蒙板信息输入模块和 图像输入模块连接,特征提取模块可以分别对输入的蒙板信息和输入的图像进行卷积 操作,得到蒙板特征和图像特征,可以将蒙板特征和图像特征输入至多个残差块的目 标残差块中,图像特征输入至多个残差块的第一个残差块中,每个残差块用于对输入 的特征进行特征提取,输出模块用于对输入的特征进行分类,得到分类结果。
在本申请上述实施例中,利用图斑分类器对所述第一蒙板信息和所述第一图像进行图像识别,得到所述第一子类型,或利用所述图斑分类器对所述第二蒙板信息和所 述第二图像进行图像识别,得到所述第二子类型包括:利用所述蒙板信息输入模块对 所述第一蒙板信息进行卷积操作,得到第一蒙板特征,或利用所述蒙板信息输入模块 对所述第二蒙板信息进行卷积操作,得到第二蒙板信息;利用所述图像输入模块对所 述第一图像进行卷积操作,得到第一图像特征,或利用所述图像输入模块对所述第二 图像进行卷积操作,得到第二图像特征;利用所述特征提取模块对所述第一蒙板特征 和所述第一图像特征进行特征提取,得到第一图斑特征,或利用所述特征提取模块对 所述第二蒙板特征和所述第二图像特征进行特征提取,得到第二图斑特征;利用所述 输出模块对所述第一图斑特征进行分类,得到所述第一子类型,或利用所述输出模块 对所述第二图斑特征进行分类,得到所述第二子类型。
在一种可选的实施例中,可以利用蒙板信息输入模块对第一蒙板信息进行卷积操作,得到第一蒙板特征,或者利用蒙板信息输入模块对第二蒙板信息进行卷积操作, 得到第二蒙板特征,以便根据第一蒙板特征和第二蒙板特征应用于后续网络的图像识 别过程中。
进一步的,可以在特征提取模块中基于第一蒙板特征中所记载的区域信息对第一图像特征进行特征提取,以便提取到图斑所处区域对应的第一图斑特征,或者利用特 征提取模块中基于第二蒙板特征中所记载的区域信息对第二图像特征进行特征提取, 以便提取到图斑所处区域对应的第二图斑特征。可以利用输出模块对第一图像对应的 第一图斑特征进行分类,得到初始图斑在第一图像中的第一子类型,可以利用输出模 块对第二图像对应的第二图斑特征激进型分类,得到初始图斑在第二图像中的第二子 类型。
在本申请上述实施例中,特征提取模块包括:依次连接的多个残差块,其中,图 像输入模块与多个残差块中的第一个残差块连接,蒙板信息输入模块与多个残差块中 的目标残差块连接。
上述的目标残差块用于利用蒙板特征中初始图斑的区域信息对图像特征进行扣取, 使输入至输出模块的特征更加的精确,使得输出模块得到的分类结果准确度更高。
在一种可选的实施例中,可以特征提取模块得到的图像特征输入到多个残差块中的第一个残差块中,并利用第一个残差块对图像特征进行特征提取,将输出的特征输 入至第二个残差块中,输出初始图斑对应的特征,可以利用最近邻方法将蒙板尺寸与 第二个残差块输出的特征进行特征对齐,然后将对齐后的蒙板信息输入至蒙板信息输 入模块中,在蒙板信息输入模块中将单通道的蒙板信息拓展至512维得到蒙板特征, 然后将蒙板特征与第二个残差块输出的特征进行相加,并输入至后续的残差块中,可 以实现将蒙板的区域信息融入至对初始图斑进行分类过程中。
在本申请上述实施例中,目标残差块用于利用所述蒙板特征确定所述图像特征中的目标图斑特征,并将所述目标图斑特征输入至下一个残差块。
上述的目标残差块用于利用蒙板特征对图像特征进行特征扣取,使得到的目标图斑特征更加的精确,并且可以将确定的目标图斑特征输入到下一个残差块中。
在一种可选的实施例中,为了解决面积较小初始图斑受背景干扰严重的问题,可以在整图的特征图中使用初始图斑的外接矩形对图斑区域的特征做扣取,具体的,可 以利用蒙板特征中初始图斑的区域信息对图像特征进行特征扣取。考虑到小面积图斑 在深层特征上尺寸过小的问题,可以引入特征金字塔结构,根据图斑的尺寸决定采用 的特征的层级,具体的层级计算方式为
其中,S为初始图斑的对角线长度,L为计算得到的特征图的层级。
即面积较小的图斑在浅层特征扣到图斑特征,面积较大的图斑可以在深层特征扣取图斑特征,可以保证较小的图斑的特征在低层特征上能够有一个合适的尺寸,并且 特征金字塔自上而下的特征传递能够保证低层特征上同样包含深层语义信息。
在本申请上述实施例中,图斑分类器还包括:依次连接的多个融合模块和裁剪模块,多个融合模块与多个残差块一一对应连接,裁剪模块与多个融合模块连接,输出 模块与裁剪模块连接,多个融合模块的数量基于初始图斑的尺寸确定。
可选地,该方法还包括:利用多个融合模块对输入的特征进行特征融合,得到多个融合特征;利用所述裁剪模块对所述多个融合特征进行裁剪,得到裁剪后的特征; 利用所述输出模块对所述裁剪后的特征进行分类,得到所述分类结果。
上述的多个融合模块的数量基于初始图斑的尺寸确定,每个融合模块用于对输入的特征进行特征融合,多个融合模块输出的多个融合特征输入至裁剪模块,裁剪模块 用于对多个融合特征进行裁剪,得到裁剪后的特征,输出模块用于对裁剪后的特征进 行分类,得到分类结果。其中,初始图斑的尺寸越大,其对应的融合模块的数量就越 多,初始图斑的尺寸越小,其对应的融合模块的数量就越小。
上述的融合模块用于对图像特征和蒙板特征进行融合,上述的裁剪模块用于对多个融合特征进行裁剪以便裁剪后的特征中包含单一类别的特征,便于后对该裁剪后的 特征进行分类。
在一种可选的实施例中,可以利用超像素的方式对特征进行裁剪,将原有的较大的初始图斑对应的特征划分为一系列位置相邻、颜色、亮度、纹理等特征相似的各个 区域对应的特征,也即上述剪裁后的特征,由于剪裁后的特征为单一类别的特征,因 此,通过输出模块对该剪裁后的特征进行分类,可以提高分类结果的准确度。
如图6所述为图斑分类器的结构示意图,P1、P2、P3、P4为依次连接的多个融合 模块,多个模块与多个残差块一一对应连接,每个残差块输出的特征的尺寸可以不同, 多个融合模块用于将其他融合模块输出的特征与残差块输出的特征进行融合,输出融 合特征,在得到融合特征之后,可以利用裁剪模块对融合特征中包含的多个类型的特 征进行裁剪,使得裁剪后的特征包含一个类型,最后采用输出模块对裁剪后的特征进 行分类,以便得到该特征的分类结果。
在另一种可选的实施例中,可以引入特征金字塔结构,根据初始图斑的尺寸确定特征的层级,对于面积较小的图斑可以在浅层特征扣取到图斑特征,对于面积较大的 图斑可以在深层特征扣取到图斑特征,以便保证微小图斑的特征在低层特征上能够有 一个合适的尺寸,并且特征金字塔自上而下的特征传递可以保证低层特征上同样包含 深层语义信息。也即,面积越大的初始图斑,其对应的层级就越多,面积越小的初始 图斑,其对应的层级就越少。
在本申请上述实施例中,基于目标类型对初始图斑进行过滤,得到目标图斑,包括:确定目标类型与预设类型是否相同,在目标类型与预设类型不同的情况下,对初 始图斑进行过滤,得到目标图斑;在目标类型与预设类型相同的情况下,对初始图斑 进行保留,得到图斑图斑。
上述预设类型可以包括第一子预设类型和第二子预设类型。
在一种可选的实施例中,可以判断目标类型与预设类型是否相同,在目标类型与预设类型不同的情况下,说明初始图斑对应的区域变化类型并非是用户所关注的变化 类型,此时,可以对初始图斑进行过滤,在目标类型与预设类型相同的情况下,说明 初始图斑对应的区域变化类型为用户所关注的类型,此时,可以保留该初始图斑,并 确定该初始图斑为目标图斑,以提醒用户该目标图斑对应的区域发生变化。
示例性的,在农林业应用场景中,针对耕地变化检测任务,可以保留变化区域中前后期属性变化为耕地-其他、其他-耕地的像素对应的初始图斑,并根据耕地变化区 域,输出耕地的变化类型,也即,属于耕地-其他或其他-耕地的变化类型都是用户所 关注的变化类型,可以将上述两种变化类型设置为预设类型。
需要说明的是,由于最后的规则过滤环节会使检出的图斑只减不增,为了保证有足够的召回率,需要采用较低的置信度阈值来输出需要保留的初始图斑,使得用于检 测图像变化的模型具有足够高的召回率,便于后续对该模型进行训练,从而进一步的 提高模型的精确度。
在本申请上述实施例中,在确定目标类型与预设类型是否相同之前,该方法还包括:输出多个类型;接收从多个类型中选中的类型;确定选中的类型为预设类型。
上述的多个类型可以是待确定为需要过滤的类型。上述的多个类型可以是预先设置好的类型,上述的多个类型还可以是根据本次的检测任务预先确定好的可能不需要 关注的类型。在确定预设类型之前,可以根据所需要完成的检测任务来确定本次检测 过程中可能不需要关注的类型,也即上述的多个类型,用户可以从多个类型中选取实 际不需要关注的预设类型。
在一种可选的实施例中,在确定目标类型与预设类型是否相同之前,可以先输出多个类型至用户的客户端,便于用户从多个类型中确定不需要关注的类型,然后接收 用户的反馈信息,根据用户的反馈信息确定选中的类型为上述的预设类型。
示例性的,预设类型可以为耕地-耕地、水域-水域等前后类型相同的类型。若目标的类型为耕地-耕地,则说明目标类型与预设类型相同,用户并不需要关注前后类型 相同的初始图斑,此时,可以对该初始图斑进行过滤;若初始图斑的类型为耕地-其他, 则说明目标类型与预设类型不同,此时,该初始图斑为用户需要关注的图斑,可以对 该初始图斑进行保留。
在另一种可选的实施例中,上述的预设类型还可以为用户需要关注的类型,例如,用户只关注耕地-其他的变化或者其他-耕地的变化,此时可以设置预设类型为耕地- 其他或者其他-耕地,可以在目标类型与预设类型相同的情况下,由于目标类型为用户 需要关注的类型,因此,可以对初始图斑进行保留,以提醒用户该区域发生了需要关 注的变化;若目标类型与预设类型不相同,例如,目标类型为水域至空地的变化或者 空地至水域的变化,则说明该区域虽然发生了变化,但是并非是用户所需要关注的变 化,此时,可以对初始图斑进行过滤。
在本申请上述实施例中,在对第一图像和第二图像进行图像识别,确定初始图斑对应的目标类型之后,该方法还包括:输出第一图像、第二图像和目标类型;接收目 标类型对应的类型反馈结果,其中,类型反馈结果用于确定目标类型是否正确。
在一种可选的实施例中,可以输出第一图像、第二图像和目标类型,以便用户可以根据第一图像和第二图像确定目标类型是否准确,若准确,则可以根据类型反馈结 果对图斑分类器进行训练,以提高图斑分类器的分类精确度;若不准确,用户可以对 目标类型进行修改,并将修改后的类型在类型反馈结果中进行反馈,以便根据类型反 馈结果对图斑分类器进行训练,以提高图斑分类器的分类精确度。
在本申请上述实施例中,输出第一图像、第二图像和目标类型包括:确定第一子类型对应的第一显示方式,第二子类型对应的第二显示方式;按照第一显示方式在第 一图像中对初始图斑进行标记;按照第二显示方式在第二图像中对初始图斑进行标记。
上述的第一显示方式和第二显示方式可以相同也可以不同。其中,第一显示方式和第二显示方式可以在颜色、纹理上进行区分。
在一种可选的实施例中,第一子类型对应的第一显示方式可以为将初始图斑的颜色设置为黄色,第二子类型对应的第二显示方式可以为将初始图斑的颜色设置为绿色。 第一子类型对应的第一显示方式可以为利用实线对初始图斑进行填充显示,第二子类 型对应的显示方式可以为利用虚线对初始图斑进行填充显示。
在本申请上述实施例中,在对第一图像和第二图像进行变化检测,确定初始图斑之后,该方法还包括:输出第一图像、第二图像和初始图斑;接收初始图斑对应的图 斑反馈结果,其中,图斑反馈结果基于第一图像和第二图像,对初始图斑进行修改而 得到;确定图斑反馈结果对应的第一蒙板信息和第二蒙板信息。
在一种可选的实施例中,可以输出第一图像、第二图像和初始图斑,以便用户可以根据第一图像和第二图像对初始图斑的覆盖区域进行调整,使得初始图斑可以对第 一图像和第二图像中变化的区域进行覆盖,还可以避免初始图斑对未产生变化的区域 进行覆盖,从而提高初始图斑的精确度。在对初始图斑进行修改得到图斑反馈结果之 后,可以根据图斑反馈结果中修改后的初始图斑确定第一蒙板信息和第二蒙板信息, 以便根据该第一蒙板信息和第二蒙板信息进行后续的图像识别,有利于提高后续图像 识别的精确度。
在另一种可选的实施例中,可以根据图斑反馈结果对用于进行第一图像和第二图像变化检测的模型进行训练,以便提高该模型的精确度,使得利用该模型得到的初始 图斑的准确度更高。
在本申请上述实施例中,在确定初始图斑对应的第一蒙板信息和第二蒙板信息之后,该方法还包括:输出第一图像、第二图像、初始图斑、第一蒙板信息和第二蒙板 信息;接收第一蒙板信息对应的第一蒙板反馈结果,和第二蒙板信息对应的第二蒙板 反馈结果,其中,第一蒙板反馈结果基于第一图像和初始图斑,对第一蒙板信息进行 修改而得到,第二蒙板反馈结果基于第二图像和初始图斑,对第二蒙板信息进行修改 而得到;分别基于第一蒙板反馈结果和第二蒙板反馈结果,对第一图像和第二图像进 行图像识别,得到目标类型。
在一种可选的实施例中,可以输出第一图像、第二图像、初始图斑、第一蒙板信 息和第二蒙板信息,以便用户确定第一蒙板信息和第二蒙板信息是否准确,在第一蒙 板信息和第二蒙板信息准确度较低的情况下,用户可以根据初始图斑在第一图像中对 应的区域对第一蒙板信息进行修改,得到第一蒙板反馈结果,可以根据初始图斑在第 二图像中对应的区域对第二蒙板信息进行修改,得到第二蒙板反馈结果,其中,第一 蒙板反馈结果中包含有修改后的第一蒙板信息,可以根据修改后的第一蒙板信息对第 一图像进行图像识别,使得到的第一子类型更加的准确,可以根据修改后的第二蒙板 信息对第二图像进行图像识别,使得到的第二子类型更加的准确。
下面结合图7对本申请一种优选的实施例进行详细说明,该方法可以由计算机终端或者服务器执行,如图7所示,该方法可以包括如下步骤:
步骤S701,训练通用变化检测模型,其中,通用变化检测模型用于对第一图像和第二图像进行识别;
上述的通用变化检测模型主要用于对第一图像和第二图像之间的通用变化进行检 测,以便确定出通用变化区域对应的初始图斑。
可选的,首先搭建如图5所示的二分类变化检测网络,采用efficient-b0作为主干网络提取第一图像对应的特征和第二图像对应的特征,可以将第一图像对应的特征 和第二图像对应的特征进行拼接,输入到cascade bifpn结构中做特征交互,得到目 标特征,可以将目标特征输入到解码器中,得到最终的预测结果,也即,上述第一图 像和第二图像中图像发生变化区域对应的初始图斑。
可选的,可以在任务数据上进行训练划分出14932对第一图像和第二图像作为训练集合,3494对第一图像和第二图像作为测试集,其中,图像尺寸可以均为1024*1024, 所有影像中初始图斑的区域中的标注均按照动土,在建大棚,在建建筑,地膜,大棚, 建筑,无作物耕地,有作物耕地,林地,水域,硬化空地,绿地,自然裸地,运动场 等多个类别之间的相互转换规则进行。具体的,可以采用0.005的初始学习率,32的 批大小,迭代500,000次。
步骤S702,对初始图斑进行类别标注,得到带有类别标签的初始图斑;
可选的,可以按照在建大棚,在建建筑,地膜,大棚,建筑,无作物耕地,有作 物耕地,林地,水域,硬化空地,绿地,自然裸地,运动场等多个类别对上述的初始 图斑进行属性标注,并以每个图斑的几何中心从第一图像和第二图像中切取400*400 大小的图像以及对应的图斑蒙板用于构建用于进行图斑分类的数据集,最终可以得到 2,230,032组训练图斑和179,864对测试图斑。
步骤S703,搭建能够融合初始图斑对应的蒙板区域信息和图像信息的深度神经网络。
可选的,如图6所示,残差卷积神经网络的基础上加入蒙板信息融合分支,首先 可以采用最近邻方法将蒙板尺寸与第二个残差块输出的特征对齐,然后使用一次卷积 操作将单通道的蒙板拓展至512维得到蒙板特征,然后将蒙板特征与图像特征相加输 入到后续的网络,实现了将蒙板区域信息融入到分类网络的目的。另外,为了解决面 积较小的图斑受背景干扰严重的问题,可以在征途的特征图中使用初始图斑的外接矩 形对图斑区域的特征做扣取,考虑到小面积图斑在深层特征上尺寸过小的问题,可以 引入特征金字塔结构,根据初始图斑的尺寸决定采用特征的层级。
步骤S704,使用带有类别标签的初始图斑对深度神经网络进行训练;
可选的,可以使用随机梯度下降法按照步骤S702中构件的图斑分类训练数据对图斑分类器进行训练,其中,输出学习率为0.1、批大小为512,一共可以训练50个批 次。
步骤S705,可以将第一图像和第二图像输入到通用变化检测模型中,可以得到产生通用变化的初始图斑。
步骤S706,对上述的初始图斑进行预分割,得到预分割后的初始图斑。
步骤S707,利用图斑分类器对预分割后的初始图斑进行属性分类;
步骤S708,按照场景需要的类别对图斑进行过滤,得到初始图斑中用户关注的变化类型对应的图斑。
可选的,针对耕地变化检测任务,可以保留变化区域中前后期属性变化为耕地-其他、其他-耕地的像素。通过预测得到的耕地变化区域,可以输出详细的地物变化类 型。
本申请的效果可以通过以下实验进一步说明:
1)实验条件
本实验采用任务场景数据集,采用pytorch深度学习框架,GPU配置为NVIDIATesla P100。
2)实验内容
本实验数据源为14,932对训练数据,3,494对测试数据,图像尺寸均为1024*1024,用于训练和测试通用二分类变化检测模型。从中切取了2,230,032组训练图斑和 179,864组测试图斑,用于训练和测试图斑分类模型。我们采用交并比(IoU)作为评 价指标,在评价耕地变化的性能时,仅对包含耕地变化类型的数据进行测试。
3)对比方法
为了验证所提方法的可行性,可以对比手工设计的耕地变化检测模型:
在完成类别标注的通用变化检测数据集中按照耕地变化的规则对标注图斑进行过 滤,得到用于训练耕地变化检测模型的训练集和测试集。为了公平对比,可以将通用 变化模型作为耕地变化模型的预训练模型,在耕地变化数据集上对模型做微调。
4)实验结果
可以采用五折交叉验证的平均分类精度(meanOA)作为评价指标,具体结果如下表所示:
Method | IoU | Recall | Precision |
耕地变化检测模型 | 0.459 | 0.650 | 0.610 |
OurMethod | 0.448 | 0.645 | 0.591 |
由表可见,上述的方法能够在性能上接近用于耕地变化检测的专有模型,更重要的是,本申请所采用的方法未针对耕地变化这一任务进行特殊优化,并且能够获得每 个耕地变化图斑的变化类型,且能够非常灵活的扩展到其他耕地相关变化或其他地物 之间的变化检测任务上。
以上所述,仅为本发明较佳的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到的变化或替 换,都应涵盖在本发明的保护范围之内。
需要说明的是,对于前述的各方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本申请并不受所描述的动作顺序的限 制,因为依据本申请,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术 人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作和模块 并不一定是本申请所必须的。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到根据上述实施例的方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但 很多情况下前者是更佳的实施方式。基于这样的理解,本申请的技术方案本质上或者 说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存 储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端 设备(可以是手机,计算机,服务器,或者网络设备等)执行本申请各个实施例所述 的方法。
实施例2
根据本申请实施例,还提供了一种图像处理方法,需要说明的是,在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行,并且,虽然在 流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于此处的顺序执行所示出 或描述的步骤。
图8是根据本申请实施例的一种图像处理方法的流程图,如图8所示,该方法可 以包括如下步骤:
步骤S802,获取第一耕地图像和第二耕地图像。
其中,第一耕地图像和第二耕地图像为不同时间对同一耕地区域进行采集得到的图像。
步骤S804,对第一耕地图像和第二耕地图像进行变化检测,确定初始耕地图斑。
其中,初始耕地图斑用于表征第一耕地图像和第二耕地图像中耕地图像发生变化的区域。
步骤S806,对第一耕地图像和第二耕地图像进行图像识别,确定初始耕地图斑对应的目标类型。
步骤S808,基于目标类型对初始耕地图斑进行过滤,得到目标耕地图斑,其中, 目标耕地图斑对应的类型为耕地类型。
上述的初始耕地图斑可以是第一耕地图像和第二耕地图像中发生变化的区域,具体的,可以是耕地上构建的大棚导致耕地图像发生变化。上述的耕地类型可以为耕地- 大棚或者大棚-耕地的类型,也即,用户需要关注耕地上是否建设大棚或者耕地上已有 的大棚是否正常,可以根据大棚和耕地的类型对初始耕地图斑进行过滤,得到包含有 大棚变化为耕地的目标耕地图斑或者耕地变化为大棚的目标耕地图斑,通过目标类型 对初始耕地图斑进行过滤,得到目标耕地图斑,以便用户可以关注耕地中大棚和耕地 的类型变化。
本申请实施例中,目标类型包括:初始耕地图斑在第一耕地图像中的第一子类型,和初始耕地图斑在第二耕地图像中的第二子类型,其中,对第一耕地图像和第二耕地 图像进行耕地图像识别,确定初始耕地图斑对应的目标类型包括:确定初始耕地图斑 对应的第一蒙板信息和第二蒙板信息;利用图斑分类器对第一蒙板信息和第一耕地图 像进行耕地图像识别,得到第一子类型;利用图斑分类器对第二蒙板信息和第二耕地 图像进行耕地图像识别,得到第二子类型。
本申请实施例中,图斑分类器至少包括:蒙板信息输入模块、耕地图像输入模块、特征提取模块和输出模块,其中,特征提取模块分别与蒙板信息输入模块和耕地图像 输入模块连接,输出模块与特征提取模块连接。
本申请实施例中,利用图斑分类器对第一蒙板信息和第一耕地图像进行耕地图像识别,得到第一子类型,或利用图斑分类器对第二蒙板信息和第二耕地图像进行耕地 图像识别,得到第二子类型包括:利用蒙板信息输入模块对第一蒙板信息进行卷积操 作,得到第一蒙板特征,或利用蒙板信息输入模块对第二蒙板信息进行卷积操作,得 到第二蒙板特征;利用耕地图像输入模块对第一耕地图像进行卷积操作,得到第一耕 地图像特征,或利用耕地图像输入模块对第二耕地图像进行卷积操作,得到第二耕地 图像特征;利用特征提取模块对第一蒙板特征和第一耕地图像特征进行特征提取,得 到第一耕地图斑特征,或利用特征提取模块对第二蒙板特征和第二耕地图像特征进行 特征提取,得到第二耕地图斑特征;利用输出模块对第一耕地图斑特征进行分类,得 到第一子类型,或利用输出模块对第二耕地图斑特征进行分类,得到第二子类型。
本申请实施例中,特征提取模块包括:依次连接的多个残差块,其中,耕地图像 输入模块与多个残差块中的第一个残差块连接,蒙板信息输入模块与多个残差块中的 目标残差块连接。
本申请实施例中,目标残差块用于利用蒙板特征确定耕地图像特征中的目标耕地图斑特征,并将目标耕地图斑特征输入至下一个残差块。
本申请实施例中,图斑分类器还包括:依次连接的多个融合模块和裁剪模块,多个融合模块与多个残差块一一对应连接,裁剪模块与多个融合模块连接,输出模块与 裁剪模块连接,多个融合模块的数量基于初始耕地图斑的尺寸确定。
本申请实施例中,该方法还包括:利用多个融合模块对输入的特征进行特征融合,得到多个融合特征;利用裁剪模块对多个融合特征进行裁剪,得到裁剪后的特征;利 用输出模块对裁剪后的特征进行分类,得到分类结果。
本申请实施例中,基于目标类型对初始耕地图斑进行过滤,得到目标耕地图斑包括:确定目标类型与耕地类型是否相同;在目标类型与耕地类型不同的情况下,对初 始耕地图斑进行过滤,得到目标耕地图斑;在目标类型与耕地类型相同的情况下,对 初始耕地图斑进行保留,得到目标耕地图斑。
本申请实施例中,在确定目标类型与耕地类型是否相同之前,该方法还包括:输出多个类型;接收从多个类型中选中的类型;确定选中的类型为耕地类型。
本申请实施例中,在对第一耕地图像和第二耕地图像进行耕地图像识别,确定初始耕地图斑对应的目标类型之后,该方法还包括:输出第一耕地图像、第二耕地图像 和目标类型;接收目标类型对应的类型反馈结果,其中,类型反馈结果用于确定目标 类型是否正确。
本申请实施例中,输出第一耕地图像、第二耕地图像和目标类型包括:确定第一子类型对应的第一显示方式,第二子类型对应的第二显示方式;按照第一显示方式在 第一耕地图像中对初始耕地图斑进行标记;按照第二显示方式在第二耕地图像中对初 始耕地图斑进行标记。
本申请实施例中,在对第一耕地图像和第二耕地图像进行变化检测,确定初始耕地图斑之后,该方法还包括:输出第一耕地图像、第二耕地图像和初始耕地图斑;接 收初始耕地图斑对应的耕地图斑反馈结果,其中,耕地图斑反馈结果基于第一耕地图 像和第二耕地图像,对初始耕地图斑进行修改而得到;确定耕地图斑反馈结果对应的 第一蒙板信息和第二蒙板信息。
需要说明的是,本申请上述实施例中涉及到的优选实施方案与实施例1提供的方案以及应用场景、实施过程相同,但不仅限于实施例1所提供的方案。
实施例3
根据本申请实施例,还提供了一种用于实施上述图像处理方法的图像处理装置,如图9所示,该装置900包括:获取模块902、检测模块904、确定模块906、过滤模 块908。
其中,获取模块用于获取第一图像和第二图像,其中,第一图像和第二图像为不同时间对同一区域进行采集得到的图像;检测模块用于对第一图像和第二图像进行变 化检测,确定初始图斑,其中,初始图斑用于表征第一图像和第二图像中图像发生变 化的区域;确定模块用于对第一图像和第二图像进行图像识别,确定初始图斑对应的 目标类型;识别模块用于基于目标类型对初始图斑进行过滤,得到目标图斑,其中, 目标图斑对应的类型为预设类型。
此处需要说明的是,上述获取模块902、检测模块904、确定模块906、过滤模块 908对应于实施例1中的步骤S202至步骤S208,四个模块与对应的步骤所实现的实例 和应用场景相同,但不限于上述实施例1所公开的内容。需要说明的是,上述模块作 为装置的一部分可以运行在实施例1提供的计算机终端10中。
本申请上述实施例中,确定模块包括:第一确定单元、识别单元。
其中,第一确定单元用于确定初始图斑对应的第一蒙板信息和第二蒙板信息;识别单元用于利用图斑分类器对第一蒙板信息和第一图像进行图像识别,得到第一子类 型;识别单元还用于利用图斑分类器对第二蒙板信息和第二图像进行图像识别,得到 第二子类型。
本申请上述实施例中,图斑分类器至少包括:蒙板信息输入模块、图像输入模块、特征提取模块和输出模块,其中,特征提取模块分别与蒙板信息输入模块和图像输入 模块连接,输出模块与特征提取模块连接。
本申请上述实施例中,识别单元用于利用蒙板信息输入模块对第一蒙板信息进行卷积操作,得到第一蒙板特征,或利用蒙板信息输入模块对第二蒙板信息进行卷积操 作,得到第二蒙板特征;利用图像输入模块对第一图像进行卷积操作,得到第一图像 特征,或利用图像输入模块对第二图像进行卷积操作,得到第二图像特征;利用特征 提取模块对第一蒙板特征和第一图像特征进行特征提取,得到第一图斑特征,或利用 特征提取模块对第二蒙板特征和第二图像特征进行特征提取,得到第二图斑特征;利 用输出模块对第一图斑特征进行分类,得到第一子类型,或利用输出模块对第二图斑 特征进行分类,得到第二子类型。
本申请上述实施例中,特征提取模块包括:依次连接的多个残差块,其中,图像 输入模块与多个残差块中的第一个残差块连接,蒙板信息输入模块与多个残差块中的 目标残差块连接。
本申请上述实施例中,图斑分类器还包括:依次连接的多个融合模块和裁剪模块,多个融合模块与多个残差块一一对应连接,裁剪模块与多个融合模块连接,输出模块 与裁剪模块连接,多个融合模块的数量基于初始图斑的尺寸确定。
本申请上述实施例中,该装置还包括:融合模块、裁剪模块、分类模块。
其中,融合模块用于利用多个融合模块对输入的特征进行特征融合,得到多个融合特征;裁剪模块用于利用裁剪模块对多个融合特征进行裁剪,得到裁剪后的特征; 分类模块用于利用输出模块对裁剪后的特征进行分类,得到分类结果。
本申请上述实施例中,过滤模块包括:第二确定单元、过滤单元、保留单元。
其中,第二确定单元用于确定目标类型与预设类型是否相同;过滤单元用于在目标类型与预设类型不同的情况下,对初始图斑进行过滤,得到目标图斑;保留单元, 用于在目标类型与预设类型相同的情况下,对初始图斑进行保留,得到目标图斑。
本申请上述实施例中,该装置还包括:输出模块、接收模块。
其中,输出模块用于输出多个类型;接收模块用于接收从多个类型中选中的类型;确定模块还用于确定选中的类型为预设类型。
本申请上述实施例中,输出模块还用于输出第一图像、第二图像和目标类型;接收模块还用于接收目标类型对应的类型反馈结果,其中,类型反馈结果用于确定目标 类型是否正确。
本申请上述实施例中,输出模块包括:第三确定单元、标记单元。
其中,第三确定单元用于确定第一子类型对应的第一显示方式,第二子类型对应的第二显示方式;标记单元用于按照第一显示方式在第一图像中对初始图斑进行标记; 标记单元还用于按照第二显示方式在第二图像中对初始图斑进行标记。
本申请上述实施例中,输出模块还用于输出第一图像、第二图像和初始图斑;接收模块还用于接收初始图斑对应的图斑反馈结果,其中,图斑反馈结果基于第一图像 和第二图像,对初始图斑进行修改而得到;确定模块还用于确定图斑反馈结果对应的 第一蒙板信息和第二蒙板信息。
需要说明的是,本申请上述实施例中涉及到的优选实施方案与实施例1提供的方案以及应用场景、实施过程相同,但不仅限于实施例1所提供的方案。
实施例4
根据本申请实施例,还提供了一种用于实施上述图像处理方法的图像处理装置,如图10所示,该装置1000包括:获取模块1002、检测模块1004、确定模块1006、 过滤模块1008。
其中,获取模块用于获取第一耕地图像和第二耕地图像,其中,第一耕地图像和第二耕地图像为不同时间对同一耕地区域进行采集得到的图像;检测模块用于对第一 耕地图像和第二耕地图像进行变化检测,确定初始耕地图斑,其中,初始耕地图斑用 于表征第一耕地图像和第二耕地图像中耕地图像发生变化的区域;确定模块,用于对 第一耕地图像和第二耕地图像进行图像识别,确定初始耕地图斑对应的目标类型;过 滤模块,用于基于目标类型对初始耕地图斑进行过滤,得到目标耕地图斑,其中,目 标耕地图斑对应的类型为耕地类型。
此处需要说明的是,上述获取模块1002、检测模块1004、确定模块1006、过滤 模块1008对应于实施例2的步骤S802至步骤S808,四个模块与对应的步骤所实现的 实例和应用场景相同,但不限于上述实施例2所公开的内容。需要说明的是,上述模 块作为装置的一部分可以运行在实施例1提供的计算机终端10中。
需要说明的是,本申请上述实施例中涉及到的优选实施方案与实施例2提供的方案以及应用场景、实施过程相同,但不仅限于实施例2所提供的方案。
实施例5
本申请的实施例可以提供一种计算机终端,该计算机终端可以是计算机终端群中的任意一个计算机终端设备。可选地,在本实施例中,上述计算机终端也可以替换为 移动终端等终端设备。
可选地,在本实施例中,上述计算机终端可以位于计算机网络的多个网络设备中的至少一个网络设备。
在本实施例中,上述计算机终端可以执行图像处理方法中以下步骤的程序代码:获取第一图像和第二图像,其中,第一图像和第二图像为不同时间对同一区域进行采 集得到的图像;对第一图像和第二图像进行变化检测,确定初始图斑,其中,初始图 斑用于表征第一图像和第二图像中图像发生变化的区域;对第一图像和第二图像进行 图像识别,确定初始图斑对应的目标类型;基于目标类型对初始图斑进行过滤,得到 目标图斑,其中,目标图斑对应的类型为预设类型。
可选地,图11是根据本申请实施例的一种计算机终端的结构框图,如图11所示,该计算机终端A可以包括:一个或多个(图中仅示出一个)处理器、存储器。
其中,存储器可用于存储软件程序以及模块,如本申请实施例中的图像处理方法和装置对应的程序指令/模块,处理器通过运行存储在存储器内的软件程序以及模块, 从而执行各种功能应用以及数据处理,即实现上述的图像处理方法。存储器可包括高 速随机存储器,还可以包括非易失性存储器,如一个或者多个磁性存储装置、闪存、 或者其他非易失性固态存储器。在一些实例中,存储器可进一步包括相对于处理器远 程设置的存储器,这些远程存储器可以通过网络连接至终端A。上述网络的实例包括 但不限于互联网、企业内部网、局域网、移动通信网及其组合。
处理器可以通过传输装置调用存储器存储的信息及应用程序,以执行下述步骤:获取第一图像和第二图像,其中,第一图像和第二图像为不同时间对同一区域进行采 集得到的图像;对第一图像和第二图像进行变化检测,确定初始图斑,其中,初始图 斑用于表征第一图像和第二图像中图像发生变化的区域;对第一图像和第二图像进行 图像识别,确定初始图斑对应的目标类型;基于目标类型对初始图斑进行过滤,得到 目标图斑,其中,目标图斑对应的类型为预设类型。
可选的,上述处理器还可以执行如下步骤的程序代码:确定初始图斑对应的第一蒙板信息和第二蒙板信息;利用图斑分类器对第一蒙板信息和第一图像进行图像识别, 得到第一子类型;利用图斑分类器对第二蒙板信息和第二图像进行图像识别,得到第 二子类型。
可选的,上述处理器还可以执行如下步骤的程序代码:图斑分类器至少包括:蒙板信息输入模块、图像输入模块、特征提取模块和输出模块,其中,特征提取模块分 别与蒙板信息输入模块和图像输入模块连接,输出模块与特征提取模块连接。
可选的,上述处理器还可以执行如下步骤的程序代码:利用蒙板信息输入模块对第一蒙板信息进行卷积操作,得到第一蒙板特征,或利用蒙板信息输入模块对第二蒙 板信息进行卷积操作,得到第二蒙板特征;利用图像输入模块对第一图像进行卷积操 作,得到第一图像特征,或利用图像输入模块对第二图像进行卷积操作,得到第二图 像特征;利用特征提取模块对第一蒙板特征和第一图像特征进行特征提取,得到第一 图斑特征,或利用特征提取模块对第二蒙板特征和第二图像特征进行特征提取,得到 第二图斑特征;利用输出模块对第一图斑特征进行分类,得到第一子类型,或利用输 出模块对第二图斑特征进行分类,得到第二子类型。
可选的,上述处理器还可以执行如下步骤的程序代码:特征提取模块包括:依次连接的多个残差块,其中,图像输入模块与多个残差块中的第一个残差块连接,蒙板 信息输入模块与多个残差块中的目标残差块连接。
可选的,上述处理器还可以执行如下步骤的程序代码:目标残差块用于利用蒙板特征确定图像特征中的目标图斑特征,并将目标图斑特征输入至下一个残差块。
可选的,上述处理器还可以执行如下步骤的程序代码:图斑分类器还包括:依次连接的多个融合模块和裁剪模块,多个融合模块与多个残差块一一对应连接,裁剪模 块与多个融合模块连接,输出模块与裁剪模块连接,多个融合模块的数量基于初始图 斑的尺寸确定。
可选的,上述处理器还可以执行如下步骤的程序代码:利用多个融合模块对输入的特征进行特征融合,得到多个融合特征;利用裁剪模块对多个融合特征进行裁剪, 得到裁剪后的特征;利用输出模块对裁剪后的特征进行分类,得到分类结果。
可选的,上述处理器还可以执行如下步骤的程序代码:确定目标类型与预设类型是否相同;在目标类型与预设类型不同的情况下,对初始图斑进行过滤,得到目标图 斑;在目标类型与预设类型相同的情况下,对初始图斑进行保留,得到目标图斑。
可选的,上述处理器还可以执行如下步骤的程序代码:输出多个类型;接收从多个类型中选中的类型;确定选中的类型为预设类型。
可选的,上述处理器还可以执行如下步骤的程序代码:输出第一图像、第二图像和目标类型;接收目标类型对应的类型反馈结果,其中,类型反馈结果用于确定目标 类型是否正确。
可选的,上述处理器还可以执行如下步骤的程序代码:确定第一子类型对应的第一显示方式,第二子类型对应的第二显示方式;按照第一显示方式在第一图像中对初 始图斑进行标记;按照第二显示方式在第二图像中对初始图斑进行标记。
可选的,上述处理器还可以执行如下步骤的程序代码:输出第一图像、第二图像和初始图斑;接收初始图斑对应的图斑反馈结果,其中,图斑反馈结果基于第一图像 和第二图像,对初始图斑进行修改而得到;确定图斑反馈结果对应的第一蒙板信息和 第二蒙板信息。
处理器可以通过传输装置调用存储器存储的信息及应用程序,以执行下述步骤:获取第一耕地图像和第二耕地图像,其中,第一耕地图像和第二耕地图像为不同时间 对同一耕地区域进行采集得到的图像;对第一耕地图像和第二耕地图像进行变化检测, 确定初始耕地图斑,其中,初始耕地图斑用于表征第一耕地图像和第二耕地图像中耕 地图像发生变化的区域;对第一耕地图像和第二耕地图像进行图像识别,确定初始耕 地图斑对应的目标类型;基于目标类型对初始耕地图斑进行过滤,得到目标耕地图斑, 其中,目标耕地图斑对应的类型为耕地类型。
本领域普通技术人员可以理解,图11所示的结构仅为示意,计算机终端也可以是智能手机(如Android手机、iOS手机等)、平板电脑、掌上电脑以及移动互联网设备 (Mobile Internet Devices,MID)、PAD等终端设备。图11其并不对上述电子装置 的结构造成限定。例如,计算机终端A还可包括比图11中所示更多或者更少的组件(如 网络接口、显示装置等),或者具有与图11所示不同的配置。
本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以 通过程序来指令终端设备相关的硬件来完成,该程序可以存储于一计算机可读存储介质中,存储介质可以包括:闪存盘、只读存储器(Read-Only Memory,ROM)、随机存 取器(Random Access Memory,RAM)、磁盘或光盘等。
实施例6
本申请的实施例还提供了一种存储介质。可选地,在本实施例中,上述存储介质可以用于保存上述实施例所提供的图像处理方法所执行的程序代码。
可选地,在本实施例中,上述存储介质可以位于计算机网络中计算机终端群中的任意一个计算机终端中,或者位于移动终端群中的任意一个移动终端中。
可选地,在本实施例中,存储介质被设置为存储用于执行以下步骤的程序代码:获取第一图像和第二图像,其中,第一图像和第二图像为不同时间对同一区域进行采 集得到的图像;对第一图像和第二图像进行变化检测,确定初始图斑,其中,初始图 斑用于表征第一图像和第二图像中图像发生变化的区域;对第一图像和第二图像进行 图像识别,确定初始图斑对应的目标类型;基于目标类型对初始图斑进行过滤,得到 目标图斑,其中,目标图斑对应的类型为预设类型。
可选的,上述存储介质还被设置为存储用于执行以下步骤的程序代码:确定初始图斑对应的第一蒙板信息和第二蒙板信息;利用图斑分类器对第一蒙板信息和第一图 像进行图像识别,得到第一子类型;利用图斑分类器对第二蒙板信息和第二图像进行 图像识别,得到第二子类型。
可选的,上述存储介质还被设置为存储用于执行以下步骤的程序代码:蒙板信息输入模块、图像输入模块、特征提取模块和输出模块,其中,特征提取模块分别与蒙 板信息输入模块和图像输入模块连接,输出模块与特征提取模块连接。
可选的,上述存储介质还被设置为存储用于执行以下步骤的程序代码:利用蒙板信息输入模块对第一蒙板信息进行卷积操作,得到第一蒙板特征,或利用蒙板信息输 入模块对第二蒙板信息进行卷积操作,得到第二蒙板特征;利用图像输入模块对第一 图像进行卷积操作,得到第一图像特征,或利用图像输入模块对第二图像进行卷积操 作,得到第二图像特征;利用特征提取模块对第一蒙板特征和第一图像特征进行特征 提取,得到第一图斑特征,或利用特征提取模块对第二蒙板特征和第二图像特征进行 特征提取,得到第二图斑特征;利用输出模块对第一图斑特征进行分类,得到第一子 类型,或利用输出模块对第二图斑特征进行分类,得到第二子类型。
可选的,上述存储介质还被设置为存储用于执行以下步骤的程序代码:特征提取模块包括:依次连接的多个残差块,其中,图像输入模块与多个残差块中的第一个残 差块连接,蒙板信息输入模块与多个残差块中的目标残差块连接。
可选的,上述存储介质还被设置为存储用于执行以下步骤的程序代码:目标残差块用于利用蒙板特征确定图像特征中的目标图斑特征,并将目标图斑特征输入至下一 个残差块。
可选的,上述存储介质还被设置为存储用于执行以下步骤的程序代码:图斑分类器还包括:依次连接的多个融合模块和裁剪模块,多个融合模块与多个残差块一一对 应连接,裁剪模块与多个融合模块连接,输出模块与裁剪模块连接,多个融合模块的 数量基于初始图斑的尺寸确定。
可选的,上述存储介质还被设置为存储用于执行以下步骤的程序代码:利用多个融合模块对输入的特征进行特征融合,得到多个融合特征;利用裁剪模块对多个融合 特征进行裁剪,得到裁剪后的特征;利用输出模块对裁剪后的特征进行分类,得到分 类结果。
可选的,上述存储介质还被设置为存储用于执行以下步骤的程序代码:确定目标类型与预设类型是否相同;在目标类型与预设类型不同的情况下,对初始图斑进行过 滤,得到目标图斑;在目标类型与预设类型相同的情况下,对初始图斑进行保留,得 到目标图斑。
可选的,上述存储介质还被设置为存储用于执行以下步骤的程序代码:输出多个类型;接收从多个类型中选中的类型;确定选中的类型为预设类型。
可选的,上述存储介质还被设置为存储用于执行以下步骤的程序代码:输出第一图像、第二图像和目标类型;接收目标类型对应的类型反馈结果,其中,类型反馈结 果用于确定目标类型是否正确。
可选的,上述存储介质还被设置为存储用于执行以下步骤的程序代码:确定第一子类型对应的第一显示方式,第二子类型对应的第二显示方式;按照第一显示方式在 第一图像中对初始图斑进行标记;按照第二显示方式在第二图像中对初始图斑进行标 记。
可选的,上述存储介质还被设置为存储用于执行以下步骤的程序代码:输出第一图像、第二图像和初始图斑;接收初始图斑对应的图斑反馈结果,其中,图斑反馈结 果基于第一图像和第二图像,对初始图斑进行修改而得到;确定图斑反馈结果对应的 第一蒙板信息和第二蒙板信息。
可选地,在本实施例中,存储介质被设置为存储用于执行以下步骤的程序代码:获取第一耕地图像和第二耕地图像,其中,第一耕地图像和第二耕地图像为不同时间 对同一耕地区域进行采集得到的图像;对第一耕地图像和第二耕地图像进行变化检测, 确定初始耕地图斑,其中,初始耕地图斑用于表征第一耕地图像和第二耕地图像中耕 地图像发生变化的区域;对第一耕地图像和第二耕地图像进行图像识别,确定初始耕 地图斑对应的目标类型;基于目标类型对初始耕地图斑进行过滤,得到目标耕地图斑, 其中,目标耕地图斑对应的类型为耕地类型。
上述本申请实施例序号仅仅为了描述,不代表实施例的优劣。
在本申请的上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。
在本申请所提供的几个实施例中,应该理解到,所揭露的技术内容,可通过其它的方式实现。其中,以上所描述的装置实施例仅仅是示意性的,例如所述单元的划分, 仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件 可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所 显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,单元或模 块的间接耦合或通信连接,可以是电性或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到 多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例 方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成 的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时, 可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的 形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一 台计算机设备(可为个人计算机、服务器或者网络设备等)执行本申请各个实施例所 述方法的全部或部分步骤。而前述的存储介质包括:U盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、移动硬盘、磁碟或者光盘 等各种可以存储程序代码的介质。
以上所述仅是本申请的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本申请原理的前提下,还可以做出若干改进和润饰,这些改进和润 饰也应视为本申请的保护范围。
Claims (14)
1.一种图像处理方法,其特征在于,包括:
获取第一图像和第二图像,其中,所述第一图像和所述第二图像为不同时间对同一区域进行采集得到的图像;
对所述第一图像和所述第二图像进行变化检测,确定初始图斑,其中,所述初始图斑用于表征所述第一图像和所述第二图像中图像发生变化的区域;
对所述第一图像和所述第二图像进行图像识别,确定所述初始图斑对应的目标类型;
基于所述目标类型对所述初始图斑进行过滤,得到目标图斑,其中,所述目标图斑对应的类型为预设类型。
2.根据权利要求1所述的方法,其特征在于,所述目标类型包括:所述初始图斑在所述第一图像中的第一子类型,和所述初始图斑在所述第二图像中的第二子类型,其中,对所述第一图像和所述第二图像进行图像识别,确定所述初始图斑对应的目标类型包括:
确定所述初始图斑对应的第一蒙板信息和第二蒙板信息;
利用图斑分类器对所述第一蒙板信息和所述第一图像进行图像识别,得到所述第一子类型;
利用所述图斑分类器对所述第二蒙板信息和所述第二图像进行图像识别,得到所述第二子类型。
3.根据权利要求2所述的方法,其特征在于,所述图斑分类器至少包括:蒙板信息输入模块、图像输入模块、特征提取模块和输出模块,其中,所述特征提取模块分别与所述蒙板信息输入模块和所述图像输入模块连接,所述输出模块与所述特征提取模块连接。
4.根据权利要求3所述的方法,其特征在于,利用图斑分类器对所述第一蒙板信息和所述第一图像进行图像识别,得到所述第一子类型,或利用所述图斑分类器对所述第二蒙板信息和所述第二图像进行图像识别,得到所述第二子类型包括:
利用所述蒙板信息输入模块对所述第一蒙板信息进行卷积操作,得到第一蒙板特征,或利用所述蒙板信息输入模块对所述第二蒙板信息进行卷积操作,得到第二蒙板特征;
利用所述图像输入模块对所述第一图像进行卷积操作,得到第一图像特征,或利用所述图像输入模块对所述第二图像进行卷积操作,得到第二图像特征;
利用所述特征提取模块对所述第一蒙板特征和所述第一图像特征进行特征提取,得到第一图斑特征,或利用所述特征提取模块对所述第二蒙板特征和所述第二图像特征进行特征提取,得到第二图斑特征;
利用所述输出模块对所述第一图斑特征进行分类,得到所述第一子类型,或利用所述输出模块对所述第二图斑特征进行分类,得到所述第二子类型。
5.根据权利要求4所述的方法,其特征在于,所述特征提取模块包括:依次连接的多个残差块,其中,所述图像输入模块与所述多个残差块中的第一个残差块连接,所述蒙板信息输入模块与所述多个残差块中的目标残差块连接。
6.根据权利要求5所述的方法,其特征在于,所述图斑分类器还包括:依次连接的多个融合模块和裁剪模块,所述多个融合模块与所述多个残差块一一对应连接,所述裁剪模块与所述多个融合模块连接,所述输出模块与所述裁剪模块连接,所述多个融合模块的数量基于所述初始图斑的尺寸确定。
7.根据权利要求6所述的方法,其特征在于,基于所述目标类型对所述初始图斑进行过滤,得到目标图斑包括:
确定所述目标类型与所述预设类型是否相同;
在所述目标类型与所述预设类型不同的情况下,对所述初始图斑进行过滤,得到所述目标图斑;
在所述目标类型与所述预设类型相同的情况下,对所述初始图斑进行保留,得到所述目标图斑。
8.根据权利要求7所述的方法,其特征在于,在确定所述目标类型与所述预设类型是否相同之前,所述方法还包括:
输出多个类型;
接收从所述多个类型中选中的类型;
确定所述选中的类型为所述预设类型。
9.根据权利要求6所述的方法,其特征在于,在对所述第一图像和所述第二图像进行图像识别,确定所述初始图斑对应的目标类型之后,所述方法还包括:
输出所述第一图像、所述第二图像和所述目标类型;
接收所述目标类型对应的类型反馈结果,其中,所述类型反馈结果用于确定所述目标类型是否正确。
10.根据权利要求9所述的方法,其特征在于,输出所述第一图像、所述第二图像和所述目标类型包括:
确定所述第一子类型对应的第一显示方式,所述第二子类型对应的第二显示方式;
按照所述第一显示方式在所述第一图像中对所述初始图斑进行标记;
按照所述第二显示方式在所述第二图像中对所述初始图斑进行标记。
11.根据权利要求6所述的方法,其特征在于,在对所述第一图像和所述第二图像进行变化检测,确定初始图斑之后,所述方法还包括:
输出所述第一图像、所述第二图像和所述初始图斑;
接收所述初始图斑对应的图斑反馈结果,其中,所述图斑反馈结果基于所述第一图像和所述第二图像,对所述初始图斑进行修改而得到;
确定所述图斑反馈结果对应的所述第一蒙板信息和所述第二蒙板信息。
12.一种图像处理方法,其特征在于,包括:
获取第一耕地图像和第二耕地图像,其中,所述第一耕地图像和所述第二耕地图像为不同时间对同一耕地区域进行采集得到的图像;
对所述第一耕地图像和所述第二耕地图像进行变化检测,确定初始耕地图斑,其中,所述初始耕地图斑用于表征所述第一耕地图像和所述第二耕地图像中耕地图像发生变化的区域;
对所述第一耕地图像和所述第二耕地图像进行图像识别,确定所述初始耕地图斑对应的目标类型;
基于所述目标类型对所述初始耕地图斑进行过滤,得到目标耕地图斑,其中,所述目标耕地图斑对应的类型为耕地类型。
13.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质包括存储的程序,其中,在所述程序运行时控制所述计算机可读存储介质所在设备执行权利要求1至12中任意一项所述的图像处理方法。
14.一种计算机终端,其特征在于,包括:存储器和处理器,所述处理器用于运行所述存储器中存储的程序,其中,所述程序运行时执行权利要求1至12中任意一项所述的图像处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111632596.3A CN114511500A (zh) | 2021-12-28 | 2021-12-28 | 图像处理方法、存储介质以及计算机终端 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111632596.3A CN114511500A (zh) | 2021-12-28 | 2021-12-28 | 图像处理方法、存储介质以及计算机终端 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114511500A true CN114511500A (zh) | 2022-05-17 |
Family
ID=81548186
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111632596.3A Pending CN114511500A (zh) | 2021-12-28 | 2021-12-28 | 图像处理方法、存储介质以及计算机终端 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114511500A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114708260A (zh) * | 2022-05-30 | 2022-07-05 | 阿里巴巴(中国)有限公司 | 图像检测方法 |
CN115131641A (zh) * | 2022-06-30 | 2022-09-30 | 北京百度网讯科技有限公司 | 图像识别方法、装置、电子设备和存储介质 |
-
2021
- 2021-12-28 CN CN202111632596.3A patent/CN114511500A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114708260A (zh) * | 2022-05-30 | 2022-07-05 | 阿里巴巴(中国)有限公司 | 图像检测方法 |
CN115131641A (zh) * | 2022-06-30 | 2022-09-30 | 北京百度网讯科技有限公司 | 图像识别方法、装置、电子设备和存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110297483B (zh) | 待作业区域边界获取方法、装置,作业航线规划方法 | |
US8233712B2 (en) | Methods of segmenting a digital image | |
CN107918776B (zh) | 一种基于机器视觉的用地规划方法、系统及电子设备 | |
CN114511500A (zh) | 图像处理方法、存储介质以及计算机终端 | |
Ma et al. | Segmenting ears of winter wheat at flowering stage using digital images and deep learning | |
CN113609889B (zh) | 基于敏感特征聚焦感知的高分辨遥感影像植被提取方法 | |
Wang et al. | Side-view apple flower mapping using edge-based fully convolutional networks for variable rate chemical thinning | |
Giuliani et al. | Using crowdsourced web content for informing water systems operations in snow-dominated catchments | |
Hernández-Hernández et al. | A new portable application for automatic segmentation of plants in agriculture | |
CN109492665A (zh) | 水稻生育期的检测方法、装置及电子设备 | |
Xiao et al. | Treetop detection using convolutional neural networks trained through automatically generated pseudo labels | |
CN111539403A (zh) | 农业大棚的识别方法、装置及电子设备 | |
Braun | More accurate less meaningful? A critical physical geographer’s reflection on interpreting remote sensing land-use analyses | |
CN114140637B (zh) | 图像分类方法、存储介质和电子设备 | |
CN115512238A (zh) | 病害区域的确定方法、装置、存储介质及电子装置 | |
CN115018770A (zh) | 除草作业区域的确定方法及装置、除草设备 | |
Lyu et al. | Development of phenotyping system using low altitude UAV imagery and deep learning | |
CN113971757A (zh) | 图像分类方法、计算机终端及存储介质 | |
Paul et al. | Estimation of shade tree density in tea garden using remote sensing images and deep convolutional neural network | |
CN113496220A (zh) | 影像处理方法、系统、计算机可读存储介质 | |
CN116189009A (zh) | 遥感图像处理模型的训练方法、电子设备及存储介质 | |
CN115526816A (zh) | 遥感图像处理方法、存储介质和电子设备 | |
CN115294472A (zh) | 果实产量估计方法、模型训练方法、设备及存储介质 | |
CN114299073A (zh) | 图像分割方法、装置、存储介质以及计算机程序 | |
CN116206215B (zh) | 一种森林土地状态的监测方法、装置及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |