CN108229517B - 神经网络训练和高光谱图像解译方法、装置及电子设备 - Google Patents
神经网络训练和高光谱图像解译方法、装置及电子设备 Download PDFInfo
- Publication number
- CN108229517B CN108229517B CN201710054725.2A CN201710054725A CN108229517B CN 108229517 B CN108229517 B CN 108229517B CN 201710054725 A CN201710054725 A CN 201710054725A CN 108229517 B CN108229517 B CN 108229517B
- Authority
- CN
- China
- Prior art keywords
- training
- hyperspectral image
- convolution
- neural network
- interpretation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/10—Terrestrial scenes
- G06V20/13—Satellite images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Molecular Biology (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Astronomy & Astrophysics (AREA)
- Remote Sensing (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
Abstract
本申请公开了一种神经网络训练和高光谱图像解译方法、装置及电子设备。其中,高光谱图像解译用神经网络模型的训练方法,包括执行至少二次如下的训练步骤:选取一部分光谱谱段作为当前次训练用光谱谱段;从当前次训练用高光谱图像集的各高光谱图像所包括的多个光谱谱段的图像数据中确定当前次训练用图像数据;根据当前次训练用图像数据调整高光谱图像解译用神经网络模型的网络参数;训练方法还包括响应于当前次的训练情况不满足预设的训练完成条件,执行下一次训练步骤。该实施方式能够充分利用高光谱图像数据中不同光谱谱段的信息,综合不同光谱谱段信息来提升在不同环境光条件下对同一图像特征识别的鲁棒性。
Description
技术领域
本申请涉及图像处理领域,具体涉及高光谱图像处理领域,尤其涉及一种神经网络训练和高光谱图像解译方法、装置及电子设备。
背景技术
遥感是以航空摄影技术为基础,在10世纪50年代初发展起来的一门新兴技术。经过几十年的迅速发展,成为一门实用的、先进的空间探测技术。在遥感探测技术得到的数据中,高光谱图像数据由于含有丰富信息,对目标有更强的表示能力,因此在众多应用中起着不可或缺的作用。
例如,为了更准确探测大气云层信息,气象卫星采集的高光谱图像数据中不仅可以包括可见光信息,还可以包括可见光范围外的多个红外谱段,从而对云层高度、水蒸气含量等信息进行探测。
发明内容
本申请提出了一种高光谱图像解译的技术方案。
本申请实施方式的一方面提供了一种高光谱图像解译用神经网络模型的训练方法,包括执行至少二次如下的训练步骤:从预定的多光谱谱段信息中选取一部分光谱谱段,作为当前次训练用光谱谱段;确定当前次训练用高光谱图像集的各高光谱图像所包括的多个光谱谱段的图像数据中与当前次训练用光谱谱段相应的图像数据,作为当前次训练用图像数据;根据当前次训练用图像数据调整高光谱图像解译用神经网络模型的网络参数;训练方法还包括:响应于当前次高光谱图像解译用神经网络模型的训练情况不满足预设的训练完成条件,执行下一次训练步骤,其中,执行的各次训练步骤中,至少二次的训练步骤中选取的训练用光谱谱段至少部分不同。
在一些实施例中,在确定当前次训练用高光谱图像集的各高光谱图像所包括的多个光谱谱段的图像数据中与当前次训练用光谱谱段相应的图像数据之前,方法还包括:从训练样本库中选取一部分高光谱图像作为当前次训练用高光谱图像集。
在一些实施例中,执行的各次训练步骤中,至少二次的训练步骤中选取的训练用高光谱图像集所包括的高光谱图像至少部分不同。
在一些实施例中,从预定的多光谱谱段信息中选取一部分光谱谱段,作为当前次训练用光谱谱段,包括:至少根据预定的谱段选取比例从多光谱谱段信息中选取一部分光谱谱段,作为当前次训练用光谱谱段。
在一些实施例中,至少根据预定的谱段选取比例从多光谱谱段信息中选取一部分光谱谱段,作为当前次训练用光谱谱段,包括:至少根据预定的谱段选取比例从多光谱谱段信息中随机选取一部分光谱谱段,作为当前次训练用光谱谱段。
在一些实施例中,从预定的多光谱谱段信息中选取一部分光谱谱段,作为当前次训练用光谱谱段,包括:至少根据多光谱谱段信息包括的各光谱谱段的未选中比例,从多光谱谱段信息中选取一部分光谱谱段,作为当前次训练用光谱谱段。
在一些实施例中,至少根据多光谱谱段信息包括的各光谱谱段的未选中比例,从多光谱谱段信息中选取一部分光谱谱段,作为当前次训练用光谱谱段,包括:至少根据多光谱谱段信息包括的各光谱谱段的未选中比例,随机从多光谱谱段信息中选取一部分光谱谱段,作为当前次训练用光谱谱段。
在一些实施例中,多光谱谱段信息包括:各次训练用高光谱图像集的各高光谱图像所包括的各个光谱谱段。
在一些实施例中,高光谱图像的任一光谱谱段的图像数据,包括:高光谱图像在任一光谱谱段的图像中像素级的解译标注数据。
在一些实施例中,神经网络模型包括多层神经网络模型。
在一些实施例中,多层神经网络模型包括:卷积神经网络模型。
在一些实施例中,预设的训练完成条件包括以下至少一项:训练高光谱图像解译用神经网络模型的训练次数达到预设的次数阈值;以及当前的高光谱图像解译用神经网络模型的损失函数的数值满足预设的数值条件。
在一些实施例中,训练高光谱图像解译用神经网络模型的训练次数达到预设的次数阈值,包括:各当前次训练用光谱谱段的训练次数均达到预设的次数阈值。
本申请实施方式的第二方面还提供了一种高光谱图像的解译方法,包括:接收待解译高光谱图像集合,其中,待解译高光谱图像集合包括至少一个待解译高光谱图像;以及通过如上方法训练的高光谱图像解译用神经网络模型解译各待解译高光谱图像,得到各待解译高光谱图像的第一解译结果。
在一些实施例中,方法还包括:通过高光谱图像解译用神经网络模型多次解译同一张待解译高光谱图像,得到针对同一张待解译高光谱图像的多个第一解译结果;以及将针对同一待解译高光谱图像的各第一解译结果加权相加得到该待解译高光谱图像的最终解译结果。
在一些实施例中,高光谱图像解译用神经网络模型为卷积神经网络模型;卷积神经网络模型包括选取层和卷积模块;通过高光谱图像解译用神经网络模型解译各待解译高光谱图像,得到各待解译高光谱图像的第一解译结果包括:通过选取层选取输入卷积神经网络的待解译高光谱图像中的一部分作为第一图像数据;以及通过卷积模块对第一图像数据执行至少一次卷积操作以得到待解译高光谱图像的第一解译结果。
在一些实施例中,卷积模块包括第一卷积单元、第二卷积单元、第三卷积单元和第四卷积单元;卷积模块对第一图像数据执行至少一次卷积操作以得到待解译高光谱图像的第一解译结果,包括:第一卷积单元的各第一卷积层对该第一卷积层的输入执行卷积操作以生成第一特征图,其中,第一级的第一卷积层对选取层输出的第一图像数据执行卷积操作,第i级的第一卷积层对第i-1级的第一卷积层输出的第一特征图执行卷积操作,其中,第一卷积单元包括N级的第一卷积层,2≤i≤N;第二卷积单元的第一级的第二卷积层对第一图像数据执行卷积操作,第二卷积单元的第j级的第二卷积层分别对其中一个第一卷积层输出的第一特征图执行卷积操作以生成第二特征图,其中,第二卷积单元包括M级的第二卷积层,2≤j≤M;
第三卷积单元对各第二特征图并对各第二特征图执行卷积操作以生成第三特征图;以及第四卷积单元对第三特征图和第N级的第一卷积层输出的第一特征图执行卷积操作以生成待解译高光谱图像的第一解译结果。
在一些实施例中,待解译高光谱图像数据包括多个光谱谱段的数据;将待解译高光谱图像通过选取层选取输入卷积神经网络的待解译高光谱图像中的一部分作为第一图像数据,包括:以预设的选取比例随机选取待解译高光谱图像中的一部分光谱谱段的图像数据作为第一图像数据。
在一些实施例中,方法还包括:基于预设的选取比例确定针对同一待解译高光谱图像的各第一解译结果的加权权值。
本申请实施方式的第三方面还提供了一种高光谱图像解译用神经网络模型的训练装置,包括:训练单元,用于执行至少二次如下的训练步骤:从预定的多光谱谱段信息中选取一部分光谱谱段,作为当前次训练用光谱谱段;确定当前次训练用高光谱图像集的各高光谱图像所包括的多个光谱谱段的图像数据中与当前次训练用光谱谱段相应的图像数据,作为当前次训练用图像数据;根据当前次训练用图像数据调整高光谱图像解译用神经网络模型的网络参数;以及判断单元,用于响应于当前次高光谱图像解译用神经网络模型的训练情况不满足预设的训练完成条件,执行下一次训练步骤,其中,执行的各次训练步骤中,至少二次的训练步骤中选取的训练用光谱谱段至少部分不同。
在一些实施例中,在确定当前次训练用高光谱图像集的各高光谱图像所包括的多个光谱谱段的图像数据中与当前次训练用光谱谱段相应的图像数据之前,训练单元还用于:从训练样本库中选取一部分高光谱图像作为当前次训练用高光谱图像集。
在一些实施例中,在训练单元执行的各次训练步骤中,至少二次的训练步骤中选取的训练用高光谱图像集所包括的高光谱图像至少部分不同。
在一些实施例中,训练单元包括选取模块,选取模块用于至少根据预定的谱段选取比例从多光谱谱段信息中选取一部分光谱谱段,作为当前次训练用光谱谱段。
在一些实施例中,选取模块进一步用于至少根据预定的谱段选取比例从多光谱谱段信息中随机选取一部分光谱谱段,作为当前次训练用光谱谱段。
在一些实施例中,训练单元进一步用于:至少根据多光谱谱段信息包括的各光谱谱段的未选中比例,从多光谱谱段信息中选取一部分光谱谱段,作为当前次训练用光谱谱段。
在一些实施例中,训练单元进一步用于:至少根据多光谱谱段信息包括的各光谱谱段的未选中比例,随机从多光谱谱段信息中选取一部分光谱谱段,作为当前次训练用光谱谱段。
在一些实施例中,多光谱谱段信息包括:各次训练用高光谱图像集的各高光谱图像所包括的各个光谱谱段。
在一些实施例中,高光谱图像的任一光谱谱段的图像数据,包括:高光谱图像在任一光谱谱段的图像中像素级的解译标注数据。
在一些实施例中,神经网络模型包括多层神经网络模型。
在一些实施例中,多层神经网络模型包括:卷积神经网络模型。
在一些实施例中,预设的训练完成条件包括以下至少一项:训练高光谱图像解译用神经网络模型的训练次数达到预设的次数阈值;以及当前的高光谱图像解译用神经网络模型的损失函数的数值满足预设的数值条件。
在一些实施例中,训练高光谱图像解译用神经网络模型的训练次数达到预设的次数阈值,包括:各当前次训练用光谱谱段的训练次数均达到预设的次数阈值。
本申请实施方式的第四方面还提供了一种高光谱图像的解译装置,包括:接收单元,用于接收待解译高光谱图像集合,其中,待解译高光谱图像集合包括至少一个待解译高光谱图像;以及解译单元,用于采用通过如上的装置训练的高光谱图像解译用神经网络模型解译各待解译高光谱图像,得到各待解译高光谱图像的第一解译结果。
在一些实施例中,装置还包括:输入单元,用于通过高光谱图像解译用神经网络模型多次解译同一张待解译高光谱图像,得到针对同一张待解译高光谱图像的多个第一解译结果;以及加权单元,将针对同一待解译高光谱图像的各第一解译结果加权相加得到该待解译高光谱图像的最终解译结果。
在一些实施例中,高光谱图像解译用神经网络模型为卷积神经网络模型;卷积神经网络模型包括选取层和卷积模块;解译单元进一步包括:选取模块,用于通过选取层选取输入卷积神经网络的待解译高光谱图像中的一部分作为第一图像数据;以及第一解译模块,用于通过卷积模块对第一图像数据执行至少一次卷积操作以得到待解译高光谱图像的第一解译结果。
在一些实施例中,卷积模块包括第一卷积单元、第二卷积单元、第三卷积单元和第四卷积单元;第一解译模块进一步用于:基于第一卷积单元的各第一卷积层对该第一卷积层的输入执行卷积操作以生成第一特征图,其中,第一级的第一卷积层对选取层输出的第一图像数据执行卷积操作,第i级的第一卷积层对第i-1级的第一卷积层输出的第一特征图执行卷积操作,其中,第一卷积单元包括N级的第一卷积层,2≤i≤N;基于第二卷积单元的第一级的第二卷积层对第一图像数据执行卷积操作,第二卷积单元的第j级的第二卷积层分别对其中一个第一卷积层输出的第一特征图执行卷积操作以生成第二特征图,其中,第二卷积单元包括M级的第二卷积层,2≤j≤M;基于第三卷积单元对各第二特征图并对各第二特征图执行卷积操作以生成第三特征图;以及基于第四卷积单元对第三特征图和第N级的第一卷积层输出的第一特征图执行卷积操作以生成待解译高光谱图像的第一解译结果。
在一些实施例中,待解译高光谱图像数据包括多个光谱谱段的数据;选取模块进一步用于:以预设的选取比例随机选取待解译高光谱图像中的一部分光谱谱段的图像数据作为第一图像数据。
在一些实施例中,加权单元进一步用于基于预设的选取比例确定针对同一待解译高光谱图像的各第一解译结果的加权权值。
本申请实施方式的第五方面还提供了一种电子设备,包括:存储器,存储可执行指令;一个或多个处理器,与存储器通信以执行可执行指令从而完成至少两次以下的训练操作:从预定的多光谱谱段信息中选取一部分光谱谱段,作为当前次训练用光谱谱段;确定当前次训练用高光谱图像集的各高光谱图像所包括的多个光谱谱段的图像数据中与当前次训练用光谱谱段相应的图像数据,作为当前次训练用图像数据;根据当前次训练用图像数据调整高光谱图像解译用神经网络模型的网络参数;处理器还用于响应于当前次高光谱图像解译用神经网络模型的训练情况不满足预设的训练完成条件,执行下一次训练操作,其中,执行的各次训练操作中,至少二次的训练操作中选取的训练用光谱谱段至少部分不同。
本申请实施方式的第六方面还提供了一种计算机存储介质,用于存储计算机可读取的指令。包括执行至少两次如下的训练操作的指令:从预定的多光谱谱段信息中选取一部分光谱谱段,作为当前次训练用光谱谱段;确定当前次训练用高光谱图像集的各高光谱图像所包括的多个光谱谱段的图像数据中与当前次训练用光谱谱段相应的图像数据,作为当前次训练用图像数据;根据当前次训练用图像数据调整高光谱图像解译用神经网络模型的网络参数;指令还包括:响应于当前次高光谱图像解译用神经网络模型的训练情况不满足预设的训练完成条件,执行下一次训练操作的指令,其中,执行的各次训练操作中,至少二次的训练操作中选取的训练用光谱谱段至少部分不同。
本申请提供的高光谱图像的模型训练、识别方法和装置、电子设备,通过在高光谱图像解译用神经网络模型训练的过程中,随机选取高光谱图像中的一部分作为训练数据,充分利用高光谱图像数据中不同光谱谱段的信息,综合不同光谱谱段信息来提升在不同环境光条件下对同一图像特征识别的鲁棒性。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本申请的其它特征、目的和优点将会变得更明显:
图1是根据本申请的高光谱图像解译用神经网络模型的训练方法的一个实施例的流程图;
图2是根据申请的高光谱图像的解译方法的一个实施例的示意性流程图;
图3是根据本申请的卷积神经网络的一个实施例的结构示意图;
图4是根据本申请的高光谱图像解译用神经网络模型的训练装置的一个实施例的结构示意图;
图5是根据本申请的高光谱图像的解译装置的一个实施例的结构示意图;
图6是适于用来实现本申请实施例的终端设备或服务器的计算机设备的结构示意图。
具体实施方式
下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释相关发明,而非对该发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与有关发明相关的部分。
需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
参考图1,示出了根据本申请的的一个实施例的流程100。本实施例的高光谱图像的解译模型训练方法,包括训练步骤110。
其中,训练步骤可以进一步包括如下的步骤101~步骤103。
步骤101,从预定的多光谱谱段信息中选取一部分光谱谱段,作为当前次训练用光谱谱段。
步骤102,确定当前次训练用高光谱图像集的各高光谱图像所包括的多个光谱谱段的图像数据中与当前次训练用光谱谱段相应的图像数据,作为当前次训练用图像数据。
高光谱图像中每个谱段对应的图像数据都可视作一个层面。在确定当前次训练用图像数据时,可以按照在步骤101中选取出的当前次训练用光谱谱段,选取出训练用高光谱图像集中各高光谱图像某些光谱谱段的图像数据来作为当前次训练用图像数据。
从以上描述可以看出,在某一次的训练过程中,各张当前次训练用图像数据,可以具有相同或者部分相同的谱段信息。具体而言,假设当前次训练用光谱谱段包括A、B两个光谱谱段。高光谱图像集中,包括a、b、c三张高光谱图像,其中,高光谱图像a包括A、B、C三个光谱谱段的图像数据,高光谱图像b包括A、C、D、E四个光谱谱段的图像数据而高光谱图像c包括A、B、C、F、G五个光谱谱段的图像数据。那么,通过执行本步骤,当前次训练用图像数据可包括高光谱图像a中对应光谱谱段A、光谱谱段B的图像数据,高光谱图像b中对应光谱谱段A的图像数据以及高光谱图像c中对应光谱谱段A、光谱谱段B的图像数据。
此外,为了实现高光谱图像解译用神经网络模型的训练,训练用高光谱图像集中的各高光谱图像均包含该高光谱图像中至少一部分图像特征的标注信息。在这里,标注信息可以是用于表征高光谱图像中,某一部分(例如,某一区域)所属的图像特征的信息。
需要说明的是,在本实施例的一些可选的实现方式中,在执行本实施例的训练方法的不同次训练中,可以采用同一个训练用高光谱图像集来作为各次训练用图像数据的获取来源。
或者,在本实施例的另一些可选的实现方式中,在执行本实施例的训练方法的不同次训练中,可以采用不同的训练用高光谱图像集来作为各次训练用图像数据的获取来源。例如,在第1次训练过程中,可以从第1个高光谱图像集中选取第1次训练用图像数据。而在后续各次训练过程中,可以从其它的高光谱图像集中选取各次训练用图像数据。通过训练数据的多样化,可以进一步地提升高光谱图像解译用神经网络模型的鲁棒性和图像解译准确性。
步骤103,根据当前次训练用图像数据调整高光谱图像解译用神经网络模型的网络参数。
在这里,高光谱图像解译用神经网络模型的网络参数可以是任何能够对高光谱图像解译用神经网络模型的解译结果产生影响的参数。例如,当高光谱图像解译用神经网络模型为卷积神经网络模型时,网络参数例如可以包括但不限于卷积层的层数、各个卷积层的输入/输出通道数、各个卷积层的卷积核尺寸等等。
通过调整高光谱图像解译用神经网络模型的网络参数,可以改善高光谱图像解译用神经网络模型对高光谱图像进行解译的正确率。
以上的步骤101~步骤103示意性地描述了对高光谱图像解译用神经网络模型进行训练时,一次训练所需要执行的各个步骤。
进一步地,本实施例的高光谱图像解译用神经网络模型的训练方法还可包括步骤120,响应于当前次高光谱图像解译用神经网络模型的训练情况不满足预设的训练完成条件,执行下一次训练步骤。
在这里,训练完成条件可以根据具体的应用场景来进行设置。
在一些可选的实现方式中,每完成一次高光谱图像解译用神经网络模型的训练,均可以判断本次训练完成后的高光谱图像解译用神经网络模型的训练情况是否满足预先设置的训练完成条件。
或者,在另一些可选的实现方式中,可以在每完成n次高光谱图像解译用神经网络模型的训练之后,判断当前训练完成后的高光谱图像解译用神经网络模型的训练情况是否满足预先设置的训练完成条件。
或者,在另一些可选的实现方式中,还可以通过高光谱图像解译用神经网络模型中某一个参数或者某几个参数的变化情况和/或取值范围来确定是否需要执行判断当前训练完成后的高光谱图像解译用神经网络模型的训练情况是否满足预先设置的训练完成条件的步骤。
其中,执行的各次训练步骤中至少二次的训练步骤中,选取的训练用光谱谱段至少部分不同。这样一来,可以使得经训练的光谱谱段相应地较多,从而提升训练后的高光谱图像解译用神经网络模型的图像解译正确率。
如前所述,现有技术中,为了实现高光谱图像的解译以及对某些图像特征(例如,云)的提取,采集的高光谱图像不仅包括可见光谱段还可以包括可见光谱段之外的其它谱段(例如,红外谱段)。然而,即使有如此丰富的信息,在目前阶段,现有技术的方法仍无法实现快速、高精度的高光谱图像的解译。
以对高光谱图像进行解译从而识别“云”这一图像特征为例,首先,人们对于云的检测仍是基于已有先验知识,如颜色、纹理、高度、温度、阴影、动态变化等特征,单一特征无法对云进行充分描述,而且特征参数也无法准确确定。即使是对多个特征综合应用,各特征间相互关系以及各特征参数的确定也很难具有普适性,同时会增加计算代价。其次,即使是气象卫星采集的高光谱图像数据中含有多谱段光谱信息,出于特征建立难度和计算复杂性考量,人们也基本很少去应用所有信息,进而导致了信息的损失,也无法构建出对云更完备表达的特征。此外,在众多地物中由于在可将光范围内的云与雪之间在光谱上有很强的相似性,基于像素的检测方法常常产生较严重云雪判断误差,而基于对象方法可以一定程度减少云雪判断误差,但会显著增加计算量,影像处理效率,同时云雪的区分判断仍需进一步提高。最后,对于高光谱图像,由于传感器复杂性增加,以及不同谱段敏感性不一,其中不可避免会产生更多噪声,这也对图像解译带来较大影响。
反观本实施例的高光谱图像解译用神经网络模型的训练方法,通过至少两次的训练过程,利用高光谱图像集中较多的光谱谱段的图像数据进行训练,使得最终训练完成后的高光谱图像解译用神经网络模型对较多的光谱谱段具有较高的解译准确率。这样一来,当利用训练完成后的高光谱图像解译用神经网络模型进行高光谱图像的解译时,该高光谱图像解译用神经网络模型可以利用待解译高光谱图像中不同光谱谱段的信息,综合不同光谱谱段信息来提升在不同环境光条件下对同一图像特征识别的鲁棒性。
在一些可选的实现方式中,本实施例的高光谱图像解译用神经网络模型的训练方法中,在执行训练步骤110中步骤101的确定当前次训练用高光谱图像集的各高光谱图像所包括的多个光谱谱段的图像数据中与当前次训练用光谱谱段相应的图像数据之前,训练步骤110还可以进一步包括:
从训练样本库中选取一部分高光谱图像作为当前次训练用高光谱图像集。
在一些可选的实现方式中,训练样本库中所包含的高光谱图像的数量可以大于每次选取出的当前次训练用高光谱图像集中所包含的高光谱图像的数量。
在这些可选的实现方式中,执行各次训练步骤时所选取的高光谱图像集可以是相同的,也可以是不同的。例如,可以根据当前次训练情况的不同来调整从训练样本库中选取的高光谱图像的数量。在一些应用场景中,若当前次训练情况与预先设定的训练完成条件之间偏差较大,可以适当地增加下一次训练时,从训练样本库中选取出的高光谱图像的数量以期改善下一次训练结束后的训练情况。另一方面,若当前次训练情况与预先设定的训练完成条件之间偏差较小,可以适当地减少下一次训练时,从训练样本库中选取出的高光谱图像的数量以期减少下一次训练所需训练数据的数量,从而提高训练效率。
此外,在这些可选的实现方式中,还可以有至少两次的训练步骤中,选取的训练用高光谱图像集所包括的高光谱图像至少部分不同。这样一来,可以相应地增加用于训练高光谱图像解译用神经网络模型的训练样本的数量,从而提升训练后的高光谱图像解译用神经网络模型的解译准确率。
在一些可选的实现方式中,在执行步骤101时,可以至少根据预定的谱段选取比例从多光谱谱段信息中选取一部分光谱谱段,作为当前次训练用光谱谱段。在这里,选取比例可用于表征当前次训练中选取出的光谱谱段范围与前次训练用高光谱图像集中的各高光谱图像所包含的光谱谱段范围之间的比例。
在这些可选的实现方式的一些应用场景中,例如,可以至少根据预定的谱段选取比例从多光谱谱段信息中随机选取一部分光谱谱段,作为当前次训练用光谱谱段。这样一来,通过“随机”地选取当前次训练用光谱谱段,可以避免按照某一固定的顺序(例如,从前次训练用高光谱图像集中的各高光谱图像所包含的光谱谱段范围中,波长由小到大的顺序或者波长由大到小的顺序)选取光谱谱段可能对训练结果造成的影响。
在本实施例的一些可选的实现方式中,在执行步骤101时,还可以至少根据所述多光谱谱段信息包括的各光谱谱段的未选中比例,从所述多光谱谱段信息中选取一部分光谱谱段,作为当前次训练用光谱谱段。
在这些可选的实现方式中,例如,可以针对各光谱谱段预先设置一未选中比例阈值p,随着训练次数的累积,各光谱谱段被选中作为当前次训练用光谱谱段的次数也不断变化。假设在n次训练中,某一个光谱谱段被选中k次,那么,该光谱谱段的当前未选中比例可以通过(n-k)/n来确定。比较p和(n-k)/n之间的大小关系,若(n-k)/n<p,则可以认为,在这n次训练中,该光谱谱段被选中的次数较少,相应地,该光谱谱段的训练次数也较少。为了提升该光谱谱段的训练次数,可以在(n-k)/n<p时,通过适当调整光谱谱段的选择策略,从而增加该光谱谱段被选取作为训练用光谱谱段的几率。
另一方面,若(n-k)/n>p,可以认为,在这n次训练中,该光谱谱段被选中的次数较多,相应地,该光谱谱段的训练次数也较多。为了避免针对相同训练样本进行多次训练可能造成的过拟合现象,可以在后续的训练过程中,通过适当调整光谱谱段的选择策略,从而增加该光谱谱段被选取作为训练用光谱谱段的几率,从而减少该光谱谱段被选取作为训练用光谱谱段的几率。
在这些可选的实现方式的一些应用场景中,可以为不同的光谱谱段预先设置相同的未选中比例阈值p,或者,在这些可选的实现方式的另一些应用场景中,还可以根据具体应用场景的需要为不同的光谱谱段预先设置不同的未选中比例阈值p。
在这些可选的实现方式的一些应用场景中,例如,可以至少根据多光谱谱段信息包括的各光谱谱段的未选中比例,随机地从多光谱谱段信息中选取一部分光谱谱段,作为当前次训练用光谱谱段。
需要说明的是,本实施例的高光谱图像解译用神经网络模型的训练方法中,多光谱谱段信息包括:各次训练用高光谱图像集的各高光谱图像所包括的各个光谱谱段。
此外,训练用高光谱图像集中,高光谱图像的任一光谱谱段的图像数据均可包括该高光谱图像在任一光谱谱段的图像中像素级的解译标注数据。在这里,像素极的解译标注数据例如可以是用于表征高光谱图像在任意一个光谱谱段中,各个像素所属的图像特征的数据。例如,解译标注数据可以用于指示高光谱图像在任一光谱谱段的图像中某一像素属于云、雪、道路、绿地或其它的类别。
此外,本实施例的高光谱图像解译用神经网络模型的训练方法中,高光谱图像解译用神经网络模型例如可以包括多层神经网络模型。多层神经网络模型例如可以是包括多个卷积层的卷积神经网络模型,或者也可以是其它的非卷积神经网络模型。
一般而言,卷积神经网络包括卷积层(convolutional layer)和池化层(poolinglayer)。在开始训练卷积神经网络前,所有的卷积核参数都可采用一些不同的小随机数进行初始化。“小随机数”用来保证网络不会因卷积核参数值过大而进入饱和状态,从而导致训练失败;“不同”用来保证网络可以正常地学习。实际上,如果用相同的数去初始化卷积核参数,则网络无能力学习。通过把网络训练出来的结果和真实类别进行比对来修正误差卷积神经网络的解译误差。通过调整卷积核参数使误差最小化来不断优化卷积神经网络。
此外,在本实施例的高光谱图像解译用神经网络模型的训练方法中,预先设置的训练完成条件例如可以包括训练高光谱图像解译用神经网络模型的训练次数达到预设的次数阈值和/或当前的高光谱图像解译用神经网络模型的损失函数的数值满足预设的数值条件。
此外,在一些可选的实现方式中,当预先训练完成条件包括训练高光谱图像解译用神经网络模型的训练次数达到预设的次数阈值时,预设的次数阈值可以表示为一个向量。向量中的各个元素可以对应某一个光谱谱段被选中作为训练用光谱谱段的次数。若各训练用光谱谱段的训练次数均达到了该向量中与该光谱谱段对应的数值,则可认为训练高光谱图像解译用神经网络模型的训练次数达到预设的次数阈值。
参见图2所示,为本申请的高光谱图像的解译方法的一个实施例的示意性流程图200。
步骤201,接收待解译高光谱图像集合,其中,待解译高光谱图像集合包括至少一个待解译高光谱图像。
步骤202,通过如上的高光谱图像解译用神经网络模型的训练方法训练的高光谱图像解译用神经网络模型解译各待解译高光谱图像,得到各待解译高光谱图像的第一解译结果。
由于在高光谱图像解译用神经网络模型的训练过程中,对高光谱图像中所包含的各光谱谱段均进行了训练。因此,在使用训练完成的高光谱图像解译用神经网络模型进行高光谱图像解译时,该高光谱图像解译用神经网络模型的解译准确率较高。
在一些可选的实现方式中,本实施例的高光谱图像的解译方法还可以进一步包括:
步骤203,通过高光谱图像解译用神经网络模型多次解译同一张待解译高光谱图像,得到针对同一张待解译高光谱图像的多个第一解译结果。
步骤204,将针对同一待解译高光谱图像的各第一解译结果加权相加得到该待解译高光谱图像的最终解译结果。
由于高光谱图像解译用神经网络模型可以对待解译的高光谱图像所包含的光谱谱段进行适当地选取,通过多次解译同一张待解译高光谱图像,可以避免待解译高光谱图像中部分光谱谱段的图像数据噪声较大甚至部分光谱谱段缺失时,待解译高光谱图像的最终解译结果正确率较低的问题。
在本实施例的一些可选的实现方式中,若高光谱图像解译用神经网络模型为卷积神经网络模型,如图3所示,该卷积神经网络模型可以包括选取层310和卷积模块320。
在这些可选的实现方式中,步骤202可以进一步包括:
步骤2021:通过选取层选取输入卷积神经网络的待解译高光谱图像中的一部分作为第一图像数据;以及
步骤2022:通过卷积模块对第一图像数据执行至少一次卷积操作以得到待解译高光谱图像的第一解译结果。
在步骤2021中,例如,可以通过选取层来选取输入卷积神经网络的待解译高光谱图像中的一部分光谱谱段的图像数据来作为解译依据(即,第一图像数据)。在进行光谱谱段的选取时,例如可以通过随机选取的方式来进行。
此外,在一些可选的实现方式中,若高光谱图像解译用神经网络模型为卷积神经网络模型,进一步参见图3所示,卷积模块320还可以进一步包括第一卷积单元321、第二卷积单元322、第三卷积单元323和第四卷积单元324。
具体地,第一卷积单元321可包括N个级联的第一卷积层321a~321n,各第一卷积层用于对输入该第一卷积层的特征图执行卷积操作以生成第一特征图,其中,第一级的第一卷积层321a可以与选取层的输出端连接,第i级的第一卷积层的输入端与第i-1级的第一卷积层的输出端连接,2<i≤N。对每一个第一卷积层321a~321n而言,其均可以通过卷积运算提取出某一感受野下的图像的特征。而通过级联的多个第一卷积层321a~321n,可以对输入各级第一卷积层的第一特征图进行进一步的特征提取。
第二卷积单元322可包括M个第二卷积层322a~322m,其中,第一级的第二卷积层与随机选取层的输出端连接,第2~第M级的第二卷积层与其中一个第一卷积层的输出端连接,用于对与之连接的第一卷积层输出的第一特征图执行卷积操作以生成第二特征图。例如,第j级的第二卷积层的输入端可以与第p级的第一卷积层的输出端连接,第j+1级第二卷积层的输入端与第q级的第一卷积层的输出端连接,其中,1≤j≤M-1且p<q。
第三卷积单元323包括第三卷积层323a,第三卷积层323a的输入端与各第二卷积层322a~322m的输出端连接,用于对输入第三卷积层323a的第二特征图执行卷积操作以生成第三特征图。也即是说,各个第二卷积层322a~322m输出的第二特征图均输出至第三卷积层323a中,第三卷积层323a再对这些第二特征图进行卷积操作,这样一来,通过第三卷积层323a卷积操作生成的第三特征图将更多的包含原始的待识别高光谱图像的特征信息,使得最终的解译结果准确性更高。
第四卷积单元324包括第四卷积层324a,第四卷积层324a用于基于第N级的第一卷积层321n输出的第一特征图与第三特征图生成第一图像数据的第一解译结果。
本领域技术人员可以理解的是,本实施例的卷积神经网络除包含如上描述的各个单元之外,还可以包括一些公知的单元。例如,在相邻的第一卷积层之间还设置有池化层,池化层可用于对第一特征图中的特征进行聚合统计,池化层可以对第一卷积层输出的第一特征图进行最大化操作或者取平均操作,使得提取到的特征具有旋转平移不变特性,增强了数据的鲁棒性,同时也可以改变提取特征的感受野。
此外,如上描述的各卷积层中,除了对输入其中的特征图进行卷积操作之外,还可以在卷积操作之后进行归一化处理和/或非线性修正,通过归一化处理,可以对卷积操作提取的特征进行归一化操作,使卷积神经网络模型能够更快收敛。而非线性修正操作则能够对特征进行非线性的映射。
这样一来,当卷积神经网络模型中的卷积模块具有如图3所示的级联关系时,本实施例的步骤2022还可以进一步包括:
第一卷积单元的各第一卷积层对该第一卷积层的输入执行卷积操作以生成第一特征图,其中,第一级的第一卷积层对选取层输出的第一图像数据执行卷积操作,第i级的第一卷积层对第i-1级的第一卷积层输出的第一特征图执行卷积操作,其中,第一卷积单元包括N级的第一卷积层,2≤i≤N;
第二卷积单元的第一级的第二卷积层对第一图像数据执行卷积操作,第二卷积单元的第j级的第二卷积层分别对其中一个第一卷积层输出的第一特征图执行卷积操作以生成第二特征图,其中,第二卷积单元包括M级的第二卷积层,2≤j≤M;
第三卷积单元对各第二特征图并对各第二特征图执行卷积操作以生成第三特征图;以及
第四卷积单元对第三特征图和第N级的第一卷积层输出的第一特征图执行卷积操作以生成待解译高光谱图像的第一解译结果。
这样一来,由于第三特征图中包括了不同感受野下的图像特征,使得第四卷积单元可以更好地综合这些不同感受野下的图像特征并得到解译结果,从而可以进一步提高解译结果的准确率。
此外,在一些可选的实现方式中,可以基于预设的选取比例确定针对同一待解译高光谱图像的各第一解译结果的加权权值。
例如,在这些可选的实现方式中,每次解译均选取待解译高光谱图像的20%的光谱谱段进行解译,那么,各第一解译结果在最终解译结果可以根据20%的选取比例来确定。
对同一待解译高光谱图像进行n次解译得到n个第一解译结果x1~xn,那么最终解译结果X可以通过如下的公式来确定:
在这里,各第一解译结果以及最终解译结果可以是待解译高光谱图像中,某一个像素点属于某一图像特征的概率,当概率值越大,可表明该像素点属于该图像特征的可能性越大。
进一步参考图4,作为对上述各图所示方法的实现,本申请提供了一种高光谱图像解译用神经网络模型的训练装置的一个实施例的结构示意图,该装置实施例与图1所示的方法实施例相对应,该装置具体可以应用于各种电子设备中。
本实施例的高光谱图像解译用神经网络模型的训练装置400可包括获训练单元410和判断单元420。
其中,训练单元410可用于执行至少二次如下的训练步骤:从预定的多光谱谱段信息中选取一部分光谱谱段,作为当前次训练用光谱谱段;确定当前次训练用高光谱图像集的各高光谱图像所包括的多个光谱谱段的图像数据中与当前次训练用光谱谱段相应的图像数据,作为当前次训练用图像数据;根据所述当前次训练用图像数据调整高光谱图像解译用神经网络模型的网络参数。
判断单元420可用于响应于当前次所述高光谱图像解译用神经网络模型的训练情况不满足预设的训练完成条件,执行下一次所述训练步骤,其中,执行的各次所述训练步骤中,至少二次的训练步骤中选取的训练用光谱谱段至少部分不同。
在一些可选的实现方式中,训练单元410在执行训练步骤中的确定当前次训练用高光谱图像集的各高光谱图像所包括的多个光谱谱段的图像数据中与当前次训练用光谱谱段相应的图像数据之前,还可以进一步用于:从训练样本库中选取一部分高光谱图像作为当前次训练用高光谱图像集。
在一些可选的实现方式中,在训练单元410执行的各次训练步骤中,至少二次的训练步骤中选取的训练用高光谱图像集所包括的高光谱图像至少部分不同。
在一些可选的实现方式中,训练单元还可以进一步包括选取模块。选取模块可用于至少根据预定的谱段选取比例从多光谱谱段信息中选取一部分光谱谱段,作为当前次训练用光谱谱段。
在一些可选的实现方式中,选取模块还可进一步用于至少根据预定的谱段选取比例从多光谱谱段信息中随机选取一部分光谱谱段,作为当前次训练用光谱谱段。
在一些可选的实现方式中,训练单元410还可以进一步用于:至少根据多光谱谱段信息包括的各光谱谱段的未选中比例,从多光谱谱段信息中选取一部分光谱谱段,作为当前次训练用光谱谱段。
在一些可选的实现方式中,训练单元410还可以进一步用于:至少根据多光谱谱段信息包括的各光谱谱段的未选中比例,随机从多光谱谱段信息中选取一部分光谱谱段,作为当前次训练用光谱谱段。
在一些可选的实现方式中,多光谱谱段信息可包括各次训练用高光谱图像集的各高光谱图像所包括的各个光谱谱段。
在一些可选的实现方式中,高光谱图像的任一光谱谱段的图像数据可包括高光谱图像在任一光谱谱段的图像中像素级的解译标注数据。
在一些可选的实现方式中,神经网络模型可以包括多层神经网络模型。
在一些可选的实现方式中,多层神经网络模型还包括卷积神经网络模型。
在一些可选的实现方式中,预设的训练完成条件可以包括训练高光谱图像解译用神经网络模型的训练次数达到预设的次数阈值和/或当前的高光谱图像解译用神经网络模型的损失函数的数值满足预设的数值条件。
当训练完成条件包括训练高光谱图像解译用神经网络模型的训练次数达到预设的次数阈值时,该训练完成条件可以进一步包括:各当前次训练用光谱谱段的训练次数均达到预设的次数阈值。
进一步参考图5,作为对上述各图所示方法的实现,本申请提供了一种高光谱图像的解译装置的一个实施例的结构示意图,该装置实施例与图2所示的方法实施例相对应,该装置具体可以应用于各种电子设备中。
本实施例的高光谱图像的解译装置可以包括接收单元510和解译单元520。
其中,接收单元510可用于接收待解译高光谱图像集合,其中,待解译高光谱图像集合包括至少一个待解译高光谱图像。
解译单元520用于采用通过如上的高光谱图像解译用神经网络模型解译训练装置训练的高光谱图像解译用神经网络模型解译各待解译高光谱图像,得到各待解译高光谱图像的第一解译结果。
在一些可选的实现方式中,本实施例的高光谱图像的解译装置还可以进一步包括:
输入单元530,用于通过高光谱图像解译用神经网络模型多次解译同一张待解译高光谱图像,得到针对同一张待解译高光谱图像的多个第一解译结果。
加权单元540,用于将针对同一待解译高光谱图像的各第一解译结果加权相加得到该待解译高光谱图像的最终解译结果。
在一些可选的实现方式中,高光谱图像解译用神经网络模型可以是卷积神经网络模型。
在这些可选的实现方式中,卷积神经网络模型可包括选取层和卷积模块。
解译单元520可以进一步包括:
选取模块,用于通过选取层选取输入卷积神经网络的待解译高光谱图像中的一部分作为第一图像数据。以及第一解译模块,用于通过卷积模块对第一图像数据执行至少一次卷积操作以得到待解译高光谱图像的第一解译结果。
在一些可选的实现方式中,卷积神经网络模型中的卷积模块包括第一卷积单元、第二卷积单元、第三卷积单元和第四卷积单元。
在这些可选的实现方式中,第一解译模块还可以进一步用于:基于第一卷积单元的各第一卷积层对该第一卷积层的输入执行卷积操作以生成第一特征图,其中,第一级的第一卷积层对选取层输出的第一图像数据执行卷积操作,第i级的第一卷积层对第i-1级的第一卷积层输出的第一特征图执行卷积操作,其中,第一卷积单元包括N级的第一卷积层,2≤i≤N;基于第二卷积单元的第一级的第二卷积层对第一图像数据执行卷积操作,第二卷积单元的第j级的第二卷积层分别对其中一个第一卷积层输出的第一特征图执行卷积操作以生成第二特征图,其中,第二卷积单元包括M级的第二卷积层,2≤j≤M;基于第三卷积单元对各第二特征图并对各第二特征图执行卷积操作以生成第三特征图;并基于第四卷积单元对第三特征图和第N级的第一卷积层输出的第一特征图执行卷积操作以生成待解译高光谱图像的第一解译结果。
在一些可选的实现方式中,待解译高光谱图像数据包括多个光谱谱段的数据。
在这些可选的实现方式中,选取模块可以进一步进一步用于以预设的选取比例随机选取待解译高光谱图像中的一部分光谱谱段的图像数据作为第一图像数据。
在一些可选的实现方式中,加权单元540可进一步用于基于预设的选取比例确定针对同一待解译高光谱图像的各第一解译结果的加权权值。
本发明实施例还提供了一种电子设备,例如可以是移动终端、个人计算机(PC)、平板电脑、服务器等。下面参考图6,其示出了适于用来实现本申请实施例的终端设备或服务器的电子设备600的结构示意图:如图6所示,计算机系统600包括一个或多个处理器、通信部等,所述一个或多个处理器例如:一个或多个中央处理单元(CPU)601,和/或一个或多个图像处理器(GPU)613等,处理器可以根据存储在只读存储器(ROM)602中的可执行指令或者从存储部分608加载到随机访问存储器(RAM)603中的可执行指令而执行各种适当的动作和处理。通信部612可包括但不限于网卡,所述网卡可包括但不限于IB(Infiniband)网卡。
处理器可与只读存储器602和/或随机访问存储器630中通信以执行可执行指令,通过总线604与通信部612相连、并经通信部612与其他目标设备通信,从而完成本申请实施例提供的任一项方法对应的操作,例如,执行至少两次以下的训练操作:从预定的多光谱谱段信息中选取一部分光谱谱段,作为当前次训练用光谱谱段;确定当前次训练用高光谱图像集的各高光谱图像所包括的多个光谱谱段的图像数据中与当前次训练用光谱谱段相应的图像数据,作为当前次训练用图像数据;根据当前次训练用图像数据调整高光谱图像解译用神经网络模型的网络参数;此外,处理器还可用于响应于当前次高光谱图像解译用神经网络模型的训练情况不满足预设的训练完成条件,执行下一次训练步骤,其中,执行的各次训练操作中,至少二次的训练操作中选取的训练用光谱谱段至少部分不同。
此外,在RAM 603中,还可存储有装置操作所需的各种程序和数据。CPU601、ROM602以及RAM603通过总线604彼此相连。在有RAM603的情况下,ROM602为可选模块。RAM603存储可执行指令,或在运行时向ROM602中写入可执行指令,可执行指令使处理器601执行上述通信方法对应的操作。输入/输出(I/O)接口605也连接至总线604。通信部612可以集成设置,也可以设置为具有多个子模块(例如多个IB网卡),并在总线链接上。
以下部件连接至I/O接口605:包括键盘、鼠标等的输入部分606;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分607;包括硬盘等的存储部分608;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分609。通信部分609经由诸如因特网的网络执行通信处理。驱动器610也根据需要连接至I/O接口605。可拆卸介质611,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器610上,以便于从其上读出的计算机程序根据需要被安装入存储部分608。
需要说明的,如图6所示的架构仅为一种可选实现方式,在具体实践过程中,可根据实际需要对上述图6的部件数量和类型进行选择、删减、增加或替换;在不同功能部件设置上,也可采用分离设置或集成设置等实现方式,例如GPU和CPU可分离设置或者可将GPU集成在CPU上,通信部可分离设置,也可集成设置在CPU或GPU上,等等。这些可替换的实施方式均落入本发明公开的保护范围。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括有形地包含在机器可读介质上的计算机程序,计算机程序包含用于执行流程图所示的方法的程序代码,程序代码可包括对应执行本申请实施例提供的方法步骤对应的指令,例如,获取预先标注的高光谱图像数据,其中,预先标注的高光谱图像数据包括高光谱图像中至少一部分图像特征的标注信息;随机选取预先标注的高光谱图像数据中的一部分作为第一图像数据;以及将第一图像数据作为训练数据训练预设的高光谱图像解译模型。在这样的实施例中,该计算机程序可以通过通信部分609从网络上被下载和安装,和/或从可拆卸介质611被安装。在该计算机程序被中央处理单元(CPU)601执行时,执行本申请的方法中限定的上述功能。
可以理解的是,可基于本申请任一实施例训练而得的神经网络模型,采用本申请任一实施提供的解译方法进行高光谱图像的解译。但本申请的保护范围不限于此,例如,基于其他方法获得神经网络模型采用本申请任一实施提供的解译方法进行高光谱图像的解译,或者,基于本申请获得的神经网络模型采用其他解译方法进行高光谱图像的解译,均视为落入了本申请的保护范围之内。
可能以许多方式来实现本发明的方法和装置、设备。例如,可通过软件、硬件、固件或者软件、硬件、固件的任何组合来实现本发明的方法和装置、设备。用于方法的步骤的上述顺序仅是为了进行说明,本发明的方法的步骤不限于以上具体描述的顺序,除非以其它方式特别说明。此外,在一些实施例中,还可将本发明实施为记录在记录介质中的程序,这些程序包括用于实现根据本发明的方法的机器可读指令。因而,本发明还覆盖存储用于执行根据本发明的方法的程序的记录介质。
本发明的描述是为了示例和描述起见而给出的,而并不是无遗漏的或者将本发明限于所公开的形式。很多修改和变化对于本领域的普通技术人员而言是显然的。选择和描述实施例是为了更好说明本发明的原理和实际应用,并且使本领域的普通技术人员能够理解本发明从而设计适于特定用途的带有各种修改的各种实施例。
Claims (39)
1.一种高光谱图像解译用神经网络模型的训练方法,其特征在于,包括执行至少二次如下的训练步骤:
从预定的多光谱谱段信息中选取一部分光谱谱段,作为当前次训练用光谱谱段;
确定当前次训练用高光谱图像集的各高光谱图像所包括的多个光谱谱段的图像数据中与当前次训练用光谱谱段相应的图像数据,作为当前次训练用图像数据,所述当前次训练用图像数据具有相同或者部分相同的谱段信息;
根据所述当前次训练用图像数据调整高光谱图像解译用神经网络模型的网络参数;
所述训练方法还包括:
响应于当前次所述高光谱图像解译用神经网络模型的训练情况不满足预设的训练完成条件,执行下一次所述训练步骤,其中,执行的各次所述训练步骤中,至少二次的训练步骤中选取的训练用光谱谱段至少部分不同。
2.根据权利要求1所述的训练方法,其特征在于,在所述确定当前次训练用高光谱图像集的各高光谱图像所包括的多个光谱谱段的图像数据中与当前次训练用光谱谱段相应的图像数据之前,所述方法还包括:
从训练样本库中选取一部分高光谱图像作为所述当前次训练用高光谱图像集。
3.根据权利要求2所述的训练方法,其特征在于,执行的各次所述训练步骤中,至少二次的训练步骤中选取的训练用高光谱图像集所包括的高光谱图像至少部分不同。
4.根据权利要求1-3任意一项所述的方法,其特征在于,所述从预定的多光谱谱段信息中选取一部分光谱谱段,作为当前次训练用光谱谱段,包括:
至少根据预定的谱段选取比例从所述多光谱谱段信息中选取一部分光谱谱段,作为当前次训练用光谱谱段。
5.根据权利要求4所述的方法,其特征在于,所述至少根据预定的谱段选取比例从所述多光谱谱段信息中选取一部分光谱谱段,作为当前次训练用光谱谱段,包括:
至少根据预定的谱段选取比例从所述多光谱谱段信息中随机选取一部分光谱谱段,作为当前次训练用光谱谱段。
6.根据权利要求1所述的方法,其特征在于,所述从预定的多光谱谱段信息中选取一部分光谱谱段,作为当前次训练用光谱谱段,包括:
至少根据所述多光谱谱段信息包括的各光谱谱段的未选中比例,从所述多光谱谱段信息中选取一部分光谱谱段,作为当前次训练用光谱谱段。
7.根据权利要求6所述的方法,其特征在于,所述至少根据所述多光谱谱段信息包括的各光谱谱段的未选中比例,从所述多光谱谱段信息中选取一部分光谱谱段,作为当前次训练用光谱谱段,包括:
至少根据所述多光谱谱段信息包括的各光谱谱段的未选中比例,随机从所述多光谱谱段信息中选取一部分光谱谱段,作为当前次训练用光谱谱段。
8.根据权利要求1所述的方法,其特征在于,所述多光谱谱段信息包括:各次训练用高光谱图像集的各高光谱图像所包括的各个光谱谱段。
9.根据权利要求1所述的方法,其特征在于,所述高光谱图像的任一光谱谱段的图像数据,包括:所述高光谱图像在所述任一光谱谱段的图像中像素级的解译标注数据。
10.根据权利要求1所述的方法,其特征在于,所述神经网络模型包括多层神经网络模型。
11.根据权利要求10所述的方法,其特征在于,所述多层神经网络模型包括:卷积神经网络模型。
12.根据权利要求1所述的方法,其特征在于,所述预设的训练完成条件包括以下至少一项:
训练所述高光谱图像解译用神经网络模型的训练次数达到预设的次数阈值;以及
当前的高光谱图像解译用神经网络模型的损失函数的数值满足预设的数值条件。
13.根据权利要求12所述的方法,其特征在于,所述训练所述高光谱图像解译用神经网络模型的训练次数达到预设的次数阈值,包括:
各当前次训练用光谱谱段的训练次数均达到所述预设的次数阈值。
14.一种高光谱图像的解译方法,其特征在于,所述方法包括:
接收待解译高光谱图像集合,其中,所述待解译高光谱图像集合包括至少一个待解译高光谱图像;以及
通过如权利要求1-13之一所述的方法训练的高光谱图像解译用神经网络模型解译各所述待解译高光谱图像,得到各所述待解译高光谱图像的第一解译结果。
15.根据权利要求14所述的方法,其特征在于,所述方法还包括:
通过所述高光谱图像解译用神经网络模型多次解译同一张待解译高光谱图像,得到针对同一张待解译高光谱图像的多个第一解译结果;以及
将针对同一待解译高光谱图像的各第一解译结果加权相加得到该待解译高光谱图像的最终解译结果。
16.根据权利要求15所述的方法,其特征在于,所述高光谱图像解译用神经网络模型为卷积神经网络模型;
所述卷积神经网络模型包括选取层和卷积模块;
通过高光谱图像解译用神经网络模型解译各所述待解译高光谱图像,得到各所述待解译高光谱图像的第一解译结果包括:
通过所述选取层选取输入所述卷积神经网络的待解译高光谱图像中的一部分作为第一图像数据;以及
通过所述卷积模块对所述第一图像数据执行至少一次卷积操作以得到所述待解译高光谱图像的第一解译结果。
17.根据权利要求16所述的方法,其特征在于,所述卷积模块包括第一卷积单元、第二卷积单元、第三卷积单元和第四卷积单元;
所述卷积模块对所述第一图像数据执行至少一次卷积操作以得到所述待解译高光谱图像的第一解译结果,包括:
所述第一卷积单元的各第一卷积层对该第一卷积层的输入执行卷积操作以生成第一特征图,其中,第一级的第一卷积层对所述选取层输出的第一图像数据执行卷积操作,第i级的第一卷积层对第i-1级的第一卷积层输出的第一特征图执行卷积操作,其中,所述第一卷积单元包括N级的第一卷积层,2≤i≤N;
所述第二卷积单元的第一级的第二卷积层对所述第一图像数据执行卷积操作,所述第二卷积单元的第j级的第二卷积层分别对其中一个所述第一卷积层输出的第一特征图执行卷积操作以生成第二特征图,其中,所述第二卷积单元包括M级的第二卷积层,2≤j≤M;
所述第三卷积单元对各所述第二特征图并对各所述第二特征图执行卷积操作以生成第三特征图;以及
所述第四卷积单元对所述第三特征图和第N级的第一卷积层输出的第一特征图执行卷积操作以生成所述待解译高光谱图像的第一解译结果。
18.根据权利要求16或17所述的方法,其特征在于,所述待解译高光谱图像数据包括多个光谱谱段的数据;
所述将所述待解译高光谱图像通过所述选取层选取输入所述卷积神经网络的待解译高光谱图像中的一部分作为第一图像数据,包括:
以预设的选取比例随机选取所述待解译高光谱图像中的一部分光谱谱段的图像数据作为所述第一图像数据。
19.根据权利要求18所述的方法,其特征在于,还包括:
基于所述预设的选取比例确定针对同一待解译高光谱图像的各第一解译结果的加权权值。
20.一种高光谱图像解译用神经网络模型的训练装置,其特征在于,包括:
训练单元,用于执行至少二次如下的训练步骤:从预定的多光谱谱段信息中选取一部分光谱谱段,作为当前次训练用光谱谱段;确定当前次训练用高光谱图像集的各高光谱图像所包括的多个光谱谱段的图像数据中与当前次训练用光谱谱段相应的图像数据,作为当前次训练用图像数据,所述当前次训练用图像数据具有相同或者部分相同的谱段信息;根据所述当前次训练用图像数据调整高光谱图像解译用神经网络模型的网络参数;以及
判断单元,用于响应于当前次所述高光谱图像解译用神经网络模型的训练情况不满足预设的训练完成条件,执行下一次所述训练步骤,其中,执行的各次所述训练步骤中,至少二次的训练步骤中选取的训练用光谱谱段至少部分不同。
21.根据权利要求20所述的训练装置,其特征在于,在所述确定当前次训练用高光谱图像集的各高光谱图像所包括的多个光谱谱段的图像数据中与当前次训练用光谱谱段相应的图像数据之前,所述训练单元还用于:
从训练样本库中选取一部分高光谱图像作为所述当前次训练用高光谱图像集。
22.根据权利要求21所述的训练装置,其特征在于,在所述训练单元执行的各次所述训练步骤中,至少二次的训练步骤中选取的训练用高光谱图像集所包括的高光谱图像至少部分不同。
23.根据权利要求20-22任意一项所述的装置,其特征在于,所述训练单元包括选取模块,所述选取模块用于至少根据预定的谱段选取比例从所述多光谱谱段信息中选取一部分光谱谱段,作为当前次训练用光谱谱段。
24.根据权利要求23所述的装置,其特征在于,所述选取模块进一步用于至少根据预定的谱段选取比例从所述多光谱谱段信息中随机选取一部分光谱谱段,作为当前次训练用光谱谱段。
25.根据权利要求20所述的装置,其特征在于,所述训练单元进一步用于:
至少根据所述多光谱谱段信息包括的各光谱谱段的未选中比例,从所述多光谱谱段信息中选取一部分光谱谱段,作为当前次训练用光谱谱段。
26.根据权利要求25所述的装置,其特征在于,所述训练单元进一步用于:
至少根据所述多光谱谱段信息包括的各光谱谱段的未选中比例,随机从所述多光谱谱段信息中选取一部分光谱谱段,作为当前次训练用光谱谱段。
27.根据权利要求20所述的装置,其特征在于,所述多光谱谱段信息包括:各次训练用高光谱图像集的各高光谱图像所包括的各个光谱谱段。
28.根据权利要求20所述的装置,其特征在于,所述高光谱图像的任一光谱谱段的图像数据,包括:所述高光谱图像在所述任一光谱谱段的图像中像素级的解译标注数据。
29.根据权利要求20所述的装置,其特征在于,所述神经网络模型包括多层神经网络模型。
30.根据权利要求29所述的装置,其特征在于,所述多层神经网络模型包括:卷积神经网络模型。
31.根据权利要求20所述的装置,其特征在于,所述预设的训练完成条件包括以下至少一项:
训练所述高光谱图像解译用神经网络模型的训练次数达到预设的次数阈值;以及
当前的高光谱图像解译用神经网络模型的损失函数的数值满足预设的数值条件。
32.根据权利要求31所述的装置,其特征在于,所述训练所述高光谱图像解译用神经网络模型的训练次数达到预设的次数阈值,包括:
各当前次训练用光谱谱段的训练次数均达到所述预设的次数阈值。
33.一种高光谱图像的解译装置,其特征在于包括:
接收单元,用于接收待解译高光谱图像集合,其中,所述待解译高光谱图像集合包括至少一个待解译高光谱图像;以及
解译单元,用于通过如权利要求20-32之一所述的装置训练的高光谱图像解译用神经网络模型解译各所述待解译高光谱图像,得到各所述待解译高光谱图像的第一解译结果。
34.根据权利要求33所述的装置,其特征在于,还包括:
输入单元,用于通过所述高光谱图像解译用神经网络模型多次解译同一张待解译高光谱图像,得到针对同一张待解译高光谱图像的多个第一解译结果;以及
加权单元,将针对同一待解译高光谱图像的各第一解译结果加权相加得到该待解译高光谱图像的最终解译结果。
35.根据权利要求34所述的装置,其特征在于,所述高光谱图像解译用神经网络模型为卷积神经网络模型;
所述卷积神经网络模型包括选取层和卷积模块;
所述解译单元进一步包括:
选取模块,用于通过所述选取层选取输入所述卷积神经网络的待解译高光谱图像中的一部分作为第一图像数据;以及
第一解译模块,用于通过所述卷积模块对所述第一图像数据执行至少一次卷积操作以得到所述待解译高光谱图像的第一解译结果。
36.根据权利要求35所述的装置,其特征在于,所述卷积模块包括第一卷积单元、第二卷积单元、第三卷积单元和第四卷积单元;
所述第一解译模块进一步用于:
基于所述第一卷积单元的各第一卷积层对该第一卷积层的输入执行卷积操作以生成第一特征图,其中,第一级的第一卷积层对所述选取层输出的第一图像数据执行卷积操作,第i级的第一卷积层对第i-1级的第一卷积层输出的第一特征图执行卷积操作,其中,所述第一卷积单元包括N级的第一卷积层,2≤i≤N;
基于所述第二卷积单元的第一级的第二卷积层对所述第一图像数据执行卷积操作,所述第二卷积单元的第j级的第二卷积层分别对其中一个所述第一卷积层输出的第一特征图执行卷积操作以生成第二特征图,其中,所述第二卷积单元包括M级的第二卷积层,2≤j≤M;
基于所述第三卷积单元对各所述第二特征图并对各所述第二特征图执行卷积操作以生成第三特征图;以及
基于所述第四卷积单元对所述第三特征图和第N级的第一卷积层输出的第一特征图执行卷积操作以生成所述待解译高光谱图像的第一解译结果。
37.根据权利要求35或36所述的装置,其特征在于,所述待解译高光谱图像数据包括多个光谱谱段的数据;
所述选取模块进一步用于:
以预设的选取比例随机选取所述待解译高光谱图像中的一部分光谱谱段的图像数据作为所述第一图像数据。
38.根据权利要求37所述的装置,其特征在于:
所述加权单元进一步用于基于所述预设的选取比例确定针对同一待解译高光谱图像的各第一解译结果的加权权值。
39.一种电子设备,其特征在于,包括:
存储器,存储可执行指令;
一个或多个处理器,与存储器通信以执行可执行指令从而完成至少两次以下的训练操作:
从预定的多光谱谱段信息中选取一部分光谱谱段,作为当前次训练用光谱谱段;
确定当前次训练用高光谱图像集的各高光谱图像所包括的多个光谱谱段的图像数据中与当前次训练用光谱谱段相应的图像数据,作为当前次训练用图像数据,所述当前次训练用图像数据具有相同或者部分相同的谱段信息;
根据所述当前次训练用图像数据调整高光谱图像解译用神经网络模型的网络参数;
所述处理器还用于响应于当前次所述高光谱图像解译用神经网络模型的训练情况不满足预设的训练完成条件,执行下一次所述训练操作,其中,执行的各次所述训练操作中,至少二次的训练操作中选取的训练用光谱谱段至少部分不同。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710054725.2A CN108229517B (zh) | 2017-01-24 | 2017-01-24 | 神经网络训练和高光谱图像解译方法、装置及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710054725.2A CN108229517B (zh) | 2017-01-24 | 2017-01-24 | 神经网络训练和高光谱图像解译方法、装置及电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108229517A CN108229517A (zh) | 2018-06-29 |
CN108229517B true CN108229517B (zh) | 2020-08-04 |
Family
ID=62656464
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710054725.2A Active CN108229517B (zh) | 2017-01-24 | 2017-01-24 | 神经网络训练和高光谱图像解译方法、装置及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108229517B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109271949A (zh) * | 2018-09-28 | 2019-01-25 | 中国科学院长春光学精密机械与物理研究所 | 多谱段图像数据提取方法、装置、设备及可读存储介质 |
CN109686083B (zh) * | 2018-12-10 | 2021-10-08 | 山东交通学院 | 一种基于道路摄像头的路面结冰监测方法与系统 |
CN110349121A (zh) * | 2018-12-27 | 2019-10-18 | 合刃科技(深圳)有限公司 | 一种基于高光谱成像与神经网络的监测方法以及终端 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103942562A (zh) * | 2014-03-27 | 2014-07-23 | 河海大学 | 基于多分类器组合的高光谱图像分类方法 |
CN105045819A (zh) * | 2015-06-26 | 2015-11-11 | 深圳市腾讯计算机系统有限公司 | 一种训练数据的模型训练方法及装置 |
CN105069470A (zh) * | 2015-07-29 | 2015-11-18 | 腾讯科技(深圳)有限公司 | 分类模型训练方法及装置 |
CN105740894A (zh) * | 2016-01-28 | 2016-07-06 | 北京航空航天大学 | 一种高光谱遥感图像的语义标注方法 |
CN105809185A (zh) * | 2015-12-31 | 2016-07-27 | 天津大学 | 基于神经网络和差分搜索的高光谱图像非线性解混方法 |
CN105975912A (zh) * | 2016-04-27 | 2016-09-28 | 天津大学 | 基于神经网络的高光谱图像非线性解混方法 |
-
2017
- 2017-01-24 CN CN201710054725.2A patent/CN108229517B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103942562A (zh) * | 2014-03-27 | 2014-07-23 | 河海大学 | 基于多分类器组合的高光谱图像分类方法 |
CN105045819A (zh) * | 2015-06-26 | 2015-11-11 | 深圳市腾讯计算机系统有限公司 | 一种训练数据的模型训练方法及装置 |
CN105069470A (zh) * | 2015-07-29 | 2015-11-18 | 腾讯科技(深圳)有限公司 | 分类模型训练方法及装置 |
CN105809185A (zh) * | 2015-12-31 | 2016-07-27 | 天津大学 | 基于神经网络和差分搜索的高光谱图像非线性解混方法 |
CN105740894A (zh) * | 2016-01-28 | 2016-07-06 | 北京航空航天大学 | 一种高光谱遥感图像的语义标注方法 |
CN105975912A (zh) * | 2016-04-27 | 2016-09-28 | 天津大学 | 基于神经网络的高光谱图像非线性解混方法 |
Also Published As
Publication number | Publication date |
---|---|
CN108229517A (zh) | 2018-06-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112560876B (zh) | 解耦度量的单阶段小样本目标检测方法 | |
Huang et al. | Building extraction from multi-source remote sensing images via deep deconvolution neural networks | |
Sameen et al. | Classification of very high resolution aerial photos using spectral-spatial convolutional neural networks | |
CN106934397B (zh) | 图像处理方法、装置及电子设备 | |
US20200034648A1 (en) | Method and apparatus for segmenting sky area, and convolutional neural network | |
CN111353531B (zh) | 基于奇异值分解和空谱域注意力机制高光谱图像分类方法 | |
US20150332127A1 (en) | Method and apparatus for image processing | |
CN112215201B (zh) | 评估人脸识别模型、针对图像的分类模型的方法及装置 | |
US11392800B2 (en) | Computer vision systems and methods for blind localization of image forgery | |
CN108229517B (zh) | 神经网络训练和高光谱图像解译方法、装置及电子设备 | |
CN113869282B (zh) | 人脸识别方法、超分模型训练方法及相关设备 | |
CN108229274B (zh) | 多层神经网络模型训练、道路特征识别的方法和装置 | |
CN113191489B (zh) | 二值神经网络模型的训练方法、图像处理方法和装置 | |
CN113792827B (zh) | 目标对象识别方法、电子设备和计算机可读存储介质 | |
Cui et al. | Dual-triple attention network for hyperspectral image classification using limited training samples | |
Qian et al. | A benchmark for burst color constancy | |
CN113962900A (zh) | 复杂背景下红外弱小目标检测方法、装置、设备及介质 | |
CN114187515A (zh) | 图像分割方法和图像分割装置 | |
CN108229467B (zh) | 解译遥感图像的方法、装置和电子设备 | |
CN111179245B (zh) | 图像质量检测方法、装置、电子设备和存储介质 | |
CN110751163B (zh) | 目标定位方法及其装置、计算机可读存储介质和电子设备 | |
CN116543325A (zh) | 基于无人机影像的农作物人工智能自动识别方法和系统 | |
US20230386023A1 (en) | Method for detecting medical images, electronic device, and storage medium | |
CN114581793A (zh) | 遥感图像的云识别方法、装置、电子设备及可读存储介质 | |
Huang et al. | A hybrid spatial-spectral denoising method for infrared hyperspectral images using 2DPCA |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |