CN107025440A - 一种基于新型卷积神经网络的遥感图像道路提取方法 - Google Patents
一种基于新型卷积神经网络的遥感图像道路提取方法 Download PDFInfo
- Publication number
- CN107025440A CN107025440A CN201710188296.8A CN201710188296A CN107025440A CN 107025440 A CN107025440 A CN 107025440A CN 201710188296 A CN201710188296 A CN 201710188296A CN 107025440 A CN107025440 A CN 107025440A
- Authority
- CN
- China
- Prior art keywords
- road
- convolutional neural
- remote sensing
- neural networks
- sensing images
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/10—Terrestrial scenes
- G06V20/182—Network patterns, e.g. roads or rivers
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/10—Terrestrial scenes
- G06V20/194—Terrestrial scenes using hyperspectral data, i.e. more or other wavelengths than RGB
Abstract
本发明提出一种基于新型卷积神经网络的遥感图像道路提取方法,属于遥感图像处理领域。本方法包括建立全卷积神经网络,使用像素与道路区域的最小欧氏距离获得惩罚权重并构建新的损失函数,使用得到的基于道路结构的损失函数对全卷积神经网络模型进行训练,使用训练好的模型进行道路提取。本发明可以将道路的几何结构以惩罚权重的形式体现在损失函数中,不仅保留道路的全局结构特性,而且为每一个像素点提供相应的重要系数,采用本发明所得到的遥感图像道路检测模型与现有技术相比,在查全率和精度方面都有所提升,能够得到完整的道路结构,改善道路中断并排除屋顶误检等情况,获得较好的道路提取效果。
Description
技术领域
本发明属于遥感图像处理领域,具体是一种基于道路结构特性的卷积神经网络模型实现遥感图像道路提取的方法。
背景技术
有研究表明,经过近20年的研究,遥感图像道路提取技术仍然并不成熟。由于卫星或者无人机拍摄的遥感图像中经常存在着树木,行人和车辆对道路的遮挡和阴影,并且道路的外形千差万别,这些特点为遥感道路提取带来了极大的挑战。传统的启发式的遥感图像道路提取方法,例如:动态阈值、形态学处理、模板匹配等,表现均不理想。基于学习的遥感图像道路提取方法,例如:支持向量机、聚类、马尔科夫随机场等,相比于传统的启发式的遥感图像道路提取方法的提取精度相对有所提升,但是仍需进一步研究。
另外,卷积神经网络在图像的特征提取与分类问题中取得的优异成绩,表明了卷积神经网络的特征挖掘和抽象能力。也正因如此,卷积神经网络也被引入了遥感领域并被用于遥感图像道路提取。
参考文件[1](S.Saito,T.Yamashita,and Y.Aoki,“Multiple objectextraction from aerial imagery with convolutional neural networks,”ElectronicImaging,vol.2016,no.10,pp.1–9,2016.)中同样使用了卷积神经网络来实现遥感图像的道路提取,但是采用向量形式的输出,这样会导致遥感图像中道路的二维相关性信息丢失,得到结构出现断裂,以及把屋顶误判成道路的检测结果。
发明内容
本发明针对目前并不完善的遥感图像道路提取方法,提出一种基于道路结构特性的损失函数,实现了一种基于全卷积神经网络的遥感图像道路提取方法。
本发明提供的基于全卷积神经网络的遥感图像道路提取方法,包括步骤如下:
步骤一、建立全卷积神经网络模型;
步骤二、建立基于道路结构特性的损失函数,所述的损失函数L表示为:
其中,I表示当前图像内所有像素点的集合;f(di)为惩罚权重,di代表第i个像素点到图像内道路区域的最小欧氏距离;yi是地面真值,若第i个像素点是道路,yi=1,若第i个像素点不是道路,则yi=0;ai表示网络输出,是当前第i个像素点为道路的概率。
步骤三、使用基于道路结构特性的损失函数,对构建的全卷积神经网络模型进行训练,并使用训练得到的最佳模型进行道路提取。
本发明的优点和积极效果在于:
(1)本发明的遥感图像道路提取方法,使用全卷积神经网络实现结构性输出,可以充分挖掘遥感图像中道路的二维几何结构相关性。
(2)本发明的一种基于新型卷积神经网络的遥感图像道路提取方法,构建一种基于道路结构特性的损失函数。本发明的损失函数可以将道路的几何结构以惩罚权重的形式体现在损失函数中,不仅保留道路的全局结构特性,而且为每一个像素点提供相应的重要系数。最终,指导整个模型的训练,得到基于道路几何构型特性的遥感图像道路检测模型。
附图说明
图1为本发明的遥感图像道路提取方法的流程图;
图2为全卷积神经网络结构图;
图3为使用本发明的遥感图像道路提取方法的实验结果图示。
具体实施方式
下面结合附图与具体实例对本发明的技术方案作进一步的描述。
本发明发现,与普通的目标提取方法不同,道路满足一定的几何构型约束,这可以作为道路提取的一个线索。但是目前,没有任何一种基于卷积神经网络的遥感图像道路提取方法把道路的结构信息融入到损失函数当中,以改进模型。
本发明实现的一种基于新型卷积神经网络的遥感图像道路提取方法,首先,在经典神经网络VGG的基础上,使用反卷积层和剪切层建立全卷积神经网络。然后,定义并构建基于道路结构特性的损失函数,具体地,使用像素与道路区域的最小欧氏距离获得惩罚权重并用于构建新的损失函数。使用得到的基于道路结构的损失函数对本发明中的神经网络模型进行训练。同时,对训练得到的道路提取模型的技术效果进行评估与分析。
本发明的基于新型卷积神经网络的遥感图像道路提取方法的流程如图1所示,下面对各步骤进行说明。
步骤一、选取全卷积神经网络。
受到全卷积神经网络(Fully Convolutional Network)的启发,在VGG网络的基础上建立全卷积神经网络。具体的神经网络结构如图2所示,使用VGG的前13层(C1,C2,…,C13),后续连接3个卷积层(C14,C15,C16),3个反卷积层(DC1,DC2,DC3),2个融合层(F1,F2)和1个剪切层(Crop1),实现网络最终输出与输入尺寸相同。其中,Ci(k,s×s,c)代表第i个卷积层,该卷积层中卷积核的个数是k,卷积核的尺寸是s×s,步长是c;DCi(k,s×s,c)的定义是第i个反卷积层,该反卷积层中滤波器的个数是k,反卷积核的尺寸是s×s,步长是c;Fi是第i个融合层;Cropi是第i个剪切层。本发明中的网络和参考文件[2](J.Long,E.Shelhamer,and T.Darrell,“Fully convolutional networks for semantic segmentation,”inProceedings of the IEEE Conference on Computer Vision and PatternRecognition,2015,pp.3431–3440.)中的FCN(Fully Convolutional Network)的区别在于C14中卷积核由4096调整为2048。但本发明不限于上文选用的特定网络,本发明提出的基于道路结构特性的损失函数可以搭配其他任意合适的拥有结构性输出的全卷积神经网络,得到基于道路结构特性的遥感图像道路检测模型。
步骤二、建立基于道路结构特性的损失函数。
步骤201、使用训练数据的地面真值得到各像素点惩罚权重。惩罚权重f(di)如下计算:
其中,I代表当前图像内所有像素点的集合;di代表当前第i个像素点到图像内道路区域的最小欧氏距离;maxi∈I{di}代表当前图像内的所有像素点中到道路区域欧氏距离的最大值,T是设置的一个阈值,用于决定当前像素距离道路区域是否足够远。在当前的像素点到道路区域足够远时(di≥T),将惩罚系数定义为常数认为当前像素点对于道路区域的提取产生的影响度相同。
步骤202、定义基于道路结构特性的损失函数:
式(2)表明,在一定距离范围内(di<T),像素点离道路区域越远,对道路区域的提取结果产生的影响越小,进而获得的惩罚权重系数越小。但是当前像素点一旦超过范围限定(di≥T),则认为对道路区域的提取结果产生的影响很小,并且在范围外的所有像素点之间没有区别,将惩罚权重系数设为常数。yi是地面真值,即如果第i个像素点是道路,则yi=1,如果第i个像素点不是道路,则yi=0。ai表示网络输出,即当前第i个像素点为道路的概率。
步骤三、使用基于道路结构特性的损失函数,对本发明中构建的全卷积神经网络模型进行训练。
步骤301、使用现有的数据库,对图像进行遴选,形成训练集。
本发明实施例中,从现有的RGB遥感图像的数据库中,挑选14498张分辨率为375x375的遥感图像形成训练集,224张相同分辨率的遥感图像形成验证集,784张相同分辨率的遥感图像形成测试集。
步骤302、将遴选好的图像处理成实验所用的数据格式。
本发明实施例中,需要将图像处理为LMDB格式,实验在“caffe”平台上完成。本发明对于训练平台和实验数据格式并无特殊要求,仅需满足训练的数据格式和训练平台匹配即可。
步骤303、使用步骤二中构建的基于道路结构特性的损失函数和步骤三中得到的训练样本,对本发明中构建的全卷积神经网络模型进行训练,获得一种新型的全卷积神经网络遥感图像道路提取模型。
本发明实施例中,模型训练的学习率设为10-12,每训练20,000次,学习率变为原来的0.1。每迭代一次使用8张图,对本发明提出的网络结构进行训练。其中,网络的前13层在VGG网络的前13层参数的基础上进行微调。本发明并不限制训练参数,训练参数可根据需求自行选择。
步骤304、使用验证集选择最佳的新型的全卷积神经网络遥感图像道路提取训练模型,即选出对验证集中遥感图像道路提取精度最高的模型。并使用最佳模型对测试集图像进行道路提取,得到概率图,并使用otsu阈值分割,得到二值化道路提取结果。
步骤305、对本发明所得到的模型在遥感图像道路提取中的结果进行简单展示与检验。
本发明对所提出的遥感图像道路提取模型检测结果进行简单展示与检验。本发明得到的基于道路结构特性的道路检测模型与现有技术相比,在查全率和精度方面都有所提升。本发明随机选取两张道路提取结果图,如图3所示,对道路提取效果进行展示,从图中可以看出,使用本发明方法,能够得到完整的道路结构,改善道路中断并排除屋顶误检等情况,获得较好的道路提取效果。
本发明通过构建全卷积神经网络及基于道路结构特性的损失函数,形成一种新型卷积神经网络模型,并将其应用于遥感图像道路提取。尽管本发明已参照具体实施方式进行描述和举例说明,但是并不意味着本发明限于该描述的实施方式。
Claims (3)
1.一种基于新型卷积神经网络的遥感图像道路提取方法,其特征在于,包括步骤:
步骤一、建立全卷积神经网络模型;
步骤二、建立基于道路结构特性的损失函数,所述的损失函数L表示为:
其中,I表示当前图像内所有像素点的集合;f(di)为惩罚权重,di代表第i个像素点到图像内道路区域的最小欧氏距离;yi是地面真值,若第i个像素点是道路,yi=1,若第i个像素点不是道路,则yi=0;ai表示第i个像素点为道路的概率;
步骤三、使用基于道路结构特性的损失函数,对全卷积神经网络模型进行训练,并使用训练得到的最佳模型进行道路提取。
2.根据权利要求1所述的遥感图像道路提取方法,其特征在于,所述的步骤二中,惩罚权重使用训练数据的地面真值得到,计算公式如下:
其中,maxi∈I{di}代表当前图像内的所有像素点中到道路区域欧氏距离的最大值,T为设定的阈值,用于决定当前像素距离道路区域是否足够远。
3.根据权利要求1所述的遥感图像道路提取方法,其特征在于,所述的步骤一中,所述的全卷积神经网络模型,在VGG网络的基础上,使用反卷积层和剪切层建立。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710188296.8A CN107025440A (zh) | 2017-03-27 | 2017-03-27 | 一种基于新型卷积神经网络的遥感图像道路提取方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710188296.8A CN107025440A (zh) | 2017-03-27 | 2017-03-27 | 一种基于新型卷积神经网络的遥感图像道路提取方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN107025440A true CN107025440A (zh) | 2017-08-08 |
Family
ID=59526021
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710188296.8A Pending CN107025440A (zh) | 2017-03-27 | 2017-03-27 | 一种基于新型卷积神经网络的遥感图像道路提取方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN107025440A (zh) |
Cited By (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107527351A (zh) * | 2017-08-31 | 2017-12-29 | 华南农业大学 | 一种融合fcn和阈值分割的哺乳母猪图像分割方法 |
CN107704840A (zh) * | 2017-10-24 | 2018-02-16 | 汕头大学 | 一种基于深度学习的遥感图像道路检测方法 |
CN108052933A (zh) * | 2018-01-16 | 2018-05-18 | 杭州国辰机器人科技有限公司 | 基于卷积神经网络的道路识别系统及方法 |
CN108256424A (zh) * | 2017-12-11 | 2018-07-06 | 中交信息技术国家工程实验室有限公司 | 一种基于深度学习的高分辨率遥感图像道路提取方法 |
CN108446616A (zh) * | 2018-03-09 | 2018-08-24 | 西安电子科技大学 | 基于全卷积神经网络集成学习的道路提取方法 |
CN108898092A (zh) * | 2018-06-26 | 2018-11-27 | 北京工业大学 | 基于全卷积神经网络的多光谱遥感影像路网提取方法 |
CN108985222A (zh) * | 2018-07-12 | 2018-12-11 | 天津艾思科尔科技有限公司 | 一种用于接打电话识别的深度学习网络模型及系统 |
CN109426824A (zh) * | 2017-08-28 | 2019-03-05 | 高德软件有限公司 | 道路交通标线的识别方法和装置 |
WO2019056845A1 (zh) * | 2017-09-19 | 2019-03-28 | 北京市商汤科技开发有限公司 | 道路图生成方法、装置、电子设备和计算机存储介质 |
CN109740442A (zh) * | 2018-12-12 | 2019-05-10 | 北京字节跳动网络技术有限公司 | 定位方法、装置、存储介质及电子设备 |
CN109871798A (zh) * | 2019-02-01 | 2019-06-11 | 浙江大学 | 一种基于卷积神经网络的遥感影像建筑物提取方法 |
CN110287932A (zh) * | 2019-07-02 | 2019-09-27 | 中国科学院遥感与数字地球研究所 | 基于深度学习图像语义分割的道路阻断信息提取 |
CN110298321A (zh) * | 2019-07-02 | 2019-10-01 | 中国科学院遥感与数字地球研究所 | 基于深度学习图像分类的道路阻断信息提取 |
CN111046768A (zh) * | 2019-12-04 | 2020-04-21 | 武汉大学 | 一种同时提取遥感影像道路路面和中心线的深度学习方法 |
CN111121797A (zh) * | 2018-11-01 | 2020-05-08 | 百度在线网络技术(北京)有限公司 | 道路筛选方法、装置、服务器及存储介质 |
US11689607B2 (en) | 2018-12-17 | 2023-06-27 | Tencent Technology (Shenzhen) Company Limited | Data processing method and apparatus, storage medium, and electronic device |
-
2017
- 2017-03-27 CN CN201710188296.8A patent/CN107025440A/zh active Pending
Non-Patent Citations (4)
Title |
---|
JONATHAN LONG等: ""Fully convolutional networks for semantic segmentation"", 《IN PROCEEDINGS OF THE IEEE CONFERENCE ON COMPUTER VISION AND PATTERN RECOGNITION》 * |
SHUNTA SAITO等: ""Multiple object extraction from aerial imagery with convolutional neural network"", 《SOCIETY FOR IMAGING SCIENCE AND TECHNOLOGY》 * |
YANAN WEI等: ""Road Structure Refined CNN for Road Extraction in Aerial Image"", 《IEEE GEOSCIENCE AND REMOTE SENSING LETTERS》 * |
刘如意等: ""一种自动的高分辨率遥感影像道路提取方法"", 《西安电子科技大学学报(自然科学版)》 * |
Cited By (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109426824A (zh) * | 2017-08-28 | 2019-03-05 | 高德软件有限公司 | 道路交通标线的识别方法和装置 |
CN107527351B (zh) * | 2017-08-31 | 2020-12-29 | 华南农业大学 | 一种融合fcn和阈值分割的哺乳母猪图像分割方法 |
CN107527351A (zh) * | 2017-08-31 | 2017-12-29 | 华南农业大学 | 一种融合fcn和阈值分割的哺乳母猪图像分割方法 |
US11354893B2 (en) | 2017-09-19 | 2022-06-07 | Beijing Sensetime Technology Development Co., Ltd. | Method and apparatus for generating road map, electronic device, and computer storage medium |
WO2019056845A1 (zh) * | 2017-09-19 | 2019-03-28 | 北京市商汤科技开发有限公司 | 道路图生成方法、装置、电子设备和计算机存储介质 |
CN107704840A (zh) * | 2017-10-24 | 2018-02-16 | 汕头大学 | 一种基于深度学习的遥感图像道路检测方法 |
CN108256424A (zh) * | 2017-12-11 | 2018-07-06 | 中交信息技术国家工程实验室有限公司 | 一种基于深度学习的高分辨率遥感图像道路提取方法 |
CN108052933A (zh) * | 2018-01-16 | 2018-05-18 | 杭州国辰机器人科技有限公司 | 基于卷积神经网络的道路识别系统及方法 |
CN108446616A (zh) * | 2018-03-09 | 2018-08-24 | 西安电子科技大学 | 基于全卷积神经网络集成学习的道路提取方法 |
CN108446616B (zh) * | 2018-03-09 | 2021-09-03 | 西安电子科技大学 | 基于全卷积神经网络集成学习的道路提取方法 |
CN108898092A (zh) * | 2018-06-26 | 2018-11-27 | 北京工业大学 | 基于全卷积神经网络的多光谱遥感影像路网提取方法 |
CN108985222A (zh) * | 2018-07-12 | 2018-12-11 | 天津艾思科尔科技有限公司 | 一种用于接打电话识别的深度学习网络模型及系统 |
CN108985222B (zh) * | 2018-07-12 | 2024-02-20 | 天津艾思科尔科技有限公司 | 一种用于接打电话识别的深度学习网络模型及系统 |
CN111121797A (zh) * | 2018-11-01 | 2020-05-08 | 百度在线网络技术(北京)有限公司 | 道路筛选方法、装置、服务器及存储介质 |
CN111121797B (zh) * | 2018-11-01 | 2021-11-12 | 百度在线网络技术(北京)有限公司 | 道路筛选方法、装置、服务器及存储介质 |
CN109740442A (zh) * | 2018-12-12 | 2019-05-10 | 北京字节跳动网络技术有限公司 | 定位方法、装置、存储介质及电子设备 |
US11689607B2 (en) | 2018-12-17 | 2023-06-27 | Tencent Technology (Shenzhen) Company Limited | Data processing method and apparatus, storage medium, and electronic device |
CN109871798A (zh) * | 2019-02-01 | 2019-06-11 | 浙江大学 | 一种基于卷积神经网络的遥感影像建筑物提取方法 |
CN110287932A (zh) * | 2019-07-02 | 2019-09-27 | 中国科学院遥感与数字地球研究所 | 基于深度学习图像语义分割的道路阻断信息提取 |
CN110298321A (zh) * | 2019-07-02 | 2019-10-01 | 中国科学院遥感与数字地球研究所 | 基于深度学习图像分类的道路阻断信息提取 |
CN110287932B (zh) * | 2019-07-02 | 2021-04-13 | 中国科学院空天信息创新研究院 | 基于深度学习图像语义分割的道路阻断信息提取方法 |
CN111046768A (zh) * | 2019-12-04 | 2020-04-21 | 武汉大学 | 一种同时提取遥感影像道路路面和中心线的深度学习方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107025440A (zh) | 一种基于新型卷积神经网络的遥感图像道路提取方法 | |
CN109584248B (zh) | 基于特征融合和稠密连接网络的红外面目标实例分割方法 | |
CN108875608B (zh) | 一种基于深度学习的机动车交通信号识别方法 | |
CN107220657B (zh) | 一种面向小数据集的高分辨率遥感影像场景分类的方法 | |
CN104809443B (zh) | 基于卷积神经网络的车牌检测方法及系统 | |
CN104599275B (zh) | 基于概率图模型的非参数化的rgb-d场景理解方法 | |
CN108052966B (zh) | 基于卷积神经网络的遥感图像场景自动提取和分类方法 | |
Chen et al. | Vehicle detection in high-resolution aerial images based on fast sparse representation classification and multiorder feature | |
CN109684922B (zh) | 一种基于卷积神经网络的多模型对成品菜的识别方法 | |
EP3101594A1 (en) | Saliency information acquisition device and saliency information acquisition method | |
CN108596108B (zh) | 基于三元组语义关系学习的航拍遥感图像变化检测方法 | |
CN110084159A (zh) | 基于联合多级空谱信息cnn的高光谱图像分类方法 | |
CN106023257A (zh) | 一种基于旋翼无人机平台的目标跟踪方法 | |
CN111460980B (zh) | 基于多语义特征融合的小目标行人的多尺度检测方法 | |
WO2018076138A1 (zh) | 基于大尺度高分辨率高光谱图像的目标探测方法及装置 | |
CN102024262A (zh) | 利用流形谱聚类进行图像分割的方法 | |
KR101908481B1 (ko) | 보행자 검출 장치 및 방법 | |
CN112818905B (zh) | 一种基于注意力和时空信息的有限像素车辆目标检测方法 | |
CN112580480B (zh) | 一种高光谱遥感影像分类方法及装置 | |
CN109635647B (zh) | 一种基于约束条件下的多图片多人脸的聚类方法 | |
CN110222718A (zh) | 图像处理的方法及装置 | |
CN109117723B (zh) | 基于颜色模式分析与语义分割的盲道检测方法 | |
Nice et al. | Sky pixel detection in outdoor imagery using an adaptive algorithm and machine learning | |
Li et al. | An aerial image segmentation approach based on enhanced multi-scale convolutional neural network | |
Song et al. | Small UAV-based multi-temporal change detection for monitoring cultivated land cover changes in mountainous terrain |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WD01 | Invention patent application deemed withdrawn after publication | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20170808 |