CN110111416B - 基于HoloLens眼镜的矿井内部模型采集建立方法 - Google Patents

基于HoloLens眼镜的矿井内部模型采集建立方法 Download PDF

Info

Publication number
CN110111416B
CN110111416B CN201910373806.8A CN201910373806A CN110111416B CN 110111416 B CN110111416 B CN 110111416B CN 201910373806 A CN201910373806 A CN 201910373806A CN 110111416 B CN110111416 B CN 110111416B
Authority
CN
China
Prior art keywords
mine
points
glasses
network
point
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910373806.8A
Other languages
English (en)
Other versions
CN110111416A (zh
Inventor
秦学斌
纪晨晨
王卓
李瑞琪
刘浪
王湃
张波
王美
赵玉娇
张小艳
郇超
邱华富
王乐
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
China Energy Chemical Beijing Digital Technology Industry Co ltd
Original Assignee
Wuhan Anchenxin Information Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Wuhan Anchenxin Information Technology Co ltd filed Critical Wuhan Anchenxin Information Technology Co ltd
Priority to CN201910373806.8A priority Critical patent/CN110111416B/zh
Publication of CN110111416A publication Critical patent/CN110111416A/zh
Application granted granted Critical
Publication of CN110111416B publication Critical patent/CN110111416B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/084Backpropagation, e.g. using gradient descent
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Biomedical Technology (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Mathematical Physics (AREA)
  • Biophysics (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Geometry (AREA)
  • Computer Graphics (AREA)
  • Processing Or Creating Images (AREA)

Abstract

本发明公开了一种基于HoloLens眼镜的矿井内部模型采集建立方法,包括步骤:一、采用HoloLens眼镜的空间映射功能采集矿井内部结构信息;二、HoloLens眼镜将其存储的多组矿井内部结构信息网格以及照片信息传输给数据处理计算机;三、数据处理计算机对多组矿井内部结构信息网格和矿井内壁照片信息进行分析处理,得到矿井内部3D模型。本发明方法步骤简单,设计新颖合理,操作简单明了,泛用性好,建模周期短,建模的真实性好,实用性强,使用效果好,便于推广使用。

Description

基于HoloLens眼镜的矿井内部模型采集建立方法
技术领域
本发明属于矿井内部结构研究技术领域,具体涉及一种基于HoloLens眼镜的矿井内部模型采集建立方法。
背景技术
矿井内部结构较为复杂,矿图在学习等范围内起到了重要的作用,它是了解矿层赋存条件、地址构造及水文地质等的必要材料。和传统的矿图相比较,使用模型来显示整个矿井视觉效果更加直观,目前有诸如在电脑上基于CAD、3ds Max或者基于sketchup等进行建立的三维的矿井模型。但是在使用的时候存在以下一些共同的问题:
1、建立矿井模型需要先有相关矿井知识,并且还要求能够使用CAD、3ds Max这些软件进行建模;
2、矿井内结构复杂,制作矿井模型工作量较大,效率低;
3、建立矿井模型周期长;
4、建立的矿井模型真实性不够好。
发明内容
本发明所要解决的技术问题在于针对上述现有技术中的不足,提供一种基于HoloLens眼镜的矿井内部模型采集建立方法,其方法步骤简单,设计新颖合理,操作简单明了,泛用性好,建模周期短,建模的真实性好,实用性强,使用效果好,便于推广使用。
为解决上述技术问题,本发明采用的技术方案是:一种基于HoloLens眼镜的矿井内部模型采集建立方法,其特征在于,该方法包括以下步骤:
步骤一、采用HoloLens眼镜的空间映射功能采集矿井内部结构信息,具体过程为:
步骤101、用户操作HoloLens眼镜,设定单次扫描范围阈值;
步骤102、用户带着HoloLens眼镜在矿井内部行走,采用HoloLens眼镜扫描矿井内部环境,得到一组矿井内部结构信息网格和坐标并存储;当HoloLens眼镜的扫描范围达到设定的单次扫描范围阈值时,扫描暂停;
步骤103、用户带着HoloLens眼镜,在步骤102中走过的区域,正对矿井内壁,周期性地对HoloLens眼镜发出拍照手势,HoloLens眼镜接收到拍照手势后,拍摄矿井内壁照片并存储;
步骤104、用户手动裁剪步骤103中存储的矿井内壁照片,并根据矿井内壁照片对应于矿井内部结构信息网格的位置,存储矿井内壁照片的坐标信息;
步骤105、用户前往下一个区域,隐藏上一次得到的矿井内部结构信息网格,并重复步骤102至步骤104;
由于HoloLens眼镜本身的内存和运算能力有限,因此,使用HoloLens眼镜按照以上方法采集离散的小空间,采集完一个隐藏一个,采集的多组矿井内部结构信息网格用于后续拼接处理构成完整的矿井内部3D模型。
步骤二、HoloLens眼镜将其存储的多组矿井内部结构信息网格和矿井内壁照片信息传输给数据处理计算机;
步骤三、数据处理计算机对多组矿井内部结构信息网格和矿井内壁照片信息进行分析处理,得到矿井内部3D模型;具体过程为:
步骤301、数据处理计算机先对多组矿井内部结构信息网格分别进行建立矿井内部3D模型和矿井内壁照片归位;
步骤302、数据处理计算机对多张矿井内壁照片进行物品匹配处理,在矿井内部3D模型上对应位置处标注物品类别;
步骤303、数据处理计算机将多个矿井内部3D模型按照坐标系进行排列,实现多个矿井内部3D模型的拼接,构成完整的矿井内部3D模型。
上述的基于HoloLens眼镜的矿井内部模型采集建立方法,步骤102中所述扫描暂停后,HoloLens眼镜发出声音或显示的提示信息,提示用户进行拍照。
上述的基于HoloLens眼镜的矿井内部模型采集建立方法,步骤二中HoloLens眼镜将其存储的多组矿井内部结构信息网格和矿井内壁照片信息传输给数据处理计算机,采用的传输方式为数据线传输或局域网传输。
上述的基于HoloLens眼镜的矿井内部模型采集建立方法,步骤301中所述数据处理计算机对多组矿井内部结构信息网格分别进行建立矿井内部3D模型处理,采用Unity3D软件进行,对每组矿井内部结构信息网格进行建立矿井内部3D模型处理的具体的处理过程为:
步骤A、将每组矿井内部结构信息网格内点的坐标按照位置进行分类,分出矿井内两面墙壁、地面和顶,具体过程为:
步骤A1、利用Unity3D软件的射线系统,在不同的位置依次向前、后、左、右、上、下发射射线,射线碰撞到矿井内部结构信息网格后,通过RaycastHit类型的变量通过读取normal信息获取到碰撞点的法线信息;
步骤A2、以碰撞点为中心点,利用Unity3D软件的射线系统,在距中心点0.2m对角线四点处,依次向前、后、左、右、上、下发射射线,射线碰撞到矿井内部结构信息网格后,通过RaycastHit类型的变量通过读取normal信息,获取到碰撞点的法线信息;
步骤A3、计算四条法线与步骤A1中的法线的角度差,当四个角度差均小于10度时,判定为五个点均在一个平面内,执行步骤A7;否则,当有角度差大于等于10度时,判定为角度差大于等于10度的法线对应的点与中心点不在一个平面内,执行步骤A4;
步骤A4、将对角线四点与距中心点的距离缩小一半,依次向前、后、左、右、上、下发射射线,射线碰撞到矿井内部结构信息网格后,通过RaycastHit类型的变量通过读取normal信息获取到碰撞点的法线信息;
步骤A5、计算四条法线与步骤A1法线的角度差,当四个角度差均小于10度时,判定为五个点均在一个平面内,执行步骤A7;否则,当有角度差大于等于10度时,判定为角度差大于等于10度的法线对应的点与中心点不在一个平面内,执行步骤A6;
步骤A6、重复执行步骤A4和步骤A5,直至四个角度差均小于10度;即五个点均在一个平面内,并将各点的坐标值存储在各自的数组中;
步骤A7、以中心点为正方形中心,以四个点确定正方形边界,该正方形区域内的所有点均在一个平面上,并将各点的坐标值存储在各自的数组中;
步骤A8、以正方形边界的四个点分别为中心点,重复上述步骤,直至对角线四点与中心点的距离小于0.05m;
步骤A9、根据创建的平面,分出矿井内两面墙壁、地面和顶;
步骤B、构建矿井内两面墙壁、地面和顶上物体突出的效果,具体过程为:
步骤B1、在分好类的各个数组中,选择三个坐标来建立一个平面;
步骤B2、设定区分近点和远点的距离阈值;
步骤B3、将各个数组中距离大于距离阈值的点确定为远点,将各个数组中距离小于距离阈值的点确定为近点;
步骤B4、在平面相对的两侧分别在近点中取样10个点,分别计算平面两侧的点距离平面的平均值,并根据平面两侧的点距离平面的平均值移动平面,直至平面两侧的点距离平面的平均值相等;
步骤B5、在某一远点周围进行取样,并计算与平面的距离,当没有一点属于远点,则考虑该远点为奇异点;当周围的点有一部分或者全部属于远点,则再次取样,最后将该区域的Mesh中的顶点进行移动,移动至各个远点的位置,达到模型中对应物体突出的效果。
上述的基于HoloLens眼镜的矿井内部模型采集建立方法,步骤301中所述数据处理计算机对多组矿井内部结构信息网格分别进行矿井内壁照片归位,采用Unity3D软件进行,对每组矿井内部结构信息网格进行矿井内壁照片归位时,根据矿井内壁照片的坐标,将矿井内壁照片放置在矿井内部3D模型上。
上述的基于HoloLens眼镜的矿井内部模型采集建立方法,步骤302中所述数据处理计算机对多张矿井内壁照片进行物品匹配处理时,是将多张矿井内壁照片分别输入预先构建的Mask Rcnn神经网络中,得到各张矿井内壁照片上物品的匹配结果。
上述的基于HoloLens眼镜的矿井内部模型采集建立方法,步骤302中所述预先构建Mask Rcnn神经网络的具体过程为:
步骤C1、构建Mask-RCNN网络,所述Mask-RCNN由ResNet网络(深度残差网络)、FPN网络(Feature Pyramid Networks)、RPN网络(Region Proposal Networks)、ROIAlign层、全连接层和三个全卷积网络输出层构成;三个全卷积网络输出层包括分类分支、边框回归分支和像素分割mask分支;
步骤C2、将ResNet网络和FPN网络作为主干网络,将包含有图标的多张煤矿井下图像作为训练图像,将训练图像中的图标作为Mask-RCNN网络模型的识别目标,将训练图像输入主干网络来训练主干网络,调整ResNet网络和FPN网络的参数,使损失函数最小,通过主干网络获取到进行了特征提取后的特征图;
步骤C3、对RPN卷积神经网络进行初始化,用不同的小随机数初始化网络中待训练参数;
步骤C4、对步骤C2中得到的特征图赋予多个尺度和多个比例的基准框,通过向初始化后的RPN卷积神经网络中输入特征图的基准框来训练RPN卷积神经网络,使用反向传播BP算法,调整RPN卷积神经网络参数,使损失函数值最小;得到训练样本集的图标预选框,对目标进行初步定位;
步骤C4、在特征图上运用训练好的RPN卷积神经网络模型,得到训练样本集的图标预选框;
步骤C5、根据预选框的位置坐标,RoIAl ign层将特征图重新调整为固定尺寸大小;以便后续全连接操作;
步骤C6、经过尺寸的统一,对统一大小的特征图进行全连接操作,随后使用分类分支、边框回归分支和像素分割mask分支这三个全卷积网络输出;分类分支预测每个目标属于哪个类别,同时利用边框回归分支获得更高精度的目标检测框,同时像素分割mask分支使网络输出每一类的mask,最终达到实例分割的目的,使损失函数最小,得到训练好的Mask-RCNN网络模型。
本发明与现有技术相比具有以下优点:
1、本发明的方法步骤简单,设计新颖合理,操作简单明了。
2、本发明的泛用性好,建模时对用户的额外知识要求较低,无需会使用CAD、3dsMax等软件。
3、本发明的建模周期短。
4、本发明建模的真实性好。
5、本发明的实用性强,使用效果好,便于推广使用。
综上所述,本发明的方法步骤简单,设计新颖合理,操作简单明了,泛用性好,建模周期短,建模的真实性好,实用性强,使用效果好,便于推广使用。
下面通过附图和实施例,对本发明的技术方案做进一步的详细描述。
附图说明
图1为本发明的方法流程框图。
具体实施方式
如图1所示,本发明的基于HoloLens眼镜的矿井内部模型采集建立方法,该方法包括以下步骤:
步骤一、采用HoloLens眼镜的空间映射功能采集矿井内部结构信息,具体过程为:
步骤101、用户操作HoloLens眼镜,设定单次扫描范围阈值;
步骤102、用户带着HoloLens眼镜在矿井内部行走,采用HoloLens眼镜扫描矿井内部环境,得到一组矿井内部结构信息网格和坐标并存储;当HoloLens眼镜的扫描范围达到设定的单次扫描范围阈值时,扫描暂停;
本实施例中,步骤102中所述扫描暂停后,HoloLens眼镜发出声音或显示的提示信息,提示用户进行拍照。
步骤103、用户带着HoloLens眼镜,在步骤102中走过的区域,正对矿井内壁,周期性地对HoloLens眼镜发出拍照手势,HoloLens眼镜接收到拍照手势后,拍摄矿井内壁照片并存储;
步骤104、用户手动裁剪步骤103中存储的矿井内壁照片,并根据矿井内壁照片对应于矿井内部结构信息网格的位置,存储矿井内壁照片的坐标信息;
步骤105、用户前往下一个区域,隐藏上一次得到的矿井内部结构信息网格,并重复步骤102至步骤104;
由于HoloLens眼镜本身的内存和运算能力有限,因此,使用HoloLens眼镜按照以上方法采集离散的小空间,采集完一个隐藏一个,采集的多组矿井内部结构信息网格用于后续拼接处理构成完整的矿井内部3D模型。
步骤二、HoloLens眼镜将其存储的多组矿井内部结构信息网格和矿井内壁照片信息传输给数据处理计算机;
本实施例中,步骤二中HoloLens眼镜将其存储的多组矿井内部结构信息网格和矿井内壁照片信息传输给数据处理计算机,采用的传输方式为数据线传输或局域网传输。
步骤三、数据处理计算机对多组矿井内部结构信息网格和矿井内壁照片信息进行分析处理,得到矿井内部3D模型;具体过程为:
步骤301、数据处理计算机先对多组矿井内部结构信息网格分别进行建立矿井内部3D模型和矿井内壁照片归位;
本实施例中,步骤301中所述数据处理计算机对多组矿井内部结构信息网格分别进行建立矿井内部3D模型处理,采用Unity3D软件进行,对每组矿井内部结构信息网格进行建立矿井内部3D模型处理的具体的处理过程为:
步骤A、将每组矿井内部结构信息网格内点的坐标按照位置进行分类,分出矿井内两面墙壁、地面和顶,具体过程为:
步骤A1、利用Unity3D软件的射线系统,在不同的位置依次向前、后、左、右、上、下发射射线,射线碰撞到矿井内部结构信息网格后,通过RaycastHit类型的变量通过读取normal信息获取到碰撞点的法线信息;
步骤A2、以碰撞点为中心点,利用Unity3D软件的射线系统,在距中心点0.2m对角线四点处,依次向前、后、左、右、上、下发射射线,射线碰撞到矿井内部结构信息网格后,通过RaycastHit类型的变量通过读取normal信息,获取到碰撞点的法线信息;
步骤A3、计算四条法线与步骤A1中的法线的角度差,当四个角度差均小于10度时,判定为五个点均在一个平面内,执行步骤A7;否则,当有角度差大于等于10度时,判定为角度差大于等于10度的法线对应的点与中心点不在一个平面内,执行步骤A4;
步骤A4、将对角线四点与距中心点的距离缩小一半,依次向前、后、左、右、上、下发射射线,射线碰撞到矿井内部结构信息网格后,通过RaycastHit类型的变量通过读取normal信息获取到碰撞点的法线信息;
步骤A5、计算四条法线与步骤A1法线的角度差,当四个角度差均小于10度时,判定为五个点均在一个平面内,执行步骤A7;否则,当有角度差大于等于10度时,判定为角度差大于等于10度的法线对应的点与中心点不在一个平面内,执行步骤A6;
步骤A6、重复执行步骤A4和步骤A5,直至四个角度差均小于10度;即五个点均在一个平面内,并将各点的坐标值存储在各自的数组中;
步骤A7、以中心点为正方形中心,以四个点确定正方形边界,该正方形区域内的所有点均在一个平面上,并将各点的坐标值存储在各自的数组中;
步骤A8、以正方形边界的四个点分别为中心点,重复上述步骤,直至对角线四点与中心点的距离小于0.05m;
步骤A9、根据创建的平面,分出矿井内两面墙壁、地面和顶;
步骤B、构建矿井内两面墙壁、地面和顶上物体突出的效果,具体过程为:
步骤B1、在分好类的各个数组中,选择三个坐标来建立一个平面;
步骤B2、设定区分近点和远点的距离阈值;
步骤B3、将各个数组中距离大于距离阈值的点确定为远点,将各个数组中距离小于距离阈值的点确定为近点;
步骤B4、在平面相对的两侧分别在近点中取样10个点,分别计算平面两侧的点距离平面的平均值,并根据平面两侧的点距离平面的平均值移动平面,直至平面两侧的点距离平面的平均值相等;
步骤B5、在某一远点周围进行取样,并计算与平面的距离,当没有一点属于远点,则考虑该远点为奇异点;当周围的点有一部分或者全部属于远点,则再次取样,最后将该区域的Mesh中的顶点进行移动,移动至各个远点的位置,达到模型中对应物体突出的效果。
本实施例中,步骤301中所述数据处理计算机对多组矿井内部结构信息网格分别进行矿井内壁照片归位,采用Unity3D软件进行,对每组矿井内部结构信息网格进行矿井内壁照片归位时,根据矿井内壁照片的坐标,将矿井内壁照片放置在矿井内部3D模型上。
步骤302、数据处理计算机对多张矿井内壁照片进行物品匹配处理,在矿井内部3D模型上对应位置处标注物品类别;
本实施例中,步骤302中所述数据处理计算机对多张矿井内壁照片进行物品匹配处理时,是将多张矿井内壁照片分别输入预先构建的Mask Rcnn神经网络中,得到各张矿井内壁照片上物品的匹配结果。
本实施例中,步骤302中所述预先构建Mask Rcnn神经网络的具体过程为:
步骤C1、构建Mask-RCNN网络,所述Mask-RCNN由ResNet网络(深度残差网络)、FPN网络(Feature Pyramid Networks)、RPN网络(Region Proposal Networks)、ROIAlign层、全连接层和三个全卷积网络输出层构成;三个全卷积网络输出层包括分类分支、边框回归分支和像素分割mask分支;
步骤C2、将ResNet网络和FPN网络作为主干网络,将包含有图标的多张煤矿井下图像作为训练图像,将训练图像中的图标作为Mask-RCNN网络模型的识别目标,将训练图像输入主干网络来训练主干网络,调整ResNet网络和FPN网络的参数,使损失函数最小,通过主干网络获取到进行了特征提取后的特征图;
步骤C3、对RPN卷积神经网络进行初始化,用不同的小随机数初始化网络中待训练参数;
步骤C4、对步骤C2中得到的特征图赋予多个尺度和多个比例的基准框,通过向初始化后的RPN卷积神经网络中输入特征图的基准框来训练RPN卷积神经网络,使用反向传播BP算法,调整RPN卷积神经网络参数,使损失函数值最小;得到训练样本集的图标预选框,对目标进行初步定位;
步骤C4、在特征图上运用训练好的RPN卷积神经网络模型,得到训练样本集的图标预选框;
步骤C5、根据预选框的位置坐标,RoIAl ign层将特征图重新调整为固定尺寸大小;以便后续全连接操作;
步骤C6、经过尺寸的统一,对统一大小的特征图进行全连接操作,随后使用分类分支、边框回归分支和像素分割mask分支这三个全卷积网络输出;分类分支预测每个目标属于哪个类别,同时利用边框回归分支获得更高精度的目标检测框,同时像素分割mask分支使网络输出每一类的mask,最终达到实例分割的目的,使损失函数最小,得到训练好的Mask-RCNN网络模型。
步骤303、数据处理计算机将多个矿井内部3D模型按照坐标系进行排列,实现多个矿井内部3D模型的拼接,构成完整的矿井内部3D模型。
本领域内的技术人员应明白,本申请的实施例可提供为方法、系统、或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
前述对本发明的具体示例性实施方案的描述是为了说明和例证的目的。这些描述并非想将本发明限定为所公开的精确形式,并且很显然,根据上述教导,可以进行很多改变和变化。对示例性实施例进行选择和描述的目的在于解释本发明的特定原理及其实际应用,从而使得本领域的技术人员能够实现并利用本发明的各种不同的示例性实施方案以及各种不同的选择和改变。本发明的范围意在由权利要求书及其等同形式所限定。

Claims (6)

1.一种基于HoloLens眼镜的矿井内部模型采集建立方法,其特征在于,该方法包括以下步骤:
步骤一、采用HoloLens眼镜的空间映射功能采集矿井内部结构信息,具体过程为:
步骤101、用户操作HoloLens眼镜,设定单次扫描范围阈值;
步骤102、用户带着HoloLens眼镜在矿井内部行走,采用HoloLens眼镜扫描矿井内部环境,得到一组矿井内部结构信息网格和坐标并存储;当HoloLens眼镜的扫描范围达到设定的单次扫描范围阈值时,扫描暂停;
步骤103、用户带着HoloLens眼镜,在步骤102中走过的区域,正对矿井内壁,周期性地对HoloLens眼镜发出拍照手势,HoloLens眼镜接收到拍照手势后,拍摄矿井内壁照片并存储;
步骤104、用户手动裁剪步骤103中存储的矿井内壁照片,并根据矿井内壁照片对应于矿井内部结构信息网格的位置,存储矿井内壁照片的坐标信息;
步骤105、用户前往下一个区域,隐藏上一次得到的矿井内部结构信息网格,并重复步骤102至步骤104;
步骤二、HoloLens眼镜将其存储的多组矿井内部结构信息网格和矿井内壁照片信息传输给数据处理计算机;
步骤三、数据处理计算机对多组矿井内部结构信息网格和矿井内壁照片信息进行分析处理,得到矿井内部3D模型;具体过程为:
步骤301、数据处理计算机先对多组矿井内部结构信息网格分别进行建立矿井内部3D模型和矿井内壁照片归位;
步骤301中所述数据处理计算机对多组矿井内部结构信息网格分别进行建立矿井内部3D模型处理,采用Unity3D软件进行,对每组矿井内部结构信息网格进行建立矿井内部3D模型处理的具体的处理过程为:
步骤A、将每组矿井内部结构信息网格内点的坐标按照位置进行分类,分出矿井内两面墙壁、地面和顶,具体过程为:
步骤A1、利用Unity3D软件的射线系统,在不同的位置依次向前、后、左、右、上、下发射射线,射线碰撞到矿井内部结构信息网格后,通过RaycastHit类型的变量通过读取normal信息获取到碰撞点的法线信息;
步骤A2、以碰撞点为中心点,利用Unity3D软件的射线系统,在距中心点0.2m对角线四点处,依次向前、后、左、右、上、下发射射线,射线碰撞到矿井内部结构信息网格后,通过RaycastHit类型的变量通过读取normal信息,获取到碰撞点的法线信息;
步骤A3、计算四条法线与步骤A1中的法线的角度差,当四个角度差均小于10度时,判定为五个点均在一个平面内,执行步骤A7;否则,当有角度差大于等于10度时,判定为角度差大于等于10度的法线对应的点与中心点不在一个平面内,执行步骤A4;
步骤A4、将对角线四点与距中心点的距离缩小一半,依次向前、后、左、右、上、下发射射线,射线碰撞到矿井内部结构信息网格后,通过RaycastHit类型的变量通过读取normal信息获取到碰撞点的法线信息;
步骤A5、计算四条法线与步骤A1法线的角度差,当四个角度差均小于10度时,判定为五个点均在一个平面内,执行步骤A7;否则,当有角度差大于等于10度时,判定为角度差大于等于10度的法线对应的点与中心点不在一个平面内,执行步骤A6;
步骤A6、重复执行步骤A4和步骤A5,直至四个角度差均小于10度;即五个点均在一个平面内,并将各点的坐标值存储在各自的数组中;
步骤A7、以中心点为正方形中心,以四个点确定正方形边界,该正方形区域内的所有点均在一个平面上,并将各点的坐标值存储在各自的数组中;
步骤A8、以正方形边界的四个点分别为中心点,重复上述步骤,直至对角线四点与中心点的距离小于0.05m;
步骤A9、根据创建的平面,分出矿井内两面墙壁、地面和顶;
步骤B、构建矿井内两面墙壁、地面和顶上物体突出的效果,具体过程为:
步骤B1、在分好类的各个数组中,选择三个坐标来建立一个平面;
步骤B2、设定区分近点和远点的距离阈值;
步骤B3、将各个数组中距离大于距离阈值的点确定为远点,将各个数组中距离小于距离阈值的点确定为近点;
步骤B4、在平面相对的两侧分别在近点中取样10个点,分别计算平面两侧的点距离平面的平均值,并根据平面两侧的点距离平面的平均值移动平面,直至平面两侧的点距离平面的平均值相等;
步骤B5、在某一远点周围进行取样,并计算与平面的距离,当没有一点属于远点,则考虑该远点为奇异点;当周围的点有一部分或者全部属于远点,则再次取样,最后将该区域的Mesh中的顶点进行移动,移动至各个远点的位置,达到模型中对应物体突出的效果;
步骤302、数据处理计算机对多张矿井内壁照片进行物品匹配处理,在矿井内部3D模型上对应位置处标注物品类别;
步骤303、数据处理计算机将多个矿井内部3D模型按照坐标系进行排列,实现多个矿井内部3D模型的拼接,构成完整的矿井内部3D模型。
2.按照权利要求1所述的基于HoloLens眼镜的矿井内部模型采集建立方法,其特征在于:步骤102中所述扫描暂停后,HoloLens眼镜发出声音或显示的提示信息,提示用户进行拍照。
3.按照权利要求1所述的基于HoloLens眼镜的矿井内部模型采集建立方法,其特征在于:步骤二中HoloLens眼镜将其存储的多组矿井内部结构信息网格和矿井内壁照片信息传输给数据处理计算机,采用的传输方式为数据线传输或局域网传输。
4.按照权利要求1所述的基于HoloLens眼镜的矿井内部模型采集建立方法,其特征在于:步骤301中所述数据处理计算机对多组矿井内部结构信息网格分别进行矿井内壁照片归位,采用Unity3D软件进行,对每组矿井内部结构信息网格进行矿井内壁照片归位时,根据矿井内壁照片的坐标,将矿井内壁照片放置在矿井内部3D模型上。
5.按照权利要求1所述的基于HoloLens眼镜的矿井内部模型采集建立方法,其特征在于:步骤302中所述数据处理计算机对多张矿井内壁照片进行物品匹配处理时,是将多张矿井内壁照片分别输入预先构建的Mask Rcnn神经网络中,得到各张矿井内壁照片上物品的匹配结果。
6.按照权利要求5所述的基于HoloLens眼镜的矿井内部模型采集建立方法,其特征在于:步骤302中所述预先构建Mask Rcnn神经网络的具体过程为:
步骤C1、构建Mask-RCNN网络,所述Mask-RCNN由ResNet网络、FPN网络、RPN网络、ROIAlign层、全连接层和三个全卷积网络输出层构成;三个全卷积网络输出层包括分类分支、边框回归分支和像素分割mask分支;
步骤C2、将ResNet网络和FPN网络作为主干网络,将包含有图标的多张煤矿井下图像作为训练图像,将训练图像中的图标作为Mask-RCNN网络模型的识别目标,将训练图像输入主干网络来训练主干网络,调整ResNet网络和FPN网络的参数,使损失函数最小,通过主干网络获取到进行了特征提取后的特征图;
步骤C3、对RPN卷积神经网络进行初始化,用不同的小随机数初始化网络中待训练参数;
步骤C4、对步骤C2中得到的特征图赋予多个尺度和多个比例的基准框,通过向初始化后的RPN卷积神经网络中输入特征图的基准框来训练RPN卷积神经网络,使用反向传播BP算法,调整RPN卷积神经网络参数,使损失函数值最小;得到训练样本集的图标预选框,对目标进行初步定位;
步骤C4、在特征图上运用训练好的RPN卷积神经网络模型,得到训练样本集的图标预选框;
步骤C5、根据预选框的位置坐标,RoIAlign层将特征图重新调整为固定尺寸大小;以便后续全连接操作;
步骤C6、经过尺寸的统一,对统一大小的特征图进行全连接操作,随后使用分类分支、边框回归分支和像素分割mask分支这三个全卷积网络输出;分类分支预测每个目标属于哪个类别,同时利用边框回归分支获得更高精度的目标检测框,同时像素分割mask分支使网络输出每一类的mask,最终达到实例分割的目的,使损失函数最小,得到训练好的Mask-RCNN网络模型。
CN201910373806.8A 2019-05-07 2019-05-07 基于HoloLens眼镜的矿井内部模型采集建立方法 Active CN110111416B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910373806.8A CN110111416B (zh) 2019-05-07 2019-05-07 基于HoloLens眼镜的矿井内部模型采集建立方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910373806.8A CN110111416B (zh) 2019-05-07 2019-05-07 基于HoloLens眼镜的矿井内部模型采集建立方法

Publications (2)

Publication Number Publication Date
CN110111416A CN110111416A (zh) 2019-08-09
CN110111416B true CN110111416B (zh) 2024-03-08

Family

ID=67488447

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910373806.8A Active CN110111416B (zh) 2019-05-07 2019-05-07 基于HoloLens眼镜的矿井内部模型采集建立方法

Country Status (1)

Country Link
CN (1) CN110111416B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110889418A (zh) * 2019-11-04 2020-03-17 数量级(上海)信息技术有限公司 一种气体轮廓识别方法

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103164586A (zh) * 2013-04-10 2013-06-19 中国矿业大学 基于组件的矿井巷道整体拼接算法
CN103226844A (zh) * 2013-05-16 2013-07-31 北京建筑工程学院 一种基于空间数据结构体系的三维地质巷道建模方法
CN104008570A (zh) * 2014-05-09 2014-08-27 中国地质大学(北京) 一种矿山的双三维建模方法
CN106055113A (zh) * 2016-07-06 2016-10-26 北京华如科技股份有限公司 一种混合现实的头盔显示系统及控制方法
CN106202839A (zh) * 2016-08-29 2016-12-07 中冶北方(大连)工程技术有限公司 一种面向数字矿山的虚拟监控系统及方法
KR20180032138A (ko) * 2016-09-21 2018-03-29 주식회사 지오제니컨설턴트 Vr과 증강현실을 이용한 광산 측량 및 현장 감시 방법
CN108510372A (zh) * 2018-04-12 2018-09-07 北京聚通达科技股份有限公司 一种基于3d+vr物品展示的方法
CN109147050A (zh) * 2018-08-02 2019-01-04 苏州蜗牛数字科技股份有限公司 基于Unity引擎地形系统的道路网格创建方法及装置
CN109214076A (zh) * 2018-08-28 2019-01-15 太原理工大学 一种支撑综采工作面地理环境及装备的虚拟规划方法
CN109360260A (zh) * 2018-10-22 2019-02-19 南京科远自动化集团股份有限公司 一种三角网格三维模型的切挖重构算法

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103164586A (zh) * 2013-04-10 2013-06-19 中国矿业大学 基于组件的矿井巷道整体拼接算法
CN103226844A (zh) * 2013-05-16 2013-07-31 北京建筑工程学院 一种基于空间数据结构体系的三维地质巷道建模方法
CN104008570A (zh) * 2014-05-09 2014-08-27 中国地质大学(北京) 一种矿山的双三维建模方法
CN106055113A (zh) * 2016-07-06 2016-10-26 北京华如科技股份有限公司 一种混合现实的头盔显示系统及控制方法
CN106202839A (zh) * 2016-08-29 2016-12-07 中冶北方(大连)工程技术有限公司 一种面向数字矿山的虚拟监控系统及方法
KR20180032138A (ko) * 2016-09-21 2018-03-29 주식회사 지오제니컨설턴트 Vr과 증강현실을 이용한 광산 측량 및 현장 감시 방법
CN108510372A (zh) * 2018-04-12 2018-09-07 北京聚通达科技股份有限公司 一种基于3d+vr物品展示的方法
CN109147050A (zh) * 2018-08-02 2019-01-04 苏州蜗牛数字科技股份有限公司 基于Unity引擎地形系统的道路网格创建方法及装置
CN109214076A (zh) * 2018-08-28 2019-01-15 太原理工大学 一种支撑综采工作面地理环境及装备的虚拟规划方法
CN109360260A (zh) * 2018-10-22 2019-02-19 南京科远自动化集团股份有限公司 一种三角网格三维模型的切挖重构算法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
Application research on three-dimensional virtual mine in the framework of internet of things;Wang Chun-lei;《Journal of Coal Science and Engineering》;20110601;第17卷(第2期);212-216 *
Object Recognition of Environmental Information in the Internet of Things Based on Augmented Reality;Chen Shasha;《Object Recognition of Environmental Information in the Internet of Things Based on Augmented Reality》;20190322;1-5 *
数字矿山三维可视化及虚拟现实技术研究;唐庆腾;《中国优秀硕士学位论文全文数据库工程科技Ⅰ辑》;20190215(第02期);B021-231 *

Also Published As

Publication number Publication date
CN110111416A (zh) 2019-08-09

Similar Documents

Publication Publication Date Title
CN107945282B (zh) 基于对抗网络的快速多视角三维合成和展示方法及装置
CN107247834B (zh) 一种基于图像识别的三维环境模型重构方法、设备及系统
CN112150575A (zh) 场景数据获取方法及模型训练方法、装置及计算机设备
CN109165680B (zh) 基于视觉slam的室内场景下单一目标物体字典模型改进方法
CN110379020B (zh) 一种基于生成对抗网络的激光点云上色方法和装置
KR101964282B1 (ko) 3d 모델을 활용한 2d 영상 학습 데이터 생성 시스템 및 그 생성방법
CN110163213B (zh) 基于视差图和多尺度深度网络模型的遥感图像分割方法
CN102831580B (zh) 基于运动检测的手机拍摄图像修复方法
CN112818925B (zh) 一种城市建筑和树冠识别方法
CN111753698A (zh) 一种多模态三维点云分割系统和方法
CN113192200B (zh) 一种基于空三并行计算算法的城市实景三维模型的构建方法
CN111860175B (zh) 一种基于轻量化网络的无人机影像车辆检测方法及装置
CN103310481A (zh) 一种基于模糊熵迭代的点云精简方法
CN111612891A (zh) 模型生成方法、点云数据处理方法、装置、设备及介质
CN112907573B (zh) 一种基于3d卷积的深度补全方法
Goncalves et al. Deepdive: An end-to-end dehazing method using deep learning
CN113763231A (zh) 模型生成方法、图像透视图确定方法、装置、设备及介质
CN108734773A (zh) 一种用于混合图片的三维重建方法及系统
Tutzauer et al. Semantic urban mesh enhancement utilizing a hybrid model
CN114463521A (zh) 一种面向空地影像数据融合的建筑目标点云快速生成方法
CN116681959A (zh) 基于机器学习的锋线识别方法、装置、存储介质及终端
CN110111416B (zh) 基于HoloLens眼镜的矿井内部模型采集建立方法
CN111598803A (zh) 一种基于变分辨率体素格网与稀疏卷积的点云滤波方法
CN114708475A (zh) 一种用于3d场景理解的点云多模态特征融合网络方法
CN117058384B (zh) 一种三维点云语义分割的方法及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right
TA01 Transfer of patent application right

Effective date of registration: 20240206

Address after: Room 05, 27th Floor, Building 1, Guannan Fuxing Pharmaceutical Park, No. 58 Guanggu Avenue, Donghu New Technology Development Zone, Wuhan City, Hubei Province, 430070 (Wuhan Free Trade Zone)

Applicant after: Wuhan Anchenxin Information Technology Co.,Ltd.

Country or region after: China

Address before: 710054 No. 58, middle section, Yanta Road, Shaanxi, Xi'an

Applicant before: XI'AN University OF SCIENCE AND TECHNOLOGY

Country or region before: China

GR01 Patent grant
GR01 Patent grant
TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20240612

Address after: Room 1601, 16th Floor, Main Building, Science and Technology Building, High tech Zone, Chengde City, Hebei Province, China

Patentee after: China Energy Chemical (Beijing) Digital Technology Industry Co.,Ltd.

Country or region after: China

Address before: Room 05, 27th Floor, Building 1, Guannan Fuxing Pharmaceutical Park, No. 58 Guanggu Avenue, Donghu New Technology Development Zone, Wuhan City, Hubei Province, 430070 (Wuhan Free Trade Zone)

Patentee before: Wuhan Anchenxin Information Technology Co.,Ltd.

Country or region before: China