CN112561859A - 基于单目视觉的锚护用钢带钻孔与锚网识别方法及装置 - Google Patents

Abstract

本申请公开了一种基于单目视觉的锚护用钢带钻孔与锚网识别方法及装置，锚杆钻机的钻架前端设置有单目立体视觉系统，其中，方法包括：基于单目立体视觉系统采集当前视觉图像；从视觉图像中识别钻孔与锚网的所处位置；根据钻孔与锚网的所处位置计算钻孔与锚网的实际位置，以生成锚杆钻机的至少一个目标钻孔的方位信息。本申请实施例的基于单目视觉的锚护用钢带钻孔与锚网识别方法，实现锚护作业自动寻孔，提高煤矿井下锚护作业的自动化程度，减少人工干涉，从而提高作业效率和作业安全性，解决钻孔与锚网识别困难问题。

Description

基于单目视觉的锚护用钢带钻孔与锚网识别方法及装置

技术领域

本申请涉及煤矿机械技术领域，特别涉及一种基于单目视觉的锚护用钢带钻孔与锚网识别方法及装置。

背景技术

目前，在锚杆钻机进行锚护作业时，相关技术都是由人工识别网片或者钢带孔位，但是,人工识别需要一定技术经验,存在人工限制,浪费人力资源,而且一旦工人产生视觉疲劳时,容易产生安全事故，安全性无法得到有效保证。

尤为重要的是，随着智能化技术在煤矿井下应用越来越广泛，自动钻锚机器人代替人工完成钻锚作业成为可能，钻孔识别是其中的关键核心技术，也是实现自动钻锚机器人的技术难点之一。因此，亟待解决钻孔与锚网识别困难问题。

申请内容

本发明旨在至少在一定程度上解决相关技术中的技术问题之一。

为此，本发明的第一目的在于提出一种基于单目视觉的锚护用钢带钻孔与锚网识别方法，实现了锚护作业自动寻孔，提高煤矿井下锚护作业的自动化程度，减少人工干涉，从而提高作业效率和作业安全性，解决钻孔与锚网识别困难问题。

本发明的第二个目的在于提出一种基于单目视觉的锚护用钢带钻孔与锚网识别装置。

本发明的第三个目的在于提出一种电子设备。

本发明的第四个目的在于提出一种计算机可读存储介质。

为达到上述目的，本申请第一方面实施例提供一种基于单目视觉的锚护用钢带钻孔与锚网识别方法，锚杆钻机的钻架前端设置有单目立体视觉系统，所述方法包括以下步骤：

基于所述单目立体视觉系统采集当前视觉图像；

从所述视觉图像中识别钻孔与锚网的所处位置；以及

根据所述钻孔与所述锚网的所处位置计算所述钻孔与所述锚网的实际位置，以生成所述锚杆钻机的至少一个目标钻孔的方位信息。

另外，根据本发明上述实施例的基于单目视觉的锚护用钢带钻孔与锚网识别方法还可以具有以下附加的技术特征：

可选地，上述的基于单目视觉的锚护用钢带钻孔与锚网识别方法，还包括：采集所述钻孔与所述锚网之间的位置关系；若所述位置关系为遮挡关系，则进行报警提示。

可选地，所述根据所述钻孔与所述锚网的所处位置计算所述钻孔与所述锚网的实际位置，包括：计算所述钻孔的中心点在图像坐标中的位置和方向；根据所述位置和方向计算世界坐标系下的位置和方向，确定所述实际位置。

可选地，所述基于所述单目立体视觉系统采集当前视觉图像，包括：采用预设的YOLO(You only look once，目标检测算法)检测网络识别所述钻孔和所述锚网。

为达到上述目的，本申请第二方面实施例提供一种基于单目视觉的锚护用钢带钻孔与锚网识别装置，锚杆钻机的钻架前端设置有单目立体视觉系统，所述装置包括：

第一采集模块，用于基于所述单目立体视觉系统采集当前视觉图像；

识别模块，用于从所述视觉图像中识别钻孔与锚网的所处位置；以及

生成模块，用于根据所述钻孔与所述锚网的所处位置计算所述钻孔与所述锚网的实际位置，以生成所述锚杆钻机的至少一个目标钻孔的方位信息。

可选地，还包括：

第二采集模块，用于采集所述钻孔与所述锚网之间的位置关系；

报警模块，用于在所述位置关系为遮挡关系时，进行报警提示。

可选地，所述生成模块，包括：

计算单元，用于计算所述钻孔的中心点在图像坐标中的位置和方向；

确定单元，用于根据所述位置和方向计算世界坐标系下的位置和方向，确定所述实际位置。

可选地，所述第一采集模块，包括：

识别单元，用于采用预设的YOLO检测网络识别所述钻孔和所述锚网。

为达到上述目的，本申请第三方面实施例提供一种电子设备，包括：至少一个处理器；以及，与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被设置为用于执行如上述实施例所述的基于单目视觉的锚护用钢带钻孔与锚网识别方法。

为达到上述目的，本申请第四方面实施例提供一种计算机可读存储介质，所述计算机可读存储介质存储计算机指令，所述计算机指令用于使所述计算机执行如上述实施例所述的基于单目视觉的锚护用钢带钻孔与锚网识别方法。

由此，可以基于单目立体视觉系统采集当前视觉图像，并从视觉图像中识别钻孔与锚网的所处位置，并根据钻孔与锚网的所处位置计算钻孔与锚网的实际位置，以生成锚杆钻机的至少一个目标钻孔的方位信息，从而实现锚护作业自动寻孔，提高煤矿井下锚护作业的自动化程度，减少人工干涉，从而提高作业效率和作业安全性，解决钻孔与锚网识别困难问题。

本申请附加的方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本申请的实践了解到。

附图说明

本申请上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解，其中：

图1为根据本申请实施例提供的一种基于单目视觉的锚护用钢带钻孔与锚网识别方法的流程图；

图2为根据本申请一个实施例的单目视觉的钢带钻孔识别示意图；

图3为根据本申请实施例的基于单目视觉的锚护用钢带钻孔与锚网识别装置的示例图；

图4为本申请实施例提供的电子设备的结构示意图。

具体实施方式

下面详细描述本申请的实施例，所述实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，旨在用于解释本申请，而不能理解为对本申请的限制。

下面参照附图描述根据本发明实施例提出的基于单目视觉的锚护用钢带钻孔与锚网识别方法及装置，首先将参照附图描述根据本发明实施例提出的基于单目视觉的锚护用钢带钻孔与锚网识别方法。

具体而言，图1为本申请实施例所提供的一种基于单目视觉的锚护用钢带钻孔与锚网识别方法的流程示意图。该实施例中，锚杆钻机的钻架前端设置有单目立体视觉系统。

如图1所示，该基于单目视觉的锚护用钢带钻孔与锚网识别方法包括以下步骤：

在步骤S101中，基于单目立体视觉系统采集当前视觉图像。

可选地，在一些实施例中，基于单目立体视觉系统采集当前视觉图像，包括：采用预设的YOLO检测网络识别钻孔和锚网。

可以理解的是，立体视觉是计算机视觉领域的一个重要课题，它的目的在于重构场景的三维几何信息。立体视觉的研究具有重要的应用价值，其应用包括移动机器人的自主导航系统，航空及遥感测量，工业自动化系统等。

YOLO将物体检测作为回归问题求解。基于一个单独的end-to-end网络，完成从原始图像的输入到物体位置和类别的输出。从网络设计上，YOLO与rcnn、fast rcnn及fasterrcnn的区别如下：

(1)YOLO训练和检测均是在一个单独网络中进行。YOLO没有显示地求取regionproposal的过程。而rcnn/fast rcnn采用分离的模块(独立于网络之外的selectivesearch方法)求取候选框(可能会包含物体的矩形区域)，训练过程因此也是分成多个模块进行。Faster rcnn使用RPN(region proposal network)卷积网络替代rcnn/fast rcnn的selective search模块，将RPN集成到fast rcnn检测网络中，得到一个统一的检测网络。尽管RPN与fast rcnn共享卷积层，但是在模型训练过程中，需要反复训练RPN网络和fastrcnn网络(注意这两个网络核心卷积层是参数共享的)。

(2)YOLO将物体检测作为一个回归问题进行求解，输入图像经过一次inference，便能得到图像中所有物体的位置和其所属类别及相应的置信概率。而rcnn/fast rcnn/faster rcnn将检测结果分为两部分求解：物体类别(分类问题)，物体位置即bounding box(回归问题)。

另外，YOLO改革了区域建议框式检测框架：RCNN系列均需要生成建议框，在建议框上进行分类与回归，但建议框之间有重叠，这会带来很多重复工作。YOLO将全图划分为SXS的格子，每个格子负责中心在该格子的目标检测，采用一次性预测所有格子所含目标的bbox、定位置信度以及所有类别概率向量来将问题一次性解决(one-shot)。

YOLO网络结构由24个卷积层与2个全连接层构成，网络入口为448x448(v2为416x416)，图片进入网络先经过resize，网络的输出结果为一个张量，维度为：

S*S*(B*5+C)S*S*(B*5+C)；

其中，S为划分网格数，B为每个网格负责目标个数，C为类别个数。该表达式含义为：

(1)每个小格会对应B个边界框，边界框的宽高范围为全图，表示以该小格为中心寻找物体的边界框位置。

(2)每个边界框对应一个分值，代表该处是否有物体及定位准确度：

P(object)*IoUtruthpredP(object)*IoUpredtruth；

(3)每个小格会对应C个概率值，找出最大概率对应的类别P(Class|object)P(Class|object)，并认为小格中包含该物体或者该物体的一部分。

在步骤S102中，从视觉图像中识别钻孔与锚网的所处位置。

在步骤S103中，根据钻孔与锚网的所处位置计算钻孔与锚网的实际位置，以生成锚杆钻机的至少一个目标钻孔的方位信息。

可选地，在一些实施例中，根据钻孔与锚网的所处位置计算钻孔与锚网的实际位置，包括：计算钻孔的中心点在图像坐标中的位置和方向；根据位置和方向计算世界坐标系下的位置和方向，确定实际位置。

可选地，在一些实施例中，上述的基于单目视觉的锚护用钢带钻孔与锚网识别方法，还包括：采集钻孔与锚网之间的位置关系；若位置关系为遮挡关系，则进行报警提示。

举例而言，如图2所示，图2本申请实施例的基于单目视觉的锚护用钢带钻孔与锚网识别方法涉及的单目视觉的钢带钻孔识别示意图。

具体而言，当锚杆钻架移动到钻孔附近时，采用YOLO检测网络识别钻孔和锚网，捕获钻孔及其周围环境信息，判断钻孔与锚网的位置关系，如果有遮挡关系，则报警提示，若无遮挡关系，则计算出钻孔中心点在图像坐标中的位置和方向，经过计算转化为世界坐标系的位置和方向，为锚杆钻机自动寻孔控制算法提供关键的目标钻孔方位信息，从而实现锚护作业自动寻孔，提高煤矿井下锚护作业的自动化程度，减少人工干涉，从而提高作业效率和作业安全性。

根据本申请实施例提出的基于单目视觉的锚护用钢带钻孔与锚网识别方法，可以基于单目立体视觉系统采集当前视觉图像，并从视觉图像中识别钻孔与锚网的所处位置，并根据钻孔与锚网的所处位置计算钻孔与锚网的实际位置，以生成锚杆钻机的至少一个目标钻孔的方位信息，从而实现锚护作业自动寻孔，提高煤矿井下锚护作业的自动化程度，减少人工干涉，从而提高作业效率和作业安全性，解决钻孔与锚网识别困难问题。

其次参照附图描述根据本申请实施例提出的基于单目视觉的锚护用钢带钻孔与锚网识别装置。

图3是本申请实施例的基于单目视觉的锚护用钢带钻孔与锚网识别装置的方框示意图。该实施例中，锚杆钻机的钻架前端设置有单目立体视觉系统。

如图3所示，该基于单目视觉的锚护用钢带钻孔与锚网识别装置10包括：第一采集模块100、识别模块200和生成模块300。

其中，第一采集模块100用于基于单目立体视觉系统采集当前视觉图像；

识别模块200用于从视觉图像中识别钻孔与锚网的所处位置；以及

生成模块300用于根据钻孔与锚网的所处位置计算钻孔与锚网的实际位置，以生成锚杆钻机的至少一个目标钻孔的方位信息。

可选地，在一些实施例中，上述的基于单目视觉的锚护用钢带钻孔与锚网识别装置10，还包括：

第二采集模块，用于采集钻孔与锚网之间的位置关系；

报警模块，用于在位置关系为遮挡关系时，进行报警提示。

可选地，在一些实施例中，生成模块300包括：

计算单元，用于计算钻孔的中心点在图像坐标中的位置和方向；

确定单元，用于根据位置和方向计算世界坐标系下的位置和方向，确定实际位置。

可选地，在一些实施例中，第一采集模块100包括：

识别单元，用于采用预设的YOLO检测网络识别钻孔和锚网。

需要说明的是，前述对基于单目视觉的锚护用钢带钻孔与锚网识别方法实施例的解释说明也适用于该实施例的基于单目视觉的锚护用钢带钻孔与锚网识别装置，此处不再赘述。

根据本申请实施例提出的基于单目视觉的锚护用钢带钻孔与锚网识别装置，可以基于单目立体视觉系统采集当前视觉图像，并从视觉图像中识别钻孔与锚网的所处位置，并根据钻孔与锚网的所处位置计算钻孔与锚网的实际位置，以生成锚杆钻机的至少一个目标钻孔的方位信息，从而实现锚护作业自动寻孔，提高煤矿井下锚护作业的自动化程度，减少人工干涉，从而提高作业效率和作业安全性，解决钻孔与锚网识别困难问题。

图4为本申请实施例提供的电子设备的结构示意图。该电子设备可以包括：

存储器1201、处理器1202及存储在存储器1201上并可在处理器1202上运行的计算机程序。

处理器1202执行程序时实现上述实施例中提供的基于单目视觉的锚护用钢带钻孔与锚网识别方法。

进一步地，电子设备还包括：

通信接口1203，用于存储器1201和处理器1202之间的通信。

存储器1201，用于存放可在处理器1202上运行的计算机程序。

存储器1201可能包含高速RAM存储器，也可能还包括非易失性存储器(non-volatile memory)，例如至少一个磁盘存储器。

如果存储器1201、处理器1202和通信接口1203独立实现，则通信接口1203、存储器1201和处理器1202可以通过总线相互连接并完成相互间的通信。总线可以是工业标准体系结构(Industry Standard Architecture，简称为ISA)总线、外部设备互连(PeripheralComponent，简称为PCI)总线或扩展工业标准体系结构(Extended Industry StandardArchitecture，简称为EISA)总线等。总线可以分为地址总线、数据总线、控制总线等。为便于表示，图4中仅用一条粗线表示，但并不表示仅有一根总线或一种类型的总线。

可选的，在具体实现上，如果存储器1201、处理器1202及通信接口1203，集成在一块芯片上实现，则存储器1201、处理器1202及通信接口1203可以通过内部接口完成相互间的通信。

处理器1202可能是一个中央处理器(Central Processing Unit，简称为CPU)，或者是特定集成电路(Application Specific Integrated Circuit，简称为ASIC)，或者是被配置成实施本申请实施例的一个或多个集成电路。

本实施例还提供一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如上的基于单目视觉的锚护用钢带钻孔与锚网识别方法。

在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本申请的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任一个或N个实施例或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。

此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本申请的描述中，“N个”的含义是至少两个，例如两个，三个等，除非另有明确具体的限定。

流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为，表示包括一个或更N个用于实现定制逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分，并且本申请的优选实施方式的范围包括另外的实现，其中可以不按所示出或讨论的顺序，包括根据所涉及的功能按基本同时的方式或按相反的顺序，来执行功能，这应被本申请的实施例所属技术领域的技术人员所理解。

在流程图中表示或在此以其他方式描述的逻辑和/或步骤，例如，可以被认为是用于实现逻辑功能的可执行指令的定序列表，可以具体实现在任何计算机可读介质中，以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用，或结合这些指令执行系统、装置或设备而使用。就本说明书而言，"计算机可读介质"可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下：具有一个或N个布线的电连接部(电子装置)，便携式计算机盘盒(磁装置)，随机存取存储器(RAM)，只读存储器(ROM)，可擦除可编辑只读存储器(EPROM或闪速存储器)，光纤装置，以及便携式光盘只读存储器(CDROM)。另外，计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质，因为可以例如通过对纸或其他介质进行光学扫描，接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序，然后将其存储在计算机存储器中。

应当理解，本申请的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中，N个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。如，如果用硬件来实现和在另一实施方式中一样，可用本领域公知的下列技术中的任一项或他们的组合来实现：具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路，具有合适的组合逻辑门电路的专用集成电路，可编程门阵列(PGA)，现场可编程门阵列(FPGA)等。

本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，该程序在执行时，包括方法实施例的步骤之一或其组合。

此外，在本申请各个实施例中的各功能单元可以集成在一个处理模块中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时，也可以存储在一个计算机可读取存储介质中。

上述提到的存储介质可以是只读存储器，磁盘或光盘等。尽管上面已经示出和描述了本申请的实施例，可以理解的是，上述实施例是示例性的，不能理解为对本申请的限制，本领域的普通技术人员在本申请的范围内可以对上述实施例进行变化、修改、替换和变型。

Claims (10)

1.一种基于单目视觉的锚护用钢带钻孔与锚网识别方法，其特征在于，锚杆钻机的钻架前端设置有单目立体视觉系统，其中，所述方法包括以下步骤：

基于所述单目立体视觉系统采集当前视觉图像；

从所述视觉图像中识别钻孔与锚网的所处位置；以及

根据所述钻孔与所述锚网的所处位置计算所述钻孔与所述锚网的实际位置，以生成所述锚杆钻机的至少一个目标钻孔的方位信息。

2.根据权利要求1所述的方法，其特征在于，还包括：

采集所述钻孔与所述锚网之间的位置关系；

若所述位置关系为遮挡关系，则进行报警提示。

3.根据权利要求1所述的方法，其特征在于，所述根据所述钻孔与所述锚网的所处位置计算所述钻孔与所述锚网的实际位置，包括：

计算所述钻孔的中心点在图像坐标中的位置和方向；

根据所述位置和方向计算世界坐标系下的位置和方向，确定所述实际位置。

4.根据权利要求1所述的方法，其特征在于，所述基于所述单目立体视觉系统采集当前视觉图像，包括：

采用预设的YOLO检测网络识别所述钻孔和所述锚网。

5.一种基于单目视觉的锚护用钢带钻孔与锚网识别装置，其特征在于，锚杆钻机的钻架前端设置有单目立体视觉系统，其中，所述装置包括：

第一采集模块，用于基于所述单目立体视觉系统采集当前视觉图像；

识别模块，用于从所述视觉图像中识别钻孔与锚网的所处位置；以及

生成模块，用于根据所述钻孔与所述锚网的所处位置计算所述钻孔与所述锚网的实际位置，以生成所述锚杆钻机的至少一个目标钻孔的方位信息。

6.根据权利要求5所述的装置，其特征在于，还包括：

第二采集模块，用于采集所述钻孔与所述锚网之间的位置关系；

报警模块，用于在所述位置关系为遮挡关系时，进行报警提示。

7.根据权利要求5所述的装置，其特征在于，所述生成模块，包括：

计算单元，用于计算所述钻孔的中心点在图像坐标中的位置和方向；

确定单元，用于根据所述位置和方向计算世界坐标系下的位置和方向，确定所述实际位置。

8.根据权利要求5所述的装置，其特征在于，所述第一采集模块，包括：

识别单元，用于采用预设的YOLO检测网络识别所述钻孔和所述锚网。

9.一种电子设备，其特征在于，包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述程序，以实现如权利要求1-4任一项所述的基于单目视觉的锚护用钢带钻孔与锚网识别方法。

10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行，以用于实现如权利要求1-4任一项所述的基于单目视觉的锚护用钢带钻孔与锚网识别方法。

Images