CN109903337B - 用于确定挖掘机的铲斗的位姿的方法和装置 - Google Patents

用于确定挖掘机的铲斗的位姿的方法和装置 Download PDF

Info

Publication number
CN109903337B
CN109903337B CN201910148743.6A CN201910148743A CN109903337B CN 109903337 B CN109903337 B CN 109903337B CN 201910148743 A CN201910148743 A CN 201910148743A CN 109903337 B CN109903337 B CN 109903337B
Authority
CN
China
Prior art keywords
bucket
preset
image
information
marker
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910148743.6A
Other languages
English (en)
Other versions
CN109903337A (zh
Inventor
程新景
杨睿刚
卢飞翔
杨雅珏
徐昊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN201910148743.6A priority Critical patent/CN109903337B/zh
Publication of CN109903337A publication Critical patent/CN109903337A/zh
Priority to US16/675,825 priority patent/US11004235B2/en
Priority to KR1020190140917A priority patent/KR102399630B1/ko
Priority to JP2019202448A priority patent/JP7313628B2/ja
Application granted granted Critical
Publication of CN109903337B publication Critical patent/CN109903337B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • E—FIXED CONSTRUCTIONS
    • E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02F—DREDGING; SOIL-SHIFTING
    • E02F3/00—Dredgers; Soil-shifting machines
    • E02F3/04—Dredgers; Soil-shifting machines mechanically-driven
    • E02F3/28—Dredgers; Soil-shifting machines mechanically-driven with digging tools mounted on a dipper- or bucket-arm, i.e. there is either one arm or a pair of arms, e.g. dippers, buckets
    • E02F3/36—Component parts
    • E02F3/42—Drives for dippers, buckets, dipper-arms or bucket-arms
    • E02F3/43—Control of dipper or bucket position; Control of sequence of drive operations
    • E02F3/435—Control of dipper or bucket position; Control of sequence of drive operations for dipper-arms, backhoes or the like
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/70—Determining position or orientation of objects or cameras
    • G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74—Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
    • E—FIXED CONSTRUCTIONS
    • E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02F—DREDGING; SOIL-SHIFTING
    • E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/20—Drives; Control devices
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/60—Analysis of geometric attributes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/10—Terrestrial scenes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30204—Marker
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30248—Vehicle exterior or interior
    • G06T2207/30252—Vehicle exterior; Vicinity of vehicle
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/20—Image preprocessing
    • G06V10/24—Aligning, centring, orientation detection or correction of the image
    • G06V10/245—Aligning, centring, orientation detection or correction of the image by locating a pattern; Special marks for positioning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00—Indexing scheme relating to image or video recognition or understanding
    • G06V2201/07—Target detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Mechanical Engineering (AREA)
  • Mining & Mineral Resources (AREA)
  • Civil Engineering (AREA)
  • General Engineering & Computer Science (AREA)
  • Structural Engineering (AREA)
  • Geometry (AREA)
  • Operation Control Of Excavators (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Analysis (AREA)

Abstract

本申请实施例公开了用于确定挖掘机的铲斗的位姿的方法、装置、电子设备和计算机可读介质。该方法的一具体实施方式包括：获取设置于挖掘机车体的相机采集到的铲斗的图像，所述铲斗的图像包含设置于所述挖掘机的铲斗上的预设标志物；基于所述铲斗的图像，以及预先获取的所述预设标志物的三维特征信息，确定所述相机相对于所述铲斗的位姿信息；将所述相机相对于所述铲斗的位姿信息转换为所述铲斗相对于所述挖掘机车体的位姿信息。该实施方式实现了挖掘机铲斗位姿的精准估算。

Description

用于确定挖掘机的铲斗的位姿的方法和装置
技术领域
本申请实施例涉及计算机技术领域，具体涉及挖掘机领域，尤其涉及用于确定挖掘机的铲斗的位姿的方法和装置。
背景技术
无人挖掘机是通过各种传感器感知挖掘操作的对象、规划操作行为并执行操作指令的智能化挖掘设备。无人挖掘机在挖掘物料堆的任务中，需要控制铲斗到土堆的目标区域进行挖掘操作，因此需要精准快速地确定铲斗相对于挖掘机车体的位姿。目前的方案是在挖掘机的大臂、小臂、铲斗等处分别安装角度传感器，依靠传感器读数来确定铲斗的位姿。
发明内容
本申请实施例提出了用于确定挖掘机的铲斗的位姿的方法、装置、电子设备和计算机可读介质。
第一方面，本公开的实施例提供了一种用于确定挖掘机的铲斗的位姿的方法，包括：获取设置于挖掘机车体的相机采集到的铲斗的图像，铲斗的图像包含设置于挖掘机的铲斗上的预设标志物；基于铲斗的图像，以及预先获取的预设标志物的三维特征信息，确定相机相对于铲斗的位姿信息；将相机相对于铲斗的位姿信息转换为铲斗相对于挖掘机车体的位姿信息。
在一些实施例中，上述预设标志物的三维特征信息包括预设标志物的特征点的空间位置信息；上述基于铲斗的图像，以及预先获取的预设标志物的三维特征信息，确定相机相对于铲斗的位姿信息，包括：根据预设标志物的特征点的空间位置信息确定预设标志物的特征点的三维坐标；检测铲斗的图像中的预设标志物的特征点，确定预设标志物的特征点在铲斗的图像中的像素坐标；基于预设标志物的特征点的三维坐标和预设标志物的特征点在铲斗的图像中的像素坐标，以及预先获取的相机的内部参数，估算出相机相对于铲斗的位姿信息。
在一些实施例中，上述基于铲斗的图像，以及预先获取的预设标志物的三维特征信息，确定相机相对于铲斗的位姿信息，还包括：基于预设的标志物信息库所包含的标志物信息对铲斗的图像进行匹配，以识别出预设标志物。
在一些实施例中，上述基于预设的标志物信息库所包含的标志物信息对铲斗的图像进行匹配，以识别出预设标志物，包括：获取设置于挖掘机的挖掘臂和铲斗上的角度传感器感应到的角度传感数据；基于角度传感数据确定预设标志物在铲斗的图像中的目标位置范围；在目标位置范围内检测标志物信息，并在预设的标志物信息库中进行匹配，以识别出预设标志物。
在一些实施例中，上述预设标志物包括预设二维码标签，上述预设标志物的特征点包括预设二维码标签的角点。
第二方面，本公开的实施例提供了一种用于确定挖掘机的铲斗的位姿的装置，包括：获取单元，被配置为获取设置于挖掘机车体的相机采集到的铲斗的图像，铲斗的图像包含设置于挖掘机的铲斗上的预设标志物；确定单元，被配置为基于铲斗的图像，以及预先获取的预设标志物的三维特征信息，确定相机相对于铲斗的位姿信息；转换单元，被配置为将相机相对于铲斗的位姿信息转换为铲斗相对于挖掘机车体的位姿信息。
在一些实施例中，上述预设标志物的三维特征信息包括预设标志物的特征点的空间位置信息；上述确定单元进一步被配置为基于铲斗的图像，以及预先获取的预设标志物的三维特征信息，按照如下方式确定相机相对于铲斗的位姿信息：根据预设标志物的特征点的空间位置信息确定预设标志物的特征点的三维坐标；检测铲斗的图像中的预设标志物的特征点，确定预设标志物的特征点在铲斗的图像中的像素坐标；基于预设标志物的特征点的三维坐标和预设标志物的特征点在铲斗的图像中的像素坐标，以及预先获取的相机的内部参数，估算出相机相对于铲斗的位姿信息。
在一些实施例中，上述确定单元还被配置为：基于预设的标志物信息库所包含的标志物信息对铲斗的图像进行匹配，以识别出预设标志物。
在一些实施例中，上述确定单元进一步被配置为按照如下方式识别出预设标志物：获取设置于挖掘机的挖掘臂和铲斗上的角度传感器感应到的角度传感数据；基于角度传感数据确定预设标志物在铲斗的图像中的目标位置范围；在目标位置范围内检测标志物信息，并在预设的标志物信息库中进行匹配，以识别出预设标志物。
在一些实施例中，上述预设标志物包括预设二维码标签，上述预设标志物的特征点包括预设二维码标签的角点。
第三方面，本公开的实施例提供了一种电子设备，包括：一个或多个处理器；存储装置，用于存储一个或多个程序，当一个或多个程序被一个或多个处理器执行，使得一个或多个处理器实现如第一方面提供的用于确定挖掘机的铲斗的位姿的方法。
第四方面，本公开的实施例提供了一种计算机可读介质，其上存储有计算机程序，其中，程序被处理器执行时实现第一方面提供的用于确定挖掘机的铲斗的位姿的方法。
本申请上述实施例的用于确定挖掘机的铲斗的位姿的方法和装置，通过获取设置于挖掘机车体的相机采集到的铲斗的图像，铲斗的图像包含设置于挖掘机的铲斗上的预设标志物，基于铲斗的图像，以及预先获取的预设标志物的三维特征信息，确定相机相对于铲斗的位姿信息，将相机相对于铲斗的位姿信息转换为铲斗相对于挖掘机车体的位姿信息，实现了基于设置于铲斗上的预设标志物的图像的铲斗位姿的精准计算。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本申请的其它特征、目的和优点将会变得更明显：
图1是本申请实施例可以应用于其中的示例性系统架构图；
图2是根据本申请的用于确定挖掘机的铲斗的位姿的方法的一个实施例的流程图；
图3是图2所示实施例的一个应用场景示意图；
图4是根据本申请的用于确定挖掘机的铲斗的位姿的方法的另一个实施例的流程图；
图5是本申请的用于确定挖掘机的铲斗的位姿的装置的一个实施例的结构示意图；
图6是适于用来实现本申请实施例的电子设备的计算机系统的结构示意图。
具体实施方式
下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释相关发明，而非对该发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与有关发明相关的部分。
需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
图1示出了可以应用本申请的用于确定挖掘机的铲斗的位姿的方法或用于确定挖掘机的铲斗的位姿的装置的示例性系统架构。
如图1所示，系统架构100中可以包括挖掘机101、设置于挖掘机上的相机102、网络103和服务器104。网络103用以在挖掘机101、相机102和服务器104之间提供通信链路的介质。网络103可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
挖掘机101可以是无人自主挖掘机，无人自主挖掘机上可以设置有角度传感器、力学传感器、图像传感器等各类传感器。挖掘机101上的各类传感器可以感知包含挖掘对象、道路环境等的环境信息。在一些场景中，无人自主挖掘机101上还可以设置有数据处理部件，例如CPU、GPU等处理器，以及存储部件。数据处理部件可以获取传感器感知的数据并进行处理，存储部件可以存储传感器感知到的数据，以及存储数据处理部件执行数据处理任务所需要调用的数据。
相机102可以是安装在无人自主挖掘机101上的图像传感器，其可以拍摄无人自主挖掘机的铲斗的图像。在本实施例的应用场景中，相机102可以设置于无人自主挖掘机的车体，相机102朝向无人挖掘机前方，保证无人自主挖掘机101的铲斗在相机102的成像范围内。
服务器104可以是提供各种服务的服务器，例如，无人自主挖掘机的后台服务器。无人自主挖掘机的后台服务器可以对从相机102获取到的铲斗的图像等数据分析处理，并基于处理结果(例如铲斗的位姿)控制挖掘机101挖掘。
需要说明的是，服务器104可以是硬件，也可以是软件。当服务器104为硬件时，可以实现成多个服务器组成的分布式服务器集群，也可以实现成单个服务器。当服务器104为软件时，可以实现成多个软件或软件模块(例如用来提供分布式服务的多个软件或软件模块)，也可以实现成单个软件或软件模块。在此不做具体限定。
需要说明的是，本申请实施例所提供的用于确定挖掘机的铲斗的位姿的方法可以由设置于挖掘机101的数据处理部件或服务器104执行，相应地，用于确定挖掘机的铲斗的位姿的装置可以设置于挖掘机101的数据处理部件或服务器104中。
应该理解，图1中的挖掘机、相机、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的挖掘机、相机、网络和服务器。
继续参考图2，其示出了根据本申请的用于确定挖掘机的铲斗的位姿的方法的一个实施例的流程200。该用于确定挖掘机的铲斗的位姿的方法，包括以下步骤：
步骤201，获取设置于挖掘机车体的相机采集到的铲斗的图像。
其中，铲斗的图像包含设置于挖掘机的铲斗上的预设标志物。
在本实施例中，用于确定挖掘机的铲斗的位姿的方法的执行主体可以与设置于挖掘机车体的相机连接，获取相机采集的铲斗的图像。
上述挖掘机可以是无人自主挖掘机，相机设置于挖掘机的车体，相机与挖掘机车体之间的相对位置固定。挖掘机的挖掘臂可以相对于车体旋转和伸缩，从而带动铲斗移动。铲斗也可以相对于挖掘机的挖掘臂旋转。在挖掘过程中，需要检测挖掘机铲斗相对于挖掘机车体的当前位姿，从而根据需要调整挖斗的位姿，执行挖掘物料的操作。
上述相机可以设置于车体朝向铲斗的一侧。铲斗上可以设置有预设标志物。预设标志物可以是用于标识铲斗位置的具有可检测的特征的物体，例如可以是包含由随机的标记点组成的标记图形的物体。作为示例，预设标志物可以固定连接在铲斗上的具有特定形状的零部件，或者可以是粘贴在铲斗上的标志物体的图片。
可选地，上述预设标志物可以是例如图3所示应用场景中粘贴在铲斗上的预设二维码标签。预设二维码标签可以是具有已知的固定边长、由相互邻接的不同颜色的像素块组成的二维码图形。在本实施例的可选实现方式中，可以从预设的二维码标签库中选择二维码标签粘贴在铲斗上作为预设标志物。
步骤202，基于铲斗的图像，以及预先获取的预设标志物的三维特征信息，确定相机相对于铲斗的位姿信息。
在本实施例中，上述执行主体可以首先从预设的标志物信息库中获取上述预设标志物的三维特征信息。在这里，预设标志物的三维特征信息可以是表征预设标志物中的形状、尺寸、标记点间的相对位置关系等的信息。上述预设的标志物信息库可以包括预设的多个标志物的标识、二维图像和三维特征信息。
可以根据设置于铲斗上的预设标志物的标识来查找到相应的三维特征信息。例如可以在铲斗上粘贴预设标志物图片，这时可以根据粘贴的预设标志物的图片的编号，在预设的标志物信息库中查找到该图片对应的标志物的三维特征信息。
接着，可以建立铲斗坐标系，根据铲斗上的预设标志物的三维特征信息确定该预设标志物在铲斗坐标系中的数学表征。例如，预设标志物为一个方格图形，则该方格图形在铲斗坐标系中的数学表征可以是中心点坐标、对角线方向和边长，也可以是方格的对角线上的两个顶点的坐标。又例如，预设标志物为一个形状不规则的立体物体，则该形状不规则的立体物体在铲斗坐标系中的数学表征可以是该立体物体的表面的多个点的坐标。
然后，可以从铲斗的图像中确定预设标志物在图像中的数学表征。预设标志物在图像中的数学表征可以是预设标志物的各顶点、或者预设标志物表面的点在图像平面中的投影点的图像坐标。
之后，可以根据预设标志物在铲斗坐标系中的数学表征和在图像中的数学表征，估算相机相对于铲斗坐标系的位姿。具体地，可以根据预设标志物的诸如中心点、顶点、表面的点等特征点在铲斗坐标系中的三维坐标和在图像坐标系中的二维坐标，确定铲斗坐标系与图像坐标系之间的转换关系，然后根据标定的相机的参数，确定图像坐标系与相机坐标系间的转换关系，以及确定出相机坐标系与铲斗坐标系间的转换关系。上述转换关系可以是转换矩阵，包含相对平移距离和相对旋转角。这样，就确定出了相机坐标系相对于铲斗坐标系的平移和旋转角，即确定了相机相对于铲斗的位姿数据。
步骤203，将相机相对于铲斗的位姿信息转换为铲斗相对于挖掘机车体的位姿信息。
可以将相机相对铲斗的平移和旋转角转换为铲斗相对于相机的平移和旋转角，作为铲斗相对于挖掘机车体的位姿信息。在转换时，可以直接对表征相机相对铲斗的平移参数和旋转参数取相反数得到铲斗相对相机的平移参数和旋转角参数。
本申请上述实施例的用于确定挖掘机的铲斗的位姿的方法，通过获取设置于挖掘机车体的相机采集到的铲斗的图像，铲斗的图像包含设置于挖掘机的铲斗上的预设标志物，基于铲斗的图像，以及预先获取的预设标志物的三维特征信息，确定相机相对于铲斗的位姿信息，将相机相对于铲斗的位姿信息转换为铲斗相对于挖掘机车体的位姿信息，实现了基于设置于铲斗上的预设标志物的图像的铲斗位姿的精准计算。相较于目前所采用的通过设置于不同位置的角度传感器读数确定铲斗位姿的方法，能够避免因传感器的微小误差导致位于末端的铲斗位姿的估算结果产生较大误差，可以有效提升铲斗位姿估计的准确性。
请参考图3，其示出了图2所示实施例的一个应用场景示意图。如图3所示，设置于挖掘机车体的相机C可以采集铲斗的图像，铲斗上贴有标志物M，在这里，示例性地以二维码标签作为预设标志物。在挖掘过程中，铲斗基于挖掘动作的控制指令调整位姿，相机C所采集的到的图像中标志物M的尺寸、形状等特征随之发生变化。可以根据相机C采集到的图像中的标志物M的特征，采用图2所示的方法来计算铲斗的位姿参数，包括铲斗相对于挖掘机车体的平移距离和旋转角度。从而根据计算出的铲斗的位姿参数确定铲斗与目标物料堆之间的相对位置，进而确定对铲斗控制的指令。
继续参考图4，其示出了根据本申请的用于确定挖掘机的铲斗的位姿的方法的另一个实施例的流程图。如图4所示，本实施例的用于确定挖掘机的铲斗的位姿的方法的流程400，包括以下步骤：
步骤401，获取设置于挖掘机车体的相机采集到的铲斗的图像。
在本实施例中，用于确定挖掘机的铲斗的位姿的方法的执行主体可以与设置于挖掘机车体的相机连接，获取相机采集的铲斗的图像。其中，铲斗的图像包含设置于挖掘机的铲斗上的预设标志物。
步骤402，根据预设标志物的特征点的空间位置信息确定预设标志物的特征点的三维坐标。
在本实施例中，预设标志物可以包含特征点。特征点可以是用于标识标志物特征的点，例如可以是方格图形的中心点或角点。可选地，上述预设标志物包括预设二维码标签，上述预设标志物的特征点包括预设二维码标签的角点。
上述预设标志物的三维特征信息包括预设标志物的特征点的空间位置信息。在这里，预设标志物的特征点的空间位置信息可以是特征点之间的相对位置，例如二维码标签的四个角点与中心点之间的相对位置。可以以其中一个特征点为原点构建铲斗坐标系，根据特征点之间的相对位置确定各特征点在铲斗坐标系中的三维坐标。
步骤403，检测铲斗的图像中的预设标志物的特征点，确定预设标志物的特征点在铲斗的图像中的像素坐标。
可以对步骤401获取的铲斗的图像进行检测，根据特征点的颜色、分布等特征检测出铲斗的图像中预设标志物的特征点。
在本实施例中，预设的标志物信息库可以存储预设标志物的特征点的空间位置信息，可以根据特征点的空间位置信息确定特征点的颜色、分布等特征信息。或者可以直接从预设的标志物信息库提取出特征点的颜色、分布等特征信息。然后基于特征点的颜色、分布等特征信息在铲斗的图像中检测出特征点对应的像素点，获取对应的像素点的坐标，作为上述预设标志物的特征点在铲斗的图像中的像素坐标。
步骤404，基于预设标志物的特征点的三维坐标和预设标志物的特征点在铲斗的图像中的像素坐标，以及预先获取的相机的内部参数，估算出相机相对于铲斗的位姿信息。
可以预先获取相机的内部参数，包括焦距、主点偏移以及畸变系数。然后构建相机的内部参数矩阵K，将特征点的像素坐标Px转换至相机坐标系得到特征点在相机坐标系中的坐标Pc。
假设相机相对于铲斗的旋转矩阵为R，平移矩阵为T，特征点在相机坐标系中的坐标Pc与在铲斗坐标系中的三维坐标Ps之间具有如下关系：Pc＝Ps×R+T。则可以根据多个特征点在相机坐标系中的坐标Pc以及各特征点在铲斗坐标系中的三维坐标Ps估算出旋转矩阵R和平移矩阵T，即确定出相机相对于铲斗的旋转参数和平移参数。
步骤405，将相机相对于铲斗的位姿信息转换为铲斗相对于挖掘机车体的位姿信息。
可以将相机相对铲斗的平移和旋转角转换为铲斗相对于相机的平移参数和旋转参数，作为铲斗相对于挖掘机车体的位姿信息。在转换时，可以直接对表征相机相对铲斗的平移参数和旋转参数取相反数得到铲斗相对相机的平移参数和旋转角参数。
本实施例的用于确定挖掘机的铲斗的位姿的方法，通过预先获取的标志物的特征点的空间位置信息以确定其三维坐标，并检测铲斗的图像中相应的特征点的像素坐标，进而根据特征点的三维坐标和像素坐标确定出相机的相对位姿，能够进一步确定出的特征点的三维坐标与像素坐标之间的对应关系的准确性，进一步提升位姿估计的准确性。
在本实施例的一些可选的实现方式中，上述用于确定挖掘机的铲斗的位姿的方法的流程400还可以包括：
步骤406，基于预设的标志物信息库所包含的标志物信息对铲斗的图像进行匹配，以识别出预设标志物。
其中，预设的标志物信息库可以包含多个标志物的标志物信息。标志物信息可以包括标志物的形状、尺寸、颜色等信息，还可以包括标志物的图像特征。
可以从铲斗的图像中提取预设标志物的特征信息，与预设的标志物信息库中的各标志物的标志物信息进行匹配。将匹配成功的标志物作为识别出的预设标志物。
进一步可选地，上述步骤406可以按照如下方式执行：首先获取设置于挖掘机的挖掘臂和铲斗上的角度传感器感应到的角度传感数据，然后基于角度传感数据确定预设标志物在铲斗的图像中的目标位置范围，最后在目标位置范围内检测标志物信息，并在预设的标志物信息库中进行匹配，以识别出预设标志物。
在基于角度传感数据确定预设标志物在铲斗的图像中的目标位置范围时，具体可以根据角度传感器确定铲斗相对于挖掘机车体的旋转角的初始估计范围，并根据挖掘机的挖掘臂的长度和角度传感数据计算出铲斗相对于挖掘机车体的平移量的初始估计范围。然后基于铲斗相对于挖掘机车体的旋转角和平移量的初始估计范围，以及相机的内部参数，将预设标志物的各特征点(例如各角点)在铲斗坐标系中的三维坐标转换至图像坐标系中，得到预设标志物在铲斗的图像中的目标位置范围。之后可以在目标位置范围内检测识别标志物的信息，并将检测到的标志物的信息与预设的标志物信息库进行匹配，得到铲斗的图像中的预设标志物的识别结果。
通过利用角度传感器得到的角度传感数据确定出预设标志物在图像中的目标位置范围，之后在目标位置范围内检测出预设标志物，可以提升从图像中识别预设标志物的速度，进而提升铲斗位姿估算的速度。并且，通过结合挖掘机机臂、挖斗上的角度传感器与相机采集的铲斗的图像确定铲斗的位姿，在角度传感器失灵的情况下可以依靠相机确定铲斗的位姿，保证挖掘机正常工作。
进一步参考图5，作为对上述各图所示方法的实现，本申请提供了一种用于确定挖掘机的铲斗的位姿的装置的一个实施例，该装置实施例与图2和图4所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。
如图5所示，本实施例的用于确定挖掘机的铲斗的位姿的装置500包括：获取单元501、确定单元502以及转换单元503。其中获取单元501被配置为获取设置于挖掘机车体的相机采集到的铲斗的图像，铲斗的图像包含设置于挖掘机的铲斗上的预设标志物；确定单元502被配置为基于铲斗的图像，以及预先获取的预设标志物的三维特征信息，确定相机相对于铲斗的位姿信息；转换单元503被配置为将相机相对于铲斗的位姿信息转换为铲斗相对于挖掘机车体的位姿信息。
在一些实施例中，上述预设标志物的三维特征信息可以包括预设标志物的特征点的空间位置信息；上述确定单元502可以进一步被配置为基于铲斗的图像，以及预先获取的预设标志物的三维特征信息，按照如下方式确定相机相对于铲斗的位姿信息：根据预设标志物的特征点的空间位置信息确定预设标志物的特征点的三维坐标；检测铲斗的图像中的预设标志物的特征点，确定预设标志物的特征点在铲斗的图像中的像素坐标；基于预设标志物的特征点的三维坐标和预设标志物的特征点在铲斗的图像中的像素坐标，以及预先获取的相机的内部参数，估算出相机相对于铲斗的位姿信息。
在一些实施例中，上述确定单元502还可以被配置为：基于预设的标志物信息库所包含的标志物信息对铲斗的图像进行匹配，以识别出预设标志物。
在一些实施例中，上述确定单元502可以进一步被配置为按照如下方式识别出预设标志物：获取设置于挖掘机的挖掘臂和铲斗上的角度传感器感应到的角度传感数据；基于角度传感数据确定预设标志物在铲斗的图像中的目标位置范围；在目标位置范围内检测标志物信息，并在预设的标志物信息库中进行匹配，以识别出预设标志物。
在一些实施例中，上述预设标志物包括预设二维码标签，上述预设标志物的特征点包括预设二维码标签的角点。
应当理解，装置500中记载的诸单元与参考图2和图4描述的方法中的各个步骤相对应。由此，上文针对方法描述的操作和特征同样适用于装置500及其中包含的单元，在此不再赘述。
本申请上述实施例的用于确定挖掘机的铲斗的位姿的装置500，通过获取设置于挖掘机车体的相机采集到的铲斗的图像，铲斗的图像包含设置于挖掘机的铲斗上的预设标志物，基于铲斗的图像，以及预先获取的预设标志物的三维特征信息，确定相机相对于铲斗的位姿信息，将相机相对于铲斗的位姿信息转换为铲斗相对于挖掘机车体的位姿信息，实现了基于设置于铲斗上的预设标志物的图像的铲斗位姿的精准计算。
下面参考图6，其示出了适于用来实现本公开的实施例的电子设备(例如图1中的服务器)600的结构示意图。图6示出的服务器仅仅是一个示例，不应对本公开的实施例的功能和使用范围带来任何限制。
如图6所示，电子设备600可以包括处理装置(例如中央处理器、图形处理器等)601，其可以根据存储在只读存储器(ROM)602中的程序或者从存储装置608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM 603中，还存储有电子设备600操作所需的各种程序和数据。处理装置601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
通常，以下装置可以连接至I/O接口605：包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置606；包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置607；包括例如硬盘等的存储装置608；以及通信装置609。通信装置609可以允许电子设备600与其他设备进行无线或有线通信以交换数据。虽然图6示出了具有各种装置的电子设备600，但是应理解的是，并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。图6中示出的每个方框可以代表一个装置，也可以根据需要代表多个装置。
特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信装置609从网络上被下载和安装，或者从存储装置608被安装，或者从ROM 602被安装。在该计算机程序被处理装置601执行时，执行本公开的实施例的方法中限定的上述功能。需要说明的是，本公开的实施例所描述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开的实施例中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开的实施例中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、RF(射频)等等，或者上述的任意合适的组合。
上述计算机可读介质可以是上述电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：获取设置于挖掘机车体的相机采集到的铲斗的图像，铲斗的图像包含设置于挖掘机的铲斗上的预设标志物，基于铲斗的图像，以及预先获取的预设标志物的三维特征信息，确定相机相对于铲斗的位姿信息，将相机相对于铲斗的位姿信息转换为铲斗相对于挖掘机车体的位姿信息。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的实施例的操作的计算机程序代码，程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)——连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图，图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
描述于本申请实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中，例如，可以描述为：一种处理器包括获取单元、确定单元和转换单元。其中，这些单元的名称在某种情况下并不构成对该单元本身的限定，例如，获取单元还可以被描述为“获取设置于挖掘机车体的相机采集到的铲斗的图像的单元”。
以上描述仅为本申请的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本申请中所涉及的发明范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述发明构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本申请中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

Claims (8)

1.一种用于确定挖掘机的铲斗的位姿的方法，包括：
获取设置于挖掘机车体的相机采集到的铲斗的图像，所述铲斗的图像包含设置于所述挖掘机的铲斗上的预设标志物；
基于所述铲斗的图像，以及预先获取的所述预设标志物的三维特征信息，确定所述相机相对于所述铲斗的位姿信息；
所述基于所述铲斗的图像，以及预先获取的所述预设标志物的三维特征信息，确定所述相机相对于所述铲斗的位姿信息，包括：基于预设的标志物信息库所包含的标志物信息对所述铲斗的图像进行匹配，以识别出所述预设标志物；
所述基于预设的标志物信息库所包含的标志物信息对所述铲斗的图像进行匹配，以识别出所述预设标志物，包括：
获取设置于所述挖掘机的挖掘臂和铲斗上的角度传感器感应到的角度传感数据；基于所述角度传感数据确定所述预设标志物在所述铲斗的图像中的目标位置范围；在所述目标位置范围内检测标志物信息，并在所述预设的标志物信息库中进行匹配，以识别出所述预设标志物；所述基于所述角度传感数据确定所述预设标志物在所述铲斗的图像中的目标位置范围包括：根据所述角度传感器确定所述铲斗相对于挖掘机车体的旋转角的初始估计范围，并根据所述挖掘机的挖掘臂的长度和所述角度传感数据计算出所述铲斗相对于所述挖掘机车体的平移量的初始估计范围，基于所述铲斗相对于所述挖掘机车体的旋转角和平移量的初始估计范围，以及相机的内部参数，将所述预设标志物的各特征点在铲斗坐标系中的三维坐标转换至图像坐标系中，得到所述预设标志物在所述铲斗的图像中的目标位置范围；
将所述相机相对于所述铲斗的位姿信息转换为所述铲斗相对于所述挖掘机车体的位姿信息。
2.根据权利要求1所述的方法，其中，所述预设标志物的三维特征信息包括所述预设标志物的特征点的空间位置信息；
所述基于所述铲斗的图像，以及预先获取的所述预设标志物的三维特征信息，确定所述相机相对于所述铲斗的位姿信息，包括：
根据所述预设标志物的特征点的空间位置信息确定所述预设标志物的特征点的三维坐标；
检测所述铲斗的图像中的预设标志物的特征点，确定所述预设标志物的特征点在所述铲斗的图像中的像素坐标；
基于所述预设标志物的特征点的三维坐标和所述预设标志物的特征点在铲斗的图像中的像素坐标，以及预先获取的所述相机的内部参数，估算出所述相机相对于所述铲斗的位姿信息。
3.根据权利要求2所述的方法，其中，所述预设标志物包括预设二维码标签，所述预设标志物的特征点包括所述预设二维码标签的角点。
4.一种用于确定挖掘机的铲斗的位姿的装置，包括：
获取单元，被配置为获取设置于挖掘机车体的相机采集到的铲斗的图像，所述铲斗的图像包含设置于所述挖掘机的铲斗上的预设标志物；
确定单元，被配置为基于所述铲斗的图像，以及预先获取的所述预设标志物的三维特征信息，确定所述相机相对于所述铲斗的位姿信息；
所述确定单元被配置为：基于预设的标志物信息库所包含的标志物信息对所述铲斗的图像进行匹配，以识别出所述预设标志物；
所述确定单元进一步被配置为按照如下方式识别出所述预设标志物：获取设置于所述挖掘机的挖掘臂和铲斗上的角度传感器感应到的角度传感数据；基于所述角度传感数据确定所述预设标志物在所述铲斗的图像中的目标位置范围；在所述目标位置范围内检测标志物信息，并在所述预设的标志物信息库中进行匹配，以识别出所述预设标志物；
所述确定单元更进一步被配置为：根据所述角度传感器确定所述铲斗相对于挖掘机车体的旋转角的初始估计范围，并根据所述挖掘机的挖掘臂的长度和所述角度传感数据计算出所述铲斗相对于所述挖掘机车体的平移量的初始估计范围，基于所述铲斗相对于所述挖掘机车体的旋转角和平移量的初始估计范围，以及相机的内部参数，将所述预设标志物的各特征点在铲斗坐标系中的三维坐标转换至图像坐标系中，得到所述预设标志物在所述铲斗的图像中的目标位置范围；
转换单元，被配置为将所述相机相对于所述铲斗的位姿信息转换为所述铲斗相对于所述挖掘机车体的位姿信息。
5.根据权利要求4所述的装置，其中，所述预设标志物的三维特征信息包括所述预设标志物的特征点的空间位置信息；
所述确定单元进一步被配置为基于所述铲斗的图像，以及预先获取的所述预设标志物的三维特征信息，按照如下方式确定所述相机相对于所述铲斗的位姿信息：
根据所述预设标志物的特征点的空间位置信息确定所述预设标志物的特征点的三维坐标；
检测所述铲斗的图像中的预设标志物的特征点，确定所述预设标志物的特征点在所述铲斗的图像中的像素坐标；
基于所述预设标志物的特征点的三维坐标和所述预设标志物的特征点在铲斗的图像中的像素坐标，以及预先获取的所述相机的内部参数，估算出所述相机相对于所述铲斗的位姿信息。
6.根据权利要求5所述的装置，其中，所述预设标志物包括预设二维码标签，所述预设标志物的特征点包括所述预设二维码标签的角点。
7.一种电子设备，包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序，
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-3中任一所述的方法。
8.一种计算机可读介质，其上存储有计算机程序，其中，所述程序被处理器执行时实现如权利要求1-3中任一所述的方法。
CN201910148743.6A 2019-02-28 2019-02-28 用于确定挖掘机的铲斗的位姿的方法和装置 Active CN109903337B (zh)

Priority Applications (4)

Application Number Priority Date Filing Date Title
CN201910148743.6A CN109903337B (zh) 2019-02-28 2019-02-28 用于确定挖掘机的铲斗的位姿的方法和装置
US16/675,825 US11004235B2 (en) 2019-02-28 2019-11-06 Method and apparatus for determining position and orientation of bucket of excavator
KR1020190140917A KR102399630B1 (ko) 2019-02-28 2019-11-06 굴착기의 버킷의 포즈 결정 방법 및 장치
JP2019202448A JP7313628B2 (ja) 2019-02-28 2019-11-07 掘削機のバケットの位置姿勢を確定するための方法及び装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910148743.6A CN109903337B (zh) 2019-02-28 2019-02-28 用于确定挖掘机的铲斗的位姿的方法和装置

Publications (2)

Publication Number Publication Date
CN109903337A CN109903337A (zh) 2019-06-18
CN109903337B true CN109903337B (zh) 2022-06-14

Family

ID=66945879

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910148743.6A Active CN109903337B (zh) 2019-02-28 2019-02-28 用于确定挖掘机的铲斗的位姿的方法和装置

Country Status (4)

Country Link
US (1) US11004235B2 (zh)
JP (1) JP7313628B2 (zh)
KR (1) KR102399630B1 (zh)
CN (1) CN109903337B (zh)

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112215884A (zh) * 2019-07-09 2021-01-12 北京地平线机器人技术研发有限公司 一种平面标志物的位姿确定方法和装置
CN110443853B (zh) * 2019-07-19 2022-01-28 广东虚拟现实科技有限公司 基于双目摄像头的标定方法、装置、终端设备及存储介质
JP7282002B2 (ja) * 2019-09-10 2023-05-26 ナブテスコ株式会社 情報処理装置、情報処理システム、情報処理方法、コンピュータプログラム、建設機械
JP7283332B2 (ja) * 2019-09-26 2023-05-30 コベルコ建機株式会社 容器計測システム
DE102020105215A1 (de) * 2020-02-27 2021-09-02 Jungheinrich Aktiengesellschaft Verfahren zum Kalibrieren einer Sensoreinheit eines Flurförderzeugs
JP2022054072A (ja) * 2020-09-25 2022-04-06 コベルコ建機株式会社 位置検出システム
CN112489126B (zh) * 2020-12-10 2023-09-19 浙江商汤科技开发有限公司 车辆关键点信息检测方法、车辆控制方法及装置、车辆
CN112652012A (zh) * 2020-12-31 2021-04-13 北京百度网讯科技有限公司 挖掘机智能控制方法、装置、设备、存储介质和挖掘机
CN112819882B (zh) * 2021-01-26 2021-11-19 徐州徐工挖掘机械有限公司 一种基于双目视觉的实时土方量计算方法
CN112906848A (zh) * 2021-03-29 2021-06-04 上海华兴数字科技有限公司 作业计量系统及方法
CN113271410B (zh) * 2021-04-14 2022-05-27 中联重科股份有限公司 用于确定工程机械的支腿开度的方法、处理器及装置
CN113240739B (zh) * 2021-04-29 2023-08-11 三一重机有限公司 一种挖掘机、属具的位姿检测方法、装置及存储介质
CN113280736B (zh) * 2021-06-10 2022-07-22 雷沃工程机械集团有限公司 一种装载机铲斗位置检测方法及设备
CN113382520B (zh) * 2021-06-25 2024-06-28 三一重机有限公司 照明控制方法、系统及挖掘机
CN113688847A (zh) * 2021-08-25 2021-11-23 徐州徐工矿业机械有限公司 一种挖掘机运行模式切换的控制方法、装置和挖掘机
CN115690203A (zh) * 2022-09-28 2023-02-03 中南大学 一种铲斗位姿感知方法、系统及可存储介质
CN115307548B (zh) * 2022-10-12 2023-01-31 北京鸿游科技有限公司 一种挖掘设备用动态监控装置及其存储介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108871314A (zh) * 2018-07-18 2018-11-23 江苏实景信息科技有限公司 一种定位定姿方法及装置
CN109087359A (zh) * 2018-08-30 2018-12-25 网易（杭州）网络有限公司 位姿确定方法、位姿确定装置、介质和计算设备

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09267926A (ja) * 1996-03-29 1997-10-14 Kawasaki Steel Corp 連続式アンローダの掘削量検出方法
JP4794708B2 (ja) * 1999-02-04 2011-10-19 オリンパス株式会社 ３次元位置姿勢センシング装置
JP2010160056A (ja) * 2009-01-08 2010-07-22 Fuji Xerox Co Ltd 位置計測装置およびプログラム
CN101839692B (zh) * 2010-05-27 2012-09-05 西安交通大学 单相机测量物体三维位置与姿态的方法
KR102079399B1 (ko) * 2013-05-22 2020-02-19 두산인프라코어 주식회사 비전 시스템을 이용한 건설장비의 출력 제어 방법 및 장치
JP2015224875A (ja) * 2014-05-26 2015-12-14 Ｋｙｂ株式会社 作業機の作動状態検出システム及び作業機
CN104476548B (zh) * 2014-10-24 2016-06-01 四川省绵阳西南自动化研究所 一种挖掘机器人自主作业控制方法
USRE49930E1 (en) * 2015-03-26 2024-04-23 Universidade De Coimbra Methods and systems for computer-aided surgery using intra-operative video acquired by a free moving camera
DE112015000132T5 (de) * 2015-09-30 2016-11-10 Komatsu Ltd. Kalibrierungssystem, Arbeitsmaschine und Kalibrierungsverfahren
US20170255895A1 (en) * 2016-03-01 2017-09-07 Komatsu Ltd. Evaluation device and evaluation method
WO2016137017A1 (ja) * 2016-03-28 2016-09-01 株式会社小松製作所 評価装置及び評価方法
KR101787897B1 (ko) * 2016-05-31 2017-10-19 인하대학교 산학협력단 Ａｖｍ 기반의 굴삭기 작업 정보 모니터링 장치 및 그 방법
CN106780610B (zh) * 2016-12-06 2020-05-26 浙江大华技术股份有限公司 一种位置定位方法及装置
US10163033B2 (en) * 2016-12-13 2018-12-25 Caterpillar Inc. Vehicle classification and vehicle pose estimation
CN106836364B (zh) * 2017-01-17 2019-02-12 大连理工大学 智能挖掘机的自动控制系统及最优轨迹规划方法
US10094662B1 (en) * 2017-03-28 2018-10-09 Trimble Inc. Three-dimension position and heading solution
CN107481287A (zh) * 2017-07-13 2017-12-15 中国科学院空间应用工程与技术中心 一种基于多标识的物体定位定姿方法及系统
JP2017193958A (ja) 2017-07-25 2017-10-26 株式会社小松製作所 校正システム、作業機械及び校正方法
CN108951750A (zh) * 2018-08-08 2018-12-07 上海宝冶集团有限公司 一种挖掘机施工作业方法、系统及挖掘机

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108871314A (zh) * 2018-07-18 2018-11-23 江苏实景信息科技有限公司 一种定位定姿方法及装置
CN109087359A (zh) * 2018-08-30 2018-12-25 网易（杭州）网络有限公司 位姿确定方法、位姿确定装置、介质和计算设备

Also Published As

Publication number Publication date
KR102399630B1 (ko) 2022-05-19
CN109903337A (zh) 2019-06-18
JP2020140696A (ja) 2020-09-03
US20200279397A1 (en) 2020-09-03
JP7313628B2 (ja) 2023-07-25
US11004235B2 (en) 2021-05-11
KR20200105380A (ko) 2020-09-07

Similar Documents

Publication Publication Date Title
CN109903337B (zh) 用于确定挖掘机的铲斗的位姿的方法和装置
JP7137548B2 (ja) 材料スタックの３次元再構成方法、装置、電子デバイス及びコンピュータ可読媒体
US10360247B2 (en) System and method for telecom inventory management
CN109903326B (zh) 用于确定工程机械设备的旋转角度的方法和装置
CN112258567B (zh) 物体抓取点的视觉定位方法、装置、存储介质及电子设备
JP6658001B2 (ja) 位置推定装置、プログラム、位置推定方法
US20210374978A1 (en) Capturing environmental scans using anchor objects for registration
WO2006082825A1 (ja) 指標配置計測方法、位置姿勢推定方法、指標配置計測装置、位置姿勢推定装置
US10943360B1 (en) Photogrammetric machine measure up
US20090086020A1 (en) Photogrammetric networks for positional accuracy
US10679090B2 (en) Method for estimating 6-DOF relative displacement using vision-based localization and apparatus therefor
Tang et al. Surveying, geomatics, and 3D reconstruction
CN114545426A (zh) 定位方法、装置、移动机器人和计算机可读介质
Scheuermann et al. Mobile augmented reality based annotation system: A cyber-physical human system
CN113628284B (zh) 位姿标定数据集生成方法、装置、系统、电子设备及介质
CN112880675B (zh) 用于视觉定位的位姿平滑方法、装置、终端和移动机器人
KR102049666B1 (ko) 비전 기반 위치 추정 기법을 이용한 6-자유도 상대 변위 추정 방법 및 그 장치
KR102481537B1 (ko) 영상 데이터와 지형 고도 데이터를 이용하여 이동체의 방위각 및 자세를 추정하는 장치 및 방법
CN113256715B (zh) 机器人的定位方法和装置
WO2023035296A1 (en) A camera calibration method
CN114708556A (zh) 检测方法、装置、电子设备及存储介质
CN118068355A (zh) 激光雷达数据合并方法、电子设备及存储介质
WO2009042933A1 (en) Photogrammetric networks for positional accuracy and ray mapping
CN114677367A (zh) 检测方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant