CN116758498B - 障碍物信息生成方法、装置、电子设备和计算机可读介质 - Google Patents

障碍物信息生成方法、装置、电子设备和计算机可读介质 Download PDF

Info

Publication number
CN116758498B
CN116758498B CN202310511314.7A CN202310511314A CN116758498B CN 116758498 B CN116758498 B CN 116758498B CN 202310511314 A CN202310511314 A CN 202310511314A CN 116758498 B CN116758498 B CN 116758498B
Authority
CN
China
Prior art keywords
sequence
pose
key point
matrix
current vehicle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202310511314.7A
Other languages
English (en)
Other versions
CN116758498A (zh
Inventor
胡禹超
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
HoloMatic Technology Beijing Co Ltd
Original Assignee
HoloMatic Technology Beijing Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by HoloMatic Technology Beijing Co Ltd filed Critical HoloMatic Technology Beijing Co Ltd
Priority to CN202310511314.7A priority Critical patent/CN116758498B/zh
Publication of CN116758498A publication Critical patent/CN116758498A/zh
Application granted granted Critical
Publication of CN116758498B publication Critical patent/CN116758498B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10—Complex mathematical operations
    • G06F17/16—Matrix or vector computation, e.g. matrix-matrix or matrix-vector multiplication, matrix factorization
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/70—Determining position or orientation of objects or cameras
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/40—Extraction of image or video features
    • G06V10/46—Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
    • G06V10/462—Salient features, e.g. scale invariant feature transforms [SIFT]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10016—Video; Image sequence
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30248—Vehicle exterior or interior
    • G06T2207/30252—Vehicle exterior; Vicinity of vehicle

Abstract

本公开的实施例公开了障碍物信息生成方法、装置、电子设备和计算机可读介质。该方法的一具体实施方式包括：对滑动窗口中的各个道路图像进行车辆抖动检测以生成车辆抖动检测信息；确定与当前车辆位姿矩阵序列中每个当前车辆位姿矩阵对应的先验位姿误差协方差矩阵；获取定位位姿误差协方差矩阵和相对位姿矩阵，得到定位位姿误差协方差矩阵序列和相对位姿矩阵序列；对定位位姿误差协方差矩阵序列、相对位姿矩阵序列和图像静态关键点坐标组序列进行调整处理以生成调整后定位误差协方差矩阵序列、调整后相对位姿矩阵序列和调整后图像静态关键点坐标组序列；生成障碍物信息。该实施方式可以提高生成的障碍物信息的准确度。

Description

障碍物信息生成方法、装置、电子设备和计算机可读介质
技术领域
本公开的实施例涉及计算机技术领域，具体涉及障碍物信息生成方法、装置、电子设备和计算机可读介质。
背景技术
障碍物信息生成方法，是确定图像中障碍物信息的一项技术。目前，在生成障碍物信息时，通常采用的方式为：通过导航定位系统确定位姿误差协方差矩阵和障碍物相对于当前车辆的位姿矩阵，可以用于将检测到的障碍物关键点坐标转换至当前车辆的车体坐标系，以生成障碍物信息。
然而，发明人发现，当采用上述方式进行障碍物信息生成时，经常会存在如下技术问题：
在当前车辆经过减速带时出现车辆颠簸情况，导致定位系统出现较大误差，使得定位系统输出的定位位姿误差协方差矩阵和位姿矩阵的准确度降低，同时未对定位位姿误差协方差矩阵进行调整，在利用定位位姿误差协方差矩阵和位姿矩阵对检测到的障碍物关键点坐标进行转换后，导致转换后的坐标的准确度降低，从而，导致生成的障碍物信息的准确度降低。
该背景技术部分中所公开的以上信息仅用于增强对本发明构思的背景的理解，并因此，其可包含并不形成本国的本领域普通技术人员已知的现有技术的信息。
发明内容
本公开的内容部分用于以简要的形式介绍构思，这些构思将在后面的具体实施方式部分被详细描述。本公开的内容部分并不旨在标识要求保护的技术方案的关键特征或必要特征，也不旨在用于限制所要求的保护的技术方案的范围。
本公开的一些实施例提出了障碍物信息生成方法、装置、电子设备和计算机可读介质，来解决以上背景技术部分提到的技术问题。
第一方面，本公开的一些实施例提供了一种障碍物信息生成方法，该方法包括：利用预先检测到的减速带感知信息，对滑动窗口中的各个道路图像进行减速带跟踪检测，以生成关键点检测信息序列，其中，上述减速带感知信息包括减速带类型标识；基于上述关键点检测信息序列，对上述滑动窗口中的各个道路图像进行车辆抖动检测，以生成车辆抖动检测信息，其中，上述车辆抖动检测信息包括：图像静态关键点坐标组序列和对应的当前车辆位姿矩阵序列；根据上述减速带感知信息包括的减速带类型标识，确定与上述当前车辆位姿矩阵序列中每个当前车辆位姿矩阵对应的先验位姿误差协方差矩阵，得到先验位姿误差协方差矩阵序列；获取与上述滑动窗口中的各个道路图像对应的定位位姿误差协方差矩阵和相对位姿矩阵，得到定位位姿误差协方差矩阵序列和相对位姿矩阵序列；基于上述先验位姿误差协方差矩阵序列和上述当前车辆位姿矩阵序列，对上述定位位姿误差协方差矩阵序列、上述相对位姿矩阵序列和上述图像静态关键点坐标组序列进行调整处理，以生成调整后定位误差协方差矩阵序列、调整后相对位姿矩阵序列和调整后图像静态关键点坐标组序列；基于上述调整后定位误差协方差矩阵序列、上述调整后相对位姿矩阵序列和上述调整后图像静态关键点坐标组序列，生成障碍物信息。
第二方面，本公开的一些实施例提供了一种障碍物信息生成装置，该装置包括：跟踪检测单元，被配置成利用预先检测到的减速带感知信息，对滑动窗口中的各个道路图像进行减速带跟踪检测，以生成关键点检测信息序列，其中，上述减速带感知信息包括减速带类型标识；抖动检测单元，被配置成基于上述关键点检测信息序列，对上述滑动窗口中的各个道路图像进行车辆抖动检测，以生成车辆抖动检测信息，其中，上述车辆抖动检测信息包括：图像静态关键点坐标组序列和对应的当前车辆位姿矩阵序列；确定单元，被配置成根据上述减速带感知信息包括的减速带类型标识，确定与上述当前车辆位姿矩阵序列中每个当前车辆位姿矩阵对应的先验位姿误差协方差矩阵，得到先验位姿误差协方差矩阵序列；获取单元，被配置成获取与上述滑动窗口中的各个道路图像对应的定位位姿误差协方差矩阵和相对位姿矩阵，得到定位位姿误差协方差矩阵序列和相对位姿矩阵序列；调整处理单元，被配置成基于上述先验位姿误差协方差矩阵序列和上述当前车辆位姿矩阵序列，对上述定位位姿误差协方差矩阵序列、上述相对位姿矩阵序列和上述图像静态关键点坐标组序列进行调整处理，以生成调整后定位误差协方差矩阵序列、调整后相对位姿矩阵序列和调整后图像静态关键点坐标组序列；生成单元，被配置成基于上述调整后定位误差协方差矩阵序列、上述调整后相对位姿矩阵序列和上述调整后图像静态关键点坐标组序列，生成障碍物信息。
第三方面，本公开的一些实施例提供了一种电子设备，包括：一个或多个处理器；存储装置，其上存储有一个或多个程序，当一个或多个程序被一个或多个处理器执行，使得一个或多个处理器实现上述第一方面任一实现方式所描述的方法。
第四方面，本公开的一些实施例提供了一种计算机可读介质，其上存储有计算机程序，其中，程序被处理器执行时实现上述第一方面任一实现方式所描述的方法。
本公开的上述各个实施例具有如下有益效果：通过本公开的一些实施例的障碍物信息生成方法，可以提高生成的障碍物信息的准确度。具体来说，造成生成的障碍物信息的准确度降低的原因在于：在当前车辆经过减速带时出现车辆颠簸情况，导致定位系统出现较大误差，使得定位系统输出的定位位姿误差协方差矩阵和位姿矩阵的准确度降低，同时未对定位位姿误差协方差矩阵进行调整，在利用定位位姿误差协方差矩阵和位姿矩阵对检测到的障碍物关键点坐标进行转换后，导致转换后的坐标的准确度降低，从而，导致生成的障碍物信息的准确度降低。基于此，本公开的一些实施例的障碍物信息生成方法，首先，利用预先检测到的减速带感知信息，对滑动窗口中的各个道路图像进行减速带跟踪检测，以生成关键点检测信息序列。其中，上述减速带感知信息包括减速带类型标识。通过引入减速带类型标识，可以便于利用减速带跟踪检测，以生成关键带点检测信息序列。然后，基于上述关键点检测信息序列，对上述滑动窗口中的各个道路图像进行车辆抖动检测，以生成车辆抖动检测信息。通过车辆抖动检测，通过车辆抖动检测，可以用于确定车辆抖动期间的数据。同时通过生成当前车辆位姿矩阵序列，可以便于利用图像静态关键点坐标对当前车辆位姿矩阵进行修正。接着，根据上述减速带感知信息包括的减速带类型标识，确定与上述当前车辆位姿矩阵序列中每个当前车辆位姿矩阵对应的先验位姿误差协方差矩阵，得到先验位姿误差协方差矩阵序列。通过确定先验位姿误差协方差矩阵序列，可以便于对定位位姿误差协方差矩阵进行调整，以此提高定位位姿误差协方差矩阵的准确度。之后，获取与上述滑动窗口中的各个道路图像对应的定位位姿误差协方差矩阵和相对位姿矩阵，得到定位位姿误差协方差矩阵序列和相对位姿矩阵序列。而后，基于上述先验位姿误差协方差矩阵序列和上述当前车辆位姿矩阵序列，对上述定位位姿误差协方差矩阵序列、上述相对位姿矩阵序列和上述图像静态关键点坐标组序列进行调整处理，以生成调整后定位误差协方差矩阵序列、调整后相对位姿矩阵序列和调整后图像静态关键点坐标组序列。通过同时对定位位姿误差协方差矩阵序列、上述相对位姿矩阵序列和上述图像静态关键点坐标组序列进行调整处理，不仅可以对定位位姿误差协方差矩阵进行调整，还可以在调整过程中同时矫正相对位姿矩阵序列和上述图像静态关键点坐标组序列。由此，可以提高生调整后定位误差协方差矩阵序列、调整后相对位姿矩阵序列和调整后图像静态关键点坐标组序列的准确度。最后，基于上述调整后定位误差协方差矩阵序列、上述调整后相对位姿矩阵序列和上述调整后图像静态关键点坐标组序列，生成障碍物信息。从而，在车辆过减速带时，即使车辆出现颠簸情况导致定位系统出现较大误差，也可以通过调整定位位姿误差协方差矩阵序列、相对位姿矩阵序列和图像静态关键点坐标组序列以极大的消除误差。从而，使得可以确保转换后的坐标的准确度。进而，可以提高生成的障碍物信息的准确度。
附图说明
结合附图并参考以下具体实施方式，本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中，相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的，元件和元素不一定按照比例绘制。
图1是根据本公开的障碍物信息生成方法的一些实施例的流程图；
图2是根据本公开的障碍物信息生成装置的一些实施例的结构示意图；
图3是适于用来实现本公开的一些实施例的电子设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例，然而应当理解的是，本公开可以通过各种形式来实现，而且不应该被解释为限于这里阐述的实施例。相反，提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是，本公开的附图及实施例仅用于示例性作用，并非用于限制本公开的保护范围。
另外还需要说明的是，为了便于描述，附图中仅示出了与有关发明相关的部分。在不冲突的情况下，本公开中的实施例及实施例中的特征可以相互组合。
需要注意，本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分，并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
需要注意，本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的，本领域技术人员应当理解，除非在上下文另有明确指出，否则应该理解为“一个或多个”。
本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的，而并不是用于对这些消息或信息的范围进行限制。
下面将参考附图并结合实施例来详细说明本公开。
图1示出了根据本公开的障碍物信息生成方法的一些实施例的流程100。该障碍物信息生成方法，包括以下步骤：
步骤101，利用预先检测到的减速带感知信息，对滑动窗口中的各个道路图像进行减速带跟踪检测，以生成关键点检测信息序列。
在一些实施例中，障碍物信息生成方法的执行主体可以利用预先检测到的减速带感知信息，对滑动窗口中的各个道路图像进行减速带跟踪检测，以生成关键点检测信息序列。其中，上述减速带感知信息可以包括减速带类型标识。上述滑动窗口可以用于接受车载相机拍摄的连续帧道路图像。减速带类型标识可以用于唯一标识减速带的类型，以供检测道路图像中出现的减速带。关键点检测信息可以表征从图像中检测到的减速带关键点信息。各个关键点检测信息可以对应连续帧的道路图像。
可选的，减速带感知信息可以是感知设备输出的信息。例如，感知设备可以是超声波雷达、激光雷达等设备。实践中，感知设备的检测距离更远，可以用于提前检测减速带。以此为后续检测提供先验数据。
在一些实施例的一些可选的实现方式中，上述减速带感知信息还可以包括减速带位置坐标。以及上述执行主体利用预先检测到的减速带感知信息，对滑动窗口中的各个道路图像进行减速带跟踪检测，以生成关键点检测信息序列，可以包括以下步骤：
第一步，响应于确定从上述滑动窗口中的第一个道路图像中检测到与上述减速带位置坐标对应的减速带关键点坐标，利用上述减速带类型标识，对上述滑动窗口中的各个道路图像进行减速带关键点跟踪检测，以生成检测关键点坐标序列。其中，通过预设的检测算法，若从第一个道路图像中检测到减速带关键点，则可以确定检测到减速带关键点坐标。这里，减速带关键点坐标可以是减速带的左侧端点、右侧端点或中点等关键点坐标。减速带关键点坐标可以是处于图像坐标系的坐标。最后，可以通过上述检测算法对上述滑动窗口中的各个道路图像进行减速带关键点跟踪检测，以生成检测关键点坐标序列。检测关键点坐标序列中的各个检测关键点坐标可以与各个道路图像对应相同的时间戳。另外，检测关键点坐标序列中的各个检测关键点坐标可以是对应同一减速带上同一位置的关键点坐标。
第二步，将上述减速带类型标识和上述检测关键点坐标序列的每个检测关键点坐标确定为关键点检测信息，得到关键点检测信息序列。
步骤102，基于关键点检测信息序列，对滑动窗口中的各个道路图像进行车辆抖动检测，以生成车辆抖动检测信息。
在一些实施例中，上述执行主体可以基于上述关键点检测信息序列，对上述滑动窗口中的各个道路图像进行车辆抖动检测，以生成车辆抖动检测信息。其中，上述车辆抖动检测信息可以包括：图像静态关键点坐标组序列和对应的当前车辆位姿矩阵序列。其次，图像静态关键点坐标组可以是从一个道路图像中检测到的静态物体的关键点坐标集合。当前车辆位姿矩阵可以是当前车辆的车体坐标系相对于地图坐标系的位姿矩阵，表征某一时刻当前车辆的位置姿态。
作为示例，静态物体可以是车道线、路边岩、灯杆、栅栏等。
在一些实施例的一些可选的实现方式中，上述执行主体基于上述关键点检测信息序列，对上述滑动窗口中的各个道路图像进行车辆抖动检测，以生成车辆抖动检测信息，可以包括以下步骤：
第一步，获取与上述检测关键点坐标序列中各个检测关键点坐标对应的第一当前车辆相对位姿矩阵和第二当前车辆相对位姿矩阵序列。其中，上述第一当前车辆相对位姿矩阵可以是当前车辆的车体坐标系相对于相机坐标系的位姿矩阵。上述第二当前车辆相对位姿矩阵序列中的每个第二当前车辆相对位姿矩阵可以是当前车辆的车体坐标系相对于地图坐标系的位姿矩阵。这里，上述执行主体可以通过有线方式或无线方式获取与上述检测关键点坐标序列中各个检测关键点坐标对应的第一当前车辆相对位姿矩阵和第二当前车辆相对位姿矩阵序列。
需要指出的是，上述无线连接方式可以包括但不限于3G/4G连接、WiFi连接、蓝牙连接、WiMAX连接、Zigbee连接、UWB(ultra wideband)连接、以及其他现在已知或将来开发的无线连接方式。
第二步，基于上述第二当前车辆相对位姿矩阵序列，确定上述关键点检测信息序列中每个关键点检测信息包括的检测关键点坐标相对于当前车辆车轮的齐次坐标，得到齐次坐标序列。其中，对于每个检测信息，首先获取预先设置的车轮相对车体位姿矩阵。车轮相对位姿矩阵可以是当前车辆的车轮相对于车体的位姿矩阵。然后，可以将上述车轮相对车体位姿矩阵的逆矩阵、上述目标减速带关键点坐标和上述第二当前车辆相对位姿矩阵序列中的每个第二当前车辆相对位姿矩阵的逆矩阵的乘积、确定为相对于当前车辆车轮的齐次坐标。这里，齐次坐标可以是减速带关键点相对于当前车辆车轮的坐标。
第三步，对于上述齐次坐标序列中的每个齐次坐标执行以下检测步骤：
步骤一，响应于确定上述齐次坐标和预设概率阈值满足预设选择条件，将满足上述齐次坐标对应的道路图像确定为抖动道路图像。其中，上述预设选择条件可以是其次坐标中前三个元素的2范数的值小于上述目标概率值。上述齐次坐标和上述目标概率值满足预设选择条件可以表征当前车辆处于抖动状态，即车轮压到减速带时产生颠簸情况。
步骤二，对上述抖动道路图像进行静态关键点检测，以生成图像静态关键点坐标组。其中，可以通过预设的检测算法，对上述抖动道路图像进行静态关键点检测，以生成图像静态关键点坐标组。其次，图像静态关键点坐标组序列中不同的图像静态关键点坐标组中的图像静态关键点坐标可以是一一对应的。各个图像静态关键点坐标组可以对应连续的帧。
作为示例，检测算法可以包括但不限于以下至少一项：TLD(Tracking-Learning-Detection，单目标长时间跟踪)算法、YOLO-v3(You Only Look Once-Version3)算法等。第四步，将与每个抖动道路图像对应的第二当前车辆相对位姿矩阵确定为当前车辆位姿矩阵，得到当前车辆位姿矩阵序列。
第五步，将上述当前车辆位姿矩阵序列和所生成的各个图像静态关键点坐标组确定为车辆抖动检测信息。
步骤103，根据减速带感知信息包括的减速带类型标识，确定与当前车辆位姿矩阵序列中每个当前车辆位姿矩阵对应的先验位姿误差协方差矩阵，得到先验位姿误差协方差矩阵序列。
在一些实施例中，上述执行主体可以根据上述减速带感知信息包括的减速带类型标识，确定与上述当前车辆位姿矩阵序列中每个当前车辆位姿矩阵对应的先验位姿误差协方差矩阵，得到先验位姿误差协方差矩阵序列。
在一些实施例的一些可选的实现方式中，上述执行主体根据上述减速带感知信息包括的减速带类型标识，确定与上述当前车辆位姿矩阵序列中每个当前车辆位姿矩阵对应的先验位姿误差协方差矩阵，得到先验位姿误差协方差矩阵序列，可以包括以下步骤：
第一步，获取当前车辆速度值。其中，当前车辆速度值可以是当前车辆在当前时刻的车辆速度值。
第二步，从预设的协方差信息表中，获取与上述减速带类型标识和上述当前车辆速度值对应的预设定位位姿协方差矩阵序列和预设相对协方差矩阵序列。其中，协方差信息表中可以包括四列数据。四列数据的标签分别可以是：速度值范围标签、减速带类型标识标签、预设定位位姿协方差矩阵序列标签和预设相对协方差矩阵序列标签。这里，速度值范围可以是车辆速度的范围。预设相对协方差矩阵可以表征在车辆抖动过程中、某一时刻的车体相对于触碰到减速带第一帧的车体的位置姿态。预设定位位姿协方差矩阵可以表征在车辆抖动过程中、某一时刻的车体的先验定位误差。
实践中，预设相对协方差矩阵可以是6×6的矩阵。考虑到速度值的大小、与减速带类型的不同对当前车辆和障碍物之间的位置关系均存在不同程度的影响。因此，预先对不同的速度范围和不同的减速带进行了统计，以标定出在各个速度范围内对应不同减速带类型时，当前车辆与减速带之间的位姿协方差矩阵。以此作为先验误差，以供在实际情况中消除定位系统输出的相对姿误差协方差矩阵的误差。从而，可以用于提高生成的障碍物信息的准确度。
第三步，将上述预设定位位姿协方差矩阵序列中的每个预设定位位姿协方差矩阵序列确定为与每个当前车辆位姿矩阵对应的先验位姿误差协方差矩阵。
步骤104，获取与滑动窗口中的各个道路图像对应的定位位姿误差协方差矩阵和相对位姿矩阵，得到定位位姿误差协方差矩阵序列和相对位姿矩阵序列。
在一些实施例中，上述执行主体可以从上述定位系统中获取与上述滑动窗口中的各个道路图像对应的定位位姿误差协方差矩阵和相对位姿矩阵，得到定位位姿误差协方差矩阵序列和相对位姿矩阵序列。这里，定位位姿误差协方差矩阵可以表征由定位系统输出的、位姿矩阵的误差数据。相对位姿矩阵可以是由定位系统输出的、与每个道路图像对应相同时刻的、当前车辆当前车辆的车体坐标系相对于地图坐标系的位姿矩阵。
步骤105，基于先验位姿误差协方差矩阵序列和当前车辆位姿矩阵序列，对定位位姿误差协方差矩阵序列、相对位姿矩阵序列和图像静态关键点坐标组序列进行调整处理，以生成调整后定位误差协方差矩阵序列、调整后相对位姿矩阵序列和调整后图像静态关键点坐标组序列。
在一些实施例中，上述执行主体可以基于上述先验位姿误差协方差矩阵序列和上述当前车辆位姿矩阵序列，对上述定位位姿误差协方差矩阵序列、上述相对位姿矩阵序列和上述图像静态关键点坐标组序列进行调整处理，以生成调整后定位误差协方差矩阵序列、调整后相对位姿矩阵序列和调整后图像静态关键点坐标组序列。其中，先验位姿误差协方差矩阵序列中的各个先验位姿误差协方差矩阵可以满足逆威希特分布。
在一些实施例的一些可选的实现方式中，上述执行主体基于上述先验位姿误差协方差矩阵序列和上述当前车辆位姿矩阵序列，对上述定位位姿误差协方差矩阵序列、上述相对位姿矩阵序列和上述图像静态关键点坐标组序列进行调整处理，以生成调整后定位误差协方差矩阵序列、调整后相对位姿矩阵序列和调整后图像静态关键点坐标组序列，可以包括以下步骤：
第一步，确定与上述定位位姿误差协方差矩阵序列中的每个定位位姿误差协方差矩阵的维度值，得到维度值序列。其中，可以矩阵函数确定与上述定位位姿误差协方差矩阵序列中的每个定位位姿误差协方差矩阵的维度值，得到维度值序列。
第二步，基于上述第一当前车辆相对位姿矩阵、上述预设相对协方差矩阵序列、上述维度值序列、上述先验位姿误差协方差矩阵序列和上述当前车辆位姿矩阵序列，对上述定位位姿误差协方差矩阵序列、上述相对位姿矩阵序列和上述图像静态关键点坐标组序列进行调整处理，以生成调整后定位误差协方差矩阵序列、调整后相对位姿矩阵序列和调整后图像静态关键点坐标组序列。其中，首先，可以获取与每个抖动道路图像对应的关键点投影误差协方差矩阵。其次，可以获取定位系统测量的、与滑动窗口中每个道路图像对应相同时刻的原始相对位姿矩阵。最后，可以通过以下公式进行调整处理，以生成调整后定位误差协方差矩阵序列、调整后相对位姿矩阵序列和调整后图像静态关键点坐标组序列：
其中，j、k表示序号。q表示坐标。m表示地图坐标系。表示图像静态关键点坐标组中第j个图像静态关键点坐标在地图坐标系中的坐标。/>表示调整后图像静态关键点坐标组中第j个调整后图像静态关键点坐标在地图坐标系中的坐标。T1表示上述第一当前车辆相对位姿矩阵。T2，k表示当前车辆位姿矩阵序列中的第k个当前车辆位姿矩阵，即对应的第二当前车辆相对位姿矩阵。/>表示调整后相对位姿矩阵序列中第k个调整后相对位姿矩阵。/>表示预设的投影函数，用于将括号内相机坐标系中的坐标投影至图像坐标系。i表示图像坐标系。e1表示对应滑动窗口中的各个道路图像的位姿误差，即可以表征当前车辆在经过减速带前后的一段时间内的位姿误差值。e2表示图像静态关键点坐标组序列中各个图像静态关键点坐标对应的总投影误差值。e3表示对应各个抖动道路图像的位姿误差值，即可以表征当前车辆在经过减速带期间定位系统输出的位姿矩阵的位姿误差。e4表示相对位姿矩阵序列中各个相对位姿矩阵的误差值。即可以表征当前车辆在经过减速带期间、每一帧的车体相对于触碰减速带第一帧的车体的相对位姿的误差值。ln()∨表示特殊欧式群到特殊欧式群的李代数的对数映射。iqj，k表示图像静态关键点坐标组序列中第k个图像静态关键点坐标组中的第j个图像静态关键点坐标在图像坐标系中的位置坐标。Ωj，k表示与图像静态关键点坐标组序列中第k个图像静态关键点坐标组中的第j个图像静态关键点坐标对应的关键点投影误差协方差矩阵，即2×2的矩阵。Λk表示先验位姿误差协方差矩阵序列中的第k个先验位姿误差协方差矩阵。/>表示定位位姿误差协方差矩阵序列中的第k个定位位姿误差协方差矩阵。/>表示由定位系统测量的、与滑动窗口中道路图像对应相同时刻的原始相对位姿矩阵。/>表示对应滑动窗口中第j个道路图像的原始相对位姿矩阵。T3表示上述相对位姿矩阵序列中的相对位姿矩阵。T3，k表示上述相对位姿矩阵序列中的第k个上述相对位姿矩阵。Γk表示预设相对协方差矩阵序列中的第k个预设相对协方差矩阵。/>表示调整后定位误差协方差矩阵序列中的第k个调整后定位误差协方差矩阵。det()表示方阵函数。/>表示预设的投影函数，用于将括号内相机坐标系中的坐标投影至图像坐标系。Dk表示上述维度值序列中的第k个维度值。αk表示与上述维度值序列中的第k个维度值对应的维度修正值。
实践中，原始相对位姿矩阵可以表征当前车辆的车体相对于地图坐标系的位置姿态。当前车辆位姿矩阵还可以是当前车辆处于抖动状态期间的原始相对位姿矩阵。其次，考虑到原始相对位姿矩阵对应的时间点是当前车辆不在抖动时间段内的数据。因此，获取的除各个抖动道路图像之外的各个道路图像对应的原始相对位姿矩阵可以不进行调整。以此可以便于上述公式针对车辆抖动期间的各项数据进行调整。以避免对修正结果的影响。
上述公式及其相关内容作为本公开的实施例的一个发明点，可以进一步解决背景技术提及的技术问题“在当前车辆经过减速带时出现车辆颠簸情况，导致定位系统出现较大误差，使得定位系统输出的定位位姿误差协方差矩阵和位姿矩阵的准确度降低，同时未对定位位姿误差协方差矩阵进行调整，在利用定位位姿误差协方差矩阵和位姿矩阵对检测到的障碍物关键点坐标进行转换后，导致转换后的坐标的准确度降低，从而，导致生成的障碍物信息的准确度降低”。为了达到这一效果，首先，通过引入的第一当前车辆相对位姿矩阵、上述第二当前车辆相对位姿矩阵序列，可以便于确定不同帧之间对应的同一静态关键点的坐标的投影误差值。以此，可以用于极大的消除坐标转换过程中的投影误差。然后，通过利用对数映射函数生成不同帧之间对应的同一静态关键点的坐标的位姿矩阵的误差值。从而，可以进一步消除由于转换矩阵引起的误差。之后，由于各个先验位姿误差协方差矩阵满足逆威希特分布，由此引入方阵函数和矩阵函数以便于提取先验位姿误差协方差矩阵的特征。从而，以供在调整当前车辆位姿矩阵序列时提高准确度。最后，还考虑到定位系统输出的定位位姿误差协方差矩阵未被调整的问题。因此，通过引入预设相对协方差矩阵序列，以便于消除相对位姿矩阵序列中的相对位姿矩阵的误差值。由此，可以提高在车辆抖动过程中、某一时刻的车体相对于触碰到减速带第一帧的车体的位置姿态的准确度。从而，可以进一步消除定位系统由于颠簸产生的误差。进而，可以用于极大地消除定位系统出现的误差。以供提高生成的障碍物信息的准确度降低。
步骤106，基于调整后定位误差协方差矩阵序列、调整后相对位姿矩阵序列和调整后图像静态关键点坐标组序列，生成障碍物信息。
在一些实施例中，上述执行主体可以基于上述调整后定位误差协方差矩阵序列、上述调整后相对位姿矩阵序列和上述调整后图像静态关键点坐标组序列，生成障碍物信息。
在一些实施例的一些可选的实现方式中，上述执行主体基于上述调整后定位误差协方差矩阵序列、上述调整后相对位姿矩阵序列和上述调整后图像静态关键点坐标组序列，生成障碍物信息，可以包括以下步骤：
第一步，对上述调整后定位误差协方差矩阵序列进行存储。其中，通过存储，可以用于离线调整上述协方差信息表中的预设位姿协方差矩阵序列。
第二步，利用上述调整后相对位姿矩阵序列将上述调整后图像静态关键点坐标组序列中的各个调整后图像静态关键点坐标转换至当前车辆的车体坐标系，以生成转换后静态关键点坐标组序列。其中，其中，可以通过坐标转换的方式，利用上述修正后位姿矩阵序列，将调整后图像静态关键点坐标从地图坐标系转换至当前车辆的车体坐标系以生成转换后静态关键点坐标组，得到转换后静态关键点坐标组序列。
第三步，将上述转换后静态关键点坐标组序列确定为障碍物信息。
可选的，上述执行主体还可以执行以下步骤：
第一步，将上述减速带类型标识和上述障碍物信息添加至对应的道路图像，得到添加后道路图像序列。其中，减速带类型标识可以是附带类型标号的检测框。因此，可以将减速带类型标识渲染至道路图像上，以标记出减速带位置和类型。其次，可以将障碍物信息包括的转换后静态关键点坐标组序列中每个转换后静态关键点坐标组标记至对应时刻的道路图像中的障碍物位置。以此可以的得到添加后道路图像序列。
第二步，将上述添加后道路图像序列发送至当前车辆显示终端以供显示。
本公开的上述各个实施例具有如下有益效果：通过本公开的一些实施例的障碍物信息生成方法，可以提高生成的障碍物信息的准确度。具体来说，造成生成的障碍物信息的准确度降低的原因在于：在当前车辆经过减速带时出现车辆颠簸情况，导致定位系统出现较大误差，使得定位系统输出的定位位姿误差协方差矩阵和位姿矩阵的准确度降低，同时未对定位位姿误差协方差矩阵进行调整，在利用定位位姿误差协方差矩阵和位姿矩阵对检测到的障碍物关键点坐标进行转换后，导致转换后的坐标的准确度降低，从而，导致生成的障碍物信息的准确度降低。基于此，本公开的一些实施例的障碍物信息生成方法，首先，利用预先检测到的减速带感知信息，对滑动窗口中的各个道路图像进行减速带跟踪检测，以生成关键点检测信息序列。其中，上述减速带感知信息包括减速带类型标识。通过引入减速带类型标识，可以便于利用减速带跟踪检测，以生成关键带点检测信息序列。然后，基于上述关键点检测信息序列，对上述滑动窗口中的各个道路图像进行车辆抖动检测，以生成车辆抖动检测信息。通过车辆抖动检测，通过车辆抖动检测，可以用于确定车辆抖动期间的数据。同时通过生成当前车辆位姿矩阵序列，可以便于利用图像静态关键点坐标对当前车辆位姿矩阵进行修正。接着，根据上述减速带感知信息包括的减速带类型标识，确定与上述当前车辆位姿矩阵序列中每个当前车辆位姿矩阵对应的先验位姿误差协方差矩阵，得到先验位姿误差协方差矩阵序列。通过确定先验位姿误差协方差矩阵序列，可以便于对定位位姿误差协方差矩阵进行调整，以此提高定位位姿误差协方差矩阵的准确度。之后，获取与上述滑动窗口中的各个道路图像对应的定位位姿误差协方差矩阵和相对位姿矩阵，得到定位位姿误差协方差矩阵序列和相对位姿矩阵序列。而后，基于上述先验位姿误差协方差矩阵序列和上述当前车辆位姿矩阵序列，对上述定位位姿误差协方差矩阵序列、上述相对位姿矩阵序列和上述图像静态关键点坐标组序列进行调整处理，以生成调整后定位误差协方差矩阵序列、调整后相对位姿矩阵序列和调整后图像静态关键点坐标组序列。通过同时对定位位姿误差协方差矩阵序列、上述相对位姿矩阵序列和上述图像静态关键点坐标组序列进行调整处理，不仅可以对定位位姿误差协方差矩阵进行调整，还可以在调整过程中同时矫正相对位姿矩阵序列和上述图像静态关键点坐标组序列。由此，可以提高生调整后定位误差协方差矩阵序列、调整后相对位姿矩阵序列和调整后图像静态关键点坐标组序列的准确度。最后，基于上述调整后定位误差协方差矩阵序列、上述调整后相对位姿矩阵序列和上述调整后图像静态关键点坐标组序列，生成障碍物信息。从而，在车辆过减速带时，即使车辆出现颠簸情况导致定位系统出现较大误差，也可以通过调整定位位姿误差协方差矩阵序列、相对位姿矩阵序列和图像静态关键点坐标组序列以极大的消除误差。从而，使得可以确保转换后的坐标的准确度。进而，可以提高生成的障碍物信息的准确度。
进一步参考图2，作为对上述各图所示方法的实现，本公开提供了一种障碍物信息生成装置的一些实施例，这些装置实施例与图1所示的那些方法实施例相对应，该装置具体可以应用于各种电子设备中。
如图2所示，一些实施例的障碍物信息生成装置200包括：跟踪检测单元201、抖动检测单元202、确定单元203、获取单元204、调整处理单元205和生成单元206。其中，跟踪检测单元201，被配置成利用预先检测到的减速带感知信息，对滑动窗口中的各个道路图像进行减速带跟踪检测，以生成关键点检测信息序列，其中，上述减速带感知信息包括减速带类型标识；抖动检测单元202，被配置成基于上述关键点检测信息序列，对上述滑动窗口中的各个道路图像进行车辆抖动检测，以生成车辆抖动检测信息，其中，上述车辆抖动检测信息包括：图像静态关键点坐标组序列和对应的当前车辆位姿矩阵序列；确定单元203，被配置成根据上述减速带感知信息包括的减速带类型标识，确定与上述当前车辆位姿矩阵序列中每个当前车辆位姿矩阵对应的先验位姿误差协方差矩阵，得到先验位姿误差协方差矩阵序列；获取单元204，被配置成获取与上述滑动窗口中的各个道路图像对应的定位位姿误差协方差矩阵和相对位姿矩阵，得到定位位姿误差协方差矩阵序列和相对位姿矩阵序列；调整处理单元205，被配置成基于上述先验位姿误差协方差矩阵序列和上述当前车辆位姿矩阵序列，对上述定位位姿误差协方差矩阵序列、上述相对位姿矩阵序列和上述图像静态关键点坐标组序列进行调整处理，以生成调整后定位误差协方差矩阵序列、调整后相对位姿矩阵序列和调整后图像静态关键点坐标组序列；生成单元206，被配置成基于上述调整后定位误差协方差矩阵序列、上述调整后相对位姿矩阵序列和上述调整后图像静态关键点坐标组序列，生成障碍物信息。
可以理解的是，该装置200中记载的诸单元与参考图1描述的方法中的各个步骤相对应。由此，上文针对方法描述的操作、特征以及产生的有益效果同样适用于装置200及其中包含的单元，在此不再赘述。
下面参考图3，其示出了适于用来实现本公开的一些实施例的电子设备300的结构示意图。图3示出的电子设备仅仅是一个示例，不应对本公开的实施例的功能和使用范围带来任何限制。
如图3所示，电子设备300可以包括处理装置301(例如中央处理器、图形处理器等)，其可以根据存储在只读存储器(ROM)302中的程序或者从存储装置308加载到随机访问存储器(RAM)303中的程序而执行各种适当的动作和处理。在RAM 303中，还存储有电子设备300操作所需的各种程序和数据。处理装置301、ROM 302以及RAM 303通过总线304彼此相连。输入/输出(I/O)接口305也连接至总线304。
通常，以下装置可以连接至I/O接口305：包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置306；包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置307；包括例如磁带、硬盘等的存储装置308；以及通信装置309。通信装置309可以允许电子设备300与其他设备进行无线或有线通信以交换数据。虽然图3示出了具有各种装置的电子设备300，但是应理解的是，并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。图3中示出的每个方框可以代表一个装置，也可以根据需要代表多个装置。
特别地，根据本公开的一些实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的一些实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的一些实施例中，该计算机程序可以通过通信装置309从网络上被下载和安装，或者从存储装置308被安装，或者从ROM 302被安装。在该计算机程序被处理装置301执行时，执行本公开的一些实施例的方法中限定的上述功能。
需要说明的是，本公开的一些实施例上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开的一些实施例中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开的一些实施例中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、RF(射频)等等，或者上述的任意合适的组合。
在一些实施方式中，客户端、服务器可以利用诸如HTTP(Hyper Text TransferProtocol，超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信，并且可以与任意形式或介质的数字数据通信(例如，通信网络)互连。通信网络的示例包括局域网(“LAN”)，广域网(“WAN”)，网际网(例如，互联网)以及端对端网络(例如，ad hoc端对端网络)，以及任何当前已知或未来研发的网络。
上述计算机可读介质可以是上述装置中所包含的；也可以是单独存在，而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：利用预先检测到的减速带感知信息，对滑动窗口中的各个道路图像进行减速带跟踪检测，以生成关键点检测信息序列，其中，上述减速带感知信息包括减速带类型标识；基于上述关键点检测信息序列，对上述滑动窗口中的各个道路图像进行车辆抖动检测，以生成车辆抖动检测信息，其中，上述车辆抖动检测信息包括：图像静态关键点坐标组序列和对应的当前车辆位姿矩阵序列；根据上述减速带感知信息包括的减速带类型标识，确定与上述当前车辆位姿矩阵序列中每个当前车辆位姿矩阵对应的先验位姿误差协方差矩阵，得到先验位姿误差协方差矩阵序列；获取与上述滑动窗口中的各个道路图像对应的定位位姿误差协方差矩阵和相对位姿矩阵，得到定位位姿误差协方差矩阵序列和相对位姿矩阵序列；基于上述先验位姿误差协方差矩阵序列和上述当前车辆位姿矩阵序列，对上述定位位姿误差协方差矩阵序列、上述相对位姿矩阵序列和上述图像静态关键点坐标组序列进行调整处理，以生成调整后定位误差协方差矩阵序列、调整后相对位姿矩阵序列和调整后图像静态关键点坐标组序列；基于上述调整后定位误差协方差矩阵序列、上述调整后相对位姿矩阵序列和上述调整后图像静态关键点坐标组序列，生成障碍物信息。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的一些实施例的操作的计算机程序代码，上述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)——连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开的一些实施例中的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中，例如，可以描述为：一种处理器包括跟踪检测单元、抖动检测单元、确定单元、获取单元、调整处理单元和生成单元。其中，这些单元的名称在某种情况下并不构成对该单元本身的限定，例如，生成单元还可以被描述为“生成障碍物信息的单元”。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如，非限制性地，可以使用的示范类型的硬件逻辑部件包括：现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。
以上描述仅为本公开的一些较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本公开的实施例中所涉及的发明范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述发明构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开的实施例中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

Claims (6)

1.一种障碍物信息生成方法，包括：
利用预先检测到的减速带感知信息，对滑动窗口中的各个道路图像进行减速带跟踪检测，以生成关键点检测信息序列，其中，所述减速带感知信息包括减速带类型标识；
基于所述关键点检测信息序列，对所述滑动窗口中的各个道路图像进行车辆抖动检测，以生成车辆抖动检测信息，其中，所述车辆抖动检测信息包括：图像静态关键点坐标组序列和对应的当前车辆位姿矩阵序列；
根据所述减速带感知信息包括的减速带类型标识，确定与所述当前车辆位姿矩阵序列中每个当前车辆位姿矩阵对应的先验位姿误差协方差矩阵，得到先验位姿误差协方差矩阵序列；
获取与所述滑动窗口中的各个道路图像对应的定位位姿误差协方差矩阵和相对位姿矩阵，得到定位位姿误差协方差矩阵序列和相对位姿矩阵序列；
基于所述先验位姿误差协方差矩阵序列和所述当前车辆位姿矩阵序列，对所述定位位姿误差协方差矩阵序列、所述相对位姿矩阵序列和所述图像静态关键点坐标组序列进行调整处理，以生成调整后定位误差协方差矩阵序列、调整后相对位姿矩阵序列和调整后图像静态关键点坐标组序列；
基于所述调整后定位误差协方差矩阵序列、所述调整后相对位姿矩阵序列和所述调整后图像静态关键点坐标组序列，生成障碍物信息；
其中，所述减速带感知信息还包括减速带位置坐标；以及
所述利用预先检测到的减速带感知信息，对滑动窗口中的各个道路图像进行减速带跟踪检测，以生成关键点检测信息序列，包括：
响应于确定从所述滑动窗口中的第一个道路图像中检测到与所述减速带位置坐标对应的减速带关键点坐标，利用所述减速带类型标识，对所述滑动窗口中的各个道路图像进行减速带关键点跟踪检测，以生成检测关键点坐标序列；
将所述减速带类型标识和所述检测关键点坐标序列的每个检测关键点坐标确定为关键点检测信息，得到关键点检测信息序列；
其中，所述基于所述关键点检测信息序列，对所述滑动窗口中的各个道路图像进行车辆抖动检测，以生成车辆抖动检测信息，包括：
获取与所述检测关键点坐标序列中各个检测关键点坐标对应的第一当前车辆相对位姿矩阵和第二当前车辆相对位姿矩阵序列，其中，所述第一当前车辆相对位姿矩阵是当前车辆的车体坐标系相对于相机坐标系的位姿矩阵，所述第二当前车辆相对位姿矩阵序列中的每个第二当前车辆相对位姿矩阵是当前车辆的车体坐标系相对于地图坐标系的位姿矩阵；
基于所述第二当前车辆相对位姿矩阵序列，确定所述关键点检测信息序列中每个关键点检测信息包括的检测关键点坐标相对于当前车辆车轮的齐次坐标，得到齐次坐标序列；
对于所述齐次坐标序列中的每个齐次坐标执行以下检测步骤：
响应于确定所述齐次坐标和预设概率阈值满足预设选择条件，将满足所述齐次坐标对应的道路图像确定为抖动道路图像；
对所述抖动道路图像进行静态关键点检测，以生成图像静态关键点坐标组；
将与每个抖动道路图像对应的第二当前车辆相对位姿矩阵确定为当前车辆位姿矩阵，得到当前车辆位姿矩阵序列；
将所述当前车辆位姿矩阵序列和所生成的各个图像静态关键点坐标组确定为车辆抖动检测信息；
其中，所述根据所述减速带感知信息包括的减速带类型标识，确定与所述当前车辆位姿矩阵序列中每个当前车辆位姿矩阵对应的先验位姿误差协方差矩阵，包括：
获取当前车辆速度值；
从预设的协方差信息表中，获取与所述减速带类型标识和所述当前车辆速度值对应的预设定位位姿协方差矩阵序列和预设相对协方差矩阵序列；
将所述预设定位位姿协方差矩阵序列中的每个预设定位位姿协方差矩阵序列确定为与每个当前车辆位姿矩阵对应的先验位姿误差协方差矩阵；
其中，所述基于所述先验位姿误差协方差矩阵序列和所述当前车辆位姿矩阵序列，对所述定位位姿误差协方差矩阵序列、所述相对位姿矩阵序列和所述图像静态关键点坐标组序列进行调整处理，以生成调整后定位误差协方差矩阵序列、调整后相对位姿矩阵序列和调整后图像静态关键点坐标组序列，包括：
确定与所述定位位姿误差协方差矩阵序列中的每个定位位姿误差协方差矩阵的维度值，得到维度值序列；
基于所述第一当前车辆相对位姿矩阵、所述预设相对协方差矩阵序列、所述维度值序列、所述先验位姿误差协方差矩阵序列和所述当前车辆位姿矩阵序列，对所述定位位姿误差协方差矩阵序列、所述相对位姿矩阵序列和所述图像静态关键点坐标组序列进行调整处理，以生成调整后定位误差协方差矩阵序列、调整后相对位姿矩阵序列和调整后图像静态关键点坐标组序列，其中，获取与每个抖动道路图像对应的关键点投影误差协方差矩阵，获取定位系统测量的、与滑动窗口中每个道路图像对应相同时刻的原始相对位姿矩阵，通过以下公式进行调整处理，以生成调整后定位误差协方差矩阵序列、调整后相对位姿矩阵序列和调整后图像静态关键点坐标组序列：
其中，j、k表示序号，q表示坐标，m表示地图坐标系，表示图像静态关键点坐标组中第j个图像静态关键点坐标在地图坐标系中的坐标，/>表示调整后图像静态关键点坐标组中第j个调整后图像静态关键点坐标在地图坐标系中的坐标，T1表示所述第一当前车辆相对位姿矩阵，T2，k表示当前车辆位姿矩阵序列中的第k个当前车辆位姿矩阵，即对应的第二当前车辆相对位姿矩阵，/>表示调整后相对位姿矩阵序列中第k个调整后相对位姿矩阵，/>表示预设的投影函数，用于将括号内相机坐标系中的坐标投影至图像坐标系，i表示图像坐标系，e1表示对应滑动窗口中的各个道路图像的位姿误差，即表征当前车辆在经过减速带前后的一段时间内的位姿误差值，e2表示图像静态关键点坐标组序列中各个图像静态关键点坐标对应的总投影误差值，e3表示对应各个抖动道路图像的位姿误差值，即表征当前车辆在经过减速带期间定位系统输出的位姿矩阵的位姿误差，e4表示相对位姿矩阵序列中各个相对位姿矩阵的误差值，即表征当前车辆在经过减速带期间、每一帧的车体相对于触碰减速带第一帧的车体的相对位姿的误差值，ln()∨表示特殊欧式群到特殊欧式群的李代数的对数映射，iqj，k表示图像静态关键点坐标组序列中第k个图像静态关键点坐标组中的第j个图像静态关键点坐标在图像坐标系中的位置坐标，Ωj，k表示与图像静态关键点坐标组序列中第k个图像静态关键点坐标组中的第j个图像静态关键点坐标对应的关键点投影误差协方差矩阵，即2×2的矩阵，Λk表示先验位姿误差协方差矩阵序列中的第k个先验位姿误差协方差矩阵，/>表示定位位姿误差协方差矩阵序列中的第k个定位位姿误差协方差矩阵，/>表示由定位系统测量的、与滑动窗口中道路图像对应相同时刻的原始相对位姿矩阵，/>表示对应滑动窗口中第j个道路图像的原始相对位姿矩阵，T3表示所述相对位姿矩阵序列中的相对位姿矩阵，T3，k表示所述相对位姿矩阵序列中的第k个所述相对位姿矩阵，Γk表示预设相对协方差矩阵序列中的第k个预设相对协方差矩阵，/>表示调整后定位误差协方差矩阵序列中的第k个调整后定位误差协方差矩阵，det()表示方阵函数，/>表示预设的投影函数，用于将括号内相机坐标系中的坐标投影至图像坐标系，Dk表示所述维度值序列中的第k个维度值，αk表示与所述维度值序列中的第k个维度值对应的维度修正值。
2.根据权利要求1所述的方法，其中，所述方法还包括：
将所述减速带类型标识和所述障碍物信息添加至对应的道路图像，得到添加后道路图像序列；
将所述添加后道路图像序列发送至当前车辆显示终端以供显示。
3.根据权利要求1所述的方法，其中，所述基于所述调整后定位误差协方差矩阵序列、所述调整后相对位姿矩阵序列和所述调整后图像静态关键点坐标组序列，生成障碍物信息，包括：
对所述调整后定位误差协方差矩阵序列进行存储；
利用所述调整后相对位姿矩阵序列将所述调整后图像静态关键点坐标组序列中的各个调整后图像静态关键点坐标转换至当前车辆的车体坐标系，以生成转换后静态关键点坐标组序列；
将所述转换后静态关键点坐标组序列确定为障碍物信息。
4.一种障碍物信息生成装置，包括：
跟踪检测单元，被配置成利用预先检测到的减速带感知信息，对滑动窗口中的各个道路图像进行减速带跟踪检测，以生成关键点检测信息序列，其中，所述减速带感知信息包括减速带类型标识；
抖动检测单元，被配置成基于所述关键点检测信息序列，对所述滑动窗口中的各个道路图像进行车辆抖动检测，以生成车辆抖动检测信息，其中，所述车辆抖动检测信息包括：图像静态关键点坐标组序列和对应的当前车辆位姿矩阵序列；
确定单元，被配置成根据所述减速带感知信息包括的减速带类型标识，确定与所述当前车辆位姿矩阵序列中每个当前车辆位姿矩阵对应的先验位姿误差协方差矩阵，得到先验位姿误差协方差矩阵序列；
获取单元，被配置成获取与所述滑动窗口中的各个道路图像对应的定位位姿误差协方差矩阵和相对位姿矩阵，得到定位位姿误差协方差矩阵序列和相对位姿矩阵序列；
调整处理单元，被配置成基于所述先验位姿误差协方差矩阵序列和所述当前车辆位姿矩阵序列，对所述定位位姿误差协方差矩阵序列、所述相对位姿矩阵序列和所述图像静态关键点坐标组序列进行调整处理，以生成调整后定位误差协方差矩阵序列、调整后相对位姿矩阵序列和调整后图像静态关键点坐标组序列；
生成单元，被配置成基于所述调整后定位误差协方差矩阵序列、所述调整后相对位姿矩阵序列和所述调整后图像静态关键点坐标组序列，生成障碍物信息；
其中，所述减速带感知信息还包括减速带位置坐标；以及
所述利用预先检测到的减速带感知信息，对滑动窗口中的各个道路图像进行减速带跟踪检测，以生成关键点检测信息序列，包括：
响应于确定从所述滑动窗口中的第一个道路图像中检测到与所述减速带位置坐标对应的减速带关键点坐标，利用所述减速带类型标识，对所述滑动窗口中的各个道路图像进行减速带关键点跟踪检测，以生成检测关键点坐标序列；
将所述减速带类型标识和所述检测关键点坐标序列的每个检测关键点坐标确定为关键点检测信息，得到关键点检测信息序列；
其中，所述基于所述关键点检测信息序列，对所述滑动窗口中的各个道路图像进行车辆抖动检测，以生成车辆抖动检测信息，包括：
获取与所述检测关键点坐标序列中各个检测关键点坐标对应的第一当前车辆相对位姿矩阵和第二当前车辆相对位姿矩阵序列，其中，所述第一当前车辆相对位姿矩阵是当前车辆的车体坐标系相对于相机坐标系的位姿矩阵，所述第二当前车辆相对位姿矩阵序列中的每个第二当前车辆相对位姿矩阵是当前车辆的车体坐标系相对于地图坐标系的位姿矩阵；
基于所述第二当前车辆相对位姿矩阵序列，确定所述关键点检测信息序列中每个关键点检测信息包括的检测关键点坐标相对于当前车辆车轮的齐次坐标，得到齐次坐标序列；
对于所述齐次坐标序列中的每个齐次坐标执行以下检测步骤：
响应于确定所述齐次坐标和预设概率阈值满足预设选择条件，将满足所述齐次坐标对应的道路图像确定为抖动道路图像；
对所述抖动道路图像进行静态关键点检测，以生成图像静态关键点坐标组；
将与每个抖动道路图像对应的第二当前车辆相对位姿矩阵确定为当前车辆位姿矩阵，得到当前车辆位姿矩阵序列；
将所述当前车辆位姿矩阵序列和所生成的各个图像静态关键点坐标组确定为车辆抖动检测信息；
其中，所述根据所述减速带感知信息包括的减速带类型标识，确定与所述当前车辆位姿矩阵序列中每个当前车辆位姿矩阵对应的先验位姿误差协方差矩阵，包括：
获取当前车辆速度值；
从预设的协方差信息表中，获取与所述减速带类型标识和所述当前车辆速度值对应的预设定位位姿协方差矩阵序列和预设相对协方差矩阵序列；
将所述预设定位位姿协方差矩阵序列中的每个预设定位位姿协方差矩阵序列确定为与每个当前车辆位姿矩阵对应的先验位姿误差协方差矩阵；
其中，所述基于所述先验位姿误差协方差矩阵序列和所述当前车辆位姿矩阵序列，对所述定位位姿误差协方差矩阵序列、所述相对位姿矩阵序列和所述图像静态关键点坐标组序列进行调整处理，以生成调整后定位误差协方差矩阵序列、调整后相对位姿矩阵序列和调整后图像静态关键点坐标组序列，包括：
确定与所述定位位姿误差协方差矩阵序列中的每个定位位姿误差协方差矩阵的维度值，得到维度值序列；
基于所述第一当前车辆相对位姿矩阵、所述预设相对协方差矩阵序列、所述维度值序列、所述先验位姿误差协方差矩阵序列和所述当前车辆位姿矩阵序列，对所述定位位姿误差协方差矩阵序列、所述相对位姿矩阵序列和所述图像静态关键点坐标组序列进行调整处理，以生成调整后定位误差协方差矩阵序列、调整后相对位姿矩阵序列和调整后图像静态关键点坐标组序列，其中，获取与每个抖动道路图像对应的关键点投影误差协方差矩阵，获取定位系统测量的、与滑动窗口中每个道路图像对应相同时刻的原始相对位姿矩阵，通过以下公式进行调整处理，以生成调整后定位误差协方差矩阵序列、调整后相对位姿矩阵序列和调整后图像静态关键点坐标组序列：
其中，j、k表示序号，q表示坐标，m表示地图坐标系，mqj表示图像静态关键点坐标组中第j个图像静态关键点坐标在地图坐标系中的坐标，表示调整后图像静态关键点坐标组中第j个调整后图像静态关键点坐标在地图坐标系中的坐标，T1表示所述第一当前车辆相对位姿矩阵，T2，k表示当前车辆位姿矩阵序列中的第k个当前车辆位姿矩阵，即对应的第二当前车辆相对位姿矩阵，/>表示调整后相对位姿矩阵序列中第k个调整后相对位姿矩阵，表示预设的投影函数，用于将括号内相机坐标系中的坐标投影至图像坐标系，i表示图像坐标系，e1表示对应滑动窗口中的各个道路图像的位姿误差，即表征当前车辆在经过减速带前后的一段时间内的位姿误差值，e2表示图像静态关键点坐标组序列中各个图像静态关键点坐标对应的总投影误差值，e3表示对应各个抖动道路图像的位姿误差值，即表征当前车辆在经过减速带期间定位系统输出的位姿矩阵的位姿误差，e4表示相对位姿矩阵序列中各个相对位姿矩阵的误差值，即表征当前车辆在经过减速带期间、每一帧的车体相对于触碰减速带第一帧的车体的相对位姿的误差值，ln()∨表示特殊欧式群到特殊欧式群的李代数的对数映射，iqj，k表示图像静态关键点坐标组序列中第k个图像静态关键点坐标组中的第j个图像静态关键点坐标在图像坐标系中的位置坐标，Ωj，k表示与图像静态关键点坐标组序列中第k个图像静态关键点坐标组中的第j个图像静态关键点坐标对应的关键点投影误差协方差矩阵，即2×2的矩阵，Λk表示先验位姿误差协方差矩阵序列中的第k个先验位姿误差协方差矩阵，/>表示定位位姿误差协方差矩阵序列中的第k个定位位姿误差协方差矩阵，/>表示由定位系统测量的、与滑动窗口中道路图像对应相同时刻的原始相对位姿矩阵，/>表示对应滑动窗口中第j个道路图像的原始相对位姿矩阵，T3表示所述相对位姿矩阵序列中的相对位姿矩阵，T3，k表示所述相对位姿矩阵序列中的第k个所述相对位姿矩阵，Γk表示预设相对协方差矩阵序列中的第k个预设相对协方差矩阵，/>表示调整后定位误差协方差矩阵序列中的第k个调整后定位误差协方差矩阵，det()表示方阵函数，/>表示预设的投影函数，用于将括号内相机坐标系中的坐标投影至图像坐标系，Dk表示所述维度值序列中的第k个维度值，αk表示与所述维度值序列中的第k个维度值对应的维度修正值。
5.一种电子设备，包括：
一个或多个处理器；
存储装置，其上存储有一个或多个程序，
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-3中任一所述的方法。
6.一种计算机可读介质，其上存储有计算机程序，其中，所述计算机程序被处理器执行时实现如权利要求1-3中任一所述的方法。
CN202310511314.7A 2023-05-08 2023-05-08 障碍物信息生成方法、装置、电子设备和计算机可读介质 Active CN116758498B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310511314.7A CN116758498B (zh) 2023-05-08 2023-05-08 障碍物信息生成方法、装置、电子设备和计算机可读介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310511314.7A CN116758498B (zh) 2023-05-08 2023-05-08 障碍物信息生成方法、装置、电子设备和计算机可读介质

Publications (2)

Publication Number Publication Date
CN116758498A CN116758498A (zh) 2023-09-15
CN116758498B true CN116758498B (zh) 2024-02-23

Family

ID=87956054

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310511314.7A Active CN116758498B (zh) 2023-05-08 2023-05-08 障碍物信息生成方法、装置、电子设备和计算机可读介质

Country Status (1)

Country Link
CN (1) CN116758498B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116740382B (zh) * 2023-05-08 2024-02-20 禾多科技（北京）有限公司 障碍物信息生成方法、装置、电子设备和计算机可读介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111474560A (zh) * 2020-04-16 2020-07-31 苏州大学 一种障碍物定位方法、装置及设备
CN114419604A (zh) * 2022-03-28 2022-04-29 禾多科技（北京）有限公司 障碍物信息生成方法、装置、电子设备和计算机可读介质
CN114882115A (zh) * 2022-06-10 2022-08-09 国汽智控(北京)科技有限公司 车辆位姿的预测方法和装置、电子设备和存储介质
CN115393815A (zh) * 2022-08-24 2022-11-25 禾多科技（北京）有限公司 道路信息生成方法、装置、电子设备和计算机可读介质
CN115900695A (zh) * 2022-09-30 2023-04-04 中国第一汽车股份有限公司 一种应用于车辆的智能泊车车辆定位的方法

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11436839B2 (en) * 2018-11-02 2022-09-06 Toyota Research Institute, Inc. Systems and methods of detecting moving obstacles
US11967161B2 (en) * 2020-06-26 2024-04-23 Amazon Technologies, Inc. Systems and methods of obstacle detection for automated delivery apparatus

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111474560A (zh) * 2020-04-16 2020-07-31 苏州大学 一种障碍物定位方法、装置及设备
CN114419604A (zh) * 2022-03-28 2022-04-29 禾多科技（北京）有限公司 障碍物信息生成方法、装置、电子设备和计算机可读介质
CN114882115A (zh) * 2022-06-10 2022-08-09 国汽智控(北京)科技有限公司 车辆位姿的预测方法和装置、电子设备和存储介质
CN115393815A (zh) * 2022-08-24 2022-11-25 禾多科技（北京）有限公司 道路信息生成方法、装置、电子设备和计算机可读介质
CN115900695A (zh) * 2022-09-30 2023-04-04 中国第一汽车股份有限公司 一种应用于车辆的智能泊车车辆定位的方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
基于视觉的机器人自主定位与障碍物检测方法;丁斗建;赵晓林;王长根;高关根;寇磊;;计算机应用(第06期);299-304 *

Also Published As

Publication number Publication date
CN116758498A (zh) 2023-09-15

Similar Documents

Publication Publication Date Title
US10650236B2 (en) Road detecting method and apparatus
CN112598762B (zh) 三维车道线信息生成方法、装置、电子设备和介质
CN111127563A (zh) 联合标定方法、装置、电子设备及存储介质
CN112150490B (zh) 图像检测方法、装置、电子设备和计算机可读介质
CN113607185B (zh) 车道线信息显示方法、装置、电子设备和计算机可读介质
CN116182878B (zh) 道路曲面信息生成方法、装置、设备和计算机可读介质
CN116758498B (zh) 障碍物信息生成方法、装置、电子设备和计算机可读介质
CN114399588B (zh) 三维车道线生成方法、装置、电子设备和计算机可读介质
CN114964296B (zh) 车辆行驶路径规划方法、装置、设备和计算机可读介质
CN114993328B (zh) 车辆定位评估方法、装置、设备和计算机可读介质
CN116740382B (zh) 障碍物信息生成方法、装置、电子设备和计算机可读介质
CN115616937A (zh) 自动驾驶仿真测试方法、装置、设备和计算机可读介质
CN114894205A (zh) 三维车道线信息生成方法、装置、设备和计算机可读介质
CN116161040B (zh) 车位信息生成方法、装置、电子设备和计算机可读介质
CN115808929B (zh) 车辆仿真避障方法、装置、电子设备和计算机可读介质
CN114724115B (zh) 障碍物定位信息生成方法、装置、设备和计算机可读介质
CN117095052A (zh) 车辆相对位姿矩阵优化方法、装置、电子设备和可读介质
CN115937046B (zh) 道路地面信息生成方法、装置、设备和计算机可读介质
CN116630436B (zh) 相机外参修正方法、装置、电子设备和计算机可读介质
CN115201796B (zh) 一种车辆传感器的外参校正方法
CN114494428B (zh) 车辆位姿矫正方法、装置、电子设备和计算机可读介质
CN115345931B (zh) 物体姿态关键点信息生成方法、装置、电子设备和介质
CN111325712B (zh) 用于检测图像有效性的方法及装置
US11521331B2 (en) Method and apparatus for generating position information, device, and medium
CN115848358B (zh) 车辆泊车方法、装置、电子设备和计算机可读介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant