CN114882465A - 视觉感知方法、装置、存储介质和电子设备 - Google Patents

Abstract

本公开实施例公开了一种视觉感知方法、装置、存储介质和电子设备，其中，方法包括：对载具的多相机系统在同一时刻针对所述载具周围环境采集的不同视角的多个图像分别进行特征提取，得到多个第一特征图；基于所述同一时刻对应的鸟瞰图中包括的多个格点在至少一个所述第一特征图中对应的索引特征，确定所述多个格点中各所述格点分别对应的格点特征；基于各所述格点分别对应的所述格点特征，确定所述鸟瞰图对应的第二特征图；基于预设感知任务对应的网络模型对所述第二特征图进行识别，确定所述预设感知任务对应的感知结果。

Description

视觉感知方法、装置、存储介质和电子设备

技术领域

本公开涉及视觉感知技术领域，尤其是一种视觉感知方法、装置、存储介质和电子设备。

背景技术

在自动驾驶领域，视觉感知系统中多相机系统在各自坐标系下的感知结果不能直接被用于后续预测、规控系统，需要通过一定方式将不同视角的特征进行融合，例如，映射到鸟瞰图(Bird Eye View，BEV)中，统一在自车坐标系下表达；现有技术中通常采用指向注意力(Point attention)方案将多相机系统获得的图像映射到鸟瞰图中，但该方法对内外参矩阵较为依赖。

发明内容

为了解决上述技术问题，提出了本公开。本公开的实施例提供了一种视觉感知方法、装置、存储介质和电子设备。

根据本公开实施例的一个方面，提供了一种视觉感知方法，包括：

对载具的多相机系统在同一时刻针对所述载具周围环境采集的不同视角的多个图像分别进行特征提取，得到多个第一特征图；

基于所述同一时刻对应的鸟瞰图中包括的多个格点在至少一个所述第一特征图中对应的索引特征，确定所述多个格点中各所述格点分别对应的格点特征；

基于各所述格点分别对应的所述格点特征，确定所述鸟瞰图对应的第二特征图；

基于预设感知任务对应的网络模型对所述第二特征图进行识别，确定所述预设感知任务对应的感知结果。

根据本公开实施例的另一方面，提供了一种车载视觉感知装置，包括：

特征提取模块，用于对载具的多相机系统在同一时刻针对所述载具周围环境采集的不同视角的多个图像分别进行特征提取，得到多个第一特征图；

特征对应模块，用于基于所述同一时刻对应的鸟瞰图中包括的多个格点在至少一个所述特征提取模块确定的第一特征图中对应的索引特征，确定所述多个格点中各所述格点分别对应的格点特征；

特征图确定模块，用于基于各所述格点分别对应的所述特征对应模块确定的所述格点特征，确定所述鸟瞰图对应的第二特征图；

感知识别模块，用于基于预设感知任务对应的网络模型对所述特征图确定模块确定的所述第二特征图进行识别，确定所述预设感知任务对应的感知结果。

根据本公开实施例的又一方面，提供了一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序用于执行上述任一实施例所述的视觉感知方法。

根据本公开实施例的还一方面，提供了一种电子设备，所述电子设备包括：

处理器；

用于存储所述处理器可执行指令的存储器；

所述处理器，用于从所述存储器中读取所述可执行指令，并执行所述指令以实现上述任一实施例所述的视觉感知方法。

基于本公开上述实施例提供的一种视觉感知方法、装置、存储介质和电子设备，通过确定鸟瞰图中每个格点对应的索引特征来确定每个格点对应的格点特征，不需要结合内外参矩阵来确定鸟瞰图对应的第二特征，克服了现有技术中对内外参矩阵较为依赖的问题。

下面通过附图和实施例，对本公开的技术方案做进一步的详细描述。

附图说明

通过结合附图对本公开实施例进行更详细的描述，本公开的上述以及其他目的、特征和优势将变得更加明显。附图用来提供对本公开实施例的进一步理解，并且构成说明书的一部分，与本公开实施例一起用于解释本公开，并不构成对本公开的限制。在附图中，相同的参考标号通常代表相同部件或步骤。

图1是本公开一示例性实施例提供的视觉感知方法的流程示意图。

图2a是本公开图1所示的实施例中步骤102的一流程示意图。

图2b是本公开一示例性实施例提供的视觉感知方法中示例性的格点对应区域示意图。

图3是本公开图2a所示的实施例中步骤1022的一流程示意图。

图4是本公开图3所示的实施例中步骤301的一流程示意图。

图5是本公开图2a所示的实施例中步骤1023的一流程示意图。

图6是本公开一示例性实施例提供的视觉感知装置的结构示意图。

图7是本公开另一示例性实施例提供的视觉感知装置的结构示意图。

图8是本公开一示例性实施例提供的电子设备的结构图。

具体实施方式

下面，将参考附图详细地描述根据本公开的示例实施例。显然，所描述的实施例仅仅是本公开的一部分实施例，而不是本公开的全部实施例，应理解，本公开不受这里描述的示例实施例的限制。

应注意到：除非另外具体说明，否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本公开的范围。

本领域技术人员可以理解，本公开实施例中的“第一”、“第二”等术语仅用于区别不同步骤、设备或模块等，既不代表任何特定技术含义，也不表示它们之间的必然逻辑顺序。

还应理解，在本公开实施例中，“多个”可以指两个或两个以上，“至少一个”可以指一个、两个或两个以上。

还应理解，对于本公开实施例中提及的任一部件、数据或结构，在没有明确限定或者在前后文给出相反启示的情况下，一般可以理解为一个或多个。

另外，本公开中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本公开中字符“/”，一般表示前后关联对象是一种“或”的关系。

还应理解，本公开对各个实施例的描述着重强调各个实施例之间的不同之处，其相同或相似之处可以相互参考，为了简洁，不再一一赘述。

同时，应当明白，为了便于描述，附图中所示出的各个部分的尺寸并不是按照实际的比例关系绘制的。

以下对至少一个示例性实施例的描述实际上仅仅是说明性的，决不作为对本公开及其应用或使用的任何限制。

对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论，但在适当情况下，所述技术、方法和设备应当被视为说明书的一部分。

应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步讨论。

本公开实施例可以应用于终端设备、计算机系统、服务器等电子设备，其可与众多其它通用或专用计算系统环境或配置一起操作。适于与终端设备、计算机系统、服务器等电子设备一起使用的众所周知的终端设备、计算系统、环境和/或配置的例子包括但不限于：个人计算机系统、服务器计算机系统、瘦客户机、厚客户机、手持或膝上设备、基于微处理器的系统、机顶盒、可编程消费电子产品、网络个人电脑、小型计算机系统、大型计算机系统和包括上述任何系统的分布式云计算技术环境，等等。

终端设备、计算机系统、服务器等电子设备可以在由计算机系统执行的计算机系统可执行指令(诸如程序模块)的一般语境下描述。通常，程序模块可以包括例程、程序、目标程序、组件、逻辑、数据结构等等，它们执行特定的任务或者实现特定的抽象数据类型。计算机系统/服务器可以在分布式云计算环境中实施，分布式云计算环境中，任务是由通过通信网络链接的远程处理设备执行的。在分布式云计算环境中，程序模块可以位于包括存储设备的本地或远程计算系统存储介质上。

申请概述

在实现本公开的过程中，发明人发现，现有技术中通常采用指向注意力方案将车载摄像头获得的图像映射到鸟瞰图中，但该方法至少存在以下问题：对内外参矩阵较为依赖，当车辆行驶过程中多相机系统中的相机的内外参容易发生变化，会使得映射结果出错，进而导致以鸟瞰图确定的感知任务的感知结果不准确。

示例性方法

图1是本公开一示例性实施例提供的视觉感知方法的流程示意图。本实施例可应用在电子设备上，如图1所示，包括如下步骤：

步骤101，对载具的多相机系统在同一时刻针对载具周围环境采集的不同视角的多个图像分别进行特征提取，得到多个第一特征图。

其中，载具是任意可以装载多相机系统的设备，例如，其为车辆和智能移动机器人等；由于载具可能随着时间的变化位置发生变化，例如，车辆在行驶过程中随着时间的变化其位置不断发生变化，因此，本实施例中将多个图像限定为同一时刻通过多相机系统获得，使得载具基于多相机系统采集到的多个图像是载具在同一位置的不同视角的图像。多相机系统中可包括多个相机，各个相机优选采用符合车规级标准的车载相机，每个相机分别对应一个图像，可用于采集包含载具周围环境的图像；例如，当载具为车辆时，多相机系统可以为设置在车辆上的多个环视相机等；在采集到多个图像后，可利用神经网络模型(例如，卷积神经网络等)分别对每个图像进行特征提取，得到多个第一特征图，其中，每个第一特征图对应一个图像。

步骤102，基于同一时刻对应的鸟瞰图中包括的多个格点在至少一个第一特征图中对应的索引特征，确定多个格点中各格点分别对应的格点特征。

本实施例中的鸟瞰图为以载具为中心的坐标系下的一个z轴取预设值的平面中的一部分(例如，一个矩形区域)，其中，每个格点可以对应在世界坐标系中的一个矩形区域，例如，每个格点对应世界坐标系中的0.5m*0.5m大小的区域，或每个格点对应世界坐标系中的0.6m*1m大小的区域，每个格点的具体大小可根据实际应用场景进行设置，鸟瞰图对应的范围越大，格点对应的区域可以越大，每个格点的长宽可以相等或不等；本实施例中可预先通过坐标系转换、投影变换等操作，确定鸟瞰图中包括的多个格点中的每个格点在至少一个第一特征图中的索引特征，在基于当前多相机系统进行感知识别时，直接获取这些索引特征即可确定该鸟瞰图中每个格点对应的格点特征。

步骤103，基于各格点分别对应的格点特征，确定鸟瞰图对应的第二特征图。

可选地，每个格点的格点特征可以表示为一个向量，按照每个格点在鸟瞰图中的位置拼接多个格点对应的格点特征，即可得到鸟瞰图对应的第二特征图。

步骤104，基于预设感知任务对应的网络模型对所述第二特征图进行识别，确定预设感知任务对应的感知结果。

本实施例中的预设感知任务可以是任意视觉感知任务，例如，分割任务、检测任务、分类任务等，通过对应该视觉感知任务的网络模型实现该步骤的感知任务的操作。

本公开上述实施例提供的一种视觉感知方法，通过确定鸟瞰图中每个格点对应的索引特征来确定每个格点对应的格点特征，不需要结合内外参矩阵来确定鸟瞰图对应的第二特征，克服了现有技术中对内外参矩阵较为依赖的问题。

如图2a所示，在上述图1所示实施例的基础上，步骤102可包括如下步骤：

步骤1021，确定鸟瞰图中包括的多个格点。

可选地，根据实际应用场景确定鸟瞰图的大小，通常情况下鸟瞰图与多相机系统采集的多个图像采集的周围环境范围相同，可选地，根据鸟瞰图的大小将鸟瞰图分割为多个格点，每个格点大小相同，例如，每个格点对应世界坐标系中的0.5m*0.5m大小的区域等。

步骤1022，确定多个格点中各格点分别在至少一个第一特征图中对应的索引特征，得到各格点分别对应的至少一个索引特征。

本实施例中，每个格点在一个第一特征图中可能存在对应的索引区域，也可能不存在对应的索引区域，例如，格点对应的是鸟瞰图中载具右侧的图像，此时在通过左侧视角的相机获得的图像对应的第一特征图中，可能不具有该格点对应的索引特征；例如，如图2b所示，右侧鸟瞰图中的格点对应前视相机和右前侧相机中采集的车辆的侧门位置；而该车辆的侧门在多相机系统中其他的相机中没有采集到，因此，该格点在其他图像中不存在索引特征。

步骤1023，基于各格点分别对应的至少一个索引特征，确定多个格点中各格点分别对应的格点特征。

本实施例中，可通过神经网络模型(例如，自注意力模型)分别对各个格点对应的至少一个索引特征进行处理，将一个格点对应的全部索引特征作为输入，输出得到该格点对应的格点特征，以该格点特征结合该格点在鸟瞰图中的位置，即可确定鸟瞰图中每个格点的格点特征，实现获得鸟瞰图的第二特征图；即，本实施例不需要依赖相机内外参矩阵参与的坐标系转换，即可获得鸟瞰图对应的第二特征图，克服了相关技术中对内外参矩阵依赖的问题，使确定了索引关系的鸟瞰图可以在任意时刻获得对应的第二特征图。

如图3所示，在上述图2a所示实施例的基础上，步骤1022可包括如下步骤：

步骤301，针对至少一个第一特征图中每个第一特征图，基于第一特征图对应的多相机系统中的相机的内参矩阵、外参矩阵和格点的三维坐标，确定格点在第一特征图中的映射区域。

本实施例中，在确定载具和多相机系统之间的位置关系后，即可基于相机的内参矩阵、外参矩阵和格点的三维坐标来确定格点在每个第一特征图中的映射区域，例如，通过坐标系转换将图像坐标系下的特征转换到以载具为中心的坐标系(例如，自车坐标系)中，以便后续在执行视觉感知任务时，直接获得每个格点对应的索引特征，而无需重新结合相机的内参矩阵和外参矩阵来进行坐标系转换。

步骤302，基于格点在至少一个第一特征图中对应的至少一个映射区域对应的位置，确定格点对应的至少一个索引特征。

本实施例中，可以将格点映射到多个第一特征图中的每个第一特征图中，确定映射区域对应的位置在该第一特征图的范围内时，该映射区域有效，以该映射区域对应的特征作为格点在该第一特征图中的索引特征，而当映射区域对应的位置超出了第一特征图的范围时(例如，位置坐标为负数等情况)，说明该映射区域无效，该映射区域对应的第一特征图中不存在该格点对应的索引特征，通过所有有效的映射区域确定的索引特征，得到格点对应的至少一个索引特征，通过预先建立格点与索引特征之间的对应关系，减小了格点对应的格点特征对相机内外参矩阵的依赖，在载具位置发生变化的情况下(例如，车辆行驶的情况下)，即使内外参矩阵发生一定变化，本实施例提供的方法仍然可以得到较为准确的感知结果。

本实施例提供的通过内外参矩阵确定格点的索引特征的过程是在确定载具和多相机系统之间的位置关系后执行的，可在执行步骤101之前执行，在确定格点对应的索引特征之后，可将该对应关系进行存储，实际应用本实施例提供的视觉感知方法的过程中，可直接调用格点与索引特征的对应关系，而不需要在每次进行感知任务操作时都进行格点与索引特征的对应计算；只要载具和设置在载具上的多相机系统不发生变化，就不需要结合内外参矩阵来确定格点对应的索引特征，提高了感知任务的处理效率，克服了现有技术中对内外参矩阵较为依赖的问题。

如图4所示，在上述图3所示实施例的基础上，步骤301可包括如下步骤：

步骤3011，基于内参矩阵和外参矩阵，将格点的三维坐标映射到第一特征图对应的图像坐标系，得到格点在图像坐标系下的图像坐标。

可选地，可基于以下公式(1)将格点的三维坐标映射到第一特征图对应的图像坐标系中：

c^k＝K^k·Rt^k·c^3D 公式(1)

其中，k表示对应的车载相机编号，可预先对多相机系统中包括的多个相机进行编号，在后续使用相应编号表示对应的相机，例如，将多相机系统中包括的6个相机从正前方向顺时针分别编号为1(正前方)、2(右前方)、3(右后方)、4(正后方)、5(左后方)、6(左前方)等，c^k表示格点映射到第一特征图中的图像坐标，K^k表示编号为k的相机的内参矩阵，Rt^k表示编号为k的相机的外参矩阵，c^3D表示格点的三维坐标。

步骤3012，以图像坐标为中心，结合预设长度和预设宽度，确定映射区域。

本实施例中，通过基于预设长度和预设宽度确定一个映射区域，例如，预设长度为Kh，预设宽度为Kw时，得到的映射区域为Kh*Kw，其中，Kh和Kw的取值可以相同，也可以不同，其具体取值可根据实际应用场景进行设置。本实施例将格点映射到基于一定范围的映射区域，而非仅以图像坐标作为映射坐标，此时，即使内外参不准或精度问题导致对应的映射区域有所偏移，目标仍能被覆盖到，使基于该映射区域确定的第二特征图得到的感知结果对内外参不敏感。

可选地，步骤3011可以包括：

步骤a1，基于内参矩阵和外参矩阵，将格点的三维坐标映射到图像坐标系，得到格点在图像坐标系下的精确坐标。

例如，基于上述公式(1)实现坐标映射，获得格点在图像坐标系下的精确坐标，此时，该坐标点可能是整数或非整数。

步骤a2，基于精确坐标在精确坐标周围的位置获得一个整数坐标作为图像坐标。

本实施例中，当精确坐标为整数时，直接基于该精确坐标作为图像坐标，以该图像坐标为中心点确定映射区域；而大多数情况下，精确坐标为非整数，此时，可通过在该精确坐标的四周任一位置确定一个整数坐标，实现取整，实现了利用相机的内外参将格点粗略地映射到各视角的第一特征图上(允许有误差)，得到各个视角下的图像坐标(u，v)；本实施例中取整的过程相当于对内外参矩阵添加了噪声，因此，避免对内外参矩阵精度的过渡依赖。

如图5所示，在上述图2a所示实施例的基础上，步骤1023可包括如下步骤：

步骤501，对至少一个第一特征图中每个第一特征图执行展开操作，得到每个第一特征图对应的多个条状特征。

可选地，可通过卷积加速算法(img2col)将每个第一特征图进行展开，得到展开特征(unfold features)，展开特征可以理解为包括多个条状特征，其中，每一个条状特征(展开特征的一行)对应于第一特征图上每一个特征点的周围K*K的区域(patch)，K为大于1的整数，具体取值可根据实际场景进行设置。

步骤502，基于每个第一特征图对应的多个条状特征，确定至少一个索引特征中每个索引特征对应的条状索引特征，得到各格点分别对应的至少一个条状索引特征。

由于上述展开每个第一特征图得到的多个条状特征中每个条状特征对应一个像素的周围K*K的区域，再结合每个格点对应的图像特征(对应第一特征图中的一个特征点)，即可确定每个格点对应的至少一个条状的索引特征。

步骤503，基于各格点分别对应的至少一个条状索引特征，确定各格点对应的格点特征。

本实施例中，可将每个格点对应的至少一个条状索引特征输入自注意力模型中(例如，Transformer，自注意力机制的一个深度学习模型)，得到该格点对应的格点特征(例如，1*1*C′的特征向量)，通过仅对至少一个条状索引特征执行自注意力操作以获得格点特征，相对于相关技术中需要对所有第一特征图中的所有特征点执行自注意力操作(attention)，本公开实施例极大的减少了计算量，提升了预设感知任务的处理效率。

在另一个实施例中，步骤1023还可包括：针对多个格点中各格点，基于自注意力模型对各格点分别对应的至少一个索引特征进行特征提取，得到各格点分别对应的格点特征。

本实施例相较于上述图5所示的实施例省略了将第一特征图展开的步骤，直接将格点在至少一个第一特征图中对应的至少一个区域的图像特征输入自注意力模型中(例如，Transformer，自注意力机制的一个深度学习模型)中，得到该格点对应的格点特征(例如，1*1*C′的特征向量)，本实施例在相对于相关技术中需要对所有第一特征图中的所有特征点执行自注意力操作(attention)，极大的减少了计算量的基础上，由于相对于将第一特征图进行展开，以条状特征作为输入，节省了计算过程，进一步提升了预设感知任务的处理效率。

本公开实施例提供的任一种视觉感知方法可以由任意适当的具有数据处理能力的设备执行，包括但不限于：终端设备和服务器等。或者，本公开实施例提供的任一种视觉感知方法可以由处理器执行，如处理器通过调用存储器存储的相应指令来执行本公开实施例提及的任一种视觉感知方法。下文不再赘述。

示例性装置

图6是本公开一示例性实施例提供的视觉感知装置的结构示意图。如图6所示，本实施例提供的装置包括：

特征提取模块61，用于对载具的多相机系统在同一时刻针对载具周围环境采集的不同视角的多个图像分别进行特征提取，得到多个第一特征图。

特征对应模块62，用于基于同一时刻对应的鸟瞰图中包括的多个格点在特征提取模块61确定的至少一个第一特征图中对应的索引特征，确定多个格点中各格点分别对应的格点特征。

特征图确定模块63，用于基于各格点分别对应的特征对应模块62确定的格点特征，确定鸟瞰图对应的第二特征图。

感知识别模块64，用于基于预设感知任务对应的网络模型对特征图确定模块63确定的第二特征图进行识别，确定预设感知任务对应的感知结果。

本公开上述实施例提供的一种视觉感知装置，通过确定鸟瞰图中每个格点对应的索引特征来确定每个格点对应的格点特征，不需要结合内外参矩阵来确定鸟瞰图对应的第二特征，克服了现有技术中对内外参矩阵较为依赖的问题。

图7是本公开另一示例性实施例提供的视觉感知装置的结构示意图。如图7所示，本实施例提供的装置包括：

特征对应模块62，包括：

格点确定单元621，用于确定所述鸟瞰图中包括的多个所述格点。

索引确定单元622，用于确定多个所述格点中各所述格点分别在至少一个所述第一特征图中对应的索引特征，得到各所述格点分别对应的至少一个所述索引特征。

格点特征确定单元623，用于基于各所述格点分别对应的至少一个所述索引特征，确定多个所述格点中各所述格点分别对应的格点特征。

可选地，索引确定单元622，具体用于针对至少一个所述第一特征图中每个所述第一特征图，基于所述第一特征图对应的所述多相机系统中的相机的内参矩阵、外参矩阵和所述格点的三维坐标，确定所述格点在所述第一特征图中的映射区域；基于所述格点在至少一个所述第一特征图中对应的至少一个所述映射区域对应的位置，确定所述格点对应的至少一个所述索引特征。

可选地，索引确定单元622在基于所述第一特征图对应的所述多相机系统中的相机的内参矩阵、外参矩阵和所述格点的三维坐标，确定所述格点在所述第一特征图中的映射区域时，用于基于所述内参矩阵和所述外参矩阵，将所述格点的三维坐标映射到所述第一特征图对应的图像坐标系，得到所述格点在所述图像坐标系下的图像坐标；以所述图像坐标为中心，结合预设长度和预设宽度，确定所述映射区域。

可选地，索引确定单元622在基于所述内参矩阵和所述外参矩阵，将所述格点的三维坐标映射到所述第一特征图对应的图像坐标系，得到所述格点在所述图像坐标系下的图像坐标时，用于基于所述内参矩阵和所述外参矩阵，将所述格点的三维坐标映射到所述图像坐标系，得到所述格点在所述图像坐标系下的精确坐标；基于所述精确坐标在所述精确坐标周围的位置获得一个整数坐标作为所述图像坐标。

在一些可选的实施例中，格点特征确定单元623，具体用于对至少一个所述第一特征图中每个所述第一特征图执行展开操作，得到每个所述第一特征图对应的多个条状特征；基于每个所述第一特征图对应的多个条状特征，确定至少一个所述索引特征中每个所述索引特征对应的条状索引特征，得到各所述格点分别对应的至少一个所述条状索引特征；基于各所述格点分别对应的至少一个所述条状索引特征，确定各所述格点对应的所述格点特征。

在另一些可选的实施例中，格点特征确定单元623，具体用于针对所述多个格点中各所述格点，基于自注意力模型对各所述格点分别对应的至少一个所述索引特征进行特征提取，得到各所述格点分别对应的所述格点特征。

示例性电子设备

下面，参考图8来描述根据本公开实施例的电子设备。该电子设备可以是第一设备100和第二设备200中的任一个或两者、或与它们独立的单机设备，该单机设备可以与第一设备和第二设备进行通信，以从它们接收所采集到的输入信号。

图8图示了根据本公开实施例的电子设备的框图。

如图8所示，电子设备80包括一个或多个处理器81和存储器82。

处理器81可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元，并且可以控制电子设备80中的其他组件以执行期望的功能。

存储器82可以包括一个或多个计算机程序产品，所述计算机程序产品可以包括各种形式的计算机可读存储介质，例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令，处理器81可以运行所述程序指令，以实现上文所述的本公开的各个实施例的视觉感知方法以及/或者其他期望的功能。在所述计算机可读存储介质中还可以存储诸如输入信号、信号分量、噪声分量等各种内容。

在一个示例中，电子设备80还可以包括：输入装置83和输出装置84，这些组件通过总线系统和/或其他形式的连接机构(未示出)互连。

例如，在该电子设备是第一设备100或第二设备200时，该输入装置83可以是上述的麦克风或麦克风阵列，用于捕捉声源的输入信号。在该电子设备是单机设备时，该输入装置83可以是通信网络连接器，用于从第一设备100和第二设备200接收所采集的输入信号。

此外，该输入装置83还可以包括例如键盘、鼠标等等。

该输出装置84可以向外部输出各种信息，包括确定出的距离信息、方向信息等。该输出装置84可以包括例如显示器、扬声器、打印机、以及通信网络及其所连接的远程输出设备等等。

当然，为了简化，图8中仅示出了该电子设备80中与本公开有关的组件中的一些，省略了诸如总线、输入/输出接口等等的组件。除此之外，根据具体应用情况，电子设备80还可以包括任何其他适当的组件。

示例性计算机程序产品和计算机可读存储介质

除了上述方法和设备以外，本公开的实施例还可以是计算机程序产品，其包括计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的视觉感知方法中的步骤。

所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例操作的程序代码，所述程序设计语言包括面向对象的程序设计语言，诸如Java、C++等，还包括常规的过程式程序设计语言，诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。

此外，本公开的实施例还可以是计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的视觉感知方法中的步骤。

所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。

以上结合具体实施例描述了本公开的基本原理，但是，需要指出的是，在本公开中提及的优点、优势、效果等仅是示例而非限制，不能认为这些优点、优势、效果等是本公开的各个实施例必须具备的。另外，上述公开的具体细节仅是为了示例的作用和便于理解的作用，而非限制，上述细节并不限制本公开为必须采用上述具体的细节来实现。

本说明书中各个实施例均采用递进的方式描述，每个实施例重点说明的都是与其它实施例的不同之处，各个实施例之间相同或相似的部分相互参见即可。对于系统实施例而言，由于其与方法实施例基本对应，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。

本公开中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的，可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇，指“包括但不限于”，且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”，且可与其互换使用，除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”，且可与其互换使用。

可能以许多方式来实现本公开的方法和装置。例如，可通过软件、硬件、固件或者软件、硬件、固件的任何组合来实现本公开的方法和装置。用于所述方法的步骤的上述顺序仅是为了进行说明，本公开的方法的步骤不限于以上具体描述的顺序，除非以其它方式特别说明。此外，在一些实施例中，还可将本公开实施为记录在记录介质中的程序，这些程序包括用于实现根据本公开的方法的机器可读指令。因而，本公开还覆盖存储用于执行根据本公开的方法的程序的记录介质。

还需要指出的是，在本公开的装置、设备和方法中，各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本公开的等效方案。

提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本公开。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的，并且在此定义的一般原理可以应用于其他方面而不脱离本公开的范围。因此，本公开不意图被限制到在此示出的方面，而是按照与在此公开的原理和新颖的特征一致的最宽范围。

为了例示和描述的目的已经给出了以上描述。此外，此描述不意图将本公开的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例，但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。

Claims (10)

1.一种视觉感知方法，包括：

对载具的多相机系统在同一时刻针对所述载具周围环境采集的不同视角的多个图像分别进行特征提取，得到多个第一特征图；

基于所述同一时刻对应的鸟瞰图中包括的多个格点在至少一个所述第一特征图中对应的索引特征，确定所述多个格点中各所述格点分别对应的格点特征；

基于各所述格点分别对应的所述格点特征，确定所述鸟瞰图对应的第二特征图；

基于预设感知任务对应的网络模型对所述第二特征图进行识别，确定所述预设感知任务对应的感知结果。

2.根据权利要求1所述的方法，其中，所述基于所述同一时刻对应的鸟瞰图中包括的多个格点在至少一个所述第一特征图中对应的索引特征，确定所述多个格点中各所述格点分别对应的格点特征，包括：

确定所述鸟瞰图中包括的多个所述格点；

确定多个所述格点中各所述格点分别在至少一个所述第一特征图中对应的索引特征，得到各所述格点分别对应的至少一个所述索引特征；

基于各所述格点分别对应的至少一个所述索引特征，确定多个所述格点中各所述格点分别对应的格点特征。

3.根据权利要求2所述的方法，其中，所述确定多个所述格点中各所述格点分别在至少一个所述第一特征图中对应的索引特征，得到各所述格点分别对应的至少一个所述索引特征，包括：

针对至少一个所述第一特征图中每个所述第一特征图，基于所述第一特征图对应的所述多相机系统中的相机的内参矩阵、外参矩阵和所述格点的三维坐标，确定所述格点在所述第一特征图中的映射区域；

基于所述格点在至少一个所述第一特征图中对应的至少一个所述映射区域对应的位置，确定所述格点对应的至少一个所述索引特征。

4.根据权利要求3所述的方法，其中，所述基于所述第一特征图对应的所述多相机系统中的相机的内参矩阵、外参矩阵和所述格点的三维坐标，确定所述格点在所述第一特征图中的映射区域，包括：

基于所述内参矩阵和所述外参矩阵，将所述格点的三维坐标映射到所述第一特征图对应的图像坐标系，得到所述格点在所述图像坐标系下的图像坐标；

以所述图像坐标为中心，结合预设长度和预设宽度，确定所述映射区域。

5.根据权利要求4所述的方法，其中，所述基于所述内参矩阵和所述外参矩阵，将所述格点的三维坐标映射到所述第一特征图对应的图像坐标系，得到所述格点在所述图像坐标系下的图像坐标，包括：

基于所述内参矩阵和所述外参矩阵，将所述格点的三维坐标映射到所述图像坐标系，得到所述格点在所述图像坐标系下的精确坐标；

基于所述精确坐标在所述精确坐标周围的位置获得一个整数坐标作为所述图像坐标。

6.根据权利要求2-5任一所述的方法，其中，所述基于各所述格点分别对应的至少一个索引特征，确定所述多个格点中各所述格点分别对应的格点特征，包括：

对至少一个所述第一特征图中每个所述第一特征图执行展开操作，得到每个所述第一特征图对应的多个条状特征；

基于每个所述第一特征图对应的多个条状特征，确定至少一个所述索引特征中每个所述索引特征对应的条状索引特征，得到各所述格点分别对应的至少一个所述条状索引特征；

基于各所述格点分别对应的至少一个所述条状索引特征，确定各所述格点对应的所述格点特征。

7.根据权利要求2-5任一所述的方法，其中，所述基于各所述格点分别对应的至少一个索引特征，确定所述多个格点中每个所述格点分别对应的格点特征，包括：

针对所述多个格点中各所述格点，基于自注意力模型对各所述格点分别对应的至少一个所述索引特征进行特征提取，得到各所述格点分别对应的所述格点特征。

8.一种视觉感知装置，包括：

特征提取模块，用于对载具的多相机系统在同一时刻针对所述载具周围环境采集的不同视角的多个图像分别进行特征提取，得到多个第一特征图；

特征对应模块，用于基于所述同一时刻对应的鸟瞰图中包括的多个格点在所述特征提取模块确定的至少一个所述第一特征图中对应的索引特征，确定所述多个格点中各所述格点分别对应的格点特征；

特征图确定模块，用于基于各所述格点分别对应的所述特征对应模块确定的所述格点特征，确定所述鸟瞰图对应的第二特征图；

感知识别模块，用于基于预设感知任务对应的网络模型对所述特征图确定模块确定的所述第二特征图进行识别，确定所述预设感知任务对应的感知结果。

9.一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序用于执行上述权利要求1-7任一所述的视觉感知方法。

10.一种电子设备，所述电子设备包括：

处理器；

用于存储所述处理器可执行指令的存储器；

所述处理器，用于从所述存储器中读取所述可执行指令，并执行所述指令以实现上述权利要求1-7任一所述的视觉感知方法。

Images