CN116030447A - 一种支持多相机动态输入的感知方法、系统及车辆 - Google Patents
一种支持多相机动态输入的感知方法、系统及车辆 Download PDFInfo
- Publication number
- CN116030447A CN116030447A CN202310027756.4A CN202310027756A CN116030447A CN 116030447 A CN116030447 A CN 116030447A CN 202310027756 A CN202310027756 A CN 202310027756A CN 116030447 A CN116030447 A CN 116030447A
- Authority
- CN
- China
- Prior art keywords
- image data
- image
- target
- data
- target frames
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Image Processing (AREA)
Abstract
本发明公开了一种支持多相机动态输入的感知方法、系统及车辆,包括采集图像数据,其中图像数据为多视角下的图像数据,基于图像数据对感兴趣区域进行标注,生成可训练的多传感器原始图像数据和真值数据,基于多个目标框对真值数据做掩码处理,对多个目标框进行透视投影,并分别在不同视角图像上进行显示,根据目标框是否超出图像边界区域判断目标框是否出现在图像数据中,并且进一步确定是否对图像进行处理。本发明有效解决或在一定程度上提高了自动驾驶车辆在摄像头传感器故障状态下的安全性。
Description
技术领域
本发明涉及自动驾驶技术领域,具体涉及一种支持多相机动态输入的感知方法、系统及车辆。
背景技术
基于多相机的BEV视觉感知技术已经成为各个车企和厂家关注的重点方向,同时越来越多的量产方案也逐渐开始落地,然而软件技术的不断发展,需要依托稳定的硬件平台,然后车端元器件一般都存在使用寿命问题,极端情况下会出现传感器不能正常工作的状态。这类情况下,依然需要感知模型能够输出较高的检测精度,以便保证自动驾驶汽车能够正常行驶。因此,如何提高自动驾驶车辆在摄像头传感器故障状态下的安全性成为了人们亟待需要解决的问题。
发明内容
本发明的目的旨在至少在一定程度上解决上述的技术问题之一。
为此,本发明的第一个目的在于提出一种支持多相机动态输入的感知方法,用以如何提高自动驾驶车辆在摄像头传感器故障状态下的安全性问题,以提高自动驾驶车辆在摄像头传感器故障状态下的安全性。
本发明的第二个目的在于提出一种支持多相机动态输入的感知系统。
本发明的第三个目的在于提出一种车辆。
本发明的第四个目的在于提出一种电子设备。
本发明的第五个目的在于提出一种非暂时性计算机可读存储介质。
为达到上述目的,本发明第一方面实施例提出的支持多相机动态输入的感知方法,包括:
采集图像数据,其中所述图像数据为多视角下的图像数据;
基于所述图像数据对感兴趣区域进行标注,生成可训练的多传感器原始图像数据和真值数据;
基于多个目标框对所述真值数据做掩码处理;
对所述多个目标框进行透视投影,并分别在不同视角图像上进行显示;根据所述目标框是否超出图像边界区域判断所述目标框是否出现在所述图像数据中,并且进一步确定是否对所述图像进行处理。
根据本发明的一个实施例,所述基于多个目标框对所述真值数据做掩码处理包括:
加载所述真值数据至内存中,采用随机策略选中所述多个目标框,对所述真值数据做掩码处理。
根据本发明的一个实施例,所述对所述多个目标框进行透视投影,并分别在不同视角图像上进行显示;根据所述目标框是否超出图像边界区域判断所述目标框是否出现在所述图像数据中,并且进一步确定是否对所述图像进行处理包括:
对所述多个目标框进行透视投影,并分别在所述不同视角图像上进行显示;
如超出所述图像边界区域,则所述目标框未出现在所述图像上,无需对所述图像进行任何处理;如未超出所述图像边界区域,则所述目标框出现在所述图像上,需要将所述图像的像素置为无效值。
根据本发明的一个实施例,所述真值数据包括3D空间上的坐标框、点集或目标类别。
根据本发明的一个实施例,所述坐标框为检测任务;所述点集为分割任务;所述目标类别为分类。
根据本发明的一个实施例,通过数据采集车辆采集所述图像数据。
为达到上述目的,本发明第二方面实施例提出一种支持多相机动态输入的感知系统,包括:
图像采集模块,用于采集图像数据,其中所述图像数据为多视角下的图像数据;
数据生成模块,用于基于所述图像数据对感兴趣区域进行标注,生成可训练的多传感器原始图像数据和真值数据;
掩码处理模块,用于基于多个目标框对所述真值数据做掩码处理;
多相机感知模块,用于对所述多个目标框进行透视投影,并分别在不同视角图像上进行显示;根据所述目标框是否超出图像边界区域判断所述目标框是否出现在所述图像数据中,并且进一步确定是否对所述图像进行处理。
为达到上述目的,本发明第三方面实施例提出的一种车辆,所述车辆包括上述第二方面中支持多相机动态输入的感知系统的任一实施例。
为达到上述目的,本发明第四方面实施例提出的一种电子设备,包括:
存储器,其用于存储计算机可执行指令;以及
处理器,其用于运行所述计算机可执行指令,以执行上述第一方面中支持多相机动态输入的感知方法的任一实施例。
为达到上述目的,本发明第五方面实施例提出的一种非暂时性计算机可读存储介质,所述存储介质上存储有计算机可执行指令,当所述指令被计算机执行时,使得所述计算机执行上述第一方面中支持多相机动态输入的感知方法的任一实施例。
本发明附加的方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本发明的实践了解到。
与现有技术相比,本申请实施例的有益效果是:
本发明提供一种支持多相机动态输入的感知方法、系统及车辆,本方法有效解决或在一定程度上提高了自动驾驶车辆在摄像头传感器故障状态下的安全性,能够在摄像头传感器故障的状态下,确保检测精度下降不明显,降低自动驾驶汽车安全性风险。并且,本系统容易模块化、插件化,容易扩展到其他类似任务中。
为了能更清楚了解本发明的技术手段,而可依照说明书的内容予以实施,并且为让本发明的上述和其他目的、特征和优点能够更明显易懂,以下特举较佳实施例,并配合附图,详细说明如下。本发明的其它特征和优点将在随后的说明书中阐述,并且,部分地从说明书中变得显而易见,或者通过实施本发明而得以体现。本发明的目的和其他优点可通过在说明书、权利要求书以及附图中所特别指出的结构来实现和获得。
附图说明
为了更清楚地说明本发明中的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是根据本发明一个实施例提供的支持多相机动态输入的感知方法的流程图;
图2是根据本发明一个具体实施例提供的支持多相机动态输入的感知方法的流程图;
图3是根据本发明一个具体实施例提供的支持多相机动态输入的感知方法中透视变换的原理图;
图4是根据本发明一个实施例提供的支持多相机动态输入的感知系统的结构示意图;
图5是根据本发明一个实施例提供的电子设备的结构示意图。
具体实施方式
下面详细描述本发明的实施例,所述实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的,旨在用于解释本发明,而不能理解为对本发明的限制。
现有技术中,如何提高自动驾驶车辆在摄像头传感器故障状态下的安全性成为了人们亟待需要解决的问题。为此,本发明提出了一种支持多相机动态输入的感知方法、系统及车辆。本方法是基于深度学习的方法,一般包含训练和测试两个阶段。该方法的重点在于训练阶段,下面介绍模型训练阶段的一般实现过程:
具体的,下面参考附图描述本发明实施例的一种支持多相机动态输入的感知方法、系统及车辆。
图1是根据本发明一个实施例提供的支持多相机动态输入的感知方法的流程图,需要说明的是,本发明实施例的支持多相机动态输入的感知方法可应用于本发明实施例的支持多相机动态输入的感知系统,该系统可被配置于电子设备上,也可以被配置在服务器中。其中,电子设备可以是PC机或移动终端(例如智能手机、平板电脑等)。本发明实施例对此不作限定。
参考图1-3,本实施例提供一种支持多相机动态输入的感知方法,包括:
S110,采集图像数据,其中图像数据为多视角下的图像数据;
S120,基于图像数据对感兴趣区域进行标注,生成可训练的多传感器原始图像数据和真值数据;
S130,基于多个目标框对真值数据做掩码处理;
其中,基于多个目标框对真值数据做掩码处理包括:
加载真值数据至内存中,采用随机策略选中多个目标框,对真值数据做掩码处理。
S140,对多个目标框进行透视投影,并分别在不同视角图像上进行显示;根据目标框是否超出图像边界区域判断目标框是否出现在图像数据中,并且进一步确定是否对图像进行处理。
其中,对多个目标框进行透视投影,并分别在不同视角图像上进行显示;根据目标框是否超出图像边界区域判断目标框是否出现在图像数据中,并且进一步确定是否对图像进行处理包括:
对多个目标框进行透视投影,并分别在不同视角图像上进行显示;
如超出图像边界区域,则目标框未出现在图像上,无需对图像进行任何处理;如未超出图像边界区域,则目标框出现在图像上,需要将图像的像素置为无效值。
在本发明的一个实施例中,真值数据包括3D空间上的坐标框、点集或目标类别。需要说明的是,坐标框为检测任务,点集为分割任务,目标类别为分类。
在本发明的一个实施例中,通过数据采集车辆采集图像数据。
本发明实施例提供的支持多相机动态输入的感知方法,提高了自动驾驶车辆在摄像头传感器故障状态下的安全性,能够在摄像头传感器故障的状态下,确保检测精度下降不明显,降低自动驾驶汽车安全性风险。并且,本方法容易模块化、插件化,容易扩展到其他类似任务中。
图2是根据本发明一个具体实施例提供的支持多相机动态输入的感知方法的流程图,图3是根据本发明一个具体实施例提供的支持多相机动态输入的感知方法中透视变换的原理图;具体是,参考图2-3,本方法是基于深度学习的方法,一般包含训练和测试两个阶段。该方法的重点在于训练阶段,下面介绍模型训练阶段的一般实现过程:数据采集车负责采集多视角下的图像数据,且经过专业标注人员对感兴趣区域进行标准,产生可训练的多传感器原始图像数据和真值数据。第一,加载真值数据到内存中,使用随机策略选中N个目标框,对真值数据做掩码处理,相当于清除掉该N个目标框,保留剩下的目标框数据;第二,对上述N个目标框进行透视投影,分别在不同视角图像上进行显示,如果超出图像边界区域,则意味着该目标框没有出现在该图像上,那么不需要对该图像进行任何处理。反之,则意味着目标框出现在该图像上,则需要将该图像像素置为无效值。该操作的作用是:即使某个相机不能正常工作,也能保证模型在其他相机图像上产生正常的感知效果。
与上述几种实施例提供的支持多相机动态输入的感知方法相对应,本发明的一种实施例还提供了一种支持多相机动态输入的感知系统,由于本发明实施例提供的支持多相机动态输入的感知系统与上述几种实施例提供的支持多相机动态输入的感知方法相对应,因此在支持多相机动态输入的感知方法的实施方式也适用于本实施例提供的支持多相机动态输入的感知系统,在本实施例中不再详细描述。
图4是根据本发明一个实施例提供的支持多相机动态输入的感知系统的结构示意图;
参考图4,该支持多相机动态输入的感知系统的400包括:图像采集模块410、数据生成模块420、掩码处理模块430和多相机感知模块440,其中:
图像采集模块410,用于采集图像数据,其中图像数据为多视角下的图像数据;
数据生成模块420,用于基于图像数据对感兴趣区域进行标注,生成可训练的多传感器原始图像数据和真值数据;
掩码处理模块430,用于基于多个目标框对真值数据做掩码处理;
多相机感知模块440,用于对多个目标框进行透视投影,并分别在不同视角图像上进行显示;根据目标框是否超出图像边界区域判断目标框是否出现在图像数据中,并且进一步确定是否对图像进行处理。
本发明实施例提供的支持多相机动态输入的感知系统,提高了自动驾驶车辆在摄像头传感器故障状态下的安全性,能够在摄像头传感器故障的状态下,确保检测精度下降不明显,降低自动驾驶汽车安全性风险。并且,本系统容易模块化、插件化,容易扩展到其他类似任务中。
在本发明的一个实施例中,掩码处理模块430,具体用于加载真值数据至内存中,采用随机策略选中多个目标框,对真值数据做掩码处理。
在本发明的一个实施例中,多相机感知模块440,具体用于对多个目标框进行透视投影,并分别在不同视角图像上进行显示;
如超出图像边界区域,则目标框未出现在图像上,无需对图像进行任何处理;如未超出图像边界区域,则目标框出现在图像上,需要将图像的像素置为无效值。
在本发明的一个实施例中,真值数据包括3D空间上的坐标框、点集或目标类别;需要说明的是,坐标框为检测任务,点集为分割任务,目标类别为分类。
在本发明的一个实施例中,通过数据采集车辆采集图像数据。
在本发明的另一个实施例中,还提供了一种车辆,该车辆包括上述实施例中任一项所论述的支持多相机动态输入的感知系统。
在本发明的另一个实施例中,还提供了一种电子设备,包括:
存储器,其用于存储计算机可执行指令;以及
处理器,其用于运行计算机可执行指令,以执行上述实施例中任一项所论述的方法。其中,电子设备可以包括一个或多个处理器和存储器。存储器中存储有计算机可执行指令,该指令在由处理器执行时,使电子设备执行上述支持多相机动态输入的感知方法的任一实施例。电子设备还可以包括通信接口。
处理器可以是任何合适的处理设备,例如微处理器(microprocessor)、微控制器(microcontroller)、集成电路或其他合适的处理设备。存储器可以包括任何合适的计算系统或介质,包括但不限于非暂时性计算机可读介质、随机存取存储器(RAM)、只读存储器(ROM)、硬盘、闪存或其他存储器设备。存储器可以存储计算机可执行指令,该指令可以由处理器执行,以使电子设备执行上述支持多相机动态输入的感知方法的任一实施例。存储器还可以存储数据。
本发明实施例中,处理器可以执行包括在指令中的各种模块,以实现上述支持多相机动态输入的感知系统中的支持多相机动态输入的感知方法的实施例。例如,电子设备可以实现上述支持多相机动态输入的感知系统中的各个模块,以执行图1所示的方法S110、S120、S130及S140以及图2和图3所示的方法。
在本发明的再一个实施例中,还提供了一种非暂时性计算机可读存储介质。该计算机可读存储介质上存储有计算机可执行指令,当所述指令被计算机执行时,使得所述计算机执行上述支持多相机动态输入的感知系统中的支持多相机动态输入的感知方法的任一实施例。
在本发明的又一个实施例中,还提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述实施例中任一支持多相机动态输入的感知方法。
根据本发明实施例的装置,下面参考图5,其示出了适于用来实现本发明实施例的电子设备500的结构示意图。本发明实施例中的终端设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图5示出的电子设备仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图5所示,电子设备500可以包括处理装置(例如中央处理器、图形处理器等)501,其可以根据存储在只读存储器(ROM)502中的程序或者从存储装置508加载到随机访问存储器(RAM)503中的程序而执行各种适当的动作和处理。在RAM 503中,还存储有电子设备500操作所需的各种程序和数据。处理装置501、ROM 502以及RAM 503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。
通常,以下装置可以连接至I/O接口505:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置506;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置507;包括例如磁带、硬盘等的存储装置508;以及通信装置509。通信装置509可以允许电子设备500与其他设备进行无线或有线通信以交换数据。虽然图5示出了具有各种装置的电子设备500,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地,根据本发明的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本发明的实施例包括一种计算机程序产品,其包括承载在非暂态计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置509从网络上被下载和安装,或者从存储装置508被安装,或者从ROM502被安装。在该计算机程序被处理装置501执行时,执行本发明实施例的方法中限定的上述功能。
需要说明的是,本发明上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本发明中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
在一些实施方式中,客户端、服务器可以利用诸如HTTP(HyperText TransferProtocol,超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信,并且可以与任意形式或介质的数字数据通信(例如,通信网络)互连。通信网络的示例包括局域网(“LAN”),广域网(“WAN”),网际网(例如,互联网)以及端对端网络(例如,ad hoc端对端网络),以及任何当前已知或未来研发的网络。
上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:采集图像数据,其中图像数据为多视角下的图像数据,基于图像数据对感兴趣区域进行标注,生成可训练的多传感器原始图像数据和真值数据,基于多个目标框对真值数据做掩码处理,对多个目标框进行透视投影,并分别在不同视角图像上进行显示,根据目标框是否超出图像边界区域判断目标框是否出现在图像数据中,并且进一步确定是否对图像进行处理。
或者,上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:采集图像数据,其中图像数据为多视角下的图像数据,基于图像数据对感兴趣区域进行标注,生成可训练的多传感器原始图像数据和真值数据,基于多个目标框对真值数据做掩码处理,对多个目标框进行透视投影,并分别在不同视角图像上进行显示,根据目标框是否超出图像边界区域判断目标框是否出现在图像数据中,并且进一步确定是否对图像进行处理。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明的操作的计算机程序代码,上述程序设计语言包括但不限于面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本发明实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。其中,单元的名称在某种情况下并不构成对该单元本身的限定,例如,第一获取单元还可以被描述为“获取至少两个网际协议地址的单元”。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。
在本发明的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
以上描述仅为本发明的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本发明中所涉及的公开范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述公开构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本发明中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
此外,虽然采用特定次序描绘了各操作,但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下,多任务和并行处理可能是有利的。同样地,虽然在上面论述中包含了若干具体实现细节,但是这些不应当被解释为对本发明的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地,在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。
尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题,但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反,上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。
最后应当说明的是,以上仅为本发明的优选实施例而已,并不用于限制本发明,对于本领域的技术人员来说,本发明可以有各种更改和变化。凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均包含在申请待批的本发明的权利要求范围之内。
Claims (10)
1.一种支持多相机动态输入的感知方法,其特征在于,包括:
采集图像数据,其中所述图像数据为多视角下的图像数据;
基于所述图像数据对感兴趣区域进行标注,生成可训练的多传感器原始图像数据和真值数据;
基于多个目标框对所述真值数据做掩码处理;
对所述多个目标框进行透视投影,并分别在不同视角图像上进行显示;根据所述目标框是否超出图像边界区域判断所述目标框是否出现在所述图像数据中,并且进一步确定是否对所述图像进行处理。
2.根据权利要求1所述的感知方法,其特征在于,所述基于多个目标框对所述真值数据做掩码处理包括:
加载所述真值数据至内存中,采用随机策略选中所述多个目标框,对所述真值数据做掩码处理。
3.根据权利要求2所述的感知方法,其特征在于,所述对所述多个目标框进行透视投影,并分别在不同视角图像上进行显示;根据所述目标框是否超出图像边界区域判断所述目标框是否出现在所述图像数据中,并且进一步确定是否对所述图像进行处理包括:
对所述多个目标框进行透视投影,并分别在所述不同视角图像上进行显示;
如超出所述图像边界区域,则所述目标框未出现在所述图像上,无需对所述图像进行任何处理;如未超出所述图像边界区域,则所述目标框出现在所述图像上,需要将所述图像的像素置为无效值。
4.根据权利要求3所述的感知方法,其特征在于,所述真值数据包括3D空间上的坐标框、点集或目标类别。
5.根据权利要求4所述的感知方法,其特征在于,所述坐标框为检测任务;所述点集为分割任务;所述目标类别为分类。
6.根据权利要求1所述的感知方法,其特征在于,通过数据采集车辆采集所述图像数据。
7.一种支持多相机动态输入的感知系统,其特征在于,包括:
图像采集模块,用于采集图像数据,其中所述图像数据为多视角下的图像数据;
数据生成模块,用于基于所述图像数据对感兴趣区域进行标注,生成可训练的多传感器原始图像数据和真值数据;
掩码处理模块,用于基于多个目标框对所述真值数据做掩码处理;
多相机感知模块,用于对所述多个目标框进行透视投影,并分别在不同视角图像上进行显示;根据所述目标框是否超出图像边界区域判断所述目标框是否出现在所述图像数据中,并且进一步确定是否对所述图像进行处理。
8.一种车辆,其特征在于,所述车辆包括权利要求7所述的支持多相机动态输入的感知系统。
9.一种电子设备,其特征在于,包括:
存储器,其用于存储计算机可执行指令;以及
处理器,其用于运行所述计算机可执行指令,以执行权利要求1至6中任一项所述的支持多相机动态输入的感知方法。
10.一种非暂时性计算机可读存储介质,其特征在于,所述存储介质上存储有计算机可执行指令,当所述指令被计算机执行时,使得所述计算机执行权利要求1至6中任一项所述的支持多相机动态输入的感知方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310027756.4A CN116030447A (zh) | 2023-01-09 | 2023-01-09 | 一种支持多相机动态输入的感知方法、系统及车辆 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310027756.4A CN116030447A (zh) | 2023-01-09 | 2023-01-09 | 一种支持多相机动态输入的感知方法、系统及车辆 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116030447A true CN116030447A (zh) | 2023-04-28 |
Family
ID=86075565
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310027756.4A Pending CN116030447A (zh) | 2023-01-09 | 2023-01-09 | 一种支持多相机动态输入的感知方法、系统及车辆 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116030447A (zh) |
-
2023
- 2023-01-09 CN CN202310027756.4A patent/CN116030447A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109766879B (zh) | 字符检测模型的生成、字符检测方法、装置、设备及介质 | |
CN110647702B (zh) | 一种图片预加载的方法、装置、电子设备及可读介质 | |
CN110796664B (zh) | 图像处理方法、装置、电子设备及计算机可读存储介质 | |
CN110728622B (zh) | 鱼眼图像处理方法、装置、电子设备及计算机可读介质 | |
KR102547527B1 (ko) | 객체 라벨링 방법 및 장치 | |
CN110349107B (zh) | 图像增强的方法、装置、电子设备、及存储介质 | |
CN111222509B (zh) | 目标检测方法、装置及电子设备 | |
US20240112299A1 (en) | Video cropping method and apparatus, storage medium and electronic device | |
CN112053286B (zh) | 图像处理方法、装置、电子设备和可读介质 | |
CN116596748A (zh) | 图像风格化处理方法、装置、设备、存储介质和程序产品 | |
CN113255812B (zh) | 视频边框检测方法、装置和电子设备 | |
CN116030447A (zh) | 一种支持多相机动态输入的感知方法、系统及车辆 | |
CN113364993B (zh) | 曝光参数值处理方法、装置和电子设备 | |
CN115086541B (zh) | 一种拍摄位置确定方法、装置、设备及介质 | |
CN113961280B (zh) | 视图的展示方法、装置、电子设备及计算机可读存储介质 | |
CN111680754B (zh) | 图像分类方法、装置、电子设备及计算机可读存储介质 | |
CN111737575B (zh) | 内容分发方法、装置、可读介质及电子设备 | |
CN111258582B (zh) | 一种窗口渲染方法、装置、计算机设备及存储介质 | |
CN116311158A (zh) | 基于虚拟相机的多视角鸟瞰图障碍物检测方法及检测系统 | |
CN114359673B (zh) | 基于度量学习的小样本烟雾检测方法、装置和设备 | |
CN113283436B (zh) | 图片处理方法、装置和电子设备 | |
CN111738958B (zh) | 图片修复方法、装置、电子设备及计算机可读介质 | |
CN113808050B (zh) | 3d点云的去噪方法、装置、设备及存储介质 | |
CN114827482B (zh) | 图像亮度的调整方法、装置、电子设备及介质 | |
CN111563214B (zh) | 参考线处理方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |