CN109101690A - 用于渲染车辆自动驾驶模拟器中的场景的方法和装置 - Google Patents
用于渲染车辆自动驾驶模拟器中的场景的方法和装置 Download PDFInfo
- Publication number
- CN109101690A CN109101690A CN201810757392.4A CN201810757392A CN109101690A CN 109101690 A CN109101690 A CN 109101690A CN 201810757392 A CN201810757392 A CN 201810757392A CN 109101690 A CN109101690 A CN 109101690A
- Authority
- CN
- China
- Prior art keywords
- virtual
- map element
- scene
- dynamic object
- present frame
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F30/00—Computer-aided design [CAD]
- G06F30/20—Design optimisation, verification or simulation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T13/00—Animation
- G06T13/20—3D [Three Dimensional] animation
Abstract
公开了一种用于渲染车辆自动驾驶模拟器中的场景的方法和装置,该方法可以包括:从高精度地图中提取至少一个地图元素;根据用于控制虚拟目标车辆在场景中行进的自动驾驶方案来确定虚拟目标车辆的当前状态;根据至少一个地图元素和与当前状态相对应的车辆渲染参数来生成场景的当前帧;根据自动驾驶方案来确定虚拟目标车辆在与场景的下一帧相对应的时间点的预测状态;以及根据当前帧、预测状态和至少一个地图元素来生成下一帧。通过该方法和装置,能够良好地渲染车辆自动驾驶模拟器中的场景并且能够获得良好的调试和验证效果。
Description
技术领域
本公开总体上涉及车辆自动驾驶的技术领域,并且具体地涉及一种用于渲染车辆自动驾驶模拟器中的场景的方法和装置。
背景技术
车辆自动驾驶系统的开发往往需要大量的调试和验证。实车调试的方式通常需要大量的人力和物力成本,而且具有一定的风险性。可以通过车辆自动驾驶模拟器进行初步的调试和验证。
期望能够良好地渲染车辆自动驾驶模拟器中的场景,进而获得良好的调试和验证效果。
发明内容
一方面,本公开提供了一种用于渲染车辆自动驾驶模拟器中的场景的方法,该方法可以包括:从高精度地图中提取至少一个地图元素;根据用于控制虚拟目标车辆在前述场景中行进的自动驾驶方案来确定前述虚拟目标车辆的当前状态;根据前述至少一个地图元素和与前述当前状态相对应的车辆渲染参数来生成前述场景的当前帧;根据前述自动驾驶方案来确定前述虚拟目标车辆在与前述场景的下一帧相对应的时间点的预测状态;以及根据前述当前帧、前述预测状态和前述至少一个地图元素来生成前述下一帧。
另一方面,本公开提供了一种计算机可读取的非临时性存储介质,在其上存储有程序指令,前述程序指令可以在被执行时执行上述方法。
另一方面,本公开提供了一种用于渲染车辆自动驾驶模拟器中的场景的装置,该装置可以包括一个或多个处理器,前述一个或多个处理器可以被配置为在启动时至少执行上述方法。
另一方面,本公开提供了一种用于渲染车辆自动驾驶模拟器中的场景的装置,该装置可以包括高精度地图解析器、自动驾驶模拟控制器、虚拟动态对象管理器和渲染器。高精度地图解析器可以被配置为从高精度地图中提取至少一个地图元素。自动驾驶模拟控制器可以被配置为基于待测试自动驾驶算法来确定用于控制虚拟目标车辆在前述场景中行进的自动驾驶方案,基于前述自动驾驶方案来确定前述虚拟目标车辆的当前状态以及与前述场景的下一帧相对应的时间点的预测状态。虚拟动态对象管理器可以被配置为提供至少一个虚拟动态对象以及前述至少一个虚拟动态对象中的每个虚拟动态对象的动态对象渲染参数。渲染器可以被配置为根据前述至少一个地图元素和与前述当前状态相对应的车辆渲染参数来生成前述场景的当前帧,以及根据前述当前帧、前述预测状态和前述至少一个地图元素来生成前述下一帧。
根据本公开的实施例的方法和装置分开渲染不同类型的对象(例如道路、车道线、行人、其他车辆等),并且允许显示诸如控制指令、车辆状态等调试信息,能够良好地渲染车辆自动驾驶模拟器中的场景并且能够获得良好的调试和验证效果。
附图说明
图1示出根据本公开的实施例的用于渲染车辆自动驾驶模拟器中的场景的示例方法的流程图。
图2示出通过根据本公开的实施例的方法渲染的场景的一个示例。
图3示出通过根据本公开的实施例的方法渲染的场景的另一示例。
图4示出通过根据本公开的实施例的方法渲染的场景的另一示例。
图5示出根据本公开的实施例的用于渲染车辆自动驾驶模拟器中的场景的示例装置的框图。
具体实施方式
下面结合附图来描述根据本公开的实施例的用于渲染车辆自动驾驶模拟器中的场景的方法和装置。
如图1所示,根据本公开的实施例的用于渲染车辆自动驾驶模拟器中的场景的示例方法100可以包括:
步骤S110,从高精度地图中提取至少一个地图元素;
步骤S120,根据用于控制虚拟目标车辆在前述场景中行进的自动驾驶方案来确定前述虚拟目标车辆的当前状态;
步骤S130,根据前述至少一个地图元素和与前述当前状态相对应的车辆渲染参数来生成前述场景的当前帧;
步骤S140,根据前述自动驾驶方案来确定前述虚拟目标车辆在与前述场景的下一帧相对应的时间点的预测状态;以及
步骤S150,根据前述当前帧、前述预测状态和前述至少一个地图元素来生成前述下一帧。
在一个实施例中,步骤S110可以包括:基于扩展的地图元素类型来解析所述高精度地图;以及基于扩展的地图元素描述来表示所提取的每个地图元素。
例如,基于诸如OpenDRIVE R1.4H等高精度地图标准,根据本公开的实施例的高精度地图的地图元素类型可以包括诸如道路、车道线、停车位、隧道、桥梁、信号指示牌、交通信号灯、铁路、路口区域、站台等一个或多个标准的地图元素类型。
在本公开的实施例中,可以在标准的地图元素类型的基础上进行扩展,使得根据本公开的实施例的地图元素类型不仅可以包括诸如道路、车道线、停车位、隧道、桥梁、信号指示牌、交通信号灯、铁路、路口区域、站台等一个或多个标准的地图元素类型,还可以包括但不限于诸如禁停区、停止线、人行横道、减速带、柱子、墙体、围栏、树木、花坛、建筑物和随机静态障碍物等一个或多个扩展的地图元素类型,从而允许渲染出更接近于真实环境的场景地图,并为车辆自动驾驶算法的调试和验证提供更接近于真实场景的调试和验证条件。随机静态障碍物可以是以预定概率或随机性地出现在诸如道路、车道线、停车位、隧道、桥梁等其他地图元素上的具有特定形态和尺寸且至少在一段时间内静止不动的障碍物,例如车位锁、落石、塌陷、损坏车辆、路障等。
可以针对每个扩展的地图元素类型设置相应的记录项。例如,对于减速带,可以设置表格1所示的减速带记录项:
表格1
对于其他的扩展的地图元素类型,可以根据需要,来设计相应的父节点、实例数量和属性并设置相应的记录项。例如,对于人行横道,在一个实施例中,可以将其父节点设置为“road”(即,标准的地图元素类型“道路”),并且将其实例数量设置为“1+”(即,至少一个)。
另外,在诸如OpenDRIVE R1.4H等高精度地图标准中,可以基于参考线的曲线方程和偏移来表达边界形状。在本公开的实施例中,可以在标准的地图元素描述方式的基础上进行扩展,使得根据本公开的实施例的地图元素描述不仅可以包括基于参考线的曲线方程和偏移来表达边界形状,还可以包括采用绝对坐标序列(例如,在场景的XY平面中的绝对坐标)来表达边界形状和/或采用相对于基准物的相对坐标序列(例如,以场景中的目标车辆当前所在的位置为基准点的相对坐标)来表达边界形状等扩展的地图元素描述方式。
另外,根据本公开的实施例的扩展的地图元素描述方式还可以包括描述不同类型的地图元素之间的关联性和/或不同的地图元素实体或实例之间的关联性。例如,对于作为标准地图元素类型之一的“车道线区域”,可以对其属性进行扩展,例如增加类型关联性字段(例如,“assocatedType”),以指示例如与“人行横道”类型具有关联性(例如“assocatedType=crossing”)。另外,还可以增加实例关联性字段(例如,“assocatedID”),以指示例如与某个减速带或信号灯的实例有关的关联性。
然后,示例方法100可以继续到步骤S120。在一个实施例中,在步骤S120中,可以根据用于控制虚拟目标车辆在场景中行进的自动驾驶方案来确定虚拟目标车辆的当前状态。
在一个实施例中,控制虚拟目标车辆在场景中行进的自动驾驶方案可以是通过作为车辆自动驾驶模拟器进行模拟和调试的目标的车辆自动驾驶算法或路径规范算法制定的自动驾驶方案(例如,可以包括行进路径、行进速度等不同方面),这样的自动驾驶方案可以由车辆自动驾驶算法或路径规范算法根据实时获得的车辆周边的信息而自动调整。本公开不局限于任何特定的自动驾驶方案。
在任何一个时刻,可以当前的自动驾驶方案来确定虚拟目标车辆的当前状态,包括但不限于虚拟目标车辆在当前时刻的形状、基准点位置(可以是一个或多个)、重心位置、重量、车轮位置、车轮状态、车灯状态、行进方向、车头朝向、车身倾斜状况、规划轨迹、位于行进方向后方的历史轨迹以及位于行进方向前方的预测轨迹等之中的一个或多个。
相应地,可以确定与虚拟目标车辆的当前状态相对应的或者可以表征虚拟目标车辆的当前状态的一个或多个车辆渲染参数,例如可以包括但不限于外观数据(例如,长度、高度、宽度、底盘高度等)、基准点位置(例如,在使用长方体来代表虚拟目标车辆的情况下可以包括长方体的8个顶点的位置坐标,或者在使用虚拟目标车辆的质心来简单地表征虚拟目标车辆的情况下可以是虚拟目标车辆的质心坐标)、重心位置、重量、车轮位置(例如,各个车轮的中心位置的坐标,或者各个车轮与地面相接触的位置处的坐标,等等)、车轮状态(例如,每个车轮是否转动,各个车轮的角度,各个车轮的转速,各个车轮的转动方向,等等)、车灯状态(例如,是否开启转向灯,是否开启前车灯,等等)、行进方向、车头朝向(例如,车头方向相对于水平和/或垂直基准面或基准线的角度)、车身倾斜状况(例如,车身的纵长轴相对于水平面和/或垂直面的角度,各个车轮的位置坐标,等等)、规划轨迹、位于行进方向后方的历史轨迹以及位于行进方向前方的预测轨迹中的一个或多个。
在一个实施例中,一个或多个车辆渲染参数可以由设计人员在创建虚拟目标车辆时任意地指定,并且可以不考虑实际的参数应当如何,例如虚拟目标车辆的长度、宽度、高度、底盘高度、车轮位置等。
在另外的实施例中,可以从车辆数据库中读取与实际车辆相对应的车辆参数(例如,车辆的品牌、车型和各种实际参数),并根据所读取的车辆参数创建虚拟目标车辆,同时获得一个或多个车辆渲染参数,例如虚拟目标车辆的长度、宽度、高度、底盘高度、车轮位置等。
然后,示例方法100可以继续到步骤S130,以根据所提取的至少一个地图元素和与当前状态相对应的车辆渲染参数来生成场景的当前帧。
根据不同的实施例,可以生成所提取的每个地图元素的模型(例如,图像模型或几何模型),然后通过例如贴图、加载模型等不同的方式将各个地图元素(例如,道路、车道线、停止线、人行横道、交通信号灯等)的模型加载到例如场景的当前帧的背景图片上。同时,可以根据虚拟目标车辆的当前的车辆渲染参数将虚拟目标车辆按照对应的当前状态渲染到场景的当前帧上。
图2示出所渲染出来的当前帧的一个示例。在该示例中,按照较近的车外俯视角(例如,从虚拟车辆的后方按照一定角度俯视整个车辆),以虚拟车辆为基准点渲染场景的当前帧。在另外的实施例中,可以改变场景的呈现视角。根据不同的实施例,可以采用诸如第三人称视角(从上向下俯视的角度来观看整个虚拟目标车辆及周边的环境)、第一人称视角(包括例如“引擎盖视角”、“行车记录仪视角”、“驾驶舱视角”等)等不同的视角来呈现场景中的虚拟目标车辆及周围环境。
根据不同的实施例,可以使视角跟随虚拟目标车辆,例如相对于虚拟目标车辆不变;也可以使视角相对于场景的某个方向(例如,场景中的北方)或者特定的标志性地图元素(例如,特定建筑物或者目的地)不变。在另外的实施例中,可以根据需要调整和切换视角。
在图2的示例中,作为虚拟目标车辆的周围环境而渲染的地图元素包括道路、路口区域、车道线、停止线、人行横道、信号指示牌和交通信号灯等。例如,信号指示牌和交通信号灯可以基于几何模型或部分图像模型而渲染在当前帧中,例如呈现为悬浮着的带有多个信号灯标志(例如,用向左箭头表示的“左转信号灯”,用向上箭头表示的“直行信号灯”,用向右箭头表示的“右转信号灯”)的扁平长方体,并且在不同的帧中,信号灯标志可以具有不同的颜色或显示状态(例如,“红色”或“被显示”可以表示对应的信号灯亮起)。另外,不可行驶的区域以及当前不关注的地图元素或区域未被显示或者使用特定的颜色或状态标记。
在图2的示例中,虚拟目标车辆根据当前的车辆渲染参数(例如,车头朝向、规划轨迹等)而被渲染在当前帧中的特定位置处,并且在虚拟目标车辆的行进方向的后方还渲染有一段历史轨迹。
在一个实施例中,步骤S130还可以包括:在当前帧上的特定位置处(例如,图2的左上角处)显示关于自动驾驶方案的当前调试信息。
根据不同的实施例,这样的当前调试信息可以包括但不限于:自动驾驶方案的输出数据中与当前帧相对应的当前时间点相对应的当前规划数据;虚拟目标车辆在当前时间点的基准点位置(可以是一个或多个)、车身状态、车轮位置、车轮状态、车灯状态、行进方向、行进速度、行进加速度、车头朝向、档位数据、方向盘数据、油门数据、刹车数据、相对当前规划数据的偏差以及事故概率等。
在一个实施例中,步骤S130还可以包括:计算从虚拟目标车辆上的激光雷达向四周发射的扫描光线以及相应的点云;以及在当前帧上渲染计算出的点云。
如图3所示,在当前帧中以与图2的示例中的视角不同的视角渲染了例如车道线、柱子、墙体、停车位和建筑物等静态地图元素,并且还在虚拟目标车辆的例如车顶中心处呈现了一个激光雷达。
在一个实施例中,可以根据车辆的当前状态确定激光雷达的当前位置,进而根据激光雷达的参数模拟激光雷达发射扫描光线。然后,例如可以根据激光雷达的当前位置以及激光雷达相对于虚拟目标车辆周围的静态地图元素的距离等信息,通过诸如模拟进行扫描光线的直线投影等方法,确定位于虚拟目标车辆周围的点云中的各个点的位置坐标,并在当前帧上渲染所计算出的点云。
在步骤S130之后,示例方法100可以继续到步骤S140,以根据自动驾驶方案来确定虚拟目标车辆在与场景的下一帧相对应的时间点的预测状态。在另外的实施例中,示例方法100也可以例如在步骤S120或S130的同时执行步骤S140。
在一个实施例中,在步骤S140中,可以获得当前帧中的在虚拟目标车辆周围的环境信息。例如,可以由作为调试和验证目标的车辆自动驾驶算法根据在当前帧上渲染的点云来确定周围的环境信息,也可以由车辆自动驾驶算法分析由虚拟目标车辆上的虚拟前置摄像头模拟拍摄的虚拟图片(例如,基于深度学习网络进行图像识别和检测)来确定至少位于虚拟目标车辆的行进方向前方的环境信息。
可以根据自动驾驶方案(可能是车辆自动驾驶算法根据周围的环境信息而调整后的自动驾驶方案,例如调整后的规划轨迹等)来确定虚拟目标车辆在与场景的下一帧相对应的时间点的预测状态,包括但不限于例如虚拟目标车辆在下一时刻的形状、基准点位置(可以是一个或多个)、重心位置、重量、车轮位置、车轮状态、车灯状态、行进方向、车头朝向、车身倾斜状况、规划轨迹、位于行进方向后方的历史轨迹以及位于行进方向前方的预测轨迹等之中的一个或多个。
然后,示例方法100可以继续到步骤S150,以根据当前帧、预测状态和前述的至少一个地图元素来生成场景的下一帧。
在一个实施例中,在步骤S150中,可以基于虚拟目标车辆的当前状态和预测状态来确定当前帧和下一帧的视野,然后可以根据当前帧和下一帧的视野来变换当前帧。同时,响应于变换,还可以调整要在下一帧中显示的地图元素。
例如,可以确定当前帧和下一帧的视野差异,然后根据该差异确定出需要在下一帧中添加或部分加入的地图元素以及需要从当前帧中删除或部分移出的地图元素,并且确定针对当前帧中的剩余地图元素的变换和调整方式,例如放大、旋转、变形、缩小等。由此,实现在不同帧之间的镜头或视角的模拟推进和转换,使得通过连续的帧呈现出虚拟目标车辆在场景中动态地行进。
在另外的实施例中,示例方法100还可以包括:生成至少一个虚拟动态对象;确定所述至少一个虚拟动态对象中的每个虚拟动态对象的动态对象渲染参数;根据每个虚拟动态对象的动态对象渲染参数在当前帧中渲染每个虚拟动态对象;以及确定与当前帧中的每个虚拟动态对象的当前状态相关联的当前检测参数。
根据不同的实施例,虚拟动态对象可以包括但不限于虚拟行人、虚拟机动车辆、虚拟非机动车辆、虚拟动物和虚拟漂浮物中的一个或多个。
另外,根据不同的实施例,每个虚拟动态对象的动态对象渲染参数可以包括但不限于该虚拟动态对象的外观数据、出现时间、出现位置、移动轨迹、移动速度、移动加速度、在每个时间点的位置、在每个时间点的形态、随机事件以及与其他虚拟动态对象的相关性中的一个或多个。
在一个实施例中,可以根据虚拟动态对象配置(例如,配置文件或配置数据库)来生成一个或多个虚拟动态对象。根据不同的实施例,虚拟动态对象配置可以采用任何适当的组织形式并且可以包括任何适当的配置内容。
下面的表格2示出虚拟动态对象配置的一个示例。然而,应当理解,本公开的虚拟动态对象配置不局限于表格2中的示例。
表格2
然后,可以确定每个虚拟动态对象的动态对象渲染参数,并且根据每个虚拟动态对象的动态对象渲染参数在当前帧中渲染每个虚拟动态对象。
图4示出通过根据该实施例的方法渲染的场景的示例,其中,除了虚拟目标车辆和车道线之外,还渲染了虚拟目标车辆的预测轨迹(位于虚拟目标车辆的行进方向前方的粗黑线)和规划轨迹(位于虚拟目标车辆的行进方向前方的细黑线),并且还在虚拟目标车辆的行进方向的右前方渲染有一个行人类型的虚拟动态对象和一个车辆类型的虚拟动态对象。
在一个实施例中,可以根据该行人类型的虚拟动态对象的配置来确定与该行人类型的虚拟动态对象的当前状态相对应的渲染参数,例如可以包括但不限于:位于在虚拟目标车辆行进方向的右前方的位置(x1,y1)处,正以速度s1向远离虚拟目标车辆的预测轨迹的方向行进,并且有p1的概率突然反向并朝向虚拟目标车辆的预测轨迹的方向行进。还可以根据该车辆类型的虚拟动态对象的配置来确定与该车辆类型的虚拟动态对象的当前状态相对应的渲染参数,例如可以包括但不限于:位于在虚拟目标车辆行进方向的右前方的位置(x2,y2)处,正以速度s2向靠近虚拟目标车辆的预测轨迹的方向行进,并且有p2的概率突然停止在虚拟目标车辆的预测轨迹上的位置(x3,y3)处并使预测轨迹中断。
然后,可以确定与当前帧中的每个虚拟动态对象的当前状态相关联的当前检测参数。
在一个实施例中,可以根据在当前帧上渲染的点云提供与当前帧中的每个虚拟动态对象的当前状态相关联的当前检测参数。在另外的实施例中,也可以通过虚拟目标车辆上的虚拟前置摄像头模拟地拍摄虚拟图片并且例如基于深度学习网络进行图像识别和检测,由此提供与当前帧中的每个虚拟动态对象的当前状态相关联的当前检测参数。
根据本公开的实施例的渲染方法不关注车辆自动驾驶算法是否会根据与当前帧中的每个虚拟动态对象的当前状态相关联的当前检测参数来调整自动驾驶方案以及如何调整,而是始终模拟虚拟目标车辆按照当前的自动驾驶方案(不关心该是否被车辆自动驾驶算法调整过以及如何被调整)在场景中的行进过程。
在一个实施例中,当检测到虚拟目标车辆与一个或多个动态障碍对象或者一个或多个静态障碍对象或地图元素碰撞时,例如,当检测到虚拟目标车辆上的一个或多个关键点或基准点的坐标进入到根据特定动态障碍对象或静态障碍对象上的一个或多个基准点确定的阈值范围内时,可以停止下一帧的渲染或者提示警告。
根据本公开的实施例的方法分开渲染不同类型的对象(例如道路、车道线、行人、其他车辆等),并且允许显示诸如控制指令、车辆状态等调试信息,从而能够良好地渲染车辆自动驾驶模拟器中的场景并且能够获得良好的调试和验证效果。
在一个实施例中,可以在一个或多个计算机可读取的非临时性存储介质上存储或实施能够执行上述方法的各个步骤的程序指令,使得这样的非临时性存储介质能够在被计算机或其他计算装置(例如处理器)读取时提供相应的程序指令,并使得计算机或其他计算装置能够根据所读取的程序指令执行相应的操作。根据不同的实施例,程序指令能够以诸如源代码、二进制代码、中间代码等各种形式或各种形式的不同组合而实施或存储在非临时性存储介质上。
图5示出根据本公开的实施例的用于渲染车辆自动驾驶模拟器中的场景的示例装置的框图。
如图5所示,根据本公开的实施例的示例装置200可以包括高精度地图解析器PAR、自动驾驶模拟控制器CON、虚拟动态对象管理器MGR和渲染器REN。
在一个实施例中,高精度地图解析器PAR可以包括一个或多个处理器,包括但不限于诸如中央处理单元(CPU)、图形处理器(GPU)等通用的处理器或处理装置和/或专用的处理器或处理装置。高精度地图解析器PAR可以被配置为从高精度地图中提取至少一个地图元素。
在一个实施例中,自动驾驶模拟控制器CON可以包括一个或多个处理器,包括但不限于诸如中央处理单元(CPU)、图形处理器(GPU)等通用的处理器或处理装置和/或专用的处理器或处理装置。自动驾驶模拟控制器CON可以被配置为基于待测试自动驾驶算法来确定用于控制虚拟目标车辆在所述场景中行进的自动驾驶方案,并且还可以被配置为基于自动驾驶方案来确定虚拟目标车辆的当前状态以及与场景的下一帧相对应的时间点的预测状态。
在一个实施例中,虚拟动态对象管理器MGR可以包括一个或多个处理器,包括但不限于诸如中央处理单元(CPU)、图形处理器(GPU)等通用的处理器或处理装置和/或专用的处理器或处理装置。虚拟动态对象管理器MGR可以被配置为向渲染器REN提供至少一个虚拟动态对象以及每个虚拟动态对象的动态对象渲染参数。在一个实施例中,虚拟动态对象管理器MGR还可以包括与虚拟动态对象数据库或虚拟动态对象配置文件交互的接口(未示出)。
在一个实施例中,渲染器REN可以包括一个或多个处理器,包括但不限于诸如中央处理单元(CPU)、图形处理器(GPU)等通用的处理器或处理装置和/或专用的处理器或处理装置。渲染器REN可以被配置为根据前述至少一个地图元素和与前述当前状态相对应的车辆渲染参数来生成前述场景的当前帧,以及根据前述当前帧、前述预测状态和前述至少一个地图元素来生成前述下一帧。
应当理解,图5所示的结构仅是示例性的,而非限制性的。根据本公开的实施例的装置还可以具有其他部件和/或结构。
例如,根据本公开的实施例的装置可以包括一个或多个处理器(例如CPU和GPU等通用的处理器或处理装置和/或专用的处理器或处理装置),并且这样的一个或多个处理器可以被配置为在启动时至少执行根据本公开的实施例的用于渲染车辆自动驾驶模拟器中的场景的方法,例如示例方法100。
例如,根据本公开的实施例的装置还可以包括I/O接口、网络接口和/或存储器,从而通过有线或无线地方式与其他部件或装置进行信息/数据交互。
例如,根据不同的实施例,装置中的存储器可以包括各种形式的计算机可读写存储介质,例如易失性存储器和/或非易失性存储器。易失性存储器例如可以包括随机存取存储器(RAM)、高速缓冲存储器(cache)、片上存储器等。非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪速存储器等。可读写存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件、或者任意以上的组合。在一个实施例中,存储器可以存储用于指示装置中的一个或多个处理器执行根据本公开的实施例的方法的步骤的程序指令。
通过根据本公开的实施例的装置能够分开渲染不同类型的对象(例如道路、车道线、行人、其他车辆等),并且允许显示诸如控制指令、车辆状态等调试信息,从而能够良好地渲染车辆自动驾驶模拟器中的场景并且能够获得良好的调试和验证效果。
贯穿说明书和权利要求书,除非上下文清楚地另有要求,否则措词“包括”、“包含”等应当以与排他性或穷尽性的意义相反的包括性的意义来解释,也就是说,应当以“包括但不限于”的意义来解释。另外,措词“在本文中”、“上文”、“下文”以及相似含义的措词在本申请中使用时应当指作为整体的本申请,而不是本申请的任何具体部分。在上下文允许时,在使用单数或复数的以上描述中的措词也可以分别包括复数或单数。关于在提及两个或多个项目的列表时的措词“或”,该措词涵盖该措词的以下解释中的全部:列表中的任何项目,列表中的所有项目,以及列表中的项目的任何组合。另外,措词“第一”、“第二”等旨在用于区分,而不是用于强调次序或重要程度。
虽然已经描述了本公开的一些实施例,但是这些实施例仅作为示例而呈现,而不打算限制本公开的范围。实际上,在本文中所描述的方法和系统可以采用多种其他形式来实施。另外,可以在不脱离本公开的范围的情况下,在本文中所描述的方法和装置的形式上做出各种省略、替换和改变。
Claims (15)
1.一种用于渲染车辆自动驾驶模拟器中的场景的方法,包括:
从高精度地图中提取至少一个地图元素;
根据用于控制虚拟目标车辆在所述场景中行进的自动驾驶方案来确定所述虚拟目标车辆的当前状态;
根据所述至少一个地图元素和与所述当前状态相对应的车辆渲染参数来生成所述场景的当前帧;
根据所述自动驾驶方案来确定所述虚拟目标车辆在与所述场景的下一帧相对应的时间点的预测状态;以及
根据所述当前帧、所述预测状态和所述至少一个地图元素来生成所述下一帧。
2.根据权利要求1所述的方法,其中,从高精度地图中提取至少一个地图元素包括:
基于扩展的地图元素类型来解析所述高精度地图;以及
基于扩展的地图元素描述来表示所提取的每个地图元素。
3.根据权利要求2所述的方法,其中,
所述扩展的地图元素类型包括禁停区、停止线、人行横道、减速带、柱子、墙体、围栏、树木、花坛、建筑物和随机静态障碍物中的一个或多个以及道路、车道线、停车位、隧道、桥梁、信号指示牌、交通信号灯、铁路、路口区域、站台中的一个或多个,并且
所述扩展的地图元素描述包括基于参考线的曲线方程和偏移来表达边界形状、采用绝对坐标序列来表达边界形状、采用相对于基准物的相对坐标序列来表达边界形状、不同类型的地图元素之间的关联性以及不同的地图元素实体之间的关联性。
4.根据权利要求1所述的方法,其中,所述车辆渲染参数包括所述虚拟目标车辆的外观数据、基准点位置、重心位置、重量、车轮位置、车轮状态、车灯状态、行进方向、车头朝向、车身倾斜状况、规划轨迹、位于行进方向后方的历史轨迹以及位于行进方向前方的预测轨迹中的一个或多个。
5.根据权利要求1所述的方法,其中,生成所述当前帧包括:
生成所提取的每个地图元素的模型;以及
将所生成的每个地图元素的模型加载到所述当前帧的背景图片上。
6.根据权利要求1所述的方法,其中,生成所述当前帧包括:
计算从所述虚拟目标车辆上的激光雷达向四周发射的扫描光线以及相应的点云;以及
在所述当前帧上渲染计算出的点云。
7.根据权利要求1所述的方法,其中,生成所述当前帧包括:
在所述当前帧上的特定位置处显示关于自动驾驶方案的当前调试信息。
8.根据权利要求7所述的方法,其中,所述当前调试信息包括以下信息中的一个或多个:所述自动驾驶方案的输出数据中与所述当前帧相对应的当前时间点相对应的当前规划数据;所述虚拟目标车辆在所述当前时间点的基准点位置、车身状态、车轮位置、车轮状态、车灯状态、行进方向、行进速度、行进加速度、车头朝向、档位数据、方向盘数据、油门数据、刹车数据、相对所述当前规划数据的偏差以及事故概率。
9.根据权利要求1所述的方法,其中,生成所述下一帧包括:
基于所述虚拟目标车辆的当前状态和预测状态来确定所述当前帧和所述下一帧的视野;
根据所述当前帧和所述下一帧的视野来变换所述当前帧;以及
响应于所述变换来调整要显示的地图元素。
10.根据权利要求1至9中的任一项所述的方法,还包括:
生成至少一个虚拟动态对象;
确定所述至少一个虚拟动态对象中的每个虚拟动态对象的动态对象渲染参数;
根据每个虚拟动态对象的动态对象渲染参数在所述当前帧中渲染每个虚拟动态对象;以及
确定与所述当前帧中的每个虚拟动态对象的当前状态相关联的当前检测参数。
11.根据权利要求10所述的方法,其中,所述至少一个虚拟动态对象包括虚拟行人、虚拟机动车辆、虚拟非机动车辆、虚拟动物和虚拟漂浮物中的一个或多个。
12.根据权利要求10所述的方法,其中,每个虚拟动态对象的动态对象渲染参数包括该虚拟动态对象的外观数据、出现时间、出现位置、移动轨迹、移动速度、移动加速度、在每个时间点的位置、在每个时间点的形态、随机事件以及与其他虚拟动态对象的相关性中的一个或多个。
13.一种计算机可读取的非临时性存储介质,在其上存储有程序指令,所述程序指令在被执行时执行根据权利要求1至12中的任一项所述的方法。
14.一种用于渲染车辆自动驾驶模拟器中的场景的装置,包括:
一个或多个处理器,被配置为在启动时至少执行根据权利要求1至12中的任一项所述的方法。
15.一种用于渲染车辆自动驾驶模拟器中的场景的装置,包括:
高精度地图解析器,被配置为从高精度地图中提取至少一个地图元素;
自动驾驶模拟控制器,被配置为基于待测试自动驾驶算法来确定用于控制虚拟目标车辆在所述场景中行进的自动驾驶方案,基于所述自动驾驶方案来确定所述虚拟目标车辆的当前状态以及与所述场景的下一帧相对应的时间点的预测状态;
虚拟动态对象管理器,被配置为提供至少一个虚拟动态对象以及所述至少一个虚拟动态对象中的每个虚拟动态对象的动态对象渲染参数;以及
渲染器,被配置为根据所述至少一个地图元素和与所述当前状态相对应的车辆渲染参数来生成所述场景的当前帧,以及根据所述当前帧、所述预测状态和所述至少一个地图元素来生成所述下一帧。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810757392.4A CN109101690B (zh) | 2018-07-11 | 2018-07-11 | 用于渲染车辆自动驾驶模拟器中的场景的方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810757392.4A CN109101690B (zh) | 2018-07-11 | 2018-07-11 | 用于渲染车辆自动驾驶模拟器中的场景的方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109101690A true CN109101690A (zh) | 2018-12-28 |
CN109101690B CN109101690B (zh) | 2023-05-02 |
Family
ID=64845968
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810757392.4A Active CN109101690B (zh) | 2018-07-11 | 2018-07-11 | 用于渲染车辆自动驾驶模拟器中的场景的方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109101690B (zh) |
Cited By (25)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110109453A (zh) * | 2019-04-16 | 2019-08-09 | 浙江吉利控股集团有限公司 | 一种自动驾驶界面显示方法、装置及车辆 |
CN110245406A (zh) * | 2019-06-05 | 2019-09-17 | 腾讯科技(深圳)有限公司 | 行驶仿真方法、装置及存储介质 |
CN110795819A (zh) * | 2019-09-16 | 2020-02-14 | 腾讯科技(深圳)有限公司 | 自动驾驶仿真场景的生成方法和装置、存储介质 |
CN110838162A (zh) * | 2019-11-26 | 2020-02-25 | 网易(杭州)网络有限公司 | 植被渲染方法及装置、存储介质及电子设备 |
CN110850439A (zh) * | 2020-01-15 | 2020-02-28 | 奥特酷智能科技(南京)有限公司 | 一种高精度三维点云地图构建方法 |
CN110955972A (zh) * | 2019-11-28 | 2020-04-03 | 苏州智加科技有限公司 | 虚拟场景生成方法、装置、计算机设备及存储介质 |
CN111045425A (zh) * | 2019-12-05 | 2020-04-21 | 中国北方车辆研究所 | 一种地面无人车辆的辅助遥操作驾驶方法 |
CN111445556A (zh) * | 2020-03-26 | 2020-07-24 | 常州新途软件有限公司 | 一种动态行车轨迹的渲染方法 |
CN111462072A (zh) * | 2020-03-30 | 2020-07-28 | 北京百度网讯科技有限公司 | 点云图质量检测方法、装置以及电子设备 |
CN111699408A (zh) * | 2019-05-31 | 2020-09-22 | 深圳市大疆创新科技有限公司 | 隧道场景检测方法及毫米波雷达 |
WO2020199057A1 (zh) * | 2019-03-30 | 2020-10-08 | 深圳市大疆创新科技有限公司 | 一种自动驾驶模拟系统、方法、设备及存储介质 |
CN111858708A (zh) * | 2020-07-13 | 2020-10-30 | 北京交通大学 | 车路协同环境下的运动对象虚实交互测试同步方法 |
CN111862314A (zh) * | 2020-07-23 | 2020-10-30 | 苏州浪潮智能科技有限公司 | 一种自动驾驶仿真渲染方法、装置、设备及可读介质 |
CN112150805A (zh) * | 2020-09-01 | 2020-12-29 | 福瑞泰克智能系统有限公司 | 一种可行驶区域的确定方法、装置、设备及存储介质 |
CN112632201A (zh) * | 2020-12-12 | 2021-04-09 | 武汉中海庭数据技术有限公司 | 一种交通道路拓扑网构建方法及装置 |
CN112651990A (zh) * | 2020-12-25 | 2021-04-13 | 际络科技(上海)有限公司 | 运动轨迹预测方法及系统、电子设备及可读存储介质 |
WO2021072720A1 (zh) * | 2019-10-17 | 2021-04-22 | 深圳市大疆创新科技有限公司 | 获取雷达位置的方法、雷达以及可移动平台 |
CN112783766A (zh) * | 2021-01-15 | 2021-05-11 | 北京小马慧行科技有限公司 | 模拟车辆运行场景的编辑系统和编辑方法 |
CN113112643A (zh) * | 2020-01-13 | 2021-07-13 | 北京地平线机器人技术研发有限公司 | 预测轨迹的评价方法、装置以及电子设备和存储介质 |
CN113272744A (zh) * | 2019-12-17 | 2021-08-17 | 弗泰里克斯有限公司 | 用于监测自动驾驶车辆的适当行为的系统及其方法 |
CN113625594A (zh) * | 2021-07-30 | 2021-11-09 | 中汽创智科技有限公司 | 一种自动驾驶仿真方法及仿真系统 |
CN113785263A (zh) * | 2019-05-10 | 2021-12-10 | 高通股份有限公司 | 用于在自动驾驶车辆与外部观察者之间的通信的虚拟模型 |
CN113811830A (zh) * | 2019-12-30 | 2021-12-17 | 深圳元戎启行科技有限公司 | 轨迹预测方法、装置、计算机设备和存储介质 |
CN114706936A (zh) * | 2022-05-13 | 2022-07-05 | 高德软件有限公司 | 地图数据处理方法及基于位置的服务提供方法 |
CN113625594B (zh) * | 2021-07-30 | 2024-04-26 | 中汽创智科技有限公司 | 一种自动驾驶仿真方法及仿真系统 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103786723A (zh) * | 2012-10-30 | 2014-05-14 | 谷歌公司 | 控制车辆横向车道定位 |
CN103971392A (zh) * | 2013-01-31 | 2014-08-06 | 北京四维图新科技股份有限公司 | 面向导航的三维视频数据处理方法、装置、系统及终端 |
CN105022397A (zh) * | 2014-04-25 | 2015-11-04 | 谷歌公司 | 用于使用多个传感器进行物体检测的方法和系统 |
CN106127843A (zh) * | 2016-06-16 | 2016-11-16 | 福建数博讯信息科技有限公司 | 三维虚拟场景的渲染方法和装置 |
-
2018
- 2018-07-11 CN CN201810757392.4A patent/CN109101690B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103786723A (zh) * | 2012-10-30 | 2014-05-14 | 谷歌公司 | 控制车辆横向车道定位 |
CN103971392A (zh) * | 2013-01-31 | 2014-08-06 | 北京四维图新科技股份有限公司 | 面向导航的三维视频数据处理方法、装置、系统及终端 |
CN105022397A (zh) * | 2014-04-25 | 2015-11-04 | 谷歌公司 | 用于使用多个传感器进行物体检测的方法和系统 |
CN106127843A (zh) * | 2016-06-16 | 2016-11-16 | 福建数博讯信息科技有限公司 | 三维虚拟场景的渲染方法和装置 |
Cited By (37)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020199057A1 (zh) * | 2019-03-30 | 2020-10-08 | 深圳市大疆创新科技有限公司 | 一种自动驾驶模拟系统、方法、设备及存储介质 |
CN110109453A (zh) * | 2019-04-16 | 2019-08-09 | 浙江吉利控股集团有限公司 | 一种自动驾驶界面显示方法、装置及车辆 |
CN110109453B (zh) * | 2019-04-16 | 2023-04-25 | 浙江吉利控股集团有限公司 | 一种自动驾驶界面显示方法、装置及车辆 |
CN113785263A (zh) * | 2019-05-10 | 2021-12-10 | 高通股份有限公司 | 用于在自动驾驶车辆与外部观察者之间的通信的虚拟模型 |
CN111699408A (zh) * | 2019-05-31 | 2020-09-22 | 深圳市大疆创新科技有限公司 | 隧道场景检测方法及毫米波雷达 |
CN110245406A (zh) * | 2019-06-05 | 2019-09-17 | 腾讯科技(深圳)有限公司 | 行驶仿真方法、装置及存储介质 |
CN110795819A (zh) * | 2019-09-16 | 2020-02-14 | 腾讯科技(深圳)有限公司 | 自动驾驶仿真场景的生成方法和装置、存储介质 |
CN110795819B (zh) * | 2019-09-16 | 2022-05-20 | 腾讯科技(深圳)有限公司 | 自动驾驶仿真场景的生成方法和装置、存储介质 |
WO2021072720A1 (zh) * | 2019-10-17 | 2021-04-22 | 深圳市大疆创新科技有限公司 | 获取雷达位置的方法、雷达以及可移动平台 |
CN110838162B (zh) * | 2019-11-26 | 2023-11-28 | 网易(杭州)网络有限公司 | 植被渲染方法及装置、存储介质及电子设备 |
CN110838162A (zh) * | 2019-11-26 | 2020-02-25 | 网易(杭州)网络有限公司 | 植被渲染方法及装置、存储介质及电子设备 |
CN110955972A (zh) * | 2019-11-28 | 2020-04-03 | 苏州智加科技有限公司 | 虚拟场景生成方法、装置、计算机设备及存储介质 |
CN111045425A (zh) * | 2019-12-05 | 2020-04-21 | 中国北方车辆研究所 | 一种地面无人车辆的辅助遥操作驾驶方法 |
CN111045425B (zh) * | 2019-12-05 | 2023-04-28 | 中国北方车辆研究所 | 一种地面无人车辆的辅助遥操作驾驶方法 |
CN113272744A (zh) * | 2019-12-17 | 2021-08-17 | 弗泰里克斯有限公司 | 用于监测自动驾驶车辆的适当行为的系统及其方法 |
CN113811830B (zh) * | 2019-12-30 | 2022-05-10 | 深圳元戎启行科技有限公司 | 轨迹预测方法、装置、计算机设备和存储介质 |
CN113811830A (zh) * | 2019-12-30 | 2021-12-17 | 深圳元戎启行科技有限公司 | 轨迹预测方法、装置、计算机设备和存储介质 |
CN113112643A (zh) * | 2020-01-13 | 2021-07-13 | 北京地平线机器人技术研发有限公司 | 预测轨迹的评价方法、装置以及电子设备和存储介质 |
CN110850439B (zh) * | 2020-01-15 | 2020-04-21 | 奥特酷智能科技(南京)有限公司 | 一种高精度三维点云地图构建方法 |
CN110850439A (zh) * | 2020-01-15 | 2020-02-28 | 奥特酷智能科技(南京)有限公司 | 一种高精度三维点云地图构建方法 |
CN111445556A (zh) * | 2020-03-26 | 2020-07-24 | 常州新途软件有限公司 | 一种动态行车轨迹的渲染方法 |
CN111462072B (zh) * | 2020-03-30 | 2023-08-29 | 北京百度网讯科技有限公司 | 点云图质量检测方法、装置以及电子设备 |
CN111462072A (zh) * | 2020-03-30 | 2020-07-28 | 北京百度网讯科技有限公司 | 点云图质量检测方法、装置以及电子设备 |
CN111858708B (zh) * | 2020-07-13 | 2023-12-12 | 北京交通大学 | 车路协同环境下的运动对象虚实交互测试同步方法 |
CN111858708A (zh) * | 2020-07-13 | 2020-10-30 | 北京交通大学 | 车路协同环境下的运动对象虚实交互测试同步方法 |
CN111862314B (zh) * | 2020-07-23 | 2022-05-13 | 苏州浪潮智能科技有限公司 | 一种自动驾驶仿真渲染方法、装置、设备及可读介质 |
CN111862314A (zh) * | 2020-07-23 | 2020-10-30 | 苏州浪潮智能科技有限公司 | 一种自动驾驶仿真渲染方法、装置、设备及可读介质 |
CN112150805B (zh) * | 2020-09-01 | 2022-02-25 | 福瑞泰克智能系统有限公司 | 一种可行驶区域的确定方法、装置、设备及存储介质 |
CN112150805A (zh) * | 2020-09-01 | 2020-12-29 | 福瑞泰克智能系统有限公司 | 一种可行驶区域的确定方法、装置、设备及存储介质 |
CN112632201B (zh) * | 2020-12-12 | 2022-05-13 | 武汉中海庭数据技术有限公司 | 一种交通道路拓扑网构建方法及装置 |
CN112632201A (zh) * | 2020-12-12 | 2021-04-09 | 武汉中海庭数据技术有限公司 | 一种交通道路拓扑网构建方法及装置 |
CN112651990B (zh) * | 2020-12-25 | 2022-12-16 | 际络科技(上海)有限公司 | 运动轨迹预测方法及系统、电子设备及可读存储介质 |
CN112651990A (zh) * | 2020-12-25 | 2021-04-13 | 际络科技(上海)有限公司 | 运动轨迹预测方法及系统、电子设备及可读存储介质 |
CN112783766A (zh) * | 2021-01-15 | 2021-05-11 | 北京小马慧行科技有限公司 | 模拟车辆运行场景的编辑系统和编辑方法 |
CN113625594A (zh) * | 2021-07-30 | 2021-11-09 | 中汽创智科技有限公司 | 一种自动驾驶仿真方法及仿真系统 |
CN113625594B (zh) * | 2021-07-30 | 2024-04-26 | 中汽创智科技有限公司 | 一种自动驾驶仿真方法及仿真系统 |
CN114706936A (zh) * | 2022-05-13 | 2022-07-05 | 高德软件有限公司 | 地图数据处理方法及基于位置的服务提供方法 |
Also Published As
Publication number | Publication date |
---|---|
CN109101690B (zh) | 2023-05-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109101690A (zh) | 用于渲染车辆自动驾驶模拟器中的场景的方法和装置 | |
CN110155053B (zh) | 提供用于驾驶车辆的信息的方法和设备 | |
US11487988B2 (en) | Augmenting real sensor recordings with simulated sensor data | |
US10949684B2 (en) | Vehicle image verification | |
US11455565B2 (en) | Augmenting real sensor recordings with simulated sensor data | |
CN108230817B (zh) | 车辆驾驶模拟方法和装置、电子设备、系统、程序和介质 | |
JP7346707B2 (ja) | 自律車両のポリライン輪郭表現 | |
CN106503653A (zh) | 区域标注方法、装置和电子设备 | |
CN113009506B (zh) | 一种虚实结合的实时激光雷达数据生成方法、系统及设备 | |
US20200082182A1 (en) | Training data generating method for image processing, image processing method, and devices thereof | |
US10891795B2 (en) | Localization method and apparatus based on 3D color map | |
US20100315505A1 (en) | Object motion detection system based on combining 3d warping techniques and a proper object motion detection | |
US11042758B2 (en) | Vehicle image generation | |
CN105793730A (zh) | 对象运动的基于激光雷达的分类 | |
WO2022016311A1 (zh) | 基于点云的三维重建方法、装置和计算机设备 | |
US20210229680A1 (en) | Vehicle neural network training | |
US9250093B2 (en) | Navigation device, method of predicting a visibility of a triangular face in an electronic map view, and method for generating a database | |
CN116529784A (zh) | 用于增加激光雷达数据的方法和系统 | |
Hospach et al. | Simulation of falling rain for robustness testing of video-based surround sensing systems | |
JP2022129175A (ja) | 車両評価方法及び車両評価装置 | |
CN113238251A (zh) | 一种基于车载激光雷达的目标级语义定位方法 | |
JP2008203913A (ja) | 交通流シミュレーション装置 | |
US20220388535A1 (en) | Image annotation for deep neural networks | |
US20230237210A1 (en) | 3d multi-object simulation | |
JP2024511043A (ja) | モデル注入を用いた点群データ拡張のためのシステム、および方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |