CN111316324A - 一种自动驾驶模拟系统、方法、设备及存储介质 - Google Patents
一种自动驾驶模拟系统、方法、设备及存储介质 Download PDFInfo
- Publication number
- CN111316324A CN111316324A CN201980004921.6A CN201980004921A CN111316324A CN 111316324 A CN111316324 A CN 111316324A CN 201980004921 A CN201980004921 A CN 201980004921A CN 111316324 A CN111316324 A CN 111316324A
- Authority
- CN
- China
- Prior art keywords
- image
- simulation
- camera
- driving
- simulated
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000004088 simulation Methods 0.000 title claims abstract description 220
- 238000000034 method Methods 0.000 title claims abstract description 121
- 230000008569 process Effects 0.000 claims abstract description 91
- 238000009877 rendering Methods 0.000 claims abstract description 81
- 230000009466 transformation Effects 0.000 claims description 62
- 239000003550 marker Substances 0.000 claims description 47
- 230000003068 static effect Effects 0.000 claims description 29
- 238000004590 computer program Methods 0.000 claims description 10
- 230000007613 environmental effect Effects 0.000 claims 2
- 239000011159 matrix material Substances 0.000 description 36
- 238000005516 engineering process Methods 0.000 description 27
- 230000008859 change Effects 0.000 description 16
- 238000001514 detection method Methods 0.000 description 15
- 238000002474 experimental method Methods 0.000 description 12
- 238000012360 testing method Methods 0.000 description 12
- 238000010586 diagram Methods 0.000 description 7
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 6
- 230000009286 beneficial effect Effects 0.000 description 6
- 238000004422 calculation algorithm Methods 0.000 description 6
- 238000003384 imaging method Methods 0.000 description 6
- 238000012795 verification Methods 0.000 description 6
- 238000004364 calculation method Methods 0.000 description 4
- 238000006243 chemical reaction Methods 0.000 description 4
- 240000004050 Pentaglottis sempervirens Species 0.000 description 3
- 235000004522 Pentaglottis sempervirens Nutrition 0.000 description 3
- 239000003086 colorant Substances 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 230000001131 transforming effect Effects 0.000 description 3
- 230000003993 interaction Effects 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000003708 edge detection Methods 0.000 description 1
- 238000012806 monitoring device Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
- G06Q10/047—Optimisation of routes or paths, e.g. travelling salesman problem
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
- G06T17/05—Geographic models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/02—Affine transformations
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Business, Economics & Management (AREA)
- Human Resources & Organizations (AREA)
- Strategic Management (AREA)
- Geometry (AREA)
- Economics (AREA)
- Software Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Entrepreneurship & Innovation (AREA)
- Marketing (AREA)
- Operations Research (AREA)
- Quality & Reliability (AREA)
- Tourism & Hospitality (AREA)
- General Business, Economics & Management (AREA)
- Development Economics (AREA)
- Remote Sensing (AREA)
- Game Theory and Decision Science (AREA)
- Computer Graphics (AREA)
- Processing Or Creating Images (AREA)
- Traffic Control Systems (AREA)
Abstract
一种自动驾驶模拟系统、方法设备及存储介质，其中系统包括：运动模块，用于模拟移动平台在模拟行驶环境中的模拟行驶过程；相机模块，用于确定移动平台的相机的相机参数；渲染模块，用于根据相机参数确定相机拍摄模拟行驶环境得到的仿真环境图像；标记模块，用于对仿真环境图像进行标记；渲染模块，还用于对标记后的仿真环境图像进行图像渲染，得到标记图像。该自动驾驶模拟系统可仿真出一种真实的自动驾驶模拟场景，模拟出移动平台在模拟行驶环境中的行驶过程，并模拟出移动平台上的相机拍摄模拟行驶环境而得到的仿真环境图像，最后对仿真环境图像进行可行驶区域检测，从而得到用于辅助自动驾驶进行路径规划的标记图像。
Description
技术领域
本申请涉及自动驾驶技术领域，尤其涉及一种自动驾驶模拟系统、方法、设备及存储介质。
背景技术
随着自动驾驶技术的发展，自动驾驶汽车(Self-piloting automobile)开始成为研究的热点。自动驾驶汽车又称无人驾驶汽车、电脑驾驶汽车、或轮式移动机器人，是一种通过电脑系统实现无人驾驶的智能汽车。自动驾驶汽车依靠人工智能、视觉计算、雷达、监控装置和全球定位系统协同合作，让电脑可以在没有任何人类主动的操作下，自动安全地操作机动车辆。
虽然自动驾驶汽车的市场具有很大的潜能，但是能够生产自动驾驶汽车的企业很少，这是因为许多自动驾驶技术还在试水阶段，自动驾驶技术虽然越来越先进和繁多，但是其稳定性无法保证。可行驶区域检测技术是自动驾驶技术中十分重要的一项技术，因为可行驶区域检测的结果是否正确关系到自动驾驶是否能够很好的规划行驶路线。如何在模拟层面实现自动驾驶技术的测试检测成为研究的热点问题。
发明内容
本申请实施例提供一种自动驾驶模拟系统，可以仿真出一种可以用于测试自动驾驶技术的真实的驾驶场景。
第一方面，本申请实施例提供了一种自动驾驶模拟系统，该系统包括：
运动模块，用于模拟移动平台在模拟行驶环境中的模拟行驶过程；
相机模块，用于确定所述移动平台的相机在所述模拟行驶过程中的相机参数；
渲染模块，用于根据所述模拟行驶过程中的相机参数，确定在所述模拟行驶过程中所述移动平台的相机拍摄所述模拟行驶环境得到的仿真环境图像；
标记模块，用于对所述仿真环境图像进行标记，其中，在进行标记时至少对所述仿真环境图像中的可行驶区域进行标记；
所述渲染模块，还用于对标记后的仿真环境图像进行图像渲染，得到标记图像。
第二方面，本申请实施例提供了一种自动驾驶模拟方法，该自动驾驶模拟方法包括：
获取移动平台的相机在模拟行驶过程中的相机参数；
根据所述模拟行驶过程中的相机参数，确定在所述模拟行驶过程中所述移动平台的相机拍摄所述模拟行驶环境得到的仿真环境图像；
获取标记后的仿真环境图像；
对所述标记后的仿真环境图像进行图像渲染，得到标记图像。
第三方面，本申请实施例提供了一种自动驾驶模拟设备，该自动驾驶模拟设备包括用于执行上述第二方面的自动驾驶模拟方法的单元，该自动驾驶模拟设备包括：
获取单元，用于获取移动平台的相机在模拟行驶过程中的相机参数；
渲染单元，用于根据所述模拟行驶过程中的相机参数，确定在所述模拟行驶过程中所述移动平台的相机拍摄所述模拟行驶环境得到的仿真环境图像；
所述获取单元，还用于获取标记后的仿真环境图像；
所述渲染单元，还用于对所述标记后的仿真环境图像进行图像渲染，得到标记图像。
第四方面，本申请实施例提供了一种自动驾驶模拟设备，包括处理器和存储器，所述处理器和存储器相互连接，其中，所述存储器用于存储计算机程序，所述计算机程序包括程序指令，所述处理器被配置用于调用所述程序指令，用以执行如第二方面所述的方法
第五方面，本申请实施例提供了一种计算机可读存储介质，其特征在于，所述计算机存储介质存储有计算机程序，所述计算机程序包括程序指令，所述程序指令被处理器执行，用以执行如第二方面所述的方法。
本申请的自动驾驶模拟系统可以仿真出一种真实的自动驾驶模拟场景，具体的，先通过运动模块模拟出移动平台在模拟行驶环境中的行驶过程，然后利用相机模块和渲染模块模拟出相机拍摄模拟行驶环境而得到的仿真环境图像，最后利用标记模块和渲染模块对仿真环境图像进行可行驶区域检测，从而得到用于辅助自动驾驶进行路径规划的标记图像。可见，本申请可以模拟出真实的驾驶场景并测试可行驶区域检测技术，为可行驶区域检测技术提供了可靠性的算法验证，除此之外，由于该系统模拟了真实的驾驶场景，于是该系统还可以用于除可行驶区域检测技术以外的更多的自动驾驶技术的测试。
附图说明
为了更清楚地说明本申请实施例技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍。
图1是本申请实施例提供的一种自动驾驶模拟系统的示意性框图；
图2是本申请实施例提供的一种标记图像的示意图；
图3是本申请实施例提供的一种自动驾驶模拟方法的示意流程图；
图4是本申请另一实施例提供的一种自动驾驶模拟方法的示意流程图；
图5是本申请实施例提供的一种自动驾驶模拟设备的示意性框图；
图6是本申请实施例提供的一种自动驾驶模拟设备的结构性框图。
具体实施方式
为了使本申请的目的、技术方案和优点更加清楚，下面将结合附图对本申请实施例的技术方案进行描述。
本申请实施例提供了一种自动驾驶模拟系统，该自动驾驶模拟系统可以仿真出一种真实的自动驾驶模拟场景，模拟出移动平台在模拟行驶环境中的行驶过程，并模拟出相机拍摄模拟行驶环境而得到的仿真环境图像，最后对仿真环境图像进行可行驶区域检测，从而得到用于辅助自动驾驶进行路径规划的标记图像。其中，可行驶区域也称为Freespace，是移动平台在自动驾驶中可行驶的道路，用于为自动驾驶提供路径规划以躲避障碍物。可行驶区域可以是道路的整个路面，也可以是包含道路的关键信息(例如道路的走向信息，道路的中点信息等)的部分路面。更具体的，可行驶区域包括了结构化的路面、半结构化的路面、非结构化的路面，结构化的路面为路面结构单一且有道路边缘线的路面，比如城市主干道，高速、国道、省道等，半结构化的路面为结构多样的路面，比如停车场，广场等，非结构化的路面为天然且没有结构层的路面，例如未开发的无人区。
具体的，如图1所示，上述自动驾驶模拟系统包括运动模块110、相机模块120、渲染模块130和标记模块140，首先通过运动模块110模拟移动平台在模拟行驶环境中的模拟行驶过程，并利用相机模块120确定在移动平台上述模拟行驶过程中，移动平台的相机的相机参数，该相机参数包括相机的位置信息、朝向信息、渲染模式以及视场角信息中的至少一种，然后渲染模块130根据该相机参数确定相机拍摄模拟行驶环境所得到的仿真环境图像，最后标记模块140对仿真环境图像中的各个图像元素进行标记，尤其是需要标记出仿真环境图像中的可行驶区域，最后渲染模块130对标记之后的仿真环境图像进行渲染以突出仿真环境图像中的各个图像元素，得到标记图像，该标记图像用于辅助移动平台在自动驾驶的时候进行路径规划以避开障碍物。其中，图像元素包括可行驶区域、行人、建筑、绿化和道路等各种物体的图像，相机中的位置信息为相机在上述模拟行驶环境中所处的位置，朝向信息为相机的拍摄方向，渲染模式为图像的调整方式，包括分辨率改变、拉伸旋转变化和/或色阶亮度改变等，视场角(fov，angle of view)为相机可以接收影像的角度范围，也称为视野，不同于成像范围(angle of coverage)，视场角描述的是相机的镜头可以撷取的影像角度。
需要说明的是，上述相机的相机参数是符合真实世界的真实数据信息，于是在真实世界中根据上述相机参数是可以确定相机的成像，而且上述运动模块110所模拟的移动平台在模拟行驶环境中的运动过程也是符合真实世界的物理规则的，因为上述运动模块110包含能够提供移动平台与模拟行驶环境交互的运动信息的物理引擎，物理引擎实质上指示了运动模块110模拟移动平台运动过程时所遵循的运算规则，通过物理引擎模拟出来的运动过程符合真实世界中的物理规则。其中，运动信息例如有移动平台的空间位置信息等，空间位置信息包括移动平台的位置信息和转向信息。
在一种实施中，模拟上述行驶过程之前，先构建包含真实世界的三维事物的模拟行驶环境，该模拟行驶环境有地形植被、天气系统、建筑和道路等三维物体。具体的，按照在真实世界中三维物体的尺寸比例构建三维模型，然后对该三维模型进行美化，使得其除了形状以外，在颜色和图案上更加接近真实世界中的物体，最终得到一个可以任意转动并且以任意角度展示的逼真的三维模型，例如以建筑的尺寸比例构建建筑的三维模型，然后将建筑的彩色图形覆盖在该三维模型上，并为该三维模型打光和添加阴影等，从而得到一个与真实世界的建筑物十分相似的建筑模型，通过转动该建筑模型，能以任意视角观察该建筑模型。
在一种实施中，上述自动驾驶模拟系统还包括输出模块，该输出模块用于输出上述标记图像。其中输出的方式可以是图形显示，也可以是网络传输等方式，本申请实施例对此不作限定。
上述分别为了获取仿真环境图像和标记图像进行了两次渲染，前后两次的渲染不同在于，第一次渲染用于生成相机拍摄模拟行驶环境而得到的仿真环境图像，具体的，根据相机参数中的位置信息、朝向信息和视场角信息来分别确定相机在已构建好的三维模拟场景(即模拟行驶环境)的位置、朝向和可拍摄范围(视场角)等，并以相机的视角对该三维模拟场景进行拍摄，以得到目标图像，再按照相机参数中的渲染模式的指示对目标图像进行分辨率改变、拉伸旋转变化和/或色阶亮度改变等调整，从而得到上述仿真环境图像。而第二次渲染用于突出仿真环境图像中被标记的图像元素(尤其是可行驶区域)，以得到易读易理解的标记图像，例如图2所示，利用方框重点框出模拟仿真图像中的各个图像元素。
在一个实施例中，上述运动模块110用于模拟移动平台在模拟行驶环境中的模拟行驶过程，并生成移动平台在模拟行驶过程中的空间位置信息，上述相机模块120，用于根据模拟行驶过程中的空间位置信息生成移动平台的相机在模拟行驶过程中的相机参数。具体的，移动平台在模拟行驶环境中行驶的过程中，空间位置不断变化，于是上述运动模块110在模拟移动平台运动的时候，会生成移动平台的空间位置信息，并将该空间位置信息传输给相机模块120，空间位置信息包括移动平台的位置信息以及转向信息等，相机模块120在获得移动平台的空间位置信息之后，根据该空间位置信息生成移动平台上的相机的相机参数，具体的，直接在数据库中的对应关系表中获取移动平台的空间位置信息所对应的相机的相机参数，或者除了相机的渲染模式以及场视角信息是预先设定的以外，相机参数中的位置信息和转向信息可以按照移动平台的空间位置信息与相机的相机参数之间的计算规律来进行计算，例如根据移动平台的位置计算相机的位置信息，因为一般来说移动平台与相机的相对位置是固定的，于是当移动平台的位置信息确定的时候，可以根据移动平台的位置信息和移动平台与相机的相对位置来计算相机的位置信息，此外，相机采集的一般是移动平台的移动方向上的图像，于是相机与移动平台的转向一致，当确定移动平台的转向信息之后，可以将移动平台的转向信息作为相机的转向信息。其中，不同的空间位置信息可以对应不同的渲染模式和场视角信息，空间位置信息与相机参数中的渲染模式和场视角信息的对应关系存储在数据库中。
可见，本申请实施例可以模拟出移动平台在模拟行驶环境中进驶时的位置变化，并根据移动平台的空间位置信息确定相机的相机参数，从而确定在该空间位置信息对应的相机参数下，相机拍摄模拟行驶场景所能拍摄到的画面。
在一个实施例中，上述渲染模块130用于根据模拟行驶过程中的相机参数，确定在模拟行驶过程中移动平台的相机拍摄模拟行驶环境得到的道路前视图，然后对该道路前视图进行图像变换，得到道路俯视图，并将道路俯视图作为仿真环境图像。由于在现实的自动驾驶过程中，相机拍摄到的一般是道路前视图，而道路前视图不利于可行驶区域的提取，于是可以对道路前视图进行图像变换得到道路俯视图，道路俯视图不仅利于可行驶区域检测也更加直观。其中，道路前视图为相机的镜头正对移动平台行驶的方向时，相机拍摄模拟行驶环境得到的图像(相当于驾驶员正视驾驶前方时，眼中可以看到的道路情况)，道路俯视图为相机的镜头垂直于移动平台的行驶方向时，相机俯拍模拟行驶环境得到的图像(相当于直升机航拍道路时的鸟瞰图像)。
上述对道路前视图进行图像变换指的是对道路前视图进行仿射变换(也称为透视变换)，即通过变换矩阵将道路前视图变换为道路俯视图，变换矩阵用于指示道路前视图与道路俯视图之间的变换规则。需要注意的是，相机参数不同的相机的变换矩阵可能是不一样的，变换矩阵的正确度影响了仿射变换的正确度，也间接影响了可行驶区域检测的正确度。
在现实世界中变换矩阵需要通过标定实验来确定，而本自动驾驶模拟系统可以通过改变相机的相机参数来对模拟行驶环境进行任意角度和位置的拍摄，于是可以很轻易的同时获取到道路前视图和道路俯视图，然后根据该道前视图和道路俯视图计算上述转换矩阵，并通过将自动驾驶模拟系统中仿真出来的转换矩阵，与标定实验测得的转换矩阵进行对比，来对标定实验中测得的转换矩阵进行算法验证以判断转换矩阵的正确性，或者对转换矩阵进行适当调整使得转换矩阵更加正确，于是本自动驾驶模拟系统可以为可行驶区域检测技术等自动驾驶技术提供测试环境。此外，本自动驾驶模拟系统还可以替代标定实验来得到不同相机参数对应的转换矩阵。同样的，不难想到本自动驾驶模拟系统还可以用于为其他自动驾驶技术提供测试环境。
在一个实施例中，上述标记模块140用于对仿真环境图像中的图像元素的类别进行标记，得到包含上述仿真环境图像的图像元素的位置信息和类别信息的模板缓存，上述渲染模块130，用于根据该模板缓存对上述仿真环境图像进行渲染，得到上述标记图像。本申请实施例描述了上述利用标记模块140和渲染模块130分别对仿真环境图像进行标记和渲染，从而最终得到标记图像的过程，标记模块140先对渲染模块130中的各个图像元素进行识别，得到各个图像元素的类别，并利用标记字符标记图像元素的类别，然后将仿真环境图像上的图像元素的标记字符对应的传输到缓存模板中，即按照仿真缓存图像上的图像元素所在位置，在缓存模块的对应位置上标记上标记字符，然后渲染模块130一边读取缓存模板中记载的位置信息和类别信息，确定仿真环境图像中的每个图像元素的位置和类别，一边对仿真环境图像进行渲染，以突出仿真环境图像中的图像元素，例如利用方框标出仿真环境图像中的图像元素，如图2所示。其中，标记模块140中包含了标记规则，标记模块140在对仿真环境图像进行标记的时候，先识别图像元素的类别，然后获取该图像元素的类别在标记规则中对应的标记字符，该标记字符可以是字符、数字等的任意组合，用于唯一确定图像元素的类别，不同类别对应不同的标记字符。
实际上，缓存模板相当于精简化的仿真环境图像，模板缓存的尺寸大小与仿真环境图像一致，仿真环境图像中的每个图像元素，在缓存模板上的对应位置上都有标记字符，于是仅包含仿真环境图像的各个图像元素的位置信息和标记字符，当把缓存模块与仿真环境图像合在一起时，缓存模块中存在标记字符的位置与仿真环境图像上的图像元素完全重合。
上述标记模块140在识别仿真环境图像中的图像元素的时候，至少识别仿真环境图像中的可行驶区域，具体的，将仿真环境图像按照灰度值进行二值化，然后采用边缘检测得到车道线的边缘轮廓，从而将检测到的车道线提取出来，该检测方法可以同时检测多条车道线。
在一个实施例中，上述标记模块140用于对上述仿真环境图像进行分析识别，根据分析识别到的仿真环境图像中的图像元素的类别给图像元素赋予标记值，其中，图像元素包含障碍物的图像元素和可行驶区域的图像元素，障碍物的图像元素和可行驶区域的图像元素的标记值不相同。上述标记字符为标记值(数值)，图像元素包括可行驶区域的图像元素和障碍物的图像元素等，其中，可行驶区域的标记字符为0，包括道路和路面等，障碍物的标记字符为220，包括建筑、道路护栏、行驶的汽车和行人等。
举例来说，假设可行驶区域的标记字符为0，标记模块140识别到仿真环境图像中的像素点1到像素点n为可行驶区域，则将该识别的结果输入到缓存模块，将缓存模板中的像素点1到像素点n赋值为0，然后渲染模块130通过读取到缓存模板中的像素点1到像素点n的值，来确定仿真环境图像中的像素点1到像素点n为可行驶区域，并在对仿真环境图像进行渲染的时候，将仿真环境图像中的像素点1到像素点n标记为可行驶环境，例如用方框将像素点1到像素点n框出来，并标记上可行驶区域的文字标签。
在一个实施例中，上述障碍物的图像元素包括静止障碍物的图像元素和动态障碍物的图像元素，静止障碍物的图像元素和动态障碍物的图像元素的标记值不相同。上述障碍物被进一步的细化分为静止障碍物和动态障碍物等，其中，静止障碍物的标记字符为200，包括建筑和道路护栏等，动态障碍物的标记字符为255，包括行驶的汽车和行人等。
在一个实施例中，上述渲染模块130用于将仿真环境图像的图像元素按照对应的标记值所指示的颜色输出，得到上述标记图像。上述渲染模块130在对仿真环境图像进行渲染指的是将上述仿真环境图像中的图像元素按照其标记值所代表的颜色进行输出，从而得到上述标记图像。具体的，按照上述缓存模块中包含的图像元素的位置信息和标记字符，将上述仿真环境图像按照上述位置信息所指示的位置输出为该位置信息对应的标记字符所指示的颜色，即将图像元素所在位置输出为该图像元素的标记值所指示的颜色，或者在图像元素所在位置上覆盖上该图像元素的标记值所指示的半透明颜色。举例来说，可行驶区域的标记值为0，静止障碍物的标记字符为200，动态障碍物的标记字符为255，在红绿蓝(RGB，red green blue)颜色模式中，标记值0代表RGB值(0，0，0)，表现为黑色，标记值200代表RGB值(200，200，200)，表现为灰色，标记值255代表RGB值(255，255，255)，表现为白色，于是将可行驶区域输出为颜色值0所代表的黑色，或者在可行驶区域上覆盖上一层半透明黑色，将静止障碍物输出为颜色值为200所代表的灰色，或者在静止障碍物上覆盖上一层半透明灰色，将动态障碍物输出为颜色值为255所代表的白色，或者在动态障碍物上覆盖上一层半透明白色。本申请实施例对颜色模式不做限定，在不同的颜色模式中，相同的标记值可能对应不同的颜色，但是在同种颜色模式中，标记值与颜色一一对应。
由此可见，本申请的自动驾驶模拟系统可以仿真出一种真实的自动驾驶模拟场景，具体的，先通过运动模块110模拟出移动平台在模拟行驶环境中的行驶过程，然后利用相机模块120和渲染模块130模拟出相机拍摄模拟行驶环境而得到的仿真环境图像，最后利用标记模块140和渲染模块130对仿真环境图像进行可行驶区域检测，从而得到用于辅助自动驾驶进行路径规划的标记图像。可见，本申请可以模拟出真实的驾驶场景并测试可行驶区域检测技术，为可行驶区域检测技术提供了可靠性的算法验证，除此之外，由于该系统模拟了真实的驾驶场景，于是该系统还可以用于除可行驶区域检测技术以外的更多的自动驾驶技术的测试。
可以理解的是，本申请实施例描述的系统架构以及业务场景是为了更加清楚的说明本申请实施例的技术方案，并不构成对于本申请实施例提供的技术方案的限定，本领域普通技术人员可知，随着系统架构的演变和新业务场景的出现，本申请实施例提供的技术方案对于类似的技术问题，同样适用。
基于上述的描述，本发明实施例在图3中提出了一种自动驾驶模拟方法，该自动驾驶模拟方法可以由前述的自动驾驶模拟系统中的渲染模块130来实现。
在S301中，获取移动平台的相机在模拟行驶过程中的相机参数，该模拟行驶过程为模拟的移动平台在模拟行驶环境中行驶的过程，模拟行驶环境为仿照移动平台在真实世界中的行驶环境构建的三维仿真环境，相机参数包括相机的位置信息、朝向信息、渲染模式以及视场角信息中的至少一种，相机中的位置信息为相机在上述模拟行驶环境中所处的位置，朝向信息为相机的拍摄方向，渲染模式为图像的调整方式，包括分辨率改变、拉伸旋转变化和/或色阶亮度改变等，视场角(fov，angle of view)为相机可以接收影像的角度范围，也称为视野，不同于成像范围(angle of coverage)，视场角描述的是相机的镜头可以撷取的影像角度。
需要说明的是，上述相机的相机参数是符合真实世界的真实数据信息，于是在真实世界中根据上述相机参数是可以确定相机的成像，而且上述移动平台在模拟行驶环境中的运动过程也是符合真实世界的物理规则的，上述移动平台与模拟行驶环境交互的运动信息由物理引擎提供，物理引擎实质上指示了运动模块110模拟移动平台运动过程时所遵循的运算规则，通过物理引擎模拟出来的运动过程符合真实世界中的物理规则。其中，运动信息例如有移动平台的空间位置信息等，空间位置信息包括移动平台的位置信息和转向信息。
在一种实施中，模拟上述行驶过程之前，先构建包含真实世界的三维事物的模拟行驶环境，该模拟行驶环境有地形植被、天气系统、建筑和道路等三维物体。具体的，按照在真实世界中三维物体的尺寸比例构建三维模型，然后对该三维模型进行美化，使得其除了形状以外，在颜色和图案上更加接近真实世界中的物体，最终得到一个可以任意转动并且以任意角度展示的逼真的三维模型，例如以建筑的尺寸比例构建建筑的三维模型，然后将建筑的彩色图形覆盖在该三维模型上，并为该三维模型打光和添加阴影等，从而得到一个与真实世界的建筑物十分相似的建筑模型，通过转动该建筑模型，能以任意视角观察该建筑模型。
在一个实施例中，上述获取移动平台的相机在模拟行驶过程中的相机参数指的是，获取根据模拟行驶过程中移动平台的空间位置信息生成的移动平台的相机在模拟行驶过程中的相机参数。其中，上述模拟行驶过程中移动平台的空间位置信息指的是，由于移动平台在模拟行驶环境中行驶而产生的空间位置信息，包括移动平台的位置信息以及转向信息等。上述根据模拟行驶过程中移动平台的空间位置信息生成的移动平台的相机在模拟行驶过程中的相机参数指的是，在数据库中的对应关系表中获取的移动平台的空间位置信息所对应的相机的相机参数，或者除了相机的渲染模式以及场视角信息是预先设定的以外，相机参数中的位置信息和转向信息是按照移动平台的空间位置信息与相机的相机参数之间的计算规律来计算得到的，例如根据移动平台的位置计算相机的位置信息，因为一般来说移动平台与相机的相对位置是固定的，于是当移动平台的位置信息确定的时候，可以根据移动平台的位置信息和移动平台与相机的相对位置来计算相机的位置信息，此外，相机采集的一般是移动平台的移动方向上的图像，于是相机与移动平台的转向一致，当确定移动平台的转向信息之后，可以将移动平台的转向信息作为相机的转向信息。其中，不同的空间位置信息可以对应不同的渲染模式和场视角信息，空间位置信息与相机参数中的渲染模式和场视角信息的对应关系存储在数据库中。
在S302中，根据上述模拟行驶过程中的相机参数，确定在模拟行驶过程中移动平台的相机拍摄模拟行驶环境得到的仿真环境图像。具体的，根据相机参数中的位置信息、朝向信息和视场角信息来分别确定相机在已构建好的三维模拟场景(即模拟行驶环境)的位置、朝向和可拍摄范围(视场角)等，并以相机的视角对该三维模拟场景进行拍摄，以得到目标图像，再按照相机参数中的渲染模式的指示对目标图像进行分辨率改变、拉伸旋转变化和/或色阶亮度改变等调整，从而得到上述仿真环境图像。
在一个实施例中，上述根据上述模拟行驶过程中的相机参数，确定在模拟行驶过程中移动平台的相机拍摄模拟行驶环境得到的仿真环境图像指的是，根据模拟行驶过程中的相机参数，确定在模拟行驶过程中移动平台的相机拍摄模拟行驶环境得到的道路前视图，然后对该道路前视图进行图像变换，得到道路俯视图，并将道路俯视图作为仿真环境图像。由于在现实的自动驾驶过程中，相机拍摄到的一般是道路前视图，而道路前视图不利于可行驶区域的提取，于是可以对道路前视图进行图像变换得到道路俯视图，道路俯视图不仅利于可行驶区域检测也更加直观。其中，道路前视图为相机的镜头正对移动平台行驶的方向时，相机拍摄模拟行驶环境得到的图像(相当于驾驶员正视驾驶前方时，眼中可以看到的道路情况)，道路俯视图为相机的镜头垂直于移动平台的行驶方向时，相机俯拍模拟行驶环境得到的图像(相当于直升机航拍道路时的鸟瞰图像)。
上述对道路前视图进行图像变换指的是对道路前视图进行仿射变换(也称为透视变换)，即通过变换矩阵将道路前视图变换为道路俯视图，变换矩阵用于指示道路前视图与道路俯视图之间的变换规则。需要注意的是，相机参数不同的相机的变换矩阵可能是不一样的，变换矩阵的正确度影响了仿射变换的正确度，也间接影响了可行驶区域检测的正确度。
在现实世界中变换矩阵需要通过标定实验来确定，而本自动驾驶模拟系统可以通过改变相机的相机参数来对模拟行驶环境进行任意角度和位置的拍摄，于是可以很轻易的同时获取到道路前视图和道路俯视图，然后根据该道前视图和道路俯视图计算上述转换矩阵，并通过将自动驾驶模拟系统中仿真出来的转换矩阵，与标定实验测得的转换矩阵进行对比，来对标定实验中测得的转换矩阵进行算法验证以判断转换矩阵的正确性，或者对转换矩阵进行适当调整使得转换矩阵更加正确，于是本自动驾驶模拟系统可以为可行驶区域检测技术等自动驾驶技术提供测试环境。此外，本自动驾驶模拟系统还可以替代标定实验来得到不同相机参数对应的转换矩阵。同样的，不难想到本自动驾驶模拟系统还可以用于为其他自动驾驶技术提供测试环境。
在S303中，获取标记后的仿真环境图像。该标记后的仿真环境图像指的是，仿真环境图像中的各个图像元素都被标记出来，尤其是可行驶区域被标记出来，图像元素包括可行驶区域、行人、建筑、绿化和道路等各种物体的图像。其中，可行驶区域也称为Freespace，是移动平台在自动驾驶中可行驶的道路，用于为自动驾驶提供路径规划以躲避障碍物。可行驶区域可以是道路的整个路面，也可以是包含道路的关键信息(例如道路的走向信息，道路的中点信息等)的部分路面。更具体的，可行驶区域包括了结构化的路面、半结构化的路面、非结构化的路面，结构化的路面为路面结构单一且有道路边缘线的路面，比如城市主干道，高速、国道、省道等，半结构化的路面为结构多样的路面，比如停车场，广场等，非结构化的路面为天然且没有结构层的路面，例如未开发的无人区。
在S304中，对上述标记后的仿真环境图像进行图像渲染，得到标记图像。具体的，突出仿真环境图像中被标记的图像元素(尤其是可行驶区域)，以得到易读易理解的标记图像，该标记图像用于辅助移动平台在自动驾驶的时候进行路径规划以避开障碍物，例如图2所示，利用方框重点框出模拟仿真图像中的各个图像元素。
在一种实施中，上述获取标记后的仿真环境图像指的是，获取包含仿真环境图像的图像元素的位置信息和类别信息的模板缓存，相应的，上述对标记后的仿真环境图像进行图像渲染，得到标记图像指的是，根据模板缓存对仿真环境图像进行渲染，得到标记图像。其中，缓存模板与仿真环境图像的尺寸一样，对应于仿真缓存图像上的图像元素所在位置，缓存模块的相应位置上标记有图像元素的标记字符，标记字符代表了图像元素所属的类别，于是上述缓存模板包含了仿真环境图像中的各个图像元素的位置信息和类别信息。具体的，在获取了上述缓存模板之后，根据该缓存模板对仿真缓存图像进行渲染，即一边读取缓存模板中记载的位置信息和类别信息，确定仿真环境图像中的每个图像元素的位置和类别，一边对仿真环境图像进行渲染，以突出仿真环境图像中的图像元素，例如利用方框标出仿真环境图像中的图像元素，如图2所示。
需要说明的是，标记字符用于表示图像元素的类别，该标记字符可以是字符、数字等的任意组合，用于唯一确定图像元素的类别，相同类别的图像元素对应相同的标记字符，不同类别的图像元素对应不同的标记字符。
实际上，缓存模板相当于精简化的仿真环境图像，模板缓存的尺寸大小与仿真环境图像一致，仿真环境图像中的每个图像元素，在缓存模板上的对应位置上都有标记字符，于是仅包含仿真环境图像的各个图像元素的位置信息和标记字符，当把缓存模块与仿真环境图像合在一起时，缓存模块中存在标记字符的位置与仿真环境图像上的图像元素完全重合。
在一个实施例中，上述标记字符为标记值(数值)，上述标记后的仿真环境图像中的图像元素按照类别被赋予了标记值，其中，图像元素包含障碍物的图像元素和可行驶区域的图像元素，障碍物的图像元素和可行驶区域的图像元素的标记值不相同。其中，可行驶区域的标记字符为0，包括道路和路面等，障碍物的标记字符为220，包括建筑、道路护栏、行驶的汽车和行人等。
举例来说，假设可行驶区域的标记字符为0，仿真环境图像中的像素点1到像素点n为可行驶区域，则缓存模板中的像素点1到像素点n赋值为0，然后通过读取到缓存模板中的像素点1到像素点n的值，来确定仿真环境图像中的像素点1到像素点n为可行驶区域，并在对仿真环境图像进行渲染的时候，将仿真环境图像中的像素点1到像素点n标记为可行驶环境，例如用方框将像素点1到像素点n框出来，并标记上可行驶区域的文字标签，如图2。
在一个实施例中，上述障碍物的图像元素包括静止障碍物的图像元素和动态障碍物的图像元素，静止障碍物的图像元素和动态障碍物的图像元素的标记值不相同。上述障碍物被进一步的细化分为静止障碍物和动态障碍物等，其中，静止障碍物的标记字符为200，包括建筑和道路护栏等，动态障碍物的标记字符为255，包括行驶的汽车和行人等。
在一个实施例中，将仿真环境图像的图像元素按照对应的标记值所指示的颜色输出，得到上述标记图像。具体的，按照上述缓存模块中包含的图像元素的位置信息和标记字符，将上述仿真环境图像按照上述位置信息所指示的位置输出为该位置信息对应的标记字符所指示的颜色，即将图像元素所在位置输出为该图像元素的标记值所指示的颜色，或者在图像元素所在位置上覆盖上该图像元素的标记值所指示的半透明颜色。举例来说，可行驶区域的标记值为0，静止障碍物的标记字符为200，动态障碍物的标记字符为255，在红绿蓝(RGB，red green blue)颜色模式中，标记值0代表RGB值(0，0，0)，表现为黑色，标记值200代表RGB值(200，200，200)，表现为灰色，标记值255代表RGB值(255，255，255)，表现为白色，于是将可行驶区域输出为颜色值0所代表的黑色，或者在可行驶区域上覆盖上一层半透明黑色，将静止障碍物输出为颜色值为200所代表的灰色，或者在静止障碍物上覆盖上一层半透明灰色，将动态障碍物输出为颜色值为255所代表的白色，或者在动态障碍物上覆盖上一层半透明白色。本申请实施例对颜色模式不做限定，在不同的颜色模式中，相同的标记值可能对应不同的颜色，但是在同种颜色模式中，标记值与颜色一一对应。
由此可见，本申请实施例可以根据相机参数来模拟出移动平台的相机拍摄模拟行驶环境而得到的仿真环境图像，然后对标记之后的仿真环境图像进行渲染得到用于辅助自动驾驶进行路径规划的标记图像。可见，本申请实施例可以用于测试可行驶区域检测技术，为可行驶区域检测技术提供了可靠性的算法验证。
本发明实施例在上一申请实施例的基础上，还提出了一种更详细的自动驾驶模拟方法，如图4所示。
在S401中，获取根据模拟行驶过程中移动平台的空间位置信息生成的移动平台的相机在模拟行驶过程中的相机参数。其中，模拟行驶过程为模拟的移动平台在模拟行驶环境中行驶的过程，模拟行驶环境为仿照移动平台在真实世界中的行驶环境构建的三维仿真环境，上述空间位置信息为移动平台在模拟行驶环境中行驶过程中的位置信息以及转向信息等，相机参数包括相机的位置信息、朝向信息、渲染模式以及视场角信息中的至少一种，相机中的位置信息为相机在上述模拟行驶环境中所处的位置，朝向信息为相机的拍摄方向，渲染模式为图像的调整方式，包括分辨率改变、拉伸旋转变化和/或色阶亮度改变等，视场角(fov，angle of view)为相机可以接收影像的角度范围，也称为视野，不同于成像范围(angle of coverage)，视场角描述的是相机的镜头可以撷取的影像角度。
上述根据模拟行驶过程中移动平台的空间位置信息生成的移动平台的相机在模拟行驶过程中的相机参数指的是，在数据库中的对应关系表中获取的移动平台的空间位置信息所对应的相机的相机参数，或者除了相机的渲染模式以及场视角信息是预先设定的以外，相机参数中的位置信息和转向信息是按照移动平台的空间位置信息与相机的相机参数之间的计算规律来计算得到的，例如根据移动平台的位置计算相机的位置信息，因为一般来说移动平台与相机的相对位置是固定的，于是当移动平台的位置信息确定的时候，可以根据移动平台的位置信息和移动平台与相机的相对位置来计算相机的位置信息，此外，相机采集的一般是移动平台的移动方向上的图像，于是相机与移动平台的转向一致，当确定移动平台的转向信息之后，可以将移动平台的转向信息作为相机的转向信息。其中，不同的空间位置信息可以对应不同的渲染模式和场视角信息，空间位置信息与相机参数中的渲染模式和场视角信息的对应关系存储在数据库中。
需要说明的是，上述相机的相机参数是符合真实世界的真实数据信息，于是在真实世界中根据上述相机参数是可以确定相机的成像，而且上述移动平台在模拟行驶环境中的运动过程也是符合真实世界的物理规则的，上述移动平台与模拟行驶环境交互的运动信息由物理引擎提供，物理引擎实质上指示了运动模块110模拟移动平台运动过程时所遵循的运算规则，通过物理引擎模拟出来的运动过程符合真实世界中的物理规则。其中，运动信息例如有移动平台的空间位置信息等，空间位置信息包括移动平台的位置信息和转向信息。
在一种实施中，模拟上述行驶过程之前，先构建包含真实世界的三维事物的模拟行驶环境，该模拟行驶环境有地形植被、天气系统、建筑和道路等三维物体。具体的，按照在真实世界中三维物体的尺寸比例构建三维模型，然后对该三维模型进行美化，使得其除了形状以外，在颜色和图案上更加接近真实世界中的物体，最终得到一个可以任意转动并且以任意角度展示的逼真的三维模型，例如以建筑的尺寸比例构建建筑的三维模型，然后将建筑的彩色图形覆盖在该三维模型上，并为该三维模型打光和添加阴影等，从而得到一个与真实世界的建筑物十分相似的建筑模型，通过转动该建筑模型，能以任意视角观察该建筑模型。
在S402中，根据上述模拟行驶过程中的相机参数，确定在模拟行驶过程中移动平台的相机拍摄模拟行驶环境得到的道路前视图。具体的，根据相机参数中的位置信息、朝向信息和视场角信息来分别确定相机在已构建好的三维模拟场景(即模拟行驶环境)的位置、朝向和可拍摄范围(视场角)等，并以相机的视角对该三维模拟场景进行拍摄，以得到目标图像，再按照相机参数中的渲染模式的指示对目标图像进行分辨率改变、拉伸旋转变化和/或色阶亮度改变等调整，从而得到道路前视图。
在S403中，对上述道路前视图进行图像变换，得到道路俯视图，并将道路俯视图作为仿真环境图像。具体的，对道路前视图进行图像变换指的是对道路前视图进行仿射变换(也称为透视变换)，即通过变换矩阵将道路前视图变换为道路俯视图，变换矩阵用于指示道路前视图与道路俯视图之间的变换规则。需要注意的是，相机参数不同的相机的变换矩阵可能是不一样的，变换矩阵的正确度影响了仿射变换的正确度，也间接影响了可行驶区域检测的正确度。
需要说明的是，由于在现实的自动驾驶过程中，相机拍摄到的一般是道路前视图，而道路前视图不利于可行驶区域的提取，于是可以对道路前视图进行图像变换得到道路俯视图，道路俯视图不仅利于可行驶区域检测也更加直观。其中，道路前视图为相机的镜头正对移动平台行驶的方向时，相机拍摄模拟行驶环境得到的图像(相当于驾驶员正视驾驶前方时，眼中可以看到的道路情况)，道路俯视图为相机的镜头垂直于移动平台的行驶方向时，相机俯拍模拟行驶环境得到的图像(相当于直升机航拍道路时的鸟瞰图像)。
在现实世界中变换矩阵需要通过标定实验来确定，而本自动驾驶模拟系统可以通过改变相机的相机参数来对模拟行驶环境进行任意角度和位置的拍摄，于是可以很轻易的同时获取到道路前视图和道路俯视图，然后根据该道前视图和道路俯视图计算上述转换矩阵，并通过将自动驾驶模拟系统中仿真出来的转换矩阵，与标定实验测得的转换矩阵进行对比，来对标定实验中测得的转换矩阵进行算法验证以判断转换矩阵的正确性，或者对转换矩阵进行适当调整使得转换矩阵更加正确，于是本自动驾驶模拟系统可以为可行驶区域检测技术等自动驾驶技术提供测试环境。此外，本自动驾驶模拟系统还可以替代标定实验来得到不同相机参数对应的转换矩阵。同样的，不难想到本自动驾驶模拟系统还可以用于为其他自动驾驶技术提供测试环境。
在S404中，获取包含上述仿真环境图像的图像元素的位置信息和类别信息的模板缓存。其中，缓存模板与仿真环境图像的尺寸一样，对应于仿真缓存图像上的图像元素所在位置，缓存模块的相应位置上标记有图像元素的标记字符，标记字符代表了图像元素所属的类别，于是上述缓存模板包含了仿真环境图像中的各个图像元素的位置信息和类别信息。其中，图像元素包括可行驶区域、行人、建筑、绿化和道路等各种物体的图像。
需要说明的是，标记字符用于表示图像元素的类别，该标记字符可以是字符、数字等的任意组合，用于唯一确定图像元素的类别，相同类别的图像元素对应相同的标记字符，不同类别的图像元素对应不同的标记字符。
实际上，缓存模板相当于精简化的仿真环境图像，模板缓存的尺寸大小与仿真环境图像一致，仿真环境图像中的每个图像元素，在缓存模板上的对应位置上都有标记字符，于是仅包含仿真环境图像的各个图像元素的位置信息和标记字符，当把缓存模块与仿真环境图像合在一起时，缓存模块中存在标记字符的位置与仿真环境图像上的图像元素完全重合。
上述可行驶区域也称为Freespace，是移动平台在自动驾驶中可行驶的道路，用于为自动驾驶提供路径规划以躲避障碍物。可行驶区域可以是道路的整个路面，也可以是包含道路的关键信息(例如道路的走向信息，道路的中点信息等)的部分路面。更具体的，可行驶区域包括了结构化的路面、半结构化的路面、非结构化的路面，结构化的路面为路面结构单一且有道路边缘线的路面，比如城市主干道，高速、国道、省道等，半结构化的路面为结构多样的路面，比如停车场，广场等，非结构化的路面为天然且没有结构层的路面，例如未开发的无人区。
在S405中，根据上述模板缓存对上述仿真环境图像进行渲染，得到标记图像。具体的，在获取了上述缓存模板之后，根据该缓存模板对仿真缓存图像进行渲染，即一边读取缓存模板中记载的位置信息和类别信息，确定仿真环境图像中的每个图像元素的位置和类别，一边对仿真环境图像进行渲染，以突出仿真环境图像中的图像元素，得到用于辅助移动平台在自动驾驶的时候进行路径规划以避开障碍物的标记图像，例如利用方框标出仿真环境图像中的图像元素，得到如图2所示标记图像。
在一个实施例中，上述标记字符为标记值(数值)，上述标记后的仿真环境图像中的图像元素按照类别被赋予了标记值，其中，图像元素包含障碍物的图像元素和可行驶区域的图像元素，障碍物的图像元素和可行驶区域的图像元素的标记值不相同。其中，可行驶区域的标记字符为0，包括道路和路面等，障碍物的标记字符为220，包括建筑、道路护栏、行驶的汽车和行人等。
举例来说，假设可行驶区域的标记字符为0，仿真环境图像中的像素点1到像素点n为可行驶区域，则缓存模板中的像素点1到像素点n赋值为0，然后通过读取到缓存模板中的像素点1到像素点n的值，来确定仿真环境图像中的像素点1到像素点n为可行驶区域，并在对仿真环境图像进行渲染的时候，将仿真环境图像中的像素点1到像素点n标记为可行驶环境，例如用方框将像素点1到像素点n框出来，并标记上可行驶区域的文字标签，如图2。
在一个实施例中，上述障碍物的图像元素包括静止障碍物的图像元素和动态障碍物的图像元素，静止障碍物的图像元素和动态障碍物的图像元素的标记值不相同。上述障碍物被进一步的细化分为静止障碍物和动态障碍物等，其中，静止障碍物的标记字符为200，包括建筑和道路护栏等，动态障碍物的标记字符为255，包括行驶的汽车和行人等。
在一个实施例中，将仿真环境图像的图像元素按照对应的标记值所指示的颜色输出，得到上述标记图像。具体的，按照上述缓存模块中包含的图像元素的位置信息和标记字符，将上述仿真环境图像按照上述位置信息所指示的位置输出为该位置信息对应的标记字符所指示的颜色，即将图像元素所在位置输出为该图像元素的标记值所指示的颜色，或者在图像元素所在位置上覆盖上该图像元素的标记值所指示的半透明颜色。举例来说，可行驶区域的标记值为0，静止障碍物的标记字符为200，动态障碍物的标记字符为255，在红绿蓝(RGB，red green blue)颜色模式中，标记值0代表RGB值(0，0，0)，表现为黑色，标记值200代表RGB值(200，200，200)，表现为灰色，标记值255代表RGB值(255，255，255)，表现为白色，于是将可行驶区域输出为颜色值0所代表的黑色，或者在可行驶区域上覆盖上一层半透明黑色，将静止障碍物输出为颜色值为200所代表的灰色，或者在静止障碍物上覆盖上一层半透明灰色，将动态障碍物输出为颜色值为255所代表的白色，或者在动态障碍物上覆盖上一层半透明白色。本申请实施例对颜色模式不做限定，在不同的颜色模式中，相同的标记值可能对应不同的颜色，但是在同种颜色模式中，标记值与颜色一一对应。
本申请实施例相比上一申请实施例来说更加详细，详细描述了根据相机参数来确定移动平台在行驶过程中拍摄模拟行驶环境得到仿真环境图像的过程。需要说明的是，上文对各个实施例的描述倾向于强调各个实施例之间的不同之处，其相同或相似之处可以互相参考，为了简洁，本文不再赘述。
基于上述方法实施例的描述，本申请实施例还提供一种自动驾驶模拟设备，该自动驾驶模拟设备用于执行前述任一项的自动驾驶模拟方法的单元。具体地，参见图5，是本申请实施例提供的一种自动驾驶模拟设备的示意性框图。本申请实施例的自动驾驶模拟设备包括：获取单元510以及渲染单元520。具体的：
获取单元510，用于获取移动平台的相机在模拟行驶过程中的相机参数；
渲染单元520，用于根据上述模拟行驶过程中的相机参数，确定在上述模拟行驶过程中上述移动平台的相机拍摄上述模拟行驶环境得到的仿真环境图像；
上述获取单元510，还用于获取标记后的仿真环境图像；
上述渲染单元520，还用于对上述标记后的仿真环境图像进行图像渲染，得到标记图像。
在一种实施中，上述获取单元510，具体用于获取根据上述模拟行驶过程中上述移动平台的空间位置信息生成的上述移动平台的相机在上述模拟行驶过程中的相机参数。
在一种实施中，上述渲染单元520，具体用于根据上述模拟行驶过程中的相机参数，确定在上述模拟行驶过程中上述移动平台的相机拍摄上述模拟行驶环境得到的道路前视图；上述自动驾驶模拟设备还包括变换单元530，用于对上述道路前视图进行图像变换，得到道路俯视图，并将上述道路俯视图作为上述仿真环境图像。
在一种实施中，上述获取单元510，具体用于获取包含上述仿真环境图像的图像元素的位置信息和类别信息的模板缓存；上述渲染单元，还用于根据上述模板缓存对上述仿真环境图像进行渲染，得到上述标记图像。
在一种实施中，上述标记后的仿真环境图像中的图像元素按照类别被赋予了标记值，其中，上述图像元素包含障碍物的图像元素和可行驶区域的图像元素，上述障碍物的图像元素和上述可行驶区域的图像元素的标记值不相同。
在一种实施中，上述渲染单元520，具体用于将上述仿真环境图像的图像元素按照对应的标记值所指示的颜色输出，得到上述标记图像。
在一种实施中，上述障碍物的图像元素包括静止障碍物的图像元素和动态障碍物的图像元素，上述静止障碍物的图像元素和上述动态障碍物的图像元素的标记值不相同。
在一种实施中，上述相机参数包括相机的位置信息、朝向信息、渲染模式以及视场角信息中的至少一种。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，上述的程序可存储于一计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，上述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory，ROM)或随机存储记忆体(Random AccessMemory，RAM)等。
需要说明的是，上述描述的自动驾驶模拟设备的具体工作过程，可以参考前述各个实施例中的相关描述，在此不再赘述。
参见图6，是本申请另一实施例提供的一种自动驾驶模拟设备的结构性框图。如图所示的本实施例中的自动驾驶模拟设备可以包括：一个或多个处理器610和存储器620。上述处理器610和存储器620通过总线630连接。存储器620用于存储计算机程序，计算机程序包括程序指令，处理器610用于执行存储器620存储的程序指令。
处理器610，用于执行获取单元510的功能，用于获取移动平台的相机在模拟行驶过程中的相机参数；还用于执行渲染单元520的功能，用于根据上述模拟行驶过程中的相机参数，确定在上述模拟行驶过程中上述移动平台的相机拍摄上述模拟行驶环境得到的仿真环境图像；还用于获取标记后的仿真环境图像；还用于对上述标记后的仿真环境图像进行图像渲染，得到标记图像。
在一种实施中，上述处理器610，具体用于获取根据上述模拟行驶过程中上述移动平台的空间位置信息生成的上述移动平台的相机在上述模拟行驶过程中的相机参数。
在一种实施中，上述处理器610，具体用于根据上述模拟行驶过程中的相机参数，确定在上述模拟行驶过程中上述移动平台的相机拍摄上述模拟行驶环境得到的道路前视图；上述处理器610还用于执行变换单元530的功能，用于对上述道路前视图进行图像变换，得到道路俯视图，并将上述道路俯视图作为上述仿真环境图像。
在一种实施中，上述处理器610，具体用于获取包含上述仿真环境图像的图像元素的位置信息和类别信息的模板缓存；还用于根据上述模板缓存对上述仿真环境图像进行渲染，得到上述标记图像。
在一种实施中，上述标记后的仿真环境图像中的图像元素按照类别被赋予了标记值，其中，上述图像元素包含障碍物的图像元素和可行驶区域的图像元素，上述障碍物的图像元素和上述可行驶区域的图像元素的标记值不相同。
在一种实施中，上述处理器610，具体用于将上述仿真环境图像的图像元素按照对应的标记值所指示的颜色输出，得到上述标记图像。
在一种实施中，上述障碍物的图像元素包括静止障碍物的图像元素和动态障碍物的图像元素，上述静止障碍物的图像元素和上述动态障碍物的图像元素的标记值不相同。
在一种实施中，上述相机参数包括相机的位置信息、朝向信息、渲染模式以及视场角信息中的至少一种。
在一种实施方式中，该处理器可以是中央处理单元(Central Processing Unit，CPU)，该处理器还可以是其他通用处理器，即微处理器或者任何常规的处理器，例如：数字信号处理器(Digital Signal Processor，DSP)、专用集成电路(Application SpecificIntegrated Circuit，ASIC)、现成可编程门阵列(Field-Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件，等等。
该存储器620可以包括只读存储器和随机存取存储器，并向处理器610提供指令和数据。存储器620的一部分还可以包括非易失性随机存取存储器。例如，存储器620还可以存储设备类型的信息。
具体实现中，本申请实施例中所描述的处理器610可执行本申请实施例提供的走锚提醒方法的第一实施例和第二实施例中所描述的实现方式，也可执行本申请实施例所描述的自动驾驶模拟设备的实现方式，在此不再赘述。
需要说明的是，上述描述的自动驾驶模拟设备的具体工作过程，可以参考前述各个实施例中的相关描述，在此不再赘述。
在本申请的另一实施例中提供一种计算机可读存储介质，计算机可读存储介质存储有计算机程序，计算机程序包括程序指令，程序指令被处理器执行。
计算机可读存储介质可以是前述任一实施例的自动驾驶模拟设备的内部存储单元，例如自动驾驶模拟设备的硬盘或内存。计算机可读存储介质也可以是自动驾驶模拟设备的外部存储设备，例如自动驾驶模拟设备上配备的插接式硬盘，智能存储卡(SmartMedia Card,SMC)，安全数字(Secure Digital,SD)卡，闪存卡(Flash Card)等。进一步地，计算机可读存储介质还可以既包括自动驾驶模拟设备的内部存储单元也包括外部存储设备。计算机可读存储介质用于存储计算机程序以及自动驾驶模拟设备所需的其他程序和数据。计算机可读存储介质还可以用于暂时地存储已经输出或者将要输出的数据。
以上所揭露的仅为本发明的部分实施例而已，当然不能以此来限定本发明之权利范围，本领域普通技术人员可以理解实现上述实施例的全部或部分流程，并依本发明权利要求所作的等同变化，仍属于发明所涵盖的范围。
Claims (19)
1.一种自动驾驶模拟系统，其特征在于，包括：
运动模块，用于模拟移动平台在模拟行驶环境中的模拟行驶过程；
相机模块，用于确定所述移动平台的相机在所述模拟行驶过程中的相机参数；
渲染模块，用于根据所述模拟行驶过程中的相机参数，确定在所述模拟行驶过程中所述移动平台的相机拍摄所述模拟行驶环境得到的仿真环境图像；
标记模块，用于对所述仿真环境图像进行标记，其中，在进行标记时至少对所述仿真环境图像中的可行驶区域进行标记；
所述渲染模块，还用于对标记后的仿真环境图像进行图像渲染，得到标记图像。
2.根据权利要求1所述的系统，其特征在于，
所述运动模块，用于模拟移动平台在模拟行驶环境中的模拟行驶过程，并生成所述移动平台在所述模拟行驶过程中的空间位置信息；
所述相机模块，用于根据所述模拟行驶过程中的空间位置信息生成所述移动平台的相机在所述模拟行驶过程中的相机参数。
3.根据权利要求1所述的系统，其特征在于，所述渲染模块用于：
根据所述模拟行驶过程中的相机参数，确定在所述模拟行驶过程中所述移动平台的相机拍摄所述模拟行驶环境得到的道路前视图；
对所述道路前视图进行图像变换，得到道路俯视图；
将所述道路俯视图作为所述仿真环境图像。
4.根据权利要求1所述的系统，其特征在于，
所述标记模块，用于对所述仿真环境图像中的图像元素的类别进行标记，得到包含所述仿真环境图像的图像元素的位置信息和类别信息的模板缓存；
所述渲染模块，用于根据所述模板缓存对所述仿真环境图像进行渲染，得到所述标记图像。
5.根据权利要求1所述的系统，其特征在于，所述标记模块，用于对所述仿真环境图像进行分析识别，根据分析识别到的所述仿真环境图像中的图像元素的类别给所述图像元素赋予标记值，其中，所述图像元素包含障碍物的图像元素和可行驶区域的图像元素，所述障碍物的图像元素和所述可行驶区域的图像元素的标记值不相同。
6.根据权利要求5所述的系统，其特征在于，所述渲染模块，用于将所述仿真环境图像的图像元素按照对应的标记值所指示的颜色输出，得到所述标记图像。
7.根据权利要求5所述的系统，其特征在于，所述障碍物的图像元素包括静止障碍物的图像元素和动态障碍物的图像元素，所述静止障碍物的图像元素和所述动态障碍物的图像元素的标记值不相同。
8.根据权利要求1至7任意一项所述的系统，其特征在于，所述相机参数包括相机的位置信息、朝向信息、渲染模式以及视场角信息中的至少一种。
9.一种自动驾驶模拟方法，其特征在于，包括：
获取移动平台的相机在模拟行驶过程中的相机参数；
根据所述模拟行驶过程中的相机参数，确定在所述模拟行驶过程中所述移动平台的相机拍摄所述模拟行驶环境得到的仿真环境图像；
获取标记后的仿真环境图像；
对所述标记后的仿真环境图像进行图像渲染，得到标记图像。
10.根据权利要求9所述的方法，其特征在于，所述获取移动平台的相机在模拟行驶过程中的相机参数，包括：
获取根据所述模拟行驶过程中所述移动平台的空间位置信息生成的所述移动平台的相机在所述模拟行驶过程中的相机参数。
11.根据权利要求9所述的方法，其特征在于，所述根据所述模拟行驶过程中的相机参数，确定在所述模拟行驶过程中所述移动平台的相机拍摄所述模拟行驶环境得到的仿真环境图像，包括：
根据所述模拟行驶过程中的相机参数，确定在所述模拟行驶过程中所述移动平台的相机拍摄所述模拟行驶环境得到的道路前视图；
对所述道路前视图进行图像变换，得到道路俯视图；
将所述道路俯视图作为所述仿真环境图像。
12.根据权利要求9所述的方法，其特征在于，所述获取标记后的仿真环境图像，包括：
获取包含所述仿真环境图像的图像元素的位置信息和类别信息的模板缓存；
所述对所述标记后的仿真环境图像进行图像渲染，得到标记图像，包括：
根据所述模板缓存对所述仿真环境图像进行渲染，得到所述标记图像。
13.根据权利要求9所述的方法，其特征在于，所述标记后的仿真环境图像中的图像元素按照类别被赋予了标记值，其中，所述图像元素包含障碍物的图像元素和可行驶区域的图像元素，所述障碍物的图像元素和所述可行驶区域的图像元素的标记值不相同。
14.根据权利要求13所述的方法，其特征在于，所述对所述标记后的仿真环境图像进行图像渲染，得到标记图像，包括：
将所述仿真环境图像的图像元素按照对应的标记值所指示的颜色输出，得到所述标记图像。
15.根据权利要求13所述的方法，其特征在于，所述障碍物的图像元素包括静止障碍物的图像元素和动态障碍物的图像元素，所述静止障碍物的图像元素和所述动态障碍物的图像元素的标记值不相同。
16.根据权利要求9至15任意一项所述的方法，其特征在于，所述相机参数包括相机的位置信息、朝向信息、渲染模式以及视场角信息中的至少一种。
17.一种自动驾驶模拟设备，其特征在于，包括：
获取单元，用于获取移动平台的相机在模拟行驶过程中的相机参数；
渲染单元，用于根据所述模拟行驶过程中的相机参数，确定在所述模拟行驶过程中所述移动平台的相机拍摄所述模拟行驶环境得到的仿真环境图像；
所述获取单元，还用于获取标记后的仿真环境图像；
所述渲染单元，还用于对所述标记后的仿真环境图像进行图像渲染，得到标记图像。
18.一种自动驾驶模拟设备，其特征在于，包括处理器和存储器，所述处理器和存储器相互连接，其中，所述存储器用于存储计算机程序，所述计算机程序包括程序指令，所述处理器被配置用于调用所述程序指令，用以执行如权利要求9-16任一项所述的方法。
19.一种计算机可读存储介质，其特征在于，所述计算机存储介质存储有计算机程序，所述计算机程序包括程序指令，所述程序指令被处理器执行，用以执行如权利要求9-16任一项所述的方法。
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| PCT/CN2019/080693 WO2020199057A1 (zh) | 2019-03-30 | 2019-03-30 | 一种自动驾驶模拟系统、方法、设备及存储介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN111316324A true CN111316324A (zh) | 2020-06-19 |
Family
ID=71159508
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201980004921.6A Pending CN111316324A (zh) | 2019-03-30 | 2019-03-30 | 一种自动驾驶模拟系统、方法、设备及存储介质 |
Country Status (2)
| Country | Link |
|---|---|
| CN (1) | CN111316324A (zh) |
| WO (1) | WO2020199057A1 (zh) |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112052738A (zh) * | 2020-08-07 | 2020-12-08 | 北京中科慧眼科技有限公司 | 一种室内障碍物测试方法、系统、设备和可读存储介质 |
| CN112498342A (zh) * | 2020-11-26 | 2021-03-16 | 潍柴动力股份有限公司 | 一种行人碰撞预测方法及系统 |
| WO2022141294A1 (zh) * | 2020-12-30 | 2022-07-07 | 深圳市大疆创新科技有限公司 | 仿真测试方法、系统、仿真器、存储介质及程序产品 |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN117893618A (zh) * | 2024-01-11 | 2024-04-16 | 长春众鼎科技有限公司 | 一种高级驾驶辅助系统摄像头软件标定与训练 |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2011090163A1 (ja) * | 2010-01-22 | 2011-07-28 | 富士通テン株式会社 | パラメータ決定装置、パラメータ決定システム、パラメータ決定方法、及び記録媒体 |
| CN106599767A (zh) * | 2015-10-16 | 2017-04-26 | 福特全球技术公司 | 虚拟环境中的车道边界检测数据生成 |
| CN108763733A (zh) * | 2018-05-24 | 2018-11-06 | 北京汽车集团有限公司 | 驾驶仿真测试方法、装置和系统 |
Family Cites Families (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| GB201008332D0 (en) * | 2010-05-19 | 2010-07-07 | Bae Systems Plc | System validation |
| CN106339079A (zh) * | 2016-08-08 | 2017-01-18 | 清华大学深圳研究生院 | 一种基于计算机视觉的利用无人飞行器实现虚拟现实的方法及装置 |
| CN107452268A (zh) * | 2017-07-03 | 2017-12-08 | 扬州大学 | 一种基于模拟器的多模式驾驶平台及其控制方法 |
| CN109101690B (zh) * | 2018-07-11 | 2023-05-02 | 深圳地平线机器人科技有限公司 | 用于渲染车辆自动驾驶模拟器中的场景的方法和装置 |
| CN109187048A (zh) * | 2018-09-14 | 2019-01-11 | 盯盯拍（深圳）云技术有限公司 | 自动驾驶性能测试方法以及自动驾驶性能测试装置 |
-
2019
- 2019-03-30 CN CN201980004921.6A patent/CN111316324A/zh active Pending
- 2019-03-30 WO PCT/CN2019/080693 patent/WO2020199057A1/zh active Application Filing
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2011090163A1 (ja) * | 2010-01-22 | 2011-07-28 | 富士通テン株式会社 | パラメータ決定装置、パラメータ決定システム、パラメータ決定方法、及び記録媒体 |
| CN106599767A (zh) * | 2015-10-16 | 2017-04-26 | 福特全球技术公司 | 虚拟环境中的车道边界检测数据生成 |
| CN108763733A (zh) * | 2018-05-24 | 2018-11-06 | 北京汽车集团有限公司 | 驾驶仿真测试方法、装置和系统 |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112052738A (zh) * | 2020-08-07 | 2020-12-08 | 北京中科慧眼科技有限公司 | 一种室内障碍物测试方法、系统、设备和可读存储介质 |
| CN112498342A (zh) * | 2020-11-26 | 2021-03-16 | 潍柴动力股份有限公司 | 一种行人碰撞预测方法及系统 |
| WO2022141294A1 (zh) * | 2020-12-30 | 2022-07-07 | 深圳市大疆创新科技有限公司 | 仿真测试方法、系统、仿真器、存储介质及程序产品 |
Also Published As
| Publication number | Publication date |
|---|---|
| WO2020199057A1 (zh) | 2020-10-08 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| WO2018145602A1 (zh) | 车道的确定方法、装置及存储介质 | |
| CN111316324A (zh) | 一种自动驾驶模拟系统、方法、设备及存储介质 | |
| CN110210280B (zh) | 一种超视距感知方法、系统、终端和存储介质 | |
| CN111141311B (zh) | 一种高精度地图定位模块的评估方法及系统 | |
| CN111460865A (zh) | 辅助驾驶方法、辅助驾驶系统、计算设备及存储介质 | |
| CN112308913B (zh) | 一种基于视觉的车辆定位方法、装置及车载终端 | |
| CN114494618B (zh) | 地图的生成方法、装置、电子设备及存储介质 | |
| US20230215187A1 (en) | Target detection method based on monocular image | |
| Hospach et al. | Simulation of falling rain for robustness testing of video-based surround sensing systems | |
| Zhou et al. | Developing and testing robust autonomy: The university of sydney campus data set | |
| CN115357006A (zh) | 基于数字孪生的智能网联汽车虚实测试方法、设备及介质 | |
| AU2018410435A1 (en) | Port area monitoring method and system, and central control system | |
| CN114295139A (zh) | 一种协同感知定位方法及系统 | |
| CN116883610A (zh) | 基于车辆识别与轨迹映射的数字孪生路口构建方法和系统 | |
| CN112749584B (zh) | 一种基于图像检测的车辆定位方法及车载终端 | |
| Batista et al. | Lane detection and estimation using perspective image | |
| CN113920101A (zh) | 目标检测方法、装置、设备及存储介质 | |
| CN114379544A (zh) | 一种基于多传感器前融合的自动泊车系统、方法及装置 | |
| CN112381876A (zh) | 一种交通标志标注方法、装置及计算机设备 | |
| CN111241923B (zh) | 一种实时检测立体车库的方法和系统 | |
| CN115618602A (zh) | 一种车道级场景仿真方法及系统 | |
| CN115249345A (zh) | 一种基于倾斜摄影三维实景地图的交通拥堵检测方法 | |
| Tang | Development of a multiple-camera tracking system for accurate traffic performance measurements at intersections | |
| CN112507887B (zh) | 一种路口标志牌提取及关联的方法及装置 | |
| Dai et al. | Roadside Edge Sensed and Fused Three-dimensional Localization using Camera and LiDAR |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| WD01 | Invention patent application deemed withdrawn after publication | ||
| WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20200619 |