CN115588131A - 模型鲁棒性检测方法、相关装置及存储介质 - Google Patents
模型鲁棒性检测方法、相关装置及存储介质 Download PDFInfo
- Publication number
- CN115588131A CN115588131A CN202211231910.1A CN202211231910A CN115588131A CN 115588131 A CN115588131 A CN 115588131A CN 202211231910 A CN202211231910 A CN 202211231910A CN 115588131 A CN115588131 A CN 115588131A
- Authority
- CN
- China
- Prior art keywords
- target
- lane line
- countermeasure
- pattern
- area
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 180
- 238000003860 storage Methods 0.000 title claims abstract description 56
- 238000000034 method Methods 0.000 claims abstract description 63
- 230000000694 effects Effects 0.000 claims abstract description 19
- 238000004088 simulation Methods 0.000 claims description 86
- 238000012545 processing Methods 0.000 claims description 65
- 230000006870 function Effects 0.000 claims description 44
- 238000013515 script Methods 0.000 claims description 30
- 238000012360 testing method Methods 0.000 claims description 20
- 238000004590 computer program Methods 0.000 claims description 12
- 230000002159 abnormal effect Effects 0.000 claims description 9
- 238000004422 calculation algorithm Methods 0.000 claims description 8
- 230000004044 response Effects 0.000 claims description 6
- 230000001976 improved effect Effects 0.000 abstract description 8
- 238000005516 engineering process Methods 0.000 description 38
- 230000008569 process Effects 0.000 description 18
- 238000007689 inspection Methods 0.000 description 14
- 238000013473 artificial intelligence Methods 0.000 description 13
- 238000004891 communication Methods 0.000 description 10
- 238000010586 diagram Methods 0.000 description 9
- 230000003993 interaction Effects 0.000 description 9
- 238000005457 optimization Methods 0.000 description 7
- 230000003044 adaptive effect Effects 0.000 description 6
- 230000001413 cellular effect Effects 0.000 description 6
- 230000008878 coupling Effects 0.000 description 6
- 238000010168 coupling process Methods 0.000 description 6
- 238000005859 coupling reaction Methods 0.000 description 6
- 238000007726 management method Methods 0.000 description 6
- 230000001960 triggered effect Effects 0.000 description 6
- 238000012795 verification Methods 0.000 description 5
- 230000000007 visual effect Effects 0.000 description 5
- 230000005540 biological transmission Effects 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 238000013135 deep learning Methods 0.000 description 3
- 230000007123 defense Effects 0.000 description 3
- 238000013461 design Methods 0.000 description 3
- 238000009499 grossing Methods 0.000 description 3
- 230000008447 perception Effects 0.000 description 3
- 238000011160 research Methods 0.000 description 3
- 239000003086 colorant Substances 0.000 description 2
- 238000012790 confirmation Methods 0.000 description 2
- 238000013500 data storage Methods 0.000 description 2
- 238000013136 deep learning model Methods 0.000 description 2
- 230000008676 import Effects 0.000 description 2
- 230000009545 invasion Effects 0.000 description 2
- 230000033001 locomotion Effects 0.000 description 2
- 238000007639 printing Methods 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 230000005236 sound signal Effects 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000007599 discharging Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 210000003128 head Anatomy 0.000 description 1
- 230000000977 initiatory effect Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000002085 persistent effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000008093 supporting effect Effects 0.000 description 1
- 238000010897 surface acoustic wave method Methods 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 230000001052 transient effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/98—Detection or correction of errors, e.g. by rescanning the pattern or by human intervention; Evaluation of the quality of the acquired patterns
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Quality & Reliability (AREA)
- Traffic Control Systems (AREA)
Abstract
本申请实施例公开了一种模型鲁棒性检测方法、相关装置及存储介质。方法包括：从预设的多个候选对抗图案中确定当前待添加的目标对抗图案；将目标对抗图案添加至目标路段的车道线区域内，采集得到目标对抗样本；将所述目标对抗样本输入所述车道线检测模型，得到识别结果，所述识别结果指示至少一条目标车道线的绘制轨迹，至少一条所述目标车道线偏离所述场景车道线；根据所述识别结果生成第一车道线，所述第一车道线用于控制所述虚拟控制器生成所述目标车辆的驾驶指令。通过本方案可以提高对模型的攻击效果以及缩短模型的迭代周期。
Description
技术领域
本申请涉及人工智能技术领域，尤其涉及一种模型鲁棒性检测方法、相关装置及存储介质。
背景技术
随着计算机硬件水平的提升和大型自动驾驶数据集的创建，基于深度学习的感知技术在自主机器人、自动驾驶等领域应用越来越广泛。由于深度学习模型内部复杂的设计和基于数据驱动的原理，模型的可解释性较低且具有“黑盒”特性，因此模型容易受到难以察觉的攻击而出现与人的思维不符的结果，这可能在行车途中造成难以估量的损失。为验证检测模型的鲁棒性，需要设计多种测试场景，模拟对抗防御在不同场景的攻防的效果。
随着计算机硬件水平的提升和大型自动驾驶数据集的创建，基于深度学习的感知技术在自主机器人、自动驾驶等领域应用越来越广泛。由于深度学习模型内部复杂的设计和基于数据驱动的原理，模型的可解释性较低且具有“黑盒”特性，因此模型容易受到难以察觉的攻击而出现与人的思维不符的结果，这可能在行车途中造成难以估量的损失。为验证检测模型的鲁棒性，需要设计多种测试场景，模拟对抗防御在不同场景的攻防的效果。
车道线检测模型在对车道线检测时，由于一般车道线的颜色是黄色和白色，首先模型将会用颜色检测方式，将图片的黄色和白色都提取出来，然后根据提取的颜色对车道线进行识别。
目前主要使用两种方法对模型进行模拟干扰，以检验模型的鲁棒性；第一种，在原有图像上直接添加扰动，然后将添加了扰动的数据输入到模型中；第二种，将在数字图像上做的攻击图像直接打印成实物，然后在现实场景通过相机将对抗攻击后的图像信息输入到模型。
然而，第一种现有技术在采集的图像上直接添加扰动得到的对抗样本，不能模拟车辆在运行过程中对车辆进行连续攻击的场景，攻击效果不好；第二种现有技术需要将对抗图案打印成实物，并且需要在现实场景中对对抗图案进行拍摄，模型鲁棒性检测的时间成本高，导致模型的迭代周期长。
发明内容
本申请实施例提供了一种模型鲁棒性检测方法、相关装置及存储介质，可以提高对模型的攻击效果以及缩短模型的迭代周期。
第一方面，本申请实施例提供了一种模型鲁棒性检测方法，其包括：所述方法应用于模型鲁棒性检测系统，所述模型鲁棒性检测系统包括驾驶场景仿真平台、车道线检测模型和虚拟控制器，所述驾驶场景仿真平台的显示界面当前显示目标路段的画面，所述目标路段包括行驶中的目标车辆以及场景车道线，且所述目标车辆在所述显示界面的图像和点云数据通过端口传输给所述车道线检测模型，所述方法包括：
从预设的多个候选对抗图案中确定当前待添加的目标对抗图案；
将所述目标对抗图案添加至所述目标路段的车道线区域内，采集得到目标对抗样本；
将所述目标对抗样本输入所述车道线检测模型，得到识别结果，所述识别结果指示至少一条目标车道线的绘制轨迹，至少一条所述目标车道线偏离所述场景车道线；
根据所述识别结果生成第一车道线，所述第一车道线用于控制所述虚拟控制器生成所述目标车辆的驾驶指令。
在一些实施例中，所述将所述初始对抗图案导入所述驾驶场景仿真平台对所述初始对抗图案的攻击效果进行检验，得到检验结果，包括：
将所述初始对抗图案添加至所述车道线区域内，得到初始对抗样本；
将所述初始对抗样本输入所述车道线检测模型，识别得到第一车道线；
若所述第一车道线与所述场景车道线的第一距离偏差大于所述预设偏差阈值，则确定所述检验结果为检验通过；
若所述第一车道线与所述场景车道线的第一距离偏差小于或等于所述预设偏差阈值，则确定所述检验结果为检验不通过。
在一些实施例中，所述驾驶场景仿真平台预设有多种天气参数；所述将所述目标对抗样本输入所述车道线检测模型之前，所述方法还包括：
接收针对目标天气参数的天气参数选择指令，所述目标天气参数为多种所述天气参数中的一天气参数；
响应于所述天气参数选择指令，将所述显示界面的天气参数设置为所述目标天气参数。
在一些实施例中，所述显示界面中显示有与所述目标车辆保持相对速度的虚拟投影设备；从预设的多个候选对抗图案中确定当前待添加的目标对抗图案，将所述目标对抗图案添加至所述目标路段的车道线区域内，采集得到目标对抗样本，包括：
接收针对所述虚拟投影设备的投影指令，所述投影指令用于指示所述虚拟投影设备向所述车道线区域内投影所述目标对抗图案；
响应于所述投影指令，通过所述虚拟投影设备将所述目标对抗图案投影至所述车道线区域内，得到所述目标对抗样本。
在一些实施例中，所述将所述目标对抗图案添加至所述目标路段的车道线区域内，采集得到目标对抗样本；
在所述车道线区域内通过预设的图案生成模型生成所述目标对抗图案；
根据所述车道线区域的路面特征优化所述图案生成模型，以对所述目标对抗图案进行边缘优化处理，得到所述目标对抗样本，所述边缘优化处理包括平滑处理或隐式处理。
第二方面，本申请实施例还提供了一种模型鲁棒性检测装置，所述模型鲁棒性检测装置被配置于模型鲁棒性检测系统中，所述模型鲁棒性检测系统包括驾驶场景仿真平台、车道线检测模型和虚拟控制器，所述驾驶场景仿真平台的显示界面当前显示目标路段的画面，所述目标路段包括行驶中的目标车辆以及场景车道线，且所述目标车辆在所述显示界面的图像和点云数据通过端口传输给所述车道线检测模型，所述装置包括：
处理模块，用于从预设的多个候选对抗图案中确定当前待添加的目标对抗图案；将所述目标对抗图案添加至所述目标路段的车道线区域内，采集得到目标对抗样本；将所述目标对抗样本输入所述车道线检测模型，得到识别结果，所述识别结果指示至少一条目标车道线的绘制轨迹，至少一条所述目标车道线偏离所述场景车道线；根据所述识别结果生成第一车道线，所述第一车道线用于控制所述虚拟控制器生成所述目标车辆的驾驶指令。
收发模块，用于将所述识别结果输入所述虚拟控制器。
在一些实施例中，所述显示界面包括第一区域和第二区域，所述第一区域显示有多个所述候选对抗图案中每个所述候选对抗图案分别对应的功能图标，所述第二区域当前显示所述目标路段的画面；所述处理模块在执行所述从预设的多个候选对抗图案中确定当前待添加的目标对抗图案步骤时，具体用于：
通过所述收发模块接收用户针对所述第一区域中的第一功能图标的第一操作指令，所述第一操作指令用于指示在所述车道线区域内添加所述目标对抗图案；
所述处理模块在执行所述将所述目标对抗图案添加至所述目标路段的车道线区域内，得到目标对抗样本步骤时，具体用于：
响应于所述第一操作指令，根据第一预设关系将所述目标对抗图案显示在所述目标路段的车道线区域内，得到所述目标对抗样本，所述第一预设关系包括显示位置与路段的对应关系。
在一些实施例中，所述驾驶场景仿真平台预设有多种候选路段，所述显示界面还包括第三区域，所述第三区域中包括每种所述候选路段分别对应的路段图标；在所述处理模块执行所述接收用户针对所述第一区域中的第一功能图标的第一操作指令步骤之前，所述收发模块，还用于接收所述用户针对所述第三区域中目标路段图标的第二操作指令，所述目标路段图标为所述用户从多个所述路段图标中选中的场景图标；
所述处理模块，还用于根据所述第二操作指令将所述目标路段设置为与所述目标路段图标关联的所述候选路段。
在一些实施例中，所述目标车辆处于按照预设脚本行驶状态，且所述预设脚本指示所述显示界面在目标时段显示所述目标路段的画面；所述处理模块在执行所述从预设的多个候选对抗图案中确定当前待添加的目标对抗图案步骤时，具体用于：
根据所述预设脚本从多个所述候选对抗图案中确定与所述目标路段对应的所述目标对抗图案；
所述处理模块在执行所述将所述目标对抗图案添加至所述目标路段的车道线区域内，得到目标对抗样本步骤时，具体用于：
在所述目标时段内，将所述目标对抗图案导入所述车道线区域内，得到所述目标对抗样本。
在一些实施例中，所述处理模块在执行所述从预设的多个候选对抗图案中确定当前待添加的目标对抗图案步骤之前，还用于：
根据预设的对抗攻击算法生成初始对抗图案；
将所述初始对抗图案导入所述驾驶场景仿真平台对所述初始对抗图案的攻击效果进行检验，得到检验结果；
若所述检验结果为检验通过，则将所述初始对抗图案确定为所述候选对抗图案。
在一些实施例中，所述处理模块在执行所述将所述初始对抗图案导入所述驾驶场景仿真平台对所述初始对抗图案的攻击效果进行检验，得到检验结果步骤时，具体用于：
将所述初始对抗图案添加至所述车道线区域内，得到初始对抗样本；
将所述初始对抗样本输入所述车道线检测模型，识别得到第一车道线；
若所述第一车道线与所述场景车道线的第一距离偏差大于所述预设偏差阈值，则确定所述检验结果为检验通过；
若所述第一车道线与所述场景车道线的第一距离偏差小于或等于所述预设偏差阈值，则确定所述检验结果为检验不通过。
在一些实施例中，所述驾驶场景仿真平台预设有多种天气参数；所述处理模块在执行所述将所述目标对抗样本输入所述车道线检测模型步骤之前，还用于：
通过收发模块接收针对目标天气参数的天气参数选择指令，所述目标天气参数为多种所述天气参数中的一天气参数；
响应于所述天气参数选择指令，将所述显示界面的天气参数设置为所述目标天气参数。
在一些实施例中，所述显示界面中显示有与所述目标车辆保持相对速度的虚拟投影设备；所述处理模块在执行所述从预设的多个候选对抗图案中确定当前待添加的目标对抗图案步骤时，具体用于：
通过所述收发模块接收针对所述虚拟投影设备的投影指令，所述投影指令用于指示所述虚拟投影设备向所述车道线区域内投影所述目标对抗图案；
所述处理模块在执行所述将所述目标对抗图案添加至所述目标路段的车道线区域内，得到目标对抗样本步骤时，具体用于：
响应于所述投影指令，通过所述虚拟投影设备将所述目标对抗图案投影至所述车道线区域内，得到所述目标对抗样本。
在一些实施例中，所述处理模块在执行所述显示界面当前显示的所述目标路段为车道线异常路段；所述将所述目标对抗样本输入所述车道线检测模型，得到识别结果步骤时，具体用于：
通过所述收发模块接收第一消息，所述第一消息用于指示所述目标车辆根据车道线向前行驶；
将所述目标对抗样本输入所述车道线检测模型，得到第一车道线的识别结果，所述第一车道线对应的最小车道宽度小于所述目标车辆的宽度。
在一些实施例中，所述显示界面当前显示的所述目标路段为弯道路段；所述处理模块在执行所述将所述目标对抗样本输入所述车道线检测模型，得到识别结果步骤时，具体用于：
通过所述收发模块接收第二消息，所述第二消息用于指示所述目标车辆根据车道线向前行驶；
将所述目标对抗样本输入所述车道线检测模型，得到第二车道线的识别结果，所述第二车道线的拐弯方向与所述场景车道线的拐弯方向相反。
第三方面，本申请实施例还提供了一种计算机设备，其包括存储器及处理器，所述存储器上存储有计算机程序，所述处理器执行所述计算机程序时实现上述方法。
第四方面，本申请实施例还提供了一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序包括程序指令，所述程序指令当被处理器执行时可实现上述方法。
相较于现有技术，本方案提供了一个模型鲁棒性检测系统，本申请实施例在模型鲁棒性检测系统中即可实现对模型进行攻击，通过仿真场景来模拟物理世界的检测流程，不需要在物理世界中实地对模型进行攻击，能够保障模型鲁棒性检测的安全性，并且由于本方案中的目标对抗样本可以基于驾驶场景仿真平台在任意时刻动态生成，不需要对对抗图案先进行拍摄以及打印才能在物理世界进行攻击测试，通过用户交互即可以在车辆运行过程中不断动态的生成对抗样本，然后基于不断动态生成对抗样本的机制，在车辆运行过程中对车道线检测模型进行随时地、有针对性地进行连续攻击，可以在短时间内更多、更快、更全面的攻击车道线检测模型，提高攻击效果，缩短模型的迭代周期。
附图说明
为了更清楚地说明本申请实施例技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本申请实施例提供的模型鲁棒性检测方法的应用场景示意图；
图2为本申请实施例提供的模型鲁棒性检测方法的流程示意图；
图3a为本申请实施例提供的模型鲁棒性检测方法的另一应用场景示意图；
图3b为本申请实施例提供的模型鲁棒性检测方法的另一应用场景示意图；
图4为本申请实施例提供的模型鲁棒性检测方法的另一应用场景示意图；
图5为本申请实施例提供的模型鲁棒性检测方法的另一应用场景示意图；
图6为本申请实施例提供的模型鲁棒性检测方法的另一应用场景示意图；
图7为本申请实施例提供的模型鲁棒性检测方法的另一应用场景示意图；
图8为本申请另一实施例提供的模型鲁棒性检测方法的流程示意图；
图9为本申请实施例提供的模型鲁棒性检测装置的示意性框图；
图10为本申请实施例中服务器的一种结构示意图；
图11为本申请实施例中终端的一种结构示意图；
图12为本申请实施例中服务器的一种结构示意图。
具体实施方式
本申请实施例的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的实施例能够以除了在这里图示或描述的内容以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或模块的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或模块，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或模块，本申请实施例中所出现的模块的划分，仅仅是一种逻辑上的划分，实际应用中实现时可以有另外的划分方式，例如多个模块可以结合成或集成在另一个系统中，或一些特征可以忽略，或不执行，另外，所显示的或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，模块之间的间接耦合或通信连接可以是电性或其他类似的形式，本申请实施例中均不作限定。并且，作为分离部件说明的模块或子模块可以是也可以不是物理上的分离，可以是也可以不是物理模块，或者可以分布到多个电路模块中，可以根据实际的需要选择其中的部分或全部模块来实现本申请实施例方案的目的。
本申请实施例供了一种模型鲁棒性检测方法、相关装置及存储介质，可用于驾驶场景，例如多场景的车道线攻击、沉侵式体验或学习驾考等。该模型鲁棒性检测方法的执行主体可以是本申请实施例提供的模型鲁棒性检测装置，或配置有所述模型鲁棒性检测装置的模型鲁棒性检测系统，或集成有所述模型鲁棒性检测系统的计算机设备，其中，该模型鲁棒性检测装置或模型鲁棒性检测系统可以采用硬件或者软件的方式实现，该计算机设备可以为终端或服务器。
当该计算机设备为服务器时，该服务器可以是独立的物理服务器，也可以是多个物理服务器构成的服务器集群或者分布式系统，还可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、CDN、以及大数据和人工智能平台等基础云计算服务的云服务器。
当该计算机设备为终端时，该终端可以包括：智能手机、平板电脑、笔记本电脑、桌上型电脑、智能电视、智能音箱、个人数字助理(英文全称：Personal Digital Assistant，英文简称：PDA)、台式计算机、智能手表等携带多媒体数据处理功能(例如，视频数据播放功能、音乐数据播放功能)的智能终端，但并不局限于此。
本申请实施例的方案可基于人工智能技术实现，具体来说涉及人工智能技术中的计算机视觉技术技术领域和云技术中的云计算、云存储和数据库等领域，下面将分别进行介绍。
人工智能(Artificial Intelligence,AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。换句话说，人工智能是计算机科学的一个综合技术，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法，使机器具有感知、推理与决策的功能。
人工智能技术是一门综合学科，涉及领域广泛，既有硬件层面的技术也有软件层面的技术。人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
计算机视觉技术(Computer Vision,CV)计算机视觉是一门研究如何使机器“看”的科学，更进一步的说，就是指用摄影机和电脑代替人眼对目标进行识别、跟踪和测量等机器视觉，并进一步做图形处理，使电脑处理成为更适合人眼观察或传送给仪器检测的图像。作为一个科学学科，计算机视觉研究相关的理论和技术，试图建立能够从图像或者多维数据中获取信息的人工智能系统。计算机视觉技术通常包括图像处理、模型鲁棒性检测、图像语义理解、图像检索、OCR、视频处理、视频语义理解、视频内容/行为识别、三维物体重建、3D技术、虚拟现实、增强现实、同步定位与地图构建等技术，还包括常见的模型鲁棒性检测、指纹识别等生物特征识别技术。
随着人工智能技术研究和进步，人工智能技术在多个领域展开研究和应用，例如常见的智能家居、智能穿戴设备、虚拟助理、智能音箱、智能营销、无人驾驶、自动驾驶、无人机、机器人、智能医疗、智能客服等，相信随着技术的发展，人工智能技术将在更多的领域得到应用，并发挥越来越重要的价值。
本申请实施例的方案可基于云技术实现，具体来说涉及云技术中的云计算、云存储和数据库等技术领域，下面将分别进行介绍。
云技术(Cloudtechnology)是指在广域网或局域网内将硬件、软件、网络等系列资源统一起来，实现数据的计算、储存、处理和共享的一种托管技术。云技术(Cloudtechnology)基于云计算商业模式应用的网络技术、信息技术、整合技术、管理平台技术、应用技术等的总称，可以组成资源池，按需所用，灵活便利。云计算技术将变成重要支撑。技术网络系统的后台服务需要大量的计算、存储资源，如视频网站、图像类网站和更多的门户网站。伴随着互联网行业的高度发展和应用，将来每个物品都有可能存在自己的识别标志，都需要传输到后台系统进行逻辑处理，不同程度级别的数据将会分开处理，各类行业数据皆需要强大的系统后盾支撑，只能通过云计算来实现。本申请实施例可通过云技术对识别结果进行保存。
云存储(cloud storage)是在云计算概念上延伸和发展出来的一个新的概念，分布式云存储系统(以下简称存储系统)是指通过集群应用、网格技术以及分布存储文件系统等功能，将网络中大量各种不同类型的存储设备(存储设备也称之为存储节点)通过应用软件或应用接口集合起来协同工作，共同对外提供数据存储和业务访问功能的一个存储系统。在本申请实施例中，可将网络配置等信息均保存在该存储系统中，便于服务器调取。
目前，存储系统的存储方法为：创建逻辑卷，在创建逻辑卷时，就为每个逻辑卷分配物理存储空间，该物理存储空间可能是某个存储设备或者某几个存储设备的磁盘组成。客户端在某一逻辑卷上存储数据，也就是将数据存储在文件系统上，文件系统将数据分成许多部分，每一部分是一个对象，对象不仅包含数据而且还包含数据标识(ID，ID entity)等额外的信息，文件系统将每个对象分别写入该逻辑卷的物理存储空间，且文件系统会记录每个对象的存储位置信息，从而当客户端请求访问数据时，文件系统能够根据每个对象的存储位置信息让客户端对数据进行访问。
存储系统为逻辑卷分配物理存储空间的过程，具体为：按照对存储于逻辑卷的对象的容量估量(该估量往往相对于实际要存储的对象的容量有很大余量)和独立冗余磁盘阵列(RAID，Redundant Array ofIndependent Disk)的组别，预先将物理存储空间划分成分条，一个逻辑卷可以理解为一个分条，从而为逻辑卷分配了物理存储空间。
数据库(Database)，简而言之可视为电子化的文件柜——存储电子文件的处所，用户可以对文件中的数据进行新增、查询、更新、删除等操作。所谓“数据库”是以一定方式储存在一起、能与多个用户共享、具有尽可能小的冗余度、与应用程序彼此独立的数据集合。
数据库管理系统(英语：Database Management System，简称DBMS)是为管理数据库而设计的电脑软件系统，一般具有存储、截取、安全保障、备份等基础功能。数据库管理系统可以依据它所支持的数据库模型来作分类，例如关系式、XML(Extensible MarkupLanguage,即可扩展标记语言)；或依据所支持的计算机类型来作分类，例如服务器群集、移动电话；或依据所用查询语言来作分类，例如SQL(结构化查询语言，Structured QueryLanguage)、XQuery；或依据性能冲量重点来作分类，例如最大规模、最高运行速度；亦或其他的分类方式。不论使用哪种分类方式，一些DBMS能够跨类别，例如，同时支持多种查询语言。在本申请实施例中，可将识别结果存储在该数据库管理系统中，便于服务器调取。
其中，需要特别说明的是，本申请实施例涉及的服务终端，可以是指向服务终端提供语音和/或数据连通性的设备，具有无线连接功能的手持式设备、或连接到无线调制解调器的其他处理设备。例如移动电话(或称为“蜂窝”电话)和具有移动终端的计算机，例如，可以是便携式、袖珍式、手持式、计算机内置的或者车载的移动装置，它们与无线接入网交换语音和/或数据。例如，个人通信业务(英文全称：Personal Communication Service，英文简称：PCS)电话、无绳电话、会话发起协议(SIP)话机、无线本地环路(Wireless LocalLoop，英文简称：WLL)站、个人数字助理(英文全称：Personal Digital Assistant，英文简称：PDA)等设备。
请参阅图1，图1为本申请实施例提供的模型鲁棒性检测方法的应用场景示意图。该模型鲁棒性检测方法应用于图1中的模型鲁棒性检测系统中，该模型鲁棒性检测系统包括驾驶场景仿真平台、车道线检测模型和虚拟控制器，所述驾驶场景仿真平台的显示界面当前显示目标路段的画面，所述目标路段包括行驶中的目标车辆以及场景车道线，且所述目标车辆在所述显示界面的图像和点云数据通过端口传输给所述车道线检测模型。
具体地，模型鲁棒性检测系统从预设的多个候选对抗图案中确定当前待添加的目标对抗图案；将所述目标对抗图案添加至所述目标路段的车道线区域内，得到目标对抗样本；将所述目标对抗样本输入所述车道线检测模型，得到识别结果，其中，所述识别结果指示至少一条目标车道线的绘制轨迹，至少一条所述目标车道线偏离所述场景车道线；根据所述识别结果生成第一车道线，所述第一车道线用于控制所述虚拟控制器生成所述目标车辆的驾驶指令。
本申请实施例在模型鲁棒性检测系统中即可实现对模型进行攻击，通过仿真场景来模拟物理世界的检测流程，不需要在物理世界中实地对模型进行攻击，能够保障模型鲁棒性检测的安全性，并且由于本方案中的目标对抗样本基于驾驶场景仿真平台生成，不需要对对抗图案进行拍摄以及打印，通过用户交互即可以在车辆运行过程中不断生成对抗样本，所以本方案可以在车辆运行过程中对车道线检测模型进行连续攻击，可以在短时间内更多、更快、更全面的测试车道线检测模型，提高攻击效果，缩短模型的迭代周期。
需要说明的是，驾驶场景仿真平台的仿真场景构建完后，可通过传输控制协议(Transmission Control Protocol，TCP)协议传输的方式将对抗算法所生成的对抗样本与仿真平台建立起联系，再通过runtime fbx importer插件将其导入至驾驶场景仿真平台的仿真环境下。
下面，将结合几个实施例对本申请技术方案进行详细的介绍说明。
以下介绍本申请实施例所提供的一种模型鲁棒性检测方法，所述方法应用于模型鲁棒性检测系统，所述模型鲁棒性检测系统包括驾驶场景仿真平台、车道线检测模型和虚拟控制器，所述驾驶场景仿真平台的显示界面当前显示目标路段的画面，所述目标路段包括行驶中的目标车辆以及场景车道线，且所述目标车辆在所述显示界面的图像和点云数据通过端口传输给所述车道线检测模型，以下分别从用户交互以及预设脚本两个方面分别对本实施例提供的模型鲁棒性检测方法进行详细说明。
参照图2，本实施例在模型鲁棒性检测系统中通过用户交互实现本申请提供的模型鲁棒性检测方法，此时，驾驶场景仿真平台的显示界面包括第一区域和第二区域，所述第一区域显示有多个所述候选对抗图案中每个所述候选对抗图案分别对应的功能图标，所述第二区域当前显示所述目标路段的画面，步骤如下：
201、驾驶场景仿真平台接收用户针对所述第一区域中的第一功能图标的第一操作指令。
其中，所述第一操作指令用于指示在所述车道线区域内添加所述目标对抗图案。
此时，从预设的多个候选对抗图案中确定当前待添加的目标对抗图案的步骤具体通过步骤201实现。
本实施例中，目标车辆在驾驶场景仿真平台第二区域中显示的目标路段中行驶，目标路段中包括行驶中的目标车辆以及场景车道线，其中，本实施例需要利用当前显示的场景车道线对车道线检测模型进行攻击，该车道线区域用于放置对抗图案，在目标路段行驶的有效时间内，目标路段都设有一个较长的区域作为车道线区域，在一些实施例中，驾驶场景仿真平台中设置有第一预设关系，该第一预设关系包括显示位置与路段的对应关系，即本实施例中的驾驶场景仿真平台为每种路段都设置有对应的车道线区域，该车道线区域用于显示对抗图案。
当用户想要利用目标路段中当前显示的目标对象对车道线检测模型进行攻击时，首先需要为该目标对象选取对抗图案，并将选中的对抗图案作为目标对抗图案，然后将目标对抗图案通过界面交互的方式添加到当前显示的车道线区域中。
其中，本实施例可以通过鼠标或者触屏(通过触屏笔或者使用手指直接与屏幕接触)等方式在车道线区域添加目标对抗图案，本实施例对于用户以何种方式与界面进行交互的方式不作限定，以下以用户通过鼠标与界面进行交互为例进行说明。
其中，为了方便用户观察第二区域中显示的驾驶场景，本实施例中的第一区域中设有收起按钮以及展开按钮，当用户不需要使用第一区域时，可以点击该收起按钮收起第一区域(收起后只展示展开按钮)，此时，第二区域自适应屏幕放大，当需要使用第一区域中的内容时，再点击展开按钮展示该第一区域，此时第二区域自适应屏幕缩小。
202、驾驶场景仿真平台响应于所述第一操作指令，从多个所述候选对抗图案中选取与所述第一功能图标对应的对抗图案作为所述目标对抗图案。
本实施例中，第一区域中显示有多个功能图标，且驾驶场景仿真平台为每个功能图标都设置了对应的候选对抗图案，当用户选择的第一功能图标时，驾驶场景仿真平台响应第一操作指令，将与该第一功能图标对应的对抗图案确定为目标对抗图案。
203、驾驶场景仿真平台响应于所述第一操作指令，根据第一预设关系将所述目标对抗图案显示在所述目标路段的车道线区域内，得到所述目标对抗样本。
此时，将所述目标对抗图案添加至所述目标路段的车道线区域内，得到目标对抗样本的步骤具体通过步骤202及203实现。
在一些实施例中，请参阅图3a，该第一操作指令对应的是，用户通过鼠标点击第一区域中显示的与目标对抗图案对应的第一功能图标，然后通过鼠标将第一功能图标对应的目标对抗图案直接拖拽至在第二区域中显示的车道线区域内，其中，本实施例中图示的用户交互标识可以为鼠标标识，也可以为触屏标识等指示与用户进行交互的标识，本实施例以鼠标标识为例；此外，在另一些实施例中，当用户点击第一功能图标时，平台还可以根据第一操作指令在第二区域中的车道线区域自动显示目标对抗图案(此时，用户只需要点击第一功能图标，而不需要执行拖拽的动作)；在另一些实施例中，请参阅图3b，从预设的多个候选对抗图案中确定当前待添加的目标对抗图案，包括：接收针对所述虚拟投影设备的投影指令，所述投影指令用于指示所述虚拟投影设备向所述车道线区域内投影所述目标对抗图案，具体地，接收用户针对该虚拟投影设备的投影指令，后续驾驶场景仿真平台将响应该投影指令，通过该虚拟投影设备将目标对抗图案投影至该车道线区域内，得到目标对抗样本，更具体地，用户从第一区域中拖拽目标对抗图案至虚拟无人机中，通过虚拟无人机投影目标对抗图案至目标对象的车道线区域内。
其中，在一些实施例中，显示界面中包含暂停按钮以及播放按钮，为了避免错过攻击时机，在对目标路段添加目标对抗图案之前，首先点击暂停按钮暂停播放当前驾驶画面，再触发第一操作指令，当得到所需的目标对抗样本之后，再点击播放按钮，继续播放当前驾驶画面。
可以理解的是，在实际的物理世界对抗攻击中，也可以直接通过操控搭载投影设备的无人机来跟随被测试车辆，通过地面控制端向投影设备不断的发送各种对抗图案的投影指令，使得该处于空中的投影设备能够较好的、动态的向路面投影各类对抗图案，以测试各类对抗图案的实际攻击效果。当然，也可以将搭载了投影设备的无人机替换为手持投影设备、搭载了投影设备的地面端移动云台，本申请实施例不对此作限定。
在一些实施例中，考虑到所述驾驶场景仿真平台模拟的行驶路段很多，不同的车道线检测模型的鲁棒性存在区别，或者检测指标不同，为了对不同的车道线检测模型进行更全面、更快捷、随意切换、有选择性的攻击，还可以有针对性地选择需要检测的路段。例如，可在所述驾驶场景仿真平台中的行驶路段中选择多种或多个候选路段，针对这些候选路段来模拟实时的车道线检测攻击。具体来说，可在所述所述驾驶场景仿真平台的显示界面设置第三区域，所述第三区域中包括每种所述候选路段分别对应的路段图标；此时，所述接收用户针对所述第一区域中的第一功能图标的第一操作指令之前，所述方法还包括：接收用户针对所述第三区域中目标路段图标的第二操作指令，所述目标路段图标为用户从多个所述路段图标中选中的场景图标；根据所述第二操作指令将所述目标路段设置为与所述目标路段图标关联的所述候选路段，即建立该当前显示路段与路段图标之间的对应关系(如下表1所示)，该对应关系可随时根据检测需求来更新(包括增加、删除、替换、编辑等操作)。
表1
目标路段与目标路段图标之间的对应关系
具体地，如图4所示，用户从第三区域的多个路段图标中勾选目标路段图标，点击确认按钮，此时驾驶场景仿真平台收到用户的选择指令(即第二操作指令)，然后根据用户的选择将第二区域中显示的驾驶场景设置为用户当前选择的目标路段。
其中，本实施例中，驾驶场景仿真平台预设的候选路段的类型包括：路面不平整路段、特殊路面路段以及特殊场景路段，其中，路面不平整路段包括坑洼路段以及平滑路段；特殊路面路段包括车道线部分异常路段(例如缺失、涂抹、暗淡、颜色异常、标记线不清楚或维修等路段)以及车道线遮挡路段；特殊场景路段包括立交桥路段、弯道路段、上坡路段以及下坡路段。通过本方案可以对车道线检测模型中擅长上述场景的车道线检测算法分别进行攻击，使得擅长上述场景的车道线检测算法绘制错误，实现对车道线检测模型的全方位攻击。
其中，为了方便用户观察第二区域中显示的驾驶场景，本实施例中的第三区域中设有收起按钮以及展开按钮，当用户不需要使用第三区域时，可以点击该收起按钮收起第三区域(收起后只展示展开按钮)，此时，第二区域自适应屏幕放大，当需要使用第三区域中的内容时，再点击展开按钮展示该第三区域，此时第二区域自适应屏幕缩小。
当用户在驾驶场景仿真平台的显示界面中触发了第一操作指令之后，驾驶场景仿真平台响应于所述第一操作指令，将所述目标对抗图案添加到目标路段的车道线区域内，其中，当目标对抗图案处于目标对象的车道线区域内时，目标对抗图案可以与目标对象构成目标对抗样本，本申请实施例中提及的车道线区域可以为预设的用于放置对抗图案的区域，也可以根据用户动态指定的范围，该车道线区域可以设置在车道线上，也可以设置在车道线附近。
需要说明的时，本实施例中的目标对抗样本包括图像对抗样本以及点云对抗样本。
在一些实施例中，根据第一预设关系将所述目标对抗图案显示在所述目标路段的车道线区域内，得到所述目标对抗样本的具体步骤包括：根据所述第一预设关系在所述车道线区域内通过预设的图案生成模型生成所述目标对抗图案；然后根据所述车道线区域的路面特征优化所述图案生成模型，以所述对所述目标对抗图案进行边缘优化处理，得到所述目标对抗样本，所述边缘优化处理包括平滑处理或隐式处理。使得生成的目标对抗图案具有攻击性，又符合路面纹理特征，避免目标对抗图案与周遭路面差异过大，提高对抗图案的攻击性。
204、驾驶场景仿真平台将所述目标对抗样本输入所述车道线检测模型。
本实施例中，当驾驶场景仿真平台生成目标对抗样本之后，将生成的目标对抗样本发送给车道线检测模型。
具体地，目标对抗样本显示驾驶场景仿真平台的显示界面的第二区域中，当目标车辆驾驶在第二区域时，所述目标车辆在所述第二区域的图像和点云数据通过端口传输给所述车道线检测模型，使得车道线检测模型获取到目标对抗样本。
为了更全面地对车道线检测模型进行攻击，为模型鲁棒性检测提供更丰富的测试环境基础，对模型实现更全面的鲁棒性检测，在一些实施例中，本实施例中的驾驶场景仿真平台可以模拟多种天气环境，此时，所述驾驶场景仿真平台预设有多种天气参数，不同的天气参数可以渲染不同的天气环境，所述显示界面还包括第四区域，所述第四区域中包括每种所述天气参数分别对应的天气图标；所述将所述目标对抗样本输入所述车道线检测模型之前，所述方法还包括：接收针对目标天气参数的天气参数选择指令，所述目标天气参数为多种所述天气参数中的一天气参数；响应于所述天气参数选择指令，将所述显示界面的天气参数设置为所述目标天气参数。
具体地，接收用户针对所述第四区域中目标天气图标的天气参数选指令，所述目标天气图标为用户从多个所述天气图标中选中的天气图标；根据所述天气参数选指令将所述第二区域的天气参数设置为所述目标天气图标对应的目标天气参数。
具体地，如图5所示，用户从第四区域中多个候选驾驶场景中勾选目标天气图标，点击确认按钮，此时驾驶场景仿真平台收到用户的天气参数选择指令，然后根据该天气参数选择指令将第二区域的天气参数设置为所述目标天气图标对应的目标天气参数，根据该目标天气参数渲染当前驾驶场景。
在一些实施例中，本实施例中的天气参数包括亮度参数以及纹理参数。
其中，多种天气参数包括晴天天气参数(包括晴天、多云以及少云天气参数)、阴天天气参数、雾天天气参数(包括大雾以及小雾天气参数)、雨天天气参数(包括大雨、小雨以及雷雨天气参数)以及雪天天气参数(包括大雪、小雪以及暴雪天气参数)等。
其中，将第二区域的天气参数设置为目标天气参数之后，后续车道线检测模型获取到的目标对抗样本也带有该目标天气参数相应的特征，故通过本系统可以在多种天气场景下对车道线检测模型进行攻击，对模型实现更全面的攻击。
其中，为了方便用户观察第二区域中显示的驾驶场景，本实施例中的第四区域中设有收起按钮以及展开按钮，当用户不需要使用第四区域时，可以点击该收起按钮收起第四区域(收起后只展示展开按钮)，此时，第二区域自适应屏幕放大，当需要使用第四区域中的内容时，再点击展开按钮展示该第四区域，此时第二区域自适应屏幕缩小。
其中，在一些实施例中，为了使目标车辆在驾驶场景仿真平台中实现自动驾驶，将所述目标对抗样本输入所述车道线检测模型之前，所述方法还包括：配置所述模型鲁棒性检测系统，使得所述模型鲁棒性检测系统将所述车道线检测模型的输出作为所述虚拟控制器的输入；具体的配置方式为，接收用户的配置指令，根据用户的配置指令进行系统配置。
其中，所述车道线检测模型以所述目标车辆的第一人称视角获取所述目标车辆的视场范围内的第一人称视角画面，所述第一人称视角画面包括所述目标对抗样本，并基于所述目标对抗样本得到所述识别结果；所述第一人称视角的方位信息跟随所述目标车辆的位置变化而变化。
具体地，本申请只需要保证所述目标对抗样本可以输入所述车道线检测模型，得到识别结果即可，系统的具体设置方式本实施例不作限定。
205、车道线检测模型对所述目标对抗样本进行识别，得到识别结果，并将所述识别结果发送至所述虚拟控制器。
正常情况下车道线检测模型可以准确检测到场景车道线所在的位置，然而，由于本实施例需要检测车道线检测模型的鲁棒性，在场景车道线的车道线区域内添加了对抗图案，车道线在对目标对抗样本中的车道线进行监测时，其检测的准确度会受到对抗图案的影响，此时车道线检测模型在预测以及绘制车道线时，绘制出来的目标车道线与场景车道线的距离偏差较大。
其中，所述识别结果指示至少一条目标车道线的绘制轨迹，至少一条所述目标车道线偏离所述场景车道线；根据所述识别结果生成第一车道线，所述第一车道线用于控制所述虚拟控制器生成所述目标车辆的驾驶指令。具体地，所述识别结果用于控制所述虚拟控制器生成所述目标车辆的驾驶指令，所述识别结果指示第一置信度高于第二置信度，所述第一置信度为所述车道线检测模型将所述目标对抗样本识别为目标车道线时的置信度，所述第二置信度为所述车道线检测模型将所述目标对抗样本识别为所述场景车道线时的置信度，所述目标车道线与所述场景车道线的距离偏差大于预设偏差阈值。
206、虚拟控制器根据所述识别结果生成所述目标车辆的驾驶指令，并根据所述驾驶指令控制驾驶场景仿真平台中的目标车辆。
本实施例中，当车道线检测模型得到目标对抗样本的识别结果之后，将该识别结果传输至虚拟控制器，虚拟控制器根据该识别结果作出目标车辆的驾驶指令，并通过该驾驶指令控制目标车辆在第二区域中显示的驾驶场景中实现自动驾驶。
为了进一步理解本申请实施例提供的模型鲁棒性检测方法，请参阅以下实施例。
在一些实施例中，所述显示界面当前显示的所述目标路段为车道线异常路段，具体地，所述第二区域中显示的驾驶场景为车道线异常路段，此时，所述将所述目标对抗样本输入所述车道线检测模型，得到识别结果，包括：接收第一消息，所述第一消息用于指示所述目标车辆根据车道线向前行驶；将所述目标对抗样本输入所述车道线检测模型，得到第一车道线的识别结果，所述第一车道线对应的最小车道宽度小于所述目标车辆的宽度。
具体地，在一些实施例中，显示界面中显示有驾驶按钮，当用户点击驾驶按钮时，驾驶场景仿真平台获取到用户点击该驾驶按钮时触发的第一消息，目标车辆响应该第一消息在车道线异常路段向前行驶，此时，如图6所示，识别到前方的车道线对应的最小车道宽度小于目标车辆的宽度，目标车辆需要根据车道线进行行驶，此时，虚拟控制器根据识别结果生成的驾驶指令为：前方道路太窄，目标车辆无法通过前方道路，需停车；此时，目标车辆停车，目标车辆挡住其他车辆前进，可能会造成交通阻塞。
在一些实施例中，所述显示界面当前显示的所述目标路段为弯道路段；所述将所述目标对抗样本输入所述车道线检测模型，得到识别结果，包括：接收第二消息，所述第二消息用于指示所述目标车辆根据车道线向前行驶；将所述目标对抗样本输入所述车道线检测模型，得到第二车道线的识别结果，所述第二车道线的拐弯方向与所述场景车道线的拐弯方向相反。
具体地，在一些实施例中，显示界面中显示有驾驶按钮，当用户点击驾驶按钮时，驾驶场景仿真平台获取到用户点击该驾驶按钮时触发的第二消息，目标车辆响应该第二消息在弯道路段向前行驶，此时，如图7所示，此时场景车道向左拐弯，而车道线检测模型检测出来的第二车道线却向右拐弯，虚拟控制器根据检测结果生成驾驶指令，控制目标车辆向右拐弯，导致目标车辆偏离道路行驶。
综上所述，第一方面，用户通过与模型鲁棒性检测系统中的驾驶场景仿真平台进行交互，可以手动直观地在驾驶场景仿真平台中的对抗图案添加到待攻击对象的车道线区域内，得到目标对抗样本，然后系统自动将得到的目标对抗样本输入车道线检测模型，对车道线检测模型进行攻击，可见，本方案提供的模型鲁棒性检测系统通俗易懂，直观有效，并且用户和系统进行简单交互(例如在显示界面中选取目标对抗图案，并将目标对抗图案拖拽待攻击对象上)即可生成目标对抗样本，系统操作简单，并且趣味性高；第二方面，本申请实施例在模型鲁棒性检测系统中即可实现对模型进行攻击，通过仿真场景来模拟物理世界的检测流程，不需要实地对模型进行攻击，能够保障检测的安全性，并且由于本方案中的目标对抗样本基于驾驶场景仿真平台生成，不需要对对抗图案进行拍摄以及打印，通过用户交互即可以在车辆运行过程中不断生成对抗样本，所以本方案可以在车辆运行过程中对车道线检测模型进行连续攻击，可以在短时间内更多、更快、更全面的测试车道线检测模型，提高攻击效果，缩短模型的迭代周期。
参照图8，本实施例在模型鲁棒性检测系统中通过预设脚本实现本申请提供的模型鲁棒性检测方法，此时，所述目标车辆处于按照预设脚本行驶状态，且所述预设脚本指示所述显示界面在目标时段显示所述目标路段的画面，步骤如下：
801、驾驶场景仿真平台根据所述预设脚本从多个所述候选对抗图案中确定与所述目标路段对应的所述目标对抗图案。
此时，所述从预设的多个候选对抗图案中确定当前待添加的目标对抗图案的步骤具体通过步骤801实现。
具体地，预设脚本中预设多个时段，每个时段对应播放一个路段场景，并且预设脚本为每个路段场景都设置有至少一个对抗图案的保存路径，且在对应路段场景中为各目标对抗图案分别设置有车道线区域。
进一步地，驾驶场景仿真平台中预设有多个候选对抗图案，当驾驶场景仿真平台播放到目标时段时，根据预设脚本指示的当前路段对抗图案的保存路径从多个候选对抗图案中确定对应的目标对抗图案。
802、在所述目标时段内，驾驶场景仿真平台将所述目标对抗图案导入所述车道线区域内，采集得到所述目标对抗样本。
此时，所述将所述目标对抗图案添加至所述目标路段的车道线区域内，得到目标对抗样本的步骤具体通过步骤802实现。
本实施例中，根据预设脚本的指示，在目标路段播放目标路段且该目标路段对应的对抗图案为目标对抗图案，此时自动将目标对抗图案导入车道线区域内，得到目标对抗样本。
在一些实施例中，所述目标对抗图案导入所述驾驶场景仿真平台的方式包括以下项中的至少一项：程序接口导入、虚拟投影设备投影以及自动化图标拖拽。
在通过程序接口导入进行对抗图案导入时，预设脚本中设置有目标路段对应目标对抗图案的存储路径，并且设置有目标路段的车道线区域，当目标对抗图案处于目标路段的车道线区域内时，可以使得目标路段对应的图像成为对抗样本，迷惑车道线检测模型。具体地，当前播放时段为目标时段，此时，需要为当前场景界面中的目标路段添加目标对抗图案，例如，将预设脚本中该目标路段车道线区域内中的指定图案的存储路径替换为对应的目标对抗图案的存储路径，其中，该指定图案为需要被替换为目标对抗图案的图案，然后重新加载渲染当前场景界面，从而实现目标对抗图案的添加，得到目标对抗样本。或者，将指定的目标对抗图案直接添加至指定区域，采用覆盖的方式导入，得到目标对抗样本。其中，由于通过程序接口进行对抗图案导入，对抗图案导入的速度快，从而提高目标对抗样本的生成速度。
在通过虚拟投影设备投影进行对抗图案导入时，此时，所述显示界面中显示有与所述目标车辆保持相对速度的虚拟投影设备；此时，从预设的多个候选对抗图案中确定当前待添加的目标对抗图案，包括：接收针对所述虚拟投影设备的投影指令，所述投影指令用于指示所述虚拟投影设备向所述车道线区域内投影所述目标对抗图案，其中，该虚拟投影指令为预设脚本预设的在目标时段内触发的投影指令；此时，将所述目标对抗图案添加至所述目标路段的车道线区域内，得到目标对抗样本，包括：响应于所述投影指令，通过所述虚拟投影设备将所述目标对抗图案投影至所述车道线区域内，得到所述目标对抗样本。其中，该虚拟投影设备可以为虚拟无人机投影设备，通过虚拟无人机投影进行对抗图案导入的界面示意图如图3b所示(其中，图2对应实施例中，3a中的虚拟投影设备为手动投影，而本实施例为自动化投影)。其中，通过虚拟投影设备投影进行标对抗图案导入可以增加对抗图案导入的多样性。
当通过自动化图标拖拽进行对抗图案导入时，此时，所述驾驶场景仿真平台的显示界面包括第一区域和第二区域，所述第一区域显示有多个候选对抗图案，所述第二区域当前显示目标驾驶场景的画面，此时，预设脚本设置有自动拖拽指令，当驾驶场景仿真平台播放到目标时段对应的目标驾驶场景的画面时，触发该自动拖拽指令，从第一区域的多个候选对抗图案中选取自动拖拽指令指示的的目标对抗图案，并自动将目标对抗图案拖拽至目标路段的车道线区域内，通过自动化图标拖拽进行对抗图案的导入，得到目标对抗样本，其中，通过自动化图标拖拽进行对抗图案导入的界面示意图如图3a所示(其中，图2对应实施例中，3a中的图标为手动拖动，而本实施例为自动化拖动)。通过自动图标拖拽的方式进行对抗图案进行显示导入，可以向用户直观呈现对抗图案的导入过程，提高模型鲁棒性检测的趣味性。
需要说明的时，本实施例中的目标对抗样本包括图像对抗样本以及点云对抗样本。
在一些实施例中，所述在所述目标时段内，将所述目标对抗图案导入所述车道线区域内，采集得到所述目标对抗样本的具体步骤包括：
在所述目标时段内，在所述车道线区域内通过预设的图案生成模型生成所述目标对抗图案；然后根据所述车道线区域的路面特征优化所述图案生成模型，以所述对所述目标对抗图案进行边缘优化处理，得到所述目标对抗样本，所述边缘优化处理包括平滑处理或隐式处理。使得生成的目标对抗图案具有攻击性，又符合路面纹理特征，避免目标对抗图案与周遭路面差异过大，提高对抗图案的攻击性。
803、驾驶场景仿真平台将所述目标对抗样本输入所述车道线检测模型。
本实施例中，当驾驶场景仿真平台生成目标对抗样本之后，将生成的目标对抗样本发送给车道线检测模型。
具体地，目标对抗样本显示在当前场景界面(目标路段对应的界面)中，当目标车辆驾驶在当前场景界面中时，驾驶场景仿真平台的当前场景界面中的图像和点云数据通过端口传输给所述车道线检测模型，使得车道线检测模型会获取到目标对抗样本，此时，将当前场景界面中的目标对抗样本输入车道线检测模型中。
804、车道线检测模型对所述目标对抗样本进行识别，得到识别结果，并将所述识别结果发送至所述虚拟控制器。
当车道线检测模型获取到目标对抗样本之后，实时对获取到的目标对抗样本进行识别，并输出识别结果，其中，所述识别结果指示至少一条目标车道线的绘制轨迹，至少一条所述目标车道线偏离所述场景车道线；根据所述识别结果生成第一车道线，所述第一车道线用于控制所述虚拟控制器生成所述目标车辆的驾驶指令。具体地，所述识别结果用于控制所述虚拟控制器生成所述目标车辆的驾驶指令，所述识别结果指示第一置信度高于第二置信度，所述第一置信度为所述车道线检测模型将所述目标对抗样本识别为目标车道线时的置信度，所述第二置信度为所述车道线检测模型将所述目标对抗样本识别为所述场景车道线时的置信度，所述目标车道线与所述场景车道线的距离偏差大于预设偏差阈值。
具体地，本实施例通过车道线检测模型得到识别结果之后，将该识别结果发送虚拟控制器，使得虚拟控制器根据该识别结果生成驾驶指令，并通过该驾驶指令控制目标车辆在目标路段中行驶。
为了为车道线检测模型的自然鲁棒性提供测试的环境基础，对模型实现更全面的鲁棒性检测，本实施例中的驾驶场景仿真平台可以模拟多种环境，此时，所述驾驶场景仿真平台预设有多种天气参数，所述将所述目标对抗样本输入所述车道线检测模型之前，所述方法还包括：
a、接收针对目标天气参数的天气参数选择指令，所述目标天气参数为多种所述天气参数中的一天气参数。
此时，该天气参数选择指令为预设脚本针对目标时段设置的指令，当平台播放至目标时段时，预设脚本自动触发目标天气参数的天气参数选择指令。
进一步地，所述预设脚本预设有多个运行周期，并且所述预设脚本中设有运行周期数与天气参数的对应关系，目标时段为当前运行周期的播放时段，此时，驾驶场景仿真平台按照预设的运行周期依次播放驾驶场景，并且在每个运行周期开始前，自动将天气参数设置为当前运行周期对应的天气参数，从而实现对模型实现在各种天气环境下对模型的鲁棒性检测。
b、响应于所述天气参数选择指令，将所述显示界面的天气参数设置为所述目标天气参数。
具体地，平台响应于该天气参数选择指令，然后将显示界面的天气参数设置为所述目标天气参数。
805、虚拟控制器根据所述识别结果生成所述目标车辆的驾驶指令，并根据所述驾驶指令控制驾驶场景仿真平台中的目标车辆。
具体地，虚拟控制器接收到该识别结果之后，根据该识别结果生成目标车辆的驾驶指令，然后将该驾驶指令控制驾驶场景仿真平台中的目标车辆，使得目标车辆在驾驶场景仿真平台中按照驾驶指令运行。
在一些实施例中，所述显示界面当前显示的所述目标路段为车道线异常路段，预设脚本在目标时段还预设有第一消息，该第一消息用于指示所述目标车辆当前根据车道线向前行驶；此时，所述将所述目标对抗样本输入所述车道线检测模型，得到识别结果，包括：当目标车辆运行至目标时段时，接收第一消息，所述第一消息用于指示所述目标车辆根据车道线向前行驶；将所述目标对抗样本输入所述车道线检测模型，得到第一车道线的识别结果，所述第一车道线对应的最小车道宽度小于所述目标车辆的宽度。
将所述目标对抗样本输入所述车道线检测模型，得到第一车道线的识别结果，所述第一车道线对应的最小车道宽度小于所述目标车辆的宽度。
此时，如图6所示，识别到前方的车道线对应的最小车道宽度小于目标车辆的宽度，目标车辆需要根据车道线进行行驶，此时，虚拟控制器根据识别结果生成的驾驶指令为：前方道路太窄，目标车辆无法通过前方道路，需停车；此时，目标车辆停车，目标车辆挡住其他车辆前进，可能会造成交通阻塞。
在一些实施例中，所述显示界面当前显示的所述目标路段为弯道路段；预设脚本在目标时段还预设有第二消息，该第二消息用于指示所述目标车辆当前根据车道线向前行驶；所述将所述目标对抗样本输入所述车道线检测模型，得到识别结果，包括：当目标车辆运行至目标时段时，接收第二消息，所述第二消息用于指示所述目标车辆根据车道线向前行驶；将所述目标对抗样本输入所述车道线检测模型，得到第二车道线的识别结果，所述第二车道线的拐弯方向与所述场景车道线的拐弯方向相反。
此时，如图7所示，场景车道向左拐弯，而车道线检测模型检测出来的第二车道线却向右拐弯，虚拟控制器根据检测结果生成驾驶指令，控制目标车辆向右拐弯，导致目标车辆偏离道路行驶。
综上所述，本方案中的目标车辆根据预设脚本在驾驶场景仿真平台中行驶，并且在预设脚本指示的目标时段内，将目标对抗图案导入对应目标对象的车道线区域内之后，得到目标对抗样本，将目标对抗样本输入车道线检测模型即可实现对模型的攻击，第一方面，通过仿真场景来模拟物理世界的检测流程，在获得较接近真实物理世界的检测结果下，能够保障检测的安全性，第二方面，由于目标对抗样本可以在目标车辆行驶过程中动态生成，基于驾驶场景仿真平台生成的对抗样本不需要打印对抗图案，也不需要在现实场景中对对抗图案进行拍摄，所以本方案可以在车辆运行过程中对车道线检测模型进行连续攻击，可以在短时间内更多的、更快、更全面的测试车道线检测模型，提高攻击效果，并且缩短模型的迭代周期。
在执行图2以及图8对应的实施例中模型鲁棒性检测方法之前，本实施例首先需要在仿真环境中对对抗图案进行优化，为了保证候选对抗图案具有攻击效果，当对抗样本可以生成稳定攻击的对抗样本之后，才能将该对抗图案作为候选对抗图案存储在模型鲁棒性检测系统中，待后续根据图2以及图8对应的实施例在仿真场景中使用该候选对抗图案，其中，优化对抗图案的步骤如下：
根据预设的对抗攻击算法生成初始对抗图案；将所述初始对抗图案导入所述驾驶场景仿真平台对所述初始对抗图案的攻击效果进行检验，得到检验结果；若所述检验结果为检验通过，则将所述初始对抗图案确定为所述候选对抗图案。
具体地，所述将所述初始对抗图案导入所述驾驶场景仿真平台对所述初始对抗图案的攻击效果进行检验，得到检验结果，包括：将所述初始对抗图案添加至所述车道线区域内，得到初始对抗样本；将所述初始对抗样本输入所述车道线检测模型，识别得到第一车道线；若所述第一车道线与所述场景车道线的第一距离偏差大于所述预设偏差阈值，则确定所述检验结果为检验通过；若所述第一车道线与所述场景车道线的第一距离偏差小于或等于所述预设偏差阈值，则确定所述检验结果为检验不通过。
其中，如果所述第一车道线与所述场景车道线的第一距离偏差大于所述预设偏差阈值，则说明此时的对抗样本攻击模型攻击成功，此时，可以将该初始对抗样本具有比较好的攻击效果，此时，可以将初始对抗样本对应的初始对抗图案确定为候选对抗图案，进一步地，将该候选对抗图案确定为对应路段的对抗图案。如果检验不同过，则需要重新通过对抗攻击算法生成对抗图案并自动化导入到仿真平台中继续进行优化。
图9是本申请实施例提供的一种模型鲁棒性检测装置的示意性框图，可用于驾驶场景，例如多场景的车道线攻击、沉侵式体验或学习驾考等。如图9所示，对应于以上模型鲁棒性检测方法，本申请还提供一种模型鲁棒性检测装置900。该模型鲁棒性检测装置900包括用于执行上述模型鲁棒性检测方法的单元，该模型鲁棒性检测装置900可以被配置于模型鲁棒性检测系统中，所述模型鲁棒性检测系统可被安装于计算机设备中，该计算机设备为终端或服务器，并且，所述模型鲁棒性检测系统包括驾驶场景仿真平台、车道线检测模型和虚拟控制器，所述驾驶场景仿真平台的显示界面当前显示目标路段的画面，所述目标路段包括行驶中的目标车辆以及场景车道线，且所述目标车辆在所述显示界面的图像和点云数据通过端口传输给所述车道线检测模型，所述模型鲁棒性检测装置900包括收发模块901以及处理模块902，其中：
处理模块902，用于从预设的多个候选对抗图案中确定当前待添加的目标对抗图案；将所述目标对抗图案添加至所述目标路段的车道线区域内，采集得到目标对抗样本；将所述目标对抗样本输入所述车道线检测模型，得到识别结果，所述识别结果指示至少一条目标车道线的绘制轨迹，至少一条所述目标车道线偏离所述场景车道线；根据所述识别结果生成第一车道线，所述第一车道线用于控制所述虚拟控制器生成所述目标车辆的驾驶指令；
收发模块901，用于将所述识别结果输入所述虚拟控制器。
在一些实施例中，所述显示界面包括第一区域和第二区域，所述第一区域显示有多个所述候选对抗图案中每个所述候选对抗图案分别对应的功能图标，所述第二区域当前显示所述目标路段的画面；所述处理模块902在执行所述从预设的多个候选对抗图案中确定当前待添加的目标对抗图案步骤时，具体用于：
通过所述收发模块901接收用户针对所述第一区域中的第一功能图标的第一操作指令，所述第一操作指令用于指示在所述车道线区域内添加所述目标对抗图案；
所述处理模块902在执行所述将所述目标对抗图案添加至所述目标路段的车道线区域内，得到目标对抗样本步骤时，具体用于：
响应于所述第一操作指令，根据第一预设关系将所述目标对抗图案显示在所述目标路段的车道线区域内，得到所述目标对抗样本，所述第一预设关系包括显示位置与路段的对应关系。
在一些实施例中，所述驾驶场景仿真平台预设有多种候选路段，所述显示界面还包括第三区域，所述第三区域中包括每种所述候选路段分别对应的路段图标；在所述处理模块902执行所述接收用户针对所述第一区域中的第一功能图标的第一操作指令步骤之前，所述收发模块901，还用于接收所述用户针对所述第三区域中目标路段图标的第二操作指令，所述目标路段图标为所述用户从多个所述路段图标中选中的场景图标；
所述处理模块902，还用于根据所述第二操作指令将所述目标路段设置为与所述目标路段图标关联的所述候选路段。
在一些实施例中，所述目标车辆处于按照预设脚本行驶状态，且所述预设脚本指示所述显示界面在目标时段显示所述目标路段的画面；所述处理模块902在执行所述从预设的多个候选对抗图案中确定当前待添加的目标对抗图案步骤时，具体用于：
根据所述预设脚本从多个所述候选对抗图案中确定与所述目标路段对应的所述目标对抗图案；
所述处理模块902在执行所述将所述目标对抗图案添加至所述目标路段的车道线区域内，得到目标对抗样本步骤时，具体用于：
在所述目标时段内，将所述目标对抗图案导入所述车道线区域内，得到所述目标对抗样本。
在一些实施例中，所述处理模块902在执行所述从预设的多个候选对抗图案中确定当前待添加的目标对抗图案步骤之前，还用于：
根据预设的对抗攻击算法生成初始对抗图案；
将所述初始对抗图案导入所述驾驶场景仿真平台对所述初始对抗图案的攻击效果进行检验，得到检验结果；
若所述检验结果为检验通过，则将所述初始对抗图案确定为所述候选对抗图案。
在一些实施例中，所述处理模块902在执行所述将所述初始对抗图案导入所述驾驶场景仿真平台对所述初始对抗图案的攻击效果进行检验，得到检验结果步骤时，具体用于：
将所述初始对抗图案添加至所述车道线区域内，得到初始对抗样本；
将所述初始对抗样本输入所述车道线检测模型，识别得到第一车道线；
若所述第一车道线与所述场景车道线的第一距离偏差大于所述预设偏差阈值，则确定所述检验结果为检验通过；
若所述第一车道线与所述场景车道线的第一距离偏差小于或等于所述预设偏差阈值，则确定所述检验结果为检验不通过。
在一些实施例中，所述驾驶场景仿真平台预设有多种天气参数；所述处理模块902在执行所述将所述目标对抗样本输入所述车道线检测模型步骤之前，还用于：
通过收发模块901接收针对目标天气参数的天气参数选择指令，所述目标天气参数为多种所述天气参数中的一天气参数；
响应于所述天气参数选择指令，将所述显示界面的天气参数设置为所述目标天气参数。
在一些实施例中，所述显示界面中显示有与所述目标车辆保持相对速度的虚拟投影设备；所述处理模块902在执行所述从预设的多个候选对抗图案中确定当前待添加的目标对抗图案步骤时，具体用于：
通过所述收发模块901接收针对所述虚拟投影设备的投影指令，所述投影指令用于指示所述虚拟投影设备向所述车道线区域内投影所述目标对抗图案；
所述处理模块902在执行所述将所述目标对抗图案添加至所述目标路段的车道线区域内，得到目标对抗样本步骤时，具体用于：
响应于所述投影指令，通过所述虚拟投影设备将所述目标对抗图案投影至所述车道线区域内，得到所述目标对抗样本。
在一些实施例中，所述处理模块902在执行所述显示界面当前显示的所述目标路段为车道线异常路段；所述将所述目标对抗样本输入所述车道线检测模型，得到识别结果步骤时，具体用于：
通过所述收发模块901接收第一消息，所述第一消息用于指示所述目标车辆根据车道线向前行驶；
将所述目标对抗样本输入所述车道线检测模型，得到第一车道线的识别结果，所述第一车道线对应的最小车道宽度小于所述目标车辆的宽度。
在一些实施例中，所述显示界面当前显示的所述目标路段为弯道路段；所述处理模块902在执行所述将所述目标对抗样本输入所述车道线检测模型，得到识别结果步骤时，具体用于：
通过所述收发模块901接收第二消息，所述第二消息用于指示所述目标车辆根据车道线向前行驶；
将所述目标对抗样本输入所述车道线检测模型，得到第二车道线的识别结果，所述第二车道线的拐弯方向与所述场景车道线的拐弯方向相反。
需要说明的是，所属领域的技术人员可以清楚地了解到，上述模型鲁棒性检测系统和各单元的具体实现过程，可以参考前述方法实施例中的相应描述，为了描述的方便和简洁，在此不再赘述。
上面从模块化功能实体的角度对本申请实施例中的模型鲁棒性检测装置进行了描述，下面从硬件处理的角度分别对本申请实施例中的模型鲁棒性检测装置进行描述。
需要说明的是，在本申请实施例各实施例(包括图9所示的各实施例)中所有的收发模块对应的实体设备可以为收发器，所有的处理模块对应的实体设备可以为处理器。当其中一种装置具有如图9所示的结构时，处理器、收发器和存储器实现前述对应该装置的装置实施例提供的所述收发模块和所述处理模块相同或相似的功能，图10中的存储器存储处理器执行上述模型鲁棒性检测方法时需要调用的计算机程序。
图9所示的系统可以具有如图10所示的结构，当图9所示的装置具有如图10所示的结构时，图10中的处理器能够实现前述对应该装置的装置实施例提供的所述处理模块相同或相似的功能，图10中的收发器能够实现前述对应该装置的装置实施例提供的所述收发模块相同或相似的功能，图10中的存储器存储处理器执行上述模型鲁棒性检测方法时需要调用的计算机程序。在本申请实施例图9所示的实施例中的所述收发模块所对应的实体设备可以为输入输出接口，所述处理模块对应的实体设备可以为处理器。
本申请实施例还提供了另一种终端设备，如图11所示，为了便于说明，仅示出了与本申请实施例相关的部分，具体技术细节未揭示的，请参照本申请实施例方法部分。该终端设备可以为包括手机、平板电脑、个人数字助理(英文全称：Personal DigitalAssistant，英文简称：PDA)、销售终端(英文全称：Point ofSales，英文简称：POS)、车载电脑等任意终端设备，以终端为手机为例：
图11示出的是与本申请实施例提供的终端设备相关的手机的部分结构的框图。参考图11，手机包括：射频(英文全称：Radio Frequency，英文简称：RF)电路1110、存储器1120、输入单元1130、显示单元1140、传感器1120、音频电路1160、无线保真(英文全称：wireless fidelity，英文简称：Wi-Fi)模块1170、处理器1180、以及电源1190等部件。本领域技术人员可以理解，图11中示出的手机结构并不构成对手机的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。
下面结合图11对手机的各个构成部件进行具体的介绍：
RF电路1110可用于收发信息或通话过程中，信号的接收和发送，特别地，将基站的下行信息接收后，给处理器1180处理；另外，将设计上行的数据发送给基站。通常，RF电路1110包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器(英文全称：LowNoiseAmplifier，英文简称：LNA)、双工器等。此外，RF电路1110还可以通过无线通信与网络和其他设备通信。上述无线通信可以使用任一通信标准或协议，包括但不限于全球移动通讯系统(英文全称：Global System ofMobile communication，英文简称：GSM)、通用分组无线服务(英文全称：General Packet Radio Service，英文简称：GPRS)、码分多址(英文全称：Code Division MultipleAccess，英文简称：CDMA)、宽带码分多址(英文全称：WidebandCode DivisionMultipleAccess,英文简称：WCDMA)、长期演进(英文全称：LongTerm Evolution，英文简称：LTE)、电子邮件、短消息服务(英文全称：ShortMessagingService，英文简称：SMS)等。
存储器1120可用于存储软件程序以及模块，处理器1180通过运行存储在存储器1120的软件程序以及模块，从而执行手机的各种功能应用以及数据处理。存储器1120可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等；存储数据区可存储根据手机的使用所创建的数据(比如音频数据、电话本等)等。此外，存储器1120可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。
输入单元1130可用于接收输入的数字或字符信息，以及产生与手机的用户设置以及功能控制有关的键信号输入。具体地，输入单元1130可包括触控面板1131以及其他输入设备1132。触控面板1131，也称为触摸屏，可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板1131上或在触控面板1131附近的操作)，并根据预先设定的程式驱动相应的连接装置。可选的，触控面板1131可包括触摸检测装置和触摸控制器两个部分。其中，触摸检测装置检测用户的触摸方位，并检测触摸操作带来的信号，将信号传送给触摸控制器；触摸控制器从触摸检测装置上接收触摸信息，并将它转换成触点坐标，再送给处理器1180，并能接收处理器1180发来的命令并加以执行。此外，可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板1131。除了触控面板1131，输入单元1130还可以包括其他输入设备1132。具体地，其他输入设备1132可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆等中的一种或多种。
显示单元1140可用于显示由用户输入的信息或提供给用户的信息以及手机的各种菜单。显示单元1140可包括显示面板1141，可选的，可以采用液晶显示器(英文全称：Liquid Crystal Display，英文简称：LCD)、有机发光二极管(英文全称：Organic Light-Emitting Diode,英文简称：OLED)等形式来配置显示面板1141。进一步的，触控面板1131可覆盖显示面板1141，当触控面板1131检测到在其上或附近的触摸操作后，传送给处理器1180以确定触摸事件的类型，随后处理器1180根据触摸事件的类型在显示面板1141上提供相应的视觉输出。虽然在图11中，触控面板1131与显示面板1141是作为两个独立的部件来实现手机的输入和输入功能，但是在某些实施例中，可以将触控面板1131与显示面板1141集成而实现手机的输入和输出功能。
手机还可包括至少一种传感器1120，比如光传感器、运动传感器以及其他传感器。具体地，光传感器可包括环境光传感器及接近传感器，其中，环境光传感器可根据环境光线的明暗来调节显示面板1141的亮度，接近传感器可在手机移动到耳边时，关闭显示面板1141和/或背光。作为运动传感器的一种，加速计传感器可检测各个方向上(一般为三轴)加速度的大小，静止时可检测出重力的大小及方向，可用于识别手机姿态的应用(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等；至于手机还可配置的陀螺仪、气压计、湿度计、温度计、红外线传感器等其他传感器，在此不再赘述。
音频电路1160、扬声器1161，传声器1162可提供用户与手机之间的音频接口。音频电路1160可将接收到的音频数据转换后的电信号，传输到扬声器1161，由扬声器1161转换为声音信号输出；另一方面，传声器1162将收集的声音信号转换为电信号，由音频电路1160接收后转换为音频数据，再将音频数据输出处理器1180处理后，经RF电路1110以发送给比如另一手机，或者将音频数据输出至存储器1120以便进一步处理。
Wi-Fi属于短距离无线传输技术，手机通过Wi-Fi模块1170可以帮助用户收发电子邮件、浏览网页和访问流式媒体等，它为用户提供了无线的宽带互联网访问。虽然图11示出了Wi-Fi模块1170，但是可以理解的是，其并不属于手机的必须构成，完全可以根据需要在不改变申请的本质的范围内而省略。
处理器1180是手机的控制中心，利用各种接口和线路连接整个手机的各个部分，通过运行或执行存储在存储器1120内的软件程序和/或模块，以及调用存储在存储器1120内的数据，执行手机的各种功能和处理数据，从而对手机进行整体监控。可选的，处理器1180可包括一个或多个处理单元；优选的，处理器1180可集成应用处理器和调制解调处理器，其中，应用处理器主要处理操作系统、用户界面和应用程序等，调制解调处理器主要处理无线通信。可以理解的是，上述调制解调处理器也可以不集成到处理器1180中。
手机还包括给各个部件供电的电源1190(比如电池)，电源可以通过电源管理系统与处理器1180逻辑相连，从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。
尽管未示出，手机还可以包括摄像头、蓝牙模块等，在此不再赘述。
在本申请实施例中，该手机所包括的处理器1180还具有控制执行以上由图2或图8所示的模型鲁棒性检测方法的流程图。
图12是本申请实施例提供的一种服务器结构示意图，该服务器1220可因配置或性能不同而产生比较大的差异，可以包括一个或一个以上中央处理器(英文全称：centralprocessing units，英文简称：CPU)1222(例如，一个或一个以上处理器)和存储器1232，一个或一个以上存储应用程序1242或数据1244的存储介质1230(例如一个或一个以上海量存储设备)。其中，存储器1232和存储介质1230可以是短暂存储或持久存储。存储在存储介质1230的程序可以包括一个或一个以上模块(图示没标出)，每个模块可以包括对服务器中的一系列指令操作。更进一步地，中央处理器1222可以设置为与存储介质1230通信，在服务器1220上执行存储介质1230中的一系列指令操作。
服务器1220还可以包括一个或一个以上电源1226，一个或一个以上有线或无线网络接口1250，一个或一个以上输入输出接口1258，和/或，一个或一个以上操作系统1241，例如Windows Server，Mac OS X，Unix,Linux，FreeBSD等等。
上述实施例中由服务器所执行的步骤可以基于该图12所示的服务器1220的结构。例如上述实施例中由图2所示的服务器的步骤可以基于该图12所示的服务器结构。例如，所述处理器1222通过调用存储器1232中的指令，执行以下操作：
从预设的多个候选对抗图案中确定当前待添加的目标对抗图案；
将所述目标对抗图案添加至所述目标路段的车道线区域内，采集得到目标对抗样本；
将所述目标对抗样本输入所述车道线检测模型，得到识别结果，所述识别结果指示至少一条目标车道线的绘制轨迹，至少一条所述目标车道线偏离所述场景车道线；
根据所述识别结果生成第一车道线，所述第一车道线用于控制所述虚拟控制器生成所述目标车辆的驾驶指令。
在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述的部分，可以参见其他实施例的相关描述。
所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的系统，装置和模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
在本申请实施例所提供的几个实施例中，应该理解到，所揭露的系统，装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述模块的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个模块或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或模块的间接耦合或通信连接，可以是电性，机械或其它的形式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的，作为模块显示的部件可以是或者也可以不是物理模块，即可以位于一个地方，或者也可以分布到多个网络模块上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外，在本申请实施例各个实施例中的各功能模块可以集成在一个处理模块中，也可以是各个模块单独物理存在，也可以两个或两个以上模块集成在一个模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。
在上述实施例中，可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时，可以全部或部分地以计算机程序产品的形式实现。
所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机计算机程序时，全部或部分地产生按照本申请实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中，或者从一个计算机可读存储介质向另一计算机可读存储介质传输，例如，所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存储的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质，(例如，软盘、硬盘、磁带)、光介质(例如，DVD)、或者半导体介质(例如固态硬盘Solid State Disk(SSD))等。
以上对本申请实施例所提供的技术方案进行了详细介绍，本申请实施例中应用了具体个例对本申请实施例的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本申请实施例的方法及其核心思想；同时，对于本领域的一般技术人员，依据本申请实施例的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本申请实施例的限制。
Claims (10)
1.一种模型鲁棒性检测方法，其特征在于，包括：所述方法应用于模型鲁棒性检测系统，所述模型鲁棒性检测系统包括驾驶场景仿真平台、车道线检测模型和虚拟控制器，所述驾驶场景仿真平台的显示界面当前显示目标路段的画面，所述目标路段包括行驶中的目标车辆以及场景车道线，且所述目标车辆在所述显示界面的图像和点云数据通过端口传输给所述车道线检测模型，所述方法包括：
从预设的多个候选对抗图案中确定当前待添加的目标对抗图案；
将所述目标对抗图案添加至所述目标路段的车道线区域内，采集得到目标对抗样本；
将所述目标对抗样本输入所述车道线检测模型，得到识别结果，所述识别结果指示至少一条目标车道线的绘制轨迹，至少一条所述目标车道线偏离所述场景车道线；
根据所述识别结果生成第一车道线，所述第一车道线用于控制所述虚拟控制器生成所述目标车辆的驾驶指令。
2.根据权利要求1所述的方法，其特征在于，所述显示界面包括第一区域和第二区域，所述第一区域显示各预设的候选对抗图案分别对应的功能图标，所述第二区域当前显示所述目标路段的画面；所述从预设的多个候选对抗图案中确定当前待添加的目标对抗图案，将所述目标对抗图案添加至所述目标路段的车道线区域内，采集得到目标对抗样本，包括：
接收用户针对所述第一区域中的第一功能图标的第一操作指令，所述第一操作指令用于指示在所述车道线区域内添加所述目标对抗图案；
响应于所述第一操作指令，从多个所述候选对抗图案中选取与所述第一功能图标对应的对抗图案作为所述目标对抗图案；
根据第一预设关系将所述目标对抗图案显示在所述目标路段的车道线区域内，得到所述目标对抗样本，所述第一预设关系包括显示位置与路段的对应关系。
3.根据权利要求2所述的方法，其特性在于，所述驾驶场景仿真平台预设有多种候选路段，所述显示界面还包括第三区域，所述第三区域中包括每种所述候选路段分别对应的路段图标；所述接收用户针对所述第一区域中的第一功能图标的第一操作指令之前，所述方法还包括：
接收所述用户针对所述第三区域中目标路段图标的第二操作指令，所述目标路段图标为所述用户从多个所述路段图标中选中的场景图标；
根据所述第二操作指令将所述目标路段设置为与所述目标路段图标关联的所述候选路段。
4.根据权利要求1所述的方法，其特征在于，所述目标车辆处于按照预设脚本行驶状态，且所述预设脚本指示所述显示界面在目标时段显示所述目标路段的画面；所述从预设的多个候选对抗图案中确定当前待添加的目标对抗图案，包括：
根据所述预设脚本从多个所述候选对抗图案中确定与所述目标路段对应的所述目标对抗图案；
所述将所述目标对抗图案添加至所述目标路段的车道线区域内，得到目标对抗样本，包括：
在所述目标时段内，将所述目标对抗图案导入所述车道线区域内，得到所述目标对抗样本。
5.根据权利要求1所述的方法，其特征在于，所述从预设的多个候选对抗图案中确定当前待添加的目标对抗图案之前，所述方法还包括：
根据预设的对抗攻击算法生成初始对抗图案；
将所述初始对抗图案导入所述驾驶场景仿真平台对所述初始对抗图案的攻击效果进行检验，得到检验结果；
若所述检验结果为检验通过，则将所述初始对抗图案确定为所述候选对抗图案。
6.根据权利要求1至5中任一项所述的方法，其特征在于，所述显示界面当前显示的所述目标路段为车道线异常路段；所述将所述目标对抗样本输入所述车道线检测模型，得到识别结果，包括：
接收第一消息，所述第一消息用于指示所述目标车辆根据车道线向前行驶；
将所述目标对抗样本输入所述车道线检测模型，得到第一车道线的识别结果，所述第一车道线对应的最小车道宽度小于所述目标车辆的宽度。
7.根据权利要求1至5中任一项所述的方法，其特征在于，所述显示界面当前显示的所述目标路段为弯道路段；所述将所述目标对抗样本输入所述车道线检测模型，得到识别结果，包括：
接收第二消息，所述第二消息用于指示所述目标车辆根据车道线向前行驶；
将所述目标对抗样本输入所述车道线检测模型，得到第二车道线的识别结果，所述第二车道线的拐弯方向与所述场景车道线的拐弯方向相反。
8.一种模型鲁棒性检测装置，其特征在于，所述模型鲁棒性检测装置被配置于模型鲁棒性检测系统中，所述模型鲁棒性检测系统包括驾驶场景仿真平台、车道线检测模型和虚拟控制器，所述驾驶场景仿真平台的显示界面当前显示目标路段的画面，所述目标路段包括行驶中的目标车辆以及场景车道线，且所述目标车辆在所述显示界面的图像和点云数据通过端口传输给所述车道线检测模型，所述装置包括：
处理模块，用于从预设的多个候选对抗图案中确定当前待添加的目标对抗图案；将所述目标对抗图案添加至所述目标路段的车道线区域内，采集得到目标对抗样本；将所述目标对抗样本输入所述车道线检测模型，得到识别结果，所述识别结果指示至少一条目标车道线的绘制轨迹，至少一条所述目标车道线偏离所述场景车道线；根据所述识别结果生成第一车道线，所述第一车道线用于控制所述虚拟控制器生成所述目标车辆的驾驶指令；
收发模块，用于将所述识别结果输入所述虚拟控制器。
9.一种计算机设备，其特征在于，所述计算机设备包括存储器及处理器，所述存储器上存储有计算机程序，所述处理器执行所述计算机程序时实现如权利要求1-7中任一项所述的方法。
10.一种计算机可读存储介质，其特征在于，所述存储介质存储有计算机程序，所述计算机程序包括程序指令，所述程序指令当被处理器执行时可实现如权利要求1-7中任一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202211231910.1A CN115588131B (zh) | 2022-09-30 | 2022-09-30 | 模型鲁棒性检测方法、相关装置及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202211231910.1A CN115588131B (zh) | 2022-09-30 | 2022-09-30 | 模型鲁棒性检测方法、相关装置及存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN115588131A true CN115588131A (zh) | 2023-01-10 |
| CN115588131B CN115588131B (zh) | 2024-02-06 |
Family
ID=84781026
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202211231910.1A Active CN115588131B (zh) | 2022-09-30 | 2022-09-30 | 模型鲁棒性检测方法、相关装置及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN115588131B (zh) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN115909020A (zh) * | 2022-09-30 | 2023-04-04 | 北京瑞莱智慧科技有限公司 | 模型鲁棒性检测方法、相关装置及存储介质 |
| CN116071716A (zh) * | 2023-02-02 | 2023-05-05 | 吉林大学 | 车道线识别测试方法、设备、系统及存储介质 |
Citations (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2014142866A (ja) * | 2013-01-25 | 2014-08-07 | Mega Chips Corp | 車線識別装置および車線識別方法 |
| CN109886210A (zh) * | 2019-02-25 | 2019-06-14 | 百度在线网络技术（北京）有限公司 | 一种交通图像识别方法、装置、计算机设备和介质 |
| US20200226391A1 (en) * | 2018-10-11 | 2020-07-16 | Apollo Japan Co., Ltd. | Image extraction method importng into sdl model |
| CN112699765A (zh) * | 2020-12-25 | 2021-04-23 | 北京百度网讯科技有限公司 | 评估视觉定位算法的方法、装置、电子设备及存储介质 |
| CN113326786A (zh) * | 2021-06-01 | 2021-08-31 | 百度在线网络技术（北京）有限公司 | 数据处理方法、装置、设备、车辆和存储介质 |
| EP3920105A1 (fr) * | 2020-06-02 | 2021-12-08 | Bull SAS | Procédé d'apprentissage d'un réseau de neurones, programme d'ordinateur mettant en uvre un tel procédé, et réseau de neurones entrainé par un tel procédé |
| CN113792791A (zh) * | 2021-09-14 | 2021-12-14 | 百度在线网络技术（北京）有限公司 | 针对视觉模型的处理方法及装置 |
| WO2022105579A1 (zh) * | 2020-11-19 | 2022-05-27 | 腾讯科技（深圳）有限公司 | 一种基于自动驾驶的控制方法、装置、车辆以及相关设备 |
| US20220227374A1 (en) * | 2022-04-06 | 2022-07-21 | Baidu Usa Llc | Data processing |
| CN115100614A (zh) * | 2022-06-21 | 2022-09-23 | 重庆长安汽车股份有限公司 | 车辆感知系统的评估方法、装置、车辆及存储介质 |
-
2022
- 2022-09-30 CN CN202211231910.1A patent/CN115588131B/zh active Active
Patent Citations (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2014142866A (ja) * | 2013-01-25 | 2014-08-07 | Mega Chips Corp | 車線識別装置および車線識別方法 |
| US20200226391A1 (en) * | 2018-10-11 | 2020-07-16 | Apollo Japan Co., Ltd. | Image extraction method importng into sdl model |
| CN109886210A (zh) * | 2019-02-25 | 2019-06-14 | 百度在线网络技术（北京）有限公司 | 一种交通图像识别方法、装置、计算机设备和介质 |
| EP3920105A1 (fr) * | 2020-06-02 | 2021-12-08 | Bull SAS | Procédé d'apprentissage d'un réseau de neurones, programme d'ordinateur mettant en uvre un tel procédé, et réseau de neurones entrainé par un tel procédé |
| WO2022105579A1 (zh) * | 2020-11-19 | 2022-05-27 | 腾讯科技（深圳）有限公司 | 一种基于自动驾驶的控制方法、装置、车辆以及相关设备 |
| CN112699765A (zh) * | 2020-12-25 | 2021-04-23 | 北京百度网讯科技有限公司 | 评估视觉定位算法的方法、装置、电子设备及存储介质 |
| CN113326786A (zh) * | 2021-06-01 | 2021-08-31 | 百度在线网络技术（北京）有限公司 | 数据处理方法、装置、设备、车辆和存储介质 |
| CN113792791A (zh) * | 2021-09-14 | 2021-12-14 | 百度在线网络技术（北京）有限公司 | 针对视觉模型的处理方法及装置 |
| US20220227374A1 (en) * | 2022-04-06 | 2022-07-21 | Baidu Usa Llc | Data processing |
| CN115100614A (zh) * | 2022-06-21 | 2022-09-23 | 重庆长安汽车股份有限公司 | 车辆感知系统的评估方法、装置、车辆及存储介质 |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN115909020A (zh) * | 2022-09-30 | 2023-04-04 | 北京瑞莱智慧科技有限公司 | 模型鲁棒性检测方法、相关装置及存储介质 |
| CN115909020B (zh) * | 2022-09-30 | 2024-01-09 | 北京瑞莱智慧科技有限公司 | 模型鲁棒性检测方法、相关装置及存储介质 |
| CN116071716A (zh) * | 2023-02-02 | 2023-05-05 | 吉林大学 | 车道线识别测试方法、设备、系统及存储介质 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN115588131B (zh) | 2024-02-06 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US10943091B2 (en) | Facial feature point tracking method, apparatus, storage medium, and device | |
| CN115588131B (zh) | 模型鲁棒性检测方法、相关装置及存储介质 | |
| CN109325967A (zh) | 目标跟踪方法、装置、介质以及设备 | |
| CN110704661B (zh) | 一种图像分类方法和装置 | |
| CN111672109B (zh) | 一种游戏地图生成的方法、游戏测试的方法以及相关装置 | |
| CN103472756A (zh) | 一种实现人工智能的方法、服务器和设备 | |
| CN114297730A (zh) | 对抗图像生成方法、装置及存储介质 | |
| CN114595124B (zh) | 时序异常检测模型评估方法、相关装置及存储介质 | |
| CN116310745B (zh) | 图像处理方法、数据处理方法、相关装置及存储介质 | |
| CN112686197A (zh) | 一种数据处理方法和相关装置 | |
| CN115022098A (zh) | 人工智能安全靶场内容推荐方法、装置及存储介质 | |
| CN112995757B (zh) | 视频剪裁方法及装置 | |
| CN115471495B (zh) | 模型鲁棒性检测方法、相关装置及存储介质 | |
| CN115526055B (zh) | 模型鲁棒性检测方法、相关装置及存储介质 | |
| CN112270238A (zh) | 一种视频内容识别方法和相关装置 | |
| CN115239941B (zh) | 对抗图像生成方法、相关装置及存储介质 | |
| CN116486463A (zh) | 图像处理方法、相关装置及存储介质 | |
| CN111611369A (zh) | 基于人工智能的交互方法和相关装置 | |
| CN115081643B (zh) | 对抗样本生成方法、相关装置及存储介质 | |
| CN116958715A (zh) | 一种手部关键点的检测方法、装置以及存储介质 | |
| CN116071614A (zh) | 样本数据处理方法、相关设备及存储介质 | |
| CN110750193B (zh) | 一种基于人工智能的场景拓扑确定方法和装置 | |
| CN113535055B (zh) | 一种基于虚拟现实播放点读物的方法、设备及存储介质 | |
| CN115909020B (zh) | 模型鲁棒性检测方法、相关装置及存储介质 | |
| CN113706446A (zh) | 一种镜头检测方法和相关装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |