CN115909020B - 模型鲁棒性检测方法、相关装置及存储介质 - Google Patents
模型鲁棒性检测方法、相关装置及存储介质 Download PDFInfo
- Publication number
- CN115909020B CN115909020B CN202211231763.8A CN202211231763A CN115909020B CN 115909020 B CN115909020 B CN 115909020B CN 202211231763 A CN202211231763 A CN 202211231763A CN 115909020 B CN115909020 B CN 115909020B
- Authority
- CN
- China
- Prior art keywords
- target
- countermeasure
- pattern
- target object
- sample
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 81
- 238000003860 storage Methods 0.000 title claims abstract description 56
- 238000004088 simulation Methods 0.000 claims abstract description 96
- 230000008447 perception Effects 0.000 claims abstract description 94
- 238000000034 method Methods 0.000 claims abstract description 62
- 230000000694 effects Effects 0.000 claims abstract description 16
- 238000012545 processing Methods 0.000 claims description 38
- 238000013515 script Methods 0.000 claims description 34
- 230000006870 function Effects 0.000 claims description 32
- 238000012360 testing method Methods 0.000 claims description 23
- 238000004590 computer program Methods 0.000 claims description 11
- 238000004422 calculation algorithm Methods 0.000 claims description 7
- 238000005516 engineering process Methods 0.000 description 37
- 238000010586 diagram Methods 0.000 description 20
- 230000008569 process Effects 0.000 description 20
- 238000013473 artificial intelligence Methods 0.000 description 15
- 238000004891 communication Methods 0.000 description 11
- 230000003993 interaction Effects 0.000 description 9
- 238000007726 management method Methods 0.000 description 8
- 230000005540 biological transmission Effects 0.000 description 6
- 230000008878 coupling Effects 0.000 description 6
- 238000010168 coupling process Methods 0.000 description 6
- 238000005859 coupling reaction Methods 0.000 description 6
- 230000001960 triggered effect Effects 0.000 description 5
- 230000000007 visual effect Effects 0.000 description 5
- 239000000969 carrier Substances 0.000 description 4
- 230000008676 import Effects 0.000 description 4
- 238000011160 research Methods 0.000 description 4
- 230000003042 antagnostic effect Effects 0.000 description 3
- 238000013461 design Methods 0.000 description 3
- 230000001133 acceleration Effects 0.000 description 2
- 238000013500 data storage Methods 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 230000007123 defense Effects 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 238000007689 inspection Methods 0.000 description 2
- 230000010354 integration Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000007774 longterm Effects 0.000 description 2
- 238000010295 mobile communication Methods 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 238000000638 solvent extraction Methods 0.000 description 2
- 230000005236 sound signal Effects 0.000 description 2
- 230000007723 transport mechanism Effects 0.000 description 2
- 230000003190 augmentative effect Effects 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000012790 confirmation Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 229940079593 drug Drugs 0.000 description 1
- 239000003814 drug Substances 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000000977 initiatory effect Effects 0.000 description 1
- 238000012905 input function Methods 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 230000006855 networking Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000002085 persistent effect Effects 0.000 description 1
- 238000007639 printing Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000010897 surface acoustic wave method Methods 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本申请实施例公开了一种模型鲁棒性检测方法、相关装置及存储介质。应用于模型鲁棒性检测系统，模型鲁棒性检测系统包括物流场景仿真平台、车辆感知模型和虚拟控制器，方法包括：从预设的多个候选对抗图案中确定当前待添加的至少一个目标对抗图案；将至少一个所述目标对抗图案导入当前待攻击的至少一个所述目标对象的有效范围内，采集得到至少一个目标对抗样本；将至少一个所述目标对抗样本输入所述车辆感知模型，得到识别结果，所述识别结果用于控制生成所述第一搬运车的操作指令。通过本方案可以提高对模型的攻击效果以及缩短模型的迭代周期。
Description
技术领域
本申请涉及人工智能技术领域，尤其涉及一种模型鲁棒性检测方法、相关装置及存储介质。
背景技术
随着计算机硬件水平的提升和大型自动驾驶数据集的创建，基于深度学习的感知技术在自主机器人、自动驾驶等领域应用越来越广泛。由于深度学习模型内部复杂的设计和基于数据驱动的原理，模型的可解释性较低且具有“黑盒”特性，因此模型容易受到难以察觉的攻击而出现与人的思维不符的结果，这可能在行车途中造成难以估量的损失。
随着自动驾驶技术的提升，由于物流园中的人流以及道路设置都比较简单，可以将自动化驾驶应用在物流系统中各分货点的搬运车中，搬运车用于将货物通过提前设置好的路线搬运至对应的倒货口中。
为验证车辆感知模型的鲁棒性，需要在物流园中设计多种测试场景，模拟对抗防御在不同场景的攻防的效果。
目前主要使用两种方法对模型进行模拟干扰，以检验模型的鲁棒性；第一种，在原有图像上直接添加扰动，然后将添加了扰动的数据输入到模型中；第二种，将在数字图像上做的攻击图像直接打印成实物，然后在现实场景通过相机将对抗攻击后的图像信息输入到模型。
然而，第一种现有技术在采集的图像上直接添加扰动得到的对抗样本，不能模拟车辆在运行过程中对车辆进行连续攻击的场景，攻击效果不好；第二种现有技术需要将对抗图案打印成实物，并且需要在现实场景中对对抗图案进行拍摄，模型鲁棒性检测的时间成本高，导致模型的迭代周期长。
发明内容
本申请实施例提供了一种模型鲁棒性检测方法、相关装置及存储介质，可以提高对模型的攻击效果以及缩短模型的迭代周期。
第一方面，本申请实施例提供了一种模型鲁棒性检测方法，所述方法应用于模型鲁棒性检测系统，所述模型鲁棒性检测系统包括物流场景仿真平台、车辆感知模型和虚拟控制器，所述物流场景仿真平台包括第一搬运车、以及至少一个目标对象，所述第一搬运车在物流场景仿真平台的图像和点云数据通过端口传输给所述车辆感知模型，所述方法包括：
从预设的多个候选对抗图案中确定当前待添加的至少一个目标对抗图案；
将至少一个所述目标对抗图案导入当前待攻击的至少一个所述目标对象的有效范围内，采集得到至少一个目标对抗样本；
将至少一个所述目标对抗样本输入所述车辆感知模型，得到识别结果，所述识别结果用于控制生成所述第一搬运车的操作指令。
在一些实施例中，所述第一搬运车满足以下项之一：
当前处于忙碌状态；
运载的货物的级别高于预设级别；
运载的货物的目的地为特定目的地；
或者，预设时长内的运载任务数高于预设数值。
第二方面，本申请实施例还提供了一种模型鲁棒性检测装置，所述模型鲁棒性检测系统包括物流场景仿真平台、车辆感知模型和虚拟控制器，所述物流场景仿真平台包括第一搬运车、以及至少一个目标对象，所述第一搬运车在物流场景仿真平台的图像和点云数据通过端口传输给所述车辆感知模型，所述装置包括：
处理模块，用于从预设的多个候选对抗图案中确定当前待添加的至少一个目标对抗图案；将至少一个所述目标对抗图案导入当前待攻击的至少一个所述目标对象的有效范围内，采集得到至少一个目标对抗样本；将至少一个所述目标对抗样本输入所述车辆感知模型，得到识别结果，所述识别结果用于控制生成所述第一搬运车的操作指令；
收发模块，用于将所述识别结果输入所述虚拟控制器。
在一些实施例中，所述目标对象包括以下项中的至少一项：
在所述第一搬运车的安全距离内的第二搬运车；
在所述第一搬运车的第一人称视角范围内的非目标倒货口或非目标倒货口的倒货口标志；
在所述第一搬运车的第一人称视角范围内的目标倒货口或目标倒货口的倒货口标志；
在所述第一搬运车的第一人称视角范围内且在行驶方向上的静态物体，所述静态物体包括货物、第三搬运车以及障碍物中的至少一项；
或者，在所述第一搬运车行驶方向上的车道线。
在一些实施例中，所述物流场景仿真平台的显示界面包括第一区域和第二区域，所述第一区域显示有各所述候选对抗图案分别对应的功能图标，所述第二区域当前显示所述第一搬运车和至少一个所述目标对象；所述处理模块在执行所述从预设的多个候选对抗图案中确定当前待添加的至少一个目标对抗图案，将至少一个所述目标对抗图案导入当前待攻击的至少一个目标对象的有效范围内，采集得到至少一个目标对抗样本步骤时，具体用于：
通过收发模块接收用户针对所述第一区域中第一功能图标的第一操作指令，所述第一操作指令指示为所述目标对象添加所述目标对抗图案，所述目标对抗图案为多个所述候选对抗图案中与所述第一功能图标对应的对抗图案；
响应于所述第一操作指令，根据预设的第一对应关系将所述目标对抗图案显示在所述目标对象的有效范围内，得到所述目标对抗样本，所述第一对应关系包括显示位置、目标对象、对象类型的对应关系。
在一些实施例中，所述处理模块在执行所述从预设的多个候选对抗图案中确定当前待添加的至少一个目标对抗图案，将至少一个所述目标对抗图案导入当前待攻击的至少一个目标对象的有效范围内，采集得到至少一个目标对抗样本步骤时，具体用于：
根据预设对抗脚本确定当前待攻击的至少一个所述目标对象；
根据所述预设对抗脚本从多个所述候选对抗图案中确定与至少一个所述目标对象对应的至少一个目标对抗图案；
在预设对抗脚本指示的目标时段内，将至少一个所述目标对抗图案导入至少一个所述目标对象的有效范围内，采集得到至少一个目标对抗样本。
在一些实施例中，所述处理模块在执行所述从预设的多个候选对抗图案中确定当前待添加的至少一个目标对抗图案步骤之前，还用于：
根据预设的至少一种对抗样本生成算法生成至少一种初始对抗图案；
将所述初始对抗图案导入所述物流场景仿真平台对所述初始对抗图案的攻击效果进行检验，得到检验结果；
若所述检验结果为检验通过，则将所述初始对抗图案设为所述候选对抗图案。
在一些实施例中，所述目标对象包括第二搬运车，与所述第二搬运车对应的所述目标对抗样本为第一对抗样本，所述第二搬运车在所述第一搬运车前方行驶，且所述第二搬运车与所述第一搬运车的行驶速度相同；所述处理模块在执行所述将至少一个所述目标对抗样本输入所述车辆感知模型，得到识别结果步骤时，具体用于：
通过所述收发模块接收第一消息，所述第一消息指示所述第一搬运车向前加速行驶；
将所述第一对抗样本输入所述车辆感知模型，得到前方无车辆的识别结果。
在一些实施例中，所述第一搬运车满足以下项之一：
当前处于忙碌状态；
运载的货物的级别高于预设级别；
运载的货物的目的地为特定目的地；
或者，预设时长内的运载任务数高于预设数值。
在一些实施例中，所述物流场景仿真平台的显示界面中显示有与所述第一搬运车保持相对速度的虚拟投影设备；所述处理模块在执行所述将至少一个所述目标对抗图案导入当前待攻击的至少一个目标对象的有效范围内，采集得到至少一个目标对抗样本步骤时，具体用于：
通过所述收发模块接收针对所述虚拟投影设备的投影指令，所述投影指令指示所述虚拟投影设备向所述目标对象的有效范围内投影所述目标对抗图案；
响应于所述投影指令，通过所述虚拟投影设备将所述目标对抗图案投影至所述目标对象的有效范围内，得到所述目标对抗样本。
第三方面，本申请实施例还提供了一种计算机设备，其包括存储器及处理器，所述存储器上存储有计算机程序，所述处理器执行所述计算机程序时实现上述方法。
第四方面，本申请实施例还提供了一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序包括程序指令，所述程序指令当被处理器执行时可实现上述方法。
相较于现有技术，本方案提供了一个模型鲁棒性检测系统，本申请实施例在模型鲁棒性检测系统中即可实现对模型进行攻击，通过仿真场景来模拟物理世界的检测流程，不需要在物理世界中实地对模型进行攻击，能够保障模型鲁棒性检测的安全性，并且由于本方案中的目标对抗样本基于物流场景仿真平台生成，不需要对对抗图案进行拍摄以及打印，通过用户交互或预设脚本即可以在搬运车运行过程中不断生成对抗样本，所以本方案可以在搬运车运行过程中对车辆感知模型进行连续攻击，可以在短时间内更多、更快、更全面的攻击车辆感知模型，提高攻击效果，缩短模型的迭代周期。
附图说明
为了更清楚地说明本申请实施例技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本申请实施例提供的模型鲁棒性检测方法的应用场景示意图；
图2为本申请实施例提供的模型鲁棒性检测方法的流程示意图；
图3a为本申请实施例提供的模型鲁棒性检测方法的另一应用场景示意图；
图3b为本申请实施例提供的模型鲁棒性检测方法的另一应用场景示意图；
图4为本申请实施例提供的模型鲁棒性检测方法的另一应用场景示意图；
图5为本申请实施例提供的模型鲁棒性检测方法的另一应用场景示意图；
图6为本申请实施例提供的模型鲁棒性检测方法的另一应用场景示意图；
图7为本申请实施例提供的模型鲁棒性检测方法的另一应用场景示意图；
图8为本申请实施例提供的模型鲁棒性检测方法的另一应用场景示意图；
图9为本申请另一实施例提供的模型鲁棒性检测方法的流程示意图；
图10为本申请实施例提供的模型鲁棒性检测装置的示意性框图；
图11为本申请实施例中服务器的一种结构示意图；
图12为本申请实施例中终端的一种结构示意图；
图13为本申请实施例中服务器的一种结构示意图。
具体实施方式
本申请实施例的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的实施例能够以除了在这里图示或描述的内容以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或模块的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或模块，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或模块，本申请实施例中所出现的模块的划分，仅仅是一种逻辑上的划分，实际应用中实现时可以有另外的划分方式，例如多个模块可以结合成或集成在另一个系统中，或一些特征可以忽略，或不执行，另外，所显示的或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，模块之间的间接耦合或通信连接可以是电性或其他类似的形式，本申请实施例中均不作限定。并且，作为分离部件说明的模块或子模块可以是也可以不是物理上的分离，可以是也可以不是物理模块，或者可以分布到多个电路模块中，可以根据实际的需要选择其中的部分或全部模块来实现本申请实施例方案的目的。
本申请实施例供了一种模型鲁棒性检测方法、相关装置及存储介质。该模型鲁棒性检测方法的执行主体可以是本申请实施例提供的模型鲁棒性检测装置，或配置有所述模型鲁棒性检测装置的模型鲁棒性检测系统，或集成有所述模型鲁棒性检测系统的计算机设备，其中，该模型鲁棒性检测装置或模型鲁棒性检测系统可以采用硬件或者软件的方式实现，该计算机设备可以为终端或服务器。
当该计算机设备为服务器时，该服务器可以是独立的物理服务器，也可以是多个物理服务器构成的服务器集群或者分布式系统，还可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、CDN、以及大数据和人工智能平台等基础云计算服务的云服务器。
当该计算机设备为终端时，该终端可以包括：智能手机、平板电脑、笔记本电脑、桌上型电脑、智能电视、智能音箱、个人数字助理(英文全称：Personal Digital Assistant，英文简称：PDA)、台式计算机、智能手表等携带多媒体数据处理功能(例如，视频数据播放功能、音乐数据播放功能)的智能终端，但并不局限于此。
本申请实施例的方案可基于人工智能技术实现，具体来说涉及人工智能技术中的计算机视觉技术技术领域和云技术中的云计算、云存储和数据库等领域，下面将分别进行介绍。
人工智能(Artificial Intelligence,AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。换句话说，人工智能是计算机科学的一个综合技术，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法，使机器具有感知、推理与决策的功能。
人工智能技术是一门综合学科，涉及领域广泛，既有硬件层面的技术也有软件层面的技术。人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
计算机视觉技术(Computer Vision,CV)计算机视觉是一门研究如何使机器“看”的科学，更进一步的说，就是指用摄影机和电脑代替人眼对目标进行识别、跟踪和测量等机器视觉，并进一步做图形处理，使电脑处理成为更适合人眼观察或传送给仪器检测的图像。作为一个科学学科，计算机视觉研究相关的理论和技术，试图建立能够从图像或者多维数据中获取信息的人工智能系统。计算机视觉技术通常包括图像处理、模型鲁棒性检测、图像语义理解、图像检索、OCR、视频处理、视频语义理解、视频内容/行为识别、三维物体重建、3D技术、虚拟现实、增强现实、同步定位与地图构建等技术，还包括常见的模型鲁棒性检测、指纹识别等生物特征识别技术。
随着人工智能技术研究和进步，人工智能技术在多个领域展开研究和应用，例如常见的智能家居、智能穿戴设备、虚拟助理、智能音箱、智能营销、无人驾驶、自动驾驶、无人机、机器人、智能医疗、智能客服等，相信随着技术的发展，人工智能技术将在更多的领域得到应用，并发挥越来越重要的价值。
本申请实施例的方案可基于云技术实现，具体来说涉及云技术中的云计算、云存储和数据库等技术领域，下面将分别进行介绍。
云技术(Cloud technology)是指在广域网或局域网内将硬件、软件、网络等系列资源统一起来，实现数据的计算、储存、处理和共享的一种托管技术。云技术(Cloudtechnology)基于云计算商业模式应用的网络技术、信息技术、整合技术、管理平台技术、应用技术等的总称，可以组成资源池，按需所用，灵活便利。云计算技术将变成重要支撑。技术网络系统的后台服务需要大量的计算、存储资源，如视频网站、图像类网站和更多的门户网站。伴随着互联网行业的高度发展和应用，将来每个物品都有可能存在自己的识别标志，都需要传输到后台系统进行逻辑处理，不同程度级别的数据将会分开处理，各类行业数据皆需要强大的系统后盾支撑，只能通过云计算来实现。本申请实施例可通过云技术对识别结果进行保存。
云存储(cloud storage)是在云计算概念上延伸和发展出来的一个新的概念，分布式云存储系统(以下简称存储系统)是指通过集群应用、网格技术以及分布存储文件系统等功能，将网络中大量各种不同类型的存储设备(存储设备也称之为存储节点)通过应用软件或应用接口集合起来协同工作，共同对外提供数据存储和业务访问功能的一个存储系统。在本申请实施例中，可将网络配置等信息均保存在该存储系统中，便于服务器调取。
目前，存储系统的存储方法为：创建逻辑卷，在创建逻辑卷时，就为每个逻辑卷分配物理存储空间，该物理存储空间可能是某个存储设备或者某几个存储设备的磁盘组成。客户端在某一逻辑卷上存储数据，也就是将数据存储在文件系统上，文件系统将数据分成许多部分，每一部分是一个对象，对象不仅包含数据而且还包含数据标识(ID，ID entity)等额外的信息，文件系统将每个对象分别写入该逻辑卷的物理存储空间，且文件系统会记录每个对象的存储位置信息，从而当客户端请求访问数据时，文件系统能够根据每个对象的存储位置信息让客户端对数据进行访问。
存储系统为逻辑卷分配物理存储空间的过程，具体为：按照对存储于逻辑卷的对象的容量估量(该估量往往相对于实际要存储的对象的容量有很大余量)和独立冗余磁盘阵列(RAID，Redundant Array of Independent Disk)的组别，预先将物理存储空间划分成分条，一个逻辑卷可以理解为一个分条，从而为逻辑卷分配了物理存储空间。
数据库(Database)，简而言之可视为电子化的文件柜——存储电子文件的处所，用户可以对文件中的数据进行新增、查询、更新、删除等操作。所谓“数据库”是以一定方式储存在一起、能与多个用户共享、具有尽可能小的冗余度、与应用程序彼此独立的数据集合。
数据库管理系统(英语：Database Management System，简称DBMS)是为管理数据库而设计的电脑软件系统，一般具有存储、截取、安全保障、备份等基础功能。数据库管理系统可以依据它所支持的数据库模型来作分类，例如关系式、XML(Extensible MarkupLanguage,即可扩展标记语言)；或依据所支持的计算机类型来作分类，例如服务器群集、移动电话；或依据所用查询语言来作分类，例如SQL(结构化查询语言，Structured QueryLanguage)、XQuery；或依据性能冲量重点来作分类，例如最大规模、最高运行速度；亦或其他的分类方式。不论使用哪种分类方式，一些DBMS能够跨类别，例如，同时支持多种查询语言。在本申请实施例中，可将识别结果存储在该数据库管理系统中，便于服务器调取。
其中，需要特别说明的是，本申请实施例涉及的服务终端，可以是指向服务终端提供语音和/或数据连通性的设备，具有无线连接功能的手持式设备、或连接到无线调制解调器的其他处理设备。例如移动电话(或称为“蜂窝”电话)和具有移动终端的计算机，例如，可以是便携式、袖珍式、手持式、计算机内置的或者车载的移动装置，它们与无线接入网交换语音和/或数据。例如，个人通信业务(英文全称：Personal Communication Service，英文简称：PCS)电话、无绳电话、会话发起协议(SIP)话机、无线本地环路(Wireless LocalLoop，英文简称：WLL)站、个人数字助理(英文全称：Personal Digital Assistant，英文简称：PDA)等设备。
请参阅图1，图1为本申请实施例提供的模型鲁棒性检测方法的应用场景示意图。该模型鲁棒性检测方法应用于图1中的模型鲁棒性检测系统中，该模型鲁棒性检测系统包括物流场景仿真平台、车辆感知模型和虚拟控制器，所述物流场景仿真平台包括第一搬运车、以及至少一个目标对象，所述第一搬运车在物流场景仿真平台的图像和点云数据通过端口传输给所述车辆感知模型。
具体地，模型鲁棒性检测系统从预设的多个候选对抗图案中确定当前待添加的至少一个目标对抗图案；将至少一个所述目标对抗图案导入当前待攻击的至少一个所述目标对象的有效范围内，采集得到至少一个目标对抗样本；将至少一个所述目标对抗样本输入所述车辆感知模型，得到识别结果，所述识别结果用于控制生成所述第一搬运车的操作指令。
本申请实施例在模型鲁棒性检测系统中即可实现对模型进行攻击，通过仿真场景来模拟物理世界的检测流程，不需要在物理世界中实地对模型进行攻击，能够保障模型鲁棒性检测的安全性，并且由于本方案中的目标对抗样本基于物流场景仿真平台生成，不需要对对抗图案进行拍摄以及打印，通过用户交互或预设脚本即可以在搬运车运行过程中不断生成对抗样本，所以本方案可以在搬运车运行过程中对车辆感知模型进行连续攻击，可以在短时间内更多、更快、更全面的攻击车辆感知模型，提高攻击效果，缩短模型的迭代周期。
需要说明的是，物流场景仿真平台的仿真场景构建完后，可通过传输控制协议(Transmission Control Protocol，TCP)协议传输的方式将对抗算法所生成的对抗样本与仿真平台建立起联系，再通过runtime fbx importer插件将其导入至物流场景仿真平台的仿真环境下。
下面，将结合几个实施例对本申请技术方案进行详细的介绍说明。
以下介绍本申请实施例所提供的一种模型鲁棒性检测方法，所述方法应用于模型鲁棒性检测系统，所述模型鲁棒性检测系统包括物流场景仿真平台、车辆感知模型和虚拟控制器，所述物流场景仿真平台包括第一搬运车、以及至少一个目标对象，所述第一搬运车在物流场景仿真平台的图像和点云数据通过端口传输给所述车辆感知模型，以下分别从用户交互以及预设脚本两个方面分别对本实施例提供的模型鲁棒性检测方法进行详细说明。
需要说明的是，本实施例中的第一搬运车按照正确识别到的导向车道线进行行驶可以顺利到达目标倒货口。
参照图2，本实施例在模型鲁棒性检测系统中通过用户交互实现本申请提供的模型鲁棒性检测方法，此时，物流场景仿真平台的显示界面包括第一区域和第二区域，所述第一区域显示有多个所述候选对抗图案，所述第二区域当前显示所述第一搬运车和至少一个所述目标对象，所述目标对象包括场景导向车道线、倒货口以及第二搬运车中的至少一类。本申请实施例包括步骤201-步骤205：
201、物流场景仿真平台接收用户针对所述第一区域中第一功能图标的第一操作指令。
其中，所述第一操作指令指示为所述目标对象添加所述目标对抗图案，所述目标对抗图案为多个所述候选对抗图案中与所述第一功能图标对应的对抗图案，所述目标对象为在第二区域中当前显示的对象，该目标对象包括所述场景导向车道线或所述场景倒货口，即本实施例可以对物流场景中的场景导向车道线或者场景倒货口进行攻击。
本实施例中，所述从预设的多个候选对抗图案中确定当前待添加的至少一个目标对抗图案的步骤具体通过步骤201实现。
其中，该场景导向车道线为在物流场景仿真平台中设置的车道线，类型包括：直行车道线、左转车道线、右转车道线以及掉头车道线。该场景倒货口为在物流仿真平台中设置的倒货口，物流仿真平台中设置有至少一个场景倒货口，每个场景倒货口的货物对应不同的货物种类或者不同的货物目的地，运输车需要运输不同的货物至不同的倒货口，以实现对货物按照种类或目的地进行分类的目的，并且，本实施例中每个倒货口都设置有对应的倒货口标识，例如，本实施例中设置有S1倒货口、S2倒货口、S3倒货口、S4倒货口、S5倒货口以及S6倒货口，此时，S1倒货口上设置有倒货口标识S1、S2倒货口上设置有倒货口标识S2、S3倒货口上设置有倒货口标识S3、S4倒货口上设置有倒货口标识S4、S5倒货口上设置有倒货口标识S5、S6倒货口上设置有倒货口标识S6。
例如，A运输车需要将货物倒至S1倒货口，此时，A运输车需要根据获取的场景导向车道线进行行驶，并且在行驶的过程中获取目标运输车周围图像进行当前导向车道线的识别以及倒货口标识S1的识别，若识别到倒货口标识S1，则说明此时已到达S1倒货口，此时，将货物导入识别到的S1倒货口。
本实施例中，第一搬运车在第二区域中显示的驾驶场景中行驶，需要说明的是，该驾驶场景为物流运输场景，具体地，可以通过本申请提供的物流场景仿真平台仿真某运输公司中物流园中的场景，此时，第二区域中显示的是第一搬运车当前仿真的物流园中运输场景。
其中，所述第一搬运车满足以下项中的至少一项：
当前处于忙碌状态，例如基于仓库系统的热力图(可涉及货物分拣、搬运车负载状态等)选择处于忙碌状态的搬运车来作为被攻击对象；
运载的货物的级别高于预设级别，例如贵重物品、医药等物资；
运载的货物的目的地为特定目的地，例如需要紧急支援的地区、场所等；
或者，预设时长内的运载任务数高于预设数值，例如在5小时内所安排的分拣任务数大于200次。
当用户想要利用第二区域当前显示的目标对象对车辆感知模型进行攻击时，首先需要通过点击第一区域中显示的功能图标为该目标对象选取对抗图案，并将选中的对抗图案作为目标对抗图案，然后将目标对抗图案通过界面交互或自动显示的方式添加到当前显示的有效范围中。
本实施例可以通过鼠标或者触屏(通过触屏笔或者使用手指直接与屏幕接触)等方式在目标对象的有效范围添加目标对抗图案，本实施例对于用户以何种方式与界面进行交互的方式不作限定，以下以用户通过鼠标与界面进行交互为例进行说明。
其中，为了方便用户观察第二区域中显示的驾驶场景，本实施例中的第一区域中设有收起按钮以及展开按钮，当用户不需要使用第一区域时，可以点击该收起按钮收起第一区域(收起后只展示展开按钮)，此时，第二区域自适应屏幕放大，当需要使用第一区域中的内容时，再点击展开按钮展示该第一区域，此时第二区域自适应屏幕缩小。
在一些实施例中，请参阅图3a，该第一操作指令对应的是，用户通过鼠标点击第一区域中显示的第一功能图标，然后通过鼠标将该目标对抗图案直接拖拽至在第二区域中当前显示的目标对象的有效范围内，具体地，在一些实施例中的物流场景仿真平台中预设有第一对应关系，该第一对应关系包括显示位置、目标对象、对象类型的对应关系，即本实施例中的物流场景仿真平台为每个目标对象都设有对应的有效范围，该有效范围即对抗图案的显示位置；此时，在另一些实施例中，当用户点击第一功能图标时，此时平台将响应第一操作指令，根据第一对应关系自动将第一功能图标对应的目标对抗图案显示在目标对象的有效范围内。其中。
在另一些实施例中，请参阅图3b，此时，所述物流场景仿真平台的显示界面中显示有与所述第一搬运车保持相对速度的虚拟投影设备，具体地，在第二区域中显示有该虚拟投影设备，此时，所述从预设的多个候选对抗图案中确定当前待添加的至少一个目标对抗图案，包括：接收针对所述虚拟投影设备的投影指令，所述投影指令指示所述虚拟投影设备向所述目标对象的有效范围内投影所述目标对抗图案；具体地，接收用户针对该虚拟投影设备的投影指令，后续物流场景仿真平台将响应该投影指令，通过该虚拟投影设备将目标对抗图案投影至当前显示的目标对象的有效范围内，得到目标对抗样本，更具体地，用户从第一区域中拖拽目标对抗图案至虚拟无人机中，通过虚拟无人机投影目标对抗图案至目标对象的有效范围内。
其中，在一些实施例中，第二区域中包含暂停按钮以及播放按钮，为了避免错过攻击时机，在对目标对象添加目标对抗图案之前，首先点击暂停按钮暂停播放当前驾驶画面，再触发第一操作指令，当得到所需的目标对抗样本之后，再点击播放按钮，继续播放当前驾驶画面。
202、物流场景仿真平台响应于所述第一操作指令，根据预设的第一对应关系将所述目标对抗图案显示在所述目标对象的有效范围内，得到所述目标对抗样本。
其中，所述第一对应关系包括显示位置、目标对象、对象类型的对应关系。
需要说明的是，本实施例中的目标对象为需要进行攻击的对象，具体地，所述目标对象包括以下项中的至少一项：
在所述第一搬运车的安全距离内的第二搬运车；
在所述第一搬运车的第一人称视角范围内的非目标倒货口或非目标倒货口的倒货口标志；
在所述第一搬运车的第一人称视角范围内的目标倒货口或目标倒货口的倒货口标志；
该目标倒货口为第一搬运车需要进行卸货的倒货口；
在所述第一搬运车的第一人称视角范围内且在行驶方向上的静态物体，所述静态物体包括货物、第三搬运车以及障碍物中的至少一项；
或者，在所述第一搬运车行驶方向上的车道线。
此时，所述将至少一个所述目标对抗图案导入当前待攻击的至少一个目标对象的有效范围内，采集得到至少一个目标对抗样本的步骤具体通过步骤202实现。
当用户在物流场景仿真平台的第一界面中触发了第一操作指令之后，物流场景仿真平台响应于所述第一操作指令，将所述目标对抗图案添加到当前显示的目标对象的有效范围内，其中，当目标对抗图案处于目标对象的有效范围内时，目标对抗图案可以与目标对象构成目标对抗样本。
需要说明的时，本实施例中的目标对抗样本包括图像对抗样本以及点云对抗样本。
203、物流场景仿真平台将所述目标对抗样本输入所述车辆感知模型。
本实施例中，当物流场景仿真平台生成目标对抗样本之后，将生成的目标对抗样本发送给车辆感知模型。
具体地，目标对抗样本显示在物流场景仿真平台的显示界面的第二区域中，当第一搬运车驾驶在第二区域时，所述第一搬运车在所述第二区域的图像和点云数据通过端口传输给所述车辆感知模型，使得车辆感知模型获取到目标对抗样本。
考虑到很多物流园为露天物流园，此时，为了更全面地对车辆感知模型进行攻击，为模型鲁棒性检测提供更丰富的测试环境基础，对模型实现更全面的鲁棒性检测，在一些实施例中，本实施例中的物流场景仿真平台可以模拟多种天气环境，此时，所述物流场景仿真平台预设有多种天气参数，不同的天气参数可以渲染不同的天气环境，所述显示界面还包括第三区域，所述第三区域中包括每种所述天气参数分别对应的天气图标；所述将至少一个所述目标对抗样本输入所述车辆感知模型之前，所述方法还包括：接收针对目标天气参数的天气参数选择指令，所述目标天气参数为多种所述天气参数中的一天气参数；响应于所述天气参数选择指令，将所述物流场景仿真平台的天气参数设置为所述目标天气参数。
具体地，接收用户针对所述第三区域中目标天气图标的天气参数选指令，所述目标天气图标为用户从多个所述天气图标中选中的天气图标；根据所述天气参数选指令将所述第二区域当前的天气参数设置为所述目标天气图标对应的目标天气参数。
具体地，如图4所示，用户从第三区域中多个候选驾驶场景中勾选目标天气图标，点击确认按钮，此时物流场景仿真平台收到用户的天气参数选择指令，然后根据该天气参数选择指令将第二区域的天气参数设置为所述目标天气图标对应的目标天气参数，根据该目标天气参数渲染当前运输场景。
在一些实施例中，本实施例中的天气参数包括亮度参数以及纹理参数。
其中，多种天气参数包括晴天天气参数(包括晴天、多云以及少云天气参数)、阴天天气参数、雾天天气参数(包括大雾以及小雾天气参数)、雨天天气参数(包括大雨、小雨以及雷雨天气参数)以及雪天天气参数(包括大雪、小雪以及暴雪天气参数)等。
其中，将第二区域的天气参数设置为目标天气参数之后，后续车辆感知模型获取到的目标对抗样本也带有该目标天气参数相应的特征，故通过本系统可以在多种天气场景下对车辆感知模型进行攻击，对模型实现更全面的攻击。
其中，为了方便用户观察第二区域中显示的驾驶场景，本实施例中的第三区域中设有收起按钮以及展开按钮，当用户不需要使用第三区域时，可以点击该收起按钮收起第三区域(收起后只展示展开按钮)，此时，第二区域自适应屏幕放大，当需要使用第三区域中的内容时，再点击展开按钮展示该第三区域，此时第二区域自适应屏幕缩小。
其中，在一些实施例中，为了使第一搬运车在物流场景仿真平台中实现自动驾驶，将所述目标对抗样本输入所述车辆感知模型之前，所述方法还包括：配置所述模型鲁棒性检测系统，使得所述模型鲁棒性检测系统将所述车辆感知模型的输出作为所述虚拟控制器的输入；具体的配置方式为，接收用户的配置指令，根据用户的配置指令进行系统配置。
其中，所述车辆感知模型以所述第一搬运车的第一人称视角获取所述第一搬运车的视场范围内的第一人称视角画面，所述第一人称视角画面包括所述目标对抗样本，并基于所述目标对抗样本得到所述识别结果；所述第一人称视角的方位信息跟随所述第一搬运车的位置变化而变化。
具体地，本申请只需要保证所述目标对抗样本可以输入所述车辆感知模型，得到识别结果即可，系统的具体设置方式本实施例不作限定。
204、车辆感知模型对所述目标对抗样本进行识别，得到识别结果，并将所述识别结果发送至所述虚拟控制器。
正常情况下车辆感知模型可以准确识别得到目标对象的标签，然而，由于本实施例需要检测车辆感知模型的鲁棒性，在第一搬运车第一人称视觉中的目标对象添加了对抗图案，当车辆感知模型对添加了对抗图案的目标对象进行识别时，其识别结果会受到对抗图案的影响，此时，车辆感知模型对目标对抗样本进行识别时，其识别的准确度会受到对抗图案的影响。
其中，所述识别结果用于控制生成所述第一搬运车的操作指令。
具体地，当对模型的攻击为有目标攻击时，该识别结果指示模型将目标对抗样本中目标对象识别为第一标签时的置信度高于第一预设置信度，其中，该目标对象的真实标签为目标标签，模型将高于第一预设执行度的识别结果确定为当前识别到的结果，即此时，模型将目标对抗样本中的目标对象识别成了第一标签。
当对模型的攻击为无目标攻击时，该识别结果指示模型将目标对抗样本中目标对象识别为目标标签时的置信度低于第二预设置信度，其中，该目标对象的真实标签为目标标签，第一预设值远大于第二预设值。
进一步地，所述识别结果指示第一置信度高于第二置信度，此时：
当所述目标对象为场景导向车道线时，所述第一置信度为所述车辆感知模型将所述目标对抗样本识别为第一导向车道线时的置信度，所述第二置信度为所述车辆感知模型将所述目标对抗样本识别为所示场景导向车道线时的置信度，所述第一导向车道线的导向与所述场景车道线的导向不同；
当所述目标对象为场景倒货口时，所述第一置信度为所述车辆感知模型将所述目标对抗样本识别为第一倒货口时的置信度，所述第二置信度为所述车辆感知模型将所述目标对抗样本识别为所述场景倒货口时的置信度，所述场景倒货口或所述第一倒货口为所述目标倒货口；
当时目标对象为第二搬运车时，所述第一置信度为所述车辆感知模型将所述目标对抗样本识别为无车辆时的置信度，所述第二置信度为所述车辆感知模型将所述目标对抗样本识别为所述第二搬运车时的置信度，等等。
205、虚拟控制器根据所述识别结果生成所述第一搬运车的操作指令，并根据所述操作指令控制物流场景仿真平台中的第一搬运车。
具体地，该操作指令包括抛货物(卸货)、停车、前行、左转和右转等指令。
具体地，本实施例中，当车辆感知模型得到目标对抗样本的识别结果之后，将该识别结果传输至虚拟控制器，虚拟控制器根据该识别结果作出第一搬运车的操作指令，并通过该操作指令控制第一搬运车在第二区域中显示的运输场景中实现自动驾驶以及自动卸货。
为了进一步理解本申请实施例提供的模型鲁棒性检测方法，请参阅以下三种情况的场景实施例。
第一种：当所述目标对象为所述场景导向车道线时，所述第一置信度为所述车辆感知模型将所述目标对抗样本识别为第一导向车道线时的置信度，所述第二置信度为所述车辆感知模型将所述目标对抗样本识别为所示场景导向车道线时的置信度，所述第一导向车道线的导向与所述场景车道线的导向不同。
此时，如图5所示，在第二区域中，第一搬运车前方显示的直行导向车道线(即目标对象为直行导向车道线)，由于对该场景导向车道线添加了对抗图案，导致车辆感知模型将该直行导向车道线绘制成了右转导向车道线，此时，虚拟控制器根据识别结果生成的操作指令为：第一搬运车前方路口向右行驶，此时，第一搬运车根据操作指令向右行驶。
在此场景中，由于第一搬运车在当前路口直行才能顺利到达目标倒货口，由于此时系统对当前导向车道线进行了攻击，导致车辆感知模型将直行车道线识别成了左转车道线，此时导致的后果可能有：由于第一搬运车偏离了原定路线，导致第一搬运车后续需要不断地更换路线寻找目标倒货口，从而导致第一搬运车的运输效率低，还有可能因为由于该第一搬运车走错路，导致出现拥堵情况，又例如，第一搬运车误入其他搬运车的搬运路线，阻碍其他搬运车的工作，又例如，第一搬运车错误转向之后，进入逆行车道，导致与其他搬运车相撞或拥堵的情况发生。
在一些实施例中，考虑到第一搬运车设有一个比较高的运输机制，即如果需要将货物运送到目标倒货口，那么第一搬运车必须严格按照识别到的导向车道线的方向进行行驶，这样才能确保将货物送到目标倒货口。由于存在这样一个较高的运输机制，当对第一搬运车行驶路线中的导向车道线进行攻击，扰乱了第一搬运车的行驶策略是，此时，可能出现的情况有：当识别出错时第一搬运车一直在原地打转，无法找到正确方向，无法到达目标倒货口，无法得到正确的驾驶策略，最终瘫痪在路上不动(此时可能会导致堵车，干扰其他搬运车)；也可能不断地在仿真物流园里转来转去，像走迷宫一样，无法找到目标倒货口。
此外，本实施例还可以通过添加对抗图案将左转的导向车道线攻击成直行的，将右转的导向车道线攻击成左转的等等。
第二种：当所述目标对象为场景倒货口时，所述第一置信度为所述车辆感知模型将所述目标对抗样本识别为第一倒货口时的置信度，所述第二置信度为所述车辆感知模型将所述目标对抗样本识别为所述场景倒货口时的置信度，所述场景倒货口或所述第一倒货口为所述目标倒货口。
如图6所示，当所述目标对象为目标倒货口S1时，在该目标倒货口S1的有效范围内添加对抗样本，此时，车辆感知模型将目标倒货口的倒货口标识S1识别成S3，或者，通过添加对抗图案导致使该倒货口标识S1对车辆感知模型隐身，导致第一搬运车找不到目标到倒货口。
又如图7所示，当所述目标对象为倒货口S4，目标倒货口为S1时，根据行驶路线，第一搬运车先经过S4，后经过S1，由于本实施例在倒货口S4的有效范围内添加了对抗样本，此时，车辆感知模型将倒货口S4的倒货口标识识别成了目标倒货口的倒货口标识S1，导致第一搬运车将获取导入错误的倒货口S4。
第三种：本实施例中的目标对象包括第二搬运车，本实施例根据模型鲁棒性检测系统中的仓库管理软件显示的仓库热力图确定第一搬运车附近的第一搬运车(用来干扰第一搬运车)，该第二搬运车的数量不定，该第二搬运车至少在一定时间内会出现在第一搬运车的视场范围内，能够被第一搬运车扫描到至少一次且持续一定时长，本实施例为该第二搬运车设置对抗图案(可是是投影、贴纸等方式)，使得第一搬运车识别不到第二搬运车或者将第二搬运车识别成其他物品，其中，第一搬运车和第二搬运车可以都是比较繁忙的车，第一搬运车和第二搬运车可以同向行驶、对向行驶或者分车道行驶等，此处不作限定。
此时，在一些实施例中，与所述第二搬运车对应的所述目标对抗样本为第一对抗样本；所述第二搬运车在所述第一搬运车前方行驶，且所述第二搬运车与所述第一搬运车的行驶速度相同，所述将至少一个所述目标对抗样本输入所述车辆感知模型，得到识别结果，包括：接收第一消息，所述第一消息指示所述第一搬运车向前加速行驶；将所述第一对抗样本输入所述车辆感知模型，得到前方无车辆的识别结果。
如图8所示，由于第一搬运车识别不到停在前方的第二搬运车，当第一搬运车响应第一消息时，将加速撞上前方的第二搬运车，其中，该第一消息可以为用户通过显示界面对应的加速按钮触发的消息。
此外，该第二搬运车还可以为停在第一搬运车行驶路线前方的故障车辆，此时，在该故障车辆的有效范围内添加对抗图案，第一搬运车识别不到前方的故障车辆，导致第一搬运车撞上故障车辆。
此外，该第二搬运车还可以在该第一搬运车行驶路上的一个倒地的搬运车，此时，第二搬运车的货物散落在地，系统分别向散落在地的货物以及倒地的第一搬运车添加对抗图案，使得第一搬运车识别不到倒地的第二搬运车以及散落的货物，此时，第一搬运车继续行驶而与第二搬运车或者与散落的货物相撞，第一搬运车无法通过并前行。
在一些实施例中，本实施例中物流场景仿真平台还可以仿真自助超市内部的传输链，此时，服务终端接到任意用户终端的用户订单，工作人员或者自动采购机器人，根据该用户订单采集货物并将货物打包后，并根据用户订单上的收货地址打印配送单，并与货物放置在一起放置在第一搬运车中，第一搬运车根据配送单中的地址从多个出货口中确定与订单地址对应的目标出货口(例如标识为S1的出货口)，第一搬运车行驶至该目标出货口的路上有多个中转点，每个中转点都有对应的导向车道线，第一搬运车根据导向车道线行驶即可顺利将货物送到目标出货口，此时，系统在中转点中至少攻击一次，和/或攻击至少一个出货口。
需要说明的是，本实施例可以通过用户交互提前将物流场景仿真平台中的所有对抗图案提前设置好；也可以在第一搬运车行驶的途中，在第一搬运车到达攻击地点之前通过用户交互实时动态地设置对抗图案。
相较于现有技术，本方案提供了一个模型鲁棒性检测系统，本申请实施例在模型鲁棒性检测系统中即可实现对模型进行攻击，通过仿真场景来模拟物理世界的检测流程，不需要在物理世界中实地对模型进行攻击，能够保障模型鲁棒性检测的安全性，并且由于本方案中的目标对抗样本基于物流场景仿真平台生成，不需要对对抗图案进行拍摄以及打印，通过用户交互即可以在搬运车运行过程中不断生成对抗样本，所以本方案可以在搬运车运行过程中对车辆感知模型进行连续攻击，可以在短时间内更多、更快、更全面的攻击车辆感知模型，提高攻击效果，缩短模型的迭代周期。
参照图9，本实施例在模型鲁棒性检测系统中通过预设脚本实现本申请提供的模型鲁棒性检测方法，此时，物流场景仿真平台中设有预设行驶脚本以及预设对抗脚本，其中，第一搬运车处于按照预设行驶脚本行驶状态，且物流场景仿真平台中的对抗图案根据预设对抗脚本添加，其中，预设对抗脚本中设置有物流场景仿真平台中各个场景中需要攻击的目标对象，以及各个目标对象分别对应的目标对抗图案，步骤如下：
901、物流场景仿真平台根据预设对抗脚本确定当前待攻击的至少一个所述目标对象。
本实施例中，所述从预设的多个候选对抗图案中确定当前待添加的至少一个目标对抗图案的步骤通过步骤901以及步骤902实现。
在一些实施例中，当前待攻击的至少一个所述目标对象可以是物流场景仿真平台中当前显示界面中显示的预设对抗脚本指定的目标对象；在另一些实施例中，该当前待攻击的至少一个所述目标对象为物流场景仿真平台中，为攻击第一搬运车设置的所有目标对象。
902、物流场景仿真平台根据所述预设对抗脚本从多个所述候选对抗图案中确定与至少一个所述目标对象对应的至少一个目标对抗图案。
在一些实施例中，由于预设对抗脚本中设有各个目标对象分别对应的目标对抗图案，当确定了当前待攻击的目标对象之后，将根据预设对抗脚本中对象与对抗图案的对应关系确定至少一个所述目标对象对应的至少一个目标对抗图案。
903、物流场景仿真平台在所述预设对抗脚本指示的目标时段内，将至少一个所述目标对抗图案导入至少一个所述目标对象的有效范围内，采集得到至少一个目标对抗样本。
本实施例中所述将至少一个所述目标对抗图案导入当前待攻击的至少一个目标对象的有效范围内，采集得到至少一个目标对抗样本的步骤通过步骤903实现。
在一些实施例中，所述目标对抗图案导入所述物流场景仿真平台的方式包括以下项中的至少一项：程序接口导入、虚拟投影设备投影以及自动化图标拖拽。
在通过程序接口导入进行对抗图案导入时，具体地，预设对抗脚本中设置有当前待攻击的目标对象对应目标对抗图案的存储路径，并且设置有目标对象的有效范围，当目标对抗图案处于目标对象的有效范围内时，可以使得目标对象对应的图像成为对抗样本，迷惑车辆感知模型。具体地，当前播放时段为目标时段，此时，需要为当前场景界面中的目标对象添加目标对抗图案，例如，将预设对抗脚本中该目标对象有效范围内中的指定图案的存储路径替换为对应的目标对抗图案的存储路径，其中，该指定图案为需要被替换为目标对抗图案的图案，然后重新加载渲染当前场景界面，从而实现目标对抗图案的添加，得到目标对抗样本。又或者，将指定的目标对抗图案直接添加至指定区域，采用覆盖的方式导入，得到目标对抗样本。其中，由于通过程序接口进行对抗图案导入，对抗图案导入的速度快，从而提高目标对抗样本的生成速度。
在通过虚拟投影设备投影进行对抗图案导入时，此时，所述物流场景仿真平台显示界面中显示有与所述第一搬运车保持相对速度的虚拟投影设备；此时，所述从预设的多个候选对抗图案中确定当前待添加的至少一个目标对抗图案，包括：接收针对所述虚拟投影设备的投影指令，所述投影指令指示所述虚拟投影设备向所述目标对象的有效范围内投影所述目标对抗图案，其中，该虚拟投影指令为预设对抗脚本预设的在目标时段内触发的投影指令；此时，所述将至少一个所述目标对抗图案导入当前待攻击的至少一个目标对象的有效范围内，采集得到至少一个目标对抗样本，包括：响应于所述投影指令，通过所述虚拟投影设备将所述目标对抗图案投影至所述目标对象的有效范围内，得到所述目标对抗样本。其中，该虚拟投影设备可以为虚拟无人机投影设备，通过虚拟无人机投影进行对抗图案导入的界面示意图如图3b所示(其中，图2对应实施例中，3a中的虚拟投影设备为手动投影，而本实施例为自动化投影)。其中，通过虚拟投影设备投影进行标对抗图案导入可以增加对抗图案导入的多样性。
当通过自动化图标拖拽进行对抗图案导入时，此时，所述物流场景仿真平台的显示界面包括第一区域和第二区域，所述第一区域显示有多个候选对抗图案，所述第二区域当前显示目标驾驶场景的画面，此时，预设脚本设置有自动拖拽指令，当物流场景仿真平台播放到目标时段对应的目标驾驶场景的画面时，触发该自动拖拽指令，从第一区域的多个候选对抗图案中选取自动拖拽指令指示的的目标对抗图案，并自动将目标对抗图案拖拽至目标对象的有效范围内，通过自动化图标拖拽进行对抗图案的导入，得到目标对抗样本，其中，通过自动化图标拖拽进行对抗图案导入的界面示意图如图3a所示(其中，图2对应实施例中，3a中的图标为手动拖动，而本实施例为自动化拖动)。通过自动图标拖拽的方式进行对抗图案进行显示导入，可以向用户直观呈现对抗图案的导入过程，提高模型鲁棒性检测的趣味性。
需要说明的时，本实施例中的目标对抗样本包括图像对抗样本以及点云对抗样本。
904、物流场景仿真平台将所述目标对抗样本输入所述车辆感知模型。
本实施例中，当物流场景仿真平台生成目标对抗样本之后，将生成的目标对抗样本发送给车辆感知模型。
具体地，当目标对抗样本显示在当前显示界面中时，第一搬运车驾驶在当前显示界面中行驶，物流场景仿真平台的当前显示界面中的图像和点云数据通过端口传输给所述车辆感知模型，使得车辆感知模型获取到目标对抗样本。
905、车辆感知模型对所述目标对抗样本进行识别，得到识别结果，并将所述识别结果发送至所述虚拟控制器。
当车辆感知模型获取到目标对抗样本之后，实时对获取到的目标对抗样本进行识别，并输出识别结果，其中，所述识别结果用于控制所述虚拟控制器生成所述第一搬运车的操作指令，所述识别结果指示第一置信度高于第二置信度，其中：当所述目标对象为所述场景导向车道线时，所述第一置信度为所述车辆感知模型将所述目标对抗样本识别为第一导向车道线时的置信度，所述第二置信度为所述车辆感知模型将所述目标对抗样本识别为所示场景导向车道线时的置信度，所述第一导向车道线的导向与所述场景车道线的导向不同；当所述目标对象为场景倒货口时，所述第一置信度为所述车辆感知模型将所述目标对抗样本识别为第一倒货口时的置信度，所述第二置信度为所述车辆感知模型将所述目标对抗样本识别为所述场景倒货口时的置信度，所述场景倒货口或所述第一倒货口为所述目标倒货口。
具体地，本实施例通过车辆感知模型得到识别结果之后，将该识别结果发送虚拟控制器，使得虚拟控制器根据该识别结果生成操作指令，并通过该操作指令控制第一搬运车在物流场景仿真平台中行驶。
考虑到很多物流园为露天物流园，此时，为了更全面地对车辆感知模型进行攻击，为模型鲁棒性检测提供更丰富的测试环境基础，对模型实现更全面的鲁棒性检测，在一些实施例中，所述物流场景仿真平台预设有多种天气参数；所述将至少一个所述目标对抗样本输入所述车辆感知模型之前，所述方法还包括：
a、接收针对目标天气参数的天气参数选择指令，所述目标天气参数为多种所述天气参数中的一天气参数。
此时，该天气参数选择指令为预设运行脚本针对目标时段设置的指令，当平台播放至目标时段时，预设运行脚本自动触发目标天气参数的天气参数选择指令。
进一步地，所述预设运行脚本预设有多个运行周期，并且所述预设脚本中设有运行周期数与天气参数的对应关系，目标时段为当前运行周期的播放时段，此时，物流场景仿真平台按照预设的运行周期依次播放同一套运输场景，并且在每个运行周期开始前，自动将天气参数设置为当前运行周期对应的天气参数，从而实现对模型实现在各种天气环境下对模型的鲁棒性检测。
b、响应于所述天气参数选择指令，将所述物流场景仿真平台的天气参数设置为所述目标天气参数。
具体地，平台响应于该天气参数选择指令，然后将当前显示界面的天气参数设置为所述目标天气参数。
906、虚拟控制器根据所述识别结果生成所述第一搬运车的操作指令，并根据所述操作指令控制物流场景仿真平台中的第一搬运车。
具体地，虚拟控制器接收到该识别结果之后，根据该识别结果生成第一搬运车的操作指令，然后将该操作指令控制物流场景仿真平台中的第一搬运车，使得第一搬运车在物流场景仿真平台中按照操作指令运行。
为了对实施例进一步了解，请查看图2对应实施例中的步骤205下方描述的三种情况的场景实施例，本实施例中的场景实施例与步骤205下方描述的三种情况的场景实施例类似，具体此处不作赘述。
相较于现有技术，本方案提供了一个模型鲁棒性检测系统，本申请实施例在模型鲁棒性检测系统中即可实现对模型进行攻击，通过仿真场景来模拟物理世界的检测流程，不需要在物理世界中实地对模型进行攻击，能够保障模型鲁棒性检测的安全性，并且由于本方案中的目标对抗样本基于物流场景仿真平台生成，不需要对对抗图案进行拍摄以及打印，通过预设脚本即可以在搬运车运行过程中不断生成对抗样本，所以本方案可以在搬运车运行过程中对车辆感知模型进行连续攻击，可以在短时间内更多、更快、更全面的攻击车辆感知模型，提高攻击效果，缩短模型的迭代周期。
其中，在执行图2以及图9对应的实施例中模型鲁棒性检测方法之前，本实施例首先需要在仿真环境中对对抗图案进行优化，为了保证候选对抗图案具有攻击效果，当对抗图案可以生成稳定攻击的对抗样本之后，才能将该对抗图案作为候选对抗图案存储在模型鲁棒性检测系统中，待后续根据图2以及图9对应的实施例在仿真场景中使用该候选对抗图案，优化对抗图案的步骤如下：
根据预设的至少一种对抗样本生成算法生成至少一种初始对抗图案；将所述初始对抗图案导入所述物流场景仿真平台对所述初始对抗图案的攻击效果进行检验，得到检验结果；若所述检验结果为检验通过，则将所述初始对抗图案设为所述候选对抗图案。
具体地，所述将所述初始对抗图案导入所述物流场景仿真平台对所述初始对抗图案的攻击效果进行检验，得到检验结果，包括：将所述初始对抗图案添加至所述目标对象的有效范围内，采集得到初始对抗样本；将所述初始对抗样本输入所述车辆感知模型，得到第一识别结果；若所述第一识别结果指示第三置信度高于第四置信度，则确定所述检验结果为检验通过，所述第三置信度为所述车辆感知模型将所述初始对抗样本识别为非所示目标对象时的置信度，所述第四置信度为所述车辆感知模型将所述初始对抗样本识别为所示目标对象时的置信度；若所述第一识别结果指示所述第三置信度低于或等于所述第四置信度，则确定所述检验结果为检验不通过。其中，如果第三置信度高于第四置信度，则说明此时的对抗样本攻击模型攻击成功，该初始对抗样本具有比较好的攻击效果，此时，可以将初始对抗样本对应的初始对抗图案确定为候选对抗图案。如果检验不通过，则需要重新通过对抗攻击算法生成对抗图案并自动化导入到仿真平台中继续进行优化。
图10是本申请实施例提供的一种模型鲁棒性检测装置的示意性框图。如图10所示，对应于以上模型鲁棒性检测方法，本申请还提供一种模型鲁棒性检测装置1000。该模型鲁棒性检测装置1000包括用于执行上述模型鲁棒性检测方法的单元，该模型鲁棒性检测装置1000可以被配置于模型鲁棒性检测系统中，所述模型鲁棒性检测系统可被安装于计算机设备中，该计算机设备为终端或服务器，并且，所述模型鲁棒性检测系统包括物流场景仿真平台、车辆感知模型和虚拟控制器，所述物流场景仿真平台包括第一搬运车、以及至少一个目标对象；所述第一搬运车在物流场景仿真平台的图像和点云数据通过端口传输给所述车辆感知模型，所述装置包括：
处理模块1002，用于从预设的多个候选对抗图案中确定当前待添加的至少一个目标对抗图案；将至少一个所述目标对抗图案导入当前待攻击的至少一个所述目标对象的有效范围内，采集得到至少一个目标对抗样本；将至少一个所述目标对抗样本输入所述车辆感知模型，得到识别结果，所述识别结果用于控制生成所述第一搬运车的操作指令；
收发模块1001，用于将所述识别结果输入所述虚拟控制器。
在一些实施例中，所述目标对象包括以下项中的至少一项：
在所述第一搬运车的安全距离内的第二搬运车；
在所述第一搬运车的第一人称视角范围内的非目标倒货口或非目标倒货口的倒货口标志；
在所述第一搬运车的第一人称视角范围内的目标倒货口或目标倒货口的倒货口标志；
在所述第一搬运车的第一人称视角范围内且在行驶方向上的静态物体，所述静态物体包括货物、第三搬运车以及障碍物中的至少一项；
或者，在所述第一搬运车行驶方向上的车道线。
在一些实施例中，所述物流场景仿真平台的显示界面包括第一区域和第二区域，所述第一区域显示有各所述候选对抗图案分别对应的功能图标，所述第二区域当前显示所述第一搬运车和至少一个所述目标对象；所述处理模块1002在执行所述从预设的多个候选对抗图案中确定当前待添加的至少一个目标对抗图案，将至少一个所述目标对抗图案导入当前待攻击的至少一个目标对象的有效范围内，采集得到至少一个目标对抗样本步骤时，具体用于：
通过收发模块1001接收用户针对所述第一区域中第一功能图标的第一操作指令，所述第一操作指令指示为所述目标对象添加所述目标对抗图案，所述目标对抗图案为多个所述候选对抗图案中与所述第一功能图标对应的对抗图案；
响应于所述第一操作指令，根据预设的第一对应关系将所述目标对抗图案显示在所述目标对象的有效范围内，得到所述目标对抗样本，所述第一对应关系包括显示位置、目标对象、对象类型的对应关系。
在一些实施例中，所述处理模块1002在执行所述从预设的多个候选对抗图案中确定当前待添加的至少一个目标对抗图案，将至少一个所述目标对抗图案导入当前待攻击的至少一个目标对象的有效范围内，采集得到至少一个目标对抗样本步骤时，具体用于：
根据预设对抗脚本确定当前待攻击的至少一个所述目标对象；
根据所述预设对抗脚本从多个所述候选对抗图案中确定与至少一个所述目标对象对应的至少一个目标对抗图案；
在预设对抗脚本指示的目标时段内，将至少一个所述目标对抗图案导入至少一个所述目标对象的有效范围内，采集得到至少一个目标对抗样本。
在一些实施例中，所述处理模块1002在执行所述从预设的多个候选对抗图案中确定当前待添加的至少一个目标对抗图案步骤之前，还用于：
根据预设的至少一种对抗样本生成算法生成至少一种初始对抗图案；
将所述初始对抗图案导入所述物流场景仿真平台对所述初始对抗图案的攻击效果进行检验，得到检验结果；
若所述检验结果为检验通过，则将所述初始对抗图案设为所述候选对抗图案。
在一些实施例中，所述目标对象还包括第二搬运车，与所述第二搬运车对应的所述目标对抗样本为第一对抗样本，所述第二搬运车在所述第一搬运车前方行驶，且所述第二搬运车与所述第一搬运车的行驶速度相同；所述处理模块1002在执行所述将至少一个所述目标对抗样本输入所述车辆感知模型，得到识别结果步骤时，具体用于：
通过所述收发模块1001接收第一消息，所述第一消息指示所述第一搬运车向前加速行驶；
将所述第一对抗样本输入所述车辆感知模型，得到前方无车辆的识别结果。
在一些实施例中，所述第一搬运车满足以下项之一：
当前处于忙碌状态；
运载的货物的级别高于预设级别；
运载的货物的目的地为特定目的地；
或者，预设时长内的运载任务数高于预设数值。
在一些实施例中，所述物流场景仿真平台的显示界面中显示有与所述第一搬运车保持相对速度的虚拟投影设备；所述处理模块1002在执行所述将至少一个所述目标对抗图案导入当前待攻击的至少一个目标对象的有效范围内，采集得到至少一个目标对抗样本步骤时，具体用于：
通过所述收发模块1001接收针对所述虚拟投影设备的投影指令，所述投影指令指示所述虚拟投影设备向所述目标对象的有效范围内投影所述目标对抗图案；
响应于所述投影指令，通过所述虚拟投影设备将所述目标对抗图案投影至所述目标对象的有效范围内，得到所述目标对抗样本。
需要说明的是，所属领域的技术人员可以清楚地了解到，上述模型鲁棒性检测系统和各单元的具体实现过程，可以参考前述方法实施例中的相应描述，为了描述的方便和简洁，在此不再赘述。
上面从模块化功能实体的角度对本申请实施例中的模型鲁棒性检测装置进行了描述，下面从硬件处理的角度分别对本申请实施例中的模型鲁棒性检测装置进行描述。
需要说明的是，在本申请实施例各实施例(包括图10所示的各实施例)中所有的收发模块对应的实体设备可以为收发器，所有的处理模块对应的实体设备可以为处理器。当其中一种装置具有如图10所示的结构时，处理器、收发器和存储器实现前述对应该装置的装置实施例提供的所述收发模块和所述处理模块相同或相似的功能，图11中的存储器存储处理器执行上述模型鲁棒性检测方法时需要调用的计算机程序。
图10所示的系统可以具有如图11所示的结构，当图10所示的装置具有如图11所示的结构时，图11中的处理器能够实现前述对应该装置的装置实施例提供的所述处理模块相同或相似的功能，图11中的收发器能够实现前述对应该装置的装置实施例提供的所述收发模块相同或相似的功能，图11中的存储器存储处理器执行上述模型鲁棒性检测方法时需要调用的计算机程序。在本申请实施例图10所示的实施例中的所述收发模块所对应的实体设备可以为输入输出接口，所述处理模块对应的实体设备可以为处理器。
本申请实施例还提供了另一种终端设备，如图12所示，为了便于说明，仅示出了与本申请实施例相关的部分，具体技术细节未揭示的，请参照本申请实施例方法部分。该终端设备可以为包括手机、平板电脑、个人数字助理(英文全称：Personal Digital Assistant，英文简称：PDA)、销售终端(英文全称：Point of Sales，英文简称：POS)、车载电脑等任意终端设备，以终端为手机为例：
图12示出的是与本申请实施例提供的终端设备相关的手机的部分结构的框图。参考图12，手机包括：射频(英文全称：Radio Frequency，英文简称：RF)电路1210、存储器1230、输入单元1230、显示单元1240、传感器1230、音频电路1260、无线保真(英文全称：wireless fidelity，英文简称：Wi-Fi)模块1270、处理器1280、以及电源1290等部件。本领域技术人员可以理解，图12中示出的手机结构并不构成对手机的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。
下面结合图12对手机的各个构成部件进行具体的介绍：
RF电路1210可用于收发信息或通话过程中，信号的接收和发送，特别地，将基站的下行信息接收后，给处理器1280处理；另外，将设计上行的数据发送给基站。通常，RF电路1210包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器(英文全称：LowNoise Amplifier，英文简称：LNA)、双工器等。此外，RF电路1210还可以通过无线通信与网络和其他设备通信。上述无线通信可以使用任一通信标准或协议，包括但不限于全球移动通讯系统(英文全称：Global System of Mobile communication，英文简称：GSM)、通用分组无线服务(英文全称：General Packet Radio Service，英文简称：GPRS)、码分多址(英文全称：Code Division Multiple Access，英文简称：CDMA)、宽带码分多址(英文全称：Wideband Code Division Multiple Access,英文简称：WCDMA)、长期演进(英文全称：LongTerm Evolution，英文简称：LTE)、电子邮件、短消息服务(英文全称：Short MessagingService，英文简称：SMS)等。
存储器1230可用于存储软件程序以及模块，处理器1280通过运行存储在存储器1230的软件程序以及模块，从而执行手机的各种功能应用以及数据处理。存储器1230可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等；存储数据区可存储根据手机的使用所创建的数据(比如音频数据、电话本等)等。此外，存储器1230可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。
输入单元1230可用于接收输入的数字或字符信息，以及产生与手机的用户设置以及功能控制有关的键信号输入。具体地，输入单元1230可包括触控面板1231以及其他输入设备1232。触控面板1231，也称为触摸屏，可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板1231上或在触控面板1231附近的操作)，并根据预先设定的程式驱动相应的连接装置。可选的，触控面板1231可包括触摸检测装置和触摸控制器两个部分。其中，触摸检测装置检测用户的触摸方位，并检测触摸操作带来的信号，将信号传送给触摸控制器；触摸控制器从触摸检测装置上接收触摸信息，并将它转换成触点坐标，再送给处理器1280，并能接收处理器1280发来的命令并加以执行。此外，可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板1231。除了触控面板1231，输入单元1230还可以包括其他输入设备1232。具体地，其他输入设备1232可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆等中的一种或多种。
显示单元1240可用于显示由用户输入的信息或提供给用户的信息以及手机的各种菜单。显示单元1240可包括显示面板1241，可选的，可以采用液晶显示器(英文全称：Liquid Crystal Display，英文简称：LCD)、有机发光二极管(英文全称：Organic Light-Emitting Diode,英文简称：OLED)等形式来配置显示面板1241。进一步的，触控面板1231可覆盖显示面板1241，当触控面板1231检测到在其上或附近的触摸操作后，传送给处理器1280以确定触摸事件的类型，随后处理器1280根据触摸事件的类型在显示面板1241上提供相应的视觉输出。虽然在图12中，触控面板1231与显示面板1241是作为两个独立的部件来实现手机的输入和输入功能，但是在某些实施例中，可以将触控面板1231与显示面板1241集成而实现手机的输入和输出功能。
手机还可包括至少一种传感器1230，比如光传感器、运动传感器以及其他传感器。具体地，光传感器可包括环境光传感器及接近传感器，其中，环境光传感器可根据环境光线的明暗来调节显示面板1241的亮度，接近传感器可在手机移动到耳边时，关闭显示面板1241和/或背光。作为运动传感器的一种，加速计传感器可检测各个方向上(一般为三轴)加速度的大小，静止时可检测出重力的大小及方向，可用于识别手机姿态的应用(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等；至于手机还可配置的陀螺仪、气压计、湿度计、温度计、红外线传感器等其他传感器，在此不再赘述。
音频电路1260、扬声器1261，传声器1262可提供用户与手机之间的音频接口。音频电路1260可将接收到的音频数据转换后的电信号，传输到扬声器1261，由扬声器1261转换为声音信号输出；另一方面，传声器1262将收集的声音信号转换为电信号，由音频电路1260接收后转换为音频数据，再将音频数据输出处理器1280处理后，经RF电路1210以发送给比如另一手机，或者将音频数据输出至存储器1230以便进一步处理。
Wi-Fi属于短距离无线传输技术，手机通过Wi-Fi模块1270可以帮助用户收发电子邮件、浏览网页和访问流式媒体等，它为用户提供了无线的宽带互联网访问。虽然图12示出了Wi-Fi模块1270，但是可以理解的是，其并不属于手机的必须构成，完全可以根据需要在不改变申请的本质的范围内而省略。
处理器1280是手机的控制中心，利用各种接口和线路连接整个手机的各个部分，通过运行或执行存储在存储器1230内的软件程序和/或模块，以及调用存储在存储器1230内的数据，执行手机的各种功能和处理数据，从而对手机进行整体监控。可选的，处理器1280可包括一个或多个处理单元；优选的，处理器1280可集成应用处理器和调制解调处理器，其中，应用处理器主要处理操作系统、用户界面和应用程序等，调制解调处理器主要处理无线通信。可以理解的是，上述调制解调处理器也可以不集成到处理器1280中。
手机还包括给各个部件供电的电源1290(比如电池)，电源可以通过电源管理系统与处理器1280逻辑相连，从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。
尽管未示出，手机还可以包括摄像头、蓝牙模块等，在此不再赘述。
在本申请实施例中，该手机所包括的处理器1280还具有控制执行以上由图2或图9所示的模型鲁棒性检测方法的流程图。
图13是本申请实施例提供的一种服务器结构示意图，该服务器1320可因配置或性能不同而产生比较大的差异，可以包括一个或一个以上中央处理器(英文全称：centralprocessing units，英文简称：CPU)1322(例如，一个或一个以上处理器)和存储器1332，一个或一个以上存储应用程序1342或数据1344的存储介质1330(例如一个或一个以上海量存储设备)。其中，存储器1332和存储介质1330可以是短暂存储或持久存储。存储在存储介质1330的程序可以包括一个或一个以上模块(图示没标出)，每个模块可以包括对服务器中的一系列指令操作。更进一步地，中央处理器1322可以设置为与存储介质1330通信，在服务器1320上执行存储介质1330中的一系列指令操作。
服务器1320还可以包括一个或一个以上电源1326，一个或一个以上有线或无线网络接口1350，一个或一个以上输入输出接口1358，和/或，一个或一个以上操作系统1341，例如Windows Server，Mac OS X，Unix,Linux，FreeBSD等等。
上述实施例中由服务器所执行的步骤可以基于该图13所示的服务器1320的结构。例如上述实施例中由图2或图9所示的服务器的步骤可以基于该图13所示的服务器结构。例如，所述处理器1322通过调用存储器1332中的指令，执行以下操作：
从预设的多个候选对抗图案中确定当前待添加的至少一个目标对抗图案；
将至少一个所述目标对抗图案导入当前待攻击的至少一个所述目标对象的有效范围内，采集得到至少一个目标对抗样本；
将至少一个所述目标对抗样本输入所述车辆感知模型，得到识别结果，所述识别结果用于控制生成所述第一搬运车的操作指令。
在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述的部分，可以参见其他实施例的相关描述。
所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的系统，装置和模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
在本申请实施例所提供的几个实施例中，应该理解到，所揭露的系统，装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述模块的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个模块或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或模块的间接耦合或通信连接，可以是电性，机械或其它的形式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的，作为模块显示的部件可以是或者也可以不是物理模块，即可以位于一个地方，或者也可以分布到多个网络模块上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外，在本申请实施例各个实施例中的各功能模块可以集成在一个处理模块中，也可以是各个模块单独物理存在，也可以两个或两个以上模块集成在一个模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。
在上述实施例中，可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时，可以全部或部分地以计算机程序产品的形式实现。
所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机计算机程序时，全部或部分地产生按照本申请实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中，或者从一个计算机可读存储介质向另一计算机可读存储介质传输，例如，所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存储的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质，(例如，软盘、硬盘、磁带)、光介质(例如，DVD)、或者半导体介质(例如固态硬盘Solid State Disk(SSD))等。
以上对本申请实施例所提供的技术方案进行了详细介绍，本申请实施例中应用了具体个例对本申请实施例的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本申请实施例的方法及其核心思想；同时，对于本领域的一般技术人员，依据本申请实施例的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本申请实施例的限制。
Claims (14)
1.一种模型鲁棒性检测方法，其特征在于，所述方法应用于模型鲁棒性检测系统，所述模型鲁棒性检测系统包括物流场景仿真平台、车辆感知模型和虚拟控制器，所述物流场景仿真平台包括第一搬运车、以及至少一个目标对象，所述第一搬运车在物流场景仿真平台的图像和点云数据通过端口传输给所述车辆感知模型，所述方法包括：
从预设的多个候选对抗图案中确定当前待添加的至少一个目标对抗图案；
将至少一个所述目标对抗图案导入当前待攻击的至少一个所述目标对象的有效范围内，采集得到至少一个目标对抗样本；
将至少一个所述目标对抗样本输入所述车辆感知模型，得到识别结果，所述识别结果用于控制生成所述第一搬运车的操作指令；
其中，所述目标对象包括场景导向车道线或场景倒货口；
所述物流场景仿真平台的显示界面包括第一区域和第二区域，所述第一区域显示有各所述候选对抗图案分别对应的功能图标，所述第二区域当前显示所述第一搬运车和至少一个所述目标对象；所述从预设的多个候选对抗图案中确定当前待添加的至少一个目标对抗图案，将至少一个所述目标对抗图案导入当前待攻击的至少一个目标对象的有效范围内，采集得到至少一个目标对抗样本，包括：
接收用户针对所述第一区域中第一功能图标的第一操作指令，所述第一操作指令指示为所述目标对象添加所述目标对抗图案，所述目标对抗图案为多个所述候选对抗图案中与所述第一功能图标对应的对抗图案；
响应于所述第一操作指令，根据预设的第一对应关系将所述目标对抗图案显示在所述目标对象的有效范围内，得到所述目标对抗样本，所述第一对应关系包括显示位置、目标对象、对象类型的对应关系；
所述物流场景仿真平台的显示界面中显示有与所述第一搬运车保持相对速度的虚拟投影设备；所述将至少一个所述目标对抗图案导入当前待攻击的至少一个目标对象的有效范围内，采集得到至少一个目标对抗样本，包括：
接收针对所述虚拟投影设备的投影指令，所述投影指令指示所述虚拟投影设备向所述目标对象的有效范围内投影所述目标对抗图案；
响应于所述投影指令，通过所述虚拟投影设备将所述目标对抗图案投影至所述目标对象的有效范围内，得到所述目标对抗样本。
2.根据权利要求1所述的方法，其特征在于，所述目标对象包括以下项中的至少一项：
在所述第一搬运车的安全距离内的第二搬运车；
在所述第一搬运车的第一人称视角范围内的非目标倒货口或非目标倒货口的倒货口标志；
在所述第一搬运车的第一人称视角范围内的目标倒货口或目标倒货口的倒货口标志；
在所述第一搬运车的第一人称视角范围内且在行驶方向上的静态物体，所述静态物体包括货物、第三搬运车以及障碍物中的至少一项；
或者，在所述第一搬运车行驶方向上的车道线。
3.根据权利要求1所述的方法，其特征在于，所述从预设的多个候选对抗图案中确定当前待添加的至少一个目标对抗图案，将至少一个所述目标对抗图案导入当前待攻击的至少一个目标对象的有效范围内，采集得到至少一个目标对抗样本，包括：
根据预设对抗脚本确定当前待攻击的至少一个所述目标对象；
根据所述预设对抗脚本从多个所述候选对抗图案中确定与至少一个所述目标对象对应的至少一个目标对抗图案；
在预设对抗脚本指示的目标时段内，将至少一个所述目标对抗图案导入至少一个所述目标对象的有效范围内，采集得到至少一个目标对抗样本。
4.根据权利要求1所述的方法，其特征在于，所述从预设的多个候选对抗图案中确定当前待添加的至少一个目标对抗图案之前，所述方法还包括：
根据预设的至少一种对抗样本生成算法生成至少一种初始对抗图案；
将所述初始对抗图案导入所述物流场景仿真平台对所述初始对抗图案的攻击效果进行检验，得到检验结果；
若所述检验结果为检验通过，则将所述初始对抗图案设为所述候选对抗图案。
5.根据权利要求1至4中任一项所述的方法，其特征在于，所述目标对象包括第二搬运车，与所述第二搬运车对应的所述目标对抗样本为第一对抗样本，所述第二搬运车在所述第一搬运车前方行驶，且所述第二搬运车与所述第一搬运车的行驶速度相同；所述将至少一个所述目标对抗样本输入所述车辆感知模型，得到识别结果，包括：
接收第一消息，所述第一消息指示所述第一搬运车向前加速行驶；
将所述第一对抗样本输入所述车辆感知模型，得到前方无车辆的识别结果。
6.根据权利要求1至4中任一项所述的方法，其特征在于，所述第一搬运车满足以下项之一：
当前处于忙碌状态；
运载的货物的级别高于预设级别；
运载的货物的目的地为特定目的地；
或者，预设时长内的运载任务数高于预设数值。
7.一种模型鲁棒性检测装置，其特征在于，所述模型鲁棒性检测装置包括物流场景仿真平台、车辆感知模型和虚拟控制器，所述物流场景仿真平台包括第一搬运车、以及至少一个目标对象，所述第一搬运车在物流场景仿真平台的图像和点云数据通过端口传输给所述车辆感知模型，所述装置包括：
处理模块，用于从预设的多个候选对抗图案中确定当前待添加的至少一个目标对抗图案；将至少一个所述目标对抗图案导入当前待攻击的至少一个所述目标对象的有效范围内，采集得到至少一个目标对抗样本；将至少一个所述目标对抗样本输入所述车辆感知模型，得到识别结果，所述识别结果用于控制生成所述第一搬运车的操作指令；
收发模块，用于将所述识别结果输入所述虚拟控制器；
其中，所述目标对象包括场景导向车道线或场景倒货口；
所述物流场景仿真平台的显示界面包括第一区域和第二区域，所述第一区域显示有各所述候选对抗图案分别对应的功能图标，所述第二区域当前显示所述第一搬运车和至少一个所述目标对象；所述处理模块在执行所述从预设的多个候选对抗图案中确定当前待添加的至少一个目标对抗图案，将至少一个所述目标对抗图案导入当前待攻击的至少一个目标对象的有效范围内，采集得到至少一个目标对抗样本步骤时，具体用于：
通过收发模块接收用户针对所述第一区域中第一功能图标的第一操作指令，所述第一操作指令指示为所述目标对象添加所述目标对抗图案，所述目标对抗图案为多个所述候选对抗图案中与所述第一功能图标对应的对抗图案；
响应于所述第一操作指令，根据预设的第一对应关系将所述目标对抗图案显示在所述目标对象的有效范围内，得到所述目标对抗样本，所述第一对应关系包括显示位置、目标对象、对象类型的对应关系；
所述物流场景仿真平台的显示界面中显示有与所述第一搬运车保持相对速度的虚拟投影设备；所述处理模块在执行所述将至少一个所述目标对抗图案导入当前待攻击的至少一个目标对象的有效范围内，采集得到至少一个目标对抗样本步骤时，具体用于：
通过所述收发模块接收针对所述虚拟投影设备的投影指令，所述投影指令指示所述虚拟投影设备向所述目标对象的有效范围内投影所述目标对抗图案；
响应于所述投影指令，通过所述虚拟投影设备将所述目标对抗图案投影至所述目标对象的有效范围内，得到所述目标对抗样本。
8.根据权利要求7所述的模型鲁棒性检测装置，其特征在于，所述目标对象包括以下项中的至少一项：
在所述第一搬运车的安全距离内的第二搬运车；
在所述第一搬运车的第一人称视角范围内的非目标倒货口或非目标倒货口的倒货口标志；
在所述第一搬运车的第一人称视角范围内的目标倒货口或目标倒货口的倒货口标志；
在所述第一搬运车的第一人称视角范围内且在行驶方向上的静态物体，所述静态物体包括货物、第三搬运车以及障碍物中的至少一项；
或者，在所述第一搬运车行驶方向上的车道线。
9.根据权利要求7所述的模型鲁棒性检测装置，其特征在于,所述处理模块在执行所述从预设的多个候选对抗图案中确定当前待添加的至少一个目标对抗图案，将至少一个所述目标对抗图案导入当前待攻击的至少一个目标对象的有效范围内，采集得到至少一个目标对抗样本步骤时，具体用于：
根据预设对抗脚本确定当前待攻击的至少一个所述目标对象；
根据所述预设对抗脚本从多个所述候选对抗图案中确定与至少一个所述目标对象对应的至少一个目标对抗图案；
在预设对抗脚本指示的目标时段内，将至少一个所述目标对抗图案导入至少一个所述目标对象的有效范围内，采集得到至少一个目标对抗样本。
10.根据权利要求7所述的模型鲁棒性检测装置，其特征在于,所述处理模块在执行所述从预设的多个候选对抗图案中确定当前待添加的至少一个目标对抗图案步骤之前，还用于：
根据预设的至少一种对抗样本生成算法生成至少一种初始对抗图案；
将所述初始对抗图案导入所述物流场景仿真平台对所述初始对抗图案的攻击效果进行检验，得到检验结果；
若所述检验结果为检验通过，则将所述初始对抗图案设为所述候选对抗图案。
11.根据权利要求7至10中任一项所述的模型鲁棒性检测装置，其特征在于,所述目标对象包括第二搬运车，与所述第二搬运车对应的所述目标对抗样本为第一对抗样本，所述第二搬运车在所述第一搬运车前方行驶，且所述第二搬运车与所述第一搬运车的行驶速度相同；所述处理模块在执行所述将至少一个所述目标对抗样本输入所述车辆感知模型，得到识别结果步骤时，具体用于：
通过所述收发模块接收第一消息，所述第一消息指示所述第一搬运车向前加速行驶；
将所述第一对抗样本输入所述车辆感知模型，得到前方无车辆的识别结果。
12.根据权利要求7至10中任一项所述的模型鲁棒性检测装置，其特征在于,所述第一搬运车满足以下项之一：
当前处于忙碌状态；
运载的货物的级别高于预设级别；
运载的货物的目的地为特定目的地；
或者，预设时长内的运载任务数高于预设数值。
13.一种计算机设备，其特征在于，所述计算机设备包括存储器及处理器，所述存储器上存储有计算机程序，所述处理器执行所述计算机程序时实现如权利要求1-6中任一项所述的方法。
14.一种计算机可读存储介质，其特征在于，所述存储介质存储有计算机程序，所述计算机程序包括程序指令，所述程序指令当被处理器执行时可实现如权利要求1-6中任一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202211231763.8A CN115909020B (zh) | 2022-09-30 | 2022-09-30 | 模型鲁棒性检测方法、相关装置及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202211231763.8A CN115909020B (zh) | 2022-09-30 | 2022-09-30 | 模型鲁棒性检测方法、相关装置及存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN115909020A CN115909020A (zh) | 2023-04-04 |
| CN115909020B true CN115909020B (zh) | 2024-01-09 |
Family
ID=86492660
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202211231763.8A Active CN115909020B (zh) | 2022-09-30 | 2022-09-30 | 模型鲁棒性检测方法、相关装置及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN115909020B (zh) |
Citations (17)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110175611A (zh) * | 2019-05-24 | 2019-08-27 | 浙江工业大学 | 面向车牌识别系统黑盒物理攻击模型的防御方法及装置 |
| CN111340214A (zh) * | 2020-02-21 | 2020-06-26 | 腾讯科技（深圳）有限公司 | 对抗攻击模型的训练方法及装置 |
| CN111475797A (zh) * | 2020-03-26 | 2020-07-31 | 深圳先进技术研究院 | 一种对抗图像生成方法、装置、设备以及可读存储介质 |
| WO2020233564A1 (zh) * | 2019-05-21 | 2020-11-26 | 华为技术有限公司 | 一种对抗样本的检测方法及电子设备 |
| CN112541404A (zh) * | 2020-11-22 | 2021-03-23 | 同济大学 | 一种面向交通信息感知的物理攻击对抗样本生成方法 |
| CN113326786A (zh) * | 2021-06-01 | 2021-08-31 | 百度在线网络技术（北京）有限公司 | 数据处理方法、装置、设备、车辆和存储介质 |
| CN113361604A (zh) * | 2021-06-03 | 2021-09-07 | 浙江工业大学 | 一种面向目标检测的物理攻击对抗补丁的生成方法及系统 |
| WO2021206761A1 (en) * | 2020-04-09 | 2021-10-14 | Hrl Laboratories, Llc | A deep reinforcement learning method for generation of environmental features for vulnerability analysis and improved performance of computer vision systems |
| WO2022027304A1 (zh) * | 2020-08-05 | 2022-02-10 | 华为技术有限公司 | 一种自动驾驶车辆的测试方法及装置 |
| CN114387476A (zh) * | 2022-01-17 | 2022-04-22 | 湖南大学 | 一种提高对抗样本在防御机制上迁移性的方法 |
| CN114419346A (zh) * | 2021-12-31 | 2022-04-29 | 北京瑞莱智慧科技有限公司 | 一种模型的鲁棒性检测方法、装置、设备及介质 |
| CN114757351A (zh) * | 2022-04-24 | 2022-07-15 | 北京理工大学 | 一种深度强化学习模型对抗攻击的防御方法 |
| CN114997393A (zh) * | 2021-03-01 | 2022-09-02 | 罗伯特·博世有限公司 | 利用空间表示学习和对抗生成的对可移动对象的功能测试 |
| CN115081643A (zh) * | 2022-07-20 | 2022-09-20 | 北京瑞莱智慧科技有限公司 | 对抗样本生成方法、相关装置及存储介质 |
| CN115471495A (zh) * | 2022-09-30 | 2022-12-13 | 北京瑞莱智慧科技有限公司 | 模型鲁棒性检测方法、相关装置及存储介质 |
| CN115526055A (zh) * | 2022-09-30 | 2022-12-27 | 北京瑞莱智慧科技有限公司 | 模型鲁棒性检测方法、相关装置及存储介质 |
| CN115588131A (zh) * | 2022-09-30 | 2023-01-10 | 北京瑞莱智慧科技有限公司 | 模型鲁棒性检测方法、相关装置及存储介质 |
Family Cites Families (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109902709B (zh) * | 2019-01-07 | 2020-12-08 | 浙江大学 | 一种基于对抗学习的工业控制系统恶意样本生成方法 |
| CN110193198B (zh) * | 2019-05-23 | 2023-02-10 | 腾讯科技（深圳）有限公司 | 对象跳跃控制方法、装置、计算机设备及存储介质 |
| US11163985B2 (en) * | 2020-01-24 | 2021-11-02 | Visa International Service Association | Evaluating the security of a facial recognition system using light projections |
| US20220289253A1 (en) * | 2022-05-25 | 2022-09-15 | Baidu Usa Llc | Method for evaluating autonomous driving system, apparatus and storage medium |
-
2022
- 2022-09-30 CN CN202211231763.8A patent/CN115909020B/zh active Active
Patent Citations (18)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2020233564A1 (zh) * | 2019-05-21 | 2020-11-26 | 华为技术有限公司 | 一种对抗样本的检测方法及电子设备 |
| CN110175611A (zh) * | 2019-05-24 | 2019-08-27 | 浙江工业大学 | 面向车牌识别系统黑盒物理攻击模型的防御方法及装置 |
| CN111340214A (zh) * | 2020-02-21 | 2020-06-26 | 腾讯科技（深圳）有限公司 | 对抗攻击模型的训练方法及装置 |
| WO2021164334A1 (zh) * | 2020-02-21 | 2021-08-26 | 腾讯科技（深圳）有限公司 | 对抗攻击模型的训练方法及装置、对抗图像的产生方法及装置、电子设备及存储介质 |
| CN111475797A (zh) * | 2020-03-26 | 2020-07-31 | 深圳先进技术研究院 | 一种对抗图像生成方法、装置、设备以及可读存储介质 |
| WO2021206761A1 (en) * | 2020-04-09 | 2021-10-14 | Hrl Laboratories, Llc | A deep reinforcement learning method for generation of environmental features for vulnerability analysis and improved performance of computer vision systems |
| WO2022027304A1 (zh) * | 2020-08-05 | 2022-02-10 | 华为技术有限公司 | 一种自动驾驶车辆的测试方法及装置 |
| CN112541404A (zh) * | 2020-11-22 | 2021-03-23 | 同济大学 | 一种面向交通信息感知的物理攻击对抗样本生成方法 |
| CN114997393A (zh) * | 2021-03-01 | 2022-09-02 | 罗伯特·博世有限公司 | 利用空间表示学习和对抗生成的对可移动对象的功能测试 |
| CN113326786A (zh) * | 2021-06-01 | 2021-08-31 | 百度在线网络技术（北京）有限公司 | 数据处理方法、装置、设备、车辆和存储介质 |
| CN113361604A (zh) * | 2021-06-03 | 2021-09-07 | 浙江工业大学 | 一种面向目标检测的物理攻击对抗补丁的生成方法及系统 |
| CN114419346A (zh) * | 2021-12-31 | 2022-04-29 | 北京瑞莱智慧科技有限公司 | 一种模型的鲁棒性检测方法、装置、设备及介质 |
| CN114387476A (zh) * | 2022-01-17 | 2022-04-22 | 湖南大学 | 一种提高对抗样本在防御机制上迁移性的方法 |
| CN114757351A (zh) * | 2022-04-24 | 2022-07-15 | 北京理工大学 | 一种深度强化学习模型对抗攻击的防御方法 |
| CN115081643A (zh) * | 2022-07-20 | 2022-09-20 | 北京瑞莱智慧科技有限公司 | 对抗样本生成方法、相关装置及存储介质 |
| CN115471495A (zh) * | 2022-09-30 | 2022-12-13 | 北京瑞莱智慧科技有限公司 | 模型鲁棒性检测方法、相关装置及存储介质 |
| CN115526055A (zh) * | 2022-09-30 | 2022-12-27 | 北京瑞莱智慧科技有限公司 | 模型鲁棒性检测方法、相关装置及存储介质 |
| CN115588131A (zh) * | 2022-09-30 | 2023-01-10 | 北京瑞莱智慧科技有限公司 | 模型鲁棒性检测方法、相关装置及存储介质 |
Non-Patent Citations (4)
| Title |
|---|
| Towards Robustifying Image Classifiers against the Perils of Adversarial Attacks on Artificial Intelligence Systems;Theodora A 等;Sensors;第22卷(第18期);6905-6905 * |
| 人工智能对抗环境下的模型鲁棒性研究综述;王科迪;易平;;信息安全学报(第03期);18-27 * |
| 针对深度强化学习导航的物理对抗攻击方法;桓琦 等;信息安全研究;第8卷(第3期);212-222 * |
| 面向智能驾驶视觉感知的对抗样本攻击与防御方法综述;杨弋鋆;邵文泽;王力谦;葛琦;鲍秉坤;邓海松;李海波;;南京信息工程大学学报(自然科学版)(第06期);31-39 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN115909020A (zh) | 2023-04-04 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US20210019627A1 (en) | Target tracking method and apparatus, medium, and device | |
| CN110704661B (zh) | 一种图像分类方法和装置 | |
| CN115588131B (zh) | 模型鲁棒性检测方法、相关装置及存储介质 | |
| CN109325978A (zh) | 增强现实显示的方法、姿态信息的确定方法及装置 | |
| CN112802111B (zh) | 一种物体模型构建方法及装置 | |
| US11755644B2 (en) | Video query method, apparatus, and device, and storage medium | |
| CN108151716A (zh) | 飞行装置测绘作业区域规划方法、装置和终端 | |
| CN116310745B (zh) | 图像处理方法、数据处理方法、相关装置及存储介质 | |
| CN115022098B (zh) | 人工智能安全靶场内容推荐方法、装置及存储介质 | |
| CN115471495B (zh) | 模型鲁棒性检测方法、相关装置及存储介质 | |
| CN115526055B (zh) | 模型鲁棒性检测方法、相关装置及存储介质 | |
| CN114282587A (zh) | 数据处理方法、装置、计算机设备及存储介质 | |
| CN115909020B (zh) | 模型鲁棒性检测方法、相关装置及存储介质 | |
| CN115239941B (zh) | 对抗图像生成方法、相关装置及存储介质 | |
| CN115081643B (zh) | 对抗样本生成方法、相关装置及存储介质 | |
| CN116778306A (zh) | 伪造对象检测方法、相关装置及存储介质 | |
| CN116071614A (zh) | 样本数据处理方法、相关设备及存储介质 | |
| CN110750193B (zh) | 一种基于人工智能的场景拓扑确定方法和装置 | |
| CN110089076A (zh) | 实现信息互动的方法和装置 | |
| CN115984792B (zh) | 一种对抗测试方法、系统及存储介质 | |
| CN116167274A (zh) | 仿真作战攻防训练方法、相关装置及存储介质 | |
| CN111681255B (zh) | 一种对象识别方法和相关装置 | |
| CN115909186B (zh) | 图像信息识别方法、装置、计算机设备及存储介质 | |
| CN115376192B (zh) | 用户异常行为确定方法、装置、计算机设备及存储介质 | |
| CN117853859A (zh) | 图像处理方法、相关装置及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |