CN110723152B - 一种保障自动驾驶安全的人工智能检测方法、装置、设备或存储介质 - Google Patents
一种保障自动驾驶安全的人工智能检测方法、装置、设备或存储介质 Download PDFInfo
- Publication number
- CN110723152B CN110723152B CN201911014144.1A CN201911014144A CN110723152B CN 110723152 B CN110723152 B CN 110723152B CN 201911014144 A CN201911014144 A CN 201911014144A CN 110723152 B CN110723152 B CN 110723152B
- Authority
- CN
- China
- Prior art keywords
- behavior
- behavior data
- driving
- time
- real
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 52
- 238000013473 artificial intelligence Methods 0.000 title claims abstract description 34
- 238000000034 method Methods 0.000 claims abstract description 39
- 230000002159 abnormal effect Effects 0.000 claims abstract description 21
- 238000004891 communication Methods 0.000 claims abstract description 16
- 238000005259 measurement Methods 0.000 claims description 42
- 230000003542 behavioural effect Effects 0.000 claims description 17
- 238000004590 computer program Methods 0.000 claims description 13
- 230000001133 acceleration Effects 0.000 claims description 12
- 238000004364 calculation method Methods 0.000 claims description 8
- 238000012360 testing method Methods 0.000 claims description 7
- 238000012935 Averaging Methods 0.000 claims description 6
- 238000010998 test method Methods 0.000 claims 1
- 230000006399 behavior Effects 0.000 abstract description 209
- 238000004422 calculation algorithm Methods 0.000 abstract description 17
- 230000008569 process Effects 0.000 description 13
- 238000005516 engineering process Methods 0.000 description 9
- 238000010586 diagram Methods 0.000 description 7
- 238000012549 training Methods 0.000 description 6
- 230000015654 memory Effects 0.000 description 5
- 238000011160 research Methods 0.000 description 5
- 206010000117 Abnormal behaviour Diseases 0.000 description 4
- 238000013528 artificial neural network Methods 0.000 description 4
- 230000007123 defense Effects 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 238000013135 deep learning Methods 0.000 description 3
- 238000011161 development Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000006855 networking Effects 0.000 description 2
- 239000000047 product Substances 0.000 description 2
- 230000005856 abnormality Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000007667 floating Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 230000006403 short-term memory Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
- B60W50/0097—Predicting future conditions
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
- B60W2050/0062—Adapting control system settings
- B60W2050/0075—Automatic parameter input, automatic initialising or calibrating means
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2556/00—Input parameters relating to data
- B60W2556/10—Historical data
Landscapes
- Engineering & Computer Science (AREA)
- Automation & Control Theory (AREA)
- Human Computer Interaction (AREA)
- Transportation (AREA)
- Mechanical Engineering (AREA)
- Traffic Control Systems (AREA)
Abstract
本发明涉及人工智能与智能车辆通信及其车辆安全技术领域，公开了一种保障自动驾驶安全的人工智能检测方法、装置、设备以及存储介质。通过本发明创造，提供了一种相比较于LSTM网络具有更低误报率、更快和更低硬件资源需求的且能够实现车辆驾驶行为异常检测的新人工智能检测方法，即采用了与现有技术不同的角度来考虑自动驾驶员的行为模型，具体是通过部署基于经验的智能设备来收集和管理自动驾驶员的行为经验，然后利用三角均值算法来对这些行为经验进行重复使用，进而通过使用自动驾驶员的行为经验，能使得对自动驾驶员预期的行为进行更快的推理和预测，适用于很多像自动驾驶这样对时间要求比较高的任务，可有效保障自动驾驶安全。
Description
技术领域
本发明属于人工智能与智能车辆通信及其车辆安全技术领域，具体涉及一种保障自动驾驶安全的人工智能检测方法、装置、设备以及存储介质。
背景技术
智能汽车，作为计算机技术和物联网技术相融合的一个产物，能够实现汽车的高效运行和丰富多样的综合信息服务；有相关报告指出，全球范围内使用汽车的用户已经达到十亿且在2035年之前有望达到二十亿；因此对于车联网中相关业务信息是否能满足相应的安全性需求和可靠性需求，对于车联网的普及甚至是发展是至关重要的问题。车联网的核心网络还是传统的网络，只是相较于传统的网络具有通信环境更加复杂，连接节点数庞大等特点。相比之下车联网相较于其他传统网络来说其节点更易遭受攻击，且造成的影响不仅局限于虚拟化的信息资料，还会影响到现实中的人员伤亡和经济损失，严重甚至会涉及到一个国家的安全。
在近几年，汽车的安全问题频繁出现，曝光的汽车安全事件主要分为两类：一是遭受外部入侵攻击，使驾驶员失去车辆控制权，导致用户的安全遭到威胁。2015年，克莱斯勒的Jeep车型被国外的安全专家入侵，利用Linux系统漏洞，远程控制汽车的多媒体系统，进而攻击V850控制器，并对其固件进行修改，获取远程向CAN(Control Area Network)总线发送指令的权限，达到远程控制动力系统和刹车系统的目的，可在用户不知情的情况下降低汽车的行驶速度、关闭汽车引擎、突然制动或者让制动失灵。2016年，同款Jeep车型在被物理接触的情况下，被攻击者通过OBD(On-Board Unit)接口注入指令，控制车辆的动力系统,可操控方向盘和刹车系统，严重威胁驾驶员人身安全。二是遭受内部系统决策失误，这类事件主要发生在自动驾驶网联汽车上，由于道路交通复杂，行人行为预测困难，导致自动驾驶网联汽车无法准确判断交通信息，从而发生汽车安全事故。如2016年2月，日产LEAF汽车API遭泄露，使得黑客可远程控制对汽车进行相应的控制；2017年7月28日，腾讯科恩实验室通过远程无接触式破解Tesla，可以在驻车状态和行驶状态下远程控制。实现了以“远程无物理接触”的方式侵入特斯拉Model X，获得了最高权限。因此，越来越多的人开始关注于汽车信息安全的话题；同时，各国政府和其主要汽车制造商也逐渐愈加关注车联网的信息安全问题。
为了确保汽车的安全性，各式各样的互联网安全技术被部署到汽车上。传统互联网中第一道防御体系通常是防火墙，但是由于其是静态式的保护方式使得其无法适应智能汽车这一复杂多变的环境以及各式各样的攻击手段。而其他方式的网络安全方式，例如：数字签名、数字证书以及对数据进行相应的加密；尽管这些方式能够在某些互联网安全防护方面实现较好的安全防御效果，但是我们注意到由于车内CAN总线拥有独有的特征，使得传统的用于互联网环境的安全技术不能立刻运用到汽车上。入侵检测技术是这些信息安全技术当中的一个关键技术，也面临着上诉所阐述的问题。在近年来的研究中，很多都是通过基于规则或基于统计的方法来进行实时的入侵检测，然而将这些入侵检测系统部署在汽车上是难以实现的。
综上所述，现有技术存在的问题是：
(1)汽车上设备有限的计算资源和存储空间：很多IDS(IDS,Intrusion DetectionSystem)在进行对异常行为进行检测的时候，需要消耗系统大量的计算资源和存储空间，如基于主机的入侵检测系统(HIDS,Host Intrusion Detection System)，在进行入侵检测的时候需要调用大量的系统资源，也就使得HIDS在运行的时候会导致系统资源的紧张；
(2)入侵检测系统的通用性问题：很多IDS的实现是针对特殊的系统或是在特定的环境下才能进行实现，因此现有研究中很多入侵检测系统不能直接应用于汽车；
(3)IDS会产生较高的误报率：由于现有研究中很多入侵检测系统都是通过基于特定规则或基于统计的方法来进行实现的，这些方法通过将用户的日常行为进行模型化的方式来实现异常检测，这种模型化的方式容易导致网络在面对出现特殊情况而非异常情况的时候会将对应的行为判定为异常行为，从而导致IDS容易产生较高的误报率。
解决上述问题所存在的技术需求是：目前针对智能汽车方面的驾驶行为分析方面缺乏相关的研究，根据近年来各国所报道的由汽车引起的车辆安全事故频频发生，可以知道随着互联网平台的不断发展和驾驶环境条件的多变，攻击者可以随机的选取相关的入侵时机和方法来对汽车发起相应的攻击。所以在设计的异常行为检测系统中，不仅需要能够适应汽车在通信方面的特点，如动态拓扑性较强、实时性要求较高等特点，还要能达到较低的通信负载和较小的存储空间。与此同时，还要在设计汽车的入侵检测系统时所应该实现的是在面对已知类型的攻击，系统能够实现较高的报警率；而在面对未知攻击和特殊情况，系统能够通过相应的特征提取和自适应更新过程从而实现较低的误报率。
近年来，信息技术的飞速发展和车辆自主控制以及高级驾驶辅助系统技术的不断进步，使得现有辅助人类驾驶控制行为方面取得了很多显著的研究成果。这些技术上的提高使得人工智能软件能够嵌入汽车并且通过学习驾驶行为过程中行为数据来学习司机的驾驶行为和相关的行为特征。更重要的是，司机的驾驶行为指纹能够很好的促进汽车与驾驶员的交互，并很好地使得汽车能够被更加安全和高效的控制。例如：较早的预测司机的意图行为，更加精确的降低由于司机潜在的不安全行为所带来的影响并避免事故的发生。解决了传统IDS所存在的缺陷问题——即只能针对特定的威胁模型进行高效的检测；同时提高对车载系统未知攻击的高效检测。
在这个所提出的方案中，基于概念框架提出了一种基于经验的方法来对驾驶员的驾驶行为去提取相应的指纹，可称之为基于经验的智能设备(Experience-OrientedIntelligent Things,EOIT)，它能够使得物联网(Internet of Things,IoT)从过去的经验中提取出相应的知识或测量值。
驾驶员行为建模是一个具有广泛性和挑战性的研究课题。这个课题主要涉及纵向(驾驶踏板)和横向(驾驶转向)方面的控制建模。在驾驶员行为的模型当中，踏板位置和汽车转向角是一个复杂虚拟系统的输出；它涉及到人的感知、推理、决策和身体运动的过程。这些因素混合在一起就使得对驾驶员的行为建模成为一个十分困难的任务。
在很多的模型方案中，许多研究者都通过利用隐马尔可夫模型、贝叶斯网络或者是最优化理论等方法来对驾驶员行为进行相应的模型建立过程。然而由于驾驶员行为模型建立的过程是一个关于时间序列异常预测方面的问题，所以通过手工的方式来对相应的特征进行提取也许不一定能够得到最优的结果。因此，基于深度学习的模型建立的方式，更确切的来说，基于长短期记忆网络方法(LSTM，Long Short-Term Memory networks)所构建的驾驶员行为模型，能够很好的解决这一问题，且这一方法越来越受到研究者的关注。长短期记忆网络能够将以前的信息连接到当前的任务，从而使得其能够呈现出与时间序列相联系的时间动态行为并使得其能够很好的对基于时间序列的数据进行很好的预测和处理。
发明内容
为了解决现有车辆在进行异常行为检测时所存在的硬件资源需求大、耗时长和误报率高的问题，本发明目的在于提供一种区别于现有基于LSTM网络的且能够实现车辆驾驶行为异常检测的新人工智能检测方法、装置、设备以及存储介质，以便保障自动驾驶安全。
本发明所采用的技术方案为：
一种保障自动驾驶安全的人工智能检测方法，包括如下步骤：
S101.读取反映车辆正常驾驶的行为数据样本集{Xj,j＝1,...,M}，其中，M为所述行为数据样本集的样本总数，Xj为反映车辆正常驾驶的第j个行为数据样本且包含有K项不同维度的驾驶行为测量值，K为不小于3的自然数；
S102.获取当前时刻的实时行为数据Xt，其中，Xt包含有K项不同维度的且与所述行为数据样本中各项驾驶行为测量值一一对应的实时驾驶行为测量值；
S103.按照如下公式计算所述行为数据样本集中各个行为数据样本Xj至当前时刻的实时行为数据Xt之间的距离dE(Xt,Xj)：
式中，attrk(Xt)表示实时行为数据Xt中的第k项实时驾驶行为测量值，attrk(Xj)表示行为数据样本Xj中的第k项驾驶行为测量值；
S104.根据所述距离dE(Xt,Xj)，在所述行为数据样本集中找到三个距离最短的对应行为数据样本，然后对这三个行为数据样本的驾驶行为测量值求平均，将得到的各项平均值作为下一刻的预测行为数据Yt+1；
S105.在获取下一刻的实时行为数据Xt+1后，根据该实时行为数据Xt+1和所述预测行为数据Yt+1，判断下一刻的车辆驾驶行为是否出现异常，其中，Xt+1也包含有K项不同维度的且与所述行为数据样本中各项驾驶行为测量值一一对应的实时驾驶行为测量值。
具体的，基于经验的智能设备采集获取所述行为数据样本集中的各个行为数据样本Xj、当前时刻的实时行为数据Xt和下一刻的实时行为数据Xt+1。
具体的，所述驾驶行为测量值包括三轴加速度器的X轴加速度测量值、Y轴加速度测量值和Z轴加速度测量值。
具体的，所述行为数据样本集的样本总数M介于300～1000之间。
具体的，在所述步骤S105中，按照如下方式判断下一刻的车辆驾驶行为是否出现异常：
S1051.按照如下公式计算所述预测行为数据Yt+1至所述实时行为数据Xt+1之间的距离dE(Xt+1,Yt+1)：
式中，attrk(Xt+1)表示实时行为数据Xt+1中的第k项实时驾驶行为测量值，attrk(Yt+1)表示预测行为数据Yt+1中的第k项驾驶行为预测值；
S1052.若所述距离dE(Xt+1,Yt+1)超过预设阈值，则判定下一刻的车辆驾驶行为出现异常，否则判定正常。
进一步优化的，在所述步骤S1052中，若判定车辆驾驶行为正常，则将所述实时行为数据Xt+1作为一次反映车辆正常驾驶的行为数据样本添加到所述行为数据样本集中。
详细优化的，若所述行为数据样本集的样本总数在添加后超过1000，则在之后时刻通过所述步骤S101～S105来检测车辆驾驶行为是否异常时，随机选择300～1000个行为数据样本构成所述行为数据样本集。
本发明所采用的另一种技术方案为：
一种保障自动驾驶安全的人工智能检测装置，包括样本集读取模块、实时数据获取模块、距离计算模块、行为数据预测模块和行为异常判断模块；
所述样本集读取模块，用于读取反映车辆正常驾驶的行为数据样本集{Xj,j＝1,...,M}，其中，M为所述行为数据样本集的样本总数，Xj为反映车辆正常驾驶的第j个行为数据样本且包含有K项不同维度的驾驶行为测量值，K为不小于3的自然数；
所述实时数据获取模块，用于获取当前时刻的实时行为数据Xt以及下一刻的实时行为数据Xt+1，其中，Xt和Xt+1分别包含有K项不同维度的且与所述行为数据样本中各项驾驶行为测量值一一对应的实时驾驶行为测量值；
所述距离计算模块，分别通信连接所述样本集读取模块和所述实时数据获取模块，用于按照如下公式计算所述行为数据样本集中各个行为数据样本Xj至当前时刻的实时行为数据Xt之间的距离dE(Xt,Xj)：
式中，attrk(Xt)表示实时行为数据Xt中的第k项实时驾驶行为测量值，attrk(Xj)表示行为数据样本Xj中的第k项驾驶行为测量值；
所述行为数据预测模块，通信连接所述距离计算模块，用于根据所述距离dE(Xt,Xj)，在所述行为数据样本集中找到三个距离最短的对应行为数据样本，然后对这三个行为数据样本的驾驶行为测量值求平均，将得到的各项平均值作为下一刻的预测行为数据Yt+1；
所述行为异常判断模块，分别通信连接所述行为数据预测模块和所述实时数据获取模块，用于在获取下一刻的实时行为数据Xt+1后，根据该实时行为数据Xt+1和所述预测行为数据Yt+1，判断下一刻的车辆驾驶行为是否出现异常。
本发明所采用的另一种技术方案为：
一种保障自动驾驶安全的人工智能检测设备，包括通信相连的存储器和处理器，其中，所述存储器用于存储计算机程序，所述处理器用于执行所述计算机程序实现如前所述保障自动驾驶安全的人工智能检测方法步骤。
本发明所采用的另一种技术方案为：
一种存储介质，所述存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如前所述保障自动驾驶安全的人工智能检测方法步骤。
本发明的有益效果为：
(1)本发明创造提供了一种相比较于LSTM网络具有更低误报率、更快和更低硬件资源需求的且能够实现车辆驾驶行为异常检测的新人工智能检测方法、装置、设备以及存储介质，即采用了与现有技术不同的角度来考虑自动驾驶员的行为模型，具体是通过部署基于经验的智能设备来收集和管理自动驾驶员的行为经验，然后利用三角均值算法来对这些行为经验进行重复使用，使得与现有技术只提出的关心车辆某些特征动作不同(如只关注车辆的转向和踏板行为)，进而通过使用自动驾驶员的行为经验，能使得对自动驾驶员预期的行为进行更快的推理和预测，适用于很多像自动驾驶这样对时间要求比较高的任务，可有效保障自动驾驶安全；
(2)可使得所提出的模型能够通过不断添加新的经验和实时高精度的实时信息而使得模型不断进行自适应的更新，这是很多目前仅基于深度学习的模型所不能做到的。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1是本发明提供的人工智能检测方法的流程示意图。
图2是本发明提供的LSTM网络在训练过程中的收敛开销示例图。
图3是本发明提供的LSTM网络与三角均值算法的预测结果对比示例图。
图4是本发明提供的LSTM网络与三角均值算法在三轴加速度器上三个坐标轴的预测误差对比示例图。
图5是本发明提供的LSTM网络与三角均值算法在总时间上和总误差上的对比示例图。
图6是本发明提供的人工智能检测装置的结构示意图。
图7是本发明提供的人工智能检测设备的结构示意图。
具体实施方式
下面结合附图及具体实施例对本发明作进一步阐述。在此需要说明的是，对于这些实施例方式的说明用于帮助理解本发明，但并不构成对本发明的限定。本文公开的特定结构和功能细节仅用于描述本发明的示例实施例。然而，可用很多备选的形式来体现本发明，并且不应当理解为本发明限制在本文阐述的实施例中。
应当理解，在本文描述的一些流程中，包含了按照特定顺序出现的多个操作，但是这些操作可以不按照其在本文中出现的顺序来执行或并行执行，操作的序号如S101、S102等，仅仅是用于区分开各个不同的操作，序号本身不代表任何的执行顺序。另外，这些流程可以包括更多或更少的操作，并且这些操作同样按顺序执行或并行执行。
应当理解，尽管本文可以使用术语第一、第二等等来描述各种单元，这些单元不应当受到这些术语的限制。这些术语仅用于区分一个单元和另一个单元。例如可以将第一单元称作第二单元,并且类似地可以将第二单元称作第一单元，同时不脱离本发明的示例实施例的范围。
应当理解，本文中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，单独存在B，同时存在A和B三种情况，本文中术语“/和”是描述另一种关联对象关系，表示可以存在两种关系，例如，A/和B，可以表示：单独存在A，单独存在A和B两种情况，另外，本文中字符“/”，一般表示前后关联对象是一种“或”关系。
应当理解，当将单元称作与另一个单元“连接”、“相连”或“耦合”时，它可以与另一个单元直相连接或耦合，或中间单元可以存在。相対地，当将单元称作与另一个单元“直接相连”或“直接耦合”时，不存在中间单元。应当以类似方式来解释用于描述单元之间关系的其他单词(例如，“在……之间”对“直接在……之间”,“相邻”对“直接相邻”等等)。
本文使用的术语仅用于描述特定实施例，并不意在限制本发明的示例实施例。如本文所使用的，单数形式“一”、“一个”以及“该”意在包括复数形式，除非上下文明确指示相反意思。还应当理解术语“包括”、“包括了”、“包含”和/或“包含了”在本文中使用时,指定所声明的特征、整数、步骤、操作、单元和/或组件的存在性,并且不排除一个或多个其他特征、数量、步骤、操作、单元、组件和/或他们的组合存在性或增加。
还应当注意到在一些备选实施例中，所出现的功能/动作可能与附图出现的顺序不同。例如,取决于所涉及的功能/动作,实际上可以实质上并发地执行,或者有时可以以相反的顺序来执行连续示出的两个图。
在下面的描述中提供了特定的细节,以便于对示例实施例的完全理解。然而,本领域普通技术人员应当理解可以在没有这些特定细节的情况下实现示例实施例。例如可以在框图中示出系统，以避免用不必要的细节来使得示例不清楚。在其他实例中，可以不以不必要的细节来示出众所周知的过程、结构和技术，以避免使得示例实施例不清楚。
实施例一
如图1～5所示，本实施例提供的所述保障自动驾驶安全的人工智能检测方法，可以但不限于包括如下步骤。
S101.读取反映车辆正常驾驶的行为数据样本集{Xj,j＝1,...,M}，其中，M为所述行为数据样本集的样本总数，Xj为反映车辆正常驾驶的第j个行为数据样本且包含有K项不同维度的驾驶行为测量值，K为不小于3的自然数。
在所述步骤S101中，所述行为数据样本集为在自动驾驶员(即实现车辆自动驾驶的虚拟驾驶员，非自然人)正常驾驶时所采集的且包含多个行为数据样本的集合，可以提前存储在本地存储单元中，其中，可以但不限于基于经验的智能设备来采集获取所述行为数据样本集中的各个行为数据样本Xj，即可基于现有经验的方法来对自动驾驶员的驾驶行为去提取相应的驾驶行为指纹(即若干项不同维度的驾驶行为测量值)，使得物联网能够从过去的经验中提取出相应的知识。所述智能设备可举例为安装有某个应用程序的行车电脑，该应用程序能够每5秒读取一次车载三轴加速度器的测量数据，以此来收集并绘制自动驾驶员的踏板和车辆转向操作图的驾驶行为数据，因此所述驾驶行为测量值包括但不限于三轴加速度器的X轴加速度测量值、Y轴加速度测量值和Z轴加速度测量值等。此外，所述行为数据样本集的样本总数M优选介于300～1000之间，既可以保证有足量的样本数，又可确保预测过程快速完成。
S102.获取当前时刻的实时行为数据Xt，其中，Xt包含有K项不同维度的且与所述行为数据样本中各项驾驶行为测量值一一对应的实时驾驶行为测量值。
在所述步骤S102中，所述实时行为数据Xt以及后续下一刻的实时行为数据Xt+1也可以但不限于基于经验的智能设备来采集获取，其中，所述实时驾驶行为测量值也包括但不限于三轴加速度器的X轴加速度测量值、Y轴加速度测量值和Z轴加速度测量值等。
S103.按照如下公式计算所述行为数据样本集中各个行为数据样本Xj至当前时刻的实时行为数据Xt之间的距离dE(Xt,Xj)：
式中，attrk(Xt)表示实时行为数据Xt中的第k项实时驾驶行为测量值，attrk(Xj)表示行为数据样本Xj中的第k项驾驶行为测量值。
S104.根据所述距离dE(Xt,Xj)，在所述行为数据样本集中找到三个距离最短的对应行为数据样本，然后对这三个行为数据样本的驾驶行为测量值求平均，将得到的各项平均值作为下一刻的预测行为数据Yt+1。
在所述步骤S103～S104中，得到所述预测行为数据Yt+1的方法(即对驾驶员的下一组行为数据进行预测的方法)可简称为“三角均值算法”(Triangle Mean Algorithm)。为了论证该三角均值算法优于现有的全连接神经网络或循环神经网络(更确切说是LSTM网络)，示例性的，仍先通过安装有所述应用程序(该应用程序能够每5秒读取一次车载三轴加速度器的测量数据)的行车电脑来收集560组的数据集作为相关的实验数据，然后通过给定一系列的数据(即在时间t时所收集的且来自车载三轴加速度器上三个轴的浮点数据)，来预测下一组的数据集(即在时间t+1时所收集的且来自车载三轴加速度器上三个轴的计数值)。由于这是一个时间序列的预测问题，使用全连接神经网络是无法完成该任务的，但是可使用具有256个单元的LSTM网络来进行预测，即将所收集的500个数据样本(每组数据即为一个数据样本)导入LSTM网络模型，并进行30000次的迭代来完成对应网络的训练过程，如图2所示，展现出了LSTM网络模型在训练过程中其收敛程度开销的变化过程。在使用500组数据作为相应的训练样本之后，剩余的其他60组数据将用于作为全连接神经网络、LSTM网络和三角均值算法(前面所使用的500组数据将作为所述行为数据样本集，其中，M为500)的测试样本，然后通过各自的预测方法进行测试，得到如图3～5所示的测试结果。
由于全连接神经网络在测试过程中不能完成相应的任务，即训练过程不能收敛，所以图3中所展示的结果仅涉及后面所提及的两种方法。在图3中，左上图显示了X轴与Y轴的实际测量数据(如三角形所示)和基于LSTM网络的预测值(如圆点所示)；右上图显示了X轴与Y轴的实际测量数据(如三角形所示)和基于三角均值算法的预测值(如圆点所示)；左下图显示了Y轴与Z轴的实际测量数据(如三角形所示)和基于LSTM网络的预测值(如圆点所示)；右下图显示了Y轴与Z轴的实际测量数据(如三角形所示)和基于三角均值算法的预测值(如圆点所示)。实验结果表明，所述三角均值算法(右)对数据进行预测，相较于LSTM网络(左)的预测更具有较高的准确率，可有效降低后续车辆驾驶行为异常判断时的误报率。
图4分别展示了LSTM网络与三角均值算法在三轴加速度器上三个坐标轴的预测误差总合，从图4中可以看出，三角均值算法相较于LSTM网络方法拥有更高的性能，这对图3中所展示的结果作了更进一步的验证。在实验的最后部分，可将三角均值算法与LSTM网络就其效率上进行了相应的对比分析，比较的结果如图5所示，对比相同的测试数据集(即剩余的60组数据)，三角均值算法总共的花销时间(即30ms)比所测试的LSTM网络(151ms)快约4倍左右；同时在总的误差方面，后者是前者的两倍左右，其中，总误差则是通过测试数据集中对于60组数据的每个预测结果，求时间t+1时对应测试数据与预测值的距离之和来进行计算的。
S105.在获取下一刻的实时行为数据Xt+1后，根据该实时行为数据Xt+1和所述预测行为数据Yt+1，判断下一刻的车辆驾驶行为是否出现异常，其中，Xt+1也包含有K项不同维度的且与所述行为数据样本中各项驾驶行为测量值一一对应的实时驾驶行为测量值。
在所述步骤S105中，可以但不限于按照如下方式判断下一刻的车辆驾驶行为是否出现异常：
S1051.按照如下公式计算所述预测行为数据Yt+1至所述实时行为数据Xt+1之间的距离dE(Xt+1,Yt+1)：
式中，attrk(Xt+1)表示实时行为数据Xt+1中的第k项实时驾驶行为测量值，attrk(Yt+1)表示预测行为数据Yt+1中的第k项驾驶行为预测值；
S1052.若所述距离dE(Xt+1,Yt+1)超过预设阈值，则判定下一刻的车辆驾驶行为出现异常，否则判定正常。
在所述步骤S1052中，所述预设阈值为预先设定的经验数值。另外，为了不断地持续补充所述行为数据样本集，优化的，可在所述步骤S1052中，若判定车辆驾驶行为正常，则将所述实时行为数据Xt+1作为一次反映车辆正常驾驶的行为数据样本添加到所述行为数据样本集中，从而使得样本越来越丰富。但是由于M过大时会影响预测过程的快速完成，因此进一步优化的，若所述行为数据样本集的样本总数在添加后超过1000，则在之后时刻通过所述步骤S101～S105来检测车辆驾驶行为是否异常时，随机选择300～1000个行为数据样本构成所述行为数据样本集。
综上，采用本实施例所提供的保障自动驾驶安全的人工智能检测方法，具有如下技术效果：
(1)本实施例提供了一种相比较于LSTM网络具有更低误报率、更快和更低硬件资源需求的且能够实现车辆驾驶行为异常检测的新人工智能检测方法、装置、设备以及存储介质，即采用了与现有技术不同的角度来考虑自动驾驶员的行为模型，具体是通过部署基于经验的智能设备来收集和管理自动驾驶员的行为经验，然后利用三角均值算法来对这些行为经验进行重复使用，使得与现有技术只提出的关心车辆某些特征动作不同(如只关注车辆的转向和踏板行为)，进而通过使用自动驾驶员的行为经验，能使得对自动驾驶员预期的行为进行更快的推理和预测，适用于很多像自动驾驶这样对时间要求比较高的任务，可有效保障自动驾驶安全；
(2)可使得所提出的模型能够通过不断添加新的经验和实时高精度的实时信息而使得模型不断进行自适应的更新，这是很多目前仅基于深度学习的模型所不能做到的。
实施例二
如图6所示，本实施例提供了一种实现实施例一所述人工智能检测方法的硬件装置，包括样本集读取模块、实时数据获取模块、距离计算模块、行为数据预测模块和行为异常判断模块；
所述样本集读取模块，用于读取反映车辆正常驾驶的行为数据样本集{Xj,j＝1,...,M}，其中，M为所述行为数据样本集的样本总数，Xj为反映车辆正常驾驶的第j个行为数据样本且包含有K项不同维度的驾驶行为测量值，K为不小于3的自然数；
所述实时数据获取模块，用于获取当前时刻的实时行为数据Xt以及下一刻的实时行为数据Xt+1，其中，Xt和Xt+1分别包含有K项不同维度的且与所述行为数据样本中各项驾驶行为测量值一一对应的实时驾驶行为测量值；
所述距离计算模块，分别通信连接所述样本集读取模块和所述实时数据获取模块，用于按照如下公式计算所述行为数据样本集中各个行为数据样本Xj至当前时刻的实时行为数据Xt之间的距离dE(Xt,Xj)：
式中，attrk(Xt)表示实时行为数据Xt中的第k项实时驾驶行为测量值，attrk(Xj)表示行为数据样本Xj中的第k项驾驶行为测量值；
所述行为数据预测模块，通信连接所述距离计算模块，用于根据所述距离dE(Xt,Xj)，在所述行为数据样本集中找到三个距离最短的对应行为数据样本，然后对这三个行为数据样本的驾驶行为测量值求平均，将得到的各项平均值作为下一刻的预测行为数据Yt+1；
所述行为异常判断模块，分别通信连接所述行为数据预测模块和所述实时数据获取模块，用于在获取下一刻的实时行为数据Xt+1后，根据该实时行为数据Xt+1和所述预测行为数据Yt+1，判断下一刻的车辆驾驶行为是否出现异常。
本实施例提供的前述装置的工作过程、工作细节和技术效果，可以参见实施例一，于此不再赘述。
实施例三
如图7所示，本实施例提供了一种实现实施例一所述人工智能检测方法的硬件设备，包括通信相连的存储器和处理器，其中，所述存储器用于存储计算机程序，所述处理器用于执行所述计算机程序实现如实施例一所述保障自动驾驶安全的人工智能检测方法步骤。
本实施例提供的前述设备的工作过程、工作细节和技术效果，可以参见实施例一，于此不再赘述。
实施例四
本实施例提供了一种存储包含实施例一所述人工智能检测方法的计算机程序的存储介质，即在所述存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如实施例一所述实现保障自动驾驶安全的人工智能检测方法步骤。其中，计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置，也可以是移动智能设备(如智能手机、PAD或ipad等)。
本实施例提供的前述存储介质的工作过程、工作细节和技术效果，可以参见实施例一，于此不再赘述。
以上所描述的多个实施例仅仅是示意性的，其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下，即可以理解并实施。
通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件。基于这样的理解，上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在计算机可读存储介质中，如ROM/RAM、磁碟、光盘等，包括若干指令用以使得一台计算机设备执行各个实施例或者实施例的某些部分所述的方法。
以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换。而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
最后应说明的是，本发明不局限于上述可选的实施方式，任何人在本发明的启示下都可得出其他各种形式的产品。上述具体实施方式不应理解成对本发明的保护范围的限制，本发明的保护范围应当以权利要求书中界定的为准，并且说明书可以用于解释权利要求书。
Claims (10)
1.一种保障自动驾驶安全的人工智能检测方法，其特征在于，包括如下步骤：
S101.读取反映车辆正常驾驶的行为数据样本集{Xj,j＝1,...,M}，其中，M为所述行为数据样本集的样本总数，Xj为反映车辆正常驾驶的第j个行为数据样本且包含有K项不同维度的驾驶行为测量值，K为3；
S102.获取当前时刻的实时行为数据Xt，其中，Xt包含有K项不同维度的且与所述行为数据样本中各项驾驶行为测量值一一对应的实时驾驶行为测量值；
S103.按照如下公式计算所述行为数据样本集中各个行为数据样本Xj至当前时刻的实时行为数据Xt之间的距离dE(Xt,Xj)：
式中，attrk(Xt)表示实时行为数据Xt中的第k项实时驾驶行为测量值，attrk(Xj)表示行为数据样本Xj中的第k项驾驶行为测量值；
S104.根据所述距离dE(Xt,Xj)，在所述行为数据样本集中找到三个距离最短的对应行为数据样本，然后对这三个行为数据样本的驾驶行为测量值求平均，将得到的各项平均值作为下一刻的预测行为数据Yt+1；
S105.在获取下一刻的实时行为数据Xt+1后，根据该实时行为数据Xt+1和所述预测行为数据Yt+1，判断下一刻的车辆驾驶行为是否出现异常，其中，Xt+1也包含有K项不同维度的且与所述行为数据样本中各项驾驶行为测量值一一对应的实时驾驶行为测量值。
2.如权利要求1所述的一种保障自动驾驶安全的人工智能检测方法，其特征在于，基于经验的智能设备采集获取所述行为数据样本集中的各个行为数据样本Xj、当前时刻的实时行为数据Xt和下一刻的实时行为数据Xt+1。
3.如权利要求1所述的一种保障自动驾驶安全的人工智能检测方法，其特征在于，所述驾驶行为测量值包括三轴加速度器的X轴加速度测量值、Y轴加速度测量值和Z轴加速度测量值。
4.如权利要求1所述的一种保障自动驾驶安全的人工智能检测方法，其特征在于，所述行为数据样本集的样本总数M介于300～1000之间。
5.如权利要求1所述的一种保障自动驾驶安全的人工智能检测方法，其特征在于，在所述步骤S105中，按照如下方式判断下一刻的车辆驾驶行为是否出现异常：
S1051.按照如下公式计算所述预测行为数据Yt+1至所述实时行为数据Xt+1之间的距离dE(Xt+1,Yt+1)：
式中，attrk(Xt+1)表示实时行为数据Xt+1中的第k项实时驾驶行为测量值，attrk(Yt+1)表示预测行为数据Yt+1中的第k项驾驶行为预测值；
S1052.若所述距离dE(Xt+1,Yt+1)超过预设阈值，则判定下一刻的车辆驾驶行为出现异常，否则判定正常。
6.如权利要求5所述的一种保障自动驾驶安全的人工智能检测方法，其特征在于，在所述步骤S1052中，若判定车辆驾驶行为正常，则将所述实时行为数据Xt+1作为一次反映车辆正常驾驶的行为数据样本添加到所述行为数据样本集中。
7.如权利要求6所述的一种保障自动驾驶安全的人工智能检测方法，其特征在于，若所述行为数据样本集的样本总数在添加后超过1000，则在之后时刻通过所述步骤S101～S105来检测车辆驾驶行为是否异常时，随机选择300～1000个行为数据样本构成所述行为数据样本集。
8.一种保障自动驾驶安全的人工智能检测装置，其特征在于，包括样本集读取模块、实时数据获取模块、距离计算模块、行为数据预测模块和行为异常判断模块；
所述样本集读取模块，用于读取反映车辆正常驾驶的行为数据样本集{Xj,j＝1,...,M}，其中，M为所述行为数据样本集的样本总数，Xj为反映车辆正常驾驶的第j个行为数据样本且包含有K项不同维度的驾驶行为测量值，K为3；
所述实时数据获取模块，用于获取当前时刻的实时行为数据Xt以及下一刻的实时行为数据Xt+1，其中，Xt和Xt+1分别包含有K项不同维度的且与所述行为数据样本中各项驾驶行为测量值一一对应的实时驾驶行为测量值；
所述距离计算模块，分别通信连接所述样本集读取模块和所述实时数据获取模块，用于按照如下公式计算所述行为数据样本集中各个行为数据样本Xj至当前时刻的实时行为数据Xt之间的距离dE(Xt,Xj)：
式中，attrk(Xt)表示实时行为数据Xt中的第k项实时驾驶行为测量值，attrk(Xj)表示行为数据样本Xj中的第k项驾驶行为测量值；
所述行为数据预测模块，通信连接所述距离计算模块，用于根据所述距离dE(Xt,Xj)，在所述行为数据样本集中找到三个距离最短的对应行为数据样本，然后对这三个行为数据样本的驾驶行为测量值求平均，将得到的各项平均值作为下一刻的预测行为数据Yt+1；
所述行为异常判断模块，分别通信连接所述行为数据预测模块和所述实时数据获取模块，用于在获取下一刻的实时行为数据Xt+1后，根据该实时行为数据Xt+1和所述预测行为数据Yt+1，判断下一刻的车辆驾驶行为是否出现异常。
9.一种保障自动驾驶安全的人工智能检测设备，其特征在于，包括通信相连的存储器和处理器，其中，所述存储器用于存储计算机程序，所述处理器用于执行所述计算机程序实现如权利要求1～7任意一项所述保障自动驾驶安全的人工智能检测方法步骤。
10.一种存储介质，其特征在于，所述存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如权利要求1～7任意一项所述保障自动驾驶安全的人工智能检测方法步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201911014144.1A CN110723152B (zh) | 2019-10-23 | 2019-10-23 | 一种保障自动驾驶安全的人工智能检测方法、装置、设备或存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201911014144.1A CN110723152B (zh) | 2019-10-23 | 2019-10-23 | 一种保障自动驾驶安全的人工智能检测方法、装置、设备或存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN110723152A CN110723152A (zh) | 2020-01-24 |
| CN110723152B true CN110723152B (zh) | 2020-11-17 |
Family
ID=69221901
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201911014144.1A Expired - Fee Related CN110723152B (zh) | 2019-10-23 | 2019-10-23 | 一种保障自动驾驶安全的人工智能检测方法、装置、设备或存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN110723152B (zh) |
Families Citing this family (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111814766B (zh) * | 2020-09-01 | 2020-12-15 | 中国人民解放军国防科技大学 | 车辆行为预警方法、装置、计算机设备和存储介质 |
| CN111994087B (zh) * | 2020-09-02 | 2021-11-05 | 中国第一汽车股份有限公司 | 一种辅助驾驶方法、系统、车辆及介质 |
| CN112541708B (zh) * | 2020-12-25 | 2024-05-24 | 北京百度网讯科技有限公司 | 一种指标确定方法、装置及电子设备 |
Family Cites Families (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US6278362B1 (en) * | 1995-01-12 | 2001-08-21 | Honda Giken Kogyo Kabushiki Kaisha | Driving state-monitoring apparatus for automotive vehicles |
| JPH0939604A (ja) * | 1995-07-28 | 1997-02-10 | Honda Motor Co Ltd | 車両用運転状況監視装置 |
| JP2014092965A (ja) * | 2012-11-05 | 2014-05-19 | Denso Corp | 乗員監視装置 |
| CN104574821B (zh) * | 2015-01-13 | 2017-05-24 | 上海优思通信科技有限公司 | 驾驶安全提示装置及提示方法 |
| CN105620480B (zh) * | 2015-12-29 | 2018-10-23 | 东南大学 | 智能车辆自主性换道时机决策方法 |
| CN108764111B (zh) * | 2018-05-23 | 2022-03-01 | 长安大学 | 一种车辆异常驾驶行为的检测方法 |
-
2019
- 2019-10-23 CN CN201911014144.1A patent/CN110723152B/zh not_active Expired - Fee Related
Also Published As
| Publication number | Publication date |
|---|---|
| CN110723152A (zh) | 2020-01-24 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111506980B (zh) | 对虚拟驾驶环境生成交通场景的方法及装置 | |
| CN110723152B (zh) | 一种保障自动驾驶安全的人工智能检测方法、装置、设备或存储介质 | |
| Zhang et al. | Intrusion detection system using deep learning for in-vehicle security | |
| Gu et al. | A novel lane-changing decision model for autonomous vehicles based on deep autoencoder network and XGBoost | |
| CN109581871B (zh) | 免疫对抗样本的工业控制系统入侵检测方法 | |
| US11132211B1 (en) | Neural finite state machines | |
| CN111970309A (zh) | 基于Spark车联网组合深度学习入侵检测方法及系统 | |
| CN112015843A (zh) | 基于多车意图交互结果的行车风险态势评估方法及系统 | |
| CN112286991B (zh) | 一种基于多源海上目标数据的智能挖掘模型建立方法 | |
| CN114514524A (zh) | 多智能体模拟 | |
| CN109784526A (zh) | 通行路径的规划方法、装置、设备及可读存储介质 | |
| CN111259737B (zh) | 车辆方向盘故障的预测方法、装置、电子设备及存储介质 | |
| Akowuah et al. | Physical invariant based attack detection for autonomous vehicles: Survey, vision, and challenges | |
| CN110686906A (zh) | 车辆自动驾驶测试方法及装置 | |
| Du et al. | A Novel Intelligent Approach to Lane‐Change Behavior Prediction for Intelligent and Connected Vehicles | |
| CN116820126A (zh) | 基于多无人机路径规划的深度强化学习系统及方法 | |
| CN105719359B (zh) | 车辆信息的获取方法和装置 | |
| CN106803361A (zh) | 一种基于滚动规划策略的航海管制方法 | |
| CN113635896A (zh) | 一种驾驶行为确定方法及其相关设备 | |
| Kłusek et al. | Driver profiling by using LSTM networks with Kalman filtering | |
| CN112002126A (zh) | 复杂场景下车辆长期轨迹预测方法及系统 | |
| US11745747B2 (en) | System and method of adaptive distribution of autonomous driving computations | |
| CN113850138B (zh) | 一种基于数据驱动的无人飞行器传感器故障检测方法、系统及装置 | |
| CN115563020A (zh) | 危险测试场景的生成方法及系统、电子设备、存储介质 | |
| CN110018678B (zh) | 一种网联汽车控制系统的故障诊断方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant | ||
| CF01 | Termination of patent right due to non-payment of annual fee | ||
| CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20201117 |