CN116767237A - 针对自动化驾驶上的动手的欺骗检测 - Google Patents

Abstract

本发明涉及针对自动化驾驶上的动手的欺骗检测。根据示例性实施例，提供了一种方法，其包括：经由车辆的一个或多个传感器获得传感器数据；经由车辆的处理器，基于在多个时间段上对传感器数据的使用来确定车辆的驾驶员的驾驶风格；以及经由处理器，基于传感器数据和驾驶员的风格来确定关于驾驶员是否正试图就车辆的一个或多个自动化特征欺骗车辆的控制系统的指示。

Description

针对自动化驾驶上的动手的欺骗检测

技术领域

技术领域总体上涉及车辆，且更具体地，涉及用于检测驾驶员就车辆的自动化驾驶特征欺骗（spoof）车辆的方法和系统。

背景技术

现今某些车辆包括这样的功能性，即，其中车辆自动执行一种功能，但对于该功能性，需要驾驶员有一定程度的警觉性和/或参与性。然而，现有的车辆可能并不总是检测到驾驶员何时试图欺骗车辆，例如，通过在车辆的方向盘上放置重物以提供驾驶员警觉性和/或参与性的虚假指示等。

因此，期望提供用于检测驾驶员何时试图就车辆的自动化驾驶特征欺骗车辆的改进的方法和系统。此外，结合附图和背景技术的讨论，本公开的其他期望的特征和特性将从随后的详细描述和所附权利要求变得显而易见。

发明内容

根据示例性实施例，提供了一种方法，其包括：经由车辆的一个或多个传感器获得传感器数据；经由车辆的处理器，基于在多个时间段上对传感器数据的使用来确定车辆的驾驶员的驾驶风格；以及经由处理器，基于传感器数据和驾驶员的风格来确定关于驾驶员是否正试图就车辆的一个或多个自动化特征欺骗车辆的控制系统的指示。

另外，在示例性实施例中，驾驶风格经由由处理器使用传感器数据所执行的强化学习来确定，该传感器数据是在车辆周围的道路和外部环境的多种不同条件下在车辆的多个不同的点火循环上获得的。

另外，在示例性实施例中，该方法进一步包括：经由处理器，使用传感器数据来生成欺骗检测知识矩阵，该传感器数据是在车辆周围的道路和外部环境的所述多种不同条件下在车辆的所述多个不同的点火循环上获得的；以及结合在所述多种不同条件下的驾驶风格和预期的驾驶员行为。

另外，在示例性实施例中，欺骗检测知识矩阵由处理器进一步基于另外的驾驶员在与所述多种不同条件类似的条件下的行为的知识而生成。

另外，在示例性实施例中，关于驾驶员是否正试图欺骗控制系统的指示由处理器使用欺骗检测知识矩阵结合传感器数据的当前值来确定。

另外，在示例性实施例中，传感器数据代表驾驶员对车辆的方向盘的接合。

另外，在示例性实施例中：传感器数据包括来自车辆的一个或多个电容式传感器的关于驾驶员与车辆的方向盘的接触的电容式传感器数据；驾驶风格的确定由处理器使用电容式传感器数据做出；并且关于驾驶员是否正试图就车辆的所述一个或多个自动化特征欺骗车辆的控制系统的指示的确定基于电容式传感器数据和驾驶员的风格。

另外，在示例性实施例中：传感器数据包括来自车辆的一个或多个扭矩传感器的关于驾驶员与车辆的方向盘的接触的扭矩传感器数据；驾驶风格的确定由处理器使用扭矩传感器数据做出；并且关于驾驶员是否正试图就车辆的所述一个或多个自动化特征欺骗车辆的控制系统的指示的确定基于扭矩传感器数据和驾驶员的风格。

另外，在示例性实施例中：传感器数据包括来自车辆的一个或多个转向角传感器的关于车辆的转向角的转向角传感器数据；驾驶员与车辆的方向盘的接触；驾驶风格的确定由处理器使用转向角传感器数据做出；并且关于驾驶员是否正试图就车辆的所述一个或多个自动化特征欺骗车辆的控制系统的指示的确定基于转向角传感器数据和驾驶员的风格。

在另一个示例性实施例中，提供了一种系统，其包括一个或多个传感器和一个处理器。所述一个或多个传感器被构造成获得车辆的传感器数据。处理器被构造成至少促进：基于在多个时间段上对传感器数据的使用来确定车辆的驾驶员的驾驶风格；以及基于传感器数据和驾驶员的风格来确定关于驾驶员是否正试图就车辆的一个或多个自动化特征欺骗车辆的控制系统的指示。

另外，在示例性实施例中，处理器进一步被构造成：经由由处理器使用传感器数据所执行的强化学习来确定驾驶风格，该传感器数据是在车辆周围的道路和外部环境的多种不同条件下在车辆的多个不同的点火循环上获得的。

另外，在示例性实施例中，处理器进一步被构造成：使用传感器数据来生成欺骗检测知识矩阵，该传感器数据是在车辆周围的道路和外部环境的所述多种不同条件下在车辆的所述多个不同的点火循环上获得的；以及结合在所述多种不同条件下的驾驶风格和预期的驾驶员行为。

另外，在示例性实施例中，处理器进一步被构造成：由处理器进一步基于另外的驾驶员在与所述多种不同条件类似的条件下的行为的知识来生成欺骗检测知识矩阵。

另外，在示例性实施例中，处理器进一步被构造成：使用欺骗检测知识矩阵结合传感器数据的当前值来生成关于驾驶员是否正试图欺骗控制系统的指示。

另外，在示例性实施例中，传感器数据代表驾驶员对车辆的方向盘的接合。

另外，在示例性实施例中：所述一个或多个传感器包括一个或多个电容式传感器，所述一个或多个电容式传感器被构造成：生成关于驾驶员与车辆的方向盘的接触的电容式传感器数据；并且处理器进一步被构造成至少促进：使用电容式传感器数据来确定驾驶风格；以及基于电容式传感器数据和驾驶员的风格来确定关于驾驶员是否正试图就车辆的所述一个或多个自动化特征欺骗车辆的控制系统的指示。

另外，在示例性实施例中，所述一个或多个传感器包括一个或多个扭矩传感器，所述一个或多个扭矩传感器被构造成：生成关于驾驶员与车辆的方向盘的接触的扭矩传感器数据；并且处理器进一步被构造成至少促进：使用扭矩传感器数据来确定驾驶风格；以及基于扭矩传感器数据和驾驶员的风格来确定关于驾驶员是否正试图就车辆的所述一个或多个自动化特征欺骗车辆的控制系统的指示。

另外，在示例性实施例中，所述一个或多个传感器包括一个或多个转向角传感器，所述一个或多个转向角传感器被构造成：生成关于车辆的转向角的转向角传感器数据；并且处理器进一步被构造成至少促进：使用转向角传感器数据来确定驾驶风格；以及基于转向角传感器数据和驾驶员的风格来确定关于驾驶员是否正试图就车辆的所述一个或多个自动化特征欺骗车辆的控制系统的指示。

在另一个示例性实施例中，提供了一种车辆，其包括：车身；以及控制系统，其用于针对包括其车身在内的车辆的移动来控制一个或多个自动化控制系统。控制系统包括一个或多个传感器和一个处理器。所述一个或多个传感器被构造成获得车辆的传感器数据。处理器被构造成至少促进：基于在多个时间段上对传感器数据的使用来确定车辆的驾驶员的驾驶风格；以及基于传感器数据和驾驶员的风格来确定关于驾驶员是否正试图就车辆的一个或多个自动化特征欺骗控制系统的指示。

另外，在一个实施例中，车辆进一步包括方向盘；并且传感器数据代表驾驶员对车辆的方向盘的接合。

本发明还公开了如下技术方案：

方案1. 一种方法，其包括：

经由车辆的一个或多个传感器获得传感器数据；

经由所述车辆的处理器，基于在多个时间段上对所述传感器数据的使用来确定所述车辆的驾驶员的驾驶风格；以及

经由所述处理器，基于所述传感器数据和所述驾驶员的所述风格来确定关于所述驾驶员是否正试图就所述车辆的一个或多个自动化特征欺骗所述车辆的控制系统的指示。

方案2. 根据方案1所述的方法，其中，所述驾驶风格经由由所述处理器使用传感器数据所执行的强化学习来确定，所述传感器数据是在所述车辆周围的道路和外部环境的多种不同条件下在所述车辆的多个不同的点火循环上获得的。

方案3. 根据方案2所述的方法，其进一步包括：

经由所述处理器，使用所述传感器数据来生成欺骗检测知识矩阵，所述传感器数据是在所述车辆周围的所述道路和外部环境的所述多种不同条件下在所述车辆的所述多个不同的点火循环上获得的；以及结合在所述多种不同条件下的所述驾驶风格和预期的驾驶员行为。

方案4. 根据方案3所述的方法，其中，所述欺骗检测知识矩阵由所述处理器进一步基于另外的驾驶员在与所述多种不同条件类似的条件下的行为的知识而生成。

方案5. 根据方案3所述的方法，其中，关于所述驾驶员是否正试图欺骗所述控制系统的所述指示由所述处理器使用所述欺骗检测知识矩阵结合所述传感器数据的当前值来确定。

方案6. 根据方案1所述的方法，其中，所述传感器数据代表驾驶员对所述车辆的方向盘的接合。

方案7. 根据方案6所述的方法，其中：

所述传感器数据包括来自所述车辆的一个或多个电容式传感器的关于所述驾驶员与所述车辆的所述方向盘的接触的电容式传感器数据；

所述驾驶风格的所述确定由所述处理器使用所述电容式传感器数据做出；并且

关于所述驾驶员是否正试图就所述车辆的所述一个或多个自动化特征欺骗所述车辆的所述控制系统的所述指示的所述确定基于所述电容式传感器数据和所述驾驶员的所述风格。

方案8. 根据方案6所述的方法，其中：

所述传感器数据包括来自所述车辆的一个或多个扭矩传感器的关于所述驾驶员与所述车辆的所述方向盘的接触的扭矩传感器数据；

所述驾驶风格的所述确定由所述处理器使用所述扭矩传感器数据做出；并且

关于所述驾驶员是否正试图就所述车辆的所述一个或多个自动化特征欺骗所述车辆的所述控制系统的所述指示的所述确定基于所述扭矩传感器数据和所述驾驶员的所述风格。

方案9. 根据方案6所述的方法，其中：

所述传感器数据包括来自所述车辆的一个或多个转向角传感器的关于所述车辆的转向角的转向角传感器数据；所述驾驶员与所述车辆的所述方向盘的接触；

所述驾驶风格的所述确定由所述处理器使用所述转向角传感器数据做出；并且

关于所述驾驶员是否正试图就所述车辆的所述一个或多个自动化特征欺骗所述车辆的所述控制系统的所述指示的所述确定基于所述转向角传感器数据和所述驾驶员的所述风格。

方案10. 一种系统，其包括：

一个或多个传感器，其被构造成获得车辆的传感器数据；以及

处理器，其被构造成至少促进：

基于在多个时间段上对所述传感器数据的使用来确定所述车辆的驾驶员的驾驶风格；以及

基于所述传感器数据和所述驾驶员的所述风格来确定关于所述驾驶员是否正试图就所述车辆的一个或多个自动化特征欺骗所述车辆的控制系统的指示。

方案11. 根据方案10所述的系统，其中，所述处理器进一步被构造成：经由由所述处理器使用传感器数据所执行的强化学习来确定所述驾驶风格，所述传感器数据是在所述车辆周围的道路和外部环境的多种不同条件下在所述车辆的多个不同的点火循环上获得的。

方案12. 根据方案11所述的系统，其中，所述处理器进一步被构造成：使用所述传感器数据来生成欺骗检测知识矩阵，所述传感器数据是在所述车辆周围的所述道路和外部环境的所述多种不同条件下在所述车辆的所述多个不同的点火循环上获得的；以及结合在所述多种不同条件下的所述驾驶风格和预期的驾驶员行为。

方案13. 根据方案12所述的系统，其中，所述处理器进一步被构造成：由所述处理器进一步基于另外的驾驶员在与所述多种不同条件类似的条件下的行为的知识来生成所述欺骗检测知识矩阵。

方案14. 根据方案12所述的系统，其中，所述处理器进一步被构造成：使用所述欺骗检测知识矩阵结合所述传感器数据的当前值来生成关于所述驾驶员是否正试图欺骗所述控制系统的所述指示。

方案15. 根据方案10所述的系统，其中，所述传感器数据代表驾驶员对所述车辆的方向盘的接合。

方案16. 根据方案15所述的系统，其中：

所述一个或多个传感器包括一个或多个电容式传感器，所述一个或多个电容式传感器被构造成：生成关于所述驾驶员与所述车辆的所述方向盘的接触的电容式传感器数据；并且

所述处理器进一步被构造成至少促进：

使用所述电容式传感器数据来确定所述驾驶风格；以及

基于所述电容式传感器数据和所述驾驶员的所述风格来确定关于所述驾驶员是否正试图就所述车辆的所述一个或多个自动化特征欺骗所述车辆的所述控制系统的所述指示。

方案17. 根据方案15所述的系统，其中：

所述一个或多个传感器包括一个或多个扭矩传感器，所述一个或多个扭矩传感器被构造成：生成关于所述驾驶员与所述车辆的所述方向盘的接触的扭矩传感器数据；并且

所述处理器进一步被构造成至少促进：

使用所述扭矩传感器数据来确定所述驾驶风格；以及

基于所述扭矩传感器数据和所述驾驶员的所述风格来确定关于所述驾驶员是否正试图就所述车辆的所述一个或多个自动化特征欺骗所述车辆的所述控制系统的所述指示。

方案18. 根据方案15所述的系统，其中：

所述一个或多个传感器包括一个或多个转向角传感器，所述一个或多个转向角传感器被构造成：生成关于所述车辆的转向角的转向角传感器数据；并且

所述处理器进一步被构造成至少促进：

使用所述转向角传感器数据来确定所述驾驶风格；以及

基于所述转向角传感器数据和所述驾驶员的所述风格来确定关于所述驾驶员是否正试图就所述车辆的所述一个或多个自动化特征欺骗所述车辆的所述控制系统的所述指示。

方案19. 一种车辆，其包括：

车身；以及

控制系统，其用于针对包括其车身在内的所述车辆的移动来控制一个或多个自动化控制系统，所述控制系统包括：

一个或多个传感器，其被构造成获得所述车辆的传感器数据；以及

处理器，其被构造成至少促进：

基于在多个时间段上对所述传感器数据的使用来确定所述车辆的驾驶员的驾驶风格；以及

基于所述传感器数据和所述驾驶员的所述风格来确定关于所述驾驶员是否正试图就所述车辆的一个或多个自动化特征欺骗所述控制系统的指示。

方案20. 根据方案19所述的车辆，其中：

所述车辆进一步包括方向盘；并且

所述传感器数据代表驾驶员对所述车辆的方向盘的接合。

附图说明

下文中将结合以下附图来描述本公开，其中，相似的数字表示相似的元件，并且其中：

图1是根据示例性实施例的车辆的功能性框图，该车辆包括用于控制一个或多个自动化驾驶功能的控制系统，并且检测驾驶员何时试图就自动化驾驶功能欺骗车辆；

图2是过程的流程图，该过程用于检测驾驶员何时试图就自动化驾驶功能欺骗车辆，并且该过程可以结合图1的车辆和控制系统来实施；

图3是根据示例性实施例的图2的过程的一部分的流程图；以及

图4和图5描绘了根据示例性实施例的图2和图3的过程的示例性实施方式。

具体实施方式

以下详细描述本质上仅仅是示例性的，并且不旨在限制公开内容或应用及其用途。此外，不意图受前面背景技术或以下详细描述中呈现的任何理论的约束。

图1图示了根据示例性实施例的车辆（vehicle，或为“交通工具”）100。如下文进一步更详细描述的，车辆100包括根据示例性实施例的控制系统102，该控制系统被构造成用于控制车辆100的一个或多个自动驾驶特征，包括检测驾驶员何时试图就自动驾驶特征欺骗控制系统102。

在各种实施例中，车辆100包括汽车。在某些实施例中，车辆100可以是许多不同类型的汽车中的任一种，诸如例如，轿车、货车、卡车或运动型多用途车（SUV），并且可以是两轮驱动（2WD）（即，后轮驱动或前轮驱动）、四轮驱动（4WD）或全轮驱动（AWD），和/或各种其他类型的车辆。在某些实施例中，车辆100还可包括摩托车或其他车辆，诸如飞机、航天器、船只等，和/或一种或多种其他类型的移动平台（例如，机器人和/或其他移动平台）。

车辆100包括布置在底盘116上的车身104。车身104基本上围封车辆100的其他部件。车身104和底盘116可联合地形成框架。车辆100还包括多个车轮112。车轮112各自在车身104的相应拐角附近旋转地联接到底盘116，以促进车辆100的移动。在一个实施例中，车辆100包括四个车轮112，不过这可在其他实施例中变化（例如，对于卡车和某些其他车辆而言）。

驱动系统110安装在底盘116上，并且例如经由车轴114驱动车轮112。在某些实施例中，驱动系统110包括推进系统。在某些示例性实施例中，驱动系统110包括与其变速器联接的内燃发动机和/或电动马达/发电机。在某些实施例中，驱动系统110可变化，和/或可使用两个或更多个驱动系统110。举例来说，车辆100还可结合许多种不同类型的推进系统中的任一种或其组合，诸如例如以汽油或柴油为燃料的燃烧发动机、“柔性燃料车辆”（FFV）发动机（即，使用汽油和酒精的混合物）、以气体化合物（例如，氢气和/或天然气）为燃料的发动机、燃烧/电动马达混合发动机、以及电动马达。

如图1中所描绘的，在各种实施例中，车辆还包括制动系统106和转向系统108。在示例性实施例中，制动系统106使用制动部件来控制对车辆100的制动，这些制动部件经由由驾驶员提供的输入（诸如，如图1中所描绘的制动踏板107）来控制，并且在某些实施例中还经由自动控制（经由控制系统102进行）来控制。另外，在示例性实施例中，转向系统108经由转向部件（诸如，如图1中所描绘的方向盘108（例如，结合联接到车轴114和/或车轮112的转向柱））来控制车辆100的转向，这些转向部件经由由驾驶员提供的输入（例如，经由方向盘108）来控制，并且在某些实施例中还经由自动控制（经由控制系统102进行）来控制。

在图1中所描绘的实施例中，控制系统102联接到转向系统108。在某些实施例中，控制系统102还可联接到制动系统106、驱动系统110和/或一个或多个其他车辆系统和/或部件。而且如图1中所描绘的，在各种实施例中，控制系统102包括传感器阵列120和控制器140。

在各种实施例中，传感器阵列120包括各种传感器，这些传感器获得传感器数据以用于控制车辆100的自动功能性、以及用于检测驾驶员就自动功能性对控制系统102的欺骗。在所描绘的实施例中，传感器阵列120包括一个或多个触摸传感器130、转向传感器132、控制传感器134和路径传感器136。

在某些实施例中，触摸传感器130包括一个或多个电容式传感器，所述一个或多个电容式传感器是方向盘109的一部分、附接到方向盘109或以其他方式联接到方向盘109，并且被构造成测量施加到其的力的量。另外，在某些实施例中，转向传感器132被构造成测量驾驶员与车辆100的转向系统108的互动，包括由车辆100的驾驶员提供给方向盘109的扭矩的量以及方向盘109被接合所处的角度等。另外，在某些实施例中，控制传感器134测量由驾驶员例如在接合方向盘109、制动踏板107和/或驱动系统110（例如，其加速器踏板）等时提供的控制命令。另外，在各种实施例中，路径传感器136包括测量车辆100的路径和/或运动的一个或多个传感器，例如包括一个或多个速度传感器、加速度计、航向传感器、检测传感器（诸如，雷达、激光雷达、声纳、外部相机等）。

在各种实施例中，控制器140联接到传感器阵列120并自其接收传感器数据。在各种实施例中，控制器140控制车辆100的自动功能性，包括需要一定程度的驾驶员警觉性和/或参与性的功能性（例如，包括车道保持辅助、车道居中和其他自动化特征），以及包括检测驾驶员何时试图就这种自动化功能性欺骗控制系统102（例如，当驾驶员将物体附接到方向盘以使其看上去好像驾驶员有一只手放在方向盘上等）。在各种实施例中，控制器140还可为车辆100提供附加的功能性，包括为转向系统108、制动系统106、驱动系统110和/或一个或多个其他车辆系统和/或部件提供附加的功能性。

在各种实施例中，控制器140包括计算机系统（本文中也被称为计算机系统140），并且包括处理器142、存储器144、接口146、存储装置148和计算机总线150。在各种实施例中，控制器（或计算机系统）140控制车辆操作，包括控制自动化车辆功能性和检测驾驶员就这种自动化功能性的欺骗、以及其他车辆控制功能。在各种实施例中，控制器140根据图2和图3的过程200以及图4和图5的实施方式的步骤来提供这些和其他功能，例如结合车辆100的自动化车道保持、自动化车道居中和其他自动化控制功能性。

在各种实施例中，控制器140（以及在某些实施例中，控制系统102自身）设置在车辆100的车身104内。在一个实施例中，控制系统102安装在底盘116上。在某些实施例中，控制器140和/或控制系统102和/或其一个或多个部件可设置在车身104的外部，例如远程服务器上、云中或其中远程执行图像处理的其他装置上。

将了解，控制器140可在其他方面不同于图1中所描绘的实施例。例如，控制器140可联接到或者可以以其他方式利用一个或多个远程计算机系统和/或其他控制系统，例如作为上文所识别的车辆100装置和系统中的一者或多者的一部分。

在所描绘的实施例中，控制器140的计算机系统包括处理器142、存储器144、接口146、存储装置148和总线150。处理器142执行控制器140的计算和控制功能，并且可包括任何类型的处理器或多个处理器、单个集成电路（诸如，微处理器）、或者任何合适数量的集成电路装置和/或电路板，它们协同工作以实现处理单元的功能。在操作期间，处理器142执行包含在存储器144内的一个或多个程序152，且因而控制控制器140和控制器140的计算机系统的一般操作，通常是在执行本文中所描述的过程中，诸如图2和图3的过程200以及图4和图5的实施方式并在下文结合其进行进一步描述。

存储器144可以是任何类型的合适存储器。例如，存储器144可包括各种类型的动态随机存取存储器（DRAM）（诸如，SDRAM）、各种类型的静态RAM（SRAM）、以及各种类型的非易失性存储器（PROM、EPROM和闪存）。在某些示例中，存储器144与处理器142位于同一计算机芯片上和/或共同定位在同一计算机芯片上。在所描绘的实施例中，存储器144存储上文提到的程序152连同地图数据154、一个或多个驾驶员欺骗矩阵155（例如，来自自动化学习的关于车辆100的不同驾驶员的驾驶习惯和驾驶风格及特性的历史数据）和附加的存储值157（例如，查找表、阈值和/或关于检测欺骗、控制自动化车辆控制功能等的其他值）。

总线150用于在控制器140的计算机系统的各种部件之间传输程序、数据、状态和其他信息或信号。接口146允许例如从系统驱动器和/或另一个计算机系统到控制器140的计算机系统的通信，并且可以使用任何合适的方法和设备来实施。在一个实施例中，接口146从传感器阵列120以及其他可能的数据源获得各种数据。接口146可以包括一个或多个网络接口以与其他系统或部件通信。接口146还可包括一个或多个网络接口以与技术人员通信、和/或一个或多个存储接口以连接到存储设备（诸如，存储装置148）。

存储装置148可以是任何合适类型的存储设备，包括各种不同类型的直接存取存储器和/或其他存储器装置。在一个示例性实施例中，存储装置148包括程序产品，存储器144可以从该程序产品接收程序152，该程序执行本公开的一个或多个过程的一个或多个实施例，诸如图2和图3的过程200以及图4和图5的实施方式的步骤并在下文结合其进行进一步描述。在另一个示例性实施例中，程序产品可直接存储在存储器144和/或磁盘（例如，磁盘156）中和/或以其他方式由其访问，诸如下文提到的存储器和/或磁盘。

总线150可以是连接计算机系统和部件的任何合适的物理或逻辑器件。这包括但不限于直接硬连线连接、光纤、红外和无线总线技术。在操作期间，程序152存储在存储器144中并由处理器142执行。

将了解，虽然在全功能计算机系统的上下文中描述了该示例性实施例，但是本领域技术人员将认识到，本公开的机制能够作为具有一种或多种类型的非暂时性计算机可读信号承载介质的程序产品来分发，所述非暂时性计算机可读信号承载介质用于存储程序及其指令并实施其分发，诸如承载程序并包含存储在其中的计算机指令的非暂时性计算机可读介质，这些计算机指令用于引起计算机处理器（诸如，处理器142）执行和进行程序。这种程序产品可采取各种形式，并且本公开同等地适用，而不管用于实施分发的计算机可读信号承载介质的特定类型。信号承载介质的示例包括：可记录介质（诸如，软盘、硬盘、存储卡和光盘）、以及传输介质（诸如，数字和模拟通信链路）。将了解，在某些实施例中，也可利用基于云的存储器和/或其他技术。类似地，将了解，控制器140的计算机系统也可在其他方面不同于图1中所描绘的实施例，例如，控制器140的计算机系统可联接到或者可以以其他方式利用一个或多个远程计算机系统和/或其他控制系统。

图2和图3共同地提供了根据示例性实施例的过程200的流程图，该过程用于检测驾驶员何时试图就自动化驾驶功能欺骗车辆。在各种实施例中，过程200可结合图1的车辆100和控制系统102及其部件来实施。

如图2中所描绘的，过程200在步骤202处开始。在一个实施例中，当驾驶员为车辆选择车道居中特征时，过程200开始。在某些实施例中，过程200也可在车辆驾驶或点火循环开始时开始，例如当驾驶员接近或进入车辆100时，或当驾驶员接通车辆和/或其点火装置时（例如，通过转动钥匙、接合钥匙扣或启动按钮等）。在一个实施例中，过程200的步骤在车辆的操作期间和/或在如由驾驶员选择的车道居中特征的操作期间连续地执行。

在步骤204处，获得传感器数据。在各种实施例中，经由图1的车辆的传感器阵列120中的每个传感器获得传感器数据。在某些实施例中，步骤204的传感器数据包括以下各者：（i）来自图1的触摸传感器130的关于驾驶员对车辆100的方向盘109的接合（例如，关于驾驶员的一只手或两只手是否放在方向盘109上）的电容式触摸传感器数据206；（ii）来自图1的转向传感器132（诸如，来自车辆100的电动助力转向系统（EPS））的转向传感器数据208，包括由车辆100的驾驶员提供给方向盘109的扭矩量、方向盘109被接合所处的转向角测量值、以及EPS的控制扭矩；（iii）来自图1的控制传感器134的控制传感器数据208，包括由驾驶员在接合方向盘109、制动踏板107和/或驱动系统110（例如，其加速器踏板）等时提供的控制命令；以及（iv）来自图1的路径传感器136的关于车辆的路径、移动和操作（例如，包括车辆速度、加速度、偏航率等）的车辆路径传感器数据212。另外，在各种实施例中，还接收驾驶员的标识，例如经由检测与驾驶员相关联的钥匙扣、手机和/或其他装置。

在各种实施例中，来自步骤204的传感器数据的相应输入被提供给图1的处理器142以进行处理。例如，在各种实施例中，这些输入包括以下各者：（i）基于电容式触摸传感器数据206的针对图1的方向盘109的动手/脱手检测214；（ii）基于转向传感器数据208的驾驶员施加的扭矩量216；（iii）基于控制传感器数据208的来自驾驶员的控制命令218；以及（iv）基于车辆路径传感器数据212的车辆偏航率219（包括横向和纵向偏航率的“x”和“y”分量）。另外，在各种实施例中，还接收关于驾驶员的标识的输入。

在各种实施例中，执行欺骗检测（步骤220）。在各种实施例中，欺骗检测由图1的处理器142执行。具体地，在各种实施例中，处理器142就驾驶员是否欺骗或诱骗车辆100的控制系统102而使其错误地相信驾驶员正在接合车辆100的方向盘109（例如，通过驾驶员将物体或一些其他重物附接到方向盘109等）来做出确定。在各种实施例中，处理器142使用来自图1的路径传感器136的传感器数据并通过执行学习算法来做出这些确定，该学习算法基于驾驶员随时间推移（并且在各种实施例中，在不同的车辆驾驶期间（例如，在车辆的不同点火循环期间）的不同时间段上）的的驾驶习惯、风格和癖好。

参考图3，提供了关于做出步骤220的欺骗确定的流程图。步骤220的欺骗确定的附加细节以及其中使用的学习算法技术提供在图3中并在下文结合其进行进一步讨论。

返回参考图2，步骤220的欺骗确定产生了作为步骤220的输出的欺骗检测百分比222。在各种实施例中，基于对步骤204的传感器数据的使用结合对驾驶员随时间推移的行为（包括驾驶习惯、风格和癖好）的学习，图1的处理器142基于驾驶员试图欺骗控制系统102（例如，通过在方向盘109上放置重物等）的百分比可能性来计算欺骗检测百分比222。

在各种实施例中，起始自动化车辆控制功能性（步骤224）。在各种实施例中，图1的处理器142提供用于起始车辆100的一个或多个自动化车辆控制特征的指令。在某些实施例中，起始自动化车道保持和/或自动化车道居中功能性、以及其他可能的自动化车辆控制特征。

另外，在各种实施例中，随着自动化车辆控制功能性的起始，就驾驶员行为做出升级确定（步骤226）。具体地，在各种实施例中，图1的处理器142基于步骤220的欺骗检测和确定（并且在各种实施例中，基于欺骗检测百分比222）来确定升级是否适当。例如，在某些实施例中，当欺骗检测百分比222超过预定阈值时，可确定起始升级动作协议以用于确保驾驶员警觉性和/或参与性，该预定阈值存储在图1的存储器144中以作为其存储值157。在一个实施例中，这种预定阈值可等于百分之五十（50%）；然而，这在其他实施例中可不同。在各种实施例中，当确定驾驶员欺骗是可能的时（例如，在某些实施例中，当欺骗检测百分比222超过预定阈值时），由处理器142提供警报命令228。

另外，在各种实施例中，在步骤230处起始升级动作以用于确保驾驶员至少保持预定度量的警觉性和/或参与性。具体地，在各种实施例中，当确定驾驶员欺骗是可能的时（例如，在某些实施例中，当欺骗检测百分比222超过预定阈值时），基于由处理器142提供的指令来起始一个或多个升级动作。在某些实施例中，为驾驶员提供一个或多个视觉消息232，例如经由书面消息指示驾驶员“进行转向”。另外，在某些实施例中，还可起始一个或多个附加的警告234（例如，一个或多个音频和/或触觉警告234）（例如，可听见的鸣响和/或驾驶座的振动等）。

在各种实施例中，在步骤236处，获得驾驶员反馈。在各种实施例中，在步骤236期间，从图1的传感器阵列120的传感器获得关于驾驶员对步骤230的升级动作的响应的附加传感器数据。例如，在某些实施例中，传感器阵列120的传感器从驾驶员接收关于驾驶员对方向盘的接合（或重新接合）等的输入238。在一个这种实施例中，利用图1的一个或多个触摸传感器130（例如，方向盘的或联接到方向盘的一个或多个电容式触摸传感器）来接收这种传感器数据/输入。在各种实施例中，如果确定驾驶员没有作出足够的反应以便证明驾驶员警觉性和/或参与性（例如，在一个实施例中，如果驾驶员没有在方向盘上放置一只或多只手），则可能发生进一步升级。例如，在某些实施例中，初始警告可以是视觉通知，第二个升级警告（如果在初始时间段之后仍然认为驾驶员不专心）可包括声响和/或触觉警告，并且第三个升级（如果在随后附加的时间段之后仍然认为驾驶员不专心）可包括禁用自动化车辆控制特征（例如，禁用该特征以便提醒车辆驾驶员和/或直到驾驶员显示出警觉性和/或参与性）等。

在各种实施例中，在步骤240处，就是否继续该过程做出确定。在各种实施例中，由图1的处理器142就当前车辆驾驶（例如，当前车辆点火循环）是否仍在发生和/或如由驾驶员选择的车辆的车道居中特征和/或其他自动化特征是否仍在操作中来做出该确定。在各种实施例中，如果确定该过程将继续（例如，如果自动化特征仍在操作中），则该过程返回到步骤204，并且在新的迭代中继续收集传感器数据。在各种实施例中，此后步骤204-240以这种方式在各种迭代中重复，直到在步骤240的迭代中确定该过程完成（例如，当前车辆驾驶完成），此后该过程终止（步骤242）。

参考图3，提供了根据示例性实施例的流程图，其中更详细地解释了步骤220（欺骗确定）。如图3中所图示的，在各种实施例中，获得输入306。在某些实施例中，从车辆100的电动助力转向系统（EPS）313获得输入306，该EPS例如对应于图1的转向系统108。在某些实施例中，输入306对应于如上文结合图2所描述的步骤204的传感器数据和对应输入。另外，在某些实施例中，输入306可包括事件（例如，接触）相机和感知系统输入307、触摸传感器输入308（例如，关于车辆的方向盘）、扭矩电容器输入309（例如，包括静态扭矩比的变化）、控制误差输入310（例如，对应于控制误差对驾驶员输入的度量）、姿势输入311（例如，关于驾驶员的姿势）、和/或任何数量的其他输入312。另外，在各种实施例中，还接收驾驶员的标识，例如经由检测与驾驶员相关联的钥匙扣、手机、一个或多个驾驶员监测系统、和/或其他装置。

在各种实施例中，执行状态分类（步骤314）。在各种实施例中，图1的处理器142提供关于与车辆100有关的各种道路和环境因素的分类（基于与这些道路和环境因素有关的确定）。例如，在各种实施例中，除了关于车辆100的移动的车辆参数（例如，速度、横向和纵向加速度及偏航率等）以及道路和环境因素（例如，包括道路是直的还是弯的、道路是相对平坦的还是倾斜的、道路表示干道还是高速公路、天气状况、交通状况、在道路上或附近检测到的车辆或其他物体等）之外，分类还与驾驶员动作（诸如，驾驶员对方向盘的触摸、施加到方向盘的驾驶员扭矩、驾驶员定位方向盘的角度、驾驶员的姿势等）有关。

在各种实施例中，对状态的分类被利用来确定驾驶员的专注性水平以及用于学习驾驶员随时间推移的驾驶风格、癖好和习惯，以便随后用于随时间推移确定驾驶员是否在欺骗控制系统102。在某些实施例中，驾驶员专注性由以下等式表示：

A_i = π (Q, S_i) （等式1），

其中“A_i”表示驾驶员的总专注性得分，“π”表示用于使用输入“Q”和“s”来确定总专注性得分的策略算法（和/或函数），其中，“Q”表示通过学习程序（它还可以包含预填充的先前知识）所学到的不同因素的知识得分（例如，每个知识得分基于特定的个体传感器数据值和状态），并且其中，“s”表示步骤314的状态分类的各种参数。

在各种实施例中，个体专注性得分“a”由以下等式表征：

A_i = [a1,…,am] （等式2），

其中“a₁”表示最低可能的专注性得分，“a_m”表示最高可能的专注性得分，以此类推。

在某些实施例中，在步骤314期间，可根据以下等式来表示状态分类值“s”：

S_i = [ΔQ_str,i, τ_D,i, τ_ctr,i, S_curv,i, v_x,i,] （等式3），

其中“S_i”表示针对特定状态因子“i”的分类；“ΔQ_str,i”表示触摸电容器输出的变化，“ S_curv,i”表示车辆行驶的道路的曲率度量，并且“ v_x,i”表示车辆的速度。“τ_D,I”表示驾驶员在方向盘上施加的扭矩的度量，“τ_ctr,I”表示由自动化驾驶系统向转向系统请求的控制扭矩命令。

在各种实施例中，在步骤316-320期间，基于步骤314的状态分类来确定预期的驾驶员行为。在各种实施例中，在步骤316-320期间，除了关于道路和车辆100的外部环境的附加因素（诸如，道路是直的还是弯的、道路是相对平坦的还是倾斜的、道路表示干道还是高速公路、天气状况、交通状况、在道路上或附近检测到的车辆或其他物体等）之外，图1的处理器142还基于步骤314的状态分类的各种因素（例如，包括关于车辆100的移动的车辆参数，诸如速度、横向和纵向加速度及偏航率等）来确定驾驶员就驾驶员对方向盘的接合的预期行为（例如，用一个或多个手指和/或一只或两只手握住方向盘、施加到方向盘的扭矩量、方向盘角度、以及上述中的任一者和所有的变化）。例如，在各种实施例中，如果驾驶员通常以特定的方式驾驶（例如，用一只手对两只手、和/或用一定数量的手指、和/或具有不同的风格或不同的道路和环境条件），则这将被捕获并实施为过程200的一部分。

另外，在各种实施例中，使用强化学习算法来确定预期的驾驶员行为，强化学习算法由图1的处理器142执行，并且该强化学习算法包括策略函数（步骤316）、动作函数（步骤318）和奖励函数（步骤320）以作为步骤316-320的预期的驾驶员行为确定的一部分。在各种实施例中，预期的驾驶员行为确定提供了输出，该输出包括根据以下等式的预期的驾驶员行为的奖励函数：

R(a,s) = -k_1 |τ_d–τ_c| + k_2 * sgn(k_3 - |τ_d–τ_c|) （等式4），

其中“R(A_i,S_i)”表示奖励函数，它明确地量化了驾驶员对环境如何反应。可以写出该等式的其他形式以量化驾驶员的专注性度量。k_1、k_2、k_3>0表示设计参数，“sgn”表示符号函数。

在各种实施例中，生成欺骗检测知识矩阵（步骤315）。在各种实施例中，图1的处理器142使用步骤314的状态分类连同步骤316-320的预期的驾驶员行为确定（包括步骤320的奖励函数和结果）来生成欺骗检测知识矩阵。在各种实施例中，在生成欺骗检测知识矩阵时，处理器142还利用关于驾驶员行为的传感器数据，包括驾驶员对方向盘的接合（在某些实施例中，这可能已经包括在步骤314的状态分类中）。

另外，在各种实施例中，在生成欺骗检测知识矩阵时，处理器142还利用下文直接描述的在步骤302和304中生成的先前知识。在某些实施例中，在步骤302期间，基于已知的用例来获得先前知识，例如基于许多不同驾驶员（例如，与车辆100无关）的平均或标准驾驶员动作（就一般或基线值，抑或针对与步骤314的状态分类中存在的情况类似的情况而定制）。另外，在某些实施例中，在步骤304期间，获得关于目前正在操作车辆100的当前驾驶员的先前行为的附加先前知识（例如，包括当前驾驶员可试图欺骗系统的先前实例和情况等）。另外，在某些实施例中，还可从存储的数据库中获得驾驶员欺骗的一般标准和/或指示，例如关于驾驶员与方向盘的接触和/或提供给方向盘的扭矩的预期变化水平，其一般而言基于驾驶员是否实际用他或她的手接合方向盘对“欺骗”活动（其中固定的重物或其他物体附接到方向盘（例如，当驾驶员实际接合方向盘时，可预期接触和/或扭矩的更大可变性等）。在某些实施例中，可“离线”执行步骤302和304（例如，在过程200的其他步骤之前和/或在当前车辆驾驶员之前和/或在执行过程200的当前迭代之前）。

在各种实施例中，经由图1的处理器142使用计算机处理器实施的机器学习（包括深度强化学习，包括基于上文所描述的步骤）来生成欺骗检测知识矩阵。在各种实施例中，欺骗检测知识矩阵被存储在图1的存储器144中，具体地作为矩阵155存储在其中，如图1中所描绘的。在各种实施例中，欺骗检测知识矩阵在过程200的当前和后续迭代（例如，包括在当前和后续车辆驾驶内）中被利用来确定驾驶员是否正试图就车辆100的自动化功能性欺骗控制系统102，例如根据下文提供的以下“Q矩阵”：

。

在各种实施例中，利用欺骗检测知识矩阵来确定当前驾驶员是否正试图欺骗控制系统（步骤322）。在各种实施例中，图1的处理器142将307-314的传感器数据和状态分类与步骤320的欺骗检测知识矩阵进行比较，以确定驾驶员是否正试图欺骗图1的控制系统102。

在各种实施例中，处理器142基于与欺骗检测知识矩阵相比较的当前传感器数据和分类来对相信驾驶员正试图欺骗控制系统102（例如，通过在方向盘上放置重物或其他物体等）的概率或百分比可能性赋值。因此，在各种实施例中，概率或百分比可能性因此基于在类似情况下（例如，在类似的道路条件和外部条件下等）驾驶员的当前行为对驾驶员的预期行为和驾驶员的实际过去行为的比较。

例如，在各种实施例中，如果特定的驾驶员在某些情况下通常将一定的扭矩量施加到方向盘和/或通常改变手的位置和/或施加到方向盘的扭矩（和/或如果其他驾驶员在类似情况下这样做），但未来在类似情况下不这样做，则不相信该驾驶员可能正试图欺骗系统。另外，如果驾驶员当前正在从事先前与驾驶员欺骗（例如，由当前驾驶员和/或其他驾驶员进行的驾驶员欺骗）相关联的行为，则这可能类似地导致得出驾驶员可能正试图欺骗系统的结论等。

在各种实施例中，步骤322的欺骗确定（包括与其有关的概率和/或欺骗检测百分比）在图2的步骤220-224中被利用并作为图2的欺骗检测百分比222，如上文结合图2所描述的。

另外，在各种实施例中，步骤322的这些确定结果还可用于调整就驾驶员欺骗的驾驶员升级动作的阈值（步骤324）。例如，如果特定的驾驶员发展出欺骗尝试的历史，则自动化车辆控制功能性的升级动作（例如，如上文结合图2的步骤224-236所描述的）可更快地实施和/或升级等。在各种实施例中，可在图3的步骤的未来迭代中以及在图2的步骤222-336的当前和未来迭代中利用步骤324的调整后的阈值。

另外，在各种实施例中，驾驶员欺骗确定的结果与驾驶员的特定标识（步骤326）、以及一个或多个另外的驾驶员专注性得分（步骤328）、驾驶风格（步骤330）和特定的驾驶员的升级构型（步骤332）相关联，并且自动化驾驶控制调适以安全地导航车辆。在各种实施例中，这些调整可类似于上文所描述的调整，并且还可结合到步骤315的欺骗检测知识矩阵和步骤322的驾驶员欺骗确定、以及如图2和图3中所描绘的过程200的其他步骤中。

图4和图5描绘了根据示例性实施例的图2和图3的过程200的示例性实施方式。具体地：（i）图4描绘了第一图示，其中结合不试图欺骗系统的第一驾驶员来实施过程200；而（ii）图5描绘了第二图示，其中结合正试图欺骗系统的第二驾驶员来实施过程200。

关于图4的第一实施方式，提供了第一图形表示，其包括表示时间（例如，在某些实施例中，以秒或毫秒为单位）的“x”轴401，并且其进一步包括表示驾驶员欺骗的可能性的“y”轴402（例如，在某些实施例中，以百分比为单位）。如图4中所描绘的，在该特定的实施方式中，学习阶段410被利用来构建关于车辆100的驾驶员的驾驶行为的信息。而且如图4中所描绘的，在该特定的实施例中，在学习阶段410之后的实施阶段420期间，确定不可能发生欺骗（例如，因为驾驶员的行为与其中欺骗并不明显的先前驾驶员行为一致）。

关于图5的第二实施方式，提供了第二图形表示，其包括表示时间（例如，在某些实施例中，以秒或毫秒为单位）的“x”轴501，并且其进一步包括表示驾驶员欺骗的可能性的“y”轴502（例如，在某些实施例中，以百分比为单位）。如图5中所描绘的，在该特定的实施方式中，学习阶段510被利用来构建关于车辆100的驾驶员的驾驶行为的信息。另外，如图5中所描绘的，在该特定的实施例中，在学习阶段510之后的实施阶段515和520期间，确定不可能发生欺骗（例如，因为驾驶员的行为要么（a）与其中欺骗并不明显的先前驾驶员行为一致，要么（b）与其中欺骗明显的先前驾驶员行为一致）。如图5中所描绘的，在各种实施例中，在检测到欺骗的情况下，实施阶段可包括其中最初涉嫌欺骗的初始部分（515）和其中确认欺骗的后续部分（520）。

因此，提供了用于确定驾驶员是否正试图就自动化车辆控制功能性欺骗或诱骗车辆系统的方法、系统和车辆。在各种实施例中，利用计算机学习算法来构建关于当前驾驶员（以及在某些实施例中，还有其他驾驶员）在各种条件下的驾驶行为的知识，并且生成欺骗知识矩阵。在各种实施例中，利用传感器数据来就当前车辆驾驶生成车辆、道路和环境的当前状态的分类，并且将传感器数据（以及与其有关的分类和确定）与欺骗知识矩阵结合利用，以便确定驾驶员何时试图就自动化车辆控制功能性欺骗系统。在各种实施例中，当确定驾驶员可能发生欺骗时，车辆控制系统实施一个或多个升级动作和/或协议，以便有助于保证驾驶员保持所需的专注性水平。

因此，在各种实施例中，所公开的系统、车辆和方法智能地检测和量化驾驶员是否在欺骗系统。此外，所公开的系统、车辆和方法是针对特定的驾驶员而定制的。例如，在各种实施例中，如果驾驶员通常以特定的方式驾驶（例如，用一只手对两只手、和/或用一定数量的手指、和/或具有不同的风格和特性或不同的道路和环境条件），则这也将被捕获并实施。在各种实施例中，所公开的系统、车辆和方法提供了系统性的、计算机处理器实施的数学解决方案，以学习针对不同驾驶员和不同驾驶条件的驾驶风格、分析驾驶员被期望如何操作车辆、以及将该信息与实时传感器数据结合使用来评估特定的驾驶员在特定的条件和环境下正试图欺骗自动化车辆控制系统的可能性。

将了解，系统、车辆和方法可不同于附图中所描绘的和本文中所描述的那些系统、车辆和方法。例如，图1的车辆100、其控制系统102和/或其图1的部件在不同的实施例中可不同。将类似地了解，过程200的步骤可不同于图2和图3中所描绘的步骤，和/或过程200的各个步骤可同时发生和/或以不同于图2和图3中所描绘的顺序发生。将类似地了解，在各种实施例中，图4和图5的实施方式也可不同。

尽管在前面的详细描述中已呈现了至少一个示例性实施例，但是应了解，存在大量的变型。还应了解，一个或多个示例性实施例仅是示例，并且不旨在以任何方式限制本公开的范围、适用性或构型。相反，前面的详细描述将为本领域技术人员提供用于实施一个或多个示例性实施例的便捷路线图。应理解，在不脱离如所附权利要求书及其法定等同物中陈述的公开内容的范围的情况下，可以对元件的功能和布置进行各种改变。

Claims (10)

1.一种方法，其包括：

经由车辆的一个或多个传感器获得传感器数据；

经由所述车辆的处理器，基于在多个时间段上对所述传感器数据的使用来确定所述车辆的驾驶员的驾驶风格；以及

经由所述处理器，基于所述传感器数据和所述驾驶员的所述风格来确定关于所述驾驶员是否正试图就所述车辆的一个或多个自动化特征欺骗所述车辆的控制系统的指示。

2.根据权利要求1所述的方法，其中，所述驾驶风格经由由所述处理器使用传感器数据所执行的强化学习来确定，所述传感器数据是在所述车辆周围的道路和外部环境的多种不同条件下在所述车辆的多个不同的点火循环上获得的。

3.根据权利要求2所述的方法，其进一步包括：

经由所述处理器，使用所述传感器数据来生成欺骗检测知识矩阵，所述传感器数据是在所述车辆周围的所述道路和外部环境的所述多种不同条件下在所述车辆的所述多个不同的点火循环上获得的；以及结合在所述多种不同条件下的所述驾驶风格和预期的驾驶员行为。

4.根据权利要求3所述的方法，其中，所述欺骗检测知识矩阵由所述处理器进一步基于另外的驾驶员在与所述多种不同条件类似的条件下的行为的知识而生成。

5.根据权利要求3所述的方法，其中，关于所述驾驶员是否正试图欺骗所述控制系统的所述指示由所述处理器使用所述欺骗检测知识矩阵结合所述传感器数据的当前值来确定。

6.根据权利要求1所述的方法，其中，所述传感器数据代表驾驶员对所述车辆的方向盘的接合。

7.根据权利要求6所述的方法，其中：

所述传感器数据包括来自所述车辆的一个或多个电容式传感器的关于所述驾驶员与所述车辆的所述方向盘的接触的电容式传感器数据；

所述驾驶风格的所述确定由所述处理器使用所述电容式传感器数据做出；并且

关于所述驾驶员是否正试图就所述车辆的所述一个或多个自动化特征欺骗所述车辆的所述控制系统的所述指示的所述确定基于所述电容式传感器数据和所述驾驶员的所述风格。

8.根据权利要求6所述的方法，其中：

所述传感器数据包括来自所述车辆的一个或多个扭矩传感器的关于所述驾驶员与所述车辆的所述方向盘的接触的扭矩传感器数据；

所述驾驶风格的所述确定由所述处理器使用所述扭矩传感器数据做出；并且

关于所述驾驶员是否正试图就所述车辆的所述一个或多个自动化特征欺骗所述车辆的所述控制系统的所述指示的所述确定基于所述扭矩传感器数据和所述驾驶员的所述风格。

9.一种系统，其包括：

一个或多个传感器，其被构造成获得车辆的传感器数据；以及

处理器，其被构造成至少促进：

基于在多个时间段上对所述传感器数据的使用来确定所述车辆的驾驶员的驾驶风格；以及

基于所述传感器数据和所述驾驶员的所述风格来确定关于所述驾驶员是否正试图就所述车辆的一个或多个自动化特征欺骗所述车辆的控制系统的指示。

10.一种车辆，其包括：

车身；以及

控制系统，其用于针对包括其车身在内的所述车辆的移动来控制一个或多个自动化控制系统，所述控制系统包括：

一个或多个传感器，其被构造成获得所述车辆的传感器数据；以及

处理器，其被构造成至少促进：

基于在多个时间段上对所述传感器数据的使用来确定所述车辆的驾驶员的驾驶风格；以及

基于所述传感器数据和所述驾驶员的所述风格来确定关于所述驾驶员是否正试图就所述车辆的一个或多个自动化特征欺骗所述控制系统的指示。