CN115465283A - 自适应信任校准 - Google Patents

Abstract

自适应信任校准的各方面可包括接收基于乘员传感器数据和第一场景情境传感器数据计算的自主运载工具的乘员的信任模型，以及/或者接收与该自主运载工具的环境相关联的第二场景情境传感器数据，基于该信任模型和信任模型阈值来确定过度信任场景或不信任场景，以及基于对该过度信任场景的该确定或对该不信任场景的该确定以及/或者该第二场景情境传感器数据，来生成并实现人机界面(HMI)动作或驾驶自动化动作。

Description

自适应信任校准

背景技术

人们越来越依赖运载工具中的自动化系统，从自适应巡航控制和防撞等高级驾驶员辅助系统(ADAS)到无人驾驶自动化。即使技术能力显著增长，仍然需要人员的监督和干预。研究人员已经证明，人类信任在人和自动化系统之间的交互中起着关键作用。一方面，低水平的信任可能导致不使用自动化，从而失去自动化的好处。另一方面，过度信任可能导致人完全脱离驾驶过程。

信任校准对于人和自动化之间的成功交互是必要的。人类信任在与自动化系统的交互中起着重要作用。然而，人类信任是一个抽象的、多学科的概念，个别学科将不同的关系描述为“信任”。为了避免信任错误校准(即，过度信任或不信任)，需要设计可预测人类信任并相应调适其行为的人类感知系统。

例如，在人与驾驶自动化系统之间的交互期间，人期望并信任自动化系统在不确定和危险的环境中安全驾驶。量化和预测信任是一项具有挑战性的任务，因为信任的含义在不同的情境中以及不同的人之间都会发生变化。特别地，由不信任或过度信任引起的信任错误校准导致不使用自动化。因此，目前的挑战是设计人类感知自动化，其可调适该自动化的行为以避免信任错误校准。

发明内容

根据一个方面，一种用于自适应信任校准的计算机实现的方法，可包括：接收与自动运载工具的乘员相关联的乘员传感器数据，接收与自动运载工具的环境相关联的场景情境传感器数据，基于乘员传感器数据和场景情境传感器数据来生成乘员的信任模型，基于信任模型和信任模型阈值来确定过度信任场景或不信任场景，以及基于对过度信任场景的确定或对不信任场景的确定，来生成并实现人机界面(HMI)动作或驾驶自动化动作。

乘员传感器数据可包括乘员注视数据或乘员生理数据中的一者或多者。场景情境传感器数据可包括自动运载工具的操作信号中的一者或多者。HMI动作可包括显示显示提示、提供音频提示或提供与环境内的道路元素相关联的触觉提示中的一者或多者。HMI动作可包括用于启用、禁用或调整运载工具系统的动作中的一者或多者。运载工具系统可包括空调(A/C)系统、风扇系统、座椅系统或增强现实系统中的一者或多者。驾驶自动化动作可包含调整加速或减速、攻击性(例如，在转弯方面，基于环境的场景或特征的加速)、定时或到对象的距离或用于应用制动的位置、到道路元素的最小距离边界或距环境中的点或线的停车距离中的一者或多者。环境可以是模拟环境，并且可以在模拟环境内模拟自动运载工具。生成和实现HMI动作或驾驶自动化动作可基于接收第二场景情境传感器数据。自动运载工具可自主地操作或驾驶通过环境。

根据一个方面，一种用于自适应信任校准的计算机实现的方法，可包括：接收基于乘员传感器数据和第一场景情境传感器数据计算的自动运载工具的乘员的信任模型，接收与自动运载工具的环境相关联的第二场景情境传感器数据，基于信任模型和信任模型阈值来确定过度信任场景或不信任场景，以及基于对过度信任场景的确定或对不信任场景的确定和第二场景情境传感器数据，来生成并实现人机界面(HMI)动作或驾驶自动化动作。

乘员传感器数据可包括乘员注视数据或乘员生理数据中的一者或多者。场景情境传感器数据可包括自动运载工具的操作信号中的一者或多者。HMI动作可包括显示显示提示、提供音频提示或提供与环境内的道路元素相关联的触觉提示中的一者或多者。

根据一个方面，一种用于自适应信任校准的系统，可包括行为控制器以及人机界面(HMI)控制器或驾驶自动化控制器中的一者或多者。行为控制器可接收基于乘员传感器数据和第一场景情境传感器数据计算的自动运载工具的乘员的信任模型，接收与自动运载工具的环境相关联的第二场景情境传感器数据，并且基于信任模型和信任模型阈值来确定过度信任场景或不信任场景。HMI控制器可基于对过度信任场景的确定或对不信任场景的确定以及第二场景情境传感器数据来生成和实现HMI动作。驾驶自动化控制器可基于对过度信任场景的确定或对不信任场景的确定以及第二场景情境传感器数据来生成并实现驾驶自动化动作。

乘员传感器数据可包括乘员注视数据或乘员生理数据中的一者或多者。场景情境传感器数据可包括自动运载工具的操作信号中的一者或多者。HMI动作可包括显示显示提示、提供音频提示或提供与环境内的道路元素相关联的触觉提示中的一者或多者。驾驶自动化动作可包括调整加速或减速、到道路元素的最小距离边界、或距环境中的点或线的停车距离中的一者或多者。环境可以是模拟环境，并且可以在模拟环境内模拟自动运载工具。

附图说明

图1是根据一个方面的用于自适应信任校准的系统的示例性部件图。

图2是根据一个方面的用于自适应信任校准的方法的示例性流程图。

图3是根据一个方面的可以实现图1的用于自适应信任校准的系统的示例性场景。

图4是根据一个方面的可以实现图1的用于自适应信任校准的系统的示例性场景。

图5是根据一个方面的示例性计算机可读介质或计算机可读装置的图示，该计算机可读介质或计算机可读装置包括被配置为体现本文阐述的规定中的一个或多个规定的处理器可执行指令。

图6是根据一个方面的示例性计算环境的图示，本文阐述的规定中的一个或多个规定在该计算环境中实现。

具体实施方式

以下包括本文采用的选定术语的定义。定义包括落入某个术语的范围内的并且可用于实施方式的部件的各种示例和/或形式。这些示例并非旨在进行限制。此外，本领域的普通技术人员将会知道，本文讨论的部件可以组合、省略或与其他部件组织或组织成不同架构。

如本文所用，“处理器”处理信号并且执行一般计算和算术功能。由处理器处理的信号可以包括数字信号、数据信号、计算机指令、处理器指令、消息、位、位流或可被接收、传输和/或检测的其他手段。一般来讲，处理器可以是多种处理器，包括多个单核和多核处理器和协处理器以及其他多个单核和多核处理器和协处理器架构。处理器可以包括各种模块以执行各种功能。

如本文所用的“存储器”可以包括易失性存储器和/或非易失性存储器。非易失性存储器可以包括例如ROM(只读存储器)、PROM(可编程只读存储器)、EPROM(可擦除PROM)和EEPROM(电可擦除PROM)。易失性存储器可以包括例如RAM(随机存取存储器)、同步RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双倍数据速率SDRAM(DDRSDRAM)和直接RAM总线RAM(DRRAM)。存储器可以存储控制或分配计算装置的资源的操作系统。

如本文所用的“盘”或“驱动器”可以是磁盘驱动器、固态磁盘驱动器、软盘驱动器、磁带驱动器、Zip驱动器、闪存存储器卡和/或存储棒。此外，盘可以是CD-ROM(压缩盘ROM)、CD可记录驱动器(CD-R驱动器)、CD可重写驱动器(CD-RW驱动器)和/或数字视频ROM驱动器(DVD-ROM)。盘可以存储控制或分配计算装置的资源的操作系统。

如本文所用，“总线”是指可互连的架构，其可操作地连接到在计算机内或在计算机之间的其他计算机部件。总线可以在计算机部件之间传输数据。总线可以是存储器总线、存储器控制器、外围总线、外部总线、纵横开关和/或本地总线等等。总线可还是使用诸如面向媒体的系统传送(MOST)、控制器局域网(CAN)、本地互连网络(LIN)等等协议来将在运载工具内的组件互连的运载工具总线。

如本文所用的“数据库”可以是指表、一组表和一组数据存储(例如，盘)和/或用于访问和/或操纵那些数据存储的方法。

“可操作的连接”或使实体“可操作地连接”的连接是可发送和/或接收信号、物理通信和/或逻辑通信的连接。可操作的连接可以包括无线接口、物理接口、数据接口和/或电接口。

如本文所用的“计算机通信”是指在两个或多个计算装置(例如，计算机、个人数字助理、蜂窝电话、网络装置)之间的通信，并且可以是例如网络传输、文件传输、小程序传输、电子邮件、超文本传输协议(HTTP)传输等。计算机通信可以跨例如无线系统(例如，IEEE802.11)、以太网系统(例如，IEEE 802.3)、令牌环系统(例如，IEEE802.5)、局域网(LAN)、广域网(WAN)、点对点系统、电路交换系统、分组交换系统等等发生。

如本文所用，“运载工具”是指能够运载一个或多个人类乘员并且由任何形式的能量提供动力的任何移动运载工具。术语“运载工具”包括汽车、卡车、货车、小型货车、SUV、摩托车、踏板车、船只、私人船艇和飞行器。在一些场景中，机动运载工具包括一个或多个发动机。此外，术语“运载工具”可以是指由完全地或部分地由电池供电的一个或多个电动马达供电的电动运载工具(EV)。EV可包括电池动力电动运载工具(BEV)和插电式混合动力电动运载工具(PHEV)。另外，术语“运载工具”可以是指由任何形式的能量提供动力的自动运载工具和/或自行驾驶运载工具。自动运载工具可以运载或可以不运载一个或多个人类乘员。

如本文所用的“运载工具系统”可以是可用于加强运载工具、驾驶和/或安全性的任何自动或手动系统。示例性运载工具系统包括自动驾驶系统、电子稳定性控制系统、防抱死制动系统、制动辅助系统、自动制动预填充系统、低速跟随系统、巡航控制系统、碰撞警告系统、碰撞缓解制动系统、自动巡航控制系统、通道偏离警告系统、盲点指示器系统、通道保持辅助系统、导航系统、变速器系统、制动踏板系统、电子动力转向系统、视觉装置(例如，相机系统、接近传感器系统)、气候控制系统、电子预紧系统、监测系统、乘客检测系统、运载工具悬架系统、运载工具座椅配置系统、运载工具车厢照明系统、音频系统、敏感度系统等。

本文讨论的方面可以在存储计算机可执行指令的非暂态计算机可读存储介质的上下文中描述和实现。非暂态计算机可读存储介质包括计算机存储介质和通信介质。例如，闪存存储器驱动器、数字通用盘(DVD)、压缩盘(CD)、软盘和磁带盒。非暂态计算机可读存储介质可以包括在用于信息(诸如计算机可读指令、数据结构、模块或其他数据)的存储的任何方法或技术中实现的易失性或非易失性、可移动和不可移动介质。

图1是根据一个方面的用于自适应信任校准的系统100的示例性部件图。用于自适应信任校准的系统100可包括一个或多个传感器102、信任模型计算器110、行为控制器120、HMI接口控制器130、驾驶自动化控制器140、HMI系统152和一个或多个运载工具系统162。

信任模型计算器110可包括处理器112和存储器114和/或经由该处理器和该存储器来实现。行为控制器120可包括处理器122和存储器124和/或经由该处理器和该存储器来实现。HMI接口控制器130可包括处理器132和存储器134和/或经由该处理器和该存储器来实现。驾驶自动化控制器140可包括处理器142和存储器144和/或经由该处理器和该存储器来实现。根据一个方面，相应的信任模型计算器110、行为控制器120、HMI接口控制器130、驾驶自动化控制器140或HMI接口的处理器112、122、132、142和存储器114、124、134、144中的一者或多者可被实现为相同(即，单个)处理器和存储器。根据另一个方面，处理器112、122、132、142和存储器114、124、134、144可以单独实现，并且信任模型计算器110、行为控制器120、HMI接口控制器130、驾驶自动化控制器140可被实现为单独的组件。

信任模型计算器110、行为控制器120、HMI接口控制器130、驾驶自动化控制器140或HMI接口中的一者或多者可以用盘驱动器或存储驱动器来实现，以及/或者经由总线连接，使得相应的组件可操作地连接并能够进行计算机通信。

信任模型计算器110可包括用于计算信任分数的信任模型数据库。信任模型计算器110可基于深度神经网络、卷积神经网络(CNN)或递归神经网络(RNN)来建模。该系统认为人类信任动态具有两个时间尺度：快速变化的短期信任，其捕捉瞬时情境的影响(类似于情境信任)；以及相对缓慢变化的长期信任，其捕捉人类在交互过程中的体验的影响(类似于习得信任)。

信任模型计算器110可接收与自动运载工具的乘员相关联的乘员传感器数据，在第一时间接收与自动运载工具的环境相关联的第一场景情境传感器数据，在第二时间接收与自动运载工具的环境相关联的第二场景情境传感器数据，并且基于乘员传感器数据和场景情境传感器数据来生成乘员的信任模型。

自动运载工具可自主地操作或驾驶通过该环境。在运载工具的半自主操作模式中，转向、加速和制动可由自动运载工具(这里为“运载工具”)的驾驶自动化控制器140自主控制。然而，驾驶员可仍然负责手动驾驶运载工具，使得驾驶员可必须在驾驶员认为的一个或多个情况下监督和接管运载工具的转向、加速和/或制动的控制。因此，半自动操作模式可减少驾驶员的工作量，同时提高驾驶安全性。由行为控制器120执行的自适应信任应用程序可利用计算机执行的过程，从而确保通过最大化驾驶员对运载工具的半自动控制的信任来增强运载工具的这种操作的益处。

乘员传感器数据可包括从传感器102接收的乘员注视数据或乘员生理数据中的一者或多者。场景情境传感器数据可包括自动驾驶运载工具的一个或多个操作信号(例如，可从运载工具的传感器102接收或从运载工具CAN接收的信号，诸如速度、加速、转向角等)。在任何情况下，可从自动运载工具上的传感器102接收乘员传感器数据和场景情境传感器数据。传感器102的示例包括眼睛注视传感器、激光雷达(LiDAR)传感器、雷达传感器、图像捕获传感器、包括相机的相机系统、全球定位系统(GPS)、激光投影系统等。

根据一个方面，激光投影系统可包括一个或多个LiDAR收发器。激光投影系统的一个或多个LiDAR收发器可以设置在运载工具的相应外部前方、后方和/或侧部，包括但不限于保险杠、车身面板、挡泥板、照明单元、窗户或挡风玻璃的不同部分。一个或多个相应的LiDAR收发器可包括一个或多个平面扫描激光器，该一个或多个平面扫描激光器可被配置为朝向运载工具的周围环境振荡并发射紫外光、可见光或近红外光的一个或多个激光束。激光投影系统可被配置为接收基于由LiDAR收发器发射的一个或多个激光束的一个或多个反射激光波。一个或多个反射激光波可从一个或多个物体(例如，静态和/或动态物体)反射，该些物体可位于运载工具的周围环境内。

在一种配置中，激光投影系统可被配置为将与一个或多个反射激光波相关联的LiDAR数据输出到由行为控制器120执行的自适应信任应用程序。自适应信任应用程序可被配置为分析关于运载工具的周围环境的LiDAR数据，以基于可能位于运载工具的周围环境内的一个或多个动态对象、可位于运载工具的周围环境内的一个或多个静态对象、位于运载工具的周围环境内的一个或多个道路/通道(例如，护栏、路缘、障碍物等)、可位于运载工具的周围环境内的一个或多个道路/通道上的一个或多个车道等的位置来确定运载工具的周围环境的场景。自适应信任应用程序可确定场景复杂度(例如，值、名称)，该场景复杂度可与基于由激光投影系统提供的LiDAR数据和/或由相机系统提供的图像数据确定的运载工具的场景相关联。

传感器102可包括运载工具的相机系统，该相机系统可以将传感器数据馈送到信任模型计算器110。相机系统可包括一个或多个相机，该一个或多个相机定位在运载工具的内部车厢的一个或多个内部部分处，以捕获运载工具的驾驶员(例如，操作者或者乘员)的图像。相机系统还可包括一个或多个相机，该一个或多个相机定位在运载工具的一个或多个外部部分处，以捕获运载工具的周围环境(例如，位于运载工具周围(例如，前方、后方、侧面)的预定区域)的图像。

定位在运载工具的内部车厢的一个或多个内部部分处的相机可被配置为捕获驾驶员眼睛的图像以进行分析，包括驾驶员眼睛在运载工具内的运动。根据一个方面，一个或多个相机可被配置为捕获驾驶员眼睛的图像，并将相应的图像数据发送到在行为控制器120上执行的自适应信任应用程序以及发送到信任模型计算器110。自适应信任应用程序可被配置为分析与在预定时间段内捕获的一个或多个图像相关联的图像数据，以分析一个或多个注视提示，从而在预定时间段内识别驾驶员的眼睛注视提示。

根据一个方面，自适应信任应用程序可连续地分析注视提示以识别驾驶员的眼睛注视方向。具体地，自适应信任应用程序可从相机系统发送的图像中检测驾驶员眼睛的位置，并且可具体地评估眼睛的特定区域(例如，虹膜、瞳孔、眼角等)。自适应信任应用程序可利用几乎任何方法来执行注视检测并转换注视提示，以确定驾驶员的眼睛注视方向。根据一个方面，自适应信任应用程序可基于线性模型来分析驾驶员的眼睛注视方向，该线性模型可考虑对运载工具的驾驶员的眼睛的特定区域的评估。

信任模型计算器110可基于从由相机系统发送的图像中检测到的驾驶员眼睛的位置的信息来确定过度信任或不信任场景。例如，如果驾驶员将目光从道路或环境移开超过阈值时间量，则信任模型计算器110可确定过度信任场景。作为另一示例，如果驾驶员将目光从道路或环境移开超过阈值时间量并且运载工具正在不仅仅是直道路的环境(例如，不是高速公路场景)中行驶，则信任模型计算器110可确定过度信任场景。相反，如果驾驶员持续注视道路或环境中即将到来的障碍物的时间大于阈值时间量，则信任模型计算器110可确定不信任场景。

关于定位在运载工具的外部周围环境处的相机系统的一个或多个相机，类似于LiDAR传感器，一个或多个相机可设置在运载工具的一个或更多外部前方部分。相机系统的一个或多个相机可设置在运载工具的外部前方部分，包括但不限于运载工具仪表板、运载工具保险杠、运载工具前照明单元、运载工具挡泥板和挡风玻璃的不同部分。根据一个方面，该一个或多个相机可被配置作为捕获RGB带的RGB相机，该RGB带被配置为捕获关于对象外观以及运载工具与运载工具的周围环境内的对象之间的关系和交互的丰富信息。

根据另一个方面，该一个或多个相机可以是立体相机，该立体相机被配置为以三维图像的形式捕获环境信息。在一个或多个配置中，该一个或多个相机可被配置为捕获运载工具的周围环境的一个或多个第一人称视角的RGB图像/视频。相机系统可被配置为将一个或多个RGB图像/视频(例如，图像序列)转换为传送到自适应信任应用程序的图像数据以待分析。

根据一个方面，自适应信任应用程序可被配置为分析关于运载工具的周围环境的图像数据，并确定运载工具的周围环境的场景。周围环境的场景可包括可位于运载工具的周围环境内的一个或多个动态对象或障碍物(例如，其他运载工具、行人)、可位于运载工具的周围环境内的一个或多个静态对象或环境特征(例如，街道标志、树木、建筑物)、可位于运载工具的周围环境(例如街道、交叉路口)内的一个或多个道路/通道、可位于运载工具的周围环境内的一个或多个道路/通道上的一个或多个车道等。如下文所讨论的，自适应信任应用程序可确定场景复杂度(例如，值、名称)，该场景复杂度可与基于由相机系统提供的图像数据和/或由运载工具的激光投影系统提供的数据所确定的运载工具的场景相关联。

可基于驾驶员对运载工具的半自主或自主操作的依赖来确定信任动态或信任模型，如由信任模型计算器110基于从传感器102接收的数据所计算的。另外，可以以增强现实提示的形式向运载工具的驾驶员、乘员或操作者提供实时自动化透明度，可针对确定信任动态来分析该增强现实提示。此外，可相对于确定信任动态或信任模型，来分析与运载工具的半自主或自主操作相关联的自动化可靠性和关于运载工具的周围环境的场景所确定的场景复杂度。

另外，可基于驾驶员在预定时间段内的眼睛注视方向来确定信任模型的工作负荷动态。还可利用自动化透明度、自动化可靠性和场景复杂度来确定信任模型的工作负荷动态。因此，自适应信任应用程序可在信任与工作负荷行为之间的动态交互随时间演变时(例如，实时地并且作为预测的未来时间点)捕捉该动态交互，并且可被配置成处理和实现最优控制策略以适当地改变自动化透明度。根据一个方面，除了改变自动化透明度之外，自适应信任应用程序可被配置为改变一个或多个驾驶功能的半自主或自主操作以实现信任校准。

行为控制器120可接收自动运载工具的乘员的信任模型。行为控制器120可基于信任模型和信任模型阈值来确定过度信任场景或不信任场景。当确定不信任场景时，HMI控制器可执行自适应信任校准应用程序，以通过增加来调整对用户或乘员的自动化透明度水平，从而通过提供关于自动运载工具正在“思考”什么的附加清晰度并与用户共享决策制定过程来校准要增加的人类信任。行为控制器120可基于第二场景情境传感器数据来确定过度信任场景或不信任场景。以此方式，行为控制器120可利用过去过度信任或过去不信任场景来适应或增强未来场景的信任校准。

行为控制器120可基于信任模型和场景情境来选择驾驶自动化动作或HMI动作的组合或仅选择其中一者。根据一个方面，当信任分数低于信任分数较高的场景时，行为控制器120可实现驾驶自动化动作和HMI动作两者。在较高信任分数场景中，行为控制器120可经由HMI接口控制器130仅实现HMI动作。根据另一个方面，如果信任分数更大或者甚至更高，则行为控制器120可经由驾驶自动化控制器140仅实现驾驶自动化动作。根据另一个方面，如果对于类似的场景情境重复发生不信任场景，则行为控制器120可实现附加的驾驶自动化动作或附加的HMI动作。行为控制器120可逐步停止用于不信任场景的附加驾驶自动化动作或附加HMI动作，以逐渐使用户或驾驶员适应不同场景情境内的自主驾驶。

HMI接口控制器130可执行一个或多个应用程序、操作系统、运载工具系统和子系统用户界面等。HMI接口控制器130可执行自适应信任校准应用程序，该自适应信任校准应用程序调整自动化透明度的水平，该自动化透明度以在运载工具的半自主或自主操作期间提供给运载工具的个体或乘员的一个或多个增强现实提示的形式提供。自适应信任应用程序可关于运载工具的一个或多个驾驶功能改变自动化透明度和功能，该一个或多个驾驶功能可基于人类信任和工作负荷估计，并且可利用CNN、RNN、马尔可夫模型等。

HMI接口控制器130可基于对过度信任场景的确定或对不信任场景的确定，经由一个或多个HMI系统152来生成和实现HMI动作。HMI系统152可包括扬声器、音频装置、显示器、平视显示器(HUD)、仪表显示器、仪表板显示器、仪表组显示器等。HMI接口控制器130可基于第二场景情境传感器数据来生成并实现HMI动作。HMI动作可包括显示显示提示、显示警报、提供音频提示或音频警报、或提供与环境内的道路元素相关联的触觉提示中的一者或多者。另外，HMI动作可包括用于对运载工具系统162中的一者或多者进行启用、禁用或调整的动作中的一者或多者。运载工具系统162可包括空调(A/C)系统、风扇系统、座椅系统或增强现实系统。

不信任的示例可包括当检测到对象或障碍物时接管驾驶或自主操作，即使当自动运载工具已经检测到对象或障碍物并且已经计划响应于检测到的对象或障碍物执行对应的驾驶自动化动作时也是如此。所接收的与不信任相关联的生理数据的示例可包括在运载工具的自主操作期间增加的人类工作负荷(例如，与基线相比，提供更多的驾驶输入或附加的眼睛注视活动)、增加的压力(例如，心跳增加、体温升高等)。不信任的其他示例可包括在自动驾驶(AD)/高级驾驶员辅助系统(ADAS)设计域内的情况或场景中(例如，当自动运载工具沿着半径内没有交通的直线道路行驶时等)未能激活或利用AD或ADAS特征。

过度信任的示例可包括在大于阈值时间量的时间内忽视运载工具周围的环境，诸如当用户或乘员开始阅读书籍、与移动装置交互、试图工作或忽视由自动运载工具提供的警告时。过度信任的其他示例可包括在AD/ADAS设计域之外的情况或场景中激活或利用AD/ADAS特征(例如，自动运载工具的指导手册规定，在示例性场景中可能不希望激活AD/ADAS，但是操作员或驾驶员与警告相反地使用AD/ADAS特征)。类似地，过度信任的另一示例可包括在自动运载工具的潜在不可靠操作期间(例如，在运载工具已经由HMI系统152发出接管请求或警告之后)未能进行手动控制或延迟接管。

驾驶自动化动作可包括调整加速或减速、到道路元素的最小距离边界、或距环境中的点或线的停车距离中的一者或多者。就这一点而言，驾驶自动化控制器140可执行自主驾驶命令以操作运载工具，从而自主控制运载工具的一个或多个驾驶功能。驾驶自动化动作的其他示例可包括但不限于转向、制动、加速、并道、转弯、滑行等。

根据一个方面，自适应信任应用程序可利用包括在信任模型计算器110的信任数据库内的数据来与驾驶自动化控制器140通信，以控制自动化透明度的水平和/或运载工具的一个或多个驾驶功能的自主操作。在一些场景中，自适应信任应用程序可被配置为与驾驶自动化控制器140通信，以提供运载工具的一个或多个驾驶功能的自主操作，以考虑一个或多个外部因素，该些外部因素可包括但不限于运载工具正在行驶的道路/通道的道路/通道状况、运载工具正在行驶的车道、交通信号的状态、交通模式、交通规则等。

根据一个方面，环境可以是模拟环境，并且可在该模拟环境内模拟自动运载工具。

根据一个方面，运载工具可另外包括可由系统行为控制器120可操作地控制的(即，运载工具系统162的)通信装置。通信装置可包括运载工具的一个或多个收发器。通信装置可被配置为通过互联网通过一个或多个无线通信信号进行通信，该无线通信信号可包括但可不限于

信号、Wi-Fi信号、ZigBee信号、Wi-Max信号等。通信装置可被配置为通过互联网进行通信，以向外部托管的服务器基础设施或外部服务器发送通信信号和从外部托管的服务器基础设施或外部服务器接收通信信号。根据一个方面，信任模型计算器110可被托管在外部服务器上，并且可执行自适应信任应用程序和/或信任模型计算器110，以利用处理能力来确定关于运载工具的自动驾驶对人类信任和工作负荷的影响，从而处理用于控制与运载工具的至少一个驾驶功能的半自主或自主操作相关联的自主透明度的控制策略。

神经网络可用于使用马尔可夫决策过程模型来建模人类信任和工作负荷对可观察变量的影响，从而使得应用程序能够基于使用马尔可夫决策过程模型建模的影响来分析人类信任模型和工作负荷动态。根据一个方面，包括神经网络的外部服务器的组件可由处理器可操作地控制。处理器可被配置为可操作地控制神经网络以利用机器学习/深度学习来提供可用于构建机器学习数据集的人工智能能力。

继续参考信任模型计算器110被托管在外部服务器上的方面，处理器可以可操作地连接到存储器。存储器可存储一个或多个操作系统、应用程序、相关联的操作系统数据、应用数据、可执行数据等。根据该方面，机器学习数据集可被配置为包括与数据相关联的一个或多个字段的数据集，该数据可属于关于运载工具的自动驾驶的人类信任和工作负荷的一个或多个确定的水平，该确定的水平基于场景复杂度、自动化可靠性和自动化透明度中的一者或多者。特别地，一个或多个字段可包括提供给运载工具驾驶员的驾驶员信赖、自动化可靠性、场景复杂度和自动化透明度水平的实时确定。另外，一个或多个字段可包括驾驶员信赖和驾驶员工作负荷的预测，该预测可基于驾驶员信赖和驾驶员工作负荷的实时确定。

根据一个方面，外部服务器的处理器还可被配置为与通信装置进行通信。通信装置可被配置为通过互联网通过一个或多个无线通信信号进行通信，该无线通信信号可包括但可不限于

信号、Wi-Fi信号、ZigBee信号、Wi-Max信号等。根据一个方面，通信装置可被配置为连接到互联网以向运载工具发送通信信号和从运载工具接收通信信号。以此方式，用于自适应信任校准的系统100可基于多个方面相应地校准人类信任。

图2是根据一个方面的用于自适应信任校准的方法的示例性流程图。用于自适应信任校准的方法200可包括：接收202与自动运载工具的乘员相关联的乘员传感器数据；接收204与自动运载工具的环境相关联的场景情境传感器数据；基于乘员传感器数据和场景情境传感器数据来生成206乘员的信任分数或信任模型；基于信任分数和信任分数阈值来确定208过度信任场景或不信任场景；以及基于过度信任场景的确定或不信任场景的确定来生成和实现210HMI动作或驾驶自动化动作。根据一个方面，用于自适应信任校准的方法200可包括：接收与自动运载工具的环境相关联的第二场景情境传感器数据，并且生成和实现210HMI动作或驾驶自动化动作可以基于第二场景情境传感器数据。

HMI接口控制器130可基于过去的过度信任或过去的不信任情况以及当前乘员传感器数据或当前场景情境传感器数据，经由一个或多个HMI系统152来生成和实现HMI动作。例如，参考图3的场景300，如果乘员在自动运载工具进入建筑区域时已经历史地接管控制，但是系统注意到尽管自动运载工具识别或检测建筑区域并且确定用于识别或检测的建筑区域的对应驾驶自动化动作，但是该接管控制已经发生，则当识别随后的建筑区域310时，HMI接口控制器130可以提供通知或警报(例如，经由使用HMI系统152中的任何一个的显示器或音频系统)，基于先前对其他建筑区域或异常道路轮廓的经验，向乘员指示自动运载工具“意识到”即将到来的建筑区域310。

根据该示例，信任模型计算器110可已经预先计算了与建筑区域的场景情境相关联的信任分数。基于建筑区域内接管控制的先前或第一次发生的信任分数可低于信任分数阈值。传感器102可检测到运载工具正在进入或接近另一建筑区域(例如，第二次出现)，并将其作为当前场景情境数据转发给信任模型计算器110。基于包括运载工具正在接近建筑区域的场景的当前场景情境数据并且基于来自与建筑区域的先前交互的与建筑区域的场景情境相关联的信任分数，信任模型计算器110可向行为控制器120指示驾驶员信任低，从而指示不信任场景。

就这一点而言，行为控制器120可警告HMI接口控制器130增加对驾驶员的透明度水平，从而导致HMI接口控制器130激活HMI系统152以提供AR-HUD通知，该通知概述即将来临的建筑区域并警告驾驶员或乘员运载工具意识到该建筑区域。

类似地，驾驶自动化控制器140可基于对过度信任场景的确定或对不信任场景的确定来生成并实现驾驶自动化动作。关于图3，驾驶自动化控制器140可在与其他对象或障碍物的默认距离相比离建筑区域更大的距离处生成并实现规避机动的驾驶自动化动作。此外，驾驶自动化控制器140可在与其他对象或障碍物的默认制动距离相比离建筑区更大的距离处生成和实现更加平缓的制动的驾驶自动化动作。

作为另一示例，参考图4的场景400，如果当自动运载工具正进入有行人的交叉路口时，乘员通过刹车已经在历史上接管了控制，但是尽管自动运载工具识别或检测到交叉路口和行人并且确定用于所识别或检测到的交叉路口的对应驾驶自动化动作，系统仍然注意到该接管控制已经发生，则当识别到后续交叉路口402时，自动运载工具可使驾驶自动化控制器140在距交叉路口或行人424更远的距离处施加制动，以向乘员指示自动运载工具“意识到”行人424和/或交叉路口402。此外，驾驶自动化控制器140可基于驾驶员的眼睛注视方向422来生成并实现驾驶自动化动作。例如，如果眼睛注视方向422远离行人424，则驾驶自动化控制器140可比眼睛注视方向指向行人424的情况更快地施加制动。

又一方面涉及计算机可读介质，该计算机可读介质包括处理器可执行指令，该处理器可执行指令被配置为实现本文呈现的技术的一个方面。图5中示出了以这些方式设计的计算机可读介质或计算机可读装置的一方面，其中实施方式500包括计算机可读介质508，诸如CD-R、DVD-R、闪存驱动器、硬盘驱动器盘片等，计算机可读数据506在该计算机可读介质上进行编码。该编码的计算机可读数据506(诸如包括如506所示的多个零和一的二进制数据)又包括一组处理器可执行计算机指令504，该组指令被配置为根据本文阐述的原理中的一个或多个原理操作。在该实施方式500中，处理器可执行计算机指令504可以被配置为执行方法502，诸如图2的方法200。在另一个方面，处理器可执行计算机指令504可以被配置为实现系统(诸如图1的系统100)。许多此类计算机可读介质可以由本领域的普通技术人员设计，其被配置为根据本文呈现的技术进行操作。

如本申请中所用，术语“部件”、“模块”、“系统”、“接口”等一般旨在是指计算机相关实体、硬件、硬件和软件的组合、软件或执行中的软件。例如，组件可以是但不限于是在处理器上运行的进程、处理单元、对象、可执行程序、执行线程、程序或计算机。作为说明，在控制器上运行的应用程序和控制器两者都可以是组件。驻留在进程或执行线程和组件内的一个或多个组件可以位于一台计算机上或分布在两台或更多台计算机之间。

此外，所要求保护的主题被实现为使用标准编程或工程技术以产生软件、固件、硬件或它们的任何组合来控制计算机实现所公开的主题的方法、设备或制品。如本文所用的术语“制品”旨在涵盖可从任何计算机可读装置、载体或介质访问的计算机程序。当然，在不脱离所要求保护的主题的范围或精神的情况下，可以对该配置做出许多修改。

图6和以下讨论提供了用于实现本文阐述的规定中的一个或多个规定的方面的合适的计算环境的描述。图6的操作环境仅是合适的操作环境的一个示例，并且并不旨在对操作环境的使用范围或功能提出任何限制。示例性计算装置包括但不限于个人计算机、服务器计算机、手持式或膝上型装置、移动装置(诸如移动电话、个人数字助理(PDA)、媒体播放器等)、多处理器系统、消费者电子装置、小型计算机、大型计算机、包括上述系统或装置中的任一个的分布式计算环境等。

一般来说，在“计算机可读指令”可由一个或多个计算装置执行的一般上下文中描述各方面。计算机可读指令可以经由计算机可读介质分发，如下面将讨论。计算机可读指令可以被实现为执行一个或多个任务或实现一个或多个抽象数据类型的程序模块，诸如函数、对象、应用程序编程接口(API)、数据结构等。通常，计算机可读指令的功能性根据需要在各种环境中组合或分布。

图6示出了包括被配置为实现本文提供的一个方面的计算装置612的系统600。在一个配置中，计算装置612包括至少一个处理单元616和存储器618。取决于计算装置的确切配置和类型，存储器618可以是易失性的(诸如RAM)、非易失性的(诸如ROM、闪存存储器等)或这两者的组合。该配置在图6中由虚线614示出。

在其他方面，计算设备612包括附加特征或功能。例如，计算装置612可包括附加存储装置，诸如可移动存储装置或不可移动存储装置，包括但不限于磁性存储装置、光学存储装置等。此类附加存储装置在图6中由存储装置620示出。在一个方面，用于实现本文提供的一个方面的计算机可读指令在存储装置620中。存储装置620可以存储其他计算机可读指令以实现操作系统、应用程序等。例如，计算机可读指令可以加载到存储器618中以供处理单元616执行。

如本文所用的术语“计算机可读介质”包括计算机存储介质。计算机存储介质包括在用于存储信息(诸如计算机可读指令或其他数据)的任何方法或技术中实现的易失性和非易失性、可移动和不可移动介质。存储器618和存储装置620是计算机存储介质的示例。计算机存储介质包括但不限于RAM、ROM、EEPROM、闪存存储器或其他存储器技术、CD-ROM、数字通用盘(DVD)或其他光学存储装置、盒式磁带、磁带、磁盘存储装置或其他磁性存储装置或可用于存储期望的信息并且可由计算装置612访问的任何其他介质。任何此类计算机存储介质都是计算装置612的一部分。

术语“计算机可读介质”包括通信介质。通信介质通常以“经调制的数据信号”(诸如载波或其他传输机制)来体现计算机可读指令或其他数据并且包括任何信息传递介质。术语“经调制的数据信号”包括以对信号中的信息进行编码的方式设置或改变其特性中的一个或多个的信号。

计算装置612包括输入装置624，诸如键盘、鼠标、笔、语音输入装置、触摸输入装置、红外相机、视频输入装置或任何其他输入装置。输出装置622(诸如一个或多个显示器、扬声器、打印机或任何其他输出装置)可以被包括在计算装置612中。输入装置624和输出装置622可以经由有线连接、无线连接或它们的任何组合连接到计算装置612。在一个方面，来自另一计算装置的输入装置或输出装置可以用作计算装置612的输入装置624或输出装置622。例如，计算装置612可以包括通信连接626，以便于诸如通过网络628与一个或多个其他装置630进行通信。

尽管用特定于结构特征或方法动作的语言描述了本主题，但是应当理解，所附权利要求书的主题不一定限于上述具体特征或动作。相反，上述具体特征和动作是作为示例性方面被公开。

在本文提供了各方面的各种操作。描述操作中的一个或多个或全部的次序不应被解释为暗示这些操作必须是按次序的。将会基于该描述而知道替代排序。此外，并非所有操作都必须要存在于本文提供的每个方面中。

如本申请中所用，“或”旨在表示包括性“或”而非排他性“或”。此外，包含性“或”可以包括它们的任何组合(例如，A、B或它们的任何组合)。另外，除非另外指明或从上下文清楚指向单数形式，否则如本申请中所用的“一个”和“一种”一般被解释为表示“一个或多个”。另外，A和B中的至少一个和/或相似的表达一般表示A或B或A和B两者。此外，就“包括(includes)”、“具有(having)”、“具有(has)”、“带有”或它们的变体在详细描述或权利要求书中使用来说，此类术语旨在以与术语“包括(comprising)”类似的方式是包括性的。

此外，除非另有说明，否则“第一”、“第二”等并不表示暗示时间方面、空间方面、排序等。相反，此类术语仅用作特征、要素、项等的标识符、名称等。例如，第一信道和第二信道一般对应于信道A和信道B或两个不同或两个相同的信道、或同一信道。另外，“包括(comprising)”、“包括(comprises)”、“包括(including)”、“包括(includes)”等一般表示包括(comprising)或包括(including)但不限于。

应当理解，上面公开的特征和功能以及其他特征和功能中的各种特征和功能或它们的替代物或变体可以理想地组合到许多其他不同系统或应用中。此外，本领域的技术人员可以之后做出本文的各种目前无法预料或无法预期的替代、修改、变化或改进，这些也旨在被所附权利要求书涵盖。

Claims (20)

1.一种用于自适应信任校准的计算机实现的方法，包括：

接收与自动运载工具的乘员相关联的乘员传感器数据；

接收与所述自动运载工具的环境相关联的场景情境传感器数据；

基于所述乘员传感器数据和所述场景情境传感器数据来生成所述乘员的信任模型；

基于所述信任模型和信任模型阈值来确定过度信任场景或不信任场景；以及

基于对所述过度信任场景的所述确定或对所述不信任场景的所述确定，来生成并实现人机界面(HMI)动作或驾驶自动化动作。

2.根据权利要求1所述的用于自适应信任校准的计算机实现的方法，其中所述乘员传感器数据包括乘员注视数据或乘员生理数据中的一者或多者。

3.根据权利要求1所述的用于自适应信任校准的计算机实现的方法，其中所述场景情境传感器数据包括所述自动运载工具的操作信号中的一者或多者。

4.根据权利要求1所述的用于自适应信任校准的计算机实现的方法，其中所述HMI动作包括显示显示提示、提供音频提示或提供与所述环境内的道路元素相关联的触觉提示中的一者或多者。

5.根据权利要求1所述的用于自适应信任校准的计算机实现的方法，其中所述驾驶自动化动作包括调整加速或减速、到道路元素的最小距离边界、或距所述环境中的点或线的停车距离中的一者或多者。

6.根据权利要求1所述的用于自适应信任校准的计算机实现的方法，其中所述环境是模拟环境，并且其中在所述模拟环境内模拟所述自动运载工具。

7.根据权利要求1所述的用于自适应信任校准的计算机实现的方法，其中生成和实现所述HMI动作或所述驾驶自动化动作基于接收第二场景情境传感器数据。

8.根据权利要求1所述的用于自适应信任校准的计算机实现的方法，其中所述HMI动作包括用于启用、禁用或调整运载工具系统的动作中的一者或多者。

9.根据权利要求8所述的用于自适应信任校准的计算机实现的方法，其中所述运载工具系统包括空调(A/C)系统、风扇系统、座椅系统或增强现实系统中的一者或多者。

10.根据权利要求1所述的用于自适应信任校准的计算机实现的方法，其中所述自动运载工具自主地操作或驾驶通过所述环境。

11.一种用于自适应信任校准的计算机实现的方法，包括：

接收基于乘员传感器数据和第一场景情境传感器数据计算的自动运载工具的乘员的信任模型；

接收与所述自动运载工具的环境相关联的第二场景情境传感器数据；

基于所述信任模型和信任模型阈值来确定过度信任场景或不信任场景；以及

基于对所述过度信任场景的所述确定或对所述不信任场景的所述确定以及所述第二场景情境传感器数据，来生成并实现人机界面(HMI)动作或驾驶自动化动作。

12.根据权利要求11所述的用于自适应信任校准的计算机实现的方法，其中所述乘员传感器数据包括乘员注视数据或乘员生理数据中的一者或多者。

13.根据权利要求11所述的用于自适应信任校准的计算机实现的方法，其中所述场景情境传感器数据包括所述自动运载工具的操作信号中的一者或多者。

14.根据权利要求11所述的用于自适应信任校准的计算机实现的方法，其中所述HMI动作包括显示显示提示、提供音频提示或提供与所述环境内的道路元素相关联的触觉提示中的一者或多者。

15.一种用于自适应信任校准的系统，包括：

行为控制器：

接收基于乘员传感器数据和第一场景情境传感器数据计算的自动运载工具的乘员的信任模型；

接收与所述自动运载工具的环境相关联的第二场景情境传感器数据；以及

基于所述信任模型和信任模型阈值来确定过度信任场景或不信任场景；以及

人机界面(HMI)控制器，所述HMI控制器基于对所述过度信任场景的所述确定或对所述不信任场景的所述确定以及所述第二场景情境传感器数据，来生成并实现HMI动作；或者

驾驶自动化控制器，所述驾驶自动化控制器基于对所述过度信任场景的所述确定或对所述不信任场景的所述确定以及所述第二场景情境传感器数据，来生成并实现驾驶自动化动作。

16.根据权利要求15所述的用于自适应信任校准的系统，其中所述乘员传感器数据包括乘员注视数据或乘员生理数据中的一者或多者。

17.根据权利要求15所述的用于自适应信任校准的系统，其中所述场景情境传感器数据包括所述自动运载工具的操作信号中的一者或多者。

18.根据权利要求15所述的用于自适应信任校准的系统，其中所述HMI动作包括显示显示提示、提供音频提示或提供与所述环境内的道路元素相关联的触觉提示中的一者或多者。

19.根据权利要求15所述的用于自适应信任校准的系统，其中所述驾驶自动化动作包括调整加速或减速、到道路元素的最小距离边界、或距所述环境中的点或线的停车距离中的一者或多者。

20.根据权利要求15所述的用于自适应信任校准的系统，其中所述环境是模拟环境，并且其中在所述模拟环境内模拟所述自动运载工具。

Images