CN108351221B - 用于生成交互式用户界面的系统和方法 - Google Patents

用于生成交互式用户界面的系统和方法 Download PDF

Info

Publication number
CN108351221B
CN108351221B CN201680055387.8A CN201680055387A CN108351221B CN 108351221 B CN108351221 B CN 108351221B CN 201680055387 A CN201680055387 A CN 201680055387A CN 108351221 B CN108351221 B CN 108351221B
Authority
CN
China
Prior art keywords
autonomous vehicle
user
interactive
travel path
timeline
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201680055387.8A
Other languages
English (en)
Other versions
CN108351221A (zh
Inventor
P·S·派蒙特
J·D·高斯尼尔
K·F·布朗德尔
D·德·罗查·罗萨里奥
S·D·布达拉木
S·赫兹
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Apple Inc
Original Assignee
Apple Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Apple Inc filed Critical Apple Inc
Publication of CN108351221A publication Critical patent/CN108351221A/zh
Application granted granted Critical
Publication of CN108351221B publication Critical patent/CN108351221B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34Route searching; Route guidance
    • G01C21/36Input/output arrangements for on-board computers
    • G01C21/3697Output of additional, non-guidance related information, e.g. low fuel level
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34Route searching; Route guidance
    • G01C21/36Input/output arrangements for on-board computers
    • G01C21/3667Display of a road map
    • G01C21/367Details, e.g. road map scale, orientation, zooming, illumination, level of detail, scrolling of road map or positioning of current position marker
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34Route searching; Route guidance
    • G01C21/36Input/output arrangements for on-board computers
    • G01C21/3664Details of the user input interface, e.g. buttons, knobs or sliders, including those provided on a touch screen; remote controllers; input using gestures
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34Route searching; Route guidance
    • G01C21/36Input/output arrangements for on-board computers
    • G01C21/3667Display of a road map
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/0088Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots characterized by the autonomous decision making process, e.g. artificial intelligence, predefined behaviours
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0212Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/60Intended control result
    • G05D1/646Following a predefined trajectory, e.g. a line marked on the floor or a flight path
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/80Arrangements for reacting to or preventing system or operator failure
    • G05D1/81Handing over between on-board automatic and on-board manual control

Landscapes

  • Engineering & Computer Science (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Automation & Control Theory (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Health & Medical Sciences (AREA)
  • Business, Economics & Management (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Game Theory and Decision Science (AREA)
  • Medical Informatics (AREA)
  • Human Computer Interaction (AREA)
  • User Interface Of Digital Computer (AREA)
  • Navigation (AREA)
  • Traffic Control Systems (AREA)

Abstract

本文描述和要求保护的具体实施提供用于用户与机器之间的交互的系统和方法。在一个具体实施中,在专用机器部件处接收针对机器的机器状态信息。所述机器状态信息被发布到机器的分布式节点系统网络上。在主界面控制器处摄取机器状态信息,并且使用所述主界面控制器生成交互式用户界面。基于机器状态信息生成交互式用户界面。在一些具体实施中,通过交互式用户界面在所述主界面控制器处从用户接收输入,并且使用所述分布式节点系统网络将对应的动作委派给机器的一个或多个子系统。

Description

用于生成交互式用户界面的系统和方法
相关申请的交叉引用
本专利申请要求于2015年9月24日提交的标题为“Systems and Methods forGenerating an Interactive User Interface”的美国临时申请No.62/232,322的优先权,该临时申请以引用的方式全文详尽地并入本文。
技术领域
本公开的各方面涉及用于机器的交互式用户界面,并且更具体地讲,涉及提供与自主机器的操作相关的信息的交互式用户界面。
背景技术
自主机器(包括机器人、飞行器、航空航天器、潜水器、汽车、其他地面交通工具等)能够凭借来自用户的有限输入而在其相应环境内操作。传统的自主机器一般不能补偿用户与自主机器之间的操作参与的这种缺乏。因此,用户可能不知道自主机器计划的未来动作并且/或者缺乏对该自主机器的决定或动作的基础的理解,这可能不必要地降低用户对该自主机器的信任,或者以其他方式使用户不安。正是考虑到这些和其他观察结果,构思并制定了本公开的各个方面。
发明内容
本文描述和要求保护的具体实施通过提供用于用户与机器之间的交互的系统和方法来解决上述问题。在一个具体实施中,在专用机器部件处接收针对该机器的机器状态信息。机器状态信息被发布到该机器的分布式节点系统网络上。在主界面控制器处摄取机器状态信息,并且使用主界面控制器生成交互式用户界面。基于机器状态信息生成该交互式用户界面。在一些具体实施中,通过交互式用户界面在主界面控制器处从用户接收输入,并且使用分布式节点系统网络将对应的动作委派给机器的一个或多个子系统。
本文还描述和列举了其他具体实施。此外,虽然公开了多个具体实施,但是根据示出和描述本发明所公开的技术的示例性具体实施的以下详细描述,本发明所公开的技术的其他具体实施对于本领域的技术人员而言将变得显而易见。如将认识到的,在均不脱离本发明所公开的技术的实质和范围的前提下,可在各个方面对本发明所公开的技术进行修改。因此,附图和具体实施方式在实质上将被视为是例示性的而不是限制性的。
附图说明
图1是用于自主机器的示例性交互式用户界面的图。
图2示出了用于生成交互式用户界面的示例性系统。
图3示出了具有行进路径的时间线的交互式用户界面。
图4示出了具有针对路点目标(呈现以供选择)的选项的时间线。
图5示出了基于对路点目标的选择而更新的时间线。
图6示出了对即将到来的行进障碍的通知。
图7示出了具有路线详细信息的交互式用户界面。
图8示出了一段持续时间内的行进信息。
图9示出了显示用于驾驶训练的模拟环境的交互式用户界面。
图10示出了用于用户与机器之间的交互的示例性操作。
图11是包括被布置成执行本发明所公开的技术的各种操作的操作单元的电子设备的功能框图。
图12是可实现本发明所公开的技术的各种系统和方法的示例性计算系统。
具体实施方式
本发明所公开的技术的各方面涉及用于用户与机器(诸如自主机器)之间的交互的系统和方法。一般地,主界面控制器为用户与机器之间的交互生成交互式用户界面。交互式用户界面有助于用户了解机器的状态、动作和决定,同时允许用户影响或控制机器的各种操作。例如,交互式用户界面可允许用户沿行进路径动态地修改机器的路线。在一个特定方面,交互式用户界面包括时间线、通信层和指示,以便为用户提供简单而直观的手段来与机器进行交互以及理解机器的行为。
本文公开的各种系统和方法一般提供用户与机器之间的交互。本文讨论的示例性具体实施标引针对用于运输用户的有人驾驶的自主交通工具的交互式用户界面。然而,本领域的技术人员应当理解,本发明所公开的技术可应用于其他人机界面(HMI)环境以及其他有人驾驶和无人驾驶的自主机器,包括但不限于:机器人、飞行器、航空航天器、潜水器、地面交通工具等。本发明所公开的技术可进一步应用于其他类型的机器和用户设备,诸如个人计算机、工作站、终端、移动设备、智能电话、平板电脑、多媒体控制台以及其他计算设备。
图1是用于自主机器的示例性交互式用户界面100的图,该自主机器为诸如用于沿行进路径运输一个或多个用户的自主交通工具。自主交通工具能够在有限的用户输入下沿行进路径进行移动。换句话说,并非用户在操作上参与控制自主交通工具的动作,而是用户可提供指令诸如一个或多个目标点,并且自主交通工具通过一系列自主决定将用户运输到所选择的目标点。
虽然用户可理解自主交通工具正沿行进路径将用户运输到所选择的目标,但是用户可能不知道行进路径的详细信息、自主交通工具计划的未来动作、之前和当前自主决定的基础、自主交通工具的各种子系统的状态等等。此外,用户可能期望改变所选择的目标点或以其他方式修改行进路径,考虑到自主交通工具操作的复杂性,按照惯例来说这可能是令人沮丧的或压倒性的。正因如此,生成了交互式用户界面100以促进用户与机器之间的交互。
在一个具体实施中,交互式用户界面100被部署在自主交通工具的驾驶舱和/或乘客区段中,从而促进在运输用户期间与一个或多个用户的交互。在其中自主交通工具是无人驾驶的或以其他方式远程操作的另一具体实施中,交互式用户界面100被部署在远离自主交通工具的中央位置处,诸如交通控制中心或其他指挥中心。还可经由用户设备来提供交互式用户界面100,用于用户与自主交通工具之间的远程或本地交互。
如本文所述,可使用各种输入和输出设备以各种方式来呈现交互式用户界面100。例如,交互式用户界面100可被呈现为交互式仪表板界面、交互式窗口界面、交互式平视显示器界面等等。界面元素可被呈现在界面的各个部分处。例如,界面元素可被呈现在平视显示器界面的底部或侧面。在一个具体实施中,交互式用户界面100包括交互式仪表板界面102和交互式窗口界面104,如图1所示。交互式界面102和交互式界面104中的每一者都被配置用于各种形式的输入和输出,包括视觉、音频、触觉等等。
交互式仪表板界面102提供可用于控制自主交通工具的操作并获得与其相关的信息的仪表板。在一个具体实施中,交互式仪表板界面102是被配置为接收来自一个或多个用户的触觉输入并显示视觉输出的触觉触摸屏显示器。交互式仪表板界面102还可被配置为接收来自用户的手势命令形式下的视觉输入、来自用户的语音命令形式下的音频输入,以及其他触觉输入。类似地,交互式仪表板界面102可被配置为提供其他视觉、音频或触觉输出。
交互式窗口界面104提供了自主交通工具外部的环境的视图。该视图可以是通过设置在自主交通工具中的开口中的透明盖(诸如挡风玻璃、窗户、孔口、门等)的实时直接视图。该视图可另选地是使用一个或多个输出设备再现的实时间接视图。在一个具体实施中,交互式窗口界面104提供增强现实,其中外部环境是交互式的且可数字操纵。换句话说,交互式窗口界面104可利用增强现实技术以及计算机视觉技术来修改外部环境中的一个或多个元素并且/或者覆盖交互式特征或信息。除此之外或另选地,交互式窗口界面104可创建人造或模拟环境,例如用于学习如何驾驶。
交互式用户界面100包括基于机器状态信息生成的一个或多个交互式特征。机器状态信息可包括但不限于:导航信息、交通工具运动信息、交通工具感知信息、交通工具状态信息、交通工具环境信息等等。导航信息可包括有关机器从起始点到一个或多个目标点的行进路径的任何信息。例如,导航信息可以包括但不限于:标测信息;位置信息;环境状况信息,诸如交通信息、障碍信息、天气信息,道路封闭信息;等等。
交通工具运动信息包括有关自主交通工具的移动的数据,诸如位置信息、惯性信息和动力学。交通工具感知信息提供自主交通工具相对于外部环境的概念的感知,并且可基于用一个或多个传感器捕捉的外部环境的原始数据来生成。交通工具状态信息有关交通工具的子系统中的每一者的状态。例如,交通工具状态信息可指示各种引擎部件的操作状态、燃料水平、电池电量、轮胎压力,窗户取向(例如,打开或关闭)以及其他内部和外部部件的状态。交通工具环境信息涉及内部交通工具服务,诸如气候控制、音乐和声音控制、座椅取向以及其他用户体验服务。
可基于针对一个或多个用户的用户状态信息进一步生成交互式用户界面100的交互式特征。用户状态信息可包括但不限于:用户行进历史(例如,用户已经去过哪里)、用户行进计划(例如,安排的航班)、日历事件、用户活动(例如,锻炼)、用户任务(例如,取处方)、用户联系人等。能够用交互式用户界面100手动选择或自动检测用户中的每一者。例如,用户能够用交互式仪表板界面102手动选择用户配置文件。另选地或除此之外,交互式用户界面100可通过连接的用户设备(例如,通过
Figure BDA0001605697680000051
连接到交互式用户界面100的智能电话)或使用用户识别技术(例如,面部识别、语音识别、指纹识别等)来识别用户。
在一个具体实施中,交互式用户界面100区分用户以提供定制的交互式特征。例如,交互式用户界面100可区分存在于自主交通工具中的用户以为主用户(例如,操作员或驾驶员)定制交互式特征。交互式用户界面100还可为用户提供定制的交互式特征的各种组合,从而允许用户与重叠的内容(例如,共同的行进路径或计划)进行交互、在各个内容之间来回切换,或者允许进行两者的某种组合。交互式用户界面100可进一步在特定用户的视野内为该特定用户呈现定制的交互式特征,同时在其他用户的视野内为该另一用户提供定制的交互式特征。
在一个具体实施中,包括在交互式用户界面100中的交互式特征包括但不限于一条或多条时间线106、通信层108以及一个或多个指示110。交互式特征106-110在图1中示出为由交互式仪表板界面102呈现,但是应当理解,交互式特征106-110可经由交互式窗口界面104或交互式用户界面100的其他方面来提供。
时间线106呈现针对自主交通工具和/或用户中的每一者的一条或多条行进路径。在一个具体实施中,时间线106提供行程的交互式表示,该行程包含起始点、一个或多个目标点以及沿该行程的行进路径可能的任何事件或修改。换句话说,时间线106将复杂的路线制定信息和交通工具运动的详细信息提取出来以提供具有到达信息的行程的简化表示。时间线106因此提供了与自主交通工具的复杂子系统的控制相关联的直观界面,用户可以与之进行交互以启动或动态修改行程的行进路径,同时提供对自主交通工具的决定的洞察。
在一个具体实施中,时间线106向用户提供自主交通工具沿行进路径的当前进度以及直到每个所选择的目标点的持续时间的视觉表示。通过缩放时间线106和/或显示在每个所选择的目标点的估计到达时间,时间线106可表示持续时间。因此时间线106提供目标点的计划表,将所有所选择的目标点的估计到达时间复合到最终目标点,同时跟踪当前进度。时间线106基于目标点的添加或移除、行进状况的存在等来实时显示所选择的目标点中的每一者的更新的估计到达时间。
时间线106可进一步指示为行进路径重新制定路线的机会、向用户通知行进状况诸如即将到来的交通拥堵、即将到来的障碍、恶劣天气、即将到来的道路封闭、有关机器的行进路径的耽搁、用户行进信息(例如,航班状态、预订等)等等。响应于行进状况、交通工具必要性、用户输入、用户偏好和/或与交通工具的自主决定相关,可提供重新制定路线的机会。例如,时间线106可提供一个或多个选项以重新制定路线,以避免即将到来的繁忙交通,或者以其他方式告知用户该交通工具已经基于即将到来的繁忙交通而做出了修改行进路径的自主决定。类似地,如果交通工具电池电量不足,则时间线106可提供针对交通工具附近的充电站的选项以供选择,或者以其他方式告知用户该交通工具已经做出了将充电站添加为路点目标的自主决定。
在一个具体实施中,时间线106表示由交通工具做出的自主决定、交通工具将基于用户输入和/或自主决定和/或其他事件或动作而采取的动作的即将到来的计划表。例如,如果该交通工具正被手动驾驶并且可转换为自主驾驶模式,则可经由时间线106呈现转换点。类似地,时间线106可区分自主驾驶的行进时间段和手动或半自主驾驶的行进时间段。例如,可通过颜色编码和/或其他视觉表示来区分行进时间段。
用户输入可覆写交通工具的自主决定、添加或放弃目标点,或者以其他方式修改行进路径。在一个具体实施中,基于用户偏好自动生成重新制定路线的一个或多个机会。例如,用户可指示在某个时间段(例如,早晨)期间或在前往特定目标(例如,工作)的途中停下来喝咖啡的偏好,如此的话时间线106可提供针对咖啡店的选项。类似地,用户可指示各种兴趣点的偏好,如此的话时间线106可通知用户在行进路径附近的任何兴趣点。
在一个示例性具体实施中,时间线106显示用于用户与之进行交互以启动或修改行进路径的图形。例如,可通过将搜索结果拖动到时间线106上或者轻击时间线106的结尾来输入最终目标点。时间线106可提出通往最终目标点的多条路线,从而允许用户选择优选路径。例如,时间线106可提供包括总持续时间更长但交通工具将能够自主驾驶更长时间的路线的选项。
沿通往最终目标点的行进路径的其他目标点(即,路点目标)可通过向时间线106添加结果或从该时间线移除结果来类似地修改。如果出现行进状况或为了提供重新用于重新制定路线的选项,则时间线106中可出现警示。时间线106因此允许用户实时管理行进路径,并且容易地将动作相应地委派给自主交通工具的复杂子系统。
通信层108一般提供具有表示复杂子系统的消息的集成呈现。换言之,通信层108提供简化且直观的会话式用户界面,该会话式用户界面告知用户交通工具的状态和自主决定,并且有助于用户与交通工具的各种复杂子系统的交互。在一个具体实施中,通信层108通过说出词语、视觉消息、手势等将用户与交通工具之间的会话表示为单个实体。例如,用户可输入消息或向交通工具说出消息,并且交通工具可用视觉消息或可听消息来应答。通信层108因此利用会话的熟悉度和舒适度来超越自主交通工具的复杂性的界限,以促进用户的控制和理解。
在一个示例性具体实施中,通信层108显示表示用户与交通工具之间交换的消息的交互式聊天气泡。聊天气泡可包括文字、图形、动画或其他视觉特征。在一个具体实施中,聊天气泡提供交换消息历史,从而允许用户查看该历史。例如,该历史可包括交通工具子系统状态的历史和自主决定的历史。聊天气泡可呈现在区分代表交通工具的消息与表示各种用户的消息的视图集合中。例如,聊天气泡可以是颜色编码的,或者以交通工具消息在一侧且用户消息在另一侧的方式定位。类似地,可以对消息进行分类,从而允许用户在会话类型之间滑动,该会话类型诸如为音乐或其他媒体选择、气候控制、导航、交通工具子系统状态、警示、设置等。
通信层108可包括供用户选择或改进或以其他方式允许用户通过与交通工具的模拟会话来获得机器状态信息或用户状态信息的选项。通信层108可向用户传达交通工具处于根据用户请求行动、获得信息或执行复杂的自主决定的过程。例如,在这种场景下,聊天气泡可显示省略号符号或动画,直到信息可用于提供给用户。
在一个具体实施中,可经由通信层108提供对由交通工具生成的信息的反馈。例如,用户可多次轻击该消息来评价该消息的质量。通信层108递增计数以了解用户的偏好,以便提供用户所喜欢的消息和选项。
指示110告知用户自主交通工具的位置、运动和活动。在一个具体实施中,指示110取决于自主交通工具是否在由用户控制的手动模式、半自主模式或完全自主模式下操作而改变。在手动模式下,可调整指示110合适以防止驾驶员分心。在半自主或完全自主模式下,指示110可被动地告知用户由交通工具做出的自主决定并且使用户对交通工具即将到来的移动做好准备。因此,指示110提高了用户对交通工具的自主决定的舒适度和信任。
在一个具体实施中,指示110强调即将到来的动作以使用户对改变或其他动作做好准备。指示110可包括动作指示和渐变指示以基于即将到来的动作而适当地使用户做好准备。动作指示对应于一个或多个特定即将到来的动作。例如,指示110可提供动作指示以使用户对即将到来的转弯、接近的障碍或其他动作或一系列动作做好准备。渐变指示通过随着持续时间过程而改变的时时存在的表示来告知用户在持续时间内发生的动作。例如,指示110可提供渐变指示,该渐变指示表示沿行进路径的当前进度,该表示相对于行进的距离和/或与目标点的接近度而逐渐改变。
指示110利用用户的所有感官以被动地将自主交通工具的一个或多个动作(包括位置、运动和活动)传达给用户。换句话说,指示110可被输出为视觉、音频和/或触觉指示。例如,指示110可在交通工具正在接近转弯时以沿交通工具对应于该转弯的方向的一侧所显示的光和/或播放关于交通工具对应于该转弯方向的一侧的音调的形式来提供动作指示。作为针对接近的转弯的动作指示的另一示例,指示110可以通过在转弯方向上转动交互式仪表板界面102上的车轮表示来指示该接近的转弯。在交通工具正在接近障碍时,指示110可通过显示黄灯和/或通过座椅收紧用户身上的握扶件来提供动作指示,直到通过障碍。作为渐变指示的示例,指示110可通过在行程开始时显示一种颜色并且随着交通工具沿行进路径移动到目标点而转换为另一种颜色来表示沿行进路径的当前进度状态。在此,指示110可在行程开始时在内部提供蓝光,并且随着行程朝着目标点前进而逐渐将颜色改变为绿色。指示110可类似地改变颜色或以其他方式通知何时从驾驶模式转换到停放模式。
因此,交互式用户界面100一般为交通工具提供以用户为中心的自主性作为传达交通工具的状态、动作和决定并促进对交通工具的复杂子系统的控制的时时存在的实体。
转到图2,示出了用于生成交互式用户界面100的示例系统200。在一个具体实施中,系统200包括通过机器控制器204与多个专用机器部件206通信的主界面控制器202。每个专用机器部件206都可具有用于交通工具的主要功能。然而,应当理解,虽然每个专用机器部件206都具有主要功能,但是其也可具有附加功能。
在一个具体实施中,机器控制器204是专用节点系统网络,其中主界面控制器202和专用机器部件206基于其自身需要来通信。例如,机器控制器204可利用发布者-订阅者架构,该架构涉及消息被发布到机器控制器204并且被表征为类别的消息模式。主界面控制器202和每个专用机器部件206都可订阅任何类别以接收对应的消息。因此,主界面控制器202可在不知道发布者(如果有的话)是谁的情况下接收机器状态信息和/或用户状态信息。类似地,主界面控制器202可在不知道订阅者(如果有的话)是谁的情况下将消息发布到机器控制器204。应当理解,可在机器控制器204中部署为主界面控制器202和专用机器部件206提供通信信道的其他架构。
主界面控制器202被配置为基于经由机器控制器204获得的机器状态信息和/或用户状态信息来生成交互式用户界面100。在一个具体实施中,主界面控制器202包括被配置为生成时间线106的时间线控制器208、被配置为生成通信层108的通信控制器210以及被配置为生成指示110的指示控制器212。
在一个具体实施中,为了允许经由交互式用户界面100与用户进行交互,专用机器部件206向主界面控制器202注册。专用机器部件206各自负责用于自主交通工具的一个或多个服务和/或与自主交通工具的一个或多个子系统通信。例如,专用机器部件206可包括导航部件、交通工具运动部件、交通工具感知部件、交通工具状态部件、交通工具环境部件等等。
机器控制器204还可通过网络218获得机器状态信息、用户状态信息和/或其他原始或经处理的数据。在一个具体实施中,网络218由包括一个或多个数据库220的一个或多个计算或数据存储设备使用,用于与交互式用户界面100进行远程交互。服务器222还可托管用户浏览以访问存储在数据库220中的信息和/或用于与交互式用户界面100进行远程交互的网站或应用程序。服务器22可以是单个服务器、多个服务器,每个这样的服务器是物理服务器或虚拟机,或者是物理服务器和虚拟机二者的集合。在另一个具体实施中,云托管一个或多个网络部件。机器控制器204、服务器222以及连接到网络218的其他资源(诸如数据库220或用户设备)可访问一个或多个其他服务器,以访问一个或多个网站、应用程序、网络服务接口等等,以访问用户状态信息、机器状态信息和/或其他服务或信息。服务器222还可托管用于访问和修改这种信息的搜索引擎。
为了经由交互式用户界面100与用户进行交互,采用一个或多个输入设备214和输出设备216。输入设备214一般可以是与主界面控制器202通信(有线或无线)的任何形式的输入设备,并且被配置为以视觉、音频和/或触觉输入的形式来捕捉原始数据。例如,输入设备214可包括一个或多个传感器、用户设备等等。用户设备一般是任何形式的计算设备,诸如计算机、移动设备、智能电话、平板电脑、多媒体控制台、交通工具界面控制台等等。传感器可包括但不限于:麦克风、成像器件、触摸屏传感器(例如,电阻式、表面声学式、电容式、红外(IR)式、光学式、压力式等)。在一个具体实施中,输入设备214向视野内投射信号诸如可见光、不可见光(例如,IR光)、声波等等。该信号从视野反射并且被输入设备214中的一个或多个传感器检测。应当理解,输入设备214和/或主界面控制器202可采用各种视觉、音频和触觉处理技术来摄取由输入设备214捕捉的来自用户的输入。
类似地,输出设备216一般可以是与主界面控制器202通信(有线或无线)的任何形式的输出设备,并且被配置为提供视觉、音频和/或触觉输出。输出设备216可包括但不限于:显示器、投影仪、扬声器、光源、触觉设备、用户设备等等。在一些具体实施中,输出设备216被集成到自主交通工具的部件中(例如,在座椅、方向盘等中)。
在示例性具体实施中,用户可通过使用输入设备214中的至少一个设备与时间线106进行交互来修改自主交通工具的行进路径。时间线控制器208接收来自输入设备214的输入并且请求机器控制器204上的导航信息。负责导航的专用机器部件206接收该请求并联系导航服务以接收更新的导航信息和其他对应的机器状态信息。导航和机器状态信息由专用机器部件206接收并被发布到机器控制器204。时间线控制器208接收并摄取导航和机器状态信息,并生成基于用户的修改而更新的时间线106,使用输出设备216中的一个或多个将该时间线呈现给用户。
图3至图8示出了交互式用户界面100的各种示例,通过该交互式用户界面,提供了与机器的交互以及相关的机器状态信息和用户状态信息。本领域的技术人员应当理解,这种描绘仅是示例性的,而并非旨在是限制性的。
首先转到图3,交互式用户界面100被示出具有针对自主交通工具的行进路径的时间线300。在一个具体实施中,经由交互式仪表板界面102视觉地显示时间线300。然而,应当理解,可经由交互式窗口界面104显示和/或使用其他视觉、音频和/或触觉输出来呈现时间线300。此外,可竖直地、水平地、弯曲地、堆叠地和/或以各种其他视觉样式来呈现时间线300。
在一个具体实施中,时间线300呈现起始点302、沿通往一个或多个目标点(诸如路点目标306)的行进路径的当前位置304以及最终目标点308。时间线300可显示在路点目标306和最终目标点308处的估计到达时间。时间线300示出了交通工具沿行进路径行进时的进度。在图3所示的示例中,作为路点306的用户输入日托和作为最终目标点308的工作以及当前位置304示出该交通工具正在从作为起始点302的住宅向作为路点306的日托行进的过程中。
时间线300还可显示针对一个或多个用户的用户行进信息(航班状态、预订、其他交通等)和/或活动信息(锻炼、步行、跑步等)。例如,时间线300可示出用户离开住宅并去跑步、返回住宅、然后离开前往日托和工作。又如,时间线300可示出用户离开住宅并行进到机场、步行到登机口,并飞往目标。这种行进信息和活动信息可经由用户设备或通过网络获得。时间线300可在时间线300上显示针对多个用户的这种行进信息和活动信息,从而基于信息中的重叠来分开和重新连接。例如,在拼车的情况下,时间线300可显示加入的各个乘客在行进和当他们将退出拼车时分开期间的时间线,并移动到其他时间和活动上。
可视觉地显示时间线300并且使用各种图形、动画和其他美学特征与之进行交互。例如,时间线300可包括拖放气泡以选择选项、添加目标点、移除目标点、获得额外详细信息等等。图3所示的时间线300的示例是具有起始点302和作为相对于持续时间而定位其上的拖放气泡的目标点306-308以及沿行进路径的当前位置304的线性线。当到达目标点306和目标点308时,它们可堆叠以供用户浏览行进历史。
应当理解,时间线300可以各种方式呈现。例如,该线可在三维中弯曲,其中当前位置304居中并且时间线300的之前和未来方向弯曲到空间中。在这种情况下,用户可通过滑动来浏览时间轴300的历史和未来。当前位置304可被显示为沿时间线300中的固定线移动,并且随着到达目标点而更新,或者当前位置304可被显示为与该线居中固定并且所示信息相对于当前位置304移动。时间线300可包括各种其他程式化动画和/或图形,以反映交通工具沿行进路径的移动。例如,可示出动画汽车沿地球表面行驶到目标点。
如本文所述,用户可例如通过动态地修改行进路径来与时间线300进行交互。在一个具体实施中,交通工具到达路点306并且时间线300通知该交通工具到达日托。例如,时间线300可提供音频和/或视觉通知(例如,“到达日托”)。时间线300然后可提示用户关于是否沿行进路径继续前往最终目标点308。如图4所示,一旦交通工具从路点306行进到最终目标点308,路线点306就可与其他先前的点堆叠306。
如图4进一步所示,用户可与时间线300进行交互以表达对前往最终目标点308的途中停下来喝咖啡的兴趣。在一个具体实施中,时间轴300可基于用户偏好或用户历史自动提供咖啡作为路点选项。在另一个具体实施中,用户可提供请求停下来喝咖啡的输入。例如,用户可以说“为我寻找咖啡店”,并且时间线300可以通过说“好的,让我查一查......”来应答。时间线300然后可呈现针对沿前往最终目标点308的途中的咖啡店的选项。
这些选项可以各种方式被显示和选择。例如,如图4所示,可在消息气泡310中呈现选项,在该消息气泡中用户可将选项中的一者拖放到时间线300上或者轻击选项中的一者以获取更多信息。另选地或除此之外,可使用交互式窗口界面104通过增强现实将选项投射到用户的视野中。选项可在视野中示出选项的位置,如图4所示。用户可指向选项中的一者以选择选项中的一者。
一旦选择了选项中的一者,就向机器控制器204触发了更新路线制定信息的请求。在获得更新的路线制定信息时,时间线300可使用各种动画(诸如省略号、跳动或移动的目标气泡等)来娱乐用户或者以其他方式指示更新正在进行中。一旦路线制定信息被更新,时间线300将示出所选择的咖啡选项为附加的路点目标312和相对于该附加的路点目标312的当前位置304。在一个具体实施中,时间线300自动调整行进路径的视觉比例并相应地更新在最终目标点312处的估计到达时间。一旦交通工具到达附加的路点目标312,时间线300就提示用户沿行进路径继续前往最终目标308,并将附加的路点目标312与其他之前的目标堆叠。
时间线300可响应于来自用户的输入而向用户提供关于目标点306,308和312中的每一者的各种选项或显示与之相关的详细信息。例如,用户可轻击附加的指定点312以接收对该咖啡店的评论、指示交通工具停放或驾驶到另一目标点、呼叫与附加的目标点312相关的联系人或给其发信息、指示联系人何时将到达附加的目标点312等等。在一个具体实施中,时间线300可用于指定:乘客下车的目标点;在乘客下车后的停放目标点;以及接载乘客的时间和目标点(例如,在下车目标点或另一个目标点处)。换句话说,针对乘客的下车目标点可能并不总是自主交通工具的最终行进节点。时间线300可用于指定在乘客已在其目标点下车之后该自主交通工具要执行的其他活动和/或要行进前往的其他目标点。
时间线300可进一步提供中央位置以向用户呈现信息。例如,如果处方已准备好待取,则可用时间线300呈现选项,询问用户是否想要添加附加的目标点以取处方或者设置后续的提醒。
如本文所述,时间线300可包括日历事件和行进计划,所以如果航班被耽搁或者会议被重新安排,则时间线300可向用户提供通知。类似地,时间线300可关于用户是否将准时开展日历事件而与用户通信。如果时间线控制器208确定用户将不能准时进行既定会议,则时间线300可告知用户并且提供用于通知会议参与者估计到达时间或重新安排的建议的选项。
另外,时间线300可告知用户沿行进路径的任何行进状况。例如,如图6所示,时间线300可提供对即将到来的行进障碍的通知,并且告知用户交通工具正围绕该障碍引导。如图6所示,障碍通知可包括指示相对于该障碍的当前位置304的警示气泡314。障碍通知可除此之外或另选地提供引导气泡316,该引导气泡示出关于障碍相对于交通工具的位置的更多详细信息。一旦障碍在视野中可见,交互式窗口界面104就可用障碍标识符318圈出、突出显示或以其他方式向用户示出该障碍。这种通知在告知用户何时通过了障碍时提供了对交通工具的动作的洞察。
时间线300可类似地告知用户沿行进路线的交通增加或其他耽搁。在一个具体实施中,时间线300包括基于耽搁状况的颜色编码。例如,红色可能指示繁忙交通或其他长耽搁的存在。根据图7可理解,在一个具体实施中,用户可轻击时间线300的耽搁区段以显示地图320,该地图示出路线和交通详细信息或有关耽搁的其他详细信息。时间线300可通知用户交通增加并且指示交通工具正在围绕交通重新制定路线的过程中,或者向用户呈现重新制定路线选项。一旦路线改变,时间线300将会被更新所述更新的路线的比例和持续时间被相应地反映。除了显示地图320之外,时间线300的区段可被展开或折叠以显示关于行进路径的更多或更少的详细信息或相关联的信息。例如,如图8所示,时间线300可显示持续时间信息322,诸如随时间所使用的速度或能量。持续时间信息322可以是两点之间的历史信息和/或两点之间的预测信息,所述两点为诸如当前位置304和最终目标308。
转到图9,在一个具体实施中,交互式用户界面100包括虚拟现实界面324,其呈现模拟物理存在和体验的各种交互式虚拟特征。例如,交互式挡风玻璃界面104可变成不透明的,使得用户不能看透挡风玻璃,并且显示模拟环境以供学生学习如何驾驶。在另一个示例中,在学生正在驾驶时,作为学习课程,交互式挡风玻璃界面104可通过增强现实允许光传输并且覆盖人造元素。在一些情况下,交互式仪表板界面102提供驾驶反馈326,包括指令、用于改进技术的建议、评分等等。
图10示出了用于用户与机器之间的交互的示例性操作400。在一个具体实施中,操作402在专用机器部件处接收针对机器的机器状态信息。机器可以是任何有人驾驶和无人驾驶的自主机器,包括但不限于:机器人、飞行器、航空航天器、潜水器、地面交通工具等,或者任何用户设备或其他计算设备。机器状态信息可包括但不限于:导航信息、机器运动信息、机器感知信息、子系统信息、机器环境信息等等。导航信息可包括有关机器从起始点到一个或多个目标点的行进路径的任何信息。例如,导航信息可包括但不限于标测信息、位置信息、环境状况信息等等。
在一个具体实施中,操作402响应于主界面控制器做出的请求而通过机器控制器在专用机器部件处接收机器状态信息。该请求可基于用户的输入生成。例如,输入可包括对机器的行进路径的修改。来自用户的输入可以语音命令、手势命令、触觉命令等等的形式提供。
操作404将机器状态信息发布到机器控制器上。在一个具体实施中,机器控制器是机器的分布式节点系统网络,在专用机器部件和主界面控制器之间建立通信信道。
操作406在主界面控制器处摄取机器状态信息,并且操作408使用主界面控制器并且基于机器状态信息生成交互式用户界面。在一个具体实施中,操作406进一步在主控制器处摄取针对用户的用户状态信息,并且操作408基于用户状态信息进一步生成交互式用户界面。可通过交互式用户界面在主界面控制器处从用户接收输入,并且使用机器控制器将对应的动作委派给机器的一个或多个子系统。
在一个具体实施中,交互式用户界面包括机器的行进路径的时间线。时间线可包括例如以在一个或多个目标点中的每一者处的估计到达时间的形式的持续时间。时间线还可包括机器沿行进路径的当前进度状态。
在另一个具体实施中,交互式用户界面为用户包括了行进状况。例如,行进状况可包括即将到来的交通拥堵、即将到来的障碍、恶劣天气、即将到来的道路封闭、有关机器的行进路径的耽搁、用户行进信息(例如,航班状态、预订等)等等。
在又一个具体实施中,交互式用户界面包括用于在用户和机器之间交换一条或多条消息的通信层。消息可被视觉地显示、被播放为一个或多个声音(例如,说出词语)等等。消息可提供机器的状态、告知用户机器的自主决定、提供来自用户用于影响机器的操作的输入,或者告知用户除了信息服务之外的一个或多个任务。例如,消息(例如,消息气泡)可在某点被插入交互式用户界面的时间线中,该点对应于交通工具将自主驾驶并设置有对执行任务(例如,给联系人打电话、发信息等)的提醒。
在再一个具体实施中,交互式用户界面包括对机器的动作的一个或多个指示。动作可以是当前动作或未来动作,并且可涉及但不限于:机器的移动、机器沿行进路径的位置和/或机器的自主决定。所述一个或多个指示可包括渐变指示和/或动作指示,并且可以是音频、视觉和/或触觉的。
转到图11,示出了电子设备500,该电子设备包括被布置为执行本发明所公开的技术的各种操作的操作单元502-514。设备500的操作单元502-514由执行本公开的原理的硬件或硬件与软件的组合来实现。本领域的技术人员将理解,图11中所描述的操作单元502-514可被组合或被分离为子块,以实现本公开的原理。因此,本文的描述支持操作单元502-514的任何可能的组合或分离或进一步限定。
在一个具体实施中,电子设备500包括:用于显示信息的显示单元502,诸如交互式用户界面100或经由显示设备216的其他图形用户界面;和与显示单元502通信的处理单元504;以及用于从一个或多个输入设备或系统(诸如输入设备214)接收数据的输入单元506。可由处理单元504使用由输入单元506所接收的数据来实现本文所述的各种操作,以输出信息用于使用显示单元502来显示。
除此之外或另选地,电子设备500可包括接收单元508、公布单元510、摄取单元512和生成单元514。接收单元508接收针对机器(诸如自主交通工具)的机器状态信息。发布单元510将机器状态信息发布到机器控制器(诸如分布式节点系统网络)上。摄取单元512摄取机器状态信息,并且生成单元514使用机器状态信息来生成交互式用户界面。
在另一个具体实施中,电子设备500包括实现结合图10描述的操作的单元。例如,操作402可由接收单元508来实现、操作404可由发布单元510来实现、操作406可由摄取单元512来实现,并且操作408可由生成单元514来实现。
参考图12,提供了对具有可实现本文论述的各种系统和方法的一个或多个计算单元的示例性计算系统600的详细描述。计算系统600可应用于主界面控制器202、机器控制器204、专用机器部件206、输入设备214、输出设备216、服务器222以及其他计算设备或网络设备。应当理解,这些设备的具体实施方式可具有可能的不同具体计算架构,并非所有这些都在本文中进行了具体论述,但是将被本领域的普通技术人员理解。
计算机系统600可以是能够执行计算机程序产品以执行计算机进程的计算系统。数据和程序文件可被输入到计算机系统600中,该计算机系统读取文件并执行其中的程序。图6中示出了计算机系统600的一些元件,包括一个或多个硬件处理器602、一个或多个数据存储设备604、一个或多个存储器设备608和/或一个或多个端口608-612。另外,本领域的技术人员将认识到的其他元件可被包括在计算系统600中,但是在图6中没有明确地示出或者在本文中没有进一步地讨论。计算机系统600的各种元件可通过一条或多条通信总线、点对点通信路径或图6中没有明确示出的其他通信手段彼此通信。
处理器602可包括例如中央处理单元(CPU)、微处理器、微控制器、数字信号处理器(DSP)和/或一个或多个内部级别的高速缓存。可存在一个或多个处理器602,使得处理器602包括单个中央处理单元或能够执行指令并且彼此并行执行操作(通常被称为并行处理环境)的多个处理单元。
计算机系统600可以是常规计算机、分布式计算机或任何其他类型的计算机,诸如经由云计算架构可用的一个或多个外部计算机。本发明所描述的技术可选地以存储在数据存储设备604上、存储在存储器设备606上和/或经由端口608-612中的一个或多个通信的软件来实现,从而将图12中的计算机系统600转换为用于实现本文所述的操作的专用机器。计算机系统600的示例包括个人计算机、终端、工作站、移动电话、平板电脑、膝上型电脑、个人计算机、多媒体控制台、游戏控制台、机顶盒等。
一个或多个数据存储设备604可包括能够存储在计算系统600内生成或采用的数据的任何非易失性数据存储设备,诸如用于执行计算机过程的计算机可执行指令,其可包括应用程序和管理计算系统600的各种部件的操作系统(OS)两者的指令。数据存储设备604可包括但不限于:磁盘驱动器、光盘驱动器、固态驱动器(SSD)、闪存驱动器等。数据存储设备604可包括可移动的数据存储介质、不可移动的数据存储介质和/或使用这种计算机程序产品经由有线或无线网络架构可用的外部存储设备,包括一个或多个数据库管理产品、网络服务器产品、应用服务器产品和/或其他附加软件组件。可移动数据存储介质的示例包括光盘只读存储器(CD-ROM)、数字通用光盘只读存储器(DVD-ROM)、磁光盘、闪存驱动器等。不可移动数据存储介质的示例包括内部磁硬盘、SSD等。一个或多个存储器设备606可包括易失性存储器(例如,动态随机存取存储器(DRAM)、静态随机存取存储器(SRAM)等)和/或非易失性存储器(例如,只读存储器(ROM)、闪存存储器等)。
包含根据本发明所描述的技术实现系统和方法的机制的计算机程序产品可驻留在可被称为机器可读介质的数据存储设备604和/或存储器设备606中。应当理解,机器可读介质可包括能够存储或编码指令以执行本公开的操作中的任何一个或多个操作以供机器执行的任何有形的非暂态介质,或者能够存储或编码由这样的指令使用或与这样的指令相关联的数据结构和/或模块。机器可读介质可包括存储一个或多个可执行指令或数据结构的单个介质或多个介质(例如,集中式或分布式数据库,以及/或者相关联的高速缓存和服务器)。
在一些具体实施中,计算机系统600包括用于与其他计算设备、网络设备或交通工具设备进行通信的一个或多个端口,诸如输入/输出(I/O)端口608、通信端口610和子系统端口612。应当理解,端口608-612可被组合或分离,并且更多或更少的端口可被包括在计算机系统600中。
I/O端口608可连接到I/O设备或其他设备,通过所述设备,信息被输入到计算系统600或从其输出。这样的I/O设备可包括但不限于一个或多个输入设备、输出设备和/或环境换能器设备。
在一个具体实施中,输入设备经由I/O端口608将诸如人语音、物理移动、物理触摸或压力等人生成的信号转换为电信号作为到计算系统600中的输入数据。类似地,输出设备可经由I/O端口608将从计算系统600接收到的电信号转换为可作为输出由人感测到的信号,诸如声音、光和/或触摸。输入设备可以是数字字母混合输入设备,包括用于经由I/O端口608向处理器602传达信息和/或命令选择的字母数字键和其他键。输入设备可以是另一种类型的用户输入设备,包括但不限于:方向和选择控制设备,诸如鼠标、轨迹球、光标方向键、操纵杆和/或轮;一个或多个传感器,诸如相机、麦克风、位置传感器、取向传感器、重力传感器、惯性传感器和/或加速度计;和/或触敏显示屏(“触摸屏”)。输出设备可包括但不限于显示器、触摸屏、扬声器、触感和/或触觉输出设备等。在一些具体实施中,例如就触摸屏而言,输入设备和输出设备可以是相同的设备。
环境换能器设备将一种形式的能量或信号转换为另一种以经由I/O端口608输入到计算系统600中或从其输出。例如,计算系统600内生成的电信号可被转换为另一种类型的信号,反之亦然。在一个具体实施中,环境换能器设备感测本地或远离计算设备600的环境的特性或方面,诸如光、声音、温度、压力、磁场、电场、化学性质、物理移动、取向、加速度、重力等等。此外,环境换能器设备可生成信号以对本地或远离示例计算装置600的环境施加一些影响,诸如某物体(例如,机械致动器)的物理移动、物质的加热或冷却、添加化学物质等等。
在一个具体实施中,通信端口610连接到网络,计算机系统600可通过该网络接收用于执行本文所述的方法和系统的网络数据,以及发送由其确定的信息和网络配置改变。换句话说,通信端口610将计算机系统600连接到一个或多个通信接口设备,所述一个或多个通信接口设备被配置为通过一个或多个有线或无线通信网络或连接在计算系统600和其他设备之间发送和/或接收信息。这样的网络或连接的示例包括但不限于通用串行总线(USB)、以太网、Wi-Fi、
Figure BDA0001605697680000191
近场通信(NFC)、长期演进(LTE)等等。一个或多个这种通信接口设备可经由通信端口610被用于直接通过点对点通信路径、通过广域网(WAN)(例如互联网)、通过局域网(LAN)、通过蜂窝(例如,第三代(3G)或第四代(4G))网络或通过另一种通信手段来与一个或多个其他机器通信。此外,通信端口610可与用于电磁信号发送和/或接收的天线或其他链路通信。在一些示例中,可以采用天线来接收全球定位系统(GPS)数据以便于确定机器、车辆或另一个设备的位置。
计算机系统600可包括子系统端口612,用于和与交通工具相关的一个或多个系统通信,以控制交通工具的操作并且/或者在计算机系统600与交通工具的一个或多个子系统之间交换信息。交通工具的这种子系统的示例包括但不限于,就具有混合动力或电动机系统的这种交通工具而言的成像系统、雷达、激光雷达、马达控制器和系统、电池控制、燃料电池或其他能量存储系统或控制,自主或半自主处理器和控制器,转向系统,制动系统,照明系统,导航系统,环境控制,娱乐系统等。
在示例性具体实施中,机器状态信息、用户状态信息、交互式用户界面100和软件以及其他模块和服务可通过存储在数据存储设备604和/或存储器设备606上并由处理器602执行的指令来体现。计算机系统600可与交通工具的一部分集成或以其他方式形成交通工具的一部分。在一些情况下,计算机系统600是可与交通工具的各种系统或子系统通信并结合其工作的便携式设备。
本公开认识到使用本文讨论的信息可用于使用户受益。例如,机器状态信息(包括导航信息)可用于促进用户理解自主机器的状态、动作和决定,并且导航信息可用于为交通工具提供关于“最佳”路径或路线的针对性信息。使用这种信息使得能够对自主交通工具进行计算控制,同时给用户提供与其相关的简单且直观的交互式界面。此外,用户状态信息可用于提供优化的用户行进体验以及行进、活动、任务和日程安排的管理。此外,本公开还设想机器状态信息和用户状态信息使用户受益的其他用途。
用户可选择性地阻止使用或访问个人数据诸如位置和用户状态信息。结合本文所述的一些或全部技术的系统可包括防止或阻止访问此类个人数据的硬件和/或软件。例如,系统可允许用户“加入”或“退出”参与对个人数据或其部分的收集。而且,用户可以选择不提供位置信息,或允许提供一般位置信息(例如,地理区域或区)而非精确的位置信息。
负责此类个人数据的收集、分析、公开、传输、存储或其它用途的实体应遵守已确立的隐私政策和/或实践。此类实体应保障和保护对此类个人数据的访问,并确保有权访问个人数据的其他人也遵守。此类实体应实施满足或超出对维护个人数据的隐私性和安全性的行业或政府要求的隐私政策和实践。例如,实体应该收集用户的个人数据以用于合法且合理的用途,并且不在这些合法用途之外共享或出售数据。此类收集应仅在用户知情同意之后进行。此外,第三方可评估这些实体以确认其对已确立的隐私政策和/或隐私实践的遵守。
图12所示的系统仅仅是可采用本公开各方面或根据本公开各方面来配置的计算机系统的一个可能示例。应当理解,可利用存储用于在计算系统上实现本发明所公开的技术的计算机可执行指令的其他非暂态有形计算机可读存储介质。
在本公开中,本发明所公开的方法可实现为设备可读的指令集或软件。此外,应当理解,本发明所公开的方法中的步骤的特定次序或分级结构为示例性方法的实例。基于设计偏好,应当理解,在被保留在本发明所公开的主题内时,可重新布置方法中的步骤的特定次序或分级结构。所附方法权利要求呈现样本次序中的各种步骤的元素,并且并不一定意味着局限于所呈现的特定次序或分级结构。
所描述的本公开可被提供作为可包括在其上存储有指令的非暂态机器可读介质的计算机程序产品或软件,该非暂态机器可读介质可用于对计算机系统(或其他电子设备)进行编程以根据本公开来执行过程。机器可读介质包括用于以机器(例如,计算机)可读的形式(例如软件、处理应用程序)存储信息的任何机构。机器可读介质可包括但不限于:磁存储介质、光学存储介质;磁光存储介质、只读存储器(ROM);随机存取存储器(RAM);可擦除可编程存储器(例如EPROM和EEPROM);闪存存储器;或者适用于存储电子指令的其他类型介质。
虽然已参考各种具体实施描述了本公开,但应当理解,这些具体实施是例示性的,并且本公开的范围并不限于这些具体实施。许多变型、修改、添加和改进是可能的。更一般地,已在特定具体实施的上下文中描述了根据本公开的实施方案。在本公开的各种实施方案中可以不同方式将功能在框中分开或组合在一起,或以不同术语进行描述。这些和其他变型、修改、添加和改进可落入如以下权利要求书中所限定的本公开的范围内。

Claims (20)

1.一种用于与自主交通工具进行交互的方法,所述方法包括:
在主界面控制器处获取所述自主交通工具的起始点;
在所述主界面控制器处接收所述自主交通工具的目标点,用所述自主交通工具的交互式界面的至少一个输入设备捕捉所述目标点;
使用所述主界面控制器确定所述自主交通工具从所述起始点到所述目标点的行进路径;
使用所述主界面控制器生成线性时间线,所述线性时间线包括事件计划表的交互式表示,所述交互式表示包括一段持续时间的行进路径,其中所述线性时间线包括被表示为所述起始点与估计的到达所述目标点的时间之间的线性线的所述一段持续时间的行进路径,并且所述线性时间线还包括当前位置,所述当前位置表示所述一段持续时间内朝着所述估计的到达所述目标点的时间流逝的时间的当前进度,其中,已过去的目标被堆叠,所述线性时间线自动调节所述行进路径的视觉比例;以及
使用所述自主交通工具的所述交互式界面输出用于交互式呈现的所述线性时间线。
2.根据权利要求1所述的方法,其中所述事件计划表的所述交互式表示包括:被描绘为第一图形图标的所述起始点和被描绘为第二图形图标的所述目标点;所述一段持续时间的行进路径,所述行进路径被描绘为将所述第一图形图标连接到所述第二图形图标的所述线性线;在所述一段持续时间内流逝的时间的当前进度,所述时间的当前进度被描绘为沿所述线性线朝向所述第二图形图标移动的第三图形图标。
3.根据权利要求2所述的方法,其中所述第一图形图标、所述第二图形图标和所述第三图形图标中的每一者均具有气泡形状。
4.根据权利要求1所述的方法,其中所述一段持续时间的行进路径的所述交互式表示识别在所述一段持续时间内对应于将由所述自主交通工具自主驾驶的一部分行进路径的时间段。
5.根据权利要求1所述的方法,其中所述事件计划表包括以下项中的至少一项:所述自主交通工具的一个或多个即将到来的移动;所述自主交通工具做出的一个或多个自主决定;沿所述行进路径的一个或多个即将到来的障碍;一个或多个事件;一个或多个提醒;或用户活动。
6.根据权利要求1所述的方法,其中所述事件计划表包括所述自主交通工具安排在所述一段持续时间的行进路径期间发生的一个或多个动作。
7.根据权利要求1所述的方法,其中基于所述行进路径的一部分从使用所述自主交通工具的所述交互式界面呈现的一组行进路径选项中确定所述行进路径。
8.根据权利要求1所述的方法,其中所述一段持续时间的行进路径的所述交互式表示识别在所述一段持续时间内对应于将经历耽搁的一部分行进路径的时间段。
9.根据权利要求1所述的方法,其中与所述线性时间线的交互使得地图被显示,地图包括所述行进路径的路线。
10.根据权利要求1所述的方法,还包括:
在所述主界面控制器处接收对第二目标的请求,用所述自主交通工具的所述交互式界面的所述至少一个输入设备捕捉所述请求;
使用所述主界面控制器生成针对所述第二目标的一组选项,使用所述自主交通工具的所述交互式界面呈现所述一组选项;
在所述主界面控制器处接收所述一组选项中的一个选项的目标选择,用所述自主交通工具的所述交互式界面的所述至少一个输入设备捕捉所述目标选择;
基于所述目标选择使用所述主界面控制器生成更新的时间线;以及
基于所述更新的时间线使用所述主界面控制器生成用于修改所述自主交通工具的操作的一个或多个命令。
11.根据权利要求1所述的方法,其中使用在所述主界面控制器处摄取的机器状态信息确定所述行进路径,通过分布式节点系统网络接收所述机器状态信息,机器部件捕捉所述机器状态信息并将所述机器状态信息发布到所述分布式节点系统网络。
12.根据权利要求11所述的方法,其中所述机器部件是具有用于所述自主交通工具的主要功能的专用机器部件。
13.根据权利要求11所述的方法,还包括:
接收对用所述自主交通工具的所述交互式界面的所述至少一个输入设备捕捉的所述线性时间线的修改;
将所述修改传达给所述主界面控制器;以及
使用所述分布式节点系统网络将对应于所述修改的动作委派给所述机器的一个或多个子系统。
14.根据权利要求11所述的方法,其中使用所述交互式界面控制所述自主交通工具的至少一个操作。
15.一种用于与自主交通工具进行交互的系统,所述系统包括:
所述自主交通工具的交互式界面的至少一个输入设备,所述至少一个输入设备捕捉所述自主交通工具的目标点;
与所述至少一个输入设备通信的主界面控制器,所述主界面控制器确定所述自主交通工具从所述自主交通工具的起始点到所述目标点的行进路径,所述主界面控制器生成线性时间线,所述线性时间线包括事件计划表的交互式表示,所述交互式表示包括一段持续时间的行进路径,所述线性时间线包括被表示为所述起始点与估计的到达所述目标点的时间之间的线性线的所述一段持续时间的行进路径,所述线性时间线包括当前位置,所述当前位置表示所述一段持续时间内朝着所述估计的到达所述目标点的时间流逝的时间的当前进度,其中,已过去的目标被堆叠,所述线性时间线自动调节所述行进路径的视觉比例;和
与所述主界面控制器通信的所述自主交通工具的所述交互式界面的至少一个输出设备,所述至少一个输出设备将所述线性时间线呈现为交互式呈现。
16.根据权利要求15所述的系统,还包括:
捕捉机器状态信息并将所述机器状态信息发布到分布式节点系统网络的至少一个机器部件,所述主界面控制器从所述分布式节点系统网络接收所述机器状态信息,所述主界面控制器摄取所述机器状态信息并基于所述机器状态信息确定所述行进路径。
17.根据权利要求16所述的系统,其中所述至少一个机器部件包括具有用于所述自主交通工具的主要功能的专用机器部件。
18.根据权利要求16所述的系统,还包括:
所述自主交通工具的一个或多个子系统,所述主界面控制器使用所述分布式节点网络将动作委派给所述自主交通工具的所述一个或多个子系统。
19.根据权利要求15所述的系统,其中使用所述交互式界面控制所述自主交通工具沿所述行进路径的操作。
20.一种非暂态计算机可读数据存储介质,存储指令,所述指令当被处理器执行时,使得如权利要求1-14中任一项所述的方法被执行。
CN201680055387.8A 2015-09-24 2016-09-21 用于生成交互式用户界面的系统和方法 Active CN108351221B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201562232322P 2015-09-24 2015-09-24
US62/232,322 2015-09-24
PCT/US2016/052779 WO2017053359A1 (en) 2015-09-24 2016-09-21 Systems and methods for generating an interactive user interface

Publications (2)

Publication Number Publication Date
CN108351221A CN108351221A (zh) 2018-07-31
CN108351221B true CN108351221B (zh) 2021-10-08

Family

ID=57130437

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201680055387.8A Active CN108351221B (zh) 2015-09-24 2016-09-21 用于生成交互式用户界面的系统和方法

Country Status (4)

Country Link
US (3) US10976178B2 (zh)
EP (1) EP3353497B1 (zh)
CN (1) CN108351221B (zh)
WO (1) WO2017053359A1 (zh)

Families Citing this family (35)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3345184A1 (en) * 2015-09-02 2018-07-11 THOMSON Licensing Method, apparatus and system for facilitating navigation in an extended scene
WO2017053359A1 (en) * 2015-09-24 2017-03-30 Nyqamin Dynamics Llc Systems and methods for generating an interactive user interface
KR20180037828A (ko) * 2016-10-05 2018-04-13 현대자동차주식회사 주행 환경에 따른 차량용 사용자 인터페이스 제어 장치 및 제어 방법
US10372132B2 (en) * 2016-12-12 2019-08-06 Apple Inc. Guidance of autonomous vehicles in destination vicinities using intent signals
US11317391B2 (en) * 2017-02-05 2022-04-26 Lg Electronics Inc. Method for transmitting/receiving special subframe in wireless communication system and device therefor
US10571287B2 (en) * 2017-08-25 2020-02-25 The Boeing Company System and method for vehicle energy management
EP3681610B1 (en) * 2017-09-14 2023-11-01 Universal City Studios LLC Autonomous transportation techniques
KR102599937B1 (ko) * 2017-10-24 2023-11-09 소니 세미컨덕터 솔루션즈 가부시키가이샤 정보 처리 장치 및 정보 처리 방법
CN108235743B (zh) * 2017-11-24 2021-08-06 深圳市道通智能航空技术股份有限公司 任务执行方法、装置、可移动物体及计算机可读存储介质
JP7006187B2 (ja) * 2017-11-28 2022-01-24 トヨタ自動車株式会社 移動体、配車システム、サーバ、及び移動体の配車方法
US11238494B1 (en) 2017-12-11 2022-02-01 Sprint Communications Company L.P. Adapting content presentation based on mobile viewsheds
US11144886B2 (en) * 2017-12-21 2021-10-12 International Business Machines Corporation Electronic meeting time of arrival estimation
US11561541B2 (en) 2018-04-09 2023-01-24 SafeAI, Inc. Dynamically controlling sensor behavior
US11169536B2 (en) 2018-04-09 2021-11-09 SafeAI, Inc. Analysis of scenarios for controlling vehicle operations
US11625036B2 (en) * 2018-04-09 2023-04-11 SafeAl, Inc. User interface for presenting decisions
US11467590B2 (en) 2018-04-09 2022-10-11 SafeAI, Inc. Techniques for considering uncertainty in use of artificial intelligence models
US10773732B1 (en) 2018-06-27 2020-09-15 Direct Current Capital LLC Systems and methods for interfacing with an occupant
DK180657B1 (en) * 2018-08-02 2021-11-11 Motional Ad Llc REMOTE CONTROL OF AUTONOMIC VEHICLES
US11137261B2 (en) * 2018-11-14 2021-10-05 Here Global B.V. Method and apparatus for determining and presenting a spatial-temporal mobility pattern of a vehicle with respect to a user based on user appointments
US11014577B2 (en) 2018-11-28 2021-05-25 Here Global B.V. Method and apparatus for presenting a feedforward cue in a user interface before an upcoming vehicle event occurs
CN113165174B (zh) * 2018-12-13 2024-05-24 西门子股份公司 包括可到达性分析的自动化系统
US11216830B1 (en) 2019-04-09 2022-01-04 Sprint Communications Company L.P. Mobile communication device location data analysis supporting build-out decisions
US10555130B1 (en) 2019-04-09 2020-02-04 Sprint Communications Company L.P. Pre-processing of mobile communication device geolocations according to travel mode in traffic analysis
US10657806B1 (en) 2019-04-09 2020-05-19 Sprint Communications Company L.P. Transformation of point of interest geometries to lists of route segments in mobile communication device traffic analysis
US11067411B1 (en) 2019-04-09 2021-07-20 Sprint Communications Company L.P. Route segmentation analysis for points of interest
US10694321B1 (en) 2019-04-09 2020-06-23 Sprint Communications Company L.P. Pattern matching in point-of-interest (POI) traffic analysis
US10645531B1 (en) 2019-04-29 2020-05-05 Sprint Communications Company L.P. Route building engine tuning framework
US10715950B1 (en) * 2019-04-29 2020-07-14 Sprint Communications Company L.P. Point of interest (POI) definition tuning framework
US11548531B2 (en) 2019-05-28 2023-01-10 Motional Ad Llc Autonomous vehicle fleet management for reduced traffic congestion
US11269410B1 (en) * 2019-06-14 2022-03-08 Apple Inc. Method and device for performance-based progression of virtual content
JP2021022089A (ja) * 2019-07-26 2021-02-18 ダイハツ工業株式会社 販売システム
JP7192709B2 (ja) * 2019-08-09 2022-12-20 トヨタ自動車株式会社 車両遠隔指示訓練装置
US11775472B2 (en) * 2020-01-29 2023-10-03 EMC IP Holding Company LLC System and method for a predictive application and data migration based on external source event probability and application priority across local data systems
US11486710B2 (en) 2020-04-06 2022-11-01 The Boeing Company System and method for determining a three-dimensional travel path for a vehicle
CN111770009B (zh) * 2020-06-29 2022-05-20 深圳市金蝶天燕云计算股份有限公司 一种数据传输方法及相关设备

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101640721A (zh) * 2008-08-01 2010-02-03 Lg电子株式会社 能够管理时间表的移动终端以及控制该移动终端的方法
CN102589561A (zh) * 2010-10-26 2012-07-18 罗伯特·博世有限公司 用于借助导航系统确定路线的方法及相应的导航系统
CN102878998A (zh) * 2011-07-13 2013-01-16 上海博泰悦臻电子设备制造有限公司 基于路径规划的车辆加油提醒方法
CN103487060A (zh) * 2012-06-11 2014-01-01 三星电子株式会社 用于设定目的地及提供信息的终端装置和方法
WO2014139821A1 (en) * 2013-03-15 2014-09-18 Volkswagen Aktiengesellschaft Automatic driving route planning application
CN104823023A (zh) * 2012-10-17 2015-08-05 通腾科技股份有限公司 使用导航设备提供信息的方法及系统

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1921421A1 (en) 2006-11-10 2008-05-14 Harman Becker Automotive Systems GmbH Method and device for providing travel time information
JP5492694B2 (ja) * 2009-07-31 2014-05-14 クラリオン株式会社 ナビゲーション装置、プログラム、および表示方法
EP2578997B1 (en) * 2011-10-07 2020-01-08 Hitachi, Ltd. System for supporting a user of an electrically driven vehicle
US20140026088A1 (en) 2012-07-17 2014-01-23 Sap Ag Data Interface Integrating Temporal and Geographic Information
JP6089360B2 (ja) 2012-10-16 2017-03-08 アルパイン株式会社 ナビゲーション装置、アイコン表示方法およびナビゲーションプログラム
US9755850B2 (en) * 2014-05-01 2017-09-05 Elizabeth B. Stolfus Providing dynamic routing alternatives based on determined traffic conditions
WO2017053359A1 (en) * 2015-09-24 2017-03-30 Nyqamin Dynamics Llc Systems and methods for generating an interactive user interface
US10699305B2 (en) * 2016-11-21 2020-06-30 Nio Usa, Inc. Smart refill assistant for electric vehicles
US10697791B2 (en) * 2018-01-15 2020-06-30 Ford Global Technologies, Llc On-the-horizon navigation system
US11928310B2 (en) * 2018-04-24 2024-03-12 Dial House, LLC Vehicle systems and interfaces and related methods

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101640721A (zh) * 2008-08-01 2010-02-03 Lg电子株式会社 能够管理时间表的移动终端以及控制该移动终端的方法
CN102589561A (zh) * 2010-10-26 2012-07-18 罗伯特·博世有限公司 用于借助导航系统确定路线的方法及相应的导航系统
CN102878998A (zh) * 2011-07-13 2013-01-16 上海博泰悦臻电子设备制造有限公司 基于路径规划的车辆加油提醒方法
CN103487060A (zh) * 2012-06-11 2014-01-01 三星电子株式会社 用于设定目的地及提供信息的终端装置和方法
CN104823023A (zh) * 2012-10-17 2015-08-05 通腾科技股份有限公司 使用导航设备提供信息的方法及系统
WO2014139821A1 (en) * 2013-03-15 2014-09-18 Volkswagen Aktiengesellschaft Automatic driving route planning application

Also Published As

Publication number Publication date
US20210247203A1 (en) 2021-08-12
US20180283896A1 (en) 2018-10-04
EP3353497B1 (en) 2021-09-01
EP3353497A1 (en) 2018-08-01
CN108351221A (zh) 2018-07-31
WO2017053359A1 (en) 2017-03-30
US20240068835A1 (en) 2024-02-29
US10976178B2 (en) 2021-04-13
US11953339B2 (en) 2024-04-09

Similar Documents

Publication Publication Date Title
CN108351221B (zh) 用于生成交互式用户界面的系统和方法
US11676346B2 (en) Augmented reality vehicle interfacing
CN108205830B (zh) 识别对于无人驾驶车辆的个人驾驶偏好的方法和系统
CN108885773B (zh) 用于安排用于自主车辆的乘客接驾的方法和系统
RU2726238C2 (ru) Автономное транспортное средство с поддержкой направления
US11068788B2 (en) Automatic generation of human-understandable geospatial descriptors
EP3617653B1 (en) Method for providing images to vehicle and electronic device therefor
AU2015339427B2 (en) Facilitating interaction between users and their environments using a headset having input mechanisms
JP2018085096A (ja) 自律走行車のために車両群を管理する方法及びシステム
US20210191394A1 (en) Systems and methods for presenting curated autonomy-system information of a vehicle
US9928833B2 (en) Voice interface for a vehicle
KR102639605B1 (ko) 인터페이스에서의 공간 객체들의 상대적 표현 및 명확화를 위한 시스템들 및 방법들
KR102331672B1 (ko) 사용자의 위치를 결정하는 인공 지능 장치 및 그 방법
EP4120172A1 (en) Real time event triggered feedback for autonomous vehicles

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant