CN106909330A - 用于提供针对飞行准备的视觉覆盖辅助的方法和装置 - Google Patents

用于提供针对飞行准备的视觉覆盖辅助的方法和装置 Download PDF

Info

Publication number
CN106909330A
CN106909330A CN201611071525.XA CN201611071525A CN106909330A CN 106909330 A CN106909330 A CN 106909330A CN 201611071525 A CN201611071525 A CN 201611071525A CN 106909330 A CN106909330 A CN 106909330A
Authority
CN
China
Prior art keywords
driving cabin
instrument
setting
adjustment
cabin instrument
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201611071525.XA
Other languages
English (en)
Inventor
M.B.恩
S.巴扎瓦达
M.I.米希迪恩
M.雷迪
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honeywell International Inc
Original Assignee
Honeywell International Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honeywell International Inc filed Critical Honeywell International Inc
Publication of CN106909330A publication Critical patent/CN106909330A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C23/00Combined instruments indicating more than one navigational value, e.g. for aircraft; Combined measuring devices for measuring two or more variables of movement, e.g. distance, speed or acceleration
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64DEQUIPMENT FOR FITTING IN OR TO AIRCRAFT; FLIGHT SUITS; PARACHUTES; ARRANGEMENT OR MOUNTING OF POWER PLANTS OR PROPULSION TRANSMISSIONS IN AIRCRAFT
    • B64D43/00Arrangements or adaptations of instruments
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/0482Interaction with lists of selectable items, e.g. menus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/0007Image acquisition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/003Details of a display terminal, the details relating to the control arrangement of the display terminal and to the interfaces thereto
    • G09G5/006Details of the interface to the display terminal
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30268Vehicle interior
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2380/00Specific applications
    • G09G2380/12Avionics applications

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Human Computer Interaction (AREA)
  • Quality & Reliability (AREA)
  • Computer Hardware Design (AREA)
  • User Interface Of Digital Computer (AREA)
  • Instrument Panels (AREA)

Abstract

本发明涉及用于提供针对飞行准备的视觉覆盖辅助的方法和装置。提供了一种用于向飞行器上的飞行机组人员提供视觉覆盖辅助的方法。该方法经由视觉覆盖设备显示来呈现针对位于飞行器上的驾驶舱中的多个驾驶舱仪表的所需设置,其中所需设置被呈现为叠加在该多个驾驶舱仪表中的每一个上的图形元素。

Description

用于提供针对飞行准备的视觉覆盖辅助的方法和装置
技术领域
本文描述的主题的实施例总体上涉及提供用于飞行前和/或飞行检查的计算机化辅助。更具体地,主题的实施例涉及提供与驾驶舱仪表装置设置相关联的视觉覆盖信息。
背景技术
飞行检查表或座舱检查表被用作供飞行员配置飞行器中的复杂系统以确保安全飞行的记忆指南。飞行检查表的第一种形式是纸张格式。纸张检查表是非常简单的设备;它们由写在纸张卡片上的项目的列表构成。在大多数情况下,将卡片保持在飞行员的手中,或夹到轭,或粘合到仪表板。滚动检查表由窄纸条构成,该窄纸条在两个卷轴之间垂直滚动。机械检查表由小面板构成,该小面板包含若干塑料滑道,其在检查表项目的列表上移动。随着完成项目,滑道被移动以覆盖项目的名称。电子飞行检查表的开发提供了一种系统,其使用标准化的正常和非正常检查表以用于执行飞行前检查和飞行检查以及与警告条件相关联的检查。
电子飞行检查表可以用于针对飞行而准备飞行器,或者确保满足某些条件以供飞行器在特定飞行阶段(例如,飞行前、滑行、起飞、爬升、巡航、降落、进场和着陆和停机)期间安全地操作。为了针对特定飞行阶段准备飞行器,飞行机组人员可以遵循一个或多个标准操作程序。通常,这些程序是以要完成的行动项目的飞行前和/或飞行检查表的形式记入文档的。电子飞行检查表可以包括安全外部检查、驾驶舱检查等。外部检查可以涉及:飞行机组成员在飞行器周围行走并验证与飞行器的外面相关联的某些准则被满足。驾驶舱检查可以包括一个或多个头顶(overhead)面板、遮光板、驾驶舱仪表和/或基座的视觉扫描。在执行头顶、遮光板和/或驾驶舱仪表扫描时,飞行机组人员必须确保大量的开关被适当地配置。如果不是所有开关都在所需位置中,则灾难性状况可能发生。
因此,期望确保飞行检查(例如,与飞行检查表相关联的行动)在没有错误的情况下完成。此外,从结合附图以及前述技术领域和背景技术作出的随后的具体实施方式和所附权利要求中,其它期望的特征和特性将变得显而易见。
发明内容
本公开的一些实施例提供了一种用于向飞行器上的飞行机组人员提供视觉覆盖辅助的方法。该方法经由视觉覆盖设备显示来呈现针对位于飞行器上的驾驶舱中的多个驾驶舱仪表的所需设置,其中所需设置被呈现为叠加在所述多个驾驶舱仪表中的每一个上的图形元素。
一些实施例提供了一种用于向飞行器上的飞行机组人员提供视觉覆盖辅助的系统。该系统包括:系统存储器,被配置为存储包括与多个驾驶舱仪表相关联的所需设置的一个或多个数据库;至少一个处理器,通信地耦合到所述系统存储器和近眼(NTE)显示器,所述至少一个处理器被配置为:识别针对所述多个驾驶舱仪表的所需设置;并将所需设置传输到NTE显示器;以及NTE显示器,被配置为在视野中将所需设置呈现为叠加在所述多个驾驶舱仪表上的图形元素。
一种在其上包含指令的非暂时性计算机可读介质,所述指令在由处理器执行时执行一种方法,所述方法包括:捕获飞行器上的驾驶舱的图像,其中所述图像描绘包括开关和仪表装置(instrumentation)的座舱元件;基于所捕获的图像识别与所述座舱元件相关联的多个开关位置和读出值;基于所述多个开关位置和读出值来确定所述座舱元件中的一个需要调整;以及经由近眼(NTE)显示器呈现叠加在所述座舱元件中需要调整的一个上的通知。
提供了本发明内容以便以简化形式介绍以下在具体实施方式中进一步描述的一系列构思。本发明内容不旨在标识所要求保护的主题的关键特征或必要特征,其也不旨在被用作确定所要求保护的主题的范围时的帮助。
附图说明
当结合以下附图而考虑时,可以通过参考具体实施方式和权利要求来得出对主题的更完整的理解,其中遍及以下附图,相似的附图标记指代类似的元件。
图1是根据所公开的实施例的驾驶舱辅助系统的示意性框图表示;
图2A是包括使用驾驶舱辅助系统而查看的特定仪表的示例性实施例的驾驶舱的图解表示;
图2B是使用驾驶舱辅助系统而查看的特定仪表的示例性实施例的放大视图;
图3是使用驾驶舱辅助系统而查看的驾驶舱仪表板的图解表示;
图4是图示了用于向飞行器上的飞行机组人员提供视觉覆盖辅助的过程的实施例的流程图;
图5是图示了用于确定驾驶舱仪表需要调整的过程的实施例的流程图;和
图6是图示了用于基于用户输入调整来变更视觉覆盖显示的过程的实施例的流程图。
具体实施方式
以下具体实施方式本质上仅是说明性的,而不旨在限制主题的实施例或这种实施例的应用和使用。如本文所使用的,词语“示例性”意味着“用作示例、实例或说明”。本文中作为示例性而描述的任何实现方式不一定要被理解为相比于其它实现方式优选或有利。此外,并不意图受在前述技术领域、背景技术、发明内容或以下具体实施方式中呈现的任何明示或暗示的理论约束。
本文所呈现的主题涉及用于经由视觉覆盖显示器呈现叠加在驾驶舱仪表上的图形元素的方法和装置。图形元素被设计成将飞行机组成员的注意力带到特定驾驶舱仪表,并指示针对该驾驶舱仪表的所需设置。在某些实施例中,针对其而显示视觉覆盖特征的驾驶舱仪表与用户选择的电子飞行检查表相关联,并且在一些实施例中,针对需要调整的驾驶舱仪表而显示图形元素。
关于本公开的各种实施例使用某些术语。驾驶舱指代飞行器的座舱,一个或多个飞行机组成员从该座舱控制飞行器。驾驶舱在至少一个仪表板上包含驾驶舱仪表,该驾驶舱仪表可以包括开关、量表、显示器、和使飞行机组人员能够操作飞行器的各种控制装置。出于本公开的目的,将视觉覆盖呈现为其元素由计算机生成的图形元素补充的物理现实世界环境(例如,飞行器的驾驶舱的里面)的实况直接视图(live direct view),该计算机生成的图形元素为用户提供附加数据。在这种情况下,图形元素叠加在相关联的驾驶舱仪表上,以便唤起用户对适用于特定驾驶舱仪表的设置数据的注意。视觉覆盖显示器可以包括诸如可穿戴显示设备(例如,护目镜、眼镜等)之类的近眼(NTE)显示器或诸如智能电话之类的手持NTE显示器。
现在转到附图,图1是根据所公开的实施例的驾驶舱辅助系统100的示意性框图表示。驾驶舱辅助系统100可以包括而不限于:至少一个处理器102;系统存储器104;用户接口106;无线通信设备108;图像捕获系统110;图像处理模块112;分析模块114;和近眼(NTE)显示器116。驾驶舱辅助系统100的这些元件和特征可以彼此在操作上相关联,彼此耦合,或者以其它方式被配置为根据需要彼此协作以支持期望功能性——特别地,向飞行机组人员提供视觉覆盖辅助,从而完成飞行器上的电子检查表,如本文所述。为了易于说明以及为了清楚,针对这些元件和特征的各种物理、电气和逻辑耦合和互连未被描绘在图1中。此外,应当领会,驾驶舱辅助系统100的实施例将包括协作以支持期望功能性的其它元件、模块和特征。为了简明起见,图1仅描绘了与下面更详细描述的电子检查表辅助技术相关的某些元件。
至少一个处理器102可以用下述各项实现或执行:一个或多个通用处理器、内容可寻址存储器、数字信号处理器、专用集成电路、现场可编程门阵列、任何合适的可编程逻辑设备、分立门或晶体管逻辑、分立硬件部件或被设计成执行这里所描述的功能的任何组合。特别地,至少一个处理器102可以被实现为一个或多个微处理器、控制器、微控制器或状态机。此外,至少一个处理器102可以被实现为计算设备的组合,例如数字信号处理器和微处理器的组合、多个微处理器、结合数字信号处理器核的一个或多个微处理器、或任何其它这种配置。
如对实施例而言适当的那样,可以使用任何数量的设备、部件或模块来实现系统存储器104。此外,如对特定实施例而言适当的那样,至少一个处理器102可以包括集成在其中的系统存储器104和/或操作地耦合到其的系统存储器104。在实践中,系统存储器104可以被实现为RAM存储器、闪存、EPROM存储器、EEPROM存储器、寄存器、硬盘、可移除盘或本领域中已知的任何其它形式的存储介质。在某些实施例中,系统存储器104包括硬盘,该硬盘也可以用于支持驾驶舱辅助系统100的功能。系统存储器104可以耦合到至少一个处理器102,使得至少一个处理器102可以从系统存储器104读取信息并将信息写入到系统存储器104。在可替换方案中,系统存储器104可以集成到至少一个处理器102。作为示例,至少一个处理器102和系统存储器104可以驻留在合适地设计的专用集成电路(ASIC)中。
系统存储器104被配置为存储包括电子飞行检查表数据的一个或多个数据库,该电子飞行检查表数据包括针对飞行器的驾驶舱中的仪表装置的所需设置、开关位置、读出值和其它配置参数。每个飞行检查表包括供飞行机组成员在飞行之前和/或在飞行期间完成以确保在飞行期间飞行器上的系统的安全操作的一组行动项目。存储在系统存储器104中的飞行检查表可以包括作为行业中的标准的航空检查表和/或用户已经配置的定制检查表。
在某些实施例中,飞行检查表可以与下述两种类型中的一种相关联:正常飞行检查表或非正常飞行检查表。正常飞行检查表与飞行阶段(例如,飞行前、滑行、起飞、爬升、巡航、降落、进场和着陆和停机)相关联。在每个飞行阶段之前,需要飞行机组人员配置飞行器以用于安全飞行操作,并且飞行机组人员使用预定的正常飞行检查表来辅助该配置。非正常飞行检查表由响应于与飞行器上的装备和/或系统相关联的难题或问题而生成的警告或公告消息(例如,引擎指示和机组人员报警系统(EICAS)消息)驱动。非正常飞行检查表提供使飞行器固定和/或安全地从警告场景带走飞行器的指令。
用户接口106可以包括各种特征或与各种特征协作以允许用户与驾驶舱辅助系统100交互。因此,用户接口106可以包括各种人机接口,例如键区、按键、键盘、按钮、开关、旋钮、触摸板、操纵杆、定点设备、虚拟手写板、触摸屏、麦克风、或者使用户能够选择选项、输入信息或以其它方式控制驾驶舱辅助系统100的操作的任何设备、部件或功能。例如,用户接口106可以由操作者操纵以选择并完成适用于飞行前和飞行安全程序的电子飞行检查表,如本文所述。
无线通信设备108被合适地配置为提供本地无线网络,以用于在驾驶舱辅助系统100的无线传输范围内的一个或多个设备之间传输信号。例如,无线通信设备108生成本地无线通信网络,其用于在驾驶舱辅助系统100和任何所连接的外围无线设备之间传送数据。例如,与图像捕获系统110或无线近眼(NTE)显示器116相关联的一个或多个无线相机可以经由由无线通信设备108生成的无线网络来与驾驶舱辅助系统100的其它元件通信。在一些实施例中,无线通信设备108生成与IEEE 802.11标准兼容的WLAN网络,并且在其它实施例中,无线通信设备108可以生成自组织(ad-hoc)网络、蓝牙网络、个域网(PAN)等。
出于获得驾驶舱仪表装置的图像的目的,图像捕获系统110包括位于飞行器的驾驶舱中的一个或多个相机。与图像捕获系统110相关联的每个相机可以具有捕获驾驶舱的内部的静止帧和/或视频图像的能力。可以在驾驶舱中在任何方向上定位相机,以便捕获包括任何驾驶舱仪表装置的图像。图像捕获系统110可以被配置为以定时间隔或响应于用户行动(例如,电子检查表的用户选择、特定驾驶舱仪表的用户选择等)获得图像。图像捕获系统110经由有线或无线连接来与驾驶舱辅助系统100的各种元件通信,且被配置为传输所捕获的图像以用于处理和分析。
图像处理模块112被配置为使用本领域中通常已知的图像处理和对象辨别技术来扫描和辨别经由图像捕获系统110获得的一个或多个图像中的驾驶舱仪表。在某些实施例中,图像处理模块112使用数字图像处理技术,其包括图像分析和分段技术。图像分析涉及从图像进行定量测量以产生其描述。以最简单的形式,该任务可以是读取开关位置或读出值。分段技术用于将期望对象与图像隔离,使得可以提取位置或读出值。将该信息与预期的开关位置和读出值的预加载数据库(存储在系统存储器104中)进行比较。驾驶舱辅助系统100然后将需要校正的座舱元件的经校正位置和读出值的反馈发送到驾驶舱辅助系统100。然后,驾驶舱辅助系统100将覆盖文本和/或(一个或多个)符号叠加在座舱元件上以用于校正。
分析模块114被配置为识别与驾驶舱仪表相关联的适当设置数据,并将设置数据提供给近眼(NTE)显示器116。在某些实施例中,分析模块114使用由图像处理模块112提供的数据以识别驾驶舱仪表装置的当前状态,访问存储在系统存储器104中的驾驶舱仪表装置的所需状态,以及确定为了符合飞行前和/或飞行检查要求所必需的调整。在某些实施例中,分析模块114可以识别与存储在数据库中的特定检查表相关联的一组驾驶舱仪表,并确定针对该组驾驶舱仪表的必要设置和/或调整。
近眼(NTE)显示器116是光学显示设备,该光学显示设备包括内部电路和硬件,其被配置为允许用户查看他的周围环境并在周围环境上呈现适用的图形元素的覆盖。出于本公开的目的,现实世界周围环境的视图和图形元素的覆盖的组合被称为增强视觉显示。这里,分析模块114经由有线或无线连接来与NTE显示器116通信,以提供增强视觉显示以用于呈现给用户。NTE显示器116利用本领域普通技术人员公知的技术,且在这里将不被不必要描述。在示例性实施例中,NTE显示器116可以被实现为一对眼镜、护目镜、头戴式显示器(HMD)、面甲(visor)、面罩、或者下述类似光学显示设备:其被佩戴在眼睛前面且被配置为将增强视觉显示呈现给用户以用于在飞行器的驾驶舱内部时查看。在其它实施例中,NTE显示器116可以使用移动计算显示器而实现,该移动计算显示器诸如是智能电话、平板计算机、或者可在面部前面保持以提供增强视觉显示的其它手持个人计算设备。
在实践中,图像处理模块112和/或分析模块114可以与至少一个处理器102一起实现(或与其协作),以执行本文更详细描述的功能和操作中的至少一些。在这点上,图像处理模块112和/或分析模块114可以被实现为合适地编写的处理逻辑、应用程序代码等。
图2A是驾驶舱202的图解表示,包括使用驾驶舱辅助系统而查看的特定仪表的示例性实施例。如所示出的那样,驾驶舱202在至少一个仪表板上包括驾驶舱仪表,该驾驶舱仪表可以包括开关、量表、显示器、和使飞行机组人员能够操作飞行器的各种控制装置。在该特定示例中包括的驾驶舱仪表中的一个是速度制动器206。图2B从视觉覆盖显示系统的角度图示了来自驾驶舱202的速度制动器206的放大视图204。视觉覆盖显示系统已经在驾驶舱中速度制动器所位于的区域上叠加了图形元素208。在该特定实施例中,图形元素208包括为针对速度制动器206的所需设置提供指令的文本。然而,在一些实施例中,视觉覆盖显示系统可以呈现一个或多个符号或者一个或多个符号和文本的组合,以指示变更速度制动器206的状态以符合电子飞行检查表要求所必需的步骤。
在该示例中,图形元素208指示速度制动器206应当处于“已装备”位置中。在某些实施例中,视觉覆盖显示系统可以呈现该图形元素208以指示这是所需设置,而不管速度制动器的状态如何。然而,在其它实施例中,视觉覆盖显示系统可以确定速度制动器206的当前状态,且当所需设置不匹配于当前状态时呈现图形元素208。因此,当需要干预时,向飞行机组人员提供指令。
图3是使用驾驶舱辅助系统而查看的驾驶舱仪表板300的图解表示。应当注意,驾驶舱仪表板300可以被实现为图2A中描绘的驾驶舱202的一部分。在这点上,驾驶舱仪表板300更详细地示出驾驶舱202的某些元件和部件。
在该特定实施例中,视觉覆盖显示系统呈现叠加在需要调整的每个驾驶舱仪表上的由文本表示的图形元素302。由图形元素302呈现的文本服务于:(1)唤起飞行机组人员对需要调整的特定驾驶舱仪表的注意;和(2)提供针对改变每个驾驶舱仪表的状态所需的行动项目的指令。这里,在控制自动驾驶仪功能性的驾驶舱仪表(即“A/P啮合(A/P ENGAGE)”)上呈现图形元素302。该图形元素302使用文本“AP..OFF”来指示飞行机组人员关闭自动驾驶仪仪表。为飞行指挥仪仪表(“F/D..ON”)、机组人员警告系统(“CWS..ON”)和襟翼控制仪表(“FLAPS..UP”)提供类似的指令。这些图形元素302中的每一个提供与特定驾驶舱仪表相关联的具体指令,且叠加在仪表板上的特定驾驶舱仪表的区域上。
如所示出的那样,为需要调整的驾驶舱仪表的子集提供图形元素302。在其它实施例中,可以为与特定飞行检查检查表相关联的驾驶舱仪表的子集提供图形元素302,并且一些实施例可以呈现所需的设置,而不管每个驾驶舱仪表的当前状态如何。
图4是图示了用于向飞行器上的飞行机组人员提供视觉覆盖辅助的过程的实施例的流程图。结合过程400执行的各种任务可以由软件、硬件、固件或其任何组合来执行。出于说明性目的,过程400的以下描述可以指代以上结合图1-3提到的元件。在实践中,过程400的部分可以由所描述的系统的不同元件来执行。应当领会,过程400可以包括任何数量的附加或可替换任务,不必以所图示的顺序执行图4中所示的任务,并且过程400可以被并入到具有本文未详细描述的附加功能性的更全面的程序或过程中。此外,可以从过程400的实施例中省略图4中所示的任务中的一个或多个,只要预期的总体功能性保持完整无缺即可。
首先,过程400检测已经访问与飞行检查相关联的行动项目的电子检查表(步骤402)。电子检查表一般存储在飞行器的机载计算机系统的一个或多个数据库中,且可以根据需要而被访问。电子检查表可以包括符合行业标准的“官方”检查表、用户配置的检查表或这些检查表的组合。每个电子检查表包括飞行器操作所需的驾驶舱仪表设置的列表,并且电子检查表的完成可以是飞行前或飞行期间检查的强制部分。
在某些实施例中,飞行检查表可以与下述两种类型中的一种相关联:正常飞行检查表或非正常飞行检查表。正常飞行检查表与飞行阶段(例如,飞行前、滑行、起飞、爬升、巡航、降落、进场和着陆和停机)相关联。在每个飞行阶段之前,需要飞行机组人员配置飞行器以用于安全飞行操作,并且飞行机组人员使用预定的正常飞行检查表来辅助该配置。非正常飞行检查表由响应于与飞行器上的装备和/或系统相关联的难题或问题而生成的警告或公告消息(例如,引擎指示和机组人员报警系统(EICAS)消息)驱动。非正常飞行检查表提供使飞行器固定和/或安全地从警告场景带走飞行器的指令。
接着,过程400辨别与行动项目相关联的多个驾驶舱仪表(步骤404)。这里,过程400访问所存储的、电子检查表数据的数据库,其包括详述用于完成电子检查表行动项目的一个或多个驾驶舱仪表的信息。然后,过程400经由视觉覆盖设备显示将针对该多个驾驶舱仪表的所需设置呈现为叠加在该多个驾驶舱仪表中的每一个上的图形元素(步骤406)。
使用图3中描述的示例,驾驶舱仪表的子集可以与完成第一检查表(例如,“检查表1”)相关。过程400访问检查表1,并辨别自动驾驶仪仪表、飞行指挥仪仪表、机组人员警告系统仪表和襟翼控制仪表被使用以完成检查表1。驾驶舱仪表的该子集不包括面板上的仪表的整体或驾驶舱中的仪表的整体。子集仅表示与检查表1的完成相关的驾驶舱仪表。其它驾驶舱仪表可以与其它电子检查表相关。过程400将从检查表1获得的针对驾驶舱仪表的子集中的每一个的所需设置呈现为视觉覆盖显示中的文本和/或符号。文本和/或符号可以叠加在每个适用的驾驶舱仪表上,或叠加在总体上处于适用的驾驶舱仪表附近的面板上。作为检查表1的一部分,文本可以包括供飞行机组成员完成的具体指令。文本或符号可以被格式化以唤起对适用的驾驶舱仪表的注意。
在某些实施例中,通过视觉覆盖设备显示而呈现的所需设置包括对相关联的驾驶舱仪表的所需调整。在这种情况下,驾驶舱辅助系统首先确定特定驾驶舱仪表需要调整,且然后将所需调整的指示呈现为叠加在相关联的驾驶舱仪表上的图形元素。图5是图示了用于确定驾驶舱仪表需要调整的该过程500的实施例的流程图。
首先,过程500捕获包括多个驾驶舱仪表的驾驶舱的图像(步骤502)。过程500可以根据定时调度或响应于用户访问飞行器上的电子检查表来启动图像捕获。图像可以存储在机载计算机系统中以用于进一步处理和分析。过程500可以捕获包括驾驶舱仪表的任何子集的单个图像,直到且潜在地包括驾驶舱仪表的整体。在其它实施例中,过程500可以捕获来自多个相机的多个图像。作为示例,过程500可以根据定时间隔调度来捕获驾驶舱的各种区域或角度的图像,并存储图像以用于在需要时进一步处理。在一些实施例中,过程500可以捕获与所访问的电子检查表相关的一个或多个图像(使用一个或多个相机)。例如,用户可以访问与特定仪表板相关的特定检查表。过程500然后可以捕获特定仪表板的当前图像或多于一个特定仪表板的当前图像,以用于进一步分析。
接着,过程500处理图像以识别针对该多个驾驶舱仪表的当前设置(步骤504)。当前设置可以包括驾驶舱仪表的配置的当前开关位置、读出值和其它视觉指示。
在某些实施例中,过程500使用数字图像处理技术,其包括图像分析和分段技术。图像分析涉及从图像进行定量测量以产生其描述。以最简单的形式,该任务可以是读取开关位置或读出值。分段技术用于将期望对象与图像隔离,使得可以提取位置或读出值。可以将该信息与预期的开关位置和读出值的预加载数据库进行比较。
过程500然后访问与特定驾驶舱仪表相关联的所需设置的数据库(步骤506)。针对驾驶舱仪表的所需设置(例如,开关位置、读出值等)可以在飞行的不同时间和/或阶段处改变。换句话说,驾驶舱仪表可能需要在飞行前期间的特定设置,需要在起飞期间对设置的改变,以及潜在地需要在飞行的其它阶段期间对设置的其它改变。所需设置(例如,开关位置和读出值)中的这些变化存储在机载数据库中。过程500将当前设置与所需设置进行比较(步骤508)以识别差异。当所需设置和检测到的当前设置不匹配时,存在差异。
在当前设置与所需设置相同(510的“是”分支)时,过程500辨别出不存在差异,并且过程500结束(步骤516)。然而,在当前设置不同于所需设置(510的“否”分支)时,过程500确定在当前设置和所需设置之间存在差异,并且相关联的驾驶舱仪表需要调整(步骤512)。这里,因为所需设置对于在操作飞行器时的安全性而言是必要的,所以过程500确定必须改变当前设置以匹配于所需设置。
过程500然后经由视觉覆盖设备显示器来呈现叠加在该多个驾驶舱仪表中的每一个上的通知,其中该通知提供针对调整的指令(步骤514)。这些指令可以被呈现为文本、符号或文本和符号二者的组合。每个指令可以被放置在驾驶舱中相关联的驾驶舱仪表的位置上方、上面或总体上该位置附近。
图6是图示了用于基于用户输入配置来变更视觉覆盖显示的过程600的实施例的流程图。过程600可以在已经呈现视觉覆盖显示之后被启动,如以上关于图4和5所描述。首先,过程600检测多个驾驶舱仪表中的一个的用户配置的执行(步骤602)。用户配置包括启动和/或改变设置,诸如针对驾驶舱仪表的开关位置或读出值。过程600然后将用户配置与针对特定驾驶舱仪表的所需设置进行比较(步骤604)。如以上关于图5所描述,过程600访问飞行器上的数据库处的所需设置。
当检测到的用户配置不对应于所需设置(606的“否”分支)时,过程600结束。这里,过程600确定用户尚未完成来自电子检查表的行动项目以努力将特定驾驶舱仪表的设置与所需设置调准,并且过程600未对视觉覆盖显示进行任何改变,该视觉覆盖显示提供指示和/或唤起对驾驶舱仪表的所需设置的注意。然而,当检测到的用户配置对应于所需设置(606的“是”分支)时,那么过程600移除由视觉覆盖显示设备呈现的与所需设置中的一个相关联的图形元素。这里,过程600确定用户已经完成经由视觉覆盖显示而呈现的来自电子检查表的行动项目,并从视觉覆盖显示移除指令。在某些实施例中,过程600请求来自用户的关于电子检查表行动项目完成的确认,且一旦已经接收到确认就移除相关联的通知。
在一些实施例中,由视觉覆盖显示呈现的所需设置可以包括对驾驶舱仪表的所需调整的通知,并且用户输入配置可以包括对现有设置的修改。这里,当视觉覆盖显示已经如图5所描述的那样提供针对调整的指令时,过程600将修改与针对调整的指令进行比较,并且当修改对应于针对调整的指令时,过程600移除由视觉覆盖显示设备呈现的通知中与调整中的一个相关联的一个通知。这里,过程600确定用户已经完成所需调整中经由视觉覆盖显示而呈现的一个调整,并从视觉覆盖显示移除指令。
在本文中可以在功能和/或逻辑块部件方面且参考可由各种计算部件或设备执行的操作、处理任务和功能的符号表示来描述技术和工艺。这种操作、任务和功能有时被称为是计算机执行的、计算机化的、软件实现的或计算机实现的。在实践中,一个或多个处理器设备可以通过操纵表示系统存储器中的存储器位置处的数据位的电信号以及其它信号处理来实施所描述的操作、任务和功能。其中数据位被维持的存储器位置是具有对应于数据位的特定电、磁、光学或有机属性的物理位置。应当领会,附图中示出的各种块部件可以由被配置为执行指定功能的任何数量的硬件、软件和/或固件部件来实现。例如,系统或部件的实施例可以采用可在一个或多个微处理器或者其它控制设备的控制下实施多种功能的各种集成电路部件,例如存储器元件、数字信号处理元件、逻辑元件、查找表等。
当以软件或固件实现时,本文所描述的系统的各种元件基本上是执行各种任务的代码段或指令。程序或代码段可以存储在处理器可读介质中或通过以载波体现的计算机数据信号在传输介质或通信路径上传输。“计算机可读介质”、“处理器可读介质”或“机器可读介质”可以包括可存储或传递信息的任何介质。处理器可读介质的示例包括电子电路、半导体存储器设备、ROM、闪存、可擦除ROM(EROM)、软盘、CD-ROM、光盘、硬盘、光纤介质、射频(RF)链路等。计算机数据信号可以包括可在传输介质(诸如,电子网络信道、光纤、空气、电磁路径或RF链路)上传播的任何信号。代码段可以经由诸如因特网、内联网、LAN等之类的计算机网络而下载。
为了简洁起见,本文可能未详细描述与系统(以及系统的个体操作部件)的信号处理、数据传输、信令、网络控制和其它功能方面相关的常规技术。此外,本文包含的各种附图中所示出的连接线旨在表示各种元件之间的示例性功能关系和/或物理耦合。应当注意,在主题的实施例中可以存在许多可替换或附加的功能关系或物理连接。
在本说明书中描述的一些功能单元已经被称为“模块”,以便更特别地强调它们的实现独立性。例如,本文中称为模块的功能性可以被完全或部分实现为包括定制VLSI电路或门阵列的硬件电路、现成半导体(诸如逻辑芯片、晶体管)或其它分立部件。模块还可以在诸如现场可编程门阵列、可编程阵列逻辑、可编程逻辑设备等之类的可编程硬件设备中实现。模块还可以以软件实现以供各种类型的处理器执行。可执行代码的所标识的模块可以例如包括可例如被组织为对象、程序或功能的计算机指令的一个或多个物理或逻辑模块。然而,所标识的模块的可执行文件不必被物理地定位在一起,而是可以包括存储在不同位置中的异类指令,其在被逻辑地连结在一起时包括模块并实现针对模块的所声明的目的。的确,可执行代码的模块可以是单个指令或许多指令,且甚至可以分布在若干不同代码段上、分布在不同程序之间以及跨若干存储器设备而分布。类似地,操作数据可以以任何合适形式体现且被组织在任何合适类型的数据结构内。操作数据可以作为单个数据集而被收集,或者可以分布在不同位置上(包括分布在不同存储设备上),并且可以至少部分地仅作为电子信号存在于系统或网络上。
虽然在前述具体实施方式中已经呈现了至少一个示例性实施例,但是应当领会,存在大量的变型。还应当领会,本文所描述的一个或多个示例性实施例不旨在以任何方式限制所要求保护的主题的范围、适用性或配置。相反,前述具体实施方式将给本领域技术人员提供用于实现所描述的一个或多个实施例的方便的路线图。应当理解,在不脱离由权利要求限定的范围的情况下,可以在元件的功能和布置中进行各种改变,由权利要求限定的范围包括在提交本专利申请时已知的等同物和可预见的等同物。

Claims (14)

1.一种用于向飞行器上的飞行机组人员提供视觉覆盖辅助的方法,所述方法包括:
经由视觉覆盖设备显示来呈现针对位于飞行器上的驾驶舱中的多个驾驶舱仪表的所需设置,其中所需设置被呈现为叠加在所述多个驾驶舱仪表中的每一个上的图形元素。
2.根据权利要求1所述的方法,还包括:
接收针对所述多个驾驶舱仪表中的一个的用户输入配置;
检测所述用户输入配置对应于所需设置中的一个设置;和
从所述视觉覆盖设备显示移除对应于所需设置中的所述一个设置的图形元素。
3.根据权利要求1所述的方法,还包括:
检测所述多个驾驶舱仪表中的一个或多个需要调整;和
经由所述视觉覆盖设备显示来呈现叠加在所述多个驾驶舱仪表中的所述一个或多个中的每一个上的通知,其中所述通知提供针对调整的指令,并且其中所需设置包括所述通知。
4.根据权利要求3所述的方法,还包括:
检测对所述多个驾驶舱仪表中的一个的修改的执行;
将所述修改与针对调整的指令进行比较;和
当所述修改对应于针对调整的指令时,
确定所述调整中的一个调整完成;和
移除所述通知中与所述调整中的所述一个调整相关联的一个通知。
5.根据权利要求3所述的方法,还包括:
检测对所述多个驾驶舱仪表中的一个的修改的执行;
请求来自飞行机组人员的关于所述调整中的一个完成的确认;和
当接收到确认时,
确定所述调整中的一个调整完成;和
移除所述通知中与所述调整中的所述一个调整相关联的一个通知。
6.根据权利要求3所述的方法,还包括:
由相机系统捕获包括所述多个驾驶舱仪表的驾驶舱的图像;
处理所述图像以识别针对所述多个驾驶舱仪表的当前设置;和
基于所述当前设置来检测所述多个驾驶舱仪表需要调整。
7.根据权利要求6所述的方法,还包括:
访问所需设置的数据库;
将当前设置与所需设置进行比较;和
在当前设置不同于所需设置时,确定相关联的驾驶舱仪表需要调整,所述多个驾驶舱仪表包括相关联的驾驶舱仪表。
8.根据权利要求6所述的方法,还包括:
检测对包括针对飞行机组人员的一组行动项目的电子检查表的选择;和
辨别所述多个驾驶舱仪表与所述一组行动项目相关;
其中处理所述图像发生以识别与所述一组行动项目相关的当前设置。
9.一种用于向飞行器上的飞行机组人员提供视觉覆盖辅助的系统,所述系统包括:
系统存储器,被配置为存储包括与多个驾驶舱仪表相关联的所需设置的一个或多个数据库;
至少一个处理器,通信地耦合到所述系统存储器和近眼(NTE)显示器,所述至少一个处理器被配置为:
识别针对所述多个驾驶舱仪表的所需设置;和
将所需设置传输到NTE显示器;以及
NTE显示器,被配置为在视野中将所需设置呈现为叠加在所述多个驾驶舱仪表上的图形元素。
10.根据权利要求9所述的系统,其中所述至少一个处理器还被配置为:
识别针对所述多个驾驶舱仪表的实际设置;
基于所述实际设置确定所述多个驾驶舱仪表需要调整;和
将所需的调整传输到NTE显示器,其中所需设置包括所需调整。
11.根据权利要求9所述的系统,还包括:
相机系统,被配置为捕获飞行器的驾驶舱的图像;
其中所述至少一个处理器还被配置为:
处理驾驶舱的图像;
基于图像处理来辨别针对所述多个驾驶舱仪表的实际设置;
将实际设置与来自数据库的所需设置进行比较;
基于比较来识别所需调整;和
将所需调整传输到NTE显示器,其中所需设置包括所需调整。
12.根据权利要求11所述的系统,其中所述一个或多个数据库还包括至少一个电子检查表,所述至少一个电子检查表包括与为驾驶舱操作而准备飞行器相关联的一组行动项目;
其中所述至少一个处理器还被配置为:
检测所述电子检查表的选择;和
辨别所述一组行动项目与所述多个驾驶舱仪表之间的关系;和
其中处理所述图像以识别与所述一组行动项目相关的实际设置。
13.根据权利要求9所述的系统,其中图形元素包括所需设置的符号和文本表示中的至少一个。
14.根据权利要求9所述的系统,还包括:
通信地耦合到所述至少一个处理器的用户接口,被配置为接收用户输入;
其中所述至少一个处理器还被配置为:
识别指示已对所述多个驾驶舱仪表中的一个驾驶舱仪表进行改变的用户输入;
确定所述改变是否对应于针对所述多个驾驶舱仪表中的所述一个驾驶舱仪表的所需设置中的一个;和
当所述改变对应于所需设置中的一个时,移除叠加在所述多个驾驶舱仪表中的所述一个驾驶舱仪表上的图形元素的子集。
CN201611071525.XA 2015-11-30 2016-11-29 用于提供针对飞行准备的视觉覆盖辅助的方法和装置 Pending CN106909330A (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US14/953922 2015-11-30
US14/953,922 US20170154446A1 (en) 2015-11-30 2015-11-30 Methods and apparatus for providing visual overlay assistance for flight preparation

Publications (1)

Publication Number Publication Date
CN106909330A true CN106909330A (zh) 2017-06-30

Family

ID=57749637

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201611071525.XA Pending CN106909330A (zh) 2015-11-30 2016-11-29 用于提供针对飞行准备的视觉覆盖辅助的方法和装置

Country Status (3)

Country Link
US (1) US20170154446A1 (zh)
EP (1) EP3173745A1 (zh)
CN (1) CN106909330A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115535271A (zh) * 2022-10-12 2022-12-30 中国航空工业集团公司洛阳电光设备研究所 一种驾驶舱主飞行显示系统

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102015120660A1 (de) * 2015-11-27 2017-06-01 Airbus Defence and Space GmbH Luftfahrzeuginspektionssystem
US9889946B2 (en) * 2016-03-28 2018-02-13 Gulfstream Aerospace Corporation Electronic checklists with dynamic visibility of annotations
US10883862B2 (en) * 2017-10-24 2021-01-05 Mitutoyo Corporation Measurement-data collecting apparatus and computer program
US20190377587A1 (en) * 2018-06-11 2019-12-12 Honeywell International Inc. Sharing and exchanging information onboard displays or instruments and an offboard device
US11175504B2 (en) * 2018-08-09 2021-11-16 Rockwell Collins, Inc. Mixed reality head worn display
US11151898B1 (en) * 2020-04-15 2021-10-19 Klatt Works, Inc. Techniques for enhancing workflows relating to equipment maintenance
US11520980B2 (en) 2020-11-25 2022-12-06 Klatt Works, Inc. Techniques for enhancing an electronic document with an interactive workflow

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006011141A2 (en) * 2004-07-25 2006-02-02 Israel Aerospace Industries Ltd. Method and system for the acquisition of data and for the display of data
US7289890B2 (en) * 2004-11-24 2007-10-30 The Boeing Company Checklist system
FR2916569B1 (fr) * 2007-05-25 2010-10-29 Thales Sa Dispositif de visualisation pour aeronef comprenant des moyens d'affichages d'une symbologie de pilotage dediee a l'evitement d'obstacles.
CN101828191B (zh) * 2007-08-17 2014-12-17 贝尔直升机泰克斯特龙公司 用于人类可读仪器、信号器和控制器的光学识别、解释和数字化的系统
US8872766B2 (en) * 2011-05-10 2014-10-28 Raytheon Company System and method for operating a helmet mounted display
US9612131B2 (en) * 2012-04-09 2017-04-04 The Boeing Company Identifying and configuring controls on a control panel
US9019128B1 (en) * 2013-05-21 2015-04-28 The Boeing Company Augmented reality aircraft management system
US9546002B1 (en) * 2013-09-30 2017-01-17 The Boeing Company Virtual instrument verification tool

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115535271A (zh) * 2022-10-12 2022-12-30 中国航空工业集团公司洛阳电光设备研究所 一种驾驶舱主飞行显示系统

Also Published As

Publication number Publication date
EP3173745A1 (en) 2017-05-31
US20170154446A1 (en) 2017-06-01

Similar Documents

Publication Publication Date Title
CN106909330A (zh) 用于提供针对飞行准备的视觉覆盖辅助的方法和装置
CN104246437B (zh) 识别和配置在控制面板上的控制器
US20230120985A1 (en) Method for training face recognition model
US8082070B2 (en) Methods and systems for displaying assistance messages to aircraft operators
US20210264210A1 (en) Learning data collection device, learning data collection system, and learning data collection method
CN107944380A (zh) 身份识别方法、装置及存储设备
CN103108806B (zh) 飞机悬停系统和方法
CN104902081B (zh) 一种飞行模式的控制方法及移动终端
CN106292799B (zh) 无人机、遥控装置及其控制方法
CN102591634A (zh) 计算机辅助人机界面显示
CN108646785B (zh) 一种飞机的飞行指引系统及改进方法
CN105518579A (zh) 信息处理设备和信息处理方法
CN106950998A (zh) 空中景观实时显示系统和方法
CN110826372B (zh) 人脸特征点检测方法及装置
EP2140253B1 (en) User interface for use in security screening providing image enhancement capabilities and apparatus for implementing same
CN108008730A (zh) 无人机飞行控制方法及其系统
CN110291482A (zh) 返航控制方法、装置及设备
CN108121350B (zh) 一种控制飞行器降落的方法以及相关装置
CN104991563B (zh) 一种无人机分级操作的方法及系统
CN104008263A (zh) 用于交通优先级化的系统和方法
CN109964232B (zh) 用于收集飞行器工作数据的方法
CN105913634A (zh) 无人飞行器安全控制系统、方法、无人飞行器及遥控器
CN110458052A (zh) 基于增强现实的目标对象识别方法、装置、设备、介质
EP3719743A1 (en) Information processing system, information processing method, and storage medium
CN110569810B (zh) 坐标信息的获取方法及装置、存储介质、电子装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20170630

WD01 Invention patent application deemed withdrawn after publication