CN111310552A - 评估飞行员情绪状态的方法 - Google Patents
评估飞行员情绪状态的方法 Download PDFInfo
- Publication number
- CN111310552A CN111310552A CN201911267551.3A CN201911267551A CN111310552A CN 111310552 A CN111310552 A CN 111310552A CN 201911267551 A CN201911267551 A CN 201911267551A CN 111310552 A CN111310552 A CN 111310552A
- Authority
- CN
- China
- Prior art keywords
- pilot
- emotional state
- flight
- data
- controller
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000002996 emotional effect Effects 0.000 title claims abstract description 151
- 238000000034 method Methods 0.000 title claims abstract description 54
- 230000033001 locomotion Effects 0.000 claims description 9
- 230000004424 eye movement Effects 0.000 claims description 6
- 230000000994 depressogenic effect Effects 0.000 claims description 3
- 230000007935 neutral effect Effects 0.000 claims description 2
- 230000001755 vocal effect Effects 0.000 claims description 2
- 230000000241 respiratory effect Effects 0.000 claims 1
- 238000004891 communication Methods 0.000 description 21
- RZVHIXYEVGDQDX-UHFFFAOYSA-N 9,10-anthraquinone Chemical compound C1=CC=C2C(=O)C3=CC=CC=C3C(=O)C2=C1 RZVHIXYEVGDQDX-UHFFFAOYSA-N 0.000 description 18
- 230000001815 facial effect Effects 0.000 description 14
- 230000035882 stress Effects 0.000 description 11
- 238000003384 imaging method Methods 0.000 description 10
- 230000010006 flight Effects 0.000 description 7
- 238000004458 analytical method Methods 0.000 description 6
- 238000007726 management method Methods 0.000 description 6
- 230000000007 visual effect Effects 0.000 description 6
- 230000008921 facial expression Effects 0.000 description 5
- 230000009286 beneficial effect Effects 0.000 description 4
- 230000009429 distress Effects 0.000 description 4
- 230000029058 respiratory gaseous exchange Effects 0.000 description 4
- 238000007405 data analysis Methods 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 230000004399 eye closure Effects 0.000 description 2
- 239000000446 fuel Substances 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 230000036541 health Effects 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 230000004461 rapid eye movement Effects 0.000 description 2
- 230000001105 regulatory effect Effects 0.000 description 2
- 230000007958 sleep Effects 0.000 description 2
- 208000019901 Anxiety disease Diseases 0.000 description 1
- 230000002159 abnormal effect Effects 0.000 description 1
- 230000036506 anxiety Effects 0.000 description 1
- QVGXLLKOCUKJST-UHFFFAOYSA-N atomic oxygen Chemical compound [O] QVGXLLKOCUKJST-UHFFFAOYSA-N 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000003542 behavioural effect Effects 0.000 description 1
- 230000036772 blood pressure Effects 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000000875 corresponding effect Effects 0.000 description 1
- 230000001627 detrimental effect Effects 0.000 description 1
- 230000035622 drinking Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 210000004709 eyebrow Anatomy 0.000 description 1
- 230000037406 food intake Effects 0.000 description 1
- 235000012631 food intake Nutrition 0.000 description 1
- 239000007789 gas Substances 0.000 description 1
- 230000035987 intoxication Effects 0.000 description 1
- 231100000566 intoxication Toxicity 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000001301 oxygen Substances 0.000 description 1
- 229910052760 oxygen Inorganic materials 0.000 description 1
- 230000008560 physiological behavior Effects 0.000 description 1
- 230000004962 physiological condition Effects 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 238000010079 rubber tapping Methods 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 238000007619 statistical method Methods 0.000 description 1
- 238000011144 upstream manufacturing Methods 0.000 description 1
- 238000001429 visible spectrum Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B21/00—Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
- G08B21/02—Alarms for ensuring the safety of persons
- G08B21/06—Alarms for ensuring the safety of persons indicating a condition of sleep, e.g. anti-dozing alarms
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/20—Movements or behaviour, e.g. gesture recognition
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/174—Facial expression recognition
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/103—Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
- A61B5/11—Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
- A61B5/1126—Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb using a particular sensing technique
- A61B5/1128—Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb using a particular sensing technique using image analysis
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/16—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
- A61B5/163—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state by tracking eye movement, gaze, or pupil change
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/16—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
- A61B5/165—Evaluating the state of mind, e.g. depression, anxiety
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/16—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
- A61B5/18—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state for vehicle drivers or machine operators
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/68—Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient
- A61B5/6887—Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient mounted on external non-worn devices, e.g. non-medical devices
- A61B5/6888—Cabins
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/74—Details of notification to user or communication with user or patient ; user input means
- A61B5/746—Alarms related to a physiological condition, e.g. details of setting alarm thresholds or avoiding false alarms
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B64—AIRCRAFT; AVIATION; COSMONAUTICS
- B64D—EQUIPMENT FOR FITTING IN OR TO AIRCRAFT; FLIGHT SUITS; PARACHUTES; ARRANGEMENT OR MOUNTING OF POWER PLANTS OR PROPULSION TRANSMISSIONS IN AIRCRAFT
- B64D45/00—Aircraft indicators or protectors not otherwise provided for
- B64D45/0015—Devices specially adapted for the protection against criminal attack, e.g. anti-hijacking systems
- B64D45/0051—Devices specially adapted for the protection against criminal attack, e.g. anti-hijacking systems by monitoring passengers or crew on aircraft
- B64D45/0053—Devices specially adapted for the protection against criminal attack, e.g. anti-hijacking systems by monitoring passengers or crew on aircraft using visual equipment, e.g. cameras
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/48—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use
- G10L25/51—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination
- G10L25/63—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination for estimating an emotional state
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B2503/00—Evaluating a particular growth phase or type of persons or animals
- A61B2503/20—Workers
- A61B2503/22—Motor vehicles operators, e.g. drivers, pilots, captains
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0059—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
- A61B5/0077—Devices for viewing the surface of the body, e.g. camera, magnifying lens
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/68—Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient
- A61B5/6887—Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient mounted on external non-worn devices, e.g. non-medical devices
- A61B5/6893—Cars
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B64—AIRCRAFT; AVIATION; COSMONAUTICS
- B64D—EQUIPMENT FOR FITTING IN OR TO AIRCRAFT; FLIGHT SUITS; PARACHUTES; ARRANGEMENT OR MOUNTING OF POWER PLANTS OR PROPULSION TRANSMISSIONS IN AIRCRAFT
- B64D45/00—Aircraft indicators or protectors not otherwise provided for
- B64D45/0015—Devices specially adapted for the protection against criminal attack, e.g. anti-hijacking systems
- B64D45/0059—Devices specially adapted for the protection against criminal attack, e.g. anti-hijacking systems by communicating emergency situations to ground control or between crew members
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Psychiatry (AREA)
- Biomedical Technology (AREA)
- Pathology (AREA)
- Veterinary Medicine (AREA)
- Public Health (AREA)
- Animal Behavior & Ethology (AREA)
- Surgery (AREA)
- Molecular Biology (AREA)
- Medical Informatics (AREA)
- Heart & Thoracic Surgery (AREA)
- Biophysics (AREA)
- Child & Adolescent Psychology (AREA)
- Hospice & Palliative Care (AREA)
- Social Psychology (AREA)
- Psychology (AREA)
- Educational Technology (AREA)
- Developmental Disabilities (AREA)
- Multimedia (AREA)
- Human Computer Interaction (AREA)
- General Physics & Mathematics (AREA)
- Physiology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Computational Linguistics (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Signal Processing (AREA)
- Acoustics & Sound (AREA)
- Emergency Management (AREA)
- Business, Economics & Management (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Radiology & Medical Imaging (AREA)
- Dentistry (AREA)
- Aviation & Aerospace Engineering (AREA)
- Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
Abstract
一种评估操作员情绪状态(131)并基于情绪状态(131)发送警报(144)的方法(140)。方法(140)包括在一时间段内使用至少一个传感器(103)、(105)、(106)、(112)、(117)追踪(141)操作员的图像传感器数据,语音数据或生物特征参数中的一个。使用可操作地连接到至少一个传感器(103)、(105)、(106)、(112)、(117)的控制器(120),基于图像传感器数据,语音数据或生物统计参数之一确定来自操作员的情绪状态列表(131)的可能的情绪状态(131)的概率。使用处理器将操作员的可能情绪状态(131)之一与操作员的基线情绪状态(131)进行比较(143)。如果最可能的情绪状态偏离基线情绪状态预定阈值,则使用控制器(120)发送(144)警报。
Description
技术领域
本发明涉及一种评估飞行员情绪状态的方法。
背景技术
当代飞行器的行进飞行路线通常包括爬升,巡航和下降。飞行员与飞行管理系统(FMS)一起实施飞行计划。FMS可以通过考虑特定于飞行器和飞行条件的参数(例如有效载荷,飞行器重量,机载燃油量,温度,风,高度等)以及空中交通管制施加的时间限制来生成飞行计划。飞行计划可以描述飞行器要经过的所有航路点或位置,以及每个航路点的高度和相应速度。
飞行员的情绪状态在起飞前或任何飞行过程中可能会有所不同。如果飞行员的实时数据指示超出基线飞行员参数的情绪状态,则提醒地勤人员飞行员的情绪状态可能是有益的。例如,如果实时飞行员数据显示脉搏频率突然上升或下降,则可能表示飞行员医疗状况,系统可能会提醒紧急医疗人员。在另一个示例中,如果飞行前的实时飞行员数据显示飞行员生气或压力超出正常飞行员基线模型,则向地勤人员警报可能会有所帮助。
发明内容
在一个方面,本公开涉及一种评估飞行员情绪状态并基于该情绪状态发送警报的方法。该方法包括在一个时间段内使用至少一个传感器追踪飞行员的图像传感器数据,语音数据或生物特征参数中的一个。使用可操作地连接到至少一个传感器的控制器,根据图像传感器数据,语音数据或生物特征参数中的一个,确定来自飞行员的情绪状态列表中的可能的情绪状态的概率。使用处理器将飞行员可能的情绪状态之一与飞行员的基线情绪状态的概率进行比较。如果最可能的情绪状态偏离基线情绪状态预定阈值,则使用控制器发送警报。
在另一方面,本公开涉及一种在计划的飞行之前调节机组人员的方法。该方法包括在飞行器的计划的飞行之前的的一个或多个飞行期间,使用至少一个传感器在一时间段内追踪飞行员的图像传感器数据,语音数据或生物特征参数中的一个。使用可操作地连接到至少一个传感器的控制器,在一个或多个飞行期间,根据图像传感器数据,语音数据或生物特征参数中的一个,确定来自飞行员的情绪状态列表的可能的情绪状态的概率。使用处理器将飞行员的可能的情绪状态之一的概率与飞行员的基线模型情绪状态进行比较。确定飞行员的情绪状态是否因机组人员而异。如果在与特定机组人员一起工作时飞行员的情绪状态是压力或生气之一,则使用控制器在计划飞行之前调节机组人员名单。
附图说明
在附图中:
图1是根据本文所述的各个方面的飞行器的一部分的俯视示意图。
图2是根据本文描述的各个方面的包括注意力追踪系统的图1的飞行器的驾驶舱的透视图。
图3是根据本文描述的各个方面的图2的注意力追踪系统的示意图。
图4是根据图2的追踪系统的飞行员面部识别的图形。
图5是示出根据本文描述的各个方面的评估图1的飞行器的飞行员的情绪状态并基于情绪状态发送警报的方法的流程图。
图6是示出根据本文描述的各个方面的在图1的飞行器的计划飞行之前调节机组人员的另一种方法的流程图。
具体实施方式
本公开的各方面针对一种方法,该方法用于评估飞行员情绪状态并且如果情绪状态落在预定阈值之外则发送警报。如本文所用,情绪状态是指飞行员当前的生理状况或行为,其指示飞行员当前的心理状态。在飞行器的运行之前或期间,了解飞行员的情绪状态以了解飞行员是否有压力,生气,开心,放松,喝醉,有医疗问题等是很重要的。如果飞行员有压力,生气,喝醉或有医疗问题,那么将飞行员从飞行器的服务中撤除或在某些情况下提醒医务人员可能是有益的。
每次飞行员进入驾驶舱时,都可以收集指示飞行员情绪状态的数据。在飞行前的例行事务中,可以监测飞行员的声音,身体运动,眼睛运动以及各种生物特征参数(例如心率和血压)并将其储存为数据。可以储存指示飞行员情绪或行为状态的基线统计信息。这些统计信息可以用作了解飞行员当前情绪状态的对照。例如,如果飞行员的实时数据指示生气,即声音大,眼睛运动飞快,脉搏频率高,则系统可能会提醒地勤人员注意飞行员的情绪状态。在另一个示例中,如果实时数据显示出脉搏频率的突然上升或下降,则这可能指示飞行员的医疗状况,系统可能会向紧急医疗人员发出警报。在这些情况下,将飞行员从飞行器的服务中撤除可能是有益的。
应该认识到,飞行员的压力水平和行为可能与飞行员的个人习惯(例如食物摄入,锻炼甚至睡眠习惯)有关。可以开发飞行员的通常或典型情绪状态的基线模型,以提供飞行员基线情绪状态特征的阈值指标。飞行员的情绪状态可能会随时间变化,或甚至在飞行途中变化。例如,如果飞行员在飞行前没有得到足够的休息,则飞行员可能会更容易感到压力或生气。换句话说,疲劳可能会增加压力或生气对工作量的敏感性,并且飞行员环境的微小变化可能会产生更大的有害影响。因此,在飞行过程中追踪飞行员的情绪状态并在飞行员的情绪状态超过预定阈值时调节飞行员的工作量可能是有益的。
为了说明的目的,将在飞行器环境中的飞行管理系统的背景下描述本公开。然而,将理解的是,本公开内容不限于此,并且可以在诸如其他移动应用(包括铁路或船舶运输)之类的非飞行器应用中具有普遍适用性。
如本文所使用的,“一组”可以包括任意数量的分别描述的元素,包括仅一个元素。所有方向参考(例如,径向,轴向,近端,远侧,上,下,向上,向下,左,右,侧向,前,后,顶,底,上方,下方,垂直,水平,顺时针,逆时针,上游,下游,向前,向后等)仅用于识别目的,以帮助读者理解本公开,并且不产生限制,尤其是对于本公开的位置,方向或用途。除非另有说明,否则连接参考(例如,附接,耦接,连接和接合)将被广义地解释,并且可包括元件集合之间的中间构件以及元件之间的相对运动。这样,连接参考不一定推断出两个元件直接连接并且彼此成固定关系。示例性附图仅出于说明的目的,所附附图中反映的尺寸,位置,顺序和相对尺寸可以变化。
如本文所使用的,“控制器”可以包括至少一个处理器和存储器。存储器的非限制性示例可以包括随机存取存储器(RAM),只读存储器(ROM),或一种或多种不同类型的便携式电子存储器,诸如盘,DVD,CD-ROM等,或这些类型的存储器的任何合适的组合。处理器可以被配置为运行被设计为执行各种方法,功能,处理任务,计算等的任何合适的程序或可执行指令,以能够实现或达到本文所述的技术操作。该程序可以包括计算机程序产品,该计算机程序产品可以包括机器可读介质,该机器可读介质用于承载或具有存储在其上的机器可执行指令或数据结构。这样的机器可读介质可以是任何可用的介质,其可以被通用或专用计算机或具有处理器的其他机器访问。通常,这样的计算机程序可以包括例程,程序,对象,组件,数据结构,算法等,其具有执行特定任务或实现特定抽象数据类型的技术效果。
图1示意性地示出了根据本文所述的各个方面的飞行器10。一个或多个推进发动机12可以联接至机身14,驾驶舱16可以定位在机身14中,并且机翼组件18可以从机身14向外延伸。可以包括使飞行器10能够正确操作的多个飞行器系统20以及飞行控制计算机22(或“计算机”22)。尽管已经示出了商用飞行器,但是可以预期的是,本公开的方面可以用于任何类型的传统飞行器中,例如但不限于固定翼,旋转翼,火箭或个人飞行器。
多个飞行器系统20可以驻留在驾驶舱16内,电子设备和设备舱23内,或者在整个飞行器10的包括它们可以与发动机12相关联的其他位置内。这样的飞行器系统20可以包括但不限于:电气系统,氧气系统,液压和/或气动系统,燃料系统,推进系统,导航系统,飞行控制,音频/视频系统,综合车辆健康管理(IVHM)系统以及与飞行器10的机械结构相关联的系统。为了示例性目的,已经示出了各种飞行器系统20,并且应当理解,它们只是可以被包括在飞行器10中的系统中的一些。
可以包括数据网络26,多个飞行器系统20可以通过该数据网络26彼此通信并向飞行器10的机组人员提供信息。例如,飞行器系统20可以将各种信息输出到位于飞行器10的驾驶舱16中的飞行驾驶台30。
通信接口40可以位于飞行器10内并且可操作地耦接到多个飞行器系统20中的至少一些。通信接口40已经示出为包括在驾驶舱16中。可以预期,通信接口40可以位于飞行器10内的其他位置,包括电子设备和设备舱23内。尽管仅示出了一个通信接口40,但是可以预期飞行器10可以具有多个通信接口。在非限制性示例中,通信接口40可以用于与其他飞行器或地面站31进行通信,例如通过无线电接触。另外,通信接口40可以发送或接收数据,包括适当的音频或视觉数据。
地面站31可以与数据网络26或通信接口40通信。地面站31可以具有处理器和软件以及用于将软件或数据上载或下载到飞行器的能力。地面站31还可能具有利用数据分析或其他统计软件来储存,分析和操纵飞行数据的能力。应该认识到,飞行器10还可能具有能够利用数据分析或其他统计软件来储存,分析和操纵飞行数据的计算系统。
图2示出了飞行器10的驾驶舱16的一部分以及具有各种仪器50和飞行显示器52的示例性飞行驾驶台30。第一飞行员(在此为“飞行员”)可以出现在驾驶舱16左侧的座椅54中,第二飞行员(在此为“副驾驶员”)可以出现在驾驶舱16右侧的座椅55中,并且飞行驾驶台30可以位于飞行员和副驾驶员的前面,并且可以向机组人员提供信息以帮助操作飞行器10。飞行显示器52可以包括主要飞行显示器或多功能显示器,并且可以显示大范围的飞行器,飞行,导航以及在飞行器10的操作和控制中使用的其他信息。此外,飞行驾驶台30的各种仪器50和飞行显示器52两者都可以提供指示一个或多个飞行器系统20的相应健康状况的一个或多个视觉标记。
仪器50和飞行显示器52可以以任何方式布置,包括具有更少或更多的仪器或显示器。此外,飞行显示器52不必是共面的,也不必是相同的尺寸。触摸屏显示器或触摸屏表面可以被包括在飞行显示器52中,并且可以被一个或多个机组人员(包括飞行员和副驾驶员)用来与飞行器10的系统进行交互。这样的触摸屏表面可以采取包括液晶显示器(LCD)的任何合适的形式,并且可以使用各种物理或电气属性来感测来自机组人员的输入。可以预期,飞行显示器52可以是动态的,并且一个或多个光标控制设备56和/或一个或多个多功能键盘58可以包括在驾驶舱16中,并且可以由一个或多个机组人员使用,以与飞行器10的系统进行交互。如此,飞行驾驶台30可以被认为是用于飞行器系统20和飞行器10的用户界面。
飞行控制计算机22可以可操作地耦接到飞行器10的部件,包括飞行器系统20,仪器50,飞行显示器52,触摸屏表面,光标控制装置56,键盘58等。飞行控制计算机22可以接收来自任何数量的飞行器系统20的输入或负责管理数据的获取和存储的软件程序。飞行控制计算机22也可以是控制器的形式,并且可以与飞行器10的其他控制器连接。飞行控制计算机22可以包括存储器60和处理单元62,其可以运行任何合适的程序以实现图形用户界面(GUI)和操作系统。飞行控制计算机22可以包括任何适当数量的单独的微处理器,电源,存储设备,接口卡,自动飞行系统,飞行管理计算机和其他标准组件或与之关联。飞行控制计算机22可以包括或与任何数量的软件程序(例如,飞行管理程序)或指令协同工作,所述软件程序或指令被设计为执行飞行器10的操作所必需的各种方法,进程任务,计算和控制/显示功能。
通信接口40可以可通信地耦接至飞行器10的飞行控制计算机22或其他处理器,以及任意数量的多个飞行器系统20,以在飞行器10上和下传递信息。通信接口40可以包括能够与其他系统和设备无线链接的任何期望的通信机制,例如在非限制性示例中通过无线电接触。例如,飞行器系统20之一可以是遇险追踪器21的形式,该遇险追踪器21被配置成传送飞行器遇险状态(例如,“正常”,“异常”或“遇险”)。
飞行员追踪系统或追踪系统100被示为与飞行控制计算机22通信。将理解的是,追踪系统100可以硬连线到飞行控制计算机22,或者可以以任何合适的方式与飞行控制计算机22通信,包括经由无线通信。可替代地,追踪系统100可以作为模块被包括在飞行控制计算机22内。
追踪系统100可以包括至少一个成像模块102和至少一个音频模块104。成像模块102可以包括图像传感器103,该图像传感器103被配置为感测关于飞行员或副驾驶的视觉信息,例如眼睛快速移动,眼睛向一个方向或另一个方向移动,眼睛睁开或闭合,凝视的方向,或者诸如眉毛升高或降低的脸部状态,通过这些非限制性示例,并基于其提供输出信号。另外,图像传感器103可以被配置为捕获或感测诸如红外,紫外,电磁或其他范围的人类可见光谱之外的图像。眼睛运动或身体运动参数可以由追踪系统100储存。成像模块102或飞行控制计算机22还可以与任何飞行显示器52进行信号通信,例如基于从成像模块102感测到的视觉信息来显示视觉指示。
音频模块104可以包括音频传感器105,该音频传感器105被配置为感测关于飞行员或副驾驶员的音频信息,诸如在驾驶舱16中说的语言,语音音量,音调,含糊或改变的语音,语音模式,或由于飞行员或副驾驶员与飞行器系统20的交互而可能发生的声音,例如敲击飞行驾驶台30或在多功能键盘58上打字,并基于其提供输出信号。换句话说,音频模块104可以配置为使用语音识别和语言分析来帮助感测飞行员的情绪状态。音频模块104还可以例如通过安装在驾驶舱内的扬声器或通过飞行员或副驾驶员佩戴的耳机向飞行员或副驾驶员提供音频反馈或声音。此外,音频模块104可以与成像模块102进行信号通信。例如,成像模块102可以提供用于通过音频模块104传输的指示,诸如在驾驶舱16内的低可见性环境中的口头命令。音频模块104还可以提供用于经由成像模块102传输的信号,例如闪光灯显示或基于文本的指示器,以供飞行员或副驾驶员读取。
追踪系统100中可以包括至少一个被配置为感测飞行员或副驾驶员的生物特征参数的生物特征传感器106。例如,位于第一座位54上的生物特征传感器106可以被配置为当飞行员坐在第一座位54中时感测或检测飞行员的心率,呼吸速度,出汗率或身体运动。可替代地,生物特征传感器106可以被定位在诸如腕带或头带的可穿戴设备上。在又一个示例中,生物特征传感器106可以是光学传感器的形式,例如监测飞行员或副驾驶员的摄像机。
另外,座椅追踪模块108可以控制第一座椅54和飞行驾驶台30之间的座椅距离110。尽管未示出,但是第二座椅55也可以包括这种座椅追踪模块108。此外,安全带传感器112可以感测安全带70在第一座椅54或第二座椅55上的位置,例如安全带70被扣紧或解开。
触觉反馈生成器114可以与第一座椅54和第二座椅55中的一个或两个耦接或集成。触觉反馈生成器114可以被配置为振动,诸如稳定的或变化的振动模式,以向飞行员或副驾驶员提供反馈。在飞行器10在低能见度条件下飞行期间不是水平的非限制性示例中,触觉反馈生成器114可在座椅54、55的右手部分或左手部分上振动,以指示飞行员或副驾驶员在飞行时使飞行器10向哪个方向倾斜转弯以获得正确的取向。
计时器115也可以包括在追踪系统100中,并且被示为联接至飞行驾驶台30。计时器115可以定位在驾驶舱16之内或之外的任何地方。计时器115可以被配置为追踪事件的经过时间或者在预定时间提供警报或其他指示。可以使用计时器115的非限制性示例包括追踪飞行经过时间,飞行员与飞行器系统20进行交互的经过时间(例如经由多功能键盘58更新飞行记录),追踪睡眠的经过时间,指示用于改变飞行方向的时间,或指示唤醒时间。
具有处理器122和存储器124的附加控制器120也可以包括在追踪系统100中。控制器120被示为耦接至飞行驾驶台30,并且与飞行控制计算机22,仪器50,飞行显示器52,存储器60,处理单元62,成像模块102,音频模块104,生物特征传感器106,座椅追踪模块108,安全带传感器112,触觉反馈生成器114或计时器115进行信号通信。虚线已用于说明上述组件之间的信号连接的一部分。为了附图清楚起见,没有用于信号连接的虚线,并且应当理解,未通过虚线连接的部件仍然可以进行信号通信。
图3示意性地示出了示例性通信连接中的追踪系统100的部件,其中示出了与上述各种模块和传感器信号连接的单独的控制器120。可替代地,将理解,可以利用飞行控制计算机22,或者每个模块或模块的任何组合可以包括它们自己的控制器,处理器或存储器。已经包括箭头以指示示例性信号或控制方向,并且为了讨论清楚起见提供了箭头。应该理解,图3中连接的部件之间的任何信号通信或控制都可以沿任一方向传输,箭头所示方向并不意味着单向信号或控制方向。
具有门锁传感器117的门锁模块116可以进一步包括在追踪系统100中。例如,驾驶舱门72可以包括门锁模块116,门锁模块116被配置为感测门72是被锁定还是被解锁。模块116还可以基于追踪系统100内的控制信号自动锁定或解锁门72。
控制器120可以可操作地连接到飞行控制计算机22,图像传感器103,音频传感器105,生物特征传感器106,座椅追踪模块108,安全带传感器112,触觉反馈生成器114,计时器115或门锁模块116中的任何一个或全部,并从中接收输入。控制器120接收到的任何输入都可以存储在存储器124中。例如,存储器124可以存储来自驾驶舱16内收集的数据的音频输入或记录的历史,或者自飞行员最后一次与飞行显示器52(图2)进行交互以来的经过时间。
控制器120的处理器122可以将信号或控制命令发送到成像模块102,音频模块104,座椅追踪模块108,触觉反馈生成器114或门锁模块116中的任何一个或全部。在另一个非限制性示例中,处理器122可以向成像模块102发送信号,例如由飞行员或副驾驶员在飞行显示器52上读取的视觉消息,或者用于启用或禁用图像传感器103的命令。
进一步预期,追踪系统100的控制器120可以经由飞行控制计算机22向另一飞行器系统,例如通信接口40,发出信号或命令。在这种情况下,控制器120可以与外部飞行器或地面站(未示出)通信。控制器120还可以根据需要与任何其他飞行器系统20通信耦接。
图4是从图像传感器103捕获的飞行员的图像130的示意图,并且图示了评估飞行员的情绪状态的一种示例性方式。在该图示中,图像传感器103可以在特定的时间点捕获飞行员的面部表情138。面部表情138可以由面部识别软件53分析,以确定飞行员可能的情绪状态。面部表情软件53可以捕获飞行员面部表情138的一个或多个数据点134或覆盖区域139的数据点,并且分析飞行员面部的一个或多个特征,包括飞行员的嘴,右眼或左眼张开或闭合。这些可以被捕获并显示为表示飞行员张开嘴135,飞行员右眼闭合136或飞行员左眼闭合137的条形图。应该认识到可以捕获和分析其他面部数据点和特征。
在一个示例中,面部识别软件53可以被编程为从图像传感器103捕获的图像130中计算可能的情绪状态132(例如非常生气,生气,轻微生气,快乐,沮丧,有压力等)的概率133。面部识别软件53可以分析数据点134或数据区域139,以获取诸如飞行员的嘴,右眼或左眼张开或闭合之类的面部特征。数据可以被储存和分析以确定飞行员情绪状态131。面部识别软件53可以存储在地面站31上,飞行管理计算机22中或单独的处理单元中。
为了示例性实施例的目的,面部识别软件53与控制器120和图像传感器103通信。面部识别软件53可以使控制器120能够基于来自面部识别软件53的分析,将概率133分配给每种情绪状态131。如图所示,控制器120可以将概率133分配给每种情绪状态131,使得每种情绪状态的概率之和等于100%。在另一示例中,控制器120可以将概率133分配给每种情绪状态131,使得每种情绪状态的概率在0-100%的范围内。在任何一种情况下,一旦分配了概率133,控制器120便可以将飞行员的情绪状态评估为所列情绪状态中的最高概率的情绪状态。换句话说,在所示的示例中,控制器120将在那个时刻将“有压力”识别为飞行员的情绪状态。
由于捕获到的图像130仅指示单个时刻,因此追踪系统100可以在任意时间段内重复捕获和分析此数据,以识别该时间段内飞行员可能的情绪状态。在一个示例中,跟踪系统100可以从图像传感器103捕获大量图像并且平均数据,识别趋势,或者使用其他统计分析来识别飞行员情绪状态的概率。此外,追踪系统100可以将捕获到的图像103与其他收集的数据(例如飞行员语音数据或者生物特征参数)相关联以帮助评估飞行员的情绪状态。如果语音数据,生物特征参数和图像捕获数据各自指示可能的情绪状态,则控制器120可以确定飞行员的情绪状态,并且如果必要的话,可以被编程为向地勤人员或医务人员警告飞行员的情绪状态。尽管使用语音数据和生物特征参数可以增加准确评估飞行员情绪状态的概率,但不需要此类数据。
现在参考图5,示出了评估飞行员情绪状态的方法140。方法140在141处开始,追踪飞行员的图像传感器103的数据,语音数据或生物特征参数,以通过使用追踪系统100内的至少一个传感器来确定飞行员在飞行器10飞行之前或飞行期间的情绪状态。对图像传感器数据,语音数据或生物特征参数的追踪可以发生在飞行员在机上的任何时间段内,例如飞行前或整个飞行过程或飞行的一部分。
图像传感器103可以追踪飞行员飞行前或飞行的全部或部分期间的眼睛运动和身体运动。例如,如关于图4所描述的,图像传感器103可以捕获飞行员的一个或多个面部表情138,并且控制器120与面部识别软件53结合可以确定飞行员的情绪状态。图像传感器103可以捕捉张开,闭合,飞快移动,快速移动的眼睛,或者可以在视觉上检测飞行员的手与键盘58或飞行显示器52进行交互。在飞行显示器52包括触摸屏的示例中,控制器120可以检测飞行员已经触摸了触摸屏飞行显示器52或与之交互。图像传感器103可以捕获相对于飞行显示器的快速或有力的身体运动,并且此类数据可以用于与飞行员的情绪状态相关。
音频传感器105数据可以捕获飞行员的语音数据。还可以追踪飞行员的生物特征参数,例如心率,呼吸速度,皮肤温度等。音频传感器105的数据和生物特征参数可以指示飞行员是生气,平静,有压力还是具有其他情绪状态。应该认识到,这些数据可用于在飞行前或飞行过程中做出有关飞行员情绪状态的实时决策,或者可以将数据保存到数据库中并在飞行后进行处理。数据也可以添加到其他飞行员数据或与其他飞行员数据集成,以建立飞行员的基线统计数据。
在142处,控制器120可以基于图像传感器数据,语音数据或生物特征参数之一确定来自飞行员的情绪状态列表的每种可能的情绪状态的概率。在该步骤,控制器120可以基于来自面部识别软件的分析,将概率133分配给每种情绪状态131。如所讨论的,控制器120可以将概率133分配给每种情绪状态131,使得每种情绪状态的概率之和等于100%,或者可以将概率133分配给每种情绪状态131,使得每种情绪状态的概率在0-100%的范围内。在任何一种情况下,一旦分配了概率133,控制器120便可以将飞行员的情绪状态评估为最高概率的情绪状态。
在143处,控制器120可以将分配的情绪状态与飞行员的基线数据进行比较,该基线数据代表飞行员的典型或先前的情绪状态。基线数据简单地给控制器120数据以进行比较,从而确定任何实时飞行员数据是否偏离基线数据的预定阈值。应当认识到,随着飞行员飞行各种航班,基线飞行员数据可以随时间收集或生成。可以收集,分析和储存数据,并可以生成基线飞行员概况。飞行员概况可以在每次飞行后进行更新,因此每次飞行员飞行时,可以将飞行员的实时情绪状态与基线数据进行比较。
在144处,如果实时飞行员情绪状态数据偏离基线数据的预定阈值,则控制器120可以向地面站或医疗人员之一发送警报。例如,如果确定飞行员的实时情绪状态是非常生气,则控制器120可以向地面站31发送警报以警告适当的人。地面站人员可以选择在飞行器起飞前进行干预或对飞行员进行面谈。
参看图6,示出了基于飞行员的情绪状态来调节机组人员的方法150。方法150在151处开始,在计划的飞行之前使用追踪系统100内的至少一个传感器在一时间段内追踪飞行器的一个或多个飞行的飞行员的图像传感器数据,语音数据或生物特征参数。对图像传感器数据,语音数据或生物特征参数的追踪可以发生在飞行员在机上的任何时间段内,例如飞行前或整个飞行过程或飞行的一部分。在机上有多个飞行员的规模上,方法150将包括追踪每个飞行员的图像传感器数据,语音数据或生物特征参数。
如前所述,图像传感器103可在飞行前或飞行的全部或部分期间追踪每个飞行员的眼睛运动和身体运动。音频传感器105数据可以捕获每个飞行员的语音数据。还可以追踪每个飞行员的生物特征参数,例如心率,呼吸速度,皮肤温度等。音频传感器105的数据和生物特征参数可以指示飞行员是生气,平静,有压力或是其他情绪状态。应该认识到,这些数据可用于在飞行前或飞行过程中做出有关飞行员情绪状态的实时决策,也可以将数据保存到数据库中并在飞行后进行处理。数据也可以添加到其他飞行员数据或与其他飞行员数据集成,以建立飞行员的基线模型。
在此步骤中,还可以想到,可以从各种时间范围内的多次飞行中追踪和收集数据。可以追踪,收集和分析数据,以了解飞行员在飞行前或飞行中的各个时间段的情绪状态。如果机上有多名飞行员,或者机组人员经常一起工作,则可以追踪和比较数据以了解飞行员和/或机组人员之中是否存在紧张或压力。数据可能表明飞行员在与一个或其他机组人员一起执行任务时承受较高的压力。此外,可以按时间范围对数据进行分类和排序,以创建飞行员的基线统计数据。例如,人们预料飞行员在起飞和着陆期间的工作量和压力水平要比巡航或飞行前更高。可以在每个飞行阶段以及与每个机组人员有关的情况下,创建飞行员典型情绪状态的基线模型。应当认识到,基线模型的分析和开发可以在飞行器10上或飞行器10外进行,并且飞行员概况可以在每次飞行之后进行更新。
在152处,控制器120可以基于图像传感器数据,语音数据或生物特征参数之一确定来自飞行员的情绪状态列表的每种可能的情绪状态的概率。控制器120在飞行期间执行该步骤以收集关于多个飞行员中每个飞行员的数据。在该步骤,控制器120可以基于来自面部识别软件的分析,将概率133分配给每种情绪状态131。如所讨论的,控制器120可以将概率133分配给每种情绪状态131,使得每种情绪状态的概率之和等于100%,或者可以将概率133分配给每种情绪状态131,使得每种情绪状态的概率在0-100%的范围内。在任何一种情况下,一旦分配了概率133,控制器120便可以将飞行员的情绪状态评估为最高概率的情绪状态。
换句话说,在该步骤152中,对于任何给定的飞行,可以在不同的时间段内针对各种机组人员收集代表飞行员的情绪状态的数据并进行关联。在该示例中,计时器115可以追踪可以与整个或部分飞行中收集的飞行员数据相关联的飞行时间。来自每个记录的飞行的数据可以被存储在机上或可以被场外传输到地面站31以进行分析和处理。该数据可用于为飞行员创建基线模型。
在154处,控制器120或其他处理器可以基于机组人员确定飞行员的情绪状态是否变化。在某些情况下,机组人员可能不会相处,并且一名或多名飞行员和/或机组人员之间可能会感到紧张,有压力或焦虑。数据分析可能表明,飞行员在与一个或其他机组人员一起执行任务时承受较高的压力。因此,在此步骤中,可以想到,控制器120在整个飞行或部分飞行期间评估飞行员最可能的情绪状态,并将对于整个飞行或部分飞行的飞行员的情绪状态与单独的机组人员进行比较。如果飞行员的情绪状态在一次飞行的全部或部分期间感到压力或生气,而在另一次飞行的一部分期间是感到平静和放松,则控制器120可以指示飞行员的情绪状态在机组人员之间变化。
在156处,在计划的飞行之前,如果飞行员与特定机组人员一起工作时飞行员的情绪状态是压力或生气之一,则控制器120或可操作地连接至飞行控制计算机的其他处理器可以在计划飞行之前调节机组名册。
在这种情况下,控制器120或其他处理器可以预测计划飞行中的两名飞行员或机组人员何时将会有紧张或压力的工作关系,并可以通过撤离或重新分配一名或多名机组人员来调节机组人员。此外,控制器120或其他处理器可以预测对于某些飞行或某些状况何时可能需要更多或更少的机组人员。
在尚未描述的范围内,各种实施例的不同特征和结构可以根据需要组合使用或彼此替代。在所有实施例中未示出一个特征并不意味着不能这样示出,而是为了描述简洁。因此,不管是否明确地描述了新的实施例,不同实施例的各种特征可以根据需要被混合和匹配以形成新的实施例。本文所描述的特征的所有组合或置换都被本公开覆盖。
该书面描述使用示例来公开本发明,包括最佳模式,并且还使本领域的任何技术人员能够实践本发明,包括制造和使用任何设备或系统以及执行任何结合的方法。本发明的专利范围由权利要求书限定,并且可以包括本领域技术人员想到的其他示例。如果这样的其他示例具有与权利要求的字面语言没有不同的结构元件,或者如果它们包括与权利要求的字面语言没有实质性差异的等效结构元件,则意图将这些其他示例包括在权利要求的范围内。
本发明的其他方面由以下条款的主题提供:
1.一种评估操作员情绪状态并基于情绪状态发送警报的方法,方法包括:在一时间段内,使用至少一个传感器追踪操作员的图像传感器数据,语音数据或生物特征参数中的一个;使用可操作地连接到至少一个传感器的控制器,基于图像传感器数据,语音数据或生物特征参数中的一个,确定来自操作员的情绪状态列表的可能的情绪状态的概率;使用处理器将操作员的可能的情绪状态之一的概率与操作员的基线情绪状态进行比较;及如果最可能的情绪状态偏离基线情绪状态预定阈值,则使用控制器发送警报。
2.根据任何在前条项的方法,其中操作员是飞行员。
3.根据任何在前条项的方法,其中情绪状态列表包括非常生气,生气,轻微生气,快乐,紧张,沮丧或中性中的至少一种。
4.根据任何在前条项的方法,其中每种情绪状态的概率之和等于100%。
5.根据任何在前条项的方法,进一步包括使用控制器从每种情绪状态的概率中选择最高概率作为飞行员的可能的情绪状态。
6.根据任何在前条项的方法,其中每种情绪状态的概率范围为0-100%。
7.根据任何在前条项的方法,进一步包括使用控制器从每种情绪状态的概率中选择最高概率作为操作员的可能的情绪状态。
8.根据任何在前条项的方法,其中图像传感器数据指示飞行员的眼睛运动或身体运动中的一个。
9.根据任何在前条项的方法,其中生物特征参数是基于飞行员的呼吸,心率或脉搏率中的一个。
10.根据任何在前条项的方法,其中语音数据指示飞行员的语音音量,音调和口头内容。
11.根据任何在前条项的方法,其中将飞行员的可能的情绪状态之一的概率与飞行员的基线情绪状态进行比较的步骤在飞行期间实时发生。
12.根据任何在前条项的方法,其中将飞行员的可能的情绪状态之一的概率与飞行员的基线情绪状态进行比较的步骤在飞行已经起飞之前发生。
13.根据任何在前条项的方法,其中时间段包括自飞行员登机以来的经过时间或飞行阶段的经过时间。
14.根据权任何在前条项的方法,进一步包括评估飞行员的图像传感器数据,语音数据或生物特征参数中的至少一个,以确定喝醉状态的步骤。
15.根据任何在前条项的方法,进一步包括评估飞行员的图像传感器数据,语音数据或生物特征参数中的至少一个,以确定医疗紧急状态的步骤。
16.一种在计划的飞行之前调节机组人员的方法,方法包括:在飞行器的计划的飞行之前的一个或多个飞行中,在一时间段内,使用至少一个传感器追踪飞行员的图像传感器数据,语音数据或生物特征参数;在一个或多个飞行期间,使用可操作地连接到至少一个传感器的控制器,基于图像传感器数据,语音数据或生物特征参数中的一个,确定来自飞行员的情绪状态列表的每种可能的情绪状态的概率;使用处理器将飞行员的可能的情绪状态之一的概率与飞行员的基线模型情绪状态进行比较;确定飞行员的情绪状态是否因机组人员而异;如果与特定机组人员一起工作时飞行员的情绪状态是有压力或生气中的一个,则使用控制器,在计划的飞行之前调节机组人员名册。
17.根据任何在前条项的方法,其中每种情绪状态的概率之和等于100%。
18.根据任何在前条项的方法,进一步包括使用控制器从每种情绪状态的概率中选择最高概率作为飞行员的可能的情绪状态。
19.根据任何在前条项的方法,其中每种情绪状态的概率范围为0-100%。
20.根据任何在前条项的方法,进一步包括使用控制器从每种情绪状态的概率中选择最高概率作为飞行员的可能的情绪状态。
Claims (10)
1.一种评估操作员情绪状态并基于所述情绪状态发送警报的方法,其特征在于,所述方法包括:
在一时间段内,使用至少一个传感器追踪所述操作员的图像传感器数据,语音数据或生物特征参数中的一个;
使用可操作地连接到至少一个传感器的控制器,基于所述图像传感器数据,所述语音数据或所述生物特征参数中的一个,确定来自所述操作员的情绪状态列表的可能的情绪状态的概率;
使用处理器将所述操作员的所述可能的情绪状态之一的所述概率与所述操作员的基线情绪状态进行比较;及
如果最可能的情绪状态偏离所述基线情绪状态预定阈值,则使用所述控制器发送警报。
2.根据权利要求1所述的方法,其特征在于,其中所述操作员是飞行员。
3.根据权利要求1或2所述的方法,其特征在于,其中所述情绪状态列表包括非常生气,生气,轻微生气,快乐,紧张,沮丧或中性中的至少一种。
4.根据权利要求3所述的方法,其特征在于,其中每种情绪状态的所述概率之和等于100%。
5.根据权利要求4所述的方法,其特征在于,进一步包括使用所述控制器从每种情绪状态的所述概率中选择最高概率作为所述飞行员的可能的情绪状态。
6.根据权利要求4或5所述的方法,其特征在于,其中每种情绪状态的所述概率范围为0-100%。
7.根据权利要求6所述的方法,其特征在于,进一步包括使用所述控制器从每种情绪状态的所述概率中选择最高概率作为所述操作员的可能的情绪状态。
8.根据前述权利要求中任一项所述的方法,其特征在于,其中所述图像传感器数据指示飞行员的眼睛运动或身体运动中的一个。
9.根据前述权利要求中的任一项所述的方法,其特征在于,其中所述生物特征参数是基于飞行员的呼吸,心率或脉搏率中的一个。
10.根据前述权利要求中的任一项所述的方法,其特征在于,其中所述语音数据指示飞行员的语音音量,音调和口头内容。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
GB1820115.2 | 2018-12-11 | ||
GB1820115.2A GB2579656A (en) | 2018-12-11 | 2018-12-11 | Method of assessing a pilot emotional state |
Publications (1)
Publication Number | Publication Date |
---|---|
CN111310552A true CN111310552A (zh) | 2020-06-19 |
Family
ID=65030066
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911267551.3A Pending CN111310552A (zh) | 2018-12-11 | 2019-12-11 | 评估飞行员情绪状态的方法 |
Country Status (4)
Country | Link |
---|---|
US (2) | US11341352B2 (zh) |
EP (1) | EP3667634A1 (zh) |
CN (1) | CN111310552A (zh) |
GB (1) | GB2579656A (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112801403A (zh) * | 2021-02-10 | 2021-05-14 | 武汉科技大学 | 基于ssa-bp的空中目标潜在威胁度预测方法及系统 |
CN113069115A (zh) * | 2021-03-09 | 2021-07-06 | 清华大学 | 一种情绪识别方法、电子设备及存储介质 |
CN114912829A (zh) * | 2022-06-02 | 2022-08-16 | 中国民用航空飞行学院 | 一种飞行员高原适飞的评估方法及系统 |
CN115439836A (zh) * | 2022-11-09 | 2022-12-06 | 成都工业职业技术学院 | 一种基于计算机的健康驾驶辅助方法及系统 |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11787062B2 (en) * | 2019-12-12 | 2023-10-17 | The Boeing Company | Emotional intelligent robotic pilot |
US20220036554A1 (en) * | 2020-08-03 | 2022-02-03 | Healthcare Integrated Technologies Inc. | System and method for supporting the emotional and physical health of a user |
CN112820072A (zh) * | 2020-12-28 | 2021-05-18 | 深圳壹账通智能科技有限公司 | 危险驾驶预警方法、装置、计算机设备及存储介质 |
US11847839B2 (en) * | 2021-06-04 | 2023-12-19 | Rockwell Collins, Inc. | Detecting anomalous behaviors within aircraft context |
US20220386915A1 (en) * | 2021-06-04 | 2022-12-08 | Rockwell Collins, Inc. | Physiological and behavioural methods to assess pilot readiness |
EP4345011A1 (en) * | 2022-09-29 | 2024-04-03 | Airbus Operations GmbH | Shutdown system and method |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101968910A (zh) * | 2009-07-27 | 2011-02-09 | 波音公司 | 可触知的飞行员警报系统和方法 |
EP2434465A2 (en) * | 2010-09-24 | 2012-03-28 | Honeywell International Inc. | Alert generation and related aircraft operating methods |
US20130268146A1 (en) * | 2012-04-04 | 2013-10-10 | Eurocopter | Method and a device for adapting the man-machine interface of an aircraft depending on the level of the pilot's functional state |
US20170334456A1 (en) * | 2016-05-23 | 2017-11-23 | International Business Machines Corporation | Bias of Physical Controllers in a System |
US20180126999A1 (en) * | 2016-11-07 | 2018-05-10 | Honeywell International Inc. | Systems and methods for recognizing and analyzing emotional states of a vehicle operator |
US20180174457A1 (en) * | 2016-12-16 | 2018-06-21 | Wheego Electric Cars, Inc. | Method and system using machine learning to determine an automotive driver's emotional state |
CN108769120A (zh) * | 2018-04-24 | 2018-11-06 | 中航材导航技术(北京)有限公司 | 一种基于airdrop功能在EFB系统终端之间传输放行资料的方法 |
Family Cites Families (47)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
FR2615641B1 (fr) * | 1987-05-20 | 1989-08-18 | Airbus Ind | Procede d'elaboration d'un modele statistique pour determiner la charge de travail d'un pilote d'aeronef, modele en resultant, dispositif pour la mise en oeuvre de ce procede et applications du modele |
JPH07115677B2 (ja) * | 1990-10-30 | 1995-12-13 | 嘉三 藤本 | 航空機の飛行情報記録方法とその装置 |
US20020173888A1 (en) | 2001-05-21 | 2002-11-21 | Shelton Robert Leo | Aircraft location and tracking system |
GB0122956D0 (en) | 2001-09-24 | 2001-11-14 | Lucas Industries Ltd | Fire resistant electronic engine controller |
FR2836722B1 (fr) | 2002-03-01 | 2006-12-08 | Airbus France | Balise de detresse, procede et dispositif de surveillance de signaux de detresse, et vehicule comprenant un tel dispositif |
US6799094B1 (en) | 2002-09-03 | 2004-09-28 | Ridgeback Systems Llc | Aircraft location monitoring system and method of operation |
ITLT20020018A1 (it) | 2002-11-14 | 2004-05-15 | Paolo Valletta | Sistema di controllo passeggeri in volo. |
GB2414809A (en) | 2003-01-23 | 2005-12-07 | Jentek Sensors Inc | Damage tolerance using adaptive model-based methods |
US7379795B2 (en) | 2003-06-26 | 2008-05-27 | Michael Arnouse | Apparatus, system and method for aircraft security and anti-hijacking intervention |
US7376494B2 (en) | 2003-06-26 | 2008-05-20 | Michael Arnouse | Apparatus, system and method for aircraft security and anti-hijacking intervention |
US8018332B2 (en) | 2006-02-02 | 2011-09-13 | Procon, Inc. | Global emergency alert notification system |
JP2007122579A (ja) * | 2005-10-31 | 2007-05-17 | Equos Research Co Ltd | 車両制御装置 |
US7948401B2 (en) | 2007-01-18 | 2011-05-24 | Potomac Aviation Technology Corp. | Emergency transmission monitoring and reporting |
US7855654B2 (en) | 2007-01-23 | 2010-12-21 | Daniel A. Katz | Location recording system |
US20090069707A1 (en) | 2007-09-06 | 2009-03-12 | Sandford Joseph A | Method to improve neurofeedback training using a reinforcement system of computerized game-like cognitive or entertainment-based training activities |
KR100919595B1 (ko) | 2007-11-22 | 2009-09-29 | 이왕섭 | 마찰계수를 낮춘 셀룰로오스 섬유 클린 패드 제조방법 및그 구조 |
ES2371189B2 (es) | 2009-06-15 | 2012-12-11 | Save-Dummy, S.L. | Dispositivo para localizacion de vehiculos aereos accidentados |
WO2011010942A1 (en) | 2009-07-22 | 2011-01-27 | Uy Rafael Q | An automated distress locator transmission assembly |
WO2011012156A1 (en) | 2009-07-28 | 2011-02-03 | Pilatus Flugzeugwerke Ag | Aircraft avionics system |
WO2011017812A1 (en) | 2009-08-11 | 2011-02-17 | Aeromechanical Services Ltd. | Automated aircraft flight data delivery and management system with demand mode |
KR101084111B1 (ko) | 2009-11-24 | 2011-11-16 | 한국전자통신연구원 | 조난 신호 탐색 장치 및 그 제어 방법 |
US10002519B2 (en) | 2012-12-18 | 2018-06-19 | InFlight Labs, LLC | Distressed aircraft notification and tracking system |
FR2968276B1 (fr) | 2010-12-06 | 2013-08-16 | Airbus Operations Sas | Procede et dispositif d'aide a la localisation d'une epave d'aeronef immergee dans une etendue d'eau de mer. |
US8766819B2 (en) * | 2011-06-17 | 2014-07-01 | The Boeing Company | Crew allertness monitoring of biowaves |
US8674853B2 (en) | 2011-09-20 | 2014-03-18 | Mohammad Mahdavi Gorabi | System and method for automatic distress at sea |
KR20130059162A (ko) | 2011-11-28 | 2013-06-05 | 주식회사 케이티 | 배터리 소모 강도 제공 시스템 및 표시 방법 |
FR2996313B1 (fr) | 2012-10-02 | 2014-10-03 | Elta | Systeme de balise de detresse pour aeronef ou autre vehicule |
US20150213634A1 (en) * | 2013-01-28 | 2015-07-30 | Amit V. KARMARKAR | Method and system of modifying text content presentation settings as determined by user states based on user eye metric data |
US9396642B2 (en) | 2013-10-23 | 2016-07-19 | Quanttus, Inc. | Control using connected biometric devices |
FR3013034B1 (fr) | 2013-11-12 | 2017-01-20 | Airbus Operations Sas | Systeme d'activation de balise de detresse d'aeronef |
CN104751601A (zh) | 2013-12-27 | 2015-07-01 | 北京尚乘亿邦信息技术有限公司 | 一种海上应急搜救系统 |
US9403602B1 (en) | 2014-05-09 | 2016-08-02 | Rockwell Collins, Inc. | Architecture independent event driven transponders and position reporting devices |
US20160047880A1 (en) | 2014-08-14 | 2016-02-18 | Embry-Riddle Aeronautical University, Inc. | System and method for location of aircraft |
EP3657468A1 (en) | 2014-08-29 | 2020-05-27 | Zunum Aero, Inc. | System and methods for implementing regional air transit network using hybrid-electric aircraft |
JP6287728B2 (ja) * | 2014-09-25 | 2018-03-07 | 株式会社デンソー | 車載システム、車両制御装置、および車両制御装置用のプログラム |
GB2534678B (en) | 2014-12-18 | 2017-08-09 | Wearable Tech Ltd | Issuing alarm signal to operatives |
US9919712B1 (en) * | 2015-08-10 | 2018-03-20 | Rockwell Collins, Inc. | Crew biometrics and aircraft data analysis with real-time and proactive actions |
US10030995B2 (en) | 2015-08-21 | 2018-07-24 | The Boeing Company | Controller for an aircraft tracker |
JP6436030B2 (ja) * | 2015-09-17 | 2018-12-12 | トヨタ自動車株式会社 | ライフログ記録システム |
KR101700535B1 (ko) | 2015-11-10 | 2017-01-26 | 한국항공우주연구원 | 무인 비행기 |
US10450084B2 (en) | 2016-02-25 | 2019-10-22 | The Boeing Company | Emergency locator transmitter activation device for enhanced emergency location performance |
US10451743B2 (en) | 2016-02-25 | 2019-10-22 | The Boeing Company | Integrated interface architecture and control logic for enhanced emergency location functionality |
US10762794B2 (en) * | 2016-09-19 | 2020-09-01 | Honeywell International Inc. | Methods and systems for automation guidance |
JP2018142258A (ja) * | 2017-02-28 | 2018-09-13 | オムロン株式会社 | 生産管理装置、方法およびプログラム |
WO2018195214A1 (en) | 2017-04-18 | 2018-10-25 | Aviation Communication & Surveillance Systems Llc | Systems and methods for activating a radio beacon for global aircraft tracking |
GB2563593B (en) | 2017-06-19 | 2020-05-27 | Ge Aviat Systems Ltd | Autonomous distress tracking device |
US10748433B2 (en) | 2018-01-05 | 2020-08-18 | Ge Aviation Systems Llc | Systems and methods for autonomous distress tracking in aerial vehicles |
-
2018
- 2018-12-11 GB GB1820115.2A patent/GB2579656A/en not_active Withdrawn
-
2019
- 2019-12-04 US US16/702,747 patent/US11341352B2/en active Active
- 2019-12-09 EP EP19214621.5A patent/EP3667634A1/en active Pending
- 2019-12-11 CN CN201911267551.3A patent/CN111310552A/zh active Pending
-
2022
- 2022-05-23 US US17/751,037 patent/US11810400B2/en active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101968910A (zh) * | 2009-07-27 | 2011-02-09 | 波音公司 | 可触知的飞行员警报系统和方法 |
EP2434465A2 (en) * | 2010-09-24 | 2012-03-28 | Honeywell International Inc. | Alert generation and related aircraft operating methods |
US20130268146A1 (en) * | 2012-04-04 | 2013-10-10 | Eurocopter | Method and a device for adapting the man-machine interface of an aircraft depending on the level of the pilot's functional state |
US20170334456A1 (en) * | 2016-05-23 | 2017-11-23 | International Business Machines Corporation | Bias of Physical Controllers in a System |
US20180126999A1 (en) * | 2016-11-07 | 2018-05-10 | Honeywell International Inc. | Systems and methods for recognizing and analyzing emotional states of a vehicle operator |
US20180174457A1 (en) * | 2016-12-16 | 2018-06-21 | Wheego Electric Cars, Inc. | Method and system using machine learning to determine an automotive driver's emotional state |
CN108769120A (zh) * | 2018-04-24 | 2018-11-06 | 中航材导航技术(北京)有限公司 | 一种基于airdrop功能在EFB系统终端之间传输放行资料的方法 |
Non-Patent Citations (1)
Title |
---|
杨家忠: "飞行高度偏差的人为因素分析" * |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112801403A (zh) * | 2021-02-10 | 2021-05-14 | 武汉科技大学 | 基于ssa-bp的空中目标潜在威胁度预测方法及系统 |
CN113069115A (zh) * | 2021-03-09 | 2021-07-06 | 清华大学 | 一种情绪识别方法、电子设备及存储介质 |
CN113069115B (zh) * | 2021-03-09 | 2022-11-11 | 清华大学 | 一种情绪识别方法、电子设备及存储介质 |
CN114912829A (zh) * | 2022-06-02 | 2022-08-16 | 中国民用航空飞行学院 | 一种飞行员高原适飞的评估方法及系统 |
CN114912829B (zh) * | 2022-06-02 | 2023-04-07 | 中国民用航空飞行学院 | 一种飞行员高原适飞的评估方法及系统 |
CN115439836A (zh) * | 2022-11-09 | 2022-12-06 | 成都工业职业技术学院 | 一种基于计算机的健康驾驶辅助方法及系统 |
CN115439836B (zh) * | 2022-11-09 | 2023-02-07 | 成都工业职业技术学院 | 一种基于计算机的健康驾驶辅助方法及系统 |
Also Published As
Publication number | Publication date |
---|---|
GB201820115D0 (en) | 2019-01-23 |
US11341352B2 (en) | 2022-05-24 |
GB2579656A (en) | 2020-07-01 |
US11810400B2 (en) | 2023-11-07 |
EP3667634A1 (en) | 2020-06-17 |
US20220284737A1 (en) | 2022-09-08 |
US20200242343A1 (en) | 2020-07-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11810400B2 (en) | Method of assessing a pilot emotional state | |
US10426393B2 (en) | Systems and methods for monitoring pilot health | |
US9613543B2 (en) | Alert generation and related aircraft operating methods | |
US20230356842A1 (en) | Mitigating operational risk in aircraft | |
US11928970B2 (en) | Aircraft and method of adjusting a pilot workload | |
CN109528219A (zh) | 用于监测操作者的系统 | |
US20220230522A1 (en) | Flight Crew Fatigue And Controlled Rest Management System | |
CN111301696B (zh) | 飞行器和控制方法 | |
US20130268146A1 (en) | Method and a device for adapting the man-machine interface of an aircraft depending on the level of the pilot's functional state | |
CA3132496A1 (en) | Mitigating operational risk in aircraft | |
US20240185726A1 (en) | System and method of adjusting a pilot workload | |
AU2020407832A1 (en) | Method and device to assist with monitoring the cognitive states of an individual | |
GB2604716A (en) | Aircraft and method of adjusting a pilot workload | |
Stephens et al. | System and Method for Training of State-Classifiers | |
GB2609873A (en) | Aircraft and method of controlling |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |