CN111797662A - 评估驾驶者的疲劳分数的方法 - Google Patents

评估驾驶者的疲劳分数的方法 Download PDF

Info

Publication number
CN111797662A
CN111797662A CN201910708449.6A CN201910708449A CN111797662A CN 111797662 A CN111797662 A CN 111797662A CN 201910708449 A CN201910708449 A CN 201910708449A CN 111797662 A CN111797662 A CN 111797662A
Authority
CN
China
Prior art keywords
driver
processing module
fatigue
score
obtaining
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201910708449.6A
Other languages
English (en)
Inventor
吴炳飞
陈冠宏
黄柏维
蔡尹晟
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
National Yang Ming Chiao Tung University NYCU
Original Assignee
National Chiao Tung University NCTU
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by National Chiao Tung University NCTU filed Critical National Chiao Tung University NCTU
Publication of CN111797662A publication Critical patent/CN111797662A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/59—Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • G06V20/597—Recognising the driver's state or behaviour, e.g. attention or drowsiness
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00—Measuring for diagnostic purposes; Identification of persons
    • A61B5/02—Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/024—Detecting, measuring or recording pulse rate or heart rate
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00—Measuring for diagnostic purposes; Identification of persons
    • A61B5/02—Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/024—Detecting, measuring or recording pulse rate or heart rate
    • A61B5/02416—Detecting, measuring or recording pulse rate or heart rate using photoplethysmograph signals, e.g. generated by infrared radiation
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00—Measuring for diagnostic purposes; Identification of persons
    • A61B5/16—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
    • A61B5/165—Evaluating the state of mind, e.g. depression, anxiety
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00—Measuring for diagnostic purposes; Identification of persons
    • A61B5/16—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
    • A61B5/168—Evaluating attention deficit, hyperactivity
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00—Measuring for diagnostic purposes; Identification of persons
    • A61B5/16—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
    • A61B5/18—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state for vehicle drivers or machine operators
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00—Measuring for diagnostic purposes; Identification of persons
    • A61B5/68—Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient
    • A61B5/6887—Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient mounted on external non-worn devices, e.g. non-medical devices
    • A61B5/6893—Cars
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00—Measuring for diagnostic purposes; Identification of persons
    • A61B5/72—Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7235—Details of waveform analysis
    • A61B5/7264—Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168—Feature extraction; Face representation
    • G06V40/171—Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G06V40/174—Facial expression recognition
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G06V40/174—Facial expression recognition
    • G06V40/176—Dynamic expression
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/70—Multimodal biometrics, e.g. combining information from different biometric modalities
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B2503/00—Evaluating a particular growth phase or type of persons or animals
    • A61B2503/20—Workers
    • A61B2503/22—Motor vehicles operators, e.g. drivers, pilots, captains
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B2576/00—Medical imaging apparatus involving image processing or analysis
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00—Measuring for diagnostic purposes; Identification of persons
    • A61B5/0002—Remote monitoring of patients using telemetry, e.g. transmission of vital signals via a communication network
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00—Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0077—Devices for viewing the surface of the body, e.g. camera, magnifying lens
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60Q—ARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q9/00—Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Veterinary Medicine (AREA)
  • Biophysics (AREA)
  • Public Health (AREA)
  • Animal Behavior & Ethology (AREA)
  • Surgery (AREA)
  • Molecular Biology (AREA)
  • Medical Informatics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Biomedical Technology (AREA)
  • Pathology (AREA)
  • Psychiatry (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Developmental Disabilities (AREA)
  • Cardiology (AREA)
  • Social Psychology (AREA)
  • Psychology (AREA)
  • Hospice & Palliative Care (AREA)
  • Educational Technology (AREA)
  • Child & Adolescent Psychology (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Physiology (AREA)
  • Human Computer Interaction (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Computation (AREA)
  • Fuzzy Systems (AREA)
  • Mathematical Physics (AREA)
  • Signal Processing (AREA)
  • Image Analysis (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Abstract

一种评估驾驶者的疲劳分数的方法，通过处理模块来实施，所述处理模块连接持续地拍摄驾驶者以便连续获得多张与驾驶者相关的影像的影像撷取模块，所述评估驾驶者的疲劳分数的方法包含以下步骤：(A)根据所述影像撷取模块所撷取的所述影像，获得指示出驾驶者的生理状态的生理信息；(B)根据所述影像的其中一个，获得指示出驾驶者情绪的表情信息；(C)根据所述影像的其中一个，获得指示出驾驶者驾驶行为的行为信息；(D)根据所述生理信息、所述表情信息及所述行为信息，获得指示出驾驶者疲劳程度的疲劳分数。根据所述疲劳分数判定出驾驶者当前的精神状况，进而避免事故的发生。

Description

评估驾驶者的疲劳分数的方法
技术领域
本发明涉及一种用于车辆的影像处理系统的方法，特别是涉及一种安全驾驶评估方法。
背景技术
目前习知的安全驾驶检测装置，皆是通过影像处理的方式判定相关于驾驶者的身体或脸部的动作的影像是否显示出驾驶者处于疲备状态，而影响到自身、乘客或其他用路人的安全，而此种方式因没有考虑驾驶者的生理信息(例如：心跳频率)，因此在实际的实施上准确率并没有达到理想的成果。
有鉴于此，故如何提供一种综合考虑驾驶者的生理信息、驾驶者的脸部信息及驾驶者的行为信息的安全驾驶检测方法，即为本发明所欲解决的首要课题。
发明内容
本发明的目的在于提供一种可评估驾驶者的疲劳状态的评估驾驶者的疲劳分数的方法。
本发明的评估驾驶者的疲劳分数的方法，通过处理模块来实施，所述处理模块连接持续地拍摄驾驶者以获得多张相关于驾驶者的影像的影像撷取模块，所述评估驾驶者的疲劳分数的方法包含步骤(A)、步骤(B)、步骤(C)，以及步骤(D)。
所述步骤(A)是通过所述处理模块，根据所述影像撷取模块所撷取的所述影像，获得指示出驾驶者的生理状态的生理信息。
所述步骤(B)是通过所述处理模块，根据所述影像的其中一个，获得指示出驾驶者情绪的表情信息。
所述步骤(C)是通过所述处理模块，根据所述影像的其中一个，获得指示出驾驶者驾驶行为的行为信息。
所述步骤(D)是通过所述处理模块，根据所述生理信息、所述表情信息及所述行为信息，获得指示出驾驶者疲劳程度的疲劳分数。
本发明的评估驾驶者的疲劳分数的方法，在所述步骤(A)中，所述生理信息属于时域信息。
本发明的评估驾驶者的疲劳分数的方法，在所述步骤(A)中，所述生理信息属于频域信息。
本发明的评估驾驶者的疲劳分数的方法，所述步骤(A)包含以下步骤：
(A-1)对于每一影像，通过所述处理模块，根据所述影像，获得所述影像中的驾驶者的脸部区域的脸部图像；
(A-2)通过所述处理模块，根据每一张影像的所述脸部图像，获得相关于驾驶者的心跳的时域波形图；以及
(A-3)通过所述处理模块，根据所述时域波形图，获得相关于驾驶者的心跳且包含于所述生理信息的心率及正常窦性心搏间期的标准差。
本发明的评估驾驶者的疲劳分数的方法，所述步骤(A-2)包含以下步骤：
(A-2-1)通过所述处理模块，根据每一张影像的所述脸部图像，获得光体积变化描记图信号；以及
(A-2-2)通过所述处理模块，根据所述光体积变化描记图信号，获得所述时域波形图。
本发明的评估驾驶者的疲劳分数的方法，所述步骤(D)包含以下步骤：
(D-1)通过所述处理模块，根据所述生理信息中的所述心率，利用相关于心率的模糊化模型，获得相关于驾驶者的心率分数；
(D-2)通过所述处理模块，根据所述生理信息中的所述正常窦性心搏间期的标准差，利用相关于正常窦性心搏间期的标准差的模糊化模型，获得相关于驾驶者的正常窦性心搏间期的标准差分数；以及
(D-3)通过所述处理模块，根据所述心率分数及所述正常窦性心搏间期的标准差分数，利用相关于所述心率、所述正常窦性心搏间期的标准差、所述表情信息及所述行为信息的疲劳程度分类模型，获得指示出驾驶者疲劳程度的所述疲劳分数。
本发明的评估驾驶者的疲劳分数的方法，所述步骤(A)包含以下步骤：
(A-1)对于每一影像，通过所述处理模块，根据所述影像，获得所述影像中的驾驶者的脸部区域的脸部图像；
(A-2)通过所述处理模块，根据每一张影像的所述脸部图像，获得相关于驾驶者的心跳的时域波形图；以及
(A-3)通过所述处理模块，根据所述时域波形图，利用傅立叶频谱转换，获得包含于所述生理信息的交感及副交感神经平衡指标。
本发明的评估驾驶者的疲劳分数的方法，所述步骤(A-2)包含以下步骤：
(A-2-1)通过所述处理模块，根据每一张影像的所述脸部图像，获得光体积变化描记图信号；以及
(A-2-2)通过所述处理模块，根据所述光体积变化描记图信号，获得所述时域波形图。
本发明的评估驾驶者的疲劳分数的方法，所述步骤(D)包含以下步骤：
(D-1)通过所述处理模块，根据所述生理信息中的所述交感及副交感神经平衡指标，利用相关于交感及副交感神经平衡指标模糊化模型，获得相关于驾驶者的交感及副交感神经平衡指标分数；以及
(D-2)通过所述生理信息，根据所述交感及副交感神经平衡指标分数，利用相关于所述交感及副交感神经平衡指标、所述表情信息及所述行为信息的疲劳程度分类模型，获得指示出驾驶者疲劳程度的所述疲劳分数。
本发明的评估驾驶者的疲劳分数的方法，所述步骤(B)包含以下步骤：
(B-1)通过所述处理模块，根据所述影像撷取模块所撷取的所述影像中的最后一张影像，获得所述最后一张影像中的驾驶者的脸部部分；以及
(B-2)通过所述处理模块，通过预设的表情分类模型，获得对应于所述最后一张影像的驾驶者的表情，且包括生气分数、厌恶分数、害怕分数、高兴分数、伤心分数，及惊讶分数的表情信息。
本发明的有益效果在于：通过所述影像撷取模块所撷取的所述影像，获得指示出驾驶者的生理状态的所述生理信息、所述表情信息及所述行为信息，并根据所述生理信息、所述表情信息及所述行为信息，获得指示出驾驶者疲劳程度的所述疲劳分数，便可根据所述疲劳分数判定出驾驶者当前的精神状况，进而避免事故的发生。
附图说明
本发明的其他的特征及功效，将于参照图示的实施方式中清楚地呈现，其中：
图1是一方块图，说明执行本发明评估驾驶者的疲劳分数的方法的一实施例的评估系统；
图2是一流程图，说明所述实施例的疲劳分数获得及警示程序；
图3、4皆是流程图，配合地说明所述疲劳分数获得及警示程序如何获得生理信息的详细流程；
图5是一流程图，说明所述疲劳分数获得及警示程序如何获得影像中的驾驶者的胸口部分的详细流程；
图6是一流程图，说明所述疲劳分数获得及警示程序如何获得表情信息的详细流程；
图7是一流程图，说明所述疲劳分数获得及警示程序如何获得行为信息的详细流程；
图8是一流程图，说明所述疲劳分数获得及警示程序如何获得眼部疲倦评估结果的详细流程；
图9是一流程图，说明所述疲劳分数获得及警示程序如何获得第一疲倦评估结果的详细流程；
图10是一流程图，说明所述疲劳分数获得及警示程序如何获得第二疲倦评估结果的详细流程；
图11是一流程图，说明所述疲劳分数获得及警示程序如何获得第三疲倦评估结果的详细流程；及
图12是一流程图，说明所述实施例的危险驾驶警示程序。
具体实施方式
在本发明被详细描述之前，应当注意在以下的说明内容中，类似的元件是以相同的编号来表示。
参阅图1，执行本发明评估驾驶者的疲劳分数的方法的评估系统1的一实施例，所述评估系统1通过通讯网络200连接至管理端2。
所述评估系统1包括连接至所述通讯网络200的通讯模块11、储存模块12、影像撷取模块13、警示模块14，以及电连接所述通讯模块11、所述储存模块12、所述影像撷取模块13与所述警示模块14的处理模块15。
所述储存模块12储存有根据多种已知的学习样本，利用监督式分类法或非监督式分群法(例如：类神经网络算法)所训练出的多个分类模型，但不以类神经网络算法为限。其中所述分类模型包含疲劳程度分类模型、表情分类模型，以及驾驶行为分类模型。
所述储存模块12还储存有根据所述生理信息所包含的每一者所对应的已知的学习样本所训练出的对应的模糊化模型(Fuzzy Model)。
所述影像撷取模块13用于持续地拍摄驾驶者以便连续获得多张相关于所述驾驶者的影像，并用于持续地拍摄所述驾驶者以便获得多张连续的红外光影像。
在所述实施例中，所述通讯模块11的实施方式例如为能通过无线网络或蓝牙通讯传送并接收信息的硬件，但不以此为限。
在所述实施例中，所述储存模块12的实施方式例如为硬盘或存储器，但不以此为限。
在所述实施例中，所述影像撷取模块13例如包含摄影机及红外线摄影机，但不以此为限。
在所述实施例中，所述警示模块14的实施方式例如为喇叭或发光装置，但不以此为限。
在所述实施例中，所述处理模块15的实施方式例如为运算逻辑单元，但不以此为限。
在所述实施例中，所述管理端2的实施方式例如为个人电脑、服务器或云端主机，但不以此为限。
以下将通过本发明评估驾驶者的疲劳分数的方法的所述实施例来说明所述评估系统1的所述通讯模块11、所述储存模块12、所述影像撷取模块13、所述警示模块14、所述处理模块15，以及连接所述评估系统1的管理端2各元件的运作细节，本发明评估驾驶者的疲劳分数的方法包含疲劳分数获得及警示程序，以及危险驾驶警示程序。
参阅图2，所述疲劳分数获得及警示程序用于获得指示出所述驾驶者疲劳程度的疲劳分数，并包含步骤51、步骤61、步骤71，以及步骤81。
在所述步骤51中，所述处理模块15根据所述影像撷取模块13所撷取的所述影像，获得指示出所述驾驶者的生理状态的生理信息。其中，所述生理信息至少包含属于时域信息(Time Domain)的正常窦性心搏间期的标准差(SDNN，Standard Deviation of Normalto Normal)、属于频域信息(Frequency Domain)的交感/副交感神经平衡指标(LF/HFRatio，Low Frequency/High Frequency Ratio)、可同时属于所述时域信息及所述频域信息的心率、属于所述时域信息的血压值，以及属于所述频域信息的呼吸频率的其中一个。
在所述步骤61中，所述处理模块15根据所述影像的其中一个，获得指示出所述驾驶者情绪的表情信息。
在所述步骤71中，所述处理模块15根据所述影像的其中一个，获得指示出所述驾驶者驾驶行为的行为信息。其中，所述行为信息至少包含眼部疲倦评估结果、第一疲倦评估结果、第二疲倦评估结果，以及第三疲倦评估结果的其中一个。
在所述步骤81中，所述处理模块15根据所述生理信息、所述表情信息，以及所述行为信息，利用预设的所述疲劳程度分类模型进行(例如：类神经网络算法)，以获得指示出所述驾驶者疲劳程度的所述疲劳分数。值得特别说明的是，在所述实施例中，所述处理模块15可仅根据所述生理信息，并利用已训练完成的所述疲劳程度分类模型，获得所述疲劳分数。
特别地，当所述疲劳程度分类模型仅根据所述生理信息，获得所述疲劳分数时，表示所述疲劳程度分类模型是利用例如所述非监督式分群法(例如：类神经网络算法)，以及对应所述生理信息的训练资料所训练出，但不以类神经网络算法为限。举例来说，当所述生理信息仅包含所述心率及所述正常窦性心搏间期的标准差时，则所述疲劳程度分类模型是根据所述心率及所述正常窦性心搏间期的标准差所对应的训练资料所训练出。又或者，当所述生理信息仅包含所述交感及副交感神经平衡指标时，则所述疲劳程度分类模型是根据所述交感及副交感神经平衡指标所对应的训练资料所训练出。
特别地，当所述疲劳程度分类模型仅根据所述生理信息及所述表情信息，获得所述疲劳分数时，表示所述疲劳程度分类模型是利用例如所述非监督式分群法(例如：类神经网络算法)，以及对应所述生理信息与所述表情信息两者的训练资料所训练出，但不以类神经网络算法为限。
特别地，当所述疲劳程度分类模型根据所述生理信息、所述表情信息及所述行为信息，获得所述疲劳分数时，表示所述疲劳程度分类模型是利用例如所述非监督式分群法(例如：类神经网络算法)，以及对应所述生理信息与所述表情信息与所述行为信息三者的训练资料所训练出，但不以类神经网络算法为限。特别地，所述处理模块15还可以通过判定所述疲劳分数是否大于警示疲劳阈值，产生并传送警示信息至警示模块14，以提醒所述驾驶者休息。特别地，所述处理模块15还可以通过所述通讯模块11将除所述生理信息、所述表情信息之外的所述行为信息以及所述疲劳分数传送至所述管理端2，以供管理人员控管记录分析。
值得特别说明的是，在所述步骤81中，对于包含于所述生理信息的每一者，所述处理模块15先利用包含于所述生理信息的所述者(例如：所述心率)所对应的模糊化模型(例如：相关于所述心率的模糊化模型)，获得包含于所述生理信息的所述者所对应的分数(例如：相关于驾驶者的心率分数)，接着，利用所述监督式分类法或所述非监督式分群法(例如：类神经网络算法)，获得所述疲劳分数。值得特别说明的是，包含于所述生理信息的每一者所对应的模糊化模型是套用类高斯函数模型设计归属函数(Membership Function)以获得各自对应的分数，而在其他实施例中，在利用所述监督式分类法或所述非监督式分群法获得被分群或分类的结果后，还利用解模糊化(Defuzzification)，才获得所述疲劳分数。
参阅图3、4，值得特别说明的是，所述步骤51还进一步包含子步骤511、子步骤512、子步骤513、子步骤514、子步骤515、子步骤516、子步骤517、子步骤518、子步骤519，以及子步骤520。其中，所述子步骤511～所述子步骤514用于获得所述正常窦性心搏间期的标准差，所述子步骤511～所述子步骤513及所述子步骤515用于获得所述交感/副交感神经平衡指标，所述子步骤511～所述子步骤513及所述子步骤516用于获得所述心率，所述子步骤511～所述子步骤513及所述子步骤517用于获得所述血压值，所述子步骤518～所述子步骤520用于获得所述呼吸频率。
在所述子步骤511中，对于每一影像，所述处理模块15根据所述影像，获得所述影像中的驾驶者的脸部区域的脸部图像。值得特别说明的是，在所述实施例中，所述处理模块15是先将所述脸部图像转灰阶，接着，将所述脸部图像的所有灰阶值取平均以获得所述脸部图像所对应的所述平均灰阶值。其中，所述脸部图像的每一图元的灰阶值是例如将影像中的三原色数值(RGB值)以不同权重或一些标准化后所得到的数值相加而得，例如可以是R*0.299+G*0.587+B*0.114，其中R为红色数值、G为绿色数值、B为蓝色数值，但不以此为限。而在例如为IR影像时，更可以视需求或影像特性来调整所取用的所述脸部图像的每一图元的三原色数值或灰阶强度值。值的特别说明的是，在所述实施例中，所述脸部区域为所述影像中的驾驶者的脸颊区域。
在所述子步骤512中，所述处理模块15根据每一张影像的所述脸部图像所对应的所述平均灰阶值，获得相关于所述驾驶者的心跳的光体积变化描记图信号(PPG，Photoplethysmography)。
在所述子步骤513中，所述处理模块15根据所述光体积变化描记图信号，获得相关于所述驾驶者的心跳的时域波形图。值得特别说明的是，随着心跳的变化，脸部血液流动也随着心跳在变化，这种血液流动就会引起脸部颜色的变化，通过此原理即可根据每一张影像的脸部图像的平均灰阶值的变化来获得所述驾驶者的心跳的变化。
在所述子步骤514中，所述处理模块15根据所述子步骤513所获得的所述时域波形图中的每一组相邻波峰的间距，获得包含于所述生理信息的所述正常窦性心搏间期的标准差。值得特别说明的是，于此步骤中是先将过小的波峰(亦即，噪声)去除后，才获得每一组相邻波峰的间距。值得特别说明的是，所述正常窦性心搏间期的标准差可由所述时域波形图获得，因此，所述正常窦性心搏间期的标准差属于所述时域信息。
在所述子步骤515中，所述处理模块15将所述步骤513所获得的所述时域波形图利用傅立叶频谱转换(PSD，power spectral density)的Lomb-Scargle周期图(LSP，Lomb-Scargle Periodogram)方法，获得包含于所述生理信息的所述交感/副交感神经平衡指标。特别地，交感与副交感神经活性指标(LF)是指低频范围(0.04-0.15Hz)的正常心跳间期的变异数，而副交感神经活性指标(HF)是指高频范围(0.15-0.4Hz)的正常心跳间期的变异数。值得特别说明的是，在所述实施例中，所述处理模块15将所述傅立叶频谱转换所获得的谱密度中对应于0.04-0.15Hz范围进行积分以求得对应于0.04-0.15Hz范围的面积，即可获得交感与副交感神经活性指标。此外，所述处理模块15将所述傅立叶频谱转换所获得的谱密度中对应于0.15-0.4Hz范围进行积分以求得对应于0.15-0.4Hz范围的面积，即可获得副交感神经活性指标。值得特别说明的是，所述交感/副交感神经平衡指标需将所述时域波形图转成所述频域信息而获得，因此，所述生理信息的所述交感/副交感神经平衡指标属于所述频域信息。
在所述子步骤516中，所述处理模块15根据所述步骤513所获得的所述时域波形图，获得包含于所述生理信息的所述心率。值得特别说明的是，在所述实施例中，所述处理模块15根据所述时域波形图，获得于一段时间区间内的心跳次数后，再根据所述时间区间内的心跳次数推算出一分钟的心跳次数(亦即，心率)。值得特别说明的是，所述心率亦可通过将所述时域波形图利用所述傅立叶频谱转换，先获得每一心跳次数对应的出现频率且属于所述频域信息的关系图，再由所述关系图获得所述心率。因此，所述心率可同时属于所述时域信息及所述频域信息。
在所述子步骤517中，所述处理模块15根据所述步骤513所获得的所述时域波形图，获得包含于所述生理信息的所述血压值(收缩压与舒张压)。值得特别说明的是，所述子步骤511～所述子步骤513及所述子步骤517所述的获得所述血压值的技术细节，可参考由Po-Wei Huang等人发表于电机电子工程师学会(IEEE，Institute of Electrical andElectronics Engineers)的论文“基于图像的非接触式血压评估方法(Image BasedContactless Blood Pressure Assessment using Pulse Transit Time)”，但不以此为限。值得特别说明的是，所述血压值可由所述时域波形图的特征换算获得，因此，所述血压值属于所述时域信息。
在所述子步骤518中，对于每一张影像，所述处理模块15根据所述影像，获得所述影像中的驾驶者的胸口部分。
参阅图5，值得特别说明的是，所述子步骤518还进一步包含子步骤518A，以及子步骤518B。
在所述子步骤518A中，对于每一张影像，所述处理模块15根据所述影像，获得所述影像中的驾驶者的脸部部分。
在所述子步骤518B中，对于每一张影像，所述处理模块15根据所述影像中的所述脸部部分，利用特征点匹配算法(SURF，Speeded Up Robust Features)，获得每一影像中的驾驶者的胸口部分。
在所述子步骤519中，所述处理模块15根据所述影像中的胸口部分，利用光流法(optical flow)追踪所述影像中的胸口部分，以获得相关于所述影像的胸口部分在时间区间内的胸口起伏轨迹。
在所述子步骤520中，所述处理模块15根据所述胸口起伏轨迹，获得包含于所述生理信息的呼吸频率。值得特别说明的是，在所述实施例中，所述处理模块15根据所述时间区间内的所述胸口起伏轨迹，获得相关于所述时间区间内的所述胸口起伏轨迹的另一时域波形图，再利用所述傅立叶频谱转换，获得每一呼吸次数对应的出现频率且属于所述频域信息的另一关系图，再根据所述另一关系图获得所述呼吸频率。因此，所述呼吸频率属于所述频域信息。
参阅图6，值得特别说明的是，所述步骤61还进一步包含子步骤611，以及子步骤612。
在所述子步骤611中，所述处理模块15根据所述影像撷取模块所撷取的所述影像中的最后一张影像(亦即，当前影像)，获得所述最后一张影像中的驾驶者的脸部部分。
在所述子步骤612中，所述处理模块15利用预设的所述表情分类模型进行类神经算法，以获得对应于所述最后一张影像且相关于所述驾驶者的表情，并包括生气分数、厌恶分数、害怕分数、高兴分数、伤心分数及惊讶分数的表情信息。值得特别说明的是，所述表情信息获得程序的技术细节可参考由BING-FEI WU等人发表于电机电子工程师学会(IEEE，Institute of Electrical and Electronics Engineers)的论文“基于深度学习的脸部表情辨识模型(Adaptive Feature Mapping for Customizing Deep Learning BasedFacial Expression Recognition Model)”，但不以此为限。
参阅图7，值得特别说明的是，所述步骤71还进一步包含子步骤711、子步骤712、子步骤713以及子步骤714。其中，所述子步骤711用于获得所述眼部疲倦评估结果，所述子步骤712用于获得所述第一疲倦评估结果，所述子步骤713用于获得所述第二疲倦评估结果，所述子步骤714用于获得所述第三疲倦评估结果。
在所述子步骤711中，所述处理模块15根据所述影像撷取模块所撷取的所述影像中的最后一张影像，获得包含于所述行为信息的所述眼部疲倦评估结果。
参阅图8，值得特别说明的是，所述子步骤711还进一步包含子步骤711A、子步骤711B、子步骤711C、子步骤711D、子步骤711E、子步骤711F、子步骤711G，以及子步骤711H。
在所述子步骤711A中，所述处理模块15根据所述影像撷取模块所撷取的所述影像中的最后一张影像，获得所述最后一张影像中的驾驶者的脸部部分。
在所述子步骤711B中，所述处理模块15判定所述最后一张影像中的驾驶者的脸部部分是否指示出所述驾驶者为闭眼。当所述处理模块15判定所述最后一张影像中的驾驶者的脸部部分指示出所述驾驶者为闭眼时，进行流程子步骤711C；当所述处理模块15判定所述最后一张影像中的驾驶者的脸部部分指示出所述驾驶者为睁眼时，进行流程子步骤711F。
在所述子步骤711C中，所述处理模块15判定其是否已启动计时。当所述处理模块15判定已启动计时时，进行流程子步骤711D；当所述处理模块15判定其未启动计时时，进行流程子步骤711E。
在所述子步骤711D中，所述处理模块15根据当前的计时结果输出包含于所述行为信息且指示出所述驾驶者眼睛疲倦程度的所述眼部疲倦评估结果。值得特别说明的是，在所述子步骤711D中，所述处理模块15会先判定当前的计时结果是否超过预设的闭眼时间，当当前的计时结果超过所述闭眼时间时，即表示闭眼时间过长，则所述处理模块15所传送的所述眼部疲倦评估结果指示出所述驾驶者眼睛疲倦程度较高，而当当前的计时结果未超过预设的所述闭眼时间时，则所述处理模块15所传送的所述眼部疲倦评估结果指示出所述驾驶者眼睛疲倦程度较低。
在所述子步骤711E中，所述处理模块15启动计时，且输出预设的所述眼部疲倦评估结果，并回到流程子步骤711A。值得一提的是，由于输入至所述疲劳程度分类模型的输入参数不可以为空(NULL)，因而，在本实施例的子步骤711E中，所述处理模块15会将所述眼部疲倦评估结果预设为指示出所述驾驶者眼睛疲倦程度较低，以供后续进行类神经网络计算；然而，在其他实施方式中，所述处理模块15亦可将所述眼部疲倦评估结果预设为指示出所述驾驶者眼睛疲倦程度中等或较高，并不以此为限。
在所述子步骤711F中，所述处理模块15判定其是否已启动计时。当所述处理模块15判定已启动计时时，进行流程子步骤711G；当所述处理模块15判定其未启动计时时，进行流程子步骤711H。
在所述子步骤711G中，所述处理模块15根据当前的计时结果输出包含于所述行为信息且指示出所述驾驶者眼睛疲倦程度的所述眼部疲倦评估结果。值得特别说明的是，在所述子步骤711G中，所述处理模块15会先关闭计时，以获得指示出所述驾驶者闭眼至睁眼的第一时间长度，随后将计时重设为初值(例如：初值为0)，并根据所述第一时间长度获得相关于所述驾驶者的眨眼频率，接着，所述处理模块15判定所述眨眼频率是否超过预设的眨眼频率阈值，当所述眨眼频率超过所述眨眼频率阈值时，则所述处理模块15所传送的所述眼部疲倦评估结果指示出所述驾驶者眼睛疲倦程度较高，当所述眨眼频率未超过所述眨眼频率阈值时，则所述处理模块15所传送的所述眼部疲倦评估结果指示出所述驾驶者眼睛疲倦程度较低。
在所述子步骤711H中，所述处理模块输出预设的所述眼部疲倦评估结果，并回到流程子步骤711A。在本实施例的子步骤711H中，所述处理模块15会将所述眼部疲倦评估结果预设为指示出所述驾驶者眼睛疲倦程度较低，以供后续进行类神经网络计算；然而，在其他实施方式中，所述处理模块15亦可将所述眼部疲倦评估结果预设为指示出所述驾驶者眼睛疲倦程度中等或较高，并不以此为限。
在所述子步骤712中，所述处理模块15根据所述影像撷取模块所撷取的所述影像中的最后一张影像，获得包含于所述行为信息的所述第一疲倦评估结果。
参阅图9，值得特别说明的是，所述子步骤712还进一步包含子步骤712A、子步骤712B、子步骤712C、子步骤712D、子步骤712E、子步骤712F、子步骤712G，以及子步骤712H。
在所述子步骤712A中，所述处理模块15根据所述影像撷取模块所撷取的所述影像中的最后一张影像，获得所述最后一张影像中的驾驶者的脸部部分。
在所述子步骤712B中，所述处理模块15判定所述最后一张影像中的所述驾驶者的脸部部分所指示出所述驾驶者的低头角度是否大于角度预设值。当所述处理模块15判定所述最后一张影像中的低头角度大于所述角度预设值时，进行流程子步骤712C；当所述处理模块15判定所述最后一张影像中的低头角度未大于所述角度预设值时，进行流程子步骤712F。值得特别说明的是，所述低头角度为后脑勺与平行于颈椎的假想线的夹角。
在所述子步骤712C中，所述处理模块15判定其是否已启动计时。当所述处理模块15判定已启动计时时，进行流程子步骤712D；当所述处理模块15判定其未启动计时时，进行流程子步骤712E。
在所述子步骤712D中，所述处理模块15根据当前的计时结果输出包含于所述行为信息且指示出所述驾驶者疲倦程度的所述第一疲倦评估结果。值得特别说明的是，在所述子步骤712D中，所述处理模块15会先判定当前的计时结果是否超过预设的低头时间，当当前的计时结果超过所述低头时间时，即表示低头时间过长，则所述处理模块15所传送的所述第一疲倦评估结果指示出所述驾驶者疲倦程度较高，而当当前的计时结果未超过预设的所述低头时间时，则所述处理模块15所传送的所述第一疲倦评估结果指示出所述驾驶者疲倦程度较低。
在所述子步骤712E中，所述处理模块15启动计时，且输出预设的所述第一疲倦评估结果，并回到流程子步骤712A。值得一提的是，由于输入至所述疲劳程度分类模型的输入参数不可以为空(NULL)，因而，在本实施例的子步骤712E中，所述处理模块15会将所述第一疲倦评估结果预设为指示出所述驾驶者疲倦程度较低，以供后续进行类神经网络计算；然而，在其他实施方式中，所述处理模块15亦可将所述第一疲倦评估结果预设为指示出所述驾驶者疲倦程度中等或较高，并不以此为限。
在所述子步骤712F中，所述处理模块15判定其是否已启动计时。当所述处理模块15判定已启动计时时，进行流程子步骤712G；当所述处理模块15判定其未启动计时时，进行流程子步骤712H。
在所述子步骤712G中，所述处理模块15根据当前的计时结果输出包含于所述行为信息且指示出所述驾驶者疲倦程度的所述第一疲倦评估结果。值得特别说明的是，在所述子步骤712G中，所述处理模块15会先关闭计时，以获得一指示出所述驾驶者低头至抬头的第二时间长度，随后将计时重设为初值(例如：初值为0)，并根据所述第二时间长度获得相关于所述驾驶者的点头频率，接着，所述处理模块15判定所述点头频率是否超过预设的一点头频率阈值，当所述点头频率超过所述点头频率阈值时，则所述处理模块15所传送的所述第一疲倦评估结果指示出所述驾驶者疲倦程度较高，当所述点头频率未超过所述点头频率阈值时，则所述处理模块15所传送的所述第一疲倦评估结果指示出所述驾驶者疲倦程度较低。
在所述子步骤712H中，所述处理模块输出预设的所述第一疲倦评估结果，并回到流程子步骤712A。在本实施例的子步骤712H中，所述处理模块15会将所述第一疲倦评估结果预设为指示出所述驾驶者疲倦程度较低，以供后续进行类神经网络计算；然而，在其他实施方式中，所述处理模块15亦可将所述第一疲倦评估结果预设为指示出所述驾驶者疲倦程度中等或较高，并不以此为限。
在所述子步骤713中，所述处理模块15根据所述影像撷取模块所撷取的所述影像中的最后一张影像，获得包含于所述行为信息的所述第二疲倦评估结果。
参阅图10，值得特别说明的是，所述步骤713还进一步包含子步骤713A、子步骤713B、子步骤713C、子步骤713D、子步骤713E，以及子步骤713F。
在所述子步骤713A中，所述处理模块15根据所述影像撷取模块所撷取的所述影像中的最后一张影像，获得所述最后一张影像中的驾驶者的脸部部分及手部部分。
在所述子步骤713B中，所述处理模块15根据所述最后一张影像中的驾驶者的脸部部分及手部部分，判定所述驾驶者是否张开嘴巴。当所述处理模块15判定所述驾驶者张开嘴巴时，进行流程子步骤713C；当所述处理模块15判定所述驾驶者未张开嘴巴时，进行流程子步骤713F。值得特别说明的是，所述处理模块15是通过判定所述最后一张影像中的驾驶者的脸部部分是否指示出所述驾驶者开口，或所述最后一张影像的脸部部分所指示出的所述驾驶者嘴部部分是否与所述最后一张影像的手部部分的重叠面积大于预设的第一重叠面积阈值，以判定所述驾驶者是否张开嘴巴。当所述处理模块15判定所述最后一张影像中的驾驶者的脸部部分指示出所述驾驶者开口，或所述最后一张影像的嘴部部分与手部部分的重叠面积大于所述第一重叠面积阈值时，则判定所述驾驶者张开嘴巴；当所述处理模块15判定所述最后一张影像中的驾驶者的脸部部分并未指示出所述驾驶者开口，或所述最后一张影像的嘴部部分与手部部分的重叠面积不大于所述第一重叠面积阈值时，则判定所述驾驶者未张开嘴巴。
在所述子步骤713C中，所述处理模块15判定其是否已启动计时。当所述处理模块15判定已启动计时时，进行流程子步骤713D；当所述处理模块15判定其未启动计时时，进行流程子步骤713E。
在所述子步骤713D中，所述处理模块15根据当前的计时结果输出包含于所述行为信息且指示出所述驾驶者疲倦程度的所述第二疲倦评估结果。值得特别说明的是，在所述子步骤713D中，所述处理模块15会先判定当前的计时结果是否超过预设的打哈欠时间，当当前的计时结果超过所述打哈欠时间时，则所述处理模块15所传送的所述第二疲倦评估结果指示出所述驾驶者正在打哈欠，并且将计时重设为初值(例如：初值为0)，而当当前的计时结果未超过预设的所述打哈欠时间时，则所述处理模块15所传送的所述第二疲倦评估结果指示出所述驾驶者未正在打哈欠。
在所述子步骤713E中，所述处理模块15启动计时，且输出预设的所述第二疲倦评估结果，并回到流程子步骤713A。值得一提的是，由于输入至所述疲劳程度分类模型的输入参数不可以为空(NULL)，因而，在本实施例的子步骤713E中，所述处理模块15会将所述第二疲倦评估结果预设为指示出所述驾驶者未正在打哈欠，以供后续进行类神经网络计算；然而，在其他实施方式中，所述处理模块15亦可将所述第二疲倦评估结果预设为指示出所述驾驶者正在打哈欠，并不以此为限。
在所述子步骤713F中，所述处理模块15输出包含于所述行为信息且指示出所述驾驶者疲倦程度的预设的所述第二疲倦评估结果，并回到流程子步骤713A。由于在所述子步骤713F中，所述处理模块15判定所述驾驶者未张开嘴巴，因此所述第二疲倦评估结果指示出所述驾驶者未正在打哈欠。
在所述子步骤714中，所述处理模块15根据所述影像撷取模块所撷取的所述影像中的最后一张影像，获得包含于所述行为信息的所述第三疲倦评估结果。
参阅图11，值得特别说明的是，所述步骤714还进一步包含子步骤714A、子步骤714B、子步骤714C、子步骤714D、子步骤714E，以及子步骤714F。
在所述子步骤714A中，所述处理模块15根据所述影像撷取模块所撷取的所述影像中的最后一张影像，获得所述最后一张影像中的驾驶者的脸部部分及手部部分。
在所述子步骤714B中，所述处理模块15根据所述最后一张影像中的驾驶者的脸部部分及手部部分，判定所述驾驶者的手部是否邻近眼部。当所述处理模块15判定所述驾驶者的手部邻近眼部时，进行流程子步骤714C；当所述处理模块15判定所述驾驶者的手部未邻近眼部时，进行流程子步骤714F。值得特别说明的是，所述处理模块15是通过判定所述最后一张影像的脸部部分所指示出的所述驾驶者眼部部分是否与所述最后一张影像的手部部分的重叠面积大于预设的第二重叠面积阈值，以判定所述驾驶者的手部是否邻近眼部。当所述处理模块15判定所述最后一张影像的眼部部分与手部部分的重叠面积大于所述第二重叠面积阈值时，则判定所述驾驶者的手部邻近眼部；当所述处理模块15判定所述最后一张影像的眼部部分与手部部分的重叠面积不大于所述第二重叠面积阈值时，则判定所述驾驶者的手部未邻近眼部。
在所述子步骤714C中，所述处理模块15判定其是否已启动计时。当所述处理模块15判定已启动计时时，进行流程子步骤714D；当所述处理模块15判定其未启动计时时，进行流程子步骤714E。
在所述子步骤714D中，所述处理模块15根据当前的计时结果输出包含于所述行为信息且指示出所述驾驶者疲倦程度的所述第三疲倦评估结果。值得特别说明的是，在所述子步骤714D中，所述处理模块15会先判定当前的计时结果是否超过预设的揉眼时间，当当前的计时结果超过所述揉眼时间时，则所述处理模块15所传送的所述第三疲倦评估结果指示出所述驾驶者正在揉眼，并且将计时重设为初值(例如：初值为0)，而当当前的计时结果未超过预设的所述揉眼时间时，则所述处理模块15所传送的所述第三疲倦评估结果指示出所述驾驶者未正在揉眼。
在所述子步骤714E中，所述处理模块15启动计时，且输出预设的所述第三疲倦评估结果，并回到流程子步骤714A。值得一提的是，由于输入至所述疲劳程度分类模型的输入参数不可以为空(NULL)，因而，在本实施例的子步骤714E中，所述处理模块15会将所述第三疲倦评估结果预设为指示出所述驾驶者未正在揉眼，以供后续进行类神经网络计算；然而，在其他实施方式中，所述处理模块15亦可将所述第三疲倦评估结果预设为指示出所述驾驶者正在揉眼，并不以此为限。
在所述子步骤714F中，所述处理模块15输出包含于所述行为信息且指示出所述驾驶者疲倦程度的预设的所述第三疲倦评估结果，并回到流程子步骤714A。由于在所述子步骤714F中，所述处理模块15判定所述驾驶者的手部未邻近眼部，因此所述第三疲倦评估结果指示出所述驾驶者未正在揉眼。
参阅图12，所述危险驾驶警示程序根据所述影像撷取模块所撷取的所述影像中的最后一张影像判定所述驾驶者是否为危险驾驶以发出警示，所述危险驾驶警示程序含步骤91、步骤92、步骤93，以及步骤94。
在所述步骤91中，对于所述影像撷取模块所撷取的每一张影像，所述处理模块15利用预先建立的所述驾驶行为分类模型，进行类神经网络算法，以获得对应于所述影像的多个对应于所述驾驶者的多个不同驾驶行为的信心分数。值得特别说明的是，所述驾驶行为包含正常驾驶状态、使用手机状态、饮食状态，以及转身俯身取物状态。
在所述步骤92中，对于每一信心分数，所述处理模块15根据每一影像的所述信心分数于预设期间的变化量，输出相关于所述驾驶者的驾驶行为的驾驶行为结果。得特别说明的是，每一影像的所述信心分数于所述预设期间所对应的所述变化量若大于预设的变化量阈值，则输出所述信心分数所对应的驾驶行为，作为所述驾驶行为结果。
在所述步骤93中，所述处理模块15判定所述驾驶行为结果是否为所述正常驾驶状态。当所述处理模块15判定所述驾驶行为结果为所述正常驾驶状态时，进行流程步骤91；当所述处理模块15判定所述驾驶行为结果不为所述正常驾驶状态时，进行流程步骤94。
在所述步骤94中，所述处理模块15产生并传送另一警示信息至所述警示模块14，以提醒所述驾驶者专心开车。
综上所述，本发明评估驾驶者的疲劳分数的方法，通过所述处理模块15根据所述影像撷取模块13所撷取到的所述影像获得所述生理信息、所述表情信息，以及所述行为信息，并利用类神经网络所训练出的所述疲劳程度分类模型进行分类，以获得指示出所述驾驶者疲劳程度的所述疲劳分数，便可根据所述疲劳分数判定出所述驾驶者当前的精神状况，除此之外，所述处理模块15还可根据所述影像撷取模块13所撷取到的所述影像，获得所述驾驶行为结果，判定所述驾驶者是否处于危险驾驶状态例如：正在手用手机，以提醒所述驾驶者休息或专心开车，进而避免事故的发生。因此，故确实能达成本发明的目的。
以上所述仅为本发明较佳实施例，然其并非用以限定本发明的范围，任何熟悉本项技术的人员，在不脱离本发明的精神和范围内，可以在此基础上做进一步的改进和变化，因此本发明的保护范围应当以本申请的权利要求书所界定的范围为准。

Claims (10)

1.一种评估驾驶者的疲劳分数的方法，通过处理模块来实施，所述处理模块连接持续地拍摄驾驶者以获得多张与驾驶者相关的影像的影像撷取模块，其特征在于：所述评估驾驶者的疲劳分数的方法包含以下步骤：
(A)通过所述处理模块，根据所述影像撷取模块所撷取的所述影像，获得指示出驾驶者的生理状态的生理信息；
(B)通过所述处理模块，根据所述影像的其中一个，获得指示出驾驶者情绪的表情信息；
(C)通过所述处理模块，根据所述影像的其中一个，获得指示出驾驶者驾驶行为的行为信息；以及
(D)通过所述处理模块，根据所述生理信息、所述表情信息及所述行为信息，获得指示出驾驶者疲劳程度的疲劳分数。
2.根据权利要求1所述的评估驾驶者的疲劳分数的方法，其特征在于：在所述步骤(A)中，所述生理信息属于时域信息。
3.根据权利要求1所述的评估驾驶者的疲劳分数的方法，其特征在于：在所述步骤(A)中，所述生理信息属于频域信息。
4.根据权利要求2所述的评估驾驶者的疲劳分数的方法，其特征在于：所述步骤(A)包含以下步骤：
(A-1)对于每一影像，通过所述处理模块，根据所述影像，获得所述影像中的驾驶者的脸部区域的脸部图像；
(A-2)通过所述处理模块，根据每一张影像的所述脸部图像，获得与驾驶者的心跳相关的时域波形图；以及
(A-3)通过所述处理模块，根据所述时域波形图，获得与驾驶者的心跳相关且包含于所述生理信息的心率及正常窦性心搏间期的标准差。
5.根据权利要求4所述的评估驾驶者的疲劳分数的方法，其特征在于：所述步骤(A-2)包含以下步骤：
(A-2-1)通过所述处理模块，根据每一张影像的所述脸部图像，获得光体积变化描记图信号；以及
(A-2-2)通过所述处理模块，根据所述光体积变化描记图信号，获得所述时域波形图。
6.根据权利要求2所述的评估驾驶者的疲劳分数的方法，其特征在于：所述步骤(D)包含以下步骤：
(D-1)通过所述处理模块，根据所述生理信息中的心率，利用与心率相关的模糊化模型，获得与驾驶者相关的心率分数；
(D-2)通过所述处理模块，根据所述生理信息中的正常窦性心搏间期的标准差，利用与正常窦性心搏间期的标准差相关的模糊化模型，获得与驾驶者相关的正常窦性心搏间期的标准差分数；以及
(D-3)通过所述处理模块，根据所述心率分数及所述正常窦性心搏间期的标准差分数，利用与所述心率、所述正常窦性心搏间期的标准差、所述表情信息及所述行为信息相关的疲劳程度分类模型，获得指示出驾驶者疲劳程度的所述疲劳分数。
7.根据权利要求3所述的评估驾驶者的疲劳分数的方法，其特征在于：所述步骤(A)包含以下步骤：
(A-1)对于每一影像，通过所述处理模块，根据所述影像，获得所述影像中的驾驶者的脸部区域的脸部图像；
(A-2)通过所述处理模块，根据每一张影像的所述脸部图像，获得与驾驶者的心跳相关的时域波形图；以及
(A-3)通过所述处理模块，根据所述时域波形图，利用傅立叶频谱转换，获得包含于所述生理信息的交感及副交感神经平衡指标。
8.根据权利要求7所述的评估驾驶者的疲劳分数的方法，其特征在于：所述步骤(A-2)包含以下步骤：
(A-2-1)通过所述处理模块，根据每一张影像的所述脸部图像，获得光体积变化描记图信号；以及
(A-2-2)通过所述处理模块，根据所述光体积变化描记图信号，获得所述时域波形图。
9.根据权利要求3所述的评估驾驶者的疲劳分数的方法，其特征在于：所述步骤(D)包含以下步骤：
(D-1)通过所述处理模块，根据所述生理信息中的交感及副交感神经平衡指标，利用与交感及副交感神经平衡指标相关的模糊化模型，获得与驾驶者相关的交感及副交感神经平衡指标分数；以及
(D-2)通过所述生理信息，根据所述交感及副交感神经平衡指标分数，利用与所述交感及副交感神经平衡指标、所述表情信息及所述行为信息相关的疲劳程度分类模型，获得指示出驾驶者疲劳程度的所述疲劳分数。
10.根据权利要求1所述的评估驾驶者的疲劳分数的方法，其特征在于：所述步骤(B)包含以下步骤：
(B-1)通过所述处理模块，根据所述影像撷取模块所撷取的所述影像中的最后一张影像，获得所述最后一张影像中的驾驶者的脸部部分；以及
(B-2)通过所述处理模块，通过预设的表情分类模型，获得对应于所述最后一张影像的驾驶者的表情，且包括生气分数、厌恶分数、害怕分数、高兴分数、伤心分数及惊讶分数的表情信息。
CN201910708449.6A 2019-04-08 2019-08-01 评估驾驶者的疲劳分数的方法 Pending CN111797662A (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
TW108112128 2019-04-08
TW108112128A TWI715958B (zh) 2019-04-08 2019-04-08 評估駕駛者之疲勞分數的方法

Publications (1)

Publication Number Publication Date
CN111797662A true CN111797662A (zh) 2020-10-20

Family

ID=72663511

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910708449.6A Pending CN111797662A (zh) 2019-04-08 2019-08-01 评估驾驶者的疲劳分数的方法

Country Status (3)

Country Link
US (1) US11315350B2 (zh)
CN (1) CN111797662A (zh)
TW (1) TWI715958B (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112528792A (zh) * 2020-12-03 2021-03-19 深圳地平线机器人科技有限公司 疲劳状态检测方法、装置、介质及电子设备
CN113033503A (zh) * 2021-05-14 2021-06-25 哈尔滨理工大学 一种多特征融合的危险驾驶行为检测方法及系统
CN114241719A (zh) * 2021-12-03 2022-03-25 广州宏途教育网络科技有限公司 一种学生学习中视觉疲劳状态监测方法、装置及存储介质

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021003172A1 (en) * 2019-06-30 2021-01-07 Moment Ai, Inc. Facial recognition and monitoring device, system, and method
FR3100640B1 (fr) * 2019-09-10 2021-08-06 Faurecia Interieur Ind Procédé et dispositif de détection de bâillements d’un conducteur d’un véhicule
CN112287818A (zh) * 2020-10-28 2021-01-29 白彧 一种智能车载驾驶员辅助系统及其工作方法
CN113469023B (zh) * 2021-06-28 2024-07-16 北京百度网讯科技有限公司 确定警觉度的方法、装置、设备和存储介质
CN113415286B (zh) * 2021-07-14 2022-09-16 重庆金康赛力斯新能源汽车设计院有限公司 路怒检测方法和设备
CN113642522B (zh) * 2021-09-01 2022-02-08 中国科学院自动化研究所 基于音视频的疲劳状态检测方法和装置
CA3231733A1 (en) * 2021-09-13 2023-03-16 Benjamin Simon Thompson System and method for monitoring human-device interactions
JP2024142604A (ja) * 2023-03-30 2024-10-11 マツダ株式会社 ドライバ異常予兆検出方法及び装置
CN116645658B (zh) * 2023-04-28 2024-06-21 重庆赛力斯凤凰智创科技有限公司 驾驶员动作幅度监测方法、系统、计算机设备和存储介质
CN116824555A (zh) * 2023-06-14 2023-09-29 交通运输部水运科学研究所 一种航行途中船员疲劳度的监测方法及系统
CN117576668B (zh) * 2024-01-17 2024-04-05 江西科技学院 基于视频帧的多特征感知驾驶疲劳状态检测方法及系统

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005338934A (ja) * 2004-05-24 2005-12-08 Nissan Motor Co Ltd 車両内コミュニケーション装置
CN103714660A (zh) * 2013-12-26 2014-04-09 苏州清研微视电子科技有限公司 基于图像处理融合心率特征与表情特征实现疲劳驾驶判别的系统
CN103824420A (zh) * 2013-12-26 2014-05-28 苏州清研微视电子科技有限公司 基于心率变异性非接触式测量的疲劳驾驶识别系统
CN105144199A (zh) * 2013-02-21 2015-12-09 Iee国际电子工程股份公司 支持多种功能的基于成像装置的乘坐者监控系统
CN109460703A (zh) * 2018-09-14 2019-03-12 华南理工大学 一种基于心率和面部特征的非侵入式疲劳驾驶识别方法
CN109559481A (zh) * 2018-12-13 2019-04-02 平安科技（深圳）有限公司 驾驶风险智能识别方法、装置、计算机设备及存储介质

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110077548A1 (en) * 2004-04-01 2011-03-31 Torch William C Biosensors, communicators, and controllers monitoring eye movement and methods for using them
JP4375420B2 (ja) * 2007-03-26 2009-12-02 株式会社デンソー 眠気警報装置、及びプログラム
US8725311B1 (en) * 2011-03-14 2014-05-13 American Vehicular Sciences, LLC Driver health and fatigue monitoring system and method
US20140276090A1 (en) * 2011-03-14 2014-09-18 American Vehcular Sciences Llc Driver health and fatigue monitoring system and method using optics
CN104508719B (zh) * 2012-07-17 2018-02-23 日产自动车株式会社 驾驶辅助系统以及驾驶辅助方法
US9751534B2 (en) * 2013-03-15 2017-09-05 Honda Motor Co., Ltd. System and method for responding to driver state
US9283847B2 (en) * 2014-05-05 2016-03-15 State Farm Mutual Automobile Insurance Company System and method to monitor and alert vehicle operator of impairment
EP3393348B1 (en) * 2015-12-23 2020-10-21 Koninklijke Philips N.V. Device, system and method for determining a vital sign of a person
CN105719431A (zh) 2016-03-09 2016-06-29 深圳市中天安驰有限责任公司 一种疲劳驾驶检测系统
US11065958B2 (en) * 2017-01-03 2021-07-20 Transportation Ip Holdings, Llc Control system and method
US10328946B2 (en) * 2017-01-03 2019-06-25 Ge Global Sourcing Llc Alerter augmentation system
US20190077409A1 (en) * 2017-07-31 2019-03-14 Alcohol Countermeasure Systems (International) Inc. Non-intrusive assessment of fatigue in drivers using eye tracking
TWM557690U (zh) * 2017-09-15 2018-04-01 Horn Enterprise Co Ltd 疲勞駕駛監測裝置
TWM564431U (zh) * 2018-04-25 2018-08-01 國立交通大學 非接觸式心跳量測裝置
CN109334406A (zh) * 2018-09-25 2019-02-15 吉利汽车研究院（宁波）有限公司 一种用于缓解驾驶疲劳的智能车载香氛系统

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005338934A (ja) * 2004-05-24 2005-12-08 Nissan Motor Co Ltd 車両内コミュニケーション装置
CN105144199A (zh) * 2013-02-21 2015-12-09 Iee国际电子工程股份公司 支持多种功能的基于成像装置的乘坐者监控系统
CN103714660A (zh) * 2013-12-26 2014-04-09 苏州清研微视电子科技有限公司 基于图像处理融合心率特征与表情特征实现疲劳驾驶判别的系统
CN103824420A (zh) * 2013-12-26 2014-05-28 苏州清研微视电子科技有限公司 基于心率变异性非接触式测量的疲劳驾驶识别系统
CN109460703A (zh) * 2018-09-14 2019-03-12 华南理工大学 一种基于心率和面部特征的非侵入式疲劳驾驶识别方法
CN109559481A (zh) * 2018-12-13 2019-04-02 平安科技（深圳）有限公司 驾驶风险智能识别方法、装置、计算机设备及存储介质

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112528792A (zh) * 2020-12-03 2021-03-19 深圳地平线机器人科技有限公司 疲劳状态检测方法、装置、介质及电子设备
CN112528792B (zh) * 2020-12-03 2024-05-31 深圳地平线机器人科技有限公司 疲劳状态检测方法、装置、介质及电子设备
CN113033503A (zh) * 2021-05-14 2021-06-25 哈尔滨理工大学 一种多特征融合的危险驾驶行为检测方法及系统
CN114241719A (zh) * 2021-12-03 2022-03-25 广州宏途教育网络科技有限公司 一种学生学习中视觉疲劳状态监测方法、装置及存储介质
CN114241719B (zh) * 2021-12-03 2023-10-31 广州宏途数字科技有限公司 一种学生学习中视觉疲劳状态监测方法、装置及存储介质

Also Published As

Publication number Publication date
TW202038187A (zh) 2020-10-16
TWI715958B (zh) 2021-01-11
US11315350B2 (en) 2022-04-26
US20200320319A1 (en) 2020-10-08

Similar Documents

Publication Publication Date Title
CN111797662A (zh) 评估驾驶者的疲劳分数的方法
EP3600040B1 (en) Determining emotions using camera-based sensing
Yan et al. Real-time driver drowsiness detection system based on PERCLOS and grayscale image processing
KR101738278B1 (ko) 영상을 이용한 감정 인식 방법
KR102367481B1 (ko) 생체 인증 장치 및 방법
US20190138096A1 (en) Method for detecting facial expressions and emotions of users
EP2515760B1 (en) Affective well-being supervision system and method
WO2016159150A1 (ja) 脈波検出装置、及び脈波検出プログラム
WO2018152712A1 (zh) 一种车载健康安全驾驶辅助装置
CN110866498B (zh) 一种心率监测方法
CN110200640B (zh) 基于双模态传感器的非接触式情绪识别方法
WO2018179150A1 (ja) 心拍推定装置
Nie et al. SPIDERS: Low-cost wireless glasses for continuous in-situ bio-signal acquisition and emotion recognition
CN113040773A (zh) 一种数据采集处理方法
WO2023184832A1 (zh) 生理状态检测方法、装置、电子设备、存储介质及程序
Ursulescu et al. Driver drowsiness detection based on eye analysis
JP2001043345A (ja) 表情認識装置、およびそれを用いた投薬制御システム、覚醒レベル評価システム、回復評価システム
Lee et al. Multi-classifier for highly reliable driver drowsiness detection in Android platform
Alam et al. Remote Heart Rate and Heart Rate Variability Detection and Monitoring from Face Video with Minimum Resources
KR20160133043A (ko) 생체신호 기반의 심리 인지 장치
Nagasawa et al. Stress estimation using multimodal biosignal information from RGB facial video
Vettivel et al. System for detecting student attention pertaining and alerting
JP2021045375A (ja) 生体情報検出装置及び生体情報検出方法
CN113598741B (zh) 一种房颤评价模型训练方法、房颤评价方法和装置
Tarba et al. The driver's attention level

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20201020