CN114529972A - 一种肌萎缩侧索硬化患者自主呼叫处理方法及系统 - Google Patents

一种肌萎缩侧索硬化患者自主呼叫处理方法及系统 Download PDF

Info

Publication number
CN114529972A
CN114529972A CN202210159483.4A CN202210159483A CN114529972A CN 114529972 A CN114529972 A CN 114529972A CN 202210159483 A CN202210159483 A CN 202210159483A CN 114529972 A CN114529972 A CN 114529972A
Authority
CN
China
Prior art keywords
eye
patient
lateral sclerosis
amyotrophic lateral
key point
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202210159483.4A
Other languages
English (en)
Other versions
CN114529972B (zh
Inventor
唐珊
郁磊
李俐
薛虹霞
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
First Hospital of Shanxi Medical University
Original Assignee
First Hospital of Shanxi Medical University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by First Hospital of Shanxi Medical University filed Critical First Hospital of Shanxi Medical University
Priority to CN202210159483.4A priority Critical patent/CN114529972B/zh
Publication of CN114529972A publication Critical patent/CN114529972A/zh
Application granted granted Critical
Publication of CN114529972B publication Critical patent/CN114529972B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H40/00ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
    • G16H40/20ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the management or administration of healthcare resources or facilities, e.g. managing hospital staff or surgery rooms

Abstract

本发明涉及一种肌萎缩侧索硬化患者自主呼叫处理方法及系统,方法包括:获取肌萎缩侧索硬化患者的病床人像;利用人眼关键点提取模型提取所述病床人像中肌萎缩侧索硬化患者的人眼关键点坐标;根据所述人眼关键点坐标计算肌萎缩侧索硬化患者的眼部特征;所述眼部特征包括左眼特征和右眼特征;根据所述眼部特征计算肌萎缩侧索硬化患者的最终眨眼次数;根据所述最终眨眼次数确定分级信号;照护人员根据所述分级信号进行相应处理。本发明使失去行动能力和呼叫能力的肌萎缩侧索硬化患者能够与照护人员建立及时有效的沟通,在帮助减轻照护人员照顾负担的同时能够保证肌萎缩侧索硬化患者的日常安全,并且本发明的系统成本低,准确性高。

Description

一种肌萎缩侧索硬化患者自主呼叫处理方法及系统
技术领域
本发明涉及患者自主呼叫处理领域,特别是涉及一种肌萎缩侧索硬化患者自主呼叫处理方法及系统。
背景技术
肌萎缩侧索硬化(ALS)俗称“渐冻人症”,是上运动神经元和下运动神经元损伤之后,导致包括球部(所谓球部,就是指的是延髓支配的这部分肌肉)、四肢、躯干、胸部以及腹部的肌肉逐渐无力和萎缩,最终因呼吸肌麻痹导致死亡。
肌萎缩侧索硬化患者日常神志清醒,认知功能基本不受影响,因疾病进展导致无法移动肢体甚至无法发出声音,但在很长一段时间内仍然可以控制眼球的活动。如何护理他们成为一个难点:一方面,若需要一名照护人员24小时陪护,极为耗费人力;一方面,肌萎缩侧索硬化患者可能需要生理性排泄或者突感身体不适等需要照护人员进行帮助的情况,无法得到及时的满足;另外,肌萎缩侧索硬化患者由于出现发音障碍,与人交流和表达内心需求难度增加,因周围人无法理解他们内心的想法或感受而感到沮丧,出现抑郁等不良情绪。在这样的情形下,人们想要在满足肌萎缩侧索硬化患者日常护理需求的同时。加强患者与照护人员之间的有效沟通,帮助减少照护人员的照顾负担。
目前肌萎缩侧索硬化患者呼叫照护人员系统设计处于起步状态,有利用芯片采集并处理脑电信号,然后提取特征并传输至电脑的方法,但此类方法设备成本高、且存在对患者有影响且准确率不高等情况。
发明内容
本发明的目的是提供一种肌萎缩侧索硬化患者自主呼叫处理方法及系统,以解决现有的肌萎缩侧索硬化患者呼叫照护人员系统成本高、准确率低的问题。
为实现上述目的,本发明提供了如下方案:
一种肌萎缩侧索硬化患者自主呼叫处理方法,包括:
获取肌萎缩侧索硬化患者的病床人像;
利用人眼关键点提取模型提取所述病床人像中肌萎缩侧索硬化患者的人眼关键点坐标;
根据所述人眼关键点坐标计算肌萎缩侧索硬化患者的眼部特征;所述眼部特征包括左眼特征和右眼特征;
根据所述眼部特征计算肌萎缩侧索硬化患者的最终眨眼次数;
根据所述最终眨眼次数确定分级信号;
照护人员根据所述分级信号进行相应处理。
可选的,所述利用人眼关键点提取模型提取所述病床人像中肌萎缩侧索硬化患者的人眼关键点坐标,之前还包括:
根据所述病床人像构建训练集;所述训练集包括所述病床人像、初始人脸坐标、初始人眼关键点坐标;
利用所述训练集对第一卷积神经网络模型和第二卷积神经网络模型进行训练,得到人脸识别子模型和关键点识别子模型;所述人脸识别子模型和所述关键点识别子模型构成人眼关键点提取模型。
可选的,所述利用所述训练集对第一卷积神经网络模型和第二卷积神经网络模型进行训练,得到人脸识别子模型和关键点识别子模型,具体包括:
将所述病床人像输入至所述第一卷积神经网络模型中,输出预测人脸坐标;
根据预测人脸坐标对所述病床人像进行裁剪,得到预测人脸图像;
将所述预测人脸图像输入至所述第二卷积神经网络模型中,输出预测人眼关键点坐标;
将所述预测人脸坐标与初始人脸坐标进行对比,得到第一差值;
利用所述第一差值对所述第一卷积神经网络模型的参数进行调整,得到人脸识别子模型;
将所述预测人眼关键点坐标与初始人眼关键点坐标进行对比,得到第二差值;
根据所述第二差值对所述第二卷积神经网络模型的参数进行调整,得到关键点识别子模型。
可选的,所述根据所述人眼关键点坐标计算肌萎缩侧索硬化患者的眼部特征,具体包括:
利用公式
Figure BDA0003513837970000031
计算每一帧病床人像中肌萎缩侧索硬化患者的左眼特征和右眼特征;式中,Mleft为左眼特征,Mright为右眼特征,p0,p1,p2,p3,p4,p5为左眼关键点,p6,p7,p8,p9,p10,p11为右眼关键点;D(pi,pj)为pi与pj两点之间的欧氏距离,
Figure BDA0003513837970000032
其中,pi表示第i个人眼关键点坐标,pj表示第j个人眼关键点坐标,xi表示第i个人眼关键点坐标的横坐标,yi表示第i个人眼关键点坐标的纵坐标;xj表示第j个人眼关键点坐标的横坐标,yj表示第j个人眼关键点坐标的纵坐标。
可选的,所述根据所述眼部特征计算预设时间内肌萎缩侧索硬化患者的最终眨眼次数,具体包括:
计算所有帧病床人像中肌萎缩侧索硬化患者的眼部特征的均值和眼部特征的标准差;
根据所述均值和所述标准差确定第一阈值;
顺序遍历所有帧的眼部特征,判断当前帧的眼部特征是否大于所述第一阈值,得到第一判断结果;
若所述第一判断结果为当前帧的眼部特征小于第一阈值,则继续遍历;若所述第一判断结果为当前帧的眼部特征大于第一阈值,则记录眨眼次数加一,继续遍历;
遍历完成,确定左眼眨眼次数和右眼眨眼次数;
将所述左眼眨眼次数和所述右眼眨眼次数中的最小值,作为最终眨眼次数。
可选的,所述根据所述最终眨眼次数确定分级信号,具体包括:
判断所述最终眨眼次数是否大于第二阈值,得到第二判断结果;
若所述第二判断结果为最终眨眼次数大于第二阈值,则判断所述最终眨眼次数是否大于第三阈值,得到第三判断结果;
若所述第三判断结果为所述最终眨眼次数小于或者等于第三阈值且大于所述第二阈值,则向呼叫处理中心发送一级信号;
若所述第三判断结果为所述最终眨眼次数大于第三阈值,则向呼叫处理中心发送二级信号;
若所述第二判断结果为最终眨眼次数小于或者等于第二阈值,则不向呼叫处理中心发送分级信号。
一种肌萎缩侧索硬化患者自主呼叫处理系统,包括:
视频监控终端,用于获取肌萎缩侧索硬化患者的病床人像;
关键点提取模块,用于利用人眼关键点提取模型提取所述病床人像中肌萎缩侧索硬化患者的人眼关键点坐标;
特征计算模块,用于根据所述人眼关键点坐标计算肌萎缩侧索硬化患者的眼部特征,所述眼部特征包括左眼特征和右眼特征;
眨眼次数计算模块,用于根据所述眼部特征计算肌萎缩侧索硬化患者的最终眨眼次数;
分级信号确定模块,用于根据所述最终眨眼次数确定分级信号;
呼叫处理中心,用于照护人员根据所述分级信号进行相应处理。
可选的,还包括:模型训练模块;所述样本训练模块包括:
训练集构建单元,用于根据所述病床人像构建训练集;所述训练集包括所述病床人像、初始人脸坐标、初始人眼关键点坐标;
训练单元,用于利用所述训练集对第一卷积神经网络模型和第二卷积神经网络模型进行训练,得到人脸识别子模型和关键点识别子模型;所述人脸识别子模型和所述关键点识别子模型构成人眼关键点提取模型。
可选的,所述特征计算模块,包括:
特征计算单元,用于利用公式
Figure BDA0003513837970000041
计算每一帧病床人像中肌萎缩侧索硬化患者的左眼特征和右眼特征;式中,Mleft为左眼特征,Mright为右眼特征,p0,p1,p2,p3,p4,p5为左眼关键点,p6,p7,p8,p9,p10,p11为右眼关键点;D(pi,pj)为pi与pj两点之间的欧氏距离,
Figure BDA0003513837970000051
Figure BDA0003513837970000052
其中,pi表示第i个人眼关键点坐标,pj表示第j个人眼关键点坐标,xi表示第i个人眼关键点的横坐标,yi表示第i个人眼关键点的纵坐标;xj表示第j个人眼关键点的横坐标,yj表示第j个人眼关键点的纵坐标。
可选的,所述眨眼次数计算模块,包括:
均值和标准差计算单元,用于计算所有帧病床人像中肌萎缩侧索硬化患者的眼部特征的均值和眼部特征的标准差;
第一阈值确定单元,用于根据所述均值和所述标准差确定第一阈值;
判断单元,用于顺序遍历所有帧的眼部特征,判断当前帧的眼部特征是否大于所述第一阈值,得到第一判断结果;
遍历单元,用于若所述第一判断结果为当前帧的眼部特征小于第一阈值,则继续遍历;若所述第一判断结果为当前帧的眼部特征大于第一阈值,则记录眨眼次数加一,继续遍历;
眨眼次数确定单元,用于遍历完成,确定左眼眨眼次数和右眼眨眼次数;
最终眨眼次数确定单元,用于将所述左眼眨眼次数和所述右眼眨眼次数中的最小值,作为最终眨眼次数。
根据本发明提供的具体实施例,本发明公开了以下技术效果:
区别于现有技术的情况,本发明应对肌萎缩侧索硬化患者的照护问题,事先指定相应的眨眼规则并告知患者,本发明通过病床侧上方的视频监控终端采集病床人像,病床人像计算萎缩侧索硬化患者的左眼特征和右眼特征,来判断患者在某一段时间内的眨眼次数,根据眨眼次数确定分级信号,照护人员根据分级信号进行相应的处理,从而使失去行动能力和呼叫能力的肌萎缩侧索硬化患者能够及时通知照护人员,在帮助减轻照护人员照顾负担的同时能够保证肌萎缩侧索硬化患者的日常安全,并且本发明不需要处理脑电信号,提取特征并发送至电脑,系统成本低,准确性高。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本发明提供的一种肌萎缩侧索硬化患者自主呼叫处理方法的流程图;
图2为本发明提供的人眼关键点示意图;
图3为本发明提供的某一时间窗口内眼部特征的变化图;
图4为本发明提供的一种肌萎缩侧索硬化患者自主呼叫处理系统的结构图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明的目的是提供一种肌萎缩侧索硬化患者自主呼叫处理方法及系统,以解决现有的肌萎缩侧索硬化患者呼叫照护人员系统成本高、准确率低的问题。
为使本发明的上述目的、特征和优点能够更加明显易懂,下面结合附图和具体实施方式对本发明作进一步详细的说明。
图1为本发明提供的一种肌萎缩侧索硬化患者自主呼叫处理方法的流程图,如图1所示,方法包括:
步骤101:获取肌萎缩侧索硬化患者的病床人像。在实际应用中,安装于患者病床右上方的视频监控终端用于采集患者的人脸图像(病床人像),并将采集到的人脸图像按照采集顺序以一定时间间隔传输到实时流计算分析平台。
步骤102:利用人眼关键点提取模型提取所述病床人像中肌萎缩侧索硬化患者的人眼关键点坐标。
在一个具体实施方式中,所述利用人眼关键点提取模型提取所述病床人像中肌萎缩侧索硬化患者的人眼关键点坐标,之前还包括:
根据所述病床人像构建训练集。所述训练集包括所述病床人像、初始人脸坐标、初始人眼关键点坐标。
利用所述训练集对第一卷积神经网络模型和第二卷积神经网络模型进行训练,得到人脸识别子模型和关键点识别子模型。所述人脸识别子模型和所述关键点识别子模型构成人眼关键点提取模型。
在实际应用中,通过提取大量病床人像,构建训练集。通过图像处理相关技术,得到一个能够进行脸识别并得到人眼关键点的一个模型。需要注意的是,这里的脸部必须保证完整,不能有遮挡等情况的发生。
由于原图含有太多的干扰因素,直接训练出的人眼关键点坐标效果不佳因此,将人眼关键点提取模型分为两块,分别为人脸识别子模型和关键点识别子模型。
人脸识别子模型是人脸的识别,具体就是输入一个病床人像(原图),输出人脸的位置坐标4个点(8维向量)
关键点识别子模型是基于8维向量,把原图裁剪,得到人脸图像作为输入,输出是12个人眼关键点坐标(6个关键点*2只眼睛),共24维向量。
并根据上述构建两个模型的训练集,包括8维向量、24维向量和原图。
人脸识别子模型和关键点识别子模型都是基于卷积神经网络,调整模型的参数,进行训练。
在一个具体实施方式中,所述利用所述训练集对第一卷积神经网络模型和第二卷积神经网络模型进行训练,得到人脸识别子模型和关键点识别子模型,具体包括:
将所述病床人像输入至所述第一卷积神经网络模型中,输出预测人脸坐标。
根据预测人脸坐标对所述病床人像进行裁剪,得到预测人脸图像。
将所述预测人脸图像输入至所述第二卷积神经网络模型中,输出预测人眼关键点坐标。
将所述预测人脸坐标与初始人脸坐标进行对比,得到第一差值。
利用所述第一差值对所述第一卷积神经网络模型的参数进行调整,得到人脸识别子模型。
将所述预测人眼关键点坐标与初始人眼关键点坐标进行对比,得到第二差值。
根据所述第二差值对所述第二卷积神经网络模型的参数进行调整,得到关键点识别子模型。
基于样本训练得到的人眼关键点提取模型,将视频监控终端传入的每一帧图像进行人脸特征的提取,按一定的次序,获取人眼关键点的坐标,并记录。需要注意的是,每只眼睛分别有六个关键点,故共需保存12个点的坐标,记为P={p0,p1,p2…p11},其中pi表示第i个人眼关键点对应的坐标,即pi=(xi,yi)。所提取到人眼的关键点如附图2所示。
步骤103:根据所述人眼关键点坐标计算肌萎缩侧索硬化患者的眼部特征;所述眼部特征包括左眼特征和右眼特征。
在一个具体实施方式中,所述步骤103,具体包括:
利用公式
Figure BDA0003513837970000081
计算每一帧病床人像中肌萎缩侧索硬化患者的左眼特征和右眼特征;式中,Mleft为左眼特征,Mright为右眼特征,p0,p1,p2,p3,p4,p5为左眼关键点,p6,p7,p8,p9,p10,p11为右眼关键点;D(pi,pj)为pi与pj两点之间的欧氏距离,
Figure BDA0003513837970000082
其中,pi表示第i个人眼关键点坐标,pj表示第j个人眼关键点坐标,xi表示第i个人眼关键点坐标的横坐标,yi表示第i个人眼关键点坐标的纵坐标;xj表示第j个人眼关键点坐标的横坐标,yj表示第j个人眼关键点坐标的纵坐标。
在实际应用中,基于上一步提取的人眼关键点坐标,进行眼部特征的计算,其中包括左眼特征的计算和右眼特征的计算,即左眼、右眼的特征分别为Mleft,Mright
注意,需要对每一帧的病床人像都进行眼部特征的计算,将2个特征值进行保存,作为某一帧的病床人像最终提取的特征,即构成二维向量Mt=(Mleft,Mright),t表示某一时刻。
步骤104:根据所述眼部特征计算肌萎缩侧索硬化患者的最终眨眼次数;
在一个具体实施方式中,所述步骤104,具体包括:
S1:计算所有帧病床人像中肌萎缩侧索硬化患者的眼部特征的均值和眼部特征的标准差;
S2:根据所述均值和所述标准差确定第一阈值;
S3:顺序遍历所有帧的眼部特征,判断当前帧的眼部特征是否大于所述第一阈值,得到第一判断结果;
S4:若所述第一判断结果为当前帧的眼部特征小于第一阈值,则继续遍历;若所述第一判断结果为当前帧的眼部特征大于第一阈值,则记录眨眼次数加一,继续遍历;
S5:遍历完成,确定左眼眨眼次数和右眼眨眼次数;
S6:将所述左眼眨眼次数和所述右眼眨眼次数中的最小值,作为最终眨眼次数。
步骤105:根据所述最终眨眼次数确定分级信号。
在一个具体实施方式中,所述步骤105,具体包括:
判断所述最终眨眼次数是否大于第二阈值,得到第二判断结果;
若所述第二判断结果为最终眨眼次数大于第二阈值,则判断所述最终眨眼次数是否大于第三阈值,得到第三判断结果;
若所述第三判断结果为所述最终眨眼次数小于或者等于第三阈值且大于所述第二阈值,则向呼叫处理中心发送一级信号;
若所述第三判断结果为所述最终眨眼次数大于第三阈值,则向呼叫处理中心发送二级信号;
若所述第二判断结果为最终眨眼次数小于或者等于第二阈值,则不向呼叫处理中心发送分级信号。
在实际应用中,基于步骤103得到的眼部特征的计算,通过Flink的滚动窗口,计算在一个滚动窗口内,即一定的时间内的连续眨眼次数。算法如下:
第一步,记录在某个时间窗口内,n个二维向量,记作M0,M1,M2…Mn-1,下面以计算左眼眨眼次数为例,提取Mleft={M0,0,M1,0,M2,0…Mn-1,0},记左眼眨眼次数为Nleft,初始值设为0。
第二步,计算Mleft的均值和标准差,分别记作
Figure BDA0003513837970000101
σleft,设第一阈值
Figure BDA0003513837970000102
第三步,顺序遍历Mleft,若Mi,0<k,则遍历,直至Mj,0>k,显然,图像由第i帧到第j帧是一个眨眼的完整过程,故Nleft加1,从Mj,0继续遍历。
第四步,重复第三步的步骤,直至Mleft遍历完毕,记录最终的Nleft为左眼眨眼的总次数。
第五步,同理计算右眼眨眼次数Nright,最终眨眼次数Nfinal为Nleft与Nright两者较小值。
第六步,进行判断,当达到的次数Nfinal超过第二阈值并位于第一范围,向所述的呼叫处理中心发送一级信号,当达到的次数Nfinal超出第一范围时,向所述的呼叫处理中心发送二级信号。
步骤106:照护人员根据所述分级信号进行相应处理。
在实际应用中,呼叫处理中心会对不同分级信号的提示进行相应处理:根据一级信号进行第一分级呼叫处理,具体为肌萎缩侧索硬化患者需要进行排泄物的处理,不需要照护人员迅速赶到,可以稍后处理;根据二级信号进行第二分级呼叫处理,具体为肌萎缩侧索硬化患者身体突感不适,需要紧急处理,需要照护人员迅速赶到。
本发明肌萎缩侧索硬化患者自主呼叫处理方法的工作原理如下:
将摄像头安装在病床侧上方,要求人脸部分完整、清晰且无遮挡。
实时将某一帧的病床人像(大小为1280*720)输入基于Flink的实时流分析计算平台,根据预训练的模型,提取人眼关键点,如图2所示。记录眼部关键点的坐标,并计算左眼特征与右眼特征,构成一个二维向量。
将此帧图像对应的二维特征值向量传入Flink计算引擎中,设置窗口大小为3s,窗口步长为0.5s。每一个3s的窗口内包含了多帧图像对应的二维特征向量,这些多个特征向量构成了一个二维矩阵。对窗口内的二维矩阵进行计算,根据所述眨眼次数判断的算法,最终计算此时间窗口内得到眨眼次数,如图3所示,此时间窗口得到的眨眼次数为3次。
呼叫判别模块中,用于根据判断次数进行相关的处理,这里设定第二阈值为3次,第一范围为(3,5]次,即共有可能出现下述情况。
当次数小于等于第二阈值时,认为此时间窗口内患者进行的是正常的生理眨眼。
当眨眼次数在第一范围内时,认为患者需要排泄,需要照护人员在短时间内尽快赶到。
当眨眼次数超过第一范围时,认为患者身体突感不适,需要照护人员迅速赶到。
此案例中,需要照护人员在短时间内赶到。
区别于现有技术的情况,本发明应对肌萎缩侧索硬化患者的照护问题,事先指定相应的眨眼规则并告知患者后,本发明通过病床侧上方的视频监控终端采集患者的人脸图像(病床人像),由基于Flink的实时流分析平台实时根据人脸图像计算眼部特征来判断患者在某一段时间内的眨眼次数,从而使失去行动能力和呼叫能力的肌萎缩侧索硬化患者能够及时通知照护人员,在帮助减轻照护人员照顾负担的同时能够保证肌萎缩侧索硬化患者的日常安全。
图4为本发明提供的一种肌萎缩侧索硬化患者自主呼叫处理系统的结构图,如图4所示,包括:
视频监控终端401,用于获取肌萎缩侧索硬化患者的病床人像。
关键点提取模块402,用于利用人眼关键点提取模型提取所述病床人像中肌萎缩侧索硬化患者的人眼关键点坐标。
特征计算模块403,用于根据所述人眼关键点坐标计算肌萎缩侧索硬化患者的眼部特征。所述眼部特征包括左眼特征和右眼特征。
眨眼次数计算模块404,用于根据所述眼部特征计算肌萎缩侧索硬化患者的最终眨眼次数。
分级信号确定模块405,用于根据所述最终眨眼次数确定分级信号。
呼叫处理中心406,用于照护人员根据所述分级信号进行相应处理。
在实际应用中,基于Flink的实时流计算分析平台包含模型训练模块、关键点提取模块、特征计算模块、眨眼次数计算模块和分级信号确定模块。
在一个具体实施方式中,还包括:模型训练模块;所述样本训练模块包括:
训练集构建单元,用于根据所述病床人像构建训练集。所述训练集包括所述病床人像、初始人脸坐标、初始人眼关键点坐标。
训练单元,用于利用所述训练集对第一卷积神经网络模型和第二卷积神经网络模型进行训练,得到人脸识别子模型和关键点识别子模型。所述人脸识别子模型和所述关键点识别子模型构成人眼关键点提取模型。
在一个具体实施方式中,所述特征计算模块403,包括:
特征计算单元,用于利用公式
Figure BDA0003513837970000121
计算每一帧病床人像中肌萎缩侧索硬化患者的左眼特征和右眼特征。式中,Mleft为左眼特征,Mright为右眼特征,p0,p1,p2,p3,p4,p5为左眼关键点,p6,p7,p8,p9,p10,p11为右眼关键点;D(pi,pj)为pi与pj两点之间的欧氏距离,
Figure BDA0003513837970000122
Figure BDA0003513837970000123
其中,pi表示第i个人眼关键点坐标,pj表示第j个人眼关键点坐标,xi表示第i个人眼关键点的横坐标,yi表示第i个人眼关键点的纵坐标;xj表示第j个人眼关键点的横坐标,yj表示第j个人眼关键点的纵坐标。
在一个具体实施方式中,所述眨眼次数计算模块404,包括:
均值和标准差计算单元,用于计算所有帧病床人像中肌萎缩侧索硬化患者的眼部特征的均值和眼部特征的标准差。
第一阈值确定单元,用于根据所述均值和所述标准差确定第一阈值。
判断单元,用于顺序遍历所有帧的眼部特征,判断当前帧的眼部特征是否大于所述第一阈值,得到第一判断结果。
遍历单元,用于若所述第一判断结果为当前帧的眼部特征小于第一阈值,则继续遍历。若所述第一判断结果为当前帧的眼部特征大于第一阈值,则记录眨眼次数加一,继续遍历。
眨眼次数确定单元,用于遍历完成,确定左眼眨眼次数和右眼眨眼次数。
最终眨眼次数确定单元,用于将所述左眼眨眼次数和所述右眼眨眼次数中的最小值,作为最终眨眼次数。
在一个具体实施方式中,所述分级信号确定模块405,具体包括:
判断所述最终眨眼次数是否大于第二阈值,得到第二判断结果;
若所述第二判断结果为最终眨眼次数大于第二阈值,则判断所述最终眨眼次数是否大于第三阈值,得到第三判断结果;
若所述第三判断结果为所述最终眨眼次数小于或者等于第三阈值且大于所述第二阈值,则向呼叫处理中心发送一级信号;
若所述第三判断结果为所述最终眨眼次数大于第三阈值,则向呼叫处理中心发送二级信号;
若所述第二判断结果为最终眨眼次数小于或者等于第二阈值,则不向呼叫处理中心发送分级信号。
本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。对于实施例公开的系统而言,由于其与实施例公开的方法相对应,所以描述的比较简单,相关之处参见方法部分说明即可。
本文中应用了具体个例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想;同时,对于本领域的一般技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处。综上所述,本说明书内容不应理解为对本发明的限制。

Claims (10)

1.一种肌萎缩侧索硬化患者自主呼叫处理方法,其特征在于,包括:
获取肌萎缩侧索硬化患者的病床人像;
利用人眼关键点提取模型提取所述病床人像中肌萎缩侧索硬化患者的人眼关键点坐标;
根据所述人眼关键点坐标计算肌萎缩侧索硬化患者的眼部特征;所述眼部特征包括左眼特征和右眼特征;
根据所述眼部特征计算肌萎缩侧索硬化患者的最终眨眼次数;
根据所述最终眨眼次数确定分级信号;
照护人员根据所述分级信号进行相应处理。
2.根据权利要求1所述的肌萎缩侧索硬化患者自主呼叫处理方法,其特征在于,所述利用人眼关键点提取模型提取所述病床人像中肌萎缩侧索硬化患者的人眼关键点坐标,之前还包括:
根据所述病床人像构建训练集;所述训练集包括所述病床人像、初始人脸坐标、初始人眼关键点坐标;
利用所述训练集对第一卷积神经网络模型和第二卷积神经网络模型进行训练,得到人脸识别子模型和关键点识别子模型;所述人脸识别子模型和所述关键点识别子模型构成人眼关键点提取模型。
3.根据权利要求2所述的肌萎缩侧索硬化患者自主呼叫处理方法,其特征在于,所述利用所述训练集对第一卷积神经网络模型和第二卷积神经网络模型进行训练,得到人脸识别子模型和关键点识别子模型,具体包括:
将所述病床人像输入至所述第一卷积神经网络模型中,输出预测人脸坐标;
根据预测人脸坐标对所述病床人像进行裁剪,得到预测人脸图像;
将所述预测人脸图像输入至所述第二卷积神经网络模型中,输出预测人眼关键点坐标;
将所述预测人脸坐标与初始人脸坐标进行对比,得到第一差值;
利用所述第一差值对所述第一卷积神经网络模型的参数进行调整,得到人脸识别子模型;
将所述预测人眼关键点坐标与初始人眼关键点坐标进行对比,得到第二差值;
根据所述第二差值对所述第二卷积神经网络模型的参数进行调整,得到关键点识别子模型。
4.根据权利要求1所述的肌萎缩侧索硬化患者自主呼叫处理方法,其特征在于,所述根据所述人眼关键点坐标计算肌萎缩侧索硬化患者的眼部特征,具体包括:
利用公式
Figure FDA0003513837960000021
计算每一帧病床人像中肌萎缩侧索硬化患者的左眼特征和右眼特征;式中,Mleft为左眼特征,Mright为右眼特征,p0,p1,p2,p3,p4,p5为左眼关键点,p6,p7,p8,p9,p10,p11为右眼关键点;D(pi,pj)为pi与pj两点之间的欧氏距离,
Figure FDA0003513837960000022
其中,pi表示第i个人眼关键点坐标,pj表示第j个人眼关键点坐标,xi表示第i个人眼关键点坐标的横坐标,yi表示第i个人眼关键点坐标的纵坐标;xj表示第j个人眼关键点坐标的横坐标,yj表示第j个人眼关键点坐标的纵坐标。
5.根据权利要求1所述的肌萎缩侧索硬化患者自主呼叫处理方法,其特征在于,所述根据所述眼部特征计算预设时间内肌萎缩侧索硬化患者的最终眨眼次数,具体包括:
计算所有帧病床人像中肌萎缩侧索硬化患者的眼部特征的均值和眼部特征的标准差;
根据所述均值和所述标准差确定第一阈值;
顺序遍历所有帧的眼部特征,判断当前帧的眼部特征是否大于所述第一阈值,得到第一判断结果;
若所述第一判断结果为当前帧的眼部特征小于第一阈值,则继续遍历;若所述第一判断结果为当前帧的眼部特征大于第一阈值,则记录眨眼次数加一,继续遍历;
遍历完成,确定左眼眨眼次数和右眼眨眼次数;
将所述左眼眨眼次数和所述右眼眨眼次数中的最小值,作为最终眨眼次数。
6.根据权利要求1所述的肌萎缩侧索硬化患者自主呼叫处理方法,其特征在于,所述根据所述最终眨眼次数确定分级信号,具体包括:
判断所述最终眨眼次数是否大于第二阈值,得到第二判断结果;
若所述第二判断结果为最终眨眼次数大于第二阈值,则判断所述最终眨眼次数是否大于第三阈值,得到第三判断结果;
若所述第三判断结果为所述最终眨眼次数小于或者等于第三阈值且大于所述第二阈值,则向呼叫处理中心发送一级信号;
若所述第三判断结果为所述最终眨眼次数大于第三阈值,则向呼叫处理中心发送二级信号;
若所述第二判断结果为最终眨眼次数小于或者等于第二阈值,则不向呼叫处理中心发送分级信号。
7.一种肌萎缩侧索硬化患者自主呼叫处理系统,其特征在于,包括:
视频监控终端,用于获取肌萎缩侧索硬化患者的病床人像;
关键点提取模块,用于利用人眼关键点提取模型提取所述病床人像中肌萎缩侧索硬化患者的人眼关键点坐标;
特征计算模块,用于根据所述人眼关键点坐标计算肌萎缩侧索硬化患者的眼部特征,所述眼部特征包括左眼特征和右眼特征;
眨眼次数计算模块,用于根据所述眼部特征计算肌萎缩侧索硬化患者的最终眨眼次数;
分级信号确定模块,用于根据所述最终眨眼次数确定分级信号;
呼叫处理中心,用于照护人员根据所述分级信号进行相应处理。
8.根据权利要求7所述的肌萎缩侧索硬化患者自主呼叫处理系统,其特征在于,还包括:模型训练模块;所述样本训练模块包括:
训练集构建单元,用于根据所述病床人像构建训练集;所述训练集包括所述病床人像、初始人脸坐标、初始人眼关键点坐标;
训练单元,用于利用所述训练集对第一卷积神经网络模型和第二卷积神经网络模型进行训练,得到人脸识别子模型和关键点识别子模型;所述人脸识别子模型和所述关键点识别子模型构成人眼关键点提取模型。
9.根据权利要求8所述的肌萎缩侧索硬化患者自主呼叫处理系统,其特征在于,所述特征计算模块,包括:
特征计算单元,用于利用公式
Figure FDA0003513837960000041
计算每一帧病床人像中肌萎缩侧索硬化患者的左眼特征和右眼特征;式中,Mleft为左眼特征,Mright为右眼特征,p0,p1,p2,p3,p4,p5为左眼关键点,p6,p7,p8,p9,p10,p11为右眼关键点;D(pi,pj)为pi与pj两点之间的欧氏距离,
Figure FDA0003513837960000042
Figure FDA0003513837960000043
其中,pi表示第i个人眼关键点坐标,pj表示第j个人眼关键点坐标,xi表示第i个人眼关键点的横坐标,yi表示第i个人眼关键点的纵坐标;xj表示第j个人眼关键点的横坐标,yj表示第j个人眼关键点的纵坐标。
10.根据权利要求9所述的肌萎缩侧索硬化患者自主呼叫处理系统,其特征在于,所述眨眼次数计算模块,包括:
均值和标准差计算单元,用于计算所有帧病床人像中肌萎缩侧索硬化患者的眼部特征的均值和眼部特征的标准差;
第一阈值确定单元,用于根据所述均值和所述标准差确定第一阈值;
判断单元,用于顺序遍历所有帧的眼部特征,判断当前帧的眼部特征是否大于所述第一阈值,得到第一判断结果;
遍历单元,用于若所述第一判断结果为当前帧的眼部特征小于第一阈值,则继续遍历;若所述第一判断结果为当前帧的眼部特征大于第一阈值,则记录眨眼次数加一,继续遍历;
眨眼次数确定单元,用于遍历完成,确定左眼眨眼次数和右眼眨眼次数;
最终眨眼次数确定单元,用于将所述左眼眨眼次数和所述右眼眨眼次数中的最小值,作为最终眨眼次数。
CN202210159483.4A 2022-02-22 2022-02-22 一种肌萎缩侧索硬化患者自主呼叫处理方法及系统 Active CN114529972B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210159483.4A CN114529972B (zh) 2022-02-22 2022-02-22 一种肌萎缩侧索硬化患者自主呼叫处理方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210159483.4A CN114529972B (zh) 2022-02-22 2022-02-22 一种肌萎缩侧索硬化患者自主呼叫处理方法及系统

Publications (2)

Publication Number Publication Date
CN114529972A true CN114529972A (zh) 2022-05-24
CN114529972B CN114529972B (zh) 2023-04-07

Family

ID=81623943

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210159483.4A Active CN114529972B (zh) 2022-02-22 2022-02-22 一种肌萎缩侧索硬化患者自主呼叫处理方法及系统

Country Status (1)

Country Link
CN (1) CN114529972B (zh)

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004275527A (ja) * 2003-03-17 2004-10-07 Aiphone Co Ltd ナースコール装置
CN102799277A (zh) * 2012-07-26 2012-11-28 深圳先进技术研究院 一种基于眨眼动作的人机交互方法及系统
CN106572304A (zh) * 2016-11-02 2017-04-19 西安电子科技大学 基于眨眼检测的智能手机拍照系统和方法
CN109375765A (zh) * 2018-08-31 2019-02-22 深圳市沃特沃德股份有限公司 眼球追踪交互方法和装置
CN109840565A (zh) * 2019-01-31 2019-06-04 成都大学 一种基于眼部轮廓特征点纵横比的眨眼检测方法
CN110166645A (zh) * 2019-05-23 2019-08-23 上海理工大学 一种基于眼电信号控制的呼叫服务系统
CN110221699A (zh) * 2019-06-13 2019-09-10 北京师范大学珠海分校 一种前置摄像头视频源的眼动行为识别方法
CN110673721A (zh) * 2019-08-29 2020-01-10 江苏大学 基于视觉与意念信号协同控制的机器人看护系统
CN111476196A (zh) * 2020-04-23 2020-07-31 南京理工大学 一种基于面部动作的老年残障人士护理需求识别方法
CN112256132A (zh) * 2020-10-28 2021-01-22 南京工程学院 一种面向渐冻人设计的人机交互系统
CN112257512A (zh) * 2020-09-25 2021-01-22 福建天泉教育科技有限公司 间接型眼部状态检测方法及计算机可读存储介质
CN113419623A (zh) * 2021-05-27 2021-09-21 中国人民解放军军事科学院国防科技创新研究院 一种非标定眼动交互方法和装置

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004275527A (ja) * 2003-03-17 2004-10-07 Aiphone Co Ltd ナースコール装置
CN102799277A (zh) * 2012-07-26 2012-11-28 深圳先进技术研究院 一种基于眨眼动作的人机交互方法及系统
CN106572304A (zh) * 2016-11-02 2017-04-19 西安电子科技大学 基于眨眼检测的智能手机拍照系统和方法
CN109375765A (zh) * 2018-08-31 2019-02-22 深圳市沃特沃德股份有限公司 眼球追踪交互方法和装置
CN109840565A (zh) * 2019-01-31 2019-06-04 成都大学 一种基于眼部轮廓特征点纵横比的眨眼检测方法
CN110166645A (zh) * 2019-05-23 2019-08-23 上海理工大学 一种基于眼电信号控制的呼叫服务系统
CN110221699A (zh) * 2019-06-13 2019-09-10 北京师范大学珠海分校 一种前置摄像头视频源的眼动行为识别方法
CN110673721A (zh) * 2019-08-29 2020-01-10 江苏大学 基于视觉与意念信号协同控制的机器人看护系统
CN111476196A (zh) * 2020-04-23 2020-07-31 南京理工大学 一种基于面部动作的老年残障人士护理需求识别方法
CN112257512A (zh) * 2020-09-25 2021-01-22 福建天泉教育科技有限公司 间接型眼部状态检测方法及计算机可读存储介质
CN112256132A (zh) * 2020-10-28 2021-01-22 南京工程学院 一种面向渐冻人设计的人机交互系统
CN113419623A (zh) * 2021-05-27 2021-09-21 中国人民解放军军事科学院国防科技创新研究院 一种非标定眼动交互方法和装置

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
ALBARA AH RAMLI ET AL.: "BWCNN:Blink to Word, a Real-Time Convolutional Neural Network Approach" *
SUDHIR RAO RUPANAGUDI ET AL.: "A simplified approach to assist motor neuron disease patients to communicate through video oculography" *
路雪 等: "基于连续眨眼的人-机交互新模式", 《计算机工程与应用》 *

Also Published As

Publication number Publication date
CN114529972B (zh) 2023-04-07

Similar Documents

Publication Publication Date Title
CN109394247B (zh) 一种多特征融合的就诊用户情绪监控方法
Esfahani et al. Using brain–computer interfaces to detect human satisfaction in human–robot interaction
EP4101371A1 (en) Electroencephalogram signal classifying method and apparatus, electroencephalogram signal classifying model training method and apparatus, and medium
CN114099234B (zh) 一种用于辅助康复训练的智能化康复机器人数据处理方法及系统
WO2022041786A1 (zh) 一种配电不安全行为的预测方法、装置和服务器
CN113257440A (zh) 一种基于病患视频识别的icu智能看护系统
Tang et al. Signal identification system for developing rehabilitative device using deep learning algorithms
CN110755091A (zh) 一种个人心理健康监测系统及方法
CN114529972B (zh) 一种肌萎缩侧索硬化患者自主呼叫处理方法及系统
Das et al. Improvement in Kinect based measurements using anthropometric constraints for rehabilitation
CN115662631B (zh) 基于ai智能判别的养老院管理系统
CN113476817B (zh) 一种基于神经网络算法的认知康复训练系统
JP2573126B2 (ja) 表情のコード化及び情緒の判別装置
CN115024735A (zh) 一种基于运动意图识别模型的脑卒中患者康复方法及系统
Chen et al. Research on EEG classification with neural networks based on the Levenberg-Marquardt algorithm
Mzurikwao et al. Efficient channel selection approach for motor imaginary classification based on convolutional neural network
Kishore et al. A hybrid method for activity monitoring using principal component analysis and back-propagation neural network
CN113869179A (zh) 多模态特征注意力融合的居家养老智能监护方法及系统
CN111554398A (zh) 一种基于5g的远程评估生命体征方法及系统
CN112652381A (zh) 心理健康矫正计划生成方法及系统
JP2003325467A (ja) 意思伝達支援装置、及び意思伝達支援ソフトウエア
CN110882134A (zh) 跨障意图识别方法、外骨骼机器人跨障控制方法及设备
Moe Designing an eeg based communication system for patients with locked-in syndrome
CN115154828A (zh) 一种基于脑机接口技术的大脑功能重塑方法、系统、设备
CN220820814U (zh) 一种基于人脸图像以及情感识别的医疗示警系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant