脑卒中智能诊断系统
技术领域
本发明涉及一种智能医疗诊断系统。
背景技术
脑卒中又称‘中风’,是一种急性脑血管疾病,是由于脑部血管突然破裂或因血管堵塞导致血液不能流入大脑而引起脑组织损伤的一组疾病。脑卒中目前已经是我国成年人致残、致死的首位病因,每5位死亡者中至少有1人是死于脑卒中。由于脑卒中发病急为迅速,猝不及防,且按发病种类而言,最快治疗时间需在4.5小时之内,最慢也不得超过6小时。目前全部1000多家医院医生使用的判定脑卒中的方法为‘中风120’,即通过看面部口角是否歪斜、两只胳膊是否能平举一段时间和说话时口齿有无不清楚三方面来判断手否脑卒中。
‘中风120’技术虽然能快速判定是否脑卒中,但是需要医生面对面进行,且受过专业培训的医生不多,对于一些偏远地区,更是难以实现全范围覆盖。在当前医疗资源紧张、看病较难的国情下,很多患者因此不能得到及时的诊断治疗。
发明内容
本发明要解决的技术问题是:现有的判断脑卒中的方法需要较强的专业知识,使得很多患者不能得到及时的诊断治疗。
为了解决上述技术问题,本发明的技术方案是提供了一种脑卒中智能诊断系统,其特征在于,包括:
面部视频获取单元,用于拍摄用户从嘴巴闭合到嘴巴张开这一过程的面部视频;
手臂视频获取单元,用于拍摄用户手臂平举S秒钟这一持续过程的手臂视频;
面部视频预处理单元,用于将面部视频获取单元获得的面部视频分解为K1帧面部图像,依据从前至后的播放顺序,将K1帧面部图像分别定义为第1帧面部图像至第K1帧面部图像;
手臂视频预处理单元,用于将手臂视频获取单元获得的手臂视频分解为K2帧面部图像,依据从前至后的播放顺序,将K2帧手臂图像分别定义为第1帧手臂图像至第K2帧手臂图像;
面部关键点拾取单元,用于获取面部视频预处理单元得到的K1帧面部图像中每一帧面部图像的N1个关键点的位置信息,N1≥2,N1个关键点至少包括与左嘴角相对应的M个左嘴角关键点及与右嘴角相对应的M个右嘴角关键点,M个左嘴角关键点与M个右嘴角关键点位置一一对应,1≤M<N;
手臂关键点拾取单元,用于获取面部视频预处理单元得到的K2帧手臂图像中每一帧手臂图像的左侧手臂的N2个左手臂关键点的位置信息以及右侧手臂的N2个右手臂关键点的位置信息,N2个左手臂关键点与N2个右手臂关键点位置一一对应,N2≥2;
面部判定单元,计算得到面部关键点拾取单元获得的M个左嘴角关键点从第1帧面部图像至第K1帧面部图像的位置变换幅度一,同时,计算得到关键点拾取单元获得的M个右嘴角关键点从第1帧图像至第K1帧图像的位置变换幅度二,若位置变换幅度一与位置变换幅度二不匹配,则由面部判定单元产生脑卒中告警信息,否则面部判定单元判定用户正常;
手臂判定单元,计算得到手臂关键点拾取单元获得的N2个左手臂关键点相对于N2个右手臂关键点从第1帧手臂图像至第K2帧手臂图像的相对位置变化信息,依据相对位置变化信息判断用户的左侧手臂或右侧手臂是否无法举平,若是,则由手臂判定单元产生脑卒中告警信息,否则手臂判定单元判定用户正常;
文字信息生成单元,用于产生文字信息,并将该文字信息以语音或者文字的形式展示给用户,用户依据展示的文字信息进行朗读;
语音信息获取单元,在用户依据文字信息生成单元展示的文字信息进行朗读时,用于获取用户的语音数据;
语音信息识别单元,用于识别语音信息获取单元获得的语音数据生成相对应的文字信息;
语音判定单元,用于将语音信息识别单元识别的文字信息与文字信息生成单元产生的文字信息进行匹配,若相似度大于预先设定的阈值,则判断用户口齿清晰,否则判断用户口齿清晰,产生脑卒中告警信息;
人机交互单元,若面部判定单元、或手臂判定单元、或语音判定单元产生脑卒中告警信息,则由人机交互单元向用户发出脑卒中告警。
优选地,所述面部关键点拾取单元通过人脸模型检测每一帧面部图像的所述N1个关键点的位置信息;所述手臂关键点拾取单元通过姿态模型检测每一帧手臂图像的N2个所述左手臂关键点的位置信息及所述右手臂关键点的位置信息。
优选地,所述面部判定单元将位置变换幅度一与位置变换幅度二进行匹配包括以下步骤:
步骤101、设k1=1,tf=0,并设面部幅度告警阈值DFW及面部次数告警阈值TFW;
步骤102、获得第k1帧面部图像及第k1+1帧面部图像的M个左嘴角关键点及M个右嘴角关键点;
步骤103、设m=1;
步骤104、获得第k
1帧面部图像中第m个左嘴角关键点的位置
第k
1+1帧图像中第m个左嘴角关键点的位置
计算得到幅度变化值
表示位置
与位置
之间的距离;
获得第k
1帧面部图像中第m个右嘴角关键点的位置
第k
1+1帧图像中第m个右嘴角关键点的位置
计算得到幅度变化值
表示位置
与位置
之间的距离;
步骤105、计算幅度变化值差值ΔD=|DL-DR|,若ΔD≥DFW,则tf=tf+1,进入步骤106,否则,直接进入步骤106;
步骤106、更新m,m=m+1,若m>M,则进入步骤107,否则,返回步骤104;
步骤107、更新k1,k1=k1+1,若k1≥K1,则进入步骤108,否则,返回步骤102;
步骤108、若tf≥TFW,则由面部判定单元产生脑卒中告警信息,否则面部判定单元判定用户正常。
优选地,所述手臂判定单元判断用户的左侧手臂或右侧手臂是否无法举平包括以下步骤:
步骤201、设k2=1,ta1=ta2=0,并设手臂幅度告警阈值DAW、手臂次数告警阈值一TAW1及手臂次数告警阈值二TAW2;
步骤202、获得第k2帧手臂图像中N2个左手臂关键点的位置信息以及右侧手臂的N2个右手臂关键点的位置信息;
步骤203、设n2=1;
步骤204、获得第k
2帧手臂图像中第n
2个左手臂关键点的位置
第n
2个右手臂关键点的位置
依据位置
获得第n
2个左手臂关键点的Y轴作标
依据位置
获得第n
2个右手臂关键点的Y轴作标
其中,Y轴为用户身高所在方向;
步骤205、计算相对位置变化值
若ΔY≥DAW,则ta
1=ta
1+1,进入步骤206,否则,直接进入步骤206;
步骤206、更新n2,n2=n2+1,若n2>N2,则进入步骤207,否则,返回步骤204;
步骤207、若ta1≥TAW1,则ta2=ta2+1,进入步骤208,否则,直接进入步骤208;
步骤208、更新k2,k2=k2+1,若k2>K2,则进入步骤209,否则,返回步骤202;
步骤209、若ta2≥TAW2,则由手臂判定单元判断用户的左侧手臂或右侧手臂是否无法举平,产生脑卒中告警信息,否则手臂判定单元判定用户正常。
本发明根据‘中风120’的三部观测法,结合人工智能技术,发明出一种脑卒中智能诊断方法。用户可以通过医院或社区的一体机、手机APP,迅速判断自己是否已经脑卒中或者存在脑卒中的风险。
本发明公开的脑卒中智能诊断系统极大程度缓解了具备‘中风120’诊断知识的医生资源短缺的情况,同时一定程度上缓解了国人在患病时候存在的拖延症情况。通过手机APP或者社区的一体机,就可以及时发现风险并提醒去医院就诊,极大程度缩减了脑卒中从发现到就诊的黄金时间。
附图说明
图1为实施例的具体实现流程图;
图2为人脸模型关键点输出;
图3为姿态模型输出手臂关节点。
具体实施方式
下面结合具体实施例,进一步阐述本发明。应理解,这些实施例仅用于说明本发明而不用于限制本发明的范围。此外应理解,在阅读了本发明讲授的内容之后,本领域技术人员可以对本发明作各种改动或修改,这些等价形式同样落于本申请所附权利要求书所限定的范围。
如图1所示,本发明提供的一种脑卒中智能诊断系统可以作为APP运行于用户携带的手机或其他专门设备(例如:一体机)上。
根据‘中风120’判断脑卒中方法,本发明主要分为以下三个部分:
第一部分、由一体机或者手机拍摄用户张嘴这一过程的面部的视频,输入到人脸模型中,检测出各个视频序列中的人脸68个关键点位置,如图2所示。正常人在张嘴这个过程中,两侧嘴角的运动幅度基本相同。但是脑卒中患者由于一侧肌肉无力,会导致嘴角难以张开,根据对嘴角两侧关键点在这一过程中运动幅度的差异,可判断出嘴角是否存在歪斜。
为了实现上述第一部分的功能,本发明包括如下单元:
面部视频获取单元,用于拍摄用户从嘴巴闭合到嘴巴张开这一过程的面部视频。面部视频获取单元可以是手机或者一体机上安装的摄像头。
面部视频预处理单元,用于将面部视频获取单元获得的面部视频分解为K1帧面部图像,依据从前至后的播放顺序,将K1帧面部图像分别定义为第1帧面部图像至第K1帧面部图像。
面部关键点拾取单元,通过人脸模型获取面部视频预处理单元得到的K1帧面部图像中每一帧面部图像的N1个关键点的位置信息,N1≥2,N1个关键点至少包括与左嘴角相对应的M个左嘴角关键点及与右嘴角相对应的M个右嘴角关键点,M个左嘴角关键点与M个右嘴角关键点位置一一对应,1≤M<N。
面部判定单元,计算得到面部关键点拾取单元获得的M个左嘴角关键点从第1帧面部图像至第K1帧面部图像的位置变换幅度一,同时,计算得到关键点拾取单元获得的M个右嘴角关键点从第1帧图像至第K1帧图像的位置变换幅度二,若位置变换幅度一与位置变换幅度二不匹配,则由面部判定单元产生脑卒中告警信息,否则面部判定单元判定用户正常。其中,面部判定单元将位置变换幅度一与位置变换幅度二进行匹配包括以下步骤:
步骤101、设k1=1,tf=0,并设面部幅度告警阈值DFW及面部次数告警阈值TFW;
步骤102、获得第k1帧面部图像及第k1+1帧面部图像的M个左嘴角关键点及M个右嘴角关键点;
步骤103、设m=1;
步骤104、获得第k
1帧面部图像中第m个左嘴角关键点的位置
第k
1+1帧图像中第m个左嘴角关键点的位置
计算得到幅度变化值
表示位置
与位置
之间的距离;
获得第k
1帧面部图像中第m个右嘴角关键点的位置
第k
1+1帧图像中第m个右嘴角关键点的位置
计算得到幅度变化值
表示位置
与位置
之间的距离;
步骤105、计算幅度变化值差值ΔD=|DL-DR|,若ΔD≥DFW,则tf=tf+1,进入步骤106,否则,直接进入步骤106;
步骤106、更新m,m=m+1,若m>M,则进入步骤107,否则,返回步骤104;
步骤107、更新k1,k1=k1+1,若k1≥K1,则进入步骤108,否则,返回步骤102;
步骤108、若tf≥TFW,则由面部判定单元产生脑卒中告警信息,否则面部判定单元判定用户正常。
第二部分、一体机或者手机拍摄人体手臂平举10秒钟这一持续过程,输入到姿态模型当中,姿态模型输出两个手臂的手腕、手肘和双肩共六个关键点的位置,如图3所示。正常人能够维持双手平举10秒钟,脑卒中患者一侧肌肉无力会导致该侧手臂难以举平。根据关节点的分布,判断是否一侧手臂低于另一侧,从而判断出患者肢体是否存在问题。
为了实现上述第二部分的功能,本发明包括如下单元:
手臂视频获取单元,用于拍摄用户手臂平举S秒钟这一持续过程的手臂视频。
手臂视频预处理单元,用于将手臂视频获取单元获得的手臂视频分解为K2帧面部图像,依据从前至后的播放顺序,将K2帧手臂图像分别定义为第1帧手臂图像至第K2帧手臂图像。
手臂关键点拾取单元,通过姿态模型获取面部视频预处理单元得到的K2帧手臂图像中每一帧手臂图像的左侧手臂的N2个左手臂关键点的位置信息以及右侧手臂的N2个右手臂关键点的位置信息,N2个左手臂关键点与N2个右手臂关键点位置一一对应,N2≥2。
手臂判定单元,计算得到手臂关键点拾取单元获得的N2个左手臂关键点相对于N2个右手臂关键点从第1帧手臂图像至第K2帧手臂图像的相对位置变化信息,依据相对位置变化信息判断用户的左侧手臂或右侧手臂是否无法举平,若是,则由手臂判定单元产生脑卒中告警信息,否则手臂判定单元判定用户正常。其中,手臂判定单元判断用户的左侧手臂或右侧手臂是否无法举平包括以下步骤:
步骤201、设k2=1,ta1=ta2=0,并设手臂幅度告警阈值DAW、手臂次数告警阈值一TAW1及手臂次数告警阈值二TAW2;
步骤202、获得第k2帧手臂图像中N2个左手臂关键点的位置信息以及右侧手臂的N2个右手臂关键点的位置信息;
步骤203、设n2=1;
步骤204、获得第k
2帧手臂图像中第n
2个左手臂关键点的位置
第n
2个右手臂关键点的位置
依据位置
获得第n
2个左手臂关键点的Y轴作标
依据位置
获得第n
2个右手臂关键点的Y轴作标
其中,Y轴为用户身高所在方向;
步骤205、计算相对位置变化值
若ΔY≥DAW,则ta
1=ta
1+1,进入步骤206,否则,直接进入步骤206;
步骤206、更新n2,n2=n2+1,若n2>N2,则进入步骤207,否则,返回步骤204;
步骤207、若ta1≥TAW1,则ta2=ta2+1,进入步骤208,否则,直接进入步骤208;
步骤208、更新k2,k2=k2+1,若k2>K2,则进入步骤209,否则,返回步骤202;
步骤209、若ta2≥TAW2,则由手臂判定单元判断用户的左侧手臂或右侧手臂是否无法举平,产生脑卒中告警信息,否则手臂判定单元判定用户正常。
第三部分、一体机或者手机提示用户根据提示朗读,并输入到语音模型中,语音模型将语音翻译成文字,并进行比对,根据朗读是否正确,判断口齿是否清晰。
为了实现上述第三部分的功能,本发明包括如下单元:
文字信息生成单元,用于产生文字信息,并将该文字信息以语音或者文字的形式展示给用户,用户依据展示的文字信息进行朗读。
语音信息获取单元,在用户依据文字信息生成单元展示的文字信息进行朗读时,用于获取用户的语音数据。
语音信息识别单元,通过语音模型识别语音信息获取单元获得的语音数据,生成相对应的文字信息。
语音判定单元,用于将语音信息识别单元识别的文字信息与文字信息生成单元产生的文字信息进行匹配,若相似度大于预先设定的阈值,则判断用户口齿清晰,否则判断用户口齿清晰,产生脑卒中告警信息。
上述三个部分中,有任何一个部分判定不正常,即需要提示用户去医院进行进一步诊断,以免错过最佳治疗时间。为此本发明还设置了人机交互单元。若面部判定单元、或手臂判定单元、或语音判定单元产生脑卒中告警信息,则由人机交互单元向用户发出脑卒中告警。
本发明提出的脑卒中智能诊断系统是将复旦大学附属闵行医院赵静教授提出的‘中风120’诊断方法和人工智能技术相结合,用户不需要去医院,可以通过一体机或者手机进行自测。