CN113647939B - 一种针对脊柱退行性疾病的人工智能康复评估与训练系统 - Google Patents
一种针对脊柱退行性疾病的人工智能康复评估与训练系统 Download PDFInfo
- Publication number
- CN113647939B CN113647939B CN202110988589.0A CN202110988589A CN113647939B CN 113647939 B CN113647939 B CN 113647939B CN 202110988589 A CN202110988589 A CN 202110988589A CN 113647939 B CN113647939 B CN 113647939B
- Authority
- CN
- China
- Prior art keywords
- patient
- training
- rehabilitation
- subsystem
- formula
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/103—Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
- A61B5/11—Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
- A61B5/1118—Determining activity level
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/02—Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
- A61B5/0205—Simultaneously evaluating both cardiovascular conditions and different types of body conditions, e.g. heart and respiratory condition
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/103—Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
- A61B5/107—Measuring physical dimensions, e.g. size of the entire body or parts thereof
- A61B5/1071—Measuring physical dimensions, e.g. size of the entire body or parts thereof measuring angles, e.g. using goniometers
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/72—Signal processing specially adapted for physiological signals or for diagnostic purposes
- A61B5/7235—Details of waveform analysis
- A61B5/7264—Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61M—DEVICES FOR INTRODUCING MEDIA INTO, OR ONTO, THE BODY; DEVICES FOR TRANSDUCING BODY MEDIA OR FOR TAKING MEDIA FROM THE BODY; DEVICES FOR PRODUCING OR ENDING SLEEP OR STUPOR
- A61M21/00—Other devices or methods to cause a change in the state of consciousness; Devices for producing or ending sleep by mechanical, optical, or acoustical means, e.g. for hypnosis
- A61M21/02—Other devices or methods to cause a change in the state of consciousness; Devices for producing or ending sleep by mechanical, optical, or acoustical means, e.g. for hypnosis for inducing sleep or relaxation, e.g. by direct nerve stimulation, hypnosis, analgesia
Abstract
本发明涉及一种针对脊柱退行性疾病的人工智能康复评估与训练系统,包括:脊柱运动评估子系统,接收现场拍摄的患者康复训练过程中的图像,对进行中医引导书康复训练前后的患者的颈椎、腰椎的关节活动度进行测量;姿态识别纠正子系统,将患者正在练习的动作进行实时的识别和分类,在患者训练过程中进行实时训练评估,并在患者完成整套训练动作后进行训练评估;背景音乐推荐子系统,提供用于患者康复训练过程中的辅助治疗的音乐;生理信号监测子系统,实时监测患者康复训练时的心率和呼吸速率,对患者的健康状况进行监控。与现有技术相比,本发明具备较强的便携性、易操作性,可满足患者远程居家自我康复训练。
Description
技术领域
本发明涉及康复训练设备技术领域,尤其是涉及一种针对脊柱退行性疾病的人工智能康复评估与训练系统。
背景技术
脊柱退行性疾病是一种中老年人群中常见的脊柱上生理和病理退化过程。持续的疼痛和关节僵硬会严重影响病人的日常生活,严重时,脊柱增生会压迫病人神经系统导致瘫痪。如今脊柱退行性疾病已经成为全球范围内严重影响公共卫生安全的问题之一。
对于脊柱退行性疾病的治疗,除非病人病情十分严重必须采取入侵性的手术治疗,一般来说,医生会建议病人采取一些保守治疗。目前在临床上治疗的方式主要有牵引治疗、红外线热疗、经皮电刺激等,但这些方式由于所使用的设备体积较大,单次费用较高,且部分方式具有副作用,只适用于大型三甲医院或者专科康复医院;且无法实现医生对病人的远程康复训练指导。因此对于大部分病人而言,可能会因高成本、消耗时间长、治疗效果等因素选择减少治疗次数甚至不治疗。因此,迫切需要一种区别于上述传统不便携、成本高的康复评估和训练系统,该设备具有便携、成本低的特点,且可以实现患者在社区和家庭的自我康复训练以及便于医生远程的全天候干预患者训练进程。
发明内容
本发明的目的就是为了克服上述现有技术存在的缺陷而提供一种针对脊柱退行性疾病的人工智能康复评估与训练系统。
本发明的目的可以通过以下技术方案来实现:
一种针对脊柱退行性疾病的人工智能康复评估与训练系统,该系统包括:
脊柱运动评估子系统,接收现场拍摄的患者康复训练过程中的图像,基于计算机视觉图形处理技术及人体姿态识别技术,对进行中医引导术康复训练前后的患者的颈椎、腰椎的关节活动度进行测量;
姿态识别纠正子系统,接收现场拍摄的患者康复训练过程中的视频数据,患者在中医导引术康复训练过程中,将患者正在练习的动作进行实时的识别和分类;在患者训练过程中进行实时训练评估,并在患者完成整套训练动作后进行训练评估;
背景音乐推荐子系统,通过神经网络模型实现五音音乐数据集的自动构建,提供用于患者康复训练过程中的辅助治疗的音乐;
生理信号监测子系统,实时监测患者康复训练时的心率和呼吸速率,对患者的健康状况进行监控。
进一步地,拍摄患者康复训练过程中的图像后,所述脊柱运动评估子系统接收图像,采用人体姿态估计网络模型OpenPose实时自动识别、匹配接收到的图像中患者身体的关键点,所述关键点包括人体上具有自由度的各关节点。
进一步地,所述脊柱运动评估子系统接收图像,采用人体姿态估计网络模型OpenPose实时自动识别、匹配接收到的图像中患者身体的关键点。具体内容为:
所述脊柱运动评估子系统将接收到的图像输入人体姿态估计网络模型OpenPose,通过多个卷积神经网络分别提取图像特征、关节点置信图以及关节关联区域,采用二分图匹配算法寻找人体各个关节之间的关联,并将关联人体关节合并成为人体的整体骨架,通过计算人体关键点在三维空间中的相对位置,并连接图像中已检测到的人体各关键点估计人体姿态。
进一步地,所述关节活动度包括颈椎屈伸角度、颈椎侧弯角度、颈椎旋转角度、腰椎屈伸角度、腰椎侧弯角度和腰椎旋转角度。
颈椎屈伸角度∝ce的测量公式为:
式中,xear和year表示耳朵关键点的横、纵坐标,xnose和ynose表示鼻子关键点的横、纵坐标;
腰椎屈伸角度∝le的测量公式为:
式中,xneck和yneck表示颈椎关键点的横、纵坐标,xmidHip和ymidHip表示臀部中点关键点的横、纵坐标;
颈椎侧弯角度∝cl的测量公式为:
式中,xeye_enter和yeye_enter表示双眼关键点的横、纵坐标;
腰椎侧弯角度∝ll的测量公式为:
式中,x7spcv和y7spcv表示第七颈椎关键点的横、纵坐标;x5splv和y5splv表示第五腰椎关键点的横、纵坐标;
颈椎旋转角度的测量公式为:
式中,ε为鼻子关键点与左右肩部中点的连线以及左、右肩部连线之间的夹角,ε90=45°;
腰椎旋转角度的测量公式为:
式中,ε′为鼻子关键点与左右臀部中点的连线以及左、右臀部连线之间的夹角,ε′90=45°。
进一步地,所述姿态识别纠正子系统将患者正在练习的动作进行实时的识别和分类的具体内容为:
1)首先采用脊柱运动评估子系统中所用的OpenPose网络框架模型识别患者在导引术练习时的姿态;
2)在轻量级手语检测网络的网络底层加入一个自适应视图模块,利用改进的轻量级手语检测网络对患者导引术训练时的视频动作序列的每一帧进行分类,将属于同一个功法动作的视频序列帧进行组合,通过相似度计算的方式,获取病人当前姿势序列与标准姿势序列的相似性,转换为对患者导引术练习时的动作评分。
进一步地,采用动态时间规整算法寻找对齐姿势序列所需的对齐成本,进而转化为患者的相应的动作评分。
对齐成本的计算公式为:
Cost(i,j)=D(i,j)+min[Cost(i-1,j),Cost(i,j-1),Cost(i-1,j-1)]
式中,Cost(i,j)为对齐患者关键点i和专家关键点j所需的成本,D(i,j)为患者关键点i和专家关键点j之间的距离。
进一步地,所述背景音乐推荐子系统采用LSTM作为主干网络对五音音乐数据集的调式进行自动分类。
进一步地,患者康复训练时的心率通过BMD101芯片采集患者的心电信号计算,患者康复训练时的呼吸速率采用EDR算法从采集到的ECG信号中获取。
本发明提供的针对脊柱退行性疾病的人工智能康复评估与训练系统,相较于现有技术至少包括如下有益效果:
1)本发明系统可集成在一个搭载摄像头的微型主机上,具有体积小、易携带、操作便携的特性,可以取代传统中医康复治疗中医护人员的重复性体力劳动。
2)整体系统集成在mini-PC上通过5G模块与远程服务器传输,医生可以在远程服务器端全天候一对多的干预患者康复治疗,能够缓解目前医护人员短缺的问题;同时该系统能够增加病人康复训练的灵活性和可靠性。
附图说明
图1为实施例中本发明针对脊柱退行性疾病的人工智能康复评估与训练系统的功能框架图;
图2为实施例中算法依据的人体关键点图;
图3为实施例中本发明针对脊柱退行性疾病的人工智能康复评估与训练系统的脊柱计算示意图;
图4为实施例中针对脊柱退行性疾病的人工智能康复评估与训练系统的功法分类网络图;
图5为实施例中针对脊柱退行性疾病的人工智能康复评估与训练系统的工作流程图;
图6为实施例中针对脊柱退行性疾病的人工智能康复评估与训练系统的硬件组成示意图。
具体实施方式
下面结合附图和具体实施例对本发明进行详细说明。显然,所描述的实施例是本发明的一部分实施例,而不是全部实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都应属于本发明保护的范围。
实施例
中医在我国传统治疗中有5000年的发展历史。研究表明,中医导引术可以通过呼吸吐纳、形体活动、调节心理等方式促进功能恢复,对软组织、骨关节疾病的康复具有明显的治疗效果。此外,《黄帝内经》中将五音引入中医理论,五音疗法可以有效的辅助于患者的康复治疗。
本发明涉及一种针对脊柱退行性疾病的人工智能康复评估与训练系统,该系统利用人工智能中计算机视觉以及计算机听觉技术,实现对康复治疗患者的姿态估计,动作分类,五音音乐推荐以及生理信号监测,尤其适用于脊柱退行性疾病的缓解期康复治疗。
本发明整体系统由脊柱运动评估系统、姿态识别纠正系统、背景音乐推荐系统和生理信号检测系统这四个子系统组成,如图1所示。
所述脊柱运动评估子系统是将计算机视觉领域中图像处理、人体姿态识别等主流技术融合起来。它可以在患者进行中医导引术康复训练前后,对患者颈椎、腰椎的最大关节活动度进行测量。关节活动度包括六类分量:颈椎屈伸角度、颈椎侧弯角度、颈椎旋转角度、腰椎屈伸角度、腰椎侧弯角度、腰椎旋转角度。该子系统可以直观、定量的评估患者康复训练所取得的效果。首先,拍摄患者使用最大力度舒展颈椎或腰椎时的图像。经过一系列图像处理操作,将结果传入神经网络模型进行推理。最后得到患者对应的二维骨架坐标信息,针对屈伸、侧弯和旋转这三种不同类型的关节活动度采用不同的计算或估算方法,得到患者的关节活动度计算值,综合三种度量角度给出患者的康复情况得分。
所述姿态识别纠正子系统是在患者在中医导引术康复训练过程中,将患者正在练习的动作进行实时的识别和分类。算法将每段功法动作与专家组的标准动作进行对比评分,并实时反馈评分结果。最后,当患者完成整套功法训练动作后,对患者的整体功法动作进行分析,给出整套功法动作的总评分。该算法根据特征学习的方法实现对患者功法动作的识别和分类,同时通过跟踪病人身体的关键点来获得病人的历史姿态序列,通过序列相似度计算的方法实现对不同功法动作序列进行分类,对比专家姿势序列得到病人的训练评分。
所述背景音乐推荐子系统中,大部分研究人员从音乐的角度将“宫商角徵羽”定义为音阶名,相当于现代音乐简谱中的“Do,Re,Mi,So,La”,对应于五种不同调式的音乐。根据现代音乐理论,一首歌的调式取决于它以何音为主音。然而古代传统音乐的调式概念模糊,转调频繁,并且同一个乐曲演奏版本繁杂而导致调式不统一。目前,还没有一个标准、全面的五音音乐数据库满足患者康复训练时的需求。同时,互联网中音乐繁多,基于人工的方式分类构建数据库费时费力。因此,背景音乐推荐子系统通过神经网络模型实现大型五音音乐数据集的自动构建与患者训练时的个性化推荐。
所述生理信号监测子系统对患者康复训练时的心率和呼吸速率实时监测,从而对患者的健康状况进行监控。该子系统确保病人在远程或自我康复训练出现异常情况时及时提醒家人并实现医生对患者的生理健康状况进行远程监控。该子系统以生物传感器为基础,采用单导联的方式以及蓝牙模块远程获取患者的ECG(心电)信号,之后对接收到的ECG信号进行信号处理与分析计算得到患者的心率和呼吸速率,同时在患者生理信号数据异常时及时报警通知监护人员。
进一步地,将整体系统算法集成到一个微型主机上,综合成本和性能选择酷睿i7-7820HQ处理器和具有4GB显存的GTX1650显卡用来满足算法实现的硬件需求,同时外界一个高清摄像头用来满足计算机视觉相关算法的需求。为了实现远程无接触的采集患者的ECG信号,使用蓝牙模块来实现ECG信号的远程采集与传输。为了满足康复设备的便携、可移动性,选择使用移动电源为系统设备进行供电。为了实现远程医生对病人康复训练过程的实时干预,选择5G模块确保系统设备与远程服务器的快速接收和反馈。
图1表示出本发明所提出的人工智能康复评估与训练系统的各部分功能框架图。具体实施步骤如下:
(1)脊柱运动评估子系统:
该子系统采用目前开源的人体姿态估计网络模型——OpenPose。人体姿态估计是通过计算人体关键点在三维空间中的相对位置并且能够正确连接图片中已经检测到的人体各关键点来估计人体姿态。如图2所示,人体的关键点通常对应于人体上具有自由度的关节,例如:颈部、肩部、肘部、腕部、膝部、踝部等。OpenPose框架能够实时自动识别和匹配接收到的图像中病人身体的关键点,最后得到图像中多个人的二维骨架模型。简单介绍一下模型的工作流程:首先,输入一幅图像,通过多个卷积神经网络(CNN)分别提取图像特征、关节点置信图以及关节关联区域。然后,使用图论中的二分图匹配算法找到人体各个关节之间的关联。最后,将上步的关联人体关节合并成为人体的整体骨架。
由于系统整体设计考虑患者的便携和易操作的特性,因此在只有一个摄像头的条件下,针对不同的关节活动度采用不同的计算或估算公式。如图3所示,通过身体关键点的坐标位置来计算各关节的活动自由度,这里将坐标原点设置在臀部中点。
a)颈椎的屈伸角度,选择侧视图中患者的鼻子和耳朵的坐标根据公式(1)计算。
式中xi和yi表示i关键点的横、纵坐标,i包括ear(耳朵)、nose(鼻子)、neck(颈部)等;之后的公式中涵义相同,不再过多说明。
b)腰椎的屈伸角度,则选择颈部关键点(neck)和臀部中点关键点(midHip)的坐标根据公式(2)计算。
c)颈椎的侧弯角度,选择正视图中的鼻子和双眼关键点(eye_enter)计算得出的双眼中心点的坐标根据公式(3)计算。
d)腰椎的侧弯角度,选择通过估计得出的第七颈椎(7spcv)和第五腰椎关键点(5splv)估算得出。这是因为第七颈椎是成人颈椎的最后节段。特点就是棘突非常粗大,便于做体表的定位。而第五腰椎椎体特别大,椎体前面特别高,当第5腰椎与骶骨相接时,构成向前凸的岬。因此选定它们作为评估关键位置,便于患者真实值的测量,从而计算我们算法的准确率。第七颈椎和第五腰椎关键点在图像中是通过公式中的参数估算得出的。具体说明如下:
其中第七颈椎关键点(7spcv)的横纵坐标根据颈部和双耳关键点计算得出的双耳中心点(midEar)的坐标估算得出。第五腰椎关键点的横纵坐标根据颈部和臀部中点关键点(midHip)的坐标估算得出,公式如(4)~(7)所示,腰椎侧弯角度计算根据公式(8)计算得出。
x7spcv=xneck±|xmidEar-xneck|×u (4)
y7spcv=yneck-|ymidEar-yneck|×u (5)
x5splv=xmidHip (6)
其中参数u=0.5,v=0.2。u、v为估算第七颈椎和第五腰椎所用参数。该参数是为了对第七颈椎和第五腰椎进行估算所设定的参数值。其值的选定与中医医师专家商讨,根据数学比例关系确定;另外,第七颈椎和第五腰椎的认定根据医学的生理解剖划分的标准为主,在此不过多赘述。参数值的选定即根据各关键点构成的相似三角形的比例系数作为估算依据。
e)颈椎和腰椎的旋转角度,由于拍摄条件限制,选择用估算的方式。这里以颈椎的旋转角度为例,假设病人的颈椎旋转90°,鼻子的关键点与左右肩部中点(ms)的连线以及左肩部(ls)和右肩部(rs)连线之间的夹角记为ε,它可以根据公式(9)计算,则ε90=45°。并且可知左右肩部关键点距离是鼻子到左右肩部中点(ms)关键点距离的4倍。因此,根据公式(11)来估算颈椎旋转角度。对于腰椎的旋转角度则将左右肩部关键点换为左右臀部关键点即可。
式中,xnose为鼻子关键点的横坐标,xls为左肩部横坐标,xrs为右肩部横坐标,xms为左右肩部中点的横坐标,其中:
(2)姿态识别纠正子系统:
该子系统首先使用脊柱运动评估子系统中所用的OpenPose网络框架模型来识别出患者在导引术练习时的姿态。然后通过改进Google于2020年提出的轻量级手语检测网络,即在网络底层加入一个自适应视图模块(VA_2D),从而保证网络的鲁棒性,如图4所示。该网络模型能够对患者导引术训练时的视频动作序列的每一帧进行分类,最后将属于同一个功法动作的视频序列帧进行组合,通过相似度计算的方式,得到病人当前姿势序列与标准姿势序列的相似性,转换为对患者导引术练习时的动作评分。但是,由于将患者当前的功法姿势序列与标准姿势序列对齐较为困难,选用动态时间规整算法来找到对齐姿势序列所需的对齐成本从而转化为患者的相应得分,对齐成本计算根据公式(12)得出,该对齐成本为本发明转化后的动作评分。
Cost(i,j)=D(i,j)+min[Cost(i-1,j),Cost(i,j-1),Cost(i-1,j-1)] (12)
式中,Cost(i,j)是对齐患者关键点i和专家关键点j所需的成本,D(i,j)是患者关键点i和专家关键点j之间的距离。专家关键点是通过录制标准专家导引动作时,以模型计算出的专家标准动作的关键点作为专家关键点,从而与患者导引动作练习时的关键点进行比较。计算对齐成本就是通过算法对患者和专家的两段动作进行计算。
在获得对齐所需成本之后,由于每个功法动作的差别很大,选择对于不同的动作关注不同的关键点和计算方式。例如:对于“鸟伸鸟飞”动作,主要关注于双手向上抬起的幅度和单脚向后抬起时离地的幅度;对于“威撼天柱”动作,主要关注的是患者鼻子的横坐标。
(3)背景音乐推荐子系统:
本发明在该子系统中自主构建了一个小型的传统五音音乐数据集,用来进行网络的训练。由于中国传统音乐的复杂性且与西方音乐体系调式不同,判断并标注音乐五音调式的工作具有较强的专业性,因此基于西方音乐的体系调式进行中国传统音乐的五音数据集标注。构建一个小型的传统五音音乐数据集用于网络模型的训练。
这里采用LSTM(Long Short-Term Memory)为主干网络用来对歌曲的调式进行自动的分类。目的就是通过人工智能的方式构建一个音乐库用于配合整体系统运行时的背景音乐推荐。该算法主要分为三个步骤:1)主旋律转谱确定尾音的音高;2)调性检测确定调号;3)根据乐理进行主音判别。结合经过专业标注的数据集和筛选算法,五种调式各筛选出100首,总共500首五音音乐用于推荐给正在练习中医导引术的病人进行辅助治疗。
(4)生理信号监测子系统:
为了保证整体系统设备的便携、简单的特点。该系统的算法选择设计一个小型化的生理信号监测装置,用来监测患者的心率和呼吸速度。这里选择BMD101芯片来采集患者的心电信号并计算出患者的平均心率。BMD101芯片是NeuroSky开发的一款专门用于生物信号检测和处理的微型设备,它采用单导联的方式,只需将电极垫放在胸前,就能检测到心电信号并从数据流中解析出静态心率。利用静态心率(HRstatic)根据公式(14)和(15)计算出患者当前的理论最高心率(HRmax)和理论最低心率(HRmin),从而对患者的心率稳定性做出判断。
HRmax=(220-Age-HRstatic)×0.3+HRstatic (14)
HRmin=HRstatic-10 (15)
式中,Age表示年龄。
对于患者的呼吸速度,采用EDR(ECG Derived Respiration)算法从采集到的ECG信号中获取。该算法主要是根据心率变化和峰值振幅变化获得呼吸速度的。首先由于获取的ECG信号会受到体温变化和内脏活动的影响,产生基线偏移和其他噪声干扰,因此采用立方样条插值法除去基线漂移之后计算得出呼吸速度。
图5是系统的工作流程示意图。如图5所示,系统为患者用户提供多种选择,可以很好的便于患者个性化康复训练。首先,患者登录系统后选择脊柱运动评估或者康复训练,在康复训练中也会提醒患者选择不同的中医导引术,例如:八段锦或易筋经,同时选择背景音乐以及是否佩戴好传感器。一切准备就绪之后开始训练。患者的每一个选择和训练评估结果都会实时的反馈给远程服务器,便于康复医生对患者的康复状态进行全方位、全天候的干预治疗。
图6是本发明系统的硬件组成示意图。如图6所示,患者佩戴好生物传感器之后,发出信号由蓝牙模块接受数据并输送给PC机。高清摄像头拍摄患者并传输图像和视频数据给PC机。外接移动电源为PC机提供电力支持。PC机内接受到的数据经过本发明系统的算法处理分析后,经由5G模块传输给远程服务器,同时康复医生在远程服务器端实时监控患者康复治疗并向PC机传输反馈信息。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的工作人员在本发明揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以权利要求的保护范围为准。
Claims (6)
1.一种针对脊柱退行性疾病的人工智能康复评估与训练系统,其特征在于,包括:
脊柱运动评估子系统,接收现场拍摄的患者康复训练过程中的图像,基于计算机视觉图形处理技术及人体姿态识别技术,对进行中医引导术康复训练前后的患者的颈椎、腰椎的关节活动度进行测量;
姿态识别纠正子系统,接收现场拍摄的患者康复训练过程中的视频数据,患者在中医导引术康复训练过程中,将患者正在练习的动作进行实时的识别和分类;在患者训练过程中进行实时训练评估,并在患者完成整套训练动作后进行训练评估;
背景音乐推荐子系统,通过神经网络模型实现五音音乐数据集的自动构建,提供用于患者康复训练过程中的辅助治疗的音乐;
生理信号监测子系统,实时监测患者康复训练时的心率和呼吸速率,对患者的健康状况进行监控;
拍摄患者康复训练过程中的图像后,所述脊柱运动评估子系统接收图像,采用人体姿态估计网络模型OpenPose实时自动识别、匹配接收到的图像中患者身体的关键点,所述关键点包括人体上具有自由度的各关节点;
所述脊柱运动评估子系统接收图像,采用人体姿态估计网络模型OpenPose实时自动识别、匹配接收到的图像中患者身体的关键点的具体内容为:
所述脊柱运动评估子系统将接收到的图像输入人体姿态估计网络模型OpenPose,通过多个卷积神经网络分别提取图像特征、关节点置信图以及关节关联区域,采用二分图匹配算法寻找人体各个关节之间的关联,并将关联人体关节合并成为人体的整体骨架,通过计算人体关键点在三维空间中的相对位置,并连接图像中已检测到的人体各关键点估计人体姿态;
所述关节活动度包括颈椎屈伸角度、颈椎侧弯角度、颈椎旋转角度、腰椎屈伸角度、腰椎侧弯角度和腰椎旋转角度;
颈椎屈伸角度∝ce的测量公式为:
式中,xear和year表示耳朵关键点的横、纵坐标,xnose和ynose表示鼻子关键点的横、纵坐标;
腰椎屈伸角度∝le的测量公式为:
式中,xneck和yneck表示颈椎关键点的横、纵坐标,xmidHip和ymidHip表示臀部中点关键点的横、纵坐标;
颈椎侧弯角度∝cl的测量公式为:
式中,xeye_enter和yeye_enter表示双眼关键点的横、纵坐标;
腰椎侧弯角度∝ll的测量公式为:
式中,x7spcv和y7spcv表示第七颈椎关键点的横、纵坐标;x5splv和y5splv表示第五腰椎关键点的横、纵坐标;
颈椎旋转角度的测量公式为:
式中,ε为鼻子关键点与左右肩部中点的连线以及左、右肩部连线之间的夹角,ε90=45°;
腰椎旋转角度的测量公式为:
式中,ε′为鼻子关键点与左右臀部中点的连线以及左、右臀部连线之间的夹角,ε′90=45°。
2.根据权利要求1所述的针对脊柱退行性疾病的人工智能康复评估与训练系统,其特征在于,所述姿态识别纠正子系统将患者正在练习的动作进行实时的识别和分类的具体内容为:
1)首先采用脊柱运动评估子系统中所用的OpenPose网络框架模型识别患者在导引术练习时的姿态;
2)在轻量级手语检测网络的网络底层加入一个自适应视图模块,利用改进的轻量级手语检测网络对患者导引术训练时的视频动作序列的每一帧进行分类,将属于同一个功法动作的视频序列帧进行组合,通过相似度计算的方式,获取病人当前姿势序列与标准姿势序列的相似性,转换为对患者导引术练习时的动作评分。
3.根据权利要求2所述的针对脊柱退行性疾病的人工智能康复评估与训练系统,其特征在于,采用动态时间规整算法寻找对齐姿势序列所需的对齐成本,进而转化为患者的相应的动作评分。
4.根据权利要求3所述的针对脊柱退行性疾病的人工智能康复评估与训练系统,其特征在于,对齐成本的计算公式为:
Cost(i,j)=D(i,j)+min[Cost(i-1,j),Cost(i,j-1),Cost(i-1,j-1)]
式中,Cost(i,j)为对齐患者关键点i和专家关键点j所需的成本,D(i,j)为患者关键点i和专家关键点j之间的距离。
5.根据权利要求1所述的针对脊柱退行性疾病的人工智能康复评估与训练系统,其特征在于,所述背景音乐推荐子系统采用LSTM作为主干网络对五音音乐数据集的调式进行自动分类。
6.根据权利要求1所述的针对脊柱退行性疾病的人工智能康复评估与训练系统,其特征在于,患者康复训练时的心率通过BMD101芯片采集患者的心电信号计算,患者康复训练时的呼吸速率采用EDR算法从采集到的ECG信号中获取。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110988589.0A CN113647939B (zh) | 2021-08-26 | 2021-08-26 | 一种针对脊柱退行性疾病的人工智能康复评估与训练系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110988589.0A CN113647939B (zh) | 2021-08-26 | 2021-08-26 | 一种针对脊柱退行性疾病的人工智能康复评估与训练系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113647939A CN113647939A (zh) | 2021-11-16 |
CN113647939B true CN113647939B (zh) | 2022-11-15 |
Family
ID=78492945
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110988589.0A Active CN113647939B (zh) | 2021-08-26 | 2021-08-26 | 一种针对脊柱退行性疾病的人工智能康复评估与训练系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113647939B (zh) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114099234B (zh) * | 2021-11-23 | 2023-08-22 | 复旦大学 | 一种用于辅助康复训练的智能化康复机器人数据处理方法及系统 |
CN115006786A (zh) * | 2022-04-25 | 2022-09-06 | 同济大学 | 一种用于颈椎康复的仿生眼医疗机器人与康复评估方法 |
CN114795192B (zh) * | 2022-07-01 | 2022-09-16 | 佛山科学技术学院 | 一种关节活动度智能检测方法及系统 |
CN116458852B (zh) * | 2023-06-16 | 2023-09-01 | 山东协和学院 | 基于云平台及下肢康复机器人的康复训练系统及方法 |
CN116869481B (zh) * | 2023-07-12 | 2024-02-20 | 北京鹰之眼智能健康科技有限公司 | 基于红外图像的脊柱整体结构状态检测方法和电子设备 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3028633A1 (en) * | 2014-12-05 | 2016-06-08 | BOE Technology Group Co., Ltd. | Method for measuring movement of cervical vertebra, device thereof and wearable apparatus |
CN109171745A (zh) * | 2018-08-29 | 2019-01-11 | 成都和煦医疗科技有限公司 | 基于云平台的检测和理疗一体化的颈椎病康复系统 |
WO2019200393A1 (en) * | 2018-04-14 | 2019-10-17 | Lee Y Michael | System and method for monitoring and treating head, spine and body health and wellness |
CN111700619A (zh) * | 2020-05-28 | 2020-09-25 | 广西壮族自治区人民医院 | 一种颈部康复辅助系统及其装置 |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20160081594A1 (en) * | 2013-03-13 | 2016-03-24 | Virtusense Technologies | Range of motion system, and method |
CN104856686B (zh) * | 2015-05-08 | 2017-10-17 | 南通大学 | 一种胸腰段脊椎左右侧弯运动实时在体测量方法 |
CN105816182A (zh) * | 2016-03-24 | 2016-08-03 | 西安交通大学 | 一种基于Kinect传感器的颈椎活动度测量方法 |
CN107737439A (zh) * | 2017-10-18 | 2018-02-27 | 徐�明 | 一种进阶式体能训练系统及方法 |
HUP1700468A2 (en) * | 2017-11-17 | 2019-05-28 | Gyoergy Zoltan Kozmann | Method and equipment for monitoring effectiveness of physical in paricular sport activities |
CN110464357B (zh) * | 2019-08-13 | 2022-05-27 | 马佳鑫 | 一种康复过程质量监测方法及系统 |
CN111583957B (zh) * | 2020-04-21 | 2023-04-28 | 华南理工大学 | 基于五音阶乐律声谱图和级联神经网络的戏曲分类方法 |
CN111657958A (zh) * | 2020-07-07 | 2020-09-15 | 山东漾生智能科技有限公司 | 一种可穿戴式脊柱健康定量测评装置及其测量方法 |
CN112434679B (zh) * | 2021-01-27 | 2021-05-18 | 萱闱(北京)生物科技有限公司 | 康复运动的评估方法及装置、设备、存储介质 |
CN113283365A (zh) * | 2021-06-07 | 2021-08-20 | 湖北经济学院 | 基于姿势识别的复健效果测评系统 |
-
2021
- 2021-08-26 CN CN202110988589.0A patent/CN113647939B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3028633A1 (en) * | 2014-12-05 | 2016-06-08 | BOE Technology Group Co., Ltd. | Method for measuring movement of cervical vertebra, device thereof and wearable apparatus |
WO2019200393A1 (en) * | 2018-04-14 | 2019-10-17 | Lee Y Michael | System and method for monitoring and treating head, spine and body health and wellness |
CN109171745A (zh) * | 2018-08-29 | 2019-01-11 | 成都和煦医疗科技有限公司 | 基于云平台的检测和理疗一体化的颈椎病康复系统 |
CN111700619A (zh) * | 2020-05-28 | 2020-09-25 | 广西壮族自治区人民医院 | 一种颈部康复辅助系统及其装置 |
Non-Patent Citations (2)
Title |
---|
Tsunezuka, H;Kato, D;Okada, S;Ishihara, S;Shimada, J.Three-Dimensional Kinematic Analysis of Active Cervical Spine Motion by Using a Multifaceted Marker Device.《IEEE Engineering in Medicine and Biology Society Conference Proceedings》.2013,全文. * |
基于姿态角的双Kinect数据融合技术及应用;郭同欢;陈姚节;林玲;《科学技术与工程》;20191031;第19卷(第29期);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN113647939A (zh) | 2021-11-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113647939B (zh) | 一种针对脊柱退行性疾病的人工智能康复评估与训练系统 | |
Moniri et al. | Real-time forecasting of sEMG features for trunk muscle fatigue using machine learning | |
Bonato et al. | Data mining of motor patterns recorded with wearable technology | |
KR101576526B1 (ko) | 재활운동 지원 장치 및 방법 | |
WO2019173237A1 (en) | Systems, devices, and methods for tracking and analyzing subject motion during a medical imaging scan and/or therapeutic procedure | |
CN109065162A (zh) | 一种综合性智能化诊断系统 | |
CN110277169A (zh) | 共享智能体检系统 | |
CN114999646B (zh) | 新生儿运动发育评估系统、方法、装置及存储介质 | |
US20220296129A1 (en) | Activity monitoring system | |
CN113593693A (zh) | 远程健康管理平台 | |
CN115410707B (zh) | 一种膝关节骨性关节炎的远程诊疗及康复系统 | |
De la Fuente et al. | Use of accelerometers for automatic regional chest movement recognition during tidal breathing in healthy subjects | |
JP7321599B2 (ja) | プログラム、情報処理方法及び情報処理装置 | |
LIU et al. | Artificial intelligence rehabilitation evaluation and training system for degeneration of joint disease | |
CN114191787B (zh) | 用于交互式呼吸训练的服务器以及该服务器的使用方法 | |
JP7459658B2 (ja) | 身体能力提示方法および身体能力提示装置 | |
Vitali et al. | Digital motion acquisition to assess spinal cord injured (SCI) patients | |
Nahavandi et al. | A low cost anthropometric body scanning system using depth cameras | |
CN111728615A (zh) | 一种基于足底压力检测的青少年脊柱侧弯初筛系统 | |
JP7101880B2 (ja) | 呼吸状態検出装置、呼吸状態検出方法および呼吸状態検出プログラム | |
US20220225897A1 (en) | Systems and methods for remote motor assessment | |
WO2022260046A1 (ja) | 被験者の状態を推定するためのコンピュータシステム、方法、およびプログラム | |
ALHAMMAD et al. | Review of Physical Activities Recognition for Patients with Spinal Cord Injuries | |
Zhu et al. | Wearable Motion Analysis System for Thoracic Spine Mobility with Inertial Sensors | |
Fonseca | Quantification, reduction and management of kinematic variability in clinical gait analysis |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |