CN111419237A - 脑卒中手部运动功能Carroll评分预测方法 - Google Patents

脑卒中手部运动功能Carroll评分预测方法 Download PDF

Info

Publication number
CN111419237A
CN111419237A CN202010280124.5A CN202010280124A CN111419237A CN 111419237 A CN111419237 A CN 111419237A CN 202010280124 A CN202010280124 A CN 202010280124A CN 111419237 A CN111419237 A CN 111419237A
Authority
CN
China
Prior art keywords
data
carroll
sensor
hand motion
function
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202010280124.5A
Other languages
English (en)
Inventor
杨尚明
刘朗
刘勇国
李巧勤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
University of Electronic Science and Technology of China
Original Assignee
University of Electronic Science and Technology of China
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by University of Electronic Science and Technology of China filed Critical University of Electronic Science and Technology of China
Priority to CN202010280124.5A priority Critical patent/CN111419237A/zh
Publication of CN111419237A publication Critical patent/CN111419237A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • A61B5/1116Determining posture transitions
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • A61B5/1118Determining activity level
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7235Details of waveform analysis
    • A61B5/7264Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7271Specific aspects of physiological measurement analysis
    • A61B5/7275Determining trends in physiological measurement data; Predicting development of a medical condition based on physiological measurements, e.g. determining a risk factor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/25Fusion techniques
    • G06F18/253Fusion techniques of extracted features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/30ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for calculating health indices; for individual health risk assessment
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B2562/00Details of sensors; Constructional details of sensor housings or probes; Accessories for sensors
    • A61B2562/02Details of sensors specially adapted for in-vivo measurements
    • A61B2562/0247Pressure sensors

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Biophysics (AREA)
  • Public Health (AREA)
  • Theoretical Computer Science (AREA)
  • Molecular Biology (AREA)
  • Medical Informatics (AREA)
  • Data Mining & Analysis (AREA)
  • Pathology (AREA)
  • Evolutionary Computation (AREA)
  • Veterinary Medicine (AREA)
  • Animal Behavior & Ethology (AREA)
  • Surgery (AREA)
  • Physiology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Signal Processing (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Dentistry (AREA)
  • Computing Systems (AREA)
  • Software Systems (AREA)
  • Psychiatry (AREA)
  • Computational Linguistics (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Databases & Information Systems (AREA)
  • Epidemiology (AREA)
  • Primary Health Care (AREA)
  • Fuzzy Systems (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Abstract

本发明公开了脑卒中手部运动功能Carroll评分预测方法,针对传统量表评定方式与基于机器学习的自动评定方法的弊端解决问题。本发明包括数据采集、数据预处理和对手部运动数据使用具有分组约束的卷积‑循环神经网络进行时空特征提取,并自动产生Carroll评分。本发明实现脑卒中患者手部运动功能基于Carroll评分量表的自动评分预测。设计手部运动数据采集系统实现手部运动功能客观测量,消除传统人工观察评分方式带来的主观偏差;使用深度学习方法对多通道的传感器序列数据进行时空特征提取并进行Carroll评分预测,减少人工特征提取步骤过程中人为因素干预,提高自动评定精度。

Description

脑卒中手部运动功能Carroll评分预测方法
技术领域
本发明涉及深度学习应用领域,具体涉及脑卒中手部运动功能Carroll评分预测方法。
背景技术
手是人体与外界交往的一种重要器官,也是人体最复杂最精细的器官。手的主要功能是抓握,分为力性抓握(球形抓握、柱状抓握及拉)与精细抓握(指尖捏、指腹捏、侧捏及三指捏)等。脑卒中患者因神经系统损伤常常导致上肢手功能障碍,手部操作速度和精准度降低,握力和协调能力与患者个体的运动功能恢复也有直接关系。因此,手部运动功能评定可以为患者的康复方案制定提供依据。
Carroll等人提出的上肢功能试验(Upper Extremity Function Test,UEFT)是临床中常用的手功能常评定方法,UEFT又常被称为Carroll评分量表,含33个评定项目,包括抓握方木、抓握圆柱体、侧捏石板、对捏各种规格钢珠、放置、旋前旋后上举和写字7个大类,能较全面评定手的整体功能,得分越高表示手功能越接近正常人。传统量表评定方式中,主要通过医师观察患者手部操作情况主观给出量表评分。
近年来随着微型传感器和神经电生理等新技术广泛应用于临床医疗,使得对康复患者功能评定客观化成为可能,自动康复评定也是康复领域的重要发展趋势。已有的手部运动功能自动评定研究主要采用两种方式进行手部运动功能数据采集:非接触式和接触式系统。非接触式系统主要通过使用摄像设备和图像处理技术来捕获患者手势。接触式系统则常用穿戴式传感器,例如加速度计、表面肌电仪等采集手部操作数据。现有手部运动功能自动评定方法常使用机器学习算法对传感器采集的海量数据进行分析,得到临床可读的评定结果,这类方法需要首先人工提取数据时域及频域特征,然后使用提取的特征作为分类器或回归算法(SVM、线性回归、极限学习机等)的输入构建自动评定学习模型,最终输出与临床量表对应的手部运动功能分级或者得分。
传统量表评定方式需要医师参与整个过程,存在以下问题:1)手部评定量表所包含的评定项目繁多评定过程耗时长,效率低;2)评定过程需要专业评定医师实时监督和指导;3)评定结果受评定师主观影响大,存在主观差异;4)不同地区和机构的评定量表选择存在差异,不利于进行临床和科研交流。
基于机器学习的自动评定方法对采集的数据都按相同方法人工提取时域、频域特征,忽略了信号本身的差异和信号间的依赖关系,以及因主观经验导致特征提取不充分,影响分类算法性能,使评定结果精确度低。
发明内容
本发明所要解决的技术问题是:传统量表评定方式与基于机器学习的自动评定方法的弊端,本发明提供了解决上述问题的脑卒中手部运动功能Carroll评分预测方法。
本发明通过下述技术方案实现:
脑卒中手部运动功能Carroll评分预测方法,包括如下步骤:
步骤1:数据采集,运用传感系统进行数据采集,所述传感系统包括多种用于采集手部运动数据的传感器;
步骤2:数据预处理,对采集到的手部运动数据进行预处理;
步骤3:对步骤2中预处理后的手部运动数据使用具有分组约束的卷积-循环神经网络进行时空特征提取,并自动产生Carroll评分。
进一步地,步骤1中,所述传感系统用于采集手部运动数据,所述传感系统包括软件部分和硬件部分。
进一步地,所述硬件部分包括多个模块化组件,所述模块化组件包括用于测量手指活动能力的IMU传感器和柔性压力传感器,所述IMU传感器和柔性压力传感器的采样频率均设置为20Hz,所述柔性压力传感器位于手指关节或手指指尖的测量位置。
进一步地,所述软件部分包括微处理单元中的下位机程序和计算机端的上位机程序,所述下位机程序用于完成压力传感器数据的整理和上传,所述上位机程序用于完成数据的接收、验证和存储,所述上位机程序校准接收到的传感器数据后再对数据进行实时储存。
进一步地,所述模块化组件包括五个柔性压力传感器和两个IMU传感器,两个所述IMU传感器包括IMU1传感器和IMU2传感器,所述IMU传感器固定在带弹性胶带的弹性织物上,所述柔性压力传感器及所述柔性压力传感器的连接线均缝在所述弹性织物上,所述IMU传感器通过蓝牙和主机连接,所述柔性压力传感器通过USB与主机连接,所述IMU1传感器设置于手指指尖的测量位置,所述IMU2感器置于手指关节的测量位置。
进一步地,所述上位机程序基于Microsoft C#开发,所述上位机程序包括如下步骤:
S6.1:上位机程序初始化;
S6.2:判断是否开始收集数据,如收到开始数据收集的命令,则转至S6.3,如否,则循环S6.2;
S6.3:接收解析串口数据,进行数据检验,如数据检验成功,则将解析串口数据存储至磁盘或/和运用解析串口数据绘制曲线图,如数据检验失败,转发至S6.4;
S6.4:判断是否结束采集数据,如是,则流程结束,如否,则跳转至S6.3。
进一步地,所述下位机程序包括如下步骤:
S7.1:下位机程序初始化;
S7.2:判断是否开始收集数据,如收到开始数据收集的命令,则转至S7.3,如否,则循环S7.2;
S7.3:读取传感器数据寄存器,存储并发送数据至蓝牙模块数据寄存器;
S7.4:判断是否结束采集数据,如是,则流程结束,如否,则跳转至S7.3。
进一步地,所述步骤1数据采集具体包括如下具体步骤:
佩戴传感器,传感器包括五个柔性压力传感器和两个IMU传感器,柔性压力传感器分别对应每个手指的指尖,两个IMU传感器分别位于中指近节指骨和中节指骨中间,使用医用双面胶带固定;
完成设计动作,所述传感器采集手部运动过程中加速度、角速度、磁强数据和手指压力,其中两个IMU采集手部运动过程中的三轴加速度、角速度、磁强数据共计18通道惯性运动数据,其中柔性压力传感器采集5通道指尖压力数据。
进一步地,所述步骤2中的数据预处理具体为:对传感器采集的连续型数值进行数值归一化,将数据映射到0~1范围,采用线性函数归一化方法,转换函数如下:
Figure BDA0002446218150000031
其中max为样本数据最大值,min为样本数据最小值,x是原始传感器信号数据,x*是归一化结果。
进一步地,所述步骤3具体为:
构建GCRNN模型,所述GCRNN模型用于将Xp信号序列数据使用分组约束卷积循环神经网络进行特征提取和回归分析得到Carroll量表评分,所述Xp信号为Xp={x1,x2,...,xT}∈RD×T,Xp表示采集的受试者p的数据,其中T表示时长,D表示传感器数据维度,所述传感器包括IMU传感器和柔性压力传感器,IMU传感器采集18通道惯性运动数据,柔性压力传感器采集5通道指尖压力数据,所述传感器数据维度为23维度,所述传感器数据维度为传感器的数据通道之和;
所述GCRNN模型进行特征提取和回归分析中包括如下步骤:
首先由三个全卷积网络层提取多通道传感器信号之间的空间特征,再使用最大池化层(Max-pooling)降低空间特征维度,两层双向门控循环单元(GRU)用于对多通道传感器信号之间的时间特性建模,最终通过全连接Lasso回归分析进行Carroll评分预测;
所述GCRNN模型包括卷积神经网络(CNN)模块、循环神经网络(RNN)模块和SGL全连接模块;
其中CNN模块包括K个卷积层、整流线性单元(ReLUs)和最大池化层,K为卷积层数量超参数,K设置为3,CNN模块输入为预处理后的23维传感器数据矩阵Xp,通道数为1,mk表示第k={1,..,K}个卷积层的过滤器数量,sk×hk表示第k={1,..,K}个卷积层的过滤器尺寸,第k层卷积层的可训练参数包含大小为mk×mk-1×sk×hk的权重矩阵和大小为mk的偏置向量,对每个卷积层的输出应用ReLu激活函数f(x)=max(0,x)获得非线性特征映射,然后在长度为smp的接收域内进行最大池化,将接收域内的最大值作为卷积层的输出,经过三层smp=2的最大池化后,特征向量在CNN模块的输出长度大约T=T/8;
RNN模块由两层双向RNN组成,每层沿时间轴展开为长度为T的双向GRU网络,每个单元累积来自信号前后两个方向的信息,用于增强当前时刻的相应区域特征,每个单元都捕获局部和全局信息;
SGL全连接模块包括RNN模块的输出向量完全连接到最终输出层的输出单元,输出Carroll的预测分数,还包括Dropout用于完全连接层以减轻过度拟合,所述SGL全连接模块还包括SGL参数惩罚,SGL参数惩罚将Lasso(L1正则化)与分组Lasso(L2正则化)惩罚相结合,L1正则化用于稀疏整个完全连接层的权重,同时也用于进行特征选择,所述L2正则化用于限制模型空间,增加模型的鲁棒性,其中,第二RNN层的最小损失函数由两部分组成:表示预测误差的均方根误差RMSE和正则化的参数惩罚项(penalty):
loss=RMSE+λ*penalty
其中λ表示惩罚项系数,样本
Figure BDA0002446218150000041
通过GCRNN网络传递给出Carroll预测分数oθ(Xp),使用批量随机梯度下降,均方根误差为:
Figure BDA0002446218150000042
其中P表示训练集上的受试者个数,yp表示受试者p在真实环境下按照传统评定方式得到的Carroll评分;
损失函数的惩罚项表示为:
Figure BDA0002446218150000043
其中超参数α用于确定L1正则化和L2正则化之间的比例,Wt是第t个GRU单元的输出向量与输出单元之间的权重矩阵,Wt长度取决于GRU单元的输出维度,qt是Wt中参数的总数,W表示该完全连接层的所有参数的并集;
对上述GCRNN模型进行参数训练,基于得到的模型输出与实际评分的误差值,使用批量梯度下降的误差反向传播算法对网络中的参数进行迭代100次,并对网络结构和参数进行保存;
对需要进行运动功能评定的新患者,应用数据采集、数据预处理后输入预处理后的数据到进行参数训练后的GCRNN模型,得到GCRNN模型给出的Carroll评分预测结果。
进一步地,首先设计并实现了包含IMU和柔性压力传感器的数据采集手套,采集手部运动过程惯性运动数据和指尖压力变化数据。其次,设计了手部运动功能评定任务,包含3个评定动作,用于覆盖Carroll等临床量表所包含的繁杂评定项目,提高评定效率。最后,使用GCRNN深度学习模型,充分地对多维度时间序列数据的时间和空间特征进行自动提取与融合,减少传统机器学习算法的人为特征选择影响,构建具有分组约束的全连接回归分析层对特征进行融合,对Carroll评分进行预测,从而实现脑卒中手部运动功能自动评定。
本发明具有如下的优点和有益效果:
本发明实现脑卒中患者手部运动功能基于Carroll评分量表的自动评分预测。设计手部运动数据采集系统实现手部运动功能客观测量,消除传统人工观察评分方式带来的主观偏差;使用深度学习方法对多通道的传感器序列数据进行时空特征提取并进行Carroll评分预测,减少人工特征提取步骤过程中人为因素干预,提高自动评定精度。
附图说明
此处所说明的附图用来提供对本发明实施例的进一步理解,构成本申请的一部分,并不构成对本发明实施例的限定。在附图中:
图1为本发明的流程图。
图2为本发明的数据采集硬件部分示意图。
图3为本发明的软件部分上位机程序流程图。
图4为本发明的软件部分下位机程序流程图。
图5为本发明的IMU传感器配置位置图。
图6为本发明的GCRNN网络结构示意图。
具体实施方式
在对本发明的任意实施例进行详细的描述之前,应该理解本发明的应用不局限于下面的说明或附图中所示的结构的细节。本发明可采用其它的实施例,并且可以以各种方式被实施或被执行。基于本发明中的实施例,本领域普通技术人员在没有做出创造性改进前提下所获得的所有其它实施例,均属于本发明保护的范围。
本发明采用惯性测量单元(IMU)和柔性压力传感器对手部抓握运动过程的惯性运动数据和手指压力数据进行采集,使用具有分组约束的卷积-循环神经网络(Group-ConstrainedConvolutional Recurrent Neural Network,GCRNN)对各传感器采集的多通道时间序列数据进行时空特征提取,并预测Carroll评分,实现手部运动功能客观自动评定。总体方法流程如图1所示。
脑卒中手部运动功能Carroll评分预测方法,包括如下步骤:
步骤1:数据采集,运用传感系统进行数据采集,所述传感系统包括多种用于采集手部运动数据的传感器;
步骤2:数据预处理,对采集到的手部运动数据进行预处理;
步骤3:对步骤2中预处理后的手部运动数据使用具有分组约束的卷积-循环神经网络进行时空特征提取,并自动产生Carroll评分。
进一步地,步骤1中,所述传感系统用于采集手部运动数据,所述传感系统包括软件部分和硬件部分。
实施例1:本发明数据采集硬件部分由两个用于测量手指活动能力的IMU和5个柔性压力传感器组成,如图2所示。为满足不同患者使用方便,柔性压力传感器系统以及IMU被设计成一个模块化组件。将柔性压力传感器及连接线缝在弹性织物上,IMU传感器用强力双面胶带(SR-6600双面胶带)固定在在弹性织物缝有的弹性胶带上,可以满足不同大小的手在佩戴传感器系统时保证每个柔性传感器能正确地位于手指关节以及手指指尖的测量位置。多个传感器同时采集数据并且实时存储,传感器的采样频率设置为20Hz。
实施例2:本发明数据采集系统软件部分包含微处理单元中的下位机程序和计算机端的上位机程序。下位机程序主要完成压力传感器数据的整理和上传,上位机程序主要完成数据接收、验证和存储。上位机程序基于Microsoft C#开发,流程如图3,它首先校准接收到的传感器数据是否符合既定规则和要求,然后再对数据进行实时存储,用于后续手部运动功能评估。
所述上位机程序包括如下步骤:
S6.1:上位机程序初始化;
S6.2:判断是否开始收集数据,如收到开始数据收集的命令,则转至S6.3,如否,则循环S6.2;
S6.3:接收解析串口数据,进行数据检验,如数据检验成功,则将解析串口数据存储至磁盘或/和运用解析串口数据绘制曲线图,如数据检验失败,转发至S6.4;
S6.4:判断是否结束采集数据,如是,则流程结束,如否,则跳转至S6.3。
进一步地,所述下位机程序流程如图4,包括如下步骤:
S7.1:下位机程序初始化;
S7.2:判断是否开始收集数据,如收到开始数据收集的命令,则转至S7.3,如否,则循环S7.2;
S7.3:读取传感器数据寄存器,存储并发送数据至蓝牙模块数据寄存器;
S7.4:判断是否结束采集数据,如是,则流程结束,如否,则跳转至S7.3。
进一步地,所述步骤1数据采集具体包括如下具体步骤:
在实验开始前,受试者需要按照指示进行传感器系统的佩戴,保证压力传感器位于各个手指的指尖,两个IMU传感器分别位于中指近节指骨和中节指骨中间,使用医用双面胶带固定,且不影响正常手指活动,IMU传感器配置位置如图5所示。基于临床Carroll评定量表,针对手部完成抓、握、捏及翻转等功能要求,设计以下动作,采集手部运动过程的加速度、角速度、磁强数据和手指压力。
1、抓方块物体
受试者抓起放在桌面上的不同大小规格的方形物体并放下,测量受试者手部抓取能力。
2、握圆柱物体
受试者握住并提起桌面上的圆柱形物体,测量受试者手部握住物体、手指肌力与拇指灵活性。
3、翻转卡片
受试者将桌面上的卡片反面向上放回桌面。除拇指外的所有手指拉直将卡片从桌子上拿起,弯曲手指将卡片正反面翻转,放回桌面。该动作测试受试者手部屈曲能力。
实验正式开始前,研究人员向受试者示范关键动作1~2次,受试者练习数次直至熟练;安静休息2分钟后正式采集数据,受试者根据身体情况连续执行上述三个动作重复5次,每个动作执行应不间断地完成,每次之间休息2-3秒,操作过程中传感器自动采集数据。
本发明使用自行研制的手部活动数据采集系统采集受试者执行评定动作时两个IMU的三轴加速度、角速度、磁强数据共计18通道惯性运动数据,以及5通道指尖压力数据。设信号矩阵Xp={x1,x2,...,xT}∈RD×T表示采集的受试者p的数据,其中T表示时长,D表示传感器数据维度,本发明中为23。本发明的手部运动功能评定任务,可以理解为将Xp信号序列数据使用分组约束卷积循环神经网络(GCRNN)进行特征提取和回归分析,最终获得Carroll量表评分。
本发明GCRNN网络结构如图6所示,首先由三个全卷积网络层提取多通道传感器信号之间的空间特征,再使用最大池化层(Max-pooling)降低特征维度,两层双向门控循环单元(GRU)用于时间特性建模,最终通过全连接Lasso回归分析进行Carroll评分预测,
在全连通层上的稀疏组约束(Sparse Group Lasso,SGL)起到注意力机制的作用,强化数据中的重要区域。
1、卷积神经网络(CNN)模块
CNN模块由K个卷积层、整流线性单元(ReLUs)和最大池化层组成,K为卷积层数量超参数,本发明设置为3。CNN模块输入为预处理后的23维传感器数据矩阵Xp,通道数为1,设mk和sk×hk表示第k={1,..,K}个卷积层的过滤器数量和过滤器尺寸。因此,第k层卷积层的可训练参数包含大小为mk×mk-1×sk×hk的权重矩阵和大小为mk的偏置向量。对每个卷积层的输出应用ReLu激活函数f(x)=max(0,x)获得非线性特征映射,然后在长度为smp的接收域内进行最大池化,将接收域内的最大值作为其输出,因此,输出长度减少了一个smp因子。例如,如图5所示,经过三层smp=2的最大池化后,特征向量在CNN模块的输出长度大约T′=T/8。
2、循环神经网络(RNN)模块
RNN模块由两层双向RNN组成,因GRU与LSTM性能相当,且训练参数更少,本发明选择GRU。每层沿时间轴展开为长度为T′的双向GRU网络,每个单元可以累积来自信号前后两个方向的信息,用于增强当前时刻的相应区域特征。因此,每个单元都捕获局部和全局信息。
3、SGL全连接模块
将RNN模块的第二RNN层所有GRU单元的输出向量完全连接到最终输出层的输出单元,输出Carroll的预测分数。此外,Dropout用于完全连接层以减轻过度拟合。最小损失函数由两部分组成:表示预测误差的均方根误差RMSE和正则化的参数惩罚项(penalty):
loss=RMSE+λ*penalty. (2)
其中λ表示惩罚项系数。假设样本
Figure BDA0002446218150000081
通过GCRNN网络传递给出Carroll预测分数oθ(Xp),使用批量随机梯度下降,均方根误差为:
Figure BDA0002446218150000082
其中P表示训练集上的受试者个数,yp表示受试者p在真实环境下按照传统评定方式得到的Carroll评分。
因为不同时刻的传感器数据对评分预测的影响力不同,我们希望模型能突出这些对预测结果影响更大的重要时刻数据,利用尽可能少的主要特征完成准确预测,为此,本发明使用SGL惩罚来规范最终完全连接层的权重,将与每个GRU输出单元相关联的权重视为一组,SGL参数惩罚将Lasso(L1正则化)与分组Lasso(L2正则化)惩罚相结合,以便在组内和组间两个级别实现稀疏参数解。L1正则化使得整个完全连接层的权重变得稀疏,也在一定程度上实现了特征选择。如果Xp中的对应时间段内特征对于手部运动功能评估不具有区别性,L1正则化会使得该时刻GRU输出单元的权重逐渐训练为0。L2正则化则使得每个GRU输出单元的连接权重数值尽量小,实现对模型空间的限制,从而在一定程度上减轻过拟合,增加模型的鲁棒性。损失函数的惩罚项可以表示为:
Figure BDA0002446218150000091
其中超参数α用于确定L1正则化和L2正则化之间的比例,较高的α值表示增加对分组L2的惩罚。Wt是第t个GRU单元的输出向量与输出单元之间的权重矩阵,其长度取决于GRU单元的输出维度,qt是Wt中参数的总数,W表示该完全连接层的所有参数的并集。为简单起见,这里忽略了偏置项。
基于上一步得到的模型输出与实际评分的误差值,使用批量梯度下降的误差反向传播算法对网络中的参数进行迭代,经过100次迭代之后,完成模型参数训练,对网络结构和参数进行保存。
对需要进行运动功能评定的新患者,对其进行与1、2步骤相同的数据采集、预处理并输入至步骤3训练完成的深度学习模型中,即可得到模型给出的Carroll评分预测结果。
进一步地,首先设计并实现了包含IMU和柔性压力传感器的数据采集手套,采集手部运动过程惯性运动数据和指尖压力变化数据。其次,设计了手部运动功能评定任务,包含3个评定动作,用于覆盖Carroll等临床量表所包含的繁杂评定项目,提高评定效率。最后,使用GCRNN深度学习模型,充分地对多维度时间序列数据的时间和空间特征进行自动提取与融合,减少传统机器学习算法的人为特征选择影响,构建具有分组约束的全连接回归分析层对特征进行融合,对Carroll评分进行预测,从而实现脑卒中手部运动功能自动评定。
以上所述的具体实施方式,对本发明的目的、技术发明和有益效果进行了进一步详细说明,所应理解的是,以上所述仅为本发明的具体实施方式而已,并不用于限定本方案的保护范围,凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

Claims (10)

1.脑卒中手部运动功能Carroll评分预测方法,其特征在于,包括如下步骤:
步骤1:数据采集,运用传感系统进行数据采集,所述传感系统包括多种用于采集手部运动数据的传感器;
步骤2:数据预处理,对采集到的手部运动数据进行预处理;
步骤3:对步骤2中预处理后的手部运动数据使用具有分组约束的卷积-循环神经网络进行时空特征提取,并自动产生Carroll评分。
2.根据权利要求1所述的脑卒中手部运动功能Carroll评分预测方法,其特征在于,步骤1中,所述传感系统用于采集手部运动数据,所述传感系统包括软件部分和硬件部分。
3.根据权利要求2所述的脑卒中手部运动功能Carroll评分预测方法,其特征在于,所述硬件部分包括多个模块化组件,所述模块化组件包括用于测量手指活动能力的IMU传感器和柔性压力传感器,所述IMU传感器和柔性压力传感器的采样频率均设置为20Hz,所述柔性压力传感器位于手指关节或手指指尖的测量位置。
4.根据权利要求2所述的脑卒中手部运动功能Carroll评分预测方法,其特征在于,所述软件部分包括微处理单元中的下位机程序和计算机端的上位机程序,所述下位机程序用于完成压力传感器数据的整理和上传,所述上位机程序用于完成数据的接收、验证和存储,所述上位机程序校准接收到的传感器数据后再对数据进行实时储存。
5.根据权利要求3所述的脑卒中手部运动功能Carroll评分预测方法,其特征在于,所述模块化组件包括五个柔性压力传感器和两个IMU传感器,两个所述IMU传感器包括IMU1传感器和IMU2传感器,所述IMU传感器固定在带弹性胶带的弹性织物上,所述柔性压力传感器及所述柔性压力传感器的连接线均缝在所述弹性织物上,所述IMU传感器通过蓝牙和主机连接,所述柔性压力传感器通过USB与主机连接,所述IMU1传感器设置于手指指尖的测量位置,所述IMU2感器置于手指关节的测量位置。
6.根据权利要求4所述的脑卒中手部运动功能Carroll评分预测方法,其特征在于,所述上位机程序基于Microsoft C#开发,所述上位机程序包括如下步骤:
S6.1:上位机程序初始化;
S6.2:判断是否开始收集数据,如收到开始数据收集的命令,则转至S6.3,如否,则循环S6.2;
S6.3:接收解析串口数据,进行数据检验,如数据检验成功,则将解析串口数据存储至磁盘或/和运用解析串口数据绘制曲线图,如数据检验失败,转发至S6.4;
S6.4:判断是否结束采集数据,如是,则流程结束,如否,则跳转至S6.3。
7.根据权利要求4所述的脑卒中手部运动功能Carroll评分预测方法,其特征在于,所述下位机程序包括如下步骤:
S7.1:下位机程序初始化;
S7.2:判断是否开始收集数据,如收到开始数据收集的命令,则转至S7.3,如否,则循环S7.2;
S7.3:读取传感器数据寄存器,存储并发送数据至蓝牙模块数据寄存器;
S7.4:判断是否结束采集数据,如是,则流程结束,如否,则跳转至S7.3。
8.根据权利要求1所述的脑卒中手部运动功能Carroll评分预测方法,其特征在于,所述步骤1数据采集具体包括如下具体步骤:
佩戴传感器,传感器包括五个柔性压力传感器和两个IMU传感器,柔性压力传感器分别对应每个手指的指尖,两个IMU传感器分别位于中指近节指骨和中节指骨中间,使用医用双面胶带固定;
完成设计动作,所述传感器采集手部运动过程中加速度、角速度、磁强数据和手指压力,其中两个IMU采集手部运动过程中的三轴加速度、角速度、磁强数据共计18通道惯性运动数据,其中柔性压力传感器采集5通道指尖压力数据。
9.根据权利要求1所述的脑卒中手部运动功能Carroll评分预测方法,其特征在于,所述步骤2中的数据预处理具体为:对传感器采集的连续型数值进行数值归一化,将数据映射到0~1范围,采用线性函数归一化方法,转换函数如下:
Figure FDA0002446218140000021
其中max为样本数据最大值,min为样本数据最小值,x是原始传感器信号数据,x*是归一化结果。
10.根据权利要求9所述的脑卒中手部运动功能Carroll评分预测方法,其特征在于,所述步骤3具体为:
构建GCRNN模型,所述GCRNN模型用于将Xp信号序列数据使用分组约束卷积循环神经网络进行特征提取和回归分析得到Carroll量表评分,所述Xp信号为Xp={x1,x2,...,xT}∈RD ×T,Xp表示采集的受试者p的数据,其中T表示时长,D表示传感器数据维度,所述传感器包括IMU传感器和柔性压力传感器,IMU传感器采集18通道惯性运动数据,柔性压力传感器采集5通道指尖压力数据,所述传感器数据维度为23维度,所述传感器数据维度为传感器的数据通道之和;
所述GCRNN模型进行特征提取和回归分析中包括如下步骤:
首先由三个全卷积网络层提取多通道传感器信号之间的空间特征,再使用最大池化层(Max-pooling)降低空间特征维度,两层双向门控循环单元(GRU)用于对多通道传感器信号之间的时间特性建模,最终通过全连接Lasso回归分析进行Carroll评分预测;
所述GCRNN模型包括卷积神经网络(CNN)模块、循环神经网络(RNN)模块和SGL全连接模块;
其中CNN模块包括K个卷积层、整流线性单元(ReLUs)和最大池化层,K为卷积层数量超参数,K设置为3,CNN模块输入为预处理后的23维传感器数据矩阵Xp,通道数为1,mk表示第k={1,..,K}个卷积层的过滤器数量,sk×hk表示第k={1,..,K}个卷积层的过滤器尺寸,第k层卷积层的可训练参数包含大小为mk×mk-1×sk×hk的权重矩阵和大小为mk的偏置向量,对每个卷积层的输出应用ReLu激活函数f(x)=max(0,x)获得非线性特征映射,然后在长度为smp的接收域内进行最大池化,将接收域内的最大值作为卷积层的输出,经过三层smp=2的最大池化后,特征向量在CNN模块的输出长度大约T′=T/8;
RNN模块由两层双向RNN组成,每层沿时间轴展开为长度为T′的双向GRU网络,每个单元累积来自信号前后两个方向的信息,用于增强当前时刻的相应区域特征,每个单元都捕获局部和全局信息;
SGL全连接模块包括RNN模块的输出向量完全连接到最终输出层的输出单元,输出Carroll的预测分数,还包括Dropout用于完全连接层以减轻过度拟合,所述SGL全连接模块还包括SGL参数惩罚,SGL参数惩罚将Lasso(L1正则化)与分组Lasso(L2正则化)惩罚相结合,L1正则化用于稀疏整个完全连接层的权重,同时也用于进行特征选择,所述L2正则化用于限制模型空间,增加模型的鲁棒性,其中,第二RNN层的最小损失函数由两部分组成:表示预测误差的均方根误差RMSE和正则化的参数惩罚项(penalty):
loss=RMSE+λ*penalty
其中λ表示惩罚项系数,样本
Figure FDA0002446218140000031
通过GCRNN网络传递给出Carroll预测分数oθ(Xp),使用批量随机梯度下降,均方根误差为:
Figure FDA0002446218140000032
其中P表示训练集上的受试者个数,yp表示受试者p在真实环境下按照传统评定方式得到的Carroll评分;
损失函数的惩罚项表示为:
Figure FDA0002446218140000033
其中超参数α用于确定L1正则化和L2正则化之间的比例,Wt是第t个GRU单元的输出向量与输出单元之间的权重矩阵,Wt长度取决于GRU单元的输出维度,qt是Wt中参数的总数,W表示该完全连接层的所有参数的并集;
对上述GCRNN模型进行参数训练,基于得到的模型输出与实际评分的误差值,使用批量梯度下降的误差反向传播算法对网络中的参数进行迭代100次,并对网络结构和参数进行保存;
对需要进行运动功能评定的新患者,应用数据采集、数据预处理后输入预处理后的数据到进行参数训练后的GCRNN模型,得到GCRNN模型给出的Carroll评分预测结果。
CN202010280124.5A 2020-04-10 2020-04-10 脑卒中手部运动功能Carroll评分预测方法 Pending CN111419237A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010280124.5A CN111419237A (zh) 2020-04-10 2020-04-10 脑卒中手部运动功能Carroll评分预测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010280124.5A CN111419237A (zh) 2020-04-10 2020-04-10 脑卒中手部运动功能Carroll评分预测方法

Publications (1)

Publication Number Publication Date
CN111419237A true CN111419237A (zh) 2020-07-17

Family

ID=71553815

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010280124.5A Pending CN111419237A (zh) 2020-04-10 2020-04-10 脑卒中手部运动功能Carroll评分预测方法

Country Status (1)

Country Link
CN (1) CN111419237A (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111860351A (zh) * 2020-07-23 2020-10-30 中国石油大学(华东) 一种基于行列自注意力全卷积神经网络的遥感图像鱼塘提取方法
CN112603298A (zh) * 2020-12-30 2021-04-06 杭州电子科技大学 多传感信息融合的卒中急性期患者手功能康复评估系统
CN115694683A (zh) * 2023-01-03 2023-02-03 成都实时技术股份有限公司 一种基于Lasso优化的数模异频多通道发射校准方法

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111860351A (zh) * 2020-07-23 2020-10-30 中国石油大学(华东) 一种基于行列自注意力全卷积神经网络的遥感图像鱼塘提取方法
CN111860351B (zh) * 2020-07-23 2021-04-30 中国石油大学(华东) 一种基于行列自注意力全卷积神经网络的遥感图像鱼塘提取方法
CN112603298A (zh) * 2020-12-30 2021-04-06 杭州电子科技大学 多传感信息融合的卒中急性期患者手功能康复评估系统
CN115694683A (zh) * 2023-01-03 2023-02-03 成都实时技术股份有限公司 一种基于Lasso优化的数模异频多通道发射校准方法
CN115694683B (zh) * 2023-01-03 2023-03-21 成都实时技术股份有限公司 一种基于Lasso优化的数模异频多通道发射校准方法

Similar Documents

Publication Publication Date Title
CN107378944B (zh) 一种基于主成分分析法的多维表面肌电信号假手控制方法
Gao et al. Abnormal gait recognition algorithm based on LSTM-CNN fusion network
Khatamino et al. A deep learning-CNN based system for medical diagnosis: an application on Parkinson’s disease handwriting drawings
CN111419237A (zh) 脑卒中手部运动功能Carroll评分预测方法
Muscillo et al. Early recognition of upper limb motor tasks through accelerometers: real-time implementation of a DTW-based algorithm
Ashry et al. An LSTM-based descriptor for human activities recognition using IMU sensors
CN110755085B (zh) 基于关节活动度与运动协调性的运动功能评估方法及设备
CN110659677A (zh) 一种基于可移动传感器组合设备的人体跌倒检测方法
CN114224296B (zh) 基于可穿戴式传感装置的帕金森运动症状量化评估系统
CN105446485B (zh) 基于数据手套和位置跟踪仪的人手运动功能捕捉系统及方法
Chen et al. Surface-electromyography-based gesture recognition using a multistream fusion strategy
Zakia et al. Deep learning technique in recognizing hand grasps using FMG signals
CN110705599B (zh) 一种基于在线迁移学习的人体动作识别方法
CN111297366B (zh) 基于日常生活用品的辅助疾病诊断的数据处理方法和诊断装置
CN117150292A (zh) 一种基于增量学习对手势识别模型训练的方法
CN111767932A (zh) 动作判定方法及装置、计算机设备及计算机可读存储介质
CN110755084B (zh) 基于主被动、分阶段动作的运动功能评估方法及设备
Yang et al. Research on gait cycle recognition with plantar pressure sensors
CN113076928A (zh) 一种基于神经网络的手势数据采集手套及识别方法
Wang et al. Recognizing wearable upper-limb rehabilitation gestures by a hybrid multi-feature neural network
Yin et al. Quantitative evaluation of hand functions using a wearable glove with multiple sensors
CN118787340A (zh) 一种基于多模态数据融合的手部康复评估系统及方法
Habibi et al. Health Level Classification of Motor Stroke Patients Based on Flex Sensor Using Fuzzy Logic Method
Yogesh Instance based human physical activity (hpa) recognition using shimmer2 wearable sensor data sets
Kongsil et al. Wrist-worn Physical Activity Recognition: A Fusion Learning Approach

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20200717

RJ01 Rejection of invention patent application after publication