CN112766041B - 一种基于惯性传感信号的老年痴呆患者洗手动作识别方法 - Google Patents

一种基于惯性传感信号的老年痴呆患者洗手动作识别方法 Download PDF

Info

Publication number
CN112766041B
CN112766041B CN202011557672.4A CN202011557672A CN112766041B CN 112766041 B CN112766041 B CN 112766041B CN 202011557672 A CN202011557672 A CN 202011557672A CN 112766041 B CN112766041 B CN 112766041B
Authority
CN
China
Prior art keywords
hand washing
data
hand
action
coordinate system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202011557672.4A
Other languages
English (en)
Other versions
CN112766041A (zh
Inventor
李凡
曹烨彤
宋肖玉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Institute of Technology BIT
Original Assignee
Beijing Institute of Technology BIT
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Institute of Technology BIT filed Critical Beijing Institute of Technology BIT
Priority to CN202011557672.4A priority Critical patent/CN112766041B/zh
Publication of CN112766041A publication Critical patent/CN112766041A/zh
Application granted granted Critical
Publication of CN112766041B publication Critical patent/CN112766041B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00Aspects of pattern recognition specially adapted for signal processing
    • G06F2218/02Preprocessing
    • G06F2218/04Denoising
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/044Recurrent networks, e.g. Hopfield networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00Aspects of pattern recognition specially adapted for signal processing
    • G06F2218/08Feature extraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00Aspects of pattern recognition specially adapted for signal processing
    • G06F2218/12Classification; Matching

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • Mathematical Physics (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computing Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Signal Processing (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Abstract

本发明涉及一种基于惯性传感信号的老年痴呆患者洗手动作识别方法,属于移动计算应用技术领域。本方法利用惯性传感器,采集老年痴呆患者洗手时腕部的加速度信息和角速度信息,分析人体手腕相对于身体的倾斜姿势。利用不同洗手动作的手腕姿势的显著差异来区分每种洗手动作,最终根据对各种洗手动作的检测结果,分析整体洗手步骤是否符合卫生要求。本发明针对老年痴呆患者,能够准确识别洗手行为,为多样化和异质性的老年痴呆患者提供不同的洗手辅助解决方案。

Description

一种基于惯性传感信号的老年痴呆患者洗手动作识别方法
技术领域
本发明涉及一种协助老年痴呆患者洗手的方法,具体涉及一种基于智能腕 带设备惯性传感信号的协助老年痴呆患者洗手的方法,属于移动计算应用技术 领域。
背景技术
老年痴呆症患者在进行必要的日常活动(如饮食、梳洗和穿衣)时,因记 忆力的逐渐丧失导致执行功能不断恶化。其中,洗手作为人体一种日常动作, 是减少细菌、避免疾病甚至致命感染的一种良好方式,在生活中非常重要,尤 其是在呼吸道疾病、新冠肺炎疫情等暴发期间。因此,为老年痴呆症患者提供 洗手动作协助,具有重要意义。
现有的人体洗手动作检测识别方法,主要利用摄像头识别追踪手部运动, 检测洗手动作。例如,利用架设在洗手池上方的摄像头追踪使用者身体和手的 空间坐标,并据此确定洗手动作及其质量;或者利用架设在腕部的摄像头识别 手指、手掌姿态,识别洗手动作。然而,这些基于摄像头的方法部署成本高, 难以大规模推广,准确率受环境光照条件影响较大。此外,在浴室和卫生间使 用摄像头存在隐私泄露风险。
目前,也存在一些利用非视觉传感器检测识别人体洗手动作的方法,通过 收集用户身体或者手部的运动状态信息,分析执行的是何种洗手动作。例如, 利用智能手表的加速度计和陀螺仪的数据,结合动作持续时间来识别用户洗手 的动作步骤;使用安装在腕带装置上的6轴惯性测量单元来记录手部运动状态, 并根据动作的先后执行顺序辅助检测洗手动作。
然而,这些方法研究的是年轻和健康的成年人的手部运动状态特征。由于 老年痴呆患者的行为模式不同于健康年轻人,这些方法无法应用于老年痴呆患 者的洗手动作检测识别。此外,对于认知能力有差异的老年痴呆患者的行为模 式也存在差异,现有的检测识别方法,无法解决认知能力差异导致的用户行为 的显著差异。
除此之外,利用Wi-Fi、射频信号、声信号、光信号和热红外信号的方法已 被广泛开发用于检测人类活动。但是,由于对水、肥皂泡沫、环境温度等敏感, 这类方法并不适合进行洗手动作检测识别。有些装配磁性传感器的手上设备, 例如戒指可以准确识别手势,但洗手时需要将其取下以提高整体清洁度。此外, 从手臂肌肉获得的肌电图也有助于识别洗手动作。然而,老年痴呆患者较难接 受这类外形奇特的传感器,引起心理紧张。
综上所述,现有的方法存在各种不足,亟需新方法来克服其局限性。
发明内容
本发明的目的是为了解决目前缺乏低成本且有效的老年痴呆患者洗手动作 检测识别方法的问题,提出一种基于惯性传感信号的老年痴呆患者洗手动作识 别方法,利用智能腕带式设备装配的惯性传感器信号进行洗手动作识别,并根 据使用者执行的洗手动作作出提示,从而满足卫生需要。本发明包括世界卫生 组织定义的六步洗手动作的检测,以及整体洗手流程的监控等。
本发明的创新点在于:使用惯性传感器,采集老年痴呆患者洗手时腕部的 加速度信息和角速度信息,分析人体手腕相对于身体的倾斜姿势。利用不同洗 手动作的手腕姿势的显著差异来区分每种洗手动作,最终根据对各种洗手动作 的检测结果,分析整体洗手步骤是否符合卫生要求。
本发明针对老年痴呆患者,能够准确识别洗手行为,为多样化和异质性的 老年痴呆患者提供不同的洗手辅助解决方案。
本发明的目的是通过以下技术方案实现的:
一种基于惯性传感信号的老年痴呆患者洗手动作识别方法,包括以下步骤:
步骤1:使用惯性传感单元(如智能腕带设备),采集用户的手部运动状态 信息,包括加速度信息和角速度信息,并切分采集的信息,以获得洗手动作片 段。目的是为了从杂乱的运动状态数据中根据重复模式检测并切分含有洗手动 作的片段。
具体包括:
步骤1.1:使用滑动平均滤波器,对惯性传感单元采集的人体手部运动状态 数据进行处理,去除无关的噪音;
步骤1.2:分析步骤1.1获取的去噪后的人体手部运动数据。使用基于自相 关性的重复模式检测方法,对手部运动状态数据进行切分,提取其中含有洗手 动作的数据片段,并估算洗手动作持续时间。
步骤1.3:根据步骤1.2获取的洗手动作片段,分析手部运动的线性加速度。 根据步骤1.2估计的洗手动作持续时间,精准定位洗手动作的开始和结束时间, 进一步分割洗手动作片段。
步骤2:提取用户洗手动作信息。目的是分析惯性传感单元采集的加速度和 角速度信息,提取传感器-身体间的倾斜角。
具体包括:
步骤2.1:将步骤1.3切分的洗手动作片段中的惯性传感数据,由惯性传感 单元的加速度坐标系经大地坐标系转换至老年痴呆患者的身体坐标系。
步骤2.2:处理步骤2.1获得的身体坐标系下的惯性传感数据,提取传感单 元-身体间的倾斜角。
步骤3:识别老年痴呆患者的洗手动作。
将步骤2.2提取出的传感单元-身体倾斜角,利用多层长短时记忆神经网络, 提取能够唯一区分洗手动作且对于不同的用户保持稳定的特征,并根据提取出 的特征预测输入片段属于各种洗手动作的概率,最后选择概率最大的动作类作 为输出。
实际应用时,预先在老年痴呆患者辅助设备中设定洗手流程规则,持续分 析步骤3识别的人体洗手动作,对使用者做出提示,直到其执行的洗手动作符 合规则,从而保证其洗手流程符合卫生要求。
有益效果
与现有认证技术相比,本发明具有以下优点:
1.本发明仅依靠智能腕带设备中常见的惯性传感单元,就可以实现对老年痴 呆患者的洗手动作检测。因此,本发明不需要依赖各类传感器、具有成本低、 接受度高、抗干扰性强、用户体验好、隐私不易泄露的优点。
2.本发明方法,通用于不同认知能力的老年痴呆患者,结合深度学习技术, 可以在感知能力有限的智能腕带设备上获得准确的手部运动信息,达到较高的 单个动作识别准确度。同时,本发明方法可以灵活地修改洗手步骤规则,适用 于不同老年痴呆患者的整体洗手流程检测。
附图说明
图1为本发明研究的世界卫生组织提出的六种洗手动作;
图2为本发明方法的原理图;
图3为本发明的传感单元-身体倾斜角示意图;
图4为本发明实施例识别洗手动作的性能;
图5为本发明实施例长期进行洗手动作检测的性能;
图6为本发明实施例8位志愿者在三种情况下正确执行洗手动作个数。
具体实施方式
下面结合附图和实施例对本发明方法做进一步详细说明。
本发明,将世界卫生组织定义的六种洗手动作作为具体检测目标,如图1 所示,其中包括手指并拢、掌心摩擦掌心、手指交错、掌心摩擦手背、手指交 错、掌心摩擦掌心、十指相扣、手指背对掌心摩擦、掌心紧握拇指、摩擦旋转、 手指相握、在掌心旋转擦洗。
如图2所示,一种基于惯性传感信号的老年痴呆患者洗手动作识别方法, 包括以下步骤:
步骤1:使用腕带设备的惯性传感单元,采集用户的手部运动状态信息(加 速度信息和角速度信息),并切分采集信息获得洗手动作片段。
其中,惯性传感单元的信号,包括三轴加速度传感器、三轴角速度传感器 和三轴磁力传感器的信号。当老年痴呆患者手部运动时,佩戴在手腕上的惯性 传感单元,持续采集三轴加速度传感器在X、Y、Z三轴上的加速度分量变化, 以及三轴角速度传感器在X、Y、Z三轴上的角速度分量的变化,并将这种变化 转换为电信号数据。
步骤1.1:使用滑动平均滤波器,对采集的人体手部运动状态数据进行处理, 去除无关的噪音。
步骤1.2:分析步骤1.1获取的经去噪后的人体手部运动数据,使用基于自 相关性的重复模式检测方法,对手部运动状态数据进行切分,提取其中含有洗 手动作的数据片段,并估算洗手动作持续时间。
老年痴呆症患者在洗手时,总是反复执行各种洗手动作,而连续的洗手动 作间的额外动作和非洗手运动通常没有重复的模式。因此,通过检测加速度技 数据中的重复模式,能够识别含有洗手动作的片断。
具体地:
首先,将滑动平均滤波器的滑动窗口应用于加速度计数据。其中,滑动窗 口大小,要以确保窗口能够捕捉到不低于两个重复的洗手动作为准。
由于绝大多数洗手动作在2.5s内完成,可以设置滑动窗口大小为6s,以确 保窗口能够捕捉到不低于两个重复的洗手动作。
然后,分别计算输入数据与其延后1至n位的数据之间的自相关。其中,n 表示滑动窗口中数据位数-1。若滑动窗口中的数据来自同一种洗手动作,则至少 有两种延后位会产生自相关峰值,一个是潜在的重复周期P,另一个是周期P的 两倍;若滑动窗口中的数据来自于额外运动或非洗手运动,则不会观察到自相 关峰值。通过检测不同延后位数下是否存在自相关峰值,从而检测含有洗手动 作的片段。通过分析自相关峰值对应的最短延后位,估计洗手动作的重复周期。
步骤1.3:根据步骤1.2获取的洗手动作片段,分析手部运动的线性加速度, 根据步骤1.2估计的洗手动作持续时间精准定位洗手动作的开始和结束时间,进 一步分割洗手动作片段。
具体地:
由于传感数据的幅值与手部运动强度成正比,因此,通过检测传感数据的 数据值来确定每个动作的起始和结束位置。由于传感单元坐标系在执行不同的 洗手动作时会随手腕旋转,每次洗手动作的开始和结束可能是加速度计和陀螺 仪三轴数据的波峰或波谷,起始位置并不容易确定,为了解决这个问题,引入 线性角速度LAV:
Figure BDA0002859164420000061
其中ωx,ωy,ωz分别是三轴角速度传感器在X、Y、Z轴的角速度传感数据。 洗手动作的起始位置和结束位置对应线型角速度的波谷,且其幅值为0或接近0。
为准确分割动作,首先比较波谷之间的距离与步骤1.2估计的动作重复周期 P,滑动窗口内的波谷-波谷距离与估计周期P最接近的两个波谷对应位置,被认 为是洗手动作开始和结束。然后,通过向前和向后搜索,找到距离与动作重复 周期P最接近的波谷位置,来定位滑动窗口中其他洗手动作的开始和结束位置。
步骤2:提取用户洗手动作信息。
该步骤的目的是从惯性传感单元采集的加速度和角速度信息中提取传感单 元-身体间的倾斜角。
由于洗手动作的传感单元-身体倾斜角特征在不同的人中具有通用性,且对 于老年痴呆患者复杂、随机的手部运动较为鲁棒。因此,使用传感单元-身体倾 斜角信息检测洗手动作。
具体地:
步骤2.1:将步骤1.3切分的洗手动作片段中的惯性传感数据,由加速度传 感器坐标系,经大地坐标系,转换至身体坐标系。
首先,采取基于四元数的方法,将惯性传感数据从加速度传感器坐标系转 换至大地坐标系内。
其中,四元数是q=qii+qjj+qkk+qr形式的复数,i、j和k是基本四元数 单位,qi、qj、qk和qr是实数,满足
Figure BDA0002859164420000062
使用基于四元数的 旋转实现坐标转换:
Figure BDA0002859164420000071
其中,Pd是在加速度传感器坐标系下收集的数据,Pe是旋转至大地坐标系下的数据,qde表示从加速度传感器坐标系旋转至大地坐标系的四元数,直接从磁力传 感器读取。
Figure BDA0002859164420000072
是qde的共轭四元数。
同理,惯性传感数据从大地坐标系旋转至身体坐标系的旋转过程为:
Figure BDA0002859164420000073
其中,Pb是旋转至身体标系下的数据,qeb表示从大地坐标系旋转至身体坐标系 的四元数,
Figure BDA0002859164420000074
是qeb的共轭四元数。
为获取qeb,使用基于欧拉旋转角度ψ,θ,φ的方法为:
Figure BDA0002859164420000075
在人体洗手时,通过引导人体向前摆动手臂,以帮助确定他们的身体方向。 人体站在水平地面上清洗手部,此时θ和φ为零,ψ定义为绕北向的逆时针旋转 角。
首先,计算椭圆曲线中加速度在X轴和Y轴上的笛卡尔平面的二重积分, 即,加速度沿X轴和Y轴的累积距离。
其次,计算由人体手臂运动引起的X轴和Y轴位移之间的角度α:
Figure BDA0002859164420000076
根据上述公式计算出的角度α范围为
Figure BDA0002859164420000077
根据X轴和Y轴上加速度的峰值和 波谷的顺序来估计手臂运动的象限,使用基于象限的方法,将α对应到[0,2π]:
Figure BDA0002859164420000078
步骤2.2:处理步骤2.1获得的身体坐标系下的惯性传感数据,提取传感单 元-身体间的倾斜角。
图3展示了传感单元-身体倾斜角示意图,其中,R表示身体坐标系下的加 速度矢量,AXR,AYR,AZR分别为三个倾斜角,通过X、Y、Z轴加速度分量ax、 ay、az计算:
Figure BDA0002859164420000081
步骤3:识别老年痴呆患者的洗手动作。
将步骤2.2提取出的传感单元-身体倾斜角,利用神经网络生成人体独立的 特征,并利用统计学方法识别不同的洗手动作。以往的研究表明,这种三步分 类方法可以实现高精度的独立于用户的分类。
在提取出传感单元本体倾斜角的时间序列后,为了快速提取独特且通用的 特征,保证洗手动作检测的实时性和准确性,利用长短时记忆神经网络来学习 隐藏在倾斜姿势数据中的有意义的信息,并建立一个混合网络模型来实现精确 分类。
具体地:
混合网络模型包括输入层、隐藏层和输出层。其中,输入层以传感单元-身 体倾斜角为输入,然后将含有手腕姿势信息的输入数据送入隐藏层。
隐藏层通过多层长短时记忆神经网络提取独特且通用的特征。第i个长短时 记忆神经网络层利用
Figure BDA0002859164420000082
将输入数据
Figure BDA0002859164420000083
映射为 压缩向量
Figure BDA0002859164420000084
其中,W0和b0分别表示权重矩阵和偏置向量,
Figure BDA0002859164420000085
代表第i层第t个 timestep的状态输出层由一个聚合层和一个识别洗手动作的softmax层组成。
Figure BDA0002859164420000086
表示第t-1个timestep的输出。
对网络进行训练,使收集到的地面真实情况与预测结果之间的差异最小化, 采用交叉熵代价函数减小误差。
使用前,采集老年痴呆患者的洗手数据训练混合网络模型。使用时,依据 步骤1、步骤2处理传感数据,提取传感单元-倾斜角数据,送入训练好的混合 网络模型中,挑选预测概率最大的洗手动作类别作为输出。
为了培养老年痴呆患者独立洗手的能力,本发明实施了有效的老年痴呆患 者洗手动作检测,并通过监测洗手动作提供适当的指导。痴呆表现为认知功能 损害,通常伴有运动能力的下降。认知能力不同的老年人洗手时会遇到不同的 问题,对洗手流程的执行能力也不同。例如,认知能力轻度衰退的老年人可能 会忘记洗手的步骤顺序,或在整个任务中遗漏一些步骤,对于此,练习固定的 洗手步骤顺序是护理干预的重要组成部分;认知能力轻度中度或重度衰退的老 年人情况更差,他们可能会忘记如何执行一个特定的洗手动作,或有强迫性的 行为,无法集中精力完成任务,尽管如此,只要给予一些语音指导,患者还是 能够及时纠正。因此,不同认知能力的老年人需要不同的洗手协助方法来改善 手部卫生。
根据使用者的认知能力情况和卫生要求,预先在状态机中设定洗手流程规 则。使用状态机技术是因为它的输出依赖于整个历史输入,而不仅仅是最近的 输入。状态机包括五个变量,即输入、输出、状态、下一状态函数和输出函数:
输入:It,可以是六种洗手动作;
输出:Ot,是提示的内容,例如一条语音;
状态:St,表示使用者目前的状态,例如“正在执行洗手动作1”;
下一状态函数:
Figure BDA0002859164420000091
将输入动作It和当前状态St映射到下一状 态St+1
输出函数:
Figure BDA0002859164420000092
将输入动作It和当前状态St映射到输出Ot
医务人员和家庭成员预先帮助用户设置自定义提示内容。当步骤3识别的 连续的洗手动作被输入到状态机时,状态机根据用户定义的输出函数不断更新 状态和提示。
实施例
为了验证本方法的性能,将本方法开发成一个腕带式原型,原型包括一个 集成的九轴惯性传感单元(包含三轴加速度传感器、三轴角速度传感器和三轴磁 力传感器)和一个可调节的腕带,此原型等同于智能手表或智能手环,通过Wi-Fi 与笔记本电脑配对。在洗手过程中,以100Hz的采样率记录惯性传感单元读数, 同时,在洗手池上方放置一台摄像机,记录参与者的洗手动作,以提供真实动 作参考。本实验从老年社区的居民中招募了8名存在不同程度认知障碍的志愿 者(4名男性和4名女性,年龄在65到81岁之间)参与实验,经过短暂的训练, 志愿者被要求在家里的洗手池中反复洗手,共收集了6000多个动作片段。
混淆矩阵、召回率、查准率和F1值被用来进行系统性能评价。其中,混淆 矩阵定义为:矩阵的每一行和每一列分别代表实际类和预测类。每个元素ci,j表 示属于第i类的样本被预测为第j类样本的比率;召回率定义为:对于某个用户, 正确验证身份的样本个数和实际上属于该用户的样本个数的比值;查准率定义 为:对于某个用户,正确验证身份的样本可数的占全部识别为该用户的样本个 数的比例;F1值定义为:
Figure BDA0002859164420000101
在混合网络模型中,长短时记忆神经网络层的数目和每层存储单元的数量 对特征提取和洗手行为识别的性能有重要影响。随着层数和内存单元数的增加, 系统性能可以得到改善,然而,更多的网络层数和存储单元虽揭示了更高层次 的运动信息,但也导致了更高的计算成本,为了保证低成本下细粒度的识别, 本实验设置了包含128个单元和三个长短时记忆神经网络层的混合模型,其它 单元个数设置和层数设置也在发明权利要求之内。
首先,测试本发明检测老年痴呆患者洗手动作的总体性能,平均召回率为92.94%,平均查准率为92.60%,平均F1值为92.76%。另外,80%的识别延时 小于0.9秒。使用1名志愿者的洗手动作数据做测试,其余7名志愿者的洗手动 作数据做训练,并测试了全部组合。图4展示了全部训练测试组合的平均混淆 矩阵。由图中可以看出六种洗手动作的识别比例分别为93.94%、92.56%、92.93%、 94.79%、91.19%、92.22%,表明本发明方法可以有效识别不同用户的洗手动作, 对于不同执行能力和认知能力的使用者具有鲁棒性。
然后,测试本发明方法的长期表现。因为老年痴呆症患者的运动能力不稳 定,而且痴呆症的进展速度也不同,长期表现稳定是检测老年痴呆患者洗手动 作的一个重要方面。利用全部洗手动作传感信息训练混合网络模型,然后分别 于当天、1天后、2天后、5天后、10天后、15天、20天后收集测试数据。图5 显示了20天内所有参与者的洗手动作识别性能。当使用第20天收集的数据进 行测试时,召回率、精确度和F1分数均在84%以上,在实际环境中是可以接受 的。表明了本发明方法经过一次训练,可以长期有效识别洗手动作。
最后,测试利用状态机检测整体洗手流程并协助使用者洗手的有效性。由 于用户认知能力、洗手动作执行能力存在差异,首先按照认知能力和洗手动作 执行能力将志愿者分为两组,认知能力受损较重的1、2、3、4号参与者在遗漏 洗手步骤时被语音提示,认知能力受损较轻的5、6、7、8号参与者在洗手步骤 有误和遗漏洗手步骤时被语音提示。
本实验设定了三种测试情况,分别为:志愿者在印有洗手动作图示的海报 指导下进行洗手;志愿者第1天在本发明方法指导下洗手;志愿者在连续使用 20天后,在本发明方法的指导下洗手。其中,采集在海报指导下洗手3次的手 部运动状态数据作为参考数据;第1天记录8位志愿者的5次洗手过程;为不 给志愿者增加心理负担,第20天记录8位志愿者的1次洗手过程。
图6记录了8位志愿者在三种情况下正确执行的洗手动作个数。可以看出, 与在海报指导的情况下相比,在本发明方法指导下能够完成的洗手动作数量增 加。具体来说,对于1、2、3和4号志愿者,他们无法执行正确的洗手动作, 无法组织洗手步骤,经常重复强迫性动作。在本发明方法指导下,他们可以按 照语音提示洗手,从而执行错过的动作并停止错误的洗手行为。对于第5、6、7 和8号志愿者,在执行洗手动作时,他们偶尔会在规划洗手步骤时出错,忘记 一两个动作。在本发明方法指导下,他们可以补上错过的洗手动作和重新组织 动作的顺序。在使用20天的情况下,部分志愿者能够全部正确执行洗手动作。 结果表明,本发明方法可以利用状态机有效监测整体洗手流程并协助使用者洗 手,在帮助老年痴呆患者完成洗手动作方面具有广阔的前景。

Claims (4)

1.一种基于惯性传感信号的老年痴呆患者洗手动作识别方法,其特征在于,包括以下步骤:
步骤1:使用惯性传感单元,采集用户的手部运动状态信息,包括加速度信息和角速度信息,并切分采集的信息,以获得洗手动作片段;
惯性传感单元的信号,包括三轴加速度传感器、三轴角速度传感器和三轴磁力传感器的信号;当老年痴呆患者手部运动时,佩戴在手腕上的惯性传感单元,持续采集三轴加速度传感器在X、Y、Z三轴上的加速度分量变化,以及三轴角速度传感器在X、Y、Z三轴上的角速度分量的变化,并将这种变化转换为电信号数据;
具体包括:
步骤1.1:使用滑动平均滤波器,对惯性传感单元采集的人体手部运动状态数据进行处理,去除无关的噪音;
步骤1.2:分析步骤1.1获取的去噪后的人体手部运动数据;使用基于自相关性的重复模式检测方法,对手部运动状态数据进行切分,提取其中含有洗手动作的数据片段,并估算洗手动作持续时间;
具体地:
首先,将滑动平均滤波器的滑动窗口应用于加速度计数据;其中,滑动窗口大小,要以确保窗口能够捕捉到不低于两个重复的洗手动作为准;
然后,分别计算输入数据与其延后1至n位的数据之间的自相关;其中,n表示滑动窗口中数据位数-1;若滑动窗口中的数据来自同一种洗手动作,则至少有两种延后位会产生自相关峰值,一个是潜在的重复周期P,另一个是周期P的两倍;若滑动窗口中的数据来自于额外运动或非洗手运动,则不会观察到自相关峰值;通过检测不同延后位数下是否存在自相关峰值,从而检测含有洗手动作的片段;通过分析自相关峰值对应的最短延后位,估计洗手动作的重复周期;
步骤1.3:根据步骤1.2获取的洗手动作片段,分析手部运动的线性加速度;根据步骤1.2估计的洗手动作持续时间,精准定位洗手动作的开始和结束时间,进一步分割洗手动作片段;
具体地:
通过检测传感数据的数据值确定每个动作的起始和结束位置;引入线性角速度LAV:
Figure FDA0003331686980000021
其中ωx,ωy,ωz分别是三轴角速度传感器在X、Y、Z轴的角速度传感数据;洗手动作的起始位置和结束位置对应线性角速度的波谷,且其幅值为0或接近0;
为准确分割动作,首先比较波谷之间的距离与步骤1.2估计的动作重复周期P,滑动窗口内的波谷-波谷距离与估计周期P最接近的两个波谷对应位置,被认为是洗手动作开始和结束;然后,通过向前和向后搜索,找到距离与动作重复周期P最接近的波谷位置,来定位滑动窗口中其他洗手动作的开始和结束位置;
步骤2:提取用户洗手动作信息;目的是分析惯性传感单元采集的加速度和角速度信息,提取传感单元-身体间的倾斜角;
具体包括:
步骤2.1:将步骤1.3切分的洗手动作片段中的惯性传感数据,由惯性传感单元的加速度坐标系经大地坐标系转换至老年痴呆患者的身体坐标系;
步骤2.2:处理步骤2.1获得的身体坐标系下的惯性传感数据,提取传感单元-身体间的倾斜角;
步骤3:识别老年痴呆患者的洗手动作;
将步骤2.2提取出的传感单元-身体倾斜角,利用多层长短时记忆神经网络,提取能够唯一区分洗手动作且对于不同的用户保持稳定的特征,并根据提取出的特征预测输入片段属于各种洗手动作的概率,最后选择概率最大的动作类作为输出;
具体地:
混合网络模型包括输入层、隐藏层和输出层;其中,输入层以传感单元-身体倾斜角为输入,然后将含有手腕姿势信息的输入数据送入隐藏层;
隐藏层通过多层长短时记忆神经网络提取独特且通用的特征;第i个长短时记忆神经网络层利用
Figure FDA0003331686980000022
将输入数据
Figure FDA0003331686980000023
映射为压缩向量
Figure FDA0003331686980000031
其中,W0和b0分别表示权重矩阵和偏置向量,
Figure FDA0003331686980000032
代表第i层第t个timestep的状态输出层由一个聚合层和一个识别洗手动作的softmax层组成;
Figure FDA0003331686980000033
表示第t-1个timestep的输出;
对网络进行训练,使收集到的地面真实情况与预测结果之间的差异最小化,采用交叉熵代价函数减小误差;
实际应用时,预先在老年痴呆患者辅助设备中设定洗手流程规则,持续分析步骤3识别的人体洗手动作,对使用者做出提示,直到其执行的洗手动作符合规则,从而保证其洗手流程符合卫生要求。
2.如权利要求1所述的一种基于惯性传感信号的老年痴呆患者洗手动作识别方法,其特征在于,识别检测的洗手动作包括:手指并拢、掌心摩擦掌心、手指交错、掌心摩擦手背、十指相扣、手指背对掌心摩擦、掌心紧握拇指、摩擦旋转、手指相握、在掌心旋转擦洗。
3.如权利要求1所述的一种基于惯性传感信号的老年痴呆患者洗手动作识别方法,其特征在于,步骤2.1的实现方法为:
首先,采取基于四元数的方法,将惯性传感数据从加速度传感器坐标系转换至大地坐标系内;
其中,四元数是q=qii+qjj+qkk+qr形式的复数,i、j和k是基本四元数单位,qi、qj、qk和qr是实数,满足
Figure FDA0003331686980000034
使用基于四元数的旋转实现坐标转换:
Figure FDA0003331686980000035
其中,Pd是在加速度传感器坐标系下收集的数据,Pe是旋转至大地坐标系下的数据,qde表示从加速度传感器坐标系旋转至大地坐标系的四元数,直接从磁力传感器读取;
Figure FDA0003331686980000036
是qde的共轭四元数;
同理,惯性传感数据从大地坐标系旋转至身体坐标系的旋转过程为:
Figure FDA0003331686980000037
其中,Pb是旋转至身体标系下的数据,qeb表示从大地坐标系旋转至身体坐标系的四元数,
Figure FDA0003331686980000038
是qeb的共轭四元数;
为获取qeb,使用基于欧拉旋转角度ψ,θ,φ的方法为:
Figure FDA0003331686980000041
在人体洗手时,通过引导人体向前摆动手臂,以帮助确定他们的身体方向;人体站在水平地面上清洗手部,此时θ和φ为零,ψ定义为绕北向的逆时针旋转角;
首先,计算椭圆曲线中加速度在X轴和Y轴上的笛卡尔平面的二重积分,即,加速度沿X轴和Y轴的累积距离;
其次,计算由人体手臂运动引起的X轴和Y轴位移之间的角度α:
Figure FDA0003331686980000042
根据上述公式计算出的角度α范围为
Figure FDA0003331686980000043
根据X轴和Y轴上加速度的峰值和波谷的顺序来估计手臂运动的象限,使用基于象限的方法,将α对应到[0,2π]:
Figure FDA0003331686980000044
4.如权利要求1所述的一种基于惯性传感信号的老年痴呆患者洗手动作识别方法,其特征在于,步骤2.2的实现方法为:
通过X、Y、Z轴加速度分量ax、ay、az计算:
Figure FDA0003331686980000045
其中,R表示身体坐标系下的加速度矢量,AXR,AYR,AZR分别为三个倾斜角。
CN202011557672.4A 2020-12-25 2020-12-25 一种基于惯性传感信号的老年痴呆患者洗手动作识别方法 Active CN112766041B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011557672.4A CN112766041B (zh) 2020-12-25 2020-12-25 一种基于惯性传感信号的老年痴呆患者洗手动作识别方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011557672.4A CN112766041B (zh) 2020-12-25 2020-12-25 一种基于惯性传感信号的老年痴呆患者洗手动作识别方法

Publications (2)

Publication Number Publication Date
CN112766041A CN112766041A (zh) 2021-05-07
CN112766041B true CN112766041B (zh) 2022-04-22

Family

ID=75694228

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011557672.4A Active CN112766041B (zh) 2020-12-25 2020-12-25 一种基于惯性传感信号的老年痴呆患者洗手动作识别方法

Country Status (1)

Country Link
CN (1) CN112766041B (zh)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110689041A (zh) * 2019-08-20 2020-01-14 陈羽旻 一种多目标行为动作识别预测方法、电子设备及存储介质
CN110946556A (zh) * 2019-12-27 2020-04-03 南京信息工程大学 基于可穿戴式体感网的帕金森静息态震颤评估方法
CN111598081A (zh) * 2020-04-09 2020-08-28 浙江工业大学 一种七步洗手法操作规范性自动检测方法
CN111695542A (zh) * 2020-06-23 2020-09-22 韶关市启之信息技术有限公司 一种视频监控细粒度分析方法与系统

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2911245C (en) * 2013-07-19 2022-12-13 Versus Technology, Inc. Automatic hygiene compliance assistance
WO2017223527A1 (en) * 2016-06-23 2017-12-28 Carnegie Mellon University Method and system for interacting with a wearable electronic device
CN112101219B (zh) * 2020-09-15 2022-11-04 济南大学 一种面向老年陪护机器人的意图理解方法和系统

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110689041A (zh) * 2019-08-20 2020-01-14 陈羽旻 一种多目标行为动作识别预测方法、电子设备及存储介质
CN110946556A (zh) * 2019-12-27 2020-04-03 南京信息工程大学 基于可穿戴式体感网的帕金森静息态震颤评估方法
CN111598081A (zh) * 2020-04-09 2020-08-28 浙江工业大学 一种七步洗手法操作规范性自动检测方法
CN111695542A (zh) * 2020-06-23 2020-09-22 韶关市启之信息技术有限公司 一种视频监控细粒度分析方法与系统

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
Benefits of automatic human action recognition in an assistive system for people with dementia;Emilie M. D. Jean-Baptiste,and etc;《2017 IEEE Canada International Humanitarian Technology Conference (IHTC)》;20171005;第1-5页 *
基于深度神经网络的sEMG手势识别研究;张龙娇等;《计算机工程与应用》;20191231;第113-119页 *

Also Published As

Publication number Publication date
CN112766041A (zh) 2021-05-07

Similar Documents

Publication Publication Date Title
AU2020273327B2 (en) Systems and methods of swimming analysis
Huang et al. Toothbrushing monitoring using wrist watch
Huang et al. An EMG-based handwriting recognition through dynamic time warping
CN108196668B (zh) 一种便携式手势识别系统及方法
TW201007508A (en) Real-time motion recognition method and inertia sensing and trajectory
CN107678550A (zh) 一种基于数据手套的手语手势识别系统
Pan et al. Intelligent shoulder joint home-based self-rehabilitation monitoring system
de Souza Baptista et al. Automatic human movement assessment with switching linear dynamic system: Motion segmentation and motor performance
Cao et al. Awash: handwashing assistance for the elderly with dementia via wearables
Hsu et al. Golf swing motion detection using an inertial-sensor-based portable instrument
Shin et al. Korean sign language recognition using EMG and IMU sensors based on group-dependent NN models
Fan et al. Wearable motion attitude detection and data analysis based on Internet of Things
CN103785157A (zh) 人体运动类型识别准确度提高方法
TW201121525A (en) Training system and upper limb exercise function estimation for hemiplegic stroke patient.
CN105105757A (zh) 一种可穿戴人体运动姿态轨迹记录与测评装置
Shi et al. Towards HMM based human motion recognition using MEMS inertial sensors
CN112766041B (zh) 一种基于惯性传感信号的老年痴呆患者洗手动作识别方法
CN109758154A (zh) 一种运动状态确定方法、装置、设备及存储介质
Viana et al. GymApp: A real time physical activity trainner on wearable devices
Sharma et al. On the use of multi-modal sensing in sign language classification
EP4453750A1 (en) Electronic device and method for segmentation of movement repetitions and extraction of performance metrics
CN116048262A (zh) 一种鲁棒于电极偏移的肌电手环手势识别方法
Cao et al. Leveraging Wearables for Assisting the Elderly With Dementia in Handwashing
Murao et al. A combined-activity recognition method with accelerometers
Kefer et al. Evaluating the placement of arm-worn devices for recognizing variations of dynamic hand gestures

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant