CN108594994B - 基于磁标记舌机接口的空间轨迹平面投影文本识别方法 - Google Patents

基于磁标记舌机接口的空间轨迹平面投影文本识别方法 Download PDF

Info

Publication number
CN108594994B
CN108594994B CN201810308725.5A CN201810308725A CN108594994B CN 108594994 B CN108594994 B CN 108594994B CN 201810308725 A CN201810308725 A CN 201810308725A CN 108594994 B CN108594994 B CN 108594994B
Authority
CN
China
Prior art keywords
magnetic
permanent magnet
marking
tongue tip
tongue
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN201810308725.5A
Other languages
English (en)
Other versions
CN108594994A (zh
Inventor
申慧敏
岳洋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
University of Shanghai for Science and Technology
Original Assignee
University of Shanghai for Science and Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by University of Shanghai for Science and Technology filed Critical University of Shanghai for Science and Technology
Priority to CN201810308725.5A priority Critical patent/CN108594994B/zh
Publication of CN108594994A publication Critical patent/CN108594994A/zh
Application granted granted Critical
Publication of CN108594994B publication Critical patent/CN108594994B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01RMEASURING ELECTRIC VARIABLES; MEASURING MAGNETIC VARIABLES
    • G01R33/00Arrangements or instruments for measuring magnetic variables
    • G01R33/02Measuring direction or magnitude of magnetic fields or magnetic flux

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Human Computer Interaction (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Abstract

本发明涉及一种基于磁标记舌机接口的空间迹平面投影文本识别方法,以实现肢体功能丧失患者通过电脑进行打字。利用永磁体为标记物构建空间磁场,对舌尖运动进行标记;建立全局xyz直角坐标系,通过口腔外部的具有固定位置的磁场检测传感器测量该标记永磁体衍生的空间磁场分布情况,结合逆向求解算法,获得标记永磁体与磁场检测传感器之间的间距;基于磁场检测传感器的空间分布位置,获得标记永磁体的空间分布位置,从而获得舌尖的运动轨迹;基于曲率判定准则对获得的磁标记舌尖运动轨迹进行特征识别,并输出所识别字母。本方法可为肢体功能丧失患者提供以舌尖为书写工具的高效、准确的人机交互手段。

Description

基于磁标记舌机接口的空间轨迹平面投影文本识别方法
技术领域
本发明涉及一种智能人机交互技术,特别涉及一种基于磁标记舌机接口的空间轨迹平面投影文本识别方法。
背景技术
对于重度瘫痪病人来说,由于几乎丧失了肢体的运动功能,这类重度残障病患急需通过新型的交互方式,实现与外界环境的沟通交流,包括日常需求、亲属交流、医患沟通、娱乐等,这对患者身心健康有着重要意义。利用患者保有的舌头运动功能,基于舌机接口的交互技术被描述为一种有效可行的方法。基于永磁体磁标记的舌机接口技术,具有结构简单、非接触、无需激励源、传播不受人体组织影响等优点,在康复辅助工程中得到了广泛的应用。
由于应用舌机接口交互方式要求不能对患者产生任何伤害或潜在的伤害,不可将过多的装置放置于口腔内部。现有基于磁标记的舌机接口技术多采用模糊识别方法,通过对口腔内舌尖活动区域进行稀疏划分,以舌尖运动到指定区域为触发开关,对应输出若干控制指令。现有系统可输出的控制指令有限,并且由于操作方式非自然交流形式,需要对患者进行长期的训练才能达到理想的操作效果,如较高的正确率和速度等。通过对磁标记舌尖运动进行精确追踪,可实现文本输出如手写般自然交流方式,且可获取的控制指令形式得到极大的丰富。然而,由于口腔内活动空间狭小,操作过程不直观,舌尖运动轨迹易混叠,并且空间文本轨迹的识别存在较大困难。因此,如何在磁标记舌机接口技术的基础上,获得快速、高精度文本输出是舌机接口技术领域研究的重点。
发明内容
本发明是针对现在应用舌机接口交互存在的问题,提出了一种基于磁标记舌机接口的空间轨迹平面投影文本识别方法,以实现肢体功能丧失患者通过电脑进行打字。
本发明的技术方案为:一种基于磁标记舌机接口的空间轨迹平面投影文本识别方法,具体包括如下步骤:
1)利用永磁体对待标记舌尖进行磁标记,建立空间磁场:
标记永磁体位于待追踪舌尖部位,排列在一平面上的磁检测传感器阵列正对嘴,与嘴相对位置固定不变,磁检测传感器阵列检测磁信号,并将检测信号送到计算机进行信号处理和识别;
2)利用磁检测传感器阵列测量随着待追踪舌尖部位标记永磁体运动而变化的并由该标记永磁体激发的空间磁场分布,通过逆向求解算法,计算获得标记永磁体的空间位置参数,同步获得标记舌尖的空间运动轨迹;
3)基于曲率判定准则,对获得的舌尖运动轨迹进行特征识别,输出识别的文本。所述步骤2)具体实现方法如下:
2.1)建立该标记永磁体激发的空间磁场分布与标记舌尖空间位置的对应关系;
2.2)建立全局xyz直角坐标系,通过置于口腔外部具有固定位置的磁检测传感器阵列测量该标记永磁体激发的空间磁场在磁检测传感器阵列位置上的磁通密度分布情况,根据所建立的标记永磁体空间位置与其激发空间磁场分布之间的对应关系,结合逆向求解算法,获得标记永磁体与磁场检测传感器的相对位置矢量;
2.3)标记永磁体采用磁偶极子模型建模,用公式(1)描述标记永磁体激发空间磁场分布与标记永磁体空间位置关系:
Figure GDA0002930979540000021
其中,μ0为真空磁导率;B为测量位置上的磁通密度矢量;M为磁偶极矩矢量; r为从磁偶极子位置矢量rp指向测量点的位置矢量rs,r=rp-rs,它的长度为r;通过公式(2)描述的基于最小二乘逆向求解优化算法,获得标记磁源的空间位置分布:
Figure GDA0002930979540000022
其中,I为磁检测传感器阵列中磁检测传感器个数,Bcxi和Bmxi分别是第i个传感器上检测到的和基于公式(1)计算所得磁通密度x轴方向分量;Bcyi和Bmyi分别是第i个传感器上检测到的和基于公式(1)计算所得磁通密度y轴方向分量; Bczi和Bmzi分别是第i个传感器上检测到的和基于公式(1)计算所得磁通密度z 轴方向分量;
2.4)通过迭代优化算法,获得标记磁源的空间位置分布rp,实现被标记舌尖运动轨迹追踪。
所述步骤3)具体实现方法如下:
3.1)以舌尖自然静止置于下排牙齿正中为触发信号,判定舌尖文本书写识别开始;
3.2)以与中间牙齿平面的切面向舌体上表面倾斜并呈30度夹角的XOY平面为投影面,其中将以舌尖文本书写识别开始的判定位置为原点,构建该二维投影平面直角坐标系XY,逆向求解优化算法计算所得舌尖实时空间运动轨迹变换为二维平面轨迹;
3.3)分别计算舌尖运动轨迹的投影轨迹关于X轴和Y轴的曲率梯度值,分别取最大的前N个曲率梯度,N为可能存在的文本笔画拐点个数,分别计算这N 个曲率梯度的变化率,并分别取最大的曲率梯度变化率对应的曲率梯度为相应的阈值,然后分别根据阈值判定准则,识别舌尖运动轨迹的投影轨迹关于X轴和Y轴的曲率梯度峰谷的个数以及位置,确定轨迹拐点出现的个数和位置,以此为依据进行轨迹笔画划分;
3.4)分段拟合识别的笔画,通过与预设文本笔画对比识别,包括笔画顺序和笔画走向;识别的文本输出,显示。
本发明的有益效果在于:本发明基于磁标记舌机接口的空间轨迹平面投影文本识别方法,利用永磁体为标记物构建空间磁场,对舌尖运动进行标记;建立全局xyz直角坐标系,通过口腔外部的具有固定位置的磁场检测传感器测量该标记永磁体衍生的空间磁场分布情况,结合逆向求解算法,获得标记永磁体与磁场检测传感器之间的间距;基于磁场检测传感器的空间分布位置,获得标记永磁体的空间分布位置,从而获得舌尖的运动轨迹;基于曲率判定准则对获得的磁标记舌尖运动轨迹进行特征识别,并输出所识别字母。本发明通过准确地磁标记舌尖运动轨迹追踪和基于曲率判定准则的空间迹平面投影文本识别,为肢体功能丧失患者提供了一种以舌尖为书写工具的高效、准确的人机交互方法。
附图说明
图1为本发明方法中磁标记舌机交互系统组成示意图;
图2是本发明基于磁标记舌机接口的空间轨迹平面投影文本识别方法流程图;
图3是本发明方法中舌尖空间运动轨轨迹平面投影示意图。
具体实施方式
一种基于磁标记舌机接口的空间轨迹平面投影文本识别方法基于如图1所示磁标记舌机交互系统,该系统包括标记磁源、磁检测传感器阵列、基于计算机的人机交互界面,标记磁源位于待追踪舌尖部位,排列在一平面上的磁检测传感器阵列正对嘴,与嘴相对位置固定不变,检测磁信号,并将检测信号送到计算机进行信号处理和识别。标记舌尖及其附近没有除标记磁源以外的磁场发生源或者铁磁性材料。
实现舌尖空间轨迹平面投影文本识别方法主要包括以下步骤:
步骤一,利用永磁体对待标记舌尖进行磁标记,建立空间磁场;
步骤二,利用磁检测传感器阵列测量随着待追踪舌尖部位标记永磁体运动而变化的并由该标记永磁体激发的空间磁场分布,通过逆向求解算法,计算获得标记永磁体的空间位置参数,同步获得标记舌尖的空间运动轨迹;
步骤三,基于曲率判定准则,对获得的舌尖运动轨迹进行特征识别,人机交互界面输出识别的文本。
如图2所示基于磁标记舌机接口的空间轨迹平面投影文本识别方法流程图,其中通过基于永磁体标记的逆向求解算法计算获得标记舌尖的空间运动轨迹方法包括:
利用永磁体为标记物构建空间磁场,将标记永磁体固定于待追踪舌尖部位,对舌尖运动进行标记,建立该标记永磁体激发的空间磁场分布与标记舌尖空间位置的对应关系;
建立全局xyz直角坐标系,如图1所示,以磁检测传感器阵列所在平面为 xoy平面,坐标系原点o位于磁检测传感器阵列中心位置,z轴方向为垂直于磁检测传感器阵列所在平面并指向口腔内,x轴方向为沿磁检测传感器阵列所在平面竖直向上,y轴方向根据右手定则判定。通过置于口腔外部具有固定位置的磁检测传感器阵列测量该标记永磁体激发的空间磁场在磁检测传感器阵列位置上的磁通密度分布情况,根据所建立的标记永磁体空间位置与其激发空间磁场分布之间的对应关系,结合逆向求解算法,获得标记永磁体与磁场检测传感器的相对位置矢量;
标记永磁体采用磁偶极子模型建模,可以用公式(1)描述标记永磁体激发空间磁场分布与标记永磁体空间位置关系:
Figure GDA0002930979540000051
其中,μ0为真空磁导率;B为测量位置上的磁通密度矢量;M为磁偶极矩矢量; r为从磁偶极子位置矢量rp指向测量点的位置矢量rs,r=rp-rs,它的长度为r;
通过公式(2)描述的基于最小二乘逆向求解优化算法,获得标记磁源的空间位置分布:
Figure GDA0002930979540000052
其中,I为磁检测传感器阵列中磁检测传感器个数,Bcxi和Bmxi分别是第i个传感器上检测到的和基于公式(1)计算所得磁通密度x轴方向分量;Bcyi和Bmyi分别是第i个传感器上检测到的和基于公式(1)计算所得磁通密度y轴方向分量; Bczi和Bmzi分别是第i个传感器上检测到的和基于公式(1)计算所得磁通密度z 轴方向分量。
然后,通过迭代优化算法,获得标记磁源的空间位置分布rp,实现被标记舌尖运动轨迹追踪。
如图2所示,基于曲率判定准则的舌尖运动轨轨迹文本特征识别算法包括:
以舌尖自然静止置于下排牙齿正中为触发信号,判定舌尖文本书写识别开始;
如图3所示舌尖空间运动轨轨迹平面投影示意图,以舌尖自然静止置于下排牙齿正中为触发信号,判定舌尖文本书写识别开始;以与中间牙齿平面的切面向舌体上表面倾斜并呈30度夹角的XOY平面为投影面,其中将以舌尖文本书写识别开始的判定位置为原点,构建该二维投影平面直角坐标系XY,逆向求解优化算法计算所得舌尖实时空间运动轨迹变换为二维平面轨迹;
分别计算舌尖运动轨迹的投影轨迹关于X轴和Y轴的曲率梯度值,分别取最大的前N个曲率梯度(N为可能存在的文本笔画拐点个数,通常取N≤15),分别计算这N个曲率梯度的变化率,并分别取最大的曲率梯度变化率对应的曲率梯度为相应的阈值,然后分别根据阈值判定准则,识别舌尖运动轨迹的投影轨迹关于X轴和Y轴的曲率梯度峰谷的个数以及位置,确定轨迹拐点出现的个数和位置,以此为依据进行轨迹笔画划分;
分段拟合识别的笔画,通过与预设文本笔画对比识别,包括笔画顺序和笔画走向;识别的文本输出,显示。

Claims (1)

1.一种基于磁标记舌机接口的空间轨迹平面投影文本识别方法,其特征在于,具体包括如下步骤:
1)利用永磁体对待标记舌尖进行磁标记,建立空间磁场:
标记永磁体位于待追踪舌尖部位,排列在一平面上的磁检测传感器阵列正对嘴,与嘴相对位置固定不变,磁检测传感器阵列检测磁信号,并将检测信号送到计算机进行信号处理和识别;
2)利用磁检测传感器阵列测量随着待追踪舌尖部位标记永磁体运动而变化的并由该标记永磁体激发的空间磁场分布,通过逆向求解算法,计算获得标记永磁体的空间位置参数,同步获得标记舌尖的空间运动轨迹;
3)基于曲率判定准则,对获得的舌尖运动轨迹进行特征识别,输出识别的文本;所述步骤2)具体实现方法如下:
2.1)建立该标记永磁体激发的空间磁场分布与标记舌尖空间位置的对应关系;
2.2)建立全局xyz直角坐标系,通过置于口腔外部具有固定位置的磁检测传感器阵列测量该标记永磁体激发的空间磁场在磁检测传感器阵列位置上的磁通密度分布情况,根据所建立的标记永磁体空间位置与其激发空间磁场分布之间的对应关系,结合逆向求解算法,获得标记永磁体与磁场检测传感器的相对位置矢量;
2.3)标记永磁体采用磁偶极子模型建模,用公式(1)描述标记永磁体激发空间磁场分布与标记永磁体空间位置关系:
Figure FDA0002930979530000011
其中,μ0为真空磁导率;B为测量位置上的磁通密度矢量;M为磁偶极矩矢量;r为从磁偶极子位置矢量rp指向测量点的位置矢量rs,r=rp-rs,它的长度为r;通过公式(2)描述的基于最小二乘逆向求解优化算法,获得标记磁源的空间位置分布:
Figure FDA0002930979530000012
其中,I为磁检测传感器阵列中磁检测传感器个数,Bcxi和Bmxi分别是第i个传感器上检测到的和基于公式(1)计算所得磁通密度x轴方向分量;Bcyi和Bmyi分别是第i个传感器上检测到的和基于公式(1)计算所得磁通密度y轴方向分量;Bczi和Bmzi分别是第i个传感器上检测到的和基于公式(1)计算所得磁通密度z轴方向分量;
2.4)通过迭代优化算法,获得标记磁源的空间位置分布rp,实现被标记舌尖运动轨迹追踪;
所述步骤3)具体实现方法如下:
3.1)以舌尖自然静止置于下排牙齿正中为触发信号,判定舌尖文本书写识别开始;
3.2)以与中间牙齿平面的切面向舌体上表面倾斜并呈30度夹角的XOY平面为投影面,其中将以舌尖文本书写识别开始的判定位置为原点,构建二维投影平面直角坐标系XY,逆向求解优化算法计算所得舌尖实时空间运动轨迹变换为二维平面轨迹;
3.3)分别计算舌尖运动轨迹的投影轨迹关于X轴和Y轴的曲率梯度值,分别取最大的前N个曲率梯度,N为可能存在的文本笔画拐点个数,分别计算这N个曲率梯度的变化率,并分别取最大的曲率梯度变化率对应的曲率梯度为相应的阈值,然后分别根据阈值判定准则,识别舌尖运动轨迹的投影轨迹关于X轴和Y轴的曲率梯度峰谷的个数以及位置,确定轨迹拐点出现的个数和位置,以此为依据进行轨迹笔画划分;
3.4)分段拟合识别的笔画,通过与预设文本笔画对比识别,包括笔画顺序和笔画走向;识别的文本输出,显示。
CN201810308725.5A 2018-04-08 2018-04-08 基于磁标记舌机接口的空间轨迹平面投影文本识别方法 Expired - Fee Related CN108594994B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810308725.5A CN108594994B (zh) 2018-04-08 2018-04-08 基于磁标记舌机接口的空间轨迹平面投影文本识别方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810308725.5A CN108594994B (zh) 2018-04-08 2018-04-08 基于磁标记舌机接口的空间轨迹平面投影文本识别方法

Publications (2)

Publication Number Publication Date
CN108594994A CN108594994A (zh) 2018-09-28
CN108594994B true CN108594994B (zh) 2021-04-30

Family

ID=63621398

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810308725.5A Expired - Fee Related CN108594994B (zh) 2018-04-08 2018-04-08 基于磁标记舌机接口的空间轨迹平面投影文本识别方法

Country Status (1)

Country Link
CN (1) CN108594994B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109717871A (zh) * 2018-12-25 2019-05-07 上海理工大学 基于正交分布磁源的磁标记定位方法
CN112043550B (zh) * 2020-09-29 2023-08-18 深圳睿瀚医疗科技有限公司 一种基于磁标记的舌控手部康复机器人系统及其操作方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101053517A (zh) * 2007-05-18 2007-10-17 深圳先进技术研究院 一种跟踪体内微型装置的方法及系统
CN101320291A (zh) * 2008-07-11 2008-12-10 华南理工大学 一种基于可见光检测的虚拟文字识别方法
CN102395941A (zh) * 2011-09-02 2012-03-28 华为终端有限公司 体感输入方法、体感设备、无线手持设备和体感系统
CN205247312U (zh) * 2015-11-26 2016-05-18 北京京东尚科信息技术有限公司 头戴装置、舌套以及面部遥控装置
CN106648076A (zh) * 2016-12-01 2017-05-10 杭州联络互动信息科技股份有限公司 一种智能手表的文字输入方法以及装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101053517A (zh) * 2007-05-18 2007-10-17 深圳先进技术研究院 一种跟踪体内微型装置的方法及系统
CN101320291A (zh) * 2008-07-11 2008-12-10 华南理工大学 一种基于可见光检测的虚拟文字识别方法
CN102395941A (zh) * 2011-09-02 2012-03-28 华为终端有限公司 体感输入方法、体感设备、无线手持设备和体感系统
CN205247312U (zh) * 2015-11-26 2016-05-18 北京京东尚科信息技术有限公司 头戴装置、舌套以及面部遥控装置
CN106648076A (zh) * 2016-12-01 2017-05-10 杭州联络互动信息科技股份有限公司 一种智能手表的文字输入方法以及装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
基于头部电磁信息反演的人机交互系统控制指令提取方法研究;申慧敏;《中国博士学位论文全文数据库信息科技辑》;20160615(第06期);论文4-8页 *

Also Published As

Publication number Publication date
CN108594994A (zh) 2018-09-28

Similar Documents

Publication Publication Date Title
JP3630712B2 (ja) ジェスチャー入力方法及びその装置
CN103529944B (zh) 一种基于Kinect的人体动作识别方法
CN104899600B (zh) 一种基于深度图的手部特征点检测方法
CN108594994B (zh) 基于磁标记舌机接口的空间轨迹平面投影文本识别方法
CN108324373A (zh) 一种基于电磁定位系统的穿刺手术机器人精确定位实现方法
CN106003033A (zh) 一种具有力控制的六自由度机械臂标准汉字书写方法
CN104134060A (zh) 基于肌电信号和运动传感器的手语翻译和显示发声系统
CN110045823A (zh) 一种基于动作捕捉的动作指导方法和装置
Li et al. Development of global vision system for biological automatic micro-manipulation system
CN105261039B (zh) 一种基于深度图像的自适应调整目标跟踪算法
Xiong et al. A novel HCI based on EMG and IMU
WO2016145581A1 (zh) 根据手绘图生成精确图样的方法
CN107092882A (zh) 一种基于子动作感知的行为识别系统及其工作方法
CN103034344A (zh) 一种可佩戴无线运动传感器与视频融合系统
Yi et al. Magnetic motion tracking for natural human computer interaction: A review
US9442577B2 (en) System for inputting graphical elements
CN106225803A (zh) 一种基于三轴加速器的计步方法
Zhang et al. A small-scale, rat-inspired whisker sensor for the perception of a biomimetic robot: Design, fabrication, modeling, and experimental characterization
CN113758506B (zh) 一种基于Leap Motion的拇指弹琴触键动作测量平台及方法
CN102749994B (zh) 交互系统中手势的运动方向及速率强度的提示方法
CN203941498U (zh) 一种用于绘制三维模型的传感手套
CN105628959B (zh) 一种利用探针测量气液反应器内气泡尺寸的方法
Bhardawaj et al. Smart gloves: A novel 3-D work space generation for compound two hand gestures
Yin et al. Human motion state recognition based on smart phone built-in sensor
CN110842926A (zh) 机器人精准定位系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20210430

CF01 Termination of patent right due to non-payment of annual fee