CN109646198B - 一种基于视觉跟踪的电动轮椅控制方法 - Google Patents
一种基于视觉跟踪的电动轮椅控制方法 Download PDFInfo
- Publication number
- CN109646198B CN109646198B CN201910123749.8A CN201910123749A CN109646198B CN 109646198 B CN109646198 B CN 109646198B CN 201910123749 A CN201910123749 A CN 201910123749A CN 109646198 B CN109646198 B CN 109646198B
- Authority
- CN
- China
- Prior art keywords
- point
- path
- processor
- eye
- electric wheelchair
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61G—TRANSPORT, PERSONAL CONVEYANCES, OR ACCOMMODATION SPECIALLY ADAPTED FOR PATIENTS OR DISABLED PERSONS; OPERATING TABLES OR CHAIRS; CHAIRS FOR DENTISTRY; FUNERAL DEVICES
- A61G5/00—Chairs or personal conveyances specially adapted for patients or disabled persons, e.g. wheelchairs
- A61G5/04—Chairs or personal conveyances specially adapted for patients or disabled persons, e.g. wheelchairs motor-driven
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61G—TRANSPORT, PERSONAL CONVEYANCES, OR ACCOMMODATION SPECIALLY ADAPTED FOR PATIENTS OR DISABLED PERSONS; OPERATING TABLES OR CHAIRS; CHAIRS FOR DENTISTRY; FUNERAL DEVICES
- A61G5/00—Chairs or personal conveyances specially adapted for patients or disabled persons, e.g. wheelchairs
- A61G5/10—Parts, details or accessories
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61G—TRANSPORT, PERSONAL CONVEYANCES, OR ACCOMMODATION SPECIALLY ADAPTED FOR PATIENTS OR DISABLED PERSONS; OPERATING TABLES OR CHAIRS; CHAIRS FOR DENTISTRY; FUNERAL DEVICES
- A61G5/00—Chairs or personal conveyances specially adapted for patients or disabled persons, e.g. wheelchairs
- A61G5/10—Parts, details or accessories
- A61G5/1051—Arrangements for steering
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61G—TRANSPORT, PERSONAL CONVEYANCES, OR ACCOMMODATION SPECIALLY ADAPTED FOR PATIENTS OR DISABLED PERSONS; OPERATING TABLES OR CHAIRS; CHAIRS FOR DENTISTRY; FUNERAL DEVICES
- A61G2203/00—General characteristics of devices
- A61G2203/10—General characteristics of devices characterised by specific control means, e.g. for adjustment or steering
- A61G2203/18—General characteristics of devices characterised by specific control means, e.g. for adjustment or steering by patient's head, eyes, facial muscles or voice
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Animal Behavior & Ethology (AREA)
- General Health & Medical Sciences (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Image Processing (AREA)
Abstract
本发明公开了一种基于视觉跟踪的电动轮椅控制方法,其采用的控制系统包括处理器以及与处理器相接的眼动仪,处理器的输出端接有电机驱动器,电动轮椅的电机与电机驱动器的输出端连接。其方法包括步骤:一、眼动图像采集及传输;二、眼动图像处理;三、路径规划;四、电动轮椅运动。本发明的设计新颖合理,功能完善,运算速度快,识别精度高,关联设备少,不受时间、空间、外在环境等限制,能够减轻电动轮椅操作人员的操作负担,还能够避免出错,实用性强,使用效果好,便于推广使用。
Description
技术领域
本发明属于智能电动轮椅控制技术领域,具体涉及一种基于视觉跟踪的电动轮椅控制方法。
背景技术
轮椅是康复的重要工具,它不仅是肢体残疾者的代步工具,更重要的是使他们借助于轮椅进行身体锻炼和参与社会活动,老年人及残疾人使用轮椅已经非常普遍,然而在我们日常生活中可以看到轮椅重心固定且导向轮在很大程度上也起着承重轮的作用,使用时较为费力,普通轮椅一般由轮椅架、车轮、刹车装置及座位四部分组成。现代科技的进步也使得轮椅得到了很大的发展,出现了电动轮椅、GPS电动轮椅、特制轮椅、运动轮椅等多功能轮椅,电动轮椅的出现给人们提供了自动代步、按摩、高度调节和爬坡功能,满足了更多人的需求。然而,虽然现有的轮椅一般可以实现轮椅最基本的功能,但是目前的轮椅均为手动控制,轮椅作为残疾人最重要的自主移动平台。对于渐冻人患者、中风患者、瘫痪患者来说,普通轮椅需要用户转动大车轮或按键控制行进方向,普通轮椅无法操作,不便于患有手部残疾的人进行操控。此外,患者在出行时,被其他事物所吸引注意力后,当遇到突发情况时如果反应不够迅速,不能及时操纵轮椅的移动,就会有巨大的安全隐患存在。
眼动控制技术用于人机交互可以将人的双手解放出来做一些其他重要的工作,另外,该技术也可以帮助残疾人使用计算机,使残疾人可以尽量正常的生活和娱乐。可靠的视线估计方法通过人眼睛的运动控制计算机,使人们轻松的实现了自己的目的意图,可以广泛应用于医学、交通、军事及娱乐等各个方面,提供全新的信息输入手段,全面提升社会科技水平,加速了以人作为中心的智能化技术的发展与实现。视线跟踪也称眼动追踪,主要是通过眼动追踪器实时地测量人眼的运动情况,并根据这些眼动情况提取出人眼的视线,并进行进一步的研究。一般来说,眼动追踪主要是测量出空间中人眼视线的实际落点。然后根据落点再做一些其他应用性的研究。计算机技术、人机交互技术以及集成芯片技术的飞速发展,使得视线跟踪系统不仅给用户有着操作简便舒适的感觉,有着干扰较小且精度较高的特点,而且它在诸多领域都有着广泛的应用。
在现有的眼动控制(视觉跟踪控制)轮椅的移动中,从检索出的文献中发现,在目前眼动控制轮椅中有两篇具有代表性的论文。第一篇,杭州电子科技大学2014级周婷婷的硕士毕业论文《基于有意眼动控制电动轮椅的研究》,该论文中将眼动控制这块用收集眼部电信号的方法来识别眼睛的运动方向,不够快捷方便;第二篇,国防科学技术大学2015级袁春兴的硕士毕业论文《基于眼动的人机自然交互》,该论文中可以短距离内将眼动控制轮椅,但是一旦当患者注视的位置较远时,就不能让轮椅自动的去进行路径规划和自主移动。现有技术中还缺乏完善、实用性强、使用效果好的基于视觉跟踪的电动轮椅控制系统及方法。
发明内容
本发明所要解决的技术问题在于针对上述现有技术中的不足,提供一种结构简单、设计新颖合理、实现方便、眼动图像采集速度快、精度高、实用性强、使用效果好、便于推广使用的基于视觉跟踪的电动轮椅控制系统。
为解决上述技术问题,本发明采用的技术方案是:一种基于视觉跟踪的电动轮椅控制系统,包括处理器以及与处理器相接的眼动仪,所述处理器的输出端接有电机驱动器,所述电动轮椅的电机与电机驱动器的输出端连接。
上述的一种基于视觉跟踪的电动轮椅控制系统,所述处理器为DSP数字信号处理器。
本发明还公开了一种方法步骤完善、设计新颖合理、运算速度快、识别精度高、关联设备少、不受时间、空间、外在环境等限制、能够减轻电动轮椅操作人员的操作负担、还能够避免出错、实用性强、使用效果好、便于推广使用的基于视觉跟踪的电动轮椅控制方法,该方法包括以下步骤:
步骤一、眼动图像采集及传输:眼动仪对坐在电动轮椅上的人的眼动图像进行采集并将采集到的眼动图像实时传输给处理器;
步骤二、眼动图像处理:处理器调用眼动图像处理模块对眼动图像进行处理,得到人眼睛注视点的特征值;
步骤三、路径规划:处理器调用路径规划模块规划出电动轮椅从当前位置到达眼睛注视点位置的路径;
步骤四、电动轮椅运动:处理器根据规划的路径控制电动轮椅从当前位置到达眼睛注视点位置。
上述的方法,步骤二中所述处理器调用眼动图像处理模块对眼动图像进行处理,得到人眼睛注视点的特征值的具体过程为:
步骤201、所述处理器调用图像灰度化处理模块,对眼动图像进行灰度化处理;
步骤202、所述处理器调用图像高斯滤波处理模块,对眼动图像进行高斯滤波处理;
步骤203、所述处理器调用图像二值化处理模块,并采用Otsu自适应阈值分割方法对眼动图像进行二值化处理;
步骤204、所述处理器调用瞳孔中心定位处理模块,对眼动图像进行瞳孔中心定位处理;
步骤205、所述处理器调用角膜反射光斑中心提取处理模块,并采用加权质心定位算法对眼动图像进行角膜反射光斑中心提取处理;
步骤206、所述处理器调用注视点标定处理模块,将步骤204处理得到的瞳孔中心和步骤205处理得到的角膜反射光斑中心的相对偏移量代入预先构建的瞳孔光斑相对偏移量与注视点的映射函数关系式中,标定出人眼的注视点。
上述的方法,步骤201中所述处理器调用图像灰度化处理模块,对眼动图像进行灰度化处理时,采用加权平均法进行,具体方法为:所述处理器根据公式f(x′,y′)=0.212671R(x′,y′)+0.715160G(x′,y′)+0.072169B(x′,y′)对眼动图像上位置(x′,y′)处的RGB三个分量进行加权平均,得到加权平均后的系数值f(x′,y′)并保存,其中,R(x′,y′)为眼动图像上位置(x′,y′)处的R分量,G(x′,y′)为眼动图像上位置(x′,y′)处的G分量,B(x′,y′)为眼动图像上位置(x′,y′)处的B分量。
上述的方法,步骤204中所述处理器调用瞳孔中心定位处理模块,对眼动图像进行瞳孔中心定位处理时,采用代数距离最小的最小二乘法进行椭圆拟合,并采用莱特准则对椭圆拟合的结果进行优化,剔除粗大误差点,直至拟合得到最优的椭圆,并将椭圆的中心确定为瞳孔中心;具体过程为:
步骤2041、所述处理器在二值化处理后的眼动图像中,提取出瞳孔轮廓曲线;
步骤2042、所述处理器从瞳孔轮廓曲线上任意取6个特征点,带入公式Bxy+C(y2-x2)+Dx+Ey+F=-x2进行椭圆拟合,并添加约束条件A+C=1,解方程组得到参数A以及方程系数B、C、D、E、F的值;
步骤2044、所述处理器将瞳孔轮廓曲线上的特征点p′(xτp′,yτp′)与椭圆的中心点连接,得到与点p′(xτp′,yτp′)对应的拟合椭圆上的点p(xτp,yτp);其中,τ的取值为1~N的自然数,N为取的瞳孔轮廓曲线上的特征点的总个数且N的取值为大于1的正整数;
步骤2046、所述处理器将τ的值从1取到N,对l(τ)进行基于莱特准则的数据分析,将l(τ)不满足条件时瞳孔轮廓曲线上的点定义为粗大误差点,并将瞳孔轮廓曲线上的粗大误差点剔除,再返回执行步骤2042~步骤2046,直至l(τ)全部满足条件,得到最优的椭圆,并将椭圆的中心确定为瞳孔中心;其中,判断l(τ)是否满足条件的过程为:
步骤20464、所述处理器将τ的值从1取到N,并将lb(τ)的值与-3σ和3σ比较,当lb≤-3σ或lb≥3σ时,将l(τ)对应的瞳孔轮廓曲线上的点定义为粗大误差点。
上述的方法,步骤206中构建瞳孔光斑相对偏移量与注视点的映射函数关系式时,采用9参数拟合函数,用户注视呈田字格显示的9个参考点,所述电动轮椅控制系统测量瞳孔与光斑的相对位置偏移量,然后通过最小二乘曲线拟合确定出瞳孔光斑相对偏移量与注视点的映射函数关系式。
上述的方法,步骤三中所述处理器调用路径规划模块规划出电动轮椅从当前位置到达眼睛注视点位置的路径时,采用遗传算法进行路径规划,并采用改进的细菌觅食优化算法产生遗传算法的初始群体;具体过程为:
步骤302、染色体编码:将电动轮椅到达眼睛注视点的整个路径表示为其中为第i′段路径段的矢量表示,它的两个端点分别表示为Pi′和Pi′+1,符号“+”表示矢量的运算;用O表示原点,将表示为整个机器人的运动路径表示为路点矢量集合n为路点总数,中i′的取值为1~n-1,为原点O到端点Pi′的路径段的矢量表示,为原点O到端点Pi′+1的路径段的矢量表示;设Pi′的坐标点表示为(xpi′,ypi′),将路径以坐标点形式储存,完成对染色体的编码,所有的路径T是可能的一个满足条件路径;
步骤303、群体初始化:采用改进的细菌觅食优化算法产生从当前位置到眼睛注视点的可行路径集合,作为遗传算法的初始群体;
步骤304、构造适应度函数:构造适应度函数为f(p)=wd·dist(p)+ws·smooth(p)+wc·clear(p),其中,dist(p)为路径长度且用公式表示为d(Li′,Li′+1)表示Li′与Li′+1之间的距离,Li′为第i′段路径段的标量表示,Li′+1为第i′+1段路径段的标量表示,wd为路径长度的加权系数;smooth(p)为平滑度且用公式表示为ψ为电动轮椅的理想偏转角度且S′为场景面积,OS′为所有障碍物所占的面积,κ为电动轮椅的偏转角度,ws为平滑度的加权系数;clear(p)为间隔度且用公式表示为γi′为第i′段路径段离障碍物的最短距离,wc为间隔度的加权系数;
步骤305、遗传操作,具体过程包括:
步骤3051、选择遗传操作的参数;所述遗传操作的参数包括种群规模、交叉概率和变异概率;
步骤3052、交叉算子:对两个对象进行随机分割,然后重组得到两个新的个体;采用的线段的相交函数为当第i′段路径段与所有的障碍物不相交时的取值为0,当第i′段路径段与障碍物相交时的取值为1,并定义该段路径段与障碍物相交状态变化函数为当第i′+1段路径段与障碍物相交且第i′段路径段与所有的障碍物不相交时g′i′的取值为1,当第i′段路径段与障碍物相交且第i′+1段路径段与所有的障碍物不相交时g′i′的取值为-1,当第i′+1段路径段与障碍物相交且第i′段路径段与障碍物相交时,或者第i′+1段路径段与所有的障碍物不相交且第i′段路径段与所有的障碍物不相交时g′i′的取值为0;选择分割点的原则是:选择g′i′为1时对应的变化点作为1号父个体的第一分割点,选择紧随该点之后使得g′i′为-1的点作为第2分割点;对于2号父个体,选择过程恰好相反,选择g′i′为-1时对应的变化点作为2号父个体的第一分割点,选择紧随该点之后使得g′i′为1的变化点作为第2分割点;染色体的长度crossnm的选取公式为其中,clen为交叉点数,Nmax为交叉点数的最大取值;
步骤3053、变异算子:采用启发式变异,以增加一个点、减少一个点和移动一个点3种方式,先对穿越障碍物的中途点以一定概率进行变异,当路径个体中不存在穿越障碍物的点后随机变异路径个体的中途点,使变异所得的路点新坐标满足和进行路径的优化;其中,为原点O到新端点的路径段的矢量表示,增加一个点的方法为:对于路径统计穿越障碍物的线段并记录到存储器R中,当R不为空时,随机从R中取一段并在这一段之间增加一点,否则,随机选取路径中一个点;减少一个点的方法为:对于路径当其中间点与之间连接没有穿越障碍物时,将点记录到R中,当R不为空时,从R中随机选取一点删除,否则,随机选取路径中一点删除;移动一个点的方法为:对于路径将其中穿越障碍物的线段端点记录到R中,当R不空时,在R中随机选取一个点进行移动,否则,随机选取路径个体中一点进行移动;
步骤3055、删除算子:该算子在所操作路径上记录所有位于障碍物内部空间的路点,随机选择其中之一并予以删除;对于不和障碍物相交的路径,该算子则在其全体路点中随机选择删除点;
步骤3056、计算种群中各染色体的适应度值和种群的平均适应度值,当种群中一半以上的染色体达到相同的适应度值,且种群的平均适应度值不变时,将这一代种群作为终止种群;否则,循环执行步骤3052~步骤3056。
上述的方法,步骤303中所述采用改进的细菌觅食优化算法产生从当前位置到眼睛注视点的可行路径集合,作为遗传算法的初始群体的具体过程为:
步骤3031、初始化细菌觅食优化算法参数:所述细菌觅食优化算法参数包括细菌菌群中与电动轮椅从当前位置到眼睛注视点的可行路径相对应的细菌总数S、电动轮椅移动时的搜索的工作维度p、电动轮椅移动时的趋化次数Nc、趋化过程中电动轮椅单向运动的最大步数NS、电动轮椅移动时的复制次数Nre,、电动轮椅移动时的学习次数Ned、电动轮椅移动时的最大趋化步长Cmax和电动轮椅移动时的最小趋化步长Cmin;
步骤3032、初始化菌群位置:采用随机初始化的方法并按照公式X=Xmin+rand×(Xmax-Xmin)在p维空间初始化2S个点作为细菌的初始化位置,其中随机选取S个细菌作为菌群X1,剩下的S个细菌作为菌群X2;Xmin为优化区间的最小值,Xmax为优化区间的最大值,X为细菌的初始化位置,rand为均匀分布在[0,1]区间的随机数;
步骤3033、适应度值更新:按照公式计算各个细菌的适应度值;其中,dattract为细菌与细菌之间引力的深度,wattract为细菌与细菌之间引力的宽度,hrepellent细菌与细菌之间斥力的高度,wrepellent为细菌与细菌之间斥力的宽度,P(i,j,k,l)为细菌i在第j次趋向性操作、第k次复制操作和第l次迁徙操作后的位置,P(1:S,j,k,l)为当前个体P(i,j,k,l)的邻域内的一个随机位置,JCC(i,j,k,l)为细菌i在第j次趋向性操作、第k次复制操作和第l次迁徙操作后的适应度值;
步骤3034、设置循环变量的参数:其中趋化循环次数j为1~Nc,复制循环次数k为1~Nre,学习循环次数l为1~Ned;
步骤3035、进入趋化循环,进行趋化操作,具体方法为:
对菌群X2,按照以下步骤Q21~步骤Q212的趋化操作对每个细菌进行趋化:
步骤Q21、将细菌i重新赋值为i+1,判断细菌i的规模是否小于细菌规模S,当小于时执行步骤Q22,当不小于时跳转执行步骤Q212;
步骤Q22、计算细菌i的适应度值;
步骤Q23、细菌i在随机产生的方向上翻转一个单位步长;
步骤Q24、令j初始化为1;
步骤Q25、计算新位置上细菌i的适应度值;
步骤Q26、判断j是否小于最大步数Nc,当小于时执行步骤Q27,当不小于时跳转执行步骤Q21;
步骤Q27、将j的重新赋值为j+1;
步骤Q28、判断新位置上细菌i的适应度值是否改变,当改变时执行步骤Q29,当没有改变时令j=NS,并跳转执行步骤Q26;
步骤Q29、更新细菌i的适应度值;
步骤Q210、细菌种群在翻转的方向上继续游动;
步骤Q211、跳转执行步骤Q25,继续循环,直至步骤Q21中i的取值等于S为止;
步骤Q212、趋化操作结束;
对菌群X1,按照以下步骤Q11~步骤Q112的趋化操作对每个细菌进行趋化:
步骤Q11、将细菌i重新赋值为i+1,判断细菌i的规模是否小于细菌菌落规模S,当小于时执行步骤Q12,当不小于时跳转执行步骤Q112;
步骤Q12、计算细菌i的适应度值;
步骤Q13、根据公式计算细菌菌群密度函数因子D(i),并根据公式C(i)=A·D(i)+B计算趋化步长C(i);再令细菌i在随机产生的方向上翻转步长C(i);其中,L为搜索空间对角线中最大长度,X(m,i)为细菌i在搜索空间第m维的位置坐标值,X为当前搜索空间内所有细菌在搜索空间第m维的平均位置坐标值;
步骤Q14、令j初始化为1;
步骤Q15、计算新位置上细菌i的适应度值;
步骤Q16、判断j是否小于最大步数Nc,当小于时执行步骤Q17,当不小于时跳转执行步骤Q11;
步骤Q17、将j的重新赋值为j+1;
步骤Q18、判断新位置上细菌i的适应度值是否改变,当改变时执行步骤Q19,当没有改变时令j=NS,并跳转执行步骤Q16;
步骤Q19、更新细菌i的适应度值;
步骤Q110、细菌种群在翻转的方向上继续游动;
步骤Q111、跳转执行步骤Q15,继续循环,直至步骤Q11中i的取值等于S为止;
步骤Q112、趋化操作结束;
步骤3036、进入复制循环,进行复制操作,具体方法为:
对菌群X1,按照以下步骤F11~步骤F16的复制操作对每个细菌进行复制:
步骤F11、将细菌i重新赋值为i+1,判断细菌i的规模是否小于细菌规模S,当小于时执行步骤F12,当不小于时跳转执行步骤F16;
步骤F12、计算细菌在上次复制操作循环中经过的所有位置的适应度之和,并定义为健康度值;
步骤F13、按照健康度值的优劣将细菌进行排序;
步骤F14、跳转执行步骤F11;
步骤F16、复制操作结束;
对菌群X2,按照以下步骤F21~步骤F24的复制操作对每个细菌进行复制:
步骤F21、计算所有细菌的适应度值并按照从小到大的顺序进行排序,并选出当前最优的细菌作为精英细菌;
步骤F22、对当前最好的一半细菌,按照公式X′2(i)=X2(i)+N(0,1)实施变异操作,生成个新细菌并与原来的细菌构成新的子细菌群X′2;其中,N(0,1)为服从均值为0、均方差为1的高斯分布;
步骤F24、从子细菌群X′2与子细菌群X″2中挑选出适应度值最好的前S个细菌替换原来的细菌群X2;
步骤3037、进入学习循环,进行学习操作,具体方法为:将菌群X1与菌群X2中的细菌进行排序,并将菌群X1的排序在前61.8%的细菌按照轮盘赌法选择出0.382S个细菌与菌群X2中排序在后38.2%的细菌进行交换,交换来的0.382S个细菌组成新的菌群X2;
步骤3038、判断趋化循环、复制循环和学习循环的循环次数是否已达到设置值,当达到时,循环结束,通过适应度值比较两个菌群中发现的最优细菌,选择出最好的作为全局最优解,并将结果输出,否则,继续循环执行步骤3035~步骤3038,直到趋化循环、复制循环和学习循环的循环次数已达到设置值。
上述的方法,步骤3051中所述交叉概率Pc和变异概率Pm的选择采用基于余弦函数的自适应概率公式:
其中,Pc1为最大的交叉概率,Pc2为最小的交叉概率,f′为个体的适应度值,favg为平均适应度值,fmax为最大的适应度值,Pm1为最大的变异概率,Pm2为最小的变异概率。
本发明与现有技术相比具有以下优点:
1、本发明的基于视觉跟踪的电动轮椅控制系统,由处理器、眼动仪和电机驱动器构成,结构简单,设计新颖合理,实现方便。
2、本发明采用技术成熟的眼动仪进行人的眼动图像采集,眼动仪基于光线反射原理和光线捕捉相结合,眼动图像采集频率高,精度高;眼动图像处理采用了灰度化、高斯滤波、二值化、瞳孔中心定位、角膜反射光斑中心提取等处理,路径规划采用了遗传算法和细菌觅食优化算法相结合的方法,运算速度快、识别精度高、关联设备少,而且不受时间、空间、外在环境等限制,在人机交互时所展现的直接性、自然性和双向性均优于市面上已经出现的各种电动轮椅控制系统及方法。
3、本发明路径规划时,采用改进的细菌觅食优化算法产生从当前位置到眼睛注视点的可行路径集合,作为遗传算法的初始群体,避免了种群规模过大或过小的问题,不会使遗传算法的搜索空间受到限制,还便于找到全局最优解,提高了路径规划的速度和精度,使得控制的电动轮椅能够快速响应人需要完成的动作。
4、将本发明的基于视觉跟踪的电动轮椅控制系统及方法应用在电动轮椅上,不仅能够减轻电动轮椅操作人员的操作负担,还能够避免出错,切实地提高了人机工效;本发明的实用性强,使用效果好,便于推广使用。
综上所述,本发明的设计新颖合理,功能完善,运算速度快,识别精度高,关联设备少,不受时间、空间、外在环境等限制,能够减轻电动轮椅操作人员的操作负担,还能够避免出错,实用性强,使用效果好,便于推广使用。
下面通过附图和实施例,对本发明的技术方案做进一步的详细描述。
附图说明
图1为本发明基于视觉跟踪的电动轮椅控制系统的电路原理框图。
图2为本发明基于视觉跟踪的电动轮椅控制方法的流程框图。
具体实施方式
如图1所示,本发明的基于视觉跟踪的电动轮椅控制系统,包括处理器1以及与处理器1相接的眼动仪2,所述处理器1的输出端接有电机驱动器3,所述电动轮椅的电机4与电机驱动器3的输出端连接。
本实施例中,所述处理器1为DSP数字信号处理器。
具体实施时,所述眼动仪2上安装有水平陀螺仪。
如图2所示,本发明的基于视觉跟踪的电动轮椅控制方法,包括以下步骤:
步骤一、眼动图像采集及传输:眼动仪2对坐在电动轮椅上的人的眼动图像进行采集并将采集到的眼动图像实时传输给处理器1;
步骤二、眼动图像处理:处理器1调用眼动图像处理模块对眼动图像进行处理,得到人眼睛注视点的特征值;
步骤三、路径规划:处理器1调用路径规划模块规划出电动轮椅从当前位置到达眼睛注视点位置的路径;
步骤四、电动轮椅运动:处理器1根据规划的路径控制电动轮椅从当前位置到达眼睛注视点位置。
本实施例中,步骤二中所述处理器1调用眼动图像处理模块对眼动图像进行处理,得到人眼睛注视点的特征值的具体过程为:
步骤201、所述处理器1调用图像灰度化处理模块,对眼动图像进行灰度化处理;
本实施例中,步骤201中所述处理器1调用图像灰度化处理模块,对眼动图像进行灰度化处理时,采用加权平均法进行,具体方法为:所述处理器1根据公式f(x′,y′)=0.212671R(x′,y′)+0.715160G(x′,y′)+0.072169B(x′,y′)对眼动图像上位置(x′,y′)处的RGB三个分量进行加权平均,得到加权平均后的系数值f(x′,y′)并保存,其中,R(x′,y′)为眼动图像上位置(x′,y′)处的R分量,G(x′,y′)为眼动图像上位置(x′,y′)处的G分量,B(x′,y′)为眼动图像上位置(x′,y′)处的B分量。
现有技术中经常采用的灰度化图像处理方法有分量法、平均值法、最大值法,但是,容易使彩色图像丢失颜色等级,在图像处理过程中,不能有效获取图像信息;因此,本发明采用加权平均法,能够根据RGB三个分量的不同亮度值通过不同的权值来加权平均后分配得到一个合适的系数值,便于保存图像的信息。
步骤202、所述处理器1调用图像高斯滤波处理模块,对眼动图像进行高斯滤波处理;
由于现有技术中常用的中值滤波会使图像的部分结构丢失并且运算时间长,均值滤波也不能有效地保护图像完整细节,去噪过程中也消除了图像的结构,因此使图像变得不清晰,不能有效地达到去噪的目的,因此本发明采用高斯滤波的方法进行滤波,能够有效地去除服从正态分布的图像噪声,还能保存图像所需的信息,获取到清晰的眼动图像。
步骤203、所述处理器1调用图像二值化处理模块,并采用Otsu自适应阈值分割方法对眼动图像进行二值化处理;
步骤204、所述处理器1调用瞳孔中心定位处理模块,对眼动图像进行瞳孔中心定位处理;
本实施例中,步骤204中所述处理器1调用瞳孔中心定位处理模块,对眼动图像进行瞳孔中心定位处理时,采用代数距离最小的最小二乘法进行椭圆拟合,并采用莱特准则对椭圆拟合的结果进行优化,剔除粗大误差点,直至拟合得到最优的椭圆,并将椭圆的中心确定为瞳孔中心;具体过程为:
步骤2041、所述处理器1在二值化处理后的眼动图像中,提取出瞳孔轮廓曲线;
步骤2042、所述处理器1从瞳孔轮廓曲线上任意取6个特征点,带入公式Bxy+C(y2-x2)+Dx+Ey+F=-x2进行椭圆拟合,并添加约束条件A+C=1,解方程组得到参数A以及方程系数B、C、D、E、F的值;
步骤2044、所述处理器1将瞳孔轮廓曲线上的特征点p′(xτp′,yτp′)与椭圆的中心点连接,得到与点p′(xτp′,yτp′)对应的拟合椭圆上的点p(xτp,yτp);其中,τ的取值为1~N的自然数,N为取的瞳孔轮廓曲线上的特征点的总个数且N的取值为大于1的正整数;
步骤2046、所述处理器1将τ的值从1取到N,对l(τ)进行基于莱特准则的数据分析,将l(τ)不满足条件时瞳孔轮廓曲线上的点定义为粗大误差点,并将瞳孔轮廓曲线上的粗大误差点剔除,再返回执行步骤2042~步骤2046,直至l(τ)全部满足条件,得到最优的椭圆,并将椭圆的中心确定为瞳孔中心;其中,判断l(τ)是否满足条件的过程为:
步骤20464、所述处理器1将τ的值从1取到N,并将lb(τ)的值与-3σ和3σ比较,当lb≤-3σ或lb≥3σ时,将l(τ)对应的瞳孔轮廓曲线上的点定义为粗大误差点。
眼动仪2在采集人的眼动图像时,因为眼睛的快速运动和外界震动,不可避免地会存在误差较大的样本拟合点,如果只用最小二乘法进行拟合,拟合误差较大,不能满足检测要求,因此本发明提出了采用最小二乘法和莱特准则相结合进行椭圆拟合的方法,能够有效降低拟合误差,得到更加准确的拟合椭圆,且计算量少,适用于高速眼动的情况。
步骤205、所述处理器1调用角膜反射光斑中心提取处理模块,并采用加权质心定位算法对眼动图像进行角膜反射光斑中心提取处理;
步骤206、所述处理器1调用注视点标定处理模块,将步骤204处理得到的瞳孔中心和步骤205处理得到的角膜反射光斑中心的相对偏移量代入预先构建的瞳孔光斑相对偏移量与注视点的映射函数关系式中,标定出人眼的注视点。
本实施例中,步骤206中构建瞳孔光斑相对偏移量与注视点的映射函数关系式时,采用9参数拟合函数,用户注视呈田字格显示的9个参考点,所述电动轮椅控制系统测量瞳孔与光斑的相对位置偏移量,然后通过最小二乘曲线拟合确定出瞳孔光斑相对偏移量与注视点的映射函数关系式。
具体实施时,用V(x,y)表示瞳孔与光斑的相对位置偏移量向量,用Sg表示眼动仪2获得的注视点坐标与实际注视点坐标之间的误差的横坐标,用Sk表示眼动仪2获得的注视点坐标与实际注视点坐标之间的误差的纵坐标,拟合函数表示为:
Sg=b1x8+b2x7+b3x6+b4x5+b5x4+b6x3+b7x2+b8x+b9
Sk=c1y8+c2y7+c3y6+c4y5+c5y4+c6y3+c7y2+c8y+c9
其中,b1~b9和c1~c9均为系数,通过最小二乘曲线拟合确定出。
本实施例中,步骤三中所述处理器1调用路径规划模块规划出电动轮椅从当前位置到达眼睛注视点位置的路径时,采用遗传算法进行路径规划,并采用改进的细菌觅食优化算法产生遗传算法的初始群体;具体过程为:
步骤302、染色体编码:将电动轮椅到达眼睛注视点的整个路径表示为其中为第i′段路径段的矢量表示,它的两个端点分别表示为Pi′和Pi′+1,符号“+”表示矢量的运算;用O表示原点,将表示为整个机器人的运动路径表示为路点矢量集合n为路点总数,中i′的取值为1~n-1,为原点O到端点Pi′的路径段的矢量表示,为原点O到端点Pi′+1的路径段的矢量表示;设Pi′的坐标点表示为(xpi′,ypi′),将路径以坐标点形式储存,完成对染色体的编码,所有的路径T是可能的一个满足条件路径;
步骤303、群体初始化:采用改进的细菌觅食优化算法产生从当前位置到眼睛注视点的可行路径集合,作为遗传算法的初始群体;
本实施例中,步骤303中所述采用改进的细菌觅食优化算法产生从当前位置到眼睛注视点的可行路径集合,作为遗传算法的初始群体的具体过程为:
步骤3031、初始化细菌觅食优化算法参数:所述细菌觅食优化算法参数包括细菌菌群中与电动轮椅从当前位置到眼睛注视点的可行路径相对应的细菌总数S、电动轮椅移动时的搜索的工作维度p、电动轮椅移动时的趋化次数Nc、趋化过程中电动轮椅单向运动的最大步数NS、电动轮椅移动时的复制次数Nre,、电动轮椅移动时的学习次数Ned、电动轮椅移动时的最大趋化步长Cmax和电动轮椅移动时的最小趋化步长Cmin;
步骤3032、初始化菌群位置:采用随机初始化的方法并按照公式X=Xmin+rand×(Xmax-Xmin)在p维空间初始化2S个点作为细菌的初始化位置,其中随机选取S个细菌作为菌群X1,剩下的S个细菌作为菌群X2;Xmin为优化区间的最小值,Xmax为优化区间的最大值,X为细菌的初始化位置,rand为均匀分布在[0,1]区间的随机数;
步骤3033、适应度值更新:按照公式
计算各个细菌的适应度值;其中,dattract为细菌与细菌之间引力的深度,wattract为细菌与细菌之间引力的宽度,hrepellent细菌与细菌之间斥力的高度,wrepellent为细菌与细菌之间斥力的宽度,P(i,j,k,l)为细菌i在第j次趋向性操作、第k次复制操作和第l次迁徙操作后的位置,P(1:S,j,k,l)为当前个体P(i,j,k,l)的邻域内的一个随机位置,JCC(i,j,k,l)为细菌i在第j次趋向性操作、第k次复制操作和第l次迁徙操作后的适应度值;
步骤3034、设置循环变量的参数:其中趋化循环次数j为1~Nc,复制循环次数k为1~Nre,学习循环次数l为1~Ned;
步骤3035、进入趋化循环,进行趋化操作,具体方法为:
对菌群X2,按照以下步骤Q21~步骤Q212的趋化操作对每个细菌进行趋化:
步骤Q21、将细菌i重新赋值为i+1,判断细菌i的规模是否小于细菌规模S,当小于时执行步骤Q22,当不小于时跳转执行步骤Q212;
步骤Q22、计算细菌i的适应度值;
步骤Q23、细菌i在随机产生的方向上翻转一个单位步长;
步骤Q24、令j初始化为1;
步骤Q25、计算新位置上细菌i的适应度值;
步骤Q26、判断j是否小于最大步数Nc,当小于时执行步骤Q27,当不小于时跳转执行步骤Q21;
步骤Q27、将j的重新赋值为j+1;
步骤Q28、判断新位置上细菌i的适应度值是否改变,当改变时执行步骤Q29,当没有改变时令j=NS,并跳转执行步骤Q26;
步骤Q29、更新细菌i的适应度值;
步骤Q210、细菌种群在翻转的方向上继续游动;
步骤Q211、跳转执行步骤Q25,继续循环,直至步骤Q21中i的取值等于S为止;
步骤Q212、趋化操作结束;
对菌群X1,按照以下步骤Q11~步骤Q112的趋化操作对每个细菌进行趋化:
步骤Q11、将细菌i重新赋值为i+1,判断细菌i的规模是否小于细菌菌落规模S,当小于时执行步骤Q12,当不小于时跳转执行步骤Q112;
步骤Q12、计算细菌i的适应度值;
步骤Q13、根据公式计算细菌菌群密度函数因子D(i),并根据公式C(i)=A·D(i)+B计算趋化步长C(i);再令细菌i在随机产生的方向上翻转步长C(i);其中,L为搜索空间对角线中最大长度,X(m,i)为细菌i在搜索空间第m维的位置坐标值,为当前搜索空间内所有细菌在搜索空间第m维的平均位置坐标值;
步骤Q14、令j初始化为1;
步骤Q15、计算新位置上细菌i的适应度值;
步骤Q16、判断j是否小于最大步数Nc,当小于时执行步骤Q17,当不小于时跳转执行步骤Q11;
步骤Q17、将j的重新赋值为j+1;
步骤Q18、判断新位置上细菌i的适应度值是否改变,当改变时执行步骤Q19,当没有改变时令j=NS,并跳转执行步骤Q16;
步骤Q19、更新细菌i的适应度值;
步骤Q110、细菌种群在翻转的方向上继续游动;
步骤Q111、跳转执行步骤Q15,继续循环,直至步骤Q11中i的取值等于S为止;
步骤Q112、趋化操作结束;
步骤3036、进入复制循环,进行复制操作,具体方法为:
对菌群X1,按照以下步骤F11~步骤F16的复制操作对每个细菌进行复制:
步骤F11、将细菌i重新赋值为i+1,判断细菌i的规模是否小于细菌规模S,当小于时执行步骤F12,当不小于时跳转执行步骤F16;
步骤F12、计算细菌在上次复制操作循环中经过的所有位置的适应度之和,并定义为健康度值;
步骤F13、按照健康度值的优劣将细菌进行排序;
步骤F14、跳转执行步骤F11;
步骤F16、复制操作结束;
对菌群X2,按照以下步骤F21~步骤F24的复制操作对每个细菌进行复制:
步骤F21、计算所有细菌的适应度值并按照从小到大的顺序进行排序,并选出当前最优的细菌作为精英细菌;
步骤F22、对当前最好的一半细菌,按照公式X′2(i)=X2(i)+N(0,1)实施变异操作,生成个新细菌并与原来的细菌构成新的子细菌群X′2;其中,N(0,1)为服从均值为0、均方差为1的高斯分布;
步骤F24、从子细菌群X′2与子细菌群X″2中挑选出适应度值最好的前S个细菌替换原来的细菌群X2;
步骤3037、进入学习循环,进行学习操作,具体方法为:将菌群X1与菌群X2中的细菌进行排序,并将菌群X1的排序在前61.8%的细菌按照轮盘赌法选择出0.382S个细菌与菌群X2中排序在后38.2%的细菌进行交换,交换来的0.382S个细菌组成新的菌群X2;
步骤3038、判断趋化循环、复制循环和学习循环的循环次数是否已达到设置值,当达到时,循环结束,通过适应度值比较两个菌群中发现的最优细菌,选择出最好的作为全局最优解,并将结果输出,否则,继续循环执行步骤3035~步骤3038,直到趋化循环、复制循环和学习循环的循环次数已达到设置值。
步骤304、构造适应度函数:构造适应度函数为f(p)=wd·dist(p)+ws·smooth(p)+wc·clear(p)(即适应度函数由路径长度dist(p)、平滑度smooth(p)和间隔度clear(p)三个目标函数组成),其中,dist(p)为路径长度且用公式表示为d(Li′,Li′+1)表示Li′与Li′+1之间的距离,Li′为第i′段路径段的标量表示,Li′+1为第i′+1段路径段的标量表示,wd为路径长度的加权系数;smooth(p)为平滑度且用公式表示为ψ为电动轮椅的理想偏转角度且S′为场景面积,OS′为所有障碍物所占的面积,κ为电动轮椅的偏转角度,ws为平滑度的加权系数;clear(p)为间隔度且用公式表示为γi′为第i′段路径段离障碍物的最短距离,wc为间隔度的加权系数;
由于电动轮椅本身具有一定的尺寸且要求一定的安全制动距离,因此在适应度函数的构建中引入了间隔度,即环境中障碍物与电动轮椅的理想间隔距离通过在步骤301中自己定义电动轮椅与环境中障碍物的理想间隔距离能够通过适应度函数f(p)来约束障碍物与电动轮椅之间的距离。通过路径长度dist(p)、平滑度smooth(p)和间隔度clear(p)三个函数构造适应度函数,便于得到最优的路径。
步骤305、遗传操作,具体过程包括:
步骤3051、选择遗传操作的参数;所述遗传操作的参数包括种群规模、交叉概率和变异概率;
具体实施时,种群规模越大,种群中个体的多样性就越高,因而容易找到全局最优解;但大群体增加了个体适应性评价的计算量,会使收敛速度降低,若群体规模太小,则会使遗传算法的搜索空间受到限制,可能产生未成熟收敛的现象,种群规模的取值范围为20~100,优选为30;
本实施例中,步骤3051中所述交叉概率Pc和变异概率Pm的选择采用基于余弦函数的自适应概率公式:
其中,Pc1为最大的交叉概率,Pc2为最小的交叉概率,f′为个体的适应度值,favg为平均适应度值,fmax为最大的适应度值,Pm1为最大的变异概率,Pm2为最小的变异概率。
具体实施时,交叉概率决定了交叉操作被使用的频率,较大的交叉概率可使各代充分交叉,但种群中的优良模式遭到破坏的可能性增大,从而使搜索走向随机化;而交叉概率太低,就会使得更多的个体直接复制到下一代,遗传搜索可能陷入停滞状态;变异操作是保持群体多样性的手段,交叉结束后,交配池中的全部个体位串上的每位等位基因按变异概率随机改变;变异概率的选取受种群大小、染色体长度等因素影响,若选取较高的变异概率,可增加样本模式的多样性,但可能引起不稳定。采用本发明的方法选择交叉概率Pc和变异概率Pm,交叉概率和变异概率能够随适应度值自动改变,当种群各个体适应度趋于局部最优时,使交叉概率和变异概率二者增加,而当群体适应度比较分散时,使交叉概率和变异概率减少;对于适应值高于群体平均适应值的个体,对应于较低的交叉概率和变异概率,使该个体得以保护进入下一代;而低于平均适应值的个体,相对应于较高的交叉概率和变异概率,使该个体被淘汰掉;本发明的方法能够提供相对某个解的最佳交叉概率和变异概率。
步骤3052、交叉算子:对两个对象进行随机分割,然后重组得到两个新的个体;采用的线段的相交函数为当第i′段路径段与所有的障碍物不相交时的取值为0,当第i′段路径段与障碍物相交时的取值为1,并定义该段路径段与障碍物相交状态变化函数为当第i′+1段路径段与障碍物相交且第i′段路径段与所有的障碍物不相交时g′i′的取值为1,当第i′段路径段与障碍物相交且第i′+1段路径段与所有的障碍物不相交时g′i′的取值为-1,当第i′+1段路径段与障碍物相交且第i′段路径段与障碍物相交时,或者第i′+1段路径段与所有的障碍物不相交且第i′段路径段与所有的障碍物不相交时g′i′的取值为0(即第i′+1段路径段和第i′段路径段与障碍物的相交情况相同时g′i′的取值为0);选择分割点的原则是:选择g′i′为1时对应的变化点作为1号父个体的第一分割点,选择紧随该点之后使得g′i′为-1的点作为第2分割点;对于2号父个体,选择过程恰好相反,选择g′i′为-1时对应的变化点作为2号父个体的第一分割点,选择紧随该点之后使得g′i′为1的变化点作为第2分割点;更多的分割点同理可得;染色体的长度crossnm的选取公式为其中,clen为交叉点数,Nmax为交叉点数的最大取值;通过设定染色体的长度crossnm的选取规则,能够避免前面的交叉操作使最后的染色体很短;
步骤3053、变异算子:采用启发式变异,以增加一个点、减少一个点和移动一个点3种方式,先对穿越障碍物的中途点以一定概率进行变异,当路径个体中不存在穿越障碍物的点后随机变异路径个体的中途点,使变异所得的路点新坐标满足和进行路径的优化;其中,为原点O到新端点的路径段的矢量表示,增加一个点的方法为:对于路径统计穿越障碍物的线段并记录到存储器R中,当R不为空时,随机从R中取一段并在这一段之间增加一点,否则,随机选取路径中一个点;减少一个点的方法为:对于路径当其中间点与之间连接没有穿越障碍物时,将点记录到R中,当R不为空时,从R中随机选取一点删除,否则,随机选取路径中一点删除;移动一个点的方法为:对于路径将其中穿越障碍物的线段端点记录到R中,当R不空时,在R中随机选取一个点进行移动,否则,随机选取路径个体中一点进行移动;为变异所得的第i′-1段路径段的矢量表示,为变异所得的第i′-1段路径段的相交函数且取值方法与的取值方法相同,当变异所得的第i′-1段路径段与所有的障碍物不相交时的取值为0,当变异所得的第i′-1段路径段与障碍物相交时的取值为1;为变异所得的第i′段路径段的相交函数且取值方法与的取值方法相同,当变异所得的第i′段路径段与所有的障碍物不相交时的取值为0,当变异所得的第i′段路径段与障碍物相交时的取值为1;这样的变异过程保证了每次变异对路径优化的非负效果,避免了路径劣化;
步骤3054、插入算子:在电动轮椅运动的路径规划所作用路径上增加不与障碍物相交的路点;具体实施时,考虑路径上某一直线段与障碍物相交,并且有端点坐标Pi′处于障碍物外部空间,于是通过在Pi′与Pi′+1之间插入合适的端点一定可以得到不与障碍物相交;同理,对于Pi′+1处于障碍物外部空间时,一定可以有不与障碍物相交;对于Pi′和Pi′+1均位于障碍物内部的情况,该算子将随机生成坐标值,满足位于所有障碍物的外部空间;其中,为原点O到新端点的路径段的矢量表示;
步骤3055、删除算子:该算子在所操作路径上记录所有位于障碍物内部空间的路点,随机选择其中之一并予以删除;对于不和障碍物相交的路径,该算子则在其全体路点中随机选择删除点;
步骤3056、计算种群中各染色体的适应度值和种群的平均适应度值,当种群中一半以上的染色体达到相同的适应度值,且种群的平均适应度值不变时,将这一代种群作为终止种群;否则,循环执行步骤3052~步骤3056。
综上所述,本发明的基于视觉跟踪的电动轮椅控制系统及方法应用在电动轮椅上,不仅能够减轻电动轮椅操作人员的操作负担,还能够避免出错,而且不受时间、空间、外在环境等限制,切实地提高了人机工效。
本领域内的技术人员应明白,本申请的实施例可提供为方法、系统、或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
前述对本发明的具体示例性实施方案的描述是为了说明和例证的目的。这些描述并非想将本发明限定为所公开的精确形式,并且很显然,根据上述教导,可以进行很多改变和变化。对示例性实施例进行选择和描述的目的在于解释本发明的特定原理及其实际应用,从而使得本领域的技术人员能够实现并利用本发明的各种不同的示例性实施方案以及各种不同的选择和改变。本发明的范围意在由权利要求书及其等同形式所限定。
Claims (4)
1.一种基于视觉跟踪的电动轮椅控制方法,其采用的控制系统包括处理器(1)以及与处理器(1)相接的眼动仪(2),所述处理器(1)的输出端接有电机驱动器(3),所述电动轮椅的电机(4)与电机驱动器(3)的输出端连接;其特征在于,该方法包括以下步骤:
步骤一、眼动图像采集及传输:眼动仪(2)对坐在电动轮椅上的人的眼动图像进行采集并将采集到的眼动图像实时传输给处理器(1);
步骤二、眼动图像处理:处理器(1)调用眼动图像处理模块对眼动图像进行处理,得到人眼睛注视点的特征值;
步骤三、路径规划:处理器(1)调用路径规划模块规划出电动轮椅从当前位置到达眼睛注视点位置的路径;
步骤四、电动轮椅运动:处理器(1)根据规划的路径控制电动轮椅从当前位置到达眼睛注视点位置;
步骤二中所述处理器(1)调用眼动图像处理模块对眼动图像进行处理,得到人眼睛注视点的特征值的具体过程为:
步骤201、所述处理器(1)调用图像灰度化处理模块,对眼动图像进行灰度化处理;
步骤202、所述处理器(1)调用图像高斯滤波处理模块,对眼动图像进行高斯滤波处理;
步骤203、所述处理器(1)调用图像二值化处理模块,并采用Otsu自适应阈值分割方法对眼动图像进行二值化处理;
步骤204、所述处理器(1)调用瞳孔中心定位处理模块,对眼动图像进行瞳孔中心定位处理;
步骤205、所述处理器(1)调用角膜反射光斑中心提取处理模块,并采用加权质心定位算法对眼动图像进行角膜反射光斑中心提取处理;
步骤206、所述处理器(1)调用注视点标定处理模块,将步骤204处理得到的瞳孔中心和步骤205处理得到的角膜反射光斑中心的相对偏移量代入预先构建的瞳孔光斑相对偏移量与注视点的映射函数关系式中,标定出人眼的注视点;
步骤206中构建瞳孔光斑相对偏移量与注视点的映射函数关系式时,采用9参数拟合函数,用户注视呈田字格显示的9个参考点,所述电动轮椅控制系统测量瞳孔与光斑的相对位置偏移量,然后通过最小二乘曲线拟合确定出瞳孔光斑相对偏移量与注视点的映射函数关系式;
步骤三中所述处理器(1)调用路径规划模块规划出电动轮椅从当前位置到达眼睛注视点位置的路径时,采用遗传算法进行路径规划,并采用改进的细菌觅食优化算法产生遗传算法的初始群体;具体过程为:
步骤302、染色体编码:将电动轮椅到达眼睛注视点的整个路径表示为其中为第i′段路径段的矢量表示,它的两个端点分别表示为Pi′和Pi′+1,符号“+”表示矢量的运算;用O表示原点,将表示为整个机器人的运动路径表示为路点矢量集合n为路点总数,中i′的取值为1~n-1,为原点O到端点Pi′的路径段的矢量表示,为原点O到端点Pi′+1的路径段的矢量表示;设Pi′的坐标点表示为将路径以坐标点形式储存,完成对染色体的编码,所有的路径T是可能的一个满足条件路径;
步骤303、群体初始化:采用改进的细菌觅食优化算法产生从当前位置到眼睛注视点的可行路径集合,作为遗传算法的初始群体;
步骤304、构造适应度函数:构造适应度函数为f(p)=wd·dist(p)+ws·smooth(p)+wc·clear(p),其中,dist(p)为路径长度且用公式表示为d(Li′,Li′+1)表示Li′与Li′+1之间的距离,Li′为第i′段路径段的标量表示,Li′+1为第i′+1段路径段的标量表示,wd为路径长度的加权系数;smooth(p)为平滑度且用公式表示为ψ为电动轮椅的理想偏转角度且S′为场景面积,OS′为所有障碍物所占的面积,κ为电动轮椅的偏转角度,ws为平滑度的加权系数;clear(p)为间隔度且用公式表示为γi′为第i′段路径段离障碍物的最短距离,wc为间隔度的加权系数;
步骤305、遗传操作,具体过程包括:
步骤3051、选择遗传操作的参数;所述遗传操作的参数包括种群规模、交叉概率和变异概率;
步骤3051中所述交叉概率Pc和变异概率Pm的选择采用基于余弦函数的自适应概率公式:
其中,Pc1为最大的交叉概率,Pc2为最小的交叉概率,f′为个体的适应度值,favg为平均适应度值,fmax为最大的适应度值,Pm1为最大的变异概率,Pm2为最小的变异概率;
步骤3052、交叉算子:对两个对象进行随机分割,然后重组得到两个新的个体;采用的线段的相交函数为当第i′段路径段与所有的障碍物不相交时的取值为0,当第i′段路径段与障碍物相交时的取值为1,并定义该段路径段与障碍物相交状态变化函数为当第i′+1段路径段与障碍物相交且第i′段路径段与所有的障碍物不相交时g′i′的取值为1,当第i′段路径段与障碍物相交且第i′+1段路径段与所有的障碍物不相交时g′i′的取值为-1,当第i′+1段路径段与障碍物相交且第i′段路径段与障碍物相交时,或者第i′+1段路径段与所有的障碍物不相交且第i′段路径段与所有的障碍物不相交时g′i′的取值为0;选择分割点的原则是:选择g′i′为1时对应的变化点作为1号父个体的第一分割点,选择紧随该点之后使得g′i′为-1的点作为第2分割点;对于2号父个体,选择过程恰好相反,选择g′i′为-1时对应的变化点作为2号父个体的第一分割点,选择紧随该点之后使得g′i′为1的变化点作为第2分割点;染色体的长度crossnm的选取公式为其中,clen为交叉点数,Nmax为交叉点数的最大取值;
步骤3053、变异算子:采用启发式变异,以增加一个点、减少一个点和移动一个点3种方式,先对穿越障碍物的中途点以一定概率进行变异,当路径个体中不存在穿越障碍物的点后随机变异路径个体的中途点,使变异所得的路点新坐标满足和进行路径的优化;其中,为原点O到新端点的路径段的矢量表示,增加一个点的方法为:对于路径统计穿越障碍物的线段并记录到存储器R中,当R不为空时,随机从R中取一段并在这一段之间增加一点,否则,随机选取路径中一个点;减少一个点的方法为:对于路径当其中间点与之间连接没有穿越障碍物时,将点记录到R中,当R不为空时,从R中随机选取一点删除,否则,随机选取路径中一点删除;移动一个点的方法为:对于路径将其中穿越障碍物的线段端点记录到R中,当R不空时,在R中随机选取一个点进行移动,否则,随机选取路径个体中一点进行移动;
步骤3055、删除算子:该算子在所操作路径上记录所有位于障碍物内部空间的路点,随机选择其中之一并予以删除;对于不和障碍物相交的路径,该算子则在其全体路点中随机选择删除点;
步骤3056、计算种群中各染色体的适应度值和种群的平均适应度值,当种群中一半以上的染色体达到相同的适应度值,且种群的平均适应度值不变时,将这一代种群作为终止种群;否则,循环执行步骤3052~步骤3056。
2.按照权利要求1所述的一种基于视觉跟踪的电动轮椅控制方法,其特征在于:所述处理器(1)为DSP数字信号处理器。
3.按照权利要求1所述的一种基于视觉跟踪的电动轮椅控制方法,其特征在于:步骤201中所述处理器(1)调用图像灰度化处理模块,对眼动图像进行灰度化处理时,采用加权平均法进行,具体方法为:所述处理器(1)根据公式f(x′,y′)=0.212671R(x′,y′)+0.715160G(x′,y′)+0.072169B(x′,y′)对眼动图像上位置(x′,y′)处的RGB三个分量进行加权平均,得到加权平均后的系数值f(x′,y′)并保存,其中,R(x′,y′)为眼动图像上位置(x′,y′)处的R分量,G(x′,y′)为眼动图像上位置(x′,y′)处的G分量,B(x′,y′)为眼动图像上位置(x′,y′)处的B分量。
4.按照权利要求1所述的一种基于视觉跟踪的电动轮椅控制方法,其特征在于:步骤204中所述处理器(1)调用瞳孔中心定位处理模块,对眼动图像进行瞳孔中心定位处理时,采用代数距离最小的最小二乘法进行椭圆拟合,并采用莱特准则对椭圆拟合的结果进行优化,剔除粗大误差点,直至拟合得到最优的椭圆,并将椭圆的中心确定为瞳孔中心;具体过程为:
步骤2041、所述处理器(1)在二值化处理后的眼动图像中,提取出瞳孔轮廓曲线;
步骤2042、所述处理器(1)从瞳孔轮廓曲线上任意取6个特征点,带入公式Bxy+C(y2-x2)+Dx+Ey+F=-x2进行椭圆拟合,并添加约束条件A+C=1,解方程组得到参数A以及方程系数B、C、D、E、F的值;
步骤2044、所述处理器(1)将瞳孔轮廓曲线上的特征点p′(xτp′,yτp′)与椭圆的中心点连接,得到与点p′(xτp′,yτp′)对应的拟合椭圆上的点p(xτp,yτp);其中,τ的取值为1~N的自然数,N为取的瞳孔轮廓曲线上的特征点的总个数且N的取值为大于1的正整数;
步骤2046、所述处理器(1)将τ的值从1取到N,对l(τ)进行基于莱特准则的数据分析,将l(τ)不满足条件时瞳孔轮廓曲线上的点定义为粗大误差点,并将瞳孔轮廓曲线上的粗大误差点剔除,再返回执行步骤2042~步骤2046,直至l(τ)全部满足条件,得到最优的椭圆,并将椭圆的中心确定为瞳孔中心;其中,判断l(τ)是否满足条件的过程为:
步骤20464、所述处理器(1)将τ的值从1取到N,并将lb(τ)的值与-3σ和3σ比较,当lb≤-3σ或lb≥3σ时,将l(τ)对应的瞳孔轮廓曲线上的点定义为粗大误差点。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910123749.8A CN109646198B (zh) | 2019-02-19 | 2019-02-19 | 一种基于视觉跟踪的电动轮椅控制方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910123749.8A CN109646198B (zh) | 2019-02-19 | 2019-02-19 | 一种基于视觉跟踪的电动轮椅控制方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109646198A CN109646198A (zh) | 2019-04-19 |
CN109646198B true CN109646198B (zh) | 2021-09-03 |
Family
ID=66123245
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910123749.8A Active CN109646198B (zh) | 2019-02-19 | 2019-02-19 | 一种基于视觉跟踪的电动轮椅控制方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109646198B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112836317B (zh) * | 2021-03-05 | 2023-03-24 | 南昌工程学院 | 一种基于眼动追踪技术的产品设计智能建模方法 |
CN112926536B (zh) * | 2021-04-06 | 2024-04-16 | 科大讯飞股份有限公司 | 变形瞳孔定位方法、装置以及设备 |
CN113341692B (zh) * | 2021-05-21 | 2022-06-28 | 浙江大学 | 一种基于摇杆隐喻开发的眼控交互系统 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101190158A (zh) * | 2006-11-29 | 2008-06-04 | 上海电气集团股份有限公司 | 智能轮椅 |
CN103942419A (zh) * | 2014-04-04 | 2014-07-23 | 南京邮电大学 | 一种混合智能优化方法 |
CN104083258A (zh) * | 2014-06-17 | 2014-10-08 | 华南理工大学 | 一种基于脑机接口与自动驾驶技术的智能轮椅控制方法 |
CN105726234A (zh) * | 2016-04-01 | 2016-07-06 | 张学海 | 智能电动轮椅及使用方法 |
CN107707472A (zh) * | 2017-10-09 | 2018-02-16 | 天津理工大学 | 一种基于遗传‑细菌觅食优化策略的动态源路由方法 |
-
2019
- 2019-02-19 CN CN201910123749.8A patent/CN109646198B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101190158A (zh) * | 2006-11-29 | 2008-06-04 | 上海电气集团股份有限公司 | 智能轮椅 |
CN103942419A (zh) * | 2014-04-04 | 2014-07-23 | 南京邮电大学 | 一种混合智能优化方法 |
CN104083258A (zh) * | 2014-06-17 | 2014-10-08 | 华南理工大学 | 一种基于脑机接口与自动驾驶技术的智能轮椅控制方法 |
CN105726234A (zh) * | 2016-04-01 | 2016-07-06 | 张学海 | 智能电动轮椅及使用方法 |
CN107707472A (zh) * | 2017-10-09 | 2018-02-16 | 天津理工大学 | 一种基于遗传‑细菌觅食优化策略的动态源路由方法 |
Non-Patent Citations (5)
Title |
---|
周婷婷.基于有意眼动控制电动轮椅的研究.《中国优秀硕士学位论文全文数据库信息科技辑》.2015,(第10期),论文第32-57页. * |
基于有意眼动控制电动轮椅的研究;周婷婷;《中国优秀硕士学位论文全文数据库信息科技辑》;20151015(第10期);论文第32-57页 * |
基于视线跟踪技术的眼控鼠标;胡畔;《天津师范大学学报(自然科学版)》;20070930;第27卷(第3期);论文第1-4页 * |
基于遗传算法的移动机器人路径规划的研究;赵媛;《中国优秀硕士学位论文全文数据库信息科技辑》;20150215(第02期);论文第22-48页 * |
智能轮椅控制系统研究与设计;郝付英;《中国优秀硕士学位论文全文数据库信息科技辑》;20130215(第02期);论文第15-33页 * |
Also Published As
Publication number | Publication date |
---|---|
CN109646198A (zh) | 2019-04-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109875777B (zh) | 一种带有取物功能的轮椅的取物控制方法 | |
CN109646198B (zh) | 一种基于视觉跟踪的电动轮椅控制方法 | |
Jain et al. | Autoencoders for level generation, repair, and recognition | |
KR100347622B1 (ko) | 최적화조정방법및최적화조정장치 | |
CN111632379B (zh) | 游戏角色行为控制方法、装置、存储介质及电子设备 | |
CN103890781B (zh) | 用于机器视觉的视网膜编码器 | |
CN110427799B (zh) | 基于生成对抗网络的人手深度图像数据增强方法 | |
CN109000655B (zh) | 机器人仿生室内定位导航方法 | |
CN106023195A (zh) | 基于自适应遗传算法的bp神经网络图像分割方法及装置 | |
de San Roman et al. | Saliency Driven Object recognition in egocentric videos with deep CNN: toward application in assistance to Neuroprostheses | |
CN108319928A (zh) | 一种基于多目标微粒群算法优化的深度学习模型及应用 | |
CN104867142B (zh) | 基于三维场景的导航方法 | |
CN106845327A (zh) | 人脸对齐模型的训练方法、人脸对齐方法和装置 | |
CN108229401A (zh) | 一种基于afsa-svm的多模态信号分类方法 | |
CN109766796A (zh) | 一种面向密集人群的深度行人检测方法 | |
CN110335344A (zh) | 基于2d-3d注意机制神经网络模型的三维重建方法 | |
Clouthier et al. | Development and validation of a deep learning algorithm and open-source platform for the automatic labelling of motion capture markers | |
Fang et al. | From stereogram to surface: how the brain sees the world in depth. | |
Sharma et al. | Multi-modal learning from video, eye tracking, and pupillometry for operator skill characterization in clinical fetal ultrasound | |
Chen | Research on college physical education model based on virtual crowd simulation and digital media | |
CN111062899A (zh) | 基于引导的生成对抗网络的眨眼视频生成方法 | |
CN109558797A (zh) | 基于视觉刺激下的重心面积模型区分人体平衡障碍的方法 | |
CN113327269A (zh) | 一种无标记颈椎运动检测方法 | |
Todd et al. | A haptic-audio simulator indoor navigation: To assist visually impaired environment exploration | |
CN113359744B (zh) | 一种基于安全强化学习及视觉传感器的机器人避障系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |