CN105105938A - 基于人脸朝向识别与跟踪的智能轮椅控制方法及系统 - Google Patents

基于人脸朝向识别与跟踪的智能轮椅控制方法及系统 Download PDF

Info

Publication number
CN105105938A
CN105105938A CN201510411577.6A CN201510411577A CN105105938A CN 105105938 A CN105105938 A CN 105105938A CN 201510411577 A CN201510411577 A CN 201510411577A CN 105105938 A CN105105938 A CN 105105938A
Authority
CN
China
Prior art keywords
wheelchair
module
image
intelligent
facial orientation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201510411577.6A
Other languages
English (en)
Inventor
高翔
张瑾
徐国政
王强
符义琴
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanjing Post and Telecommunication University
Nanjing University of Posts and Telecommunications
Original Assignee
Nanjing Post and Telecommunication University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanjing Post and Telecommunication University filed Critical Nanjing Post and Telecommunication University
Priority to CN201510411577.6A priority Critical patent/CN105105938A/zh
Publication of CN105105938A publication Critical patent/CN105105938A/zh
Pending legal-status Critical Current

Links

Landscapes

  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Abstract

本发明提供一种基于人脸朝向识别与跟踪的智能轮椅控制方法,该方法包括:响应于使用者所选择的手动模式或智能模式中的一种,控制轮椅运动方向;在手动模式下,响应于使用者对操纵杆的操作实现轮椅运动方向的控制;在智能模式下,激活轮椅上的摄像头,通过一控制器对从摄像头所获取的图像进行预处理并得到人脸图像序列,再通过边缘检测得到人脸图谱,接着提取眼部图谱并对眼部特征利用LVQ神经网络进行建模和识别,然后通过人脸朝向识别的结果来控制轮椅的运动方向。本发明的智能轮椅控制方法,在操纵杆控制轮椅运动方向的基础上,可通过摄像头采集的人脸图像识别其朝向,并根据其识别结果控制轮椅的运动方向,实现了人机自然交互控制。

Description

基于人脸朝向识别与跟踪的智能轮椅控制方法及系统
技术领域
本发明涉及电动轮椅领域,尤其涉及一种基于人脸朝向识别与跟踪的智能轮椅控制方法及系统。
背景技术
随着社会老龄化进程的加快以及由于各种因素造成下肢损伤的残障人数的增加,为老年人和残疾人提供性能优越的代步工具已经越来越受到社会各界人士的普遍关注。而智能轮椅作为一种具有导航、避障、人机交互等多种功能服务机器人,方便了老年人和残疾人的日常生活,使他们重新获得自理能力和融入社会的可能,因此开展智能轮椅相关技术的研究具有重大的社会价值。此外,运动控制、机器视觉、模式识别、人机交互等多种机器人研究领域技术的提高和发展,使得智能轮椅的交互性、自主性及安全性都得到了很大发展。其中,在机器视觉方面,人脸识别由于其无侵害性和对用户最简洁、最直观的方式使其成为被人们广泛接受的生物特征识别方式。而在人脸识别领域的众多研究方向中,人脸朝向分析一直是少有人涉及的领域,因此将人脸朝向识别和跟踪运用到智能轮椅的运动控制中将会是一件非常有意义的工作。
发明内容
基于此,本发明目的在于提供一种基于人脸朝向识别与跟踪的智能轮椅控制方法及系统,在操纵杆控制轮椅运动方向的基础上,能够通过摄像头采集的人脸图像识别其朝向,并根据其识别结果控制轮椅的运动方向,实现人机自然交互控制,更给老年人和残疾人带来了方便。
本发明的上述目的通过独立权利要求的技术特征实现,从属权利要求以另选或有利的方式发展独立权利要求的技术特征。
为达成上述目的,本发明提出一种基于人脸朝向识别与跟踪的智能轮椅控制方法,该方法包括:
响应于使用者所选择的手动模式或智能模式中的一种,控制轮椅运动方向;
在手动模式下,响应于使用者对操纵杆的操作实现轮椅运动方向的控制;
在智能模式下,激活轮椅上的摄像头,通过一控制器对从摄像头所获取的图像进行预处理并得到人脸图像序列,再通过边缘检测得到人脸图谱,接着提取眼部图谱并对眼部特征利用LVQ神经网络进行建模和识别,然后通过人脸朝向识别的结果来控制轮椅的运动方向。
进一步的实施例中,前述方法更加包含:
在手动模式或智能模式下,响应于使用者的操作决定轮椅的运动速度。
进一步的实施例中,在所述智能模式下,通过所述摄像头获取人脸图像时,根据轮椅所处的环境自动补光,例如在室内和户外这两种环境下光照强度不同,当光照强度不够时摄像头可自动补光。
进一步的实施例中,所述的图像预处理包括对获取图像格式,尺寸大小的处理,得到人脸图像序列:先将人脸真彩色图像转化为灰度图像,格式统一为bmp格式,大小为420*420;采集到的部分组人脸朝向分别为:左方、左前方、前方、右前方、右方。
进一步的实施例中,所述的边缘检测方法为基于查找的方法,该方法通过寻找图像一阶导数中的最大和最小值来检测边界,将边界定位在梯度最大的方向,并利用sobel算子得到人脸的图谱。
进一步的实施例中,所述的sobel算子包含两组3*3的矩阵,分别为横向及纵向,将之与图像作平面卷积,即可分别得出横向及纵向的亮度差分近似值;如果以A代表原始图像,Gx及Gy分别代表经纵向及横向边缘检测的图像,其公式如下:
G x = - 1 0 + 1 - 2 0 + 2 - 1 0 + 1 * A G y = - 1 - 2 - 1 0 0 0 + 1 + 2 + 1 * A
图像的每一个像素的横向及纵向梯度近似值用以下的公式给合,来计算梯度G的大小:
G = G x 2 + G y 2
然后可用以下公式计算梯度方向θ:
θ = a r c t a n ( G y G x )
如果θ等于零,即代表图像该处拥有纵向边缘,左方较右方暗。
进一步的实施例中,所述提取眼部图谱的方法包括:将整幅图像的画面划分成6行8列,人眼的位置信息用第2行的8个子矩阵来描述,边缘检测后8个子矩阵中的值为“1”的像素点个数人脸朝向有直接关系,分别统计出第二行的8个子矩阵中的值为“1”的像素点即可。
进一步的实施例中,提取眼部图谱并对眼部特征利用LVQ神经网络进行建模和识别,然后通过人脸朝向识别的结果来控制轮椅的运动方向,包括:
从图像库中选取一定数量的人脸图像并提取其眼部特征作为训练集数据来训练LVQ网络,基于训练好的LVQ神经网络,根据前述通过摄像头获取人脸图像并提取的眼部图谱来进行人脸朝向的识别,基于识别的结果控制轮椅的运动方向。
根据本发明的改进,还提出一种基于人脸朝向识别与跟踪的智能轮椅控制系统,该智能轮椅控制系统包括:车体、嵌入车体中的控制器模块以及与控制器模块相连的电源模块、按键模块、操纵杆模块、摄像头模块、电磁刹车模块、电机驱动模块和报警显示模块,其中:
车体包括车架,电机,以及安装在车架上的相对设置的左右驱动后轮、左右随动前轮、左右防后倾轮及左右脚踏板;所述电机具有两组,分别驱动所述相对设置的左右驱动后轮,左右随动前轮随动;
其中,控制器模块包括DSP控制器和故障保护电路,以DSP控制器为核心,通过总线与故障保护电路连接,并与操纵杆模块、摄像头模块、按键模块、报警指示模块、电机驱动模块及电磁刹车模块相连,接收操纵杆模块、摄像头模块、按键模块的信息,并向电机驱动模块传输运动控制命令,向电磁刹车模块传输刹车控制指令,向报警指示模块传输声光报警控制命令;
所述电源模块用于为智能轮椅控制系统供电;
其中,所述按键模块包含电源按键、喇叭按键、加、减速按键及模式按键,其中电源按键用于控制系统的启动和停止;喇叭按键对周边行人起警示作用;加、减速按键用于对轮椅运行速度的调控;模式按键用于控制系统手动模式和智能模式之间的切换;
其中,所述操纵杆模块包括霍尔操纵杆和STM8S903K核心电路,霍尔操纵杆输输出的信号经STM8S903K核心电路转化成坐标信息并经过串口传输至控制器模块,实现通过操纵杆对轮椅运动方向的控制;
其中,所述摄像头模块作为人机交互传感器,包含一人脸定位及跟踪的摄像头,采集人脸图像信息并传输至所述控制器模块;
其中,所述电磁刹车模块采用型号电磁刹车,使得轮椅具有刹车功能;
其中,所述报警指示模块包含指示灯,显示当前电量和档速信息,并根据不同故障闪烁不同数量的LED灯起到灯光报警提示;
其中,所述电机驱动模块包含桥式驱动电路,用于接收所述控制器模块基于摄像头所采集的人脸图像信息而输出的轮椅控制信号,驱动所述电机的运行。
进一步的实施例中,所述摄像头模块更加包含一补光灯和光敏元件,其中:
所述光敏元件采用GL3516型号光敏电阻,用于检测光照强度,进而相应改变补光灯的亮度。
所述补光灯采用LED发光二极管作为光源,通过电压变化调节LED发光二极管亮度。
进一步的实施例中,所述报警指示模块还包括一蜂鸣器,在智能轮椅控制系统故障时根据控制器模块的故障信号发出声音报警提示。
本发明的优点和积极效果是:
本发明提供了一种基于人脸朝向识别与跟踪的智能轮椅控制方法及系统,在操纵杆控制轮椅运动方向的基础上,实现了能够通过摄像头采集的人脸图像识别其朝向,并根据其识别结果控制轮椅的运动方向,实现了人机自然交互控制,操作方便,提高了老年人和残疾人的生活质量。
应当理解,前述构思以及在下面更加详细地描述的额外构思的所有组合只要在这样的构思不相互矛盾的情况下都可以被视为本公开的发明主题的一部分。另外,所要求保护的主题的所有组合都被视为本公开的发明主题的一部分。
结合附图从下面的描述中可以更加全面地理解本发明教导的前述和其他方面、实施例和特征。本发明的其他附加方面例如示例性实施方式的特征和/或有益效果将在下面的描述中显见,或通过根据本发明教导的具体实施方式的实践中得知。
附图说明
附图不意在按比例绘制。在附图中,在各个图中示出的每个相同或近似相同的组成部分可以用相同的标号表示。为了清晰起见,在每个图中,并非每个组成部分均被标记。现在,将通过例子并参考附图来描述本发明的各个方面的实施例,其中:
图1为说明根据本发明某些实施例的基于人脸朝向识别与跟踪的智能轮椅控制方法的示意图。
图2为说明根据本发明某些实施例的人脸图像sobel算子图谱的示意图。
图3为说明根据本发明某些实施例的LVQ神经网络算法流程图。
图4为说明根据本发明某些实施例的控制系统结构示意图。
图5为说明根据本发明某些实施例的智能轮椅结构示意图。
具体实施方式
为了更了解本发明的技术内容,特举具体实施例并配合所附图式说明如下。
在本公开中参照附图来描述本发明的各方面,附图中示出了许多说明的实施例。本公开的实施例不必定意在包括本发明的所有方面。应当理解,上面介绍的多种构思和实施例,以及下面更加详细地描述的那些构思和实施方式可以以很多方式中任意一种来实施,这是因为本发明所公开的构思和实施例并不限于任何实施方式。另外,本发明公开的一些方面可以单独使用,或者与本发明公开的其他方面的任何适当组合来使用。
结合图1、图4和图5所示,根据本发明的实施例,一种基于人脸朝向识别与跟踪的智能轮椅控制方法,该方法包括:响应于使用者所选择的手动模式或智能模式中的一种,控制轮椅运动方向;在手动模式下,响应于使用者对操纵杆的操作实现轮椅运动方向的控制;在智能模式下,激活轮椅上的摄像头,通过一控制器对从摄像头所获取的图像进行预处理并得到人脸图像序列,再通过边缘检测得到人脸图谱,接着提取眼部图谱并对眼部特征利用LVQ神经网络进行建模和识别,然后通过人脸朝向识别的结果来控制轮椅的运动方向。
在一些实施例中,前述方法更加包含:在手动模式或智能模式下,响应于使用者的操作决定轮椅的运动速度。
所述智能轮椅控制方法,能够根据用户的选择控制轮椅进入不同的工作模式,以及在各种模式下对轮椅运动方向、速度大小等的控制。
图1为说明根据本发明某些实施例的基于人脸朝向识别与跟踪的智能轮椅控制方法的过程示意图,其中所描述的步骤说明如下:
S1模式选择。
S2智能模式。
S3手动模式。
S21对从摄像头获取的图像进行预处理并获取人脸图像序列。
S22通过边缘检测得到sobel算子的人脸图谱。
S23提取眼部图谱并对眼部特征进行建模和识别。
S24通过人脸朝向识别的结果来控制轮椅的运动方向。
S31通过操纵杆来控制轮椅的运动方向。
S4通过速度档按键控制轮椅的运行速度。
下面结合附图所示,对前述方法的实现加以更加具体的说明。
在一些例子中,在所述智能模式下,所述摄像头在获取人脸图像过程中,可以根据轮椅所处的环境自动补光,例如在室内和户外这两种环境下光照强度不同,当光照强度不够时摄像头可自动补光。
图1的实施例中,所述的图像预处理包括对获取图像格式,尺寸大小的处理,得到人脸图像序列:先将人脸真彩色图像转化为灰度图像,格式统一为bmp格式,大小为420*420;采集到的部分组人脸朝向分别为:左方、左前方、前方、右前方、右方,对应的编号分别为1、2、3、4、5。
在一些例子中,所述的边缘检测方法为基于查找的方法,该方法通过寻找图像一阶导数中的最大和最小值来检测边界,将边界定位在梯度最大的方向,并利用sobel算子得到人脸的图谱。
进一步的实施例中,所述的sobel算子包含两组3*3的矩阵,分别为横向及纵向,将之与图像作平面卷积,即可分别得出横向及纵向的亮度差分近似值;如果以A代表原始图像,Gx及Gy分别代表经纵向及横向边缘检测的图像,其公式如下:
G x = - 1 0 + 1 - 2 0 + 2 - 1 0 + 1 * A G y = - 1 - 2 - 1 0 0 0 + 1 + 2 + 1 * A
图像的每一个像素的横向及纵向梯度近似值用以下的公式给合,来计算梯度G的大小:
G = G x 2 + G y 2
然后可用以下公式计算梯度方向θ:
θ = a r c t a n ( G y G x )
如果θ等于零,即代表图像该处拥有纵向边缘,左方较右方暗。
结合如图2所示的人脸图像sobel算子图谱,可知经过边缘检测得到了不同朝向的sobel算子的图谱,其图谱为二值图像,黑色部分用“0”表示,白色部分用“1”表示。可以看出当人脸朝向不同时,眼睛在图像中的位置会有明显的差别,因此需要将描述人眼位置信息的特征向量提取出来。
图1的实施例中,所述提取眼部图谱的(即人眼位置信息特征向量的提取)方法为将整幅图画划分成6行8列,人眼的位置信息可以用第2行的8个子矩阵来描述。边缘检测后8个子矩阵中的值为“1”的像素点个数与人脸朝向有直接关系,只需分别统计出第二行的8个子矩阵中的值为“1”的像素点即可。
从获取的人脸图像中选择2组(每组的人脸朝向都包含上述5个方向,编号分别为1、2、3、4、5)人眼位置信息特征向量如下表所示:
由上表分别统计的每组图像的第二行的8个子矩阵中的值为“1”的像素点的个数分布发现不同朝向在8个子矩阵中的为“1”的像素点分布不同,且相同朝向的为“1”的像素点分布近似,因此可以通过分析人眼位置信息的特征向量分析人脸朝向。
图1的实施例中,所述LVQ神经网络(LearningVectorQuantization)神经网络,属于前向神经网络类型,在模式识别和优化领域有着广泛的的应用。
结合如图3所示的LVQ神经网络算法流程图,其步骤如下:
(1)网络初始化
用较小的随机数设定输入层和隐含层之间额权值初始值wij
(2)输入向量的输入
将输入向量X=[x1,x2,x3,...,xn]T送入到输入层。
(3)计算隐含层权值向量与输入向量的距离
隐含层神经元和输入向量的距离,与自组织化映射的情况相同,由下是给出:
d j = Σ i = 1 n ( x i - w i j ) 2
其中,xi为输入向量,dj为隐含层神经元和输入向量的距离,n为输入向量的个数。
(4)选择与权值向量的距离最小的神经元
计算并选择输入向量和权值向量的距离最小的神经元,并把其称为胜出神经元。
(5)更新连接权值
如果胜出神经元和预先指定的分类一致,称为正确分类,否则称为不正确分类。正确分类和不正确分类时权值的调整量分别使用公式如下:
Δw i j = + η ( x i - w i j ) - η ( x i - w i j )
其中,η为学习效率,Δwij为权值调整量,+η(xi-wij)为正确分类时权值的调整量公式,-η(xi-wij)为不正确分类时权值的调整量公式。
(6)判断是否满足预先设定的最大迭代次数,满足时算法结束,否则返回(2),进入下一轮学习。
图1的实施例中,提取眼部图谱并对眼部特征利用LVQ神经网络进行建模和识别,然后通过人脸朝向识别的结果来控制轮椅的运动方向,包括:
从图像库中选取一定数量的人脸图像并提取其眼部特征作为训练集数据来训练LVQ网络,基于训练好的LVQ神经网络,根据前述通过摄像头获取人脸图像并提取的眼部图谱来进行人脸朝向的识别,基于识别的结果控制轮椅的运动方向。
为了验证所提方法的有效性,在本例中随机选取图像库中的30幅人脸图像提取出的特征向量作为训练集,20幅图像作为测试集,测试结果如下表所示:
由上表所示的实验结果可知,组1、2、3的识别的正确率分别为100%、95%、100%,说明此识别方法的有效性。
图1的实施例中,所述速度大小的调控根据加在轮椅电机上电压的大小来控制,分为5个不同的速度档。
结合图4,根据本发明的实施例,还提出一种基于人脸朝向识别与跟踪的智能轮椅控制系统,该智能轮椅控制系统包括:车体、嵌入车体中的控制器模块以及与控制器模块相连的电源模块、按键模块、操纵杆模块、摄像头模块、电磁刹车模块、电机驱动模块和报警显示模块。
图5给出智能轮椅结构示意图,包括:车体1;摄像头模块2;头枕3;控制面板4;电机5;蓄电池6;随动前轮7;防后倾轮8;控制器模块9;驱动后轮10;脚踏板11;补光灯2-1;摄像头2-2;光敏元件2-3;电源按键4-1;减速按键4-2;速度档位和电量指示灯4-3;模式按键4-4;手动模式指示灯4-5;喇叭按键4-6;加速按键4-7;智能模式指示灯4-8;操纵杆4-9。
结合图4、图5所示,下面对基于人脸朝向识别与跟踪的智能轮椅控制系统的组成部分及其各功能的实现加以更加具体的说明。
车体包括车架,电机,以及安装在车架上的相对设置的左右驱动后轮、左右随动前轮、左右防后倾轮及左右脚踏板;所述电机具有两组,分别驱动所述相对设置的左右驱动后轮,左右随动前轮随动,所述电机连接至电机驱动模块;
其中,控制器模块包括DSP控制器和故障保护电路,以DSP控制器为核心,通过总线与故障保护电路连接,并与操纵杆模块、摄像头模块、按键模块、报警指示模块、电机驱动模块及电磁刹车模块相连,接收操纵杆模块、摄像头模块、按键模块的信息,并向电机驱动模块传输运动控制命令,向电磁刹车模块传输刹车控制指令,向报警指示模块传输声光报警控制命令。
所述电源模块用于为智能轮椅控制系统供电。本例中,电源模块包括诸如锂电池、铅酸电池、镍镉电池、镍氢电池等可二次充电的蓄电池,提供24V的电压供应,以保障整个系统的正常工作。
所述按键模块包含电源按键、喇叭按键、加、减速按键及模式按键,其中电源按键用于控制系统的启动和停止;喇叭按键对周边行人起警示作用;加、减速按键用于对轮椅运行速度的调控;模式按键用于控制系统手动模式和智能模式之间的切换。
所述操纵杆模块包括霍尔操纵杆和STM8S903K核心电路,霍尔操纵杆输输出的信号经STM8S903K核心电路转化成坐标信息并经过串口传输至控制器模块,实现通过操纵杆对轮椅运动方向的控制。
所述摄像头模块作为人机交互传感器,包含一摄像头,采集人脸图像信息并传输至所述控制器模块。
所述电磁刹车模块采用型号电磁刹车,使得轮椅具有刹车功能。
在本例子所提出的智能轮椅控制系统的实现中,控制器模块按照前述图1所示的方式来实现通过操纵杆对轮椅运动方向以及运动速度的控制。
作为一些优选的方案,所述报警指示模块包含指示灯,显示当前电量和档速信息,并根据不同故障闪烁不同数量的LED灯起到灯光报警提示。
所述电机驱动模块包含桥式驱动电路,用于接收所述控制器模块基于摄像头所采集的人脸图像信息而输出的轮椅控制信号,驱动所述电机的运行。
作为一些优选的方案,所述摄像头模块更加包含一补光灯和光敏元件,其中:
所述光敏元件采用GL3516型号光敏电阻,用于检测光照强度,进而相应改变补光灯的亮度。
作为一些优选的方案,所述补光灯采用LED发光二极管作为光源,通过电压变化调节LED发光二极管亮度。
作为一些优选的方案,所述报警指示模块还包括一蜂鸣器,在智能轮椅控制系统故障时根据控制器模块的故障信号发出声音报警提示。
结合图5,本发明的智能轮椅控制系统的操作流程如下:使用者按下电源按键4-1,启动智能轮椅,按下模式按键4-4设置模式,智能模式指示灯4-8亮,进入智能模式,摄像头2-2获取使用者人脸图像,在光敏元器件2-3检测到光线较暗时,补光灯2-1开启,增强光照亮度,同时图像发送给控制器模块9,控制电机5转向进而控制轮椅运动方向。再次按下模式按键4-4,手动指示灯4-5亮,进入手动模式,通过操纵杆4-9将运动坐标发送给控制器模块9,控制电机5的转向进而控制轮椅运动方向。如果需调节速度大小则可按下加速按键4-7,增加速度档位或者按下减速按键4-2减小速度档位。如果轮椅不用时关闭电源按键4-1。
虽然本发明已以较佳实施例揭露如上,然其并非用以限定本发明。本发明所属技术领域中具有通常知识者,在不脱离本发明的精神和范围内,当可作各种的更动与润饰。因此,本发明的保护范围当视权利要求书所界定者为准。

Claims (10)

1.一种基于人脸朝向识别与跟踪的智能轮椅控制方法,其特征在于,该方法包括:
响应于使用者所选择的手动模式或智能模式中的一种,控制轮椅运动方向;
在手动模式下,响应于使用者对操纵杆的操作实现轮椅运动方向的控制;
在智能模式下,激活轮椅上的摄像头,通过一控制器对从摄像头所获取的图像进行预处理并得到人脸图像序列,再通过边缘检测得到人脸图谱,接着提取眼部图谱并对眼部特征利用LVQ神经网络进行建模和识别,然后通过人脸朝向识别的结果来控制轮椅的运动方向。
2.根据权利要求1所述的基于人脸朝向识别与跟踪的智能轮椅控制方法,其特征在于,前述方法更加包含:
在手动模式或智能模式下,响应于使用者的操作决定轮椅的运动速度。
3.根据权利要求1所述的基于人脸朝向识别与跟踪的智能轮椅控制方法,其特征在于,在所述智能模式下,通过所述摄像头获取人脸图像时,根据轮椅所处的环境自动补光。
4.根据权利要求1所述的基于人脸朝向识别与跟踪的智能轮椅控制方法,其特征在于,所述的图像预处理包括对获取图像格式,尺寸大小的处理,得到人脸图像序列:先将人脸真彩色图像转化为灰度图像,格式统一为bmp格式,大小为420*420;采集到的部分组人脸朝向分别为:左方、左前方、前方、右前方、右方。
5.根据权利要求1所述的基于人脸朝向识别与跟踪的智能轮椅控制方法,其特征在于,所述的边缘检测方法为基于查找的方法,该方法通过寻找图像一阶导数中的最大和最小值来检测边界,将边界定位在梯度最大的方向,并利用sobel算子得到人脸的图谱。
6.根据权利要求5所述的基于人脸朝向识别与跟踪的智能轮椅控制方法,其特征在于,所述的sobel算子包含两组3*3的矩阵,分别为横向及纵向,将之与图像作平面卷积,即可分别得出横向及纵向的亮度差分近似值;如果以A代表原始图像,Gx及Gy分别代表经纵向及横向边缘检测的图像,其公式如下:
G x = - 1 0 + 1 - 2 0 + 2 - 1 0 + 1 * A G y = - 1 - 2 - 1 0 0 0 + 1 + 2 + 1 * A
图像的每一个像素的横向及纵向梯度近似值用以下的公式给合,来计算梯度G的大小:
G = G x 2 + G y 2
然后可用以下公式计算梯度方向θ:
θ = a r c t a n ( G y G x )
如果θ等于零,即代表图像该处拥有纵向边缘,左方较右方暗。
7.根据权利要求1所述的基于人脸朝向识别与跟踪的智能轮椅控制方法,其特征在于,所述提取眼部图谱的方法包括:将整幅图像的画面划分成6行8列,人眼的位置信息用第2行的8个子矩阵来描述,边缘检测后8个子矩阵中的值为“1”的像素点个数人脸朝向有直接关系,分别统计出第二行的8个子矩阵中的值为“1”的像素点即可。
8.根据权利要求1所述的基于人脸朝向识别与跟踪的智能轮椅控制方法,其特征在于,提取眼部图谱并对眼部特征利用LVQ神经网络进行建模和识别,然后通过人脸朝向识别的结果来控制轮椅的运动方向,包括:
从图像库中选取一定数量的人脸图像并提取其眼部特征作为训练集数据来训练LVQ网络,基于训练好的LVQ神经网络,根据前述通过摄像头获取人脸图像并提取的眼部图谱来进行人脸朝向的识别,基于识别的结果控制轮椅的运动方向。
9.一种基于人脸朝向识别与跟踪的智能轮椅控制系统,其特征在于,该智能轮椅控制系统包括:车体、嵌入车体中的控制器模块以及与控制器模块相连的电源模块、按键模块、操纵杆模块、摄像头模块、电磁刹车模块、电机驱动模块和报警显示模块,其中:
车体包括车架,电机,以及安装在车架上的相对设置的左右驱动后轮、左右随动前轮、左右防后倾轮及左右脚踏板;所述电机具有两组,分别驱动所述相对设置的左右驱动后轮,左右随动前轮随动;
其中,控制器模块包括DSP控制器和故障保护电路,以DSP控制器为核心,通过总线与故障保护电路连接,并与操纵杆模块、摄像头模块、按键模块、报警指示模块、电机驱动模块及电磁刹车模块相连,接收操纵杆模块、摄像头模块、按键模块的信息,并向电机驱动模块传输运动控制命令,向电磁刹车模块传输刹车控制指令,向报警指示模块传输声光报警控制命令;
所述电源模块用于为智能轮椅控制系统供电;
其中,所述按键模块包含电源按键、喇叭按键、加、减速按键及模式按键,其中电源按键用于控制系统的启动和停止;喇叭按键对周边行人起警示作用;加、减速按键用于对轮椅运行速度的调控;模式按键用于控制系统手动模式和智能模式之间的切换;
其中,所述操纵杆模块包括霍尔操纵杆和STM8S903K核心电路,霍尔操纵杆输输出的信号经STM8S903K核心电路转化成坐标信息并经过串口传输至控制器模块,实现通过操纵杆对轮椅运动方向的控制;
其中,所述摄像头模块作为人机交互传感器,包含一具有人脸定位及跟踪功能的摄像头,采集人脸图像信息并传输至所述控制器模块;
其中,所述电磁刹车模块采用型号电磁刹车,使得轮椅具有刹车功能;
其中,所述报警指示模块包含指示灯,显示当前电量和档速信息,并根据不同故障闪烁不同数量的LED灯起到灯光报警提示;
其中,所述电机驱动模块包含桥式驱动电路,用于接收所述控制器模块基于摄像头所采集的人脸图像信息而输出的轮椅控制信号,驱动所述电机的运行。
10.根据权利要求9所述的基于人脸朝向识别与跟踪的智能轮椅控制系统,其特征在于,所述摄像头模块更加包含一补光灯和光敏元件,其中:
所述光敏元件采用GL3516型号光敏电阻,用于检测光照强度,进而相应改变补光灯的亮度。
所述补光灯采用LED发光二极管作为光源,通过电压变化调节LED发光二极管亮度。
CN201510411577.6A 2015-07-14 2015-07-14 基于人脸朝向识别与跟踪的智能轮椅控制方法及系统 Pending CN105105938A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201510411577.6A CN105105938A (zh) 2015-07-14 2015-07-14 基于人脸朝向识别与跟踪的智能轮椅控制方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201510411577.6A CN105105938A (zh) 2015-07-14 2015-07-14 基于人脸朝向识别与跟踪的智能轮椅控制方法及系统

Publications (1)

Publication Number Publication Date
CN105105938A true CN105105938A (zh) 2015-12-02

Family

ID=54654235

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201510411577.6A Pending CN105105938A (zh) 2015-07-14 2015-07-14 基于人脸朝向识别与跟踪的智能轮椅控制方法及系统

Country Status (1)

Country Link
CN (1) CN105105938A (zh)

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105787478A (zh) * 2016-04-14 2016-07-20 中南大学 基于神经网络和灵敏度参数的人脸转向识别方法
CN106680802A (zh) * 2017-03-16 2017-05-17 武汉理工大学 基于无线电信号强度的轮椅自动跟随方法及系统
CN107168198A (zh) * 2017-05-12 2017-09-15 武汉理工大学 一种主动介入式智能轮椅控制方法及装置
CN107260420A (zh) * 2017-07-03 2017-10-20 南京邮电大学 基于眼部动作识别的智能轮椅人机交互控制系统及方法
CN107007403B (zh) * 2016-03-15 2018-06-05 国家康复辅具研究中心 一种电动轮椅
CN108652851A (zh) * 2018-01-19 2018-10-16 西安电子科技大学 基于视觉定位技术的眼控轮椅控制方法
CN108919982A (zh) * 2018-06-14 2018-11-30 北京理工大学 一种基于人脸朝向识别的自动键鼠切换方法
CN108960093A (zh) * 2018-06-21 2018-12-07 阿里体育有限公司 脸部转动角度的识别方法及设备
CN109033923A (zh) * 2017-06-08 2018-12-18 北京君正集成电路股份有限公司 一种检测图片中人体朝向的方法及装置
WO2019047435A1 (zh) * 2017-09-11 2019-03-14 四川金瑞麒智能科学技术有限公司 轮椅及轮椅获取的视频数据处理方法
CN111150566A (zh) * 2020-01-17 2020-05-15 南京邮电大学 一种自主导航与多模人机交互共享的轮椅控制系统及方法
CN111538344A (zh) * 2020-05-14 2020-08-14 重庆科技学院 基于面部关键点运动跟随的智能轮椅及其控制方法
US11570016B2 (en) 2018-12-14 2023-01-31 At&T Intellectual Property I, L.P. Assistive control of network-connected devices
CN115741670A (zh) * 2022-10-11 2023-03-07 人工智能与数字经济广东省实验室(广州) 基于多模态信号和机器视觉融合控制的轮椅机械臂系统

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1601549A (zh) * 2003-09-26 2005-03-30 中国科学院自动化研究所 基于多特征融合的人脸定位与头部姿势识别方法
KR20060012878A (ko) * 2004-08-05 2006-02-09 학교법인 울산공업학원 머리 또는 얼굴의 방향성으로 제어하는 전동 휠체어제어장치
CN101190158A (zh) * 2006-11-29 2008-06-04 上海电气集团股份有限公司 智能轮椅
CN101344919A (zh) * 2008-08-05 2009-01-14 华南理工大学 视线跟踪方法及应用该方法的残疾人辅助系统
CN101447020A (zh) * 2008-12-12 2009-06-03 北京理工大学 基于直觉模糊的色情图像识别方法
CN101889928A (zh) * 2010-07-27 2010-11-24 北京理工大学 一种基于头势识别技术的轮椅控制方法
CN201814751U (zh) * 2010-10-11 2011-05-04 长沙恒润机械有限责任公司 一种既可站立又可平躺的电动轮椅
CN102048621A (zh) * 2010-12-31 2011-05-11 重庆邮电大学 基于头势的智能轮椅的人机交互系统及方法
CN202136503U (zh) * 2011-07-01 2012-02-08 山东科技大学 一种语音控制避障轮椅
CN103049084A (zh) * 2012-12-18 2013-04-17 深圳国微技术有限公司 一种可根据人脸方向来调整显示方向的电子设备及其方法

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1601549A (zh) * 2003-09-26 2005-03-30 中国科学院自动化研究所 基于多特征融合的人脸定位与头部姿势识别方法
KR20060012878A (ko) * 2004-08-05 2006-02-09 학교법인 울산공업학원 머리 또는 얼굴의 방향성으로 제어하는 전동 휠체어제어장치
CN101190158A (zh) * 2006-11-29 2008-06-04 上海电气集团股份有限公司 智能轮椅
CN101344919A (zh) * 2008-08-05 2009-01-14 华南理工大学 视线跟踪方法及应用该方法的残疾人辅助系统
CN101447020A (zh) * 2008-12-12 2009-06-03 北京理工大学 基于直觉模糊的色情图像识别方法
CN101889928A (zh) * 2010-07-27 2010-11-24 北京理工大学 一种基于头势识别技术的轮椅控制方法
CN201814751U (zh) * 2010-10-11 2011-05-04 长沙恒润机械有限责任公司 一种既可站立又可平躺的电动轮椅
CN102048621A (zh) * 2010-12-31 2011-05-11 重庆邮电大学 基于头势的智能轮椅的人机交互系统及方法
CN202136503U (zh) * 2011-07-01 2012-02-08 山东科技大学 一种语音控制避障轮椅
CN103049084A (zh) * 2012-12-18 2013-04-17 深圳国微技术有限公司 一种可根据人脸方向来调整显示方向的电子设备及其方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
MATLAB中文论坛: "《MATLAB神经网络30个案例分析》", 30 April 2010 *

Cited By (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107007403B (zh) * 2016-03-15 2018-06-05 国家康复辅具研究中心 一种电动轮椅
CN105787478A (zh) * 2016-04-14 2016-07-20 中南大学 基于神经网络和灵敏度参数的人脸转向识别方法
CN105787478B (zh) * 2016-04-14 2019-09-20 中南大学 基于神经网络和灵敏度参数的人脸转向识别方法
CN106680802B (zh) * 2017-03-16 2019-05-24 武汉理工大学 基于无线电信号强度的轮椅自动跟随方法及系统
CN106680802A (zh) * 2017-03-16 2017-05-17 武汉理工大学 基于无线电信号强度的轮椅自动跟随方法及系统
CN107168198A (zh) * 2017-05-12 2017-09-15 武汉理工大学 一种主动介入式智能轮椅控制方法及装置
CN109033923A (zh) * 2017-06-08 2018-12-18 北京君正集成电路股份有限公司 一种检测图片中人体朝向的方法及装置
CN107260420A (zh) * 2017-07-03 2017-10-20 南京邮电大学 基于眼部动作识别的智能轮椅人机交互控制系统及方法
CN111132643A (zh) * 2017-09-11 2020-05-08 四川金瑞麒智能科学技术有限公司 轮椅及轮椅获取的视频数据处理方法
WO2019047435A1 (zh) * 2017-09-11 2019-03-14 四川金瑞麒智能科学技术有限公司 轮椅及轮椅获取的视频数据处理方法
CN108652851A (zh) * 2018-01-19 2018-10-16 西安电子科技大学 基于视觉定位技术的眼控轮椅控制方法
CN108652851B (zh) * 2018-01-19 2023-06-30 西安电子科技大学 基于视觉定位技术的眼控轮椅控制方法
CN108919982A (zh) * 2018-06-14 2018-11-30 北京理工大学 一种基于人脸朝向识别的自动键鼠切换方法
CN108919982B (zh) * 2018-06-14 2020-10-20 北京理工大学 一种基于人脸朝向识别的自动键鼠切换方法
CN108960093A (zh) * 2018-06-21 2018-12-07 阿里体育有限公司 脸部转动角度的识别方法及设备
US11570016B2 (en) 2018-12-14 2023-01-31 At&T Intellectual Property I, L.P. Assistive control of network-connected devices
US12009941B2 (en) 2018-12-14 2024-06-11 AT&T Intellect al P Property I, L.P. Assistive control of network-connected devices
CN111150566A (zh) * 2020-01-17 2020-05-15 南京邮电大学 一种自主导航与多模人机交互共享的轮椅控制系统及方法
CN111150566B (zh) * 2020-01-17 2022-05-10 南京邮电大学 一种自主导航与多模人机交互共享的轮椅控制系统及方法
CN111538344A (zh) * 2020-05-14 2020-08-14 重庆科技学院 基于面部关键点运动跟随的智能轮椅及其控制方法
CN115741670A (zh) * 2022-10-11 2023-03-07 人工智能与数字经济广东省实验室(广州) 基于多模态信号和机器视觉融合控制的轮椅机械臂系统
CN115741670B (zh) * 2022-10-11 2024-05-03 华南理工大学 基于多模态信号和机器视觉融合控制的轮椅机械臂系统

Similar Documents

Publication Publication Date Title
CN105105938A (zh) 基于人脸朝向识别与跟踪的智能轮椅控制方法及系统
CN109928107B (zh) 一种自动分类系统
CN105050247B (zh) 基于表情模型识别的灯光智能调节系统及其方法
CN107919021B (zh) 一种智能交通信号灯控制系统与控制方法
CN104961009B (zh) 基于机器视觉的多电梯并联运行协调控制方法及系统
EP4266210A1 (en) Vehicle gear control method and apparatus, computer device, and storage medium
CN107745710B (zh) 一种基于机器视觉与机器学习的自动泊车方法及系统
CN107491769A (zh) 基于AdaBoost算法的疲劳驾驶检测方法及系统
CN103679203B (zh) 机器人的人脸检测与情感识别系统及方法
CN104732835B (zh) 一种体育场智能缩微车辆教学装置
CN109636924A (zh) 基于现实路况信息三维建模的车载多模式增强现实系统
CN109817013A (zh) 基于视频流的停车位状态识别方法及装置
CN109084992A (zh) 基于台架测试无人车智能性的方法
CN106741137A (zh) 一种个性化的电动助力转向系统及控制方法
CN111038488B (zh) 一种混合动力汽车的能量优化控制方法及装置
CN109606358A (zh) 应用于智能驾驶汽车的图像采集装置及其采集方法
CN104331160A (zh) 一种基于唇部状态识别的智能轮椅人机交互系统及方法
CN109278753A (zh) 一种基于驾驶员视觉可见信息的智能车辆辅助驾驶方法
CN108490931A (zh) 基于改进Sobel算子的智能车行驶控制系统及方法
CN206475931U (zh) 一种个性化的电动助力转向系统
CN105718904A (zh) 基于组合特征与车载摄像头的盲人检测与识别方法与系统
CN103247216A (zh) 基于缩微智能车教学实验装置
CN107545244A (zh) 基于图像处理技术的限速标志检测方法
CN110139436A (zh) 基于人群密度信息互联式校园照明节能控制方法
CN109858359A (zh) 一种考虑情感的汽车驾驶人驾驶意图辨识方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20151202

RJ01 Rejection of invention patent application after publication