CN110046585A - 一种基于环境光的手势识别方法 - Google Patents

一种基于环境光的手势识别方法 Download PDF

Info

Publication number
CN110046585A
CN110046585A CN201910318447.6A CN201910318447A CN110046585A CN 110046585 A CN110046585 A CN 110046585A CN 201910318447 A CN201910318447 A CN 201910318447A CN 110046585 A CN110046585 A CN 110046585A
Authority
CN
China
Prior art keywords
gesture
digital
environment light
smooth
threshold value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201910318447.6A
Other languages
English (en)
Inventor
王柱
於志文
胡千红
郭斌
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Northwestern Polytechnical University
Original Assignee
Northwestern Polytechnical University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Northwestern Polytechnical University filed Critical Northwestern Polytechnical University
Priority to CN201910318447.6A priority Critical patent/CN110046585A/zh
Publication of CN110046585A publication Critical patent/CN110046585A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • G06V10/443Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components by matching or filtering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • G06V40/28Recognition of hand or arm movements, e.g. recognition of deaf sign language

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • Multimedia (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Psychiatry (AREA)
  • Social Psychology (AREA)
  • Human Computer Interaction (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

本发明提供一种基于环境光的手势识别方法,对采集到的电信号进行滤波处理,去掉电信号中高频噪,然后再进行标准化,去除不同环境光和手运动的位置高低带来的影响;基于滤波后的电信号,将其映射成一个像素矩阵,用来区分平滑手势与数字手势;对于平滑手势,利用时间规则来对平滑手势进行识别获取结果;对于数字手势,利用自适应上下阈值的方式来对数字手势和环境噪声进行检测,得到手势的发生点和结束点;利用基于动态时间规划(DTW)算法的KNN分类器对波形进行匹配分类,得出手势的识别结果。

Description

一种基于环境光的手势识别方法
技术领域
本发明涉及手势识别分析处理领域,尤其涉及基于可见光电信号分析处理的手势识别方法。
背景技术
近年来,随着传感器技术的不断改进与发展,物联网技术正在使人们迎来万物互联的时代。在这个时代人们的生活达到前所未有的便利,自然而然的人机交互方式则变得非常的重要。手势识别技术目前已经有了很多的应用,想象一下,在一个智能家居中,手一挥就可以让家用设备明白我们的意图,在办公室,滑动手掌就可以浏览网页、演示文稿。事实上,手势识别技术使得过去科幻电影中用手势隔空操控屏幕的画面正逐渐变为现实。目前手势识别有很多的方法,如wifi-based、sound-based Wearable-based等。Wifi-based需要专用的无线设备发射端以及接收端,虽然这种技术目前研究比较多利用wifi CSI来进行手势识别以及定位等工作,但是无线设备现在并没有完完全全的普及而且在某些保密场所是不允许无线设别的存在,所以这种方式带有局限性。Sound-based使用的是高频音频,他对婴儿和宠物的生长健康存在隐患并且对噪声敏感。Wearable-based可穿戴设备需要佩戴额外的传感器且这些传感器也要消耗能量,非常的不方便。
发明内容
针对以上缺陷,本发明提出了使用可见光这种无处不在的信号来进行手势识别的方法。
本发明的技术方案为:一种基于环境光的手势识别方法,包括以下步骤:
S1:对采集到的电信号进行滤波处理,去掉电信号中高频噪,然后再进行标准化,去除不同环境光和手运动的位置高低带来的影响;
S2:基于滤波后的电信号,将其映射成一个像素矩阵,用来区分平滑手势与数字手势;
S3:对于平滑手势,利用时间规则来对平滑手势进行识别获取结果;
S4:对于数字手势,利用自适应上下阈值的方式来对数字手势和环境噪声进行检测,得到手势的发生点和结束点;利用基于动态时间规划(DTW)算法的KNN分类器对波形进行匹配分类,得出手势的识别结果。
进一步地,一种基于环境光的手势识别方法,所述滑动手势是简单手势只有一个方向,在图像上呈现的亮点全部集中在几乎一条线上只有一次变化;所述数字手势由简单手势组成有多个方向,在图像上呈现的亮点则是混乱且存在2次以上或更多的变化。
进一步地,一种基于环境光的手势识别方法,所述S4中自适应上下阈值的方式来将数字手势从环境噪声进行检测出来,具体公式为:
MA(j)=M(|xj(i)-M(xj)|)j={1,2,3,4.....12} (1)
其中Xj指的是第j个传感器的时间序列,xj(i)指的是第j个传感器的第i个值,M指的是中位数,MA(j)指的是每个传感器的波动范围;
上阈值=M(xj)+MA(j) (2)
下阈值=M(xj)-MA(j) (3)。
可见光能做到与环境进行无缝融合,使用简单的光电传感器就可以接受信号的变化,利用机器学习方法,从而识别不同的手势。其基本原理是当手以不同的方向不同的方式运动的时候,会遮挡不同的光线从而会在平台上投下独特的阴影模式。不同的手势遮挡的光线不同,投下的阴影模式也是不同的。通过捕获并学习这种模式,从而识别不同的手势。本发明首先识别是滑动手势还是数字手势,之所以要如此做是因为简单手势只有一个方向,没有必要使用复杂的分类器来识别,所以这里将滑动手势和数字分开用不同的方法来识别能达到较好的效果。
附图说明
图1为本发明一种基于环境光手势识别方法的系统框架图;
图2数据预处理包括离群点移除、低通滤波处理以及标准化操作。
具体实施方式
下面结合附图来进一步描述本发明的技术方案。使用12个普通商用的VBPW21R光电传感器,以及Arduino DUE,搭建电路并且利用USB串口采集数据,将光信号转变到0-1023。
一种基于环境光的手势识别方法,如图1所示,包括以下步骤:
S1:对采集到的电信号进行滤波处理,去掉电信号中高频噪,然后再进行标准化,去除不同环境光和手运动的位置高低带来的影响;
首先使用Hampel identifier去除异常值,因为由于脉冲刺激或者光线急速变化会有大于1000的数据值出现,这些值对平均值会造成很大的影响,但是对中位数的影响很小,所以使用Hampel identifier这个方法来进行异常值去除。然后使用3阶巴特沃斯低通滤波器去除高频噪声,最后使用Z_score标准化方法去除差异。数据预处理后的效果如图2所示。
S2:基于滤波后的电信号,将其映射成一个像素矩阵,用来区分平滑手势与数字手势;
所述滑动手势是简单手势只有一个方向,在图像上呈现的亮点全部集中在几乎一条线上只有一次变化;所述数字手势由简单手势组成有多个方向,在图像上呈现的亮点则是混乱且存在2次以上或更多的变化。
将数据图像画出来,由于滑动手势只有一个方向也就是每个传感器只有一个波谷点,在图像上的直观显示是每个传感器的亮度只有依次变化。但是数字手势的方向复杂,所以有多个波谷点,利用这种特征将滑动手势和数字手势进行区分。
S3:对于平滑手势,利用时间规则来对平滑手势进行识别获取结果;
对于平滑手势那么直接根据时间规则也就是手经过传感器的先后时间关系就可以识别出是哪一种平滑手势。
S4:对于数字手势,利用自适应上下阈值的方式来对数字手势和环境噪声进行检测,得到手势的发生点和结束点;利用基于动态时间规划(DTW)算法的KNN分类器对波形进行匹配分类,得出手势的识别结果。
自适应上下阈值的方式来将数字手势从环境噪声进行检测出来,具体公式为:
MA(j)=M(|xj(i)-M(xj)|)j={1,2,3,4.....12} (1)
其中Xj指的是第j个传感器的时间序列,xj(i)指的是第j个传感器的第i个值,M指的是中位数,MA(j)指的是每个传感器的波动范围;
上阈值=M(xj)+MA(j) (2)
下阈值=M(xj)-MA(j) (3)。
在一般情况下下无手势发生的时候波形平稳在上下阈值中间,但是当有手势发生波形迅速下降到下阈值以下直到手势结束后又回到上下阈值中去。在进行手势切分的时候可能会遇到环境发生变化,所以这个时候就需要自动计算上下阈值。如果光照强度突然变亮那么波形会达到上阈值的上方。如果环境变暗波形会在下阈值的下方。所以根据这个我们可以在环境发生变化的时候仍然能够检测出手势的发生和结束点。
对于数字手势,采用动态时间规整算法Dynamic Time Warping(DTW)量化不同波形之间的距离(DTW能够有效计算两个不同长度波形对齐后的最短距离)。使用一个基于DTW的k近邻分类器,分类器从训练集中选取k个与待测序列距离最短的序列,并将k个序列中出现最频繁的类标签作为输出结果。
本发明为基于可见光所提出来的身份识别的新型技术,利用手遮挡光线会在平台上投下投下独特的阴影模式,从而利用机器学习来捕获这种模式。与现有的方法进行比较,这种基于可见光的方式利用的就是环境中的光线与环境进行无缝融合,并且是光领域的进一步研究。目前实验控制在环境基本均匀允许慢速的变换情况下,使用我们的方法将平滑手势和数字手势分开去识别,对于平滑手势我们能达到100%识别准确率,对于数字手势识别率可达82.3%。

Claims (3)

1.一种基于环境光的手势识别方法,其特征在于:包括以下步骤:
S1:对采集到的电信号进行滤波处理,去掉电信号中高频噪,然后再进行标准化,去除不同环境光和手运动的位置高低带来的影响;
S2:基于滤波后的电信号,将其映射成一个像素矩阵,用来区分平滑手势与数字手势;
S3:对于平滑手势,利用时间规则来对平滑手势进行识别获取结果;
S4:对于数字手势,利用自适应上下阈值的方式来对数字手势和环境噪声进行检测,得到手势的发生点和结束点;利用基于动态时间规划(DTW)算法的KNN分类器对波形进行匹配分类,得出手势的识别结果。
2.根据权利要求1所述的一种基于环境光的手势识别方法,其特征在于:所述滑动手势是简单手势只有一个方向,在图像上呈现的亮点全部集中在几乎一条线上只有一次变化;所述数字手势由简单手势组成有多个方向,在图像上呈现的亮点则是混乱且存在2次以上或更多的变化。
3.根据权利要求1所述的一种基于环境光的手势识别方法,其特征在于:所述S4中自适应上下阈值的方式来将数字手势从环境噪声进行检测出来,具体公式为:
MA(j)=M(|xj(i)-M(xj)|)j={1,2,3,4.....12} (1)
其中Xj指的是第j个传感器的时间序列,xj(i)指的是第j个传感器的第i个值,M指的是中位数,MA(j)指的是每个传感器的波动范围;
上阈值=M(xj)+MA(j) (2)
下阈值=M(xj)-MA(j) (3)。
CN201910318447.6A 2019-04-19 2019-04-19 一种基于环境光的手势识别方法 Pending CN110046585A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910318447.6A CN110046585A (zh) 2019-04-19 2019-04-19 一种基于环境光的手势识别方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910318447.6A CN110046585A (zh) 2019-04-19 2019-04-19 一种基于环境光的手势识别方法

Publications (1)

Publication Number Publication Date
CN110046585A true CN110046585A (zh) 2019-07-23

Family

ID=67277941

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910318447.6A Pending CN110046585A (zh) 2019-04-19 2019-04-19 一种基于环境光的手势识别方法

Country Status (1)

Country Link
CN (1) CN110046585A (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110942040A (zh) * 2019-11-29 2020-03-31 四川大学 一种基于环境光的手势识别系统和方法
CN112380992A (zh) * 2020-11-13 2021-02-19 上海交通大学 一种加工过程监控数据准确性评估与优化方法及装置
CN114764580A (zh) * 2022-06-15 2022-07-19 湖南工商大学 一种基于无穿戴设备的实时人体手势识别方法

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101976330A (zh) * 2010-09-26 2011-02-16 中国科学院深圳先进技术研究院 手势识别方法和系统
CN103543826A (zh) * 2013-07-30 2014-01-29 广东工业大学 一种基于加速度传感器的手势识别方法
CN103677417A (zh) * 2013-12-12 2014-03-26 小米科技有限责任公司 一种检测手势的方法、装置及终端设备
EP2821886A1 (en) * 2013-07-01 2015-01-07 BlackBerry Limited Touch-less user interface using ambient light sensors
EP2824539A1 (en) * 2013-07-09 2015-01-14 BlackBerry Limited Operating a device using touchless and touchscreen gestures
CN104484032A (zh) * 2013-07-01 2015-04-01 黑莓有限公司 使用环境光传感器的手势检测
CN105511631A (zh) * 2016-01-19 2016-04-20 北京小米移动软件有限公司 手势识别方法及装置
CN105636278A (zh) * 2016-03-10 2016-06-01 深圳市远润欣电子有限公司 一种手势识别的led灯方法及装置
CN107527016A (zh) * 2017-07-25 2017-12-29 西北工业大学 室内WiFi环境下基于动作序列检测的用户身份识别方法

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101976330A (zh) * 2010-09-26 2011-02-16 中国科学院深圳先进技术研究院 手势识别方法和系统
EP2821886A1 (en) * 2013-07-01 2015-01-07 BlackBerry Limited Touch-less user interface using ambient light sensors
CN104484032A (zh) * 2013-07-01 2015-04-01 黑莓有限公司 使用环境光传感器的手势检测
EP2824539A1 (en) * 2013-07-09 2015-01-14 BlackBerry Limited Operating a device using touchless and touchscreen gestures
CN103543826A (zh) * 2013-07-30 2014-01-29 广东工业大学 一种基于加速度传感器的手势识别方法
CN103677417A (zh) * 2013-12-12 2014-03-26 小米科技有限责任公司 一种检测手势的方法、装置及终端设备
CN105511631A (zh) * 2016-01-19 2016-04-20 北京小米移动软件有限公司 手势识别方法及装置
CN105636278A (zh) * 2016-03-10 2016-06-01 深圳市远润欣电子有限公司 一种手势识别的led灯方法及装置
CN107527016A (zh) * 2017-07-25 2017-12-29 西北工业大学 室内WiFi环境下基于动作序列检测的用户身份识别方法

Non-Patent Citations (5)

* Cited by examiner, † Cited by third party
Title
MAHINA-DIANA A. KAHOLOKULA: "Reusing Ambient Light to Recognize Hand Gestures", 《DARTMOUTH COLLEGE UNDERGRADUATE THESES》 *
RAGHAV H. VENKATNARAYAN ET AL: "Gesture Recognition Using Ambient Light", 《PROCEEDINGS OF THE ACM ON INTERACTIVE, MOBILE, WEARABLE AND UBIQUITOUS TECHNOLOGIES》 *
杜堃 等: "复杂环境下通用的手势识别方法", 《计算机应用》 *
杨晋芳 等: "基于红外的非接触式手势识别系统设计", 《物联网技术》 *
阴凉: "智能控制终端中的手势控制方法的研究与实现", 《中国优秀硕士学位论文全文数据库信息科技辑》 *

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110942040A (zh) * 2019-11-29 2020-03-31 四川大学 一种基于环境光的手势识别系统和方法
CN112380992A (zh) * 2020-11-13 2021-02-19 上海交通大学 一种加工过程监控数据准确性评估与优化方法及装置
CN112380992B (zh) * 2020-11-13 2022-12-20 上海交通大学 一种加工过程监控数据准确性评估与优化方法及装置
CN114764580A (zh) * 2022-06-15 2022-07-19 湖南工商大学 一种基于无穿戴设备的实时人体手势识别方法

Similar Documents

Publication Publication Date Title
CN106462239B (zh) 手指追踪
CN110046585A (zh) 一种基于环境光的手势识别方法
Erden et al. Hand gesture based remote control system using infrared sensors and a camera
CN103353935B (zh) 一种用于智能家居系统的3d动态手势识别方法
Dinh et al. Hand gesture recognition and interface via a depth imaging sensor for smart home appliances
CN104123007A (zh) 一种多维加权的3d动态手势识别方法
CN103440035A (zh) 一种三维空间中的手势识别系统及其识别方法
Guo et al. Tensor manifold discriminant projections for acceleration-based human activity recognition
CN103886510A (zh) 基于图像识别的农产品全程溯源系统及方法
KR101899590B1 (ko) 손 모양 및 동작 인식장치 및 방법
Nandwana et al. A survey paper on hand gesture recognition
Zhang et al. Robotic control of dynamic and static gesture recognition
KR20120089948A (ko) Mhi의 형태 정보를 이용한 실시간 동작 인식시스템 및 실시간 동작 인식 방법
Xia et al. Using the virtual data-driven measurement to support the prototyping of hand gesture recognition interface with distance sensor
CN115841707A (zh) 基于深度学习的雷达人体姿态识别方法及相关设备
Hu et al. Vihand: Gesture recognition with ambient light
Rubin Bose et al. In-situ identification and recognition of multi-hand gestures using optimized deep residual network
CN106815264B (zh) 一种信息处理方法及系统
CN104375631A (zh) 一种基于移动终端的非接触式交互方法
CN105026900B (zh) 用于个人背景环境的分光计
CN103777819A (zh) 电脑遥控系统及方法
KR101556696B1 (ko) 단위 동작에 따른 사람의 행동 인식 방법 및 시스템
CN104866112A (zh) 一种基于移动终端的非接触式交互方法
Hou Sr et al. Skeleton based action recognition using pose change map and convolutional neural networks
CN105511643A (zh) 一种基于三轴加速度传感器的手势识别方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20190723

RJ01 Rejection of invention patent application after publication