CN111880661A - 手势识别方法及装置 - Google Patents

手势识别方法及装置 Download PDF

Info

Publication number
CN111880661A
CN111880661A CN202010765806.5A CN202010765806A CN111880661A CN 111880661 A CN111880661 A CN 111880661A CN 202010765806 A CN202010765806 A CN 202010765806A CN 111880661 A CN111880661 A CN 111880661A
Authority
CN
China
Prior art keywords
data
gesture
image data
coprocessor
gesture recognition
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202010765806.5A
Other languages
English (en)
Inventor
孙哲
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangdong Oppo Mobile Telecommunications Corp Ltd
Original Assignee
Guangdong Oppo Mobile Telecommunications Corp Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangdong Oppo Mobile Telecommunications Corp Ltd filed Critical Guangdong Oppo Mobile Telecommunications Corp Ltd
Priority to CN202010765806.5A priority Critical patent/CN111880661A/zh
Publication of CN111880661A publication Critical patent/CN111880661A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • G06V40/28Recognition of hand or arm movements, e.g. recognition of deaf sign language

Abstract

本申请公开了一种手势识别方法及装置,应用于电子设备,所述电子设备包括协处理器和中央处理器CPU,所述方法包括:采集图像数据,所述图像数据中包括用户的手势数据;将所述图像数据发送给所述协处理器;通过所述协处理器识别所述图像数据中的手势数据得到手势检测结果。采用本申请实施例有利于提升手势识别速度,降低电子设备的功耗。

Description

手势识别方法及装置
技术领域
本申请涉及电子技术领域,尤其涉及一种手势识别方法及装置。
背景技术
目前,对于手势识别功能,若采用神经网络技术,在终端设备(例如,智能手机)上,部署起来显得比较吃力,并且神经网络算法并不是每个算子都可以在数字信号处理(Digital Signal Processing,DSP)或者神经网络处理器(Neural-network ProcessingUnits,NPU)上运行,则需要唤醒中央处理器(central processing unit,CPU),在CPU上进行部分数据处理,因此会在数据的连续搬运上带来性能的降低,尤其在使用手机的图像采集功能进行手势识别时,对CPU不断的唤醒,会极大的降低终端设备的性能。
发明内容
本申请实施例提供一种手势识别方法及装置,以期提升手势识别速度,降低电子设备的功耗。
第一方面,本申请实施例提供一种手势识别方法,应用于电子设备,所述电子设备包括协处理器和中央处理器CPU,所述方法包括:
采集图像数据,所述图像数据中包括用户的手势数据;
将所述图像数据发送给所述协处理器;
通过所述协处理器识别所述图像数据中的手势数据得到手势检测结果。
第二方面,本申请实施例提供一种手势识别装置,应用于电子设备,所述电子设备包括协处理器和中央处理器CPU,所述手势识别装置包括采集单元、发送单元和处理单元,其中:
所述采集单元,用于采集图像数据,所述图像数据中包括用户的手势数据;
所述发送单元,用于将所述图像数据发送给所述协处理器;
所述处理单元,用于通过所述协处理器识别所述图像数据中的手势数据得到手势检测结果。
第三方面,本申请实施例提供一种电子设备,包括处理器、存储器、通信接口以及一个或多个程序,其中,上述一个或多个程序被存储在上述存储器中,并且被配置由上述处理器执行,上述程序包括用于执行本申请实施例第一方面任一方法中的步骤的指令。
第四方面,本申请实施例提供了一种计算机可读存储介质,其中,上述计算机可读存储介质存储用于电子数据交换的计算机程序,其中,上述计算机程序使得计算机执行如本申请实施例第一方面任一方法中所描述的部分或全部步骤。
第五方面,本申请实施例提供了一种计算机程序产品,其中,上述计算机程序产品包括存储了计算机程序的非瞬时性计算机可读存储介质,上述计算机程序可操作来使计算机执行如本申请实施例第一方面任一方法中所描述的部分或全部步骤。该计算机程序产品可以为一个软件安装包。
可以看出,在本申请实施例中,电子设备采集图像数据,所述图像数据中包括用户的手势数据;将所述图像数据发送给所述协处理器;通过所述协处理器识别所述图像数据中的手势数据得到手势检测结果。可见,电子设备仅通过低功耗的协处理器对图像数据进检测得到手势检测结果,而不需要协处理器与CPU联合处理,通过减少数据的搬运提高了手势识别的速度,而且,可以避免CPU的多次唤醒,有效降低电子设备的功耗。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的一种电子设备的结构示意图;
图2是本申请实施例提供的一种电子设备的软件结构示意图;
图3A是本申请实施例提供的一种手势识别方法的流程示意图;
图3B是本申请实施例提供的一种手势识别的算法流程示意图;
图4是本申请实施例提供的另一种手势识别方法的流程示意图;
图5是本申请实施例提供的一种手势识别装置的分布式功能单元框图;
图6是本申请实施例提供的一种手势识别装置的集成式功能单元框图。
具体实施方式
下面将结合附图,对本申请实施例中的技术方案进行描述。
为了更好地理解本申请实施例的方案,下面先对本申请实施例可能涉及的相关术语和概念进行介绍。
1)电子设备可以是还包含其它功能诸如个人数字助理和/或音乐播放器功能的便携式电子设备,诸如手机、平板电脑、具备无线通讯功能的可穿戴电子设备(如智能手表)等。便携式电子设备的示例性实施例包括但不限于搭载IOS系统、Android系统、Microsoft系统或者其它操作系统的便携式电子设备。上述便携式电子设备也可以是其它便携式电子设备,诸如膝上型计算机(Laptop)等。还应当理解的是,在其他一些实施例中,上述电子设备也可以不是便携式电子设备,而是台式计算机。
2)常开式传感器(Alawys on sensor,AON):AON是指被设置用于情景感知(即场景识别)的低功耗图像感应器。
3)神经网络处理器(Neural-network Processing Units,NPU),NPU是为神经网络(neural-network,NN)计算处理器,通过借鉴生物神经网络结构,例如借鉴人脑神经元之间传递模式,对输入信息快速处理,还可以不断的自学习。通过NPU可以实现手机等电子设备的智能认知等应用,例如:图像美颜,图像识别,人脸识别,语音识别,文本理解等。
示例性的,图1示出了电子设备100的结构示意图。电子设备100可以包括处理器110、外部存储器接口120、内部存储器121、通用串行总线(universal serial bus,USB)接口130、充电管理模块140、电源管理模块141、电池142、天线1、天线2、移动通信模块150、无线通信模块160、音频模块170、扬声器170A、受话器170B、麦克风170C、耳机接口170D、传感器模块180、指南针190、马达191、指示器192、摄像头193、显示屏194以及用户标识模块(subscriber identification module,SIM)卡接口195等。
可以理解的是,本申请实施例示意的结构并不构成对电子设备100的具体限定。在本申请另一些实施例中,电子设备100可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件,软件或软件和硬件的组合实现。
处理器110可以包括一个或多个处理单元,例如:处理器110可以包括应用处理器(application processor,AP),调制解调处理器,图形处理器(graphics processingunit,GPU),图像信号处理器(image signal processor,ISP),控制器,视频编解码器,数字信号处理器(digital signal processor,DSP),基带处理器,和/或神经网络处理器(neural-network processing unit,NPU)等。其中,不同的处理单元可以是独立的部件,也可以集成在一个或多个处理器中。在一些实施例中,电子设备100也可以包括一个或多个处理器110。其中,控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。在其他一些实施例中,处理器110中还可以设置存储器,用于存储指令和数据。示例性地,处理器110中的存储器可以为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据,可从所述存储器中直接调用。这样就避免了重复存取,减少了处理器110的等待时间,因而提高了电子设备100处理数据或执行指令的效率。
在一些实施例中,处理器110可以包括一个或多个接口。接口可以包括集成电路间(inter-integrated circuit,I2C)接口、集成电路间音频(inter-integrated circuitsound,I2S)接口、脉冲编码调制(pulse code modulation,PCM)接口、通用异步收发传输器(universal asynchronous receiver/transmitter,UART)接口、移动产业处理器接口(mobile industry processor interface,MIPI)、用输入输出(general-purpose input/output,GPIO)接口、SIM卡接口和/或USB接口等。其中,USB接口130是符合USB标准规范的接口,具体可以是Mini USB接口、Micro USB接口、USB Type C接口等。USB接口130可以用于连接充电器为电子设备100充电,也可以用于电子设备100与外围设备之间传输数据。该USB接口130也可以用于连接耳机,通过耳机播放音频。
可以理解的是,本申请实施例示意的各模块间的接口连接关系,只是示意性说明,并不构成对电子设备100的结构限定。在本申请另一些实施例中,电子设备100也可以采用上述实施例中不同的接口连接方式,或多种接口连接方式的组合。
充电管理模块140用于从充电器接收充电输入。其中,充电器可以是无线充电器,也可以是有线充电器。在一些有线充电的实施例中,充电管理模块140可以通过USB接口130接收有线充电器的充电输入。在一些无线充电的实施例中,充电管理模块140可以通过电子设备100的无线充电线圈接收无线充电输入。充电管理模块140为电池142充电的同时,还可以通过电源管理模块141为电子设备供电。
电源管理模块141用于连接电池142,充电管理模块140与处理器110。电源管理模块141接收电池142和/或充电管理模块140的输入,为处理器110、内部存储器121、外部存储器、显示屏194、摄像头193和无线通信模块160等供电。电源管理模块141还可以用于监测电池容量、电池循环次数、电池健康状态(漏电,阻抗)等参数。在其他一些实施例中,电源管理模块141也可以设置于处理器110中。在另一些实施例中,电源管理模块141和充电管理模块140也可以设置于同一个器件中。
电子设备100的无线通信功能可以通过天线1、天线2、移动通信模块150、无线通信模块160、调制解调处理器以及基带处理器等实现。
天线1和天线2用于发射和接收电磁波信号。电子设备100中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用,以提高天线的利用率。例如:可以将天线1复用为无线局域网的分集天线。在另外一些实施例中,天线可以和调谐开关结合使用。
移动通信模块150可以提供应用在电子设备100上的包括2G/3G/4G/5G等无线通信的解决方案。移动通信模块150可以包括至少一个滤波器,开关,功率放大器,低噪声放大器(low noise amplifier,LNA)等。移动通信模块150可以由天线1接收电磁波,并对接收的电磁波进行滤波,放大等处理,传送至调制解调处理器进行解调。移动通信模块150还可以对经调制解调处理器调制后的信号放大,经天线1转为电磁波辐射出去。在一些实施例中,移动通信模块150的至少部分功能模块可以被设置于处理器110中。在一些实施例中,移动通信模块150的至少部分功能模块可以与处理器110的至少部分模块被设置在同一个器件中。
无线通信模块160可以提供应用在电子设备100上的包括无线局域网(wirelesslocal area networks,WLAN)(如无线保真(wireless fidelity,Wi-Fi)网络)、蓝牙(bluetooth,BT),全球导航卫星系统(global navigation satellite system,GNSS)、调频(frequency modulation,FM)、近距离无线通信技术(near field communication,NFC)、红外技术(infrared,IR)等无线通信的解决方案。无线通信模块160可以是集成至少一个通信处理模块的一个或多个器件。无线通信模块160经由天线2接收电磁波,将电磁波信号调频以及滤波处理,将处理后的信号发送到处理器110。无线通信模块160还可以从处理器110接收待发送的信号,对其进行调频,放大,经天线2转为电磁波辐射出去。
电子设备100通过GPU,显示屏194,以及应用处理器等实现显示功能。GPU为图像处理的微处理器,连接显示屏194和应用处理器。GPU用于执行数学和几何计算,用于图形渲染。处理器110可包括一个或多个GPU,其执行程序指令以生成或改变显示信息。
显示屏194用于显示图像、视频等。显示屏194包括显示面板。显示面板可以采用液晶显示屏(liquid crystal display,LCD)、有机发光二极管(organic light-emittingdiode,OLED)、有源矩阵有机发光二极体或主动矩阵有机发光二极体(active-matrixorganic light emitting diode 的,AMOLED)、柔性发光二极管(flex light-emittingdiode,FLED)、迷你发光二极管(mini light-emitting diode,miniled)、MicroLed、Micro-oLed、量子点发光二极管(quantum dot light emitting diodes,QLED)等。在一些实施例中,电子设备100可以包括1个或多个显示屏194。
电子设备100可以通过ISP、摄像头193、视频编解码器、GPU、显示屏194以及应用处理器等实现拍摄功能。
ISP用于处理摄像头193反馈的数据。例如,拍照时,打开快门,光线通过镜头被传递到摄像头感光元件上,光信号转换为电信号,摄像头感光元件将所述电信号传递给ISP处理,转化为肉眼可见的图像。ISP还可以对图像的噪点、亮度、肤色进行算法优化。ISP还可以对拍摄场景的曝光、色温等参数优化。在一些实施例中,ISP可以设置在摄像头193中。
摄像头193包括普通摄像头(也可以说相机传感器)或者上述AON对应的低功耗摄像头,用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(charge coupled device,CCD)或互补金属氧化物半导体(complementary metal-oxide-semiconductor,CMOS)光电晶体管。感光元件把光信号转换成电信号,之后将电信号传递给ISP转换成数字图像信号。ISP将数字图像信号输出到DSP加工处理。DSP将数字图像信号转换成标准的RGB,YUV等格式的图像信号。在一些实施例中,电子设备100可以包括1个或多个摄像头193,该低功耗摄像头为对应功能专用摄像头,当一直处于工作状态时,功耗较低,且可以实时获取图像数据,与普通摄像头可以同时获取图像数据,两者实现功能和数据隔离,互不干涉,例如,普通摄像头在执行拍照功能,同时,低功耗摄像头在进行手势识别功能。
数字信号处理器用于处理数字信号,除了可以处理数字图像信号,还可以处理其他数字信号。例如,当电子设备100在频点选择时,数字信号处理器用于对频点能量进行傅里叶变换等。
视频编解码器用于对数字视频压缩或解压缩。电子设备100可以支持一种或多种视频编解码器。这样,电子设备100可以播放或录制多种编码格式的视频,例如:动态图像专家组(moving picture experts group,MPEG)1、MPEG2、MPEG3、MPEG4等。
NPU为神经网络(neural-network,NN)计算处理器,通过借鉴生物神经网络结构,例如借鉴人脑神经元之间传递模式,对输入信息快速处理,还可以不断的自学习。通过NPU可以实现电子设备100的智能认知等应用,例如:图像识别、人脸识别、语音识别、文本理解等。
外部存储器接口120可以用于连接外部存储卡,例如Micro SD卡,实现扩展电子设备100的存储能力。外部存储卡通过外部存储器接口120与处理器110通信,实现数据存储功能。例如将音乐,视频等文件保存在外部存储卡中。
内部存储器121可以用于存储一个或多个计算机程序,该一个或多个计算机程序包括指令。处理器110可以通过运行存储在内部存储器121的上述指令,从而使得电子设备100执行本申请一些实施例中所提供的显示页面元素的方法,以及各种应用以及数据处理等。内部存储器121可以包括存储程序区和存储数据区。其中,存储程序区可存储操作系统;该存储程序区还可以存储一个或多个应用(比如图库、联系人等)等。存储数据区可存储电子设备100使用过程中所创建的数据(比如照片,联系人等)等。此外,内部存储器121可以包括高速随机存取存储器,还可以包括非易失性存储器,例如一个或多个磁盘存储部件,闪存部件,通用闪存存储器(universal flash storage,UFS)等。在一些实施例中,处理器110可以通过运行存储在内部存储器121的指令,和/或存储在设置于处理器110中的存储器的指令,来使得电子设备100执行本申请实施例中所提供的显示页面元素的方法,以及其他应用及数据处理。电子设备100可以通过音频模块170、扬声器170A、受话器170B、麦克风170C、耳机接口170D、以及应用处理器等实现音频功能。例如音乐播放、录音等。
传感器模块180可以包括压力传感器180A、陀螺仪传感器180B、气压传感器180C、磁传感器180D、加速度传感器180E、距离传感器180F、接近光传感器180G、指纹传感器180H、温度传感器180J、触摸传感器180K、环境光传感器180L、预设传感器180M等。
其中,预设传感器180M为支持手势/人脸检测的专用传感器,如上述常开式传感器,所述预设传感器用于抓取图像数据,通过智能传感集线器Sensor HUB接入一颗外置的数字信号处理器(Digital Signal Processor,DSP)进行数据处理,来实现相关的功能。
压力传感器180A用于感受压力信号,可以将压力信号转换成电信号。在一些实施例中,压力传感器180A可以设置于显示屏194。压力传感器180A的种类很多,如电阻式压力传感器,电感式压力传感器,电容式压力传感器等。电容式压力传感器可以是包括至少两个具有导电材料的平行板。当有力作用于压力传感器180A,电极之间的电容改变。电子设备100根据电容的变化确定压力的强度。当有触摸操作作用于显示屏194,电子设备100根据压力传感器180A检测所述触摸操作强度。电子设备100也可以根据压力传感器180A的检测信号计算触摸的位置。在一些实施例中,作用于相同触摸位置,但不同触摸操作强度的触摸操作,可以对应不同的操作指令。例如:当有触摸操作强度小于第一压力阈值的触摸操作作用于短消息应用图标时,执行查看短消息的指令。当有触摸操作强度大于或等于第一压力阈值的触摸操作作用于短消息应用图标时,执行新建短消息的指令。
陀螺仪传感器180B可以用于确定电子设备100的运动姿态。在一些实施例中,可以通过陀螺仪传感器180B确定电子设备100围绕三个轴(即X、Y和Z轴)的角速度。陀螺仪传感器180B可以用于拍摄防抖。示例性的,当按下快门,陀螺仪传感器180B检测电子设备100抖动的角度,根据角度计算出镜头模组需要补偿的距离,让镜头通过反向运动抵消电子设备100的抖动,实现防抖。陀螺仪传感器180B还可以用于导航,体感游戏场景。
加速度传感器180E可检测电子设备100在各个方向上(一般为三轴)加速度的大小。当电子设备100静止时可检测出重力的大小及方向。还可以用于识别电子设备姿态,应用于横竖屏切换,计步器等应用。
环境光传感器180L用于感知环境光亮度。电子设备100可以根据感知的环境光亮度自适应调节显示屏194亮度。环境光传感器180L也可用于拍照时自动调节白平衡。环境光传感器180L还可以与接近光传感器180G配合,检测电子设备100是否在口袋里,以防误触。
指纹传感器180H用于采集指纹。电子设备100可以利用采集的指纹特性实现指纹解锁,访问应用锁,指纹拍照,指纹接听来电等。
温度传感器180J用于检测温度。在一些实施例中,电子设备100利用温度传感器180J检测的温度,执行温度处理策略。例如,当温度传感器180J上报的温度超过阈值,电子设备100执行降低位于温度传感器180J附近的处理器的性能,以便降低功耗实施热保护。在另一些实施例中,当温度低于另一阈值时,电子设备100对电池142加热,以避免低温导致电子设备100异常关机。在其他一些实施例中,当温度低于又一阈值时,电子设备100对电池142的输出电压执行升压,以避免低温导致的异常关机。
触摸传感器180K,也称“触控面板”。触摸传感器180K可以设置于显示屏194,由触摸传感器180K与显示屏194组成触摸屏,也称“触控屏”。触摸传感器180K用于检测作用于其上或附近的触摸操作。触摸传感器可以将检测到的触摸操作传递给应用处理器,以确定触摸事件类型。可以通过显示屏194提供与触摸操作相关的视觉输出。在另一些实施例中,触摸传感器180K也可以设置于电子设备100的表面,与显示屏194所处的位置不同。
图2是本申请实施例的电子设备100的软件结构框图。分层架构将软件分成若干个层,每一层都有清晰的角色和分工。层与层之间通过软件接口通信。在一些实施例中,将Android系统分为四层,从上至下分别为应用程序层,应用程序框架层,安卓运行时(Android runtime)和系统库,以及内核层。应用程序层可以包括一系列应用程序包。
如图2所示,应用程序包可以包括相机,图库,日历,通话,地图,导航,WLAN,蓝牙,音乐,视频,短信息等应用程序。
应用程序框架层为应用程序层的应用程序提供应用编程接口(applicationprogramming interface,API)和编程框架。应用程序框架层包括一些预先定义的函数。
如图2所示,应用程序框架层可以包括窗口管理器,内容提供器,视图系统,电话管理器,资源管理器,通知管理器等。
窗口管理器用于管理窗口程序。窗口管理器可以获取显示屏大小,判断是否有状态栏,锁定屏幕,截取屏幕等。
内容提供器用来存放和获取数据,并使这些数据可以被应用程序访问。所述数据可以包括视频,图像,音频,拨打和接听的电话,浏览历史和书签,电话簿等。
视图系统包括可视控件,例如显示文字的控件,显示图片的控件等。视图系统可用于构建应用程序。显示界面可以由一个或多个视图组成的。例如,包括短信通知图标的显示界面,可以包括显示文字的视图以及显示图片的视图。
电话管理器用于提供电子设备100的通信功能。例如通话状态的管理(包括接通,挂断等)。
资源管理器为应用程序提供各种资源,比如本地化字符串,图标,图片,布局文件,视频文件等等。
通知管理器使应用程序可以在状态栏中显示通知信息,可以用于传达告知类型的消息,可以短暂停留后自动消失,无需用户交互。比如通知管理器被用于告知下载完成,消息提醒等。通知管理器还可以是以图表或者滚动条文本形式出现在系统顶部状态栏的通知,例如后台运行的应用程序的通知,还可以是以对话窗口形式出现在屏幕上的通知。例如在状态栏提示文本信息,发出提示音,电子设备振动,指示灯闪烁等。
Android Runtime包括核心库和虚拟机。Android runtime负责安卓系统的调度和管理。
核心库包含两部分:一部分是java语言需要调用的功能函数,另一部分是安卓的核心库。
应用程序层和应用程序框架层运行在虚拟机中。虚拟机将应用程序层和应用程序框架层的java文件执行为二进制文件。虚拟机用于执行对象生命周期的管理,堆栈管理,线程管理,安全和异常的管理,以及垃圾回收等功能。
系统库可以包括多个功能模块。例如:表面管理器(surface manager),媒体库(media libraries),三维图形处理库(例如:OpenGL ES),2D图形引擎(例如:SGL)等。
表面管理器用于对显示子系统进行管理,并且为多个应用程序提供了2D和3D图层的融合。
媒体库支持多种常用的音频,视频格式回放和录制,以及静态图像文件等。媒体库可以支持多种音视频编码格式,例如:MPEG4,H.264,MP3,AAC,AMR,JPG,PNG等。
三维图形处理库用于实现三维图形绘图,图像渲染,合成,和图层处理等。
2D图形引擎是2D绘图的绘图引擎。
内核层是硬件和软件之间的层。内核层至少包含显示驱动,摄像头驱动,音频驱动,传感器驱动。
下面对本申请实施例进行详细介绍。
请参阅图3A,图3A是本申请实施例提供了一种手势识别方法的流程示意图,应用于上述电子设备,如图所示,本手势识别方法包括以下操作。
S301,电子设备采集图像数据,所述图像数据中包括用户的手势数据;
其中,所述图像数据可以是通过预设传感器获取的数据,也可以是通过相机传感器获取的数据,在此不做限定。
其中,预设传感器可以为上述常开式传感器,例如,低功耗的图像感应器该传感器可以为手势识别专用传感器。
其中,通过预设传感器获取的图像数据为灰白图像数据,通过相机传感器获取的图像数据为彩色图像数据。
S302,所述电子设备将所述图像数据发送给所述协处理器;
其中,所述协处理器包括数字信号处理(Digital Signal Processing,DSP)或者神经网络处理器(Neural-network Processing Units,NPU),在此不做限定。
其中,所述电子设备将所述图像数据发送给所述协处理器过程中,可以对图像数据进行预处理,将预处理后的数据发送给协处理器,其中,当图像数据为预设传感器获取的数据时,可以进行亮度提升处理,当图像数据为相机传感器获取的数据时,可以通过降噪、色彩处理,以及剪裁等将彩色图像数据处理为与预设传感器获取的图像数据的格式相同的数据。
S303,所述电子设备通过所述协处理器识别所述图像数据中的手势数据得到手势检测结果。
其中,所述通过所述协处理器识别所述图像数据中的手势数据得到手势检测结果可以是多种多样的,例如可以是通过部署在协处理上的预训练好的神经网络模型识别手势数据得到手势检测结果,或者可以是通过部署在协处理上的特征点识别算法得到手势检测结果等,在此不做限定。
可选的,由于该电子设备仅需要通过协处理器进行手势检测,因此,该电子设备的CPU可以处于低功耗模式,节约电量消耗,以及降低功率消耗。
可选的,由于该电子设备仅需要通过协处理器进行手势检测,因此,该电子设备的CPU可以处理同时处理其他功能模块,有利于降低CPU的计算量,减轻CPU的承载。
可以看出,本申请实施例中,电子设备采集图像数据,所述图像数据中包括用户的手势数据;将所述图像数据发送给所述协处理器;通过所述协处理器识别所述图像数据中的手势数据得到手势检测结果。可见,电子设备仅通过低功耗的协处理器对图像数据进检测得到手势检测结果,而不需要协处理器与CPU联合处理,通过减少数据的搬运提高了手势识别的速度,而且,可以避免CPU的多次唤醒,有效降低电子设备的功耗。
在一个可能的示例中,所述通过所述协处理器识别所述图像数据中的手势数据得到手势检测结果,包括:
通过所述协处理器将所述图像数据输入预设模型,得到多个手势数据,每个所述手势数据包括手势类别和概率值;
通过所述协处理器根据所述手势数据和非极大值抑制(Non-MaximumSuppression,NMS)算法检测得到所述手势检测结果。
其中,所述预设模型可以为神经网络卷积模型,且,所述预设模型为所述电子设备在出厂前,由技术开发人员预训练好部署在所述协处理器上的,通过预设模型可以得出手势数据的类别和概率值如图3B所示。
其中,所述手势类别例如可以是手掌、手背、握拳手势等,在此不做限定。
其中,所述多个手势数据可以是针对一个手势得到的多个手势数据,也可以是通过多个手势得到的多个手势数据,每个手势数据代表一个检测框中的手势数据,每个检测框对应有一个概率值,一个手势对应多个检测框,如图3B所示。
其中,如图3B所示,非极大值抑制NMS算法在该手势数据检测中用于提取概率值最高的检测窗,也就是说,通过NMS算法来选取邻域里概率值最高的检测框,并且抑制那些概率值低的检测窗,得到上述手势检测结果。
可见,本示例中,电子设备首先将图像数据输入预设模型进行数据分类,得到多个手势数据的类别和概率值,然后通过非极大值抑制NMS算法检测得到手势检测结果,这些算法均在协处理器上进行,不需要唤醒CPU,降低功耗。
在这个可能的示例中,所述通过所述协处理器根据所述手势数据和非极大值抑制NMS算法检测得到所述手势检测结果,包括:
通过所述协处理器删除所述手势数据中概率值小于预设概率值的数据得到参考数据;
通过所述协处理器对所述参考数据执行所述NMS算法检测得到所述手势检测结果。
其中,所述预设概率值例如可以是0.6、0.7等,在此不做限定。
其中,所述预设概率值为电子设备在出厂前,由技术开发人员预配置在所述电子设备中。
其中,所述参考数据包括概率值大于预设概率值的手势数据。
可见,本示例中,电子设备在通过协处理器对手势数据执行NMS算法检测之前,首先删除掉冗余的手势数据,通过概率值先排除掉一部分手势数据,有利于降低算法的复杂度,降低功率消耗。
在一个可能的示例中,所述预设模型为对标注后的参考图像数据进行神经网络算法训练得到的模型;所述参考图像数据包括通过预设传感器获取的第一数据,和/或对相机传感器采集的初始图像数据进行预处理得到的与所述第一数据的数据格式相同的第二数据。
其中,在电子设备出厂前,技术开发人员通过预设传感器或者相机传感器获取的参考图像数据进行人工标注,将标注后的参考图像数据进行神经网络算法训练得到所述预设模型,并将所述预设模型部署在协处理器上。
其中,参考图像数据为大量的图像数据,举例而言,可以包括十万帧、二十万帧图像数据,在此不做限定。
其中,预设传感器和相机传感器可以同时并行执行数据获取的操作,提升数据获取的准确性。
其中,为了适应预设传感器对应的低功耗的硬件架构,在模型训练之前,需要将参考图像数据统一为预设传感器获取数据格式类型,以使在预设模型部署在电子设备的协处理器上时,协处理器可以通过低功耗的预设传感器获取的图像数据迅速便捷的进行手势识别。
其中,上述采集图像数据后,将图像数据发送给协处理器的过程中需要根据采集图像数据的装置不同,对图像数据进行不同的预处理,以适配该预设模型。
其中,所述数据格式相同包括图像色彩相同,图像尺寸相同等。
其中,第一数据可以是对预设传感器获取的数据进行亮度提升处理后的数据。
其中,所述预处理可以是上述降噪、色彩处理,以及剪裁处理等,在此不做限定。
可见,本示例中,电子设备上部署的预设模型,是针对统一的预设传感器对应的数据格式的参考图像数据进行训练得到的,符合电子设备的硬件架构,有利于实现低功耗的预设传感器获取数据的手势识别检测。
在一个可能的示例中,所述预设模型为通过量化处理后的模型,所述预设模型中的数据均为8位的整型数据。
其中,量化处理之前的模型中的数据为32位的浮点型数据,通过量化处理,将预设模型中的数据均量化位8位的整型数据。
可见,本示例中,电子设备中协处理器上部署的预设模型为量化处理后的模型,即将模型优化到原来浮点类型的四分之一,有利于实现预设模型在协处理器上的部署,降低运行内容。
在一个可能的示例中,所述方法还包括:
当检测到手势识别模式启动时,初始化所述协处理器中的预设模型;
当检测到所述手势识别模式关闭时,停止手势识别服务,并释放所述协处理器中所述手势识别模式对应的资源。
其中,检测到手势识别模式启动的具体实现方式可以是多种多样的,例如可以是通过检测到开启手势识别模式的语音数据,或者可以是检测到针对手势识别模式的开关的点击操作,或者可以是电子设备在首次被使用过程中检测到电子设备的激活操作等,在此不做限定。
其中,检测到手势识别模式关闭的具体实现方式可以是多种多样的,例如可以是通过检测到关闭手势识别模式的语音数据,或者可以是检测到针对手势识别模式的开关的点击操作,或者可以是检测到针对手势识别模式关闭的手势等,在此不做限定。
其中,释放掉的协处理器中所述手势识别模式对应的资源可以使协处理器处理其他功能。
可见,本示例中,电子设备在检测到手势识别模式启动时,及时初始化预设模型,有利于提升手势识别算法的速度,并且,在检测到手势识别模式关闭时,及时释放协处理中的对应资源,有利于提升电子设备的性能。
在这个可能的示例中,所述采集图像数据,包括:通过预设传感器采集所述图像数据。
其中,预设传感器可以为低功耗的前置摄像头。
可见,本示例中,电子设备通过手势识别专用的预设传感器采集图像数据,有利于保障数据的及时获取,降低功率消耗。
请参阅图4,图4是本申请实施例提供的另一种手势识别方法的流程示意图,该手势识别方法可以应用于上述电子设备。如图所示,本手势识别方法包括以下操作:
S401,电子设备当检测到手势识别模式启动时,初始化所述协处理器中的预设模型。
S402,电子设备采集图像数据,所述图像数据中包括用户的手势数据。
S403,所述电子设备将所述图像数据发送给协处理器。
S404,所述电子设备通过所述协处理器将所述图像数据输入预设模型,得到多个手势数据,每个所述手势数据包括手势类别和概率值。
S405,所述电子设备通过所述协处理器删除所述手势数据中概率值小于预设概率值的数据得到参考数据。
S406,所述电子设备通过所述协处理器对所述参考数据执行NMS算法检测得到手势检测结果。
S407,所述电子设备当检测到所述手势识别模式关闭时,停止手势识别服务,并释放所述协处理器中所述手势识别模式对应的资源。
可以看出,本申请实施例中,电子设备采集图像数据,所述图像数据中包括用户的手势数据;将所述图像数据发送给所述协处理器;通过所述协处理器识别所述图像数据中的手势数据得到手势检测结果。可见,电子设备仅通过低功耗的协处理器对图像数据进检测得到手势检测结果,而不需要协处理器与CPU联合处理,通过减少数据的搬运提高了手势识别的速度,而且,可以避免CPU的多次唤醒,有效降低电子设备的功耗。
此外,电子设备首先将图像数据输入预设模型进行数据分类,得到多个手势数据的类别和概率值,然后通过非极大值抑制NMS算法检测得到手势检测结果,这些算法均在协处理器上进行,不需要唤醒CPU,降低功耗。
此外,电子设备在通过协处理器对手势数据执行NMS算法检测之前,首先删除掉冗余的手势数据,通过概率值先排除掉一部分手势数据,有利于降低算法的复杂度,降低功率消耗。
本申请实施例提供一种手势识别装置,该手势识别装置可以为上述电子设备。具体的,手势识别装置用于执行以上手势识别方法的步骤。本申请实施例提供的手势识别装置可以包括相应步骤所对应的模块。
本申请实施例可以根据上述方法示例对手势识别装置进行功能模块的划分,例如,可以对应各个功能划分各个功能模块,也可以将两个或两个以上的功能集成在一个处理模块中。上述集成的模块既可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。本申请实施例中对模块的划分是示意性的,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。
在采用对应各个功能划分各个功能模块的情况下,图5示出上述实施例中所涉及的手势识别装置的一种可能的结构示意图。如图5所示,手势识别装置500包括采集单元501、发送单元502和处理单元503,其中:
所述采集单元501,用于采集图像数据,所述图像数据中包括用户的手势数据;
所述发送单元502,用于将所述图像数据发送给所述协处理器;
所述处理单元503,用于通过所述协处理器识别所述图像数据中的手势数据得到手势检测结果。
其中,上述方法实施例涉及的各步骤的所有相关内容均可以援引到对应功能模块的功能描述,在此不再赘述。当然,本申请实施例提供的手势识别装置包括但不限于上述模块,例如:手势识别装置还可以包括存储单元。存储单元可以用于存储该手势识别装置的程序代码和数据。
在采用集成的单元的情况下,本申请实施例提供的手势识别装置的结构示意图如图6所示。在图6中,手势识别装置600包括:处理模块602和通信模块601。处理模块602用于对手势识别装置的动作进行控制管理,例如,执行采集单元501、发送单元502和处理单元503执行的步骤,和/或用于执行本文所描述的技术的其它过程。通信模块601用于支持手势识别装置与其他设备之间,或者手势识别装置内部模块之间的交互。如图6所示,手势识别装置还可以包括存储模块603,存储模块603用于存储手势识别装置的程序代码和数据,例如存储上述存储单元所保存的内容。
其中,处理模块602可以是处理器或控制器,例如可以是中央处理器(CentralProcessing Unit,CPU),通用处理器,数字信号处理器(Digital Signal Processor,DSP),ASIC,FPGA或者其他可编程逻辑器件、晶体管逻辑器件、硬件部件或者其任意组合。其可以实现或执行结合本申请公开内容所描述的各种示例性的逻辑方框,模块和电路。所述处理器也可以是实现计算功能的组合,例如包含一个或多个微处理器组合,DSP和微处理器的组合等等。通信模块601可以是收发器、射频电路或通信接口等。存储模块603可以是存储器。
其中,上述方法实施例涉及的各场景的所有相关内容均可以援引到对应功能模块的功能描述,在此不再赘述。上述手势识别装置500和手势识别装置600均可执行上述图3A-4任一所示的手势识别方法。
本实施例还提供一种计算机存储介质,该计算机存储介质中存储有计算机指令,当该计算机指令在电子设备上运行时,使得电子设备执行上述相关方法步骤实现上述实施例中的操作方法。
本实施例还提供了一种计算机程序产品,当该计算机程序产品在计算机上运行时,使得计算机执行上述相关步骤,以实现上述实施例中的手势识别方法。
另外,本申请的实施例还提供一种装置,这个装置具体可以是芯片,组件或模块,该装置可包括相连的处理器和存储器;其中,存储器用于存储计算机执行指令,当装置运行时,处理器可执行存储器存储的计算机执行指令,以使芯片执行上述各方法实施例中的手势识别方法。
其中,本实施例提供的电子设备、计算机存储介质、计算机程序产品或芯片均用于执行上文所提供的对应的方法,因此,其所能达到的有益效果可参考上文所提供的对应的方法中的有益效果,此处不再赘述。
通过以上实施方式的描述,所属领域的技术人员可以了解到,为描述的方便和简洁,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将装置的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。
在本申请所提供的几个实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个装置,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是一个物理单元或多个物理单元,即可以位于一个地方,或者也可以分布到多个不同地方。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个可读取存储介质中。基于这样的理解,本申请实施例的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该软件产品存储在一个存储介质中,包括若干指令用以使得一个设备(可以是单片机,芯片等)或处理器(processor)执行本申请各个实施例方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(read only memory,ROM)、随机存取存储器(random access memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
以上内容,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以权利要求的保护范围为准。

Claims (10)

1.一种手势识别方法,其特征在于,应用于电子设备,所述电子设备包括协处理器和中央处理器CPU,所述方法包括:
采集图像数据,所述图像数据中包括用户的手势数据;
将所述图像数据发送给所述协处理器;
通过所述协处理器识别所述图像数据中的手势数据得到手势检测结果。
2.根据权利要求1所述的方法,其特征在于,所述通过所述协处理器识别所述图像数据中的手势数据得到手势检测结果,包括:
通过所述协处理器将所述图像数据输入预设模型,得到多个手势数据,每个所述手势数据包括手势类别和概率值;
通过所述协处理器根据所述手势数据和非极大值抑制NMS算法检测得到所述手势检测结果。
3.根据权利要求2所述的方法,其特征在于,所述通过所述协处理器根据所述手势数据和非极大值抑制NMS算法检测得到所述手势检测结果,包括:
通过所述协处理器删除所述手势数据中概率值小于预设概率值的数据得到参考数据;
通过所述协处理器对所述参考数据执行所述NMS算法检测得到所述手势检测结果。
4.根据权利要求1-3任一项所述的方法,其特征在于,所述预设模型为对标注后的参考图像数据进行神经网络算法训练得到的模型;所述参考图像数据包括通过预设传感器获取的第一数据,和/或对相机传感器采集的初始图像数据进行预处理得到的与所述第一数据的数据格式相同的第二数据。
5.根据权利要求1-4任一项所述的方法,其特征在于,所述预设模型为通过量化处理后的模型,所述预设模型中的数据均为8位的整型数据。
6.根据权利要求1-5任一项所述的方法,其特征在于,所述方法还包括:
当检测到手势识别模式启动时,初始化所述协处理器中的预设模型;
当检测到所述手势识别模式关闭时,停止手势识别服务,并释放所述协处理器中所述手势识别模式对应的资源。
7.根据权利要求1-6任一项所述的方法,其特征在于,所述采集图像数据,包括:通过预设传感器采集所述图像数据。
8.一种手势识别装置,其特征在于,应用于电子设备,所述电子设备包括协处理器和中央处理器CPU,所述手势识别装置包括采集单元、发送单元和处理单元,其中:
所述采集单元,用于采集图像数据,所述图像数据中包括用户的手势数据;
所述发送单元,用于将所述图像数据发送给所述协处理器;
所述处理单元,用于通过所述协处理器识别所述图像数据中的手势数据得到手势检测结果。
9.一种电子设备,其特征在于,包括处理器、存储器、通信接口,以及一个或多个程序,所述一个或多个程序被存储在所述存储器中,并且被配置由所述处理器执行,所述程序包括用于执行如权利要求1-7任一项所述的方法中的步骤的指令。
10.一种计算机可读存储介质,其特征在于,存储用于电子数据交换的计算机程序,其中,所述计算机程序使得计算机执行如权利要求1-7任一项所述的方法。
CN202010765806.5A 2020-07-31 2020-07-31 手势识别方法及装置 Pending CN111880661A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010765806.5A CN111880661A (zh) 2020-07-31 2020-07-31 手势识别方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010765806.5A CN111880661A (zh) 2020-07-31 2020-07-31 手势识别方法及装置

Publications (1)

Publication Number Publication Date
CN111880661A true CN111880661A (zh) 2020-11-03

Family

ID=73205174

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010765806.5A Pending CN111880661A (zh) 2020-07-31 2020-07-31 手势识别方法及装置

Country Status (1)

Country Link
CN (1) CN111880661A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112541450A (zh) * 2020-12-18 2021-03-23 Oppo广东移动通信有限公司 情景感知功能控制方法及相关装置
CN116360603A (zh) * 2023-05-29 2023-06-30 中数元宇数字科技(上海)有限公司 基于时序信号匹配的交互方法、设备、介质及程序产品

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105759935A (zh) * 2016-01-29 2016-07-13 华为技术有限公司 一种终端控制方法及终端
CN106506960A (zh) * 2016-11-29 2017-03-15 维沃移动通信有限公司 一种图像数据的处理方法及移动终端
CN107292808A (zh) * 2016-03-31 2017-10-24 阿里巴巴集团控股有限公司 图像处理方法、装置及图像协处理器
CN107808143A (zh) * 2017-11-10 2018-03-16 西安电子科技大学 基于计算机视觉的动态手势识别方法
CN109902588A (zh) * 2019-01-29 2019-06-18 北京奇艺世纪科技有限公司 一种手势识别方法、装置及计算机可读存储介质
CN109934077A (zh) * 2017-12-19 2019-06-25 杭州海康威视数字技术股份有限公司 一种图像识别方法和电子设备

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105759935A (zh) * 2016-01-29 2016-07-13 华为技术有限公司 一种终端控制方法及终端
CN107292808A (zh) * 2016-03-31 2017-10-24 阿里巴巴集团控股有限公司 图像处理方法、装置及图像协处理器
CN106506960A (zh) * 2016-11-29 2017-03-15 维沃移动通信有限公司 一种图像数据的处理方法及移动终端
CN107808143A (zh) * 2017-11-10 2018-03-16 西安电子科技大学 基于计算机视觉的动态手势识别方法
CN109934077A (zh) * 2017-12-19 2019-06-25 杭州海康威视数字技术股份有限公司 一种图像识别方法和电子设备
CN109902588A (zh) * 2019-01-29 2019-06-18 北京奇艺世纪科技有限公司 一种手势识别方法、装置及计算机可读存储介质

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112541450A (zh) * 2020-12-18 2021-03-23 Oppo广东移动通信有限公司 情景感知功能控制方法及相关装置
CN116360603A (zh) * 2023-05-29 2023-06-30 中数元宇数字科技(上海)有限公司 基于时序信号匹配的交互方法、设备、介质及程序产品

Similar Documents

Publication Publication Date Title
CN110045908B (zh) 一种控制方法和电子设备
CN111738122B (zh) 图像处理的方法及相关装置
CN111782879B (zh) 模型训练方法及装置
CN111258700B (zh) 图标管理方法及智能终端
CN116070684B (zh) 一种集成芯片以及处理传感器数据的方法
CN111553846B (zh) 超分辨率处理方法及装置
CN110401768B (zh) 调节电子设备的工作状态的方法和装置
CN111555825B (zh) 射频资源分配方法及装置
CN111768416A (zh) 照片裁剪方法及装置
CN110830645B (zh) 一种操作方法和电子设备及计算机存储介质
CN111400605A (zh) 基于眼球追踪的推荐方法及装置
CN111768352A (zh) 图像处理方法及装置
CN111880661A (zh) 手势识别方法及装置
CN111524528B (zh) 防录音检测的语音唤醒方法及装置
CN111612723B (zh) 图像修复方法及装置
CN111381996B (zh) 内存异常处理方法及装置
CN114422686A (zh) 参数调整方法及相关装置
CN113781959B (zh) 界面处理方法及装置
CN115390738A (zh) 卷轴屏开合方法及相关产品
CN111581119B (zh) 页面回收方法及装置
CN111836226B (zh) 数据传输控制方法、装置及存储介质
CN111459271B (zh) 注视偏移误差确定方法及装置
CN111475363B (zh) 卡死识别方法及电子设备
CN112712378A (zh) 一种服务社区模式的售后服务管理系统
CN116360650A (zh) 悬浮窗管理的方法及相关装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20201103

RJ01 Rejection of invention patent application after publication