CN111008671B - 姿势识别方法和装置、电子设备、计算机可读存储介质 - Google Patents
姿势识别方法和装置、电子设备、计算机可读存储介质 Download PDFInfo
- Publication number
- CN111008671B CN111008671B CN201911338180.3A CN201911338180A CN111008671B CN 111008671 B CN111008671 B CN 111008671B CN 201911338180 A CN201911338180 A CN 201911338180A CN 111008671 B CN111008671 B CN 111008671B
- Authority
- CN
- China
- Prior art keywords
- gesture
- result
- accuracy
- user
- camera module
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/25—Fusion techniques
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/86—Combinations of radar systems with non-radar systems, e.g. sonar, direction finder
- G01S13/867—Combination of radar systems with cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D30/00—Reducing energy consumption in communication networks
- Y02D30/70—Reducing energy consumption in communication networks in wireless communication networks
Landscapes
- Engineering & Computer Science (AREA)
- Remote Sensing (AREA)
- Radar, Positioning & Navigation (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Computation (AREA)
- Evolutionary Biology (AREA)
- General Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Human Computer Interaction (AREA)
- Multimedia (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computer Networks & Wireless Communication (AREA)
- User Interface Of Digital Computer (AREA)
- Image Analysis (AREA)
Abstract
本申请涉及一种姿势识别方法和装置、电子设备、计算机可读存储介质,利用毫米波模组获取用户姿势对应的姿势数据,并将姿势数据输入第一神经网络获取第一姿势信息;当第一姿势信息中的第一准确率小于准确率阈值时,控制摄像模组采集用户姿势对应的检测图像,并将检测图像输入第二神经网络获取第二姿势信息;根据第一姿势信息和第二姿势信息确定用户姿势对应的目标姿势结果。本方案根据第一神经网络识别毫米波数据获取的第一姿势信息触发摄像机模组采集检测图像,且利用第二神经网络二次识别检测图像得到第二姿势信息,根据第一姿势信息和第二姿势信息来确定目标姿势结果,即通过二次检测姿势提高目标姿势结果的姿势识别准确率和可识别率。
Description
技术领域
本申请涉及毫米波检测领域,特别是涉及一种姿势识别方法和装置、电子设备、计算机可读存储介质。
背景技术
随着识别技术的发展,出现了毫米波识别技术。毫米波识别技术通过毫米波设备的发送天线发射无线信号,无线信号经用户肢体调制后反射回来,毫米波设备将捕获并处理该反射信号获取信号强度、距离、多普勒频移等信息;再将上述信息输入训练好的神经网络进行学习获取预测结果。
然而,现有的基于毫米波信息的神经网络的识别能力有限,往往导致姿势的可识别率较低。
发明内容
本申请实施例提供一种姿势识别方法、装置、电子设备、计算机可读存储介质,可以提高用户姿势的可识别率。
一种姿势识别方法,应用于电子设备,所述电子设备包括摄像模组和毫米波模组,所述方法包括:
利用所述毫米波模组获取用户姿势对应的姿势数据,并将所述姿势数据输入第一神经网络获取第一姿势信息,所述第一姿势信息至少包括第一姿势结果和所述第一姿势结果对应的第一准确率;
当所述第一准确率小于准确率阈值时,控制所述摄像模组采集所述用户姿势对应的检测图像,并将所述检测图像输入第二神经网络获取第二姿势信息;
根据所述第一姿势信息和所述第二姿势信息确定所述用户姿势对应的目标姿势结果。
一种姿势识别装置,应用于电子设备,所述电子设备包括摄像模组和毫米波模组,所述装置包括:
第一识别模块,用于利用所述毫米波模组获取用户姿势对应的姿势数据,并将所述姿势数据输入第一神经网络获取第一姿势信息,所述第一姿势信息至少包括第一姿势结果和所述第一姿势结果对应的第一准确率;
第二识别模块,用于当所述第一准确率小于准确率阈值时,控制所述摄像模组采集所述用户姿势对应的检测图像,并将所述检测图像输入第二神经网络获取第二姿势信息;
确定模块,用于根据所述第一姿势信息和所述第二姿势信息确定所述用户姿势对应的目标姿势结果。
一种电子设备,包括存储器及处理器,所述存储器中储存有计算机程序,所述计算机程序被所述处理器执行时,使得所述处理器执行如所述的姿势识别方法的步骤。
一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如所述的方法的步骤。
上述姿势识别方法和装置、电子设备、计算机可读存储介质,应用于电子设备,所述电子设备包括摄像模组和毫米波模组,所述方法包括:利用所述毫米波模组获取用户姿势对应的姿势数据,并将所述姿势数据输入第一神经网络获取第一姿势信息,所述第一姿势信息至少包括第一姿势结果和所述第一姿势结果对应的第一准确率;当所述第一准确率小于准确率阈值时,控制所述摄像模组采集所述用户姿势对应的检测图像,并将所述检测图像输入第二神经网络获取第二姿势信息;根据所述第一姿势信息和所述第二姿势信息确定所述用户姿势对应的目标姿势结果。本方案利用第一神经网络识别用户姿势对应的毫米波数据获取第一姿势信息,当第一准确率小于准确率阈值时,触发摄像机模组采集检测图像,且利用第二神经网络二次识别用户姿势对应的检测图像的第二姿势信息,进一步的根据第一姿势信息和第二姿势信息来确定目标姿势结果,即通过二次检测姿势提高目标姿势结果的姿势识别准确率和可识别率,降低了误检率和不可识别率。另外,本申请利用毫米波模组进行姿势识别,当毫米波模组识别的第一姿势结果的第一准确率低于准确率阈值时才利用摄像模组采集检测图像进行二次识别,而不需要控制摄像模组保持常开状态以进行姿势识别,能够降低电子设备的功耗。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为一个实施例中姿势识别方法的应用环境示意图;
图2为一个实施例中姿势识别方法的流程图;
图3为一个实施例中步骤根据第一准确率和第二准确率从待选结果中确定出目标姿势结果的流程图;
图4为一个实施例中步骤当所述第一准确率小于准确率阈值时,控制摄像模组采集用户姿势对应的检测图像的流程图;
图5为一个实施例中步骤根据摄像模组的运行状态控制摄像模组采集用户姿势对应的检测图像的流程图;
图6为一个实施例中姿势识别装置的结构框图;
图7为一个实施例中电子设备的结构框图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
可以理解,本申请所使用的术语“第一”、“第二”等可在本文中用于描述各种元件,但这些元件不受这些术语限制。这些术语仅用于将第一个元件与另一个元件区分。举例来说,在不脱离本申请的范围的情况下,可以将第一姿势信息称为第二姿势信息,且类似地,可将第二姿势信息称为第一姿势信息。第一姿势信息和第二姿势信息两者都是姿势信息,但其不是同一姿势信息。
图1为一个实施例中姿势识别方法的应用环境示意图。如图1所示,该电子设备120可为带有摄像模组和毫米波模组的计算机设备、个人数字助理、平板电脑、智能手机、穿戴式设备等。电子设备120中的摄像模组用于获取包括用户手势的检测图像。电子设备120的毫米波模组能够发射毫米波信号至维持用户姿势的用户肢体;并捕获用户肢体反射毫米波信号形成的回波信号;根据回波信号获取用户姿势对应的姿势数据。姿势数据至少包括距离数据,还可以包括速度数据、角度数据、能量数据中的至少一种。电子设备120利用毫米波模组获取用户姿势对应的姿势数据,并将姿势数据输入第一神经网络获取第一姿势信息,第一姿势信息至少包括第一姿势结果和第一姿势结果对应的第一准确率;当第一准确率小于准确率阈值时,控制摄像模组采集用户姿势对应的检测图像,并将检测图像输入第二神经网络获取第二姿势信息;根据第一姿势信息和第二姿势信息确定用户姿势对应的目标姿势结果。该姿势识别方法可以提高用户姿势识别的准确率和可识别率,降低误检率和不可识别的概率。
本申请实施例提供一种姿势识别方法,如图2所示,姿势识别方法包括:步骤202至步骤206。
步骤202、利用毫米波模组获取用户姿势对应的姿势数据,并将姿势数据输入第一神经网络获取第一姿势信息,第一姿势信息至少包括第一姿势结果和第一姿势结果对应的第一准确率。
其中,毫米波模组发射毫米波信号至维持用户姿势的用户肢体;并捕获用户肢体反射毫米波信号形成的回波信号;根据回波信号获取用户姿势对应的姿势数据,姿势数据至少包括距离数据,还可以包括速度数据、角度数据、能量数据中的至少一种。第一神经网络是通过输入大量的毫米波回波信号对应的姿势数据进行训练得到的。
具体的,毫米波模组根据发射的毫米波信号和接收的回波信号能够得到用户姿势对应的姿势数据,姿势数据可以包括:信号强度、距离、多普勒频移等毫米波信息。将姿势数据输入第一神经网络,第一神经网络能够对用户姿势进行识别输出第一姿势信息。第一姿势信息可以如下所示:
Top1:第一准确率1,第一姿势结果1
......
TopN:第一准确率N,第一姿势结果N
第一姿势信息包括N个结果(N为≥2的自然数),每个结果包括:第一姿势结果和第一姿势结果对应的准确率。Top是根据第一准确率的大小进行排序,其中,第一准确率1≥...≥第一准确率N,且第一准确率1+...+第一准确率N=1。在一个实施例中,第一姿势信息可以为:最大概率及最大概率对应的识别结果,即Top1:第一准确率1,第一姿势结果1,即第一神经网络识别用户姿势的结果为第一姿势结果1,且识别的准确率为第一准确率1。
步骤204、当第一准确率小于准确率阈值时,控制摄像模组采集用户姿势对应的检测图像,并将检测图像输入第二神经网络获取第二姿势信息。
其中,检测图像为描述用户姿势的静态图像,可以是利用摄像模组捕捉用户姿势的完成时刻对应的图像作为检测图像。第二神经网络是通过在神经网络中输入大量的图像集进行训练得到的,用于训练的每个图像包括用户姿势。准确率阈值可以由工程师根据实际需求设定,如设定为0.5、0.4、0.2均可,此处不作限制。
具体的,第一姿势信息至少包括第一姿势结果和第一姿势结果对应的第一准确率。可以设定准确率阈值,当第一准确率小于准确率阈值时,标识毫米波模组无法准确识别出用户姿势或第一姿势结果的准确率较低,此时触发使摄像模组采集检测图像,从而利用第二神经网络进行识别,以提升用户姿势的准确率和可识别率。利用摄像模组采集检测图像,当电子设备包括多个摄像模组时,可以控制其中一个或多个摄像模组采集用户姿势对应的检测图像。在第二神经网络中输入检测图像,第二神经网络能够输出第二姿势信息,第二姿势信息可以如下所示:
Top1:第二准确率1,第二姿势结果1
......
TopN:第二准确率N,第二姿势结果N
第二姿势信息包括N个结果(N为大于或等于2的自然数),每个结果包括:第二姿势结果和第二姿势结果对应的准确率。Top是根据第二准确率的大小进行排序,其中,第二准确率1≥...≥第二准确率N,且第二准确率1+...+第二准确率N=1。在一个实施例中,第二姿势信息指的是:最大概率及最大概率对应的识别结果,如Top1:第二准确率1,第二姿势结果1,即第二神经网络识别的用户姿势的结果为第二姿势结果1,且识别的准确率为第二准确率1。
步骤206、根据第一姿势信息和第二姿势信息确定用户姿势对应的目标姿势结果。
具体的,根据第一姿势信息可以得到第一姿势信息携带的第一姿势结果对应的第一准确率;根据第二姿势信息可以得到第二姿势信息携带的第二姿势结果对应的第二准确率。根据第一姿势信息和第二姿势信息确定目标姿势结果的过程可以是,根据第一准确率和第二准确率中较大值与可信阈值之间的数值大小关系从待选姿势结果中确定出一个作为目标姿势结果。待选姿势结果包括:第一姿势结果、第二姿势结果和无法识别结果。目标姿势结果指的是电子设备识别用户姿势得到的最终结果。目标姿势结果可以第一准确率对应的第一姿势结果或第二准确率对应的第二姿势结果,如第一准确率和第二准确率中较大值大于或等于可信阈值,则将较大值对应的姿势结果最为目标姿势结果,即较大值是第一准确率时,则将第一姿势结果作为目标姿势结果,较大值是第二准确率时,则将第二姿势结果作为目标姿势结果。目标姿势结果还可以是不可识别结果,如:当第一准确率和第二准确率中较大值小于可信阈值时,即第一准确率和第二准确率均小于可信阈值,标识无法识别该用户姿势,则将无法识别结果作为目标姿势结果。其中,准确率阈值可以设定为0.5、0.4、0.2等数值,可信阈值设置为小于准确率阈值的数值即可,此处不作限制。
上述姿势识别方法,应用于电子设备,电子设备包括摄像模组和毫米波模组,姿势识别方法包括:利用毫米波模组获取用户姿势对应的姿势数据,并将姿势数据输入第一神经网络获取第一姿势信息,第一姿势信息至少包括第一姿势结果和第一姿势结果对应的第一准确率;当第一准确率小于准确率阈值时,控制摄像模组采集用户姿势对应的检测图像,并将检测图像输入第二神经网络获取第二姿势信息。根据第一姿势信息和第二姿势信息确定用户姿势对应的目标姿势结果。本方案利用第一神经网络识别用户姿势对应的毫米波数据获取第一姿势信息,当第一准确率小于准确率阈值时,触发摄像机模组采集检测图像,且利用第二神经网络二次识别用户姿势对应的检测图像的第二姿势信息,进一步的根据第一姿势信息和第二姿势信息来确定目标姿势结果,即通过二次检测姿势提高目标姿势结果的姿势识别准确率和可识别率,降低了误检率和不可识别率。另外,本申请利用毫米波模组进行姿势识别,当毫米波模组识别的第一姿势结果的第一准确率低于准确率阈值时才利用摄像模组采集检测图像进行二次识别,而不需要控制摄像模组保持常开状态以进行姿势识别,能够降低电子设备的功耗。
在其中一个实施例中,方法还包括:当第一准确率大于或等于准确率阈值时,将第一姿势结果作为目标姿势结果。
具体的,当第一姿势信息中表示第一姿势结果准确率的第一准确率大于或者等于准确率阈值时,标识第一姿势结果较准确,无需进行二次检测,此时直接将第一姿势结果作为目标姿势结果。
在其中一个实施例中,步骤:根据第一姿势信息和第二姿势信息获取目标姿势结果,包括:根据第一准确率和第二准确率中较大值与可信阈值的关系从待选结果中确定出目标姿势结果,待选结果包括:第一姿势结果、第二姿势结果和无法识别结果。
其中,第一姿势信息至少包括第一姿势结果和第一姿势结果对应的第一准确率,第二姿势信息至少包括:第二姿势结果和第二姿势结果对应的第二准确率。待选结果包括:第一姿势结果、第二姿势结果和无法识别结果。
具体的,根据第一准确率和第二准确率中较大值与可信阈值的大小关系从待选结果选择出目标姿势结果。举例来说,可以是将第一准确率和第二准确率中较大值对应的姿势结果作为目标姿势结果,如第一准确率和第二准确率中较大值是第一准确率时,则将第一姿势结果作为目标姿势结果,较大值是第二准确率时,则将第二姿势结果作为目标姿势结果;还可以当第一准确率和第二准确率均小于可信阈值时,将无法识别结果作为目标姿势结果。
在其中一个实施例中,步骤:根据第一准确率和第二准确率从待选结果中确定出目标姿势结果,包括:步骤302和步骤304。
步骤302、当第一准确率和第二准确率中较大值大于或等于可信阈值时,将较大值对应的姿势数据作为目标姿势结果。
具体的,第一准确率和第二准确率中较大值大于或等于可信阈值情况下,当第一准确率大于第二准确率时,则有第一准确率大于或等于可信阈值;当第二准确率大于第一准确率时,则有第二准确率大于或等于可信阈值。当第一准确率大于或等于可信阈值时,标识第一准确率对应的第一姿势结果较准确,此时可以将第一准确率对应的第一姿势结果作为目标姿势结果;当第二准确率大于或等于可信阈值时,标识第二准确率对应的第二姿势结果较准确,此时可以将第二准确率对应的第二姿势结果作为目标姿势结果。准确率阈值可以设定为0.5、0.4、0.2等数值,可信阈值设置为小于准确率阈值的数值即可,此处不作限制。
步骤304、当第一准确率和第二准确率均小于可信阈值时,将无法识别结果作为目标姿势结果。
具体的,可以当第一准确率和第二准确率均小于可信阈值时,标识第一姿势结果和第二姿势结果的准确度均较低,换言之,第一姿势结果和第二姿势结果与用户姿势的匹配度均较低,该情形下,将无法识别结果作为目标姿势结果。
在其中一个实施例中,步骤:当第一准确率小于准确率阈值时,控制摄像模组采集用户姿势对应的检测图像,包括:步骤402和步骤404。
步骤402、当第一准确率小于准确率阈值时,获取摄像模组的运行状态。
具体的,第一姿势信息至少包括第一姿势结果和第一姿势结果对应的第一准确率。可以设定准确率阈值,当第一准确率小于准确率阈值时,标识毫米波模组无法准确识别出用户姿势或第一姿势结果的准确率较低,此时触发使摄像模组采集检测图像,从而利用第二神经网络进行识别,以提升用户姿势的准确率和可识别率。
步骤:控制摄像模组采集用户姿势对应的检测图像包括:步骤404、根据摄像模组的运行状态控制摄像模组采集用户姿势对应的检测图像。
具体的,获取摄像模组的运行状态,摄像模组的运行状态包括空闲状态和运行状态。当摄像模组处于空闲状态时或者当摄像模组为多摄像头模组时,存在至少一个摄像头为空闲状态时,利用空闲状态的摄像头采集用户姿势对应的检测图像。当摄像模组处于运行状态时,获取摄像模组当前运行应用的摄像头使用优先级,获取姿势识别方法对应应用的摄像头使用的优先级,比较两个优先级,当姿势识别方法对应应用的优先级高于当前运行应用的优先级时,控制摄像模组停止被当前运行应用调用,且控制姿势识别方法对应应用调用摄像模组以采集用户姿势对应的检测图像。
在其中一个实施例中,步骤:根据摄像模组的运行状态控制摄像模组采集用户姿势对应的检测图像,包括:步骤502至步骤506。
步骤502、当摄像模组的运行状态为空闲状态时,控制摄像模组启用,并采集用户姿势对应的检测图像。
具体的,当摄像模组处于空闲状态时,或者当摄像模组为多摄像头模组时,存在至少一个摄像头为空闲状态时,控制空闲状态的摄像模组启用,利用该空闲状态对应的摄像头采集用户姿势对应的检测图像。该实施例中,当第一准确率低于准确率阈值时才启用摄像模组,无需摄像模组始终保持开启状态能够降低电子设备的功耗。
步骤504、当摄像模组的运行状态为工作状态时,获取摄像模组当前运行的第一应用对应的第一优先级和运行姿势识别方法的第二应用对应的第二优先级。
具体的,电子设备内部预先保存摄像模组使用的优先级列表,优先级列表中保存有:应用标识和应用优先级的映射关系。当摄像模组的运行状态为工作状态时,获取当前运行的第一应用的第一标识和第二应用的第二标识,从优先级列表中查找第一应用对应第一优先级和第二应用对应的第二优先级。
步骤506、当第一优先级低于第二优先级时,控制摄像模组将运行应用从第一应用切换为第二应用并采集检测图像。
具体的,获取第一应用的第一优先级和第二应用的第二优先级之后,比较第一优先级和第二优先级,当第二优先级高于第一优先级时,则控制摄像模组停止被第一应用调用,且使摄像模组被第二应用调用以采集用户姿势对应的检测图像。
在其中一个实施例中,用户姿势为动态姿势,步骤控制摄像模组采集用户姿势对应的检测图像,包括:控制摄像模组采集动态姿势完成时刻对应图像作为检测图像。
具体的,用户姿势为动态姿势,利用毫米波模组能够连续地识别该动态姿势。当第一姿势信息中第一姿势结果对应的第一准确率小于准确率阈值时,触发摄像模组捕捉动态的用户姿势完成时刻对应的图像,将动态姿势完成时刻所捕捉的图像作为用户姿势对应的检测图像。
在其中一个实施例中,步骤利用毫米波模组获取用户姿势对应的姿势数据,包括:利用毫米波模组发射毫米波信号至用户姿势对应的用户肢体。捕获用户肢体反射毫米波信号形成的回波信号。根据回波信号获取用户姿势对应的姿势数据,回波信号至少携带距离数据。
具体的,毫米波模组能够发射毫米波信号至保持用户姿势的用户肢体,用户肢体的姿态调制并反射毫米波信号形成回波信号。毫米波模组捕获用户肢体反射的回波信号。根据回波信号获取用户姿势对应的姿势数据。回波信号可以携带距离数据、数据数据、角度数据等,对应的姿势数据也可以包括距离数据、速度数据、角度数据等。
本实施例提供一种姿势识别装置,应用于电子设备,电子设备包括摄像模组和毫米波模组,姿势识别装置包括:第一识别模块602、第二识别模块604和确定模块606。
第一识别模块602,用于利用毫米波模组获取用户姿势对应的姿势数据,并将姿势数据输入第一神经网络获取第一姿势信息,第一姿势信息至少包括第一姿势结果和第一姿势结果对应的第一准确率。
其中,毫米波模组发射毫米波信号至维持用户姿势的用户肢体;并捕获用户肢体反射毫米波信号形成的回波信号;根据回波信号获取用户姿势对应的姿势数据,姿势数据至少包括距离数据,还可以包括速度数据、角度数据、能量数据中的至少一种。第一神经网络是通过输入大量的毫米波回波信号对应的姿势数据进行训练得到的。
具体的,第一识别模块602中毫米波模组根据发射的毫米波信号和接收的回波信号能够得到用户姿势对应的姿势数据,姿势数据可以包括:信号强度、距离、多普勒频移等毫米波信息。将姿势数据输入第一神经网络,第一神经网络能够对用户姿势进行识别输出第一姿势信息。第一姿势信息可以如下所示:
Top1:第一准确率1,第一姿势结果1
......
TopN:第一准确率N,第一姿势结果N
第一姿势信息包括N个结果(N为大于等于2的自然数),每个结果包括:第一姿势结果和第一姿势结果对应的准确率。Top是根据第一准确率的大小进行排序,其中,第一准确率1≥...≥第一准确率N,且第一准确率1+...+第一准确率N=1。在一个实施例中,第一姿势信息可以为:最大概率及最大概率对应的识别结果,即Top1:第一准确率1,第一姿势结果1,即第一神经网络识别用户姿势的结果为第一姿势结果1,且识别的准确率为第一准确率1。
第二识别模块604,用于当第一准确率小于准确率阈值时,控制摄像模组采集用户姿势对应的检测图像,并将检测图像输入第二神经网络获取第二姿势信息。
其中,检测图像能够清晰完整的描述用户姿势。第二神经网络是通过在神经网络中输入大量的图像集进行训练得到的,用于训练的每个图像包括用户姿势。准确率阈值可以由工程师根据实际需求设定,如设定为0.5、0.4、0.2均可,此处不作限制。
具体的,第一姿势信息至少包括第一姿势结果和第一姿势结果对应的第一准确率。可以设定准确率阈值,当第一准确率小于准确率阈值时,标识毫米波模组无法准确识别出用户姿势或第一姿势结果的准确率较低,此时触发使摄像模组采集检测图像,从而利用第二神经网络进行识别,以提升用户姿势的准确率。第二识别模块604利用摄像模组采集检测图像,当电子设备包括多个摄像模组时,可以控制其中一个或多个摄像模组采集用户姿势对应的检测图像。在第二神经网络中输入检测图像,第二神经网络能够输出第二姿势信息,第二姿势信息可以如下所示:
Top1:第二准确率1,第二姿势结果1
......
TopN:第二准确率N,第二姿势结果N
第二姿势信息包括N个结果(N为大于等于2的自然数),每个结果包括:第二姿势结果和第二姿势结果对应的准确率。Top是根据第二准确率的大小进行排序,其中,第二准确率1≥...≥第二准确率N,且第二准确率1+...+第二准确率N=1。在一个实施例中,第二姿势信息指的是:最大概率及最大概率对应的识别结果,如Top1:第二准确率1,第二姿势结果1,即第二神经网络识别的用户姿势的结果为第二姿势结果1,且识别的准确率为第二准确率1。
确定模块606,用于根据第一姿势信息和第二姿势信息确定用户姿势对应的目标姿势结果。
具体的,确定模块606根据第一姿势信息可以得到第一姿势信息携带的第一姿势结果对应的第一准确率;根据第二姿势信息可以得到第二姿势信息携带的第二姿势结果对应的第二准确率。根据第一姿势信息和第二姿势信息确定目标姿势结果的过程可以是,根据第一准确率和第二准确率中较大值与可信阈值之间的数值大小关系从待选姿势结果中确定出一个作为目标姿势结果。待选姿势结果包括:第一姿势结果、第二姿势结果和无法识别结果,目标姿势结果指的是电子设备识别用户姿势得到的最终结果。目标姿势结果可以第一准确率对应的第一姿势结果或第二准确率对应的第二姿势结果,如第一准确率和第二准确率中较大值大于或等于可信阈值,则将较大值对应的姿势结果最为目标姿势结果,即较大值是第一准确率时,则将第一姿势结果作为目标姿势结果,较大值是第二准确率时,则将第二姿势结果作为目标姿势结果。目标姿势结果还可以是不可识别结果,如:当第一准确率和第二准确率中较大值小于可信阈值时,即第一准确率和第二准确率均小于可信阈值,则标识无法识别该用户姿势,则将无法识别结果作为目标姿势结果。其中,准确率阈值可以设定为0.5、0.4、0.2等数值,可信阈值设置为小于准确率阈值的数值即可,此处不作限制。
上述姿势识别装置,应用于电子设备,电子设备包括摄像模组和毫米波模组,方法包括:利用毫米波模组获取用户姿势对应的姿势数据,并将姿势数据输入第一神经网络获取第一姿势信息,第一姿势信息至少包括第一姿势结果和第一姿势结果对应的第一准确率;当第一准确率小于准确率阈值时,控制摄像模组采集用户姿势对应的检测图像,并将检测图像输入第二神经网络获取第二姿势信息。根据第一姿势信息和第二姿势信息确定用户姿势对应的目标姿势结果。本方案利用第一神经网络识别用户姿势对应的毫米波数据获取第一姿势信息,当第一准确率小于准确率阈值时,触发摄像机模组采集检测图像,且利用第二神经网络二次识别用户姿势对应的检测图像的第二姿势信息,进一步的根据第一姿势信息和第二姿势信息来确定目标姿势结果,即通过二次检测姿势提高目标姿势结果的姿势识别准确率和可识别率,降低了误检率和不可识别率。另外,本申请利用毫米波模组进行姿势识别,当毫米波模组识别的第一姿势结果的第一准确率低于准确率阈值时才利用摄像模组采集检测图像进行二次识别,而不需要控制摄像模组保持常开状态以进行姿势识别,能够降低电子设备的功耗。
在其中一个实施例中,确定模块用于根据第一准确率和第二准确率从待选结果中确定出目标姿势结果,待选结果包括:第一姿势结果、第二姿势结果和无法识别结果。
在其中一个实施例中,确定模块用于当第一准确率和第二准确率中较大值大于或等于可信阈值时,将较大值对应的姿势数据作为目标姿势结果;当第一准确率和第二准确率均小于可信阈值时,将无法识别结果作为目标姿势结果。
在其中一个实施例中,姿势识别装置包括获取模块,获取模块用于根据第一姿势信息获取摄像模组的运行状态;第一识别模块用于根据摄像模组的运行状态控制摄像模组采集用户姿势对应的检测图像。
在其中一个实施例中,第一识别模块用于当摄像模组的运行状态为空闲状态时,控制摄像模组采集用户姿势对应的检测图像;当摄像模组的运行状态为工作状态时,获取摄像模组当前运行的第一应用对应的第一优先级和运行姿势识别方法的第二应用对应的第二优先级;当第一优先级低于第二优先级时,控制摄像模组将运行应用从第一应用切换为第二应用并采集检测图像。
在其中一个实施例中,第一识别模块用于利用毫米波模组发射毫米波信号至用户姿势对应的用户肢体;捕获用户肢体反射毫米波信号形成的回波信号;根据回波信号获取用户姿势对应的姿势数据,回波信号至少携带距离数据。
上述姿势识别装置中各个模块的划分仅用于举例说明,在其他实施例中,可将姿势识别装置按照需要划分为不同的模块,以完成上述姿势识别装置的全部或部分功能。
关于姿势识别装置的具体限定可以参见上文中对于姿势识别方法的限定,在此不再赘述。上述姿势识别装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储于计算机设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。
图7为一个实施例中电子设备的内部结构示意图。如图7所示,该电子设备包括通过系统总线连接的处理器和存储器。其中,该处理器用于提供计算和控制能力,支撑整个电子设备的运行。存储器可包括非易失性存储介质及内存储器。非易失性存储介质存储有操作系统和计算机程序。该计算机程序可被处理器所执行,以用于实现以下各个实施例所提供的一种姿势识别方法。内存储器为非易失性存储介质中的操作系统计算机程序提供高速缓存的运行环境。该电子设备可以是手机、平板电脑或者个人数字助理或穿戴式设备等。
本申请实施例中提供的姿势识别装置中的各个模块的实现可为计算机程序的形式。该计算机程序可在终端或服务器上运行。该计算机程序构成的程序模块可存储在终端或服务器的存储器上。该计算机程序被处理器执行时,实现本申请实施例中所描述方法的步骤。
本申请实施例还提供了一种计算机可读存储介质。一个或多个包含计算机可执行指令的非易失性计算机可读存储介质,当计算机可执行指令被一个或多个处理器执行时,使得处理器执行姿势识别方法的步骤:
利用毫米波模组获取用户姿势对应的姿势数据,并将姿势数据输入第一神经网络获取第一姿势信息,第一姿势信息至少包括第一姿势结果和第一姿势结果对应的第一准确率;
当第一准确率小于准确率阈值时,控制摄像模组采集用户姿势对应的检测图像,并将检测图像输入第二神经网络获取第二姿势信息;
根据第一姿势信息和第二姿势信息确定用户姿势对应的目标姿势结果。
一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行姿势识别方法。
本申请实施例所使用的对存储器、存储、数据库或其它介质的任何引用可包括非易失性和/或易失性存储器。合适的非易失性存储器可包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM),它用作外部高速缓冲存储器。作为说明而不需要局限,RAM以多种形式可得,诸如静态RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据率SDRAM(DDRSDRAM)、增强型SDRAM(ESDRAM)、同步链路(Synchlink)DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM(RDRAM)。
以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对本申请专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请专利的保护范围应以所附权利要求为准。
Claims (10)
1.一种姿势识别方法,其特征在于,应用于电子设备,所述电子设备包括摄像模组和毫米波模组,所述方法包括:
利用所述毫米波模组获取用户姿势对应的姿势数据,并将所述姿势数据输入第一神经网络获取第一姿势信息,所述第一姿势信息至少包括第一姿势结果和所述第一姿势结果对应的第一准确率;
当所述第一准确率小于准确率阈值时,控制所述摄像模组采集所述用户姿势对应的检测图像,并将所述检测图像输入第二神经网络获取第二姿势信息,所述第二姿势信息至少包括第二姿势结果和所述第二姿势结果对应的第二准确率;
根据所述第一姿势信息和所述第二姿势信息确定所述用户姿势对应的目标姿势结果,包括:
当所述第一准确率和所述第二准确率中较大值大于或等于可信阈值时,将所述较大值对应的姿势结果作为所述目标姿势结果;
当所述第一准确率和所述第二准确率均小于所述可信阈值时,将无法识别结果作为所述目标姿势结果,所述可信阈值小于所述准确率阈值。
2.根据权利要求1所述的方法,其特征在于,所述姿势数据包括距离数据,还包括速度数据、角度数据、能量数据中的至少一种。
3.根据权利要求1所述的方法,其特征在于,所述利用所述毫米波模组获取用户姿势对应的姿势数据,包括:
利用所述毫米波模组发射毫米波信号至维持用户姿势的用户肢体;
获取所述用户肢体反射毫米波信号形成的回波信号;
根据所述回波信号获取用户姿势对应的姿势数据。
4.根据权利要求1所述的方法,其特征在于,所述方法还包括:
当所述第一准确率大于或等于所述准确率阈值时,将所述第一姿势结果作为所述目标姿势结果。
5.根据权利要求1所述的方法,其特征在于,所述当所述第一准确率小于准确率阈值时,控制所述摄像模组采集所述用户姿势对应的检测图像,包括:
当所述第一准确率小于所述准确率阈值时,获取所述摄像模组的运行状态;
根据所述摄像模组的运行状态控制所述摄像模组采集所述用户姿势对应的检测图像。
6.根据权利要求5所述的方法,所述运行状态包括空闲状态和占用状态,所述根据所述摄像模组的运行状态控制所述摄像模组采集用户姿势对应的检测图像,包括:
当所述摄像模组的运行状态为空闲状态时,启用所述摄像模组并控制所述摄像模组采集用户姿势对应的检测图像;
当所述摄像模组的运行状态为工作状态时,获取所述摄像模组当前运行的第一应用对应的第一优先级和运行所述姿势识别方法的第二应用对应的第二优先级;
当所述第一优先级低于所述第二优先级时,控制所述摄像模组将运行应用从所述第一应用切换为所述第二应用并采集所述检测图像。
7.根据权利要求1所述的方法,其特征在于,所述用户姿势为动态姿势,所述控制所述摄像模组采集所述用户姿势对应的检测图像,包括:
控制所述摄像模组采集所述动态姿势完成时刻对应图像作为所述检测图像。
8.一种姿势识别装置,其特征在于,应用于电子设备,所述电子设备包括摄像模组和毫米波模组,所述装置包括:
第一识别模块,用于利用所述毫米波模组获取用户姿势对应的姿势数据,并将所述姿势数据输入第一神经网络获取第一姿势信息,所述第一姿势信息至少包括第一姿势结果和所述第一姿势结果对应的第一准确率;
第二识别模块,用于当所述第一准确率小于准确率阈值时,控制所述摄像模组采集所述用户姿势对应的检测图像,并将所述检测图像输入第二神经网络获取第二姿势信息,所述第二姿势信息至少包括第二姿势结果和所述第二姿势结果对应的第二准确率;
确定模块,用于根据所述第一姿势信息和所述第二姿势信息确定所述用户姿势对应的目标姿势结果,包括:
当所述第一准确率和所述第二准确率中较大值大于或等于可信阈值时,将所述较大值对应的姿势结果作为所述目标姿势结果;
当所述第一准确率和所述第二准确率均小于所述可信阈值时,将无法识别结果作为所述目标姿势结果,所述可信阈值小于所述准确率阈值。
9.一种电子设备,包括存储器及处理器,所述存储器中储存有计算机程序,所述计算机程序被所述处理器执行时,使得所述处理器执行如权利要求1至7中任一项所述的姿势识别方法的步骤。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7中任一项所述的方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911338180.3A CN111008671B (zh) | 2019-12-23 | 2019-12-23 | 姿势识别方法和装置、电子设备、计算机可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911338180.3A CN111008671B (zh) | 2019-12-23 | 2019-12-23 | 姿势识别方法和装置、电子设备、计算机可读存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111008671A CN111008671A (zh) | 2020-04-14 |
CN111008671B true CN111008671B (zh) | 2023-08-18 |
Family
ID=70117716
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911338180.3A Active CN111008671B (zh) | 2019-12-23 | 2019-12-23 | 姿势识别方法和装置、电子设备、计算机可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111008671B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112184642A (zh) * | 2020-09-16 | 2021-01-05 | 珠海格力电器股份有限公司 | 睡眠姿势异常的警示方法和装置、存储介质、电子装置 |
CN115049039B (zh) * | 2021-03-08 | 2023-11-14 | 北京金茂绿建科技有限公司 | 基于神经网络的状态识别方法、神经网络训练方法、装置 |
CN113456368B (zh) * | 2021-09-03 | 2022-03-01 | 齐鲁工业大学 | 一种姿势识别方法、系统、装置、终端及存储介质 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105607745A (zh) * | 2016-03-16 | 2016-05-25 | 京东方科技集团股份有限公司 | 显示控制电路、显示控制方法和显示装置 |
CN106371569A (zh) * | 2015-10-22 | 2017-02-01 | 北京智谷睿拓技术服务有限公司 | 动作识别方法及动作识别装置 |
CN108364017A (zh) * | 2018-01-24 | 2018-08-03 | 华讯方舟科技有限公司 | 一种图像质量分类方法、系统及终端设备 |
CN109188552A (zh) * | 2018-11-15 | 2019-01-11 | 杭州芯影科技有限公司 | 低功耗毫米波检测装置 |
CN109799537A (zh) * | 2018-12-29 | 2019-05-24 | 清华大学 | 安检设备及其控制方法 |
CN109886101A (zh) * | 2018-12-29 | 2019-06-14 | 江苏云天励飞技术有限公司 | 姿势识别方法及相关装置 |
CN110286744A (zh) * | 2018-03-19 | 2019-09-27 | 广东欧珀移动通信有限公司 | 信息处理方法和装置、电子设备、计算机可读存储介质 |
CN110298226A (zh) * | 2019-04-03 | 2019-10-01 | 复旦大学 | 一种毫米波图像人体携带物的级联检测方法 |
CN110363158A (zh) * | 2019-07-17 | 2019-10-22 | 浙江大学 | 一种基于神经网络的毫米波雷达与视觉协同目标检测与识别方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2017057042A1 (ja) * | 2015-09-30 | 2017-04-06 | ソニー株式会社 | 信号処理装置、信号処理方法、プログラム、および、物体検出システム |
-
2019
- 2019-12-23 CN CN201911338180.3A patent/CN111008671B/zh active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106371569A (zh) * | 2015-10-22 | 2017-02-01 | 北京智谷睿拓技术服务有限公司 | 动作识别方法及动作识别装置 |
CN105607745A (zh) * | 2016-03-16 | 2016-05-25 | 京东方科技集团股份有限公司 | 显示控制电路、显示控制方法和显示装置 |
CN108364017A (zh) * | 2018-01-24 | 2018-08-03 | 华讯方舟科技有限公司 | 一种图像质量分类方法、系统及终端设备 |
CN110286744A (zh) * | 2018-03-19 | 2019-09-27 | 广东欧珀移动通信有限公司 | 信息处理方法和装置、电子设备、计算机可读存储介质 |
CN109188552A (zh) * | 2018-11-15 | 2019-01-11 | 杭州芯影科技有限公司 | 低功耗毫米波检测装置 |
CN109799537A (zh) * | 2018-12-29 | 2019-05-24 | 清华大学 | 安检设备及其控制方法 |
CN109886101A (zh) * | 2018-12-29 | 2019-06-14 | 江苏云天励飞技术有限公司 | 姿势识别方法及相关装置 |
CN110298226A (zh) * | 2019-04-03 | 2019-10-01 | 复旦大学 | 一种毫米波图像人体携带物的级联检测方法 |
CN110363158A (zh) * | 2019-07-17 | 2019-10-22 | 浙江大学 | 一种基于神经网络的毫米波雷达与视觉协同目标检测与识别方法 |
Non-Patent Citations (1)
Title |
---|
姚家雄 ; 杨明辉 ; 朱玉琨 ; 吴亮 ; 孙晓玮 ; .利用卷积神经网络进行毫米波图像违禁物体定位.红外与毫米波学报.2017,第36卷(第03期),第100-106页. * |
Also Published As
Publication number | Publication date |
---|---|
CN111008671A (zh) | 2020-04-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111008671B (zh) | 姿势识别方法和装置、电子设备、计算机可读存储介质 | |
CN109035299B (zh) | 目标跟踪方法、装置、计算机设备及存储介质 | |
CN108377240B (zh) | 异常接口检测方法、装置、计算机设备和存储介质 | |
US11080434B2 (en) | Protecting content on a display device from a field-of-view of a person or device | |
CN109325964B (zh) | 一种人脸追踪方法、装置及终端 | |
CN111222423B (zh) | 基于作业区域的目标识别方法、装置、计算机设备 | |
US11961242B2 (en) | Target tracking method, computer device, and storage medium | |
US20190228211A1 (en) | Au feature recognition method and device, and storage medium | |
CN109472213B (zh) | 掌纹识别方法、装置、计算机设备和存储介质 | |
US11321945B2 (en) | Video blocking region selection method and apparatus, electronic device, and system | |
CN111626125A (zh) | 人脸温度检测的方法、系统、装置和计算机设备 | |
CN111369590A (zh) | 多目标跟踪方法、装置、存储介质及电子设备 | |
CN110706261A (zh) | 车辆违章检测方法、装置、计算机设备和存储介质 | |
US20160171300A1 (en) | Authentication apparatus and method | |
EP3818497A1 (en) | Systems and methods for selecting a best facial image of a target human face | |
US20220329764A1 (en) | Method for detecting event of object by using wearable device and management server operating same | |
US20190019297A1 (en) | Context-based, partial edge intelligence facial and vocal characteristic recognition | |
CN111126208B (zh) | 行人归档方法、装置、计算机设备及存储介质 | |
CN110334702B (zh) | 基于配置平台的数据传输方法、装置和计算机设备 | |
CN111191533A (zh) | 行人重识别的处理方法、装置、计算机设备和存储介质 | |
CN108200087B (zh) | web入侵检测方法、装置、计算机设备和存储介质 | |
CN111047088A (zh) | 预测图像获取方法、装置、计算机设备和存储介质 | |
CN111178126A (zh) | 目标检测方法、装置、计算机设备和存储介质 | |
CN112163110B (zh) | 图像分类方法、装置、电子设备和计算机可读存储介质 | |
CN111460419B (zh) | 物联网人工智能人脸验证方法及物联网云服务器 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |