CN116631065A - 手势识别方法及装置 - Google Patents

手势识别方法及装置 Download PDF

Info

Publication number
CN116631065A
CN116631065A CN202310913381.1A CN202310913381A CN116631065A CN 116631065 A CN116631065 A CN 116631065A CN 202310913381 A CN202310913381 A CN 202310913381A CN 116631065 A CN116631065 A CN 116631065A
Authority
CN
China
Prior art keywords
gesture
wiring
projection
panel
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202310913381.1A
Other languages
English (en)
Other versions
CN116631065B (zh
Inventor
徐鸣
雷嘏喆
成金华
金历群
刘康鑫
侯伟晨
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Galaxy Aerospace Technology Nantong Co ltd
Original Assignee
Galaxy Aerospace Technology Nantong Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Galaxy Aerospace Technology Nantong Co ltd filed Critical Galaxy Aerospace Technology Nantong Co ltd
Priority to CN202310913381.1A priority Critical patent/CN116631065B/zh
Publication of CN116631065A publication Critical patent/CN116631065A/zh
Application granted granted Critical
Publication of CN116631065B publication Critical patent/CN116631065B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • G06V40/28Recognition of hand or arm movements, e.g. recognition of deaf sign language
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Social Psychology (AREA)
  • Psychiatry (AREA)
  • Multimedia (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Position Input By Displaying (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

本说明书提供手势识别方法及装置,其中手势识别方法应用于布线系统,布线系统包括图像采集设备和布线投影设备,其中,布线投影设备在布线面板上投影布线信息,该方法包括:获取图像采集设备针对布线面板采集的目标图像;识别目标图像中用户手部对应的操作手势,以及根据目标图像确定操作手势在布线面板中的操作位置;读取操作位置对应的基准手势,并对基准手势和操作手势进行手势匹配;在手势匹配通过的情况下,向布线投影设备发送操作位置对应的投影指令,用于更新布线投影设备在布线面板上投影的布线信息;以方便操作人员不需要操作终端的情况下即可完成布线工序的切换等操作,更加方便操作人员进行布线工作。

Description

手势识别方法及装置
技术领域
本说明书涉及图像处理技术领域,特别涉及手势识别方法及装置。
背景技术
随着航天事业的大力发展,卫星批产成为建设空间基础设施体系的关键。卫星电缆网是实现卫星各电子设备间或地面设备间供电与信号的传输,是卫星系统的重要组成部分,随着卫星批产的推进,电缆网批产制作任务日益繁重,而电缆布线成型是电缆网加工最耗时耗力的一环。因此对电缆网布线效率提出了更高的要求。现有技术中,无论是钉板布线还是电子屏幕布线,都需要布线人员结合终端进行操作,此过程中,不仅需要布线人员进行布线操作,还需要布线人员使用终端,很大程度会影响布线效率,因此亟需一种有效的方案以解决上述问题。
发明内容
有鉴于此,本说明书实施例提供了一种手势识别方法。本说明书同时涉及一种手势识别装置,一种计算设备,以及一种计算机可读存储介质,以解决现有技术中存在的技术缺陷。
根据本说明书实施例的第一方面,提供了一种手势识别方法,应用于布线系统,所述布线系统包括图像采集设备和布线投影设备,其中,所述布线投影设备在布线面板上投影布线信息,所述方法包括:
获取所述图像采集设备针对所述布线面板采集的目标图像;
识别所述目标图像中用户手部对应的操作手势,以及根据所述目标图像确定所述操作手势在所述布线面板中的操作位置;
读取所述操作位置对应的基准手势,并对所述基准手势和所述操作手势进行手势匹配;
在手势匹配通过的情况下,向所述布线投影设备发送所述操作位置对应的投影指令,用于更新所述布线投影设备在所述布线面板上投影的布线信息。
可选地,所述识别所述目标图像中用户手部对应的操作手势,包括:
在所述目标图像中确定所述用户手部对应的手势区域,并对所述手势区域进行裁剪,获得手部图像;
对所述手部图像中所述用户手部的手部关键点进行识别,获得手部关键点信息;
根据所述手部关键点信息确定所述用户手部对应的所述操作手势。
可选地,所述根据所述目标图像确定所述操作手势在所述布线面板中的操作位置,包括:
确定所述操作手势在所述目标图像中的手势位置;
根据图像与布线面板预设的位置映射关系,确定所述手势位置在所述布线面板中映射的面板位置;
将所述面板位置作为所述操作手势在所述布线面板中的操作位置。
可选地,所述读取所述操作位置对应的基准手势,并对所述基准手势和所述操作手势进行手势匹配,包括:
确定所述操作位置对应的位置标识;
在手势存储空间中读取所述位置标识对应的预存手势,作为所述基准手势;
计算所述基准手势与所述操作手势之间的手势相似度;
在所述手势相似度大于相似度阈值的情况下,执行所述向所述布线投影设备发送所述操作位置对应的投影指令,用于更新所述布线投影设备在所述布线面板上投影的布线信息的步骤。
可选地,所述向所述布线投影设备发送所述操作位置对应的投影指令,用于更新所述布线投影设备在所述布线面板上投影的布线信息,包括:
确定所述操作位置对应的至少一个初始投影指令,并按照所述基准手势在所述至少一个初始投影指令中筛选所述投影指令;
向所述布线投影设备发送所述投影指令,其中,所述布线投影设备响应于所述投影指令执行目标投影任务,用于更新在所述布线面板上投影的布线信息。
可选地,所述获取所述图像采集设备针对所述布线面板采集的目标图像步骤执行之前,还包括:
通过所述布线投影设备在所述布线面板上的至少一个操作区域,投影操作辅助信息;
其中,所述操作辅助信息用于展示手势摆放信息和/或投影功能提示信息。
可选地,所述读取所述操作位置对应的基准手势,并对所述基准手势和所述操作手势进行手势匹配步骤执行之后,还包括:
在手势匹配未通过的情况下,按照预设的提示策略确定手势摆放提示信息,并将所述手势摆放提示信息发送至所述布线投影设备;
其中,所述布线投影设备在所述操作位置投影所述手势摆放提示信息。
可选地,所述识别所述目标图像中用户手部对应的操作手势,包括:
确定所述目标图像包含的多个目标子图像;
依次识别每个目标子图像中用户手部对应的初始操作手势;
基于多个初始操作手势确定所述用户手部对应的所述操作手势。
根据本说明书实施例的第二方面,提供了一种手势识别装置,应用于布线系统,所述布线系统包括图像采集设备和布线投影设备,其中,所述布线投影设备在布线面板上投影布线信息,所述装置包括:
获取图像模块,被配置为获取所述图像采集设备针对所述布线面板采集的目标图像;
识别手势模块,被配置为识别所述目标图像中用户手部对应的操作手势,以及根据所述目标图像确定所述操作手势在所述布线面板中的操作位置;
手势匹配模块,被配置为读取所述操作位置对应的基准手势,并对所述基准手势和所述操作手势进行手势匹配;
发送指令模块,被配置为在手势匹配通过的情况下,向所述布线投影设备发送所述操作位置对应的投影指令,用于更新所述布线投影设备在所述布线面板上投影的布线信息。
根据本说明书实施例的第三方面,提供了一种计算设备,包括:
存储器和处理器;
所述存储器用于存储计算机可执行指令,所述处理器用于执行所述计算机可执行指令时实现所述手势识别方法的步骤。
根据本说明书实施例的第四方面,提供了一种计算机可读存储介质,其存储有计算机可执行指令,该指令被处理器执行时实现所述手势识别方法的步骤。
本实施例提供的手势识别方法,其应用于布线系统,且布线系统还包括图像采集设备和布线投影设备,其中,布线投影设备在布线面板上投影布线信息;在此基础上,为了能够方便布线人员进行布线操作,可以通过图像采集设备针对布线面板进行目标图像的采集,且被采集目标图像中包含布线人员的手部,以此为基础可以识别用户手部对应的操作手势,以及根据目标图像确定操作手势在布线面板中的位置,通过读取操作位置对应的基准手势,可以对操作手势进行手势匹配,从而确保在匹配成功的情况下,可以向布线投影设备发送对应操作位置的投影指令,用于实现驱动布线投影设备根据投影指令进行布线信息的切换。实现在不需要用户额外操作终端的情况下,完成布线相关的操作,可以降低用户在投影页面和终端之间的切换频率,从而有效的提高了布线效率,提高生成效率。
附图说明
图1是本说明书一实施例提供的一种手势识别方法的示意图;
图2是本说明书一实施例提供的一种手势识别方法的流程图;
图3是本说明书一实施例提供的一种手势识别方法中手势识别的示意图;
图4是本说明书一实施例提供的一种手势识别方法的处理流程图;
图5是本说明书一实施例提供的一种手势识别装置的结构示意图;
图6是本说明书一实施例提供的一种计算设备的结构框图。
具体实施方式
在下面的描述中阐述了很多具体细节以便于充分理解本说明书。但是本说明书能够以很多不同于在此描述的其它方式来实施,本领域技术人员可以在不违背本说明书内涵的情况下做类似推广,因此本说明书不受下面公开的具体实施的限制。
在本说明书一个或多个实施例中使用的术语是仅仅出于描述特定实施例的目的,而非旨在限制本说明书一个或多个实施例。在本说明书一个或多个实施例和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其他含义。还应当理解,本说明书一个或多个实施例中使用的术语“和/或”是指并包含一个或多个相关联的列出项目的任何或所有可能组合。
应当理解,尽管在本说明书一个或多个实施例中可能采用术语第一、第二等来描述各种信息,但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如,在不脱离本说明书一个或多个实施例范围的情况下,第一也可以被称为第二,类似地,第二也可以被称为第一。取决于语境,如在此所使用的词语“如果”可以被解释成为“在……时”或“当……时”或“响应于确定”。
在本说明书中,提供了一种手势识别方法,本说明书同时涉及一种手势识别装置,一种计算设备,以及一种计算机可读存储介质,在下面的实施例中逐一进行详细说明。
参见图1所示的示意图,本实施例提供的手势识别方法,其应用于布线系统,且布线系统还包括图像采集设备和布线投影设备,其中,布线投影设备在布线面板上投影布线信息;在此基础上,为了能够方便布线人员进行布线操作,可以通过图像采集设备针对布线面板进行目标图像的采集,且被采集目标图像中包含布线人员的手部,以此为基础可以识别用户手部对应的操作手势,以及根据目标图像确定操作手势在布线面板中的位置,通过读取操作位置对应的基准手势,可以对操作手势进行手势匹配,从而确保在匹配成功的情况下,可以向布线投影设备发送对应操作位置的投影指令,用于实现驱动布线投影设备根据投影指令进行布线信息的切换。实现在不需要用户额外操作终端的情况下,完成布线相关的操作,可以降低用户在投影页面和终端之间的切换频率,从而有效的提高了布线效率,提高生成效率。
图2示出了根据本说明书一实施例提供的一种手势识别方法的流程图,该方法应用于布线系统,所述布线系统包括图像采集设备和布线投影设备,其中,所述布线投影设备在布线面板上投影布线信息,所述方法包括:
步骤S202,获取所述图像采集设备针对所述布线面板采集的目标图像。
具体的,图像采集设备具体是指用于针对布线面板进行图像采集的设备,包括但不限于摄像头或者照相机等。相应的,布线投影设备具体是指用于在布线面板上投影布线信息的设备,确保布线投影设备的投影大小与布线面板相同,从而确保布线信息可以精准投影在布线面板上。相应的,布线面板具体是指进行线束布置的面板,操作人员可以根据布线投影设备在布线面板上投影的信息进行相关导线的布置,比如进行电缆导线的布置等。
其中,布线信息具体是指在布线面板上投影的信息,至少包括线束投影模型和投影控件,线束投影模型可以理解为是投影在布线面板上的导线走势模型,通过将线束投影模型投影在布线面板上,可以更直观的观看到不同类型线束的布置信息,布置信息能够确定每个位置应该布置的导线型号、导线长度和/或导线数量等,更方便布线人员进行布线操作;且在通过布线投影设备进行投影时,可以根据布置工序,对每个工序应该被布置的线束对应的模型进行高亮投影,比如线束投影模型中包括ABC三种类型导线,在第一布线工序中,需要对A类型导线进行布置,则可以将A类型导线进行红色高亮投影,而BC可以以灰色高亮投影,方便布线人员关注到A类型导线的布置。相应的,投影控件具体是指辅助操作人员进行手势识别的控件,通过手势触控该控件,可以进行手势识别,并作出相应的功能,比如进行工序切换,或者进行待机等操作。
进一步的,目标图像具体是指图像采集设备在布线工序执行过程中,针对布线面板进行采集的图像,且目标图像中包含用户的手部特征,用于在后续进行手势识别时,确定当前用户是否存在手势交互操作,以及时且准确的作出响应,提高用户的布线效率。
基于此,当图像采集设备针对被布线投影设备投影布线信息的布线面板的目标图像时,说明此时用户可能在布线面板上进行了手势交互操作,为了能够准确识别用户手势,且快速作出相应,即可采集目标图像进行后续的手势识别和手势匹配处理。
实际应用中,考虑到用户在进行手势交互操作时,可能并不熟悉手势交互操作的具体规则,可能就无法触发手势识别任务进行工序切换等操作,因此为了能够辅助用户正确触达手势识别任务,可以在通过布线投影设备进行投影时,在布线面板上投影相关的手势交互操作的辅助信息,本实施例中,具体实现方式如下:
通过所述布线投影设备在所述布线面板上的至少一个操作区域,投影操作辅助信息;其中,所述操作辅助信息用于展示手势摆放信息和/或投影功能提示信息。
具体的,操作区域具体是指布线面板上进行操作辅助信息投影的区域,且区域为布线面板上的一部分,同时不影响用户的布线操作。相应的,操作辅助信息具体是指用于展示手势摆放信息和/或投影功能提示信息的信息,用于辅助用户在操作区域内按照设定手势进行相关功能的触发,实现向布线投影设备成功发送投影指令。
基于此,为了能够方便用户进行手势交互功能的使用,可以通过布线投影设备在布线面板上的至少一个操作区域,投影操作辅助信息;用于实现向用户展示手势摆放信息和/或投影功能提示信息;通过手势摆放信息告知用户在进行手势交互时,应该摆放那种手势,比如握拳、伸食指、五指伸张等。通过投影功能提示信息用于告知用户在操作区域内摆放手势,可以实现那种功能,比如切换工序、待机、调整投影亮度等。
参见图3中(a)所示的示意图,在布线面板上,布线投影设备投影了电缆导线对应的线束投影模型,布线人员可以进行相关布线操作。同时在布线面板的右侧区域投影工序切换指令控件和待机控件,用于实现用户在控件投影区域摆放相应手势时,可以执行相应功能,比如进行工序切换或者待机等。
综上,通过在布线面板上投影操作辅助信息,可以更方便用户触发手势交互操作,从而快速的进行手势识别和相应功能实现,进一步提高用户操作方便性,以及布线效率。
步骤S204,识别所述目标图像中用户手部对应的操作手势,以及根据所述目标图像确定所述操作手势在所述布线面板中的操作位置。
具体的,在上述得到目标图像后,考虑到不同手势会对应不同功能,且不同手势在不同位置也会对应不同功能,比如布线面板中存在1,2两个区域,1区域中握拳手势可以实现向上切换工序,伸五指可以向下切换工序;2区域中握拳手势可以实现待机,伸五指可以实现关机,因此为了能够准确识别手势,且向布线投影设备发出准确的投影指令,可以先识别用户手部的操作手势,同时确定操作手势在布线面板中的操作位置,以方便后续结合位置和手势进行相应投影指令的确定。
其中,操作手势具体是指当前时刻用户在布线面板前摆放出的手势,相应的,操作位置具体是指当前使用用户摆放的操作手势在布线面板中所处的区域对应的位置,不同位置对应不同的手势规则。
进一步的,在进行操作手势识别时,为了能够提高识别精度,可以先对图像进行裁剪,之后再进行手部关键点的识别,从而确定当前时刻用户的手势,本实施例中,具体实现方式如下:
在所述目标图像中确定所述用户手部对应的手势区域,并对所述手势区域进行裁剪,获得手部图像;对所述手部图像中所述用户手部的手部关键点进行识别,获得手部关键点信息;根据所述手部关键点信息确定所述用户手部对应的所述操作手势。
具体的,手势区域具体是指用户手部在被图像采集设备采集后,在目标图像中所处的区域,相应的,手部图像具体是指对目标图像进行裁剪后,得到的仅包含手部特征的图像;相应的,手部关键点具体是指手部上能够识别手势时对应的关键点,如手部的21个关键点。相应的,手部关键点信息具体是指每个关键点对应的坐标信息,根据坐标信息识别手部对应的操作手势。
基于此,在采集到目标图像后,为了能够提高手势识别精度,可以在目标图像中确定用户手部对应的手势区域,并对手势区域进行裁剪,获得手部图像;从而实现对图像中与手势无关的特征进行剔除。此后对手部图像中用户手部的手部关键点进行识别,获得手部关键点信息;以定位每个关键点的位置,再根据手部关键点信息即可确定用户手部对应的操作手势。
实际应用中,在进行操作手势识别时,还可以通过手势识别模型实现,比如YOLO模型,具体实施时,可以根据实际需求选择,本实施例在此不作任何限定。
参见图3中(b)所示的示意图,在得到目标图像后,可以先在目标图像中确定布线人员的手部对应的手部区域,之后对手部区域进行裁剪处理,得到如图3中(b)所示的手部图像;此时再对手部图像进行关键点识别,得到关键点信息后,将其输入到手势识别模型进行处理,即可得到布线人员当前的操作手势,以方便后续进行布线指令的确定。
综上,通过对图像进行裁剪,可以实现在手势识别时,减少冗余信息的干扰,提高手势识别精度,同时通过识别手部关键点进行操作手势的确定,可以进一步手势识别精度。
更进一步的,在进行操作位置确定时,由于图像采集的角度和位置,与布线投影设备投影的角度和位置可能存在差别,为了能够精准确定手势在布线面板中的位置,需要结合图像进行位置的转换,本实施例中,具体实现方式如下:
确定所述操作手势在所述目标图像中的手势位置;根据图像与布线面板预设的位置映射关系,确定所述手势位置在所述布线面板中映射的面板位置;将所述面板位置作为所述操作手势在所述布线面板中的操作位置。
具体的,手势位置具体是指操作手势在目标图像中的位置,相应的,映射关系具体是指图像中的每个位置与布线面板中的每个位置的映射关系,通过该映射关系能够根据手势位置,确定操作手势在布线面板中的位置。
基于此,考虑到采集到的是目标图像,而手势规则对应的是布线面板中操作位置,因此在得到目标图像后,可以先确定操作手势在布线面板中的位置,之后根据预先建立的图像与布线面板之间的映射关系,确定手势位置在布线面板中映射的面板位置,从而确定用户手部在布线面板中的摆放区域,以此作为操作手势在布线面板中的操作位置,方便后续进行基准手势的确定和处理。
需要说明的是,为了能够确保采集到的图像可以准确映射出面板位置,需要将图像采集设备按照预设位置进行摆放,用于进行目标图像的采集,从而可以确保采集图像后,可以使用映射关系进行面板位置的确定。
沿用上例,当确定用户手部在采集到的图像中的手势位置是S的情况下,此时可以读取预设图像与布线面板之间的映射关系,从而确定手势位置S对应布线面板中的M,则此时可以选择面板位置M作为操作位置,以进行后续的基准手势确定和投影指令的确定。
综上,通过结合映射关系进行操作位置的确定,可以有效的提高操作位置的确定效率,同时保证位置确定准确度,方便后续选择正确的基准手势进行匹配,以向布线投影设备发送准确的投影指令。
此外,在进行手势识别时,为了能够提高操作手势识别的识别精度,可以结合多帧图像完成,本实施例中,具体实现方式如下:
确定所述目标图像包含的多个目标子图像;依次识别每个目标子图像中用户手部对应的初始操作手势;基于多个初始操作手势确定所述用户手部对应的所述操作手势。
具体的,目标子图像具体是指图像采集设备采集到的连续多个图像帧,相应的,初始操作手势具体是指每个目标子图像中包含的操作手势。其中,每个初始操作手势的识别过程可参见上述实施例,本实施例在此不作过多赘述。
基于此,为了能够提高手势识别精度,可以通过图像采集设备连续采集多张目标子图像,之后对每个目标子图像分别进行初始操作手势的识别,得到多个初始操作手势,再通过平均初始操作手势即可确定当前时刻对应的操作手势,从而确保手势识别精度。
在根据初始操作手势进行操作手势确定时,可以先确定每个初始操作手势对应的关键点坐标集合,之后将相同关键点对应的坐标取平均值,从而计算出一组关键点坐标,结合该组关键点坐标即可确定操作手势。
综上,通过结合多张目标子图像进行操作手势的识别,可以确保手势识别精度,以在后续能够精准匹配基准手势时,准确的确定投影指令。
步骤S206,读取所述操作位置对应的基准手势,并对所述基准手势和所述操作手势进行手势匹配。
具体的,在上述得到操作手势和操作位置后,进一步的,为了能够响应于操作手势准确作出响应,避免造成投影指令确定错误的问题发生,可以在读取操作位置对应的基准手势后,对操作手势和基准手势进行手势匹配,以在匹配通过的情况下,执行步骤S208。
其中,基准手势具体是指针对操作位置预设的手势,用于对操作手势进行检测,检测通过的情况下,说明手势正确,则可以确定相应的投影指令发送给布线投影设备。
进一步的,在进行手势匹配时,为了降低噪声影响,提高匹配精度,可以采用计算手势相似度的方式实现,本实施例中,具体实现方式如下:
确定所述操作位置对应的位置标识;在手势存储空间中读取所述位置标识对应的预存手势,作为所述基准手势;计算所述基准手势与所述操作手势之间的手势相似度;在所述手势相似度大于相似度阈值的情况下,执行步骤S208。
具体的,位置标识具体是指操作位置对应的唯一标识,用于进行基准手势的读取。相应的,手势相似度具体是指基准手势和操作手指之间的余弦相似度。基于此,为了能够精准确定投影指令,可以先确定操作位置对应的位置标识;以在手势存储空间中读取位置标识对应的预存手势,作为基准手势;之后计算基准手势与所述操作手势之间的手势相似度;在手势相似度大于相似度阈值的情况下,执行步骤S208即可。
沿用上例,在确定操作位置M后,可以基于操作位置对应的位置标识ID_M在手势存储空间中读取预存手势,根据读取结果确定基准手势,并计算基准手势与操作手势之间的相似度,并根据相似度计算结果确定当前用户摆放的手势是否匹配基准手势,以判别是否进行后续的处理操作。
综上,结合位置标识进行基准手势的读取,可以实现在大量的预存手势中确定匹配操作位置的手势,从而可以实现对操作手势的检测。
当手势匹配结果为未通过的情况下,为了能够快速的提醒用户,且方便用户作出正确的手势,可以进行体式信息的投影,本实施例中,具体实现方式如下:
在手势匹配未通过的情况下,按照预设的提示策略确定手势摆放提示信息,并将所述手势摆放提示信息发送至所述布线投影设备;其中,所述布线投影设备在所述操作位置投影所述手势摆放提示信息。
具体的,手势摆放提醒信息具体是指提示用户如何进行手势摆放的信息,辅助用户做出正确手势,以使用手势识别功能,提高布线效率。
基于此,在手势匹配未通过的情况下,说明用户当前手势摆放错误,或者不是进行手势交互,为了能够达到辅助用户的目的,可以按照预设的提示策略确定手势摆放提示信息,并将手势摆放提示信息发送至布线投影设备;其中,布线投影设备在操作位置投影手势摆放提示信息,以提示用户如何进行手势摆放。
实际应用中,手势摆放提示信息可以按照文字形式投影在布线面板上的操作位置,或者以图示的方式投影在布线面板上的操作位置,本实施例在此不作任何限定。
综上,在匹配未通过的情况下,可以投影手势摆放提示信息,辅助用户做出正确的手势,可以有效的提高用户操作便捷性。
步骤S208,在手势匹配通过的情况下,向所述布线投影设备发送所述操作位置对应的投影指令,用于更新所述布线投影设备在所述布线面板上投影的布线信息。
具体的,在上述对基准手势和操作手势进行手势匹配后,若匹配通过,则说明当前时刻用户做出的手势是正确的,可以进行相应功能实现,则可以确定对应操作位置的投影指令,之后向布线投影设备发送投影指令,用于实现布线投影设备可以更新在布线面板上投影的布线信息,且更新后的布线信息对应投影指令。
其中,投影指令具体是指对应基准手势和操作位置的指令,用于驱动布线投影设备进行布线信息的切换,如线束投影模型中高亮路径的切换、工序的切换等。本实施例在此不作任何限定。
进一步的,在向布线投影设备发送投影指令,以驱使布线投影设备在布线面板上投影正确的布线信息,需要结合操作位置和基准手势确定投影指令,本实施例中,具体实现方式如下:
确定所述操作位置对应的至少一个初始投影指令,并按照所述基准手势在所述至少一个初始投影指令中筛选所述投影指令;向所述布线投影设备发送所述投影指令,其中,所述布线投影设备响应于所述投影指令执行目标投影任务,用于更新在所述布线面板上投影的布线信息。
具体的,初始投影指令具体是指对应操作位置的多个投影指令,目标投影任务具体是指当前时刻触发投影指令后,布线投影设备需要执行的任务,执行任务后可以更新布线信息的投影。
基于此,考虑到操作位置不同手势对应不同的功能,比如布线面板中的1区域,握拳手势可以实现向上切换工序,伸五指可以向下切换工序;因此其对应有两个投影指令,为了能够确保投影指令确定的准确度。可以按照基准手势在至少一个初始投影指令中筛选投影指令;之后再向布线投影设备发送投影指令,其中,布线投影设备可以响应于投影指令执行目标投影任务,用于更新在布线面板上投影的布线信息。
沿用上例,当识别到用户当前摆放的手势与操作位置M对应的基准手势匹配时,可以确定用户需要切换工序,则此时可以向布线投影设备发送切换下一工序的指令,实现布线投影设备可以根据切换下一工序的指令进行投影内容的切换,用于将当前高亮的A线束路径切换为高亮B线束路径,方便布线人员进行B类线束的布置。
本实施例提供的手势识别方法,其应用于布线系统,且布线系统还包括图像采集设备和布线投影设备,其中,布线投影设备在布线面板上投影布线信息;在此基础上,为了能够方便布线人员进行布线操作,可以通过图像采集设备针对布线面板进行目标图像的采集,且被采集目标图像中包含布线人员的手部,以此为基础可以识别用户手部对应的操作手势,以及根据目标图像确定操作手势在布线面板中的位置,通过读取操作位置对应的基准手势,可以对操作手势进行手势匹配,从而确保在匹配成功的情况下,可以向布线投影设备发送对应操作位置的投影指令,用于实现驱动布线投影设备根据投影指令进行布线信息的切换。实现在不需要用户额外操作终端的情况下,完成布线相关的操作,可以降低用户在投影页面和终端之间的切换频率,从而有效的提高了布线效率,提高生成效率。
下述结合附图4,以本说明书提供的手势识别方法在电缆导线布置场景中的应用为例,对所述手势识别方法进行进一步说明。其中,图4示出了本说明书一实施例提供的一种手势识别方法的处理流程图,该方法,应用于布线系统,所述布线系统包括图像采集设备和布线投影设备,其中,所述布线投影设备在布线面板上投影布线信息,所述方法包括以下步骤:
步骤S402,获取图像采集设备针对布线面板采集的目标图像。
步骤S404,在目标图像中确定用户手部对应的手势区域,并对手势区域进行裁剪,获得手部图像。
步骤S406,对手部图像中用户手部的手部关键点进行识别,获得手部关键点信息。
步骤S408,根据手部关键点信息确定用户手部对应的操作手势。
步骤S410,确定所操作手势在目标图像中的手势位置。
步骤S412,根据图像与布线面板预设的位置映射关系,确定手势位置在布线面板中映射的面板位置。
步骤S414,将面板位置作为操作手势在布线面板中的操作位置。
步骤S416,确定操作位置对应的位置标识。
步骤S418,在手势存储空间中读取位置标识对应的预存手势,作为基准手势。
步骤S420,计算基准手势与操作手势之间的手势相似度。
步骤S422,在手势相似度大于相似度阈值的情况下,确定操作位置对应的至少一个初始投影指令,并按照基准手势在至少一个初始投影指令中筛选投影指令。
步骤S424,向布线投影设备发送投影指令,其中,布线投影设备响应于投影指令执行目标投影任务,用于更新在布线面板上投影的布线信息。
本实施例提供的手势识别方法,其应用于布线系统,且布线系统还包括图像采集设备和布线投影设备,其中,布线投影设备在布线面板上投影布线信息;在此基础上,为了能够方便布线人员进行布线操作,可以通过图像采集设备针对布线面板进行目标图像的采集,且被采集目标图像中包含布线人员的手部,以此为基础可以识别用户手部对应的操作手势,以及根据目标图像确定操作手势在布线面板中的位置,通过读取操作位置对应的基准手势,可以对操作手势进行手势匹配,从而确保在匹配成功的情况下,可以向布线投影设备发送对应操作位置的投影指令,用于实现驱动布线投影设备根据投影指令进行布线信息的切换。实现在不需要用户额外操作终端的情况下,完成布线相关的操作,可以降低用户在投影页面和终端之间的切换频率,从而有效的提高了布线效率,提高生成效率。
与上述方法实施例相对应,本说明书还提供了手势识别装置实施例,图5示出了本说明书一实施例提供的一种手势识别装置的结构示意图。如图5所示,该装置应用于布线系统,所述布线系统包括图像采集设备和布线投影设备,其中,所述布线投影设备在布线面板上投影布线信息,所述装置包括:
获取图像模块502,被配置为获取所述图像采集设备针对所述布线面板采集的目标图像;
识别手势模块504,被配置为识别所述目标图像中用户手部对应的操作手势,以及根据所述目标图像确定所述操作手势在所述布线面板中的操作位置;
手势匹配模块506,被配置为读取所述操作位置对应的基准手势,并对所述基准手势和所述操作手势进行手势匹配;
发送指令模块508,被配置为在手势匹配通过的情况下,向所述布线投影设备发送所述操作位置对应的投影指令,用于更新所述布线投影设备在所述布线面板上投影的布线信息。
一个可选的实施例中,所述识别手势模块504进一步被配置为:
在所述目标图像中确定所述用户手部对应的手势区域,并对所述手势区域进行裁剪,获得手部图像;对所述手部图像中所述用户手部的手部关键点进行识别,获得手部关键点信息;根据所述手部关键点信息确定所述用户手部对应的所述操作手势。
一个可选的实施例中,所述识别手势模块504进一步被配置为:
确定所述操作手势在所述目标图像中的手势位置;根据图像与布线面板预设的位置映射关系,确定所述手势位置在所述布线面板中映射的面板位置;将所述面板位置作为所述操作手势在所述布线面板中的操作位置。
一个可选的实施例中,所述手势匹配模块506进一步被配置为:
确定所述操作位置对应的位置标识;在手势存储空间中读取所述位置标识对应的预存手势,作为所述基准手势;计算所述基准手势与所述操作手势之间的手势相似度;在所述手势相似度大于相似度阈值的情况下,执行发送指令模块508。
一个可选的实施例中,所述发送指令模块508进一步被配置为:
确定所述操作位置对应的至少一个初始投影指令,并按照所述基准手势在所述至少一个初始投影指令中筛选所述投影指令;向所述布线投影设备发送所述投影指令,其中,所述布线投影设备响应于所述投影指令执行目标投影任务,用于更新在所述布线面板上投影的布线信息。
一个可选的实施例中,所述装置还包括:
投用模块,被配置为通过所述布线投影设备在所述布线面板上的至少一个操作区域,投影操作辅助信息;其中,所述操作辅助信息用于展示手势摆放信息和/或投影功能提示信息。
一个可选的实施例中,所述装置还包括:
提示模块,被配置为在手势匹配未通过的情况下,按照预设的提示策略确定手势摆放提示信息,并将所述手势摆放提示信息发送至所述布线投影设备;
其中,所述布线投影设备在所述操作位置投影所述手势摆放提示信息。
一个可选的实施例中,所述识别手势模块504进一步被配置为:
确定所述目标图像包含的多个目标子图像;依次识别每个目标子图像中用户手部对应的初始操作手势;基于多个初始操作手势确定所述用户手部对应的所述操作手势。
本实施例提供的手势识别装置,其应用于布线系统,且布线系统还包括图像采集设备和布线投影设备,其中,布线投影设备在布线面板上投影布线信息;在此基础上,为了能够方便布线人员进行布线操作,可以通过图像采集设备针对布线面板进行目标图像的采集,且被采集目标图像中包含布线人员的手部,以此为基础可以识别用户手部对应的操作手势,以及根据目标图像确定操作手势在布线面板中的位置,通过读取操作位置对应的基准手势,可以对操作手势进行手势匹配,从而确保在匹配成功的情况下,可以向布线投影设备发送对应操作位置的投影指令,用于实现驱动布线投影设备根据投影指令进行布线信息的切换。实现在不需要用户额外操作终端的情况下,完成布线相关的操作,可以降低用户在投影页面和终端之间的切换频率,从而有效的提高了布线效率,提高生成效率。
上述为本实施例的一种手势识别装置的示意性方案。需要说明的是,该手势识别装置的技术方案与上述的手势识别方法的技术方案属于同一构思,手势识别装置的技术方案未详细描述的细节内容,均可以参见上述手势识别方法的技术方案的描述。
图6示出了根据本说明书一实施例提供的一种计算设备600的结构框图。该计算设备600的部件包括但不限于存储器610和处理器620。处理器620与存储器610通过总线630相连接,数据库650用于保存数据。
计算设备600还包括接入设备640,接入设备640使得计算设备600能够经由一个或多个网络660通信。这些网络的示例包括公用交换电话网(PSTN,Public SwitchedTelephone Network)、局域网(LAN,Local Area Network)、广域网(WAN,Wide AreaNetwork)、个域网(PAN,Personal Area Network)或诸如因特网的通信网络的组合。接入设备640可以包括有线或无线的任何类型的网络接口(例如,网络接口卡(NIC,networkinterface controller))中的一个或多个,诸如IEEE802.11无线局域网(WLAN,WirelessLocal Area Network)无线接口、全球微波互联接入(Wi-MAX,WorldwideInteroperability for Microwave Access)接口、以太网接口、通用串行总线(USB,Universal Serial Bus)接口、蜂窝网络接口、蓝牙接口、近场通信(NFC,Near FieldCommunication)接口,等等。
在本申请的一个实施例中,计算设备600的上述部件以及图6中未示出的其他部件也可以彼此相连接,例如通过总线。应当理解,图6所示的计算设备结构框图仅仅是出于示例的目的,而不是对本申请范围的限制。本领域技术人员可以根据需要,增添或替换其他部件。
计算设备600可以是任何类型的静止或移动计算设备,包括移动计算机或移动计算设备(例如,平板计算机、个人数字助理、膝上型计算机、笔记本计算机、上网本等)、移动电话(例如,智能手机)、可佩戴的计算设备(例如,智能手表、智能眼镜等)或其他类型的移动设备,或者诸如台式计算机或个人计算机(PC,Personal Computer)的静止计算设备。计算设备600还可以是移动式或静止式的服务器。
其中,处理器620用于执行计算机可执行指令时实现所述手势识别方法的步骤。
上述为本实施例的一种计算设备的示意性方案。需要说明的是,该计算设备的技术方案与上述的手势识别方法的技术方案属于同一构思,计算设备的技术方案未详细描述的细节内容,均可以参见上述手势识别方法的技术方案的描述。
本说明书一实施例还提供一种计算机可读存储介质,其存储有计算机指令,该指令被处理器执行时以用于手势识别方法。
上述为本实施例的一种计算机可读存储介质的示意性方案。需要说明的是,该存储介质的技术方案与上述的手势识别方法的技术方案属于同一构思,存储介质的技术方案未详细描述的细节内容,均可以参见上述手势识别方法的技术方案的描述。
上述对本说明书特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下,在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外,在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中,多任务处理和并行处理也是可以的或者可能是有利的。
所述计算机指令包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是,所述计算机可读介质包含的内容可以根据专利实践的要求进行适当的增减,例如在某些地域,根据专利实践,计算机可读介质不包括电载波信号和电信信号。
需要说明的是,对于前述的各方法实施例,为了简便描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本说明书并不受所描述的动作顺序的限制,因为依据本说明书,某些步骤可以采用其它顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作和模块并不一定都是本说明书所必须的。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其它实施例的相关描述。
以上公开的本说明书优选实施例只是用于帮助阐述本说明书。可选实施例并没有详尽叙述所有的细节,也不限制该发明仅为所述的具体实施方式。显然,根据本说明书的内容,可作很多的修改和变化。本说明书选取并具体描述这些实施例,是为了更好地解释本说明书的原理和实际应用,从而使所属技术领域技术人员能很好地理解和利用本说明书。本说明书仅受权利要求书及其全部范围和等效物的限制。

Claims (10)

1.一种手势识别方法,其特征在于,应用于布线系统,所述布线系统包括图像采集设备和布线投影设备,其中,所述布线投影设备在布线面板上投影布线信息,所述方法包括:
获取所述图像采集设备针对所述布线面板采集的目标图像;
识别所述目标图像中用户手部对应的操作手势,以及根据所述目标图像确定所述操作手势在所述布线面板中的操作位置;
读取所述操作位置对应的基准手势,并对所述基准手势和所述操作手势进行手势匹配;
在手势匹配通过的情况下,向所述布线投影设备发送所述操作位置对应的投影指令,用于更新所述布线投影设备在所述布线面板上投影的布线信息。
2.根据权利要求1所述的方法,其特征在于,所述识别所述目标图像中用户手部对应的操作手势,包括:
在所述目标图像中确定所述用户手部对应的手势区域,并对所述手势区域进行裁剪,获得手部图像;
对所述手部图像中所述用户手部的手部关键点进行识别,获得手部关键点信息;
根据所述手部关键点信息确定所述用户手部对应的所述操作手势。
3.根据权利要求1所述的方法,其特征在于,所述根据所述目标图像确定所述操作手势在所述布线面板中的操作位置,包括:
确定所述操作手势在所述目标图像中的手势位置;
根据图像与布线面板预设的位置映射关系,确定所述手势位置在所述布线面板中映射的面板位置;
将所述面板位置作为所述操作手势在所述布线面板中的操作位置。
4.根据权利要求1所述的方法,其特征在于,所述读取所述操作位置对应的基准手势,并对所述基准手势和所述操作手势进行手势匹配,包括:
确定所述操作位置对应的位置标识;
在手势存储空间中读取所述位置标识对应的预存手势,作为所述基准手势;
计算所述基准手势与所述操作手势之间的手势相似度;
在所述手势相似度大于相似度阈值的情况下,执行所述向所述布线投影设备发送所述操作位置对应的投影指令,用于更新所述布线投影设备在所述布线面板上投影的布线信息的步骤;
其中,所述向所述布线投影设备发送所述操作位置对应的投影指令,用于更新所述布线投影设备在所述布线面板上投影的布线信息,包括:
确定所述操作位置对应的至少一个初始投影指令,并按照所述基准手势在所述至少一个初始投影指令中筛选所述投影指令;
向所述布线投影设备发送所述投影指令,其中,所述布线投影设备响应于所述投影指令执行目标投影任务,用于更新在所述布线面板上投影的布线信息。
5.根据权利要求1所述的方法,其特征在于,所述获取所述图像采集设备针对所述布线面板采集的目标图像步骤执行之前,还包括:
通过所述布线投影设备在所述布线面板上的至少一个操作区域,投影操作辅助信息;
其中,所述操作辅助信息用于展示手势摆放信息和/或投影功能提示信息。
6.根据权利要求1所述的方法,其特征在于,所述读取所述操作位置对应的基准手势,并对所述基准手势和所述操作手势进行手势匹配步骤执行之后,还包括:
在手势匹配未通过的情况下,按照预设的提示策略确定手势摆放提示信息,并将所述手势摆放提示信息发送至所述布线投影设备;
其中,所述布线投影设备在所述操作位置投影所述手势摆放提示信息。
7.根据权利要求1所述的方法,其特征在于,所述识别所述目标图像中用户手部对应的操作手势,包括:
确定所述目标图像包含的多个目标子图像;
依次识别每个目标子图像中用户手部对应的初始操作手势;
基于多个初始操作手势确定所述用户手部对应的所述操作手势。
8.一种手势识别装置,其特征在于,应用于布线系统,所述布线系统包括图像采集设备和布线投影设备,其中,所述布线投影设备在布线面板上投影布线信息,所述装置包括:
获取图像模块,被配置为获取所述图像采集设备针对所述布线面板采集的目标图像;
识别手势模块,被配置为识别所述目标图像中用户手部对应的操作手势,以及根据所述目标图像确定所述操作手势在所述布线面板中的操作位置;
手势匹配模块,被配置为读取所述操作位置对应的基准手势,并对所述基准手势和所述操作手势进行手势匹配;
发送指令模块,被配置为在手势匹配通过的情况下,向所述布线投影设备发送所述操作位置对应的投影指令,用于更新所述布线投影设备在所述布线面板上投影的布线信息。
9.一种计算设备,其特征在于,包括存储器和处理器;所述存储器用于存储计算机可执行指令,所述处理器用于执行所述计算机可执行指令,以实现权利要求1至7任意一项所述方法的步骤。
10.一种计算机可读存储介质,其存储有计算机指令,其特征在于,该指令被处理器执行时实现权利要求1至7任意一项所述方法的步骤。
CN202310913381.1A 2023-07-25 2023-07-25 手势识别方法及装置 Active CN116631065B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310913381.1A CN116631065B (zh) 2023-07-25 2023-07-25 手势识别方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310913381.1A CN116631065B (zh) 2023-07-25 2023-07-25 手势识别方法及装置

Publications (2)

Publication Number Publication Date
CN116631065A true CN116631065A (zh) 2023-08-22
CN116631065B CN116631065B (zh) 2023-09-26

Family

ID=87597669

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310913381.1A Active CN116631065B (zh) 2023-07-25 2023-07-25 手势识别方法及装置

Country Status (1)

Country Link
CN (1) CN116631065B (zh)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN212033624U (zh) * 2020-04-21 2020-11-27 中国电子科技集团公司第十四研究所 一种用于线束制造的激光投影辅助布线的装置
CN113095292A (zh) * 2021-05-06 2021-07-09 广州虎牙科技有限公司 手势识别方法、装置、电子设备及可读存储介质
CN115648172A (zh) * 2022-10-27 2023-01-31 银河航天科技(南通)有限公司 一种基于agv系统的机器人定位装置
CN116301551A (zh) * 2022-11-23 2023-06-23 四川吉利学院 触控识别方法、触控识别装置、电子设备及介质

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN212033624U (zh) * 2020-04-21 2020-11-27 中国电子科技集团公司第十四研究所 一种用于线束制造的激光投影辅助布线的装置
CN113095292A (zh) * 2021-05-06 2021-07-09 广州虎牙科技有限公司 手势识别方法、装置、电子设备及可读存储介质
CN115648172A (zh) * 2022-10-27 2023-01-31 银河航天科技(南通)有限公司 一种基于agv系统的机器人定位装置
CN116301551A (zh) * 2022-11-23 2023-06-23 四川吉利学院 触控识别方法、触控识别装置、电子设备及介质

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
ANDRZEJ SZAJNA等: "Assessment of Augmented Reality in Manual Wiring Production Process with Use of Mobile AR Glasses", 《HTTPS://WWW.MDPI.COM/1424-8220/20/17/4755》 *

Also Published As

Publication number Publication date
CN116631065B (zh) 2023-09-26

Similar Documents

Publication Publication Date Title
US8493341B2 (en) Optical touch display device and method thereof
CN105487784A (zh) 电子终端的控制方法、装置、终端和系统
CN113890773A (zh) 跨设备的控制方法、装置及系统
JP2012027515A (ja) 入力方法及び入力装置
CN113194024B (zh) 信息显示方法、装置和电子设备
EP4354827A1 (en) Display method, display apparatus, related device, and readable storage medium
US11073905B2 (en) Work assistance system, work assistance method, and computer-readable recording medium
CN109886178A (zh) 指纹录入方法及相关产品
US20180061153A1 (en) Information providing system of vehicle
CN116631065B (zh) 手势识别方法及装置
CN113485625A (zh) 电子设备的响应方法、装置和电子设备
JP2011043875A (ja) 作業機器操作装置
CN103984888A (zh) 一种协助用户激活指纹绑定的应用程序的方法及装置
WO2019201223A1 (zh) 屏幕显示的切换方法以及装置及存储介质
CN111143912A (zh) 展示标注方法及相关产品
CN109144379B (zh) 对终端进行操作的方法、终端检测设备、系统及存储介质
CN106650727B (zh) 一种信息显示方法以及ar设备
CN115065604A (zh) 设备拓扑图生成方法、生成装置、存储介质及终端设备
CN113220125A (zh) 手指交互方法、装置、电子设备及计算机存储介质
CN113126780A (zh) 输入方法、装置、电子设备及可读存储介质
CN103809846A (zh) 一种功能调用方法及电子设备
CN113268620A (zh) 图片显示方法及装置
CN112181570A (zh) 后台任务显示方法、装置及电子设备
US20170255352A1 (en) Electronic device
CN109739233B (zh) Agv小车定位方法、装置及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant