CN113505662B - 一种健身指导方法、装置及存储介质 - Google Patents

一种健身指导方法、装置及存储介质 Download PDF

Info

Publication number
CN113505662B
CN113505662B CN202110697379.6A CN202110697379A CN113505662B CN 113505662 B CN113505662 B CN 113505662B CN 202110697379 A CN202110697379 A CN 202110697379A CN 113505662 B CN113505662 B CN 113505662B
Authority
CN
China
Prior art keywords
point set
bone
exercise
standard
action
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110697379.6A
Other languages
English (en)
Other versions
CN113505662A (zh
Inventor
罗杰
邹章晨
黄海敏
张航
马直
赵赛
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangzhou Kequandian Information Technology Co ltd
Guangzhou University
Original Assignee
Guangzhou Kequandian Information Technology Co ltd
Guangzhou University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangzhou Kequandian Information Technology Co ltd, Guangzhou University filed Critical Guangzhou Kequandian Information Technology Co ltd
Priority to CN202110697379.6A priority Critical patent/CN113505662B/zh
Publication of CN113505662A publication Critical patent/CN113505662A/zh
Application granted granted Critical
Publication of CN113505662B publication Critical patent/CN113505662B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/213Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/213Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
    • G06F18/2132Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods based on discrimination criteria, e.g. discriminant analysis
    • G06F18/21322Rendering the within-class scatter matrix non-singular
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H20/00ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance
    • G16H20/30ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance relating to physical therapies or activities, e.g. physiotherapy, acupressure or exercising
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/213Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
    • G06F18/2132Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods based on discrimination criteria, e.g. discriminant analysis
    • G06F18/21322Rendering the within-class scatter matrix non-singular
    • G06F18/21324Rendering the within-class scatter matrix non-singular involving projections, e.g. Fisherface techniques
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/30Computing systems specially adapted for manufacturing

Abstract

本发明公开了一种健身指导方法、装置及存储介质,本发明通过显示标准动作的页面;标准动作具有第一骨骼关键点集合;获取健身对象的第一骨骼点集合,将第一骨骼点集合与标准对象的第二骨骼点集合进行匹配以得到成功匹配结果,将健身对象的第一骨骼点集合与标准对象的第二骨骼点集合进行成功匹配,能够提高后续对健身对象的动作进行评价时的准确性;通过健身对象的第二骨骼关键点集合与标准动作的第一骨骼关键点集合确定差异值从而生成指导建议,利用第二骨骼关键点集合和第一骨骼关键点集合计算差异能够进一步保证差异值的准确性,从而对用户生成有效的指导建议,使得用户能够有效健身,本发明可广泛应用于健身技术领域。

Description

一种健身指导方法、装置及存储介质
技术领域
本发明涉及健身领域,尤其是一种健身指导方法、装置及存储介质。
背景技术
随着人们生活水平的提高,人们对自身健康有了更高的追求,而健身是人们追求健康的其中一个方式。日常生活中人们利用各种健身软件例如Keep、悦动圈、咕咚、Again、Fitness即刻运动、CoachAI等,健身软件中通常包含动作视频的介绍及演示,用户跟着动作视频健身以及健身后生成总运动量记录,每个动作视频会包含训练时长、训练组数、动作详情、训练目标等信息。然而,用户健身过程中都是凭着自身的理解对动作视频内容进行理解做出相应的动作,然而用户所做出的动作是否标准无法确定,当动作不标准时难以得到充分的健身效果,因此需要寻求解决方案。
发明内容
有鉴于此,为了解决上述技术问题,本发明的目的是提供提高健身效果的一种健身指导方法、装置及存储介质。
本发明采用的技术方案是:
一种健身指导方法,包括:
显示标准动作的页面;所述标准动作具有第一骨骼关键点集合;
获取健身对象的第一骨骼点集合,将所述第一骨骼点集合与标准对象的第二骨骼点集合进行匹配以得到成功匹配结果;
获取所述健身对象的动作图像,所述动作图像包括所述健身对象的第二骨骼关键点集合;
计算所述第二骨骼关键点集合与所述第一骨骼关键点集合的差异值;
根据所述差异值,生成指导建议。
进一步,所述将所述第一骨骼点集合与标准对象的第二骨骼点集合进行匹配以得到成功匹配结果,包括:
计算所述第一骨骼点集合与所述第二骨骼点集合的重合度;
当所述重合度大于等于重合度阈值,得到成功匹配结果,否则,获取新的第一骨骼点集合作为所述第一骨骼点集合,返回所述计算所述第一骨骼点集合与所述第二骨骼点集合的重合度的步骤,直至所述重合度大于等于重合度阈值,得到成功匹配结果。
进一步,所述显示标准动作的页面,包括:
响应于操作指令,从播放列表中确定播放目标;所述播放目标包括所述标准动作,所述播放目标为图片或者视频;
在页面中同时显示所述播放目标以及所述健身对象。
进一步,所述第一骨骼关键点集合的确定步骤,包括:
获取标准动作视频;所述标准动作视频中包括示范所述标准动作的示范对象;
从所述标准动作视频中截取关键帧时间的画面;
对所述关键帧时间的画面中的所述示范对象进行骨骼关键点识别,得到示范对象模型;所述示范对象模型包括所述第一骨骼关键点集合。
进一步,所述获取所述健身对象的动作图像,包括:
采集所述健身对象在所述关键帧时间的图像;
从所述图像中提取动作数据;
对所述动作数据进行骨骼关键点检测和动作重构,得到动作图像。
进一步,所述计算所述第二骨骼关键点集合与所述第一骨骼关键点集合的差异值,包括:
对所述动作图像进行局部特征提取;
对所述局部特征提取结果进行全局特征提取,得到第一特征表;所述第一特征表为所述第二骨骼关键点集合的向量化表示;
对所述关键帧时间的画面进行向量化处理,得到第二特征表;所述第二特征表为所述第一骨骼关键点集合的向量化表示;
计算所述第一特征表和所述第二特征表的差异值。
进一步,所述方法还包括:
通过长连接的udp或websocket协议将所述图像或者包含所述图像的健身视频进行传输并绑定用户ID,以使服务器根据所述图像或者所述健身视频生成所述指导建议并在无状态的http协议下通过所述用户ID进行区分。
进一步,所述根据所述差异值,生成指导建议,包括:
当所述差异值小于等于角度差异阈值,生成指导建议为保持;
或者,当所述差异值大于角度差异阈值,生成指导建议为纠正角度;
或者,根据所述差异值进行评分,并生成指导建议为纠正角度;
其中,所述指导建议显示于所述页面或者通过语音播放。
本发明还提供一种健身指导装置,包括:
显示模块,用于显示标准动作的页面;所述标准动作具有第一骨骼关键点集合;
第一获取模块,用于获取健身对象的第一骨骼点集合,将所述第一骨骼点集合与标准对象的第二骨骼点集合进行匹配以得到成功匹配结果;
第二获取模块,用于获取所述健身对象的动作图像,所述动作图像包括所述健身对象的第二骨骼关键点集合;
计算模块,用于计算所述第二骨骼关键点集合与所述第一骨骼关键点集合的差异值;
指导模块,用于根据所述差异值,生成指导建议。
本发明还提供一种健身指导装置,包括处理器以及存储器;
所述存储器存储有程序;
所述处理器执行所述程序以实现所述健身指导方法。
本发明还提供一种计算机可读存储介质,所述存储介质存储有程序,所述程序被处理器执行时实现所述健身指导方法。
本发明的有益效果是:显示标准动作的页面;所述标准动作具有第一骨骼关键点集合;获取健身对象的第一骨骼点集合,将所述第一骨骼点集合与标准对象的第二骨骼点集合进行匹配以得到成功匹配结果,将健身对象的第一骨骼点集合与标准对象的第二骨骼点集合进行成功匹配,能够提高后续对健身对象的动作进行评价时的准确性;通过健身对象的第二骨骼关键点集合与标准动作的第一骨骼关键点集合确定差异值从而生成指导建议,利用第二骨骼关键点集合和第一骨骼关键点集合计算差异能够进一步保证差异值的准确性,从而对用户生成有效的指导建议,使得用户能够有效健身。
附图说明
图1为本发明健身指导方法的步骤流程示意图;
图2为本发明具体实施例获得第一特征表的流程示意图;
图3本发明具体实施例第一骨骼关键点集合的示意图;
图4为本发明具体实施例终端页面的示意图。
具体实施方式
为了使本技术领域的人员更好地理解本申请方案,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分的实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本申请保护的范围。
本申请的说明书和权利要求书及所述附图中的术语“第一”、“第二”、“第三”和“第四”等是用于区别不同对象,而不是用于描述特定顺序。此外,术语“包括”和“具有”以及它们任何变形,意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元,而是可选地还包括没有列出的步骤或单元,或可选地还包括对于这些过程、方法、产品或设备固有的其它步骤或单元。
在本文中提及“实施例”意味着,结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例,也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是,本文所描述的实施例可以与其它实施例相结合。
如图1所示,本发明实施例提供一种健身指导方法,包括步骤S100-S500:
S100、显示标准动作的页面。
本发明实施例中,标准动作具有第一骨骼关键点集合。需要说明的是,标准动作指的是健身视频中示范对象示范/作出的健身动作,标准动作用于为健身对象提供参考,使健身对象模仿标准动作进行健身。
具体地,步骤S100包括步骤S101-S102:
S101、响应于操作指令,从播放列表中确定播放目标。
本发明实施例中,播放列表可以为具有多个健身视频或者包括图片的列表,其中图片可以为完成一个或多个健身动作的动图,需要说明的是,标准动作指的是健身视频或者图片中示范对象完成相应健身动作时候的动作。具体地,当健身对象使用终端时,通过健身对象输入的操作指令以确定需要观看的视频或图片时,终端响应于操作指令,从播放列表中将健身对象所选择视频或者图片确定为播放目标。需要说明的是,本发明实施例中以播放目标为视频进行说明。
S102、在页面中同时显示播放目标以及健身对象。
具体地,当确定播放目标为健身视频后,启动健身对象的终端上的摄像头,获取健身对象的实时视频,并在同一个页面上显示健身视频以及健身对象的实时视频,这样能够使得健身对象能够观看健身视频的同时能够看到自身的健身动作。
具体地,本申请实施例的健身指导方法还包括第一骨骼关键点集合的确定步骤,具体包括步骤S111-S113:
S111、获取标准动作视频。
具体地,以播放列表为APP中的列表为例,标准动作视频可以为上述播放列表中的视频,标准动作视频中具有示范对象示范标准动作。可选地,示范对象包括但不限于健身教练或者健身相关人员等等。
S112、从标准动作视频中截取关键帧时间的画面。
本发明实施例中,调用APP的API接口获取标准动作视频,并上传至服务器进行视频处理,具体地,对标准动作视频进行分帧处理,配置关键动作帧时间,并截取关键帧时间的画面,例如标准动作视频中示范对象完成一个深蹲的标准动作,示范对象在站立准备做动作时的时间点即为一个关键帧时间,记为第一关键帧时间,当示范对象完成我们完成蹲下准备起身时的时间点为一个关键帧时间,记为第二关键帧时间,因此在截取关键帧时间的画面时,可以得到第一关键帧时间的画面以及第二关键帧时间画面。需要说明的是,当标准动作为其他动作时,关键帧的时间以及个数可以不一样,不作具体限定。
S113、对关键帧时间的画面中的示范对象进行骨骼关键点识别,得到示范对象模型。
本发明实施例中,对对关键帧时间的画面中的示范对象进行骨骼关键点识别,得到示范对象模型,例如上述例子中,分别对第一关键帧时间的画面以及第二关键帧时间画面进行骨骼关键点识别,分别得到两个关键帧时间的示范对象模型。需要说明的是,骨骼关键点可以根据不同健身动作的要点进行定义,例如骨骼关键点包括但不限于肩、肘、手腕、胯骨、膝盖等等。可以理解的是,在不同的关键帧时间中示范对象模型的骨骼关键点的位置不相同(或者说骨骼关键点之间的位置关系(如角度等)不相同),本发明实施例认为关键帧时间中的骨骼关键点为标准位置,即第一关键帧时间的画面对应的示范对象具有初始状态第一骨骼关键点,第二关键帧时间的画面对应的示范对象具有完成状态第一骨骼关键点,初始状态第一骨骼关键点以及完成状态第一骨骼关键点构成第一骨骼关键点集合。
S200、获取健身对象的第一骨骼点集合,将第一骨骼点集合与标准对象的第二骨骼点集合进行匹配以得到成功匹配结果。
具体地,步骤S200包括步骤S210-S220:
S210、计算第一骨骼点集合与第二骨骼点集合的重合度。
本发明实施例中,第一骨骼点集合可以为以标准动作视频中的示范对象为基准而生成的骨骼点集合,例如可以为示范对象的关键帧画面处于水平状态下的确定骨骼点集合,第二骨骼点集合为通过终端的摄像头获取的健身对象的图片或者视频后,通过类似于识别第一骨骼点集合的方法识别而得到的骨骼点集合。具体地,计算第一骨骼点集合与健身对象的第二骨骼点集合的重合度能够保证健身对象的终端处于适合的拍摄角度,此时若第一骨骼点集合与第二骨骼点集合的重合度可以准确说明健身对象的第二骨骼点集合与示范对象的第一骨骼点集合的对齐程度,这样后续对健身对象的动作进行分析时,能够提高准确性,避免了由于终端拍摄角度不合适,出现倾斜,或者健身对象的骨骼点未与标准对象(即示范对象)对齐时出现误判的情况,影响健身对象的健身效果。
S220、当重合度大于等于重合度阈值,得到成功匹配结果,否则,获取新的第一骨骼点集合作为第一骨骼点集合,返回计算第一骨骼点集合与第二骨骼点集合的重合度的步骤,直至重合度大于等于重合度阈值,得到成功匹配结果。
具体地,重合度阈值可以根据需要设定,例如90%,当重合度大于等于90%时认为成功匹配,否则通过终端的摄像头继续获取健身对象的新的第一骨骼点集合作为第一骨骼点集合,返回步骤S210,直至重合度大于等于重合度阈值,得到成功匹配结果才进入摄像头拍摄健身对象健身动作的环节。
S300、获取健身对象的动作图像。
本发明实施例中,动作图像为包括健身对象的第二骨骼关键点集合的图像。
具体地,步骤S300包括步骤S301-S303:
S301、采集健身对象在关键帧时间的图像。
本发明实施例中,在页面同时显示健身视频以及摄像头拍摄的健身对象的实时视频时,以上述深蹲的例子为例进行说明,当健身视频播放到第一关键帧时间时,采集第一关键帧时间的健身对象的实时视频的图像,记为第一图像,然后在第二关键帧时间采集第二关键帧时间的健身对象的实时视频的图像,记为第二图像。
S302、从图像中提取动作数据。
例如,动作数据可以为此时健身对象的整体状态,包括但限于从图像进行截取具有健身对象的部分。
S303、对动作数据进行骨骼关键点检测和动作重构,得到动作图像。
具体地,基于人体骨骼的数学建模算法的姿态动作识别以进行骨骼关键点检测。其中,由于骨骼关键点检测是在单帧的图像上进行的,例如上述的第一图像和第二图像,没有考虑到上下文信息,所以检测到的骨骼关键点在每一帧上都会有些偏移,表现在重构后的动作上就是动作会有抖动,因此在进行骨骼关键点检测后进行动作重构时需要进行去噪处理,即将骨骼关键点在每一帧上的偏移减小或消除,使得最终得到的动作图像中的健身对象的第二骨骼关键点集合尽可能准确。需要说明的是,第一图像和第二图像均通过步骤S302和S303进行处理,动作数据实时上传至服务器进行处理,从而在关键帧时间实时得到健身对象的第二骨骼关键点集合,使得后续的差异值以及指导建议能够及时生成以对健身对象进行指导。
需要说明的是,动作重构过程可以上述重构过程以及进一步包括动作分类,在骨骼关键点检测完成后,把关键骨骼点连接起来,构成人体骨架,可以通过获取与标注视频中的关键动作组合进行比较,进行动作类型识别(如表1中的连接关系)。
S400、计算第二骨骼关键点集合与第一骨骼关键点集合的差异值。
本发明实施例中,计算差异值时引入向量化,向量化是指将视频数据按照一定的算法转换为向量进行表示,转换算法决定了向量表达原始视频数据的准确性。向量化使得对视频数据的检索、去重、计算相似性等操作转化为对向量距离或夹角的求解操作。
如图2所示,具体地,步骤S400包括步骤S410-S440:
S410、对动作图像进行局部特征提取。
具体地,局部特征指的是在感兴趣的区域内使用一些特征点来代表健身对象,如骨骼点,相当于利用最有代表的和稳定的特征去代表健身对象。可选地,局部特征提取包括但不限于特征点检测、特征点描述以及特征描述降维。
S420、对局部特征提取结果进行全局特征提取,得到第一特征表。
具体地,全局特征指的是包括多个局部特征的全部特征,例如包括健身对象以及健身对象以外的背景等等,而我们只选取感兴趣的区域(比如健身对象),这个区域中使用全部的特征来代表这个物体(健身对象),指的是区域内的物体的特征来代表物体,取整体之意,这样的特征具有大量的冗余信息。可选地,全局特征提取包括高斯混合模型、以及Fisher Vector、特征降维进行的处理,这样就可以得到第一特征表。需要说明的是,第一特征表为第二骨骼关键点集合的向量化表示。其中,全局特征提取步骤封装为自定义算子,利用Tensorflow Lite模型将自定义算子组合起来,这样就可以动态更新算子,达到算法实时更新的目的。将视频转化为向量之后,计算视频的相似性就相当于计算向量的相似性。
S430、对关键帧时间的画面进行向量化处理,得到第二特征表。
具体地,第二特征表为第一骨骼关键点集合的向量化表示。需要说明的是,向量化处理同样地可以为利用类似于步骤S410、S420所进行的处理,不再赘述。
S440、计算第一特征表和第二特征表的差异值。
具体地,计算差异值即相当于动作比对过程,而计算差异值的方式可以为海明距离、夹角余弦、欧式距离和向量内积中的其中一种。
S500、根据差异值,生成指导建议。
本发明实施例中,关键帧时间的画面中识别的第一骨骼关键点集合具有标准位置,如图3所示,图3中的圆点为示范对象在关键帧时间画面中识别到的第一骨骼关键点集合以及部分第二骨骼关键点集合,每一个骨骼关键点具有相应的标准位置(包括但不限于通过坐标进行表示),可以理解的是,关键帧时间的健身对象的实时视频的图像中识别出的第二骨骼关键点集合中的骨骼关键点同样具有相应的位置,记为实际位置,差异值可以衡量标准位置与实际位置之间的差距大小,并生成相应的指导建议。
如表1所示,为基于标准动作第一骨骼关键点集合的标准位置生成数据表,在一个关键帧时间的标准动作中各个姿势单元(相当于标准位置)之间的位置关系具体是怎样的。需要说明的是,在角度差异阈值范围内认为第二骨骼关键点集合的实际位置为标准位置,否则认为健身对象当前的动作为错误动作;本发明实施例中通过夹角大小来表示各个姿势单元(相当于第一骨骼关键点集合中的骨骼关键点)之间的位置关系,其他实施方式中可以采用其他衡量方式。
表1
本发明实施例中,步骤S500可以通过步骤S510、S520或者S530实现,具体地:
S510、当差异值小于等于角度差异阈值,生成指导建议为保持。
具体地,当差异值小于等于角度差异阈值,此时健身对象的第二骨骼关键点集合与第一骨骼关键点集合的差距大小在允许范围内,即上述表1中的每一个姿势单元之间的差距大小均在允许范围内,此时生成指导建议为保持,使用户保持当前动作。可选地,指导建议可以显示于页面或者通过语音进行播放。如图4所示,具有页面100,其中区域101用于播放标准动作视频、区域102用于播放通过摄像头拍摄的健身对象的实时视频,区域103用于显示指导建议。需要说明的是,各个区域的位置以及大小不限于图4中所示。
S520、当差异值大于角度差异阈值,生成指导建议为纠正角度。
具体地,当差异值大于角度差异阈值,即表1中至少任意一个姿势单元(相当于第一骨骼关键点集合中的骨骼关键点)与第二骨骼关键点集合中对应的骨骼关键点的角度差异超过允许范围内,则生成指导建议。例如,如图3所示当标准位置为201,左手臂的左手和肩部关键点200的标准位置为90°,角度差异阈值为10°,而此时第二骨骼关键点集合中对应左手臂的左手和肩部关键点的实际位置202的角度为45°,差异值大于角度差异阈值,此时生成指导建议为纠正角度,具体地上抬45°。同样地,指导建议可以显示于页面的区域103或者通过语音进行播放。
S530、根据差异值进行评分,并生成指导建议为纠正角度。
具体地,可以设置角度差异值范围或者角度差异数量阈值进行评分。例如,设置角度差异数量阈值为1-5,每当一个姿势单元的差异值超出角度差异数量阈值,扣20分,当超出角度差异数量阈值的姿势单元的个数为1,则得分为80分。或者,设置角度差异值范围,当每一个姿势单元的差异值的总和在不同的角度差异值范围内,对应不同的分值,例如角度差异值范围具有三个:0~10°,10°~30°,30°以上,分别对应分值90、80、70。需要说明的是,评分不限于上述方式。同样地,指导建议可以显示于页面的区域103或者通过语音进行播放,评分结果也可以显示于区域103。
可选地,本发明实施例加入AI辅助的实时纠错功能,终端在线跟做功能开启后,终端页面会出现小弹框播放标准动作指导视频,随机倒计时进入用户跟做环节,在此环节下,用户将四肢关节点与画面中的标准浮球点对准完成动作,手机实时检测人体是否超出屏幕范围,如遇到人体出圈情况,界面会出现红色标记对用户进行提醒,直到动作完成为止。同时,在匹配到用户所做动作的名称后通过步骤S510、S520或者S530生成指导建议。
具体地,本发明实施例的健身指导方法还包括步骤S600:
S600、通过长连接的udp或websocket协议将所述图像或者包含所述图像的健身视频进行传输并绑定用户ID,以使服务器根据所述图像或者所述健身视频生成所述指导建议并在无状态的http协议下通过所述用户ID进行区分。
具体地,当健身对象利用账号登录健身的APP时,账号具有相应的用户ID,通过摄像头拍摄的健身对象的图像或者包含图像的健身视频(即实时视频)通过APP上存至服务器时会携带并绑定用户ID,例如可以通过长连接的udp或websocket协议将所述图像或者包含所述图像的健身视频进行传输,以使服务器根据所述图像或者所述健身视频生成所述指导建议并在无状态的http协议下通过所述用户ID进行区分。其中,根据所述图像或者所述健身视频生成所述指导建议的处理过程可以包括(例如骨骼关键点识别、动作对象的确定以及计算差异值和生成指导建议等等的步骤),在开始上述处理过程时,服务器会开启Session保存过程状态,无状态的http协议可以用于传输骨骼关键点,无状态的http协议即上一次的请求对这次的请求没有任何影响,服务器也不会对APP上一次的请求进行任何记录处理,session是一种很好的解决http协议无状态的方案,在拍摄健身对象的实时视频时即用到。需要说明的是,由于可能具有多个有多个健身对象同时上存视频,健身对象并发量大的情况下,服务器压力要求高,会造成服务器压力大,而通过上述无状态方案能够避免上述问题,并且在无状态的http协议下通过所述用户ID进行区分能够保证指导建议可以返回至对应的唯一用户的终端中,例如进行评分和发出指导建议时,根据用户ID发放至对应的健身对象的终端中。需要说明的是,第二骨骼关键点集合的获取不限于在传输健身对象的图像或者包含图像的健身视频的同时在服务器同时获取。
综上本发明实施例的健身指导方法具有以下优点:
1)支持实时纠错功能,在用户跟做界面,标准动作视频与健身对象动作同框,并不断重复当前标准动作播放、实时播报纠正语音,对姿势的正确程度做出评分,对不正确的姿势提出改进意见。
2)本设计面向全年龄段人群基于AI技术通过终端摄像头智能采集健身对象的健身数据,从而对其动作进行检错纠错。需指出,在健身对象不进行视频分享的情况下,本设计后台存储的是健身对象的骨骼关键点数据,由此有效地保障了用户隐私问题。
3)本设计致力于在用户使用前期更精细化的健康询问,更加多样的功能实现,通过健身对象户与示范对象更有效的交流更进一步为不同群体、不同年龄段的健身对象提供定制化健身服务。最后,本设计可以融入体医融合平台,满足用户从健康门诊挂号、建立健康档案、档案查询共享、健康分析到依据运动处方进行康复训练的一体化服务。
4)本设计采用人体动作AI分析框架对动作视频流数据进行处理,在健身对象进行跟做训练时,当匹配到了相应的标准动作后,基于健身对象不同骨骼关键点间的相对夹角计算、用户动作速度指标的纠正模型达到实时纠错并显示的目的。
5)本设计采用视频向量化技术,通过全连接网络来提取动作特征,对特征向量进行归一化处理,将判断两个动作相似度问题转化为简单的计算超球面上两个点间的距离问题,在降低运算复杂度的同时,使模型识别精度更高,优化识别效果。
本发明实施例还提供一种健身指导装置,包括:
显示模块,用于显示标准动作的页面;标准动作具有第一骨骼关键点集合;
第一获取模块,用于获取健身对象的第一骨骼点集合,将第一骨骼点集合与标准对象的第二骨骼点集合进行匹配以得到成功匹配结果;
第二获取模块,用于获取健身对象的动作图像,动作图像包括健身对象的第二骨骼关键点集合;
计算模块,用于计算第二骨骼关键点集合与第一骨骼关键点集合的差异值;
指导模块,用于根据差异值,生成指导建议。
上述方法实施例中的内容均适用于本装置实施例中,本装置实施例所具体实现的功能与上述方法实施例相同,并且达到的有益效果与上述方法实施例所达到的有益效果也相同。
本发明实施例还提供了一种健身指导装置,该设备包括处理器以及存储器;
存储器用于存储程序;
处理器用于执行程序实现本发明实施例的健身指导方法。本发明实施例的装置可以实现健身指导的功能。该装置可以为包括手机、平板电脑、电脑、个人数字助理(PersonalDigital Assistant,简称PDA)、销售终端(Point of Sales,简称POS)、车载电脑等任意智能终端。
上述方法实施例中的内容均适用于本装置实施例中,本装置实施例所具体实现的功能与上述方法实施例相同,并且达到的有益效果与上述方法实施例所达到的有益效果也相同。
本发明实施例还提供一种计算机可读存储介质,该计算机可读存储介质存储有程序,该程序被处理器执行完成如前述发明实施例的健身指导方法。
本发明实施例还提供一种包括指令的计算机程序产品,当其在计算机上运行时,使得计算机执行前述发明实施例的健身指导方法。
本申请的说明书及上述附图中的术语“第一”、“第二”、“第三”、“第四”等(如果存在)是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本申请的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
应当理解,在本申请中,“至少一个(项)”是指一个或者多个,“多个”是指两个或两个以上。“和/或”,用于描述关联对象的关联关系,表示可以存在三种关系,例如,“A和/或B”可以表示:只存在A,只存在B以及同时存在A和B三种情况,其中A,B可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。“以下至少一项(个)”或其类似表达,是指这些项中的任意组合,包括单项(个)或复数项(个)的任意组合。例如,a,b或c中的至少一项(个),可以表示:a,b,c,“a和b”,“a和c”,“b和c”,或“a和b和c”,其中a,b,c可以是单个,也可以是多个。
在本申请所提供的几个实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括多指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-Only Memory,简称ROM)、随机存取存储器(Random Access Memory,简称RAM)、磁碟或者光盘等各种可以存储程序的介质。
以上,以上实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围。

Claims (9)

1.一种健身指导方法,其特征在于,包括:
显示标准动作的页面;所述标准动作具有第一骨骼关键点集合;
获取健身对象的第一骨骼点集合,将所述第一骨骼点集合与标准对象的第二骨骼点集合进行匹配以得到成功匹配结果;
获取所述健身对象的动作图像,所述动作图像包括所述健身对象的第二骨骼关键点集合;
计算所述第二骨骼关键点集合与所述第一骨骼关键点集合的差异值;
根据所述差异值,生成指导建议;
所述第一骨骼关键点集合的确定步骤,包括:
获取标准动作视频;所述标准动作视频中包括示范所述标准动作的示范对象;
从所述标准动作视频中截取关键帧时间的画面;其中,所述关键帧时间包括准备做动作时的时间点、准备完成动作时的时间点;
对所述关键帧时间的画面中的所述示范对象进行骨骼关键点识别,得到示范对象模型;所述示范对象模型包括所述第一骨骼关键点集合。
2.根据权利要求1所述的健身指导方法,其特征在于:所述将所述第一骨骼点集合与标准对象的第二骨骼点集合进行匹配以得到成功匹配结果,包括:
计算所述第一骨骼点集合与所述第二骨骼点集合的重合度;
当所述重合度大于等于重合度阈值,得到成功匹配结果,否则,获取新的第一骨骼点集合作为所述第一骨骼点集合,返回所述计算所述第一骨骼点集合与所述第二骨骼点集合的重合度的步骤,直至所述重合度大于等于重合度阈值,得到成功匹配结果。
3.根据权利要求1所述的健身指导方法,其特征在于:所述显示标准动作的页面,包括:
响应于操作指令,从播放列表中确定播放目标;所述播放目标包括所述标准动作,所述播放目标为图片或者视频;
在页面中同时显示所述播放目标以及所述健身对象。
4.根据权利要求1所述的健身指导方法,其特征在于:所述获取所述健身对象的动作图像,包括:
采集所述健身对象在所述关键帧时间的图像;
从所述图像中提取动作数据;
对所述动作数据进行骨骼关键点检测和动作重构,得到动作图像。
5.根据权利要求4所述的健身指导方法,其特征在于:所述计算所述第二骨骼关键点集合与所述第一骨骼关键点集合的差异值,包括:
对所述动作图像进行局部特征提取;
对所述局部特征提取结果进行全局特征提取,得到第一特征表;所述第一特征表为所述第二骨骼关键点集合的向量化表示;
对所述关键帧时间的画面进行向量化处理,得到第二特征表;所述第二特征表为所述第一骨骼关键点集合的向量化表示;
计算所述第一特征表和所述第二特征表的差异值。
6.根据权利要求4所述的健身指导方法,其特征在于:所述方法还包括:
通过长连接的udp或websocket协议将所述图像或者包含所述图像的健身视频进行传输并绑定用户ID,以使服务器根据所述图像或者所述健身视频生成所述指导建议并在无状态的http协议下通过所述用户ID进行区分。
7.根据权利要求1所述的健身指导方法,其特征在于:所述根据所述差异值,生成指导建议,包括:
当所述差异值小于等于角度差异阈值,生成指导建议为保持;
或者,当所述差异值大于角度差异阈值,生成指导建议为纠正角度;
或者,根据所述差异值进行评分,并生成指导建议为纠正角度;
其中,所述指导建议显示于所述页面或者通过语音播放。
8.一种健身指导装置,其特征在于,用于实施如权利要求1-7任一项所述的健身指导方法,所述健身指导装置包括:
显示模块,用于显示标准动作的页面;所述标准动作具有第一骨骼关键点集合;
第一获取模块,用于获取健身对象的第一骨骼点集合,将所述第一骨骼点集合与标准对象的第二骨骼点集合进行匹配以得到成功匹配结果;
第二获取模块,用于获取所述健身对象的动作图像,所述动作图像包括所述健身对象的第二骨骼关键点集合;
计算模块,用于计算所述第二骨骼关键点集合与所述第一骨骼关键点集合的差异值;
指导模块,用于根据所述差异值,生成指导建议。
9.一种计算机可读存储介质,其特征在于,所述存储介质存储有程序,所述程序被处理器执行时实现如权利要求1-7中任一项所述的健身指导方法。
CN202110697379.6A 2021-06-23 2021-06-23 一种健身指导方法、装置及存储介质 Active CN113505662B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110697379.6A CN113505662B (zh) 2021-06-23 2021-06-23 一种健身指导方法、装置及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110697379.6A CN113505662B (zh) 2021-06-23 2021-06-23 一种健身指导方法、装置及存储介质

Publications (2)

Publication Number Publication Date
CN113505662A CN113505662A (zh) 2021-10-15
CN113505662B true CN113505662B (zh) 2024-03-01

Family

ID=78010799

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110697379.6A Active CN113505662B (zh) 2021-06-23 2021-06-23 一种健身指导方法、装置及存储介质

Country Status (1)

Country Link
CN (1) CN113505662B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113850893B (zh) * 2021-11-30 2022-02-25 北京健康有益科技有限公司 骨骼点动作数据生成方法、装置、存储介质及电子设备
CN114333055A (zh) * 2021-12-27 2022-04-12 海信集团控股股份有限公司 一种健身镜、图像识别方法、设备及介质
CN115202531A (zh) * 2022-05-27 2022-10-18 当趣网络科技(杭州)有限公司 界面交互的方法、系统和电子装置

Citations (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109308437A (zh) * 2017-07-28 2019-02-05 上海形趣信息科技有限公司 动作识别纠错方法、电子设备、存储介质
CN109389054A (zh) * 2018-09-21 2019-02-26 北京邮电大学 基于自动图像识别和动作模型对比的智能镜子设计方法
CN109815776A (zh) * 2017-11-22 2019-05-28 腾讯科技(深圳)有限公司 动作提示方法和装置、存储介质及电子装置
CN110135319A (zh) * 2019-05-09 2019-08-16 广州大学 一种异常行为检测方法及其系统
CN110197531A (zh) * 2019-05-14 2019-09-03 武汉奥贝赛维数码科技有限公司 基于深度学习的角色骨骼点映射技术
CN110298218A (zh) * 2018-03-23 2019-10-01 上海形趣信息科技有限公司 交互式健身装置和交互式健身系统
CN110448870A (zh) * 2019-08-16 2019-11-15 深圳特蓝图科技有限公司 一种人体姿态训练方法
CN110458235A (zh) * 2019-08-14 2019-11-15 广州大学 一种视频中运动姿势相似度比对方法
CN111091889A (zh) * 2019-12-12 2020-05-01 深圳英鸿骏智能科技有限公司 一种基于镜面显示的人体形态检测方法、存储介质及装置
CN111402290A (zh) * 2020-02-29 2020-07-10 华为技术有限公司 一种基于骨骼关键点的动作还原方法以及装置
CN111899320A (zh) * 2020-08-20 2020-11-06 腾讯科技(深圳)有限公司 数据处理的方法、动捕去噪模型的训练方法及装置
GB202020825D0 (en) * 2020-12-31 2021-02-17 Darabase Ltd Audio synchronisation
CN112686979A (zh) * 2021-03-22 2021-04-20 中智行科技有限公司 仿真行人动画生成方法、装置和电子设备
CN112990011A (zh) * 2021-03-15 2021-06-18 上海工程技术大学 基于机器视觉和深度学习的健身动作识别评估方法

Patent Citations (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109308437A (zh) * 2017-07-28 2019-02-05 上海形趣信息科技有限公司 动作识别纠错方法、电子设备、存储介质
CN109815776A (zh) * 2017-11-22 2019-05-28 腾讯科技(深圳)有限公司 动作提示方法和装置、存储介质及电子装置
CN110298218A (zh) * 2018-03-23 2019-10-01 上海形趣信息科技有限公司 交互式健身装置和交互式健身系统
CN109389054A (zh) * 2018-09-21 2019-02-26 北京邮电大学 基于自动图像识别和动作模型对比的智能镜子设计方法
CN110135319A (zh) * 2019-05-09 2019-08-16 广州大学 一种异常行为检测方法及其系统
CN110197531A (zh) * 2019-05-14 2019-09-03 武汉奥贝赛维数码科技有限公司 基于深度学习的角色骨骼点映射技术
CN110458235A (zh) * 2019-08-14 2019-11-15 广州大学 一种视频中运动姿势相似度比对方法
CN110448870A (zh) * 2019-08-16 2019-11-15 深圳特蓝图科技有限公司 一种人体姿态训练方法
CN111091889A (zh) * 2019-12-12 2020-05-01 深圳英鸿骏智能科技有限公司 一种基于镜面显示的人体形态检测方法、存储介质及装置
CN111402290A (zh) * 2020-02-29 2020-07-10 华为技术有限公司 一种基于骨骼关键点的动作还原方法以及装置
CN111899320A (zh) * 2020-08-20 2020-11-06 腾讯科技(深圳)有限公司 数据处理的方法、动捕去噪模型的训练方法及装置
GB202020825D0 (en) * 2020-12-31 2021-02-17 Darabase Ltd Audio synchronisation
CN112990011A (zh) * 2021-03-15 2021-06-18 上海工程技术大学 基于机器视觉和深度学习的健身动作识别评估方法
CN112686979A (zh) * 2021-03-22 2021-04-20 中智行科技有限公司 仿真行人动画生成方法、装置和电子设备

Also Published As

Publication number Publication date
CN113505662A (zh) 2021-10-15

Similar Documents

Publication Publication Date Title
CN113505662B (zh) 一种健身指导方法、装置及存储介质
Islam et al. Yoga posture recognition by detecting human joint points in real time using microsoft kinect
CN108256433B (zh) 一种运动姿态评估方法及系统
US20210000404A1 (en) Systems and methods for automated recognition of bodily expression of emotion
WO2021007581A1 (en) Interactive personal training system
US7404774B1 (en) Rule based body mechanics calculation
GB2515279A (en) Rehabilitative posture and gesture recognition
CN110298309A (zh) 基于图像的动作特征处理方法、装置、终端及存储介质
CN114998983A (zh) 一种基于增强现实技术和姿态识别技术的肢体康复方法
CN113409651B (zh) 直播健身方法、系统、电子设备、存储介质
CN113703574A (zh) 一种基于5g的vr医疗学习方法及系统
WO2023077660A1 (zh) 基于混合现实的太极拳训练方法及系统、设备及存储介质
CN111967407A (zh) 动作评价方法、电子设备和计算机可读存储介质
WO2022174544A1 (zh) 动作比对方法、装置、电子设备、存储介质、计算机程序产品及计算机程序
US11547904B2 (en) Exercise assisting device and exercise assisting method
Zhou Role of human body posture recognition method based on wireless network Kinect in line dance aerobics and gymnastics training
Zahan et al. Learning sparse temporal video mapping for action quality assessment in floor gymnastics
CN115624735A (zh) 一种用于球类运动的辅助训练系统和工作方法
CN114360052A (zh) 一种基于AlphaPose和关节点角度匹配算法的智能体感教练系统
CN115131879A (zh) 一种动作评价方法及装置
KR102363435B1 (ko) 골프 스윙 동작 피드백 제공 장치 및 방법
CN111260678A (zh) 体操辅助学习的方法、装置、存储介质和终端设备
CN117078976B (zh) 动作评分方法、装置、计算机设备以及存储介质
Li et al. Fitness coach: Design and implementation of a smart mirror based on automatic image recognition and action model comparison
CN117423166B (zh) 一种根据人体姿态图像数据的动作识别方法及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant