CN112422946A - 一种基于3d重构的智能瑜伽动作指导系统 - Google Patents
一种基于3d重构的智能瑜伽动作指导系统 Download PDFInfo
- Publication number
- CN112422946A CN112422946A CN202011369151.6A CN202011369151A CN112422946A CN 112422946 A CN112422946 A CN 112422946A CN 202011369151 A CN202011369151 A CN 202011369151A CN 112422946 A CN112422946 A CN 112422946A
- Authority
- CN
- China
- Prior art keywords
- video
- user
- motion
- model
- standard
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/275—Image signal generators from 3D object models, e.g. computer-generated stereoscopic image signals
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2203/00—Indexing scheme relating to G06F3/00 - G06F3/048
- G06F2203/01—Indexing scheme relating to G06F3/01
- G06F2203/012—Walk-in-place systems for allowing a user to walk in a virtual environment while constraining him to a given position in the physical environment
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2200/00—Indexing scheme for image data processing or generation, in general
- G06T2200/08—Indexing scheme for image data processing or generation, in general involving all processing steps from image acquisition to 3D model generation
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Computer Graphics (AREA)
- Geometry (AREA)
- Computer Hardware Design (AREA)
- Human Computer Interaction (AREA)
- Image Analysis (AREA)
Abstract
本发明涉及智能设备技术领域,特别涉及一种基于3D重构的智能瑜伽动作指导系统;所述系统包括视频采集系统,3D重构模块、模型匹配系统、视频同步调整模块、播放控制模块以及视频合并模块;将用户运动视频重建形成用户3D运动模型;选择出与其相似度最高的标准3D运动模型,得出指导信息产生纠正引导视频;判断接收到的用户运动视频的同步程度,通过用户手势生成控制指令并读取出对应的标准运动视频;将接收到的用户运动视频、标准动作视频、纠正引导视频、指导信息合并成一个视频,通过屏幕反馈给用户;本发明采用3D重构模块对采集到的运动视频进行建模,将比对分析结果提供给用户,通过手势对播放进度进行控制,便于用户学习使用。
Description
技术领域
本发明涉及智能设备技术领域,特别涉及一种基于3D重构的智能瑜伽动作指导系统。
背景技术
随着时代的迅猛发展,人们的生活质量不断提高,在物质生活得到满足下,越来越多的人开始关心身心健康。在生活节奏不断加速的当今,瑜伽运动做为了一种放松心灵与身体的手段备受大众青睐。
在进行瑜伽学习的传统途径中,主要有通过收集瑜伽资料自学、他人或培训机构指导两种途径;这两种途径对于运动准确性的评判主要是依据人的经验进行判断,这种方法对人的依赖性很高,效率却不高。并且对于自学这种途径也无法得到用户训练过程中的反馈信息并作出进一步指导。
目前,针对于上述技术问题,有相关研究人员提出了以深度学习等方法对运动学习者进行指导,例如中国专利CN2019111430877提出了一种深度学习的运动评判指导方法及系统;该专利通过采集用户动作的图像信息,并通过构建的检测模型进行人体目标检测以及进行目标个体的关键点信息检测,进一步的根据所述关键点信息获取用户动作信息且将用户动作信息与标准动作信息进行比对分析,以获取比对分析结果,将比对分析结果提供给用户,有利于用户据此进行动作的学习,以提高对动作的掌握程度。
还比如,中国专利CN2018112090223提出了一种基于动作识别技术的智能运动指导系统及方法;该专利将动作捕捉技术、机械视觉技术和图形识别技术和独创的运动学习模式相结合,采集用户端数据和标准数据进行多层级对比分析,对用户在学习过程中的动作进行规范化纠正,借助云端数据对用户训练信息进行整合分析,得出结论对用户提出运动指导意见。
这些指导系统将采集到的动作视频与标准动作视频进行比对,形成比对分析结果后显示出来,用户将根据显示结果自行改进动作。但是这些指导系统缺少对动作的3D刻画,导致在对标准动作与实际动作进行比对时出现较大的误差,使得不能对用户动作进行准确且规范化的纠正。
发明内容
综合考虑上述指导系统的优缺点,本发明需要解决深度学习所需的大量数据量和运算量,同时要避免用户使用可穿戴设备进行数据的采集;基于此,本发明提供了能随时随地且准确而规范化地指导用户进行瑜伽运动的标准化的系统,具体提出了一种基于3D重构的智能瑜伽动作指导系统,用于指导用户(瑜伽练习者)进行动作上的训练,以提高对动作的掌握程度。
本发明的一种基于3D重构的智能瑜伽动作指导系统,包括以下结构:
视频采集系统,用于拍摄用户运动视频;
3D重构模块,将所述摄像系统采集到的运动视频进行重建,并形成用户3D运动模型;
模型匹配系统,接收用户3D运动模型,并从标准3D运动模型库中读取其中的标准3D运动模型,选择出与用户3D运动模型相似度最高的标准3D运动模型,并得出指导信息产生纠正引导视频;
视频同步调整模块,判断接收到的用户运动视频的同步程度,通过用户手势生成用于控制标准动作视频播放速率和播放进度的控制指令;
播放控制模块,接收并响应于所述控制指令,从标准动作视频库中读取出对应的标准运动视频;
视频合并模块,将接收到的用户运动视频、标准动作视频、纠正引导视频、指导信息合并成为一个视频,并通过屏幕反馈给用户。
所述视频采集系统包括若干摄像头,这些摄像头能够拍摄人体各个角度的视频。
进一步的,所述3D重构模块构建的用户3D模型的过程包括:
计算出用户运动视频中用户目标的深度,并根据该深度重构出三维空间;
将人体3D模型放置到三维空间中,并标识出人体关节点,并从这些人体关节点选择出标志点;
调节所述人体关节点标志点,使人体3D模型与拍摄出的用户姿势吻合,从而构建出用户3D运动模型。
进一步的,所述模型匹配系统包括坐标系构建模块、模型导入模块、尺度缩放模块、匹配模块;所述坐标系构建模块用于以3D空间的中间点作为三维坐标系的原点,原点的上下轴作为Z轴,原点的左右轴作为X轴,原点的前后轴作为Y轴,以此建立三维左手坐标系或者三维右手坐标系;所述模型导入模块用于将用户3D运动模型和标准3D运动模型导入同一三维坐标系中;所述尺度缩放模块用于调整用户3D运动模型的尺度,并与标准3D运动模型保持同一尺度;所述匹配模块用于根据用户3D模型的原点以及左侧关节路径或者右侧关节路径进行用户3D运动模型与标准3D运动模型的匹配。
进一步的,所述匹配模块包括标志点拾取单元、计算单元、补偿单元以及差分刻画单元;所述标志点拾取单元用于拾取出用户3D运动模型和标准3D运动模型中的标志点,所述计算单元用于计算出用户3D运动模型和标准3D运动模型中各个标志点的运动矢量和模的偏移量以及在同一坐标系中的欧氏距离;所述补偿单元用于将从计算单元处获取的偏移量和欧氏距离对用户3D运动模型进行位姿补偿;所述差分刻画单元用于将标准3D运动模型与位姿补偿后的用户3D运动模型进行差分计算,计算出标志点的差分视频并将标志点的差分矢量方向引出,作为纠正引导视频。
进一步的,所述补偿单元将满足预设的偏移量阈值的标志点所计算出的偏移量补偿到不满足预设的欧式距离阈值的标志点上,将满足预设的欧式距离阈值的标志点的欧氏距离补偿到不满足预设的偏移量阈值的标志点。
进一步的,所述视频同步调整模块包括检测单元、姿势识别单元、控制播放单元;所述检测单元用于检测用户运动视频与标准动作视频之间的时延程度;若时延超过预设时延阈值,控制播放单元控制标准动作视频播放速率和播放进度;所述姿势识别单元用于识别出用户手势,并将该手势发送给控制单元,所述控制单元控制标准动作视频播放速率和播放进度。
进一步的,所述检测单元预设有差别检测算法;所述差别检测方法是将连续的标准运动视频帧和用户运动视频帧分别作为独立成分分析算法的输入,分别提取出标准运动视频帧中和用户运动视频帧中的运动目标,得到只包含运动目标的二值图,如果两者分别对应的二值图的差值的差异大于预设的时延阈值,则向控制单元发送控制指令,控制标准动作视频播放速率和播放进度。
本发明的有益效果:
综上所述,本申请通过采集用户运动视频,并通过3D重构模块对采集到的运动视频进行建模,由于人体体型和骨骼结构的个体性差异,标准动作数据和用户动作数据需要进行适应性匹配以提高指导水平;所以需要同时将标准动作视频也进行3D建模,将两者的3D模型进行比对,能够获取比对分析结果,将比对分析结果提供给用户,有利于用户据此进行动作的学习,以提高对动作的掌握程度;本申请不仅将纠正引导视频提供给用户,还将接收到的用户运动视频、标准动作视频以及指导信息共同合并成为一个视频,并通过屏幕反馈给用户,给用户提供更深入清晰的指导意见,另外本申请还可以通过手势对视频的播放进度进行控制,更加有利于初学者的学习。
附图说明
图1是本发明一种基于3D重构的智能瑜伽指导系统的运行思路框图;
图2是本发明的一种基于3D重构的智能瑜伽指导系统的结构框图;
图3是本发明的视频采集系统的数据传输框图;
图4是本发明的3D重构模块的结构框图;
图5是本发明的模型匹配系统的结构框图;
图6是本发明中模型匹配系统的运行流程图;
图7是本发明的视频同步调整模块的结构框图;
图8是本发明的系统自动检测并向用户实际运动进度同步的流程图;
图9是本发明的接收控制指令,控制指导视频播放进度的流程图;
图10是本发明的视频合成模块把接收到的四个视频合成为一个视频并播放的流程图;
图11是本发明的实际使用的概念演示图;
图12是本发明的指导系统需要通过屏幕反馈给用户的视频信息界面;
图13是图12视频信息所对应的文字信息界面。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明实施例中提供的实现一种基于3D重构系统的瑜伽指导方法,主要针对瑜伽练习者自身运动不规范,且不便得到有效指导的问题,其核心思路如图1所示,包括:
用户进行瑜伽运动时,视频采集系统将会拍摄用户的运动视频;
将用户的运动视频重建成3D运动模型;
对比分析用户3D运动模型和标准3D动作模型,并给出指导建议;
对于这个指导建议,一方面将用户运动视频、标准动作视频、纠正引导视频、指导信息合并成为一个视频,并通过屏幕反馈给用户,指导用户继续运动;另一方面将本次运动过程中模型匹配系统产生的用户运动信息包括指导信息和纠正引导视频储存进用户运动档案数据库中,指导用户改进动作。
在本发明的一个实施例中,如图2所示,本发明还提供了一种基于3D重构的智能瑜伽动作指导系统,主要包括视频采集系统、3D重构模块、模型匹配系统、视频同步调整模块、播放控制模块以及视频合并模块。
在一个具体的实现方式中,用户将一个或多个摄像头组成视频采集系统,摄像头拍摄用户的运动视频,摄像头连接指导系统中的3D重构模块;3D重构模块将运动视频构造成用户3D运动模型,模型匹配系统将构造的用户3D运动模型与标准3D运动模型进行匹配,通过匹配程度给用户的动作打分,并分析出用户哪些动作不到位,需要如何改进,生成一个纠正视频,然后把用户的运动原视频、标准运动视频、纠正引导视频、指导信息(系统提示)四块视频信息一起投影到屏幕上,提示用户自己的运动状态、需要如何改进;用户可以通过对摄像头比手势控制,系统识别手势来控制运动视频和运动的进度。每次用户运动完成,为用户保存一份运动数据并存储到用户运动档案数据库中,让用户了解自己的缺点,并提示用户该如何改进,最终达到更有效地锻炼身体的目的。
对于视频采集系统,如图3所示,其工作流程主要为使用摄像机采集用户运动视频传往视频合并模块、3D重构模块和视频同步调整模块。
对于3D重构模块,3D重构模块接收用户运动视频,并将其转化为用户3D运动模型,传输至模型匹配系统;如图4所示,所述3D重构模块包括人体识别单元、空间重构单元、标识单元以及调试单元:
其工作流程主要包括:
通过人体识别单元从拍摄的用户运动视频中识别并定位出人体;
通过空间重构单元计算出用户运动视频中用户目标的深度,并根据该深度重构出三维空间;
将人体3D模型放置到三维空间中,通过标识单元标识出人体关节点,并从这些人体关节点选择出标志点;
以调试单元调节所述人体关节点,使人体3D模型与拍摄出的用户姿势吻合,从而构建出用户3D运动模型。
在一个实施例中,人体识别单元可以按照深度学习的方式识别并定位出人体;本申请首先构建了用于生成3D模型的网络架构。具体的,本申请应用了开源框架PyTorch进行网络构建及模型训练。PyTorch是Facebook开源的Python机器学习库,基于Torch,具备较为完善的功能。在用于深度学习研究时,可以使用它方便构建自己的模型并训练调优,生成合适工程环境使用的产品。
本申请利用时间的信息和单目的视频估计人体的3D动作来实现3D的重构。使用公开动作捕捉数据集和不成对的、在自然环境下的2D关键点标注,来训练一个对抗学习网络,利用动作捕捉数据集来区分真实的人的动作和回归网络生成的人的动作。在训练时把公开的动作捕捉数据集等与训练好的卷积神经网络、时序编码器和人体参数回归器来预测关键点的运动参数,然后通过动作鉴别器来分辨真是或者回归生成的序列。这样回归器通过最小化对抗训练误差来输出更加真实的动作,同时鉴别器以弱监督的形式进行训练。在测试时,首先用户视频经过3D模型匹配得到对应的3D模型,然后利用网络模型为每一帧预测关键点的运动参数。
三维空间的重构是利用摄像机采集并对齐后的数据流。具体的,输入的数据流首先需要做帧与帧之间的对应关系匹配,然后做全局位姿优化,将整体的漂移校正过来,整个重建过程中模型是在不断动态更新的。
在匹配方面,使用的是一种稀疏到密集的并行全局优化方法,先使用稀疏的SIFT特征点来进行比较粗糙的准配,然后使用稠密的几何的光度连续性进行更加细致的准配。在位姿优化方面,使用了分层的本地到全局的优化方法,总共分为两层,在第一层,每连续10帧组成一个块,第一帧作为关键帧,然后对这个块内所有帧做一个局部位姿优化。在第二层,只使用所有的块的关键帧进行相互关联然后进行全局优化。在稠密场景重建方面,需要模型的对称型更新,当增加更新的一帧估计时,需要先去掉旧的一帧,然后在新的位姿处重新整合。
在一个优选实施例中,本实施例中对分层的本地到全局的优化方法进行进一步改进;在第一层,每连续10帧组成一个块,第一帧作为关键帧,然后第一帧分别与其余帧进行FastICA处理,得到10张变化图,在此基础上做对这个块内所有帧做一个局部位姿优化。在第二层,只使用所有的块的关键帧两两做FastICA处理,然后进行全局优化;本实施例所采用的分层的本地到全局的优化方法能够快速且有效的重构出用户3D运动模型,增强了智能瑜伽动作指导系统的指导精度,从而对用户动作进行准确且规范化的纠正和指导。
通过计算图像中目标的深度,重构出三维空间,再把已经建模好的人体3D模型放置到三维空间中,对各个关节变化,使人3D模型与摄像机拍摄出的人的姿势吻合,用人体3D模型去匹配,以头、左肩、右肩、左肘关节、右肘关节、左手、右手、左臀部、右臀部、左膝盖、右膝盖、左脚、右脚作为关节标志点,最后得到的变化后的人的模型称为用户3D运动模型。
对于模型匹配系统,如图5所示;所述模型匹配系统包括坐标系构建模块、模型导入模块、尺度缩放模块、匹配模块;所述坐标系构建模块用于以3D空间的中间点作为三维坐标系的原点,原点的上下轴作为Z轴,原点的左右轴作为X轴,原点的前后轴作为Y轴,以此建立三维左手坐标系或者三维右手坐标系;所述模型导入模块用于将用户3D运动模型和标准3D运动模型导入同一三维坐标系中;所述尺度缩放模块用于调整用户3D运动模型的尺度,并与标准3D运动模型保持同一尺度;所述匹配模块用于根据用户3D模型的原点以及左侧关节路径或者右侧关节路径进行用户3D运动模型与标准3D运动模型的匹配。
如图6所示,其工作流程可以包括:
以坐标系构建模块建立出坐标系,具体可以为左手坐标系或者右手坐标系;
采用模型导入模块将标准3D运动模型和用户3D运动模型这两个运动模型放入一个统一的坐标系中;
采用尺度缩放模块通过尺度缩放用户运动模型使两个运动模型的尺度相同;
采用匹配模块依次计算出每对标志点的欧式距离以及运动矢量和模;
根据该欧式距离以及运动矢量和模,计算出评分得出评价,把两个模型的匹配程度作为对用户运动姿势评分的依据,并将此评分与运动时间、运动指导进度、系统提示等用于指导用户继续运动信息统称为指导信息;同时标记出引导箭头,生成纠正引导视频。
在一个优选实施例中,所述匹配模块包括标志点拾取单元、计算单元、补偿单元以及差分刻画单元;所述标志点拾取单元用于拾取出用户3D运动模型和标准3D运动模型中的标志点,所述计算单元用于计算出用户3D运动模型和标准3D运动模型中各个标志点的运动矢量和模的偏移量以及在同一坐标系中的欧氏距离;所述补偿单元用于将从计算单元处获取的偏移量和欧氏距离对用户3D运动模型进行位姿补偿;所述差分刻画单元用于将标准3D运动模型与位姿补偿后的用户3D运动模型进行差分计算,计算出标志点的差分视频并将标志点的差分矢量方向引出,作为纠正引导视频。
在一个更为优选的实施例中,考虑到欧氏距离以及偏移量均可能存在一定的误差,本发明使用补偿单元对其中的误差进行补偿,如果补偿以后用户3D运动模型仍然与标准3D运动模型相差较大,说明该标志点的动作确实发生偏移,需要在后续过程中提醒用户进行改正;所述补偿单元将满足预设的偏移量阈值的标志点所计算出的偏移量补偿到不满足预设的欧式距离阈值的标志点上,将满足预设的欧式距离阈值的标志点的欧氏距离补偿到不满足预设的偏移量阈值的标志点。
将评价和纠正引导视频一起发送至视频同步调整模块,并将纠正引导视频存储至用户档案数据库中。
对于视频同步调整模块,该调整模块用于标准运动视频的同步以及通过手势控制视频播放进度,如果用户动作比较规范,则可以直接进行同步;如果检测到标准视频和用户视频之间存在大的差别,即用户动作不规范或者初学者可以通过手势来进行同步;可以通过减缓播放标准视频以便进行同步。
在一个实施例中,如图7所示,所述视频同步调整模块包括检测单元、姿势识别单元、控制播放单元;所述检测单元用于检测用户运动视频与标准动作视频之间的时延程度;若时延超过预设时延阈值,控制播放单元控制标准动作视频播放速率和播放进度;所述姿势识别单元用于识别出用户手势,并将该手势发送给控制单元,所述控制单元控制标准动作视频播放速率和播放进度。
其中检测单元是以主动触发的方式实现对视频播放的控制,姿态识别单元是以被动触发的方式实现的对视频播放的控制。
所述视频同步调整模块其运行过程主要包括通过从视频采集系统识别出用户手势,按照手势匹配出对应的控制指令,并向播放控制模块发送控制指令。
具体的,可以参考如下步骤:
视频同步调整模块检测到视频采集系统拍摄出的视频,仅当视频中检测出有效的预设的手势,并且检测结果的置信度达到要求时,进行下一步。其中预设手势模型可以使用系统自带的知识图谱模型,也可以由用户生成自定义模型。将检测出的手势与对应的控制信令匹配;
控制信令匹配成功后,向播放控制模块发送控制指令。
在另一个实施例中,如图8所示,所述播放控制模块还可以通过指导系统被动触发,其运行过程包括:
计算用户3D运动模型和标准3D运动模型这两个模型中每对关节点的欧式距离;
如果只有少量关节点对的欧式距离过大,判定为动作不规范,模型匹配模块进行动作纠正指导的分析;
如果大量关节点对的欧式距离过大,判定为用户运动进度已落后;
当用户进度落后与当前进度时,向控制播放模块发送减慢播放速度的指令,以等待用户赶上运动进度。
对于播放控制模块,如图9所示,其运行过程主要包括接收并响应于所述控制指令,从标准动作视频库中读取出对应的标准运动视频,接收到空暂停、倒退、快进等信号,相应地对指导视频的播放进度进行控制;调整标准动作视频的播放进度,并向视频合并模块发送应当播放的视频。
对于视频合并模块,如图10所示;其运行过程包括将从视频采集系统接收到的用户运动视频、从播放控制模块接收到的标准动作视频、从模型匹配系统接收到的纠正引导视频和指导信息合并成为一个视频,并通过屏幕反馈给用户。
用户运动时,经过这一系列对用户运动视频的分析、处理,把结果合成为一个视频传送往屏幕,用户通过屏幕上反馈的信息改进自己的动作,最终达到改进运动姿势的目的。
如图11所示,图11中展示了一个使用概念图:在合适的位置放置一个或多个摄像头(以两个摄像头为例)组成视频采集系统,摄像头连接装安装了智能瑜伽动作指导系统的设备上(因为安装智能瑜伽动作指导系统的设备是多样的,所以图中未画出),安装智能瑜伽动作指导系统的设备再连接显示器,设备将反馈信息投影到显示器上,用户在显示器上显示的运动指导信息的指导下进行运动。
如图12和图13所示,图中展示了智能瑜伽动作指导系统需要通过屏幕反馈给用户的主要信息,分别是标准运动视频、用户实时运动视频、纠正引导视频以及评价信息。
尽管已经示出和描述了本发明的实施例,对于本领域的普通技术人员而言,可以理解在不脱离本发明的原理和精神的情况下可以对这些实施例进行多种变化、修改、替换和变型,本发明的范围由所附权利要求及其等同物限定。
Claims (8)
1.一种基于3D重构的智能瑜伽动作指导系统,其特征在于,所述指导系统包括:
视频采集系统,用于拍摄用户运动视频;
3D重构模块,将所述摄像系统采集到的运动视频进行重建,并形成用户3D运动模型;
模型匹配系统,接收用户3D运动模型,并从标准3D运动模型库中读取其中的标准3D运动模型,选择出与用户3D运动模型相似度最高的标准3D运动模型,并得出指导信息产生纠正引导视频;
视频同步调整模块,判断接收到的用户运动视频的同步程度,通过用户手势生成用于控制标准动作视频播放速率和播放进度的控制指令;
播放控制模块,接收并响应于所述控制指令,从标准动作视频库中读取出对应的标准运动视频;
视频合并模块,将接收到的用户运动视频、标准动作视频、纠正引导视频、指导信息合并成为一个视频,并通过屏幕反馈给用户。
2.根据权利要求1所述的一种基于3D重构的智能瑜伽动作指导系统,其特征在于,所述视频采集系统包括至少两个摄像头,所述至少两个摄像头的角度控制采集所述人体的深度。
3.根据权利要求1所述的一种基于3D重构的智能瑜伽动作指导系统,其特征在于,所述3D重构模块构建的用户3D模型的过程包括:
从拍摄的用户运动视频中识别并定位出人体;
计算出用户运动视频中用户目标的深度,并根据该深度重构出三维空间;
将人体3D模型放置到三维空间中,并标识出人体关节点,并从这些人体关节点选择出标志点;
调节所述标志点,基于背景差分的人体运动检测算法使人体3D模型与拍摄出的用户姿势吻合,从而构建出用户3D运动模型。
4.根据权利要求1所述的一种基于3D重构的智能瑜伽动作指导系统,其特征在于,所述模型匹配系统包括坐标系构建模块、模型导入模块、尺度缩放模块、匹配模块;所述坐标系构建模块用于以3D空间的中间点作为三维坐标系的原点,原点的上下轴作为Z轴,原点的左右轴作为X轴,原点的前后轴作为Y轴,以此建立三维左手坐标系或者三维右手坐标系;所述模型导入模块用于将用户3D运动模型和标准3D运动模型导入同一三维坐标系中;所述尺度缩放模块用于调整用户3D运动模型的尺度,并与标准3D运动模型保持同一尺度;所述匹配模块用于根据用户3D模型的原点以及左侧关节路径或者右侧关节路径进行用户3D运动模型与标准3D运动模型的匹配。
5.根据权利要求4所述的一种基于3D重构的智能瑜伽动作指导系统,其特征在于,所述匹配模块包括标志点拾取单元、计算单元、补偿单元以及差分刻画单元;所述标志点拾取单元用于拾取出用户3D运动模型和标准3D运动模型中的标志点,所述计算单元用于计算出用户3D运动模型和标准3D运动模型中各个标志点的运动矢量和模的偏移量以及在同一坐标系中的欧氏距离;所述补偿单元用于将从计算单元处获取的偏移量和欧氏距离对用户3D运动模型进行位姿补偿;所述差分刻画单元用于将标准3D运动模型与位姿补偿后的用户3D运动模型进行差分计算,计算出标志点的差分视频并将标志点的差分矢量方向引出,作为纠正引导视频。
6.根据权利要求5所述的一种基于3D重构的智能瑜伽动作指导系统,其特征在于,所述补偿单元将满足预设的偏移量阈值的标志点所计算出的偏移量补偿到不满足预设的欧式距离阈值的标志点上,将满足预设的欧式距离阈值的标志点的欧氏距离补偿到不满足预设的偏移量阈值的标志点上。
7.根据权利要求1所述的一种基于3D重构的智能瑜伽动作指导系统,其特征在于,所述视频同步调整模块包括检测单元、姿势识别单元、控制播放单元;所述检测单元用于检测用户运动视频与标准动作视频之间的时延程度;若时延超过预设时延阈值,控制播放单元控制标准动作视频播放速率和播放进度;所述姿势识别单元用于识别出用户手势,并将该手势发送给控制单元,所述控制单元控制标准动作视频播放速率和播放进度。
8.根据权利要求7所述的一种基于3D重构的智能瑜伽动作指导系统,其特征在于,所述检测单元预设有差别检测算法;所述差别检测方法是将连续的标准运动视频帧和用户运动视频帧分别作为独立成分分析算法的输入,分别提取出标准运动视频帧中和用户运动视频帧中的运动目标,得到只包含运动目标的二值图,如果两者分别对应的二值图的差值的差异大于预设的时延阈值,则向控制单元发送控制指令,控制标准动作视频播放速率和播放进度。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011369151.6A CN112422946B (zh) | 2020-11-30 | 2020-11-30 | 一种基于3d重构的智能瑜伽动作指导系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011369151.6A CN112422946B (zh) | 2020-11-30 | 2020-11-30 | 一种基于3d重构的智能瑜伽动作指导系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112422946A true CN112422946A (zh) | 2021-02-26 |
CN112422946B CN112422946B (zh) | 2023-01-31 |
Family
ID=74829369
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011369151.6A Active CN112422946B (zh) | 2020-11-30 | 2020-11-30 | 一种基于3d重构的智能瑜伽动作指导系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112422946B (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113079416A (zh) * | 2021-04-07 | 2021-07-06 | 宁波绿能科创文化艺术发展有限公司 | 一种多媒体智能控制方法及客户端、系统 |
CN114071211A (zh) * | 2021-09-24 | 2022-02-18 | 北京字节跳动网络技术有限公司 | 视频播放方法、装置、设备以及存储介质 |
CN114089647A (zh) * | 2021-11-22 | 2022-02-25 | 上海健指树智能系统有限公司 | 一种智能律动系统及其控制方法 |
CN114998816A (zh) * | 2022-08-08 | 2022-09-02 | 深圳市指南针医疗科技有限公司 | 基于骨骼ai视频的病例改进方法、装置及存储介质 |
CN115064026A (zh) * | 2022-06-17 | 2022-09-16 | 陆校松 | 乘务现场实训方法及装置 |
CN117746513A (zh) * | 2024-02-19 | 2024-03-22 | 成都体育学院 | 基于视频运动目标检测与融合的运动技术教学方法及系统 |
Citations (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20020006217A1 (en) * | 2000-04-28 | 2002-01-17 | Orametrix, Inc. | Methods for registration of three-dimensional frames to create three-dimensional virtual models of objects |
CN102347043A (zh) * | 2010-07-30 | 2012-02-08 | 腾讯科技(北京)有限公司 | 多角度视频播放方法和系统 |
US20130059281A1 (en) * | 2011-09-06 | 2013-03-07 | Fenil Shah | System and method for providing real-time guidance to a user |
CN104200491A (zh) * | 2014-08-15 | 2014-12-10 | 浙江省新华医院 | 一种人体运动姿态校正系统 |
CN105187733A (zh) * | 2014-06-06 | 2015-12-23 | 腾讯科技(北京)有限公司 | 视频处理方法、装置及终端 |
EP3246875A2 (en) * | 2016-05-18 | 2017-11-22 | Siemens Healthcare GmbH | Method and system for image registration using an intelligent artificial agent |
US20180292824A1 (en) * | 2017-04-06 | 2018-10-11 | Uber Technologies, Inc. | Automatic Tuning of Autonomous Vehicle Cost Functions Based on Human Driving Data |
CN108805068A (zh) * | 2018-06-01 | 2018-11-13 | 李泽善 | 一种基于学生运动的运动辅助系统、方法、装置及介质 |
CN109192267A (zh) * | 2018-08-09 | 2019-01-11 | 深圳狗尾草智能科技有限公司 | 运动陪伴虚拟机器人 |
CN109191588A (zh) * | 2018-08-27 | 2019-01-11 | 百度在线网络技术(北京)有限公司 | 运动教学方法、装置、存储介质及电子设备 |
CN110170159A (zh) * | 2019-06-27 | 2019-08-27 | 郭庆龙 | 一种人体健身动作运动监测系统 |
CN111432260A (zh) * | 2020-03-31 | 2020-07-17 | 腾讯科技(深圳)有限公司 | 多路视频画面的同步方法、装置、设备及存储介质 |
CN111565298A (zh) * | 2020-04-30 | 2020-08-21 | 腾讯科技(深圳)有限公司 | 视频处理方法、装置、设备及计算机可读存储介质 |
CN111615706A (zh) * | 2017-11-17 | 2020-09-01 | 脸谱公司 | 基于子流形稀疏卷积神经网络分析空间稀疏数据 |
CN111881887A (zh) * | 2020-08-21 | 2020-11-03 | 董秀园 | 基于多摄像头的运动姿态监测和指导方法及装置 |
-
2020
- 2020-11-30 CN CN202011369151.6A patent/CN112422946B/zh active Active
Patent Citations (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20020006217A1 (en) * | 2000-04-28 | 2002-01-17 | Orametrix, Inc. | Methods for registration of three-dimensional frames to create three-dimensional virtual models of objects |
CN102347043A (zh) * | 2010-07-30 | 2012-02-08 | 腾讯科技(北京)有限公司 | 多角度视频播放方法和系统 |
US20130059281A1 (en) * | 2011-09-06 | 2013-03-07 | Fenil Shah | System and method for providing real-time guidance to a user |
CN105187733A (zh) * | 2014-06-06 | 2015-12-23 | 腾讯科技(北京)有限公司 | 视频处理方法、装置及终端 |
CN104200491A (zh) * | 2014-08-15 | 2014-12-10 | 浙江省新华医院 | 一种人体运动姿态校正系统 |
EP3246875A2 (en) * | 2016-05-18 | 2017-11-22 | Siemens Healthcare GmbH | Method and system for image registration using an intelligent artificial agent |
US20180292824A1 (en) * | 2017-04-06 | 2018-10-11 | Uber Technologies, Inc. | Automatic Tuning of Autonomous Vehicle Cost Functions Based on Human Driving Data |
CN111615706A (zh) * | 2017-11-17 | 2020-09-01 | 脸谱公司 | 基于子流形稀疏卷积神经网络分析空间稀疏数据 |
CN108805068A (zh) * | 2018-06-01 | 2018-11-13 | 李泽善 | 一种基于学生运动的运动辅助系统、方法、装置及介质 |
CN109192267A (zh) * | 2018-08-09 | 2019-01-11 | 深圳狗尾草智能科技有限公司 | 运动陪伴虚拟机器人 |
CN109191588A (zh) * | 2018-08-27 | 2019-01-11 | 百度在线网络技术(北京)有限公司 | 运动教学方法、装置、存储介质及电子设备 |
CN110170159A (zh) * | 2019-06-27 | 2019-08-27 | 郭庆龙 | 一种人体健身动作运动监测系统 |
CN111432260A (zh) * | 2020-03-31 | 2020-07-17 | 腾讯科技(深圳)有限公司 | 多路视频画面的同步方法、装置、设备及存储介质 |
CN111565298A (zh) * | 2020-04-30 | 2020-08-21 | 腾讯科技(深圳)有限公司 | 视频处理方法、装置、设备及计算机可读存储介质 |
CN111881887A (zh) * | 2020-08-21 | 2020-11-03 | 董秀园 | 基于多摄像头的运动姿态监测和指导方法及装置 |
Non-Patent Citations (1)
Title |
---|
杨稳等: "基于分层优化策略的颅骨点云配准算法", 《光学学报》 * |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113079416A (zh) * | 2021-04-07 | 2021-07-06 | 宁波绿能科创文化艺术发展有限公司 | 一种多媒体智能控制方法及客户端、系统 |
CN113079416B (zh) * | 2021-04-07 | 2024-03-26 | 宁波绿能科创文化艺术发展有限公司 | 一种多媒体智能控制方法及客户端、系统 |
CN114071211A (zh) * | 2021-09-24 | 2022-02-18 | 北京字节跳动网络技术有限公司 | 视频播放方法、装置、设备以及存储介质 |
CN114071211B (zh) * | 2021-09-24 | 2024-01-09 | 北京字节跳动网络技术有限公司 | 视频播放方法、装置、设备以及存储介质 |
CN114089647A (zh) * | 2021-11-22 | 2022-02-25 | 上海健指树智能系统有限公司 | 一种智能律动系统及其控制方法 |
CN115064026A (zh) * | 2022-06-17 | 2022-09-16 | 陆校松 | 乘务现场实训方法及装置 |
CN115064026B (zh) * | 2022-06-17 | 2023-12-19 | 陆校松 | 乘务现场实训方法及装置 |
CN114998816A (zh) * | 2022-08-08 | 2022-09-02 | 深圳市指南针医疗科技有限公司 | 基于骨骼ai视频的病例改进方法、装置及存储介质 |
CN117746513A (zh) * | 2024-02-19 | 2024-03-22 | 成都体育学院 | 基于视频运动目标检测与融合的运动技术教学方法及系统 |
CN117746513B (zh) * | 2024-02-19 | 2024-04-30 | 成都体育学院 | 基于视频运动目标检测与融合的运动技术教学方法及系统 |
Also Published As
Publication number | Publication date |
---|---|
CN112422946B (zh) | 2023-01-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112422946B (zh) | 一种基于3d重构的智能瑜伽动作指导系统 | |
CN112487965B (zh) | 一种基于3d重构的智能健身动作指导方法 | |
CN108764120B (zh) | 一种人体规范动作评价方法 | |
CN110321754B (zh) | 一种基于计算机视觉的人体运动姿态纠正方法及系统 | |
CN108564596B (zh) | 一种高尔夫挥杆视频的智能比对分析系统及方法 | |
CN111437583B (zh) | 一种基于Kinect的羽毛球基本动作辅助训练系统 | |
CN109829436A (zh) | 一种基于深度表观特征和自适应聚合网络的多人脸跟踪方法 | |
CN111881887A (zh) | 基于多摄像头的运动姿态监测和指导方法及装置 | |
CN110544301A (zh) | 一种三维人体动作重建系统、方法和动作训练系统 | |
CN110472554A (zh) | 基于姿态分割和关键点特征的乒乓球动作识别方法及系统 | |
CN108256433A (zh) | 一种运动姿态评估方法及系统 | |
CN112819852A (zh) | 对基于姿态的运动进行评估 | |
US7404774B1 (en) | Rule based body mechanics calculation | |
CN110544302A (zh) | 基于多目视觉的人体动作重建系统、方法和动作训练系统 | |
CN117496409B (zh) | 一种基于多视角三维人体重建的细粒度舞蹈动作评分方法 | |
CN113255522A (zh) | 基于时间一致性的个性化运动姿态估计与分析方法及系统 | |
CN115131879B (zh) | 一种动作评价方法及装置 | |
CN116844084A (zh) | 一种融合区块链的体育运动动作分析与纠正方法及系统 | |
CN113947811A (zh) | 一种基于生成对抗网络的太极拳动作校正方法及系统 | |
CN114092863A (zh) | 一种用于多视角视频图像的人体动作评估方法 | |
CN117711066A (zh) | 一种三维人体姿态估计方法、装置、设备及介质 | |
CN116721468A (zh) | 一种基于多人姿态估计动作幅度检测的智能导播切换方法 | |
CN116246347A (zh) | 一种人体基本运动技能的标准判断方法及评分装置 | |
CN115497170A (zh) | 一种队列式跳伞训练动作识别与评分的方法 | |
CN115294228A (zh) | 基于模态引导的多图人体姿态生成方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |