CN102819863B - 一种三维人体运动的实时在线获取方法及其系统 - Google Patents
一种三维人体运动的实时在线获取方法及其系统 Download PDFInfo
- Publication number
- CN102819863B CN102819863B CN201210270595.3A CN201210270595A CN102819863B CN 102819863 B CN102819863 B CN 102819863B CN 201210270595 A CN201210270595 A CN 201210270595A CN 102819863 B CN102819863 B CN 102819863B
- Authority
- CN
- China
- Prior art keywords
- dimensional symbol
- point
- symbol point
- dimensional
- screening
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Landscapes
- Processing Or Creating Images (AREA)
Abstract
本发明公开了一种三维人体运动实时在线获取方法及其系统。该方法包括步骤1,标注三维标志点,构造线性动态系统和刚体约束并设置筛选三维标志点候选点集的阈值和点匹配代价权值,根据所述标注的三维标志点数据初始化并训练线性动态系统;步骤2,筛选候选点集,计算匹配代价并标注结果;步骤3,重建当前帧的人体姿态;步骤4,重建当前帧人体姿态下各三维标志点的相对位置,恢复丢失的三维标志点的位置;步骤5,更新所述的线性动态系统、刚体约束和阈值与权值。该方法解决了现有技术实时重建的人体运动数据精度不高的问题,重建出的人体运动数据具有良好的直观视觉效果。
Description
技术领域
本发明涉及计算机视觉和模式识别领域,尤其涉及一种三维人体运动的实时在线获取方法及其系统。
背景技术
近几年来,运动捕捉技术的发展使沉浸式仿真训练系统等虚拟现实系统成为可能,沉浸式仿真训练系统是一种“人在回路”的虚拟现实系统。利用运动捕捉系统,这类系统能为置身于虚拟环境中的用户创建其化身,用户可以操纵化身与虚拟环境进行无缝交互,在系统的引导下完成一系列的任务,获得犹如身临其境的体验,从而到达技能培训与训练的目的。
构建沉浸式仿真训练系统需要实时采集并重建人体运动数据,在各种运动捕获设备中,被动式光学捕获系统由于其高精确性和低侵入性得到了广泛的应用,但在捕获数据的过程中,不同部位的三维标志点很容易混淆、遮挡,产生错误的结果,在此基础上重建出的人体运动往往是不精确的甚至是不合理的,导致用户与化身动作的不一致甚至化身肢体的扭曲,极大的破坏系统的真实感与沉浸感。
利用运动捕获设备捕捉表演者的动作来直接驱动其化身的技术又叫表演动画技术,已经有一些学者进行了这方面的研究。其中大部分工作只利用少量的传感器获取表演者的运动信息,再辅以虚拟人运动预测算法,通过低维控制信号重建表演者的姿态。运动预测算法一般建立在运动数据库或者一组定义好的规则之上。这类技术具有低成本和应用方便的好处,但由于只有少量的控制信息来自于表演者,重建的人体动画与表演者的实际姿态可能有较大的差异,导致这类技术只能适用于对重建运动精度要求不高的应用场合。
发明内容
为了解决上述的技术问题,本发明提供了一种三维人体运动实时在线获取 方法及其系统,利用给定的人体链状结构模型,从捕获到的三维标志点序列中,实时在线的恢复出高精度的人体运动。
为实现本发明目的而提供的一种三维人体运动实时在线获取方法,包括:
步骤1,在人体链状结构模型上标注三维标志点,构造线性动态系统和刚体约束并设置筛选三维标志点候选点集的阈值和点匹配代价权值,根据所述标注的三维标志点数据初始化并训练线性动态系统;
步骤2,筛选所述三维标志点的候选点集,计算所述筛选的三维标志点候选点集的匹配代价并标注结果;
步骤3,重建当前帧的人体姿态;
步骤4,计算在所述重建当前帧的人体姿态下各三维标志点的相对位置,利用所述的在重建当前帧的人体姿态下各三维标志点的相对位置和刚体约束恢复丢失的三维标志点的位置;
步骤5,更新所述的线性动态系统、刚体约束和筛选三维标志点候选点集的阈值和点匹配代价权值。
所述步骤2还包括:
步骤21,利用所述的线性动态系统对当前帧各三维标志点的位置进行预测;
步骤22,与所述当前帧各三维标志点预测位置的距离小于所述设置筛选三维标志点候选点集的阈值的三维标志点被筛选为候选点;
步骤23,根据运动平滑性约束和刚体约束计算所述筛选的三维标志点候选点集的匹配代价;
步骤24,在所述计算的三维标志点候选点集的匹配代价最小的三维标志点上标注结果。
所述步骤3还包括:所述当前帧的人体姿态是通过优化的方法,根据所述当前帧各三维标志点的标注结果和人体链状结构模型重建得到的。
所述步骤4还包括:在与所述丢失的三维标志点在同一个刚体上的其他三维标志点至少有一个是没有丢失的情况下,利用刚体约束对所述丢失的三维标志点的三维位置进行恢复;某一刚体上的所有三维标志点都丢失的情况下,利用运动重建得到的三维标志点位置作为丢失三维标志点的恢复位置。
所述步骤5还包括:刚体约束的更新在与刚体约束相关的两个三维标志点 都没有丢失的情况下进行;在更新所述筛选三维标志点候选点集的阈值时,三维标志点丢失,则增大所述筛选三维标志点候选点集的阈值直到某一特定值,当三维标志点重新出现后,减小所述筛选三维标志点候选点集的阈值直到初始指定值;在更新点匹配代价权值时,三维标志点丢失,则减小该三维标志点的点匹配代价权值直到某一特定值,当三维标志点重新出现后,增大该三维标志点点匹配代价权值直到初始指定值。
为实现该发明目的,本发明还包括一种三维人体运动的实时在线获取系统,包括:
预处理模块,用于读取观测对象的人体链状结构模型和标注的三维标志点数据,构造线性动态系统和刚体约束并设置筛选三维标志点候选点集的阈值和点匹配代价权值,根据所述的标注的三维标志点数据初始化并训练线性动态系统;
标注点标注模块,用于筛选三维标志点的候选点集,计算所述筛选的三维标志点候选点集的匹配代价并标注结果
运动重建模块,用于重建当前帧的人体姿态;
丢失标志点恢复模块,通过计算在重建当前帧的人体姿态下各三维标志点的相对位置,根据所述的在重建当前帧的人体姿态下各三维标志点的相对位置和刚体约束恢复丢失三维标志点的位置
更新模块,用于更新所述的线性动态系统、刚体约束和筛选三维标志点候选点集的阈值和点匹配代价权值
所述标志点标注模块还包括:
预测模块,通过所述的线性动态系统对当前帧各三维标志点的位置进行预测;
筛选模块,筛选与所述当前帧各三维标志点预测位置的距离小于所述设置筛选三维标志点候选点集的阈值的点,作为三维标志点的候选点集;
计算模块,根据运动平滑性约束和刚体约束计算所述筛选三维标志点候选点集的匹配代价;
标注模块,在所述计算的三维标志点候选点集的匹配代价最小的三维标志点上标注结果。
所述运动重建模块还包括:当前帧的人体姿态是通过优化的方法,根据所 述当前帧各三维标志点的标注结果和人体链状结构模型得到的。
丢失标志点恢复模块还包括:在与丢失的三维标志点在同一个刚体上的其他三维标志点至少有一个是没有丢失的情况下,利用刚体约束对所述丢失的三维标志点的三维位置进行恢复;某一刚体上的所有三维标志点都丢失的情况下,利用运动重建得到的三维标志点位置作为丢失三维标志点的恢复位置。
更新模块还包括:刚体约束的更新在与刚体约束相关的两个三维标志点都没有丢失的情况下进行;在更新所述筛选三维标志点候选点集的阈值时,三维标志点丢失,则适当的增大所述筛选三维标志点候选点集的阈值直到某一特定值,当三维标志点重新出现后,减小所述筛选三维标志点候选点集的阈值直到初始指定值;在更新点匹配代价权值时,三维标志点丢失,则减小该三维标志点的点匹配代价权值直到某一特定值,当三维标志点重新出现后,增大该三维标志点点匹配代价权值直到初始指定值。
本发明所指的丢失三维标志点是在运动采集过程中因为遮挡和自遮挡情况的发生,人身上粘贴的某些标志点在一段时间内不能被摄像机捕获到而引起的。
本发明提供的三维人体运动实时在线获取方法及其系统,其优点在于:
(a)首次引入图匹配理论来求解运动捕获三维标志点的在线标注问题,将三维标志点标注问题转化为一个组合优化问题,通过计算匹配代价的最小值得到标注结果。区别于已有的图匹配技术,利用筛选出的候选点,将边匹配代价有效的融入了点匹配代价中,能在计算匹配代价时同时考虑点以及与该点相连的边构成的局部几何结构,克服了已有的方法只能求得近似解的缺陷。
(b)在线性动态系统预测结果的基础上,加入人体骨骼模型以及姿态的约束,能够在三维标志点大量且长期丢失的情况下准确的在线恢复出丢失三维标志点的三维位置,重建出的人体运动数据具有良好的直观视觉效果。
(c)基于准确的三维标志点在线标注技术和丢失三维标志点在线恢复技术,能够实现鲁棒的在线人体运动重建方法,解决了已有的表演动画技术实时重建的人体运动数据精度不高的问题。
基于上述优点,利用本发明所公开的方法,能够根据捕获到的三维标记点序列,重建出高质量的人体动画,可以应用在如虚拟装配操作训练、虚拟维修训练等需要实时采集并重建人体运动信息的很多沉浸式虚拟现实领域,以及计 算机游戏和影视动画领域。
附图说明
图1是本发明的三维人体运动实时在线获取方法的流程图;
图2是一实施例中观测对象的人体链状结构模型的下肢结构的示例图;
图3是一实施例中三维标志点在下肢结构中的示例图;
图4是本发明的三维人体运动实时在线获取系统的结构图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明的一种三维人体运动实时在线获取方法及其系统进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
本发明的三维人体运动实时在线获取方法的流程如图1所示
步骤S100,在人体链状结构模型上标注三维标志点,构造线性动态系统和刚体约束并设置筛选三维标志点候选点集的阈值和点匹配代价权值,根据所述的标注的三维标志点数据初始化并训练线性动态系统;人体链状结构模型中包括刚体,每个刚体上具有标志点;通过读取观测对象的人体链状结构模型,确定观测对象的人体链状结构模型中刚体的数量和名称,各个刚体上标志点的数目和名称,以及各刚体的拓扑结构。
在一实施例中的观测对象的人体链状结构模型的下肢结构如图2所示,下肢结构的刚体包括腰部,左大腿,右大腿,左小腿,右小腿,左足,右足,共7个刚体;每个刚体中包括的标志点如表1所述。
刚体名称 | 包含的标志点 |
腰部 | LFWT RFWT LBWT RBWT |
左大腿 | LFWT LTHI LKNE |
右大腿 | RFWT RTHI RKNE |
左小腿 | LKNE LANK LSHN |
右小腿 | RKNE RANK RSHN |
左脚 | LTOE LMT5 LANK LHEE |
右脚 | RTOE RMT5 RANK RHEE |
表1
表1中的LFWT表示左腰前,RFWT表示右腰前,LBWT表示左腰后,RBWT表示右腰后,LTHI表示左大腿,LKNE表示左膝盖,RTHI表示右大腿,RKNE表示右膝盖,LANK表示左脚踝LSHN表示左小腿,RANK表示右脚踝,RSHN表示右小腿,LTOE表示左拇指,LMT5表示左小指,LHEE表示左脚跟,RTOE表示右拇指,RMT5表示右小指,RHEE表示右脚跟。
表1中标志点在下肢结构中的位置如图3所示。
根据已经标注的三维标志点数据计算在同一个刚体上的三维标志点间的平均距离(刚体约束)并构造线性动态系统,线性动态系统中的相关参数可以手工指定也可以通过学习得到。
由于光学运动捕获设备的采集帧率通常较高(60帧每秒或120帧每秒),单个三维标志点的运动满足运动平滑性的约束,可以根据线性动态的预测值对当前捕获到的三维标志点进行筛选,因此需要首先设定筛选三维标志点候选点集的阈值hi,该值根据采集帧率和三维标志点运动速度的快慢来决定,应该大到足以包括三维标志点的正确指派,如当采集帧率为120帧每秒时,三维标志点运动速度正常时,设置为15厘米。
在计算三维标志点指派的匹配代价时,需要计算点匹配代价和局部几何结构匹配代价的加权和,因此首先要设定点匹配代价权值,此权值决定点了匹配代价重要性,与采集帧率、三维标志点运动速度有关。
步骤S200,筛选所述三维标志点的候选点集,计算所述筛选的三维标志点候选点集的匹配代价并标注结果。
利用线性动态系统的预测值筛选三维标志点的候选点集。
利用先前已经过标注和补点的三维标志点数据,可以用线性动态系统预测当前帧各三维标志点的三维位置 根据此预测位置对当前捕获得到的没有名字的三维标志点 进行筛选,计算它们之间的距离,距离小于指定阈值的点被选为三维标志点的候选点,即:
i'∈b(i)if
其中,i′表示三维标志点 b(i)表示三维标志点 的候选点集,hi是筛选 第i个三维标志点候选点的阈值。
根据运动平滑性约束和刚体约束计算匹配代价。
每一种指派都会产生相应的匹配代价,如果三维标志点 不是点 的候选点,即 则将指派φij的匹配代价设置为一指定的最大匹配代价。
如 即三维标志点 不是点 的候选点,则计算指派(i,j)所产生的点匹配代价cp(i,j)和其局部几何结构匹配代价clg(i,j)。点匹配代价cp(i,j)由运动平滑性约束决定,可以有多种计算方法,如下式将当前帧三维标志点与前一帧三维标志点之间的距离作为指派产生的点匹配代价:
其中 为前一帧第i个三维标志点的三维位置。
局部几何结构匹配代价由于指派(i,j)相关的边匹配代价组成,其计算公式为:
其中ce(ii′,jj′)为边匹配代价,i′为与三维标志点i有边相连的三维标志点(邻接点),j′是三维标志点i′的候选点。
如三维标志点i的邻接点没有可以匹配的候选点,则不把此邻接点纳入局部几何结构的计算,如因丢点过多使得|i′|=0,则令clg(i,j)=cp(i,j)。
边匹配代价由运动平滑性约束和刚体约束共同决定,可以有多种计算方法,如下式:
其中,pi′是与pi相邻的标志点,uj为pi的候选点,uj′为pi′的候选点,ωa是统一了长度与角度单位上的不一致, 记录了三维标志点pi,pi′问的距离, 根据第一帧的三维标志点数据计算得到,并在标注过程中不断更新。在如上式的边匹配代价计算公式中,加号左边的部分代表了两边长度之差,度量了边ujuj′违反刚体约束的程度,加号右边的部分计算了两边方向的差异,加入此项是由于三维标志点问的方向在连续的两帧问不会有太大的变化,这是运动平滑性约 束的另一种体现。
最后计算点匹配代价和局部几何结构匹配代价的加权和,作为指派的匹配代价。
求解并在计算的三维标志点候选点集的总匹配代价最小的三维标志点标注结果。
针对不同的问题,所求的三维标志点标注结果可能需要满足一定的约束,如一一对应约束,即任一三维标志点只能被匹配一次。在一一对应约束下,三维标志点标注问题转化为下列的组合优化问题:
s.t.(1)xij∈{0,1}
其中,xij为0-1变量,xij=1表示φij为正确的匹配,xij=0表示φij不是正确的匹配;cp(a)表示点匹配代价,clg(a)表示边匹配代价,ωp为决定点匹配代价重要性的经验系数,ωmax为手工指定的最大匹配代价,ωij为总的匹配代价。此问题可利用匈牙利算法在多项式时间内求得最优解。
利用线性动态系统估计丢失三维标志点位置的概率分布。
利用先前已经过标注和补点的三维标志点数据,根据线性动态系统可以推导得到当前帧丢失三维标志点三维位置应服从的概率分布。
步骤S300,重建当前帧的人体姿态.
通过优化的方法得到当前的人体姿态。
优化方法将人体姿态(根关节的平移和旋转以及其他关节的旋转)作为自变量,根据人体链状结构模型和特定的人体姿态,利用正向运动学可以计算出在此姿态下各三维标志点的空间位置(将这样的三维标志点称为虚拟三维标志点),优化的目标函数包含以下四项:
未丢失三维标志点与虚拟三维标志点的距离;
虚拟三维标志点不符合线性动态系统所预测出的丢失三维标志点位置概率 分布的程度;
人体姿态不符合运动平滑性约束的程度;
各关节旋转违反人体关节角度约束的程度。
上述四项的加权和构成了目标函数,通过求目标函数的最小值可以得到当前的人体姿态,再利用正向运动学可以得到在此姿态下各三维标志点对的相对位置。
步骤S400,计算在所述重建当前帧的人体姿态下各三维标志点的相对位置,利用所述的在重建当前帧的人体姿态下各三维标志点的相对位置和刚体约束恢复丢失的三维标志点的位置
利用三维标志点的相对位置和刚体约束恢复丢失标记点的位置
在与丢失的三维标志点在同一个刚体上的其他三维标志点至少有一个是没有丢失的情况下,我们假设根据重建姿态计算出的三维标志点间的相对位置是正确的,利用刚体约束对丢失三维标志点的三维位置进行恢复,如某一刚体上的所有三维标志点都丢失了,就直接利用运动重建得到的三维标志点位置作为丢失三维标志点的恢复位置。
步骤S500,更新所述的线性动态系统、刚体约束和筛选三维标志点候选点集的阈值和点匹配代价权值。
标注并补点完后,利用三维标志点的三维位置对线性动态系统进行更新。
利用标注的三维标志点数据更新刚体约束,刚体约束的更新只在与刚体约束相关的两个三维标志点都没有丢失的情况下才进行。
更新筛选三维标志点候选点集的阈值,如三维标志点丢失了,适当的增大该三维标志点候选点集的阈值直到某一特定值,当三维标志点重新出现后,减小该三维标志点候选点集的阈值直到初始指定值。
更新点匹配代价权重,如三维标志点丢失了,适当的减小该三维标志点的点匹配代价权值直到某一特定值,当三维标志点重新出现后,增大该三维标志点点匹配代价权值直到初始指定值。
本发明的三维标记点序列的跟踪系统结构如图4所示。
预处理模块100,预处理模块,用于读取观测对象的人体链状结构模型和标注的三维标志点数据,构造线性动态系统和刚体约束并设置筛选三维标志点候选点集的阈值和点匹配代价权值,根据所述的标注的三维标志点数据初始化 并训练线性动态系统;
标志点标注模块200,用于筛选三维标志点的候选点集,计算所述筛选的三维标志点的候选点集的匹配代价并标注结果
运动重建模块300,根据当前帧三维标志点的标注结果和人体链状结构模型重建当前帧的人体姿态。
丢失标志点恢复模块400,通过计算在重建当前帧人体姿态下各三维标志点的相对位置,根据所述的在重建当前帧的人体姿态下各三维标志点的相对位置和刚体约束恢复丢失三维标志点的位置
更新模块500,用于更新所述的线性动态系统、刚体约束和筛选三维标志点候选点集的阈值和点匹配代价权值
所述预处理模块100进一步用于:
建立线性动态系统对三维标志点的运动进行预测,根据已经标注的并不包含丢点的三维标志点数据(可以包含一帧或多帧)初始化并训练线性动态系统;
建立刚体约束,根据人体链状结构模型和已经标注的三维标志点数据计算在同一刚体上的三维标志点间的距离;
设定筛选三维标志点候选点集的阈值;
设定点匹配代价权值。
所述标志点标注模块200进一步包括:
根据线性动态系统的预测值筛选三维标志点的候选点集,筛选三维标志点候选点集的依据是待标注的三维标志点与当前各三维标志点预测位置的距离,距离小于指定阈值的点被选为三维标志点的候选点;
根据运动平滑性约束和刚体约束计算匹配代价,在一较加的实施方式中,匹配代价的计算方法为:
对于没有被选为候选点的三维标志点,设置其指派代价为一指定的最大匹配代价;
根据运动平滑性约束计算指派(i,j)的点匹配代价cp(i,j),只对被选为候选点的三维标志点进行点匹配代价的计算;
根据与指派(i,j)相关的边匹配代价计算其局部几何结构匹配代价,计算公 式为 其中ce(ii',jj')为边匹配代价,i'与三维标志点i有边相连的三维标志点,j'是三维标志点i'的候选点。其中,边匹配代价由运动平滑性约束和刚体约束共同决定,同样只对被选为候选点的三维标志点进行局部几何结构匹配代价的计算,另外,如三维标志点i的邻接点没有可以匹配的候选点,则不把此邻接点纳入局部几何结构的计算,如因丢点过多使得|i′|=0,则令clg(i,j)=cp(i,j);
计算点匹配代价和局部几何结构匹配代价的加权和,作为指派的匹配代价。
求解使得总匹配代价最小的三维标志点标注结果,针对不同的问题,所求的三维标志点标注结果可能需要满足一定的约束,如一一对应约束,即任一三维标志点只能被匹配一次。
在较佳的实施方式中,运动重建模块300进一步用于:
利用线性动态系统估计丢失三维标志点位置的概率分布;
通过优化的方法得到当前的人体姿态,优化方法将人体姿态(根关节的平移和旋转以及其他关节的旋转)作为自变量,根据人体链状结构模型和特定的人体姿态,利用正向运动学可以计算出在此姿态下各三维标志点的空间位置(将这样的三维标志点称为虚拟三维标志点),优化的目标函数包含以下四项:
未丢失三维标志点与虚拟三维标志点的距离;
虚拟三维标志点不符合线性动态系统所预测出的丢失三维标志点位置概率分布的程度;
人体姿态不符合运动平滑性约束的程度;
各关节旋转违反人体关节角度约束的程度。
上述四项的加权和构成了目标函数,通过求目标函数的最小值可以得到当前的人体姿态。
所述丢失标志点恢复模块400进一步用于:
计算在重建当前帧的人体姿态下各三维标志点的相对位置;
根据三维标志点对的相对位置和刚体约束恢复丢失标记点的位置,当在与丢失的三维标志点在同一个刚体上的其他三维标志点至少有一个是没有丢失的 情况下,我们假设根据重建姿态计算出的三维标志点间的相对位置是正确的,利用刚体约束对丢失三维标志点的三维位置进行恢复。如某一刚体上的所有三维标志点都丢失了,就直接利用运动重建得到的三维标志点位置作为丢失三维标志点的恢复位置。
所述更新模块500还包括:
利用标注并补点后的三维标志点数据更新线性动态系统;
利用标注的三维标志点数据更新刚体约束,刚体约束的更新只在与刚体约束相关的两个三维标志点都没有丢失的情况下才进行;
更新筛选三维标志点候选点集的阈值,如三维标志点丢失了,适当的增大该三维标志点候选点集的阈值直到某一特定值,当三维标志点重新出现后,减小该三维标志点候选点集的阈值直到初始指定值;
更新点匹配代价权值,如三维标志点丢失了,适当的减小该三维标志点的点匹配代价权值直到某一特定值,当三维标志点重新出现后,增大该三维标志点点匹配代价权值直到初始指定值。
当然,本发明还可有其它多种实施例,在不背离本发明精神及其实质的情况下,熟悉本领域的技术人员可根据本发明作出各种相应的改变和变形,但这些相应的改变和变形都应属于本发明权利要求的保护范围。
Claims (8)
1.一种三维人体运动实时在线获取方法,其特征在于,包括:
步骤1,在人体链状结构模型上标注三维标志点,构造线性动态系统和刚体约束并设置筛选三维标志点候选点集的阈值和点匹配代价权值,根据所述标注的三维标志点数据初始化并训练线性动态系统,其中根据采集帧率和所述三维标识点运动速度获取所述阈值;
步骤2,筛选所述三维标志点的候选点集,计算所述筛选的三维标志点候选点集的匹配代价并标注结果;
步骤3,重建当前帧的人体姿态;
步骤4,计算在所述重建当前帧的人体姿态下各三维标志点的相对位置,利用所述的在重建当前帧的人体姿态下各三维标志点的相对位置和刚体约束恢复丢失的三维标志点的位置;
步骤5,更新所述的线性动态系统、刚体约束和筛选三维标志点候选点集的阈值和点匹配代价权值,其中刚体约束的更新在与刚体约束相关的两个三维标志点都没有丢失的情况下进行;在更新所述筛选三维标志点候选点集的阈值时,三维标志点丢失,则增大所述筛选三维标志点候选点集的阈值直到某一特定值,当三维标志点重新出现后,减小所述筛选三维标志点候选点集的阈值直到初始指定值;在更新点匹配代价权值时,三维标志点丢失,则减小所述三维标志点的点匹配代价权值直到某一特定值,当三维标志点重新出现后,增大所述三维标志点点匹配代价权值直到初始指定值。
2.如权利要求1所述的三维人体运动实时在线获取方法,其特征在于,步骤2还包括:
步骤21,利用所述的线性动态系统对当前帧各三维标志点的位置进行预测;
步骤22,与所述当前帧各三维标志点预测位置的距离小于所述设置筛选三维标志点候选点集的阈值的三维标志点被筛选为候选点;
步骤23,根据运动平滑性约束和刚体约束计算所述筛选的三维标志点候选点集的匹配代价;
步骤24,在所述计算的三维标志点候选点集的匹配代价最小的三维标志点上标注结果。
3.根据权利要求1所述的三维人体运动实时在线获取方法,其特征在于,所述当前帧的人体姿态是通过优化的方法,根据所述当前帧各三维标志点的标注结果和人体链状结构模型重建得到的。
4.如权利要求1所述的三维人体运动的实时在线获取方法,其特征在于,在与所述丢失的三维标志点在同一个刚体上的其他三维标志点至少有一个是没有丢失的情况下,利用刚体约束对所述丢失的三维标志点的三维位置进行恢复;某一刚体上的所有三维标志点都丢失的情况下,利用运动重建得到的三维标志点位置作为丢失三维标志点的恢复位置。
5.一种三维人体运动实时在线获取系统,包括:
预处理模块,用于读取观测对象的人体链状结构模型和标注的三维标志点数据,构造线性动态系统和刚体约束并设置筛选三维标志点候选点集的阈值和点匹配代价权值,根据所述标注的三维标志点数据初始化并训练线性动态系统,其中根据采集帧率和所述三维标识点运动速度获取所述阈值;
标注点标注模块,用于筛选三维标志点的候选点集,计算所述筛选的三维标志点的候选点集的匹配代价并标注结果;
运动重建模块,用于重建当前帧的人体姿态;
丢失标志点恢复模块,通过计算在重建当前帧的人体姿态下各三维标志点的相对位置,根据所述的在重建当前帧的人体姿态下各三维标志点的相对位置和刚体约束恢复丢失三维标志点的位置;
更新模块,用于更新所述的线性动态系统、刚体约束和筛选三维标志点候选点集的阈值和点匹配代价权值,其中刚体约束的更新在与刚体约束相关的两个三维标志点都没有丢失的情况下进行;在更新所述筛选三维标志点候选点集的阈值时,三维标志点丢失,则适当的增大所述筛选三维标志点候选点集的阈值直到某一特定值,当三维标志点重新出现后,减小所述筛选三维标志点候选点集的阈值直到初始指定值;在更新点匹配代价权值时,三维标志点丢失,则减小所述三维标志点的点匹配代价权值直到某一特定值,当三维标志点重新出现后,增大所述三维标志点点匹配代价权值直到初始指定值。
6.根据权利要求5所述的三维人体运动实时在线获取系统,其特征在于,标志点标注模块还包括:
预测模块,通过所述的线性动态系统对当前帧各三维标志点的位置进行预 测;
筛选模块,筛选与所述当前帧各三维标志点预测位置的距离小于所述设置筛选三维标志点候选点集的阈值的点,作为三维标志点的候选点集;
计算模块,根据运动平滑性约束和刚体约束计算所述筛选三维标志点候选点集的匹配代价;
标注模块,在所述计算的三维标志点候选点集的匹配代价最小的三维标志点上标注结果。
7.根据权利要求5所述的三维人体运动实时在线获取系统,其特征在于,所述运动重建模块还包括:当前帧的人体姿态是通过优化的方法,根据所述当前帧各三维标志点的标注结果和人体链状结构模型得到的。
8.根据权利要求5所述的三维人体运动实时在线获取系统,其特征在于,所述丢失三维标志点恢复模块还包括:在与丢失的三维标志点在同一个刚体上的其他三维标志点至少有一个是没有丢失的情况下,利用刚体约束对所述丢失的三维标志点的三维位置进行恢复;某一刚体上的所有三维标志点都丢失的情况下,利用运动重建得到的三维标志点位置作为丢失三维标志点的恢复位置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201210270595.3A CN102819863B (zh) | 2012-07-31 | 2012-07-31 | 一种三维人体运动的实时在线获取方法及其系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201210270595.3A CN102819863B (zh) | 2012-07-31 | 2012-07-31 | 一种三维人体运动的实时在线获取方法及其系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN102819863A CN102819863A (zh) | 2012-12-12 |
CN102819863B true CN102819863B (zh) | 2015-01-21 |
Family
ID=47303965
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201210270595.3A Active CN102819863B (zh) | 2012-07-31 | 2012-07-31 | 一种三维人体运动的实时在线获取方法及其系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN102819863B (zh) |
Families Citing this family (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10806982B2 (en) | 2015-02-02 | 2020-10-20 | Rlt Ip Ltd | Frameworks, devices and methodologies configured to provide of interactive skills training content, including delivery of adaptive training programs based on analysis of performance sensor data |
CN107533806B (zh) * | 2015-02-02 | 2020-11-06 | Gn 股份有限公司 | 被配置为实现对包括具有多个可选择的专家知识变化的内容在内的交互技能训练内容的传送的框架、设备和方法 |
EP3295324A4 (en) | 2015-05-08 | 2018-10-24 | GN IP Pty Ltd | Frameworks, devices and methodologies configured to enable automated categorisation and/or searching of media data based on user performance attributes derived from performance sensor units |
US11074826B2 (en) | 2015-12-10 | 2021-07-27 | Rlt Ip Ltd | Frameworks and methodologies configured to enable real-time adaptive delivery of skills training data based on monitoring of user performance via performance monitoring hardware |
EP3427008B1 (en) * | 2016-03-11 | 2022-09-07 | Kaarta, Inc. | Laser scanner with real-time, online ego-motion estimation |
US11567201B2 (en) | 2016-03-11 | 2023-01-31 | Kaarta, Inc. | Laser scanner with real-time, online ego-motion estimation |
US11573325B2 (en) | 2016-03-11 | 2023-02-07 | Kaarta, Inc. | Systems and methods for improvements in scanning and mapping |
US10989542B2 (en) | 2016-03-11 | 2021-04-27 | Kaarta, Inc. | Aligning measured signal data with slam localization data and uses thereof |
CN106799048A (zh) * | 2017-03-30 | 2017-06-06 | 苏州乐米信息科技股份有限公司 | 基于动态采集的3d动作生成方法及系统 |
WO2019099605A1 (en) | 2017-11-17 | 2019-05-23 | Kaarta, Inc. | Methods and systems for geo-referencing mapping systems |
WO2019165194A1 (en) | 2018-02-23 | 2019-08-29 | Kaarta, Inc. | Methods and systems for processing and colorizing point clouds and meshes |
WO2019195270A1 (en) | 2018-04-03 | 2019-10-10 | Kaarta, Inc. | Methods and systems for real or near real-time point cloud map data confidence evaluation |
CN110544278B (zh) * | 2018-05-29 | 2022-09-16 | 杭州海康机器人技术有限公司 | 刚体运动捕捉方法及装置、agv位姿捕捉系统 |
WO2020009826A1 (en) | 2018-07-05 | 2020-01-09 | Kaarta, Inc. | Methods and systems for auto-leveling of point clouds and 3d models |
CN113192108B (zh) * | 2021-05-19 | 2024-04-02 | 西安交通大学 | 一种针对视觉跟踪模型的人在回路训练方法及相关装置 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1766831A (zh) * | 2004-10-29 | 2006-05-03 | 中国科学院计算技术研究所 | 一种基于光学的运动捕获数据的骨骼运动提取方法 |
CN101840508A (zh) * | 2010-04-26 | 2010-09-22 | 中国科学院计算技术研究所 | 自动识别人体链状结构中特征点的方法及其系统 |
CN101894377A (zh) * | 2010-06-07 | 2010-11-24 | 中国科学院计算技术研究所 | 三维标记点序列的跟踪方法及其系统 |
CN102521464A (zh) * | 2011-12-26 | 2012-06-27 | 北京航空航天大学 | 基于delmia环境下的沉浸式虚拟维修仿真系统虚拟人控制方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100507780B1 (ko) * | 2002-12-20 | 2005-08-17 | 한국전자통신연구원 | 고속 마커프리 모션 캡쳐 장치 및 방법 |
-
2012
- 2012-07-31 CN CN201210270595.3A patent/CN102819863B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1766831A (zh) * | 2004-10-29 | 2006-05-03 | 中国科学院计算技术研究所 | 一种基于光学的运动捕获数据的骨骼运动提取方法 |
CN101840508A (zh) * | 2010-04-26 | 2010-09-22 | 中国科学院计算技术研究所 | 自动识别人体链状结构中特征点的方法及其系统 |
CN101894377A (zh) * | 2010-06-07 | 2010-11-24 | 中国科学院计算技术研究所 | 三维标记点序列的跟踪方法及其系统 |
CN102521464A (zh) * | 2011-12-26 | 2012-06-27 | 北京航空航天大学 | 基于delmia环境下的沉浸式虚拟维修仿真系统虚拟人控制方法 |
Also Published As
Publication number | Publication date |
---|---|
CN102819863A (zh) | 2012-12-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102819863B (zh) | 一种三维人体运动的实时在线获取方法及其系统 | |
JP7061694B2 (ja) | 画像処理方法および装置、画像機器、ならびに記憶媒体 | |
Mori et al. | Recovering 3d human body configurations using shape contexts | |
CN104700433B (zh) | 一种基于视觉的实时人体全身体运动捕捉方法及其系统 | |
CN104008564B (zh) | 一种人脸表情克隆方法 | |
CN103824326B (zh) | 一种动态的人体三维建模方法 | |
CN100361070C (zh) | 一种基于光学的运动捕获数据的骨骼运动提取方法 | |
CN102184541B (zh) | 多目标优化人体运动跟踪方法 | |
CN106600626B (zh) | 三维人体运动捕获方法与系统 | |
CN101894278B (zh) | 基于变结构多模型的人体运动跟踪方法 | |
CN101216952B (zh) | 用于人体运动捕捉数据的动态时空耦合降噪处理方法 | |
CN106600000A (zh) | 人‑机器人运动数据映射的方法及系统 | |
CN102682452A (zh) | 基于产生式和判别式结合的人体运动跟踪方法 | |
CN110176062A (zh) | 一种基于运动捕捉数据的虚拟人体的控制方法 | |
CN103942829A (zh) | 单幅图像的人体三维姿态重构方法 | |
CN105243375A (zh) | 一种动作特征提取方法及装置 | |
CN102663779A (zh) | 基于随机高斯隐变量的人体运动跟踪方法 | |
CN115964933A (zh) | 基于数字孪生的虚实训练装置构建方法 | |
CN101241601A (zh) | 一种图形处理的关节中心参数估计方法 | |
CN102479386A (zh) | 基于单目视频的人体上半身三维运动跟踪方法 | |
KR101095860B1 (ko) | 인체 모델의 형상 변형 방법 | |
CN100594520C (zh) | 基于关键帧时刻优化的空中运动仿真方法 | |
Chakravarthi et al. | Real-time human motion tracking and reconstruction using IMU sensors | |
CN115530814A (zh) | 一种基于视觉姿态检测及计算机深度学习的儿童运动康复训练方法 | |
Jiang et al. | Deep learning algorithm based wearable device for basketball stance recognition in basketball |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant |