CN111681274A - 基于深度相机点云数据的3d人体骨骼识别和提取方法 - Google Patents
基于深度相机点云数据的3d人体骨骼识别和提取方法 Download PDFInfo
- Publication number
- CN111681274A CN111681274A CN202010803213.3A CN202010803213A CN111681274A CN 111681274 A CN111681274 A CN 111681274A CN 202010803213 A CN202010803213 A CN 202010803213A CN 111681274 A CN111681274 A CN 111681274A
- Authority
- CN
- China
- Prior art keywords
- point cloud
- point
- skeleton
- points
- human body
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/23—Clustering techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2411—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on the proximity to a decision surface, e.g. support vector machines
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/60—Analysis of geometric attributes
- G06T7/66—Analysis of geometric attributes of image moments or centre of gravity
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/20—Movements or behaviour, e.g. gesture recognition
- G06V40/23—Recognition of whole body movements, e.g. for sport training
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20024—Filtering details
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Psychiatry (AREA)
- Social Psychology (AREA)
- Human Computer Interaction (AREA)
- Multimedia (AREA)
- Geometry (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
本发明属于虚拟人物三维建模技术领域,公开了一种基于深度相机点云数据的3D人体骨骼识别和提取方法,先在目标点云数据中过滤不需要的点云数据,通过局部直方图和支持向量机处理,进行所需人体点云的数据提取,然后进行初步骨架提取后,通过剪枝、去噪点等降噪预处理,得到没有冗余分支的符合人体模型拓扑结构的骨架模型,再对骨架曲线进行修正,调整至最佳位置,获取最终骨架位置,鲁棒性、抗噪能力和实时性性能优良,减少了目标识别的复杂度,提高了计算机视觉处理的实时性,加快了后期处理速度,减少了存储空间,针对模型骨架曲线所有性质均达到最理想状。
Description
技术领域
本发明属于虚拟人物三维建模技术领域,具体涉及一种基于深度相机点云数据的3D人体骨骼识别和提取方法。
背景技术
人体识别技术一般通过音频、图像或者视频等媒体信息实现,随着信息技术发展,三维数字信息成为上述信息之后的第四类数字媒体信息,依据三维数字媒体信息构建虚拟人物三维模型,广泛的用于可视化、模式识别、计算机动画等领域;传统方法中通常使用三维立体扫描仪获取三维数字信息,针对三维立体模型的数学表达方法包括但不仅限于点云、骨架、多边形等,存在成本高昂、使用要求多、专业性强、局限性大等问题,不能面向大众普及应用,在生活中实际应用也很困难;三维数据模型的数据信息量巨大,结构繁杂,导致计算机在进行计算时工作量也很巨大,需要先对数据进行分析、整合及过滤,然后在经过筛选过滤后的数据上进行详细的计算;
随着科技发展,消费级深度相机的出现,降低了三维点云获取的成本,将点云模型的获取、处理、使用从专业化向大众推广普及,微软、英特尔以及其他一些厂商,都已经推了比较成熟的点云获取设备,例如微软的Kinect、英特尔的RealSense等,通过多台深度相机的配合使用,共同构建出立体点云数据,代替了传统扫描仪的点云数据,可以快捷地获取任意物体的三维表面数据,利用这些数据,可以构建出人体的三维模型;
但是现有技术中通过深度相机的点云数据构建人体三维模型还存在以下两个主要问题:
1、人体三维点云数据的识别问题:深度相机与扫描方式不同,在深度相机中不仅包含人体信息,还存在各种复杂的环境信息,庞大的数据量不仅会占据大量的存储空间,还会消耗大量的计算资源,在实时性上也难以实现,所以无法直接使用采集到的点云数据,还需要识别出人体点云数据,并单独提取出来;
2、关于人体三维点云数据的骨架提取问题:人体的点云模型,只能展现人体的表面信息,缺乏人体的特征点、骨骼、关节点等必要的人体语义数据,只能适用于特定的模型,很难针对模型骨架曲线所有性质达到最理想状态,而不同的应用领域对曲线骨架的性质具有不同的要求;
人体三维模型的骨架信息是一种强有力的形状描述符,可以描述物体的拓扑结构和关键形体特征,因此三维人体的骨架提取显得尤为重要;由于深度相机现有技术中的深度相机探测深度可以达到60米的距离,采集的点云数据丰富繁杂,包含大量不必要的点云数据,不仅干扰骨架数据的提取,还增加了系统运算量,降低了工作效率。
发明内容
为了解决现有技术存在的上述问题,本发明目的在于提供一种能够自动化完成人体点云模型的骨架数据信息提取,减轻计算机工作量,降低整体数据规模,减少目标识别的复杂度,提高计算和后期处理速度,基于深度相机点云数据的三维人体骨骼数据识别和提取方法。
本发明所采用的技术方案为:
一种基于深度相机点云数据的3D人体骨骼识别和提取方法,包括以下步骤:
S1、人体点云数据的识别与提取;
在深度相机采集的目标点云数据中过滤不需要的点云数据,提取所需点云数据,再进行局部直方图和支持向量机处理,提取人体点云数据特征;
S2、提取人体骨架点云数据;
在得到只与人体有关的点云数据之后,先进行初步的骨架提取,然后做预处理,包括剪枝、去噪点,进行降噪处理,得到没有冗余分支的符合人体模型拓扑结构的骨架模型,接着对骨架曲线进行修正,调整至最佳位置,获取最终骨架位置。
进一步地,一较佳实施例技术方案中,S1包括以下内容:
S11、简单阈值过滤处理;
S12、体素网格滤波;
在识别人体点云前,对点云进行过滤;
采用点云体素化网格VG滤波器,创建一个三维体素栅格,体素重心表示为:
S13、分割去除背景;
采用随机采样RANSAC方法去除局外点云,构建一个仅由局内点云组成的基本子集;
首先对点云进行直通滤波,滤除垂直方向干扰点,根据深度相机的高度,以及体素滤波后的点云尺寸,得到直通的滤波参数为:
再由分割后点云平面方程可得点云簇平面高度和法向量;
由点云平面及夹角公式:
点云分割获得修正后的法向量,获得真实的地面点云法线;
S14、进一步分割;
对S13去除地面点云后的点云数据进行欧式聚类分割,再根据人体特征进行人体识别,获得人体点云簇;
S15、人体识别;
在SVM模型中,分离超平面定义为:
分离决策函数:
识别出人体点云图。
进一步地,一较佳实施例技术方案中,S12中重复多次体素网格滤波。
进一步地,一较佳实施例技术方案中,人体识别采用PSVM算法,具体步骤如下:
S103、使用平面模型进行点云分割;
S106、滤除远离地面点云簇,并对剩余点云进行聚类分割;
进一步地,一较佳实施例技术方案中,S2包括以下内容:
S21、提取初始骨架图
读入S15提取出的人体点云图,选取测地距离函数作为Morse函数,基于Dijkstra算法,计算模型上各点的测地距离,得到水平集,测地函数如下:
选取源点后,计算各个顶点的Morse函数值,按照每个点的函数值来划分水平
集,然后使用基于区域生长技术的连通域算法,按照从上到下、从左到右的顺序扫描图像,
遇到一个尚未标记的前景像素时就执行区域生长算法,完成标记过程,得到初始骨架图;
S22、对初始骨架图预处理
进行剪枝和整理操作,通过遍历所有骨架,设置阈值条件删除毛刺,或合并节点,去除由噪声带来的错误分枝和闭环,经过粗略优化构成合适下一步处理的预处理骨架图;
S23、精准优化骨架图
采用蛇模型进行优化将曲线移动到需要捕捉的特征或目标位置,即模型的中轴位置,获得精准优化骨架线,提取骨骼数据。
源点选择DRG初始骨架的起点;
S21中区域生长算法过程为:以当前像素为种子,用新标签记录当前像素,以同样标签标记与其相邻的所有像素中的前景像素,然后以每个相邻前景像素为种子进行递归;再采用连通域标记算法,对每个水平集进行连通域标记,该算法基于区域生长技术而完成;算法过程如下:
S2111、首先将空间分成若干个栅格,每个栅格具有相同的尺寸,将空间按照其坐标值分配到各个栅格中;
S2112、遍历所有栅格,删除点数小于1的栅格,则在空间构成三维二值模型;
S2113、对三维空间的二值模型利用基于区域生长技术的标记算法;每个栅格均具有一个标签,将该标签赋予栅格内的每一个点,完成空间点云的连通域标记;
得到各个水平集的连通子区间,并将每个连通子区间的点收缩,得到相应节点,然后按照算法规则连接形成骨架;
连接节点的算法如下:
S2121、按照节点所在的水平集所对应的Morse函数值从小到大的顺序遍历每一个节点,判断当前节点与下一个水平集中各节点的连接关系;
S2122、两个节点是否链接由以下标准来决定,即:两个节点所属的子集是否连通,若两子集连通,则连接两节点,若不连通则不进行连接;
S2123、判断两个点集是否连通的方法是遍历第一个子集中的所有顶点,查阅每个顶点的k-领域点,如果存在某一个领域点属于第二个子集,则这两个子集是互相连通的,则连接两个子集对应的节点形成骨架。
进一步地,一较佳实施例技术方案中,S22中骨架剪枝和整理的算法如下:
进一步地,一较佳实施例技术方案中,S22中初始骨架预处理还进行调整处理,调整处理骨架曲线的算法如下:
S2222、找到分叉中心点后,沿着分叉数量最多方向的反方向进行调整,将该节点调整到上一个节点的位置;若出现多个方向的分叉数量相同且为最多,则选择最后一次检测到的分叉数量最多方向的反方向;然后判断分叉点上所连接的分支骨架线都是否位于体内的,若没有到达体内则循环移动分叉点,直到全部分叉点都移至体内为止;
所述S2222中判断空间某条直线是否在体内的方法为:在该直线上均匀插入若干个点,如果这些插入点全部位于体内,说明该条直线位于体内;
具体判断插入的所有点是否位于体内的方法如下:对于直线上每个待判断的插入点;经过插入点做一个平面,选择经过插入点的与面平行的平面,此平面在人体点云模型上截得一个具有一定厚度的二维图形平面,设定一定的厚度阈值;对截面上的点云构成的形状进行连通区域标记,得到若干个连通的图形,分别判断插入点与各个连通图形的相对位置;连接插入点与连通图形的重心得到一条直线连线,过插入点做直线的垂线,如果垂线穿过连通图形,则说明点在模型内部,反之则在外部,接着判断插入点与下一个连通图形的相对位置,如果插入点在所有连通图形的外部,则该点在模型体外。
进一步地,一较佳实施例技术方案中,S23精准优化骨架图中具体包括以下操作步骤:
S232、找到分支部位所有偏离中轴的目标线段,即与分支部位中心节点所连接的骨架,并记录目标线段个数N;
S238、对步骤S232中统计出来的N条目标线段分别执行步骤S233~S237,针对每段曲线进行优化;
S239、目标线段最终成为位于模型中轴上的一条曲线,具有准确的拓扑结构,从而获得精准优化骨架线,提取骨骼数据。
本发明的有益效果为:
先在目标点云数据中过滤不需要的点云数据,通过局部直方图和支持向量机处理,进行所需人体点云的数据提取,然后进行初步骨架提取后,通过剪枝、去噪点等降噪预处理,得到没有冗余分支的符合人体模型拓扑结构的骨架模型,再对骨架曲线进行修正,调整至最佳位置,获取最终骨架位置,进行骨架提取,能够自动化完成人体点云模型的骨架提取,并尽可能模拟人体骨骼的实际表现,同时在鲁棒性、抗噪能力以及实时性上具有较为良好的性能,去除人体点云数据以外的远景、天花板以及地平面等噪声,减少目标识别的复杂度,提高计算机视觉处理的实时性,提取出目标的精准点云数据,加快后期处理速度,减少存储空间,针对模型骨架曲线所有性质均达到最理想状;提取的骨架信息可以广泛推广应用,如3D建模,姿态识别,动画模拟等。
附图说明
图1是本发明基于深度相机点云数据的3D人体骨骼识别和提取方法在体素网格滤波过程中的RGB图像原图、点云图和VG滤波后点云图,点云图和滤波后点云图中的a线和b线是以深度相机原点为中心的平面坐标轴;
图2是本发明基于深度相机点云数据的3D人体骨骼识别和提取方法分割去除背景过程中的点云空间坐标示意图;
图3是本发明基于深度相机点云数据的3D人体骨骼识别和提取方法的人体识别提取的流程示意图;
图4是本发明基于深度相机点云数据的3D人体骨骼识别和提取方法提取初始骨架图过程中不同姿态的DRG示意图;
图5是本发明基于深度相机点云数据的3D人体骨骼识别和提取方法的粗优化效果图;
图6是本发明基于深度相机点云数据的3D人体骨骼识别和提取方法精准优化流程示意图;
图7是本发明基于深度相机点云数据的3D人体骨骼识别和提取方法优化后骨架线示意图。
具体实施方式
如图所示,本发明一较佳实施方式提供一种基于深度相机点云数据的3D人体骨骼识别和提取方法,具体分为两个部分,先进行关于人体点云的数据提取,然后再使用提取的人体点云数据进行骨架提取,提取的骨架信息可以广泛应用,如3D建模,姿态识别,动画模拟等。
S1、关于目标人体点云数据的识别与提取,在目标点云数据中过滤不需要的点云数据,提取所需点云数据,再进行局部直方图和支持向量机处理,可以有效的提取人体点云数据特征。具体步骤如下:
S11.深度过滤
目前已知的深度相机的探测深度可以到达60米的距离,而在实际应用
中往往这些数据是没有用的,所以先进行简单的阈值过滤处理,根据使用场景设置探测距
离阈值,将采集到的点云数据根据深度进行过滤,去除超过使用场景所要求最
大深度的点云数据,生成新的点云数据,减少不必要的数据量,从而达到减少运算
量,提升效率。
S12.点云滤波
由于深度体感相机采集的原始点云数据量大,直接处理会增加系统运算负担。本发明采用点云体素化网格VG滤波器,在识别人体点云前,对点云进行过滤,体素网格法对于曲面采样点具有较高效率,可以有效减少点云密度,提高点云分割速度,同时保证局部点云细节特征,体素滤波要考虑点云的压缩效率和后期处理时间,确保点云特征不丢失的前提下设定压缩参数,为后期的聚类分割做准备。VG滤波器通过创建一个三维体素栅格,体素重心表示为:
如图1所示,分别是RGB图像原图、点云图和VG滤波后点云图:
其中,点云图和滤波后点云图中的a线和b线是以深度相机原点为中心的平面坐标轴。
对于640×480的深度图像,采用体素网格法向下取整得到的体素范围内的点云簇
具有相同标志,进一步计算点云在体素下的中心信息。VG滤波器将原始点云数据根据体素比例投影到新点云集中,在新的点云集中每一个点都有唯一ID标志,根据ID对
原始点云数据进行处理,经过VG滤波后的点云可以滤除不必要的点云簇,获得新的点云
集;有效提高后期人体识别效率,多次的体素滤波可以获得具有最佳点云特征的体素
值。
S13.去除背景
本发明实施例中采用随机采样RANSAC方法去除局外点云,构建一个仅由局内点云组成的基本子集。首先对点云进行直通滤波,滤除垂直方向干扰点,根据深度相机的高度以及体素滤波后的点云尺寸得到直通的滤波参数为:
点云空间坐标如图2所示;
由点云平面及夹角公式:
通过观察可以发现,地面点是具有同一高度和不同深度的点云簇,只要测得的地面点云平均高度在深度相机系统误差允许范围内即可满足。由于深度相机特殊设计结构也会引起一定的系统误差,这些误差同样会影响平面点云的识别精度。本方法在实验过程中,深度图像中心距离镜头的平均距离为4.2m,引起的深度相机的系统误差为4.12cm,本方法采用聚类分割法,进行背景去除。
由上述可以看出,点云分割后可以获得修正后的法向量。上述方法可以获得真实的地面点云法线。
S14.进一步分割
在获取去除地面后的点云数据后,对点云进行欧式聚类分割,再根据人体特征进行人体识别。
深度相机点云簇形状不规则且分布不均匀,可在三维空间使用固定大小的体素网格表示,并采用kd-tree结构填充,对点云簇进行欧式聚类分割,该结构具有二叉树结构,且不需要空间等分,能比八叉树更好的包围图元。
进而可以得出,若点与间距离小于,则标记
该点为点云簇中点。设置好欧式分割点距离参数,本发明实施例中设置的,能得
到非常好的点云簇分割效果。当图中物体点云簇集中时,合理设置分割点间的距离,以免被
分割算法错误的滤除。
S15.人体识别
根据支持向量机SVM定义,得到特征向量,是每个cell单元数目,默认值为9;为block包含的cell个数,默认值为4;是图像中block个数,默认值为15×7。通过计算方向梯度直方图特征可以表示人体特征。
在SVM模型中,分离超平面定义为:
分离决策函数:
通过以上方法便可以识别出人体点云数据,最后通过下图来体现整个基于深度相机点云数据的人体识别及提取的具体过程如图3所示;
具体人体识别的PSVM算法描述如下:
S103、使用平面模型进行点云分割;
S106、滤除远离地面点云簇,并对剩余点云进行聚类分割;
S2、关于已知人体点云数据,在得到只与人体有关的点云数据之后,先进行初步的骨架提取,然后做一些预处理,包括剪枝、去噪点,进行降噪处理,得到没有冗余分支的符合人体模型拓扑结构的骨架模型,接着对骨架曲线进行修正,调整至最佳位置,获取最终骨架位置。具体步骤如下:
S21.提取初始骨架图
本方法是通过提取人体点云模型的离散Reeb图(Discrete Reeb Graph,DRG)来得到模型的拓扑形状信息,用来作为模型的初始骨架。DRG是基于Reeb图的基本原理提出的,是Reeb图的一种推广形式,而Morse理论则是Reeb图的数学基础。
读入S15提取出的人体点云图,选取测地距离函数作为Morse函数,基于Dijkstra算法,计算模型上各点的测地距离,得到水平集,测地函数如下:
关于源点的选择,遵循以下原则:首先,源点最好位于点云模型的某一拓
扑结构的末端;其次,源点与模型上的点的相对位置必须是固定的,这样提取的DRG才能适
合拓扑结构形状复杂的模型,具有旋转平移不变性,这对运动中的人体模型显得尤为重要,
从而适应不同姿势的变换。 所以综上所述,本发明将源点选在DRG初始骨架的起点,具体算
法为:首先,按照下式计算出模型的重心坐标:
选取源点后便可以根据算法得到各个顶点的Morse函数值,按照每个点的
函数值来划分水平集,然后使用基于区域生长技术的连通域算法,该算法只需扫描一次图
像就可完成标记过程。算法按从上到下、从左到右的顺序扫描图像,当遇到一个尚未标记的
前景像素时就执行区域生长算法,区域生长算法过程为:以当前像素为种子,用新标签记录
当前像素,以同样标签标记与其相邻的所有像素中的前景像素,然后以每个相邻前景像素
为种子进行递归。接着采用连通域标记算法,对每个水平集进行连通域标记,该算法是基于
区域生长技术而完成的。算法过程如下:
首先将空间分成若干个栅格,每个栅格有相同的尺寸,将空间按照其坐标值分配到各个栅格中。
再遍历所有栅格,将里面点数小于1的栅格删除,则在空间构成了三维二值模型。
最后对这个三维空间的二值模型利用基于区域生长技术的标记算法。每个栅格都有一个标签,将该标签赋予栅格内的每一个点,就完成了空间点云的连通域标记。
得到各个水平集的连通子区间,并将每个连通子区间的点收缩,得到相应节点,然后按照一定规则连接起来形成骨架。
连接节点的算法如下:
第一步,按照节点所在的水平集所对应的Morse函数值从小到大的顺序遍历每一个节点,判断当前节点与下一个水平集中各节点的连接关系。
第二步,两个节点是否链接由以下标准来决定,即:两个节点所属的子集是否连通,若两子集连通,则连接两节点,若不连通则不进行连接。
第三步,判断两个点集是否连通的方法是遍历第一个子集中的所有顶点,查阅每个顶点的k-领域点,如果存在某一个领域点属于第二个子集,则这两个子集是互相连通的,则连接两个子集对应的节点形成骨架。
不同姿态的DRG如图4所示;
S22.针对初始骨架的预处理
预处理主要解决的是去除由噪声等带来的错误分枝和闭环,由上图可以看出,初始骨
架存在以上问题,需要进行剪枝和处理的操作,主要通过遍历所有骨架,设置阈值及合适的
条件删除毛刺,或合并节点;对子集个数的变化趋势做判断,在某一个水平集中连通区间子
集个数突然增加而相隔个或小于个水平集后又突然减少时,说明该处存在一个较小的
闭环或者错误分枝、毛刺,将连通子集个数突变的几个水平集内的节点合并,合并为一个节
点;如:某一个水平集中连通区间子集个数突然增加,相隔小于等于2个的水平集后又突然
减小,说明此处存在一个较小的闭环或错误分枝,将这些节点合并可以产生良好的优化效
果;在这里将值设为2,从而能够找到足够小的闭环以避免误判。
关于上述骨架剪枝和整理的算法详述如下:
完成上述预处理后,骨架曲线将被整理为合适下一步处理的初始骨架图。
根据上图还可以看出,骨架预处理的另一部分是将骨架线移动至人体点云内部,因为初始骨架线的提取算法并没有对模型体内和体外区域进行判断而只是由点的邻接关系来进行算法的计算,因此无法保证所提出的骨架曲线全部位于模型体内。
所以还需要对上述初始骨架图进行进行调整处理,进行调整骨架线的算法如下:
其次,找到分叉中心点后,沿着分叉数量最多方向的反方向进行调整,将该节点调整到上一个节点的位置;若出现多个方向的分叉数量相同且为最多,则选择最后一次检测到的分叉数量最多方向的反方向;然后判断分叉点上所连接的分支骨架线都是否位于体内的,若没有到达体内则循环移动分叉点,直到全部分叉点都移至体内为止。
判断空间某条直线是否在体内的方法为:在该直线上均匀插入若干个点,如果这些插入点全部位于体内,说明该条直线位于体内;
具体判断插入的所有点是否位于体内的方法如下:对于直线上每个待判断的插入点;经过插入点做一个平面,选择经过插入点的与面平行的平面,此平面在人体点云模型上截得一个具有一定厚度的二维图形平面,设定一定的厚度阈值;对截面上的点云构成的形状进行连通区域标记,得到若干个连通的图形,分别判断插入点与各个连通图形的相对位置;连接插入点与连通图形的重心得到一条直线连线,过插入点做直线的垂线,如果垂线穿过连通图形,则说明点在模型内部,反之则在外部,接着判断插入点与下一个连通图形的相对位置,如果插入点在所有连通图形的外部,则该点在模型体外。
根据上述的预处理可以得到经过粗略优化的骨架图,可以看出经过粗优化的初始骨架线中没有了影响拓扑结构判断的毛刺等误差,且骨架线更加接近中轴位置,但仍有一些偏差需要做更加精细的优化。粗优化效果如图5所示。
S23.骨架图的精准优化
通过上述步骤,可以得到拓扑一致性较好的初始骨架图,但是在模型拓扑分支部位部位中轴性没有达到模型骨架的要求,为了能够更加真实和准确的表达骨架模型,还需要对骨架模型进行精准优化的过程。
本发明实施例中采用1987年由Kass等人提出的蛇模型进行优化,也称为主动轮廓线模型(Active Contour Model),采用蛇模型方法优化的目的是将曲线移动到模型的中轴位置,因为模型的中轴就是要捕捉的特征或目标位置。
蛇模型的数学表示如下:假设建立一个主动轮廓线模型曲线,其数学表达式为:
该曲线上的能量函数定义为:
本发明实施例中蛇模型变换的外立场选择空间距离场,目的是推动骨架线移向中轴的位置。
将外立场作为蛇模型变换的外立场,计算初始骨架模型的总能量可以变为:
接着,提取出待优化的目标线段,本文选择与拓扑分支中心点相连接的骨架作为待优化的目标线段,在线段中插入若干点将其离散化,可以使蛇形能量函数离散为:
其中,为插入的离散点和端点的数量之和,为曲线上相邻点之
间距离的平均值。上式中的第一项表示曲线的总长度,为了控制曲线的形状,使最后得到的
目标曲线尽量短;第二项是为了控制曲线的光滑程度,使得最后得到的曲线尽量光滑;第三
项是曲线上所有点的距离场之和,值通常取负值以限制曲线使之最终位于距离场的极值
上;分别是三项所占的权重。
定义好曲线上所绑定的能量函数后,接着定义外力场,根据蛇模型的定义,此外力
为外力场的梯度,本发明取距离场的梯度的定义。根据公式:,空
间中一点的距离场的定义为该点到模型上最近的点之间的距离值,表示为:
其中为单位长度,其大小与点云模型相邻点之间的平均距离值为同一数量级。在距
离场梯度的推动下,由离散点组成的初始化骨架曲线逐渐改变形状,目标骨架线的长度和
光滑度作为内力来约束曲线的形状,距离场作为外立场约束曲线的形状向中轴靠近,当能
量达到极小值时,曲线将最接近模型的中轴位置,从而完成骨架线的精细优化过程。
具体步骤如下:
第二步,找到分支部位所有偏离中轴的目标线段,即与分支部位中心节点所连接的骨架,并记录目标线段个数N;
第八步,对第二步骤中统计出来的N条目标线段分别执行第三~第七步骤3~7,针对每段曲线进行优化。
流程如图6所示。
经过上述内容进行优化后的骨架线,目标线段最终成为位于模型中轴上的一条曲线,具有准确的拓扑结构,并且具有良好的中轴性,如图7所示。
最后将骨骼数据提取出来,可以用于三维重建、模式识别等。
Claims (10)
1.一种基于深度相机点云数据的3D人体骨骼识别和提取方法,其特征在于:包括以下步骤:
S1、人体点云数据的识别与提取;
在深度相机采集的目标点云数据中过滤不需要的点云数据,提取所需点云数据,再进行局部直方图和支持向量机处理,提取人体点云数据特征;
S2、提取人体骨架点云数据;
在得到只与人体有关的点云数据之后,先进行初步的骨架提取,然后做预处理,包括剪枝、去噪点,进行降噪处理,得到没有冗余分支的符合人体模型拓扑结构的骨架模型,接着对骨架曲线进行修正,调整至最佳位置,获取最终骨架位置。
2.根据权利要求1所述基于深度相机点云数据的3D人体骨骼识别和提取方法,其特征在于:S1包括以下内容:
S11、简单阈值过滤处理;
S12、体素网格滤波;
在识别人体点云前,对点云进行过滤;
采用点云体素化网格VG滤波器,创建一个三维体素栅格,体素重心表示为:
S13、分割去除背景;
采用随机采样RANSAC方法去除局外点云,构建一个仅由局内点云组成的基本子集;
首先对点云进行直通滤波,滤除垂直方向干扰点,根据深度相机的高度,以及体素滤波后的点云尺寸,得到直通的滤波参数为:
再由分割后点云平面方程可得点云簇平面高度和法向量;
由点云平面及夹角公式:
点云分割获得修正后的法向量,获得真实的地面点云法线;
S14、进一步分割;
对S13去除地面点云后的点云数据进行欧式聚类分割,再根据人体特征进行人体识别,获得人体点云簇;
S15、人体识别;
根据支持向量机SVM定义,得到特征向量是每个cell单元数目,默认
值为9;为block包含的cell个数,默认值为4;是图像中block个数,默认值为15×7;通
过计算方向梯度直方图特征表示人体特征;
在SVM模型中,分离超平面定义为:
分离决策函数:
识别出人体点云图。
3.根据权利要求2所述基于深度相机点云数据的3D人体骨骼识别和提取方法,其特征在于:所述S12中重复多次体素网格滤波。
5.根据权利要求2所述基于深度相机点云数据的3D人体骨骼识别和提取方法,其特征在于:所述人体识别采用PSVM算法,具体步骤如下:
S103、使用平面模型进行点云分割;
S106、滤除远离地面点云簇,并对剩余点云进行聚类分割;
6.根据权利要求1或2所述基于深度相机点云数据的3D人体骨骼识别和提取方法,其特征在于:所述S2包括以下内容:
S21、提取初始骨架图
读入S15提取出的人体点云图,选取测地距离函数作为Morse函数,基于Dijkstra算法,计算模型上各点的测地距离,得到水平集,测地函数如下:
选取源点后,计算各个顶点的Morse函数值,按照每个点的函数值来划分水平
集,然后使用基于区域生长技术的连通域算法,按照从上到下、从左到右的顺序扫描图像,
遇到一个尚未标记的前景像素时就执行区域生长算法,完成标记过程,得到初始骨架图;
S22、对初始骨架图预处理
进行剪枝和整理操作,通过遍历所有骨架,设置阈值条件删除毛刺,或合并节点,去除由噪声带来的错误分枝和闭环,经过粗略优化构成合适下一步处理的预处理骨架图;
S23、精准优化骨架图
采用蛇模型进行优化将曲线移动到需要捕捉的特征或目标位置,即模型的中轴位置,获得精准优化骨架线,提取骨骼数据。
所述源点选择DRG初始骨架的起点;
所述S21中区域生长算法过程为:以当前像素为种子,用新标签记录当前像素,以同样标签标记与其相邻的所有像素中的前景像素,然后以每个相邻前景像素为种子进行递归;再采用连通域标记算法,对每个水平集进行连通域标记,该算法基于区域生长技术而完成;算法过程如下:
S2111、首先将空间分成若干个栅格,每个栅格具有相同的尺寸,将空间按照其坐标值分配到各个栅格中;
S2112、遍历所有栅格,删除点数小于1的栅格,则在空间构成三维二值模型;
S2113、对三维空间的二值模型利用基于区域生长技术的标记算法;每个栅格均具有一个标签,将该标签赋予栅格内的每一个点,完成空间点云的连通域标记;
得到各个水平集的连通子区间,并将每个连通子区间的点收缩,得到相应节点,然后按照算法规则连接形成骨架;
连接节点的算法如下:
S2121、按照节点所在的水平集所对应的Morse函数值从小到大的顺序遍历每一个节点,判断当前节点与下一个水平集中各节点的连接关系;
S2122、两个节点是否链接由以下标准来决定,即:两个节点所属的子集是否连通,若两子集连通,则连接两节点,若不连通则不进行连接;
S2123、判断两个点集是否连通的方法是遍历第一个子集中的所有顶点,查阅每个顶点的k-领域点,如果存在某一个领域点属于第二个子集,则这两个子集是互相连通的,则连接两个子集对应的节点形成骨架。
9.根据权利要求8所述基于深度相机点云数据的3D人体骨骼识别和提取方法,其特征在于:所述S22中初始骨架预处理还进行调整处理,调整处理骨架曲线的算法如下:
S2222、找到分叉中心点后,沿着分叉数量最多方向的反方向进行调整,将该节点调整到上一个节点的位置;若出现多个方向的分叉数量相同且为最多,则选择最后一次检测到的分叉数量最多方向的反方向;然后判断分叉点上所连接的分支骨架线都是否位于体内的,若没有到达体内则循环移动分叉点,直到全部分叉点都移至体内为止;
所述S2222中判断空间某条直线是否在体内的方法为:在该直线上均匀插入若干个点,如果这些插入点全部位于体内,说明该条直线位于体内;
具体判断插入的所有点是否位于体内的方法如下:对于直线上每个待判断的插入点;经过插入点做一个平面,选择经过插入点的与面平行的平面,此平面在人体点云模型上截得一个具有一定厚度的二维图形平面,设定厚度阈值;对截面上的点云构成的形状进行连通区域标记,得到若干个连通的图形,分别判断插入点与各个连通图形的相对位置;连接插入点与连通图形的重心得到一条直线连线,过插入点做直线的垂线,如果垂线穿过连通图形,则说明点在模型内部,反之则在外部,接着判断插入点与下一个连通图形的相对位置,如果插入点在所有连通图形的外部,则该点在模型体外。
10.根据权利要求9所述基于深度相机点云数据的3D人体骨骼识别和提取方法,其特征在于:所述S23精准优化骨架图中具体包括以下操作步骤:
S232、找到分支部位所有偏离中轴的目标线段,即与分支部位中心节点所连接的骨架,并记录目标线段个数N;
S238、对步骤S232中统计出来的N条目标线段分别执行步骤S233~S237,针对每段曲线进行优化;
S239、目标线段最终成为位于模型中轴上的一条曲线,具有准确的拓扑结构,从而获得精准优化骨架线,提取骨骼数据。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010803213.3A CN111681274A (zh) | 2020-08-11 | 2020-08-11 | 基于深度相机点云数据的3d人体骨骼识别和提取方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010803213.3A CN111681274A (zh) | 2020-08-11 | 2020-08-11 | 基于深度相机点云数据的3d人体骨骼识别和提取方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN111681274A true CN111681274A (zh) | 2020-09-18 |
Family
ID=72458244
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010803213.3A Pending CN111681274A (zh) | 2020-08-11 | 2020-08-11 | 基于深度相机点云数据的3d人体骨骼识别和提取方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111681274A (zh) |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112337093A (zh) * | 2021-01-08 | 2021-02-09 | 成都完美时空网络技术有限公司 | 一种虚拟对象的分簇方法、装置、存储介质和电子装置 |
CN112509142A (zh) * | 2020-11-10 | 2021-03-16 | 华南理工大学 | 基于面向表型精确鉴定的豆株快速三维重建方法 |
CN112767319A (zh) * | 2020-12-30 | 2021-05-07 | 无锡祥生医疗科技股份有限公司 | 基于点云数据分割的乳腺超声成像方法、装置及存储介质 |
CN112802089A (zh) * | 2021-02-05 | 2021-05-14 | 重庆大学 | 一种基于分叉数量自动估计的点云骨架线提取方法及系统 |
CN113035038A (zh) * | 2021-03-29 | 2021-06-25 | 安徽工业大学 | 一种虚拟骨科手术练习系统及模拟训练方法 |
CN113066064A (zh) * | 2021-03-29 | 2021-07-02 | 郑州铁路职业技术学院 | 基于人工智能的锥束ct图像生物结构识别及三维重建系统 |
CN113658195A (zh) * | 2021-08-16 | 2021-11-16 | 金地(集团)股份有限公司 | 图像分割方法、装置及电子设备 |
CN113792745A (zh) * | 2021-09-17 | 2021-12-14 | 重庆大学 | 单面树木点云骨架线提取方法及系统 |
CN114419276A (zh) * | 2022-01-19 | 2022-04-29 | 厦门大学 | 基于最优传输和聚类的曲线骨架提取方法 |
TWI798663B (zh) * | 2021-03-22 | 2023-04-11 | 伍碩科技股份有限公司 | 深度影像補償方法及其系統 |
CN116520289A (zh) * | 2023-07-04 | 2023-08-01 | 东莞市新通电子设备有限公司 | 五金件加工过程智能控制方法及相关装置 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106156714A (zh) * | 2015-04-24 | 2016-11-23 | 北京雷动云合智能技术有限公司 | 基于骨骼关节特征和表面特征融合的人体行为识别方法 |
CN107330903A (zh) * | 2017-06-29 | 2017-11-07 | 西安理工大学 | 一种人体点云模型的骨架提取方法 |
US20180286071A1 (en) * | 2017-03-30 | 2018-10-04 | Body Surface Translations Inc. | Determining anthropometric measurements of a non-stationary subject |
CN111274909A (zh) * | 2020-01-16 | 2020-06-12 | 重庆邮电大学 | 一种基于深度学习的人体点云骨架提取方法 |
-
2020
- 2020-08-11 CN CN202010803213.3A patent/CN111681274A/zh active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106156714A (zh) * | 2015-04-24 | 2016-11-23 | 北京雷动云合智能技术有限公司 | 基于骨骼关节特征和表面特征融合的人体行为识别方法 |
US20180286071A1 (en) * | 2017-03-30 | 2018-10-04 | Body Surface Translations Inc. | Determining anthropometric measurements of a non-stationary subject |
CN107330903A (zh) * | 2017-06-29 | 2017-11-07 | 西安理工大学 | 一种人体点云模型的骨架提取方法 |
CN111274909A (zh) * | 2020-01-16 | 2020-06-12 | 重庆邮电大学 | 一种基于深度学习的人体点云骨架提取方法 |
Non-Patent Citations (2)
Title |
---|
侯培: "三维人体点云模型骨架提取方法研究", 《中国优秀硕士学位论文全文数据库》 * |
杨晶东等: "一种有效的基于点云特征人体识别方法", 《计算机应用研究》 * |
Cited By (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112509142A (zh) * | 2020-11-10 | 2021-03-16 | 华南理工大学 | 基于面向表型精确鉴定的豆株快速三维重建方法 |
CN112509142B (zh) * | 2020-11-10 | 2024-04-26 | 华南理工大学 | 基于面向表型精确鉴定的豆株快速三维重建方法 |
CN112767319A (zh) * | 2020-12-30 | 2021-05-07 | 无锡祥生医疗科技股份有限公司 | 基于点云数据分割的乳腺超声成像方法、装置及存储介质 |
CN112337093A (zh) * | 2021-01-08 | 2021-02-09 | 成都完美时空网络技术有限公司 | 一种虚拟对象的分簇方法、装置、存储介质和电子装置 |
CN112802089A (zh) * | 2021-02-05 | 2021-05-14 | 重庆大学 | 一种基于分叉数量自动估计的点云骨架线提取方法及系统 |
CN112802089B (zh) * | 2021-02-05 | 2023-09-01 | 重庆大学 | 一种基于分叉数量自动估计的点云骨架线提取方法及系统 |
TWI798663B (zh) * | 2021-03-22 | 2023-04-11 | 伍碩科技股份有限公司 | 深度影像補償方法及其系統 |
CN113066064B (zh) * | 2021-03-29 | 2023-06-06 | 郑州铁路职业技术学院 | 基于人工智能的锥束ct图像生物结构识别及三维重建系统 |
CN113066064A (zh) * | 2021-03-29 | 2021-07-02 | 郑州铁路职业技术学院 | 基于人工智能的锥束ct图像生物结构识别及三维重建系统 |
CN113035038A (zh) * | 2021-03-29 | 2021-06-25 | 安徽工业大学 | 一种虚拟骨科手术练习系统及模拟训练方法 |
CN113658195A (zh) * | 2021-08-16 | 2021-11-16 | 金地(集团)股份有限公司 | 图像分割方法、装置及电子设备 |
CN113658195B (zh) * | 2021-08-16 | 2024-03-19 | 金地(集团)股份有限公司 | 图像分割方法、装置及电子设备 |
CN113792745A (zh) * | 2021-09-17 | 2021-12-14 | 重庆大学 | 单面树木点云骨架线提取方法及系统 |
CN113792745B (zh) * | 2021-09-17 | 2023-10-20 | 重庆大学 | 单面树木点云骨架线提取方法及系统 |
CN114419276A (zh) * | 2022-01-19 | 2022-04-29 | 厦门大学 | 基于最优传输和聚类的曲线骨架提取方法 |
CN114419276B (zh) * | 2022-01-19 | 2024-05-03 | 厦门大学 | 基于最优传输和聚类的曲线骨架提取方法 |
CN116520289B (zh) * | 2023-07-04 | 2023-09-01 | 东莞市新通电子设备有限公司 | 五金件加工过程智能控制方法及相关装置 |
CN116520289A (zh) * | 2023-07-04 | 2023-08-01 | 东莞市新通电子设备有限公司 | 五金件加工过程智能控制方法及相关装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111681274A (zh) | 基于深度相机点云数据的3d人体骨骼识别和提取方法 | |
CN107742102B (zh) | 一种基于深度传感器的手势识别方法 | |
CN106910242B (zh) | 基于深度相机进行室内完整场景三维重建的方法及系统 | |
CN100559398C (zh) | 自动的深度图像配准方法 | |
Li et al. | Feature-preserving 3D mesh simplification for urban buildings | |
Tam et al. | Registration of 3D point clouds and meshes: A survey from rigid to nonrigid | |
Ladicky et al. | From point clouds to mesh using regression | |
CN108363983A (zh) | 一种基于无人机影像与重建点云的城市植被分类方法 | |
CN110852182B (zh) | 一种基于三维空间时序建模的深度视频人体行为识别方法 | |
CN113379898B (zh) | 一种基于语义分割的三维室内场景重建方法 | |
CN109712143B (zh) | 一种基于超像素多特征融合的快速图像分割方法 | |
Pound et al. | A patch-based approach to 3D plant shoot phenotyping | |
CN104143080A (zh) | 基于三维点云的三维人脸识别装置及方法 | |
CN109766873A (zh) | 一种混合可变形卷积的行人再识别方法 | |
WO2018133119A1 (zh) | 基于深度相机进行室内完整场景三维重建的方法及系统 | |
Hu et al. | Geometric feature enhanced line segment extraction from large-scale point clouds with hierarchical topological optimization | |
Xiang et al. | Interactive natural image segmentation via spline regression | |
Hou et al. | Multi-modal feature fusion for 3D object detection in the production workshop | |
Zhao et al. | 3D object tracking via boundary constrained region-based model | |
Liao et al. | Fast hierarchical animated object decomposition using approximately invariant signature | |
Labatut et al. | Hierarchical shape-based surface reconstruction for dense multi-view stereo | |
Pound et al. | Surface reconstruction of plant shoots from multiple views | |
Zou et al. | A 3D model feature extraction method using curvature-based shape distribution | |
Cheng et al. | Tree skeleton extraction from a single range image | |
Wang et al. | Current situation and review of image segmentation |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20200918 |
|
RJ01 | Rejection of invention patent application after publication |