CN113610889A - 一种人体三维模型获取方法、装置、智能终端及存储介质 - Google Patents

一种人体三维模型获取方法、装置、智能终端及存储介质 Download PDF

Info

Publication number
CN113610889A
CN113610889A CN202110744388.6A CN202110744388A CN113610889A CN 113610889 A CN113610889 A CN 113610889A CN 202110744388 A CN202110744388 A CN 202110744388A CN 113610889 A CN113610889 A CN 113610889A
Authority
CN
China
Prior art keywords
human body
dimensional
depth
acquiring
dimensional model
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110744388.6A
Other languages
English (en)
Other versions
CN113610889B (zh
Inventor
张敏
潘哲
钱贝贝
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Orbbec Inc
Original Assignee
Orbbec Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Orbbec Inc filed Critical Orbbec Inc
Priority to CN202110744388.6A priority Critical patent/CN113610889B/zh
Publication of CN113610889A publication Critical patent/CN113610889A/zh
Priority to PCT/CN2021/130104 priority patent/WO2023273093A1/zh
Application granted granted Critical
Publication of CN113610889B publication Critical patent/CN113610889B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G06T7/11—Region-based segmentation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10004—Still image; Photographic image
    • G06T2207/10012—Stereo images
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10024—Color image
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10028—Range image; Depth image; 3D point clouds
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30196—Human being; Person
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
    • Y02T10/00—Road transport of goods or passengers
    • Y02T10/10—Internal combustion engine [ICE] based vehicles
    • Y02T10/40—Engine management systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Artificial Intelligence (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Biomedical Technology (AREA)
  • General Engineering & Computer Science (AREA)
  • Biophysics (AREA)
  • Mathematical Physics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Computer Graphics (AREA)
  • Geometry (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

本发明公开了一种人体三维模型获取方法、装置、智能终端及存储介质，其中，上述人体三维模型获取方法包括：获取彩色图像以及与上述彩色图像对应的深度图像；基于上述彩色图像获取人体关节点二维坐标信息和人体分割区域；基于上述深度图像，分别获取与各上述人体关节点二维坐标信息对应的人体关节点三维坐标信息，以及与各上述人体分割区域对应的人体分割深度区域；基于预设的损失函数对所有上述人体关节点三维坐标信息和所有上述人体分割深度区域进行迭代拟合，获取人体三维模型。与现有技术相比，本发明方案有利于提高获得的人体三维模型的准确率，使得获得的人体三维模型能更好的反映人体三维姿态。

Description

一种人体三维模型获取方法、装置、智能终端及存储介质
技术领域
本发明涉及图像处理技术领域，尤其涉及的是一种人体三维模型获取方法、装置、智能终端及存储介质。
背景技术
人体三维模型对于描述人体姿态、预测人体行为至关重要。目前，人体三维模型已经被广泛运用于各种领域中，例如异常行为监测、自动驾驶及监控等领域。近年来，随着科学技术的发展，尤其是深度学习技术的发展，人体三维模型的重建效果逐渐提升。
但现有技术中，通常是利用彩色图像，通过卷积神经网络获取人体三维模型。现有技术的问题在于，彩色图像无法提供有效的三维空间信息，使得获得的人体三维模型准确率较低，无法准确地反映人体三维姿态。
因此，现有技术还有待改进和发展。
发明内容
本发明的主要目的在于提供一种人体三维模型获取方法、装置、智能终端及存储介质，旨在解决现有技术中利用彩色图像，通过卷积神经网络获取人体三维模型，获得的人体三维模型准确率较低的问题。
为了实现上述目的，本发明第一方面提供一种人体三维模型获取方法，其中，上述方法包括：
获取彩色图像以及与上述彩色图像对应的深度图像；
基于上述彩色图像获取人体关节点二维坐标信息和人体分割区域；
基于上述深度图像，分别获取与各上述人体关节点二维坐标信息对应的人体关节点三维坐标信息，以及与各上述人体分割区域对应的人体分割深度区域；
基于预设的损失函数对所有上述人体关节点三维坐标信息和所有上述人体分割深度区域进行迭代拟合，获取人体三维模型。
可选的，上述获取彩色图像以及与上述彩色图像对应的深度图像，包括：
获取由采集设备采集的彩色图像以及与上述彩色图像同步的待处理深度图像；
将上述待处理深度图像对齐上述彩色图像后作为上述彩色图像对应的深度图像。
可选的，上述基于上述彩色图像获取人体关节点二维坐标信息和人体分割区域，包括：
对上述彩色图像进行目标检测，获取行人检测框；
基于上述行人检测框，通过人体姿态估计算法获取目标单人姿态估计框架；
基于上述目标单人姿态估计框架获取上述人体关节点二维坐标信息和上述人体分割区域。
可选的，上述基于上述目标单人姿态估计框架获取上述人体关节点二维坐标信息和上述人体分割区域，包括：
基于上述目标单人姿态估计框架获取多个人体关节点，并获取对应的人体关节点二维坐标信息，其中，各上述人体关节点二维坐标信息是各上述人体关节点在上述彩色图像中的位置坐标；
基于上述行人检测框和各上述人体关节点获取多个人体分割区域，其中，各上述人体分割区域是基于各上述人体关节点对人体边缘轮廓划分获得的人体区域。
可选的，上述基于预设的损失函数对所有上述人体关节点三维坐标信息和所有上述人体分割深度区域进行迭代拟合，获取人体三维模型，包括：
获取上述人体分割深度区域内的各点对应的点云三维坐标；
基于上述损失函数对上述人体关节点进行迭代拟合，获取目标人体关节点的位置信息；
基于各上述目标人体关节点的位置信息与各目标点云获取人体三维模型，其中，上述目标点云包括与上述目标人体关节点对应的人体分割深度区域内各点的点云三维坐标。
可选的，上述预设的损失函数中包括重投影损失函数、三维关节点损失函数、角度损失函数和表面点深度损失函数。
可选的，在基于预设的损失函数对所有上述人体关节点三维坐标信息和所有上述人体分割深度区域进行迭代拟合，获取人体三维模型之后，上述方法还包括：
基于上述人体三维模型获取人体三维骨架点。
本发明第二方面提供一种人体三维模型获取装置，其中，上述装置包括：
图像获取模块，用于获取彩色图像以及与上述彩色图像对应的深度图像；
人体分割区域获取模块，用于基于上述彩色图像获取人体关节点二维坐标信息和人体分割区域；
人体分割深度区域获取模块，用于基于上述深度图像，分别获取与各上述人体关节点二维坐标信息对应的人体关节点三维坐标信息，以及与各上述人体分割区域对应的人体分割深度区域；
人体三维模型重建模块，用于基于预设的损失函数对所有上述人体关节点三维坐标信息和所有上述人体分割深度区域进行迭代拟合，获取人体三维模型。
本发明第三方面提供一种智能终端，上述智能终端包括存储器、处理器以及存储在上述存储器上并可在上述处理器上运行的人体三维模型获取程序，上述人体三维模型获取程序被上述处理器执行时实现任意一项上述人体三维模型获取方法的步骤。
本发明第四方面提供一种计算机可读存储介质，上述计算机可读存储介质上存储有人体三维模型获取程序，上述人体三维模型获取程序被处理器执行时实现任意一项上述人体三维模型获取方法的步骤。
由上可见，本发明方案获取彩色图像以及与上述彩色图像对应的深度图像；基于上述彩色图像获取人体关节点二维坐标信息和人体分割区域；基于上述深度图像，分别获取与各上述人体关节点二维坐标信息对应的人体关节点三维坐标信息，以及与各上述人体分割区域对应的人体分割深度区域；基于预设的损失函数对所有上述人体关节点三维坐标信息和所有上述人体分割深度区域进行迭代拟合，获取人体三维模型。与现有技术中仅利用彩色图像获取人体三维模型的方案相比，本发明方案结合能够提供人体对应的三维空间信息的深度图像获取人体三维模型，有利于提高获得的人体三维模型的准确率，使得获得的人体三维模型能更好的反映人体三维姿态。
附图说明
为了更清楚地说明本发明实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其它的附图。
图1是本发明实施例提供的一种人体三维模型获取方法的流程示意图；
图2是本发明实施图1中步骤S100的具体流程示意图；
图3是本发明实施图1中步骤S200的具体流程示意图；
图4是本发明实施图3中步骤S203的具体流程示意图；
图5是本发明实施例提供的一种目标单人姿态估计框架示意图；
图6是本发明实施例提供的一种人体分割区域示意图；
图7是本发明实施图1中步骤S400的具体流程示意图；
图8是本发明实施例提供的另一种人体三维模型获取方法的流程示意图；
图9是本发明实施例提供的一种人体三维模型获取装置的结构示意图；
图10是本发明实施例提供的一种智能终端的内部结构原理框图。
具体实施方式
以下描述中，为了说明而不是为了限定，提出了诸如特定系统结构、技术之类的具体细节，以便透彻理解本发明实施例。然而，本领域的技术人员应当清楚，在没有这些具体细节的其它实施例中也可以实现本发明。在其它情况下，省略对众所周知的系统、装置、电路以及方法的详细说明，以免不必要的细节妨碍本发明的描述。
应当理解，当在本说明书和所附权利要求书中使用时，术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在，但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解，在本发明说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本发明。如在本发明说明书和所附权利要求书中所使用的那样，除非上下文清楚地指明其它情况，否则单数形式的“一”、“一个”及“该”意在包括复数形式。
还应当进一步理解，在本发明说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。
如在本说明书和所附权利要求书中所使用的那样，术语“如果”可以依据上下文被解释为“当…时”或“一旦”或“响应于确定”或“响应于检测到”。类似的，短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述的条件或事件]”或“响应于检测到[所描述条件或事件]”。
下面结合本发明实施例的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明的一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例，都属于本发明保护的范围。
在下面的描述中阐述了很多具体细节以便于充分理解本发明，但是本发明还可以采用其它不同于在此描述的其它方式来实施，本领域技术人员可以在不违背本发明内涵的情况下做类似推广，因此本发明不受下面公开的具体实施例的限制。
人体三维模型对于描述人体姿态、预测人体行为至关重要。目前，人体三维模型已经被广泛运用于各种领域中，例如异常行为监测、自动驾驶及监控等领域。近年来，随着科学技术的发展，尤其是深度学习技术的发展，人体三维模型的重建效果逐渐提升。
但现有技术中，通常是利用彩色图像，通过卷积神经网络获取人体三维模型。现有技术的问题在于，彩色图像无法提供有效的三维空间信息，使得获得的人体三维模型准确率较低，无法准确地反映人体三维姿态。从而使得获得的人体三维模型无法应用到人机交互等要求较高的场景中，限制了人体三维模型的应用。
为了解决现有技术的问题，本发明方案获取彩色图像以及与上述彩色图像对应的深度图像；基于上述彩色图像获取人体关节点二维坐标信息和人体分割区域；基于上述深度图像，分别获取与各上述人体关节点二维坐标信息对应的人体关节点三维坐标信息，以及与各上述人体分割区域对应的人体分割深度区域；基于预设的损失函数对所有上述人体关节点三维坐标信息和所有上述人体分割深度区域进行迭代拟合，获取人体三维模型。与现有技术中仅利用彩色图像获取人体三维模型的方案相比，本发明方案结合能够提供人体对应的三维空间信息的深度图像获取人体三维模型，有利于提高获得的人体三维模型的准确率，使得获得的人体三维模型能更好的反映人体三维姿态。
示例性方法
如图1所示，本发明实施例提供一种人体三维模型获取方法，具体的，上述方法包括如下步骤：
步骤S100，获取彩色图像以及与上述彩色图像对应的深度图像。
其中，上述彩色图像和上述深度图像是包含目标对象的图像，目标对象是需要进行人体三维模型重建的对象。进一步的，上述彩色图像和深度图像中可以包括多个目标对象，本实施例中，以存在一个目标对象为例进行具体说明，当存在多个目标对象时，可以使用本实施例中的方法分别对各个目标对象进行人体三维模型重建。具体的，深度图像是以深度信息(距离)作为像素值的图像，可以提供目标对象对应的有效的三维空间信息，从而提高获取的人体三维模型的准确率。
步骤S200，基于上述彩色图像获取人体关节点二维坐标信息和人体分割区域。
具体的，本实施例中，可以对上述彩色图像中的目标对象进行目标检测和人体姿态估计，获得对应的人体关节点二维坐标信息和人体分割区域。其中，各上述人体关节点二维坐标信息是目标对象的人体关节点在上述彩色图像中的位置坐标，上述人体分割区域是基于各人体关节点对人体边缘轮廓划分获得的人体区域。
步骤S300，基于上述深度图像，分别获取与各上述人体关节点二维坐标信息对应的人体关节点三维坐标信息，以及与各上述人体分割区域对应的人体分割深度区域。
其中，上述人体关节点三维坐标信息是上述深度图像中与各上述人体关节点二维坐标信息对应的深度信息，上述人体分割深度区域是上述深度图像中与各上述人体分割区域对应的区域。具体的，人体关节点应该在人体内部，但深度图像无法采集人体内部的深度信息，因此本实施例中，将各人体关节点对应的皮肤表面的三维坐标信息作为上述人体关节点三维坐标信息，即直接将深度图像中与各上述人体关节点二维坐标信息对应的深度信息作为人体关节点三维坐标信息。
步骤S400，基于预设的损失函数对所有上述人体关节点三维坐标信息和所有上述人体分割深度区域进行迭代拟合，获取人体三维模型。
由上可见，本发明实施例提供的人体三维模型获取方法获取彩色图像以及与上述彩色图像对应的深度图像；基于上述彩色图像获取人体关节点二维坐标信息和人体分割区域；基于上述深度图像，分别获取与各上述人体关节点二维坐标信息对应的人体关节点三维坐标信息，以及与各上述人体分割区域对应的人体分割深度区域；基于预设的损失函数对所有上述人体关节点三维坐标信息和所有上述人体分割深度区域进行迭代拟合，获取人体三维模型。与现有技术中仅利用彩色图像获取人体三维模型的方案相比，本发明方案结合能够提供人体对应的三维空间信息的深度图像获取人体三维模型，有利于提高获得的人体三维模型的准确率，使得获得的人体三维模型能更好的反映人体三维姿态。
在一种应用场景中，还可以基于上述人体三维模型获取方法对视频流进行处理，以获得视频流中的人体三维模型。在对视频流进行处理时，获取待处理视频流，上述待处理视频流中包括连续多帧帧同步且对齐的彩色图像和深度图像。对于每一帧同步且对齐的彩色图像和深度图像，分别进行上述步骤S100到步骤S400的处理，获得每一帧的人体三维模型，具体可以对每一帧进行并行处理或依次处理，在此不做具体限定。进一步的，在预设的损失函数中还可以设置平滑损失函数，保证上下帧拟合出的人体三维模型尽可能平滑，通过计算上下帧拟合出的人体三维模型中关节点的L2损失，避免因帧间发生较大的关节点位置跳动而影响视觉效果。本实施例中，以对一帧彩色图像及其对应的深度图像为例进行具体说明，但不做具体限定。
具体的，本实施例中，如图2所示，上述步骤S100包括：
步骤S101，获取由采集设备采集的彩色图像以及与上述彩色图像同步的待处理深度图像。
步骤S102，将上述待处理深度图像对齐上述彩色图像后作为上述彩色图像对应的深度图像。
在一种应用场景中，上述采集设备可以包括至少一部深度相机和至少一部彩色相机。进一步的，上述采集设备还可以包括其它组件，例如对应的相机固定组件、照明光源等，具体可以根据实际需求进行设置和调整。在另一种应用场景中，上述采集设备还可以为双目相机或多目相机，在此不做具体限定。本实施例中，控制上述深度相机和上述彩色相机进行同步拍摄，以获得同步的彩色图像和待处理深度图像。进行同步控制的方法可以根据实际需求进行设定，例如，在一种应用场景中，可以通过控制器或其它控制设备设定时序，从而实现对深度相机和彩色相机的同步控制，同步控制彩色相机和深度相机分别连续采集多帧帧同步的彩色图像和待处理深度图像。本实施例中，以对采集获得的一帧图像为例进行具体说明，当采集获得了多帧图像时，分别对每一帧图像进行本实施例中的处理，获得各帧图像中对应的人体三维模型。
上述待处理深度图像是上述深度相机直接获取的，与上述彩色图像帧同步但未进行对齐，上述彩色图像对应的深度图像是将上述待处理深度图像与上述彩色图像进行对齐后获得的。具体的，深度图像是以深度信息(距离)作为像素值的图像，深度图像中某一点的像素值是该点到采集模组(如上述深度相机和彩色相机构成的采集模组)所在平面的距离。
上述步骤S101中获取待处理深度图像的方法有多种，可以根据实际需求进行选择和调整。在一种应用场景中，照明光源向目标区域投射结构光光束，采集模组接收经目标区域反射回的光束并形成电信号，并传输至处理器。处理器对该电信号进行处理，计算出反映该光束的强度信息以形成结构光图案，最后基于该结构光图案进行匹配计算或三角法计算，得到待处理深度图像。在另一种应用场景中，照明光源向目标区域投射红外光束，采集模组接收经目标区域反射回的光束并形成电信号，并传输至处理器。处理器对该电信号进行处理以计算出相位差，并基于该相位差间接计算光束由照明光源发射到摄像头接收所用的飞行时间。进一步地，基于该飞行时间计算获取深度图像。其中，上述红外光束可包括脉冲型和/或连续波型，此处不作限制。在另一种应用场景中，照明光源向目标区域投射红外脉冲光束，采集模组接收经目标区域反射回的光束并形成电信号，并传输至处理器。处理器对电信号进行计数以获取波形直方图，并根据波形直方图直接计算光束由照明光源发射到摄像头接收所用的飞行时间，基于该飞行时间计算获取深度图像。
本实施例中，预先对上述深度相机和彩色相机进行标定，分别获取深度相机和彩色相机的内外参数，进一步的，利用深度相机和彩色相机的内外参数分别获取深度相机与彩色相机获得的图像的像素坐标系的转换关系，使待处理深度图像与彩色图像上的像素一一对应，进而实现待处理深度图像与彩色图像的对齐。其中，相机的内外参数包括相机内参数和相机外参数，相机内参数是与相机自身特性相关的参数，例如焦距、像素大小等，相机外参数是在世界坐标系中的参数，例如相机的位置、旋转方向等。
具体的，本实施例中，如图3所示，上述步骤S200包括：
步骤S201，对上述彩色图像进行目标检测，获取行人检测框。
步骤S202，基于上述行人检测框，通过人体姿态估计算法获取目标单人姿态估计框架。
步骤S203，基于上述目标单人姿态估计框架获取上述人体关节点二维坐标信息和上述人体分割区域。
具体的，可以利用目标检测算法对上述彩色图像进行目标检测，获取行人检测框。其中，具体的目标检测算法和人体姿态估计算法可以根据实际需求进行选择和调整，在此不作具体限定。在一种应用场景中，上述人体姿态估计算法可以为alphapose 2D模型算法，优选的，alphapose算法中利用RMPE姿态估计模型进行人体姿态估计。具体的，RMPE姿态估计模型包括对称空间变换网络单元(SSTN，Symmetric Spatial Transformer Network)、参数化姿态最极大抑制单元(NMS，Parametric Pose NonMaximum-Suppression)及姿态指导区域产生单元(PGPG，Pose-Guided Proposals Generator)。其中，上述对称空间变换网络单元用于基于行人检测框获取单人姿态估计框架；参数化姿态最极大抑制单元用于利用姿态距离测量的方法去除当前单人姿态估计框架的冗余框，以获取目标单人姿态估计框架；姿态指导区域产生单元用于根据单人姿态估计框架和目标单人姿态估计框架生成新的训练样本，进一步对RMPE姿态估计模型进行训练，增强数据以提高该模型的性能。其中，上述RMPE姿态估计模型既可用于多人检测，也可用于单人检测，上述目标单人姿态估计框架是需要获取人体三维模型的目标对象对应的姿态估计框架。其中，上述人体姿态估计算法除了为alphapose2D模型算法外，还可以为openpose、ppn等2D模型算法的任意一种或多种组合，此处不作限制。
具体的，本实施例中，如图4所示，上述步骤S203包括：
步骤S2031，基于上述目标单人姿态估计框架获取多个人体关节点，并获取对应的人体关节点二维坐标信息，其中，各上述人体关节点二维坐标信息是各上述人体关节点在上述彩色图像中的位置坐标。
步骤S2032，基于上述行人检测框和各上述人体关节点获取多个人体分割区域，其中，各上述人体分割区域是基于各上述人体关节点对人体边缘轮廓划分获得的人体区域。
本实施例中，基于上述目标单人姿态估计框架获取至少15个人体关节点，并获取对应的人体关节点二维坐标信息。具体的，各人体关节点二维信息是各人体关节点在上述彩色图像中对应的像素点的位置坐标。本实施例中，上述15个人体关节点优选为头，颈部，中臀，左肩，左肘，左手腕，右肩，右肘，右手腕，左臀，左膝，左脚踝，右臀，右膝，右脚踝，如图5所示。进一步的，具体的人体关节点以及人体关节点的数目可以根据实际需求进行设置和调整，在此不做具体限定。
进一步的，利用边缘检测算法在上述行人检测框中获取人体边缘轮廓，获取上述各人体关节点二维信息，利用相邻的人体关节点在上述人体边缘轮廓中进行划分，获取多个人体分割区域。图6是本发明实施例提供的一种人体分割区域示意图，如图6所示，本实施例中划分获得14个人体分割区域。可选的，还可以有其它获得人体分割区域的方法，且划分获得的人体分割区域的数目可以根据实际需求进行设置和调整，在此不做具体限定。
进一步的，本实施例中，获得的上述各人体关节点、人体关节点二维信息以及人体分割区域都是人体在彩色图像中的信息，利用彩色图像和深度图像的对齐关系，可以获取深度图像中对应的人体关节点三维信息以及人体分割深度区域，从而获得目标对象对应的三维空间信息，进而实现人体三维模型重建。
具体的，本实施例中，如图7所示，上述步骤S400包括：
步骤S401，获取上述人体分割深度区域内的各点对应的点云三维坐标。
步骤S402，基于上述损失函数对上述人体关节点进行迭代拟合，获取目标人体关节点的位置信息。
步骤S403，基于各上述目标人体关节点的位置信息与各目标点云获取人体三维模型，其中，上述目标点云包括与上述目标人体关节点对应的人体分割深度区域内各点的点云三维坐标。
本实施例中，可以通过如下公式(1)获得深度图像中人体分割区域内的各点对应的点云三维坐标：
Figure BDA0003142326210000121
其中，(xs，ys，zs)是需要获得的点云三维坐标，即深度相机坐标系下的各点的点云三维坐标。z为各点在深度图像上的像素值，即各点对应的深度(距离)。(u，v)是各点在深度图像中的像素的坐标，(u0，v0)是图像主点坐标，dx和dy是深度相机的传感器像元在两个方向上的物理尺寸，f′是深度相机的焦距(单位为毫米)。其中，图像主点(即像主点)是摄影中心与像平面的垂线与像平面的交点。
进一步的，利用参数化人体模型及预设的损失函数对目标人体关节点，以及各人体分割深度区域内各点对应的点云进行迭代拟合，获取人体三维模型。具体的，在迭代拟合获得人体三维模型的过程中，通过预设的损失函数进行约束。
其中，上述参数化人体模型是预先设置的用于重建人体三维模型的模型。在一种应用场景中，上述参数化人体模型优选为SMPL模型。传统的SMPL模型经训练获取由24个人体关节点、6890个顶点、13776个面片组成的人体三维模型，计算量较大。本实施例中，在24个人体关节点优选上述15个人体关节点，并通过预设的多个损失函数对人体关节点进行迭代拟合获取目标人体关节点的位置信息，并进一步基于上述目标关节点的位置信息，利用其与对应的人体分割深度区域内各点的点云三维坐标迭代拟合获得人体三维模型，并基于损失函数对迭代过程中的人体三维模型进行约束。在提高准确度的基础上能减少计算量，提高人体三维模型的获取效率。
在一种应用场景中，上述预设的损失函数包括重投影损失函数、三维关节点损失函数、角度损失函数和表面点深度损失函数中的一种或多种。本实施例中，预设的多种损失函数包括上述重投影损失函数、三维关节点损失函数、角度损失函数和表面点深度损失函数。优选的，本实施例中，在步骤S402中基于上述重投影损失函数、三维关节点损失函数和角度损失函数对人体关节点进行迭代拟合，在步骤S403中，基于上述表面点深度损失函数进行约束，并基于目标人体关节点的位置信息与各目标点云进行迭代拟合获取人体三维模型。
具体的，上述重投影损失函数用于体现获得的目标人体关节点投影到二维平面(彩色图像平面)后与该平面中获得的对应人体关节点之间的重投影位置损失。本实施例中，将获得的15个目标人体关节点投影到彩色图像平面，可获得各目标人体关节点在彩色图像中的二维像素位置，计算该二维像素位置与用于识别彩色图像中人体关节点的二维图形输出的对应人体关节点位置的GM(Geman-McClure)损失，作为上述重投影损失函数。
上述三维关节点损失函数用于体现获得的目标人体关节点的位置与基于深度图像观测到的对应人体关节点之间的三维距离的损失。具体的，基于上述彩色图像中识别出的15个人体关节点，可以在对齐的深度图像中获得各人体关节点对应的深度。理想情况下，采用像素坐标到相机坐标的转换公式，即上述公式(1)，可以得到15个人体关节点在相机坐标系下的观测坐标，但是由于人体关节点被遮挡或者发生自遮挡的问题，无法取得所有人体关节点的观测坐标。另一方面，此时获得的观测坐标是人体关节点对应的表面皮肤的三维位置，并不是人体骨架中实际关节点对应的三维坐标。所以此处仅计算有效的观测到的人体关节点的三维坐标点位置与重建获得的人体三维模型中各对应的目标人体关节点的距离，若距离大于设定的阈值(可以根据实际需求进行设置和调整)，则计算GM损失，作为上述三维关节点损失函数，否则认为该三维骨架中的目标人体关节点的位置较为合理，将三维关节点损失记为0。
上述角度损失函数用于对各个目标人体关节点之间的角度进行约束。具体的，实际运动过程中，人体关节的运动角度是受到人体解剖结构的限制的。例如，在下肢保持不动时，上肢向后旋转180度是不合理的。因此，在拟合过程中，对每个关节点进行角度约束，以达到加速收敛且避免拟合出的目标人体关节点出现畸形的效果。具体的，预先为每个关节点设定对应的关节点角度范围，判断当前拟合出的目标人体关节点角度是否在对应的关节点角度范围内，超过范围则计算超出部分的平方损失，作为角度损失函数，没有超出，则角度损失记为0。
上述表面点深度损失函数用于对每一次迭代拟合获得的人体三维模型的各区域的表面点云的深度值损失进行约束。具体的，表面点深度损失是人体三维模型的各区域的表面点云在深度方向的标准深度值与其转换到深度图像中的像素点的值之间的GM损失。本实施例中，预先将SMPL模型的6890个顶点划分为与上述人体分割区域对应的14个区域。在基于每一帧彩色图像及其对应的深度图像进行拟合的每次迭代过程中，计算出SMPL模型14个区域的表面点和深度图像中分割出的14个人体分割深度区域的深度值的损失。具体的，以右大腿区域的表面损失计算为例，从SMPL模型拟合获得的人体三维模型中可以获取到右大腿区域的所有点云，通过面片的连接关系可以获取点云的法向量，根据点云的法向量方向，可以获得右大腿面向相机的表面点云。首先获取在SMPL模型中拟合获得的人体三维模型中上述表面点云在深度方向的标准深度值(Z值)，即上述表面点云与对应的采集模组所在平面的距离。然后利用相机坐标到像素坐标的公式将这些表面点云投影到深度图像中，即利用相机坐标到像素坐标的公式计算获取这些表面点云在深度图像中的二维坐标，在深度图像中获取这些点对应的二维像素对应的深度值(像素值)，其中，上述相机坐标到像素坐标的公式可以根据上述公式(1)获得。计算上述标准深度值与上述深度图像中二维像素对应的深度值之间的GM损失值，作为上述表面点深度损失函数。该损失值越小，表示SMPL模型的表面越贴近深度图像对应关节区域的表面，即拟合出的关节点位置越准确。
进一步的，上述人体三维模型用于处理连续多帧的视频流时，预设的损失函数还可以包括平滑损失函数，从而保证上下帧之间拟合出的人体三维模型尽可能平滑。具体的，计算上下帧拟合出的目标人体关节点的L2损失，作为上述平滑损失函数，避免因帧间发生较大的关节点位置跳动而影响视觉效果。
在一种应用场景中，对上述各损失函数进行组合求和，获取损失函数求和的值，并与预设阈值范围(可以根据实际需求进行设置和调整)进行比较，若损失函数求和的值不在预设阈值范围内，则继续迭代拟合人体关节点与对应的人体分割深度区域的目标点云，获取新的人体三维模型，直至损失函数求和的值在预设阈值范围内。其中，对上述各损失函数进行组合求和可以是直接相加或按权重分配进行求和，在此不做具体限定。进一步的，上述各损失函数可以是GM损失、L1损失、L2损失或其它损失函数，在此不做具体限定。
具体的，本实施例中，如图8所示，在上述步骤S400之后，上述方法还包括：步骤S500，基于上述人体三维模型获取人体三维骨架点。
具体的，利用迭代拟合后的人体三维模型，进一步计算获取人体三维骨架点。其中，迭代拟合后的人体三维模型的重建效果等同于理想人体三维模型，基于此进一步计算获取人体三维骨架点，可提高人体三维骨架点的准确度。优选的，利用迭代后的人体三维模型获取人体三维骨架点的方法可以为直接获取在迭代拟合过程中获取最终的最优人体三维模型时利用的人体三维骨架点的坐标信息。也可以进一步将最终迭代拟合获得的人体三维模型输入至神经网络模型获取对应的人体三维骨架点，以进一步提高准确率。还可以有其它获取方法，在此不做具体限定。
示例性设备
如图9中所示，对应于上述人体三维模型获取方法，本发明实施例还提供一种人体三维模型获取装置，上述人体三维模型获取装置包括：
图像获取模块610，用于获取彩色图像以及与上述彩色图像对应的深度图像。
其中，上述彩色图像和上述深度图像是包含目标对象的图像，目标对象是需要进行人体三维模型重建的对象。进一步的，上述彩色图像和深度图像中可以包括多个目标对象，本实施例中，以存在一个目标对象为例进行具体说明，当存在多个目标对象时，可以使用本实施例中的装置分别对各个目标对象进行人体三维模型重建。
人体分割区域获取模块620，用于基于上述彩色图像获取人体关节点二维坐标信息和人体分割区域。
具体的，本实施例中，可以对上述彩色图像中的目标对象进行目标检测和人体姿态估计，获得对应的人体关节点二维坐标信息和人体分割区域。其中，各上述人体关节点二维坐标信息是目标对象的人体关节点在上述彩色图像中的位置坐标，上述人体分割区域是基于各人体关节点对人体边缘轮廓划分获得的人体区域。
人体分割深度区域获取模块630，用于基于上述深度图像，分别获取与各上述人体关节点二维坐标信息对应的人体关节点三维坐标信息，以及与各上述人体分割区域对应的人体分割深度区域。
其中，上述人体关节点三维坐标信息是上述深度图像中与各上述人体关节点二维坐标信息对应的深度信息，上述人体分割深度区域是上述深度图像中与各上述人体分割区域对应的区域。具体的，人体关节点应该在人体内部，但深度图像无法采集人体内部的深度信息，因此本实施例中，将各人体关节点对应的皮肤表面的三维坐标信息作为上述人体关节点三维坐标信息，即直接将深度图像中与各上述人体关节点二维坐标信息对应的深度信息作为人体关节点三维坐标信息。
人体三维模型重建模块640，用于基于预设的损失函数对所有上述人体关节点三维坐标信息和所有上述人体分割深度区域进行迭代拟合，获取人体三维模型。
由上可见，本发明实施例提供的人体三维模型获取装置通过图像获取模块610获取彩色图像以及与上述彩色图像对应的深度图像；通过人体分割区域获取模块620基于上述彩色图像获取人体关节点二维坐标信息和人体分割区域；通过人体分割深度区域获取模块630基于上述深度图像，分别获取与各上述人体关节点二维坐标信息对应的人体关节点三维坐标信息，以及与各上述人体分割区域对应的人体分割深度区域；通过人体三维模型重建模块640基于预设的损失函数对所有上述人体关节点三维坐标信息和所有上述人体分割深度区域进行迭代拟合，获取人体三维模型。与现有技术中仅利用彩色图像获取人体三维模型的方案相比，本发明方案结合能够提供人体对应的三维空间信息的深度图像获取人体三维模型，有利于提高获得的人体三维模型的准确率，使得获得的人体三维模型能更好的反映人体三维姿态。
在一种应用场景中，还可以基于上述人体三维模型获取装置对视频流进行处理，以获得视频流中的人体三维模型。在对视频流进行处理时，获取待处理视频流，上述待处理视频流中包括连续多帧帧同步且对齐的彩色图像和深度图像。对于每一帧同步且对齐的彩色图像和深度图像，分别基于上述人体三维模型获取装置进行处理，获得每一帧的人体三维模型，具体可以对每一帧进行并行处理或依次处理，在此不做具体限定。本实施例中，以对一帧彩色图像及其对应的深度图像为例进行具体说明，但不做具体限定。
具体的，本实施例中，上述人体三维模型获取装置及其各个模块的具体功能还可以参照上述人体三维模型获取方法中的对应描述，在此不再赘述。
基于上述实施例，本发明还提供了一种智能终端，其原理框图可以如图10所示。上述智能终端包括通过系统总线连接的处理器、存储器、网络接口以及显示屏。其中，该智能终端的处理器用于提供计算和控制能力。该智能终端的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统和人体三维模型获取程序。该内存储器为非易失性存储介质中的操作系统和人体三维模型获取程序的运行提供环境。该智能终端的网络接口用于与外部的终端通过网络连接通信。该人体三维模型获取程序被处理器执行时实现上述任意一种人体三维模型获取方法的步骤。该智能终端的显示屏可以是液晶显示屏或者电子墨水显示屏。
本领域技术人员可以理解，图10中示出的原理框图，仅仅是与本发明方案相关的部分结构的框图，并不构成对本发明方案所应用于其上的智能终端的限定，具体的智能终端可以包括比图中所示更多或更少的部件，或者组合某些部件，或者具有不同的部件布置。
在一个实施例中，提供了一种智能终端，上述智能终端包括存储器、处理器以及存储在上述存储器上并可在上述处理器上运行的人体三维模型获取程序，上述人体三维模型获取程序被上述处理器执行时进行以下操作指令：
获取彩色图像以及与上述彩色图像对应的深度图像；
基于上述彩色图像获取人体关节点二维坐标信息和人体分割区域；
基于上述深度图像，分别获取与各上述人体关节点二维坐标信息对应的人体关节点三维坐标信息，以及与各上述人体分割区域对应的人体分割深度区域；
基于预设的损失函数对所有上述人体关节点三维坐标信息和所有上述人体分割深度区域进行迭代拟合，获取人体三维模型。
本发明实施例还提供一种计算机可读存储介质，上述计算机可读存储介质上存储有人体三维模型获取程序，上述人体三维模型获取程序被处理器执行时实现本发明实施例提供的任意一种人体三维模型获取方法的步骤。
应理解，上述实施例中各步骤的序号大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本发明实施例的实施过程构成任何限定。
所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能单元、模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能单元、模块完成，即将上述装置的内部结构划分成不同的功能单元或模块，以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中，上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。另外，各功能单元、模块的具体名称也只是为了便于相互区分，并不用于限制本发明的保护范围。上述系统中单元、模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述或记载的部分，可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各实例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟是以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。
在本发明所提供的实施例中，应该理解到，所揭露的装置/终端设备和方法，可以通过其它的方式实现。例如，以上所描述的装置/终端设备实施例仅仅是示意性的，例如，上述模块或单元的划分，仅仅为一种逻辑功能划分，实际实现时可以由另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。
上述集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读存储介质中。基于这样的理解，本发明实现上述实施例方法中的全部或部分流程，也可以通过计算机程序来指令相关的硬件来完成，上述计算机程序可存储于一计算机可读存储介质中，该计算机程序在被处理器执行时，可实现上述各个方法实施例的步骤。其中，上述计算机程序包括计算机程序代码，上述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。上述计算机可读介质可以包括：能够携带上述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，RandomAccess Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是，上述计算机可读存储介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减。
以上所述实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解；其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不是相应技术方案的本质脱离本发明各实施例技术方案的精神和范围，均应包含在本发明的保护范围之内。

Claims (10)

1.一种人体三维模型获取方法，其特征在于，所述方法包括：
获取彩色图像以及与所述彩色图像对应的深度图像；
基于所述彩色图像获取人体关节点二维坐标信息和人体分割区域；
基于所述深度图像，分别获取与各所述人体关节点二维坐标信息对应的人体关节点三维坐标信息，以及与各所述人体分割区域对应的人体分割深度区域；
基于预设的损失函数对所有所述人体关节点三维坐标信息和所有所述人体分割深度区域进行迭代拟合，获取人体三维模型。
2.根据权利要求1所述的人体三维模型获取方法，其特征在于，所述获取彩色图像以及与所述彩色图像对应的深度图像，包括：
获取由采集设备采集的彩色图像以及与所述彩色图像同步的待处理深度图像；
将所述待处理深度图像对齐所述彩色图像后作为所述彩色图像对应的深度图像。
3.根据权利要求1所述的人体三维模型获取方法，其特征在于，所述基于所述彩色图像获取人体关节点二维坐标信息和人体分割区域，包括：
对所述彩色图像进行目标检测，获取行人检测框；
基于所述行人检测框，通过人体姿态估计算法获取目标单人姿态估计框架；
基于所述目标单人姿态估计框架获取所述人体关节点二维坐标信息和所述人体分割区域。
4.根据权利要求3所述的人体三维模型获取方法，其特征在于，所述基于所述目标单人姿态估计框架获取所述人体关节点二维坐标信息和所述人体分割区域，包括：
基于所述目标单人姿态估计框架获取多个人体关节点，并获取对应的人体关节点二维坐标信息，其中，各所述人体关节点二维坐标信息是各所述人体关节点在所述彩色图像中的位置坐标；
基于所述行人检测框和各所述人体关节点获取多个人体分割区域，其中，各所述人体分割区域是基于各所述人体关节点对人体边缘轮廓划分获得的人体区域。
5.根据权利要求4所述的人体三维模型获取方法，其特征在于，所述基于预设的损失函数对所有所述人体关节点三维坐标信息和所有所述人体分割深度区域进行迭代拟合，获取人体三维模型，包括：
获取所述人体分割深度区域内的各点对应的点云三维坐标；
基于所述损失函数对所述人体关节点进行迭代拟合，获取目标人体关节点的位置信息；
基于各所述目标人体关节点的位置信息与各目标点云获取人体三维模型，其中，所述目标点云包括与所述目标人体关节点对应的人体分割深度区域内各点的点云三维坐标。
6.根据权利要求1所述的人体三维模型获取方法，其特征在于，所述预设的损失函数中包括重投影损失函数、三维关节点损失函数、角度损失函数和表面点深度损失函数。
7.根据权利要求1所述的人体三维模型获取方法，其特征在于，在基于预设的损失函数对所有所述人体关节点三维坐标信息和所有所述人体分割深度区域进行迭代拟合，获取人体三维模型之后，所述方法还包括：
基于所述人体三维模型获取人体三维骨架点。
8.一种人体三维模型获取装置，其特征在于，所述装置包括：
图像获取模块，用于获取彩色图像以及与所述彩色图像对应的深度图像；
人体分割区域获取模块，用于基于所述彩色图像获取人体关节点二维坐标信息和人体分割区域；
人体分割深度区域获取模块，用于基于所述深度图像，分别获取与各所述人体关节点二维坐标信息对应的人体关节点三维坐标信息，以及与各所述人体分割区域对应的人体分割深度区域；
人体三维模型重建模块，用于基于预设的损失函数对所有所述人体关节点三维坐标信息和所有所述人体分割深度区域进行迭代拟合，获取人体三维模型。
9.一种智能终端，其特征在于，所述智能终端包括存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的人体三维模型获取程序，所述人体三维模型获取程序被所述处理器执行时实现如权利要求1-7任意一项所述人体三维模型获取方法的步骤。
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有人体三维模型获取程序，所述人体三维模型获取程序被处理器执行时实现如权利要求1-7任意一项所述人体三维模型获取方法的步骤。
CN202110744388.6A 2021-06-30 2021-06-30 一种人体三维模型获取方法、装置、智能终端及存储介质 Active CN113610889B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202110744388.6A CN113610889B (zh) 2021-06-30 2021-06-30 一种人体三维模型获取方法、装置、智能终端及存储介质
PCT/CN2021/130104 WO2023273093A1 (zh) 2021-06-30 2021-11-11 一种人体三维模型获取方法、装置、智能终端及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110744388.6A CN113610889B (zh) 2021-06-30 2021-06-30 一种人体三维模型获取方法、装置、智能终端及存储介质

Publications (2)

Publication Number Publication Date
CN113610889A true CN113610889A (zh) 2021-11-05
CN113610889B CN113610889B (zh) 2024-01-16

Family

ID=78337136

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110744388.6A Active CN113610889B (zh) 2021-06-30 2021-06-30 一种人体三维模型获取方法、装置、智能终端及存储介质

Country Status (2)

Country Link
CN (1) CN113610889B (zh)
WO (1) WO2023273093A1 (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114973422A (zh) * 2022-07-19 2022-08-30 南京应用数学中心 一种基于三维人体建模点云特征编码的步态识别方法
CN115177755A (zh) * 2022-07-07 2022-10-14 中国人民解放军军事科学院军事医学研究院 在线智能紫外辐射消毒系统和方法
WO2023273093A1 (zh) * 2021-06-30 2023-01-05 奥比中光科技集团股份有限公司 一种人体三维模型获取方法、装置、智能终端及存储介质
CN116309641A (zh) * 2023-03-23 2023-06-23 北京鹰之眼智能健康科技有限公司 图像区域获取系统
EP4386671A3 (en) * 2022-12-14 2024-07-03 Google LLC Depth-based 3d human pose detection and tracking

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116503958B (zh) * 2023-06-27 2023-10-03 江西师范大学 人体姿态识别方法、系统、存储介质及计算机设备
CN117726907B (zh) * 2024-02-06 2024-04-30 之江实验室 一种建模模型的训练方法、三维人体建模的方法以及装置

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105787469A (zh) * 2016-03-25 2016-07-20 广州市浩云安防科技股份有限公司 行人监控和行为识别的方法和系统
CN109636831A (zh) * 2018-12-19 2019-04-16 安徽大学 一种估计三维人体姿态及手部信息的方法
CN109859296A (zh) * 2019-02-01 2019-06-07 腾讯科技（深圳）有限公司 Smpl参数预测模型的训练方法、服务器及存储介质
CN110335343A (zh) * 2019-06-13 2019-10-15 清华大学 基于rgbd单视角图像人体三维重建方法及装置
CN111739161A (zh) * 2020-07-23 2020-10-02 之江实验室 一种有遮挡情况下的人体三维重建方法、装置及电子设备
CN111968238A (zh) * 2020-08-22 2020-11-20 晋江市博感电子科技有限公司 基于动态融合算法的人体彩色三维重建方法
US20200410688A1 (en) * 2019-06-28 2020-12-31 Beijing Boe Optoelectronics Technology Co., Ltd. Image Segmentation Method, Image Segmentation Apparatus, Image Segmentation Device
CN112819951A (zh) * 2021-02-09 2021-05-18 北京工业大学 一种基于深度图修复的带遮挡三维人体重建方法
CN112836618A (zh) * 2021-01-28 2021-05-25 清华大学深圳国际研究生院 一种三维人体姿态估计方法及计算机可读存储介质

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102647351B1 (ko) * 2017-01-26 2024-03-13 삼성전자주식회사 3차원의 포인트 클라우드를 이용한 모델링 방법 및 모델링 장치
CN109176512A (zh) * 2018-08-31 2019-01-11 南昌与德通讯技术有限公司 一种体感控制机器人的方法、机器人及控制装置
CN110363858B (zh) * 2019-06-18 2022-07-01 新拓三维技术(深圳)有限公司 一种三维人脸重建方法及系统
CN111652974B (zh) * 2020-06-15 2023-08-25 腾讯科技（深圳）有限公司 三维人脸模型的构建方法、装置、设备及存储介质
CN111968169B (zh) * 2020-08-19 2024-01-19 北京拙河科技有限公司 动态人体三维重建方法、装置、设备和介质
CN112950668A (zh) * 2021-02-26 2021-06-11 北斗景踪技术(山东)有限公司 一种基于模位置测量的智能监控方法及系统
CN113610889B (zh) * 2021-06-30 2024-01-16 奥比中光科技集团股份有限公司 一种人体三维模型获取方法、装置、智能终端及存储介质

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105787469A (zh) * 2016-03-25 2016-07-20 广州市浩云安防科技股份有限公司 行人监控和行为识别的方法和系统
CN109636831A (zh) * 2018-12-19 2019-04-16 安徽大学 一种估计三维人体姿态及手部信息的方法
CN109859296A (zh) * 2019-02-01 2019-06-07 腾讯科技（深圳）有限公司 Smpl参数预测模型的训练方法、服务器及存储介质
CN110335343A (zh) * 2019-06-13 2019-10-15 清华大学 基于rgbd单视角图像人体三维重建方法及装置
US20200410688A1 (en) * 2019-06-28 2020-12-31 Beijing Boe Optoelectronics Technology Co., Ltd. Image Segmentation Method, Image Segmentation Apparatus, Image Segmentation Device
CN111739161A (zh) * 2020-07-23 2020-10-02 之江实验室 一种有遮挡情况下的人体三维重建方法、装置及电子设备
CN111968238A (zh) * 2020-08-22 2020-11-20 晋江市博感电子科技有限公司 基于动态融合算法的人体彩色三维重建方法
CN112836618A (zh) * 2021-01-28 2021-05-25 清华大学深圳国际研究生院 一种三维人体姿态估计方法及计算机可读存储介质
CN112819951A (zh) * 2021-02-09 2021-05-18 北京工业大学 一种基于深度图修复的带遮挡三维人体重建方法

Non-Patent Citations (5)

* Cited by examiner, † Cited by third party
Title
FEIYU YANG 等: "Train Your Data Processor: Distribution-Aware and Error-Compensation", 《ARXIV》 *
RAJAT SHARMA 等: "Point Cloud Upsampling and Normal Estimation using Deep Learning for Robust Surface Reconstruction", 《ARXIV》 *
TAO YU 等: "DoubleFusion: Real-Time Capture of Human Performances with Inner Body Shapes from a Single Depth Sensor", 《IEEE TRANSACTIONS ON PATTERN ANALYSIS AND MACHINE INTELLIGENCE》, vol. 42, no. 10, XP011807114, DOI: 10.1109/TPAMI.2019.2928296 *
ZHONGGUO LI 等: "Template based Human Pose and Shape Estimation from a Single RGB-D Image", 《COMPUTER SCIENCE》, pages 574 - 581 *
雷宝全 等: "基于Kinect的彩色三维重建", 《有线电视技术》, no. 12 *

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023273093A1 (zh) * 2021-06-30 2023-01-05 奥比中光科技集团股份有限公司 一种人体三维模型获取方法、装置、智能终端及存储介质
CN115177755A (zh) * 2022-07-07 2022-10-14 中国人民解放军军事科学院军事医学研究院 在线智能紫外辐射消毒系统和方法
CN114973422A (zh) * 2022-07-19 2022-08-30 南京应用数学中心 一种基于三维人体建模点云特征编码的步态识别方法
EP4386671A3 (en) * 2022-12-14 2024-07-03 Google LLC Depth-based 3d human pose detection and tracking
CN116309641A (zh) * 2023-03-23 2023-06-23 北京鹰之眼智能健康科技有限公司 图像区域获取系统
CN116309641B (zh) * 2023-03-23 2023-09-22 北京鹰之眼智能健康科技有限公司 图像区域获取系统

Also Published As

Publication number Publication date
WO2023273093A1 (zh) 2023-01-05
CN113610889B (zh) 2024-01-16

Similar Documents

Publication Publication Date Title
CN113610889B (zh) 一种人体三维模型获取方法、装置、智能终端及存储介质
CN110599540B (zh) 多视点相机下的实时三维人体体型与姿态重建方法及装置
CN108335353B (zh) 动态场景的三维重建方法、装置和系统、服务器、介质
KR102647351B1 (ko) 3차원의 포인트 클라우드를 이용한 모델링 방법 및 모델링 장치
CN106803267B (zh) 基于Kinect的室内场景三维重建方法
CN107679537B (zh) 一种基于轮廓点orb特征匹配的无纹理空间目标姿态估计算法
CN105869160B (zh) 利用Kinect实现三维建模和全息显示的方法及系统
CN110874864A (zh) 获取对象三维模型的方法、装置、电子设备及系统
CN111932678B (zh) 多视点实时人体运动、手势、表情、纹理重建系统
CN113366491B (zh) 眼球追踪方法、装置及存储介质
WO2013112749A1 (en) 3d body modeling, from a single or multiple 3d cameras, in the presence of motion
CN113330486A (zh) 深度估计
CN104077808A (zh) 一种用于计算机图形图像处理的、基于深度信息的实时三维人脸建模方法
CN113269862A (zh) 场景自适应的精细三维人脸重建方法、系统、电子设备
CN114692720B (zh) 基于鸟瞰图的图像分类方法、装置、设备及存储介质
CN110264527A (zh) 基于zynq的实时双目立体视觉输出方法
CN112907631A (zh) 一种引入反馈机制的多rgb相机实时人体动作捕捉系统
CN111260765B (zh) 一种显微手术术野的动态三维重建方法
CN115410167A (zh) 目标检测与语义分割方法、装置、设备及存储介质
CN108734772A (zh) 基于Kinect fusion的高精度深度图像获取方法
CN116452752A (zh) 联合单目稠密slam与残差网络的肠壁重建方法
CN112365589B (zh) 一种虚拟三维场景展示方法、装置及系统
CN114494582A (zh) 一种基于视觉感知的三维模型动态更新方法
CN116740332B (zh) 基于区域检测的星上空间目标部件中心定位和测角方法
CN116642490A (zh) 基于混合地图的视觉定位导航方法、机器人及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant