CN115458128B - 一种基于关键点生成数字人体影像的方法、装置及设备 - Google Patents
一种基于关键点生成数字人体影像的方法、装置及设备 Download PDFInfo
- Publication number
- CN115458128B CN115458128B CN202211402737.7A CN202211402737A CN115458128B CN 115458128 B CN115458128 B CN 115458128B CN 202211402737 A CN202211402737 A CN 202211402737A CN 115458128 B CN115458128 B CN 115458128B
- Authority
- CN
- China
- Prior art keywords
- image
- matrix
- skin
- key points
- point cloud
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H30/00—ICT specially adapted for the handling or processing of medical images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/774—Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/80—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/03—Recognition of patterns in medical or anatomical images
Abstract
本发明公开了一种基于关键点生成数字人体影像的方法、装置及设备,该方法包括:获取生物人图像;将生物人图像输入至预先训练好的骨骼关键点生成模块,得到骨骼关键点,根据骨骼关键点得到骨骼矩阵;将生物人图像输入至预先训练好的皮肤生成模块,根据骨骼关键点得到皮肤矩阵;将骨骼矩阵和皮肤矩阵输入到普通数字人生成模块,得到普通数字人影像;获取对应生物人图像的器官病灶影像,通过器官病灶点云转化模块根据器官病灶影像得到器官病灶点云矩阵;通过预设合成网络将器官病灶点云矩阵和普通数字人影像进行融合,得到医学数字人影像。解决了如何针对不同的生物人,生成对应其形态特征的电子数字人的技术问题。
Description
技术领域
本发明涉及医疗图像数据处理领域,尤其涉及一种基于关键点生成数字人体影像的方法、装置及设备。
背景技术
在一些健康医学数据中心里,存储了一定的健康医疗数据,如果能将人的医学影像、电子病历中的数据进行相应处理,可以实现根据不同疾病带来的身体变化,进行更加详细、具体的人体影像展示。
医学影像是指为了医疗或医学研究,对人体或人体某部分,以非侵入方式取得的内部组织影像。“全息数字人”是实现人人可享有的随时随地的“全息式”健康服务目标,构建数字化健康服务新模式,最终形成与每个生物人相对应且可量身定制的“全息数字人”健康新业态,健康医疗的电子化,使人们提供的一切健康服务和医疗行为都可记录、可追溯。从整体、动态和个性化的角度,全面掌握人体生命活动规律,充分反映机体信息的整体性、客观性和时序性特点。
为了进一步增加医疗资源,使医生看病更加方便准确,需要一种能够使真实人体的虚拟化的数字技术,提高医疗效率。
发明内容
本发明提供了一种基于关键点生成数字人体影像的方法、装置及设备,解决了如何针对不同的生物人,生成对应其形态特征的电子数字人的技术问题。
一种基于关键点生成数字人体影像的方法,包括:
获取生物人图像;
将所述生物人图像输入至预先训练好的骨骼关键点生成模块,得到骨骼关键点,根据所述骨骼关键点得到骨骼矩阵;
将所述生物人图像输入至预先训练好的皮肤生成模块,根据所述骨骼关键点得到皮肤矩阵;
将所述骨骼矩阵和所述皮肤矩阵输入到普通数字人生成模块,得到普通数字人影像;
获取对应所述生物人图像的器官病灶影像,通过器官病灶点云转化模块根据所述器官病灶影像得到器官病灶点云矩阵;
通过预设合成网络将所述器官病灶点云矩阵和所述普通数字人影像进行融合,得到医学数字人影像;
其中,所述骨骼关键点生成模块、所述皮肤生成模块、所述普通数字人生成模块、所述器官病灶点云转化模块根据网格卷积和骨骼卷积搭建。
在本发明的一种实施例中,所述根据所述骨骼关键点得到皮肤矩阵,具体包括:根据生物人图像生成网格mesh,确定骨骼关键点影响网格顶点的皮肤权重,所述网格mesh模拟人体的皮肤形状;基于网格连通度,对所述网格顶点的邻边特征取平均值,得到边缘轴;在所述邻边特征进行前向传递后,根据所述骨骼关键点和所述皮肤权重对所述网格顶点的坐标值进行预测;基于网格连接性,根据所述边缘轴和预测的网格顶点坐标值确定数字人皮肤矩阵。
在本发明的一种实施例中,所述确定骨骼关键点影响网格顶点的皮肤权重,具体包括:确定骨骼关键点的坐标值和所述网格顶点的坐标值;根据所述骨骼关键点的坐标值和所述网格顶点的坐标值确定网格顶点与每个骨骼关键点之间的距离;根据所述距离的远近确定皮肤权重;其中,所述距离越近,相应网格顶点的皮肤权重越大。
在本发明的一种实施例中,所述通过器官病灶点云转化模块根据所述器官病灶影像得到器官病灶点云矩阵,具体包括:根据器官病灶影像信息生成三维渲染图像;获取所述三维渲染图像中红绿蓝RGB三个通道的图像,将三个通道的图像都转化为点云图像,根据所述点云图像得到点云矩阵。
在本发明的一种实施例中,所述获取所述三维渲染图像中红绿蓝RGB三个通道的图像,将三个通道的图像都转化为点云图像,具体包括:单独获取红色、绿色或蓝色通道图像,将所述图像转化为三维数据;所述三维数据的格式为[横坐标,纵坐标,像素值];根据所述三维数据确定各个颜色通道对应的所有直角坐标点,生成点云图像。
在本发明的一种实施例中,所述通过预设合成网络将所述器官病灶点云矩阵和所述普通数字人影像进行融合,具体包括:确定合成网络,通过下述公式进行数字人合成:
其中,B为骨骼矩阵,S为数字人皮肤矩阵,i表示网格顶点,j为使用相对蒙皮权值将S特征折叠为一组j深度偏移,Wij是骨骼关键点连接网格顶点i以抵消j的蒙皮权重,Rij为人体器官病灶的点云矩阵,S和O右上角的撇表示多个通道。
在本发明的一种实施例中,所述合成网络中的每个层包括一个初始网格卷积MeshConv、几个连续的网格卷积MeshConv + 激活函数ReLU + 批归一化BatchNorm层,以及一个残差连接和另一个激活函数ReLU;通过所述合成网络使用所述皮肤矩阵对所述骨骼关键点应用基于蒙皮的池化操作,使用相对蒙皮权值将皮肤矩阵特征折叠为一组深度偏移。
在本发明的一种实施例中,所述方法还包括:通过数字人简易服装生成模块中的模板,对数字人进行简易服装生成。
在本发明的一种实施例中,所述将所述生物人图像输入至预先训练好的骨骼关键点生成模块,得到骨骼关键点,根据所述骨骼关键点得到骨骼矩阵,具体包括:所述骨骼关键点生成模块包括骨骼关键点检测模型网络;通过所述骨骼关键点检测模型网络提取骨骼关键点;从所述骨骼关键点中依次选择两个位置相邻的骨骼关键点;初始化预设数量的三维零矩阵;用预设像素值填充每个三维零矩阵中所述两个位置相邻的骨骼关键点对应的区域,以将每个所述三维零矩阵转换为每两个位置相邻的骨骼关键点对应的骨骼矩阵。
在本发明的一种实施例中,所述预设像素值大于0,所述区域为以所述两个位置相邻的骨骼关键点的中点作为中心的球体区域或椭球体区域,所述两个骨骼关键点均落在所述球体区域或所述椭球体区域的球面上。
一种基于关键点生成数字人体影像的装置,包括:
获取模块,用于获取生物人图像;
骨骼关键点生成模块,用于根据所述生物人图像得到骨骼关键点,根据所述骨骼关键点得到骨骼矩阵;
皮肤生成模块,用于根据所述生物人图像以及所述骨骼关键点得到皮肤矩阵;
普通数字人生成模块,用于将所述骨骼矩阵和所述皮肤矩阵进行融合得到普通数字人影像;
器官病灶点云转化模块,用于获取对应所述生物人的器官病灶影像,根据所述器官病灶影像得到器官病灶点云矩阵;
医学数字人生成模块,用于通过预设合成网络将所述器官病灶点云矩阵和所述普通数字人影像进行融合,得到医学数字人影像;
其中,所述骨骼关键点生成模块、所述皮肤生成模块、所述普通数字人生成模块、所述器官病灶点云转化模块和所述医学数字人生成模块根据网格卷积和骨骼卷积搭建。
在本发明的一种实施例中,所述装置还包括:简易服装生成模块,用于根据预设模板,生成人体简易服装。
在本发明的一种实施例中,所述皮肤生成模块包括皮肤权重生成子模块;所述皮肤权重生成子模块,用于确定骨骼关键点的坐标值和所述网格顶点的坐标值;根据所述骨骼关键点的坐标值和所述网格顶点的坐标值确定网格顶点与每个骨骼关键点之间的距离;根据所述距离的远近确定皮肤权重;其中,所述距离越近,相应网格顶点的皮肤权重越大。
一种基于关键点生成数字人体影像的设备,包括:
至少一个处理器;以及,
与所述至少一个处理器通过总线通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被执行,以实现:
获取生物人图像;
将所述生物人图像输入至预先训练好的骨骼关键点生成模块,得到骨骼关键点,根据所述骨骼关键点得到骨骼矩阵;
将所述生物人图像输入至预先训练好的皮肤生成模块,根据所述骨骼关键点得到皮肤矩阵;
将所述骨骼矩阵和所述皮肤矩阵输入到普通数字人生成模块,得到普通数字人影像;
获取对应所述生物人图像的器官病灶影像,通过器官病灶点云转化模块根据所述器官病灶影像得到器官病灶点云矩阵;
通过预设合成网络将所述器官病灶点云矩阵和所述普通数字人影像进行融合,得到医学数字人影像;
其中,所述骨骼关键点生成模块、所述皮肤生成模块、所述普通数字人生成模块、所述器官病灶点云转化模块根据网格卷积和骨骼卷积搭建。
一种非易失性存储介质,存储有计算机可执行指令,所述计算机可执行指令由处理器执行,以实现下述步骤:
获取生物人图像;
将所述生物人图像输入至预先训练好的骨骼关键点生成模块,得到骨骼关键点,根据所述骨骼关键点得到骨骼矩阵;
将所述生物人图像输入至预先训练好的皮肤生成模块,根据所述骨骼关键点得到皮肤矩阵;
将所述骨骼矩阵和所述皮肤矩阵输入到普通数字人生成模块,得到普通数字人影像;
获取对应所述生物人图像的器官病灶影像,通过器官病灶点云转化模块根据所述器官病灶影像得到器官病灶点云矩阵;
通过预设合成网络将所述器官病灶点云矩阵和所述普通数字人影像进行融合,得到医学数字人影像;
其中,所述骨骼关键点生成模块、所述皮肤生成模块、所述普通数字人生成模块、所述器官病灶点云转化模块根据网格卷积和骨骼卷积搭建。
本发明提供了一种基于关键点生成数字人体影像的方法、装置及设备,至少包括以下有益效果:通过生成医学数字人,使人们提供的一切健康服务和医疗行为都可记录、可追溯。从整体、动态和个性化的角度,全面掌握人体生命活动规律,充分反映机体信息的整体性、客观性和时序性特点。通过将人体器官和病灶的影像点云化合并生成医学人体数字人模型,减少了已有方法中需要的人工干预,提升了生成医学人体展示图像的质量,实现了基于真实人体影像的准实时高质量三维人体模型生成。
附图说明
此处所说明的附图用来提供对本发明的进一步理解,构成本发明的一部分,本发明的示意性实施例及其说明用于解释本发明,并不构成对本发明的不当限定。在附图中:
图1为本发明实施例提供的一种基于关键点生成数字人体影像的方法步骤示意图;
图2为本发明实施例提供的检测人体骨骼17个关键点示例图;
图3为本发明实施例提供的检测人体骨骼33个关键点示例图;
图4为本发明实施例提供的一种基于关键点生成数字人体影像的流程示意图;
图5为本发明实施例提供的一种基于关键点生成数字人体影像的装置示意图;
图6为本发明实施例提供的一种基于关键点生成数字人体影像的设备示意图。
具体实施方式
为了使本发明的目的、技术方案和优点更加清楚,下面将结合本发明具体实施例对本发明进行清楚、完整的描述。显然,所描述的实施例仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
需要说明的是,本领域普通技术人员显式地和隐式地理解的是,本发明所描述的实施例在不冲突的情况下,可以与其它实施例相结合。除非另作定义,本发明所涉及的技术术语或者科学术语应当为本发明所属技术领域内具有一般技能的人士所理解的通常意义。本发明所涉及的“一”、“一个”、“一种”、“该”等类似词语并不表示数量限制,可表示单数或复数。本发明所涉及的术语“包括”、“包含”、“具有”以及它们任何变形,意图在于覆盖不排他的包含;本发明所涉及的术语“第一”、“第二”、“第三”等仅仅是区别类似的对象,不代表针对对象的特定排序。
全息数字人是与每个生物人对应的,如何针对不同的生物人,生成对应其形态特征的电子数字人是一个问题。本发明提出了一种基于关键点生成数字人体影像的方法、装置及设备。针对通过骨骼重建和神经融合生成人体皮肤的方法生成普通人体数字人模型,设计了能生成具有贴近输入生物人图像身体结构的骨骼以及可绑定权重的神经网络,并结合人体器官和病灶的影像点云化合并生成医学人体数字人模型。该方法提升了生成医学人体展示图像的质量,可以实现基于真实人体影像的准实时高质量三维人体模型生成。本发明下面进行具体说明。
图1为本发明实施例提供的一种基于关键点生成数字人体影像的方法的步骤示意图,可以包括以下步骤:
S110:获取生物人图像。
S120:将生物人图像输入至预先训练好的骨骼关键点生成模块,得到骨骼关键点,根据骨骼关键点得到骨骼矩阵。
在本发明的一种实施例中,将生物人图像输入至预先训练好的骨骼关键点生成模块,得到骨骼关键点,根据骨骼关键点得到骨骼矩阵,具体包括:骨骼关键点生成模块包括骨骼关键点检测模型网络;通过骨骼关键点检测模型网络提取骨骼关键点;从骨骼关键点中依次选择两个位置相邻的骨骼关键点;初始化预设数量的三维零矩阵;用预设像素值填充每个三维零矩阵中两个位置相邻的骨骼关键点对应的区域,以将每个三维零矩阵转换为每两个位置相邻的骨骼关键点对应的骨骼矩阵。
在本发明的一种实施例中,预设像素值大于0,区域为以两个位置相邻的骨骼关键点的中点作为中心的球体区域或椭球体区域,两个骨骼关键点均落在球体区域或椭球体区域的球面上。
具体地,通过骨骼关键点生成模块进行数字人骨架搭建,使用预训练的骨骼拓扑模型与输入的生物人图片对应,预提取骨骼关键点。比如,可使用如骨骼关键点检测模型网络MoveNet进行优化训练,该网络架构主要分为三个部分:Backbone、Header、PostProcess,Backbone:Mobilenetv2+FPN,Header:输入为Backbone的特征图,经过各自的卷积,输出各自维度的特征图。在训练过程中,该网络仅由连接关节的顶点位置和对应的关节旋转来监督,获得数字人骨骼矩阵和脸部矩阵。
MoveNet是一种速度快、准确率高的姿态检测模型,可检测人体的17个关键点,如图2所示,17个关键点所对应的人体部位包括:0:鼻子、1:左眼、2:右眼、3:左耳、4:右耳、5:左肩、6:右肩、7:左肘、8:右肘、9:左腕、10:右腕、11:左胯、12:右胯、13:左膝、14:右膝、15:左踝、16:右踝。
使用不同的骨骼关键点训练基础模型,可以指定不同结构的骨骼,如用BlazePose作为基础网络进行训练时:MediaPipeBlazePose可以检测人体33个关键点,如图3所示,除了17个关键点之外,它还为脸部、手和脚提供了额外的关键点检测。
在骨骼关键点提取后,通过关键点生成骨骼矩阵。可以计算位置相邻的两个骨骼关键点之间的距离,例如,通过欧式距离公式等,计算出相邻的两个人体骨骼关键点之间的距离。可以通过中点公式等,计算出位置相邻的两个骨骼关键点的中点,在每个三维零矩阵中,形成以上述中点为中心,且上述距离为长轴的椭球形区域;或,在每个三维零矩阵中,形成以上述中点为中心,且上述距离为直径的球形区域。用预设像素值填充上述三维零矩阵中的椭球形区域,或,用预设像素值填充零矩阵中的上述球形区域,以将每个三维零矩阵转换为每两个位置相邻的骨骼关键点对应的骨骼矩阵。
S130:将生物人图像输入至预先训练好的皮肤生成模块,根据骨骼关键点得到皮肤矩阵。
在本发明的一种实施例中,根据骨骼关键点得到皮肤矩阵,具体包括:根据生物人图像生成网格mesh,确定骨骼关键点影响网格顶点的皮肤权重,网格mesh模拟人体的皮肤形状;基于网格连通度,对网格顶点的邻边特征取平均值,得到边缘轴;在邻边特征进行前向传递后,根据骨骼关键点和皮肤权重对网格顶点的坐标值进行预测;基于网格连接性,根据边缘轴和预测的网格顶点坐标值确定数字人皮肤矩阵。
在本发明的一种实施例中,确定骨骼关键点影响网格顶点的皮肤权重,具体包括:确定骨骼关键点的坐标值和网格顶点的坐标值;根据骨骼关键点的坐标值和网格顶点的坐标值确定网格顶点与每个骨骼关键点之间的距离;根据距离的远近确定皮肤权重;其中,距离越近,相应网格顶点的皮肤权重越大。
具体地,通过皮肤生成模块根据生物人图像生成网格mesh,进行数字人皮肤生成,学习并预测出相应的骨骼以及皮肤权重。为了产生皮肤权重,使用MeshCNN算子合并了一系列的网格卷积块,对于每条相邻骨骼关键点之间的边,计算其两个相邻骨骼关键点的平均位置,根据该平均位置确定人体骨架。在皮肤生成模块的隐藏层的有5个输出通道,在5个输出通道中选择1个通道进行最大池化,然后沿着边缘轴重复并连接结果扩展。基于网格连通度,对相应网格顶点的邻边特征进行平均,在前向传递之后,进行每个网格顶点坐标值的预测,基于网格连接性,对相应网格顶点的相邻边缘特征取平均值,从而获得数字人皮肤矩阵。
在本发明的一种实施例中,通过数字人简易服装生成模块中的模板,对数字人进行简易服装生成。
具体地,为了美观等因素,在数字人生成的皮肤外,通过模板进行数字人简易服装的生成。例如,模板1:简易白色T恤上衣,蓝色长裤;模板2:简易蓝色长袖上衣,黑色长裤等等。
S140:将骨骼矩阵和皮肤矩阵输入到普通数字人生成模块,得到普通数字人影像。
S150:获取对应生物人图像的器官病灶影像,通过器官病灶点云转化模块根据器官病灶影像得到器官病灶点云矩阵。
在本发明的一种实施例中,通过器官病灶点云转化模块根据器官病灶影像得到器官病灶点云矩阵,具体包括:根据器官病灶影像信息生成三维渲染图像;获取三维渲染图像中红绿蓝RGB三个通道的图像,将三个通道的图像都转化为点云图像,根据点云图像得到点云矩阵。
具体地,三维图像渲染就是将三维场景转化为一幅二维图像的过程。例如医学影像数据(CT或核磁等),将其中的器官及病灶像素转化为点云,将影像信息等三维渲染图像添加在数字人图像中,把RGB三个通道的图像,都转化为点云图像,得到点云矩阵。
在本发明的一种实施例中,获取三维渲染图像中红绿蓝RGB三个通道的图像,将三个通道的图像都转化为点云图像,具体包括:单独获取红色、绿色或蓝色通道图像,将图像转化为三维数据;三维数据的格式为[横坐标,纵坐标,像素值];根据三维数据确定各个颜色通道对应的所有直角坐标点,生成点云图像。
具体地,单独获取红绿蓝任一通道的图像,转化为三维数据,格式是[横坐标,纵坐标,像素值]。在三维空间中,根据该三维数据绘制红色通道中的所有直角坐标点,得到点云图像。
S160:通过预设合成网络将器官病灶点云矩阵和普通数字人影像进行融合,得到医学数字人影像。
在本发明的一种实施例中,通过预设合成网络将器官病灶点云矩阵和普通数字人影像进行融合,具体包括:确定合成网络,通过下述公式进行数字人合成:
其中,B为骨骼矩阵,S为数字人皮肤矩阵,i表示网格顶点,j为使用相对蒙皮权值将S特征折叠为一组j深度偏移,Wij是骨骼关键点连接网格顶点i以抵消j的蒙皮权重,Rij为人体器官病灶的点云矩阵,S和O右上角的撇表示多个通道。
在本发明的一种实施例中,合成网络中的每个层包括一个初始网格卷积MeshConv、几个连续的网格卷积MeshConv + 激活函数ReLU + 批归一化BatchNorm层,以及一个残差连接和另一个激活函数ReLU;通过合成网络使用皮肤矩阵对骨骼关键点应用基于蒙皮的池化操作,使用相对蒙皮权值将皮肤矩阵特征折叠为一组深度偏移。
具体地,将器官及病灶合成到数字人采用残差卷积ResConv层等组成合成网络结构,每个层由一个初始网格卷积MeshConv、几个连续的MeshConv+ ReLU+ BatchNorm层,以及一个残差连接和另一个ReLU组成,在任务层结束之前,网络遵循多次MResConv+MeshPool+ Norm的模式。然后,使用输出皮肤矩阵对骨骼关键点应用基于蒙皮的池化,通过使用相对蒙皮权值将皮肤矩阵特征折叠为一组j深度偏移。下述为将器官病灶的点云数据和普通通数字人合成为医学数字人的公式:
其中,B为数字人骨骼矩阵,S为数字人皮肤矩阵,i表示网格顶点,j为使用相对蒙皮权值将S特征折叠为一组j深度偏移,Wij是骨骼关键点连接网格顶点i以抵消j的蒙皮权重,Rij为人体器官病灶的点云矩阵。S和O右上角的撇表示多个通道。
通过上述公式,将上面步骤中的骨骼矩阵、皮肤矩阵、人体器官或病灶矩阵等合成为一个整体(深度特征),类似于基于注意力的池化,确保每个偏移量仅作为绑定到它的网格顶点的函数计算。
在本发明的一种实施例中,数字人可以进行其他信息补充,结合身高、体重、健康情况等信息,结合身体影像等信息进行调整。也可以结合不同时期的人体器官或病灶等点云数据,进行数字人的时序动态展示。
需要说明的是,骨骼关键点生成模块、皮肤生成模块、普通数字人生成模块、器官病灶点云转化模块和医学数字人生成模块等各个模块根据网格卷积和骨骼卷积搭建,基于基本算子生成符合预先指定结构的骨骼。
在本发明的一种实施例中,如图4所示为本发明生成医学数据人影像的流程图。首先获取人体图像,分别输入至骨骼关键点生成模块和皮肤生成模块,通过骨骼关键点生成模块生成骨骼关键点,骨骼关键点包括躯干关键点和头部关键点。通过皮肤生成模块生成人体皮肤,将生成的骨骼关键点和生成的皮肤输入简易皮肤生成模块生成简易服装,然后通过普通数字人生成模快将骨骼关键点、人体皮肤和简易服装进行合成后生成普通数字人。通过获取器官病灶影像,将人体器官病灶影像通过点云转化模块转化成点云数据,将点云数据和普通数字人通过医学数字人生成模块进行合成后得到医学数字人。
以上为本发明实施例提供的一种基于关键点生成数字人体影像的方法,基于同样的发明思路,本发明实施例还提供了相应的一种基于关键点生成数字人体影像的装置,如图5所示。
获取模块501,用于获取生物人图像;骨骼关键点生成模块502,用于根据生物人图像得到骨骼关键点,根据骨骼关键点得到骨骼矩阵;皮肤生成模块503,用于根据生物人图像以及骨骼关键点得到皮肤矩阵;普通数字人生成模块504,用于将骨骼矩阵和皮肤矩阵进行融合得到普通数字人影像;器官病灶点云转化模块505,用于获取对应生物人的器官病灶影像,根据器官病灶影像得到器官病灶点云矩阵;医学数字人生成模块506,用于通过预设合成网络将器官病灶点云矩阵和普通数字人影像进行融合,得到医学数字人影像;其中,骨骼关键点生成模块502、皮肤生成模块503、普通数字人生成模块504、器官病灶点云转化模块505和医学数字人生成模块506根据网格卷积和骨骼卷积搭建。
在本发明的一种实施例中,简易服装生成模块507,用于根据预设模板,生成人体简易服装。
在本发明的一种实施例中,皮肤生成模块503包括皮肤权重生成子模块5031;皮肤权重生成子模块5031,用于确定骨骼关键点的坐标值和网格顶点的坐标值;根据骨骼关键点的坐标值和网格顶点的坐标值确定网格顶点与每个骨骼关键点之间的距离;根据距离的远近确定皮肤权重;其中,距离越近,相应网格顶点的皮肤权重越大。
本发明实施例还提供了相应的一种基于关键点生成数字人体影像的设备,如图6所示。
本实施例提供了一种基于关键点生成数字人体影像的设备,包括:
至少一个处理器601;以及,与至少一个处理器601通过总线603通信连接的存储器602;其中,存储器602存储有可被至少一个处理器执行的指令,指令被至少一个处理器601执行,以使至少一个处理器601能够执行:
获取生物人图像;将生物人图像输入至预先训练好的骨骼关键点生成模块,得到骨骼关键点,根据骨骼关键点得到骨骼矩阵;将生物人图像输入至预先训练好的皮肤生成模块,根据骨骼关键点得到皮肤矩阵;将骨骼矩阵和皮肤矩阵输入到普通数字人生成模块,得到普通数字人影像;获取对应生物人图像的器官病灶影像,通过器官病灶点云转化模块根据器官病灶影像得到器官病灶点云矩阵;通过预设合成网络将器官病灶点云矩阵和普通数字人影像进行融合,得到医学数字人影像;其中,骨骼关键点生成模块、皮肤生成模块、普通数字人生成模块、器官病灶点云转化模块根据网格卷积和骨骼卷积搭建。
基于同样的思路,本发明的一些实施例还提供了上述方法对应的介质。
本发明的一些实施例提供的一种存储介质,存储有计算机可执行指令,计算机可执行指令由处理器执行,以实现下述步骤:
获取生物人图像;将生物人图像输入至预先训练好的骨骼关键点生成模块,得到骨骼关键点,根据骨骼关键点得到骨骼矩阵;将生物人图像输入至预先训练好的皮肤生成模块,根据骨骼关键点得到皮肤矩阵;将骨骼矩阵和皮肤矩阵输入到普通数字人生成模块,得到普通数字人影像;获取对应生物人图像的器官病灶影像,通过器官病灶点云转化模块根据器官病灶影像得到器官病灶点云矩阵;通过预设合成网络将器官病灶点云矩阵和普通数字人影像进行融合,得到医学数字人影像;其中,骨骼关键点生成模块、皮肤生成模块、普通数字人生成模块、器官病灶点云转化模块根据网格卷积和骨骼卷积搭建。
本发明中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于设备和介质实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
本发明实施例提供的设备和介质与方法是一一对应的,因此,设备和介质也具有与其对应的方法类似的有益技术效果,由于上面已经对方法的有益技术效果进行了详细说明,因此,这里不再赘述设备和介质的有益技术效果。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程方法商品或者方法不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程方法商品或者方法所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括要素的过程方法商品或者方法中还存在另外的相同要素。
以上仅为本发明的实施例而已,并不用于限制本发明。虽然,上文中已经用一般性说明及具体实施方案对本发明作了详尽的描述,但在本发明基础上,可以对之作一些修改或改进,这对本领域技术人员而言是显而易见的。因此,在不偏离本发明精神的基础上所做的这些修改或改进,均属于本发明要求保护的范围。
Claims (15)
1.一种基于关键点生成数字人体影像的方法,其特征在于,包括:
获取生物人图像;
将所述生物人图像输入至预先训练好的骨骼关键点生成模块,得到骨骼关键点,根据所述骨骼关键点得到骨骼矩阵;
将所述生物人图像输入至预先训练好的皮肤生成模块,根据所述骨骼关键点得到皮肤矩阵;
将所述骨骼矩阵和所述皮肤矩阵输入到普通数字人生成模块,得到普通数字人影像;
获取对应所述生物人图像的器官病灶影像,通过器官病灶点云转化模块根据所述器官病灶影像得到器官病灶点云矩阵;
通过预设合成网络将所述器官病灶点云矩阵和所述普通数字人影像进行融合,得到医学数字人影像;
其中,所述骨骼关键点生成模块、所述皮肤生成模块、所述普通数字人生成模块、所述器官病灶点云转化模块根据网格卷积和骨骼卷积搭建。
2.根据权利要求1所述的方法,其特征在于,所述根据所述骨骼关键点得到皮肤矩阵,具体包括:
根据生物人图像生成网格mesh,确定骨骼关键点影响网格顶点的皮肤权重,所述网格mesh模拟人体的皮肤形状;
基于网格连通度,对所述网格顶点的邻边特征取平均值,得到边缘轴;
在所述邻边特征进行前向传递后,根据所述骨骼关键点和所述皮肤权重对所述网格顶点的坐标值进行预测;
基于网格连接性,根据所述边缘轴和预测的网格顶点坐标值确定数字人皮肤矩阵。
3.根据权利要求2所述的方法,其特征在于,所述确定骨骼关键点影响网格顶点的皮肤权重,具体包括:
确定骨骼关键点的坐标值和所述网格顶点的坐标值;
根据所述骨骼关键点的坐标值和所述网格顶点的坐标值确定网格顶点与每个骨骼关键点之间的距离;
根据所述距离的远近确定皮肤权重;
其中,所述距离越近,相应网格顶点的皮肤权重越大。
4.根据权利要求1所述的方法,其特征在于,所述通过器官病灶点云转化模块根据所述器官病灶影像得到器官病灶点云矩阵,具体包括:
根据器官病灶影像信息生成三维渲染图像;
获取所述三维渲染图像中红绿蓝RGB三个通道的图像,将三个通道的图像都转化为点云图像,根据所述点云图像得到点云矩阵。
5.根据权利要求4所述的方法,其特征在于,所述获取所述三维渲染图像中红绿蓝RGB三个通道的图像,将三个通道的图像都转化为点云图像,具体包括:
单独获取红色、绿色或蓝色通道图像,将所述图像转化为三维数据;所述三维数据的格式为[横坐标,纵坐标,像素值];
根据所述三维数据确定各个颜色通道对应的所有直角坐标点,生成点云图像。
7.根据权利要求6所述的方法,其特征在于,所述合成网络中的每个层包括一个初始网格卷积MeshConv、几个连续的网格卷积MeshConv + 激活函数ReLU + 批归一化BatchNorm层,以及一个残差连接和另一个激活函数ReLU;
通过所述合成网络使用所述皮肤矩阵对所述骨骼关键点应用基于蒙皮的池化操作,使用相对蒙皮权值将皮肤矩阵特征折叠为一组深度偏移。
8.根据权利要求1所述的方法,其特征在于,所述方法还包括:
通过数字人简易服装生成模块中的模板,对数字人进行简易服装生成。
9.根据权利要求1所述的方法,其特征在于,所述将所述生物人图像输入至预先训练好的骨骼关键点生成模块,得到骨骼关键点,根据所述骨骼关键点得到骨骼矩阵,具体包括:
所述骨骼关键点生成模块包括骨骼关键点检测模型网络;
通过所述骨骼关键点检测模型网络提取骨骼关键点;
从所述骨骼关键点中依次选择两个位置相邻的骨骼关键点;
初始化预设数量的三维零矩阵;
用预设像素值填充每个三维零矩阵中所述两个位置相邻的骨骼关键点对应的区域,以将每个所述三维零矩阵转换为每两个位置相邻的骨骼关键点对应的骨骼矩阵。
10.根据权利要求9所述的方法,其特征在于,所述预设像素值大于0,所述区域为以所述两个位置相邻的骨骼关键点的中点作为中心的球体区域或椭球体区域,所述两个骨骼关键点均落在所述球体区域或所述椭球体区域的球面上。
11.一种基于关键点生成数字人体影像的装置,其特征在于,包括:
获取模块,用于获取生物人图像;
骨骼关键点生成模块,用于根据所述生物人图像得到骨骼关键点,根据所述骨骼关键点得到骨骼矩阵;
皮肤生成模块,用于根据所述生物人图像以及所述骨骼关键点得到皮肤矩阵;
普通数字人生成模块,用于将所述骨骼矩阵和所述皮肤矩阵进行融合得到普通数字人影像;
器官病灶点云转化模块,用于获取对应所述生物人的器官病灶影像,根据所述器官病灶影像得到器官病灶点云矩阵;
医学数字人生成模块,用于通过预设合成网络将所述器官病灶点云矩阵和所述普通数字人影像进行融合,得到医学数字人影像;
其中,所述骨骼关键点生成模块、所述皮肤生成模块、所述普通数字人生成模块、所述器官病灶点云转化模块和所述医学数字人生成模块根据网格卷积和骨骼卷积搭建。
12.根据权利要求11所述的装置,其特征在于,所述装置还包括:
简易服装生成模块,用于根据预设模板,生成人体简易服装。
13.根据权利要求11所述的装置,其特征在于,所述皮肤生成模块包括皮肤权重生成子模块;
所述皮肤权重生成子模块,用于确定骨骼关键点的坐标值和所述网格顶点的坐标值;根据所述骨骼关键点的坐标值和所述网格顶点的坐标值确定网格顶点与每个骨骼关键点之间的距离;根据所述距离的远近确定皮肤权重;其中,所述距离越近,相应网格顶点的皮肤权重越大。
14.一种基于关键点生成数字人体影像的设备,其特征在于,包括:
至少一个处理器;以及,
与所述至少一个处理器通过总线通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被执行,以实现:
获取生物人图像;
将所述生物人图像输入至预先训练好的骨骼关键点生成模块,得到骨骼关键点,根据所述骨骼关键点得到骨骼矩阵;
将所述生物人图像输入至预先训练好的皮肤生成模块,根据所述骨骼关键点得到皮肤矩阵;
将所述骨骼矩阵和所述皮肤矩阵输入到普通数字人生成模块,得到普通数字人影像;
获取对应所述生物人图像的器官病灶影像,通过器官病灶点云转化模块根据所述器官病灶影像得到器官病灶点云矩阵;
通过预设合成网络将所述器官病灶点云矩阵和所述普通数字人影像进行融合,得到医学数字人影像;
其中,所述骨骼关键点生成模块、所述皮肤生成模块、所述普通数字人生成模块、所述器官病灶点云转化模块根据网格卷积和骨骼卷积搭建。
15.一种非易失性存储介质,存储有计算机可执行指令,其特征在于,所述计算机可执行指令由处理器执行,以实现下述步骤:
获取生物人图像;
将所述生物人图像输入至预先训练好的骨骼关键点生成模块,得到骨骼关键点,根据所述骨骼关键点得到骨骼矩阵;
将所述生物人图像输入至预先训练好的皮肤生成模块,根据所述骨骼关键点得到皮肤矩阵;
将所述骨骼矩阵和所述皮肤矩阵输入到普通数字人生成模块,得到普通数字人影像;
获取对应所述生物人图像的器官病灶影像,通过器官病灶点云转化模块根据所述器官病灶影像得到器官病灶点云矩阵;
通过预设合成网络将所述器官病灶点云矩阵和所述普通数字人影像进行融合,得到医学数字人影像;
其中,所述骨骼关键点生成模块、所述皮肤生成模块、所述普通数字人生成模块、所述器官病灶点云转化模块根据网格卷积和骨骼卷积搭建。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211402737.7A CN115458128B (zh) | 2022-11-10 | 2022-11-10 | 一种基于关键点生成数字人体影像的方法、装置及设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211402737.7A CN115458128B (zh) | 2022-11-10 | 2022-11-10 | 一种基于关键点生成数字人体影像的方法、装置及设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115458128A CN115458128A (zh) | 2022-12-09 |
CN115458128B true CN115458128B (zh) | 2023-03-24 |
Family
ID=84295511
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211402737.7A Active CN115458128B (zh) | 2022-11-10 | 2022-11-10 | 一种基于关键点生成数字人体影像的方法、装置及设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115458128B (zh) |
Citations (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107679519A (zh) * | 2017-10-27 | 2018-02-09 | 北京光年无限科技有限公司 | 一种基于虚拟人的多模态交互处理方法及系统 |
CN110148209A (zh) * | 2019-04-30 | 2019-08-20 | 深圳市华讯方舟太赫兹科技有限公司 | 人体模型生成方法、图像处理设备及具有存储功能的装置 |
CN110169821A (zh) * | 2019-04-29 | 2019-08-27 | 博瑞生物医疗科技(深圳)有限公司 | 一种图像处理方法、装置及系统 |
CN110197117A (zh) * | 2019-04-18 | 2019-09-03 | 北京奇艺世纪科技有限公司 | 人体轮廓点提取方法、装置、终端设备及计算机可读存储介质 |
CN110223272A (zh) * | 2014-12-05 | 2019-09-10 | 麦费兹克公司 | 身体成像 |
CN111513850A (zh) * | 2020-04-30 | 2020-08-11 | 京东方科技集团股份有限公司 | 引导装置、穿刺针调整方法、存储介质及电子设备 |
CN113012282A (zh) * | 2021-03-31 | 2021-06-22 | 深圳市慧鲤科技有限公司 | 三维人体重建方法、装置、设备及存储介质 |
CN113470173A (zh) * | 2021-07-22 | 2021-10-01 | 深圳市联影医疗数据服务有限公司 | 全息数字人体建模方法及装置 |
CN113488172A (zh) * | 2021-07-05 | 2021-10-08 | 联仁健康医疗大数据科技股份有限公司 | 全息数字人模型生成方法、装置、电子设备及存储介质 |
CN114693570A (zh) * | 2020-12-28 | 2022-07-01 | 北京陌陌信息技术有限公司 | 一种人体模型图像的融合处理方法、设备和存储介质 |
CN115105204A (zh) * | 2022-04-22 | 2022-09-27 | 复旦大学附属中山医院 | 一种腹腔镜增强现实融合显示方法 |
CN115131361A (zh) * | 2022-09-02 | 2022-09-30 | 北方健康医疗大数据科技有限公司 | 目标分割模型的训练、病灶分割方法及装置 |
CN115168745A (zh) * | 2022-09-02 | 2022-10-11 | 环球数科集团有限公司 | 一种基于图像技术的虚拟人物形象再创造的方法和系统 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2674913B1 (en) * | 2012-06-14 | 2014-07-23 | Softkinetic Software | Three-dimensional object modelling fitting & tracking. |
WO2018095273A1 (zh) * | 2016-11-24 | 2018-05-31 | 腾讯科技(深圳)有限公司 | 图像合成方法、装置以及匹配实现方法、装置 |
-
2022
- 2022-11-10 CN CN202211402737.7A patent/CN115458128B/zh active Active
Patent Citations (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110223272A (zh) * | 2014-12-05 | 2019-09-10 | 麦费兹克公司 | 身体成像 |
CN107679519A (zh) * | 2017-10-27 | 2018-02-09 | 北京光年无限科技有限公司 | 一种基于虚拟人的多模态交互处理方法及系统 |
CN110197117A (zh) * | 2019-04-18 | 2019-09-03 | 北京奇艺世纪科技有限公司 | 人体轮廓点提取方法、装置、终端设备及计算机可读存储介质 |
CN110169821A (zh) * | 2019-04-29 | 2019-08-27 | 博瑞生物医疗科技(深圳)有限公司 | 一种图像处理方法、装置及系统 |
CN110148209A (zh) * | 2019-04-30 | 2019-08-20 | 深圳市华讯方舟太赫兹科技有限公司 | 人体模型生成方法、图像处理设备及具有存储功能的装置 |
CN111513850A (zh) * | 2020-04-30 | 2020-08-11 | 京东方科技集团股份有限公司 | 引导装置、穿刺针调整方法、存储介质及电子设备 |
CN114693570A (zh) * | 2020-12-28 | 2022-07-01 | 北京陌陌信息技术有限公司 | 一种人体模型图像的融合处理方法、设备和存储介质 |
CN113012282A (zh) * | 2021-03-31 | 2021-06-22 | 深圳市慧鲤科技有限公司 | 三维人体重建方法、装置、设备及存储介质 |
CN113488172A (zh) * | 2021-07-05 | 2021-10-08 | 联仁健康医疗大数据科技股份有限公司 | 全息数字人模型生成方法、装置、电子设备及存储介质 |
CN113470173A (zh) * | 2021-07-22 | 2021-10-01 | 深圳市联影医疗数据服务有限公司 | 全息数字人体建模方法及装置 |
CN115105204A (zh) * | 2022-04-22 | 2022-09-27 | 复旦大学附属中山医院 | 一种腹腔镜增强现实融合显示方法 |
CN115131361A (zh) * | 2022-09-02 | 2022-09-30 | 北方健康医疗大数据科技有限公司 | 目标分割模型的训练、病灶分割方法及装置 |
CN115168745A (zh) * | 2022-09-02 | 2022-10-11 | 环球数科集团有限公司 | 一种基于图像技术的虚拟人物形象再创造的方法和系统 |
Non-Patent Citations (7)
Title |
---|
"Decision Fusion of Machine Learning Models to Predict Radiotherapy-Induced Lung Pneumonitis";Shiva K. Das;《2008 Seventh International Conference on Machine Learning and Applications》;20081231;第545-550页 * |
"基于多特征点匹配的三维人体姿态重建";张亚凤;《激光与光电子学进展》;20220831;第1-8页 * |
"腹部器官及血管的三维重建对于胃癌手术的指导意义";段永凤;《中国优秀硕士论文全文数据库(电子期刊)医药卫生科技辑》;20190815;第E072-288页 * |
基于全息数字人模型的全息结构医学;金小桃等;《中国数字医学》;20200815(第08期);第6-8+36页 * |
基于骨骼蒙皮的虚拟人运动仿真;谭同德等;《微计算机信息》;20091105(第31期);第37-39页 * |
虚拟人合成研究进展;夏时洪等;《中国科学(F辑:信息科学)》;20090515(第05期);第4-19页 * |
虚拟人骨架驱动皮肤变形的改进的热平衡法;何青等;《计算机仿真》;20170915(第09期);第349-353+410页 * |
Also Published As
Publication number | Publication date |
---|---|
CN115458128A (zh) | 2022-12-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113099208B (zh) | 基于神经辐射场的动态人体自由视点视频生成方法和装置 | |
CN111460872B (zh) | 图像处理方法及装置、图像设备及存储介质 | |
US20190200003A1 (en) | System and method for 3d space-dimension based image processing | |
US20130107003A1 (en) | Apparatus and method for reconstructing outward appearance of dynamic object and automatically skinning dynamic object | |
CN110544301A (zh) | 一种三维人体动作重建系统、方法和动作训练系统 | |
CN113496507A (zh) | 一种人体三维模型重建方法 | |
CN113012282A (zh) | 三维人体重建方法、装置、设备及存储介质 | |
CN112950769A (zh) | 三维人体重建方法、装置、设备及存储介质 | |
CN114821675B (zh) | 对象的处理方法、系统和处理器 | |
CN114219878A (zh) | 虚拟角色的动画生成方法及装置、存储介质、终端 | |
WO2020056532A1 (en) | Marker-less augmented reality system for mammoplasty pre-visualization | |
US11443473B2 (en) | Systems and methods for generating a skull surface for computer animation | |
CN113012041B (zh) | 一种ct/mri模拟超声的新方法、系统 | |
CN115458128B (zh) | 一种基于关键点生成数字人体影像的方法、装置及设备 | |
CN110838182B (zh) | 一种图像贴合人台的方法及其系统 | |
Nam et al. | Accurate 3D human pose recognition via fusion of depth and motion sensors | |
CN107742538A (zh) | 病变模拟方法和装置 | |
JP2023079054A (ja) | 画像変換装置、画像変換装置の制御方法、制御プログラム、記録媒体 | |
KR20210080244A (ko) | 영상 분할을 통한 기관의 3차원 모델링 장치 및 방법 | |
Xu | High-fidelity Human Body Modelling from User-generated Data |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |