CN116168154A - 一种预测方法、装置、设备及可读存储介质 - Google Patents
一种预测方法、装置、设备及可读存储介质 Download PDFInfo
- Publication number
- CN116168154A CN116168154A CN202310109649.6A CN202310109649A CN116168154A CN 116168154 A CN116168154 A CN 116168154A CN 202310109649 A CN202310109649 A CN 202310109649A CN 116168154 A CN116168154 A CN 116168154A
- Authority
- CN
- China
- Prior art keywords
- point cloud
- skull
- prediction model
- face
- dimensional
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30008—Bone
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
- G06T2207/30201—Face
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Geometry (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Radiology & Medical Imaging (AREA)
- Quality & Reliability (AREA)
- Computer Graphics (AREA)
- Image Processing (AREA)
Abstract
本说明书公开了一种预测方法、装置、设备及可读存储介质,通过对获取到的用户的人脸图像进行三维人脸重建,得到三维人脸图像,之后,基于预先训练的预测模型,以及用户的三维人脸图像,得到预测模型输出的颅骨点云,进一步根据模型输出的颅骨点云得到用户的预测颅骨表面。可见,通过将用户的人脸作为输入预测模型直接预测颅骨,精度更高,速度更快,并且,通过使用用户受伤前的三维人脸图像来预测用户正常的颅骨,不再依赖医生的个人经验,从而提高了准确度。
Description
技术领域
本说明书涉及计算机技术领域,尤其涉及一种预测方法、装置、设备及可读存储介质。
背景技术
颅颌面创伤是指患者的头部和面部受到的损伤。针对患者遭受的颅颌面创伤,目前可通过颅颌面重建手术对患者有缺陷的头部骨骼和面部骨骼进行修复。其中,颅颌面重建手术需要以患者正常的颅骨模型作为参考,辅助医生进行术前规划。因此,如何针对已遭受颅颌面创伤的患者获取正常的颅骨模型成为亟待解决的问题。
目前,可以基于存在颅颌面创伤的患者的三维医学图像,与其他正常人的三维医学图像,量化患者的颅骨与正常人的颅骨之间的差异,以确定患者的创伤程度,进而基于患者的创伤程度和医生的临床经验,构建患者正常的颅骨模型。
然而,上述方法依赖于医生的个人经验,所构建的颅骨模型精度有限,且效率较低。
发明内容
本说明书提供一种预测方法、装置、设备及可读存储介质,以部分的解决现有技术存在的上述问题。
本说明书采用下述技术方案:
本说明书提供了一种预测方法,包括:
获取用户的人脸图像,其中,所述用户的人脸图像包括二维人脸图像或人脸的深度图像;
根据所述用户的人脸图像进行三维人脸重建,得到所述用户的三维人脸图像;
对所述三维人脸图像进行采样得到人脸点云,并将所述人脸点云输入预先训练的预测模型,得到所述预测模型输出的颅骨点云;
根据所述颅骨点云,得到所述用户的预测颅骨表面。
可选地,对所述三维人脸图像进行采样得到人脸点云,并将所述人脸点云输入预先训练的预测模型,得到所述预测模型输出的颅骨点云,具体包括:
迭代执行:根据对所述三维人脸图像的上一次采样的密度,确定当前采样密度,并根据所述当前采样密度对所述三维人脸图像进行当前采样,得到当前人脸点云,将所述当前人脸点云和预先训练的预测模型上一次输出的颅骨点云输入所述预测模型,得到所述预测模型输出的当前颅骨点云,直至所述当前颅骨点云满足预设条件;
其中,所述当前采样密度大于上一次采样的密度,所述当前颅骨点云的稠密度大于所述预测模型上一次输出的颅骨点云的稠密度。
可选地,将所述当前人脸点云和预先训练的预测模型上一次输出的颅骨点云输入所述预测模型,得到所述预测模型输出的当前颅骨点云,具体包括:
从预先训练的预测模型上一次输出的颅骨点云中提取多个关键点;
将所述当前人脸点云和所述预测模型上一次输出的颅骨点云合并,得到待处理点云;
根据所述待处理点云与各关键点之间的距离,对所述待处理点云进行聚类,得到各点云簇;
针对每个点云簇,将该点云簇包含的待处理点云输入所述预测模型,得到所述预测模型输出的该点云簇对应的点云;
根据所述各点云簇对应的点云,确定当前颅骨点云。
可选地,从预先训练的预测模型上一次输出的颅骨点云中提取多个关键点之前,所述方法还包括:
根据所述当前采样密度,确定关键点的数量,所述关键点的数量与所述当前采样密度正相关;
从预先训练的预测模型上一次输出的颅骨点云中提取多个关键点,具体包括:
根据所述关键点的数量,从预先训练的预测模型上一次输出的颅骨点云中提取关键点。
可选地,根据所述颅骨点云,得到所述用户的预测颅骨表面,具体包括:
获取三维颅骨模板;
根据所述三维颅骨模板和所述颅骨点云,得到所述用户的预测颅骨表面。
可选地,对所述三维人脸图像进行采样得到人脸点云之前,所述方法还包括:
将所述三维人脸图像与预设的三维医学图像进行配准,得到配准后的三维人脸图像;
对所述三维人脸图像进行采样得到人脸点云,具体包括:
对所述配准后的三维人脸图像进行采样得到人脸点云。
可选地,预先训练预测模型,具体包括:
预先获取三维医学图像,并从所述三维医学图像分割得到三维颅骨图像;
确定人脸点云采样密度和颅骨点云采样密度;所述颅骨点云采样密度大于所述人脸点云采样密度;
根据所述人脸点云采样密度对所述三维医学图像进行采样,得到人脸点云作为训练样本;
根据所述颅骨点云采样密度对所述三维颅骨图像进行采样,得到颅骨点云作为所述训练样本的标注;
根据所述训练样本和所述训练样本的标注,训练所述预测模型。
可选地,根据所述训练样本和所述训练样本的标注,训练所述预测模型,具体包括:
获取与所述训练样本稠密度相同的指定颅骨点云,所述指定颅骨点云是基于稠密度小于所述训练样本的人脸点云训练完成的预测模型得到的;
从所述指定颅骨点云中提取多个关键点,并将所述训练样本和所述指定颅骨点云合并,得到待处理点云;
根据各关键点,将所述待处理点云聚类,得到各点云簇;
针对每个点云簇,将该点云簇包含的待处理点云输入待训练的预测模型,得到所述预测模型输出的该点云簇对应的预测颅骨点云;
以所述各点云簇对应的预测颅骨点云和所述训练样本的标注之间的差异的最小化为训练目标,训练所述预测模型。
可选地,根据对所述三维人脸图像的上一次采样的密度,确定当前采样密度,具体包括:
当不存在对所述三维人脸图像的上一次采样时,确定当前采样密度为初始采样密度;
将所述当前人脸点云和预先训练的预测模型上一次输出的颅骨点云输入所述预测模型,得到所述预测模型输出的当前颅骨点云之前,所述方法还包括:
当不存在预先训练的预测模型的上一次输出时,获取与所述当前人脸点云稠密度相同的初始颅骨点云,作为所述预测模型上一次输出的颅骨点云。
本说明书实施例提供了一种预测装置,包括:
人脸图像获取模块,用于获取用户的人脸图像,其中,所述用户的人脸图像包括二维人脸图像或人脸的深度图像;
三维重建模块,用于根据所述用户的人脸图像进行三维人脸重建,得到所述用户的三维人脸图像;
颅骨点云预测模块,用于对所述三维人脸图像进行采样得到人脸点云,并将所述人脸点云输入预先训练的预测模型,得到所述预测模型输出的颅骨点云;
预测颅骨表面确定模块,用于根据所述颅骨点云,得到所述用户的预测颅骨表面。
本说明书提供了一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述预测方法。
本说明书提供了一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现上述预测方法。
本说明书采用的上述至少一个技术方案能够达到以下有益效果:
本说明书提供的预测方法中,通过对获取到的用户的人脸图像进行三维人脸重建,得到三维人脸图像,之后,基于预先训练的预测模型,以及用户的三维人脸图像,得到预测模型输出的颅骨点云,进一步根据模型输出的颅骨点云得到用户的预测颅骨表面。可见,通过将用户的人脸作为输入预测模型直接预测颅骨,精度更高,速度更快,并且,通过使用用户受伤前的三维人脸图像来预测用户正常的颅骨,不再依赖医生的个人经验,从而提高了准确度。
附图说明
此处所说明的附图用来提供对本说明书的进一步理解,构成本说明书的一部分,本说明书的示意性实施例及其说明用于解释本说明书,并不构成对本说明书的不当限定。在附
图中:
图1为本说明书中一种预测方法的流程示意图;
图2为本说明书中一种预测方法的流程示意图;
图3为本说明书中一种预测模型的示意图;
图4为本说明书中一种预测方法的流程示意图;
图5为本说明书中一种预测模型的示意图;
图6为本说明书中一种预测方法的流程示意图;
图7为本说明书提供的一种预测装置的示意图;
图8为本说明书提供的对应于图1的电子设备示意图。
具体实施方式
为使本说明书的目的、技术方案和优点更加清楚,下面将结合本说明书具体实施例及相应的附图对本说明书技术方案进行清楚、完整地描述。显然,所描述的实施例仅是本说明书一部分实施例,而不是全部的实施例。基于本说明书中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本说明书保护的范围。
另外,需要说明的是,本发明中所有获取信号、信息或数据的动作都是在遵照所在地相应的数据保护法规政策的前提下,并获得由相应装置所有者给予授权的情况下进行的。
颅颌面创伤是指头部和面部受到的损伤。这类伤害可能包括骨折、挫伤、割伤、软组织损伤和脑损伤。颅颌面创伤常常是由交通事故、跌倒、袭击、肿瘤等因素导致的。由于意外事故发生率的增加,颅颌面创伤的发生率也在逐年增加,并且由于面部组织、器官众多,颅颌面创伤容易造成面部畸形甚至功能障碍,严重或有毁容风险。
颅颌面(Craniomaxillofacial,CMF)重建手术专门用于通过将有缺陷的面部骨骼恢复到正常形状或所需的创伤前状态来重建此类缺陷,旨在修复面部和头部的损伤,恢复其正常的形态和功能。颅颌面重建手术可能需要多种技术和手段,包括骨移植、骨髓填充物、人工材料等。这些手术需要由经验丰富的专科医生进行,并且需要长时间的康复期。其中CMF重建手术的成功在很大程度上取决于准确的术前规划。而术前规划需要有患者正常健康的颅骨模型作为参考,辅助医生术前规划,有很高的临床价值。
目前,针对已遭受颅颌面创伤的患者获取正常的颅骨模型有以下几种方式:其一是基于存在颅颌面创伤的患者的三维医学图像,与其他正常人的三维医学图像,量化患者的颅骨与正常人的颅骨之间的差异,以确定患者的创伤程度,进而基于患者的创伤程度和医生的临床经验,构建患者正常的颅骨模型。由于这种方式需要依赖医生的临床经验,所构建的颅骨模型的精度有限,且,由医生构建患者正常颅骨模型效率较低。其二,基于稀疏学习的方法,构建正常人的人脸和颅骨数据集,将患者的脸与数据集中的人脸进行计算,使用数据集中的人脸的加权求和来表示患者的脸,然后将前述方式得到的权重,应用在正常人的颅骨数据上,用以表示患者的颅骨。这种方式的劣势在于为了保证患者颅骨的准确性,需要数量较多的权重,这导致权重获取的难度较大、效率较低。
基于此,本说明书提供一种预测方法,基于预先根据从三维医学图像采样得到的人脸点云和颅骨点云训练得到的预测模型,以及用户的三维人脸图像,得到预测模型输出的颅骨点云,进一步根据模型输出的颅骨点云得到用户的预测颅骨表面,通过将用户的人脸作为输入预测模型直接预测颅骨,精度更高,速度更快,并且,通过使用用户受伤前的三维人脸图像来预测用户正常的颅骨,不再依赖医生的个人经验,从而提高了准确度。
以下结合附图,详细说明本说明书各实施例提供的技术方案。
图1为本说明书提供的一种预测方法的流程示意图。
S100:获取用户的人脸图像,其中,所述用户的人脸图像包括二维人脸图像或人脸的深度图像。
S102:根据所述用户的人脸图像进行三维人脸重建,得到所述用户的三维人脸图像。
本说明书实施例中提供一种预测方法,其中涉及到的预测模型可以是经预先训练得到的。预测方法的执行过程可由用于得到用户预测颅骨表面的服务器等电子设备执行该预测方法。执行预测模型的训练过程的电子设备与执行预测方法的电子设备可以相同也可以不同,本说明书对此不做限定。
在本说明书实施例中,所谓用户的人脸,指的是以颅骨为支撑、包含用户头部组织和面部组织的人体的一部分,所谓颅骨指的是脊柱上方的头部骨骼。在实际应用中,用户的人脸和颅骨之间是存在对应关系的,也就是说,人脸和颅骨之间是有强相关性的,因此,可采用用户的人脸图像为预测得到的用户的正常颅骨表面进行约束,以提高预测颅骨表面的准确性和可用性。并且,由于能够为医生针对患者的颅颌面重建手术提供参考的颅骨表面通常是三维模型,为此,需要获取到用户在遭受颅颌面创伤之前的三维人脸图像,以约束三维的颅骨表面的预测。
为此,需要获取用户的三维人脸图像,而三维人脸图像可以由用户的二维人脸图像重建得到。在实际应用中,由于照片的获取难度较小,可以采用用户的照片作为二维人脸图像。其中,作为二维人脸图像的用户的照片至少可以表征用户的颅颌面信息,该照片可以是通过现有的任一照片获取方式、在用户遭受颅颌面创伤之前获取到的。另外,基于用户的照片进行三维重建时,所采用的三维人脸重建方案可以是现有的任一方式,如人脸3D形变统计模型、高精度三维人脸形变模型(faceverse)等,本说明书对此不做限定。
另外,在本说明书实施例中,还可以采用用户的人脸的深度图像作为三维重建的基础,并基于用户的人脸的深度图图像中每个像素的灰度值所表征的深度,进行三维人脸重建,得到用户的三维人脸图像。
可选地,在某些应用场景中,如果用户在遭受颅颌面创伤之前用户进行过针对头部的医学图像的采集,则二维人脸图像可以是用户在遭受颅颌面创伤之前的针对用户的头部获取到的二维医学图像,例如通过计算机断层扫描(Computed Tomography,CT)得到的CT图像、通过磁共振(Magnetic Resonance Imaging,MRI)扫描得到的MRI图像、通过低剂量的正电子发射计算机断层显像(Positron Emission Computed Tomography/MagneticResonance Imaging,PET)得到的图像或其它模态的医学图像,之后基于多个二维医学图像进行三维图像重建,得到用户的三维人脸图像。本说明书对二维人脸图像的具体类型不做限定。
在本说明书一个可选的实施例中,用户的三维人脸图像可以是用户在遭受颅颌面创伤之前,通过三维人脸数据采集设备采集得到的,其中,该三维人脸数据采集设备可以是现有的任一用于采集三维图像数据的采集设备,如三维体感摄像机、动态三维图像扫描仪等,本说明书对此不做限定。
S104:对所述三维人脸图像进行采样得到人脸点云,并将所述人脸点云输入预先训练的预测模型,得到所述预测模型输出的颅骨点云。
具体的,采用的预先训练的预测模型是预先以从三维医学图像中采集到的人脸点云作为训练样本,以从三维医学图像中采集到的颅骨点云作为训练样本的标注,经过多次迭代训练得到的。该预测模型的模型结构可以是金字塔式的网络级联的结构,也可以采用单一神经网络的模型结构,该预测模型包括的神经网络可以是PointMLP网络、PointNet++网络等现有的任意机器学习网络,本说明书对预测模型的具体模型结构不做限定。
在实际应用中,可以将从三维人脸图像采样得到的一组人脸点云直接输入到预测模型中,预测模型可以根据输入的人脸点云直接预测得到一组颅骨点云。例如,对三维人脸图像进行点云采样得到4000个人脸点云,将这4000个人脸点云作为预测模型的输入,输入到预测模型中,得到预测模型输出的8000个颅骨点云。
另外,根据预测模型在训练过程中所采用的训练样本的点云稠密度和训练样本的标注的点云稠密度之间的关系,可以确定预测模型的输入的点云稠密度和输出的点云稠密度的关系。一般的,预测模型在模型训练中采用的训练样本的点云稠密度小于标注的点云稠密度时,则在应用中预测模型输入的人脸点云的稠密度也会小于预测模型输出的颅骨点云的稠密度。
需要说明的是,训练预测模型所采用的训练样本和标注的来源之所以是三维医学图像,是因为在医学图像上既可以显示用户的颅骨图像,也可以显示用户的人体组织图像,这样,在采样得到的人脸点云和颅骨点云的相关性较强,无需进行对齐和校正。
在本说明书实施例中,可以将步骤S102获取到的三维人脸图像视为在空间中分布的大量点。可以采用现有的三维点云采样方法,从三维人脸图像中采样得到人脸点云。其中,三维点云采样方法可以是体素化网格的采样方法、均匀采样、几何采样等现有方法。采样得到的人脸点云的点云数量可以根据具体的应用场景确定,本说明书对点云采样的方法和采样得到人脸点云的点云数量不做具体限定。
S106:根据所述颅骨点云,得到所述用户的预测颅骨表面。
获得预测颅骨点云后,可基于预测颅骨点云建立点和点之间的线段,实现由点到曲面(mesh)的转换,得到用户的预测颅骨表面。将用户的预测颅骨表面作为用户的正常颅骨表面,与用户遭受颅颌面创伤后的颅骨表面进行对比,量化用户的创伤程度和位置,为医生提供颅颌面重建手术的医学参考,辅助医生进行术前修复规划。
本说明提供的预测方法中,通过对获取到的用户的人脸图像进行三维人脸重建,得到三维人脸图像,之后,基于预先训练的预测模型,以及用户的三维人脸图像,得到预测模型输出的颅骨点云,进一步根据模型输出的颅骨点云得到用户的预测颅骨表面。可见,通过将用户的人脸作为输入预测模型直接预测颅骨,精度更高,速度更快,并且,通过使用用户受伤前的三维人脸图像来预测用户正常的颅骨,不再依赖医生的个人经验,从而提高了准确度。
在本说明书一个或多个实施例中,在如图1步骤S104所示对所述三维人脸图像进行采样得到人脸点云,并将所述人脸点云输入预先训练的预测模型,得到所述预测模型输出的颅骨点云中,可以通过多次点云采样,向预测模型迭代输入人脸点云的方式,提高预测模型输出的颅骨点云的准确度,如图2所示,具体步骤如下:
S200:根据对所述三维人脸图像的上一次采样的密度,确定当前采样密度。
具体的,采用的预先训练的预测模型是预先以从三维医学图像中采集到的人脸点云作为训练样本,以从三维医学图像中采集到的颅骨点云作为训练样本的标注,经过多次迭代训练得到的。以预测模型的模型结构为金字塔式的级联结构为例,如图3所示,金字塔的每一层均包含完整测编码器和解码器结构,也就是说,预测模型的金字塔的每一层的输入都包含人脸点云,输出都是颅骨点云。并且,为了通过多次迭代提升颅骨点云预测的准确性,还可以在金字塔的每一层的输入中在添加上一层输出的颅骨点云,也就是说,将预测模型上一次输出的颅骨点云,以及当前采样得到当前人脸点云作为预测模型的当前输入。
基于此,可对三维人脸图像进行多次采样。并且,由于预测模型输出的颅骨点云的稠密度高于预测模型输入的人脸点云的稠密度,因此,对三维人脸图像进行多次采样分别得到的人脸点云的采样密度互不相同,一般情况下,对三维人脸图像的上一次采样的采样密度低于当前采样密度,也就是说,对三维人脸图像的上一次采样得到的人脸点云的稠密度低于,当前采样得到的当前人脸点云的稠密度。因此,需要在当一次采样的采样密度的基础上,增加采样密度,得到当前采样密度。
可选的,还可以根据预测模型上一次输出的颅骨点云的稠密度,确定当前采样密度,使得基于当前采样密度,对三维人脸图像采样得到的当前人脸点云的稠密度与预测模型上一次输出的颅骨点云的稠密度相同,以便将当前人脸点云和预测模型上一次输出的颅骨点云输入到预测模型中。
S202:根据所述当前采样密度对所述三维人脸图像进行当前采样,得到当前人脸点云。
S204:将所述当前人脸点云和预先训练的预测模型上一次输出的颅骨点云输入所述预测模型,得到所述预测模型输出的当前颅骨点云。其中,所述当前采样密度大于上一次采样的密度,所述当前颅骨点云的稠密度大于所述预测模型上一次输出的颅骨点云的稠密度。
预测模型的每一次输入都包含从三维人脸图像中采样得到的人脸点云,以及预测模型上一次输出的颅骨点云,输出都是颅骨点云。经过多次迭代的方式,每经过一层,预测出的颅骨点云将更加准确。根据具体的应用场景,可以灵活调整金字塔式的预测模型的层数,本说明书对此不做限定。
在本说明书一个或多个实施例中,在金字塔式的预测模型中,当不存在对所述三维人脸图像的上一次采样时,确定当前采样密度为初始采样密度。进一步的,当不存在预先训练的预测模型的上一次输出时,获取与所述当前人脸点云稠密度相同的初始颅骨点云,作为所述预测模型上一次输出的颅骨点云。其中,所谓不存在对三维人脸图像的上一次采样时,可认为对三维人脸图像的上一次采样的采样密度为零,确定出的当前采样密度为初始采样密度可以是预先设置的,本说明书对此不做限定。另外,所谓不存在预先训练的预测模型的上一次输出,即为当前人脸点云所要输入的预测模型处在金字塔的第一层,此时,可将从数据库中选择的初始颅骨点云作为预测模型上一次输出的颅骨点云,该初始颅骨点云的稠密度可以与当前人脸点云的稠密度相同。
以金字塔式的预测模型有三层为例,如图3所示,其中,F为三维人脸图像,人脸点云F1、人脸点云F2和人脸点云F3分别是对三维人脸图像F进行采样得到的人脸点云,F1、F2和F3之间的区别在于稠密度,也就是得到F1、F2和F3时分别对F进行采样所用的采样密度互不相同。对于第一层来说,预测模型的输入是人脸点云F1和初始颅骨点云B0,这是由于,对于第一层来说,不存在预测模型的上一次输出,因此,从存储有正常人颅骨点云的数据库中选择初始颅骨点云B0作为第一层对应的预测模型的输入。第一层对应的预测模型的输出为当前颅骨点云B1,因此,对于第二层来说,预测模型的输入即为人脸点云F2和预测模型上一次输出的颅骨点云B1。以此类推,经过三次迭代次输出得到颅骨点云B3。
在本说明书实施例中,预测模型的输入和输出的稠密度不同,即作为输入的当前人脸点云的稠密度低于作为输出的当前颅骨点云的稠密度。
需要说明的是,一般情况下,预测模型的输入,即采样得到的当前人脸点云,以及预测模型的上一次输出的颅骨点云,二者的稠密度可以相同,即,当前人脸点云包含的点云数量与预测模型上一次输出的颅骨点云包含的点云数量相同。当前采样密度大于上一次采样的密度的目的在于,使得预测模型输出的颅骨点云逐级稠密,以提高最终基于颅骨点云构建出的颅骨表面的准确度。一般,越稠密的颅骨点云,越能够构建出更为精准的颅骨表面。由于作为输入的当前人脸点云的稠密度大于预测模型的上一次输入的人脸点云,因此,当前颅骨点云的稠密度大于所述预测模型上一次输出的颅骨点云的稠密度。
S206:判断当前颅骨点云是否满足预设条件,若是,执行步骤S208,否则,返回步骤S200。
经过多次迭代,逐步得到稠密越来越大的颅骨点云。在此次步骤中,将当前颅骨点云和预设条件进行对比,基于对比结果确定当前颅骨点云是否满足预设条件。例如,预设条件为颅骨点云的稠密度大于预设稠密度阈值,则将当前颅骨点云的稠密度大于预设稠密度阈值时,确定当前颅骨点云满足预设条件,反之则不满足预设条件。其中,预设条件可以根据具体的应用场景确定,如得到当前颅骨点云的迭代次数达到预设次数阈值、当前颅骨点云的稠密高于预设稠密度阈值等,本说明书对此不做限定。
S208:结束。
基于如图2所示的采用预先训练的预测模型得到颅骨点云的方案,通过将当前人脸点云和预测模型上一次输出的颅骨点云作为预测模型的输入,并经过金字塔式的预测模型,多次迭代输出当前颅骨点云,使得预测模型输出的颅骨点云逐级稠密,提高基于颅骨点云构建出的颅骨表面的准确度。
在本说明书一个或多个实施例中,在如图2步骤S204所示将所述当前人脸点云和预先训练的预测模型上一次输出的颅骨点云输入所述预测模型,得到所述预测模型输出的当前颅骨点云中,可以通过以下方式实施,如图4所示:
S300:从预先训练的预测模型上一次输出的颅骨点云中提取多个关键点。
在本说明书实施例中,可以通过将预测模型上一次输出的颅骨点云和当前人脸点云叠加合并,共同输入到预测模型中,通过预测模型得到当前颅骨点云。在此过程中,可能会存在预测模型输入的点云数量较大,出现预测速度慢或精确度下降的问题。因此,可如图5所示为图3中金字塔式的预测模型的某一层的结构示意图,可以将作为预测模型输入的上一次输出的颅骨点云Bi-1和当前人脸点云Fi的叠加合并后得到的点云进行分簇,以实现分区域预测颅骨点云的目的。采用这种基于预测模型的细粒度预测得到当前颅骨点云的方式,不仅可以提高预测速度,还能够提高颅骨点云的准确度。
具体的,由于对合并后得到的点云进行分簇,实际上达到的效果是,将用户的颅骨的各个不同区域对应的合并后的点云分别输入预测模型,由预测模型分别输出各区域对应的颅骨点云。因此,在此步骤中,可以通过从预测模型上一次输出的颅骨点云中提取多个关键点的方式,以多个关键点作为参考点将用户的颅骨划分为多个区域。其中,提取关键点的方式可以是现有的任一人脸关键点检测方案,本说明书对此不做限定。仍如图5所示,通过对预测模型上一次输出的颅骨点云提取关键点,得到了n个关键点,图5中示例为5个关键点。
在本说明书一个可选的实施例中,在此步骤中所示从预先训练的预测模型上一次输出的颅骨点云中提取多个关键点之前,还可以根据所述当前采样密度,确定关键点的数量,所述关键点的数量与所述当前采样密度正相关。即当前采样密度越大,从预测模型上一次输出的颅骨点云中提取的关键点的数量也就越多,其目的在于,保证预测模型的输入包含的点云数量不过大,提高预测速度,另外,还可以通过对用户颅骨越来越细粒度的划分,提高颅骨点云的预测准确度。基于此,在如图4步骤S300所示从预先训练的预测模型上一次输出的颅骨点云中提取多个关键点时,可以根据所述关键点的数量,从预先训练的预测模型上一次输出的颅骨点云中提取关键点。可以理解的是,在如图3所示的金字塔式的预测模型中,对于每一层而言,在从预测模型的上一次输出中提取关键点时,都可以重新确定关键点的数量,这样,各层之间所对应的提取关键点的数量可以互不相同。例如,对于如图3所示第一层level1而言,其对初始颅骨点云B0提取的关键点的数量可以是5个,进一步,由于对于第二层level2而言,这一层的当前人脸点云对应的当前采样密度大于第一层level1对应的当前采样密度,因此,第二层level2所对应的对颅骨点云B1提取的关键点的数量可以是10个。以此类推,当前采样密度越大,提取的关键点的数量也就越多。
S302:将所述当前人脸点云和所述预测模型上一次输出的颅骨点云合并,得到待处理点云。
具体的,在此步骤中,通过将当前人脸点云和预测模型上一次输出的颅骨点云配准,并且合并叠加的方式,将点云融合,得到待处理点云。待处理点云中包含的各点云可以表征用户的颅颌面的三维颅骨结构,也可以表征用户颅颌面的三维软组织结构。
S304:根据所述待处理点云与各关键点之间的距离,对所述待处理点云进行聚类,得到各点云簇。
针对待处理点云包含的每个点云,确定该点云与各关键点之间的距离,确定该点云距离最近的目标关键点,并将该点云划分到目标关键点对应的点云簇中,以实现对待处理点云的聚类。其中,待处理点云与各关键点之间的距离可以采用现有的任一距离确定方案,如欧氏距离,切比雪夫距离等,本说明书对此不做限定。
S306:针对每个点云簇,将该点云簇包含的待处理点云输入所述预测模型,得到所述预测模型输出的该点云簇对应的点云。
进一步的,将每个点云簇包含的待处理点云作为该点云簇对应的用户颅颌面区域包含的点云,将该点云簇包含的待处理点云输入到预测模型,通过预测模型得到该点云簇对应的用户颅颌面区域对应的颅骨点云。如图5所示,在根据n个关键点和待处理点云xi聚类得到的n个点云簇后,可以直观的观察到是将待处理点云所表征的用户的颅颌面区域划分为n个区域,则每个点云簇包含的待处理点云为xt,其中t的取值范围为[1,n]。
S308:根据所述各点云簇对应的点云,确定当前颅骨点云。
将预测模型分别输出的各点云簇对应的点云进行拼接,得到当前颅骨点云。如图5所示为当前颅骨点云Bi,可见其包含了n个点云簇对应的点云。
在本说明书一个或多个实施例中,在如图1步骤S104所示根据所述颅骨点云,得到所述用户的预测颅骨表面,具体可如下述方案实施:
首先,获取三维颅骨模板。
然后,根据所述三维颅骨模板和所述颅骨点云,得到所述用户的预测颅骨表面。
具体的,获得预测的当前颅骨点云后,采用配准方法,将一个经过挑选的三维颅骨模板配准到预测得到的当前颅骨点云上,并进行曲面重建,得到预测颅骨表面。利用三维颅骨模板进行点云之间线段的建立,实现由点到曲面(mesh)的转换,最终得到一个完整的颅骨表面。
在本说明书一个可选的实施例中,在如图1步骤S104所示对所述三维人脸图像进行采样得到人脸点云之前,还可以对三维人脸图像进行配准,以进一步提高预测模型输出的颅骨点云的准确度,具体的,将所述三维人脸图像与预设的三维医学图像进行配准,得到配准后的三维人脸图像。
将当前人脸点云,采用配准方法到一个经过挑选的三维医学图像上。将配准后的当前人脸点云进行归一化,其中配准的方式可以是现有的任意方式,如迭代最近点(Iterative Closest Point,ICP),配准的目的是对当前人脸点云在预设的三维医学图像的约束下进行形变,以消除噪声和误差。本说明书对配准的具体方式不做限定。
基于上述配准后的三维人脸图像,在如图1步骤S104所示对所述三维人脸图像进行采样得到人脸点云时,可以对所述配准后的三维人脸图像进行采样得到人脸点云。
在本说明书一个或多个实施例中,上述如图1、图2、图3和图4所涉及到的预先训练的预测模型,可以如下述步骤预先训练得到,并如图6所示。
S400:预先获取三维医学图像,并从所述三维医学图像分割得到三维颅骨图像。
在实际应用中,通过医学图像扫描设备获得的三维医学图像中可包含人体组织和颅骨,通过现有的方式将人体组织和颅骨进行分离,即可从三维医学图像中分割得到三维颅骨图像。分割的方式可以是基于机器学习的方式、人工分割的方式、或者基于三维医学图像的指定参数(如CT值)分割的方式,本说明书对此不做限定。
S402:确定人脸点云采样密度和颅骨点云采样密度;所述颅骨点云采样密度大于所述人脸点云采样密度。
在确定了三维颅骨图像后即可从三维颅骨图像中采样得到颅骨点云,并将其作为训练预测模型所用的标注。作为训练预测模型的训练样本的人脸点云可以从三维医学图像中采样得到。为此,需要在采样之前分别确定二者的点云采样密度。
其中,颅骨点云采样密度大于人脸点云采样密度,这样,在基于如图3所示的金字塔式的预测模型进行颅骨点云的预测时,可以实现颅骨点云逐级稠密的目的,以提高颅骨点云的预测准确度。
S404:根据所述人脸点云采样密度对所述三维医学图像进行采样,得到人脸点云作为训练样本。
S406:根据所述颅骨点云采样密度对所述三维颅骨图像进行采样,得到颅骨点云作为所述训练样本的标注。
在本说明书实施例中,为了使得预测模型能够从训练样本及其标注中学习到从人脸点云预测出颅骨点云的能力,将从三维医学图像采样得到的人脸点云作为训练样本,将从三维颅骨图像采样得到的颅骨点云作为训练样本的标注,采用有监督的模型训练方式,对预测模型进行训练。
S408:根据所述训练样本和所述训练样本的标注,训练所述预测模型。
在本说明书一个或多个实施例中,在如图5步骤S408所示根据所述训练样本和所述训练样本的标注,训练所述预测模型,具体通过以下方案实施:
第一步:获取与所述训练样本稠密度相同的指定颅骨点云,所述指定颅骨点云是基于稠密度小于所述训练样本的人脸点云训练完成的预测模型得到的。
在本说明书实施例中,在采用预测模型对用户的颅骨点云进行预测时,可以采用如图3所示的金字塔式的逐级预测的方式,在每一层都基于预测模型预测用户的颅骨点云。其中,每一层预测模型的输入都包含从三维人脸图像采样得到的当前人脸点云,以及预测模型上一次输出的颅骨点云,因此,在预测模型的训练过程中,也可以将训练样本对应的指定颅骨点云同样作为输入,共同参与预测模型的训练。其中,指定颅骨点云为基于稠密度小于所述训练样本的人脸点云训练完成的预测模型得到。例如,对于包含8000个点云的训练样本对预测模型进行训练的过程中,可以引入基于4000个点云的训练样本及其标注训练完成的预测模型,通过将4000个点云的人脸点云输入前述该训练完成的预测模型,得到该预测模型输出的包含8000个点云的颅骨点云,然后,将该预测模型输出的包含8000个点云的颅骨点云作为指定颅骨点云,与包含8000个点云的训练样本共同作为当前预测模型的输入。
第二步:从所述指定颅骨点云中提取多个关键点,并将所述训练样本和所述指定颅骨点云合并,得到待处理点云。
第三步:根据各关键点,将所述待处理点云聚类,得到各点云簇。
第四步:针对每个点云簇,将该点云簇包含的待处理点云输入待训练的预测模型,得到所述预测模型输出的该点云簇对应的预测颅骨点云。
此处与上述如图4所示S300~S308类似,此处不再赘述。
第五步:以所述各点云簇对应的预测颅骨点云和所述训练样本的标注之间的差异的最小化为训练目标,训练所述预测模型。
在此步骤中,由于本说明书实施例中提供的预测模型是通过有监督学习的方式进行训练的,因此,确定各点云簇对应的预测颅骨点云和训练样本的标注之间的差异,并根据差异确定损失,以损失的最小化为训练目标,训练预测模型。
图7为本说明书提供的一种预测装置示意图,具体包括:
人脸图像获取模块500,用于获取用户的人脸图像,其中,所述用户的人脸图像包括二维人脸图像或人脸的深度图像;
三维重建模块502,用于根据所述用户的人脸图像进行三维人脸重建,得到所述用户的三维人脸图像;
颅骨点云预测模块504,用于对所述三维人脸图像进行采样得到人脸点云,并将所述人脸点云输入预先训练的预测模型,得到所述预测模型输出的颅骨点云;所述预测模型是预先根据从三维医学图像采样得到的人脸点云和颅骨点云训练得到的;
预测颅骨表面确定模块506,用于根据所述颅骨点云,得到所述用户的预测颅骨表面。
可选地,所述颅骨点云预测模块504具体用于,迭代执行:根据对所述三维人脸图像的上一次采样的密度,确定当前采样密度,并根据所述当前采样密度对所述三维人脸图像进行当前采样,得到当前人脸点云,将所述当前人脸点云和预先训练的预测模型上一次输出的颅骨点云输入所述预测模型,得到所述预测模型输出的当前颅骨点云,直至所述当前颅骨点云满足预设条件;其中,所述当前采样密度大于上一次采样的密度,所述当前颅骨点云的稠密度大于所述预测模型上一次输出的颅骨点云的稠密度。
可选地,所述颅骨点云预测模块504具体用于,从预先训练的预测模型上一次输出的颅骨点云中提取多个关键点;将所述当前人脸点云和所述预测模型上一次输出的颅骨点云合并,得到待处理点云;根据所述待处理点云与各关键点之间的距离,对所述待处理点云进行聚类,得到各点云簇;针对每个点云簇,将该点云簇包含的待处理点云输入所述预测模型,得到所述预测模型输出的该点云簇对应的点云;根据所述各点云簇对应的点云,确定当前颅骨点云。
可选地,所述颅骨点云预测模块504在从预先训练的预测模型上一次输出的颅骨点云中提取多个关键点之前,所述颅骨点云预测模块504还用于根据所述当前采样密度,确定关键点的数量,所述关键点的数量与所述当前采样密度正相关;
可选地,所述颅骨点云预测模块504具体用于,根据所述关键点的数量,从预先训练的预测模型上一次输出的颅骨点云中提取关键点。
可选地,所述预测颅骨表面确定模块506具体用于,获取三维颅骨模板;根据所述三维颅骨模板和所述颅骨点云,得到所述用户的预测颅骨表面。
可选地,所述装置还包括:
配准模块508,具体用于将所述三维人脸图像与预设的三维医学图像进行配准,得到配准后的三维人脸图像;
可选地,所述颅骨点云预测模块504具体用于,对所述配准后的三维人脸图像进行采样得到人脸点云。
可选地,所述装置还包括:
训练模块510,具体用于预先获取三维医学图像,并从所述三维医学图像分割得到三维颅骨图像;确定人脸点云采样密度和颅骨点云采样密度;所述颅骨点云采样密度大于所述人脸点云采样密度;根据所述人脸点云采样密度对所述三维医学图像进行采样,得到人脸点云作为训练样本;根据所述颅骨点云采样密度对所述三维颅骨图像进行采样,得到颅骨点云作为所述训练样本的标注;根据所述训练样本和所述训练样本的标注,训练所述预测模型。
可选地,所述训练模块510具体用于,获取与所述训练样本稠密度相同的指定颅骨点云,所述指定颅骨点云是基于稠密度小于所述训练样本的人脸点云训练完成的预测模型得到的;从所述指定颅骨点云中提取多个关键点,并将所述训练样本和所述指定颅骨点云合并,得到待处理点云;根据各关键点,将所述待处理点云聚类,得到各点云簇;针对每个点云簇,将该点云簇包含的待处理点云输入待训练的预测模型,得到所述预测模型输出的该点云簇对应的预测颅骨点云;以所述各点云簇对应的预测颅骨点云和所述训练样本的标注之间的差异的最小化为训练目标,训练所述预测模型。
可选地,所述颅骨点云预测模块504具体用于,当不存在对所述三维人脸图像的上一次采样时,确定当前采样密度为初始采样密度;
可选地,所述颅骨点云预测模块504在将所述当前人脸点云和预先训练的预测模型上一次输出的颅骨点云输入所述预测模型,得到所述预测模型输出的当前颅骨点云之前,所述颅骨点云预测模块504还用于,当不存在预先训练的预测模型的上一次输出时,获取与所述当前人脸点云稠密度相同的初始颅骨点云,作为所述预测模型上一次输出的颅骨点云。
本说明书还提供了一种计算机可读存储介质,该存储介质存储有计算机程序,计算机程序可用于执行上述图1所示的预测方法。
本说明书还提供了图8所示的电子设备的示意结构图。如图8所述,在硬件层面,该电子设备包括处理器、内部总线、网络接口、内存以及非易失性存储器,当然还可能包括其他业务所需要的硬件。处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行,以实现上述图1所示的预测方法。当然,除了软件实现方式之外,本说明书并不排除其他实现方式,比如逻辑器件抑或软硬件结合的方式等等,也就是说以下处理流程的执行主体并不限定于各个逻辑单元,也可以是硬件或逻辑器件。
在20世纪90年代,对于一个技术的改进可以很明显地区分是硬件上的改进(例如,对二极管、晶体管、开关等电路结构的改进)还是软件上的改进(对于方法流程的改进)。然而,随着技术的发展,当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此,不能说一个方法流程的改进就不能用硬件实体模块来实现。例如,可编程逻辑器件(Programmable Logic Device,PLD)(例如现场可编程门阵列(Field Programmable GateArray,FPGA))就是这样一种集成电路,其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片PLD上,而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且,如今,取代手工地制作集成电路芯片,这种编程也多半改用“逻辑编译器(logic compiler)”软件来实现,它与程序开发撰写时所用的软件编译器相类似,而要编译之前的原始代码也得用特定的编程语言来撰写,此称之为硬件描述语言(Hardware Description Language,HDL),而HDL也并非仅有一种,而是有许多种,如ABEL(Advanced Boolean Expression Language)、AHDL(Altera Hardware DescriptionLanguage)、Confluence、CUPL(Cornell University Programming Language)、HDCal、JHDL(Java Hardware Description Language)、Lava、Lola、MyHDL、PALASM、RHDL(RubyHardware Description Language)等,目前最普遍使用的是VHDL(Very-High-SpeedIntegrated Circuit Hardware Description Language)与Verilog。本领域技术人员也应该清楚,只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中,就可以很容易得到实现该逻辑方法流程的硬件电路。
控制器可以按任何适当的方式实现,例如,控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(Application Specific Integrated Circuit,ASIC)、可编程逻辑控制器和嵌入微控制器的形式,控制器的例子包括但不限于以下微控制器:ARC625D、Atmel AT91SAM、Microchip PIC18F26K20以及Silicone Labs C8051F320,存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道,除了以纯计算机可读程序代码方式实现控制器以外,完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件,而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至,可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。
上述实施例阐明的系统、装置、模块或单元,具体可以由计算机芯片或实体实现,或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的,计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
为了描述的方便,描述以上装置时以功能分为各种单元分别描述。当然,在实施本说明书时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本领域内的技术人员应明白,本发明的实施例可提供为方法、系统、或计算机程序产品。因此,本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白,本说明书的实施例可提供为方法、系统或计算机程序产品。因此,本说明书可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且,本说明书可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本说明书可以在由计算机执行的计算机可执行指令的一般上下文中描述,例如程序模块。一般地,程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本说明书,在这些分布式计算环境中,由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中,程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于系统实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
以上所述仅为本说明书的实施例而已,并不用于限制本说明书。对于本领域技术人员来说,本说明书可以有各种更改和变化。凡在本说明书的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本说明书的权利要求范围之内。
Claims (10)
1.一种预测方法,其特征在于,包括:
获取用户的人脸图像,其中,所述用户的人脸图像包括二维人脸图像或人脸的深度图像;
根据所述用户的人脸图像进行三维人脸重建,得到所述用户的三维人脸图像;
对所述三维人脸图像进行采样得到人脸点云,并将所述人脸点云输入预先训练的预测模型,得到所述预测模型输出的颅骨点云;
根据所述颅骨点云,得到所述用户的预测颅骨表面。
2.如权利要求1所述的方法,其特征在于,对所述三维人脸图像进行采样得到人脸点云,并将所述人脸点云输入预先训练的预测模型,得到所述预测模型输出的颅骨点云,具体包括:
迭代执行:根据对所述三维人脸图像的上一次采样的密度,确定当前采样密度,并根据所述当前采样密度对所述三维人脸图像进行当前采样,得到当前人脸点云,将所述当前人脸点云和预先训练的预测模型上一次输出的颅骨点云输入所述预测模型,得到所述预测模型输出的当前颅骨点云,直至所述当前颅骨点云满足预设条件;
其中,所述当前采样密度大于上一次采样的密度,所述当前颅骨点云的稠密度大于所述预测模型上一次输出的颅骨点云的稠密度。
3.如权利要求2所述的方法,其特征在于,将所述当前人脸点云和预先训练的预测模型上一次输出的颅骨点云输入所述预测模型,得到所述预测模型输出的当前颅骨点云,具体包括:
从预先训练的预测模型上一次输出的颅骨点云中提取多个关键点;
将所述当前人脸点云和所述预测模型上一次输出的颅骨点云合并,得到待处理点云;
根据所述待处理点云与各关键点之间的距离,对所述待处理点云进行聚类,得到各点云簇;
针对每个点云簇,将该点云簇包含的待处理点云输入所述预测模型,得到所述预测模型输出的该点云簇对应的点云;
根据所述各点云簇对应的点云,确定当前颅骨点云。
4.如权利要求3所述的方法,其特征在于,从预先训练的预测模型上一次输出的颅骨点云中提取多个关键点之前,所述方法还包括:
根据所述当前采样密度,确定关键点的数量,所述关键点的数量与所述当前采样密度正相关;
从预先训练的预测模型上一次输出的颅骨点云中提取多个关键点,具体包括:
根据所述关键点的数量,从预先训练的预测模型上一次输出的颅骨点云中提取关键点。
5.如权利要求1所述的方法,其特征在于,根据所述颅骨点云,得到所述用户的预测颅骨表面,具体包括:
获取三维颅骨模板;
根据所述三维颅骨模板和所述颅骨点云,得到所述用户的预测颅骨表面。
6.如权利要求1所述的方法,其特征在于,对所述三维人脸图像进行采样得到人脸点云之前,所述方法还包括:
将所述三维人脸图像与预设的三维医学图像进行配准,得到配准后的三维人脸图像;
对所述三维人脸图像进行采样得到人脸点云,具体包括:
对所述配准后的三维人脸图像进行采样得到人脸点云。
7.如权利要求1~6任一所述的方法,其特征在于,预先训练预测模型,具体包括:
预先获取三维医学图像,并从所述三维医学图像分割得到三维颅骨图像;
确定人脸点云采样密度和颅骨点云采样密度;所述颅骨点云采样密度大于所述人脸点云采样密度;
根据所述人脸点云采样密度对所述三维医学图像进行采样,得到人脸点云作为训练样本;
根据所述颅骨点云采样密度对所述三维颅骨图像进行采样,得到颅骨点云作为所述训练样本的标注;
根据所述训练样本和所述训练样本的标注,训练所述预测模型。
8.如权利要求7所述的方法,其特征在于,根据所述训练样本和所述训练样本的标注,训练所述预测模型,具体包括:
获取与所述训练样本稠密度相同的指定颅骨点云,所述指定颅骨点云是基于稠密度小于所述训练样本的人脸点云训练完成的预测模型得到的;
从所述指定颅骨点云中提取多个关键点,并将所述训练样本和所述指定颅骨点云合并,得到待处理点云;
根据各关键点,将所述待处理点云聚类,得到各点云簇;
针对每个点云簇,将该点云簇包含的待处理点云输入待训练的预测模型,得到所述预测模型输出的该点云簇对应的预测颅骨点云;
以所述各点云簇对应的预测颅骨点云和所述训练样本的标注之间的差异的最小化为训练目标,训练所述预测模型。
9.一种计算机可读存储介质,其特征在于,所述存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述权利要求1~8任一项所述的方法。
10.一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现上述权利要求1~8任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310109649.6A CN116168154A (zh) | 2023-02-13 | 2023-02-13 | 一种预测方法、装置、设备及可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310109649.6A CN116168154A (zh) | 2023-02-13 | 2023-02-13 | 一种预测方法、装置、设备及可读存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116168154A true CN116168154A (zh) | 2023-05-26 |
Family
ID=86414317
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310109649.6A Pending CN116168154A (zh) | 2023-02-13 | 2023-02-13 | 一种预测方法、装置、设备及可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116168154A (zh) |
-
2023
- 2023-02-13 CN CN202310109649.6A patent/CN116168154A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2019211307A1 (en) | Modality-agnostic method for medical image representation | |
JP4785371B2 (ja) | 動的制約を用いる多次元構造の抽出方法及びシステム | |
CN109448003A (zh) | 一种颅内动脉血管图像分割方法及系统 | |
WO2020118618A1 (zh) | 一种乳腺肿块图像识别方法及装置 | |
CN112150472A (zh) | 基于cbct的三维颌骨图像分割方法、装置及终端设备 | |
EP4141790A1 (en) | Method, device and system for automated segmentation of prostate in medical images for tumor detection | |
CN112150473A (zh) | 基于ct的三维颌骨图像分割建模方法、装置及终端设备 | |
CN111325714A (zh) | 感兴趣区域的处理方法、计算机设备和可读存储介质 | |
Mamdouh et al. | Converting 2D-medical image files “DICOM” into 3D-models, based on image processing, and analysing their results with python programming | |
CN117152442B (zh) | 影像靶区自动勾画方法、装置、电子设备和可读存储介质 | |
Bayat et al. | Cranial implant prediction using low-resolution 3D shape completion and high-resolution 2D refinement | |
CN116524295A (zh) | 一种图像处理方法、装置、设备及可读存储介质 | |
CN116168154A (zh) | 一种预测方法、装置、设备及可读存储介质 | |
CN112734726B (zh) | 一种血管造影的分型方法、装置以及设备 | |
CN113379770B (zh) | 鼻咽癌mr图像分割网络的构建方法、图像分割方法及装置 | |
Sha et al. | A robust segmentation method based on improved U-Net | |
CN111612762B (zh) | Mri脑肿瘤图像生成方法及系统 | |
CN114972026A (zh) | 图像处理方法和存储介质 | |
CN115546094A (zh) | 一种模型的训练方法、ct图像的优化方法及装置 | |
CN115552464A (zh) | 通过预测有符号距离图进行形状感知器官分割 | |
Al-Eiadeh | Automatic Lung Field Segmentation using Robust Deep Learning Criteria | |
CN116152246B (zh) | 一种图像识别方法、装置、设备及存储介质 | |
CN116229218B (zh) | 一种模型训练、图像配准方法及装置 | |
CN115148341B (zh) | 一种基于体位识别的ai结构勾画方法及系统 | |
Morais | Automated computer-aided design of cranial implants: a deep learning approach |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |