CN111105475B - 一种基于正交角度x光的骨骼三维重建方法 - Google Patents
一种基于正交角度x光的骨骼三维重建方法 Download PDFInfo
- Publication number
- CN111105475B CN111105475B CN201911346472.1A CN201911346472A CN111105475B CN 111105475 B CN111105475 B CN 111105475B CN 201911346472 A CN201911346472 A CN 201911346472A CN 111105475 B CN111105475 B CN 111105475B
- Authority
- CN
- China
- Prior art keywords
- dimensional
- recnet
- network
- ray
- output
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
- G06T11/003—Reconstruction from projections, e.g. tomography
- G06T11/006—Inverse problem, transformation from projection-space into object-space, e.g. transform methods, back-projection, algebraic methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
Abstract
本发明公开了一种基于正交角度X光的骨骼三维重建方法,利用两个正交角度的X光,通过深度卷积神经网络,重建出骨骼三维图像;这样最大化利用正交角度的信息,使得重建结果优于常见的平均融合,正交角度X光共享一个重建网络,使得网络复杂度降低、易收敛且实际应用时能以更快的速度完成重建;另外需要的X光临床易得,重建出的骨架为三维结构,解决了X光骨头清晰但严重重叠的问题,为临床提供快捷廉价的医疗辅助诊断技术。
Description
技术领域
本发明属于图像处理技术领域,更为具体地讲,涉及一种基于正交角度X光的骨骼三维重建方法。
背景技术
近年来,医学成像设备的发展对社会医学水平的进步有着非常显著的促进作用。目前,常见的医学成像设备包括但不限于X光机,计算机断层成像机,核磁共振成像(Magnetic resonance imaging,MRI)机等。上述设备的拍片价格,成片质量,成片维数不尽相同。其中X光拍片价格最低,成片快,但是成片为二维图像,成片质量无法与CT与MRI相比。对X光进行处理,得到近似CT图像的效果,能够减少患者拍片成本和缓解医疗资源紧张的现象。
X光被广泛应用于临床的医疗成像。它成像的原理是将人体内的组织全都投影到一个平面,根据不同的组织对X射线的吸收率不同,呈现出人体的二维投影。这样拍摄出的X光会造成大量的重叠覆盖,不同的组织清晰度差异大,如骨头清晰可见,而一些软组织非常模糊。CT也是利用人体不同组织对X射线的吸收能力不同的特点,通过数位几何处理后重建出来的三维医疗影像,一般由上百张切片组成。可以说,CT于X光的成像原理近似,而成像方式不同。相比于X光,CT的优势之一在于将人体组织呈现在三维空间内,然而考虑到CT机价格高昂,普通医院采购及维护困难,设备使用紧张,且拍片辐射较大,对部分患者来说功能过剩,承担了不必要的经济压力和辐射伤害,因此,通过价廉辐射低的X光重建出CT,可替代部分CT机的功能,给患者和医生提供更多辅助医疗手段的选择。
深度学习的飞速发展给通过二维X光重建出胸部骨架的三维CT图像成为可能。2009年Herman采用标准重建算法用上百张X光重建出了精确的CT影像,但该技术需要X光角度过多,无法在临床应用。也有一些学者尝试使用较少的X光通过深度学习重建出三维图像,Henzler等人使用单张X光通过深度卷积神经网络重建出兽头骨的三维图像。
发明内容
本发明的目的在于克服现有技术的不足,提供一种基于正交角度X光的骨骼三维重建方法,使城域网与接入网得到有效融合,同时具有可扩展、高灵活以及低成本的性能。
为实现上述发明目的,本发明一种基于正交角度X光的骨骼三维重建方法,其特征在于,包括以下步骤:
(1)、构建训练数据集
采集不同患者目标部位CT影像,以及目标部位正面及侧面的X光影像,其中,CT影像记为Y,正面及侧面的X光影像记为X1和X2;
将每位患者目标部位的X光影像和CT影像进行归一化处理后,按照(X1,X2,Y)格式存储在训练数据集;
(2)、搭建三维重建网络模型
三维重建网络包括重建子网络RecNet和权重生成子网络WeiNet;
其中,RecNet采用U-net结构,不同之处在于RecNet编码器为二维编码器,其基本结构为DenseNet,解码器为三维解码器,在解码器中增加若干层三维卷积,实现对编码器输出的二维特征转化为三维特征;WeiNet由若干三维卷积层组成;
(X1,X2)先输入至RecNet,RecNet对其权重共享,输出初始重建的二维特征图(Y1,Y2)以及三维特征图(F1,F2),将(F1,F2)再输入至WeiNet,输出三维重建图像Y',Y'=Y1*W+Y2*(1-W),其中,*代表三维矩阵中的对应元素相乘;
(3)、训练三维重建网络模型
(3.1)、初始化三维重建网络模型;
(3.2)、随机选取一组训练数据,将(X1,X2)输入RecNet,此时,WeiNet输出当RecNet网络损失收敛时,冻结RecNet权重,开始训练WeiNet权重,此时,WeiNet输出Y′=Y1*W+Y2*(1-W),当WeiNet网络损失收敛时,得到训练好的三维重建网络模型。
(4)、三维重建骨骼CT
获取目标部位正面及侧面的真实X光影,并对其进行数据预处理,然后输入至训练好的三维重建网络,从而输出重建骨骼CT图。
本发明的发明目的是这样实现的:
本发明基于正交角度X光的骨骼三维重建方法,利用两个正交角度的X光,通过深度卷积神经网络,重建出骨骼三维图像;这样最大化利用正交角度的信息,使得重建结果优于常见的平均融合,正交角度X光共享一个重建网络,使得网络复杂度降低、易收敛且实际应用时能以更快的速度完成重建;另外需要的X光临床易得,重建出的骨架为三维结构,解决了X光骨头清晰但严重重叠的问题,为临床提供快捷廉价的医疗辅助诊断技术。
附图说明
图1是本发明基于正交角度X光的骨骼三维重建方法流程图;
具体实施方式
下面结合附图对本发明的具体实施方式进行描述,以便本领域的技术人员更好地理解本发明。需要特别提醒注意的是,在以下的描述中,当已知功能和设计的详细描述也许会淡化本发明的主要内容时,这些描述在这里将被忽略。
实施例
图1是本发明基于正交角度X光的骨骼三维重建方法流程图。
在本实施例中,如图1所示,本发明一种基于正交角度X光的骨骼三维重建方法,包括以下步骤:
S1、构建训练数据集
采集不同患者目标部位CT影像,以及目标部位正面及侧面的X光影像,其中,CT影像记为Y,正面及侧面的X光影像记为X1和X2,其具体尺寸大小为:两张224*224的二维图像和一张128*28*128的三维图像。
将每位患者目标部位的X光影像和CT影像进行归一化处理后,按照(X1,X2,Y)格式存储在训练数据集;
在本实施例中,具体处理过程为:将CT图经过窗宽为300-1000的阈值分割,生成骨骼CT图,对其和X光做重采样统一尺寸,通过归一化和标准化使其均值为0,标准差为1,数值分布在-1到1之间;
S2、搭建三维重建网络模型
三维重建网络包括重建子网络RecNet和权重生成子网络WeiNet;
其中,RecNet采用U-net结构,不同之处在于RecNet编码器为二维编码器,其基本结构为DenseNet,解码器为三维解码器,在解码器中增加若干层三维卷积,实现对编码器输出的二维特征转化为三维特征;WeiNet由若干三维卷积层组成;
RecNet由编码器和解码器组成,具体结构为:
编码器(Encoder):编码器的输入为正或侧位X光像素数据,输出为多通道二维特征,网络基本结构为DenseNet,其中每个DenseBlock的输出经过Transition Layer得到尺寸降低的特征,作为下一个DenseBlock的输入,每层得到的特征以跳跃连接的方式,传输给解码器相应尺寸的卷积层融合处理;
解码器(Decoder):解码器的输入为编码器输出的多通道二维特征,输出为重建的三维体素数据。输入的多通道二维特征首先经过解码器第一层卷积网络变换为多通道三维特征,然后通过若干个反卷积层不断提升输出特征的尺寸,直到倒数第二层的三维特征尺寸等于设定的重建体素尺寸,最后一层是无上采样的反卷积运算,仅将多通道三维特征合并,不改变三维特征尺寸。
输入的X光图像X1、X2共用同一个RecNet子网络,设Y1、Y2分别为X1、X2的RecNet解码器的输出,Feature1、Feature2为RecNet解码器倒数第二层的输出特征。
权重生成子网络WeiNet,具体结构为:
输入为Feature1,Feature2,由若干层三维卷积构成,每层卷积的输入输出尺寸一致,WeiNet子网络最后一层通过Sigmoid激活函数进行归一化处理,输出与设定重建体素同尺寸的权系数矩阵Weight,最终重建的三维体素Y=Y1*Weight+Y2*(1-Weight),其中*代表三维矩阵中的对应元素相乘。
(X1,X2)先输入至RecNet,RecNet对其权重共享,输出初始重建的二维特征图(Y1,Y2)以及三维特征图(F1,F2),将(F1,F2)再输入至WeiNet,输出三维重建图像Y',Y'=Y1*W+Y2*(1-W),其中,*代表三维矩阵中的对应元素相乘;
S3、训练三维重建网络模型
S3.1、初始化三维重建网络模型;
S3.2、随机选取一组训练数据(X1,X2,Y),将(X1,X2)输入RecNet,此时,WeiNet输出当RecNet网络损失收敛时,冻结RecNet权重,开始训练WeiNet权重,此时,WeiNet输出Y′=Y1*W+Y2*(1-W),当WeiNet网络损失收敛时,得到训练好的三维重建网络模型。
S4、三维重建骨骼CT
获取目标部位正面及侧面的真实X光影,并对其进行数据预处理,然后输入至训练好的三维重建网络,从而输出重建骨骼CT图。
尽管上面对本发明说明性的具体实施方式进行了描述,以便于本技术领域的技术人员理解本发明,但应该清楚,本发明不限于具体实施方式的范围,对本技术领域的普通技术人员来讲,只要各种变化在所附的权利要求限定和确定的本发明的精神和范围内,这些变化是显而易见的,一切利用本发明构思的发明创造均在保护之列。
Claims (1)
1.一种基于正交角度X光的骨骼三维重建方法,其特征在于,包括以下步骤:
(1)、构建训练数据集
采集不同患者目标部位CT影像,以及目标部位正面及侧面的X光影像,其中,CT影像记为Y,正面及侧面的X光影像记为X1和X2;
将每位患者目标部位的X光影像和CT影像进行归一化处理后,按照(X1,X2,Y)格式存储在训练数据集;
(2)、搭建三维重建网络模型
三维重建网络包括重建子网络RecNet和权重生成子网络WeiNet;
其中,RecNet采用U-net结构,不同之处在于RecNet编码器为二维编码器,其基本结构为DenseNet,解码器为三维解码器,在解码器中增加若干层三维卷积,实现对编码器输出的二维特征转化为三维特征;WeiNet由若干三维卷积层组成;
RecNet由编码器和解码器组成,具体结构为:
编码器(Encoder):编码器的输入为正或侧位X光像素数据,输出为多通道二维特征,网络基本结构为DenseNet,其中每个DenseBlock的输出经过Transition Layer得到尺寸降低的特征,作为下一个DenseBlock的输入,每层得到的特征以跳跃连接的方式,传输给解码器相应尺寸的卷积层融合处理;
解码器(Decoder):解码器的输入为编码器输出的多通道二维特征,输出为重建的三维体素数据;输入的多通道二维特征首先经过解码器第一层卷积网络变换为多通道三维特征,然后通过若干个反卷积层不断提升输出特征的尺寸,直到倒数第二层的三维特征尺寸等于设定的重建体素尺寸,最后一层是无上采样的反卷积运算,仅将多通道三维特征合并,不改变三维特征尺寸;
输入的X光图像X1、X2共用同一个RecNet子网络,设Y1、Y2分别为X1、X2的RecNet解码器的输出,Feature1、Feature2为RecNet解码器倒数第二层的输出特征;
权重生成子网络WeiNet,具体结构为:
输入为Feature1,Feature2,由若干层三维卷积构成,每层卷积的输入输出尺寸一致,WeiNet子网络最后一层通过Sigmoid激活函数进行归一化处理,输出与设定重建体素同尺寸的权系数矩阵Weight,最终重建的三维体素Y=Y1*Weight+Y2*(1-Weight),其中*代表三维矩阵中的对应元素相乘;
(X1,X2)先输入至RecNet,RecNet对其权重共享,输出初始重建的二维特征图(Y1,Y2)以及三维特征图(F1,F2),将(F1,F2)再输入至WeiNet,输出三维重建图像Y',Y'=Y1*W+Y2*(1-W),其中,*代表三维矩阵中的对应元素相乘;
(3)、训练三维重建网络模型
(3.1)、初始化三维重建网络模型;
(3.2)、随机选取一组训练数据,将(X1,X2)输入RecNet,此时,WeiNet输出当RecNet网络损失收敛时,冻结RecNet权重,开始训练WeiNet权重,此时,WeiNet输出Y′=Y1*W+Y2*(1-W),当WeiNet网络损失收敛时,得到训练好的三维重建网络模型;
(4)、三维重建骨骼CT
获取目标部位正面及侧面的真实X光影,并对其进行数据预处理,然后输入至训练好的三维重建网络,从而输出重建骨骼CT图。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911346472.1A CN111105475B (zh) | 2019-12-24 | 2019-12-24 | 一种基于正交角度x光的骨骼三维重建方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911346472.1A CN111105475B (zh) | 2019-12-24 | 2019-12-24 | 一种基于正交角度x光的骨骼三维重建方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111105475A CN111105475A (zh) | 2020-05-05 |
CN111105475B true CN111105475B (zh) | 2022-11-22 |
Family
ID=70423553
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911346472.1A Active CN111105475B (zh) | 2019-12-24 | 2019-12-24 | 一种基于正交角度x光的骨骼三维重建方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111105475B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112435341B (zh) * | 2020-11-23 | 2022-08-19 | 推想医疗科技股份有限公司 | 三维重建网络的训练方法及装置、三维重建方法及装置 |
CN112734906B (zh) * | 2020-12-30 | 2022-08-19 | 华东师范大学 | 一种基于知识蒸馏的超声或ct医学影像的三维重建方法 |
CN116385665A (zh) * | 2023-06-02 | 2023-07-04 | 合肥吉麦智能装备有限公司 | 一种面向双模g臂x光机多视角x光图像三维重建方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106373168A (zh) * | 2016-11-24 | 2017-02-01 | 北京三体高创科技有限公司 | 一种基于医疗图像的分割与三维重建方法、3d打印系统 |
WO2017112623A1 (en) * | 2015-12-22 | 2017-06-29 | Carestream Health, Inc. | Tomographic image acquisition using asymmetric pixel binning |
CN108305229A (zh) * | 2018-01-29 | 2018-07-20 | 深圳市唯特视科技有限公司 | 一种基于深度学习轮廓网络的多视图重建方法 |
CN108898642A (zh) * | 2018-06-01 | 2018-11-27 | 安徽工程大学 | 一种基于卷积神经网络的稀疏角度ct成像方法 |
CN109745062A (zh) * | 2019-01-30 | 2019-05-14 | 腾讯科技(深圳)有限公司 | Ct图像的生成方法、装置、设备及存储介质 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9524552B2 (en) * | 2011-08-03 | 2016-12-20 | The Regents Of The University Of California | 2D/3D registration of a digital mouse atlas with X-ray projection images and optical camera photos |
EP3568070B1 (en) * | 2017-01-16 | 2024-01-03 | Philipp K. Lang | Optical guidance for surgical, medical, and dental procedures |
CN109584164B (zh) * | 2018-12-18 | 2023-05-26 | 华中科技大学 | 基于二维影像迁移学习的医学图像超分辨率三维重建方法 |
CN110148160A (zh) * | 2019-05-22 | 2019-08-20 | 合肥中科离子医学技术装备有限公司 | 一种正交x射线影像快速2d-3d医学图像配准方法 |
-
2019
- 2019-12-24 CN CN201911346472.1A patent/CN111105475B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2017112623A1 (en) * | 2015-12-22 | 2017-06-29 | Carestream Health, Inc. | Tomographic image acquisition using asymmetric pixel binning |
CN106373168A (zh) * | 2016-11-24 | 2017-02-01 | 北京三体高创科技有限公司 | 一种基于医疗图像的分割与三维重建方法、3d打印系统 |
CN108305229A (zh) * | 2018-01-29 | 2018-07-20 | 深圳市唯特视科技有限公司 | 一种基于深度学习轮廓网络的多视图重建方法 |
CN108898642A (zh) * | 2018-06-01 | 2018-11-27 | 安徽工程大学 | 一种基于卷积神经网络的稀疏角度ct成像方法 |
CN109745062A (zh) * | 2019-01-30 | 2019-05-14 | 腾讯科技(深圳)有限公司 | Ct图像的生成方法、装置、设备及存储介质 |
Non-Patent Citations (1)
Title |
---|
基于单幅图像的三维形状复原技术研究;赵中滨;《中国优秀硕士学位论文全文数据库 信息科技辑》;20180115(第1期);I138-1770 * |
Also Published As
Publication number | Publication date |
---|---|
CN111105475A (zh) | 2020-05-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10751548B2 (en) | Automated image segmentation using DCNN such as for radiation therapy | |
Kim et al. | A performance comparison of convolutional neural network‐based image denoising methods: The effect of loss functions on low‐dose CT images | |
US11120582B2 (en) | Unified dual-domain network for medical image formation, recovery, and analysis | |
US20200184639A1 (en) | Method and apparatus for reconstructing medical images | |
CN109285200B (zh) | 一种基于人工智能的多模态医学影像的转换方法 | |
CN111105475B (zh) | 一种基于正交角度x光的骨骼三维重建方法 | |
US7734119B2 (en) | Method and system for progressive multi-resolution three-dimensional image reconstruction using region of interest information | |
CN107133996A (zh) | 产生用于pet数据重建的衰减图的方法及pet/ct系统 | |
Sánchez et al. | Segmentation of bones in medical dual-energy computed tomography volumes using the 3D U-Net | |
CN111540025B (zh) | 预测用于图像处理的图像 | |
CN102024251B (zh) | 用于双源ct的基于多图像虚拟非对比图像增强的系统和方法 | |
EP3550515A1 (en) | Cross-modality image synthesis | |
Bai et al. | Probabilistic self‐learning framework for low‐dose CT denoising | |
CN111340903B (zh) | 基于非衰减校正pet图像生成合成pet-ct图像的方法和系统 | |
CN112598649B (zh) | 基于生成对抗网络的2d/3d脊椎ct非刚性配准方法 | |
Anam et al. | Noise reduction in CT images using a selective mean filter | |
US10013778B2 (en) | Tomography apparatus and method of reconstructing tomography image by using the tomography apparatus | |
CN114548238A (zh) | 图像三维重建方法、装置、电子设备及存储介质 | |
EP2886057B1 (en) | Medical imaging apparatus and method of reconstructing medical image | |
Preuhs et al. | Over-exposure correction in CT using optimization-based multiple cylinder fitting | |
WO2023160720A1 (en) | Methods, systems, and storage mediums for image generation | |
CN110176045A (zh) | 一种由单能ct图像生成双能ct图像的方法 | |
US11455755B2 (en) | Methods and apparatus for neural network based image reconstruction | |
US20220414832A1 (en) | X-ray imaging restoration using deep learning algorithms | |
KR102342954B1 (ko) | 인공지능 기반의 단층촬영 영상 인공음영 제거 방법 및 장치 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |