CN107133933B - 基于卷积神经网络的乳腺x线图像增强方法 - Google Patents
基于卷积神经网络的乳腺x线图像增强方法 Download PDFInfo
- Publication number
- CN107133933B CN107133933B CN201710326990.1A CN201710326990A CN107133933B CN 107133933 B CN107133933 B CN 107133933B CN 201710326990 A CN201710326990 A CN 201710326990A CN 107133933 B CN107133933 B CN 107133933B
- Authority
- CN
- China
- Prior art keywords
- neural network
- mammary
- training
- scale
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims abstract description 54
- 238000013527 convolutional neural network Methods 0.000 title claims abstract description 45
- 238000012545 processing Methods 0.000 claims abstract description 28
- 230000008569 process Effects 0.000 claims abstract description 18
- 238000012549 training Methods 0.000 claims description 87
- 238000003062 neural network model Methods 0.000 claims description 34
- 238000005070 sampling Methods 0.000 claims description 29
- 210000005075 mammary gland Anatomy 0.000 claims description 23
- 238000010606 normalization Methods 0.000 claims description 23
- 238000012360 testing method Methods 0.000 claims description 17
- 238000013528 artificial neural network Methods 0.000 claims description 8
- 230000002708 enhancing effect Effects 0.000 abstract description 8
- 230000000007 visual effect Effects 0.000 abstract description 5
- 238000013507 mapping Methods 0.000 abstract description 4
- 230000004913 activation Effects 0.000 description 9
- 210000000481 breast Anatomy 0.000 description 7
- 238000010586 diagram Methods 0.000 description 6
- 230000000694 effects Effects 0.000 description 5
- 238000003745 diagnosis Methods 0.000 description 3
- 206010006187 Breast cancer Diseases 0.000 description 2
- 208000026310 Breast neoplasm Diseases 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000001914 filtration Methods 0.000 description 2
- 238000009607 mammography Methods 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 238000012216 screening Methods 0.000 description 2
- 230000007547 defect Effects 0.000 description 1
- 230000007812 deficiency Effects 0.000 description 1
- 238000005562 fading Methods 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10116—X-ray image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30068—Mammography; Breast
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Apparatus For Radiation Diagnosis (AREA)
- Image Processing (AREA)
Abstract
本发明提出一种基于卷积神经网络的乳腺X线图像增强方法,该发明通过将乳腺X线图像利用深度卷积神经网络低对比度乳腺图像与增强图像之间的深层次的特征映射关系,实现了无复杂操作、无参数调节的低对比度乳腺X线图像增强处理;通过使用多尺度级联方式,解决了在大尺度乳腺X线图像增强处理过程中对复杂网络的需求,同时多尺度级联方式拓宽了简单网络的视野,使小尺度图像下的宏观结构信息能够有效传递给大尺度图像,从而帮助实现保持大尺度增强图像的高分辨率特性。
Description
技术领域
本发明涉及X线图像处理技术领域,特别是涉及一种基于卷积神经网络的乳腺X线图像增强方法。
背景技术
乳腺X线摄影作为常规乳腺检查的影像学手段,已被临床医生广泛应用于乳腺癌的筛查和诊断。但直接由探测器生成的图像量子噪声大,对比度低,无法直接用于乳腺癌的筛查与诊断。如何对原始乳腺X线图像进行增强,突出图像中的有用信息,有效改善乳腺图像的视觉效果,为医生提供更为可靠的诊断依据,已经成为医学图像处理领域研究的关键技术。
到目前为止,已有多种增强算法用于提高乳腺X线图像的图像质量,比如基于滤波的方法、基于直方图均衡化的方法、基于小波变换或者基于模糊集的方法。方法可以大致分为两种:空间域方法和变换域方法。
基于空间域处理的滤波或直方图均衡化方法由于缺乏对噪声与对比度的权衡处理能力,导致处理结果通常会引入各种伪影,如拖尾效应或褪色效应从而使得图像整体表现不好,并且由于乳腺图像的超低对比度,此类方法对乳腺图像的增强效果有限。
变换域处理法增强效果与所选用的频域变换法有很大关系,并且变换过程参数多,难以确定一组普适参数,导致对不同图像的增强效果良莠不齐,虽然可以通过调节参数最终改善图像质量,但是还是不能够满足临床中实时交互的要求。
因此,针对现有技术不足,提供一种基于卷积神经网络的乳腺X线图像增强方法以解决现有技术不足甚为必要。
发明内容
本发明的目的在于避免现有技术的不足之处而提供一种基于卷积神经网络的乳腺X线图像增强方法,该基于卷积神经网络的乳腺X线图像增强方法,本发明通过将乳腺X线图像利用深度卷积神经网络低对比度乳腺图像与增强图像之间的深层次的特征映射关系,实现了无复杂操作、无参数调节的低对比度乳腺X线图像增强处理;通过使用多尺度级联方式,解决了在大尺度乳腺X线图像增强处理过程中对复杂网络的需求,同时多尺度级联方式拓宽了简单网络的视野,使小尺度图像下的宏观结构信息能够有效传递给大尺度图像,从而帮助实现保持大尺度增强图像的高分辨率特性。
本发明的上述目的通过如下技术手段实现。
提供基于卷积神经网络的乳腺X线图像增强方法,图像增强方法包括以下步骤:
A1、构建训练数据库;
A2、进行单尺度乳腺图像增强卷积神经网络训练;
A3、将训练好的单尺度卷积神经网络模型对原始低对比乳腺X线图像进行增强处理;
A4、进行多尺度乳腺图像增强级联卷积神经网络训练;
A5、将训练好的多尺度卷积神经网络模型对原始低对比乳腺X线图像进行增强处理。
具体而言的,步骤A1中构建训练数据库的方法如下:
A11、获取乳腺X线图像数据,包括低对比原始图像数据Ilc和增强图像数据Ihc;
优选的,其特征在于:标准化的具体操作根据以下公式进行:
具体而言的,步骤A2的具体操作步骤如下:
A22、构建单尺度乳腺图像增强卷积神经网络模型EhNet及其对应的训练模型;
进一步的,步骤A3的具体操作步骤如下:
A31、获取原始低对比乳腺X线图像Ilc_test;
进一步的,所述反标准化处理为标准化处理的逆处理。
优选的,步骤A4的具体操作步骤如下:
A42、构建多尺度乳腺图像增强级联卷积神经网络模型CaEhNet及其对应的训练模型,多尺度乳腺图像增强级联卷积神经网络模型CaEhNet包含K+1个单尺度卷积神经网络模型EhNet0,EhNet1,…,EhNetK;
进一步的,所述降采样操作根据以下公式进行操作:
优选的,所述升采样操作为双线性插值或三次B样条差值。
优选的,步骤A5的具体操作步骤如下:
本发明通过将乳腺X线图像利用深度卷积神经网络低对比度乳腺图像与增强图像之间的深层次的特征映射关系,实现了无复杂操作、无参数调节的低对比度乳腺X线图像增强处理;通过使用多尺度级联方式,解决了在大尺度乳腺X线图像增强处理过程中对复杂网络的需求,同时多尺度级联方式拓宽了简单网络的视野,使小尺度图像下的宏观结构信息能够有效传递给大尺度图像,从而帮助实现保持大尺度增强图像的高分辨率特性。
附图说明
利用附图对本发明作进一步的说明,但附图中的内容不构成对本发明的任何限制。
图1是本发明基于卷积神经网络的乳腺X线图像增强方法的系统框图。
图2是图1中单尺度乳腺图像增强卷积神经网络训练的系统流程图。
图3是图2的单尺度乳腺图像增强卷积神经网络构架示意图。
图4是图1中多尺度乳腺图像增强卷积神经网络训练的系统流程图。
图5是图4中多尺度乳腺图像增强卷积神经网络训练的级联网络的示意图。
图6是图5中级联网络的基本单元示意图。
图7是根据本发明图像处理的方法显示的部分特征示意图。
图8为实施例2中输入原始低对比度乳腺X线图像进行增强处理时的输入图像和最终增强处理输出的图像对比图。
具体实施方式
结合以下实施例对本发明作进一步描述。
实施例1。
如图1-6所示,基于卷积神经网络的乳腺X线图像增强方法,图像增强方法包括以下步骤:
A1、构建训练数据库。
A2、进行单尺度乳腺图像增强卷积神经网络训练。
A3、将训练好的单尺度卷积神经网络模型对原始低对比乳腺X线图像进行增强处理。
A4、进行多尺度乳腺图像增强级联卷积神经网络训练。
A5、将训练好的多尺度卷积神经网络模型对原始低对比乳腺X线图像进行增强处理。
步骤A1中构建训练数据库的方法如下:
A11、获取乳腺X线图像数据,包括低对比原始图像数据Ilc和增强图像数据Ihc。
标准化的具体操作根据以下公式进行:
步骤A2的具体操作步骤如下:
A22、构建单尺度乳腺图像增强卷积神经网络模型EhNet及其对应的训练模型。
步骤A3的具体操作步骤如下:
A31、获取原始低对比乳腺X线图像Ilc_test。
步骤A4的具体操作步骤如下:
A42、构建多尺度乳腺图像增强级联卷积神经网络模型CaEhNet及其对应的训练模型,多尺度乳腺图像增强级联卷积神经网络模型CaEhNet包含K+1个单尺度卷积神经网络模型EhNet0,EhNet1,…,EhNetK。
所述降采样操作根据以下公式进行操作:
所述升采样操作为双线性插值或三次B样条差值。
步骤A5的具体操作步骤如下:
使用深度卷积神经网络进行乳腺X线图像的增强处理,可以增强图形图像的整体表现性,解决了乳腺图像的超低对比度图像的增强时所受到的限制。并结合多尺度级联方式进行乳腺X线图像的增强处理,能够使乳腺图片在频繁的进行更换和处理过程中,保证不同图像增强效果的稳定,以满足临床中的实时交互的需求。
实施例2。
一种基于卷积神经网络的乳腺X线图像增强方法,其它特征与实施例1相同,不同之处在于:如图7和8所示;
A1、构建训练数据库。
S11、获取乳腺X线摄影装置的原始低对比度图像Ilc以及所对应的增强图像Ihc,获取的数据包括30个病人的左右乳腺CC位图像和MLO位图像共240=30×4×2张图像,其中原始低对比度图像120张;增强图像120张;低对比度图像与对应的增强图像空间位置与结构信息一致;图像像素尺寸为0.0652mm,图像大小为3328×2560。
A2、进行单尺度乳腺图像增强卷积神经网络训练;
S22构建单尺度乳腺图像增强卷积神经网络模型EhNet及其对应的训练模型。EhNet卷积神经网络模型输入为原始低对比度图像、输出为增强图像;包含20个卷积层,第1层卷积层卷积核大小为7×7、卷积核数目为64,非线性激活函数为ReLU函数,且不含批归一化(batch normalization)操作;第2层到第19层卷积层卷积核大小为3×3×64、卷积核数目为64,非线性激活函数为ReLU函数,含有批归一化(batch normalization)操作;最后一层卷积层卷积核大小为3×3×64、卷积核数目为1,不含非线性激活函数和批归一化(batchnormalization)操作;训练模型的目标函数可为预测的增强图像与参考增强图像之间的均方误差。卷积神经网络的训练采用随机梯度下降算法最小化目标函数完成。
A3、将训练好的单尺度卷积神经网络模型对原始低对比乳腺X线图像进行增强处理。
S31、获取原始低对比度乳腺X线图像Ilc_test;Ilc_test不存在于训练数据库DataBase中;但是DataBase中的数据格式一致。
A4、进行多尺度乳腺图像增强级联卷积神经网络训练。
S42、构建多尺度乳腺图像增强级联卷积神经网络模型CaEhNet及其对应的训练模型,其中CaEhNet包含4个单尺度卷积神经网络模型EhNet0,EhNet1,EhNet2,EhNet3;EhNet3卷积神经网络模型输入为原始低对比度图像、输出为增强图像;包含20个卷积层,第1层卷积层卷积核大小为7×7、卷积核数目为64,非线性激活函数为ReLU函数,且不含批归一化操作;第2层到第19层卷积层卷积核大小为3×3×64、卷积核数目为64,非线性激活函数为ReLU函数,含有批归一化操作;最后一层卷积层卷积核大小为3×3×64、卷积核数目为1,不含非线性激活函数和批归一化操作;EhNet0,EhNet1,EhNet2卷积神经网络模型输入为原始低对比度图像和前级尺度升采样后的增强图像、输出为增强图像;包含20个卷积层,第1层卷积层卷积核大小为7×7×2、卷积核数目为64,非线性激活函数为ReLU函数,且不含批归一化操作;第2层到第19层卷积层卷积核大小为3×3×64、卷积核数目为64,非线性激活函数为ReLU函数,含有批归一化操作;最后一层卷积层卷积核大小为3×3×64、卷积核数目为1,不含非线性激活函数和批归一化操作;训练模型的目标函数可为预测的增强图像与参考增强图像之间的均方误差。卷积神经网络的训练采用随机梯度下降算法最小化目标函数完成。
S413、训练完成。
A5、将训练好的多尺度卷积神经网络模型对原始低对比乳腺X线图像进行增强处理。
本发明通过大量乳腺X线图像利用深度卷积神经网络技术学习了低对比度乳腺图像与增强图像之间的深层次的特征映射关系,实现了无复杂操作,无参数调节的低对比度乳腺X线图像增强处理。通过多尺度级联方式解决了在大尺度乳腺X线图像增强处理过程中对复杂网络的需求;同时多尺度级联方式拓宽了简单网络的视野,使小尺度图像下的宏观结构信息能够有效传递给大尺度图像,从而帮助实现保持大尺度增强图像的高分辨率特性。
最后应当说明的是,以上实施例仅用以说明本发明的技术方案而非对本发明保护范围的限制,尽管参照较佳实施例对本发明作了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或者等同替换,而不脱离本发明技术方案的实质和范围。
Claims (7)
1.基于卷积神经网络的乳腺X线图像增强方法,其特征在于:图像增强方法包括以下步骤:
A1、构建训练数据库;
A2、进行单尺度乳腺图像增强卷积神经网络训练;
A3、将训练好的单尺度卷积神经网络模型对原始低对比乳腺X线图像进行增强处理;
A4、进行多尺度乳腺图像增强级联卷积神经网络训练;
A5、将训练好的多尺度卷积神经网络模型对原始低对比乳腺X线图像进行增强处理;
步骤A3的具体操作步骤如下:
A31、获取原始低对比乳腺X线图像Ilc_test;
步骤A4的具体操作步骤如下:
A42、构建多尺度乳腺图像增强级联卷积神经网络模型CaEhNet及其对应的训练模型,多尺度乳腺图像增强级联卷积神经网络模型CaEhNet包含K+1个单尺度卷积神经网络模型EhNet0,EhNet1,…,EhNetK;
步骤A5的具体操作步骤如下:
5.根据权利要求4所述的基于卷积神经网络的乳腺X线图像增强方法,其特征在于:所述反标准化处理为标准化处理的逆处理。
7.根据权利要求6所述的基于卷积神经网络的乳腺X线图像增强方法,其特征在于:所述升采样操作为双线性插值或三次B样条差值。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710326990.1A CN107133933B (zh) | 2017-05-10 | 2017-05-10 | 基于卷积神经网络的乳腺x线图像增强方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710326990.1A CN107133933B (zh) | 2017-05-10 | 2017-05-10 | 基于卷积神经网络的乳腺x线图像增强方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN107133933A CN107133933A (zh) | 2017-09-05 |
CN107133933B true CN107133933B (zh) | 2020-04-28 |
Family
ID=59731386
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710326990.1A Expired - Fee Related CN107133933B (zh) | 2017-05-10 | 2017-05-10 | 基于卷积神经网络的乳腺x线图像增强方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN107133933B (zh) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10402943B2 (en) * | 2016-10-20 | 2019-09-03 | Htc Corporation | Image enhancement device and method for convolutional network apparatus |
CN108492271B (zh) * | 2018-03-26 | 2021-08-24 | 中国电子科技集团公司第三十八研究所 | 一种融合多尺度信息的自动图像增强系统及方法 |
CN109102468B (zh) * | 2018-06-27 | 2021-06-01 | 广州视源电子科技股份有限公司 | 图像增强方法、装置、终端设备及存储介质 |
CN109363697B (zh) * | 2018-10-16 | 2020-10-16 | 杭州依图医疗技术有限公司 | 一种乳腺影像病灶识别的方法及装置 |
CN109345485B (zh) * | 2018-10-22 | 2021-04-16 | 北京达佳互联信息技术有限公司 | 一种图像增强方法、装置、电子设备及存储介质 |
CN111223058B (zh) * | 2019-12-27 | 2023-07-18 | 杭州雄迈集成电路技术股份有限公司 | 一种图像增强方法 |
US12094080B2 (en) | 2022-09-13 | 2024-09-17 | Shanghai United Imaging Intelligence Co., Ltd. | System and method for magnifying an image based on trained neural networks |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105447866A (zh) * | 2015-11-22 | 2016-03-30 | 南方医科大学 | 基于卷积神经网络的x线胸片骨抑制处理方法 |
-
2017
- 2017-05-10 CN CN201710326990.1A patent/CN107133933B/zh not_active Expired - Fee Related
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105447866A (zh) * | 2015-11-22 | 2016-03-30 | 南方医科大学 | 基于卷积神经网络的x线胸片骨抑制处理方法 |
Non-Patent Citations (3)
Title |
---|
Mapping mammary gland architecture using multi-scale in situ analysis;Rodrigo Fernandez-Gonzalez et al.;《NIH Public Access》;20090131;第1-21页 * |
Thermal Image Enhancement using Convolutional Neural Network;Yukyung Choi et al.;《IEEE》;20161201;第223-230页 * |
基于神经网络的低照度真彩色图像增强;窦易文 等;《计算机工程与设计》;20101231;第31卷(第12期);第2835-2841页 * |
Also Published As
Publication number | Publication date |
---|---|
CN107133933A (zh) | 2017-09-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107133933B (zh) | 基于卷积神经网络的乳腺x线图像增强方法 | |
CN110706246B (zh) | 一种血管图像分割方法、装置、电子设备和存储介质 | |
US8204292B2 (en) | Feature based neural network regression for feature suppression | |
CN110689525B (zh) | 基于神经网络识别淋巴结的方法及装置 | |
CN110956632B (zh) | 钼靶图像中胸大肌区域自动检测方法及装置 | |
CN116630762A (zh) | 一种基于深度学习的多模态医学图像融合方法 | |
Ning et al. | Multi-scale gradational-order fusion framework for breast lesions classification using ultrasound images | |
Senthil et al. | Enhancement Sushisen algorithms in images analysis technologies to increase computerized tomography images | |
CN106228198B (zh) | 一种医疗ct图像的超分辨率识别方法 | |
Li et al. | Multi-scale residual denoising GAN model for producing super-resolution CTA images | |
Kottath et al. | Image preprocessing techniques in skin diseases prediction using deep learning: A review | |
Nithya et al. | An Efficient PM-Multisampling Image Filtering with Enhanced CNN Architecture for Pneumonia Classfication | |
Rashid et al. | Single MR image super-resolution using generative adversarial network | |
Yang et al. | Quasi-supervised learning for super-resolution PET | |
Kipele et al. | Poisson noise reduction with nonlocal-pca hybrid model in medical x-ray images | |
Fonseca et al. | X-ray image enhancement: A technique combination approach | |
CN104392452A (zh) | 一种基于应用的dicom医学图像处理方法 | |
Zheng et al. | SR-CycleGAN: super-resolution of clinical CT to micro-CT level with multi-modality super-resolution loss | |
Won et al. | Low-dose CT denoising using octave convolution with high and low frequency bands | |
Mane et al. | CNN-Based Medical Image Restoration Using Customized Adaptive Histogram Equalization | |
CN112785580A (zh) | 确定血管流速的方法及装置 | |
Huang et al. | Deep local-to-global feature learning for medical image super-resolution | |
Poonam et al. | Image enhancement with different techniques & aspects | |
Patibandla et al. | CT Image Precise Denoising Model with Edge Based Segmentation with Labeled Pixel Extraction Using CNN Based Feature Extraction for Oral Cancer Detection | |
Song et al. | Super resolution reconstruction of medical image based on adaptive quad-tree decomposition |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20200428 |
|
CF01 | Termination of patent right due to non-payment of annual fee |