CN106339591B - 一种基于深度卷积神经网络的预防乳腺癌自助健康云服务系统 - Google Patents
一种基于深度卷积神经网络的预防乳腺癌自助健康云服务系统 Download PDFInfo
- Publication number
- CN106339591B CN106339591B CN201610733877.0A CN201610733877A CN106339591B CN 106339591 B CN106339591 B CN 106339591B CN 201610733877 A CN201610733877 A CN 201610733877A CN 106339591 B CN106339591 B CN 106339591B
- Authority
- CN
- China
- Prior art keywords
- convolutional neural
- neural networks
- breast
- layer
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Bioinformatics & Computational Biology (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
- Apparatus For Radiation Diagnosis (AREA)
- Image Processing (AREA)
Abstract
本发明公开一种基于深度卷积神经网络的预防乳腺癌自助健康云服务系统,主要包括用于深度学习和训练识别的卷积神经网络、基于全卷积神经网络的从乳腺钼靶摄片图像中乳房区域的分割模块、用于BI‑RADS分类和评估的深度卷积神经网络和一种用于根据所识别的乳腺内结构、肿块和钙化类型进行乳房自助健康云服务平台。本发明能有效提高基于移动互联网乳腺癌筛查的自动化和智能化水平、能让更多妇女了解并参与自助健康检测、评估、指导,进而提高民众的健康意识,增加自我健康管理能力。
Description
技术领域
本发明涉及医学影像诊断、移动互联网、数据库管理、计算机视觉、图像处理、模式识别、深度神经网络和深度学习等技术在自助式健康保健领域的应用,尤其涉及一种基于深度卷积神经网络的乳腺癌早期发现和早期诊断的自助健康云服务系统。
背景技术
近几年来,乳腺癌在我国的发生率逐年上升,尤其是在一些大城市,如上海、北京等地,乳腺癌在女性的恶性肿瘤发病率中已跃居首位。
筛查是乳腺癌早期检出的重要手段,高质量的乳腺摄影检查(即钼靶摄片)结合临床门诊、乳腺超声检查是目前最主要的筛查方式。乳腺钼靶摄片是目前国际上公认的检查乳腺疾病中最为简单、便捷、准确的方法。随着高频及数字乳腺机的广泛使用,使乳腺微小病灶及细微钙化灶的显示率达到95%,极大地提高了乳腺癌的早期检出率。研究表明乳腺癌的早期发现和早期诊断的预后率达到95%。
目前在经济比较发达地区,在健康普查时对40岁以上的妇女都进行乳腺钼靶摄片技术来检查是否有乳腺疾病。然而对大量普查乳腺图片进行诊断,对于放射科医生来说是一项艰巨任务。诊断病例是一个主观判断历程,会受到医生的经验、知识水平与疲劳程度的影响;其次诊断时,尤其是在普查中,容易遗漏某些细微改变,如乳腺内的细微钙化等。可见放射科医生在病例诊断过程中漏诊、误诊的情况是不可避免的。目前预防与治疗乳腺癌的关键还是在于“早发现、早诊断,早治疗”。钼靶摄片是目前乳腺疾病最主要的诊断手段。放射科医生对于乳腺癌的漏诊率达15%~30%,乳腺癌普查时这个比例还更高,尤其对于早期病变在确定乳腺内肿块与微小钙化有时十分困难。
研究表明两位放射科医师对同一病例进行诊断可以明显提高诊断的准确率。为缓解放射科医师的工作强度以及提高临床诊断的准确性,特别是降低真阳性病例误诊的概率,计算机辅助诊断开始被广泛应用于临床诊断中。
目前,医学影像学中的计算机辅助诊断技术通常可以分为三类:(1)图像分割处理。图像处理的是让计算机易于识别可能存在的病变,让计算机从复杂的解剖背景中将病变及可疑结构识别出来。如乳腺癌图像,需要先分割出乳房部位;然后针对各种病变运用不同的图像处理方法,基本原则是图像增强与过滤将可疑病变从正常解剖背景中分离、显示出来;(2)特征描述与图像分析。对图像中感兴趣的目标进行检测和测量(特征提取),它是一个从图像到数据的过程。最为典型的就是运用计算机视觉进行辅助检测(ComputerAided Detection)。当进行诊断工作时,计算机视觉提取出感兴趣区域(Range OfInterest,ROI),提醒要特别注意这些区域的细微改变。而对于感兴趣区域的性质的识别,还是需要人工判断,这样可以减轻放射科医生的工作强度;(3)图像理解。研究图像中各目标的性质和相互关系、理解图像含义。它是一个从图像到高级描述、识别的过程,这就是计算机人工智能的高级阶段-计算机辅助诊断。这个阶段计算机收集大量同病种、同部位的影像学信息建立“知识库”。利用机器学习技术针对“知识库”进行训练,使计算机“学会”根据以往的“经验”对当前的影像病变做出诊断建议。这些医学影像学中的计算机辅助诊断技术属于前深度学习时代的计算机视觉技术。
中国发明专利申请号为201510031345.8公开了一种基于核自优化Fisher判别的X光乳腺组织图像分类方法,该方法包括图像预处理和分类两个关键步骤。首先预处理过程包括乳腺背景、标签以及肌肉组织的去除,然后用提出的核自优化Fisher判别分类器进行乳腺组织分类。该分类器包括四个阶段框架,第一步:标签去除,第二步:胸肌去除,利用形态滤波和CCL算法去除胸肌部分。第三步:特征提取,计算无背景、标签和胸肌的像素的统计特征,包括平均值、标准差、平滑度、平均直方图、均匀度、峰度,组成统计特征向量。第四步:分类,采用增强核Fisher判别,即核自优化Fisher判别进行分类输入图像的统计特征。
中国发明专利申请号为200710052747.1公开了一个基于乳腺X线摄片的乳腺癌计算机辅助诊断系统。该发明首先给系统输入一个待诊断的乳腺X线摄片,通过感兴趣区域提取模块、可疑肿块区域分割模块和可疑肿块区域的特征提取模块的处理,得到有关可疑肿块区域的一系列相关特征值,然后将这些特征值输入已训练的分类器对可疑肿块区域进行分类识别,最后将计算机自动检测的最终可疑肿块区域的分割结果定位在输入的待诊断的乳腺X线摄片上,提示放射科医生需要重点关注的区域和区域相关重点参数。
中国发明专利申请号为201510219765.9公开了一种基于分形的早期乳腺癌钙化点计算机辅助检测方法。包括如下步骤:1.利用直方图均衡化、高通滤波器、Sobel边缘检测的图像处理方法,找到疑似乳腺癌钙化点的感兴趣区域;2.基于分形理论,提取感兴趣区域的纹理特征,即分形谱和分形维数;3.通过机器学习的方法,找到将含有钙化点的乳腺X光片与未含有钙化点的医学图像分类的约束条件,以此约束条件作为判断乳腺X光片是否含有钙化点。
中国发明专利申请号为201610040330.2公开了一种乳腺癌病理学图像有丝分裂核自动分割方法,该方法首先根据BR图的不同尺度LoG滤波的最大响应初略估计出前景像素和背景像素。在此基础上对当前的前景像素和背景像素分别训练一个高斯混合模型GMM以描述前景像素和背景像素的颜色分布;并建立s-t图G={V,E},通过计算图G的最大流实现了对前景和背景的新的估计,然后重复GMM训练和Graph-Cut分割,直到收敛或满足规定的迭代次数。最后对分割的结果进行形态学的开操作,完成最终的分割。
中国发明专利申请号为201410081928.7公开了一种乳腺癌检测方法和装置。该方法包括:获取同一受检者同侧乳房的多幅影像;依次对每幅影像进行如下处理:提取该影像的内外侧斜位视图中的第一乳房区域以及该影像的头尾轴位视图中的第二乳房区域;提取该影像中第一乳房区域和第二乳房区域的图像特征;判断该影像以及已处理影像中第一乳房区域和第二乳房区域对应区域的图像特征是否匹配;若是,或者若否且不存在未处理影像,则判断每个对应区域是否为可疑区域,并对判断为可疑区域的对应区域的真伪性进行分析评估;若否且存在未处理影像,则对下一幅未处理影像进行处理。
上述几项发明所公开的医学影像学中的计算机辅助诊断技术属于前深度学习时代的计算机视觉技术,在乳腺癌病理学图像的特征描述、特征提取以及识别分类方面需要大量的人工干预。
乳腺癌是“女性头号杀手”,女性在她一生当中,患上乳腺癌的机率是十分之一,乳腺癌的阴影时刻笼罩在每一位女性的头顶上。我国乳腺癌发病有两大特点,一是发病年龄提前10-15年,二是中晚期病例较多。
自助健康的目的是让更多中老年妇女了解并参与自助健康检测、评估、指导,进而提高中老年妇女的健康意识,增加自我健康管理能力。自助健康检测设备最好是要简单易行,民众容易掌握的设备,要充分鼓励和提高自我管理的参与能力。
自助健康检测不是一般意义上的健康检测,是肩负着具有一定公共卫生职能的自助健康检测,是卫生部门根据控制慢性病,解决人们的不良生活方式提出来的,是将传统的医生管理病人模式转变成医患结合、病人自助和主动参与的新的管理模式。在内容上就不仅仅是“体检”这样简单了,还应包括慢病干预,疾病指导。
中老年妇女随时通过手机等通信设备查阅这个平台相关的健康知识、危险因素评估、健康自诊和获得“健康处方”,形成了一套以“医患合作、人机互动、健康自理”为核心内容的行为干预服务模式。随着移动互联网技术的发展和智能手机的普及,基于移动互联网的自助健康云服务行业将在这个背景下诞生与发展。
管理科学和行为医学的发展也为健康管理学的出现提供了理论和实践基础。移动互联网的出现和信息产业的兴起为健康管理学的起飞安上了翅膀。健康管理作为一门新兴学科对我国的健康资源管理和可持续发展将起到不可替代的作用。
乳腺钼靶摄片诊断要点:
a小结节:一般至少需直径0.5cm时才能被发现。多数呈分叶状或不规则形,边缘模糊浸润或有毛刺,少数界限较清晰、锐利。
b钙化:亚临床乳腺癌中,半数以上可见钙化,其40%为唯一的阳性X线征,钙化多呈丛状,针尖样或线样、弧线样、分支状,有些为不规则形态的钙化。
c局限性结构扭曲:由于癌灶周围纤维组织增生反应所致。
d局限性致密和进行性致密:两侧乳腺对比有一局限不对称致密区,特别是此致密区进行性发展,考虑癌的早期征象。
e导管不对称或单支导管扩张:两侧乳腺导管基本对称,当一侧导管增粗,数目增多,或某一单支导管外形粗糙、致密,提示早期癌可能
作为基于移动互联网的自助健康云服务,首先是具有健康精准营销的意义。将其作为一种医疗增值服务,看重的是背后的用户数据;用户可以用自己的手机拍摄钼靶摄片图像,发送给自助健康云服务平台,健康云服务平台根据用户不同的健康评估结果,推送不同产品,包括各种的快速诊所服务;然后,具有健康服务入口的意义。而对于药房或者药品生产厂商,早期乳腺癌自诊自测和健康评估结果可以成为药品和后续服务的入口;最后,是让用户通过健康云服务平台实现各种互动。正因为自测用户大都是有健康风险,如保险公司将自测作为和用户互动的前端,保险公司根据用户的测评情况,为其推荐健康管理等服务;最重要的是通过健康云服务平台可以建立医患合作的信任基础,即实现一种自助式的智能导医,推动移动医疗产业的发展和应用。
自助健康=①网上的计算机辅助诊断服务(健康指导)+②专家临床诊断门诊治疗服务+③自助和主动参与;自助健康云服务平台将整合上述三个内容;
深度学习是一种目的在于建立、模拟人脑进行分析学习的深度网络,它模仿人脑的机制来解释图像数据,为网上的计算机辅助诊断服务奠定了坚实的技术基础。
深度学习通过组合低层特征形成更加抽象的高层表示属性类别或特征,以发现数据的分布式特征表示。它显著的优点是可抽象出高级特征,构建出复杂高性能的模型。鉴于深度学习这些优点是非常适合于乳腺癌特征的描述和提取的。
卷积神经网络,即CNN,是深度学习算法的一种,是专门处理图像领域中的模式识别,同时也是目前图像模式识别中成果最惊人的算法。卷积神经网络算法的好处在于训练模型的时候不需要使用任何人工特征,算法可以自动探索图像所隐含的特征,可以作为一种十分理想的乳腺钼靶摄片辅助诊断技术。
随着社会各方面的进步,人们生活水平的提高,大家也越来越关注越发突出的亚健康问题和自身保健问题,愿意为个人健康投资,更希望能简单地从乳腺癌筛查从而了解身体的健康状态;另一方面,信息科学技术的飞速发展,移动互联网、深度学习、计算机视觉等技术的成熟与发展,基于深度卷积神经网络的预防乳腺癌自助健康云服务系统的建设具有十分重要的社会意义和应用价值。
综上所述,采用基于深度学习的卷积神经网络进行乳腺癌早期诊断,目前尚存在着如下若干个棘手的问题:1)如何从复杂的背景中准确分割出乳房的整体图像;2)如何尽可能采用极少的标签乳腺癌图像数据来准确获得乳腺癌的各种特征数据;3)如何构建一个高度自动化的预防乳腺癌自助健康云服务系统;4)如何通过深度学习和网络训练来自动获取乳腺癌特征数据;5)如何使得用户方便地利用移动互联网和智能手机实现自身保健,实现乳腺癌的早发现、早诊断及早治疗;6)如何为用户提供更为精准、更为方便、更为廉价、更为有效的健康云服务。
发明内容
为了克服已有的基于计算机视觉的乳腺钼靶摄片辅助诊断技术中的自动化和智能化水平低、缺乏深度学习、难以描述乳腺癌特征数据、难以用最简单的方式实现早期乳腺癌发现、难以为用户提供更为方便廉价精准专业的健康云服务等不足,本发明提供一种基于深度卷积神经网络的预防乳腺癌自助云服务平台,能有效提高基于移动互联网乳腺钼靶摄片辅助诊断的自动化和智能化水平、能让更多中老年妇女了解并参与自助健康检测、评估、指导,健康教育女性乳房自查方法与技巧,防微杜渐,进而提高民众的健康意识,增加自我健康管理能力,将乳腺癌消灭在萌芽状态。
健康管理服务的特点是标准化、量化、个体化和系统化。健康管理的具体服务内容和工作流程必须依据循证医学和循证公共卫生的标准和学术界已经公认的预防和控制指南及规范等来确定和实施。
循证中国抗癌协会乳腺癌诊治指南与规范要求,要实现上述发明内容,必须要解决几个核心问题:(1)设计一种基于全卷积神经网络的从乳腺钼靶摄片图像中乳房区域的分割方法;(2)研发一种深度学习方法,实现基于深度卷积神经网络对乳腺癌特征,如乳腺内结构、肿块和钙化的自动描述和特征提取;(3)设计一种用于乳腺癌诊断分类的深度卷积神经网络方法,形成一种实用的乳腺癌自动识别和诊断技术;(4)实现一个真正意义上的基于深度卷积神经网络的预防乳腺癌自助健康云服务系统的框架。
预防乳腺癌自助健康云服务系统的使用及准备工作:用手机或者其他移动设备拍摄获取乳腺钼靶摄片图像时,用户先将电脑屏幕打开空白的word或者PPT,全屏显示后,将片子放置在电脑屏幕前,然后打开智能手机上的相机软件;在影像片拍照时,要看清上面的汉字或英文字母,字的方向通常就是片子的正确方向,要放正位置拍照;然后在手机或数码相机上进行预览,质量好的标准是能够清晰地看见英文字母;如果显示模糊,说明拍照时手抖动了或没有正确对焦,需要删除重拍;最后将乳腺钼靶摄片图像通过手机上的微信或者彩信或者QQ发送给健康云服务平台;
循证中国抗癌协会乳腺癌诊治指南与规范,要实现上述发明内容,必须要解决几个核心问题:(1)设计一种基于深度卷积神经网络的乳房分割方法;(2)研发一种深度学习方法,实现基于深度卷积神经网络对各种乳腺癌特征,如乳腺内结构、肿块和钙化的自动描述和特征提取;(3)设计一种用于BI-RADS识别分类的深度卷积神经网络方法,形成一种实用的给每1个病变作完整的分类和评估及乳腺癌自动识别和辅助诊断技术;(4)实现一个真正意义上的基于深度卷积神经网络的预防乳腺癌自助云服务平台的框架。
本发明解决其技术问题所采用的技术方案是:
一种基于深度卷积神经网络的预防乳腺癌自助健康云服务系统,包括用于深度学习和训练识别的卷积神经网络、基于全卷积神经网络的从乳腺钼靶摄片图像中乳房区域的分割模块、用于乳腺癌诊断分类的深度卷积神经网络和用于根据所识别的BI-RADS类型进行早期预防和治疗的自助健康云服务平台;
所述的卷积神经网络,共分为八层,由卷积层、激活层和下采样层交替构成的深度结构;输入图像在网络中进行层层映射,得到各层对于图像不同的表示形式,实现图像的深度表示;
所述的分割模块,对应的分割方法包括:采用全卷积神经网络,就是将所述的卷积神经网络改为全卷积神经网络,在所述的卷积神经网络的全连接层改为反卷积层,输入一幅图像后直接在输出端得到密集预测,也就是每个像素所属的类,从而得到一个端对端的方法来实现从乳腺钼靶摄片图像中乳房对象图像语义分割;
所述的深度卷积神经网络是在所述的卷积神经网络的第八层的全连接层后连接了一个Softmax分类器,用于对BI-RADS类型进行分类识别;
所述的自助健康云服务平台,包括:用于发送乳腺钼靶摄片图像的用户终端,接收和读取用户发送过来的乳腺钼靶摄片图像的图像读取模块,以用户访问平台的装备的用户名或号码为文件夹名的文件夹生成模块,基于深度卷积神经网络对分割后的乳房区域图像进行分类的BI-RADS类型分类模块,存放有以BI-RADS类型为索引的生成健康咨询文件的早期预防和治疗的健康文件生成模块,用于将用户的健康咨询文件反馈给访问用户的文件自动传输模块,用于将早期预防和治疗的健康咨询文件提供给用户到所述的健康云服务平台的网站上下载的下载服务模块。
所述的卷积神经网络,共分为八层,卷积神经网络是由卷积层、激活层和下采样层交替构成的深度结构;
第一层:输入图像数据为224×224像素图像,填充值是3,输出数据227×227×3;然后经过96个过滤器、窗口大小为11×11、步长为4的卷积层1处理,得到[(227-11)/4]+1=55个特征,以后的层就分为两组处理,输出特征为55×55×96,然后进行ReLU激活层1处理,输出特征为55×55×96,经过池化层1进行最大池化3×3的核,步长为2,得到[(55-3+1)/2]+1=27个特征,总的特征数为27×27×96,然后进行正则化处理,用于求和的通道数为5,最后得到27×27×96数据;
第二层:输入数据27×27×96,填充值是2,256个过滤器,窗口大小为5×5,得到[(27-5+2×2)/1]+1=27个特征,输出特征为27×27×256,然后进行ReLU激活层2处理,输出特征为27×27×256,经过池化层2进行最大池化3×3的核,步长为2,得到[(27-3)/2]+1=13个特征,总的特征数为13×13×256,然后进行正则化处理,用于求和的通道数为5,最后得到13×13×256数据;
第三层:输入数据13×13×256,填充值是1,384个过滤器,窗口大小为3×3,得到[(13-3+1×2)/1]+1=13个特征,输出特征为13×13×384,然后进行ReLU激活层3处理,最后得到13×13×384数据;
第四层:输入数据13×13×384,填充值是1,384个过滤器,窗口大小为3×3,得到[(13-3+2×1)/1]+1=13个特征,输出特征为13×13×384,然后进行ReLU激活层4处理,最后得到13×13×384数据;
第五层:输入数据13×13×384,填充值是1,256个过滤器,窗口大小为3×3,得到[(13-3+2×1)/1]+1=13个特征,输出特征为13×13×256,然后进行ReLU激活层5处理,输出特征为13×13×256,经过池化层5进行最大池化3×3的核,步长为2,得到[(13-3)/2]+1=6个特征,总的特征数为6×6×256,最后得到6×6×256数据;
第六层:输入数据6×6×256,全连接,得到4096个特征,然后进行ReLU激活层6处理,输出特征为4096,经过dropout6处理,最后得到4096数据;
第七层:输入数据4096,全连接,得到4096个特征,然后进行ReLU激活层7处理,输出特征为4096,经过dropout7处理,最后得到4096数据;
第八层:输入数据4096,全连接,得到1000个特征数据。
所述的卷积神经网络,其学习过程是一个前向传播过程,上一层的输出即为当前层的输入,并通过激活函数逐层传递,因此整个网络的实际计算输出用公式(1)表示,
Op=Fn(…(F2(F1(XW1)W2)…)Wn) (1)
式中,X表示原始输入,Fl表示第l层的激活函数,Wl表示第l层的映射权值矩阵,Op表示整个网络的实际计算输出;
当前层的输出用(2)表示,
Xl=fl(WlXl-1+bl) (2)
式中,l代表网络层数,Xl表示当前层的输出,Xl-1表示上一层的输出,即当前层的输入,Wl代表已经训练好的、当前网络层的映射权值矩阵,bl为当前网络的加性偏执,fl是当前网络层的激活函数;采用的激活函数fl为纠正线性单元,即ReLU,用公式(3)表示,
式中,l代表网络层数,Wl代表已经训练好的、当前网络层的映射权值矩阵,fl是当前网络层的激活函数;其作用是如果卷积计算结果小于0,则让其为0;否则保持其值不变。
所述的卷积神经网络,对所述的卷积神经网络训练是一个反向传播过程,通过误差函数反向传播,利用随机梯度下降法对卷积参数和偏置进行优化调整,直到网络收敛或者达到最大迭代次数停止;
反向传播需要通过对带有标签的训练样本进行比较,采用平方误差代价函数,对于c个类别,N个训练样本的多类别进行识别,网络最终输出误差函数用公式(4)来计算误差,
式中,EN为平方误差代价函数,为第n个样本对应标签的第k维,为第n个样本对应网络预测的第k个输出;
对误差函数进行反向传播时,采用传统的BP算法类似的计算方法,如公式(5)所示,
式中,δl代表当前层的误差函数,δl+1代表上一层的误差函数,Wl+1为上一层映射矩阵,f'表示激活函数的反函数,即上采样,ul表示未通过激活函数的上一层的输出,xl-1表示下一层的输入,Wl为本层映射权值矩阵。
所述的分割方法,采用全卷积神经网络,将所述的卷积神经网络改为全卷积神经网络,即FCN,在所述的卷积神经网络的全连接层改为反卷积层,这样输入一幅图像后直接在输出端得到密集预测,也就是每个像素所属的类,从而得到一个端对端的方法来实现乳房对象图像语义分割;
在FCN中,将乳房对象进行定位和分割算法分为从大到小再从小到大的两个过程;从大到小是由所述的卷积神经网络中的下采样层作用所致,而从小到大需要由上采样层来实现;在上采样过程中,这里采用了分阶段增大的方法,并且在上采样的每个阶段,使用下采样对应层的特征进行辅助;所谓辅助就是采用跳层上采样融合的方法,在浅层处减小上采样的步长,得到的细层和高层得到的粗层做融合,然后再上采样得到输出;这种跳层上采样融合的方法兼顾了局部和全局信息,实现比较精准的乳房分割。
所述的深度卷积神经网络是在所述的卷积神经网络的第八层的全连接层后连接了一个Softmax分类器,用于依照BI-RADS类型进行分类识别;
所述的Softmax分类器,将深度神经网络中的学习结果作为softmax分类器的输入数据;Softmax回归是面向多类分类问题的Logistic回归,是Logistic回归的一般形式,适用于类别之间互斥的情况;假设对于训练集{(x(1),y(1),…,x(m),y(m))},有y(1)∈{1,2,…,k},对于给定的样本输入x,输出一个k维的向量来表示每一种分类结果出现的概率为p(y=i|x),假设函数h(x)如下:
θ1,θ2,…θk是模型的参数,并且所有的概率和为1;加入规则项后的代价函数为:
代价函数对第j个类别的第l个参数的偏导数为:
式中,j为类别数,m为训练集的类别数,p(y(i)=j|x(i);θ))}为x分为类别j的概率,λ为规则项参数,也称为权重衰减项,该规则项参数主要是防止过拟合的;
最后,通过最小化J(θ),实现softmax的分类回归,将分类回归结果保存到特征库中;
在依据BI-RADS类型对被检乳房对象图像识别分类时,将提取到的输入数据特征与学习训练得到BI-RADS类型特征库中的数据进行比对,计算出每一个分类结果的概率,然后取概率最高的一个结果进行输出。
所述的预防乳腺癌自助健康云服务系统,其健康云服务方式是用户将乳腺钼靶摄片图像通过手机上的微信或者彩信或者QQ发送给健康云服务平台;对于一些用户没有乳腺钼靶摄片数字图像时,用户用手机或者其他移动设备拍摄来获取乳腺钼靶摄片数字图像,首先用户先将电脑屏幕打开空白的word或者PPT,全屏显示后,将片子放置在电脑屏幕前,然后打开智能手机上的相机软件;在影像片拍照时,要看清上面的汉字或英文字母,字的方向通常就是片子的正确方向,要放正位置拍照;然后在手机或数码相机上进行预览,质量好的标准是能够清晰地看见英文字母;如果显示模糊,说明拍照时手抖动了或没有正确对焦,需要删除重拍;最后将乳腺钼靶摄片图像通过手机上的微信或者彩信或者QQ发送给健康云服务平台;健康云服务平台自动读取从微信或彩信或者QQ发送过来的图像,同时生成一个微信或彩信或者QQ号的文件夹,将原始图像保存在该文件夹内;
所述的预防乳腺癌自助健康云服务系统根据用户发送过来的乳腺钼靶摄片图像,采用基于全卷积神经网络的从乳腺钼靶摄片图像中乳房区域的分割方法对乳腺钼靶摄片图像进行乳房对象的分割,得到分割后的乳房图像;然后根据BI-RADS类型分类规范用深度卷积神经网络对分割后的乳房图像进行识别分类;如果该用户有历史乳腺钼靶摄片图像,就再与该用户的历史乳腺钼靶摄片图像进行比对,对比其不同点;如果该用户有病理学专家临床诊断报告,就结合这些信息进行综合分析,提出诊断和治疗建议,参照美国放射学会的乳腺影像报告的格式要求自动生成自助健康检测结果报告,然后将健康检测结果报告递交给资深放射科医生进行确认,最后将健康检测结果报告信息反馈给用户。健康咨询文件名是以用户传输给健康云服务平台微信号、或者手机号、或者QQ号来命名;最后将健康咨询文件以用户的微信号、或者手机号、或者QQ号反馈给访问用户并保存在服务器中,或者通知用户来访问健康云服务平台获取用户的自助健康检测结果报告。
具体采用如下几种数据增强变换技术:①旋转|反射变换:随机旋转图像一定角度,改变图像内容的朝向;②翻转变换:沿着水平或者垂直方向翻转图像;③缩放变换:按照一定的比例放大或者缩小图像;④平移变换:在图像平面上对图像以一定方式进行平移;⑤可以采用随机或人为定义的方式指定平移范围和平移步长,沿水平或竖直方向进行平移,改变图像内容的位置;⑥尺度变换:对图像按照指定的尺度因子,进行放大或缩小;或者参照SIFT特征提取思想,利用指定的尺度因子对图像滤波构造尺度空间;改变图像内容的大小或模糊程度;⑦对比度变换:在图像的HSV颜色空间,改变饱和度S和V亮度分量,保持色调H不变;对每个像素的S和V分量进行指数运算,指数因子在0.25到4之间,增加光照变化;⑧噪声扰动:对图像的每个像素RGB进行随机扰动;常用的噪声模式是椒盐噪声和高斯噪声;⑨颜色变换:在训练集像素值的RGB颜色空间进行PCA,得到RGB空间的3个主方向向量,3个特征值,p1,p2,p3,λ1,λ2,λ3;每幅图像的每个像素Ixy=[IRxy,IGxy,IBxy]T进行加上如下的变化:[p1,p2,p3][α1λ1,α2λ2,α3λ3]T;
考虑到预防乳腺癌自助健康云服务系统本身也是一种高效地收集乳腺钼靶摄片图像方法,在预防乳腺癌自助健康云服务系统运行过程中,会产生一些难以分类识别乳腺钼靶摄片图像;对于这些难辨的乳腺钼靶摄片图像,通过与资深放射科医生的合作,对这些乳腺钼靶摄片图像数据样本标上类别标签,不断丰富和完善乳腺癌图像数据集,以不断提升BI-RADS类型的分类精度。
自助健康是以下述流程来实现的,用户将乳腺钼靶摄片图像通过手机上的微信或者彩信或者QQ发送给健康云服务平台;健康云服务平台根据用户发送过来的乳腺钼靶摄片图像,进行乳房对象的分割、与该用户的历史乳腺钼靶摄片图像进行比对,然后进行分类处理,然后根据BI-RADS类型自动进行综合分析,提出诊断和治疗建议,参照美国放射学会的乳腺影像报告的格式要求自动生成自助健康检测结果报告,然后将健康检测结果报告递交给资深放射科医生进行确认,最后将健康检测结果报告信息反馈给用户。
本发明的有益效果主要表现在:
1)提供了一种基于深度卷积神经网络的预防乳腺癌自助健康云服务系统;
2)提供了一种全自动端对端全卷积神经网络的从乳腺钼靶摄片图像中乳房区域的分割方法;
3)实现了一种给每1个病变作完整的分类和评估及乳腺癌自动识别和辅助诊断技术;
4)利用移动互联网、云计算、大数据挖掘、深度学习和深度卷积神经网络提升乳腺癌筛查手段的全面信息化、客观化、标准化和全民自助化,提高了乳腺癌筛查精度,降低了放射科医生的工作强度,提升了民众的健康意识,增加自我健康管理能力,通过早检查、早诊断和早治疗将乳腺癌消灭在萌芽状态。
附图说明
图1为一种基于深度卷积神经网络的预防乳腺癌自助健康云服务系统处理框图;
图2为一种基于深度卷积神经网络的乳腺病灶识别训练框图;
图3为深度卷积神经网络图;
图4为深度卷积神经网络中第一层处理的流程图;
图5为深度卷积神经网络中第二层处理的流程图;
图6为深度卷积神经网络中第三层处理的流程图;
图7为深度卷积神经网络中第四层处理的流程图;
图8为深度卷积神经网络中第五处理的流程图;
图9为深度卷积神经网络中第六层处理的流程图;
图10为深度卷积神经网络中第七层处理的流程图;
图11为深度卷积神经网络中第八层处理的流程图;
图12为基于全卷积神经网络的对象分割框图;
图13为深度卷积神经网络的各层处理结果图;
图14为全卷积神经网络FCN-32s各层处理结果图;
图15为全卷积神经网络FCN-16s各层处理结果图;
图16为全卷积神经网络FCN-8s各层处理结果图;
图17为一种基于深度卷积神经网络的乳腺病灶识别分类框图;
图18为用于乳腺病变识别分类的深度卷积神经网络;
图19为推荐给用户的乳房自检方法图解。
具体实施方式
下面结合附图对本发明作进一步描述。
实施例1
参照图1~19,本发明解决其技术问题所采用的技术方案是:
基于深度卷积神经网络的预防乳腺癌自助健康云服务系统包括一个用于深度学习和训练识别的卷积神经网络、一种基于全卷积神经网络的从乳腺钼靶摄片图像中分割出乳房区域的分割算法、一种用于乳腺癌诊断分类的深度卷积神经网络和一种用于根据所识别的BI-RADS类型进行早期预防和治疗的自助健康云服务平台;预防乳腺癌自助健康云服务系统的框图如图1所示;
预防乳腺癌自助健康云服务系统的使用及准备工作:用户利用用户终端(手机或者其他移动设备)拍摄来获取乳腺钼靶摄片数字图像,首先用户先将电脑屏幕打开空白的word或者PPT,全屏显示后,将片子放置在电脑屏幕前,然后打开智能手机上的相机软件;在影像片拍照时,要看清上面的汉字或英文字母,字的方向通常就是片子的正确方向,要放正位置拍照;然后在手机或数码相机上进行预览,质量好的标准是能够清晰地看见英文字母;如果显示模糊,说明拍照时手抖动了或没有正确对焦,需要删除重拍;最后将乳腺钼靶摄片图像通过手机上的微信或者彩信或者QQ发送给健康云服务平台;对于头足轴位的乳腺钼靶摄片图像的文件名用CC.jpg,侧斜位的乳腺钼靶摄片图像的文件名用MLO.jpg,外内侧位的乳腺钼靶摄片图像的文件名用LM.jpg,内外侧位的乳腺钼靶摄片图像的文件名用ML.jpg,内侧头足轴位的乳腺钼靶摄片图像的文件名用MCC.jpg,外侧头足轴位的乳腺钼靶摄片图像的文件名用LCC.jpg,尾叶位的乳腺钼靶摄片图像的文件名用CLEO.jpg,乳沟位的乳腺钼靶摄片图像的文件名用GG.jpg;
(1)关于设计一个用于深度学习和训练识别的卷积神经网络
卷积神经网本质上是一种深度映射的网络结构,如图2所示,输入信号通过在网络中进行层层映射,不断进行分解和表示,最终形成关于乳腺癌的多层表达,其最主要特点就是不必再人为的选取和构建乳腺癌的各种特征,而是通过机器自动学习,得到关于乳腺癌的深层表示。
对于头足轴位、外内侧位、内外侧位、内侧头足轴位、外侧头足轴位、尾叶位和乳沟位的乳腺钼靶摄片图像各自都对应着一个卷积神经网络进行学习和训练;
第一层:如图4所示,输入图像数据为224×224像素图像,填充值是3,输出数据227×227×3;然后经过96个过滤器、窗口大小为11×11、步长为4的卷积层1处理,得到[(227-11)/4]+1=55个特征,以后的层就分为两组处理,输出特征为55×55×96,然后进行ReLU激活层1处理,输出特征为55×55×96,经过池化层1进行最大池化3×3的核,步长为2,得到[(55-3+1)/2]+1=27个特征,总的特征数为27×27×96,然后进行正则化处理,用于求和的通道数为5,最后得到27×27×96数据;
第二层:如图5所示,输入数据27×27×96,填充值是2,256个过滤器,窗口大小为5×5,得到[(27-5+2×2)/1]+1=27个特征,输出特征为27×27×256,然后进行ReLU激活层2处理,输出特征为27×27×256,经过池化层2进行最大池化3×3的核,步长为2,得到[(27-3)/2]+1=13个特征,总的特征数为13×13×256,然后进行正则化处理,用于求和的通道数为5,最后得到13×13×256数据;
第三层:如图6所示,输入数据13×13×256,填充值是1,384个过滤器,窗口大小为3×3,得到[(13-3+1×2)/1]+1=13个特征,输出特征为13×13×384,然后进行ReLU激活层3处理,最后得到13×13×384数据;
第四层:如图7所示,输入数据13×13×384,填充值是1,384个过滤器,窗口大小为3×3,得到[(13-3+2×1)/1]+1=13个特征,输出特征为13×13×384,然后进行ReLU激活层4处理,最后得到13×13×384数据;
第五层:如图8所示,输入数据13×13×384,填充值是1,256个过滤器,窗口大小为3×3,得到[(13-3+2×1)/1]+1=13个特征,输出特征为13×13×256,然后进行ReLU激活层5处理,输出特征为13×13×256,经过池化层5进行最大池化3×3的核,步长为2,得到[(13-3)/2]+1=6个特征,总的特征数为6×6×256,最后得到6×6×256数据;
第六层:如图9所示,输入数据6×6×256,全连接,得到4096个特征,然后进行ReLU激活层6处理,输出特征为4096,经过dropout6处理,最后得到4096数据;
第七层:如图10所示,输入数据4096,全连接,得到4096个特征,然后进行ReLU激活层7处理,输出特征为4096,经过dropout7处理,最后得到4096数据;
第八层:如图11所示,输入数据4096,全连接,得到1000个特征数据;
卷积神经网络的预测过程是一个前向传播过程,上一层的输出即为当前层的输入,并通过激活函数逐层传递,因此整个网络的实际计算输出用公式(1)表示,
Op=Fn(…(F2(F1(XW1)W2)…)Wn) (1)
式中,X表示原始输入,Fl表示第l层的激活函数,Wl表示第l层的映射权值矩阵,Op表示整个网络的实际计算输出;
当前层的输出用(2)表示,
Xl=fl(WlXl-1+bl) (2)
式中,l代表网络层数,Xl表示当前层的输出,Xl-1表示上一层的输出,即当前层的输入,Wl代表已经训练好的、当前网络层的映射权值矩阵,bl为当前网络的加性偏执,fl是当前网络层的激活函数;采用的激活函数fl为纠正线性单元,即ReLU,用公式(3)表示,
式中,l代表网络层数,Wl代表已经训练好的、当前网络层的映射权值矩阵,fl是当前网络层的激活函数;其作用是如果卷积计算结果小于0,则让其为0;否则保持其值不变。
卷积神经网络训练是一个反向传播过程,与BP算法类似,通过误差函数反向传播,利用随机梯度下降法对卷积参数和偏置进行优化调整,直到网络收敛或者达到最大迭代次数停止。
该神经网络训练是一个反向传播过程,通过误差函数反向传播,利用随机梯度下降法对卷积参数和偏置进行优化调整,直到网络收敛或者达到最大迭代次数停止;
反向传播需要通过对带有标签的训练样本进行比较,采用平方误差代价函数,对于c个类别,N个训练样本的多类别进行识别,网络最终输出误差函数用公式(4)来计算误差,
式中,EN为平方误差代价函数,为第n个样本对应标签的第k维,为第n个样本对应网络预测的第k个输出;
对误差函数进行反向传播时,采用传统的BP算法类似的计算方法,如公式(5)所示,
δl=(Wl+1)Tδl+1×f'(ul)
ul=Wlxl-1+bl (5)
式中,δl代表当前层的误差函数,δl+1代表上一层的误差函数,Wl+1为上一层映射矩阵,f'表示激活函数的反函数,即上采样,ul表示未通过激活函数的上一层的输出,xl-1表示下一层的输入,Wl为本层映射权值矩阵。
卷积神经网络学习和训练的算法思想是:1)首先逐层构建单层神经元,这样每次都是训练一个单层网络;2)当所有层训练完后,使用wake-sleep算法进行调优。
深度学习训练过程具体如下:
STEP21:使用自下而上的非监督学习,即从底层开始,一层一层的往顶层训练,学习乳房图像特征:先用无标签乳房图像数据训练第一层,训练时先学习第一层的参数,由于模型容量的限制以及稀疏性约束,使得得到的模型能够学习到数据本身的结构,从而得到比输入更具有表示能力的特征;在学习得到第l-1层后,将l-1层的输出作为第l层的输入,训练第l层,由此分别得到各层的参数;具体计算如公式(2)、(3)所示;
STEP22:自顶向下的监督学习,即通过带标签的乳房图像数据去训练,误差自顶向下传输,对网络进行微调:具体计算如公式(4)、(5)所示;
基于STEP21得到的各层参数进一步微调整个多层模型的参数,这一步是一个有监督训练过程;STEP21类似神经网络的随机初始化初值过程,由于深度学习的STEP21不是随机初始化,而是通过学习输入数据的结构得到的,因而这个初值更接近全局最优,从而能够取得更好的效果。
这里带标签的乳腺钼靶摄片图像数据是乳腺癌辅助诊断的关键,需要由资深放射科医生对收集到的各种乳腺钼靶摄片图像进行甄别,专家对所拍摄的乳腺钼靶摄片图像的乳腺内结构、肿块和钙化进行辨识和分类;具体做法是由二位超过20年诊断经验的放射科医生负责,由他们确定每一个样本的类别标签;这种通过对专家的看片经验及意见进行分析综合,获得较为科学和准确的乳腺癌特征的分类依据及诊断结果;为深度卷积神经网络提供训练和学习的乳腺癌图像数据;
本发明将经专家诊断后的乳腺钼靶摄片图片做上标签,然后将这些带有标签的乳腺钼靶摄片让深度卷积神经网络学习,自动提取出带有标签的乳腺病变特征;乳腺病变特征包括了乳腺内结构、肿块和钙化;肿块的描述包括边缘、形态和密度3个方面;钙化的描述包括形态和分布两方面;结构主要是看是否有结构扭曲;
实验研究表明,乳腺病变数据集越大、乳腺病变样本类别越丰富乳腺癌诊断越精准;因此做好有标签的乳腺x线影像数据集是一个关键;
乳腺x线影像数据集的准备;一类数据通过专业书刊获取带有标签的乳腺x线影像数据,这类数据直接可以作为乳腺病变数据集中的数据;另一类,是通过开源资源,如乳腺x线影像数据来自于乳腺图像分析协会,即Mammographic Image Analysis socity,该数据集包括322份影像数据,每个图像均被标记为正常、良性肿瘤或恶性肿瘤;其中包括了208份正常影像,63份良性肿瘤影像和51份恶性肿瘤影像,在良性肿瘤影像和恶性肿瘤影像中标记为微钙化异常、边界清晰的限制性肿块、针状异常、边界不清肿块、结构扭曲和不对称。所有的乳腺x线影像数据还包括乳腺位置左侧或右侧、乳腺组织的类型(脂肪型、脂肪腺型和高密度型)的注释,对于异常影像还包括良性或恶性,以及异常结构所在的坐标和半径的注释信息。该数据集从网址为http://peipa.essex.ac.uk/pix/mias/上下载;是目前乳腺影像分类研究中被广泛使用的数据集;另一个数据集是威斯康星州乳腺癌数据集,网址为https://archive.ics.uci.edu/ml/datasets/Breast+Cancer,该数据集包含699个模式,每一个模式是由9个数值属性,对应于不同的物理特性,作为可能存在的癌症的样本中的标记。
另一种方式是与国内外大医院合作共享乳腺x线影像大数据,如南京中大医院自2003年启用江苏省第一台全数字化平板乳腺机以来,目前已接诊乳腺检查者约10万例,其中发现乳腺癌5千例,统计显示乳腺癌患病年龄分布特征符合年轻化特点,高发年龄段主要分布在45~55岁;这类由三甲医院的影像科所产生的数据都可认为是带有标签的乳腺x线影像数据;
在上述乳腺x线影像图像数据基础上,通过以下数据增强变换技术中的一种或者组合来增加输入数据的量;①旋转|反射变换:随机旋转图像一定角度,改变图像内容的朝向;②翻转变换:沿着水平或者垂直方向翻转图像;③缩放变换:按照一定的比例放大或者缩小图像;④平移变换:在图像平面上对图像以一定方式进行平移;⑤可以采用随机或人为定义的方式指定平移范围和平移步长,沿水平或竖直方向进行平移,改变图像内容的位置;⑥尺度变换:对图像按照指定的尺度因子,进行放大或缩小;或者参照SIFT特征提取思想,利用指定的尺度因子对图像滤波构造尺度空间;改变图像内容的大小或模糊程度;⑦对比度变换:在图像的HSV颜色空间,改变饱和度S和V亮度分量,保持色调H不变;对每个像素的S和V分量进行指数运算,指数因子在0.25到4之间,增加光照变化;⑧噪声扰动:对图像的每个像素RGB进行随机扰动;常用的噪声模式是椒盐噪声和高斯噪声;⑨颜色变换:在训练集像素值的RGB颜色空间进行PCA,得到RGB空间的3个主方向向量,3个特征值,p1,p2,p3,λ1,λ2,λ3;每幅图像的每个像素Ixy=[IRxy,IGxy,IBxy]T进行加上如下的变化:[p1,p2,p3][α1λ1,α2λ2,α3λ3]T;
严格意义上说,每个人的乳腺x线影像图像都是不一样的,随着自助健康云服务平台的应用面扩大,带标签的乳腺钼靶摄片图像数据将是一个非常庞大的海量数据,通过大数据的处理方式能归纳出一些新的乳腺癌类型,当然在此过程中必须由资深放射科主任医师和病理医师的参与;
(2)关于设计一种基于全卷积神经网络的从乳腺钼靶摄片图像中分割出乳房区域的分割算法;
由于乳腺钼靶摄片图像中不仅仅是乳房区域部分的图像,从乳腺钼靶摄片图像中分割出乳房是乳腺病变诊断的重要前提工作,因此必须设计一种基于全卷积神经网络的乳房区域分割算法;
对于头足轴位、外内侧位、内外侧位、内侧头足轴位、外侧头足轴位、尾叶位和乳沟位的乳腺钼靶摄片图像各自都对应着各自乳房区域的分割算法;
首先,设计一种基于全卷积神经网络的从乳腺钼靶摄片图像中分割出乳房区域的分割算法,即对乳腺钼靶摄片图像中乳房对象进行区域选择和定位;
为了对乳腺钼靶摄片中乳房对象的位置进行定位;由于乳房对象可能出现在图像的任何位置,而且乳房目标的大小、长宽比例也不确定,原有的技术是最初采用滑动窗口的策略对整幅图像进行遍历,而且需要设置不同的尺度,不同的长宽比;这种穷举的策略虽然包含了乳房目标所有可能出现的位置,但是缺点也是显而易见的:时间复杂度太高,产生冗余窗口太多,这也严重影响后续特征提取和分类的速度和性能;因此,如何用语义概念对乳房对象进行定位和分割至关重要;
深度卷积神经网络一个重要优点是从像素级原始数据到抽象的语义概念逐层提取信息,这使得它在提取图像的全局特征和上下文信息方面具有突出的优势,为解决图像语义分割带来了突破;卷积神经网络层数越高越能表达图像的全局特征及语义概念,但是深度卷积神经网络经过多层的下采样使得卷积神经网络层数越高的图像比原图像要小若干倍,如果用卷积神经网络的最高层作为分割预测由此带来的是分割后的对象比较粗糙,一般都是大致轮廓,这样得到的乳房对象会严重影响后续乳腺病变诊断的准确性;本发明提出的基于全卷积神经网络的从乳腺钼靶摄片图像中分割出乳房区域的分割算法是建立在卷积神经网络的基础上的,下面首先介绍卷积神经网络;
图3所示的是卷积神经网络图,共分为八层,卷积神经网络是由卷积层、激活层和下采样层交替构成的深度结构,这种深度结构能够有效减少计算时间并建立空间结构上的不变性。输入图像在网络中进行层层映射,最终得到各层对于图像不同的表示形式,实现图像的深度表示,其中卷积核以及下采样的方式直接决定图像的映射方式。
为了精准地分割乳房对象,本发明的主要思路是把深度卷积神经网络改为全卷积神经网络,即FCN,输入一幅图像后直接在输出端得到密集预测,也就是每个像素所属的类,从而得到一个端对端的方法来实现乳房对象图像语义分割;
包括乳房的图像经过深度卷积神经网络的多次卷积以后,得到的图像越来越小,分辨率越来越低,那么FCN是如何得到图像中每一个像素的类别的呢?为了从这个分辨率低的粗略图像恢复到原图的分辨率,FCN使用了上采样。例如经过5次卷积以后,图像的分辨率依次缩小了2、4、8、16、32倍;对于最后一层的输出图像,需要进行32倍的上采样,才能得到原图一样的大小,如图14所示,本发明中采用步长为32对最后一层的输出图像进行上采样;对于最后第二层的输出图像,需要进行16倍的上采样,才能得到原图一样的大小,如图15所示,本发明中采用步长为16对最后第二层的输出图像进行上采样;对于最后第三层的输出图像,需要进行8倍的上采样,才能得到原图一样的大小,如图16所示,本发明中采用步长为8对最后第三层的输出图像进行上采样;这里的上采样操作可以看成是反卷积,卷积运算的参数和CNN的参数一样是在训练FCN模型的过程中通过BP算法学习得到;
为了要精确预测每个像素的分割结果,本发明中将乳房对象进行定位和分割算法分为从大到小(即从输入的大图像到定位分类后的小图像),再从小到大(与原始输入的图像大小一致)的两个过程;从大到小是由深度卷积神经网络中的下采样层作用所致,而从小到大需要由上采样层来实现;在上采样过程中,本发明采用了分阶段增大的方法,并且在上采样的每个阶段,使用下采样对应层的特征进行辅助;所谓辅助就是采用跳层的方法,在浅层处减小上采样的步长,得到的细层和高层得到的粗层做融合,然后再上采样得到输出;这种跳层的方法兼顾了局部和全局信息;
首先把图3所示的卷积神经网络的全连接层,图中的第六层、第七层和第八层,这里将其作为卷积层,卷积模板大小就是输入的特征图的大小,也就是说把全连接网络看成是对整张输入图做卷积,全连接层分别有4096个1×1的卷积核,4096个1×1的卷积核,1000个1×1的卷积核;
图13所示的输出就是1000个1×1的卷积核,最后两级是全连接,参数弃去不用;
图14所示,从第七层1×1×4096的特征图预测分割成16×16×2的小图,之后直接上采样为500×500×2的大图;这里500×500为原图像的大小,本发明中根据原图像的大小就能恢复出其原图像一样的尺寸;2为深度值,这里表示1个乳房对象目标+1个背景;反卷积的步长为32,这个网络称为FCN-32s;
图15所示,上采样分为两次完成;在第二次升采样前,把第4个池化层的预测结果融合进来,之后上采样为500×500×2的大图;使用跳级结构提升精确性;第二次反卷积步长为16,这个网络称为FCN-16s;
图16所示,上采样分为三次完成;进一步融合了第3个池化层的预测结果,之后上采样为500×500×2的大图;;第三次反卷积步长为8,记为FCN-8s。
网络结构归纳如下;输入可为任意尺寸图像灰色图像;输出与输入尺寸相同,深度为:乳房对象+背景=2;背景采用黑色;通过用FCN-8s的全卷积神经网络分割出乳房对象;这里要强调的是首先用图14所示训练FCN-32s全卷积神经网络,然后用图15所示训练FCN-16s全卷积神经网络,最后用图16所示训练FCN-8s全卷积神经网络;
在用FCN-8s的全卷积神经网络分割出乳房对象后就是要通过一个深度卷积神经网络对乳腺癌进行辅助诊断分类。
(3)关于设计一种用于乳腺癌辅助诊断分类的深度卷积神经网络;
对于头足轴位、外内侧位、内外侧位、内侧头足轴位、外侧头足轴位、尾叶位和乳沟位的乳腺钼靶摄片图像各自都对应着一个深度卷积神经网络进行辅助诊断分类;
用于乳腺癌辅助诊断分类的深度卷积神经网络,如图18所示,与图3所示的卷积神经网络完全相同,只是在第八层的全连接层后连接了一个Softmax分类器;
所述的Softmax分类器,将深度神经网络中的学习结果作为softmax分类器的输入数据;Softmax回归是面向多类分类问题的Logistic回归,是Logistic回归的一般形式,适用于类别之间互斥的情况;假设对于训练集{(x(1),y(1),…,x(m),y(m))},有y(1)∈{1,2,…,k},对于给定的样本输入x,输出一个k维的向量来表示每一种分类结果出现的概率为p(y=i|x),假设函数h(x)如下:
θ1,θ2,…θk是模型的参数,并且所有的概率和为1;加入规则项后的代价函数为:
代价函数对第j个类别的第l个参数的偏导数为:
式中,j为类别数,m为训练集的类别数,p(y(i)=j|x(i);θ))}为x分为类别j的概率,λ为规则项参数,也称为权重衰减项,该规则项参数主要是防止过拟合的;
最后,通过最小化J(θ),实现softmax的分类回归,将分类回归结果保存到特征库中;
在乳腺癌辅助诊断识别分类时,如图17所示,将提取到的输入数据特征与学习训练得到乳腺癌特征库数据进行比对,计算出每一个分类结果的概率,然后取概率最高的一个结果进行输出。
(4)关于构建一种用于根据所诊断结果进行自助健康云服务平台;
首先是自助健康云服务平台的工作原理:如图1所示,所述的预防乳腺癌自助健康云服务系统,其健康云服务方式是用户将乳腺钼靶摄片图像通过手机上的微信或者彩信或者QQ发送给健康云服务平台;对于一些用户没有乳腺钼靶摄片数字图像时,用户用手机或者其他移动设备拍摄来获取乳腺钼靶摄片数字图像,首先用户先将电脑屏幕打开空白的word或者PPT,全屏显示后,将片子放置在电脑屏幕前,然后打开智能手机上的相机软件;在影像片拍照时,要看清上面的汉字或英文字母,字的方向通常就是片子的正确方向,要放正位置拍照;然后在手机或数码相机上进行预览,质量好的标准是能够清晰地看见英文字母;如果显示模糊,说明拍照时手抖动了或没有正确对焦,需要删除重拍;最后将乳腺钼靶摄片图像通过手机上的微信或者彩信或者QQ发送给健康云服务平台;健康云服务平台自动读取从微信或彩信或者QQ发送过来的图像,同时生成一个微信或彩信或者QQ号的文件夹,将原始图像保存在该文件夹内;
所述的预防乳腺癌自助健康云服务系统根据用户发送过来的乳腺钼靶摄片图像,采用基于全卷积神经网络的从乳腺钼靶摄片图像中乳房区域的分割方法对乳腺钼靶摄片图像进行乳房对象的分割,得到分割后的乳房图像;然后根据BI-RADS类型分类规范用深度卷积神经网络对分割后的乳房图像进行识别分类;如果该用户有历史乳腺钼靶摄片图像,就再与该用户的历史乳腺钼靶摄片图像进行比对,对比其不同点;如果该用户有病理学专家临床诊断报告,就结合这些信息进行综合分析,提出诊断和治疗建议,参照美国放射学会的乳腺影像报告的格式要求自动生成自助健康检测结果报告,然后将健康检测结果报告递交给资深放射科医生进行确认,最后将健康检测结果报告信息反馈给用户。健康咨询文件名是以用户传输给健康云服务平台微信号、或者手机号、或者QQ号来命名;最后将健康咨询文件以用户的微信号、或者手机号、或者QQ号反馈给访问用户并保存在服务器中,或者通知用户来访问健康云服务平台获取用户的自助健康检测结果报告。
健康咨询文件中还包括了饮食方面和乳房自检方面的健康指导,具体如下:
1、预防饮食 制定详细的饮食计划,预防癌症,保持健康。
(1)每天一份或多份低脂或脱脂奶制品
每日至少食用一份低脂奶制品,可以减少更年期(更年期食品)前患乳腺癌的几率达三分之一。每日食用两份奶制品,如脱脂牛奶和脱脂酸奶。
(2)每天四至六份高纤维食物
食用全麦早餐谷物,全麦面包和全麦面条作为晚餐。另一个获取纤维的方法是食用蔬菜豆子汤作为午餐,新鲜蔬菜(蔬菜食品)蘸豆泥作为下午茶。
(3)每天多于九份的蔬菜和水果(水果食品)
蔬菜和水果富含植物化学物质,这些物质帮助抵御包括乳腺癌在内的各种疾病。每日食用五份以上蔬菜水果的女性比仅仅食用一、两份蔬菜水果的女性患乳腺癌的危险低50%。
(4)每周2~3杯绿茶
绿茶可以减缓癌细胞的生长。每周饮用3~4茶杯绿茶的女性比不饮用绿茶的女性患乳腺癌的几率低40%。
(5)食用鱼肉
每周3~4次鱼类冷水鱼,如三文鱼、鲭鱼、鳗鱼、金枪鱼、青鱼、大比目鱼、鳕鱼、沙丁鱼,它们富含OMEGA-3脂肪酸,可以通过杀死早期乳腺癌细胞从而预防乳腺癌。每日食用至少50克此类鱼类的女性比极少或根本不食用此类鱼类的女性患乳腺癌的危险低26%。鱼类通常比较昂贵,如果你担心费用太高,不妨简单地在午餐沙拉中加入一份三文鱼罐头。每周不要食用多于1。5公斤汞含量较高的鱼类,特别是怀孕(怀孕食品)和哺乳期的女性,因为这会损害胎儿的神经系统。
(6)有益健康的脂肪
芥菜、坚果和橄榄油中的单一不饱和脂肪已经被证明可以预防疾病。经常摄取单一不饱和脂肪能够减少患乳腺癌的危险达45%。另一方面,摄取在海鲜、大豆、玉米、红花和葵花子油中发现的多不饱和脂肪能够增加患乳腺癌的危险达69%。保持每日摄取热量中的20%来自于脂肪,而其中大多数应该是好的单一不饱和脂肪。红肉中含有的动物脂肪和全脂乳制品同样能够增加乳腺癌的危险,最好不食用。
(7)远离糖类
饮料和垃圾食品中的精制糖影响身体中胰岛素水平,身体中胰岛素水平较高的女性更容易癌症复发。偶尔食用并无大害,例如每周食用一或两次,或者几块巧克力,再或者喝一些低脂巧克力奶。
(8)拒绝酒精
酒精能够增加患乳腺癌的危险,每天饮用一至三杯酒的女性患乳腺癌的几率比其他人高10%。建议每周饮酒量不超过一至两杯,但如果你决定喝更多的酒,别忘记补充多种维生素(维生素食品)和叶酸(叶酸食品)。这些矿物质可以将中等饮酒量(每日一至三杯)的女性患乳腺癌的危险降低27%。
(9)母乳喂养
母乳喂养可以降低患乳腺癌的危险,因为它减少了身体内致癌雌激素的分泌。
(10)多吃新鲜水果
芒果、橙、橘、苹果等均含预防乳腺癌的某些物质,常常食用它们,可以降低乳腺癌发病风险。
芒果 女性多食芒果,预防乳腺癌。其中的活性物质成分丹宁酸与癌症的预防和抑制有关。丹宁酸是种多酚,带有苦味。葡萄籽和茶叶中也含有这种成分。细胞分裂周期因多酚被打破是芒果预防和抑制癌细胞的一种机制。
柑橘 柑橘类水果如橘子、柚子、橙子、柠檬、金橘等,都富含维生素C,可防止亚硝胺生成,适宜乳腺癌、胃癌、喉癌和肺部肿瘤者食用。
山楂 开胃消食、降低血脂。能活血化瘀、化滞消积,抑制癌细胞生长,同时富含维生素C,适宜消化道和女性生殖癌症如乳腺癌患者食用。
大枣 补脾胃益气血,富含B-胡萝卜素与维生素C、B族维生素等。富含的一组三萜类化合物为抗癌有效成分。食用大枣粥、黄芪煨大枣,以增强体质,预防乳腺癌。
红苹果、葡萄 红苹果等“红皮”水果和蔬菜对乳腺癌有防治作用。“红皮”瓜果蔬菜中所含的某些植物成分,可以有效遏制肿瘤细胞中蛋白质的生长,同时还能降低肿瘤细胞对雌激素的反应能力,预防乳腺癌。紫葡萄等也含有该植物成分。
猕猴桃 猕猴桃是果中珍品,维生素c含量为橘子的4~12倍,苹果的3倍,葡萄的60倍。研究表明,其所含的物质可阻断人体内亚硝胺生成,从而有良好的防癌抗癌作用。
(11)经常食用一些蔬菜及蜂蜜和酸奶、花粉食品、茶、真菌食品、海产品可以有效预防乳腺癌,蔬菜新鲜蔬菜如胡萝卜、萝卜、瓠果、茄子、甘蓝等,含有干扰素诱导物,能刺激细胞产生干扰素。这种物质可以增强病人对疾病和癌瘤的抵抗力。但它易受加热的影响而被破坏,因此以上食物以生吃为好。大蒜具有防癌抗癌能力,大蒜中的脂溶性挥发性油能激活巨噬细胞,提高机体的抗癌能力;还含有一种含硫化合物,也具有杀灭肿瘤细胞的作用。葱头也能抗癌,可能是含有谷胱甘肽以及多种维生素的缘故。
蜂蜜和蜂乳 蜂蜜能促进新陈代谢,增强机体抵抗力,提高造血功能和组织修复作用。蜂乳含有特殊的蜂乳酸,对防治恶性肿瘤有效。
牛奶和酸奶 牛奶含钙和维生素D,在肠道内能与致癌物质相结合,清除其有害作用。酸奶能抑制肿瘤细胞的生长。
花粉食品 提高智力,促进发育,补血,增加耐力,延缓衰老,具有激素样作用,增强抗病能力等。
茶 含儿茶素,能清除体内的放射性物质。放疗病人经常饮茶有益康复。茶还可以防龋齿。
真菌食品 中含有多糖物质和干扰素诱导剂,能抑制肿瘤。香菇对胃癌、食道癌、肺癌、宫颈癌有一定的疗效。金针菇也具有同样的功效,对肿瘤有抑制作用。猴头菇对胃癌有疗效,可延长病人的生存期,提高免疫力。银耳对癌瘤有抑制作用。近年发现茯苓中90%的B茯苓聚糖可增强免疫功能,有抗癌瘤的作用。
海产品 可用作恶性肿瘤病人的治疗食品。海藻类有效成分主要是多糖物质和海藻酸钠。海藻酸钠能与放射性锶结合后排出体外。常吃海带、紫菜等食品对身体有益。鲨鱼的软骨能抑制肿瘤生长,鱼翅有抑制肿瘤向周围浸润的能力。鱼类中含有丰富的硒、锌、钙、碘等无机盐类,对抗癌也是有益的。
(12)鱼油降低乳腺癌的发生率。
鱼油有助于保护女性避免罹患乳腺癌。每天补充鱼油的人,患乳腺癌的风险降低三分之一。补其中所含的欧米加-3脂肪酸,可以降低患一些最常见疾病的风险,例如浸润性导管乳腺癌。
2、乳房自检。
一般乳房的自我检查每月一次,有月经的妇女的最佳检查时间应在每月月经来潮后9~11天检,一般在以下三种情形进行乳房自检较为方便可行:
(1)洗澡时检查你的乳房,尤其在沐浴露尚未洗去前,手易在湿润的皮肤上移动。将摊平的手轻柔地移动,检查乳房的每个部分。右手检查左乳,左手检查右乳,检查乳房有无肿块、硬结或增厚;自检示意图如图19所示,尤其要关注容易患乳房癌的部位,如图19中的1部位。
(2)在镜前检查,对着镜子两手下垂于身体两旁,再将两上肢缓慢上举过头,观察乳房的形态改变,包括乳房的轮廓、有无肿起部分、有无皮肤微凹或乳头的回缩。接着,双手叉腰,观察双侧乳房是否对称。
(3)在平卧时检查,平卧时在被检查乳房侧的肩胛下填放一个枕头或软物。再将同侧的手放在头后,这样使乳房的组织更均匀地分摊在胸部。将平摊的手轻压在皮肤上,以乳头为中心逐渐移动检查。检查开始于乳房的外上方,右乳以顺时针方向,左乳以逆时针方向;从乳房的外围起,逐渐向内,直至乳头。最后,在拇指和食指间轻挤乳头观察有无乳头溢液。如有溢液,应观察是澄清的还是浑浊的,是淡黄、乳白还是血性。一旦发现异常,应立即就医。
自检视诊:室温需适宜,取立位(或坐位)为主,脱去上衣,面对镜子,目测双测乳房。正常者乳头、乳晕对称,乳头稍下偏向外侧,无异常回缩;乳房大小、位置、色泽、外形、轮廓、胡度均正常,两侧对称。双手叉腰、双臂慢慢上举过头,在慢慢放下,连续数次,观察双乳房各部位有无异常现象,如乳头抽缩、抬高,局部皮肤粗糙脱屑,皮肤潮红、桔皮样变、水肿、隆起或下陷,弧度和外形轮廓不规则,还应注意腋窝和锁骨上下是否对称或有隆起。有无副乳和异常包块。乳头有无分泌液体。
实施例2
其余与实施例1相同,所不同的是本发明的基于深度卷积神经网络的预防乳腺癌自助健康云服务系统可以直接应用于医院和各级卫生院,为医生进一步临床病例检查和诊断提供参考;也可以在乳腺癌筛查的健康体检中应用本平台,在减轻放射科医生的工作强度同时提高了乳腺癌筛查精度,全面提升了乳腺癌筛查手段的全面信息化、客观化和标准化水平。
实施例3
其余与实施例1相同,所不同的是本发明的基于深度卷积神经网络的预防乳腺癌自助健康云服务系统可以用于乳腺病变的动态分析;由于自助健康云服务平台详细记录了访问平台的用户的详细影像资料,对每个时间段的影像资料可以进行对比分析,观察乳腺相关疾病随病情的发展而有相应的变化,观察时亦应随病情发展变化而作动态分析,尤其是与原有历史乳腺钼靶摄片图像比对中发现有新的变化点;据此为早期诊断和早期治疗提供重要依据;本发明中详细记录了用户访问健康云服务平台的乳腺自诊所有结果,并记录的访问的时间,这些信息有助于乳腺病变的动态分析。
以上所述仅为本发明的较佳实施举例,并不用于限制本发明,凡在本发明精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (8)
1.一种基于深度卷积神经网络的预防乳腺癌自助健康云服务系统,其特征在于:包括用于深度学习和训练识别的卷积神经网络、基于全卷积神经网络的从乳腺钼靶摄片图像中分割出乳房区域的分割模块、用于乳腺癌诊断分类的深度卷积神经网络和用于根据所识别的BI-RADS类型进行早期预防和治疗的自助健康云服务平台;
所述的卷积神经网络,共分为八层,由卷积层、激活层和下采样层交替构成的深度结构;输入图像在网络中进行层层映射,得到各层对于图像不同的表示形式,实现图像的深度表示;
所述的分割模块,采用全卷积神经网络,就是将所述的卷积神经网络改为全卷积神经网络,将所述的卷积神经网络的全连接层改为反卷积层,输入一幅图像后直接在输出端得到密集预测,也就是每个像素所属的类,从而得到一个端对端的方法来实现乳房对象图像语义分割;
所述的深度卷积神经网络是在所述的卷积神经网络的第八层的反卷积层后连接了一个Softmax分类器,用于对BI-RADS类型进行分类识别;
所述的自助健康云服务平台,包括:用于发送乳腺钼靶摄片图像的用户终端,接收和读取用户发送过来的乳腺钼靶摄片图像的图像读取模块,以用户访问平台的装备的用户名或号码为文件夹名的文件夹生成模块,基于深度卷积神经网络对分割后的乳房区域图像进行分类的BI-RADS类型分类模块,生成用于早期预防和治疗的健康文件的健康文件生成模块,用于将用户的健康咨询文件反馈给访问用户的文件自动传输模块,用于将早期预防和治疗的健康咨询文件提供给用户到所述的健康云服务平台的网站上下载的下载服务模块;
所述的卷积神经网络,对所述的卷积神经网络训练是一个反向传播过程,通过误差函数反向传播,利用随机梯度下降法对卷积参数和偏置进行优化调整,直到网络收敛或者达到最大迭代次数停止;
反向传播需要通过对带有标签的训练样本进行比较,采用平方误差代价函数,对于c个类别,N个训练样本的多类别进行识别,网络最终输出误差函数用公式(4)来计算误差,
式中,EN为平方误差代价函数,为第n个样本对应标签的第k维,为第n个样本对应网络预测的第k个输出;
对误差函数进行反向传播时,采用BP计算方法,如公式(5)所示,
式中,δl代表当前层的误差函数,δl+1代表上一层的误差函数,Wl+1为上一层映射矩阵,f'表示激活函数的反函数,即上采样,ul表示未通过激活函数的上一层的输出,xl-1表示下一层的输入,Wl为本层映射权值矩阵,bl为当前网络的加性偏置。
2.如权利要求1所述的基于深度卷积神经网络的预防乳腺癌自助健康云服务系统,其特征在于:所述的卷积神经网络,共分为八层,卷积神经网络是由卷积层、激活层和下采样层交替构成的深度结构;
第一层:输入图像数据为224×224像素图像,填充值是3,输出数据227×227×3;然后经过96个过滤器、窗口大小为11×11、步长为4的卷积层1处理,得到[(227-11)/4]+1=55个特征,以后的层就分为两组处理,输出特征为55×55×96,然后进行ReLU激活层1处理,输出特征为55×55×96,经过池化层1进行最大池化3×3的核,步长为2,得到[(55-3)/2]+1=27个特征,总的特征数为27×27×96,然后进行正则化处理,用于求和的通道数为5,最后得到27×27×96数据;
第二层:输入数据27×27×96,填充值是2,256个过滤器,窗口大小为5×5,得到[(27-5+2×2)/1]+1=27个特征,输出特征为27×27×256,然后进行ReLU激活层2处理,输出特征为27×27×256,经过池化层2进行最大池化3×3的核,步长为2,得到[(27-3)/2]+1=13个特征,总的特征数为13×13×256,然后进行正则化处理,用于求和的通道数为5,最后得到13×13×256数据;
第三层:输入数据13×13×256,填充值是1,384个过滤器,窗口大小为3×3,得到[(13-3+1×2)/1]+1=13个特征,输出特征为13×13×384,然后进行ReLU激活层3处理,最后得到13×13×384数据;
第四层:输入数据13×13×384,填充值是1,384个过滤器,窗口大小为3×3,得到[(13-3+2×1)/1]+1=13个特征,输出特征为13×13×384,然后进行ReLU激活层4处理,最后得到13×13×384数据;
第五层:输入数据13×13×384,填充值是1,256个过滤器,窗口大小为3×3,得到[(13-3+2×1)/1]+1=13个特征,输出特征为13×13×256,然后进行ReLU激活层5处理,输出特征为13×13×256,经过池化层5进行最大池化3×3的核,步长为2,得到[(13-3)/2]+1=6个特征,总的特征数为6×6×256,最后得到6×6×256数据;
第六层:输入数据6×6×256,全连接,得到4096个特征,然后进行ReLU激活层6处理,输出特征为4096,经过dropout6处理,最后得到4096数据;
第七层:输入数据4096,全连接,得到4096个特征,然后进行ReLU激活层7处理,输出特征为4096,经过dropout7处理,最后得到4096数据;
第八层:输入数据4096,全连接,得到1000个特征数据。
3.如权利要求1所述的基于深度卷积神经网络的预防乳腺癌自助健康云服务系统,其特征在于:所述的卷积神经网络,其学习过程是一个前向传播过程,上一层的输出即为当前层的输入,并通过激活函数逐层传递,因此整个网络的实际计算输出用公式(1)表示,
Op=Fn(…(F2(F1(XW1)W2)…)Wn) (1)
式中,X表示原始输入,Fl表示第l层的激活函数,Wl表示第l层的映射权值矩阵,Op表示整个网络的实际计算输出,l=1,2,…,n;
当前层的输出用(2)表示,
Xl=fl(WlXl-1+bl) (2)
式中,l代表网络层数,Xl表示当前层的输出,Xl-1表示上一层的输出,即当前层的输入,Wl代表已经训练好的、当前网络层的映射权值矩阵,bl为当前网络的加性偏置,fl是当前网络层的激活函数;采用的激活函数fl为纠正线性单元,即ReLU,用公式(3)表示,
式中,l代表网络层数,Wl代表已经训练好的、当前网络层的映射权值矩阵,fl是当前网络层的激活函数;其作用是如果卷积计算结果小于0,则让其为0;否则保持其值不变。
4.如权利要求1所述的基于深度卷积神经网络的预防乳腺癌自助健康云服务系统,其特征在于:所述的深度卷积神经网络是在所述的卷积神经网络的第八层的反卷积层后连接了一个Softmax分类器,用于依据BI-RADS类型进行分类识别;
所述的Softmax分类器,将深度神经网络中的学习结果作为softmax分类器的输入数据;Softmax回归是面向多类分类问题的Logistic回归;
假设对于训练集{(x(1),y(1),…,x(m),y(m))},有y(1)∈{1,2,…,k},对于给定的样本输入x,输出一个k维的向量来表示每一种分类结果出现的概率为p(y=i|x),假设函数h(x)如下:
θ1,θ2,…θk是模型的参数,并且所有的概率和为1;加入规则项后的代价函数为:
代价函数对第j个类别的第l个参数的偏导数为:
式中,j为类别数,m为训练集的类别数,p(y(i)=j|x(i);θ)为x分为类别j的概率,λ为规则项参数,也称为权重衰减项,该规则项参数主要是防止过拟合的;
最后,通过最小化J(θ),实现softmax的分类回归,将分类回归结果保存到特征库中;
在BI-RADS类型识别分类时,将提取到的输入数据特征与学习训练得到BI-RADS类型特征库中的数据进行比对,计算出每一个分类结果的概率,然后取概率最高的一个结果进行输出。
5.如权利要求1所述的基于深度卷积神经网络的预防乳腺癌自助健康云服务系统,其特征在于:所述的自助健康云服务平台根据用户发送过来的乳腺钼靶摄片图像,采用基于全卷积神经网络的从乳腺钼靶摄片图像中分割出乳房区域的分割方法对乳腺钼靶摄片图像进行乳房对象的分割,得到分割后的乳房图像;然后根据BI-RADS类型分类规范用深度卷积神经网络对分割后的乳房图像进行识别分类;如果该用户有历史乳腺钼靶摄片图像,就再与该用户的历史乳腺钼靶摄片图像进行比对,对比其不同点;如果该用户有病理学专家临床诊断报告,就结合病理学专家临床诊断报告进行综合分析,提出诊断和治疗建议,然后将健康检测结果报告递交给资深放射科医生进行确认,最后将健康检测结果报告信息反馈给用户;
所述的健康咨询文件名以用户终端对应的号码进行命名,并保存在服务器中,或者由自助健康云服务平台向用户终端发送通知或者自助健康检测结果报告。
6.如权利要求1所述的基于深度卷积神经网络的预防乳腺癌自助健康云服务系统,其特征在于:所述的卷积神经网络,对于头足轴位、外内侧位、内外侧位、内侧头足轴位、外侧头足轴位、尾叶位和乳沟位的乳腺钼靶摄片图像各自都对应着一个卷积神经网络进行学习和训练;所述的乳房区域的分割模块,对于头足轴位、外内侧位、内外侧位、内侧头足轴位、外侧头足轴位、尾叶位和乳沟位的乳腺钼靶摄片图像各自都对应着一个全卷积神经网络进行分割;所述的深度卷积神经网络,对于头足轴位、外内侧位、内外侧位、内侧头足轴位、外侧头足轴位、尾叶位和乳沟位的乳腺钼靶摄片图像各自都对应着一个深度卷积神经网络进行分类识别。
7.如权利要求1或5或6所述的基于深度卷积神经网络的预防乳腺癌自助健康云服务系统,其特征在于:所述的深度卷积神经网络中的BI-RADS类型图像特征数据集,包括了各种BI-RADS类型图像数据,在这些BI-RADS类型图像中既包括了BI-RADS类型的某个特征,又包括了BI-RADS类型的二个和二个以上特征的组合;
要求BI-RADS类型特征图像至少在3000个以上,在带有标签的乳腺钼靶摄片图像基础上,采用数据增强变换技术来增加输入数据的量;
采用如下增强变换方法中的一种或几种增加输入数据的量:①旋转|反射变换:随机旋转图像一定角度,改变图像内容的朝向;②翻转变换:沿着水平或者垂直方向翻转图像;③缩放变换:按照一定的比例放大或者缩小图像;④平移变换:在图像平面上对图像以一定方式进行平移;⑤可以采用随机或人为定义的方式指定平移范围和平移步长,沿水平或竖直方向进行平移,改变图像内容的位置;⑥尺度变换:对图像按照指定的尺度因子,进行放大或缩小;或者参照SIFT特征提取思想,利用指定的尺度因子对图像滤波构造尺度空间;改变图像内容的大小或模糊程度;⑦对比度变换:在图像的HSV颜色空间,改变饱和度S和V亮度分量,保持色调H不变;对每个像素的S和V分量进行指数运算,指数因子在0.25到4之间,增加光照变化;⑧噪声扰动:采用椒盐噪声或高斯噪声对图像的每个像素RGB进行随机扰动;⑨颜色变换;
在预防乳腺癌自助健康云服务系统运行过程中,对于难辨的乳腺钼靶摄片图像,通过与资深放射科医生的合作,对这些乳腺钼靶摄片图像数据样本标上类别标签,不断丰富和完善乳腺癌图像数据集,以不断提升BI-RADS类型的分类精度。
8.如权利要求1所述的基于深度卷积神经网络的预防乳腺癌自助健康云服务系统,其特征在于:自助健康是以下述流程来实现的,用户将乳腺钼靶摄片图像通过手机上的微信或者彩信或者QQ发送给健康云服务平台;对于一些用户没有乳腺钼靶摄片数字图像时,用户用手机或者其他移动设备拍摄来获取乳腺钼靶摄片数字图像,首先用户先将电脑屏幕打开空白的word或者PPT,全屏显示后,将片子放置在电脑屏幕前,然后打开智能手机上的相机软件;在影像片拍照时,要看清上面的汉字或英文字母,字的方向通常就是片子的正确方向,要放正位置拍照;然后在手机或数码相机上进行预览,质量好的标准是能够清晰地看见英文字母;如果显示模糊,说明拍照时手抖动了或没有正确对焦,需要删除重拍;最后将乳腺钼靶摄片图像通过手机上的微信或者彩信或者QQ发送给健康云服务平台;
健康云服务平台根据用户发送过来的乳腺钼靶摄片图像,进行乳房对象的分割、与该用户的历史乳腺钼靶摄片图像进行比对,然后进行分类处理,然后根据BI-RADS类型自动进行综合分析,提出诊断和治疗建议,自动生成自助健康检测结果报告,然后将健康检测结果报告递交给资深放射科医生进行确认,最后将健康检测结果报告信息反馈给用户。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610733877.0A CN106339591B (zh) | 2016-08-25 | 2016-08-25 | 一种基于深度卷积神经网络的预防乳腺癌自助健康云服务系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610733877.0A CN106339591B (zh) | 2016-08-25 | 2016-08-25 | 一种基于深度卷积神经网络的预防乳腺癌自助健康云服务系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN106339591A CN106339591A (zh) | 2017-01-18 |
CN106339591B true CN106339591B (zh) | 2019-04-02 |
Family
ID=57823068
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201610733877.0A Active CN106339591B (zh) | 2016-08-25 | 2016-08-25 | 一种基于深度卷积神经网络的预防乳腺癌自助健康云服务系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN106339591B (zh) |
Families Citing this family (75)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106981080A (zh) * | 2017-02-24 | 2017-07-25 | 东华大学 | 基于红外图像和雷达数据的夜间无人车场景深度估计方法 |
CN106874688B (zh) * | 2017-03-01 | 2019-03-12 | 中国药科大学 | 基于卷积神经网络的智能化先导化合物发现方法 |
CN108573491A (zh) * | 2017-03-10 | 2018-09-25 | 南京大学 | 一种基于机器学习的三维超声图像分割方法 |
CN107133439A (zh) * | 2017-03-14 | 2017-09-05 | 广东工业大学 | 一种皮肤病理图像镜下所见描述文本的生成方法 |
CN107016395B (zh) * | 2017-03-18 | 2021-02-26 | 复旦大学 | 稀疏表示的原发性脑部淋巴瘤和胶质母细胞瘤的鉴别系统 |
CN106821376B (zh) * | 2017-03-28 | 2019-12-06 | 南京医科大学 | 一种基于深度学习算法的癫痫发作预警系统 |
CN107103601B (zh) * | 2017-04-14 | 2020-04-24 | 成都知识视觉科技有限公司 | 一种乳腺癌评分系统中的细胞有丝分裂检测方法 |
CN107220506A (zh) * | 2017-06-05 | 2017-09-29 | 东华大学 | 基于深度卷积神经网络的乳腺癌风险评估分析系统 |
CN107330263B (zh) * | 2017-06-26 | 2020-07-28 | 成都知识视觉科技有限公司 | 一种计算机辅助乳腺浸润性导管癌组织学分级的方法 |
CN107274402A (zh) * | 2017-06-27 | 2017-10-20 | 北京深睿博联科技有限责任公司 | 一种基于胸部ct影像的肺结节自动检测方法及系统 |
CN107578822B (zh) * | 2017-07-25 | 2020-12-15 | 广东工业大学 | 一种针对医疗多模态大数据的预处理及特征提取方法 |
US10380739B2 (en) | 2017-08-15 | 2019-08-13 | International Business Machines Corporation | Breast cancer detection |
CN107833629A (zh) * | 2017-10-25 | 2018-03-23 | 厦门大学 | 基于深度学习的辅助诊断方法及系统 |
US10460214B2 (en) * | 2017-10-31 | 2019-10-29 | Adobe Inc. | Deep salient content neural networks for efficient digital object segmentation |
CN107679250B (zh) * | 2017-11-01 | 2020-12-01 | 浙江工业大学 | 一种基于深度自编码卷积神经网络的多任务分层图像检索方法 |
CN107808157B (zh) * | 2017-11-08 | 2021-08-13 | 广东工业大学 | 一种雷管编码定位及识别的方法及装置 |
TWI683276B (zh) | 2017-11-10 | 2020-01-21 | 太豪生醫股份有限公司 | 病灶偵測裝置及其方法 |
WO2019104096A1 (en) * | 2017-11-22 | 2019-05-31 | General Electric Company | Multi-modal computer-aided diagnosis systems and methods for prostate cancer |
CN107886514B (zh) * | 2017-11-22 | 2021-04-23 | 浙江中医药大学 | 基于深度残差网络的乳腺钼靶图像肿块语义分割方法 |
CN107767380A (zh) * | 2017-12-06 | 2018-03-06 | 电子科技大学 | 一种基于全局空洞卷积的高分辨率复合视野皮肤镜图像分割方法 |
CN108231189B (zh) * | 2017-12-12 | 2022-12-09 | 华南师范大学 | 基于双深度神经学习网络的数据处理方法和疾病诊断装置 |
CN108109140A (zh) * | 2017-12-18 | 2018-06-01 | 复旦大学 | 基于深度学习的低级别脑胶质瘤柠檬酸脱氢酶无损预测方法及系统 |
CN108464840B (zh) * | 2017-12-26 | 2021-10-19 | 安徽科大讯飞医疗信息技术有限公司 | 一种乳腺肿块自动检测方法及系统 |
CN108230311A (zh) * | 2018-01-03 | 2018-06-29 | 四川大学 | 一种乳腺癌检测方法及装置 |
CN108305251A (zh) * | 2018-02-01 | 2018-07-20 | 四川大学 | 一种乳腺癌检测方法与装置 |
US11011275B2 (en) * | 2018-02-12 | 2021-05-18 | Ai.Skopy, Inc. | System and method for diagnosing gastrointestinal neoplasm |
CN108492319B (zh) * | 2018-03-09 | 2021-09-03 | 西安电子科技大学 | 基于深度全卷积神经网络的运动目标检测方法 |
CN108510482B (zh) * | 2018-03-22 | 2020-12-04 | 姚书忠 | 一种基于阴道镜图像的宫颈癌检测装置 |
CN108549850B (zh) * | 2018-03-27 | 2021-07-16 | 联想(北京)有限公司 | 一种图像识别方法及电子设备 |
CN108460764B (zh) * | 2018-03-31 | 2022-02-15 | 华南理工大学 | 基于自动上下文和数据增强的超声图像智能分割方法 |
CN108550150B (zh) * | 2018-04-17 | 2020-11-13 | 上海联影医疗科技有限公司 | 乳腺密度的获取方法、设备及可读存储介质 |
CN108665456B (zh) * | 2018-05-15 | 2022-01-28 | 广州尚医网信息技术有限公司 | 基于人工智能的乳腺超声病灶区域实时标注的方法及系统 |
CN108830282A (zh) * | 2018-05-29 | 2018-11-16 | 电子科技大学 | 一种乳腺x光图像的乳腺肿块信息提取及分类方法 |
CN109064455B (zh) * | 2018-07-18 | 2021-06-25 | 清华大学深圳研究生院 | 一种基于bi-rads的乳腺超声图像多尺度融合的分类方法 |
CN109117871A (zh) * | 2018-07-20 | 2019-01-01 | 上海市肺科医院 | 一种通过深度学习获取肺部病灶恶性概率的系统和方法 |
JP7078487B2 (ja) * | 2018-08-02 | 2022-05-31 | 富士フイルムヘルスケア株式会社 | 超音波診断装置及び超音波画像処理方法 |
CN109086836A (zh) * | 2018-09-03 | 2018-12-25 | 淮阴工学院 | 一种基于卷积神经网络的食管癌病理图像自动甄别装置及其甄别方法 |
CN109409413B (zh) * | 2018-09-28 | 2022-09-16 | 贵州大学 | X射线乳腺肿块影像自动分类方法 |
CN109447065B (zh) * | 2018-10-16 | 2020-10-16 | 杭州依图医疗技术有限公司 | 一种乳腺影像识别的方法及装置 |
CN109377487B (zh) * | 2018-10-16 | 2022-04-12 | 浙江大学 | 一种基于深度学习分割的水果表面缺陷检测方法 |
WO2020107167A1 (zh) * | 2018-11-26 | 2020-06-04 | 深圳先进技术研究院 | 乳腺密度自动分级方法及装置 |
WO2020107156A1 (zh) * | 2018-11-26 | 2020-06-04 | 深圳先进技术研究院 | 乳腺医学超声图像的自动化分类方法及装置 |
CN109598709B (zh) * | 2018-11-29 | 2023-05-26 | 东北大学 | 基于融合深度特征的乳腺辅助诊断系统及方法 |
CN109657714A (zh) * | 2018-12-11 | 2019-04-19 | 深圳先进技术研究院 | 数据处理方法、装置及电子设备 |
CN109754007A (zh) * | 2018-12-27 | 2019-05-14 | 武汉唐济科技有限公司 | 前列腺手术中外包膜智能检测和预警方法及系统 |
CN110490850B (zh) * | 2019-02-14 | 2021-01-08 | 腾讯科技(深圳)有限公司 | 一种肿块区域检测方法、装置和医学图像处理设备 |
CN109889525A (zh) * | 2019-02-26 | 2019-06-14 | 北京智芯微电子科技有限公司 | 多通信协议智能感知方法 |
CN109902682A (zh) * | 2019-03-06 | 2019-06-18 | 太原理工大学 | 一种基于残差卷积神经网络的乳腺x线图像检测方法 |
CN110084277B (zh) * | 2019-03-29 | 2021-03-05 | 广州思德医疗科技有限公司 | 一种训练集的拆分方法及装置 |
CN110084790B (zh) * | 2019-04-17 | 2020-11-17 | 电子科技大学成都学院 | 用于影像学肺炎判别的仿生模式识别改进方法 |
CN110136829A (zh) * | 2019-05-16 | 2019-08-16 | 腾讯科技(深圳)有限公司 | 乳腺钼靶图像的辅助诊断方法、装置、系统及介质 |
CN110136809B (zh) | 2019-05-22 | 2022-12-27 | 腾讯科技(深圳)有限公司 | 一种医疗图像处理方法、装置、电子医疗设备和存储介质 |
CN110246578A (zh) * | 2019-06-12 | 2019-09-17 | 吉林大学第一医院 | 一种肺癌样本快速检测方法 |
CN110378895A (zh) * | 2019-07-25 | 2019-10-25 | 山东浪潮人工智能研究院有限公司 | 一种基于深度注意力学习的乳腺癌图像识别方法 |
CN110428407A (zh) * | 2019-07-31 | 2019-11-08 | 深圳市人民医院 | 一种超声影像分析系统及其分析方法 |
CN110414539A (zh) * | 2019-08-05 | 2019-11-05 | 腾讯科技(深圳)有限公司 | 一种提取特征描述信息的方法和相关装置 |
CN110751621B (zh) * | 2019-09-05 | 2023-07-21 | 五邑大学 | 基于深度卷积神经网络的乳腺癌辅助诊断方法及装置 |
CN112614084A (zh) * | 2019-09-18 | 2021-04-06 | 中国科学院沈阳计算技术研究所有限公司 | 一种针对ct图像的3d深度卷积神经网络的方法 |
CN111179227B (zh) * | 2019-12-16 | 2022-04-05 | 西北工业大学 | 基于辅助诊断和主观美学的乳腺超声图像质量评价方法 |
CN111179252B (zh) * | 2019-12-30 | 2021-02-05 | 山东大学齐鲁医院 | 基于云平台的消化道病灶辅助识别与正反馈系统 |
CN111243730B (zh) * | 2020-01-17 | 2023-09-22 | 苏州视尚医疗科技有限公司 | 一种基于乳腺超声影像的乳腺病灶智能分析方法及系统 |
CN111383328B (zh) * | 2020-02-27 | 2022-05-20 | 西安交通大学 | 一种面向乳腺癌病灶的3d可视化方法及系统 |
CN111543982A (zh) * | 2020-04-01 | 2020-08-18 | 五邑大学 | 一种疲劳驾驶检测方法、装置及存储介质 |
CN111652226B (zh) * | 2020-04-30 | 2024-05-10 | 平安科技(深圳)有限公司 | 基于图片的目标识别方法、装置及可读存储介质 |
CN111932507B (zh) * | 2020-07-31 | 2021-04-09 | 苏州慧维智能医疗科技有限公司 | 一种基于消化内镜实时识别病变的方法 |
US11335004B2 (en) | 2020-08-07 | 2022-05-17 | Adobe Inc. | Generating refined segmentation masks based on uncertain pixels |
CN112381662B (zh) * | 2020-10-30 | 2024-04-26 | 中国农业大学 | 花粉可育率评估方法及装置 |
US11676279B2 (en) | 2020-12-18 | 2023-06-13 | Adobe Inc. | Utilizing a segmentation neural network to process initial object segmentations and object user indicators within a digital image to generate improved object segmentations |
US11875510B2 (en) | 2021-03-12 | 2024-01-16 | Adobe Inc. | Generating refined segmentations masks via meticulous object segmentation |
CN113256605B (zh) * | 2021-06-15 | 2021-11-02 | 四川大学 | 一种基于深度神经网络的乳腺癌图像识别分类方法 |
CN113298841B (zh) * | 2021-07-26 | 2024-01-12 | 四川大学华西医院 | 一种肤质油份分型方法、计算机设备、系统及存储介质 |
CN113838020B (zh) * | 2021-09-17 | 2024-06-18 | 仰和华健数字医疗科技(上海)有限公司 | 一种基于钼靶影像的病变区域量化方法 |
US12020400B2 (en) | 2021-10-23 | 2024-06-25 | Adobe Inc. | Upsampling and refining segmentation masks |
CN115221798B (zh) * | 2022-09-19 | 2022-12-30 | 中南大学 | 一种电池热过程时空建模预测方法、系统、设备及介质 |
CN117809841B (zh) * | 2024-02-23 | 2024-04-30 | 四川大学华西医院 | 一种基于大模型技术的皮肤专病患者管理方法及系统 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN202033756U (zh) * | 2011-04-20 | 2011-11-09 | 周明 | 基于物联网的乳腺x线计算机辅助检测及远程诊断系统 |
CN105117611A (zh) * | 2015-09-23 | 2015-12-02 | 北京科技大学 | 基于卷积神经元网络的中医舌诊模型的确定方法及系统 |
CN105138816A (zh) * | 2015-07-23 | 2015-12-09 | 杭州电子科技大学 | 基于云计算的乳腺钼靶计算机辅助检测及远程诊断系统 |
CN105354565A (zh) * | 2015-12-23 | 2016-02-24 | 北京市商汤科技开发有限公司 | 基于全卷积网络人脸五官定位与判别的方法及系统 |
-
2016
- 2016-08-25 CN CN201610733877.0A patent/CN106339591B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN202033756U (zh) * | 2011-04-20 | 2011-11-09 | 周明 | 基于物联网的乳腺x线计算机辅助检测及远程诊断系统 |
CN105138816A (zh) * | 2015-07-23 | 2015-12-09 | 杭州电子科技大学 | 基于云计算的乳腺钼靶计算机辅助检测及远程诊断系统 |
CN105117611A (zh) * | 2015-09-23 | 2015-12-02 | 北京科技大学 | 基于卷积神经元网络的中医舌诊模型的确定方法及系统 |
CN105354565A (zh) * | 2015-12-23 | 2016-02-24 | 北京市商汤科技开发有限公司 | 基于全卷积网络人脸五官定位与判别的方法及系统 |
Also Published As
Publication number | Publication date |
---|---|
CN106339591A (zh) | 2017-01-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106339591B (zh) | 一种基于深度卷积神经网络的预防乳腺癌自助健康云服务系统 | |
CN106295139B (zh) | 一种基于深度卷积神经网络的舌体自诊健康云服务系统 | |
CN106372390B (zh) | 一种基于深度卷积神经网络的预防肺癌自助健康云服务系统 | |
Ni et al. | GC-Net: Global context network for medical image segmentation | |
CN108537773A (zh) | 针对胰腺癌与胰腺炎性疾病进行智能辅助鉴别的方法 | |
Shaikh et al. | Artificial intelligence in breast cancer early detection and diagnosis | |
CN110047082A (zh) | 基于深度学习的胰腺神经内分泌肿瘤自动分割方法及系统 | |
Shubbar | Ultrasound medical imaging systems using telemedicine and blockchain for remote monitoring of responses to neoadjuvant chemotherapy in women’s breast cancer: concept and implementation | |
Petrini et al. | Breast cancer diagnosis in two-view mammography using end-to-end trained efficientnet-based convolutional network | |
Domínguez Hernández et al. | Development of an expert system as a diagnostic support of cervical cancer in atypical glandular cells, based on fuzzy logics and image interpretation | |
Makram et al. | Deep Learning Approach for Liver Tumor Diagnosis | |
Ali et al. | Detection of Cancer in Lung CT Image Using 3D CNN | |
Chowdhary et al. | An improved tumour identification with gabor wavelet segmentation | |
Sivasankaran et al. | Lung Cancer Detection Using Image Processing Technique Through Deep Learning Algorithm. | |
Dheeba et al. | Computer aided intelligent breast cancer detection: second opinion for radiologists—a prospective study | |
López et al. | A New Fat-Removal-Based Preprocessing Pipeline for MLO View in Digital Mammograms | |
Bansal et al. | A hybrid CAD system design for liver diseases using clinical and radiological data | |
Oh et al. | Detection of microcalcifications in digital mammograms using foveal method | |
Nguyen et al. | Classification of microcalcifications in mammograms using artificial neural networks | |
Özbay et al. | Kidney Tumor Classification on CT images using Self-supervised Learning | |
da Cruz | Automatic analysis of mammography images | |
Alharbi et al. | Fuzzy image segmentation for mass detection in digital mammography: Recent advances and techniques | |
Jones | Developing Novel Computer Aided Diagnosis Schemes for Improved Classification of Mammography Detected Masses | |
Taie et al. | A prototype for breast cancer detection and development probability expert system—Towards a supportive tool | |
Nurshafira | An improved clipped sub-histogram equalization technique using optimized local contrast factor for mammogram image analysis/Nurshafira Hazim Chan |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
TR01 | Transfer of patent right | ||
TR01 | Transfer of patent right |
Effective date of registration: 20230914 Address after: Room 701, 7th Floor, Building 10, Jingshun Platinum Yuecheng, Xihu District, Hangzhou City, Zhejiang Province, 310023 Patentee after: Hangzhou Yixun Technology Service Co.,Ltd. Address before: No. 64 Xinshi Street, Xiacheng District, Hangzhou City, Zhejiang Province, 310014 Patentee before: Tang Yiping |