CN112990307A - 基于网络架构搜索的多谱段脑胶质瘤图像分类系统 - Google Patents

基于网络架构搜索的多谱段脑胶质瘤图像分类系统 Download PDF

Info

Publication number
CN112990307A
CN112990307A CN202110269262.8A CN202110269262A CN112990307A CN 112990307 A CN112990307 A CN 112990307A CN 202110269262 A CN202110269262 A CN 202110269262A CN 112990307 A CN112990307 A CN 112990307A
Authority
CN
China
Prior art keywords
image
infrared
glioma
region image
structural unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110269262.8A
Other languages
English (en)
Other versions
CN112990307B (zh
Inventor
田捷
胡振华
肖安琪
沈碧螺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Institute of Automation of Chinese Academy of Science
Original Assignee
Institute of Automation of Chinese Academy of Science
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Institute of Automation of Chinese Academy of Science filed Critical Institute of Automation of Chinese Academy of Science
Priority to CN202110269262.8A priority Critical patent/CN112990307B/zh
Publication of CN112990307A publication Critical patent/CN112990307A/zh
Application granted granted Critical
Publication of CN112990307B publication Critical patent/CN112990307B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2413—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
    • G06F18/24133—Distances to prototypes
    • G06F18/24137—Distances to cluster centroïds
    • G06F18/2414—Smoothing the distance, e.g. radial basis function networks [RBFN]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/082—Learning methods modifying the architecture, e.g. adding, deleting or silencing nodes or connections
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00—Geometric image transformations in the plane of the image
    • G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4038—Image mosaicing, e.g. composing plane images from plane sub-images
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/70—Denoising; Smoothing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10064—Fluorescence image
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30004—Biomedical image processing
    • G06T2207/30016—Brain
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30004—Biomedical image processing
    • G06T2207/30096—Tumor; Lesion

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computational Linguistics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Evolutionary Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Image Analysis (AREA)

Abstract

本发明属于生物医学分子影像以及人工智能领域，具体涉及一种基于网络架构搜索的多谱段脑胶质瘤图像分类系统，旨在解决现有脑胶质瘤图像分类手段无法准确、高效分类的问题。本发明系统包括：图像获取模块，配置为获取同一脑胶质瘤组织的白光图像、近红外一区图像、近红外二区图像；图像预处理模块，配置为对近红外一区图像和近红外二区图像进行降噪、非线性映射处理；处理后，对白光图像、近红外一区图像和近红外二区图像进行分辨率调整，并通过通道维度进行图像拼接，将拼接后的图像作为多谱段脑胶质瘤图像；分类模块，配置为通过预训练的图像分类模型获取多谱段脑胶质瘤图像的类别。本发明实现了脑胶质瘤图像准确、高效的分类。

Description

基于网络架构搜索的多谱段脑胶质瘤图像分类系统
技术领域
本发明属于生物医学分子影像以及人工智能领域，具体涉及一种基于网络架构搜索的多谱段脑胶质瘤图像分类系统、方法、设备。
背景技术
脑胶质瘤占成年人恶性原发性脑瘤的75％，其中最致命的胶质母细胞瘤致死率高，严重威胁患者生存状况。脑胶质瘤的分类可以促进临床计划和预后，从而改善患者的生活。
目前缺乏术中快速、准确的对脑胶质瘤图像进行分类的手段。传统的冰冻组织切片病理分析能够获得准确的等级信息，但这种方法耗时长，操作复杂，且无法处理大量样本，限制了其的应用。手工设计的神经网络在应对术中图像小规模、小分辨率、高噪声的特点时无法达到很好的效果。而网络架构搜索(NAS)是新兴的深度学习方法，它能够在特定数据集上搜寻适合这些数据的网络结构，从而比手工设计的神经网络具有更好的性能，同时也具有高效、高通量的特点。
近红外荧光成像技术(包括一区700-900nm和二区1000-1700nm两个窗口)是一种新型的病灶定位方法，具有很高的临床转化潜力，其与白光成像技术相结合形成的多谱段成像方法能够提供互补的信息，更有利于神经网络模型的训练学习，增加分类的准确性和可靠性，进一步拓展了荧光成像在肿瘤诊疗一体化等预临床和临床方面的应用。基于此，本方明提出了一种基于网络架构搜索的多谱段脑胶质瘤图像分类系统。
发明内容
为了解决现有技术中的上述问题，即为了解决现有脑胶质瘤图像分类手段无法准确、高效的进行脑胶质瘤图像分类的问题，本发明提出了一种基于网络架构搜索的多谱段脑胶质瘤图像分类系统，该系统包括：图像获取模块、图像预处理模块、分类模块；
所述图像获取模块，配置为获取同一脑胶质瘤组织的白光图像、近红外一区图像、近红外二区图像；
所述图像预处理模块，配置为对近红外一区图像和近红外二区图像进行降噪、非线性映射处理；处理后，对白光图像、近红外一区图像和近红外二区图像进行分辨率调整，并通过通道维度进行图像拼接，将拼接后的图像作为多谱段脑胶质瘤图像；
所述分类模块，配置为通过预训练的图像分类模型获取所述多谱段脑胶质瘤图像的类别；
其中，所述图像分类模型，其训练方法为：
A10，获取同一脑胶质瘤组织的白光图像、近红外一区图像、近红外二区图像以及对应的类别真值标签，作为训练样本；
A20，执行步骤S20的图像预处理方法对白光图像、近红外一区图像、近红外二区图像进行预处理，得到多谱段脑胶质瘤图像；
A30，通过预构建的结构单元搜索网络获取所述多谱段脑胶质瘤图像的预测类别，并结合对应的类别真值标签，计算损失值，更新模型参数以及一般结构单元、下采样结构单元各节点之间的操作权重；
A40，基于更新后的操作权重对一般结构单元、下采样结构单元中各节点间的边进行剪枝；并利用剪枝后的一般结构单元、下采样结构单元构建图像分类模型；
A50，通过构建好的图像分类模型获取所述多谱段脑胶质瘤图像的预测类别，并结合对应的类别真值标签，计算损失值，更新模型参数；
A60，循环执行步骤A50，直到得到训练好的图像分类模型；
所述结构单元搜索网络包括卷积层、一般结构单元、下采样结构单元、全局平均池化层、全连接层；其中，所述一般结构单元、所述下采样结构单元均包含两个输入节点，四个中间节点以及一个输出节点；所述一般结构单元用于卷积处理。
在一些优选的实施方式中，所述图像分类模型其结构从上到下依次包含一个卷积层、二十个一般结构单元、三个下采样结构单元、一个全局平均池化层、一个全连接层；其中，五个一般结构单元为一组，分为四组，组与组之间间隔一个下采样单元；第三组一般结构单元分为两个小组，第一小组末尾与辅助塔结构连接，辅助塔结构包括一个平均池化层、一个1×1卷积层、一个2×2卷积层、一个全局平均池化层、一个全连接层，用于输出分类预测结果。
在一些优选的实施方式中，所述一般结构单元、所述下采样结构单元各节点之间的边的候选操作包括零化、直连、1×1可分离卷积、3×3可分离卷积、1×1空洞卷积、3×3空洞卷积、3×3平均池化和3×3最大池化，每个候选操作具有一个操作权重αo。
在一些优选的实施方式中，“基于更新后的操作权重对一般结构单元、下采样结构单元中各节点间的边进行剪枝”，其方法为：
各边除零化操作外具有最大操作权重的候选操作保留，其余候选操作被舍弃；
然后将各中间节点保留指向其的具有最大操作权重的候选操作的两条边，其余边被舍弃。
所述图像分类模型其损失函数为：
Loss＝Focal Loss(fc)+waux·Focal Loss(aux)
其中，Loss表示总损失，fc表示全连接层输出的各类别概率向量，aux表示辅助塔输出的各类别概率向量，waux为辅助塔部分的损失对整个函数损失的权重系数，Focal Loss表示Focal Loss损失函数。
在一些优选的实施方式中，所述结构单元搜索网络中的一般结构单元、下采样结构单元各节点之间的边的候选操作的操作权重使用Softmax函数进行调整，具体为：
Figure BDA0002973529550000041
其中，
Figure BDA0002973529550000042
为si到sj这条边上的候选操作o′调整后的操作权重，O表示候选操作集合，
Figure BDA0002973529550000043
表示si到sj这条边上的候选操作o′调整前的操作权重，
Figure BDA0002973529550000044
表示si到sj这条边上的候选操作o调整前的操作权重。
本发明的第二方面，提出了一种基于网络架构搜索的多谱段脑胶质瘤图像分类方法，该方法包括以下步骤：
S10，获取同一脑胶质瘤组织的白光图像、近红外一区图像、近红外二区图像；
S20，对近红外一区图像和近红外二区图像进行降噪、非线性映射处理；处理后，对白光图像、近红外一区图像和近红外二区图像进行分辨率调整，并通过通道维度进行图像拼接，将拼接后的图像作为多谱段脑胶质瘤图像；
S30，通过预训练的图像分类模型获取所述多谱段脑胶质瘤图像的类别；
其中，所述图像分类模型，其训练方法为：
A10，获取同一脑胶质瘤组织的白光图像、近红外一区图像、近红外二区图像以及对应的类别真值标签，作为训练样本；
A20，执行步骤S20的图像预处理方法对白光图像、近红外一区图像、近红外二区图像进行预处理，得到多谱段脑胶质瘤图像；
A30，通过预构建的结构单元搜索网络获取所述多谱段脑胶质瘤图像的预测类别，并结合对应的类别真值标签，计算损失值，更新模型参数以及一般结构单元、下采样结构单元各节点之间的操作权重；
A40，基于更新后的操作权重对一般结构单元、下采样结构单元中各节点间的边进行剪枝；并利用剪枝后的一般结构单元、下采样结构单元构建图像分类模型；
A50，通过构建好的图像分类模型获取所述多谱段脑胶质瘤图像的预测类别，并结合对应的类别真值标签，计算损失值，更新模型参数；
A60，循环执行步骤A50，直到得到训练好的图像分类模型；
所述结构单元搜索网络包括卷积层、一般结构单元、下采样结构单元、全局平均池化层、全连接层；其中，所述一般结构单元、所述下采样结构单元均包含两个输入节点，四个中间节点以及一个输出节点；所述一般结构单元用于卷积处理。
本发明第三方面，提出了一种计算机设备，包括：至少一个处理器；以及与至少一个所述处理器通信连接的存储器；其中，所述存储器存储有可被所述处理器执行的指令，所述指令用于被所述处理器执行以实现上述的基于网络架构搜索的多谱段脑胶质瘤图像分类方法。
本发明第四方面，提出了一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于被所述计算机执行以实现上述的基于网络架构搜索的多谱段脑胶质瘤图像分类方法。
本发明的有益效果：
本发明实现了脑胶质瘤图像准确、高效的分类。
1)本发明获取同一脑胶质瘤组织的白光图像、近红外一区图像、近红外二区图像，对白光图像、近红外一区图像和近红外二区图像进行预处理并进行拼接，作为多谱段脑胶质瘤数据，对图像分类模型进行训练，可以学习具有形态多变、高噪声、小分辨率等特征的多谱段脑胶质瘤图像中肉眼难以捕获的各等级的差异与特征，从而达到较高分类精度、可信度的效果。
2)本发明结合网络架构搜索方法，构建图像分类模型，可以使得多谱段的脑胶质瘤图像分类具有高效和高通量的特点，可快速处理多个多谱段脑胶质瘤图像。
附图说明
通过阅读参照以下附图所做的对非限制性实施例所做的详细描述，本申请的其他特征、目的和优点将会变得更明显。
图1是本发明一种实施例的基于网络架构搜索的多谱段脑胶质瘤图像分类系统的简略框架示意图；
图2是本发明一种实施例的多谱段脑胶质瘤数据获取过程的示意图；
图3为本发明一种实施例的图像分类模型的训练流程示意图；
图4是本发明一种实施例的网络架构搜索的搜索流程的示意图；
图5是本发明一种实施例的适于用来实现本申请实施例的电子设备的计算机系统的结构示意图；
图6是本发明一种实施例的图像分类模型的结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释相关发明，而非对该发明的限定。需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。
本发明第一实施例的一种基于网络架构搜索的多谱段脑胶质瘤图像分类系统，如图1、3所示，该系统包括：图像获取模块100、图像预处理模块200、分类模块300；
所述图像获取模块100，配置为获取同一脑胶质瘤组织的白光图像、近红外一区图像、近红外二区图像；
所述图像预处理模块200，配置为对近红外一区图像和近红外二区图像进行降噪、非线性映射处理；处理后，对白光图像、近红外一区图像和近红外二区图像进行分辨率调整，并通过通道维度进行图像拼接，将拼接后的图像作为多谱段脑胶质瘤图像；
所述分类模块300，配置为通过预训练的图像分类模型获取所述多谱段脑胶质瘤图像的类别；
其中，所述图像分类模型，其训练方法为：
A10，获取同一脑胶质瘤组织的白光图像、近红外一区图像、近红外二区图像以及对应的类别真值标签，作为训练样本；
A20，执行步骤S20的图像预处理方法对白光图像、近红外一区图像、近红外二区图像进行预处理，得到多谱段脑胶质瘤图像；
A30，通过预构建的结构单元搜索网络获取所述多谱段脑胶质瘤图像的预测类别，并结合对应的类别真值标签，计算损失值，更新模型参数以及一般结构单元、下采样结构单元各节点之间的操作权重；
A40，基于更新后的操作权重对一般结构单元、下采样结构单元中各节点间的边进行剪枝；并利用剪枝后的一般结构单元、下采样结构单元构建图像分类模型；
A50，通过构建好的图像分类模型获取所述多谱段脑胶质瘤图像的预测类别，并结合对应的类别真值标签，计算损失值，更新模型参数；
A60，循环执行步骤A50，直到得到训练好的图像分类模型；
所述结构单元搜索网络包括卷积层、一般结构单元、下采样结构单元、全局平均池化层、全连接层；其中，所述一般结构单元、所述下采样结构单元均包含两个输入节点，四个中间节点以及一个输出节点；所述一般结构单元用于卷积处理。
为了更清晰地对本发明基于网络架构搜索的多谱段脑胶质瘤图像分类系统进行说明，下面对本发明系统一种实施例中各模块进行展开详述。
在下述实施例中先对图像分类模型的构建以及训练方法进行阐述，在对基于网络架构搜索的多谱段脑胶质瘤图像分类系统获取脑胶质瘤图像的类别的过程进行详述。
1、图像分类模型的构建以及训练方法
本发明中，图像分类模型需要首先通过网络架构搜索获取其一般结构单元和下采样结构单元剪枝后的结构，然后基于剪枝后的结构单元构建图像分类模型，再对模型进行训练。
网络架构搜索时使用的结构单元搜索网络，从上到下包含一个3×3卷积层、四个一般结构单元、三个下采样结构单元、一个全局平均池化层、一个全连接层；两两一般结构单元之间间隔一个下采样结构单元，一般结构单元用于卷积处理。
其中，3×3卷积层用于对输入的脑胶质瘤图像进行初步处理，扩充图像特征通道数至16，其输出将作为第一个一般结构单元的输入。
一般结构单元、下采样结构单元都包含以下有向无环图，结构描述如下：
两个输入节点，为上上层以及上层结构单元的输出，分别编号为s0和s1；
四个中间节点，其中每个节点的编号为si(2≤i≤5)，每个节点与编号小于其的所有节点相连，且边的方向由编号小的节点指向编号大的节点；
一个输出节点，接收四个中间节点的输出并按通道维度拼接起来，形成该结构单元的输出。
一般结构单元与下采样结构单元内部具有以下规则：
1)每条边所包含的每一个候选操作o(·)将被赋予一个权重αo，且从节点si到sj(2≤j≤5)的输入将变为：
Figure BDA0002973529550000091
其中，
Figure BDA0002973529550000092
表示从si到sj的操作o对应的权重，O表示定义的候选操作集合，xi表示节点si的输出值，而sj最终输出的结果为：
xj＝∑i＜jfij(xi) (2)
2)拓扑结构上的每个边包含全部候选操作，每条边的操作间的αo权重将使用Softmax函数进行调整，保证所有候选操作的权重和为1，调整函数定义如公式(3)所示：
Figure BDA0002973529550000093
其中，
Figure BDA0002973529550000101
为si到sj这条边上的操作o′调整后的权重，O表示候选操作集合，
Figure BDA0002973529550000102
表示si到sj这条边上的候选操作o′调整前的操作权重，
Figure BDA0002973529550000103
表示si到sj这条边上的候选操作o调整前的操作权重。
3)拓扑结构上的边与边之间的αo权重分开计算、更新；
4)每种结构单元(一般结构单元，或者下采样结构单元)共享所有αo权重，不同种类的结构单元的αo权重分开计算、更新。
本发明中定义的候选操作包括：零化、直连、1×1可分离卷积、3×3可分离卷积、1×1空洞卷积、3×3空洞卷积、3×3平均池化和3×3最大池化。其中，候选操作为卷积的将使用ReLU函数激活-卷积-批归一化(Batch Normalization)的结构，可分离卷积操作将连续执行两次上述卷积使用的结构。
网络架构搜索时，使用多谱段脑胶质瘤数据以及对应标签完成对结构单元搜索网络的权重更新以及各操作权重αo的更新。
网络架构搜索完成后，对结构单元搜索网络中的一般结构单元、下采样结构单元各节点之间的边进行剪枝处理。
其中，剪枝处理方法为：
各边除零化操作外具有最大αo权重的候选操作保留，其余候选操作被舍弃；即：各边从代表全部八种操作变为代表其中一种非零化的操作；
然后将编号为si(2≤i≤5)的各个节点保留指向其的具有最大操作权重的两条边，其余边被舍弃，得到最终的拓扑连接以及对应的操作。
构建的图像分类模型，如图6所示，从上到下包含一个3×3卷积层、二十个一般结构单元、三个下采样结构单元、一个全局平均池化层、一个全连接层；五个一般结构单元为一组，分为四组，组与组之间间隔一个下采样单元；第三组一般结构单元分为两个小组，第一小组末尾与辅助塔结构连接，辅助塔结构包括一个平均池化层、一个1×1卷积层、一个2×2卷积层、一个全局平均池化层、一个全连接层，用于输出分类预测结果。
其中，3×3卷积层用于对输入的脑胶质瘤图像进行初步处理，扩充图像特征通道数至36，其输出将作为第一个一般结构单元的输入。
图像分类模型的训练过程，如图3所示，具体如下：
A10，获取同一脑胶质瘤组织的白光图像、近红外一区图像(NIR-I)、近红外二区图像(NIR-II)以及对应的类别真值标签，作为训练样本；
A20，对近红外一区图像和近红外二区图像进行降噪、非线性映射处理；处理后，对白光图像、近红外一区图像和近红外二区图像进行分辨率调整，并通过通道维度将三种图像拼接，作为多谱段脑胶质瘤图像；
在实施例中，对近红外一区图像和近红外二区图像进行降噪、非线性映射处理，使得其像素值落在0～255区间中。对白光图像、NIR-I图像和NIR-II图像进行分辨率调整，调节到相同大小，然后通过通道维度将三种谱段的图像拼接合成多谱段脑胶质瘤数据。如图2所示。
A30，通过预构建的结构单元搜索网络获取所述多谱段脑胶质瘤图像的预测类别，并结合对应的类别真值标签，计算损失值，更新模型参数以及一般结构单元、下采样结构单元各节点之间的操作权重；
A40，基于更新后的操作权重对一般结构单元、下采样结构单元中各节点间的边进行剪枝；并利用剪枝后的一般结构单元、下采样结构单元构建图像分类模型；
A50，通过构建好的图像分类模型获取所述多谱段脑胶质瘤图像的预测类别，并结合对应的类别真值标签，计算损失值，更新模型参数；
在本实施例中，训练时所使用的损失函数可以是包含全连接层以及辅助塔两部分Focal Loss的加权和，其定义如下：
Loss＝Focal Loss(fc)+waux·Focal Loss(aux) (4)
其中，Focal Loss(·)为Focal Loss函数，fc为全连接层输出的各类别概率向量，aux为辅助塔输出的各类别概率向量，waux＝1.0为辅助塔部分的损失对整个函数损失的权重系数。
Focal Loss用于减少脑胶质瘤类别不平衡对图像分类模型的影响，其公式如下：
Figure BDA0002973529550000121
其中，α＝1.0和γ＝2.0为调节类别不平衡对模型损失值影响的参数，c＝4为输出等级数，p为模型输出的各类别概率向量，pi和yi分别表示第i类预测概率与真实标签，log(·)为对数函数。
A60，循环执行步骤A50，直到得到训练好的图像分类模型。
在本实施例中，循环执行步骤A50对图像分类模型进行训练，装直至达到设定的训练次数或者达到预设的精度后，得到训练好的图像分类模型。
另外，图像分类模型其在训练时，所使用的训练硬件可以是Google Colab所提供的TPU(v2，8核，64GB内存)，环境可以是Python 3.6搭配TensorFlow(版本2.0+)深度学习框架，所使用的优化器可以为Adam(用于更新αo权重，β1＝0.5，β1＝0.999，学习率6×10-4，权重衰减1×10-3)和SGD(用于更新搜索网络参数，学习率2.5×10-3，权重衰减3×10-4并使用余弦退火更新策略)，所训练的时长可以为50轮，所选取的批大小可以为64，所使用的数据增强可以包含β＝1.0的CutMix、随机翻转、Cutout。
2、基于网络架构搜索的多谱段脑胶质瘤图像分类系统
图像获取模块，配置为获取同一脑胶质瘤组织的白光图像、近红外一区图像、近红外二区图像；
图像预处理模块，配置为对近红外一区图像和近红外二区图像进行降噪、非线性映射处理；处理后，对白光图像、近红外一区图像和近红外二区图像进行分辨率调整，并通过通道维度进行图像拼接，将拼接后的图像作为多谱段脑胶质瘤图像；
分类模块，配置为通过预训练的图像分类模型获取所述多谱段脑胶质瘤图像的类别。
在本实施例中，通过上述训练好的图像分类模型获取脑胶质瘤图像的类别。
需要说明的是，上述实施例提供的基于网络架构搜索的多谱段脑胶质瘤图像分类系统，仅以上述各功能模块的划分进行举例说明，在实际应用中，可以根据需要而将上述功能分配由不同的功能模块来完成，即将本发明实施例中的模块或者步骤再分解或者组合，例如，上述实施例的模块可以合并为一个模块，也可以进一步拆分成多个子模块，以完成以上描述的全部或者部分功能。对于本发明实施例中涉及的模块、步骤的名称，仅仅是为了区分各个模块或者步骤，不视为对本发明的不当限定。
本发明第二实施例的一种基于网络架构搜索的多谱段脑胶质瘤图像分类方法，包括以下步骤：
S10，获取同一脑胶质瘤组织的白光图像、近红外一区图像、近红外二区图像；
S20，对近红外一区图像和近红外二区图像进行降噪、非线性映射处理；处理后，对白光图像、近红外一区图像和近红外二区图像进行分辨率调整，并通过通道维度进行图像拼接，将拼接后的图像作为多谱段脑胶质瘤图像；
S30，通过预训练的图像分类模型获取所述多谱段脑胶质瘤图像的类别；
其中，所述图像分类模型，其训练方法为：
A10，获取同一脑胶质瘤组织的白光图像、近红外一区图像、近红外二区图像以及对应的类别真值标签，作为训练样本；
A20，执行步骤S20的图像预处理方法对白光图像、近红外一区图像、近红外二区图像进行预处理，得到多谱段脑胶质瘤图像；
A30，通过预构建的结构单元搜索网络获取所述多谱段脑胶质瘤图像的预测类别，并结合对应的类别真值标签，计算损失值，更新模型参数以及一般结构单元、下采样结构单元各节点之间的操作权重；
A40，基于更新后的操作权重对一般结构单元、下采样结构单元中各节点间的边进行剪枝；并利用剪枝后的一般结构单元、下采样结构单元构建图像分类模型；
A50，通过构建好的图像分类模型获取所述多谱段脑胶质瘤图像的预测类别，并结合对应的类别真值标签，计算损失值，更新模型参数；
A60，循环执行步骤A50，直到得到训练好的图像分类模型；
所述结构单元搜索网络包括卷积层、一般结构单元、下采样结构单元、全局平均池化层、全连接层；其中，所述一般结构单元、所述下采样结构单元均包含两个输入节点，四个中间节点以及一个输出节点；所述一般结构单元用于卷积处理。
所述技术领域的技术人员可以清楚的了解到，为描述的方便和简洁，上述描述的方法的具体的工作过程及有关说明，可以参考前述系统实施例中的对应过程，在此不再赘述。
本发明第三实施例，提出了一种计算机设备，包括：至少一个处理器；以及与至少一个所述处理器通信连接的存储器；其中，所述存储器存储有可被所述处理器执行的指令，所述指令用于被所述处理器执行以实现上述的基于网络架构搜索的多谱段脑胶质瘤图像分类方法。
本发明第四实施例，提出了一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于被所述计算机执行以实现上述的基于网络架构搜索的多谱段脑胶质瘤图像分类方法。
所述技术领域的技术人员可以清楚的了解到，为描述的方便和简洁，上述描述的存储装置、处理装置的具体工作过程及有关说明，可以参考前述方法实例中的对应过程，在此不再赘述。
下面参考图5，其示出了适于用来实现本申请方法、系统、设备实施例的服务器的计算机系统的结构示意图。图5示出的服务器仅仅是一个示例，不应对本申请实施例的功能和使用范围带来任何限制。
如图5所示，计算机系统包括中央处理单元(CPU，Central Processing Unit)501，其可以根据存储在只读存储器(ROM，Read Only Memory)502中的程序或者从存储部分508加载到随机访问存储器(RAM，Random Access Memory)503中的程序而执行各种适当的动作和处理。在RAM503中，还存储有系统操作所需的各种程序和数据。CPU501、ROM 502以及RAM503通过总线504彼此相连。输入/输出(I/O，Input/Output)接口505也连接至总线504。
以下部件连接至I/O接口505：包括键盘、鼠标等的输入部分506；包括诸如阴极射线管(CRT，Cathode Ray Tube)、液晶显示器(LCD，Liquid Crystal Display)等以及扬声器等的输出部分507；包括硬盘等的存储部分508；以及包括诸如LAN(局域网，Local AreaNetwork)卡、调制解调器等的网络接口卡的通讯部分509。通讯部分509经由诸如因特网的网络执行通信处理。驱动器510也根据需要连接至I/O接口505。可拆卸介质511，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器510上，以便于从其上读出的计算机程序根据需要被安装入存储部分508。
特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通讯部分509从网络上被下载和安装，和/或从可拆卸介质511被安装。在该计算机程序被中央处理单元(CPU501执行时，执行本申请的方法中限定的上述功能。需要说明的是，本申请上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本申请中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本申请的操作的计算机程序代码，上述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图，图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
术语“第一”、“第二”等是用于区别类似的对象，而不是用于描述或表示特定的顺序或先后次序。
术语“包括”或者任何其它类似用语旨在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备/装置不仅包括那些要素，而且还包括没有明确列出的其它要素，或者还包括这些过程、方法、物品或者设备/装置所固有的要素。
至此，已经结合附图所示的优选实施方式描述了本发明的技术方案，但是，本领域技术人员容易理解的是，本发明的保护范围显然不局限于这些具体实施方式。在不偏离本发明的原理的前提下，本领域技术人员可以对相关技术特征作出等同的更改或替换，这些更改或替换之后的技术方案都将落入本发明的保护范围之内。

Claims (9)

1.一种基于网络架构搜索的多谱段脑胶质瘤图像分类系统，其特征在于，该系统包括：图像获取模块、图像预处理模块、分类模块；
所述图像获取模块，配置为获取同一脑胶质瘤组织的白光图像、近红外一区图像、近红外二区图像；
所述图像预处理模块，配置为对近红外一区图像和近红外二区图像进行降噪、非线性映射处理；处理后，对白光图像、近红外一区图像和近红外二区图像进行分辨率调整，并通过通道维度进行图像拼接，将拼接后的图像作为多谱段脑胶质瘤图像；
所述分类模块，配置为通过预训练的图像分类模型获取所述多谱段脑胶质瘤图像的类别；
其中，所述图像分类模型，其训练方法为：
A10，获取同一脑胶质瘤组织的白光图像、近红外一区图像、近红外二区图像以及对应的类别真值标签，作为训练样本；
A20，执行步骤S20的图像预处理方法对白光图像、近红外一区图像、近红外二区图像进行预处理，得到多谱段脑胶质瘤图像；
A30，通过预构建的结构单元搜索网络获取所述多谱段脑胶质瘤图像的预测类别，并结合对应的类别真值标签，计算损失值，更新模型参数以及一般结构单元、下采样结构单元各节点之间的操作权重；
A40，基于更新后的操作权重对一般结构单元、下采样结构单元中各节点间的边进行剪枝；并利用剪枝后的一般结构单元、下采样结构单元构建图像分类模型；
A50，通过构建好的图像分类模型获取所述多谱段脑胶质瘤图像的预测类别，并结合对应的类别真值标签，计算损失值，更新模型参数；
A60，循环执行步骤A50，直到得到训练好的图像分类模型；
所述结构单元搜索网络包括卷积层、一般结构单元、下采样结构单元、全局平均池化层、全连接层；其中，所述一般结构单元、所述下采样结构单元均包含两个输入节点，四个中间节点以及一个输出节点；所述一般结构单元用于卷积处理。
2.根据权利要求1所述的基于网络架构搜索的多谱段脑胶质瘤图像分类系统，其特征在于，所述图像分类模型其结构从上到下依次包含一个卷积层、二十个一般结构单元、三个下采样结构单元、一个全局平均池化层、一个全连接层；其中，五个一般结构单元为一组，分为四组，组与组之间间隔一个下采样单元；第三组一般结构单元分为两个小组，第一小组末尾与辅助塔结构连接，辅助塔结构包括一个平均池化层、一个1×1卷积层、一个2×2卷积层、一个全局平均池化层、一个全连接层，用于输出分类预测结果。
3.根据权利要求2所述的基于网络架构搜索的多谱段脑胶质瘤图像分类系统，其特征在于，所述一般结构单元、所述下采样结构单元各节点之间的边的候选操作包括零化、直连、1×1可分离卷积、3×3可分离卷积、1×1空洞卷积、3×3空洞卷积、3×3平均池化和3×3最大池化，每个候选操作具有一个操作权重αo。
4.根据权利要求1所述的基于网络架构搜索的多谱段脑胶质瘤图像分类系统，其特征在于，“基于更新后的操作权重对一般结构单元、下采样结构单元中各节点间的边进行剪枝”，其方法为：
各边除零化操作外具有最大操作权重的候选操作保留，其余候选操作被舍弃；
然后将各中间节点保留指向其的具有最大操作权重的候选操作的两条边，其余边被舍弃。
5.根据权利要求2所述的基于网络架构搜索的多谱段脑胶质瘤图像分类系统，其特征在于，所述图像分类模型其损失函数为：
Loss＝Focal Loss(fc)+waux·Focal Loss(aux)
其中，Loss表示总损失，fc表示全连接层输出的各类别概率向量，aux表示辅助塔输出的各类别概率向量，waux为辅助塔部分的损失对整个函数损失的权重系数，Focal Loss表示Focal Loss损失函数。
6.根据权利要求1所述的基于网络架构搜索的多谱段脑胶质瘤图像分类系统，其特征在于，所述结构单元搜索网络中的一般结构单元、下采样结构单元各节点之间的边的候选操作的操作权重使用Softmax函数进行调整，具体为：
Figure FDA0002973529540000031
其中，
Figure FDA0002973529540000032
为si到sj这条边上的候选操作o′调整后的操作权重，O表示候选操作集合，
Figure FDA0002973529540000033
表示si到sj这条边上的候选操作o′调整前的操作权重，
Figure FDA0002973529540000034
表示si到sj这条边上的候选操作o调整前的操作权重。
7.一种基于网络架构搜索的多谱段脑胶质瘤图像分类方法，其特征在于，该方法包括以下步骤：
S10，获取同一脑胶质瘤组织的白光图像、近红外一区图像、近红外二区图像；
S20，对近红外一区图像和近红外二区图像进行降噪、非线性映射处理；处理后，对白光图像、近红外一区图像和近红外二区图像进行分辨率调整，并通过通道维度进行图像拼接，将拼接后的图像作为多谱段脑胶质瘤图像；
S30，通过预训练的图像分类模型获取所述多谱段脑胶质瘤图像的类别；
其中，所述图像分类模型，其训练方法为：
A10，获取同一脑胶质瘤组织的白光图像、近红外一区图像、近红外二区图像以及对应的类别真值标签，作为训练样本；
A20，对近红外一区图像和近红外二区图像进行降噪、非线性映射处理；处理后，对白光图像、近红外一区图像和近红外二区图像进行分辨率调整，并通过通道维度将三种图像拼接，作为多谱段脑胶质瘤数据；
A20，执行步骤S20的图像预处理方法对白光图像、近红外一区图像、近红外二区图像进行预处理，得到多谱段脑胶质瘤图像；
A30，通过预构建的结构单元搜索网络获取所述多谱段脑胶质瘤图像的预测类别，并结合对应的类别真值标签，计算损失值，更新模型参数以及一般结构单元、下采样结构单元各节点之间的操作权重；
A40，基于更新后的操作权重对一般结构单元、下采样结构单元中各节点间的边进行剪枝；并利用剪枝后的一般结构单元、下采样结构单元构建图像分类模型；
A50，通过构建好的图像分类模型获取所述多谱段脑胶质瘤图像的预测类别，并结合对应的类别真值标签，计算损失值，更新模型参数；
A60，循环执行步骤A50，直到得到训练好的图像分类模型；
所述结构单元搜索网络包括卷积层、一般结构单元、下采样结构单元、全局平均池化层、全连接层；其中，所述一般结构单元、所述下采样结构单元均包含两个输入节点，四个中间节点以及一个输出节点；所述一般结构单元用于卷积处理。
8.一种计算机设备，其特征在于，包括：
至少一个处理器；以及
与至少一个所述处理器通信连接的存储器；其中，
所述存储器存储有可被所述处理器执行的指令，所述指令用于被所述处理器执行以实现权利要求7所述的基于网络架构搜索的多谱段脑胶质瘤图像分类方法。
9.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于被所述计算机执行以实现权利要求7所述的基于网络架构搜索的多谱段脑胶质瘤图像分类方法。
CN202110269262.8A 2021-03-12 2021-03-12 基于网络架构搜索的多谱段脑胶质瘤图像分类系统 Active CN112990307B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110269262.8A CN112990307B (zh) 2021-03-12 2021-03-12 基于网络架构搜索的多谱段脑胶质瘤图像分类系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110269262.8A CN112990307B (zh) 2021-03-12 2021-03-12 基于网络架构搜索的多谱段脑胶质瘤图像分类系统

Publications (2)

Publication Number Publication Date
CN112990307A true CN112990307A (zh) 2021-06-18
CN112990307B CN112990307B (zh) 2023-01-13

Family

ID=76335112

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110269262.8A Active CN112990307B (zh) 2021-03-12 2021-03-12 基于网络架构搜索的多谱段脑胶质瘤图像分类系统

Country Status (1)

Country Link
CN (1) CN112990307B (zh)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111814966A (zh) * 2020-08-24 2020-10-23 国网浙江省电力有限公司 神经网络架构搜索方法、神经网络应用方法、设备及存储介质
CN112183547A (zh) * 2020-10-19 2021-01-05 中国科学院计算技术研究所 基于多模态数据的多任务学习方法及系统

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111814966A (zh) * 2020-08-24 2020-10-23 国网浙江省电力有限公司 神经网络架构搜索方法、神经网络应用方法、设备及存储介质
CN112183547A (zh) * 2020-10-19 2021-01-05 中国科学院计算技术研究所 基于多模态数据的多任务学习方法及系统

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
ANQI XIAO等: "Intraoperative Glioma Grading Using Neural Architecture Search and Multi-modal Imaging", 《IEEE TRANSACTIONS ON MEDICAL IMAGING》 *
赵尚义等: "基于3D CNN的脑胶质瘤分类算法", 《光学技术》 *
魏炜等: "影像组学在胶质瘤临床诊疗中的应用现状", 《中国微侵袭神经外科杂志》 *
黄奕晖等: "基于三维全卷积DenseNet的脑胶质瘤MRI分割", 《南方医科大学学报》 *

Also Published As

Publication number Publication date
CN112990307B (zh) 2023-01-13

Similar Documents

Publication Publication Date Title
CN112560876B (zh) 解耦度量的单阶段小样本目标检测方法
Wu et al. Cascaded fully convolutional networks for automatic prenatal ultrasound image segmentation
CN110334689B (zh) 视频分类方法和装置
CN111738172B (zh) 基于特征对抗学习和自相似性聚类的跨域目标重识别方法
CN113158909A (zh) 基于多目标跟踪的行为识别轻量化方法、系统、设备
CN111723728A (zh) 基于双向交互网络的行人搜索方法、系统、装置
CN112347908B (zh) 一种基于空间分组注意力模型的外科手术器械图像识别方法
Meng et al. A 5g beam selection machine learning algorithm for unmanned aerial vehicle applications
CN114022742B (zh) 红外与可见光图像融合方法、装置及计算机存储介质
CN113256592B (zh) 图像特征提取模型的训练方法、系统及装置
CN115482221A (zh) 一种病理图像的端到端弱监督语义分割标注方法
CN113792742A (zh) 遥感图像的语义分割方法和语义分割模型的训练方法
CN113408570A (zh) 一种基于模型蒸馏的图像类别识别方法、装置、存储介质及终端
CN112465737A (zh) 图像处理模型训练方法、图像处理方法及图像处理装置
CN113129310B (zh) 一种基于注意力路由的医学图像分割系统
CN113449671A (zh) 一种多尺度多特征融合的行人重识别方法及装置
CN114743037A (zh) 一种基于多尺度结构学习的深度医学图像聚类方法
CN114511733A (zh) 基于弱监督学习的细粒度图像识别方法、装置及可读介质
CN116861262B (zh) 一种感知模型训练方法、装置及电子设备和存储介质
CN112990307B (zh) 基于网络架构搜索的多谱段脑胶质瘤图像分类系统
CN117709409A (zh) 应用于图像处理的神经网络训练方法及相关设备
US20220366242A1 (en) Information processing apparatus, information processing method, and storage medium
CN115908307A (zh) 基于多阶段预训练的无参考图像质量检测方法及系统
CN114886383A (zh) 基于迁移学习的针对脑电信号情感特征分类方法
CN115841605A (zh) 目标检测网络训练与目标检测方法、电子设备、存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant