CN112257769B - 基于强化学习类脑读图的多层核磁影像分类方法及系统 - Google Patents
基于强化学习类脑读图的多层核磁影像分类方法及系统 Download PDFInfo
- Publication number
- CN112257769B CN112257769B CN202011119554.5A CN202011119554A CN112257769B CN 112257769 B CN112257769 B CN 112257769B CN 202011119554 A CN202011119554 A CN 202011119554A CN 112257769 B CN112257769 B CN 112257769B
- Authority
- CN
- China
- Prior art keywords
- nuclear magnetic
- magnetic image
- layer
- image
- classification
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 96
- 230000002787 reinforcement Effects 0.000 title claims abstract description 37
- 210000004556 brain Anatomy 0.000 title claims abstract description 25
- 239000010410 layer Substances 0.000 claims abstract description 100
- 230000009471 action Effects 0.000 claims abstract description 99
- 239000002356 single layer Substances 0.000 claims abstract description 82
- 238000004458 analytical method Methods 0.000 claims abstract description 17
- 238000012545 processing Methods 0.000 claims abstract description 11
- 238000012549 training Methods 0.000 claims description 34
- 230000008569 process Effects 0.000 claims description 17
- 230000000875 corresponding effect Effects 0.000 claims description 15
- 238000007781 pre-processing Methods 0.000 claims description 14
- 238000000605 extraction Methods 0.000 claims description 9
- 238000013527 convolutional neural network Methods 0.000 claims description 7
- 230000006870 function Effects 0.000 claims description 7
- 230000009191 jumping Effects 0.000 claims description 7
- 238000013135 deep learning Methods 0.000 claims description 5
- 102200082907 rs33918131 Human genes 0.000 claims description 5
- 102220597642 Cyclin-dependent kinase inhibitor 1B_S10A_mutation Human genes 0.000 claims description 3
- 102220597636 Cyclin-dependent kinase inhibitor 1B_S10D_mutation Human genes 0.000 claims description 3
- 102220597637 Cyclin-dependent kinase inhibitor 1B_S10E_mutation Human genes 0.000 claims description 3
- 239000000126 substance Substances 0.000 claims 2
- 230000008447 perception Effects 0.000 description 8
- 238000012512 characterization method Methods 0.000 description 7
- 238000005481 NMR spectroscopy Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 2
- 230000001276 controlling effect Effects 0.000 description 2
- 125000004122 cyclic group Chemical group 0.000 description 2
- 238000006467 substitution reaction Methods 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000013145 classification model Methods 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000003828 downregulation Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000009472 formulation Methods 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000012567 pattern recognition method Methods 0.000 description 1
- 238000002203 pretreatment Methods 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 238000004445 quantitative analysis Methods 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 238000007619 statistical method Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 230000003827 upregulation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/26—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
- G06V10/267—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion by performing operations on regions, e.g. growing, shrinking or watersheds
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Molecular Biology (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
- Magnetic Resonance Imaging Apparatus (AREA)
- Image Processing (AREA)
Abstract
本发明属于图像处理技术领域，具体涉及了一种基于强化学习类脑读图的多层核磁影像分类方法及系统，旨在解决现有模型在多层核磁影像分类中性能不佳的问题。本发明包括：将多层核磁影像拆为单层；通过特征编码与预测模型进行第t个核磁影像的编码和感知，获得低维深度特征和分类结果；基于低维深度特征，通过行动策略生成模型获取行动指令xt；若xt不为0，则进行t+xt层影像的特征编码与预测、行动指令生成以及判断，直至行动指令为0；以指令为0的影像的层级分类结果作为多层核磁影像的分类结果。本发明对每一层核磁影像实施逐像素分析保证层级分类正确，并可准确定位真正对最终决策有贡献的层级，进而实现更加精准的多样本多分类任务。
Description
技术领域
本发明属于图像处理技术领域，具体涉及了一种基于强化学习类脑读图的多层核磁影像分类方法及系统。
背景技术
磁共振图像中包含有大量的高位且可定量的未被完全挖掘的信息，这些高维特征信息借助模式识别方法能够用于构建精准的样本分类方法。但是由于磁共振图像的扫描层间分辨率通常较低，扫描轴向的信息存在信息流失，严重影响了组织成像方法反应空间信息的完整性，进而影响基于核磁影像的分类模型的精度。
当前的数字图像处理和建模方法通常首先对多层核磁影像中的每一层进行，分析获得一个层级的近似患者级的分类结果，进而通过投票策略，选择分类结果出现频率最高的类别作为患者级的分类结果。这样处理方法往往对基于层分析的方法要求较高，一旦正确的样本分类结果不能作为高频结果出现，将无法获得正确患者级分类。
因此，除了需要对每一层核磁影像实施逐像素分析保证层级分类正确外，本领域还需要具有有效的决策机制用于确定真正对最终决策有贡献的层级分析结果，实现一个准确定位分析对象，进而获得准确且可解释的决策模型，进而实现更加精准的多样本多分类任务。
发明内容
为了解决现有技术中的上述问题，即现有模型仅通过简单的统计学方式无法有效分辨和联合多层核磁影像的每一层的语义信息，从而在多层核磁影像分类中性能不佳的问题，本发明提供了一种基于强化学习类脑读图的多层核磁影像分类方法，该分类方法包括：
步骤S10，获取多层核磁影像，并将所述多层核磁影像拆分为单层核磁影像，获得单层核磁影像序列；
步骤S20，选取所述单层核磁影像序列中的第t个核磁影像，通过特征编码与预测模型，采用逐像素分析方式对所述第t个核磁影像中的像素排列及深层信息进行表征编码和感知，获得第t个核磁影像的低维深度特征和分类结果；
步骤S30，通过行动策略生成模型，基于所述第t个核磁影像的低维深度特征，获取对应的行动指令xt；所述行动指令xt为带符号的整数；
步骤S40，通过决策模块判断所述行动指令xt是否为0，若是，则跳转步骤S50；若不是，则令t＝t+xt，并跳转步骤S20；
步骤S50，所述第t个核磁影像为所述多层核磁影像的最相关层，以所述第t个核磁影像的分类结果作为所述多层核磁影像的分类结果。
在一些优选的实施例中，所述行动指令xt，其符号代表行动的方向，数值代表行动方向上的步长：
行动指令xt为正整数时，下一次运算的核磁影像由当前核磁影像向所述单层核磁影像序列的列头方向切换|xt|层；
行动指令xt为负整数时，下一次运算的核磁影像由当前核磁影像向所述单层核磁影像序列的列尾方向切换|xt|层。
在一些优选的实施例中，步骤S40之后还设置有：
若第t个核磁影像的行动指令xt和第t+xt个核磁影像的行动指令
为符号相反且数值相等的整数时，直接以所述第t个核磁影像为所述多层核磁影像的最相关层，以所述第t个核磁影像的分类结果作为所述多层核磁影像的分类结果。
在一些优选的实施例中，步骤S10之后还设置有图像预处理步骤，其方法为：
步骤S10A，对于所述单层核磁影像序列中每一个单层核磁影像，通过Z-score进行标准化，获得第一单层核磁影像序列；
步骤S10B，采用窗位窗宽方法，利用0-255间的有效阈值进行所述第一单层核磁影像序列的调整，获得第二单层核磁影像序列；
步骤S10C，通过基于深度卷积神经网络的超分辨率图像预处理模型进行所述第二单层核磁影像序列的处理，获得预处理单层核磁影像序列。
在一些优选的实施例中，步骤S10C之后还设置有图像感兴趣区域提取步骤，其方法为：
步骤S10D，对于所述预处理单层核磁影像序列中每一个预处理单层核磁影像，以影像中心区域为锚点，按照设定尺寸切割出矩形的感兴趣区域；
步骤S10E，将所述矩形的感兴趣区域放大至切割之前影像的尺寸，获得感兴趣区域提取后的单层核磁影像序列。
在一些优选的实施例中，该分类方法的整体分类预测模型包括所述特征编码与预测模型、行动策略生成模型和决策模块，其训练方法为：
步骤B10，构建多层核磁影像分类的整体分类预测模型，并获取所述特征编码与预测模型的弱监督训练样本集；
步骤B20，选取所述弱监督训练样本集中任一样本，通过基于层的弱监督深度学习方法进行所述特征编码与预测模型的训练，获得第一特征编码与预测模型、样本深度特征和分类结果；
步骤B30，基于所述第一特征编码与预测模型、样本深度特征和分类结果，结合所述决策模块进行基于强化学习的行动策略生成模型的训练，获得第一行动策略生成模型；
步骤B40，基于所述第一行动策略生成模型，跳转步骤B20进行特征编码与预测模型和行动策略生成模型的交替训练，直至达到设定的交替训练次数或两个模型的损失函数值均低于设定阈值，获得训练好的特征编码与预测模型和行动策略生成模型。
在一些优选的实施例中，所述多层核磁影像分类的整体分类预测模型为：
P(X)＝C(Q(G(X；wg)；wa))
其中，P(X)代表多层核磁影像分类的整体分类预测模型的整体分类结果预测概率，C(·)为决策模块，Q(·)为行动策略生成模型，G(·)为特征编码与预测模型，wg和wa分别为特征编码与预测模型和行动策略生成模型对应的模型参数，X代表多层核磁影像分类的整体分类预测模型的输入样本图像。
本发明的另一方面，提出了一种基于强化学习类脑读图的多层核磁影像分类系统，该分类系统包括以下模块：
输入模块，配置为获取多层核磁影像，并将所述多层核磁影像拆分为单层核磁影像，获得单层核磁影像序列；
图像特征编码与切片级预测模块，配置为选取所述单层核磁影像序列中的第t个核磁影像，通过特征编码与预测模型，采用逐像素分析方式对所述第t个核磁影像中的像素排列及深层信息进行表征编码和感知，获得第t个核磁影像的低维深度特征和分类结果；
行动策略生成模块，配置为通过行动策略生成模型，基于所述第t个核磁影像的低维深度特征，获取对应的行动指令xt；所述行动指令xt为带符号的整数；
决策模块，配置为判断所述行动指令xt是否为0，若是，则跳转输出模块；若不是，则令t＝t+xt，并迭代通过图像特征编码与切片级预测模块、行动策略生成模块和决策模块进行序列中最相关层的寻找；
输出模块，所述第t个核磁影像为所述多层核磁影像的最相关层，输出所述第t个核磁影像的分类结果作为所述多层核磁影像的分类结果。
在一些优选的实施例中，该分类系统还包括预处理模块；
所述预处理模块，配置为对于所述单层核磁影像序列中每一个单层核磁影像，通过Z-score进行标准化，对标准化后的影像并采用窗位窗宽方法，利用0-255间的有效阈值进行调整，并通过基于深度卷积神经网络的超分辨率图像预处理模型进行处理，获得预处理单层核磁影像序列。
在一些优选的实施例中，该分类系统还包括感兴趣区域提取模块；
所述感兴趣区域提取模块，配置为对于所述预处理单层核磁影像序列中每一个预处理单层核磁影像，以影像中心区域为锚点，按照设定尺寸切割出矩形的感兴趣区域，并将所述矩形的感兴趣区域放大至切割之前影像的尺寸，获得感兴趣区域提取后的单层核磁影像序列。
本发明的有益效果：
(1)本发明基于强化学习类脑读图的多层核磁影像分类方法，对于每一层的核磁影像通过逐像素分析方式进行影像中像素排列及深层信息进行表征编码和感知，提升了每一层的核磁影像的低维深度特征和分类结果的准确性和精度，从而进一步提升了多层核磁影像最终分类结果的准确性和精度。
(2)本发明基于强化学习类脑读图的多层核磁影像分类方法，通过类脑读图方式进行多层核磁影像中与最终分类最为密切的最相关层的寻找，模拟人类专家在阅读稀疏图像序列时作出判断的过程，并结合每一层核磁影像或过往的读图经验，最终定位的最相关层与多层核磁影像的分类结果呈现最强的关联性，类脑读图能够快速在稀疏的影像层中定位最具代表性的影像，进而深入进行逐像素分析获得更加精准的样本多分类结果，打破传统基于投票策略的建模方式，从而提高了模型的分类精度、提高了模型的鲁棒性、降低了运算量。
(3)本发明基于强化学习类脑读图的多层核磁影像分类方法，在类脑读图的过程中，当系统在行动指令执行过程中出现循环反复的现象时，及时停止最相关层的寻找，并根据过往的经验选择行动路径中的一幅影像作为最相关层，从而提升了模型分类的效率。
(4)本发明基于强化学习类脑读图的多层核磁影像分类方法，结合基于核磁影像多分类问题的特点，对强化学习的核心，即环境和状态进行了重新定义。将多层核磁影像定义为模型的感知环境，将每一层经卷积网络编码的图像特征作为每次输入的状态变量。不同的状态变量结合环境变量信息，最终输出基于当前状态的行动策略。通过这个过程进一步提升了模型分类的准确性与精度。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本申请的其它特征、目的和优点将会变得更明显：
图1是本发明基于强化学习类脑读图的多层核磁影像分类方法的流程示意图；
图2是本发明基于强化学习类脑读图的多层核磁影像分类方法一种实施例的与现有分类方法进行分类的准确率对比图；
图3是本发明基于强化学习类脑读图的多层核磁影像分类方法一种实施例的与现有分类方法进行分类的ROC对比图；
图4是本发明基于强化学习类脑读图的多层核磁影像分类系统的框架图。
具体实施方式
下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅用于解释相关发明，而非对该发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与有关发明相关的部分。
需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
本发明提供一种基于强化学习类脑读图的多层核磁影像分类方法，受核磁共振影像层间分辨率干扰较小并能够有效联合各层之间的语义信息，进而发挥基于经验学习方法在磁共振图像分类问题中的优势，结合逐像素分析和类脑读进行样本分类，从磁共振图像中找到有效分析区域，实现量化分析，实现一个准确定位分析对象，进而获得准确且可解释的决策模型，进而实现更加精准的多样本多分类任务。
本发明的一种基于强化学习类脑读图的多层核磁影像分类方法，该分类方法包括：
步骤S10，获取多层核磁影像，并将所述多层核磁影像拆分为单层核磁影像，获得单层核磁影像序列；
步骤S20，选取所述单层核磁影像序列中的第t个核磁影像，通过特征编码与预测模型，采用逐像素分析方式对所述第t个核磁影像中的像素排列及深层信息进行表征编码和感知，获得第t个核磁影像的低维深度特征和分类结果；
步骤S30，通过行动策略生成模型，基于所述第t个核磁影像的低维深度特征，获取对应的行动指令xt；所述行动指令xt为带符号的整数；
步骤S40，通过决策模块判断所述行动指令xt是否为0，若是，则跳转步骤S50；若不是，则令t＝t+xt，并跳转步骤S20；
步骤S50，所述第t个核磁影像为所述多层核磁影像的最相关层，以所述第t个核磁影像的分类结果作为所述多层核磁影像的分类结果。
为了更清晰地对本发明基于强化学习类脑读图的多层核磁影像分类方法进行说明，下面结合图1对本发明实施例中各步骤展开详述。
本发明第一实施例的基于强化学习类脑读图的多层核磁影像分类方法，包括步骤S10-步骤S50，各步骤详细描述如下：
步骤S10，获取多层核磁影像，并将所述多层核磁影像拆分为单层核磁影像，获得单层核磁影像序列。
为进一步提升后续处理的速度和精度，对单层核磁影像序列可先进行预处理以及感兴趣区域提取：
预处理方法包括：
步骤S10A，对于所述单层核磁影像序列中每一个单层核磁影像，通过Z-score进行标准化，获得第一单层核磁影像序列；
步骤S10B，采用窗位窗宽方法，利用0-255间的有效阈值进行所述第一单层核磁影像序列的调整，获得第二单层核磁影像序列；
步骤S10C，通过基于深度卷积神经网络的超分辨率图像预处理模型进行所述第二单层核磁影像序列的处理，获得预处理单层核磁影像序列。
采用窗位窗宽方法，充分利用0-255间的有效阈值，可尽量减少值域压缩带来的损失。
感兴趣区域提取方法包括：
步骤S10D，对于所述预处理单层核磁影像序列中每一个预处理单层核磁影像，以影像中心区域为锚点，按照设定尺寸切割出矩形的感兴趣区域；
步骤S10E，将所述矩形的感兴趣区域放大至切割之前影像的尺寸，获得感兴趣区域提取后的单层核磁影像序列。
进行感兴趣区域提取可以扩大图像窗口内感兴趣区域的占比，降低后续进行表征编码和感知的难度，进一步提升单层的低维深度特征和分类结果的准确性和精度。
步骤S20，选取所述单层核磁影像序列中的第t个核磁影像，通过特征编码与预测模型，采用逐像素分析方式对所述第t个核磁影像中的像素排列及深层信息进行表征编码和感知，获得第t个核磁影像的低维深度特征和分类结果。
特征编码与预测模型用于进行影像的表征编码和感知，其模型框架可以是基于手工特征的经典影像组学方法，也可以使基于深度卷积神经网络的模型，将原三维核磁影像拆分为单层模式，采用监督训练策略训练模型，使尽可能针对单层核磁影像获得满足要求的样本多分类性能，模型训练的监督信息为样本的类别标签。
步骤S30，通过行动策略生成模型，基于所述第t个核磁影像的低维深度特征，获取对应的行动指令xt；所述行动指令xt为带符号的整数。
行动策略生成模型，用于制定计算机分析连续多层影像过程中的行动策略，其模型框架的核心算法通常采用基于深度强化学习的方法，例如：深度Q-learning神经网络等，收集上一个步骤产生的编码特征和层级预测结果，并构建新的训练集用于行动策略生成模型的训练。
模型通过经验学习，获得在不同编码特征下的行动指令xt。指令集由正负号对应的不同数值构成，每次输出产生一个带符号的整数，符号表示行动的方向，数字表示在行动方向上的步长。
行动指令xt为正整数时，下一次运算的核磁影像由当前核磁影像向所述单层核磁影像序列的列头方向切换|xt|层；
行动指令xt为负整数时，下一次运算的核磁影像由当前核磁影像向所述单层核磁影像序列的列尾方向切换|xt|层。
本发明一个实施例中，以横断位扫描影像为例，当符号为正时，行动方向为朝向人体头部的方向趋势，反之为人体脚掌朝向趋势。不同的步长用于控制切换层面的间隔，当步长为1时，为切换到行动方向内的下一张影像切片，随着步长增加，影像切片的距离当前切片越远。该模型用于模拟人在阅读稀疏的图像序列时做出判断的过程，基于每一层影像和过往的读图经验关联。通过不断切换观测层，最终定位一个与多分类结果最相关的影像层面。
步骤S40，通过决策模块判断所述行动指令xt是否为0，若是，则跳转步骤S50；若不是，则令t＝t+xt，并跳转步骤S20。
该步骤用于控制特征编码与预测模型和行动策略生成模型交替工作，不断切换分析的影像层，同时给出不同层影像所产生的分类结果。该步骤在进行分类任务中起到检查站的作用，当检测到动作制定模块输出的指令为0时，即不产生任何行动指令，即说明系统在运算过程中已找到最匹配的多分类结果的影像层，该影像中的图像信息与正确的分类结果呈现强关联性。
另外，若第t个核磁影像的行动指令xt和第t+xt个核磁影像的行动指令xt+xt为符号相反且数值相等的整数时，直接以所述第t个核磁影像为所述多层核磁影像的最相关层，以所述第t个核磁影像的分类结果作为所述多层核磁影像的分类结果。
这种情况，即算法在多层核磁影像的固定的几层间呈现循环，需要及时停止最相关层的寻找，并根据过往的经验选择行动路径中的一幅影像作为最相关层，从而提升了模型分类的效率。
步骤S50，所述第t个核磁影像为所述多层核磁影像的最相关层，以所述第t个核磁影像的分类结果作为所述多层核磁影像的分类结果。
本发明分类方法的整体分类预测模型包括所述特征编码与预测模型、行动策略生成模型和决策模块，其训练方法为：
步骤B10，构建多层核磁影像分类的整体分类预测模型，并获取所述特征编码与预测模型的弱监督训练样本集。
多层核磁影像分类的整体分类预测模型如式(1)所示：
P(X)＝C(Q(G(X；wg)；wa)) (1)
其中，P(X)代表多层核磁影像分类的整体分类预测模型的整体分类结果预测概率，C(·)为决策模块，Q(·)为行动策略生成模型，G(·)为特征编码与预测模型，wg和wa分别为特征编码与预测模型和行动策略生成模型对应的模型参数，X代表多层核磁影像分类的整体分类预测模型的输入样本图像。
步骤B20，选取所述弱监督训练样本集中任一样本，通过基于层的弱监督深度学习方法进行所述特征编码与预测模型的训练，获得第一特征编码与预测模型、样本深度特征和分类结果。
步骤B30，基于所述第一特征编码与预测模型、样本深度特征和分类结果，结合所述决策模块进行基于强化学习的行动策略生成模型的训练，获得第一行动策略生成模型。
步骤B40，基于所述第一行动策略生成模型，跳转步骤B20进行特征编码与预测模型和行动策略生成模型的交替训练，直至达到设定的交替训练次数或两个模型的损失函数值均低于设定阈值，获得训练好的特征编码与预测模型和行动策略生成模型。
本发明的多层核磁影像分类的整体分类预测模型基于数据学习的方式进行建模，为了降低模型耦合性从而使得特征编码与预测模型和行动策略生成模型都能有效兼容最新的方法，采取独立的逐步训练方式。首先对特征编码与预测模型进行基于层的弱监督深度学习，进而基于编码后的图像特征进行基于强化学习的行动策略生成模型训练，两个步骤执行完毕后即为完整的一次多层核磁影像分类的整体分类预测模型的训练。通过不断重复训练从而使得特征编码与预测模型和行动策略生成模型的性能相互作用并交替提升，构成闭环训练。在循环过程高质量图像编码特征促进行动策略生成模型参数拟合，更好的行动策略生成模型有助于加大重要影像层面的在特征编码与预测模型训练中的权重。
为了展示本发明的效果，本发明选用具有核磁共振共振图像的真实数据集进行测试，如图2所示，为本发明基于强化学习类脑读图的多层核磁影像分类方法一种实施例的与现有分类方法进行分类的准确率对比图，方法A代表现有分类方法，方法B代表本发明方法，从图中可以看出，一致性分类结果准确率更高，分类结果的上调风险和下调风险更低，得到显著改善。
如图3所示，为本发明基于强化学习类脑读图的多层核磁影像分类方法一种实施例的与现有分类方法进行分类的ROC对比图，其中，方法A代表现有分类方法，方法B代表本发明方法，真阳性率(敏感性)是指实际为阳性而使用该方法被正确地判为阳性的百分比，假阳性率(1-特异性)是指实际为阴性而按该方法被错误地判为阳性的百分比。曲线下面积(AUC)能度量总体分类性能，AUC值越大，则该分类方法的总体性能越好。从图3中可看出，方法A的AUC值为0.709，方法B的AUC值为0.826，由此可见，方法B效果好于方法A。
本发明第二实施例的基于强化学习类脑读图的多层核磁影像分类系统，如图4所示，该分类系统包括以下模块：
输入模块，配置为获取多层核磁影像，并将所述多层核磁影像拆分为单层核磁影像，获得单层核磁影像序列；
图像特征编码与切片级预测模块，配置为选取所述单层核磁影像序列中的第t个核磁影像，通过特征编码与预测模型，采用逐像素分析方式对所述第t个核磁影像中的像素排列及深层信息进行表征编码和感知，获得第t个核磁影像的低维深度特征和分类结果；
行动策略生成模块，配置为通过行动策略生成模型，基于所述第t个核磁影像的低维深度特征，获取对应的行动指令xt；所述行动指令xt为带符号的整数；
决策模块，配置为判断所述行动指令xt是否为0，若是，则跳转输出模块；若不是，则令t＝t+xt，并迭代通过图像特征编码与切片级预测模块、行动策略生成模块和决策模块进行序列中最相关层的寻找；
输出模块，所述第t个核磁影像为所述多层核磁影像的最相关层，输出所述第t个核磁影像的分类结果作为所述多层核磁影像的分类结果。
为了进一步提升模型最终的分类准确性和精度，对于单层核磁影像序列还可以通过预处理模块、感兴趣区域提取模块分别进行预处理和感兴趣区域提取：
预处理模块，配置为对于所述单层核磁影像序列中每一个单层核磁影像，通过Z-score进行标准化，对标准化后的影像并采用窗位窗宽方法，利用0-255间的有效阈值进行调整，并通过基于深度卷积神经网络的超分辨率图像预处理模型进行处理，获得预处理单层核磁影像序列；
感兴趣区域提取模块，配置为对于所述预处理单层核磁影像序列中每一个预处理单层核磁影像，以影像中心区域为锚点，按照设定尺寸切割出矩形的感兴趣区域，并将所述矩形的感兴趣区域放大至切割之前影像的尺寸，获得感兴趣区域提取后的单层核磁影像序列。
所属技术领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的系统的具体工作过程及有关说明，可以参考前述方法实施例中的对应过程，在此不再赘述。
需要说明的是，上述实施例提供的基于强化学习类脑读图的多层核磁影像分类系统，仅以上述各功能模块的划分进行举例说明，在实际应用中，可以根据需要而将上述功能分配由不同的功能模块来完成，即将本发明实施例中的模块或者步骤再分解或者组合，例如，上述实施例的模块可以合并为一个模块，也可以进一步拆分成多个子模块，以完成以上描述的全部或者部分功能。对于本发明实施例中涉及的模块、步骤的名称，仅仅是为了区分各个模块或者步骤，不视为对本发明的不当限定。
本发明第三实施例的一种存储装置，其中存储有多条程序，所述程序适于由处理器加载并执行以实现上述的基于强化学习类脑读图的多层核磁影像分类方法。
本发明第四实施例的一种处理装置，包括处理器、存储装置；处理器，适于执行各条程序；存储装置，适于存储多条程序；所述程序适于由处理器加载并执行以实现上述的基于强化学习类脑读图的多层核磁影像分类方法。
所属技术领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的存储装置、处理装置的具体工作过程及有关说明，可以参考前述方法实施例中的对应过程，在此不再赘述。
本领域技术人员应该能够意识到，结合本文中所公开的实施例描述的各示例的模块、方法步骤，能够以电子硬件、计算机软件或者二者的结合来实现，软件模块、方法步骤对应的程序可以置于随机存储器(RAM)、内存、只读存储器(ROM)、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、可移动磁盘、CD-ROM、或技术领域内所公知的任意其它形式的存储介质中。为了清楚地说明电子硬件和软件的可互换性，在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以电子硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。本领域技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。
术语“第一”、“第二”等是用于区别类似的对象，而不是用于描述或表示特定的顺序或先后次序。
术语“包括”或者任何其它类似用语旨在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备/装置不仅包括那些要素，而且还包括没有明确列出的其它要素，或者还包括这些过程、方法、物品或者设备/装置所固有的要素。
至此，已经结合附图所示的优选实施方式描述了本发明的技术方案，但是，本领域技术人员容易理解的是，本发明的保护范围显然不局限于这些具体实施方式。在不偏离本发明的原理的前提下，本领域技术人员可以对相关技术特征做出等同的更改或替换，这些更改或替换之后的技术方案都将落入本发明的保护范围之内。
Claims (8)
1.一种基于强化学习类脑读图的多层核磁影像分类方法，其特征在于，该分类方法包括：
步骤S10，获取多层核磁影像，并将所述多层核磁影像拆分为单层核磁影像，获得单层核磁影像序列；
步骤S20，选取所述单层核磁影像序列中的第
个核磁影像，通过特征编码与预测模型，采用逐像素分析方式对所述第
个核磁影像中的像素排列及深层信息进行表征编码和感知，获得第
个核磁影像的低维深度特征和分类结果；
步骤S30，通过行动策略生成模型，基于所述第
个核磁影像的低维深度特征，获取对应的行动指令
；所述行动指令
为带符号的整数；
步骤S40，通过决策模块判断所述行动指令
是否为0，若是，则跳转步骤S50；若不是，则令
，并跳转步骤S20；
步骤S50，所述第
个核磁影像为所述多层核磁影像的最相关层，以所述第
个核磁影像的分类结果作为所述多层核磁影像的分类结果；
所述分类方法的整体分类预测模型包括所述特征编码与预测模型、行动策略生成模型和决策模块，其训练方法为：
步骤B10，构建多层核磁影像分类的整体分类预测模型：
其中，
代表多层核磁影像分类的整体分类预测模型的整体分类结果预测概率，
为决策模块，
为行动策略生成模型，
为特征编码与预测模型，
和
分别为特征编码与预测模型和行动策略生成模型对应的模型参数，
代表多层核磁影像分类的整体分类预测模型的输入样本图像；
获取所述特征编码与预测模型的弱监督训练样本集；
步骤B20，选取所述弱监督训练样本集中任一样本，通过基于层的弱监督深度学习方法进行所述特征编码与预测模型的训练，获得第一特征编码与预测模型、样本深度特征和分类结果；
步骤B30，基于所述第一特征编码与预测模型、样本深度特征和分类结果，结合所述决策模块进行基于强化学习的行动策略生成模型的训练，获得第一行动策略生成模型；
步骤B40，基于所述第一行动策略生成模型，跳转步骤B20进行特征编码与预测模型和行动策略生成模型的交替训练，直至达到设定的交替训练次数或两个模型的损失函数值均低于设定阈值，获得训练好的特征编码与预测模型和行动策略生成模型。
2.根据权利要求1所述的基于强化学习类脑读图的多层核磁影像分类方法，其特征在于，所述行动指令
，其符号代表行动的方向，数值代表行动方向上的步长：
行动指令
为正整数时，下一次运算的核磁影像由当前核磁影像向所述单层核磁影像序列的列头方向切换
层；
行动指令
为负整数时，下一次运算的核磁影像由当前核磁影像向所述单层核磁影像序列的列尾方向切换
层。
3.根据权利要求1所述的基于强化学习类脑读图的多层核磁影像分类方法，其特征在于，步骤S40之后还设置有：
若第
个核磁影像的行动指令
和第
个核磁影像的行动指令
为符号相反且数值相等的整数时，直接以所述第
个核磁影像为所述多层核磁影像的最相关层，以所述第
个核磁影像的分类结果作为所述多层核磁影像的分类结果。
4.根据权利要求1所述的基于强化学习类脑读图的多层核磁影像分类方法，其特征在于，步骤S10之后还设置有图像预处理步骤，其方法为：
步骤S10A，对于所述单层核磁影像序列中每一个单层核磁影像，通过Z-score进行标准化，获得第一单层核磁影像序列；
步骤S10B，采用窗位窗宽方法，利用0-255间的有效阈值进行所述第一单层核磁影像序列的调整，获得第二单层核磁影像序列；
步骤S10C，通过基于深度卷积神经网络的超分辨率图像预处理模型进行所述第二单层核磁影像序列的处理，获得预处理单层核磁影像序列。
5.根据权利要求4所述的基于强化学习类脑读图的多层核磁影像分类方法，步骤S10C之后还设置有图像感兴趣区域提取步骤，其方法为：
步骤S10D，对于所述预处理单层核磁影像序列中每一个预处理单层核磁影像，以影像中心区域为锚点，按照设定尺寸切割出矩形的感兴趣区域；
步骤S10E，将所述矩形的感兴趣区域放大至切割之前影像的尺寸，获得感兴趣区域提取后的单层核磁影像序列。
6.一种基于强化学习类脑读图的多层核磁影像分类系统，其特征在于，该分类系统包括以下模块：
输入模块，配置为获取多层核磁影像，并将所述多层核磁影像拆分为单层核磁影像，获得单层核磁影像序列；
图像特征编码与切片级预测模块，配置为选取所述单层核磁影像序列中的第
个核磁影像，通过特征编码与预测模型，采用逐像素分析方式对所述第
个核磁影像中的像素排列及深层信息进行表征编码和感知，获得第
个核磁影像的低维深度特征和分类结果；
行动策略生成模块，配置为通过行动策略生成模型，基于所述第
个核磁影像的低维深度特征，获取对应的行动指令
；所述行动指令
为带符号的整数；
决策模块，配置为判断所述行动指令
是否为0，若是，则跳转输出模块；若不是，则令
，并迭代通过图像特征编码与切片级预测模块、行动策略生成模块和决策模块进行序列中最相关层的寻找；
输出模块，所述第
个核磁影像为所述多层核磁影像的最相关层，输出所述第
个核磁影像的分类结果作为所述多层核磁影像的分类结果；
其中，多层核磁影像分类的整体分类预测模型包括所述特征编码与预测模型、行动策略生成模型和决策模块，其训练方法为：
步骤B10，构建多层核磁影像分类的整体分类预测模型：
其中，
代表多层核磁影像分类的整体分类预测模型的整体分类结果预测概率，
为决策模块，
为行动策略生成模型，
为特征编码与预测模型，
和
分别为特征编码与预测模型和行动策略生成模型对应的模型参数，
代表多层核磁影像分类的整体分类预测模型的输入样本图像；
获取所述特征编码与预测模型的弱监督训练样本集；
步骤B20，选取所述弱监督训练样本集中任一样本，通过基于层的弱监督深度学习方法进行所述特征编码与预测模型的训练，获得第一特征编码与预测模型、样本深度特征和分类结果；
步骤B30，基于所述第一特征编码与预测模型、样本深度特征和分类结果，结合所述决策模块进行基于强化学习的行动策略生成模型的训练，获得第一行动策略生成模型；
步骤B40，基于所述第一行动策略生成模型，跳转步骤B20进行特征编码与预测模型和行动策略生成模型的交替训练，直至达到设定的交替训练次数或两个模型的损失函数值均低于设定阈值，获得训练好的特征编码与预测模型和行动策略生成模型。
7.根据权利要求6所述的基于强化学习类脑读图的多层核磁影像分类系统，其特征在于，该分类系统还包括预处理模块；
所述预处理模块，配置为对于所述单层核磁影像序列中每一个单层核磁影像，通过Z-score进行标准化，对标准化后的影像并采用窗位窗宽方法，利用0-255间的有效阈值进行调整，并通过基于深度卷积神经网络的超分辨率图像预处理模型进行处理，获得预处理单层核磁影像序列。
8.根据权利要求7所述的基于强化学习类脑读图的多层核磁影像分类系统，其特征在于，该分类系统还包括感兴趣区域提取模块；
所述感兴趣区域提取模块，配置为对于所述预处理单层核磁影像序列中每一个预处理单层核磁影像，以影像中心区域为锚点，按照设定尺寸切割出矩形的感兴趣区域，并将所述矩形的感兴趣区域放大至切割之前影像的尺寸，获得感兴趣区域提取后的单层核磁影像序列。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011119554.5A CN112257769B (zh) | 2020-10-19 | 2020-10-19 | 基于强化学习类脑读图的多层核磁影像分类方法及系统 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011119554.5A CN112257769B (zh) | 2020-10-19 | 2020-10-19 | 基于强化学习类脑读图的多层核磁影像分类方法及系统 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN112257769A CN112257769A (zh) | 2021-01-22 |
| CN112257769B true CN112257769B (zh) | 2022-10-21 |
Family
ID=74244899
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202011119554.5A Active CN112257769B (zh) | 2020-10-19 | 2020-10-19 | 基于强化学习类脑读图的多层核磁影像分类方法及系统 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN112257769B (zh) |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109770903A (zh) * | 2018-12-29 | 2019-05-21 | 中国科学院自动化研究所 | 功能磁共振影像的分类预测方法、系统、装置 |
| CN110827275A (zh) * | 2019-11-22 | 2020-02-21 | 吉林大学第一医院 | 基于树莓派和深度学习的肝脏核磁动脉期影像质量分级方法 |
| CN110969204A (zh) * | 2019-11-29 | 2020-04-07 | 中国科学院自动化研究所 | 基于磁共振图像与数字病理图像融合的样本分类系统 |
| CN111461232A (zh) * | 2020-04-02 | 2020-07-28 | 大连海事大学 | 一种基于多策略批量式主动学习的核磁共振图像分类方法 |
-
2020
- 2020-10-19 CN CN202011119554.5A patent/CN112257769B/zh active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109770903A (zh) * | 2018-12-29 | 2019-05-21 | 中国科学院自动化研究所 | 功能磁共振影像的分类预测方法、系统、装置 |
| CN110827275A (zh) * | 2019-11-22 | 2020-02-21 | 吉林大学第一医院 | 基于树莓派和深度学习的肝脏核磁动脉期影像质量分级方法 |
| CN110969204A (zh) * | 2019-11-29 | 2020-04-07 | 中国科学院自动化研究所 | 基于磁共振图像与数字病理图像融合的样本分类系统 |
| CN111461232A (zh) * | 2020-04-02 | 2020-07-28 | 大连海事大学 | 一种基于多策略批量式主动学习的核磁共振图像分类方法 |
Non-Patent Citations (3)
| Title |
|---|
| Patient-Level Prediction of Multi-Classification Task at Prostate MRI Based on End-to-End Framework Learning From Diagnostic Logic of Radiologists;Lizhi Shao等;《IEEE TRANSACTIONS ON BIOMEDICAL ENGINEERING》;20210520;全文 * |
| Radiologist-like artificial intelligence for grade group prediction of radical prostatectomy for reducing upgrading and downgrading from biopsy;Lizhi Shao等;《Theranostics》;20200902;全文 * |
| 深度学习在医学影像中的应用;杨丽洋等;《分子影像学杂志》;20200420(第02期);全文 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN112257769A (zh) | 2021-01-22 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN108664971B (zh) | 基于2d卷积神经网络的肺结节检测方法 | |
| CN111738351B (zh) | 模型训练方法、装置、存储介质及电子设备 | |
| CN110827236B (zh) | 基于神经网络的脑组织分层方法、装置、计算机设备 | |
| CN111210869B (zh) | 一种蛋白质冷冻电镜结构解析模型训练方法和解析方法 | |
| CN110738132B (zh) | 一种具备判别性感知能力的目标检测质量盲评价方法 | |
| CN113283282B (zh) | 一种基于时域语义特征的弱监督时序动作检测方法 | |
| CN113569724B (zh) | 基于注意力机制和扩张卷积的道路提取方法及系统 | |
| CN115187530A (zh) | 超声自动乳腺全容积图像的识别方法、装置、终端及介质 | |
| Shahroudnejad et al. | TUN-Det: a novel network for thyroid ultrasound nodule detection | |
| KR102639558B1 (ko) | 관심영역별 골 성숙 분포를 이용한 성장 분석 예측 장치 및 방법 | |
| CN114358279A (zh) | 图像识别网络模型剪枝方法、装置、设备及存储介质 | |
| CN112257769B (zh) | 基于强化学习类脑读图的多层核磁影像分类方法及系统 | |
| CN112614073A (zh) | 基于视觉质量评价反馈的图像去雨方法及电子装置 | |
| CN117371511A (zh) | 图像分类模型的训练方法、装置、设备及存储介质 | |
| CN112861881A (zh) | 一种基于改进MobileNet模型的蜂窝肺识别方法 | |
| CN112613425A (zh) | 一种面向小样本水下图像的目标识别方法及系统 | |
| CN116945258A (zh) | 模切机控制系统及其方法 | |
| CN117093496A (zh) | 一种面向深度神经网络模糊测试的测试用例自动生成方法 | |
| Sameki et al. | ICORD: Intelligent Collection of Redundant Data-A Dynamic System for Crowdsourcing Cell Segmentations Accurately and Efficiently. | |
| Castillo et al. | Object detection in digital documents based on machine learning algorithms | |
| Wu et al. | Real-time compressive tracking with motion estimation | |
| CN114742850A (zh) | 基于ugnx模型分析的电极形体自动识别的实现方法 | |
| García et al. | A configuration approach for convolutional neural networks used for defect detection on surfaces | |
| CN112861689A (zh) | 一种基于nas技术的坐标识别模型的搜索方法及装置 | |
| Tyagi et al. | Machine learning approaches for the detection of schizophrenia using structural mri |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |