CN113724190A - 基于医疗图像处理模型的图像处理方法及装置 - Google Patents

基于医疗图像处理模型的图像处理方法及装置 Download PDF

Info

Publication number
CN113724190A
CN113724190A CN202110292517.2A CN202110292517A CN113724190A CN 113724190 A CN113724190 A CN 113724190A CN 202110292517 A CN202110292517 A CN 202110292517A CN 113724190 A CN113724190 A CN 113724190A
Authority
CN
China
Prior art keywords
medical image
image processing
processing model
light field
network
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110292517.2A
Other languages
English (en)
Inventor
张军
田宽
韩骁
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tencent Technology Shenzhen Co Ltd
Original Assignee
Tencent Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tencent Technology Shenzhen Co Ltd filed Critical Tencent Technology Shenzhen Co Ltd
Priority to CN202110292517.2A priority Critical patent/CN113724190A/zh
Publication of CN113724190A publication Critical patent/CN113724190A/zh
Priority to PCT/CN2022/080947 priority patent/WO2022194152A1/zh
Priority to US17/980,439 priority patent/US20230058876A1/en
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • G06T7/0014Biomedical image inspection using an image reference approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/94Dynamic range modification of images or parts thereof based on local image properties, e.g. for local contrast enhancement
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/60Image enhancement or restoration using machine learning, e.g. neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30024Cell structures in vitro; Tissue sections in vitro
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30096Tumor; Lesion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30168Image quality inspection

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Medical Informatics (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

本发明提供了基于医疗图像处理模型的图像处理方法、装置、电子设备及存储介质,方法包括:获取标准医疗图像,并对标准医疗图像进行转换,确定与所述医疗图像处理模型的使用环境相匹配的医疗图像训练样本集合,对医疗图像处理模型的矫正网络进行训练,确定与所述医疗图像处理模型的矫正网络相适配的模型参数,由此,能够通过医疗图像处理模型对相应的光场背景进行预测,同时在测试阶段,经过训练的医疗图像处理模型仅需要获取一张医疗图像即可以完成对于光场背景的预测,并可以基于所预测的光场背景完成对医疗图像光场的矫正。

Description

基于医疗图像处理模型的图像处理方法及装置
技术领域
本发明涉及医疗图像处理模型训练技术,尤其涉及基于医疗图像处理模型的图像处理方法、装置、电子设备及存储介质。
背景技术
在基于深度学习所进行的各类别识别,可通过神经网络模型辅助医疗信息的处理,例如,AI+医疗场景,通过所部署的神经网络模型,对大量医疗图像的学习可对医疗图像的分类和识别,以此来快速准确的获得相关的医疗图像分析结果。
但是,相关技术中,由于环境光源不均匀和相机成像的过程发生抖动,获得的医疗图像通常需要进行光场矫正,为了获取清晰的医疗图像,往往需要需要反复采集同一目标的多张图像实现,通过确定这些图像对应的方程式,才能够实现光场矫正,不但增加了拍摄成本,图像存储成本,而且增加了光场矫正的时间,不利于医护人员的及时使用。
发明内容
有鉴于此,本发明实施例提供基于医疗图像处理模型的图像处理方法、装置、电子设备及存储介质,减少医疗图像采集的数量,仅通过标准医疗图像即可以完成对医疗图像处理模型的训练,能够通过医疗图像处理模型对相应的光场背景进行预测,同时在医疗图像处理模型的测试使用阶段,经过训练的医疗图像处理模型仅需要获取一张医疗图像即可以完成对于光场背景的预测,并可以基于所预测的光场背景完成对医疗图像光场的矫正,加快了光场矫正的处理速度。
本发明实施例的技术方案是这样实现的:
本发明实施例提供了一种基于医疗图像处理模型的图像处理方法,包括:
获取与医疗图像处理模型相匹配的标准医疗图像;
基于所述标准医疗图像,确定与所述医疗图像处理模型的使用环境相对应的光场变化参数;
通过所述光场变化参数,确定与所述医疗图像处理模型的使用环境相匹配的医疗图像训练样本集合,其中,所述医疗图像训练样本集合包括不同光场背景的医疗图像;
通过与医疗图像处理模型的使用环境相匹配的训练样本集合,对医疗图像处理模型的矫正网络进行训练,确定与所述医疗图像处理模型的矫正网络相适配的模型参数,通过所述医疗图像处理模型对使用环境中的医疗图像所对应的光场进行预测;
获取单一医疗图像,通过医疗图像处理模型进行处理,获取对应的光场信息;
根据所述光场信息,对所述单一医疗图像的光场进行矫正。
本发明实施例提供了一种基于医疗图像处理模型的图像处理装置,包括:
信息传输模块,用于获取与医疗图像处理模型相匹配的标准医疗图像;
信息处理模块,用于基于所述标准医疗图像,确定与所述医疗图像处理模型的使用环境相对应的光场变化参数;
所述信息处理模块,用于通过所述光场变化参数,确定与所述医疗图像处理模型的使用环境相匹配的医疗图像训练样本集合,其中,所述医疗图像训练样本集合包括不同光场背景的医疗图像;
所述信息处理模块,用于通过与医疗图像处理模型的使用环境相匹配的训练样本集合,对医疗图像处理模型的矫正网络进行训练,确定与所述医疗图像处理模型的矫正网络相适配的模型参数,通过所述医疗图像处理模型对使用环境中的医疗图像所对应的光场进行预测;
所述信息处理模块,用于获取单一医疗图像,通过医疗图像处理模型进行处理,获取对应的光场信息;
所述信息处理模块,用于根据所述光场信息,对所述单一医疗图像的光场进行矫正。
上述方案中,
所述信息处理模块,用于确定与所述标准医疗图像相匹配的标准医疗图像;
所述信息处理模块,用于基于所述标准医疗图像与所述标准医疗图像,确定所述标准医疗图像的像素点与所述标准医疗图像像素点之间的比例关系;
所述信息处理模块,用于基于所述标准医疗图像的像素点与所述标准医疗图像像素点之间的比例关系确定与所述医疗图像处理模型的使用环境相对应的光场变化参数。
上述方案中,
所述信息处理模块,用于确定与所述医疗图像处理模型的使用环境相匹配光场亮度变化范围;
基于光场亮度变化范围,通过所述光场变化参数,对所述标准医疗图像进行处理,形成仿真医疗图像和与所述仿真医疗图像相匹配的光场图像;
对所述仿真医疗图像和与所述仿真医疗图像相匹配的光场图像进行组合,形成与所述医疗图像处理模型的使用环境相匹配的医疗图像训练样本集合。
上述方案中,
所述信息处理模块,用于根据所述医疗图像处理模型的使用环境,确定目标平滑度参数;
通过所述目标平滑度参数,对所述仿真医疗图像进行调整,所述仿真医疗图像的平滑度与医疗图像处理模型的使用环境相适配。
上述方案中,
所述信息处理模块,用于通过所述医疗图像处理模型中矫正网络的编码器和解码器,对训练样本集合进行处理,以确定所述矫正网络的编码器和解码器的初始参数;
响应于所述矫正网络的编码器和解码器的初始参数,通过所述矫正网络的编码器和解码器对所述训练样本集合进行处理,确定所述矫正网络的编码器和解码器的更新参数;
根据所述矫正网络的编码器和解码器的更新参数,通过所述训练样本集合对所述矫正网络的编码器和解码器的参数进行迭代更新。
上述方案中,
所述信息处理模块,用于将所述训练样本集合中不同训练样本,代入由所述矫正网络的编码器和解码器所对应的损失函数;
确定所述损失函数满足相应的收敛条件时所述矫正网络的编码器和解码器对应所述更新参数。
上述方案中,
所述信息处理模块,用于通过所述医疗图像处理模型的图像预处理网络对所述标准医疗图像进行降噪处理;
通过所述医疗图像处理模型的图像预处理网络的卷积层和最大值池化层对经过降噪处理的医疗图像交叉进行处理,得到所述医疗图像的降采样结果;
通过所述医疗图像处理模型的图像预处理网络的全连接层,对所述医疗图像的降采样结果进行归一化处理;
通过所述医疗图像处理模型的图像预处理网络对所述医疗图像的降采样的归一化结果,进行深度分解处理,确定与所述医疗图像相匹配的光场特征向量。
上述方案中,
所述信息处理模块,用于根据所述医疗图像所对应的目标区域的位置,确定与所述医疗图像处理模型的使用环境相匹配的动态噪声阈值;
根据所述动态噪声阈值通过所述医疗图像处理模型的图像预处理网络对所述医疗图像进行降噪处理,以形成与所述动态噪声阈值相匹配的医疗图像。
上述方案中,
所述信息处理模块,用于根据所述医疗图像的图像类型,确定与所述医疗图像处理模型的使用环境相匹配的动态噪声阈值;
根据所述动态噪声阈值通过所述医疗图像处理模型的图像预处理网络对所述医疗图像进行降噪处理,以形成与所述动态噪声阈值相匹配的医疗图像。
上述方案中,
所述信息处理模块,用于显示用户界面,所述用户界面中包括以使用环境视角对目标对象的不同位置进行观察的视角画面;
当接收到对目标对象的医疗信息中的医疗图像进行光场矫正的触发操作时,在所述用户界面上显示通过显微镜采集的原始医疗图像;
通过医疗图像处理模型,对所述显微镜采集的原始医疗图像进行光场矫正处理,获得经过光场矫正处理的医疗图像;
通过所述用户界面,呈现经过光场矫正处理的医疗图像,其中,所述医疗图像处理模型基于如前述的方法训练得到。
上述方案中,
所述信息处理模块,用于将医疗图像处理模型的模型标识、原始医疗图像以及经过光场矫正处理的医疗图像送至区块链网络,以使所述区块链网络的节点将医疗图像处理模型的模型标识、原始医疗图像以及经过光场矫正处理的医疗图像填充至新区块,且当对所述新区块共识一致时,将所述新区块追加至区块链的尾部。
本发明实施例提供了一种基于医疗图像处理模型的图像处理装置,所述训练装置包括:
存储器,用于存储可执行指令;
处理器,用于运行所述存储器存储的可执行指令时,实现本发明实施例提供的基于医疗图像处理模型的图像处理方法。
本发明实施例提供了一种基于医疗图像处理模型的图像处理装置,所述基于医疗图像处理模型的图像处理装置包括:
存储器,用于存储可执行指令;
处理器,用于运行所述存储器存储的可执行指令时,实现本发明实施例提供的医疗图像处理模型的基于医疗图像处理模型的图像处理方法。
本发明实施例提供了种电子设备,所述电子设备包括:
存储器,用于存储可执行指令;
处理器,用于运行所述存储器存储的可执行指令时,实现前序的基于医疗图像处理模型的图像处理方法,或者前序的医疗图像处理模型训练的基于医疗图像处理模型的图像处理方法。
本发明实施例提供了一种计算机可读存储介质,存储有可执行指令,可执行指令被处理器执行时实现本发明实施例提供的基于医疗图像处理模型的图像处理方法或基于医疗图像处理模型的图像处理方法。
本发明实施例具有以下有益效果:
通过获取与医疗图像处理模型相匹配的标准医疗图像;基于所述标准医疗图像,确定与所述医疗图像处理模型的使用环境相对应的光场变化参数;通过所述光场变化参数,确定与所述医疗图像处理模型的使用环境相匹配的医疗图像训练样本集合,其中,所述医疗图像训练样本集合包括不同光场背景的医疗图像;通过与医疗图像处理模型的使用环境相匹配的训练样本集合,对医疗图像处理模型的矫正网络进行训练,确定与所述医疗图像处理模型的矫正网络相适配的模型参数,通过所述医疗图像处理模型对使用环境中的医疗图像所对应的光场进行预测,获取单一医疗图像,通过医疗图像处理模型进行处理,获取对应的光场信息;根据所述光场信息,对所述单一医疗图像的光场进行矫正。由此,能够通过医疗图像处理模型对相应的光场背景进行预测,同时在测试阶段,经过训练的医疗图像处理模型仅需要获取一张医疗图像即可以完成对于光场背景的预测,并可以基于所预测的光场背景完成对医疗图像光场的矫正,减少光场矫正的等待时间。
附图说明
图1为本发明实施例提供的医疗图像处理模型的结构示意图;
图2为本发明实施例提供的电子设备的组成结构示意图;
图3为本发明的相关技术中显微镜系统的一种可选的结构;
图4为本发明实施例提供的基于医疗图像处理模型的图像处理方法一个可选的流程示意图;
图5为本发明实施例中训练样本的示意图;
图6为本发明实施例中医疗图像处理模型的训练过程示意图;
图7为本发明实施例提供的基于医疗图像处理模型的图像处理方法的使用场景示意图;
图8为本发明实施例提供的基于医疗图像处理模型的图像处理方法一个可选的流程示意图;
图9为本发明实施例中人表皮生长因子受体-2的细胞玻片显微镜图像的训练样本集合的示意图;
图10为本发明实施例中人表皮生长因子受体-2的细胞玻片显微镜图像的矫正示意图;
图11为本发明实施例提供的医疗图像处理模型的网络结构意图;
图12为本发明实施例中通过显示界面呈现经过光场矫正的显微镜图像的示意图。
具体实施方式
为了使本发明的目的、技术方案和优点更加清楚,下面将结合附图对本发明作进一步地详细描述,所描述的实施例不应视为对本发明的限制,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例,都属于本发明保护的范围。
在以下的描述中,涉及到“一些实施例”,其描述了所有可能实施例的子集,但是可以理解“一些实施例”可以是所有可能实施例的相同子集或不同子集,并且可以在不冲突的情况下相互结合。
对本发明实施例进行进一步详细说明之前,对本发明实施例中涉及的名词和术语进行说明,本发明实施例中涉及的名词和术语适用于如下的解释。
1)基于,用于表示所执行的操作所依赖的条件或者状态,当满足所依赖的条件或状态时,所执行的一个或多个操作可以是实时的,也可以具有设定的延迟;在没有特别说明的情况下,所执行的多个操作不存在执行先后顺序的限制。
2)客户端,终端中实现特定功能的载体,例如移动客户端(APP)是移动终端中特定功能的载体,例如执行线上直播(视频推流)的功能或者是在线视频的播放功能。
3)卷积神经网络(CNN Convolutional Neural Networks)是一类包含卷积计算且具有深度结构的前馈神经网络(Feed forward Neural Networks),是深度学习(deeplearning)的代表算法之一。卷积神经网络具有表征学习(representation learning)能力,能够按其阶层结构对输入信息进行平移不变分类(shift-invariantclassification)。
4)模型训练,对图像数据集进行多分类学习。该模型可采用Tensor Flow、torch等深度学习框架进行构建,使用CNN等神经网络层的多层结合组成多医疗图像处理模型。
5)神经网络(Neural Network,NN):人工神经网络(Artificial Neural Network,ANN),简称神经网络或类神经网络,在机器学习和认知科学领域,是一种模仿生物神经网络(动物的中枢神经系统,特别是大脑)的结构和功能的数学模型或计算模型,用于对函数进行估计或近似。
6)Contrastive loss:对比损失函数,其可以学习一种映射关系,这种映射关系可以使得在高维空间中,相同类别但距离较远的点,通过函数映射到低维空间后,距离变近,不同类别但距离都较近的点,通过映射后再低维空间变得更远。这样的结果就是,在低维空间,同一种类的点会产生聚类的效果,不同种类的mean会隔开。类似fisher降维,但fisher降维不具有out-of-sample extension的效果,不能对new sample进行作用。
7)中文名称计算机辅助诊断(AD Computer Aided Diagnosis)其中,CAD用于通过影像学、医疗图像处理模型训练技术以及其他可能的生理、生化手段,结合计算机的分析计算,辅助发现病灶,提高诊断的准确率。
8)内窥镜视频流:用于通过图像采集设备(例如内窥镜)对机体部位(人体的不同目标器官或者体内病灶)进行图像采集所形成视频状态的病理信息。
9)病灶:病灶通常指代机体上发生病变的部分。换一种表达方式,一个局限的、具有病原微生物的病变组织,即可称为病灶。
下面以通过显微镜对相应的病灶细胞切片进行观察为例对本发明所提供的基于医疗图像处理模型的图像处理方法进行说明,参考图1,图1为本发明实施例提供的基于医疗图像处理模型的图像处理方法的使用场景示意图,参见图1,终端(包括终端10-1和终端10-2)上设置有能够执行不同功能相应客户端其中,所属客户端为终端(包括终端10-1和终端10-2)通过网络300从相应的服务器200中获取不同的切片图像进行浏览,终端通过网络300连接服务器200,网络300可以是广域网或者局域网,又或者是二者的组合,使用无线链路实现数据传输,其中,终端(包括终端10-1和终端10-2)通过网络300从相应的服务器200中所获取的切片图像类型既可以相同也可以不相同,例如:终端(包括终端10-1和终端10-2)既可以通过网络300从相应的服务器200中获取与目标对象相匹配的病理图像或者病理视频,也可以通过网络300从相应的服务器200中获取仅与当前目标相匹配的病理切片进行浏览。也可以从显微镜400中获取相应光场环境下的显微镜图像,服务器200中可以保存有不同目标对象各自对应的切片图像,也可以保存与所述目标对象的切片图像相匹配的辅助分析信息。
其中,服务器所部署的人工智能领域的神经网络模型能够利用在传统的光学显微镜上使用相机采集待观察样品的图像,并结合机器学习算法对实时图像进行分析。人工智能(AI Artificial Intelligence)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
具体来说,人工智能是计算机科学的一个综合技术,它企图了解智能的实质,并生产出一种新的能与人类智能相似的方式做出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法,使机器具有感知、推理与决策的功能。人工智能软件技术主要包括计算机视觉技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
需要说明的是,在显微镜系统(与所述目标对象的病理细胞切片相接触的医疗设备)下查看的患者病灶可以包括多种不同的应用场景,如肺癌细胞筛查,宫颈癌早期筛查等不同细胞切片筛查等。基于本实施例的显微镜系统基于医疗图像处理模型的图像处理方法可以部署到多种应用场景,从而便于医生的远程查阅与使用。
服务器200通过网络300向终端(终端10-1和/或终端10-2)发送同一目标对象的病理信息终端(终端10-1和/或终端10-2)的用户对目标对象的病理信息进行分析,因此。作为一个事例,服务器200部署相应的神经网络模型,用于对显微镜系统所输出的清晰的图像信息进行分析,其中,所述显微镜系统对医疗图像的处理可以通过以下方式实现:获取与医疗图像处理模型相匹配的标准医疗图像;基于所述标准医疗图像,确定与所述医疗图像处理模型的使用环境相对应的光场变化参数;通过所述光场变化参数,确定与所述医疗图像处理模型的使用环境相匹配的医疗图像训练样本集合,其中,所述医疗图像训练样本集合包括不同光场背景的医疗图像;通过与医疗图像处理模型的使用环境相匹配的训练样本集合,对医疗图像处理模型的矫正网络进行训练,确定与所述医疗图像处理模型的矫正网络相适配的模型参数,通过所述医疗图像处理模型对使用环境中的医疗图像所对应的光场进行预测。在本发明的一些实施例中,医疗图像可以是医疗环境中任意一种成像过程受到光线条件影响的医疗图像,例如可以是医生在利用内窥镜过程中,通过移动摄像头、切换放大倍率等操作反复观察疑似的病灶区域得到的多视野的病理图片的集合,融合了内窥镜下特定视野的信息。由于内窥镜视频流中记录了医生在观察患者病灶的过程中,内窥镜视野中所有的信息,如此,将医生观察单个患者病灶在内窥镜的视野中的信息,作为连续的视频流加以利用,避免医生在快速移动内窥镜的过程中,忽略微小的病变区域,从而提供比单帧图片更多的信息来辅助医生诊断并发现微小病变区域。
其中,本发明实施例可结合云技术实现,云技术(Cloud technology)是指在广域网或局域网内将硬件、软件及网络等系列资源统一起来,实现数据的计算、储存、处理和共享的一种托管技术,也可理解为基于云计算商业模式应用的网络技术、信息技术、整合技术、管理平台技术及应用技术等的总称。技术网络系统的后台服务需要大量的计算、存储资源,如视频网站、图片类网站和更多的门户网站,因此云技术需要以云计算作为支撑。
需要说明的是,云计算是一种计算模式,它将计算任务分布在大量计算机构成的资源池上,使各种应用系统能够根据需要获取计算力、存储空间和信息服务。提供资源的网络被称为“云”。“云”中的资源在使用者看来是可以无限扩展的,并且可以随时获取,按需使用,随时扩展,按使用付费。作为云计算的基础能力提供商,会建立云计算资源池平台,简称云平台,一般称为基础设施即服务(IaaS,Infrastructure as a Service),在资源池中部署多种类型的虚拟资源,供外部客户选择使用。云计算资源池中主要包括:计算设备(可为虚拟化机器,包含操作系统)、存储设备和网络设备。
下面对本发明实施例的电子设备的结构做详细说明,电子设备可以各种形式来实施,如带有内窥镜医疗图像处理模型训练功能的专用终端,也可以为带有内窥镜医疗图像处理模型训练功能的电子设备或者云服务器,例如前述图1中的服务器200。图2为本发明实施例提供的电子设备的组成结构示意图,可以理解,图2仅仅示出了电子设备的示例性结构而非全部结构,根据需要可以实施图2示出的部分结构或全部结构。
本发明实施例提供的电子设备包括:至少一个处理器201、存储器202、用户接口203和至少一个网络接口204。电子设备中的各个组件通过总线系统205耦合在一起。可以理解,总线系统205用于实现这些组件之间的连接通信。总线系统205除包括数据总线之外,还包括电源总线、控制总线和状态信号总线。但是为了清楚说明起见,在图2中将各种总线都标为总线系统205。
其中,用户接口203可以包括显示器、键盘、鼠标、轨迹球、点击轮、按键、按钮、触感板或者触摸屏等。
可以理解,存储器202可以是易失性存储器或非易失性存储器,也可包括易失性和非易失性存储器两者。本发明实施例中的存储器202能够存储数据以支持终端(如10-1)的操作。这些数据的示例包括:用于在终端(如10-1)上操作的任何计算机程序,如操作系统和应用程序。其中,操作系统包含各种系统程序,例如框架层、核心库层、驱动层等,用于实现各种基础业务以及处理基于硬件的任务。应用程序可以包含各种应用程序。
在一些实施例中,本发明实施例提供的基于医疗图像处理模型的图像处理装置可以采用软硬件结合的方式实现,作为示例,本发明实施例提供的基于医疗图像处理模型的图像处理装置可以是采用硬件译码处理器形式的处理器,其被编程以执行本发明实施例提供的基于医疗图像处理模型的图像处理方法。例如,硬件译码处理器形式的处理器可以采用一个或多个应用专用集成电路(ASIC,Application Specific Integrated Circuit)、DSP、可编程逻辑器件(PLD,Programmable Logic Device)、复杂可编程逻辑器件(CPLD,Complex Programmable Logic Device)、现场可编程门阵列(FPGA,Field-ProgrammableGate Array)或其他电子元件。
作为本发明实施例提供的基于医疗图像处理模型的图像处理装置采用软硬件结合实施的示例,本发明实施例所提供的基于医疗图像处理模型的图像处理装置可以直接体现为由处理器201执行的软件模块组合,软件模块可以位于存储介质中,存储介质位于存储器202,处理器201读取存储器202中软件模块包括的可执行指令,结合必要的硬件(例如,包括处理器201以及连接到总线205的其他组件)完成本发明实施例提供的基于医疗图像处理模型的图像处理方法。
作为示例,处理器201可以是一种集成电路芯片,具有信号的处理能力,例如通用处理器、数字信号处理器(DSP,Digital Signal Processor),或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等,其中,通用处理器可以是微处理器或者任何常规的处理器等。
作为本发明实施例提供的基于医疗图像处理模型的图像处理装置采用硬件实施的示例,本发明实施例所提供的装置可以直接采用硬件译码处理器形式的处理器201来执行完成,例如,被一个或多个应用专用集成电路(ASIC,Application Specific IntegratedCircuit)、DSP、可编程逻辑器件(PLD,Programmable Logic Device)、复杂可编程逻辑器件(CPLD,Complex Programmable Logic Device)、现场可编程门阵列(FPGA,Field-Programmable Gate Array)或其他电子元件执行实现本发明实施例提供的基于医疗图像处理模型的图像处理方法。
本发明实施例中的存储器202用于存储各种类型的数据以支持电子设备的操作。这些数据的示例包括:用于在电子设备上操作的任何可执行指令,如可执行指令,实现本发明实施例的从基于医疗图像处理模型的图像处理方法的程序可以包含在可执行指令中。
在另一些实施例中,本发明实施例提供的基于医疗图像处理模型的图像处理装置可以采用软件方式实现,图2示出了存储在存储器202中的基于医疗图像处理模型的图像处理装置2020,其可以是程序和插件等形式的软件,并包括一系列的模块,作为存储器202中存储的程序的示例,可以包括基于医疗图像处理模型的图像处理装置2020,基于医疗图像处理模型的图像处理装置2020中包括以下的软件模块:
信息传输模块2081,用于获取与医疗图像处理模型相匹配的标准医疗图像;
信息处理模块2082,用于基于所述标准医疗图像,确定与所述医疗图像处理模型的使用环境相对应的光场变化参数;
所述信息处理模块2082,用于通过所述光场变化参数,确定与所述医疗图像处理模型的使用环境相匹配的医疗图像训练样本集合,其中,所述医疗图像训练样本集合包括不同光场背景的医疗图像;
所述信息处理模块2082,用于通过与医疗图像处理模型的使用环境相匹配的训练样本集合,对医疗图像处理模型的矫正网络进行训练,确定与所述医疗图像处理模型的矫正网络相适配的模型参数,通过所述医疗图像处理模型对使用环境中的医疗图像所对应的光场进行预测;
所述信息处理模块2082,用于所述信息处理模块,用于获取单一医疗图像,通过医疗图像处理模型进行处理,获取对应的光场信息;
所述信息处理模块2082,用于所述信息处理模块,用于根据所述光场信息,对所述单一医疗图像的光场进行矫正。
结合图2示出的基于医疗图像处理模型的图像处理装置说明本发明实施例提供的基于医疗图像处理模型的图像处理方法,在介绍本发明所提供的基于医疗图像处理模型的图像处理方法之前,首先对相关技术中的显微镜对采集医疗图像的过程进行说明,其中,参考图3,图3为本发明的相关技术中显微镜系统的一种可选的结构,相关实施例中提供了一种显微镜500,该显微镜300具有显微镜机身301、显微镜机身载物台调焦旋钮302、显微镜机身载物台303、显微镜待观察样品304、机身物镜305、三目镜筒306、相机307以及目镜308。其中,显微镜机身301上方设置有显微镜载物台303,显微镜机身载物台303上放置有待观察样品304,所述显微镜机身301两侧设有显微镜机身载物台调焦旋钮302,所述显微镜机身物镜305位于显微镜机身载物台303的上方,在显微镜机身物镜305的上方还设有三目镜筒306,三目镜306头分别与照相机307和目镜308连接。调节所述显微镜机身载物台调焦旋钮302可以调整显微镜机身载物台303在垂直方向上升或者下降,从而改变显微镜机身载物台303与显微镜机身物镜305之间的间距调焦。当然,也可以使得显微镜机身物镜305移动,从而改变显微镜机身载物台303与显微镜机身物镜305之间的间距从而实现调焦。
在显微镜图像自动分析领域中,相机能采集到高质量的图像是增强现实显微镜的算法准确性的保障。相机离焦的或者受到光源影响所拍摄的医疗图像会丢失很多重要的光学信息,影响医生的观察,为了获取清晰的医疗图像作为训练样本,需要反复采集同一目标的多张图像实现光场矫正,不但增加了拍摄成本和图像存储成本。
为了解决上述问题,参见图4,图4为本发明实施例提供的基于医疗图像处理模型的图像处理方法一个可选的流程示意图,可以理解地,图4所示的基于医疗图像处理模型的图像处理方法可以应用于医疗图像处理模型训练领域,实现对医疗图像的分割,其中,图4所示的步骤可以由运行基于医疗图像处理模型的图像处理装置的各种电子设备执行,例如可以是如带有医疗图像处理模型训练功能的专用终端、服务器或者服务器集群。下面针对图4示出的步骤进行说明。
步骤401:基于医疗图像处理模型的图像处理装置获取与医疗图像处理模型的使用环境相匹配的标准医疗图像。
其中,实施例中的使用和环境可以表现为光照环境,光照环境出现变化影响图像采集准确性的使用环境均试用本申请所提供的基于医疗图像处理模型的图像处理方法,具体来说,由于医疗图像处理模型的使用环境不同,光线条件与成像的相机也不同,通过采集标准医疗图像可以有效减少样本数据的获取难度。
步骤402:基于医疗图像处理模型的图像处理装置基于所述标准医疗图像,确定与所述医疗图像处理模型的使用环境相对应的光场变化参数。
在本发明的一些实施例中,基于所述标准医疗图像,确定与所述医疗图像处理模型的使用环境相对应的光场变化参数,可以通过以下方式实现:
确定与所述标准医疗图像相匹配的标准医疗图像;基于所述标准医疗图像与所述标准医疗图像,确定所述标准医疗图像的像素点与所述标准医疗图像像素点之间的比例关系;基于所述标准医疗图像的像素点与所述标准医疗图像像素点之间的比例关系确定与所述医疗图像处理模型的使用环境相对应的光场变化参数。其中,以显微镜图像为例,对于显微镜图像亮度不均匀和明暗度的变化可以通过公式1进行线性变换:
I成像(x)=I真实(x)×S(x)+D(x) 公式1
其中I成像为成像机构拍摄到的光场不均匀的显微镜图像,I真实为理想的亮度均匀图像,S为乘性光照强度,D为加性暗场,x指代图像中任意像素。
对于使用环境为显微镜图像分析的环境,可以对公式1所示的变化进行简化,由一个单一光场M通过公式2进行控制:
I成像(x)=I真实(x)×M(x) 公式2
其中,M是统一的背景光场,显微镜拍摄的图像和理想图像之间的变换依然可以表示为线性关系。由于显微镜图像的每个像素点都对特定的线性变换系数,通过像素点的组合可以形成一张完整的光场图。
步骤403:基于医疗图像处理模型的图像处理装置通过所述光场变化参数,确定与所述医疗图像处理模型的使用环境相匹配的医疗图像训练样本集合。
参考图5,图5为本发明实施例中训练样本的示意图,在本发明的一些实施例中,通过所述光场变化参数,确定与所述医疗图像处理模型的使用环境相匹配的医疗图像训练样本集合,可以通过以下方式实现:
确定与所述医疗图像处理模型的使用环境相匹配光场亮度变化范围;基于光场亮度变化范围,通过所述光场变化参数,对所述标准医疗图像进行处理,形成仿真医疗图像和与所述仿真医疗图像相匹配的光场图像;对所述仿真医疗图像和与所述仿真医疗图像相匹配的光场图像进行组合,形成与所述医疗图像处理模型的使用环境相匹配的医疗图像训练样本集合。由于所获取的医疗图像仅为单一图像,因此需要通过仿真数据构建成对的亮度不均匀图像和其对应的背景光场作为训练样本,其中,模拟光场高斯分布的图像,亮度范围变化为[a,b]。其中a,b为光场亮度变化的参数,在对显微镜医疗图像处理模型训练时优选设置为a=0.5,b=1.2,由此医疗图像训练样本集合包括了不同光场背景的医疗图像。当然本发明所涉及的医疗图像可以是不同数据域的图像,也即由不同医学仪器扫描人体或人体某个部位所形成的不同模态的图像。不同医疗应用场景所得的医疗图像属于不同的数据域,数据域可以表示医疗图像属于某种医疗设备或某种成像模态。举例来说:医疗图像具体可以是通过光学显微镜获得的显微镜图像,或通过电子显微镜获得的电子显微镜图像。
在本发明的一些实施例中,在医学领域,不同病征的内在异质性可在医疗图像中体现,如人体某个部位的外观(如形状)存在不同程度的差异,因此医疗图像可作为一种医疗判断手段或参考因素,用于辅助临床诊断。其中,运行医疗图像处理模型的终端可以根据输入的图像选择指令,从图像数据库中选取对应的医疗图像;或者,终端与医学仪器建立通信连接,如有线通信连接或无线通信连接,当医学仪器通过扫描形成医疗图像时,获取由该医学仪器所形成的医疗图像。
在本发明的一些实施例中,还可以根据所述医疗图像处理模型的使用环境,确定目标平滑度参数;通过所述目标平滑度参数,对所述仿真医疗图像进行调整,所述仿真医疗图像的平滑度与医疗图像处理模型的使用环境相适配。其中,平滑约束可以通过控制背景光场的临近像素差分最小化的方式进行实现。比如:如果所有像素对应的光场变化一致(常量),那么差分结果为0,结果最为平滑。如果临近像素有突变,差分结果过大,则不平滑。因而差分最小化约束可以控制输出光场的平滑性。
步骤404:基于医疗图像处理模型的图像处理装置通过与医疗图像处理模型的使用环境相匹配的训练样本集合,对医疗图像处理模型的矫正网络进行训练,确定与所述医疗图像处理模型的矫正网络相适配的模型参数,通过所述医疗图像处理模型对使用环境中的医疗图像所对应的光场进行预测。
步骤405:基于医疗图像处理模型的图像处理装置获取单一医疗图像,通过医疗图像处理模型进行处理,获取对应的光场信息。
步骤406:基于医疗图像处理模型的图像处理装置根据所述光场信息,对所述单一医疗图像的光场进行矫正。
参考图6,图6为本发明实施例中医疗图像处理模型的训练过程示意图,具体包括以下步骤:
步骤601:通过所述医疗图像处理模型中矫正网络的编码器和解码器,对训练样本集合进行处理,以确定所述矫正网络的编码器和解码器的初始参数。
步骤602:响应于所述矫正网络的编码器和解码器的初始参数,通过所述矫正网络的编码器和解码器对所述训练样本集合进行处理,确定所述矫正网络的编码器和解码器的更新参数。
其中,可以将所述训练样本集合中不同训练样本,代入由所述矫正网络的编码器和解码器所对应的损失函数;
确定所述损失函数满足相应的收敛条件时所述矫正网络的编码器和解码器对应所述更新参数。
步骤603:根据所述矫正网络的编码器和解码器的更新参数,通过所述训练样本集合对所述矫正网络的编码器和解码器的参数进行迭代更新。
其中,在进行矫正网络的编码器和解码器的数据更新时,可以将所述训练样本集合中不同训练样本,代入由所述矫正网络的编码器和解码器所对应的损失函数;确定所述损失函数满足相应的收敛条件时所述矫正网络的编码器和解码器对应所述更新参数。
在本发明的一些实施例中,为了能够提升矫正网络的处理精确度,在处理医疗图像之前时可以进行噪声调整处理,具体来说,可以通过所述医疗图像处理模型的图像预处理网络对所述标准医疗图像进行降噪处理;通过所述医疗图像处理模型的图像预处理网络的卷积层和最大值池化层对经过降噪处理的医疗图像交叉进行处理,得到所述医疗图像的降采样结果;通过所述医疗图像处理模型的图像预处理网络的全连接层,对所述医疗图像的降采样结果进行归一化处理;通过所述医疗图像处理模型的图像预处理网络对所述医疗图像的降采样的归一化结果,进行深度分解处理,确定与所述医疗图像相匹配的光场特征向量。其中,本发明所涉及的医疗图像可以是不同光线环境中所采集的显微镜图像,也即由不同光线环境中的显微镜扫描人体组织或生物样本组织所形成的不同模态的图像。不同医疗应用场景所得的医疗图像属于不同的数据域,数据域可以表示医疗图像属于某种医疗设备或某种成像模态。举例来说,在采集显微镜图像时,射图像和反射图像均能够反映目标对象的表面信息。以目标对象为人体组织为例,在采集透射图像时,由于不同类型的人体组织的透光性不同,同时光线环境不同,有些类型的组织透光性较差,而有些类型的组织透光性较好,那么光信号在透过人体组织时,透光性较差的组织所在的区域透过的光信号较少,透光性较好的组织所在的区域透过的光信号较多,则图像采集设备采集到的透射图像中,较暗的区域为人体组织中透光性较差的组织所在的区域,较亮的区域为人体组织中透光性较好的组织所在的区域,较暗的区域和较亮的区域之间的分界线也会比较明显,因此透射图像能够更多地反映不同类型的组织所在的区域的划分。其中,运行医疗图像处理模型的终端可以根据输入的图像选择指令,从图像数据库中选取对应的医疗图像;或者,终端与医学仪器建立通信连接,如有线通信连接或无线通信连接,当医学仪器通过扫描形成医疗图像时,获取由该医学仪器所形成的医疗图像。
在本发明的一些实施例中,可以根据所述医疗图像所对应的目标区域的位置,确定与所述医疗图像处理模型的使用环境相匹配的动态噪声阈值;根据所述动态噪声阈值通过所述医疗图像处理模型的图像预处理网络对所述医疗图像进行降噪处理,以形成与所述动态噪声阈值相匹配的医疗图像。其中,病灶位置的不同,在不同的医疗图像中的动态噪声值也不相同,医疗图像的噪声会产生不同的光斑影响同一光线条件的观察结果,例如显微镜图像的光斑,由于噪声所产生的光斑会叠加光线的影响对于医疗图像的准确判断,不利于辅助诊断的准确性。在获取到带有噪声的显微镜扫描图像之后,需要对所获取的医疗图像进行光斑识别,以确定医疗图像中是否存在光斑,以及光斑的严重程度值,进一步地,还可以根据所确定的动态噪声阈值通过图像信息处理网络对所述医疗图像进行降噪处理,以消除由于动态噪声在病灶位置的医疗图像中所产生的光斑。其中,运动光斑出现的原因主要是显微镜的扫描过程中,噪声叠加光场影响、编码及信号采集时所处的光场位置或形态发生了变化,因此出现相位的错误而导致明暗不均的光斑产生,根据所确定的动态噪声阈值通过图像信息处理网络对所述医疗图像进行降噪处理,可以消除由于动态噪声在显微镜图像的采集中所产生的光斑。
在本发明的一些实施例中,还可以根据所述医疗图像的图像类型,确定与所述医疗图像处理模型的使用环境相匹配的固定噪声阈值;根据所述固定噪声阈值通过所述医疗图像处理模型的图像预处理网络对所述医疗图像进行降噪处理,以形成与所述固定噪声阈值相匹配的医疗图像。其中,以通过显微镜的图像拍摄对免疫组化HER2(人表皮生长因子受体-2)图片进行处理时,可以在同一光场环境下采集500张图像,由于噪声较为单一,通过固定医疗图像处理模型相对应的固定噪声阈值,能够有效提高医疗图像处理模型的训练速度,减少用户的等待时间。
步骤604:将训练完成的医疗图像处理模型部署在相应的服务器中。
由此,可通过所述医疗图像处理模型对使用环境中的医疗图像所对应的光场进行预测。
步骤605:当接收到对目标对象的医疗信息中的医疗图像进行光场矫正的触发操作时,在所述用户界面上显示通过显微镜采集的一张原始医疗图像。
步骤606:通过医疗图像处理模型对所采集的一张原始医疗图像进行处理,确定采集的一张原始医疗图像对应的光场信息。
步骤607:基于所述一张原始医疗图像对应的光场信息,对所述显微镜采集的一张原始医疗图像进行光场矫正处理,获得经过光场矫正处理的医疗图像。
对所述显微镜采集的原始医疗图像进行光场矫正处理,获得经过光场矫正处理的医疗图像。
其中,在获取经过光场矫正处理的医疗图像之后,还可以利用云网络技术存储相应的原始医疗图像和经过光场矫正的医疗图像,具体来说,本发明实施例可结合云技术实现,云技术(Cloud technology)是指在广域网或局域网内将硬件、软件及网络等系列资源统一起来,实现数据的计算、储存、处理和共享的一种托管技术,也可理解为基于云计算商业模式应用的网络技术、信息技术、整合技术、管理平台技术及应用技术等的总称。技术网络系统的后台服务需要大量的计算、存储资源,如视频网站、图片类网站和更多的门户网站,因此云技术需要以云计算作为支撑。
需要说明的是,云计算是一种计算模式,它将计算任务分布在大量计算机构成的资源池上,使各种应用系统能够根据需要获取计算力、存储空间和信息服务。提供资源的网络被称为“云”。“云”中的资源在使用者看来是可以无限扩展的,并且可以随时获取,按需使用,随时扩展,按使用付费。作为云计算的基础能力提供商,会建立云计算资源池平台,简称云平台,一般称为基础设施即服务(IaaS,Infrastructure as a Service),在资源池中部署多种类型的虚拟资源,供外部客户选择使用。云计算资源池中主要包括:计算设备(可为虚拟化机器,包含操作系统)、存储设备和网络设备。
结合实施例图1所示,本发明实施例所提供的目标对象确定方法可以通过相应的云端设备实现,例如:终端(包括终端10-1和终端10-2)通过网络300连接位于云端的服务器200,网络300可以是广域网或者局域网,又或者是二者的组合。值得说明的是,服务器200可为实体设备,也可为虚拟化设备。
具体来说,结合前序实施例中的图1所示,服务器200可以是独立的物理服务器,也可以是多个物理服务器构成的服务器集群或者分布式系统,还可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、CDN、以及大数据和人工智能平台等基础云计算服务的云服务器。终端可以是智能手机、平板电脑、笔记本电脑、台式计算机、智能音箱、智能手表等,但并不局限于此。终端以及服务器可以通过有线或无线通信方式进行直接或间接地连接,本申请在此不做限制。
结合前序图1所示,本发明实施例所提供的目标对象确定方法可以通过相应的云端设备实现,例如:终端(包括终端10-1和终端10-2)通过网络300连接位于云端的服务器200,网络300可以是广域网或者局域网,又或者是二者的组合。值得说明的是,服务器200可为实体设备,也可为虚拟化设备。
在本发明的一些实施例中,发明所提供的目标对象确定方法还包括:
接收所述区块链网络中的其他节点的数据同步请求;响应于所述数据同步请求,对所述其他节点的权限进行验证;当所述其他节点的权限通过验证时,控制当前节点与所述其他节点之间进行数据同步,所述其他节点获取医疗图像处理模型的模型标识、原始医疗图像以及经过光场矫正处理的医疗图像。
进一步地,在本发明的一些实施例中,响应于查询请求,解析所述查询请求以获取对应的对象标识;根据所述对象标识,获取区块链网络中的目标区块内的权限信息;对所述权限信息与所述对象标识的匹配性进行校验;当所述权限信息与所述对象标识相匹配时,在所述区块链网络中获取相应的医疗图像处理模型的模型标识、原始医疗图像以及经过光场矫正处理的医疗图像;响应于所述查询指令,将所获取的相应的医疗图像处理模型的模型标识、原始医疗图像以及经过光场矫正处理的医疗图像向相应的客户端进行推送,所述客户端获取所述区块链网络中所保存的相应的医疗图像处理模型的模型标识、原始医疗图像以及经过光场矫正处理的医疗图像。
下面以针对目标对象的人表皮生长因子受体-2的细胞玻片的图像光场进行调整为例,对本发明所提供的基于医疗图像处理模型的图像处理方法进行说明,
图7为本发明实施例提供的基于医疗图像处理模型的图像处理方法的使用场景示意图,参见图7,终端200可以位于各种具有医疗属性的机构(例如医院、医学研究院)中,可以被用来采集各类型的显微镜图像或者内窥器图像(例如,例如终端200的图像采集装置,或者通过其他的医疗终端400(例如图像采集设备)采集患者的人表皮生长因子受体-2的细胞玻片(即待处理血管图像)。
在一些实施例中,终端200本地执行本发明实施例提供的基于医疗图像处理模型的图像处理方法来完成人表皮生长因子受体-2的细胞玻片的类型识别,将类型识别的结果以图形化方式输出,从而供医生、研究人员进行疾病的诊断、复诊和治疗方法的研究,例如可以根据人表皮生长因子受体-2的细胞玻片的检测结果实现对患者的乳腺癌、卵巢癌、子宫内膜癌、输卵管癌、胃癌和前列腺癌的筛查,确定不同类型人表皮生长因子受体-2在形态学上的表现,进而来辅助或者直接诊断患者是否有癌症疾病风险和肺部肿瘤的病变。
终端200也可以通过网络300向服务器100发送人表皮生长因子受体-2的细胞玻片显微镜图像,并调用服务器100提供的远程诊断服务的功能,服务器100通过本发明实施例提供的基于医疗图像处理模型的图像处理方法部署经过训练的医疗图像处理模型,并通过医疗图像处理模型获得经过光场矫正的人表皮生长因子受体-2的细胞玻片显微镜图像,并进行类型识别,将类型识别的结果返回终端200,供医生、研究人员进行疾病的诊断、复诊和治疗方法的研究。
终端200可以在图形界面210中显示医疗图像处理模型训练的各种中间结果和最终结果,例如人表皮生长因子受体-2的细胞玻片以及相应的分类结果等。
参考图8,图8为本发明实施例提供的基于医疗图像处理模型的图像处理方法一个可选的流程示意图,其中用户可以为医生,处理待矫正的人表皮生长因子受体-2的细胞玻片显微镜图像,具体包括以下步骤:
步骤801:获取标准的人表皮生长因子受体-2的细胞玻片显微镜图像。
步骤802:确定光场变化参数,通过光场变化参数对人表皮生长因子受体-2的细胞玻片显微镜图像进行扩增,形成训练样本集合。
其中,图9为本发明实施例中人表皮生长因子受体-2的细胞玻片显微镜图像的训练样本集合的示意图,在确定人表皮生长因子受体-2的细胞玻片显微镜图像光场亮度变化范围;基于光场亮度变化范围,通过所述光场变化参数,对所述单一的人表皮生长因子受体-2的细胞玻片显微镜图像进行扩增,形成仿真数据作为训练样本。
步骤803:对医疗图像处理模型的矫正网络进行训练,并部署经过训练的医疗图像处理模型。
图10为本发明实施例中人表皮生长因子受体-2的细胞玻片显微镜图像的矫正示意图,其中,图像处理模型训练模型的矫正网络可以使用U-Net网络或者LinkNe网络。以LinkNet为例,图11为本发明实施例提供的医疗图像处理模型的网络结构意图,损失函数采用最小均方误差(mean square error),优化方法采用Adam的方式,学习率设为0.001。在LinkNet网络结构中,每个编码器(Encoder Block)与解码器(Decoder Block)相连接,同时结构中还包括最大池化层和全卷积层。如图11所示,将待进行光场矫正的显微镜图像输入至网络结构中,首先通过编码器对输入的目标检测对象图像进行编码压缩,得到维度较低的低层语义特征信息,如颜色、亮度等。与编码器连接的是解码器,将编码器输出的低层语义特征信息输入至解码器中,解码器对低层语义特征信息行解码运算,输出与目标检测对象图像原尺寸一样的特征对象分割图,在特征对象分割图中,白色区域为细胞所在区域,黑色区域为光场分布不均匀所产生的光斑。其中,LinkNet网络结构中编码器的输入连接到对应解码器的输出上,在解码器输出特征对象分割图之前,编码器可以将低层语义特征信息融入到解码器中,使得解码器融合了低层语义特征信息和高层语义特征信息,可有效减少降采样操作时丢失的空间信息,而且解码器是共享从编码器的每一层学习到的参数,可有效减少解码器的参数
进一步地,由于光场变化是渐变。所以可以对光场增加平滑约束。平滑约束可以通过控制背景光场的临近像素差分最小化的方式进行实现。比如:如果所有像素对应的光场变化一致(常量),那么差分结果为0,结果最为平滑。如果临近像素有突变,差分结果过大,则不平滑。因而差分最小化约束可以控制输出光场的平滑性。可以通过系数c来控制,c设置为经验值0.01。
步骤804:获取显微镜所采集的任一张人表皮生长因子受体-2的细胞玻片显微镜图像,通过医疗图像处理模型确定对应的光场信息。
步骤805:基于所获取的光场信息,对人表皮生长因子受体-2的细胞玻片显微镜图像进行光场矫正处理。
步骤806:在医疗设备中的用户界面,呈现经过光场矫正处理的人表皮生长因子受体-2的细胞玻片显微镜图像。
参考图12,图12为本发明实施例中通过显示界面呈现经过光场矫正的显微镜图像的示意图,由此,仅需要获得一张人表皮生长因子受体-2的细胞玻片显微镜图像,即可对医疗图像处理模型的训练与使用,实现对能够对不同光场环境中的人表皮生长因子受体-2的细胞玻片显微镜图像的处理,对于亮度不均匀的图像进行很好的矫正,对于过于暗的图像也能恢复到常见的扫描图像对应的亮度。
综上所述,本发明各实施例具有以下有益效果:
通过获取与医疗图像处理模型相匹配的标准医疗图像;基于所述标准医疗图像,确定与所述医疗图像处理模型的使用环境相对应的光场变化参数;通过所述光场变化参数,确定与所述医疗图像处理模型的使用环境相匹配的医疗图像训练样本集合,其中,所述医疗图像训练样本集合包括不同光场背景的医疗图像;通过与医疗图像处理模型的使用环境相匹配的训练样本集合,对医疗图像处理模型的矫正网络进行训练,确定与所述医疗图像处理模型的矫正网络相适配的模型参数,通过所述医疗图像处理模型对使用环境中的医疗图像所对应的光场进行预测,获取单一医疗图像,通过医疗图像处理模型进行处理,获取对应的光场信息;根据所述光场信息,对所述单一医疗图像的光场进行矫正。由此,能够通过医疗图像处理模型对相应的光场背景进行预测,同时在医疗图像处理模型的测试使用阶段,经过训练的医疗图像处理模型仅需要获取一张医疗图像即可以完成对于光场背景的预测,并可以基于所预测的光场背景完成对医疗图像光场的矫正,加快了光场矫正的处理速度。
以上所述,仅为本发明的实施例而已,并非用于限定本发明的保护范围,凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等,均应包含在本发明的保护范围之内。

Claims (14)

1.一种基于医疗图像处理模型的图像处理方法,其特征在于,所述方法包括:
获取与医疗图像处理模型相匹配的标准医疗图像;
基于所述标准医疗图像,确定与所述医疗图像处理模型的使用环境相对应的光场变化参数;
通过所述光场变化参数,确定与所述医疗图像处理模型的使用环境相匹配的医疗图像训练样本集合,其中,所述医疗图像训练样本集合包括不同光场背景的医疗图像;
通过与医疗图像处理模型的使用环境相匹配的训练样本集合,对医疗图像处理模型的矫正网络进行训练,确定与所述医疗图像处理模型的矫正网络相适配的模型参数,通过所述医疗图像处理模型对使用环境中的医疗图像所对应的光场进行预测;
获取单一医疗图像,通过医疗图像处理模型进行处理,获取对应的光场信息;
根据所述光场信息,对所述单一医疗图像的光场进行矫正。
2.根据权利要求1所述的方法,其特征在于,所述基于所述标准医疗图像,确定与所述医疗图像处理模型的使用环境相对应的光场变化参数,包括:
确定与所述标准医疗图像相匹配的标准医疗图像;
基于所述标准医疗图像与所述标准医疗图像,确定所述标准医疗图像的像素点与所述标准医疗图像像素点之间的比例关系;
基于所述标准医疗图像的像素点与所述标准医疗图像像素点之间的比例关系确定与所述医疗图像处理模型的使用环境相对应的光场变化参数。
3.根据权利要求1所述的方法,其特征在于,所述通过所述光场变化参数,确定与所述医疗图像处理模型的使用环境相匹配的医疗图像训练样本集合,包括:
确定与所述医疗图像处理模型的使用环境相匹配光场亮度变化范围;
基于光场亮度变化范围,通过所述光场变化参数,对所述标准医疗图像进行处理,形成仿真医疗图像和与所述仿真医疗图像相匹配的光场图像;
对所述仿真医疗图像和与所述仿真医疗图像相匹配的光场图像进行组合,形成与所述医疗图像处理模型的使用环境相匹配的医疗图像训练样本集合。
4.根据权利要求3所述的方法,其特征在于,所述方法还包括:
根据所述医疗图像处理模型的使用环境,确定目标平滑度参数;
通过所述目标平滑度参数,对所述仿真医疗图像进行调整,所述仿真医疗图像的平滑度与医疗图像处理模型的使用环境相适配。
5.根据权利要求1所述的方法,其特征在于,所述通过与医疗图像处理模型的使用环境相匹配的训练样本集合,对医疗图像处理模型的矫正网络进行训练,确定与所述医疗图像处理模型的矫正网络相适配的模型参数,包括:
通过所述医疗图像处理模型中矫正网络的编码器和解码器,对训练样本集合进行处理,以确定所述矫正网络的编码器和解码器的初始参数;
响应于所述矫正网络的编码器和解码器的初始参数,通过所述矫正网络的编码器和解码器对所述训练样本集合进行处理,确定所述矫正网络的编码器和解码器的更新参数;
根据所述矫正网络的编码器和解码器的更新参数,通过所述训练样本集合对所述矫正网络的编码器和解码器的参数进行迭代更新。
6.根据权利要求5所述的方法,其特征在于,所述响应于所述矫正网络的编码器和解码器的初始参数,通过所述矫正网络的编码器和解码器对所述训练样本集合进行处理,确定所述矫正网络的编码器和解码器的更新参数,包括:
将所述训练样本集合中不同训练样本,代入由所述矫正网络的编码器和解码器所对应的损失函数;
确定所述损失函数满足相应的收敛条件时所述矫正网络的编码器和解码器对应所述更新参数。
7.根据权利要求1所述的方法,其特征在于,所述方法还包:
通过所述医疗图像处理模型的图像预处理网络对所述标准医疗图像进行降噪处理;
通过所述医疗图像处理模型的图像预处理网络的卷积层和最大值池化层对经过降噪处理的医疗图像交叉进行处理,得到所述医疗图像的降采样结果;
通过所述医疗图像处理模型的图像预处理网络的全连接层,对所述医疗图像的降采样结果进行归一化处理;
通过所述医疗图像处理模型的图像预处理网络对所述医疗图像的降采样的归一化结果,进行深度分解处理,确定与所述医疗图像相匹配的光场特征向量。
8.根据权利要求7所述的方法,其特征在于,所述通过所述医疗图像处理模型的图像预处理网络对所述医疗图像进行降噪处理,包括:
根据所述医疗图像所对应的目标区域的位置,确定与所述医疗图像处理模型的使用环境相匹配的动态噪声阈值;
根据所述动态噪声阈值通过所述医疗图像处理模型的图像预处理网络对所述医疗图像进行降噪处理,以形成与所述动态噪声阈值相匹配的医疗图像。
9.根据权利要求7所述的方法,其特征在于,所述通过所述医疗图像处理模型的图像预处理网络对所述医疗图像进行降噪处理,包括:
根据所述医疗图像的图像类型,确定与所述医疗图像处理模型的使用环境相匹配的固定噪声阈值;
根据所述固定噪声阈值通过所述医疗图像处理模型的图像预处理网络对所述医疗图像进行降噪处理,以形成与所述固定噪声阈值相匹配的医疗图像。
10.根据权利要求1所述的方法,其特征在于,所述获取单一医疗图像,通过医疗图像处理模型进行处理,获取对应的光场信息,包括:
当所述医疗图像处理模型的使用环境为显微镜采集图像时,获得所述显微镜采集的一张原始医疗图像;
通过医疗图像处理模型,对所采集的一张原始医疗图像进行处理,确定采集的一张原始医疗图像对应的光场信息;
基于所述一张原始医疗图像对应的光场信息,对所述显微镜采集的一张原始医疗图像进行光场矫正处理,获得经过光场矫正处理的医疗图像。
11.根据权利要求1-10任意一项所述的方法,其特征在于,所述方法还包括:
将医疗图像处理模型的模型标识、原始医疗图像以及经过光场矫正处理的医疗图像送至区块链网络,以使所述区块链网络的节点将医疗图像处理模型的模型标识、原始医疗图像以及经过光场矫正处理的医疗图像填充至新区块,且当对所述新区块共识一致时,将所述新区块追加至区块链的尾部。
12.一种基于医疗图像处理模型的图像处理装置,其特征在于,所述装置包括:
信息传输模块,用于获取与医疗图像处理模型相匹配的标准医疗图像;
信息处理模块,用于基于所述标准医疗图像,确定与所述医疗图像处理模型的使用环境相对应的光场变化参数;
所述信息处理模块,用于通过所述光场变化参数,确定与所述医疗图像处理模型的使用环境相匹配的医疗图像训练样本集合,其中,所述医疗图像训练样本集合包括不同光场背景的医疗图像;
所述信息处理模块,用于通过与医疗图像处理模型的使用环境相匹配的训练样本集合,对医疗图像处理模型的矫正网络进行训练,确定与所述医疗图像处理模型的矫正网络相适配的模型参数,通过所述医疗图像处理模型对使用环境中的医疗图像所对应的光场进行预测;
所述信息处理模块,用于获取单一医疗图像,通过医疗图像处理模型进行处理,获取对应的光场信息;
所述信息处理模块,用于根据所述光场信息,对所述单一医疗图像的光场进行矫正。
13.一种电子设备,其特征在于,所述电子设备包括:
存储器,用于存储可执行指令;
处理器,用于运行所述存储器存储的可执行指令时,实现权利要求1至11任意一项所述的基于医疗图像处理模型的图像处理方法。
14.一种计算机可读存储介质,存储有可执行指令,其特征在于,所述可执行指令被处理器执行时实现权利要求1-11任意一项所述的基于医疗图像处理模型的图像处理方法。
CN202110292517.2A 2021-03-18 2021-03-18 基于医疗图像处理模型的图像处理方法及装置 Pending CN113724190A (zh)

Priority Applications (3)

Application Number Priority Date Filing Date Title
CN202110292517.2A CN113724190A (zh) 2021-03-18 2021-03-18 基于医疗图像处理模型的图像处理方法及装置
PCT/CN2022/080947 WO2022194152A1 (zh) 2021-03-18 2022-03-15 基于图像处理模型的图像处理方法、装置、电子设备、存储介质及计算机程序产品
US17/980,439 US20230058876A1 (en) 2021-03-18 2022-11-03 Image processing method and apparatus based on image processing model, electronic device, storage medium, and computer program product

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110292517.2A CN113724190A (zh) 2021-03-18 2021-03-18 基于医疗图像处理模型的图像处理方法及装置

Publications (1)

Publication Number Publication Date
CN113724190A true CN113724190A (zh) 2021-11-30

Family

ID=78672585

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110292517.2A Pending CN113724190A (zh) 2021-03-18 2021-03-18 基于医疗图像处理模型的图像处理方法及装置

Country Status (3)

Country Link
US (1) US20230058876A1 (zh)
CN (1) CN113724190A (zh)
WO (1) WO2022194152A1 (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022194152A1 (zh) * 2021-03-18 2022-09-22 腾讯科技(深圳)有限公司 基于图像处理模型的图像处理方法、装置、电子设备、存储介质及计算机程序产品

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116563556B (zh) * 2023-07-05 2023-11-10 杭州海康威视数字技术股份有限公司 模型训练方法
CN116703798B (zh) * 2023-08-08 2023-10-13 西南科技大学 基于自适应干扰抑制的食管多模态内镜图像增强融合方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190110028A1 (en) * 2016-03-21 2019-04-11 Thomson Licensing Method for correcting aberration affecting light-field data
CN108510556A (zh) * 2018-03-30 2018-09-07 百度在线网络技术(北京)有限公司 用于处理图像的方法和装置
CN110309910B (zh) * 2019-07-03 2021-08-20 清华大学 基于机器学习的最优化自适应显微成像方法及装置
CN111079733A (zh) * 2019-12-13 2020-04-28 哈尔滨工程大学 基于水下成像环境模型的数据增广方法
CN111489401B (zh) * 2020-03-18 2023-07-21 华南理工大学 一种图像颜色恒常性处理方法、系统、设备和存储介质
CN113724190A (zh) * 2021-03-18 2021-11-30 腾讯科技(深圳)有限公司 基于医疗图像处理模型的图像处理方法及装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022194152A1 (zh) * 2021-03-18 2022-09-22 腾讯科技(深圳)有限公司 基于图像处理模型的图像处理方法、装置、电子设备、存储介质及计算机程序产品

Also Published As

Publication number Publication date
WO2022194152A1 (zh) 2022-09-22
US20230058876A1 (en) 2023-02-23

Similar Documents

Publication Publication Date Title
CN113724190A (zh) 基于医疗图像处理模型的图像处理方法及装置
CN110689025B (zh) 图像识别方法、装置、系统及内窥镜图像识别方法、装置
CN107680088A (zh) 用于分析医学影像的方法和装置
US20200364570A1 (en) Machine learning method and apparatus, program, learned model, and discrimination apparatus
CN112102266B (zh) 基于注意力机制的脑梗死医学影像分类模型的训练方法
CN111489324A (zh) 一种融合多模态先验病理深度特征的宫颈癌病变诊断方法
JP7391267B2 (ja) 医用画像処理方法、装置、機器、記憶媒体及びコンピュータプログラム
CN111899244B (zh) 图像分割、网络模型的训练方法及装置,及电子设备
Lecca et al. GRASS: a gradient-based random sampling scheme for Milano Retinex
CN111226258A (zh) 信号转换系统和信号转换方法
Ma et al. Cycle structure and illumination constrained GAN for medical image enhancement
DE102022123434A1 (de) Gemeinsame Schätzung von Herzfrequenz und Atemfrequenz unter Verwendung neuronaler Netze
CN113902945A (zh) 一种多模态乳腺磁共振图像分类方法及系统
US20240112329A1 (en) Distinguishing a Disease State from a Non-Disease State in an Image
CN110473176B (zh) 图像处理方法及装置、眼底图像处理方法、电子设备
Bhuvaneswari et al. Contrast enhancement of retinal images using green plan masking and whale optimization algorithm
Nabijiang et al. BAM: Block attention mechanism for OCT image classification
CN115965785A (zh) 图像分割方法、装置、设备、程序产品及介质
Xian et al. Automatic tongue image quality assessment using a multi-task deep learning model
CN116602764A (zh) 一种端到端眼科手术定位导航方法及设备
CN113837192B (zh) 图像分割方法及装置,神经网络的训练方法及装置
CN114974522A (zh) 医学影像处理方法、装置、电子设备及存储介质
CN112966620A (zh) 眼底图像处理方法、模型训练方法及设备
Gou et al. Artificial intelligence multiprocessing scheme for pathology images based on transformer for nuclei segmentation
Song et al. A hierarchical probabilistic underwater image enhancement model with reinforcement tuning

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination