CN110458813A - 图像区域定位方法、装置和医学图像处理设备 - Google Patents

图像区域定位方法、装置和医学图像处理设备 Download PDF

Info

Publication number
CN110458813A
CN110458813A CN201910684018.0A CN201910684018A CN110458813A CN 110458813 A CN110458813 A CN 110458813A CN 201910684018 A CN201910684018 A CN 201910684018A CN 110458813 A CN110458813 A CN 110458813A
Authority
CN
China
Prior art keywords
image
voxel
target
images
type
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910684018.0A
Other languages
English (en)
Other versions
CN110458813B (zh
Inventor
王亮
张军
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tencent Technology Shenzhen Co Ltd
Original Assignee
Tencent Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tencent Technology Shenzhen Co Ltd filed Critical Tencent Technology Shenzhen Co Ltd
Priority to CN201910684018.0A priority Critical patent/CN110458813B/zh
Publication of CN110458813A publication Critical patent/CN110458813A/zh
Application granted granted Critical
Publication of CN110458813B publication Critical patent/CN110458813B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/05Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves 
    • A61B5/055Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves  involving electronic [EMR] or nuclear [NMR] magnetic resonance, e.g. magnetic resonance imaging
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01RMEASURING ELECTRIC VARIABLES; MEASURING MAGNETIC VARIABLES
    • G01R33/00Arrangements or instruments for measuring magnetic variables
    • G01R33/20Arrangements or instruments for measuring magnetic variables involving magnetic resonance
    • G01R33/44Arrangements or instruments for measuring magnetic variables involving magnetic resonance using nuclear magnetic resonance [NMR]
    • G01R33/48NMR imaging systems
    • G01R33/4818MR characterised by data acquisition along a specific k-space trajectory or by the temporal order of k-space coverage, e.g. centric or segmented coverage of k-space
    • G01R33/482MR characterised by data acquisition along a specific k-space trajectory or by the temporal order of k-space coverage, e.g. centric or segmented coverage of k-space using a Cartesian trajectory
    • G01R33/4822MR characterised by data acquisition along a specific k-space trajectory or by the temporal order of k-space coverage, e.g. centric or segmented coverage of k-space using a Cartesian trajectory in three dimensions
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01RMEASURING ELECTRIC VARIABLES; MEASURING MAGNETIC VARIABLES
    • G01R33/00Arrangements or instruments for measuring magnetic variables
    • G01R33/20Arrangements or instruments for measuring magnetic variables involving magnetic resonance
    • G01R33/44Arrangements or instruments for measuring magnetic variables involving magnetic resonance using nuclear magnetic resonance [NMR]
    • G01R33/48NMR imaging systems
    • G01R33/54Signal processing systems, e.g. using pulse sequences ; Generation or control of pulse sequences; Operator console
    • G01R33/56Image enhancement or correction, e.g. subtraction or averaging techniques, e.g. improvement of signal-to-noise ratio and resolution
    • G01R33/5608Data processing and visualization specially adapted for MR, e.g. for feature analysis and pattern recognition on the basis of measured MR data, segmentation of measured MR data, edge contour detection on the basis of measured MR data, for enhancing measured MR data in terms of signal-to-noise ratio by means of noise filtering or apodization, for enhancing measured MR data in terms of resolution by means for deblurring, windowing, zero filling, or generation of gray-scaled images, colour-coded images or images displaying vectors instead of pixels
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/25Fusion techniques
    • G06F18/253Fusion techniques of extracted features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/29Graphical models, e.g. Bayesian networks
    • G06F18/295Markov models or related models, e.g. semi-Markov models; Markov random fields; Networks embedding Markov models
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • G06T7/0014Biomedical image inspection using an image reference approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/174Segmentation; Edge detection involving the use of two or more images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • G06V10/443Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components by matching or filtering
    • G06V10/449Biologically inspired filters, e.g. difference of Gaussians [DoG] or Gabor filters
    • G06V10/451Biologically inspired filters, e.g. difference of Gaussians [DoG] or Gabor filters with interaction between the filter responses, e.g. cortical complex cells
    • G06V10/454Integrating the filters into a hierarchical structure, e.g. convolutional neural networks [CNN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/80Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level
    • G06V10/806Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level of extracted features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/84Arrangements for image or video recognition or understanding using pattern recognition or machine learning using probabilistic graphical models from image or video features, e.g. Markov models or Bayesian networks
    • G06V10/85Markov-related models; Markov random fields
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01RMEASURING ELECTRIC VARIABLES; MEASURING MAGNETIC VARIABLES
    • G01R33/00Arrangements or instruments for measuring magnetic variables
    • G01R33/20Arrangements or instruments for measuring magnetic variables involving magnetic resonance
    • G01R33/44Arrangements or instruments for measuring magnetic variables involving magnetic resonance using nuclear magnetic resonance [NMR]
    • G01R33/48NMR imaging systems
    • G01R33/483NMR imaging systems with selection of signals or spectra from particular regions of the volume, e.g. in vivo spectroscopy
    • G01R33/4838NMR imaging systems with selection of signals or spectra from particular regions of the volume, e.g. in vivo spectroscopy using spatially selective suppression or saturation of MR signals
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01RMEASURING ELECTRIC VARIABLES; MEASURING MAGNETIC VARIABLES
    • G01R33/00Arrangements or instruments for measuring magnetic variables
    • G01R33/20Arrangements or instruments for measuring magnetic variables involving magnetic resonance
    • G01R33/44Arrangements or instruments for measuring magnetic variables involving magnetic resonance using nuclear magnetic resonance [NMR]
    • G01R33/48NMR imaging systems
    • G01R33/54Signal processing systems, e.g. using pulse sequences ; Generation or control of pulse sequences; Operator console
    • G01R33/56Image enhancement or correction, e.g. subtraction or averaging techniques, e.g. improvement of signal-to-noise ratio and resolution
    • G01R33/563Image enhancement or correction, e.g. subtraction or averaging techniques, e.g. improvement of signal-to-noise ratio and resolution of moving material, e.g. flow contrast angiography
    • G01R33/56341Diffusion imaging
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01RMEASURING ELECTRIC VARIABLES; MEASURING MAGNETIC VARIABLES
    • G01R33/00Arrangements or instruments for measuring magnetic variables
    • G01R33/20Arrangements or instruments for measuring magnetic variables involving magnetic resonance
    • G01R33/44Arrangements or instruments for measuring magnetic variables involving magnetic resonance using nuclear magnetic resonance [NMR]
    • G01R33/48NMR imaging systems
    • G01R33/54Signal processing systems, e.g. using pulse sequences ; Generation or control of pulse sequences; Operator console
    • G01R33/56Image enhancement or correction, e.g. subtraction or averaging techniques, e.g. improvement of signal-to-noise ratio and resolution
    • G01R33/563Image enhancement or correction, e.g. subtraction or averaging techniques, e.g. improvement of signal-to-noise ratio and resolution of moving material, e.g. flow contrast angiography
    • G01R33/5635Angiography, e.g. contrast-enhanced angiography [CE-MRA] or time-of-flight angiography [TOF-MRA]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10088Magnetic resonance imaging [MRI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30068Mammography; Breast
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30096Tumor; Lesion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/03Recognition of patterns in medical or anatomical images

Abstract

本申请实施例公开了一种图像区域定位方法、装置和医学图像处理设备;本申请实施例可以获取目标部位的多个三维图像,其中,多个三维图像包括多个不同模态的三维图像;提取多个三维图像的图像特征;对多个三维图像的图像特征进行融合处理,得到融合特征;根据融合特征确定三维图像中体素对应的体素类型;从三维图像中选择体素类型为乳腺肿瘤类型的目标体素,得到目标体素的位置信息;基于目标体素的位置信息定位出乳腺肿瘤区域。在本申请实施例中,可以根据不同模态的三维图像所提供的不同的图像特征得到融合特征,直接根据融合特征定位出乳腺肿瘤区域。由此,该方案可以降低误判乳腺肿瘤区域的概率,从而提升乳腺肿瘤区域定位的精确度。

Description

图像区域定位方法、装置和医学图像处理设备
技术领域
本申请涉及图像处理技术领域,具体涉及一种图像区域定位方法、装置和医学图像处理设备。
背景技术
计算机视觉(Computer Vision,CV)是指用通过图象传感器和计算机来代替人类对目标进行识别、跟踪和测量等处理,使得目标成为更适合人眼观察或传送给仪器检测的图像。作为一个科学学科,计算机视觉研究相关的理论和技术试图建立能够从图像或者多维数据中获取信息的人工智能系统。计算机视觉技术通常包括图像处理、图像识别、图像语义理解、图象语义分割、图像检索、人脸识别、指纹识别等技术。
近年来,以深度学习为中心的计算机视觉技术引起了人们的关注,其中,图象语义分割是一种典型的利用机器学习处理图像定位的问题,其涉及将一些原始数据(例如,医学三维图像)作为输入并将它们转换为具有突出显示的感兴趣区域的掩模。
目前基于三维图像的乳腺肿瘤区域识别方法存在着识别不精确的问题。
发明内容
本申请实施例提供一种图像区域定位方法、装置和医学图像处理设备,可以提升病理组织识别的精确度。
本申请实施例提供一种图像区域定位方法,包括:
获取目标部位的多个三维图像,其中,所述多个三维图像包括多个不同模态的三维图像;
提取所述多个三维图像的图像特征;
对所述多个三维图像的图像特征进行融合处理,得到融合特征;
根据所述融合特征确定所述三维图像中体素对应的体素类型;
从所述三维图像中选择所述体素类型为乳腺肿瘤类型的目标体素,得到目标体素的位置信息;
基于所述目标体素的位置信息定位出乳腺肿瘤区域。
在一些实施例中,根据所述融合特征确定所述三维图像中体素对应的体素类型,包括:
确定所述三维图像中体素对应的融合特征;
计算所述体素对应的融合特征属于各个病理类型的概率,得到所述体素属于各个病理类型的概率;
根据所述各个病理类型的概率,确定所述体素对应的体素类型。
在一些实施例中,对所述多个三维图像的图像特征进行融合处理,包括:
获取图像特征对应的特征权重;
基于所述预设特征权重,对所述多个三维图像的图像特征进行加权处理。
在一些实施例中,基于所述预设特征权重,对所述多个三维图像的图像特征进行加权处理,包括:
确定所述多个磁共振三维图像中相同位置的体素对应的多个图像特征;
对所述多个图像特征进行预设特征权重的加权处理,得到加权处理后的多个图像特征;
对所述加权处理后的多个图像特征进行累加操作,得到所述体素的融合特征。
在一些实施例中,基于所述目标体素的位置信息定位出乳腺肿瘤区域,包括:
从所述多个三维图像中选取目标三维图像;
基于所述目标体素的位置信息,在所述目标三维图像上对乳腺肿瘤区域进行定位。
在一些实施例中,基于所述目标体素的位置信息,在所述目标三维图像上对乳腺肿瘤区域进行定位,包括:
基于所述目标体素的位置信息,在所述目标三维图像上确定对应的体素,得到对应体素;
将所述对应体素的体素值设为预设数值,以标识乳腺肿瘤区域。
在一些实施例中,基于所述目标体素的位置信息,在所述目标三维图像上对乳腺肿瘤区域进行定位,包括:
对所述所有目标体素的位置信息进行均值计算,得到乳腺肿瘤区域的中心点位置信息;
基于所述中心点位置信息,在所述目标三维图像上定位出所述乳腺肿瘤区域的中心点。
在一些实施例中,提取所述多个三维图像的图像特征,包括:
对所述多个变换后的三维图像进行预处理操作,得到多个预处理后的三维图像;
提取所述多个预处理后的三维图像的图像特征。
在一些实施例中,对所述多个变换后的三维图像进行预处理操作,包括:
获取参考坐标系以及多个三维图像的原坐标系;
将所述多个三维图像的原坐标系变换为所述参考坐标系。
在一些实施例中,对所述多个变换后的三维图像进行预处理操作,包括:
获取参考体素间距以及所述多个三维图像的原体素间距;
将所述多个三维图像的原体素间距变换为所述参考体素间距。
在一些实施例中,对所述多个变换后的三维图像进行预处理操作,包括:
获取参考尺寸大小以及所述多个三维图像的原尺寸大小;
将所述多个三维图像的原尺寸大小变换为所述参考尺寸大小。
本申请实施例还提供一种图像区域定位装置,包括:
获取模块,获取目标部位的多个三维图像,其中,所述多个三维图像包括多个不同模态的三维图像;
提取模块,用于提取所述多个三维图像的图像特征;
融合模块,对所述多个三维图像的图像特征进行融合处理,得到融合特征;
分类模块,根据所述融合特征确定所述三维图像中体素对应的体素类型;
筛选模块,从所述三维图像中选择所述体素类型为乳腺肿瘤类型的目标体素,得到目标体素的位置信息;
定位模块,基于所述目标体素的位置信息定位出乳腺肿瘤区域。
本申请实施例还提供一种医学图像处理设备,所述医学图像处理设备
包括医学图像采集单元、处理器和存储器,其中:
所述医学图像采集单元用于采集生命体目标部位的多个三维图像;
所述存储器用于存储图像数据以及多条指令;
所述处理器用于读取存储器存储的多条指令,来执行以下步骤:
获取目标部位的多个三维图像,其中,所述多个三维图像包括多个不同模态的三维图像;提取所述多个三维图像的图像特征;对所述多个三维图像的图像特征进行融合处理,得到融合特征;根据所述融合特征确定所述三维图像中体素对应的体素类型;从所述三维图像中选择所述体素类型为乳腺肿瘤类型的目标体素,得到目标体素的位置信息;基于所述目标体素的位置信息定位出乳腺肿瘤区域。
当执行步骤根据所述融合特征确定所述三维图像中体素对应的体素类型时,所述处理器具体执行确定所述三维图像中体素对应的融合特征;计算所述体素对应的融合特征属于各个病理类型的概率,得到所述体素属于各个病理类型的概率;根据所述各个病理类型的概率,确定所述体素对应的体素类型;
当执行步骤对所述多个三维图像的图像特征进行融合处理时,所述处理器具体执行获取图像特征对应的特征权重;基于所述预设特征权重,对所述多个三维图像的图像特征进行加权处理;
当执行步骤基于所述预设特征权重,对所述多个三维图像的图像特征进行加权处理时,所述处理器具体执行确定所述多个磁共振三维图像中相同位置的体素对应的多个图像特征;对所述多个图像特征进行预设特征权重的加权处理,得到加权处理后的多个图像特征;对所述加权处理后的多个图像特征进行累加操作,得到所述体素的融合特征;
当执行步骤基于所述目标体素的位置信息定位出乳腺肿瘤区域时,所述处理器具体执行从所述多个三维图像中选取目标三维图像;基于所述目标体素的位置信息,在所述目标三维图像上对乳腺肿瘤区域进行定位。
本申请实施例可以获取目标部位的多个三维图像,其中,所述多个三维图像包括多个不同模态的三维图像;提取所述多个三维图像的图像特征;对所述多个三维图像的图像特征进行融合处理,得到融合特征;根据所述融合特征确定所述三维图像中体素对应的体素类型;从所述三维图像中选择所述体素类型为乳腺肿瘤类型的目标体素,得到目标体素的位置信息;基于所述目标体素的位置信息定位出乳腺肿瘤区域。
在本申请实施例中,可以基于不同模态的三维图像所提供的不同的图像特征得到融合特征,直接根据融合特征定位出乳腺肿瘤区域。由此,该方案可以降低误判的概率,从而提升乳腺肿瘤区域定位的精确度。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1a是本申请实施例提供的图像区域定位方法的场景示意图;
图1b是本申请实施例提供的图像区域定位方法的流程示意图;
图1c是本申请实施例提供的3D卷积核对3D图像序列进行卷积操作的过程;
图1d是本申请实施例提供的特征融合示意图;
图1e是本申请实施例提供的另一特征融合示意图;
图1f是本申请实施例提供的NB、HMM、CRF以及LR之间的关系示意图;
图2a是本申请实施例提供的图像区域定位方法的另一流程示意图;
图2b是本申请实施例提供的基于预设权重的特征融合示意图;
图2c是本申请实施例提供的基于预设权重的另一特征融合示意图;
图2d是本申请实施例提供的在目标图像上确定对应体素的场景示意图;
图3a是本申请实施例提供的DCE以及DWI图像示意图;
图3b是本申请实施例提供的具体实施例流程示意图
图3c是本申请实施例提供的3D U-Net模型的结构示意图;
图3d是本申请实施例提供的本实施例提供的输出结果示意图;
图4是本申请实施例提供的图像区域定位装置结构示意图;
图5a是本申请实施例提供的医学图像处理设备内部结构示意图;
图5b是本申请实施例提供的采集单元的原理示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
本申请实施例提供一种图像区域定位方法、装置和医学图像处理设备。
其中,该图像区域定位装置具体可以集成在电子设备中,该电子设备可以包括磁共振成像设备、医学影像数据处理设备以及医学影像数据存储设备等等。
图1a是本申请实施例提供的图像区域定位方法的场景示意图,参考图1a,电子设备可以(Three Dimension,3D)获取目标部位的多个三维图像,其中,多个三维图像包括多个不同模态的三维图像;提取多个三维图像的图像特征;对多个三维图像的图像特征进行融合处理,得到融合特征;根据融合特征确定三维图像中体素对应的体素类型;从三维图像中选择体素类型为乳腺肿瘤类型的目标体素,得到目标体素的位置信息;基于目标体素的位置信息定位出乳腺肿瘤区域。
以下分别进行详细说明。需说明的是,以下实施例的序号不作为对实施例优选顺序的限定。
在本申请实施例中,将以图像区域定位装置的角度进行描述,该图像区域定位装置具体可以集成在电子设备中,该电子设备可以包括磁共振图像采集设备、磁共振成像设备、医学影像数据处理设备以及医学影像数据存储设备等等。
在本实施例中,提供了一种图像区域定位方法,如图1b所示,该图像区域定位方法的具体流程可以如下:
S101、获取目标部位的多个三维图像:
目标部位可以指生命体例如人类、猫、狗等动植物,其躯体的某组成部位,也可以指非生命体例如人体组织切片、动物标本、生命体代谢产物的某组成部位等等,还可以包括计算机视觉中的三维模型中模型的一部分。例如,病人的胸腔部位、狗标本的脑部等等。
三维图像可以指具有长、宽、高三个维度的立体图像,也可以指具有长、宽、时间三个维度的连续二维图像,例如激光全息图、计算机三维模型以及磁共振三维图像等等。
获取目标部位的多个三维图像的方式可以有多种。比如,在一些实施例中,可以从本地存储的图像,或者外部存储的图像中获取待处理的三维图像;例如,可以从本地图像数据库中获取三维图像;或者,通过网络与其他存储设备通信,获取三维图像。
又比如,在一些实施例中,电子设备还可以自己采集三维图像,并从中选择待识别的三维图像。
通过获取目标部位的多个不同模态的三维图像,可以使得接下来的区域定位步骤从多个角度进行分析与处理,从而提升识别的精确度。
在一些实施例中,该方法可以对磁共振三维图像进行区域定位。
具体地,磁共振成像技术是利用核磁共振(Nuclear Magnetic Resonance,NMR)原理,依据所释放的能量在物质内部不同结构环境中不同的衰减,通过外加梯度磁场检测所发射出的电磁波,即可得知构成这一物体原子核的位置和种类,据此可以绘制成物体内部的结构图像。
被磁共振成像设备采集的磁共振信号可以被处一系列的后置处理,生成T1和T2加权(T1Weighted and T2Weighted)、血管造影(Magnetic Resonance Angiography,MRA)、弥散加权成像(Diffusion Weighted Image,DWI)、表观弥散系数(Apparent DiffusionCoefficient,ADC)、脂肪抑制图像(Fat Suppression,FS)以及动态增强成像(DynamicContrast-Enhanced,DCE)等等不同模态的图像序列,这些图像序列能够产生各具特点的MRI三维图像,不仅能够在三维空间上反映人体解剖形态,而且能够反映人体血流和细胞代谢等生理功能的信息。
目前,MRI被广泛运用在医学诊断上,对软组织例如膀胱、直肠、子宫、阴道、关节以及肌肉等部位具有非常好的分辨力。而且,MRI各种参数都可以用来成像,多个模态的MRI图像能提供丰富的诊断信息。另外,通过调节磁场可自由选择所需剖面,能够从各种方向生成三维图像序列。除此之外,由于MRI对人体没有电离辐射损伤,因此经常被使用在生殖系统、乳房以及骨盆等疾病的侦测及诊断上。
在一些实施例中,为了便于用户选择目标部位,提升识别的精确度,可以在磁共振成像设备上显示采集到的某部位的某模态的磁共振三维图像,用户可以在显示的图像上进行预览,并且在预览界面截取目标部位,以便减少无病理信息的数据,对之后的图像处理产生时间上以及精度上的影响,从而提高了识别病理组织的效率与精确度。
获取目标部位的磁共振三维图像方式可以有多种,比如,在一些实施例中,可以由磁共振图像采集设备采集,也可以接收磁共振图像采集设备发送的磁共振三维图像。
其中,磁共振三维图像序列是由多个磁共振二维图片堆叠成的立方体。
其中,磁共振图像采集设备可以通过对静磁场中的待检测目标施加某种特定频率的射频脉冲,使得待检测目标内部的氢质子受到激励而发生磁共振现象,停止脉冲后质子在弛豫过程中产生核磁共振信号,通过对核磁共振信号的接收、空间编码和图像重建等处理过程,产生磁共振信号,即采集得到磁共振三维图像序列。
比如,在一些实施例中,可以从医学影像数据存储系统中获取磁共振三维图像;或者,通过网络与其他存储设备通信,获取磁共振三维图像。
通过获取目标部位的多个不同模态的磁共振三维图像,可以使得接下来的区域定位步骤从多个角度进行分析与处理,从而提升乳腺肿瘤区域识别的精确度。
在一些实施例中,为了便于用户选择目标部位,提升识别的精确度,可以在磁共振成像设备上显示采集到的某部位的某模态的磁共振三维图像,用户可以在显示的图像上进行预览,并且在预览界面截取目标部位,以便减少非乳腺肿瘤区域的信息对之后的图像处理产生时间上以及精度上的影响,从而提高了识别乳腺肿瘤区域的效率与精确度。
S102、提取多个三维图像的图像特征:
图像特征可以包括图像的颜色特征、纹理特征、形状特征和空间关系特征等等。
本实施例中可以通过在神经网络中增加高度的维度,来将二维的神经网络的长宽维度变成三维的神经网络的长宽高维度,获得这些三维神经网络训练成的三维模型后,将每个模态的三维图像输入到三维模型的多个通道中来提取的图像特征,进行多次提取操作后,即可获得步骤S101中获得的所有的三维图像的图像特征。
目前,常用的三维图像处理网络可以包括三维卷积神经网络(ThreeDemensionConvolutional Neural Networks,3D CNN)以及三维全卷积网络(ThreeDemension Fully Convolutional Networks,3D FCN)等等。
在一些实施例中,为了解决因为卷积和池化操作对图像尺寸的影响、提升计算效率,可以采用预设的3D FCN模型来提取一个3D图像的图像特征,以下进行具体描述:
FCN可以对图像进行体素级的分类,从而解决了语义级别的图像分割(semanticsegmentation)问题。与经典的CNN在卷积层之后使用若干个全连接层,将卷积层产生的(feature map)映射成一个固定长度的图像特征从而进行分类不同,FCN可以接受任意尺寸的输入图像,采用反卷积层对最后一个卷积层的特征图进行上采样,使它恢复到输入图像相同的尺寸,从而可以对每个体素都产生了一个预测,同时保留了原始输入图像中的空间信息,最后在上采样的特征图上进行逐体素分类。简单的来说,FCN与CNN的区别在于FCN将CNN的全连接层换成了卷积层,这样网络输出不再是类别而是热图(heatmap),同时为了解决因为卷积和池化操作对图像尺寸的影响,提出了使用上采样的方式恢复。
而相比于2D FCN对2D图像进行卷积操作,3D FCN除了会考虑图像的长度信息和宽度信息,还会考虑图像的高度信息。
图1c是在3D FCN中采用3D卷积核对3D图像序列进行卷积操作的过程,图中进行卷积操作的高度维度为N,将连续的N帧(frame)图像堆叠成一个立方体,然后采用3D卷积核对立方体进行卷积操作。在这个结构中,卷积层中每一个特征图都会与上一层中多个邻近的连续帧相连,因此可以捕捉高度信息。即通过这N帧图像之间的卷积,3D FCN提取了高度之间某种的相关性。
当核三维图像输入预设的3D FCN中时,可以将输入的3D图像经过多个卷积层和下采样层后得到热图(heat map),即高维特征图,然后高维特征图经过多个上采样层后得到图像特征。
具体地,让1×1×1尺寸的3D卷积核,以步长为1在5×5×5的3D图像序列上按照在x轴上由低到高完成y轴中一行的滑动,再在y轴上由下到上完成z轴中一张图片的滑动,最后在z轴上低到高完成整个3D图像序列的滑动,把每个经停的位置都带入3D FCN网络,可以得到的5×5×5个位置的类别得分。
其中,预设的3D FCN模型可以从本地存储的模型集,或者外部存储的模型集中获取预设的3D FCN模型;例如,可以通过网络与其他存储设备通信,获取预设的3D FCN模型。
需要注意的是,一种3D卷积核由于只提供一种权值,故只能从立方体中提取一种类型的特征。由于一个卷积核得到的特征提取是不充分的,故可以通过添加多个卷积核,可以识别多种特征。通过采用多种卷积核,每个通道对应一个卷积核,3D FCN可以提取3D图像的多种特征。
S103、对多个三维图像的图像特征进行融合处理,得到融合特征:
从步骤S102获取多个三维图像的图像特征后,可以对这些从多个角度反映了目标部位中类型信息的图像特征进行融合处理,获得的融合特征具有准确性和多样性。
目前,常见的融合方式可以包括串行融合、并行融合、选择融合以及变换融合等等。
其中,串行融合是将所有的图像特征,按照串行的方法组合在一起,构成一个新的图像特征,即完成了特征的串行融合。
而并行融合是将所有的图像特征,按照并行的方法组合在一起,构成一个新的图像特征,即完成了特征的并行融合。
选择融合是从所有的图像特征中,对应的每一维数据中都选择出一个或多个最优的数据,最后把选择出来的所有数据组合成新的特征,即完成了特征的选择融合。
变换融合是将所有的图像特征放在一起,使用一定的数学方法变换为一种全新的特征表达方式,即完成了特征的变换融合。
在一些实施例中,图1d是特征融合示意图,如图所示,分别对3D图像A和3D图像B提取特征后,将3D图像A和3D图像B的同一层、同一位置的特征点进行串行融合,得到新的特征点。重复多次后,即可得到3D图像A和3D图像B的融合特征。
在另一些实施例中,图1e是另一特征融合示意图,如图所示,在步骤S103中对多个三维图像进行图像特征的提取时,对3D图像A和3D图像B的同一层、同一位置的体素进行串行融合,根据融合结果得到该体素的融合特征。
S104、根据融合特征确定三维图像中体素对应的体素类型:
获取步骤S103的融合特征后,可以根据该融合特征确定三维图像中体素对应的体素类型的概率。
由于不同的融合特征具有不同的取值范围,为了降低融合特征的取值范围对最终结果的影响,平衡融合特征的取值范围,提高识别乳腺肿瘤区域的精确度,需要对特征的范围事先进行归一化操作,将融合特征取值归一化到[0,1]区间。
常用的归一化方法可以包括函数归一化、分维度归一化、排序归一化等等。
其中,函数归一化可以通过映射函数将特征取值映射到[0,1]区间,比如使用最大最小值归一化法,是一种线性的映射。除此之外,还可以通过非线性函数例如log函数的映射进行归一化操作。
其中,分维度归一化也可以使用最大最小归一化方法,但是最大最小值选取的是所属类别的最大最小值,即使用的是局部最大最小值。
其中,排序归一化可以不考虑原来特征取值范围,直接将特征按大小排序,根据特征所对应的排序赋予该特征一个新的值。
根据上述步骤通过融合特征确定三维图像中体素对应的体素类型的概率后,可以采用字典,查询该概率对应的体素类型,从而确定三维图像中体素对应的体素类型。
其中,该字典可以从本地内存中,或者外部内存中获取该字典。例如,可以从本地数据库中获取字典;或者,通过网络与其他存储设备通信,获取字典。
其中,体素类型可以是指体素代表的类型,例如体素所代表的病症在病理角度下的分类,侧重于描述当前症状。
表1是字典格式示意图,如表所示,在一些实施例中,通过融合特征确定三维图像中体素对应的体素类型的概率分别为0、(0,x]、(x,y)、[y,1)以及1。其中,概率为0对应的体素类型为A,概率大于0且小于等于x对应的体素类型为B,概率大于x且小于y对应的体素类型为C,概率大于等于y且小于1对应的体素类型为D。
概率 0 (0,x] (x,y) [y,1)
体素类型 A B C D
表1
在一些实施例中,可以通过概率图模型(Probabilistic Graphical Model,GPM)对这些融合特征进行优化,得到更加精细的融合特征,使得识别乳腺肿瘤区域的精确度提高。
GPM能够从数学的方向解释3D图中每个体素之间的相关(依赖)关系,即可以使用GPM确定三维图像中体素对应的体素类型。
其中,概率图模型是一类用图形模式表达基于概率相关关系的模型的总称。概率图模型结合概率论与图论的知识,利用图来表示与模型有关的变量的联合概率分布。
常用的概率图模型包括最大熵马尔可夫模型(Maximum Entropy Markov Model,MEMM)、隐马尔可夫模型(Hidden Markov Model,HMM)以及条件随机场(conditionalrandom field algorithm,CRF)等等。
一个概率图由结点(nodes)(也被称为端点(vertices))和它们之间的链接(links)(也被称为边(edges)或弧(arcs))组成。在概率图模型中,每个结点表示一个或一组随机变量,链接则表示这些变量之间的概率关系。概率图模型主要分为两种,一种是有向图模型(directed graphical model),也就是贝叶斯网络(Bayesian network)。这种图模型的特点是链接是有方向的。另外一种是无向图(undirected graphical models),或者叫马尔科夫随机场(Markov random fields)。这种模型的链接没有方向性质。
在一些实施例中,GPM在获取步骤S103的融合特征后,也可以根据该融合特征确定三维图像中体素对应的体素类型的概率。
朴素贝叶斯(Bayes,NB)模型是分类问题中的生成模型(generativemodel),以联合概率P(x,y)=P(x|y)P(y)建模,运用贝叶斯定理求解后验概率P(y|x)。NB假定输入x的特征向量(x(1),x(2),…,x(j),…,x(n))条件独立(conditional independence),即:
P(x|y)P(y)=P(y)∏P(x(j)|y)
HMM是用于对序列数据X做标注Y的生成模型,用马尔可夫链(Markov chain)对联合概率P(X,Y)建模:
P(X,Y)=∏P(yt|yt-1)P(xt|yt)
然后,通过维特比算法(Viterbi)求解P(Y|X)P(Y|X)的最大值。
逻辑回归分析(Logistic Regression,LR)模型是分类问题中的判别模型(discriminative model),直接用LR函数建模条件概率P(y|x)P(y|x)。实际上,逻辑回归函数是归一化指数函数(softmax)的特殊形式,并且LR等价于最大熵模型(Maximum EntropyModel),它可以写成最大熵的形式:
Pw(y|x)=exp(∑iwifi(x,y))/Zw(x)
其中,Zw(x)为归一化因子,w为模型预设的参数,ifi(x,y)为特征函数(featurefunction),可以描述(x,y)的关系。
CRF便是为了解决标注问题的判别模型,对于每个体素i所具有类别标签xi还有对应的观测值yi,将每个体素作为节点,体素与体素间的关系作为边,即构成了一个条件随机场。通过观测变量yi可以推测体素i对应的类别标签xi
条件随机场符合吉布斯分布,其中y是观测值:
P(Y=y|I)=exp(-E(y|I))/Z(I)
其中,E(y|I)是能量函数:
E(x)=∑iΨu(yi)+∑(i<j)Ψp(yi,yj)
其中的一元势函数∑iΨu(yi)即来自于前端三维卷积神经网络的输出。而二元势函数如下:
Ψp(yi,yj)=u(yi,yj)∑Mω(m)k(m)G(fi,fj)
二元势函数是描述体素与体素之间的关系,鼓励相似体素分配相同的标签,而相差较大的体素分配不同标签。
图1f是NB、HMM、CRF以及LR之间的关系图,如图所示,LR是NB的特殊形式,CRF是HMM的特殊形式,而NB和HMM之间的结构不同,故LR和CRF之间的结构也不同。
S105、从三维图像中选择体素类型为乳腺肿瘤类型的目标体素,得到目标体素的位置信息:
在步骤S104后可以确定3D图像中所有体素的类型,从3D图像中选择体素类型为乳腺肿瘤类型的体素作为目标体素,表2是目标体素的位置信息示例,其中,该目标体素的位置信息可以包括所有乳腺肿瘤类型的目标体素在3D图像中对应的坐标位置、目标体素编号等信息。
目标体素编号 0x01 0x02 0x03 0x04 0x05
坐标位置 (a,b,c) (d,e,f) (g,h,i) (j,k,l) (m,n,o)
表2
其中,目标体素在3D图像中对应的位置信息可以包括在任一或多个3D图像上对应的位置信息,该位置信息可以是相对于世界坐标系的坐标位置、相对于3D图像内部坐标系的坐标位置等等。
S106、基于目标体素的位置信息定位出乳腺肿瘤区域:
在步骤S105获取目标体素的位置信息后,可以通对该目标体素的位置信息得到乳腺肿瘤区域,再从多方位的角度展示乳腺肿瘤区域,从而方便用户的实际观察与使用。
比如,在一些实施例中,成像设备可以根据目标体素的位置信息绘制表格,以表格的形式显示目标体素的位置信息。
比如,在一些实施例中,成像设备可以根据目标体素的位置信息中每个目标体素的坐标位置计算病变区域的体积。
本发明实施例提供的图像区域定位方法可以应用在自动识别磁共振三维图像中肿瘤的场景中,比如,通过本发明实施例提供的图像区域定位方法提取出病患身体某部位的多个磁共振三维图像的图像特征,根据这些图像特征计算融合特征,基于融合特征可以对磁共振三维图像里的肿瘤进行多方位的分析,从而实现自动识别磁共振三维图像中的肿瘤。
由上可知,本申请实施例可以获取目标部位的多个三维图像,其中,多个三维图像包括多个不同模态的三维图像;提取多个三维图像的图像特征;对多个三维图像的图像特征进行融合处理,得到融合特征;根据融合特征确定三维图像中体素对应的体素类型;从三维图像中选择体素类型为乳腺肿瘤类型的目标体素,得到目标体素的位置信息;基于目标体素的位置信息定位出乳腺肿瘤区域。本方案可以提取不同模态的三维图像中不同的图像特征(如血液特征、水分子特征、脂肪特征等),可以根据这些图像特征得到包含了多模态信息的融合特征,直接根据融合特征定位出乳腺肿瘤区域。由此,该方案可以降低误判概率,从而提升图像区域定位的精确度。
根据上述实施例所描述的方法,以下将举例作进一步详细说明。
在本申请实施例中,将以图像区域定位装置具体集成在电子设备进行说明。
图2a是是本申请实施例提供的图像区域定位方法的另一流程示意图,如图2a所示,电子设备可以根据磁共振三维图像定位图中的病理组织区域,电子设备进行区域定位的流程如下:
S201、获取生命体目标部位的多个磁共振三维图像:
获取目标部位的多个磁共振三维图像的具体方法请参考步骤S101中的详细步骤,在此不做赘述。
S202、对多个变换后的磁共振三维图像进行预处理操作,得到多个预处理后的磁共振三维图像:
由于获取的多个三维图像尺寸、分辨率等规格不相同,为了进一步提高病理组织识别的精确度,在获取多个三维图像之后、提取多个三维图像的图像特征之前,可以对多个三维图像进行预处理操作。
在一些实施例中,多个三维图像可能并未处于同一坐标系,为了进一步提高病理组织识别的精确度,可以对多个三维图像进行坐标系的配准操作:
(1)获取参考坐标系以及多个三维图像的原坐标系:
为了说明体素的位置,必须选取其坐标系。在参考坐标系中,为确定空间中体素的位置,按规定方法选取的有次序的一组数据,即坐标。参考坐标系的种类可以是笛卡尔直角坐标系、平面极坐标系、柱面坐标系和球面坐标系等,参考坐标系具体可以是世界坐标系、相机坐标系、图像坐标系、体素坐标系等等。
参考坐标系是指预设规则规定的坐标的方法,即是该问题所用的参考坐标系。参考坐标系可以预存在本地内存中,也可以由用户输入。
获取三维图像的原坐标系的方式有多种,比如,在一些实施例中,可以由医学图像处理设备在采集三维图像时标注,在另一实施例中可以接收图像采集设备发送的原坐标系,在另一实施例中可以由用户输入。
比如,在一些实施例中,还可以从本地存储,或者外部存储获取原坐标系;例如,可以从本地图像数据库如医学影像数据存储系统中获取三维图像的原坐标系;或者,通过网络与其他存储设备通信,获取三维图像的原坐标系。
(2)将多个三维图像的原坐标系变换为参考坐标系:
将原坐标系中测得到的体素的原坐标进行坐标系的变换,以得到原坐标在参考坐标系上的表示。目前常用的配准算法按照过程可以分为整体配准和局部配准,比如迭代最近点算法(Iterative Closest Point,ICP)等等。
一对体素可以通过两两配准(pair-wise registration)法进行配准。在一些实施例中,通过应用一个预设三维的旋转矩阵R来使得体素的坐标精确地与参考坐标系进行配准:
其中,(x,y,z)为三维图像的原坐标,(x’,y’,z’)为配准后的坐标,R为三阶的旋转矩阵。
在一些实施例中,使用右手螺旋定理时,旋转矩阵R在x轴、y轴、z轴的旋转矩阵分别为:
其中,绕任意轴旋转则可以分解成绕三个坐标轴旋转的叠加,最终得到的旋转矩阵R便是上述三个矩阵的乘积。
其中,预设三维的旋转矩阵R可以由本领域技术人员预先设定并保存在本地内存中。
在另一些实施例中,多个三维图像的体素间距不同,为了进一步提高病理组织识别的精确度,可以如下对多个三维图像进行配准操作:
(1)获取参考体素间距以及多个三维图像的原体素间距:
体素间距(Voxel Spacing)可以描述体素之间的密度,也被称为点间距,具体是指从某一体素中心到相邻体素中心的距离。由于体素间距反映了两个体素之间的空间大小,因此较小的体素间距意味着体素之间的空间较小,即更高的体素密度和更高的屏幕分辨率。
由于在获取的多个三维图像分辨率可能并不一致,通过配准多个三维图像分辨率可以进一步提高病理组织识别的精确度。
获取参考体素间距的方式有多种,比如,在一些实施例中,参考体素间距可以由用户输入设定。在另一实施例中,可以从多个三维图像中选取一个三维图像的原体素间距作为参考体素间距。在另一实施例中,参考体素间距还可以从本地存储,或者外部存储中获取原体素间距。
获取三维图像的原体素间距的方式也有多种,比如,在一些实施例中,可以由图像采集设备在采集三维图像时标注。在另一实施例中可以接收图像采集设备发送的原体素间距。在另一实施例中可以由用户输入。
比如,在一些实施例中,还可以从本地存储,或者外部存储中获取原体素间距;例如,可以从本地图像数据库如医学影像数据存储系统中获取三维图像的原体素间距;或者,通过网络与其他存储设备通信,获取三维图像的原体素间距。
(2)将多个三维图像的原体素间距变换为参考体素间距:
体素间距配准的方法类似体素间距配准方法,例如使用插值法、梯度法、优化法、最大互信息法等等。在一些实施例中,可以使用插值法如最邻近插值法、双线插值法、三线插值法等等来进行配准。
基于插值方法的原理是首先通过再采样使两幅图像放大并且具有相同的分辨率,在再采样时进行插值操作,即引入新的体素数据,从而完成配准。
在一些实施例中,使用最邻近插值法将体素最邻近的体素的灰度值赋给原体素,从而进行插值操作。
在一些实施例中,利用体素的4个最近点的灰度值并通过线性方程计算得到数值,从而进行插值操作。
在一些实施例中,按新采样点到其各个邻点的距离产生相应的权重,新采样点的灰度值由各邻点的灰度值按权重进行插值。
在另一些实施例中,多个三维图像的尺寸不同,为了进一步提高病理组织识别的精确度,还可以如下对多个三维图像进行配准操作:
获取参考尺寸大小以及多个三维图像的原尺寸大小;
将多个三维图像的原尺寸大小变换为参考尺寸大小。
其中,由于在获取的多个三维图像尺寸大小可能并不一致,通过配准多个三维图像的尺寸大小可以进一步提高病理组织识别的精确度。
获取参考尺寸大小的方式有多种,比如,在一些实施例中,参考尺寸大小可以由用户输入设定。在另一实施例中,可以从多个三维图像中选取一个三维图像的原尺寸大小作为参考尺寸大小。在另一实施例中,参考尺寸大小还可以从本地存储,或者外部存储中获取。获取三维图像的原尺寸大小的方式也有多种,比如,在一些实施例中,可以由图像采集设备在采集三维图像时标注。在另一实施例中可以接收图像采集设备发送的原尺寸大小。在另一实施例中还可以由用户输入。
需要注意的是,上述三个预处理操作,即对3D图像的坐标系、体素间距、尺寸大小的变换操作,可以同时实施,不影响实施顺序。
S203、提取多个预处理后的磁共振三维图像的图像特征:
在本实施例中可以使用预设的语义分割网络对多个三维图像的图像特征进行提取,从而完成图像的语义分割,将输入图像中的每个像素分配一个语义类别,以得到像素化的密集分类。
常用的语义分割网络可以包括PSPNet、RefineNet、DeepLab、U-net等等。一般的语义分割架构可以是编码器-解码器(encoder-decoder)的网络架构。编码器可以是一个训练好的分类网络,例如视觉几何组(Visual Geometry Group,VGG)、残差网络(ResidualNeural Network,ResNet)。这些架构之间的不同主要在于解码器网络。解码器的任务是将编码器学习到的可判别特征从语义上映射到像素空间,以获得密集分类。
语义分割不仅需要在像素级有判别能力,还需要有能将编码器在不同阶段学到的可判别特征映射到像素空间的机制,例如使用跳远连接、金字塔池化等作为解码机制的一部分。
在一些实施例中,步骤202具体可以包括:
(1)采用预设的三维卷积核,对三维图像进行卷积处理:
将连续的N帧(frame)2D图片堆叠成一个立方体,然后采用3D卷积核对该立方体进行卷积操作。在这个结构中,卷积层中每一个特征图都会与上一层中多个邻近的连续帧相连,因此可以捕捉高度信息。
具体地,让1×1×1尺寸的3D卷积核,以步长为1在5×5×5的3D图像序列上按照在x轴上由低到高完成y轴中一行的滑动,再在y轴上由下到上完成z轴中一张图片的滑动,最后在z轴上低到高完成整个3D图像序列的滑动,把每个经停的位置都带入语义分割网络,可以得到的5×5×5个位置的类别得分。
其中,预设的3D语义分割模型可以从本地存储的模型集,或者外部存储的模型集中获取。例如,可以通过网络与其他存储设备通信,获取预设的3D语义分割模型。
需要注意的是,一种3D卷积核由于只提供一种权值,故只能从立方体中提取一种类型的特征。一个卷积核得到的特征提取是不充分的,通过添加多个卷积核,可以识别多种特征。通过采用多种卷积核,每个通道对应一个卷积核,3D语义分割模型可以提取3D图像的多种特征。
(2)采用预设的三维反卷积核,对卷积处理后的三维图像进行上采样,得到三维图像的图像特征:
当核三维图像输入预设的3D语义分割模型中时,可以在上一步骤将输入的3D图像经过多个卷积层和下采样层后得到热图(heat map),即高维特征图,然后高维特征图在当前步骤可以经过多个上采样层,得到图像特征。
其中,采样方式有很多种,如最近邻插值,双线性插值,均值插值,中值插值等方法。在上述上采样和下采样的步骤中均能使用。
S204、对多个磁共振三维图像的图像特征进行融合处理,得到融合特征:
具体实施方式请参考步骤S103中的详细描述,在此不做赘述。
在一些实施例中,步骤203具体可以包括:
(1)获取预设特征权重;
该预设特征权重可以保存在预设3D语义分割模型中,预设的3D语义分割模型可以从本地存储的模型集,或者外部存储的模型集中获取。例如,可以通过网络与其他存储设备通信,获取预设的3D语义分割模型。
(2)基于预设特征权重,对多个三维图像的图像特征进行累加和/或累乘处理,得到融合特征。
获取多个三维图像的图像特征后,可以采用预设特征权重对这些从多个角度反映了目标部位中病理信息的图像特征进行融合处理,获得的融合特征具有准确性和多样性。
在一些实施例中,图2b是基于预设权重的特征融合示意图,如图所示,分别对3D图像A和3D图像B提取特征后,将3D图像A和3D图像B的同一层、同一位置的特征点依照预设的权重w1、w2进行串行融合,得到新的特征点。重复多次后,即可得到3D图像A和3D图像B的融合特征。
在另一些实施例中,图2c是另一特征融合示意图,如图所示,在步骤S103中对多个三维图像进行图像特征的提取时,对3D图像A和3D图像B的同一层、同一位置的体素依照预设的权重W1、W2进行串行融合,根据融合结果得到该体素的融合特征。
其中,预设特征权重可以由技术人员预先设定并保存在本地内存中。
S205、根据融合特征确定磁共振三维图像中体素对应的病理类型:
通过融合特征确定三维图像中体素对应的体素类型的概率,可以采用字典,查询该概率对应的体素类型,从而确定三维图像中体素对应的体素类型。
其中,字典可以从本地内存中,或者外部内存中获取该字典。例如,可以从本地数据库中获取字典;或者,通过网络与其他存储设备通信,获取字典。
其中,体素类型可以包括病理类型,该病理类可以是指病症在病理角度下的分类,侧重于描述当前症状。比如,肺癌的病理类型可以包括小细胞癌、肺泡癌、支气管腺瘤等等;再比如,乳腺肿瘤的病理类型可以包括乳腺良性肿瘤和乳腺恶性肿瘤;进一步的,乳腺良性肿瘤的病理类型可以包括纤维腺瘤,乳管内乳头状瘤,错构瘤,囊肿等;乳腺恶性肿瘤的病理类型可以包括小叶原位癌、导管内癌、粘液腺癌等等。
S206、从磁共振三维图像中选择病理类型为乳腺肿瘤类型的目标体素,得到目标体素的位置信息:
具体实施方式请参见步骤S104,在此不做赘述。
S207、从多个磁共振三维图像中选取目标磁共振三维图像:
为了更好的展示步骤S205中获得的目标体素,可以将目标体素所代表的病理组织在三维图像上显示,故可以从多个三维图像中选取目标三维图像,以多角度展示病理组织。
由于多个三维图像可以包括MRA、DWI、ADC、FS以及DCE等不同模态的图像序列,这些图像序列能够产生各具特点的MRI三维图像,不仅能够在三维空间上反映人体解剖形态,而且能够反映人体血流和细胞代谢等生理功能的信息。
从这些不同模态的图像序列中选取一个或多个图像序列作为目标三维图像。
其中,选取的方式有多种。比如,在一些实施例中,根据预设规则选取目标三维图像。比如,在另一些实施例中,由用户从众多不同模态的图像序列中指定一个或多个图像序列作为目标三维图像。比如,在另一些实施例中,通过网络与网络服务器通信,获取网络服务器发送的选择指令,根据该选择指令选取一个或多个图像序列作为目标三维图像。
在一些实施例中,为了更加自由、灵活地显示目标体素所代表的病理组织,还可以将预设3D空图像设为目标三维图像,该预设3D空图像的尺寸、分辨率以及每个像素数值可以由技术人员预先设定,也可以由用户即时设定。其中,预设3D空图像可以保存在本地内存中,也可以通过网络从外地内存中获得,还可以由用户设定后再本地生成。
S208、基于目标体素的位置信息,在目标磁共振三维图像上对乳腺肿瘤区域进行定位:
(1)基于目标体素的位置信息,在目标三维图像上确定对应的体素,得到对应体素。
图2d是在目标MRI 3D图像上确定对应的体素的示意图,如图所示,在目标MRI 3D图像上确定位置信息A所对应的位置,该位置的体素记为体素a;同样的,确定位置信息B所对应的位置,该位置的体素记为体素a。
体素a与体素b即为在目标三维图像上对应体素。
(2)将对应体素的体素值设为预设数值,以标识乳腺肿瘤区域:
该预设数值的类型可以是灰度值,也可以是RGB(Red Green Blue)值、RGBW(RedGreen Blue White)等等,可以由本领域的技术人员预先设定,也可以由用户即时设定。
其中,该预设数值的大小可以保存在本地内存中,也可以通过网络从外地内存中获得,还可以由用户设定。
在一些实施例中,为了在目标三维图像上将病理组织的轮廓进行高亮显示,以提高显示图像的可读性,预设数值的类型可以设定为灰度值类型,其数值大小可以为1。
在另一些实施例中,为了在目标三维图像上将病理组织的轮廓进行亮红色显示,从而提升显示图像的可读性,比如,预设数值的类型可以设定为RGB类型,其数值大小可以为#EE0000。
(1)对所有目标体素的位置信息进行均值计算,得到乳腺肿瘤区域的中心点位置信息;
对目标体素的位置信息如坐标、相对位置坐标等等进行数值上的均值计算,即可得到所有目标体素的中心位置信息,即病理组织的中心点位置信息。
在一些实施例中,为了使得中心点落于三维图像上体素,对目标体素的位置信息进行数值上的均值计算后,可以对计算结果进行四舍五入,得到病理组织的中心点位置信息。
(2)基于中心点位置信息,在目标三维图像上定位出乳腺肿瘤区域的中心点。
在目标三维图像上定位出乳腺肿瘤区域的中心点的方式有多种,在一些实施例中,可以在显示界面直接显示中心点坐标。在另一实施例中,可以根据中心点位置信息,在3D图像中圈出中心点。
由上可知,本申请实施例可以获取生命体目标部位的多个磁共振三维图像;对多个变换后的磁共振三维图像进行预处理操作,得到多个预处理后的磁共振三维图像;提取多个预处理后的磁共振三维图像的图像特征;对多个磁共振三维图像的图像特征进行融合处理,得到融合特征;根据融合特征确定磁共振三维图像中体素对应的病理类型;从磁共振三维图像中选择病理类型为乳腺肿瘤类型的目标体素,得到目标体素的位置信息;从多个磁共振三维图像中选取目标磁共振三维图像;基于目标体素的位置信息,在目标磁共振三维图像上对乳腺肿瘤区域进行定位。本方案可以且本方案可以对不同模态的三维图像进行预处理,并提取这些预处理后的图像所提供的不同的图像特征(如血液特征、水分子特征、脂肪特征等),然后可以根据这些图像特征得到包含了多模态信息的融合特征,直接根据融合特征定位,并在目标三维图像上对病理组织的定位区域进行展示。由此,该方案可以提升识别结果的可读性,降低病理组织的误判率,从而提升病理区域识别的精确度。
根据前面实施例所描述的方法,本实施例将提供一种具体的区域定位的应用场景,本实施例以该区域定位的装置具体集成在医疗影像储传系统(Picture Archiving andCommunication Systems,PACS)中,对乳腺病理组织的预测进行说明。
在实施例提供中,PACS将自动获取病人胸腔部位的多个磁共振三维图像,并提取这些磁共振三维图像的图像特征;然后对这些磁共振三维图像的图像特征进行融合处理,得到融合特征,并根据融合特征确定磁共振三维图像中体素对应的病理类型;再从磁共振三维图像中选择病理类型为乳腺肿瘤类型的目标体素,得到目标体素的位置信息;基于目标体素的位置信息对病人胸腔部位进行病理分析,得到乳腺肿瘤的病理信息。
(一)获取目标部位的多个磁共振三维图像:
PACS是应用在医院影像科室的系统,主要的任务就是把日常产生的各种医学影像,例如磁共振、CT、超声、红外仪、显微仪等设备产生的图像,通过例如模拟、DICOM、网络等各种接口,以数字化的方式海量保存起来,当需要的时候在一定的授权下能够很快的调回使用,同时增加一些辅助诊断管理功能。
在本实施例中,PACS从本地内存中调用目标病人的DCE三维序列以及DWI三维序列。
图3a是多模态MRI 3D图像中DCE以及DWI的某层图像,如图所示,DCE图像可以比较清晰的看出乳房及其内部的乳腺病理组织,以及胸腔及其内部的心脏等内脏。DWI序列仅能较清晰的看出乳房及其内部的乳腺病理组织,由于病理组织与心脏的组成不同,图中胸腔及其内部的心脏为低信号,即黑色。故在本实施例中采用DCE三维序列以及DWI三维序列作为多模态磁共振三维图像,进行病理组织预测,可以直接得到乳房及其内部的乳腺病理组织的图像,而胸腔及其内部的心脏将会显示为黑色,故胸腔及其内部的心脏不会影响本方案对乳腺病理组织的判断,进而不需要在获取多模态磁共振三维图像后,对这些图像进行局部部位的剪裁,得到乳房图像以减少心脏的影响。
在本实施例中,PACS还将对获取的DCE以及DWI图像进行配准操作,以提升病理组织识别的精确度。
PACS将目标病人注射造影剂之前的DCE三维序列记为DCE_T0,将注射造影剂之后的DCE-MRI三维序列记为DCE_Ti,将DWI三维序列记为DWI_bi。
其中,DCE_Ti中的i表示病人注射造影剂之后第i个时间点的DCE序列。
其中,DWI_bi中的b表示弥散敏感因子,i表示第i个b值的DWI序列,弥散敏感因子越大,病理组织和正常组织之间的对比度越大。
图3b是本实施例提供的具体实施例流程示意图,包括肿瘤预测部分与模型训练部分,如图3b的所示,在模型训练部分中PACS将获取的DWI_bi与DCE_Ti根据获取的DCE_T0进行配准,得到配准好的训练图像,利用这些图像对3D Unet模型进行训练,得到训练好的3DUnet模型。在肿瘤预测部分中PACS将获取的DWI_bi与DCE_Ti根据获取的DCE_T0进行配准,使得DWI_bi、DCE_Ti以及DCE_T0的分辨率、图像尺寸大小以及坐标系相同,然后将配准的数据输入训练好的3D Unet模型,进行病理区域的定位。以下为详细步骤:
在本实施例中,DCE_Ti中的i取值为3,DWI_bi中的b取值为600,i取值为800。
PACS以当前世界坐标系作为参考坐标系,将DCE_T0、DCE_T3以及DWI_b800的坐标系配准到当前世界坐标系下。
然后,PACS将目标病人注射造影剂之前的DCE三维序列的体素间距作为参考体素间距,对其他DCE三维序列以及DWI三维序列进行配准。即,使用DCE_T0的体素间距对DCE_T3以及DWI_b800序列的体素间距进行配准。
以下是具体步骤:
(1)DCE_T0配准:
PACS获取的DCE_T0坐标系原点为(x0,y0,z0)=(-182.3,233.1,-35.28)。利用旋转矩阵和坐标系原点,把DCE_T0的坐标转换到世界坐标系(x’,y’,z’):
(x’,y’,z’)=DCE_T0*R+(x0,y0,z0)
其中,坐标系原点(x0,y0,z0)保存在PACS内存中,当PACS获取DWI_b800图像时,可以从图像中读出。以空间直角坐标系,即右手坐标系,作为当前世界坐标系,故取旋转矩阵R为旋转矩阵:
[1,0,0]
[0,1,0]
[0,0,1]
PACS获取的DCE_T0尺寸为(x,y,z)=(448,448,72)体素。其中,DCE_T0在x,y,z方向上的体素间距为(0.84,0.84,1.6),记为参考体素间距。
(2)DCE_T3配准:
由于在实际图像获取过程中,DCE_Ti图像的坐标系参数、尺寸参数以及体素间距一致,即DCE_T0和DCE_T3的参数一致,因此可以认为DCE_T3已经和DCE_T0数据实现了配准,因此,(x’,y’,z’)也是DCE_T3在世界坐标系的下的坐标。
(3)DWI_b800配准:
DWI_b800的坐标系原点(x0,y0,z0)=(-176.1,69.86,-49.61)。DWI_b800的坐标转换到世界坐标系(x’,y’,z’):
(x’,y’,z’)=DCE_T0*R+(x0,y0,z0)
其中,R为旋转矩阵,坐标系原点(x0,y0,z0)保存在PACS内存中,当PACS获取DWI_b800图像时,可以从图像中读出。
DWI_b800的尺寸是(x,y,z)=(192,96,32)体素,其中x,y,z方向上的体素间距分别是(1.875,1.875,4.8)。由于参考体素间距为(0.84,0.84,1.6),由于体素间距配准后的尺寸需要四舍五入到整数,故DWI_b800的x方向的体素长度是192×1.875÷0.84=429。
类似的,DWI_b800的y方向的体素长度是96×1.875÷0.84=214,z方向的体素长度是32×4.8÷1.6=96。
因此,DWI_b800通过3D数据线性插补法变换到(429,214,96)后,需要对尺寸进一步剪裁,即把尺寸(429,214,96)的DWI_b800,填补到(448,448,72)的3D空矩阵中,缺失的地方使用0填补,多出的地方则删除。
以上的DCE_T0、DCE_T3以及DWI_b800均为三维图像,经过以上三步后即得到了配准后相同尺寸大小、相同坐标系的三组磁共振三维图像。
(二)提取多个磁共振三维图像的图像特征:
使用2D U-Net模型处理三维图像时,由于其在处理三维图像的连贯性上表现欠佳,无法很好的利用3D信息,相较于3D U-Net(Three Dimensions U-Net)模型存在着预处理繁琐、效率低下以及输出结果不够准确等问题,故在本实施例中,使用3D U-Net模型处理三维图像。
图3c为3D U-Net模型的结构示意图,如图所示,3D U-Net模型基于U-Net模型,在该网络模型中所有的二维操作都会被替换为三维操作,例如三维卷积,三维池化,三维上采样等等。与U-Net模型类似,3D U-Net模型也是编码端-解码端的结构,编码端用于分析三维图像的全局信息并且对其进行特征提取与分析。
具体地,在本实施例中该3D U-Net模型已事先训练好,其包含及使用如下卷积操作:
a.每一层神经网络都包含了两个三维大小是3*3*3的卷积。
b.批标准化(Batch Normalization,BN)使得网络更好的收敛。
c.线性整流函数(Rectified Linear Unit,ReLU)跟从在每一个卷积后。
d.使用2*2*2三维大小的最大进行下采样,其步长(stride)为2。
而与之相对应的,解码端用于修复目标细节,解码端最后一层之前则包含及执行下面的操作:
a.每一层神经网络都包含了一个2*2*2三维大小的反卷积层进行上采样,其步长为2。
b.两个3*3*3的卷积层跟从在每一个反卷积层后。
c.线性整流函数跟从在每一个卷积后。
e.于此同时,需要把在编码端相对应的网络层的结果作为解码端的部分输入,从而采集高体素特征信息,以便图像可以更好的合成。
对于三维图像,不需要单独输入每个二维切片,而是可以输入整个三维图像到3DU-Net模型中。故将上一步获取的DCE_T0、DCE_T3以及DWI_b800三维图像作为输入数据的3个通道,输入训练好的3D U-net模型,即可提取其相应图像特征。
(三)对多个磁共振三维图像的图像特征进行融合处理,得到融合特征:
在3D U-Net模型解码端的最后一层,使用1*1的卷积核进行卷积运算,将每个64维的特征向量映射到网络的输出层。在上一步中,提取获得了DCE_T0三维图像的图像特征、DCE_T3三维图像的图像特征以及DWI_b800三维图像的图像特征,这些图像特征在3D U-Net模型解码端的最后一层被映射到网络的输出层,即得到混合特征。
(四)根据融合特征确定磁共振三维图像中体素对应的病理类型:
获取融合特征后,在3D U-Net模型的输出层可以根据该融合特征确定磁共振三维图像中体素对应的病理类型的概率。
在本实施例中,为了降低融合特征的取值范围对最终结果的影响,平衡特征的取值范围,提高识别病理组织的精确度,需要使用最大最小值归一化法对特征的范围事先进行归一化操作,将特征取值归一化到[0,1]区间:
x’=(x-xmin)/(xmax-xmin)
其中,xmax为样本数据的最大值,xmin为样本数据的最小值,x’为归一化后的结果。
根据上述步骤通过融合特征确定磁共振三维图像中体素对应的病理类型的概率后,采用预设的病理字典,查询该概率对应的病理类型,从而确定磁共振三维图像中体素对应的病理类型。
其中,预设的病理字典保存在PACS的本地内存中,通过调用该预设的病理字典,可以确定磁共振三维图像中体素对应的病理类型。
表3是预设的病理字典的格式示例,如表所示,求得的概率分别为0、(0,x]、(x,y)、[y,1)以及1。
其中,概率为0对应的病理类型为A,概率大于0且小于等于x对应的病理类型为B,概率大于x且小于y对应的病理类型为C,概率大于等于y且小于1对应的病理类型为D,概率为1对应的病理类型为E。
概率 0 (0,x] (x,y) [y,1)
病理类型 内脏 非内脏非肿瘤 乳腺良性肿瘤 乳腺恶性肿瘤
表3
(五)从磁共振三维图像中选择病理类型为乳腺肿瘤类型的目标体素,得到目标体素的位置信息:
在步骤(四)后可以确定磁共振3D图像中所有体素的类型,从磁共振3D图像中选择病理类型为乳腺恶性肿瘤的体素作为目标体素,表4是目标体素的位置信息示例,其中,该目标体素的位置信息可以包括所有乳腺恶性肿瘤类型的目标体素在3D图像中的坐标值。
目标体素编号 0x01 0x02 0x03 ... 0x0N
坐标值 (a,b,c) (d,e,f) (g,h,i) ... (m,n,o)
表4
(六)基于目标体素的位置信息定位出乳腺肿瘤区域:
在本实施例中,从多个磁共振三维图像中选取DCE_T0图像以及预设3D空图像作为目标磁共振三维图像。
该预设3D空图像的尺寸与分辨率与DCE_T0图像的尺寸与分辨率相同,每个像素的类型均为灰度值、数值大小均为0。其中,该预设3D空图像保存在PACS本地内存中。
根据步骤(五)中获得的目标体素的位置信息,将所有的目标体素的坐标值应用于DCE_T0图像,在DCE_T0图像上得到相应的体素集合,将这些体素的数值设为类型是灰度值、数值是1,以在DCE_T0图像上高亮显示病理组织的轮廓,以提高显示图像的可读性。
类似的,将所有的目标体素的坐标值应用于预设3D空图像,在预设3D空图像上得到相应的体素集合,将这些体素的数值设为类型是灰度值、数值是1,以在预设3D空图像上高亮显示病理组织的轮廓,以提高显示图像的可读性。
然后,将所有目标体素的坐标值数值进行均值计算,并四舍五入得到病理组织的中心点坐标(X,Y),根据该中心点坐标,将位于坐标(X,N)与(N,Y)的体素值数值设为0.8,以在DCE_T0图像以及预设3D空图像上显示中心点的定位,并在预设3D空图像上显示中心点的数值。
图3d是本实施例提供的输出结果,如图所示,包括了在DCE_T0图像上显示的病理组织轮廓的三视图,以及在预设3D空图像上的病理组织轮廓侧视图,所有病理组织轮廓均为高亮显示,并在所有图像上用“十”字显示出中心点,且在预设3D空图像上标示出中心点的数值。
由上可知,PACS从本地内存中获取病人胸腔部位的多个磁共振三维图像,其中,提取多个磁共振三维图像的图像特征;然后对多个磁共振三维图像的图像特征进行融合处理,得到融合特征,根据融合特征确定磁共振三维图像中体素对应的病理类型;再从磁共振三维图像中选择病理类型为乳腺肿瘤类型的目标体素,得到目标体素的位置信息,基于目标体素的位置信息定位出乳腺肿瘤区域。在本申请实施例中由于不同的病理组织的生理特征(如含水量、脂肪比例、含血量等)不同,PACS可以提取不同模态的磁共振三维图像所提供的不同的图像特征(如血液特征、水分子特征、脂肪特征等),根据这些图像特征PACS得到包含了多模态信息的融合特征,直接根据融合特征定位出乳腺肿瘤区域。由此,该方案可以降低将其它组织及器官误判为病理组织的概率,从而提升病理区域定位的精确度。
为了更好地实施以上方法,本申请实施例还提供一种图像区域定位装置,该图像区域定位装置具体可以集成在电子设备中,该电子设备可以包括磁共振图像采集设备、磁共振成像设备、医学影像数据处理设备以及医学影像数据存储设备等等。
例如,如图4所示,该图像区域定位装置可以包括获取模块401、提取模块402、融合模块403、分类模块404、筛选模块405以及定位模块406,如下:
获取模块401,获取生命体目标部位的多个磁共振三维图像,其中,多个磁共振三维图像包括多个不同模态的磁共振三维图像;
提取模块402,用于提取多个磁共振三维图像的图像特征;
融合模块403,用于对多个磁共振三维图像的图像特征进行融合处理,得到融合特征;
分类模块404,用于根据融合特征确定磁共振三维图像中体素对应的病理体素类型;
筛选模块405,用于从磁共振三维图像中选择病理体素类型为预设病理体素类型的目标体素,得到目标体素的位置信息;
定位模块406,用于基于目标体素的位置信息定位出乳腺肿瘤区域。
(1)在一些实施例中,提取模块402可以包括预处理模块和提取子模块,如下:
预处理模块,用于对多个变换后的三维图像进行预处理操作,得到多个预处理后的三维图像;
提取子模块,用于提取多个预处理后的三维图像的图像特征。
在一些实施例中,提取子模块,可以具体用于:
获取参考坐标系以及多个三维图像的原坐标系;
将多个三维图像的原坐标系变换为参考坐标系。
在另一些实施例中,提取子模块,可以具体用于:
获取参考体素间距以及多个三维图像的原体素间距;
将多个三维图像的原体素间距变换为参考体素间距。
在另一些实施例中,提取子模块,还可以具体用于:
获取参考尺寸大小以及多个三维图像的原尺寸大小;
将多个三维图像的原尺寸大小变换为参考尺寸大小。
(2)在一些实施例中,融合模块403可以包括权重获取模块和加权模块,如下:
权重获取模块,用于获取图像特征对应的特征权重;
加权模块,用于基于预设特征权重,对多个磁共振三维图像的图像特征进行加权处理。
在一些实施例中,加权模块可以具体用于:
确定多个磁共振三维图像中相同位置的体素对应的多个图像特征;
对多个图像特征进行预设特征权重的加权处理,得到加权处理后的多个图像特征;
对加权处理后的多个图像特征进行累加操作,得到体素的融合特征
(3)在一些实施例中,分类模块404可以包括,如下:
确定模块,用于确定磁共振三维图像中体素对应的融合特征;
概率模块,用于计算体素对应的融合特征属于各个体素类型的概率,得到体素属于各个体素类型的概率;
分类子模块,用于根据各个体素类型的概率,确定体素对应的体素类型。
(4)在一些实施例中,定位模块406可以包括图像选取模块和定位子模块,如下:
图像选取模块,用于从多个三维图像中选取目标三维图像;
定位子模块,用于基于目标体素的位置信息,在目标三维图像上对乳腺肿瘤区域进行定位。
在一些实施例中,定位子模块,可以具体用于:
基于目标体素的位置信息,在目标磁共振三维图像上确定对应的体素,得到对应体素;
将对应体素的体素值设为预设数值,以标识乳腺肿瘤区域。
在另一些实施例中,定位子模块,可以具体用于:
对所有目标体素的位置信息进行均值计算,得到乳腺肿瘤区域的中心点位置信息;
基于中心点位置信息,在目标三维图像上定位出乳腺肿瘤区域的中心点。
具体实施时,以上各个模块可以作为独立的实体来实现,也可以进行任意组合,作为同一或若干个实体来实现,以上各个模块的具体实施可参见前面的方法实施例,在此不再赘述。
由上可知,本实施例的图像区域定位装置由获取模块401获取目标部位的多个三维图像;提取模块402提取多个三维图像的图像特征;融合模块403对多个三维图像的图像特征进行融合处理,得到融合特征;分类模块404根据融合特征确定三维图像中体素对应的体素类型;筛选模块405从三维图像中选择体素类型为乳腺肿瘤类型的目标体素,得到目标体素的位置信息;定位模块406基于目标体素的位置信息定位出乳腺肿瘤区域。本方案可以提取不同模态的三维图像所提供的不同的图像特征,可以根据这些图像特征得到包含了多模态信息的融合特征,直接根据融合特征定位区域。由此,该方案可以降低误判率,从而提升区域定位的精确度。
此外,本发明实施例还提供一种医学图像处理设备,包括图像采集单元、处理器和存储器,存储器存储有多条指令。该医学图像处理设备可以具有图像采集、分析图像、定位病灶等一体化的功能。
该医学图像采集单元可以用于采集生命体目标部位的多个三维图像;
该存储器可以用于存储图像数据以及多条指令;
该处理器可以用于读取存储器存储的多条指令,来执行以下步骤:
其中,处理器可以从存储器中加载指令,用于获取目标部位的多个三维图像,其中,多个三维图像包括多个不同模态的三维图像;
提取多个三维图像的图像特征;
对多个三维图像的图像特征进行融合处理,得到融合特征;
根据融合特征确定三维图像中体素对应的体素类型;
从三维图像中选择体素类型为乳腺肿瘤类型的目标体素,得到目标体素的位置信息;
基于目标体素的位置信息定位出乳腺肿瘤区域。
在一些实施例中,当执行步骤根据融合特征确定三维图像中体素对应的体素类型时,处理器具体执行确定三维图像中体素对应的融合特征;计算体素对应的融合特征属于各个病理类型的概率,得到体素属于各个病理类型的概率;根据各个病理类型的概率,确定体素对应的体素类型;
在一些实施例中,当执行步骤对多个三维图像的图像特征进行融合处理时,处理器具体执行获取图像特征对应的特征权重;基于预设特征权重,对多个三维图像的图像特征进行加权处理;
在一些实施例中,当执行步骤基于预设特征权重,对多个三维图像的图像特征进行加权处理时,处理器具体执行确定多个磁共振三维图像中相同位置的体素对应的多个图像特征;对多个图像特征进行预设特征权重的加权处理,得到加权处理后的多个图像特征;对加权处理后的多个图像特征进行累加操作,得到体素的融合特征;
在一些实施例中,当执行步骤基于目标体素的位置信息定位出乳腺肿瘤区域时,处理器具体执行从多个三维图像中选取目标三维图像;基于目标体素的位置信息,在目标三维图像上对乳腺肿瘤区域进行定位。
在一些实施例中,当执行步骤基于目标体素的位置信息,在目标三维图像上对乳腺肿瘤区域进行定位时,处理器具体执行基于目标体素的位置信息,在目标三维图像上确定对应的体素,得到对应体素;将对应体素的体素值设为预设数值,以标识乳腺肿瘤区域。
在一些实施例中,当执行步骤基于目标体素的位置信息,在目标三维图像上对乳腺肿瘤区域进行定位时,处理器具体执行对所有目标体素的位置信息进行均值计算,得到乳腺肿瘤区域的中心点位置信息;基于中心点位置信息,在目标三维图像上定位出乳腺肿瘤区域的中心点。
在一些实施例中,当执行步骤提取多个三维图像的图像特征时,处理器具体执行对多个变换后的三维图像进行预处理操作,得到多个预处理后的三维图像;提取多个预处理后的三维图像的图像特征。
在一些实施例中,当执行步骤对多个变换后的三维图像进行预处理操作时,处理器具体执行获取参考坐标系以及多个三维图像的原坐标系;将多个三维图像的原坐标系变换为参考坐标系。
如图5a所示,其示出了本发明实施例所涉及的医学图像处理设备的内部结构示意图,具体来讲:
该医学图像处理设备可以包括一个或者一个以上处理核心的处理器501、一个或一个以上计算机可读存储介质的存储器502、电源503、输入单元504以及图像采集单元505等部件。本领域技术人员可以理解,图5a中示出的医学图像处理设备结构并不构成对医学图像处理设备的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。其中:
处理器501是该医学图像处理设备的控制中心,利用各种接口和线路连接整个医学图像处理设备的各个部分,通过运行或执行存储在存储器502内的软件程序和/或模块,以及调用存储在存储器502内的数据,执行医学图像处理设备的各种功能和处理数据,从而对医学图像处理设备进行整体监控。在一些实施例中,处理器501可包括一个或多个处理核心;优选的,处理器501可集成应用处理器和调制解调处理器,其中,应用处理器主要处理操作系统、用户界面和应用程序等,调制解调处理器主要处理无线通信。可以理解的是,上述调制解调处理器也可以不集成到处理器501中。
存储器502可用于存储软件程序以及模块,处理器501通过运行存储在存储器502的软件程序以及模块,从而执行各种功能应用以及数据处理。存储器502可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据医学图像处理设备的使用所创建的数据等。此外,存储器502可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。相应地,存储器502还可以包括存储器控制器,以提供处理器501对存储器502的访问。
医学图像处理设备还包括给各个部件供电的电源503,优选的,电源503可以通过电源管理系统与处理器501逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。电源503还可以包括一个或一个以上的直流或交流电源、再充电系统、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。
该医学图像处理设备还可包括输入单元504,该输入单元504可用于接收输入的数字或字符信息,以及产生与用户设置以及功能控制有关的键盘、鼠标、操作杆、光学或者轨迹球信号输入。
图像采集单元505包括磁体、梯度子单元和射频子单元等。它们的主要技术性能参数是磁感应强度、磁场均匀度、磁场稳定性、边缘场的空间范围、梯度场的磁感应强度和线性度、射频线圈的灵敏度等,负责磁共振信号的产生、探测与编码,即磁共振三维图像的采集。
图像采集单元505可以在静磁场上叠加一个梯度磁场、并且可以任意改变这个梯度磁场的梯度方向,从而成功进行薄层选择激发和共振频率空间编码。如图5b,是图像采集单元505的原理示意图,图像采集单元505可以包括主磁体、射频子单元、梯度子单元等等物理部件。
其中,主磁体用以产生场强,即主磁场。其类型可分为永磁、常导和超导等等。比如,当人的身体或身体的一部分被放入主磁场中时,与人体组织水内的氢核相联系的核自旋极化。
其中,梯度子单元可以产生梯度磁场来产生核磁信回波信号,可以进行核磁信号的空间定位编码以及流动液体的流速相位编码、在DWI成像时施加扩散敏感梯度场等等。在一些实施例中,梯度子单元可以包括梯度线圈、梯度放大器、数模转换器、梯度控制器、梯度冷却器等等。
其中,射频子单元负责发射、放大、接收,来激发生命体或非生命体内氢原子核产生磁共振信号并接收。射频子单元可以包括射频发生器、射频放大器以及射频线圈。在一些实施例中,为了使得发送的射频信号均匀,医学图像处理设备的射频线圈可以选用正交线圈。在另一些实施例中,为了使得信噪比,可以选用表面线圈。在其它一些实施例中,还可以使用相控阵表面线圈以及一体化相控阵表面线圈等等。
获取生命体或非生命体磁共振三维图像的实际过程可以分为两个步骤。首先是薄层选择激发和空间编码,然后是确定编码容量内所含的有用信息。
在一些实施例中,采用最简单的成像即单个薄层成像,其步骤包括:使待研究薄层中的核选择激发,将由该薄层得到的信息进行二维编码;通过梯度斜率和射频脉冲的宽度,可以测定薄层厚度。
在一些实施例中,单个薄层中的空间编码,可以用二维高分辨频谱学来进行。某薄层中的空间编码方法为先施加相位编码梯度、然后再施加频率编码或读出梯度,施加对象为该薄层中的一系列极化自旋。
具体地,断开薄层选择梯度,并在固定时间周期t,内施加第二个正交梯度Gy。在不同频率时的核过程,即同时决定于它们相对于第二个梯度的位置。相位编码的最终结果即为沿Y方向的距离信息。在相位编码后把该梯度断开,然后施加与前二个梯度都正交的第三个梯度Gx,并且只在选定的适当时间t_x二时施加并进行编码。适当不断改变频率数值,就能够最终提供出沿X轴的空间编码。只要逐渐增加相位编码梯度的数值,这个过程就可以反复进行。
尽管未示出,医学图像处理设备还可以包括显示单元以及冷却系统等,在此不再赘述。
该医学图像处理设备具体可以包括一台或多台仪器。
在一些实施例中,该医学图像处理设备具体可以由一台仪器构成,例如核磁共振仪、核磁共振医学图像处理设备等等。比如,医用磁共振成像设备由中,处理器501、存储器502、电源503、输入单元504以及图像采集单元505嵌入在该医用磁共振成像设备中。
在另一些实施例中,该医学图像处理设备具体还可以由多台仪器构成,例如核磁共振图像采集系统。比如,在核磁共振图像采集系统中,图像采集单元505嵌入核磁共振图像采集系统的核磁共振仪床中,处理器501、存储器502、电源503以及输入单元504嵌入控制台中。
以上各个操作的具体实施可参见前面的实施例,在此不再赘述。
由上可知,本实施例的图像区域定位装置可以由处理器501获取目标部位的多个三维图像;提取多个三维图像的图像特征;然后处理器501对多个三维图像的图像特征进行融合处理,得到融合特征;处理器501根据融合特征确定三维图像中体素对应的体素类型;从三维图像中选择体素类型为乳腺肿瘤类型的目标体素,得到目标体素的位置信息;基于目标体素的位置信息定位出乳腺肿瘤区域。本方案处理器501可以提取不同模态的三维图像所提供的不同的图像特征,可以根据这些图像特征得到包含了多模态信息的融合特征,直接根据融合特征定位区域。由此,该方案可以降低误判率,从而提升病理区域定位的精确度。
本领域普通技术人员可以理解,上述实施例的各种方法中的全部或部分步骤可以通过指令来完成,或通过指令控制相关的硬件来完成,该指令可以存储于一计算机可读存储器中,并由处理器进行加载和执行。
为此,本申请实施例提供一种存储器,其中存储有多条指令,该指令能够被处理器进行加载,以执行本申请实施例所提供的任一种图像区域定位方法中的步骤。例如,该指令可以执行如下步骤:
获取目标部位的多个三维图像,其中,多个三维图像包括多个不同模态的三维图像;
提取多个三维图像的图像特征;
对多个三维图像的图像特征进行融合处理,得到融合特征;
根据融合特征确定三维图像中体素对应的体素类型;
从三维图像中选择体素类型为乳腺肿瘤类型的目标体素,得到目标体素的位置信息;
基于目标体素的位置信息定位出乳腺肿瘤区域。
其中,该存储器可以包括:只读存储器(ROM,Read Only Memory)、随机存取记忆体(RAM,Random Access Memory)、磁盘或光盘等。
由于该存储器中所存储的指令,可以执行本申请实施例所提供的任一种图像区域定位方法中的步骤,因此,可以实现本申请实施例所提供的任一种图像区域定位方法所能实现的有益效果,详见前面的实施例,在此不再赘述。
以上对本申请实施例所提供的一种图像区域定位方法、装置和医学图像处理设备进行了详细介绍,本文中应用了具体个例对本申请的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本申请的方法及其核心思想;同时,对于本领域的技术人员,依据本申请的思想,在具体实施方式及应用范围上均会有改变之处,综上,本说明书内容不应理解为对本申请的限制。

Claims (15)

1.一种图像区域定位方法,其特征在于,包括:
获取目标部位的多个三维图像,其中,所述多个三维图像包括多个不同模态的三维图像;
提取所述多个三维图像的图像特征;
对所述多个三维图像的图像特征进行融合处理,得到融合特征;
根据所述融合特征确定所述三维图像中体素对应的体素类型;
从所述三维图像中选择所述体素类型为乳腺肿瘤类型的目标体素,得到目标体素的位置信息;
基于所述目标体素的位置信息定位出乳腺肿瘤区域。
2.如权利要求1所述图像区域定位方法,其特征在于,根据所述融合特征确定所述三维图像中体素对应的体素类型,包括:
确定所述三维图像中体素对应的融合特征;
计算所述体素对应的融合特征属于各个病理类型的概率,得到所述体素属于各个病理类型的概率;
根据所述各个病理类型的概率,确定所述体素对应的体素类型。
3.如权利要求1所述图像区域定位方法,其特征在于,对所述多个三维图像的图像特征进行融合处理,包括:
获取图像特征对应的特征权重;
基于所述预设特征权重,对所述多个三维图像的图像特征进行加权处理。
4.如权利要求3所述图像区域定位方法,其特征在于,基于所述预设特征权重,对所述多个三维图像的图像特征进行加权处理,包括:
确定所述多个磁共振三维图像中相同位置的体素对应的多个图像特征;
对所述多个图像特征进行预设特征权重的加权处理,得到加权处理后的多个图像特征;
对所述加权处理后的多个图像特征进行累加操作,得到所述体素的融合特征。
5.如权利要求1所述图像区域定位方法,其特征在于,基于所述目标体素的位置信息定位出乳腺肿瘤区域,包括:
从所述多个三维图像中选取目标三维图像;
基于所述目标体素的位置信息,在所述目标三维图像上对乳腺肿瘤区域进行定位。
6.如权利要求5所述图像区域定位方法,其特征在于,基于所述目标体素的位置信息,在所述目标三维图像上对乳腺肿瘤区域进行定位,包括:
基于所述目标体素的位置信息,在所述目标三维图像上确定对应的体素,得到对应体素;
将所述对应体素的体素值设为预设数值,以标识乳腺肿瘤区域。
7.如权利要求5所述图像区域定位方法,其特征在于,基于所述目标体素的位置信息,在所述目标三维图像上对乳腺肿瘤区域进行定位,包括:
对所述所有目标体素的位置信息进行均值计算,得到乳腺肿瘤区域的中心点位置信息;
基于所述中心点位置信息,在所述目标三维图像上定位出所述乳腺肿瘤区域的中心点。
8.如权利要求1所述图像区域定位方法,其特征在于,提取所述多个三维图像的图像特征,包括:
对所述多个变换后的三维图像进行预处理操作,得到多个预处理后的三维图像;
提取所述多个预处理后的三维图像的图像特征。
9.如权利要求8所述图像区域定位方法,其特征在于,对所述多个变换后的三维图像进行预处理操作,包括:
获取参考坐标系以及多个三维图像的原坐标系;
将所述多个三维图像的原坐标系变换为所述参考坐标系。
10.如权利要求8所述图像区域定位方法,其特征在于,对所述多个变换后的三维图像进行预处理操作,包括:
获取参考体素间距以及所述多个三维图像的原体素间距;
将所述多个三维图像的原体素间距变换为所述参考体素间距。
11.如权利要求8所述图像区域定位方法,其特征在于,对所述多个变换后的三维图像进行预处理操作,包括:
获取参考尺寸大小以及所述多个三维图像的原尺寸大小;
将所述多个三维图像的原尺寸大小变换为所述参考尺寸大小。
12.一种图像区域定位装置,其特征在于,包括:
获取模块,获取目标部位的多个三维图像,其中,所述多个三维图像包括多个不同模态的三维图像;
提取模块,用于提取所述多个三维图像的图像特征;
融合模块,对所述多个三维图像的图像特征进行融合处理,得到融合特征;
分类模块,根据所述融合特征确定所述三维图像中体素对应的体素类型;
筛选模块,从所述三维图像中选择所述体素类型为乳腺肿瘤类型的目标体素,得到目标体素的位置信息;
定位模块,基于所述目标体素的位置信息定位出乳腺肿瘤区域。
13.一种医学图像处理设备,所述医学图像处理设备包括医学图像采集单元、处理器和存储器,其中:
所述医学图像采集单元用于采集生命体目标部位的多个三维图像;
所述存储器用于存储图像数据以及多条指令;
所述处理器用于读取存储器存储的多条指令,来执行以下步骤:
获取目标部位的多个三维图像,其中,所述多个三维图像包括多个不同模态的三维图像;
提取所述多个三维图像的图像特征;对所述多个三维图像的图像特征进行融合处理,得到融合特征;
根据所述融合特征确定所述三维图像中体素对应的体素类型;从所述三维图像中选择所述体素类型为乳腺肿瘤类型的目标体素,得到目标体素的位置信息;
基于所述目标体素的位置信息定位出乳腺肿瘤区域。
14.如权利要求13所述医学图像处理设备,其特征在于,当执行步骤根据所述融合特征确定所述三维图像中体素对应的体素类型时,所述处理器具体执行以下步骤:
确定所述三维图像中体素对应的融合特征;
计算所述体素对应的融合特征属于各个病理类型的概率,得到所述体素属于各个病理类型的概率;
根据所述各个病理类型的概率,确定所述体素对应的体素类型。
15.如权利要求13所述医学图像处理设备,其特征在于,当执行步骤对所述多个三维图像的图像特征进行融合处理时,所述处理器具体执行以下步骤:
获取图像特征对应的特征权重;
基于所述预设特征权重,对所述多个三维图像的图像特征进行加权处理。
CN201910684018.0A 2019-03-08 2019-03-08 图像区域定位方法、装置和医学图像处理设备 Active CN110458813B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910684018.0A CN110458813B (zh) 2019-03-08 2019-03-08 图像区域定位方法、装置和医学图像处理设备

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN201910684018.0A CN110458813B (zh) 2019-03-08 2019-03-08 图像区域定位方法、装置和医学图像处理设备
CN201910175745.4A CN109978838B (zh) 2019-03-08 2019-03-08 图像区域定位方法、装置和医学图像处理设备

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
CN201910175745.4A Division CN109978838B (zh) 2019-03-08 2019-03-08 图像区域定位方法、装置和医学图像处理设备

Publications (2)

Publication Number Publication Date
CN110458813A true CN110458813A (zh) 2019-11-15
CN110458813B CN110458813B (zh) 2021-03-02

Family

ID=67078246

Family Applications (2)

Application Number Title Priority Date Filing Date
CN201910684018.0A Active CN110458813B (zh) 2019-03-08 2019-03-08 图像区域定位方法、装置和医学图像处理设备
CN201910175745.4A Active CN109978838B (zh) 2019-03-08 2019-03-08 图像区域定位方法、装置和医学图像处理设备

Family Applications After (1)

Application Number Title Priority Date Filing Date
CN201910175745.4A Active CN109978838B (zh) 2019-03-08 2019-03-08 图像区域定位方法、装置和医学图像处理设备

Country Status (3)

Country Link
US (1) US20210225027A1 (zh)
CN (2) CN110458813B (zh)
WO (1) WO2020182033A1 (zh)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110634132A (zh) * 2019-08-30 2019-12-31 浙江大学 基于深度学习的3d ct影像自动生成肺结核量化诊断报告的方法
CN111144449A (zh) * 2019-12-10 2020-05-12 东软集团股份有限公司 图像处理方法、装置、存储介质及电子设备
CN111210423A (zh) * 2020-01-13 2020-05-29 浙江杜比医疗科技有限公司 Nir图像的乳房轮廓提取方法、系统及装置
CN111358484A (zh) * 2020-03-23 2020-07-03 广州医科大学附属第一医院(广州呼吸中心) 核医学肺灌注显像定量分析方法、分析设备及存储介质
WO2020182033A1 (zh) * 2019-03-08 2020-09-17 腾讯科技(深圳)有限公司 图像区域定位方法、装置和医学图像处理设备
CN112270749A (zh) * 2020-11-20 2021-01-26 甘州区人民医院 一种3d打印盆骨的制造方法
CN113312442A (zh) * 2021-07-30 2021-08-27 景网技术有限公司 一种智慧城市电子地图生成方法和系统
CN113763536A (zh) * 2021-09-03 2021-12-07 济南大学 一种基于rgb图像的三维重建方法
CN114494183A (zh) * 2022-01-25 2022-05-13 哈尔滨医科大学附属第一医院 一种基于人工智能的髋臼半径自动测量方法及系统
CN116863146A (zh) * 2023-06-09 2023-10-10 强联智创(北京)科技有限公司 用于对血管瘤特征进行提取的方法、设备及存储介质

Families Citing this family (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110349170B (zh) * 2019-07-13 2022-07-08 长春工业大学 一种全连接crf级联fcn和k均值脑肿瘤分割算法
CN110349151B (zh) * 2019-07-16 2021-12-03 科大讯飞华南人工智能研究院(广州)有限公司 一种目标识别方法及装置
CN110363168A (zh) * 2019-07-19 2019-10-22 山东浪潮人工智能研究院有限公司 一种基于卷积神经网络的三维立体图识别系统
CN110427954A (zh) * 2019-07-26 2019-11-08 中国科学院自动化研究所 基于肿瘤影像的多区域的影像组学特征提取方法
CN110458903B (zh) * 2019-07-29 2021-03-02 北京大学 一种编码脉冲序列的图像处理方法
CN110533639B (zh) * 2019-08-02 2022-04-15 杭州依图医疗技术有限公司 一种关键点定位方法及装置
CN111047605B (zh) * 2019-12-05 2023-04-07 西北大学 一种脊椎ct分割网络模型的构建方法及分割方法
CN111068313B (zh) * 2019-12-05 2021-02-19 腾讯科技(深圳)有限公司 一种应用中的场景更新控制方法、装置及存储介质
US11817204B2 (en) * 2019-12-09 2023-11-14 Case Western Reserve University Specialized computer-aided diagnosis and disease characterization with a multi-focal ensemble of convolutional neural networks
CN113327190A (zh) 2020-02-28 2021-08-31 阿里巴巴集团控股有限公司 图像、数据处理的方法和装置
CN111325743A (zh) * 2020-03-05 2020-06-23 北京深睿博联科技有限责任公司 基于联合征象的乳腺x射线影像分析方法和装置
CN111340139B (zh) * 2020-03-27 2024-03-05 中国科学院微电子研究所 一种图像内容复杂度的判别方法及装置
CN112330674B (zh) * 2020-05-07 2023-06-30 南京信息工程大学 一种基于脑部mri三维图像置信度的自适应变尺度卷积核方法
CN111568422B (zh) * 2020-05-20 2023-12-01 科大讯飞股份有限公司 影像质量评估方法、指标间关系的获取方法及相关设备
CN112815493A (zh) * 2021-01-11 2021-05-18 珠海格力电器股份有限公司 一种空调控制方法、装置、存储介质及空调
CN112767415A (zh) * 2021-01-13 2021-05-07 深圳瀚维智能医疗科技有限公司 胸部扫查区域自动确定方法、装置、设备及存储介质
CN112862786B (zh) * 2021-02-10 2022-08-05 昆明同心医联科技有限公司 Cta影像数据处理方法、装置及存储介质
CN113033398B (zh) * 2021-03-25 2022-02-11 深圳市康冠商用科技有限公司 一种手势识别方法、装置、计算机设备及存储介质
CN113066081B (zh) * 2021-04-15 2023-07-18 哈尔滨理工大学 一种基于三维mri图像的乳腺肿瘤分子亚型检测方法
CN113192031B (zh) * 2021-04-29 2023-05-30 上海联影医疗科技股份有限公司 血管分析方法、装置、计算机设备和存储介质
CN113298907B (zh) * 2021-06-22 2022-09-13 上饶师范学院 一种基于伽马核范数和总变分的核磁图像重建方法
CN113256614B (zh) * 2021-06-22 2021-10-01 国家超级计算天津中心 一种医学影像处理系统
CN113838132B (zh) * 2021-09-22 2023-08-04 中国计量大学 一种基于卷积神经网络的单分子定位方法
CN114299009A (zh) * 2021-12-27 2022-04-08 杭州佳量医疗科技有限公司 基于医学图像的消融区域确定方法、设备及存储介质
CN114565815B (zh) * 2022-02-25 2023-11-03 包头市迪迦科技有限公司 一种基于三维模型的视频智能融合方法及系统
CN115474992A (zh) * 2022-09-21 2022-12-16 数坤(上海)医疗科技有限公司 进针位置确定方法、装置、电子设备及可读存储介质
CN115294160B (zh) * 2022-10-08 2022-12-16 长春理工大学 面向脊柱影像的轻量化分割网络及其构建方法和应用
CN115375712B (zh) * 2022-10-25 2023-03-17 西南科技大学 一种基于双边学习分支实现实用的肺部病变分割方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104574334A (zh) * 2015-01-12 2015-04-29 北京航空航天大学 一种利用模糊度量和形态学交替算子的红外与可见光图像融合方法
CN105512661A (zh) * 2015-11-25 2016-04-20 中国人民解放军信息工程大学 一种基于多模态特征融合的遥感影像分类方法
CN106909778A (zh) * 2017-02-09 2017-06-30 北京市计算中心 一种基于深度学习的多模态医学影像识别方法及装置
CN106960221A (zh) * 2017-03-14 2017-07-18 哈尔滨工业大学深圳研究生院 一种基于光谱特征和空间特征融合的高光谱图像分类方法及系统
CN108062753A (zh) * 2017-12-29 2018-05-22 重庆理工大学 基于深度对抗学习的无监督域自适应脑肿瘤语义分割方法
US20180235577A1 (en) * 2014-06-12 2018-08-23 Koninklijke Philips N.V. Medical image processing device and method

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006114003A1 (en) * 2005-04-27 2006-11-02 The Governors Of The University Of Alberta A method and system for automatic detection and segmentation of tumors and associated edema (swelling) in magnetic resonance (mri) images
US10140708B2 (en) * 2016-01-21 2018-11-27 Riverside Research Institute Method for gestational age estimation and embryonic mutant detection
US10152821B2 (en) * 2016-08-19 2018-12-11 Siemens Healthcare Gmbh Segmented volume rendering with color bleeding prevention
US11361868B2 (en) * 2017-08-16 2022-06-14 The Johns Hopkins University Abnormal tissue detection via modal upstream data fusion
CN109377496B (zh) * 2017-10-30 2020-10-02 北京昆仑医云科技有限公司 用于分割医学图像的系统和方法及介质
CN107945168B (zh) * 2017-11-30 2021-12-10 上海联影医疗科技股份有限公司 一种医学图像的处理方法及医学图像处理系统
CN109166157B (zh) * 2018-07-05 2021-05-18 重庆邮电大学 一种三维mri脑部医学影像彩色化方法
CN109035261B (zh) * 2018-08-09 2023-01-10 北京市商汤科技开发有限公司 医疗影像处理方法及装置、电子设备及存储介质
CN109410185B (zh) * 2018-10-10 2019-10-25 腾讯科技(深圳)有限公司 一种图像分割方法、装置和存储介质
CN110458813B (zh) * 2019-03-08 2021-03-02 腾讯科技(深圳)有限公司 图像区域定位方法、装置和医学图像处理设备

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180235577A1 (en) * 2014-06-12 2018-08-23 Koninklijke Philips N.V. Medical image processing device and method
CN104574334A (zh) * 2015-01-12 2015-04-29 北京航空航天大学 一种利用模糊度量和形态学交替算子的红外与可见光图像融合方法
CN105512661A (zh) * 2015-11-25 2016-04-20 中国人民解放军信息工程大学 一种基于多模态特征融合的遥感影像分类方法
CN106909778A (zh) * 2017-02-09 2017-06-30 北京市计算中心 一种基于深度学习的多模态医学影像识别方法及装置
CN106960221A (zh) * 2017-03-14 2017-07-18 哈尔滨工业大学深圳研究生院 一种基于光谱特征和空间特征融合的高光谱图像分类方法及系统
CN108062753A (zh) * 2017-12-29 2018-05-22 重庆理工大学 基于深度对抗学习的无监督域自适应脑肿瘤语义分割方法

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020182033A1 (zh) * 2019-03-08 2020-09-17 腾讯科技(深圳)有限公司 图像区域定位方法、装置和医学图像处理设备
CN110634132A (zh) * 2019-08-30 2019-12-31 浙江大学 基于深度学习的3d ct影像自动生成肺结核量化诊断报告的方法
CN111144449A (zh) * 2019-12-10 2020-05-12 东软集团股份有限公司 图像处理方法、装置、存储介质及电子设备
CN111144449B (zh) * 2019-12-10 2024-01-19 东软集团股份有限公司 图像处理方法、装置、存储介质及电子设备
CN111210423B (zh) * 2020-01-13 2023-04-07 浙江杜比医疗科技有限公司 Nir图像的乳房轮廓提取方法、系统及装置
CN111210423A (zh) * 2020-01-13 2020-05-29 浙江杜比医疗科技有限公司 Nir图像的乳房轮廓提取方法、系统及装置
CN111358484B (zh) * 2020-03-23 2021-12-24 广州医科大学附属第一医院(广州呼吸中心) 核医学肺灌注显像定量分析方法、分析设备及存储介质
CN111358484A (zh) * 2020-03-23 2020-07-03 广州医科大学附属第一医院(广州呼吸中心) 核医学肺灌注显像定量分析方法、分析设备及存储介质
CN112270749A (zh) * 2020-11-20 2021-01-26 甘州区人民医院 一种3d打印盆骨的制造方法
CN112270749B (zh) * 2020-11-20 2022-08-12 甘州区人民医院 一种3d打印盆骨的制造方法
CN113312442A (zh) * 2021-07-30 2021-08-27 景网技术有限公司 一种智慧城市电子地图生成方法和系统
CN113312442B (zh) * 2021-07-30 2021-11-09 景网技术有限公司 一种智慧城市电子地图生成方法和系统
CN113763536A (zh) * 2021-09-03 2021-12-07 济南大学 一种基于rgb图像的三维重建方法
CN114494183A (zh) * 2022-01-25 2022-05-13 哈尔滨医科大学附属第一医院 一种基于人工智能的髋臼半径自动测量方法及系统
CN114494183B (zh) * 2022-01-25 2024-04-02 哈尔滨医科大学附属第一医院 一种基于人工智能的髋臼半径自动测量方法及系统
CN116863146A (zh) * 2023-06-09 2023-10-10 强联智创(北京)科技有限公司 用于对血管瘤特征进行提取的方法、设备及存储介质
CN116863146B (zh) * 2023-06-09 2024-03-08 强联智创(北京)科技有限公司 用于对血管瘤特征进行提取的方法、设备及存储介质

Also Published As

Publication number Publication date
CN109978838B (zh) 2021-11-30
CN110458813B (zh) 2021-03-02
CN109978838A (zh) 2019-07-05
US20210225027A1 (en) 2021-07-22
WO2020182033A1 (zh) 2020-09-17

Similar Documents

Publication Publication Date Title
CN110458813A (zh) 图像区域定位方法、装置和医学图像处理设备
Zhang et al. ME‐Net: multi‐encoder net framework for brain tumor segmentation
Hou et al. Sparse autoencoder for unsupervised nucleus detection and representation in histopathology images
Birenbaum et al. Longitudinal multiple sclerosis lesion segmentation using multi-view convolutional neural networks
Wang et al. Pathological brain detection via wavelet packet tsallis entropy and real-coded biogeography-based optimization
CN109872306A (zh) 医学图像分割方法、装置和存储介质
Men et al. Cascaded atrous convolution and spatial pyramid pooling for more accurate tumor target segmentation for rectal cancer radiotherapy
EP3703007B1 (en) Tumor tissue characterization using multi-parametric magnetic resonance imaging
Long et al. Probability-based Mask R-CNN for pulmonary embolism detection
Niyaz et al. Advances in deep learning techniques for medical image analysis
He et al. MetricUNet: Synergistic image-and voxel-level learning for precise prostate segmentation via online sampling
CN109903269A (zh) 确定脊柱横断面图像的异常类型的方法及计算设备
Feng et al. Convolutional neural network‐based pelvic floor structure segmentation using magnetic resonance imaging in pelvic organ prolapse
Nemoto et al. Effects of sample size and data augmentation on U-Net-based automatic segmentation of various organs
Bai et al. Body region localization in whole‐body low‐dose CT images of PET/CT scans using virtual landmarks
Liang et al. Dense networks with relative location awareness for thorax disease identification
Zabihollahy et al. Fully automated segmentation of left ventricular myocardium from 3D late gadolinium enhancement magnetic resonance images using a U-net convolutional neural network-based model
Wang et al. Deep transfer learning-based multi-modal digital twins for enhancement and diagnostic analysis of brain mri image
Qian et al. 3D automatic segmentation of brain tumor based on deep neural network and multimodal MRI images
Jin et al. Automatic cervical cancer segmentation in multimodal magnetic resonance imaging using an EfficientNet encoder in UNet++ architecture
CN116797519A (zh) 脑胶质瘤分割和三维可视化模型训练方法及系统
CN115861248A (zh) 医学图像分割方法、医学模型训练方法、装置和存储介质
Avola et al. Customized first and second order statistics based operators to support advanced texture analysis of MRI images
Sharan et al. Cascaded model (conventional+ deep learning) for weakly supervised segmentation of left ventricle in cardiac magnetic resonance images
Santhirasekaram et al. Multi-scale Hybrid Transformer Networks: Application to Prostate Disease Classification

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant