CN110491480A - 一种医疗图像处理方法、装置、电子医疗设备和存储介质 - Google Patents

一种医疗图像处理方法、装置、电子医疗设备和存储介质 Download PDF

Info

Publication number
CN110491480A
CN110491480A CN201910718873.9A CN201910718873A CN110491480A CN 110491480 A CN110491480 A CN 110491480A CN 201910718873 A CN201910718873 A CN 201910718873A CN 110491480 A CN110491480 A CN 110491480A
Authority
CN
China
Prior art keywords
image
lesion
biological tissue
region
quadrant
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910718873.9A
Other languages
English (en)
Other versions
CN110491480B (zh
Inventor
田宽
江铖
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tencent Technology Shenzhen Co Ltd
Original Assignee
Tencent Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tencent Technology Shenzhen Co Ltd filed Critical Tencent Technology Shenzhen Co Ltd
Priority to CN201910718873.9A priority Critical patent/CN110491480B/zh
Publication of CN110491480A publication Critical patent/CN110491480A/zh
Application granted granted Critical
Publication of CN110491480B publication Critical patent/CN110491480B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/20ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/047Probabilistic or stochastic networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/084Backpropagation, e.g. using gradient descent
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • G06T7/0014Biomedical image inspection using an image reference approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • G06T7/62Analysis of geometric attributes of area, perimeter, diameter or volume
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/17Image acquisition using hand-held instruments
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/25Determination of region of interest [ROI] or a volume of interest [VOI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/26Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/26Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
    • G06V10/267Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion by performing operations on regions, e.g. growing, shrinking or watersheds
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/19Recognition using electronic means
    • G06V30/191Design or setup of recognition systems or techniques; Extraction of features in feature space; Clustering techniques; Blind source separation
    • G06V30/19147Obtaining sets of training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/19Recognition using electronic means
    • G06V30/191Design or setup of recognition systems or techniques; Extraction of features in feature space; Clustering techniques; Blind source separation
    • G06V30/19153Design or setup of recognition systems or techniques; Extraction of features in feature space; Clustering techniques; Blind source separation using rules for classification or partitioning the feature space
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/19Recognition using electronic means
    • G06V30/191Design or setup of recognition systems or techniques; Extraction of features in feature space; Clustering techniques; Blind source separation
    • G06V30/19173Classification techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/26Techniques for post-processing, e.g. correcting the recognition result
    • G06V30/262Techniques for post-processing, e.g. correcting the recognition result using context analysis, e.g. lexical, syntactic or semantic context
    • G06V30/274Syntactic or semantic context, e.g. balancing
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/20ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/70ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for mining of medical data, e.g. analysing previous cases of other patients
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10116X-ray image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20021Dividing image into blocks, subimages or windows
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30068Mammography; Breast
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30096Tumor; Lesion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/03Recognition of patterns in medical or anatomical images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/03Recognition of patterns in medical or anatomical images
    • G06V2201/032Recognition of patterns in medical or anatomical images of protuberances, polyps nodules, etc.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Medical Informatics (AREA)
  • General Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • Public Health (AREA)
  • Evolutionary Computation (AREA)
  • Biomedical Technology (AREA)
  • Primary Health Care (AREA)
  • Epidemiology (AREA)
  • Artificial Intelligence (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Databases & Information Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Computational Linguistics (AREA)
  • Mathematical Physics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Pathology (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Quality & Reliability (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Geometry (AREA)
  • Probability & Statistics with Applications (AREA)
  • Apparatus For Radiation Diagnosis (AREA)
  • Image Analysis (AREA)

Abstract

本发明实施例公开了一种医疗图像处理方法、装置、电子医疗设备和存储介质,本发明属于人工智能医疗领域,方法包括:获取包含生物组织的生物组织图像,识别生物组织中的病灶对象在生物组织图像中的第一区域,并识别与病灶对象匹配的病灶属性;将生物组织在生物组织图像中的图像区域,划分为多个象限位置区域;获取第一区域所在的象限位置区域的目标象限位置信息,根据目标象限位置信息和病灶属性生成医疗业务数据。采用本发明,可以提高识别病灶类别以及识别病灶象限位置信息的效率。

Description

一种医疗图像处理方法、装置、电子医疗设备和存储介质
技术领域
本发明涉及计算机技术领域,尤其涉及一种医疗图像处理方法、装置、电子医疗设备和存储介质。
背景技术
乳腺癌是常见的恶性疾病之一,近年来,女性乳腺癌的发病率越来越高,数据统计,全球每年新增乳腺癌患者高达120万,排名女性恶性肿瘤发病率第一位。乳腺影像学检测是乳腺癌诊断的重要手段,目前常用的乳腺检查的方法有:钼靶成像,B超检测,核磁共振成像,其中钼靶成像是最常用的方法,因此基于钼靶乳腺图像进行医疗诊断具有重要的医疗意义。
现有技术下,诊断钼靶乳腺图像主要是通过专业医务人员的人工诊断,专业医务人员通过自身经验,对钼靶乳腺图像中的病灶进行病灶类别以及病灶位置的判断,以生成诊断结果,后续在诊断结果的基础上,确定治疗方案。
由于专业医务人员对钼靶乳腺图像的人工诊断需要耗费大量的时间,造成对钼靶乳腺图像的诊断效率低下。
发明内容
本发明实施例提供一种医疗图像处理方法、装置、电子医疗设备和存储介质,可以提高识别病灶类别以及识别病灶象限位置信息的效率。
本发明实施例一方面提供了一种医疗图像处理方法,包括:
获取包含生物组织的生物组织图像,识别所述生物组织中的病灶对象在所述生物组织图像中的第一区域,并识别与所述病灶对象匹配的病灶属性;
将所述生物组织在所述生物组织图像中的图像区域,划分为多个象限位置区域;
获取所述第一区域所在的象限位置区域的目标象限位置信息,根据所述目标象限位置信息和所述病灶属性生成医疗业务数据。
其中,所述生物组织包括第一组织对象;
所述将所述生物组织在所述生物组织图像中的图像区域,划分为多个象限位置区域,包括:
识别所述第一组织对象在所述生物组织图像中的第二区域;
根据所述第二区域在所述生物组织图像中确定象限分割线;
将所述生物组织在所述生物组织图像中的图像区域作为组织图像区域,并根据所述象限分割线,将所述组织图像区域划分为所述多个象限位置区域。
其中,所述生物组织图像包括第一生物组织图像和第二生物组织图像;所述第一生物组织图像和所述第二生物组织图像是对所述生物组织在不同方向上的成像;
所述识别所述第一组织对象在所述生物组织图像中的第二区域,包括:
获取图像语义分割模型,基于所述图像语义分割模型确定所述第一组织对象在所述第一生物组织图像中的第一组织标识区域;
基于所述图像语义分割模型确定所述第一组织对象在所述第二生物组织图像中的第二组织标识区域;
将所述第一组织标识区域和所述第二组织标识区域确定为所述第二区域。
其中,所述基于所述图像语义分割模型确定所述第一组织对象在所述第一生物组织图像中的第一组织标识区域,包括:
基于所述图像语义分割模型中的正向卷积层和转置卷积层,对所述第一生物组织图像进行正向卷积和反向卷积,得到卷积特征图;
根据所述卷积特征图,确定所述第一生物组织图像中每个像素点的对象属性;所述对象属性包括第一组织属性;
将属于所述第一组织属性的像素点组成的图像区域,作为所述第一组织对象在所述第一生物组织图像中的第一组织标识区域。
其中,所述象限分割线包括与所述第一生物组织图像对应的第一分割线以及与所述第二生物组织图像对应的第二分割线;对象属性还包括第二组织属性;
所述根据所述第二区域在所述生物组织图像中确定象限分割线,包括:
获取所述生物组织在所述第一生物组织图像中的边缘分界线,根据所述第一组织标识区域和所述边缘分界线,在所述第一生物组织图像中确定所述第一分割线;
将属于所述第二组织属性的像素点组成的图像区域,作为所述第二生物组织图像中的第二组织对象在所述第二生物组织图像中的对象区域;
确定所述对象区域的对象分界线,根据所述第二组织标识区域和所述对象分界线,在所述第二生物组织图像中确定所述第二分割线。
其中,所述第一生物组织图像是在头尾位方向上的成像;所述第二生物组织图像是斜侧位方向上的成像;
所述将所述生物组织在所述生物组织图像中的图像区域作为组织图像区域,并根据所述象限分割线,将所述组织图像区域划分为所述多个象限位置区域,包括:
将所述生物组织在第一生物组织图像中的图像区域作为第一组织图像区域,在所述第一生物组织图像中,根据第一分割线将所述第一组织图像区域划分为内象限位置区域和外象限位置区域;
将所述生物组织在第二生物组织图像中的图像区域作为第二组织图像区域,在所述第二生物组织图像中,根据第二分割线将所述第二组织图像区域划分为上象限位置区域和下象限位置区域;
将所述内象限位置区域、所述外象限位置区域、所述上象限位置区域和所述下象限位置区域确定为所述象限位置区域。
其中,所述第一区域包括所述病灶对象在第一生物组织图像中的第一病灶区域和所述病灶对象在第二生物组织图像中的第二病灶区域;所述生物组织图像包括所述第一生物组织图像和所述第二生物组织图像;
所述根据所述目标象限位置信息和所述病灶属性生成医疗业务数据,包括:
从所述第一生物组织图像中提取与所述第一病灶区域对应的第一子图像;
从所述第二生物组织图像中提取与所述第二病灶区域对应的第二子图像;
获取目标匹配模型,基于所述目标匹配模型识别所述第一子图像和所述第二子图像之间的模型匹配概率;
获取所述第一病灶区域和所述第二病灶区域之间的条件匹配概率,当所述模型匹配概率和所述条件匹配概率满足病灶匹配条件时,将所述目标象限位置信息和所述病灶属性组合为所述医疗业务数据。
其中,所述获取所述第一病灶区域和所述第二病灶区域之间的条件匹配概率,包括:
确定所述第一病灶区域在所述第一生物组织图像中的第一区域尺寸,并确定所述第二病灶区域在所述第二生物组织图像中的第一区域尺寸,根据所述第一区域尺寸和所述第二区域尺寸生成尺寸匹配概率;
确定所述第一病灶区域与所述第一生物组织图像中的第一组织对象对应的图像区域之间的第一区域距离,并确定所述第二病灶区域与所述第二生物组织图像中的第一组织对象对应的图像区域之间的第二区域距离;
根据所述第一区域距离和所述第二区域距离生成距离匹配概率;
将所述尺寸匹配概率和所述距离匹配概率确定为所述条件匹配概率。
其中,所述生物组织图像中的病灶对象的数量为多个;所述模型匹配概率包括所述多个病灶对象的第一子图像和所述多个病灶对象的第二子图像之间的单位模型匹配概率;所述条件匹配概率包括所述多个病灶对象的第一病灶区域和所述多个病灶对象的第二病灶区域之间的单位条件匹配概率;
所述当所述模型匹配概率和所述条件匹配概率满足病灶匹配条件时,将所述目标象限位置信息和所述病灶属性组合为所述医疗业务数据,包括:
从所述多个单位模型匹配概率和所述多个单位条件匹配概率中,选择满足所述病灶匹配条件的匹配概率对,作为目标匹配概率对;所述目标匹配概率对包括一个单位模型匹配概率和一个单位条件匹配概率;
当所述目标匹配概率对中的单位模型匹配概率和单位条件匹配概率满足所述病灶匹配条件时,将所述目标概率匹配对的病灶对象作为目标病灶对象,并将所述目标病灶对象的目标象限位置信息和所述目标病灶对象的病灶属性,组合为所述医疗业务数据。
其中,还包括:
获取正样本图像和负样本图像;所述正样本图像包括第一正样本图像和第二正样本图像;所述第一正样本图像和所述第二正样本图像对应相同病灶对象;所述负样本图像包括第一负样本图像和第二负样本图像;所述第一负样本图像和所述第二负样本图像对应不同病灶对象;
获取样本匹配模型,基于所述样本匹配模型,识别所述第一正样本图像和所述第二正样本图像之间的正样本预测概率,获取所述第一正样本图像和所述第二正样本图像之间的正样本概率,并确定所述正样本预测概率与所述正样本概率之间的正样本误差;
基于所述样本匹配模型,识别所述第一负样本图像和所述第二负样本图像之间的负样本预测概率,获取所述第一负样本图像和所述第二负样本图像之间的负样本概率,并确定所述负样本预测概率与所述负样本概率之间的负样本误差;
根据所述正样本误差和所述负样本误差调整所述样本匹配模型;
当调整后的样本匹配模型满足收敛条件时,将调整后的样本匹配模型确定为所述目标匹配模型。
其中,所述获取样本匹配模型,包括:
获取原始匹配模型;所述原始匹配模型是根据非生物组织图像训练得到的;
从所述原始匹配模型所包含的模型参数中,提取目标模型参数,基于迁移学习和所述目标模型参数生成所述样本匹配模型。
本发明实施例另一方面提供了一种医疗图像处理装置,包括:
图像获取模块,用于获取包含生物组织的生物组织图像,识别所述生物组织中的病灶对象在所述生物组织图像中的第一区域,并识别与所述病灶对象匹配的病灶属性;
划分模块,用于将所述生物组织在所述生物组织图像中的图像区域,划分为多个象限位置区域;
所述图像获取模块,还用于获取所述第一区域所在的象限位置区域的目标象限位置信息;
生成模块,用于根据所述目标象限位置信息和所述病灶属性生成医疗业务数据。
其中,所述生物组织包括第一组织对象;
所述划分模块,包括:
识别单元,用于识别所述第一组织对象在所述生物组织图像中的第二区域;
象限确定单元,用于根据所述第二区域在所述生物组织图像中确定象限分割线;
划分单元,用于将所述生物组织在所述生物组织图像中的图像区域作为组织图像区域,并根据所述象限分割线,将所述组织图像区域划分为所述多个象限位置区域。
其中,所述生物组织图像包括第一生物组织图像和第二生物组织图像;所述第一生物组织图像和所述第二生物组织图像是对所述生物组织在不同方向上的成像;
所述识别单元,包括:
获取子单元,用于获取图像语义分割模型;
第一识别子单元,用于基于所述图像语义分割模型确定所述第一组织对象在所述第一生物组织图像中的第一组织标识区域;
第二识别子单元,用于基于所述图像语义分割模型确定所述第一组织对象在所述第二生物组织图像中的第二组织标识区域;
所述第二识别子单元,还用于将所述第一组织标识区域和所述第二组织标识区域确定为所述第二区域。
其中,所述第一识别子单元,包括:
卷积子单元,用于基于所述图像语义分割模型中的正向卷积层和转置卷积层,对所述第一生物组织图像进行正向卷积和反向卷积,得到卷积特征图;
属性确定子单元,用于根据所述卷积特征图,确定所述第一生物组织图像中每个像素点的对象属性;所述对象属性包括第一组织属性;
所述属性确定子单元,还用于将属于所述第一组织属性的像素点组成的图像区域,作为所述第一组织对象在所述第一生物组织图像中的第一组织标识区域。
其中,所述象限分割线包括与所述第一生物组织图像对应的第一分割线以及与所述第二生物组织图像对应的第二分割线;对象属性还包括第二组织属性;
所述象限确定单元,包括:
象限确定子单元,用于获取所述生物组织在所述第一生物组织图像中的边缘分界线,根据所述第一组织标识区域和所述边缘分界线,在所述第一生物组织图像中确定所述第一分割线;
区域确定子单元,用于将属于所述第二组织属性的像素点组成的图像区域,作为所述第二生物组织图像中的第二组织对象在所述第二生物组织图像中的对象区域;
所述区域确定子单元,还用于确定所述对象区域的对象分界线,根据所述第二组织标识区域和所述对象分界线,在所述第二生物组织图像中确定所述第二分割线。
其中,所述第一生物组织图像是在头尾位方向上的成像;所述第二生物组织图像是斜侧位方向上的成像;
所述划分单元,包括:
第一划分子单元,用于将所述生物组织在第一生物组织图像中的图像区域作为第一组织图像区域,在所述第一生物组织图像中,根据第一分割线将所述第一组织图像区域划分为内象限位置区域和外象限位置区域;
第二划分子单元,用于将所述生物组织在第二生物组织图像中的图像区域作为第二组织图像区域,在所述第二生物组织图像中,根据第二分割线将所述第二组织图像区域划分为上象限位置区域和下象限位置区域;
所述第二划分子单元,还用于将所述内象限位置区域、所述外象限位置区域、所述上象限位置区域和所述下象限位置区域确定为所述象限位置区域。
其中,所述第一区域包括所述病灶对象在第一生物组织图像中的第一病灶区域和所述病灶对象在第二生物组织图像中的第二病灶区域;所述生物组织图像包括所述第一生物组织图像和所述第二生物组织图像;
所述生成模块,包括:
提取单元,用于从所述第一生物组织图像中提取与所述第一病灶区域对应的第一子图像;
所述提取单元,还用于从所述第二生物组织图像中提取与所述第二病灶区域对应的第二子图像;
所述提取单元,还用于获取目标匹配模型,基于所述目标匹配模型识别所述第一子图像和所述第二子图像之间的模型匹配概率;
概率获取单元,用于获取所述第一病灶区域和所述第二病灶区域之间的条件匹配概率;
组合单元,用于当所述模型匹配概率和所述条件匹配概率满足病灶匹配条件时,将所述目标象限位置信息和所述病灶属性组合为所述医疗业务数据。
其中,所述概率获取单元,包括:
尺寸确定子单元,用于确定所述第一病灶区域在所述第一生物组织图像中的第一区域尺寸,并确定所述第二病灶区域在所述第二生物组织图像中的第一区域尺寸,根据所述第一区域尺寸和所述第二区域尺寸生成尺寸匹配概率;
距离确定子单元,用于确定所述第一病灶区域与所述第一生物组织图像中的第一组织对象对应的图像区域之间的第一区域距离,并确定所述第二病灶区域与所述第二生物组织图像中的第一组织对象对应的图像区域之间的第二区域距离;
所述距离确定子单元,还用于根据所述第一区域距离和所述第二区域距离生成距离匹配概率;
所述距离确定子单元,还用于将所述尺寸匹配概率和所述距离匹配概率确定为所述条件匹配概率。
其中,所述生物组织图像中的病灶对象的数量为多个;所述模型匹配概率包括所述多个病灶对象的第一子图像和所述多个病灶对象的第二子图像之间的单位模型匹配概率;所述条件匹配概率包括所述多个病灶对象的第一病灶区域和所述多个病灶对象的第二病灶区域之间的单位条件匹配概率;
所述组合单元,包括:
选择子单元,用于从所述多个单位模型匹配概率和所述多个单位条件匹配概率中,选择满足所述病灶匹配条件的匹配概率对,作为目标匹配概率对;所述目标匹配概率对包括一个单位模型匹配概率和一个单位条件匹配概率;
组合子单元,用于当所述目标匹配概率对中的单位模型匹配概率和单位条件匹配概率满足所述病灶匹配条件时,将所述目标概率匹配对的病灶对象作为目标病灶对象,并将所述目标病灶对象的目标象限位置信息和所述目标病灶对象的病灶属性,组合为所述医疗业务数据。
其中,还包括:
识别模块,用于获取正样本图像和负样本图像;所述正样本图像包括第一正样本图像和第二正样本图像;所述第一正样本图像和所述第二正样本图像对应相同病灶对象;所述负样本图像包括第一负样本图像和第二负样本图像;所述第一负样本图像和所述第二负样本图像对应不同病灶对象;
模型获取模块,用于获取样本匹配模型;
所述识别模块,还用于基于所述样本匹配模型,识别所述第一正样本图像和所述第二正样本图像之间的正样本预测概率,获取所述第一正样本图像和所述第二正样本图像之间的正样本概率,并确定所述正样本预测概率与所述正样本概率之间的正样本误差;
所述识别模块,还用于基于所述样本匹配模型,识别所述第一负样本图像和所述第二负样本图像之间的负样本预测概率,获取所述第一负样本图像和所述第二负样本图像之间的负样本概率,并确定所述负样本预测概率与所述负样本概率之间的负样本误差;
所述识别模块,还用于根据所述正样本误差和所述负样本误差调整所述样本匹配模型;
所述识别模块,还用于当调整后的样本匹配模型满足收敛条件时,将调整后的样本匹配模型确定为所述目标匹配模型。
其中,所述模型获取模块,包括:
模型获取单元,用于获取原始匹配模型;所述原始匹配模型是根据非生物组织图像训练得到的;
生成单元,用于从所述原始匹配模型所包含的模型参数中,提取目标模型参数,基于迁移学习和所述目标模型参数生成所述样本匹配模型。
本发明实施例另一方面提供了一种电子医疗设备,包括生物组织图像采集器和生物组织图像分析器;
所述生物组织图像采集器获取包含生物组织的生物组织图像;
所述生物组织图像分析器识别所述生物组织中的病灶对象在所述生物组织图像中的第一区域,并识别与所述病灶对象匹配的病灶属性;
所述生物组织图像分析器将所述生物组织在所述生物组织图像中的图像区域,划分为多个象限位置区域;
所述生物组织图像分析器获取所述第一区域所在的象限位置区域的目标象限位置信息,根据所述目标象限位置信息和所述病灶属性生成医疗业务数据。
本发明实施例另一方面提供了一种电子设备,包括:处理器和存储器;
所述处理器和存储器相连,其中,所述存储器用于存储程序程序,所述处理器用于调用所述程序程序,以执行如本发明实施例中一方面中的方法。
本发明实施例另一方面提供了一种计算机存储介质,所述计算机存储介质存储有计算机程序,所述计算机程序包括程序指令,所述程序指令当被处理器执行时,执行如本发明实施例中一方面中的方法。
本发明实施例通过识别病灶对象在生物组织图像中的第一区域,以及识别病灶所属的病灶属性;将生物组织在生物组织图像中的图像区域,划分为多个象限位置区域,确定第一区域所在象限位置区域的象限位置信息,根据确定的象限位置信息以及识别到的病灶属性生成医疗业务数据。上述可知,通过自动化的方式识别医学图像中病灶的类别以及病灶的象限位置信息,进而自动生成业务数据,相比人工诊断,可以节约确定病灶类别以及病灶象限位置信息的耗时,提高确定病灶类别以及确定病灶象限位置信息的效率。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例提供的一种医疗图像处理的系统架构图;
图2a-图2b是本发明实施例提供的一种医疗图像处理的场景示意图;
图3是本发明实施例提供的一种医疗图像处理方法的流程示意图;
图4是本发明实施例提供的一种确定多个象限位置区域的流程示意图;
图5是本发明实施例提供的一种生成医疗业务数据的流程示意图;
图6是本发明实施例提供的一种医疗图像处理的功能模块示意图;
图7a是本发明实施例提供的一种确定医疗业务数据的示意图;
图7b是本发明实施例提供的一种电子医疗设备的结构示意图;
图8是本发明实施例提供的一种医疗图像处理装置的结构示意图;
图9是本发明实施例提供的一种电子设备的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
人工智能(Artificial Intelligence,AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。换句话说,人工智能是计算机科学的一个综合技术,它企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法,使机器具有感知、推理与决策的功能。
人工智能技术是一门综合学科,涉及领域广泛,既有硬件层面的技术也有软件层面的技术。人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、语音处理技术、自然语言处理技术以及机器学习等几大方向。
随着人工智能技术研究和进步,人工智能技术在多个领域展开研究和应用,例如常见的智能家居、智能穿戴设备、虚拟助理、智能音箱、智能营销、无人驾驶、自动驾驶、无人机、机器人、智能医疗、智能客服等,相信随着技术的发展,人工智能技术将在更多的领域得到应用,并发挥越来越重要的价值。
人工智能在医疗领域中的应用包括医学影像、临床决策支持、语音识别、药物挖掘、健康管理、病理学等众多领域,本申请实施例提供的方案属于人工智能医疗领域中的临床决策支持,具体涉及人工智能软件技术中的机器学习(Machine learning,ML)中的迁移学习(transfer learning),人工神经网络(artificial neural network)等,具体通过如下实施例进行说明:
请参见图1,是本发明实施例提供的一种医疗图像处理的系统架构图。服务器10f通过交换机10e和通信总线10d与用户终端集群建立连接,用户终端集群可以包括:用户终端10a、用户终端10b、...、用户终端10c。
以用户终端10a为例,当用户终端10a接收到包含病灶的医疗图像时,将上述医疗图像通过交换机10e和通信总线10d至发送服务器10f。服务器10f可以识别病灶所属的类别以及病灶在医疗图像中的象限位置信息,并根据识别到的结果生成医疗业务数据。服务器可以将医疗业务数据发送至用户终端10a,后续用户终端10a可以在屏幕上显示该医疗业务数据。
当然,也可以由用户终端10a识别病灶所属的类别以及病灶在医疗图像中的象限位置信息,进而生成医疗业务数据,同样地用户终端10a可以在屏幕上显示该医疗业务数据。
下述以用户终端10a如何识别病灶所述的类别以及识别病灶在医疗图像中的象限位置信息为例进行具体的说明。
其中,图1所示的用户终端10a、用户终端10b、用户终端10c等可以包括手机、平板电脑、笔记本电脑、掌上电脑、移动互联网设备(MID,mobile internet device)、可穿戴设备(例如智能手表、智能手环等)等。
请参见图2a-图2b,是本发明实施例提供的一种医疗图像处理的场景示意图。如图2a中的界面20a所示,用户终端10a获取同一个患者的同一侧乳腺钼靶图像,并将获取到的乳腺钼靶图像显示在屏幕上,其中乳腺钼靶图像包括:乳腺钼靶CC位图像20b,以及乳腺钼靶MLO位图像20c,乳腺钼靶CC位图像是按照头尾位对乳腺成像,乳腺钼靶MLO位图像是按照斜侧位对乳腺成像。
用户终端10a获取肿块检测模型以及钙化检测模型,肿块检测模型可以识别出图像中肿块病灶所在的位置区域;钙化检测模型可以是识别出图像中钙化病灶所在的位置区域,肿块类别和钙化类别属于病灶类别。
对肿块检测模型来说,终端设备10a可以将乳腺钼靶CC位图像20b输入肿块检测模型,肿块检测模型可以输出乳腺钼靶CC位图像20b中的病灶对象位于乳腺钼靶CC位图像20b中的病灶区域20d,还可以确定乳腺钼靶CC位图像20b中的病灶对象所属的病灶类别为肿块类别。
终端设备10a可以将乳腺钼靶MLO位图像20c输入肿块检测模型,肿块检测模型也可以输出乳腺钼靶MLO位图像20c中的病灶对象位于乳腺钼靶MLO位图像20c中的病灶区域20h,且还可以确定乳腺钼靶MLO位图像20c中的病灶对象所属的病灶类别为肿块类别。
对钙化检测模型来说,终端设备10a同样将乳腺钼靶CC位图像20b输入钙化检测模型,钙化检测模型在乳腺钼靶CC位图像20b中没有检测到钙化病灶;终端设备10a同样将乳腺钼靶MLO位图像20c输入钙化检测模型,钙化检测模型在乳腺钼靶MLO位图像20c中同样没有检测到钙化病灶。
因此,对乳腺钼靶CC位图像20b,以及乳腺钼靶MLO位图像20c来说,只存在肿块病灶,且在乳腺钼靶CC位图像20b中肿块病灶位于病灶区域20d;在乳腺钼靶MLO位图像20c中肿块病灶位于病灶区域20h。
用户终端10a获取图像语义分割模型,图像语义分割模型可以是识别图像中每个像素点所属的组织类别,组织类别包括:乳头类别、肌肉类别以及背景类别。
用户终端10a将乳腺钼靶CC位图像20b输入图像语义分割模型,模型可以确定乳腺钼靶CC位图像20b的每个像素点所属的组织类别。在乳腺钼靶CC位图像20b中,用户终端10a将属于乳头类别的像素组合为区域20e,该区域20e即是乳头所在的区域。用户终端10a在乳腺钼靶CC位图像20b中确定乳腺边缘线20g,将垂直于乳腺边缘线20g且经过区域20e的线条20f作为象限分割线20f。在乳腺钼靶CC位图像20b中,位于象限分割线20f以下的为内象限,位于象限分割线20f以上的为外象限。在乳腺钼靶CC位图像20b中,由于病灶区域20d位于内象限(病灶区域20d中的大部分位于内象限,那就认为病灶区域20d位于内象限),因此用户终端10a可以确定乳腺钼靶CC位图像20b中的肿块病灶位于内象限。
用户终端10a将乳腺钼靶MLO位图像20c输入图像语义分割模型,模型可以确定乳腺钼靶MLO位图像20c的每个像素点所属的组织类别。在乳腺钼靶MLO位图像20c中,用户终端10a将属于乳头类别的像素组合为区域20j,该区域20j即是乳头所在的区域。用户终端10a将属于肌肉类别的象限组合为肌肉区域,并确定肌肉区域与非肌肉区域的区域分界线20m,将垂直于区域分界线20m且经过区域20j的线条20k作为象限分割线20k。在乳腺钼靶MLO位图像20c中,位于象限分割线20k以下的为下象限,位于象限分割线20k以上的为上象限。在乳腺钼靶MLO位图像20c中,由于病灶区域20h位于下象限,因此用户终端10a可以确定乳腺钼靶MLO位图像20c中的肿块病灶位于下象限。
用户终端10a将由乳腺钼靶CC位图像20b确定的内象限,以及由乳腺钼靶MLO位图像20c确定的下象限,组合为象限位置信息20n“内下象限”。
用户终端10a可以将象限位置信息20n“内下象限”以及与乳腺钼靶CC位图像20b、乳腺钼靶MLO位图像20c均对应的病灶类别“肿块”,组合为诊断意见:“内下象限见肿块”。
如图2b中的界面20x所示,用户终端10a在识别乳腺钼靶CC位图像20b、乳腺钼靶MLO位图像20c的过程中,可以在屏幕上播放预设的动画。当检测到乳腺钼靶CC位图像20b、乳腺钼靶MLO位图像20c识别完毕时,如界面20y所示,停止播放动画,将生成的诊断意见显示在屏幕上。进一步地,还可以将识别到的乳腺钼靶CC位图像20b的病灶区域以及乳腺钼靶MLO位图像20c的病灶区域,使用矩形框在对应乳腺钼靶图像中标记出来。
其中,识别病灶对象所属的病灶类别、确定病灶对象在图像中的病灶区域,确定象限分割线以及确定象限位置信息的具体过程可以参见下述图3-图7b对应的实施例。
请参见图3,是本发明实施例提供的一种医疗图像处理方法的流程示意图,如图3所示,医疗图像处理方法可以包括:
步骤S101,获取包含生物组织的生物组织图像,识别所述生物组织中的病灶对象在所述生物组织图像中的第一区域,并识别与所述病灶对象匹配的病灶属性。
具体的,终端设备(如上述图2a对应实施例中的用户终端10a)获取包含生物组织的的生物组织图像(如上述图2a对应实施例中的乳腺钼靶CC位图像20b以及乳腺钼靶MLO位图像20c),且该生物组织包括病灶对象,其中生物组织可以是乳腺、肝脏、肾脏等。
终端设备识别该病灶对象在生物组织图像中的区域,作为第一区域(如上述图2a对应实施例中的病灶区域20d以及病灶区域20h),终端设备识别与该病灶对应的病灶属性。
例如,当生物组织是乳腺时,病灶属性可以包括:肿块、钙化、结构扭曲等;当生物组织是肝脏时,病灶属性可以包括:血管瘤、肝脓肿、肝囊肿等;当生物组织是肾脏时,病灶属性可以包括:肾囊肿、肾肿瘤等。
识别生物组织图像中病灶对象的位置区域以及病灶属性可以是基于多个病灶检测模型(如上述图2a对应实施例中的肿块检测模型以及钙化检测模型)来确定的。一个病灶检测模型对应一种病灶属性,每个病灶检测模型都可以确定生物组织图像中的病灶对象的属性是否是该模型对应的属性,若病灶对象的属性是该模型对应的属性,还可以确定病灶对象在生物组织图像中的位置区域。
例如,若存在2个病灶检测模型,病灶检测模型A对应的病灶属性为肿块,病灶检测模型B对应的病灶属性为钙化。将生物组织图像输入病灶检测模型A,若病灶检测模型A输出位置区域,说明病灶对象位于该位置区域,且位于上述位置后区域的病灶对象的病灶属性为肿块;若病灶检测模型A没有输出位置区域,说明肿块不是该病灶对象的病灶属性。对病灶检测模型B可以采用同样的方法,确定病灶对象的病灶属性是否为钙化,若病灶属性为钙化,还可以确定该病灶对象在生物组织图像中的位置区域。
病灶检测模型识别病灶对象的第一区域以及病灶对象的病灶属性的方式有两种,首先对两种方式中的其中一种方式进行详细的说明:终端设备获取多个固定尺寸的滑动窗口,例如,滑动窗口为16×16,16×32,32×64,64×16等,每个滑动窗口在生物组织图像上滑动,用于提取多个图像块,每个图像块的尺寸等于滑动窗口的尺寸,且图像块之间存在一定程度的重叠,这样可以保证生物组织图像中的所有区域都可以参与后续的识别。
基于病灶检测模型中的分类器,识别每个图像块属于该病灶检测模型对应病灶属性的病灶概率,若图像块识别出来的病灶概率大于病灶概率阈值,说明该图像块中包含病灶对象,并确定该病灶对象的病灶属性为病灶检测模型对应的病灶属性,进而将该图像块在生物组织图中的位置区域作为病灶对象的候选区域。当然,若不存在任何一个图像块的病灶概率大于病灶概率阈值,说明生物组织图像中的病灶对象的病灶属性不是该病灶检测模型对应的病灶属性,也即是病灶检测模型没有检测出位置区域。
其中病灶检测模型中的分类器是通过包含样本病灶对象的图像块和不包含样本病灶对象图像块训练得到的,且上述样本病灶对象的病灶属性=病灶检测模型对应的病灶属性,即该分类器是二分类器。
当候选区域的数量只有一个时,可以直接将该候选区域作为第一区域;当候选区域存在多个时,虽然候选区域对应的病灶概率都是大于概率阈值的,但候选区域之间可能存在重叠(即是多个候选区域对应同一个病灶对象),因此后续可以采用NMS(Non-MaximumSuppression,非极大值抑制)从多个候选区域中确定病灶对象在生物组织图像中的第一区域。
NMS的具体过程为:将所有的候选区域组合为候选区域集合,终端设备可以从候选区域集合中提取出具有最大病灶概率的候选区域,作为轮询候选区域,确定轮询候选区域与其余候选区域之间的重叠面积,再将重叠面积小于面积阈值的候选区域组合为新的候选区域集合,再从新的候选区域集合中选择具有最大病灶概率的候选区域作为轮询候选区域,不断循环,当候选区域集合为空集时,将轮询候选区域作为病灶对象在生物组织图像中的第一区域。
下面对病灶检测模型识别病灶对象的第一区域以及病灶对象的病灶属性的另一种方式进行详细的说明:基于病灶检测模型的多个卷积层,对生物组织图像进行卷积运算,可以得到卷积特征信息,卷积特征信息可以看做是多个特征图(feature map)。
每个卷积层对应1个或者多个卷积核(kernel,也可以称为滤波器,或者称为感受野),卷积运算是指卷积核与位于输入数据不同位置的子数据进行矩阵乘法运算,每一个卷积层的输出数据的通道数(可以理解为是特征图的数量)是由该卷积层中的卷积核的数量决定的,且输出数据(即是特征图)的高度Hout和宽度Wout是由输入数据的尺寸、卷积核的尺寸、步长(stride)以及边界填充(padding)共同决定的,即Hout=(Hin-Hkernel+2*padding)/stride+1,Wout=(Win-Wkernel+2*padding)/stride+1。Hin,Hkernel分别表示输入数据的高度和卷积核的高度;Win,Wkernel分别表示输入数据的宽度和卷积核的宽度。
随着不断的卷积,卷积特征信息的数据尺寸(即是特征图的尺寸)不断变小。例如,生物组织图像的尺寸为H×W×1,经过第一个卷积层后输出卷积特征信息的尺寸为经过第二个卷积层后输出卷积特征信息的尺寸为
终端设备将最后一次卷积得到的卷积特征信息(或者是特征图)作为卷积热图heatmap(卷积热图的尺寸为m×n×2),将卷积热图进行上采样upsampling,即是将卷积热图放大至与生物组织图像相同尺寸,得到尺寸为H×W×2的掩模,根据该掩模可以确定生物组织图像中每个像素点的病灶属性为病灶检测模型对应病灶属性的概率,终端设备可以将大于病灶概率阈值的像素点所组成为图像区域,作为病灶对象在生物组织图像中的第一区域,并可以确定位于该第一区域的病灶对象的病灶属性=病灶检测模型对应的病灶属性。
当然,若不存在任何一个像素点的概率大于病灶概率阈值,说明生物组织图像中的病灶对象的病灶属性不是该病灶检测模型对应的病灶属性,也即是病灶检测模型没有检测出位置区域。
当存在多个病灶检测模型时,可以采用上述方式,分别确定生物组织图像中的病灶对象的病灶属性以及第一区域。
用户终端可以在生物组织图像中使用矩形框将第一区域标记出来。
步骤S102,将所述生物组织在所述生物组织图像中的图像区域,划分为多个象限位置区域。
具体的,生物组织包括第一组织对象,例如当生物组织是乳腺时,第一组织对象可以是乳头;当生物组织是肝脏是,第一组织对象可以是肝囊。
识别第一组织对象在生物组织图像中的区域,作为第二区域(如上述图2a对应实施例中的区域20e和区域20j),其中确定第二区域可以是基于图像语义分割模型,图像语义分割模型是用于识别生物组织图像中每个像素点的对象属性,图像语义分割模型的工作过程与前述中病灶检测模型确定第一区域和病灶属性的第二种方式类似。
终端设备根据第二区域在生物组织图像中确定象限分割线(如上述图2a对应实施例中的象限分割线20f和象限分割线20k),将生物组织在生物组织图像中的图像区域作为组织图像区域,并根据象限分割线,将组织图像区域划分为多个象限位置区域(如上述图2a对应实施例中的内象限、外象限、上象限和下象限)。
步骤S103,获取所述第一区域所在的象限位置区域的目标象限位置信息,根据所述目标象限位置信息和所述病灶属性生成医疗业务数据。
具体的,终端设备获取第一区域所在的象限位置区域的象限位置信息(称为目标象限位置信息,如上述图2a对应实施例中的象限位置信息20n)。终端设备根据目标象限位置信息以及识别出来的病灶属性生成医疗业务数据(如上述图2a对应实施例中诊断意见)。
后续,可以在终端设备的屏幕上显示使用矩形框标记第一区域后的生物组织图像,以及显示医疗业务数据。
本发明可以作为软件接口方式提供服务,输入为单侧多投照位钼靶图像,例如可以为CC位和MLO位,输出为医疗业务数据。
请参见图4,是本发明实施例提供的一种确定多个象限位置区域的流程示意图,确定多个象限位置区域包括步骤S201-步骤S203,且步骤S201-步骤S203是上述图3对应实施例中步骤S102的一个具体实施例:
步骤S201,识别所述第一组织对象在所述生物组织图像中的第二区域。
具体的,生物组织包括第一组织对象,生物组织图像包括第一生物组织图像(如上述图2a对应实施例中的乳腺钼靶CC位图像20b)和第二生物组织图像(如上述图2a对应实施例中的乳腺钼靶MLO位图像20c),其中第一生物组织图像和第二生物图像是对生物组织在不同方向上的成像,例如生物组织是乳腺时,第一生物组织图像可以是乳腺在头尾位方向上的成像;所述第二生物组织图像可以是乳腺斜侧位方向上的成像。
需要注意的是,第一生物组织图像和第二生物组织图像中都包含生物组织,且都包含第一组织对象。
终端设备获取图像语义分割模型,将第一生物组织图像输入图像语义分割模型中,基于图像语义分割模型可以确定第一组织对象在第一生物组织图像中的图像区域,称为第一组织标识区域(如上述图2a对应实施例中的区域20e)。将第二生物组织图像输入图像语义分割模型中,基于图像语义分割模型可以确定第一组织对象在第二生物组织图像中的图像区域,称为第二组织标识区域(如上述图2a对应实施例中的区域20j)。
终端设备可以将第一组织标识区域和第二组织标识区域确定为第二区域,也就是说,第二区域包括与第一生物组织图像对应的第一组织标识区域以及与第二生物组织图像对应的第二组织标识区域。
其中,图像语义分割模型可以是FCN(全卷积网络,FullyConvolutionalNetworks)模型,模型分类数设置为3,分别表示背景、第一组织对象和第二组织对象。训练图像语义分割模型时,图像语义分割模型的权重初始化可以使用PASCALVOC数据集,然后使用公开数据集DDSM(Digital Database forScreening Mammography,乳腺X线摄影数字化数据库),最后使用国内医院数据进行迁移学习(输入图像尺寸可以为800×800像素,批处理大小可以为8,学习率可以0.00001,最大迭代次数可以是10000),最终得到可以提取生物组织图像中第一组织对象所在区域和第二组织对象所在区域的全卷积分割网络。
下面对基于图像语义分割模型确定第一生物组织图像中的第一组织标识区域有进行具体的说明:图像语义分割模型包括正向卷积层和转置卷积层,正向卷积层是用于正向卷积运算,正向卷积运算可以降低特征图的尺寸,转置卷积层是用于反向卷积运算,反向卷积运算可以增大特征图的尺寸。
首先基于正向卷积层,对第一生物组织图像进行正向卷积运算,提取第一生物组织图像的正向卷积特征信息,基于转置卷积层,对正向卷积特征信息进行反向卷积运算,得到H×W×3的掩模,其中H,W分别表示第一生物组织图像的高和宽,上述H×W×3的掩模包括:属于背景类别的背景掩模,属于第一组织属性的第一组织掩模,以及属于第二组织属性的第二组织掩模,上述背景掩模、第一组织掩模、第二组织掩模的尺寸均为H×W,此处的第一组织属性是用于标识第一组织对象,第二组织属性是用于标识第二组织对象,当生物组织为乳腺时,第一组织对象可以是乳头,第二组织对象可以是肌肉。
掩模中每个单位掩模的取值表示对应第一生物组织图像中的像素点属于该掩模对应属性的概率。
对第一生物组织图像中的每一个像素点来说,在上述3个掩模,将具有最大概率值的掩模对应的属性作为该像素点的对象属性,可以知道对象属性包括背景属性、第一组织属性和第二组织属性。简单来说,根据上述3个掩模,可以确定每个像素点要么是属于背景属性,要么是属于第一组织属性要么是属于第二组织属性的。
终端设备可以将属于第一组织属性的像素点组成的图像区域,作为第一组织对象在第一生物组织图像中的第一组织标识区域。
对第二生物组织图像可以采用相同的方式,即是首先确定3个掩模,然后根据3个掩模确定第二生物组织图像中每个像素点的对象属性,同样地将属于第一组织属性的像素点组成的图像区域,作为第一组织对象在第二生物组织图像中的第二组织标识区域。
步骤S202,根据所述第二区域在所述生物组织图像中确定象限分割线。
具体的,由于生物组织图像包括第一生物组织图像和第二生物组织图像,因此对第一生物组织图像来说,根据第一组织标识区域在第一生物组织图像中确定第一分割线(如上述图2a对应实施例中的象限分割线20f);对第二生物组织图像来说,根据第二组织标识区域在第二生物组织图像中确定第二分割线(如上述图2a对应实施例中的象限分割线20k),其中第一分割线和第二分割线属于象限分割线。
下面对如何确定第一分割线进行具体的说明:终端设备获取生物组织在第一生物组织图像中的边缘分界线(如上述图2a对应实施例中的乳腺边缘线20g),其中当生物组织是乳腺时,边缘分界线可以是乳腺后边缘的分界线,终端设备在第一生物组织图像中,将垂直于边缘分界线且经过第一组织标识区域的垂线,作为第一分割线。
下面对如何确定第二分割线进行具体的说明:终端设备根据前述中图像语义分割模型所确定的每个像素点的对象属性,在第二生物组织图像中,将属于第二组织属性的像素点组成的图像区域,作为第二生物组织图像中的第二组织对象在第二生物组织图像中的对象区域。例如,当第二组织对象是肌肉时,对象区域即是肌肉在第二生物组织图像中的区域。
对第二生物组织图像来说,第一组织对象(例如乳头)所在的区域为第二组织标识区域,第二组织对象(例如肌肉)所在的区域为对象区域,其余的为背景区域。终端设备确定对象区域与非对象区域之间的分界线,作为对象分界线(如上述图2a对应实施例中的区域分界线20m)。
需要说明的是,若对象区域与非对象区域之间的分界线是曲线,对该曲线进行拟合,得到直线,并将该直线作为对象分界线,拟合所得到的对象分界线与未拟合前的曲线中各个点的距离之和最小。终端设备在第二生物组织图像中,将垂直于对象分界线且经过第二组织标识区域的垂线,作为第二分割线。
步骤S203,将所述生物组织在所述生物组织图像中的图像区域作为组织图像区域,并根据所述象限分割线,将所述组织图像区域划分为所述多个象限位置区域。
具体的,第一生物组织图像是生物组织在头尾位方向上的成像,第二生物组织图像是生物组织在斜侧位方向上的成像,例如,当生物组织是乳腺时,第一生物组织图像可以是乳腺钼靶CC位图像,第二生物组织图像可以是乳腺钼靶MLO位图像。
终端设备将生物组织在第一生物组织图像中的图像区域,作为第一组织图像区域,在第一组织图像区域中,将位于第一分割线以上的区域,作为外象限位置区域;将位于第一分割线以下的区域,作为内象限位置区域。
换句话说,根据第一生物组织图像,可以确定内象限位置区域以及外象限位置区域。
终端设备将生物组织在第二生物组织图像中的图像区域,作为第二组织图像区域,在第二组织图像区域中,将位于第二分割线以上的区域,作为上象限位置区域;将位于第二分割线以下的区域,作为下象限位置区域。
换句话说,根据第二生物组织图像,可以确定上象限位置区域以及下象限位置区域。
终端设备可以将内象限位置区域、外象限位置区域、上象限位置区域和下象限位置区域确定为象限位置区域。
请参见图5,是本发明实施例提供的一种生成医疗业务数据的流程示意图,生成医疗业务数据包括步骤S301-步骤S305,且步骤S301-步骤S305是上述图3对应实施例中步骤S103的一个具体实施例:
步骤S301,获取所述第一区域所在的象限位置区域的目标象限位置信息。
具体的,由于生物组织图像包括第一生物组织图像和第二生物组织图像,第一区域包括病灶对象在第一生物组织图像中的第一病灶区域(如上述图2a对应实施例中的病灶区域20d)和上述病灶对象在第二生物组织图像中的第二病灶区域(如上述图2a对应实施例中的病灶区域20h)。
当第一病灶区域位于第一生物组织图像中的内象限位置区域,且第二病灶区域位于第二生物组织图像中的上象限位置区域时,目标象限位置信息为内上象限;
当第一病灶区域位于第一生物组织图像中的内象限位置区域,且第二病灶区域位于第二生物组织图像中的下象限位置区域时,目标象限位置信息为内下象限;
当第一病灶区域位于第一生物组织图像中的外象限位置区域,且第二病灶区域位于第二生物组织图像中的上象限位置区域时,目标象限位置信息为外上象限;
当第一病灶区域位于第一生物组织图像中的外象限位置区域,且第二病灶区域位于第二生物组织图像中的下象限位置区域时,目标象限位置信息为外下象限。
步骤S302,从所述第一生物组织图像中提取与所述第一病灶区域对应的第一子图像。
具体的,终端设备从第一生物组织图像中提取第一病灶区域所在的子图像,作为第一子图像。
步骤S303,从所述第二生物组织图像中提取与所述第二病灶区域对应的第二子图像。
具体的,终端设备从第二生物组织图像中提取第二病灶区域所在的子图像,作为第二子图像。
步骤S304,获取目标匹配模型,基于所述目标匹配模型识别所述第一子图像和所述第二子图像之间的模型匹配概率。
具体的,终端设备获取目标匹配模型,目标匹配模型可以识别两张图像中所包含的病灶对象是否是同一个病灶对象,这是因为生物组织图像中的病灶对象可能有多个,那么对应的第一生物组织图像中的病灶对象和第二生物组织图像中的病灶对象也有多个,目标匹配模型可以用于识别两张图像中的病灶对象之间的匹配概率,用于判断病灶对象的一致性。
终端设备将第一子图像输入目标匹配模型,目标匹配模型中的卷积层和池化层,可以提取第一子图像的第一池化特征信息。终端设备将第二子图像输入目标匹配模型,目标匹配模型中的卷积层和池化层,同样可以提取第二子图像的第二池化特征信息。终端设备将第一池化特征信息和第二池化特征信息在列方向上拼接为目标池化特征信息,目标匹配模型中分类器识别目标池化特征信息与匹配类别的匹配概率,将该匹配概率作为模型匹配概率,模型匹配概率可以标识第一子图像中的病灶对象与第二子图像中的病灶对象是同一个病灶对象的概率,且匹配概率是一个0到1之间的实数。目标匹配模型中分类器同样也是二分类器,不仅可以输出第一子图像中的病灶对象与第二子图像中的病灶对象是同一个病灶对象的概率,还可以输出输出第一子图像中的病灶对象与第二子图像中的病灶对象不是同一个病灶对象的概率。
步骤S305,获取所述第一病灶区域和所述第二病灶区域之间的条件匹配概率,当所述模型匹配概率和所述条件匹配概率满足病灶匹配条件时,将所述目标象限位置信息和所述病灶属性组合为所述医疗业务数据。
具体的,终端设备确定第一病灶区域在第一生物组织图像中的尺寸,称为第一区域尺寸;终端设备确定第二病灶区域在第二生物组织图像中的尺寸,称为第二区域尺寸。当第一区域尺寸大于第二区域尺寸时,终端设备将第二区域尺寸除以第一区域尺寸,所得到的数值作为尺寸匹配概率;当第一区域尺寸小于第二区域尺寸时,终端设备将第一区域尺寸除以第二区域尺寸,所得到的数值作为尺寸匹配概率,可以知道尺寸匹配概率是一个0到1之间的实数。
终端设备在第一生物组织图像中,确定第一病灶区域与第一生物组织图像中的第一组织对象对应的图像区域(即是前述中的第一组织标识区域)之间的区域距离(称为第一区域距离);终端设备在第二生物组织图像中,确定第二病灶区域与第二生物组织图像中的第一组织对象对应的图像区域(即是前述中的第二组织标识区域)之间的区域距离(称为第二区域距离)。当第一区域距离大于第二区域距离时,终端设备将第二区域距离除以第一区域距离,得到的数值作为距离匹配概率;当第一区域距离小于第二区域距离时,终端设备将第一区域距离除以第二区域距离,得到的数值作为距离匹配概率,距离匹配概率也是一个0到1之间的实数。
终端设备将前述中的尺寸匹配概率以及距离匹配概率作为条件匹配概率。
若模型匹配概率以及条件匹配概率中的尺寸匹配概率以及距离匹配概率均大于预设概率阈值,则确定模型匹配概率和条件匹配概率满足病灶匹配条件。
或者,分别为模型匹配概率以及条件匹配概率中的尺寸匹配概率以及距离匹配概率设置权重系数,若模型匹配概率、尺寸匹配概率以及距离匹配概率乘以各自的权重系数之和大于预设概率阈值,则确定模型匹配概率和条件匹配概率满足病灶匹配条件。
当模型匹配概率和条件匹配概率满足病灶匹配条件,且生物组织图像中的病灶对象的数量只有一个时,终端设备可以直接将前述中确定的目标象限位置信息和病灶属性组合为医疗业务数据。
当生物组织图像中的病灶对象的数量有多个时,那么对应的就存在多个第一子图以及多个第二子图像,第一子图像的数量=第二子图像的数量=病灶对象的数量。对应地,模型匹配概率包括多个单位模型匹配概率,每个单位模型匹配概率均是通过目标匹配模型所确定的一个第一子图像与一个第二子图之间的匹配概率;条件匹配概率包括多个单位条件匹配概率,每个条件匹配概率是指通过区域尺寸以及区域距离所确定的一个第一子图像与一个第二子图之间的匹配概率。可以知道,单位模型匹配概率的数量=单位条件匹配概率的数量=病灶对象的数量的平方
从多个单位匹配模型概率以及多个单位条件匹配概率中,选择满足病灶匹配条件的匹配概率对,作为目标匹配概率对,每个目标匹配概率对包括一个单位模型匹配概率以及一个单位条件匹配概率。可以知道,每个目标匹配对所对应的第一子图像和第二子图像对应同一个病灶对象,这样就可以从第一生物组织图像以及第二生物组织图像中确定成对病灶对象(即是同一个病灶对象)。
当目标匹配概率对中的单位模型匹配概率和单位条件匹配概率满足病灶匹配条件时,将目标匹配概率对的病灶对象作为目标病灶对象,终端设备将目标病灶对象的目标象限位置信息以及目标病灶对象的对象属性,组合为医疗业务数据。目标病灶对象在第一生物组织图像中所确定的对象属性与目标病灶对象在第二生物组织图像中所确定的对象属性是相同的。
举例来说,生物组织图像包括2个病灶对象,在第一生物组织图像中,包含病灶对象1与病灶对象2;在第二生物组织图像中,包含病灶对象3与病灶对象4。基于病灶检测模型A确定上述病灶对象1、病灶对象2、病灶对象3、病灶对象4的病灶属性均为肿块。终端设备可以获取灶对象1对应的第一子图像1,灶对象2对应的第一子图像2,灶对象3对应的第二子图像1以及灶对象4对应的第二子图像2。
终端设备基于目标匹配模型确定第一子图像1与第二子图像1之间的单位模型匹配概率为0.9,第一子图像1与第二子图像2之间的单位模型匹配概率为0.2;第一子图像2与第二子图像1之间的单位模型匹配概率为0.1;第一子图像2与第二子图像2之间的单位模型匹配概率为0.8。
终端设备根据病灶对象的区域尺寸以及病灶对象与第一组织对象之间的区域距离,确定第一子图像1与第二子图像1之间的单位条件匹配概率为0.8,第一子图像1与第二子图像2之间的单位条件匹配概率为0.1;第一子图像2与第二子图像1之间的单位条件匹配概率为0.2;第一子图像2与第二子图像2之间的单位条件匹配概率为0.9。
终端设备可以从上述4个单位模型匹配概率以及4个单位条件匹配概率中,确定第一子图像1与第二子图像1之间的单位模型匹配概率以及单位条件匹配概率可以组合为目标匹配对,第一子图像2与第二子图像2之间的单位模型匹配概率以及单位条件匹配概率可以组合为目标匹配对。
因此,第一子图像1对应的病灶对象1与第二子图像1对应的病灶对象3是同一个病灶对象,终端设备可以将病灶对象1与病灶对象3作为目标病灶对象,将病灶对象1与病灶对象3所确定的目标象限位置信息以及病灶属性“肿块”组合为医疗业务数据。
第一子图像2对应的病灶对象2与第二子图像2对应的病灶对象4是同一个病灶对象,终端设备可以将病灶对象2与病灶对象4作为目标病灶对象,将病灶对象2与病灶对象4所确定的目标象限位置信息以及病灶属性“肿块”组合为医疗业务数据。
可选的,下面对如何训练目标匹配模型进行详细的说明:终端设备获取正样本图像以及负样本图像,其中正样本图像包括第一正样本图像和第二正样本图像,且第一正样本图像与第二正样本图像对应同一个病灶对象;负样本图像包括第一负样本图像和第二负样本图像,且第一负样本图像与第二负样本图像对应不同的病灶对象,此处的不同病灶对象可以是指病灶属性不同,也可以是病灶属性相同但不是同一个病灶对象。
终端设备获取原始匹配模型,其中原始匹配模型是由非生物组织图像训练得到的类模型,例如,可以是风景图像或者是人脸图像或者是ImageNet数据集所训练的分类模型。终端设备从原始匹配模型所包含的模型参数中,选择前n个卷积层的模型参数作为目标模型参数,例如可以选择原始匹配模型中前5个卷积层所对应的模型参数作为目标模型参数,终端设备根据目标模型参数生成样本匹配模型,其中样本匹配模型中的前n个卷积层对应的模型参数是目标模型参数。上述原理是迁移学习的算法原理,即是样本匹配模型是部分起始权重不是随机初始化,而是由另外一个已经训练好的分类模型确定的,这样后续训练样本匹配模型时,只需要少量的生物组织图像作为样本图像就可以使样本匹配模型收敛。
终端设备获取样本匹配模型后,基于样本匹配模型识别正样本中的第一正样本图像与第二正样本图像之间的正样本预测概率,并获取第一正样本图像与第二正样本图像之间的真实匹配概率,作为正样本概率,可以知道正样本概率即是100%。终端设备确定正样本预测概率与上述正样本概率之间的正样本误差,基于上述正样本误差反向传播调整样本匹配模型中的模型参数。
同样地,基于样本匹配模型识别负样本中的第一负样本图像与第二负样本图像之间的负样本预测概率,并获取第一负样本图像与第二负样本图像之间的真实匹配概率,作为负样本概率,可以知道负样本概率即是0%。终端设备确定负样本预测概率与上述负样本概率之间的负样本误差,基于上述负样本误差反向传播调整样本匹配模型中的模型参数。
反向传播中的梯度下降算法可以使用Adam,批处理大小可以为128,初始学习率可以为0.001,最大迭代次数可以为10000。
当调整后的样本匹配模型的模型参数变化量小于变化量阈值,或者调整次数大于次数阈值,或者调整后的样本匹配模型所确定的样本误差(包括正样本误差与负样本误差)小于误差阈值,终端设备可以将调整后的样本匹配模型作为目标匹配模型。
请参见图6,是本发明实施例提供的一种医疗图像处理的功能模块示意图,下述以乳腺钼靶CC位图像以及乳腺钼靶MLO位图像为例,且CC位图像以及MLO位图像是对同一个乳腺在不同方向上的成像。医疗图像的处理包括4个功能模块,分别为病灶象限计算模块、病灶检测模块、病灶匹配模块以及信息融合模块。终端设备获取到CC位图像以及MLO位图像后,病灶检测模块对上述两张图像分别进行病灶检测,确定病灶对象在CC位图像上的第一病灶区域以及根据CC位图像识别该病灶对象的病灶属性,可以将第一病灶区域以及病灶属性称为CC位病灶。病灶检测模块确定该病灶对象在MLO位图像上的第二病灶区域,以及根据MLO位图像识别该病灶对象的病灶属性,可以将第二病灶区域以及病灶属性称为MLO位病灶。
病灶匹配模块获取目标匹配模型,其中目标匹配模型是通过多个正样本图像和多个负样本图像训练得到的,病灶匹配模块根据CC位病灶中的第一病灶区域,确定第一子图像,同样地根据根据MLO位病灶中的第二病灶区域,确定第二子图像。病灶匹配模块将第一子图像以及第二子图像输入目标匹配模型中,目标匹配模型就可以识别第一子图像与第二子图像之间的模型匹配概率。病灶匹配模块再根据上述两个病灶区域的区域尺寸(也就是第一子图像和第二子图像的图像尺寸)以及两个病灶区域距离各自生物组织图像中的乳头之间的区域距离,确定条件匹配概率,可以将条件匹配概率作为手工特征。病灶匹配模块判断模型匹配概率以及条件匹配概率是否满足病灶匹配条件。
病灶象限计算模块获取图像语义分割模型,其中图像语义分割模型是通过多个样本图像训练得到的,样本图像中的每一个像素点都进行了标注,标注类型包括:背景属性、乳头属性和肌肉属性,换句话说,图像语义分割模型可以识别出一张图像中每个像素点要么是属于背景属性的,要么是属于乳头属性的要么是属于肌肉属性的。病灶象限计算模块将CC位图像输入图像语义分割模型,基于图像语义分割模型可以确定CC位图像中的乳头位置(CC位图像是没有肌肉信息的,因此没有肌肉区域),该乳头位置即是前述中的第一组织标识区域;病灶象限计算模块将MLO位图像输入图像语义分割模型,基于图像语义分割模型可以确定MLO位图像中的乳头位置(即是前述中的第二组织标识区域)以及肌肉位置(即是前述中的对象区域)。对CC位图像来说,病灶象限计算模块根据乳头位置以及乳腺边缘分界线,确定第一分割线,根据第一分割线,确定第一病灶区域位于内象限或者外象限。对MLO位图像来说,病灶象限计算模块根据肌肉位置拟合肌肉边界线直线方程,进而确定肌肉边界线(即是前述中的对象分界线),再根据乳头位置以及肌肉边界线,确定第二分割线,根据第二分割线,确定第二病灶区域位于上象限或者下象限。
当模型匹配概率以及条件匹配概率满足病灶匹配条件时,信息融合模块将CC位图像所确定的象限位置信息以及MLO位图像所确定的象限位置信息融合为目标象限位置信息,并将目标象限位置信息以及病灶属性组合为医疗业务数据。当病灶对象的数量为多个时,信息融合模块还需要将多个第一子图像以及多个第二子图像进行配对,分别确定每个图像对所对应的病灶对象的的目标象限位置信息以及病灶属性。
请参见图7a,是本发明实施例提供的一种确定医疗业务数据的示意图。图像30a是乳腺钼靶CC位图像,图像30b是乳腺钼靶MLO位图像MLO位图像,且图像30a与30b对应同一个乳腺。
对图像30a来说,首先确定病灶对象所在的第一病灶区域30c,并确定该病灶对象的病灶属性为钙化。识别乳头(即是第一组织对象)所在的第一组织标识区域30d,并确定乳腺的边缘分界线30f,终端设备将垂直于边缘分界线30f并经过第一组织标识区域30d的垂线30e作为第一分割线30e,由于第一病灶区域30c位于第一分割线30e的上方,因此确定第一病灶区域30c位于外象限位置区域。
对图像30b来说,首先确定病灶对象所在的第二病灶区域30g,并确定该病灶对象的病灶属性为钙化。识别乳头(即是第一组织对象)所在的第二组织标识区域30h。基于图像语义分割模型确定肌肉(即是前述中的第二组织对象)所在的位置区域,进而确定对象分界线30m,终端设备将垂直于对象分界线30m并经过第二组织标识区域30h的垂线30k作为第二分割线30k,由于第二病灶区域30g位于第二分割线30k的上方,因此确定第二病灶区域30g位于上象限位置区域。
由于第一病灶区域30c位于外象限位置区域,且第二病灶区域30g位于上象限位置区域,因此目标象限位置信息为:外上象限,将目标象限位置信息“外上象限”以及病灶属性“钙化”组合为医疗业务数据:外上象限钙化。后续,终端设备可以显示该医疗业务数据,同时将基于矩形框标识了第一病灶区域30c的图像30a以及基于矩形框标识了第二病灶区域30g的图像30b一并显示在屏幕上。
上述可知,通过自动化的方式识别医学图像中病灶的类别以及病灶的象限位置信息,进而自动生成业务数据,相比人工诊断,可以节约确定病灶类别以及病灶象限位置信息的耗时,提高确定病灶类别以及病灶象限位置信息的效率。
请参见图7b,是本发明实施例提供的一种电子医疗设备的结构示意图,电子医疗设备可以为上述图3-图7a对应实施例中的终端设备;电子医疗设备包括生物组织图像采集器和生物组织图像分析器,上述电子医疗设备可以采集医疗图像并分析医疗图像,具体过程包括如下步骤:
步骤S401,生物组织图像采集器获取包含生物组织的生物组织图像。
具体的,生物组织图像采集器采集包含生物组织的生物组织图像。若生物组织是乳腺,那么生物组织图像采集器可以是钼靶机,对应地生物组织图像就是乳腺钼靶图像;若生成组织是肝脏,那么生物组织图像采集器可以是B超机,对应地生物组织图像就是肝脏B超图像;若生物组织是大脑,那么生物组织图像采集器可以是MRI(Magnetic ResonanceImaging,磁共振成像)仪,对应地生物组织图像就是MRI图像。
步骤S402,所述生物组织图像分析器识别所述生物组织中的病灶对象在所述生物组织图像中的第一区域,并识别与所述病灶对象匹配的病灶属性。
具体的,生物组织图像分析器识别生物组织图像中病灶对象在生物组织图像中的区域,称为第一区域,并识别病灶对象的病灶属性。
其中,生物组织图像分析器识别生物组织图像中病灶对象的第一区域以及病灶属性可以是基于多个病灶检测模型来确定的。一个病灶检测模型对应一种病灶属性,每个病灶检测模型都可以确定生物组织图像中的病灶对象的属性是否是该模型对应的属性,若病灶对象的属性是该模型对应的属性,还可以确定病灶对象在生物组织图像中的位置区域。
生物组织图像分析器基于NMS算法从模型确定的位置区域中确定第一区域,生物组织图像分析器确定病灶对象的第一区域以及病灶属性的具体过程可以参见上述图3对应实施例中的步骤S101。
步骤S403,所述生物组织图像分析器将所述生物组织在所述生物组织图像中的图像区域,划分为多个象限位置区。
具体的,生物组织包括第一组织对象。生物组织图像分析器识别第一组织对象在生物组织图像中的第二区域,生物组织图像分析器根据第二区域在生物组织图像中确定象限分割线,将生物组织在生物组织图像中的图像区域作为组织图像区域。生物组织图像分析器根据象限分割线,将组织图像区域划分为多个象限位置区域。
其中,生物组织图像分析器确定多个象限位置区域的具体过程可以参见上述图4对应实施例中的步骤S201-步骤S203。
步骤S404,所述生物组织图像分析器获取所述第一区域所在的象限位置区域的目标象限位置信息,根据所述目标象限位置信息和所述病灶属性生成医疗业务数据。
具体的,生物组织图像分析器获取第一区域所在的象限位置区域的象限位置信息(称为目标象限位置信息)。生物组织图像分析器根据目标象限位置信息以及识别出来的病灶属性生成医疗业务数据,并在电子医疗设备的屏幕上显示使用矩形框标记第一区域后的生物组织图像,以及显示医疗业务数据。
进一步的,请参见图8,是本发明实施例提供的一种医疗图像处理装置的结构示意图。如图8所示,医疗图像处理装置1可以应用于上述图3-图7a对应实施例中的终端设备,医疗图像处理装置1可以包括:图像获取模块11、划分模块12、生成模块13。
图像获取模块11,用于获取包含生物组织的生物组织图像,识别所述生物组织中的病灶对象在所述生物组织图像中的第一区域,并识别与所述病灶对象匹配的病灶属性;
划分模块12,用于将所述生物组织在所述生物组织图像中的图像区域,划分为多个象限位置区域;
所述图像获取模块11,用于获取所述第一区域所在的象限位置区域的目标象限位置信息;
生成模块13,用于根据所述目标象限位置信息和所述病灶属性生成医疗业务数据。
其中,图像获取模块11、划分模块12、生成模块13的具体功能实现方式可以参见上述图3对应实施例中的步骤S101-步骤S103,这里不再进行赘述。
请参见图8,生物组织包括第一组织对象;
划分模块12可以包括:识别单元121、象限确定单元122、划分单元123。
识别单元121,用于识别所述第一组织对象在所述生物组织图像中的第二区域;
象限确定单元122,用于根据所述第二区域在所述生物组织图像中确定象限分割线;
划分单元123,用于将所述生物组织在所述生物组织图像中的图像区域作为组织图像区域,并根据所述象限分割线,将所述组织图像区域划分为所述多个象限位置区域。
其中,识别单元121、象限确定单元122、划分单元123的具体功能实现方式可以参见上述图4对应实施例中的步骤S201-步骤S203,这里不再进行赘述。
请参见图8,生物组织图像包括第一生物组织图像和第二生物组织图像;所述第一生物组织图像和所述第二生物组织图像是对所述生物组织在不同方向上的成像;;
识别单元121可以包括:获取子单元1211、第一识别子单元1212、第二识别子单元1213。
获取子单元1211,用于获取图像语义分割模型;
第一识别子单元1212,用于基于所述图像语义分割模型确定所述第一组织对象在所述第一生物组织图像中的第一组织标识区域;
第二识别子单元1213,用于基于所述图像语义分割模型确定所述第一组织对象在所述第二生物组织图像中的第二组织标识区域;
所述第二识别子单元1213,还用于将所述第一组织标识区域和所述第二组织标识区域确定为所述第二区域。
其中,获取子单元1211、第一识别子单元1212、第二识别子单元1213的具体功能实现方式可以参见上述图4对应实施例中的步骤S201,这里不再进行赘述。
请参见图8,第一识别子单元1212可以包括:卷积子单元12121、属性确定子单元12122。
卷积子单元12121,用于基于所述图像语义分割模型中的正向卷积层和转置卷积层,对所述第一生物组织图像进行正向卷积和反向卷积,得到卷积特征图;
属性确定子单元12122,用于根据所述卷积特征图,确定所述第一生物组织图像中每个像素点的对象属性;所述对象属性包括第一组织属性;
所述属性确定子单元12122,还用于将属于所述第一组织属性的像素点组成的图像区域,作为所述第一组织对象在所述第一生物组织图像中的第一组织标识区域。
其中,卷积子单元12121、属性确定子单元12122的具体功能实现方式可以参见上述图4对应实施例中的步骤S201,这里不再进行赘述。
请参见图8,所述象限分割线包括与所述第一生物组织图像对应的第一分割线以及与所述第二生物组织图像对应的第二分割线;对象属性还包括第二组织属性;
象限确定单元122可以包括:象限确定子单元1221、区域确定子单元1222。
象限确定子单元1221,用于获取所述生物组织在所述第一生物组织图像中的边缘分界线,根据所述第一组织标识区域和所述边缘分界线,在所述第一生物组织图像中确定所述第一分割线;
区域确定子单元1222,用于将属于所述第二组织属性的像素点组成的图像区域,作为所述第二生物组织图像中的第二组织对象在所述第二生物组织图像中的对象区域;
所述区域确定子单元1222,还用于确定所述对象区域的对象分界线,根据所述第二组织标识区域和所述对象分界线,在所述第二生物组织图像中确定所述第二分割线。
其中,象限确定子单元1221、区域确定子单元1222的具体功能实现方式可以参见上述图4对应实施例中的步骤S202,这里不再进行赘述。
请参见图8,第一生物组织图像是在头尾位方向上的成像;所述第二生物组织图像是斜侧位方向上的成像
划分单元123可以包括:第一划分子单元1231、第二划分子单元1232;
第一划分子单元1231,用于将所述生物组织在第一生物组织图像中的图像区域作为第一组织图像区域,在所述第一生物组织图像中,根据第一分割线将所述第一组织图像区域划分为内象限位置区域和外象限位置区域;
第二划分子单元1232,用于将所述生物组织在第二生物组织图像中的图像区域作为第二组织图像区域,在所述第二生物组织图像中,根据第二分割线将所述第二组织图像区域划分为上象限位置区域和下象限位置区域;
所述第二划分子单元1232,还用于将所述内象限位置区域、所述外象限位置区域、所述上象限位置区域和所述下象限位置区域确定为所述象限位置区域。
其中,第一划分子单元1231、第二划分子单元1232的具体功能实现方式可以参见上述图4对应实施例中的步骤S203,这里不再进行赘述。
请参见图8,第一区域包括所述病灶对象在第一生物组织图像中的第一病灶区域和所述病灶对象在第二生物组织图像中的第二病灶区域;所述生物组织图像包括所述第一生物组织图像和所述第二生物组织图像;
生成模块13可以包括:提取单元131、概率获取单元132、组合单元133。
提取单元131,用于从所述第一生物组织图像中提取与所述第一病灶区域对应的第一子图像;
所述提取单元131,还用于从所述第二生物组织图像中提取与所述第二病灶区域对应的第二子图像;
所述提取单元131,还用于获取目标匹配模型,基于所述目标匹配模型识别所述第一子图像和所述第二子图像之间的模型匹配概率;
概率获取单元132,用于获取所述第一病灶区域和所述第二病灶区域之间的条件匹配概率;
组合单元133,用于当所述模型匹配概率和所述条件匹配概率满足病灶匹配条件时,将所述目标象限位置信息和所述病灶属性组合为所述医疗业务数据。
其中,提取单元131、概率获取单元132、组合单元133的具体功能实现方式可以参见上述图5对应实施例中的步骤S301-步骤S305,这里不再进行赘述。
请参见图8,概率获取单元132可以包括:尺寸确定子单元1321、距离确定子单元1322。
尺寸确定子单元1321,用于确定所述第一病灶区域在所述第一生物组织图像中的第一区域尺寸,并确定所述第二病灶区域在所述第二生物组织图像中的第一区域尺寸,根据所述第一区域尺寸和所述第二区域尺寸生成尺寸匹配概率;
距离确定子单元1322,用于确定所述第一病灶区域与所述第一生物组织图像中的第一组织对象对应的图像区域之间的第一区域距离,并确定所述第二病灶区域与所述第二生物组织图像中的第一组织对象对应的图像区域之间的第二区域距离;
所述距离确定子单元1322,还用于根据所述第一区域距离和所述第二区域距离生成距离匹配概率;
所述距离确定子单元1322,还用于将所述尺寸匹配概率和所述距离匹配概率确定为所述条件匹配概率。
其中,尺寸确定子单元1321、距离确定子单元1322的具体功能实现方式可以参见上述图5对应实施例中的步骤S305,这里不再进行赘述。
请参见图8,所述生物组织图像中的病灶对象的数量为多个;所述模型匹配概率包括所述多个病灶对象的第一子图像和所述多个病灶对象的第二子图像之间的单位模型匹配概率;所述条件匹配概率包括所述多个病灶对象的第一病灶区域和所述多个病灶对象的第二病灶区域之间的单位条件匹配概率;
组合单元133可以包括:选择子单元1331、组合子单元1332。
选择子单元1331,用于从所述多个单位模型匹配概率和所述多个单位条件匹配概率中,选择满足所述病灶匹配条件的匹配概率对,作为目标匹配概率对;所述目标匹配概率对包括一个单位模型匹配概率和一个单位条件匹配概率;
组合子单元1332,用于当所述目标匹配概率对中的单位模型匹配概率和单位条件匹配概率满足所述病灶匹配条件时,将所述目标概率匹配对的病灶对象作为目标病灶对象,并将所述目标病灶对象的目标象限位置信息和所述目标病灶对象的病灶属性,组合为所述医疗业务数据。
其中,选择子单元1331、组合子单元1332的具体功能实现方式可以参见上述图5对应实施例中的步骤S305,这里不再进行赘述。
请参见图8,医疗图像处理装置1可以包括:图像获取模块11、划分模块12、生成模块13,还可以包括:识别模块14、模型获取模块15。
识别模块14,用于获取正样本图像和负样本图像;所述正样本图像包括第一正样本图像和第二正样本图像;所述第一正样本图像和所述第二正样本图像对应相同病灶对象;所述负样本图像包括第一负样本图像和第二负样本图像;所述第一负样本图像和所述第二负样本图像对应不同病灶对象;
模型获取模块15,用于获取样本匹配模型;
所述识别模块14,还用于基于所述样本匹配模型,识别所述第一正样本图像和所述第二正样本图像之间的正样本预测概率,获取所述第一正样本图像和所述第二正样本图像之间的正样本概率,并确定所述正样本预测概率与所述正样本概率之间的正样本误差;
所述识别模块14,还用于基于所述样本匹配模型,识别所述第一负样本图像和所述第二负样本图像之间的负样本预测概率,获取所述第一负样本图像和所述第二负样本图像之间的负样本概率,并确定所述负样本预测概率与所述负样本概率之间的负样本误差;
所述识别模块14,还用于根据所述正样本误差和所述负样本误差调整所述样本匹配模型;
所述识别模块14,还用于当调整后的样本匹配模型满足收敛条件时,将调整后的样本匹配模型确定为所述目标匹配模型。
其中,识别模块14、模型获取模块15的具体功能实现方式可以参见上述图5对应实施例中的步骤S305,这里不再进行赘述。
请参见图8,模型获取模块15可以包括:模型获取单元151、生成单元152。
模型获取单元151,用于获取原始匹配模型;所述原始匹配模型是根据非生物组织图像训练得到的;
生成单元152,用于从所述原始匹配模型所包含的模型参数中,提取目标模型参数,基于迁移学习和所述目标模型参数生成所述样本匹配模型。
其中,模型获取单元151、生成单元152的具体功能实现方式可以参见上述图5对应实施例中的步骤S305,这里不再进行赘述。
进一步地,请参见图9,是本发明实施例提供的一种电子设备的结构示意图。上述图3-图7a对应实施例中的终端设备可以为电子设备1000,如图9所示,所述电子设备1000可以包括:用户接口1002、处理器1004、编码器1006以及存储器1008。信号接收器1016用于经由蜂窝接口1010、WIFI接口1012、...、或NFC接口1014接收或者发送数据。编码器1006将接收到的数据编码为计算机处理的数据格式。存储器1008中存储有计算机程序,处理器1004被设置为通过计算机程序执行上述任一项方法实施例中的步骤。存储器1008可包括易失性存储器(例如,动态随机存取存储器DRAM),还可以包括非易失性存储器(例如,一次性可编程只读存储器OTPROM)。在一些实例中,存储器1008可进一步包括相对于处理器1004远程设置的存储器,这些远程存储器可以通过网络连接至电子设备1000。用户接口1002可以包括:键盘1018和显示器1020。
在图9所示的电子设备1000中,处理器1004可以用于调用存储器1008中存储计算机程序,以实现:
获取包含生物组织的生物组织图像,识别所述生物组织中的病灶对象在所述生物组织图像中的第一区域,并识别与所述病灶对象匹配的病灶属性;
将所述生物组织在所述生物组织图像中的图像区域,划分为多个象限位置区域;
获取所述第一区域所在的象限位置区域的目标象限位置信息,根据所述目标象限位置信息和所述病灶属性生成医疗业务数据。
应当理解,本发明实施例中所描述的电子设备1000可执行前文图3到图7b所对应实施例中对所述医疗图像处理方法的描述,也可执行前文图8所对应实施例中对所述医疗图像处理装置1的描述,在此不再赘述。另外,对采用相同方法的有益效果描述,也不再进行赘述。
此外,这里需要指出的是:本发明实施例还提供了一种计算机存储介质,且所述计算机存储介质中存储有前文提及的医疗图像处理装置1所执行的计算机程序,且所述计算机程序包括程序指令,当所述处理器执行所述程序指令时,能够执行前文图3到图7b所对应实施例中对所述医疗图像处理方法的描述,因此,这里将不再进行赘述。另外,对采用相同方法的有益效果描述,也不再进行赘述。对于本发明所涉及的计算机存储介质实施例中未披露的技术细节,请参照本发明方法实施例的描述。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的程序可存储于一计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,所述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory,ROM)或随机存储记忆体(Random AccessMemory,RAM)等。
以上所揭露的仅为本发明较佳实施例而已,当然不能以此来限定本发明之权利范围,因此依本发明权利要求所作的等同变化,仍属本发明所涵盖的范围。

Claims (15)

1.一种医疗图像处理方法,其特征在于,包括:
获取包含生物组织的生物组织图像,识别所述生物组织中的病灶对象在所述生物组织图像中的第一区域,并识别与所述病灶对象匹配的病灶属性;
在所述生物组织图像中,根据所述生物组织中的第一组织对象将所述生物组织所在的区域划分为多个象限位置区域;
获取所述第一区域所在的象限位置区域的目标象限位置信息,将所述目标象限位置信息和所述病灶属性组合为诊断意见。
2.根据权利要求1所述的方法,其特征在于,所述生物组织是乳房;所述生物组织图像是乳腺钼靶图像;所述第一组织对象是乳头;
所述在所述生物组织图像中,根据所述生物组织中的第一组织对象将所述生物组织所在的区域划分为多个象限位置区域,包括:
识别所述乳头在所述乳腺钼靶图像中的第二区域;
根据所述第二区域在所述乳腺钼靶图像中确定象限分割线;
将所述乳房在所述乳腺钼靶图像中的图像区域作为组织图像区域,并根据所述象限分割线,将所述组织图像区域划分为所述多个象限位置区域。
3.根据权利要求2所述的方法,其特征在于,所述乳腺钼靶图像包括乳腺钼靶CC位图像和乳腺钼靶ML0位图像;所述乳腺钼靶CC位图像和所述乳腺钼靶ML0位图像是对所述乳房在不同方向上的成像;
所述识别所述乳头在所述乳腺钼靶图像中的第二区域,包括:
获取图像语义分割模型,基于所述图像语义分割模型确定所述乳头在所述乳腺钼靶CC位图像中的第一组织标识区域;
基于所述图像语义分割模型确定所述乳头在所述乳腺钼靶ML0位图像中的第二组织标识区域;
将所述第一组织标识区域和所述第二组织标识区域确定为所述第二区域。
4.根据权利要求3所述的方法,其特征在于,所述基于所述图像语义分割模型确定所述乳头在所述乳腺钼靶CC位图像中的第一组织标识区域,包括:
基于所述图像语义分割模型中的正向卷积层和转置卷积层,对所述乳腺钼靶CC位图像进行正向卷积和反向卷积,得到卷积特征图;
根据所述卷积特征图,确定所述乳腺钼靶CC位图像中每个像素点的组织类别;所述组织类别包括乳头类别;
将属于所述乳头类别的像素点组成的图像区域,作为所述乳头在所述乳腺钼靶CC位图像中的第一组织标识区域。
5.根据权利要求3所述的方法,特征在于,所述象限分割线包括与所述乳腺钼靶CC位图像对应的第一分割线以及与所述乳腺钼靶ML0位图像对应的第二分割线;组织类别还包括肌肉类别;
所述根据所述第二区域在所述乳腺钼靶图像中确定象限分割线,包括:
获取所述乳房在所述乳腺钼靶CC位图像中的边缘分界线,根据所述第一组织标识区域和所述边缘分界线,在所述乳腺钼靶CC位图像中确定所述第一分割线;
将属于所述肌肉类别的像素点组成的图像区域,作为所述乳腺钼靶ML0位图像中的肌肉在所述乳腺钼靶ML0位图像中的对象区域;
确定所述对象区域的对象分界线,根据所述第二组织标识区域和所述对象分界线,在所述乳腺钼靶ML0位图像中确定所述第二分割线。
6.根据权利要求5所述的方法,其特征在于,所述将所述乳房在所述乳腺钼靶图像中的图像区域作为组织图像区域,并根据所述象限分割线,将所述组织图像区域划分为所述多个象限位置区域,包括:
将所述乳房在所述乳腺钼靶CC位图像中的图像区域作为第一组织图像区域,在所述乳腺钼靶CC位图像中,根据所述第一分割线将所述第一组织图像区域划分为内象限位置区域和外象限位置区域;
将所述乳房在所述乳腺钼靶ML0位图像中的图像区域作为第二组织图像区域,在所述乳腺钼靶ML0位图像中,根据所述第二分割线将所述第二组织图像区域划分为上象限位置区域和下象限位置区域;
将所述内象限位置区域、所述外象限位置区域、所述上象限位置区域和所述下象限位置区域确定为所述象限位置区域。
7.根据权利要求1所述的方法,其特征在于,所述第一区域包括所述病灶对象在乳腺钼靶CC位图像中的第一病灶区域和所述病灶对象在乳腺钼靶ML0位图像中的第二病灶区域;所述生物组织图像包括所述乳腺钼靶CC位图像和所述乳腺钼靶ML0位图像;
所述将所述目标象限位置信息和所述病灶属性组合为诊断意见,包括:
从所述乳腺钼靶CC位图像中提取与所述第一病灶区域对应的第一子图像;
从所述乳腺钼靶ML0位图像中提取与所述第二病灶区域对应的第二子图像;
获取目标匹配模型,基于所述目标匹配模型识别所述第一子图像和所述第二子图像之间的模型匹配概率;
获取所述第一病灶区域和所述第二病灶区域之间的条件匹配概率,当所述模型匹配概率和所述条件匹配概率满足病灶匹配条件时,将所述目标象限位置信息和所述病灶属性组合为所述诊断意见。
8.根据权利要求7所述的方法,其特征在于,所述获取所述第一病灶区域和所述第二病灶区域之间的条件匹配概率,包括:
确定所述第一病灶区域在所述乳腺钼靶CC位图像中的第一区域尺寸,并确定所述第二病灶区域在所述乳腺钼靶ML0位图像中的第二区域尺寸,根据所述第一区域尺寸和所述第二区域尺寸生成尺寸匹配概率;
确定所述第一病灶区域与所述乳腺钼靶CC位图像中的乳头对应的图像区域之间的第一区域距离,并确定所述第二病灶区域与所述乳腺钼靶ML0位图像中的乳头对应的图像区域之间的第二区域距离;
根据所述第一区域距离和所述第二区域距离生成距离匹配概率;
将所述尺寸匹配概率和所述距离匹配概率确定为所述条件匹配概率。
9.根据权利要求7所述的方法,其特征在于,还包括:
若所述模型匹配概率、所述条件匹配概率中的尺寸匹配概率和距离匹配概率均大于预设概率阈值,则确定所述模型匹配概率和所述条件匹配概率满足所述病灶匹配条件。
10.根据权利要求7所述的方法,其特征在于,所述乳腺钼靶图像中的病灶对象的数量为多个;所述模型匹配概率包括所述多个病灶对象的第一子图像和所述多个病灶对象的第二子图像之间的单位模型匹配概率;所述条件匹配概率包括所述多个病灶对象的第一病灶区域和所述多个病灶对象的第二病灶区域之间的单位条件匹配概率;
所述当所述模型匹配概率和所述条件匹配概率满足病灶匹配条件时,将所述目标象限位置信息和所述病灶属性组合为所述诊断意见,包括:
从所述多个单位模型匹配概率和所述多个单位条件匹配概率中,选择满足所述病灶匹配条件的匹配概率对,作为目标匹配概率对;所述目标匹配概率对包括一个单位模型匹配概率和一个单位条件匹配概率;
当所述目标匹配概率对中的单位模型匹配概率和单位条件匹配概率满足所述病灶匹配条件时,将所述目标概率匹配对的病灶对象作为目标病灶对象,并将所述目标病灶对象的目标象限位置信息和所述目标病灶对象的病灶属性,组合为所述诊断意见。
11.根据权利要求7所述的方法,其特征在于,还包括:
获取正样本图像和负样本图像;所述正样本图像包括对应同一病灶对象的第一正样本图像和第二正样本图像;所述负样本图像包括对应不同病灶对象的第一负样本图像和第二负样本图像;所述正样本图像和所述负样本图像均属于乳腺钼靶图像;
采用所述正样本图像和所述负样本图像,基于反向传播对样本匹配模型进行训练,得到所述目标匹配模型;所述样本匹配模型中的模型参数是基于迁移学习从原始匹配模型得到的;所述原始匹配模型是识别非生物组织图像类型的分类模型。
12.一种电子医疗设备,其特征在于,包括生物组织图像采集器和生物组织图像分析器;
所述生物组织图像采集器,用于获取包含生物组织的生物组织图像;
所述生物组织图像分析器,用于识别所述生物组织中的病灶对象在所述生物组织图像中的第一区域,并识别与所述病灶对象匹配的病灶属性;
所述生物组织图像分析器,还用于在所述生物组织图像中,根据所述生物组织中的第一组织对象将所述生物组织所在的区域划分为多个象限位置区域;
所述生物组织图像分析器,还用于获取所述第一区域所在的象限位置区域的目标象限位置信息,将所述目标象限位置信息和所述病灶属性组合为诊断意见。
13.根据权利要求12所述的电子医疗设备,其特征在于,所述生物组织是乳房;所述生物组织图像是乳腺钼靶图像;所述第一组织对象是乳头;
所述生物组织图像分析器具体用于:识别所述乳头在所述乳腺钼靶图像中的第二区域,根据所述第二区域在所述乳腺钼靶图像中确定象限分割线,根据所述象限分割线,将所述乳房在所述乳腺钼靶图像中的图像区域作为组织图像区域,并根据所述象限分割线,将所述组织图像区域划分为所述多个象限位置区域。
14.一种电子设备,其特征在于,包括:处理器和存储器;
所述处理器和存储器相连,其中,所述存储器用于存储计算机程序,所述处理器用于调用所述计算机程序,以执行如权利要求1-11任一项所述的方法。
15.一种计算机存储介质,其特征在于,所述计算机存储介质存储有计算机程序,所述计算机程序包括程序指令,所述程序指令当被处理器执行时,执行如权利要求1-11任一项所述的方法。
CN201910718873.9A 2019-05-22 2019-05-22 一种医疗图像处理方法、装置、电子医疗设备和存储介质 Active CN110491480B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910718873.9A CN110491480B (zh) 2019-05-22 2019-05-22 一种医疗图像处理方法、装置、电子医疗设备和存储介质

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN201910429414.9A CN110136809B (zh) 2019-05-22 2019-05-22 一种医疗图像处理方法、装置、电子医疗设备和存储介质
CN201910718873.9A CN110491480B (zh) 2019-05-22 2019-05-22 一种医疗图像处理方法、装置、电子医疗设备和存储介质

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
CN201910429414.9A Division CN110136809B (zh) 2019-05-22 2019-05-22 一种医疗图像处理方法、装置、电子医疗设备和存储介质

Publications (2)

Publication Number Publication Date
CN110491480A true CN110491480A (zh) 2019-11-22
CN110491480B CN110491480B (zh) 2021-04-30

Family

ID=67572156

Family Applications (2)

Application Number Title Priority Date Filing Date
CN201910429414.9A Active CN110136809B (zh) 2019-05-22 2019-05-22 一种医疗图像处理方法、装置、电子医疗设备和存储介质
CN201910718873.9A Active CN110491480B (zh) 2019-05-22 2019-05-22 一种医疗图像处理方法、装置、电子医疗设备和存储介质

Family Applications Before (1)

Application Number Title Priority Date Filing Date
CN201910429414.9A Active CN110136809B (zh) 2019-05-22 2019-05-22 一种医疗图像处理方法、装置、电子医疗设备和存储介质

Country Status (4)

Country Link
US (2) US11984225B2 (zh)
EP (1) EP3975196A4 (zh)
CN (2) CN110136809B (zh)
WO (1) WO2020233272A1 (zh)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110956218A (zh) * 2019-12-10 2020-04-03 同济人工智能研究院(苏州)有限公司 基于Heatmap的Nao机器人目标检测足球候选点的生成方法
CN111128347A (zh) * 2019-12-10 2020-05-08 青岛海信医疗设备股份有限公司 医学影像显示方法和通信终端
CN111462082A (zh) * 2020-03-31 2020-07-28 重庆金山医疗技术研究院有限公司 一种病灶图片识别装置、方法、设备及可读存储介质
CN111768878A (zh) * 2020-06-30 2020-10-13 杭州依图医疗技术有限公司 可视化指引病灶的方法及计算机可读存储介质
CN111863204A (zh) * 2020-07-22 2020-10-30 北京青燕祥云科技有限公司 基于钼靶x线摄影检查的乳腺疾病ai辅助诊断方法及系统
CN112712878A (zh) * 2020-12-30 2021-04-27 四川桑瑞思环境技术工程有限公司 一种数字化手术室系统和控制方法
CN113435233A (zh) * 2020-03-23 2021-09-24 北京金山云网络技术有限公司 色情图像识别方法、系统及电子设备
CN113570567A (zh) * 2021-07-23 2021-10-29 无锡祥生医疗科技股份有限公司 超声图像中目标组织的监测方法、装置及存储介质

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111095263A (zh) 2017-06-26 2020-05-01 纽约州立大学研究基金会 用于虚拟胰造影术的系统、方法和计算机可访问介质
CN110136809B (zh) * 2019-05-22 2022-12-27 腾讯科技(深圳)有限公司 一种医疗图像处理方法、装置、电子医疗设备和存储介质
CN110490262B (zh) 2019-08-22 2022-06-03 京东方科技集团股份有限公司 图像处理模型生成方法、图像处理方法、装置及电子设备
CN110647947B (zh) * 2019-09-30 2022-04-15 杭州依图医疗技术有限公司 一种病灶融合的方法及装置
CN110852258A (zh) * 2019-11-08 2020-02-28 北京字节跳动网络技术有限公司 物体检测方法、装置、设备及存储介质
CN111755118B (zh) * 2020-03-16 2024-03-08 腾讯科技(深圳)有限公司 医疗信息处理方法、装置、电子设备及存储介质
CN111611947B (zh) * 2020-05-25 2024-04-09 济南博观智能科技有限公司 一种车牌检测方法、装置、设备及介质
CN112906582A (zh) * 2021-02-25 2021-06-04 深圳市朗驰欣创科技股份有限公司 数字识别方法、装置、终端设备及存储介质
CN113066080B (zh) * 2021-04-19 2024-07-26 广州信瑞医疗技术有限公司 切片组织识别方法、装置,细胞识别模型及组织分割模型
CN113487480B (zh) * 2021-06-30 2024-06-14 北京达佳互联信息技术有限公司 图像处理方法、装置、电子设备及计算机可读存储介质
CN113764077B (zh) * 2021-07-27 2024-04-19 上海思路迪生物医学科技有限公司 病理图像的处理方法、装置、电子设备与存储介质
US20230085786A1 (en) * 2021-09-23 2023-03-23 The Joan and Irwin Jacobs Technion-Cornell Institute Multi-stage machine learning techniques for profiling hair and uses thereof
CN114424948B (zh) * 2021-12-15 2024-05-24 上海交通大学医学院附属瑞金医院 一种分布式的超声扫查系统及通信方法
CN114429459A (zh) * 2022-01-24 2022-05-03 上海商汤智能科技有限公司 目标检测模型的训练方法及对应的检测方法

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101727537A (zh) * 2009-11-16 2010-06-09 杭州电子科技大学 基于双视角信息融合的乳腺cr图像的计算机确定方法
US20120014578A1 (en) * 2010-07-19 2012-01-19 Qview Medical, Inc. Computer Aided Detection Of Abnormalities In Volumetric Breast Ultrasound Scans And User Interface
CN103815926A (zh) * 2014-03-07 2014-05-28 杭州千思科技有限公司 乳腺癌检测方法和装置
CN105979875A (zh) * 2014-02-04 2016-09-28 皇家飞利浦有限公司 生成乳房参数图
CN106339591A (zh) * 2016-08-25 2017-01-18 汤平 一种基于深度卷积神经网络的预防乳腺癌自助健康云服务系统
CN107680678A (zh) * 2017-10-18 2018-02-09 北京航空航天大学 基于多尺度卷积神经网络甲状腺超声图像结节自动诊断系统
CN108427951A (zh) * 2018-02-08 2018-08-21 腾讯科技(深圳)有限公司 图像处理方法、装置、存储介质和计算机设备
CN108682015A (zh) * 2018-05-28 2018-10-19 科大讯飞股份有限公司 一种生物图像中的病灶分割方法、装置、设备及存储介质
CN109461495A (zh) * 2018-11-01 2019-03-12 腾讯科技(深圳)有限公司 一种医学图像的识别方法、模型训练的方法及服务器
CN109493343A (zh) * 2018-12-29 2019-03-19 上海鹰瞳医疗科技有限公司 医疗图像异常区域分割方法及设备
CN110458883A (zh) * 2019-03-07 2019-11-15 腾讯科技(深圳)有限公司 一种医疗影像的处理系统、方法、装置和设备

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1839762A (zh) * 2005-03-30 2006-10-04 林礼务 超声解剖定位工作站
US8064677B2 (en) * 2009-11-25 2011-11-22 Fujifilm Corporation Systems and methods for measurement of objects of interest in medical images
DE102014208411A1 (de) * 2014-05-06 2015-11-12 Siemens Aktiengesellschaft Auswertung eines während einer Mammographie erzeugten Röntgenbildes einer Brust
CN204033359U (zh) * 2014-08-01 2014-12-24 湖北省肿瘤医院 基于双视角乳腺x线摄片的钙化灶定位装置
US9959617B2 (en) 2016-01-28 2018-05-01 Taihao Medical Inc. Medical image processing apparatus and breast image processing method thereof
CN106682435B (zh) * 2016-12-31 2021-01-29 西安百利信息科技有限公司 一种多模型融合自动检测医学图像中病变的系统及方法
US10452927B2 (en) * 2017-08-09 2019-10-22 Ydrive, Inc. Object localization within a semantic domain
CN109583440B (zh) 2017-09-28 2021-12-17 北京西格码列顿信息技术有限公司 结合影像识别与报告编辑的医学影像辅助诊断方法及系统
WO2019075276A1 (en) * 2017-10-11 2019-04-18 Aquifi, Inc. SYSTEMS AND METHODS FOR IDENTIFYING OBJECT
CN108304841B (zh) * 2018-01-26 2022-03-08 腾讯科技(深圳)有限公司 乳头定位方法、装置及存储介质
CN110363210B (zh) * 2018-04-10 2023-05-05 腾讯科技(深圳)有限公司 一种图像语义分割模型的训练方法和服务器
US10789288B1 (en) * 2018-05-17 2020-09-29 Shutterstock, Inc. Relational model based natural language querying to identify object relationships in scene
CN109002846B (zh) * 2018-07-04 2022-09-27 腾讯医疗健康(深圳)有限公司 一种图像识别方法、装置和存储介质
CN109087327B (zh) * 2018-07-13 2021-07-06 天津大学 一种级联全卷积神经网络的甲状腺结节超声图像分割方法
CN109447966A (zh) * 2018-10-26 2019-03-08 科大讯飞股份有限公司 医学图像的病灶定位识别方法、装置、设备及存储介质
CN110473186B (zh) 2019-02-14 2021-02-09 腾讯科技(深圳)有限公司 一种基于医学图像的检测方法、模型训练的方法及装置
US11410303B2 (en) * 2019-04-11 2022-08-09 Agilent Technologies Inc. Deep learning based instance segmentation via multiple regression layers
US11763558B1 (en) * 2019-04-19 2023-09-19 Apple Inc. Visualization of existing photo or video content
CN110136809B (zh) * 2019-05-22 2022-12-27 腾讯科技(深圳)有限公司 一种医疗图像处理方法、装置、电子医疗设备和存储介质
US10885386B1 (en) * 2019-09-16 2021-01-05 The Boeing Company Systems and methods for automatically generating training image sets for an object

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101727537A (zh) * 2009-11-16 2010-06-09 杭州电子科技大学 基于双视角信息融合的乳腺cr图像的计算机确定方法
US20120014578A1 (en) * 2010-07-19 2012-01-19 Qview Medical, Inc. Computer Aided Detection Of Abnormalities In Volumetric Breast Ultrasound Scans And User Interface
CN105979875A (zh) * 2014-02-04 2016-09-28 皇家飞利浦有限公司 生成乳房参数图
CN103815926A (zh) * 2014-03-07 2014-05-28 杭州千思科技有限公司 乳腺癌检测方法和装置
CN106339591A (zh) * 2016-08-25 2017-01-18 汤平 一种基于深度卷积神经网络的预防乳腺癌自助健康云服务系统
CN107680678A (zh) * 2017-10-18 2018-02-09 北京航空航天大学 基于多尺度卷积神经网络甲状腺超声图像结节自动诊断系统
CN108427951A (zh) * 2018-02-08 2018-08-21 腾讯科技(深圳)有限公司 图像处理方法、装置、存储介质和计算机设备
CN108682015A (zh) * 2018-05-28 2018-10-19 科大讯飞股份有限公司 一种生物图像中的病灶分割方法、装置、设备及存储介质
CN109461495A (zh) * 2018-11-01 2019-03-12 腾讯科技(深圳)有限公司 一种医学图像的识别方法、模型训练的方法及服务器
CN109493343A (zh) * 2018-12-29 2019-03-19 上海鹰瞳医疗科技有限公司 医疗图像异常区域分割方法及设备
CN110458883A (zh) * 2019-03-07 2019-11-15 腾讯科技(深圳)有限公司 一种医疗影像的处理系统、方法、装置和设备

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
徐伟栋: "乳腺X线图像的计算机辅助诊断技术研究", 《中国优秀博士学位论文全文数据库》 *
蒋越峰: "乳腺X线图象计算机辅助诊断算法研究", 《中国优秀硕士学位论文全文数据库》 *

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110956218A (zh) * 2019-12-10 2020-04-03 同济人工智能研究院(苏州)有限公司 基于Heatmap的Nao机器人目标检测足球候选点的生成方法
CN111128347A (zh) * 2019-12-10 2020-05-08 青岛海信医疗设备股份有限公司 医学影像显示方法和通信终端
CN113435233A (zh) * 2020-03-23 2021-09-24 北京金山云网络技术有限公司 色情图像识别方法、系统及电子设备
CN113435233B (zh) * 2020-03-23 2024-03-05 北京金山云网络技术有限公司 色情图像识别方法、系统及电子设备
CN111462082A (zh) * 2020-03-31 2020-07-28 重庆金山医疗技术研究院有限公司 一种病灶图片识别装置、方法、设备及可读存储介质
CN111768878A (zh) * 2020-06-30 2020-10-13 杭州依图医疗技术有限公司 可视化指引病灶的方法及计算机可读存储介质
CN111863204A (zh) * 2020-07-22 2020-10-30 北京青燕祥云科技有限公司 基于钼靶x线摄影检查的乳腺疾病ai辅助诊断方法及系统
CN112712878A (zh) * 2020-12-30 2021-04-27 四川桑瑞思环境技术工程有限公司 一种数字化手术室系统和控制方法
CN113570567A (zh) * 2021-07-23 2021-10-29 无锡祥生医疗科技股份有限公司 超声图像中目标组织的监测方法、装置及存储介质

Also Published As

Publication number Publication date
US11984225B2 (en) 2024-05-14
US20240266054A1 (en) 2024-08-08
CN110136809B (zh) 2022-12-27
US20210343016A1 (en) 2021-11-04
WO2020233272A1 (zh) 2020-11-26
CN110136809A (zh) 2019-08-16
CN110491480B (zh) 2021-04-30
EP3975196A1 (en) 2022-03-30
EP3975196A4 (en) 2022-10-19

Similar Documents

Publication Publication Date Title
CN110491480A (zh) 一种医疗图像处理方法、装置、电子医疗设备和存储介质
CN112101451B (zh) 一种基于生成对抗网络筛选图像块的乳腺癌组织病理类型分类方法
CN108257135A (zh) 基于深度学习方法解读医学图像特征的辅助诊断系统
CN106372390B (zh) 一种基于深度卷积神经网络的预防肺癌自助健康云服务系统
CN110070935B (zh) 基于对抗神经网络的医学图像合成方法、分类方法及装置
CN110473186B (zh) 一种基于医学图像的检测方法、模型训练的方法及装置
CN108416776A (zh) 图像识别方法、图像识别装置、计算机产品和可读存储介质
CN109389584A (zh) 基于cnn的多尺度鼻咽肿瘤分割方法
CN110459319A (zh) 基于人工智能的乳腺钼靶图像的辅助诊断系统
CN109741317B (zh) 医学影像智能评价方法
CN110175998A (zh) 基于多尺度深度学习的乳腺癌图像识别方法、装置及介质
CN108765392B (zh) 一种基于滑动窗口的消化道内镜病变检测和识别方法
CN107909622A (zh) 模型生成方法、医学成像的扫描规划方法及医学成像系统
CN112037200A (zh) 一种医学影像中解剖特征自动识别与模型重建方法
CN111583385B (zh) 一种可变形数字人解剖学模型的个性化变形方法及系统
CN110648309B (zh) 基于条件生成对抗网络合成红细胞图像的方法及相关设备
CN109741316A (zh) 医学影像智能评片系统
JP7404535B2 (ja) コンピュータビジョンに基づく導管特徴取得方法、並びに知能顕微鏡、導管組織特徴取得装置、コンピュータプログラム、及びコンピュータ機器
CN110264460A (zh) 一种目标检测结果的鉴别方法、装置、设备及存储介质
Tsietso et al. Multi-input deep learning approach for breast cancer screening using thermal infrared imaging and clinical data
CN111598144B (zh) 图像识别模型的训练方法和装置
WO2024074921A1 (en) Distinguishing a disease state from a non-disease state in an image
CN110008925A (zh) 一种基于集成学习的皮肤自动检测方法
CN113397485A (zh) 一种基于深度学习的脊柱侧弯筛查方法
CN110473176A (zh) 图像处理方法及装置、眼底图像处理方法、电子设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant