CN112702947A - 诊断辅助系统以及方法 - Google Patents

诊断辅助系统以及方法 Download PDF

Info

Publication number
CN112702947A
CN112702947A CN201980060132.4A CN201980060132A CN112702947A CN 112702947 A CN112702947 A CN 112702947A CN 201980060132 A CN201980060132 A CN 201980060132A CN 112702947 A CN112702947 A CN 112702947A
Authority
CN
China
Prior art keywords
image data
type
actual
image
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201980060132.4A
Other languages
English (en)
Inventor
竹本贤平
笠井航
青山裕纪
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Splink Inc
Original Assignee
Splink Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Splink Inc filed Critical Splink Inc
Publication of CN112702947A publication Critical patent/CN112702947A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/20ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • G06T7/0014Biomedical image inspection using an image reference approach
    • G06T7/0016Biomedical image inspection using an image reference approach involving temporal comparison
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • A61B6/52Devices using data or image processing specially adapted for radiation diagnosis
    • A61B6/5211Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data
    • A61B6/5229Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data combining image data of a patient, e.g. combining a functional image with an anatomical image
    • A61B6/5235Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data combining image data of a patient, e.g. combining a functional image with an anatomical image combining images from the same or different ionising radiation imaging techniques, e.g. PET and CT
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • A61B6/52Devices using data or image processing specially adapted for radiation diagnosis
    • A61B6/5211Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data
    • A61B6/5229Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data combining image data of a patient, e.g. combining a functional image with an anatomical image
    • A61B6/5247Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data combining image data of a patient, e.g. combining a functional image with an anatomical image combining images from an ionising-radiation diagnostic technique and a non-ionising radiation diagnostic technique, e.g. X-ray and ultrasound
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/05Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves 
    • A61B5/055Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves  involving electronic [EMR] or nuclear [NMR] magnetic resonance, e.g. magnetic resonance imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • A61B6/02Arrangements for diagnosis sequentially in different planes; Stereoscopic radiation diagnosis
    • A61B6/03Computed tomography [CT]
    • A61B6/032Transmission computed tomography [CT]
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • A61B6/02Arrangements for diagnosis sequentially in different planes; Stereoscopic radiation diagnosis
    • A61B6/03Computed tomography [CT]
    • A61B6/037Emission tomography
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10081Computed x-ray tomography [CT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10088Magnetic resonance imaging [MRI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10104Positron emission tomography [PET]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30016Brain

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Public Health (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Pathology (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Primary Health Care (AREA)
  • Epidemiology (AREA)
  • Optics & Photonics (AREA)
  • Animal Behavior & Ethology (AREA)
  • Biophysics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Molecular Biology (AREA)
  • Veterinary Medicine (AREA)
  • High Energy & Nuclear Physics (AREA)
  • Surgery (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Quality & Reliability (AREA)
  • General Physics & Mathematics (AREA)
  • Magnetic Resonance Imaging Apparatus (AREA)
  • Nuclear Medicine (AREA)
  • Image Analysis (AREA)
  • Apparatus For Radiation Diagnosis (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)

Abstract

提供针对就诊者(5)的疾病的诊断辅助信息(110)的系统(10)具有:获取单元(11),其获取就诊者的包含MR图像的实际图像数据(15)的就诊者信息(105),该MR图像的实际图像数据(15)至少包含参照区域,该参照区域的一部分包含评价对象区域;以及信息提供单元(12),其通过图像处理模型(60)来提供诊断辅助信息(110),该图像处理模型(60)是基于包括多个被检对象的参照区域的MR图像的实际图像数据(71)和包含评价对象区域的PET图像的实际图像数据(72)的训练数据(70)、以根据参照区域的MR图像的实际图像数据(71)生成评价对象区域的疑似PET图像数据(75)的方式进行机器学习所得到的模型,该诊断辅助信息(110)是基于根据就诊者的个别的MR图像的实际图像数据(15)生成的评价对象区域的疑似PET图像数据(115)的信息。

Description

诊断辅助系统以及方法
技术领域
本发明涉及一种用于辅助生物体等复杂系统的诊断的系统以及方法。
背景技术
作为用于诊断被检对象(被检者)的形态和功能的装置,已知CT(ComputedTomography:计算机断层扫描)、MRI(Magnetic Resonance Imaging:磁共振成像)、PET(Positron Emission Tomography:正电子发射断层扫描)、SPECT(Single PhotonEmission Computed Tomography:单光子发射计算机断层扫描)、PET-CT等各种断层摄影装置(模态),且被实际应用于痴呆症、帕金森病等疾病的诊断。PET和SPECT通过静脉注射等将放射性药剂投放到被检者的体内,在体内拍摄从该药剂释放的放射线,由此生成图像。根据使用了药剂的图像,不仅能够使医生掌握体内的各部位的形态,而且能够使医生掌握被投放到体内的药剂如何分布、或者与该药剂发生反应的体内的物质的聚集的情形等,因此能够有助于疾病的诊断精度的提高。例如,将通称匹兹堡化合物B用作PET用放射性药剂(示踪剂)来拍摄PET图像,基于所拍摄到的PET图像来测定脑内的淀粉样蛋白β的蓄积程度,由此能够有助于阿尔茨海默型痴呆症的鉴别诊断或早期诊断。
PET图像等使用药剂拍摄到的图像具有各种优点,另一方面还具有几个缺点。例如,使用了药剂的图像的摄像一般与不使用药剂的MRI等的摄像相比价格高,因此被检者或者负担被检者的检查费用的健康保险行会等的金钱负担有可能变重。另外,在使用放射性的药剂的PET图像等的摄像中,尽管是少量的但也必须将放射性物质摄取到体内,有可能受到辐射。另外,患有肾脏病等特定疾病的人还有时无法使用药剂进行图像的摄像以避免不良影响。
在Apoorva Sikka等人于2018年7月30日发表的“从MRI向FDG-PET:使用了用于多模式阿尔茨海默分类的3D·U-Net的跨模态合成(MRI to FDG-PET:Cross-ModalSynthesis Using 3D U-Net For Multi-Modal Alzheimer's Classification)”([线上],康奈尔大学图书馆(Cornell University Library)[2018年8月31日检索],因特网(URL:https://arxiv.Org/abs/1807.10111v1)(以后,设为Sikka等来进行参照)中,启示了通过测定脑萎缩的磁共振成像法(MRI)和对代谢降低进行定量化的正电子发射断层摄影(PET)的组合分析来使阿尔茨海默病的诊断精度提高,并指出了这种方法受到各模态所对应的扫描的可用性的限制。因此,公开了一种聚焦于跨模态方法的研究,该跨模态方法用于使用3D·U-Net构架来根据特定的MR扫描估计FDG-PET扫描。在该文献中公开了以下内容:如果使用完整的MR图像来代替基于局域斑块的方法,则有助于捕获MRI与PET模态之间的非局部及非线性相关性。此外,FDG-PET图像是指投放了将作为标记的“正电子核素(正电子发射核素)”合成于葡萄糖(glucose)所得到的药剂后拍摄到的PET图像。
发明内容
为了减轻就诊者等的负担、提高基于图像的诊断精度,根据MRI图像等不使用药剂的图像估计PET图像等使用了药剂的图像并将其实际应用于诊断的方法是有用的。为此,还希望提高所估计出的图像或者根据所估计出的图像得到的信息的有用性。
本发明的一个方式是一种具有获取单元的系统、例如诊断辅助系统,所述获取单元获取就诊对象的至少包含参照区域的第一类型的个别的实际图像数据,所述参照区域的一部分包含评价对象区域。该系统还具有信息提供单元,该信息提供单元通过图像处理模型来提供诊断辅助信息,所述图像处理模型是基于包括多个被检对象的第一类型的参照区域的实际图像数据和第二类型的包含评价对象区域的实际图像数据的训练数据、以根据第一类型的参照区域的实际图像数据生成第二类型的评价对象区域的疑似图像数据的方式进行学习所得到的模型,所述诊断辅助信息是基于根据就诊对象的第一类型的个别的实际图像数据生成的第二类型的评价对象区域的疑似图像数据的信息。
图像处理模型是基于训练数据(教师数据、学习数据)以根据参照区域的第一类型的实际图像数据生成评价区域的第二类型的疑似图像数据的方式进行机器学习所得到的模型,所述训练数据包括一部分包含评价对象区域的参照区域的第一类型的实际图像数据和包含评价区域的第二类型的实际图像数据。相对于以根据一部分包含评价对象区域的参照区域的第一类型的实际图像数据同样地生成一部分包含评价对象区域的参照区域的第二类型的疑似图像数据的方式进行机器学习所得到的模型而言,以生成限定成评价对象区域的第二类型的疑似图像数据的方式进行机器学习所得到的本发明所涉及的图像处理模型是积极地利用第一类型的实际图像数据的除参照区域的评价对象区域以外的信息以生成第二类型的评价对象区域的疑似图像数据的方式进行机器学习所得到的模型。因而,通过使用该图像处理模型,能够根据就诊对象的第一类型的个别的实际图像数据生成精度更高的第二类型的评价对象区域的疑似图像数据,能够提供基于该疑似图像数据的诊断辅助信息。
在从该系统提供的诊断辅助信息中,既可以包含评价对象区域的第二类型的疑似图像数据,也可以包含第一类型的个别的实际图像数据,还可以包含对第二类型的疑似图像数据和/或第二类型的实际图像数据进行解析所得到的结果。
附图说明
图1是示出包括诊断辅助系统的诊断辅助网络的一例的图。
图2是示出训练数据的概要的图,行(a)是脑整体的MR图像,行(b)是脑整体的PET图像,行(c)是脑的关心区域(评价对象区域)的MR图像,行(d)是脑的关心区域的PET图像。
图3是根据训练数据学习到的模型所生成(估计出)的图像的一例,行(a)是脑的关心区域的疑似PET图像,行(b)是脑整体的疑似PET图像。
图4是横轴设为实际指标值、纵轴设为疑似指标值的图表,是将与各个训练数据集有关的实际指标值及疑似指标值的组显示为一个点的图表。
图5是横轴设为实际指标值、纵轴设为疑似指标值的图表,是将与各个测试数据集有关的实际指标值及疑似指标值的组显示为一个点的图表。
图6示出根据由模型生成的疑似PET图像得到的疑似SUVR(predSUVR)与根据实际PET图像得到的SUVR值的相关性,该模型是以生成评价对象区域的疑似PET的方式进行学习而得到的,(a)表示所有被检者的相关性,(b)表示被诊断为AD的被检者的相关性,(c)表示被诊断为MCI的被检者的相关性,(d)表示被认为是CN的被检者的相关性。
图7示出根据由模型生成的疑似PET图像得到的疑似SUVR(predSUVR)与根据实际PET图像得到的SUVR值的相关性,该模型是以生成脑整体的疑似PET的方式进行学习而得到的,(a)表示所有被检者的相关性,(b)表示AD的相关性,(c)表示MCI的相关性,(d)表示CN的相关性。
图8是示出基因与SUVR的相关性的图。
图9是示出根据由模型生成的疑似PET图像得到的疑似SUVR(predSUVR)与根据实际PET图像得到的SUVR值的相关性,该模型是以包含生物标记地生成疑似PET的方式进行学习而得到的,(a)表示所有被检者的相关性,(b)表示AD的相关性,(c)表示MCI的相关性,(d)表示CN的相关性。
图10是示出图像处理模型生成装置的概要的框图。
图11是示出图像处理模型的生成过程的概要的流程图。
图12是示出预处理的概要的流程图。
图13是示出图像处理模型的生成处理的概要的流程图。
图14是示出学习处理的概要的流程图。
图15是示出U-NET的概要的图。
图16是示出评价处理的概要的流程图。
图17是示出不同的学习处理的概要的流程图。
图18是示出诊断辅助终端的概要的框图。
图19是示出提供诊断辅助信息的处理的概要的流程图。
具体实施方式
图1示出包括诊断辅助系统的诊断辅助网络的概要。该诊断辅助网络1包括分别设置在一个或多个医疗机关200中的终端210以及与这些终端210以能够经由因特网(云)9进行通信的方式连接的诊断辅助系统100。医疗机关200包括获取用于诊断就诊对象(就诊者)5的形态和功能等的图像的断层摄影装置(模态)221~224。摄影装置的一例是获取就诊者5的MR图像(MRI)15的MRI装置221,关于其它例子,既可以是获取PET图像的PET装置222,也可以是获取SPECT图像的SPECT装置223,还可以是获取CT图像的CT装置224。各医疗机关200也可以不具备这些全部的断层摄影装置221~224,诊断辅助系统100基于由MRI装置221或CT装置224获取到的图像来估计PET图像或SPECT图像并提供诊断辅助信息110。
医疗机关200的终端(诊断辅助终端、医疗辅助系统)210包括向医生8或医务人员提供诊断辅助信息110的图像显示装置25和处理终端20。处理终端20是具备包括CPU 28和存储器(存储介质)29的计算机资源的计算机终端,其包括:输入接口(获取单元、获取功能、获取模块)21,其获取就诊者5的属性信息14;发送接收接口(通信功能、通信模块)22,其将包含用MRI装置221拍摄到的MR图像15和就诊者5的属性信息14的就诊者信息105向诊断辅助系统100发送;以及输出接口(输出单元、输出功能、输出模块)23,其经由图像显示装置25等显示(输出)从诊断辅助系统100提供的诊断辅助信息110。处理终端20包括程序(程序产品)29p,该程序29p包含用于通过由CPU 28下载并执行来执行上述功能的命令,程序29p既可以保存在存储器29中,也可以由外部的存储介质来提供。
经由网络9向医疗机关200的终端210提供诊断辅助信息110的诊断辅助系统100包括诊断辅助模块(诊断辅助功能、诊断辅助单元)10和模型提供模块(模型提供功能、模型提供单元)50。诊断辅助系统100的一例是具备包括CPU101和存储器(存储介质、第一存储部)102的计算机资源的服务器。诊断辅助系统100包括程序(程序产品)10p和50p,该程序(程序产品)10p和50p包含用于通过由CPU 101下载并执行来执行作为上述模块10和50的功能的命令,这些程序10p和50p既可以保存在存储器102中,也可以由外部的存储介质来提供。
诊断辅助模块10包括:获取单元(获取模块、输入接口)11,其获取就诊对象(就诊者)5的包含第一类型的个别的实际图像数据15的就诊者信息105,该第一类型的个别的实际图像数据15至少包含参照区域,该参照区域的一部分包含评价对象区域;以及信息提供单元(信息提供模块、信息提供功能、信息输出接口)12,其通过学习完毕的图像处理模型60来提供从就诊者信息105得到的诊断辅助信息110。提供图像处理模型60的模型提供模块50包括:存储器接口51,其能够访问保存有训练数据(学习数据、教师数据)70的存储器(储存器、存储部)102;学习部(学习单元、学习模块、学习功能)53,其基于训练数据70学习图像处理模型60;以及模型输出单元52,其输出学习完毕的模型(图像处理模型)60。
训练数据70包括多个被检对象(被检者)的第一类型的参照区域的实际图像数据71和第二类型的包含评价对象区域的实际图像数据72。这些数据是三维的图像数据,以下也同样。学习部53提供图像处理模型60,该图像处理模型60是基于训练数据70以根据第一类型的参照区域的实际图像数据71生成第二类型的评价对象区域的疑似图像数据(估计图像数据)75的方式进行机器学习所得到的模型。诊断辅助模块10的信息提供单元12提供基于由图像处理模型60根据就诊者信息105中包含的就诊对象(就诊者)5的第一类型的个别的实际图像数据15生成的第二类型的评价对象区域的疑似图像数据(估计图像数据)115的诊断辅助信息110。
在图2中示出训练数据70中包含的图像的几个例子。最上层(行(a))的图像是第一类型的参照区域的实际图像数据71的例子。本例的实际图像数据71是能够高精度地获取以生物体内部的形态为中心的信息的MR图像(MRI),是包含脑整体的区域81来作为参照区域的实际图像数据。在行(a)中,代表性地示出三维的实际图像数据71的三处的剖面图。以下也同样。
下一层(行(b))的图像是第二类型的包含评价对象区域的实际图像数据72的例子。使用药剂拍摄到的本例的第二类型的实际图像数据72是PET图像,更详细地说是表示脑中的淀粉样蛋白β的分布的PET图像。例如,将匹兹堡化合物B用作PET用放射性药剂(示踪剂),通过利用该匹兹堡化合物B与淀粉样蛋白β的反应,能够获取表示脑中的淀粉样蛋白β的分布的PET图像72。
因而,本例的第二类型的实际图像数据72是包含使与诊断对象的异常相关联的第一物质的分布可视化的分布信息的实际物质图像数据的一例。在本例中,诊断对象的异常(疾病)包括阿尔茨海默型痴呆症,启示疾病的第一物质包含淀粉样蛋白β。作为用于判定是否有可能患上阿尔茨海默型痴呆症的指标值,已知SUVR值(SUVR、Standardized UptakeValue Ratio、小脑比SUVR),该SUVR值表示脑的一部分大脑灰质中的淀粉样蛋白β的聚集度(SUV、Standardized Uptake Value)的总和与小脑中的淀粉样蛋白β的聚集度(SUV)的比。SUVR能够用以下的式(1)定义。
Figure BDA0002974860120000071
式(1)的分子表示大脑灰质四个部位,即大脑的皮质区域(前额叶、前后扣带回皮质、顶叶以及外侧颞叶)的SUV的总和,分母表示小脑的SUV。
因此,将参照区域设为脑整体81时的用于求出SUVR作为指标值的评价对象区域82包括前额叶、前后扣带回皮质、顶叶、外侧颞叶以及小脑这五个区域。此外,能够利用PET图像72中包含的规定亮度以上的像素(图像要素、voxel)的聚集度来求出SUV。例如,在用作训练数据70的ADNI数据库(Susan Landau&William Jagust“Florbetapir processingmethods”ADNI(Alzheimer’s Disease Neuroimaging Initiative)June,25,2015)中,淀粉样蛋白阳性、阴性的截止值被设为1.11,在图2中,用斜线示出淀粉样蛋白阳性的部分。
图2的第三行(行(c))所示的图像是表示基于MR图像71设定的评价对象区域82的掩模图像73,第四行(行(d))所示的图像是基于掩模图像73切取出的、PET图像的评价对象区域82的实际图像74。即,行(d)所示的图像是第二类型的评价对象区域82的实际图像数据74,作为信息而包含在实际图像72中。能够使用FreeSurfer法(FreeSurfer Method(Gregory Klein,MehulSampat,Davis Staewen,David Scott,Joyce Suhy“ComparisonofSUVRMethods and Reference Regions in Amyloid PET”SNMMI 2015Annual Meeting,June 6-10,2015,Baltimore,MD,USA))中记载的ROI(关心区域,Region Of Interest)模板来设定评价对象区域82相对于参照区域(脑整体)81的位置关系,但不限定于该方法。
在图3中示出由学习完毕的图像处理模型60生成的第二类型的评价对象区域82的疑似图像数据75。图3的上层(行(a))表示由图像处理模型60根据MR图像(第一类型)的参照区域(脑整体)81的实际图像71生成的、包含作为评价对象区域82的前额叶、前后扣带回皮质、顶叶、外侧颞叶以及小脑的疑似图像数据(疑似PET图像、估计PET图像)75。图3的下层(行(b))示出由模型生成的脑整体81的疑似PET图像76以供参考,该模型是以根据MR图像的参照区域(脑整体)81的实际图像71生成PET图像的参照区域(脑整体)81的疑似PET的方式进行机器学习所得到的模型。
在本例中,作为要学习的模型的图像处理模型(图像生成模型)60包含模型算法61和模型参数集(参数)62。模型提供模块50的学习部53包括第一参数学习功能54,该第一参数学习功能54通过基于损失函数Ei评价作为学习对象的PET图像74和作为学习结果的疑似PET图像75,来学习图像处理模型60的参数集(参数)62。损失函数Ei的一例用以下的式(2)表示。
Ei=γ*MSEi+(1-γ)*|Vi-predVi|···(2)
MSEi是图像要素的平方误差,是测量像素要素间的差异的指标、即表示第二类型的评价对象区域82的疑似图像数据(疑似PET图像)75的像素要素的值相对于第二类型的评价对象区域82的实际图像数据(PET图像)74的图像要素的值而言背离的程度的背离度的一例。评价对象区域82的实际图像数据(PET图像)74的图像要素的值与参照区域81的实际图像数据(PET图像)72中包含的评价对象区域82的像素要素的值相同,可以将疑似PET图像75的像素要素与任一个PET图像72或74的像素要素进行比较。作为用于优化的测量像素要素间的差异的指标(背离度),也可以代替MSE或者与MSE一起使用SSIM(StructuralSimilarity:结构相似度)、PNSR(峰信噪比)等其它指标。
实际指标值Vi是根据第二类型的实际图像数据(PET图像数据、实际物质图像数据)72的评价对象区域82的与诊断对象的异常相关联的第一物质(例如淀粉样蛋白)的分布信息(SUV)得到的实际指标值,例如是SUVR(实际SUVR),该第二类型的实际图像数据72是包含使第一物质的分布可视化的分布信息的实际物质图像数据。也可以根据评价对象区域82的PET图像74获取该实际指标值SUVR。疑似指标值predVi是根据第二类型的评价对象区域82的疑似图像数据(疑似PET图像)75中包含的与第一物质(例如淀粉样蛋白)的分布对应的疑似分布信息得到的疑似指标值,例如是疑似SUVR(估计SUVR)。即,疑似指标值是使用图像处理模型60根据MR图像71估计出的SUVR值。在疑似PET图像75中包含评价对象区域82的疑似分布来作为像素信息。因此,能够根据疑似PET图像75,使用式(1)来与SUVR同样地求出疑似SUVR。
式(2)中示出的损失函数Ei包含背离度(平方误差)MSEi、实际指标值Vi(SUVR、实际SUVR)以及疑似指标值predVi(疑似SUVR),能够使用这些指标值来评价图像处理模型60。学习部53的参数学习功能54以使损失函数Ei中包含的这些指标值MSEi变小的方式或者以使实际指标值Vi与疑似指标值predVi之差变小的方式来设定(修改、变更)参数62,并将包含学习得到的参数62的学习完毕的图像处理模型60输出到存储器102。
损失函数Ei中包含的系数γ是满足以下的式(3)的条件的系数。
O≤γ≤1···(3)
如果系数γ为0,则在模型60的学习时,主要评价实际指标值Vi与疑似指标值predVi之差,如果系数γ为1,则在模型60的学习时,主要评价背离度(平方误差)MSEi。具体地说,式(3)既可以是(0<γ<1),也可以是(0.5<γ<1.0)。图像处理模型60也可以包括作为根据第一类型的图像生成第二类型的图像的图像输出模型的功能,优先评价图像要素间的相关性。
在图4中,相对于实际指标值Vi(SUVR)示出疑似PET 75的疑似指标值predVi(predSUVR),该疑似PET 75的疑似指标值predVi是将训练数据70中包含的多个被验者的数据集输入到学习完毕的图像处理模型60而得到的。如在图中用进行线性近似得到的直线所示那样可知,实际指标值SUVR与疑似指标值predSUVR存在正相关性,具有足够高的再现性。因而,可知能够由学习完毕的图像处理模型60根据MR图像71来估计PET图像75,能够由学习完毕的图像处理模型60根据MR图像71来估计SUVR值。
在图5中,相对于实际指标值Vi(SUVR)示出疑似PET 75的疑似指标值predVi(predSUVR),该疑似PET 75的疑似指标值predVi是将未包含在训练数据70中的多个被检者的数据集作为测试数据79输入到学习完毕的图像处理模型60而得到的。基于由图像处理模型60根据测试数据79生成的疑似PET 75识别出的疑似指标值predSUVR具有比测试数据79中的实际指标值SUVR小的倾向,但对于测试数据79,可知实际指标值SUVR与疑似指标值predSUVR也存在正的相关性。因而,可知能够由学习完毕的图像处理模型60根据未学习的被检者的MR图像71高精度地估计PET图像75,能够由学习完毕的图像处理模型60根据未学习的被检者的MR图像71估计SUVR值。
在图6中,示出由图像处理模型60生成的疑似PET 75的疑似SUVR与根据实际PET图像72(74)得到的SUVR值的相关性,该图像处理模型60是以如下方式得到的模型:将MR图像71作为输入,在学习时的损失函数中将SUVR用作指标值,以生成限定成评价对象区域82的疑似PET 75的方式进行学习。上层的图表(a)示出被诊断为AD(阿尔茨海默症、Alzheimer'sdisease)的被检者、被诊断为MCI(轻度认知障碍、Mild Cognitive Impairment)的被检者、以及除此以外的被认为是CN(健康者)的被检者的所有数据的相关性。下一个图表(b)示出AD的被检者的数据的相关性,图表(c)示出MCI的被检者的数据的相关性,图表(d)示出CN的被检者的数据的相关性。图表(a)的相关系数r(a)为0.21502,图表(b)的相关系数r(b)为0.66484,图表(c)的相关系数r(c)为0.10547,图表(d)的相关系数r(d)为0.34458。
在图7中,作为参考,示出了使用Sikka等公开的方法、即在Sikka等的文献中利用的通过简单的机器学习得到的图像生成模型来根据脑整体的MR图像估计脑整体的淀粉样蛋白PET图像并根据估计图像计算SUVR所得到的结果。图表(a)~(d)与上述相同。图表(a)的相关系数r(a)为0.12964,图表(b)的相关系数r(b)为0.25603,图表(c)的相关系数r(c)为0.07694,图表(d)的相关系数r(d)为0.01905。
因而,可知通过使用本例的学习完毕的图像处理模型60生成疑似PET图像,能够大幅提高作为痴呆症的指标而言被认为重要的SUVR的估计精度。在该图像处理模型60中,限定了关注部位的结果是,认为在脑内的白质中消除与除淀粉样蛋白以外的物质发生反应的非特异性聚集的影响是一个主要原因。并且,由图像处理模型60基于将脑整体设为参照区域81的MR图像71来生成局部的评价对象区域82的疑似PET图像75,因此对于疑似PET图像75来说,所参照的MR图像71的信息量足够多。因而,能够基于更多的信息高精度地生成评价对象区域82的疑似PET图像75。因此,通过如上述那样使用学习完毕的图像处理模型60,即使不从就诊者5获取PET图像,也能够从MR图像(MRI)高精度地提供包含用于判断疾病的加重的指标值的诊断辅助信息110。
接着,学习部53包括第二参数学习功能55,该第二参数学习功能55以包含多个被检者的属性信息90的方式学习图像处理模型60的参数62。即,训练数据70除了包含多个被检者的第一类型和第二类型的图像信息71~74以外,还包含属性信息90,该属性信息90包含与多个被检者的生物标记相关联的信息91,图像处理模型60作为以除了包含图像信息之外还包含属性信息90的方式进行机器学习所得到的模型而由模型提供模块50提供。
在属性信息90中,除了包含与生物标记相关联的信息91、即基因信息(ApoE等)91a和/或血液检查结果91b以外,也可以包含年龄、性别、教育履历、职业履历、认知力测试得分(MMSE、CDR、ADAS-Cog等)、问诊结果(ADL问诊等)中的任一个。通过使用以包含属性信息90的方式进行机器学习所得到的图像处理模型60,预计能够得到精度更高的疑似PET图像75和疑似SUVR,遗传信息91a和血液检查结果91b对于提高图像处理模型60的性能是特别有用的。
在基因信息91a中,认为根据ApoE基因型,淀粉样蛋白β的聚集的聚集量与表达时期的相关性高。例如,在图8中,基于上述ADNI数据库中的数据,示出ApoE基因型与通过AV45淀粉样蛋白PET成像得到的SUVR值的分布之间的关系。根据该图可知,基因型被认为是对于判断淀粉样蛋白阳性/阴性而言非常有效的信息。但是,表达时期存在个体差异,与图像或血液不同,可能不适于进行当前时刻的评价。
近年来指出了血液检查结果91b对于淀粉样蛋白阳性/阴性的判断也可能有效。例如,提出了通过在使用磁珠将未吸附的化合物废弃后利用MALDI(Matrix Assisted LaserDesorption/Ionization,基质辅助激光解析电离法)针对残留的血液测量飞沫的飞散时间(TOF:Time of Flight)的方法来仅取出淀粉样蛋白β关联肽的方法,从而提出了高精度地估计脑内淀粉样蛋白β聚集量的方法(“High performance plasma amyloid-βbiomarkersfor Alzheimer's disease”Nakamura etal.Nature.2018Feb 8)。根据上述参考文献,报告了能够通过使用复合(Composite)生物标记来高精度地判别淀粉样蛋白阳性/阴性,所述Composite生物标记是根据通过IP-MS(基于免疫沉淀法的质谱分析)对血液测量出的(1)APP699-711、(2)Aβ1-40、(3)Aβ1-42的各量将“1与2的比”和“2与3的比”以数学方式组合所得到的。此外,血液检查结果91b虽然能够进行当前时刻的评价,但与图像不同,有可能不适于比较每个部位的淀粉样蛋白聚集的多少。
在图9中示出由图像处理模型60生成的疑似PET 75的疑似SUVR与根据实际PET图像72(74)得到的SUVR值的相关性,该图像处理模型60是以如下方式得到的模型:将MR图像71和基因信息(ApoE基因信息)91a作为输入,在学习时的损失函数中将SUVR用作指标值,以生成限定成评价对象区域82的疑似PET 75的方式进行学习。图表(a)~(d)与上述的图6相同。图表(a)的相关系数r(a)为0.27995,图表(b)的相关系数r(b)为0.50173,图表(c)的相关系数r(c)为0.21462,图表(d)的相关系数r(d)为0.06563。与图6相比,提高了被检者整体的SUVR值的相关性,特别是,对于MCI的被检者,能够看到以包含基因信息的方式进行学习的效果。因而,可知通过使用以包含含有基因等生物标记91的属性信息90的方式进行学习所得到的模型60,能够以更高的精度估计用于判断疾病的加重度等的指标值(SUVR值)。特别是对于需要关注疾病的加重度的被判断为MCI的就诊者5,在诊断辅助信息110的提供上对于提高指标值的估计精度是有用的。此外,上述使用了以小脑为基准的SUVR值,但只要能够排除与除淀粉样蛋白以外的物质发生反应的非特异性聚集的影响,也能够学习限定成其它评价对象区域82的PET图像,并使用以其它评价区域为基准的指标值来提高学习精度。
这样,从模型提供模块50提供的学习完毕的图像处理模型60不使用MR图像71等的药剂(为了使形态更明确,有时使用造影剂等),而基于主要能够获取与生物体内部的形态有关的信息的图像数据,就能够高精度地估计包含与表示疾病的主要原因或加重的淀粉样蛋白等的分布有关的信息的PET图像75。因而,诊断辅助模块10的信息提供单元12能够使用图像处理模型60,基于经由获取单元11从就诊者5获取到的就诊者信息105中包含的MR图像(MRI、个别的实际图像数据、实际MR图像)15,来生成(估计)被限定成评价对象区域82的疑似PET图像(对象区域的疑似图像数据)115,能够提供包含该疑似PET图像115和/或根据疑似PET图像115得到的评价对象区域82的SUVR值(疑似指标值)116的诊断辅助信息110。
在将上述公开的脑的一部分设为评价对象区域82的例子中,作为评价对象区域82,包括脑的多个部位,具体地说,如图2等所示,包括前额叶、前后扣带回皮质、顶叶、外侧颞叶以及小脑这五个区域(部位),基于这些多个部位各自的分布信息,如式(1)所示那样求出作为实际指标值的SUVR值。在信息提供单元12中,由图像处理模型60基于就诊者5的MR图像15生成的疑似PET图像115包含这五个区域作为评价对象区域82。因而,信息提供单元12能够根据疑似PET图像115的评价对象区域82中包含的五个区域的分布信息求出疑似SUVR116并作为诊断辅助信息110提供。
诊断辅助模块10的获取单元11也可以构成为获取包含属性信息14的就诊者信息105,该属性信息14包含与生物标记相关联的信息,信息提供单元12也可以由以包含属性信息90的方式进行了学习所得到的图像处理模型60基于就诊者5的个别的图像数据(MR图像)15及属性信息14来估计评价对象区域82的疑似图像数据(疑似PET)115,并提供基于该疑似图像数据(疑似PET)115的诊断辅助信息110。就诊者信息105中包含的属性信息14既可以包含上述属性信息90中包含的全部信息,也可以仅包含一部分信息。例如,属性信息14中也可以包含遗传信息91a和/或血液检查结果91b这样的与生物标记有关的信息91。
并且,也可以使图像处理模型60以根据MR图像71导出诊断对象的异常的诊断结果、即疾病的诊断结果的方式进行学习,信息提供单元12也可以提供包含估计出的诊断结果(疑似诊断结果)117的诊断辅助信息110。在该情况下,训练数据70除了包含多个被检者的图像数据71~74以外,还包含被检者的诊断对象的异常、例如痴呆症的诊断结果94,学习部53提供图像处理模型60,该图像处理模型60是以如下方式进行学习的模型:除了根据表示形态的MR图像数据71估计疑似PET图像数据75以外,还根据表示形态的MR图像数据71估计诊断结果(病情)95。信息提供单元12通过学习完毕的图像处理模型60来提供包含疑似诊断结果117的诊断辅助信息110,该疑似诊断结果117包含从就诊者信息105所包含的信息导出的就诊者5的诊断对象的异常。
此外,诊断辅助模块10的信息提供单元12也可以包含在医疗机关200的终端20中,也能够通过预先安装学习完毕的图像处理模型60,来以独立的状态提供诊断辅助信息110。另外,在上文中,将图像处理模型60设为学习完毕并进行了说明,但图像处理模型60也可以随时基于新的病例进行自我学习,也可以自动地提供由模型提供模块50更新后的图像处理模型60。
图像处理模型60基于包含不同的图像类别(模态)的训练数据(学习数据、教师数据)70进行与上述同样的学习,由此同样能够高精度地估计除表示淀粉样蛋白β的分布的淀粉样蛋白PET图像以外的其它模态的图像。例如,认为tau蛋白质(tau)的蓄积与痴呆症的神经细胞死亡直接相关,近年来,能够获取用于使tau蛋白的蓄积可视化的使用了PBB3等药剂的PET图像(tau-PET)。另外,目前在tau蛋白的分布的评价中,与上述同样地大多使用小脑基准的SUVR值,但也有可能着眼于其它评价对象区域82。另外,关于FDG(糖代谢)PET图像的估计,同样能够通过以在训练数据70中包含FDG-PET图像的方式进行学习所得到的图像处理模型60来进行应对。另外,也可以代替MR图像数据,而将CT图像数据用作主要包含形态信息的第一类型的图像数据71来使图像处理模型60学习。图像处理模型60能够应对的其它模态之一是SPECT图像。作为SPECT图像的一例,存在以下摄像方法:在投放了碘氟潘(123I-Ioflupane)这样的放射性医药品的SPECT检查中,使被称为DatSCAN(Dopaminetransporter SCAN:多巴胺转运体扫描)的多巴胺转运蛋白(DAT)的分布可视化。作为该摄像的目的,能够列举出帕金森病(以下称为PD)的帕金森综合征(PS)的早期诊断、路易体型痴呆症(DLB、Dementia with Lewy Bodies)的诊断辅助、在存在线条体的多巴胺神经脱落的情况下的被称为左旋多巴的种类的给药治疗判断等。直到检查药物到达大脑为止,DatSCAN的摄影需要3-6小时的等待时间,尽管副作用不多,但DatSCAN的摄影是侵入性的且在保险应用中也比较昂贵,基于MRI摄像简易地估计是否需要就诊在减少患者的负担这个目的的方面是有益的。
DatSCAN的评价(指标值)使用BR(Binding Ratio:结合比)或SBR(SpecificBinding Ratio:特异性结合比),用以下的式(4)来表示。
Figure BDA0002974860120000161
式(4)的C是各个关注区域内的DAT的平均值,Cspecific表示脑内的壳核(Putamen)和尾状核(Caudate nucleus)的平均值,Cnonspecific表示脑内的枕叶皮质的平均值。因而,在模型提供模块50中,能够基于训练数据70使图像处理模型60以根据MR图像71生成包含作为评价对象区域82的壳核、尾状核以及枕叶皮质的疑似SPECT图像75的方式进行机器学习,其中,该训练数据70包含脑整体的MR图像来作为多个被验者的第一类型的参照区域81的实际图像数据71,并且包含脑内的包含壳核、尾状核以及枕叶皮质的SPECT图像,来作为第二类型的包含评价对象区域82的实际图像数据72(74)。
在诊断辅助模块10中,能够由学习完毕的图像处理模型60生成疑似SPECT图像115,并提供包含疑似BR值(疑似SBR值)作为基于该疑似SPECT图像115的疑似指标值的诊断辅助信息110,该疑似SPECT图像115是根据作为就诊对象的第一类型的个别的实际图像数据的、就诊者5的MR图像或CT图像15生成的第二类型的评价对象区域82的疑似图像数据。在图像处理模型60的学习时的损失函数(损失)Ei中,使用像素间的差以及作为指标值的BR,将用于计算它们的区域锁定为壳核、尾状核以及枕叶皮质,由此能够使参数62优化。
进一步对各装置进行说明。在图10中示出模型提供模块(图像输出模型生成装置)50。生成装置50具备第一控制部101、第一存储部102以及第一通信部(通信接口)52。第一控制部101构成为通过与第一存储部102及第一通信部52之间发送和接收信号,能够进行数据的发送和接收。第一通信部52构成为能够通过有线通信或无线通信来经由网络与诊断辅助系统100进行通信,或者经由因特网9与医院的终端210等外部设备分别进行通信。第一控制部101例如由CPU(Central Processing Unit:中央处理单元)那样的运算处理装置、高速缓冲存储器以及I/O设备等构成。第一控制部101通过读出并执行存储在第一存储部102中的图像输出模型生成程序MGP(50p),来作为包括预处理部53a和模型生成部53b的学习部53发挥功能。
第一存储部102例如能够由存储器等主存储装置和HDD等辅助存储装置构成。第一存储部102构成为存储图像输出模型生成程序10p、训练数据集GDS(70)、测试数据集TDS(79)、模型算法MA(61)以及模型参数集MP(62)。
训练数据集GDS(70)存储有N个(N为2以上的自然数)互不相同的被检者数据SDi(i是识别与数据有关的被检者的编号,1≤i≤N)。以下,将与被检者数据SDi的数据有关的被检者适当表示为“被检者i”。N例如为300。
训练数据集GDS(70)的被验者数据SDi包括形态整体图像数据KDi(71)、实际物质整体图像数据BDi(72)、形态部分图像数据KPDi(73)、实际物质部分图像数据BPDi(74)以及实际指标值Vi(SUVR)。训练数据集70也可以包含部位位置数据PDi,该部位位置数据PDi是用于提取形态部分图像数据73和实际物质部分图像数据74的模板(掩模)。被检者数据SDi中的部位位置数据PDi、形态部分图像数据KPDi、实际物质部分图像数据BPDi以及实际指标值Vi也可以是第一控制部101在执行图像输出模型生成程序MGP的过程中识别出的值,也可以在执行图像输出模型生成程序MGP之前不进行存储。
如图2所示,形态整体图像数据KDi(71)的一例是以CT或MRI等规定的方式拍摄被验者i的体内的一个或多个部位、具体地说拍摄脑内的形态而得到的数据。形态整体图像数据KDi是脑的MRI整体图像。第一类型的所述参照区域的实际图像数据即形态整体图像数据KDi(71)是规定尺寸(例如64×64×64)的3D数据。形态整体图像数据KDi能够通过与规定尺寸相应的个数(例如,64×64×64个)的表示亮度的值(亮度值)的图像要素(在本实施方式中为voxel)的组合来表现。形态整体图像数据KDi也可以通过与规定尺寸相应的个数(例如,64×64×64个)的表示颜色(RGB值)的图像要素(在本实施方式中为voxel)的组合来表现。由于这些图像要素的位置能够通过例如三维坐标来表现,因此以下将形态整体图像数据KDi的各图像要素适当表示为KDi(x,y,z)。
如图2所示,第二类型的包含评价对象区域的实际图像数据即实际物质整体图像数据BDi(72)是以PET等规定的方式拍摄被验者i的体内的一个或多个部位、具体地说拍摄脑内的对象物质的分布而得到的数据。实际物质整体图像数据BDi是与形态整体图像数据KDi相同尺寸的3D数据。也可以对实际物质整体图像数据BDi和形态整体图像数据KDi中的一方或双方进行整形,使得实际物质整体图像数据BDi中示出的一个或多个部位各自在图像上的位置与形态整体图像数据KDi中的对应的部位在图像上的位置一致。在图2中,例示了与形态整体图像数据KDi(71)的剖面图分别对应的部位处的实际物质整体图像数据BDi(72)的剖面图。在实际物质整体图像数据中,存在对象物质的图像要素(voxel)的表示亮度的值(亮度值)为规定值以上。这些图像要素的位置能够通过例如三维坐标来表现,因此以下将实际物质整体图像数据BDi的各图像要素适当表示为BDi(x,y,z)。此外,被PET图像拍摄到的对象物质既可以是与示踪剂反应的物质,也可以是示踪剂本身。另外,除了表示淀粉样蛋白β的分布的PET图像以外,也可以是表示tau蛋白的分布的PET图像。
部位位置数据PDi是表示形态整体图像数据KDi中示出的被检者i的一个或多个部位(评价对象区域,例如大脑灰质和小脑)82各自在图像上的位置的数据。部位位置数据PDi也可以用参数来表示,该参数表示构成形态整体图像数据KDi的各图像要素KDi(x,y,z)是被检者i的哪个部位。除此以外或者取而代之地,例如既可以用表示三维坐标中的区域的参数来表示与一个部位有关的部位位置数据PDi,也可以用三维坐标的各坐标的集合来表示与一个部位有关的部位位置数据PDi。
如图2所示,形态部分图像数据KPDi(73)是从表示参照区域81的整体的形态整体图像数据KDi(71)中提取规定的部位(评价对象区域)82的几处而得到的部分图像数据。在图2中,例示了与形态整体图像数据KDi(71)的剖面图分别对应的部位处的形态部分图像数据KPDi(73)的剖面图。
如图2所示,实际物质部分图像数据BPDi(74)是从实际物质整体图像数据BDi(72)中提取与形态部分图像数据KPDi(73)对应的部位而得到的部分图像数据。在图2中,例示了与实际物质整体图像数据BDi的剖面图分别对应的部位处的实际物质部分图像数据BPDi的剖面图。与实际物质整体图像数据BDi同样地,在实际物质部分图像数据BPDi(74)中,存在对象物质的图像要素(voxel)的表示亮度的值(亮度值)为规定值以上。存在对象物质的图像要素的表示颜色的值(RGB值)可以为表示示出规定颜色(例如,黄色)的颜色的值(RGB值)。这些图像要素的位置能够通过例如三维坐标来表现。因此,与实际物质整体图像数据BDi同样地,以下将实际物质部分图像数据BPDi的各图像要素适当地表示为BPDi(x,y,z)。
实际指标值Vi是用于判定被检者i是否有可能患上某种疾病、例如阿尔茨海默型痴呆症的指标值。实际指标值Vi例如是基于实际物质部分图像数据BPDi识别出的SUVR值,该SUVR值表示大脑灰质中的淀粉样蛋白β的聚集程度与小脑中的淀粉样蛋白β的聚集程度的比。此外,SUVR值也可以表示大脑灰质中的tau蛋白的聚集程度与小脑中的tau蛋白的聚集程度的比。
血液分析值BLi(91b)例如是在被检者i的血液检查中测量出的Hba1c(血糖值)等值、基于通过IP-MS(基于免疫沉降法的质谱分析)对被检者i的血液进行质谱分析得到的结果所获得的数值等值。血液分析值BLi也可以是根据通过质谱分析测量出的1)APP699-711、2)Aβ1-40、3)Aβ1-42的各量将1)APP699-711与2)Aβ1-40的比以及2)Aβ1-40与3)Aβ1-422的比以数学方式进行组合而得到的复合(Composite)生物标记。此外,血液分析值BLi例如也可以是在一般的普通诊查的血液检查中测量出的HbA1c(血糖值)等值或基于质谱分析法确定的值。
基因型GEi(91a)是基于被检者i的由两个等位基因构成一组的基因型的值。基因型GEi例如是基于具有ε2、ε3以及ε4这三个等位基因的APOE基因的基因型的值。具体地说,例如是将具有两个ε4的基因型的情况设为2、将具有一个ε4的情况设为1、将ε4一个都没有的情况设为0的0~2的离散值。另外,基因型GEi例如也可能是将具有一个以上的APOE基因ε4的情况设为阳性(=APOE4+=1)、将除此以外的情况设为阴性(=APOE4-=0)的0、1的离散值。
与训练数据集GDS(70)同样地,测试数据集TDS(79)存储有M个(M为1以上的自然数)互不相同的被检者数据SDj(j是识别与数据有关的被检者的编号,1≤j≤M)。以下,将与被检者数据SDj的数据有关的被检者适当表示为“被检者j”。另外,M例如为75。测试数据集TDS的被检者数据SDj的数据是与训练数据集GDS的被检者数据SDi相同的数据,因此省略说明和图示,以下例如像“测试数据集TDS的形态整体图像数据KDj”那样,适当地对测试数据集TDS的被检者数据SDj中包含的各数据的符号附加j来进行引用。
模型算法MA(61)是用于确定要在图像输出模型中使用的算法的信息。用于确定要在图像输出模型中使用的算法的信息例如除了TensorFlow等机器学习的库以外,还是由该库实现的多层卷积神经网络的层数、在输入层、隐藏层以及输出层中使用的函数以及各层中的函数的数量等信息。模型参数集MP(62)是用于规定在图像输出模型中使用的算法的动作的参数集。该参数的例子例如是与各函数的输入值相乘的系数。
在图11中通过流程图来示出模型提供模块(图像处理模型生成装置)50的处理的概要。在步骤300中,进行要成为图像处理模型60的学习对象的训练数据70的准备(预处理)。在步骤500中,生成并输出图像处理模型60。步骤500包括步骤(学习处理)510,在该步骤中,基于训练数据70,使用于根据第一类型的参照区域81的实际图像数据(MR图像的实际图像数据)71生成第二类型的评价对象区域82的疑似图像数据(疑似PET图像)75的图像处理模型60进行学习。
学习处理510包括用于学习图像处理模型60的最佳的参数(模型参数)62的处理(模型参数优化处理)520。模型参数优化处理520包括步骤522,在该步骤中,使用包含实际指标值(SUVR)和疑似指标值(疑似SUVR)的损失函数Ei,以使实际指标值(SUVR)与疑似指标值(疑似SUVR)之差变小的方式学习图像处理模型60的参数62,其中,该实际指标值(SUVR)是根据第二类型的实际图像数据(PET图像)72的评价对象区域82的第一物质(例如淀粉样蛋白)的分布信息(SUV)得到的,该疑似指标值(疑似SUVR)是根据第二类型的评价对象区域82的疑似图像数据(疑似PET图像)75中包含的与第一物质的分布对应的疑似分布信息(疑似SUV)得到的。在该步骤522中,损失函数Ei也可以包含表示第二类型的评价对象区域82的疑似图像数据(疑似PET图像)75的像素要素的值相对于第二类型的评价对象区域82的实际图像数据(PET图像)74的图像要素的值而言背离的程度的背离度(例如,平方误差MSE)。
学习处理510也可以还包括步骤524,在该步骤524中,使用训练数据70中包含的属性信息90来学习图像处理模型60的参数62,该属性信息90包含与多个被检对象的生物标记相关联的信息91。生物标记91也可以包含通过对多个被检对象各自的血液进行分析而得到的信息91b和基于基因型的信息91a中的至少任一个信息。并且,在学习处理510中被进行优化的模型算法61可以包括卷积神经网络构造,在使用属性信息进行优化的步骤524中也可以包括以下步骤:以使卷积神经网络构造的特征量中包含属性信息90的方式学习图像处理模型60的参数62。
在步骤530中,根据测试数据79来评价通过学习处理510使参数优化的图像处理模型60,在步骤540中,输出学习完毕的图像处理模型60,在诊断辅助模块10中能够使用该模型。
在图12中示出预处理300中包括的处理的概要。预处理部53a分别针对训练数据集GDS(70)的被检者数据SDi和测试数据集TDS的被检者数据SDj中的各数据执行步骤104~步骤118的处理(步骤102)。以下,如被检者数据SDk那样对符号附加k来表示成为处理对象的数据。另外,将与该数据有关的被检者表示为被检者k。
预处理部53a通过对形态整体图像数据KDk(71)进行解析来识别被检者k的体内的各部位在图像上的位置,生成部位位置数据PDk,并存储到第一存储部102中(步骤104)。
例如,预处理部53a通过将表示典型的人的部位的形状、位置、亮度的模板形态整体图像数据与形态整体图像数据KDk进行比较,来对构成形态整体图像数据KDk的各个图像要素KDk(x,y,z)附加被验者k的任一个部位的标签,由此生成部位位置数据PDk。例如,预处理部53对构成形态整体图像数据KDk的各个图像要素KDk(x,y,z)附加表示大脑灰质、小脑、非特异性结合多的白质以及空白区域中的任一者的标签,由此生成部位位置数据PDk。
预处理部53a基于形态整体图像数据KDk和部位位置数据PDk来识别形态部分图像数据KPDk(73),并存储到第一存储部102中(步骤106)。例如,预处理部53a根据形态整体图像数据KDk(71),使部位位置数据PDk中示出的附加有表示非特异性结合多的白质的标签的部位的部分图像数据为空白,由此识别形态部分图像数据KPDk(73)。
预处理部53a通过从实际物质整体图像数据BDk(72)中提取形态部分图像数据KPDk(73)所示出的部位的部分图像数据,来识别实际物质部分图像数据BPDk(74),并存储到第一存储部102中(步骤108)。预处理部53a基于部位位置数据PDk来识别实际物质部分图像数据BPDk(74)中的表示规定的第一部位(例如大脑灰质)的第一实际物质部分图像数据(步骤110)。
预处理部53a基于第一实际物质部分图像数据来识别作为被验者k的疾病的诊断的基础信息的第一实际指标值(步骤112)。例如,预处理部53a对第一实际物质部分图像数据的各图像要素的亮度值为规定值以上的图像要素的数量进行计数,并将该数量识别为第一实际指标值。也可以代替该处理或者除该处理以外,预处理部53a对第一实际物质部分图像数据的各图像要素的亮度为规定以上的图像要素的数量进行计数,并将该数量识别为第一实际指标值。亮度值为规定值以上的图像要素表示对象物质(例如与阿尔茨海默痴呆症关联性高的淀粉样蛋白β或Tau蛋白)存在于被检者k的对应部位。表示这样的图像要素的数量的第一实际指标值示出对象物质在规定的第一部位的聚集程度。
预处理部53a基于部位位置数据PDk,来识别实际物质部分图像数据BPDk(74)中的表示规定的第二部位(例如小脑)的第二实际物质部分图像数据(步骤114)。预处理部53a基于第二实际物质部分图像数据来识别作为被验者k的疾病的诊断的基础信息的疾病指标、即第二实指标值(步骤116)。例如,预处理部53a对第二实际物质部分图像数据中的表示图像要素的亮度的值为表示规定亮度的值的图像要素的数量进行计数,并将该数量识别为第二实际指标值。也可以代替该处理或者除该处理以外,预处理部53a对第二实际物质部分图像数据的各图像要素的亮度为规定以上的图像要素的数量进行计数,并将该数量识别为第二实际指标值。与第一实际指标值同样地,第二实际指标值表示对象物质在规定的第二部位的聚集程度。
预处理部53a基于第一实际指标值和第二实际指标值来识别实际指标值Vk,并存储到第一存储部102中(步骤118)。例如,预处理部53a将第一实际指标值与第二实际指标值的比识别为实际指标值Vk。
在对训练数据集GDS的被检者数据SDi和测试数据集TDS的被检者数据SDj全部执行步骤104~步骤118的处理后,本处理结束。
在图13中示出图像处理模型生成处理500的概要。模型生成部53b设定模型算法MA(61)(步骤202)。例如,模型生成部53b按照图像处理模型生成程序MGP(50p),读入在机器学习中使用的库,并将通过该库实现的多层卷积神经网络的层数、在输入层、隐藏层以及输出层中使用的函数以及各层中的函数的数量等设定为模型算法61。
模型生成部53b将模型参数集MP(62)初始化(步骤204)。例如,模型生成部53b将随机值设定为各个参数。模型生成部53b仅循环规定的次数(例如2万次)来执行步骤300的学习处理510(步骤206)。模型生成部53b执行评价处理530(步骤400)。模型生成部53b将模型算法MA(61)和模型参数集MP(62)存储在第一存储部102中(步骤208)。通过以上步骤,图像输出模型生成处理结束。
在图14中示出学习处理510的概要。图14示出的处理是如下的模型的学习处理:被定义了模型算法MA,使得将形态整体图像数据KDi(71)、血液分析值BLi(91b)、基因型GEi(91a)作为输入,并输出与实际物质整体图像数据BDi(72)对应的疑似物质整体图像数据predBDi。疑似物质整体图像数据predBDi可以说是模拟了与特定疾病相关联的物质、例如淀粉样蛋白β或tau蛋白在脑内的分布的图像数据。
模型生成部53b按训练数据集70的被检者数据SDi循环地执行步骤302~步骤320的处理(步骤302)。模型生成部53b向模型输入形态整体图像数据KDi,来识别所输出的疑似物质整体图像数据predBDi(步骤304)。
在图15中,对疑似物质整体图像数据predBDi的识别的具体例进行说明。在本实施例中,在疑似物质整体图像数据predBDi的识别中,使用作为卷积神经网络构造的一例的U-net构造的识别模型MOD700。具有U-Net构造(或取消了U-Net构造中的SkipConnection后的Auto Encoder构造)的卷积神经网络构造在学习处理510中使用多个作为输入的MR图像以及与该MR图像成为一对的实际拍摄到的PET图像,来进行内部参数的优化。该U-net构造的模型700作为根据形态整体图像数据KDi(71)生成疑似物质部分图像数据predBPDi(75)的图像处理模型60的模型算法61是有效的。
在由U-net构造的识别模型700进行的运算中,将作为形态整体图像数据KDi的三维形态MR图像数据设为输入图像数据IPI。输入图像数据IPI被输入到隐藏层710,在隐藏层710中,输入图像数据IPI在各层被进行池化和卷积,直至到达特征层720为止。即,在识别模型700中,在向下路径中进行卷积和池化。在识别模型700中,在从特征层720获得作为隐藏层710的结果的输出图像OPI之前,在各层进行卷积和上采样。即,在识别模型700中,在向上路径中进行卷积和上采样,在本例中,对疑似物质整体图像数据predBDi进行复原(估计)而识别为输出图像OPI。此外,被输入了输入图像IPI的隐藏层710的直到特征层720为止的向下路径的各层中的输出也被输入到向上路径的同一深度的层。即,在识别模型700中,向下路径的各层的输出被合并到对向上路径的同一深度的层的输入。
在识别模型700中,能够对来自特征层720的输出数据加上包含生物标记的属性信息90。具体地说,将特征数据(L×M×(N+r)×1)730输入到特征层720,该特征数据730是将图像特征数据(三维形式:L×M×N×1)731与包含生物标记信息的属性信息90内的例如包含由血液分析值BLi(91b)、基因型GEi(80a)决定的值的数据(具有r个特征的数据:L×M×r×1)732进行结合而得到的,其中,所述图像特征数据是向下路径中的特征层720的前一层的输出。
这样,在识别模型700中,通过对来自特征层720的输出的数据730结合与作为特定疾病的阿尔茨海默型痴呆症关联性高、具体地说与脑内的淀粉样蛋白β或tau蛋白的聚集倾向关联密切的生物标记的数据,能够提高由识别模型700估计的图像数据的再现性。
此外,作为生物标记,也可以使用被检者的学历等与阿尔茨海默型痴呆症关联性高的其它生物标记。另外,在上述说明中,设为对来自特征层720的输出数据731结合基于生物标记的数据732,该数据732包含基于生物标记的值、即由血液分析值BLi和基因型GEi决定的值,但也可以对其它位置、具体地说对向隐藏层710的各层的输入中的任一输入结合基于生物标记的数据732。另外,也可以将基于相同生物标记的数据732进行多次结合。另外,在使用基于多个生物标记的数据732的情况下,也可以将基于多个生物标记的数据732分别与向不同层的输入进行结合。
模型生成部53b通过从疑似物质整体图像数据predBDi中提取与形态部分图像数据KBDi对应的部分图像数据,来识别疑似物质部分图像数据predBDi(步骤306)。模型生成部53b对疑似物质部分图像数据predBDi的图像要素predBDi(x,y,z)的各个值与坐标(x,y,z)相同的实际物质部分图像数据BDi的图像要素BDi(x,y,z)的值的平方误差进行计算,来求出疑似物质部分图像数据predBDi的平方误差的平均值MSEi(步骤308)。模型生成部53b基于部位位置数据PDi来识别疑似物质部分图像数据predBPDi(75)中的表示规定的第一部位(例如大脑灰质)的第一疑似物质部分图像数据(步骤310)。
模型生成部53b基于第一疑似物质部分图像数据来识别作为被检者i的疾病的诊断的基础信息的第一疑似指标值(步骤312)。例如,模型生成部53b对表示第一疑似物质部分图像数据的各图像要素的亮度的值为表示规定亮度的值的图像要素的数量进行计数,并将该数量识别为第一疑似指标值。也可以代替该处理或者除该处理以外,预处理部53a对第一疑似物质部分图像数据的各图像要素的亮度为规定以上的图像要素的数量进行计数,并将该数量识别为第一疑似指标值。
模型生成部53b基于部位位置数据PDi,来识别疑似物质部分图像数据predBPDi中的表示规定的第二部位(例如小脑)的第二疑似物质部分图像数据(步骤314)。模型生成部53b基于第二疑似物质部分图像数据来识别作为被检者i的疾病的诊断的基础信息的疾病指标即第二疑似指标值(步骤316)。例如,模型生成部53b对第二疑似物质部分图像数据中的图像要素的亮度值为规定值以上的图像要素的数量进行计数,并将该数量识别为第二疑似指标值。模型生成部53b基于第一疑似指标值和第二疑似指标值来识别疑似指标值PredVi,并将其存储到第一存储部120中(步骤318)。例如,模型生成部112将第一疑似指标值与第二疑似指标值的比识别为疑似指标值predVi。疑似指标值predVi相当于与特定疾病有关的实际指标值Vi。此外,如上所述,实际指标值Vi是用于判定被检者是否有可能发生某种疾病的指标值。在本实施例中,疑似指标值predVi是用于判定被检者i是否有可能患上某种疾病、例如阿尔茨海默型痴呆症的指标值。例如,在实际指标值Vi是实际的SUVR的情况下,可以说疑似指标值predVi是疑似SUVR。
模型生成部53b基于测量像素要素间的差异的指标、例如图像要素的平方误差MSEi、实际指标值Vi以及疑似指标值predVi,来评价当前的模型相对于被检者数据SDi的损失Ei(步骤320)。模型生成部53b使用上述的式(2)来评价当前的模型相对于被检者数据SDi的损失Ei。
在步骤302的循环处理结束后,模型生成部53b通过误差逆传播法等来修改模型参数集MP,以使各损失Ei最小(步骤322)。由此,本处理结束。
在图16中示出评价处理530的概要的模型生成部53b将训练数据集GDS(70)的各被检者数据SDi输入到学习完毕的模型60中,并识别所输出的各疑似物质整体图像数据predBDi(步骤402)。模型生成部53b针对各疑似物质整体图像数据predBDi进行与学习处理510的步骤306、步骤310~步骤318同样的处理,由此识别各疑似指标值predVi(步骤404)。模型生成部53b制作以实际指标值Vi为横轴、以疑似指标值predVi为纵轴的二维坐标的图表,例如图4所示的图表(步骤406)。
模型生成部53b将测试数据集TDS(79)的各被检者数据SDj输入到学习完毕的模型60,并识别所输出的各疑似物质整体图像数据predBDj(步骤408)。模型生成部53b通过对各疑似物质整体图像数据predBDj进行与学习处理510的步骤306、步骤310~步骤318同样的处理,来识别各疑似指标值predVj(步骤410)。模型生成部53b制作以实际指标值Vj为横轴、以疑似指标值predVj为纵轴的二维坐标的图表、例如图5(步骤412)。将根据测试数据集TDS的各疑似物质整体图像数据predBDj识别出的各疑似指标值predVj的相关性与根据训练数据集GDS的各疑似物质整体图像数据predBDj识别出的各疑似指标值predVi的相关性进行比较,来确认模型60的性能。
在图17中示出学习处理510的不同例。图14的学习处理510是如下的模型的学习处理:被定义了模型算法MA,使得将形态整体图像数据KDi(71)作为输入,并输出与实际物质整体图像数据BDi对应的疑似物质整体图像数据predBDi。图17所示的学习处理510是使被定义了模型算法MA(61)以使得将形态整体图像数据KDi(71)作为输入、并输出与图2所示的实际物质部分图像数据BPDi(74)对应的疑似物质部分图像数据predBPDi(75)的模型60进行学习。
在本处理中,模型生成部53b在执行步骤350来代替步骤304~步骤306这一点上与图14示出的学习处理不同,其它一致。在步骤350中,模型生成部53b向模型输入形态整体图像数据KDi,并识别所输出的疑似物质部分图像数据predBPDi+。在步骤308以后,模型生成部53b使用在步骤350中识别出的疑似物质部分图像数据predBPDi+来进行处理。
在图18中还示出医疗机关200的终端(诊断辅助终端、图像显示装置)210的结构。辅助终端210能够由台式计算机、膝上型计算机、平板终端或智能手机等构成。辅助终端210具备第二控制部20、第二存储部29、第二通信部22以及显示部25。第二控制部20例如由CPU(Central Processing Unit)那样的运算处理装置、高速缓冲存储器以及I/O设备等构成。示出以下例子:第二控制部20通过读出并执行存储在第二存储部29中的图像输出程序29p,来作为诊断辅助信息提供部(信息提供模块、显示数据识别部)12、显示控制部(输出部)23以及就诊者信息获取部(输入部)21发挥功能,并独立地作为诊断辅助模块10发挥功能。
第二存储部29例如能够由存储器等主存储装置和HDD等辅助存储装置构成。第二存储部29构成为对图像输出程序29p以及包含模型算法61和模型参数集62的学习完毕的图像处理模型60进行存储。也可以经由通信从模型提供模块50下载学习完毕的图像处理模型60。也可以从如CD、DVD或USB存储器那样的具有便携性的存储介质读入图像处理模型60。
第二通信部22构成为能够通过有线通信或无线通信来经由网络分别与模型提供模块50、形态图像摄像装置221以及其它外部的设备进行通信。显示部25例如由液晶面板构成。显示部25构成为根据来自显示控制部23的信号来显示图像。
在图19中示出诊断辅助模块10中的处理的概要。在步骤601中,诊断辅助模块10的就诊者信息获取单元11或作为获取单元发挥功能的输入接口21获取就诊者5的脑的包含MR图像15的就诊者信息105。MR图像15是将包含评价对象区域82的脑作为参照区域81而获取的、将与形态有关的信息作为中心来包含的第一类型的实际图像数据的一例,就诊者信息105中包含的MR图像15是至少包含参照区域81的就诊对象的个别的实际图像数据的一例。此外,以后也说明以就诊者5的阿尔茨海默症为对象来使用根据MR图像生成的疑似PET图像进行诊断辅助的例子,但如上所述,对于其它症状以及其它类型的图像也同样能够提供使用了图像处理模型60的诊断辅助服务。
在步骤602中,信息提供单元12通过图像处理模型60,来根据就诊者信息105中包含的脑整体(参照区域)81的MR图像15来生成包含评价对象区域82的五个部位的疑似PET图像115,该图像处理模型60是基于训练数据70以根据作为第一类型的参照区域81的实际图像数据的MR图像71生成作为第二类型的评价对象区域82的疑似图像数据的疑似PET图像75的方式进行学习所得到的模型。
在图像处理模型600的学习中使用的训练数据70所包含的第二类型的实际图像数据是包含使诊断对象的异常、在该例中为与阿尔茨海默症相关联的第一物质即淀粉样蛋白β的分布可视化的分布信息的实际物质图像数据的PET图像72。图像处理模型600是包含参数62的模型600,该参数62是使用包含实际指标值Vi(SUVR)和疑似指标值predVi(predSUVR)的损失函数Ei,以使实际指标值与疑似指标值之差变小的方式进行学习所得到的,该实际指标值Vi(SUVR)是根据第二类型的实际图像数据的评价对象区域82的第一物质的分布信息得到的,该疑似指标值predVi(predSUVR)是根据第二类型的评价对象区域82的疑似图像数据中包含的与第一物质的分布对应的疑似分布信息得到的。另外,损失函数Ei包含表示第二类型的评价对象区域82的疑似图像数据(疑似PET图像)75的像素要素的值相对于第二类型的评价对象区域82的实际图像数据(PET图像)74的图像要素的值而言背离的程度的背离度、例如MEEi。
在步骤603中,在步骤601中获取到的就诊者信息105中包含含有就诊者5的生物标记91的属性信息14的情况下,在步骤604中,采用基于包含属性信息90的训练数据70而学习完毕的包含参数集62的图像处理模型60,来生成疑似PET图像115,所述属性信息90包含与多个被检对象的生物标记相关联的信息91。
在步骤605中,在请求了包含诊断结果(疑似诊断结果、估计出的诊断结果)117的诊断辅助信息110的情况下,在步骤606中,采用基于训练数据70学习完毕的包含参数集62的图像处理模型60,该训练数据70包含多个被检对象的诊断对象的异常的诊断结果94。在步骤607中,基于在就诊者信息105中包含的数据,来提供基于由图像处理模型60生成的评价对象区域82的疑似PET图像115的诊断辅助信息110。在诊断辅助信息110中,也可以除了包含疑似PET图像115以外,还包含疑似指标值116和疑似诊断结果117。另外,也可以代替疑似PET图像115,而在诊断辅助信息110中包含疑似指标值116和/或疑似诊断结果117。
在医疗机关200的终端210中,通过将从诊断辅助模块10或诊断辅助信息提供单元12提供的诊断辅助信息110输出到图像显示终端25,来辅助医生8等医务人员的诊断。诊断辅助信息110中包含的疑似PET图像115既可以独立地显示,也可以与就诊者5的MR图像15并排或叠加地显示,诊断辅助信息110的输出方法能够设定为各种方法。
例如,通过不仅显示基于形态整体图像数据的MR图像15,还显示基于疑似物质部分图像数据的疑似PET图像115或表示就诊者5的疾病的指标值的疑似指标值116或这两者,能够向医生8提供用于诊断就诊者5有无疾病或就诊者5的疾病的风险的有用信息。特别是,通过显示基于疑似物质部分图像数据的疑似PET图像115和表示就诊者5的疾病的指标值的疑似指标值116这两者,能够使医生8更深入地识别就诊者5的状态。
如以上所说明的那样,在使用了图像处理模型(图像输出模型)60的诊断辅助系统以及方法中,能够使用就诊者或患者的负担比较小的MR图像或CT图像之类的主要获取与形态有关的信息的三维图像,来高精度地生成虽然限定成各种关心区域(评价对象区域)82但与关联于各种异常(疾病)的物质有关的三维图像,能够提供基于该三维图像的诊断辅助信息110。因而,能够不对就诊者或患者施加负担地以高频率获取与PET图像等相匹配的信息,能够及时地提供与异常(疾病)的预防、加重或诊断有关的信息。因此,诊断辅助系统不仅能够适用于疾病的诊断,还能够适用于药物开发中的临床试验者的选择、临床的监控等应用中,并且,不仅能够对包括人体、家畜等的生物体的诊断有用,在以无损方式对图像诊断有效的构造物的内部状态进行诊断的应用中也是有用的。
在上述实施方式中,将形态整体图像数据输入到模型,但也可以构成为取而代之或除此之外地将形态部分图像数据输入到模型。在上述实施例中,对在学习处理中将形态部分图像数据KPDi和实际物质部分图像数据BPDi用作图像数据的例子进行了说明。但是,在学习处理中,也可以设为仅使用形态整体图像数据KDi和实际物质整体图像数据BDi作为图像数据。另外,在上述实施例中,在图像显示处理中,作为图像数据,输出形态部分图像数据和疑似物质部分图像数据,但也可以代替疑似物质部分图像数据而输出疑似物质整体图像数据。另外,在上述实施例中,对在识别模型700中使用具有U-net构造的模型的情况进行了说明。但是,在识别模型700中也可以使用自动编码器等具有其它神经网络构造的模型。
上述包含的方式之一是具备显示部的计算机所执行的显示方法。显示方法包括以下步骤:就诊者形态图像识别步骤,识别对就诊者的体内的形态进行摄像而得到的形态整体图像数据;就诊者疑似物质图像部分识别步骤,通过向通过图像输出模型的生成方法生成的图像输出模型输入包含所述就诊者的形态整体图像数据的图像部分的形态图像数据,来识别从所述图像输出模型输出的疑似地表示对象物质在所述就诊者的体内的一部分部位处的分布的疑似物质图像数据;以及显示步骤,将在就诊者疑似物质图像部分识别步骤中识别出的所述疑似物质图像数据输出到所述显示部。
显示方法也可以包括疑似指标值识别步骤,在该步骤中,基于所述疑似物质图像数据,来识别与所述就诊者的疾病有关的疑似指标值,显示步骤也可以包括以下步骤:将在就诊者疑似物质图像部分识别步骤中识别出的所述疑似物质图像数据和在所述疑似指标值识别步骤中识别出的所述疑似指标值输出到所述显示部。此外,在本说明书中,一个装置“识别”信息是指,一个装置从其它装置接收该信息、一个装置读取存储在与该一个装置连接的存储介质中的信息、一个装置基于从与该一个装置连接的传感器输出的信号来获取信息、一个装置通过基于接收到的信息或存储在存储介质中的信息或从传感器获取到的信息执行规定的运算处理(计算处理或检索处理等)来导出该信息、一个装置从其它装置接收作为由该其它装置得到的运算处理结果的该信息、一个装置按照该接收信号从内部存储装置或外部存储装置读取该信息等。也可以是指执行用于获取该信息的所有运算处理。
其它方式之一是具备显示部的计算机所执行的图像显示方法。该图像显示方法包括以下步骤:就诊者形态图像识别步骤,识别对就诊者的脑的形态进行摄像而得到的形态图像数据;就诊者生物标记识别步骤,识别与所述就诊者的特定疾病相关联的生物标记;疑似物质图像识别步骤,通过向图像输出模型输入所述就诊者的形态图像数据和基于所述生物标记的值,来识别从所述图像输出模型输出的模拟了与所述特定疾病相关联的对象物质在所述就诊者的脑内的分布的疑似物质图像数据;以及显示步骤,向所述显示部输出在疑似物质图像识别步骤中识别出的所述疑似物质图像数据或者基于该疑似物质图像数据识别出的与所述就诊者的所述特定疾病的发生有关的值即疑似指标值。
根据该结构的图像显示方法,在获取用于诊断特定疾病的疑似物质图像数据的疑似物质图像识别步骤中,除了输入就诊者的脑的形态图像数据以外,还输入基于与就诊者的该特定疾病相关联的生物标记的值,由此识别模拟了就诊者的脑内的对象物质的分布的疑似物质图像数据。这样,在识别疑似物质图像数据时考虑基于与就诊者的特定疾病相关联的生物标记的值来生成疑似物质图像数据,由此与仅基于形态图像数据来估计与该特定疾病相关联的对象物质在脑内的分布相比,能够提高该对象物质的分布的估计精度,进而能够提高疑似物质图像数据及其疑似指标值的再现精度。
通过提高与特定疾病相关联的对象物质在脑内的分布的估计精度,能够实现在脑疾病等的诊断时所提供的信息的有用性的提高。另外,能够构建大量使用具有脑内的与特定疾病相关联的对象物质的信息的图像来进行疾病的鉴别的神经网络等模型,但此时,一般能够改变大量地准备昂贵的物质图像的情况,而使用再现精度高的疑似物质图像来作为其替代。
所述图像输出模型也可以具有U-net构造。所述疑似物质图像识别步骤也可以包括以下步骤:在所述U-net构造的输入层中追加基于所述生物标记的值。所述疑似物质图像识别步骤也可以包括以下步骤:在所述U-net构造的特征层中追加基于所述生物标记的值。基于所述生物标记的值既可以包括对所述就诊者的血液进行分析所得到的值,也可以包括基于所述就诊者的基因型的值。所述形态图像数据也可以是表示所拍摄到的就诊者的脑的剖面的整体形态的CT图像数据或MR图像数据。
根据该图像显示方法,通过在U-net构造的输入层中输入脑的形态图像数据、在输入层或特征层中输入基于与特定疾病相关联的生物标记的值,能够进一步提高与该特定疾病相关联的对象物质在脑内的分布的估计精度,进而能够进一步提高疑似物质图像数据及其疑似指标值的再现精度。根据该图像显示方法,例如在判定是否有可能患上阿尔茨海默型痴呆症时,通过使用对与关联性高的脑内的淀粉样蛋白β或tau蛋白的分布相关联的生物标记即血液进行分析得到的值以及基因型,能够高精度地进行作为特定疾病的阿尔茨海默型痴呆症的诊断。
上述包含的其它方式之一是一种图像显示装置,其具备:显示部;显示数据识别部,其识别对就诊者的体内的形态进行摄像而得到的形态整体图像数据,向通过图像输出模型的生成方法生成的图像输出模型输入包含所述就诊者的形态整体图像数据的图像部分的形态图像数据,由此识别从所述图像输出模型输出的疑似地表示对象物质在所述就诊者的体内的一部分部位处的分布的疑似物质图像数据;以及显示控制部,其将由所述显示数据识别部识别出的所述疑似物质图像数据输出到所述显示部。显示数据识别部也可以识别疑似物质图像数据以及与所述就诊者的疾病有关的疑似指标值。显示控制部也可以将所述疑似物质图像数据和所述疑似指标值输出到所述显示部。
上述包含的其它方式之一是一种图像显示装置。图像显示装置包括:显示部;显示数据识别部,其识别对就诊者的脑的形态进行摄像而得到的形态图像数据,识别基于与所述就诊者的特定疾病相关联的生物标记的值,通过向图像输出模型输入所述就诊者的形态图像数据和所述基于生物标记的值,来识别从所述图像输出模型输出的、模拟了与所述特定疾病相关联的对象物质在所述就诊者的脑内的分布的疑似物质图像数据以及基于该疑似物质图像数据识别出的与所述就诊者的所述特定疾病的发生有关的值即疑似指标值;以及显示控制部,其将由所述显示数据识别部识别出的所述疑似物质图像数据或所述疑似物质图像数据或这两者输出到所述显示部。
上述所包含的其它方式之一是一种图像输出模型的生成方法。生成方法是具备存储部的计算机所执行的方法,所述存储部用于存储被检者的脑的形态的摄像图像即形态图像数据、表示与所述被检者的特定疾病相关联的对象物质在所述被检者的脑内的分布的实际物质图像数据以及基于与所述被检者的所述特定疾病相关联的生物标记的值,所述图像输出模型的生成方法包括以下步骤:基于所述实际物质图像数据来修改模型,所述模型被输入所述形态图像数据和所述基于生物标记的值,输出与所述对象物质在所述被检者的脑内的分布有关的图像即疑似物质图像数据。
根据该结构的图像输出模型的生成方法,在模型生成步骤中,基于与对象物质在所述被检者的脑内的分布有关的实际物质部分图像数据来修改模型,该模型被输入存储在所述存储部中的被检者的脑的形态图像数据以及基于与该被检者的特定疾病相关联的生物标记的值,并输出与关联于该特定疾病的对象物质在该被检者的所述一部分部位处的分布有关的疑似物质图像数据。由此,生成图像输出模型。除了输入被检者的脑的形态图像数据以外,还输入基于与就诊者的该特定疾病相关联的生物标记的值,由此与仅输入被检者的脑的形态数据的情况相比,能够提高图像输出模型对与该特定疾病相关联的对象物质在被检者的脑内的分布的估计精度。通过提高对象物质在脑内的分布的估计精度,进而能够实现在疾病等的诊断时所提供的信息的有用性的提高。
所述存储部也可以存储包含所述被检者的形态图像的一部分部位的图像部分的形态部分图像数据以及提取了所述被检者的实际物质图像中的与对象物质在所述一部分部位处的分布有关的图像部分所得到的实际物质部分图像数据。所述模型生成步骤也可以包括以下步骤:基于所述实际物质部分图像数据来修改模型,所述模型被输入所述形态部分图像数据和所述基于生物标记的值,并输出包含与所述对象物质在所述被检者的脑内的所述一部分部位处的分布有关的图像部分的疑似物质图像数据。
生成方法也可以是具备存储部的计算机所执行的方法,所述存储部用于存储形态图像数据和实际物质部分图像数据,其中,所述形态图像数据包含形态整体图像数据中的与一部分部位有关的图像部分,所述形态整体图像数据是被检者的体内的一个或多个部位的形态的摄像图像,所述实际物质部分图像数据是在表示对象物质在所述被检者的体内的分布的实际物质整体图像数据中提取了与对象物质在所述被检者的一个或多个部位中的所述一部分部位处的分布有关的图像部分所得到的数据,所述生成方法包括模型生成步骤,在该模型生成步骤中,通过基于所述实际物质部分图像数据修改模型来生成图像输出模型,所述模型被输入所述形态图像数据,并输出包含与对象物质在所述被检者的体内的所述一部分部位处的分布有关的图像部分。
根据该结构的图像输出模型的生成方法,在模型生成步骤中,基于与关联于特定疾病的对象物质在所述被检者的一部分部位例如脑的一部分部位处的分布有关的实际物质部分图像数据,来修改模型,所述模型输入存储在所述存储部中的所述形态图像数据,并输出与该对象物质在所述被检者的一部分部位(脑的一部分部位)处的分布有关的疑似物质图像数据。由此,生成图像输出模型。在疾病的诊断等、例如脑的疾病等的诊断时,与该疾病相关联的对象物质在体内例如整个脑内的分布并不重要,对象物质在其一部分区域内的分布是重要的,因此与仅基于实际物质整体图像数据来修改模型的情况相比,能够提高图像输出模型对于对象物质在所述被检者的该一部分部位处的分布的估计精度。通过提高对象物质在一部分部位(该脑的一部分部位)处的分布的估计精度,进而能够实现在疾病等的诊断时所提供的信息的有用性的提高。
该图像输出模型的生成方法也可以包括实际指标值识别步骤,在该步骤中,基于所述实际物质部分图像数据来识别与所述被检者的所述特定疾病有关的实际指标值,所述模型生成步骤包括以下步骤:背离度评价步骤,评价表示所述疑似物质图像数据的图像要素的值相对于所述实际物质部分图像数据的图像要素的值而言背离的程度的背离度;疑似指标值识别步骤,基于所述疑似物质图像数据,来识别与所述被检者的疾病有关的疑似指标值;以及修改步骤,基于所述背离度、所述实际指标值以及所述疑似指标值,来修改所述模型。
根据该图像输出模型的生成方法,在所述模型生成步骤中,评价表示所述疑似物质图像数据的图像要素相对于所述实际物质部分图像数据的图像要素而言背离的程度的背离度。然后,基于所述疑似物质图像数据来识别与所述被检者的疾病有关的疑似指标值。然后,基于所述背离度、所述实际指标值以及所述疑似指标值来修改所述模型。由此,考虑图像要素以及与疾病有关的指标值这两方面来修改模型。其结果,从图像输出模型输出的数据中的图像要素以及与疾病有关的指标值接近实际的数据,进而,能够实现在疾病等的诊断时所提供的信息的有用性的提高。
所述实际指标值识别步骤也可以包括以下步骤:基于所述实际物质部分图像数据中包含的、所述对象物质在所述被检者的第一部位处的分布,来识别第一实际指标值,基于所述实际物质部分图像数据中包含的、所述对象物质在所述被检者的第二部位处的分布,来识别第二实际指标值。所述疑似指标值识别步骤也可以包括以下步骤:基于所述疑似物质图像数据中包含的、所述对象物质在所述被检者的第一部位处的分布,来识别第一疑似指标值,基于所述疑似物质图像数据中包含的、所述对象物质在所述被检者的第二部位处的分布,来识别第二疑似指标值。所述修改步骤也可以包括基于所述背离度、所述第一实际指标值、所述第二实际指标值、所述第一疑似指标值以及所述第二疑似指标值来修改所述模型的步骤。
关于一部分脑疾病,其诊断不仅能够根据脑内的对象物质的总体的量而发生变化,而且也能够根据与特定疾病相关联的对象物质在脑内的哪个部位如何分布而发生变化。根据该结构的图像输出模型的生成方法,考虑与所述被检者的脑的多个部位的每个部位有关的指标值来修改模型。由此,能够实现在疾病等的诊断时所提供的信息的有用性的提高。
图像输出模型的生成方法也可以包括位置识别步骤,在该步骤中,对所述形态整体图像数据或所述实际物质整体图像数据中的所述第一部位的位置和所述第二部位的位置进行识别。所述疑似指标值识别步骤也可以包括以下步骤:基于所述形态整体图像数据或所述实际物质整体图像数据中的所述第一部位的位置和所述第二部位的位置,来识别所述疑似物质图像数据中的所述第一部位的位置和所述第二部位的位置,基于所述疑似物质图像数据中的所述第一部位的位置处的对象物质的分布,来识别所述第一疑似指标值,基于所述疑似物质图像数据中的所述第二部位的位置处的所述对象物质的分布,来识别第二疑似指标值。
由于人的脑内的部位的位置或大小因人而异,因此在生成了图像的时刻,基于所生成的图像,不清楚哪个部位位于图像上的何处。根据鉴于这一点的上述图像输出模型的生成方法,基于形态图像数据或所述实际物质图像数据中的所述第一部位的位置和所述第二部位的位置,来识别所述疑似物质图像数据中的所述第一部位的位置和所述第二部位的位置。由此,不需要进行疑似物质图像数据中包含的部位是怎样的数据等解析,因此能够削减生成图像输出模型时的计算成本。
在图像输出模型的生成方法中,所述形态图像数据也可以是表示所拍摄到的被检者的脑的剖面的整体形态的CT图像数据或MR图像数据,所述实际物质部分图像数据也可以是与所述被检者的脑中的大脑灰质及小脑有关的所述PET图像的图像数据。所述模型生成步骤也可以包括以下步骤:通过基于所述PET图像的图像数据修改模型,来生成图像输出模型,所述模型被输入CT部分图像数据或MRI部分图像数据,并输出疑似PET图像数据,其中,所述CT部分图像数据或MRI部分图像数据包含存储在所述存储部中的CT图像数据或MR图像数据中的与大脑灰质及小脑有关的图像部分,所述疑似PET图像数据包含与淀粉样蛋白β或tau蛋白在所述被验者的所述大脑灰质及所述小脑中的分布有关的图像部分。
根据该结构的图像输出模型的生成方法,通过基于所述PET图像的部分图像数据修改模型,来生成图像输出模型,所述模型被输入CT部分图像数据或MRI部分图像数据,并输出疑似PET图像数据,其中,所述CT部分图像数据或MRI部分图像数据包含存储在所述存储部中的CT图像数据或MR图像数据中的与大脑灰质及小脑有关的图像部分,所述疑似PET图像数据包含与淀粉样蛋白β或tau蛋白在所述被验者的所述大脑灰质及所述小脑中的分布有关的图像部分。特别是在淀粉样蛋白β或tau蛋白在大脑灰质和小脑中的分布能够作为痴呆症的风险判定的基础信息时,生成这种用于估计淀粉样蛋白β或tau蛋白在大脑灰质和小脑中的分布的图像输出模型。通过将从这样的图像输出模型输出的整体图像数据提供给医生等,能够实现痴呆症的危险判定中的基础信息的有用性的提高。
此外,上述所公开的图像、病例、指标值等信息是一例,本发明不限定于这些记载和显示。另外,在上述参照附图说明了本发明的特定的实施方式,但在不脱离本发明的范围和精神的情况下,本领域技术人员能够想到各种其它实施方式及变形例,这种其它实施方式及变形例成为以下的权利要求书的对象,本发明通过以下的权利要求书来限定。

Claims (29)

1.一种系统,具有:
获取单元,其获取就诊对象的至少包含参照区域的第一类型的个别的实际图像数据,所述参照区域的一部分包含评价对象区域;以及
信息提供单元,其通过图像处理模型来提供诊断辅助信息,所述图像处理模型是基于包括多个被检对象的所述第一类型的所述参照区域的实际图像数据和第二类型的包含所述评价对象区域的实际图像数据的训练数据、以根据所述第一类型的所述参照区域的实际图像数据生成所述第二类型的所述评价对象区域的疑似图像数据的方式进行机器学习所得到的模型,所述诊断辅助信息是基于根据所述就诊对象的所述第一类型的所述个别的实际图像数据生成的所述第二类型的所述评价对象区域的疑似图像数据的信息。
2.根据权利要求1所述的系统,其特征在于,
所述图像处理模型是包含使用损失函数学习到的参数的模型,所述损失函数包含表示所述第二类型的所述评价对象区域的疑似图像数据的像素要素的值相对于所述第二类型的所述评价对象区域的实际图像数据的图像要素的值而言背离的程度的背离度。
3.根据权利要求1所述的系统,其特征在于,
所述第二类型的实际图像数据是包含使与诊断对象的异常相关联的第一物质的分布可视化的分布信息的实际物质图像数据,
所述图像处理模型是包含使用包含实际指标值和疑似指标值的损失函数以使所述实际指标值与所述疑似指标值之差变小的方式进行学习所得到的参数的模型,所述实际指标值是根据所述第二类型的实际图像数据的所述评价对象区域的所述第一物质的分布信息得到的,所述疑似指标值是根据所述第二类型的所述评价对象区域的疑似图像数据中包含的与所述第一物质的分布对应的疑似分布信息得到的。
4.根据权利要求3所述的系统,其特征在于,
所述损失函数包含背离度,所述背离度表示所述第二类型的所述评价对象区域的疑似图像数据的像素要素的值相对于所述第二类型的所述评价对象区域的实际图像数据的图像要素的值而言背离的程度。
5.根据权利要求3或4所述的系统,其特征在于,
所述评价对象区域包含多个部位,所述实际指标值是根据所述多个部位各自的分布信息而求出的,所述疑似分布信息是根据所述多个部位各自的疑似分布信息而求出的。
6.根据权利要求3至5中的任一项所述的系统,其特征在于,
所述信息提供单元提供包含疑似指标值的所述诊断辅助信息,所述疑似指标值是基于根据所述就诊对象的所述第一类型的所述个别的实际图像数据生成的所述第二类型的所述评价对象区域的疑似图像数据得到的。
7.根据权利要求1或2所述的系统,其特征在于,
所述第二类型的实际图像数据是包含使与诊断对象的异常相关联的第一物质的分布可视化的分布信息的实际物质图像数据,
所述信息提供单元提供包含疑似指标值的所述诊断辅助信息,所述疑似指标值是基于根据所述就诊对象的所述第一类型的所述个别的实际图像数据生成的所述第二类型的所述评价对象区域的疑似图像数据中包含的、与所述第一物质的分布对应的疑似分布信息得到的。
8.根据权利要求3至7中的任一项所述的系统,其特征在于,
所述第一类型的实际图像数据包含将脑设为所述参照区域的CT图像数据或MR图像数据,所述第二类型的实际图像数据包含PET图像数据,
所述疑似指标值包含疑似SUVR值。
9.根据权利要求3至7中的任一项所述的系统,其特征在于,
所述第一类型的实际图像数据包含将脑设为所述参照区域的CT图像数据或MR图像数据,所述第二类型的实际图像数据包含SPECT图像数据,
所述疑似指标值包含疑似BR值。
10.根据权利要求3至9中的任一项所述的系统,其特征在于,
所述训练数据包含所述多个被检对象的所述诊断对象的异常的诊断结果,
所述信息提供单元提供包含由所述图像处理模型导出的所述就诊对象的所述诊断对象的异常的疑似诊断结果的所述诊断辅助信息。
11.根据权利要求1至10中的任一项所述的系统,其特征在于,
所述获取单元构成为还获取包含与所述就诊对象的生物标记相关联的信息的属性信息,
所述训练数据包含属性信息,所述属性信息包含与所述多个被检对象的生物标记相关联的信息,
所述信息提供单元提供由所述图像处理模型基于根据所述就诊对象的所述个别的实际图像数据和所述就诊对象的所述属性信息生成的所述第二类型的所述评价对象区域的疑似图像数据的诊断辅助信息。
12.根据权利要求1至11中的任一项所述的系统,其特征在于,还具有:
接口,其能够访问保存有所述训练数据的储存器;以及
学习部,其基于所述训练数据,来学习用于根据所述第一类型的所述参照区域的实际图像数据生成所述第二类型的所述评价对象区域的疑似图像数据的所述图像处理模型。
13.一种方法,是由具备接口的计算机执行的方法,所述接口用于获取就诊对象的至少包含参照区域的第一类型的个别的实际图像数据,所述参照区域的一部分包含评价对象区域,所述方法包括以下步骤:
获取步骤,获取所述第一类型的个别的实际图像数据;以及
诊断辅助信息提供步骤,通过图像处理模型来提供诊断辅助信息,所述图像处理模型是基于包括多个被检对象的所述第一类型的所述参照区域的实际图像数据和第二类型的包含所述评价对象区域的实际图像数据的训练数据、以根据所述第一类型的所述参照区域的实际图像数据生成所述第二类型的所述评价对象区域的疑似图像数据的方式进行学习所得到的模型,所述诊断辅助信息是基于根据所述就诊对象的所述第一类型的所述个别的实际图像数据生成的所述第二类型的所述评价对象区域的疑似图像数据的信息。
14.根据权利要求13所述的方法,其特征在于,
所述图像处理模型是包含使用损失函数学习到的参数的模型,所述损失函数包含表示所述第二类型的所述评价对象区域的疑似图像数据的像素要素的值相对于所述第二类型的实际图像数据的所述评价对象区域的实际图像数据的图像要素的值而言背离的程度的背离度。
15.根据权利要求13所述的方法,其特征在于,
所述第二类型的实际图像数据是包含使与诊断对象的异常相关联的第一物质的分布可视化的分布信息的实际物质图像数据,
所述图像处理模型是包含使用包含实际指标值和疑似指标值的损失函数以使所述实际指标值与所述疑似指标值之差变小的方式进行学习所得到的参数的模型,所述实际指标值是根据所述第二类型的实际图像数据的所述评价对象区域的所述第一物质的分布信息得到的,所述疑似指标值是根据所述第二类型的所述评价对象区域的疑似图像数据中包含的与所述第一物质的分布对应的疑似分布信息得到的。
16.根据权利要求15所述的方法,其特征在于,
所述损失函数包含背离度,所述背离度表示所述第二类型的所述评价对象区域的疑似图像数据的像素要素的值相对于所述第二类型的所述评价对象区域的实际图像数据的图像要素的值而言背离的程度。
17.根据权利要求15或16所述的方法,其特征在于,
所述评价对象区域包含多个部位,所述实际指标值是根据所述多个部位各自的分布信息而求出的,所述疑似分布信息是根据所述多个部位各自的疑似分布信息而求出的。
18.根据权利要求15至17中的任一项所述的方法,其特征在于,
所述诊断辅助信息提供步骤包括提供包含疑似指标值的所述诊断辅助信息的步骤,所述疑似指标值是基于根据所述就诊对象的所述第一类型的所述个别的实际图像数据生成的所述第二类型的所述评价对象区域的疑似图像数据而得到的。
19.根据权利要求13或14所述的系统,其特征在于,
所述第二类型的实际图像数据是包含使与诊断对象的异常相关联的第一物质的分布可视化的分布信息的实际物质图像数据,
所述诊断辅助信息提供步骤包括提供包含疑似指标值的所述诊断辅助信息的步骤,所述疑似指标值是基于根据所述就诊对象的所述第一类型的所述个别的实际图像数据生成的所述第二类型的所述评价对象区域的疑似图像数据中包含的、与所述第一物质的分布对应的疑似分布信息而得到的。
20.根据权利要求13至19中的任一项所述的方法,其特征在于,
所述训练数据包含所述多个被检对象的所述诊断对象的异常的诊断结果,
所述诊断辅助信息提供步骤包括提供包含所述就诊对象的所述诊断对象的异常的疑似诊断结果的所述诊断辅助信息的步骤。
21.根据权利要求13至20中的任一项所述的方法,其特征在于,
所述获取步骤包括获取包含与所述就诊对象的生物标记相关联的信息的属性信息的步骤,
所述训练数据包含属性信息,所述属性信息包含与所述多个被检对象的生物标记相关联的信息,
所述诊断辅助信息提供步骤包括提供基于根据所述就诊对象的所述个别的实际图像数据和所述就诊对象的所述属性信息生成的所述第二类型的所述评价对象区域的疑似图像数据的诊断辅助信息的步骤。
22.一种装置,提供根据权利要求1至11中的任一项所述的图像处理模型,所述装置具有:
接口,其能够访问保存有所述训练数据的储存器;以及
学习部,其基于所述训练数据,来学习用于根据所述第一类型的所述参照区域的实际图像数据生成所述第二类型的所述评价对象区域的疑似图像数据的所述图像处理模型。
23.一种方法,是由具有接口的计算机执行的方法,所述接口能够访问保存有训练数据的储存器,所述训练数据包括多个被检对象的第一类型的参照区域的实际图像数据和第二类型的包含评价对象区域的实际图像数据,所述参照区域的一部分包含所述评价对象区域,所述方法包括以下步骤:
学习步骤,基于所述训练数据来学习图像处理模型,所述图像处理模型用于根据所述第一类型的所述参照区域的实际图像数据生成所述第二类型的所述评价对象区域的疑似图像数据。
24.根据权利要求22所述的方法,其特征在于,
所述第二类型的实际图像数据是包含使与诊断对象的异常相关联的第一物质的分布可视化的分布信息的实际物质图像数据,
所述学习步骤包括以下步骤:使用包含实际指标值和疑似指标值的损失函数,以使所述实际指标值与所述疑似指标值之差变小的方式学习所述图像处理模型的参数,所述实际指标值是根据所述第二类型的实际图像数据的所述评价对象区域的所述第一物质的分布信息得到的,所述疑似指标值是根据所述第二类型的所述评价对象区域的疑似图像数据中包含的与所述第一物质的分布对应的疑似分布信息得到的。
25.根据权利要求23所述的方法,其特征在于,
所述损失函数包含背离度,所述背离度表示所述第二类型的所述评价对象区域的疑似图像数据的像素要素的值相对于所述第二类型的所述评价对象区域的实际图像数据的图像要素的值而言背离的程度。
26.根据权利要求22至24中的任一项所述的方法,其特征在于,
所述训练数据包含属性信息,所述属性信息包含与所述多个被检对象的生物标记相关联的信息,
所述学习步骤包括以包含所述属性信息的方式学习所述图像处理模型的参数的步骤。
27.根据权利要求25所述的方法,其特征在于,
所述生物标记包含对所述多个被检对象各自的血液进行分析而得到的信息和基于基因型的信息中的至少任一信息。
28.根据权利要求25或26所述的方法,其特征在于,
所述图像处理模型包含卷积神经网络构造,
所述学习步骤包括以使所述卷积神经网络构造的特征量中包含所述属性信息的方式来学习所述图像处理模型的参数的步骤。
29.一种程序,具有使计算机作为根据权利要求1至12中的任一项所述的系统发挥功能的命令。
CN201980060132.4A 2018-09-12 2019-09-12 诊断辅助系统以及方法 Pending CN112702947A (zh)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
JP2018170708 2018-09-12
JP2018-170708 2018-09-12
JP2019067854 2019-03-29
JP2019-067854 2019-03-29
PCT/JP2019/035914 WO2020054803A1 (ja) 2018-09-12 2019-09-12 診断支援システムおよび方法

Publications (1)

Publication Number Publication Date
CN112702947A true CN112702947A (zh) 2021-04-23

Family

ID=69777069

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201980060132.4A Pending CN112702947A (zh) 2018-09-12 2019-09-12 诊断辅助系统以及方法

Country Status (5)

Country Link
US (1) US11978557B2 (zh)
EP (1) EP3851036A4 (zh)
JP (3) JP6746160B1 (zh)
CN (1) CN112702947A (zh)
WO (1) WO2020054803A1 (zh)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2022054711A1 (zh) * 2020-09-10 2022-03-17
WO2022065061A1 (ja) * 2020-09-28 2022-03-31 富士フイルム株式会社 画像処理装置、画像処理装置の作動方法、画像処理装置の作動プログラム
JPWO2022138960A1 (zh) * 2020-12-25 2022-06-30
EP4272635A1 (en) * 2020-12-30 2023-11-08 Neurophet Inc. Method for providing diagnosis assistance information, and device performing same
JPWO2022168969A1 (zh) * 2021-02-05 2022-08-11
US20220292657A1 (en) * 2021-03-11 2022-09-15 Terran Biosciences, Inc. Systems, devices, and methods for harmonization of imaging datasets including biomarkers
KR102609153B1 (ko) * 2021-05-25 2023-12-05 삼성전기주식회사 딥러닝 기반 제조 영상의 이상 탐지 장치 및 방법
WO2022250253A1 (en) * 2021-05-25 2022-12-01 Samsung Electro-Mechanics Co., Ltd. Apparatus and method with manufacturing anomaly detection
KR102451108B1 (ko) * 2022-02-22 2022-10-06 뉴로핏 주식회사 치매 진단에 필요한 정보 제공 방법 및 장치
KR102444082B1 (ko) 2022-02-22 2022-09-16 뉴로핏 주식회사 치매 진단 보조 정보 제공 장치 및 방법
WO2023167157A1 (ja) * 2022-03-01 2023-09-07 株式会社Splink コンピュータプログラム、情報処理装置及び情報処理方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008132320A (ja) * 2007-10-25 2008-06-12 Fujifilm Ri Pharma Co Ltd 画像診断支援システム
CN102088910A (zh) * 2008-07-07 2011-06-08 浜松光子学株式会社 脑部疾病的诊断系统
CN107644419A (zh) * 2017-09-30 2018-01-30 百度在线网络技术(北京)有限公司 用于分析医学影像的方法和装置
JP2018505705A (ja) * 2014-12-10 2018-03-01 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 機械学習を用いた医用イメージングの変換のためのシステムおよび方法
WO2018048507A1 (en) * 2016-09-06 2018-03-15 Han Xiao Neural network for generating synthetic medical images
KR20180097214A (ko) * 2017-02-23 2018-08-31 고려대학교 산학협력단 딥러닝을 사용하여 재발 부위를 예측하고, pet 이미지를 생성하는 방법과 장치

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004071080A (ja) * 2002-08-08 2004-03-04 Pioneer Electronic Corp 情報再生出力装置、方法、プログラム及び記録媒体
US7782998B2 (en) * 2004-12-21 2010-08-24 General Electric Company Method and apparatus for correcting motion in image reconstruction
JP4581088B2 (ja) * 2005-05-17 2010-11-17 国立大学法人 筑波大学 計算機支援診断装置および方法
JP6703323B2 (ja) 2015-09-17 2020-06-03 公益財団法人神戸医療産業都市推進機構 生体の画像検査のためのroiの設定技術

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008132320A (ja) * 2007-10-25 2008-06-12 Fujifilm Ri Pharma Co Ltd 画像診断支援システム
CN102088910A (zh) * 2008-07-07 2011-06-08 浜松光子学株式会社 脑部疾病的诊断系统
JP2018505705A (ja) * 2014-12-10 2018-03-01 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 機械学習を用いた医用イメージングの変換のためのシステムおよび方法
WO2018048507A1 (en) * 2016-09-06 2018-03-15 Han Xiao Neural network for generating synthetic medical images
KR20180097214A (ko) * 2017-02-23 2018-08-31 고려대학교 산학협력단 딥러닝을 사용하여 재발 부위를 예측하고, pet 이미지를 생성하는 방법과 장치
CN107644419A (zh) * 2017-09-30 2018-01-30 百度在线网络技术(北京)有限公司 用于分析医学影像的方法和装置

Also Published As

Publication number Publication date
JP2020171841A (ja) 2020-10-22
US20210257094A1 (en) 2021-08-19
JPWO2020054803A1 (ja) 2020-10-22
EP3851036A4 (en) 2022-06-15
JP7357927B2 (ja) 2023-10-10
JP2023169313A (ja) 2023-11-29
US11978557B2 (en) 2024-05-07
EP3851036A1 (en) 2021-07-21
JP6746160B1 (ja) 2020-08-26
WO2020054803A1 (ja) 2020-03-19

Similar Documents

Publication Publication Date Title
JP7357927B2 (ja) 診断支援システムおよび方法
Qiu et al. Multimodal deep learning for Alzheimer’s disease dementia assessment
US11928827B2 (en) Grading of structures for state determination
JP5468905B2 (ja) 神経変性疾患の診断を支援するためのツール
Tanveer et al. Deep learning for brain age estimation: A systematic review
EP2747658B1 (en) Method to compute and present brain amyloid in gray matter
Wang et al. Applications of generative adversarial networks in neuroimaging and clinical neuroscience
Peterson et al. Personalized Gaussian processes for future prediction of Alzheimer's disease progression
Al-Adhaileh Diagnosis and classification of Alzheimer's disease by using a convolution neural network algorithm
Platten et al. Deep learning corpus callosum segmentation as a neurodegenerative marker in multiple sclerosis
WO2019044095A1 (ja) 医用情報表示装置、方法及びプログラム
KR101919847B1 (ko) 동일 피사체에 대하여 시간 간격을 두고 촬영된 영상 간에 동일 관심구역을 자동으로 검출하는 방법 및 이를 이용한 장치
Kumari et al. An efficient combination of quadruple biomarkers in binary classification using ensemble machine learning technique for early onset of Alzheimer disease
Yang et al. Diagnosis of Parkinson’s disease based on 3D ResNet: The frontal lobe is crucial
Hassanaly et al. Evaluation of pseudo-healthy image reconstruction for anomaly detection with deep generative models: Application to brain FDG PET
KR20200116278A (ko) 치과 영상으로부터 피검체의 성별 및 연령을 판정하는 방법 및 이를 이용한 장치
US20160166192A1 (en) Magnetic resonance imaging tool to detect clinical difference in brain anatomy
JP7492769B2 (ja) 認知症診断に必要な情報の提供方法及び装置
KR101948701B1 (ko) 피검체의 뇌 구조를 기술하는 잠재 변수에 기반하여 상기 피검체의 뇌질환을 판정하는 방법 및 이를 이용한 장치
Schell et al. Automated hippocampal segmentation algorithms evaluated in stroke patients
Tomassini et al. A Double-Stage 3D U-Net for On-Cloud Brain Extraction and Multi-Structure Segmentation from 7T MR Volumes
Hassanaly et al. Pseudo-healthy image reconstruction with variational autoencoders for anomaly detection: A benchmark on 3D brain FDG PET
Dartora et al. Discriminating aging cognitive decline spectrum using pet and magnetic resonance image features
JP7477906B2 (ja) 認知症診断支援情報の提供装置及びその方法
Jang et al. Machine learning-based automatic estimation of cortical atrophy using brain computed tomography images

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
REG Reference to a national code

Ref country code: HK

Ref legal event code: DE

Ref document number: 40045264

Country of ref document: HK