CN115334976A - 计算机程序、信息处理方法、信息处理装置以及模型生成方法 - Google Patents
计算机程序、信息处理方法、信息处理装置以及模型生成方法 Download PDFInfo
- Publication number
- CN115334976A CN115334976A CN202180024534.6A CN202180024534A CN115334976A CN 115334976 A CN115334976 A CN 115334976A CN 202180024534 A CN202180024534 A CN 202180024534A CN 115334976 A CN115334976 A CN 115334976A
- Authority
- CN
- China
- Prior art keywords
- branch
- trunk
- section
- side branch
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/12—Diagnosis using ultrasonic, sonic or infrasonic waves in body cavities or body tracts, e.g. by using catheters
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/08—Detecting organic movements or changes, e.g. tumours, cysts, swellings
- A61B8/0891—Detecting organic movements or changes, e.g. tumours, cysts, swellings for diagnosis of blood vessels
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/52—Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/5215—Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data
- A61B8/5223—Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data for extracting a diagnostic or physiological parameter from medical diagnostic data
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/56—Details of data transmission or power supply
- A61B8/565—Details of data transmission or power supply involving data transmission via a network
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/12—Edge-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/60—Analysis of geometric attributes
- G06T7/62—Analysis of geometric attributes of area, perimeter, diameter or volume
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10072—Tomographic images
- G06T2207/10101—Optical tomography; Optical coherence tomography [OCT]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10132—Ultrasound image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30101—Blood vessel; Artery; Vein; Vascular
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Radiology & Medical Imaging (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Biomedical Technology (AREA)
- Public Health (AREA)
- Molecular Biology (AREA)
- Biophysics (AREA)
- Pathology (AREA)
- Veterinary Medicine (AREA)
- Heart & Thoracic Surgery (AREA)
- Surgery (AREA)
- Animal Behavior & Ethology (AREA)
- Quality & Reliability (AREA)
- Physiology (AREA)
- Computer Networks & Wireless Communication (AREA)
- Vascular Medicine (AREA)
- Geometry (AREA)
- Image Analysis (AREA)
- Ultra Sonic Daignosis Equipment (AREA)
- Image Processing (AREA)
Abstract
本发明的计算机程序用于使计算机执行如下处理:通过插入管腔器官的导管获得多个医用图像,该管腔器官具有主干、从该主干分岔的侧枝和主干以及侧枝的分支部,该多个医用图像是基于传感器一边沿着管腔器官的长边方向移动一边检测到的信号而生成的;通过将获得的医用图像输入至识别主干截面、侧枝截面以及分支部截面的学习模型,来识别主干截面、侧枝截面以及分支部截面。
Description
技术领域
本发明涉及计算机程序、信息处理方法、信息处理装置以及模型生成方法。
背景技术
正在进行如下检查:通过使用导管的血管内超声波(IVUS:Intra Vascular UltraSound)法来生成包括血管的超声波断层图像的医用图像,来进行血管内的超声波检查。血管内超声波法中,血管内诊断用导管使超声波传感器从血管的远位移动至近位,扫描血管及其周边组织。
另一方面,以辅助医生的诊断为目的,正在开发通过图像处理和机械学习对医用图像附加信息的技术。
现有技术文献
专利文献
专利文献1:日本特开2019-165970号公报
发明内容
但是,存在如下问题,在一张断层图像中对血管的分支部的内腔边界进行图像识别,难以辨别血管的主干以及侧枝,无法对医用图像附加有用的信息。
本发明的目的为,提供能够对扫描管腔器官得到的医用图像进行解析来识别血管的主干以及侧枝的计算机程序、信息处理方法、信息处理装置以及模型生成方法。
本发明的计算机程序用于使计算机执行如下处理:通过插入管腔器官的导管获得多个医用图像,该管腔器官具有主干、从该主干分岔的侧枝和主干以及侧枝的分支部,该多个医用图像是基于传感器一边沿着管腔器官的长边方向移动一边检测到的信号而生成的;通过将获得的医用图像输入至识别主干截面、侧枝截面以及分支部截面的学习模型,来识别所述主干截面、所述侧枝截面以及所述分支部截面。
本发明的信息处理方法用于使计算机执行如下处理:通过插入管腔器官的导管获得多个医用图像,该管腔器官具有主干、从该主干分岔的侧枝和主干以及侧枝的分支部,该多个医用图像是基于传感器一边沿着管腔器官的长边方向移动一边检测到的信号而生成的;通过将获得的医用图像输入至识别主干截面、侧枝截面以及分支部截面的学习模型,来识别所述主干截面、所述侧枝截面以及所述分支部截面。
本发明的信息处理装置具有:获得部,其通过插入管腔器官的导管获得多个医用图像,该管腔器官具有主干、从该主干分岔的侧枝和主干以及侧枝的分支部,该多个医用图像是基于传感器一边沿着管腔器官的长边方向移动一边检测到的信号而生成的;和学习模型,其在输入有获得的医用图像的情况下,识别主干截面、侧枝截面以及分支部截面,并输出表示所述主干截面、所述侧枝截面以及所述分支部截面的信息。
本发明的模型生成方法用于使计算机执行如下处理:生成相对于多个医用图像附加有表示其为管腔截面的数据的训练数据,该多个医用图像是通过插入具有主干、从该主干分岔的侧枝和主干以及侧枝的分支部的管腔器官的导管,基于传感器一边沿着管腔器官的长边方向移动一边检测到的信号而生成的,且分别是包括主干截面的多个医用图像、包括主干截面以及侧枝截面的多个医用图像和包括分支部截面的多个医用图像;并基于生成的所述训练数据来生成当输入有医用图像的情况下识别所述主干截面、所述侧枝截面以及所述分支部截面的学习模型。
发明效果
根据本发明,能够对扫描管腔器官得到的医用图像进行解析来识别血管的主干以及侧枝
附图说明
图1是表示图像诊断装置的构成例的说明图。
图2是表示图像处理装置的构成例的框图。
图3是表示使用了学习模型的图像识别方法的说明图。
图4是表示分岔的血管的说明图。
图5是表示扫描分岔的血管得到的血管的断层图像的说明图。
图6是表示实施方式1的信息处理方法的顺序的流程图。
图7是表示血管的分支构造的特定方法的血管的侧视图。
图8是表示血管的分支构造的特定方法的血管的剖视图。
图9是表示引导图像的显示例的说明图。
图10是表示实施方式2的信息处理方法的顺序的流程图。
图11A是表示主干以及侧枝的模型图像的说明图。
图11B是表示主干以及侧枝的模型图像的说明图。
图11C是表示主干以及侧枝的模型图像的说明图。
图12是表示图像诊断系统的构成例的说明图。
图13是表示信息处理装置的构成例的框图。
图14是表示学习模型的生成方法的流程图。
具体实施方式
以下参照附图来说明本发明实施方式的计算机程序、信息处理方法、信息处理装置以及模型生成方法的具体例。
(实施方式1)
图1是表示图像诊断装置100的构成例的说明图。图像诊断装置100是如下装置,用于通过血管内超声波(IVUS:Intra Vascular Ultra Sound)法生成包括血管(管腔器官)的超声波断层图像的医用图像,并进行血管内的超声波检查以及诊断。尤其,实施方式1的图像诊断装置100通过分析血管的分支构造,辨别分岔的主干A以及侧枝B,将表示分支构造的引导图像G1、G2(参照图9)重叠显示于医用图像。
图像诊断装置100具有导管1、MDU(Motor Drive Unit)2、图像处理装置(信息处理装置)3、显示装置4以及输入装置5。图像诊断装置100通过使用导管1的IVUS法来生成包括血管的超声波断层图像的医用图像,进行血管内的超声波检查。
导管1是用于通过IVUS法获得血管的超声波断层图像的图像诊断用导管。导管1在顶端部具有用于获得血管的超声波断层图像的超声波探头。超声波探头具有在血管内发出超声波的超声波振动子、和接收由血管的生体组织或医用机器反射的反射波(超声波回波)的超声波传感器。超声波探头构成为,能够一边绕血管的周向旋转一边在血管的长边方向上进退。
MDU2是供导管1能够拆装地安装的驱动装置,根据医疗从业者的操作来驱动内置电机,由此控制插入血管内的导管1的动作。MDU2使导管1的超声波探头一边从顶端(远位)侧向基端(近位)侧移动一边在周向上旋转(参照图3)。超声波探头以规定的时间间隔连续地在血管内进行扫描,将检测到的超声波的反射波数据向图像处理装置3输出。
图像处理装置3基于从导管1的超声波探头输出的反射波数据而生成包括血管的断层图像的按时序排列的多个医用图像(参照图3)。超声波探头在血管内一边从顶端(远位)侧向基端(近位)侧移动一边对血管内进行扫描,由此按时序排列的多个医用图像是,在从远位至近位的范围内的多个部位观测到的血管的断层图像。
显示装置4为液晶显示面板、有机EL显示面板等,显示由图像处理装置3生成的医用图像。
输入装置5是受理进行检查时的各种设定值的输入、图像处理装置3的操作等的、键盘鼠标等输入接口。输入装置5可以为设于显示装置4的触摸面板、软键、硬键等。
图2是表示图像处理装置3的构成例的框图。图像处理装置3为计算机,具有控制部31、主储存部32、输入输出I/F33以及辅助储存部34。
控制部31是使用一个或多个CPU(Central Processing Unit)、MPU(Micro-Processing Unit)、GPU(Graphics Processing Unit)、GPGPU(General-purposecomputing on graphics processing units)、TPU(Tensor Processing Unit)等运算处理装置而构成的。
主储存部32是SRAM(Static Random Access Memory)、DRAM(Dynamic RandomAccess Memory)、闪存等临时储存区域,将为了控制部31执行运算处理所必要的数据临时储存。
输入输出I/F33是供导管1、显示装置4以及输入装置5连接的接口。控制部31经由输入输出I/F33获得从超声波探头输出的反射波数据。另外,控制部31经由输入输出I/F33向显示装置4输出医用图像信号。而且,控制部31经由输入输出I/F33受理向输入装置5输入的信息。
辅助储存部34是硬盘、EEPROM(Electrically Erasable Programmable ROM)、闪存等储存装置。辅助储存部34储存供控制部31执行的计算机程序P、对于控制部31的处理所必要的各种数据。另外,辅助储存部34储存学习模型341。
学习模型341是识别医用图像中所含的规定目标的模型。学习模型341例如能够通过对使用了语义分割(Semantic Segmentation)的图像识别技术进行利用,对目标以像素单位进行分类,能够识别医用图像中所含的血管的内腔边界。
此外,辅助储存部34也可以是与图像处理装置3连接的外部储存装置。计算机程序P可以在图像处理装置3的制造阶段被写入辅助储存部34,也可以由图像处理装置3通过通信获得从远程服务器装置配送的程序并将其储存至辅助储存部34。计算机程序P的样式可以为能够读取地记录至磁盘、光盘、半导体存储器等记录介质3a。
控制部31执行如下处理:读取并执行辅助储存部34内储存的计算机程序P,由此获得由图像诊断装置100生成的医用图像,检测医用图像中所含的血管的内腔边界。具体地,控制部31使用学习模型341来检测医用图像中的内腔边界的图像区域。尤其,实施方式1的控制部31具有辨别血管的分支部中的主干A以及侧枝B的功能。并且,图像处理装置3将内腔边界的识别结果向图像诊断装置100输出,以使医疗从业者容易识别作为结果的主干A以及侧枝B的内腔边界的方式显示对主干A以及侧枝B的位置以及区域进行表示的引导图像G1、G2(参照图9)。
图3是表示使用了学习模型341的图像识别方法的说明图。学习模型341以能够将医用图像中的血管的内腔边界的区域以像素单位进行识别的方式学习。
学习模型341是例如基于深层学习的学习后的卷积神经网络(CNN:Convolutionalneural network)。学习模型341通过使用所谓的语义分割(Semantic Segmentation)的图像识别技术,对目标以像素单位进行识别。
学习模型341具有医用图像所输入的输入层341a、将图像的特征量提取并恢复的中间层341b、输出以像素单位表示医用图像中所含的目标的标签图像的输出层341c。学习模型341例如为U-Net。
学习模型341的输入层341a具有受理医用图像中所含的各像素的像素值的输入的多个神经元,将输入的像素值向中间层341b传输。中间层341b具有卷积层(CONV层)和反卷积层(DECONV层)。卷积层是对图像数据进行降维的层。通过降维,提取目标的特征量。反卷积层进行反卷积处理,恢复至原本的维数。通过反卷积层中的恢复处理,生成了二值化后的标签图像,其表示图像内的各像素是否为目标。输出层341c具有输出标签图像的一个或多个神经元。标签图像例如是与血管的内腔边界对应的像素为“1”类且与其他的图像对应的像素为“0”类的图像。
学习模型341能够通过准备训练数据、并使用该训练数据使未学习的神经网络进行机械学习来生成,该训练数据具有包括主干A的医用图像、表示该医用图像中的主干A的内腔边界的像素以及中心位置的标签图像、包括完全分离开的主干A以及侧枝B的医用图像、表示该医用图像中的主干A以及侧枝B的内腔边界的像素以及中心位置的标签图像、包括主干A以及侧枝B的分支部的医用图像、和表示该医用图像中的分支部的内腔边界的像素的标签图像。包括分支部的医用图像中,主干截面以及侧枝截面是结合的。
根据这样地学习得到的学习模型341,如图3所示,通过将包括主干A的医用图像输入学习模型341,能够获得将主干A的内腔边界的区域由像素单位表示的标签图像。另外,对于学习模型341,通过将包括主干A以及侧枝B的双方的医用图像输入学习模型341,能够获得将主干A以及侧枝B的区域由像素单位表示的标签图像。而且,对于学习模型341,通过将包含主干A以及侧枝B的分支部的医用图像输入学习模型341,能够获得将分支部的区域由像素单位表示的标签图像。在此获得的标签图像中,主干A以及侧枝B以没有被辨别的方式输出。
图4是表示分岔的血管的说明图,图5是表示扫描分岔的血管获得的血管的断层图像的说明图。
图4中,由附图标记a~f所示的面中的断层图像为图5所示。在主干A和从该主干A分岔的侧枝B完全分离开的情况下(由附图标记f所示的截面),能够容易理解医用图像中的主干A以及侧枝B。但是,血管的分支部分中(由附图标记c、附图标记d、附图标记e所示的截面等),不容易理解主干A以及侧枝B的构造。
本实施方式1的图像处理装置3执行如下处理:识别这样的分支部的主干A以及侧枝B的构造,显示对基于医疗从业者进行的分支构造的识别进行支援的引导图像G1、G2。
图6是表示信息处理方法的顺序的流程图,图7是表示血管的分支构造的特定方法的血管的侧视图,图8是表示血管的分支构造的特定方法的血管的剖视图。
控制部31从图像诊断装置100获得按时序排列的多个医用图像(步骤S11)。在此获得的按时序排列的多个医用图像是,例如在从血管的远位至近位的范围内观测到的断层图像的图像。
控制部31选择远位部中的多个医用图像(步骤S12)。控制部31至少选择包括完全分离开的主干A以及侧枝B的两张医用图像即可。例如,如图7所示,控制部31选择截断面f中的医用图像和截断面g中的医用图像即可。
并且,控制部31通过将由步骤S12选择出的医用图像输入学习模型341,检测医用图像中所含的主干A以及侧枝B的内腔边界以及中心位置(步骤S13)。
接着,如图8所示,控制部31基于步骤S13的检测结果,特定血管的分支构造(步骤S14)。由步骤S12选择出的两张图像的拍摄时间的时间差对应于主干A的长边方向的长度。具体地,血管扫描时的超声波探头的移动速度与该时间差之积对应于两张医用图像拍摄到的部位的长度。图8中从两个医用图像中所含的主干A的中心通过的直线(虚线)表示主干A的中心线。另外从两个医用图像中所含的侧枝B的中心通过的直线(虚线)表示侧枝B的中心线。
在扫描时点t1拍摄到的主干A的中心坐标为(x1,y1),且扫描时点t2=t+Δt拍摄到的主干A的中心坐标为(x2,y2)的情况下,扫描时点tN=t+NΔt拍摄的分支部中的主干A的中心坐标(xN,yN)由如下数式(1)、(2)表达。
xN=x1+(x2-x1)×N…(1)
yN=y1+(y2-y1)×N…(2)
在扫描时点t1拍摄到的主干A的直径为r1,且扫描时点t2=t+Δt拍摄到的主干A的直径为r2的情况下,扫描时点tN=t+NΔt拍摄的分支部中的主干A的中心坐标rN由如下数式(3)表达。
rN=r1+(r2-r1)×N…(3)
上述数式(3)说明一个直径,但关于主干A的长径以及短径也能够同样地计算。
另外,上述数式(1)~(3)说明了通过基于从两个医用图像得到的主干的中心位置以及直径进行的线性插值来推测分支部中的血管的中心位置以及直径的例子,但也可以为,通过基于三个以上的医用图像中的血管的中心位置进行的多项式插值,来计算其他医用图像中的血管的中心位置以及直径。
同样地,可以推定主干A的内腔边界的直径。另外,针对侧枝B也能够通过同样的方法来计算医用图像中的中心位置以及直径。
控制部31将表示主干A的内腔边界的直线与表示侧枝B的内腔边界的直线相交的区域特定作为分支部。
完成步骤S14的处理后的控制部31选择分支部中的医用图像(步骤S15),检测医用图像中所含的主干A以及侧枝B的内腔边界(步骤S16)。分支部中的主干A的内腔边界的区域和侧枝B的内腔边界的区域被识别作为如局部结合那样的区域。
并且,控制部31基于表示由步骤S14特定的分支部构造的信息,来特定由步骤S16检测到的内腔边界的区域中的、主干A部分和侧枝B部分(步骤S17)。通过由步骤S14特定的分支部构造的信息,能够求出分支部的医用图像中的主干A的中心位置及直径。即,控制部31能够求出医用图像中的表示主干A的椭圆线。控制部31能够将由步骤S16检测的内腔边界中的处于由分支部构造的信息得到的主干A的椭圆线附近的区域识别作为主干A的内腔边界。
同样地,控制部31能够将由步骤S16检测的内腔边界中的处于由分支部构造的信息得到的侧枝B的椭圆线附近的区域识别作为主干A的内腔边界。
接着,控制部31选择与分支部相比靠近位部中的医用图像(步骤S18)。若分支为一个,则在由步骤S18选择的医用图像中仅包括主干A。控制部31检测近位部中的医用图像中所含的主干A的内腔边界以及中心位置(步骤S19)。
并且,控制部31将表示医用图像中的主干A部分以及侧枝B部分的引导图像G1、G2重叠显示于医用图像(步骤S20)。
图9是表示引导图像G1、G2的显示例的说明图。如图9所示,分支部的医用图像中,主干A以及侧枝B的截面局部结合,难以明确辨别主干A部分的内腔边界和侧枝B部分的内腔边界。因此,控制部31使与医用图像中的主干A的内腔边界的区域对应的引导图像G1重叠显示于医用图像。引导图像G1是形状与主干A的内腔边界的区域大致相同的图像。
另外,控制部31使与医用图像中的侧枝B的内腔边界的区域对应的引导图像G2重叠显示于医用图像。引导图像G2是形状与侧枝B的内腔边界的区域大致相同的图像。
此外,也可以为,控制部31以引导图像G1和引导图像G2不同的样态来显示引导图像G1、G2。例如,可以显示线条类型、颜色不同的引导图像G1、G2。另外,也可以构成为,没有重叠引导图像G1、G2的原图像与在医用图像上重叠有引导图像G1、G2的图像一同并排显示。而且,也可以构成为,选择性地切换显示重叠有引导图像G1、G2的图像和没有重叠引导图像G1、G2的原图像。
另外,也可以为,控制部31以将医用图像内没有显示的主干A或侧枝B的内腔边界补全的方式显示引导图像G1、G2。例如,在图9所示的例中,应该为环状的内腔边界的一部分有缺口,但可以为,推定该缺口部分而显示主干A的内腔边界、侧枝B的内腔边界。
根据这样构成的计算机程序P、图像处理装置3及信息处理方法,可解析扫描血管得到的医用图像并识别血管的主干A及侧枝B。
另外,能够显示表示血管的主干A以及侧枝B的内腔边界的引导图像G1、G2,来支援基于医疗从业者进行的主干A以及侧枝B的内腔边界的识别。
此外,本实施方式1所说明的图像处理装置3、计算机程序P、信息处理方法是一例,并非限定于实施方式1的构成。
例如,本实施方式1中,作为观察或诊断对象而以血管为例,但在观察血管以外的肠等管腔器官的情况下,也能够适用本发明。
另外,作为医用图像的一例而说明了超声波图像,但医用图像并不限于超声波图像。医用图像也可以例如为OCT(Optical Coherence Tomography)图像等。
(实施方式2)
实施方式2的图像处理装置与实施方式1的不同点在于,对血管的内腔边界以及斑块进行识别的点、能够计算并显示主干A以及侧枝B的直径、截面面积、体积等的点、和能够生成并显示将分支构造再现的模型图像的点,由此,以下主要说明上述不同点。其他的构成以及作用效果与实施方式1同样,由此,在对应的地方标注同样的附图标记并省略详细说明。
实施方式2的学习模型341是对例如医用图像中所含的血管的内腔边界以及斑块进行识别的模型。
图10是表示实施方式2的信息处理方法的顺序的流程图。实施方式2的控制部31执行与实施方式1的步骤S11~步骤S20同样的处理,但在步骤S33、步骤S36以及步骤S39中,检测血管的内腔边界以及斑块。
接着,控制部31将表示斑块的引导图像重叠显示于医用图像(步骤S40)。此外,医疗从业者能够使用输入装置5,选择是否需要表示斑块的引导图像。控制部31在受理了不需要引导图像的内容的情况下,不显示引导图像,在受理了需要引导图像的内容的情况下,显示引导图像。
接着,控制部31计算主干A的内腔的截面直径、截面面积或每单位长度的体积,将计算出的主干A的内腔的截面直径、截面面积以及体积重叠显示于显示装置4(步骤S41)。
同样地,控制部31基于由步骤S34特定的分支构造来计算侧枝B的内腔的截面直径、截面面积或每单位长度的体积,并将计算出的侧枝B的内腔的截面直径、截面面积以及体积显示于显示装置4(步骤S42)。然而,如图8所示,由穿插于主干A的导管1扫描得到的侧枝B的断层图像是,如将侧枝B斜着截断那样的断层图像(以下称为斜断层图像)。因此,控制部31换算为将侧枝B大致垂直截断的断层图像,即由相对于侧枝B的中心线大致垂直的面截断的断层图像(以下称为轴向断层图像)中的内腔的截面直径、截面面积或体积。例如,计算主干A的中心线与侧枝B的中心线相交的角度θ,使用角度θ将斜断层图像转换为轴向图像,计算侧枝B的内腔的截面直径、截面面积或每单位长度的体积即可。
接着,控制部31基于由步骤S34计算出的分支构造、和根据医用图像检测到的内腔边界以及斑块的识别结果,将表示血管的分支构造的模型图像再现,并将其显示于显示装置4(步骤S43)。
图11A~图11C是表示主干A以及侧枝B的模型图像的说明图。例如,图11A~图11C的上图所示,控制部31可以将血管的横截面生成作为模型图像。该模型图像表示血管的血管壁部、内腔边界以及斑块部分。
另外,如图11A~图11C的下图所示,控制部31可以将主干A以及侧枝B的剖视图像生成作为模型图像。该模型图像也显示血管的血管壁部、内腔边界以及斑块部分。而且,控制部31可以当生成侧枝B的剖视图像时,生成转换为轴向图像的模型图像。
根据这样构成的计算机程序P、图像处理装置3以及信息处理方法,能够显示对形成于血管壁的斑块进行表示的引导图像,能够支援基于医疗从业者进行的斑块部分的识别。
另外,能够计算并显示主干A以及侧枝B的内腔的截面直径、面积以及体积。
而且,能够生成并显示表示分支构造的模型图像,能够支援基于医疗从业者进行的血管的分支部分的识别。尤其,通过对显示主干A以及侧枝B的内腔边界以及斑块的横截面的模型图像进行显示,能够更加容易识别形成于血管的斑块。
还而且,通过显示主干A以及侧枝B的轴向截面,能够更容易识别形成于血管的斑块。
(实施方式3)
图12是表示图像诊断系统的构成例的说明图。实施方式3的图像诊断系统的不同点在于,作为服务器的信息处理装置6执行医用图像的解析处理,由此以下主要说明上述不同点。其他的构成以及作用效果与实施方式1或2同样,由此在对应的地方标注同样的附图标记并省略详细说明。
实施方式3的图像诊断系统具有信息处理装置6、图像诊断装置200。信息处理装置6及图像诊断装置200经由LAN(Local Area Network)、互联网等网络N通信连接。信息处理装置6及图像诊断装置200经由LAN(Local Area Network)、互联网等网络N通信连接。
图13是表示信息处理装置6的构成例的框图。信息处理装置6为计算机,具有控制部61、主储存部62、通信部63以及辅助储存部64。通信部63是用于经由网络N在与图像处理装置3之间授受数据的通信回路。控制部61、主储存部62、通信部63以及辅助储存部64的硬件构成与由实施方式1说明的图像处理装置3同样。辅助储存部64所储存的计算机程序P、学习模型641、记录介质6a也与实施方式1或2的各种程序以及模型等同样。
此外,信息处理装置6可以是由多个计算机构成的多计算机,也可以是由软件虚拟构筑的虚拟机。信息处理装置6可以是设置在与图像诊断装置200相同的施设(病院等)的本地服务器,也可以是经由互联网等与图像诊断装置200通信连接的云服务器。
图14是表示学习模型641的生成方法的流程图。控制部61收集包括主干截面的多个医用图像(步骤S51)。例如,控制部61从图像诊断装置200收集医用图像。
接着,控制部61收集包括主干截面以及侧枝截面的多个医用图像(步骤S52)。同样地,控制部61收集包括分支部截面的多个医用图像(步骤S53)。
另外,控制部61收集包括形成有斑块的主干截面的多个医用图像(步骤S54)。另外,控制部61收集包括形成有斑块的主干截面以及侧枝截面的多个医用图像(步骤S55)。同样地,控制部61收集包括形成有斑块的分支部截面的多个医用图像(步骤S56)。
接着,控制部61生成将标签图像与由步骤S51~步骤S56收集到的医用图像建立了对应关系的训练数据(步骤S57)。包括主干截面的医用图像的标签图像是表示主干A的内腔边界以及斑块的像素的图像。包括主干截面以及侧枝截面的医用图像的标签图像是表示主干A以及侧枝B的内腔边界以及斑块的像素的图像。包括分支部截面的医用图像的标签图像是表示主干A以及侧枝B的分支部的内腔边界以及斑块的像素的图像。包括形成有斑块的主干截面的医用图像的标签图像是与主干A的内腔边界以及斑块的像素一同表示斑块的像素的图像。包括形成有斑块的主干截面以及侧枝截面的医用图像的标签图像是与主干A以及侧枝B的内腔边界以及斑块的像素一同表示斑块的像素的图像。包括形成有斑块的分支部截面的医用图像的标签图像是与主干A以及侧枝B的分支部的内腔边界以及斑块的像素一同表示斑块的像素的图像。
并且,控制部61使用生成的训练数据使未学习的神经网络进行机械学习,由此生成学习模型641(步骤S58)。
根据这样学习的学习模型641,通过将包括主干A的医用图像输入学习模型641,能够获得将主干A的内腔边界的区域以及斑块部分的区域由像素单位表示的标签图像。另外,对于学习模型641,通过将包括主干A以及侧枝B的双方的医用图像输入学习模型641,能够获得将主干A以及侧枝B的区域和斑块部分的区域由像素单位表示的标签图像。通过将包括主干A以及侧枝B的分支部的医用图像输入学习模型641,能够获得将分支部的内腔边界的区域和斑块部分的区域由像素单位表示的标签图像。
这样构成的信息处理装置6经由网络N从图像处理装置3获得医用图像,基于获得的医用图像,执行与实施方式1的图像处理装置3同样的处理,将目标的识别结果向图像装置发送。图像处理装置3获得从信息处理装置6发送来的目标的识别结果,如图9所示,使表示血管的主干A以及侧枝B的区域的引导图像G1、G2重叠于医用图像并显示于显示装置4。
实施方式3的信息处理装置6、计算机程序P以及信息处理方法中也与实施方式1同样地,能够解析扫描血管得到的医用图像,识别血管的主干A以及侧枝B。
本发明的实施方式中,所有点都是例举,并不应考虑为限制性的内容。本发明的范围并非只有上述意义,其还含有在由技术方案所示且与技术方案均等的意义以及范围内的所有变更。
附图标记说明
1 导管
2 MDU
3 图像处理装置
3a 记录介质
4 显示装置
5 输入输出装置
6 信息处理装置
6a 记录介质
31 控制部
32 主储存部
33 输入输出I/F
34 辅助储存部
61 控制部
62 主储存部
63 通信部
64 辅助储存部
341 学习模型
P 计算机程序
A 主干
B 侧枝。
Claims (11)
1.一种计算机程序,其特征在于,用于使计算机执行如下处理:
通过插入管腔器官的导管获得多个医用图像,该管腔器官具有主干、从该主干分岔的侧枝和主干以及侧枝的分支部,该多个医用图像是基于传感器一边沿着管腔器官的长边方向移动一边检测到的信号而生成的;
通过将获得的医用图像输入至识别主干截面、侧枝截面以及分支部截面的学习模型,来识别所述主干截面、所述侧枝截面以及所述分支部截面。
2.根据权利要求1所述的计算机程序,其特征在于,用于使计算机执行如下处理:
通过将获得的第1医用图像输入至所述学习模型,至少识别主干截面或侧枝截面;
通过将获得的第2医用图像输入至所述学习模型,来识别所述分支部截面;
根据基于第1医用图像得到的识别结果来辨别构成所述分支部截面的主干部分以及侧枝部分。
3.根据权利要求2所述的计算机程序,其特征在于,用于使计算机执行如下处理:
根据基于多个第1医用图像得到的识别结果来特定主干和侧枝的分支构造;
基于特定出的分支构造来特定所述分支部截面中包含的主干部分以及侧枝部分。
4.根据权利要求3所述的计算机程序,其特征在于,用于使计算机执行如下处理:
所述学习模型对形成于所述分支部的斑块进行识别;
通过将获得的第2医用图像输入至所述学习模型,来识别所述分支部截面以及斑块;
基于所述分支构造来特定所述分支部截面中包含的斑块部分。
5.根据权利要求2至4中任一项所述的计算机程序,其特征在于,用于使计算机执行如下处理:
根据基于多个第1医用图像得到的识别结果来特定主干和侧枝的分支构造,并计算侧枝的截面直径、截面面积或每单位长度的体积。
6.根据权利要求2至5中任一项所述的计算机程序,其特征在于,用于使计算机执行如下处理:
根据基于多个第1医用图像得到的识别结果来特定主干以及侧枝的分支构造,并生成主干以及侧枝的模型图像。
7.根据权利要求1至6中任一项所述的计算机程序,其特征在于,用于使计算机执行如下处理:
使表示主干部分或侧枝部分的图像与包括分支部截面的医用图像重叠。
8.根据权利要求1至7中任一项所述的计算机程序,其特征在于,用于使计算机执行如下处理:
管腔器官为血管,通过所述导管获得基于检测到的信号而生成的血管的医用图像。
9.一种信息处理方法,其特征在于,用于使计算机执行如下处理:
通过插入管腔器官的导管获得多个医用图像,该管腔器官具有主干、从该主干分岔的侧枝和主干以及侧枝的分支部,该多个医用图像是基于传感器一边沿着管腔器官的长边方向移动一边检测到的信号而生成的;
通过将获得的医用图像输入至识别主干截面、侧枝截面以及分支部截面的学习模型,来识别所述主干截面、所述侧枝截面以及所述分支部截面。
10.一种信息处理装置,其特征在于,具有:
获得部,其通过插入管腔器官的导管获得多个医用图像,该管腔器官具有主干、从该主干分岔的侧枝和主干以及侧枝的分支部,该多个医用图像是基于传感器一边沿着管腔器官的长边方向移动一边检测到的信号而生成的;和
学习模型,其在输入有获得的医用图像的情况下,识别主干截面、侧枝截面以及分支部截面,并输出表示所述主干截面、所述侧枝截面以及所述分支部截面的信息。
11.一种模型生成方法,其特征在于,用于使计算机执行如下处理:
生成相对于多个医用图像附加有表示其为管腔截面的数据的训练数据,该多个医用图像是通过插入具有主干、从该主干分岔的侧枝和主干以及侧枝的分支部的管腔器官的导管,基于传感器一边沿着管腔器官的长边方向移动一边检测到的信号而生成的,且分别是包括主干截面的多个医用图像、包括主干截面以及侧枝截面的多个医用图像和包括分支部截面的多个医用图像;
并基于生成的所述训练数据来生成当输入有医用图像的情况下识别所述主干截面、所述侧枝截面以及所述分支部截面的学习模型。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020061513 | 2020-03-30 | ||
JP2020-061513 | 2020-03-30 | ||
PCT/JP2021/009343 WO2021199968A1 (ja) | 2020-03-30 | 2021-03-09 | コンピュータプログラム、情報処理方法、情報処理装置及びモデル生成方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115334976A true CN115334976A (zh) | 2022-11-11 |
Family
ID=77928629
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202180024534.6A Pending CN115334976A (zh) | 2020-03-30 | 2021-03-09 | 计算机程序、信息处理方法、信息处理装置以及模型生成方法 |
Country Status (5)
Country | Link |
---|---|
US (1) | US20230020596A1 (zh) |
EP (1) | EP4129197A4 (zh) |
JP (1) | JPWO2021199968A1 (zh) |
CN (1) | CN115334976A (zh) |
WO (1) | WO2021199968A1 (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023100979A1 (ja) * | 2021-12-03 | 2023-06-08 | テルモ株式会社 | 情報処理装置、情報処理方法およびプログラム |
WO2024071252A1 (ja) * | 2022-09-29 | 2024-04-04 | テルモ株式会社 | コンピュータプログラム、情報処理方法及び情報処理装置 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9986938B2 (en) * | 2014-02-25 | 2018-06-05 | Medis Associated B.V. | Method and device for determining a geometrical parameter of a blood vessel |
JP6243763B2 (ja) * | 2014-03-14 | 2017-12-06 | テルモ株式会社 | 画像処理装置、画像処理装置の作動方法、及びプログラム |
WO2015136853A1 (ja) * | 2014-03-14 | 2015-09-17 | テルモ株式会社 | 画像処理装置、画像処理方法及びプログラム |
EP3142069B1 (en) * | 2015-09-10 | 2020-05-13 | Agfa HealthCare | Method, apparatus and system for analyzing medical images of blood vessels |
US10115039B2 (en) * | 2016-03-10 | 2018-10-30 | Siemens Healthcare Gmbh | Method and system for machine learning based classification of vascular branches |
CN109009001B (zh) * | 2018-07-02 | 2019-07-09 | 博动医学影像科技(上海)有限公司 | 血管压力差修正方法、装置和设备 |
-
2021
- 2021-03-09 JP JP2022511734A patent/JPWO2021199968A1/ja active Pending
- 2021-03-09 CN CN202180024534.6A patent/CN115334976A/zh active Pending
- 2021-03-09 EP EP21781271.8A patent/EP4129197A4/en active Pending
- 2021-03-09 WO PCT/JP2021/009343 patent/WO2021199968A1/ja unknown
-
2022
- 2022-09-29 US US17/955,810 patent/US20230020596A1/en active Pending
Also Published As
Publication number | Publication date |
---|---|
WO2021199968A1 (ja) | 2021-10-07 |
EP4129197A1 (en) | 2023-02-08 |
EP4129197A4 (en) | 2023-08-30 |
US20230020596A1 (en) | 2023-01-19 |
JPWO2021199968A1 (zh) | 2021-10-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20230020596A1 (en) | Computer program, information processing method, information processing device, and method for generating model | |
US8805043B1 (en) | System and method for creating and using intelligent databases for assisting in intima-media thickness (IMT) | |
JP7300352B2 (ja) | 診断支援装置、診断支援システム、及び診断支援方法 | |
US20230230244A1 (en) | Program, model generation method, information processing device, and information processing method | |
JP7489882B2 (ja) | コンピュータプログラム、画像処理方法及び画像処理装置 | |
US20240013385A1 (en) | Medical system, method for processing medical image, and medical image processing apparatus | |
US20240013514A1 (en) | Information processing device, information processing method, and program | |
WO2023054467A1 (ja) | モデル生成方法、学習モデル、コンピュータプログラム、情報処理方法及び情報処理装置 | |
US20230346486A1 (en) | Medical operation assistance system | |
US20230222655A1 (en) | Program, information processing device, and information processing method | |
WO2022071208A1 (ja) | 情報処理装置、情報処理方法、プログラム、モデル生成方法及び訓練データ生成方法 | |
WO2021193015A1 (ja) | プログラム、情報処理方法、情報処理装置及びモデル生成方法 | |
EP4360014A1 (en) | Systems and methods utilizing machine-learning for in vivo navigation | |
WO2021199961A1 (ja) | コンピュータプログラム、情報処理方法及び情報処理装置 | |
WO2024071251A1 (ja) | コンピュータプログラム、情報処理方法、情報処理装置、及び学習モデル | |
WO2022209652A1 (ja) | コンピュータプログラム、情報処理方法及び情報処理装置 | |
JP2023051175A (ja) | コンピュータプログラム、情報処理方法、及び情報処理装置 | |
JP2023049951A (ja) | コンピュータプログラム、情報処理方法、及び情報処理装置 | |
US20240005459A1 (en) | Program, image processing method, and image processing device | |
JP7421548B2 (ja) | 診断支援装置及び診断支援システム | |
WO2022202323A1 (ja) | プログラム、情報処理方法及び情報処理装置 | |
WO2022209657A1 (ja) | コンピュータプログラム、情報処理方法及び情報処理装置 | |
WO2024071121A1 (ja) | コンピュータプログラム、情報処理方法、及び情報処理装置 | |
JP2023051177A (ja) | コンピュータプログラム、情報処理方法、及び情報処理装置 | |
JP2024050056A (ja) | コンピュータプログラム、学習モデル、情報処理方法、及び情報処理装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |