CN116528746A - 医疗图像处理系统、医疗图像处理方法和程序 - Google Patents

Abstract

本公开涉及可以促进理解由机器学习模型做出的判断的标准或原因的医疗图像处理系统、医疗图像处理方法和程序。根据本公开，估计单元通过使用机器学习模型来估计医疗图像的分类，第一计算单元通过第一解释技术计算指示用于估计分类的基础的第一基础信息，并且第二计算单元通过不同于第一解释技术的第二解释技术计算指示用于估计分类的基础的第二基础信息，并且输出控制单元控制基于第一基础信息的第一解释图像和基于第二基础信息的第二解释图像的输出。本公开可应用于医疗图像处理系统。

Description

医疗图像处理系统、医疗图像处理方法和程序

技术领域

本公开涉及医疗图像处理系统、医疗图像处理方法和程序，并且具体涉及促进理解通过机器学习模型做出的判断的标准或原因的医疗图像处理系统、医疗图像处理方法和程序。

背景技术

在医疗护理领域中，利用人工智能(AI)的诊断和操作正在增加。

例如，专利文献1公开了通过机器学习将注释添加到病理图像的医疗系统。另一方面，专利文献2公开了通过机器学习来检测CT图像中的病变的图像处理方法。

然而，由于通过配置AI的机器学习模型进行的确定包括大量参数，所以人类难以理解确定的标准或原因。与此相反，对可解释AI(Explainable AI，XAI)的研究正在推进，该研究可以通过机器学习模型以可以被人类理解的方式解释确定标准或原因。

现有技术文献

专利文献

专利文献1：日本专利公开号2020-038600

专利文献2：日本专利公开号2020-112937

发明内容

本发明要解决的技术问题

附带地，可变技术可用于XAI，并且它们在解释的方式和准确度方面根据模型而不同。因此，存在执业医师可能不能够理解通过机器学习模型做出的判断的结果的可能性。

已经鉴于如上所述的这种情形做出本公开并且便于理解由机器学习模型做出的判断的标准和原因。

问题的解决方案

本公开的医疗图像处理系统是一种医疗图像处理系统，其包括：估计单元，通过使用机器学习模型来估计医疗图像的分类；第一计算单元，通过第一解释技术计算指示所述分类的估计基础的第一基础信息；第二计算单元，通过不同于所述第一解释技术的第二解释技术计算指示所述分类的估计基础的第二基础信息；以及输出控制单元，控制基于第一基础信息的第一解释图像和基于第二基础信息的第二解释图像的输出。

本公开的医疗图像处理方法是由医疗图像处理系统执行的医疗图像处理方法，该方法包括：使用机器学习模型来估计医疗图像的分类；通过第一解释技术计算指示所述分类的估计基础的第一基础信息；通过与所述第一解释技术不同的第二解释技术计算指示所述分类的估计基础的第二基础信息；以及控制基于第一基础信息的第一解释图像和基于第二基础信息的第二解释图像的输出。

本公开的程序是用于使计算机执行以下处理的程序：使用机器学习模型来估计医疗图像的分类；通过第一解释技术来计算指示分类的估计基础的第一基础信息；通过不同于第一解释技术的第二解释技术来计算指示分类的估计基础的第二基础信息；以及控制基于第一基础信息的第一解释图像的输出和基于第二基础信息的第二解释图像的输出。

在本公开中，使用机器学习模型来估计医疗图像的分类，并且通过第一解释技术来计算指示分类的估计基础的第一地信息。此外，通过不同于第一解释技术的第二解释技术来计算指示分类的估计基础的第二基础信息，并且控制基于第一基础信息的第一解释图像和基于第二基础信息的第二解释图像的输出。

附图说明

图1是描绘应用了根据本公开的技术的医疗图像处理系统的配置的示例的框图。

图2是描绘信息处理装置的硬件配置的示例的框图。

图3是描绘根据第一实施方式的信息处理装置的功能配置的示例的框图。

图4是示出解释图像显示过程的流程的流程图。

图5是描绘解释图像显示画面的示例的视图。

图6是描绘根据第二实施方式的信息处理装置的功能配置的示例的框图。

图7是示出图像处理装置的动作流程的流程图。

图8是描绘解释技术推荐画面的示例的视图。

图9是描绘解释技术选择画面的一例的视图。

图10是描绘条件设置画面的示例的视图。

具体实施方式

在下文中，描述用于执行本公开的模式(在下文中称为实施方式)。按照以下顺序给出描述。

1.背景

2.医疗图像处理系统的配置

3.图像处理装置的配置

4.第一实施方式(基于预先选择的解释技术呈现解释图像)

5.第二实施方式(解释技术的推荐)

6.程序

<1.背景>

在医疗护理领域中，利用AI的诊断和操作正在增加。然而，配置AI的机器学习模型是如此复杂，使得即使AI做出的判断结果可以被人类理解，也存在不能理解确定的原因的情况。尤其是，由于通过基于神经网络的机器学习模型做出的判断涉及大量参数，所以人类难以理解判断的标准和原因。

与此相反，正在推进对XAI的研究，该研究可以解释由机器学习模型作出的确定的标准和原因，其方式为使得它们可以被人类理解。可变技术可用于XAI，并且它们在解释的方式和准确性方面不同，这取决于模型。因此，存在执业医师可能不能容易地理解通过机器学习模型做出的判断的结果的可能性。

因此，在根据本公开的技术中，通过基于XAI的多个不同的解释技术呈现解释图像来实现便于理解通过机器学习模型做出的判断的标准和原因。

在本公开中，执业医师是参与医疗保健并且执行患者的诊断、操作等的人，并且不必限于医生或药剂师。例如，执业医师包括护士、牙医、公共健康护士等。

<2.医疗图像处理系统的配置>

图1是描绘应用了根据本公开的技术的医疗图像处理系统1的配置的示例的框图。

医用图像处理系统1包括成像装置10和信息处理装置30。成像装置10和信息处理装置30通过网络NW彼此连接。

成像装置10例如被配置为诸如内窥镜装置或用于细胞观察的显微镜装置的活体观察装置，并且捕获作为成像目标的生物制剂的图像。信息处理装置30通过网络NW获取通过成像装置10的成像生成的捕获图像(以下称为医疗图像)。

信息处理装置30是由执业医师使用的信息处理装置，并且包括例如PC(个人计算机)或平板终端。信息处理装置30通过网络NW从成像装置10获取医疗图像并对该医疗图像执行预定处理。具体地，信息处理装置30使用机器学习模型来估计来自成像装置10的医疗图像的分类，并将表示分类的估计基础的图像等呈现给执业医师。

<3.信息处理装置的配置>

图2是描绘信息处理装置30的硬件配置的示例的框图。

信息处理装置30包括中央处理单元(CPU)101、存储器102、存储装置103、输入单元104、输出单元105、通信单元106、外部I/F 107和驱动器108。从CPU 101到驱动器108的这些部件连接到总线110，并且按照需要执行彼此的通信。

CPU 101执行安装在存储器102或存储装置103中的程序，以执行各种处理。

存储器102例如包括易失性存储器等，并且临时存储要由CPU 101执行的程序和必要的数据。

存储装置103例如包括硬盘或非易失性存储器，并且存储要由CPU 101执行的程序和必要的数据。

输入单元104包括包含物理键(包括键盘)、鼠标、触摸面板等的操作单元、收集声音的麦克风等。输入单元104用于输出与对操作单元进行的操作相对应的操作信号和声音信号以及通过麦克风收集的声音至总线110。

输出单元105例如被配置为显示装置(诸如LCD(液晶显示器)或有机电致发光显示器(OELD))、输出声音的扬声器等。输出单元105响应于从总线110供应到输出单元105的数据输出图像、字符或声音。

构成输入单元104的触摸面板包括透明构件，并且可以与构成输出单元105的显示装置一体地构成。这使得用户(执业医师)可以以操作在输出单元105上显示的图标、按钮等的形式输入信息。

通信单元106包括通信电路、天线等，并且通过网络NW与成像装置10执行通信。

外部I/F(接口)107是用于与各种外部装置交换数据的接口。

驱动器108允许例如将诸如存储卡的可移除介质109安装在其上和从其上拆卸，并且驱动安装在其上的可移除介质109。

在以上述方式配置的信息处理装置30中，由CPU 101执行的程序可以预先记录在作为记录介质的存储装置103中。

否则，程序可以被存储(记录)到可移除介质109中并且被提供为通常所谓的包软件，并且可以从可移除介质109被安装到信息处理装置30中。

此外，可以通过网络NW和通信单元106从未示出的服务器等下载程序并且将该程序安装到信息处理装置30中。

在以下描述中，描述了具有通过执行CPU 101安装在其中的程序而实现的功能的信息处理装置30的实施方式。

<4.第一实施方式>

(信息处理装置的功能配置的示例)

图3是示出根据第一实施方式的信息处理装置30的功能配置的示例的框图。

在信息处理装置30中，CPU 101执行安装在其中的程序，以实现获取单元131、估计单元132、第一计算单元133、第二计算单元134以及输出控制单元135。

获取单元131控制通信单元106通过网络NW从成像装置10获取医疗图像并将医疗图像提供至估计单元132和输出控制单元135。

估计单元132使用预定的机器学习模型来估计来自获取单元131的医疗图像的分类。关于医疗图像的分类的详细情况在后面叙述。医疗图像的分类的估计结果被提供给第一计算单元133、第二计算单元134和输出控制单元135。

第一计算单元133根据来自估计单元132的估计结果，通过第一解释技术来计算指示医疗图像的分类的估计基础的第一基础信息，该第一解释技术对在医疗图像的分类的估计中使用的机器学习模型的估计基础进行解释。所计算的第一基础信息被提供给输出控制单元135。

第二计算单元134根据来自估计单元132的估计结果，通过第二解释技术来计算指示医疗图像的分类的估计基础的第二基础信息，该第二解释技术对在医疗图像的分类的估计中使用的机器学习模型的估计基础进行解释。第二解释技术是与第一解释技术不同的解释技术。计算出的第二基础信息被提供给输出控制单元135。

输出控制单元135控制基于来自第一计算单元133的第一基础信息的第一解释图像和基于来自第二计算单元134的第二基础信息的第二解释图像的输出。第一解释图像是表示第一解释技术的估计基础(estimation ground)的图像。第二解释图像是表示第二解释技术的估计基础的图像。

另外，输出控制部135除了控制第一解释图像和第二解释图像之外，还控制来自取得部131的医疗图像的输出和来自估计部132的医疗图像的分类的估计结果。

由此，在构成输出部105的显示装置上显示解释图像显示画面，该解释图像显示画面包括医疗图像、医疗图像的分类的估计结果以及第一解释图像和第二解释图像。

(解释图像显示处理的流程)

现在，参照图4的流程图，描述由图3的信息处理装置30执行的解释图像显示处理的流程。

在步骤S11中，获取单元131通过网络NW从成像装置10获取医疗图像。例如，医疗图像可以从除了成像装置10以外的外部设备(诸如云存储)获取。

在步骤S12中，估计单元132使用预定的机器学习模型来估计从成像装置10获取的医疗图像的分类。

医疗图像的分类指示医疗图像中是否包括病变。例如，在医疗图像是内窥镜图像的情况下，估计在内窥镜图像中是否包括作为成像对象的恶性息肉。机器学习模型在此包括由例如学习数据组生成的参数，该学习数据组包括医疗图像以及它们成组分类的标记，这些参数被输入到机器学习模型(包括神经网络)中以被学习。

在步骤S13中，第一计算单元133通过第一解释技术来计算指示医疗图像的分类的估计基础的第一基础信息。

第一解释技术是呈现关于特定输入数据的机器学习模型的估计基础的技术，并且例如是呈现已经变成估计单元132的机器学习模型的估计基础的特征量和学习数据的局部解释技术。在这种情况下，第一解释技术是例如LIME、SHAP、锚点或影响力等算法。具体地，例如，第一基础信息是指示具有图像的区域和图像的特征量作为学习数据的信息，该学习数据变成通过第一解释技术呈现的机器学习模型的估计基础面。

在该情况下，例如在第一解释技术中，按每个预定区域分割医疗图像，将预定区域依次置换为虚拟图像并输入到估计部132。在由估计单元132进行的估计的结果指示出大量不同时，被替换成虚拟图像的区域被估计为对估计单元132的估计具有强影响的特征量的区域。此时，第一基础信息是指示具有对估计单元132的估计具有强影响的特征量的区域(对分类的估计结果有贡献的特征量)的信息。

在步骤S14中，第二计算部134通过与第一解释技术不同的第二解释技术来计算指示医疗图像的分类的估计基础的第二基础信息。

第二解释技术是针对特定输入数据呈现机器学习模型的估计基础的技术，并且例如是用高度可读和可解释的模型来表示复杂的机器学习模型的综合解释技术。在这种情况下，第二解释技术例如是诸如再生树(Born Again Tree)的算法。

在这种情况下，在第二解释技术中，将被给予有预先准备的多个标记的测试数据组输入到估计单元132的机器学习模型，并且由估计单元132计算估计结果，然后，根据测试数据组和由估计单元132做出的估计的结果生成决策树。具体地，生成近似于估计单元132的机器学习模型的决策树。因此，通过将与输入至估计单元132的医疗图像相似的图像输入至决策树，可以将通过决策树的估计的基础做出的信息(标记)近似至估计单元132的机器学习模型的估计基础。此时，第二基础信息是已成为决策树的估计的地面的决策树的标记。

在步骤S15中，输出控制单元135控制配置输出单元105的显示装置，以显示包括医疗图像和医疗图像的分类的估计结果的解释图像显示画面、基于第一基础信息的第一解释图像、以及基于第二基础信息的第二解释图像。

例如，第一解释图像是其中将参考第一基础信息生成的解释信息叠加在医疗图像上的图像。同时，第二解释图像是表示参考第二基础信息生成的决策树的图像。

图5是描述在配置输出单元105的显示装置上显示的解释图像显示画面的示例的示图。

在图5所示的解释图像显示画面150的左侧区域显示从成像装置10获取到的医疗图像161。在解释图像显示画面150的右侧区域，从上方依次显示估计结果162、第一解释图像163、第二解释图像164。

在估计结果162中，作为医疗图像161的分类的估计结果，示出医疗图像161具有病变(恶性息肉)的可能性为99％，医疗图像161不具有病变的可能性为1％。

在第一解释图像163中，与医疗图像161相似，帧F171与医疗图像171以叠加关系显示，帧F171限定具有由第一基础信息表示的特征量并且已经由估计单元132估计的地面的区域。此外，在第一解释图像163中，指示锚已经被用作第一解释技术。

在第二解释图像164中，显示参考第二基础信息生成的决策树T181。此外，在第二解释图像164中，表示再生树已经被用作第二解释技术。

另外，在本实施方式中，第一解释技术和第二解释技术由处置信息处理装置30的执业医师预先选择。

根据上述处理，通过检查不仅基于由机器学习模型做出的估计的结果而且基于基于多个不同的解释技术的解释图像的解释图像，该解释图像显示画面使得执业医师可以多边地识别通过机器学习模型做出的估计的结果。因此，可以使执业医师容易理解通过机器学习模型做出的判断的标准和原因。

在以上描述中，描述了第一解释技术是局部解释技术，第二解释技术是综合解释技术。这不是限制性的，只要第一解释技术的算法和第二解释技术的算法彼此不同就足够了。所以，第一解释技术和第二解释技术中的每个可以是局部解释技术，或者第一解释技术和第二解释技术中的每个可以是综合解释技术。

此外，第一解释技术和第二解释技术可以是除上述解释技术之外的技术，并且例如可以是通过自然语言从医疗图像解释估计基础的解释技术。

<5.第二实施方式>

在上述实施方式的描述中，描述了尽管信息处理装置30通过多种解释技术将估计单元132做出的估计的结果呈现给执业医师，但是第一解释技术和第二解释技术由操作信息处理装置30的执业医师预先选择。

然而，处理信息处理装置30的医师可能不一定熟悉机器学习模型，并且假设医生难以确定选择哪种解释技术的情况。

因此，以下解释的实施方式被配置成可以向执业医师给出关于选择哪种解释技术的建议。

(信息处理装置的功能配置的示例)

图6是描述根据第二实施方式的信息处理装置30的功能配置的示例的框图。

图6的信息处理装置30除了与图3的信息处理装置30相似的功能块之外，还包括向执业医师推荐解释技术的推荐单元211。

推荐单元211根据来自成像装置10的医疗图像的类型向用户(执业医师)推荐第一解释技术和第二解释技术。要推荐的解释技术由输出控制单元135显示在配置输出单元105的显示装置上。

(信息处理装置的动作流程)

现在，参照图4的流程图，描述具有用于解释技术的推荐功能的图6的信息处理装置30的动作流程。

在步骤S21中，获取单元131参考关于由执业医师选择的医疗图像的信息(元数据)获取医疗图像的类型。

医疗图像的元数据是指示医疗图像已经由何种类型的成像装置10捕获或者医疗图像具有何种属性的数据。医疗图像的元数据例如是DICOM信息。

具体地，在成像装置10是内窥镜装置的情况下，元数据指示医疗图像的类型是内窥镜图像，并且在成像装置10是显微镜装置的情况下，元数据指示医疗图像的类型是显微镜图像。所获取的医疗图像的类型被提供给推荐单元211。

在步骤S22中，推荐单元211从估计单元132获取估计单元132的机器学习模型的类型。

机器学习模型的类型指示由机器学习模型对其执行确定的图像的类型以及将由机器学习模型执行的确定的类型。例如，机器学习模型的类型表示其是内窥镜图像的息肉确定模型。

在步骤S23中，推荐单元211根据医疗图像的类型和机器学习模型的类型来推荐第一解释技术和第二解释技术。具体地，推荐单元211生成用于推荐第一解释技术和第二解释技术的推荐信息，并且输出控制单元135基于生成的推荐信息控制配置输出单元105的显示装置显示解释技术推荐画面。

图8是描述解释技术推荐画面的示例的示图。

在图8的解释技术推荐画面230的上级，显示医疗图像的类型241和机器学习模型的类型242。在图8的示例中，指示医疗图像的类型241是内窥镜图像，并且机器学习模型的类型242是内窥镜图像的息肉确定模型。

在图8的解释技术推荐画面230的下级设置有显示区域243、244，在显示区域243、244中分别显示根据医疗图像的类别241以及机器学习模型的类别242而推荐的第一解释技术和第二解释技术。在显示区域243、244中，显示有与预先存储的表格中的医疗图像的种类、机器学习模型的种类相关联的解释技术。

在图8的示例中，在显示区域243中，作为与内窥镜图像和内窥镜图像的息肉确定模型相关联的第一解释技术，显示LIME(算法)。另一方面，作为与内窥镜图像和内窥镜图像的息肉确定模型相关联的第二解释技术，显示再生树。

在图8的解释技术推荐画面230的右下部分，设置决定按钮245。

如果执业医师按下决定按钮245，则将显示区域243和244中显示的解释技术(算法)分别决定为第一解释技术和第二解释技术，并且处理进入步骤S24。

在步骤S24中，执行上文参照图4描述的解释图像显示过程。在此，显示基于在步骤S23中推荐的第一解释技术和第二解释技术的解释图像。

此外，模式切换按钮246可设置在图8的解释技术推荐画面230的右下部。在由执业医师按下模式切换按钮246的情况下，切换用于推荐第一解释技术和第二解释技术的模式。例如，准备用于推荐两种不同解释技术的第一模式和用于推荐准确度相对较高的两种解释技术的第二模式，并且通过按压模式切换按钮246，可以执行第一模式与第二模式之间的切换。

根据上述处理，因为推荐根据医疗图像的类型和机器学习模型的类型的解释技术，所以即使不熟悉机器学习模型的执业医师也能够毫不混淆地处理信息处理装置30。

(画面显示的其他示例)

除了上述的解释技术推荐画面之外，可以显示简单地以什么方式呈现解释图像(机器学习模型的估计基础)的不同解释技术推荐画面，以允许执业医师选择解释技术。

图9是描绘推荐第一解释技术和第二解释技术时显示的解释技术选择画面的示例的图。

在图9的解释图像选择画面250的右端设有显示成为试样的医疗图像的医疗图像显示区域261。

在医疗图像显示区域261的右侧，设置有排列成2垂直×2水平的样本图像显示区域271至274。在每个样本图像显示区域271至274中，显示以简化的方式描述第一解释技术和第二解释技术的显示形式的样本图像。

具体地，在样本图像显示区域271中，显示其中包围具有变成估计基础的特征量的区域的帧被叠加在医疗图像显示区域261的医疗图像上的样本图像。在样本图像显示区域272中，显示表示近似于估计单元132的机器学习模型的决策树的样本图像。

在样本图像显示区域273中，显示样本图像，其中，根据变成估计基础的特征量的热图重叠在医疗图像显示区域261的医疗图像上。在样本图像显示区域274中，学习对估计单元132的估计的贡献度高的数据的示例被显示为样本图像。

以这种方式，如果执业医师从解释图像选择画面250上的样本图像显示区域271至274中选择他/她易于理解的样本图像，则执业医师可以更容易地理解通过机器学习模型做出的判断的标准和原因。

另外，也可以在从业者设置的规定条件的范围内推荐第一解释技术和第二解释技术。

图10是描述用于设置解释技术的推荐条件的推荐条件设置画面的示例的示图。

例如，在显示图8的解释技术推荐画面230和图9的解释图像选择画面250之前，显示图10的推荐条件设置画面280。

在推荐条件设置画面280中，提供准确度选择部291、计算时间输入部292、使用费输入部293和确定(OK)按钮294。

准确度选择部291是为了选择解释技术的准确度而作为解释技术的推荐条件进行操作的GUI控制，例如被配置为下拉列表。在准确度选择部291中，例如显示表示解释技术的准确度的“高”、“中”、“低”等值(选择)，执业医师在选择了期望值的情况下，设置推荐条件的解释技术的准确度。

计算时间输入部292是GUI控制，操作该GUI控制以便输入计算估计基础(基础信息)所需要的时间段作为解释技术的推荐条件，并且例如被配置为文本框。在医师对计算时间输入部292输入了期望时间的情况下，设置推荐条件的估计基础的计算时间。

使用费输入部293是GUI控制，操作该GUI控制以便输入用于解释技术的使用费的上限作为解释技术的推荐条件，并且例如被配置为文本框。如果医疗从业者向使用费输入部293输入期望金额，则设置要作出推荐条件的解释技术的使用费的上限。

确定按钮294是为了决定由准确度选择部291、计算时间输入部292、使用费输入部293设置的解释技术的推荐条件而进行操作的按钮。在操作了确定按钮294的情况下，决定解释技术的准确度、估计基础的计算所需的时间、解释技术的使用条件的上限值。

如果执业医师以这种方式在推荐条件设置画面280上设置用于解释技术的推荐条件，则可以将满足执业医师期望的条件的解释技术推荐给执业医师。

另外，作为第一解释技术和第二解释技术，也可以推荐由更多的其他用户(从业者)针对与由成像装置10拍摄到的医用图像相同类型的医用图像而选择的解释技术。

<6.程序>

在本解释书中，由计算机(CPU)根据程序执行的处理不一定需要按照流程图中描述的顺序按时间顺序执行。具体地，由计算机根据程序执行的过程包括并行或单独执行的过程(例如，通过并行处理或通过对象的处理)。

此外，程序可以由单个计算机(处理器)处理，或者可以由多个计算机以分布式方式处理。而且，程序可以传输给远程计算机并且由该远程计算机执行。

进一步，在本解释书中，术语系统表示多个组件(设备、模块(部件)等)的集合，并且所有组件是否包括在同一壳体中无关紧要。因而，容纳在不同壳体中并且通过网络彼此连接的多个装置和包括容纳在单个壳体中的多个模块的单个装置都是系统。

要注意的是，本公开的实施方式不限于上述实施方式，并且在不背离本公开的主题的情况下，可进行各种变形。

此外，例如，根据本公开内容的技术可以采取云计算的配置，其中，通过网络由多个装置协作地共享和处理一个功能。

此外，以上参考流程图描述的步骤可以不仅由单个装置执行，而且由多个装置以共享方式执行。

此外，在一个步骤中包括多个处理的情况下，包含在该一个步骤中的多个处理不仅可以由单个装置执行，而且可以由多个装置以共享方式执行。

此外，本解释书中描述的有益效果在最后是示例性的，而不是限制性的，并且其他有益效果可以是可用的。

此外，本公开可采用如下所述的配置。

(1)

一种医疗图像处理系统，包括：

估计单元，使用机器学习模型来估计医疗图像的分类；

第一计算单元，通过第一解释技术计算指示用于所述分类的估计基础的第一基础信息；

第二计算单元，通过不同于所述第一解释技术的第二解释技术来计算指示用于所述分类的估计基础的第二基础信息；以及

输出控制单元，控制基于第一基础信息的第一解释图像和基于第二基础信息的第二解释图像的输出。

(2)

根据上述(1)的医用图像处理系统，其特征在于，

所述分类指示所述医疗图像是否包含病变。

(3)

根据以上(1)或(2)的医疗图像处理系统，其中，

所述第一解释技术是所述机器学习模型的局部解释技术，并且

所述第二解释技术是所述机器学习模型的综合解释技术。

(4)

根据上述(3)的医疗图像处理系统，其特征在于，

所述第一解释图像是基于所述第一基础信息的解释信息叠加在所述医疗图像上的图像，并且

所述第二解释图像是参考所述第二基础信息生成的表示与所述机器学习模型相对应的决策树的图像。

(5)

根据上述(4)的医用图像处理系统，其特征在于，

所述第一基础信息包括表示对所述分类的估计结果有贡献的特征量的信息，并且

所述第二基础信息包括所述决策树的标记。

(6)

根据以上(1)或(2)的医疗图像处理系统，其中，

所述第一解释技术和所述第二解释技术均是所述机器学习模型的局部解释技术。

(7)

根据以上(1)或(2)的医疗图像处理系统，其中，

所述第一解释技术和所述第二解释技术均为所述机器学习模型的综合解释技术。

(8)

根据以上(1)至(7)中任一项所述的医疗图像处理系统，其中

所述输出控制单元控制除了所述第一解释图像和所述第二解释图像之外的所述分类的估计结果的输出。

(9)

根据以上(1)至(8)中任一项所述的医疗图像处理系统，其中

所述第一解释技术和所述第二解释技术能够由用户预先选择。

(10)

根据以上(1)至(8)中任一项所述的医疗图像处理系统，其特征在于，还具备：

推荐单元，根据所述医疗图像的类别向用户推荐所述第一解释技术和所述第二解释技术。

(11)

根据上述(10)的医疗图像处理系统，其特征在于，

参考医疗图像的元数据获取医疗图像的类型。

(12)

根据以上(10)或(11)的医疗图像处理系统，其中，

所述推荐单元根据所述医疗图像的类型和所述机器学习模型的类型来推荐所述第一解释技术和所述第二解释技术。

(13)

根据上述(10)的医疗图像处理系统，其特征在于，

所述推荐单元通过推荐两种不同的解释技术的第一模式和推荐准确度高的两种解释技术的第二模式中的一种模式来推荐所述第一解释技术和所述第二解释技术。

(14)

根据上述(13)的医疗图像处理系统，其特征在于，

所述第一模式和所述第二模式可由所述用户切换。

(15)

根据以上(10)至(14)中任一项所述的医疗图像处理系统，其中

在推荐所述第一解释技术和所述第二解释技术时，所述输出控制单元控制以简化的方式表示所述第一解释图像和所述第二解释图像的显示形式的样本图像的输出。

(16)

根据以上(10)至(15)中任一项所述的医疗图像处理系统，其中

所述推荐单元在由用户设置的条件的范围内推荐所述第一解释技术和所述第二解释技术。

(17)

根据上述(16)的医疗图像处理系统，其特征在于，

所述条件包括所述解释技术的准确度、基础信息的计算所需的时间段和所述解释技术的使用费中的至少一个。

(18)

根据上述(10)的医疗图像处理系统，其特征在于，

所述推荐单元推荐更多数量的其他用户针对与所述医疗图像类型相同的医疗图像选择的解释技术作为所述第一解释技术和所述第二解释技术。

(19)

一种医疗用图像处理方法，其特征在于，由医疗图像处理系统执行，所述医疗用图像处理方法具有：

使用机器学习模型来估计医疗图像的分类；

通过第一解释技术计算指示所述分类的估计基础的第一基础信息；

通过不同于所述第一解释技术的第二解释技术来计算指示所述分类的估计基础的第二基础信息；以及

控制基于第一基础信息的第一解释图像和基于第二基础信息的第二解释图像的输出。

(20)

一种程序，用于使计算机执行以下处理：

使用机器学习模型来估计医疗图像的分类；

通过第一解释技术计算指示所述分类的估计基础的第一基础信息；

通过不同于所述第一解释技术的第二解释技术来计算指示所述分类的估计基础的第二基础信息；以及

控制基于第一基础信息的第一解释图像和基于第二基础信息的第二解释图像的输出。

[参考标号列表]

1：医疗图像处理系统

10：成像装置

30：信息处理装置

101：CPU

105：输出单元

131：获取单元

132：估计单元

113：第一计算单元

134：第二计算单元

135：输出控制单元

211：推荐单元。

Claims (20)

1.一种医疗图像处理系统，包括：

估计单元，使用机器学习模型来估计医疗图像的分类；

第一计算单元，通过第一解释技术来计算指示用于所述分类的估计基础的第一基础信息；

第二计算单元，通过不同于所述第一解释技术的第二解释技术来计算指示用于所述分类的估计基础的第二基础信息；以及

输出控制单元，控制基于第一基础信息的第一解释图像的输出和基于第二基础信息的第二解释图像的输出。

2.根据权利要求1所述的医疗图像处理系统，其中，

所述分类指示所述医疗图像是否包括病变。

3.根据权利要求1所述的医疗图像处理系统，其中，

所述第一解释技术是所述机器学习模型的局部解释技术，并且所述第二解释技术是所述机器学习模型的综合解释技术。

4.根据权利要求3所述的医疗图像处理系统，其中，

所述第一解释图像是基于所述第一基础信息的解释信息叠加在所述医疗图像上的图像，并且

所述第二解释图像是参考所述第二基础信息生成的表示与所述机器学习模型相对应的决策树的图像。

5.根据权利要求4所述的医疗图像处理系统，其中，

所述第一基础信息包括表示对所述分类的估计结果有贡献的特征量的信息，并且

所述第二基础信息包括所述决策树的标记。

6.根据权利要求1所述的医疗图像处理系统，其中，

所述第一解释技术和所述第二解释技术均是所述机器学习模型的局部解释技术。

7.根据权利要求1所述的医疗图像处理系统，其中，

所述第一解释技术和所述第二解释技术均是所述机器学习模型的综合解释技术。

8.根据权利要求1所述的医疗图像处理系统，其中，

所述输出控制单元控制除了所述第一解释图像和所述第二解释图像之外的所述分类的估计结果的输出。

9.根据权利要求1所述的医疗图像处理系统，其中，

所述第一解释技术和所述第二解释技术能够由用户预先选择。

10.根据权利要求1所述的医疗图像处理系统，进一步包括：

推荐单元，根据所述医疗图像的类型向用户推荐所述第一解释技术和所述第二解释技术。

11.根据权利要求10所述的医疗图像处理系统，其特征在于，

参考所述医疗图像的元数据来获取医疗图像的所述类型。

12.根据权利要求10所述的医疗图像处理系统，其中，

所述推荐单元根据所述医疗图像的所述类型和所述机器学习模型的类型来推荐所述第一解释技术和所述第二解释技术。

13.根据权利要求10所述的医疗图像处理系统，其中，

所述推荐单元通过第一模式和第二模式中的一种模式来推荐所述第一解释技术和所述第二解释技术，所述第一模式推荐两种不同的解释技术，所述第二模式推荐准确度高的两种解释技术。

14.根据权利要求13所述的医疗图像处理系统，其中，

所述第一模式和所述第二模式能够由所述用户切换。

15.根据权利要求10所述的医疗图像处理系统，其中，

在推荐所述第一解释技术和所述第二解释技术时，所述输出控制单元控制样本图像的输出，所述样本图像以简化的方式指示所述第一解释图像和所述第二解释图像的显示形式。

16.根据权利要求10所述的医疗图像处理系统，其中，

所述推荐单元在由所述用户设置的条件的范围内推荐所述第一解释技术和所述第二解释技术。

17.根据权利要求16所述的医疗图像处理系统，其中，

所述条件包括解释技术的准确度、计算基础信息所需的时间段和所述解释技术的使用费中的至少一项。

18.根据权利要求10所述的医疗图像处理系统，其中，

所述推荐单元推荐更多数量的其他用户针对与所述医疗图像类型相同的医疗图像选择的解释技术作为所述第一解释技术和所述第二解释技术。

19.一种由医疗图像处理系统执行的医疗图像处理方法，所述医疗图像处理方法包括：

使用机器学习模型来估计医疗图像的分类；

通过第一解释技术来计算指示用于所述分类的估计基础的第一基础信息；

通过不同于所述第一解释技术的第二解释技术来计算指示用于所述分类的估计基础的第二基础信息；以及

控制基于第一基础信息的第一解释图像和基于第二基础信息的第二解释图像的输出。

20.一种程序，使计算机执行以下处理：

使用机器学习模型来估计医疗图像的分类；

通过第一解释技术来计算指示用于所述分类的估计基础的第一基础信息；

通过不同于所述第一解释技术的第二解释技术来计算指示用于所述分类的估计基础的第二基础信息；以及

控制基于第一基础信息的第一解释图像和基于第二基础信息的第二解释图像的输出。