CN111180064B - 一种辅助诊断模型的评测方法、装置及计算设备 - Google Patents

Abstract

本公开实施例提供了一种辅助诊断模型的评测方法、装置及计算设备，为不同的辅助诊断模型的预测效果的评估提供量化指标，方法包括：获取若干测试用例；其中，每一测试用例记录了若干疾病诊断关联信息，以及目标疾病名称；将若干测试用例输入辅助诊断模型，获取辅助诊断模型输出的预测疾病序列；每一预测疾病序列包括预设个数的按照预测概率由高至低排列的预测疾病名称；将预测疾病序列与目标疾病名称比较，确定第一评测指标和第二评测指标；第一评测指标根据预测疾病序列第一位的预测疾病名称命中目标疾病名称的次数确定；第二评测指标根据预测疾病序列前指定位数的预测疾病名称命中目标疾病名称的次数确定；输出第一评测指标和第二评测指标。

Description

一种辅助诊断模型的评测方法、装置及计算设备

技术领域

本公开涉及人工智能领域，尤其涉及一种辅助诊断模型的评测方法、装置、可读存储介质及计算设备。

背景技术

目前基于医疗大数据与人工智能深度学习训练出来的疾病智能辅助诊断系统应运而生，目前的辅助诊断模型无论基于规则展示还是深度学习得到的结果均可给出疑似诊断，并依据疾病可能性给出预测结果，在一定程度上可以缓解医生的工作压力，可帮助医生更准确或更快速的对疾病进行诊断。

然而评测诊断模型的方法尚无统一标准，导致无法针对诊断模型进行有效地筛选和改进。

发明内容

为此，本公开提供了一种辅助诊断模型的评测方法、装置、可读存储介质及计算设备，以力图解决或者至少缓解上面存在的至少一个问题。

根据本公开实施例的一个方面，提供了一种辅助诊断模型的评测方法，包括：

获取若干测试用例；其中，每一测试用例记录了若干疾病诊断关联信息，以及目标疾病名称；

将若干测试用例输入辅助诊断模型，获取辅助诊断模型输出的预测疾病序列；每一预测疾病序列包括预设个数的按照预测概率由高至低排列的预测疾病名称；

将预测疾病序列与目标疾病名称比较，确定第一评测指标和第二评测指标；第一评测指标根据预测疾病序列第一位的预测疾病名称命中目标疾病名称的次数确定；第二评测指标根据预测疾病序列前指定位数的预测疾病名称命中目标疾病名称的次数确定；

输出第一评测指标和第二评测指标。

可选地，还包括：

确定第三评测指标，第三评测指标根据预测疾病序列的预测疾病名称对应的典型症状不包含疾病诊断关联信息中的典型症状的次数确定；其中，预先为任一疾病名称设置对应的典型症状；

输出所述第三评测指标。

可选地，方法还包括：

根据预先设定的第一评测指标、第二评测指标和第三评测指标各自的权重，以及第一评测指标、第二评测指标和第三评测指标，确定辅助诊断模型的评测结果。

可选地，前指定位数，包括：

前三位，和/或，前五位。

根据本公开的又一方面，提供一种辅助诊断模型的评测装置，包括：

测试用例选取单元，用于获取若干测试用例；其中，每一测试用例记录了若干疾病诊断关联信息，以及目标疾病名称；

测试单元，用于将若干测试用例输入辅助诊断模型，获取辅助诊断模型输出的预测疾病序列；每一预测疾病序列包括预设个数的按照预测概率由高至低排列的预测疾病名称；

评测单元，用于将预测疾病序列与目标疾病名称比较，确定第一评测指标和第二评测指标；第一评测指标根据预测疾病序列第一位的预测疾病名称命中目标疾病名称的次数确定；第二评测指标根据预测疾病序列前指定位数的预测疾病名称命中目标疾病名称的次数确定；

评测结果输出单元，用于输出第一评测指标和所述第二评测指标。

可选地，评测单元还用于：确定第三评测指标，第三评测指标根据预测疾病序列的预测疾病名称对应的典型症状不包含疾病诊断关联信息中的典型症状的次数确定；其中，预先为任一疾病名称设置对应的典型症状；

评测结果输出单元还用于：输出第三评测指标。

可选地，评测单元还用于：

根据预先设定的第一评测指标、第二评测指标和第三评测指标各自的权重，以及所述第一评测指标、所述第二评测指标和所述第三评测指标，确定辅助诊断模型的评测结果。

可选地，前指定位数，包括：

前三位，和/或，前五位。

根据本公开的又一方面，提供一种可读存储介质，其上具有可执行指令，当可执行指令被执行时，使得计算机执行上述的辅助诊断模型的评测方法所包括的操作。

根据本公开的又一方面，提供一种计算设备，包括：

一个或多个处理器；

存储器；以及

一个或多个程序，一个或多个程序存储在存储器中并被配置为由一个或多个处理器执行上述的辅助诊断模型的评测方法所包括的操作。

根据本公开实施例提供的技术方案，自动将测试用例输入辅助诊断模型，并对辅助诊断模型输出的预测疾病序列进行评价，输出多个评测指标，可极大缩短由人工逐条评价所花费的时间，为不同的辅助诊断模型的预测效果的评估提供量化指标。

附图说明

附图示出了本公开的示例性实施方式，并与其说明一起用于解释本公开的原理，其中包括了这些附图以提供对本公开的进一步理解，并且附图包括在本说明书中并构成本说明书的一部分。

图1是示例性的计算设备的结构框图；

图2是根据本公开实施例的辅助诊断模型的评测方法的流程图；

图3是根据本公开又一实施例的辅助诊断模型的评测方法的流程图；

图4是根据本公开实施例的辅助诊断模型的评测装置的结构示意图。

具体实施方式

下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例，然而应当理解，可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了能够更透彻地理解本公开，并且能够将本公开的范围完整的传达给本领域的技术人员。

图1是布置为实现根据本公开的辅助诊断模型的评测方法的示例计算设备100的框图。在基本的配置102中，计算设备100典型地包括系统存储器106和一个或者多个处理器104。存储器总线108可以用于在处理器104和系统存储器106之间的通信。

取决于期望的配置，处理器104可以是任何类型的处理，包括但不限于：微处理器((μP)、微控制器(μC)、数字信息处理器(DSP)或者它们的任何组合。处理器104可以包括诸如一级高速缓存110和二级高速缓存112之类的一个或者多个级别的高速缓存、处理器核心114和寄存器116。示例的处理器核心114可以包括运算逻辑单元(ALU)、浮点数单元(FPU)、数字信号处理核心(DSP核心)或者它们的任何组合。示例的存储器控制器118可以与处理器104一起使用，或者在一些实现中，存储器控制器118可以是处理器104的一个内部部分。

取决于期望的配置，系统存储器106可以是任意类型的存储器，包括但不限于：易失性存储器(诸如RAM)、非易失性存储器(诸如ROM、闪存等)或者它们的任何组合。系统存储器106可以包括操作系统120、一个或者多个程序122以及程序数据124。在一些实施方式中，程序122可以被配置为在操作系统上由一个或者多个处理器104利用程序数据124执行指令。

计算设备100还可以包括有助于从各种接口设备(例如，输出设备142、外设接口144和通信设备146)到基本配置102经由总线/接口控制器130的通信的接口总线140。示例的输出设备142包括图形处理单元148和音频处理单元150。它们可以被配置为有助于经由一个或者多个A/V端口152与诸如显示终端或者扬声器之类的各种外部设备进行通信。示例外设接口144可以包括串行接口控制器154和并行接口控制器156，它们可以被配置为有助于经由一个或者多个I/O端口158和诸如输入设备(例如，键盘、鼠标、笔、语音输入设备、触摸输入设备)或者其他外设(例如打印机、扫描仪等)之类的外部设备进行通信。示例的通信设备146可以包括网络控制器160，其可以被布置为便于经由一个或者多个通信端口164与一个或者多个其他计算设备162通过网络通信链路的通信。

网络通信链路可以是通信介质的一个示例。通信介质通常可以体现为在诸如载波或者其他传输机制之类的调制数据信号中的计算机可读指令、数据结构、程序模块，并且可以包括任何信息递送介质。“调制数据信号”可以是这样的信号，它的数据集中的一个或者多个或者它的改变可以在信号中编码信息的方式进行。作为非限制性的示例，通信介质可以包括诸如有线网络或者专线网络之类的有线介质，以及诸如声音、射频(RF)、微波、红外(IR)或者其它无线介质在内的各种无线介质。这里使用的术语计算机可读介质可以包括存储介质和通信介质二者。

计算设备100可以实现为小尺寸便携(或者移动)电子设备的一部分，这些电子设备可以是诸如蜂窝电话、个人数字助理(PDA)、个人媒体播放器设备、无线网络浏览设备、个人头戴设备、应用专用设备、或者可以包括上面任何功能的混合设备。计算设备100还可以实现为包括桌面计算机和笔记本计算机配置的个人计算机。

其中，计算设备100的一个或多个程序122包括用于执行根据本公开的辅助诊断模型的评测方法的指令。

图2示例性示出根据本公开一个实施例的辅助诊断模型的评测方法200的流程图，辅助诊断模型的评测方法200始于步骤S210。

步骤S210中，获取若干测试用例；其中，每一测试用例记录了若干疾病诊断关联信息，以及目标疾病名称。

其中，预先构建疾病库；以及，预先构建测试用例库，包括疾病诊断关联信息和目标疾病名称，疾病诊断关联信息包括性别、年龄、症状、持续时间、基本生命体征(包含体温、脉搏、呼吸、血压)，每种疾病可构建3条或以上不同年龄、性别及症状描述，目标疾病名称则用于对辅助诊断模型的诊断结果进行对比评价。

随后，在步骤S220中，将若干测试用例输入辅助诊断模型，获取辅助诊断模型输出的预测疾病序列；每一预测疾病序列包括预设个数的按照预测概率由高至低排列的预测疾病名称。

具体地，将构建好的测试用例库输入到辅助诊断模型测试接口，生成每条测试用例的由辅助诊断模型预测的疾病序列及概率，例如，预测疾病序列取疾病可能性前五的疾病名称。

随后，在步骤S230中，将预测疾病序列与目标疾病名称比较，确定第一评测指标和第二评测指标；第一评测指标根据预测疾病序列第一位的预测疾病名称命中目标疾病名称的次数确定；第二评测指标根据预测疾病序列前指定位数的预测疾病名称命中目标疾病名称的次数确定。

具体地，前指定位数包括前三位，和/或，前五位。

例如，针对每条测试用例，如果目标疾病名称出现在辅助诊断模型的预测疾病序列前五的列表里，则为命中，其中，如果目标疾病出现在辅助诊断模型的预测疾病序列的第一位，则表示预测疾病序列第一位的预测疾病名称命中目标疾病名称；如果出现在第1位、第2位、第3位中的任一位，则表示预测疾病序列前三位的预测疾病名称命中目标疾病名称，如果出现在第1位、第2位、第3位、第4位、第5位，则表示预测疾病序列前五位的预测疾病名称命中目标疾病。

随后，在步骤S240中，输出第一评测指标和第二评测指标。第一评测指标可以是预测疾病序列第一位的预测疾病名称命中目标疾病名称的次数，第二评测指标可以是预测疾病序列前指定位数的预测疾病名称命中目标疾病名称的次数。或者，第一评测指标可以是预测疾病序列第一位的预测疾病名称命中目标疾病名称的次数占全体样本的概率，第二评测指标可以是预测疾病序列前指定位数的预测疾病名称命中目标疾病名称的次数占全体样本的概率。

图3示例性示出根据本公开一个实施例的辅助诊断模型的评测方法300的流程图，辅助诊断模型的评测方法300始于步骤S310。

S310、获取若干测试用例；其中，每一测试用例记录了若干疾病诊断关联信息，以及目标疾病名称。

其中，预先构建疾病库，包括疾病症状和疾病典型症状，疾病典型症状是经过人工特殊标记的疾病症状，其含义是可以考虑目标疾病的疾病症状；以及，预先构建测试用例库，包括疾病诊断关联信息和目标疾病名称，疾病诊断关联信息包括性别、年龄、症状、持续时间、基本生命体征(包含体温、脉搏、呼吸、血压)，每种疾病可构建3条或以上不同年龄、性别及症状描述，目标疾病名称则用于对辅助诊断模型的诊断结果进行对比评价。

S320、将若干测试用例输入辅助诊断模型，获取辅助诊断模型输出的预测疾病序列；每一预测疾病序列包括预设个数的按照预测概率由高至低排列的预测疾病名称。

S330、将预测疾病序列与目标疾病名称比较，确定第一评测指标、第二评测指标和第三评测指标；第一评测指标根据预测疾病序列第一位的预测疾病名称命中目标疾病名称的次数确定；第二评测指标根据预测疾病序列前指定位数的预测疾病名称命中目标疾病名称的次数确定；第三评测指标根据预测疾病序列的预测疾病名称对应的典型症状不包含疾病诊断关联信息中的典型症状的次数确定；其中，预先为任一疾病名称设置对应的典型症状。

其中，确定第三评测指标过程的示例如下：针对每条测试用例，如果辅助诊断模型的预测疾病序列的典型症状不包含输入的测试用例的疾病诊断关联信息中任何一种典型症状，则认为辅助诊断模型作出的不符合典型症状的预测诊断，该预测诊断错误，并对每条测试用例中辅助诊断模型输出的结果中诊断错误进行计数。

S340、输出第一评测指标、第二评测指标和第三评测指标。

最后，生成所有测试测试用例的预测疾病序列的第一位、前三位、前五位的命中率及测试中包含的错误诊断数，便于对不同的辅助诊断模型的效果进行对比。

可选地，方法还包括：根据预先设定的第一评测指标、第二评测指标和第三评测指标各自的权重，以及第一评测指标、第二评测指标和第三评测指标，确定辅助诊断模型的评测结果。本公开实施例通过为各个评测指标赋予权重，算出各个评测指标的综合评分，从而对辅助诊断模型作出更直观地评分，便于对不同的辅助诊断模型的效果进行对比。

下面给出本公开的具体实施例。

以单一测试用例——冠心病急性心肌梗死为例，本公开具体实施例提供的方法如下：

步骤1、首先构建冠心病急性心肌梗死症状库，如胸闷、胸痛、心悸、面色苍白、恶心、呕吐、大汗、牙疼、濒死感、上腹胀痛、气促等。

步骤2、标注典型症状，如冠心病急性心肌梗死中的胸闷、胸痛、恶心、呕吐、牙疼、濒死感。此外，对于其它疾病也作类似的典型症状标注，比如高血压中的胸闷、头痛；不稳定型心绞痛的胸痛、胸闷；急性胃炎中的腹痛、恶心、呕吐等。

步骤3、构建冠心病急性心肌梗死测试用例，例如：性别男，年龄62岁，体温36.8℃，脉搏83次/分，呼吸19次/分，血压146/84mmHg，发作性胸痛2年，加重1小时。

步骤4、模型1预测结果为急性心肌梗死(67.8％)、不稳定型心绞痛(54.2％)、高血压(28.6％)、急性胃炎(13.4％)、下肢静脉曲张(2.3％)；模型2预测的结果为不稳定型心绞痛(55.1％)、急性心肌梗死(38.3％)、胰腺炎(16.7％)、胆囊炎(10.1％)、偏头痛(2.8％)；那么，模型1目标疾病急性心肌梗死出现在第1位，top1命中，模型2出现在第2位，top3命中，以及，模型1和模型2均命中top5。模型1的预测结果包含急性胃炎、下肢静脉曲张2个，胸痛并不属于这两个疾病的典型症状，错误诊断数为2个。模型2包含胰腺炎、胆囊炎、偏头痛共3个错误诊断。

步骤5、针对本条测试用例，将所有的命中情况进行汇总，生成所有疾病测试用例的top1、top3、top5的命中情况，及输出包含的错误诊断数。

显然，模型1在各方面指标优于模型2。

参见图4，本公开提供的一种辅助诊断模型的评测装置包括：

测试用例选取单元410，用于获取若干测试用例；其中，每一测试用例记录了若干疾病诊断关联信息，以及目标疾病名称；

测试单元420，用于将若干测试用例输入辅助诊断模型，获取辅助诊断模型输出的预测疾病序列；每一预测疾病序列包括预设个数的按照预测概率由高至低排列的预测疾病名称；

评测单元430，用于将预测疾病序列与目标疾病名称比较，确定第一评测指标和第二评测指标；第一评测指标根据所述预测疾病序列第一位的预测疾病名称命中目标疾病名称的次数确定；第二评测指标根据预测疾病序列前指定位数的预测疾病名称命中目标疾病名称的次数确定；

评测结果输出单元440，用于输出第一评测指标和第二评测指标。

关于辅助诊断模型的评测装置的具体限定可以参见上文中对于辅助诊断模型的评测方法的限定，在此不再赘述。

应当理解，这里描述的各种技术可结合硬件或软件，或者它们的组合一起实现。从而，本公开的方法和设备，或者本公开的方法和设备的某些方面或部分可采取嵌入有形媒介，例如软盘、CD-ROM、硬盘驱动器或者其它任意机器可读的存储介质中的程序代码(即指令)的形式，其中当程序被载入诸如计算机之类的机器，并被该机器执行时，该机器变成实践本公开的设备。

在程序代码在可编程计算机上执行的情况下，计算设备一般包括处理器、处理器可读的存储介质(包括易失性和非易失性存储器和/或存储元件)，至少一个输入装置，和至少一个输出装置。其中，存储器被配置用于存储程序代码；处理器被配置用于根据该存储器中存储的该程序代码中的指令，执行本公开的各种方法。

以示例而非限制的方式，计算机可读介质包括计算机存储介质和通信介质。计算机可读介质包括计算机存储介质和通信介质。计算机存储介质存储诸如计算机可读指令、数据结构、程序模块或其它数据等信息。通信介质一般以诸如载波或其它传输机制等已调制数据信号来体现计算机可读指令、数据结构、程序模块或其它数据，并且包括任何信息传递介质。以上的任一种的组合也包括在计算机可读介质的范围之内。

应当理解，为了精简本公开并帮助理解各个公开方面中的一个或多个，在上面对本公开的示例性实施例的描述中，本公开的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该公开的方法解释成反映如下意图：即所要求保护的本公开要求比在每个权利要求中所明确记载的特征更多特征。更确切地说，如下面的权利要求书所反映的那样，公开方面在于少于前面公开的单个实施例的所有特征。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本公开的单独实施例。

本领域那些技术人员应当理解在本文所公开的示例中的设备的模块或单元或组件可以布置在如该实施例中所描述的设备中，或者可替换地可以定位在与该示例中的设备不同的一个或多个设备中。前述示例中的模块可以组合为一个模块或者此外可以分成多个子模块。

本领域那些技术人员可以理解，可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件，以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外，可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。

此外，本领域的技术人员能够理解，尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本公开的范围之内并且形成不同的实施例。例如，在下面的权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。

此外，所述实施例中的一些在此被描述成可以由计算机系统的处理器或者由执行所述功能的其它装置实施的方法或方法元素的组合。因此，具有用于实施所述方法或方法元素的必要指令的处理器形成用于实施该方法或方法元素的装置。此外，装置实施例的在此所述的元素是如下装置的例子：该装置用于实施由为了实施该公开的目的的元素所执行的功能。

如在此所使用的那样，除非另行规定，使用序数词“第一”、“第二”、“第三”等等来描述普通对象仅仅表示涉及类似对象的不同实例，并且并不意图暗示这样被描述的对象必须具有时间上、空间上、排序方面或者以任意其它方式的给定顺序。

尽管根据有限数量的实施例描述了本公开，但是受益于上面的描述，本技术领域内的技术人员明白，在由此描述的本公开的范围内，可以设想其它实施例。此外，应当注意，本说明书中使用的语言主要是为了可读性和教导的目的而选择的，而不是为了解释或者限定本公开的主题而选择的。因此，在不偏离所附权利要求书的范围和精神的情况下，对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。对于本公开的范围，对本公开所做的公开是说明性的，而非限制性的，本公开的范围由所附权利要求书限定。

Claims (4)

1.一种辅助诊断模型的评测方法，其特征在于，包括：

获取若干测试用例；其中，每一测试用例记录了若干疾病诊断关联信息，以及目标疾病名称；

将所述若干测试用例输入辅助诊断模型，获取所述辅助诊断模型输出的预测疾病序列；每一预测疾病序列包括预设个数的按照预测概率由高至低排列的预测疾病名称；

将所述预测疾病序列与所述目标疾病名称比较，确定第一评测指标和第二评测指标；所述第一评测指标根据所述预测疾病序列第一位的预测疾病名称命中所述目标疾病名称的次数确定；所述第二评测指标根据所述预测疾病序列前指定位数的预测疾病名称命中所述目标疾病名称的次数确定；

输出所述第一评测指标和所述第二评测指标；

确定第三评测指标，所述第三评测指标根据预测疾病序列的预测疾病名称对应的典型症状不包含所述疾病诊断关联信息中的典型症状的次数确定；其中，预先为任一疾病名称设置对应的典型症状；输出所述第三评测指标；

根据预先设定的第一评测指标、第二评测指标和第三评测指标各自的权重，以及所述第一评测指标、所述第二评测指标和所述第三评测指标，确定辅助诊断模型的评测结果；

所述前指定位数，包括：

前三位，和/或，前五位。

2.一种辅助诊断模型的评测装置，其特征在于，包括：

测试用例选取单元，用于获取若干测试用例；其中，每一测试用例记录了若干疾病诊断关联信息，以及目标疾病名称；

测试单元，用于将所述若干测试用例输入辅助诊断模型，获取所述辅助诊断模型输出的预测疾病序列；每一预测疾病序列包括预设个数的按照预测概率由高至低排列的预测疾病名称；

评测单元，用于将所述预测疾病序列与所述目标疾病名称比较，确定第一评测指标和第二评测指标；所述第一评测指标根据所述预测疾病序列第一位的预测疾病名称命中所述目标疾病名称的次数确定；所述第二评测指标根据所述预测疾病序列前指定位数的预测疾病名称命中所述目标疾病名称的次数确定；

所述评测单元还用于：

确定第三评测指标，所述第三评测指标根据预测疾病序列的预测疾病名称对应的典型症状不包含所述疾病诊断关联信息中的典型症状的次数确定；其中，预先为任一疾病名称设置对应的典型症状；

所述评测单元还用于：

根据预先设定的第一评测指标、第二评测指标和第三评测指标各自的权重，以及所述第一评测指标、所述第二评测指标和所述第三评测指标，确定辅助诊断模型的评测结果；

评测结果输出单元，用于输出所述第一评测指标、所述第二评测指标和所述第三评测指标；

所述前指定位数，包括：

前三位，和/或，前五位。

3.一种可读存储介质，其特征在于，其上具有可执行指令，当可执行指令被执行时，使得计算机执行如权利要求1的任一项所包括的操作。

4.一种计算设备，其特征在于，包括：

一个或多个处理器；

存储器；以及

一个或多个程序，其中所述一个或多个程序存储在所述存储器中并被配置为由所述一个或多个处理器执行如权利要求1中的任一项所包括的操作。

Images