CN113764077A - 病理图像的处理方法、装置、电子设备与存储介质 - Google Patents

病理图像的处理方法、装置、电子设备与存储介质 Download PDF

Info

Publication number
CN113764077A
CN113764077A CN202110850290.9A CN202110850290A CN113764077A CN 113764077 A CN113764077 A CN 113764077A CN 202110850290 A CN202110850290 A CN 202110850290A CN 113764077 A CN113764077 A CN 113764077A
Authority
CN
China
Prior art keywords
classification
area
labeled
labeling
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110850290.9A
Other languages
English (en)
Other versions
CN113764077B (zh
Inventor
陈培林
邢艺释
叶亦舟
李梦道
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai 3D Medicines Co Ltd
Original Assignee
Shanghai 3D Medicines Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai 3D Medicines Co Ltd filed Critical Shanghai 3D Medicines Co Ltd
Priority to CN202110850290.9A priority Critical patent/CN113764077B/zh
Publication of CN113764077A publication Critical patent/CN113764077A/zh
Application granted granted Critical
Publication of CN113764077B publication Critical patent/CN113764077B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10Complex mathematical operations
    • G06F17/16Matrix or vector computation, e.g. matrix-matrix or matrix-vector multiplication, matrix factorization
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Analysis (AREA)
  • Health & Medical Sciences (AREA)
  • Pure & Applied Mathematics (AREA)
  • Computational Mathematics (AREA)
  • Mathematical Optimization (AREA)
  • Databases & Information Systems (AREA)
  • Public Health (AREA)
  • Computing Systems (AREA)
  • Epidemiology (AREA)
  • Medical Informatics (AREA)
  • Algebra (AREA)
  • Radiology & Medical Imaging (AREA)
  • Primary Health Care (AREA)
  • Software Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Image Analysis (AREA)

Abstract

本发明提供了一种病理图像的处理方法、装置、电子设备与存储介质,病理图像的处理方法,包括:获取病理图像的K组标注分类信息,所述标注分类信息表征了:记载至少一个标注区域的标注图像,以及每个标注区域所添加的分类标签;所述标注区域是针对于所述病理图像而划出的;评估所述K组标注分类信息的一致性,得到表征所述一致性的评估信息;若所述评估信息所表征的一致性高于预设标准,则向具有复核权限的用户反馈标注分类结果,其中,所述标注分类结果是根据所述K组标注分类信息确定的。

Description

病理图像的处理方法、装置、电子设备与存储介质
技术领域
本发明涉及病理图像的处理领域,尤其涉及一种病理图像的处理方法、装置、电子设备与存储介质。
背景技术
由于人工智能技术的发展,用人工智能技术来解决复杂的医学图像识别问题具有巨大的临床应用价值。利用机器分析病理图像具有较高的可重复性,能定量或半定量分析结果,且能减少病理医生的重复工作,辅助病理医生提高结果的准确性和可靠性。其中,若需通过深度学习方法对病理图像中的组织和细胞进行分类,则需要大量的已标注过的图像作为训练集,以此训练深度学习的模型。
其中,人工标注、分类的工作繁复,现有相关技术中,可基于一定量的标注结果训练一个用于标注、分类的模型,然后用训练好的模型对新输入的图像进行自动化的标注、分类。然而,该过程中,标注的准确性难以得到保障,同时,依旧需要专业的人员(例如医生)参与到完整的、大量的标注、分类工作中,这也导致了参与标注分类工作的门槛较高。
发明内容
本发明提供了一种病理图像的处理方法、装置、电子设备与存储介质,以解决现有技术存在的缺陷。
根据本发明的第一方面,提供了一种病理图像的处理方法,包括:
获取病理图像的K组标注分类信息,所述标注分类信息表征了:记载至少一个标注区域的标注图像,以及每个标注区域所添加的分类标签;所述标注区域是针对于所述病理图像而划出的;
评估所述K组标注分类信息的一致性,得到表征所述一致性的评估信息;
若所述评估信息所表征的一致性高于预设标准,则向指定用户反馈标注分类结果,其中,所述标注分类结果是根据所述K组标注分类信息确定的。
可选的,评估所述K组标注分类信息的一致性,得到表征所述一致性的评估信息,包括:
针对于每一组标注分类信息中的每个标注区域,形成一个矩阵;在所述矩阵中,矩阵元素的分布匹配于所述标注图像中像素点的分布,并且,所述标注区域内像素点对应的矩阵元素取第一数值,所述标注区域外像素点对应的矩阵元素取第二数值;
基于所有矩阵与所述分类标签,计算所述评估信息。
可选的,所述K组标注分类信息包括第一组标注分类信息与第二组标注分类信息;
基于所有矩阵与所述分类标签,计算所述评估信息,包括:
确定所述第一组标注分类信息的每个矩阵与所述第二组标注分类信息的每个矩阵间的重合区域、所述重合区域的面积,以及所述重合区域所对应的两个分类标签;
其中,所述重合区域表征了两个矩阵间位置、数值相同且均为所述第一数值的矩阵元素的集合,所述面积表征了所述重合区域的矩阵元素的数量;
计算其中同类重合区域的面积的总和,得到第一面积参数;所述同类重合区域指:所对应的两个分类标签为相同分类标签的重合区域;
计算其中异类重合区域的面积的总和,得到第二面积参数;所述异类重合区域指:所对应的两个分类标签为不同分类标签的重合区域;
根据所述第一面积参数与所述第二面积参数,计算所述评估信息。
可选的,根据所述第一面积参数与所述第二面积参数,计算所述评估信息之前,还包括:
计算所述第一组标注分类信息中标注区域的面积总和,得到第三面积参数;
计算所述第二组标注分类信息中标注区域的面积总和,得到第四面积参数;
其中,所述标注区域的面积总和表征了对应一组标注分类信息的所有标注区域内像素点或其对应矩阵元素的总数量;
根据所述第一面积参数与所述第二面积参数,计算所述评估信息,具体包括:
根据所述第一面积参数、所述第二面积参数、所述第三面积参数与所述第四面积参数,计算所述评估信息。
可选的,所述评估信息包括第一评估信息和/或第二评估信息;
所述第一评估信息匹配于第一比值;
其中,所述第一比值为:Ss/(SA+SB-Ss-Sd);
所述第二评估信息匹配于第二比值;
其中,所述第二比值为:Sd/(SA+SB-Ss-Sd);
Sd表征了所述第二面积参数;
Ss表征了所述第一面积参数;
SA表征了所述第三面积参数;
SB表征了所述第四面积参数。
可选的,若所述评估信息包括所述第一评估信息,则:向指定用户反馈标注分类结果之前,还包括:确定所述第一评估信息高于对应的第一指定阈值;
若所述评估信息包括所述第二评估信息,则:向指定用户反馈标注分类结果之前,还包括:确定所述第二评估信息低于对应的第二指定阈值。
可选的,在所述矩阵中,所述第一数值为1,所述第二数值为0;
确定所述第一组标注分类信息的每个矩阵与所述第二组标注分类信息的每个矩阵间重合区域、所述重合区域的面积,以及所述重合区域所对应的两个分类标签,包括:
将所述两个矩阵相乘,得到哈达玛积矩阵;其中,所述哈达玛积矩阵中数值为1的矩阵元素的区域为所述重合区域;
计算所述哈达玛积矩阵中数值为1的矩阵元素的数量作为所述重合区域的面积;
以两个矩阵的标注区域所添加的分类标签作为所述重合区域所对应的两个分类标签。
可选的,所反馈的标注分类结果表征了至少部分重合区域在所述病理图像中的位置与范围,以及所述重合区域对应的标签。
可选的,获取病理图像的K组标注分类信息,包括:
在第一权限的第一用户针对于所述病理图像划出标注区域后,得到记载标注区域的标注图像;
获取N个第二权限的第二用户针对于所述标注区域添加的分类标签,并基于标注图像与每个第二用户所添加的分类标签,形成一组标注分类信息,得到所述K组标注分类信息。
可选的,所述的处理方法,还包括:
响应于所述第二用户的修改操作,对所述标注区域进行修改,以使得:所述标注分类信息中的标注区域为修改后的标注区域。
可选的,所述指定用户为具有复核权限的复核用户;所述标注分类结果为待复核的标注分类结果。
根据本发明的第二方面,提供了一种病理图像的处理装置,包括:
获取模块,用于获取病理图像的K组标注分类信息,所述标注分类信息表征了:记载至少一个标注区域的标注图像,以及每个标注区域所添加的分类标签;所述标注区域是针对于所述病理图像而划出的;不同组标注分类信息是不同用户确定的;
评估模块,用于评估所述K组标注分类信息的一致性,得到表征所述一致性的评估信息;
反馈模块,用于若所述评估信息所表征的一致性高于预设标准,则向指定用户反馈标注分类结果,其中,所述标注分类结果是根据所述K组标注分类信息确定的。
根据本发明的第三方面,提供了一种电子设备,包括处理器与存储器,
所述存储器,用于存储代码;
所述处理器,用于执行所述存储器中的代码用以实现第一方面及其可选方案涉及的方法。
根据本发明的第四方面,提供了一种存储介质,其上存储有计算机程序,该程序被处理器执行时实现第一方面及其可选方案涉及的方法。
本发明提供的病理图像的处理方法、装置、电子设备与存储介质中,可先由用户确定标注分类信息,再向具有复核权限的用户发送对应的标注分类结果,实现了标注、分类过程与复核过程的分工,进一步的可选方案中,还可细化标注区域的划出过程与分类打标过程(可以含修改过程)的分工,从而便于匹配不同权限的用户进行处理,在此基础上,可通过合理的分工和流转,避免标注工作的管理混乱,还可通过标注分类结果的复核,保障标注分类的质量,同时,基于分工的机制,各用户可以更专注于自己的分工,用户无需参与所有流程,具体应用本方案时,还可分配不同专业能力、经验的人参与到不同分工中,提高人力资源分配的合理性,本发明为这种合理分配提供了技术基础,通过该分工机制,也有助于提高整个工作过程的效率与标注分类的质量。
并且,本发明中,由于实现了分工,本发明可基于多个用户标注分类的成果进行复核,相较于仅基于一个用户的一组标注分类信息进行复核的方案,可有效提高标注分类结果的准确性。
在此基础上,本发明创造性地引入了评估的机制,其中,可对不同用户所确定的K组标注分类信息的一致性进行评估,避免了将一致性较差的标注分类信息直接作为复核的依据,既可节约复核权限的用户(例如医生)的工作量,避免产生不必要的、繁复的工作量,还可有助于保障标注分类结果的准确性。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本发明一实施例中病理图像的处理方法的流程示意图;
图2是本发明一实施例中步骤S11的流程示意图;
图3是本发明一实施例中步骤S12的流程示意图;
图4是本发明一实施例中步骤S122的流程示意图一;
图5是本发明一实施例中步骤S122的流程示意图二;
图6是本发明一实施例中标记图像、矩阵的示意图;
图7是本发明一实施例中矩阵N1与矩阵M1相乘的示意图;
图8是本发明一实施例中矩阵N1与矩阵M2相乘的示意图;
图9是本发明一实施例中矩阵N2与矩阵M1相乘的示意图;
图10是本发明一实施例中矩阵N2与矩阵M2相乘的示意图;
图11是本发明一实施例中重合区域整合后的矩阵的示意图;
图12是本发明一实施例中病理图像的处理装置的程序模块示意图;
图13是本发明一实施例中电子设备的构造示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”“第四”等(如果存在)是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
下面以具体地实施例对本发明的技术方案进行详细说明。下面这几个具体的实施例可以相互结合,对于相同或相似的概念或过程可能在某些实施例不再赘述。
请参考图1,本发明实施例提供的病理图像的处理方法,包括:
S11:获取病理图像的K组标注分类信息;
其中,N≥2;
S12:评估所述K组标注分类信息的一致性,得到表征所述一致性的评估信息;
S13:若所述评估信息所表征的一致性高于预设标准,则向指定用户反馈标注分类结果;
其中,所述标注分类结果是根据所述K组标注分类信息确定的。
其中,所述标注分类信息表征了:记载至少一个标注区域的标注图像,以及每个标注区域所添加的分类标签;所述标注区域可以是针对于所述病理图像而划出的,其划出的过程可以是一次就划出,也可以是先划出再调整的,所添加的分类标签可以是在一开始划出标注区域时就一通添加的,还可以是在调整过程中添加的,也可以是在划出之后添加的。
当标注区域的数量为2个时,以图6为例,其中的图像I1与图像I2可视作以上所提及的标注图像,图像I1中的两个标注区域分别为标注了分类标签C1与分类标签C2的标注区域,图像I2中的两个标注区域分别为标注了分类标签C1与分类标签C3的标注区域。其他举例中,标注区域的数量也可以大于或等于3个。
其中一种实施方式中,不同组标注分类信息可以是不同用户确定的(例如是不同用户划定标定区域和/或添加标签的),其中的不同用户,可理解为:若确定单组标注分类信息的过程中只需经一个用户确定(例如由一个用户划定标定区域并添加标签),那么,针对于不同组标注分类信息,可经由完全不同的用户确定;若确定单组标注分类信息的过程需经不止一个用户(例如两个用户,或至少三个用户)确定,那么,针对不同组标注分类信息,可经由完全不同的用户确定,也可经由部分不同的用户确定。其他实施方式中,不同组标注分类信息也可能是同一用户确定的。
其中,所述指定用户可以为具有复核权限的复核用户;对应的,所述标注分类结果为待复核的标注分类结果。其他举例中,指定用户也可能是具有其他权限或许完成其他目的的用户。
以上方案中,可先由用户确定标注分类信息,再向具有复核权限的用户发送对应的标注分类结果,实现了标注、分类过程与复核过程的分工。并且,本发明实施例中,由于实现了分工,本发明可基于多个用户标注分类的成果进行复核,相较于仅基于一个用户的一组标注分类信息进行复核的方案,可有效提高标注分类结果的准确性。
在此基础上,本发明实施例创造性地引入了评估的机制,其中,可对不同用户所确定的K组标注分类信息的一致性进行评估,避免了将一致性较差的标注分类信息直接作为复核的依据,既可节约复核权限的用户(例如医生)的工作量,避免产生不必要的、繁复的工作量,还可有助于保障标注分类结果的准确性。
针对于步骤S11,其中一种实施方式中,请参考图2,步骤S11可以包括:
S111:在第一权限的第一用户针对于所述病理图像划出标注区域后,得到记载标注区域的标注图像;
S112:获取N个第二权限的第二用户针对于所述标注区域添加的分类标签,并基于标注图像与每个第二用户所添加的分类标签,形成一组标注分类信息,得到所述K组标注分类信息。
其中第一权限的用户,可理解为有权限对病理图像进行区域划分从而划出标注区域的用户,具体的,第一权限的用户可以为初级标注人员;
其中第二权限的用户,可理解为能够对标注图像中的标注区域添加标注的用户,进一步的方案中,第二权限的用户的权限还可以进一步包括:对标注区域的尺寸和/或形状进行调整;具体的,第二权限的用户可以为高级标注人员;
第一权限的用户、第二权限的用户,以及指定用户可在同一终端上完成相应的交互,也可在不同终端上完成相应的交互。
其中,各用户的权限可通过绑定于用户的信息来体现,该信息可表征为权限信息,也可不限于此,例如还可以为身份信息、职务信息等等。
其中的病理图像,可理解为能够对病理进行描述的任意图像,基于所采用的设备和机理,所涉及的病理图像可以是任意的,即:本发明实施例可适于对各种病理图像进行处理。
其中的标注图像,可理解为其中形成标注区域的任意图像,其可以是独立于病理图像而呈现的图像或图层,也可以是与病理图像集成在一起而呈现的。
其中过一种实施方式中,步骤S11,还可包括:
S113:响应于所述第二用户的修改操作,对所述标注区域进行修改,以使得:所述标注分类信息中的标注区域为修改后的标注区域。
具体举例中,终端可通过标注工具与用户交互;例如,可向用户显示病理图像,用户可通过标注工具对病理图像进行标注,从而形成标注图像,该标注工具可以为线上标注工具,进而,连接到网络的终端均可能用于实施以上步骤S111至S113;其中:
步骤S111中,用户(例如第一权限的用户)可通过标注工具中配置的矩形、圆形、椭圆形或多边形的图形对病理图像进行标注,以标出标注区域。例如:初级标注人员可基于病理图像对其中的病理组织区域进行人工标注,即:通过使用标注工具将目标组织勾勒出来。经步骤S111划出标注区域后的标注图像可例如为图6所示的图像I0;
步骤S112、S113中,用户(例如第二权限的用户)可通过标注工具中的区域标签功能对标注区域添加标签,达到对标注区域的分类目的。例如:高级标注人员对已标注并生成的标注区域人工添加标签,达到对标注分类的目的;其中,经步骤S112、S113添加标注、调整后的标注图像可例如为图6所示的图像I1、图像I2。
可见,进一步的可选方案中,还可细化标注区域的划出过程与分类打标过程(可以含修改过程)的分工,从而便于匹配不同权限的用户进行处理,在此基础上,可通过合理的分工和流转,避免标注工作的管理混乱,还可通过标注分类结果的复核,保障标注分类的质量,同时,基于分工的机制,各用户可以更专注于自己的分工,用户无需参与所有流程,具体应用本方案时,还可分配不同专业能力、经验的人参与到不同分工中,提高人力资源分配的合理性,本发明为这种合理分配提供了技术基础,通过该分工机制,也有助于提高整个工作过程的效率与标注分类的质量。
其中一种实施方式中,请参考图3,步骤S12可以包括:
S121:针对于每一组标注分类信息中的每个标注区域,形成一个矩阵;
在所述矩阵中,矩阵元素的分布匹配于所述标注图像中像素点的分布,并且,所述标注区域内像素点对应的矩阵元素取第一数值(例如为1),所述标注区域外像素点对应的矩阵元素取第二数值(例如为0);其他举例中,第一数值也可能为0,第二数值也可能为1,第一数值、第二数值还可能取其他数值(例如为数字数值,也可以为利用字母、符号表征的数值)。
S122:基于所有矩阵与所述分类标签,计算所述评估信息。
其中,通过矩阵的形成,可实现标注图像中标注区域分类及标签添加结果进行量化,从而为评估信息的量化计算提供可供计算的依据,并且,由于矩阵中矩阵元素的分布匹配于像素点的分布,可使得量化的结果准确匹配标注图像。
其中,由于每个矩阵与一个标注区域相对应的,可使得:每个标注区域在整个标注图像中的分布结果可体现为一个矩阵,可有助于更细化、精确地体现出标注分类信息的一致性。
进一步的举例中,针对于每一个标注分类信息,可形成一个.csv文件,进而可基于对应的.csv文件形成相应的矩阵。
进一步的方案中,以图6所示的添加标签后的标注图像(例如图像I1与图像I2),可以针对于图像I1的标注文件A(即.csv文件)中每一类标注区域单独生成矩阵N_i,i=1,2,3,…,矩阵规格与图像像素一致。标注区域内的每个像素点赋值为1,标注区域以外的区域以0填充;所形成的矩阵可例如矩阵N1与矩阵N2;
还可以针对于图像I2的标注文件B(即.csv文件)中每一类标注区域单独生成举证矩阵M_i,i=1,2,3,…,矩阵规格与图像像素一致。标注区域内的每个像素点赋值为1,标注区域以外的区域以0填充;所形成的矩阵可例如矩阵M1与矩阵M2。
若所述K组标注分类信息包括第一组标注分类信息与第二组标注分类信息(对应的矩阵标注图像可例如为图像I1与图像I2);其中一种实施方式中,步骤S122可以包括:
S1221:确定所述第一组标注分类信息的每个矩阵与所述第二组标注分类信息的每个矩阵间的重合区域、所述重合区域的面积,以及所述重合区域所对应的两个分类标签;
S1222:计算其中同类重合区域的面积的总和,得到第一面积参数;
S1223:计算其中异类重合区域的面积的总和,得到第二面积参数;
S1224:根据所述第一面积参数与所述第二面积参数,计算所述评估信息。
其中,所述重合区域表征了两个矩阵间位置、数值相同且均为所述第一数值(例如为1)的矩阵元素的集合,所述面积表征了所述重合区域的矩阵元素的数量;
在图6、图7所示的举例中,矩阵N1中的12个数值为1的矩阵元素、矩阵M1中的12个数值为1的矩阵元素的区域即为重合区域,对应的,重合区域的面积即为12。同时,矩阵N1与矩阵M2的重合区域的面积即为0,矩阵N2与矩阵M1的重合区域的面积即为0,矩阵N2与矩阵M2的重合区域的面积即为6。可见,在步骤S1221中,即可得到矩阵N1与矩阵M1之间的重合区域及其面积、矩阵N1与矩阵M2之间的重合区域及其面积、矩阵N2与矩阵M1之间的重合区域及面积、矩阵N2与矩阵M2之间的重合区域及面积。
其中的同类重合区域指:所对应的两个分类标签为相同分类标签的重合区域,例如图像I1中标签为C1的标注区域的矩阵与图像I2中标签为C1的标注区域的矩阵之间的重合区域即为同类重合区域。
其中的异类重合区域指:所对应的两个分类标签为不同分类标签的重合区域,例如图像I1中标签为C2的标注区域的矩阵与图像I2中标签为C3的标注区域的矩阵之间的重合区域即为异类重合区域。
在图6、图7所示的举例中:
矩阵N1与矩阵M1的重合区域的面积为12,且为相同分类区域重合(即矩阵N1与矩阵M1的同类重合区域的面积为12);矩阵N1与矩阵M1所代表的标注均为C1分类;
矩阵N1与矩阵M2的重合区域的面积为0;矩阵N2与矩阵M1的重合区域的面积为0;矩阵N2与矩阵M2的重合区域的面积为9,且为不同分类重合(即矩阵N1与矩阵M2的异类重合区域的面积为9);矩阵N2、矩阵M2所代表的标注分别为C2和C3分类。
此外,在图示的举例中,图像I1中标签为C1的标注区域的矩阵与图像I2中标签为C3的标注区域的矩阵之间未形成重合,故而其未形成同类重合区域或异类重合区域,在其他举例中,若形成重合,也可能形成部分异类重合区域。
其中一种实施方式中,所述第一数值为1,所述第二数值为0的情况下,1与1相乘的结果为1,1与0、0与0相乘的结果为0,故而,可通过矩阵的相乘体现出重合区域。
故而,请参考图5,步骤S1221可以包括:
S12211:将所述两个矩阵相乘,得到哈达玛积矩阵;其中,所述哈达玛积矩阵中数值为1的矩阵元素的区域为所述重合区域;
S12212:计算所述哈达玛积矩阵中数值为1的矩阵元素的数量作为所述重合区域的面积;
S12213:以两个矩阵的标注区域所添加的分类标签作为所述重合区域所对应的两个分类标签。
具体方案中,可以将矩阵N_i,i=1,2,3,…,与矩阵M_i,i=1,2,3,…逐个进行相乘,计算哈达玛积,并记录所有哈达玛积矩阵中非0像素点的数量并根据其具体值(非0部分即为重合部分,具体取值代表重合对象)得到N_i与M_i中各类型标注的重合部分面积。记录各类型标注重合面积所对应的分类。
在图7、图8、图9与图10中,分别示意了矩阵N1与矩阵M1的哈达玛积、矩阵N1与矩阵M2的哈达玛积、矩阵N2与矩阵M1的哈达玛积,以及矩阵N2与矩阵M2的哈达玛积。
以上所涉及的第一面积参数可表征为Ss,以上所涉及的第二面积参数可表征为Sd;部分方案中,可以第一面积参数和/或第二面积参数本身作为评估信息,进而,比较第一面积参数Ss与相应的标准,和/或:比较第二面积参数Sd与相应的标准,从而判断一致性是否高于预设标准,部分方案中,还可比较Ss/Ss+Sd和/或Sd/Ss+Sd作为评估信息,进而,比较Ss/Ss+Sd与相应的标准,和/或:Sd/Ss+Sd与相应的标准,从而判断一致性是否高于预设标准;例如,可在Ss/Ss+Sd大于某值和/或:Sd/Ss+Sd小于某值时判断为评估信息高于预设标准。
另部分方案中,还可引入第三面积参数与第四面积参数计算评估信息,例如,请参考图5,步骤S122还可以包括:
S1225:计算所述第一组标注分类信息中标注区域的面积总和,得到第三面积参数;
S1226:计算所述第二组标注分类信息中标注区域的面积总和,得到第四面积参数;
对应的,步骤S1224可以包括:
S12241:根据所述第一面积参数、所述第二面积参数、所述第三面积参数与所述第四面积参数,计算所述评估信息。
其中,所述标注区域的面积总和表征了对应一组标注分类信息的所有标注区域内像素点或其对应矩阵元素的总数量,以图6为例:
图像I1的标签为C1的标注区域的总和为矩阵N1的标注区域的矩阵元素的总数量,即12;
图像I1的标签为C2的标注区域的总和为矩阵N2的标注区域的矩阵元素的总数量,即15;
图像I2的标签为C1的标注区域的总和为矩阵N2的标注区域的矩阵元素的总数量,即12;
图像I2的标签为C3的标注区域的总和为矩阵N2的标注区域的矩阵元素的总数量,即15。
对应的,图像I1(即一组标注分类信息)的第三面积参数为27,图像I2(即一组标注分类信息)的第三面积参数为27。
一种具体的举例中,所述评估信息包括第一评估信息和/或第二评估信息;
所述第一评估信息匹配于第一比值;
其中,所述第一比值为:Ss/(SA+SB-Ss-Sd);
所述第二评估信息匹配于第二比值;
其中,所述第二比值为:Sd/(SA+SB-Ss-Sd);
Sd表征了所述第二面积参数;
Ss表征了所述第一面积参数;
SA表征了所述第三面积参数;
SB表征了所述第四面积参数。
与之对应的,
若所述评估信息包括所述第一评估信息,则:向指定用户反馈标注分类结果之前,还包括:确定所述第一评估信息高于对应的第一指定阈值;
若所述评估信息包括所述第二评估信息,则:向指定用户反馈标注分类结果之前,还包括:确定所述第二评估信息低于对应的第二指定阈值。
一种举例中,第一指定阈值可例如为95%,第二指定阈值可例如为5%。部分方案中,可将评估信息与预设标准的评估规则配置为:两项评估信息的评估中,只要有一项不达标,一致性评分不达标,反之,只有在两项均达标的情况下,才满足:评估信息所表征的一致性高于预设标准。此外,用户可自行设定一致性评分达标的标准(例如可自行设置第一指定阈值、第二指定阈值)。
以图6、图7所示的矩阵为例,则:
第一比值
Figure BDA0003182116410000141
第二比值
Figure BDA0003182116410000142
此时,因为Rs≤90%且Rd≥5%,可认为评估信息未达标,系统可将病理图像状态更新为“未通过”,待对相应的标注分类信息进行更改后再次进行评估。该方案中,可直接以第一比值、第二比值作为第一评估信息、第二评估信息,其他举例中,也可基于第一比值、第二比值结合其他计算而形成第一评估信息、第二评估信息,例如可对其进行校正,也在此基础上进行进一步计算(例如加、减、乘、除某些数值)。
以图6、图7所示为例,若一致性的预设标准在一开始被用户所重设,且根据重设后的标准一致性评分达标,则可生成第一组标注分类信息和第二组标注分类信息重合区域的矩阵(如图11所示)并保留标注轮廓坐标,生成.csv文件后提交供复核。
可见,所反馈的标注分类结果表征了至少部分重合区域在所述病理图像中的位置与范围,以及所述重合区域对应的标签。例如:
可将各重合区域整合在一起(整合后的矩阵可例如图11所示),结合相应的标签,可生成对应的标注图像的.csv文件,在需要复核时,可调取并向指定用户反馈该.csv文件。
若复核不通过,部分方案中,可回到步骤S11重新确定、调整标注分类信息,进而执行后续步骤,重新提交复核,另部分方案中,也可由指定用户自行重新确定标注分类信息,从而生成标注分类结果。
可见,本发明实施例的具体方案中,可将重复性强的,工作量大的任务分配给区域标注子模块,令医生复核子模块从事耗时相对较少但专业性强的工作,使人力资源的分配更加合理。区域标注子模块、区域分类子模块和医生复核子模块产生各自的分工,有效避免因为标注工作量大而导致的管理混乱、标注质量参差不齐等问题。逐层把关的模式和质控评分算法的存在保证了标注质量。
此外,若标注分类信息的数量为至少三组,则:一种举例中,可参照前文的方式计算每两组之间的评估信息(例如第一评估信息、第二评估信息),然后基于统计学的方式整合各评估信息,得到用于评估一致性的最终的评估信息,然后在步骤S3的过程中基于该最终的评估信息进行计算;例如:可计算每两组之间的第一评估信息(或第二评估信息),得到多个待统计的第一评估信息(或第二评估信息),然后计算各待统计的第一评估信息(或第二评估信息)的平均值最为最终的第一评估信息(或第二评估信息)。
请参考图12,本发明实施例还提供了一种病理图像的处理装置2,包括:
获取模块201,用于获取病理图像的K组标注分类信息,所述标注分类信息表征了:记载至少一个标注区域的标注图像,以及每个标注区域所添加的分类标签;所述标注区域是针对于所述病理图像而划出的;不同组标注分类信息是不同用户确定的;
评估模块202,用于评估所述K组标注分类信息的一致性,得到表征所述一致性的评估信息;
反馈模块203,用于若所述评估信息所表征的一致性高于预设标准,则向具有复核权限的用户反馈标注分类结果,其中,所述标注分类结果是根据所述K组标注分类信息确定的。
可选的,所述评估模块202,具体用于:
针对于每一组标注分类信息中的每个标注区域,形成一个矩阵;在所述矩阵中,矩阵元素的分布匹配于所述标注图像中像素点的分布,并且,所述标注区域内像素点对应的矩阵元素取第一数值,所述标注区域外像素点对应的矩阵元素取第二数值;
基于所有矩阵与所述分类标签,计算所述评估信息。
可选的,所述K组标注分类信息包括第一组标注分类信息与第二组标注分类信息;
可选的,所述评估模块202,具体用于:
确定所述第一组标注分类信息的每个矩阵与所述第二组标注分类信息的每个矩阵间的重合区域、所述重合区域的面积,以及所述重合区域所对应的两个分类标签;
其中,所述重合区域表征了两个矩阵间位置、数值相同且均为所述第一数值的矩阵元素的集合,所述面积表征了所述重合区域的矩阵元素的数量;
计算其中同类重合区域的面积的总和,得到第一面积参数;所述同类重合区域指:所对应的两个分类标签为相同分类标签的重合区域;
计算其中异类重合区域的面积的总和,得到第二面积参数;所述异类重合区域指:所对应的两个分类标签为不同分类标签的重合区域;
根据所述第一面积参数与所述第二面积参数,计算所述评估信息。
可选的,所述评估模块202,具体用于:
计算所述第一组标注分类信息中标注区域的面积总和,得到第三面积参数;
计算所述第二组标注分类信息中标注区域的面积总和,得到第四面积参数;
其中,所述标注区域的面积总和表征了对应一组标注分类信息的所有标注区域内像素点或其对应矩阵元素的总数量;
根据所述第一面积参数与所述第二面积参数,计算所述评估信息,具体包括:
根据所述第一面积参数、所述第二面积参数、所述第三面积参数与所述第四面积参数,计算所述评估信息。
可选的,所述评估信息包括第一评估信息和/或第二评估信息;
所述第一评估信息匹配于第一比值;
其中,所述第一比值为:Ss/(SA+SB-Ss-Sd);
所述第二评估信息匹配于第二比值;
其中,所述第二比值为:Sd/(SA+SB-Ss-Sd);
Sd表征了所述第二面积参数;
Ss表征了所述第一面积参数;
SA表征了所述第三面积参数;
SB表征了所述第四面积参数。
可选的,若所述评估信息包括所述第一评估信息,则:向指定用户反馈标注分类结果之前,还包括:确定所述第一评估信息高于对应的第一指定阈值;
若所述评估信息包括所述第二评估信息,则:向指定用户反馈标注分类结果之前,还包括:确定所述第二评估信息低于对应的第二指定阈值。
可选的,在所述矩阵中,所述第一数值为1,所述第二数值为0;
所述评估模块,具体用于:
将所述两个矩阵相乘,得到哈达玛积矩阵;其中,所述哈达玛积矩阵中数值为1的矩阵元素的区域为所述重合区域;
计算所述哈达玛积矩阵中数值为1的矩阵元素的数量作为所述重合区域的面积;
以两个矩阵的标注区域所添加的分类标签作为所述重合区域所对应的两个分类标签。
可选的,所反馈的标注分类结果表征了至少部分重合区域在所述病理图像中的位置与范围,以及所述重合区域对应的标签。
可选的,所述获取模块201,具体用于:
在第一权限的第一用户针对于所述病理图像划出标注区域后,得到记载标注区域的标注图像;
获取N个第二权限的第二用户针对于所述标注区域添加的分类标签,并基于标注图像与每个第二用户所添加的分类标签,形成一组标注分类信息,得到所述K组标注分类信息。
可选的,所述获取模块201,还用于:
响应于所述第二用户的修改操作,对所述标注区域进行修改,以使得:所述标注分类信息中的标注区域为修改后的标注区域。
请参考图13,提供了一种电子设备30,包括:
处理器31;以及,
存储器32,用于存储所述处理器的可执行指令;
其中,所述处理器31配置为经由执行所述可执行指令来执行以上所涉及的方法。
处理器31能够通过总线33与存储器32通讯。
本发明实施例还提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现以上所涉及的方法。
本领域普通技术人员可以理解:实现上述各方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成。前述的程序可以存储于一计算机可读取存储介质中。该程序在执行时,执行包括上述各方法实施例的步骤;而前述的存储介质包括:ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。
最后应说明的是:以上各实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述各实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分或者全部技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。

Claims (13)

1.一种病理图像的处理方法,其特征在于,包括:
获取病理图像的K组标注分类信息,所述标注分类信息表征了:记载至少一个标注区域的标注图像,以及每个标注区域所添加的分类标签;所述标注区域是针对于所述病理图像而划出的;
评估所述K组标注分类信息的一致性,得到表征所述一致性的评估信息;
若所述评估信息所表征的一致性高于预设标准,则向具有复核权限的用户反馈标注分类结果,其中,所述标注分类结果是根据所述K组标注分类信息确定的。
2.根据权利要求1所述的处理方法,其特征在于,评估所述K组标注分类信息的一致性,得到表征所述一致性的评估信息,包括:
针对于每一组标注分类信息中的每个标注区域,形成一个矩阵;在所述矩阵中,矩阵元素的分布匹配于所述标注图像中像素点的分布,并且,所述标注区域内像素点对应的矩阵元素取第一数值,所述标注区域外像素点对应的矩阵元素取第二数值;
基于所有矩阵与所述分类标签,计算所述评估信息。
3.根据权利要求2所述的处理方法,其特征在于,所述K组标注分类信息包括第一组标注分类信息与第二组标注分类信息;
基于所有矩阵与所述分类标签,计算所述评估信息,包括:
确定所述第一组标注分类信息的每个矩阵与所述第二组标注分类信息的每个矩阵间的重合区域、所述重合区域的面积,以及所述重合区域所对应的两个分类标签;
其中,所述重合区域表征了两个矩阵间位置、数值相同且均为所述第一数值的矩阵元素的集合,所述面积表征了所述重合区域的矩阵元素的数量;
计算其中同类重合区域的面积的总和,得到第一面积参数;所述同类重合区域指:所对应的两个分类标签为相同分类标签的重合区域;
计算其中异类重合区域的面积的总和,得到第二面积参数;所述异类重合区域指:所对应的两个分类标签为不同分类标签的重合区域;
根据所述第一面积参数与所述第二面积参数,计算所述评估信息。
4.根据权利要求3所述的处理方法,其特征在于,根据所述第一面积参数与所述第二面积参数,计算所述评估信息之前,还包括:
计算所述第一组标注分类信息中标注区域的面积总和,得到第三面积参数;
计算所述第二组标注分类信息中标注区域的面积总和,得到第四面积参数;
其中,所述标注区域的面积总和表征了对应一组标注分类信息的所有标注区域内像素点或其对应矩阵元素的总数量;
根据所述第一面积参数与所述第二面积参数,计算所述评估信息,具体包括:
根据所述第一面积参数、所述第二面积参数、所述第三面积参数与所述第四面积参数,计算所述评估信息。
5.根据权利要求4所述的处理方法,其特征在于,所述评估信息包括第一评估信息和/或第二评估信息;
所述第一评估信息匹配于第一比值;
其中,所述第一比值为:Ss/(SA+SB-Ss-Sd);
所述第二评估信息匹配于第二比值;
其中,所述第二比值为:Sd/(SA+SB-Ss-Sd);
Sd表征了所述第二面积参数;
Ss表征了所述第一面积参数;
SA表征了所述第三面积参数;
SB表征了所述第四面积参数。
6.根据权利要求5所述的处理方法,其特征在于,
若所述评估信息包括所述第一评估信息,则:向指定用户反馈标注分类结果之前,还包括:确定所述第一评估信息高于对应的第一指定阈值;
若所述评估信息包括所述第二评估信息,则:向指定用户反馈标注分类结果之前,还包括:确定所述第二评估信息低于对应的第二指定阈值。
7.根据权利要求3所述的处理方法,其特征在于,在所述矩阵中,所述第一数值为1,所述第二数值为0;
确定所述第一组标注分类信息的每个矩阵与所述第二组标注分类信息的每个矩阵间重合区域、所述重合区域的面积,以及所述重合区域所对应的两个分类标签,包括:
将所述两个矩阵相乘,得到哈达玛积矩阵;其中,所述哈达玛积矩阵中数值为1的矩阵元素的区域为所述重合区域;
计算所述哈达玛积矩阵中数值为1的矩阵元素的数量作为所述重合区域的面积;
以两个矩阵的标注区域所添加的分类标签作为所述重合区域所对应的两个分类标签。
8.根据权利要求3至7任一项所述的处理方法,其特征在于,所反馈的标注分类结果表征了至少部分重合区域在所述病理图像中的位置与范围,以及所述重合区域对应的标签。
9.根据权利要求1至7任一项所述的处理方法,其特征在于,获取病理图像的K组标注分类信息,包括:
在第一权限的第一用户针对于所述病理图像划出标注区域后,得到记载标注区域的标注图像;
获取N个第二权限的第二用户针对于所述标注区域添加的分类标签,并基于标注图像与每个第二用户所添加的分类标签,形成一组标注分类信息,得到所述K组标注分类信息。
10.根据权利要求9所述的处理方法,其特征在于,还包括:
响应于所述第二用户的修改操作,对所述标注区域进行修改,以使得:所述标注分类信息中的标注区域为修改后的标注区域。
11.一种病理图像的处理装置,其特征在于,包括:
获取模块,用于获取病理图像的K组标注分类信息,所述标注分类信息表征了:记载至少一个标注区域的标注图像,以及每个标注区域所添加的分类标签;所述标注区域是针对于所述病理图像而划出的;不同组标注分类信息是不同用户确定的;
评估模块,用于评估所述K组标注分类信息的一致性,得到表征所述一致性的评估信息;
反馈模块,用于若所述评估信息所表征的一致性高于预设标准,则向具有复核权限的用户反馈标注分类结果,其中,所述标注分类结果是根据所述K组标注分类信息确定的。
12.一种电子设备,其特征在于,包括处理器与存储器,
所述存储器,用于存储代码;
所述处理器,用于执行所述存储器中的代码用以实现权利要求1至10任一项所述的方法。
13.一种存储介质,其上存储有计算机程序,该程序被处理器执行时实现权利要求1至10任一项所述的方法。
CN202110850290.9A 2021-07-27 2021-07-27 病理图像的处理方法、装置、电子设备与存储介质 Active CN113764077B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110850290.9A CN113764077B (zh) 2021-07-27 2021-07-27 病理图像的处理方法、装置、电子设备与存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110850290.9A CN113764077B (zh) 2021-07-27 2021-07-27 病理图像的处理方法、装置、电子设备与存储介质

Publications (2)

Publication Number Publication Date
CN113764077A true CN113764077A (zh) 2021-12-07
CN113764077B CN113764077B (zh) 2024-04-19

Family

ID=78787974

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110850290.9A Active CN113764077B (zh) 2021-07-27 2021-07-27 病理图像的处理方法、装置、电子设备与存储介质

Country Status (1)

Country Link
CN (1) CN113764077B (zh)

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190043195A1 (en) * 2016-02-29 2019-02-07 Koninklijke Philips N.V. Device, system and method for verifying image-related information of a medical image
CN110136809A (zh) * 2019-05-22 2019-08-16 腾讯科技(深圳)有限公司 一种医疗图像处理方法、装置、电子医疗设备和存储介质
WO2019215605A1 (en) * 2018-05-07 2019-11-14 Zebra Medical Vision Ltd. Systems and methods for analysis of anatomical images
CN111126243A (zh) * 2019-12-19 2020-05-08 北京科技大学 一种图像数据检测方法、装置以及计算机可读存储介质
CN111986194A (zh) * 2020-09-03 2020-11-24 平安国际智慧城市科技股份有限公司 医学标注图像检测方法、装置、电子设备及存储介质
CN112102926A (zh) * 2020-09-02 2020-12-18 上海得录信息科技中心(有限合伙) 一种图像处理方法、装置、设备和存储介质
CN112418263A (zh) * 2020-10-10 2021-02-26 上海鹰瞳医疗科技有限公司 一种医学图像病灶分割标注方法及系统
CN112884060A (zh) * 2021-03-09 2021-06-01 联仁健康医疗大数据科技股份有限公司 图像标注方法、装置、电子设备及存储介质

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190043195A1 (en) * 2016-02-29 2019-02-07 Koninklijke Philips N.V. Device, system and method for verifying image-related information of a medical image
WO2019215605A1 (en) * 2018-05-07 2019-11-14 Zebra Medical Vision Ltd. Systems and methods for analysis of anatomical images
CN110136809A (zh) * 2019-05-22 2019-08-16 腾讯科技(深圳)有限公司 一种医疗图像处理方法、装置、电子医疗设备和存储介质
CN111126243A (zh) * 2019-12-19 2020-05-08 北京科技大学 一种图像数据检测方法、装置以及计算机可读存储介质
CN112102926A (zh) * 2020-09-02 2020-12-18 上海得录信息科技中心(有限合伙) 一种图像处理方法、装置、设备和存储介质
CN111986194A (zh) * 2020-09-03 2020-11-24 平安国际智慧城市科技股份有限公司 医学标注图像检测方法、装置、电子设备及存储介质
CN112418263A (zh) * 2020-10-10 2021-02-26 上海鹰瞳医疗科技有限公司 一种医学图像病灶分割标注方法及系统
CN112884060A (zh) * 2021-03-09 2021-06-01 联仁健康医疗大数据科技股份有限公司 图像标注方法、装置、电子设备及存储介质

Also Published As

Publication number Publication date
CN113764077B (zh) 2024-04-19

Similar Documents

Publication Publication Date Title
CN109684947B (zh) 标注质量监控方法、装置、计算机设备和存储介质
JP6946081B2 (ja) 情報処理装置、情報処理方法、プログラム
CN101966083B (zh) 异常皮肤面积计算系统及其计算方法
CN109409432B (zh) 一种图像处理方法、装置和存储介质
CN106557576A (zh) 基于人工智能的提示信息推荐方法以及装置
CN107977624A (zh) 一种语义分割方法、装置以及系统
CN115345938B (zh) 基于全局到局部的头影标记点定位方法、设备及介质
CN107633257A (zh) 数据质量评估方法及装置、计算机可读存储介质、终端
CN110069699A (zh) 排序模型训练方法和装置
CN112070079A (zh) 基于特征图重赋权的x光违禁品包裹检测方法及装置
CN109427052A (zh) 基于深度学习处理眼底图像的相关方法及设备
CN108182448B (zh) 一种标注策略的选择方法及相关装置
CN110928615B (zh) 一种订单数据的显示方法、装置、设备和计算机可读介质
US7318052B2 (en) Knowledge transfer evaluation
US6885772B2 (en) Process for cyclic, interactive image analysis, and also computer system and computer program for performing the process
CN115130888A (zh) 一种基于自步学习的众包任务分配方法及系统
CN114091688A (zh) 一种计算资源获取方法、装置、电子设备和存储介质
CN113764077A (zh) 病理图像的处理方法、装置、电子设备与存储介质
CN112102441A (zh) 色卡制作方法、装置、电子设备和存储介质
CN117078208A (zh) 一种智慧环保监管平台的项目管理系统
CN112767315B (zh) 靶区勾画质量的确定方法、展示方法及电子设备
CN112712282A (zh) 一种面向众包市场的基于适应度的任务分配方法
CN111815179A (zh) 一种考试互评方法与系统
EP3801760B1 (en) Dose error determination device
Song et al. Tool Diversity as a Means of Improving Aggregate Crowd Performance on Image Segmentation Tasks

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant