KR102485415B1 - 패치 레벨 중증도 판단 방법, 슬라이드 레벨 중증도 판단 방법 및 이를 수행하는 컴퓨팅 시스템 - Google Patents

패치 레벨 중증도 판단 방법, 슬라이드 레벨 중증도 판단 방법 및 이를 수행하는 컴퓨팅 시스템 Download PDF

Info

Publication number
KR102485415B1
KR102485415B1 KR1020220067465A KR20220067465A KR102485415B1 KR 102485415 B1 KR102485415 B1 KR 102485415B1 KR 1020220067465 A KR1020220067465 A KR 1020220067465A KR 20220067465 A KR20220067465 A KR 20220067465A KR 102485415 B1 KR102485415 B1 KR 102485415B1
Authority
KR
South Korea
Prior art keywords
grade
determined
image
severity
determining
Prior art date
Application number
KR1020220067465A
Other languages
English (en)
Inventor
곽태영
이재헌
장혜윤
김선우
Original Assignee
주식회사 딥바이오
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 딥바이오 filed Critical 주식회사 딥바이오
Priority to KR1020220067465A priority Critical patent/KR102485415B1/ko
Application granted granted Critical
Publication of KR102485415B1 publication Critical patent/KR102485415B1/ko
Priority to PCT/KR2023/007538 priority patent/WO2023234730A1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/20—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/60—Type of objects
    • G06V20/69—Microscopic objects, e.g. biological cells or cellular parts
    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00—ICT specially adapted for the handling or processing of medical images
    • G16H30/40—ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/30—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for calculating health indices; for individual health risk assessment
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00—Indexing scheme relating to image or video recognition or understanding
    • G06V2201/03—Recognition of patterns in medical or anatomical images

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Biomedical Technology (AREA)
  • Theoretical Computer Science (AREA)
  • Public Health (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • Primary Health Care (AREA)
  • Epidemiology (AREA)
  • Data Mining & Analysis (AREA)
  • Computing Systems (AREA)
  • Software Systems (AREA)
  • Multimedia (AREA)
  • Molecular Biology (AREA)
  • Artificial Intelligence (AREA)
  • Pathology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Radiology & Medical Imaging (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Image Analysis (AREA)
  • Investigating Or Analysing Biological Materials (AREA)

Abstract

패치 레벨 중증도 판단 방법, 슬라이드 레벨 중증도 판단 방법 및 이를 수행하는 컴퓨팅 시스템이 개시된다. 본 발명의 일 측면에 따르면, 병리 슬라이드 이미지를 소정의 단위 크기로 분할한 각각의 부분 이미지가 입력되면 입력된 부분 이미지에 대한 판단 결과를 출력하도록 미리 학습된 인공 뉴럴 네트워크인 제1딥러닝 모델을 포함하는 컴퓨팅 시스템에서 수행되는 슬라이드 레벨 중증도 판단 방법으로서, 소정의 판단 대상 병리 슬라이드 이미지를 상기 단위 크기로 분할한 복수의 판단 대상 부분 이미지 각각에 대하여, 상기 판단 대상 부분 이미지를 입력받은 상기 제1딥러닝 모델이 출력한 상기 판단 대상 부분 이미지에 대한 판단 결과에 기초하여 상기 판단 대상 부분 이미지에 대한 유효 등급을 결정하는 단계 및 상기 판단 대상 병리 슬라이드 이미지를 구성하는 상기 복수의 판단 대상 부분 이미지 각각에 대한 유효 등급에 기초하여 상기 판단 대상 병리 슬라이드 이미지 전체에 대한 슬라이드 레벨 중증도 등급을 결정하는 단계를 포함하는 슬라이드 레벨 중증도 판단 방법이 제공된다.

Description

패치 레벨 중증도 판단 방법, 슬라이드 레벨 중증도 판단 방법 및 이를 수행하는 컴퓨팅 시스템{Method for determining severity of disease using pathological image, method for determining slide-level severity of disease, and computing system performing the same}
본 발명은 패치 레벨 중증도 판단 방법, 슬라이드 레벨 중증도 판단 방법 및 이를 수행하는 컴퓨팅 시스템에 관한 것으로서, 보다 상세하게는 병리 이미지를 입력받아 조직학적 중증도 등급 정보를 출력하도록 학습된 딥러닝 모델의 출력을 활용하여 유효 등급을 판단하는 방법, 조직을 포함하는 소정의 부분 이미지를 분석하여 질병의 조직학적 중증도를 판단하도록 학습된 딥러닝 모델의 출력을 활용하여 병리 슬라이드 이미지에 포함된 전체 조직에 대한 슬라이드 레벨 중증도를 판단하는 방법 및 이를 수행하는 컴퓨팅 시스템에 관한 것이다.
암 등 중증 질병의 치료를 위해 조직을 일부 혹은 전체를 절제한 후, 환자의 예후 예측 및 치료 방법 결정을 위해 절제한 조직에 대해 조직병리학적 검사를 시행하며, 질병의 중증도를 진단한다.
질병 별로 조직학적 중증도를 보고하는 합의된 체계가 있으며, 이 체계들은 조직의 형태학적 특징을 토대로 중증도를 등급화하여 보고하게 된다. 예를 들어, 유방암의 경우, Nottingham system이라는 등급 시스템이 있으며, 조직 구조가 얼마나 잘 유지되고 있는지(tubule formation), 세포핵들이 얼마나 균일한지(nuclear pleomorphism), 그리고 유사 분열의 발생 수준이 어느 정도인지(mitotic activity)를 측정하여 각각 1부터 3까지의 등급을 매긴 후 합산하는 방식으로 조직의 중증도를 등급화하게 된다. 난소암의 경우, Nottingham system과 유사한 Silverberg system이라는 등급 시스템이 있으며, 역시 조직 구조와 세포핵, 유사 분열 각각의 범주에 대해 1부터 3까지의 등급을 매긴 후 이를 바탕으로 중증도를 등급화한다. 전립선암의 경우, Gleason grading system이라는 등급 시스템이 있으며, 샘 조직의 형태학적 특징에 따라 1부터 5까지의 등급에 따른 조직 패턴을 구분하였으며, 전체 조직에서의 각 등급 별 영역 비율에 따라 전체 중증도를 등급화한다.
이러한 등급 시스템에 있어서 가장 큰 문제는 시스템의 기준에 따라 병변의 등급을 정확히 결정하는 것이 매우 어렵다는 것이다. 생체 조직의 형태는 질병의 진행 정도에 따라 점진적으로 변하고, 하나의 병변 내에 여러 가지의 등급으로 분류될 수 있는 조직들이 존재할 수 있기 때문에, 어느 하나의 등급으로 결정하기 어려운 경우가 빈번히 발생하게 되는 것이다.
최근 딥러닝 기술의 발전으로 인해 이미지 인식 분야에서는 사람의 인지 능력을 상회하는 정확도를 가진 딥러닝 모델의 개발이 가능하게 되었다. 이에 따라 의료 분야에서도 딥러닝을 활용한 질병의 진단 기술이 개발되고 상용화되고 있다. 생체 조직 슬라이드를 디지털 슬라이드 스캐너를 통해 스캐닝하여 생성된 전체 슬라이드 이미지(whole slide image)는 규모가 매우 크며, 이를 분석하여 질병을 진단하거나 중증도를 진단하는 경우, 대체로 전체 슬라이드 이미지를 소규모 부분 이미지(패치 혹은 타일)로 분할하여 각각을 딥러닝 모델로 분석하고, 그 결과를 취합하여 슬라이드 전체에 대한 진단 결과를 생성하는 방법을 사용하게 된다.
딥러닝 모델로 조직 이미지를 분석하여 조직의 중증도 등급을 인식하는 경우, 상기한 바와 같이 등급 구분의 모호함 때문에 등급 간 경계에 해당하는 조직들에 대한 모델의 인식 결과의 정확도가 높지 않은 문제가 있음. 경계에 있는 조직들에 대한 판단의 모호함을 허용하는 듀얼 클래스 어노테이션 방법(한국등록특허 제10-2162895호; 듀얼 클래스를 지원하는 질병 진단 시스템 및 그 방법) 등의 적용을 통해 등급이 애매한 조직에 대한 딥러닝 모델의 분석 결과가 등급 간 경계에 있도록 할 수는 있으나, 어느 한 등급을 강하게 지지하도록 훈련하는 것은 매우 어렵다.
반면, 이렇게 딥러닝 모델의 분석 결과가 어느 한 등급을 강하게 지지하지 않는 경우, 해당 조직의 조직학적 중증도는 두 등급의 경계에 있는 것으로 판단할 수 있으며, 이러한 경계 정보를 고려하여 슬라이드 전체에 대한 조직학적 중증도를 산정함으로써 기존의 조직학적 중증도 보고 시스템 대비 좀 더 세밀한 중증도 등급화가 가능할 것으로 보인다. Nagpal 등은 전립선암의 조직학적 중증도 판단 기술 개발에 대한 그들의 연구(Nagpal, K., Foote, D., Liu, Y. et al. Development and validation of a deep learning algorithm for improving Gleason scoring of prostate cancer. npj Digit. Med. 2, 48 (2019). https://doi.org/10.1038/s41746-019-0112-2)에서, 등급 판단이 모호한 조직들에 대해 경계에 해당하는 값을 부여하는 방법에 대해 언급한 바 있다. 다만, 이 연구에서는 이러한 방법의 가능성 및 다수 병리학자들의 등급 합의 정도에 따라 경계에 해당하는 값들을 부여하는 예시에 대해서만 언급했을 뿐, 딥러닝 모델을 사용하여 병변에 등급의 경계에 해당하는 값을 부여하는 방법이나 병변마다 세밀하게 부여된 중증도 등급을 통합하여 조직 전체에 대한 중증도를 등급화하는 방법에 대해서는 언급한 바가 없다.
한편, 기존의 질병 별 조직학적 중증도 보고 시스템에서는 주로 다음과 같은 방식으로 전체 조직에 대한 중증도를 결정하도록 하고 있다. 예를 들어, 전립선암에 대한 Gleason grading system의 경우, 영역 넓이 기준 상위 두 개의 중증도 등급의 합으로 전체 중증도를 결정하도록 하고 있는데, 이를 상세히 살펴보면 다음과 같이 전체 영역의 평균 중증도를 표시함을 알 수 있다.
중증도 그룹 Gleason 점수 평균 비고
1 3+3=6 이하 3 이하
2 3+4=7 3~3.5
3 4+3=7 3.5~4
4 3+5=8 3~4 드문 경우
4+4=8 4 근처
5+3=8 4~5 드문 경우
5 4+5=9 4~4.5
5+4=9 4.5~5
5+5=10 5 근처
또한, 유방암의 경우에도 관찰한 영역에 대해 조직 구조와 세포핵, 세포 분열 각각의 범주에 대해 평균적인 등급을 부여하고 이를 합산하여 전체 등급을 부여하므로 전체 영역의 평균 중증도 형태로 전체 조직에 대한 중증도가 결정된다고 볼 수 있다.
그러나 경우에 따라서는 중증도가 높은 등급의 병변이 있는 경우 그 크기와 상관없이 높은 중증도를 부여해야 할 수도 있다. 따라서, 각 부분 이미지 별 조직학적 중증도 정보가 출력되는 경우, 이를 통합하는 방법에 있어서 최댓값을 사용하거나 평균값을 사용하는 등의 방법이 있을 것으로 보인다. 다만, 상기한 전립선암 중증도 그룹의 '드문 경우'에서 보듯이 일반적인 최대/최소/평균만으로 전체에 대한 중증도를 결정하는 것은 부족할 수 있으며, 기계학습(딥러닝) 모델 등을 활용하여 좀 더 정확한 슬라이드 단위의 중증도 판단 방법을 개발할 수 있을 것이다.
본 발명이 이루고자 하는 기술적인 과제는 딥러닝 기술을 통하여 생체 조직 의 전체 슬라이드 이미지에 대한 중증도를 좀 더 세밀하게 구분할 수 있는 슬라이드 레벨 중증도 판단 방법을 제공하는 것이다.
또한 생체 조직 이미지의 유효 등급을 효과적으로 판단할 수 있는 방법을 제공하는 것이다.
본 발명의 일 측면에 따르면, 병리 슬라이드 이미지를 소정의 단위 크기로 분할한 각각의 부분 이미지가 입력되면 입력된 부분 이미지에 대한 판단 결과를 출력하도록 미리 학습된 인공 뉴럴 네트워크인 제1딥러닝 모델을 포함하는 컴퓨팅 시스템에서 수행되는 슬라이드 레벨 중증도 판단 방법으로서, 소정의 판단 대상 병리 슬라이드 이미지를 상기 단위 크기로 분할한 복수의 판단 대상 부분 이미지 각각에 대하여, 상기 판단 대상 부분 이미지를 입력받은 상기 제1딥러닝 모델이 출력한 상기 판단 대상 부분 이미지에 대한 판단 결과에 기초하여 상기 판단 대상 부분 이미지에 대한 유효 등급을 결정하는 단계; 및 상기 판단 대상 병리 슬라이드 이미지를 구성하는 상기 복수의 판단 대상 부분 이미지 각각에 대한 유효 등급에 기초하여 상기 판단 대상 병리 슬라이드 이미지 전체에 대한 슬라이드 레벨 중증도 등급을 결정하는 단계를 포함하되, 상기 제1딥러닝 모델이 출력하는 상기 부분 이미지에 대한 판단 결과는 소정의 질병에 대한 소정의 조직학적 중증도 등급 체계 상의 각 등급 별 가능성(likelihood) 수치이며, 상기 중증도 등급 체계 상의 각 등급에는 소정의 등급점수가 미리 부여되어 있으며, 상기 판단 대상 부분 이미지를 입력받은 상기 제1딥러닝 모델이 출력한 상기 판단 대상 부분 이미지에 대한 판단 결과에 기초하여 상기 판단 대상 부분 이미지에 대한 유효 등급을 결정하는 단계는, 상기 판단 대상 부분 이미지의 상기 중증도 등급 체계 상의 각 등급의 가능성 수치 및 상기 중증도 등급 체계 상의 각 등급 별 등급점수에 기초하여 상기 판단 대상 부분 이미지에 대한 유효 등급을 결정하는 단계를 포함하는 슬라이드 레벨 중증도 판단 방법이 제공된다.
일 실시예에서, 상기 판단 대상 부분 이미지를 입력받은 상기 제1딥러닝 모델이 출력한 상기 중증도 등급 체계 상의 각 등급의 가능성 수치 및 상기 중증도 등급 체계 상의 각 등급 별 등급점수에 기초하여 상기 판단 대상 부분 이미지에 대한 유효 등급을 결정하는 단계는, 상기 중증도 등급 체계 상의 각 등급의 가능성 수치를 가중치로 하는 상기 중증도 등급 체계 상의 각 등급 별 등급점수의 가중 평균을 산출하여 상기 판단 대상 병리 이미지에 대한 유효 등급을 결정하는 단계; 상기 중증도 등급 체계 상의 각 등급 중 가능성 수치가 높은 복수의 상위 등급 각각의 가능성 수치를 가중치로 하는 상기 복수의 상위 등급 별 등급점수의 가중 평균을 산출하여 상기 판단 대상 병리 이미지에 대한 유효 등급을 결정하는 단계; 또는 상기 중증도 등급 체계 상의 각 등급 중 가능성 수치가 가장 높은 최상위 등급의 등급 점수를 상기 판단 대상 병리 이미지에 대한 유효 등급으로 결정하는 단계를 포함하는 슬라이드 레벨 중증도 판단 방법을 포함할 수 있다.
본 발명의 다른 일 측면에 따르면, 병리 슬라이드 이미지를 소정의 단위 크기로 분할한 각각의 부분 이미지가 입력되면 입력된 부분 이미지에 대한 판단 결과를 출력하도록 미리 학습된 인공 뉴럴 네트워크인 제1딥러닝 모델을 포함하는 컴퓨팅 시스템에서 수행되는 슬라이드 레벨 중증도 판단 방법으로서, 소정의 판단 대상 병리 슬라이드 이미지를 상기 단위 크기로 분할한 복수의 판단 대상 부분 이미지 각각에 대하여, 상기 판단 대상 부분 이미지를 입력받은 상기 제1딥러닝 모델이 출력한 상기 판단 대상 부분 이미지에 대한 판단 결과에 기초하여 상기 판단 대상 부분 이미지에 대한 유효 등급을 결정하는 단계; 및 상기 판단 대상 병리 슬라이드 이미지를 구성하는 상기 복수의 판단 대상 부분 이미지 각각에 대한 유효 등급에 기초하여 상기 판단 대상 병리 슬라이드 이미지 전체에 대한 슬라이드 레벨 중증도 등급을 결정하는 단계를 포함하되, 상기 제1딥러닝 모델이 출력하는 상기 부분 이미지에 대한 판단 결과는 상기 부분 이미지를 구성하는 각 픽셀 별 판단 결과를 포함하고, 상기 각 픽셀 별 판단 결과는 소정의 질병에 대한 소정의 조직학적 중증도 등급 체계 상의 각 등급 별 가능성(likelihood) 수치이며, 상기 중증도 등급 체계 상의 각 등급에는 소정의 등급점수가 미리 부여되어 있으며, 상기 판단 대상 부분 이미지를 입력받은 상기 제1딥러닝 모델이 출력한 상기 판단 대상 부분 이미지에 대한 판단 결과에 기초하여 상기 판단 대상 부분 이미지에 대한 유효 등급을 결정하는 단계는, 상기 판단 대상 부분 이미지를 구성하는 각각의 판단 대상 픽셀에 대하여, 상기 판단 대상 픽셀의 상기 중증도 등급 체계 상의 각 등급의 가능성 수치 및 상기 중증도 등급 체계 상의 각 등급 별 등급점수에 기초하여 상기 판단 대상 픽셀에 대한 유효 등급을 결정하는 단계; 및 상기 판단 대상 부분 이미지를 구성하는 각 판단 대상 픽셀의 유효 등급에 기초하여 상기 판단 대상 부분 이미지에 대한 유효 등급을 결정하는 단계를 포함하는 슬라이드 레벨 중증도 판단 방법이 제공된다.
일 실시예에서, 상기 제1딥러닝 모델이 출력한 상기 판단 대상 픽셀의 상기 중증도 등급 체계 상의 각 등급의 가능성 수치 및 상기 중증도 등급 체계 상의 각 등급 별 등급점수에 기초하여 상기 판단 대상 픽셀에 대한 유효 등급을 결정하는 단계는, 상기 판단 대상 픽셀의 상기 중증도 등급 체계 상의 각 등급의 가능성 수치를 가중치로 하는 상기 중증도 등급 체계 상의 각 등급 별 등급점수의 가중 평균을 산출하여 상기 판단 대상 픽셀의 유효 등급을 결정하는 단계; 상기 판단 대상 픽셀의 상기 중증도 등급 체계 상의 각 등급 중 가능성 수치가 높은 복수의 상위 등급 각각의 가능성 수치를 가중치로 하는 상기 복수의 상위 등급 별 등급점수의 가중 평균을 산출하여 상기 판단 대상 픽셀의 유효 등급을 결정하는 단계; 또는 상기 판단 대상 픽셀의 상기 중증도 등급 체계 상의 각 등급 중 가능성 수치가 가장 높은 최상위 등급의 등급 점수를 상기 판단 대상 픽셀의 유효 등급으로 결정하는 단계를 포함할 수 있다.
일 실시예에서, 상기 판단 대상 부분 이미지를 구성하는 각 판단 대상 픽셀의 유효 등급에 기초하여 상기 판단 대상 부분 이미지에 대한 유효 등급을 결정하는 단계는, 상기 판단 대상 부분 이미지를 구성하는 각 판단 대상 픽셀의 유효 등급의 대푯값을 산출하여 상기 판단 대상 부분 이미지에 대한 유효 등급을 결정하는 단계를 포함할 수 있다.
일 실시예에서, 상기 판단 대상 부분 이미지를 구성하는 각 판단 대상 픽셀의 유효 등급의 대표 값을 산출하여 상기 판단 대상 부분 이미지에 대한 유효 등급을 결정하는 단계는, 상기 판단 대상 부분 이미지를 구성하는 각 판단 대상 픽셀의 유효 등급의 최댓값, 최솟값, 평균값, 중앙값, IQR(InterQuartile Range) 내에서의 평균값 중 어느 하나를 대푯값으로 산출하는 단계를 포함할 수 있다.
일 실시예에서, 상기 판단 대상 병리 슬라이드 이미지를 구성하는 상기 복수의 판단 대상 부분 이미지 각각에 대한 유효 등급에 기초하여 상기 판단 대상 병리 슬라이드 이미지 전체에 대한 슬라이드 레벨 중증도 등급을 결정하는 단계는, 상기 판단 대상 병리 슬라이드 이미지를 구성하는 각 판단 대상 부분 이미지의 유효 등급의 대푯값을 산출하여 상기 판단 대상 병리 슬라이드 이미지 전체에 대한 슬라이드 레벨 중증도 등급을 결정하는 단계를 포함할 수 있다.
일 실시예에서, 상기 판단 대상 병리 슬라이드 이미지를 구성하는 각 판단 대상 부분 이미지의 유효 등급의 대푯값을 산출하여 상기 판단 대상 병리 슬라이드 이미지 전체에 대한 슬라이드 레벨 중증도 등급을 결정하는 단계는, 상기 판단 대상 병리 슬라이드 이미지를 구성하는 각 판단 대상 부분 이미지의 유효 등급의 최댓값, 최소값, 평균값, 중앙값, IQR(InterQuartile Range) 내에서의 평균값 중 어느 하나를 대푯값으로 산출하는 단계를 포함할 수 있다.
일 실시예에서, 상기 컴퓨팅 시스템은, 병리 슬라이드 이미지를 상기 단위 크기로 분할한 복수의 부분 이미지 각각에 대한 유효 등급을 포함하는 데이터 집합이 입력되면 상기 병리 슬라이드 이미지에 대한 중증도 등급을 판단하기 위한 출력 값을 출력하도록 미리 학습된 인공 뉴럴 네트워크인 제2딥러닝 모델을 더 포함하고, 상기 판단 대상 병리 슬라이드 이미지를 구성하는 상기 복수의 판단 대상 부분 이미지 각각에 대한 유효 등급에 기초하여 상기 판단 대상 병리 슬라이드 이미지에 대한 중증도 등급을 결정하는 단계는, 상기 판단 대상 병리 슬라이드 이미지를 구성하는 상기 복수의 판단 대상 부분 이미지 각각에 대한 유효 등급을 포함하는 데이터 집합을 입력받은 상기 제2딥러닝 모델이 출력한 출력 값에 기초하여 상기 판단 대상 병리 슬라이드 이미지에 대한 중증도 등급을 결정하는 단계를 포함할 수 있다.
일 실시예에서, 상기 제2딥러닝 모델은, 제2딥러닝 모델 학습 방법에 의해 미리 학습된 인공 뉴럴 네트워크이며, 상기 제2딥러닝 모델 학습 방법은, 복수의 학습용 병리 슬라이드 이미지를 획득하는 단계; 상기 복수의 학습용 병리 슬라이드를 각각에 대하여, 상기 학습용 병리 슬라이드 이미지에 상응하는 데이터 집합을 생성하는 단계; 및 상기 복수의 학습용 병리 슬라이드 이미지에 상응하는 데이터 집합 각각을 상기 제2딥러닝 모델에 입력하여 상기 제2딥러닝 모델을 학습하는 단계를 포함하되, 상기 학습용 병리 슬라이드 이미지에 상응하는 데이터 집합을 생성하는 단계는, 상기 학습용 병리 슬라이드 이미지를 상기 단위 크기로 분할한 복수의 데이터 집합 생성용 부분 이미지 각각에 대하여, 상기 데이터 집합 생성용 부분 이미지를 입력받은 상기 제1딥러닝 모델이 출력한 판단 결과에 기초하여 상기 데이터 집합 생성용 부분 이미지에 대한 유효 등급을 결정하는 단계; 및 상기 복수의 데이터 집합 생성용 부분 이미지 각각에 대한 유효 등급을 포함하는 데이터 집합을 생성하는 단계를 포함할 수 있다.
본 발명의 다른 일 측면에 따르면, 병리 슬라이드 이미지를 소정의 단위 크기로 분할한 부분 이미지가 입력되면 입력된 부분 이미지에 대한 판단 결과를 출력하도록 미리 학습된 인공 뉴럴 네트워크인 제1딥러닝 모델을 포함하는 컴퓨팅 시스템에서 수행되는 패치 레벨 중증도 판단 방법으로서, 소정의 판단 대상 부분 이미지를 상기 제1딥러닝 모델에 입력하고, 상기 제1딥러닝 모델이 출력한 상기 판단 대상 부분 이미지에 대한 판단 결과를 획득하는 단계-상기 판단 대상 부분 이미지에 대한 판단 결과는 소정의 질병에 대한 소정의 중증도 등급 체계 상의 각 등급 별 가능성(likelihood) 수치이며, 상기 중증도 등급 체계 상의 각 등급에는 소정의 등급점수가 미리 부여되어 있음; 및 상기 판단 대상 부분 이미지를 입력받은 상기 제1딥러닝 모델이 출력한 상기 중증도 등급 체계 상의 각 등급의 가능성 수치 및 상기 중증도 등급 체계 상의 각 등급 별 등급점수에 기초하여 상기 판단 대상 부분 이미지에 대한 유효 등급을 결정하는 단계를 포함하는 패치 레벨 중증도 판단 방법이 제공된다.
본 발명의 다른 일 측면에 따르면, 병리 슬라이드 이미지를 소정의 단위 크기로 분할한 부분 이미지가 입력되면 입력된 부분 이미지에 대한 판단 결과를 출력하도록 미리 학습된 인공 뉴럴 네트워크인 제1딥러닝 모델을 포함하는 컴퓨팅 시스템에서 수행되는 패치 레벨 중증도 판단 방법으로서, 소정의 판단 대상 부분 이미지를 상기 제1딥러닝 모델에 입력하고, 상기 제1딥러닝 모델이 출력한 상기 판단 대상 부분 이미지에 대한 판단 결과를 획득하는 단계-상기 제1딥러닝 모델이 출력하는 상기 판단 대상 부분 이미지에 대한 판단 결과는 상기 판단 대상 부분 이미지를 구성하는 각 픽셀 별 판단 결과를 포함하고, 상기 각 픽셀 별 판단 결과는 소정의 질병에 대한 소정의 조직학적 중증도 등급 체계 상의 각 등급 별 가능성(likelihood) 수치이며, 상기 중증도 등급 체계 상의 각 등급에는 소정의 등급점수가 미리 부여되어 있음; 상기 판단 대상 부분 이미지를 구성하는 각각의 판단 대상 픽셀에 대하여, 상기 판단 대상 픽셀의 상기 중증도 등급 체계 상의 각 등급의 가능성 수치 및 상기 중증도 등급 체계 상의 각 등급 별 등급점수에 기초하여 상기 판단 대상 픽셀에 대한 유효 등급을 결정하는 단계; 및 상기 판단 대상 부분 이미지를 구성하는 각 판단 대상 픽셀의 유효 등급에 기초하여 상기 판단 대상 병리 이미지에 대한 유효 등급을 결정하는 단계를 포함하는 패치 레벨 중증도 판단 방법이 제공된다.
본 발명의 다른 일 측면에 따르면, 데이터 처리장치에 설치되며 상술한 방법을 수행하기 위한 매체에 기록된 컴퓨터 프로그램이 제공된다.
본 발명의 다른 일 측면에 따르면, 상술한 방법을 수행하기 위한 컴퓨터 프로그램이 기록된 컴퓨터 판독가능한 기록매체가 제공된다.
본 발명의 다른 일 측면에 따르면, 컴퓨팅 시스템으로서, 프로세서 및 메모리를 포함하되, 상기 메모리는, 컴퓨터 프로그램 및 병리 슬라이드 이미지를 소정의 단위 크기로 분할한 각각의 부분 이미지가 입력되면 입력된 부분 이미지에 대한 판단 결과를 출력하도록 미리 학습된 인공 뉴럴 네트워크인 제1딥러닝 모델을 저장하고, 상기 컴퓨터 프로그램은, 상기 프로세서에 의해 수행될 경우, 상기 컴퓨팅 시스템이 상술한 방법을 수행하도록 제어하는 컴퓨팅 시스템이 제공된다.
일 실시예에서, 상기 메모리는, 병리 슬라이드 이미지를 상기 단위 크기로 분할한 복수의 부분 이미지 각각에 대한 유효 등급을 포함하는 데이터 집합이 입력되면 상기 병리 슬라이드 이미지에 대한 중증도 등급을 판단하기 위한 출력 값을 출력하도록 미리 학습된 인공 뉴럴 네트워크인 제2딥러닝 모델을 더 저장할 수 있다.
본 발명의 기술적 사상에 의하면, 전체 슬라이드 이미지를 소정의 단위 크기로 분할한 일부인 부분 이미지(예를 들어, 패치 혹은 타일)를 분석하여 소정의 질병의 조직학적 중증도를 판단하도록 학습된 딥러닝 모델의 출력을 활용하여 전체 조직(달리 말하면 전체 슬라이드 이미지)에 대한 중증도를 좀 더 세밀하게 구분할 수 있는 슬라이드 레벨 중증도 판단 방법을 제공할 수 있다.
또한 생체 조직 이미지에 대한 조직학적 중증도 등급 정보를 출력하도록 학습된 딥러닝 모델의 출력을 활용하여 부분 이미지 자체의 유효 등급을 효과적으로 판단할 수 있는 방법을 제공할 수 있다.
본 발명의 상세한 설명에서 인용되는 도면을 보다 충분히 이해하기 위하여 각 도면의 간단한 설명이 제공된다.
도 1은 본 발명의 일 실시예에 따른 컴퓨팅 시스템의 구성의 일 예를 개략적으로 도시한 도면이다.
도 2는 본 발명의 일 실시예에 따른 제1딥러닝 모델을 설명하기 위한 도면이다.
도 3은 본 발명의 일 실시예에 따른 컴퓨팅 시스템이 수행하는 패치 레벨 중증도 판단 방법의 일 예를 도시한 흐름도이다.
도 4는 본 발명의 일 실시예에 따른 컴퓨팅 시스템이 제1딥러닝 모델을 학습하는 과정을 도시한 흐름도이다.
도 5a 및 도 5b는 본 발명의 다른 일 실시예에 따른 제1딥러닝 모델을 설명하기 위한 도면이다.
도 6은 본 발명의 다른 일 실시예에 따른 컴퓨팅 시스템이 수행하는 패치 레벨 중증도 판단 방법의 일 예를 도시한 흐름도이다.
도 7은 본 발명의 일 실시예에 따른 컴퓨팅 시스템이 수행하는 슬라이드 레벨 중증도 판단 방법의 일 예를 도시한 흐름도이다.
도 8은 본 발명의 일 실시예에 따른 슬라이드 레벨 중증도 판단 방법이 적용된 구체적인 예를 도시한 도면이다.
도 9는 본 발명의 일 실시예에 따른 컴퓨팅 시스템이 제2딥러닝 모델을 학습하는 과정을 도시한 도면이다.
본 발명은 다양한 변환을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세한 설명에 상세하게 설명하고자 한다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변환, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 본 발명을 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 발명의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다.
제1, 제2 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.
본 출원에서 사용한 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다.
본 명세서에 있어서, "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
또한, 본 명세서에 있어서는 어느 하나의 구성요소가 다른 구성요소로 데이터를 '전송'하는 경우에는 상기 구성요소는 상기 다른 구성요소로 직접 상기 데이터를 전송할 수도 있고, 적어도 하나의 또 다른 구성요소를 통하여 상기 데이터를 상기 다른 구성요소로 전송할 수도 있는 것을 의미한다. 반대로 어느 하나의 구성요소가 다른 구성요소로 데이터를 '직접 전송'하는 경우에는 상기 구성요소에서 다른 구성요소를 통하지 않고 상기 다른 구성요소로 상기 데이터가 전송되는 것을 의미한다.
이하, 첨부된 도면들을 참조하여 본 발명의 실시예들을 중심으로 본 발명을 상세히 설명한다. 각 도면에 제시된 동일한 참조부호는 동일한 부재를 나타낸다.
본 발명의 기술적 사상에 따른 패치 레벨 중증도 판단 방법 및 슬라이드 레벨 중증도 판단 방법은 컴퓨팅 시스템에 의해 수행될 수 있다. 상기 컴퓨팅 시스템은 연산능력을 가진 데이터 처리장치일 수 있으며, 일반적으로 네트워크를 통해 클라이언트가 접속 가능한 데이터 처리 장치인 서버뿐만 아니라 개인용 컴퓨터나 휴대 단말 등과 같은 컴퓨팅 장치를 포함할 수 있다.
도 1은 본 발명의 일 실시예에 따른 컴퓨팅 시스템의 구성의 일 예를 개략적으로 도시한 도면이다. 상기 컴퓨팅 시스템(100)는 물리적으로는 도 1에 도시된 바와 같은 구성을 가질 수 있다. 상기 컴퓨팅 시스템(100)은 본 발명의 기술적 사상을 구현하기 위한 컴퓨터 프로그램(123), 제1딥러닝 모델(121)이 저장된 메모리(120), 및 상기 메모리(120)에 저장된 컴퓨터 프로그램(123)을 실행하기 위한 프로세서(110)가 구비될 수 있다. 실시예에 따라서 상기 메모리(120)는 제2딥러닝 모델(122)을 더 저장할 수 있다.
상기 프로세서(110)는 상기 컴퓨팅 시스템(100)의 구현 예에 따라, CPU, APU, 마이크로 프로세서, ASIC 등 다양한 명칭으로 명명될 수 있음을 본 발명의 기술분야의 평균적 전문가는 용이하게 추론할 수 있을 것이다. 또한, 상기 컴퓨팅 시스템(100)은 복수의 물리적 장치들이 유기적으로 결합되어 구현될 수도 있으며, 이러한 경우 상기 프로세서(160)는 물리적 장치 별로 적어도 한 개 구비되어 본 발명의 컴퓨팅 시스템(100)을 구현할 수 있음을 본 발명의 기술분야의 평균적 전문가는 용이하게 추론할 수 있을 것이다. 상기 프로세서(160)는 제1딥러닝 모델(121) 및/또는 제2딥러닝 모델(122)을 학습하는데 이용되는 GPU를 더 포함할 수 있다.
상기 메모리(120)는 상기 프로그램(123)이 저장되며, 상기 프로그램(123)을 구동시키기 위해 상기 프로세서(110)가 접근할 수 있는 어떠한 형태의 저장장치로 구현되어도 무방하다. 또한 하드웨어적 구현 예에 따라 상기 메모리(120)는 어느 하나의 저장장치가 아니라 복수의 저장장치로 구현될 수도 있다. 또한 상기 메모리(120)는 주기억장치뿐만 아니라, 임시기억장치를 포함할 수도 있다. 또한 휘발성 메모리 또는 비휘발성 메모리로 구현될 수도 있다 상기 메모리(120)는 예를 들어, 플래시 메모리, ROM, RAM, EEROM, EPROM, EEPROM, 하드 디스크, 레지스터를 포함할 수 있다. 또는 상기 메모리(120)는 상기 프로그램(123)이 저장되고 상기 프로세서(110)에 의해 구동될 수 있도록 구현되는 모든 형태의 정보저장 수단을 포함하는 의미로 정의될 수 있다.
상기 컴퓨팅 시스템(100)은, 실시 예에 따라, 다양한 주변장치들(주변장치 1 내지 주변장치 M, 130-1 내지 130-M)이 더 구비될 수 있다. 예를 들어, 키보드, 디스플레이 장치, 그래픽 카드, 네트워킹 장치, 스토리지 장치 등이 주변장치로서 상기 컴퓨팅 시스템(100)에 더 포함될 수 있음을 본 발명의 기술분야의 평균적 전문가는 용이하게 추론할 수 있을 것이다.
상기 컴퓨팅 시스템(100)은 어느 하나의 물리적 장치로 구현될 수도 있으나, 필요에 따라 복수의 물리적 장치가 유기적으로 결합되어 본 발명의 기술적 사상에 따른 컴퓨팅 시스템(100)을 구현할 수 있음을 본 발명의 기술분야의 평균적 전문가는 용이하게 추론할 수 있을 것이다.
이하, 본 명세서에서 소정의 모듈이 어떤 기능을 수행한다고 함은 상기 프로세서(110)가 상기 메모리(120)에 구비된 프로그램(123)을 구동하여 상기 기능을 수행하는 것을 의미함을 본 발명의 기술분야의 평균적 전문가는 용이하게 추론할 수 있을 것이다.
본 명세서에서 딥러닝 모델은 다층 퍼셉트론 모델을 포함하며, 인공 뉴럴 네트워크를 정의하는 일련의 설계사항들을 표현하는 정보의 집합을 의미할 수 있다.
일 실시예에서, 딥러닝 모델은 컨볼루션 뉴럴 네트워크일 수 있다. 컨볼루션 뉴럴 네트워크는 잘 알려진 바와 같이, 입력 레이어, 복수의 히든 레이어들, 및 출력 레이어를 포함할 수 있다. 복수의 히든 레이어들 각각은 컨볼루션 레이어 및 풀링 레이어(또는 서브 샘플링 레이어)를 포함할 수 있다. 컨볼루션 뉴럴 네트워크는 이러한 각각의 레이어들을 정의하기 위한 함수, 필터, 스트라이드(stride), 웨이트 팩터 등에 의해 정의될 수 있다. 또한, 출력 레이어는 풀리 커넥티드(fully connected)된 전방향 레이어(FeedForward layer)로 정의될 수 있다.
컨볼루션 뉴럴 네트워크를 구성하는 각각의 레이어별 설계 사항은 널리 알려져 있다. 예를 들어, 복수의 레이어들에 포함될 레이어의 개수, 상기 복수의 레이어들을 정의하기 위한 컨볼루션 함수, 풀링 함수, 활성화 함수 각각에 대해서는 공지된 함수들이 이용될 수도 있고, 본 발명의 기술적 사상을 구현하기 위해 별도로 정의된 함수들이 이용될 수도 있다.
컨볼루션 함수의 일 예로는 이산 컨볼루션 합 등이 있다. 풀링 함수의 일 예로는 맥스 풀링(max pooling), 에버리지 풀링(average pooling) 등이 이용될 수 있다. 활성화 함수의 일 예로는 시그모이드 (sigmoid), 탄젠트 하이퍼볼릭 (tanh), ReLU (rectified linear unit)등일 수 있다. 이러한 컨볼루션 뉴럴 네트워크의 설계 사항이 정의되면 설계사항이 정의된 컨볼루션 뉴럴 네트워크가 저장장치에 저장될 수 있다. 그리고 상기 컨볼루션 뉴럴 네트워크가 학습되면, 각각의 레이어들에 해당하는 웨이트 팩터가 특정될 수 있다. 즉, 컨볼루션 뉴럴 네트워크의 학습은 각각의 레이어들의 웨이트 팩터들이 결정되는 프로세스를 의미할 수 있다. 그리고 컨볼루션 뉴럴 네트워크가 학습되면, 학습된 컨볼루션 뉴럴 네트워크는 입력 레이어를 통해 입력 데이터를 입력받고 미리 정의된 출력 레이어를 통해 출력 데이터를 출력할 수 있다.
본 발명의 실시 예에 따른 뉴럴 네트워크는 상기와 같이 널리 알려진 설계 사항들 중 어느 하나 또는 복수 개를 선택하여 정의될 수도 있고, 독자적인 설계 사항이 상기 뉴럴 네트워크를 위해 정의될 수도 있다.
상기 뉴럴 네트워크는 입력된 데이터의 분류(classification)에 이용될 수 있는 클래시피케이션 뉴럴 네트워크일 수 있다. 클래시피케이션 뉴럴 네트워크는 입력된 데이터에 대한 판단 결과를 미리 정의된 복수의 결과 중 어느 하나로 분류하기 위한 뉴럴 네트워크일 수 있다.
실시예에 따라, 상기 뉴럴 네트워크는 세그멘테이션 뉴럴 네트워크일 수도 있다. 세그멘테이션 뉴럴 네트워크는 입력된 이미지 중에서 특정한 조건을 만족하는 영역(예를 들어, 질병의 발병 영역)을 특정하기 위한 뉴럴 네트워크로서, 픽셀 단위로 클래시피케이션을 수행하는 픽셀 레벨의 클래시피케이션 뉴럴 네트워크라고 불릴 수도 있다.
한편 상기 제1딥러닝 모델(121)은 병리 슬라이드 이미지를 소정의 단위 크기로 분할한 부분 이미지가 입력되면 입력된 부분 이미지에 대한 판단 결과를 출력하도록 미리 학습된 인공 뉴럴 네트워크일 수 있다. 병리 슬라이드 이미지는 병리 검체의 슬라이드를 디지털 스캐너로 스캐닝한 전체 슬라이드 이미지일 수 있다.
병리 검체의 디지털 슬라이드 이미지는 병리 검체를 슬라이스하여 유리 슬라이드를 제작한 후 이를 소정의 염색제로 염색하고 디지털화함으로써 생성될 수 있다. 병리 검체는 인체의 각종 장기에서 채취한 생검 및 수술로 절제된 생체 조직일 수 있다.
상기 제1딥러닝 모델(121)에 입력되는 부분 이미지는 병리 슬라이드 이미지를 소정의 단위 크기로 분할한 일부로서, 패치 혹은 타일이라고 불릴 수 있다.
일 실시예에서, 상기 제1딥러닝 모델(121)은 패치 레벨 클래시피케이션 뉴럴 네트워크일 수 있다. 이 경우 상기 제1딥러닝 모델(121)은 부분 이미지가 입력되면 입력된 병리 이미지에 대한 판단 결과를 출력하도록 미리 학습된 인공 뉴럴 네트워크일 수 있으며, 상기 제1딥러닝 모델이 출력하는 상기 병리 이미지에 대한 판단 결과는 소정의 질병에 대한 소정의 조직학적 중증도 등급 체계 상의 각 등급 별 가능성(likelihood) 수치이며, 상기 중증도 등급 체계 상의 각 등급에는 소정의 등급점수가 미리 부여되어 있을 수 있다. 예를 들어, 상기 중증도 등급 체계는 Nottingham system, Silverberg system, Gleason grading system 등일 수 있다.
도 2는 본 발명의 일 실시예에 따른 제1딥러닝 모델(121)을 설명하기 위한 도면이다.
도 2를 참조하면, 상기 제`1딥러닝 모델(121)은 부분 이미지(1)를 입력 레이어를 통해 입력받을 수 있으며, 입력받은 부분 이미지(1)에 대한 판단 결과(2)를 출력 레이어를 통해 출력할 수 있다. 판단 결과(2)는, 예를 들어, 글리슨 등급 체계에 따른 전립선 암의 중증도 등급의 각 등급 별 가능성 수치일 수 있다. 이때, 각 등급 별 가능성 수치의 합은 1일 수 있다.
한편, 글리슨 등급 체계 상의 각 등급 별로 등급 점수(3)가 미리 부여되어 있을 수 있다.
도 3은 상기 컴퓨팅 시스템(100)이 수행하는 패치 레벨 중증도 판단 방법의 일 예를 도시한 흐름도이다. 상기 컴퓨팅 시스템(100)은 도 2에 도시된 바와 같은, 상기 제1딥러닝 모델(121)을 이용하여 부분 이미지에 대한 중증도(정확하게는 소정의 질병에 대한 소정의 조직학적 중증도 등급 체계 상의 유효 등급), 달리 말하면 패치 레벨 중증도를 판단할 수 있다.
도 3을 참조하면, 상기 컴퓨팅 시스템(100)은 소정의 판단 대상 부분 이미지를 상기 제1딥러닝 모델(121)에 입력하고, 상기 제1딥러닝 모델(121)이 출력한 상기 판단 대상 부분 이미지에 대한 판단 결과를 획득할 수 있다(S100). 이때, 상기 판단 대상 부분 이미지에 대한 판단 결과는, 앞서 설명한 바와 같이, 소정의 질병에 대한 소정의 중증도 등급 체계 상의 각 등급 별 가능성 수치이며, 상기 중증도 등급 체계 상의 각 등급에는 소정의 등급점수가 미리 부여되어 있을 수 있다.
이후 상기 컴퓨팅 시스템(100)은 상기 판단 대상 부분 이미지에 대한 판단 결과에 기초하여 상기 판단 대상 부분 이미지에 대한 유효 등급을 결정할 수 있다(S110).
일 실시예에서, 상기 컴퓨팅 시스템(100)은 상기 중증도 등급 체계 상의 각 등급의 가능성 수치를 가중치로 하는 상기 중증도 등급 체계 상의 각 등급 별 등급점수의 가중 평균을 산출하여 상기 판단 대상 부분 이미지에 대한 유효 등급을 결정할 수 있다. 도 2의 케이스를 예로 들어 설명하면, 상기 컴퓨팅 시스템(100)은 도 2의 부분 이미지(1)를 상기 제1딥러닝 모델(121)에 입력하여 각 글리슨 등급 별 가능성 수치(2)를 획득할 수 있으며, 글리슨 등급 체계 상의 각 등급의 가능성 수치를 가중치로 하는 상기 글리슨 등급 체계 상의 각 등급 별 등급점수의 가중 평균을 산출할 수 있다. 이때, 정상(benign)은 가중 평균을 계산할 때 제외될 수 있으며, 도 2의 케이스에서 산출되는 유효등급은 다음과 같다(소수점 4째자리에서 반올림).
(3×0.1 + 4×0.5 + 5×0.3) / (0.1+0.5+0.3) = 3.8/0.9 = 4.222
다른 일 실시예에서, 상기 컴퓨팅 시스템(100)은 상기 중증도 등급 체계 상의 각 등급 중 가능성 수치가 높은 복수의 상위 등급 각각의 가능성 수치를 가중치로 하는 상기 복수의 상위 등급 별 등급점수의 가중 평균을 산출하여 상기 판단 대상 부분 이미지에 대한 유효 등급을 결정할 수 있다. 상기 컴퓨팅 시스템(100)이 가능성 상위 2개의 등급에 대한 가능성 수치를 가중치로 하는 해당 등급의 가중 평균 유효 등급으로 산출한다고 가정하면, 상기 컴퓨팅 시스템(100)은 도 2의 케이스에서 유효 등급을 다음과 같이 산출할 수 있다.
(4×0.5 + 5×0.3) / (0.5+0.3) = 3.5 / 0.8 = 4.375
다른 일 실시예에서, 상기 컴퓨팅 시스템(100)은 상기 중증도 등급 체계 상의 각 등급 중 가능성 수치가 가장 높은 최상위 등급의 등급 점수를 상기 판단 대상 부분 이미지에 대한 유효 등급으로 결정할 수 있으며, 도 2의 케이스에서 상기 컴퓨팅 시스템(100)은 가능성이 0.5로 가장 큰 등급(G4)의 등급 점수 4를 유효 등급으로 결정할 수 있다.
한편, 상기 제1딥러닝 모델(121)은 미리 학습된 인공 뉴럴 네트워크이며, 도 4는 상기 제1딥러닝 모델(121)을 학습하는 과정을 도시한 흐름도이다.
도 4를 참조하면, 상기 컴퓨팅 시스템(100)은 복수의 학습용 부분 이미지를 획득할 수 있으며(S200), 이때, 상기 복수의 학습용 부분 이미지 각각에는, 상기 조직학적 중증도 등급 체계 상의 각 등급 중 어느 하나가 태깅되어 있을 수 있다. 상기 복수의 학습용 부분 이미지는 하나 이상의 학습용 전체 슬라이드 이미지를 단위 크기로 분할함으로써 생성할 수 있다.
상기 컴퓨팅 시스템(100)은 상기 복수의 학습용 부분 이미지 각각을 상기 제1딥러닝 모델(121)에 입력하여 상기 제1딥러닝 모델(121)을 학습할 수 있다.
정답 레이블이 태깅된 학습 데이터에 기반한 딥러닝 과정을 개략적으로 설명하면, 학습 데이터를 입력받은 딥러닝 모델이 결과를 출력하면, 출력된 결과와 정답 레이블간의 오차가 역전파 과정을 통해 딥러닝 모델이 반영되며, 역전파 과정에서 경사하강법 등의 기법이 적용될 수 있는데, 이러한 딥러닝 과정을 통해 학습 데이터로부터 모델이 학습되는 구체적인 과정은 매우 널리 알려져 있으므로 더 이상의 자세한 설명은 생략하기로 한다.
앞서 도 2 내지 도 4를 참조하여 설명한 본 발명의 실시예는 상기 제1딥러닝 모델(121)이 클래시피케이션 뉴럴 네트워크인 경우, 즉 상기 제1딥러닝 모델(121)이 입력된 이미지가 어느 클래스(등급)에 해당하는지를 판단하기 위한 뉴럴 네트워크인 경우에 관한 것이다.
그런데 본 발명의 다른 일 실시예에 따르면, 상기 제1딥러닝 모델(121)은 세그멘테이션 뉴럴 네트워크 혹은 픽셀 레벨 클래시피케이션 뉴럴 네트워크일 수 있는데, 이하에서는 도 5 내지 도 6을 참조하여 이에 대하여 보다 상세하게 설명하고자 한다.
도 5a 및 도 5b는 본 발명의 세그멘테이션 뉴럴 네트워크인 상기 제1딥러닝 모델(121-1)을 설명하기 위한 도면이다.
먼저 도 5a를 참조하면, 상기 제`1딥러닝 모델(121-1)은 부분 이미지(10)를 입력 레이어를 통해 입력받을 수 있으며, 부분 이미지(10)는 복수의 픽셀(예를 들어, 11)로 구성될 수 있다. 도 5a의 예에서는 부분 이미지(10)가 4×4의 픽셀로 구성된 경우를 도시하고 있다. 한편, 상기 제1딥러닝 모델(121-1)은 입력받은 부분 이미지(10)에 대한 판단 결과(20)를 출력할 수 있으며, 상기 부분 이미지(10)에 대한 판단 결과(20)는 상기 부분 이미지(10)를 구성하는 각 픽셀 별 판단 결과(예를 들어 21)를 포함할 수 있다. 도 5a의 예에서 상기 부분 이미지(10)에 대한 판단 결과(20)는 4×4의 픽셀 각각에 대한 판단 결과를 포함할 수 있다.
도 5b는 도 5a의 부분 이미지(10)를 구성하는 픽셀 중 어느 하나(11)에 대한 판단 결과를 도시한 도면으로서, 도 5b를 참조하면 픽셀(11)의 판단 결과(21)는, 예를 들어, 글리슨 등급 체계에 따른 전립선 암의 중증도 등급의 각 등급 별 가능성 수치일 수 있다. 이때, 각 등급 별 가능성 수치의 합은 1일 수 있다. 한편, 글리슨 등급 체계 상의 각 등급 별로 등급 점수(3)가 미리 부여되어 있을 수 있다.
도 6은 상기 컴퓨팅 시스템(100)이 수행하는 패치 레벨 중증도 판단 방법의 다른 일 예를 도시한 흐름도이다. 상기 컴퓨팅 시스템(100)은 도 5a의 제1딥러닝 모델(121-1)을 이용하여 부분 이미지에 대한 중증도(정확하게는 소정의 질병에 대한 소정의 조직학적 중증도 등급 체계 상의 유효 등급)를 판단할 수 있다.
도 6을 참조하면, 상기 컴퓨팅 시스템(100)은 소정의 판단 대상 부분 이미지를 상기 제1딥러닝 모델(121-1)에 입력하고, 상기 제1딥러닝 모델(121-1)이 출력한 상기 판단 대상 부분 이미지에 대한 판단 결과를 획득할 수 있다(S150). 이때, 상기 판단 대상 부분 이미지에 대한 판단 결과는, 앞서 설명한 바와 같이, 상기 판단 대상 부분 이미지를 구성하는 각 판단 대상 픽셀 별 판단결과를 포함할 수 있으며, 각 판단 대상 픽셀 별 판단결과는 소정의 질병에 대한 소정의 중증도 등급 체계 상의 각 등급 별 가능성 수치이며, 상기 중증도 등급 체계 상의 각 등급에는 소정의 등급점수가 미리 부여되어 있을 수 있다.
이후 상기 컴퓨팅 시스템(100)은 상기 판단 대상 부분 이미지를 구성하는 각각의 판단 대상 픽셀 p에 대하여, 상기 판단 대상 픽셀 p에 대한 상기 제1딥러닝 모델(121-1)의 판단 결과에 기초하여 상기 판단 대상 픽셀 p의 유효 등급을 결정할 수 있다(S160).
상기 판단 대상 픽셀 p의 유효 등급을 결정하는 방법은 다양할 수 있다.
일 실시예에서, 상기 컴퓨팅 시스템(100)은 상기 중증도 등급 체계 상의 각 등급의 가능성 수치를 가중치로 하는 상기 중증도 등급 체계 상의 각 등급 별 등급점수의 가중 평균을 산출하여 상기 판단 대상 픽셀 p에 대한 유효 등급을 결정할 수 있다. 도 5b의 케이스를 예로 들어 설명하면, 상기 컴퓨팅 시스템(100)은 도 5b의 픽셀(11)에 대한 각 글리슨 등급 별 가능성 수치(21)를 획득할 수 있으며, 글리슨 등급 체계 상의 각 등급의 가능성 수치를 가중치로 하는 상기 글리슨 등급 체계 상의 각 등급 별 등급점수의 가중 평균을 산출할 수 있다. 이때, 정상(benign)은 가중 평균을 계산할 때 제외될 수 있으며, 도 5b의 케이스에서 산출되는 유효등급은 다음과 같다.
(3×0.1 + 4×0.3 + 5×0.4) / (0.1+0.3+0.4) = 3.5/0.8 = 4.375
다른 일 실시예에서, 상기 컴퓨팅 시스템(100)은 상기 중증도 등급 체계 상의 각 등급 중 가능성 수치가 높은 복수의 상위 등급 각각의 가능성 수치를 가중치로 하는 상기 복수의 상위 등급 별 등급점수의 가중 평균을 산출하여 상기 판단 대상 픽셀 p에 대한 유효 등급을 결정할 수 있다. 상기 컴퓨팅 시스템(100)이 가능성 상위 2개의 등급에 대한 가능성 수치를 가중치로 하는 해당 등급의 가중 평균 유효 등급으로 산출한다고 가정하면, 상기 컴퓨팅 시스템(100)은 도 5b의 케이스에서 픽셀(11)의 유효 등급을 다음과 같이 산출할 수 있다(소수점 4째자리에서 반올림).
(4×0.3 + 5×0.4) / (0.3+0.4) = 3.2 / 0.7 = 4.571
다른 일 실시예에서, 상기 컴퓨팅 시스템(100)은 상기 중증도 등급 체계 상의 각 등급 중 가능성 수치가 가장 높은 최상위 등급의 등급 점수를 상기 판단 대상 픽셀 p에 대한 유효 등급으로 결정할 수 있으며, 도 5b의 케이스에서 상기 컴퓨팅 시스템(100)은 가능성이 0.4로 가장 큰 등급(G5)의 등급 점수 5를 유효 등급으로 결정할 수 있다.
이후 상기 컴퓨팅 시스템(100)은 상기 판단 대상 부분 이미지를 구성하는 각 픽셀의 유효 등급에 기초하여 상기 판단 대상 부분 이미지에 대한 유효 등급을 결정할 수 있다(S170).
일 실시예에서, 상기 컴퓨팅 시스템(100)은 상기 판단 대상 부분 이미지를 구성하는 각 픽셀의 유효 등급의 평균값을 산출하고 이를 상기 판단 대상 부분 이미지에 대한 유효 등급으로 결정할 수 있다.
그러나 반드시 픽셀들의 유효 등급의 평균값을 판단 대상 부분 이미지의 유효 등급으로 결정하는 것은 아니며, 이는 이해의 편의를 위한 예시에 불과하다. 실시예에 따라서, 상기 컴퓨팅 시스템(100)은 다양한 통계적 기법을 통해 상기 판단 대상 부분 이미지를 구성하는 각 픽셀의 유효 등급의 대푯값을 산출하고 이를 상기 판단 대상 부분 이미지에 대한 유효 등급으로 결정할 수 있다. 2 이상의 값들의 대푯값은 이들 값들의 평균값일 수 있으나 이에 한정되는 것은 아니며, 이들 값 중 어느 하나 혹은 이들 값 중 적어도 일부에 의해 계산되는 값일 수 있다. 예를 들어, 2 이상의 값들의 대푯값은 평균값 외에 최댓값, 최솟값, 중간값, n분위 값, IQR(interquartile range) 내에서의 평균값, 혹은 소정의 조건을 만족하는 값들만의 평균값(예를 들어, 일정 범위를 벗어난 값을 제외한 나머지 값들의 평균값), 히스토그램 최빈값 등일 수 있다.
도 5a에 도시된 제1딥러닝 모델(121-1) 역시 미리 학습된 인공 뉴럴 네트워크이다. 도 5a에 도시된 제1딥러닝 모델(121-1)을 학습하는 과정은 학습용 이미지에 태깅된 정보가 병변 영역에 대한 정보 또는 각 픽셀 별 중증도 등급에 대한 정보라는 점을 제외하면 도 4에 도시된 과정과 거의 동일하므로 상세한 설명은 생략하기로 한다.
한편, 상기 컴퓨팅 시스템(100)은 앞서 설명한 패치 레벨 중증도 판단 방법에 의해 결정된 부분 이미지들의 유효 등급을 종합하여 부분 이미지들로 구성된 병리 슬라이드 이미지의 슬라이드 레벨 중증도를 판단할 수 있다. 도 7은 상기 컴퓨팅 시스템(100)이 수행하는 슬라이드 레벨 중증도 판단 방법의 일 예를 도시한 흐름도이다.
도 7을 참조하면, 상기 컴퓨팅 시스템(100)은 판단 대상이 되는 병리 슬라이드 이미지 S를 소정의 단위 크기로 분할할 수 있다(S300). 만약 판단 대상 병리 슬라이드 이미지 S를 N개의 부분 이미지로 분할할 수 있다고 하면, 분할된 부분 이미지는 P1 내지 PN일 수 있다. 상기 단위 크기는 상기 제1딥러닝 모델(121)에 입력되는 입력 데이터의 크기와 같을 수 있으며, 크기는 a픽셀×b픽셀(a 및 b는 각각 1 이상의 정수)일 수 있다.
상기 컴퓨팅 시스템(100)은 상기 복수의 판단 대상 부분 이미지 P1 내지 PN 각각에 대하여, 상기 판단 대상 부분 이미지 Pi(정수 i는 1 내지 N) 각각을 상기 제1딥러닝 모델(121)에 입력하고(S310, S320), 상기 판단 대상 부분 이미지 Pi(정수 i는 1 내지 N)를 입력받은 상기 제1딥러닝 모델(121)이 출력한 상기 판단 대상 부분 이미지 Pi에 대한 판단 결과에 기초하여 상기 판단 대상 부분 이미지 Pi에 대한 유효 등급 Di를 결정할 수 있다(S330).
S330 단계에서, 상기 컴퓨팅 시스템(100)은 상기 판단 대상 부분 이미지 Pi에 대한 유효 등급 Di를 결정하기 위하여 앞서 도 3 또는 도 6을 참조하여 설명한 패치 레벨 중증도 판단 방법을 이용할 수 있다.
이후 상기 컴퓨팅 시스템(100)은 상기 복수의 판단 대상 부분 이미지 각각에 대한 유효 등급(D1 내지 DN)에 기초하여 상기 판단 대상 병리 슬라이드 이미지 S에 대한 슬라이드 레벨 중증도 등급을 결정할 수 있다(S340).
도 8은 본 발명의 일 실시예에 따른 슬라이드 레벨 중증도 판단 방법이 적용된 구체적인 예를 도시한 도면이다.
도 8을 참조하면, 상기 컴퓨팅 시스템(100)은 소정의 판단 대상 병리 슬라이드 이미지(10)를 획득하고, 이를 소정의 단위 크기를 가지는 복수의 부분 이미지(20)로 분할할 수 있다(S300). 도 6은 15개의 부분 이미지(20-1 내지 20-15)로 분할한 예를 도시하고 있다.
한편 상기 컴퓨팅 시스템(100)은 분할된 복수의 부분 이미지(20-1 내지 20-15) 각각을 상기 제1딥러닝 모델(121)에 입력하고(S310, S320), 상기 제1딥러닝 모델(121)이 출력한 복수의 부분 이미지(20-1 내지 20-15) 각각에 대한 판단 결과에 기초하여 상기 복수의 부분 이미지(20-1 내지 20-15) 각각에 대한 유효 등급(30)를 결정할 수 있다(S330).
이후 상기 컴퓨팅 시스템(100)은 상기 복수의 부분 이미지(20-1 내지 20-15) 각각에 대한 유효 등급(30)에 기초하여 상기 판단 대상 병리 슬라이드 이미지(10)에 대한 슬라이드 레벨 중증도 등급을 결정할 수 있다(S340).
도 7의 S340 단계에서 슬라이드 레벨 중증도 등급을 결정하는 방법은 다양할 수 있다.
일 실시예에서, 상기 컴퓨팅 시스템(100)은 상기 판단 대상 병리 슬라이드 이미지를 구성하는 상기 복수의 판단 대상 부분 이미지 각각의 유효 등급의 대푯값을 산출할 수 있으며, 산출된 대푯값을 상기 판단 대상 병리 슬라이드 이미지 전체에 대한 슬라이드 레벨 중증도 등급으로 결정할 수 있다.
예를 들어, 상기 컴퓨팅 시스템(100)은 상기 판단 대상 병리 슬라이드 이미지를 구성하는 각 판단 대상 부분 이미지의 유효 등급의 최댓값, 최솟값, 평균값, 중앙값, IQR(InterQuartile Range) 내에서의 평균값, 혹은 소정의 조건을 만족하는 값들만의 평균값(예를 들어, 일정 범위를 벗어난 값을 제외한 나머지 값들의 평균값), 히스토그램 최빈값 등을 대푯값으로 산출할 수 있다.
도 8의 예를 통해 보다 구체적으로 살펴보면, 상기 컴퓨팅 시스템(100)이 상기 복수의 판단 대상 부분 이미지 각각의 유효 등급의 대푯값으로서 평균값을 이용하는 경우, 도 8의 예에서, 상기 컴퓨팅 시스템(100)은 15개의 부분 이미지(20-1 내지 20-15) 전체의 유효 등급의 평균값인 3.46을 상기 판단 대상 병리 슬라이드 이미지(10)의 슬라이드 레벨 중증도 등급으로 결정할 수 있다.
또는 상기 컴퓨팅 시스템(100)이 상기 복수의 판단 대상 부분 이미지 각각의 유효 등급의 대푯값으로서 최댓값을 이용하는 경우, 도 8의 예에서, 상기 컴퓨팅 시스템(100)은 15개의 부분 이미지(20-1 내지 20-15)의 유효 등급 중 최댓값인 4.2를 상기 판단 대상 병리 슬라이드 이미지(10)의 슬라이드 레벨 중증도 등급으로 결정할 수 있다.
또는 상기 컴퓨팅 시스템(100)이 상기 복수의 판단 대상 부분 이미지 각각의 유효 등급의 대푯값으로서 최솟값을 이용하는 경우, 도 8의 예에서, 상기 컴퓨팅 시스템(100)은 15개의 부분 이미지(20-1 내지 20-15)의 유효 등급 중 최솟값인 2.9를 상기 판단 대상 병리 슬라이드 이미지(10)의 슬라이드 레벨 중증도 등급으로 결정할 수 있다.
또는 상기 컴퓨팅 시스템(100)이 상기 복수의 판단 대상 부분 이미지 각각의 유효 등급의 대푯값으로서 상기 복수의 판단 대상 부분 이미지 각각에 대한 유효 등급 중에서 값이 큰 상위 일부의 유효 등급의 평균값을 이용하는 경우, 도 8의 예에서, 상기 컴퓨팅 시스템(100)은 15개의 부분 이미지(20-1 내지 20-15)의 유효 등급 중 상위 3개의 평균값인 4.1(=(4.2+4.1+4)/3)을 상기 판단 대상 병리 슬라이드 이미지(10)의 슬라이드 레벨 중증도 등급으로 결정할 수 있다.
다른 일 실시예에서, 상기 컴퓨팅 시스템(100)은 상기 복수의 판단 대상 부분 이미지 각각에 대한 유효 등급 중에서 소정의 임계값 이상인 유효 등급의 평균값을 상기 판단 대상 병리 슬라이드 이미지 전체에 대한 슬라이드 레벨 중증도 등급으로 결정할 수도 있다. 또는 상기 컴퓨팅 시스템(100)이 상기 복수의 판단 대상 부분 이미지 각각의 유효 등급의 대푯값으로서 상기 복수의 판단 대상 부분 이미지 각각에 대한 유효 등급 중에서 소정의 임계값 이상인 유효 등급의 평균값을 이용하는 경우, 도 8의 예에서, 상기 컴퓨팅 시스템(100)은 15개의 부분 이미지(20-1 내지 20-15)의 유효 등급 중에서 임계값인 3.5 이상인 유효 등급의 평균값 3.9를 상기 판단 대상 병리 슬라이드 이미지(10)의 슬라이드 레벨 중증도 등급으로 결정할 수 있다.
이 외에도 도 7의 S340 단계에서 슬라이드 레벨 중증도 등급을 결정하는 다양한 방법이 있을 수 있음은 물론이다.
일 실시예에서, 상기 컴퓨팅 시스템(100)은 딥러닝을 이용하여 슬라이드 레벨 중증도 등급을 결정할 수도 있는데, 이때 상기 제2딥러닝 모델(122)이 이용될 수 있다.
상기 제2딥러닝 모델(122)은 병리 슬라이드 이미지를 상기 단위 크기로 분할한 복수의 부분 이미지 각각에 대한 유효 등급을 포함하는 데이터 집합이 입력되면 상기 병리 슬라이드 이미지에 대한 중증도 등급을 판단하기 위한 출력 값을 출력하도록 미리 학습된 인공 뉴럴 네트워크일 수 있다. 예를 들어, 상기 제2딥러닝 모델(122)은 도 8에 도시된 복수의 부분 이미지 각각의 유효등급으로 구성되는 데이터 집합(30)을 입력받아 상기 병리 슬라이드 이미지(10)에 대한 슬라이드 레벨 중증도(40)를 판단하기 위한 출력 값을 출력하는 뉴럴 네트워크일 수 있다.
본 실시예에 따르면, S340 단계에서, 상기 컴퓨팅 시스템(100)은 상기 판단 대상 병리 슬라이드 이미지 S를 구성하는 상기 복수의 판단 대상 부분 이미지 각각에 대한 유효 등급(D1 내지 DN)을 포함하는 데이터 집합을 입력받은 상기 제2딥러닝 모델(122)이 출력한 출력 값에 기초하여 상기 판단 대상 병리 슬라이드 이미지 S에 대한 슬라이드 레벨 중증도 등급을 결정할 수 있다.
상기 제2딥러닝 모델(122)이 출력한 출력 값에 기초하여 상기 판단 대상 병리 슬라이드 이미지 S에 대한 슬라이드 레벨 중증도 등급을 결정하는 구체적인 과정은 도 3 또는 도 6에 도시된 유효 등급 판단 과정과 유사할 수 있다. 예를 들어, 상기 제2딥러닝 모델(122)은, 도 3에 도시된 과정과 유사하게, 상기 중증도 등급 체계 상의 각 등급 별 가능성 수치를 출력할 수 있으며, 상기 컴퓨팅 시스템(100)은 상기 중증도 등급 체계 상의 각 등급의 가능성 수치를 가중치로 하는 상기 중증도 등급 체계 상의 각 등급 별 등급점수의 가중 평균, 상기 중증도 등급 체계 상의 각 등급 중 가능성 수치가 높은 복수의 상위 등급 각각의 가능성 수치를 가중치로 하는 상기 복수의 상위 등급 별 등급점수의 가중 평균, 상기 중증도 등급 체계 상의 각 등급 중 가능성 수치가 가장 높은 최상위 등급의 등급 점수 등을 슬라이드 레벨 중증도 등급으로 결정할 수 있다.
상기 제2딥러닝 모델(122)은 슬라이드 레벨 중증도 등급을 결정하는데 이용되기 전에 미리 학습된 뉴럴 네트워크일 수 있는데, 도 9는 상기 제2딥러닝 모델(122)이 학습되는 과정을 도시한 도면이다.
도 9를 참조하면, 상기 컴퓨팅 시스템(100)은 학습용 병리 슬라이드 이미지 R으로 획득하고, 상기 학습용 병리 슬라이드 이미지 R를 상기 단위 크기로 분할할 수 있다(S400). 만약 상기 학습용 병리 슬라이드 이미지 R이 N개의 부분 이미지로 분할된다고 하면, 분할된 각각의 데이터 집합 생성용 부분 이미지는 Q1 내지 QN이다.
이후 상기 컴퓨팅 시스템(100)은 상기 복수의 데이터 집합 생성용 부분 이미지(Q1 내지 QN) 각각에 대하여, 상기 데이터 집합 생성용 부분 이미지 Qi(정수 i는 1 내지 N)를 상기 제1딥러닝 모델(121)에 입력하고(S410, S420), 상기 데이터 집합 생성용 부분 이미지 Qi를 입력받은 상기 제1딥러닝 모델(121)이 출력한 판단 결과에 기초하여 상기 데이터 집합 생성용 부분 이미지 Qi에 대한 유효 등급 Ei을 결정할 수 있다(S430).
이후 상기 컴퓨팅 시스템(100)은 상기 복수의 데이터 집합 생성용 부분 이미지 각각에 대한 유효 등급(E1 내지 EN)을 포함하는 데이터 집합을 제2딥러닝 모델(122)에 입력하여 상기 제2딥러닝 모델(122)을 학습할 수 있다.
한편, 본 발명의 실시예에 따른 방법은 컴퓨터가 읽을 수 있는 프로그램 명령 형태로 구현되어 컴퓨터로 읽을 수 있는 기록 매체에 저장될 수 있으며, 본 발명의 실시예에 따른 제어 프로그램 및 대상 프로그램도 컴퓨터로 판독 가능한 기록 매체에 저장될 수 있다. 컴퓨터가 읽을 수 있는 기록 매체는 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록 장치를 포함한다.
기록 매체에 기록되는 프로그램 명령은 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 소프트웨어 분야 당업자에게 공지되어 사용 가능한 것일 수도 있다.
컴퓨터로 읽을 수 있는 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media) 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 또한 컴퓨터가 읽을 수 있는 기록매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장되고 실행될 수 있다.
프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 전자적으로 정보를 처리하는 장치, 예를 들어, 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다.
상술한 하드웨어 장치는 본 발명의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시 예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성요소들도 결합된 형태로 실시될 수 있다.
본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타나며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.

Claims (24)

  1. 병리 슬라이드 이미지를 소정의 단위 크기로 분할한 각각의 부분 이미지가 입력되면 입력된 부분 이미지에 대한 판단 결과를 출력하도록 미리 학습된 인공 뉴럴 네트워크인 제1딥러닝 모델을 포함하는 컴퓨팅 시스템에서 수행되는 슬라이드 레벨 중증도 판단 방법으로서,
    소정의 판단 대상 병리 슬라이드 이미지를 상기 단위 크기로 분할한 복수의 판단 대상 부분 이미지 각각에 대하여, 상기 판단 대상 부분 이미지를 입력받은 상기 제1딥러닝 모델이 출력한 상기 판단 대상 부분 이미지에 대한 판단 결과에 기초하여 상기 판단 대상 부분 이미지에 대한 유효 등급을 결정하는 단계; 및
    상기 판단 대상 병리 슬라이드 이미지를 구성하는 상기 복수의 판단 대상 부분 이미지 각각에 대한 유효 등급에 기초하여 상기 판단 대상 병리 슬라이드 이미지 전체에 대한 슬라이드 레벨 중증도 등급을 결정하는 단계를 포함하되,
    상기 제1딥러닝 모델이 출력하는 상기 부분 이미지에 대한 판단 결과는 소정의 질병에 대한 소정의 조직학적 중증도 등급 체계 상의 각 등급 별 가능성(likelihood) 수치이며, 상기 중증도 등급 체계 상의 각 등급에는 소정의 등급점수가 미리 부여되어 있으며,
    상기 판단 대상 부분 이미지를 입력받은 상기 제1딥러닝 모델이 출력한 상기 판단 대상 부분 이미지에 대한 판단 결과에 기초하여 상기 판단 대상 부분 이미지에 대한 유효 등급을 결정하는 단계는,
    상기 판단 대상 부분 이미지의 상기 중증도 등급 체계 상의 각 등급의 가능성 수치 및 상기 중증도 등급 체계 상의 각 등급 별 등급점수에 기초하여 상기 판단 대상 부분 이미지에 대한 유효 등급을 결정하는 단계를 포함하는 슬라이드 레벨 중증도 판단 방법.
  2. 제1항에 있어서,
    상기 판단 대상 부분 이미지를 입력받은 상기 제1딥러닝 모델이 출력한 상기 중증도 등급 체계 상의 각 등급의 가능성 수치 및 상기 중증도 등급 체계 상의 각 등급 별 등급점수에 기초하여 상기 판단 대상 부분 이미지에 대한 유효 등급을 결정하는 단계는,
    상기 중증도 등급 체계 상의 각 등급의 가능성 수치를 가중치로 하는 상기 중증도 등급 체계 상의 각 등급 별 등급점수의 가중 평균을 산출하여 상기 판단 대상 병리 이미지에 대한 유효 등급을 결정하는 단계;
    상기 중증도 등급 체계 상의 각 등급 중 가능성 수치가 높은 복수의 상위 등급 각각의 가능성 수치를 가중치로 하는 상기 복수의 상위 등급 별 등급점수의 가중 평균을 산출하여 상기 판단 대상 병리 이미지에 대한 유효 등급을 결정하는 단계; 또는
    상기 중증도 등급 체계 상의 각 등급 중 가능성 수치가 가장 높은 최상위 등급의 등급 점수를 상기 판단 대상 병리 이미지에 대한 유효 등급으로 결정하는 단계를 포함하는 슬라이드 레벨 중증도 판단 방법.
  3. 병리 슬라이드 이미지를 소정의 단위 크기로 분할한 각각의 부분 이미지가 입력되면 입력된 부분 이미지에 대한 판단 결과를 출력하도록 미리 학습된 인공 뉴럴 네트워크인 제1딥러닝 모델을 포함하는 컴퓨팅 시스템에서 수행되는 슬라이드 레벨 중증도 판단 방법으로서,
    소정의 판단 대상 병리 슬라이드 이미지를 상기 단위 크기로 분할한 복수의 판단 대상 부분 이미지 각각에 대하여, 상기 판단 대상 부분 이미지를 입력받은 상기 제1딥러닝 모델이 출력한 상기 판단 대상 부분 이미지에 대한 판단 결과에 기초하여 상기 판단 대상 부분 이미지에 대한 유효 등급을 결정하는 단계; 및
    상기 판단 대상 병리 슬라이드 이미지를 구성하는 상기 복수의 판단 대상 부분 이미지 각각에 대한 유효 등급에 기초하여 상기 판단 대상 병리 슬라이드 이미지 전체에 대한 슬라이드 레벨 중증도 등급을 결정하는 단계를 포함하되,
    상기 제1딥러닝 모델이 출력하는 상기 부분 이미지에 대한 판단 결과는 상기 부분 이미지를 구성하는 각 픽셀 별 판단 결과를 포함하고, 상기 각 픽셀 별 판단 결과는 소정의 질병에 대한 소정의 조직학적 중증도 등급 체계 상의 각 등급 별 가능성(likelihood) 수치이며, 상기 중증도 등급 체계 상의 각 등급에는 소정의 등급점수가 미리 부여되어 있으며,
    상기 판단 대상 부분 이미지를 입력받은 상기 제1딥러닝 모델이 출력한 상기 판단 대상 부분 이미지에 대한 판단 결과에 기초하여 상기 판단 대상 부분 이미지에 대한 유효 등급을 결정하는 단계는,
    상기 판단 대상 부분 이미지를 구성하는 각각의 판단 대상 픽셀에 대하여, 상기 판단 대상 픽셀의 상기 중증도 등급 체계 상의 각 등급의 가능성 수치 및 상기 중증도 등급 체계 상의 각 등급 별 등급점수에 기초하여 상기 판단 대상 픽셀에 대한 유효 등급을 결정하는 단계; 및
    상기 판단 대상 부분 이미지를 구성하는 각 판단 대상 픽셀의 유효 등급에 기초하여 상기 판단 대상 부분 이미지에 대한 유효 등급을 결정하는 단계를 포함하는 슬라이드 레벨 중증도 판단 방법.
  4. 제3항에 있어서,
    상기 제1딥러닝 모델이 출력한 상기 판단 대상 픽셀의 상기 중증도 등급 체계 상의 각 등급의 가능성 수치 및 상기 중증도 등급 체계 상의 각 등급 별 등급점수에 기초하여 상기 판단 대상 픽셀에 대한 유효 등급을 결정하는 단계는,
    상기 판단 대상 픽셀의 상기 중증도 등급 체계 상의 각 등급의 가능성 수치를 가중치로 하는 상기 중증도 등급 체계 상의 각 등급 별 등급점수의 가중 평균을 산출하여 상기 판단 대상 픽셀의 유효 등급을 결정하는 단계;
    상기 판단 대상 픽셀의 상기 중증도 등급 체계 상의 각 등급 중 가능성 수치가 높은 복수의 상위 등급 각각의 가능성 수치를 가중치로 하는 상기 복수의 상위 등급 별 등급점수의 가중 평균을 산출하여 상기 판단 대상 픽셀의 유효 등급을 결정하는 단계; 또는
    상기 판단 대상 픽셀의 상기 중증도 등급 체계 상의 각 등급 중 가능성 수치가 가장 높은 최상위 등급의 등급 점수를 상기 판단 대상 픽셀의 유효 등급으로 결정하는 단계를 포함하는 슬라이드 레벨 중증도 판단 방법.
  5. 제3항에 있어서,
    상기 판단 대상 부분 이미지를 구성하는 각 판단 대상 픽셀의 유효 등급에 기초하여 상기 판단 대상 부분 이미지에 대한 유효 등급을 결정하는 단계는,
    상기 판단 대상 부분 이미지를 구성하는 각 판단 대상 픽셀의 유효 등급의 대푯값을 산출하여 상기 판단 대상 병리 이미지에 대한 유효 등급을 결정하는 단계를 포함하는 슬라이드 레벨 중증도 판단 방법.
  6. 제1항 또는 제3항에 있어서,
    상기 판단 대상 병리 슬라이드 이미지를 구성하는 상기 복수의 판단 대상 부분 이미지 각각에 대한 유효 등급에 기초하여 상기 판단 대상 병리 슬라이드 이미지 전체에 대한 슬라이드 레벨 중증도 등급을 결정하는 단계는,
    상기 판단 대상 병리 슬라이드 이미지를 구성하는 각 판단 대상 부분 이미지의 유효 등급의 대푯값을 산출하여 상기 판단 대상 병리 슬라이드 이미지 전체에 대한 슬라이드 레벨 중증도 등급을 결정하는 단계를 포함하는 슬라이드 레벨 중증도 판단 방법.
  7. 제6항에 있어서,
    상기 판단 대상 병리 슬라이드 이미지를 구성하는 각 판단 대상 부분 이미지의 유효 등급의 대푯값을 산출하여 상기 판단 대상 병리 슬라이드 이미지 전체에 대한 슬라이드 레벨 중증도 등급을 결정하는 단계는,
    상기 판단 대상 병리 슬라이드 이미지를 구성하는 각 판단 대상 부분 이미지의 유효 등급의 최댓값, 최솟값, 평균값, 중앙값, IQR(InterQuartile Range) 내에서의 평균값 중 어느 하나를 대푯값으로 산출하는 단계를 포함하는 슬라이드 레벨 중증도 판단 방법.
  8. 제1항 또는 제3항에 있어서,
    상기 컴퓨팅 시스템은, 병리 슬라이드 이미지를 상기 단위 크기로 분할한 복수의 부분 이미지 각각에 대한 유효 등급을 포함하는 데이터 집합이 입력되면 상기 병리 슬라이드 이미지에 대한 중증도 등급을 판단하기 위한 출력 값을 출력하도록 미리 학습된 인공 뉴럴 네트워크인 제2딥러닝 모델을 더 포함하고,
    상기 판단 대상 병리 슬라이드 이미지를 구성하는 상기 복수의 판단 대상 부분 이미지 각각에 대한 유효 등급에 기초하여 상기 판단 대상 병리 슬라이드 이미지에 대한 중증도 등급을 결정하는 단계는,
    상기 판단 대상 병리 슬라이드 이미지를 구성하는 상기 복수의 판단 대상 부분 이미지 각각에 대한 유효 등급을 포함하는 데이터 집합을 입력받은 상기 제2딥러닝 모델이 출력한 출력 값에 기초하여 상기 판단 대상 병리 슬라이드 이미지에 대한 중증도 등급을 결정하는 단계를 포함하는 슬라이드 레벨 중증도 판단 방법.
  9. 제8항에 있어서,
    상기 제2딥러닝 모델은,
    제2딥러닝 모델 학습 방법에 의해 미리 학습된 인공 뉴럴 네트워크이며,
    상기 제2딥러닝 모델 학습 방법은,
    복수의 학습용 병리 슬라이드 이미지를 획득하는 단계;
    상기 복수의 학습용 병리 슬라이드를 각각에 대하여, 상기 학습용 병리 슬라이드 이미지에 상응하는 데이터 집합을 생성하는 단계; 및
    상기 복수의 학습용 병리 슬라이드 이미지에 상응하는 데이터 집합 각각을 상기 제2딥러닝 모델에 입력하여 상기 제2딥러닝 모델을 학습하는 단계를 포함하되,
    상기 학습용 병리 슬라이드 이미지에 상응하는 데이터 집합을 생성하는 단계는,
    상기 학습용 병리 슬라이드 이미지를 상기 단위 크기로 분할한 복수의 데이터 집합 생성용 부분 이미지 각각에 대하여, 상기 데이터 집합 생성용 부분 이미지를 입력받은 상기 제1딥러닝 모델이 출력한 판단 결과에 기초하여 상기 데이터 집합 생성용 부분 이미지에 대한 유효 등급을 결정하는 단계; 및
    상기 복수의 데이터 집합 생성용 부분 이미지 각각에 대한 유효 등급을 포함하는 데이터 집합을 생성하는 단계를 포함하는 슬라이드 레벨 중증도 판단 방법.
  10. 삭제
  11. 삭제
  12. 데이터 처리장치에 설치되며 제1항 또는 제3항에 기재된 방법을 수행하기 위한 매체에 기록된 컴퓨터 프로그램.
  13. 제1항 또는 제3항에 기재된 방법을 수행하기 위한 컴퓨터 프로그램이 기록된 컴퓨터 판독가능한 기록매체.
  14. 컴퓨팅 시스템으로서,
    프로세서 및 메모리를 포함하되,
    상기 메모리는,
    컴퓨터 프로그램 및 병리 슬라이드 이미지를 소정의 단위 크기로 분할한 각각의 부분 이미지가 입력되면 입력된 부분 이미지에 대한 판단 결과를 출력하도록 미리 학습된 인공 뉴럴 네트워크인 제1딥러닝 모델을 저장하고,
    상기 컴퓨터 프로그램은,
    상기 프로세서에 의해 수행될 경우, 상기 컴퓨팅 시스템이 슬라이드 레벨 중증도 판단 방법을 수행하도록 제어하되,
    상기 슬라이드 레벨 중증도 판단 방법은,
    소정의 판단 대상 병리 슬라이드 이미지를 상기 단위 크기로 분할한 복수의 판단 대상 부분 이미지 각각에 대하여, 상기 판단 대상 부분 이미지를 입력받은 상기 제1딥러닝 모델이 출력한 상기 판단 대상 부분 이미지에 대한 판단 결과에 기초하여 상기 판단 대상 부분 이미지에 대한 유효 등급을 결정하는 단계; 및
    상기 판단 대상 병리 슬라이드 이미지를 구성하는 상기 복수의 판단 대상 부분 이미지 각각에 대한 유효 등급에 기초하여 상기 판단 대상 병리 슬라이드 이미지 전체에 대한 슬라이드 레벨 중증도 등급을 결정하는 단계를 포함하되,
    상기 제1딥러닝 모델이 출력하는 상기 부분 이미지에 대한 판단 결과는 소정의 질병에 대한 소정의 조직학적 중증도 등급 체계 상의 각 등급 별 가능성(likelihood) 수치이며, 상기 중증도 등급 체계 상의 각 등급에는 소정의 등급점수가 미리 부여되어 있으며,
    상기 판단 대상 부분 이미지를 입력받은 상기 제1딥러닝 모델이 출력한 상기 판단 대상 부분 이미지에 대한 판단 결과에 기초하여 상기 판단 대상 부분 이미지에 대한 유효 등급을 결정하는 단계는,
    상기 판단 대상 부분 이미지의 상기 중증도 등급 체계 상의 각 등급의 가능성 수치 및 상기 중증도 등급 체계 상의 각 등급 별 등급점수에 기초하여 상기 판단 대상 병리 이미지에 대한 유효 등급을 결정하는 단계를 포함하는 컴퓨팅 시스템.
  15. 제14항에 있어서,
    상기 판단 대상 부분 이미지를 입력받은 상기 제1딥러닝 모델이 출력한 상기 중증도 등급 체계 상의 각 등급의 가능성 수치 및 상기 중증도 등급 체계 상의 각 등급 별 등급점수에 기초하여 상기 판단 대상 병리 이미지에 대한 유효 등급을 결정하는 단계는,
    상기 중증도 등급 체계 상의 각 등급의 가능성 수치를 가중치로 하는 상기 중증도 등급 체계 상의 각 등급 별 등급점수의 가중 평균을 산출하여 상기 판단 대상 병리 이미지에 대한 유효 등급을 결정하는 단계;
    상기 중증도 등급 체계 상의 각 등급 중 가능성 수치가 높은 복수의 상위 등급 각각의 가능성 수치를 가중치로 하는 상기 복수의 상위 등급 별 등급점수의 가중 평균을 산출하여 상기 판단 대상 병리 이미지에 대한 유효 등급을 결정하는 단계; 또는
    상기 중증도 등급 체계 상의 각 등급 중 가능성 수치가 가장 높은 최상위 등급의 등급 점수를 상기 판단 대상 병리 이미지에 대한 유효 등급으로 결정하는 단계를 포함하는 컴퓨팅 시스템.
  16. 컴퓨팅 시스템으로서,
    프로세서 및 메모리를 포함하되,
    상기 메모리는,
    컴퓨터 프로그램 및 병리 슬라이드 이미지를 소정의 단위 크기로 분할한 각각의 부분 이미지가 입력되면 입력된 부분 이미지에 대한 판단 결과를 출력하도록 미리 학습된 인공 뉴럴 네트워크인 제1딥러닝 모델을 저장하고,
    상기 컴퓨터 프로그램은,
    상기 프로세서에 의해 수행될 경우, 상기 컴퓨팅 시스템이 슬라이드 레벨 중증도 판단 방법을 수행하도록 제어하되,
    상기 슬라이드 레벨 중증도 판단 방법은,
    소정의 판단 대상 병리 슬라이드 이미지를 상기 단위 크기로 분할한 복수의 판단 대상 부분 이미지 각각에 대하여, 상기 판단 대상 부분 이미지를 입력받은 상기 제1딥러닝 모델이 출력한 상기 판단 대상 부분 이미지에 대한 판단 결과에 기초하여 상기 판단 대상 부분 이미지에 대한 유효 등급을 결정하는 단계; 및
    상기 판단 대상 병리 슬라이드 이미지를 구성하는 상기 복수의 판단 대상 부분 이미지 각각에 대한 유효 등급에 기초하여 상기 판단 대상 병리 슬라이드 이미지 전체에 대한 슬라이드 레벨 중증도 등급을 결정하는 단계를 포함하되,
    상기 제1딥러닝 모델이 출력하는 상기 부분 이미지에 대한 판단 결과는 상기 부분 이미지를 구성하는 각 픽셀 별 판단 결과를 포함하고, 상기 각 픽셀 별 판단 결과는 소정의 질병에 대한 소정의 조직학적 중증도 등급 체계 상의 각 등급 별 가능성(likelihood) 수치이며, 상기 중증도 등급 체계 상의 각 등급에는 소정의 등급점수가 미리 부여되어 있으며,
    상기 판단 대상 부분 이미지를 입력받은 상기 제1딥러닝 모델이 출력한 상기 판단 대상 부분 이미지에 대한 판단 결과에 기초하여 상기 판단 대상 부분 이미지에 대한 유효 등급을 결정하는 단계는,
    상기 판단 대상 부분 이미지를 구성하는 각각의 판단 대상 픽셀에 대하여, 상기 판단 대상 픽셀의 상기 중증도 등급 체계 상의 각 등급의 가능성 수치 및 상기 중증도 등급 체계 상의 각 등급 별 등급점수에 기초하여 상기 판단 대상 픽셀에 대한 유효 등급을 결정하는 단계; 및
    상기 판단 대상 부분 이미지를 구성하는 각 판단 대상 픽셀의 유효 등급에 기초하여 상기 판단 대상 부분 이미지에 대한 유효 등급을 결정하는 단계를 포함하는 컴퓨팅 시스템.
  17. 제16항에 있어서,
    상기 판단 대상 픽셀의 상기 중증도 등급 체계 상의 각 등급의 가능성 수치 및 상기 중증도 등급 체계 상의 각 등급 별 등급점수에 기초하여 상기 판단 대상 픽셀에 대한 유효 등급을 결정하는 단계는,
    상기 판단 대상 픽셀의 상기 중증도 등급 체계 상의 각 등급의 가능성 수치를 가중치로 하는 상기 중증도 등급 체계 상의 각 등급 별 등급점수의 가중 평균을 산출하여 상기 판단 대상 픽셀의 유효 등급을 결정하는 단계;
    상기 판단 대상 픽셀의 상기 중증도 등급 체계 상의 각 등급 중 가능성 수치가 높은 복수의 상위 등급 각각의 가능성 수치를 가중치로 하는 상기 복수의 상위 등급 별 등급점수의 가중 평균을 산출하여 상기 판단 대상 픽셀의 유효 등급을 결정하는 단계; 또는
    상기 판단 대상 픽셀의 상기 중증도 등급 체계 상의 각 등급 중 가능성 수치가 가장 높은 최상위 등급의 등급 점수를 상기 판단 대상 픽셀의 유효 등급으로 결정하는 단계를 포함하는 컴퓨팅 시스템.
  18. 제16항에 있어서,
    상기 판단 대상 부분 이미지를 구성하는 각 판단 대상 픽셀의 유효 등급에 기초하여 상기 판단 대상 부분 이미지에 대한 유효 등급을 결정하는 단계는,
    상기 판단 대상 부분 이미지를 구성하는 각 판단 대상 픽셀의 유효 등급의 대표 값을 산출하여 상기 판단 대상 병리 이미지에 대한 유효 등급을 결정하는 단계를 포함하는 컴퓨팅 시스템.
  19. 제14항 또는 제16항에 있어서,
    상기 판단 대상 병리 슬라이드 이미지를 구성하는 상기 복수의 판단 대상 부분 이미지 각각에 대한 유효 등급에 기초하여 상기 판단 대상 병리 슬라이드 이미지 전체에 대한 슬라이드 레벨 중증도 등급을 결정하는 단계는,
    상기 판단 대상 병리 슬라이드 이미지를 구성하는 각 판단 대상 부분 이미지의 유효 등급의 대푯값을 산출하여 상기 판단 대상 병리 슬라이드 이미지 전체에 대한 슬라이드 레벨 중증도 등급을 결정하는 단계를 포함하는 컴퓨팅 시스템.
  20. 제19항에 있어서,
    상기 판단 대상 병리 슬라이드 이미지를 구성하는 각 판단 대상 부분 이미지의 유효 등급의 대푯값을 산출하여 상기 판단 대상 병리 슬라이드 이미지 전체에 대한 슬라이드 레벨 중증도 등급을 결정하는 단계는,
    상기 판단 대상 병리 슬라이드 이미지를 구성하는 각 판단 대상 부분 이미지의 유효 등급의 최댓값, 최솟값, 평균값, 중앙값, IQR(InterQuartile Range) 내에서의 평균값 중 어느 하나를 대푯값으로 산출하는 단계를 포함하는 컴퓨팅 시스템.
  21. 제14항 또는 제16항에 있어서,
    상기 메모리는, 병리 슬라이드 이미지를 상기 단위 크기로 분할한 복수의 부분 이미지 각각에 대한 유효 등급을 포함하는 데이터 집합이 입력되면 상기 병리 슬라이드 이미지에 대한 중증도 등급을 판단하기 위한 출력 값을 출력하도록 미리 학습된 인공 뉴럴 네트워크인 제2딥러닝 모델을 더 저장하고,
    상기 판단 대상 병리 슬라이드 이미지를 구성하는 상기 복수의 판단 대상 부분 이미지 각각에 대한 유효 등급에 기초하여 상기 판단 대상 병리 슬라이드 이미지에 대한 중증도 등급을 결정하는 단계는,
    상기 판단 대상 병리 슬라이드 이미지를 구성하는 상기 복수의 판단 대상 부분 이미지 각각에 대한 유효 등급을 포함하는 데이터 집합을 입력받은 상기 제2딥러닝 모델이 출력한 출력 값에 기초하여 상기 판단 대상 병리 슬라이드 이미지에 대한 중증도 등급을 결정하는 단계를 포함하는 컴퓨팅 시스템.
  22. 제21항에 있어서,
    상기 제2딥러닝 모델은,
    제2딥러닝 모델 학습 방법에 의해 미리 학습된 인공 뉴럴 네트워크이며,
    상기 제2딥러닝 모델 학습 방법은,
    복수의 학습용 병리 슬라이드 이미지를 획득하는 단계;
    상기 복수의 학습용 병리 슬라이드를 각각에 대하여, 상기 학습용 병리 슬라이드 이미지에 상응하는 데이터 집합을 생성하는 단계; 및
    상기 복수의 학습용 병리 슬라이드 이미지에 상응하는 데이터 집합 각각을 상기 제2딥러닝 모델에 입력하여 상기 제2딥러닝 모델을 학습하는 단계를 포함하되,
    상기 학습용 병리 슬라이드 이미지에 상응하는 데이터 집합을 생성하는 단계는,
    상기 학습용 병리 슬라이드 이미지를 상기 단위 크기로 분할한 복수의 데이터 집합 생성용 부분 이미지 각각에 대하여, 상기 데이터 집합 생성용 부분 이미지를 입력받은 상기 제1딥러닝 모델이 출력한 판단 결과에 기초하여 상기 데이터 집합 생성용 부분 이미지에 대한 유효 등급을 결정하는 단계; 및
    상기 복수의 데이터 집합 생성용 부분 이미지 각각에 대한 유효 등급을 포함하는 데이터 집합을 생성하는 단계를 포함하는 컴퓨팅 시스템.
  23. 삭제
  24. 삭제
KR1020220067465A 2022-06-02 2022-06-02 패치 레벨 중증도 판단 방법, 슬라이드 레벨 중증도 판단 방법 및 이를 수행하는 컴퓨팅 시스템 KR102485415B1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020220067465A KR102485415B1 (ko) 2022-06-02 2022-06-02 패치 레벨 중증도 판단 방법, 슬라이드 레벨 중증도 판단 방법 및 이를 수행하는 컴퓨팅 시스템
PCT/KR2023/007538 WO2023234730A1 (ko) 2022-06-02 2023-06-01 패치 레벨 중증도 판단 방법, 슬라이드 레벨 중증도 판단 방법 및 이를 수행하는 컴퓨팅 시스템

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020220067465A KR102485415B1 (ko) 2022-06-02 2022-06-02 패치 레벨 중증도 판단 방법, 슬라이드 레벨 중증도 판단 방법 및 이를 수행하는 컴퓨팅 시스템

Publications (1)

Publication Number Publication Date
KR102485415B1 true KR102485415B1 (ko) 2023-01-06

Family

ID=84923902

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020220067465A KR102485415B1 (ko) 2022-06-02 2022-06-02 패치 레벨 중증도 판단 방법, 슬라이드 레벨 중증도 판단 방법 및 이를 수행하는 컴퓨팅 시스템

Country Status (2)

Country Link
KR (1) KR102485415B1 (ko)
WO (1) WO2023234730A1 (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023234730A1 (ko) * 2022-06-02 2023-12-07 주식회사 딥바이오 패치 레벨 중증도 판단 방법, 슬라이드 레벨 중증도 판단 방법 및 이를 수행하는 컴퓨팅 시스템
KR102682730B1 (ko) 2024-01-31 2024-07-08 주식회사 딥바이오 병리 진단 케이스의 대표 병변 이미지 생성 방법 및 이를 수행하는 컴퓨팅 시스템

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20200016669A (ko) * 2018-08-07 2020-02-17 주식회사 딥바이오 다중 색 모델 및 뉴럴 네트워크를 이용한 질병 진단 시스템 및 방법
KR20200092803A (ko) * 2019-01-25 2020-08-04 주식회사 딥바이오 준-지도학습을 이용하여 질병의 발병 영역에 대한 어노테이션을 수행하기 위한 방법 및 이를 수행하는 진단 시스템

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA3133689A1 (en) * 2019-03-15 2020-09-24 SpIntellx, Inc. An explainable ai (xai) platform for computational pathology
KR102261475B1 (ko) * 2020-06-05 2021-06-07 주식회사 딥바이오 중증도 판단용 뉴럴 네트워크 학습 방법 및 시스템
KR102485415B1 (ko) * 2022-06-02 2023-01-06 주식회사 딥바이오 패치 레벨 중증도 판단 방법, 슬라이드 레벨 중증도 판단 방법 및 이를 수행하는 컴퓨팅 시스템

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20200016669A (ko) * 2018-08-07 2020-02-17 주식회사 딥바이오 다중 색 모델 및 뉴럴 네트워크를 이용한 질병 진단 시스템 및 방법
KR20200092803A (ko) * 2019-01-25 2020-08-04 주식회사 딥바이오 준-지도학습을 이용하여 질병의 발병 영역에 대한 어노테이션을 수행하기 위한 방법 및 이를 수행하는 진단 시스템

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023234730A1 (ko) * 2022-06-02 2023-12-07 주식회사 딥바이오 패치 레벨 중증도 판단 방법, 슬라이드 레벨 중증도 판단 방법 및 이를 수행하는 컴퓨팅 시스템
KR102682730B1 (ko) 2024-01-31 2024-07-08 주식회사 딥바이오 병리 진단 케이스의 대표 병변 이미지 생성 방법 및 이를 수행하는 컴퓨팅 시스템

Also Published As

Publication number Publication date
WO2023234730A1 (ko) 2023-12-07

Similar Documents

Publication Publication Date Title
US12032658B2 (en) Method and system for improving cancer detection using deep learning
Silva-Rodríguez et al. Going deeper through the Gleason scoring scale: An automatic end-to-end system for histology prostate grading and cribriform pattern detection
KR102485415B1 (ko) 패치 레벨 중증도 판단 방법, 슬라이드 레벨 중증도 판단 방법 및 이를 수행하는 컴퓨팅 시스템
CN112768072B (zh) 基于影像组学定性算法构建癌症临床指标评估系统
CN111539930A (zh) 基于深度学习的动态超声乳腺结节实时分割与识别的方法
Nateghi et al. A deep learning approach for mitosis detection: application in tumor proliferation prediction from whole slide images
US20200058125A1 (en) Comparative cancer survival models to assist physicians to choose optimal treatment
Wankhade et al. A novel hybrid deep learning method for early detection of lung cancer using neural networks
US20210142908A1 (en) A method to determine a degree of abnormality, a respective computer readable medium and a distributed cancer analysis system
CN113113130A (zh) 一种肿瘤个体化诊疗方案推荐方法
CN112561869B (zh) 一种胰腺神经内分泌肿瘤术后复发风险预测方法
CN113261012B (zh) 处理图像的方法、装置及系统
KR20230029004A (ko) 흉부 자동 분할 영상을 이용한 폐암 최종 병기 예측 시스템 및 방법
EP4173000A2 (en) Machine learning based medical data checker
Cao et al. 3D convolutional neural networks fusion model for lung nodule detection onclinical CT scans
CN116504406A (zh) 基于影像组合病理的肺癌术后风险模型构建方法和系统
US20220319002A1 (en) Tumor cell isolines
US20240087133A1 (en) Method of refining tissue specimen image, and computing system performing same
CN113362927A (zh) 一种基于深度学习的鳞状食道癌放化疗效果预测方法
Haines et al. Machine Learning Models for Histopathological Breast Cancer Image Classification
Kandel Deep Learning Techniques for Medical Image Classification
KR102682730B1 (ko) 병리 진단 케이스의 대표 병변 이미지 생성 방법 및 이를 수행하는 컴퓨팅 시스템
US20230274562A1 (en) Bootstrapped semantic preprocessing for medical datasets
Liang An improved bone age assessment using advanced image processing and deep learning approach/Liang Kim Meng
Meng An Improved Bone Age Assessment Using Advanced Image Processing and Deep Learning Approach

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant