KR101925603B1 - 병리 영상의 판독을 보조하는 방법 및 이를 이용한 장치 - Google Patents

병리 영상의 판독을 보조하는 방법 및 이를 이용한 장치 Download PDF

Info

Publication number
KR101925603B1
KR101925603B1 KR1020180073104A KR20180073104A KR101925603B1 KR 101925603 B1 KR101925603 B1 KR 101925603B1 KR 1020180073104 A KR1020180073104 A KR 1020180073104A KR 20180073104 A KR20180073104 A KR 20180073104A KR 101925603 B1 KR101925603 B1 KR 101925603B1
Authority
KR
South Korea
Prior art keywords
image
similar
computing device
pathological
feature value
Prior art date
Application number
KR1020180073104A
Other languages
English (en)
Inventor
박정혁
Original Assignee
주식회사 뷰노
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 뷰노 filed Critical 주식회사 뷰노
Priority to KR1020180073104A priority Critical patent/KR101925603B1/ko
Application granted granted Critical
Publication of KR101925603B1 publication Critical patent/KR101925603B1/ko

Links

Images

Classifications

    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/20ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/042Knowledge-based neural networks; Logical representations of neural networks
    • G06N3/0427
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • G06T7/0014Biomedical image inspection using an image reference approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Primary Health Care (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Epidemiology (AREA)
  • Quality & Reliability (AREA)
  • Public Health (AREA)
  • Computational Linguistics (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)

Abstract

본 발명은 병리 영상의 판독을 보조하는 방법 및 이를 이용한 장치에 관한 것이다. 구체적으로, 본 발명에 따른 방법에 의하면, 컴퓨팅 장치가, 판독 대상인 병리 영상을 획득하고, 입력되는 영상을 다수의 병리학적 클래스(class)에 따라 분류하도록 미리 훈련된 심층 신경망에 기초하여 상기 병리 영상의 일부 또는 전부와 유사한 유사 영상을 검색하되, 상기 검색은 적어도 하나의 특정 클래스에 대한 편향된 검색(biased search)을 위한 소정의 편향치(biases)를 반영하며, 그 후 상기 유사 영상을 외부 엔티티(external entity)에 제공한다.

Description

병리 영상의 판독을 보조하는 방법 및 이를 이용한 장치{METHOD FOR FACILIATING TO READ PATHOLOGY IMAGE AND APPARATUS USING THE SAME}
본 발명은 병리 영상의 판독을 보조하는 방법 및 이를 이용한 장치에 관한 것이다. 구체적으로, 본 발명에 따른 방법에 의하면, 컴퓨팅 장치가, 판독 대상인 병리 영상을 획득하고, 입력되는 영상을 다수의 병리학적 클래스(class)에 따라 분류하도록 미리 훈련된 심층 신경망에 기초하여 상기 병리 영상의 일부 또는 전부와 유사한 유사 영상을 검색하되, 상기 검색은 적어도 하나의 특정 클래스에 대한 편향된 검색(biased search)을 위한 소정의 편향치(biases)를 반영하며, 그 후 상기 유사 영상을 외부 엔티티(external entity)에 제공한다.
세포, 조직을 포함하는 신체 장기의 절편을 올린 전체 슬라이드 이미지(whole slide image) 혹은 현미경을 통한 병리학적 진단은 환자에 대한 치료 방법의 결정과 예후의 예측에 있어 결정적인 역할을 한다. 이러한 진단은 주로 조직과 세포의 형태를 고려하여 이루어진다. 이 병리학적 진단은 동일 국가 내의 의료인들 사이에서뿐만 아니라 국가 간에도 차이가 있을 정도로 난이도가 높은 문제 중의 하나이다. 세부적인 진단은 다양한 암종 및 클래스(class)로 나뉘는데, 샘플 간 특징의 편차가 크기 때문에 진단에 참고할 만한 대상 영상을 찾는 것은 매우 난이도가 높은 일이다. 이 진단의 난이도는 병리학자의 경험과 직감에 크게 좌우되는데, 실제 임상에서는 경험이 많은 병리학자도 혼자서 진단을 내리기 모호한 경우가 빈번하다. 이는 의사 간 진단의 불일치와 자문, 재판독 등 의료 서비스의 낭비를 발생하게 하는 주요 원인 중의 하나이다.
따라서, 진단시에 다수의 전문의가 판독하여 내린 진단의 내용이 합치하는 영상 데이터베이스에서 사용자가 현재 진단 중인 영상과 가장 비슷한 특징을 가진 영상을 탐색하고 그 영상의 진단 기록 등 진단 정보를 신속하게 찾아서 제공하는 것은 진단의 정확성과 그 효율성에 큰 도움을 줄 수 있을 것이다.
이에 따라 본 개시서에서는 딥 러닝(deep learning) 기술을 이용하여 병리 영상의 국소 영역에 대하여 암과 같은 특정 클래스(class)의 해당 여부를 판정할 수 있도록 훈련된 심층 신경망(deep neural network), 예컨대, 합성곱 인공신경망 모델(convolutional artificial neural network)을 이용하여 샘플 영상에 대하여 참조 영상 데이터베이스에서 병리학적으로 가장 유사한 영상을 검색할 수 있는 방법을 제공하고자 한다. 본 개시서에 따른 방법은 특정 병리학적 진단에 해당하는 영상을 더 신속히 검색할 수 있게 하는 편향된 검색(biased search)을 포함한다.
본 발명은 난이도가 높은 진단에 도움을 주기 위하여 영상 및 진단 정보를 포함하는 양질의 데이터베이스를 구축하여 그 양질의 데이터베이스로부터 판독 대상과 유사한 영상을 제공함으로써 진단을 보조하는 것을 일 목적으로 한다.
이를 위하여, 본 발명은 사용자가 상호작용적(interactive)으로 편향된 검색을 수행할 수 있는 편의를 제공하고, 그러한 검색에서 얻어진 영상들의 정보(예컨대, 진단 내역, 특징에 대한 코멘트, 환자의 예후 등)를 같이 표시하여 주는 사용자 인터페이스를 제공하는 것을 목적으로 한다.
또한 본 발명은 종래의 진단형 인공지능 방법론이 가진 한계점들, 예컨대, 다양한 클래스로 구분된 대량의 의료 데이터를 구축하기 쉽지 않아 다양한 클래스로 훈련을 수행하기 어려운 탓에 몇 가지 클래스로만 훈련을 진행하는 경우가 많았던 문제와 이로 인하여 인공지능 진단의 다양성이 충분하지 않았다는 문제점을 해결하는 것을 다른 목적으로 한다.
상기한 바와 같은 본 발명의 목적을 달성하고, 후술하는 본 발명의 특징적인 효과를 실현하기 위한 본 발명의 특징적인 구성은 하기와 같다.
본 발명의 일 태양(aspect)에 따르면, 병리 영상의 판독을 보조하는 방법이 제공되는바, 그 방법은, (a) 컴퓨팅 장치가, 판독 대상인 병리 영상을 획득하거나 상기 컴퓨팅 장치에 연동되는 타 장치로 하여금 상기 병리 영상을 획득하도록 지원하는 단계; (b) 상기 컴퓨팅 장치가, 입력되는 영상을 다수의 병리학적 클래스(class)에 따라 분류하도록 미리 훈련된 심층 신경망에 기초하여 상기 병리 영상의 일부 또는 전부와 유사한 적어도 하나의 유사 영상을 검색하거나 상기 타 장치로 하여금 상기 유사 영상을 검색하도록 지원하는 단계로서, 상기 검색은 적어도 하나의 특정 클래스에 대한 편향된 검색(biased search)을 위한 소정의 편향치(biases)를 반영하는, 단계; 및 (c) 상기 컴퓨팅 장치가, 상기 유사 영상을 외부 엔티티(external entity)에 제공하거나 상기 타 장치로 하여금 제공하도록 지원하는 단계를 포함한다.
본 발명의 다른 태양에 따르면, 본 발명에 따른 방법을 수행하도록 구현된 명령어(instructions)를 포함하는, 기계 판독 가능한 비일시적 기록 매체에 저장된, 컴퓨터 프로그램도 제공된다.
본 발명의 또 다른 태양에 따르면, 병리 영상의 판독을 보조하는 컴퓨팅 장치가 제공되는바, 그 장치는, 병리 영상을 획득하는 통신부; (i) 입력되는 영상을 다수의 병리학적 클래스(class)에 따라 분류하도록 미리 훈련된 심층 신경망에 기초하여 상기 병리 영상의 일부 또는 전부와 유사한 적어도 하나의 유사 영상을 검색하는 프로세스; 및 (ii) 상기 유사 영상을 외부 엔티티(external entity)에 제공하는 프로세스를 수행하거나 상기 통신부를 통하여 연동되는 타 장치로 하여금 수행하도록 지원하는 프로세서를 포함하고, 상기 검색은 적어도 하나의 특정 클래스에 대한 편향된 검색(biased search)을 위한 소정의 편향치(biases)를 반영한다.
본 발명에 의하면 사용자 친화적이고 상호작용적인 방식으로 특정 진단 정보에 대하여 검색 편향치를 조절할 수 있게 하여 병리 영상에 대한 진단의 정확성과 그 효율성을 증대할 수 있는 효과가 있다.
또한, 본 발명의 일 실시 예에 의하면 심층 신경망의 인공지능으로 학습되기 어려운 진단의 (예컨대, 텍스트의 형식으로 된) 주관적 코멘트들도 사용자에게 제공될 수 있어 환자의 예후나 치료도 보조할 수 있는 효과가 있다.
뿐만 아니라, 본 발명의 방법을 통하여 얻어진 진단 정보는 다시 인공지능을 훈련하는 데 이용될 수 있으므로 양질의 의료용 인공지능을 구축할 수 있어 의료 기술의 개발을 촉진할 수 있는 효과가 있다.
이와 같은 본 발명의 실시 예에 따른 효과는 특정 형식(modality)의 병리 영상뿐만 아니라 널리 다양한 형식의 2차원 영상 또는 3차원 영상들에 적용될 수 있는바, 본 발명의 방법이 특정 형식이나 플랫폼에 종속되지 않음은 물론이다.
본 발명의 실시 예의 설명에 이용되기 위하여 첨부된 아래 도면들은 본 발명의 실시 예들 중 단지 일부일 뿐이며, 본 발명이 속한 기술분야의 통상의 기술자에게 있어서는 신규한 발명에 이르는 노력 없이도 이 도면들에 기초하여 다른 도면들이 얻어질 수 있다.
도 1은 본 발명에 따라 병리 영상의 판독을 보조하는 방법(이하 "병리 영상 판독 보조 방법"이라 함)을 수행하는 컴퓨팅 장치의 예시적 구성을 개략적으로 도시한 개념도이다.
도 2는 본 발명에 따른 병리 영상 판독 보조 방법을 수행하는 컴퓨팅 장치의 하드웨어 또는 소프트웨어 구성요소를 도시한 블록도이다.
도 3은 본 발명에 따른 병리 영상 판독 보조 방법을 예시적으로 나타낸 흐름도이다.
도 4a 및 도 4b는 각각 본 발명의 병리 영상 판독 보조 방법의 일 실시 예에 따라 제공되는 사용자 인터페이스의 예시를 나타낸 개념도이다.
도 5는 본 발명에 따른 병리 영상 판독 보조 방법에 이용될 수 있는 심층 신경망의 예로서 특정 심층 신경망 아키텍처를 개념적으로 나타낸 도면이다.
후술하는 본 발명에 대한 상세한 설명은, 본 발명의 목적들, 기술적 해법들 및 장점들을 분명하게 하기 위하여 본 발명이 실시될 수 있는 특정 실시 예를 예시로서 도시하는 첨부 도면을 참조한다. 이들 실시 예는 통상의 기술자가 본 발명을 실시할 수 있기에 충분하도록 상세히 설명된다.
본 발명의 상세한 설명 및 청구항들에 걸쳐 이용된 "영상", "이미지", "영상 데이터" 또는 "이미지 데이터"라는 용어는 이산적 영상 요소들(예컨대, 2차원 영상에 있어서는 픽셀, 3차원 영상에 있어서는 복셀)로 구성된 다차원 데이터를 지칭하며, 달리 말하자면, (예컨대, 비디오 화면에 표시된) 눈으로 볼 수 있는 대상 또는 (예컨대, 픽셀 혹은 복셀 출력에 대응되는 파일과 같은) 그 대상의 디지털 표현물을 지칭하는 용어이다.
예를 들어 "영상"은 현미경 영상의 촬영과 같이 본 발명의 기술분야에서 공지된 임의의 영상 촬영 방식에 따라 수집된 피검체(subject)의 영상일 수 있다. 그러나 그 영상이 반드시 의료적 맥락에서 제공되어야 하는 것은 아니고 비의료적 맥락에서 제공될 수도 있는바, 예를 들어 보안 검색용 X선 촬영 등이 있을 수 있다.
설명의 편의를 위하여 제시된 도면에서는 예시적인 일부의 영상 형식(modality)이 도시되어 있으나 통상의 기술자는 본 발명의 다양한 실시 예에서 이용되는 영상 형식들이 현미경 촬영 영상을 포함하나 반드시 그 형식에 한정되지 않는다는 점을 이해할 수 있을 것이다.
그리고 본 발명의 상세한 설명 및 청구항들에 걸쳐, '포함하다'라는 단어 및 그 변형은 다른 기술적 특징들, 부가물들, 구성요소들 또는 단계들을 제외하는 것으로 의도된 것이 아니다. 또한, '하나' 또는 '한'은 하나 이상의 의미로 쓰인 것이며, '또 다른'은 적어도 두 번째 이상으로 한정된다.
본 개시서에서 언급되는 사용자는 단수만을 지칭하는 것이 아니라 영상, 특히 병리 영상 및 그 관련 데이터를 풍부하고 중첩적으로 획득하기 위한 목적의 복수 사용자를 지칭할 수도 있는바, 이에는 영상의 훈련(학습) 또는 실제 사용에 있어서 영상의 무결성(integrity)을 확보하기 위한 목적이 있을 수 있다.
통상의 기술자에게 본 발명의 다른 목적들, 장점들 및 특성들이 일부는 본 설명서로부터, 그리고 일부는 본 발명의 실시로부터 드러날 것이다. 아래의 예시 및 도면은 실례로서 제공되며, 본 발명을 한정하는 것으로 의도된 것이 아니다. 따라서, 특정 구조나 기능에 관하여 본 개시서에 개시된 상세 사항들은 한정하는 의미로 해석되어서는 아니되고, 단지 통상의 기술자가 실질적으로 적합한 임의의 상세 구조들로써 본 발명을 다양하게 실시하도록 지침을 제공하는 대표적인 기초 자료로 해석되어야 할 것이다.
더욱이 본 발명은 본 개시서에 표시된 실시 예들의 모든 가능한 조합들을 망라한다. 본 발명의 다양한 실시 예는 서로 다르지만 상호 배타적일 필요는 없음이 이해되어야 한다. 예를 들어, 여기에 기재되어 있는 특정 형상, 구조 및 특성은 일 실시 예에 관련하여 본 발명의 사상 및 범위를 벗어나지 않으면서 다른 실시 예로 구현될 수 있다. 또한, 각각의 개시된 실시 예 내의 개별 구성요소의 위치 또는 배치는 본 발명의 사상 및 범위를 벗어나지 않으면서 변경될 수 있음이 이해되어야 한다. 따라서, 후술하는 상세한 설명은 한정적인 의미로서 취하려는 것이 아니며, 본 발명의 범위는, 적절하게 설명된다면, 그 청구항들이 주장하는 것과 균등한 모든 범위와 더불어 첨부된 청구항에 의해서만 한정된다. 도면에서 유사한 참조부호는 여러 측면에 걸쳐서 동일하거나 유사한 기능을 지칭한다.
본 개시서에서 달리 표시되거나 분명히 문맥에 모순되지 않는 한, 단수로 지칭된 항목은, 그 문맥에서 달리 요구되지 않는 한, 복수의 것을 아우른다. 또한, 본 발명을 설명함에 있어, 관련된 공지 구성 또는 기능에 대한 구체적인 설명이 본 발명의 요지를 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명은 생략한다.
도 1은 본 발명에 따른 병리 영상 판독 보조 방법을 수행하는 컴퓨팅 장치의 예시적 구성을 개략적으로 도시한 개념도이다.
도 1을 참조하면, 본 발명의 일 실시 예에 따른 컴퓨팅 장치(100)는, 통신부(110) 및 프로세서(120)를 포함하며, 상기 통신부(110)를 통하여 외부 컴퓨팅 장치(미도시)와 직간접적으로 통신할 수 있다.
구체적으로, 상기 컴퓨팅 장치(100)는, 전형적인 컴퓨터 하드웨어(예컨대, 컴퓨터 프로세서, 메모리, 스토리지, 입력 장치 및 출력 장치, 기타 기존의 컴퓨팅 장치의 구성요소들을 포함할 수 있는 장치; 라우터, 스위치 등과 같은 전자 통신 장치; 네트워크 부착 스토리지(NAS; network-attached storage) 및 스토리지 영역 네트워크(SAN; storage area network)와 같은 전자 정보 스토리지 시스템)와 컴퓨터 소프트웨어(즉, 컴퓨팅 장치로 하여금 특정의 방식으로 기능하게 하는 명령어들)의 조합을 이용하여 원하는 시스템 성능을 달성하는 것일 수 있다.
이와 같은 컴퓨팅 장치의 통신부(110)는 연동되는 타 컴퓨팅 장치와 요청과 응답을 송수신할 수 있는바, 일 예시로서 그러한 요청과 응답은 동일한 TCP(transmission control protocol) 세션(session)에 의하여 이루어질 수 있지만, 이에 한정되지는 않는바, 예컨대 UDP(user datagram protocol) 데이터그램(datagram)으로서 송수신될 수도 있을 것이다. 덧붙여, 넓은 의미에서 상기 통신부(110)는 명령어 또는 지시 등을 전달받기 위한 키보드, 마우스, 기타 외부 입력장치, 프린터 등 인쇄장치, 디스플레이 장치, 기타 외부 출력장치를 포함할 수 있다.
또한, 컴퓨팅 장치의 프로세서(120)는 MPU(micro processing unit), CPU(central processing unit), GPU(graphics processing unit), NPU(neural processing unit) 또는 TPU(tensor processing unit), 캐시 메모리(cache memory), 데이터 버스(data bus) 등의 하드웨어 구성을 포함할 수 있다. 또한, 운영체제, 특정 목적을 수행하는 애플리케이션의 소프트웨어 구성을 더 포함할 수도 있다.
도 2는 본 발명에 따른 병리 영상 판독 보조 방법을 수행하는 컴퓨팅 장치의 하드웨어 또는 소프트웨어 구성요소를 예시적 영상 촬영 장치와 함께 도시한 블록도이다.
도 2를 참조하여 본 발명에 따른 방법 및 장치의 구성을 간략히 개관하면, 컴퓨팅 장치(100)는 그 구성요소로서 영상 획득 모듈(210)을 포함할 수 있다. 이 영상 획득 모듈(210)은 본 발명에 따른 방법이 적용되는 영상을 획득하도록 구성된다. 상기 영상은, 예를 들어, 통신부(110)를 통하여 연동되는 타 영상 촬영 장치(미도시)로부터 획득되는 것일 수 있다.
획득된 영상의 일부 또는 전부는 다수의 병리학적 클래스(class)에 따라 분류하도록 미리 훈련된 심층 신경망 모델(222)을 포함하는 심층 신경망 모듈(220)에 전달될 수 있는데, 심층 신경망 모듈(220)은 심층 신경망 모델(222), 이를 이용하여 특징값(feature value; feature vector)을 생성하는 특징값 층(224) 및 특징값을 통하여 영상을 분류하는 분류기(226)를 포함한다. 이 특징값 층(224)은, 전형적으로, 전결합층(fully-connected layer)일 수 있다.
이 심층 신경망 모듈(220)에 의하여 생성된 특징값은 유사 영상 검색 모듈(230)이 상기 영상과 유사한 영상을 검색하는데 이용되는데, 사용자에 의하여 조절된 편향치가 소정의 사용자 인터페이스 모듈(260)로부터 전달되어 검색에 이용될 수 있으며, 상기 특징값을 이용하여 검색된 유사 영상은 제1 데이터베이스(240) 및 제2 데이터베이스(250)의 연동에 의하여 인출될 수 있는바, 그 유사 영상뿐만 아니라 이에 결부되는 진단 기록 등의 진단 정보도 추가로 인출될 수 있다. 소정의 사용자 인터페이스 모듈(260)에 의하여 제공되는 사용자 인터페이스는 도 4a 및 도 4b를 참조하여 후술하기로 한다.
이와 같이 인출된 유사 영상 및 진단 정보는 외부 엔티티(external entity)에 제공될 수 있는바, 여기에서 외부 엔티티라고 함은, 상기 컴퓨팅 장치(100)의 사용자, 관리자, 상기 영상에 나타난 내용을 담당하는 담당 의료인 등을 포함하나, 이 이외에도 그 영상의 분류(판정, 판독 등)을 필요로 하는 주체라면 어느 주체라도 포함되는 것으로 이해되어야 할 것이다.
도 2에 도시된 개별 모듈들은, 예컨대, 컴퓨팅 장치(100)에 포함된 통신부(110)나 프로세서(120), 또는 상기 통신부(110) 및 프로세서(120)의 연동에 의하여 구현될 수 있음은 통상의 기술자가 이해할 수 있을 것이다.
도 2에 나타난 구성요소들은 설명의 편의상 하나의 컴퓨팅 장치에서 실현되는 것으로 예시되었으나, 본 발명의 방법을 수행하는 컴퓨팅 장치(100)는 복수개의 장치들이 서로 연동되도록 구성될 수도 있으며, 이는 본 개시서에 첨부된 청구범위에 의하여 망라될 수 있다는 점이 이해될 것이다. 도 2에 예시된 개별 구성요소들의 구체적인 기능 및 효과, 획득된 영상을 이용하여 유사 영상을 검색하는 본 발명에 따른 병리 영상 판독 보조 방법의 상세에 관하여 이제부터 도 3 내지 도 5를 참조하여 더 구체적으로 설명하기로 한다.
도 3은 본 발명에 따른 병리 영상 판독 보조 방법을 예시적으로 나타낸 흐름도이며, 도 4a 및 도 4b는 각각 본 발명의 병리 영상 판독 보조 방법의 일 실시 예에 따라 제공되는 사용자 인터페이스의 예시를 나타낸 개념도이다.
우선, 도 3을 참조하면, 본 발명에 따른 병리 영상 판독 보조 방법은, 컴퓨팅 장치(100)에 의하여 구현되는 영상 획득 모듈(210)이, 판독 대상인 병리 영상을 획득하거나 컴퓨팅 장치(100)의 통신부(110)를 통하여 연동되는 타 장치(미도시)로 하여금 상기 병리 영상을 획득하도록 지원하는 단계(S100)를 포함한다.
본 발명의 일 실시 예에 따른 사용자 인터페이스가 도시된 도 4a를 참조하면, 영상 표시부(410)에 표시된 병리 영상의 효과적인 판독을 위하여, 수평 스크롤바(horizontal scrollbar; 412), 수직 스크롤바(vertical scrollbar; 414), 배율 조절부(zoom control; 416) 등이 사용자 인터페이스의 구성요소들로서 사용자에게 제공될 수 있는바, 수평 스크롤바(412), 수직 스크롤바(414), 배율 조절부(416)의 역할은 통상의 기술자에게 널리 알려진 바와 같다. 사용자 인터페이스는 도 4a에 예시된 바와 같이 사용자가 쉽게 적응하여 이용할 수 있도록 종래의 소프트웨어와 유사하게 구성될 수도 있으나 이에 한정되지는 않는다.
이와 같은 사용자 인터페이스의 제공은 범용의 디스플레이 장치, 혹은 특정 목적을 위한 인간-기계 인터페이스(human-machine interface; HMI) 장치에 의할 수 있는바, 그 상세 내용은 본 발명의 진의를 명확히 드러내기 위하여 생략한다.
다음으로, 본 발명에 따른 병리 영상 판독 보조 방법은, 컴퓨팅 장치(100)에 의하여 구현되는 유사 영상 검색 모듈(230)이, 입력되는 영상을 다수의 병리학적 클래스(class)에 따라 분류하도록 미리 훈련된 심층 신경망 모듈(220)에서 산출되는 특징값에 기초하여 상기 병리 영상의 일부 또는 전부와 유사한 유사 영상을 검색하거나 상기 타 장치로 하여금 상기 유사 영상을 검색하도록 지원하는 단계(S200)를 더 포함한다. 단계(S200)의 검색에는 적어도 하나의 특정 클래스에 대한 편향된 검색을 가능하게 하기 위한 소정의 편향치(biases)가 반영된다.
여기에서 병리학적 클래스는, 병리학적으로 구분되는 특정 소견, 특정 증상, 특정 질환 등일 수 있는바, 예컨대 암(癌)일 수 있다.
또한, 상기 병리 영상의 일부 또는 전부는 심층 신경망 모듈에 입력되는 특정 부분(국소 영역)으로서 사용자의 입력에 응하여, 예컨대, 앞서 예시한 것과 같은 소정의 사용자 인터페이스를 통하여 지정될 수 있는바, 도 4a에 참조부호 420으로 예시된 바와 같다. 일 예로서, 사용자는 소정의 입력 장치, 특히 포인팅 장치(예컨대, 마우스)를 통하여 판독 중인 병리 영상 가운데 심층 신경망 모듈에 입력되는 특정 부분(420)을 지정할 수 있는데, 예컨대, 마우스의 드래그(dragging) 동작으로써 그 특정 부분(420)의 크기(size)를 설정할 수 있고, 클릭(click) 동작으로써 그 특정 부분의 위치(location)를 설정할 수 있다.
그리고 병리 영상의 일부 또는 전부로서 입력되는 영상의 크기는 상기 심층 신경망의 훈련에 이용된 훈련용 영상의 크기와 동일한 것이 바람직하나 상이할 수도 있는 것은 물론이다.
한편, 본 발명의 일 실시 예에 따르면, 상기 단계(S200)의 수행 전에, 컴퓨팅 장치(100)에 의하여 구현되는 사용자 인터페이스 모듈(260)이, 사용자의 입력에 응하여 상기 소정의 편향치를 조절하거나 상기 타 장치로 하여금 조절하도록 지원하는 단계(S150)가 더 수행될 수 있다.
도 4a에 예시된 사용자 인터페이스를 통하여, 사용자는 주요 클래스들(class #1, class #2, class #3으로 표시됨)에 대한 편향치를 사용자 인터페이스 구성요소, 예컨대 슬라이더와 같은 컨트롤러, 즉 검색 편향치 조절부(430)를 통하여 직관적으로 변화시킬 수 있는데, 이에 한정되는 것은 아니고 직접 편향치의 수치를 입력하는 방식도 가능할 것이다. 이 편향치가 편향된 검색에 이용되는 구체적인 방식은 도 5를 참조하여 후술한다.
이 실시 예에서, 단계(S200)는, 컴퓨팅 장치(100)가, 상기 병리 영상을 분할한 영상 패치(image patch)의 특징값에 기초하여 상기 특징값과 동일하거나 유사한 유사 특징값을 검색하거나 상기 타 장치로 하여금 검색하도록 지원하는 단계(S210), 및 컴퓨팅 장치(100)가, 유사 특징값에 대응되는 유사 영상 패치를 포함하는 영상인 유사 영상을 인출하거나 상기 타 장치로 하여금 인출하도록 지원하는 단계(S220)를 포함할 수 있다.
단계(S210)에서의 검색과 단계(S220)에서의 인출은 동일한 데이터베이스를 이용하여 수행될 수도 있으나, 영상 패치 각각에 대한 특징값 및 클래스 정보를 보유하는 제1 데이터베이스(즉, 검색 데이터베이스), 및 영상 패치 각각에 대한 식별자를 이용하여 제1 데이터베이스와 연동되며 특징값에 대응되는 영상 패치 및 이에 대응되는 진단 정보(예컨대, 진단 기록, 코멘트 등) 각각을 보유하는 제2 데이터베이스(즉, 기록 데이터베이스)를 이용하여 수행될 수도 있다.
여기에서, 제2 데이터베이스, 기록 데이터베이스는 다수의 의료인에 의하여 진단된 영상 및 그 진단 정보를 포함하는 병리 영상의 데이터베이스일 수 있다.
이와 같이 제1 데이터베이스 및 제2 데이터베이스를 포함하는 적어도 2개 이상의 데이터베이스를 이용하는 경우에, 데이터베이스 간의 연동을 위하여 상기 유사 특징값에 대하여 식별자(identifier; id)가 부여될 수 있으며, 단계(S200)에서, 상기 컴퓨팅 장치는, 상기 식별자를 이용하여 상기 유사 특징값에 대응되는 유사 영상 패치를 인출할 수 있다.
다만, 통상의 기술자는 이와 같은 식별자의 활용이 필수적인 것이 아니며, 특징값에 영상 패치를 대응시킬 수 있는 대안이 존재할 수 있음을 이해할 수 있을 것이다.
단계(S200)에서 심층 신경망 모듈을 이용하여 병리 영상으로부터 특징값을 산출하는 구체적인 과정은 도 5를 참조하여 설명한다.
도 5는 본 발명에 따른 병리 영상 판독 보조 방법에 이용될 수 있는 심층 신경망의 예로서 특정 심층 신경망 아키텍처를 개념적으로 나타낸 도면이다.
본 발명에서 병리 영상의 분류(및 평가)에 심층 신경망이 이용되는데, 층의 수가 많으면 많을수록 그 효과가 뛰어나다는 점은 통상의 기술자에게 알려진 바와 같다. 그런데 종래에 인공 신경망은 기울기 소실 문제(vanishing gradient problem)로 인하여 역전파 수행시에 모델의 가중치가 제대로 반영되지 못하는 단점이 있었는데, 근래 나온 이에 대한 해법은 그 기울기를 보존할 수 있도록 심층 신경망을 구성하는 방안이다.
특히, 도 5에 예시된 심층 신경망 아키텍처는 Inception V3이라고 통칭하는 합성곱 인공 신경망(convolutional artificial neural network; CNN)이다. 벡터로 표현된 특징값{즉, 특징 벡터(feature vector)}은, 도시된 예시에서와 같이 8x8x2048를 이용하거나, 8x8 크기의 영역에 대하여 평균을 취하는 전역 평균 풀링(GAP; global average pooling) 등을 이용하여 2048 차원의 벡터를 이용할 수 있다. 이와 같은 심층 신경망 모델(222)은 입력되는 영상 패치에 대하여 다양한 클래스를 구분하는 문제를 해결하도록 훈련된다.
다시 도 2를 참조하면, 본 발명에 따른 심층 신경망 모듈(220)은, 심층 신경망 모델(222), 특징값 층(224) 및 분류기(226)를 포함하는데, 상기 병리 영상의 일부 또는 전부가 심층 신경망 모델(222)에 입력되면, 특징값 층(224)에는 특징값(예컨대, 2048 차원의 벡터값)이 산출되고, 이 특징값에 기초하여 분류기(226)는 병리학적 클래스를 판정할 수 있다. 예를 들어, 이와 같이 판정된 클래스는 이에 결부된 진단명으로서 (사용자 인터페이스 등을 통하여) 제공될 수 있는바, 도 4b에 참조부호 470으로 예시된 것과 같다.
한편, 유사 영상 검색 모듈(230)은 특징값 층(224)에서 산출된 특징값을 이용하여 검색을 수행하는바, m(예컨대, m = 2048) 차원 특징값의 p-노름(p-norm)에 편향치를 적용하는 제1 실시 예에서, 유사 영상 검색 모듈(230)은 입력된 병리 영상의 일부 또는 전부의 특징값(특징 벡터)
Figure 112018062406168-pat00001
와 제1 데이터베이스에 포함된 소정의 자연수 n개의 특징값(특징 벡터)으로 이루어진 집합
Figure 112018062406168-pat00002
에 있어서, j번째 특징값
Figure 112018062406168-pat00003
에 대하여 아래 수학식 1과 같이 각각 p-노름의 값(
Figure 112018062406168-pat00004
)을 계산하여 제1 데이터베이스에 대응하는 p-노름의 집합
Figure 112018062406168-pat00005
을 산출한다. 이 집합에서 원소의 값이 작은 j에 대응하는 식별자를 제2 데이터베이스에서 검색하여 유사 영상 패치 및 진단 정보를 인출할 수 있다. 물론, n은 제1 데이터베이스에 포함된 모든 특징값의 개수일 수도 있고, 그보다 적게 임의로 선택된 값일 수도 있다.
Figure 112018062406168-pat00006
여기에서 p = 2인 유클리드 노름(Euclidean norm)뿐만 아니라 사용자에 의하여 p가 정의될 수도 있을 것이다.
예를 들어, 클래스가 모두 3가지로서, {CG(위염), TA(선종), cancer(암)}이 존재한다고 하면, 제1 편향치, 제2 편향치는 다음과 같이 표현할 수 있다.
Figure 112018062406168-pat00007
(여기에서
Figure 112018062406168-pat00008
는 제1 편향치들의 집합임)
Figure 112018062406168-pat00009
(여기에서
Figure 112018062406168-pat00010
는 제2 편향치들의 집합임)
이제 본 발명의 편향된 검색에 따라 p-노름(
Figure 112018062406168-pat00011
)에 클래스별로 같거나 상이한 편향치{wc(j)(제1 편향치), bc(j)(제2 편향치); 여기에서 c(j)는
Figure 112018062406168-pat00012
의 클래스를 나타내는 인덱스임}를 준 값들(
Figure 112018062406168-pat00013
)로 이루어진 새로운 집합
Figure 112018062406168-pat00014
에서 원소의 값이 작은 j에 대응하는 식별자를 찾아 이에 대응되는 유사 영상을 검색 결과로 하는 방식으로, 특정의 클래스에 치우친 검색을 수행할 수 있는데, 달리 말하자면, 특정 클래스를 우선적으로 검색할 수 있게 된다. 여기에서 편향치는 도 4a에 예시된 바와 같이 클래스마다 하나의 편향치(제1 편향치, 제2 편향치 중 하나)를 이용할 수도 있으나, 적절한 사용자 인터페이스를 제공함으로써 클래스별 제1 편향치, 제2 편향치 모두를 이용하는 것도 가능할 것이다.
한편, 입력된 병리 영상의 일부 또는 전부의 m 차원 특징값
Figure 112018062406168-pat00015
에 대하여 직접 편향치를 적용하는 제2 실시예에서는, 유사 영상 검색 모듈(230)이, 입력된 병리 영상의 일부 또는 전부의 특징값(이하 "대상 특징값"이라 함)
Figure 112018062406168-pat00016
에 편향치를 적용한 결과로서 아래 수학식 4로 표현되는
Figure 112018062406168-pat00017
와 제1 데이터베이스에 포함된 소정의 자연수 n개의 특징값
Figure 112018062406168-pat00018
에 대하여 다음과 같이 유사 영상 패치를 검색할 수 있다.
Figure 112018062406168-pat00019
여기에서
Figure 112018062406168-pat00020
,
Figure 112018062406168-pat00021
,
Figure 112018062406168-pat00022
는 각각 CG, TA, cancer 클래스의 평균 특징값을 나타낸다.
유사 영상 검색 모듈(230)은,
Figure 112018062406168-pat00023
중에서 상기 변형된 대상 특징값
Figure 112018062406168-pat00024
를 이용하여 p-노름의 집합을 계산하고, 제1 실시 예와 마찬가지로 그 p-노름 집합에서 원소의 값이 작은 j에 대응하는 식별자를 제2 데이터베이스에서 검색하여 유사 영상 패치 및 진단 정보를 인출할 수 있다. 또한, 제2 실시 예도 제1 실시 예에서와 마찬가지로 제1 편향치 및 제2 편향치 중 적어도 하나가 활용될 수 있다.
앞서 살핀 제1 실시 예, 제2 실시 예에 따라 본 발명의 방법은 사용자가 지정한 클래스에 대하여 우선적으로 유사 영상을 검색할 수 있는 편의를 제공할 수 있다. 본 개시서에서 예시된 실시 예들의 산출 방식은 편향된 검색을 가능하게 하는 일 방안에 불과한바, 편향된 검색을 가능하게 하는 다양한 방식이 적용될 수 있을 것이다.
다만, 통상의 기술자는 이와 같은 Inception V3 외에도 훈련용 데이터 및 이에 대응되는 레이블링 데이터를 이용한 훈련을 통하여 입력되는 영상에 대한 클래스를 산출할 수 있는 다양한 종류의 심층 신경망 알고리즘이 있을 수 있으며, 도 5에 예시된 특정된 구조의 심층 신경망에 한정되지 않음을 이해할 수 있을 것이다.
다음으로, 도 3을 참조하면, 본 발명에 따른 병리 영상 판독 보조 방법은, 컴퓨팅 장치(100)가, 인출된 상기 적어도 하나의 유사 영상을 통신부(110)를 통하여 외부 엔티티에 제공하거나 상기 타 장치로 하여금 제공하도록 지원하는 단계(S300)를 더 포함한다. 상기 적어도 하나의 유사 영상은, 지정된 자연수 n에 대하여, 상기 병리 영상의 상기 일부 또는 전부와 가장 유사한 n개의 영상일 수 있다. 도 4a를 참조하면, 판독 보조 정보 제공부(440)에 적어도 하나의 유사 영상(442; 444)이 제공되어 있다.
앞서 언급된 바와 같이 유사 영상 패치는 진단 정보와 결부되어 저장되어 있을 수 있으므로 상기 유사 영상과 함께 상기 유사 영상에 대응되는 진단 정보(예컨대, 심층 신경망 모듈에 입력된 특정 부분과 유사 영상 간의 유사도, 유사 영상에 결부된 판독문, 증례 요약 등)가 더 제공될 수도 있다. 이러한 진단 정보는 열람의 편의를 위하여 요약되어 제공될 수 있는데, 이 경우 사용자 인터페이스는 그 요약된 정보의 표시에 대한 조작(예컨대, 클릭)을 통하여 보다 상세한 정보를 얻을 수 있도록 구성될 수도 있을 것이다.
본 발명에 따른 병리 영상 판독 보조 방법의 일 실시 예에서는 사용자에 의한 편향치의 조절에 따라 유사 영상을 검색한 결과가 달라지면 그 달라진 검색 결과를 실시간으로 제공할 수 있도록 앞서 설명된 단계들(S150 내지 S300)이 컴퓨팅 장치(100)에 의하여 반복 수행될 수 있는바, 이로써 본 발명의 원하는 목적이 달성될 수 있다.
이제 도 4a를 참조하여 편향치의 조절을 다시 설명하면, 슬라이더(430)에 의하여 조절된 개별 클래스는, 예를 들어, 위암 조직의 병리학적 진단에 따른 클래스로서, 위암, 선종, 위염의 3가지 클래스일 수 있다. 처음에 사용자가 본 발명의 방법에 따라 클래스의 판정 결과를 얻은 때에, 상위에 위치한 유사 영상들은 위암일 가능성이 높을 수 있다. 이때, 사용자는 자신이 가진 지식과 경험에 의하여 그 위암 조직이 선종일 가능성도 검토하고 싶을 수 있는데, 이 경우 사용자는 검색 편향치 조절부(430)를 조작하여 편향치를 조절함으로써 선종인 경우의 유사 영상들을 확인하여 판독에 참고할 수 있을 것이다.
도 4a에 예시적으로 나타난 바와 같이 심층 신경망 모델로부터의 특징값 추출과 데이터베이스의 검색은 실시간으로 이루어질 수 있는바, 이에 따라 데이터베이스 내에서 검색되는 적어도 하나의 최근접 유사 영상(442; 444)과 이에 대응되는 진단 정보도 실시간으로 가시화될 수 있다.
예를 들어, 사용자에 의하여 특정된 특정 부분의 테두리(420)는 판독하고자 하는 주요 클래스(예컨대, 암, 선종 등)에 따라 달리 표시될 수 있다. 일 예시로서, 암에 해당하는 특정 부분의 테두리(420)는 빨간색으로 표시될 수 있을 것이며, 반대로 주요 클래스에 해당하지 않는다면 파란색으로 표시될 수 있을 것이다.
도 4a에 예시적으로 나타난 키워드 검색부(550)는 사용자로부터 특정 단어를 입력 받도록 구성되는데, 사용자는 이를 통하여 그 특정 단어를 포함하는 진단 정보에 대응되는 영상만을 검색의 대상으로 한정할 수도 있다.
도 4a에 예시적으로 도시된 사용자 인터페이스는 주로 의료인의 판독(혹은 진단)의 참고용으로 이용되기 위한 것인데, 참고용이 아닌 직접 진단을 목적으로 하는 사용자 인터페이스는 예컨대 도 4b에 같이 구성될 수도 있다.
도 4b에는 영상의 특징값뿐만 아니라 그 병리 영상이 어느 클래스(570)에 속하는지를 병리 영상 전체에 대하여 계산하여 제공하면서 그 중 중요한 영역, 즉, 의심 영역(suspected region; 560)을 포착하여 이에 대한 유사 영역(542', 544', 546')을 제공하는 예시가 나타나 있다. 본 발명의 방법에 나타난 기술적 특징을 나타내는 사용자 인터페이스는 이들 도 4a, 도 4b의 예시에 한정되지 않음은 물론이다.
지금까지 설명한 바와 같이 본 발명은 그 모든 실시 예 및 변형례에 걸쳐, 사용자 친화적이고 상호작용적인 방식으로 검색 편향치를 조절할 수 있게 하여 병리 영상에 대한 진단의 정확성과 그 효율성을 증대할 수 있고, 심층 신경망의 인공지능으로 학습되기 어려운 진단의 (예컨대, 텍스트의 형식으로 된) 주관적 코멘트들도 사용자에게 제공될 수 있어 환자의 예후나 치료도 보조할 수 있는 효과가 있다.
위 실시 예의 설명에 기초하여 해당 기술분야의 통상의 기술자는, 본 발명의 방법 및/또는 프로세스들, 그리고 그 단계들이 하드웨어, 소프트웨어 또는 특정 용례에 적합한 하드웨어 및 소프트웨어의 임의의 조합으로 실현될 수 있다는 점을 명확하게 이해할 수 있다.
위에서 설명된 기능들 및 프로세스 단계들은 자동으로 수행되거나 전부 또는 일부 사용자 명령(user command)에 대한 응답으로서 수행될 수 있다. 자동으로 수행되는 (단계를 포함하는) 작용(activity)은 상기 작용의 사용자에 의한 직접 개시(direct initiation) 없이 하나 이상의 실행 가능한 명령어들(instructions) 또는 장치 작동(device operation)에 대한 응답으로서 수행된다.
상기 하드웨어는 범용 컴퓨터 및/또는 전용 컴퓨팅 장치 또는 특정 컴퓨팅 장치 또는 특정 컴퓨팅 장치의 특별한 모습 또는 구성요소를 포함할 수 있다. 상기 프로세스들은 내부 및/또는 외부 메모리를 가지는, 하나 이상의 마이크로프로세서, 마이크로컨트롤러, 임베디드 마이크로컨트롤러, 프로그래머블 디지털 신호 프로세서 또는 기타 프로그래머블 장치에 의하여 실현될 수 있다. 게다가, 혹은 대안으로서, 상기 프로세스들은 주문형 집적회로(application specific integrated circuit; ASIC), 프로그래머블 게이트 어레이(programmable gate array), 프로그래머블 어레이 로직(Programmable Array Logic; PAL) 또는 전자 신호들을 처리하기 위해 구성될 수 있는 임의의 다른 장치 또는 장치들의 조합으로 실시될 수 있다. 더욱이 본 발명의 기술적 해법의 대상물 또는 선행 기술들에 기여하는 부분들은 다양한 컴퓨터 구성요소를 통하여 수행될 수 있는 프로그램 명령어의 형태로 구현되어 기계 판독 가능한 기록 매체에 기록될 수 있다. 상기 기계 판독 가능한 기록 매체는 프로그램 명령어, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 기계 판독 가능한 기록 매체에 기록되는 프로그램 명령어는 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 분야의 통상의 기술자에게 공지되어 사용 가능한 것일 수도 있다. 기계 판독 가능한 기록 매체의 예에는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM, DVD, Blu-ray와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 ROM, RAM, 플래시 메모리 등과 같은 프로그램 명령어를 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령어의 예에는, 전술한 장치들 중 어느 하나뿐만 아니라 프로세서, 프로세서 아키텍처 또는 상이한 하드웨어 및 소프트웨어의 조합들의 이종 조합, 또는 다른 어떤 프로그램 명령어들을 실행할 수 있는 기계 상에서 실행되기 위하여 저장 및 컴파일 또는 인터프리트될 수 있는, C와 같은 구조적 프로그래밍 언어, C++ 같은 객체지향적 프로그래밍 언어 또는 고급 또는 저급 프로그래밍 언어(어셈블리어, 하드웨어 기술 언어들 및 데이터베이스 프로그래밍 언어 및 기술들)를 사용하여 만들어질 수 있는바, 기계어 코드, 바이트코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드도 이에 포함된다.
따라서 본 발명에 따른 일 태양에서는, 앞서 설명된 방법 및 그 조합들이 하나 이상의 컴퓨팅 장치들에 의하여 수행될 때, 그 방법 및 방법의 조합들이 각 단계들을 수행하는 실행 가능한 코드로서 실시될 수 있다. 다른 일 태양에서는, 상기 방법은 상기 단계들을 수행하는 시스템들로서 실시될 수 있고, 방법들은 장치들에 걸쳐 여러 가지 방법으로 분산되거나 모든 기능들이 하나의 전용, 독립형 장치 또는 다른 하드웨어에 통합될 수 있다. 또 다른 일 태양에서는, 위에서 설명한 프로세스들과 연관된 단계들을 수행하는 수단들은 앞서 설명한 임의의 하드웨어 및/또는 소프트웨어를 포함할 수 있다. 그러한 모든 순차 결합 및 조합들은 본 개시서의 범위 내에 속하도록 의도된 것이다.
예를 들어, 상기 하드웨어 장치는 본 발명에 따른 처리를 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다. 상기 하드웨어 장치는, 프로그램 명령어를 저장하기 위한 ROM/RAM 등과 같은 메모리와 결합되고 상기 메모리에 저장된 명령어들을 실행하도록 구성되는 MPU, CPU, GPU, TPU와 같은 프로세서를 포함할 수 있으며, 외부 장치와 신호를 주고받을 수 있는 통신부를 포함할 수 있다. 덧붙여, 상기 하드웨어 장치는 개발자들에 의하여 작성된 명령어들을 전달받기 위한 키보드, 마우스, 기타 외부 입력장치를 포함할 수 있다.
이상에서 본 발명이 구체적인 구성요소 등과 같은 특정 사항들과 한정된 실시 예 및 도면에 의해 설명되었으나, 첨부된 도면들의 시스템 및 프로세스들은 배타적인 것이 아니다. 다른 시스템들, 프로세스들 및 메뉴들이 동일한 목적을 달성하기 위하여 본 발명의 원리에 따라 도출될 수 있다. 비록 본 발명이 특정 실시 예들을 참조하여 설명되었지만, 본 개시서에서 도시되고 설명된 실시 예들 및 변형례들이 설명을 위한 목적만을 가진 것임이 이해될 것이다. 본 발명의 보호범위에서 일탈됨 없이 본 개시서의 설계에 대한 변경물이 통상의 기술자에 의하여 구현될 수 있을 것이다. 본 개시서에서 설명된 바와 같이 다양한 시스템들, 부수 시스템들, 에이전트들(agents), 관리자들(managers) 및 프로세스들이 하드웨어 구성요소, 소프트웨어 구성요소 및/또는 그것들의 조합을 이용하여 구현될 수 있다.
따라서, 본 발명의 사상은 상기 설명된 실시 예에 국한되어 정해져서는 아니되며, 후술하는 특허청구범위뿐만 아니라 이 특허청구범위와 균등하게 또는 등가적으로 변형된 모든 것들은 본 발명의 사상의 범주에 속한다고 할 것이다.
그와 같이 균등하게 또는 등가적으로 변형된 것에는, 예컨대 본 발명에 따른 방법을 실시한 것과 동일한 결과를 낼 수 있는, 논리적으로 동치(logically equivalent)인 방법이 포함될 것인바, 본 발명의 진의 및 범위는 전술한 예시들에 의하여 제한되어서는 아니되며, 법률에 의하여 허용 가능한 가장 넓은 의미로 이해되어야 한다.

Claims (12)

  1. 병리 영상의 판독을 보조하는 방법에 있어서,
    (a) 컴퓨팅 장치가, 판독 대상인 병리 영상을 획득하거나 상기 컴퓨팅 장치에 연동되는 타 장치로 하여금 상기 병리 영상을 획득하도록 지원하는 단계;
    (b) 상기 컴퓨팅 장치가, 다수의 병리학적 클래스 중 적어도 하나에 대한 편향치(biases)의 설정 정보를 입력받기 위한 사용자 인터페이스를 제공하거나 상기 타 장치로 하여금 상기 사용자 인터페이스를 제공하도록 지원하는 단계;
    (c) 상기 컴퓨팅 장치가, 입력되는 영상을 상기 다수의 병리학적 클래스(class)에 따라 분류하도록 미리 훈련된 심층 신경망에 기초하여 상기 병리 영상의 일부 또는 전부와 유사한 적어도 하나의 유사 영상을 검색하거나 상기 타 장치로 하여금 상기 유사 영상을 검색하도록 지원하는 단계; 및
    (d) 상기 컴퓨팅 장치가, 상기 유사 영상을 외부 엔티티(external entity)에 제공하거나 상기 타 장치로 하여금 제공하도록 지원하는 단계
    를 포함하며,
    상기 유사 영상의 검색은 상기 사용자 인터페이스를 통해 입력받은 편향치에 기초하여 상기 다수의 병리학적 클래스 중 적어도 하나의 특정 클래스에 편향되어 상기 유사 영상을 검색하는 병리 영상 판독 보조 방법.
  2. 제1항에 있어서,
    상기 (c) 단계 전에,
    (c0) 상기 컴퓨팅 장치가, 상기 사용자 인터페이스를 통한 사용자의 입력에 응하여 상기 소정의 편향치를 조절하거나 상기 타 장치로 하여금 조절하도록 지원하는 단계
    를 더 포함하는 병리 영상 판독 보조 방법.
  3. 제2항에 있어서,
    상기 (c0) 단계 내지 (d) 단계는,
    상기 컴퓨팅 장치에 의하여 반복 수행되는 것을 특징으로 하는 병리 영상 판독 보조 방법.
  4. 제1항에 있어서,
    상기 (c) 단계는,
    (c1) 상기 컴퓨팅 장치가, 상기 병리 영상을 분할한 영상 패치(image patch)의 특징값에 기초하여 상기 특징값과 동일하거나 유사한 유사 특징값을 검색하거나 상기 타 장치로 하여금 검색하도록 지원하는 단계; 및
    (c2) 상기 컴퓨팅 장치가, 상기 유사 특징값에 대응되는 유사 영상 패치를 포함하는 상기 유사 영상을 인출하거나 상기 타 장치로 하여금 인출하도록 지원하는 단계
    를 포함하는 것을 특징으로 하는 병리 영상 판독 보조 방법.
  5. 제4항에 있어서,
    상기 (c) 단계는,
    상기 유사 특징값에 대하여 식별자(identifier; id)가 부여되며, 상기 컴퓨팅 장치가, 상기 식별자를 이용하여 상기 유사 특징값에 대응되는 유사 영상 패치를 인출하는 것을 특징으로 하는 병리 영상 판독 보조 방법.
  6. 제1항에 있어서,
    상기 (d) 단계에서,
    상기 유사 영상과 함께 상기 유사 영상에 대응되는 진단 정보가 제공되는 것을 특징으로 하는 병리 영상 판독 보조 방법.
  7. 컴퓨팅 장치로 하여금, 제1항 내지 제6항 중 어느 한 항의 방법을 수행하도록 구현된 명령어(instructions)를 포함하는, 기계 판독 가능한 비일시적 기록 매체에 저장된, 컴퓨터 프로그램.
  8. 병리 영상의 판독을 보조하는 컴퓨팅 장치에 있어서,
    병리 영상을 획득하는 통신부;
    (i) 다수의 병리학적 클래스 중 적어도 하나에 대한 편향치(biases)의 설정 정보를 입력받기 위한 사용자 인터페이스를 제공하는 프로세스; (ii) 입력되는 영상을 다수의 병리학적 클래스(class)에 따라 분류하도록 미리 훈련된 심층 신경망에 기초하여 상기 병리 영상의 적어도 일부 또는 전부와 유사한 적어도 하나의 유사 영상을 검색하는 프로세스; 및 (iii) 상기 유사 영상을 외부 엔티티(external entity)에 제공하는 프로세스를 수행하거나 상기 통신부를 통하여 연동되는 타 장치로 하여금 수행하도록 지원하는 프로세서
    를 포함하되,
    상기 유사 영상의 검색은 상기 사용자 인터페이스를 통해 입력받은 편향치에 기초하여 상기 다수의 병리학적 클래스 중 적어도 하나의 특정 클래스에 편향되어 상기 유사 영상을 검색하는 병리 영상 판독 보조 장치.
  9. 제8항에 있어서,
    상기 (ii) 프로세스의 수행에 앞서,
    상기 프로세서는,
    (ii0) 상기 사용자 인터페이스를 통한 사용자의 입력에 응하여 상기 소정의 편향치를 조절하는 프로세스
    를 수행하거나 상기 타 장치로 하여금 수행하도록 지원하는 것을 특징으로 하는 병리 영상 판독 보조 장치.
  10. 제9항에 있어서,
    상기 (ii0) 프로세스 내지 (iii) 프로세스는,
    상기 프로세서에 의하여 반복 수행되는 것을 특징으로 하는 병리 영상 판독 보조 장치.
  11. 제8항에 있어서,
    상기 (ii) 프로세스는,
    (ii1) 상기 병리 영상을 분할한 영상 패치(image patch)의 특징값에 기초하여 상기 특징값과 동일하거나 유사한 유사 특징값을 검색하는 프로세스; 및
    (ii2) 상기 유사 특징값에 대응되는 유사 영상 패치를 포함하는 상기 유사 영상을 인출하는 프로세스
    를 포함하는 것을 특징으로 하는 병리 영상 판독 보조 장치.
  12. 제11항에 있어서,
    상기 (ii) 프로세스는,
    상기 유사 특징값에 대하여 식별자(identifier; id)가 부여되며, 상기 프로세서가, 상기 식별자를 이용하여 상기 유사 특징값에 대응되는 유사 영상 패치를 인출하는 것을 특징으로 하는 병리 영상 판독 보조 장치.
KR1020180073104A 2018-06-26 2018-06-26 병리 영상의 판독을 보조하는 방법 및 이를 이용한 장치 KR101925603B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020180073104A KR101925603B1 (ko) 2018-06-26 2018-06-26 병리 영상의 판독을 보조하는 방법 및 이를 이용한 장치

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020180073104A KR101925603B1 (ko) 2018-06-26 2018-06-26 병리 영상의 판독을 보조하는 방법 및 이를 이용한 장치

Publications (1)

Publication Number Publication Date
KR101925603B1 true KR101925603B1 (ko) 2019-02-26

Family

ID=65562416

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020180073104A KR101925603B1 (ko) 2018-06-26 2018-06-26 병리 영상의 판독을 보조하는 방법 및 이를 이용한 장치

Country Status (1)

Country Link
KR (1) KR101925603B1 (ko)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020180003A1 (ko) * 2019-03-04 2020-09-10 주식회사 엑소퍼트 엑소좀에 의한 인공지능 기반의 액체생검을 이용한 암 진단 정보 제공 방법 및 시스템
CN112304952A (zh) * 2019-07-23 2021-02-02 纬创资通股份有限公司 影像辨识装置、影像辨识方法及其计算机程序产品
KR20210129850A (ko) * 2020-04-21 2021-10-29 재단법인대구경북과학기술원 조직 병리학 분류를 위한 다중 인스턴스 학습 방법
US11810312B2 (en) 2020-04-21 2023-11-07 Daegu Gyeongbuk Institute Of Science And Technology Multiple instance learning method

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20140065594A (ko) * 2012-11-16 2014-05-30 삼성전자주식회사 컴퓨터 보조 진단 지원 장치 및 방법
KR20140082385A (ko) * 2012-12-24 2014-07-02 계명대학교 산학협력단 영상 군집화 기반의 의료 영상 검색 방법
KR20180040287A (ko) * 2016-10-12 2018-04-20 (주)헬스허브 기계학습을 통한 의료영상 판독 및 진단 통합 시스템

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20140065594A (ko) * 2012-11-16 2014-05-30 삼성전자주식회사 컴퓨터 보조 진단 지원 장치 및 방법
KR20140082385A (ko) * 2012-12-24 2014-07-02 계명대학교 산학협력단 영상 군집화 기반의 의료 영상 검색 방법
KR20180040287A (ko) * 2016-10-12 2018-04-20 (주)헬스허브 기계학습을 통한 의료영상 판독 및 진단 통합 시스템

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020180003A1 (ko) * 2019-03-04 2020-09-10 주식회사 엑소퍼트 엑소좀에 의한 인공지능 기반의 액체생검을 이용한 암 진단 정보 제공 방법 및 시스템
KR20200108938A (ko) 2019-03-04 2020-09-22 주식회사 엑소퍼트 엑소좀에 의한 인공지능 기반의 액체생검을 이용한 암 진단 정보 제공 방법 및 시스템
CN113194820A (zh) * 2019-03-04 2021-07-30 艾索波特株式会社 借助外泌体的基于人工智能的利用液体活检的癌诊断信息提供方法及系统
KR102291105B1 (ko) * 2019-03-04 2021-08-23 주식회사 엑소퍼트 엑소좀에 의한 인공지능 기반의 액체생검을 이용한 암 진단 정보 제공 방법 및 시스템
CN112304952A (zh) * 2019-07-23 2021-02-02 纬创资通股份有限公司 影像辨识装置、影像辨识方法及其计算机程序产品
CN112304952B (zh) * 2019-07-23 2024-04-02 纬创资通股份有限公司 影像辨识装置、影像辨识方法及其计算机程序产品
KR20210129850A (ko) * 2020-04-21 2021-10-29 재단법인대구경북과학기술원 조직 병리학 분류를 위한 다중 인스턴스 학습 방법
KR102495367B1 (ko) 2020-04-21 2023-02-01 재단법인대구경북과학기술원 조직 병리학 분류를 위한 다중 인스턴스 학습 방법
US11810312B2 (en) 2020-04-21 2023-11-07 Daegu Gyeongbuk Institute Of Science And Technology Multiple instance learning method

Similar Documents

Publication Publication Date Title
US10482603B1 (en) Medical image segmentation using an integrated edge guidance module and object segmentation network
US10607346B2 (en) Method for characterizing images acquired through a video medical device
EP3937183A1 (en) Image analysis method, microscope video stream processing method, and related apparatus
Huang et al. Instance-aware image and sentence matching with selective multimodal lstm
Pogorelov et al. Efficient disease detection in gastrointestinal videos–global features versus neural networks
WO2021051965A1 (zh) 图像处理方法及装置、电子设备、存储介质和计算机程序
KR101925603B1 (ko) 병리 영상의 판독을 보조하는 방법 및 이를 이용한 장치
Liu et al. Recent progress in transformer-based medical image analysis
CN111091010A (zh) 相似度确定、网络训练、查找方法及装置和存储介质
Nie et al. Recent advances in diagnosis of skin lesions using dermoscopic images based on deep learning
KR102222816B1 (ko) 진행성 병변의 미래 영상을 생성하는 방법 및 이를 이용한 장치
CN115965785A (zh) 图像分割方法、装置、设备、程序产品及介质
Rani et al. Skin disease diagnosis using vgg19 algorithm and treatment recommendation system
Cheng et al. Double attention for pathology image diagnosis network with visual interpretability
KR101957810B1 (ko) 영상을 다배율로 촬영하는 방법, 이를 위한 제어 장치 및 촬영 장치
Mansour Multimodal biomedical image retrieval and indexing system using handcrafted with deep convolution neural network features
US20240013383A1 (en) Computer-implemented systems and methods for intelligent image analysis using spatio-temporal information
US20240020835A1 (en) Computer-implemented systems and methods for intelligent image analysis using spatio-temporal information
AU2021105721A4 (en) System and method for classifying skin cancer lesions using deep neural networks and transfer learning
WO2024016691A1 (zh) 一种图像检索方法、模型训练方法、装置及存储介质
Oliveira et al. PathoSpotter: computational intelligence applied to nephropathology
WO2024045819A1 (zh) 病变区域确定方法、模型训练方法及装置
US20240071586A1 (en) Systems and methods of radiology report processing and display enhancements
Shehata et al. Algorithms of Deep Learning: Convolutional Neural Network Role with Colon Cancer Disease
Codex Advancements in Weakly Supervised Segmentation Methods for Volumetric SD-OCT Imaging: A Review