KR101922978B1 - 입력 영상과 출력 영상의 교차 열람을 지원하는 방법 및 이를 이용한 장치 - Google Patents

Abstract

본 발명은 입력 영상과 출력 영상의 교차 열람을 지원하는 방법 및 이를 이용한 장치에 관한 것이다. 구체적으로, 본 발명에 따른 방법에 의하면, 컴퓨팅 장치가, 상기 입력 영상을 획득하고, 상기 입력 영상을 구성하는 개별 요소인 영상 요소 각각에 대한 클래스를 분류함으로써 상기 입력 영상으로부터 상기 분류의 결과인 출력 영상을 생성하되, 상기 출력 영상에 상기 분류의 신뢰도가 소정의 문턱값보다 낮은 영역을 나타낸 마스크가 부가 표시되며, 상기 입력 영상과 출력 영상의 교차 열람을 위하여, (i) 상기 입력 영상 또는 (ii) 상기 출력 영상 중에서, 입력 장치의 특정 입력의 유무에 따라 정해지는 현재의 상태(state)에 대응되는 영상을 출력 윈도우에 제공한다.

Description

입력 영상과 출력 영상의 교차 열람을 지원하는 방법 및 이를 이용한 장치{METHOD FOR FACILITATING VIEW OF INPUT IMAGE AND OUTPUT IMAGE AND APPARATUS USING THE SAME}

본 발명은 입력 영상과 출력 영상의 교차 열람을 지원하는 방법 및 이를 이용한 장치에 관한 것이다. 구체적으로, 본 발명에 따른 방법에 의하면, 컴퓨팅 장치가, 상기 입력 영상을 획득하고, 상기 입력 영상을 구성하는 개별 요소인 영상 요소 각각에 대한 클래스를 분류함으로써 상기 입력 영상으로부터 상기 분류의 결과인 출력 영상을 생성하되, 상기 출력 영상에 상기 분류의 신뢰도가 소정의 문턱값보다 낮은 영역을 나타낸 마스크가 부가 표시되며, 상기 입력 영상과 출력 영상의 교차 열람을 위하여, (i) 상기 입력 영상 또는 (ii) 상기 출력 영상 중에서, 입력 장치의 특정 입력의 유무에 따라 정해지는 현재의 상태(state)에 대응되는 영상을 출력 윈도우에 제공한다.

세포, 조직 등을 포함하는 신체의 해부학적 객체, 즉, 장기의 절편을 올린 전체 슬라이드 영상(WSI; whole slide image) 또는 현미경을 통한 병리학적 진단은 환자의 치료 방법의 결정과 예후의 예측에 결정적인 역할을 한다. 이러한 진단은, 주로 조직과 세포의 형태를 보고 이루어진다. 영상은 세부적인 진단을 통하여 다양한 암종 및 클래스(class)로 나누어지는데, 근래의 인공지능(artificial intelligence) 알고리즘들의 발달을 통하여 그러한 진단이 이미지의 전체 픽셀 단위로(pixel-wise) 실시될 수 있게 됐다.

그러한 인공지능 알고리즘은 슬라이드 영상이 특정 클래스에 해당할 확률(혹은 신뢰도)가 어느 정도 되는지를 픽셀 단위로 출력할 수 있게 되었는바, 픽셀마다 각각의 클래스에 속할 확률이 어느 정도인지가 출력될 수 있다.

인공지능에 의하여 내려진 잠정적 진단 내용의 확정에 있어서, 사용자가 병리 영상을 세부적으로 재검토하는 경우에, 인공지능의 진단 결과들을 사용자가 이해할 수 있어야 하기 때문에, 이를 효과적으로 보여주기 위한 직관적인 사용자 인터페이스(user interface)가 필요하다. 인공지능의 결과물(픽셀 단위의 확률)을 사용자에게 보여주기 위하여 종래에 일반적으로 활용되었던 방식들, 예컨대, 특정 영역에 불투명한 마스크를 씌우거나 다각형의 테두리로 감싸는 등의 방식은 직관적이기는 하지만, 각 영역의 신뢰도를 반영하기 어렵다는 문제가 있었다.

특히, 입력 영상이 그레이스케일(grayscale) 영상인 경우에는 색상을 이용하여 신뢰도를 표현하기 쉬우나 병리학 이미지와 같은 RGB 컬러 영상은 색상 정보 자체에 의미가 있기 때문에 확률이라는 정보를 표현하는 마스크를 생성하는 데 어려움이 있다.

따라서, 본 개시서에서는 전술한 문제점을 해결하여 사용자에게 많은 정보를 원활하게 전달할 수 있는 표시 방식을 구성하는 것이 필요하다.

이를 위하여 본 개시서에서는 인공지능의 분류 혹은 판독 결과인 결과 영상을 원본인 입력 영상과 대조하기 용이한 사용자 인터페이스를 사용자에게 제공함과 동시에 그 인공지능의 결과에 대한 신뢰도를 사용자에게 신속하게 인지될 수 있는 형태로 제공함으로써 최종적인 진단의 속도 및 신뢰성의 향상을 도모할 수 있는 방법 및 장치를 제안하고자 한다.

본 발명은 종래의 인공지능에 의한 분류 혹은 판독 결과 표시 방식의 번거로움을 해소하여, 사용자의 간편한 조작으로 빠르게 입력 영상과 결과 출력 영상을 비교할 수 있으면서도 그 분류 결과의 신뢰도도 용이하게 이해할 수 있도록 하는 것을 일 목적으로 한다.

또한 본 발명은 사용자에게 익숙한 외부 키 입력과 마우스 휠 또는 패드 등을 이용하여 영상의 열람을 손쉽게 할 수 있게 하는 것은 다른 목적으로 한다.

이에 따라 본 발명은 궁극적으로 입력 영상의 밝기의 정보를 손상시키지 않으면서도 영상의 분류 결과의 열람, 예컨대, 인공지능 보조의 병리 영상에 관한 판독에 있어서의 효율성 및 정확성을 향상시키는 것을 목적으로 한다.

상기한 바와 같은 본 발명의 목적을 달성하고, 후술하는 본 발명의 특징적인 효과를 실현하기 위한 본 발명의 특징적인 구성은 하기와 같다.

본 발명의 일 태양(aspect)에 따르면, 입력 영상과 출력 영상의 교차 열람을 지원하는 방법이 제공되는바, 그 방법은, (a) 컴퓨팅 장치가, 상기 입력 영상을 획득하거나 상기 컴퓨팅 장치에 연동되는 타 장치로 하여금 획득하도록 지원하는 단계; (b) 상기 컴퓨팅 장치가, 상기 입력 영상을 구성하는 개별 요소인 영상 요소 각각에 대한 클래스를 분류하거나 상기 타 장치로 하여금 분류하도록 지원함으로써 상기 입력 영상으로부터 상기 분류의 결과인 출력 영상을 생성하거나 상기 타 장치로 하여금 생성하도록 지원하는 단계로서, 상기 출력 영상에 상기 분류의 신뢰도가 소정의 문턱값보다 낮은 영역을 나타낸 마스크가 부가 표시되는 단계; 및 (c) 상기 입력 영상과 출력 영상의 교차 열람을 위하여, 상기 컴퓨팅 장치가, (i) 상기 입력 영상 또는 (ii) 상기 출력 영상 중에서, 입력 장치의 특정 입력의 유무에 따라 정해지는 현재의 상태(state)에 대응되는 영상을 출력 윈도우에 제공하거나 상기 타 장치로 하여금 제공하도록 지원하는 단계를 포함한다.

본 발명의 다른 태양에 따르면, 본 발명에 따른 방법을 수행하도록 구현된 명령어(instructions)를 포함하는, 기계 판독 가능한 비일시적 기록 매체에 저장된, 컴퓨터 프로그램도 제공된다.

본 발명의 또 다른 태양에 따르면, 입력 영상과 출력 영상의 교차 열람을 지원하는 컴퓨팅 장치가 제공되는바, 그 장치는, 상기 입력 영상을 획득하는 통신부; 및 (i) 상기 입력 영상을 구성하는 개별 요소인 영상 요소 각각에 대한 클래스를 분류함으로써 상기 입력 영상으로부터 상기 분류의 결과인 출력 영상을 생성하는 프로세스로서, 상기 출력 영상에 상기 분류의 신뢰도가 소정의 문턱값보다 낮은 영역을 나타낸 마스크가 부가 표시되는 프로세스, 및 (ii) 상기 입력 영상과 출력 영상의 교차 열람을 위하여, 상기 입력 영상 또는 상기 출력 영상 중에서, 입력 장치의 특정 입력의 유무에 따라 정해지는 현재의 상태(state)에 대응되는 영상을 출력 윈도우에 제공하는 프로세스를 수행하거나 상기 통신부를 통하여 연동되는 타 장치로 하여금 수행하도록 지원하는 프로세서를 포함한다.

본 발명에 의하면 입력 영상과 출력 영상 간의 전환을 신속하게 할 수 있으면서도, 출력 영상에 나타난 분류 결과의 신뢰도도 함께 용이하게 이해할 수 있는 효과가 있다.

따라서, 본 발명에 의하면, 인공지능의 분류가 불확실한 영역에 대해서도 사용자가 이해하기 용이하므로 더욱 유심히 살펴볼 수 있는바, 궁극적으로 분류 혹은 판독의 정확성 또는 높아질 수 있는 효과가 있다.

이와 같은 본 발명의 실시 예에 따른 효과는 특정 형식(modality)의 영상뿐만 아니라 널리 다양한 형식의 2차원 영상 또는 3차원 영상들에 적용될 수 있는바, 본 발명의 방법이 특정 형식이나 플랫폼에 종속되지 않음은 물론이다.

본 발명의 실시 예의 설명에 이용되기 위하여 첨부된 아래 도면들은 본 발명의 실시 예들 중 단지 일부일 뿐이며, 본 발명이 속한 기술분야의 통상의 기술자에게 있어서는 신규한 발명에 이르는 노력 없이도 이 도면들에 기초하여 다른 도면들이 얻어질 수 있다.
도 1은 본 발명에 따라 입력 영상과 출력 영상의 교차 열람을 지원하는 방법(이하 "입출력 영상 교차 열람 지원 방법"이라 함)을 수행하는 컴퓨팅 장치의 예시적 구성을 개략적으로 도시한 개념도이다.
도 2는 본 발명에 따른 입출력 영상 교차 열람 지원 방법을 수행하는 장치의 하드웨어 또는 소프트웨어 구성요소를 입력 영상 및 출력 영상과 함께 개략적으로 도시한 블록도이다.
도 3은 본 발명에 따른 입출력 영상 교차 열람 지원 방법을 예시적으로 나타낸 블록도이다.
도 4는 본 발명에 따른 입출력 영상 교차 열람 지원 방법에서 제공될 수 있는 사용자 인터페이스를 예시적으로 나타낸 개념도이다.
도 5는 본 발명의 입출력 영상 교차 열람 지원 방법에서 입력 장치의 특정 입력들에 따라 입출력 영상 간의 전환이 이루어지는 방식을 설명하기 위하여 나타낸 개념도이다.
도 6은 본 발명의 입출력 영상 교차 열람 지원 방법에서 소정의 문턱값을 조절함으로써 출력 영상이 달라지는 방식을 설명하기 위한 개념도이다.

후술하는 본 발명에 대한 상세한 설명은, 본 발명의 목적들, 기술적 해법들 및 장점들을 분명하게 하기 위하여 본 발명이 실시될 수 있는 특정 실시 예를 예시로서 도시하는 첨부 도면을 참조한다. 이들 실시 예는 통상의 기술자가 본 발명을 실시할 수 있기에 충분하도록 상세히 설명된다.

본 발명의 상세한 설명 및 청구항들에 걸쳐 이용된 "영상", "이미지", "영상 데이터" 또는 "이미지 데이터"라는 용어는 이산적 영상 요소들(예컨대, 2차원 영상에 있어서는 픽셀, 3차원 영상에 있어서는 복셀)로 구성된 다차원 데이터를 지칭하며, 달리 말하자면, (예컨대, 비디오 화면에 표시된) 눈으로 볼 수 있는 대상 또는 (예컨대, 픽셀 혹은 복셀 출력에 대응되는 파일과 같은) 그 대상의 디지털 표현물을 지칭하는 용어이다.

예를 들어 "영상"은 현미경 영상의 촬영과 같이 공지된 임의의 영상 촬영 방식에 따라 수집된 피검체(subject)의 영상일 수 있다. 그러나 그 영상이 반드시 의료적 맥락에서 제공되어야 하는 것은 아니고 비의료적 맥락에서 제공될 수도 있다.

설명의 편의를 위하여 제시된 도면에서는 예시적인 일부의 영상 형식(modality)이 도시되어 있으나 통상의 기술자는 본 발명의 다양한 실시 예에서 이용되는 영상 형식들이 이에 한정되지 않고 클래스 분류를 요하는 다양한 영상을 포함할 수 있다는 점을 이해할 수 있을 것이다.

그리고 본 발명의 상세한 설명 및 청구항들에 걸쳐, '포함하다'라는 단어 및 그 변형은 다른 기술적 특징들, 부가물들, 구성요소들 또는 단계들을 제외하는 것으로 의도된 것이 아니다. 또한, '하나' 또는 '한'은 하나 이상의 의미로 쓰인 것이며, '또 다른'은 적어도 두 번째 이상으로 한정된다.

본 개시서에서 언급되는 사용자는 단수만을 지칭하는 것이 아니라 영상 및 그 관련 데이터를 풍부하고 중첩적으로 획득하기 위한 목적의 복수 사용자를 지칭할 수도 있는바, 이에는 영상의 훈련(학습) 또는 실제 사용에 있어서 영상의 무결성(integrity)을 확보하기 위한 목적이 있을 수 있다.

통상의 기술자에게 본 발명의 다른 목적들, 장점들 및 특성들이 일부는 본 설명서로부터, 그리고 일부는 본 발명의 실시로부터 드러날 것이다. 아래의 예시 및 도면은 실례로서 제공되며, 본 발명을 한정하는 것으로 의도된 것이 아니다. 따라서, 특정 구조나 기능에 관하여 본 개시서에 개시된 상세 사항들은 한정하는 의미로 해석되어서는 아니되고, 단지 통상의 기술자가 실질적으로 적합한 임의의 상세 구조들로써 본 발명을 다양하게 실시하도록 지침을 제공하는 대표적인 기초 자료로 해석되어야 할 것이다.

더욱이 본 발명은 본 개시서에 표시된 실시 예들의 모든 가능한 조합들을 망라한다. 본 발명의 다양한 실시 예는 서로 다르지만 상호 배타적일 필요는 없음이 이해되어야 한다. 예를 들어, 여기에 기재되어 있는 특정 형상, 구조 및 특성은 일 실시 예에 관련하여 본 발명의 사상 및 범위를 벗어나지 않으면서 다른 실시 예로 구현될 수 있다. 또한, 각각의 개시된 실시 예 내의 개별 구성요소의 위치 또는 배치는 본 발명의 사상 및 범위를 벗어나지 않으면서 변경될 수 있음이 이해되어야 한다. 따라서, 후술하는 상세한 설명은 한정적인 의미로서 취하려는 것이 아니며, 본 발명의 범위는, 적절하게 설명된다면, 그 청구항들이 주장하는 것과 균등한 모든 범위와 더불어 첨부된 청구항에 의해서만 한정된다. 도면에서 유사한 참조부호는 여러 측면에 걸쳐서 동일하거나 유사한 기능을 지칭한다.

본 개시서에서 달리 표시되거나 분명히 문맥에 모순되지 않는 한, 단수로 지칭된 항목은, 그 문맥에서 달리 요구되지 않는 한, 복수의 것을 아우른다. 또한, 본 발명을 설명함에 있어, 관련된 공지 구성 또는 기능에 대한 구체적인 설명이 본 발명의 요지를 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명은 생략한다.

도 1은 본 발명에 따른 입출력 영상 교차 열람 지원 방법을 수행하는 컴퓨팅 장치의 예시적 구성을 개략적으로 도시한 개념도이다.

도 1을 참조하면, 본 발명의 일 실시 예에 따른 컴퓨팅 장치(100)는, 통신부(110) 및 프로세서(120)를 포함하며, 상기 통신부(110)를 통하여 외부 컴퓨팅 장치(미도시)와 직간접적으로 통신할 수 있다.

구체적으로, 상기 컴퓨팅 장치(100)는, 전형적인 컴퓨터 하드웨어(예컨대, 컴퓨터 프로세서, 메모리, 스토리지, 입력 장치 및 출력 장치, 기타 기존의 컴퓨팅 장치의 구성요소들을 포함할 수 있는 장치; 라우터, 스위치 등과 같은 전자 통신 장치; 네트워크 부착 스토리지(NAS; network-attached storage) 및 스토리지 영역 네트워크(SAN; storage area network)와 같은 전자 정보 스토리지 시스템)와 컴퓨터 소프트웨어(즉, 컴퓨팅 장치로 하여금 특정의 방식으로 기능하게 하는 명령어들)의 조합을 이용하여 원하는 시스템 성능을 달성하는 것일 수 있다.

이와 같은 컴퓨팅 장치의 통신부(110)는 연동되는 타 컴퓨팅 장치와 요청과 응답을 송수신할 수 있는바, 일 예시로서 그러한 요청과 응답은 동일한 TCP(transmission control protocol) 세션(session)에 의하여 이루어질 수 있지만, 이에 한정되지는 않는바, 예컨대 UDP(user datagram protocol) 데이터그램(datagram)으로서 송수신될 수도 있을 것이다. 덧붙여, 넓은 의미에서 상기 통신부(110)는 명령어 또는 지시 등을 전달받기 위한 키보드, 마우스, 기타 외부 입력장치, 프린터 등 인쇄장치, 디스플레이 장치, 기타 외부 출력장치를 포함할 수 있다.

또한, 컴퓨팅 장치의 프로세서(120)는 MPU(micro processing unit), CPU(central processing unit), GPU(graphics processing unit), NPU(neural processing unit) 또는 TPU(tensor processing unit), 캐시 메모리(cache memory), 데이터 버스(data bus) 등의 하드웨어 구성을 포함할 수 있다. 또한, 운영체제, 특정 목적을 수행하는 애플리케이션의 소프트웨어 구성을 더 포함할 수도 있다.

도 2는 본 발명에 따른 입출력 영상 교차 열람 지원 방법을 수행하는 장치의 하드웨어 또는 소프트웨어 구성요소를 입력 영상(1) 및 출력 영상(2)과 함께 개략적으로 도시한 블록도이다.

도 2를 참조하여 본 발명에 따른 방법 및 장치의 구성을 간략히 개관하면, 컴퓨팅 장치(100)는 그 구성요소로서 영상 획득 모듈(210)을 포함할 수 있다. 이 영상 획득 모듈(210)은 본 발명에 따른 방법이 적용되는 입력 영상을 획득하도록 구성된다. 상기 영상은, 예를 들어, 통신부(110)를 통하여 연동되는 타 영상 촬영 장치(미도시)로부터 획득되는 것일 수 있다.

획득된 입력 영상의 일부 또는 전부는 그 입력 영상에 속한 영상 요소 각각을 2 이상의 클래스(class)로 분류하는 기계학습 모델(222), 예컨대, 미리 훈련된 심층 신경망 모델을 포함하는 판독 모듈(220)에 전달될 수 있는데, 판독 모듈(220)은 심층 신경망 모델(222), 이를 이용하여 특징값(feature value; feature vector)을 생성하는 특징값 층(224) 및 그 특징값을 통하여 영상 요소를 분류하여 분류 정보를 생성하는 분류기(226)를 포함한다. 이 특징값 층(224)은, 전형적으로, 전결합층(fully-connected layer)일 수 있다.

판독 모듈(220)에 의하여 생성된 분류 정보는, 영상 생성 모듈(230)이 상기 입력 영상으로부터 클래스별로 색상이 표기된 출력 영상을 생성하는 데 이용되는데, 소정의 입력 모듈(250)에 의하여 감지된 입력 장치의 특정 입력에 따라 소정의 문턱값이 증감 조절되어 출력 영상의 생성에 이용될 수 있는바, 이는 도 3 내지 도 6을 참조하여 후술하기로 한다.

생성된 출력 영상(2)은 출력 모듈(240)에 의하여 외부 엔티티(external entity)에 제공될 수 있는데, 이를 위하여 출력 모듈(240)은 디스플레이 장치(미도시)를 포함할 수 있다. 여기에서 외부 엔티티라고 함은, 상기 컴퓨팅 장치(100)의 사용자, 관리자 등을 포함하나, 이 이외에도 그 영상의 분류(판정, 판독 등)을 필요로 하는 주체라면 어느 주체라도 포함되는 것으로 이해되어야 할 것이다. 외부 엔티티는 상기 정보를 이용하는 인공지능 주체(artificial intelligence entity)일 수도 있으며, 그 정보를 저장하기 위한 저장 장치일 수도 있다.

이와 같이 도 2에 도시된 모듈들은, 예컨대, 컴퓨팅 장치(100)에 포함된 통신부(110)나 프로세서(120), 또는 상기 통신부(110) 및 프로세서(120)의 연동에 의하여 구현될 수 있음은 통상의 기술자가 이해할 수 있을 것이며, 아래에서 그 기능 및 효과 등에 관하여 더 상세하게 설명될 것이다. 도 2에 나타난 모듈들은 설명의 편의상 하나의 컴퓨팅 장치에서 실현되는 것으로 예시되었으나, 본 발명의 방법을 수행하는 장치(100)는 복수개의 장치들이 서로 연동되도록 구성될 수도 있으며, 이는 본 개시서에 첨부된 청구범위에 의하여 망라될 수 있다는 점이 이해될 것이다.

도 3은 본 발명에 따른 입출력 영상 교차 열람 지원 방법을 예시적으로 나타낸 블록도이며, 도 4는 본 발명에 따른 입출력 영상 교차 열람 지원 방법에서 제공될 수 있는 사용자 인터페이스를 예시적으로 나타낸 개념도이다.

우선, 도 3을 참조하여 설명하면, 본 발명에 따른 입출력 영상 교차 열람 지원 방법은, 컴퓨팅 장치(100)에 의하여 구현되는 영상 획득 모듈(210)이, 입력 영상(1)을 획득하거나 상기 컴퓨팅 장치의 통신부(110)를 통하여 연동되는 타 장치(미도시)로 하여금 상기 입력 영상(1)을 획득하도록 지원하는 단계(S100)를 포함한다.

다음으로, 본 발명에 따른 입출력 영상 교차 열람 지원 방법은, 컴퓨팅 장치(100)에 의하여 구현되는 판독 모듈(220)이, 상기 입력 영상(1)을 구성하는 개별 요소인 영상 요소 각각에 대한 클래스를 분류하거나 상기 타 장치로 하여금 분류하도록 지원함으로써, 컴퓨팅 장치(100)에 의하여 구현되는 영상 생성 모듈(230)이, 상기 입력 영상(1)으로부터 상기 분류의 결과인 출력 영상(2)을 생성하거나 상기 타 장치로 하여금 생성하도록 지원하는 단계(S200)를 더 포함한다. 여기에서 상기 출력 영상에는 상기 분류의 신뢰도가 소정의 문턱값보다 낮은 영역을 나타낸 마스크가 부가 표시된다.

일 실시 예에서는, 단계(S200)에서 상기 출력 영상의 상기 영상 요소 각각은 분류된 클래스별로 상이한 색상으로 표시될 수 있으며, 상기 부가 표시로서 상기 마스크에 해당하는 영역은 그레이스케일로 표시될 수 있다. 즉, 신뢰도가 낮아 판독이 불확실한 영역(신뢰도 문턱값 미만)은 그레이스케일로 표현되며, 판독이 확실한 영역(신뢰도 문턱값 이상)은 상이한 색상들로 맵핑된다.

본 발명의 실시 예에 따른 사용자 인터페이스가 도시된 도 4를 참조하면, 주 영상 표시부 또는 출력 윈도우(410)에는 입력 영상의 전부 또는 일부가 표시되며, 제1 보조 영상 표시부(420) 및 제2 보조 영상 표시부(430)에는 각각 입력 영상의 전부, 출력 영상의 전부가 표시되는데, 이는 입력 영상과 출력 영상 중에서 어느 부분(420'; 430')이 주 영상 표시부 또는 출력 윈도우 (410)에 스케일링(예컨대 확대)되어 표시되고 있는지를 보여주기 위한 것이다. 제2 보조 영상 표시부(430)에 표시되는 출력 영상은 전술한 소정의 문턱값 이상의 신뢰도를 가진 분류 결과만을 보여주도록 구성될 수 있다. 사용자는 클릭, 드래그, 마우스 휠 조작 등의 동작을 통하여 입력 영상 중에서 출력 윈도우(410)에 나타낼 부분을 적절하게 선택할 수 있는바, 통상의 기술자에게 널리 알려진 바와 같다.

도 4에는 개별 클래스와 그에 대응되는 색상이 나타난 클래스-색상 조절부(450)도 제공되는데, 예컨대 클래스-색상 조절부(450)에 나타난 색상 표시 부분에 대한 조작(예컨대, 클릭)에 의하여 나타나는 컬러 픽업부(color pickup; 미도시)를 통하여 색상에 대한 지정이 가능하며, 도 4에 예시적으로 나타난 2개의 클래스, 즉, 정상(normal) 클래스, 암(cancer) 클래스와 상이한 더 많은 클래스가 제공될 수 있음은 물론이다.

한편, 상이한 색상들과 그레이스케일로 출력 영상을 나타내는 방식의 일 예시는 다음과 같다. 각 채널이 8비트로 된(즉, 0 이상 255 이하의 값을 가지는) 영상인 입력 영상의 RGB 색상 정보를 (r, g, b)라고 하고, 사용자에 의하여 지정된 클래스별 RGB 색상 정보를 (x, y, z)라고 할 때, RGB 색상 정보 (r, g, b), (x, y, z)는 8비트 또는 그 이상의 비트로 된 HSV 색상 정보(r', g', b'), (x', y', z')로 변환될 수 있고, 상기 모델에서 출력된 신뢰도 p (0 이상 1 이하의 값을 가지는 실수)와 사용자에 의하여 지정된 문턱값 t (0 이상 1 이하의 값을 가지는 실수)에 대해 신뢰도가 상기 문턱값 t 미만인 영역(p < t)에 대해서는 g'= 0인 (r', 0, b')를 RGB 색상 정보로 변환한 값을 가지게 하는 등의 방식으로 그레이스케일을 설정할 수 있으며, 신뢰도가 상기 문턱값 이상의 영역(p ≥ t)에 대해서는, HSV 색상 공간에서의 (x', y', z')를 RGB 색상 공간으로 변환하여 색상을 표현하거나 혹은 신뢰도를 보다 자세하게 표기할 수 있도록 신뢰도 p에 대하여 (x', y' × p, z') 혹은 (x', y' × (p - t)/(1 - t), z')를 RGB 색상 공간으로 변환하여 색상의 채도를 신뢰도로 표시하는 등으로 밝기 정보를 보존하면서 색상을 가지도록 맵핑할 수 있을 것이다. 이러한 작업은 RGB 채널, CIELAB 채널, HSV 채널, HSL 채널, HSI 채널 등의 다양한 색상 채널에서 이루어질 수 있다.

다만, 상이한 색상들과 그레이스케일로 출력 영상을 나타낸 방식은 이에 한정되지 않고, 입력 영상의 밝기 정도를 실질적으로 유지하는 범위 내에서 다양한 방식으로 색상을 입히는 것이 가능할 것이다.

뿐만 아니라 본 발명에 따른 방법에서 이용되는 사용자 인터페이스는 사용자가 쉽게 적응하여 이용할 수 있도록 다양하게 구성될 수 있으므로, 도 4에 예시된 것에 한정되지 않는다. 한편, 도 4에 나타난 문턱값 조절부(440)의 역할은 도 5 및 도 6을 참조하여 후술하기로 한다.

이와 같은 사용자 인터페이스의 제공은 범용의 사용자 인터페이스 장치, 디스플레이 장치, 입력 장치 등에 의할 수 있으며, 특정 목적을 위한 인간-기계 인터페이스(human-machine interface; HMI) 장치에 의할 수도 있는데, 그 상세 내용은 본 발명의 진의를 명확하게 드러내기 위하여 생략한다.

다시 도 3을 참조하면, 본 발명에 따른 입출력 영상 교차 열람 지원 방법은, 상기 입력 영상과 상기 출력 영상의 교차 열람을 위하여, 컴퓨팅 장치(100)에 의하여 구현되는 출력 모듈(240)이, 상기 입력 영상 및 상기 출력 영상 중에서 입력 장치의 특정 입력의 유무에 따라 정해지는 현재의 상태(state)에 대응되는 영상을 출력 윈도우(410)에 제공하거나 통신부(110)를 통하여 연동되는 타 장치로 하여금 제공하도록 지원하는 단계(S300)를 더 포함한다.

도 5는 본 발명의 입출력 영상 교차 열람 지원 방법에서 입력 장치의 특정 입력들에 따라 입출력 영상 간의 전환이 이루어지는 방식을 설명하기 위하여 나타낸 개념도이다.

도 5를 참조하면, 단계(S300)의 일 실시 예에서, 상기 입력 장치의 제1 특정 입력이 없으면, 현재의 상태는 제1 상태로 정해지고, 입력 영상(510)이 출력 윈도우(410)에 제공되고, 상기 입력 장치의 제1 특정 입력의 지속적 입력이 있으면, 현재의 상태는 제2 상태로 정해지고, 출력 영상(520a; 520b)이 출력 윈도우(410)에 제공된다. 식별부호 520a와 520b는 문턱값의 조절에 따라 달라지는 출력 영상을 개관한 것이다.

여기에서 제1 특정 입력은, 마우스의 특정 버튼을 누르는 입력, 키보드의 Ctrl 키를 누르는 입력과 같은 다양한 입력 중의 하나 이상일 수 있다. 그런데, 상기 입력 장치의 제1 특정 입력의 지속적 입력이 중단되면, 현재의 상태는 제2 상태(520a; 520b)로부터 제1 상태(510)로 즉시 복귀되고, 다시 입력 영상(510)이 출력 윈도우(410)에 제공된다.

반대로, 현재 상태가 제1 상태인 경우에, 출력 영상(520a; 520b)이 출력 윈도우(410)에 제공되고, 현재 상태가 제2 상태인 경우에, 입력 영상(520)이 출력 윈도우(410)에 제공될 수도 있음은 물론이다.

도 6은 본 발명의 입출력 영상 교차 열람 지원 방법에서 소정의 문턱값을 조절함으로써 출력 영상이 달라지는 방식을 설명하기 위한 개념도이다.

도 6에 예시된 문턱값 조절부(440)는 마우스의 드래그를 통하여도 상기 문턱값을 조절할 수 있는 슬라이더 컨트롤(slider control)의 형태를 하고 있으나 이에 한정되지 않고, '0.45'가 표시된 텍스트 컨트롤(text control)에 직접 특정 수치를 입력하는 방식도 가능할 것이다.

뿐만 아니라, 단계(S300)의 전술한 실시 예에 추가적으로, 상기 현재 상태가 출력 영상(610a, 610b, 610c)이 출력 윈도우(410)에 제공되는 상태이면, 상기 입력 장치의 제2 특정 입력에 응하여, 컴퓨팅 장치(100)가, 제2 특정 입력의 방향성(630; 640)에 기초하여 상기 소정의 문턱값(440)을 증감하거나 상기 타 장치로 하여금 증감하도록 지원할 수 있다. 여기에서 제2 특정 입력에는, 예컨대, 입력 장치인 마우스(250a)의 휠 조작(630)이나 입력 장치인 터치패드(250b)의 스와이핑 조작(640)이 있을 수 있는데, 이에 한정되지 않고 방향성을 가진 기타 다양한 조작이 포함될 수 있을 것이다.

상기 제2 특정 입력의 방향성에 대하여는, 예를 들어, 직관적으로 쉽게 이해될 수 있도록, 마우스 휠을 위로 굴리는 경우에 문턱값을 증가시키고, 반대로 마우스 휠을 아래로 굴리는 경우에 문턱값을 감소시키도록 정해질 수 있을 것인바, 반드시 이에 한정되는 것은 아니다.

그리고, 컴퓨팅 장치(100)는, 그 후 증감된 상기 소정의 문턱값을 이용하여 전술한 단계들(S200 내지 S300)를 반복 수행할 수 있다. 이는 문턱값의 변경에 따라 출력 영상을 갱신하고 이를 외부에 제공하기 위한 것이다.

예를 들어 식별부호 610b의 출력 영상이 제공되는 상태에서, 상기 문턱값이 증가한 경우에 갱신되어 출력 윈도우(410)에 제공되는 출력 영상은 식별부호 610c일 수 있으며, 상기 문턱값이 감소한 경우에 갱신되어 출력 윈도우(410)에 제공되는 출력 영상은 식별부호 610a와 같을 수 있다. 610c에 그레이스케일로 표시된 어두운 부분이 610b에 비하여 더 크게 나타난 것을 알 수 있는데 이는 신뢰도에 대한 기준인 문턱값이 증가하여 분류가 불확실한 영역(그레이스케일로 표시된 부분)이 증가하였기 때문이다.

한편, 전술한 제2 특정 입력을 더 구체적으로 설명하면, 상기 제2 특정 입력에 따라 누적되는 입력량에 따라, 컴퓨팅 장치(100)가, 상기 소정의 문턱값을 증감하거나 상기 타 장치로 하여금 증감하도록 지원하되, 누적된 상기 입력량이 미리 정해진 입력 임계값을 초과하면, 상기 입력량의 방향성에 기초하여 상기 소정의 문턱값을 미리 정해진 변동량만큼 증감하거나 상기 타 장치로 하여금 증감하도록 지원할 수도 있다. 여기에서 입력 임계값을 적절히 설정함으로써 무의미한 제2 특정 입력, 예컨대 살짝 마우스 휠을 건드린 정도는 무시될 수 있으며, 미리 정해진 변동량을 적절히 설정함으로써 한 번에 얼마만큼의 수치로 문턱값이 변동할 것인지를 정할 수 있다. 예를 들어, 변동량을 0.01로 설정하면 입력 임계값을 초과하는 1회의 누적된 제2 특정 입력에 대하여 0.01의 문턱값이 증감할 수 있고, 변동량을 0.1로 설정하면, 0.1의 문턱값이 증감할 수 있을 것이다.

지금까지의 설명에 의하여 본 발명은 그 모든 실시 예 및 변형례에 걸쳐, 입력 영상과 출력 영상 간의 전환을 신속하게 할 수 있으면서도, 출력 영상에 나타난 분류 결과의 신뢰도도 함께 용이하게 인지할 수 있고, 또 그 표시 문턱값을 조절할 수 있어 사용자가 인공지능의 분류가 불확실한 영역에 대해 더욱 유심히 살펴볼 수 있는바, 궁극적으로 분류 혹은 판독의 정확성 또는 높아질 수 있는 효과를 가진다는 점이 설명되었는바, 위 실시 예들의 설명에 기초하여 해당 기술분야의 통상의 기술자는, 본 발명의 방법 및/또는 프로세스들, 그리고 그 단계들이 하드웨어, 소프트웨어 또는 특정 용례에 적합한 하드웨어 및 소프트웨어의 임의의 조합으로 실현될 수 있다는 점을 명확하게 이해할 수 있다.

위에서 설명된 기능들 및 프로세스 단계들은 자동으로 수행되거나 전부 또는 일부 사용자 명령(user command)에 대한 응답으로서 수행될 수 있다. 자동으로 수행되는 (단계를 포함하는) 작용(activity)은 상기 작용의 사용자에 의한 직접 개시(direct initiation) 없이 하나 이상의 실행 가능한 명령어들(instructions) 또는 장치 작동(device operation)에 대한 응답으로서 수행된다.

상기 하드웨어는 범용 컴퓨터 및/또는 전용 컴퓨팅 장치 또는 특정 컴퓨팅 장치 또는 특정 컴퓨팅 장치의 특별한 모습 또는 구성요소를 포함할 수 있다. 상기 프로세스들은 내부 및/또는 외부 메모리를 가지는, 하나 이상의 마이크로프로세서, 마이크로컨트롤러, 임베디드 마이크로컨트롤러, 프로그래머블 디지털 신호 프로세서 또는 기타 프로그래머블 장치에 의하여 실현될 수 있다. 게다가, 혹은 대안으로서, 상기 프로세스들은 주문형 집적회로(application specific integrated circuit; ASIC), 프로그래머블 게이트 어레이(programmable gate array), 프로그래머블 어레이 로직(Programmable Array Logic; PAL) 또는 전자 신호들을 처리하기 위해 구성될 수 있는 임의의 다른 장치 또는 장치들의 조합으로 실시될 수 있다. 더욱이 본 발명의 기술적 해법의 대상물 또는 선행 기술들에 기여하는 부분들은 다양한 컴퓨터 구성요소를 통하여 수행될 수 있는 프로그램 명령어의 형태로 구현되어 기계 판독 가능한 기록 매체에 기록될 수 있다. 상기 기계 판독 가능한 기록 매체는 프로그램 명령어, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 기계 판독 가능한 기록 매체에 기록되는 프로그램 명령어는 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 분야의 통상의 기술자에게 공지되어 사용 가능한 것일 수도 있다. 기계 판독 가능한 기록 매체의 예에는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM, DVD, Blu-ray와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 ROM, RAM, 플래시 메모리 등과 같은 프로그램 명령어를 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령어의 예에는, 전술한 장치들 중 어느 하나뿐만 아니라 프로세서, 프로세서 아키텍처 또는 상이한 하드웨어 및 소프트웨어의 조합들의 이종 조합, 또는 다른 어떤 프로그램 명령어들을 실행할 수 있는 기계 상에서 실행되기 위하여 저장 및 컴파일 또는 인터프리트될 수 있는, C와 같은 구조적 프로그래밍 언어, C++ 같은 객체지향적 프로그래밍 언어 또는 고급 또는 저급 프로그래밍 언어(어셈블리어, 하드웨어 기술 언어들 및 데이터베이스 프로그래밍 언어 및 기술들)를 사용하여 만들어질 수 있는바, 기계어 코드, 바이트코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드도 이에 포함된다.

따라서 본 발명에 따른 일 태양에서는, 앞서 설명된 방법 및 그 조합들이 하나 이상의 컴퓨팅 장치들에 의하여 수행될 때, 그 방법 및 방법의 조합들이 각 단계들을 수행하는 실행 가능한 코드로서 실시될 수 있다. 다른 일 태양에서는, 상기 방법은 상기 단계들을 수행하는 시스템들로서 실시될 수 있고, 방법들은 장치들에 걸쳐 여러 가지 방법으로 분산되거나 모든 기능들이 하나의 전용, 독립형 장치 또는 다른 하드웨어에 통합될 수 있다. 또 다른 일 태양에서는, 위에서 설명한 프로세스들과 연관된 단계들을 수행하는 수단들은 앞서 설명한 임의의 하드웨어 및/또는 소프트웨어를 포함할 수 있다. 그러한 모든 순차 결합 및 조합들은 본 개시서의 범위 내에 속하도록 의도된 것이다.

예를 들어, 상기 하드웨어 장치는 본 발명에 따른 처리를 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다. 상기 하드웨어 장치는, 프로그램 명령어를 저장하기 위한 ROM/RAM 등과 같은 메모리와 결합되고 상기 메모리에 저장된 명령어들을 실행하도록 구성되는 MPU, CPU, GPU, TPU와 같은 프로세서를 포함할 수 있으며, 외부 장치와 신호를 주고받을 수 있는 통신부를 포함할 수 있다. 덧붙여, 상기 하드웨어 장치는 개발자들에 의하여 작성된 명령어들을 전달받기 위한 키보드, 마우스, 기타 외부 입력장치를 포함할 수 있다.

이상에서 본 발명이 구체적인 구성요소 등과 같은 특정 사항들과 한정된 실시 예 및 도면에 의해 설명되었으나, 첨부된 도면들의 시스템 및 프로세스들은 배타적인 것이 아니다. 다른 시스템들, 프로세스들 및 메뉴들이 동일한 목적을 달성하기 위하여 본 발명의 원리에 따라 도출될 수 있다. 비록 본 발명이 특정 실시 예들을 참조하여 설명되었지만, 본 개시서에서 도시되고 설명된 실시 예들 및 변형례들이 설명을 위한 목적만을 가진 것임이 이해될 것이다. 본 발명의 보호범위에서 일탈됨 없이 본 개시서의 설계에 대한 변경물이 통상의 기술자에 의하여 구현될 수 있을 것이다. 본 개시서에서 설명된 바와 같이 다양한 시스템들, 부수 시스템들, 에이전트들(agents), 관리자들(managers) 및 프로세스들이 하드웨어 구성요소, 소프트웨어 구성요소 및/또는 그것들의 조합을 이용하여 구현될 수 있다.

따라서, 본 발명의 사상은 상기 설명된 실시 예에 국한되어 정해져서는 아니되며, 후술하는 특허청구범위뿐만 아니라 이 특허청구범위와 균등하게 또는 등가적으로 변형된 모든 것들은 본 발명의 사상의 범주에 속한다고 할 것이다.

그와 같이 균등하게 또는 등가적으로 변형된 것에는, 예컨대 본 발명에 따른 방법을 실시한 것과 동일한 결과를 낼 수 있는, 논리적으로 동치(logically equivalent)인 방법이 포함될 것인바, 본 발명의 진의 및 범위는 전술한 예시들에 의하여 제한되어서는 아니되며, 법률에 의하여 허용 가능한 가장 넓은 의미로 이해되어야 한다.

Claims (9)

1. 입력 영상과 출력 영상의 교차 열람을 지원하는 방법에 있어서,
   (a) 컴퓨팅 장치가, 상기 입력 영상을 획득하거나 상기 컴퓨팅 장치에 연동되는 타 장치로 하여금 획득하도록 지원하는 단계;
   (b) 상기 컴퓨팅 장치가, 상기 입력 영상을 구성하는 개별 요소인 영상 요소 각각에 대한 클래스를 분류하거나 상기 타 장치로 하여금 분류하도록 지원함으로써 상기 입력 영상으로부터 상기 분류의 결과인 출력 영상을 생성하거나 상기 타 장치로 하여금 생성하도록 지원하는 단계로서, 상기 출력 영상에 상기 분류의 신뢰도가 소정의 문턱값보다 낮은 영역을 나타낸 마스크가 부가 표시되는 단계; 및
   (c) 상기 입력 영상과 출력 영상의 교차 열람을 위하여, 상기 컴퓨팅 장치가, (i) 상기 입력 영상 또는 (ii) 상기 출력 영상 중에서, 입력 장치의 특정 입력의 유무에 따라 정해지는 현재의 상태(state)에 대응되는 영상을 출력 윈도우에 제공하거나 상기 타 장치로 하여금 제공하도록 지원하는 단계
   를 포함하고,
   상기 (c) 단계는,
   상기 입력 장치의 제1 특정 입력이 없으면, 상기 현재의 상태는 제1 상태로 정해지고, 상기 입력 장치의 제1 특정 입력의 지속적 입력이 있으면, 상기 현재 상태는 제2 상태로 정해지며, 상기 입력 장치의 상기 제1 특정 입력의 지속적 입력이 중단되면, 상기 현재 상태는 제1 상태로 복귀되고,
   상기 현재 상태가 제1 상태인 경우에, 상기 입력 영상이 상기 출력 윈도우에 제공되고, 상기 현재 상태가 제2 상태인 경우에, 상기 출력 영상이 상기 출력 윈도우에 제공되거나,
   상기 현재 상태가 제1 상태인 경우에, 상기 출력 영상이 상기 출력 윈도우에 제공되고, 상기 현재 상태가 제2 상태인 경우에, 상기 입력 영상이 상기 출력 윈도우에 제공되는 것을 특징으로 하는 입출력 영상 교차 열람 지원 방법.
2. 제1항에 있어서,
   상기 (b) 단계에서,
   상기 출력 영상의 상기 영상 요소 각각은 클래스별로 상이한 색상으로 표시되고, 상기 부가 표시로서 상기 마스크에 해당하는 영역은 그레이스케일(grayscale)로 표시되는 것을 특징으로 하는 입출력 영상 교차 열람 지원 방법.
3. 삭제
4. 제1항에 있어서,
   상기 (c) 단계는,
   상기 현재 상태가 상기 출력 영상이 상기 출력 윈도우에 제공되는 상태이면,
   상기 입력 장치의 제2 특정 입력에 응하여, 상기 컴퓨팅 장치가, 상기 제2 특정 입력의 방향성에 기초하여 상기 소정의 문턱값을 증감하거나 상기 타 장치로 하여금 증감하도록 지원하고, 증감된 상기 소정의 문턱값을 이용하여 상기 (b) 단계 및 상기 (c) 단계를 반복 수행하는 것을 특징으로 하는 입출력 영상 교차 열람 지원 방법.
5. 제4항에 있어서,
   상기 제2 특정 입력에 따라 누적되는 입력량에 따라, 상기 컴퓨팅 장치가, 상기 소정의 문턱값을 증감하거나 상기 타 장치로 하여금 증감하도록 지원하되, 누적된 상기 입력량이 미리 정해진 입력 임계값을 초과하면, 상기 입력량의 방향성에 기초하여 상기 소정의 문턱값을 미리 정해진 변동량만큼 증감하거나 상기 타 장치로 하여금 증감하도록 지원하는 것을 특징으로 하는 입출력 영상 교차 열람 지원 방법.
6. 컴퓨팅 장치로 하여금, 제1항, 제2항, 제4항 및 제5항 중 어느 한 항의 방법을 수행하도록 구현된 명령어(instructions)를 포함하는, 기계 판독 가능한 비일시적 기록 매체에 저장된, 컴퓨터 프로그램.
7. 입력 영상과 출력 영상의 교차 열람을 지원하는 컴퓨팅 장치에 있어서,
   상기 입력 영상을 획득하는 통신부; 및
   (i) 상기 입력 영상을 구성하는 개별 요소인 영상 요소 각각에 대한 클래스를 분류함으로써 상기 입력 영상으로부터 상기 분류의 결과인 출력 영상을 생성하는 프로세스로서, 상기 출력 영상에 상기 분류의 신뢰도가 소정의 문턱값보다 낮은 영역을 나타낸 마스크가 부가 표시되는 프로세스, 및 (ii) 상기 입력 영상과 출력 영상의 교차 열람을 위하여, 상기 입력 영상 또는 상기 출력 영상 중에서, 입력 장치의 특정 입력의 유무에 따라 정해지는 현재의 상태(state)에 대응되는 영상을 출력 윈도우에 제공하는 프로세스를 수행하거나 상기 통신부를 통하여 연동되는 타 장치로 하여금 상기 (i) 프로세스 및 상기 (ii) 프로세스를 수행하도록 지원하는 프로세서
   를 포함하고,
   상기 (ii) 프로세스는,
   상기 입력 장치의 제1 특정 입력이 없으면, 상기 현재의 상태는 제1 상태로 정해지고, 상기 입력 장치의 제1 특정 입력의 지속적 입력이 있으면, 상기 현재 상태는 제2 상태로 정해지며, 상기 입력 장치의 상기 제1 특정 입력의 지속적 입력이 중단되면, 상기 현재 상태는 제1 상태로 복귀되고,
   상기 현재 상태가 제1 상태인 경우에, 상기 입력 영상이 상기 출력 윈도우에 제공되고, 상기 현재 상태가 제2 상태인 경우에, 상기 출력 영상이 상기 출력 윈도우에 제공되거나,
   상기 현재 상태가 제1 상태인 경우에, 상기 출력 영상이 상기 출력 윈도우에 제공되고, 상기 현재 상태가 제2 상태인 경우에, 상기 입력 영상이 상기 출력 윈도우에 제공되는 것을 특징으로 하는 입출력 영상 교차 열람 지원 장치.
8. 제7항에 있어서,
   상기 (i) 프로세스는,
   상기 출력 영상의 상기 영상 요소 각각이 클래스별로 상이한 색상으로 표시되고, 상기 부가 표시로서 상기 마스크에 해당하는 영역이 그레이스케일(grayscale)로 표시되는 것을 특징으로 하는 입출력 영상 교차 열람 지원 장치.
9. 삭제

Images