KR20240048073A - 어텐션 블록을 이용하여 영상을 처리하는 방법 및 디바이스 - Google Patents

어텐션 블록을 이용하여 영상을 처리하는 방법 및 디바이스 Download PDF

Info

Publication number
KR20240048073A
KR20240048073A KR1020220127284A KR20220127284A KR20240048073A KR 20240048073 A KR20240048073 A KR 20240048073A KR 1020220127284 A KR1020220127284 A KR 1020220127284A KR 20220127284 A KR20220127284 A KR 20220127284A KR 20240048073 A KR20240048073 A KR 20240048073A
Authority
KR
South Korea
Prior art keywords
inference engines
image processing
distributed inference
distributed
surgical tool
Prior art date
Application number
KR1020220127284A
Other languages
English (en)
Inventor
김덕석
최보경
Original Assignee
주식회사 엠티이지
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 엠티이지 filed Critical 주식회사 엠티이지
Priority to KR1020220127284A priority Critical patent/KR20240048073A/ko
Publication of KR20240048073A publication Critical patent/KR20240048073A/ko

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G06T7/11—Region-based segmentation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00—Computing arrangements using knowledge-based models
    • G06N5/04—Inference or reasoning models
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/00—2D [Two Dimensional] image generation
    • G06T11/60—Editing figures and text; Combining figures or text
    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H20/00—ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance
    • G16H20/40—ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance relating to mechanical, radiation or invasive therapies, e.g. surgery, laser therapy, dialysis or acupuncture
    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00—ICT specially adapted for the handling or processing of medical images
    • G16H30/20—ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00—ICT specially adapted for the handling or processing of medical images
    • G16H30/40—ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2210/00—Indexing scheme for image generation or computer graphics
    • G06T2210/41—Medical

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Epidemiology (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Primary Health Care (AREA)
  • Public Health (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Evolutionary Computation (AREA)
  • Data Mining & Analysis (AREA)
  • Urology & Nephrology (AREA)
  • Computational Linguistics (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Surgery (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)

Abstract

타케팅 되는 객체를 포함하는 입력 영상을 획득하는 단계, 상기 입력 영상에서 상기 객체에 대응되는 영역을 나타내는 어텐션 블록을 획득하는 단계, 상기 입력 영상과 상기 어텐션 블록이 중첩되는 영역에 대한 영상 처리(image processing)를 수행하는 단계 및 상기 영상 처리를 수행함에 따라 획득되는 상기 객체에 대한 추론 결과를 제공하는 단계를 포함하는, 어텐션 블록을 이용하여 영상을 처리하는 방법, 그 방법에 대한 디바이스 및 기록매체가 개시된다.

Description

어텐션 블록을 이용하여 영상을 처리하는 방법 및 디바이스{Method and device for image processing using attention block}
본 개시의 기술 분야는 어텐션 블록을 이용하여 영상을 처리하는 방법 및 디바이스에 관한 것으로, 어텐션 블록을 이용함에 따라 보다 효율적으로 영상을 처리하는 기술분야와 관련된다.
영상에 대한 처리 방법이 지속적으로 제안되고 있다. 영상 처리에는 통상적으로 큰 리소스 소모가 발생하기 때문에 보다 효율적인 영상 처리 방법에 대한 니즈는 지속적으로 존재하여 왔다.
특히 의료 영상에 대한 영상 처리 방식도 계속 발전 중에 있으며, 의료 영상에 대한 영상 처리는 의료 영상의 특수성이 반영되어야 한다는 점에서 일반적인 영상 처리 방식과는 상이한 점이 있었다.
종래 영상 처리 방식의 경우 영상 처리된 결과와 측정 등을 통해 획득한 결과를 단순 비교하는 방식으로 학습하여 학습된 영상 처리 방식을 획득하는 방식이 일반적이었다. 다만 영상 처리를 수행함에 있어서 해상도가 높아짐에 따라 영상에 포함된 픽셀의 수가 점차 많아지고 있으며, 그에 따라 영상 처리를 수행하기 위해 요구되는 리소스도 점차 커지고 있다는 문제점이 있었다.
한국등록특허 제 10-2402011호 (2022.05.20.) 의료영상 처리 장치와 그 의료영상 학습 방법 및 의료영상 처리 방법
본 개시에서 해결하고자 하는 과제는 어텐션 블록을 이용하여 영상을 처리하는 방법 및 디바이스에 대한 것으로, 어텐션 블록을 이용함에 따라 보다 효율적으로 영상을 처리하는 방법을 제공하는데 있다.
본 개시에서 해결하고자 하는 과제는 상기된 바와 같은 기술적 과제들로 한정되지 않으며, 또 다른 기술적 과제들이 존재할 수 있다.
상술한 기술적 과제를 달성하기 위한 기술적 수단으로써, 본 개시의 제 1 측면에 따라 어텐션 블록을 이용하여 영상을 처리하는 방법은 타케팅 되는 객체를 포함하는 입력 영상을 획득하는 단계; 상기 입력 영상에서 상기 객체에 대응되는 영역을 나타내는 어텐션 블록을 획득하는 단계; 상기 입력 영상과 상기 어텐션 블록이 중첩되는 영역에 대한 영상 처리(image processing)를 수행하는 단계; 및 상기 영상 처리를 수행함에 따라 획득되는 상기 객체에 대한 추론 결과를 제공하는 단계;를 포함할 수 있다.
또한, 상기 영상 처리를 수행하는 단계는 제 1 개수의 분산 추론 엔진을 이용하여 상기 영상 처리를 수행할 수 있다.
또한, 상기 어텐션 블록을 획득하는 단계는 제 2 개수의 분산 추론 엔진을 이용하여 상기 어텐션 블록을 획득하고, 상기 제 2 개수는 상기 제 1 개수보다 작을 수 있다.
또한, 상기 제 1 개수의 분산 추론 엔진 각각에 대응되는 수술 도구의 종류 또는 이벤트의 종류에 기초하여 상기 제 1 개수의 분산 추론 엔진 각각에 대한 가중치를 결정하는 단계; 및 상기 가중치에 기초하여 상기 제 1 개수의 분산 추론 엔진 중 일부인 상기 제 2 개수의 분산 추론 엔진을 결정하는 단계;를 더 포함할 수 있다.
또한, 상기 가중치를 결정하는 단계는 상기 제 1 개수의 분산 추론 엔진 각각에 대응되는 수술 도구의 종류가 메인 수술 도구, 서브 수술 도구 및 일반 수술 도구인 경우, 상기 제 1 개수의 분산 추론 엔진 각각에 대응되는 가중치가 상기 메인 수술 도구, 상기 서브 수술 도구 및 상기 일반 수술 도구의 순서로 점차 낮아지도록 결정될 수 있다.
또한, 상기 가중치를 결정하는 단계는 상기 제 1 개수의 분산 추론 엔진 각각에 대응되는 대상이 급변하는 바이탈 신호, 출혈, 메인 수술 도구, 서브 수술 도구 및 일반 수술 도구인 경우, 상기 제 1 개수의 분산 추론 엔진 각각에 대응되는 가중치가 상기 급변하는 바이탈 신호, 상기 출혈, 상기 메인 수술 도구, 상기 서브 수술 도구 및 상기 일반 수술 도구의 순서로 점차 낮아지도록 결정될 수 있다.
또한, 상기 입력 영상에 대한 그라운드 트루스를 획득하는 단계; 및 상기 그라운드 트루스와 상기 추론 결과의 비교 결과에 기초하여 상기 영상 처리의 방식을 갱신하는 단계;를 더 포함할 수 있다.
본 개시의 제 2 측면에 따른 어텐션 블록을 이용하여 영상을 처리하는 디바이스는 타케팅 되는 객체를 포함하는 입력 영상을 획득하는 수신부; 및
상기 입력 영상에서 상기 객체에 대응되는 영역을 나타내는 어텐션 블록을 획득하고, 상기 입력 영상과 상기 어텐션 블록이 중첩되는 영역에 대한 영상 처리(image processing)를 수행하고, 상기 영상 처리를 수행함에 따라 획득되는 상기 객체에 대한 추론 결과를 제공하는 프로세서;를 포함할 수 있다.
또한, 상기 프로세서는 제 1 개수의 분산 추론 엔진을 이용하여 상기 영상 처리를 수행할 수 있다.
또한, 상기 프로세서는 제 2 개수의 분산 추론 엔진을 이용하여 상기 어텐션 블록을 획득하고, 상기 제 2 개수는 상기 제 1 개수보다 작을 수 있다.
또한, 상기 프로세서는 상기 제 1 개수의 분산 추론 엔진 각각에 대응되는 수술 도구의 종류 또는 이벤트의 종류에 기초하여 상기 제 1 개수의 분산 추론 엔진 각각에 대한 가중치를 결정하고, 상기 가중치에 기초하여 상기 제 1 개수의 분산 추론 엔진 중 일부인 상기 제 2 개수의 분산 추론 엔진을 결정할 수 있다.
또한, 상기 프로세서는 상기 제 1 개수의 분산 추론 엔진 각각에 대응되는 수술 도구의 종류가 메인 수술 도구, 서브 수술 도구 및 일반 수술 도구인 경우, 상기 제 1 개수의 분산 추론 엔진 각각에 대응되는 가중치가 상기 메인 수술 도구, 상기 서브 수술 도구 및 상기 일반 수술 도구의 순서로 점차 낮아지도록 결정될 수 있다.
본 개시의 제 3 측면은 제 1 측면을 구현하기 위한 프로그램이 기록된 컴퓨터로 판독 가능한 비일시적 기록 매체를 포함할 수 있다.
본 개시의 일 실시 예에 따르면, 어텐션 블록을 영상 처리를 수행할 때 이용함으로서 보다 효율적인 영상 처리를 수행할 수 있다.
어텐션 블록은 다양한 방식으로 획득될 수 있기 때문에 다양한 방식으로 획득된 어텐션 블록이 이용됨에 따라 영상 처리에 소모되는 리소스가 감소할 수 있다.
본 개시의 효과들은 이상에서 언급된 효과로 제한되지 않으며, 언급되지 않은 또 다른 효과들은 아래의 기재로부터 통상의 기술자에게 명확하게 이해될 수 있을 것이다.
도 1 은 일 실시 예에 따른 디바이스 또는 서버가 시스템 상에서 구현되는 일 예를 도시하는 도면이다.
도 2 는 일 실시 예에 따른 디바이스의 구성을 개략적으로 도시한 블록도이다.
도 3 은 일 실시 예에 따른 디바이스가 동작하는 각 단계를 도시한 흐름도이다.
도 4는 일 실시 예에 따른 디바이스가 어텐션 블록을 이용하여 추론을 수행하는 일 예를 설명하기 위한 도면이다.
도 5는 일 실시 예에 따른 디바이스가 추론 결과를 이용하여 학습을 수행하는 일 예를 설명하기 위한 도면이다.
도 6은 일 실시 예에 따른 디바이스가 어텐션 블록을 획득하기 위해 복수개의 분산 추론 엔진 중 일부를 결정하는 일 예를 설명하기 위한 도면이다.
본 개시에서 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술 되어 있는 실시 예들을 참조하면 명확해질 것이다. 그러나, 본 개시는 이하에서 개시되는 실시 예들에 제한되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시 예들은 개시가 완전 하도록 하고, 해당 기술 분야에 속하는 통상의 기술자에게 본 개시의 범주를 완전하게 알려주기 위해 제공되는 것이다.
본 명세서에서 사용된 용어는 실시 예들을 설명하기 위한 것이며 본 개시를 제한하고자 하는 것은 아니다. 본 명세서에서, 단수형은 문구에서 특별히 언급하지 않는 한 복수형도 포함한다. 명세서에서 사용되는 "포함한다(comprises)" 및/또는 "포함하는(comprising)"은 언급된 구성요소 외에 하나 이상의 다른 구성요소의 존재 또는 추가를 배제하지 않는다. 명세서 전체에 걸쳐 동일한 도면 부호는 동일한 구성 요소를 지칭하며, "및/또는"은 언급된 구성요소들의 각각 및 하나 이상의 모든 조합을 포함한다. 비록 "제1", "제2" 등이 다양한 구성요소들을 서술하기 위해서 사용되나, 이들 구성요소들은 이들 용어에 의해 제한되지 않음은 물론이다. 이들 용어들은 단지 하나의 구성요소를 다른 구성요소와 구별하기 위하여 사용하는 것이다. 따라서, 이하에서 언급되는 제1 구성요소는 본 개시의 기술적 사상 내에서 제2 구성요소일 수도 있음은 물론이다.
다른 정의가 없다면, 본 명세서에서 사용되는 모든 용어(기술 및 과학적 용어를 포함)는 해당 기술분야의 통상의 기술자에게 공통적으로 이해될 수 있는 의미로 사용될 수 있을 것이다. 또한, 일반적으로 사용되는 사전에 정의되어 있는 용어들은 명백하게 특별히 정의되어 있지 않는 한 이상적으로 또는 과도하게 해석되지 않는다.
공간적으로 상대적인 용어인 "아래(below)", "아래(beneath)", "하부(lower)", "위(above)", "상부(upper)" 등은 도면에 도시되어 있는 바와 같이 하나의 구성요소와 다른 구성요소들과의 상관관계를 용이하게 기술하기 위해 사용될 수 있다. 공간적으로 상대적인 용어는 도면에 도시되어 있는 방향에 더하여 사용시 또는 동작 시 구성요소들의 서로 다른 방향을 포함하는 용어로 이해되어야 한다. 예를 들어, 도면에 도시되어 있는 구성요소를 뒤집을 경우, 다른 구성요소의 "아래(below)"또는 "아래(beneath)"로 기술된 구성요소는 다른 구성요소의 "위(above)"에 놓여질 수 있다. 따라서, 예시적인 용어인 "아래"는 아래와 위의 방향을 모두 포함할 수 있다. 구성요소는 다른 방향으로도 배향될 수 있으며, 이에 따라 공간적으로 상대적인 용어들은 배향에 따라 해석될 수 있다.
이하에서는 도면을 참조하여 실시 예들을 상세히 설명한다.
도 1은 일 실시 예에 따른 디바이스(100) 또는 서버가 시스템 상에서 구현되는 일 예를 도시하는 도면이다.
도 1에 도시된 바와 같이, 의료 정보 시스템은 디바이스(100), 외부 서버(130), 저장 매체(140), 통신 디바이스(150), 가상 서버(160), 사용자 단말(170) 및 네트워크 등을 포함할 수 있다.
그러나, 도 1에 도시된 구성요소들 외에 다른 범용적인 구성요소들이 의료 정보 시스템에 더 포함될 수 있음을 관련 기술 분야에서 통상의 지식을 가진 자라면 이해할 수 있다. 예를 들면, 의료 정보 시스템은 네트워크와 연동하여 동작하는 블록체인 서버(미도시)를 더 포함할 수 있다. 또는 다른 실시 예에 따를 경우, 도 1에 도시된 구성요소들 중 일부 구성요소는 생략될 수 있음을 관련 기술 분야에서 통상의 지식을 가진 자라면 이해할 수 있다.
일 실시 예에 따른 디바이스(100)는 수술 등 의료 행위와 관련된 정보를 다양한 소스로부터 획득할 수 있다. 예를 들면 디바이스(100)는 수술 등 의료 행위와 관련된 정보(예: 동영상)를 정보 획득 장치(미도시)로부터 획득할 수 있다. 정보 획득 장치(미도시) 는 촬영 장치, 녹음 장치, 생체 신호 획득 장치 등을 포함할 수 있으나, 이에 제한되지 않는다. 다른 예로 디바이스(100)는 수술 등 의료 행위와 관련된 정보(예: 동영상)를 네트워크로부터 획득할 수 있다.
생체 신호는 체온 신호, 맥박 신호, 호흡 신호, 혈압 신호, 근전도 신호, 뇌파 신호 등 생명체로부터 획득되는 신호를 제한 없이 포함할 수 있다. 정보 획득 장치(미도시)의 일 예인 촬영 장치는 수술실 상황을 전체적으로 촬영하는 제 1 촬영 장치(예: CCTV 등)와 수술 부위를 집중적으로 촬영하는 제 2 촬영 장치(예: 내시경 등) 등을 포함할 수 있으나, 이에 제한되지 않는다.
일 실시 예에 따른 디바이스(100)는 정보 획득 장치(미도시) 또는 네트워크로부터 수술 등 의료 행위와 관련된 영상(동영상, 정지영상 등)을 획득할 수 있다. 영상은 동영상과 정지 영상을 모두 포함하는 개념으로 이해될 수 있다. 디바이스(100)는 획득한 영상에 대한 영상 처리를 수행할 수 있다. 일 실시 예에 따른 영상 처리는 각각의 영상에 대한 네이밍, 인코딩, 저장, 전송, 편집, 메타 데이터 생성 등을 포함할 수 있으나, 이에 제한되지 않는다.
일 실시 예에 따른 디바이스(100)는 정보 획득 장치(미도시) 또는 네트워크로부터 획득한 의료 행위 관련 정보를 그대로 또는 갱신하여 네트워크로 전송할 수 있다. 디바이스(100)가 네트워크로 전송하는 전송 정보는 네트워크를 통해서 외부 디바이스(130, 140, 150, 160, 170)로 전송될 수 있다. 예를 들면, 디바이스(100)는 네트워크를 통해서 외부 서버(130), 저장 매체(140), 통신 디바이스(150), 가상 서버(160), 사용자 단말(170) 등으로 갱신된 동영상을 전송할 수 있다. 디바이스(100)는 외부 디바이스(130, 140, 150, 160, 170)로부터 다양한 정보(예: 피드백 정보, 갱신 요청 등)를 수신할 수 있다. 통신 디바이스(150)는 통신에 이용되는 디바이스를 제한 없이 의미할 수 있으며(예: 게이트웨이), 통신 디바이스(150)는 사용자 단말(180) 등 네트워크와 직접 연결되지 않는 디바이스와 통신할 수 있다.
일 실시 예에 따른 디바이스(100)는 입력부, 출력부 프로세서, 메모리 등을 포함할 수 있으며, 디스플레이 장치(미도시)도 포함할 수 있다. 예컨대, 사용자는 디스플레이 장치를 통해서 통신 상태, 메모리 사용 현황, 전력 상태(예: 배터리의 충전상태(State Of Charge), 외부 전력 공급 여부 등), 저장된 동영상에 대한 썸네일 영상, 현재 동작 중인 동작 모드 등을 등을 확인 할 수 있다. 한편, 디스플레이 장치는 액정 디스플레이(liquid crystal display), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display), 유기 발광 다이오드(organic light-emitting diode), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display), 전기영동 디스플레이(electrophoretic display) 등일 수 있다. 또한, 디스플레이 장치는 구현 형태에 따라 2개 이상의 디스플레이를 포함할 수 있다. 또한, 디스플레이의 터치패드가 레이어 구조를 이루어 터치 스크린으로 구성되는 경우, 디스플레이는 출력 장치 이외에 입력 장치로도 사용될 수 있다.
또한, 네트워크는 유선 통신 또는 무선 통신을 통해 상호 통신을 수행할 수 있다. 예컨대 네트워크는 일종의 서버로 구현될 수도 있으며, 와이파이 칩, 블루투스 칩, 무선 통신 칩, NFC 칩 등을 포함할 수 있다. 물론, 디바이스(100)는 와이파이 칩, 블루투스 칩, 무선 통신 칩, NFC 칩 등을 이용하여 각종 외부기기와 통신을 수행할 수 있다. 와이파이 칩, 블루투스 칩은 각각 Wi-Fi 방식, 블루투스 방식으로 통신을 수행할 수 있다. 와이파이 칩이나 블루투스 칩을 이용하는 경우에는 SSID 및 세션 키 등과 같은 각종 연결 정보를 먼저 송수신하여, 이를 이용하여 통신 연결한 후 각종 정보들을 송수신할 수 있다. 무선 통신 칩은 IEEE, 지그비, 3G(3rd Generation), 3GPP(3rd Generation Partnership Project), LTE(Long Term Evolution) 등과 같은 다양한 통신 규격에 따라 통신을 수행할 수 있다. NFC 칩은 135kHz, 13.56MHz, 433MHz, 860~960MHz, 2.45GHz 등과 같은 다양한 RF-ID 주파수 대역들 중에서 13.56MHz 대역을 사용하는 NFC(Near Field Communication) 방식으로 동작할 수 있다.
일 실시 예에 따른 입력부는 사용자가 디바이스(100)를 제어하기 위한 데이터를 입력하는 수단을 의미할 수 있다. 예를 들어, 입력부에는 키 패드(key pad), 돔 스위치 (dome switch), 터치 패드(접촉식 정전 용량 방식, 압력식 저항막 방식, 적외선 감지 방식, 표면 초음파 전도 방식, 적분식 장력 측정 방식, 피에조 효과 방식 등), 조그 휠, 조그 스위치 등이 있을 수 있으나 이에 한정되는 것은 아니다.
일 실시 예에 따른 출력부는 오디오 신호 또는 비디오 신호 또는 진동 신호를 출력할 수 있으며, 출력부는 디스플레이 장치, 음향 출력 장치, 및 진동 모터 등을 포함할 수 있다.
일 실시 예에 따른 사용자 단말(170)은 스마트폰(Smartphone), 스마트패드(SmartPad), 태블릿 PC 등 다양한 유무선 통신 디바이스를 포함할 수 있으나 이에 제한되지 않는다.
일 실시 예에 따른 디바이스(100)는 정보 획득 장치(미도시)로부터 획득한 의료 행위 관련 정보(예: 동영상)를 갱신할 수 있다. 예를 들면, 디바이스(100)는 정보 획득 장치(미도시)로부터 획득한 영상에 대한 네이밍, 인코딩, 저장, 전송, 편집, 메타 데이터 생성 등을 수행할 수 있다. 일 예로, 디바이스(100)는 획득한 영상의 메타 데이터(예: 생성 시간)을 이용하여 영상 파일의 네이밍을 수행할 수 있다. 다른 예로, 디바이스(100)는 정보 획득 장치(미도시)로부터 획득한 의료 행위와 관련된 영상을 분류할 수 있다. 디바이스(100)는 학습된 AI를 이용하여, 의료 행위와 관련된 영상을 수술 종류, 수술자, 수술 장소 등 다양한 기준에 기초하여 분류할 수 있다.
또한 도 1에서 디바이스(100)는 서버로 구현될 수도 있으며, 디바이스(100)가 구현될 수 있는 물리적 장치의 범위는 제한하여 해석되지 않는다.
도 2는 일 실시 예에 따른 디바이스(100)의 구성을 개략적으로 도시한 블록도이다.
도 2에 도시된 바와 같이, 일 실시 예에 따른 디바이스(100)는 수신부(210), 프로세서(220), 출력부(230) 및 메모리(240)를 포함할 수 있다. 그러나 도 2에 도시된 구성요소 모두가 디바이스(100)의 필수 구성요소인 것은 아니다. 도 2에 도시된 구성 요소보다 많은 구성 요소에 의해 디바이스(100)가 구현될 수도 있고, 도 2에 도시된 구성 요소보다 적은 구성 요소에 의해 디바이스(100)가 구현될 수도 있다.
예를 들어, 일 실시 예에 따른 디바이스(100)는 수신부(210), 프로세서(220), 출력부(230), 메모리(240) 외에 통신부(미도시) 또는 입력부(미도시)를 더 포함할 수도 있다. 또한 출력부(230)의 일 예로서 디스플레이(미도시)가 포함될 수 있다.
일 실시 예에 따른 수신부(210)는 타케팅 되는 객체를 포함하는 입력 영상을 획득할 수 있다. 입력 영상은 타게팅 되는 객체를 포함하는 영상으로서, 동영상 및 정지영상 중 적어도 하나를 포함할 수 있다. 입력 영상은 카메라와 같은 촬상 장비를 통해 획득될 수도 있으나 무선 또는 유선 통신 방식을 통해 획득될 수도 있으며, 입력 영상을 획득하는 방식은 상술한 방식으로 제한해석 되지 않는다.
일 실시 예에 따른 프로세서(220)는 입력 영상에서 객체에 대응되는 영역을 나타내는 어텐션 블록을 획득할 수 있다.
일 실시 예에 따른 프로세서(220)는 제 1 개수의 분산 추론 엔진 중 일부인 제 2 개수의 분산 추론 엔진을 이용하여 어텐션 블록을 획득할 수 있다. 프로세서(220)는 제 2 개수의 분산 추론 엔진을 이용하여 입력 영상으로부터 어텐션 블록을 획득할 수 있다. 프로세서(220)는 제 1 개수의 분산 추론 엔진 중 일부인 제 2 개수의 분산 추론 엔진을 결정할 수 있다.
일 실시 예에 따른 프로세서(220)는 제 1 개수의 분산 추론 엔진 각각에 대응되는 수술 도구의 종류 또는 이벤트의 종류에 기초하여 제 1 개수의 분산 추론 엔진 각각에 대한 가중치를 결정할 수 있다.
예를 들면, 제 1 개수의 분산 추론 엔진 각각에 대응되는 수술 도구의 종류가 메인 수술 도구, 서브 수술 도구 및 일반 수술 도구인 경우, 프로세서(220)는 제 1 개수의 분산 추론 엔진 각각에 대응되는 가중치를 메인 수술 도구, 서브 수술 도구 및 일반 수술 도구의 순서로 점차 낮아지도록 결정할 수 있다.
다른 예로, 제 1 개수의 분산 추론 엔진 각각에 대응되는 대상이 급변하는 바이탈 신호, 출혈, 메인 수술 도구, 서브 수술 도구 및 일반 수술 도구인 경우, 프로세서(220)는 제 1 개수의 분산 추론 엔진 각각에 대응되는 가중치를 급변하는 바이탈 신호, 출혈, 메인 수술 도구, 서브 수술 도구 및 일반 수술 도구의 순서로 점차 낮아지도록 결정할 수 있다.
일 실시 예에 따른 프로세서(220)는 입력 영상과 어텐션 블록이 중첩되는 영역에 대한 영상 처리(image processing)를 수행할 수 있다. 일 실시 예에 따른 프로세서(220)는 입력 영상과 어텐션 블록이 중첩되는 영역에 대해서 영상 처리를 수행하기 때문에 입력 영상 전체 영역에 대해서 영상 처리를 수행하는 경우보다 요구되는 리소스가 감소할 수 있다.
일 실시 예에 따른 프로세서(220)는 영상 처리를 수행함에 따라 획득되는 객체에 대한 추론 결과를 제공할 수 있다. 일 실시 예에 따른 프로세서(220)는 영상 처리를 통해 객체의 특성 객체의 위치, 객체의 형상, 객체의 종류 등 다양한 추론 결과를 획득할 수 있으며, 획득한 추론 결과를 영상, 텍스트 등 다양한 형식으로 제공(예: 디스플레이)할 수 있다.
도 3은 일 실시 예에 따른 디바이스(100)가 동작하는 각 단계를 도시한 흐름도이다.
단계 S310을 참조하면, 일 실시 예에 따른 디바이스(100)는 타케팅 되는 객체를 포함하는 입력 영상을 획득할 수 있다. 입력 영상은 타게팅 되는 객체를 포함하는 영상으로서, 동영상 및 정지영상 중 적어도 하나를 포함할 수 있다. 입력 영상은 카메라와 같은 촬상 장비를 통해 획득될 수도 있으나 무선 또는 유선 통신 방식을 통해 획득될 수도 있으며, 입력 영상을 획득하는 방식은 상술한 방식으로 제한해석 되지 않는다.
단계 S320을 참조하면, 일 실시 예에 따른 디바이스(100)는 입력 영상에서 객체에 대응되는 영역을 나타내는 어텐션 블록을 획득할 수 있다.
후술하는 바와 같이, 일 실시 예에 따른 디바이스(100)는 제 1 개수의 분산 추론 엔진을 이용하여 단계 S330에서 영상 처리를 수행할 수 있다. 또한, 단계 S320에서 일 실시 예에 따른 디바이스(100)는 제 2 개수의 분산 추론 엔진을 이용하여 어텐션 블록을 획득할 수 있다. 제 2 개수는 제 1 개수보다 작을 수 있다. 어텐션 블록은 실질적인 영상 처리를 수행할 때 이용되는 분산 추론 엔진의 개수인 제 1 개수보다 작은 제 1 개수의 분산 추론 엔진을 이용하여 획득될 수 있다. 따라서 디바이스(100)는 단계 S330에서 수행되는 영상 처리보다 간략한 방식으로 어텐션 블록을 획득할 수 있다. 예를 들면, 디바이스(100)는 영상 처리를 위해 이용되는 분산 추론 엔진이 20개인 경우, 그 중 일부인 5개의 분산 추론 엔진만을 이용하여 어텐션 블록을 획득할 수 있다. 이처럼 일 실시 예에 따른 디바이스(100)는 간략한 방식으로 어텐션 블록을 우선 획득하고, 단계 S330에서 후술하는 바와 같이 어텐션 블록과 입력 영상이 중첩되는 영역에 대해서만 영상 처리를 수행함으로써, 영상 처리에 요구되는 리소스를 감소시킬 수 있다. 어텐션 블록이 이용되지 않을 경우, 입력 영상 전체 영역에 대해서 영상 처리가 수행되어야 하지만, 어텐션 블록과 입력 영상이 중첩되는 영역에 대해서만 영상 처리를 수행하면 영상 처리가 요구되는 영역이 전체 영역보다 감소하기 때문이다. 객체에 대응되는 영역을 크게 벗어나지 않는 수준으로 어텐션 블록을 획득하기 위해서 적절한 개수가 제 2 개수로 결정될 수 있다. 예를 들면, 제 2 개수는 5개 이하일 수 있으나 이에 제한되지 않는다.
일 실시 예에 따른 디바이스(100)는 제 1 개수의 분산 추론 엔진 중 일부인 제 2 개수의 분산 추론 엔진을 이용하여 어텐션 블록을 획득할 수 있다. 디바이스(100)는 제 2 개수의 분산 추론 엔진을 이용하여 입력 영상으로부터 어텐션 블록을 획득할 수 있다. 디바이스(100)는 제 1 개수의 분산 추론 엔진 중 일부인 제 2 개수의 분산 추론 엔진을 결정할 수 있다.
일 실시 예에 따른 디바이스(100)는 제 1 개수의 분산 추론 엔진 각각에 대응되는 수술 도구의 종류 또는 이벤트의 종류에 기초하여 제 1 개수의 분산 추론 엔진 각각에 대한 가중치를 결정할 수 있다.
예를 들면, 제 1 개수의 분산 추론 엔진 각각에 대응되는 수술 도구의 종류가 메인 수술 도구, 서브 수술 도구 및 일반 수술 도구인 경우, 디바이스(100)는 제 1 개수의 분산 추론 엔진 각각에 대응되는 가중치를 메인 수술 도구, 서브 수술 도구 및 일반 수술 도구의 순서로 점차 낮아지도록 결정할 수 있다. 메인 수술 도구, 서브 수술 도구 및 일반 수술 도구의 순서로 중요도가 낮아지기 때문에, 디바이스(100)는 메인 수술 도구, 서브 수술 도구 및 일반 수술 도구의 순서로 점차 낮아지도록 가중치를 결정할 수 있다. 메인 수술 도구, 서브 수술 도구 및 일반 수술 도구는 수술 종류에 따라 결정될 수 있다. 메인 수술 도구는 진행 중인 수술에서 핵심적으로 이용되는 수술 도구이고, 서브 수술 도구는 진행 중인 수술에서 보조적인 역할로 이용되는 수술 도구이고, 일반 수술 도구는 수술 종류와 관련성이 낮으며 여러 수술에서 일반적으로 사용될 수 있는 종류의 수술 도구일 수 있다.
다른 예로, 제 1 개수의 분산 추론 엔진 각각에 대응되는 대상이 급변하는 바이탈 신호, 출혈, 메인 수술 도구, 서브 수술 도구 및 일반 수술 도구인 경우, 디바이스(100)는 제 1 개수의 분산 추론 엔진 각각에 대응되는 가중치를 급변하는 바이탈 신호, 출혈, 메인 수술 도구, 서브 수술 도구 및 일반 수술 도구의 순서로 점차 낮아지도록 결정할 수 있다.
급변하는 바이탈 신호는 일반 바이탈 신호와는 다르며, 시간당 변화량이 기설정값 이상인 경우의 바이탈 신호를 의미할 수 있다. 시간당 변화량은 수술의 종류 등에 따라서 미리 결정될 수 있다.
일 실시 예에 따른 디바이스(100)는 제 1 개수의 분산 추론 엔진 각각에 대응되는 활성화 레벨에 기초하여 제 2 개수의 분산 추론 엔진을 결정할 수 있다.
예를 들면, 디바이스(100)는 제 1 개수의 분산 추론 엔진 각각에 대응되는 활성화 레벨의 합이 기설정 레벨이 되도록 제 2 개수의 분산 추론 엔진을 결정할 수 있다. 일 예로, 제 1 개수의 분산 추론 엔진에서 60%레벨의 분산 추론 엔진이 1개, 45%레벨의 분산 추론 엔진이 1개, 30%레벨의 분산 추론 엔진이 1개, 25%레벨의 분산 추론 엔진이 3개 있는 경우, 60%레벨의 분산 추론 엔진과 45%레벨의 분산 추론 엔진이 제 2 개수의 분산 추론 엔진으로 결정될 수 있다. 이 경우, 활성화 레벨의 합이 100%가 되도록 제 2 개수의 분산 추론 엔진이 결정될 수 있으나, 본 예시에 제한하여 해석되지 않는다. 일 실시 예에 따른 활성화 레벨은 해당 분산 추론 엔진이 동작하고 있는 시간의 합의 전체 시간에 대한 비율을 의미할 수 있다. 예를 들면, 제 1 분산 추론 엔진이 전체 100초 중 50초 동안 활성화되는 경우, 제 1 분산 추론 엔진의 활성화 레벨은 50%일 수 있다.
일 실시 예에 따른 디바이스(100)는 결정된 가중치 또는 활성화 레벨에 기초하여 제 1 개수의 분산 추론 엔진 중 일부인 제 2 개수의 분산 추론 엔진을 결정할 수 있다.
예를 들면, 디바이스(100)는 제 2 개수의 분산 추론 엔진의 가중치의 합이 기설정 값 이상이 되도록 제 2 개수의 분산 추론 엔진을 결정할 수 있다.
다른 예로, 디바이스(100)는 가중치의 순서에 따라서 기설정 개수(예: 3개, 4개, 5개 등)의 분산 추론 엔진을 제 2 개수의 분산 추론 엔진으로 결정할 수 있다.
단계 S330을 참조하면, 일 실시 예에 따른 디바이스(100)는 입력 영상과 어텐션 블록이 중첩되는 영역에 대한 영상 처리(image processing)를 수행할 수 있다.
일 실시 예에 따른 디바이스(100)는 입력 영상과 어텐션 블록이 중첩되는 영역에 대해서 영상 처리를 수행하기 때문에 입력 영상 전체 영역에 대해서 영상 처리를 수행하는 경우보다 요구되는 리소스가 감소할 수 있다. 입력 영상과 어텐션 블록이 중첩되는 영역을 획득하기 위해서 디바이스(100)는 입력 영상과 어텐션 블록 간에 서로 대응되는 특징점을 이용할 수 있다. 예를 들면 디바이스(100)는 입력 영상의 제 1-1 점 및 제 2-1 점과 어텐션 블록이 포함된 영상에서의 제 1-2 점 및 제 2-2 점을 서로 대응시킬 수 있다.
단계 S340을 참조하면, 일 실시 예에 따른 디바이스(100)는 영상 처리를 수행함에 따라 획득되는 객체에 대한 추론 결과를 제공할 수 있다. 일 실시 예에 따른 디바이스(100)는 영상 처리를 통해 객체의 특성 객체의 위치, 객체의 형상, 객체의 종류 등 다양한 추론 결과를 획득할 수 있으며, 획득한 추론 결과를 영상, 텍스트 등 다양한 형식으로 제공(예: 디스플레이)할 수 있다.
또한 도 3에 도시되지는 않았지만, 일 실시 예에 따른 디바이스(100)는 입력 영상에 대한 그라운드 트루스를 획득하고, 그라운드 트루스와 추론 결과의 비교 결과에 기초하여 영상 처리의 방식을 갱신할 수 있다.
그라운드 트루스는 다양한 방식(예: 실측, 관측 등)으로 획득될 수 있으며, 디바이스(100)는 그라운드 트루스와 추론 결과의 차이점에 기초하여 영상 처리의 방식에 대한 학습을 수행하여 영상 처리의 방식을 갱신할 수 있다.
도 4는 일 실시 예에 따른 디바이스(100)가 어텐션 블록을 이용하여 추론을 수행하는 일 예를 설명하기 위한 도면이다.
일 실시 예에 따르 디바이스(100)는 입력 영상(410)에 대한 제 1 영상 처리를 통해서 어텐션 블록이 포함된 영상(420)을 획득할 수 있다. 제 1 영상 처리는 제 1 개수의 분산 추론 엔진 중 일부인 제 2 개수의 분산 추론 엔진을 이용하여 수행될 수 있다.
일 실시 예에 따르 디바이스(100)는 어텐션 블록이 포함된 영상(420)에 대한 제 2 영상 처리를 통해서 추론 결과에 대한 영상(430)을 획득할 수 있다. 제 2 영상 처리는 제 1 개수의 분산 추론 엔진을 이용하여 수행될 수 있다.
일 실시 예에 따른 디바이스(100)는 간략한 방식으로 어텐션 블록을 우선 획득하고, 제 2 영상 처리를 수행할 때 어텐션 블록과 입력 영상이 중첩되는 영역에 대해서만 제 2 영상 처리를 수행할 수 있다. 따라서 제 2 영상 처리에 요구되는 리소스는 입력 영상(410)의 전체 영역에 대해서 영상 처리를 수행하기 위해 요구되는 리소스보다 적을 수 있다.
도 5는 일 실시 예에 따른 디바이스(100)가 추론 결과를 이용하여 학습을 수행하는 일 예를 설명하기 위한 도면이다.
일 실시 예에 따른 디바이스(100)는 입력 영상(410)의 그라운드 트루스에 대한 영상(510)을 획득하고, 그라운드 트루스에 대한 영상(510)과 추론 결과에 대한 영상(430)의 비교 결과에 기초하여 영상 처리의 방식을 갱신할 수 있다.
그라운드 트루스에 대한 영상(510)은 다양한 방식(예: 실측, 관측 등)으로 획득될 수 있으며, 디바이스(100)는 그라운드 트루스에 대한 영상(510)과 추론 결과에 대한 영상(430)의 차이점에 기초하여 영상 처리의 방식에 대한 학습을 수행하여 영상 처리의 방식을 갱신할 수 있다.
도 6은 일 실시 예에 따른 디바이스(100)가 어텐션 블록을 획득하기 위해 복수개의 분산 추론 엔진 중 일부를 결정하는 일 예를 설명하기 위한 도면이다.
제 1 개수의 분산 추론 엔진(660)은 클래스로 구별될 수 있다. 예를 들면, 제 1 개수의 분산 추론 엔진(660)은 클래스03 내지 클래스18로 표현될 수 있다.
동영상에 포함된 복수의 프레임은 재생 시간에 따라 순차적으로 배열될 수 있다. 복수의 프레임에 대해서 제 1 개수의 분산 추론 엔진(660)이 적용되어 각각의 프레임에 대해서 추론을 수행한다. 예를 들면 클래스03의 분산 추론 엔진은 제 1 수술 도구(예: 석션)를 추론하고, 클래스04의 분산 추론 엔진은 제 2수술 도구(예: 가위)를 추론하고, 클래스05의 분산 추론 엔진은 수술 부위를 추론하고, 클래스06의 분산 추론 엔진은 출혈 부위를 추론하고, 클래스07의 분산 추론 엔진은 수술자의 손을 추론할 수 있으나 이에 제한되지 않는다.
일 실시 예에 따른 추론 영역(620)은 제 1 개수의 분산 추론 엔진(660)으로부터 획득되는 복수의 분산 추론 결과를 나타낼 수 있다. 예를 들면 클래스11의 분산 추론 엔진이 트로카(trocar)를 추론하는 경우, 동영상에서 트로카가 있다고 결정되는 프레임은 제 1 영역(670)과 같이 표시되고, 트로카가 없다고 결정되는 프레임은 제 2 영역(680)과 같이 표시될 수 있다.
결과 표시 영역(610)은 각각의 프레임에 대한 영상 처리 결과를 나타낼 수 있다. 영상 처리 결과는 복수의 마크(630) 중 어느 하나로 표현될 수 있다. 예를 들면 넘버 0에 대응되는 영상 처리 결과는 제 1 마크(631)로 표현될 수 있고, 넘버 1에 대응되는 영상 처리 결과는 제 2 마크(632)로 표현될 수 있다.
일 실시 예에 따른 디바이스(100)는 제 1 개수의 분산 추론 엔진(660) 각각에 대응되는 활성화 레벨에 기초하여 제 2 개수의 분산 추론 엔진(640, 650)을 결정할 수 있다.
예를 들면, 디바이스(100)는 제 1 개수의 분산 추론 엔진(660) 각각에 대응되는 활성화 레벨의 합이 기설정 레벨이 되도록 제 2 개수의 분산 추론 엔진(640, 650)을 결정할 수 있다. 일 예로, 제 1 개수의 분산 추론 엔진(660)에서 60%레벨의 분산 추론 엔진(640)이 1개, 45%레벨의 분산 추론 엔진(650)이 1개, 30%레벨의 분산 추론 엔진이 1개, 25%레벨의 분산 추론 엔진이 3개 있는 경우, 60%레벨의 분산 추론 엔진(640)과 45%레벨의 분산 추론 엔진(650)이 제 2 개수의 분산 추론 엔진으로 결정될 수 있다. 이 경우, 활성화 레벨의 합이 100%가 되도록 제 2 개수(예: 2개)의 분산 추론 엔진이 결정될 수 있으나, 본 예시에 제한하여 해석되지 않는다. 일 실시 예에 따른 활성화 레벨은 해당 분산 추론 엔진이 동작하고 있는 시간의 합의 전체 시간에 대한 비율을 의미할 수 있다. 예를 들면, 제 1 분산 추론 엔진이 전체 120k의 프레임 중 60k의 프레임 동안 활성화되는 경우, 제 1 분산 추론 엔진의 활성화 레벨은 50%일 수 있다.
일 실시 예에 따른 디바이스(100)는 결정된 활성화 레벨에 기초하여 제 1 개수의 분산 추론 엔진(660) 중 일부인 제 2 개수의 분산 추론 엔진(640, 650)을 결정할 수 있다. 도 6에서 설명하는 실시 예는 하나의 예시로서 본 개시의 내용은 도 6에서 설명되는 예시로 제한하여 해석되지 않는다.
본 개시의 다양한 실시 예들은 기기(machine)(예를 들어, 디스플레이 장치 또는 컴퓨터)에 의해 읽을 수 있는 저장 매체(storage medium)(예를 들어, 메모리)에 저장된 하나 이상의 인스트럭션들을 포함하는 소프트웨어로서 구현될 수 있다. 예를 들면, 기기의 프로세서(예를 들어, 프로세서(220))는, 저장 매체로부터 저장된 하나 이상의 인스트럭션들 중 적어도 하나의 인스트럭션을 호출하고, 그것을 실행할 수 있다. 이것은 기기가 상기 호출된 적어도 하나의 인스트럭션에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 상기 하나 이상의 인스트럭션들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장매체는, 비일시적(non-transitory) 저장매체의 형태로 제공될 수 있다. 여기서, '비일시적'은 저장매체가 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다.
일 실시 예에 따르면, 본 개시에 개시된 다양한 실시 예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory (CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 또는 두 개의 사용자 장치들(예: 스마트폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
본 발명에 대하여 예시한 도면을 참조로 하여 설명하였으나 개시된 실시 예와 도면에 의해 한정되는 것은 아니며 본 실시 예와 관련된 기술 분야에서 통상의 지식을 가진 자는 상기된 기재의 본질적인 특성에서 벗어나지 않는 범위에서 변형된 형태로 구현될 수 있음을 이해할 수 있을 것이다. 그러므로 개시된 방법들은 한정적인 관점이 아니라 설명적인 관점에서 고려되어야 한다. 실시 예를 설명하며 본 발명의 구성에 따른 작용 효과를 명시적으로 기재하여 설명하지 않았을지라도, 해당 구성에 의해 예측이 가능한 효과 또한 인정될 수 있다. 본 발명의 범위는 전술한 설명이 아니라 특허청구범위에 나타나 있으며, 그와 동등한 범위 내에 있는 모든 차이점은 본 발명에 포함된 것으로 해석되어야 할 것이다.
100: 디바이스 190: 서버
210: 수신부 220: 프로세서
230: 출력부 240: 메모리
410: 입력 영상
420: 어텐션 블록이 포함된 영상
430: 추론 결과에 대한 영상
510: 그라운드 트루스에 대한 영상
610: 결과 표시 영역 620: 추론 영역
630: 복수의 마크
631: 제 1 마크 632: 제 2 마크
640, 650: 제 2 개수의 분산 추론 엔진
660: 제 1 개수의 분산 추론 엔진
670: 제 1 영역 680: 제 2 영역

Claims (13)

  1. 어텐션 블록을 이용하여 영상을 처리하는 방법에 있어서,
    타케팅 되는 객체를 포함하는 입력 영상을 획득하는 단계;
    상기 입력 영상에서 상기 객체에 대응되는 영역을 나타내는 어텐션 블록을 획득하는 단계;
    상기 입력 영상과 상기 어텐션 블록이 중첩되는 영역에 대한 영상 처리(image processing)를 수행하는 단계; 및
    상기 영상 처리를 수행함에 따라 획득되는 상기 객체에 대한 추론 결과를 제공하는 단계;를 포함하는, 방법.
  2. 제 1 항에 있어서,
    상기 영상 처리를 수행하는 단계는
    제 1 개수의 분산 추론 엔진을 이용하여 상기 영상 처리를 수행하는, 방법.
  3. 제 1 항에 있어서,
    상기 어텐션 블록을 획득하는 단계는
    제 2 개수의 분산 추론 엔진을 이용하여 상기 어텐션 블록을 획득하고,
    상기 제 2 개수는 상기 제 1 개수보다 작은, 방법.
  4. 제 3 항에 있어서,
    상기 제 1 개수의 분산 추론 엔진 각각에 대응되는 수술 도구의 종류 또는 이벤트의 종류에 기초하여 상기 제 1 개수의 분산 추론 엔진 각각에 대한 가중치를 결정하는 단계; 및
    상기 가중치에 기초하여 상기 제 1 개수의 분산 추론 엔진 중 일부인 상기 제 2 개수의 분산 추론 엔진을 결정하는 단계;를 더 포함하는, 방법.
  5. 제 4 항에 있어서,
    상기 가중치를 결정하는 단계는
    상기 제 1 개수의 분산 추론 엔진 각각에 대응되는 수술 도구의 종류가 메인 수술 도구, 서브 수술 도구 및 일반 수술 도구인 경우,
    상기 제 1 개수의 분산 추론 엔진 각각에 대응되는 가중치가 상기 메인 수술 도구, 상기 서브 수술 도구 및 상기 일반 수술 도구의 순서로 점차 낮아지도록 결정되는, 방법.
  6. 제 4 항에 있어서,
    상기 가중치를 결정하는 단계는
    상기 제 1 개수의 분산 추론 엔진 각각에 대응되는 대상이 급변하는 바이탈 신호, 출혈, 메인 수술 도구, 서브 수술 도구 및 일반 수술 도구인 경우,
    상기 제 1 개수의 분산 추론 엔진 각각에 대응되는 가중치가 상기 급변하는 바이탈 신호, 상기 출혈, 상기 메인 수술 도구, 상기 서브 수술 도구 및 상기 일반 수술 도구의 순서로 점차 낮아지도록 결정되는, 방법.
  7. 제 1 항에 있어서,
    상기 입력 영상에 대한 그라운드 트루스를 획득하는 단계; 및
    상기 그라운드 트루스와 상기 추론 결과의 비교 결과에 기초하여 상기 영상 처리의 방식을 갱신하는 단계;를 더 포함하는, 방법.
  8. 어텐션 블록을 이용하여 영상을 처리하는 디바이스에 있어서,
    타케팅 되는 객체를 포함하는 입력 영상을 획득하는 수신부; 및
    상기 입력 영상에서 상기 객체에 대응되는 영역을 나타내는 어텐션 블록을 획득하고,
    상기 입력 영상과 상기 어텐션 블록이 중첩되는 영역에 대한 영상 처리(image processing)를 수행하고,
    상기 영상 처리를 수행함에 따라 획득되는 상기 객체에 대한 추론 결과를 제공하는 프로세서;를 포함하는, 디바이스.
  9. 제 8 항에 있어서,
    상기 프로세서는
    제 1 개수의 분산 추론 엔진을 이용하여 상기 영상 처리를 수행하는, 디바이스.
  10. 제 8 항에 있어서,
    상기 프로세서는
    제 2 개수의 분산 추론 엔진을 이용하여 상기 어텐션 블록을 획득하고,
    상기 제 2 개수는 상기 제 1 개수보다 작은, 디바이스.
  11. 제 10 항에 있어서,
    상기 프로세서는
    상기 제 1 개수의 분산 추론 엔진 각각에 대응되는 수술 도구의 종류 또는 이벤트의 종류에 기초하여 상기 제 1 개수의 분산 추론 엔진 각각에 대한 가중치를 결정하고,
    상기 가중치에 기초하여 상기 제 1 개수의 분산 추론 엔진 중 일부인 상기 제 2 개수의 분산 추론 엔진을 결정하는, 디바이스
  12. 제 11 항에 있어서,
    상기 프로세서는
    상기 제 1 개수의 분산 추론 엔진 각각에 대응되는 수술 도구의 종류가 메인 수술 도구, 서브 수술 도구 및 일반 수술 도구인 경우,
    상기 제 1 개수의 분산 추론 엔진 각각에 대응되는 가중치가 상기 메인 수술 도구, 상기 서브 수술 도구 및 상기 일반 수술 도구의 순서로 점차 낮아지도록 결정되는, 디바이스.
  13. 제 1 항 내지 제 7 항 중 어느 한 항의 방법을 구현하기 위한 프로그램이 기록된 컴퓨터로 판독 가능한 비일시적 기록 매체.
KR1020220127284A 2022-10-05 2022-10-05 어텐션 블록을 이용하여 영상을 처리하는 방법 및 디바이스 KR20240048073A (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020220127284A KR20240048073A (ko) 2022-10-05 2022-10-05 어텐션 블록을 이용하여 영상을 처리하는 방법 및 디바이스

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020220127284A KR20240048073A (ko) 2022-10-05 2022-10-05 어텐션 블록을 이용하여 영상을 처리하는 방법 및 디바이스

Publications (1)

Publication Number Publication Date
KR20240048073A true KR20240048073A (ko) 2024-04-15

Family

ID=90715751

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020220127284A KR20240048073A (ko) 2022-10-05 2022-10-05 어텐션 블록을 이용하여 영상을 처리하는 방법 및 디바이스

Country Status (1)

Country Link
KR (1) KR20240048073A (ko)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102402011B1 (ko) 2020-02-18 2022-05-27 재단법인 아산사회복지재단 의료영상 처리 장치와 그 의료영상 학습 방법 및 의료영상 처리 방법

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102402011B1 (ko) 2020-02-18 2022-05-27 재단법인 아산사회복지재단 의료영상 처리 장치와 그 의료영상 학습 방법 및 의료영상 처리 방법

Similar Documents

Publication Publication Date Title
US10777317B2 (en) Automatically assessing an anatomical surface feature and securely managing information related to the same
EP3754592B1 (en) Image acquisition device and method of controlling the same
JP6120762B2 (ja) 画像処理装置
US9629593B2 (en) Method of controlling image diagnosis apparatus and mobile terminal for the same, and method of operating image diagnosis apparatus and image diagnosis apparatus for the same
US11810279B2 (en) Image acquisition device and method of controlling the same
CN110443794B (zh) 一种基于病理图像的图像状态确定方法、装置以及系统
US11900594B2 (en) Methods and systems for displaying a region of interest of a medical image
KR101978695B1 (ko) 원격 재활 분석 장치 및 그 방법
EP3358531B1 (en) Electronic device for providing vr image based on polyhedron and image providing method thereof
CN110610181A (zh) 医学影像识别方法及装置、电子设备及存储介质
CN108353152A (zh) 图像处理设备及其操作方法
US11553157B2 (en) Device and method of displaying images
CN113706441A (zh) 一种基于人工智能的图像预测方法、相关装置及存储介质
US11497455B2 (en) Personalized monitoring of injury rehabilitation through mobile device imaging
CN111540443A (zh) 医学影像显示方法和通信终端
JP6809249B2 (ja) 画像表示システム
KR20240048073A (ko) 어텐션 블록을 이용하여 영상을 처리하는 방법 및 디바이스
KR20200097596A (ko) 사용자 프리셋(User Preset)을 제공하는 초음파 진단 장치 및 그 동작 방법
KR101685990B1 (ko) 멀티디스플레이 장치 및 이를 이용한 정보 제공 방법
KR20240048074A (ko) 라벨링을 이용한 능동 학습 방법 및 디바이스
KR20240048075A (ko) 영상에 포함된 객체에 대한 추론을 수행하는 방법 및 디바이스
KR20240022048A (ko) 수술 단계에 대한 정보를 제공하는 방법 및 디바이스
KR102175348B1 (ko) 피부 진단 방법 및 장치
KR20240046357A (ko) 관심 영역에 대한 위치를 결정하는 방법 및 디바이스
KR20240022047A (ko) 수술에 대한 시나리오를 제공하는 방법 및 디바이스