KR20220108028A - 자동화된 의료 이미지 주석 및 분석 - Google Patents

Abstract

다수의 서로 다른 기계 학습 모델에 의한 방사선 사진의 자동화된 이미지 분석에 의해 결정된 하나 이상의 치과 병리, 해부학적 구조, 기형 또는 기타 상태의 방사선 사진 내의 위치를 자동적으로 마크(mark)하기 위한 시스템 및 방법이 제공된다. 이미지 주석 데이터는 다수의 기계 학습 모델의 출력과 연관되어 획득된 결과에 적어도 부분적으로 기초하여 생성될 수 있고, 이미지 주석 데이터는 방사선 사진 내의 적어도 하나의 위치 및 기계 학습 모델의 적어도 하나에 의해 적어도 하나의 위치에서 감지된 연관된 치과 병리, 수복물, 해부학적 구조 또는 기형을 나타낸다. 사용자 인터페이스는 주어진 병리 또는 기타 상태의 존재 및 위치를 시각적으로 마크하기 위해, 방사선 사진의 이미지 데이터의 적어도 일 부분과 함께 이미지 데이터의 적어도 일 부분 위에 오버레이되도록 보이는 시각적인 경계 형상의 디스플레이를 제공할 수 있다.

Description

자동화된 의료 이미지 주석 및 분석

우선권 및 참조에 의한 포함

본 출원은 2019년 9월 5일 출원되고 그 명칭이 "자동화된 의료 이미지 분석을 위한 시스템 및 분석"인 미국 출원 번호 16/562,286, 그리고 2019년 9월 5일 출원되고 그 명칭이 자동화된 의료 이미지 주석을 위한 시스템 및 방법인 미국 출원 번호 16/562,285에 대한 우선권을 주장하고 이들을 참조에 의해 포함한다.

치과 또는 기타 의료 분야에서 X-레이 이미지 및 기타 의료용 방사선 사진들의 잘못된 또는 일관성이 없는 판독은 상대적으로 흔하다. 예를 들어, 치과 분야에서, 환자의 치아에 대한 X-레이는 경험 및 트레이닝에 의해 지식을 얻은 치과의사 자신의 판단을 이용하여 진단 또는 다른 목적을 위해 치과의사에 의해 진찰된다. 개별적인 치과의사, 의사 또는 기타 의료 제공자는 특정 진단, 해부학적 구조(anatomy) 또는 기형(anomaly)에 대해 한정된 지식을 가질 수 있고, 이것은 부정확하거나 실수인(missed) 진단 또는 치료 추천으로 이어질 수 있다. 더욱이, 두 명의 의료 제공자는 특정 환자에 대해 캡처된(captured) 동일한 방사선 사진 또는 방사선 사진 세트의 검토에 기초한 진단 또는 치료 계획에 대해 서로 다른 의견을 가질 수 있다. 치과 분야에서, 치과 진료는 캡처된 방사선 사진들을 디지털 이미지 파일들로서 관리하고 검토하는 종래의 컴퓨터 소프트웨어를 종종 이용한다. 일부의 이러한 종래의 소프트웨어 또는 관련된 컴퓨터 도구들은 치과의사가 디지털 파일들을 더 검토할 수 있도록 하고 주어진 방사선 사진 이미지에서 치과의사가 관찰한 관심있는 특징들을 더 수동으로 마크(사용자 인터페이스 제어 등을 통하여)할 수 있도록 한다.

전술한 측면들 및 수반되는 많은 이점들은 첨부 도면과 함께 볼 때 이하의 상세한 설명을 참조함으로써 동일한 것이 더 잘 이해됨에 따라 더 쉽게 이해될 것이다:
도 1a는 일부 실시예에 따라 의료 이미지 분석 시스템 및 연관된 클라이언트-측 의료 이미지 뷰어 애플리케이션의 특징을 구현하기에 적합한 네트워크된 컴퓨팅 환경을 도시한다.
도 1b는 도 1a의 네트워크된 컴퓨팅 환경 내의 예시적인 데이터 흐름을 도시한다.
도 2는 방사선 사진에 묘사된 서로 다른 병리(pathologies), 해부학적 구조(anatomies), 수복물(restorations) 및/또는 기형(anomalies)을 감지하기 위해 집합적으로 구현될 수 있는 다수의 서로 다른 전처리 모듈, 기계 학습 모델 및 후처리 모듈을 도시한다.
도 3은 일부 실시예에 따라 복수의 기계 학습 모델의 출력에 기초하여 방사선 사진 주석 데이터를 생성하기 위한 예시적인 방법의 흐름도이다.
도 4는 일부 실시예에 따라 기계 학습 테크닉에 의해 자동적으로 결정된 방사선 사진 주석 데이터 및/또는 기타 메타데이터의 제공(presentation)을 포함하는 사용자 인터페이스를 생성하기 위한 예시적인 방법의 흐름도이다.
도 5는 판독중인(viewing) 사용자가 시각적인 제공을 수정할 수 있도록 하는 다양한 사용자 인터페이스 제어들과 함께, 자동화된 이미지 분석 결과에 기초하여 주석이 달린 방사선 사진을 제시하는 예시적인 사용자 인터페이스를 도시한다.
도 6은 다수의 영역 각각을 진양성(true positive), 위양성(false positive), 진음성(true negative) 또는 위음성(false negative)로 식별하는 것과 같이, 기계 학습 모델 성능을 결정하도록 분석될 수 있는 주석 영역을 도시한다.
도 7은 영역들의 공간적인 관계에 기초하여 위양성을 식별하기 위한 후처리 방법에서 분석될 수 있는, 감지된 치아 및 감지된 충치(caries)에 대응하는 주석 영역을 도시한다.
도 8은 본 개시의 다양한 실시예에서 사용하기에 적합한 컴퓨팅 환경의 시스템 블록도이다.

일반적으로 설명하면, 본 개시의 측면들은 캡처된 방사선 사진들에 묘사된 다수의 서로 다른 병리(pathologies), 해부학적 구조(anatomies), 수복물(restorations) 또는 기형(anomalies) 중 임의의 것을 레이블(label)하기 위해 치과 X-레이 및/또는 기타 방사선 사진의 자동화된 분석을 수행하기 위한 컴퓨터-구현된 프로세스 및 시스템 아키텍처에 관한 것이다. 일부 실시예에서, 다양한 구성요소와 시스템 간의 통신을 용이하게 하는 애플리케이션 프로그래밍 인터페이스("API")가 제공된다. API를 통해 구현된 기능에는 방사선 사진을 디지털 파일로 수신하고, 특정 병리를 감지하도록 훈련된 모델을 포함하는 복수의 기계 학습 모델들에 대한 관련 입력 및 출력을 조정하고, 결과적인 메타데이터 및/또는 이미지 주석 데이터를 치과 의사 또는 기타 의료 제공자의 컴퓨팅 시스템에 보내는 것을 포함할 수 있다. 이하에서 논의되는 바와 같이, 일부 실시예에서 기계 학습 테크닉은 매우 다양하고 상이한 치과 병리, 해부학적 구조, 수복물 및/또는 기형 중 임의의 것을 식별하기 위해 치과 방사선 사진(교익(bitewing), 치근단(periapical), 파노라마(panoramic), 교합(occlusal) 및/또는 기타 형식으로 촬영한 구강 내(intraoral) 치과 방사선 사진과 같은)을 분석하기 위한 다양한 기계 학습 모델들을 훈련하는 데 사용될 수 있다. 특정 환자의 방사선 사진 데이터를 이러한 훈련된 모델들에게 제공한 결과는 여기에서 더 논의되는 바와 같이 사용자 인터페이스를 통해 치과 의사 또는 기타 실무자에게 제공될 수 있는 주석이 달린 이미지를 자동으로 생성하기 위한 분석 시스템에 의해 사용될 수 있다.

이하에서 논의되는 바와 같이, 일부 실시예에 따라 입력된 방사선 사진 이미지 데이터로부터 잠재적으로 서로 다른 수십개의 병리를 신뢰성 있게 그리고 자동적으로 식별하기 위한 컴퓨터 시각(vision) 및 기계 학습 기능을 이용한 API 및 연관된 플랫폼이 제공된다. 예를 들어, X-레이 이미지, 치과 콘 빔 컴퓨터 단층 촬영(CBCT: cone beam computed tomography) 이미지 또는 기타 방사선 사진 이미지들이 기계 학습 모델 훈련 프로세스의 일부로서 다수의 전문가들(세계적으로 유명한 치과의사들과 같은)에 의해 주석이 달릴 수 있고, 훈련된 모델의 컬렉션은 그후 이미지가 API를 통해 수신될 때와 관련하여 실시간 또는 거의 실시간으로 훈련된 모델에 제공되는 방사선 사진에 자동으로 레이블이나 주석을 달도록 결합하여 사용될 수 있다. 일부 실시예에서, 치과의사들과 같은 사용자들로부터의 실시간 피드백이 서로 다른 병리들을 정확하게 식별하는데 있어 시스템의 성능을 더욱 향상시키기 위해 사용될 수 있다.

일부 실시예에 따르면, 임상 사용자는 네트워크에 연결된 랩톱 또는 데스크톱과 같은 컴퓨팅 시스템 상에서 상호적인 사용자 인터페이스를 제공하는 의료 이미지 뷰어 애플리케이션을 통해 오피스 네트워크 서버에 위치한 환자의 방사선 사진에 접근할 수 있다. 환자의 구강(mouth)에 대한 방사선 사진 이미지 또는 이미지들은 캡처되고, 기계 학습을 통해 분석 및 주석을 달기 위한 네트워크-기반의 의료 이미지 분석 시스템으로 보내지고, 그리고 의료 이미지 뷰어 애플리케이션 내에서 판독(viewing)을 위해 돌아올 수 있다 (일 실시예에서, 10초 후에 또는 그 이하와 같이). 감지된 상태 또는 병리는 사용자 인터페이스 내에서 원본 X-레이 이미지 위에 보이는 움직이는(animated) 또는 정적인(static) 오버레이(overlay)로서 디스플레이될 수 있다. 오버레이는 X-레이의 어느 영역이 어떠한 감지된 상태 또는 병리를 포함하고 있는지를 실무자에게 나타낼 수 있다. 이하에서 논의되는 바와 같이, 임상의(clinician)는 디스플레이를 변경하기 위해, 판독을 위한 특정 조건을 선택하는 것과 같이, 사용자 인터페이스 내에서 다수의 선택을 할 수 있다.

도 1a는 일부 실시예에 따라 의료 이미지 분석 시스템 및 연관된 클라이언트-측 의료 이미지 뷰어 애플리케이션의 특징을 구현하기에 적합한 네트워크된 컴퓨팅 환경을 도시한다. 환경(100)은 네트워크(108), 의료 제공자 시스템(102), 하나 이상의 이미지 저장 시스템(103), 및 의료 이미지 분석 시스템(120)을 포함한다. 논의를 단순화하고 본 개시를 한정하지 않기 위해, 비록 다수의 의료 제공자 시스템이 다수의 실시예에서 존재할 수 있을 지라도, 도 1a는 오직 하나의 의료 제공자 시스템(102)만을 도시한다. 예를 들어, 의료 제공자 시스템(102)은 특정 치과 진료 또는 치과의사에 의해 이용될 수 있고, 다수의 기타 치과 진료 또는 기타 의료인은 동일한 의료 이미지 분석 시스템(120)과 통신하는 기타 의료 제공자 시스템을 작동할 수 있다. 의료 제공자 시스템(102)은 일차 진료(예를 들어, 가족 치과 진료 또는 내과(internal medicine)), 응급 의학과(emergency medicine), 긴급 치료, 및/또는 이러한 설정을 통해 방사선 사진을 검토하는 구강 악안면 영상의학과 의사(oral maxillofacial radiologist)와 같이 다양한 치과 세팅 내에서 사용자에 의해 작동될 수 있다. 예를 들어, 의료 이미지 뷰어 애플리케이션(104)은 치과, 치과 서비스 조직 사무실, 치과 보험 제공자 및/또는 기타 설정 내의 하나 이상의 컴퓨터 시스템 상에 설치될 수 있다.

의료 이미지 분석 시스템(120)은 API 게이트웨이(122), 하나 이상의 데이터 저장소(124), 이미지 변환 모듈(125) 및 도시된 실시예에서 다수의 전처리 분류기(132) 및 병리 감지기(134)를 포함하는 기계 학습 구성요소(130)를 포함할 수 있다. 도 1a가 특히 병리 감지기를 도시하는 반면, 기계 학습 구성요소(130)는 다양한 해부학적 구조, 기형 및/또는 수복물과 같이 병리가 아닌 다른 것을 감지하도록 각각 훈련된 다양한 기타 감지기를 추가적으로 포함할 수 있다. 이하에서 논의되는 바와 같이, API 게이트웨이(122)는 의료 이미지를 수신하고, 기계 학습 구성요소(130)에 의한 후속적인 이미지 처리 및 분석을 조정하기 위해 의료 제공자 시스템(102) 및/또는 이미지 저장 시스템(103)과 통신(예를 들어, 인터넷과 같은 네트워크(108)를 이용하여)할 수 있다. 비록 오직 하나의 네트워크(108)만이 도시되지만, 복수의 구별되는 및/또는 분산된 네트워크가 존재할 수 있다. 도 1a에 도시된 다양한 시스템 및 기타 구성요소는, 이들 사이의 상호작용 또는 통신을 포함하여, 도 1b와 관련하여 이하에서 더욱 상세히 설명될 것이다.

도 1a에 도시된 의료 제공자 시스템(102)은 통신 네트워크(108)를 통해 통신을 확립하기 위한 하드웨어 및 소프트웨어 구성요소들을 포함할 수 있다. 예를 들어, 의료 제공자 시스템(102)은 하나 이상의 네트워크(예를 들어, 인터넷, 인트라넷 또는 가상 사설망)를 통해 통신을 용이하게 하는 네트워킹 장비 및 네트워크 소프트웨어 애플리케이션(예를 들어, 웹 브라우저 및/또는 의료 이미지 분석 시스템(120)의 운영자와 연관된 독점(proprietary) 애플리케이션)을 구비할 수 있다. 의료 제공자 시스템(102)은 중앙 처리 유닛 및 아키텍처, 메모리, 대용량 저장소, 그래픽 처리 유닛, 통신 네트워크 가용성 및 대역폭 기타 등등과 같은 다양한 지역적(local) 컴퓨팅 자원을 가질 수 있다. 더욱이, 의료 제공자 시스템(102)은 임의의 형태의 컴퓨팅 시스템을 포함할 수 있다. 예를 들어, 의료 제공자 시스템(102)은 일부 실시예에서 하나 이상의 데스크톱 컴퓨터, 랩톱 컴퓨터, 및/또는 치과 진료 또는 기타 의료 진료와 연관되어 작동되는 서버를 포함할 수 있다.

의료 제공자 시스템(102)은 데이터 저장소(126)를 포함할 수 있다. 데이터 저장소(126)는 환자 데이터, 방사선 사진 이미지 및/또는 전형적인 치과 진료 또는 기타 의료 진료시에 사용되는 다른 정보를 저장하도록 구성될 수 있다. 데이터 저장소(126)는 의료 제공자 시스템(102)의 지역적(의사의 사무실, 병원, 연구소 또는 기타 의료 시설 내에 물리적으로 위치되는 것과 같이)으로, 의료 제공자 시스템(102)으로부터 원격에, 및/또는 다수의 컴퓨팅 장치 전반에 걸쳐 분산될 수 있다. 데이터 저장소(126)는 의료 데이터의 저장을 위해 건강 보험 이동성 및 책임에 관한 법률("HIPAA")의 준수를 포함하여, 본 기술분야에서 알려진 다양한 보안 및 개인정보보호 프로토콜들을 채용할 수 있다. 일부 실시예에서, 데이터 저장소(126)는 치과 진료의 종래의 제3자 진료 관리 및/또는 방사선 사진 처리 애플리케이션(들)에 의해 쓰여질 수 있고, 의료 이미지 뷰어 애플리케이션(104) 및 의료 이미지 분석 시스템(120)과 연관하여 작동하도록 구성된 이미지 모니터링 구성요소(106)에 의해 새로운 파일에 대해 모니터링될 수 있다.

의료 제공자 시스템(102)은 이하에서 더욱 논의되는 바와 같이 새로운 이미지에 대해 데이터 저장소(126) 또는 치과 진료의 방사선 사진 이미지의 다른 출처(source)를 모니터링하도록 구성된 이미지 모니터링 구성요소(106)를 포함할 수 있다. 일부 실시예에서, 이미지 모니터링 구성요소(106)는 단독 실행 가능한(stand-alone) 애플리케이션이거나 시스템 확장일 수 있는 반면, 다른 실시예에서 의료 이미지 뷰어 애플리케이션(104)의 일부일 수 있다. 의료 이미지 뷰어 애플리케이션(104)은 여기에서 개시되는 다양한 클라이언트-측 기능을 제공하기 위해 의료 제공자 시스템(102)에 의해 실행되는 컴퓨터 프로그램 또는 애플리케이션일 수 있고, 이하에서 더욱 논의되는 바와 같이 주석이 달린 방사선 사진 이미지 및 연관된 사용자 인터페이스의 디스플레이를 생성 및 유발하기 위한 주석 디스플레이 구성요소(105)를 포함할 수 있다.

도 1b는 도 1a의 네트워크된 컴퓨팅 환경 내에서 예시적인 데이터 흐름(101)을 도시한다. 도시의 편의를 위해, 도 1b의 데이터 흐름은 도시된 구성요소 또는 시스템간의 개별적인 통신이 네트워크를 통한 것인지 단일 컴퓨팅 시스템 또는 장치 내에서의 지역적인 것인지 여부는 명시하지 않는다. 하나의 예시적인 네트워크 배치가 도 1a에 도시되고 전술되었으나, 도 1a에서 단일 컴퓨팅 시스템의 부분으로서 도시된 구성요소 또는 부분 시스템은 대신에 서로간에 상대적으로 원격에 위치될 수 있다는 것은 이해될 수 있다. 유사하게, 도 1a에서 서로 네트워크 통신하는 것으로 도시된 다른 시스템 또는 구성요소는 일부 실시예에서 단일 컴퓨팅 시스템 상에서 함께 작동될 수 있고 또는 네트워크를 통해 통신하기 보다는 서로간에 직접적이고 지역적인 통신을 할 수 있다.

예시적인 데이터 흐름(101)은 단계 (1)에서 의료 제공자 시스템(102)이 하나 이상의 새로운 방사선 사진 또는 다른 의료 이미지를 식별하고 이미지 저장 시스템(103)으로 업로드함으로써 시작된다. 일부 실시예에서, 이미지 모니터링 구성요소(106)는 치과의사 또는 다른 의료 전문가에 의해 이용되는 다수의 종래의 X-레이 이미지 관리 애플리케이션 또는 소프트웨어 패키지 중 임의의 것과 같이, 환자의 X-레이(도시되지 않음)를 캡처하는 것과 연관된 다른 애플리케이션에 의해 저장된 새로이 이용 가능한 방사선 사진 이미지 파일들에 대해 데이터 저장소(126) 상의 특정 디렉토리 또는 위치를 주기적으로 스캔 또는 검색하도록 구성될 수 있다. 예를 들어, 이미지 모니터링 구성요소(106)는 이미지 모니터링 구성요소에 의해 수행된 이전의 체크 이후에 디렉토리에 추가된 임의의 새로운 이미지 파일에 대해 특정 디렉토리를 체크하도록 구성될 수 있고, 여기서 이러한 체크는 정해진 스케줄 상, 사용자 요청에 응답하여, 및/또는 다른 트리거 이벤트(의료 이미지 뷰어 애플리케이션(104)에 의해 호출된 트리거와 같이)에 기초하여 일어날 수 있다.

단계 (1)에서 이미지 저장 시스템(103)으로 보내진 이미지 및 연관 메타데이터는 안전한 방식으로 보내질 수 있다. 예를 들어, 일 실시예에서, 이미지 및 임의의 연관 데이터는 하이퍼텍스트 전송 프로토콜 보안("HTTPS") 연결 상의 전송 계층 보안("TLS") 암호화 프로토콜을 통해 보내질 수 있고, 이미지 저장 시스템(103) 또는 연관된 클라우드 저장 서비스는 HIPAA 인증될 수도 있다. 예를 들어, 이미지 저장 시스템(103)에 저장된 데이터는 완전히 암호화되고 단단히 제어되는 접근 제한을 갖는(이중 인증을 이용하고 HIPAA 준수 정책을 시행하는 것과 같이) 버킷(bucket) 내에 저장될 수 있다.

단계 (2)에서, 이미지 모니터링 구성요소(106)는 API 게이트웨이(122)가 이미지 저장 시스템(103)으로부터 접근하기 위해 하나 이상의 새로운 이미지가 이용가능하다는 통지를 API 게이트웨이(122)로 보낼 수 있다. 일부 실시예에서, 통지는 API 호출(call)을 통해 보내질 수 있다. 의료 이미지 분석 시스템(120)이 잠재적으로 많은 수의 서로 다른 의료 제공자 전반에 걸쳐 API 기능을 제공하도록 구성된 일부 실시예에서, API 호출은 특정 의료 제공자 시스템(102) 또는 연관 의료 제공자의 식별자를 포함할 수 있다. API 게이트웨이에 의해 수신된 통지는 그후 이미지 저장 시스템(103)으로부터 하나 이상의 새로이 추가된 이미지 및 연관 데이터를 획득하기 위해 단계 (3)에서 API 게이트웨이를 트리거링할 수 있다.

의료 이미지 분석 시스템(120)이 API 게이트웨이(122)를 통해 새로운 이미지 또는 이미지들을 획득하게 되면, 이미지 변환 모듈(125)은 단계 (4)에서 이미지를 변환 및/또는 보호되는 건강 정보("PHI") 또는 다른 민감한 데이터 또는 메타데이터를 삭제하도록 실행될 수 있다. 일부 실시예에서, 이미지 저장 시스템(103)에 원래부터 저장된 이미지는 특정 파일 포맷 및 파일이 유래된 특정 의료 제공자 시스템(102)에서 사용되는 기술에 따른 다양한 포맷일 수 있다.

예를 들어, 이미지는 서로 다른 제조사에 의해 만들어진 넓은 범위의 치과용 방사선 사진 시스템 중 임의의 것에 의해 최초로 생성되고 다양한 제3자 회사들 중 임의의 것에 의해 제공되는 디지털 저장 시스템을 이용하여 진료 사무실 네트워크 서버상에 저장될 수 있다. 최초로 저장된 이미지 파일은, 예를 들어, 그 중에서도 DICOM, RGB 또는 JPEG 이미지 파일 포맷으로 포맷된 파일을 포함할 수 있다. 일부 실시예에서, 이미지 변환 모듈(125)은 처리 및 출력을 간소화하기 위해 기계 학습 구성요소(130)로 사용할 목적으로 획득된 모든 이미지를 특정 포맷(JPEG와 같은)으로 변환한다. 단계 (5)에서, 변환 및/또는 달리 수정된 이미지는 그후 이미지 저장 시스템(103)(최초 파일을 변환된 파일로 교체하는 것을 포함할 수 있는) 내에 및/또는 이하에서 논의되는 바와 같이 의료 이미지 분석 시스템(120)에 의해 추가적인 분석에 사용할 목적으로 지역적 저장소 또는 다른 원격 데이터 출처(source)에 도로 저장될 수 있다.

단계 (6)에서, 의료 이미지 분석 시스템(120)의 API 게이트웨이(122)는 하나 이상의 새로이 획득된 이미지의 기계 학습-기반 분석의 조정(coordination)을 시작할 수 있다. 예를 들어, API 게이트웨이(122)는 단계 (6)에서 먼저 이미지 데이터를 다수의 서로 다른 전처리 분류기(classifier)(132)로 동시에(synchronously) 보내고, 그후 이미지 데이터 및/또는 특정 전처리 결과를 다수의 서로 다른 병리 감지기(134) 각각(및/또는 여기서 더욱 상세히 논의되는 바와 같이 해부학적 구조 감지기)으로 비동기적으로(asynchronously) 보낸다. 단계 (6) 및 (7)에서 일어나는 기능은 다른 도면에 관하여 이하에 더욱 상세히 설명될 것이다.

API 게이트웨이(122)가 하나 이상의 특정 이미지에 대해 주석 데이터의 형태일 수 있는 기계 학습 분석 결과를 수신하면, API 게이트웨이는 단계 (8)에서 결과 데이터를 의료 제공자 시스템(102)으로 보낼 수 있다. 예를 들어, API 게이트웨이는 반응형 API 호출을 의료 이미지 뷰어 애플리케이션(104)에 보낼 수 있고, 이것은 그후 주석 디스플레이 구성요소(105)를 통하는 것과 같이 단계 (9)에서 하나 이상의 사용자 인터페이스를 통하여 주석 데이터를 갖는 이미지를 제공(present)할 수 있다. 일부 실시예에서, 단계 (8)에서 보내진 주석 데이터는 의료 이미지 분석 시스템에 의해 생성되자마자(실시간 또는 거의 실시간과 같이) 의료 제공자 시스템(102)으로 푸시되어 보내질 수 있으나(pushed), 다른 실시예에서는, 주석 데이터는 의료 이미지 분석 시스템(120)에 의해 저장되고 의료 제공자 시스템(102)의 특정 요청(사용자가 특정 이미지를 판독한다고 요청할 때 의료 이미지 뷰어 애플리케이션(104)에 의해 개시된 API 요청에 기초하여 발생할 수 있는)에 응답하여서만 의료 제공자 시스템(102)으로 다시 보내질 수 있다.

도 2는 방사선 사진에 묘사된 서로 다른 병리(pathologies), 해부학적 구조(anatomies), 수복물(restorations) 및/또는 기형(anomalies)을 감지하기 위해 집합적으로 구현될 수 있는 다수의 서로 다른 전처리 모듈, 기계 학습 모델 및 후처리 모듈을 도시한다. 전술한 바와 같이, API 게이트웨이(122)는 일반적으로 이미지 주석달기 및 연관된 레이블 지정 또는 분류와 같은, 메타데이터를 생성하기 위한 다양한 루틴 및 모델에 대한 호출을 관리할 책임이 있다. 도시된 바와 같이, API 게이트웨이(122)는 이미지 데이터를 전처리하는 여러 전처리 모듈에 대해 순차적인 호출을 하고, 이들은 201A, 201B 에서 201N까지 전처리 모듈로서 도 2에 도시된다. 도시되지 않은 많은 수의 전처리 모듈이 있을 수 있다는 것은 이해될 수 있다.

전처리 모듈의 적어도 일부는 일반적으로 이미지 처리 방식으로 X-레이 또는 다른 방사선 사진 이미지의 특정한 전역적인(global) 특징을 조정할 수 있다. 이러한 루틴은 기계 학습 모델에 의해 처리되기 전에 이미지 데이터를 향상 및/또는 표준화하도록 구성될 수 있다. 전처리의 이러한 예 하나는 히스토그램 균등화(histogram equalization)이다. 일부 실시예에서, 전처리 모듈은 (a) 만일 이미지가 "화이트워시(whitewashed)"되어 이미지 처리 테크닉(예를 들어, 감마 보정)이 후속 처리를 위해 필요한 정보를 충분히 복구할 수 없는지 여부를 결정하도록 구성된 모듈, (b) 후속 모델 또는 모듈이 한 방향을 처리하도록 요청되기만 하면 되도록 이미지의 방향(orientation)을 감지하고 방향을 조정하도록 구성된 모듈 (c) 치아 또는 다른 특정 해부학적 구조적인 특징을 감지하도록 구성된 기계 학습 모델; 및/또는 (d) 파노라마(panoramic), 교익(bitewing), 치근단(periapical) 및/또는 기타에 대한 가능한 분류로부터와 같이 이미지의 유형을 분류하도록 구성된 기계 학습 모델을 포함할 수 있으나 이에 한정되지 않는다.

전처리 모듈이 주어진 이미지에 대해 처리한 후에, API 게이트웨이(122)는 특정 병리, 해부학적 구조, 수복물 및/또는 기형의 위치를 알아내고 분류(또는 감지)하도록 이전에 훈련되어 온 다수의 서로 다른 기계 학습 모델(그중에서도, 기계 학습 모델 210A, 211A, 230A)에 대해 병렬적인 호출을 한다. 그렇게 함으로써, API 게이트웨이는 전처리 모듈 210A, 210B 및 210N과 같은 전처리 모듈로부터 생성된 부분적인 메타데이터를 전달할 수 있다. 이러한 메타데이터는 그후 후처리 모듈 210B, 211B 및 230B와 같은 특정 기계 학습 모델과 연관된 후처리 루틴에 의해 이용될 수 있다. 도시된 바와 같이, 일부 실시예에 따르면 감지기(210, 211, 230) 각각 및 도시되지 않은 다른 것들은 기계 학습 모델 및 주어진 기계 학습 모델에 특정한 연관된 후처리 모듈 모두를 포함할 수 있다.

일부 실시예에서, 특정 감지기 및/또는 연관된 기계 학습 모델 각각은, 비록 다른 실시예에서 다른 것들이 구현되거나 일부가 제외될 지라도, 다음 중 하나를 포함할 수 있다: 뼈 손실의 존재를 감지하기 위한 모델; 잘못된 수복물의 존재를 감지하기 위한 모델(여백(open margins), 하위 여백(sub margins) 또는 돌출부(overhangs)를 포함하는 수복물과 같은); 충치(caries)를 감지하기 위한 모델; 재발된 부식(recurrent decay)을 감지하기 위한 모델; 넓어진 치주 인대(widened periodontal ligaments)를 감지하기 위한 모델; 종래의 수복물(크라운(crown), 근관(root canals), 금속 및 비금속 필링(fillings), 브릿지(bridges) 또는 임플란트(implants)와 같은)을 감지하기 위한 모델; 잠재적인 병리(낭종(cysts), 뼈 병변(bone lesions), 암 성장(cancerous growths) 또는 악성종양(malignancies)과 같은)를 감지하기 위한 모델; 결석(calculus)을 감지하는 모델; 종래의 해부학적 구조(부비동(sinuses), 신경, 비강(nasal canals), 안와(orbit), 또는 광대뼈(zygomas)와 같은)를 감지하는 모델; 수에 의해 치아를 감지하는 모델; 크라운 및 치근을 감지하는 모델; 기도(airway)의 크기를 감지하는 모델; 치과 임플란트 위치의 양 및 질(quantity and quality)을 감지하는 모델; 제3 대구치 매복(third molar impaction)을 감지하는 모델; 턱 골절을 감지하는 모델; 안면 외상을 감지하는 모델; 턱의 아치 형상을 감지하는 모델; 및/또는 교정 두부 측정 추적(orthodontic cephalometric tracings)을 감지하는 모델. 일부 실시예에서, 전술한 개별적인 조건을 감지하는 개별 모델에 추가하여, 단일 모델이 전술한 내용의 많은 부분 또는 모두를 식별하도록 훈련될 수 있다.

일부 실시예에서, 제1 모델 및 제2 모델 모두가 각각 개별적으로 두 모델 사이에 동일한 복수의 병리를 감지하도록 구성될 수 있으며, 하지만 모델들이 서로 다른 기계 학습 알고리즘을 이용하여 훈련될 수 있다. 예를 들어, 서로 다른 기계 학습 알고리즘을 채용하는 두 개의 모델은 각각 동일한 병리 리스트(20개의 서로 다른 병리들과 같은) 중 임의의 것을 묘사하는 것으로 이미지 데이터를 분류하도록 훈련될 수 있으며, 하지만 각 모델의 훈련 데이터 및/또는 특정 모델에 대해 사용되는 특정 기계 학습 알고리즘 또는 구조의 차이에 기초하여 동일한 입력 이미지에 대해 서로 다른 분류 결과를 출력할 수 있다. 둘 이상의 기계 학습 모델이 동일 또는 겹치는(overlapping) 세트의 잠재적인 병리를 감지하도록 훈련되는 그러한 실시예에서, 의료 이미지 분석 시스템(120)은 모델들의 집합적인 출력에 기초하여 궁극적인 분류 결과를 결정하기 위해 투표 방식 또는 다른 해결 절차를 적용하도록 구성될 수 있다. 앙상블 학습(ensemble learning)의 많은 알려진 방법들이 서로 다르게 지도(supervised) 및/또는 비지도(unsupervised) 기계 학습 테크닉을 이용하여 유사한 분류 예측을 하도록 훈련된 다수의 대안적인 모델들이 있는 실시예에서 사용될 수 있다. 전술한 바와 같이, 다른 모델들은 개별적인 병리(한 세트의 병리 등급(class) 또는 레이블 중 임의의 것과는 대조적으로 오직 하나의 병리만을 감지하도록 훈련된 모델과 같은)에 대해 특정될 수 있다.

여기의 다른 곳에서 논의된 바와 같이, 다양한 기계 학습 모델의 훈련은 개별적인 주석 및/또는 의견 일치(consensus)-기반의 주석 방법으로의 데이터 수집을 포함할 수 있다. 의견 일치는 두 개의 개별적인 주석들 사이에서 주어진 임계치(threshold)에 있는 것으로 또는 그 이상인 것으로 결정되는 자카드 인덱스(Jaccard index)에 기초하는 것과 같이, 일부 실시예에서 프로그램적으로 도달할 수 있다. 의견 일치 주석은 추가적으로 또는 대안적으로 공동으로 방사선 사진에 대한 주석을 함께 달기 위해 직접적으로 함께 일하는 주석자(annotator)로부터 올 수 있다. 데이터가 수용 가능한 양과 편차에 다다르면(미리-정의된 특징 공간(feature spaces)에 관한 것과 같이), 모델을 학습시키는데 사용될 수 있고 이하에서 더욱 상세히 설명되는 바와 같이 추가적으로 학습된 모델의 정확도를 측정하기 위해 사용될 수 있다.

훈련을 위해 사용되는 기계 학습 아키텍처는 지도(supervised) 및/또는 비지도(unsupervised) 학습을 통해 분류화 및/또는 지역화(localization)를 달성하기 위해 다양한 형태의 신경망, 딥 러닝 모델, 및/또는 다른 아키텍처를 포함할 수 있다. 일부 실시예에서, 특정 아키텍처는 두 개의 목적을 달성하기 위해 선택될 수 있다: (1) 관심있는 특징을 포함하는 방사선 사진 내의 영역을 지역적으로 제한하는 것(localize) 및 (2) 상기 영역 각각을 분류하는 것. 대부분의 경우에 최종 출력은 일부의 예측되는 영역과 함께 특정 병리, 수복물, 해부학적 구조, 또는 관심있는 기형을 포함하는 상기 영역의 연관된 가능성일 것이다. 일부 실시예에 따라 제한되지 않는 예로서, 하나 이상의 모델은 단발 감지기(SSD: single shot detector), 더 빠른 영역-기반의 컨볼루션 신경망(Faster R-CNN), "You Only Look Once"(YOLO) 실시간 객체 감지, 및/또는 U-Net 컨볼루션 신경망과 유사하거나 이를 포함할 수 있다. 종래의 또는 미래의 다양한 기타 객체 감지, 지역화, 및/또는 분류화 방법론들이 개별적인 모델을 위해 사용될 수 있고 단일 실시예 내의 서로 다른 모델들이 서로 다른 훈련 방법론 및/또는 기계 학습 아키텍처를 사용할 수 있다는 것은 이해될 수 있다.

도 2에 도시된 바와 같이, 각 기계 학습 모델(기계 학습 모델(210A)과 같은)은 모델-특정의 후처리 모듈(후처리 모듈(210B)과 같은)과 결합된다. 후처리 모듈은 기계 학습 모델로부터의 출력을 알고리즘적으로 결합하는 것에 기초하여 생성된 메타데이터를 병합, 수정 및/또는 증강할 수 있다. 이러한 일 예는 예측된 성질(property)이 존재하지 않는다고 알려진 해부학적 구조 영역에서 위양성을 감소시키는 것이다. 주어진 후처리 모듈에 의해 구현된 기능은 연관된 기계 학습 모델이 무엇을 지역화하고 분류하도록 디자인되는지에 기초하여 달라질 수 있다. 예를 들어, 기계 학습 모델(211A)이 충치(치아 상에만 존재할 수 있는)를 분류하도록 구성되면, 이 충치 감지 모델 및 치아 감지 전처리 모듈의 결합은 기계 학습 모델(211A)이 만일 영역이 전처리에서 치아로 분류되지 않으면 그 영역을 충치로 분류하지 않는다는 것을 확인하도록 후처리 모듈(211B)에 의해 사용될 수 있다.

일부 실시예에서, 특정 기계 학습 모델 또는 감지기는 후속하는 감지기 또는 기계 학습 모델에 의해 사용되는 메타데이터를 생성할 수 있다. 예를 들어, 일 실시예에서, 감지기(211)는 감지기(210)의 서브-감지기일 수 있다. 예를 들어, 감지기(210)는 특정 병리, 해부학적 구조, 수복물 및/또는 기형을 포함하는 것으로 예측되는 이미지 내의 영역을 지역적으로 제한(localize)할 수 있다. 그후, 감지기(211)는 이 메타데이터를 입력으로 받아들이고 그 처리를 그에 대한 관심있는 영역만으로 제한할 수 있다. 보다 특정한 예에서, 감지기(210)는 충치의 존재를 예측할 수 있다. 감지기(211)는 충치를 포함하는 그 영역만을(감지기(210)에 의해 예측되는 바와 같이) 잘라낼 수 있고(crop), 그후 감지기(211)는 이 영역들만을 특정 형태의 충치(예를 들어, 상아질(dentin) 내로, 에나멜(enamel) 내로, 치수(pulp) 내로)에 대해 분류할 수 있다. 일부 실시예에서, 주어진 감지기에 대해 하나보다 많은 서브-감지기가 있을 수 있다. 예를 들어, 전술한 예에 이어, 감지된 충치 영역을 그로스(gross), 근심(mesial), 교합(occlusal)/절개(incisal), 원위(distal), 안면(facial), 설측(lingual)/구개(palatal), 초기(incipient) 또는 재발(recurrent)와 같은 서로 다른 카테고리들 분류하기 위한 서브-감지기가 또한 있을 수 있다. 모든 감지기가 그들 각각의 메타데이터를 생성하면, API 게이트웨이(122)는 요청자에게 최종 응답으로서 다시 전달되는 최종 출력 메시지 또는 메타데이터 세트를 구성 또는 생성한다.

도 3은 일부 실시예에 따라 복수의 기계 학습 모델의 출력에 기초하여 방사선 사진 주석 데이터를 생성하기 위한 예시적인 방법(300)의 흐름도이다. 예시적인 방법(300)은 일부 실시예에서 의료 이미지 분석 시스템(120)에 의해 수행될 수 있다. 도 3의 블록 각각에서 구현되는 시스템 기능에 관한 추가적인 세부 사항은 본 개시의 다른 곳에서 설명되고, 한정되지 않는 방식으로 방법(300)에 관하여 아래에 일반적으로 요약될 것이다.

방법(300)은 블록(302)에서 시작하고, 여기서 의료 이미지 분석 시스템(120)은 하나 이상의 치아를 포함하는 환자의 구강 일부를 묘사하는 X-레이 이미지와 같이 적어도 하나의 방사선 사진 또는 기타 캡처된 의료 이미지를 디지털 파일로서 수신한다. 전술한 바와 같이, 하나 이상의 이미지는 의료 제공자 시스템(102)과 같이 의료 행위와 연관된 컴퓨팅 시스템으로부터의 API 호출의 결과로서 API 게이트웨이(122)에 의해 수신될 수 있다. 블록(304)에서, 의료 이미지 분석 시스템(120)의 API 게이트웨이(122)는 둘 이상의 전처리 모듈의 순차적인 실행을 개시할 수 있고, 여기서 각 전처리 모듈은 (a) 수신된 이미지 데이터의 조작(manipulation) 및/또는 (b) 기계 학습 또는 기타 이미지 데이터 분석에 기초한 이미지와 연관된 추가적인 메타데이터 생성 중 하나 이상을 수행한다.

전처리 모듈의 결과는 블록(306)에서 API 게이트웨이에 의해 병리 감지기 또는 기타 상태 감지기로 전달될 수 있고, 여기서 API 게이트웨이는 다수의 서로 다른 기계 학습 모델(여기에서 더욱 상세히 논의되는 바와 같이 각각 서로 다른 후처리 모듈에 결합될 수 있음)의 병렬적인 실행을 개시할 수 있다. 각 기계 학습 모델에 대한 입력 특징들은 블록(304)에서 결정된 전처리된 이미지 데이터 및/또는 추가적인 메타데이터에 기초할 수 있다. 각각의 기계 학습 모델은 여기에 다른 곳에서 더욱 상세히 설명되는 바와 같이 이미지에 존재하는 하나 이상의 치과 병리, 해부학적 구조, 수복물 또는 기형을 감지하도록 훈련될 수 있다. 일부 실시예에서, 특정 모델은 다른 것의 서브-모델일 수 있으므로 서브-모델은 이전의 관련된 모델의 메타데이터 출력을 수신한다. 일부 실시예에서, 기계 학습 모델은 이하에서 더욱 상세히 설명되는 바와 같이 많은 병리를 집합적으로 예측하는 앙상블(ensemble) 감지기를 포함할 수 있다.

의료 이미지 분석 시스템(120)의 API 게이트웨이(122)는 블록(308)에서 기계 학습 모델 각각 또는 연관된 모델-특정 후처리 모듈로부터의 분류 결과 및/또는 기타 결과를 획득할 수 있다. 병리 감지기(134)가 병렬 또는 비동기적으로 실행할 수 있기 때문에, API 게이트웨이는 주어진 이미지에 대해 요청한 시스템(의료 제공자 시스템(102)과 같은)으로 돌려주기 위한 최종 주석 데이터를 생성하기 전에 모든 결과를 기다리거나 결과가 각각의 병리 감지기로부터 돌아올 때 실시간으로 최종 주석 데이터의 서로 다른 부분을 반복적으로 생성하고 돌려줄 수 있다.

의료 이미지 분석 시스템(120)은 블록(310)에서 복수의 기계 학습 모델로부터 획득된 결과에 기초하여 이미지 주석 데이터를 생성할 수 있다. 각각의 감지된 상태와 연관된 주석 데이터는 이미지 내의 하나 이상의 영역 또는 위치 그리고 연관된 특정 상태의 식별자 또는 레이블(특정 치과 병리, 수복물, 해부학적 구조 또는 기형과 같은)을 나타낼 수 있다. 주어진 식별된 병리 또는 다른 상태에 대한 주석 데이터는 예를 들어, 병리 명(name) 레이블, 이미지 내의 경계 영역의 좌측 상단 지점의 x 및 y 좌표, 그리고 경계 영역 형상을 정의하는 치수(dimension) 정보(경계 박스의 넓이 및 높이의 픽셀수와 같은)를 포함할 수 있다. 주석 데이터는 하나 이상의 기계 학습 모델에 의해 결정되는 바와 같이, 병리 분류에 관해 수치로 된 신뢰도 점수를 추가적으로 포함할 수 있다. 주석 데이터는 저장될 수 있는 파일 또는 데이터베이스 기록으로 쓰여지거나 요청한 시스템(의료 제공자 시스템(102)과 같은)으로 보내지고 및/또는 요청하는 시스템과 API 통신하여 파라미터 또는 데이터 필드로서 API 게이트웨이(122)에 의해 반환될 수 있다. 예시적인 방법(300)은 그후 종료될 수 있다.

도 4는 일부 실시예에 따라 방사선 사진 주석 데이터 및/또는 기계 학습 테크닉에 의해 자동적으로 결정된 기타 메타데이터의 제공(presentation)을 포함하는 사용자 인터페이스를 생성하기 위한 예시적인 방법의 흐름도이다. 예시적인 방법(400)은 일부 실시예에서 의료 이미지 분석 시스템(120)과의 상호작용에 기초하여 의료 제공자 시스템(102)에 의해 수행될 수 있다. 도 4의 블록 각각에서 구현되는 시스템 기능에 관한 추가적인 상세 사항은 본 개시의 다른 곳에서 설명되고, 한정되지 않는 방식으로 방법(400)에 관하여 이하에 일반적으로 요약될 것이다.

방법(400)은 단계(402)에서 시작하고, 여기서 의료 제공자 시스템(102)은 (a) 방사선 사진 또는 기타 의료 이미지 및 (b) 하나 이상의 기계 학습 모델을 이용하여 생성된 주석 데이터 - 여기서 주석 데이터는 이미지 내의 적어도 하나의 위치 또는 영역과 기계 학습 모델(들)에 의해 감지되는 치과 병리, 해부학적 구조, 수복물 또는 기형에 관한 연관된 메타데이터를 식별함 - 를 획득할 수 있다. 메타데이터는 앞서 도 3과 관련하여 논의된 바와 같이 의료 이미지 분석 시스템(120)에 의해 생성될 수 있다. 일부 실시예에서, 의료 제공자 시스템(102)은 특정 방사선 사진을 판독하기 위해 요청하는 의료 제공자 시스템(102)의 사용자에 대한 응답으로 API 요청을 통해 API 게이트웨이로부터 메타데이터를 요청할 수 있다. 다른 실시예에서, 메타데이터는 의료 이미지 분석 시스템(120)에 의해 이전에 생성될 수 있고(배치 기준(batch basis)으로) 블록(402)에서 의료 제공자 시스템(102)의 지역적 저장소로부터 검색될 수 있다.

블록(404)에서, 의료 제공자 시스템(102)은 디스플레이 처리를 위해 주석 데이터 내에서 식별된 위치 또는 영역 중 하나를 결정 또는 선택할 수 있다. 블록(404)은 특정 방사선 사진 이미지에 대해 주석 데이터 내의 각각의 주석이 달린 영역을 반복적으로 처리하기 위해 의료 이미지 뷰어 애플리케이션의 실행 가능한 코드에 의해 구현된 루프(loop)의 시작일 수 있다. 블록(406)에서, 현재 처리 중에 있는 주어진 이미지 영역에 대해, 의료 제공자 시스템(102)은 주어진 영역에 대해 메타데이터 내의 레이블에 적어도 부분적으로 기초하여 하나 이상의 경계 형상 디스플레이 파라미터(색상, 불투명도 및/또는 형상 유형과 같은)를 결정할 수 있다. 레이블은 이전에 기계 학습 모델에 의해 결정되고 분류 레이블로서 주어진 영역에 할당되는 특정 병리 또는 기타 분류를 나타내거나 특정할 수 있다. 일부 실시예에서, 예를 들어, 서로 다른 병리가 사용자에 의해 구성 가능한, 서로 다른 경계 형상, 색상 또는 기타 디스플레이 파라미터로 할당될 수 있다. 일 예에서, 블록(406)에서 결정된 적어도 하나의 디스플레이 파라미터는 하나 이상의 모델에 의해 결정된 신뢰도 레벨에 기초할 수 있다. 예를 들어, 이하에서 더욱 상세히 논의되는 바와 같이 특정 색상 및/또는 불투명도는 그 신뢰도 점수에 기초하여 경계 영역에 할당될 수 있다.

블록(408)에서, 의료 제공자 시스템(102)은, 현재 처리되고 있는 주어진 영역에 대해, 디스플레이를 위해 주석 데이터 내의 영역 또는 위치 데이터로부터 결정된 디스플레이 좌표에서 제공(presentation)을 위한 시각적인 경계 형상을 생성할 수 있고, 여기서 시각적인 경계 형상은 결정된 경계 형상 디스플레이 파라미터를 갖도록 생성된다. 일부 실시예에서, 이 시각적 경계 형상은 방사선 사진 이미지 위에 제공될 오버레이 컨텐츠의 예로서 고려될 수 있다. 오버레이 컨텐츠는 아래에 도 5와 관련하여 더욱 상세히 논의되는 바와 같이, 레이블을 식별하는(예를 들어, 특정 병리명을 식별하는) 텍스트의 디스플레이를 추가적으로 포함할 수 있다.

결정 블록(408)에서, 의료 제공자 시스템(102)은 현재 사용자 인터페이스 디스플레이 내에 동시에 마크할 추가적인 병리가 있는지를 결정할 수 있다. 만일 디스플레이를 위해 처리되어야 할 추가적인 주석 데이터가 있는 경우(이하에서 설명되는 바와 같이, 사용자 인터페이스 내에서 신뢰도 임계치 및/또는 기타 현재 필터 세트를 만족시키는 추가적인 주석 영역과 같은), 방법은 다음 주석 영역을 처리하기 위해 블록(404)으로 돌아갈 수 있다. 그렇지 않으면, 블록(412)에서, 의료 제공자 시스템(102)은 이미지 내에서 감지된 하나 이상의 치과 병리, 해부학적 구조, 수복물 또는 기형의 존재 및 위치를 시각적으로 식별하기 위해 이미지 위에 오버레이되도록 보이는 시각적인 경계 형상(들)을 갖는 이미지를 제공하는 사용자 인터페이스의 디스플레이를 유발한다. 일부 실시예에서, 병리는 각각이 처리될 때마다 실시간으로 오버레이 컨텐츠로서 보일 수 있다. 예를 들어, 의료 제공자 시스템(102)은 다양한 기계 학습 모델로부터 결과가 수신될 때마다 경계 영역 오버레이 정보를 갖는 방사선 사진의 디스플레이를 점차적으로 채울 수 있다. 다른 실시예에서, 시스템은 모든 영역이 주석이 달린 디스플레이로서 처리될 때까지 오버레이 컨텐츠를 디스플레이하는 것을 기다릴 수 있다. 예시적인 방법(412)은 그후 종료된다.

도 5는 판독중인(viewing) 사용자가 시각적인 제공을 수정할 수 있도록 하는 다양한 사용자 인터페이스 제어들과 함께, 자동화된 이미지 분석 결과에 기초하여 주석이 달린 방사선 사진을 제공하는 예시적인 사용자 인터페이스를 도시한다. 일부 실시예에서, 사용자 인터페이스는 API 게이트웨이(122)를 통하는 것과 같이, 의료 이미지 분석 시스템(120)으로부터 수신된 주석 데이터에 기초하여 의료 제공자 시스템(102)에 의해 제공될 수 있다. 예를 들어, 의료 제공자 시스템(102)을 사용하는 임상의는 의료 이미지 뷰어 애플리케이션(104)을 이용하여 특정 환자의 방사선 사진에 접근하여 판독하는 것을 요청할 수 있다. 의료 이미지 뷰어 애플리케이션(104)은 임상의의 판독 요청에 응답하여 API 게이트웨이로부터 주석 데이터를 요청하거나 또는 API 게이트웨이로부터 분석 데이터를 이전에 요청(이 경우 임상의가 특정 방사선 사진을 판독하는 것을 요청할 때 주석 데이터는 지역적으로 저장된 복사본 및/또는 클라우드 저장소 또는 기타 원격 저장소로부터 검색될 수 있다)하였을 수 있다. 도시된 바와 같이, 감지된 상태는 원본 X-레이 이미지 위에 오버레이 컨텐츠로서 디스플레이되고(경계 영역(530, 532 및 534)과 같이), 여기서 각 오버레이는 어느 영역들이 어떠한 특정하게 감지된 상태들을 포함하는지를 실무자에게 나타낸다. 임상의는 추가적인 검토를 위해 각 특정 상태를 선택하거나 하이라이트(highlight)하기 위해 이미지를 전환(마우스 또는 터치스크린을 이용하는 것과 같이)할 수 있다.

사용자 인터페이스(500)는 필터 옵션(508)을 선택함으로써 차트 숫자에 의해 이용 가능한 방사선 사진 이미지를 사용자가 필터링하도록 하는 필터 옵션을 포함한다. 이미지(imagery) 및 연관된 메타데이터는 일반적으로 차트로 그룹화되고, 여기에서 차트는 단일 캡처 이벤트(단일 세션에서 주어진 환자에 대해 캡처된 X-레이들과 같은)로부터 획득된 일련의 의료 이미지들에 대한 것이다. 현재 선택된 차트(차트 1) 내에서 이용 가능한 이미지들의 리스트가 보여지고, 현재 보여지고 있는 이미지는 굵은 텍스트(510)("x098424.jpg"로 읽혀지고, 이는 이미지의 파일명일 수 있다)에 의해 나타내진다.

도시된 예에서, 디스플레이된 이미지 내에서 식별된 병리(여기에 설명된 기계 학습 방법에 기초하여)는 사용자 인터페이스(500)의 우측에 나열된다. 예를 들어, 다수의 병리(520)는 물론 다수의 비-병리(non-pathologic) 상태(522)가 나열되고 사용자에 의해 선택 가능하다. 경계 영역(530)은 비-병리 리스트(522)로부터 "근관(Root Canal)" 상태(524)에 해당할 수 있는 반면, 경계 영역(532 및 534)은 병리 리스트(520)로부터의 특정 감지된 충치에 해당할 수 있다. 이미지의 디스플레이 및/또는 연관된 오버레이 컨텐츠를 수정하기 위해 사용자에 의해 상호작용될 수 있는 사용자 인터페이스 제어가 사용자 인터페이스(500)에 추가적으로 포함된다. 이러한 사용자 인터페이스 제어 요소는 콘트라스트(contrast) 제어(512), 줌(zoom) 제어(514) 및 신뢰도 임계치 제어(518)를 포함하고, 이들 각각은 이하에 더욱 상세히 설명될 것이다. 이러한 제어가 예에서는 슬라이더(slider)로 보여지나, 다른 실시예에서 다른 형태의 제어가 제공(예를 들어, 드롭-다운 메뉴, 전용 줌-인 및 줌-아웃 버튼, 숫자 값을 입력하기 위한 텍스트 필드 및/또는 기타와 같이)될 수 있다.

도시된 예에서, 임상의는 의료 이미지 뷰어 애플리케이션(104)에 연관된 사용자 계정으로 로그인 할 수 있고, 그후 임상의가 하나 이상의 주석이 달린 그 방사선 사진 이미지를 판독하는 것에 관심이 있는 환자의 개별화된 특허 식별자(이름 또는 숫자와 같은)를 입력 또는 선택할 수 있다. 해당 환자에 대해 이용 가능한 X-레이의 리스트를 본 후, 임상의는 특정 X-레이 이미지(510)를 선택하였고, 이것은 선택된 이미지를 기계 학습 분석에 의해 결정된 다양한 주석 컨텐츠 및 상태 정보와 함께 디스플레이하도록 사용자 인터페이스의 업데이트를 유발한다. 도시된 예에서, 오버레이 경계 영역(530)은 특정 상태(이 예에서는, "근관(Root Canal)")를 나타내는 오버레이된 텍스트로 된 레이블을 포함한다. 일부 실시예에서, 각각의 디스플레이된 경계 영역은 기계 학습 모델에 의해 감지된 특정 병리, 해부학적 구조, 수복물 또는 기형의 명칭을 나타내는 디스플레이된 오버레이 텍스트 레이블을 포함할 수 있다. 다른 실시예에서, 레이블은 리스트(520 또는 524)로부터 사용자에 의해 선택된 하나 이상의 특정 병리 또는 기타 상태(사용자 인터페이스(500)에서 근관(Root Canal) 상태 옵션(524)의 사용자 선택과 같은)에 대한 이미지 내의 오버레이 컨텐츠로서만 디스플레이될 수 있다.

일부 실시예에서, 리스트(520 또는 522)로부터 상태를 선택, 클릭 또는 롤오버(roll over)하는 임상의 또는 다른 사용자는 해당 병리 또는 비-병리 상태가 이미지 상의 오버레이된 경계 박스 또는 기타 경계 영역, 경계 박스(530, 532 및 534)와 같은, 내에 하이라이트되도록 유발할 수 있다. 일부 실시예에서, 오버레이 컨텐츠 내의 각 경계 영역의 형상은 의료 이미지 분석 시스템(120)이 특정 병리 또는 상태 레이블의 식별에 할당한 신뢰도를 나타내도록 색상 코드화될 수 있다. 예를 들어, 녹색의 경계 박스는 높은 신뢰도 점수(제1 임계치 이상인)를 나타내고, 금색은 중간의 신뢰도 점수(제2 임계치 이상인)를 나타내고, 빨간색은 낮은 신뢰도 점수(제3 임계치 이상인)를 나타낼 수 있다. 다른 실시예에서, 서로 다른 형상, 선 스타일 또는 다른 시각적인 차이는 색상의 차이 대신 또는 이에 추가하여 신뢰도 점수를 구별하기 위해 사용될 수 있다.

사용자는 그들의 신뢰도 점수에 기초하여 특정 경계 영역 및 연관된 상태의 디스플레이를 추가 또는 삭제하기 위해 신뢰도 임계치 제어 요소(518)를 조정할 수 있다. 아주 높은 세팅에서, 신뢰도 임계치는 일반적으로 잘못된 경보를 최소화하고 특이성 및/또는 정밀도를 최대화하는 역할을 할 수 있다. 매우 낮은 세팅에서, 일반적으로 위음성을 최소화하고 민감도 및/또는 회수(recall)를 최대화하는 역할을 할 수 있다. 신뢰도 임계치 제어 요소를 그 절대적으로 가장 높은 세팅으로 설정(임계치 100과 같이)하는 것은 사용자 인터페이스가 오버레이 메타데이터 또는 경계 영역을 디스플레이하지 않도록 업데이트되는 것을 초래할 수 있어서, 방사선 사진 이미지가 아무런 오버레이 없이 디스플레이된다.

보다 상세히, 신뢰도 임계치 제어 요소(518)(슬라이더 제어로 제공된)를 조정하는 사용자는 제어 요소(518)를 통해 사용자에 의해 선택된 임계치 (도시된 예에서 임계치를 100 중 40으로 설정함)이상의 기계 학습 신뢰도 값을 갖는 병리 또는 다른 레이블에 연관된 모든 경계 박스를 디스플레이하도록 디스플레이되는 경계 박스를 변경할 수 있다. 예를 들어, 만일 사용자가 신뢰도 임계치를 더 높게, 80과 같이, 설정하면 현재 디스플레이되고 40에서 79 사이의 신뢰도 임계치를 갖는 다수의 경계 박스가 주어진 이미지 상에서 디스플레이되는 경계 영역 오버레이들로부터 삭제될 것이다.

사용자 인터페이스(500)에서 더욱 상세히 보여지는 바와 같이, 콘트라스트 제어 요소(512)는 사용자가 임시적으로 이미지의 디스플레이 콘트라스트를 정정 또는 조정할 수 있도록 하여 본래 이미지에서보다 특징(aspect) 또는 해부학적 구조가 더욱 밝게 또는 더 잘 비추어진다(illuminated). 오버레이(경계 영역 형상 및 임의의 연관된 텍스트를 포함하는)는 콘트라스트 조정이 발생하는 동안에도 보존될 수 있다. 줌 제어(514)는 사용자가 이미지 내에서 줌인 또는 줌아웃할 수 있도록 하여 이미지의 하나 이상의 특정 영역을 보다 접근하여 볼 수 있도록 한다. 오버레이는 또한 줌 조정이 발생하는 동안에도 보존될 수 있다. 다른 실시예에서, 회전 도구(도시되지 않음)가 추가적으로 사용자가 디스플레이된 이미지를 회전할 수 있도록 하고, 오버레이 또한 회전하고 이미지 회전 동안에도 계속하여 디스플레이되도록 할 수 있다. 일부 실시예에서, 사용자 인터페이스는 하나 이상의 병리에 대해 추천되는 치료 계획을 더 디스플레이할 수 있고, 이것은 특정 주석 레이블 및 추천되는 치료간의 저장된 연관관계로부터 결정될 수 있다.

모델 훈련 및 테스트에 관한 추가적인 세부사항

일부 실시예에서, 여기에 설명된 다양한 기계 학습 모델은 매우 존경받는 치과의사 또는 기타 전문가에 의해 주석이 달린 많은 수의 훈련 및 테스트 이미지를 이용하여, 일 실시예에서 백만개 이상의 주석이 달린 방사선 사진 이미지를 이용하는 것과 같이, 훈련될 수 있다. 일부 실시예에서, 훈련 데이터는 특정 병리와 같이, 하나 이상의 특정 기계 학습 모델이 식별하도록 구성된 속성 또는 특징을 포함하는 픽셀 영역을 나타내는 메타데이터와 각각 쌍을 이룬 X-레이 이미지(디지털 이미지 파일로서 저장된)를 포함할 수 있다.

주석 데이터 및/또는 다른 메타데이터는 의료 이미지 분석 시스템(120) 또는 연관된 클라이언트-측 애플리케이션에 의해 제공되는 사용자 인터페이스 도구를 통해 훈련용 이미지 내의 영역에 마킹 또는 레이블링하는 전문가에 의해 부분적으로 기초하여 생성될 수 있다. 훈련 단계에서 이러한 주석 도구를 이용하는 치과의사 또는 기타 전문가는 사용자 인터페이스를 통하여 X-레이, 레이블 세트 및 X-레이 위에 사각형 또는 기타 경계 형상을 그리기 위한 옵션들을, 레이블이 그 사각형 또는 경계 영역에 적용되도록 하기 위해(주어진 경계 영역 내에 포함된 픽셀 데이터 내에 묘사되거나 존재하는 특정 해부학적 구조 또는 병리를 나타내는 레이블과 같이), 판독할 수 있다. 사용자 인터페이스는 사용자에게 예를 들어, "전체 병리를 에워싸는(enclose) 가장 작은 가능한 박스를 그리라"고 명령할 수 있다. 하나 이상의 기계 학습 모델이 감지하도록 학습될 특정한 잠재적인 병리, 해부학적 구조 또는 기타 특징에 대해 주석자의 집중을 증가시켜 에러를 줄이기 위해 이러한 주석자 도구에 영향을 미치는(leveraging) 주석자는 모든 가능한 레이블의 오직 부분 집합(단일 레이블 카테고리 내인 것으로 그룹지어지는 것들과 같이)만 제공될 것이다. 하나의 레이블 카테고리 내의 레이블들은 일부 실시예에서 그 형태학(morphology) 및/또는 근본 원인(root cause)(예를 들어, 충치의 3가지 서로 다른 정도의 심각도)에 있어 유사할 수 있다.

일부 실시예에서, 훈련 이미지 레이블링 프로세스는 두 명의 서로 다른 치과의사 또는 기타 전문가들에게 레이블링을 위한 동일한 이미지를 제공하는 것을 포함할 수 있다. 동일한 방사선 사진 및 레이블 카테고리 조합을 판독하는 두 명의 서로 다른 사용자에 후속하여, 의료 이미지 분석 시스템은 상대적인 위치(자카드 인덱스를 통해 오버랩을 평가하는 것을 포함할 수 있음) 및 레이블에 관해 서로에 대하여 주석을 평가할 수 있다. 자카드 인덱스, 또는 합집합(union) 결정에 대한 교집합(intersection)은 경계 영역 중 얼마나 많은 부분이 그들의 결합된 부분에 비교하여 얼마나 동일한지에 대한 척도(measure)이다.

일 실시예에서, 두 명의 서로 다른 주석자로부터의 동일한 방사선 사진 상의 두 개의 주석을 비교하는데 있어 가능한 결과는: (a) 두 개의 주석이 위치 및 레이블 모두에 있어 동의하거나 (이 경우 시스템은 이것이 입증된 주석이라고 고려할 수 있음), (b) 두 개의 주석이 위치에 있어서는 동의하나 레이블은 동일하지 않지만 동일한 레이블 카테고리에 속하거나(시스템이 심각도에 있어 혼동이 있다고 마크할 수 있음), (c) 두 개의 주석이 레이블에 있어 동의하나 위치는 동의하지 않거나(시스템이 크기에 있어 혼동이 있다고 마크할 수 있음), 또는 (d) 한 주석자로부터의 주석이 다른 주석자의 결과와의 비교에 있어 가능한 후보 대상(candidate)이 없는 경우(시스템은 일반적인 불일치로 마크할 수 있음)일 수 있다.

일부 실시예에서, 어떤 특히 존경받거나 기량이 뛰어난 치과의사 또는 기타 전문가가 훈련 이미지의 다른 전문가들의 주석에 있어서의 불일치를 해결하도록 지정될 수 있다. 해결하는 전문가에게는 그 위에 오버레이된 주석의 두 세트 모두(해결하는 전문가가 아닌 다른 두 전문가에 의해 이전에 생성된)를 갖는 해당 방사선 사진을 포함하는 사용자 인터페이스가 제공될 수 있다. 사용자 인터페이스는 해결하는 전문가가 심각도 또는 크기의 혼동의 경우에 일반적인 불일치를 승인 또는 부인하고 그 중 하나 또는 다른 것을 선택하거나 또는 이전의 주석 모두를 부인할 수 있도록 한다. 일부 실시예에서, 사용자 인터페이스는 해결하는 전문가가 두 명의 다른 전문가의 입증된 주석을 무효로 하는 것을 허용하지 않을 수 있다. 주어진 방사선 사진에 대한 임의의 불일치가 하나 이상의 사용자 인터페이스를 통한 상호작용을 통해 해결되면, 경계 영역 위치 및 크기는 물론 각 경계 영역에 대한 연관된 레이블에 대한 최종 주석이 하나 이상의 기계 학습 모델로 제공될 훈련 데이터로서 저장될 수 있다.

모델 훈련 및 평가

상기 훈련 데이터를 이용하여 모델이 훈련된 후에, 의료 이미지 분석 시스템(120)은 기계 훈련 모델의 성과를 평가할 수 있고, 이것은 모델별(per-model) 기반으로 수행될 수 있다. 전문가에 의해 주석이 달리고 인증된(앞서 논의된) 이미지들의 부분 집합은 모델 성과를 측정하기 위한 테스트 세트로 사용될 수 있다. 테스트 세트는 훈련 절차 내에서 모델이 노출되지 않았던 이미지를 포함한다. 일부 실시예에서 성과는 정밀도(precision), 특이성(specificity), 민감도(sensitivity)(회수(recall)) 및 F1 점수에 기반하여 측정될 수 있다. 이들은 일 실시예에 따르면 다음과 같이 정의된다:

TP = 진양성, FP = 위양성

TN = 진음성, FN = 위음성

정밀도는 예측이 참인지 거짓인지에 대한 가능성의 측정값으로 간주될 수 있다. 특이성은 비-예측이 종래의 상태, 해부학적 구조, 또는 기타 관심 특징을 포함하고 있지 않을 가능성의 측정값으로 간주될 수 있다. 민감도는 종래의 상태, 해부학적 구조 또는 기타 관심 특징이 예측될 가능성의 측정값으로 간주될 수 있다. F1 점수는 정밀도 및 민감도 모두의 관점에서 모델의 전체적인 성과를 측정한다.

진양성, 위양성, 진음성 및 위음성의 결정은 예측된 영역-속성 쌍 및 수동으로 주석이 달린 영역-속성 쌍 사이의 공간적인 관계에 적어도 부분적으로 기초할 수 있다. 예측된 영역은 진양성 또는 위양성일 수 있다. 이것은 예를 들어 자카드 인덱스를 임계치로 하는 것을 통해 그려질 수 있다(delineated). 예를 들어, 주어진 두 개의 세트 A 및 B에 있어, 자카드 인덱스는 영역의 합집합(union)에 의해 나누어진 교집합(intersection)을 측정한다. 이것은 A 및 B에 대해 상호 배타적인 영역과 함께 A와 B가 공유하는 영역 사이의 차(difference)를 수량화한다. 특정 자카드 임계치가 주어질 때, 예측은 시스템에 의해 진양성 또는 위양성으로 간주될 것이다. 평가 동안, 임계치는 다양할 수 있으며 성능 메트릭이 이에 대해 계산될 수 있다. 예측되지 않은 영역은 진음성 또는 위음성일 수 있다. 예측의 부재는 자카드 인덱스의 임계치를 통해 참 또는 거짓으로 간주될 수 있다.

도 6은 다수의 영역 각각을 진양성(true positive), 위양성(false positive), 진음성(true negative) 또는 위음성(false negative)으로 식별하는 것과 같이, 기계 학습 모델 성능을 결정하도록 분석될 수 있는 주석 영역을 도시한다. 일부 실시예에서, 경계 영역의 출처를 시각적으로 보여주기 위해 서로 다른 색상이 경계 영역 형상에 대해 사용자 인터페이스 내에 디스플레이될 수 있으나(한 색상이 전문가의 주석을 나타내고 다른 색상이 기계 학습 모델에 의한 자동화된 주석을 나타내는 것과 같이), 도 6에서는 대신에 예시적인 목적만을 위해 서로 다른 선의 구성(점선 대 검은 실선과 같은)을 이용하여 도시된다.

사용자 인터페이스를 통해 제공될 수 있는 예시 이미지(600)에서, 영역(601 및 604)은 전문가에 의해 주석이 달렸다. 주석 영역(610)은 영역 내의 픽셀(예를 들어, 경계 사각형(610) 내로 떨어지는 픽셀들)이 특정 클래스 1(특정 심각도를 갖는 충치와 같은)로서 분류된다는 기계 학습 모델로부터의 예측이다. 주석 영역(602)은 클래스 2를 예측하는 기계 학습 모델 주석이다. 영역(603)은 전문가에 의해서도 기계에 의해서도 주석이 달리지 않은 영역이다. 이 예에서, 85%의 자카드 임계치를 이용하여, 영역(610)은 진양성을 포함하고, 영역(602)은 위양성을 포함하고, 영역(603)은 진음성을 포함하고, 영역(604)은 위음성을 포함한다.

도 7은 영역들의 공간적인 관계에 기초하여 위양성을 식별하기 위한 후처리 방법에서 분석될 수 있는, 감지된 치아 및 감지된 충치에 대응하는 주석 영역을 도시한다. 다른 후처리 규칙 및 분석이 다른 병리에 적용될 수 있음은 이해될 수 있다. 도시된 예에서, 하나 이상의 기계 학습 모델에 의해 감지된 치아는 경계 영역(701-706)에 의해 마크되었다. 충치를 감지하도록 구성된 별도의 기계 학습 모델은 영역(710)을 마크하였다. 도시된 예에서, 의료 이미지 분석 시스템(120)에 의해 구현된 후처리 모듈은 감지된 해부학적 구조 영역(치아)(701, 702, 703, 704, 705 및/또는 706)을 갖는 영역(710)의 공간적인 관계에 기초하여 영역(710)에 의해 마크된 충치 분류를 거절할 수 있다.

충치는 치아 상이 아닌 다른 곳에는 존재할 수 없다고 나타내는 규칙 세트 또는 기타 논리 때문에 후처리는 영역(710)의 분류를 충치로 한 것을 위양성으로 간주할 수 있다. 그러므로, 주어진 후처리 모듈은 영역(710)은 일부 실시예에서 마크되지 않아야 하거나 그렇지 않으면 API 게이트웨이(122)로 돌아가야 할 주석 데이터 내에 포함되지 않아야 할 것으로 결정할 수 있다. 보다 일반적으로, 다양한 후처리 모듈이 다른 모델의 감지된 해부학적 구조 영역에 대한 공간적인 관계에 기초하여 주어진 병리의 기계 학습 모델의 분류를 거절하도록 구성될 수 있다.

도 8은 일부 실시예에 따른, 컴퓨팅 환경(800)의 일반적인 아키텍처를 도시한다. 도 8에 도시된 바와 같이, 컴퓨팅 환경(800)은 컴퓨팅 시스템(802)을 포함할 수 있다. 컴퓨팅 시스템(802)의 일반적인 아키텍처는 본 개시의 측면들을 구현하도록 사용된 컴퓨터 하드웨어 및 소프트웨어 구성요소의 배열을 포함할 수 있다. 컴퓨팅 시스템(802)은 도 8에 도시된 것들보다 훨씬 더 많은 (또는 더 적은) 요소들을 포함할 수 있다. 하지만, 가능하게 하는 개시를 제공하기 위해 이들 일반적으로 전형적인 요소들 모두가 보여질 필요는 없다. 일부 실시예에서 비록 전술한 의료 제공자 시스템은 하나 이상의 유사한 구성요소를 포함할 수 있을 지라도, 일부 실시예에서 컴퓨팅 시스템(802)은 앞서 의료 이미지 분석 시스템이라고 칭해진 것의 예일 수 있다.

도시된 바와 같이, 컴퓨팅 시스템(802)은 처리 유닛(806), 네트워크 인터페이스(808), 컴퓨터 판독가능한 매체 드라이브(810), 입력/출력 장치 인터페이스(812), 선택적인 디스플레이(826) 및 선택적인 입력 장치(828)를 포함하고, 이들 모두는 통신 버스(837)를 통해 서로간에 통신할 수 있다. 처리 유닛(806)은 메모리(814)로부터 그리고 메모리(814)로 통신할 수 있으며 입력/출력 장치 인터페이스(812)를 통해 선택적인 디스플레이(826)에 대해 출력 정보를 제공할 수 있다. 입력/출력 장치 인터페이스(812)는 또한 키보드, 마우스, 디지털 펜, 마이크로폰, 터치 스크린, 제스처 인식 시스템, 음성 인식 시스템, 또는 당 업계에 알려진 기타 입력 장치와 같은 선택적인 입력 장치(828)로부터 입력을 받아들일 수 있다.

메모리(814)는 여기에 설명된 하나 이상의 실시예를 구현하기 위해 처리 유닛(806)이 실행할 수 있는 컴퓨터 프로그램 명령어(일부 실시예에서 모듈 또는 구성요소로 그룹화된)를 포함할 수 있다. 메모리(814)는 일반적으로 RAM, ROM 및/또는 기타 영구, 보조 또는 비-일시적 컴퓨터 판독가능한 매체를 포함할 수 있다. 메모리(814)는 컴퓨팅 시스템(802)의 일반적인 관리 및 운영 내에서 처리 유닛(806)에 의해 사용될 컴퓨터 프로그램 명령어를 제공하는 운영 체제(818)를 저장할 수 있다. 메모리(814)는 본 개시의 측면들을 구현하기 위한 컴퓨터 프로그램 명령어 및 기타 정보를 더욱 포함할 수 있다. 예를 들어, 일 실시예에서, 메모리(814)는 예를 들어 컴퓨팅 시스템(802)또는 클라이언트 컴퓨팅 시스템(803) 상에 설치된 브라우저 또는 애플리케이션과 같은 네비게이션 인터페이스를 통해 컴퓨팅 시스템 상에 디스플레이하기 위한 사용자 인터페이스(및/또는 이를 위한 명령어)를 생성하는 사용자 인터페이스 모듈(816)을 포함할 수 있다.

일부 실시예에서, 메모리(814)는 하나 이상의 이미지 처리 구성요소(820) 및 주석 구성요소(822)를 포함할 수 있고, 이들은 여기에 설명된 다양한 실시예에 따라 동작을 수행하도록 처리 유닛(806)에 의해 실행될 수 있다. 모듈(820 및/또는 822)은 이미지 데이터를 검색 및 분석하고 여기에 설명된 바와 같이 연관된 주석 데이터를 생성하기 위해 이미지 데이터 저장소(830)에 접근할 수 있다. 데이터 저장소는 컴퓨팅 시스템(802)의 일부이거나, 컴퓨팅 시스템(802)으로부터 원격에 있거나, 및/또는 네트워크-기반의 서비스일 수 있다.

일부 실시예에서, 네트워크 인터페이스(808)는 하나 이상의 네트워크 또는 컴퓨팅 시스템으로 연결을 제공할 수 있고, 처리 유닛(806)은 하나 이상의 네트워크를 통해 다른 컴퓨팅 시스템 또는 서비스로부터 정보 및 명령어를 수신할 수 있다. 도 8에 도시된 예에서, 네트워크 인터페이스(808)는 인터넷과 같은 네트워크(836)를 통해 클라이언트 또는 사용자 컴퓨팅 시스템(803)과 통신할 수 있다. 특히, 컴퓨팅 시스템(802)은 네트워크(836)를 통해 컴퓨팅 시스템(803)으로 통신을 보내기 위해 네트워크(836)와 통신 링크(842)를 수립(예를 들어, 알려진 프로토콜을 이용하여)할 수 있다. 유사하게, 컴퓨팅 시스템(803)은 유선 또는 무선 통신 링크(840)를 통해 네트워크(836)를 거쳐 컴퓨팅 시스템(802)으로 통신을 보낼 수 있다. 일부 실시예에서, 컴퓨팅 시스템(802)은 원격으로 저장된 이미지 파일을 검색하기 위해 컴퓨팅 시스템(802)에 의해 사용될 수 있는 선택적인 제3자 데이터 저장소 또는 데이터 서비스(801)와 네트워크(836)를 통해 추가적으로 통신할 수 있다.

당업자는 컴퓨팅 시스템(802 및 803)이 랩톱, 개인용 컴퓨터, 모바일 폰, 스마트폰, 태블릿 컴퓨터, 기타 무선 장치, 셋톱 또는 기타 텔레비전 박스, 하나 이상의 서버 등과 같은 것을 포함하나 이에 한정되지 않는 다수의 컴퓨팅 시스템 중 임의의 것일 수 있다는 것을 알 수 있을 것이다. 클라이언트 컴퓨팅 시스템(803)은 디스플레이, 처리 유닛, 네트워크 인터페이스, 메모리, 운영 체제 등과 같이, 컴퓨팅 시스템(802)에 포함되어 있는 것으로 도시된 것과 유사한 하드웨어를 포함할 수 있다. 일부 실시예에서, 클라이언트 컴퓨팅 시스템(803)은 앞서 설명된 것과 같은 의료 제공자 시스템일 수 있거나 기계 학습 훈련을 목적으로 이미지를 마킹하는 치과의사에 의해 또는 치과 실험실의 인원에 의해 이용될 수 있다.

반드시 모든 목적 또는 이점이 여기에 설명된 임의의 특정 실시예에 따라 달성될 수 있는 것은 아님은 이해해야 한다. 따라서, 예를 들어, 당업자는 특정 실시예가 여기에 교시(taught)되거나 제안될 수 있는 다른 목적 또는 이점을 반드시 달성하지 않으면서 여기에 교시된 하나의 이점 또는 이점의 그룹을 달성하거나 최적화하는 방식으로 동작하도록 구성될 수 있음을 인식할 것이다. .

여기에 설명된 모든 프로세스는 하나 이상의 범용 컴퓨터 또는 프로세서를 포함하는 컴퓨팅 시스템에 의해 실행되는 소프트웨어 코드 모듈로 구현되고 이를 통해 완전히 자동화될 수 있다. 코드 모듈은 임의의 유형의 비-일시적 컴퓨터-판독 가능한 매체 또는 기타 컴퓨터 저장 장치에 저장될 수 있다. 일부 또는 모든 방법은 대안적으로 특수한 컴퓨터 하드웨어로 구현될 수 있다. 추가적으로, 여기에서 언급되는 구성요소는 하드웨어, 소프트웨어, 펌웨어 또는 이들의 조합으로 구현될 수 있다.

여기에 설명된 것 이외의 많은 다른 변형이 본 개시로부터 명백할 것이다. 예를 들어, 실시예에 따라, 여기에 설명된 임의의 알고리즘의 특정 행위(act), 이벤트 또는 기능은 다른 순서로 수행될 수 있고, 추가, 병합 또는 완전히 생략될 수 있다(예를 들어, 설명된 모든 행위 또는 이벤트가 알고리즘 실행에 필요한 것은 아님). 더욱이, 특정 실시예에서, 행위 또는 이벤트는, 예를 들어, 멀티-스레드 처리, 인터럽트 처리, 또는 다중 프로세서 또는 프로세서 코어를 통해 또는 순차적이 아니라 기타 병렬 아키텍처 상에서 동시에 수행될 수 있다. 추가적으로, 서로 다른 작업이나 프로세스는 함께 기능할 수 있는 서로 다른 기계 및/또는 컴퓨팅 시스템에 의해 수행될 수 있다.

여기에 개시된 실시예와 관련하여 설명된 다양한 예시적인 논리 블록, 모듈, 및 알고리즘 요소는 전자 하드웨어, 컴퓨터 소프트웨어, 또는 양자의 조합으로서 구현될 수 있다. 하드웨어와 소프트웨어의 이러한 상호 교환 가능성을 명확하게 설명하기 위해 다양한 예시적인 구성 요소, 블록, 모듈 및 요소가 앞서 그들의 기능 측면에서 일반적으로 설명되었다. 이러한 기능이 하드웨어로 구현되는지 소프트웨어로 구현되는지 여부는 전체 시스템에 부과되는 특정 애플리케이션 및 설계 제약 조건에 따라 다르다. 설명된 기능은 각각의 특정 애플리케이션에 대해 다양한 방식으로 구현될 수 있지만, 그러한 구현 결정은 본 개시의 범위에서 벗어나는 원인으로 해석되어서는 안된다.

여기에 개시된 실시예와 관련하여 설명된 다양한 예시적인 논리 블록 및 모듈은 처리 유닛 또는 프로세서, DSP(디지털 신호 프로세서), ASIC(주문형 집적 회로), FPGA(field programmable gate array) 또는 기타 프로그램 가능 논리 장치, 이산 게이트 또는 트랜지스터 논리, 이산 하드웨어 구성요소, 또는 여기에 설명된 기능을 수행하도록 설계된 이들의 임의의 조합과 같은 기계에 의해 구현 또는 수행될 수 있다. 프로세서는 마이크로프로세서일 수 있지만, 대안으로 프로세서는 컨트롤러, 마이크로컨트롤러 또는 상태 머신, 이들의 조합 등이 될 수 있다. 프로세서는 컴퓨터-실행가능한 명령어를 처리하도록 구성된 전기 회로를 포함할 수 있다. 다른 실시예에서, 프로세서는 컴퓨터-실행가능한 명령어를 처리하지 않고 논리 연산을 수행하는 FPGA 또는 다른 프로그램 가능 장치를 포함한다. 프로세서는 또한 컴퓨팅 장치의 조합, 예를 들어 DSP와 마이크로프로세서의 조합, 복수의 마이크로프로세서, DSP 코어와 결합된 하나 이상의 마이크로프로세서, 또는 임의의 다른 그러한 구성으로서 구현될 수 있다. 비록 여기에서 주로 디지털 기술과 관련하여 설명되었지만, 프로세서는 또한 주로 아날로그 구성요소를 포함할 수 있다. 예를 들어, 여기에 설명된 신호 처리 알고리즘의 일부 또는 전부는 아날로그 회로 또는 혼합된 아날로그 및 디지털 회로에서 구현될 수 있다. 컴퓨팅 환경은 몇 가지 예를 들면 마이크로프로세서, 메인프레임 컴퓨터, 디지털 신호 프로세서, 휴대용 컴퓨팅 장치, 장치 컨트롤러 또는 가전제품(appliance) 내의 컴퓨팅 엔진을 포함하나 이에 한정되지 않는 컴퓨터 시스템의 임의의 형태를 포함할 수 있다.

여기에 개시된 실시예와 관련하여 설명된 방법, 프로세스 또는 알고리즘의 요소는 직접 하드웨어, 하나 이상의 메모리 장치에 저장되고 하나 이상의 프로세서에 의해 실행되는 소프트웨어 모듈, 또는 그 둘의 조합으로 구현될 수 있다. 소프트웨어 모듈은 RAM 메모리, 플래시 메모리, ROM 메모리, EPROM 메모리, EEPROM 메모리, 레지스터, 하드 디스크, 이동식 디스크, CD-ROM 또는 당업계에 알려진 임의의 기타 형태의 비-일시적 컴퓨터-판독가능한 저장 매체, 매체(media) 또는 물리적인 컴퓨터 저장 장치 내에 있을 수 있다. 예시적인 저장 매체는 프로세서가 저장 매체로부터 정보를 읽고 이에 정보를 기록할 수 있도록 프로세서에 결합될 수 있다. 대안으로, 저장 매체는 프로세서에 통합될 수 있다. 저장 매체는 휘발성 또는 비휘발성일 수 있다.

다른 것 중에서도 "할 수 있다(can)", "할 수 있다(could)", "할 수 있다(might)" 또는 "할 수 있다(may)"와 같은 조건어는 특별히 달리 명시되지 않는 한 문맥 내에서 일반적으로, 다른 실시예는 특정 기능, 요소 및/또는 단계를 포함하지 않는 반면, 특정 실시예는 특정 기능, 요소 및/또는 단계를 포함한다는 것을 전달하기 위해 사용되는 것으로 이해된다. 따라서, 이러한 조건부 언어는 일반적으로 기능, 요소 및/또는 단계가 하나 이상의 실시예에 대해 어떤 방식으로든 요구되거나 하나 이상의 실시예가 사용자 입력 또는 프롬프트(prompting) 유무에 관계없이 이들 특징, 요소 및/또는 단계가 임의의 특정 실시예에 포함되거나 수행될 것일지 여부를 결정하기 위한 논리를 반드시 포함한다는 것을 의미하도록 의도되지 않는다.

"X, Y, 또는 Z 중 적어도 하나"라는 구와 같은 접속 언어는 특별히 달리 명시되지 않는 한 항목, 용어 등이 X, Y, 또는 Z, 또는 이들의 임의의 조합(예를 들어, X, Y 및/또는 Z)일 수 있다는 것을 일반적으로 나타내기 위해 문맥 내에서 사용될 수 있는 것으로 이해된다. 따라서, 이러한 분리 언어는 일반적으로 특정 실시예가 각각 존재하기 위해 X 중 적어도 하나, Y 중 적어도 하나, 또는 Z 중 적어도 하나를 필요로 한다는 것을 의미하도록 의도되지 않았으며 이를 의미해야 하는 것도 아니다.

여기에 설명되고/되거나 첨부된 도면에 도시된 흐름도의 임의의 프로세스 설명, 요소 또는 블록은 프로세스 내에서 특정 논리 기능 또는 요소를 구현하기 위한 하나 이상의 실행 가능한 명령어를 포함하는 코드의 모듈, 세그먼트 또는 부분을 잠재적으로 나타내는 것으로 이해되어야 한다. 대체적인 구현은 여기에 설명된 실시예의 범위 내에 포함되며 여기에서 요소 또는 기능은 당업자에 의해 이해되는 바와 같이 포함되는 기능에 따라 삭제되거나, 실질적으로 동시에 또는 역순인 것을 포함하여 보여지거나 논의되는 것과 다른 순서로 실행될 수 있다.

달리 명시적으로 언급되지 않는 한, "a" 또는 "an"과 같은 관사는 일반적으로 하나 이상의 설명 항목을 포함하는 것으로 해석되어야 한다. 따라서, "~하도록 구성된 장치"와 같은 문구는 하나 이상의 인용된 장치를 포함하도록 의도된다. 이러한 하나 이상의 인용된 장치는 또한 언급된 인용을 수행하도록 집합적으로 구성될 수 있다. 예를 들어, "인용 A, B 및 C를 수행하도록 구성된 프로세서"는 인용 B 및 C를 수행하도록 구성된 제2 프로세서와 함께 인용 A를 수행하도록 구성된 제1 프로세서를 포함할 수 있다.

전술한 실시예에 많은 변형 및 수정이 이루어질 수 있으며, 그 요소는 다른 허용 가능한 예에 속하는 것으로 이해되어야 함은 강조되어야 한다. 이러한 모든 수정 및 변형은 본 개시의 범위 내에 포함되도록 여기에 의도된다.

본 개시 내용의 실시예들의 예들은 이하의 양태(clause)에 비추어 설명될 수 있다.

제1 양태(clause). 컴퓨터 시스템에 있어서,

메모리; 및

상기 메모리와 통신하고 동작을 수행하는 프로세서-실행가능한 명령어로 구성된 프로세서를 포함하고,

상기 동작은,

애플리케이션 프로그래밍 인터페이스(API)를 통해, 치과 방사선 사진과 연관된 이미지 주석 데이터에 대한 요청을 수신;

상기 치과 방사선 사진을 포함하는 디지털 이미지 파일을 이미지 데이터로 획득;

둘 이상의 전처리 모듈 - 제1 전처리 모듈은 전처리된 이미지 데이터를 생성하기 위해 상기 이미지 데이터를 수정하도록 구성되고, 제2 전처리 모듈은 상기 이미지 데이터와 연관된 메타데이터를 생성하도록 구성됨 - 의 실행을 개시;

복수의 기계 학습 모델 - 상기 복수의 기계 학습 모델의 개별적인 기계 학습 모델로 제공된 입력 특징은 상기 전처리된 이미지 데이터 또는 상기 메타데이터 중 적어도 하나에 적어도 부분적으로 기초하고, 상기 복수의 기계 학습 모델의 개별적인 기계 학습 모델은 상기 전처리된 이미지 데이터에 존재하는 하나 이상의 치과 병리, 해부학적 구조, 수복물 또는 기형을 감지하도록 훈련됨 - 의 병렬 실행을 개시;

상기 복수의 기계 학습 모델 각각의 출력과 연관된 결과 - 개별적인 기계 학습 모델과 연관된 상기 결과는 상기 개별적인 기계 학습 모델의 출력 또는 상기 개별적인 기계 학습 모델과 결합된 후처리 모듈의 출력 중 적어도 하나를 포함함 - 를 획득; 및

상기 복수의 기계 학습 모델의 출력과 연관되어 획득된 상기 결과에 적어도 부분적으로 기초하여 이미지 주석 데이터 - 상기 이미지 주석 데이터는 상기 디지털 이미지 파일 내의 적어도 하나의 위치 및 상기 복수의 기계 학습 모델의 적어도 하나에 의해 상기 적어도 하나의 위치에서 감지된 연관된 치과 병리, 수복물, 해부학적 구조 또는 기형을 나타냄 - 를 생성;하는 것을 포함한다.

제2 양태. 제1 양태에 있어서, 상기 둘 이상의 전처리 모듈 중 적어도 하나는 기계 학습 모델을 포함한다.

제3 양태. 제1 양태에 있어서, 상기 이미지 주석 데이터에 대한 상기 요청은 치과 진료에 의해 동작되는 컴퓨팅 시스템으로부터 네트워크를 통해 수신된다.

제4 양태. 제1 양태에 있어서, 상기 복수의 기계 학습 모델의 적어도 한 부분집합의 개별적인 기계 학습 모델은 각각 서로 다른 후처리 모듈에 결합된다.

제5 양태. 제1 양태에 있어서, 상기 복수의 기계 학습 모델의 제1 모델에 대한 적어도 하나의 입력 특징은 상기 복수의 기계 학습 모델의 제2 모델에 의해 생성된다.

제6 양태. 제1 양태에 있어서, 상기 복수의 기계 학습 모델의 부분집합은 이미지 내에서 복수의 치과 병리의 존재를 예측하도록 집합적으로 구성된 앙상블(ensemble) 감지기를 포함한다.

제7 양태. 제1 양태에 있어서, 상기 복수의 기계 학습 모델의 제1 모델은 제2 모델과는 상이한 기계 학습 알고리즘을 사용하여 상기 복수의 기계 학습 모델의 상기 제2 모델과 동일한 병리를 감지하도록 훈련된다.

제8 양태. 제1 양태에 있어서, 상기 동작은, 제1 기계 학습 모델에 의해 상기 디지털 이미지 파일 내의 제1 위치에서 예측된 제1 병리를 상기 이미지 주석 데이터 내에 포함하는 것 이전에, 제2 기계 학습 모델이 상기 위치에서 또는 그 주변에서 상기 이미지 데이터의 부분을 상기 제1 병리와 연관된 제1 해부학적 구조로 묘사하는 것으로 분류함을 확인하는 것을 더 포함한다.

제9 양태. 제9 양태에 있어서, 상기 제1 병리는 충치(caries)이고, 상기 제1 해부학적 구조는 치아(tooth)이다.

제10 양태. 제1 양태에 있어서, 상기 복수의 기계 학습 모델의 제1 기계 학습 모델은 적어도 10개의 서로 다른 치과 병리 분류를 감지하도록 훈련된다.

제11 양태. 제1 양태에 있어서, 상기 적어도 하나의 위치에서 감지된 상기 치과 병리, 수복물, 해부학적 구조 또는 기형은 충치, 뼈 손실(bone loss), 기존의 치과 수복물, 또는 치아 부식(tooth decay) 중 하나이다.

제12 양태. 컴퓨터-구현된 방법에 있어서,

치과 방사선 사진을 포함하는 디지털 이미지 파일을 이미지 데이터로서 획득하는 단계;

상기 이미지 데이터에 관하여 복수의 전처리 동작 - 상기 복수의 전처리 동작은 (a) 전처리된 이미지 데이터를 생성하기 위해 상기 이미지 데이터를 수정하는 것 또는 (b) 상기 이미지 데이터와 연관된 메타데이터를 생성하는 것 중 적어도 하나를 포함함 - 을 수행하는 단계;

상기 이미지 데이터와 연관된 입력 특징을 각각이 하나 이상의 치과 병리, 해부학적 구조, 수복물 또는 기형을 감지하도록 훈련된 적어도 복수의 기계 학습 모델로 제공 - 상기 복수의 기계 학습 모델의 개별적인 기계 학습 모델로 제공된 상기 입력 특징은 상기 전처리된 이미지 데이터 또는 상기 이미지 데이터와 연관된 상기 메타데이터 중 적어도 하나에 적어도 부분적으로 기초함 - 하는 단계;

상기 복수의 기계 학습 모델 각각의 출력과 연관된 결과 - 개별적인 기계 학습 모델과 연관된 상기 결과는 상기 개별적인 기계 학습 모델의 출력 또는 상기 개별적인 기계 학습 모델에 결합된 후처리 모듈의 출력 중 적어도 하나를 포함함 - 를 획득하는 단계; 및

상기 복수의 기계 학습 모델의 출력과 연관되어 획득된 상기 결과에 적어도 부분적으로 기초하여 이미지 주석 데이터 - 상기 이미지 주석 데이터는 상기 디지털 이미지 파일 내의 적어도 하나의 위치 및 상기 복수의 기계 학습 모델의 적어도 하나에 의해 상기 적어도 하나의 위치에서 감지된 연관된 치과 병리, 수복물, 해부학적 구조 또는 기형을 나타냄 - 를 생성하는 단계;를 포함한다.

제13 양태. 제12 양태에 있어서, 상기 방법은 상기 이미지 주석 데이터를 상기 이미지 주석 데이터에 대한 요청을 보낸 컴퓨팅 시스템으로 전송하는 단계를 더 포함하되, 상기 이미지 주석 데이터는 상기 컴퓨팅 시스템 상에서 동작되는 애플리케이션이 하나 이상의 치과 병리의 존재를 사용자 인터페이스 내에 상기 치과 방사선 사진의 하나 이상의 영역 상에 오버레이되는 하나 이상의 시각적인 경계 형상(bounding shapes)을 디스플레이함으로써 시각적으로 나타내도록 유발한다.

제14 양태. 제12 양태에 있어서, 상기 이미지 주석 데이터 내에 식별된 상기 적어도 하나의 위치는 상기 이미지 주석 데이터 내에서 정의된 크기를 갖는 경계 형상과 연관된다.

제15 양태. 제14 양태에 있어서, 이미지 주석 데이터는, 제1 병리에 대해, 병리명 레이블, 상기 제1 병리에 대해 결정된 제1 경계 형상과 연관된 적어도 한 쌍의 x 및 y 좌표, 및 상기 제1 경계 형상의 크기를 정의하는 치수(dimension) 정보를 포함한다.

제16 양태. 제12 양태에 있어서, 상기 방법은 상기 복수의 기계 학습 모델에 의해 상기 이미지 데이터 내에서 식별된 각각의 치과 병리, 수복물, 해부학적 구조 또는 기형에 연관된 신뢰도 점수를 결정하는 단계를 더 포함하고, 상기 이미지 주석 데이터는 상기 디지털 이미지 파일 내의 상기 적어도 하나의 위치에 연관되는 제1 결정된 신뢰도 점수를 포함한다.

제17 양태. 제12 양태에 있어서, 상기 방법은, 제1 기계 학습 모델에 의해 상기 디지털 이미지 파일 내의 제1 위치에서 예측되는 제1 병리를 상기 이미지 주석 데이터 내에 포함하는 것 이전에, 제2 기계 학습 모델이 상기 위치에서 또는 그 주변에서 상기 이미지 데이터의 부분을 상기 제1 병리에 연관된 제1 해부학적 구조를 묘사하는 것으로 분류함을 확인하는 단계를 더 포함한다.

제18 양태. 컴퓨터 실행 가능한 명령어를 저장하는 비-일시적 컴퓨터 판독가능한 매체로서, 하나 이상의 컴퓨터 시스템에 의해 실행될 때, 상기 하나 이상의 컴퓨터 시스템이,

치과 방사선 사진을 포함하는 디지털 이미지 파일을 이미지 데이터로서 획득;

상기 이미지 데이터에 관하여 복수의 전처리 동작을 수행하고, 여기에서 상기 복수의 전처리 동작은 (a) 전처리된 이미지 데이터를 생성하기 위해 상기 이미지 데이터를 수정하는 것 또는 (b) 상기 이미지 데이터와 연관된 메타데이터를 생성하는 것 중 적어도 하나를 포함;

상기 이미지 데이터와 연관된 입력 특징을 각각이 하나 이상의 치과 병리를 감지하도록 훈련된 적어도 복수의 기계 학습 모델로 제공 - 상기 복수의 기계 학습 모델의 개별적인 기계 학습 모델로 제공된 상기 입력 특징은 상기 전처리된 이미지 데이터 또는 상기 이미지 데이터와 연관된 상기 메타데이터 중 적어도 하나에 적어도 부분적으로 기초함 - ;

상기 복수의 기계 학습 모델 각각의 출력과 연관된 결과 - 개별적인 기계 학습 모델과 연관된 상기 결과는 상기 개별적인 기계 학습 모델의 출력 또는 상기 개별적인 기계 학습 모델에 결합된 후처리 모듈의 출력 중 적어도 하나를 포함함 - 를 획득; 및

상기 복수의 기계 학습 모델의 출력에 연관된 상기 얻어진 결과에 적어도 부분적으로 기초하여 이미지 주석 데이터 - 상기 이미지 주석 데이터는 상기 디지털 이미지 파일 내의 적어도 하나의 위치 및 상기 복수의 기계 학습 모델의 적어도 하나에 의해 상기 적어도 하나의 위치에서 감지된 연관된 치과 병리, 수복물, 해부학적 구조 또는 기형을 나타냄 - 를 생성;을 포함하는 동작을 수행하도록 구성한다.

제19 양태. 제18 양태에 있어서, 상기 복수의 기계 학습 모델은 각각이 서로 다른 치과 병리를 식별하도록 훈련된 컨볼루션 신경망 중 적어도 두 개의 서로 다른 형태를 포함한다.

제20 양태. 제18 양태에 있어서, 상기 복수의 기계 학습 모델의 제1 모델에 대한 적어도 하나의 입력 특징은 상기 복수의 기계 학습 모델의 제2 모델에 의해 생성된다.

제21 양태. 컴퓨터 시스템에 있어서,

메모리; 및

상기 메모리와 통신하고 프로세서-실행가능한 명령어를 갖고 동작을 수행하도록 구성된 프로세서를 포함하고,

상기 동작은,

치과 방사선 사진을 포함하는 디지털 이미지 파일을 획득;

애플리케이션 프로그래밍 인터페이스(API)를 통해, 상기 치과 방사선 사진과 연관된 주석 데이터에 대한 요청을 전송;

상기 API를 통해 상기 방사선 사진과 연관된 상기 주석 데이터 - 상기 주석 데이터는 하나 이상의 컴퓨팅 장치에 의해 구현된 복수의 기계 학습 모델에 의해 상기 디지털 이미지 파일 내의 이미지 데이터의 객체 감지 및 분류에 기초하여 상기 API와 연관된 상기 하나 이상의 컴퓨팅 장치에 의해 자동적으로 생성되고, 상기 주석 데이터는 (a) 상기 이미지 데이터 내의 적어도 하나의 경계 영역 및 (b) 상기 복수의 기계 학습 모델의 하나 이상에 의해 감지된 적어도 하나의 치과 병리, 치과 해부학적 구조, 치과 수복물 또는 치과 기형을 식별하는 분류 레이블을 식별함 - 를 수신;

상기 주석 데이터 내에 식별된 적어도 제1 경계 영역에 대해, (c) 상기 주석 데이터 내에 상기 제1 경계 영역에 할당된 제1 분류 레이블 또는 (d) 상기 제1 분류 레이블에 연관된 신뢰도 레벨 중 적어도 하나에 적어도 부분적으로 기초하여 경계 형상 디스플레이 파라미터를 결정;

상기 주석 데이터 내에 상기 제1 경계 영역과 연관되어 저장된 데이터로부터 결정된 디스플레이 좌표에 디스플레이를 위해 제공(presentation)을 위한 시각적인 경계 형상 - 상기 시각적인 경계 형상은 상기 경계 형상 디스플레이 파라미터를 갖도록 생성됨 - 을 생성; 및

상기 디지털 이미지 파일로부터 상기 이미지 데이터의 적어도 일부를 나타내는 사용자 인터페이스 - 상기 사용자 인터페이스는 상기 제1 분류 레이블에 의해 제공되는 적어도 하나의 제1 치과 병리, 치과 해부학적 구조, 치과 수복물 또는 치과 기형의 상기 존재 및 위치를 시각적으로 식별하기 위해 상기 이미지 데이터의 적어도 일부 위에 오버레이되도록 보이는 상기 시각적인 경계 형상의 디스플레이를 포함함 - 의 디스플레이를 유발;하는 것을 포함한다.

제22 양태. 제21 양태에 있어서, 상기 동작은 상기 제1 시각적인 경계 형상이 디스플레이되는 동안 제2 시각적인 경계 형상의 동시적인 디스플레이를 유발하는 것을 더 포함하고, 상기 제2 시각적인 경계 형상은 상기 제1 시각적인 경계 형상의 상기 디스플레이 좌표와는 상이한 디스플레이 좌표에 위치하고, 상기 제2 시각적인 경계 형상은 상기 주석 데이터에서 식별된 제2 치과 병리, 치과 해부학적 구조학, 치과 수복물 또는 치과 기형을 시각적으로 식별하기 위해 상기 이미지 데이터의 제2 부분 위에 오버레이되도록 보인다.

제23 양태. 제21 양태에 있어서, 상기 경계 형상 디스플레이 파라미터를 결정하는 것은 상기 시각적인 경계 형상의 적어도 하나의 색상 또는 불투명도를 결정하는 것을 포함한다.

제24 양태. 제21 양태에 있어서, 상기 동작은, 상기 주석 데이터에 대한 상기 요청을 보내는 것 이전에, 상기 디지털 이미지 파일을 네트워크를 걸쳐 상기 API와 연관된 상기 하나 이상의 컴퓨팅 장치에게 접근가능한 데이터 저장소로 안전하게 전송하는 것을 더 포함한다.

제25 양태. 제21 양태에 있어서, 상기 동작은 상기 이미지 데이터의 적어도 일부 위에 상기 제1 분류 레이블에 의해 제공된 상기 제1 치과 병리, 치과 해부학적 구조, 치과 수복물 또는 치과 기형의 명칭을 나타내는 텍스트의 그래픽적인 렌더링(rendering)의 디스플레이를 유발하는 것을 더 포함한다.

제26 양태. 제21 양태에 있어서, 상기 동작은 추천되는 치료 계획의 상기 사용자 인터페이스 내의 디스플레이를 유발하는 것을 더 포함하고, 상기 추천되는 치료 계획은 상기 제1 분류 레이블 및 상기 추천되는 치료 계획 사이의 저장된 연관관계로부터 결정된다.

제27 양태. 제21 양태에 있어서, 상기 사용자 인터페이스는 상기 이미지 데이터의 디스플레이와 연관되어 상기 사용자 인터페이스 내에 디스플레이되는 복수의 시각적인 경계 형상 중 어느 것을 사용자가 수정할 수 있도록 하는 하나 이상의 선택가능한 옵션을 포함한다.

제28 양태. 제27 양태에 있어서, 상기 하나 이상의 선택가능한 옵션은 줌(zoom) 제어 - 상기 줌 제어의 사용자 선택은 상기 이미지 데이터 내의 상기 제1 치과 병리, 치과 해부학적 구조, 치과 수복물 또는 치과 기형의 상기 위치에 관한 상기 시각적인 경계 형상의 일관된 디스플레이 포지셔닝(positioning)을 유지한 채 상기 디지털 이미지 파일의 디스플레이되는 이미지 데이터의 배율(magnification)에 있어 변화를 유발함 - 를 포함한다.

제29 양태. 제27 양태에 있어서, 상기 하나 이상의 선택가능한 옵션은 상기 사용자가 하나 이상의 특정 형태의 상태를 선택할 수 있도록 하는 제어 - 상기 제2 제어의 선택은 상기 사용자 인터페이스가 상기 특정 형태의 상태에 대한 시각적인 경계 형상을 디스플레이하고 상기 특정 형태의 상태가 아닌 상태들에 대한 하나 이상의 시각적인 경계 형상의 디스플레이를 제거하는 업데이트가 되도록 유발함 - 를 포함한다.

제30 양태. 제27 양태에 있어서, 상기 하나 이상의 선택가능한 옵션은 상기 사용자가 신뢰도 임계치를 설정할 수 있도록 하는 제어 - 상기 사용자 인터페이스는 상기 주석 데이터 내의 상기 제1 경계 영역에 연관된 제1 신뢰도 레벨이 상기 제3 제어를 통해 설정된 상기 신뢰도 임계치를 만족시킨다는 결정에 적어도 부분적으로 기초한 상기 시각적인 경계 형상의 상기 디스플레이를 포함함 - 를 포함한다.

제31 양태. 제21 양태에 있어서, 상기 제1 치과 병리, 치과 해부학적 구조, 치과 수복물 또는 치과 기형은 충치, 뼈 손실, 기존의 치과 수복물, 또는 치아 부식 중 하나이다.

제32 양태. 컴퓨터-구현된 방법에 있어서,

치과 방사선 사진을 포함하는 디지털 이미지 파일을 획득하는 단계;

상기 치과 방사선 사진에 연관된 주석 데이터 - 상기 주석 데이터는 복수의 기계 학습 모델에 의해 수행된 상기 디지털 이미지 파일 내의 이미지 데이터의 분석에 기초하고, 상기 주석 데이터는 (a) 상기 이미지 데이터 내의 적어도 하나의 경계 영역 및 (b) 상기 복수의 기계 학습 모델에 의해 감지된 적어도 하나의 치과 병리를 식별하는 분류 레이블을 식별 - 를 획득하는 단계;

상기 주석 데이터 내에서 식별된 적어도 제1 경계 영역에 대해, (a) 상기 주석 데이터 내에 상기 제1 경계 영역으로 할당된 제1 분류 레이블 또는 (b) 상기 제1 분류 레이블과 연관된 신뢰도 레벨 중 적어도 하나에 적어도 부분적으로 기초하여 경계 형상 디스플레이 파라미터를 결정하는 단계;

상기 주석 데이터 내에 상기 제1 경계 영역과 연관되어 저장된 데이터로부터 결정된 디스플레이 좌표에의 제공을 위해 디스플레이를 위한 시각적인 경계 형상 - 상기 시각적인 경계 형상은 상기 경계 형상 디스플레이 파라미터를 갖도록 생성됨 - 을 생성하는 단계; 및

상기 디지털 이미지 파일로부터 상기 이미지 데이터의 적어도 일부를 제공하는 사용자 인터페이스 - 상기 사용자 인터페이스는 상기 제1 분류 레이블에 의해 제공되는 적어도 제1 치과 병리의 상기 존재 및 위치를 시각적으로 식별하기 위해 상기 이미지 데이터의 상기 적어도 일부 위에 오버레이되도록 보이는 상기 시각적인 경계 형상의 디스플레이를 포함함 - 의 디스플레이를 유발하는 단계;를 포함한다.

제33 양태. 제32 양태에 있어서, 상기 주석 데이터는 상기 복수의 기계 학습 모델의 개별적인 모델이 상기 이미지 데이터를 처리할 때 실시간으로 애플리케이션 프로그래밍 인터페이스를 통해 수신된다.

제34 양태. 제32 양태에 있어서, 상기 방법은 상기 사용자 인터페이스 내에 제2 시각적인 경계 형상의 디스플레이를 유발하는 단계를 더 포함하고, 상기 제2 시각적인 경계 형상은 상기 제1 시각적인 경계 형상의 상기 디스플레이 좌표와는 다른 디스플레이 좌표에 위치하고, 상기 제2 시각적인 경계 형상은 상기 주석 데이터에서 식별된 치과 해부학적 구조, 치과 수복물 또는 치과 기형 중 적어도 하나를 시각적으로 식별하기 위해 상기 이미지 데이터의 제2 부분 위에 오버레이되도록 보인다.

제35 양태. 제32 양태에 있어서, 상기 사용자 인터페이스는 상기 이미지 데이터의 디스플레이와 연관되어 상기 사용자 인터페이스 내에 디스플레이되는 복수의 시각적인 경계 형상 중 어느 것을 사용자가 수정할 수 있도록 하는 하나 이상의 선택가능한 옵션을 포함한다.

제36 양태. 제35 양태에 있어서, 상기 하나 이상의 선택가능한 옵션은 상기 사용자가 하나 이상의 특정 병리를 선택할 수 있도록 하는 제어 - 상기 제어의 선택은 상기 사용자 인터페이스가 상기 특정 병리에 대한 시각적인 경계 형상을 디스플레이하고 상기 하나 이상의 특정 병리가 아닌 병리들에 대한 하나 이상의 시각적인 경계 형상을 제거하는 업데이트가 되도록 유발함 - 를 포함한다.

제37 양태. 제35 양태에 있어서, 상기 하나 이상의 선택가능한 옵션은 상기 사용자가 신뢰도 임계치를 설정할 수 있도록 하는 제어 - 상기 사용자 인터페이스는 상기 주석 데이터 내에 상기 제1 경계 형상과 연관된 제1 신뢰도 레벨이 상기 제어를 통해 설정된 상기 신뢰도 임계치를 만족시킨다는 결정에 적어도 부분적으로 기초하여 상기 시각적인 경계 형상의 상기 디스플레이를 포함함 - 를 포함한다.

제38 양태. 컴퓨터 실행 가능한 명령어를 저장하는 비-일시적 컴퓨터 판독가능한 매체로서, 하나 이상의 컴퓨터 시스템에 의해 실행될 때, 상기 하나 이상의 컴퓨터 시스템이

치과 방사선 사진을 포함하는 디지털 이미지 파일을 획득;

상기 치과 방사선 사진에 연관된 주석 데이터 - 상기 주석 데이터는 복수의 기계 학습 모델에 의해 수행된 상기 디지털 이미지 파일 내의 이미지 데이터의 분석에 기초하고, 상기 주석 데이터는 (a) 상기 이미지 데이터 내의 적어도 하나의 경계 영역 및 (b) 상기 복수의 기계 학습 모델에 의해 감지된 적어도 하나의 치과 병리를 식별하는 분류 레이블을 식별 - 를 획득;

상기 주석 데이터 내에서 식별된 적어도 제1 경계 영역에 대해, (a) 상기 주석 데이터 내에 상기 제1 경계 영역으로 할당된 제1 분류 레이블 또는 (b) 상기 제1 분류 레이블과 연관된 신뢰도 레벨 중 적어도 하나에 적어도 부분적으로 기초하여 경계 형상 디스플레이 파라미터를 결정;

상기 주석 데이터 내에 상기 제1 경계 영역과 연관되어 저장된 데이터로부터 결정된 디스플레이 좌표에의 제공을 위해 디스플레이를 위한 시각적인 경계 형상 - 상기 시각적인 경계 형상은 상기 경계 형상 디스플레이 파라미터를 갖도록 생성됨 - 을 생성; 및

상기 디지털 이미지 파일로부터 상기 이미지 데이터의 적어도 일부를 제공하는 사용자 인터페이스 - 상기 사용자 인터페이스는 상기 제1 분류 레이블에 의해 제공되는 적어도 제1 치과 병리의 상기 존재 및 위치를 시각적으로 식별하기 위해 상기 이미지 데이터의 상기 적어도 일부 위에 오버레이되도록 보이는 상기 시각적인 경계 형상의 디스플레이를 포함함 - 의 디스플레이를 유발;하는 것을 포함하는 동작을 수행하도록 구성한다.

제39 양태. 제38 양태에 있어서, 상기 사용자 인터페이스는 상기 사용자가 신뢰도 임계치를 설정할 수 있도록 하는 제어 - 상기 사용자 인터페이스는 상기 주석 데이터 내에 상기 제1 경계 형상과 연관된 제1 신뢰도 레벨이 상기 제어를 통해 설정된 상기 신뢰도 임계치를 만족시킨다는 결정에 적어도 부분적으로 기초한 상기 시각적인 경계 형상의 상기 디스플레이를 포함함 - 를 포함한다.

제40 양태. 제39 양태에 있어서, 상기 사용자 인터페이스는 상기 사용자가 신뢰도 임계치를 설정할 수 있도록 하는 제어 - 상기 사용자 인터페이스는 상기 주석 데이터 내에 상기 제1 경계 형상과 연관된 제1 신뢰도 레벨이 상기 제어를 통해 설정된 상기 신뢰도 임계치를 만족시킨다는 결정에 적어도 부분적으로 기초한 상기 시각적인 경계 형상의 상기 디스플레이를 포함함 - 를 포함한다.

Claims (21)

1. 컴퓨터 시스템에 있어서,
   메모리; 및
   상기 메모리와 통신하고 동작을 수행하는 프로세서-실행가능한 명령어로 구성된 프로세서를 포함하고,
   상기 동작은,
   애플리케이션 프로그래밍 인터페이스(API)를 통해, 치과 방사선 사진과 연관된 이미지 주석 데이터에 대한 요청을 수신;
   상기 치과 방사선 사진을 포함하는 디지털 이미지 파일을 이미지 데이터로 획득;
   둘 이상의 전처리 모듈 - 제1 전처리 모듈은 전처리된 이미지 데이터를 생성하기 위해 상기 이미지 데이터를 수정하도록 구성되고, 제2 전처리 모듈은 상기 이미지 데이터와 연관된 메타데이터를 생성하도록 구성됨 - 의 실행을 개시;
   복수의 기계 학습 모델 - 상기 복수의 기계 학습 모델의 개별적인 기계 학습 모델로 제공된 입력 특징은 상기 전처리된 이미지 데이터 또는 상기 메타데이터 중 적어도 하나에 적어도 부분적으로 기초하고, 상기 복수의 기계 학습 모델의 개별적인 기계 학습 모델은 상기 전처리된 이미지 데이터에 존재하는 하나 이상의 치과 병리, 해부학적 구조, 수복물 또는 기형을 감지하도록 훈련됨 - 의 병렬 실행을 개시;
   상기 복수의 기계 학습 모델 각각의 출력과 연관된 결과 - 개별적인 기계 학습 모델과 연관된 상기 결과는 상기 개별적인 기계 학습 모델의 출력 또는 상기 개별적인 기계 학습 모델과 결합된 후처리 모듈의 출력 중 적어도 하나를 포함함 - 를 획득; 및
   상기 복수의 기계 학습 모델의 출력과 연관되어 획득된 상기 결과에 적어도 부분적으로 기초하여 이미지 주석 데이터 - 상기 이미지 주석 데이터는 상기 디지털 이미지 파일 내의 적어도 하나의 위치 및 상기 복수의 기계 학습 모델의 적어도 하나에 의해 상기 적어도 하나의 위치에서 감지된 연관된 치과 병리, 수복물, 해부학적 구조 또는 기형을 나타냄 - 를 생성;하는 것을 포함하는,
   컴퓨터 시스템.
2. 제1항에 있어서,
   상기 복수의 기계 학습 모델의 적어도 한 부분집합의 개별적인 기계 학습 모델은 각각 서로 다른 후처리 모듈에 결합되는,
   컴퓨터 시스템.
3. 제1항에 있어서,
   상기 복수의 기계 학습 모델의 제1 모델에 대한 적어도 하나의 입력 특징은 상기 복수의 기계 학습 모델의 제2 모델에 의해 생성되는,
   컴퓨터 시스템.
4. 제1항에 있어서,
   상기 복수의 기계 학습 모델의 부분집합은 이미지 내에서 복수의 치과 병리의 존재를 예측하도록 집합적으로 구성된 앙상블(ensemble) 감지기를 포함하는,
   컴퓨터 시스템.
5. 제1항에 있어서,
   상기 복수의 기계 학습 모델의 제1 모델은 제2 모델과는 상이한 기계 학습 알고리즘을 사용하여 상기 복수의 기계 학습 모델의 상기 제2 모델과 동일한 병리를 감지하도록 훈련된,
   컴퓨터 시스템.
6. 제1항에 있어서,
   상기 동작은,
   제1 기계 학습 모델에 의해 상기 디지털 이미지 파일 내의 제1 위치에서 예측된 제1 병리를 상기 이미지 주석 데이터 내에 포함하는 것 이전에, 제2 기계 학습 모델이 상기 위치에서 또는 상기 위치 주변에서 상기 이미지 데이터의 부분(portion)을 상기 제1 병리와 연관된 제1 해부학적 구조로 묘사하는 것으로 분류함을 확인하는 것을 더 포함하는,
   컴퓨터 시스템.
7. 제6항에 있어서,
   상기 제1 병리는 충치(caries)이고,
   상기 제1 해부학적 구조는 치아(tooth)인,
   컴퓨터 시스템.
8. 제1항에 있어서,
   상기 복수의 기계 학습 모델의 제1 기계 학습 모델은 적어도 10개의 서로 다른 치과 병리 분류를 감지하도록 훈련된,
   컴퓨터 시스템.
9. 제1항에 있어서,
   상기 적어도 하나의 위치에서 감지된 상기 치과 병리, 수복물, 해부학적 구조 또는 기형은 충치, 뼈 손실(bone loss), 기존의 치과 수복물, 또는 치아 부식(tooth decay) 중 하나인,
   컴퓨터 시스템.
10. 컴퓨터-구현된 방법에 있어서,
    치과 방사선 사진을 포함하는 디지털 이미지 파일을 이미지 데이터로 획득하는 단계;
    상기 이미지 데이터에 관하여 복수의 전처리 동작 - 상기 복수의 전처리 동작은 (a) 전처리된 이미지 데이터를 생성하기 위해 상기 이미지 데이터를 수정하는 것 또는 (b) 상기 이미지 데이터와 연관된 메타데이터를 생성하는 것 중 적어도 하나를 포함함 - 을 수행하는 단계;
    상기 이미지 데이터와 연관된 입력 특징을 각각이 하나 이상의 치과 병리, 해부학적 구조, 수복물 또는 기형을 감지하도록 훈련된 적어도 복수의 기계 학습 모델로 제공 - 상기 복수의 기계 학습 모델의 개별적인 기계 학습 모델로 제공된 상기 입력 특징은 상기 전처리된 이미지 데이터 또는 상기 이미지 데이터와 연관된 상기 메타데이터 중 적어도 하나에 적어도 부분적으로 기초함 - 하는 단계;
    상기 복수의 기계 학습 모델 각각의 출력과 연관된 결과 - 개별적인 기계 학습 모델과 연관된 상기 결과는 상기 개별적인 기계 학습 모델의 출력 또는 상기 개별적인 기계 학습 모델에 결합된 후처리 모듈의 출력 중 적어도 하나를 포함함 - 를 획득하는 단계; 및
    상기 복수의 기계 학습 모델의 출력과 연관되어 획득된 상기 결과에 적어도 부분적으로 기초하여 이미지 주석 데이터 - 상기 이미지 주석 데이터는 상기 디지털 이미지 파일 내의 적어도 하나의 위치 및 상기 복수의 기계 학습 모델의 적어도 하나에 의해 상기 적어도 하나의 위치에서 감지된 연관된 치과 병리, 수복물, 해부학적 구조 또는 기형을 나타냄 - 를 생성하는 단계;를 포함하는,
    컴퓨터-구현된 방법.
11. 제10항에 있어서,
    상기 방법은 상기 이미지 주석 데이터를 상기 이미지 주석 데이터에 대한 요청을 보낸 컴퓨팅 시스템으로 전송하는 단계;를 더 포함하되,
    상기 이미지 주석 데이터는 상기 컴퓨팅 시스템 상에서 동작되는 애플리케이션이 하나 이상의 치과 병리의 존재를 사용자 인터페이스 내에 상기 치과 방사선 사진의 하나 이상의 영역 상에 오버레이되는 하나 이상의 시각적인 경계 형상(bounding shapes)을 디스플레이함으로써 시각적으로 나타내도록 유발하는,
    컴퓨터-구현된 방법.
12. 제10항에 있어서,
    이미지 주석 데이터는, 제1 병리에 대해, 병리명 레이블, 상기 제1 병리에 대해 결정된 제1 경계 형상과 연관된 적어도 한 쌍의 x 및 y 좌표, 및 상기 제1 경계 형상의 크기를 정의하는 치수(dimension) 정보를 포함하는,
    컴퓨터-구현된 방법.
13. 컴퓨터 시스템에 있어서,
    메모리; 및
    상기 메모리와 통신하고 동작을 수행하는 프로세서-실행가능한 명령어로 구성된 프로세서를 포함하고,
    상기 동작은,
    치과 방사선 사진을 포함하는 디지털 이미지 파일을 획득;
    애플리케이션 프로그래밍 인터페이스(API)를 통해, 상기 치과 방사선 사진과 연관된 주석 데이터에 대한 요청을 전송;
    상기 API를 통해 상기 방사선 사진과 연관된 상기 주석 데이터 - 상기 주석 데이터는 하나 이상의 컴퓨팅 장치에 의해 구현된 복수의 기계 학습 모델에 의해 상기 디지털 이미지 파일 내의 이미지 데이터의 객체 감지 및 분류에 기초하여 상기 API와 연관된 상기 하나 이상의 컴퓨팅 장치에 의해 자동적으로 생성되고, 상기 주석 데이터는 (a) 상기 이미지 데이터 내의 적어도 하나의 경계 영역 및 (b) 상기 복수의 기계 학습 모델의 하나 이상에 의해 감지된 적어도 하나의 치과 병리, 치과 해부학적 구조, 치과 수복물 또는 치과 기형을 식별하는 분류 레이블을 식별함 - 를 수신;
    상기 주석 데이터 내에 식별된 적어도 제1 경계 영역에 대해, (c) 상기 주석 데이터 내에 상기 제1 경계 영역에 할당된 제1 분류 레이블 또는 (d) 상기 제1 분류 레이블에 연관된 신뢰도 레벨 중 적어도 하나에 적어도 부분적으로 기초하여 경계 형상 디스플레이 파라미터를 결정;
    상기 주석 데이터 내에 상기 제1 경계 영역과 연관되어 저장된 데이터로부터 결정된 디스플레이 좌표에 디스플레이를 위해 제공(presentation)을 위한 시각적인 경계 형상 - 상기 시각적인 경계 형상은 상기 경계 형상 디스플레이 파라미터를 갖도록 생성됨 - 을 생성; 및
    상기 디지털 이미지 파일로부터 상기 이미지 데이터의 적어도 일부를 나타내는 사용자 인터페이스 - 상기 사용자 인터페이스는 상기 제1 분류 레이블에 의해 제공되는 적어도 하나의 제1 치과 병리, 치과 해부학적 구조, 치과 수복물 또는 치과 기형의 상기 존재 및 위치를 시각적으로 식별하기 위해 상기 이미지 데이터의 적어도 일부 위에 오버레이되도록 보이는 상기 시각적인 경계 형상의 디스플레이를 포함함 - 의 디스플레이를 유발;하는 것을 포함하는,
    컴퓨터 시스템.
14. 제13항에 있어서,
    상기 동작은,
    상기 제1 시각적인 경계 형상이 디스플레이되는 동안 제2 시각적인 경계 형상의 동시적인 디스플레이를 유발하는 것을 더 포함하고,
    상기 제2 시각적인 경계 형상은 상기 제1 시각적인 경계 형상의 상기 디스플레이 좌표와는 상이한 디스플레이 좌표에 위치하고, 상기 제2 시각적인 경계 형상은 상기 주석 데이터에서 식별된 제2 치과 병리, 치과 해부학적 구조학, 치과 수복물 또는 치과 기형을 시각적으로 식별하기 위해 상기 이미지 데이터의 제2 부분 위에 오버레이되도록 보이는,
    컴퓨터 시스템.
15. 제13항에 있어서,
    상기 동작은,
    상기 이미지 데이터의 적어도 일부 위에 상기 제1 분류 레이블에 의해 제공된 상기 제1 치과 병리, 치과 해부학적 구조, 치과 수복물 또는 치과 기형의 명칭을 나타내는 텍스트의 그래픽적인 렌더링(rendering)의 디스플레이를 유발하는 것을 더 포함하는,
    컴퓨터 시스템.
16. 제13항에 있어서,
    상기 동작은,
    추천되는 치료 계획의 상기 사용자 인터페이스 내의 디스플레이를 유발하는 것을 더 포함하고,
    상기 추천되는 치료 계획은 상기 제1 분류 레이블 및 상기 추천되는 치료 계획 사이의 저장된 연관관계로부터 결정되는,
    컴퓨터 시스템.
17. 제13항에 있어서,
    상기 사용자 인터페이스는 상기 이미지 데이터의 디스플레이와 연관되어 상기 사용자 인터페이스 내에 디스플레이되는 복수의 시각적인 경계 형상 중 어느 것을 사용자가 수정할 수 있도록 하는 하나 이상의 선택가능한 옵션을 포함하고, 상기 하나 이상의 선택가능한 옵션은,
    (a) 줌(zoom) 제어 - 상기 줌 제어의 사용자 선택은 상기 이미지 데이터 내의 상기 제1 치과 병리, 치과 해부학적 구조, 치과 수복물 또는 치과 기형의 상기 위치에 관한 상기 시각적인 경계 형상의 일관된 디스플레이 포지셔닝(positioning)을 유지한 채 상기 디지털 이미지 파일의 디스플레이되는 이미지 데이터의 배율(magnification)에 있어 변화를 유발함 - ,
    (b) 상기 사용자가 하나 이상의 특정 형태의 상태를 선택할 수 있도록 하는 제2 제어 - 상기 제2 제어의 선택은 상기 사용자 인터페이스가 상기 특정 형태의 상태에 대한 시각적인 경계 형상을 디스플레이하고 상기 특정 형태의 상태가 아닌 상태들에 대한 하나 이상의 시각적인 경계 형상의 디스플레이를 제거하는 업데이트가 되도록 유발함 - , 또는
    (c) 상기 사용자가 신뢰도 임계치를 설정할 수 있도록 하는 제3 제어 - 상기 사용자 인터페이스는 상기 주석 데이터 내의 상기 제1 경계 영역에 연관된 제1 신뢰도 레벨이 상기 제3 제어를 통해 설정된 상기 신뢰도 임계치를 만족시킨다는 결정에 적어도 부분적으로 기초한 상기 시각적인 경계 형상의 상기 디스플레이를 포함함 - , 중 적어도 하나를 포함하는,
    컴퓨터 시스템.
18. 컴퓨터-구현된 방법에 있어서,
    치과 방사선 사진을 포함하는 디지털 이미지 파일을 획득하는 단계;
    상기 치과 방사선 사진에 연관된 주석 데이터 - 상기 주석 데이터는 복수의 기계 학습 모델에 의해 수행된 상기 디지털 이미지 파일 내의 이미지 데이터의 분석에 기초하고, 상기 주석 데이터는 (a) 상기 이미지 데이터 내의 적어도 하나의 경계 영역 및 (b) 상기 복수의 기계 학습 모델에 의해 감지된 적어도 하나의 치과 병리를 식별하는 분류 레이블을 식별 - 를 획득하는 단계;
    상기 주석 데이터 내에서 식별된 적어도 제1 경계 영역에 대해, (a) 상기 주석 데이터 내에 상기 제1 경계 영역으로 할당된 제1 분류 레이블 또는 (b) 상기 제1 분류 레이블과 연관된 신뢰도 레벨 중 적어도 하나에 적어도 부분적으로 기초하여 경계 형상 디스플레이 파라미터를 결정하는 단계;
    상기 주석 데이터 내에 상기 제1 경계 영역과 연관되어 저장된 데이터로부터 결정된 디스플레이 좌표에 디스플레이를 위해 제공을 위한 시각적인 경계 형상 - 상기 시각적인 경계 형상은 상기 경계 형상 디스플레이 파라미터를 갖도록 생성됨 - 을 생성하는 단계; 및
    상기 디지털 이미지 파일로부터 상기 이미지 데이터의 적어도 일부를 제공하는 사용자 인터페이스 - 상기 사용자 인터페이스는 상기 제1 분류 레이블에 의해 제공되는 적어도 제1 치과 병리의 상기 존재 및 위치를 시각적으로 식별하기 위해 상기 이미지 데이터의 상기 적어도 일부 위에 오버레이되도록 보이는 상기 시각적인 경계 형상의 디스플레이를 포함함 - 의 디스플레이를 유발하는 단계;를 포함하는,
    컴퓨터-구현된 방법.
19. 제18항에 있어서,
    상기 주석 데이터는 상기 복수의 기계 학습 모델의 개별적인 모델이 상기 이미지 데이터를 처리할 때 실시간으로 애플리케이션 프로그래밍 인터페이스를 통해 수신되는,
    컴퓨터-구현된 방법.
20. 제18항에 있어서,
    상기 방법은,
    상기 사용자 인터페이스 내에 제2 시각적인 경계 형상의 디스플레이를 유발하는 단계;를 더 포함하고,
    상기 제2 시각적인 경계 형상은 상기 제1 시각적인 경계 형상의 상기 디스플레이 좌표와는 다른 디스플레이 좌표에 위치하고, 상기 제2 시각적인 경계 형상은 상기 주석 데이터에서 식별된 치과 해부학적 구조, 치과 수복물 또는 치과 기형 중 적어도 하나를 시각적으로 식별하기 위해 상기 이미지 데이터의 제2 부분 위에 오버레이되도록 보이는,
    컴퓨터-구현된 방법.
21. 제18항에 있어서,
    상기 사용자 인터페이스는 상기 이미지 데이터의 디스플레이와 연관되어 상기 사용자 인터페이스 내에 디스플레이되는 복수의 시각적인 경계 형상 중 어느 것을 사용자가 수정할 수 있도록 하는 하나 이상의 선택가능한 옵션을 포함하고,
    상기 하나 이상의 선택가능한 옵션은,
    (a) 상기 사용자가 하나 이상의 특정 병리를 선택할 수 있도록 하는 제어 - 상기 제어의 선택은 상기 사용자 인터페이스가 상기 특정 병리에 대한 시각적인 경계 형상을 디스플레이하고 상기 하나 이상의 특정 병리가 아닌 병리들에 대한 하나 이상의 시각적인 경계 형상을 제거하는 업데이트가 되도록 유발함 - , 및
    (b) 상기 사용자가 신뢰도 임계치를 설정할 수 있도록 하는 제2 제어 - 상기 사용자 인터페이스는 상기 주석 데이터 내에 상기 제1 경계 형상과 연관된 제1 신뢰도 레벨이 상기 제2 제어를 통해 설정된 상기 신뢰도 임계치를 만족시킨다는 결정에 적어도 부분적으로 기초한 상기 시각적인 경계 형상의 상기 디스플레이를 포함함 - , 중 적어도 하나를 포함하는,
    컴퓨터-구현된 방법.

Images