KR20130074771A - 의료 영상 저장 전송 시스템의 의료 영상 저장 장치, 방법, 사용자 인터랙티브 디스플레이 장치 및 방법 - Google Patents

의료 영상 저장 전송 시스템의 의료 영상 저장 장치, 방법, 사용자 인터랙티브 디스플레이 장치 및 방법 Download PDF

Info

Publication number
KR20130074771A
KR20130074771A KR1020130013156A KR20130013156A KR20130074771A KR 20130074771 A KR20130074771 A KR 20130074771A KR 1020130013156 A KR1020130013156 A KR 1020130013156A KR 20130013156 A KR20130013156 A KR 20130013156A KR 20130074771 A KR20130074771 A KR 20130074771A
Authority
KR
South Korea
Prior art keywords
medical image
slice set
storage unit
image slice
medical
Prior art date
Application number
KR1020130013156A
Other languages
English (en)
Inventor
박승철
Original Assignee
주식회사 인피니트헬스케어
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 인피니트헬스케어 filed Critical 주식회사 인피니트헬스케어
Priority to KR1020130013156A priority Critical patent/KR20130074771A/ko
Publication of KR20130074771A publication Critical patent/KR20130074771A/ko

Links

Images

Classifications

    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/20ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H80/00ICT specially adapted for facilitating communication between medical practitioners or patients, e.g. for collaborative diagnosis, therapy or health monitoring

Abstract

사용자 인터랙티브 의료 영상 저장 전송 시스템 및 이를 이용한 의료 영상 디스플레이 방법이 개시된다. 본 발명의 일 실시예에 따른 의료 영상 저장 전송 시스템은 2차원 디스플레이용 제1 의료 영상들을 저장하는 제1 의료 영상 저장부; 상기 제1 의료 영상들과 관련된 3차원 디스플레이용 제2 의료 영상들과 상기 제1 의료 영상들에 대한 2차원 의료 영상 좌표에 매칭되는 3차원 매칭 포인트를 저장하는 제2 의료 영상 저장부; 및 상기 제2 의료 영상들을 이용하여 상기 2차원 의료 영상 좌표에 매칭되는 상기 3차원 매칭 포인트를 계산하고, 상기 계산된 상기 3차원 매칭 포인트를 상기 제2 의료 영상 저장부로 제공하는 전처리부를 포함하며, 상기 제1 의료 영상들을 이용하여 2차원 의료 영상을 화면에 표시하고, 상기 화면에 표시된 상기 2차원 의료 영상에 대한 상기 2차원 의료 영상 좌표를 생성하여 상기 제2 의료 영상 저장부 또는 상기 전처리부로 전송하는 클라이언트 단말기를 더 포함함으로써, 사용자 인터랙티브(interactive)에 의하여 2차원(2D) 의료 영상과 3차원(3D) 의료 영상 간 연동을 구현하고, 2D 의료 영상과 3D 의료 영상 간의 연동을 통하여 2D 의료 영상과 매칭되는 3D 의료 영상의 디스플레이 속도를 향상시킬 수 있다.

Description

의료 영상 저장 전송 시스템의 의료 영상 저장 장치, 방법, 사용자 인터랙티브 디스플레이 장치 및 방법 {MEDICAL IMAGE STORING APPARATUS, METHOD, USER INTERACTIVE DISPLAY APPARATUS AND METHOD FOR PICTURE ARCHIVING COMMUNICATION SYSTEM}
본 발명은 의료 영상 저장 전송 시스템과 의료 영상 디스플레이에 관한 것으로, 보다 상세하게는 사용자 인터랙티브(interactive)하게 2차원(2D) 의료 영상과 3차원(3D) 의료 영상 간 연동을 구현하고, 2D 의료 영상과 3D 의료 영상 간의 연동을 통하여 2D 의료 영상과 매칭되는 3D 의료 영상의 디스플레이 속도를 향상시킬 수 있는 사용자 인터랙티브 의료 영상 저장 전송 시스템 및 이를 이용한 의료 영상 디스플레이 방법에 관한 것이다.
본 발명은 지식경제부 및 한국산업기술평가관리원의 지식경제 기술혁신사업 (산업원천기술개발사업)의 일환으로 수행한 연구로부터 도출된 것이다 [과제관리번호: 10038419, 과제명: 지능형 영상진단 및 치료지원 시스템].
다중 전산화 단층 촬영(Multi-Detector Computed Tomography; MD-CT) 등 인체의 단면을 촬영하는 장비들이 발전하면서 한 번 촬영 시 획득하는 영상의 수가 수 백장에 달하게 되면서, 촬영한 슬라이스(slice) 영상들을 한 장씩 살펴보며 2D로만 판독을 하는 것 자체가 힘들어졌고, 3D 재구성 영상을 보면서 진단하는 것이 일반적인 방법이 되었다.
의료 영상 저장 전송시스템(Picture Archiving Communication System; PACS)은 의료 영상 촬영 장비에 의해 촬영된 의료 영상들을 저장한다. 그리고, 전문의와 판독의 등의 사용자들이 워크리스트(worklist)를 이용하여 PACS에 저장된 의료 영상들을 확인하게 된다.
사용자에 따라 2D 의료 영상만을 조회할 수도 있고, 3D 의료 영상만을 조회할 수도 있으며, 필요에 따라 2D 의료 영상과 3D 의료 영상을 함께 필요로 하는 경우도 있다.
의료 영상 촬영 장비에 의하여 촬영된 영상의 수가 증가함에 따라, 2D 디스플레이용 의료 영상들(thick-slice)을 저장하는 제1 PACS, 3D 디스플레이용 의료 영상들(thin-slice)을 저장하는 제2 PACS를 별도로 구성하여 사용하고 있다.
종래 기술에 따르면, 사용자는 제1 PACS에서 2D 의료 영상을 조회하고, 제2 PACS에서 3D 영상을 직접 액세스하여 클라이언트 단말기에 디스플레이하였다.
종래 클라이언트 단말기에서 2D 의료 영상과 3D 의료 영상을 디스플레이하는 과정을 살펴보면, 사용자는 사용자의 워크리스트에서 2D 의료 영상을 제1 PACS에서 조회하여 제1 화면 상에 디스플레이하고, 제1 화면에 디스플레이된 2D 의료 영상과 관련된 3D 의료 영상을 디스플레이하기 위해서는 사용자가 직접 워크리스트에서 제2 PACS에 액세스하여 3D 프로그램을 구동시킴으로써, 제2 화면 상에 3D 의료 영상을 디스플레이하였다.
이와 같이, 종래 2D 의료 영상과 관련된 3D 의료 영상을 디스플레이하기 위해서 사용자가 워크리스트를 통해 제2 PACS에 직접 액세스하여 3D 프로그램을 구동시켜야 하고, 제1 화면 상에 표시된 2D 의료 영상과 관련된 3D 의료 영상을 만들기 위하여 사용자가 3D 의료 영상을 직접 편집하여야 하는 번거로움이 있다.
즉, 사용자가 직접 제2 PACS에 접속하여 3D 프로그램을 구동시켜야 하고, 3D 의료 영상을 직접 편집하여야 하기 때문에 사용자에게 불편함을 줄 수 있고, 2D 의료 영상과 매칭되는 3D 의료 영상을 생성하기까지 많은 시간이 소요될 수 있다.
따라서, 2D 의료 영상과 3D 의료 영상을 효율적으로 연동시켜 디스플레이할 수 있는 시스템 또는 방법의 필요성이 대두된다.
한국공개특허 제2005-0094536호 (공개일 2005.09.28.)
본 발명은 상기와 같은 종래 기술의 문제점을 해결하고자 도출된 것으로서, 사용자 인터랙티브하게 2D 디스플레이용 의료 영상들과 3D 디스플레이용 의료 영상들 간의 연동을 이용하여 화면에 디스플레이된 2D 의료 영상에 대한 3D 의료 영상의 디스플레이 속도를 향상시킬 수 있는 사용자 인터랙티브 의료 영상 저장 전송 시스템 및 이를 이용한 의료 영상 디스플레이 방법을 제공하는 것을 목적으로 한다.
구체적으로, 본 발명은 사용자에 의한 3D 의료 영상 요청 시 또는 사용자의 동작 예를 들어, 2D 의료 영상 변경 등에 따라 2D 의료 영상 좌표가 변경되는 경우 화면에 디스플레이된 2D 의료 영상 좌표를 3D 디스플레이용 의료 영상이 저장된 mini PACS 또는 전처리부(APS)로 전송하고, 전처리부에 의해 계산된 2D 의료 영상 좌표에 대한 3D 매칭 포인트와 thin-slice 즉, 3D 디스플레이용 의료 영상들을 이용하여 생성된 3D 의료 영상을 클라이언트 단말기로 전송함으로써, 클라이언트 단말기의 화면에 2D 의료 영상 좌표와 관련된 3D 의료 영상을 바로 디스플레이할 수 있다.
또한, 본 발명은 2D 의료 영상과 3D 의료 영상을 연동시켜 클라이언트 단말기 화면에 디스플레이시킴으로써, 2D와 3D 의료 영상의 연동이 가능한 뷰어를 제공할 수 있는 사용자 인터랙티브 의료 영상 저장 전송 시스템 및 이를 이용한 의료 영상 디스플레이 방법을 제공하는 것을 목적으로 한다.
상기와 같은 목적을 달성하기 위하여, 본 발명의 일 실시 예에 따른 의료 영상 저장 시스템은 제1 의료 영상 집합을 저장하는 제1 의료 영상 저장부; 및 상기 제1 의료 영상 집합과 동일한 원본 영상의 집합으로부터 생성되는 제2 의료 영상 집합의 일부 또는 전부를 수신하고, 상기 수신된 상기 제2 의료 영상 집합의 일부 또는 전부를 상기 제1 의료 영상 집합과 연관시켜 저장하는 제2 의료 영상 저장부를 포함하는 것을 특징으로 한다.
의료 영상 저장 시스템은 상기 제2 의료 영상 집합의 일부 또는 전부에 대한 3차원 모델을 생성하기 위하여 상기 제2 의료 영상 집합의 일부 또는 전부의 특성을 분석하는 전처리부를 더 포함할 수 있다. 전처리부는 상기 분석된 특성이 상기 제1 의료 영상 집합 및 상기 제2 의료 영상 집합과 연관되어 저장되도록 상기 제1 의료 영상 저장부 또는 상기 제2 의료 영상 저장부 중 적어도 하나 이상으로 전달할 수 있다.
의료 영상 저장 시스템은 상기 제1 의료 영상 집합 및 상기 제2 의료 영상 집합의 일부 또는 전부를 이용하여 2차원 의료 영상 좌표에 매칭되는 3차원 매칭 포인트를 계산하는 전처리부를 더 포함할 수 있다. 전처리부는 상기 계산된 3차원 매칭 포인트가 상기 제1 의료 영상 집합 및 상기 제2 의료 영상 집합과 연관되어 저장되도록 상기 제1 의료 영상 저장부 또는 상기 제2 의료 영상 저장부 중 적어도 하나 이상으로 전달할 수 있다.
의료 영상 저장 시스템은 상기 원본 영상의 집합을 수신하고, 상기 원본 영상의 집합으로부터 선택적으로 상기 제1 의료 영상 집합 및 상기 제2 의료 영상 집합을 생성하거나, 또는 상기 원본 영상의 집합으로부터 서로 다른 재구성 규칙을 적용하여 상기 제1 의료 영상 집합 및 상기 제2 의료 영상 집합을 재구성하는 전처리부를 더 포함할 수 있다.
의료 영상 저장 시스템은 상기 제1 의료 영상 집합 또는 제2 의료 영상 집합 중 적어도 하나 이상을 이용하여 컴퓨터 보조진단(computer-aided detection), 세그멘테이션(segmentation) 중 적어도 하나를 수행하고, 상기 컴퓨터 보조진단 결과와 상기 세그멘테이션 결과 중 적어도 하나를 상기 제1 의료 영상 저장부와 상기 제2 의료 영상 저장부 중 적어도 하나 이상에 제공하는 전처리부를 더 포함할 수 있다.
이 때 의료 영상 저장 시스템은 두 종류의 데이터를 함께 저장하고 관리하는 PACS 서버 시스템일 수도 있으며, 두 종류의 데이터를 함께 저장하고 디스플레이하는 클라이언트 단말기일 수도 있다. 의료 영상 저장 시스템이 PACS 서버 시스템인 경우, 전처리부는 APS(Auto-preprocessing server)일 수도 있고, 씬 클라이언트 개념(thin-client concept)의 컴퓨팅 장치일 수도 있다. 의료 영상 저장 시스템이 클라이언트 단말기인 경우, 전처리부는 클라이언트 단말기에 포함되는 전처리 모듈일 수도 있다. 전처리 모듈은 하드웨어의 형태로 구현된 실시예와 소프트웨어의 형태로 구현된 실시예 모두를 포함하는 개념이다.
본 발명의 다른 실시예에 따른 의료 영상 디스플레이 장치는 제1 의료 영상 집합 및 상기 제1 의료 영상 집합과 동일한 원본 영상의 집합으로부터 생성되는 제2 의료 영상 집합의 일부 또는 전부를 수신하는 수신부; 상기 수신된 상기 제1 의료 영상 집합의 일부 또는 전부에 대응하는 제1 의료 영상을 디스플레이하는 제1 디스플레이부; 및 상기 수신된 제2 의료 영상 집합의 일부 또는 전부에 대응하는 제2 의료 영상을 상기 디스플레이되는 상기 제1 의료 영상과 연관시켜 디스플레이하는 제2 디스플레이부를 포함하는 것을 특징으로 한다.
제2 디스플레이부는 상기 수신된 제2 의료 영상 집합의 일부 또는 전부에 기초하여 생성된 2차원 의료 영상 또는 3차원 의료 영상을 상기 제2 의료 영상으로서 디스플레이할 수 있다.
의료 영상 디스플레이 장치는 상기 디스플레이되는 상기 제1 의료 영상에 대하여 사용자 입력을 수신하는 인터페이스부; 및 상기 수신된 상기 사용자 입력에 따라 상기 제1 의료 영상에 대한 2차원 의료 영상 좌표를 추적하는 제어부를 더 포함할 수 있다. 이 때 제2 디스플레이부는 상기 제1 의료 영상에 대한 상기 2차원 의료 영상 좌표에 대응하는 3차원 매칭 포인트에 기초하여 상기 제2 의료 영상 집합 중 일부 또는 전부를 이용하여 생성된 3차원 영상을 상기 제2 의료 영상으로서 디스플레이할 수 있다.
제어부는 영상배치 프로토콜(hanging protocol)에 3차원 의료 영상 디스플레이 요청에 관한 정보가 포함되어 있는 경우 상기 추적된 상기 2차원 의료 영상 좌표에 대응하는 상기 3차원 매칭 포인트가 계산되도록 상기 2차원 의료 영상 좌표를 상기 제2 디스플레이부 또는 씬 클라이언트 서버 중 적어도 하나 이상으로 전달할 수 있다.
제어부는 상기 추적된 상기 2차원 의료 영상 좌표가 기 설정된 일정 횟수 이상 반복되면 상기 추적된 상기 2차원 의료 영상 좌표에 대응하는 상기 3차원 매칭 포인트가 계산되도록 상기 2차원 의료 영상 좌표를 상기 제2 디스플레이부 또는 씬 클라이언트 서버 중 적어도 하나 이상으로 전달할 수 있다.
본 발명의 다른 실시예에 따른 의료 영상 저장 방법은 제1 의료 영상 집합을 저장하는 단계; 상기 제1 의료 영상 집합과 동일한 원본 영상의 집합으로부터 생성되는 제2 의료 영상 집합의 일부 또는 전부를 수신하는 단계; 및 상기 수신된 상기 제2 의료 영상 집합의 일부 또는 전부를 상기 제1 의료 영상 집합과 연관시켜 저장하는 단계를 포함하는 것을 특징으로 한다.
의료 영상 저장 방법은 상기 제2 의료 영상 집합의 일부 또는 전부에 대한 3차원 모델을 생성하기 위하여 상기 제2 의료 영상 집합의 일부 또는 전부의 특성을 분석하는 단계; 및 상기 분석된 특성을 상기 제1 의료 영상 집합 및 상기 제2 의료 영상 집합과 연관시켜 저장하는 단계를 더 포함할 수 있다.
의료 영상 저장 방법은 상기 제1 의료 영상 집합 및 상기 제2 의료 영상 집합의 일부 또는 전부를 이용하여 2차원 의료 영상 좌표에 매칭되는 3차원 매칭 포인트를 계산하는 단계; 및 상기 계산된 3차원 매칭 포인트를 상기 제1 의료 영상 집합 및 상기 제2 의료 영상 집합과 연관시켜 저장하는 단계를 더 포함할 수 있다.
본 발명의 또 다른 실시예에 따른 의료 영상 디스플레이 방법은 제1 의료 영상 집합을 수신하는 단계; 상기 제1 의료 영상 집합과 동일한 원본 영상의 집합으로부터 생성되는 제2 의료 영상 집합의 일부 또는 전부를 수신하는 단계; 상기 수신된 상기 제1 의료 영상 집합의 일부 또는 전부에 대응하는 제1 의료 영상을 디스플레이하는 단계; 및 상기 수신된 제2 의료 영상 집합의 일부 또는 전부에 대응하는 제2 의료 영상을 상기 디스플레이되는 상기 제1 의료 영상과 연관시켜 디스플레이하는 단계를 포함하는 것을 특징으로 한다.
의료 영상 디스플레이 방법은 상기 디스플레이되는 상기 제1 의료 영상에 대하여 사용자 입력을 수신하는 단계; 상기 수신된 상기 사용자 입력에 따라 상기 제1 의료 영상에 대한 2차원 의료 영상 좌표를 추적하는 단계; 및 상기 제1 의료 영상에 대한 상기 2차원 의료 영상 좌표에 대응하는 3차원 매칭 포인트에 기초하여 상기 제2 의료 영상 집합 중 일부 또는 전부를 이용하여 생성된 3차원 영상을 상기 제2 의료 영상으로서 디스플레이할 수 있다.
본 발명에 따르면, 사용자 인터랙티브를 이용하여 2D 의료 영상과 3D 의료 영상의 디스플레이를 연동시킴으로써, 화면 상에 디스플레이된 2D 의료 영상 좌표에 대한 3D 의료 영상의 디스플레이 속도를 향상시킬 수 있고, 이를 통해 사용자가 3D 디스플레이용 PACS 예를 들어, mini PACS에 직접 액세스하여 3D 프로그램을 구동시킬 필요가 없기 때문에 사용자에게 편리함을 제공할 수 있다.
또한, 본 발명은 화면 상에 디스플레이된 2D 의료 영상 좌표를 3D 의료 영상을 요청할 때 3D용 PACS로 전송할 수도 있지만, 사용자 요청이 발생하기 전에 미리 전송하고 3D PACS에서 3D 의료 영상을 미리 생성한 후 사용자 요청 시 클라이언트 단말기로 바로 전송함으로써, 3D 의료 영상의 수신 및 디스플레이 속도를 크게 향상시킬 수 있으며, 모바일(mobile) 등과 같은 씬 클라이언트(thin-client) 환경에도 적용할 수 있는 이점이 있다.
구체적으로, 본 발명은 클라이언트 단말기에서 화면에 2D 의료 영상이 표시된 시점, 동일한 2D 의료 영상 좌표가 일정 횟수 이상 반복되는 경우, 사용자에 의해 3D 의료 영상이 요청되는 시점 등의 여러 가지 경우를 적절하게 적용함으로써, 2D와 3D 디스플레이 연동이 가능할 뿐만 아니라 씬 클라이언트 환경에도 적용할 수 있도록 3D용 PACS에서 3D 의료 영상을 미리 생성하여 모바일 단말기로 전송할 수도 있다.
또한 종래 기술에서는 2D 의료 영상과 3D 의료 영상을 연동시키는 과정에서 3D 의료 영상을 렌더링 과정을 통하여 생성하는 데에는 많은 시간과 리소스가 소요되었는데, 본 발명에서는 보다 효율적으로 2D 의료 영상과 3D 의료 영상을 연동시키고, 3D 의료 영상을 제공하기까지 사용자가 체감하는 지연 시간을 큰 폭으로 단축할 수 있다.
도 1은 본 발명의 일 실시예에 따른 의료 영상 저장 전송 시스템의 구성을 나타낸 것이다.
도 2는 본 발명의 다른 일 실시예에 따른 의료 영상 저장 전송 시스템의 구성을 나타낸 것이다.
도 3은 본 발명의 또 다른 일 실시예에 따른 의료 영상 저장 전송 시스템의 구성을 나타낸 것이다.
도 4는 도 1에 도시된 클라이언트 단말기에 대한 일 실시예 구성을 나타낸 것이다.
도 5는 클라이언트 단말기에서 2차원 의료 영상과 3차원 의료 영상을 디스플레이하는 일 예시도를 나타낸 것이다.
도 6은 클라이언트 단말기에서 2차원 의료 영상과 3차원 의료 영상을 디스플레이하는 다른 일 예시도를 나타낸 것이다.
도 7은 본 발명의 일 실시예에 따른 의료 영상 디스플레이 방법에 대한 동작 흐름도를 나타낸 것이다.
도 8은 도 7에 도시된 단계 S720에 대한 일 실시예 동작 흐름도를 나타낸 것이다.
도 9는 도 8에 도시된 단계 S820에 대한 일 실시예 동작 흐름도를 나타낸 것이다.
도 10은 도 8에 도시된 단계 S820에 대한 다른 일 실시예 동작 흐름도를 나타낸 것이다.
도 11은 도 7에 도시된 단계 S740에 대한 일 실시예 동작 흐름도를 나타낸 것이다.
도 12는 본 발명의 일 실시예에 따른 의료 영상 저장 전송 시스템의 구성을 나타낸 것이다.
도 13은 본 발명의 다른 실시예에 따른 의료 영상 저장 전송 시스템의 구성을 나타낸 것이다.
상기 목적 외에 본 발명의 다른 목적 및 특징들은 첨부 도면을 참조한 실시 예에 대한 설명을 통하여 명백히 드러나게 될 것이다.
본 발명의 바람직한 실시예를 첨부된 도면들을 참조하여 상세히 설명한다. 본 발명을 설명함에 있어, 관련된 공지 구성 또는 기능에 대한 구체적인 설명이 본 발명의 요지를 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명은 생략한다.
그러나, 본 발명이 실시예들에 의해 제한되거나 한정되는 것은 아니다. 각 도면에 제시된 동일한 참조 부호는 동일한 부재를 나타낸다.
이하에서는, 본 발명의 일 실시 예에 따른 의료 영상 저장 전송 시스템 및 이를 이용한 사용자 인터랙티브 의료 영상 디스플레이 방법을 첨부된 도 1 내지 도 13을 참조하여 상세히 설명한다.
도 12는 본 발명의 일 실시예에 따른 의료 영상 저장 전송 시스템의 구성을 나타낸 것이다.
도 12를 참조하면 의료 영상 저장 전송 시스템은 제1 서버(1210), 제2 서버(1220) 및 클라이언트 단말기(1230)를 포함한다.
제1 서버(1210)는 thick-slice 영상을 저장한다. Thick-slice 영상을 직접 저장하는 storage와 관련 정보가 저장되는 database가 제1 서버(1210)의 구성에 포함된다.
제2 서버(1220)는 thin-slice 영상을 저장한다. Thin-slice 영상을 직접 저장하는 storage와 관련 정보가 저장되는 database가 제2 서버(1220)의 구성에 포함된다.
Thin-slice와 thick-slice는 모달리티(modality)에 의하여 얻어진 동일한 원본 영상 (raw image data)으로부터 생성된 2가지 종류의 영상 데이터의 집합이다. Thin-slice와 thick-slice는 동일한 원본 영상으로부터 서로 다른 기준에 의하여 선택되거나, 서로 다른 재구성 규칙(reconstruction rule)에 의하여 재구성될 수 있다. Thin-slice와 thick-slice는 동일한 원본 영상에 대한 서로 다른 버전(version)의 의료 영상 집합이라고 볼 수도 있다.
Thick-slice 는 일반적으로 3~5 mm 정도의 간격으로 재구성된 의료 영상 슬라이스의 집합이며, thin-slice는 일반적으로 0.3 ~ 1 mm 정도의 간격으로 재구성된 의료 영상 슬라이스의 집합이다. Thick-slice는 저장 및 보관이 간편하고, thin-slice는 상세한 판독용 데이터를 얻을 수 있다. 본 발명에서는 보다 상세한 데이터를 포함하는 thin-slice 를 기초로 3차원 의료 영상 모델을 생성하는 경우를 설명하고 있으나, 본 발명의 내용은 이러한 실시예 및 thin-slice / thick-slice 의 간격 등 수치에 의하여 한정되지 않는다.
클라이언트 단말기(1230)에서 구동되는 PACS 솔루션 소프트웨어는 thick-slice 영상을 제1 서버(1210)로부터 수신하고, thin-slice 영상을 제2 서버(1220)로부터 수신하여 저장한다. 이 때 클라이언트 단말기(1230) 내에서 저장되는 thin-slice 데이터와 thick-slice 데이터는 상호 연관되어 저장될 수 있다. thin-slice 데이터와 thick-slice 데이터는 각각의 영상 슬라이스가 나타내는 좌표를 기준으로 상호 연관되어 저장될 수 있다.
또한 제1 서버(1210)에 저장되는 thick-slice 데이터와 제2 서버(1220)에서 저장되는 thin-slice 데이터 또한 상호 연관되어 저장될 수 있다.
도 12에서 제1 서버(1210)와 제2 서버(1220)가 분리되어 각각 thick-slice와 thin-slice를 저장 및 관리하는 실시예가 도시되었고, 도 13에서는 하나의 서버(1310)에서 thick-slice와 thin-slice를 저장 및 관리하는 실시예가 도시된다. 도 13을 참조하면 클라이언트 단말기(1320)는 서버(1310)로부터 thick-slice와 thin-slice를 수신하여 저장한다.
도 12와 도 13에서 공통적으로, 클라이언트 단말기(1230, 1320)는 thick-slice와 thin-slice를 상호 연동하여 함께 디스플레이할 수 있다. 클라이언트 단말기(1230, 1320)는 하나 또는 복수의 디스플레이 장치에 연결될 수도 있는데, 이 때 thin-slice와 thick-slice는 클라이언트 단말기(1230, 1320)가 연결된 하나 또는 복수의 디스플레이 장치에 배분되어 디스플레이될 수 있다.
도 12와 도 13에서 설명된 바와 같이, thick-slice 데이터와 thin-slice 데이터는 서로 다른 두 개의 서버(1210, 1220) 각각에 저장될 수도 있고, 하나의 서버(1310) 내의 스토리지에 저장될 수도 있다. 또한 하나의 클라이언트 단말기(1230, 1320) 내의 스토리지에 저장될 수도 있다. 이 때 thin-slice 데이터와 thick-slice 데이터 각각이 저장되는 공간은 논리적으로 구분될 수도 있으나, 물리적으로 구분될 수도 있다.
클라이언트 단말기(1230, 1320)가 thick-slice 데이터를 수신하는 과정에는 큰 어려움은 없으나, thin-slice 데이터의 크기가 크므로 thin-slice 데이터를 수신하는 과정은 네트워크의 부하를 증가시킬 수 있다. 따라서 thin-slice는 일부분을 먼저 수신하고, 사용자 인터랙션 또는 네트워크 환경에 따라서 전체를 순차적으로 수신할 수도 있다. 서버(1210, 1220, 1310)가 모달리티(도시되지 않음)로부터 thick-slice 데이터와 thin-slice 데이터를 수신하는 경우에도 유사하게 사용자 인터랙션 또는 네트워크 환경에 따라서 thin-slice 데이터의 일부가 먼저 수신되고, 나머지 전체는 순차적으로 수신될 수도 있다.
도 1은 본 발명의 일 실시예에 따른 의료 영상 저장 전송 시스템의 구성을 나타낸 것이다.
도 1을 참조하면 의료 영상 저장 전송 시스템은 제1 의료 영상 저장부(120), 전처리부(130), 제2 의료 영상 저장부(140) 및 클라이언트 단말기(150)를 포함한다.
제1 의료 영상 저장부(main PACS)(120)는 2D 디스플레이용 의료 영상들(thick-slice)을 저장하는 PACS로서, 의료 영상 촬영 기기(110) 예를 들어, 전산화 단층촬영(CT) 장치, 자기 공명 촬영(MRI) 장치로부터 thick-slice를 수신하여 이를 저장한다.
이 때, 제1 의료 영상 저장부(120)는 전처리부(APS)(130)의 전처리에 의해 생성된 컴퓨터 보조진단(computer-aided detection; CAD) 결과, 세그멘테이션(segmentation) 결과 중 적어도 하나를 전처리부(130)로부터 수신하여 저장할 수 있다.
제2 의료 영상 저장부(mini PACS)(140)는 3D 디스플레이용 의료 영상들(thin-slice)을 저장하는 PACS로서, CT 장치, MRI 장치 등으로부터 thin-slice를 수신하여 이를 저장한다.
제2 의료 영상 저장부(140)는 전처리부(130)에서 계산된 2D 의료 영상 좌표에 대한 3D 매칭 포인트(matching point)를 수신하여 저장할 수 있는데, thick-slice 또는 thin-slice에 포함된 모든 2D 의료 영상 좌표에 대한 3D 매칭 포인트를 전처리부(130)로부터 미리 수신하여 저장할 수도 있으며, 클라이언트 단말기(150)로부터 2D 의료 영상 좌표가 수신될 때 3D 매칭 포인트의 계산을 전처리부(130)로 요청하여 수신된 2D 의료 영상 좌표에 대한 3D 매칭 포인트를 전처리부(130)로부터 수신할 수도 있다.
나아가, 제2 의료 영상 저장부(140)는 저장된 thin-slice와 클라이언트 단말기(150)로부터 수신된 2D 의료 영상 좌표에 대한 3D 매칭 포인트를 이용하여 수신된 2D 의료 영상 좌표에 해당하는 3D 의료 영상을 생성할 수 있다.
물론, 생성된 3D 의료 영상은 클라이언트 단말기(150) 사용자의 요청이 수신되었을 때 클라이언트 단말기(150)로 제공할 수 있다.
또한, 제2 의료 영상 저장부(140)는 전처리부(130)에서 thin-slice를 이용한 전처리에 의해 생성된 CAD 결과, 세그멘테이션 결과 중 적어도 하나를 전처리부(130)로부터 수신하여 저장할 수 있다.
이런 제2 의료 영상 저장부(140)는 클라이언트 단말기(150)로부터 2D 의료 영상 좌표가 수신되는 시점에, 해당 3D 매칭 포인트와 thin-slice를 이용하여 3D 의료 영상의 전부 또는 일부를 미리 생성한 후 3D 의료 영상을 요청하는 정보가 수신되는 시점에 미리 생성된 3D 의료 영상을 클라이언트 단말기(150)로 전송할 수도 있으며, 3D 의료 영상을 요청하는 정보(2D 의료 영상 좌표 포함)가 수신되는 시점에 3D 매칭 포인트와 thin-slice를 이용하여 3D 의료 영상을 생성한 후 이를 클라이언트 단말기(150)로 전송할 수도 있다.
전처리부(130)는 제2 의료 영상 저장부(140) 또는 클라이언트 단말기(150)로부터 2D 의료 영상 좌표가 수신되면 수신된 2D 의료 영상 좌표에 대한 3D 매칭 포인트를 계산하고 계산된 3D 매칭 포인트를 제2 의료 영상 저장부(140)로 제공한다.
이 때, 전처리부(130)는 제2 의료 영상 저장부(140)에 저장된 thin-slice를 이용하여 2D 의료 영상 좌표에 대한 3D 매칭 포인트를 계산할 수 있다.
또한, 전처리부(130)는 제2 의료 영상 저장부(140)에 저장된 thin-slice를 이용하여 CAD 결과, 세그멘테이션 결과를 생성하고, 생성된 결과를 제1 의료 영상 저장부(120)와 제2 의료 영상 저장부(140) 중 적어도 하나 이상에 이를 제공한다.
물론, 클라이언트 단말기(150)의 2D 의료 영상 좌표를 전처리부(130)에서 직접 수신하는 경우 전처리부(130)는 2D 의료 영상 좌표와 3D 매칭 포인트를 제2 의료 영상 저장부(140)로 제공할 수 있다.
추가적으로, 전처리부(130)는 2D 의료 영상 좌표에 대한 수신 여부와 상관없이 미리 제2 의료 영상 저장부(140)에 저장된 thin-slice를 이용하여 thin-slice의 2D 의료 영상 좌표에 대한 3D 매칭 포인트를 모두 계산한 후 이를 제2 의료 영상 저장부(140)로 제공할 수도 있다.
전처리부(130)는 APS를 의미할 수도 있고, thin-client 개념의 컴퓨팅 장치일 수도 있다. 전처리부(130)는 thin-slice를 이용하여 3차원 모델을 생성하기 위하여 thin-slice 영상 집합의 특성을 분석하는 전처리 과정을 수행할 수 있는데, 전처리 과정은 thin-slice 영상 집합 내의 각 슬라이스에 대한 영상 필터링, 세그멘테이션, 각 슬라이스 내의 인체 장기(human organ)에 대한 정보 추출 과정, 또는 CAD 과정 중 적어도 하나 이상을 포함할 수 있다.
또한 전처리 과정은 thin-slice 영상 집합 내의 일부 또는 전부에 대해서 수행될 수도 있으며, 전처리 과정의 결과는 thin-slice 및 thick-slice 영상 집합과 연관되어 저장될 수 있도록 제1 의료 영상 저장부(120) 및 제2 의료 영상 저장부(140) 중 적어도 하나 이상으로 전송될 수 있다.
클라이언트 단말기(150)는 워크리스트를 이용한 사용자의 동작에 의하여 제1 의료 영상 저장부(120)로부터 2D 의료 영상을 수신하여 화면에 디스플레이하고, 화면에 디스플레이된 2D 의료 영상 좌표를 생성하여 전처리부(130) 또는 제2 의료 영상 저장부(140)로 전송한다.
이 때, 클라이언트 단말기(150)는 2D 의료 영상이 디스플레이되는 시점, 동일 2D 의료 영상 좌표가 일정 횟수 이상 반복되는 시점, 사용자의 3D 의료 영상 요청 시점 중 어느 하나의 시점에 화면에 디스플레이된 2D 의료 영상 좌표를 생성하여 전처리부(130) 또는 제2 의료 영상 저장부(140)로 전송할 수 있다.
클라이언트 단말기(150)는 2D 의료 영상이 디스플레이된 제1 디스플레이 영역 또는 외부 영역에 3D 의료 영상을 요청하기 위한 사용자 인터페이스(UI)가 구비될 수 있으며, 해당 UI의 선택에 의하여 제2 의료 영상 저장부(140)로부터 제1 디스플레이 영역의 2D 의료 영상과 매칭되는 3D 의료 영상이 수신되면 3D 의료 영상을 제2 디스플레이 영역에 디스플레이한다.
클라이언트 단말기(150)에 대해서는 도 4에서 상세히 설명한다.
도 2는 본 발명의 다른 일 실시예에 따른 의료 영상 저장 전송 시스템의 구성을 나타낸 것으로, thin-slice를 이용한 전처리를 통해 thick-slice를 생성하는 구성을 가진 시스템을 나타낸 것이다.
도 2를 참조하면 의료 영상 저장 전송 시스템은 제1 의료 영상 저장부(220), 전처리부(230), 제2 의료 영상 저장부(240) 및 클라이언트 단말기(150)를 포함하며, 제2 의료 영상 저장부(240) 및 클라이언트 단말기(150)는 도 1에 도시된 제2 의료 영상 저장부(140) 및 클라이언트 단말기(150)와 동일하기에 그 설명은 생략한다.
제1 의료 영상 저장부(220)는 전처리부(230)로부터 제공되는 2D 디스플레이용 의료 영상들 즉, thick-slice를 수신하여 저장하고, 사용자의 요청에 따라 2D 의료 영상을 클라이언트 단말기(150)로 제공한다.
전처리부(230)는 의료 영상 촬영 기기(210)로부터 수신되어 제2 의료 영상 저장부(240)에 저장된 thin-slice를 이용하여 전처리를 과정을 수행하고, 전처리 과정을 통해 제1 의료 영상 저장부(220)에 저장될 thick-slice를 생성하며, 생성된 thick-slice를 제1 의료 영상 저장부(220)로 제공한다.
물론, 전처리부(230)는 도 1에서 설명한 바와 같이, 2D 의료 영상 좌표에 대한 3D 매칭 포인트의 계산을 수행하여 제2 의료 영상 저장부(240)로 제공할 수 있고, thin-slice를 이용한 전처리에 의해 생성된 CAD 결과, 세그멘테이션 결과 등을 제1 의료 영상 저장부(220)와 제2 의료 영상 저장부(240) 중 적어도 하나 이상에 제공할 수 있다.
도 3은 본 발명의 또 다른 일 실시예에 따른 의료 영상 저장 전송 시스템의 구성을 나타낸 것이다.
도 3에 도시된 바와 같이, 제1 의료 영상 저장부(320)는 의료 영상 촬영 기기(310)로부터 전송되는 thin-slice를 수신하여 전처리부(330)로 제공하고, 전처리부(330)에서 thin-slice를 이용한 전처리 과정에 의하여 획득된 thick-slice를 전처리부(330)로부터 수신하여 저장한다.
전처리부(330)는 제1 의료 영상 저장부(320)로부터 thin-slice를 수신하여 제2 의료 영상 저장부(340)로 제공하고, thin-slice를 이용한 전처리 과정을 통하여 thick-slice를 획득한 후 이를 제1 의료 영상 저장부(320)로 제공한다.
이 때 전처리부(330)는 APS일 수도 있고, thin-client 개념의 컴퓨팅 장치일 수도 있으며, 전처리 과정은 소프트웨어 또는 하드웨어 모듈에 의하여 수행될 수도 있다. 전처리 과정은 모달리티로부터 수신된 원본 영상의 집합으로부터 선택적으로 상기 제1 의료 영상 집합 및 상기 제2 의료 영상 집합을 생성할 수도 있다. 또는 전처리 과정은 상기 원본 영상의 집합으로부터 서로 다른 재구성 규칙을 적용하여 상기 제1 의료 영상 집합 및 상기 제2 의료 영상 집합을 재구성할 수도 있다.
제2 의료 영상 저장부(340)는 전처리부(330)로부터 전달되는 thin-slice를 저장하는데, 이 때 수신되는 thin-slice는 의료 영상 촬영 기기(310)로부터 전송되는 데이터와 동일한 데이터일 수도 있지만, 전처리부(330)에서 소정의 전처리 과정을 통해 새로 만들어진 데이터일 수도 있다.
물론, 클라이언트 단말기(150) 구성은 도 1, 도 2의 클라이언트 단말기(150)와 동일하며, 제1 의료 영상 저장부(320), 전처리부(330) 및 제2 의료 영상 저장부(340)의 다른 기능 또한 도 1과 도 2에서 기재한 기능을 포함할 수 있다.
상기 도 1 내지 도 3에서, 제1 의료 영상 저장부와 제2 의료 영상 저장부를 별도의 PACS로 구성하여 설명하였지만, 이에 한정하지 않고 본 발명은 하나의 PACS에 2D 모듈과 3D 모듈을 함께 구성하여 각 모듈과 연결되는 각각의 스토리지를 구성할 수도 있으며, 이 뿐만 아니라 이와 유사한 다양한 시스템 구성을 모두 포함할 수 있다.
도 4는 도 1에 도시된 클라이언트 단말기에 대한 일 실시예 구성을 나타낸 것이다.
도 4를 참조하면, 클라이언트 단말기(150)는 제1 디스플레이부(410), 인터페이스부(420), 제어부(430) 및 제2 디스플레이부(440)를 포함한다.
제1 디스플레이부(410)는 클라이언트 단말기의 제1 디스플레이 영역에 2D 디스플레이용 의료 영상을 디스플레이한다.
인터페이스부(420)는 제1 디스플레이부(410)에 의해 디스플레이된 2D 의료 영상에 대하여 사용자 입력을 수신한다.
여기서, 사용자 입력은 마우스 동작, 3D 의료 영상 요청 등과 같이 본 발명에 대한 모든 사용자 입력을 포함할 수 있다.
제어부(430)는 인터페이스부(420)를 통한 사용자 입력에 따라 2D 의료 영상에 대한 2D 의료 영상 좌표를 생성하고, 생성된 2D 의료 영상 좌표를 제2 의료 영상 저장부 또는 전처리부로 전송한다. 제어부(430)는 인터페이스부(420)에 대한 사용자 입력을 계속적으로 추적하여 2D 의료 영상 좌표를 추적할 수도 있다.
이 때, 제어부(430)는 사용자의 3D 의료 영상 요청 시 생성된 2D 의료 영상 좌표를 전송할 수 있다.
이 때, 제어부(430)는 클라이언트 단말기의 영상배치 프로토콜(hanging protocol)에 3D 의료 영상에 대한 정보가 포함되어 있는 경우 즉, 사용자가 3D 의료 영상을 필요로 하는 사용자인 경우 생성된 2D 의료 영상 좌표를 전송할 수 있다. 이 때 3D 의료 영상에 대한 정보는 3차원 의료 영상의 디스플레이에 관한 요청을 포함할 수 있다.
이 때, 제어부는 제1 디스플레이 영역에 구비된 3D 의료 영상 요청 기능이 선택되는 경우 2D 의료 영상 좌표를 전송할 수도 있고, 사용자의 2D 의료 영상 변경이 자주 발생하는 경우 동일한 2D 의료 영상 좌표가 일정 횟수 반복되면, 즉 제1 2D 의료 영상을 자주 보게 되면 제1 2D 의료 영상에 대한 3D 의료 영상을 요청할 가능성이 높기 때문에 제1 2D 의료 영상 좌표를 전송할 수도 있다.
제어부(430)에서 의해 2D 의료 영상 좌표가 제2 의료 영상 저장부 또는 전처리부로 전송된 후 사용자에 의해 3D 의료 영상이 요청되면, 제2 의료 영상 저장부에서 전처리부에 의해 계산된 2D 의료 영상 좌표에 대한 3D 매칭 포인트를 이용하여 제1 디스플레이부(410)에 표시된 2D 의료 영상과 매칭되는 3D 의료 영상을 생성한 후 이를 클라이언트 단말기로 전송한다.
제2 디스플레이부(440)는 제2 의료 영상 저장부에서 제공되는 3D 의료 영상 즉, 제1 디스플레이 영역에 디스플레이된 2D 의료 영상과 매칭되는 3D 의료 영상을 제2 디스플레이 영역에 디스플레이한다. 물론, 제2 디스플레이부(440)는 사용자의 3D 의료 영상 요청이 발생할 때 제2 의료 영상 저장부로부터 3D 의료 영상을 수신하여 제2 디스플레이 영역에 디스플레이한다.
본 발명의 클라이언트 단말기는 2D 의료 영상을 제1 디스플레이 영역에 디스플레이하고, 2D 의료 영상과 매칭되는 3D 의료 영상을 제2 디스플레이 영역에 디스플레이하는데, 도 5에 도시된 바와 같이, 3D 의료 영상을 요청하는 UI(530)을 포함하는 제1 디스플레이 영역(510)과 제2 디스플레이 영역(520)을 하나의 모니터에 디스플레이할 수도 있으며, 도 6에 도시된 바와 같이, 3D 의료 영상을 요청하는 UI(630)을 포함하는 2D 의료 영상은 제1 모니터의 제1 디스플레이 영역(610)에 디스플레이하고, 2D 의료 영상과 매칭되는 3D 의료 영상은 제2 모니터의 제2 디스플레이 영역(620)에 디스플레이할 수도 있다. 즉, 본 발명에서 2D와 3D 의료 영상을 디스플레이하는 방법은 하나의 디스플레이 장치에서 제공하는 디스플레이 영역을 분할하여 디스플레이할 수도 있고, 서로 다른 디스플레이 장치에 2D 의료 영상과 3D 의료 영상 각각을 디스플레이할 수도 있다.
이와 같이, 본 발명에 따른 의료 영상 저장 전송 시스템은 2D 의료 영상과 3D 의료 영상을 연동시킴으로써, 사용자 인터랙티브에 의하여 2D 의료 영상 좌표와 매칭되는 3D 의료 영상을 생성하고, 이를 클라이언트 단말기로 자동 제공하여 2D 의료 영상과 매칭되는 3D 의료 영상을 빠르게 디스플레이할 수 있으며, 이를 통해 사용자가 3D용 PACS에 직접 액세스하여 3D 프로그램을 구동시켜야 하는 불편함을 제거할 수 있다.
또한, 본 발명은 사용자로부터 3D 의료 영상 요청이 있기 전에 3D 의료 영상의 일부 또는 전부를 미리 생성한 후 사용자 요청에 따라 이를 클라이언트 단말기 예를 들어, 모바일 단말기로 제공할 수 있기 때문에 3D 의료 영상 디스플레이 속도를 더욱 향상시킬 수 있고, 따라서 씬 클라이언트 환경에도 적용할 수도 있다.
도 7은 본 발명의 일 실시예에 따른 의료 영상 디스플레이 방법에 대한 동작 흐름도를 나타낸 것으로, 도 1에 도시된 클라이언트 단말기에서의 디스플레이 방법을 나타낸 것이다.
도 7을 참조하면, 의료 영상 디스플레이 방법은 사용자가 워크리스트를 이용하여 클라이언트 단말기의 제1 디스플레이 영역에 2D 의료 영상을 디스플레이한다(S710).
여기서, 2D 의료 영상은 제1 의료 영상 저장부로부터 수신하여 제1 디스플레이 영역에 디스플레이되며, 제1 디스플레이 영역에는 화면에 디스플레이된 2D 의료 영상과 매칭되는 3D 의료 영상을 요청하기 위한 UI가 구비될 수 있다.
제1 디스플레이 영역에 2D 의료 영상이 디스플레이되면 디스플레이된 2D 의료 영상 좌표를 생성하고, 생성된 2D 의료 영상 좌표를 제2 의료 영상 저장부 또는 전처리부로 전송한다(S720).
여기서, 전송된 2D 의료 영상 좌표는 디스플레이된 2D 의료 영상과 매칭되는 3D 의료 영상을 생성하기 위한 정보로서, 전처리부에서 3D 매칭 포인트를 계산하는데 사용되고, 계산된 3D 매칭 포인트는 제2 의료 영상 저장부에 저장된 3D 디스플레이용 의료 영상들 즉, thin-slice를 이용하여 2D 의료 영상 좌표에 해당하는 3D 의료 영상을 생성하는데 사용되며, 이렇게 생성된 3D 의료 영상은 클라이언트 단말기로 제공된다.
클라이언트 단말기는 사용자의 3D 의료 영상 요청에 의하여 2D 의료 영상 좌표와 매칭되는 3D 의료 영상 즉, 3D 매칭 포인트에 의하여 생성된 3D 의료 영상을 제2 의료 영상 저장부로부터 수신한다(S730).
클라이언트 단말기는 수신된 3D 의료 영상을 도 4에 도시된 바와 같이, 하나의 디스플레이 장치에서 분할된 제2 디스플레이 영역 또는 제2 디스플레이 영역으로 지정된 디스플레이 장치에 디스플레이한다(S740).
상기 단계 중 2D 의료 영상 좌표를 생성/전송하는 단계(S720)에서 2D 의료 영상 좌표는 다양한 방법으로 생성/전송될 수 있는데, 이에 대하여 도 8 내지 도 10을 참조하여 설명한다.
도 8은 도 7에 도시된 단계 S720에 대한 일 실시예 동작 흐름도를 나타낸 것으로, 제1 디스플레이 영역에 2D 의료 영상이 디스플레이될 때 사용자의 요청과 관계없이 클라이언트 단말기에서 2D 의료 영상 좌표를 전송하는 과정에 대한 것이다.
도 8을 참조하면, 2D 의료 영상 좌표를 생성/전송하는 단계(S720)는 2D 의료 영상이 제1 디스플레이 영역에 디스플레이되면, 디스플레이된 2D 의료 영상 좌표를 생성하고, 생성된 2D 의료 영상 좌표를 전처리부 또는 제2 의료 영상 저장부로 전송한다(S810, S820).
2D 의료 영상 좌표가 전송된 후 제1 디스플레이 영역에 디스플레이되는 2D 의료 영상이 변경되는지 판단하고, 즉 사용자가 다른 2D 의료 영상을 선택하였는지 판단하고, 2D 의료 영상이 변경된 경우에는 다시 S810 단계로 피드백(feedback)한다(S830).
반면, 단계 S830 판단 결과, 2D 의료 영상이 변경되지 않은 경우에는 사용자로부터 3D 의료 영상 요청이 있었는지 판단하고, 3D 의료 영상 요청이 있는 경우에는 단계 S730 과정을 수행하며 그렇지 않은 경우에는 단계 S830 과정을 다시 수행한다(S840).
도 8에서 제1 디스플레이 영역에 디스플레이되는 모든 2D 의료 영상 좌표를 전처리부 또는 제2 의료 영상 저장부로 전송하는 것으로 설명하였지만, 이와 같은 경우 제2 의료 영상 저장부와 클라이언트 단말기에서의 부하가 커질 수 있고, 클라이언트 단말기 사용자에 따라 3D 의료 영상을 디스플레이하지 않는 경우도 있기 때문에 2D 의료 영상 좌표를 특정 기준에 맞춰 전송할 수 있다. 이에 대해 도 9과 도 10의 두 실시예를 들어 설명한다.
도 9는 도 8에 도시된 단계 S820에 대한 일 실시예 동작 흐름도를 나타낸 것이다.
도 9를 참조하면, 생성된 2D 의료 영상 좌표를 전송하는 단계(S820)는 사용자의 클라이언트 단말기에서 실행되는 영상배치 프로토콜(hanging protocol)에 3D 정보가 포함되어 있는지 검출하고, 이를 통해 3D 정보가 포함된 영상배치 프로토콜인지 판단한다(S910, S920).
즉, 클라이언트 단말기 사용자가 3D 영상 정보를 디스플레이할 수 있는 영상배치 프로토콜 사용자인지 판단한다.
단계 S920 판단 결과, 영상배치 프로토콜에 3D 정보가 포함되어 있는 것으로 판단되면 생성된 2D 의료 영상 좌표를 전처리부 또는 제2 의료 영상 저장부로 전송한다(S930).
이와 같이, 도 9는 영상배치 프로토콜을 사용하는 모든 클라이언트 단말기에서 2D 의료 영상 좌표를 전송하는 것을 방지함으로써, 제2 의료 영상 저장부의 부하를 줄일 수 있다. 즉, 제2 의료 영상 저장부에서의 불필요한 동작과 3D 의료 영상을 생성하는 횟수를 줄일 수 있다.
도 10은 도 8에 도시된 단계 S820에 대한 다른 일 실시예 동작 흐름도를 나타낸 것으로, 2D 의료 영상 좌표가 생성될 때마다 전송하는 것이 아니라 동일 2D 영상 좌표 생성 횟수가 일정 횟수 이상인 경우에만 전송하는 과정을 나타낸 것이다.
도 10을 참조하면, 생성된 2D 의료 영상 좌표를 전송하는 단계(S820)는 생성된 2D 의료 영상마다 중심 또는 기준 좌표를 특정하고, 상기 좌표가 특정된 회수를 카운팅한다(S1010). 다시 말해, 사용자가 2D 의료 영상을 변경할 때마다 변경되는 2D 의료 영상의 기준 또는 중심 좌표를 카운팅하는 것으로, 이전에 디스플레이된 2D 의료 영상과 동일한 2D 의료 영상이 다시 디스플레이되면 그 기준 좌표 또는 중심 좌표에 대하여 카운트된 수는 증가한다. 여기서, 카운팅수는 동일 의료 영상들에 대한 것이고, 사용자가 3D 의료 영상을 요청한 때에는 자동 리셋될 수도 있다.
화면에 디스플레이된 2D 의료 영상 좌표의 카운팅수가 일정 횟수 이상인지 판단하고, 일정 횟수 이상인 경우에는 화면에 디스플레이된 2D 의료 영상 좌표를 전처리부 또는 제2 의료 영상 저장부로 전송한다(S1030). 즉, 일정 횟수 이상 해당 좌표가 카운트되었다는 것은 사용자가 해당 좌표에서의 의료 영상을 빈번하게 선택했다는 의미이므로 사용자가 해당 좌표에서의 의료 영상에 대한 관심이 높다고 간주할 수 있다. 이 때, 카운트되는 수는 시간 구간을 설정하여 일정 시간 내에 얼마나 해당 좌표가 빈번하게 선택되었는지를 확인하는 방법 또한 가능하다.
물론, 카운팅수가 일정 횟수보다 작은 경우라도 사용자에 의하여 3D 의료 영상 요청이 입력되면 화면에 디스플레이된 2D 의료 영상 좌표를 전처리부 또는 제2 의료 영상 저장부로 전송할 수 있다.
이와 같이, 도 10은 화면에 디스플레이되는 모든 2D 의료 영상 좌표를 전송하는 것이 아니라 일정 횟수 이상 반복되는 2D 의료 영상에 대한 좌표만을 전송하도록 함으로써, 제2 의료 영상 저장부에서의 불필요한 동작을 줄일 수 있고, 이를 통해 시스템 부하를 줄일 수 있는 효과가 있다.
도 8 내지 도 10과는 별도로, 클라이언트 단말기는 사용자에 의해 3D 의료 영상이 요청될 때만 제1 디스플레이 영역에 디스플레이된 2D 의료 영상 좌표를 생성하고, 생성된 2D 의료 영상 좌표를 전처리부 또는 제2 의료 영상 저장부로 전송할 수 있다.
도 11은 도 7에 도시된 단계 S740에 대한 일 실시예 동작 흐름도를 나타낸 것으로, 본 발명의 의료 영상 디스플레이 방법을 씬 클라이언트 환경에 적용하기 위한 일 실시예를 나타낸 것이다.
도 11을 참조하면, 3D 의료 영상을 디스플레이하는 단계(S740)는 제2 의료 영상 저장부로부터 제1 디스플레이 영역에 디스플레이된 2D 의료 영상과 매칭되는 3D 의료 영상의 일부를 수신한다(S1110).
여기서, 3D 의료 영상의 일부는 씬 클라이언트 환경, 모바일 단말기의 성능 등에 따라 달라질 수 있으며, 상황에 따라 3D 의료 영상의 전부를 수신할 수도 있다.
3D 의료 영상의 일부가 수신되면, 3D 의료 영상의 나머지 일부를 생성하여 3D 의료 영상에 매칭되는 3D 의료 영상을 제2 디스플레이 영역에 디스플레이한다(S1120, S1130).
이 때, 클라이언트 단말기에서 3D 의료 영상의 나머지 일부를 생성하는 방법은 제2 의료 영상 저장부로부터 제공되는 정보 또는 데이터를 이용하여 생성할 수도 있고, 클라이언트 단말기에서 3D 의료 영상의 나머지 일부를 생성할 때 필요로 하는 정보를 제2 의료 영상 저장부로부터 미리 수신/저장함으로써 생성할 수도 있다.
클라이언트 단말기에서 디스플레이되는 영상은 thick-slice에 대한 2차원 의료 영상, thin-slice에 대한 2차원 의료 영상, 또는 thin-slice에 기반한 3차원 의료 영상 중 적어도 하나 이상을 포함할 수 있다. 디스플레이되는 둘 이상의 종류의 영상은 하나의 모니터 상의 구분된 영역 각각에 디스플레이될 수도 있고, 복수의 모니터 상에 걸쳐 디스플레이될 수도 있으며, 복수의 모니터 각각에 구분되어 디스플레이될 수도 있다.
본 발명의 일 실시 예에 따른 의료 영상 디스플레이 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 본 발명의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상과 같이 본 발명에서는 구체적인 구성 요소 등과 같은 특정 사항들과 한정된 실시예 및 도면에 의해 설명되었으나 이는 본 발명의 보다 전반적인 이해를 돕기 위해서 제공된 것일 뿐, 본 발명은 상기의 실시예에 한정되는 것은 아니며, 본 발명이 속하는 분야에서 통상적인 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형이 가능하다.
따라서, 본 발명의 사상은 설명된 실시예에 국한되어 정해져서는 아니 되며, 후술하는 특허청구범위뿐 아니라 이 특허청구범위와 균등하거나 등가적 변형이 있는 모든 것들은 본 발명 사상의 범주에 속한다고 할 것이다.
110: 모달리티, 의료 영상 촬영 기기
120: 제1 의료 영상 저장부
130: 전처리부
140: 제2 의료 영상 저장부
150: 클라이언트 단말기

Claims (10)

  1. 2차원 제1 의료 영상 슬라이스 집합을 저장하는 제1 의료 영상 저장부;
    2차원 제2 의료 영상 슬라이스 집합을 의료 영상 촬영 기기 또는 상기 제1 의료 영상 저장부로부터 수신하고, 상기 수신된 상기 2차원 제2 의료 영상 슬라이스 집합을 상기 2차원 제1 의료 영상 슬라이스 집합과 연관시켜 저장하며, 상기 2차원 제1 의료 영상 슬라이스 집합을 구성하는 제1 의료 영상들 중 어느 하나에 대응하는 2차원 의료 영상 좌표가 클라이언트 단말기로부터 수신되면, 상기 2차원 제1 의료 영상 슬라이스 집합과 상기 2차원 제2 의료 영상 슬라이스 집합의 연관 관계를 이용하여 상기 2차원 제2 의료 영상 슬라이스 집합으로부터 상기 2차원 의료 영상 좌표에 대응하는 3차원 의료 영상을 미리 생성하고, 상기 클라이언트 단말기의 사용자로부터 요청이 수신되면 상기 미리 생성된 상기 3차원 의료 영상을 상기 클라이언트 단말기로 제공하는 제2 의료 영상 저장부; 및
    상기 2차원 제2 의료 영상 슬라이스 집합을 이용한 전처리 과정을 통해 상기 2차원 제1 의료 영상 슬라이스 집합을 생성하고, 상기 생성된 상기 2차원 제1 의료 영상 슬라이스 집합을 상기 제1 의료 영상 저장부로 제공하는 전처리부
    를 포함하는 의료 영상 저장 시스템.
  2. 제1항에 있어서,
    상기 전처리부는
    상기 2차원 제2 의료 영상 슬라이스 집합에 대한 3차원 모델을 생성하기 위하여 상기 2차원 제2 의료 영상 슬라이스 집합의 특성을 분석하고, 상기 분석된 특성이 상기 2차원 제1 의료 영상 슬라이스 집합 및 상기 2차원 제2 의료 영상 슬라이스 집합과 연관되어 저장되도록 상기 제1 의료 영상 저장부 또는 상기 제2 의료 영상 저장부 중 적어도 하나 이상으로 전달하는 의료 영상 저장 시스템.
  3. 제1항에 있어서,
    상기 전처리부는
    상기 2차원 제1 의료 영상 슬라이스 집합 및 상기 2차원 제2 의료 영상 슬라이스 집합을 이용하여 2차원 의료 영상 좌표에 매칭되는 3차원 매칭 포인트를 계산하고, 상기 계산된 3차원 매칭 포인트가 상기 2차원 제1 의료 영상 슬라이스 집합 및 상기 2차원 제2 의료 영상 슬라이스 집합과 연관되어 저장되도록 상기 제1 의료 영상 저장부 또는 상기 제2 의료 영상 저장부 중 적어도 하나 이상으로 전달하는 의료 영상 저장 시스템.
  4. 제1항에 있어서,
    상기 전처리부는
    상기 2차원 제1 의료 영상 슬라이스 집합 또는 2차원 제2 의료 영상 슬라이스 집합 중 적어도 하나 이상을 이용하여 컴퓨터 보조진단(computer-aided detection), 세그멘테이션(segmentation) 중 적어도 하나를 수행하고, 상기 컴퓨터 보조진단 결과와 상기 세그멘테이션 결과 중 적어도 하나를 상기 제1 의료 영상 저장부와 상기 제2 의료 영상 저장부 중 적어도 하나 이상에 제공하는 의료 영상 저장 시스템.
  5. 2차원 제1 의료 영상 슬라이스 집합 및 상기 2차원 제1 의료 영상 슬라이스 집합과 동일한 원본 영상의 집합으로부터 생성되는 2차원 제2 의료 영상 슬라이스 집합을 미리 결정된 적어도 하나의 서버로부터 수신하는 수신부;
    상기 수신된 상기 2차원 제1 의료 영상 슬라이스 집합에 대응하는 제1 의료 영상을 디스플레이하는 제1 디스플레이부;
    상기 디스플레이되는 상기 제1 의료 영상에 대하여 사용자 입력을 수신하는 인터페이스부;
    상기 수신된 상기 사용자 입력에 따라 상기 제1 의료 영상에 대한 2차원 의료 영상 좌표를 추적하는 제어부; 및
    상기 서버에서 상기 2차원 제1 의료 영상 슬라이스 집합과 상기 2차원 제2 의료 영상 슬라이스 집합의 연관 관계에 의하여 미리 생성된 상기 제1 의료 영상에 대한 상기 2차원 의료 영상 좌표에 대응하는 3차원 매칭 포인트에 기초하여, 상기 서버로부터 상기 2차원 제2 의료 영상 슬라이스 집합을 이용하여 미리 생성된 3차원 영상을 상기 사용자의 3차원 의료 영상 요청에 의하여 수신하고, 상기 수신된 상기 3차원 영상을 상기 디스플레이되는 상기 제1 의료 영상과 연관시켜 디스플레이하는 제2 디스플레이부
    를 포함하고,
    상기 제어부는
    상기 추적된 상기 2차원 의료 영상 좌표가 기 설정된 일정 횟수 이상 반복되면 상기 추적된 상기 2차원 의료 영상 좌표에 대응하는 상기 3차원 매칭 포인트가 계산되도록 상기 2차원 의료 영상 좌표를 상기 제2 디스플레이부 또는 씬 클라이언트 서버 중 적어도 하나 이상으로 전달하는 의료 영상 디스플레이 장치.
  6. 제2 의료 영상 저장부에서 2차원 제2 의료 영상 슬라이스 집합을 의료 영상 촬영 기기 또는 제1 의료 영상 저장부로부터 수신하는 단계;
    전처리부에서 상기 2차원 제2 의료 영상 슬라이스 집합을 이용한 전처리 과정을 통해 2차원 제1 의료 영상 슬라이스 집합을 생성하고, 상기 생성된 상기 2차원 제1 의료 영상 슬라이스 집합을 제1 의료 영상 저장부로 제공하는 단계;
    상기 제1 의료 영상 저장부에서 상기 전처리부로부터 수신된 상기 2차원 제1 의료 영상 슬라이스 집합을 저장하는 단계;
    상기 제2 의료 영상 저장부에서 상기 수신된 상기 2차원 제2 의료 영상 슬라이스 집합을 상기 2차원 제1 의료 영상 슬라이스 집합과 연관시켜 저장하는 단계;
    상기 제2 의료 영상 저장부에서 상기 2차원 제1 의료 영상 슬라이스 집합을 구성하는 제1 의료 영상들 중 어느 하나에 대응하는 2차원 의료 영상 좌표를 클라이언트 단말기로부터 수신하는 단계;
    상기 제2 의료 영상 저장부에서 상기 2차원 제1 의료 영상 슬라이스 집합과 상기 2차원 제2 의료 영상 슬라이스 집합의 연관 관계를 이용하여 상기 2차원 제2 의료 영상 슬라이스 집합으로부터 상기 2차원 의료 영상 좌표에 대응하는 3차원 의료 영상을 미리 생성하는 단계; 및
    상기 제2 의료 영상 저장부에서 상기 클라이언트 단말기의 사용자로부터 요청이 수신되면 상기 미리 생성된 상기 3차원 의료 영상을 상기 클라이언트 단말기로 제공하는 단계
    를 포함하는 의료 영상 저장 방법.
  7. 제6항에 있어서,
    상기 전처리부에서 상기 2차원 제2 의료 영상 슬라이스 집합에 대한 3차원 모델을 생성하기 위하여 상기 2차원 제2 의료 영상 슬라이스 집합의 특성을 분석하는 단계; 및
    상기 제2 의료 영상 저장부에서 상기 분석된 특성을 상기 2차원 제1 의료 영상 슬라이스 집합 및 상기 2차원 제2 의료 영상 슬라이스 집합과 연관시켜 저장하는 단계
    를 더 포함하는 의료 영상 저장 방법.
  8. 제6항에 있어서,
    상기 전처리부에서 상기 2차원 제1 의료 영상 슬라이스 집합 및 상기 2차원 제2 의료 영상 슬라이스 집합을 이용하여 2차원 의료 영상 좌표에 매칭되는 3차원 매칭 포인트를 계산하는 단계; 및
    상기 제2 의료 영상 저장부에서 상기 계산된 3차원 매칭 포인트를 상기 2차원 제1 의료 영상 슬라이스 집합 및 상기 2차원 제2 의료 영상 슬라이스 집합과 연관시켜 저장하는 단계
    를 더 포함하는 의료 영상 저장 방법.
  9. 수신부에서 제1 의료 영상 저장부로부터 2차원 제1 의료 영상 슬라이스 집합을 수신하는 단계;
    상기 수신부에서 제2 의료 영상 저장부로부터 상기 2차원 제1 의료 영상 슬라이스 집합과 동일한 원본 영상의 집합으로부터 생성되는 2차원 제2 의료 영상 슬라이스 집합을 수신하는 단계;
    제1 디스플레이부에서 상기 수신된 상기 2차원 제1 의료 영상 슬라이스 집합에 대응하는 제1 의료 영상을 디스플레이하는 단계;
    인터페이스부에서 상기 디스플레이되는 상기 제1 의료 영상에 대하여 사용자 입력을 수신하는 단계;
    제어부에서 상기 수신된 상기 사용자 입력에 따라 상기 제1 의료 영상에 대한 2차원 의료 영상 좌표를 추적하는 단계;
    상기 제어부는 상기 추적된 상기 2차원 의료 영상 좌표가 기 설정된 일정 횟수 이상 반복되는지 판단하고, 상기 일정 횟수 이상 반복되면 상기 추적된 상기 2차원 의료 영상 좌표를 제2 디스플레이부 또는 씬 클라이언트 서버 중 적어도 하나 이상으로 전달하는 단계;
    상기 제2 디스플레이부에서 상기 추적된 상기 2차원 의료 영상 좌표를 서버로 제공하고, 상기 서버에서 상기 2차원 제1 의료 영상 슬라이스 집합과 상기 2차원 제2 의료 영상 슬라이스 집합의 연관 관계에 의하여 미리 생성된 상기 제1 의료 영상에 대한 상기 2차원 의료 영상 좌표에 대응하는 3차원 매칭 포인트에 기초하여, 상기 서버로부터 상기 2차원 제2 의료 영상 슬라이스 집합을 이용하여 미리 생성된 3차원 영상을 상기 사용자의 3차원 의료 영상 요청에 의하여 수신하는 단계; 및
    상기 제2 디스플레이부에서 상기 수신된 상기 3차원 영상을 상기 디스플레이되는 상기 제1 의료 영상과 연관시켜 디스플레이하는 단계
    를 포함하는 의료 영상 디스플레이 방법.
  10. 제6항 내지 제9항 중 어느 한 항의 방법을 실행하기 위한 프로그램이 기록되어 있는 것을 특징으로 하는 컴퓨터에서 판독 가능한 기록 매체.
KR1020130013156A 2013-02-06 2013-02-06 의료 영상 저장 전송 시스템의 의료 영상 저장 장치, 방법, 사용자 인터랙티브 디스플레이 장치 및 방법 KR20130074771A (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020130013156A KR20130074771A (ko) 2013-02-06 2013-02-06 의료 영상 저장 전송 시스템의 의료 영상 저장 장치, 방법, 사용자 인터랙티브 디스플레이 장치 및 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020130013156A KR20130074771A (ko) 2013-02-06 2013-02-06 의료 영상 저장 전송 시스템의 의료 영상 저장 장치, 방법, 사용자 인터랙티브 디스플레이 장치 및 방법

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
KR1020110142666 Division 2011-12-26 2011-12-26

Publications (1)

Publication Number Publication Date
KR20130074771A true KR20130074771A (ko) 2013-07-04

Family

ID=48988767

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020130013156A KR20130074771A (ko) 2013-02-06 2013-02-06 의료 영상 저장 전송 시스템의 의료 영상 저장 장치, 방법, 사용자 인터랙티브 디스플레이 장치 및 방법

Country Status (1)

Country Link
KR (1) KR20130074771A (ko)

Similar Documents

Publication Publication Date Title
JP6878578B2 (ja) 健康データを匿名化し、分析のために地理的領域を横断して健康データを修正及び編集するシステム及び方法
US8805034B2 (en) Selection of datasets from 3D renderings for viewing
US9390230B2 (en) Radiation treatment planning apparatus and method thereof
EP2989575B1 (en) Image visualization
US9514575B2 (en) Image and annotation display
CN112150376B (zh) 血管医学影像分析方法、装置、计算机设备和存储介质
US10297089B2 (en) Visualizing volumetric image of anatomical structure
EP3094239B1 (en) Method and system for generating pre-scaled images for a series of mammography images
US8933926B2 (en) Image processing apparatus, method, and program
US10282917B2 (en) Interactive mesh editing
US9483870B2 (en) Apparatus for processing, generating, storing and displaying images in picture archiving communication system, and method thereof
US20190027243A1 (en) Predictive model for optimizing clinical workflow
US10599812B2 (en) Preprocessing image data based on scan protocols
EP3423968B1 (en) Medical image navigation system
US20220157450A1 (en) Capturing user constructed map of bodily region of interest for remote telemedicine navigation
KR20130074771A (ko) 의료 영상 저장 전송 시스템의 의료 영상 저장 장치, 방법, 사용자 인터랙티브 디스플레이 장치 및 방법
US10929990B2 (en) Registration apparatus, method, and program
CN115546174B (zh) 图像处理方法、装置、计算设备及存储介质
KR20130088730A (ko) 의료영상 저장 전송 시스템의 정보 공유, 관리 장치 및 방법
US20230030618A1 (en) Making measurements in images
EP3896658A1 (en) Creating a synthetic medical image
Ellerweg et al. Applying trajectory mining in medical image data
Ciampi et al. MITO: An advanced toolkit for medical imaging processing and visualization

Legal Events

Date Code Title Description
A107 Divisional application of patent
WITN Application deemed withdrawn, e.g. because no request for examination was filed or no examination fee was paid