KR20140083856A - 복합 실제 3차원 영상 제작방법 및 이를 위한 시스템 - Google Patents

복합 실제 3차원 영상 제작방법 및 이를 위한 시스템 Download PDF

Info

Publication number
KR20140083856A
KR20140083856A KR1020130075667A KR20130075667A KR20140083856A KR 20140083856 A KR20140083856 A KR 20140083856A KR 1020130075667 A KR1020130075667 A KR 1020130075667A KR 20130075667 A KR20130075667 A KR 20130075667A KR 20140083856 A KR20140083856 A KR 20140083856A
Authority
KR
South Korea
Prior art keywords
dimensional
image
actual
coordinate
medical device
Prior art date
Application number
KR1020130075667A
Other languages
English (en)
Inventor
윤치순
Original Assignee
가톨릭대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 가톨릭대학교 산학협력단 filed Critical 가톨릭대학교 산학협력단
Priority to US14/655,387 priority Critical patent/US10736592B2/en
Priority to CN201380068009.XA priority patent/CN105377138B/zh
Priority to PCT/KR2013/012232 priority patent/WO2014104767A1/ko
Priority to KR1020130164216A priority patent/KR101588014B1/ko
Publication of KR20140083856A publication Critical patent/KR20140083856A/ko
Priority to US16/930,567 priority patent/US11517279B2/en

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment
    • A61B6/48Diagnostic techniques
    • A61B6/486Diagnostic techniques involving generating temporal series of image data
    • A61B6/487Diagnostic techniques involving generating temporal series of image data involving fluoroscopy
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/06Devices, other than using radiation, for detecting or locating foreign bodies ; determining position of probes within or on the body of the patient
    • A61B5/061Determining position of a probe within the body employing means separate from the probe, e.g. sensing internal probe position employing impedance electrodes on the surface of the body
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment
    • A61B6/02Devices for diagnosis sequentially in different planes; Stereoscopic radiation diagnosis
    • A61B6/022Stereoscopic imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment
    • A61B6/02Devices for diagnosis sequentially in different planes; Stereoscopic radiation diagnosis
    • A61B6/027Devices for diagnosis sequentially in different planes; Stereoscopic radiation diagnosis characterised by the use of a particular data acquisition trajectory, e.g. helical or spiral
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • A61B2034/2046Tracking techniques
    • A61B2034/2065Tracking using image or pattern recognition
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/39Markers, e.g. radio-opaque or breast lesions markers
    • A61B2090/3966Radiopaque markers visible in an X-ray image
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment
    • A61B6/50Clinical applications
    • A61B6/503Clinical applications involving diagnosis of heart
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10116X-ray image
    • G06T2207/10121Fluoroscopy

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Medical Informatics (AREA)
  • General Health & Medical Sciences (AREA)
  • Surgery (AREA)
  • Physics & Mathematics (AREA)
  • Veterinary Medicine (AREA)
  • Public Health (AREA)
  • Pathology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Molecular Biology (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Biophysics (AREA)
  • Radiology & Medical Imaging (AREA)
  • Optics & Photonics (AREA)
  • High Energy & Nuclear Physics (AREA)
  • Human Computer Interaction (AREA)
  • Quality & Reliability (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Multimedia (AREA)
  • Apparatus For Radiation Diagnosis (AREA)
  • Magnetic Resonance Imaging Apparatus (AREA)
  • Processing Or Creating Images (AREA)
  • Ultra Sonic Daignosis Equipment (AREA)

Abstract

본 발명은 복합 실제 3차원 영상(complex reality three-dimensional images)의 제작 방법 및 이를 위한 시스템에 관한 것으로서, (a) 인체 3차원 영상에 대한 제1 실제 3차원 공간좌표를 결정하는 단계; (b) 의료기기의 영상에 대한 제2 실제 3차원 공간좌표를 결정하는 단계; (c) 의료기기의 영상수단으로부터 상기 의료기기 주변에 대한 3차원 영상을 얻고 이에 대한 제3 실제 3차원 공간좌표를 결정하는 단계; (d) 상기 3종의 3차원 공간좌표에서 동일 좌표에 있는 영상을 조사(examining)하는 단계; 및 (e) 상기 동일 좌표 영상이 하나인 경우는 상기 하나의 영상을 선택하고, 상기 동일 좌표 영상이 복수인 경우는 그 중에서 필요한 영상(들)을 선택하여 복합 실제 3차원 영상을 제작하는 단계를 포함한다.

Description

복합 실제 3차원 영상 제작방법 및 이를 위한 시스템{Methods for Preparing Complex Reality Three-Dimensional Images and Systems therefor}
본 발명은 복합 실제 3차원 영상(complex reality three-dimensional images)의 제작 방법 및 이를 위한 시스템에 관한 것이다.
인체의 내부로 의료기기를 침습적 또는 비침습적으로 삽입하여 수술을 진행하는 과정에서는 수술 성공률을 높이고 예상치 못한 의료 사고 예방을 위하여, 인체 조직에 대한 정밀한 공간적 위치뿐만 아니라 인체 내부로 삽입되는 의료기기의 정밀한 공간적 위치 또한 그 정밀성이 요구된다.
환자의 진단 및 치료를 위하여, 의료기기를 삽입하는 경우에는 미리 환자의 신체를 MRI(magnetic resonance imaging), CT(computed tomography), PET CT, Gamma 카메라 등으로 3차원 촬영을 한 후에 환자의 신체 내부로 들어가는 의료기기를 정밀한 위치 측정 없이 삽입하는 것이 종래의 의료 기술이었다.
이러한 의료 기술은 환자 신체의 3차원 공간적 좌표는 MRI나 CT를 통하여 알고 있으나, 환자 신체에 삽입되는 의료기기의 3차원 공간좌표는 수술 중 실시간으로 알 수가 없는바, 환자 신체의 불필요한 조직의 박리가 발생할 수 있었고, 원하지 않는 조직의 박리로 인하여 치명적인 합병증을 발생시킬 수 있는 문제점이 있었다.
이러한 문제점을 개선하기 위해, 수술시 환자의 신체에 대한 공간좌표를 구하는 기술로는 '상대적 좌표 추출 장치와 이를 이용한 의료 영상 장치(대한민국 특허출원 공개번호: 10-2012-0096729)'가 있으나, 이 기술은 영상 획득 장치를 환자의 신체에 장착하고 표적 마커와의 상대적인 좌표를 산출하는 방식인바, 환자의 신체에 영상 획득 장치를 장착할 수 없는 곳에는 환자의 정확한 공간좌표를 인식하기 힘들며, 환자의 생명이 위급하여 다급히 수술을 진행해야하는 경우에는 이러한 영상 획득 장치의 장착 및 좌표 분석은 이른바 골든 타임(golden time)의 낭비를 가져오는 문제점이 있다.
또한, 특정 대상체의 3차원적 형상 분석 기술로는 '3차원 형상 측정 방법 및 3차원 형상 측정 시스템(대한민국 특허출원 공개 번호: 10-2012-0090964)'를 예로 들 수 있다. 이 기술은 피측정물의 제1 부분의 3차원 형상을 나타내는 좌표치와, 피측정물의 제2 부분의 3차원 형상을 나타내는 좌표치가, 상기 마크에 의해 특정되는 기준 좌표계에 근거하여 좌표치로 변환되고, 변환된 후의 좌표치가 합성되고, 상기 피측정물 전체의 3차원 형상 데이터가 취득되는 것인데, 이러한 기술은 본 발명이 제시하고자 하는 의료기기의 3차원 공간좌표화 기술과 다소 닮아있다. 그러나 이 기술은 별도의 수술시에 사용할 수 없는 별개의 광원과 기준 좌표계를 두어야하는바 수술실에 이들 장비를 둘 수 없는 결정적인 문제점이 존재하며, 이 기술은 특정 물체의 3차원적 형상 인식에 해당할 뿐 특정 물체가 3차원적 공간에서 어느 좌표에 위치하는지에 대한 기술을 제시하지 않는 문제점이 있어, 의료기기의 3차원적 공간좌표에 대해 응용하기에는 무리가 있다. 또한 현재는 다양한 이미지를 이용하여 수술 및 시술을 하게 되는 추세에 있는데, 서로 상이한 이미지를 서로 다른 영상으로 보고 판단하면서 시술이나 수술을 하게 되어, 행위의 수월성을 제공하지 못하는 문제점이 있다.
본 명세서 전체에 걸쳐 다수의 인용문헌 및 특허 문헌이 참조되고 그 인용이 표시되어 있다. 인용된 문헌 및 특허의 개시 내용은 그 전체로서 본 명세서에 참조로 삽입되어 본 발명이 속하는 기술 분야의 수준 및 본 발명의 내용이 보다 명확하게 설명된다.
본 발명자는 종래기술의 문제점을 해결하고 예의 연구 노력하였다. 그 결과, 인체에 대한 3차원 공간좌표 및 의료기기에 대한 3차원 공간좌표를 통합(coincide)하여, 서로 다른 종류의 인체 이미지를 통합하고, 시술에 이용되는 의료기기의 3차원 위치를 정확하게 파악할 수 있는 새로운 방법을 개발하였으며, 본 발명의 방법에 따르면 시술현장에서의 실제 시술 과정을 실시간으로 파악할 수 있는 실제 3차원 영상을 제작할 수 있다.
따라서, 본 발명의 목적은 복합 실제 3차원 영상(complex reality three-dimensional image)의 제작 방법을 제공하는 데 있다.
본 발명의 다른 목적은 복합 실제 3차원 영상(complex reality three-dimensional image)을 제작하기 위한 시스템을 제공하는 데 있다.
본 발명의 다른 목적 및 이점은 하기의 실시예, 청구범위 및 도면에 의해 보다 명확하게 된다.
본 발명의 일 양태에 따르면, 본 발명은 다음 단계를 포함하는 복합 실제 3차원 영상(complex reality three-dimensional image)의 제작 방법을 제공한다:
(a) 의료기기를 대상(subject)에 적용하기 전에 얻은 인체 3차원 영상에 대한 제1 실제 3차원 공간좌표를 결정하는 단계;
(b) 상기 대상에 적용된 의료기기의 영상에 대한 제2 실제 3차원 공간좌표를 결정하는 단계; 상기 의료기기는 영상수단을 포함하고,
(c) 상기 의료기기의 영상수단으로부터 상기 의료기기 주변에 대한 3차원 영상을 얻고 이에 대한 제3 실제 3차원 공간좌표를 결정하는 단계; 상기 제1 실제 3차원 공간좌표, 제2 실제 3차원 공간좌표 및 제3 실제 3차원 공간좌표는 동일 좌표계를 이용하여 결정된 좌표이며;
(d) 상기 제1 실제 3차원 공간좌표, 제2 실제 3차원 공간좌표 및 제3 실제 3차원 공간좌표를 이용하여, 상기 3종의 3차원 공간좌표에서 동일 좌표에 있는 영상을 조사(examining)하는 단계; 및
(e) 상기 동일 좌표 영상이 하나인 경우는 상기 하나의 영상을 선택하고, 상기 동일 좌표 영상이 복수인 경우는 그 중에서 필요한 영상(들)을 선택하여 복합 실제 3차원 영상을 제작하는 단계.
본 발명자는 종래기술의 문제점을 해결하고 예의 연구 노력하였다. 그 결과, 인체에 대한 3차원 공간좌표 및 의료기기에 대한 3차원 공간좌표를 통합(coincide)하여, 서로 다른 종류의 인체 이미지를 통합하고, 시술에 이용되는 의료기기의 3차원 위치를 정확하게 파악할 수 있는 새로운 방법을 개발하였으며, 본 발명의 방법에 따르면 시술현장에서의 실제 시술 과정을 실시간으로 파악할 수 있는 실제 3차원 영상을 제작할 수 있다.
본 발명은 복합 실제 3차원 영상에 관한 것으로서, 서로 다른 영상을 통합하여 하나의 3차원 영상으로 제작하는 기술이다.
본 발명에서 통합되는 영상은, 인체 3차원 영상, 의료기기 3차원 영상 및 의료기기 주변에 대한 3차원 영상(예컨대, 영상 의료기기에 의하여 획득한 영상)이다. 바람직하게는, 본 발명에서 통합되는 영상은, 인체 3차원 영상, 의료기기 3차원 영상 및 의료기기 주변에 대한 3차원 영상과 인체의 신호나 영상 의료기기에서 획득한 영상과 연동되는 영상이다. 본 명세서에서 3차원 영상을 언급하면서 사용되는 용어 “복합(complex)”은 상기의 서로 다른 영상들을 하나의 영상으로 통합되는 것을 의미한다. 본 명세서에서 3차원 영상을 언급하면서 사용되는 용어 “실제(reality)"는 제작된 영상이 시술이 실시되는 실제 상황을 실시간으로 보여주는 것을 의미한다. 본 명세서에서 3차원 공간좌표를 언급하면서 사용되는 용어 “실제(reality)"는 시술이 실시되는 공간 또는 환경에서의 3차원 공간좌표를 의미한다.
본 발명은 복합 실제 3차원 영상(complex reality three-dimensional image)의 제작 방법으로 기재하였으나, 본 발명은 인체에 대한 3차원 영상의 공간좌표와 의료기기에 대한 3차원 영상의 공간좌표를 통일화하는 방법으로 기재될 수도 있다.
본 발명에 따르면, 시술(예컨대, 수술)을 하는 공간이 아닌 다른 공간에서, 의료기기를 대상에 적용하기 전에 인체를 영상 장비로 스캐닝하여 얻은 3차원 영상의 공간좌표를 확보하고, 시술을 행하는 공간에서 다양한 영상기법, 예컨대 X 선 투시법을 이용하여 인체의 특정 부위의 3차원 공간좌표를 산출한다. 산출된 특정부위의 3차원 공간좌표와 미리 확보된 인체의 3차원 공간좌표 상의 특정 부위의 좌표를 일치시켜, 시술 대상의 인체의 3차원 영상에 대한 제1 실제 3차원 공간좌표를 얻는다. 의료기기에 대해서는, 다양한 영상기법, 예컨대 X선 투시법에 의해 2차원 영상을 확보한 후, 의료기기와 X선 광원 및 X선 탐상기의 거리 관계에 기초하여 의료기기(예컨대, 작업용 의료수단 및 의료 영상수단 포함)의 제2 실제 3차원 공간좌표를 한다. 의료기기의 3차원 공간좌표를 이용하여 의료 영상수단에서 얻어진 3차원 영상에 대하여 제3 실제 3차원 공간좌표를 결정한다. 그런 다음, 상기 인체 3차원 영상의 제1 실제 3차원 공간좌표, 의료기기 영상의 제2 실제 3차원 공간좌표 및 의료 영상수단에서 얻어진 3차원 영상에 대한 제3 실제 3차원 공간좌표를 통일화 시키고, 필요한 영상으로 재구성한다. 이에 의해, 본 발명은 시술의 정확성 및 편의성을 제공할 수 있다.
본 발명의 일 구현 예에 따르면, 제1 실제 3차원 공간좌표, 제2 실제 3차원 공간좌표, 제3 실제 3차원 공간좌표, 및 제4 실제 3차원 공간좌표는 직교 좌표계이다.
본 발명의 일 구현 예에 따르면, 제1 실제 3차원 공간좌표, 제2 실제 3차원 공간좌표, 제3 실제 3차원 공간좌표, 및 제4 실제 3차원 공간좌표를 결정하는데 이용되는 동일 좌표계는 상기 의료기기를 상기 대상에 적용하는 시술대(operation table)를 기준으로 하여 정해진 좌표계이다.
본 발명의 일 구현예에 따르면, 단계 (a)에서 이용되는 상기 인체 3차원 영상은 X선 투시영상(fluoroscopy), CT(computed tomography) 영상, MRI(magnetic resonance imaging) 영상, PET(Positron emission tomography) 영상, PET/CT 영상, PET/MRI 영상 또는 RI(radioisotope imaging), 초음파 영상(ultrasonography) 또는 이들의 복합영상이다.
본 발명의 일 구현 예에 따르면, 제1 실제 3차원 공간좌표 및 제2 실제 3차원 공간좌표의 결정은 전자기선(electromagnetic radiation)을 이용하여 실시하며, 예를 들어 상기 전자기선은 X선 또는 고주파(radiofrequency) 전자기선이고, 특정적으로는 X선이다.
본 발명의 일 구현예에 따르면,제1 실제 3차원 공간좌표 및 제2 실제 3차원 공간좌표의 결정은 X선 투시법(fluoroscopy)을 이용하여 실시한다.
본 발명의 일 구현예에 따르면, 제1 실제 3차원 공간좌표 및 제2 실제 3차원 공간좌표 각각의 결정은 모노-플랜 X선 투시법(mono-plan fluoroscopy), 바이-플랜 X선 투시법(bi-plan fluoroscopy) 또는 멀티-플랜 X선 투시법(multi-plan fluoroscopy)을 이용하여 실시한다.
본 발명의 일 구현예에 따르면, 단계 (a)의 제1 실제 3차원 공간좌표는 의료기기를 대상에 적용하기 전에 얻은 인체 3차원 영상의 3차원 공간좌표 및 상기 대상 인체의 특정 부분의 실제 3차원 공간좌표를 이용하여 결정된다.
본 발명의 일 구현 예에 따르면, 단계 (a)는 다음의 소단계를 포함한다: (a-1) 제1 X선 광원을 이용하여 상기 대상의 인체의 특정 부분을 향해 X선을 조사하는 단계; (a-2) 제1 X선 탐상기(detector)를 이용하여 상기 제1 X선 광원에 의한 상기 인체의 X선 투시 영상을 탐상하는 단계; (a-3) 제2 X선 광원을 이용하여 상기 제1 X선 광원에 의한 X선에 교차하도록 상기 인체의 특정 부분을 향해 X선을 조사하는 단계; (a-4) 제2 X선 탐상기를 이용하여, 상기 제2 X선 광원에 의한 상기 인체의 X선 투시 영상을 탐상하는 단계; 및 (a-5) 상기 제1 X선 탐상기 및 제2 X선 탐상기에서 탐상된 상기 인체의 영상을 이용하여 상기 인체 3차원 영상에 대한 제1 실제 3차원 공간좌표를 결정하는 단계.
본 발명의 일 구현예에 따르면, 상기 (a-5) 소단계는 다음의 소단계를 포함한다: (a-5-1) 상기 제1 X선 광원 및 상기 제1 X선 탐상기의 물리적인 3차원 좌표 정보와 이들 상호간의 거리 정보 및 상기 제1 X선 탐상기에 탐상된 상기 인체의 특정 부분 크기 정보를 이용하여, 상기 제1 X선 광원 및 상기 제1 X선 탐상기 사이에 위치한 상기 인체의 특정 부분의 3차원 영상에 대한 3차원 공간좌표를 결정하고; 상기 제2 X선 광원 및 상기 제2 X선 탐상기의 물리적인 3차원 좌표 정보와 이들 상호간의 거리 정보 및 상기 제2 X선 탐상기에 탐상된 상기 인체의 특정 부분 크기 정보를 이용하여, 상기 제2 X선 광원 및 상기 제2 X선 탐상기 사이에 위치한 상기 인체의 특정 부분의 3차원 영상에 대한 3차원 공간좌표를 결정하는 단계; (a-5-2) 상기 제1 X선 광원 및 상기 제1 X선 탐상기 사이에 위치한 상기 인체의 특정 부분의 3차원 영상에 대한 3차원 공간좌표와 상기 제2 X선 광원 및 상기 제2 X선 탐상기 사이에 위치한 상기 인체의 특정 부분의 3차원 영상에 대한 3차원 공간좌표를 이용하여, 상기 인체의 특정 부분의 3차원 공간좌표를 결정하는 단계; 및 (a-5-3) 상기 인체의 특정 부분의 3차원 공간좌표를 상기 단계 (a)의 인체 3차원 영상의 3차원 공간좌표에 일치시켜 상기 인체 3차원 영상에 대한 제1 실제 3차원 공간좌표를 결정하는 단계.
본 발명의 일 구현예에 따르면, 상기 의료기기는 상기 의료기기의 위치 인식을 위한 식별부를 포함한다. 의료기기의 전체적인 3차원 형상은 이 식별부를 기준으로 상대적인 위치를 알고 있으므로, 복합 실제 영상을 구현하는 단계에서 이 식별부를 이용하여 의료기기의 3차원적인 이미지를 구현한다.
본 발명의 일 구현예에 따르면, 상기 식별부는 (i) 1개 이상의 구 형태의 식별부, (ii) 1개 이상의 링 형태의 식별부, (iii) 링 및 상기 링의 특정 위치를 표시하는 1개 이상의 마커를 포함하는 식별부, (iv) 1 이상의 쌍으로 된 링을 포함하는 식별부, 또는 (v) 1 이상의 쌍으로 된 링과 상기 링의 특정 위치를 표시하는 1개 이상의 마커를 포함하는 식별부이다.
본 발명의 일 구현예에 따르면, 상기 식별부는 1 이상의 쌍으로 된 링 및 1개 이상의 마커를 포함하고, 상기 쌍을 이룬 링은 서로 위치를 달리하여 상기 의료기기에 장착되어 있고, 상기 1개 이상의 마커는 상기 링의 위치를 표시할 있는 위치(예컨대, 링의 일측)에 장착되어 있다.
본 발명의 일 구현 예에 따르면, 상기 1 이상의 쌍으로 된 링은 서로 다른 이미징 특성을 갖는다. 용어 “서로 다른 이미징 특성”은, 영상에서 서로 다르게 보이도록 하는 어떤 특성(예컨대, 위치, 두께, 모양 및 방사선 투과도)을 의미합니다. 예를 들어, 링의 두께가 서로 상이하여 X선 투시법에서 서로 구별되어 이미징 되는 것을 나타낸다.
본 발명의 일 구현예에 따르면, 상기 마커가 2개 이상일 경우, 상기 마커는 서로 다른 이미징 특성(예컨대, 위치, 두께, 모양, 길이 및 방사선 투과도)을 갖는다. 보다 구체적인 구현예에 따르면, 상기 2개 이상의 마커는 서로 길이가 상이하여 서로 다른 이미지를 산출하여 서로 다른 이미징 특성을 나타낸다.
본 발명의 일 구현예에 따르면, 제2 실제 3차원 공간좌표는 X선 투시법은 하나 또는 2개 이상의 X선 투시 영상(fluoroscopic image)을 이용하여 결정되고, 상기 단계 (b)는 다음의 소단계를 포함한다: (b-1) X선 광원을 이용하여 상기 의료기기를 향해 X선을 조사하는 단계; (b-2) X선 탐상기(detector)를 이용하여 상기 X선 광원에 의한 상기 의료기기의 X선 투시 영상을 탐상하는 단계; 및 (b-3) 상기 X선 투시 영상에 나타난 상기 식별부의 투시된 위치를 이용하여 상기 의료기기의 영상에 대한 제2 실제 3차원 공간좌표를 결정하는 단계.
본 발명의 일 구현예에 따르면, 상기 소단계 (b-3)은 상기 X선 투시 영상에 나타난 상기 식별부의 투시된 위치를 이용하여 상기 의료기기의 영상에 대한 제2 실제 3차원 공간좌표와 상기 마커의 3차원 공간좌표를 결정하며, 이에 의해 상기 마커의 3차원 공간좌표에 의해 상기 의료기기의 내부의 상대적 위치를 파악할 수 있다.
본 발명의 일 구현예에 따르면,상기 소단계 (b-3)은, 상기 식별부의 3차원 위치정보, 또는 상기 식별부의 3차원 위치정보와 디멘젼(dimension) 정보(예컨대, 링의 지름. 링 사이의 거리 및 링이 의료기기에 부착된 모양)를 이용하여 실시한다. 보다 구체적으로, 상기 소단계 (b-3)은, X선 광원 및 상기 X선 탐상기의 물리적인 3차원 좌표 정보와 이들 상호간의 거리 정보, 상기 X선 탐상기에 탐상된 상기 의료기기의 크기 정보, 그리고 상기 링의 지름과 링 사이의 거리를 이용하여 상기 의료기기의 영상에 대한 제2 실제 3차원 공간좌표를 결정하여 실시한다.
본 발명의 일 구현예에 따르면, 본 발명에서 이용되는 의료기기는 전파 반사체를 포함한다. 본 발명의 일 구현예에 따르면, 단계 (b)는 다음의 소단계를 포함한다: (b-1) 제1마이크로파 발생기를 이용하여 상기 전파 반사체를 향하여 제1마이크로파를 발생시키는 단계; (b-2) 제2마이크로파 발생기를 이용하여 상기 전파 반사체를 향하여 제2마이크로파를 발생시키는 단계; (b-3) 상기 소단계 (b-1) 및 (b-2) 후, 상기 전파 반사체로부터 반사된 제1마이크로파 및 제2마이크로파를 수신하는 단계; 및 (b-4) 상기 수신된 제1마이크로파 및 제2마이크로파에 대한 정보를 이용하여 상기 의료기기의 영상에 대한 제2 실제 3차원 공간좌표를 결정하는 단계.
본 발명의 일 구현예에 따르면, 의료기기에 포함된 영상수단은 복수의 카메라이고 상기 복수의 카메라를 이용하여 상기 단계 (c)에서 상기 의료기기 주변에 대한 3차원 영상을 얻는다. 보다 구체적인 구현예에 따르면, 영상수단으로서의 카메라는 식별부를 포함하며, 보다 더 구체적으로 식별부로서 한 쌍의 링과 이들 링 각각의 일측에 부착된 마커를 포함한다.
본 발명의 일 구현예에 따르면, 의료기기에 포함된 영상수단은 초음파 프로브이고 상기 초음파 프로브를 이용하여 상기 단계 (c)에서 상기 의료기기 주변에 대한 3차원 영상을 얻는다. 보다 구체적인 구현예에 따르면, 상기 영상수단으로서의 초음파 프로브는 식별부를 포함하며, 보다 더 구체적으로 식별부로서 한 쌍의링과 이들 링 각각의 일측에 부착된 마커, 그리고 스캔 라인을 포함한다.
본 발명의 일 구현예에 따르면, 단계 (a)의 인체 3차원 영상과 상기 단계 (c)의 의료기기 주변에 대한 3차원 영상은 서로 이종의 영상이다.
본 발명의 일 구현예에 따르면, 상기 단계 (e)에서 선택되는 동일 좌표에 있는, 의료기기의 영상 및 의료기기 주변에 대한 3차원 영상은 동일 시점의 영상이다.
본 발명의 일 구현예에 따르면, 본 발명의 방법은 주기적인 움직임이 있고 이에 연동하여 시그널(예컨대, 심전도, 혈압, 기관압 및 복압)을 발생시키는 주기적-운동성 인체의 부위(예컨대, 심장)에 대한 3차원 영상 및 그의 제4 실제 공간좌표를 결정하는 단계를 추가적으로 포함하며, 상기 단계 (d)는 상기 제1 실제 3차원 공간좌표, 제2 실제 3차원 공간좌표, 제3 실제 3차원 공간좌표 및 제4 실제 공간좌표를 이용하여 실시한다.
본 발명의 다른 양태에 따르면, 본 발명은 다음을 포함하는 복합 실제 3차원 영상(complex reality three-dimensional image)을 제작하기 위한 시스템을 제공한다:
(a) (i) 의료기기를 대상(subject)에 적용하기 전에 얻은 인체 3차원 영상에 대한 제1 실제 3차원 공간좌표, (ii) 상기 대상에 적용된 의료기기의 영상에 대한 제2 실제 3차원 공간좌표, 및 (iii) 상기 의료기기 주변의 3차원 영상에 대한 제3 실제 3차원 공간좌표를 동일좌표계를 이용하여 계산하는 제1프로세서(processor); 및
(b) 상기 제1 실제 3차원 공간좌표, 제2 실제 3차원 공간좌표 및 제3 실제 3차원 공간좌표를 이용하여, 상기 3종의 3차원 공간좌표에서 동일 좌표에 있는 영상을 조사하고, 상기 동일 좌표 영상이 하나인 경우는 상기 하나의 영상을 선택하고, 상기 동일 좌표 영상이 복수인 경우는 그 중에서 필요한 영상(들)을 선택하여 복합 실제 3차원 영상을 제작하는 제2프로세서.
본 발명의 시스템은 상술한 본 발명의 방법을 구현하기 위한 것으로서, 이 둘 사이에 공통된 내용은 본 명세서의 과도한 복잡성을 피하기 위하여, 그 기재를 생략한다.
본 발명의 일 구현예에 따르면, 상기 시스템은 상기 인체 3차원 영상을 얻기 위한, X선 투시영상(fluoroscopy) 기기, CT(computed tomography) 영상 기기, MRI(magnetic resonance imaging) 영상 기기, PET(Positron emission tomography) 영상 기기, PET/CT 영상 기기, PET/MRI 영상, 기기 RI(radioisotope imaging) 기기 또는 초음파 영상(ultrasonography) 기기를 추가적으로 포함한다.
본 발명의 일 구현예에 따르면, 상기 시스템은 제1 실제 3차원 공간좌표 및 제2 실제 3차원 공간좌표를 얻기 위한 X선 투시영상 기기 또는 고주파(radiofrequency) 전자기선 기기를 추가적으로 포함한다.
본 발명의 일 구현예에 따르면, 상기 시스템은 의료기기를 추가적으로 포함하며 상기 의료기기는 의료기기의 위치 인식을 위한 식별부를 포함한다.
본 발명의 일 구현예에 따르면, 본 발명에서 이용되는 의료기기는 영상수단을 포함한다.
본 발명의 특징 및 이점을 요약하면 다음과 같다:
(a) 본 발명에 따르면, 의료행위가 일어나는 현장의 인체의 공간좌표와 미리 확보된 인체의 3차원영상 및 현장의 영상의료기기에서 얻은 3차원 영상의 좌표를 일치시켜 얻은 3차원 인체 영상 내에서 의료기기의 3차원적인 움직임을 실시간으로 볼 수 있는 영상을 제작할 수 있다.
(b) 본 발명에 따르면, 미리 확보된 인체의 3차원 영상을 의료행위가 일어나는 현장의 인체의 공간위치가 일치하도록 의료기기의 3차원 공간을 인식하여 좌표화 하고, 인체에 삽입되는 의료기기의 공간을 인식할 수 있다.
(c) 본 발명에 따르면, 수술 현장에서 사용되는 X선 촬영을 통하여, 실시간으로 의료기기의 3차원 공간을 인식할 수 있다.
(d) 의료기기와 인체의 3차원 공간 좌표를 인식한 후, 이들 좌표를 통일하여 의료 기기를 통한 정밀한 수술을 진행할 수 있다.
(e) X선 광원, 마이크로파, 초음파 영상 및 3D 카메라를 이용하여 인체와 의료기기의 3차원 공간좌표를 정확히 인식할 수 있는바, 이러한 인체와 의료기기의 정확한 위치 인식을 기반으로 환자의 내부 장기에 불필요한 박리를 방지하고 예상치 못한 의료 사고를 예방하는 효과를 제공한다.
(f) 수술 현장에서 필수적으로 사용이 수반되는 X선 촬영기를 통하여 의료기기의 공간좌표를 인식할 수 있는바, 수술 현장에 불필요한 외부 장비의 반입을 수반하지 않는 효과를 가진다.
(g) 의료기기의 정확한 3차원 공간좌표와 인체의 3차원 좌표를 통일시켜 의료기기가 인체 내부에서 작동되는바, 보다 정밀하고 안전한 수술을 진행할 수 있는 효과를 제공한다.
(h) CT 등의 3차원 영상을 기반으로 인체 3차원 공간좌표, 의료기기의 3차원 공간좌표와 영상의료기기로 촬영된 인체 및 의료장비의 3차원 공간좌표를 조합하여 3차원 영상에 표시하는바 보다 정확한 수술이 가능하도록 하는 효과를 제공한다.
도 1 복수 개의 X선 광원을 사용하여 피사체(의료기기)에 X선을 조사하는 것을 도시한 도면이다.
도 2는 직교 좌표계의 3축을 도시하고, 3차원 공간에서 탐상기 위의 투영된 점 A와 탐상기의 위치를 도시한 (a)와 이 탐상기 위의 점 A를 2차원 평면을 직교 좌표계 상에 도시한 (b)이다.
도 3은 도 1에서 복수의 X선 광원과 피사체의 영상 그리고 피사체가 3차원 평면상에 투영되는 것을 직선으로 도시한 도면이다.
도 4는 식별부(링과 마커)가 부착된 원통형의 의료기기를 도시한 개념 사시도이다.
도 5는 3차원 공간에서 하나의 X선 광원(P)로부터 의료기기에 X선이 조사될 때, X선 탐상기상의 의료기기 영상과 투영되는 의료기기를 도시한 도면이다.( 여기서는 식별부는 생략하였다.)
도 6은 도 5의 탐상기 상의 하나의 링 영상과 링 영상의 가장자리를 연결하는 직선 AB의 영상을 이루게 되는 X 선 광원 P 로부터 X 선이 투과된 의료기기 부분(빗금으로 표시)을 도시한 3차원 평면 도면이다.
도 7은 도 6에서 X 선 광원 P, X 선이 투관된 의료기기 부분(빗금으로 표시)과 탐상기 상의 영상의 직선 AB(가상의 선)는 하나의 평면에 존재하는데, 이를 이차원 평면에 표시한 도면이다.
도 8은 두 개의 링 영상의 가장자리의 점을 각각 A, B, C, D라하고
Figure pat00001
를 양분하는 직선과 직선 AB가 만나는 점을 E,
Figure pat00002
를 양분하는 직선과 직선 CD가 만나는 점을 F라고 할 때, 의료기기와 의료기기의 영상을 도시한 도면이다.
도 9는 도 8에서 점 E, F를 연결하는 직선을 연장하였을 때, 각 링의 영상과 만나는 점을 G, H, I, J라 하면, 이 점들은 X선 광원 P로부터 발사된 X선이 링이 포함된 의료기기의 중심축을 투과되어 형성된 영상이다. 이때 X선이 투과된 링 위의 점을 각각 G', H', I', J' 라고 하고, 이를 3차원 평면도에 도시하였다.
도 10은 도 9에서 의료기기의 중심축을 통과하여 형성된 점(G, H, I, J)과 그에 대응되는 점(G', H', I', J') 그리고 P는 한 평면상에 존재하므로, 이들의 관계를 이차원 평면에 도시하였고, 점 G', H'를 연결하는 선분의 중점을 Oa , 점 I', J'를 연결하는 선분의 중점을 Ob로 표시하였다.
도 11은 링의 한 점을 표시한 마커가 포함된 의료기기와 X선 광원 P와 탐상기상의 의료기기의 영상이고, 링의 중점을 Oa, 링과 마커가 만나는 점을 M'이라하고, 그 영상을 M이라 하고, 도 10의 G, H, I, J를 도시하였다.
도 12는 한 쌍의 링과 그 링의 특정 부위를 표시하는 bar형태의 마커가 부착된 카메라의 외형의 사시도이다.
도 13은 피사체가 3D 카메라에 이미지 영상이 맺히는 것을 도시한 도면이다.
도 14는 피사체의 모니터 영상과 이미지 센서에 맺히는 영상을 도시한 도면이다.
도 15는 도 12를 3차원 좌표에 개략적인 직선으로 도시한 도면이다.
도 16은 초음파 영상 의료기기의 식별부에 링, 마커, 스캔라인이 포함된 것을 도시한 사시도이다.
본 발명에 따른 복합 실제 3차원 영상인체와 의료기기의 공간좌표 통일화 방법 및 시스템은 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는바, 특정 실시예들을 도면에 예시하고 상세한 설명에 상세하게 설명하고자 한다. 그러나 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 기술적 사상 및 기술 범위에 포함되는 모든 변경, 균등물 또는 대체물을 포함하는 것으로 이해되어야 한다.
이하에서는 도면을 참조하여, 본 발명의 복합 실제 3차원 영상의 제작 방법을 상세하게 설명하면 다음과 같다:
단계 (a): 인체 3차원 영상에 대한 제1 실제 3차원 공간좌표의 결정
본 발명에 따르면, 우선 의료기기를 대상(subject)에 적용하기 전에 얻은 인체 3차원 영상에 대한 제1 실제 3차원 공간좌표를 결정한다.
본 발명에 따른 복합 실제 3차원 영상의 제작방법은 대상(구체적으로 인간, 보다 구체적으로 인간 환자)의 인체에 대한 3차원 영상의 제 1 실제 3차원 공간좌표와 의료기기의 영상에 대한 제2 실제 3차원 공간좌표를 각각 구하고, 이들 3차원 공간좌표를 일치화 하는 것이다.
본 발명에서 이용되는 의료기기를 대상에 적용하기 전에 얻은 인체 3차원 영상은 다양한 영상 장비를 이용하여 얻은 것이다. 인체를 적합한 영상 장비로 스캐닝하고, 3차원 영상을 제작한다. 인체의 3차원 영상은 인체의 피부는 물론 내부의 장기(臟器) 및 뼈(bone)의 영상을 포함함은 물론이다.
본 발명의 일 구현예에 따르면, 상기 인체 3차원 영상은 X선 투시영상(fluoroscopy), CT(computed tomography) 영상, MRI(magnetic resonance imaging) 영상, PET(Positron emission tomography) 영상, PET/CT 영상, PET/MRI 영상, RI(radioisotope imaging), 초음파 영상(ultrasonography) 또는 이들의 복합영상이고, 구체적인 구현예에 따르면, CT 영상 또는 MRI 영상이다.
상기 인체 3차원 영상은 상기 영상 장치로부터 획득한 영상 하나 일수도 있다. 선택적으로, 인체 3차원 영상은 상기 영상의 복수개를 합성한 복합 영상일 수 있다.
제1 실제 3차원 공간좌표의 결정은 다양한 전자기선을 실시할 수 있으며, 구체적으로 X선 또는 고주파 전자기선, 보다 구체적으로는 X선을 이용하여 실시할 수 있다.
제1 실제 3차원 공간좌표의 결정을 X선을 이용하여 실시하는 경우, 제1 실제 3차원 공간좌표의 결정은 X선 투시법(모노-플랜 X선 투시법, 바이-플랜 X선 투시법 또는 멀티-플랜 X선 투시법 포함)을 이용하여 실시할 수 있다.
단계 (a)에서의 인체 3차원 영상에 대한 제1 실제 3차원 공간좌표는, 의료기기를 대상에 적용하기 전에 얻은 인체 3차원 영상의 3차원 공간좌표 및 상기 대상 인체의 특정 부분의 실제 3차원 공간좌표를 이용하여 결정될 수 있다. 택일적으로, 인체의 특정 부분의 실제 3차원 공간좌표를 이용하지 않고, 직접적으로 인체 3차원 영상에 대하여 3차원 공간좌표를 결정할 수 있다. 예를 들어, 현재의 시술 실무에서 수술대에 인체 3차원 영상을 얻는 설비가 있으며, 이 수술대에 위치한 환자로부터 직접적으로 인체 3차원 영상을 얻고 그의 실제 3차원 공간좌표를 결정할 수 있다. 택일적으로, 수술대에서 얻은 3차원 영상과 수술대가 아닌 곳에서 얻은 3차원 영상을 이용하여 실제 3차원 공간좌표를 결정할 수도 있다.
왜냐하면 시술 전에 CT나 MRI로 촬영된 인체의 3차원 영상은 조영제를 사용하여 얻은 영상이어서, 조영제 없이 사용하는 X선 투시법으로 촬영한 영상과는 영상의 질이 다르고, 수술하는 과정에서 계속적으로 조영제를 사용하기 어렵기 때문에, X선 투시법을 이용하여 CT 등의 3차원 영상의 실제 3차원 공간좌표를 산출하여, 이용하는 것은 매우 효과적이기 때문이다.
X선 투시법은 다양한 방식으로 실시할 수 있다. 구체적으로, 제1 실제 3차원 공간좌표의 결정은 (a-1) 제1 X선 광원을 이용하여 상기 대상의 인체의 특정 부분을 향해 X선을 조사하는 단계; (a-2) 제1 X선 탐상기(detector)를 이용하여 상기 제1 X선 광원에 의한 상기 인체의 X선 투시 영상을 탐상하는 단계; (a-3) 제2 X선 광원을 이용하여 상기 제1 X선 광원에 의한 X선에 교차하도록 상기 인체의 특정 부분을 향해 X선을 조사하는 단계; (a-4) 제2 X선 탐상기를 이용하여, 상기 제2 X선 광원에 의한 상기 인체의 X선 투시 영상을 탐상하는 단계; 및 (a-5) 상기 제1 X선 탐상기 및 제2 X선 탐상기에서 탐상된 상기 인체의 영상을 이용하여 상기 인체 3차원 영상에 대한 제1 실제 3차원 공간좌표를 결정하는 단계를 포함한다.
상기 (a-5) 소단계는 (a-5-1) 상기 제1 X선 광원 및 상기 제1 X선 탐상기의 물리적인 3차원 좌표 정보와 이들 상호간의 거리 정보 및 상기 제1 X선 탐상기에 탐상된 상기 인체의 특정 부분 크기 정보를 이용하여, 상기 제1 X선 광원 및 상기 제1 X선 탐상기 사이에 위치한 상기 인체의 특정 부분의 3차원 영상에 대한 3차원 공간좌표를 결정하고; 상기 제2 X선 광원 및 상기 제2 X선 탐상기의 물리적인 3차원 좌표 정보와 이들 상호간의 거리 정보 및 상기 제2 X선 탐상기에 탐상된 상기 인체의 특정 부분 크기 정보를 이용하여, 상기 제2 X선 광원 및 상기 제2 X선 탐상기 사이에 위치한 상기 인체의 특정 부분의 3차원 영상에 대한 3차원 공간좌표를 결정하는 단계; (a-5-2) 상기 제1 X선 광원 및 상기 제1 X선 탐상기 사이에 위치한 상기 인체의 특정 부분의 3차원 영상에 대한 3차원 공간좌표와 상기 제2 X선 광원 및 상기 제2 X선 탐상기 사이에 위치한 상기 인체의 특정 부분의 3차원 영상에 대한 3차원 공간좌표를 이용하여, 상기 인체의 특정 부분의 3차원 공간좌표를 결정하는 단계; 및 (a-5-3) 상기 인체의 특정 부분의 3차원 공간좌표를 상기 단계 (a)의 인체 3차원 영상의 3차원 공간좌표에 일치시켜 상기 인체 3차원 영상에 대한 제1 실제 3차원 공간좌표를 결정하는 단계를 포함한다.
X선 투시법으로 잘 확인 할 수 있는 인체의 특정 부분을 복수의 X 선 투시법으로 제1 실제 3차원 공간좌표를 산출하여, 이를 기준으로 다른 부분의 실제 3차원 공간좌표를 산출한다. X선 투시법으로 산출하는 실제 3차원 공간좌표는 산출하는 인체의 부분을 여러 개로 하면 오차를 줄일 수 있다. 만약, CT나 MRI가 수술공간에서 촬영되어 3차원 영상의 3차원 공간좌표가 실제 3차원 공간좌표와 같은 경우 이 과정을 생략 할 수 있다.
인체 3차원 영상에 대한 제1 실제 3차원 공간좌표, 제2 실제 3차원 공간좌표 및 제3 실제 3차원 공간좌표는 3차원을 표현할 수 있는 다양한 좌표계를 이용하여 결정할 수 있다. 예컨대 직교 좌표계일 수 있으나, 본 발명을 실시하게 되는 환경 및 사용되는 장비 등에 의해 본 발명의 실시자는 다른 좌표계, 예를 들어 구면 좌표계 등을 기준 좌표계로 삼을 수도 있다.
제1 실제 3차원 공간좌표, 제2 실제 3차원 공간좌표 및 제3 실제 3차원 공간좌표를 일치시키기 위하여, 동일 좌표계가 이용되는데 이 경우 시술이 실시되는 공간의 다양한 지점을 기준으로 할 수 있다. 그 중에서, 시술대를 기준으로 하는 것이 편의성 측면에서 적합하다.
시술대를 기준으로 한 좌표는 예를 들어 다음과 같이 구축할 수 있다. 시술대를 수평으로 놓고, 통상적으로 환자의 머리가 놓이는 쪽을 상단, 다리 쪽을 하단이라고 하고, 하단에서 상단을 관찰 할 때를 기준의 좌우측을 정할 때 아래와 같이 x,y,z 축을 정하고, 원점 O를 정한다: x 축은 시술대의 하단 부위를 지나고, 시술대의 단축과 평행이고 수평인 선; y 축은 X선 탐상기 또는 X선 광원이 최대한 좌측으로 위치할 수 있는 점을 지나면서, 수직이고 x축과 만나는 선; z 축은 x 축과 y 축이 만나는 점을 지나고, 시술대의 장축에 평행이고, 수평인 선.
본 발명의 일 구현예에 따르면, 시술대를 기준으로 하는 경우, 시술대에 3차원 좌표의 설정에 도움이 되는 눈금이 있으면 경우 3차원 좌표 설정에 유리하다.
단계 (b): 인체 의료기기의 영상에 대한 제2 실제 3차원 공간좌표의 결정
이어, 대상에 적용된 의료기기의 영상에 대한 제2 실제 3차원 공간좌표를 결정한다. 의료기기는 영상수단을 포함한다.
인체를 3차원 영상화하고 이를 공간좌표화 하는 것과는 개별적으로, 의료기기를 공간좌표화 한다.
여기서 의료기기는 환자의 신체 외부에 접촉 또는 신체 내부로 들어가는 모든 의료기기를 포함한다. 본 발명에서 이용되는 의료기기는 두 가지 종류로 나눌 수 있으며, 하나는 영상 의료기기이고 다른 하나는 기능을 하는 의료기기이다. 기능을 하는 의료기기는 스텐트를 비롯하여 가위, 칼 및 바늘 등과 같이 시술행위를 하는 기구이다. 구체적으로는 본 발명에 이용되는 의료기기는 내시경 기기, 초음파 영상 장치 및 수술용 로봇 등 각종 의료기기의를 포함한다.
여기서 주의할 점은 인체를 3차원 공간좌표화 하는 것과 의료기기의 위치를 3차원 공간좌표화 하는 것은 시간적으로 반드시 선후 관계가 존재하지 않는다는 점이다. 따라서 청구항에서는 인체의 공간좌표화는 (a) 단계로 기재하고, (b) 단계에서는 의료기기의 공간좌표화를 기재하였으나, 의료기기를 먼저 공간좌표화하여도 무방하며, 이는 본 발명의 권리범위에 속한다고 해석되어야 한다.
인체의 3차원 공간좌표화와 의료기기의 3차원 공간좌표화는 병렬적 및 독립적으로 진행되는 개념이며, 다만, 통상적으로 환자의 CT 또는 MRI 촬영을 먼저 한 후에, 수술 등을 진행하게 되는바, 실무적으로는 인체의 3차원 영상 제작 및 3차원 공간좌표화가 의료기기의 3차원 공간좌표화에 선행할 뿐이다.
본 발명에서 이용되는 공간좌표는 동일한 좌표계여야하며 그 단위도 동일해야한다. 의료기기의 3차원 공간좌표는 일례로 직교 좌표계일 수 있다.
인체와 의료기기는 예를 들어 X선 투시법에 의해 실제 3차원 공간좌표를 구하되, 초음파 영상장치 또는 3D 카메라를 추가적으로 이용하여 X선 투시법에 의한 공간좌표화를 보조할 수 있다.
X선 투시법으로 공간좌표를 구하는 경우, X선은 환자를 수술하는 중에 지속적으로 조사되는 광원인바, 이러한 X선 투시법에 의하는 것이 별도의 의료기기의 사용을 불필요하도록 하여 매우 경제적이다.
CT 등으로 촬영된 영상은 실시간 변화되는 신체의 영상이 아니므로, 이를 보완하기 위하여 3D 카메라나 초음파 영상을 사용하여, 영상을 결합하여 필요한 영상을 얻는데, 영상이 결합하는 기준점은 환자의 신체가 위치하는 실제 3차원 공간좌표를 기준으로 할 수 있다. 3D 카메라나 초음파의 영상은 각 기기의 기준점을 기준으로 구성된 3차원 영상이므로, 그 기준점의 실제 3차원 공간좌표를 알면, 3D 카메라나 초음파로 촬영한 인체나 의료기기의 3차원 공간좌표를 실제 3차원 공간좌표로 대치할 수 있다. 영상기기의 기준점의 3차원 공간좌표는 X선 투시법을 이용하여 영상기기를 포함하는 의료기기의 실제 3차원 공간좌표를 산출할 수 있다.
3차원 공간좌표를 통합 또는 일치시키는 경우, 동일 공간좌표 내에 복수의 다양한 영상좌표가 존재하게 되는데, 이 중에서 필요한 영상의 좌표를 선택하여 3차원 영상으로 재구성하여 사용한다.
예를 들어, 대동맥류의 치료로 스텐트를 삽입하는 경우, 대동맥의 모양은 조영제를 사용하여 촬영한 CT에서 얻어온 인체 3차원 영상을 이용하고, 스텐트를 포함한 의료기기는 X선 투시법으로 산출한 3차원 영상을 사용한다. 이때, 스텐트를 포함한 의료기기는 대동맥 안에 위치함으로, 의료기기의 좌표는 대동맥의 좌표에 포함되게 되므로, 의료기기가 차지하는 좌표는 의료기기로 표현하고, 나머지 대동맥의 좌표는 대동맥으로 표현한다.
또 다른 예로는 3차원 내시경을 이용하여 폐를 수술하는 경우, 수술 시에는 폐의 공기가 빠져나가 폐의 용적이 줄어든 상태로 수술하는데, CT의 3차원 영상은 이를 반영하지 못하므로, 용적이 줄어든 폐의 영상은 3D 카메라의 영상을 사용하고, 3D 카메라로 보이지 않는 부분은 CT의 3차원영상을 사용한다.
또 다른 예로는 심장 판막을 카데터를 이용하여 수술(시술)하는 경우, 카테터가 심장까지 도달하기 위하여 혈관을 통하여 하는데, 이때는 CT의 3차원 영상의 혈관 모양에, X선 투시법을 이용한 카테터의 3차원 영상을 이용하고, 심장의 판막의 움직임은 X 선 투시법으로 관찰이 어려움으로 초음파 영상(이차원 혹은 삼차원)을 이용하고, 카테터의 세밀한 영상은 초음파 영상으로 파악하기 어려우므로 X선 투시법을 이용한 3차원 영상을 사용한다.
또한, 본 발명은 대상에 적용된 의료기기의 영상에 대한 제2 실제 3차원 공간좌표를 결정한다.
인체 3차원 영상에 대한 제1 실제 3차원 공간좌표 및 의료기기의 영상에 대한 제2 실제 3차원 공간좌표의 결정을 X선 투시법을 예시하여 상세하게 설명하면 다음과 같다.
먼저 제1 X선 광원(1a)을 이용하여 인체의 특정 부분(또는 의료기기)을 향해 X선을 조사한다. 이후, 제1 X선 탐상기는 제1 X선 광원으로부터 조사되어 인체의 특정 부분(또는 의료기기)을 통과한 X선을 탐상한다. 동일한 방법으로 제2 X선 광원(1b)을 이용하여 인체의 특정 부분(또는 의료기기)을 향해 X선을 조사하고, 제2 X선 탐상기는 제2 X선 광원으로부터 조사되어 인체의 특정 부분(또는 의료기기)을 통과한 X선을 탐상한다. 이 경우, 도 1에 도시된 바와 같이, 제1 X선 광원 및 제2 X선 광원으로부터 조사된 X선은 동일한 신체의 특정 부분(또는 의료기기)을 탐상하고, X선은 서로 교차한다.
제1 X선 광원의 물리적인 좌표의 위치는 물리적으로 미리 주어진 정보이며, 제1 X선 탐상기의 물리적인 좌표 위치 역시 물리적으로 미리 주어진 정보이다. 또한, 제2 X선 광원의 물리적인 좌표의 위치는 물리적으로 미리 주어진 정보이며, 제 2 X선 탐상기의 물리적인 좌표 위치 역시 물리적으로 미리 주어진 정보이다. 만약 인체의 특정 부분(또는 의료기기)이 극히 작다면, 도 3과 같이 선이 만나는 점으로 나타낼 수 있을 것이다. 탐상되는 특정 부분을 점으로 나타내기 위하여서는, X선에 잘 탐색되는 작은 부위거나, 탐색하는 각도에 따라서 영상의 중점이 나타내는 부위의 위치 변화가 작은 특성이 있어야 한다. 여기서 인체의 특정 부위는 자연적인 인체의 부위만으로 한정하는 것이 아니라, 목적에 따라 신체의 내부 혹은 외부에 위치하는 인조물 혹은 자연물을 포함하는 개념이다.
도 3의 직선이 만나는 점을 구하기 위하여서는, 탐상기위의 영상의 실제 좌표를 구하여야 한다. 실제 3차원 공간에 X선 탐상기가 임의의 공간에 위치하고, X선에 의하여 생긴 탐상기 위의 영상 A를 도시화 한 것이 도 2의 (a)이고, 탐상기상의 영상을 이차원 좌표를 도시한 것은 도 2의 ( b )이다.
수술대에 설치된 X 선 투시기에서, 물리적으로 X선 광원의 위치와 탐상기의 실제 3차원 공간좌표를 알 수 있다. 이를 토대로 탐상기상의 영상의 실제 3차원 공간좌표를 알 수 있다.
도 2의 X선 탐상기의 중점 D 와 탐상기의 이차원좌표를 구성하는 Xd축 과 Yd 축은 물리적으로 알 수 있다. 점 D의 좌표를 (d1, d2, d3), Xd축의 벡터를
Figure pat00003
, Yd축의 벡터를
Figure pat00004
라 하고, detector에 생긴 영상의 점 A의 좌표가 (a, b) 이면, 점 A의 3차원 좌표(a1, a2, a3)를 산출 할 수 있는 데, 방법은 아래와 같다.
점 A는 Xd축에 있으면서 점 D로부터 a 만큼 떨어진 점 H 을 지나면서, Yd와 같은 벡터
Figure pat00005
를 갖는 직선상에 위치하고, 점 H로 부터 b 만큼 떨어진 점이다.
점 H(h1 , h2 ,h3)이면,
Figure pat00006
- > 식(1)
직선
Figure pat00007
는 점 D를 지나면서
Figure pat00008
를 갖는 직선이므로,
Figure pat00009
의 방정식은
Figure pat00010
점 H는 직선
Figure pat00011
상의 점이므로,
H의 좌표 (h1 , h2 ,h3)를 대입하면
Figure pat00012
그러므로
Figure pat00013
Figure pat00014
이다
이를 식(1)에 대입하면
Figure pat00015
같은 방법으로 풀면,
Figure pat00016
이다.
그러므로 점 H (h1 , h2 ,h3)의 좌표는
Figure pat00017
이다.
이를 H (h1 , h2 ,h3)라고 하면,
점 H를 지나고 Yd의 벡터 즉 벡터
Figure pat00018
를 갖는 직선은
Figure pat00019
이다.
점 A (a1 , a2 ,a3)는 이 직선상에 위치하므로,
Figure pat00020
-> 식(2)
점 H와 점 A의 거리는 b 이므로,
Figure pat00021
-> 식(3)
식(2)와 식(3)을 정리하면,
Figure pat00022
이를 각각
Figure pat00023
를 대입하면,
Figure pat00024
이다.
그러므로 방사선 탐상기의 중점 D (d1, d2, d3)를 알고, 탐상기의 기준선의 즉 Xd, Yd의 vector
Figure pat00025
를 알고, 탐상기상의 임의 점 A의 좌표(a,b)를 알면, 점 A의 3차원 좌표를 구할 수 있다.
이와 같이 탐상기위의 임의 영상의 실제 3차원 공간좌표를 구한 다음, 도 3에서 3차원 공간에서 교차하는 점의 좌표를 구하면, 그 좌표는 인체의 특정 부분(또는 의료기기)의 좌표가 될 것이다.
그 좌표를 구하는 방법은 아래와 같다.
도 3에서 X선 광원 A에서, 면적이 극히 작은 피사체 M을 촬영하여, 생긴 영상을 편의 상 점 B라 하고, 광원 C에 대응하는 영상을 D라고 하면 두 점 A, B를 지나는 직선
Figure pat00026
의 방정식은
Figure pat00027
이를
Figure pat00028
라고 하면
Figure pat00029
이다.
두 점 C, D를 지나는 직선
Figure pat00030
의 방정식은
Figure pat00031
Figure pat00032
라고 하면,
Figure pat00033
이다.
직선
Figure pat00034
와 직선
Figure pat00035
가 만나는 점을 M (m1, m2, m3)이라 하면, 점 M은
Figure pat00036
,
Figure pat00037
상에 있는 점이므로,
Figure pat00038
->식(4)
Figure pat00039
->식(5)
식(4)에서
Figure pat00040
식(5)에서
Figure pat00041
Figure pat00042
Figure pat00043
같은 방법으로 m2, m3를 구할 수 있다.
이상과 같이 방사선 투시법을 이용하여, 복수의 방사선 투시법을 이용하여 인체의 특정 부분의 실제 3차원 좌표를 구하고, 이를 CT 등의 3차원 영상의 3차원 좌표와 일치 시켜서 CT 등의 3차원 영상의 실제 3차원 공간좌표를 구할 수 있다.
동일 특정 인체 부분에 2개 이상의 투시법을 시행할 수 있으며, 투시법이 많을수록 실제 3차원 공간좌표의 산출의 오차가 줄어들 것이다.
또한, 도 1에서 보듯이, 방사상으로 뻗어 나가는 X선의 특징으로 인해 인체의 특정 부분(또는 의료기기)가 광원에 가까우면 탐상기의 인체의 특정 부분(또는 의료기기)의 영상은 커질 것이며, 반대로 광원으로부터 인체의 특정 부분(또는 의료기기)가 멀리 떨어져 있을수록 인체의 특정 부분(또는 의료기기)의 영상은 인체의 특정 부분(또는 의료기기)의 실제 크기와 같아질 것이다. 인체의 특정 부분(또는 의료기기)의 탐상되는 각도에 따른 크기는 CT 등의 3차원 영상에서 구할 수 있어, 인체의 특정 부분(또는 의료기기)의 영상의 크기를 측정하면, 인체의 특정 부분(또는 의료기기)이 제1 X선 광원과 제1 탐상기 사이, 제2 X선 광원과 제2 탐상기 사이 어느 좌표에 위치하고 있는지를 계산할 수 있게 된다. 이를 통하여 전술한 공간상에서 두 직선의 교차점을 구하여 실제 3차원 좌표를 구하는 방식은 보완 할 수 있을 것이다.
의료기기의 실제 3차원 공간좌표를 산출하는 방법에서는 의료기기의 기계적인 모양과 크기를 알면 좀 더 효과적으로 3차원 공간좌표를 산출 할 수 있다. 그리고, 단수의 X 선 투시로도 실제 3차원 공간 좌표를 산출할 수 있다.
의료기기 전체의 모양과 크기를 알고 X 선 투시법을 이용하기 보다는 의료 기기의 일정 부분에 식별부를 장착하여 이용하는 것이 효과적이다. 왜냐하면 의료기기에 장착된 식별부의 3차원적인 위치가 파악되면 이를 이용하여 의료기기 전체의 3차원적인 위치를 파악할 수 있기 때문이다.
식별부는 방사선 투시를 하였을 때, 투시되는 인체와 구분이 쉽게 되기 위한 특징을 갖는 한, 어떠한 형상, 형태 및 구조를 가질 수 있다.
보다 특정적으로, 상기 식별부는 (i) 1개 이상의 구 형태의 식별부, (ii) 1개 이상의 링 형태의 식별부, (iii) 링 및 상기 링의 특정 위치를 표시하는 1개 이상의 마커를 포함하는 식별부, (iv) 1 이상의 쌍으로 된 링을 포함하는 식별부, 또는 (v) 1 이상의 쌍으로 된 링과 상기 링의 특정 위치를 표시하는 1개 이상의 마커를 포함하는 식별부이다.
본 발명의 일 구현예에 따르면, 식별부는 링과 마커로 구성되고, 링은 한 쌍 이상으로 구성되며(상기 링은 두께가 동일 또는 상이함), 의료기기를 둘러싸도록 구성된다.
상기 2개 이상의 링의 위치는 의료기기에서 서로 이격되어 있으면 어떠한 위치도 무방하며, 예를 들어 하나의 링은 의료기기의 말단에 다른 링은 이 말단과 거리를 두어 위치할 수 있다.
식별부의 투시되는 인체와 방사선 투과도가 다르면, 어떠한 물질로도 제작할 수 있다. 예를 들어, 식별부는 방사선 투과도가 매우 낮은 재질로 제작할 수 있다.
본 발명의 일 구현예에 따르면, 링은 의료기기의 중심축에 대하여 수직인 평면에 위치할 수 있고, 필요에 따라 복수의 마커를 장착할 수도 있다. 이런 마커는 의료기기에 복수개가 장착될 수도 있으나 10개 이하로 배치하는 것이 유리하다.
본 발명의 일 구현예에 따르면, 상기 식별부는 2개 이상의 링 및 1개 이상의 마커를 포함하고, 상기 2개 이상의 링은 서로 위치를 달리하여 상기 의료기기에 장착되어 있고, 상기 1개 이상의 마커는 상기 링의 위치를 표시할 있는 위치에 장착되어 있다. 상기 마커는 링의 특정 위치를 표시하기 위한 수단으로서, 예를 들어, 상기 마커는 상기 링의 일측에 부착되어 장착될 수 있고, 부착되지 않고 조금 떨어진 곳에서 직선의 마커가 직선으로 연장된 곳에 있어도 링의 특정 부위를 표시할 수 있다.
링을 필요에 따라 2개 이상을 배치할 수 있으며, 서로 다른 두께로 하여 의료기기의 방향을 파악할 수 있도록 하는 것이 바람직하다. 또한, 링의 특정 위치를 표시할 수 있는 마커를 이용하면, 의료기기 내부의 상대적인 위치를 파악 할 수 있다. 의료기기가 굴곡을 형성할 수도 있는데, 굴곡 부위 전후에 위와 같은 링을 두 개씩 배치하면, 굴곡 되는 3차원 영상을 얻을 수 있다.
도 4는 식별부(링과 마커)가 부착된 원통형의 의료기기를 도시한 개념 사시도이다. 여기서 계산의 편의를 위하여 두 링은 하나의 중심축을 갖는 같은 원통의 표면에, 그리고 중심축의 수직인 평면에 위치하고, 두 링의 지름은 같다. 이하의 도면 설명도 같다.
도 5는 임의 위치의 탐상기에서 임의의 위치에 있는 식별부가 부착된 의료기기를 방사선 투시하여 얻은 영상과 의료기기를 3차원 평면에 도시한 것이다. 영상의 위치는 탐상기의 위다. X선 광원 P에서 방사선이 조사되면, 의료기기를 통과하여 탐상기의 표면에 도 5와 같이 영상이 생길 것이다. 광원 P에서 조사된 방사선이 두 개의 링 접점 A', B', C', D'를 지나 탐상기 면에 이에 대응하는 A, B, C, D의 영상을 만들 것이다. 그러므로 점 A', B', C', D'는 직선
Figure pat00044
,
Figure pat00045
에 위치한다. 그러므로
Figure pat00046
는 동일한 평면에 존재하는 선이다. 도 6에서 보듯이 이 평면은 X 선 광원 P에서 방사선이 원통형 의료기기를 비스듬히 자르면서 지나가는 면이다. 그리고 도 7은 이 평면을 이차원 도면으로 본 모양이다. 도 7에서 보듯이 원통형이 잘린 모양은 타원이 되고, X선 광원 P는 중점 O를 갖는 타원의 한 축에 위치하고, 직선
Figure pat00047
는 점 P를 지나는 타원의 접선이고, 접점 A', B'를 지난다. 그리고 직선
Figure pat00048
와 직선
Figure pat00049
가 만나는 점을 E라고 한다면, ∠APE와 ∠BPE는 같다. 그런데 점 P, A, B의 좌표를 알고 있으므로 점 P를 지나며
Figure pat00050
를 양분하는 직선과 직선
Figure pat00051
를 만나는 점 E의 좌표를 산출 할 수 있다.
방법 ∠APE =∠BPE =
Figure pat00052
라고 한다면, 삼각형
Figure pat00053
의 넓이
Figure pat00054
Figure pat00055
, 삼각형
Figure pat00056
의 넓이
Figure pat00057
Figure pat00058
이다.
Figure pat00059
그러므로
Figure pat00060
이다. 그런데 삼각형 APE와 BPE는 높이가 갖고 다른 밑변을 가지므로,
Figure pat00061
이다. 그럼으로,
Figure pat00062
이다.
선분
Figure pat00063
Figure pat00064
Figure pat00065
를 양분하는 선이 만나는 점을 각각 E, F라고 하면, 선분
Figure pat00066
는 X선 광원 P에서 조사된 방사선이 원통형 의료기기의 중심축을 지나면서 만든 의료기기의 영상이다. 그리고
Figure pat00067
의 연장선도 그럴 것이다. 도 8 내지 10에서 보듯이, 선분
Figure pat00068
의 연장선과 한 쌍의 링의 영상이 만나는 점을 각각 G, H, I, J라고 하면, X선의 광원 P에서 조사되는 방사선이 링의 위의 점 G', H', I', J'를 투과하여 탐상기의 영상의 점 G, H, I, J를 만들었을 것이다. 그러므로 도 10에서 보듯 점 G', H', I', J'는 의료기기의 중심축과 X선 광원 P 그리고 직선
Figure pat00069
를 포함하는 면과 의료기기에 장착된 한 쌍의 링과 만나는 점이다.
그러므로 점 P, G, H, I, J, G', H', I', J'는 한 평면상에 존재하는 점 들이다. 이평면을 이차원 도면으로 보면 도 10과 같다.
도 10에서 점 P는 X선 광원이고, 점 G, H, I, J는 점 P에서 조사된 방사선이 점 G', H', I', J'를 투과하여 탐상기에 생긴 영상의 점이다.
사각형 G'H'I'J'는 링과 링 사이의 원통형 의료기기를 중심축이 포함되게 자른 원통의 종단면이다. 그러므로 사각형 G'H'I'J'는 직사각형이다. 그리고 점 G', H'은 링의 중심을 기준으로 서로 마주보는 링 위의 점이다. 그리고 점 I', J'은 링의 중심을 기준으로 서로 마주보는 링 위의 점이다. 따라서 선분
Figure pat00070
Figure pat00071
의 길이는 링의 지름이고, 선분
Figure pat00072
Figure pat00073
의 길이는 링과 링 사이의 거리이다.
그런데, 원통형 의료기기의 3차원 공간좌표를 알기 위하여서는 링의 3차원 공간좌표를 알 수 있으면 가능할 것이다. 또한 이를 토대로 원통의 중심축을 알고 있으면, 의료기기 조작의 수월성을 확보할 수 있을 것이다.
Figure pat00074
Figure pat00075
를 이등분하는 점을 각각 Oa, Ob라고 한다면, 이 두 점을 잇는 직선은 원통형 의료기기의 중심 일 것이다(도 10에서는 생략).
그러므로 점 G', H', I', J'의 3차원 공간좌표를 알면, 의료기기의 3차원 공간좌표를 구할 수 있을 것이다.
점 P는 X선 광원이고, 점 G, H, I, J는 점 P에서 조사된 방사선이 점 G', H', I', J'를 투과하여 탐상기에 생긴 영상의 점이므로, 상술한 방법으로 점 P, G, H, I, J 의 3차원 공간좌표를 알 수 있다.
점 G', H', I', J'는 직선
Figure pat00076
위에 있는 점이므로, 점 P로 부터의 거리 즉,
Figure pat00077
의 길이를 알면, 직선의 방정식과 두 점 사이의 공식을 이용하여 산출 할 수 있을 것이다.
도 10에서 보듯이 점 P에서 선분
Figure pat00078
Figure pat00079
연장선상에 수선을 내려서 만나는 점을 각각 S, T라 하고,
Figure pat00080
의 길이와
Figure pat00081
의 길이는 R,
Figure pat00082
의 길이와
Figure pat00083
의 길이를 L,
Figure pat00084
의 길이는 m,
Figure pat00085
의 길이와
Figure pat00086
의 길이를 n이라 한다. 이 때 R은 링의 지름이고, L은 링 사이의 거리가 된다.
이를 수식으로 나타내면,
Figure pat00087
그러므로
Figure pat00088
Figure pat00089
이다.
그런데 L, R은 링간의 거리와 링의 지름이므로 이미 알고 있는 상수이다. 따라서 m, n을 구하면 직선
Figure pat00090
의 거리를 알 수 있을 것이다.
m, n을 구하기 위한 방법은 다음과 같다.
Figure pat00091
라고 한다면,
Figure pat00092
이다
공식 :
Figure pat00093
를 이용 정리
Figure pat00094
Figure pat00095
-> 식(6)
Figure pat00096
Figure pat00097
-> 식(7)
Figure pat00098
Figure pat00099
Figure pat00100
Figure pat00101
-> 식(8)
Figure pat00102
Figure pat00103
-> 식(9)
Figure pat00104
Figure pat00105
Figure pat00106
-> 식(10)
Figure pat00107
Figure pat00108
-> 식(11)
식(6)-식(7)하면
Figure pat00109
Figure pat00110
-> 식(12)
식(8)-식(10)하면
Figure pat00111
여기에 식(12)를 대입하면
Figure pat00112
Figure pat00113
Figure pat00114
그런데 식(12)에서
Figure pat00115
임을 알 수 있으므로
Figure pat00116
Figure pat00117
즉 m, n은 알려진 상수 L(링 간의 거리), R(링의 지름),
Figure pat00118
로 나타낼 수 있다.
그런데
Figure pat00119
는 삼각형
Figure pat00120
의 각 변의 길이를 알면 알 수 있다.
코사인 제 2 법칙;
Figure pat00121
을 이용하여 정리하여 보면,
Figure pat00122
Figure pat00123
이다.
그런데, 점 P, G, H, I, J의 좌표를 알고 있으므로, 두 점 사이의 공식을 이용하여 각 직선의 거리를 알 수 있다.
이를 통하여 h, i, j의 값을 구하고 각각의 tan 값을 구할 수 있다.
이를 통하여 m, n의 값을 구할 수 있다.
이상과 같이 점 G', H', I', J'의 3차원 공간좌표를 구할 수 있고, 선분
Figure pat00124
Figure pat00125
를 이등분하는 점 Oa와 Ob를 산출하여 의료기기의 영상에 대한 제2 실제 3차원 공간좌표를 산출 할 수 있다.
또한, 마커에 의하여 표시되는 링 위의 점의 3차원 공간좌표는 점 G', H', I', J', Oa, Ob의 3차원 공간좌표를 이용하여 산출할 수 있다.
도 11은 링의 한 점을 표시한 마커가 포함된 의료기기와 X선 광원 P와 탐상기상의 의료기기의 영상이고, 링의 중점을 Oa, 링과 마커가 만나는 점을 M'이라하고, 그 영상을 M이라 하고, 도 10에서의 G, H, I, J를 도시하였다.
점 M'은 점 P, M를 지나는 직선
Figure pat00126
상에 있고, 링 위의 점이므로, 원의 중점 Oa로부터
Figure pat00127
만큼 떨어져 있다.
P
Figure pat00128
, M
Figure pat00129
이고 Oa
Figure pat00130
, Ob
Figure pat00131
이면,
Figure pat00132
의 방정식은
Figure pat00133
Figure pat00134
,
Figure pat00135
,
Figure pat00136
라고 하고,
M'의 좌표를
Figure pat00137
라고 하면,
Figure pat00138
-> 식(13)
M'와 Oa의 거리가 R/2이므로,
Figure pat00139
-> 식(14)
또한 M'은 점 Oa를 중점으로 하고 A', B', G', H'를 지나는 원의 한 점이므로, 동일 평면상에 존재하고, 이 평면은 점 O a , 점 Ob를 연결하는 선을 법선으로 갖고 있다.
이 평면의 방정식은
Figure pat00140
이다.
그러므로
Figure pat00141
-> 식(15)
식(13), 식(14), 식(15)를 정리하여
M'
Figure pat00142
을 구할 수 있다.
구해진 M', G', Oa, H'의 좌표로 부터
Figure pat00143
를 구할 수 있고 이를 이용하여 마커의 상대적인 위치를 알 수 있어 의료기기의 조작을 용이하게 할 수 있다.
링과 링 사이가 굴곡 없이 서로 평행으로 되어 있으면, 링과 링 사이의 의료기기의 위치를 파악할 수 있어 3차원 영상을 구현할 수 있다.
또한, 링 위의 특정한 점을 표시할 수 있는 마커를 이용하면, 의료기기 내부의 상대적인 위치를 파악할 수 있다.
마커는 필요에 따라 링에 하나 이상 부착할 수 있다. 의료기기가 굴곡을 형성할 수 있는 경우, 굴곡 부위 전후에 위와 같은 두 개의 링을 부착하면, 굴곡되는 3차원 영상을 얻을 수 있다. 굴곡 부위는 두 개 이상일 수 있다.
X선 투시법에서 광원이 복수 개가 아닌 하나의 광원을 이용하는 경우에는 의료기기에 소정의 마커가 필요하다. 그리고 복수의 광원을 이용하는 경우도, 소정의 마커를 이용함으로써 의료기기의 실제 3차원 공간좌표를 산출하는데 보완적인 도움을 줄 것이다.
소정의 마커는 의료기기의 회전, 방향 등을 인식할 수 있는 식별체이다. 상술한 바와 같이 복수 개의 광원을 이용하는 경우에는 의료기기의 회전, 방향 등을 인식할 수 있으나 하나의 광원으로 의료기기의 3차원 공간좌표를 구하는 경우에는 의료기기의 정확한 회전이나 방향 등에 대한 정보를 얻기 힘든 문제점이 있다.
하나의 광원을 이용하는 경우에는, X선 광원을 이용하여 의료기기에 X선을 조사한 후, X선 탐상기가 X선 광원에 의한 의료기기의 X선 투시 영상을 탐상한다. 이후, X선 탐상기에서 탐상된 의료기기의 영상을 기초로 의료기기의 3차원 공간좌표를 구한다.
본 발명의 의료기기는 전파 반사체를 포함할 수 있다.
이 경우, 제 1 마이크로파 발생기는 전파 반사체를 향하여 마이크로파를 발생시킨다.
여기서 마이크로파는 수술 현장에서의 각종 의료기기나 인체에 무해한 주파수 대역으로 이루어져야 한다.
또한 제 2 마이크로파 발생기를 통하여 전파 반사체를 향하여 마이크로파를 발생시킨다. 제 2 마이크로파 발생기에 의한 마이크로파는 제 1 마이크로파 발생기에 의한 마이크로파와 주파수 대역이 다르며, 상호 간섭을 일으키지 않는 것이어야 하며, 제 1 마이크로파 발생기에 의한 마이크로파와 제 2 마이크로파 발생기에 의한 마이크로파는 상호 직교하는 것이 바람직하다.
이후, 마이크로파 수신기는 상기 전파 반사체를 통해 반사된 제 1 마이크로파 및 제 2 마이크로파를 수신하여, 제 1 마이크로파에 의한 전파와 제 2 마이크로파에 의한 전파를 필터링하여 분리해내고 이들 마이크로파의 송신 후 반사되어 수신된 시간을 측정하여 전파 반사체의 위치 즉 의료기기의 위치를 계산한다.
단계 (c): 의료기기 주변에 대한 3차원 영상에 대한 제3 실제 3차원 공간좌표의 결정
상기 의료기기의 영상수단으로부터 의료기기 주변에 대한 3차원 영상을 얻고 이에 대한 제3 실제 3차원 공간좌표를 결정한다.
본 발명의 일 구현예에 따르면, 제3 실제 3차원 공간좌표는 직교 좌표계이다.
의료기기 주변에 대한 3차원 영상은 복수(예컨대, 2개)의 카메라를 이용하여 얻을 수 있다.
본 발명의 일 구현예에 따르면, 영상수단으로서의 카메라는 식별부로서 2개의 링과 이들 링 각각의 일측에 부착된 마커를 포함한다. 상기 링은 상기 카메라의 이미지 센서와 동일한 또는 다른 평면 상에 위치할 수 있다. 상기 링이 이미지 센서와 다른 평면 상에 위치하여도, 이미지 센서가 링이 있는 평면에 평행한 평면에 위치하고 두 평면 간의 거리를 알면 이미지 센서의 3차원 위치를 파악할 수 있다. 상기 마커는 상기 이미지 센서의 x축 및 y축 방향과 일치되게 상기 링에 부착될 수 있다.
이상과 같은 식별부를 의료기기의 영상수단에 부착하는 경우 이를 이용하여 영상수단에서 얻어지는 3차원영 상의 실제 3차원 좌표를 산출 할 수 있다. 그리고 영상수단의 위치는 체내나 체외에서도 가능할 것이다.
먼저, 3D 카메라를 이용하는 3차원 내시경의 예를 들어보면, 3D 카메라는 두 개의 카메라로 구성 되어 있는데, 각각의 카메라에 한 쌍의 링과 링 위의 점을 표시하는 마커를 이미지 센서의 x축과 y축의 방향으로 표시하게 하면, 각 카메라의 렌즈의 중심축, 이미지 센서의 x축과 y축의 벡터를 X선 투시법으로 산출할 수 있고, 이를 토대로 3D 카메라의 3차원 영상의 실제 3차원 공간좌표를 산출 할 수 있다.
이를 좀 더 구체적으로 설명하면, 각각의 카메라를 카메라 A(도 13의 이미지 센서 A), 카메라 B(도 13의 이미지 센서 B)라고 한다. 카메라 A의 렌즈의 중심축을 이루는 직선을 Za라고 하고 카메라 A의 이미지 센서의 평면에서 횡축을 이루는 직선을 Xa, 종축을 이루는 직선을 Ya, Xa와 Ya의 교점을 Oa 라고 한다면, 직선 Za는 Oa를 지나면서 Xa와 Za의 수직인 선이다. 피사체 M을 촬영할 때 카메라 A에 포착되는 피사체의 영상(점)을 Ma'라고 하고, 이에 일대일 대응되는 이미지 센서 상의 점을 Ma, 카메라 A의 초점을 Fa라고 하면, M은 Fa와 Ma를 지나는 선상에 있는 점이다.
카메라의 렌즈의 중심축은, 전술하였듯이 원통형 카메라의 외면에 설치된 한 쌍의 링의 방사선 영상으로 산출할 수 있고, 링의 한 점을 표시하는 마커들로 Xa, Ya의 벡터를 산출할 수 있다. 또한 이미지 센서의 중점, 즉 Oa의 좌표를 산출할 수 있다. Xa와 Ya의 벡터를 알고, Oa의 실제 3차원 공간좌표를 알면, Ma의 실제 3차원 공간좌표는 도 1에서 설명한 방법으로 산출 할 수 있다. 그리고 Fa의 실제 3차원 공간좌표는 렌즈의 중심축 상에 있고, 기계적으로 구할 수 있다. 점 Fa와 점 Ma의 실제 3차원 공간좌표를 이용하여, 직선
Figure pat00144
의 방정식을 산출할 수 있다. 점M은 직선의 연장선상에 위치하는 점이므로, 직선
Figure pat00145
의 방정식과 같다.
같은 방법으로 카메라 B의 Ob, Mb, Fb의 좌표를 알 수 있어, 점 M, Mb를 지나는 직선의 방정식을 구할 수 있다. 그리고, 점 M은 점 M, Ma를 지나는 직선과 점 M, Mb를 지나는 직선의 교점임으로, 점 M의 좌표를 구할 수 있다.
그러므로 3D 카메라의 영상을 실제 3차원 공간좌표화 할 수 있고, 이미 획득한 X선 투시법에 의한 다른 3차원 영상의 실제 3차원 공간좌표와 연동하여 가상 이미지로 구현할 수 있다.
도 12에 도시된 바와 같이, 두 개의 링의 중심을 잇는 직선이 렌즈의 중심축과 일치하도록 장치하고, 마커가 표시하는 링의 특정한 위치는 이미지 센서(카메라 A, B)와 같은 평면상에 위치하면서, 그 점과 이미지 센서의 중점을 연결함으로써 이미지 센서의 x축과 y축의 벡터를 지시하도록 장치한다. 그리고 x축과 y축에 해당하는 마커를 서로 다르게 표시하여 구분한다. 예를 들어 하나는 길게 하나는 짧게 표시한다.
전술한 방법으로 두 링의 중심축을 산출하고, 마커의 삼차원 좌표를 산출함으로써 이미지 센서의 x축과 y축, 렌즈의 중심축(z축)의 벡터와 이미지 센서의 중점을 알 수 있다.
도 13을 참조하면, 촬영 당시 카메라 A의 초점이 Fa라면, 피사체 M의 상, Ma는, M과 Fa를 지나는 직선과 이미지 센서가 만나는 점이다.
그러므로, M은 Fa와 Ma를 지나는 직선 위에 있다. 같은 이유로 M은 Fb와 Mb를 지나는 직선상에 있다.
도 14에서, 이미지 센서의 중심 Oa와 Ob의 3차원 좌표는 각 카메라의 외면에 설치된 두 쌍의 링의 방사선 영상으로 산출 할 수 있다(도 10의 설명).
또한, 링에 표시된 마커는 이미지 센서의 x축과 y축 선상에 위치하게 표시하였고, 방사선 영상에 의하여 각 마커가 가리키는 링 위의 특정한 점의 좌표를 구할 수 있어, 각 카메라의 영상에 표시되는 x, y축의 3 차원 벡터를 구할 수 있다(도 11의 설명).
또한, 이미지 센서의 x축과 y축에 수직이고, 이미지 센서의 중심점(Oa, Ob)을 지나는 선, 즉 한 쌍의 링의 중점을 지나는 선상에 각 카메라의 초점이 있고, 렌즈의 조절에 의하여 초점 거리가 결정되므로 각 카메라의 초점, Fa, Fb의 3차원 좌표를 알 수 있다.
그런데 피사체 M은 Ma와 Fa를 지나는 직선과 Mb와 Fb를 지나는 직선의 교점이고, 점 Ma, Fa, Mb, Fb의 3차원 좌표를 각각 알고 있으므로 두 직선이 3차원 공간에서 만나는 점을 구할 수 있다.
좀 더 구체적으로 서술하면, 도 14에서 보듯이
Figure pat00146
라고 하고,
Figure pat00147
라고 하면,
직선
Figure pat00148
Figure pat00149
직선
Figure pat00150
Figure pat00151
점 M
Figure pat00152
은 두 직선의 교점이므로,
Figure pat00153
Figure pat00154
Figure pat00155
Figure pat00156
이를 직선 식에 대입하여 m2, m3를 구할 수 있다.
즉 3D 카메라의 3차원 영상,M
Figure pat00157
의 실제 3차원 3차원 좌표를 구할 수 있어 3차원 좌표상의 3차원 영상을 구현 할 수 있다.
영상수단 중에 초음파의 예는 신체를 검사하고 있는 초음파의 탐촉자를 방사선 촬영을 할 때, 촬영된 초음파 탐촉자의 스캔 라인(scan line)의 위치를 실제 3차원 공간좌표화하면, 초음파 이미지는 스캔 라인을 기준으로 하는 영상이므로, 이 영상의 3차원 공간좌표를 실제 3차원 공간좌표화 할 수 있다.
도 16을 참조하면, 초음파 프로브(probe)의 양 끝에 중심축이 같고, 서로 평형인 링을 장착하고, 그 링에 겉 테두리에 스캔 라인을 표시하는 마킹을 하게 되면, 전술한 방법으로 스캔 라인의 실제 3차원 공간좌표를 구할 수 있다. 초음파 영상은 스캔 라인으로부터의 상대적인 위치를 표현하므로, 이를 바탕으로 초음파영상의 3차원 좌표를 실제 3차원 공간좌표화 할 수 있다. 초음파 영상이 3차원인 경우는 3차원으로 나타낼 수 있고, 이차원인 경우는 3차원 영상 내에 이차원으로 표시할 수 있다. 이를 다른 3차원 영상과 결합하여 구현할 수 있다.
단계 (d): 3종의 3차원 공간좌표에서 동일 좌표에 있는 영상 조사
상술한 바와 같이, 인체 3차원 영상에 대한 제1 실제 3차원 공간좌표, 의료기기의 영상에 대한 제2 실제 3차원 공간좌표 및 의료기기 주변에 대한 3차원 영상 제3 실제 3차원 공간좌표를 결정한 다음, 상기 3종의 3차원 공간좌표에서 동일 좌표에 있는 영상을 조사(examining)한다.
단계 (e): 복합 실제 3차원 영상의 제작
상기 3종의 3차원 공간좌표에서 동일 좌표에 있는 영상이 하나인 경우는 상기 하나의 영상을 선택하고, 상기 동일 좌표 영상이 복수인 경우는 그 중에서 필요한 영상(들)을 선택하여 복합 실제 3차원 영상을 제작한다. 이에 따라 실시간으로 일종의 증강 현실과 같은 효과를 이용하여 정확한 시술을 진행할 수 있도록 한다.
본 발명의 일 구현예에 따르면, 본 발명의 방법은 주기적인 움직임이 있고 이에 연동하여 시그널(예컨대, 심전도, 혈압, 기관압 및 복압)을 발생시키는 주기적-운동성 인체의 부위(예컨대, 심장)에 대한 3차원 영상 및 그의 제4 실제 공간좌표를 결정하는 단계를 추가적으로 포함하며, 상기 단계 (d)는 상기 제1 실제 3차원 공간좌표, 제2 실제 3차원 공간좌표, 제3 실제 3차원 공간좌표 및 제4 실제 공간좌표를 이용하여 실시한다. 예를 들어, 심장의 표면과 내부구조는 심장의 주기에 따라 일정하게 변한다. 그리고, 그 변화는 심전도의 파형의 위치에 따라 일정하게 변한다. 그러므로, 심전도의 파형의 위치마다 심장의 형태학적 구조는 일정하다고 할 수 있다. 이에 심전도의 파형의 위치 별로 심장의 3차원 영상을 얻고(예를 들어, 식도심장초음파를 이용하여), 환자가 수술대에 있을 때 영상의 3차원 좌표를 산출하게 되면, 심장의 3차원 영상을 실시간으로 얻지 않아도, 심전도와 연동하여 실시간의 심장의 3차원 영상을 구현할 수 있다. 다른 구현예에 따르면, 수술 현장이 아닌 곳에서 심전도에 따른 심장 CT나 MRI 3차원 영상을 얻고, 또한 심전도에 따른 심장초음파의 2차원 혹은 3차원 영상을 얻어 이 영상들을 동일한 부위를 이용하여 좌표에 따른 정합을 하여, 심장의 복합 이미지를 구성한다. 이때 심장의 복합이미지는 심전도의 주기에 따라 여러 이미지가 존재하게 된다. 이후 수술대에서 식도 심장초음파를 이용한 심장의 제3 실제 공간 좌표와 심장의 복합 이미지의 3차원 공간좌표를 일치하게 하여 심장의 복합 이미지의 제4 실제 공간 좌표를 얻어, 심전도의 주기에 따른 심장의 복합 이미지의 제4 실제 공간 좌표를 구한다. 복합 실제 3차원 영상의 구현에서는 식도 초음파 이미지와 심전도의 주기를 이용하거나, 이를 개별적으로 이용하여 이미지를 구현할 수 있다.
복합 실제 3차원 영상 제작 시스템
본 발명의 시스템은 (i) 의료기기를 대상에 적용하기 전에 얻은 인체 3차원 영상에 대한 제1 실제 3차원 공간좌표, (ii) 상기 대상에 적용된 의료기기의 영상에 대한 제2 실제 3차원 공간좌표, 및 (iii) 상기 의료기기 주변의 3차원 영상에 대한 제3 실제 3차원 공간좌표를 동일좌표계를 이용하여 계산하는 제1프로세서(processor)를 포함한다. 또한, 본 발명의 시스템은 상기 제1 실제 3차원 공간좌표, 제2 실제 3차원 공간좌표 및 제3 실제 3차원 공간좌표를 이용하여, 상기 3종의 3차원 공간좌표에서 동일 좌표에 있는 영상을 조사하고, 상기 동일 좌표 영상이 하나인 경우는 상기 하나의 영상을 선택하고, 상기 동일 좌표 영상이 복수인 경우는 그 중에서 필요한 영상(들)을 선택하여 복합 실제 3차원 영상을 제작하는 제2프로세서를 포함한다.
본 발명의 시스템은 본 발명을 명확하게 표현하기 위하여, 제1프로세서 및 제2프로세서로 나누어 구성요소를 기재하고 있으나, 실제적으로 이 둘 프로세서는 하나의 프로세서로 제작할 수 있다. 따라서, 상술한 과정들을 모두 실행할 수 있는 프로세서도 본 발명의 범위에 포함된다는 것은 당업자에게 명확하다.
본 발명의 시스템은 상기 프로세서와 커플링된 컴퓨터 해독가능한(computer-readable) 저장매체를 추가적으로 포함할 수 있다. 저장 매체는 특별하게 제한되지 않으며, 당업계에 공지된 다양한 저장 매체, 예컨대, CD-R, CD-ROM, DVD, 케리어 웨이브에 내포된 데이터 시그널, 플래쉬 메모리, 플로피 디스크, 하드 드라이브, 마그네틱 테이프, MINIDISC, 비휘발성 메모리 카드, EEPROM, 광학 디스크, 광학 저장매체, RAM, ROM, 시스템 메모리 및 웹 서버를 포함하나, 이에 한정되는 것은 아니다.
본 발명의 시스템은 다양한 방식으로 구축될 수 있다. 예컨대, 본 발명의 시스템은 멀티-프로세서 컴퓨터 어레이, 웹 서버 및 멀티-유저/인터액티브 시스템 등으로 구축될 수 있다.
본 발명의 시스템은 다양한 요소(element)를 포함할 수 있으며, 예를 들어, 영상과 공간좌표에 대한 정보를 저장하는 데이터베이스, 실제 3차원 공간좌표를 동일좌표계를 이용하여 계산하는 프로세서, 및 필요한 영상(들)을 선택하여 복합 실제 3차원 영상을 제작하는 프로세서를 포함하도록 구축할 수 있다.

Claims (50)

  1. 다음 단계를 포함하는 복합 실제 3차원 영상(complex reality three-dimensional image)의 제작 방법:
    (a) 의료기기를 대상(subject)에 적용하기 전에 얻은 인체 3차원 영상에 대한 제1 실제 3차원 공간좌표를 결정하는 단계;
    (b) 상기 대상에 적용된 의료기기의 영상에 대한 제2 실제 3차원 공간좌표를 결정하는 단계; 상기 의료기기는 영상수단을 포함하고,
    (c) 상기 의료기기의 영상수단으로부터 상기 의료기기 주변에 대한 3차원 영상을 얻고 이에 대한 제3 실제 3차원 공간좌표를 결정하는 단계; 상기 제1 실제 3차원 공간좌표, 제2 실제 3차원 공간좌표 및 제3 실제 3차원 공간좌표는 동일 좌표계를 이용하여 결정된 좌표이며;
    (d) 상기 제1 실제 3차원 공간좌표, 제2 실제 3차원 공간좌표 및 제3 실제 3차원 공간좌표를 이용하여, 상기 3종의 3차원 공간좌표에서 동일 좌표에 있는 영상을 조사(examining)하는 단계; 및
    (e) 상기 동일 좌표 영상이 하나인 경우는 상기 하나의 영상을 선택하고, 상기 동일 좌표 영상이 복수인 경우는 그 중에서 필요한 영상(들)을 선택하여 복합 실제 3차원 영상을 제작하는 단계.
  2. 제 1 항에 있어서, 상기 제1 실제 3차원 공간좌표, 제2 실제 3차원 공간좌표 및 제3 실제 3차원 공간좌표는 직교 좌표계인 것을 특징으로 하는 방법.
  3. 제 1 항에 있어서, 상기 제1 실제 3차원 공간좌표, 제2 실제 3차원 공간좌표 및 제3 실제 3차원 공간좌표를 결정하는데 이용되는 동일 좌표계는 상기 의료기기를 상기 대상에 적용하는 시술대(operation table)를 기준으로 하여 정해진 좌표계인 것을 특징으로 하는 방법.
  4. 제 1 항에 있어서, 상기 단계 (a)에서 이용되는 상기 인체 3차원 영상은 X선 투시영상(fluoroscopy), CT(computed tomography) 영상, MRI(magnetic resonance imaging) 영상, PET(Positron emission tomography) 영상, PET/CT 영상, PET/MRI 영상, RI(radioisotope imaging), 초음파 영상(ultrasonography) 또는 이들의 복합영상인 것을 특징으로 하는 방법.
  5. 제 1 항에 있어서, 상기 제1 실제 3차원 공간좌표 및 제2 실제 3차원 공간좌표의 결정은 전자기선(electromagnetic radiation)을 이용하여 실시하며, 상기 전자기선은 X선 또는 고주파(radiofrequency) 전자기선인 것을 특징으로 하는 방법.
  6. 제 5 항에 있어서, 상기 제1 실제 3차원 공간좌표 및 제2 실제 3차원 공간좌표의 결정은 X선 투시법(fluoroscopy)을 이용하여 실시하는 것을 특징으로 하는 방법.
  7. 제 5 항에 있어서, 상기 제1 실제 3차원 공간좌표 및 제2 실제 3차원 공간좌표 각각의 결정은 모노-플랜 X선 투시법(mono-plan fluoroscopy), 바이-플랜 X선 투시법(bi-plan fluoroscopy) 또는 멀티-플랜 X선 투시법(multi-plan fluoroscopy)을 이용하여 실시하는 것을 특징으로 하는 방법.
  8. 제 1 항에 있어서, 상기 단계 (a)의 제1 실제 3차원 공간좌표는 의료기기를 대상에 적용하기 전에 얻은 인체 3차원 영상의 3차원 공간좌표 및 상기 대상 인체의 특정 부분의 실제 3차원 공간좌표를 이용하여 결정되는 것을 특징으로 하는 방법.
  9. 제 8 항에 있어서, 상기 단계 (a)는 다음의 소단계를 포함하는 것을 특징으로 하는 방법:
    (a-1) 제1 X선 광원을 이용하여 상기 대상의 인체의 특정 부분을 향해 X선을 조사하는 단계;
    (a-2) 제1 X선 탐상기(detector)를 이용하여 상기 제1 X선 광원에 의한 상기 인체의 X선 투시 영상을 탐상하는 단계;
    (a-3) 제2 X선 광원을 이용하여 상기 제1 X선 광원에 의한 X선에 교차하도록 상기 인체의 특정 부분을 향해 X선을 조사하는 단계;
    (a-4) 제2 X선 탐상기를 이용하여, 상기 제2 X선 광원에 의한 상기 인체의 X선 투시 영상을 탐상하는 단계; 및
    (a-5) 상기 제1 X선 탐상기 및 제2 X선 탐상기에서 탐상된 상기 인체의 영상을 이용하여 상기 인체 3차원 영상에 대한 제1 실제 3차원 공간좌표를 결정하는 단계.
  10. 제 9 항에 있어서, 상기 (a-5) 소단계는 다음의 소단계를 포함하는 것을 특징으로 하는 방법:
    (a-5-1) 상기 제1 X선 광원 및 상기 제1 X선 탐상기의 물리적인 3차원 좌표 정보와 이들 상호간의 거리 정보 및 상기 제1 X선 탐상기에 탐상된 상기 인체의 특정 부분 크기 정보를 이용하여, 상기 제1 X선 광원 및 상기 제1 X선 탐상기 사이에 위치한 상기 인체의 특정 부분의 3차원 영상에 대한 3차원 공간좌표를 결정하고; 상기 제2 X선 광원 및 상기 제2 X선 탐상기의 물리적인 3차원 좌표 정보와 이들 상호간의 거리 정보 및 상기 제2 X선 탐상기에 탐상된 상기 인체의 특정 부분 크기 정보를 이용하여, 상기 제2 X선 광원 및 상기 제2 X선 탐상기 사이에 위치한 상기 인체의 특정 부분의 3차원 영상에 대한 3차원 공간좌표를 결정하는 단계;
    (a-5-2) 상기 제1 X선 광원 및 상기 제1 X선 탐상기 사이에 위치한 상기 인체의 특정 부분의 3차원 영상에 대한 3차원 공간좌표와 상기 제2 X선 광원 및 상기 제2 X선 탐상기 사이에 위치한 상기 인체의 특정 부분의 3차원 영상에 대한 3차원 공간좌표를 이용하여, 상기 인체의 특정 부분의 3차원 공간좌표를 결정하는 단계; 및
    (a-5-3) 상기 인체의 특정 부분의 3차원 공간좌표를 상기 단계 (a)의 인체 3차원 영상의 3차원 공간좌표에 일치시켜 상기 인체 3차원 영상에 대한 제1 실제 3차원 공간좌표를 결정하는 단계.
  11. 제 1 항에 있어서, 상기 의료기기는 상기 의료기기의 위치 인식을 위한 식별부를 포함하는 것을 특징으로 하는 방법.
  12. 제 11 항에 있어서, 상기 식별부는 (i) 1개 이상의 구 형태의 식별부, (ii) 1개 이상의 링 형태의 식별부, (iii) 링 및 상기 링의 특정 위치를 표시하는 1개 이상의 마커를 포함하는 식별부, (iv) 1 이상의 쌍으로 된 링을 포함하는 식별부, 또는 (v) 1 이상의 쌍으로 된 링과 상기 링의 특정 위치를 표시하는 1개 이상의 마커 중 적어도 어느 하나 이상을 포함하는 것을 특징으로 하는 방법.
  13. 제 12 항에 있어서, 상기 식별부는 2개 이상의 링 및 1개 이상의 마커를 포함하고, 상기 2개 이상의 링은 서로 위치를 달리하여 상기 의료기기에 장착되어 있고, 상기 1개 이상의 마커는 상기 링의 일측에 부착되어 장착되어 있는 것을 특징으로 하는 방법.
  14. 제 13 항에 있어서, 상기 2개 이상의 링은 서로 다른 이미징 특성을 갖는 것을 특징으로 하는 방법.
  15. 제 13 항에 있어서, 상기 마커는 2개 이상일 경우, 상기 마커는 서로 다른 이미징 특성을 갖는 것을 특징으로 하는 방법.
  16. 제 12 항에 있어서, 상기 제2 실제 3차원 공간좌표는 X선 투시법은 하나 또는 2개 이상의 X선 투시 영상(fluoroscopic image)을 이용하여 결정되고, 상기 단계 (b)는 다음의 소단계를 포함하는 것을 특징으로 하는 방법:
    (b-1) X선 광원을 이용하여 상기 의료기기를 향해 X선을 조사하는 단계;
    (b-2) X선 탐상기(detector)를 이용하여 상기 X선 광원에 의한 상기 의료기기의 X선 투시 영상을 탐상하는 단계; 및
    (b-3) 상기 X선 투시 영상에 나타난 상기 식별부의 투시된 위치를 이용하여 상기 의료기기의 영상에 대한 제2 실제 3차원 공간좌표를 결정하는 단계.
  17. 제 16 항에 있어서, 상기 소단계 (b-3)은 상기 X선 투시 영상에 나타난 상기 식별부의 투시된 위치를 이용하여 상기 의료기기의 영상에 대한 제2 실제 3차원 공간좌표와 상기 마커의 3차원 공간좌표를 결정하며, 이에 의해 상기 마커의 3차원 공간좌표에 의해 상기 의료기기의 내부의 상대적 위치를 파악할 수 있는 것을 특징으로 하는 방법.
  18. 제 16 항에 있어서, 상기 소단계 (b-3)은, 상기 식별부의 3차원 위치정보, 또는 상기 식별부의 3차원 위치정보와 디멘젼(dimension) 정보를 이용하여 실시하는 것을 특징으로 하는 방법.
  19. 제 1 항에 있어서, 상기 의료기기는 전파 반사체를 포함하는 것을 특징으로 하는 방법.
  20. 제 19 항에 있어서, 상기 단계 (b)는 다음의 소단계를 포함하는 것을 특징으로 하는 방법:
    (b-1) 제1마이크로파 발생기를 이용하여 상기 전파 반사체를 향하여 제1마이크로파를 발생시키는 단계;
    (b-2) 제2마이크로파 발생기를 이용하여 상기 전파 반사체를 향하여 제2마이크로파를 발생시키는 단계;
    (b-3) 상기 소단계 (b-1) 및 (b-2) 후, 상기 전파 반사체로부터 반사된 제1마이크로파 및 제2마이크로파를 수신하는 단계; 및
    (b-4) 상기 수신된 제1마이크로파 및 제2마이크로파에 대한 정보를 이용하여 상기 의료기기의 영상에 대한 제2 실제 3차원 공간좌표를 결정하는 단계.
  21. 제 1 항에 있어서, 상기 영상수단은 복수의 카메라이고 상기 복수의 카메라를 이용하여 상기 단계 (c)에서 상기 의료기기 주변에 대한 3차원 영상을 얻는 것을 특징으로 하는 방법.
  22. 제 21 항에 있어서, 상기 영상수단으로서의 카메라는 식별부를 포함하는 것을 특징으로 하는 방법.
  23. 제 1 항에 있어서, 상기 영상수단은 초음파 프로브이고 상기 초음파 프로브를 이용하여 상기 단계 (c)에서 상기 의료기기 주변에 대한 3차원 영상을 얻는 것을 특징으로 하는 방법.
  24. 제 23 항에 있어서, 상기 영상수단으로서의 초음파 프로브는 식별부를 포함하는 것을 특징으로 하는 방법.
  25. 제 1 항에 있어서, 상기 단계 (a)의 인체 3차원 영상과 상기 단계 (c)의 의료기기 주변에 대한 3차원 영상은 서로 이종의 영상인 것을 특징으로 하는 방법.
  26. 제 1 항에 있어서, 상기 방법은 주기적인 움직임이 있고 이에 연동하여 시그널을 발생시키는 주기적-운동성 인체의 부위에 대한 3차원 영상 및 그의 제4 실제 공간좌표를 결정하는 단계를 추가적으로 포함하며, 상기 단계 (d)는 상기 제1 실제 3차원 공간좌표, 제2 실제 3차원 공간좌표, 제3 실제 3차원 공간좌표 및 제4 실제 공간좌표를 이용하여 실시하는 것을 특징으로 하는 방법.
  27. 다음을 포함하는 복합 실제 3차원 영상(complex reality three-dimensional image)을 제작하기 위한 시스템:
    (a) (i) 의료기기를 대상(subject)에 적용하기 전에 얻은 인체 3차원 영상에 대한 제1 실제 3차원 공간좌표, (ii) 상기 대상에 적용된 의료기기의 영상에 대한 제2 실제 3차원 공간좌표, 및 (iii) 상기 의료기기 주변의 3차원 영상에 대한 제3 실제 3차원 공간좌표를 동일좌표계를 이용하여 계산하는 제1프로세서(processor); 및
    (b) 상기 제1 실제 3차원 공간좌표, 제2 실제 3차원 공간좌표 및 제3 실제 3차원 공간좌표를 이용하여, 상기 3종의 3차원 공간좌표에서 동일 좌표에 있는 영상을 조사하고, 상기 동일 좌표 영상이 하나인 경우는 상기 하나의 영상을 선택하고, 상기 동일 좌표 영상이 복수인 경우는 그 중에서 필요한 영상(들)을 선택하여 복합 실제 3차원 영상을 제작하는 제2프로세서.
  28. 제 27 항에 있어서, 상기 제1 실제 3차원 공간좌표, 제2 실제 3차원 공간좌표 및 제3 실제 3차원 공간좌표는 직교 좌표계인 것을 특징으로 하는 시스템.
  29. 제 27 항에 있어서, 상기 제1 실제 3차원 공간좌표, 제2 실제 3차원 공간좌표 및 제3 실제 3차원 공간좌표를 결정하는데 이용되는 동일 좌표계는 상기 의료기기를 상기 대상에 적용하는 시술대(operation table)를 기준으로 하여 정해진 좌표계인 것을 특징으로 하는 시스템.
  30. 제 27 항에 있어서, 상기 시스템은 상기 인체 3차원 영상을 얻기 위한, X선 투시영상(fluoroscopy) 기기, CT(computed tomography) 영상 기기, MRI(magnetic resonance imaging) 영상 기기, PET(Positron emission tomography) 영상 기기, PET/CT 영상 기기, PET/MRI 영상, 기기 RI(radioisotope imaging) 기기 또는 초음파 영상(ultrasonography) 기기를 추가적으로 포함하는 것을 특징으로 하는 시스템.
  31. 제 27 항에 있어서, 상기 시스템은 제1 실제 3차원 공간좌표 및 제2 실제 3차원 공간좌표를 얻기 위한 X선 투시영상 기기 또는 고주파(radiofrequency) 전자기선 기기를 추가적으로 포함하는 것을 특징으로 하는 시스템.
  32. 제 27 항에 있어서, 상기 제1 실제 3차원 공간좌표 및 제2 실제 3차원 공간좌표의 계산은 모노-플랜 X선 투시법(mono-plan fluoroscopy), 바이-플랜 X선 투시법(bi-plan fluoroscopy) 또는 멀티-플랜 X선 투시법(multi-plan fluoroscopy)으로부터 얻은 정보를 이용하여 실시하는 것을 특징으로 하는 시스템.
  33. 제 27 항에 있어서, 상기 제1 실제 3차원 공간좌표는 의료기기를 대상에 적용하기 전에 얻은 인체 3차원 영상의 3차원 공간좌표 및 상기 대상 인체의 특정 부분의 실제 3차원 공간좌표를 이용하여 결정되는 것을 특징으로 하는 시스템.
  34. 제 33 항에 있어서, 상기 제1 실제 3차원 공간좌표의 계산은 모노 또는 바이-플랜 X선 투시법으로부터 얻은 정보를 이용하여 실시하며, 상기 정보는 (i) 제1 X선 광원 및 상기 제1 X선 탐상기의 물리적인 3차원 좌표 정보와 이들 상호간의 거리 정보 및 상기 제1 X선 탐상기에 탐상된 인체의 특정 부분 크기 정보, (ii) 제2 X선 광원 및 상기 제2 X선 탐상기의 물리적인 3차원 좌표 정보와 이들 상호간의 거리 정보 및 상기 제2 X선 탐상기에 탐상된 인체의 특정 부분 크기 정보, (iii) 상기 인체 3차원 영상의 3차원 공간좌표를 이용하여 실시하는 것을 특징으로 하는 시스템.
  35. 제 27 항에 있어서, 상기 시스템은 의료기기를 추가적으로 포함하며 상기 의료기기는 의료기기의 위치 인식을 위한 식별부를 포함하는 것을 특징으로 하는 시스템.
  36. 제 35 항에 있어서, 상기 식별부는 (i) 1개 이상의 구 형태의 식별부, (ii) 1개 이상의 링 형태의 식별부, (iii) 링 및 상기 링의 특정 위치를 표시하는 1개 이상의 마커를 포함하는 식별부, (iv) 1 이상의 쌍으로 된 링을 포함하는 식별부, 또는 (v) 1 이상의 쌍으로 된 링과 상기 링의 특정 위치를 표시하는 1개 이상의 마커 중 적어도 어느 하나 이상을 포함하는 것을 특징으로 하는 시스템.
  37. 제 36 항에 있어서, 상기 식별부는 2개 이상의 링 및 1개 이상의 마커를 포함하고, 상기 2개 이상의 링은 서로 위치를 달리하여 상기 의료기기에 장착되어 있고, 상기 1개 이상의 마커는 상기 링의 일측에 부착되어 장착되어 있는 것을 특징으로 하는 시스템.
  38. 제 37 항에 있어서, 상기 2개 이상의 링은 서로 다른 이미징 특성을 갖는 것을 특징으로 하는 시스템.
  39. 제 37 항에 있어서, 상기 마커는 2개 이상이며, 상기 마커는 서로 다른 이미징 특성을 갖는 것을 특징으로 하는 시스템.
  40. 제 36 항에 있어서, 상기 제2 실제 3차원 공간좌표의 계산은 X선 투시 영상에 나타난 상기 식별부의 링이 투시된 위치를 이용하여 실시하는 것을 특징으로 하는 시스템.
  41. 제 40 항에 있어서, 상기 제2 실제 3차원 공간좌표의 계산은 상기 X선 투시 영상에 나타난 상기 식별부의 링과 마커가 투시된 위치를 이용하여 실시하며, 이에 의해 상기 의료기기의 영상에 대한 제2 실제 3차원 공간좌표와 상기 마커의 3차원 공간좌표가 결정되고, 상기 마커의 3차원 공간좌표에 의해 상기 의료기기의 내부의 상대적 위치를 파악할 수 있는 것을 특징으로 하는 시스템.
  42. 제 41 항에 있어서, 상기 제2 실제 3차원 공간좌표의 계산은, 상기 식별부의 위치정보, 또는 상기 식별부의 위치정보와 디멘젼(dimension) 정보를 이용하여 실시하는 것을 특징으로 하는 시스템.
  43. 제 35 항에 있어서, 상기 의료기기는 전파 반사체를 포함하는 것을 특징으로 하는 시스템.
  44. 제 35 항에 있어서, 상기 의료기기는 영상수단을 포함하는 것을 특징으로 하는 시스템.
  45. 제 44 항에 있어서, 상기 영상수단은 복수의 카메라이고 상기 복수의 카메라를 이용하여 상기 의료기기 주변에 대한 3차원 영상을 얻는 것을 특징으로 하는 시스템.
  46. 제 44 항에 있어서, 상기 영상수단으로서의 카메라는 식별부를 포함하는 것을 특징으로 하는 시스템.
  47. 제 44 항에 있어서, 상기 영상수단은 초음파 프로브인 것을 특징으로 하는 시스템.
  48. 제 47 항에 있어서, 상기 영상수단으로서의 초음파 프로브는 식별부를 포함하는 것을 특징으로 하는 시스템.
  49. 제 27 항에 있어서, 상기 인체 3차원 영상과 상기 의료기기 주변에 대한 3차원 영상은 서로 이종의 영상인 것을 특징으로 하는 시스템.
  50. 제 27 항에 있어서, 상기 시스템은, 주기적인 움직임이 있고 이에 연동하여 시그널을 발생시키는 주기적-운동성 인체의 부위에 대한 3차원 영상 및 그의 제4 실제 공간좌표를 계산하는 프로세서를 추가적으로 포함하며, 상기 제2프로세서는 상기 제1 실제 3차원 공간좌표, 제2 실제 3차원 공간좌표, 제3 실제 3차원 공간좌표 및 제4 실제 공간좌표를 이용하여 복합 실제 3차원 영상을 제작하는 것을 특징으로 하는 시스템.
KR1020130075667A 2012-12-26 2013-06-28 복합 실제 3차원 영상 제작방법 및 이를 위한 시스템 KR20140083856A (ko)

Priority Applications (5)

Application Number Priority Date Filing Date Title
US14/655,387 US10736592B2 (en) 2012-12-26 2013-12-26 Method for producing complex real three-dimensional images, and system for same
CN201380068009.XA CN105377138B (zh) 2012-12-26 2013-12-26 用于制作复合现实三维影像的系统
PCT/KR2013/012232 WO2014104767A1 (ko) 2012-12-26 2013-12-26 복합 실제 3차원 영상 제작방법 및 이를 위한 시스템
KR1020130164216A KR101588014B1 (ko) 2012-12-26 2013-12-26 복합 실제 3차원 영상 제작방법 및 이를 위한 시스템
US16/930,567 US11517279B2 (en) 2012-12-26 2020-07-16 Method for producing complex real three-dimensional images, and system for same

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020120153032 2012-12-26
KR20120153032 2012-12-26

Publications (1)

Publication Number Publication Date
KR20140083856A true KR20140083856A (ko) 2014-07-04

Family

ID=51734203

Family Applications (2)

Application Number Title Priority Date Filing Date
KR1020130075667A KR20140083856A (ko) 2012-12-26 2013-06-28 복합 실제 3차원 영상 제작방법 및 이를 위한 시스템
KR1020130164216A KR101588014B1 (ko) 2012-12-26 2013-12-26 복합 실제 3차원 영상 제작방법 및 이를 위한 시스템

Family Applications After (1)

Application Number Title Priority Date Filing Date
KR1020130164216A KR101588014B1 (ko) 2012-12-26 2013-12-26 복합 실제 3차원 영상 제작방법 및 이를 위한 시스템

Country Status (3)

Country Link
US (2) US10736592B2 (ko)
KR (2) KR20140083856A (ko)
CN (1) CN105377138B (ko)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20140083856A (ko) 2012-12-26 2014-07-04 가톨릭대학교 산학협력단 복합 실제 3차원 영상 제작방법 및 이를 위한 시스템
US10420626B2 (en) * 2015-06-30 2019-09-24 Canon U.S.A., Inc. Fiducial markers, systems, and methods of registration
KR102508831B1 (ko) * 2016-02-17 2023-03-10 삼성전자주식회사 원격 이미지 전송 시스템, 디스플레이 장치 및 그의 가이드 표시 방법
US11202652B2 (en) 2017-08-11 2021-12-21 Canon U.S.A., Inc. Registration and motion compensation for patient-mounted needle guide
CN111163697B (zh) * 2017-10-10 2023-10-03 柯惠有限合伙公司 用于在荧光三维重构中识别和标记目标的系统和方法
US10893911B2 (en) 2017-11-26 2021-01-19 Canon U.S.A., Inc. Automated image cropping for enhanced automatic device-to-image registration
CN108297079B (zh) * 2018-03-30 2023-10-13 中山市中科智能制造研究院有限公司 一种蛇形机械臂及其姿态变化的获取方法
CN109738925B (zh) * 2019-01-28 2021-07-06 重庆予胜远升网络科技有限公司 基于高精度定位ar管网图像展示系统及方法
KR102275385B1 (ko) * 2019-05-16 2021-07-09 주식회사 데카사이트 증강현실을 이용한 의료 기구 자세 추적 시스템 및 방법
JP7461642B2 (ja) 2020-06-04 2024-04-04 国立大学法人 東京大学 情報処理システム、情報処理装置、情報処理方法及びプログラム
US20240046555A1 (en) * 2022-08-08 2024-02-08 Gustav Lo Arcuate Imaging for Altered Reality Visualization

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5398691A (en) * 1993-09-03 1995-03-21 University Of Washington Method and apparatus for three-dimensional translumenal ultrasonic imaging
US5999840A (en) 1994-09-01 1999-12-07 Massachusetts Institute Of Technology System and method of registration of three-dimensional data sets
JP3864035B2 (ja) * 2000-05-19 2006-12-27 オリンパス株式会社 内視鏡システム
US20050113846A1 (en) * 2001-02-27 2005-05-26 Carson Christopher P. Surgical navigation systems and processes for unicompartmental knee arthroplasty
US7697972B2 (en) * 2002-11-19 2010-04-13 Medtronic Navigation, Inc. Navigation system for cardiac therapies
US9289267B2 (en) * 2005-06-14 2016-03-22 Siemens Medical Solutions Usa, Inc. Method and apparatus for minimally invasive surgery using endoscopes
US7711087B2 (en) * 2006-04-07 2010-05-04 Varian Medical Systems, Inc. Patient setup using tomosynthesis techniques
US8029558B2 (en) * 2006-07-07 2011-10-04 Abbott Cardiovascular Systems, Inc. Stent and catheter assembly and method for treating bifurcations
US8251893B2 (en) 2007-01-31 2012-08-28 National University Corporation Hamamatsu University School Of Medicine Device for displaying assistance information for surgical operation, method for displaying assistance information for surgical operation, and program for displaying assistance information for surgical operation
KR100961661B1 (ko) 2009-02-12 2010-06-09 주식회사 래보 수술용 항법 장치 및 그 방법
JP2010274044A (ja) * 2009-06-01 2010-12-09 Olympus Corp 手術支援装置、手術支援方法及び手術支援プログラム
DE102010009476A1 (de) * 2009-12-15 2011-06-16 Testo Ag Verfahren und Vorrichtung zur Visualisierung von ortsaufgelösten Messergebnissen von nicht unmittelbar für das menschliche Auge sichtbaren Eigenschaften
EP2523621B1 (en) * 2010-01-13 2016-09-28 Koninklijke Philips N.V. Image integration based registration and navigation for endoscopic surgery
US9218687B2 (en) * 2010-12-30 2015-12-22 St. Jude Medical, Atrial Fibrillation Division, Inc. Display of medical device position information in a volumetric rendering
EP3659491A1 (en) * 2011-12-13 2020-06-03 EndoChoice Innovation Center Ltd. Removable tip endoscope
KR20140083856A (ko) 2012-12-26 2014-07-04 가톨릭대학교 산학협력단 복합 실제 3차원 영상 제작방법 및 이를 위한 시스템

Also Published As

Publication number Publication date
US20150320513A1 (en) 2015-11-12
US10736592B2 (en) 2020-08-11
CN105377138B (zh) 2019-12-10
KR101588014B1 (ko) 2016-01-25
US20200383654A1 (en) 2020-12-10
KR20140083913A (ko) 2014-07-04
CN105377138A (zh) 2016-03-02
US11517279B2 (en) 2022-12-06

Similar Documents

Publication Publication Date Title
KR101588014B1 (ko) 복합 실제 3차원 영상 제작방법 및 이를 위한 시스템
US10762627B2 (en) Method and a system for registering a 3D pre acquired image coordinates system with a medical positioning system coordinate system and with a 2D image coordinate system
JP4758355B2 (ja) 患者の体内に医療用機器を案内するためのシステム
JP6395995B2 (ja) 医療映像処理方法及び装置
JP6430498B2 (ja) 超音波剪断波エラストグラフィ測定のマッピングのためのシステムおよび方法
US20080234570A1 (en) System For Guiding a Medical Instrument in a Patient Body
US11026747B2 (en) Endoscopic view of invasive procedures in narrow passages
JP6323335B2 (ja) 画像処理装置、画像処理方法、およびプログラム
US9990725B2 (en) Medical image processing apparatus and medical image registration method using virtual reference point for registering images
WO2001030254A1 (en) Catheter with radiopaque markers for 3d position tracking
KR101727567B1 (ko) 복합 실제 3차원 영상 제작방법 및 이를 위한 시스템
JP6703470B2 (ja) データ処理装置及びデータ処理方法
CN115861163A (zh) 结果图像数据的提供

Legal Events

Date Code Title Description
A201 Request for examination