WO2019124836A1 - 제1 의료 영상의 관심 영역을 제2 의료 영상 위에 맵핑하는 방법 및 이를 이용한 장치 - Google Patents

제1 의료 영상의 관심 영역을 제2 의료 영상 위에 맵핑하는 방법 및 이를 이용한 장치 Download PDF

Info

Publication number
WO2019124836A1
WO2019124836A1 PCT/KR2018/015479 KR2018015479W WO2019124836A1 WO 2019124836 A1 WO2019124836 A1 WO 2019124836A1 KR 2018015479 W KR2018015479 W KR 2018015479W WO 2019124836 A1 WO2019124836 A1 WO 2019124836A1
Authority
WO
WIPO (PCT)
Prior art keywords
medical image
region
image
information
interest
Prior art date
Application number
PCT/KR2018/015479
Other languages
English (en)
French (fr)
Inventor
배웅
정규환
Original Assignee
주식회사 뷰노
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 뷰노 filed Critical 주식회사 뷰노
Publication of WO2019124836A1 publication Critical patent/WO2019124836A1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00—Measuring for diagnostic purposes; Identification of persons
    • A61B5/05—Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves 
    • A61B5/055—Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves  involving electronic [EMR] or nuclear [NMR] magnetic resonance, e.g. magnetic resonance imaging
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • A61B6/02—Arrangements for diagnosis sequentially in different planes; Stereoscopic radiation diagnosis
    • A61B6/03—Computed tomography [CT]
    • A61B6/032—Transmission computed tomography [CT]
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/20—Image preprocessing
    • G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20084—Artificial neural networks [ANN]

Definitions

  • the present invention relates to a method of mapping at least one region of interest (ROI), which is a part of a first medical image taken on a subject, onto a second medical image of the subject.
  • the first medical image includes a plurality of continuous individual slice images
  • the second medical image includes a medical image on a plane intersecting the plurality of individual slice images
  • the computing device according to the present invention
  • the first medical image and the first region of interest information and acquires the first medical image and the first region of interest image processing to obtain a similar medical image in which the medical pseudo-image and the similar- And provides the mapping result data including the second medical image and the second interest area information, which is another medical image of the subject to be registered, to the external entity do.
  • the clinical information such as the partial area of the medical image, that is, the interest area and additional information related thereto, such as the finding information indicating the medical findings related to the region of interest, and the diagnosis information showing the medical diagnosis result
  • the finding information indicating the medical findings related to the region of interest
  • the diagnosis information showing the medical diagnosis result
  • the present invention proposes a medical image mapping method capable of mapping any medical image and additional information associated therewith so as to be useful for other types of medical images, and an apparatus using the same.
  • Patent Document 1 KR10-1028365 B
  • Patent Document 2 KR10-1698850 B
  • Non-Patent Document 1 Yi Du, Gongyi Yu, Xincheng Xiang. GPU accelerated voxel-driven forward projection for iterative reconstruction of cone-beam CT. BioMedical Engineering OnLine, 2017, Volume 16, Number 1, Page 1
  • Non-Patent Document 2 Ignacio Rocco, Relja Arandjelovic, Josef Sivic. Convolutional neural network architecture for geometric matching. In Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition (CVPR), 2017
  • An object of the present invention is to improve the usability of a medical image by mapping information of a region of interest, which is a partial region of the first medical image, to a second medical image and providing a corresponding region.
  • the present invention aims at easily configuring big data for machine learning, especially deep learning, by mapping a large amount of first medical image and information of a region of interest to second medical images easily do.
  • a method of mapping at least one region of interest which is a partial region of a first medical image taken on a subject, onto a second medical image of the subject
  • the first medical image comprises a plurality of consecutive individual slice images and the second medical image comprises a plane medical image intersecting the plurality of individual slice images
  • Computing apparatus includes a first interest that is information that specifies, as the region of interest, a portion of a specific slicing image that is at least one of (i) the first medical image and (ii) the individual slicing image of the first medical image, Acquiring region information or assisting another device associated with the computing device to acquire; (b) when the first medical image and the first region of interest information are acquired, the computing device performs image processing based on the first medical image and the first region of interest information, wherein (i) Medical image data similar to the second medical image, and (ii) similar medical image data reflecting the similar-interest area information that is a result of modification of the first
  • ROI region of interest
  • a computer program stored in a machine readable non-transitory medium, comprising instructions embodied to perform the method according to the invention.
  • a computing device for mapping at least one region of interest, which is a portion of a first medical image taken on a subject, onto a second medical image of the subject, Wherein the image comprises a continuous plurality of individual slice images, wherein the second medical image comprises a planar medical image intersecting the plurality of individual slice images, the computing device comprising: (i) And (ii) a first region of interest information that is information that specifies at least one of the individual slice images of the first medical image as the region of interest; And image processing based on the first medical image and the first region of interest information when the first medical image and the first region of interest information are obtained, the method comprising the steps of: (i) Similar medical image and (ii) similar medical image data reflecting the similarity region information that is a result of the first region of interest information being modified to correspond to the similar medical image, or generating the other medical device through the communication unit (I) a second medical image, and (ii) a second medical image that is a result of
  • the information of the region of interest which is a partial region of the first medical image having a certain modality, is mapped to the second medical image of the other type, and the region corresponding to the region of interest is provided, .
  • the present invention it is possible to efficiently organize medical images and information associated therewith, so that it is easy to acquire additional data for learning AI (artificial intelligence) such as a deep learning model in the future,
  • learning AI artificial intelligence
  • the privileged knowledge of the expert applied to the second medical image can be reflected with high accuracy as it is.
  • the medical image mapping method of the present invention has a potential effect of being used for learning AI, saving the time of the medical staff, improving the quality of the medical care, and innovating the workflow in the medical field.
  • medical images conventionally used in hospitals such as X-ray images and MRI images
  • the method of the present invention is not dependent on a platform such as a specific operating system Of course.
  • ROI region of interest
  • FIG. 2 is an exemplary block diagram illustrating the hardware or software components of a computing device that performs a medical imaging mapping method in accordance with the present invention.
  • FIG. 3 is a flowchart exemplarily showing an embodiment of a medical image mapping method according to the present invention.
  • 4A is a diagram illustrating a first medical image used in an embodiment of a medical image mapping method according to the present invention.
  • FIG. 4B is a diagram illustrating an exemplary region of interest for a first medical image in FIG. 4A.
  • FIG. 5 is a conceptual diagram schematically illustrating a forward projection performed in an embodiment of the medical image mapping method according to the present invention.
  • FIG. 6 is a conceptual illustration of registration performed in an embodiment of the medical image mapping method according to the present invention.
  • FIG. 7 is an exemplary diagram illustrating a mapped region of interest as a result of the mapping performed by the medical image mapping method according to the present invention.
  • image refers to multidimensional data composed of discrete image elements (e.g., pixels in a two-dimensional image and voxels in a three- Quot;
  • imaging may be computed by (cone-beam) computed tomography, magnetic resonance imaging (MRI), ultrasound, or any other medical imaging system known in the art
  • the subject may be a medical image of the subject.
  • the images may also be provided in a non-medical context, for example, a remote sensing system, an electron microscopy, and the like.
  • an "x-ray image” or “x-ray image” can be an x-ray image that is visible (eg, displayed on a video screen) ) Is a term that refers to a digital representation of an x-ray image.
  • cone-beam computed tomography (CBCT) image data may sometimes be used herein as an exemplary image format (modality).
  • image formats used in various embodiments of the present invention may be used in various imaging formats such as X-ray imaging, MRI, CT, positron emission tomography (PET), PET-CT, SPECT, SPECT-CT, MR- But it should be understood that the invention is not limited thereto.
  • DICOM Digital Imaging and Communications in Medicine
  • ACR American Radiation Medical Association
  • NEMA American Electrical Manufacturers Association
  • 'Picture Archiving and Communication System refers to a system for storing, processing and transmitting according to the DICOM standard throughout the detailed description and claims of the present invention, , And MRI can be stored in the DICOM format and transmitted to a terminal inside or outside the hospital through the network, and the result of reading and the medical record can be added to the terminal.
  • a "medical pseudo-image” is a term that is intended to refer to an image produced by processing another medical image or data to appear as an actual photographed and acquired medical image to be.
  • 'learning' or 'learning' refers to performing machine learning through computing according to a procedure, It will be understood by those of ordinary skill in the art that the present invention is not intended to be so-called.
  • ROI region of interest
  • a computing device 100 includes a communication unit 110 and a processor 120.
  • the communication unit 110 communicates with an external computing device (not shown) Communication is possible.
  • the computing device 100 may be implemented as a computer-readable medium, such as conventional computer hardware (e.g., a computer processor, memory, storage, input and output devices, Electronic communication devices, electronic information storage systems such as network-attached storage (NAS) and storage area networks (SAN), and computer software (i.e., computing devices that enable a computing device to function in a particular manner) Commands) to achieve the desired system performance.
  • conventional computer hardware e.g., a computer processor, memory, storage, input and output devices, Electronic communication devices, electronic information storage systems such as network-attached storage (NAS) and storage area networks (SAN), and computer software (i.e., computing devices that enable a computing device to function in a particular manner) Commands) to achieve the desired system performance.
  • NAS network-attached storage
  • SAN storage area networks
  • the communication unit 110 of the computing device can send and receive requests and responses to and from other interworking computing devices.
  • requests and responses can be made by the same transmission control protocol (TCP) session
  • TCP transmission control protocol
  • UDP user datagram protocol
  • the communication unit 110 may include a keyboard, a mouse, an external input device, a printer, a display, and other external output devices for receiving commands or instructions.
  • the processor 120 of the computing device may also be a micro processing unit (MPU), a central processing unit (CPU), a graphics processing unit (GPU), or a tensor processing unit (TPU), a cache memory, a data bus ). ≪ / RTI > It may further include a software configuration of an operating system and an application that performs a specific purpose.
  • MPU micro processing unit
  • CPU central processing unit
  • GPU graphics processing unit
  • TPU tensor processing unit
  • FIG. 2 is an exemplary block diagram illustrating hardware or software components of a computing device that performs a medical image mapping method according to the present invention.
  • FIG. 3 illustrates an exemplary embodiment of a medical image mapping method according to the present invention.
  • the computing device 100 may include an image acquisition module 210 as a component of the method and apparatus according to the present invention. It is to be understood that the image acquisition module 210 may be implemented by the communication unit 110 included in the computing device 100 or the interworking of the communication unit 110 and the processor 120, will be.
  • the image acquisition module 210 may include (i) a first medical image including a plurality of individual slice slices, and (ii) a second medical image including the individual It is possible to acquire first ROI information, which is information that specifies at least one of the sliced images as a region of interest, which is a part of a specific sliced image. Individual findings, diagnoses, or clinical information may be associated with each of these areas of interest.
  • first ROI information is information that specifies at least one of the sliced images as a region of interest, which is a part of a specific sliced image. Individual findings, diagnoses, or clinical information may be associated with each of these areas of interest.
  • This finding, diagnosis or clinical information refers to information provided as a result of reading by the reader, for example a physician, on the first medical image, wherein the corresponding first region of interest information is overlaid on at least a portion of the first medical image May include information in the form of a mask image that is provided as an indication to support individual findings, diagnosis or clinical information, preferably in the form of a density map .
  • a first medical image may be a chest CT image.
  • FIG. 4A is a diagram illustrating a first medical image used in an embodiment of the medical image mapping method according to the present invention, wherein the first medical image is a chest CT image, and one of the slice images is exemplarily Is displayed.
  • FIG. 4B is a diagram illustrating an exemplary region of interest for the first medical image in FIG. 4A, and a portion of the specific slicing image shown in FIG. 4A is shown as a region of interest 410.
  • the first region of interest information which is the information for specifying the region of interest, may be information for boxing or segmenting the region of interest. For example, Or may be input through the network.
  • This first medical image may be obtained, for example, from a medical imaging device or a medical image storage and transmission system (PACS) coupled thereto, but is not limited thereto.
  • the first medical image may be captured through a medical imaging device, transmitted to a PACS according to the DICOM standard, and then acquired by the image acquisition module 210 of the computing device 100.
  • PACS medical image storage and transmission system
  • the acquired first medical image and first region of interest information may be transmitted to the image processing module 220.
  • the first medical image and the first ROI information (Ii) similar medical image data in which the similarity region information, which is a result of modification of the first region of interest information to correspond to the similar medical image, is generated by (i) the similar medical image on the intersecting plane and (iii) a second medical image which is the medical image of the similar medical image or another medical image of the subject to be matched thereto, and (iv) a second medical image which is a result of modifying the similar- And the mapping result data including the information is generated.
  • this series of image processing will be described later.
  • the second medical image refers to a medical image on a plane intersecting the plurality of individual slice images constituting the first medical image.
  • the second medical image is compared with a similar medical image derived from the first medical image (for example, a CT image) (an image calculated from the CT image and calculated to be similar to the X-ray image) (E.g., an X-ray image).
  • a similar medical image derived from the first medical image for example, a CT image
  • the second medical image is a similar medical image itself (for example, a image calculated to be similar to an X-ray image) It is possible.
  • the second medical image may be a coronal plane of the same subject crossing the first medical image, Lt; / RTI >
  • the crossover referred to herein does not necessarily have to be orthogonal, but may be a sloping crossover.
  • the second medical image and the first medical image may not be of the same format as the first medical image is a CT image, whereas the second medical image may be an X-ray image.
  • mapping result data is generated, the mapping result data is stored via the storage and transmission module 230, and / May be provided to an external entity via a given display device, and / or may be provided to another device, such as a PACS, which is interfaced to the computing device 100.
  • the external entity includes a user of the computing device 100, a manager, a medical professional in charge of the subject, and the like.
  • the external entity may be an external AI device that includes separate AI hardware and / or software modules that utilize the mapping result data.
  • 'outside' in an external entity is not intended to exclude embodiments in which AI hardware and / or software modules that utilize the mapping result data are integrated into the computing device 100, And that the mapping result data, which is the result of hardware and / or software modules, can be used as input data of other methods. That is, the external entity may be the computing device 100 itself.
  • computing device 100 performing the method of the present invention may be configured in plural.
  • an image acquisition module 210 implemented by the communication unit 110 of the computing device 100 may include an image acquisition unit (not shown) acquiring first region of interest information, which is information for specifying, as the region of interest, a partial region of a specific slicing image, which is at least one of i) the first medical image and (ii) the individual slicing image of the first medical image, (S100) to enable other devices associated with the computing device to acquire.
  • first region of interest information which is information for specifying, as the region of interest, a partial region of a specific slicing image, which is at least one of i) the first medical image and (ii) the individual slicing image of the first medical image, (S100) to enable other devices associated with the computing device to acquire.
  • the method of mapping a medical image may further comprise the step of determining whether the image processing module 220 implemented by the processor 120 of the computing device 100 is based on the first medical image and the first region of interest information (S200) of generating or generating similar medical image data by image processing, wherein the similar medical image data includes (i) a similar medical image data on a plane intersecting with the individual slice image, And (ii) the similarity region information, which is a result of transforming the first region of interest information to correspond to the similar medical image, is reflected.
  • the image processing may be a forward projection.
  • FIG. 5 is a conceptual diagram schematically illustrating forward projection performed in an embodiment of the medical image mapping method according to the present invention, for example, Non-Patent Document 1: Yi Du, Gongyi Yu, Xincheng Xiang. GPU accelerated voxel-driven forward projection for iterative reconstruction of cone-beam CT. BioMedical Engineering OnLine, 2017, Volume 16, Number 1, Page 1.
  • the forward projection process is performed with reference to a device that captures a medical image.
  • the referenced device information includes a source to detector distance (SSD), a pixel pitch, and the like do.
  • the forward projection is performed with reference to the information of the equipment that photographed the other medical image to make the similar medical image from the first medical image Can be.
  • the second medical image is the similar medical image (for example, an image derived from the CT image as the first medical image, similar to the X-ray image) itself, for example, .
  • the second medical image is not a property obtained by the photographing but is an image created by the image processing on the existing image, so that it can be done with reference to the information of the typical photographing equipment.
  • the forward projection is performed in the following manner: (i) a forward projection for the first medical image and a forward projection for the ROI are performed separately, or (ii) the front projection for the first medical image and the ROI May be performed simultaneously.
  • the similar medical image data includes the similar medical image generated from the first medical image by the forward projection, and the similar medical image generated from the first region of interest information by the forward projection And area information, respectively. Since the first ROI information can be provided for each ROI, the ROI information can be generated for each ROI.
  • the similar medical image data includes a predetermined operator (F) (for example, an arbitrary one of F ( x, y, z ) (F n, i, j ) of the forward projection with respect to the weight ⁇ F (R n, x, y, z ) the first scheme to obtain the point by the result of the forward projection values for the medical image (K i, j) of point-by-point results in similar medical imaging data values (K i, j + ⁇ F n , i, j) by summing for the weighted forward And may be generated by performing a weighted forward projection.
  • the predetermined operator F n applied to the first region of interest may be different.
  • the image processing may summarize coronal plane images according to the first medical image.
  • the present invention is not limited to the first embodiment and the second embodiment but may be any processing that can obtain the similar medical image data.
  • the image processing in the first and second embodiments of the above-described step S200 may be performed by the projection module 222 included in the image processing module 220, for example.
  • a medical image mapping method includes: an image processing module 220 implemented by a processor 120 of the computing device 100, the method comprising: (i) (ii) providing the mapping entity with the second region-of-interest information, which is a result of modification of the similarity-of-interest region information to correspond to the second medical image, to an external entity, And further includes step S300.
  • registration is performed between the similar medical image and the other medical image in the case where the second medical image is another medical image in step S300, To the second region of interest information corresponding to the second medical image. If matching between the similar medical image and the second medical image in which the attitude taken by the subject and the angle constituting the image do not completely coincide with each other, then the similar medical image is also matched with the similar medical image on the second medical image Information on the region of interest, i.e., the second region of interest information, can be obtained. That is, in this case, the second region of interest information is a result of being modified based on the matching relationship such that the similarity region information corresponds to the second medical image.
  • the matching may be performed, for example, by a matching module 224 included in the image processing module 220.
  • step S300 such matching may be performed by geometric dense matching.
  • this geometric density matching can be performed in a handcrafted method that takes into account handcrafted features, such as hand-crafted methods, for example, scale-invariant feature transform (SIFT) ), HOG (histogram of oriented gradients), RANSAC (random sample consensus), and Hough transform.
  • hand-crafted methods for example, scale-invariant feature transform (SIFT) ), HOG (histogram of oriented gradients), RANSAC (random sample consensus), and Hough transform.
  • the geometric density matching is not limited to this, and the geometric density matching may be performed by a pre-learned deep learning algorithm based on a large amount of learning data between the similar medical images and the corresponding other medical images
  • non-patent document 2 Ignacio Rocco, Relja Arandjelovic, Josef Sivic. Convolutional neural network architecture for geometric matching.
  • CVPR Computer Vision and Pattern Recognition
  • the second medical image is another medical image
  • (i) the other medical image and the second region of interest information; Or (ii) information modified to reflect the other medical image and the second ROI information become the mapping result data.
  • the similarity area information itself is the second area of interest information, so no separate matching is required, and (i) Second ROI information; Or (ii) the information itself modified to reflect the similar medical image and the second ROI information become the mapping result data.
  • mapping result data described above may be stored or held in the computing device 100 or other device coupled thereto, thereby ultimately being provided to an external entity. This includes, but is not limited to, display through a predetermined display device, generation of output through other output devices, generation and transmission of a file, and the like.
  • FIG. 7 is an exemplary diagram illustrating a mapped region of interest as a result of the mapping performed by the medical image mapping method according to the present invention.
  • the similar medical image 710 may be an image obtained from the first medical image, which is a CT image
  • the other medical image 720 may be an X-ray image
  • the mapped region of interest mapped to the second medical image may be provided or displayed on the external entity, and the second medical image 730 including the mapped region of interest may include the second region of interest information It will be appreciated.
  • the present invention has the effect of improving the usability of the medical image by mapping the medical images having different formats by mapping the regions of interest through all of the above-described embodiments and efficiently arranging the medical images and the information associated therewith It becomes possible to acquire additional data for AI learning such as the deep learning model in the future. As a result, AI can help improve the quality of the medical treatment and improve the workflow in the medical field.
  • the hardware may include special features or components of a general purpose computer and / or a dedicated computing device or a specific computing device or a particular computing device.
  • the processes may be realized by one or more microprocessors, microcontrollers, embedded microcontrollers, programmable digital signal processors or other programmable devices having internal and / or external memory. Additionally or alternatively, the processes can be configured to process application specific integrated circuits (ASICs), programmable gate arrays, programmable array logic (PAL) Or any other device or combination of devices.
  • ASICs application specific integrated circuits
  • PAL programmable array logic
  • the objects of the technical solution of the present invention, or portions contributing to the prior art may be implemented in the form of program instructions that can be executed through various computer components and recorded on a machine-readable recording medium.
  • the machine-readable recording medium may include program commands, data files, data structures, and the like, alone or in combination.
  • the program instructions recorded on the machine-readable recording medium may be those specially designed and constructed for the present invention or may be those known to those of ordinary skill in the computer software arts.
  • machine-readable recording medium examples include magnetic media such as hard disks, floppy disks and magnetic tape, optical recording media such as CD-ROM, DVD, Blu-ray, magneto-optical media such as floptical disks magneto-optical media, and hardware devices specifically configured to store and execute program instructions such as ROM, RAM, flash memory, and the like.
  • Examples of program instructions include, but are not limited to, any of the above devices, as well as a heterogeneous combination of processors, processor architectures or combinations of different hardware and software, Which may be constructed using a structured programming language such as C, an object-oriented programming language such as C ++ or an advanced or low-level programming language (assembly language, hardware description languages and database programming languages and techniques) This includes not only bytecode, but also high-level language code that can be executed by a computer using an interpreter or the like.
  • combinations of the methods and methods may be implemented as executable code that performs each of the steps.
  • the method may be implemented as systems for performing the steps, and the methods may be distributed in various ways throughout the devices, or all functions may be integrated into one dedicated, stand-alone device, or other hardware.
  • the means for performing the steps associated with the processes described above may include any of the hardware and / or software described above. All such sequential combinations and combinations are intended to be within the scope of this disclosure.
  • the hardware device may be configured to operate as one or more software modules to perform processing in accordance with the present invention, and vice versa.
  • the hardware device may include a processor, such as an MPU, CPU, GPU, TPU, coupled to a memory, such as ROM / RAM, for storing program instructions and configured to execute instructions stored in the memory, And a communication unit capable of receiving and sending data.
  • the hardware device may include a keyboard, a mouse, and other external input devices for receiving commands generated by the developers.
  • Such equally or equivalently modified means include, for example, a logically equivalent method which can produce the same result as the method according to the present invention, Should not be limited by the foregoing examples, but should be understood in the broadest sense permissible by law.

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Medical Informatics (AREA)
  • Theoretical Computer Science (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Public Health (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Veterinary Medicine (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • High Energy & Nuclear Physics (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Pulmonology (AREA)
  • Optics & Photonics (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)
  • Apparatus For Radiation Diagnosis (AREA)

Abstract

본 발명은 피검체에 대하여 취해진 제1 의료 영상의 일부 영역인 적어도 하나의 관심 영역을 상기 피검체의 제2 의료 영상 위에 맵핑하는 방법에 관한 것이다. 구체적으로, 상기 제1 의료 영상은 연속적인 다수의 개별 슬라이싱 영상을 포함하며, 상기 제2 의료 영상은 상기 다수의 개별 슬라이싱 영상에 교차하는 평면 상의 의료 영상을 포함하고, 본 발명에 따른 컴퓨팅 장치는, 제1 의료 영상 및 제1 관심 영역 정보를 획득하고, 유사 의료 영상 및 유사 관심 영역 정보가 반영된 유사 의료 영상 데이터를 생성하며, 상기 유사 의료 영상 또는 이에 정합되는 상기 피검체의 타 의료 영상인 상기 제2 의료 영상 및 제2 관심 영역 정보를 포함하는 맵핑 결과 데이터를 외부 엔티티에 제공한다.

Description

제1 의료 영상의 관심 영역을 제2 의료 영상 위에 맵핑하는 방법 및 이를 이용한 장치
본 발명은 피검체에 대하여 취해진 제1 의료 영상의 일부 영역인 적어도 하나의 관심 영역(ROI; region of interest)을 상기 피검체의 제2 의료 영상 위에 맵핑(mapping)하는 방법에 관한 것이다. 구체적으로, 상기 제1 의료 영상은 연속적인 다수의 개별 슬라이싱 영상을 포함하며, 상기 제2 의료 영상은 상기 다수의 개별 슬라이싱 영상에 교차하는 평면 상의 의료 영상을 포함하고, 본 발명에 따른 컴퓨팅 장치는, 제1 의료 영상 및 제1 관심 영역 정보를 획득하고, 상기 제1 의료 영상 및 상기 제1 관심 영역 정보에 기초한 영상 처리로써 유사 의료 영상(medical pseudo-image) 및 유사 관심 영역 정보가 반영된 유사 의료 영상 데이터를 생성하며, 상기 유사 의료 영상 또는 이에 정합(register)되는 상기 피검체의 타 의료 영상인 상기 제2 의료 영상 및 제2 관심 영역 정보를 포함하는 맵핑 결과 데이터를 외부 엔티티(entity)에 제공한다.
현재, 영상을 다른 영상의 고정된 영역 내로 사영(projection)하기 위한 방법들과 시스템들이 존재한다. 그런데, 의료 영상에 있어서는 의료 영상의 일부 영역, 즉 관심 영역 및 이에 관한 부가 정보, 예를 들어 관심 영역에 관련한 의학적 소견을 나타낸 소견 정보, 의학적 진단 결과를 나타낸 진단 정보 등의 임상 정보가 동일 피검체의 다른 형식(modality)의 영상의 어느 부분에 대응되는 것인지 정확하고 효율적으로 매칭되는 방법이 부재한 상황이어서, 의료 영상에 부가된 정보가 다른 형식의 영상에 대해서는 쓸모없게 되는 경우가 빈번하다.
따라서 본 발명에서는 어느 의료 영상 및 이에 결부되는 부가 정보를 다른 형식의 의료 영상에도 유용하게 쓰일 수 있도록 맵핑 가능한 의료 영상 맵핑 방법 및 이를 이용한 장치를 제안하고자 한다.
[선행기술문헌]
(특허문헌 1) KR10-1028365 B
(특허문헌 2) KR10-1698850 B
(비특허문헌 1) Yi Du, Gongyi Yu, Xincheng Xiang. GPU accelerated voxel-driven forward projection for iterative reconstruction of cone-beam CT. BioMedical Engineering OnLine, 2017, Volume 16, Number 1, Page 1
(비특허문헌 2) Ignacio Rocco, Relja Arandjelovic, Josef Sivic. Convolutional neural network architecture for geometric matching. In Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition (CVPR), 2017
본 발명은 제1 의료 영상의 일부 영역인 관심 영역의 정보를 제2 의료 영상에 맵핑하여 대응되는 영역을 표시 제공함으로써 의료 영상의 활용성을 높이는 것을 목적으로 한다.
또한, 본 발명은 다량의 제1 의료 영상 및 관심 영역의 정보를 간편하게 제2 의료 영상들에 맵핑할 수 있게 함으로써 기계 학습, 특히 딥 러닝을 위한 빅데이터(big data)를 손쉽게 구성하는 것을 목적으로 한다.
상기한 바와 같은 본 발명의 목적을 달성하고, 후술하는 본 발명의 특징적인 효과를 실현하기 위한 본 발명의 특징적인 구성은 하기와 같다.
본 발명의 일 태양에 따르면, 피검체에 대하여 취해진 제1 의료 영상의 일부 영역인 적어도 하나의 관심 영역(ROI; region of interest)을 상기 피검체의 제2 의료 영상 위에 맵핑(mapping)하는 방법이 제공되는바, 상기 제1 의료 영상은 연속적인 다수의 개별 슬라이싱 영상을 포함하며, 상기 제2 의료 영상은 상기 다수의 개별 슬라이싱 영상에 교차하는 평면 상의 의료 영상을 포함하고, 상기 방법은, (a) 컴퓨팅 장치가, (i) 상기 제1 의료 영상, 및 (ii) 상기 제1 의료 영상의 상기 개별 슬라이싱 영상 중 적어도 하나인 특정 슬라이싱 영상의 일부 영역을 상기 관심 영역으로 특정하는 정보인 제1 관심 영역 정보를 획득하거나 상기 컴퓨팅 장치에 연동되는 타 장치로 하여금 획득하도록 지원하는 단계; (b) 상기 제1 의료 영상 및 상기 제1 관심 영역 정보가 획득되면, 상기 컴퓨팅 장치가, 상기 제1 의료 영상 및 상기 제1 관심 영역 정보에 기초한 영상 처리로써 (i) 상기 교차하는 평면 상의, 상기 제2 의료 영상에 유사한 유사 의료 영상 및 (ii) 상기 제1 관심 영역 정보가 상기 유사 의료 영상에 대응되도록 변형된 결과인 유사 관심 영역 정보가 반영된 유사 의료 영상 데이터를 생성하거나 상기 타 장치로 하여금 생성하도록 지원하는 단계; (c) 상기 유사 의료 영상 데이터가 생성되면, 상기 컴퓨팅 장치가, (i) 상기 제2 의료 영상 및 (ii) 상기 유사 관심 영역 정보가 상기 제2 의료 영상에 대응되도록 변형된 결과인 제2 관심 영역 정보를 포함하는 맵핑 결과 데이터를 외부 엔티티(entity)에 제공하거나 상기 타 장치로 하여금 제공하도록 지원하되, 상기 제2 의료 영상은 상기 유사 의료 영상 또는 이에 정합(register)되는 상기 피검체의 타 의료 영상인 단계를 포함한다.
본 발명의 다른 태양에 따르면, 본 발명에 따른 방법을 수행하도록 구현된 명령어(instructions)를 포함하는, 기계 판독 가능한 비일시적 기록 매체에 저장된, 컴퓨터 프로그램도 제공된다.
본 발명의 또 다른 태양에 따르면, 피검체에 대하여 취해진 제1 의료 영상의 일부 영역인 적어도 하나의 관심 영역을 상기 피검체의 제2 의료 영상 위에 맵핑하는 컴퓨팅 장치가 제공되는바, 상기 제1 의료 영상은 연속적인 다수의 개별 슬라이싱 영상을 포함하며, 상기 제2 의료 영상은 상기 다수의 개별 슬라이싱 영상에 교차하는 평면 상의 의료 영상을 포함하고, 상기 컴퓨팅 장치는, (i) 상기 제1 의료 영상, 및 (ii) 상기 제1 의료 영상의 상기 개별 슬라이싱 영상 중 적어도 하나인 특정 슬라이싱 영상의 일부 영역을 상기 관심 영역으로 특정하는 정보인 제1 관심 영역 정보를 획득하는 통신부; 및 상기 제1 의료 영상 및 상기 제1 관심 영역 정보가 획득되면, 상기 제1 의료 영상 및 상기 제1 관심 영역 정보에 기초한 영상 처리로써 (i) 상기 교차하는 평면 상의, 상기 제2 의료 영상에 유사한 유사 의료 영상 및 (ii) 상기 제1 관심 영역 정보가 상기 유사 의료 영상에 대응되도록 변형된 결과인 유사 관심 영역 정보가 반영된 유사 의료 영상 데이터를 생성하거나 상기 통신부를 통하여 상기 타 장치로 하여금 생성하도록 지원하는 프로세서를 포함하고, 상기 프로세서는, 상기 유사 의료 영상 데이터가 생성되면, (i) 상기 제2 의료 영상 및 (ii) 상기 유사 관심 영역 정보가 상기 제2 의료 영상에 대응되도록 변형된 결과인 제2 관심 영역 정보를 포함하는 맵핑 결과 데이터를 외부 엔티티(entity)에 제공하거나 상기 통신부를 통하여 상기 타 장치로 하여금 제공하도록 지원하되, 상기 제2 의료 영상은 상기 유사 의료 영상 또는 이에 정합(register)되는 상기 피검체의 타 의료 영상이다.
본 발명에 의하면, 특정 형식(modality)을 가지는 제1 의료 영상의 일부 영역인 관심 영역의 정보를 다른 형식의 제2 의료 영상에 맵핑하여 그 관심 영역에 대응되는 영역을 제공함으로써 의료 영상의 활용성을 높이는 효과가 있다.
또한, 본 발명에 의하면, 다량의 제1 의료 영상 및 관심 영역의 정보를 간편하게 제2 의료 영상들에 맵핑할 수 있게 함으로써 기계 학습, 특히 딥 러닝(deep learning)을 위한 빅데이터(big data)를 손쉽게 구성할 수 있는 효과가 있다.
구체적으로, 본 발명에 의하면, 의료 영상 및 이에 결부된 정보의 효율적인 정리가 가능해져 향후 딥 러닝 모델과 같은 AI(artificial intelligence; 인공지능)의 학습을 위한 추가 데이터 취득이 용이하며, 제1 의료 영상에 적용된 전문가의 사전 지식(privileged knowledge)이 제2 의료 영상에 대해서도 높은 정확도로 그대로 반영될 수 있는 효과가 있다.
요컨대, 본 발명의 의료 영상 맵핑 방법은 궁극적으로 AI의 학습에 이용됨으로써 의료진의 시간을 절약하고 진료의 질을 높이며 의료 현장에서의 워크플로(workflow)를 혁신할 수 있게 되는 잠재적 효과가 있다.
그리고 본 발명에 의하면, 종래에 병원에서 이용하고 있는 의료 영상, 예컨대 X선 영상, MRI 영상 등이 그대로 활용될 수 있는바, 본 발명의 방법이 특정 운영체제(operating system) 등의 플랫폼에 종속되지 않음은 물론이다.
본 발명의 실시예의 설명에 이용되기 위하여 첨부된 아래 도면들은 본 발명의 실시예들 중 단지 일부일 뿐이며, 본 발명이 속한 기술분야의 통상의 기술자에게 있어서는 발명적 작업이 이루어짐 없이 이 도면들에 기초하여 다른 도면들이 얻어질 수 있다.
도 1은 피검체에 대하여 취해진 제1 의료 영상의 일부 영역인 적어도 하나의 관심 영역(ROI; region of interest)을 본 발명에 따라 상기 피검체의 제2 의료 영상 위에 맵핑하는 방법(이하 “의료 영상 맵핑 방법”이라 함)을 수행하는 컴퓨팅 장치의 예시적 구성을 개략적으로 도시한 개념도이다.
도 2는 본 발명에 따른 의료 영상 맵핑 방법을 수행하는 컴퓨팅 장치의 하드웨어 또는 소프트웨어 구성요소를 도시한 예시적 블록도이다.
도 3은 본 발명에 따른 의료 영상 맵핑 방법의 일 실시예를 예시적으로 나타낸 흐름도이다.
도 4a는 본 발명에 따른 의료 영상 맵핑 방법의 일 실시예에서 이용되는 제1 의료 영상을 예시적으로 나타낸 도면이다.
도 4b는 도 4a에 제1 의료 영상에 대한 관심 영역을 예시적으로 표시한 도면이다.
도 5는 본 발명에 따른 의료 영상 맵핑 방법의 일 실시예에서 수행되는 전방 사영(forward projection)을 개략적으로 예시한 개념도이다.
도 6은 본 발명에 따른 의료 영상 맵핑 방법의 일 실시예에서 수행되는 정합(registration)을 개념적으로 예시한 도면이다.
도 7은 본 발명에 따른 의료 영상 맵핑 방법에 의하여 수행된 맵핑의 결과로서 나타난 맵핑된 관심 영역을 예시적으로 나타낸 도면이다.
후술하는 본 발명에 대한 상세한 설명은, 본 발명의 목적들, 기술적 해법들 및 장점들을 분명하게 하기 위하여 본 발명이 실시될 수 있는 특정 실시예를 예시로서 도시하는 첨부 도면을 참조한다. 이들 실시예는 통상의 기술자가 본 발명을 실시할 수 있기에 충분하도록 상세히 설명된다.
본 발명의 상세한 설명 및 청구항들에 걸쳐 이용된 "영상" 또는 "영상 데이터"라는 용어는 이산적 영상 요소들(예컨대, 2차원 영상에 있어서는 픽셀, 3차원 영상에 있어서는 복셀)로 구성된 다차원 데이터를 지칭한다. 예를 들어 "영상"은 (콘-빔형; cone-beam) 전산화 단층 촬영(computed tomography), MRI(magnetic resonance imaging), 초음파 또는 본 발명의 기술분야에서 공지된 임의의 다른 의료 영상 시스템의 의하여 수집된 피검체(subject)의 의료 영상일 수 있다. 또한 영상은 비의료적 맥락에서 제공될 수도 있는바, 예를 들어 원격 감지 시스템(remote sensing system), 전자현미경(electron microscopy) 등등이 있을 수 있다.
본 발명의 상세한 설명 및 청구항들에 걸쳐, 'X선 영상' 혹은 '엑스선 영상'은 (예컨대, 비디오 화면에 표시된) 눈으로 볼 수 있는 엑스선 영상 또는 (예컨대, 엑스선 검출기의 픽셀 출력에 대응되는 파일과 같은) 엑스선 영상의 디지털 표현물을 지칭하는 용어이다.
설명의 편의를 위하여 본 명세서에서 때때로 콘-빔형 CT(cone-beam computed tomography; CBCT) 영상 데이터가 예시적 영상 형식(modality)인 것으로 이용될 수 있다. 그러나 통상의 기술자는 본 발명의 다양한 실시예에서 이용되는 영상 형식들이 X선 영상, MRI, CT, PET(positron emission tomography), PET-CT, SPECT, SPECT-CT, MR-PET, 3D 초음파 영상 등등을 포함하나 이에 한정되지 않는다는 점을 이해할 수 있을 것이다.
본 발명의 상세한 설명 및 청구항들에 걸쳐 ‘DICOM(Digital Imaging and Communications in Medicine; 의료용 디지털 영상 및 통신)’ 표준은 의료용 기기에서 디지털 영상 표현과 통신에 이용되는 여러 가지 표준을 총칭하는 용어인바, DICOM 표준은 미국 방사선 의학회(ACR)와 미국 전기 공업회(NEMA)에서 구성한 연합 위원회에서 발표한다.
또한, 본 발명의 상세한 설명 및 청구항들에 걸쳐 ‘의료영상 저장 전송 시스템(PACS; Picture Archiving and Communication System)’은 DICOM 표준에 맞게 저장, 가공, 전송하는 시스템을 지칭하는 용어이며, X선, CT, MRI와 같은 디지털 의료영상 장비를 이용하여 획득된 의료영상 이미지는 DICOM 형식으로 저장되고 네트워크를 통하여 병원 내외의 단말로 전송이 가능하며, 이에는 판독 결과 및 진료 기록이 추가될 수 있다.
본 발명의 상세한 설명 및 청구항들에 걸쳐 ‘유사 의료 영상(medical pseudo-image)’은 실제 촬영 및 획득된 의료 영상인 것처럼 보이도록 다른 의료 영상 또는 데이터를 처리함으로써 생성된 영상을 지칭하도록 의도된 용어이다.
그리고 본 발명의 상세한 설명 및 청구항들에 걸쳐 '학습' 혹은 '러닝'은 절차에 따른 컴퓨팅(computing)을 통하여 기계 학습(machine learning)을 수행함을 일컫는 용어인바, 인간의 교육 활동과 같은 정신적 작용을 지칭하도록 의도된 것이 아님을 통상의 기술자는 이해할 수 있을 것이다.
그리고 본 발명의 상세한 설명 및 청구항들에 걸쳐, '포함하다'라는 단어 및 그 변형은 다른 기술적 특징들, 부가물들, 구성요소들 또는 단계들을 제외하는 것으로 의도된 것이 아니다. 또한, ‘하나’ 또는 ‘한’은 하나 이상의 의미로 쓰인 것이며, ‘또 다른’은 적어도 두 번째 이상으로 한정된다.
통상의 기술자에게 본 발명의 다른 목적들, 장점들 및 특성들이 일부는 본 설명서로부터, 그리고 일부는 본 발명의 실시로부터 드러날 것이다. 아래의 예시 및 도면은 실례로서 제공되며, 본 발명을 한정하는 것으로 의도된 것이 아니다. 따라서, 특정 구조나 기능에 관하여 본 명세서에 개시된 상세 사항들은 한정하는 의미로 해석되어서는 아니되고, 단지 통상의 기술자가 실질적으로 적합한 임의의 상세 구조들로써 본 발명을 다양하게 실시하도록 지침을 제공하는 대표적인 기초 자료로 해석되어야 할 것이다.
더욱이 본 발명은 본 명세서에 표시된 실시예들의 모든 가능한 조합들을 망라한다. 본 발명의 다양한 실시예는 서로 다르지만 상호 배타적일 필요는 없음이 이해되어야 한다. 예를 들어, 여기에 기재되어 있는 특정 형상, 구조 및 특성은 일 실시예에 관련하여 본 발명의 사상 및 범위를 벗어나지 않으면서 다른 실시예로 구현될 수 있다. 또한, 각각의 개시된 실시예 내의 개별 구성요소의 위치 또는 배치는 본 발명의 사상 및 범위를 벗어나지 않으면서 변경될 수 있음이 이해되어야 한다. 따라서, 후술하는 상세한 설명은 한정적인 의미로서 취하려는 것이 아니며, 본 발명의 범위는, 적절하게 설명된다면, 그 청구항들이 주장하는 것과 균등한 모든 범위와 더불어 첨부된 청구항에 의해서만 한정된다. 도면에서 유사한 참조부호는 여러 측면에 걸쳐서 동일하거나 유사한 기능을 지칭한다.
본 명세서에서 달리 표시되거나 분명히 문맥에 모순되지 않는 한, 단수로 지칭된 항목은, 그 문맥에서 달리 요구되지 않는 한, 복수의 것을 아우른다. 또한, 본 발명을 설명함에 있어, 관련된 공지 구성 또는 기능에 대한 구체적인 설명이 본 발명의 요지를 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명은 생략한다.
이하, 통상의 기술자가 본 발명을 용이하게 실시할 수 있도록 하기 위하여, 본 발명의 바람직한 실시예들에 관하여 첨부된 도면을 참조하여 상세히 설명하기로 한다.
도 1은 피검체에 대하여 취해진 제1 의료 영상의 일부 영역인 적어도 하나의 관심 영역(ROI; region of interest)을 본 발명에 따라 상기 피검체의 제2 의료 영상 위에 맵핑하는 방법(이하 “의료 영상 맵핑 방법”이라 함)을 수행하는 컴퓨팅 장치의 예시적 구성을 개략적으로 도시한 개념도이다.
도 1을 참조하면, 본 발명의 일 실시예에 따른 컴퓨팅 장치(100)는, 통신부(110) 및 프로세서(120)를 포함하며, 상기 통신부(110)를 통하여 외부 컴퓨팅 장치(미도시)와 직간접적으로 통신할 수 있다.
구체적으로, 상기 컴퓨팅 장치(100)는, 전형적인 컴퓨터 하드웨어(예컨대, 컴퓨터 프로세서, 메모리, 스토리지, 입력 장치 및 출력 장치, 기타 기존의 컴퓨팅 장치의 구성요소들을 포함할 수 있는 장치; 라우터, 스위치 등과 같은 전자 통신 장치; 네트워크 부착 스토리지(NAS; network-attached storage) 및 스토리지 영역 네트워크(SAN; storage area network)와 같은 전자 정보 스토리지 시스템)와 컴퓨터 소프트웨어(즉, 컴퓨팅 장치로 하여금 특정의 방식으로 기능하게 하는 명령어들)의 조합을 이용하여 원하는 시스템 성능을 달성하는 것일 수 있다.
이와 같은 컴퓨팅 장치의 통신부(110)는 연동되는 타 컴퓨팅 장치와 요청과 응답을 송수신할 수 있는바, 일 예시로서 그러한 요청과 응답은 동일한 TCP(transmission control protocol) 세션(session)에 의하여 이루어질 수 있지만, 이에 한정되지는 않는바, 예컨대 UDP(user datagram protocol) 데이터그램(datagram)으로서 송수신될 수도 있을 것이다. 덧붙여, 넓은 의미에서 상기 통신부(110)는 명령어 또는 지시 등을 전달받기 위한 키보드, 마우스, 기타 외부 입력장치, 프린터, 디스플레이, 기타 외부 출력장치를 포함할 수 있다.
또한, 컴퓨팅 장치의 프로세서(120)는 MPU(micro processing unit), CPU(central processing unit), GPU(graphics processing unit) 또는 TPU(tensor processing unit), 캐시 메모리(cache memory), 데이터 버스(data bus) 등의 하드웨어 구성을 포함할 수 있다. 또한, 운영체제, 특정 목적을 수행하는 애플리케이션의 소프트웨어 구성을 더 포함할 수도 있다.
도 2는 본 발명에 따른 의료 영상 맵핑 방법을 수행하는 컴퓨팅 장치의 하드웨어 또는 소프트웨어 구성요소를 도시한 예시적 블록도이며, 도 3은 본 발명에 따른 의료 영상 맵핑 방법의 일 실시예를 예시적으로 나타낸 흐름도이다.
도 2를 참조하여 본 발명에 따른 방법 및 장치의 구성을 개관하면, 컴퓨팅 장치(100)는 그 일 구성요소로서 영상 획득 모듈(210)을 포함할 수 있다. 이와 같은 영상 획득 모듈(210)은 상기 컴퓨팅 장치(100)에 포함된 통신부(110), 또는 상기 통신부(110) 및 프로세서(120)의 연동에 의하여 구현될 수 있음은 통상의 기술자가 이해할 수 있을 것이다.
도 2를 참조하면, 영상 획득 모듈(210)은, (i) 연속적인 다수의 개별 슬라이싱 영상(slice; sliced image)을 포함하는 제1 의료 영상, 및 (ii) 상기 제1 의료 영상의 상기 개별 슬라이싱 영상 중 적어도 하나인 특정 슬라이싱 영상의 일부 영역을 상기 관심 영역으로 특정하는 정보인 제1 관심 영역 정보를 획득할 수 있다. 이러한 관심 영역 각각에 대하여 개별의 소견, 진단 또는 임상 정보가 결부될 수 있다.
이 소견, 진단 또는 임상 정보는, 판독자, 예컨대 의사의 상기 제1 의료 영상에 대한 판독 결과로서 제공되는 정보를 지칭하는데, 이에 대응되는 제1 관심 영역 정보는 제1 의료 영상의 적어도 일부 위에 중첩되는 마스크 영상(mask image)의 형식으로 된 정보를 포함할 수 있는바, 그 마스크 영상은 개별의 소견, 진단 또는 임상 정보를 지지하는 표시로서 제공되는 것이며, 바람직하게는 밀도 맵(density map)의 형태를 취할 수 있다.
예를 들어, 제1 의료 영상의 일 예시에는 흉부 CT 영상이 있을 수 있다.
도 4a는 본 발명에 따른 의료 영상 맵핑 방법의 일 실시예에서 이용되는 제1 의료 영상을 예시한 도면인바, 여기에서 제1 의료 영상은 흉부 CT 영상이며, 그 중 하나의 슬라이싱 영상이 예시적으로 표시되어 있다.
도 4b는 도 4a에 제1 의료 영상에 대한 관심 영역을 예시적으로 표시한 도면인바, 도 4a에 나타난 특정 슬라이싱 영상의 일부 영역이 관심 영역(410)으로서 표시되어 있다. 도 4b에 예시적으로 나타난 바와 같은 상기 관심 영역을 특정하는 정보인 제1 관심 영역 정보는 상기 관심 영역을 박스 표시(boxing)하거나 분할 표시(segmentation)하는 정보일 수 있으며, 예컨대 소정의 사용자 인터페이스를 통하여 입력된 것일 수 있다.
이 제1 의료 영상은 예를 들어 의료 영상 촬영 기기 또는 이에 연동되는 의료영상 저장 전송 시스템(PACS)으로부터 획득되는 것일 수 있으나, 이에 한정되지는 않는다. 예를 들어, 제1 의료 영상은 의료 영상 촬영 기기를 통하여 촬영되어 DICOM 표준에 따라 PACS에 전송된 후 컴퓨팅 장치(100)의 영상 획득 모듈(210)에 의하여 획득될 수 있다.
다음으로, 그 획득된 제1 의료 영상 및 제1 관심 영역 정보는 영상 처리 모듈(220)에 전달될 수 있는데, 영상 처리 모듈(220)에서는, 상기 제1 의료 영상 및 상기 제1 관심 영역 정보에 기초한 영상 처리로써 (i) 상기 교차하는 평면 상의 유사 의료 영상 및 (ii) 상기 제1 관심 영역 정보가 상기 유사 의료 영상에 대응되도록 변형된 결과인 유사 관심 영역 정보가 반영된 유사 의료 영상 데이터를 생성하고, (iii) 상기 유사 의료 영상 또는 이에 정합되는 상기 피검체의 타 의료 영상인 제2 의료 영상 및 (iv) 상기 유사 관심 영역 정보가 상기 제2 의료 영상에 대응되도록 변형된 결과인 제2 관심 영역 정보를 포함하는 맵핑 결과 데이터를 생성하는바, 이와 같은 일련의 영상 처리에 관하여는 상세하게 후술하기로 한다.
여기에서 제2 의료 영상은 제1 의료 영상을 구성하는 상기 다수의 개별 슬라이싱 영상에 교차하는 평면 상의 의료 영상을 지칭한다. 본 발명에 있어서 제2 의료 영상은 제1 의료 영상(예컨대, CT 영상)으로부터 도출되는 유사 의료 영상(에컨대, 상기 CT 영상으로부터 산출된 영상으로서, X선 영상과 유사하도록 산출된 영상)과 비교, 대조 가능한 타 의료 영상(예컨대, X선 영상)을 지칭하는데, 타 의료 영상이 제공되지 않는 경우에 제2 의료 영상은 유사 의료 영상 그 자체(예컨대, X선 영상과 유사하도록 산출된 영상)일 수도 있다.
예를 들어 제1 의료 영상이 피검체의 길이방향을 따라 연속적으로 취한 횡단면(transverse plane)의 슬라이싱 영상들로 구성되어 있다면, 제2 의료 영상은 이에 교차하는 동일 피검체의 관상면(coronal plane)의 영상일 수 있다. 본 명세서에서 언급된 교차가 반드시 직교여야 하는 것은 아니며, 경사진 교차일 수 있다. 또한, 일 예시로, 제1 의료 영상이 CT 영상인 반면에 제2 의료 영상이 X선 영상일 수 있는 것처럼 제2 의료 영상과 제1 의료 영상은 동일한 형식의 것이 아닐 수 있다. 본 발명에 따른 방법 및 장치는 상이한 의료 영상 간의 관심 영역의 맵핑을 가능하게 하는바, 이를 위한 맵핑 결과 데이터가 생성되면, 맵핑 결과 데이터는 저장 및 전송 모듈(230)을 통하여 저장되거나, 그리고/또는 소정의 디스플레이 장치를 통하여 외부 엔티티(entity)에 제공되거나, 그리고/또는 컴퓨팅 장치(100)에 연동되는 타 장치, 예컨대 PACS에 제공될 수 있다.
여기에서 외부 엔티티라고 함은, 상기 컴퓨팅 장치(100)의 사용자, 관리자, 상기 피검체를 담당하는 담당 의료 전문가 등을 포함하나, 이 이외에도 상기 의료 영상의 맵핑 결과 데이터를 필요로 하는 주체라면 어느 주체라도 포함되는 것으로 이해되어야 할 것이다. 예를 들어, 상기 외부 엔티티는 상기 맵핑 결과 데이터를 이용하는 별도의 AI 하드웨어 및/또는 소프트웨어 모듈을 포함하는 외부의 AI 장치일 수도 있다. 또한, 외부 엔티티에서의 ‘외부’는 상기 맵핑 결과 데이터를 이용하는 AI 하드웨어 및/또는 소프트웨어 모듈이 상기 컴퓨팅 장치(100)에 일체화되는 실시예를 배제하도록 의도된 것이 아니라, 본 발명의 방법을 수행하는 하드웨어 및/또는 소프트웨어 모듈의 결과물인 맵핑 결과 데이터가 타 방법의 입력 데이터로 활용될 수 있음을 시사하도록 이용된 것임을 밝혀둔다. 즉, 상기 외부 엔티티는 상기 컴퓨팅 장치(100) 자체일 수도 있다.
도 2에 나타난 구성요소들은 설명의 편의상 하나의 컴퓨팅 장치(예컨대, single standalone workstation)에서 실현되는 것으로 예시되었으나, 본 발명의 방법을 수행하는 컴퓨팅 장치(100)는 복수로 구성될 수도 있을 것이다.
이제 본 발명에 따른 의료 영상 맵핑 방법의 일 실시예를 도 3 내지 7을 참조하여 구체적으로 설명하기로 한다.
도 3을 참조하면, 본 발명에 따른 의료 영상 맵핑 방법은, 앞서 도 2에 관하여 설명한 바와 같이, 우선, 컴퓨팅 장치(100)의 통신부(110)에 의하여 구현되는 영상 획득 모듈(210)이, (i) 상기 제1 의료 영상, 및 (ii) 상기 제1 의료 영상의 상기 개별 슬라이싱 영상 중 적어도 하나인 특정 슬라이싱 영상의 일부 영역을 상기 관심 영역으로 특정하는 정보인 제1 관심 영역 정보를 획득하거나 상기 컴퓨팅 장치에 연동되는 타 장치로 하여금 획득하도록 지원하는 단계(S100)를 포함한다.
다음으로, 본 발명에 따른 의료 영상 맵핑 방법은, 상기 컴퓨팅 장치(100)의 프로세서(120)에 의하여 구현되는 영상 처리 모듈(220)이, 상기 제1 의료 영상 및 상기 제1 관심 영역 정보에 기초한 영상 처리로써 유사 의료 영상 데이터를 생성하거나 상기 타 장치로 하여금 생성하도록 지원하는 단계(S200)를 더 포함하는데, 여기에서 유사 의료 영상 데이터는, (i) 상기 개별 슬라이스 영상에 교차하는 평면 상의 유사 의료 영상 및 (ii) 상기 제1 관심 영역 정보가 상기 유사 의료 영상에 대응되도록 변형된 결과인 유사 관심 영역 정보가 반영된 데이터를 지칭한다.
이 단계(S200)의 제1 실시예에서, 상기 영상 처리는 전방 사영(forward projection)일 수 있다. 도 5는 본 발명에 따른 의료 영상 맵핑 방법의 일 실시예에서 수행되는 전방 사영을 개략적으로 예시한 개념도인바, 예컨대, 비특허문헌 1: Yi Du, Gongyi Yu, Xincheng Xiang. GPU accelerated voxel-driven forward projection for iterative reconstruction of cone-beam CT. BioMedical Engineering OnLine, 2017, Volume 16, Number 1, Page 1에 개시된 바와 같다.
특히, 전방 사영의 처리는 의료 영상을 촬영한 장비를 참조로 하여 이루어지는데, 예컨대, 참조되는 장비 정보에는 SSD(source to detector distance; 선원과 검출기 간의 거리), 픽셀 피치(pixel pitch) 등이 포함된다.
단계(S200)의 제1 실시예에서 상기 제2 의료 영상이 상기 타 의료 영상(예컨대, CT 영상인 제1 의료 영상과 대응되는 부위를 촬영한 X선 영상)인 경우에는, 즉, 제1 의료 영상으로부터 산출되는 유사 의료 영상과 비교, 대조 가능한 별개의 타 의료 영상이 있다면, 그 타 의료 영상을 촬영한 장비의 정보를 참조로 하는 전방 사영이 수행되어 제1 의료 영상으로부터 상기 유사 의료 영상이 만들어질 수 있다.
반면에, 상기 제2 의료 영상이 상기 유사 의료 영상(예컨대, 제1 의료 영상인 CT 영상으로부터 도출되는 영상으로서 X선 영상과 유사한 영상) 자체인 경우에는, 예컨대, 타 의료 영상이 제공되지 않은 경우에는, 제2 의료 영상이 촬영에 의하여 획득되는 성질의 것이 아니며 기존 영상에 대한 영상 처리에 의해 만들어진 영상이므로, 전형적인 촬영 장비의 정보를 참조로 하여 이루어질 수 있다.
제1 실시예에서 전방 사영은, (i) 제1 의료 영상에 대한 전방 사영 및 관심 영역에 대한 전방 사영을 따로 수행하는 방식으로 이루어지거나, (ii) 제1 의료 영상과 관심 영역에 대한 전방 사영을 동시에 수행하는 방식으로 이루어질 수 있다.
전자(i)의 경우에, 상기 유사 의료 영상 데이터는, 상기 전방 사영에 의하여 상기 제1 의료 영상으로부터 생성된 상기 유사 의료 영상, 및 상기 전방 사영에 의하여 제1 관심 영역 정보로부터 생성된 상기 유사 관심 영역 정보를 각각 포함할 수 있다. 제1 관심 영역 정보가 관심 영역별로 마련될 수 있음은 전술한 바와 같으므로, 상기 유사 관심 영역 정보도 관심 영역별로 생성될 수 있다.
후자(ii)의 경우에, 상기 유사 의료 영상 데이터는, N개의 제1 관심 영역 정보(Rn,x,y,z, 1≤n≤N) 각각에 소정의 연산자(F; 예컨대, 임의의 상수를 곱함, 제곱, 제곱근 등등)가 적용된 결과인 가중치{F(Rn,x,y,z)}에 대한 전방 사영의 지점별(pointwise) 결과값(Fn,i,j)을 상기 제1 의료 영상에 대한 전방 사영의 지점별 결과값(Ki,j)에 대하여 합산하여 유사 의료 영상 데이터의 지점별 결과값(Ki,j+ΣFn,i,j)을 구하는 방식인 가중 전방 사영(weighted forward projection)을 수행함으로써 생성될 수 있다. 제1 관심 영역이 다수일 때, 제1 관심 영역마다 적용되는 상기 소정의 연산자(Fn)가 상이할 수도 있을 것이다.
한편, 단계(S200)의 제2 실시예에서, 상기 영상 처리는 상기 제1 의료 영상에 따른 관상면(coronal plane) 영상들을 누적(summation) 처리하는 것일 수 있는바, 전술한 단계(S200)의 제1 실시예 및 제2 실시예뿐만 아니라 상기 유사 의료 영상 데이터를 얻을 수 있는 처리라면 무엇이라도 무방하다고 보아야 할 것이다.
전술한 단계(S200)의 제1 및 제2 실시예에서의 영상 처리는, 예를 들어, 영상 처리 모듈(220)에 포함된 사영 모듈(222)에 의하여 수행될 수 있다.
계속해서 도 3을 참조하면, 본 발명에 따른 의료 영상 맵핑 방법은, 상기 컴퓨팅 장치(100)의 프로세서(120)에 의하여 구현되는 영상 처리 모듈(220)이, (i) 상기 제2 의료 영상 및 (ii) 상기 유사 관심 영역 정보가 상기 제2 의료 영상에 대응되도록 변형된 결과인 제2 관심 영역 정보를 포함하는 맵핑 결과 데이터를 외부 엔티티(entity)에 제공하거나 상기 타 장치로 하여금 제공하도록 지원하는 단계(S300)를 더 포함한다.
비람직하게는, 이 단계(S300)에서 제2 의료 영상이 타 의료 영상인 경우에 상기 유사 의료 영상과 상기 타 의료 영상 간의 정합(registration)이 이루어지는데, 이는 유사 의료 영상에 대응되는 유사 관심 영역 정보를 제2 의료 영상에 대응되는 제2 관심 영역 정보로 맵핑하기 위한 것이다. 피검체가 취한 자세나 영상을 구성한 각도 등이 서로 완전히 일치하지는 않는 유사 의료 영상과 제2 의료 영상 간의 정합이 이루어지면, 동일한 정합 관계에 기초하여 유사 관심 영역 정보에 대해서도 제2 의료 영상 위의 대응되는 영역에 관한 정보, 즉 제2 관심 영역 정보가 획득될 수 있다. 즉, 이 경우 제2 관심 영역 정보는 상기 유사 관심 영역 정보가 상기 제2 의료 영상에 대응되도록 상기 정합 관계에 기초하여 변형된 결과이다. 여기에서 정합은, 예를 들어, 영상 처리 모듈(220)에 포함된 정합 모듈(224)에 의하여 수행될 수 있다.
도 6은 본 발명에 따른 의료 영상 맵핑 방법의 일 실시예에서 수행되는 정합(registration)을 개념적으로 예시한 도면이다. 도 6을 참조하면, 상이한 영상의 개별 부분들이 서로 대응 관계에 놓이도록 정합이 이루어진다. 예컨대, 단계(S300)에서, 이와 같은 정합은 기하학적 밀도 매칭(geometric dense matching)에 의하여 수행될 수 있다.
예를 들어, 이 기하학적 밀도 매칭은 핸드크래프티드 특징(handcrafted features)을 고려하는 핸드크래프티드 방식(handcrafted method)으로 수행될 수 있는데, 그러한 핸드크래프티드 방식에는 예를 들어 SIFT(scale-invariant feature transform), HOG(histogram of oriented gradients), RANSAC(random sample consensus), 허프 변환(Hough transform) 등의 잘 알려진 방식들이 있다. 이러한 핸드크래프티드 특징은 전문가의 경험과 분석에 의한 가정에 의하여 시도와 오류를 반복해가며 긴 시간 찾아낸 방식이므로 어느 정도 견고함(robustness)이 보장된다.
그러나 기하학적 밀도 매칭은 이에 한정되는 것은 아니며, 상기 기하학적 밀도 매칭이 상기 유사 의료 영상들과 이에 대응되는 상기 타 의료 영상들 간의 다량의 학습 데이터에 기초하여 미리 학습된 딥 러닝 알고리즘에 의하여 수행될 수도 있다는 점이 통상의 기술자에게 이해될 것인바, 비특허문헌 2: Ignacio Rocco, Relja Arandjelovic, Josef Sivic. Convolutional neural network architecture for geometric matching. In Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition (CVPR), 2017에 그 일 예시가 개시되어 있다. 매우 많은 수의 학습 데이터가 사용 가능한 경우에 딥 러닝 알고리즘에 의한 기하학적 밀도 매칭은 손쉽게 핸드크래프티드 방식 이상의 성능을 보일 수 있다.
이와 같이 제2 의료 영상이 타 의료 영상인 경우에는 (i) 상기 타 의료 영상 및 상기 제2 관심 영역 정보; 또는 (ii) 타 의료 영상 및 상기 제2 관심 영역 정보가 반영되도록 변형된 정보;가 맵핑 결과 데이터가 된다.
한편, 이 단계(S300)에서 제2 의료 영상이 유사 의료 영상 자체인 경우에 유사 관심 영역 정보 자체가 제2 관심 영역 정보가 되므로, 별도의 정합은 요구되지 않으며, (i) 이 유사 의료 영상 및 제2 관심 영역 정보; 또는 (ii) 유사 의료 영상 및 제2 관심 영역 정보가 반영되도록 변형된 정보 자체;가 맵핑 결과 데이터가 된다.
전술한 맵핑 결과 데이터는 컴퓨팅 장치(100) 또는 이에 연동되는 타 장치에 저장 또는 보유됨으로써 궁극적으로 외부 엔티티에 제공될 수 있다. 이는 소정의 디스플레이 장치를 통한 표시, 기타 출력 장치를 통한 출력물의 생성, 파일의 생성 및 전달 등등을 포함하나 이에 한정되지 않음은 물론이다.
도 7은 본 발명에 따른 의료 영상 맵핑 방법에 의하여 수행된 맵핑의 결과로서 나타난 맵핑된 관심 영역을 예시적으로 나타낸 도면이다.
도 7을 참조하면, 제2 의료 영상이 상기 생성된 유사 의료 영상(710)인 경우와 제2 의료 영상이 상기 유사 의료 영상(710)과 상이한 타 의료 영상(720)인 경우가 예시적으로 도시되어 있는데, 앞서 언급된 예시에서와 같이 유사 의료 영상(710)은 CT 영상인 제1 의료 영상으로부터 산출된 영상일 수 있으며, 타 의료 영상(720)은 X선 영상일 수 있다.
단계(S300)에서는 제2 의료 영상에 대응되도록 맵핑된 관심 영역이 외부 엔티티에 제공 또는 표시될 수 있는데, 이 맵핑된 관심 영역을 포함하는 제2 의료 영상(730)은 상기 제2 관심 영역 정보가 반영된 것이라는 점이 이해될 것이다.
이와 같이 본 발명은 전술한 모든 실시예들에 걸쳐, 서로 다른 형식을 가지는 의료 영상들을 매칭하여 관심 영역을 맵핑함으로써 의료 영상의 활용성을 높이는 효과가 있으며, 의료 영상 및 이에 결부된 정보의 효율적인 정리가 가능해져 향후 딥 러닝 모델과 같은 AI의 학습을 위한 추가 데이터 취득이 용이하게 되는바, 궁극적으로 AI의 조력으로써 진료의 질을 높이고 의료 현장에서의 워크플로를 개선할 수 있을 것이다.
위 실시예의 설명에 기초하여 해당 기술분야의 통상의 기술자는, 본 발명의 방법 및/또는 프로세스들, 그리고 그 단계들이 하드웨어, 소프트웨어 또는 특정 용례에 적합한 하드웨어 및 소프트웨어의 임의의 조합으로 실현될 수 있다는 점을 명확하게 이해할 수 있다. 상기 하드웨어는 범용 컴퓨터 및/또는 전용 컴퓨팅 장치 또는 특정 컴퓨팅 장치 또는 특정 컴퓨팅 장치의 특별한 모습 또는 구성요소를 포함할 수 있다. 상기 프로세스들은 내부 및/또는 외부 메모리를 가지는, 하나 이상의 마이크로프로세서, 마이크로컨트롤러, 임베디드 마이크로컨트롤러, 프로그래머블 디지털 신호 프로세서 또는 기타 프로그래머블 장치에 의하여 실현될 수 있다. 게다가, 혹은 대안으로서, 상기 프로세스들은 주문형 집적회로(application specific integrated circuit; ASIC), 프로그래머블 게이트 어레이(programmable gate array), 프로그래머블 어레이 로직(Programmable Array Logic; PAL) 또는 전자 신호들을 처리하기 위해 구성될 수 있는 임의의 다른 장치 또는 장치들의 조합으로 실시될 수 있다. 더욱이 본 발명의 기술적 해법의 대상물 또는 선행 기술들에 기여하는 부분들은 다양한 컴퓨터 구성요소를 통하여 수행될 수 있는 프로그램 명령어의 형태로 구현되어 기계 판독 가능한 기록 매체에 기록될 수 있다. 상기 기계 판독 가능한 기록 매체는 프로그램 명령어, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 기계 판독 가능한 기록 매체에 기록되는 프로그램 명령어는 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 분야의 통상의 기술자에게 공지되어 사용 가능한 것일 수도 있다. 기계 판독 가능한 기록 매체의 예에는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM, DVD, Blu-ray와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 ROM, RAM, 플래시 메모리 등과 같은 프로그램 명령어를 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령어의 예에는, 전술한 장치들 중 어느 하나뿐만 아니라 프로세서, 프로세서 아키텍처 또는 상이한 하드웨어 및 소프트웨어의 조합들의 이종 조합, 또는 다른 어떤 프로그램 명령어들을 실행할 수 있는 기계 상에서 실행되기 위하여 저장 및 컴파일 또는 인터프리트될 수 있는, C와 같은 구조적 프로그래밍 언어, C++ 같은 객체지향적 프로그래밍 언어 또는 고급 또는 저급 프로그래밍 언어(어셈블리어, 하드웨어 기술 언어들 및 데이터베이스 프로그래밍 언어 및 기술들)를 사용하여 만들어질 수 있는바, 기계어 코드, 바이트코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드도 이에 포함된다.
따라서 본 발명에 따른 일 태양에서는, 앞서 설명된 방법 및 그 조합들이 하나 이상의 컴퓨팅 장치들에 의하여 수행될 때, 그 방법 및 방법의 조합들이 각 단계들을 수행하는 실행 가능한 코드로서 실시될 수 있다. 다른 일 태양에서는, 상기 방법은 상기 단계들을 수행하는 시스템들로서 실시될 수 있고, 방법들은 장치들에 걸쳐 여러 가지 방법으로 분산되거나 모든 기능들이 하나의 전용, 독립형 장치 또는 다른 하드웨어에 통합될 수 있다. 또 다른 일 태양에서는, 위에서 설명한 프로세스들과 연관된 단계들을 수행하는 수단들은 앞서 설명한 임의의 하드웨어 및/또는 소프트웨어를 포함할 수 있다. 그러한 모든 순차 결합 및 조합들은 본 개시서의 범위 내에 속하도록 의도된 것이다.
예를 들어, 상기 하드웨어 장치는 본 발명에 따른 처리를 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다. 상기 하드웨어 장치는, 프로그램 명령어를 저장하기 위한 ROM/RAM 등과 같은 메모리와 결합되고 상기 메모리에 저장된 명령어들을 실행하도록 구성되는 MPU, CPU, GPU, TPU와 같은 프로세서를 포함할 수 있으며, 외부 장치와 신호를 주고 받을 수 있는 통신부를 포함할 수 있다. 덧붙여, 상기 하드웨어 장치는 개발자들에 의하여 작성된 명령어들을 전달받기 위한 키보드, 마우스, 기타 외부 입력장치를 포함할 수 있다.
이상에서 본 발명이 구체적인 구성요소 등과 같은 특정 사항들과 한정된 실시예 및 도면에 의해 설명되었으나, 이는 본 발명의 보다 전반적인 이해를 돕기 위해서 제공된 것일 뿐, 본 발명이 상기 실시예들에 한정되는 것은 아니며, 본 발명이 속하는 기술분야에서 통상적인 지식을 가진 사람이라면 이러한 기재로부터 다양한 수정 및 변형을 꾀할 수 있다.
따라서, 본 발명의 사상은 상기 설명된 실시예에 국한되어 정해져서는 아니되며, 후술하는 특허청구범위뿐만 아니라 이 특허청구범위와 균등하게 또는 등가적으로 변형된 모든 것들은 본 발명의 사상의 범주에 속한다고 할 것이다.
그와 같이 균등하게 또는 등가적으로 변형된 것에는, 예컨대 본 발명에 따른 방법을 실시한 것과 동일한 결과를 낼 수 있는, 논리적으로 동치(logically equivalent)인 방법이 포함될 것인바, 본 발명의 진의 및 범위는 전술한 예시들에 의하여 제한되어서는 아니되며, 법률에 의하여 허용 가능한 가장 넓은 의미로 이해되어야 한다.

Claims (10)

  1. 피검체에 대하여 취해진 제1 의료 영상의 일부 영역인 적어도 하나의 관심 영역(ROI; region of interest)을 상기 피검체의 제2 의료 영상 위에 맵핑(mapping)하는 방법에 있어서,
    상기 제1 의료 영상은 연속적인 다수의 개별 슬라이싱 영상을 포함하며, 상기 제2 의료 영상은 상기 다수의 개별 슬라이싱 영상에 교차하는 평면 상의 의료 영상을 포함하고,
    상기 방법은,
    (a) 컴퓨팅 장치가, (i) 상기 제1 의료 영상, 및 (ii) 상기 제1 의료 영상의 상기 개별 슬라이싱 영상 중 적어도 하나인 특정 슬라이싱 영상의 일부 영역을 상기 관심 영역으로 특정하는 정보인 제1 관심 영역 정보를 획득하거나 상기 컴퓨팅 장치에 연동되는 타 장치로 하여금 획득하도록 지원하는 단계;
    (b) 상기 제1 의료 영상 및 상기 제1 관심 영역 정보가 획득되면, 상기 컴퓨팅 장치가, 상기 제1 의료 영상 및 상기 제1 관심 영역 정보에 기초한 영상 처리로써 (i) 상기 교차하는 평면 상의 유사 의료 영상 및 (ii) 상기 제1 관심 영역 정보가 상기 유사 의료 영상에 대응되도록 변형된 결과인 유사 관심 영역 정보가 반영된 유사 의료 영상 데이터를 생성하거나 상기 타 장치로 하여금 생성하도록 지원하는 단계;
    (c) 상기 유사 의료 영상 데이터가 생성되면, 상기 컴퓨팅 장치가, (i) 상기 제2 의료 영상 및 (ii) 상기 유사 관심 영역 정보가 상기 제2 의료 영상에 대응되도록 변형된 결과인 제2 관심 영역 정보를 포함하는 맵핑 결과 데이터를 외부 엔티티(entity)에 제공하거나 상기 타 장치로 하여금 제공하도록 지원하되, 상기 제2 의료 영상은 상기 유사 의료 영상 또는 이에 정합(register)되는 상기 피검체의 타 의료 영상인 단계
    를 포함하는 의료 영상 맵핑 방법.
  2. 제1항에 있어서,
    상기 (b) 단계에서,
    상기 영상 처리는 전방 사영(forward projection)으로서, 상기 제2 의료 영상이 상기 타 의료 영상인 경우에 상기 타 의료 영상을 촬영한 장비의 정보를 참조로 하여 이루어지고, 상기 제2 의료 영상이 상기 유사 의료 영상인 경우에 통상의 촬영 장비의 정보를 참조로 하여 이루어지는 것을 특징으로 하는 의료 영상 맵핑 방법.
  3. 제2항에 있어서,
    상기 (b) 단계에서,
    상기 유사 의료 영상 데이터는, 상기 제1 관심 영역 정보에 소정의 연산자가 적용된 결과인 가중치에 대한 전방 사영의 지점별(pointwise) 결과값을 상기 제1 의료 영상에 대한 전방 사영의 지점별 결과값에 대하여 합산하는 가중 전방 사영(weighted forward projection)에 의하여 생성되는 것을 특징으로 하는 의료 영상 맵핑 방법.
  4. 제2항에 있어서,
    상기 (b) 단계에서,
    상기 유사 의료 영상 데이터는,
    상기 전방 사영에 의하여 상기 제1 의료 영상으로부터 생성된 상기 유사 의료 영상, 및 상기 전방 사영에 의하여 상기 제1 관심 영역 정보로부터 생성된 상기 유사 관심 영역 정보를 포함하는 것을 특징으로 하는 의료 영상 맵핑 방법.
  5. 제1항에 있어서,
    상기 (b) 단계에서,
    상기 영상 처리는 상기 제1 의료 영상에 따른 관상면(coronal plane) 영상들의 누적(summation) 처리인 것을 특징으로 하는 의료 영상 맵핑 방법.
  6. 제1항에 있어서,
    상기 (c) 단계에서,
    상기 제2 의료 영상이 상기 타 의료 영상인 경우에, 상기 유사 의료 영상과 상기 타 의료 영상 간의 기하학적 밀도 매칭(geometric dense matching)에 의하여 상기 제2 관심 영역 정보가 생성되는 것을 특징으로 하는 의료 영상 맵핑 방법.
  7. 제6항에 있어서,
    상기 기하학적 밀도 매칭은,
    SIFT(scale-invariant feature transform), HOG(histogram of oriented gradients), RANSAC(random sample consensus), 허프 변환(Hough transform)을 포함하는 핸드크래프티드 방식(handcrafted methods) 중 적어도 하나에 의하여 수행되는 것을 특징으로 하는 의료 영상 맵핑 방법.
  8. 제6항에 있어서,
    상기 기하학적 밀도 매칭은,
    미리 학습된 딥 러닝 알고리즘에 의하여 수행되는 것을 특징으로 하는 의료 영상 맵핑 방법.
  9. 컴퓨팅 장치로 하여금, 제1항 내지 제8항 중 어느 한 항의 방법을 수행하도록 구현된 명령어(instructions)를 포함하는, 기계 판독 가능한 비일시적 기록 매체에 저장된, 컴퓨터 프로그램.
  10. 피검체에 대하여 취해진 제1 의료 영상의 일부 영역인 적어도 하나의 관심 영역(ROI; region of interest)을 상기 피검체의 제2 의료 영상 위에 맵핑(mapping)하는 컴퓨팅 장치에 있어서,
    상기 제1 의료 영상은 연속적인 다수의 개별 슬라이싱 영상을 포함하며, 상기 제2 의료 영상은 상기 다수의 개별 슬라이싱 영상에 교차하는 평면 상의 의료 영상을 포함하고,
    상기 컴퓨팅 장치는,
    (i) 상기 제1 의료 영상, 및 (ii) 상기 제1 의료 영상의 상기 개별 슬라이싱 영상 중 적어도 하나인 특정 슬라이싱 영상의 일부 영역을 상기 관심 영역으로 특정하는 정보인 제1 관심 영역 정보를 획득하는 통신부; 및
    상기 제1 의료 영상 및 상기 제1 관심 영역 정보가 획득되면, 상기 제1 의료 영상 및 상기 제1 관심 영역 정보에 기초한 영상 처리로써 (i) 상기 교차하는 평면 상의, 상기 제2 의료 영상에 유사한 유사 의료 영상 및 (ii) 상기 제1 관심 영역 정보가 상기 유사 의료 영상에 대응되도록 변형된 결과인 유사 관심 영역 정보가 반영된 유사 의료 영상 데이터를 생성하거나 상기 통신부를 통하여 연동되는 타 장치로 하여금 생성하도록 지원하는 프로세서
    를 포함하되,
    상기 프로세서는,
    상기 유사 의료 영상 데이터가 생성되면, (i) 상기 제2 의료 영상 및 (ii) 상기 유사 관심 영역 정보가 상기 제2 의료 영상에 대응되도록 변형된 결과인 제2 관심 영역 정보를 포함하는 맵핑 결과 데이터를 외부 엔티티(entity)에 제공하거나 상기 통신부를 통하여 상기 타 장치로 하여금 제공하도록 지원하되, 상기 제2 의료 영상은 상기 유사 의료 영상 또는 이에 정합(register)되는 상기 피검체의 타 의료 영상인 것을 특징으로 하는 의료 영상 맵핑 장치.
PCT/KR2018/015479 2017-12-18 2018-12-07 제1 의료 영상의 관심 영역을 제2 의료 영상 위에 맵핑하는 방법 및 이를 이용한 장치 WO2019124836A1 (ko)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR10-2017-0174315 2017-12-18
KR1020170174315A KR101885562B1 (ko) 2017-12-18 2017-12-18 제1 의료 영상의 관심 영역을 제2 의료 영상 위에 맵핑하는 방법 및 이를 이용한 장치

Publications (1)

Publication Number Publication Date
WO2019124836A1 true WO2019124836A1 (ko) 2019-06-27

Family

ID=63252192

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2018/015479 WO2019124836A1 (ko) 2017-12-18 2018-12-07 제1 의료 영상의 관심 영역을 제2 의료 영상 위에 맵핑하는 방법 및 이를 이용한 장치

Country Status (2)

Country Link
KR (1) KR101885562B1 (ko)
WO (1) WO2019124836A1 (ko)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111145152A (zh) * 2019-12-24 2020-05-12 上海联影智能医疗科技有限公司 图像检测方法、计算机设备和存储介质
WO2022242046A1 (zh) * 2021-05-18 2022-11-24 上海商汤智能科技有限公司 医学图像的展示方法及装置、电子设备、存储介质和计算机程序
US11562482B2 (en) * 2020-03-30 2023-01-24 Varian Medical Systems International Ag Systems and methods for pseudo image data augmentation for training machine learning models

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102021204020B3 (de) * 2021-04-22 2022-08-25 Siemens Healthcare Gmbh Verfahren zum Übertragen einer Mehrzahl von medizinischen Bildern

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20100138202A (ko) * 2009-06-24 2010-12-31 전자부품연구원 이종 카메라를 이용한 객체 추적 시스템 및 방법
JP2012165333A (ja) * 2011-02-09 2012-08-30 Sony Corp 撮像装置、および撮像装置制御方法、並びにプログラム
KR101279484B1 (ko) * 2012-04-18 2013-06-27 한국항공우주연구원 영상 처리 장치 및 방법
KR20150021352A (ko) * 2013-08-20 2015-03-02 삼성테크윈 주식회사 영상 정합 장치 및 이를 이용한 영상 정합 방법
JP2017182129A (ja) * 2016-03-28 2017-10-05 ソニー株式会社 情報処理装置。

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101028365B1 (ko) 2009-02-04 2011-04-11 서울대학교산학협력단 연속된 컴퓨터 단층촬영의 폐결절 다단계 정합 방법 및 장치
KR101698850B1 (ko) 2016-04-15 2017-01-23 연세대학교 산학협력단 의료 영상 장치 및 그의 영상 보정 방법

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20100138202A (ko) * 2009-06-24 2010-12-31 전자부품연구원 이종 카메라를 이용한 객체 추적 시스템 및 방법
JP2012165333A (ja) * 2011-02-09 2012-08-30 Sony Corp 撮像装置、および撮像装置制御方法、並びにプログラム
KR101279484B1 (ko) * 2012-04-18 2013-06-27 한국항공우주연구원 영상 처리 장치 및 방법
KR20150021352A (ko) * 2013-08-20 2015-03-02 삼성테크윈 주식회사 영상 정합 장치 및 이를 이용한 영상 정합 방법
JP2017182129A (ja) * 2016-03-28 2017-10-05 ソニー株式会社 情報処理装置。

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111145152A (zh) * 2019-12-24 2020-05-12 上海联影智能医疗科技有限公司 图像检测方法、计算机设备和存储介质
CN111145152B (zh) * 2019-12-24 2024-02-27 上海联影智能医疗科技有限公司 图像检测方法、计算机设备和存储介质
US11562482B2 (en) * 2020-03-30 2023-01-24 Varian Medical Systems International Ag Systems and methods for pseudo image data augmentation for training machine learning models
WO2022242046A1 (zh) * 2021-05-18 2022-11-24 上海商汤智能科技有限公司 医学图像的展示方法及装置、电子设备、存储介质和计算机程序

Also Published As

Publication number Publication date
KR101885562B1 (ko) 2018-08-06

Similar Documents

Publication Publication Date Title
WO2019143177A1 (ko) 일련의 슬라이스 영상을 재구성하는 방법 및 이를 이용한 장치
KR101898575B1 (ko) 진행성 병변에 대한 미래 상태를 예측하는 방법 및 이를 이용한 장치
WO2019124836A1 (ko) 제1 의료 영상의 관심 영역을 제2 의료 영상 위에 맵핑하는 방법 및 이를 이용한 장치
EP3611699A1 (en) Image segmentation using deep learning techniques
KR102237441B1 (ko) 뉴럴 네트워크를 이용하여 캡슐 내시경 영상으로부터 병변 판독 방법 및 장치
CN107004042B (zh) 图像指纹识别
CN110889005A (zh) 搜索医学参考图像
EP3550515A1 (en) Cross-modality image synthesis
KR101957811B1 (ko) 의료 영상에 기반하여 피검체의 치매에 대한 중증도를 산출하는 방법 및 이를 이용한 장치
WO2019143179A1 (ko) 동일 피사체에 대하여 시간 간격을 두고 촬영된 영상 간에 동일 관심구역을 자동으로 검출하는 방법 및 이를 이용한 장치
CN111080583B (zh) 医学图像检测方法、计算机设备和可读存储介质
WO2019143021A1 (ko) 영상의 열람을 지원하는 방법 및 이를 이용한 장치
US11468659B2 (en) Learning support device, learning support method, learning support program, region-of-interest discrimination device, region-of-interest discrimination method, region-of-interest discrimination program, and learned model
WO2017099375A1 (ko) 영상처리장치 및 그의 영상처리방법
WO2021137454A1 (ko) 인공지능 기반의 사용자 의료정보 분석 방법 및 시스템
KR101919908B1 (ko) 의료 영상의 레이블링을 지원하는 방법 및 이를 이용한 장치
US11449210B2 (en) Method for providing an image base on a reconstructed image group and an apparatus using the same
WO2019037654A1 (zh) 3d图像检测方法、装置、电子设备及计算机可读介质
KR102067412B1 (ko) 치매 평가 방법 및 이를 이용한 장치
US11495346B2 (en) External device-enabled imaging support
US11923069B2 (en) Medical document creation support apparatus, method and program, learned model, and learning apparatus, method and program
KR102112706B1 (ko) 결절 검출 방법 및 이를 이용한 장치
KR20190088371A (ko) 진행성 병변의 미래 영상을 생성하는 방법 및 이를 이용한 장치
WO2023027248A1 (ko) 데이터 생성 방법 및 이를 이용한 학습방법 및 장치
WO2020230972A1 (ko) 훈련된 심층 신경망 모델의 재현 성능을 개선하는 방법 및 이를 이용한 장치

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 18890252

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 18890252

Country of ref document: EP

Kind code of ref document: A1