KR20220026844A - 임상 영상의 시뮬레이션 방법 및 장치 - Google Patents
임상 영상의 시뮬레이션 방법 및 장치 Download PDFInfo
- Publication number
- KR20220026844A KR20220026844A KR1020200107872A KR20200107872A KR20220026844A KR 20220026844 A KR20220026844 A KR 20220026844A KR 1020200107872 A KR1020200107872 A KR 1020200107872A KR 20200107872 A KR20200107872 A KR 20200107872A KR 20220026844 A KR20220026844 A KR 20220026844A
- Authority
- KR
- South Korea
- Prior art keywords
- treatment
- image
- clinical
- simulation
- clinical image
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 79
- 238000004088 simulation Methods 0.000 claims abstract description 94
- 238000002203 pretreatment Methods 0.000 claims abstract description 90
- 210000004872 soft tissue Anatomy 0.000 claims abstract description 69
- 238000010801 machine learning Methods 0.000 claims abstract description 62
- 210000001519 tissue Anatomy 0.000 claims abstract description 40
- 238000004891 communication Methods 0.000 claims description 18
- 230000008859 change Effects 0.000 claims description 8
- 230000003287 optical effect Effects 0.000 claims description 8
- 230000005855 radiation Effects 0.000 claims description 4
- 210000000214 mouth Anatomy 0.000 claims description 3
- 238000012545 processing Methods 0.000 description 20
- 230000008569 process Effects 0.000 description 14
- 238000004458 analytical method Methods 0.000 description 7
- 230000008901 benefit Effects 0.000 description 7
- 230000006870 function Effects 0.000 description 7
- 210000004283 incisor Anatomy 0.000 description 7
- 238000004422 calculation algorithm Methods 0.000 description 6
- 238000012549 training Methods 0.000 description 6
- 230000007773 growth pattern Effects 0.000 description 5
- 238000013528 artificial neural network Methods 0.000 description 4
- 238000001514 detection method Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 210000003128 head Anatomy 0.000 description 4
- 210000001847 jaw Anatomy 0.000 description 4
- 238000005259 measurement Methods 0.000 description 4
- 239000003086 colorant Substances 0.000 description 3
- 238000002316 cosmetic surgery Methods 0.000 description 3
- 238000013135 deep learning Methods 0.000 description 3
- 210000004373 mandible Anatomy 0.000 description 3
- 210000002050 maxilla Anatomy 0.000 description 3
- 230000009466 transformation Effects 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000002591 computed tomography Methods 0.000 description 2
- 238000013527 convolutional neural network Methods 0.000 description 2
- 238000013136 deep learning model Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000007774 longterm Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 1
- 241000083547 Columella Species 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 210000001142 back Anatomy 0.000 description 1
- 238000013477 bayesian statistics method Methods 0.000 description 1
- 210000000988 bone and bone Anatomy 0.000 description 1
- 210000000845 cartilage Anatomy 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 238000003066 decision tree Methods 0.000 description 1
- 210000004513 dentition Anatomy 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 210000003195 fascia Anatomy 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 210000000281 joint capsule Anatomy 0.000 description 1
- 210000003041 ligament Anatomy 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 210000003205 muscle Anatomy 0.000 description 1
- 230000001151 other effect Effects 0.000 description 1
- 238000007637 random forest analysis Methods 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 210000003491 skin Anatomy 0.000 description 1
- 238000012706 support-vector machine Methods 0.000 description 1
- 238000001356 surgical procedure Methods 0.000 description 1
- 210000002435 tendon Anatomy 0.000 description 1
- 230000036346 tooth eruption Effects 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/10—Computer-aided planning, simulation or modelling of surgical operations
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0002—Remote monitoring of patients using telemetry, e.g. transmission of vital signals via a communication network
- A61B5/0004—Remote monitoring of patients using telemetry, e.g. transmission of vital signals via a communication network characterised by the type of physiological signal transmitted
- A61B5/0013—Medical image data
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0033—Features or image-related aspects of imaging apparatus classified in A61B5/00, e.g. for MRI, optical tomography or impedance tomography apparatus; arrangements of imaging apparatus in a room
- A61B5/0035—Features or image-related aspects of imaging apparatus classified in A61B5/00, e.g. for MRI, optical tomography or impedance tomography apparatus; arrangements of imaging apparatus in a room adapted for acquisition of images from more than one imaging mode, e.g. combining MRI and optical tomography
-
- A61B6/14—
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B6/00—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
- A61B6/50—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment specially adapted for specific body parts; specially adapted for specific clinical applications
- A61B6/51—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment specially adapted for specific body parts; specially adapted for specific clinical applications for dentistry
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B6/00—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
- A61B6/52—Devices using data or image processing specially adapted for radiation diagnosis
- A61B6/5211—Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data
- A61B6/5229—Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data combining image data of a patient, e.g. combining a functional image with an anatomical image
- A61B6/5247—Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data combining image data of a patient, e.g. combining a functional image with an anatomical image combining images from an ionising-radiation diagnostic technique and a non-ionising radiation diagnostic technique, e.g. X-ray and ultrasound
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61C—DENTISTRY; APPARATUS OR METHODS FOR ORAL OR DENTAL HYGIENE
- A61C7/00—Orthodontics, i.e. obtaining or maintaining the desired position of teeth, e.g. by straightening, evening, regulating, separating, or by correcting malocclusions
- A61C7/002—Orthodontic computer assisted systems
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H30/00—ICT specially adapted for the handling or processing of medical images
- G16H30/40—ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
- G16H50/50—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for simulation or modelling of medical disorders
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/10—Computer-aided planning, simulation or modelling of surgical operations
- A61B2034/101—Computer-aided simulation of surgical operations
- A61B2034/105—Modelling of the patient, e.g. for ligaments or bones
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61C—DENTISTRY; APPARATUS OR METHODS FOR ORAL OR DENTAL HYGIENE
- A61C7/00—Orthodontics, i.e. obtaining or maintaining the desired position of teeth, e.g. by straightening, evening, regulating, separating, or by correcting malocclusions
- A61C7/002—Orthodontic computer assisted systems
- A61C2007/004—Automatic construction of a set of axes for a tooth or a plurality of teeth
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Engineering & Computer Science (AREA)
- Medical Informatics (AREA)
- Public Health (AREA)
- General Health & Medical Sciences (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Biomedical Technology (AREA)
- Animal Behavior & Ethology (AREA)
- Surgery (AREA)
- Veterinary Medicine (AREA)
- Heart & Thoracic Surgery (AREA)
- Molecular Biology (AREA)
- Pathology (AREA)
- Radiology & Medical Imaging (AREA)
- Biophysics (AREA)
- Physics & Mathematics (AREA)
- Epidemiology (AREA)
- Primary Health Care (AREA)
- Dentistry (AREA)
- Oral & Maxillofacial Surgery (AREA)
- High Energy & Nuclear Physics (AREA)
- Optics & Photonics (AREA)
- Data Mining & Analysis (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computer Networks & Wireless Communication (AREA)
- Physiology (AREA)
- General Engineering & Computer Science (AREA)
- Robotics (AREA)
- Databases & Information Systems (AREA)
- Image Analysis (AREA)
Abstract
본 발명은 임상 영상의 시뮬레이션 방법 및 장치에 관한 것이다. 본 발명의 일 실시예에 따른 시뮬레이션 방법은 치료 대상자의 치료 대상 부위 주변의 연조직에 대한 치료 전 임상 영상과, 치료 대상자의 치료 대상 부위 주변의 경조직에 대한 치료 전 의료 영상을 정합하는 단계; 및 머신 러닝 모델을 이용하여 정합된 치료 전 영상에 따른 치료 후 임상 영상을 생성하는 단계;를 포함하며, 상기 치료 후 임상 영상은 경조직에 연동된 연조직에 대한 영상이다.
Description
본 발명은 의료 영상 처리에 관한 것으로서, 더욱 상세하게는 임상 영상의 시뮬레이션 방법 및 장치에 관한 것이다.
치과, 성형외과 등의 의료 시설에서는 치료 후의 변화에 대한 임상 영상을 시뮬레이션 하는 장치가 사용될 수 있다. 이때, 임상 영상은 치료 대상자의 치료 대상 부위에 대한 광학 영상(사진 등)으로서, 시뮬레이션을 통해 그 변화의 전후가 해당 장치를 통해 표시될 수 있다.
하지만, 이러한 종래의 임상 영상 시뮬레이션 장치는 단순히 해당 광학 영상에 대한 의료인의 영상 조작을 반영하는 방식을 사용한다. 이는 의료인의 영상 조작에 따른 영상 처리를 수행하여 표시하는 기술에 불과하다. 그 결과, 종래의 임상 영상 시뮬레이션 장치는 의료인의 경험에 의존한 조작에 따른 영상 처리의 시뮬레이션을 수행하므로, 그 사용이 불편할 뿐 아니라 그 시뮬레이션 결과의 정확성도 상당히 저하될 수밖에 없다.
다만, 상기의 배경기술로서 설명된 사항들은 본 발명의 배경에 대한 이해 증진을 위한 것일 뿐, 본 발명의 기술분야에서 통상의 지식을 가진 자에게 이미 알려진 종래기술에 해당함을 인정하는 것으로 받아들여져서는 안될 것이다.
상기한 바와 같은 종래 기술의 문제점을 해결하기 위하여, 본 발명은 시뮬레이션이 간편하면서도 그 시뮬레이션 결과의 정확성이 향상될 수 있는 임상 영상의 시뮬레이션 방법 및 장치를 제공하는데 그 목적이 있다.
다만, 본 발명이 해결하고자 하는 과제는 이상에서 언급한 과제에 제한되지 않으며, 언급되지 않은 또 다른 과제들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
상기와 같은 과제를 해결하기 위한 본 발명의 일 실시예에 따른 시뮬레이션 방법은 전자 장치에서 수행되는 임상 영상의 시뮬레이션 방법으로서, 치료 대상자의 치료 대상 부위 주변의 연조직에 대한 치료 전 임상 영상과, 치료 대상자의 치료 대상 부위 주변의 경조직에 대한 치료 전 의료 영상을 정합하는 단계; 및 머신 러닝 모델을 이용하여 정합된 치료 전 영상에 따른 치료 후 임상 영상을 생성하는 단계;를 포함하며, 상기 치료 후 임상 영상은 경조직에 연동된 연조직에 대한 영상이다.
본 발명의 다른 일 실시예에 따른 시뮬레이션 방법은 전자 장치에서 수행되는 임상 영상의 시뮬레이션 방법으로서, 치료 대상자의 치료 대상 부위 주변의 연조직에 대한 치료 전 임상 영상과, 타인의 치료 대상 부위 주변의 경조직에 대한 치료 전 의료 영상을 정합하는 단계; 및 머신 러닝 모델을 이용하여 정합된 치료 전 영상에 따른 치료 후 임상 영상을 생성하는 단계;를 포함하며, 상기 치료 후의 임상 영상은 경조직에 연동된 연조직에 대한 영상이다.
상기 머신 러닝 모델은 정합된 치료 전 영상의 입력 데이터와, 정합된 치료 후 영상의 출력 데이터를 각각 포함하는 학습 데이터를 기반으로 학습될 수 있다.
본 발명의 실시예들에 따른 시뮬레이션 방법은 상기 치료 후 임상 영상에서 연조직에 대한 미세조정이 가능한 다수의 조작부를 제공하며, 상기 조작부가 조작되는 경우에 해당 조작이 반영되면서 경조직에 연동된 연조직의 조정을 수행하는 단계를 더 포함할 수 있다.
상기 머신 러닝 모델은 정합된 치료 전 영상을 입력 받는 경우, 치료 후 임상 영상을 출력하면서 상기 다수의 조작부를 함께 출력하도록 학습될 수 있다.
상기 조작부는 치료 후의 경조직에 대한 다수의 랜드 마크의 위치 중에서 선택되어 해당 위치 또는 그 주변에 표시될 수 있다.
상기 연조직의 조정을 수행하는 단계는 조작부의 조작에 따른 연조직의 조정을 제한 범위 내에서 수행할 수 있다.
상기 연조직의 조정을 수행하는 단계는 어느 한 조작부가 선택되는 경우에 해당 조작부에 대한 제한 범위의 마크를 해당 조작부의 주변에 표시할 수 있다.
상기 다수의 조작부는 다양한 제한 범위를 가질 수 있으며, 상기 머신 러닝 모델은 상기 다수의 조작부를 출력하면서 해당 각 제한 범위를 설정하도록 학습될 수 있다.
상기 의료 영상은 방사선을 이용한 치료 대상자의 신체 내부 구조에 대한 영상일 수 있으며, 상기 임상 영상은 치료 대상자의 신체 외부 부위 표면 또는 구강 내부 표면에 대한 광학 영상일 수 있다.
상기 타인의 의료 영상은 치료 대상 부위의 구조 또는 그 주변의 신체 부위 구조에 따라 분류된 다수의 표준 의료 영상에서 선택될 수 있다.
상기 치료 대상 부위가 치열 또는 턱뼈인 경우, 상기 다수의 표준 의료 영상은 턱 위치를 고려하여 분류될 수 있다.
상기 치료 전 및 상기 치료 후 임상 영상을 이용하여 치료 전후의 치료 대상 부위의 변화를 표시하는 단계를 더 포함할 수 있다.
상기 치료 후 임상 영상은 치료 시간에 따라 복수개가 생성될 수 있다.
상기 표시하는 단계는 각 치료 후 임상 영상을 이용하여 치료 시간에 따른 치료 대상 부위의 변화를 차례로 표시할 수 있다.
본 발명의 일 실시예에 따른 시뮬레이션 장치는, 치료 대상자의 치료 대상 부위 주변의 연조직에 대한 치료 전 임상 영상과, 치료 대상자 또는 타인의 치료 대상 부위 주변의 경조직에 대한 치료 전 의료 영상을 저장한 메모리; 및 상기 치료 전 임상 영상 및 상기 치료 전 의료 영상을 이용하여 치료 후 임상 영상에 대한 시뮬레이션을 제어하는 제어부;를 포함한다.
상기 제어부는 상기 메모리에 저장된 임상 영상 및 의료 영상을 정합한 후, 머신 러닝 모델을 이용하여 정합된 치료 전 영상에 따른 상기 치료 후 임상 영상을 생성할 수 있으며, 상기 치료 후 임상 영상은 경조직에 연동된 연조직에 대한 영상일 수 있다.
본 발명의 일 실시예에 따른 시뮬레이션 서버는 단말로부터 수신한 임상 영상을 시뮬레이션 처리하는 서버로서, 상기 단말로부터 치료 대상자의 치료 대상 부위 주변의 연조직에 대한 치료 전 임상 영상과, 치료 대상자의 치료 대상 부위 주변의 경조직에 대한 치료 전 의료 영상을 각각 수신하며, 상기 단말로 시뮬레이션 결과인 치료 후 임상 영상을 전송하는 통신부; 및 상기 치료 전 임상 영상 및 상기 치료 전 의료 영상을 이용하여 상기 치료 후 임상 영상에 대한 시뮬레이션을 제어하는 제어부;를 포함한다.
상기 제어부는 상기 치료 전 임상 영상 및 상기 치료 전 의료 영상을 정합한 후, 머신 러닝 모델을 이용하여 정합된 치료 전 영상에 따른 상기 치료 후 임상 영상을 생성할 수 있으며, 상기 치료 후 임상 영상은 경조직에 연동된 연조직에 대한 영상일 수 있다..
본 발명의 다른 일 실시예에 따른 시뮬레이션 서버는 단말로부터 수신한 임상 영상을 시뮬레이션 처리하는 서버로서, 상기 단말로부터 치료 대상자의 치료 대상 부위 주변의 연조직에 대한 치료 전 임상 영상을 수신하며, 상기 단말로 시뮬레이션 결과인 치료 후 임상 영상을 전송하는 통신부; 타인의 치료 대상 부위 주변의 경조직에 대한 치료 전 의료 영상을 저장한 메모리; 및 상기 치료 전 임상 영상 및 상기 치료 전 의료 영상을 이용하여 상기 치료 후 임상 영상에 대한 시뮬레이션을 제어하는 제어부;를 포함한다.
상기 제어부는 상기 치료 전 임상 영상 및 상기 치료 전 의료 영상을 정합한 후, 머신 러닝 모델을 이용하여 정합된 치료 전 영상에 따른 상기 치료 후 임상 영상을 생성할 수 있으며, 상기 치료 후 임상 영상은 경조직에 연동된 연조직에 대한 영상일 수 있다.
상기와 같이 구성되는 본 발명은 머신 러닝 모델을 이용하므로 시뮬레이션이 간편할 뿐 아니라, 경조직에 연동된 연조직의 변화를 시뮬레이션 하므로 시뮬레이션 결과의 정확성을 향상시킬 수 있는 이점이 있다.
또한, 본 발명은 정합된 임상 영상 및 의료 영상을 반영하여 시뮬레이션 하므로, 시뮬레이션 결과의 정확성을 보다 향상시킬 수 있는 이점이 있다.
또한, 본 발명은 치료 대상자가 치료 전 의료 영상이 없는 경우에도 표준 의료 영상 등을 이용함으로써, 영상 처리 과정이 용이하면서 그 처리 시간을 줄일 수 있을 뿐 아니라, 정확한 시뮬레이션 결과도 제공할 수 있는 이점이 있다.
본 발명에서 얻을 수 있는 효과는 이상에서 언급한 효과들로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
도 1은 본 발명의 일 실시예에 따른 시뮬레이션 장치(100)의 블록 구성도를 나타낸다.
도 2는 본 발명의 일 실시예에 따른 시뮬레이션 장치(100)에서 시뮬레이션 처리를 위한 제어부(150)의 구성을 나타낸다.
도 3은 본 발명의 제1 실시예에 따른 시뮬레이션 방법의 순서도를 나타낸다.
도 4는 치료 전 임상 영상과 검출된 정합 기준 마크의 예를 나타낸다.
도 5는 치료 전 의료 영상과 검출된 정합 기준 마의 예를 나타낸다.
도 6 및 도 7은 머신 러닝 모델을 활용한 정합 기준 마크 검출 과정에 대한 예를 나타낸다.
도 8은 정합 기준 마크가 검출된 임상 영상 및 의료 영상에 대한 검출 과정을 나타낸다.
도 9는 임상 영상에서의 랜드 마크의 예를 나타낸다.
도 10은 의료 영상에서의 랜드 마크의 예를 나타낸다.
도 11 내지 도 15는 정합된 임상 영상 및 의료 영상에서 의료 영상의 경조직에 대한 주요 랜드 마크에 따라 연동되는 임상 영상의 연조직에 대한 랜드 마크의 예를 나타낸다.
도 16은 정합된 임상 영상 및 의료 영상에서 주요 랜드 마크를 조작부(C1~C5)로 설정한 경우를 나타낸다.
도 17 내지 도 19는 정합된 임상 영상에서의 조작부(C1~C5)의 조작 예를 나타낸다.
도 20는 치료 전후의 영상에 대한 변화를 반투명 형태를 활용하여 표시한 예를 나타낸다.
도 21은 치료 전후의 영상에 대한 변화를 병렬 배치하여 표시한 예를 나타낸다.
도 22는 다양한 치료 시간에 따른 치료 전후의 변화를 다양한 치료 시간 별로 병렬 배치하여 표시한 예를 나타낸다.
도 23은 본 발명의 제2 실시예에 따른 시뮬레이션 방법의 순서도를 나타낸다.
도 24는 측모 두부의 표준 의료 영상에 대한 예를 나타낸다.
도 25는 본 발명의 제3 실시예에 따른 시뮬레이션 방법의 순서도를 나타낸다.
도 26은 본 발명의 제4 실시예에 따른 시뮬레이션 방법의 순서도를 나타낸다.
도 2는 본 발명의 일 실시예에 따른 시뮬레이션 장치(100)에서 시뮬레이션 처리를 위한 제어부(150)의 구성을 나타낸다.
도 3은 본 발명의 제1 실시예에 따른 시뮬레이션 방법의 순서도를 나타낸다.
도 4는 치료 전 임상 영상과 검출된 정합 기준 마크의 예를 나타낸다.
도 5는 치료 전 의료 영상과 검출된 정합 기준 마의 예를 나타낸다.
도 6 및 도 7은 머신 러닝 모델을 활용한 정합 기준 마크 검출 과정에 대한 예를 나타낸다.
도 8은 정합 기준 마크가 검출된 임상 영상 및 의료 영상에 대한 검출 과정을 나타낸다.
도 9는 임상 영상에서의 랜드 마크의 예를 나타낸다.
도 10은 의료 영상에서의 랜드 마크의 예를 나타낸다.
도 11 내지 도 15는 정합된 임상 영상 및 의료 영상에서 의료 영상의 경조직에 대한 주요 랜드 마크에 따라 연동되는 임상 영상의 연조직에 대한 랜드 마크의 예를 나타낸다.
도 16은 정합된 임상 영상 및 의료 영상에서 주요 랜드 마크를 조작부(C1~C5)로 설정한 경우를 나타낸다.
도 17 내지 도 19는 정합된 임상 영상에서의 조작부(C1~C5)의 조작 예를 나타낸다.
도 20는 치료 전후의 영상에 대한 변화를 반투명 형태를 활용하여 표시한 예를 나타낸다.
도 21은 치료 전후의 영상에 대한 변화를 병렬 배치하여 표시한 예를 나타낸다.
도 22는 다양한 치료 시간에 따른 치료 전후의 변화를 다양한 치료 시간 별로 병렬 배치하여 표시한 예를 나타낸다.
도 23은 본 발명의 제2 실시예에 따른 시뮬레이션 방법의 순서도를 나타낸다.
도 24는 측모 두부의 표준 의료 영상에 대한 예를 나타낸다.
도 25는 본 발명의 제3 실시예에 따른 시뮬레이션 방법의 순서도를 나타낸다.
도 26은 본 발명의 제4 실시예에 따른 시뮬레이션 방법의 순서도를 나타낸다.
본 발명의 상기 목적과 수단 및 그에 따른 효과는 첨부된 도면과 관련한 다음의 상세한 설명을 통하여 보다 분명해질 것이며, 그에 따라 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자가 본 발명의 기술적 사상을 용이하게 실시할 수 있을 것이다. 또한, 본 발명을 설명함에 있어서 본 발명과 관련된 공지 기술에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명을 생략하기로 한다.
본 명세서에서 사용된 용어는 실시예들을 설명하기 위한 것이며, 본 발명을 제한하고자 하는 것은 아니다. 본 명세서에서, 단수형은 문구에서 특별히 언급하지 않는 한 경우에 따라 복수형도 포함한다. 본 명세서에서, "포함하다", “구비하다”, “마련하다” 또는 “가지다” 등의 용어는 언급된 구성요소 외의 하나 이상의 다른 구성요소의 존재 또는 추가를 배제하지 않는다.
본 명세서에서, “또는”, “적어도 하나” 등의 용어는 함께 나열된 단어들 중 하나를 나타내거나, 또는 둘 이상의 조합을 나타낼 수 있다. 예를 들어, “또는 B”“및 B 중 적어도 하나”는 A 또는 B 중 하나만을 포함할 수 있고, A와 B를 모두 포함할 수도 있다.
본 명세서에서, “예를 들어” 등에 따르는 설명은 인용된 특성, 변수, 또는 값과 같이 제시한 정보들이 정확하게 일치하지 않을 수 있고, 허용 오차, 측정 오차, 측정 정확도의 한계와 통상적으로 알려진 기타 요인을 비롯한 변형과 같은 효과로 본 발명의 다양한 실시 예에 따른 발명의 실시 형태를 한정하지 않아야 할 것이다.
본 명세서에서, 어떤 구성요소가 다른 구성요소에 '연결되어’ 있다거나 '접속되어' 있다고 기재된 경우, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성 요소에 '직접 연결되어' 있다거나 '직접 접속되어' 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해될 수 있어야 할 것이다.
본 명세서에서, 어떤 구성요소가 다른 구성요소의 '상에' 있다거나 '접하여' 있다고 기재된 경우, 다른 구성요소에 상에 직접 맞닿아 있거나 또는 연결되어 있을 수 있지만, 중간에 또 다른 구성요소가 존재할 수 있다고 이해되어야 할 것이다. 반면, 어떤 구성요소가 다른 구성요소의 '바로 위에' 있다거나 '직접 접하여' 있다고 기재된 경우에는, 중간에 또 다른 구성요소가 존재하지 않은 것으로 이해될 수 있다. 구성요소 간의 관계를 설명하는 다른 표현들, 예를 들면, '～사이에'와 '직접 ～사이에' 등도 마찬가지로 해석될 수 있다.
본 명세서에서, '제1', '제2' 등의 용어는 다양한 구성요소를 설명하는데 사용될 수 있지만, 해당 구성요소는 위 용어에 의해 한정되어서는 안 된다. 또한, 위 용어는 각 구성요소의 순서를 한정하기 위한 것으로 해석되어서는 안되며, 하나의 구성요소와 다른 구성요소를 구별하는 목적으로 사용될 수 있다. 예를 들어, '제1구성요소'는 '제2구성요소'로 명명될 수 있고, 유사하게 '제2구성요소'도 '제1구성요소'로 명명될 수 있다.
다른 정의가 없다면, 본 명세서에서 사용되는 모든 용어는 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 공통적으로 이해될 수 있는 의미로 사용될 수 있을 것이다. 또한, 일반적으로 사용되는 사전에 정의되어 있는 용어들은 명백하게 특별히 정의되어 있지 않는 한 이상적으로 또는 과도하게 해석되지 않는다.
이하, 첨부된 도면을 참조하여 본 발명에 따른 바람직한 일 실시예를 상세히 설명하도록 한다.
도 1은 본 발명의 일 실시예에 따른 시뮬레이션 장치(100)의 블록 구성도를 나타낸다.
본 발명의 일 실시예에 따른 시뮬레이션 장치(100)는 치료 전 임상 영상을 치료 후 임상 영상으로 변환 생성하여 치료 대상자의 치료 후 모습을 시뮬레이션 처리하는 장치로서, 컴퓨팅(computing)이 가능한 전자 장치 또는 컴퓨팅 네트워크일 수 있다. 이러한 시뮬레이션 장치(100)는 시뮬레이션 처리를 위한 서버 등으로 동작할 수도 있다. 즉, 서버인 경우, 시뮬레이션 장치(100)는 단말로부터 치료 전 임상 영상 또는 의료 영상을 수신하며, 수신한 치료 전 임상 영상을 시뮬레이션 처리하여 치료 후 임상 영상을 해당 단말 또는 타 단말로 전송하는 서버 등으로 동작할 수도 있다. 이때, 단말은 치료 전 임상 영상을 측정하는 전자 장치이거나, 해당 측정 장치에서 측정된 임상 영상을 기 저장하고 있는 전자 장치일 수 있다.
임상 영상은 치료 대상자(치료 대상 환자 등)에 대한 신체 외부 부위 표면(얼굴 등)에 대한 임상 영상 또는 구강 내부 표면에 대한 구강 스캔 영상 등과 같이 신체 내외 표면 파악을 위한 2차원 또는 3차원 광학 영상일 수 있다. 예를 들어, 임상 영상은 광학 카메라 등으로 치료 대상자의 치료 대상 부위와 관련된 부위 표면을 촬영한 영상으로서, 성형 외과 또는 치과 등에서 치료 대상자의 신체 부위 표면의 모습 등을 확인하기 위해 영상일 수 있으나, 이에 한정되는 것은 아니다. 다만, 이러한 임상 영상은 신체 부위 표면에 대한 영상이므로, 연조직(근육, 근막, 건, 인대, 관절낭, 피부, 지방 등)에 대한 영상을 포함하며, 연조직 중에서도 피부 표면에 대한 영상을 포함한다.
한편, 의료 영상은 치료 대상자의 치료 대상 부위에 대한 영상으로서, 신체 내부 파악을 위해 방사선 등을 이용한 2차원 또는 3차원 영상일 수 있다. 이러한 의료 영상에는 경조직(뼈, 연골 등)에 대한 영상을 포함하며, 그 외에도 연조직에 대한 영상도 포함할 수 있다. 예를 들어, 의료 영상은 X-ray 영상, CT(Computed Tomography) 영상, 또는 MRI(Magnetic Resonance Image) 영상 등일 수 있으나, 이에 한정되는 것은 아니다.
임상 영상 및 의료 영상은 신체 부위의 다양한 방향(정면, 배면, 평면, 측면 등)에서의 영상일 수 있다. 다만, 임상 영상 및 의료 영상은 상술한 종류에 한정되지 않고, 진단, 교정, 수술 등의 치료(또는 의료 행위) 시에 사용되는 신체에 대한 다양한 영상을 포함할 수 있다.
예를 들어, 전자 장치는 데스크탑 PC(desktop personal computer), 랩탑 PC(laptop personal computer), 태블릿 PC(tablet personal computer), 넷북 컴퓨터(netbook computer), 워크스테이션(workstation), PDA(personal digital assistant), 스마트폰(smartphone), 스마트패드(smartpad), 또는 휴대폰(mobile phone), 등일 수 있으나, 이에 한정되는 것은 아니다.
이러한 시뮬레이션 장치(100)는, 도 1에 도시된 바와 같이, 입력부(110), 통신부(120), 디스플레이(130), 메모리(140), 제어부(150) 등을 포함할 수 있다.
입력부(110)는 다양한 사용자의 입력에 대응하여, 입력데이터를 발생시키며, 다양한 입력수단을 포함할 수 있다. 가령, 입력부(110)는 사용자로부터 치료 후 임상 영상을 추가 조정하는 등의 입력을 받을 수 있다. 예를 들어, 입력부(110)는 키보드(key board), 키패드(key pad), 돔 스위치(dome switch), 터치 패널(touch panel), 터치 키(touch key), 터치 패드(touch pad), 마우스(mouse), 메뉴 버튼(menu button) 등을 포함할 수 있으나, 이에 한정되는 것은 아니다.
통신부(120)는 단말 등의 다른 장치와 통신을 수행하는 구성이다. 가령, 통신부(120)는 단말로부터 치료 전 임상 영상 또는 의료 영상 등을 수신하거나, 제어부(150)에서 생성된 치료 후 임상 영상 등을 해당 단말 또는 타 단말 등으로 송신할 수 있다. 또한, 통신부(120)는 기 학습된 머신 러닝 모델에 대한 정보를 다른 장치로부터 수신할 수도 있다. 예를 들어, 통신부(120)는 5G(5th generation communication), LTE-A(long term evolution-advanced), LTE(long term evolution), 블루투스, BLE(bluetooth low energe), NFC(near field communication), 와이파이(WiFi) 통신 등의 무선 통신을 수행하거나, 케이블 통신 등의 유선 통신을 수행할 수 있으나, 이에 한정되는 것은 아니다.
디스플레이(130)는 다양한 영상 데이터를 화면으로 표시한다. 가령, 디스플레이(130)는 임상 영상, 의료 영상, 임상 영상에 대한 시뮬레이션 처리 과정 등을 표시할 수 있다. 이러한 디스플레이(130)는 비발광형 패널이나 발광형 패널로 구성될 수 있다. 예를 들어, 디스플레이(130)는 액정 디스플레이(LCD; liquid crystal display), 발광 다이오드(LED; light emitting diode) 디스플레이, 유기 발광 다이오드(OLED; organic LED) 디스플레이, 마이크로 전자기계 시스템(MEMS; micro electro mechanical systems) 디스플레이, 또는 전자 종이(electronic paper) 디스플레이 등을 포함할 수 있으나, 이에 한정되는 것은 아니다. 또한, 디스플레이(130)는 입력부(120)와 결합되어 터치 스크린(touch screen) 등으로 구현될 수 있다.
메모리(140)는 시뮬레이션 장치(100)의 동작에 필요한 각종 정보를 저장한다. 가령, 저장 정보로는 임상 영상, 의료 영상, 머신 러닝 모델, 후술할 시뮬레이션 방법에 관련된 프로그램 정보 등이 포함될 수 있다. 예를 들어, 메모리(140)는 그 유형에 따라 하드디스크 타입(hard disk type), 마그네틱 매체 타입(Sagnetic media type), CD-ROM(compact disc read only memory), 광기록 매체 타입(Optical Media type), 자기-광 매체 타입(Sagneto-optical media type), 멀티미디어 카드 마이크로 타입(Sultimedia card micro type), 플래시 저장부 타입(flash memory type), 롬 타입(read only memory type), 또는 램 타입(random access memory type) 등을 포함할 수 있으나, 이에 한정되는 것은 아니다. 또한, 메모리(140)는 그 용도/위치에 따라 캐시(cache), 버퍼, 주기억장치, 보조기억장치, 또는 별도로 마련된 저장 시스템일 수 있으나, 이에 한정되는 것은 아니다.
제어부(150)는 시뮬레이션 장치(100)의 다양한 제어 동작을 수행할 수 있다. 즉, 제어부(150)는 후술할 시뮬레이션 방법의 수행을 제어할 수 있으며, 시뮬레이션 장치(100)의 나머지 구성, 즉 입력부(110), 통신부(120), 디스플레이(130), 메모리(140) 등의 동작을 제어할 수 있다. 예를 들어, 제어부(150)는 하드웨어인 프로세서(processor) 또는 해당 프로세서에서 수행되는 소프트웨어인 프로세스(process) 등을 포함할 수 있으나, 이에 한정되는 것은 아니다.
도 2는 본 발명의 일 실시예에 따른 시뮬레이션 장치(100)에서 시뮬레이션 처리를 위한 제어부(150)의 구성을 나타내며, 도 3은 본 발명의 제1 실시예에 따른 시뮬레이션 방법의 순서도를 나타낸다.
제어부(150)는 본 발명의 다양한 실시예에 따른 시뮬레이션 방법의 수행을 제어하며, 도 2에 도시된 바와 같이, 정합부(151), 생성부(152), 조정부(153) 및 비교부(154)를 포함할 수 있다. 예를 들어, 정합부(151), 생성부(152), 조정부(153) 및 비교부(154)는 제어부(150)의 하드웨어 구성이거나, 제어부(150)에서 수행되는 소프트웨어인 프로세스일 수 있으나, 이에 한정되는 것은 아니다.
도 3을 참조하면, 본 발명의 제1 실시예에 따른 시뮬레이션 방법은 S101 내지 S103을 포함할 수 있다. 이때, S101 내지 S103은 각각 제어부(150)의 하드웨어 또는 소프트웨어를 통해 그 수행이 제어될 수 있다.
먼저, S101는 정합부(151)가 치료 전 임상 영상과 치료 전 의료 영상을 정합(matching)하는 단계이다. 이러한 정합을 위해, 이종의 영상을 정합하는 종래의 다양한 영상 정합 알고리즘이 사용될 수 있다. 이때, 치료 전 임상 영상은 치료 대상자에게서 광학 촬영된 치료 대상 부위 주변의 연조직에 대한 영상을 포함할 수 있다. 또한, 치료 전 의료 영상은 치료 대상자에게서 방사선 촬영된 치료 대상 부위 주변의 경조직 및 연조직에 대한 영상을 포함할 수 있다.
도 4는 치료 전 임상 영상과 검출된 정합 기준 마크의 예를 나타내며, 도 5는 치료 전 의료 영상과 검출된 정합 기준 마의 예를 나타낸다. 즉, 도 4 및 도 5에서, 붉은색 점은 검출된 정합 기준 마크를 나타낸다.
가령, 도 4 및 도 5에 도시된 바와 같이, 정합부(151)는 치료 전의 임상 영상 및 의료 영상에서 검출된 정합 기준 마크를 활용하여, 해당 임상 영상 및 의료 영상을 정합할 수 있다. 이때, 정합 기준 마크는 임상 영상 및 의료 영상 각각에서 동일 신체 부위에 대한 위치로 검출되는 부분으로서, 다수의 신체 부위에 대해 복수개가 검출될 수 있다. 즉, 정합 기준 마크는 임상 영상 및 의료 영상 각각에서 동일 신체 부위의 윤곽선에서 검출된 동일 위치에 대한 다수의 점 또는 섬으로 검출될 수 있다.
참고로, 도 4에서, 각 정합 기준 마크의 신체 부위에 대한 상세한 내용은 다음과 같다.
| 번호 | 상세 부위 | 번호 | 상세 부위 |
| 1 | Glabella | 12 | Upper embrasure |
| 2 | Soft tissue Nasion | 13 | Lower embrasure |
| 3 | Nasal bridge | 14 | Stomion inferius |
| 4 | Dorsum of Nose | 15 | Lower lip |
| 5 | Pronasale | 16 | Labrale inferius |
| 6 | Columella | 17 | Soft tissue B point |
| 7 | Subnasale | 18 | Soft tissue Pogonion |
| 8 | Soft tissue A point | 19 | Soft tissue Gnathion |
| 9 | Labrale superius | 20 | Soft tissue Menton |
| 10 | Upper lip | 21 | Submandibular point |
| 11 | Stomion superius | 22 | Cervical point |
특히, 정합부(151)는 제1 머신 러닝 모델(machine learning model)을 통해 해당 정합 기준 마크를 설정할 수 있다. 이때, 제1 머신 러닝 모델은 입력 데이터 및 출력 데이터 쌍(데이터 세트)의 학습 데이터를 통해 지도 학습(supervised learning)의 머신 러닝 기법에 따라 학습된 모델일 수 있다. 즉, 제1 머신 러닝 모델은 임상 영상의 입력 데이터와, 해당 임상 영상에서 정합 기준 마크가 설정된 출력 데이터를 포함하는 학습 데이터 세트를 이용해 학습될 수 있다. 또한, 제1 머신 러닝 모델은 의료 영상의 입력 데이터와, 해당 의료 영상에서 정합 기준 마크가 설정된 출력 데이터를 포함하는 학습 데이터 세트를 이용해 학습될 수 있다. 특히, 출력 데이터에서, 임상 영상 및 의료 영상 각각에 대해 동일 신체 부위에 대한 위치가 정합 기준 마크로 의료인 등에 의해 설정될 수 있다.
이에 따라, 제1 머신 러닝 모델은 입력 데이터인 임상 영상과 출력 데이터인 정합 기준 마크(또는 정합 기준 마크가 설정된 임상 영상) 간의 관계에 대한 함수를 가지며, 이를 다양한 파라미터를 이용해 표현한다. 또한, 제1 머신 러닝 모델은 입력 데이터인 의료 영상과 출력 데이터인 정합 기준 마크(또는 정합 기준 마크가 설정된 의료 영상) 간의 관계에 대한 함수를 가지며, 이를 다양한 파라미터를 이용해 표현한다.
즉, 기 학습된 제1 머신 러닝 모델에 임상 영상 또는 의료 영상의 입력 데이터가 입력되는 경우, 해당 함수에 따른 정합 기준 마크(또는 정합 기준 마크가 설정된 임상 영상 또는 의료 영상)의 출력 데이터가 출력될 수 있다. 다만, 제1 머신 러닝 모델은 임상 영상에 대해 학습된 것과, 의료 영상에 대해 학습된 것이 각각 별도로 존재할 수도 있다.
도 6 및 도 7은 머신 러닝 모델을 활용한 정합 기준 마크 검출 과정에 대한 예를 나타낸다.
도 6 및 도 7에 도시된 바와 같이, 제1 머신 러닝 모델은 다양한 레이어를 포함하여 임상 영상 및 의료 영상에서 정합 기준 마크를 검출할 수 있다. 즉, 제1 머신 러닝 모델은 입력 데이터의 임상 영상 또는 의료 영상으로부터 그 윤곽선 등의 특징(feature)을 검출하는 레이어, 검출된 윤곽선 등에서 각 신체 부위의 영역(area)을 검출하는 레이어, 검출된 영역에서 복수의 정합 기준 마크의 점(point)을 검출하는 레이어 등을 포함할 수 있다. 또한, 해당 각 레이어는 별도의 머신 러닝 모델로 구현될 수도 있다.
도 8은 정합 기준 마크가 검출된 임상 영상 및 의료 영상에 대한 검출 과정을 나타낸다.
정합 기준 마크가 검출된 후, 도 8에 도시된 바와 같이, 정합부(151)는 다양한 영상 변환 알고리즘을 사용하여 검출된 정합 기준 마크를 활용한 임상 영상 및 의료 영상의 정합을 수행할 수 있다. 즉, 임상 영상의 정합 기준 마크와, 의료 영상의 정합 기준 마크가 서로 매칭이 되도록, 임상 영상을 기준으로 의료 영상을 변환하거나, 의료 영상을 기준으로 임상 영상을 변환하거나, 임상 영상 및 의료 영상을 모두 변환할 수 있다. 예를 들어, 영상 변환 알고리즘은 Similarity Transformation, Affine Transformation 등이 사용될 수 있으나, 이에 한정되는 것은 아니다.
또는, 정합부(151)는 제2 머신 러닝 모델을 이용하여 임상 영상 및 의료 영상의 정합을 수행할 수도 있다. 이때, 제2 머신 러닝 모델은 마찬가지로 지도 학습(supervised learning)의 머신 러닝 기법에 따라 학습된 모델일 수 있다. 즉, 제2 머신 러닝 모델은 임상 영상, 의료 영상 및 각 정합 기준 마크의 입력 데이터와, 정합된 임상 영상, 정합된 의료 영상 및 각 정합 기준 마크가 설정된 출력 데이터를 포함하는 학습 데이터 세트를 이용해 학습될 수 있다. 이때, 출력 데이터에 포함되는 정합된 임상 영상 및 정합된 의료 영상은 상술한 영상 변환 알고리즘을 이용하거나, 추가적으로 사용자에 의해 정합이 추가 교정됨으로써 생성된 영상이 사용될 수 있다.
이에 따라, 제2 머신 러닝 모델은 입력 데이터인 임상 영상, 의료 영상 및 각 정합 기준 마크와, 출력 데이터인 정합된 임상 영상, 정합된 의료 영상 및 각 정합 기준 마크 간의 관계에 대한 함수를 가지며, 이를 다양한 파라미터를 이용해 표현한다. 즉, 기 학습된 제2 머신 러닝 모델에 임상 영상, 의료 영상 및 각 정합 기준 마크가 입력되는 경우, 해당 함수에 따른 정합된 각 영상과 그 정합 기준 마크의 출력 데이터가 출력될 수 있다. 특히, 정합 기준 마크를 함께 이용함에 따라, 제2 머신 러닝 모델은 보다 정확하게 정합된 임상 영상 및 의료 영상을 생성할 수 있다.
상술한 내용 외에도 정합부(151)는 다양한 방법을 이용하여 치료 전 임상 영상과 치료 전 의료 영상을 정합할 수 있다.
이후, S102는 생성부(152)가 치료 후 임상 영상을 생성하는 단계이다. 이때, 생성부(152)는 제3 머신 러닝 모델을 이용하여 치료 후 임상 영상을 생성할 수 있다.
제3 머신 러닝 모델은 마찬가지로 지도 학습(supervised learning)의 머신 러닝 기법에 따라 학습된 모델일 수 있다. 즉, 제3 머신 러닝 모델은 정합된 치료 전 임상 영상 및 정합된 치료 전 의료 영상의 입력 데이터와, 정합된 치료 후 임상 영상 및 정합된 치료 후 의료 영상의 출력 데이터를 포함하는 학습 데이터 세트를 이용해 학습될 수 있다. 이때, 출력 데이터에 포함되는 정합된 치료 후 임상 영상 및 정합된 치료 후 의료 영상은 실제로 해당 치료가 선행되었던 다른 치료 대상자의 치료 후의 임상 영상 및 의료 영상을 정합 처리한 각 영상이 사용될 수 있다. 또한, 출력 데이터에 포함되는 정합된 치료 후 임상 영상 및 정합된 치료 후 의료 영상은 해당 치료에 대한 오랜 경험을 가진 전문 의료인이 예상하는 해당 치료에 따른 치료 후의 임상 영상 및 의료 영상(해당 예상에 따라 영상 처리됨)을 정합 처리한 각 영상이 사용될 수 있다.
이에 따라, 제3 머신 러닝 모델은 입력 데이터인 정합된 치료 전 임상 영상 및 정합된 치료 전 의료 영상과, 출력 데이터인 정합된 치료 후 임상 영상 및 정합된 치료 후 의료 영상 간의 관계에 대한 함수를 가지며, 이를 다양한 파라미터를 이용해 표현한다. 즉, 기 학습된 제3 머신 러닝 모델에 정합된 치료 전의 임상 영상 및 의료 영상이 입력되는 경우, 해당 함수에 따른 정합된 치료 후의 임상 영상 및 의료 영상의 출력 데이터가 출력될 수 있다.
기 학습된 제3 머신 러닝 모델을 통해 생성되는 치료 후 임상 영상은 치료 전 임상 영상으로부터 단순히 연조직만의 변화를 시뮬레이션 하는 것으로 보이지만, 실제로는 경조직에 연동되어 변화되는 연조직의 변화를 시뮬레이션 할 수 있다. 이는 제3 머신 러닝 모델이 치료 후 임상 영상 생성 시에 임상 영상 외에도 경조직에 대한 영상인 의료 영상을 함께 반영하여 생성하기 때문이다. 즉, 경조직에 연동된 연조직의 변화를 시뮬레이션 하므로, 본 발명은 시뮬레이션 결과의 정확성을 향상시킬 수 있는 이점이 있다. 또한, 본 발명은 정합된 임상 영상 및 의료 영상을 반영하여 시뮬레이션 함으로써, 해당 시뮬레이션 결과의 정확성을 보다 향상시킬 수 있다.
이후, S103은 조정부(153)가 제3 머신 러닝 모델에서 생성된 치료 후 임상 영상을 추가 조정하는 단계이다. 즉, 조정부(153)는 제3 머신 러닝 모델에서 생성된 정합된 치료 후의 임상 영상 및 의료 영상에서 랜드 마크를 파악하여, 해당 랜드 마크를 기반으로 미세조정이 가능한 다수의 조작부(C1~C5)를 정합된 치료 후의 임상 영상 또는 의료 영상에 제공(표시)할 수 있다.
도 9는 임상 영상에서의 랜드 마크의 예를 나타내며, 도 10은 의료 영상에서의 랜드 마크의 예를 나타낸다. 즉, 도 9 및 도 10은 서로 매칭된 임상 영상 및 의료 영상을 나타내며, 각 영상에서의 랜드 마크의 예를 나타낸다.
이때, 랜드 마크는 임상 영상 또는 의료 영상에서 다양한 신체 부위에 대한 해부학적 특징을 나타내는 것으로서, 신체 부위에 대한 위치 또는 형상을 대표하여 나타내기 위한 하나 이상의 점 또는 선일 수 있다.
도 9 및 도 10에서, 각 점 및 선은 치과 치료 시 참고할 수 있는 랜드 마크이다. 즉, 도 9에서 붉은색은 임상 영상에서의 연조직의 랜드 마크를 나타내고, 도 10에서 붉은색 및 주황색 점은 의료 영상에서의 경조직의 랜드 마크를 나타내며, 도 10에서 초록색 점은 의료 영상에서의 연조직의 랜드 마크를 나타낸다. 또한, 도 10에서 파란색 선은 서로 관련된 신체 부위에 대한 각 점들을 연결한 선으로서, 해당 신체 부위의 윤곽선을 나타낸다.
이때, 도 10의 의료 영상에서, 붉은색 점은 치과 치료 시 중요도가 비교적 높은 랜드 마크일 수 있으며, 도 10의 주황색 점은 치과 치료 시 중요도가 비교적 낮은 랜드 마크일 수 있다. 또한, 도 10의 의료 영상의 초록색 점은 도 9의 임상 영상의 붉은색 점에 매칭되는 점일 수 있다.
도 11 내지 도 15는 정합된 임상 영상 및 의료 영상에서 의료 영상의 경조직에 대한 주요 랜드 마크에 따라 연동되는 임상 영상의 연조직에 대한 랜드 마크의 예를 나타낸다. 즉, 도 11 및 도 15는 정합된 임상 영상 및 의료 영상과, 각 주요 랜드 마크를 나타낸다.
특히, 도 10의 의료 영상의 붉은색 점 중에서 앞니 및 턱 주변 등의 붉은색 점에 따른 경조직은 도 10의 의료 영상의 초록색 점 중의 일부(즉, 그에 매칭되는 도9의 임상 영상의 붉은색 점 중의 일부)에 따른 연조직과 연동되는 주요 랜드 마크일 수 있다. 해당 경조직에 대한 주요 랜드 마크는 도 11 내지 도 15에서 노란색 점으로 표시하였으며, 서로 매칭된 도 9의 붉은색 점과 도 10의 초록색 점은 도 11 내지 도 15에서 붉은색 점으로 표시하였다.
도 11에서, 5개의 주요 랜드 마크 중 첫번째인 제1 주요 랜드 마크는 상악골을 나타낸다. 즉, 도 11은 상악골이 움직이는 경우에 그에 따라 종속하는(즉, 연동되어 움직이는) 연조직 부위를 나타낸다.
도 12에서, 5개의 주요 랜드 마크 중 두번째인 제2 주요 랜드 마크는 상악중절치를 나타낸다. 즉, 도 12는 상악중절치가 움직이는 경우에 그에 따라 종속하는 연조직 부위를 나타낸다.
도 13에서, 5개의 주요 랜드 마크 중 세번째인 제3 주요 랜드 마크는 하악중절치를 나타낸다. 즉, 도 13은 하악중절치가 움직이는 경우에 그에 따라 종속하는 연조직 부위를 나타낸다.
도 14에서, 5개의 주요 랜드 마크 중 네번째인 제4 주요 랜드 마크는 하악골을 나타낸다. 즉, 도 14는 하악골이 움직이는 경우에 그에 따라 종속하는 연조직 부위를 나타낸다.
도 15에서, 5개의 주요 랜드 마크 중 다섯번째인 제5 주요 랜드 마크는 턱 단부를 나타낸다. 즉, 도 15는 턱 단부를 움직이는 경우에 그에 따라 종속하는 연조직 부위를 나타낸다.
다만, 도 9 내지 도 15에 도시된 바와 달리, 랜드 마크 및 주요 랜드 마크는 필요에 따라 다양하게 그 위치, 모양 또는 개수가 다양하게 설정될 수 있다. 이러한 랜드 마크 및 주요 랜드 마크는 종래의 다양한 랜드 마크 설정 알고리즘에 의해 설정되거나, 지도 학습 방식의 제4 머신 러닝 모델을 등을 이용해 설정될 수 있다. 해당 제4 머신 러닝 모델은 제1 머신 러닝 모델과 거의 동일하되, 그 생성하는 랜드 마크의 설정 기준만이 정합 기준 마크의 설정 기준과 달라질 뿐이므로, 이하 이에 대한 상세한 설명은 생략하도록 한다.
도 16은 정합된 임상 영상 및 의료 영상에서 주요 랜드 마크를 조작부(C1~C5)로 설정한 경우를 나타내며, 도 17 내지 도 19는 정합된 임상 영상에서의 조작부(C1~C5)의 조작 예를 나타낸다.
한편, 정합된 치료 후의 임상 영상 또는 의료 영상에 제공된 조작부(C1~C5)에 대해 사용자가 입력부(110)를 통해 조작 입력을 전달하는 경우, 도 17 내지 도 19에 도시된 바와 같이, 이미 제3 머신 러닝 모델을 통해 시뮬레이션 수행된 치료 후 영상이 추가적으로 조정될 수 있다. 즉, 어느 특정 조작부가 조작되면, 해당 조작이 반영되면서 해당 조작부에 관련된 경조직에 연동된 연조직이 조정될 수 있다. 예를 들어, 제1 조작부(C1)가 조작되면 상악골에 연동된 연조직 부위가, 제2 조작부(C2)가 조작되면 상악중절치에 연동된 연조직 부위가, 제3 조작부(C3)가 조작되면 하악중절치에 연동된 연조직 부위가, 제4 조작부(C4)가 조작되면 하악골에 연동된 연조직 부위가, 제5 조작부(C5)가 조작되면 턱 단부에 연동된 연조직 부위가 각각 조정될 수 있다.
이러한 조작부(C1~C5)는 해당 경조직에 대한 주요 랜드 마크의 위치나 그 주변에 표시됨으로써, 사용자가 보다 간편하면서 직관적으로 조정에 따른 연조직의 변화된 시뮬레이션을 확인할 수 있게 한다. 물론, 조작부(C1~C5)가 조작되는 경우, 조정부(153)는 정합된 치료 후 임상 영상에서 해당 조작을 반영하여 연조직을 조정할 뿐 아니라, 정합된 치료 후 의료 영상에서도 해당 조작을 반영하여 해당 경조직 및 연조직을 조정함으로써, 치료 후의 각 영상에 대한 정합을 유지할 수 있다.
도 16 등에 도시된 바와 달리, 조작부(C1~C5)는 다양한 모양, 색상, 음영, 그래프, 그라데이션(gradation) 등의 UI(user interface)로 제공될 수 있으나, 이에 한정되는 것을 아니다.
다만, 조정부(153)는 조작부(C1~C5)의 조작에 따른 연조직의 조정을 제한 범위 내에서 수행할 수 있다. 이는 일정 이상 연조직이 조정되는 경우, 사실상 치료가 불가능한 범위까지 해당 연조직이 조정될 수 있어, 이를 방지하기 위함이다. 이를 위해, 어느 한 조작부가 선택되는 경우, 조정부(153)는 해당 조작부에 대한 제한 범위의 마크를 해당 조작부의 주변에 표시할 수 있다. 예를 들어, 해당 제한 범위는 숫자, 문자, 기호, 모양, 색상, 음영, 그래프, 그라데이션(gradation) 등의 다양한 형태로 제공될 수 있으나, 이에 한정되는 것은 아니다.
또한, 조정부(153)는 각 조작부(C1~C5)의 조작에 대한 제한 범위를 다양하게 설정할 수 있다. 즉, 조작부(C1~C5) 마다 서로 다르게 제한 범위를 설정할 수도 있다. 이러한 각 제한 범위는 해당 조작부에 관련된 신체 부위의 신체 구조적 특징을 반영하여 설정될 수 있다. 예를 들어, 제4 머신 러닝 모델을 이용해 해당 제한 범위를 설정할 수도 있다. 즉, 제4 머신 러닝 모델은 주요 랜드 마크 설정과 함께 해당 주요 랜드 마크에 대한 제한 범위의 값도 함께 설정하여 학습될 수 있다. 이 경우, 제4 머신 러닝 모델은 주요 랜드 마크의 위치와 함께 그 제한 범위의 값도 생성할 수 있다. 이에 따라, 조정부(153)는 각 주요 랜드 마크에 관련된 해당 조작부에 대해 해당 제한 범위의 값을 반영하여 연조직에 대한 조정을 수행할 수 있다.
도 20는 치료 전후의 영상에 대한 변화를 반투명 형태를 활용하여 표시한 예를 나타내고, 도 21은 치료 전후의 영상에 대한 변화를 병렬 배치하여 표시한 예를 나타내며, 도 22는 다양한 치료 시간에 따른 치료 전후의 변화를 다양한 치료 시간 별로 병렬 배치하여 표시한 예를 나타낸다.
한편, 비교부(154)는 치료 전후의 영상에 대한 변화의 시뮬레이션을 비교하여 표시하도록 제어할 수 있다. 또한, 조정부(153)에 추가 조정이 수행되는 경우, 비교부(154)는 해당 추가 조정에 따른 변화의 시뮬레이션을 비교하여 표시할 수 있다. 예를 들어, 비교부(154)는 선, 색상, 음영, 반투명, 그라데이션(gradation), 병렬 배치 등의 다양한 방법을 통해 해당 비교를 표시할 수 있으나, 이에 한정되는 것은 아니다.
도 17 내지 도 19에 도시된 바와 같이, 비교부(154)는 다양한 색상의 선을 통해 치료 전후의 임상 영상의 비교를 표시할 수 있다. 즉, 도 17 내지 도 19에서, 주황색 선은 추가 조정 전우의 측모 두부의 일부 윤곽선이며, 파란색 선은 추가 조정 후의 측모 두부의 일부 윤곽선이다.
또한, 도 21 및 도 22에 도시된 바와 같이, 비교부(154)는 병렬 배치를 통해 치료 전후의 임상 영상의 비교를 표시할 수 있다. 특히, 생성부(152) 또는 조정부(153)에서 치료 시간에 따라 치료 후 임상 영상이 복수개 생성될 경우, 도 22에 도시된 바와 같이, 비교부(154)는 각 치료 후 임상 영상을 이용하여 치료 시간에 따른 치료 대상 부위의 변화를 차례로 병렬 배치하여 표시할 수 있다.
예를 들어, 상술한 머신 러닝 모델에 적용되는 머신 러닝 기법은 Artificial neural network, Boosting, Bayesian statistics, Decision tree, Gaussian process regression, Nearest neighbor algorithm, Support vector machine, Random forests, Symbolic machine learning, Ensembles of classifiers, 또는 Deep learning 등을 포함할 수 있으나, 이에 한정되는 것은 아니다.
특히, 딥 러닝(Deep learning) 기법에 의해 학습된 딥 러닝 모델은 입력 데이터와 출력 데이터 간의 관계를 다수의 층(레이어)으로 표현하며, 이러한 다수의 표현층을 “신경망(neural network)”라 지칭하기도 한다. 이러한 딥 러닝 모델은 본 발명과 같은 영상 처리 분야에서 고무적인 성능을 가질 수 있다.
예를 들어, 딥 러닝 기법은 Deep Neural Network(DNN), Convolutional Neural Network(CNN), Recurrent Neural Network(RNN), Restricted Boltzmann Machine(RBM), Deep Belief Network(DBN), Deep Q-Networks 등을 포함할 수 있으나, 이에 한정되는 것은 아니다.
도 23은 본 발명의 제2 실시예에 따른 시뮬레이션 방법의 순서도를 나타낸다.
한편, 도 23을 참조하면, 본 발명의 제2 실시예에 따른 시뮬레이션 방법은 S201 내지 S203을 포함할 수 있다. 즉, S201 내지 S204는 시뮬레이션 장치(100)가 서버 등으로 동작하는 경우에 대한 과정일 수 있다. 이때, S201 내지 S203은 각각 제어부(150)의 하드웨어 또는 소프트웨어를 통해 그 수행이 제어될 수 있다.
다만, S201 내지 S203은 상술한 S101 내지 S103과 각각 대응하되, 치료 전 의료 영상이 치료 대상자의 영상이 아닌 타인의 영상인 것 외에는 S101 내지 S103의 내용과 동일하다. 따라서, 이하 101 내지 S103과의 차이점에 대해서만 설명하도록 한다.
먼저, S101 내지 S103의 경우, 치료 대상자에 대해 치료 전 임상 영상 외에도 치료 전 의료 영상도 함께 확보된 경우에만 적용 가능하다. 하지만, 치료 전 임상 영상이 광학 영상이므로 간단히 스마트 폰, 웹캠 등을 이용하여 쉽게 확보 가능한 반면, 치료 전 의료 영상은 방사선을 이용한 영상이므로, 공인된 의료 시설을 통해서만 확보 가능하다.
따라서, 본 발명의 제2 실시예에 따른 시뮬레이션 방법은 치료 대상자에 대한 치료 전 임상 영상만 확보되고 치료 전 의료 영상이 확보되지 않은 경우에 적용할 수 있는 방안을 제시할 수 있다. 즉, 타인의 치료 전 의료 영상을 활용하여, 상술한 S101 내지 S103을 수행할 수 있다.
도 24는 측모 두부의 표준 의료 영상에 대한 예를 나타낸다.
이때, 타인의 치료 전 의료 영상은 실제로 방사선 촬영된 영상 외에도, 해당 영상이 영상 처리를 통해 가공된 가공 영상(fake image)일 수도 있다.
예를 들어, 타인의 치료 전 의료 영상은 치료 대상 부위의 구조 또는 그 주변의 신체 부위 구조에 따라 분류된 다수의 표준 의료 영상에서 선택될 수 있으나, 이에 한정되는 것은 아니다. 다만, 이 경우, 동일한 표준 의료 영상들 중에서 하나를 타인의 치료 전 의료 영상으로 선택하므로, 정합을 위한 영상 처리 과정이 보다 용이할 수 있다.
즉, 표준 의료 영상은 치료 대상 부위에 대해 그 구조 또는 그 주변의 구조의 위치, 형상 등에 따라 다양하게 나눠진 샘플 의료 영상이다. 가령, 치료 대상 부위가 치열 또는 턱뼈(교정 등)인 경우, 도 24에 도시된 바와 같이, 턱 위치를 고려하여 분류된 9개의 골격 패턴(Hyperdivergent-Skeletal Class I, Hyperdivergent-Skeletal Class II, Hyperdivergent-Skeletal Class III, Normodivergent-Skeletal Class I, Normodivergent-Skeletal Class II, Normodivergent-Skeletal Class III, Hypodivergent-Skeletal Class I, Hypodivergent-Skeletal Class II, Hypodivergent-Skeletal Class III)의 측모 두부의 표준 의료 영상 중에 하나가 타인의 치료 전 의료 영상으로 선택되어 사용될 수 있다.
즉, 치료 대상의 턱뼈의 전후방 또는 수직 위치를 기준으로 9개의 골격 패턴으로 분류할 수 있다. 구체적으로, 위턱뼈와 아래턱뼈의 상대적인 전후방 위치를 판단하는 분석계측치인 ANB 또는 APDI를 기준으로 턱뼈의 전후방 위치를 파악할 수 있으나, 전후방 위치의 판단을 하는 분석계측치는 이에 국한되지 않으며 다른 계측치가 될 수도 있다. 위턱뼈와 아래턱뼈의 상대적인 전후방 위치를 판단하는 분석계측치인 ANB를 사용하는 경우, 해당 성별 및 나이의 평균치보다 1.5표준편차 이상 큰 경우 Skeletal Class II로 분류할 수 있고, 1.5표준편차 이상 작은 경우 Skeletal Class III로 분류할 수 있다. 위턱뼈와 아래턱뼈의 상대적인 전후방 위치를 판단하는 분석계측치인 APDI를 사용하는 경우, 해당 성별 및 나이의 평균치보다 1.5표준편차 이상 큰 경우 Skeletal Class III로 분류할 수 있고, 1.5표준편차 이상 작은 경우, Skeletal Class II로 분류할 수 있다. 턱뼈의 수직성장 양상을 판단하는 분석계측치인 Bj
rk Sum 또는 FMA를 기준으로 턱뼈의 수직성장 양상을 파악하는 턱뼈의 수직성장 양상을 판단하는 분석계측치는 이에 국한되지 않으며 다른 계측치가 될 수도 있다. 턱뼈의 수직성장 양상을 판단하는 분석계측치인 Bj
rk Sum을 사용하는 경우, 해당 성별 및 나이의 평균치보다 1.5표준편차 이상 큰 경우 Hyperdivergent로 분류할 수 있고, 1.5표준편차 이상 작은 경우 Hypodivergent로 분류할 수 있다. 턱뼈의 수직성장 양상을 판단하는 분석계측치인 FMA을 사용하는 경우, 해당 성별 및 나이의 평균치보다 1.5표준편차 이상 큰 경우 Hyperdivergent로 분류할 수 있고, 1.5표준편차 이상 작은 경우 Hypodivergent로 분류할 수 있다.
다만, 이러한 9개의 골격 패턴은 치과 또는 성형 외과 등의 치료에 있어 최적합한 기준으로 분류됨에 따라, 남녀노소에 상관없이 모든 치료 대상자에게 적용 가능하며, 또한 정합을 위한 영상 처리를 용이하면서 그 처리 시간을 줄일 수 있을 뿐 아닐, 정확한 시뮬레이션 결과도 제공할 수 있는 이점이 있다.
즉, 정합부(151)는 다수의 표준 의료 영상 중에서 치료 대상자의 치료 대상 부위를 고려하여 치료 대상자에 가장 유사한 하나의 표준 의료 영상을 선택하여 타인의 치료 전 의료 영상으로 사용할 수 있다.
특히, 치료 전 임상 영상만이 실제 치료 대상자의 영상이므로, 정합부(151)는 치료 전 임상 영상을 기준으로 선택된 타인의 치료 전 의료 영상을 변형하여 정합하도록 영상 처리하는 것이 바람직할 수 있다.
도 25는 본 발명의 제3 실시예에 따른 시뮬레이션 방법의 순서도를 나타낸다.
또한, 도 25를 참조하면, 본 발명의 제3 실시예에 따른 시뮬레이션 방법은 S301 내지 S305를 포함할 수 있다. 즉, S301 내지 S304는 시뮬레이션 장치(100)가 서버 등으로 동작하는 경우에 대한 과정일 수 있다. 이때, S301 내지 S305는 각각 제어부(150)의 하드웨어 또는 소프트웨어를 통해 그 수행이 제어될 수 있다.
먼저, S301은 단말 등으로부터 치료 대상자의 치료 전의 임상 영상 및 의료 영상을 수신하는 단계이다. 즉, 단말은 시뮬레이션 처리를 수행하는 서버인 시뮬레이션 장치(100)로 자신이 가지고 있는 치료 대상자의 치료 전의 임상 영상 및 의료 영상을 전송할 수 있다. 이때, 제어부(150)는 통신부(120)를 통해 해당 의료 영상을 수신하도록 제어할 수 있으며, 수신된 의료 영상을 메모리(140)에 저장하도록 제어할 수 있다.
이후, S302 내지 S304가 수행된다. 다만, S302 내지 S304는 상술한 S101 내지 S103과 각각 대응하므로, 이에 대한 설명은 생략하도록 한다.
이후, S305는 S302 내지 S304를 통해 시뮬레이션 처리된 정합된 치료 후 임상 영상을 해당 단말 또는 타 단말로 전송하는 단계이다. 물론, S305에서, 제어부(150)는 정합된 치료 후 임상 영상 외에도 정합된 치료 후 의료 영상도 함께 전송할 수 있다. 또한, 치료 후의 영상을 수신한 단말에서는 비교부(154)의 동작과 같이 치료 전후의 영상을 비교하여 표시하는 시뮬레이션을 수행할 수도 있다.
도 26은 본 발명의 제4 실시예에 따른 시뮬레이션 방법의 순서도를 나타낸다.
또한, 도 26을 참조하면, 본 발명의 제4 실시예에 따른 시뮬레이션 방법은 S401 내지 S405를 포함할 수 있다. 즉, S401 내지 S404는 시뮬레이션 장치(100)가 서버 등으로 동작하는 경우에 대한 과정일 수 있다. 이때, S401 내지 S405는 각각 제어부(150)의 하드웨어 또는 소프트웨어를 통해 그 수행이 제어될 수 있다.
다만, S401 내지 S405는 상술한 S301 내지 S305와 각각 대응하되, 치료 전 의료 영상이 치료 대상자의 영상이 아닌 타인의 영상인 것 외에는 S301 내지 S305의 내용과 동일하다. 즉, S401에서, 제어부(150)는 단말 등으로부터 치료 대상자의 치료 전의 임상 영상만을 수신한다. 이후, S402 내지 S403에서는 상술한 S201 내지 S203과 각각 대응하므로, 이에 대한 설명은 생략하도록 한다.
상술한 바와 같이 구성되는 본 발명은 머신 러닝 모델을 이용하므로 시뮬레이션이 간편할 뿐 아니라, 경조직에 연동된 연조직의 변화를 시뮬레이션 하므로 시뮬레이션 결과의 정확성을 향상시킬 수 있는 이점이 있다. 또한, 본 발명은 정합된 임상 영상 및 의료 영상을 반영하여 시뮬레이션 하므로, 시뮬레이션 결과의 정확성을 보다 향상시킬 수 있는 이점이 있다. 또한, 본 발명은 치료 대상자가 치료 전 의료 영상이 없는 경우에도 표준 의료 영상 등을 이용함으로써, 영상 처리 과정이 용이하면서 그 처리 시간을 줄일 수 있을 뿐 아니라, 정확한 시뮬레이션 결과도 제공할 수 있는 이점이 있다.
본 발명의 상세한 설명에서는 구체적인 실시 예에 관하여 설명하였으나 본 발명의 범위에서 벗어나지 않는 한도 내에서 여러 가지 변형이 가능함은 물론이다. 그러므로 본 발명의 범위는 설명된 실시 예에 국한되지 않으며, 후술되는 청구범위 및 이 청구범위와 균등한 것들에 의해 정해져야 한다.
100: 시뮬레이션 장치
110: 입력부
120: 통신부 130: 디스플레이
140: 메모리 150: 제어부
151: 정합부 152: 생성부
153: 조정부 154: 비교부
C1~C5: 조작부
120: 통신부 130: 디스플레이
140: 메모리 150: 제어부
151: 정합부 152: 생성부
153: 조정부 154: 비교부
C1~C5: 조작부
Claims (17)
- 전자 장치에서 수행되는 임상 영상의 시뮬레이션 방법으로서,
치료 대상자의 치료 대상 부위 주변의 연조직에 대한 치료 전 임상 영상과, 치료 대상자의 치료 대상 부위 주변의 경조직에 대한 치료 전 의료 영상을 정합하는 단계; 및
머신 러닝 모델을 이용하여 정합된 치료 전 영상에 따른 치료 후 임상 영상을 생성하는 단계;를 포함하며,
상기 치료 후 임상 영상은 경조직에 연동된 연조직에 대한 영상인 시뮬레이션 방법.
- 전자 장치에서 수행되는 임상 영상의 시뮬레이션 방법으로서,
치료 대상자의 치료 대상 부위 주변의 연조직에 대한 치료 전 임상 영상과, 타인의 치료 대상 부위 주변의 경조직에 대한 치료 전 의료 영상을 정합하는 단계; 및
머신 러닝 모델을 이용하여 정합된 치료 전 영상에 따른 치료 후 임상 영상을 생성하는 단계;를 포함하며,
상기 치료 후의 임상 영상은 경조직에 연동된 연조직에 대한 영상인 시뮬레이션 방법.
- 제1항 또는 제2항에 있어서,
상기 머신 러닝 모델은 정합된 치료 전 영상의 입력 데이터와, 정합된 치료 후 영상의 출력 데이터를 각각 포함하는 학습 데이터를 기반으로 학습된 시뮬레이션 방법.
- 제1항 또는 제2항에 있어서,
상기 치료 후 임상 영상에서 연조직에 대한 미세조정이 가능한 다수의 조작부를 제공하며, 상기 조작부가 조작되는 경우에 해당 조작이 반영되면서 경조직에 연동된 연조직의 조정을 수행하는 단계를 더 포함하는 시뮬레이션 방법.
- 제4항에 있어서,
상기 머신 러닝 모델은 정합된 치료 전 영상을 입력 받는 경우, 치료 후 임상 영상을 출력하면서 상기 다수의 조작부를 함께 출력하도록 학습된 시뮬레이션 방법.
- 제5항에 있어서,
상기 조작부는 치료 후의 경조직에 대한 다수의 랜드 마크의 위치 중에서 선택되어 해당 위치 또는 그 주변에 표시되는 시뮬레이션 방법.
- 제4항에 있어서,
상기 연조직의 조정을 수행하는 단계는 조작부의 조작에 따른 연조직의 조정을 제한 범위 내에서 수행하는 시뮬레이션 방법.
- 제7항에 있어서,
상기 연조직의 조정을 수행하는 단계는 어느 한 조작부가 선택되는 경우에 해당 조작부에 대한 제한 범위의 마크를 해당 조작부의 주변에 표시하는 시뮬레이션 방법.
- 제7항에 있어서,
상기 다수의 조작부는 다양한 제한 범위를 가지며,
상기 머신 러닝 모델은 상기 다수의 조작부를 출력하면서 해당 각 제한 범위를 설정하도록 학습된 시뮬레이션 방법.
- 제1항 또는 제2항에 있어서,
상기 의료 영상은 방사선을 이용한 치료 대상자의 신체 내부 구조에 대한 영상이며,
상기 임상 영상은 치료 대상자의 신체 외부 부위 표면 또는 구강 내부 표면에 대한 광학 영상인 시뮬레이션 방법.
- 제2항에 있어서,
상기 타인의 의료 영상은 치료 대상 부위의 구조 또는 그 주변의 신체 부위 구조에 따라 분류된 다수의 표준 의료 영상에서 선택된 시뮬레이션 방법.
- 제11항에 있어서,
상기 치료 대상 부위가 치열 또는 턱뼈인 경우, 상기 다수의 표준 의료 영상은 앞니 위치 또는 턱 위치를 고려하여 분류된 시뮬레이션 방법.
- 제1항에 있어서,
상기 치료 전 및 상기 치료 후 임상 영상을 이용하여 치료 전후의 치료 대상 부위의 변화를 표시하는 단계를 더 포함하는 시뮬레이션 방법.
- 제13항에 있어서,
상기 치료 후 임상 영상은 치료 시간에 따라 복수개가 생성되며,
상기 표시하는 단계는 각 치료 후 임상 영상을 이용하여 치료 시간에 따른 치료 대상 부위의 변화를 차례로 표시하는 단계를 더 포함하는 시뮬레이션 방법.
- 치료 대상자의 치료 대상 부위 주변의 연조직에 대한 치료 전 임상 영상과, 치료 대상자 또는 타인의 치료 대상 부위 주변의 경조직에 대한 치료 전 의료 영상을 저장한 메모리; 및
상기 치료 전 임상 영상 및 상기 치료 전 의료 영상을 이용하여 치료 후 임상 영상에 대한 시뮬레이션을 제어하는 제어부;를 포함하며,
상기 제어부는,
상기 메모리에 저장된 임상 영상 및 의료 영상을 정합한 후, 머신 러닝 모델을 이용하여 정합된 치료 전 영상에 따른 상기 치료 후 임상 영상을 생성하며,
상기 치료 후 임상 영상은 경조직에 연동된 연조직에 대한 영상인 시뮬레이션 장치.
- 단말로부터 수신한 임상 영상을 시뮬레이션 처리하는 서버로서,
상기 단말로부터 치료 대상자의 치료 대상 부위 주변의 연조직에 대한 치료 전 임상 영상과, 치료 대상자의 치료 대상 부위 주변의 경조직에 대한 치료 전 의료 영상을 각각 수신하며, 상기 단말로 시뮬레이션 결과인 치료 후 임상 영상을 전송하는 통신부; 및
상기 치료 전 임상 영상 및 상기 치료 전 의료 영상을 이용하여 상기 치료 후 임상 영상에 대한 시뮬레이션을 제어하는 제어부;를 포함하며,
상기 제어부는,
상기 치료 전 임상 영상 및 상기 치료 전 의료 영상을 정합한 후, 머신 러닝 모델을 이용하여 정합된 치료 전 영상에 따른 상기 치료 후 임상 영상을 생성하며,
상기 치료 후 임상 영상은 경조직에 연동된 연조직에 대한 영상인 시뮬레이션 서버.
- 단말로부터 수신한 임상 영상을 시뮬레이션 처리하는 서버로서,
상기 단말로부터 치료 대상자의 치료 대상 부위 주변의 연조직에 대한 치료 전 임상 영상을 수신하며, 상기 단말로 시뮬레이션 결과인 치료 후 임상 영상을 전송하는 통신부;
타인의 치료 대상 부위 주변의 경조직에 대한 치료 전 의료 영상을 저장한 메모리; 및
상기 치료 전 임상 영상 및 상기 치료 전 의료 영상을 이용하여 상기 치료 후 임상 영상에 대한 시뮬레이션을 제어하는 제어부;를 포함하며,
상기 제어부는,
상기 치료 전 임상 영상 및 상기 치료 전 의료 영상을 정합한 후, 머신 러닝 모델을 이용하여 정합된 치료 전 영상에 따른 상기 치료 후 임상 영상을 생성하며,
상기 치료 후 임상 영상은 경조직에 연동된 연조직에 대한 영상인 시뮬레이션 서버.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020200107872A KR102475962B1 (ko) | 2020-08-26 | 2020-08-26 | 임상 영상의 시뮬레이션 방법 및 장치 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020200107872A KR102475962B1 (ko) | 2020-08-26 | 2020-08-26 | 임상 영상의 시뮬레이션 방법 및 장치 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| KR20220026844A true KR20220026844A (ko) | 2022-03-07 |
| KR102475962B1 KR102475962B1 (ko) | 2022-12-09 |
Family
ID=80817774
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020200107872A KR102475962B1 (ko) | 2020-08-26 | 2020-08-26 | 임상 영상의 시뮬레이션 방법 및 장치 |
Country Status (1)
| Country | Link |
|---|---|
| KR (1) | KR102475962B1 (ko) |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| GB2364494A (en) * | 2000-06-30 | 2002-01-23 | Tricorder Technology Plc | Predicting changes in characteristics of an object |
| US20020035458A1 (en) * | 2000-09-20 | 2002-03-21 | Chang-Hun Kim | Method and system for virtual surgery |
| KR101223937B1 (ko) * | 2011-02-22 | 2013-01-21 | 주식회사 모르페우스 | 안면보정 이미지 제공방법 및 그 시스템 |
| KR20180026029A (ko) | 2016-09-01 | 2018-03-12 | 이미선 | 성형 수술 시뮬레이션 방법 |
-
2020
- 2020-08-26 KR KR1020200107872A patent/KR102475962B1/ko active IP Right Grant
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| GB2364494A (en) * | 2000-06-30 | 2002-01-23 | Tricorder Technology Plc | Predicting changes in characteristics of an object |
| US20020035458A1 (en) * | 2000-09-20 | 2002-03-21 | Chang-Hun Kim | Method and system for virtual surgery |
| KR101223937B1 (ko) * | 2011-02-22 | 2013-01-21 | 주식회사 모르페우스 | 안면보정 이미지 제공방법 및 그 시스템 |
| KR20180026029A (ko) | 2016-09-01 | 2018-03-12 | 이미선 | 성형 수술 시뮬레이션 방법 |
Also Published As
| Publication number | Publication date |
|---|---|
| KR102475962B1 (ko) | 2022-12-09 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| KR101840444B1 (ko) | 치과용 3차원 데이터 처리장치 및 그 방법 | |
| US10485614B2 (en) | Augmented reality system and method for implementing augmented reality for dental surgery | |
| KR20190137388A (ko) | 교정 치료 플래닝을 위한 세팔로 영상 처리 방법, 이를 위한 장치, 및 이를 기록한 기록매체 | |
| KR20090124657A (ko) | 얼굴 분석 서비스 제공 방법 및 장치 | |
| KR20210071188A (ko) | 해부학적 랜드마크의 추정장치 및 이의 추정방법 | |
| KR102542016B1 (ko) | 의료 영상의 가명화 방법 및 장치 | |
| KR102322634B1 (ko) | 치아 오브젝트를 이용한 영상 정합 방법 및 장치 | |
| TWI744859B (zh) | 牙齒目標檢測方法及利用牙齒目標的影像整合方法及裝置 | |
| US20240029901A1 (en) | Systems and Methods to generate a personalized medical summary (PMS) from a practitioner-patient conversation. | |
| KR102475962B1 (ko) | 임상 영상의 시뮬레이션 방법 및 장치 | |
| CN116807452A (zh) | 一种脊柱侧弯3d检测方法、系统、设备及介质 | |
| KR20200012707A (ko) | 해부학적 랜드마크의 예측 방법 및 이를 이용한 디바이스 | |
| KR20200084982A (ko) | 위험 인자를 고려한 픽스쳐 자동 식립이 가능한 치과용 임플란트 시술 계획 방법 및 그 장치 | |
| US11488305B2 (en) | Segmentation device | |
| US20230165518A1 (en) | Method and apparatus for predicting missing tooth in oral image | |
| KR20220059908A (ko) | 데이터 처리 장치 및 데이터 처리 방법 | |
| CN116829055A (zh) | 用于生成三维（3d）图像模型的皮肤病学成像系统和方法 | |
| TW202046240A (zh) | 神經檢測方法及裝置 | |
| KR102633419B1 (ko) | 증강현실을 이용한 임플란트 수술 가이드 방법 및 이를 수행하기 위한 장치 | |
| US20230401804A1 (en) | Data processing device and data processing method | |
| KR102177886B1 (ko) | 컴퓨터 단층촬영 영상데이터의 전처리 방법 및 장치 | |
| US20230386141A1 (en) | Method, apparatus and recording medium storing commands for processing scanned images of 3d scanner | |
| KR102596666B1 (ko) | 의료 영상 기반 통합 의료 서비스 제공 시스템 및 방법 | |
| KR102377629B1 (ko) | 환자 이미지를 분석하여 교정 진단 보고서를 생성하는 인공지능 딥러닝 기반 교정 진단 장치 및 그 동작 방법 | |
| Knoops | Physical and statistical shape modelling in craniomaxillofacial surgery: a personalised approach for outcome prediction |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| E90F | Notification of reason for final refusal | ||
| E701 | Decision to grant or registration of patent right | ||
| GRNT | Written decision to grant |