KR20230056004A - 가상 현실 기반의 수술 환경을 제공하는 장치 및 방법 - Google Patents

가상 현실 기반의 수술 환경을 제공하는 장치 및 방법 Download PDF

Info

Publication number
KR20230056004A
KR20230056004A KR1020230043622A KR20230043622A KR20230056004A KR 20230056004 A KR20230056004 A KR 20230056004A KR 1020230043622 A KR1020230043622 A KR 1020230043622A KR 20230043622 A KR20230043622 A KR 20230043622A KR 20230056004 A KR20230056004 A KR 20230056004A
Authority
KR
South Korea
Prior art keywords
surgical tool
surgical
virtual
coordinate values
virtual reality
Prior art date
Application number
KR1020230043622A
Other languages
English (en)
Inventor
박석래
최민국
윤지훈
박보규
Original Assignee
(주)휴톰
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by (주)휴톰 filed Critical (주)휴톰
Priority to KR1020230043622A priority Critical patent/KR20230056004A/ko
Publication of KR20230056004A publication Critical patent/KR20230056004A/ko

Links

Images

Classifications

    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/10—Computer-aided planning, simulation or modelling of surgical operations
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00—Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00—Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36—Image-producing devices or illumination devices not otherwise provided for
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/10—Computer-aided planning, simulation or modelling of surgical operations
    • A61B2034/101—Computer-aided simulation of surgical operations
    • A61B2034/102—Modelling of surgical devices, implants or prosthesis
    • A61B2034/104—Modelling the effect of the tool, e.g. the effect of an implanted prosthesis or for predicting the effect of ablation or burring
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/10—Computer-aided planning, simulation or modelling of surgical operations
    • A61B2034/101—Computer-aided simulation of surgical operations
    • A61B2034/105—Modelling of the patient, e.g. for ligaments or bones
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/10—Computer-aided planning, simulation or modelling of surgical operations
    • A61B2034/107—Visualisation of planned trajectories or target regions
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00—Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36—Image-producing devices or illumination devices not otherwise provided for
    • A61B2090/364—Correlation of different images or relation of image positions in respect to the body
    • A61B2090/365—Correlation of different images or relation of image positions in respect to the body augmented reality, i.e. correlating a live optical image with another image

Landscapes

  • Health & Medical Sciences (AREA)
  • Surgery (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Medical Informatics (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Robotics (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Pathology (AREA)
  • Processing Or Creating Images (AREA)

Abstract

본 발명은 장치에 의해 가상 현실 기반의 수술 환경을 제공하는 방법에 있어서, 제1 인공지능 모델을 기반으로 실제 수술 영상 내의 기 설정된 프레임 마다 상기 실제 수술 영상 내에 포함된 적어도 하나의 실제 수술 도구를 인식하는 단계, 상기 실제 수술 도구 및 가상 현실 기반의 상기 실제 수술 도구에 대응되는 적어도 하나의 가상 수술 도구의 적어도 하나의 동일 부위에 대해 동일점 매칭(Correspondence matching)을 수행하는 단계, 상기 수행된 동일점 매칭 결과에 따라, 상기 가상 수술 도구가 상기 실제 수술 도구의 위치에 대응되도록 보정하는 단계, 상기 보정된 상기 가상 수술 도구의 좌표값을 산출하는 단계, 상기 기 설정된 프레임 마다 상기 가상 수술 도구가 보정되는 위치에 대한 복수의 좌표값을 산출하는 단계 및 상기 산출된 복수의 좌표값 간의 차이를 기반으로 복수의 로그 정보를 생성하는 단계를 포함할 수 있다.

Description

가상 현실 기반의 수술 환경을 제공하는 장치 및 방법{Apparatus and Method for Providing a Surgical Environment based on a Virtual Reality}
본 발명은 가상 현실 기반의 수술 환경을 제공하는 방법에 관한 것으로, 보다 상세하게는 수술 영상에서 수술 도구의 움직임을 파악하여 가상 현실 기반의 수술 환경을 제공하는 장치 및 방법에 관한 것이다.
최근 들어 병원에서 수술하는 경우, 바로 수술을 진행하지 않고, 수술 전 환자의 조건을 3D 시뮬레이션(입체영상)으로 만든 뒤 실제 수술과 동일한 조건 하에 가상으로 수술을 시행할 수 있다.
보다 상세하게는, 가상 모의 수술의 경우, 정밀한 진단을 사전에 세울 수 있다. 그러므로, 전문의의 감에 의존하는 것이 아니라 가상 모의 수술을 통해 계획을 세우고, 아주 작은 오차까지도 줄여 나갈 수 있다.
위와 같은 가상 모의 수술이 가져오는 놀라운 효과는 수술의 정확성이 향상되고, 실제 수술 상황을 예측 가능며, 환자 개인에게 적합한 수술방법이 제공되어 시간을 단축할 수 있다는 것이다.
그러나, 이런 가상 모의 수술의 정확도를 높이기 위해서는 가상 모의 수술을 시행하는 환경에 대한 기본적인 설정이 매우 중요하다. 구체적으로, 가상 모의 수술을 시행할 때 필수적으로 필요한 가상 수술도구에 대한 데이터가 필요하다.
대한민국 공개특허공보 제10-2020-0048830호
상술한 바와 같은 문제점을 해결하기 위한 본 발명은 실제 수술 영상에서의 실제 수술 도구와 동일한 가상 수술 도구를 가상 현실 기반에 생성하여 가상 수술 도구의 로그 정보에 따라 실제 수술 도구의 움직임을 판단하는 것을 그 목적으로 한다.
본 발명이 해결하고자 하는 과제들은 이상에서 언급된 과제로 제한되지 않으며, 언급되지 않은 또 다른 과제들은 아래의 기재로부터 통상의 기술자에게 명확하게 이해될 수 있을 것이다.
상술한 과제를 해결하기 위한 본 발명에 따른 장치에 의해 가상 현실 기반의 수술 환경을 제공하는 방법에 있어서, a) 제1 인공지능 모델을 기반으로 실제 수술 영상 내의 기 설정된 프레임 마다 상기 실제 수술 영상 내에 포함된 적어도 하나의 실제 수술 도구를 인식하는 단계, b) 상기 실제 수술 도구 및 가상 현실 기반의 상기 실제 수술 도구에 대응되는 적어도 하나의 가상 수술 도구의 적어도 하나의 동일 부위에 대해 동일점 매칭(Correspondence matching)을 수행하는 단계, c) 상기 수행된 동일점 매칭 결과에 따라, 상기 가상 수술 도구가 상기 실제 수술 도구의 위치에 대응되도록 보정하는 단계, d) 상기 보정된 상기 가상 수술 도구의 좌표값을 산출하는 단계, e) 상기 a) 내지 d) 단계를 반복 수행하여, 상기 기 설정된 프레임 마다 상기 가상 수술 도구가 보정되는 위치에 대한 복수의 좌표값을 산출하는 단계 및 f) 상기 산출된 복수의 좌표값 간의 차이를 기반으로 복수의 로그 정보를 생성하는 단계를 포함할 수 있다.
여기서, 상기 동일점 매칭 단계는, 상기 실제 수술 도구의 적어도 하나의 부위를 제1 기준점으로 설정하는 단계 및 시멘틱(semantic) 동일점 매칭 기법을 이용하여, 상기 가상 수술 도구에서 상기 실제 수술 도구의 적어도 하나의 부위와 동일한 부위를 제2 기준점으로 설정하는 단계 및 상기 제1 및 제2 기준점을 이용하여 상기 동일점 매칭을 수행하는 단계를 포함할 수 있다.
여기서, 상기 로그 정보 생성 단계는, 상기 복수의 좌표값이 산출될 때마다 이전에 산출된 좌표값과 이후에 산출된 좌표값 간의 차이에 대한 로그 정보를 순차적으로 생성할 수 있다.
또한, 본 발명에 따른 장치에 의해 가상 현실 기반의 수술 환경을 제공하는 방법은 상기 순차적으로 생성된 로그 정보를 누적하여 저장하는 단계를 더 포함할 수 있다.
여기서, 상기 누적 저장 단계는, 상기 순차적으로 생성된 로그 정보 간의 차이가 기 설정된 차이 이상인 경우에만, 현재 생성된 로그 정보를 누적 저장할 수 있다.
또한, 본 발명에 따른 장치에 의해 가상 현실 기반의 수술 환경을 제공하는 방법은 상기 누적 저장된 로그 정보를 기반으로 상기 실제 수술 영상 내의 현재 프레임에서 다음 프레임에 변경되는 실제 수술 도구의 움직임을 예측하는 단계 및 상기 예측된 움직임을 나타내는 시각 효과를 상기 실제 수술 영상 내의 현재 프레임 상의 상기 움직임에 해당하는 위치에 표시하는 단계를 더 포함할 수 있다.
반면에, 상기 실제 수술 영상은, 입체경 카메라를 통해 촬영되어 상기 프레임 마다 상기 실제 수술 객체에 대한 3차원 깊이값을 포함할 수 있다.
이에 따라, 상기 보정 단계는, 상기 보정된 가상 수술 도구의 위치에 해당 3차원 깊이값을 부여하여 상기 가상 수술 도구를 3차원 객체로 렌더링할 수 있다.
또한, 상기 좌표값 산출 단계는, 상기 3차원 깊이값이 부여된 후 상기 보정된 가상 수술 도구의 위치에 해당하는 좌표값 내에 상기 3차원 깊이값을 포함시킬 수 있다.
또한, 상기 로그 정보 생성 단계는, 상기 3차원 깊이값이 포함되어 산출된 복수의 좌표값 간의 차이를 기반으로 상기 3차원 깊이값이 부여된 복수의 로그 정보를 생성할 수 있다.
또한, 상술한 과제를 해결하기 위한 본 발명에 따른 가상 현실 기반의 수술 환경을 제공하는 장치에 있어서, 실제 수술 영상을 획득하는 영상 획득부, 메모리 및 제1 인공지능 모델을 기반으로 실제 수술 영상 내의 기 설정된 프레임 마다 상기 실제 수술 영상 내에 포함된 적어도 하나의 실제 수술 도구를 인식하는 제1 프로세스를 수행하고, 상기 실제 수술 도구 및 가상 현실 기반의 상기 실제 수술 도구에 대응되는 적어도 하나의 가상 수술 도구의 적어도 하나의 동일 부위에 대해 동일점 매칭(Correspondence matching)을 수행하는 제2 프로세스를 수행하고, 상기 수행된 동일점 매칭 결과에 따라, 상기 가상 수술 도구가 상기 실제 수술 도구의 위치에 대응되도록 보정하는 제3 프로세스를 수행하고, 상기 보정된 상기 가상 수술 도구의 좌표값을 산출하는 제4 프로세스를 수행하고, 상기 제1 내지 제4 프로세스를 반복 수행하여, 상기 기 설정된 프레임 마다 상기 가상 수술 도구가 보정되는 위치에 대한 복수의 좌표값을 산출하는 제5 프로세스를 수행하고, 상기 산출된 복수의 좌표값 간의 차이를 기반으로 복수의 로그 정보를 생성하는 제6 프로세스를 수행하는 프로세서를 포함할 수 있다.
이 외에도, 본 발명을 구현하기 위한 다른 방법, 다른 시스템 및 상기 방법을 실행하기 위한 컴퓨터 프로그램을 기록하는 컴퓨터 판독 가능한 기록 매체가 더 제공될 수 있다.
상기와 같은 본 발명에 따르면, 실제 수술 영상에서의 실제 수술 도구와 동일한 가상 수술 도구를 가상 현실 기반에 생성하여 가상 수술 도구의 로그 정보에 따라 실제 수술 도구의 움직임을 판단함으로써 실제 수술 도구의 움직임을 정확하게 파악할 수 있는 효과가 있다.
본 발명의 효과들은 이상에서 언급된 효과로 제한되지 않으며, 언급되지 않은 또 다른 효과들은 아래의 기재로부터 통상의 기술자에게 명확하게 이해될 수 있을 것이다.
도 1은 본 발명에 따른 가상 현실 기반의 수술 환경을 제공하는 장치를 설명하기 위한 도면이다.
도 2는 본 발명에 따른 장치의 프로세서가 실제 수술 영상을 통해 가상 현실 기반의 가상 수술 도구의 좌표값을 산출하는 것을 설명하기 위한 도면이다.
도 3은 본 발명에 따른 장치의 프로세서가 실제 수술 영상을 통해 가상 현실 기반의 가상 수술 도구의 로그 정보를 생성하는 것을 설명하기 위한 도면이다.
도 4는 본 발명에 따른 장치의 프로세서가 깊이값이 적용되는 실제 수술 영상을 통해 가상 현실 기반의 가상 수술 도구의 좌표값을 산출하는 것을 설명하기 위한 도면이다.
도 5는 본 발명에 따른 장치의 프로세서가 깊이값이 적용되는 실제 수술 영상을 통해 가상 현실 기반의 가상 수술 도구의 로그 정보를 생성하는 것을 설명하기 위한 도면이다.
도 6은 본 발명에 따른 장치의 프로세서가 실제 수술 영상에 예측된 움직임을 나타내는 시각 효과를 표시하는 것을 설명하기 위한 도면이다.
도 7은 본 발명에 따른 장치의 프로세서가 가상 현실 기반의 수술 환경을 제공하는 과정을 나타낸 흐름도이다.
도 8은 본 발명에 따른 장치의 프로세서가 동일점 매칭을 수행하는 과정을 나타낸 흐름도이다.
본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나, 본 발명은 이하에서 개시되는 실시예들에 제한되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술 분야의 통상의 기술자에게 본 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다.
본 명세서에서 사용된 용어는 실시예들을 설명하기 위한 것이며 본 발명을 제한하고자 하는 것은 아니다. 본 명세서에서, 단수형은 문구에서 특별히 언급하지 않는 한 복수형도 포함한다. 명세서에서 사용되는 "포함한다(comprises)" 및/또는 "포함하는(comprising)"은 언급된 구성요소 외에 하나 이상의 다른 구성요소의 존재 또는 추가를 배제하지 않는다. 명세서 전체에 걸쳐 동일한 도면 부호는 동일한 구성 요소를 지칭하며, "및/또는"은 언급된 구성요소들의 각각 및 하나 이상의 모든 조합을 포함한다. 비록 "제1", "제2" 등이 다양한 구성요소들을 서술하기 위해서 사용되나, 이들 구성요소들은 이들 용어에 의해 제한되지 않음은 물론이다. 이들 용어들은 단지 하나의 구성요소를 다른 구성요소와 구별하기 위하여 사용하는 것이다. 따라서, 이하에서 언급되는 제1 구성요소는 본 발명의 기술적 사상 내에서 제2 구성요소일 수도 있음은 물론이다.
다른 정의가 없다면, 본 명세서에서 사용되는 모든 용어(기술 및 과학적 용어를 포함)는 본 발명이 속하는 기술분야의 통상의 기술자에게 공통적으로 이해될 수 있는 의미로 사용될 수 있을 것이다. 또한, 일반적으로 사용되는 사전에 정의되어 있는 용어들은 명백하게 특별히 정의되어 있지 않는 한 이상적으로 또는 과도하게 해석되지 않는다.
이하, 첨부된 도면을 참조하여 본 발명을 상세하게 설명한다.
도 1은 본 발명에 따른 가상 현실 기반의 수술 환경을 제공하는 장치(10)를 설명하기 위한 도면이다.
도 2는 본 발명에 따른 장치(10)의 프로세서(130)가 실제 수술 영상을 통해 가상 현실 기반의 가상 수술 도구의 좌표값을 산출하는 것을 설명하기 위한 도면이다.
도 3은 본 발명에 따른 장치(10)의 프로세서(130)가 실제 수술 영상을 통해 가상 현실 기반의 가상 수술 도구의 로그 정보를 생성하는 것을 설명하기 위한 도면이다.
도 4는 본 발명에 따른 장치(10)의 프로세서(130)가 깊이값이 적용되는 실제 수술 영상을 통해 가상 현실 기반의 가상 수술 도구의 좌표값을 산출하는 것을 설명하기 위한 도면이다.
도 5는 본 발명에 따른 장치(10)의 프로세서(130)가 깊이값이 적용되는 실제 수술 영상을 통해 가상 현실 기반의 가상 수술 도구의 로그 정보를 생성하는 것을 설명하기 위한 도면이다.
도 6a 내지 6c는 본 발명에 따른 장치(10)의 프로세서(130)가 실제 수술 영상에 예측된 움직임을 나타내는 시각 효과를 표시하는 것을 설명하기 위한 도면이다.
이하, 도 1 내지 도 6c를 참조하여 본 발명에 따른 가상 현실 기반의 수술 환경을 제공하는 장치(10)에 대해서 설명하도록 한다. 여기서, 장치(10)는 로컬의 컴퓨팅 장치뿐만 아니라 서버장치로도 구현될 수 있다.
장치(10)는 실제 수술 영상에서의 실제 수술 도구와 동일한 가상 수술 도구를 가상 현실 기반에 생성하여 가상 수술 도구의 로그 정보에 따라 실제 수술 도구의 움직임을 판단함으로써 실제 수술 도구의 움직임을 정확하게 파악할 수 있는 효과를 가질 수 있다.
먼저, 도 1을 참조하면, 장치(10)는 영상 획득부(110), 메모리(120) 및 프로세서(130)를 포함한다. 여기서, 장치(10)는 도 1에 도시된 구성요소보다 더 적은 수의 구성요소나 더 많은 구성요소를 포함할 수도 있다.
영상 획득부(110)는 실제 수술 영상을 기 설정된 주기, 실시간 또는 사용자의 입력이 있는 시점에서 외부 장치(미도시)로부터 획득할 수 있다. 또는 영상 획득부(110)는 실제 수술 영상을 메모리(120)를 통해 획득할 수 있다.
여기서, 영상 획득부(110)는 통신모듈(111)을 포함할 수 있다.
통신모듈(111)은 상기 장치(10)와 무선 통신 시스템 사이 또는 상기 장치(10)와 외부 장치(미도시) 사이의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 또한, 상기 통신모듈(111)은 장치(10)를 하나 이상의 네트워크에 연결하는 하나 이상의 모듈을 포함할 수 있다.
메모리(120)는 상기 장치(10)의 다양한 기능을 지원하는 정보를 저장할 수 있다. 메모리(120)는 상기 장치(10)에서 구동되는 다수의 응용 프로그램(application program 또는 애플리케이션(application)), 상기 장치(10)의 동작을 위한 데이터들, 명령어들을 저장할 수 있다. 이러한 응용 프로그램 중 적어도 일부는, 무선 통신을 통해 외부 서버(미도시)로부터 다운로드 될 수 있다. 또한 이러한 응용 프로그램 중 적어도 일부는, 상기 장치(10)의 기본적인 기능을 위하여 존재할 수 있다. 한편, 응용 프로그램은, 메모리(120)에 저장되고, 상기 장치(10) 상에 설치되어, 프로세서(130)에 의하여 상기 장치(10)의 동작(또는 기능)을 수행하도록 구동될 수 있다.
또한, 메모리(120)는 상기 실제 수술 영상 내에 포함된 적어도 하나의 실제 수술 도구를 인식하기 위한 제1 인공지능 모델을 저장할 수 있다. 여기서, 제1 인공지능 모델은 콘볼루션 뉴럴 네트워크(CNN, convolutional neural network) 및 순환 뉴럴 네트워크(recurrent neural network)를 포함할 수 있으나 반드시 이에 한정되지 않고, 다양한 구조의 신경망으로 형성될 수 있다.
이하, 콘볼루션 뉴럴 네트워크는 ‘CCN’이라 명칭하고, 순환 뉴럴 네트워크는 ‘RNN’이라 명칭하겠다.
CNN은 영상의 각 영역에 대해 복수의 필터를 적용하여 특징 지도(Feature Map)를 만들어 내는 콘볼루션 층(Convolution Layer)과 특징 지도를 공간적으로 통합함으로써 위치나 회전의 변화에 불변하는 특징을 추출할 수 있도록 하는 통합층(Pooling Layer)을 번갈아 수차례 반복하는 구조로 형성될 수 있다. 이를 통해, 점, 선, 면 등의 낮은 수준의 특징에서부터 복잡하고 의미 있는 높은 수준의 특징까지 다양한 수준의 특징을 추출해낼 수 있다.
콘볼루션 층은 입력 영상의 각 패치에 대하여 필터와 국지 수용장(Local Receptive Field)의 내적에 비선형 활성 함수(Activation Function)를 취함으로 서 특징지도(Feature Map)를 구할 수 있다. 다른 네트워크 구조와 비교하여, CNN은 희소한 연결성 (Sparse Connectivity)과 공유된 가중치(Shared Weights)를 가진 필터를 사용하는 특징을 가질 수 있다. 이러한 연결구조는 학습할 모수의 개수를 줄여주고, 역전파 알고리즘을 통한 학습을 효율적으로 만들어 결과적으로 예측 성능을 향상시킬 수 있다.
통합 층(Pooling Layer 또는 Sub-sampling Layer)은 이전 콘볼루션 층에서 구해진 특징 지도의 지역 정보를 활용하여 새로운 특징 지도를 생성할 수 있다. 일반적으로 통합 층에 의해 새로 생성된 특징지도는 원래의 특징 지도보다 작은 크기로 줄어드는데, 대표적인 통합 방법으로는 특징 지도 내 해당 영역의 최대값을 선택하는 최대 통합(Max Pooling)과 특징 지도 내 해당 영역의 평균값을 구하는 평균 통합(Average Pooling) 등이 있을 수 있다. 통합 층의 특징지도는 일반적으로 이전 층의 특징 지도보다 입력 영상에 존재하는 임의의 구조나 패턴의 위치에 영향을 적게 받을 수 있다. 즉, 통합층은 입력 영상 혹은 이전 특징 지도에서의 노이즈나 왜곡과 같은 지역적 변화에 보다 강인한 특징을 추출할 수 있게 되고, 이러한 특징은 분류 성능에 중요한 역할을 할 수 있다. 또 다른 통합 층의 역할은, 깊은 구조상에서 상위의 학습 층으로 올라갈수록 더 넓은 영역의 특징을 반영할 수 있게 하는 것으로서, 특징 추출 층이 쌓이면서, 하위 층에서는 지역적인 특징을 반영하고 상위 층으로 올라 갈수록 보다 추상적인 전체 영상의 특징을 반영하는 특징 생성할 수 있다.
이와 같이, 콘볼루션 층과 통합 층의 반복을 통해 최종적으로 추출된 특징은 다중 신경망(MLP: Multi-Layer Perceptron)이나 서포트 벡터 머신(SVM: Support Vector Machine)과 같은 분류 모델이 완전 연결 층(Fully-connected Layer)의 형태로 결합되어 분류 모델 학습 및 예측에 사용될 수 있다.
RNN은 어떤 특정 부분이 반복되는 구조를 통해 순서를 학습하기에 효과적인 딥러닝 기법으로 이전 상태의 상태값이 다음 계산의 입력으로 들어가서 결과에 영향을 미칠 수 있다.
또한, 메모리(120)는 영상 획득부(110)를 통해 획득한 상기 적어도 하나의 실제 수술 영상을 저장할 수 있다. 또는, 메모리(120)는 미리 상기 적어도 하나의 실제 수술 영상을 저장하고 있을 수 있다. 여기서, 상기 실제 수술 영상은 병원의 수술실이나 실험실 환경에서 수술 과정을 촬영한 수술 동영상 내에 포함된 적어도 하나의 실제 수술 도구가 촬영된 동영상일 수 있다.
보다 상세하게는, 메모리(120)는 상기 적어도 하나의 실제 수술 영상 각각을 수술 종류, 수술자 이름, 병원 이름, 환자 상태, 수술 시간 및 수술 환경 등에 매칭하여 저장할 수 있다.
또한, 메모리(120)는 적어도 하나의 실제 수술 영상에 대한 3차원 깊이값을 포함하여 저장하거나 별도로 저장할 수 있다. 보다 상세하게는, 메모리(120)는 입체경 카메라(20)를 통해 촬영된 상기 실제 수술 영상에 대해 상기 프레임 마다 상기 실제 수술 객체에 대한 3차원 깊이값을 포함하여 저장하거나 별도로 저장할 수 있다. 여기서, 프로세서(130)는 상기 입체경 카메라(20)를 통해 촬영된 실제 수술 영상에 대해 멀티뷰 지오메트리(Multiview geometry)를 활용하여 상기 3차원 깊이값(3차원 깊이맵(depth map))을 얻을 수 있다.
또한, 메모리(120)는 프로세서(130)를 통해 기 설정된 프레임 마다 가상 수술 도구가 보정되는 위치에 대한 복수의 좌표값 간의 차이에 따라 생성된 복수의 로그 정보를 누적하여 저장할 수 있다.
프로세서(130)는 상기 응용 프로그램과 관련된 동작 외에도, 통상적으로 상기 장치(10)의 전반적인 동작을 제어할 수 있다. 프로세서(130)는 위에서 살펴본 구성요소들을 통해 입력 또는 출력되는 신호, 데이터, 정보 등을 처리하거나 메모리(130)에 저장된 응용 프로그램을 구동함으로써, 사용자에게 적절한 정보 또는 기능을 제공 또는 처리할 수 있다.
프로세서(130)는 메모리(120)에 저장된 응용 프로그램을 구동하기 위하여, 도 1과 함께 살펴본 구성요소들 중 적어도 일부를 제어할 수 있다. 나아가, 프로세서(130)는 상기 응용 프로그램의 구동을 위하여, 상기 장치(10)에 포함된 구성요소들 중 적어도 둘 이상을 서로 조합하여 동작 시킬 수 있다.
이하, 도 2 내지 6c를 통해 프로세서(130)의 동작에 대해 상세히 후술하도록 한다.
프로세서(130)는 제1 인공지능 모델을 기반으로 실제 수술 영상 내의 기 설정된 프레임 마다 상기 실제 수술 영상 내에 포함된 적어도 하나의 실제 수술 도구를 인식할 수 있다(A 단계).
또는, 프로세서(130)는 제1 인공지능 모델을 기반으로 실제 수술 영상 내의 기 설정된 프레임 마다 상기 실제 수술 영상 내에 포함된 적어도 하나의 실제 수술 도구를 인식할 수 있다(A 단계). 여기서, 상기 실제 수술 영상은, 입체경(Stereoscope) 카메라(20)를 통해 촬영되어 상기 프레임 마다 상기 실제 수술 객체에 대한 3차원 깊이값을 포함할 수 있다. 즉, 상기 실제 수술 영상에 실제 수술 도구, 실제 수술 장기, 실제 수술시 전문의 손 등의 상기 실제 수술 객체에 대한 3차원 깊이값이 포함되거나, 별도로 메모리(120)에 상기 실제 수술 영상과 매칭되어 저장될 수 있다.
여기서, 프로세서(130)는 상기 실제 수술 영상의 전체 프레임인 제1 프레임 내지 제N 프레임에 대해 각각의 하나의 프레임 마다 상기 실제 수술 영상 내에 포함된 적어도 하나의 실제 수술 도구를 인식할 수 있다. 또는, 프로세서(130)는 상기 실제 수술 영상의 전체 프레임인 제1 프레임 내지 제N 프레임에 대해 기 설정된 개수의 프레임 마다 상기 실제 수술 영상 내에 포함된 적어도 하나의 실제 수술 도구를 인식할 수 있다.
일 예로, 프로세서(130)는 제1 인공지능 모델을 기반으로 상기 실제 수술 영상 내의 제1 내지 제N 프레임 마다 상기 실제 수술 영상 내에 포함된 두개의 실제 수술 도구(201)를 인식할 수 있다.
프로세서(130)는 상기 실제 수술 도구 및 가상 현실 기반의 상기 실제 수술 도구에 대응되는 적어도 하나의 가상 수술 도구의 적어도 하나의 동일 부위에 대해 동일점 매칭(Correspondence Matching)을 수행할 수 있다(B 단계). 여기서, 실제 수술 영상의 각각의 프레임과 가상 현실 기반에서 생성되는 각각의 프레임은 일대일로 대응될 수 있다.
보다 상세하게는, 프로세서(130)는 상기 실제 수술 도구의 적어도 하나의 부위를 제1 기준점으로 설정할 수 있다. 여기서, 프로세서(130)는 시멘틱 동일점 매칭(Semantic Correspondence Matching) 기법을 이용하여, 상기 가상 수술 도구에서 상기 실제 수술 도구의 적어도 하나의 부위와 동일한 부위를 제2 기준점으로 설정할 수 있다. 이후, 프로세서(130)는 상기 제1 및 제2 기준점을 이용하여 상기 동일점 매칭을 수행할 수 있다. 여기서, 상기 제1 및 제2 기준점은 적어도 하나의 지점(Point)을 의미할 수 있다.
일 예로, 프로세서(130)는 제1 내지 제N 프레임 마다 상기 실제 수술 도구(201) 및 가상 현실 기반의 두개의 가상 수술 도구(211)의 적어도 하나의 동일 부위(202, 212)에 대해 동일점 매칭(Correspondence Matching)을 수행할 수 있다.
보다 상세하게는, 프로세서(130)는 상기 실제 수술 도구의 특정 부위(202)를 제1 기준점(203)으로 설정할 수 있다. 프로세서(130)는 상기 시멘틱 동일점 매칭 기법을 통해 상기 가상 수술 도구(211)에서 상기 실제 수술 도구(201)의 특정 부위(202)와 동일한 부위(212)를 제2 기준점(213)으로 설정할 수 있다. 프로세서(130)는 상기 제1 기준점(203)과 제2 기준점(213)을 이용하여 상기 동일점 매칭을 수행할 수 있다.
프로세서(130)는 상기 수행된 동일점 매칭 결과에 따라, 상기 가상 수술 도구가 상기 실제 수술 도구의 위치에 대응되도록 보정할 수 있다(C 단계).
일 예로, 도 2를 참조하면, 프로세서(130)는 상기 실제 수술 영상의 제1 프레임에 매칭되는 가상 현실 기반의 제1_1 프레임에서 상기 수행된 동일점 매칭 결과에 따라 상기 가상 수술 도구(211)가 가상 현실 기반에서 디폴트 프레임에 도시된 바와 같이 위치하여 있다가 제1_1 프레임에 도시된 바와 같이 위치하도록 보정할 수 있다. 또한, 프로세서(130)는 상기 실제 수술 영상의 제2 프레임에 매칭되는 가상 현실 기반의 제2_1 프레임에서 상기 수행된 동일점 매칭 결과에 따라 상기 가상 수술 도구(211)가 가상 현실 기반에서 제1_1 프레임에 도시된 바와 같이 위치하여 있다가 제2_1 프레임에 도시된 바와 같이 위치하도록 보정할 수 있다.
다른 예로, 도 4를 참조하면, 프로세서(130)는 상기 보정된 가상 수술 도구의 위치에 해당 3차원 깊이값을 부여하여 상기 가상 수술 도구를 3차원 객체로 렌더링할 수 있다. 그리고, 프로세서(130)는 상기 기 설정된 프레임 마다 상기 3차원 객체로 렌더링된 상기 가상 수술 도구가 보정되는 위치에 대한 복수의 좌표값을 산출할 수 있다. 여기서, 프로세서(130)는 입체경 카메라(20)를 통해 촬영된 깊이맵을 가지는 실제 수술 영상(예컨대, Stereoscope 영상)을 활용한 경우 더욱 정확한 렌더링 결과 획득이 가능한 효과를 가질 수 있다.
프로세서(130)는 상기 보정된 상기 가상 수술 도구의 좌표값을 산출할 수 있다(D 단계).
일 예로, 도 2을 참조하면, 프로세서(130)는 가상 현실 기반의 제1_1 프레임에서 상기 가상 수술 도구의 제1 좌표값(X_v1, Y_v1, Z_v1)을 산출할 수 있다. 또한, 프로세서(130)는 가상 현실 기반의 제2_1 프레임에서 상기 가상 수술 도구의 제2 좌표값(X_v2, Y_v2, Z_v2)을 산출할 수 있다. 또한, 프로세서(130)는 가상 현실 기반의 제N-1_1 프레임에서 상기 가상 수술 도구의 제N-1 좌표값(X_vn-1, Y_vn-1, Z_vn-1)을 산출할 수 있다. 또한, 프로세서(130)는 가상 현실 기반의 제N_1 프레임에서 상기 가상 수술 도구의 제N 좌표값(X_vn, Y_vn, Z_vn)을 산출할 수 있다.
다른 예로, 도 4을 참조하면, 프로세서(130)는 가상 현실 기반의 제1_1 프레임에서 상기 가상 수술 도구의 제1 좌표값(X_v1, Y_v1, Z_v1, D_v1)을 산출할 수 있다. 또한, 프로세서(130)는 가상 현실 기반의 제2_1 프레임에서 상기 가상 수술 도구의 제2 좌표값(X_v2, Y_v2, Z_v2, D_v2)을 산출할 수 있다. 또한, 프로세서(130)는 가상 현실 기반의 제N-1_1 프레임에서 상기 가상 수술 도구의 제N-1 좌표값(X_vn-1, Y_vn-1, Z_vn-1, D_vn-1)을 산출할 수 있다. 또한, 프로세서(130)는 가상 현실 기반의 제N_1 프레임에서 상기 가상 수술 도구의 제N 좌표값(X_vn, Y_vn, Z_vn, D_vn-1)을 산출할 수 있다. 여기서, 프로세서(130)는 가상 현실 기반의 제1_1 내지 제 N_1 프레임에서 상기 가상 수술 도구의 제1 내지 제N 좌표값을 산출할 때 깊이값을 부여함으로써 3차원의 깊이감을 가지는 가상 수술 도구를 표시할 수 있다. 또한, 프로세서(130)는 상기 3차원 깊이값이 부여된 후 상기 보정된 가상 수술 도구의 위치에 해당하는 좌표값 내에 상기 3차원 깊이값을 포함시켜 저장할 수 있다.
즉, 프로세서(130)는 상기 A 내지 D 단계를 반복 수행하여, 상기 기 설정된 프레임 마다 상기 가상 수술 도구가 보정되는 위치에 대한 복수의 좌표값을 산출할 수 있다.
프로세서(130)는 상기 산출된 복수의 좌표값 간의 차이를 기반으로 복수의 로그 정보를 생성할 수 있다.
보다 상세하게는, 프로세서(130)는 상기 복수의 좌표값이 산출될 때마다 이전에 산출된 좌표값과 이후에 산출된 좌표값 간의 차이에 대한 로그 정보를 순차적으로 생성할 수 있다.
일 예로, 도 3을 참조하면, 프로세서(130)는 제1 좌표값(X_v1, Y_v1, Z_v1)과 제2 좌표값(X_v2, Y_v2, Z_v2) 간의 차이에 대한 로그 정보인 제1 로그 정보(X_v2-X_v1, Y_v2-Y_v1, Z_v2-Z_v1)를 생성할 수 있다. 이처럼, 프로세서(130)는 하나의 프레임과 상기 하나의 프레임 바로 뒤 프레임 좌표값 간의 차이에 대한 로그 정보를 순차적으로 계속 생성할 수 있다. 즉, 프로세서(130)는 제N 좌표값(X_vn, Y_vn, Z_vn)과 제N-1 좌표값(X_vn-1, Y_vn-1, Z_vn-1) 간의 차이에 대한 로그 정보인 제N-1 로그 정보(X_vn-X_vn-1, Y_vn-Y_vn-1, Z_vn-Z_vn-1)까지 생성할 수 있다.
다른 예로, 도 5를 참조하면, 프로세서(130)는 제1 좌표값(X_v1, Y_v1, Z_v1, D_v1)과 제2 좌표값(X_v2, Y_v2, Z_v2, D_v2) 간의 차이에 대한 깊이값이 포함되는 로그 정보인 제1 로그 정보(X_v2-X_v1, Y_v2-Y_v1, Z_v2-Z_v1, D_v2-D_v1)를 생성할 수 있다. 이처럼, 프로세서(130)는 하나의 프레임과 상기 하나의 프레임 바로 뒤 프레임 좌표값 간의 차이에 대한 로그 정보를 순차적으로 계속 생성할 수 있다. 즉, 프로세서(130)는 제N 좌표값(X_vn, Y_vn, Z_vn, D_vn)과 제N-1 좌표값(X_vn-1, Y_vn-1, Z_vn-1, D_vn-1) 간의 차이에 대한 깊이값이 포함되는 로그 정보인 제N-1 로그 정보(X_vn-X_vn-1, Y_vn-Y_vn-1, Z_vn-Z_vn-1, D_푸-D_푸-1)까지 생성할 수 있다.
프로세서(130)는 상기 순차적으로 생성된 로그 정보를 상기 메모리(120)에 누적하여 저장할 수 있다.
보다 상세하게는, 프로세서(130)는 상기 순차적으로 생성된 로그 정보 간의 차이가 기 설정된 차이 이상인 경우에만, 현재 생성된 로그 정보를 누적 저장할 수 있다.
즉, 프로세서(130)는 제1 프레임에서 제2 프레임으로 넘어가면서 생성되는 제1 로그정보가 제2 프레임에서 제3 프레임으로 넘어가면서 생성되는 제2 로그정보와 기 설정된 차이 미만인 경우, 그대로 제1 로그정보 한번 더 저장할 수 있다. 반대로, 프로세서(130)는 제7 프레임에서 제8 프레임으로 넘어가면서 생성되는 제7 로그 정보가 기 설정된 차이 이상인 경우, 앞에서 생성되었던 제6 로그 정보를 누적하여 저장하지 않고, 제7 로그 정보를 누적 저장할 수 있다.
프로세서(130)는 상기 누적 저장된 로그 정보를 기반으로 상기 실제 수술 영상 내의 현재 프레임에서 다음 프레임에 변경되는 실제 수술 도구의 움직임을 예측할 수 있다.
프로세서(130)는 상기 예측된 움직임을 나타내는 시각 효과를 상기 실제 수술 영상 내의 현재 프레임 상의 상기 움직임에 해당하는 위치에 표시할 수 있다.
보다 상세하게는, 프로세서(130)는 상기 저장된 실제 수술 영상의 각각의 프레임 상에 상기 예측된 움직임을 나타내는 시각 효과를 상기 실제 수술 도구의 다음 프레임에서의 움직임에 해당하는 위치에 표시할 수 있다.
일 예로, 도 6a를 보면, 프로세서(130)는 상기 실제 수술 영상 내의 제1 프레임에서 제2 프레임에 변경되는 실제 수술 도구(601)의 움직임을 예측하고, 상기 예측된 움직임을 나타내는 화살표 모양의 마커로 제1 시각 효과(602)를 제1 프레임에 상기 움직임에 해당하는 위치에 표시할 수 있다.
다른 예로, 도 6b를 보면, 프로세서(130)는 상기 실제 수술 영상 내의 제1 프레임에서 제2 프레임에 변경되는 실제 수술 도구(601)의 움직임을 예측하고, 상기 예측된 움직임을 나타내는 블링킹(Blinking) 형태로 제1 시각 효과(603)를 제1 프레임에 상기 움직임에 해당하는 위치에 표시할 수 있다.
또 다른 예로, 도 6c를 보면, 프로세서(130)는 상기 실제 수술 영상 내의 제1 프레임에서 제2 프레임에 변경되는 실제 수술 도구(601)의 움직임을 예측하고, 상기 예측된 움직임을 나타내는 반 투명의 실제 수술 도구형태로 제1 시각 효과(604)를 제1 프레임에 상기 움직임에 해당하는 위치에 표시할 수 있다.
따라서, 프로세서(130)는 예측된 실제 수술 도구(601)의 움직임을 상기 실제 수술 영상에 표시함으로 사용자들이 상기 실제 수술 영상을 보면서 수술을 연습할 때 유도 수술을 제공할 수 있어서 확실하고 실질적인 도움을 줄 수 있는 효과가 있다.
프로세서(130)는 상기 로그 정보를 통해 상기 로그 정보가 생성된 상기 실제 수술 영상에 대해 수술 종류를 판단하고, 상기 판단된 수술 종류에 따라 동일한 종류의 로봇을 통한 수술이 시행되는 경우, 상기 로그 정보를 이용하여 상기 로봇을 원격 조정할 수 있다.
프로세서(130)는 상기 로그 정보를 통해 상기 실제 수술 영상에 대한 수술 분석을 수행할 수 있다. 보다 상세하게는, 프로세서(130)는 상기 로그 정보 중 이전에 생성된 로그 정보와 바로 이후에 생성된 로그 정보와의 차이가 기 설정되 차이 이상인 경우, 이벤트 발생인 것으로 판단할 수 있다. 이에 따라, 프로세서(130)는 상기 실제 수술 영상에 대해 구체적인 수술 과정을 판단할 수 있다.
도 7은 본 발명에 따른 장치(10)의 프로세서(130)가 가상 현실 기반의 수술 환경을 제공하는 과정을 나타낸 흐름도이다.
도 8은 본 발명에 따른 장치(10)의 프로세서(130)가 동일점 매칭을 수행하는 과정을 나타낸 흐름도이다.
도 7 내지 도 8에서 프로세서(130)의 동작은 장치(10)에서 수행 가능하다.
프로세서(130)는 실제 수술 영상 내의 프레임 마다 적어도 하나의 실제 수술 도구를 인식할 수 있다(S701).
구체적으로, 프로세서(130)는 제1 인공지능 모델을 기반으로 실제 수술 영상 내의 기 설정된 프레임 마다 상기 실제 수술 영상 내에 포함된 적어도 하나의 실제 수술 도구를 인식할 수 있다.
프로세서(130)는 상기 실제 수술 도구 및 가상 현실 기반의 가상 수술 도구에 대해 동일점 매칭(Correspondence matching)을 수행할 수 있다(S702).
구체적으로, 프로세서(130)는 상기 실제 수술 도구 및 가상 현실 기반의 상기 실제 수술 도구에 대응되는 적어도 하나의 가상 수술 도구의 적어도 하나의 동일 부위에 대해 동일점 매칭(Correspondence matching)을 수행할 수 있다.
단계 S702에 대해, 보다 상세하게는, 도 8을 보면, 프로세서(130)는 상기 실제 수술 도구의 적어도 하나의 부위를 제1 기준점으로 설정할 수 있다(S801).
프로세서(130)는 시멘틱(semantic) 동일점 매칭 기법을 이용하여, 상기 가상 수술 도구에서 상기 실제 수술 도구의 적어도 하나의 부위와 동일한 부위를 제2 기준점으로 설정할 수 있다(S802).
프로세서(130)는 상기 제1 및 제2 기준점을 이용하여 상기 동일점 매칭을 수행할 수 있다(S803).
프로세서(130)는 상기 수행된 동일점 매칭 결과에 따라, 상기 가상 수술 도구가 상기 실제 수술 도구의 위치에 대응되도록 보정할 수 있다(S703).
프로세서(130)는 상기 보정된 상기 가상 수술 도구의 좌표값을 산출할 수 있다(S704).
프로세서(130)는 단계 S701 내지 단계 S704를 반복 수행하여, 상기 기 설정된 프레임 마다 상기 가상 수술 도구가 보정되는 위치에 대한 복수의 좌표값을 산출할 수 있다(S705).
여기서, 프로세서(130)는 상기 실제 수술 영상이 입체경 카메라(20)를 통해 촬영되어 3차원 깊이값을 가지는 경우, 상기 보정된 가상 수술 도구의 위치에 해당 3차원 깊이값을 부여하여 상기 가상 수술 도구를 3차원 객체로 렌더링할 수 있다. 그리고, 프로세서(130)는 상기 기 설정된 프레임 마다 상기 3차원 객체로 렌더링된 상기 가상 수술 도구가 보정되는 위치에 대한 복수의 좌표값을 산출할 수 있다.
프로세서(130)는 상기 산출된 복수의 좌표값 간의 차이를 기반으로 복수의 로그 정보를 생성할 수 있다(S706).
보다 상세하게는, 프로세서(130)는 상기 복수의 좌표값이 산출될 때마다 이전에 산출된 좌표값과 이후에 산출된 좌표값 간의 차이에 대한 로그 정보를 순차적으로 생성할 수 있다.
또는, 프로세서(130)는 상기 3차원 깊이값이 포함되어 산출된 복수의 좌표값 간의 차이를 기반으로 상기 3차원 깊이값이 부여된 복수의 로그 정보를 생성할 수 있다.
프로세서(130)는 상기 순차적으로 생성된 로그 정보를 메모리(120)에 누적하여 저장할 수 있다(S707).
보다 상세하게는, 프로세서(130)는 상기 순차적으로 생성된 로그 정보 간의 차이가 기 설정된 차이 이상인 경우에만, 현재 생성된 로그 정보를 누적 저장할 수 있다.
프로세서(130)는 상기 누적 저장된 로그 정보를 기반으로 상기 실제 수술 영상 내의 현재 프레임에서 다음 프레임에 변경되는 실제 수술 도구의 움직임을 예측할 수 있다(S708).
프로세서(130)는 상기 예측된 움직임을 나타내는 시각 효과를 상기 실제 수술 영상 내의 현재 프레임 상의 상기 움직임에 해당하는 위치에 표시할 수 있다(S709).
도 7 내지 8은 복수의 단계를 순차적으로 실행하는 것으로 기재하고 있으나, 이는 본 실시예의 기술 사상을 예시적으로 설명한 것에 불과한 것으로서, 본 실시예가 속하는 기술분야에서 통상의 지식을 가진 자라면 본 실시예의 본질적인 특성에서 벗어나지 않는 범위에서 도 7 내지 8에 기재된 순서를 변경하여 실행하거나 복수의 단계 중 하나 이상의 단계를 병렬적으로 실행하는 것으로 다양하게 수정 및 변형하여 적용 가능할 것이므로, 도 7 내지 8은 시계열적인 순서로 한정되는 것은 아니다.
이상에서 전술한 본 발명에 따른 방법은, 하드웨어인 서버와 결합되어 실행되기 위해 프로그램(또는 애플리케이션)으로 구현되어 매체에 저장될 수 있다.
상기 전술한 프로그램은, 상기 컴퓨터가 프로그램을 읽어 들여 프로그램으로 구현된 상기 방법들을 실행시키기 위하여, 상기 컴퓨터의 프로세서(CPU)가 상기 컴퓨터의 장치 인터페이스를 통해 읽힐 수 있는 C, C++, JAVA, 기계어 등의 컴퓨터 언어로 코드화된 코드(Code)를 포함할 수 있다. 이러한 코드는 상기 방법들을 실행하는 필요한 기능들을 정의한 함수 등과 관련된 기능적인 코드(Functional Code)를 포함할 수 있고, 상기 기능들을 상기 컴퓨터의 프로세서가 소정의 절차대로 실행시키는데 필요한 실행 절차 관련 제어 코드를 포함할 수 있다. 또한, 이러한 코드는 상기 기능들을 상기 컴퓨터의 프로세서가 실행시키는데 필요한 추가 정보나 미디어가 상기 컴퓨터의 내부 또는 외부 메모리의 어느 위치(주소 번지)에서 참조되어야 하는지에 대한 메모리 참조관련 코드를 더 포함할 수 있다. 또한, 상기 컴퓨터의 프로세서가 상기 기능들을 실행시키기 위하여 원격(Remote)에 있는 어떠한 다른 컴퓨터나 서버 등과 통신이 필요한 경우, 코드는 상기 컴퓨터의 통신 모듈을 이용하여 원격에 있는 어떠한 다른 컴퓨터나 서버 등과 어떻게 통신해야 하는지, 통신 시 어떠한 정보나 미디어를 송수신해야 하는지 등에 대한 통신 관련 코드를 더 포함할 수 있다.
상기 저장되는 매체는, 레지스터, 캐쉬, 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 구체적으로는, 상기 저장되는 매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장장치 등이 있지만, 이에 제한되지 않는다. 즉, 상기 프로그램은 상기 컴퓨터가 접속할 수 있는 다양한 서버 상의 다양한 기록매체 또는 사용자의 상기 컴퓨터상의 다양한 기록매체에 저장될 수 있다. 또한, 상기 매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장될 수 있다.
본 발명의 실시예와 관련하여 설명된 방법 또는 알고리즘의 단계들은 하드웨어로 직접 구현되거나, 하드웨어에 의해 실행되는 소프트웨어 모듈로 구현되거나, 또는 이들의 결합에 의해 구현될 수 있다. 소프트웨어 모듈은 RAM(Random Access Memory), ROM(Read Only Memory), EPROM(Erasable Programmable ROM), EEPROM(Electrically Erasable Programmable ROM), 플래시 메모리(Flash Memory), 하드 디스크, 착탈형 디스크, CD-ROM, 또는 본 발명이 속하는 기술 분야에서 잘 알려진 임의의 형태의 컴퓨터 판독가능 기록매체에 상주할 수도 있다.
이상, 첨부된 도면을 참조로 하여 본 발명의 실시예를 설명하였지만, 본 발명이 속하는 기술분야의 통상의 기술자는 본 발명이 그 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 실시될 수 있다는 것을 이해할 수 있을 것이다. 그러므로, 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며, 제한적이 아닌 것으로 이해해야만 한다.
10: 장치 110: 영상 획득부
120: 메모리 130: 프로세서

Claims (10)

  1. 장치에 의해 가상 현실 기반의 수술 환경을 제공하는 방법에 있어서,
    제1 인공지능 모델을 기반으로 실제 수술 영상 내의 기 설정된 프레임 마다 상기 실제 수술 영상 내에 포함된 적어도 하나의 실제 수술 도구를 인식하는 단계;
    상기 실제 수술 도구 및 가상 현실 기반의 상기 실제 수술 도구에 대응되는 적어도 하나의 가상 수술 도구의 적어도 하나의 동일 부위에 대해 동일점 매칭(Correspondence matching)을 수행하는 단계;
    상기 수행된 동일점 매칭 결과에 따라, 상기 가상 수술 도구가 상기 실제 수술 도구의 위치에 대응되도록 보정하는 단계;
    상기 보정된 상기 가상 수술 도구의 좌표값을 산출하는 단계;
    상기 기 설정된 프레임 마다 상기 가상 수술 도구가 보정되는 위치에 대한 복수의 좌표값을 산출하는 단계; 및
    상기 산출된 복수의 좌표값 간의 차이를 기반으로 복수의 로그 정보를 생성하는 단계; 를 포함하는, 가상 현실 기반의 수술 환경 제공 방법.
  2. 제1항에 있어서,
    상기 동일점 매칭 단계는,
    상기 실제 수술 도구의 적어도 하나의 부위를 제1 기준점으로 설정하는 단계;
    시멘틱(semantic) 동일점 매칭 기법을 이용하여, 상기 가상 수술 도구에서 상기 실제 수술 도구의 적어도 하나의 부위와 동일한 부위를 제2 기준점으로 설정하는 단계; 및
    상기 제1 및 제2 기준점을 이용하여 상기 동일점 매칭을 수행하는 단계; 를 포함하는, 가상 현실 기반의 수술 환경 제공 방법.
  3. 제2항에 있어서,
    상기 로그 정보 생성 단계는,
    상기 복수의 좌표값이 산출될 때마다 이전에 산출된 좌표값과 이후에 산출된 좌표값 간의 차이에 대한 로그 정보를 순차적으로 생성하는, 가상 현실 기반의 수술 환경 제공 방법.
  4. 제3항에 있어서,
    상기 순차적으로 생성된 로그 정보를 누적하여 저장하는 단계; 를 더 포함하는, 가상 현실 기반의 수술 환경 제공 방법.
  5. 제4항에 있어서,
    상기 누적 저장 단계는,
    상기 순차적으로 생성된 로그 정보 간의 차이가 기 설정된 차이 이상인 경우에만, 현재 생성된 로그 정보를 누적 저장하는, 가상 현실 기반의 수술 환경 제공 방법.
  6. 제4항에 있어서,
    상기 누적 저장된 로그 정보를 기반으로 상기 실제 수술 영상 내의 현재 프레임에서 다음 프레임에 변경되는 실제 수술 도구의 움직임을 예측하는 단계; 및
    상기 예측된 움직임을 나타내는 시각 효과를 상기 실제 수술 영상 내의 현재 프레임 상의 상기 움직임에 해당하는 위치에 표시하는 단계; 를 더 포함하는, 가상 현실 기반의 수술 환경 제공 방법.
  7. 제1항에 있어서,
    상기 실제 수술 영상은,
    입체경 카메라를 통해 촬영되어 상기 프레임 마다 상기 실제 수술 객체에 대한 3차원 깊이값을 포함하고,
    상기 보정 단계는,
    상기 보정된 가상 수술 도구의 위치에 해당 3차원 깊이값을 부여하여 상기 가상 수술 도구를 3차원 객체로 렌더링하는, 가상 현실 기반의 수술 환경 제공 방법.
  8. 제7항에 있어서,
    상기 좌표값 산출 단계는,
    상기 3차원 깊이값이 부여된 후 상기 보정된 가상 수술 도구의 위치에 해당하는 좌표값 내에 상기 3차원 깊이값을 포함시키는, 가상 현실 기반의 수술 환경 제공 방법.
  9. 제8항에 있어서,
    상기 로그 정보 생성 단계는,
    상기 3차원 깊이값이 포함되어 산출된 복수의 좌표값 간의 차이를 기반으로 상기 3차원 깊이값이 부여된 복수의 로그 정보를 생성하는, 가상 현실 기반의 수술 환경 제공 방법.
  10. 가상 현실 기반의 수술 환경을 제공하는 장치에 있어서,
    실제 수술 영상을 획득하는 영상 획득부;
    메모리; 및
    제1 인공지능 모델을 기반으로 실제 수술 영상 내의 기 설정된 프레임 마다 상기 실제 수술 영상 내에 포함된 적어도 하나의 실제 수술 도구를 인식하는 제1 프로세스를 수행하고,
    상기 실제 수술 도구 및 가상 현실 기반의 상기 실제 수술 도구에 대응되는 적어도 하나의 가상 수술 도구의 적어도 하나의 동일 부위에 대해 동일점 매칭(Correspondence matching)을 수행하는 제2 프로세스를 수행하고,
    상기 수행된 동일점 매칭 결과에 따라, 상기 가상 수술 도구가 상기 실제 수술 도구의 위치에 대응되도록 보정하는 제3 프로세스를 수행하고,
    상기 보정된 상기 가상 수술 도구의 좌표값을 산출하는 제4 프로세스를 수행하고,
    상기 제1 내지 제4 프로세스를 반복 수행하여, 상기 기 설정된 프레임 마다 상기 가상 수술 도구가 보정되는 위치에 대한 복수의 좌표값을 산출하는 제5 프로세스를 수행하고,
    상기 산출된 복수의 좌표값 간의 차이를 기반으로 복수의 로그 정보를 생성하는 제6 프로세스를 수행하는 프로세서; 를 포함하는, 장치.
KR1020230043622A 2021-02-26 2023-04-03 가상 현실 기반의 수술 환경을 제공하는 장치 및 방법 KR20230056004A (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020230043622A KR20230056004A (ko) 2021-02-26 2023-04-03 가상 현실 기반의 수술 환경을 제공하는 장치 및 방법

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020210026519A KR102519114B1 (ko) 2021-02-26 2021-02-26 가상 현실 기반의 수술 환경을 제공하는 장치 및 방법
KR1020230043622A KR20230056004A (ko) 2021-02-26 2023-04-03 가상 현실 기반의 수술 환경을 제공하는 장치 및 방법

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
KR1020210026519A Division KR102519114B1 (ko) 2021-02-26 2021-02-26 가상 현실 기반의 수술 환경을 제공하는 장치 및 방법

Publications (1)

Publication Number Publication Date
KR20230056004A true KR20230056004A (ko) 2023-04-26

Family

ID=83048306

Family Applications (2)

Application Number Title Priority Date Filing Date
KR1020210026519A KR102519114B1 (ko) 2021-02-26 2021-02-26 가상 현실 기반의 수술 환경을 제공하는 장치 및 방법
KR1020230043622A KR20230056004A (ko) 2021-02-26 2023-04-03 가상 현실 기반의 수술 환경을 제공하는 장치 및 방법

Family Applications Before (1)

Application Number Title Priority Date Filing Date
KR1020210026519A KR102519114B1 (ko) 2021-02-26 2021-02-26 가상 현실 기반의 수술 환경을 제공하는 장치 및 방법

Country Status (2)

Country Link
KR (2) KR102519114B1 (ko)
WO (1) WO2022181919A1 (ko)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117281616B (zh) * 2023-11-09 2024-02-06 武汉真彩智造科技有限公司 一种基于混合现实的手术控制方法及系统

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20200048830A (ko) 2018-10-30 2020-05-08 부산대학교 산학협력단 가상현실 기반의 교육용 백내장 수술 시뮬레이션 시스템

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009045827A2 (en) * 2007-09-30 2009-04-09 Intuitive Surgical, Inc. Methods and systems for tool locating and tool tracking robotic instruments in robotic surgical systems
WO2010105237A2 (en) * 2009-03-12 2010-09-16 Health Research Inc. Method and system for minimally-invasive surgery training
KR20140112207A (ko) * 2013-03-13 2014-09-23 삼성전자주식회사 증강현실 영상 표시 시스템 및 이를 포함하는 수술 로봇 시스템
KR102169811B1 (ko) * 2018-05-15 2020-10-26 주식회사 삼육오엠씨네트웍스 복강경 수술 시뮬레이션 장치
KR102008891B1 (ko) * 2018-05-29 2019-10-23 (주)휴톰 수술보조 영상 표시방법, 프로그램 및 수술보조 영상 표시장치

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20200048830A (ko) 2018-10-30 2020-05-08 부산대학교 산학협력단 가상현실 기반의 교육용 백내장 수술 시뮬레이션 시스템

Also Published As

Publication number Publication date
WO2022181919A1 (ko) 2022-09-01
KR20220122862A (ko) 2022-09-05
KR102519114B1 (ko) 2023-04-07

Similar Documents

Publication Publication Date Title
KR102014377B1 (ko) 학습 기반 수술동작 인식 방법 및 장치
US11928893B2 (en) Action recognition method and apparatus, computer storage medium, and computer device
KR20200087780A (ko) 뉴럴 네트워크들에 대한 멀티-태스크 학습을 위한 메타-학습
CN111222486B (zh) 手部姿态识别模型的训练方法、装置、设备及存储介质
CN111027407B (zh) 针对遮挡情况的彩色图像手部姿态估计方法
KR101955919B1 (ko) 딥러닝 기반의 영상데이터 내 관심영역 설정방법 및 프로그램
CN114781272A (zh) 碳排放量预测方法、装置、设备及存储介质
CN111783997B (zh) 一种数据处理方法、装置及设备
CN107553496A (zh) 机械臂逆运动学求解方法误差的确定及校正方法和装置
KR20230056004A (ko) 가상 현실 기반의 수술 환경을 제공하는 장치 및 방법
WO2018156087A1 (en) Finite-element analysis augmented reality system and method
CN113192175A (zh) 模型训练方法、装置、计算机设备和可读存储介质
CN109685805A (zh) 一种图像分割方法及装置
CN115457492A (zh) 目标检测方法、装置、计算机设备及存储介质
WO2022169681A1 (en) Learning orthogonal factorization in gan latent space
CN113592932A (zh) 深度补全网络的训练方法、装置、电子设备及存储介质
KR102260882B1 (ko) 순차적인 이미지 기반의 상호작용력 측정 방법 및 장치
CN116665274A (zh) 人脸驱动方法和装置
US20220273393A1 (en) Apparatus and method for providing surgical environment based on a virtual reality
US20210056247A1 (en) Pose detection of objects from image data
CN117252914A (zh) 深度估计网络的训练方法、装置、电子设备及存储介质
CN115575931A (zh) 标定方法、装置、电子设备及存储介质
CN115357500A (zh) 自动驾驶系统的测试方法、装置、设备和介质
CN114898447A (zh) 一种基于自注意力机制的个性化注视点检测方法及装置
CN111582208A (zh) 用于生成生物体姿态关键点信息的方法和装置

Legal Events

Date Code Title Description
A107 Divisional application of patent