KR20190015903A

KR20190015903A - 3차원 카메라와 헤드 마운트 디스플레이를 이용한 수술 녹화 및 중계 시스템

Info

Publication number: KR20190015903A
Application number: KR1020170099688A
Authority: KR
Inventors: 이태휘
Original assignee: 주식회사 엠투에스
Priority date: 2017-08-07
Filing date: 2017-08-07
Publication date: 2019-02-15

Abstract

본 발명의 실시예에 따른 3차원 카메라와 헤드 마운트 디스플레이를 이용한 수술 녹화 및 중계 시스템은, 수술실에 설치되는 복수의 카메라; 상기 복수의 카메라로부터의 복수의 영상 데이터를 수신하는 녹화 및 중계 컴퓨팅 디바이스; 및 자신의 위치 정보에 기초하여 상기 복수의 영상 데이터 중 적어도 하나를 수신하여 표시하고 의료진이 착용하는 헤드 마운트 디스플레이;를 포함하는 3차원 카메라와 헤드 마운트 디스플레이를 이용한 수술 녹화 및 중계 시스템을 제공할 수 있다.

Description

3차원 카메라와 헤드 마운트 디스플레이를 이용한 수술 녹화 및 중계 시스템{Medical RECORDING AND gateway system using head mount display device and Three Dimension CAMERA}

본 발명은 3차원 카메라와 헤드 마운트 디스플레이를 이용한 수술 녹화 및 중계 시스템에 관한 것이다. 상세하게는, 의료진이 착용한 헤드 마운트 디스플레이 장치의 위치 정보에 기초하여 환부 크로즈업 카메라, 집도의 시점 카메라 및 조망용 카메라로부터 촬영된 영상이 의료진이 착용한 헤드 마운트 디스플레이 장치, 수술실 내의 디스플레이 장치 및 수술실 외부의 디스플레이 장치 중 적어도 하나에 자동으로 및/또는 선택적으로 원하는 영상이 표시될 수 있도록 한 시스템에 관한 것이다.

최근 멀티미디어에 관한 기술이 급진적으로 발전하여 다양한 분야에 활용됨에 따라, 의료 분야에서도 환자들에 대한 수술 장면을 동영상으로 제작하여 의사들이 의학 관련 학회에서 발표하거나 다른 용도로 활용할 수 있도록 하는 기술이 개발되고 있다. 이러한 기술의 구현을 위하여 일반적으로는 아날로그 비디오카메라 및 VHS(VideoHome System) 또는 S-VHS(Super-VHS) 방식의 비디오테이프 레코더(Video Tape Recorder)를 사용하여, 수동적으로 수술 장면을 촬영하는 방식을 사용한다. 그러나 수많은 수술이 이루어지는 병원에서 이러한 방식으로 각 수술 영상을 녹화하여 테이프 또는 메모리 형태로 저장하는 경우 저장 공간에 한계가 있을 뿐만 아니라, 저장 후 동영상을 편집할 때 많은 시간이 소모되고, 편집 과정에서 녹화와 재생을 여러 번 반복하게 됨으로써 동영상의 화질이 떨어질 수 있다. 또한 많은 양의 동영상을 관리하기 위해서는 상당한 인력과 비용이 지출되어야 한다는 문제점이 있다. 그리고 촬영 영상을 수술실 내에 마련된 디스플레이 장치를 통해 표시하는 경우, 의료진이 필요에 따라 디스플레이 장치를 관찰해야 하므로 환부를 관찰하는데 있어서 집중도가 떨어질 수 있고, 실시간으로 영상을 확인하는데 어려움이 있다. 즉, 이러한 방식을 사용하면 수술실에서 수술을 집도하는 집도의나 간호사 또는 조수 외에는 수술 과정을 실시간으로 확인할 수 없는 문제가 있다.

본 발명은 집도의의 시선으로 바라보는 수술 장면 외에도, 수술실 전체 영상과 환부를 크로즈업한 영상을 직관적으로 변경하고 실시간으로 관찰할 수 있는 시스템을 제공한다.

또한, 본 발명은 외과 수련의 들은 보통 수술실에 보조의사로 참여하며 수술을 배우지만 집도의로서의 시선을 확보하기는 어렵고 수술시 여러가지 보조업무로 인해 신경이 분산될 수 밖에 없는 한계를 해결한다.

또한, 본 발명은 수술실 내의 다양한 장소에서 촬영/ 다양한 각도에서의 촬영 영상을 녹화하고, 녹화된 영상을 이용하여 교육 콘텐츠로도 활용할 수 있도록 하는 시스템을 제공하는 것을 목적으로 한다.

본 발명의 실시예에 따른 3차원 카메라와 헤드 마운트 디스플레이를 이용한 수술 녹화 및 중계 시스템은, 수술실에 설치되는 복수의 카메라; 상기 복수의 카메라로부터의 복수의 영상 데이터를 수신하는 녹화 및 중계 컴퓨팅 디바이스; 및 자신의 위치 정보에 기초하여 상기 복수의 영상 데이터 중 적어도 하나를 수신하여 표시하고 의료진이 착용하는 헤드 마운트 디스플레이;를 포함하는 헤드 마운트 디스플레이 장치를 이용한 3차원 카메라와 헤드 마운트 디스플레이를 이용한 수술 녹화 및 중계 시스템을 제공할 수 있다.

다른 측면에서, 상기 복수의 카메라는 수술실 내에 설치되는 환자의 환부를 촬영하는 제1 카메라; 집도의 시점에 대응하는 영역을 촬영하는 제2 카메라; 및 수술실 내부를 촬영하는 제3 카메라;를 포함하는 헤드 마운트 디스플레이 장치를 이용한 3차원 카메라와 헤드 마운트 디스플레이를 이용한 수술 녹화 및 중계 시스템을 제공할 수도 있다.

또 다른 측면에서, 상기 제1 카메라는 상기 환부를 크로즈업한 영상 데이터를 생성하는 헤드 마운트 디스플레이 장치를 이용한 3차원 카메라와 헤드 마운트 디스플레이를 이용한 수술 녹화 및 중계 시스템을 제공할 수도 있다.

또 다른 측면에서, 상기 헤드 마운트 디스플레이 장치는, 자신의 기울기 정보에 기초하여 상기 복수의 영상 데이터 중 어느 하나의 영상 데이터를 상기 녹화 및 중계 컴퓨팅 디바이스로부터 수신하여 표시하는 헤드 마운트 디스플레이 장치를 이용한 3차원 카메라와 헤드 마운트 디스플레이를 이용한 수술 녹화 및 중계 시스템을 제공할 수도 있다.

또 다른 측면에서, 상기 자신의 기울기 정보는 상기 의료진의 고개를 숙인 정도에 기초하여 결정되는 헤드 마운트 디스플레이 장치를 이용한 3차원 카메라와 헤드 마운트 디스플레이를 이용한 수술 녹화 및 중계 시스템을 제공할 수도 있다.

또 다른 측면에서, 상기 헤드 마운트 디스플레이 장치는 측정된 헤드 마운트 디스플레이 장치의 기울기의 변화에 대응하여 서로 다른 영상을 표시하는 헤드 마운트 디스플레이 장치를 이용한 3차원 카메라와 헤드 마운트 디스플레이를 이용한 수술 녹화 및 중계 시스템을 제공할 수도 있다.

또 다른 측면에서, 상기 녹화 및 중계 컴퓨팅 디바이스는, 상기 복수의 영상 데이터를 상기 수술실 외부에 위치한 외부 서버로 전송하는 헤드 마운트 디스플레이 장치를 이용한 3차원 카메라와 헤드 마운트 디스플레이를 이용한 수술 녹화 및 중계 시스템을 제공할 수도 있다.

본 발명의 실시예는 집도의의 시선으로 바라보는 수술 장면 외에도, 수술실 전체 영상과 환부를 크로즈업한 영상을 실시간으로 관찰할 수 있도록 한다.

또한, 본 발명은 HMD의 기울기 컨트롤로 HMD에서 표시되는 영상을 쉽게 변경할 수 있어 의료진 간 실시간 원격 컨설팅 혹은 라이브 중계가 가능하도록 한다.

또한, 본 발명의 실시예는 HMD를 이용하여 학생이 수술 현장 밖에서도 수술 과정을 자세히 지켜볼 수 있고 수술실 상황도 실감나게 전달되며, 수술 실습 기회가 적은 개발도상국 의대생들에게 선진국의 수술실 가상 체험이 가능하도록 할 수 있다.

도 1은 예시적 실시예에 따르는 웨어러블 컴퓨팅 시스템을 도시한다.
도 2는 카메라와 녹화 및 중계 컴퓨팅 디바이스의 예시적인 블록도이다.
도 3는 본 발명이 수술실에서 적용되는 경우를 나타낸다.
도 4는 카메라와 녹화 및 중계 컴퓨팅 디바이스 그리고 HMD의 예시적인 블록 다이어그램이다.
도 5는 도 4에서 수술실에서 카메라의 촬영 영역을 추가로 도시한 것이다.
도 6은 HMD에서 표시되는 조망용 카메라에서 촬영된 영상에 대한 일 예시도이다.
도 7은 HMD에서 표시되는 집도의 시점 카메라에서 촬영된 영상과 환부 크로즈업 카메라에서 촬영된 영상에 대한 예시도이다.
도 8은 집도의가 착용한 HMD의 위치에 따라 HMD에 표시되는 영상을 결정되는 일 예시도이다.
도 9는 수술실 외부의 학습자가 녹화 및 중계 컴퓨팅 디바이스로부터 수신한 영상을 시청하는 일 예시도이다.

본 발명은 다양한 변환을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세한 설명에 상세하게 설명하고자 한다. 본 발명의 효과 및 특징, 그리고 그것들을 달성하는 방법은 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나 본 발명은 이하에서 개시되는 실시예들에 한정되는 것이 아니라 다양한 형태로 구현될 수 있다. 이하의 실시예에서, 제1, 제2 등의 용어는 한정적인 의미가 아니라 하나의 구성 요소를 다른 구성 요소와 구별하는 목적으로 사용되었다. 또한, 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 또한, 포함하다 또는 가지다 등의 용어는 명세서상에 기재된 특징, 또는 구성요소가 존재함을 의미하는 것이고, 하나 이상의 다른 특징들 또는 구성요소가 부가될 가능성을 미리 배제하는 것은 아니다. 또한, 도면에서는 설명의 편의를 위하여 구성 요소들이 그 크기가 과장 또는 축소될 수 있다. 예컨대, 도면에서 나타난 각 구성의 크기 및 두께는 설명의 편의를 위해 임의로 나타내었으므로, 본 발명이 반드시 도시된 바에 한정되지 않는다.

이하, 첨부된 도면을 참조하여 본 발명의 실시예들을 상세히 설명하기로 하며, 도면을 참조하여 설명할 때 동일하거나 대응하는 구성 요소는 동일한 도면부호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다.

도 1은 예시적 실시예에 따르는 웨어러블 컴퓨팅 시스템을 도시한다. 그리고 도 2는 카메라와 녹화 및 중계 컴퓨팅 디바이스의 예시적인 블록도이다.

본 발명(10)을 구성하는 일부 실시예인 웨어러블 디바이스(100)에 대해 상술한다.

구현될 예시적 실시예들에서의 시스템들 및 디바이스들은 이제 더 상세하게 기술될 것이다. 일반적으로, 예시적 시스템은 웨어러블 컴퓨터로 구현되거나 또는 웨어러블 컴퓨터(또한 웨어러블 컴퓨팅 디바이스(wearable computing device)로 지칭되는)의 형태를 취한다. 예시적 실시예에서 웨어러블 컴퓨터는 헤드 마운터블 디스플레이(head-mountable display, HMD)의 형태를 취하거나 또는 HMD를 포함하며, 이는 또한 헤드-마운트 디바이스(head-mounted device)로 지칭된다.

또한 예시적 시스템은 다른 가능성들 사이에서 모바일 폰과 같은 다른 디바이스들에서 구현되거나 또는 다른 디바이스들의 형태를 취할 수 있다. 게다가, 예시적 시스템은 본 명세서에 기술된 기능을 제공하기 위해 프로세서에서 실행가능한 프로그램 명령어들이 저장된 비일시적 컴퓨터 판독가능 매체의 형태를 취할 수 있다. 또한 예시적 시스템은 웨어러블 컴퓨터 또는 모바일 폰과 같은 디바이스 또는 상기 디바이스의 서브시스템의 형태를 취할 수 있으며, 상기 프로그램 명령어들이 그에 저장된 상기 비일시적 컴퓨터 판독가능 매체를 포함한다.

일반적으로 HMD는 머리에 착용될 수 있고 착용자의 한쪽 또는 양쪽 눈들의 앞에 디스플레이를 둘 수 있는 임의의 디바이스일 수 있다. HMD는 헬멧 또는 안경(eyeglasses)과 같은 다양한 형태들을 취할 수 있다. 이와 같이,“안경” 또는 “안경-스타일” HMD에 대한 참조는 머리에 착용할 수 있도록 안경 같은 프레임을 갖는 HMD를 지칭하는 것으로 이해되어야 한다. 게다가, 예시적 실시예들은 각각 “단안의(monocular)” HMD 또는 “양안의(binocular)” HMD로 지칭되는 단일의 디스플레이를 구비한 또는 두 개의 디스플레이들을 구비한 HMD에 의해 구현되거나 또는 그와 관련하여 구현된다.

도 1에서, 웨어러블 컴퓨팅 시스템은 헤드-마운터블 디바이스(HMD)(100)의 형태를 취한다. 그러나 예시적 시스템들 및 디바이스들은 다른 타입들의 디바이스들의 형태를 취하거나 다른 타입들의 디바이스로 구현되거나 그와 관련되어 구현될 수 있다. 도 1에서 도시된 바와 같이, HMD(100)는 렌즈-프레임들 및 중앙 프레임 지지부를 포함하는 프레임 구성요소들을 포함한다. 중앙 프레임 지지부 및 연장 측부 암들(extending side-arms)은 각각 사용자의 코 및 귀들을 통해 HMD(100)를 사용자의 얼굴에 고정하도록 구성된다.

각각의 프레임 구성요소들 및 연장 측부 암들은 플라스틱 및/또는 금속의 단단한 구조(solid structure)로 형성되거나, 또는 배선 및 컴포넌트가 HMD(100)를 통해 내부적으로 라우팅되기 위해 상호연결되도록 유사한 물질의 속이 빈 구조(hollow structure)로 형성될 수 있다.

각각의 렌즈 구성요소들의 하나 이상은 투사된(projected) 이미지 또는 그래픽을 적절하게 디스플레 이할 수 있는 임의의 물질로 형성된다. 또한 렌즈 구성요소들의 각각은 사용자가 렌즈 구성요소를 통해 볼 수 있도록 충분히 투명할 수 있으나 이에 한정하는 것은 아니다. 렌즈 구성요소들의 이들 두 특징들을 조합하는 것은 렌즈 구성요소들을 통해 사용자에 의해 인지되는 것과 같이 투사된 이미지 또는 그래픽이 실제 뷰(real-world view) 상에 겹쳐지는 증강 현실 또는 헤드업 디스플레이를 용이하게 한다.

HMD(100)는 센서(110)를 포함할 수 있다. 도시적인 목적으로, 단지 하나의 센서(110)만 도시되었다. 그러나, 예시적 실시예에서, HMD(100)는 복수의 센서들들 포함할 수 있다. 예를 들면, HMD(100)는 하나 이상의 자이로스코프들(gyroscopes), 하나 이상의 가속도계들(accelerometers), 하나 이상의 자력계들(magnetometers), 하나 이상의 광센서들(light sensors), 하나 이상의 적외선 센서들(infrared sensors) 및/또는 하나 이상의 마이크들(microphones)과 같은 센서들(100)을 포함할 수 있다. 다른 감지(sensing) 디바이스들이 본 명세서에서 구체적으로 확인된 센서에 추가하여 또는 대안적으로 포함될 수 있다.

추가적 양태에서, HMD(100)는 손가락으로 작동가능한 터치 패드를 통해 수신되는 사용자 입력에 더하여 또는 대안적으로 사용자 입력을 다양한 방식들로 수신하도록 구성될 수 있다. 예를 들면, 온-보드 컴퓨팅 시스템은 스피치-투-텍스트(speech-to-text) 프로세스를 구현하고 특정 음성 명령들을 특정 액션들에 맵핑하는 신택스(syntax)를 활용한다. 이에 더하여, HMD(100)는 하나 이상의 마이크들을 포함하며, 이를 통해 착용자의 음성을 캡처할 수 있다. 상기와 같이 구성된 HMD(100)는 음성 명령들을 탐지하고 음성 명령들에 대응하는 다양한 컴퓨팅 기능들을 수행하도록 작동한다.

다른 예시로서, HMD(100)는 특정 머리-움직임들을 사용자 입력으로 해석한다. 예를 들면, HMD(100)를 착용하였을 때, HMD(100)는 머리 움직임을 탐지하도록 하나 이상의 자이로스코프들 및/또는 하나 이상의 가속도계들을 사용한다. 그 후 HMD(100)는 끄덕이기, 위, 아래, 왼쪽 또는 오른쪽을 쳐다보기와 같은 특정 머리-움직임들을 사용자 입력인 것으로 해석한다. 또한 HMD(100)는 디스플레이에서 그래픽들을 통하여 움직임에 따라 패닝(pan) 또는 스크롤(scroll)할 수 있다. 또한 다른 타입들의 액션들도 머리 움직임에 맵핑될 수 있다.

또 다른 예시로서, 특정 제스처들(예를 들면, 착용자의 손 또는 손들에 의한)을 사용자 입력으로 해석한다. 예를 들면, HMD(100)는 이미지 캡처 디바이스로부터 이미지 데이터를 분석하는 것에 의해 손 움직임들을 캡처하고, 특정 손 움직임들에 대응하는 것으로 정의된 액션들을 개시(initiate)할 수 있다.

추가적 예시로서, HMD(100)는 눈 움직임을 사용자 입력으로 해석한다. 특히, HMD(100)는 눈 움직임들을 추적하고 착용자의 주시(gaze) 방향을 결정하는데 사용되는 하나 이상의 내부-방향(inward-facing) 이미지 캡처 디바이스들 및/또는 하나 이상의 다른 내부-방향 센서들(도시되지 않음)을 포함할 수 있다. 이와 같이, 특정 눈 움직임들 은 특정 액션들에 맵핑된다. 예를 들면, 특정 액션들은 특정 방향, 깜박임 및/또는 윙크, 다른 가능성들 사이에서 눈의 움직임에 대응하는 것으로 정의된다.

또한, HMD(100)는 오디오 출력을 생성하기 위한 스피커를 포함할 수 있다. 한 예시에서, 스피커는 골 전도 진동자(bone conduction transducer, BCT)로 또한 지칭되는 골 전도 스피커의 형태일 수 있다. 예를 들면, 스피커는 전기적 오디오 신호 입력에 대응하는 소리를 생산하는 진동 변환기(vibration transducer) 또는 전기음향 변환기(electroacoustiec transducer)이다. HMD(100)의 프레임은 사용자가 HMD(100)를 착용한 때, 스피커가 착용자에게 접촉하도록 디자인된다. 대안적으로, 스피커는 HMD(100)의 프레임 내에 내장(embedded)되고, HMD(100)를 착용하였을 때 스피커가 착용자에 접촉하는 프레임의 부분을 진동하도록 위치될 수 있다. 어느 경우에나, HMD(100)는 오디오 신호를 스피커에 보내도록 구성되며, 따라서 스피커의 진동이 직접적으로 또는 간접적으로 착용자의 골 구조에 전달된다. 골 구조를 통하여 착용자의 중이(middle ear)에서 골들에 진동이 이동할 때, 착용자는 BCT에 의해 제공되는 상기 진동들을 소리들로 해석한다.

도 2를 참조하여, 본 발명(10)의 또 다른 일부 실시예인 녹화 및 중계 컴퓨팅 디바이스(200)와 카메라(300)를 상술한다.

녹화 및 중계 컴퓨팅 디바이스(200)는 데스크톱 컴퓨터들, 노트북 (즉, 랩톱) 컴퓨터들, 태블릿 컴퓨터들, 셋톱 박스들, 이른바 "스마트" 폰들과 같은 전화기 핸드셋들, 이른바 "스마트" 패드들, 텔레비전들, 카메라들, 디스플레이 디바이스들, 디지털 미디어 플레이어들, 비디오 게이밍 콘솔들, 비디오 스트리밍 디바이스 등을 포함한 매우 다양한 디바이스들 중 임의의 것을 포함할 수도 있다.

HMD(100)와 녹화 및 중계 컴퓨팅 디바이스(200) 그리고 카메라(300)들 각각은 유선 및/또는 무선 통신을 위한 구성이 갖추어질 수 있다.

녹화 및 중계 컴퓨팅 디바이스(200)는 영상 처리된 영상 데이터를 카메라(300)를 통해 수신할 수 있다.

카메라(300)는 영상 데이터를 녹화 및 중계 컴퓨팅 디바이스(200)로 직접 실시간으로 송신하는 것을 가능하게 하는 통신 매체, 이를 테면 송신 채널을 포함한다.

영상 처리된 영상 데이터는 통신 표준, 이를테면 무선 통신 프로토콜에 따라 변조되고 녹화 및 중계 컴퓨팅 디바이스(200)로 송신될 수도 있다. 통신 매체는 임의의 무선 또는 유선 통신 매체, 이를테면 라디오 주파수 스펙트럼 또는 하나 이상의 물리적 송신 라인들을 포함할 수도 있다. 통신 매체는 패킷 기반 네트워크, 이를테면 로컬 영역 네트워크, 광역 네트워크, 또는 인터넷과 같은 글로벌 네트워크의 부분을 형성할 수도 있다. 통신 매체는 라우터들, 스위치들, 기지국들, 또는 카메라(300)로부터 녹화 및 중계 컴퓨팅 디바이스(200)로의 통신을 용이하게 하는데 유용할 수도 있는 임의의 다른 장비를 포함할 수도 있다. 몇몇 예들에서 영상 처리된 영상 데이터가 출력 인터페이스(303)로부터 컴퓨터 판독 가능 저장 매체, 이를 테면 비일시적(non-transitory) 컴퓨터 판독가능 저장 매체, 즉, 데이터 저장 디바이스로 출력될 수도 있다. 마찬가지로 영상 데이터는 녹화 및 중계 컴퓨팅 디바이스(200)의 입력 인터페이스(203)에 의해 저장 디바이스로부터 엑세스될 수도 있다. 저장 디바이스는 하드 드라이브, 블루-레이 디스크들, DVD들, CD-ROM들, 플래시 메모리, 휘발성 또는 비휘발성 메모리, 또는 영상 데이터를 저장하기 위한 임의의 다른 적합한 디지털 저장 매체들과 같은 다양한 분산형 또는 국부적으로 액세스되는 비일시적 데이터 저장 매체들 중 임의의 것을 포함할 수도 있다. 추가의 예에서, 저장 디바이스는 카메라(300)에 의해 생성된 영상 데이터를 저장할 수도 있는 파일 서버 또는 다른 중간 저장 디바이스에 해당할 수도 있다. 중계 그리고 컴퓨팅 디바이스(200)는 저장 디바이스로부터의 저장된 영상 데이터에 스트리밍 또는 다운로드를 통해 액세스할 수도 있다.

카메라(300)는 영상 소스(301) 및 영상처리부(302)를 포함할 수 있다. 또한, 카메라(300)는 출력 인터페이스(303)를 더 포함할 수 있다. 그리고 영상 소스(301)는 카메라(300)가 촬영한 영상 데이터가 저장되는 공간일 수 있다.

녹화 및 중계 컴퓨팅 디바이스(200)는 입력 인터페이스(203) 및 데이터처리부(203)를 포함할 수 있다. 또한, 녹화 및 중계 컴퓨팅 디바이스(200)는 디스플레이 디바이스(201)를 더 포함할 수 있다.

다른 예에서 녹화 및 중계 컴퓨팅 디바이스(200) 그리고 카메라(300)는 다른 컴포넌트들을 포함할 수 있다.

예를 들어, 녹화 및 중계 컴퓨팅 디바이스(200)는 통합형 디스플레이 디바이스(2001)를 구비하기 보다는 외부 디스플레이 디바이스와 인터페이싱할 수도 있다.

녹화 및 중계 컴퓨팅 디바이스(200) 그리고 카메라(300) 각각은 하나 이상의 메모리와 하나 이상의 마이크로프로세서들, 디지털 신호 프로세서들 (DSP들), 주문형 집적회로들 (ASIC들), 필드 프로그램가능 게이트 어레이들 (FPGA들), 개별 로직 회로, 소프트웨어, 하드웨어, 펌웨어 또는 그것들의 임의의 조합과 같은 다양한 형태로 구성될 수 있다.

메모리는 컴퓨터 판독가능 명령들 또는 프로세서 판독가능 명령들과 같은 명령들(예를 들어, 실행가능 명령들)을 포함한다. 명령들은 하나 이상의 프로세서들 각각에 의해서와 같이 컴퓨터에 의해 실행가능한 하나 이상의 명령어들을 포함할 수도 있다.

도 3는 본 발명이 수술실에서 적용되는 경우를 나타낸다. 그리고 도 4는 카메라와 녹화 및 중계 컴퓨팅 디바이스 그리고 HMD의 예시적인 블록 다이어그램이다.

도 3에는 예시적으로, 수술실(20)에는 환자(1)와 환자(1) 대한 수술을 주도하는 집도의(2) 및 그 밖의 의료진(3)과 각종 의료 장비가 도시되어 있다.

수술실(20)에는 카메라(300)가 설치될 수 있다.

상세하게, 카메라(300)는 적어도 하나의 3차원 카메라를 포함할 수 있다.

3차원 카메라는 360도 전방위 영역을 촬영할 수 있는 카메라가 될 수 있다. 또한 3차원 카메라의 촬영 각도는 녹화 및 중계 컴퓨팅 디바이스의 제어 하에 조정되거나, 미리 설정된 알고리즘에 따라 자동으로 제어될 수 있다.

일부 실시예에서, 카메라(300)는 환부 크로즈업 카메라(310), 집도의 시점 카메라(320) 및 수술실(20) 전체를 촬영하기 위한 조망용 카메라(330)를 포함할 수 있다.

다른 측면에서, 조망용 카메라(330)는 전방위 영역을 촬영할 수 있는 3차원 카메라가 될 수 있다.

일부 실시예에서, 환부 크로즈업 카메라(310)는 천장에 설치되어 환자(1)의 환부 및 환부 주변으로 광을 제공하는 조광장치(5)에 설치될 수 있으나 이에 한정하는 것은 아니다. 그리고 집도의 시점 카메라(320)는 집도의(2)의 헤드에 장착될 수 있다.

카메라(300)에서 촬영된 영상은 녹화 및 중계 컴퓨팅 디바이스(200)로 실시간으로 전송될 수 있다.

환부 크로즈업 카메라(310)는 조광장치(5)로부터 광이 출력되는 방향과 동일한 방향으로 전방을 촬영할 수 있다. 수술 중 조광장치(5)로부터의 광은 환부에 비추어지므로, 환부 크로즈업 카메라(310)는 환자(1)의 환부를 촬영할 수 있다.

환부 크로즈업 카메라(310)는 촬영하여 생성한 영상 데이터를 녹화 및 중계 컴퓨팅 디바이스(200)로 전송할 수 있다.

또한, 환부 크로즈업 카메라(310)는 자동 초점 조절을 통해 환자(1)의 환부를 크로즈업하여 촬영할 수 있고, 조광장치(5)의 위치 변경에 대응하여 자동으로 초점을 조절하여 환부를 선명하게 촬영할 수 있다.

집도의 시점 카메라(320)는 집도의(2) 시점 샷을 제공할 수 있다.

상세하게, 집도의(2)의 머리의 전방을 향해 촬영할 수 있다. 다만, 이에 한정하는 것은 아니고 집도의(2)가 집도의 시점 카메라(320)의 착용 방향이나 착용한 각도에 따라 다른 영역을 촬영할 수도 있다.

집도의 시점 카메라(320)에서 촬영되어 생성된 영상 데이터는 실시간으로 녹화 및 중계 컴퓨팅 디바이스(200)로 전송될 수 있다.

조망용 카메라(330)는 수술실(20) 내부 공간을 촬영할 수 있고, 이로부터 생성된 영상 데이터는 실시간으로 녹화 및 중계 컴퓨팅 디바이스(200)로 전송될 수 있다.

도 5는 도 4에서 수술실에서 카메라의 촬영 영역을 추가로 도시한 것이고, 도 6은 HMD에서 표시되는 조망용 카메라에서 촬영된 영상에 대한 일 예시도이며, 도 7은 HMD에서 표시되는 집도의 시점 카메라에서 촬영된 영상과 환부 크로즈업 카메라에서 촬영된 영상에 대한 예시도이다.

도 5 내지 도 7을 참조하면, 녹화 및 중계 컴퓨팅 디바이스(200)는 환부 크로즈업 카메라(310)로부터 수신된 환부 크로즈업 영상 데이터, 집도의 시점 카메라(320)로부터 수신된 집도의 시점 영상 데이터 및 조망용 카메라(320)로부터 수신된 수술실 조망 영상 데이터 중 적어도 하나를 HMD(100)로 전송할 수 있다. 그리고 HMD(100)는 수신된 환부 크로즈업 영상 데이터, 집도의 시점 영상 데이터 및 수술실 조망 영상 데이터 중 적어도 하나를 표시할 수 있다. 그리고 집도의(2)는 HMD(100)에서 표시된 환부 크로즈업 영상(C), 집도의 시점 영상(B) 및 수술실 조망 영상(A) 중 적어도 하나를 볼 수 있다.

일부 실시예에서, 집도의(2)가 거치하고 있는 수술 장비에 마련된 카메라 장치에서 촬영된 영상이 HMD(100)에서 현재 표시되는 영상의 일부 영역에 중첩하여 표시될 수도 있다.

일부 실시예에서, 환부 크로즈업 영상(C), 집도의 시점 영상(B) 및 수술실 조망 영상(A) 그리고 수술 장비가 촬영한 영상이 한번에 녹화 및 중계 컴퓨팅 디바이스(200)의 디스플레이 다비이스(201)를 통해 표시될 수도 있다.

일부 실시예에서, 녹화 및 중계 컴퓨팅 디바이스(200)가 수신한 영상 데이터를 다른 외부 서버에 전송될 수도 있다. 여기서의 외부 서버는 의료 관련 기관의 서버, 의과 대학내의 서버나 다른 국가(예를 들어, 의료 기술 측면에서 개발 도상국인 국가)의 사적 및/또는 공적 서버가 될 수도 있다.

도 8은 집도의가 착용한 HMD의 위치에 따라 HMD에 표시되는 영상을 결정되는 일 예시도이다. 그리고 도 9는 수술실 외부의 학습자가 녹화 및 중계 컴퓨팅 디바이스로부터 수신한 영상을 시청하는 일 예시도이다.

도 8을 참조하면, HMD(100는 통신부(140)로부터 영상 데이터를 수신하고, HMD(100)의 프로세서(130)는 메모리(120)에 저장된 명령에 따라 실행되어 센서(110)의 센싱 정보에 기초하여 집도의(2)가 고개를 숙인 정도를 검출할 수 있다. 즉, HMD(100)는 센서(110)의 자이로 센서 값에 기초하여 HMD(100)의 기울기 정도를 검출할 수 있고, 이에 기초하여 HMD(100)에서 표시되는 영상을 변경할 수 있다.

예를 들어, HMD(100)가 제1 기울기로 기울어진 경우, HMD(100)는 수술실 조망 영상(A)을 디스플레이하고, HMD(100)가 제2 기울기로 기울어진 경우, HMD(100)는 집도의 시점 영상(B)을 디스플레이하며, HMD(100)가 제3 기울기로 기울어진 경우, HMD(100)는 환부 크로즈업 영상(C)을 디스플레이할 수 있다.

보다 상세하게는, HMD(100)의 프로세서(130)는 센서(110)로부터의 센싱된 HMD(100)의 기울기가 제1 기울기(또는, 제1 범위 내의 기울기)가 되는 경우, 통신부(140)를 통해 녹화 및 중계 컴퓨팅 디바이스(200)로 수술실 조망 영상(A) 데이터의 요청 신호를 전송한다. 그리고 녹화 및 중계 컴퓨팅 디바이스(200)는 이에 응답하여 수술실 조망 영상(A) 데이터를 HMD(100)에 전송하고, HMD(100)는 수신한 수술실 조망 영상(A) 데이터를 디스플레이할 수 있다. 또한, HMD(100)의 프로세서(130)는 센서(110)로부터의 센싱된 HMD(100)의 기울기가 제2 기울기(또는, 제2 범위 내의 기울기)가 되는 경우, 통신부(140)를 통해 녹화 및 중계 컴퓨팅 디바이스(200)로 집도의 시점 영상(B) 데이터의 요청 신호를 전송한다. 그리고 녹화 및 중계 컴퓨팅 디바이스(200)는 이에 응답하여 집도의 시점 영상(B) 데이터를 HMD(100)에 전송하고, HMD(100)는 수신한 집도의 시점 영상(B) 데이터를 디스플레이할 수 있다. 또한, HMD(100)의 프로세서(130)는 센서(110)로부터의 센싱된 HMD(100)의 기울기가 제3 기울기(또는, 제3 범위 내의 기울기)가 되는 경우, 통신부(140)를 통해 녹화 및 중계 컴퓨팅 디바이스(200)로 환부 크로즈업 영상(C) 데이터의 요청 신호를 전송한다. 그리고 녹화 및 중계 컴퓨팅 디바이스(200)는 이에 응답하여 환부 크로즈업 영상(C) 데이터를 HMD(100)에 전송하고, HMD(100)는 수신한 환부 크로즈업 영상(C) 데이터를 디스플레이할 수 있다.

또한, HMD(100)에서 녹화 및 중계 컴퓨팅 디바이스(200)로 전송되는 영상 데이터의 요청 신호에는 HMD(100)의 고유 식별 정보가 포함될 수 있다. 그리고 녹화 및 중계 컴퓨팅 디바이스(200)에서 HMD(100)로 전송되는 영상 데이터에도 HMD(100)로부터 수신했더너 고유 식별 정보가 포함될 수 있다. 따라서, 복수의 HMD(100)가 존재하는 경우, 복수의 HMD(100) 각각을 구별하여 이들이 요청한 영상 데이터의 종류에 매칭되는 영상 데이터를 각 HMD(100)로 전송될 수 있도록 한다.

여기서의 기울기는 지면을 기준으로 지면에 수평한 수평선과 이와 수직한 수직선 사이의 HMD(100)의 기울어진 각도를 의미할 수 있다.

또한, 제1 기울기에 따른 수평선으로부터 HMD(100)까지의 제1 각도는 제2 기울기에 따른 수평선으로부터 HMD(100)까지의 제2 각도보다 클 수 있고, 제2 기울기에 따른 수평선으로부터 HMD(100)까지의 제2 각도는 제3 기울기에 따른 수평선으로부터 HMD(100까지의 제3 각도보다 클 수 있다.

본 발명의 실시예를 설명함에 있어서, HMD(100)는 집도의(2)가 착용하고 있는 것으로 설명하였으나 이에 한정하는 것은 아니고, 다른 의료진이 착용할 수도 있다. 그리고 집도의(2)외에도 도 9에서 예시된 바와 같이 다른 의료진이나 수술실 실습 과정을 지켜보는 학습자 등 의료 관계자들이 HMD를 착용하거나 별도로 마련된 디스플레이 장치를 통하여 집도의(2)가 볼 수 있는 영상과 동일한 영상을 관찰하거나, 카메라(300)로부터 수신된 복수의 영상을 선택적 또는 중복적으로 시청할 수도 있다.

이상 설명된 본 발명에 따른 실시예는 다양한 컴퓨터 구성요소를 통하여 실행될 수 있는 프로그램 명령어의 형태로 구현되어 컴퓨터 판독 가능한 기록 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능한 기록 매체는 프로그램 명령어, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 컴퓨터 판독 가능한 기록 매체에 기록되는 프로그램 명령어는 본 발명을 위하여 특별히 설계되고 구성된 것이거나 컴퓨터 소프트웨어 분야의 당업자에게 공지되어 사용 가능한 것일 수 있다. 컴퓨터 판독 가능한 기록 매체의 예에는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM 및 DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical medium), 및 ROM, RAM, 플래시 메모리 등과 같은, 프로그램 명령어를 저장하고 실행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령어의 예에는, 컴파일러에 의하여 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용하여 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드도 포함된다. 하드웨어 장치는 본 발명에 따른 처리를 수행하기 위하여 하나 이상의 소프트웨어 모듈로 변경될 수 있으며, 그 역도 마찬가지이다.

본 발명에서 설명하는 특정 실행들은 일 실시 예들로서, 어떠한 방법으로도 본 발명의 범위를 한정하는 것은 아니다. 명세서의 간결함을 위하여, 종래 전자적인 구성들, 제어 시스템들, 소프트웨어, 상기 시스템들의 다른 기능적인 측면들의 기재는 생략될 수 있다. 또한, 도면에 도시된 구성 요소들 간의 선들의 연결 또는 연결 부재들은 기능적인 연결 및/또는 물리적 또는 회로적 연결들을 예시적으로 나타낸 것으로서, 실제 장치에서는 대체 가능하거나 추가의 다양한 기능적인 연결, 물리적인 연결, 또는 회로 연결들로서 나타내어질 수 있다. 또한, “필수적인”, “중요하게” 등과 같이 구체적인 언급이 없다면 본 발명의 적용을 위하여 반드시 필요한 구성 요소가 아닐 수 있다.

또한 설명한 본 발명의 상세한 설명에서는 본 발명의 바람직한 실시 예를 참조하여 설명하였지만, 해당 기술 분야의 숙련된 당업자 또는 해당 기술분야에 통상의 지식을 갖는 자라면 후술할 특허청구범위에 기재된 본 발명의 사상 및 기술 영역으로부터 벗어나지 않는 범위 내에서 본 발명을 다양하게 수정 및 변경시킬 수 있음을 이해할 수 있을 것이다. 따라서, 본 발명의 기술적 범위는 명세서의 상세한 설명에 기재된 내용으로 한정되는 것이 아니라 특허청구범위에 의해 정하여져야만 할 것이다.

3차원 카메라와 헤드 마운트 디스플레이를 이용한 수술 녹화 및 중계 시스템 (10)
수술실(20)
환자(1)
집도의(2)
의료진(3)
조광장치(5)
헤드 마운트 디스플레이 장치(100)
센서(110)
메모리(120)
프로세서(130)
통신부(140)
녹화 및 중계 컴퓨팅 디바이스(200)
디스플레이 디바이스(201)
데어터 처리부(202)
입력 인터페이스(203)
카메라(300)
영상 소스(301)
영상처리부(302)
출력 인터페이스(303)
환부 크로즈업 카메라(310)
집도의 시점 카메라(320)
조망용 카메라(330)

Claims

수술실에 설치되는 복수의 카메라;
상기 복수의 카메라로부터의 복수의 영상 데이터를 수신하는 녹화 및 중계 컴퓨팅 디바이스; 및
자신의 위치 정보에 기초하여 상기 복수의 영상 데이터 중 적어도 하나를 수신하여 표시하고 의료진이 착용하는 헤드 마운트 디스플레이;를 포함하는
3차원 카메라와 헤드 마운트 디스플레이를 이용한 수술 녹화 및 중계 시스템.
제1 항에 있어서,
상기 복수의 카메라는 수술실 내에 설치되는
환자의 환부를 촬영하는 제1 카메라;
집도의 시점에 대응하는 영역을 촬영하는 제2 카메라; 및
수술실 내부를 촬영하는 제3 카메라;를 포함하는
3차원 카메라와 헤드 마운트 디스플레이를 이용한 수술 녹화 및 중계 시스템.
제2 항에 있어서,
상기 제1 카메라는 상기 환부를 크로즈업한 영상 데이터를 생성하는
3차원 카메라와 헤드 마운트 디스플레이를 이용한 수술 녹화 및 중계 시스템.
제1 항에 있어서,
상기 헤드 마운트 디스플레이 장치는,
자신의 기울기 정보에 기초하여 상기 복수의 영상 데이터 중 어느 하나의 영상 데이터를 상기 녹화 및 중계 컴퓨팅 디바이스로부터 수신하여 표시하는
3차원 카메라와 헤드 마운트 디스플레이를 이용한 수술 녹화 및 중계 시스템.
제4 항에 있어서,
상기 자신의 기울기 정보는 상기 의료진의 고개를 숙인 정도에 기초하여 결정되는
3차원 카메라와 헤드 마운트 디스플레이를 이용한 수술 녹화 및 중계 시스템.
제5 항에 있어서,
상기 헤드 마운트 디스플레이 장치는 측정된 헤드 마운트 디스플레이 장치의 기울기의 변화에 대응하여 서로 다른 영상을 표시하는
3차원 카메라와 헤드 마운트 디스플레이를 이용한 수술 녹화 및 중계 시스템.
제1 항에 있어서,
상기 녹화 및 중계 컴퓨팅 디바이스는
상기 복수의 영상 데이터를 상기 수술실 외부에 위치한 외부 서버로 전송하는
3차원 카메라와 헤드 마운트 디스플레이를 이용한 수술 녹화 및 중계 시스템.