KR102019482B1 - Optical tracking system and controlling method thereof - Google Patents

Optical tracking system and controlling method thereof Download PDF

Info

Publication number
KR102019482B1
KR102019482B1 KR1020170096873A KR20170096873A KR102019482B1 KR 102019482 B1 KR102019482 B1 KR 102019482B1 KR 1020170096873 A KR1020170096873 A KR 1020170096873A KR 20170096873 A KR20170096873 A KR 20170096873A KR 102019482 B1 KR102019482 B1 KR 102019482B1
Authority
KR
South Korea
Prior art keywords
detection signal
marker
marker detection
position data
medical instrument
Prior art date
Application number
KR1020170096873A
Other languages
Korean (ko)
Other versions
KR20190012999A (en
Inventor
김민영
조영진
오현민
Original Assignee
경북대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 경북대학교 산학협력단 filed Critical 경북대학교 산학협력단
Priority to KR1020170096873A priority Critical patent/KR102019482B1/en
Publication of KR20190012999A publication Critical patent/KR20190012999A/en
Application granted granted Critical
Publication of KR102019482B1 publication Critical patent/KR102019482B1/en

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/39Markers, e.g. radio-opaque or breast lesions markers
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • A61B2034/2046Tracking techniques
    • A61B2034/2055Optical tracking systems

Abstract

광학 추적 시스템 및 제어 방법이 개시된다. 광학 추적 시스템은 의료 도구, 상기 의료 도구의 일단에 장착된 제1 마커, 환부에 배치되는 제2 마커, 상기 제1 마커의 위치를 감지하여 제1 마커 감지 신호를 생성하는 광추적기, 상기 의료 도구의 타단을 향해 장착되고, 상기 제2 마커의 위치를 감지하여 제2 마커 감지 신호를 생성하는 비전센서 및 상기 광추적기에서 생성된 제1 마커 감지 신호 및 상기 비전센서에서 생성된 제2 마커 감지 신호를 수신하며, 상기 제1 마커 감지 신호에 기초하여 상기 의료 도구의 제1 위치 데이터를 산출하고, 상기 제2 마커 감지 신호에 기초하여 상기 의료 도구의 제2 위치 데이터를 산출하며, 상기 제1 위치 데이터 및 상기 제2 위치 데이터에 기초하여 상기 의료 도구의 위치를 검출하는 프로세서를 포함한다.An optical tracking system and control method are disclosed. The optical tracking system includes a medical tool, a first marker mounted at one end of the medical tool, a second marker disposed at the affected part, an optical tracker for detecting a position of the first marker and generating a first marker detection signal, the medical tool A vision sensor and a first marker detection signal generated by the optical tracker and a second marker detection signal generated by the vision sensor, the vision sensor mounted toward the other end of the second sensor and generating a second marker detection signal by sensing a position of the second marker; Receive a first position data of the medical instrument based on the first marker detection signal, calculate second position data of the medical instrument based on the second marker detection signal, and generate the first position data. And a processor for detecting a position of the medical instrument based on data and the second position data.

Description

광학 추적 시스템 및 제어 방법{Optical tracking system and controlling method thereof}Optical tracking system and controlling method

본 개시는 광학 추적 시스템 및 제어 방법에 관한 것으로, 더욱 상세하게는 의료 도구의 위치를 추적하여 검출하는 광학 추적 시스템 및 제어 방법에 관한 것이다.FIELD The present disclosure relates to an optical tracking system and a control method, and more particularly, to an optical tracking system and a control method for tracking and detecting a position of a medical tool.

최근 의료로봇 기술의 발전에 따라 최소침습수술과 같은 최소한의 절개를 통해 내시경과 소형의 수술도구를 사용한 수술기법이 각광받고 있다. 하지만 최소침습수술 방식은 내시경만으로 환부에 접근해야 하므로 시야 확보에 어려운 점이 있다. 따라서, 시야 확보를 위해 수술 네비게이션 시스템이 사용된다. 수술 네비게이션 시스템은 현재 수술도구의 위치 및 수술도구가 환부에 안전하게 접근하고 있는지에 대한 정보를 표시함으로써 시술자의 부담을 줄이고 안전성을 높일 수 있다.Recently, with the development of medical robot technology, surgical techniques using endoscopes and small surgical tools have been spotlighted through minimal incisions such as minimally invasive surgery. However, minimally invasive surgery is difficult to secure the field of vision because only the endoscope needs to approach. Thus, a surgical navigation system is used to secure the field of view. Surgical navigation system can reduce the burden on the operator and increase safety by displaying information on the current position of the surgical tool and whether the surgical tool is approaching the affected area safely.

일반적인 수술 네비게이션 시스템은 자기장추적기나 광추적기를 이용한다. 그러나, 자기장추적기는 다른 추적 방식에 비해 정확도가 떨어진다. 또한, 자기장추적기는 의료용 기기에서 발생하는 외부 자기장이나 금속 물질에 의해 자기장 교란에 의해 추적이 불가능하다는 문제점이 있다.Common surgical navigation systems use magnetic trackers or light trackers. However, magnetic trackers are less accurate than other tracking methods. In addition, the magnetic field tracker has a problem that it is impossible to track due to magnetic field disturbance by an external magnetic field or a metal material generated in a medical device.

광추적기는 다른 추적 방식에 비해 정확도가 높고 환경적 요인에 영향을 받지 않는다는 장점이 있다. 그러나, 추적기와 수술도구 사이에 시야가 항상 확보되어야 하며, 수술도구가 장애물에 의해 가려지는 경우 폐색(occlusion)이 발생되어 추적이 불가능하다는 문제점이 있다. 즉 도 1(a)에 도시된 바와 같이 광추적기는 수술도구에 부착된 마커를 검출하여 수술도구의 위치를 추적할 수 있으나, 도 1(b)에 도시된 바와 같이 광추적기는 복수의 마커 중 하나의 마커에 대해 폐색이 발생한 경우에도 수술도구의 위치를 추적을 할 수 없는 문제점이 있다. 따라서, 광추적 방식의 단점을 보완하여 폐색이 발생한 경우에도 지속적으로 수술도구를 추적할 수 있는 기술에 대한 필요성이 있다.Optical trackers have the advantage of being more accurate and unaffected by environmental factors than other tracking methods. However, the field of view must always be secured between the tracker and the surgical tool, and when the surgical tool is covered by an obstacle, occlusion occurs and tracking is impossible. That is, as shown in Figure 1 (a), the optical tracker can detect the marker attached to the surgical tool to track the position of the surgical tool, as shown in Figure 1 (b) the optical tracker is a plurality of markers Even when occlusion occurs for one marker, there is a problem in that the position of the surgical tool cannot be tracked. Therefore, there is a need for a technology that can continuously track surgical instruments even when occlusion occurs by supplementing the disadvantages of the light tracking method.

본 개시는 상술한 문제점을 해결하기 위한 것으로, 본 개시의 목적은 수술용 네비게이션에서 폐색이 발생하더라도 의료 도구의 위치를 추적할 수 있는 광학 추적 시스템 및 제어 방법을 제공하는 것이다.The present disclosure is to solve the above-described problems, an object of the present disclosure is to provide an optical tracking system and control method that can track the position of the medical tool even if occlusion in the surgical navigation.

이상과 같은 목적을 달성하기 위한 본 개시의 일 실시 예에 따르면, 광학 추적 시스템은 의료 도구, 상기 의료 도구의 일단에 장착된 제1 마커, 환부에 배치되는 제2 마커, 상기 제1 마커의 위치를 감지하여 제1 마커 감지 신호를 생성하는 광추적기, 상기 의료 도구의 타단을 향해 장착되고, 상기 제2 마커의 위치를 감지하여 제2 마커 감지 신호를 생성하는 비전센서 및 상기 광추적기에서 생성된 제1 마커 감지 신호 및 상기 비전센서에서 생성된 제2 마커 감지 신호를 수신하며, 상기 제1 마커 감지 신호에 기초하여 상기 의료 도구의 제1 위치 데이터를 산출하고, 상기 제2 마커 감지 신호에 기초하여 상기 의료 도구의 제2 위치 데이터를 산출하며, 상기 제1 위치 데이터 및 상기 제2 위치 데이터에 기초하여 상기 의료 도구의 위치를 검출하는 프로세서를 포함한다.According to an embodiment of the present disclosure for achieving the above object, the optical tracking system is a medical instrument, a first marker mounted on one end of the medical instrument, a second marker disposed on the affected part, the position of the first marker A light tracker for detecting a first marker detection signal and detecting the position of the second marker and generating a second marker detection signal by detecting a position of the second marker. Receive a first marker detection signal and a second marker detection signal generated by the vision sensor, calculate first position data of the medical instrument based on the first marker detection signal, and based on the second marker detection signal. And calculate a second position data of the medical instrument, and detect a position of the medical instrument based on the first position data and the second position data. The.

그리고, 상기 프로세서는 상기 제1 마커 감지 신호에 기초하여 상기 의료 도구의 제1 자세 데이터를 더 산출하고, 상기 제2 마커 감지 신호에 기초하여 상기 의료 도구의 제2 자세 데이터를 더 산출할 수 있다.The processor may further calculate first posture data of the medical tool based on the first marker detection signal, and further calculate second posture data of the medical tool based on the second marker detection signal. .

한편, 상기 의료 도구의 제1 및 제2 자세 데이터는 롤(roll), 피치(pitch), 요(yaw) 정보를 포함할 수 있다.Meanwhile, the first and second posture data of the medical tool may include roll, pitch, and yaw information.

그리고, 상기 프로세서는 체커보드 및 상기 의료 도구의 움직임에 기초하여 상기 제1 위치 데이터와 관련된 좌표계와 상기 제2 위치 데이터와 관련된 좌표계를 일치시킬 수 있다.The processor may match the coordinate system associated with the first position data with the coordinate system associated with the second position data based on the movement of the checker board and the medical instrument.

또한, 상기 비전센서는 매 프레임마다 상기 제2 마커의 위치를 감지하여 상기 제2 마커 감지 신호를 생성할 수 있다.In addition, the vision sensor may generate the second marker detection signal by detecting the position of the second marker every frame.

또한, 상기 프로세서는 상기 광추적기에서 폐색(occlusion)이 발생하지 않은 경우, 상기 제1 마커 감지 신호 및 상기 제2 마커 감지 신호 모두를 이용하여 상기 의료 도구의 위치를 검출하고, 상기 광추적기에서 폐색(occlusion)이 발생하는 경우, 상기 제2 마커 감지 신호만을 이용하여 상기 의료 도구의 위치를 검출할 수 있다.In addition, when no occlusion occurs in the optical tracker, the processor detects the position of the medical tool using both the first marker detection signal and the second marker detection signal, and the occlusion in the optical tracker. When the occurrence of occlusion, the position of the medical tool may be detected using only the second marker detection signal.

그리고, 상기 프로세서는 칼만필터에 기초하여 상기 의료 도구의 위치를 검출할 수 있다.The processor may detect the position of the medical tool based on the Kalman filter.

이상과 같은 목적을 달성하기 위한 본 개시의 일 실시 예에 따르면, 광학 추적 시스템의 제어 방법은 광추적기가 의료 도구의 일단에 장착된 제1 마커의 위치를 감지하여 제1 마커 감지 신호를 생성하는 단계, 상기 의료 도구의 타단을 향해 장착된 비전센서가 환부에 배치되는 제2 마커의 위치를 감지하여 제2 마커 감지 신호를 생성하는 단계, 상기 제1 마커 감지 신호 및 상기 제2 마커 감지 신호를 수신하는 단계, 상기 제1 마커 감지 신호에 기초한 상기 의료 도구의 제1 위치 데이터 및 상기 제2 마커 감지 신호에 기초한 상기 의료 도구의 제2 위치 데이터를 산출하는 단계 및 상기 제1 위치 데이터 및 상기 제2 위치 데이터에 기초하여 상기 의료 도구의 위치를 검출하는 단계를 포함한다.According to an embodiment of the present disclosure for achieving the above object, the control method of the optical tracking system is to generate a first marker detection signal by detecting the position of the first marker mounted on one end of the optical tracker medical instrument And generating a second marker detection signal by detecting a position of a second marker disposed on the affected part by a vision sensor mounted toward the other end of the medical tool, and generating the second marker detection signal and the second marker detection signal. Receiving, calculating first position data of the medical instrument based on the first marker detection signal and second position data of the medical instrument based on the second marker detection signal; and the first position data and the first position data. Detecting the position of the medical instrument based on the two position data.

이상 설명한 바와 같이, 본 개시의 다양한 실시 예에 따르면, 수술용 네비게이션에서 폐색이 발생하더라도 수술 도구의 위치를 지속적으로 추적할 수 있다.As described above, according to various embodiments of the present disclosure, even if occlusion occurs in the surgical navigation, the position of the surgical tool may be continuously tracked.

도 1은 종래 수술용 네비게이션을 설명하는 도면이다.
도 2는 본 개시의 일 실시 예에 따른 광학 추적 시스템을 설명하는 도면이다.
도 3은 본 개시의 일 실시 예에 따른 광학 추적 시스템의 좌표계 보정을 설명하는 도면이다.
도 4는 본 개시의 일 실시 예에 따른 센서 데이터의 융합 과정을 설명하는 도면이다.
도 5 내지 도 6은 본 개시의 일 실시 예에 따른 자세 정보와 위치 정보를 나타내는 도면이다.
도 7은 본 개시의 일 실시 예에 따른 광학 추적 시스템 제어 방법의 흐름도이다.
1 is a view illustrating a conventional surgical navigation.
2 is a diagram illustrating an optical tracking system according to an exemplary embodiment of the present disclosure.
3 is a diagram illustrating coordinate system correction of an optical tracking system according to an exemplary embodiment.
4 is a view illustrating a fusion process of sensor data according to an exemplary embodiment of the present disclosure.
5 to 6 are diagrams illustrating posture information and location information according to an exemplary embodiment of the present disclosure.
7 is a flowchart of a method for controlling an optical tracking system according to an exemplary embodiment.

이하에서는 첨부된 도면을 참조하여 다양한 실시 예를 보다 상세하게 설명한다. 본 명세서에 기재된 실시 예는 다양하게 변형될 수 있다. 특정한 실시 예가 도면에서 묘사되고 상세한 설명에서 자세하게 설명될 수 있다. 그러나, 첨부된 도면에 개시된 특정한 실시 예는 다양한 실시 예를 쉽게 이해하도록 하기 위한 것일 뿐이다. 따라서, 첨부된 도면에 개시된 특정 실시 예에 의해 기술적 사상이 제한되는 것은 아니며, 발명의 사상 및 기술 범위에 포함되는 모든 균등물 또는 대체물을 포함하는 것으로 이해되어야 한다.Hereinafter, various embodiments will be described in more detail with reference to the accompanying drawings. Embodiments described herein may be variously modified. Specific embodiments are depicted in the drawings and may be described in detail in the detailed description. However, the specific embodiments disclosed in the accompanying drawings are only for easily understanding the various embodiments. Therefore, the technical spirit is not limited by the specific embodiments disclosed in the accompanying drawings, and it should be understood to include all equivalents or substitutes included in the spirit and scope of the invention.

제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 이러한 구성요소들은 상술한 용어에 의해 한정되지는 않는다. 상술한 용어는 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.Terms including ordinal numbers such as first and second may be used to describe various components, but these components are not limited by the terms described above. The terms described above are used only for the purpose of distinguishing one component from another.

본 명세서에서, "포함한다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다. 어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.In this specification, the terms "comprises" or "having" are intended to indicate that there is a feature, number, step, operation, component, part, or combination thereof described in the specification, and one or more other features. It is to be understood that the present invention does not exclude the possibility of the presence or the addition of numbers, steps, operations, components, components, or a combination thereof. When a component is referred to as being "connected" or "connected" to another component, it may be directly connected to or connected to that other component, but it may be understood that other components may be present in between. Should be. On the other hand, when a component is said to be "directly connected" or "directly connected" to another component, it should be understood that there is no other component in between.

한편, 본 명세서에서 사용되는 구성요소에 대한 "모듈" 또는 "부"는 적어도 하나의 기능 또는 동작을 수행한다. 그리고, "모듈" 또는 "부"는 하드웨어, 소프트웨어 또는 하드웨어와 소프트웨어의 조합에 의해 기능 또는 동작을 수행할 수 있다. 또한, 특정 하드웨어에서 수행되어야 하거나 적어도 하나의 프로세서에서 수행되는 "모듈" 또는 "부"를 제외한 복수의 "모듈들" 또는 복수의 "부들"은 적어도 하나의 모듈로 통합될 수도 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다.On the other hand, "module" or "unit" for the components used in the present specification performs at least one function or operation. The module or unit may perform a function or an operation by hardware, software, or a combination of hardware and software. In addition, a plurality of “modules” or a plurality of “parts” other than “modules” or “parts” to be executed in specific hardware or executed in at least one processor may be integrated into at least one module. Singular expressions include plural expressions unless the context clearly indicates otherwise.

그 밖에도, 본 발명을 설명함에 있어서, 관련된 공지 기능 혹은 구성에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우, 그에 대한 상세한 설명은 축약하거나 생략한다.In addition, in describing the present invention, when it is determined that a detailed description of a related known function or configuration may unnecessarily obscure the subject matter of the present invention, the detailed description thereof will be abbreviated or omitted.

도 2는 본 개시의 일 실시 예에 따른 광학 추적 시스템을 설명하는 도면이다.2 is a diagram illustrating an optical tracking system according to an exemplary embodiment of the present disclosure.

도 2를 참조하면, 광학 추적 시스템이 도시되어 있다. 광학 추적 시스템은 의료 도구(3), 제1 마커(110), 제2 마커(120), 광추적기(130), 비전센서(140) 및 프로세서(150)를 포함한다.Referring to FIG. 2, an optical tracking system is shown. The optical tracking system includes a medical instrument 3, a first marker 110, a second marker 120, an optical tracker 130, a vision sensor 140, and a processor 150.

의료 도구(3)는 의사가 환자의 환부를 검사하거나 환부를 치료하기 위한 도구일 수 있다. 제1 마커(110)는 의료 도구(3)의 일단에 장착된다. 도 1에서 도시된 바와 같이 제1 마커(110)는 복수 개의 포인트를 포함할 수 있다. 그리고, 제2 마커(120)는 환자(1)의 환부에 배치될 수 있다. 제2 마커(120)도 복수 개의 포인트를 포함할 수 있다. 제1 마커(110) 및 제2 마커(120)는 기 설정된 크기 및 기 설정된 형태일 수 있고 기 설정된 지점에 배치된 포인트를 포함할 수 있다.The medical tool 3 may be a tool for the doctor to examine or treat the affected part of the patient. The first marker 110 is mounted at one end of the medical instrument 3. As shown in FIG. 1, the first marker 110 may include a plurality of points. In addition, the second marker 120 may be disposed on the affected part of the patient 1. The second marker 120 may also include a plurality of points. The first marker 110 and the second marker 120 may have a predetermined size and a predetermined shape and include a point disposed at a predetermined point.

광추적기(130)는 제1 마커(110)의 위치를 감지하여 제1 마커 감지 신호를 생성한다. 광추적기(130)는 3차원 공간 좌표상의 제1 마커(110)의 위치를 감지하여 제1 마커 감지 신호를 생성한다. 광추적기(130)는 제1 마커(110)와 일정 거리 떨어진 지점에 배치될 수 있다. 따라서, 광추적기(130)와 제1 마커(110) 사이에 장애물이 위치하는 경우 폐색(occlusion) 상황이 발생될 수 있다. 한편, 환자(1)의 환부 근처에 제3 마커(미도시)가 더 배치될 수 있다. 광추적기(130)는 제3 마커를 기준 마커로 간주하고, 제3 마커의 위치를 감지하여 제3 마커 감지 신호를 더 생성할 수도 있다. 즉, 광추적기(130)는 제1 마커(110) 및 제3 마커를 동시에 감지할 수도 있다.The optical tracker 130 detects a position of the first marker 110 and generates a first marker detection signal. The optical tracker 130 detects a position of the first marker 110 in three-dimensional spatial coordinates to generate a first marker detection signal. The light tracker 130 may be disposed at a point away from the first marker 110. Thus, when an obstacle is located between the light tracker 130 and the first marker 110, an occlusion situation may occur. Meanwhile, a third marker (not shown) may be further disposed near the affected part of the patient 1. The optical tracker 130 may regard the third marker as a reference marker and may further generate a third marker detection signal by sensing the position of the third marker. That is, the light tracker 130 may simultaneously detect the first marker 110 and the third marker.

비전센서(140)는 의료 도구(3)의 일단과 타단 사이에 장착될 수 있다. 의료 도구(3)의 타단 방향에 환자(1)가 위치할 수 있고, 환자(1)의 환부 근처에 제2 마커(120)가 배치된다. 따라서, 비전센서(140)는 제2 마커(120)의 위치를 감지할 수 있도록 의료 도구(3)의 타단을 향해 장착될 수 있다. 비전센서(140)는 제2 마커(120)의 위치를 감지하여 제2 마커 감지 신호를 생성한다. 비전센서(140)는 의료 도구(3)의 타단 방향을 향해 의료 도구(3) 상에 장착되기 때문에 폐색(occlusion) 상황이 발생될 가능성이 없다. 예를 들어, 비전센서(140)는 카메라를 포함할 수 있다.The vision sensor 140 may be mounted between one end and the other end of the medical tool 3. The patient 1 may be located in the other end direction of the medical instrument 3, and the second marker 120 is disposed near the affected part of the patient 1. Therefore, the vision sensor 140 may be mounted toward the other end of the medical tool 3 to detect the position of the second marker 120. The vision sensor 140 detects the position of the second marker 120 and generates a second marker detection signal. Since the vision sensor 140 is mounted on the medical tool 3 toward the other end direction of the medical tool 3, there is no possibility that an occlusion situation occurs. For example, the vision sensor 140 may include a camera.

광추적기(130)와 비전센서(140)는 프로세서(150)와 유무선으로 연결될 수 있다. 따라서, 광추적기(130)에서 생성된 제1 마커 감지 신호 및 비전센서(140)에서 생성된 제2 마커 감지 신호는 프로세서(150)로 전송된다.The optical tracker 130 and the vision sensor 140 may be connected to the processor 150 by wire or wirelessly. Therefore, the first marker detection signal generated by the optical tracker 130 and the second marker detection signal generated by the vision sensor 140 are transmitted to the processor 150.

프로세서(150)는 제1 마커 감지 신호 및 제2 마커 감지 신호를 수신한다. 프로세서(150)는 수신된 제1 마커 감지 신호에 기초하여 의료 도구(3)의 제1 위치 데이터를 산출하고, 수신된 제2 마커 감지 신호에 기초하여 의료 도구(3)의 제2 위치 데이터를 산출한다. 그리고, 프로세서(150)는 산출된 제1 위치 데이터 및 제2 위치 데이터에 기초하여 의료 도구(3)의 위치를 검출한다. 또한, 프로세서(150)는 제1 마커 감지 신호에 기초하여 의료 도구(3)의 제1 자세 데이터를 더 산출하고, 제2 마커 감지 신호에 기초하여 의료 도구(3)의 제2 자세 데이터를 더 산출할 수 있다. 자세 데이터는 롤(roll), 피치(pitch), 요(yaw) 정보를 포함할 수 있다.The processor 150 receives the first marker detection signal and the second marker detection signal. The processor 150 calculates first position data of the medical instrument 3 based on the received first marker detection signal, and calculates second position data of the medical instrument 3 based on the received second marker detection signal. Calculate The processor 150 detects the position of the medical instrument 3 based on the calculated first position data and second position data. Further, the processor 150 further calculates the first posture data of the medical tool 3 based on the first marker detection signal and further adds the second posture data of the medical tool 3 based on the second marker detection signal. Can be calculated. The posture data may include roll, pitch, and yaw information.

한편, 일반적인 경우, 프로세서(150)는 제1 위치 데이터 및 제2 위치 데이터 모두를 이용하여 의료 도구(3)의 위치를 검출할 수 있다. 그러나, 광추적기(130)와 제1 마커(110) 사이에 장애물이 위치하여 폐색(occlusion) 상황이 발생되는 경우, 광추적기(130)는 제1 마커 감지 신호를 생성하지 못할 수 있다. 폐색(occlusion) 상황이 발생되는 경우, 프로세서(150)는 제2 마커 감지 신호만을 이용하여 의료 도구(3)의 위치를 검출할 수 있다. 따라서, 본 개시에 따른 광학 추적 시스템은 폐색 상황에서도 계속적인 의료 도구(3)의 위치 검출을 할 수 있다. 예를 들어, 본 개시의 프로세서(150)는 컴퓨터, 서버 등으로 구현될 수 있다.In the general case, the processor 150 may detect the position of the medical device 3 using both the first position data and the second position data. However, when an obstruction occurs because an obstacle is positioned between the optical tracker 130 and the first marker 110, the optical tracker 130 may not generate the first marker detection signal. When an occlusion situation occurs, the processor 150 may detect the position of the medical instrument 3 using only the second marker detection signal. Therefore, the optical tracking system according to the present disclosure can continuously detect the position of the medical instrument 3 even in the occlusion situation. For example, the processor 150 of the present disclosure may be implemented as a computer, a server, or the like.

한편, 광추적기(130)에서 산출되는 제1 위치 데이터 및 제2 위치 데이터는 서로 다른 좌표계를 가질 수 있다. 따라서, 광학 추적 시스템은 좌표계 보정을 통해 좌표계를 일치시키는 과정이 필요하다.Meanwhile, the first position data and the second position data calculated by the optical tracker 130 may have different coordinate systems. Therefore, the optical tracking system needs a process of matching the coordinate system through coordinate system correction.

도 3은 본 개시의 일 실시 예에 따른 광학 추적 시스템의 좌표계 보정을 설명하는 도면이다.3 is a diagram illustrating coordinate system correction of an optical tracking system according to an exemplary embodiment.

도 3을 참조하면, 광학 추적 시스템 내 각 요소들 간의 변환 관계가 도시되어 있다. 제1 위치 데이터와 관련된 좌표계 및 제2 위치 데이터와 관련된 좌표계는 체커보드(5)와 의료 도구(3)의 움직임에 기초하여 일치시킬 수 있다.Referring to FIG. 3, the transformation relationship between the elements in the optical tracking system is shown. The coordinate system associated with the first position data and the coordinate system associated with the second position data can be matched based on the movement of the checkerboard 5 and the medical instrument 3.

RTMark1 및 RTMark2 는 광추적기(130)에서 제1 마커(110a, 110b)로 변환되는 이동 및 회전 관계를 나타낸 행렬이다. RTChess1 및 RTChess2는 비전센서(140a, 140b)에서 체커보드(5)로 변환되는 이동 및 회전 관계를 나타낸 행렬이다. 그리고, RTIVS 는 제1 마커(110a, 110b)에서 비전센서(14a, 140b)로 변환되는 이동 및 회전 관계를 나타낸 행렬이다. Pose 1과 Pose 2는 제1 마커와 비전센서를 포함하는 의료 도구가 제1 지점에 위치한 상태 및 제2 지점에 위치한 상태를 의미한다.RT Mark1 and RT Mark2 are matrices showing the movement and rotation relationships that are converted from the optical tracker 130 to the first markers 110a and 110b. RT Chess1 and RT Chess2 are matrices showing the movement and rotation relationships that are converted from the vision sensors 140a and 140b to the checker board 5. In addition, RT IVS is a matrix indicating a movement and rotation relationship that is converted from the first markers 110a and 110b to the vision sensors 14a and 140b. Pose 1 and Pose 2 refer to a state in which a medical device including a first marker and a vision sensor is located at a first point and a second point.

도 3에서 광추적기(130)와 체커보드(5) 사이의 관계를 표현하면 다음과 같다.In FIG. 3, the relationship between the light tracker 130 and the checker board 5 is expressed as follows.

Y1 = RTMark1 × RTIVS × RTChess1 ----- (1)Y 1 = RT Mark1 × RT IVS × RT Chess1 ----- (1)

Y2 = RTMark2 × RTIVS × RTChess2 ----- (2)Y 2 = RT Mark2 × RT IVS × RT Chess2 ----- (2)

광추적기(130)와 체커보드(5)는 고정되어 있으므로 식 (1) 및 (2)는 같다.Since the optical tracker 130 and the checker board 5 are fixed, equations (1) and (2) are the same.

Y1 = Y2 ---------------(3)Y 1 = Y 2 --------------- (3)

RTMark1 × RTIVS × RTChess1 = RTMark2 × RTIVS × RTChess2 ------- (4)RT Mark1 × RT IVS × RT Chess1 = RT Mark2 × RT IVS × RT Chess2 ------- (4)

식 (4)를 정리하면If we sum up equation (4)

(RTMark2)-1 × RTMark1 × RTIVS = RTIVS × RTChess2 × (RTChess1)-1 ------- (5)(RT Mark2 ) -1 × RT Mark1 × RT IVS = RT IVS × RT Chess2 × (RT Chess1 ) -1 ------- (5)

즉, 식 (5)는 다음과 같이 간단히 나타낼 수 있다.That is, equation (5) can be simply expressed as follows.

AX = XB ----- (6)AX = XB ----- (6)

여기서, A = (RTMark2)-1 × RTMark1, B = RTChess2 × (RTChess1)-1, X = RTIVS 이다.Here, A = (RT Mark2) it is -1 × RT Mark1, B = RT Chess2 × (RT Chess1) -1, X = RT IVS.

식 (6)은 핸드 아이 캘리브레이션(Hand-eye-calibration)으로 알려져 있다. A, B는 알 수 있는 값이고, X는 구해야 하는 행렬로 비전센서(140a, 140b)와 제1 마커(110a, 110b) 사이의 회전 및 이동 관계를 포함하고 있는 3×4 행렬이다. 식 (6)에서 행렬 X를 구하기 위해서 적어도 두 번의 의료 도구의 움직임이 필요하다.Equation (6) is known as hand-eye-calibration. A and B are known values, and X is a matrix to be obtained, which is a 3x4 matrix including rotation and movement relationships between the vision sensors 140a and 140b and the first markers 110a and 110b. At least two movements of the medical tool are required to find the matrix X in equation (6).

상술한 과정을 통해 1 위치 데이터와 관련된 좌표계 및 제2 위치 데이터와 관련된 좌표계를 일치시킬 수 있다.Through the above-described process, the coordinate system associated with the first position data and the coordinate system associated with the second position data may be matched.

도 4는 본 개시의 일 실시 예에 따른 센서 데이터의 융합 과정을 설명하는 도면이다.4 is a view illustrating a fusion process of sensor data according to an exemplary embodiment of the present disclosure.

도 4를 참조하면, 광추적기(130)와 비전센서(140)가 도시되어 있다. 광추적기(130)는 제1 마커의 위치를 감지하여 제1 마커 신호를 생성한다. 그리고, 광추적기(130)는 제1 마커 신호를 프로세서로 전송한다. Referring to FIG. 4, an optical tracker 130 and a vision sensor 140 are shown. The optical tracker 130 detects the position of the first marker and generates a first marker signal. The optical tracker 130 transmits the first marker signal to the processor.

비전센서(140)는 제2 마커의 위치를 감지하여 제2 마커 신호를 생성한다. 그리고, 비전센서(140)는 제2 마커 신호를 프로세서로 전송한다. 비전센서(140)를 사용하여 제2 마커의 위치를 감지할 때, 스케일을 정의할 수 없는 문제가 발생할 수 있다. 따라서, 광학 추적 시스템은 감지하고자 하는 제2 마커의 기하정보를 미리 알고 있어야 한다. 제2 마커의 공간 좌표계와 영상 사이의 관계는 다음의 행렬식으로 표현할 수 있다.The vision sensor 140 detects the position of the second marker and generates a second marker signal. The vision sensor 140 transmits the second marker signal to the processor. When using the vision sensor 140 to detect the position of the second marker, a problem may occur in which the scale cannot be defined. Therefore, the optical tracking system must know in advance the geometry of the second marker to be detected. The relationship between the spatial coordinate system of the second marker and the image may be expressed by the following determinant.

Figure 112017073636401-pat00001
------- (7)
Figure 112017073636401-pat00001
------- (7)

식 (7)의 우변의 첫번째 행렬은 비전센서(140)의 내부 행렬로 미리 비전센서(140)의 보정을 통해 얻을 수 있다. 광학 추적 시스템은 환부에 부착된 제2 마커를 영상에서 인식하고 중심을 검출한 후 광학 처리 과정을 통해 매 프레임마다 제2 마커를 감지하여 제2 마커 감지 신호를 생성할 수 있다. 그리고, 광학 추적 시스템은 제2 마커 감지 신호에 기초하여 의료 도구의 위치 데이터를 산출할 수 있다.The first matrix on the right side of Equation (7) is an internal matrix of the vision sensor 140, which can be obtained by correcting the vision sensor 140 in advance. The optical tracking system may generate a second marker detection signal by recognizing the second marker attached to the affected part in the image, detecting the center, and detecting the second marker every frame through an optical process. The optical tracking system can then calculate position data of the medical instrument based on the second marker detection signal.

광학 추적 시스템은 칼만 필터에 기초하여 의료 도구의 위치를 검출할 수 있다. 칼만 필터는 대상 시스템의 오차를 최소화하는 알고리즘으로 예측 과정과 추정 과정으로 나뉠 수 있다. 예측 과정은 직전 추정 값을 입력으로 받아 최종 결과로 예측 값을 출력한다. 추정 과정은 예측 값과 측정 값을 입력으로 받아 현재 상태를 추정하는 과정이다. The optical tracking system can detect the position of the medical instrument based on the Kalman filter. The Kalman filter is an algorithm that minimizes the error of the target system and can be divided into a prediction process and an estimation process. The prediction process takes the last estimated value as an input and outputs the predicted value as a final result. The estimation process is a process of estimating the current state by receiving a prediction value and a measured value as input.

도 4에 도시된 바와 같이, 광학 추적 시스템은 일반적인 상황(폐색이 발생하지 않은 상황)에서는 광추적기(130) 및 비전센서(140)로부터 각각 제1 마커 감지 신호 및 제2 마커 감지 신호를 수신하여 의료 도구의 제1 위치 데이터 및 제2 위치 데이터를 산출한다. 그리고, 광학 추적 시스템은 센서융합 칼만 필터(7)에 기초하여 제1 위치 데이터 및 제2 위치 데이터를 융합 과정을 통해 의료 도구의 자세 및 위치 등을 추적(11)할 수 있다. As shown in FIG. 4, the optical tracking system receives a first marker detection signal and a second marker detection signal from the optical tracker 130 and the vision sensor 140 in a general situation (a situation in which occlusion does not occur). First position data and second position data of the medical tool are calculated. The optical tracking system may track 11 the posture, the position, and the like of the medical tool through a process of fusing the first position data and the second position data based on the sensor fusion Kalman filter 7.

그리고, 광학 추적 시스템은 폐색이 발생한 상황에서는 광추적기(130)로부터 감지 신호를 받을 수 없다. 따라서, 광학 추적 시스템은 비전센서(140)로부터 제2 마커 신호를 수신하여 의료 도구의 제2 위치 데이터를 산출한다. 그리고, 제2 위치 데이터에 기초하여 의료 도구의 자세 및 위치 등을 추적(11)할 수 있다. 광학 추적 시스템은 폐색이 발생한 상황에서는 데이터의 노이즈를 제거하기 위해 칼만필터를 사용(9)한다.In addition, the optical tracking system may not receive a detection signal from the optical tracker 130 in a situation where occlusion occurs. Accordingly, the optical tracking system receives the second marker signal from the vision sensor 140 to calculate second position data of the medical instrument. The posture, the position and the like of the medical instrument can be tracked 11 based on the second position data. The optical tracking system uses a Kalman filter (9) to remove noise in the data when occlusion occurs.

도 5 내지 도 6은 본 개시의 일 실시 예에 따른 자세 정보와 위치 정보를 나타내는 도면이다.5 to 6 are diagrams illustrating posture information and location information according to an exemplary embodiment of the present disclosure.

도 5를 참조하면 자세 정보의 결과에 대한 그래프가 도시되어 있다. 자세 정보는 롤(roll), 피치(pitch), 요(yaw) 정보를 포함할 수 있다. 빨간선은 기존의 광추적기에 대한 결과이고 초록선은 본 개시에 대한 결과이다. 폐색이 발생하면 기존 광학 추적 시스템은 의료 기구에 대한 추적을 중단하지만 본 개시의 광학 추적 시스템은 의료 기구에 대한 추적을 지속적으로 진행한다.Referring to FIG. 5, a graph of the result of the posture information is shown. The posture information may include roll, pitch, and yaw information. The red line is the result of the existing light tracer and the green line is the result of the present disclosure. If an occlusion occurs, the existing optical tracking system stops tracking the medical device, but the optical tracking system of the present disclosure continues tracking the medical device.

도 6을 참조하면 위치 정보의 결과에 대한 그래프가 도시되어 있다. 빨간선은 기존의 광추적기에 대한 결과이고 초록선은 본 개시에 대한 결과이다. 도 5에서 설명한 바와 같이, 폐색이 발생하면 기존 광학 추적 시스템은 의료 기구에 대한 추적을 중단하지만 본 개시의 광학 추적 시스템은 의료 기구에 대한 추적을 지속적으로 진행한다.Referring to FIG. 6, a graph of the result of location information is shown. The red line is the result of the existing light tracer and the green line is the result of the present disclosure. As described in FIG. 5, when an occlusion occurs, the existing optical tracking system stops tracking the medical instrument, but the optical tracking system of the present disclosure continues tracking the medical instrument.

지금까지 광학 추적 시스템에 대해 설명하였다. 아래에서는 광학 추적 시스템의 제어 방법을 설명한다.The optical tracking system has been described so far. The following describes a control method of the optical tracking system.

도 7은 본 개시의 일 실시 예에 따른 광학 추적 시스템 제어 방법의 흐름도이다.7 is a flowchart of a method for controlling an optical tracking system according to an exemplary embodiment.

도 7을 참조하면, 광학 추적 시스템의 광추적기가 의료 도구의 일단에 장착된 제1 마커의 위치를 감지하여 제1 마커 감지 신호를 생성한다(S710). 의료 도구의 타단을 향해 장착된 광학 추적 시스템의 비전센서가 환부에 배치되는 제2 마커의 위치를 감지하여 제2 마커 감지 신호를 생성한다(S720). 제1 마커는 의료 도구의 일단에 장착되고, 비전센서는 의료 도구의 타단을 향해 장착되어 제2 마커를 감지한다. 따라서, 비전센서는 폐색 발생없이 항상 제2 마커를 감지할 수 있다.Referring to FIG. 7, the optical tracker of the optical tracking system detects a position of the first marker mounted at one end of the medical tool to generate a first marker detection signal (S710). The vision sensor of the optical tracking system mounted toward the other end of the medical tool detects the position of the second marker disposed on the affected part to generate a second marker detection signal (S720). The first marker is mounted at one end of the medical instrument, and the vision sensor is mounted toward the other end of the medical instrument to sense the second marker. Thus, the vision sensor can always detect the second marker without the occurrence of occlusion.

한편, 광학 추적 시스템은 실제 사용 전에 핸드 아이 캘리브레이션(Hand-eye-calibration)을 수행할 수 있다. 즉, 광학 추적 시스템은 체커보드 및 의료 도구의 움직임에 기초하여 제1 위치 데이터와 관련된 좌표계와 제2 위치 데이터와 관련된 좌표계를 일치시킬 수 있다.On the other hand, the optical tracking system may perform hand-eye-calibration before actual use. That is, the optical tracking system may match the coordinate system associated with the first position data with the coordinate system associated with the second position data based on the movement of the checkerboard and the medical instrument.

광학 추적 시스템은 제1 마커 감지 신호 및 제2 마커 감지 신호를 수신한다(S730). 광추적기에서 생성된 제1 마커 감지 신호 및 비전센서에서 생성된 제2 마커 감지 신호는 프로세서로 전송된다. 비전센서는 매 프레임마다 제2 마커의 위치를 감지하여 제2 마커 감지 신호를 생성할 수 있다.The optical tracking system receives the first marker detection signal and the second marker detection signal (S730). The first marker detection signal generated by the optical tracker and the second marker detection signal generated by the vision sensor are transmitted to the processor. The vision sensor may generate a second marker detection signal by detecting a position of the second marker every frame.

광학 추적 시스템은 제1 마커 감지 신호에 기초한 의료 도구의 제1 위치 데이터 및 제2 마커 감지 신호에 기초한 의료 도구의 제2 위치 데이터를 산출한다(S740). 또한, 광학 추적 시스템은 제1 마커 감지 신호에 기초하여 의료 도구의 제1 자세 데이터를 더 산출하고, 제2 마커 감지 신호에 기초하여 의료 도구의 제2 자세 데이터를 더 산출할 수 있다. 의료 도구의 제1 및 제2 자세 데이터는 롤(roll), 피치(pitch), 요(yaw) 정보를 포함할 수 있다.The optical tracking system calculates first position data of the medical instrument based on the first marker detection signal and second position data of the medical instrument based on the second marker detection signal (S740). The optical tracking system may further calculate first posture data of the medical instrument based on the first marker detection signal and further calculate second posture data of the medical instrument based on the second marker detection signal. The first and second posture data of the medical tool may include roll, pitch, yaw information.

광학 추적 시스템은 제1 위치 데이터 및 제2 위치 데이터에 기초하여 의료 도구의 위치를 검출한다(S750). 광학 추적 시스템은 광추적기에서 폐색(occlusion)이 발생하지 않은 경우, 제1 마커 감지 신호 및 제2 마커 감지 신호 모두를 이용하여 의료 도구의 위치를 검출할 수 있다. 그리고, 광학 추적 시스템은 광추적기에서 폐색(occlusion)이 발생하는 경우, 제2 마커 감지 신호만을 이용하여 의료 도구의 위치를 검출할 수 있다.The optical tracking system detects the position of the medical instrument based on the first position data and the second position data (S750). The optical tracking system can detect the position of the medical instrument using both the first marker detection signal and the second marker detection signal when no occlusion has occurred in the optical tracker. In addition, the optical tracking system may detect the position of the medical tool using only the second marker detection signal when occlusion occurs in the optical tracker.

광학 추적 시스템은 칼만필터에 기초하여 의료 도구의 위치를 검출할 수 있다. 광학 추적 시스템은 폐색이 발생하지 않은 경우, 제1 위치 데이터 및 제2 위치 데이터를 융합할 수 있다. 그리고, 광학 추적 시스템은 폐색이 발생한 경우, 제2 위치 데이터만으로 의료 도구의 위치를 검출할 수 있다. 광학 추적 시스템은 칼만필터를 이용하여 제2 위치 데이터의 노이즈를 제거할 수 있다.The optical tracking system can detect the position of the medical instrument based on the Kalman filter. The optical tracking system can fuse the first positional data and the second positional data if no occlusion occurs. And, when the occlusion occurs, the optical tracking system can detect the position of the medical instrument only with the second position data. The optical tracking system may use a Kalman filter to remove noise in the second position data.

상술한 다양한 실시 예에 따른 광학 추적 시스템의 제어 방법은 프로그램으로 구현되어 프로그램이 저장된 비일시적 판독 가능 매체(non-transitory computer readable medium)가 제공될 수 있다.The control method of the optical tracking system according to the above-described various embodiments may be implemented as a program to provide a non-transitory computer readable medium in which the program is stored.

비일시적 판독 가능 매체란 레지스터, 캐쉬, 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 구체적으로는, 상술한 다양한 어플리케이션 또는 프로그램들은 CD, DVD, 하드 디스크, 블루레이 디스크, USB, 메모리카드, ROM 등과 같은 비일시적 판독 가능 매체에 저장되어 제공될 수 있다. The non-transitory readable medium refers to a medium that stores data semi-permanently and is readable by a device, not a medium storing data for a short time such as a register, a cache, a memory, and the like. Specifically, the various applications or programs described above may be stored and provided in a non-transitory readable medium such as a CD, a DVD, a hard disk, a Blu-ray disk, a USB, a memory card, a ROM, or the like.

또한, 이상에서는 본 발명의 바람직한 실시 예에 대하여 도시하고 설명하였지만, 본 발명은 상술한 특정의 실시 예에 한정되지 아니하며, 청구범위에서 청구하는 본 발명의 요지를 벗어남이 없이 당해 발명이 속하는 기술분야에서 통상의 지식을 가진 자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형실시들은 본 발명의 기술적 사상이나 전망으로부터 개별적으로 이해되어져서는 안될 것이다.In addition, although the preferred embodiment of the present invention has been shown and described above, the present invention is not limited to the above-described specific embodiment, the technical field to which the invention belongs without departing from the spirit of the invention claimed in the claims. Of course, various modifications can be made by those skilled in the art, and these modifications should not be individually understood from the technical spirit or the prospect of the present invention.

110: 제1 마커 120: 제2 마커
130: 광추적기 140: 비전센서
150: 프로세서
110: first marker 120: second marker
130: light tracker 140: vision sensor
150: processor

Claims (8)

의료 도구;
상기 의료 도구의 일단에 장착된 제1 마커;
환부에 배치되는 제2 마커 및 제3 마커;
상기 제1 마커 및 상기 제3 마커의 위치를 감지하여 제1 마커 감지 신호 및 제3 마커 감지 신호를 생성하는 광추적기;
상기 의료 도구의 타단을 향해 장착되고, 상기 제2 마커의 위치를 감지하여 제2 마커 감지 신호를 생성하는 비전센서; 및
상기 광추적기에서 생성된 제1 마커 감지 신호, 제3 마커 감지 신호 및 상기 비전센서에서 생성된 제2 마커 감지 신호를 수신하며, 상기 제1 마커 감지 신호에 기초하여 상기 의료 도구의 제1 위치 데이터를 산출하고, 상기 제2 마커 감지 신호에 기초하여 상기 의료 도구의 제2 위치 데이터를 산출하고, 상기 제3 마커 감지 신호에 기초하여 상기 의료 도구의 제3 위치 데이터를 산출하고, 상기 제1 위치 데이터 내지 제3 위치 데이터에 기초하여 상기 의료 도구의 위치를 검출하는 프로세서;를 포함하며,
상기 제1 내지 제3 마커는 복수 개의 포인트를 포함하고,
상기 프로세서는,
상기 광추적기에서 폐색(occlusion)이 발생하지 않은 경우, 상기 제1 내지 제3 마커 감지 신호를 모두 이용하여 상기 의료 도구의 위치 데이터를 산출하고, 칼만 필터를 기초로 상기 제1 내지 제3 위치 데이터를 융합하여 상기 의료 도구의 위치를 검출하고,
상기 광추적기에서 폐색(occlusion)이 발생하는 경우, 상기 제1 내지 제3 마커 감지 신호 중 수신된 마커 감지 신호를 이용하여 상기 의료 도구의 위치 데이터를 산출하고, 칼만 필터를 기초로 상기 산출된 위치 데이터를 융합하고 노이즈를 제거하여 상기 의료 도구의 위치를 검출하는, 광학 추적 시스템.
Medical tools;
A first marker mounted to one end of the medical tool;
A second marker and a third marker disposed on the affected area;
An optical tracker that detects positions of the first marker and the third marker to generate a first marker detection signal and a third marker detection signal;
A vision sensor mounted toward the other end of the medical tool and generating a second marker detection signal by detecting a position of the second marker; And
Receives a first marker detection signal, a third marker detection signal and a second marker detection signal generated by the vision sensor generated by the optical tracker, and based on the first marker detection signal, first position data of the medical tool. Calculate the second position data of the medical instrument based on the second marker detection signal, calculate the third position data of the medical instrument based on the third marker detection signal, and calculate the first position. And a processor for detecting a position of the medical instrument based on data to third position data.
The first to third markers include a plurality of points,
The processor,
When occlusion does not occur in the optical tracker, the position data of the medical tool is calculated using all of the first to third marker detection signals, and the first to third position data are based on the Kalman filter. Fusing to detect the position of the medical tool,
When occlusion occurs in the optical tracker, the position data of the medical tool is calculated using the received marker detection signal among the first to third marker detection signals, and the calculated position is based on the Kalman filter. Optical tracking system for fusing data and removing noise to detect the position of the medical tool.
제1항에 있어서,
상기 프로세서는,
상기 제1 마커 감지 신호에 기초하여 상기 의료 도구의 제1 자세 데이터를 더 산출하고, 상기 제2 마커 감지 신호에 기초하여 상기 의료 도구의 제2 자세 데이터를 더 산출하는 광학 추적 시스템.
The method of claim 1,
The processor,
And further calculating first posture data of the medical instrument based on the first marker detection signal and further calculating second posture data of the medical instrument based on the second marker detection signal.
제2항에 있어서,
상기 의료 도구의 제1 및 제2 자세 데이터는,
롤(roll), 피치(pitch), 요(yaw) 정보를 포함하는 광학 추적 시스템.
The method of claim 2,
The first and second posture data of the medical tool,
Optical tracking system that includes roll, pitch, and yaw information.
제1항에 있어서,
상기 프로세서는,
체커보드 및 상기 의료 도구의 움직임에 기초하여 상기 제1 위치 데이터와 관련된 좌표계와 상기 제2 위치 데이터와 관련된 좌표계를 일치시키는 광학 추적 시스템.
The method of claim 1,
The processor,
An optical tracking system for matching a coordinate system associated with the first position data with a coordinate system associated with the second position data based on movement of a checkerboard and the medical instrument.
제1항에 있어서,
상기 비전센서는,
매 프레임마다 상기 제2 마커의 위치를 감지하여 상기 제2 마커 감지 신호를 생성하는 광학 추적 시스템.
The method of claim 1,
The vision sensor,
And detecting the position of the second marker every frame to generate the second marker detection signal.
삭제delete 삭제delete 광학 추적 시스템의 제어 방법에 있어서,
광추적기가 의료 도구의 일단에 장착된 제1 마커의 위치를 감지하여 제1 마커 감지 신호를 생성하는 단계;
상기 광추적기가 환부 근처에 배치된 제3 마커의 위치를 감지하여 제3 마커 감지 신호를 생성하는 단계;
상기 의료 도구의 타단을 향해 장착된 비전센서가 환부에 배치되는 제2 마커의 위치를 감지하여 제2 마커 감지 신호를 생성하는 단계;
상기 제1 마커 감지 신호, 상기 제2 마커 감지 신호 및 상기 제3 마커 감지 신호를 수신하는 단계;
상기 제1 마커 감지 신호에 기초한 상기 의료 도구의 제1 위치 데이터, 상기 제2 마커 감지 신호에 기초한 상기 의료 도구의 제2 위치 데이터 및 상기 제3 마커 감지 신호에 기초한 상기 의료 도구의 제3 위치 데이터를 산출하는 단계; 및
칼만 필터를 기초로 상기 제1 내지 제3 위치 데이터를 융합하여 상기 의료 도구의 위치를 검출하는 단계;를 포함하며.
상기 제1 내지 제3 마커는 복수 개의 포인트를 포함하고,
상기 의료 도구의 위치 데이터를 산출하는 단계는,
상기 광추적기에서 폐색(occlusion)이 발생하지 않은 경우, 상기 제1 내지 제3 마커 감지 신호를 모두 이용하여 상기 의료 도구의 위치 데이터를 산출하고,
상기 광추적기에서 폐색(occlusion)이 발생하는 경우, 상기 제1 내지 제3 마커 감지 신호 중 수신된 마커 감지 신호를 이용하여 상기 의료 도구의 위치 데이터를 산출하며,
상기 의료 도구의 위치를 검출하는 단계는,
상기 광추적기에서 폐색(occlusion)이 발생하지 않은 경우, 칼만 필터를 기초로 상기 제1 내지 제3 위치 데이터를 융합하여 상기 의료 도구의 위치를 검출하고,
상기 광추적기에서 폐색(occlusion)이 발생하는 경우, 칼만 필터를 기초로 상기 제1 내지 제3 위치 데이터 중 산출된 위치 데이터를 융합하고 노이즈를 제거하여 상기 의료 도구의 위치를 검출하는, 광학 추적 시스템의 제어 방법.
In the control method of the optical tracking system,
Generating a first marker detection signal by detecting a position of the first marker mounted at one end of the medical instrument;
Generating a third marker detection signal by detecting the position of the third marker disposed near the affected part by the optical tracker;
Generating a second marker detection signal by detecting a position of a second marker disposed on the affected part by a vision sensor mounted toward the other end of the medical instrument;
Receiving the first marker detection signal, the second marker detection signal, and the third marker detection signal;
First position data of the medical instrument based on the first marker detection signal, second position data of the medical instrument based on the second marker detection signal, and third position data of the medical instrument based on the third marker detection signal Calculating; And
And fusing the first to third positional data based on a Kalman filter to detect the position of the medical instrument.
The first to third markers include a plurality of points,
Computing the position data of the medical tool,
When occlusion has not occurred in the optical tracker, the position data of the medical tool is calculated using all of the first to third marker detection signals,
When occlusion occurs in the optical tracker, position data of the medical tool is calculated by using the received marker detection signal among the first to third marker detection signals.
Detecting the position of the medical tool,
When occlusion has not occurred in the optical tracker, the first to third positional data are fused based on the Kalman filter to detect the position of the medical instrument.
When occlusion occurs in the optical tracker, an optical tracking system for detecting the position of the medical tool by fusing the calculated position data among the first to third position data and removing noise based on a Kalman filter. Control method.
KR1020170096873A 2017-07-31 2017-07-31 Optical tracking system and controlling method thereof KR102019482B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020170096873A KR102019482B1 (en) 2017-07-31 2017-07-31 Optical tracking system and controlling method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020170096873A KR102019482B1 (en) 2017-07-31 2017-07-31 Optical tracking system and controlling method thereof

Publications (2)

Publication Number Publication Date
KR20190012999A KR20190012999A (en) 2019-02-11
KR102019482B1 true KR102019482B1 (en) 2019-09-06

Family

ID=65370027

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020170096873A KR102019482B1 (en) 2017-07-31 2017-07-31 Optical tracking system and controlling method thereof

Country Status (1)

Country Link
KR (1) KR102019482B1 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102371510B1 (en) * 2018-12-26 2022-03-07 주식회사 지메디텍 Medical system and control method thereof
CN111407406B (en) * 2020-03-31 2022-04-26 武汉联影智融医疗科技有限公司 Head position identification system, intraoperative control system and control method

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009045827A2 (en) 2007-09-30 2009-04-09 Intuitive Surgical, Inc. Methods and systems for tool locating and tool tracking robotic instruments in robotic surgical systems

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101371382B1 (en) * 2012-04-27 2014-03-07 경북대학교 산학협력단 Radioscopic system
KR101449830B1 (en) * 2013-01-28 2014-10-14 동국대학교 산학협력단 Apparatus for tracing diagnosis site, device for tracing diagnosis site and diagnosis device
KR20140126473A (en) * 2013-04-23 2014-10-31 삼성전자주식회사 Marker and method for estimating surgical instrument pose using the same

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009045827A2 (en) 2007-09-30 2009-04-09 Intuitive Surgical, Inc. Methods and systems for tool locating and tool tracking robotic instruments in robotic surgical systems

Also Published As

Publication number Publication date
KR20190012999A (en) 2019-02-11

Similar Documents

Publication Publication Date Title
US10593052B2 (en) Methods and systems for updating an existing landmark registration
JP4642538B2 (en) Image processing method and image processing apparatus
JP2018532199A5 (en)
Gsaxner et al. Inside-out instrument tracking for surgical navigation in augmented reality
US10839544B2 (en) Information processing apparatus, information processing method, and non-transitory computer readable storage medium
EP3057064B1 (en) Pose determination from a pattern of four leds
US9823741B2 (en) Method for selecting an information source for display on smart glasses
WO2019012770A1 (en) Imaging device and monitoring device
CN111278380B (en) System for tracking the position of a target object
US11093032B2 (en) Sight line direction estimation device, sight line direction estimation method, and sight line direction estimation program
US20220175464A1 (en) Tracker-Based Surgical Navigation
JP2011504769A (en) Optical tracking CAS system
EP3381398B1 (en) System for identifying position of marker for orthopedic surgery
CN109155055B (en) Region-of-interest image generating device
EP3108266A1 (en) Estimation and compensation of tracking inaccuracies
KR102019482B1 (en) Optical tracking system and controlling method thereof
KR20150067682A (en) Apparatus and method for tracking objects with optimizing region of interest
KR20210042011A (en) Posture tracking method and apparatus performing the same
US10902610B2 (en) Moving object controller, landmark, and moving object control method
JP2021505898A (en) Methods, positioning systems, trackers and computer programs for determining the current position of an object
JP2017117211A (en) Detection device, method, and program
US11600012B2 (en) Display of a virtual object linked to a real object in an augmented reality display device
US11704815B2 (en) Tracking device, tracking method, and tracking system
US20220382065A1 (en) Information processing device, information processing method, and information processing program
KR102488901B1 (en) Method and system for tracking patient position during surgery

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant