WO2015183049A1 - 옵티컬 트래킹 시스템 및 옵티컬 트래킹 시스템의 마커부 자세 산출방법 - Google Patents

옵티컬 트래킹 시스템 및 옵티컬 트래킹 시스템의 마커부 자세 산출방법 Download PDF

Info

Publication number
WO2015183049A1
WO2015183049A1 PCT/KR2015/005442 KR2015005442W WO2015183049A1 WO 2015183049 A1 WO2015183049 A1 WO 2015183049A1 KR 2015005442 W KR2015005442 W KR 2015005442W WO 2015183049 A1 WO2015183049 A1 WO 2015183049A1
Authority
WO
WIPO (PCT)
Prior art keywords
coordinate
pattern
matrix
lens
coordinates
Prior art date
Application number
PCT/KR2015/005442
Other languages
English (en)
French (fr)
Inventor
이현기
채유성
김민영
Original Assignee
주식회사 고영테크놀러지
경북대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 고영테크놀러지, 경북대학교 산학협력단 filed Critical 주식회사 고영테크놀러지
Priority to JP2017515654A priority Critical patent/JP6370478B2/ja
Priority to US15/314,669 priority patent/US10229506B2/en
Priority to EP15799209.0A priority patent/EP3151195B1/en
Priority to CN201580028419.0A priority patent/CN106462977B/zh
Publication of WO2015183049A1 publication Critical patent/WO2015183049A1/ko
Priority to US16/179,160 priority patent/US10388024B2/en

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/70—Determining position or orientation of objects or cameras
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/70—Determining position or orientation of objects or cameras
    • G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10056—Microscopic image
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30204—Marker

Definitions

  • the present invention relates to an optical tracking system and a method of calculating a marker part of an optical tracking system, and more particularly, to an optical tracking system and a method of calculating a marker part of an optical tracking system using pattern information.
  • an optical tracking system is used to track the position of a given object.
  • the optical tracking system can be utilized to track an object in real time in equipment such as surgical robots.
  • the optical tracking system typically includes a plurality of markers attached to a target object and imaging units for imaging light emitted by the markers, and mathematically calculating information obtained from the imaging units to obtain position information and the like. do.
  • the conventional optical tracking system has a disadvantage in that the size of the equipment is increased by including a plurality of markers, and thus may be inappropriate in the case of tracking requiring small precision.
  • an object of the present invention is to provide an optical tracking system that can accurately and easily track markers.
  • Another problem to be solved by the present invention is to provide a method of calculating a marker part of an optical tracking system applicable to the optical tracking system.
  • the optical tracking system includes a marker part, an imaging part, and a processing part.
  • the marker unit includes a pattern having specific information and a first lens disposed to be spaced apart from the pattern and having a first focal length.
  • the imaging unit includes a second lens having a second focal length and an imaging unit disposed to be spaced apart from the second lens, and the image of the pattern being formed by the first lens and the second lens.
  • the processor determines a pose of the marker unit from a coordinate conversion equation between coordinates on the pattern surface of the pattern and pixel coordinates on the image of the pattern, and tracks the marker unit using the determined pose of the marker unit.
  • the processing unit a first transformation for converting a first coordinate corresponding to the actual coordinates on the pattern surface of the pattern to a second coordinate corresponding to the three-dimensional local coordinates for the first lens of the marker unit Obtain a second transformation matrix for converting a matrix and a third coordinate corresponding to a three-dimensional local coordinate with respect to the second lens of the second coordinate to a fourth coordinate corresponding to a pixel coordinate on an image of the pattern of the imaging unit
  • the coordinate transformation equation may be defined to convert the first coordinate into the fourth coordinate including the first transformation matrix and the second transformation matrix, and the processing unit may generate the posture of the marker unit from the coordinate transformation equation. It is possible to obtain a posture definition matrix that defines.
  • the coordinate transformation equation may be defined by the following equation.
  • the first transformation matrix may be defined by the following equation.
  • the processor may obtain data of the first coordinate and the fourth coordinate from at least three captured images, and apply the obtained data to the following equation to calibrate values of u c , v c, and f b .
  • the first transform matrix can be obtained by obtaining.
  • the second transformation matrix may be defined by the following equation.
  • the processing unit may obtain data of the first coordinates and the fourth coordinates from at least three captured images, and apply the obtained data to the following equation to obtain calibration values of f c , pw and ph. By doing so, the second transform matrix can be obtained.
  • the processor may acquire a plurality of data for the first coordinate and the fourth coordinate, and obtain the posture definition matrix by the following equation to which the obtained plurality of data is applied.
  • the processor may acquire a plurality of data for the first coordinate and the fourth coordinate, and obtain the posture definition matrix by the following equation to which the obtained plurality of data is applied.
  • ((u 1 , v 1 ), ..., (u n , v n ) are the data of the first coordinate
  • (u ' 1 , v' 1 ), ..., (u ' n , v' n ) are the Data of four coordinates
  • (u ' c , v' c ) is the pixel coordinate on the image of the pattern corresponding to the center of the pattern
  • f c is the second focal length
  • pw is the width of the pixel of the image of the pattern
  • ph is the height of the pixels of the image of the pattern
  • a method of calculating a marker part attitude of an optical tracking system includes a pattern including a pattern having specific information and a first lens spaced apart from the pattern and having a first focal length ( and an imaging unit including a second lens having a second focal length and an imaging unit disposed to be spaced apart from the second lens and forming an image of the pattern by the first lens and the second lens.
  • the method of calculating a marker part attitude of the optical tracking system includes converting a first coordinate corresponding to an actual coordinate on a pattern surface of the pattern into a second coordinate corresponding to a three-dimensional local coordinate with respect to the first lens of the marker part.
  • the coordinate transformation equation may be defined by the following equation.
  • the first transformation matrix may be defined by the following equation,
  • the second transformation matrix may be defined by the following equation.
  • the marker portion in an optical tracking system for tracking a marker portion, can be miniaturized by including a pattern of specific information so as to enable tracking, and by modeling the optical system of the marker portion and the image forming portion by coordinate transformation formula, Since the posture of the marker unit can be determined, accurate tracking of the marker unit can be possible in a simpler and easier way.
  • FIG. 1 is a conceptual diagram illustrating an optical tracking system according to an embodiment of the present invention.
  • FIG. 2 is a flowchart schematically illustrating a problem solving process required for a processing unit of the optical tracking system of FIG. 1 to determine a posture of a marker unit.
  • FIG. 3 is a flowchart illustrating a process of modeling a system in the problem solving process of FIG. 2.
  • FIG. 4 is a conceptual diagram illustrating a process of modeling the system of FIG. 3.
  • FIG. 5 is a flowchart illustrating a process of calibrating a second transform matrix during the problem solving process of FIG. 2.
  • FIG. 6 is a flowchart illustrating a process of calibrating a first transform matrix in the problem solving process of FIG. 2.
  • FIG. 7 is a flowchart illustrating an example of a process of obtaining a posture definition matrix in the problem solving process of FIG. 2.
  • FIG. 8 is a flowchart illustrating another example of a process of obtaining a posture definition matrix in the problem solving process of FIG. 2.
  • FIG. 9 is a flowchart illustrating a method of calculating a marker posture of an optical tracking system according to an exemplary embodiment of the present invention.
  • first and second may be used to describe various components, but the components should not be limited by the terms. The terms are used only for the purpose of distinguishing one component from another.
  • the first component may be referred to as the second component, and similarly, the second component may also be referred to as the first component.
  • FIG. 1 is a conceptual diagram illustrating an optical tracking system according to an embodiment of the present invention.
  • the optical tracking system 100 includes a marker unit 110, an image forming unit 120, and a processing unit 130.
  • the marker unit 110 includes a pattern 112 and a first lens 114.
  • the pattern 112 has specific information.
  • the specific information is information that can be recognized for tracking in the imaging unit 120, which will be described later.
  • the one-dimensional pattern similar to a bar code and two similar to a QR code Dimensional patterns and the like.
  • the first lens 114 is spaced apart from the pattern 112 and has a first focal length.
  • the separation distance between the first lens 114 and the pattern 112 may allow the imaging unit 120, which will be described later, to image and track the pattern 112 even at a distance. It may be equal to the first focal length of (114).
  • bundles of rays with respect to the pattern 112 passing through the first lens 114 may be parallel to each other.
  • the first lens 114 may perform a function similar to that of an objective lens of a microscope.
  • the marker unit 110 may not include a light source. In this case, the marker unit 110 may be used as a passive marker using an illumination located outside. Alternatively, the marker unit 110 may include a light source. In this case, the marker unit 110 may be used as an active marker using self illumination.
  • the imaging unit 120 includes a second lens 122 and an imaging unit 124.
  • the second lens 122 has a second focal length.
  • the second lens 122 may perform a function similar to that of the eyepiece of the microscope, for example.
  • the imaging unit 124 is spaced apart from the second lens 122 and the image of the pattern 112 is formed by the first lens 114 and the second lens 122.
  • the separation distance between the imaging unit 124 and the second lens 122 may form an optical bundle for the pattern 112 parallel to each other through the first lens 114.
  • the second focal length may be the same as the second focal length of the second lens 122.
  • the imaging unit 124 may include an image sensor such as a charge coupled device (CCD), a complementary metal-oxide semiconductor (CMOS), or the like.
  • the processor 130 determines the posture of the marker unit 110 from a coordinate conversion equation between coordinates on the pattern surface of the pattern 112 and pixel coordinates on the image of the pattern 112.
  • the processor 130 tracks the marker unit 110 using the determined posture of the marker unit 110.
  • the processing unit 130 may include, for example, a computer or more specifically a central processing unit (CPU).
  • FIG. 2 is a flowchart schematically illustrating a problem solving process required for a processing unit of the optical tracking system of FIG. 1 to determine a posture of a marker unit.
  • system modeling is performed on the optical tracking system 100 having the above-described configuration (S100).
  • the coordinate transformation between the coordinates on the pattern surface of the pattern 112 and the pixel coordinates on the image of the pattern 112 is based on the optical system of the optical tracking system 100. Since it is made by, by modeling the coordinate transformation according to the optical system of the optical tracking system 100 can set the coordinate transformation equation. In this case, the coordinate transformation according to the optical system of the optical tracking system 100 may be modeled by the optical system of each of the marker unit 110 and the image forming unit 120 and the relationship between them.
  • Coordinates on the pattern surface of the pattern 112 shown in FIG. 1 are first coordinates, three-dimensional coordinates of the first lens 114 of the first coordinates are second coordinates, and the second coordinates of the second coordinates.
  • the first transformation matrix is The matrix transforms the first coordinates into the second coordinates
  • the second transform matrix is a matrix converting the third coordinates into the fourth coordinates.
  • the coordinate transformation equation obtained as a result of the system modeling is determined by equations for various parameters of the optical system of the marker unit 110 and the imaging unit 120 shown in FIG. 1, but the parameters cannot be accurately obtained. Since the value may change due to mechanical arrangement, etc., more accurate system modeling may be possible by calibrating the first and second transformation matrices.
  • the posture refers to the direction in which the marker unit 110 is directed
  • the posture definition matrix is a matrix that provides information on the posture of the marker unit 110, and the marker unit 110 from the posture definition matrix. Roll, pitch, yaw, and the like.
  • FIG. 3 is a flowchart illustrating a system modeling process of the problem solving process of FIG. 2, and FIG. 4 is a conceptual diagram illustrating a process of modeling the system of FIG. 3.
  • the center point of the first lens 114 is referred to as the first center point A
  • the center point of the second lens 122 is called the second center point O
  • any point on the pattern 112 is referred to as B.
  • the light passing through the first center point A of the first lens 114 goes straight and the light passing through the first center point A meets the second lens 122.
  • the point D is refracted by the second lens 122 at the point D and formed at the imaging unit 124 is E.
  • the light passing through the first center point A of the first lens 114 and passing through the second center point O of the second lens 122 goes straight, and the point where the light meets the extension line of the line segment DE is referred to as C. .
  • the equation of a straight line for the line segment AO (or line AC)
  • the coordinate of the first center point A is set to (X, Y, Z), and the coordinate of the second center point O is set to (0,0,0), which is the origin. Since the coordinate of the second center point O of the second lens 122 is set as the origin, the three-dimensional local coordinate system for the second lens 122 is the same as the world coordinate system.
  • the coordinates of the pixels (corresponding to the point E) of the image of the pattern 112 formed in the phase are set to (u ', v').
  • the coordinates (u, v) and (u c , v c ) may be set based on, for example, the upper left side of the pattern 112, and the coordinates (u ′, v ′) are, for example, the pattern ( 112 may be set based on the upper left side of the image.
  • the imaging unit 124 when the imaging unit 124 is positioned at the focal length f c of the second lens 122, the z-axis coordinate of the imaging unit 124 is -f c .
  • the equation of straight line L1 is found from line segment AO, where the position of point C is obtained.
  • the equation of straight line L2 is found from line segment AB, where the position of point D is obtained.
  • the equation for straight line L3 is found from line segment DC.
  • the attitude definition matrix defining the attitude of the marker unit 110 is defined as a 3 * 3 matrix [R], and each component of the matrix [R] is r 11 , r 12 , r 13 , r 21 , r 22 ,
  • the world coordinate of point B is the pattern coordinate (u, v) of point B, and the focal length f b of the matrix [R] and the first lens 114.
  • the pixel coordinates (u ', v') of the point E can be represented by the pattern coordinates (u, v) of the point B, the pattern 112 corresponding to the point B and the pattern corresponding to the point E You can define the relationship between images.
  • the relational expression may be represented by a matrix equation as shown in Equation 1 below, and the matrix equation regarding the coordinate transformation may be set as the coordinate transformation formula.
  • (u, v) is the first coordinate
  • (u ', v') is the fourth coordinate
  • [C] is the first transformation matrix
  • [A] is the second transformation matrix
  • [R] Means the posture definition matrix.
  • (u c , v c ) is the coordinate on the pattern surface of the center of the pattern
  • f b is the first focal length
  • f c is the second focal length
  • pw is the width of the pixel of the image of the pattern
  • ph Is the height of the pixels of the image of the pattern.
  • i is a predetermined i-th pattern.
  • the coordinate transformation equation consists of the product of the first and second transformation matrices and the attitude definition matrix described in FIG. 1.
  • the actual coordinates on the pattern surface of the pattern 112 are the first coordinates ((u, v)), and the first lens of the first coordinates.
  • 3D local coordinates (114) for the second coordinates 3D local coordinates (same as the world coordinates) for the second lens 122 of the second coordinates of the third coordinates, and the image forming unit
  • the coordinate transformation formula is used to convert the first coordinates to the second coordinates.
  • [A] [which is a product of a transformation matrix [C], a posture definition matrix [R] for converting the second coordinates to the third coordinates and a second transformation matrix [A] for converting the third coordinates to the fourth coordinates R] [C].
  • the calibration is first performed on the second transform matrix, and then performed on the first transform matrix.
  • FIG. 5 is a flowchart illustrating a process of calibrating a second transform matrix during the problem solving process of FIG. 2.
  • a matrix [B] and a matrix [H] are defined to facilitate mathematical analysis for calibration (S210).
  • Equation 2 when the matrix [B] is defined using the second transform matrix [A], it is represented by Equation 2, and the first transform matrix [C] and the second transform matrix [A] are defined. And a matrix [H] using the posture definition matrix [R], as shown in Equation 3 below.
  • Equation 4 is obtained by multiplying both sides of Equation 3 by A ⁇ 1 .
  • the matrix [B] can be defined as in Equation 5.
  • ⁇ -f c / pw
  • ⁇ -f c / ph
  • f c is the focal length of the second lens 122 of the imaging unit 120
  • pw and ph are the width and height of the pixel, respectively it means.
  • the column vectors b and v ij are defined using Equation 6 using nonzero components of the matrix [B].
  • Equation 7 Using the orthogonality of the matrix [R] in Equation 6, Equation 7 can be obtained.
  • the column vector b may be obtained by using a method such as singular value decomposition (SVD). Finding the column vector b gives us all the components of the matrix [B].
  • SVD singular value decomposition
  • the matrix through a formula (8) to know all of the components of the [B] v 'c, ⁇ , ⁇ , u' can be obtained c (representing the ⁇ , ⁇ as a parameter).
  • the first transform matrix [C] is calibrated using the second transform matrix [A] previously calibrated.
  • FIG. 6 is a flowchart illustrating a process of calibrating a first transform matrix in the problem solving process of FIG. 2.
  • the calibrated matrix [A] is substituted into the matrix [H] to obtain a matrix [R] (S250).
  • Equation 10 is obtained by substituting the second transform matrix [A] of Equation 9 into Equation 3 and arranging [R] [C] of Equation 1.
  • the product of the matrix [A] and the matrix [R] is defined as the matrix [HK], substituted into the coordinate transformation equation of Equation 1, and arranged to be composed of the components of the matrix [HK] and the matrix [C].
  • the matrix [HK] can be obtained by using the matrix [A] obtained from Equation 9 and the matrix [R] obtained from Equation 11, and when applied to the coordinate conversion equation of Equation 1, the matrix [HK] and the matrix [ Equation 12 consisting of the components of C] is obtained.
  • the matrix [AA], the matrix [BB], and the matrix [CC] can be defined using Equation 13 using the matrix [HK].
  • FIG. 7 is a flowchart illustrating an example of a process of obtaining a posture definition matrix in the problem solving process of FIG. 2.
  • Equation 14 can be obtained by setting this as an equation.
  • the matrix [H] is obtained using, for example, a method such as singular value decomposition (SVD) (S320a).
  • SVD singular value decomposition
  • Equation 15 is obtained.
  • Equation 15 2n equations of Equation 15 are obtained using a method such as singular value decomposition (SVD) as an example.
  • SVD singular value decomposition
  • the posture definition matrix may be obtained in other ways.
  • FIG. 8 is a flowchart illustrating another example of a process of obtaining a posture definition matrix in the problem solving process of FIG. 2.
  • Equation 16 is obtained.
  • the matrix [R] is obtained using, for example, a method such as singular value decomposition (SVD) (S330b).
  • SVD singular value decomposition
  • Equation 16 2n equations of Equation 16 are obtained using a method such as singular value decomposition (SVD).
  • SVD singular value decomposition
  • the posture of the marker unit 110 may be calculated by applying the system modeling process and the method of obtaining the posture definition matrix [R] to the optical tracking system 100 shown in FIG. 1.
  • FIG. 9 is a flowchart illustrating a method of calculating a marker posture of an optical tracking system according to an exemplary embodiment of the present invention.
  • the processor 130 first calibrates first and second transform matrices from at least three images (S510).
  • the calibration is substantially the same as the process of step S200 described in FIG. 2 and the steps S210 to S280 described in detail in FIGS. 5 and 6, and the processing unit 130 includes steps S230 and S280 of the process.
  • the first and second transformation matrices may be calibrated using only the final equation for calibration.
  • an attitude definition matrix is obtained from a coordinate transformation equation including the first and second transformation matrices (S520).
  • the attitude definition matrix is substantially the same as the process of step S300 described in FIG. 2, steps S310 to S330a, and steps S310 to S330b described in detail with reference to FIGS. 7 and 8, and the processing unit 130.
  • the attitude definition matrix may be obtained using only the final equation for acquiring the attitude definition matrix as in steps S320a and S320a, or step S320b.
  • the processor 130 preliminarily obtains a first transformation matrix for converting the first coordinates to the second coordinates and a second transformation matrix for converting the third coordinates to the fourth coordinates in advance. From the coordinate transformation equation, an attitude definition matrix defining the attitude of the marker unit 110 may be obtained.
  • the posture of the marker unit 110 may be obtained by obtaining the posture definition matrix.
  • the roll, pitch, yaw, and the like of the marker unit 110 may be grasped from the posture defining matrix.
  • the marker portion including the pattern of the specific information can be miniaturized so that the tracking is possible, and the optical system of the marker portion and the image forming unit coordinate conversion type Since the posture of the marker may be determined by modeling, it may be possible to accurately track the marker in a simpler and easier manner.
  • optical tracking system 110 marker portion
  • Pattern 114 First lens
  • imaging portion 122 second lens
  • imaging unit 130 processing unit

Abstract

옵티컬 트래킹 시스템은 마커부, 결상부 및 처리부를 포함한다. 마커부는 특정정보를 갖는 패턴 및 패턴으로부터 이격되어 배치되며 제1 초점거리를 갖는 제1 렌즈를 포함한다. 결상부는 제2 초점거리를 갖는 제2 렌즈 및 제2 렌즈로부터 이격되어 배치되며 제1 렌즈와 제2 렌즈에 의하여 패턴의 이미지가 결상되는 결상유닛을 포함한다. 처리부는 패턴의 패턴면 상의 좌표와 패턴의 이미지 상의 픽셀좌표 사이의 좌표변환식으로부터 마커부의 자세를 결정하고, 결정된 마커부의 자세를 이용하여 마커부를 트래킹한다. 이에 따라, 보다 단순하고 용이한 방법으로 정확한 마커부를 트래킹할 수 있다.

Description

옵티컬 트래킹 시스템 및 옵티컬 트래킹 시스템의 마커부 자세 산출방법
본 발명은 옵티컬 트래킹 시스템 및 옵티컬 트래킹 시스템의 마커부 자세 산출방법에 관한 것으로, 더욱 상세하게는 패턴정보를 이용한 옵티컬 트래킹 시스템 및 옵티컬 트래킹 시스템의 마커부 자세 산출방법에 관한 것이다.
일반적으로, 소정의 물체의 위치를 추적하기 위하여 옵티컬 트래킹 시스템(optical tracking system)이 사용된다. 예를 들면, 상기 옵티컬 트래킹 시스템은 수술로봇과 같은 장비에서 목적물을 실시간으로 추적하기 위하여 활용될 수 있다.
상기 옵티컬 트래킹 시스템은 통상 목적물에 부착되는 복수의 마커들과 상기 마커들에 의해 방출되는 광을 결상시키는 결상유닛들을 포함하고, 상기 결상유닛들로부터 획득된 정보를 수학적으로 계산하여 위치정보 등을 획득한다.
그러나, 종래의 옵티컬 트래킹 시스템은 복수의 마커들을 포함함으로써 장비의 크기가 커지는 단점이 있으며, 이에 따라 소형의 정밀성이 요구되는 트래킹의 경우 부적절할 수 있다.
따라서, 마커를 단순화하면서도 정확하고 용이하게 트래킹할 수 있는 옵티컬 트래킹 시스템이 요청된다.
따라서, 본 발명이 해결하고자 하는 과제는 마커를 단순화하면서도 정확하고 용이하게 트래킹할 수 있는 옵티컬 트래킹 시스템을 제공하는 것이다.
본 발명이 해결하고자 하는 다른 과제는 상기한 옵티컬 트래킹 시스템에 적용 가능한 옵티컬 트래킹 시스템의 마커부 자세 산출방법을 제공하는 것이다.
본 발명의 예시적인 일 실시예에 따른 옵티컬 트래킹 시스템은 마커(marker)부, 결상부 및 처리부를 포함한다. 상기 마커부는 특정정보를 갖는 패턴(pattern) 및 상기 패턴으로부터 이격되어 배치되며 제1 초점거리를 갖는 제1 렌즈를 포함한다. 상기 결상부는 제2 초점거리를 갖는 제2 렌즈 및 상기 제2 렌즈로부터 이격되어 배치되며 상기 제1 렌즈와 상기 제2 렌즈에 의하여 상기 패턴의 이미지가 결상되는 결상유닛을 포함한다. 상기 처리부는 상기 패턴의 패턴면 상의 좌표와 상기 패턴의 이미지 상의 픽셀좌표 사이의 좌표변환식으로부터 상기 마커부의 자세를 결정하고, 결정된 상기 마커부의 자세를 이용하여 상기 마커부를 트래킹한다.
일 실시예로, 상기 처리부는, 상기 패턴의 패턴면 상의 실제좌표에 해당하는 제1 좌표를 상기 마커부의 상기 제1 렌즈에 대한 3차원적 로컬좌표에 해당하는 제2 좌표로 변환하는 제1 변환행렬 및 상기 제2 좌표의 상기 제2 렌즈에 대한 3차원적 로컬좌표에 해당하는 제3 좌표를 상기 결상부의 상기 패턴의 이미지 상의 픽셀좌표에 해당하는 제4 좌표로 변환하는 제2 변환행렬을 획득할 수 있고, 상기 좌표변환식은 상기 제1 변환행렬 및 상기 제2 변환행렬을 포함하여 상기 제1 좌표를 상기 제4 좌표로 변환하도록 정의될 수 있으며, 상기 처리부는 상기 좌표변환식으로부터 상기 마커부의 자세를 정의하는 자세정의행렬을 획득할 수 있다.
상기 좌표변환식은 하기 수학식에 의하여 정의될 수 있다.
Figure PCTKR2015005442-appb-I000001
((u,v)는 상기 제1 좌표, (u',v')는 상기 제4 좌표, [C]는 상기 제1 변환행렬, [A]는 상기 제2 변환행렬, [R]은 상기 자세정의행렬, s는 비례상수)
상기 제1 변환행렬은 하기 수학식에 의하여 정의될 수 있다.
Figure PCTKR2015005442-appb-I000002
((uc,vc)는 상기 패턴의 중심의 실제좌표, fb는 상기 제1 초점거리)
상기 처리부는, 적어도 3개 이상의 촬영 이미지로부터 상기 제1 좌표 및 상기 제4 좌표의 데이터를 획득할 수 있고, 상기 획득된 데이터를 하기 수학식에 적용하여 uc, vc 및 fb의 캘리브레이션 값을 획득함으로써 상기 제1 변환행렬을 획득할 수 있다.
상기 제2 변환행렬은 하기 수학식에 의하여 정의될 수 있다.
Figure PCTKR2015005442-appb-I000003
((u'c,v'c)는 상기 패턴의 중심에 대응하는 상기 패턴의 이미지 상의 픽셀좌표, fc는 상기 제2 초점거리, pw는 상기 패턴의 이미지의 픽셀의 폭, ph는 상기 패턴의 이미지의 픽셀의 높이)
상기 처리부는, 적어도 3개 이상의 촬영 이미지로부터 상기 제1 좌표 및 상기 제4 좌표의 데이터를 획득할 수 있고, 상기 획득된 데이터를 하기 수학식에 적용하여 fc, pw, ph의 캘리브레이션 값을 획득함으로써 상기 제2 변환행렬을 획득할 수 있다.
상기 처리부는, 상기 제1 좌표 및 상기 제4 좌표에 대한 복수의 데이터를 획득하고, 상기 획득된 복수의 데이터가 적용된 하기 수학식에 의하여 상기 자세정의행렬을 획득할 수 있다.
Figure PCTKR2015005442-appb-I000004
((u1,v1), …, (un,vn)은 상기 제1 좌표의 데이터, (u'1,v'1), …, (u'n,v'n)은 상기 제4 좌표의 데이터)
상기 처리부는, 상기 제1 좌표 및 상기 제4 좌표에 대한 복수의 데이터를 획득하고, 상기 획득된 복수의 데이터가 적용된 하기 수학식에 의하여 상기 자세정의행렬을 획득할 수 있다.
Figure PCTKR2015005442-appb-I000005
((u1,v1), …, (un,vn)은 상기 제1 좌표의 데이터, (u'1,v'1), …, (u'n,v'n)은 상기 제4 좌표의 데이터, (u'c,v'c)는 상기 패턴의 중심에 대응하는 상기 패턴의 이미지 상의 픽셀좌표, fc는 상기 제2 초점거리, pw는 상기 패턴의 이미지의 픽셀의 폭, ph는 상기 패턴의 이미지의 픽셀의 높이)
본 발명의 예시적인 다른 실시예에 따른 옵티컬 트래킹 시스템의 마커부 자세 산출방법은 특정정보를 갖는 패턴(pattern) 및 상기 패턴으로부터 이격되어 배치되며 제1 초점거리를 갖는 제1 렌즈를 포함하는 마커(marker)부, 및 제2 초점거리를 갖는 제2 렌즈 및 상기 제2 렌즈로부터 이격되어 배치되며 상기 제1 렌즈와 상기 제2 렌즈에 의하여 상기 패턴의 이미지가 결상되는 결상유닛을 포함하는 결상부를 포함하여, 상기 마커부를 트래킹하도록 상기 마커부의 자세를 산출하기 위해 제공된다. 상기 옵티컬 트래킹 시스템의 마커부 자세 산출방법은 상기 패턴의 패턴면 상의 실제좌표에 해당하는 제1 좌표를 상기 마커부의 상기 제1 렌즈에 대한 3차원적 로컬좌표에 해당하는 제2 좌표로 변환하는 제1 변환행렬 및 상기 제2 좌표의 상기 제2 렌즈에 대한 3차원적 로컬좌표에 해당하는 제3 좌표를 상기 결상부의 이미지 상의 픽셀좌표에 해당하는 제4 좌표로 변환하는 제2 변환행렬을 획득하는 단계, 및 상기 제1 변환행렬 및 상기 제2 변환행렬을 포함하며, 상기 제1 좌표를 상기 제4 좌표로 변환하는 좌표변환식으로부터 상기 마커부의 자세를 정의하는 자세정의행렬을 획득하는 단계를 포함한다.
상기 좌표변환식은 하기 수학식에 의하여 정의될 수 있다.
Figure PCTKR2015005442-appb-I000006
((u,v)는 상기 제1 좌표, (u',v')는 상기 제4 좌표, [C]는 상기 제1 변환행렬, [A]는 상기 제2 변환행렬, [R]은 상기 자세정의행렬, s는 비례상수)
상기 제1 변환행렬은 하기 수학식에 의하여 정의될 수 있고,
Figure PCTKR2015005442-appb-I000007
((uc,vc)는 상기 패턴의 중심의 실제좌표, fb는 상기 제1 초점거리)
상기 제2 변환행렬은 하기 수학식에 의하여 정의될 수 있다.
Figure PCTKR2015005442-appb-I000008
((u'c,v'c)는 상기 패턴의 중심에 대응하는 상기 패턴의 이미지 상의 픽셀좌표, fc는 상기 제2 초점거리, pw는 상기 패턴의 이미지의 픽셀의 폭, ph는 상기 패턴의 이미지의 픽셀의 높이)
본 발명에 따르면, 마커부를 트래킹하는 옵티컬 트래킹 시스템에 있어서, 트래킹이 가능하도록 마커부가 특정정보의 패턴을 포함하여 마커부를 소형화할 수 있고, 상기 마커부와 상기 결상부의 광학계를 좌표변환식으로 모델링함으로써 상기 마커부의 자세를 결정할 수 있으므로, 보다 단순하고 용이한 방법으로 정확한 마커부의 트래킹이 가능할 수 있다.
도 1은 본 발명의 일 실시예에 의한 옵티컬 트래킹 시스템을 도시한 개념도이다.
도 2는 도 1의 옵티컬 트래킹 시스템의 처리부가 마커부의 자세를 결정하기 위해 필요한 문제해결 과정을 개략적으로 나타낸 흐름도이다.
도 3은 도 2의 문제해결 과정 중 시스템 모델링을 하는 과정을 나타낸 흐름도이다.
도 4는 도 3의 시스템 모델링을 하는 과정을 설명하기 위한 개념도이다.
도 5는 도 2의 문제해결 과정 중 제2 변환행렬을 캘리브레이션하는 과정을 나타낸 흐름도이다.
도 6은 도 2의 문제해결 과정 중 제1 변환행렬을 캘리브레이션하는 과정을 나타낸 흐름도이다.
도 7은 도 2의 문제해결 과정 중 자세정의행렬을 획득하는 과정의 일 예를 나타낸 흐름도이다.
도 8은 도 2의 문제해결 과정 중 자세정의행렬을 획득하는 과정의 다른 예를 나타낸 흐름도이다.
도 9는 본 발명의 일 실시예에 의한 옵티컬 트래킹 시스템의 마커부 자세 산출방법을 나타낸 흐름도이다.
본 발명은 다양한 변경을 가할 수 있고 여러 가지 형태를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 본문에 상세하게 설명하고자 한다. 그러나, 이는 본 발명을 특정한 개시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.
제1, 제2 등의 용어는 다양한 구성 요소들을 설명하는데 사용될 수 있지만, 상기 구성 요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성 요소를 다른 구성 요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성 요소는 제2 구성 요소로 명명될 수 있고, 유사하게 제2 구성 요소도 제1 구성 요소로 명명될 수 있다.
본 출원에서 사용한 용어는 단지 특정한 실시예들을 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, "포함하다" 또는 "가지다" 등의 용어는 명세서에 기재된 특징, 숫자, 단계, 동작, 구성 요소, 부분품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성 요소, 부분품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 갖는다.
일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥상 가지는 의미와 일치하는 의미를 갖는 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
이하, 첨부한 도면들을 참조하여, 본 발명의 바람직한 실시예들을 보다 상세하게 설명한다.
도 1은 본 발명의 일 실시예에 의한 옵티컬 트래킹 시스템을 도시한 개념도이다.
도 1을 참조하면, 본 발명의 예시적인 일 실시예에 따른 옵티컬 트래킹 시스템(100)은 마커(marker)부(110), 결상부(120) 및 처리부(130)를 포함한다.
상기 마커부(110)는 패턴(pattern)(112) 및 제1 렌즈(114)를 포함한다.
상기 패턴(112)은 특정정보를 갖는다. 예를 들면, 상기 특정정보는 상기 패턴은 후술하는 결상부(120)에서 트래킹을 위하여 인식할 수 있는 정보로서, 바코드(bar code)와 유사한 1차원적 패턴, 큐알코드(QR code)와 유사한 2차원적 패턴 등을 포함할 수 있다.
상기 제1 렌즈(114)는 상기 패턴(112)으로부터 이격되어 배치되며 제1 초점거리를 갖는다. 예를 들면, 상기 제1 렌즈(114)와 상기 패턴(112) 사이의 이격 거리는, 후술되는 결상부(120)가 원거리에서도 상기 패턴(112)을 결상하여 트래킹할 수 있도록, 상기 제1 렌즈(114)의 제1 초점거리와 동일할 수 있다. 이 경우, 상기 제1 렌즈(114)를 통과하는 상기 패턴(112)에 대한 광다발(bundle of rays)은 평행을 이룰 수 있다. 상기 제1 렌즈(114)는, 예를 들면, 현미경의 대물렌즈와 유사한 기능을 수행할 수 있다.
상기 마커부(110)는 광원을 포함하지 않을 수 있으며, 이 경우 상기 마커부(110)는 외부에 위치한 조명을 이용하는 패시브 마커(passive marker)로 활용될 수 있다. 이와는 다르게, 상기 마커부(110)는 광원을 포함할 수도 있으며, 이 경우 상기 마커부(110)는 자체 조명을 이용하는 액티브 마커(active marker)로 활용될 수 있다.
상기 결상부(120)는 제2 렌즈(122) 및 결상유닛(124)을 포함한다.
상기 제2 렌즈(122)는 제2 초점거리를 갖는다. 상기 제2 렌즈(122)는, 예를 들면, 현미경의 접안렌즈와 유사한 기능을 수행할 수 있다.
상기 결상유닛(124)은 상기 제2 렌즈(122)로부터 이격되어 배치되며 상기 제1 렌즈(114)와 상기 제2 렌즈(122)에 의하여 상기 패턴(112)의 이미지가 결상된다. 예를 들면, 상기 결상유닛(124)과 상기 제2 렌즈(122) 사이의 이격 거리는, 상기 제1 렌즈(114)를 통과하여 평행을 이루는 상기 패턴(112)에 대한 광다발을 결상할 수 있도록, 상기 제2 렌즈(122)의 제2 초점거리와 동일할 수 있다. 예를 들면, 상기 결상유닛(124)은 CCD(charge coupled device), CMOS(complementary metal-oxide semiconductor)　등과 같은 이미지 센서를 포함할 수 있다.
상기 처리부(130)는 상기 패턴(112)의 패턴면 상의 좌표와 상기 패턴(112)의 이미지 상의 픽셀좌표 사이의 좌표변환식으로부터 상기 마커부(110)의 자세를 결정한다. 상기 처리부(130)는 결정된 상기 마커부(110)의 자세를 이용하여 상기 마커부(110)를 트래킹한다. 상기 처리부(130)는 예를 들면 컴퓨터 혹은 보다 구체적으로 중앙처리장치(CPU)를 포함할 수 있다.
이하, 상기 처리부(130)의 기능의 근거가 되는 시스템 모델링 과정 및 이에 따라 상기 마커부(110)의 자세를 결정하는 과정을 도면을 참조로 보다 상세하게 설명한다.
도 2는 도 1의 옵티컬 트래킹 시스템의 처리부가 마커부의 자세를 결정하기 위해 필요한 문제해결 과정을 개략적으로 나타낸 흐름도이다.
도 2를 참조하면, 먼저 상술한 구성을 갖는 상기 옵티컬 트래킹 시스템(100)에 대하여 시스템 모델링을 수행한다(S100).
도 1에 도시된 바와 같은 옵티컬 트래킹 시스템(100)에서, 상기 패턴(112)의 패턴면 상의 좌표와 상기 패턴(112)의 이미지 상의 픽셀좌표 사이의 좌표변환은 상기 옵티컬 트래킹 시스템(100)의 광학계에 의해 이루어지므로, 상기 옵티컬 트래킹 시스템(100)의 광학계에 따른 좌표변환을 모델링함으로써 상기 좌표변환식을 설정할 수 있다. 이때, 상기 옵티컬 트래킹 시스템(100)의 광학계에 따른 좌표변환은 상기 마커부(110) 및 상기 결상부(120) 각각의 광학계 및 이들 사이의 관계에 의해 모델링될 수 있다.
이어서, 시스템 모델링의 결과로 획득된 좌표변환식 중 후술되는 제1 및 제2 변환행렬들을 캘리브레이션(calibration)한다(S200).
도 1에 도시된 상기 패턴(112)의 패턴면 상의 좌표를 제1 좌표, 상기 제1 좌표의 상기 제1 렌즈(114)에 대한 3차원적 좌표를 제2 좌표, 상기 제2 좌표의 상기 제2 렌즈(122)에 대한 3차원적 좌표를 제3 좌표, 그리고 상기 결상부(120)의 상기 패턴(112)의 이미지 상의 픽셀좌표를 제4 좌표라 각각 정의할 때, 상기 제1 변환행렬은 상기 제1 좌표를 상기 제2 좌표로 변환하는 행렬이고, 상기 제2 변환행렬은 상기 제3 좌표를 상기 제4 좌표로 변환하는 행렬이다.
상기 시스템 모델링의 결과로 획득된 좌표변환식은 도 1에 도시된 상기 마커부(110) 및 상기 결상부(120)의 광학계의 각종 파라미터들에 대한 식으로 정해지지만, 상기 파라미터들을 정확히 획득할 수 없거나 기구적인 배치 상태 등에 의해 값이 변할 수 있으므로, 상기 제1 및 제2 변환행렬들을 캘리브레이션함으로써 보다 정확한 시스템 모델링이 가능할 수 있다.
다음으로, 캘리브레이션 결과를 이용하여 자세정의행렬을 획득한다(S300)
여기서, 자세는 상기 마커부(110)가 향하고 있는 방향을 의미하며, 상기 자세정의행렬은 상기 마커부(110)의 자세에 대한 정보를 제공하는 행렬로서, 상기 자세정의행렬로부터 상기 마커부(110)의 롤(roll), 피치(pitch), 요(yaw) 등을 파악할 수 있다.
이하, 도 2에 나타난 각 단계에 대해서 도면을 참조로 보다 구체적으로 설명한다.
도 3은 도 2의 문제해결 과정 중 시스템 모델링을 하는 과정을 나타낸 흐름도이고, 도 4는 도 3의 시스템 모델링을 하는 과정을 설명하기 위한 개념도이다.
도 3 및 도 4를 참조하면, 먼저 상기 마커부(110)와 상기 결상부(120) 사이의 광경로에 따른 3개의 직선의 방정식을 획득한다(S110).
구체적으로, 상기 제1 렌즈(114)의 중심점을 제1 중심점 A, 상기 제2 렌즈(122)의 중심점을 제2 중심점 O라 하며, 상기 패턴(112) 상의 임의의 점을 B라 한다. 상기 임의의 점 B에 대한 광이 상기 제1 렌즈(114)의 제1 중심점 A를 통과하는 광은 직진하며, 상기 제1 중심점 A를 통과한 광이 상기 제2 렌즈(122)와 만나는 점을 D라 하고, 상기 D점에서 상기 제2 렌즈(122)에 의해 굴절되어 상기 결상유닛(124)에 결상되는 점을 E라 한다. 또한, 상기 제1 렌즈(114)의 제1 중심점 A를 지나서 상기 제2 렌즈(122)의 제2 중심점 O를 통과하는 광은 직진하며, 이 광이 선분 DE의 연장선과 만나는 점을 C라 한다.
이때, 선분 AO(또는 선분 AC)에 대한 직선의 방정식, 선분 AD 에 대한 직선의 방정식, 및 선분 DC에 대한 직선의 방정식을 도 4에 도시된 바와 같이 각각 L1, L2, 및 L3라 정의한다.
월드좌표계(world coordinate system)에서, 상기 제1 중심점 A의 좌표는 (X,Y,Z), 상기 제2 중심점 O의 좌표는 원점인 (0,0,0)으로 설정한다. 상기 제2 렌즈(122)의 제2 중심점 O의 좌표를 원점으로 설정하므로, 상기 제2 렌즈(122)에 대한 3차원적 로컬좌표계는 상기 월드좌표계와 동일하다.
또한, 상기 패턴(112) 상의 임의의 점(B점에 대응)의 좌표를 (u,v), 상기 패턴(112)의 중심점의 좌표를 (uc,vc), 상기 결상유닛(124)에 결상되는 상기 패턴(112)의 이미지의 픽셀(E점에 대응)의 좌표를 (u',v')로 정한다. 상기 좌표들 (u,v), (uc,vc)는 일 예로 상기 패턴(112)의 좌상측을 기준으로 설정될 수 있으며, 상기 좌표 (u',v')는 일 예로 상기 패턴(112)의 이미지의 좌상측을 기준으로 설정될 수 있다.
한편, 상기 결상유닛(124)을 상기 제2 렌즈(122)의 초점거리 fc에 위치시키면 상기 결상유닛(124)의 z축 좌표는 -fc가 된다.
이상의 정보를 이용하여 상기 세 개의 직선의 방정식들을 차례로 획득한다.
직선 L1의 방정식은 선분 AO로부터 구하고, 여기서 C점의 위치를 획득한다. 직선 L2의 방정식은 선분 AB로부터 구하고, 여기서 D점의 위치를 획득한다. 직선 L3의 방정식은 선분 DC로부터 구한다. 이때, A점과 O점의 월드좌표를 알기 때문에 B점의 월드좌표만 알면 상기 세 개의 직선의 방정식들을 알 수 있다.
상기 마커부(110)의 자세를 정의하는 자세정의행렬을 3*3 행렬 [R]이라 정의하고, 행렬 [R]의 각 성분을 각각 r11, r12, r13, r21, r22, r23, r31, r32, r33라 정의하면, B점의 월드좌표는 B점의 패턴상 좌표 (u,v)를 행렬 [R]과 상기 제1 렌즈(114)의 초점거리 fb를 기초로 변환된 (r11u+r12v+r13fb+X, r21u+r22v+r23fb+Y, r31u+r32v+r33fb+Z)로 정할 수 있다.
따라서, A점, O점 및 B점의 월드좌표로부터 세 개의 직선의 방정식들을 획득할 수 있다.
이어서, 상기 획득된 세 개의 직선의 방정식들로부터 상기 패턴(112) 및 패턴의 이미지 사이의 관계식을 유도한다(S120).
앞서 구한 직선 L3의 방정식에서 E점의 위치(E점의 월드좌표)를 획득할 수 있으므로, 이로부터 E점의 픽셀좌표 (u',v')를 알 수 있다.
이에 따라, E점의 픽셀좌표 (u',v')를 B점의 패턴상 좌표 (u,v)로 나타낼 수 있으므로, B점에 대응하는 상기 패턴(112) 및 E점에 대응하는 패턴의 이미지 사이의 관계식을 정할 수 있다.
다음으로, 상기 관계식을 행렬 방정식으로 표현하여 상기 좌표변환식으로 설정한다(S130).
상기 관계식은 하기 수학식 1과 같은 행렬 방정식으로 표현할 수 있으며, 이러한 좌표변환에 관한 행렬 방정식을 상기 좌표변환식으로 설정할 수 있다.
(수학식 1)
Figure PCTKR2015005442-appb-I000009
여기서, (u,v)는 상기 제1 좌표, (u',v')는 상기 제4 좌표, [C]는 상기 제1 변환행렬, [A]는 상기 제2 변환행렬, 그리고 [R]은 상기 자세정의행렬을 의미한다. 또한, (uc,vc)는 상기 패턴의 중심의 패턴면 상의 좌표, fb는 상기 제1 초점거리, fc는 상기 제2 초점거리, pw는 상기 패턴의 이미지의 픽셀의 폭, ph는 상기 패턴의 이미지의 픽셀의 높이이다. 또한, (ui,vi), (u'i,v'i)에서 i는 소정의 i번째 패턴임을 의미한다.
상기 좌표변환식은 도 1에서 설명한 상기 제1 및 제2 변환행렬 및 상기 자세정의행렬의 곱으로 이루어져 있음을 알 수 있다.
구체적으로, 상기 좌표변환식을 개념적으로 살펴보면, 도 1에서 설명한 바와 같이, 상기 패턴(112)의 패턴면 상의 실제좌표를 제1 좌표((u,v)), 상기 제1 좌표의 상기 제1 렌즈(114)에 대한 3차원적 로컬좌표를 제2 좌표, 상기 제2 좌표의 상기 제2 렌즈(122)에 대한 3차원적 로컬좌표(월드좌표와 동일)를 제3 좌표, 그리고 상기 결상부(120)의 상기 패턴(112)의 이미지 상의 픽셀좌표를 제4 좌표((u',v'))라 각각 정의할 때, 상기 좌표변환식은 상기 제1 좌표를 상기 제2 좌표로 변환하는 제1 변환행렬 [C], 상기 제2 좌표를 상기 제3 좌표로 변환하는 자세정의행렬 [R] 및 상기 제3 좌표를 상기 제4 좌표로 변환하는 제2 변환행렬 [A]의 곱인 [A][R][C]로 나타남을 알 수 있다.
다음으로, 상기 시스템 모델링의 결과로 획득된 좌표변환식 중 상기 제1 및 제2 변환행렬들을 캘리브레이션하는 과정(S200)을 도면을 참조로 보다 상세하게 설명한다.
상기 캘리브레이션은 상기 제2 변환행렬에 대해서 먼저 수행하고, 이어 상기 제1 변환행렬에 대해서 수행한다.
도 5는 도 2의 문제해결 과정 중 제2 변환행렬을 캘리브레이션하는 과정을 나타낸 흐름도이다.
도 5를 참조하면, 먼저 캘리브레이션을 위한 수학적 해석이 용이하도록, 행렬 [B]와 행렬 [H]를 정의한다(S210).
구체적으로, 상기 제2 변환행렬([A])을 이용하여 행렬 [B]를 정의하면 수학식 2와 같고, 상기 제1 변환행렬([C]), 상기 제2 변환행렬([A]) 및 상기 자세정의행렬([R])을 이용하여 행렬 [H]를 정의하면 수학식 3과 같다.
(수학식 2)
Figure PCTKR2015005442-appb-I000010
(수학식 3)
Figure PCTKR2015005442-appb-I000011
여기서, 각 행렬 [A], [B], [C], [H]. [R]은 모두 3*3 형태를 가지며, [H]=[h1, h2, h3], [R]=[r1, r2, r3]로 나타낼 수 있다.
수학식 3의 양변에 A-1를 곱하면 수학식 4가 획득된다.
(수학식 4)
Figure PCTKR2015005442-appb-I000012
이어서, 행렬 [R]의 정규직교성(orthonormality)을 이용하여 [H]와 [B]의 성분으로 이루어진 방정식을 설정한다(S220).
구체적으로, 회전행렬(rotation matrix)에 해당하는 자세정의행렬([R])의 정규직교성을 이용하면, 행렬 [B]를 수학식 5와 같이 정의할 수 있다.
(수학식 5)
Figure PCTKR2015005442-appb-I000013
여기서, α=-fc/pw, β=-fc/ph이며, fc는 상기 결상부(120)의 제2 렌즈(122)의 초점거리, pw와 ph는 각각 픽셀의 폭과 높이를 의미한다.
행렬 [B]의 0이 아닌 성분을 이용하여 열벡터 b와 vij를 수학식 6과 같이 정의한다.
(수학식 6)
Figure PCTKR2015005442-appb-I000014
수학식 6에 행렬 [R]의 정규직교성을 이용하면 수학식 7을 얻을 수 있다.
(수학식 7)
Figure PCTKR2015005442-appb-I000015
다음으로, 3장 이상의 영상 데이터를 [H]에 적용하여 [B]의 해를 구한다(S230).
구체적으로, 적어도 3장 이상의 영상을 수학식 7에 적용한 후, 일 예로 특이값 분해(singular value decomposition, SVD)와 같은 방법을 이용하여 열벡터 b를 구할 수 있다. 열벡터 b를 구하면 행렬 [B]의 모든 성분을 알 수 있다.
이어서, 최종적으로 캘리브레이션된 [A]를 획득한다(S240).
구체적으로, 행렬 [B]의 모든 성분을 알면 하기 수학식 8을 통해 v'c, α, β, u'c를 구할 수 있다(λ, γ를 파라미터로 표현).
(수학식 8)
Figure PCTKR2015005442-appb-I000016
따라서, 수학식 9로부터 행렬 [A]의 모든 성분을 알 수 있다.
(수학식 9)
Figure PCTKR2015005442-appb-I000017
다음으로, 앞서 캘리브레이션한 제2 변환행렬([A])을 이용하여 제1 변환행렬([C])을 캘리브레이션한다.
도 6은 도 2의 문제해결 과정 중 제1 변환행렬을 캘리브레이션하는 과정을 나타낸 흐름도이다.
도 6을 참조하면, 먼저 캘리브레이션된 행렬 [A]를 행렬 [H]에 대입 정리하여 행렬 [R]을 획득한다(S250).
구체적으로, 수학식 9의 상기 제2 변환행렬 [A]를 수학식 3에 대입하고, 수학식 1의 [R][C]를 정리하여 수학식 10을 획득한다.
(수학식 10)
Figure PCTKR2015005442-appb-I000018
수학식 10에서 행렬 [R]을 [R]=[r1 r2 r3]로 두면, [R]은 수학식 11에서 열벡터 성분별로 획득할 수 있다.
(수학식 11)
Figure PCTKR2015005442-appb-I000019
이어서, 행렬 [HK]를 [HK]=[A][R]로 정의하여 상기 좌표변환식에 대입하여 정리한다(S260).
구체적으로, 행렬 [A]와 행렬 [R]의 곱을 행렬 [HK]로 정의하여 수학식 1의 좌표변환식에 대입하고 행렬 [HK]와 행렬 [C]의 성분들로 이루어지도록 정리한다.
이때, 수학식 9에서 구한 행렬 [A]와 수학식 11에서 구한 행렬 [R]을 이용하여 행렬 [HK]를 구할 수 있고, 이를 수학식 1의 좌표변환식에 적용하면 행렬 [HK]와 행렬 [C]의 성분들로 이루어진 수학식 12가 얻어진다.
(수학식 12)
Figure PCTKR2015005442-appb-I000020
다음으로, 정리된 식을 [AA][CC]=[BB] 형태로 변형한다(S270).
구체적으로, 정리된 식에서 행렬 [C]의 성분들만으로 이루어진 행렬을 [CC]로 정의하여 분리한 후, 정리된 식을 [AA][CC]=[BB] 형태로 변형한다. 이때, 행렬 [HK]를 알고 있으므로, 행렬 [HK]를 이용하여 행렬 [AA], 행렬 [BB] 및 행렬 [CC]를 수학식 13과 같이 정의할 수 있다.
(수학식 13)
Figure PCTKR2015005442-appb-I000021
이어서, [CC]=[AA]-1[BB]로부터 [CC]를 구하여 캘리브레이션된 행렬 [C]를 획득한다(S280).
구체적으로, 식 [AA][CC]=[BB]를 변형한 [CC]=[AA]-1[BB]로부터 [CC]의 성분들을 획득하여 최종적으로 캘리브레이션된 상기 제1 변환행렬 [C]를 획득한다.
다음으로, 상기 캘리브레이션된 제1 및 제2 변환행렬들을 이용하여 상기 자세정의행렬을 획득하는 과정(S300)을 도면을 참조로 보다 상세하게 설명한다.
도 7은 도 2의 문제해결 과정 중 자세정의행렬을 획득하는 과정의 일 예를 나타낸 흐름도이다.
도 7을 참조하면, 상기 자세정의행렬 [R]을 획득하는 일 예로, 먼저 양변에 자기자신을 외적한 방정식을 설정한다(S310).
구체적으로, 상기 수학식 1의 양변에 자기자신을 외적하면 0이 되므로, 이를 방정식으로 설정하면 수학식 14를 얻을 수 있다.
(수학식 14)
Figure PCTKR2015005442-appb-I000022
이어서, 행렬 [H]를, 일 예로 특이값 분해(SVD)와 같은 방법을 이용하여 획득한다(S320a).
구체적으로, 수학식 14에 수학식 3의 [H]=[A][R][C]를 적용한 후 행렬 [H]의 각 성분들(H1, H2, …, H9)에 관한 방정식으로 정리하여 수학식 15를 획득한다.
(수학식 15)
Figure PCTKR2015005442-appb-I000023
수학식 15의 2n개의 식을 일 예로 특이값 분해(SVD)와 같은 방법을 이용하여 획득한다.
다음으로, [R]=[A]-1[H][C]-1로부터 [R]을 획득한다(S330a).
구체적으로, 수학식 3의 [H]=[A][R][C]를 변형한 [R]=[A]-1[H][C]-1로부터 [R]을 획득한다
상기 자세정의행렬은 다른 방법으로 획득될 수도 있다.
도 8은 도 2의 문제해결 과정 중 자세정의행렬을 획득하는 과정의 다른 예를 나타낸 흐름도이다.
도 8을 참조하면, 상기 자세정의행렬 [R]을 획득하는 다른 예로, 먼저 양변에 자기자신을 외적한 방정식을 설정한다(S310). 본 과정은 도 7의 과정과 동일하므로 중복되는 설명은 생략한다.
이어서, r11~r33에 대한 방정식으로 정리한다(S320b).
구체적으로, 수학식 14로부터 상기 자세정의행렬 [R]의 각 성분 r11, r12, r13, r21, r22, r23, r31, r32, r33에 대한 방정식으로 정리하여 수학식 16을 획득한다.
(수학식 16)
Figure PCTKR2015005442-appb-I000024
다음으로, 행렬 [R]을, 일 예로 특이값 분해(SVD)와 같은 방법을 이용하여 획득한다(S330b).
구체적으로, 수학식 16의 2n개의 식을 특이값 분해(SVD)와 같은 방법을 이용하여 획득한다.
이와 같이 최종적으로 상기 자세정의행렬 [R]을 획득할 수 있다.
상기와 같은 시스템 모델링 과정 및 자세정의행렬 [R]의 획득 방법을 도 1에 도시된 상기 옵티컬 트래킹 시스템(100)에 적용하여 상기 마커부(110)의 자세를 산출할 수 있다.
이하, 상기 처리부(130)에서 상기 마커부(110)의 자세를 산출하는 방법을 도면을 참조로 보다 상세하게 설명한다.
도 9는 본 발명의 일 실시예에 의한 옵티컬 트래킹 시스템의 마커부 자세 산출방법을 나타낸 흐름도이다.
도 9를 참조하면, 먼저 상기 처리부(130)에서 적어도 3개의 영상들로부터 제1 및 제2 변환행렬들을 캘리브레이션한다(S510).
상기 캘리브레이션은 도 2에서 설명된 단계 S200과, 도 5 및 도 6에서 구체적으로 설명된 단계 S210 내지 단계 S280의 과정과 실질적으로 동일하며, 상기 처리부(130)에서는 상기 과정 중 단계 S230과 단계 S280과 같이 캘리브레이션을 위한 최종 방정식만을 이용하여 상기 제1 및 제2 변환행렬들을 캘리브레이션할 수 있다.
다음으로, 상기 제1 및 제2 변환행렬들을 포함하는 좌표변환식으로부터 자세정의행렬을 획득한다(S520).
상기 자세정의행렬의 획득은 도 2에서 설명된 단계 S300과, 도 7 및 도 8에서 구체적으로 설명된 단계 S310 내지 단계 S330a, 및 단계 S310 내지 단계 S330b의 과정과 실질적으로 동일하며, 상기 처리부(130)에서는 상기 과정 중 단계 S320a와 S320a, 또는 단계 S320b와 같이 상기 자세정의행렬 획득을 위한 최종 방정식만을 이용하여 상기 자세정의행렬을 획득할 수 있다.
따라서, 상기 처리부(130)는 상기 제1 좌표를 상기 제2 좌표로 변환하는 제1 변환행렬 및 상기 제3 좌표를 상기 제4 좌표로 변환하는 제2 변환행렬을 사전에 캘리브레이션하여 미리 획득한 후, 상기 좌표변환식으로부터 상기 마커부(110)의 자세를 정의하는 자세정의행렬을 획득할 수 있다.
상기 자세정의행렬을 획득하면 상기 마커부(110)의 자세를 알 수 있다. 예를 들면, 상기 자세정의행렬로부터 상기 마커부(110)의 롤(roll), 피치(pitch), 요(yaw) 등을 파악할 수 있다.
상기와 같은 옵티컬 트래킹 시스템에 따르면, 마커부를 트래킹하는 옵티컬 트래킹 시스템에 있어서, 트래킹이 가능하도록 마커부가 특정정보의 패턴을 포함하여 마커부를 소형화할 수 있고, 상기 마커부와 상기 결상부의 광학계를 좌표변환식으로 모델링함으로써 상기 마커부의 자세를 결정할 수 있으므로, 보다 단순하고 용이한 방법으로 정확한 마커부의 트래킹이 가능할 수 있다.
앞서 설명한 본 발명의 상세한 설명에서는 본 발명의 바람직한 실시예들을 참조하여 설명하였지만, 해당 기술분야의 숙련된 당업자 또는 해당 기술분야에 통상의 지식을 갖는 자라면 후술될 특허청구범위에 기재된 본 발명의 사상 및 기술 영역으로부터 벗어나지 않는 범위 내에서 본 발명을 다양하게 수정 및 변경시킬 수 있을 것이다.　 따라서, 전술한 설명 및 아래의 도면은 본 발명의 기술사상을 한정하는 것이 아닌 본 발명을 예시하는 것으로 해석되어야 한다.
(부호의 설명)
100 : 옵티컬 트래킹 시스템 110 : 마커부
112 : 패턴 114 : 제1 렌즈
120 : 결상부 122 : 제2 렌즈
124 : 결상유닛 130 : 처리부

Claims (12)

  1. 특정정보를 갖는 패턴(pattern) 및 상기 패턴으로부터 이격되어 배치되며 제1 초점거리를 갖는 제1 렌즈를 포함하는 마커(marker)부;
    제2 초점거리를 갖는 제2 렌즈 및 상기 제2 렌즈로부터 이격되어 배치되며 상기 제1 렌즈와 상기 제2 렌즈에 의하여 상기 패턴의 이미지가 결상되는 결상유닛을 포함하는 결상부; 및
    상기 패턴의 패턴면 상의 좌표와 상기 패턴의 이미지 상의 픽셀좌표 사이의 좌표변환식으로부터 상기 마커부의 자세를 결정하고, 결정된 상기 마커부의 자세를 이용하여 상기 마커부를 트래킹하는 처리부를 포함하는 옵티컬 트래킹 시스템.
  2. 제1항에 있어서,
    상기 처리부는, 상기 패턴의 패턴면 상의 좌표에 해당하는 제1 좌표를 상기 마커부의 상기 제1 렌즈에 대한 3차원적 좌표에 해당하는 제2 좌표로 변환하는 제1 변환행렬 및 상기 제2 좌표의 상기 제2 렌즈에 대한 3차원적 좌표에 해당하는 제3 좌표를 상기 결상부의 상기 패턴의 이미지 상의 픽셀좌표에 해당하는 제4 좌표로 변환하는 제2 변환행렬을 획득하고,
    상기 좌표변환식은 상기 제1 변환행렬 및 상기 제2 변환행렬을 포함하여 상기 제1 좌표를 상기 제4 좌표로 변환하도록 정의되며,
    상기 처리부는 상기 좌표변환식으로부터 상기 마커부의 자세를 정의하는 자세정의행렬을 획득하는 것을 특징으로 하는 옵티컬 트래킹 시스템.
  3. 제2항에 있어서,
    상기 좌표변환식은 하기 수학식에 의하여 정의되는 것을 특징으로 하는 옵티컬 트래킹 시스템.
    Figure PCTKR2015005442-appb-I000025
    ((u,v)는 상기 제1 좌표, (u',v')는 상기 제4 좌표, [C]는 상기 제1 변환행렬, [A]는 상기 제2 변환행렬, [R]은 상기 자세정의행렬, s는 비례상수)
  4. 제3항에 있어서, 상기 제1 변환행렬은 하기 수학식에 의하여 정의되는 것을 특징으로 하는 옵티컬 트래킹 시스템.
    Figure PCTKR2015005442-appb-I000026
    ((uc,vc)는 상기 패턴의 중심의 좌표, fb는 상기 제1 초점거리)
  5. 제4항에 있어서, 상기 처리부는,
    적어도 3개 이상의 촬영 이미지로부터 uc, vc 및 fb의 캘리브레이션 값을 획득함으로써 상기 제1 변환행렬을 획득하는 것을 특징으로 하는 옵티컬 트래킹 시스템.
  6. 제3항에 있어서, 상기 제2 변환행렬은 하기 수학식에 의하여 정의되는 것을 특징으로 하는 옵티컬 트래킹 시스템.
    Figure PCTKR2015005442-appb-I000027
    ((u'c,v'c)는 상기 패턴의 중심에 대응하는 상기 패턴의 이미지 상의 픽셀좌표, fc는 상기 제2 초점거리, pw는 상기 패턴의 이미지의 픽셀의 폭, ph는 상기 패턴의 이미지의 픽셀의 높이)
  7. 제6항에 있어서, 상기 처리부는,
    적어도 3개 이상의 촬영 이미지로부터 fc, pw, ph의 캘리브레이션 값을 획득함으로써 상기 제2 변환행렬을 획득하는 것을 특징으로 하는 옵티컬 트래킹 시스템.
  8. 제3항에 있어서, 상기 처리부는,
    상기 제1 좌표 및 상기 제4 좌표에 대한 복수의 데이터를 획득하고, 상기 획득된 복수의 데이터가 적용된 하기 수학식에 의하여 상기 자세정의행렬을 획득하는 것을 특징으로 하는 옵티컬 트래킹 시스템.
    Figure PCTKR2015005442-appb-I000028
    ((u1,v1), …, (un,vn)은 상기 제1 좌표의 데이터, (u'1,v'1), …, (u'n,v'n)은 상기 제4 좌표의 데이터)
  9. 제3항에 있어서, 상기 처리부는,
    상기 제1 좌표 및 상기 제4 좌표에 대한 복수의 데이터를 획득하고, 상기 획득된 복수의 데이터가 적용된 하기 수학식에 의하여 상기 자세정의행렬을 획득하는 것을 특징으로 하는 옵티컬 트래킹 시스템.
    Figure PCTKR2015005442-appb-I000029
    ((u1,v1), …, (un,vn)은 상기 제1 좌표의 데이터, (u'1,v'1), …, (u'n,v'n)은 상기 제4 좌표의 데이터, (u'c,v'c)는 상기 패턴의 중심에 대응하는 상기 패턴의 이미지 상의 픽셀좌표, fc는 상기 제2 초점거리, pw는 상기 패턴의 이미지의 픽셀의 폭, ph는 상기 패턴의 이미지의 픽셀의 높이)
  10. 특정정보를 갖는 패턴(pattern) 및 상기 패턴으로부터 이격되어 배치되며 제1 초점거리를 갖는 제1 렌즈를 포함하는 마커(marker)부, 및 제2 초점거리를 갖는 제2 렌즈 및 상기 제2 렌즈로부터 이격되어 배치되며 상기 제1 렌즈와 상기 제2 렌즈에 의하여 상기 패턴의 이미지가 결상되는 결상유닛을 포함하는 결상부를 포함하여, 상기 마커부를 트래킹하도록 상기 마커부의 자세를 산출하기 위한 옵티컬 트래킹 시스템의 마커부 자세 산출방법에 있어서,
    상기 패턴의 패턴면 상의 좌표에 해당하는 제1 좌표를 상기 마커부의 상기 제1 렌즈에 대한 3차원적 좌표에 해당하는 제2 좌표로 변환하는 제1 변환행렬 및 상기 제2 좌표의 상기 제2 렌즈에 대한 3차원적 좌표에 해당하는 제3 좌표를 상기 결상부의 이미지 상의 픽셀좌표에 해당하는 제4 좌표로 변환하는 제2 변환행렬을 획득하는 단계; 및
    상기 제1 변환행렬 및 상기 제2 변환행렬을 포함하며, 상기 제1 좌표를 상기 제4 좌표로 변환하는 좌표변환식으로부터 상기 마커부의 자세를 정의하는 자세정의행렬을 획득하는 단계를 포함하는 옵티컬 트래킹 시스템의 마커부 자세 산출방법.
  11. 제10항에 있어서,
    상기 좌표변환식은 하기 수학식에 의하여 정의되는 것을 특징으로 하는 옵티컬 트래킹 시스템의 마커부 자세 산출방법.
    Figure PCTKR2015005442-appb-I000030
    ((u,v)는 상기 제1 좌표, (u',v')는 상기 제4 좌표, [C]는 상기 제1 변환행렬, [A]는 상기 제2 변환행렬, [R]은 상기 자세정의행렬, s는 비례상수)
  12. 제11항에 있어서, 상기 제1 변환행렬은 하기 수학식에 의하여 정의되고,
    Figure PCTKR2015005442-appb-I000031
    ((uc,vc)는 상기 패턴의 중심의 좌표, fb는 상기 제1 초점거리)
    상기 제2 변환행렬은 하기 수학식에 의하여 정의되는 것을 특징으로 하는 옵티컬 트래킹 시스템의 마커부 자세 산출방법.
    Figure PCTKR2015005442-appb-I000032
    ((u'c,v'c)는 상기 패턴의 중심에 대응하는 상기 패턴의 이미지 상의 픽셀좌표, fc는 상기 제2 초점거리, pw는 상기 패턴의 이미지의 픽셀의 폭, ph는 상기 패턴의 이미지의 픽셀의 높이)
PCT/KR2015/005442 2014-05-29 2015-05-29 옵티컬 트래킹 시스템 및 옵티컬 트래킹 시스템의 마커부 자세 산출방법 WO2015183049A1 (ko)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2017515654A JP6370478B2 (ja) 2014-05-29 2015-05-29 オプティカルトラッキングシステム及びオプティカルトラッキングシステムのマーカー部の姿勢算出方法
US15/314,669 US10229506B2 (en) 2014-05-29 2015-05-29 Optical tracking system, and method for calculating posture of marker part in optical tracking system
EP15799209.0A EP3151195B1 (en) 2014-05-29 2015-05-29 Optical tracking system, and method for calculating posture of marker part in optical tracking system
CN201580028419.0A CN106462977B (zh) 2014-05-29 2015-05-29 光学跟踪系统及光学跟踪系统的标记部姿势算出方法
US16/179,160 US10388024B2 (en) 2014-05-29 2018-11-02 Optical tracking system, and method for calculating posture of marker part in optical tracking system

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020140065168A KR101615086B1 (ko) 2014-05-29 2014-05-29 옵티컬 트래킹 시스템 및 옵티컬 트래킹 시스템의 마커부 자세 산출방법
KR10-2014-0065168 2014-05-29

Related Child Applications (2)

Application Number Title Priority Date Filing Date
US15/314,669 A-371-Of-International US10229506B2 (en) 2014-05-29 2015-05-29 Optical tracking system, and method for calculating posture of marker part in optical tracking system
US16/179,160 Continuation US10388024B2 (en) 2014-05-29 2018-11-02 Optical tracking system, and method for calculating posture of marker part in optical tracking system

Publications (1)

Publication Number Publication Date
WO2015183049A1 true WO2015183049A1 (ko) 2015-12-03

Family

ID=54699307

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2015/005442 WO2015183049A1 (ko) 2014-05-29 2015-05-29 옵티컬 트래킹 시스템 및 옵티컬 트래킹 시스템의 마커부 자세 산출방법

Country Status (6)

Country Link
US (2) US10229506B2 (ko)
EP (1) EP3151195B1 (ko)
JP (1) JP6370478B2 (ko)
KR (1) KR101615086B1 (ko)
CN (1) CN106462977B (ko)
WO (1) WO2015183049A1 (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3281600A1 (en) * 2016-08-09 2018-02-14 Koh Young Technology Inc. Marker for optical tracking, optical tracking system, and optical tracking method
CN109520419A (zh) * 2018-12-06 2019-03-26 闻泰通讯股份有限公司 通过图像测量物体尺寸的方法、装置及移动终端

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107194968B (zh) * 2017-05-18 2024-01-16 腾讯科技（上海）有限公司 图像的识别跟踪方法、装置、智能终端和可读存储介质
KR102102291B1 (ko) 2017-12-20 2020-04-21 주식회사 고영테크놀러지 옵티컬 트래킹 시스템 및 옵티컬 트래킹 방법
KR102166372B1 (ko) * 2017-12-20 2020-10-15 주식회사 고영테크놀러지 옵티컬 트래킹 시스템 및 옵티컬 트래킹 방법
CN114486292B (zh) * 2022-04-18 2022-07-12 中国汽车技术研究中心有限公司 碰撞测试中假人运动响应的测量方法、设备和存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007090448A (ja) * 2005-09-27 2007-04-12 Honda Motor Co Ltd 二次元コード検出装置及びそのプログラム、並びに、ロボット制御情報生成装置及びロボット
KR100971667B1 (ko) * 2008-12-11 2010-07-22 인천대학교 산학협력단 증강 책을 통한 실감 콘텐츠를 제공하는 방법 및 장치
US20110017826A1 (en) * 2009-07-23 2011-01-27 Massachusetts Institute Of Technology Methods and apparatus for bokeh codes
KR20110081759A (ko) * 2010-01-08 2011-07-14 소니 주식회사 정보 처리 장치, 정보 처리 시스템 및 정보 처리 방법
KR101262181B1 (ko) * 2010-05-03 2013-05-14 한국과학기술원 수족관 내의 로봇 물고기 위치 탐지 방법 및 장치

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4926817B2 (ja) * 2006-08-11 2012-05-09 キヤノン株式会社 指標配置情報計測装置および方法
CN100429478C (zh) * 2007-01-15 2008-10-29 哈尔滨工业大学 基于微透镜阵列的激光光束发散角测试方法
CN100483184C (zh) 2007-05-29 2009-04-29 东南大学 可变焦透镜三维显示器
US9832441B2 (en) * 2010-07-13 2017-11-28 Sony Interactive Entertainment Inc. Supplemental content on a mobile device
JP5453352B2 (ja) 2011-06-30 2014-03-26 株式会社東芝 映像表示装置、映像表示方法およびプログラム
US9478030B1 (en) * 2014-03-19 2016-10-25 Amazon Technologies, Inc. Automatic visual fact extraction

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007090448A (ja) * 2005-09-27 2007-04-12 Honda Motor Co Ltd 二次元コード検出装置及びそのプログラム、並びに、ロボット制御情報生成装置及びロボット
KR100971667B1 (ko) * 2008-12-11 2010-07-22 인천대학교 산학협력단 증강 책을 통한 실감 콘텐츠를 제공하는 방법 및 장치
US20110017826A1 (en) * 2009-07-23 2011-01-27 Massachusetts Institute Of Technology Methods and apparatus for bokeh codes
KR20110081759A (ko) * 2010-01-08 2011-07-14 소니 주식회사 정보 처리 장치, 정보 처리 시스템 및 정보 처리 방법
KR101262181B1 (ko) * 2010-05-03 2013-05-14 한국과학기술원 수족관 내의 로봇 물고기 위치 탐지 방법 및 장치

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3281600A1 (en) * 2016-08-09 2018-02-14 Koh Young Technology Inc. Marker for optical tracking, optical tracking system, and optical tracking method
US10108833B2 (en) 2016-08-09 2018-10-23 Koh Young Technology Inc. Marker for optical tracking, optical tracking system, and optical tracking method
CN109520419A (zh) * 2018-12-06 2019-03-26 闻泰通讯股份有限公司 通过图像测量物体尺寸的方法、装置及移动终端

Also Published As

Publication number Publication date
US20170193670A1 (en) 2017-07-06
US10388024B2 (en) 2019-08-20
US10229506B2 (en) 2019-03-12
JP6370478B2 (ja) 2018-08-08
KR101615086B1 (ko) 2016-04-27
EP3151195B1 (en) 2019-08-14
JP2017522674A (ja) 2017-08-10
EP3151195A1 (en) 2017-04-05
KR20150138500A (ko) 2015-12-10
US20190073777A1 (en) 2019-03-07
EP3151195A4 (en) 2017-11-22
CN106462977A (zh) 2017-02-22
CN106462977B (zh) 2019-11-12

Similar Documents

Publication Publication Date Title
WO2015183049A1 (ko) 옵티컬 트래킹 시스템 및 옵티컬 트래킹 시스템의 마커부 자세 산출방법
WO2014104574A1 (ko) 선형배열 영상 센서와 자세제어 센서 간의 절대 오정렬 보정방법
WO2012064106A2 (en) Method and apparatus for video stabilization by compensating for view direction of camera
WO2015030343A1 (en) Optical element rotation type mueller-matrix ellipsometer and method for measuring mueller-matrix of sample using the same
EP2951525A1 (en) Three-dimensional (3d) emitting apparatus
WO2016148422A1 (ko) 무색수차 광소자-회전형 타원계측기 및 이를 이용한 시편의 뮬러-행렬 측정 방법
WO2020101420A1 (ko) 증강현실 기기의 광학 특성 측정 방법 및 장치
WO2016099212A1 (ko) 옵티컬 트래킹 시스템 및 옵티컬 트래킹 시스템의 트래킹 방법
WO2019199112A1 (ko) 자율 작업 시스템, 방법 및 컴퓨터 판독 가능한 기록매체
WO2015183050A1 (ko) 옵티컬 트래킹 시스템 및 옵티컬 트래킹 시스템의 마커부 자세 및 위치 산출방법
WO2018214147A1 (zh) 一种机器人标定方法、系统、机器人及存储介质
WO2018070844A1 (ko) 에지 모델링을 위한 에지 블러 설정 방법
WO2011065697A2 (ko) 레이저 거리측정기를 이용한 맥파측정로봇장치 및 이를 이용한 맥파측정방법
WO2020153703A1 (ko) 카메라 장치 및 그의 오토포커싱 방법
WO2011087249A2 (ko) 객체 인식시스템 및 이를 이용하는 객체 인식 방법
WO2013065955A1 (ko) 실시간 위빙 모션 제어 장치 및 그 방법
WO2019164312A1 (ko) 카메라 모듈 및 그의 초해상도 영상 처리 방법
WO2021145667A1 (ko) 카메라 이동 제어 방법 및 장치
WO2020145744A1 (ko) 카메라 장치 및 이를 구비하는 전자 장치
WO2011149300A2 (en) Mems actuator mounted camera module having sag compensation and sag compensation method using the same
WO2020256503A2 (ko) 슬레이브 장치 및 이를 제어하는 방법과, 안구 수술 장치 및 이를 제어하는 방법
WO2010143766A1 (ko) 동기화된 복수의 캐릭터의 동작 편집 시스템 및 방법
WO2023063661A1 (ko) 학습 세트 생성 방법, 학습 세트 생성 장치, 및 학습 세트 생성 시스템
WO2022103121A1 (en) Electronic device for estimating camera illuminant and method of the same
WO2017155147A1 (ko) 다축 힘센서 및 이를 이용한 장치

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 15799209

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2017515654

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

WWE Wipo information: entry into national phase

Ref document number: 15314669

Country of ref document: US

REEP Request for entry into the european phase

Ref document number: 2015799209

Country of ref document: EP

WWE Wipo information: entry into national phase

Ref document number: 2015799209

Country of ref document: EP