KR100951309B1 - 광학식 모션 캡처 장비를 위한 다중 카메라 보정 방법 - Google Patents

광학식 모션 캡처 장비를 위한 다중 카메라 보정 방법 Download PDF

Info

Publication number
KR100951309B1
KR100951309B1 KR1020080068156A KR20080068156A KR100951309B1 KR 100951309 B1 KR100951309 B1 KR 100951309B1 KR 1020080068156 A KR1020080068156 A KR 1020080068156A KR 20080068156 A KR20080068156 A KR 20080068156A KR 100951309 B1 KR100951309 B1 KR 100951309B1
Authority
KR
South Korea
Prior art keywords
matrix
camera
correction
calculating
dimensional coordinates
Prior art date
Application number
KR1020080068156A
Other languages
English (en)
Other versions
KR20100007506A (ko
Inventor
문정환
신기영
이상식
Original Assignee
성균관대학교산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 성균관대학교산학협력단 filed Critical 성균관대학교산학협력단
Priority to KR1020080068156A priority Critical patent/KR100951309B1/ko
Publication of KR20100007506A publication Critical patent/KR20100007506A/ko
Application granted granted Critical
Publication of KR100951309B1 publication Critical patent/KR100951309B1/ko

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2625Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects for obtaining an image which is composed of images from a temporal image sequence, e.g. for a stroboscopic effect
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis

Abstract

본 발명은 광학식 모션 캡처 장비를 위한 다중 카메라 보정 방법에 관한 것으로서, 영상획득단계, 영상 사이의 대응점을 추출하는 단계, 기초행렬(Fundamental Matrix)을 계산하는 단계, 카메라 행렬을 계산하는 단계, 사영복원한 3차원 좌표를 계산하는 단계, 마커의 3차원 좌표와 사영복원한 3차원 좌표 사이의 변환행렬(H)을 계산하는 단계, 카메라 행렬에 상기 변환행렬(H)을 곱하여 새로운 카메라 행렬을 계산하는 단계, 상기 새로운 카메라 행렬을 이용하여 최종의 3차원 좌표를 계산하는 단계를 포함한다.
본 발명에서 설명된 광학식 모션 캡처 장비를 위한 다중 카메라 보정 방법에 의하면, 복잡한 계산과정이 필요하지 않기 때문에 복원된 3차원 좌표의 정확도가 높아지고, X-Y-Z 축의 보정틀에서 하나의 보정봉을 분리하여 동적 보정을 행할 수 있으므로 비용이나 공간적인 면에서 경제적인 효과가 있다.
영상, 모션, 캡처, 카메라, 보정봉, 보정틀

Description

광학식 모션 캡처 장비를 위한 다중 카메라 보정 방법{New Calibration Method of Multi-view Camera for a Optical Motion Capture System}
본 발명은 광학식 모션 캡처 장비에 관한 것으로서, 특히 대상체의 3차원 좌표정보 추출을 이용하는 광학식 모션 캡처 장비를 위한 다중 카메라 보정틀과 보정 방법에 관한 것이다.
모션캡처장비를 위한 카메라 보정 방법은 크게 사진측량적 보정(Photogrammetric calibration)과 자기 보정(Self-calibration) 방법으로 나눌 수 있다(Zhengyou Zhang, "A flexible new technique for camera calibration", IEEE transactions on pattern analysis and machine intelligence, vol. 22, pp1330-1334, 2000).
먼저 사진측량적 보정방법은 1971년 Abdel-Aziz와 Karara가 개발한 직접 선형 변환(Direct Linear Transformation, DLT)이라는 방법이 있다(Abdel-Aziz, Y.I., & Karara, H.M., : Direct linear transformation from comparator coordinates into object space coordinates in close-range photogrammetry", Proceedings of the Symposium on Close-Range Photogrammetry, pp1-18,1971). 이 방법은 다수의 카메라를 보정하기 위하여 측정하고자 하는 영역의 크기를 가진 카메라 보정틀이 필요하며 보정틀에 부착한 마커의 정확한 3차원 좌표를 알아야 한다. 따라서 카메라 보정틀의 부피가 커야 하며 정교한 보정틀을 제작하기 위하여 많은 비용이 야기되는 하드웨어적인 문제와 카메라 렌즈를 통한 영상의 왜곡을 보정 할 수 없는 소프트웨어적인 문제가 있다.
Walton은 영상의 왜곡을 보정하기 위하여 직접선형변환방법에서 렌즈의 왜곡을 계산할 수 있는 변수를 추가하여 이러한 문제점을 해결하였다(Walton, J.S., "Close-range cine-photogrammetry: a generalized technique for quantifying gross human motion", Unpublished Ph.D. Dissertation, Pennsylvania State Univertisy, 1981).
또한 Kolahi등은 3차원 복원 결과의 정확성을 높이기 위하여 렌즈의 왜곡을 고려한 직접선형변환방법에 최적화 기법까지 적용(A. Kolahi, M. Hoviattalab, T. Rezaeian, M. Alizadeh, M. Bostan, H. Mokhtarzadeh, "Design of a marker-based human motion tracking system", Biomedical signal processing and control, vol. 2, pp59-67, 2007)하는 등 최근까지 사진측량적 보정방법에 대한 연구가 수행되었다.
그러나 사진측량적 보정방법은 고가의 카메라의 보정틀 제작 비용과 측정하고자 하는 영역만큼 커야하는 하드웨어적인 문제가 여전히 남아 있기 때문에 카메 라 보정틀의 크기를 줄일 수 있는 자기보정방법에 대한 연구가 진행되었다.
Faugeras등은 이러한 문제를 해결하기 위하여 영상에서 매칭점(point match)만을 이용하여 카메라를 보정 할 수 있는 자기보정방법을 제안하였다(Faugeras, O., Luong, Q.-T. and Maybank, S.J., "Camera self-calibration: theory and experiments", In Proc. European Conference on Computer Vision, pp321-334, 1992). 이 방법은 사진측량적 보정방법에 사용하는 커다란 보정틀을 사용하지 않는 대신에 두 개의 보정틀을 사용한다(www.qualisys.com, www.vicon.com 등).
첫 번째 T모양의 보정틀에는 두 개의 광학식 마커가 붙어 있으며 이 보정틀을 측정하고자 하는 영역에서 움직여서 각 카메라에서 보정에 필요한 영상을 획득한다. 이 방법을 동적 보정(dynamic calibration)이라고 한다. 각 카메라에서 획득한 이 점들을 매칭시켜서 기초행렬(fundamental matrix)를 계산하고 이 기초행렬을 통해서 카메라 보정행렬 P, P'을 계산한다. 카메라에서 획득한 마커의 좌표와 카메라 보정행렬 P와 P'을 계산했기 때문에 마커의 3차원 좌표를 계산할 수 있다. 그러나 이렇게 계산한 마커의 3차원 좌표는 사영복원에 의한 3차원 좌표이기 때문에 x, y, z축이 수직이 되지 않고 왜곡되게 된다. 따라서 사영복원된 결과를 어파인(affine) 변환하고, 어파인변환 된 결과를 매트릭(metric) 변환을 해야만 완전한 x, y, z좌표를 계산할 수 있다. 사영복원된 결과를 어파인변환하기 위해서는 소실점(vanishing point)과 무한호모그래피(infinite homography)를 계산하여야 하는데 소실점은 노이즈에 민감한 특성이 있다. 어파인변환된 결과를 매트릭 변환하기 위해서는 절대원뿔 제약조건을 이용하여야 하는데 이 과정에서 다음과 같은 제약 조 건이 사용된다.
- 카메라의 x, y축 초점거리(f)가 같다.
- 이미지 센서의 x, y축의 뒤틀림(skew)값이 0 이다.
- 카메라 주점(principal point)의 좌표는 이미지 센서의 중심점이다.
이러한 제약조건으로 인하여 사영복원된 3차원 좌표를 매트릭변환하기 까지 여러단계의 수학적인 가정과 제약조건을 사용하여야 하기 때문에 계산 과정이 복잡한 단점이 있다.
두 번째 L모양의 보정틀은 4개의 마커가 붙어있으며 이 보정틀을 이용하여 측정하고자 하는 공간에서 절대좌표(world coordinate)를 생성한다. 또한 매트릭복원이 되었다 하더라도 완전한 유클리드 기하학을 만족하지 않으므로 두 번재 보정틀에 있는 마커 사이의 거리와 3차원 좌표로 복원된 마커사이의 거리비를 계산하여 마지막으로 스케일 요소를 계산하는 것으로 카메라 보정이 끝나게 된다. 이 방법을 정적보정(static calibration)이라고 한다.
자기보정방법에 의해 계산된 3차원 좌표는 사영복원에 의한 3차원 좌표로 x, y, z 축이 수직인 유클리드 기하학에 의한 좌표가 아니다. 그렇기 때문에 매트릭(metric)변환 과정을 거쳐야만 유클리드 기하학을 만족하는 3차원 좌표를 계산할 수 있다. 매트릭변환을 하기 위해서는 카메라를 통해 획득한 이미지의 소실점와 무한호모그래피를 계산하여 무한평면(plane at infinity)를 유도하여 어파인변환행렬(affine transformation matrix)를 계산하여야 하며, 영상의 절대 원뿔(image of absolue conic)조건을 이용하여 매트릭변환행렬을 계산하여야 한다. 이러한 변환 과정들은 많은 수학적인 가정과 복잡한 계산과정이 필요하기 때문에 복원된 3차원 좌표의 정확도가 떨어지게 된다는 문제점이 있다. 또한 기존의 자기 보정 방법에서는 정적 보정과 동적 보정의 카메라 보정을 위하여 2개의 독립적인 보정틀을 사용하여야 하므로 비용이나 공간적인 면에서 불리하다는 문제점이 있다.
본 발명은 상기와 같은 점을 감안하여 안출된 것으로서, 카메라 보정을 위하여 분리 가능한 하나의 보정틀을 이용하고 복잡한 계산과정을 필요로 하지 않는 광학식 모션 캡처 장비를 위한 다중 카메라 보정 방법을 제공하는데 그 목적이 있다.
상기 목적을 달성하기 위한 본 발명에 따른 광학적 모션 캡처 장비를 위한 다중 카메라 보정 방법은 보정틀 내에서 마커의 3차원 좌표를 이용한 광학식 모션 캡처 장비를 위한 다중 카메라 보정 방법에 있어서, 상기 보정틀 내에서의 상기 마커의 움직임을 감지하여 상기 카메라에서 보정에 필요한 영상을 획득하는 영상획득단계; 상기 마커의 라벨링 및 중심점을 계산하고 이를 이용하여 상기 영상 사이의 대응점을 추출하는 단계; 랜삭(RANSAC) 알고리즘을 이용하여 일정한 에러범위에 속하는 영상만을 이용하여 기초행렬(Fundamental Matrix)을 계산하는 단계; 기초행렬 (Fundamental Matrix)을 이용하여 카메라 행렬을 계산하는 단계;상기 카메라 행렬과 상기 마커의 중심점으로 사영복원한 3차원 좌표를 계산하는 단계; 상기 보정틀을 이용하여 상기 마커의 3차원 좌표와 사영복원한 3차원 좌표 사이의 변환행렬(H)을 계산하는 단계; 상기 카메라 행렬에 상기 변환행렬(H)을 곱하여 새로운 카메라 행렬을 계산하는 단계; 상기 새로운 카메라 행렬을 이용하여 최종의 3차원 좌표를 계산하는 단계;를 포함하는 것을 특징으로 한다.
상기 변환행렬을 계산하기 위하여 X,Y,Z 축에 부착한 마커의 개수가 5개 이상인 보정틀을 사용하는 것이 바람직하다.
상기 보정틀은 동적 보정을 위하여 X,Y,Z 축 중 한 개의 축이 분리되어 사용되는 것이 좋다.
상기 변환행렬(H)을 계산하기 위하여 특이값 분해에 따른 제차방정식( homogeneous equation)을 이용하는 것이 바람직하다.
상기 변환행렬(H)을 계산하기 위하여 h44 를 1로 고정하고 비제차방정식( inhomogeneous equation)을 이용하는 것이 좋다.
본 발명에서 설명된 광학식 모션 캡처 장비를 위한 다중 카메라 보정 방법에 의하면, 복잡한 계산과정이 필요하지 않기 때문에 복원된 3차원 좌표의 정확도가 높아지고, X-Y-Z 축의 보정틀에서 하나의 보정봉을 분리하여 동적 보정을 행할 수 있으므로 비용이나 공간적인 면에서 경제적인 효과가 있다.
본 발명의 상기와 같은 목적, 특징 및 다른 장점들은 첨부도면을 참조하여 본 발명의 바람직한 실시 예를 상세히 설명함으로써 더욱 명백해 질 것이다. 이하, 첨부된 도면을 참조하여 본 발명의 실시 예에 따른 광학식 모션 캡처 장비를 위한 다중 카메라 보정 방법을 상세히 설명하기로 한다.
도 1은 본 발명에 따른 다중 카메라 보정을 위해 사용하는 보정틀의 응용예를 나타내는 제1실시예이고, 도 2는 본 발명에 따른 다중 카메라 보정 과정을 설명하는 플로우챠트이며, 도 3과 도 4는 본 발명에 적용되는 동적 보정 과정과 정적 보정 과정을 나타내는 실시예이다. 또한, 도 5 내지 도 10은 본 발명에 적용되는 보정틀의 응용 예를 나타낸다.
본 발명에 따른 광학식 모션 캡처 장비를 위한 다중 카메라 보정 방법은 보정틀 내에서의 마커(30)의 움직임을 감지하여 카메라(40)에서 보정에 필요한 영상을 획득하는 영상획득단계(S100), 마커(30)의 라벨링 및 중심점을 계산하고 이를 이용하여 영상 사이의 대응점을 추출하는 단계(S110, S120), 랜삭(RANSAC) 알고리즘을 이용하여 일정한 에러범위에 속하는 영상만을 이용하여 기초행렬(Fundamental Matrix)을 계산하는 단계(S130), 기초행렬(Fundamental Matrix)을 이용하여 카메라 행렬을 계산하는 단계(S140), 카메라 행렬과 마커(30)의 중심점으로 사영복원한 3차원 좌표를 계산하는 단계(S150), 보정틀을 이용하여 마커(30)의 3차원 좌표와 사영복원한 3차원 좌표 사이의 변환행렬(H)을 계산하는 단계(S160), 카메라 행렬에 변환행렬(H)을 곱하여 새로운 카메라 행렬을 계산하는 단계(S170), 새로운 카메라 행렬을 이용하여 최종의 3차원 좌표를 계산하는 단계(S180)를 포함한다.
자기보정방법에서 사영복원에 의한 3차원 좌표를 유클리드 기하학을 만족하는 3차원 좌표로 계산하기 위해서 사영복원행렬을 매트릭복원행렬로 변환시킬 수 있는 변환행렬을 계산하여야 한다. 이를 위하여 본 발명에서는 직교하는 세 개의 축(X,Y,Z) 위에 5개 이상의 광학식 마커(30)가 부착된 보정틀을 개발하였다. 변환행렬은 4x4 행렬로 총 16개의 미지수가 있고 15 자유도를 가지기 때문에 변환행렬을 계산하기 위해서는 최소 15개의 수학식이 필요하다. 여기서 광학식 마커(30) 1개당 3개의 식을 세울 수 있기 때문에 5개 이상의 광학식 마커(30)가 부착된 보정틀이 있으면 이 변환행렬의 값을 구할 수 있다.
또한 기존의 자기 보정방법에서는 3개의 보정틀을 사용하였지만 본 발명에서는 두 개의 직교하는 보정틀(20) 위에 한 개의 보정봉(10)을 결합할 수 있도록 하여 동적 보정시에는 한 개의 보정봉(10)을 분리하여 마커(30)의 영상을 획득하고 정적 보정에서는 이 보정봉(10)을 결합하여 정적 보정을 실시하도록 하였다.
도 5 내지 도 10에서는 보정봉(10)이 보정틀(20)과 분리한 상태를 도시하고 있다. 이때 마커(30)는 보정봉(10)과 보정틀(20) 상에 5개 이상이 구비되어 있다.
자기 보정방법에 의해서 카메라(40)를 보정하기 위해서는 각 카메라(40)에서 획득한 영상과 이 영상들의 매칭점을 이용하여야 한다. 복잡한 영상에서 매칭점을 구하는 과정 역시 별도의 알고리즘을 거쳐야하기 때문에 본 발명에서는 도 1의 보정봉(10)을 이용하여 측정하고자 하는 영역에서 마커(30)의 정보를 획득한다. 도 1의 보정봉(10)은 두 개의 광학식 마커(30)가 부착되어 있기 때문에 실제적으로 카메라 보정에서는 두 개의 광학식 마커(30)의 중심점을 계산한 후 평균점을 계산하여 카메라 보정에 사용한다. 이런 과정을 통하여 보정봉(10)에는 두 개의 마커(30)가 부착되어 있지만 실제로는 두 마커(30)의 평균점인 하나의 마커(30)만을 이용하게 사용한다. 또는 도 5에서와 같이 하나의 마커(30)만을 이용하여 카메라 보정을 위한 정보로 사용될 수 있다. 이러한 과정은 도 2의 S100, S110, S120의 단계에 해당하고 도 3의 실시 예와 같다.
도 1의 보정봉(10)을 이용하여 카메라 보정을 할 수 있을 만큼의 충분한 영상이 획득되면 기초 행렬을 계산한다. 기초 행렬은 아래와 같은 식을 만족한다.
Figure 112008050445099-pat00001
기초 행렬을 계산하기 위에서 위 식을 풀어쓰면 아래 식과 같다.
Figure 112009066554010-pat00031

위 식에서 기초행렬을 계산하기 위하여 f에 대한 식으로 나타내면 아래 식과 같다.
삭제
Figure 112008050445099-pat00003
마커 1개당 1×9의 행렬로 이루어진 1개의 식을 만들 수 있으나 기초행렬은 9개의 요소를 가진 3 x 3 행렬이기 때문에 기초 행렬을 계산하기 위해서는 적어도 9개 이상의 마커(30)가 필요하다. 그러나 정확한 기초 행렬을 구하기 위해서는 되도록 많은 마커(30)를 이용하여 미지수의 개수보다 식의 개수가 많은 중복 결정(over determined)방식으로 해를 계산한다. 정확한 기초 행렬을 계산하기 위해서는 획득된 영상 정보를 모두 이용하는 것이 아니라 도 2의 S130과 같이 랜삭(RANdom SAmple Consensus)알고리즘을 이용하여 획득한 영상의 일치되는 세트(consensus set)를 무작위로(random)로 추출하여 오차 범위를 만족하는 영상만을 이용하여 기초 행렬을 계산한다. 랜삭(RANSAC) 알고리즘은 거리데이터에 의해 획득된 격자점에 바탕을 두고, 획득된 격자점의 일치되는 세트(consensus set)를 무작위로(random) 추출하여 오차 범위 내를 만족하는 다수의 직선을 검출하는 방법으로, 검출된 다수의 직선에 의하여 직선과 직선이 만나는 점 등을 인식하여 코너 또는 모서리를 검출하고 이를 특징점으로 간주하는 알고리즘이다.
기초 행렬은 아래 식과 같이 n개의 영상을 이용하여 계산할 수 있는데 아래식의 경우 AX=0의 형태가 되어 모든 해가 0이 되는 자명해(trivial solution)가 되기 때문에 선형해법으로는 문제를 풀 수 없다.
Figure 112008050445099-pat00004
따라서 위 식에서 기초행렬 f를 계산하기 위해서는 특이값분해(singular value decomposition)을 이용하여야 한다. 위 식에서 A에 해당하는 행렬을 특이값분해하여 특이값이 최소가 되는 특이벡터를 계산할 수 있는데 이때의 특이벡터가 기초행렬 f가 된다.
마커(30)를 3차원 좌표로 계산하기 위해서는 도 2의 S140과 같이 카메라 행렬 P와 P'를 계산하여야 하는데 이 카메라 행렬은 기초행렬를 이용하여 아래 식과 같이 계산할 수 있다.
Figure 112008050445099-pat00005
여기서 e는 두번째 카메라의 에피폴로 기초행렬을 특이값 분해하면 계산할 수 있다.
이렇게 계산된 카메라 행렬과 마커(30)의 좌표를 이용하여 3차원 좌표로 계산할 수 있다(도 2의 S150). 그러나 이 3차원 좌표는 사영 복원의 결과이기 때문에 직각사각형을 찍어서 3차원 좌표로 복원하더라도 사각형의 각이 90도가 되지 않는 문제가 있기 때문에 매트릭변환을 하여야 한다. 기존의 방법들은 어파인 변환과 매트릭변환과정을 거쳤지만 본 발명에서는 도 4의 실시 예와 같이 도 1의 보정봉(10)과 보정틀(20)을 결합한 X-Y-Z축을 갖는 보정틀을 이용하여 이미 알고 있는 보정틀 마커의 3차원 좌표와 사영복원한 3차원 좌표 사이의 변환행렬 H를 계산하여 어파인변환과 매트릭변환 단계를 간소화하였다.
그 다음 과정으로 도 2의 S160과 같이 변환행렬 H를 계산하여야 한다. 변환행렬 H는 아래 식과 같이 사영 복원된 3차원 좌표
Figure 112008050445099-pat00006
와 유클리드 기하학을 만족하는 이미 알고 있는 보정틀의 3차원 좌표
Figure 112008050445099-pat00007
사이의 변환 행렬이다.
Figure 112008050445099-pat00008
H는 아래와 같이 4x4 행렬의 크기이며 따라서 16개의 요소로 구성되어 있으며 자유도는 15이다. 3차원 마커 1개당 3개의 식을 만들 수 있기 때문에 H를 계산하기 위해서는 적어도 5개 이상의 마커(30)가 필요하게 된다. 경우에 따라
Figure 112008050445099-pat00009
를 1로 하여 비제차방정식(inhomogeneous equation)으로 문제를 푸는 경우도 발생할 수 있다.
Figure 112008050445099-pat00010
변환행렬 H를 계산하기 위해서 아래와 같은 식을 만들 수 있다.
Figure 112008050445099-pat00011
위 식에서 w는 스케일 값으로 나중에 바람직한 3차원 좌표로 계산하기 위해서는 위식의 좌측항의 모든 열을 w로 나눠주어야 한다. 위 식을 전개하면 아래 식과 같다.
Figure 112008050445099-pat00012
위 식에서 w는 아래 식과 같다.
Figure 112008050445099-pat00013
이 w를 각각의 식에 대입하여 정리하면 첫 번째 열에 대해서 다음과 같은 식으로 표현될 수 있다.
Figure 112008050445099-pat00014
두 번째 열에 대해서 다음과 같은 식으로 표현될 수 있다.
Figure 112008050445099-pat00015
세 번째 열에 대해서 다음과 같은 식으로 표현될 수 있다.
Figure 112008050445099-pat00016
위의 세 개의 식을 하나로 만들면 아래 식과 같다. 3차원 마커 1개당 3x16의 행렬을 만들 수 있다.
Figure 112008050445099-pat00017
5개 이상의 마커 정보를 이용하여 3n x 16의 행렬을 만들어서 특이값 분해를 하여 특이값이 최소가 되는 특이벡터를 계산하면 변환행렬 H를 계산할 수 있다. 또는
Figure 112008050445099-pat00018
를 1로 하여 계산할 경우 특이값 분해를 하지 않고 변환 행렬 H를 계산할 수도 있다.
이렇게 계산된 변환행렬 H를 이용하면 실제로 동작분석을 하여 마커(30)의 3차원 좌표를 계산할 경우 사영복원된 3차원 좌표에 변환행렬 H를 곱함으로써 최종적인 3차원 좌표를 계산할 수 있게 된다.
추가적으로 변환행렬 H를 카메라 행렬 P와 P'에 곱하여 다음 식과 같이 매트릭변환이 된 카메라 행렬
Figure 112008050445099-pat00019
을 구할 수 있다.
Figure 112008050445099-pat00020
이 카메라 행렬을 이용하여 3차원 좌표를 계산할 경우 사영복원된 3차원 좌표에 변환행렬 H를 곱하는 수고 없이도 최종적인 3차원 좌표를 계산할 수 있게 된다.
본 발명에서 설명된 광학식 모션 캡처 장비를 위한 다중 카메라 보정 방법에 의하면, 복잡한 계산과정이 필요하지 않기 때문에 복원된 3차원 좌표의 정확도가 높아지고, X-Y-Z 축의 보정틀에서 하나의 보정봉을 분리하여 동적 보정을 행할 수 있으므로 비용이나 공간적인 면에서 효율적이다.
이상에서 본 발명의 바람직한 실시 예에 대하여 설명하였으나, 본 발명은 상 술한 특정의 실시 예에 한정되지 아니한다. 즉, 본 발명이 속하는 기술분야에서 통상의 지식을 가지는 자라면 첨부된 특허청구범위의 사상 및 범주를 일탈함이 없이 본 발명에 대한 다수의 변경 및 수정이 가능하며, 그러한 모든 적절한 변경 및 수정의 균등물들도 본 발명의 범위에 속하는 것으로 간주되어야 할 것이다.
도 1은 본 발명에 따른 다중 카메라 보정을 위해 사용하는 보정틀의 응용예를 나타내는 제1실시예,
도 2는 본 발명에 따른 다중 카메라 보정 과정을 설명하는 플로우챠트,
도 3은 본 발명에 적용되는 동적 보정 과정을 나타내는 실시예,
도 4는 본 발명에 적용되는 정적 보정 과정을 나타내는 실시예,
도 5는 본 발명에 적용되는 보정틀의 응용 예를 나타내는 제2실시예,
도 6은 본 발명에 적용되는 보정틀의 응용 예를 나타내는 제3실시예,
도 7은 본 발명에 적용되는 보정틀의 응용예를 나타내는 제4실시예,
도 8은 본 발명에 적용되는 보정틀의 응용예를 나타내는 제5실시예,
도 9는 본 발명에 적용되는 보정틀의 응용예를 나타내는 제6실시예, 및
도 10은 본 발명에 적용되는 보정틀의 응용예를 나타내는 제7실시예이다.
<도면의 주요 부분에 대한 부호의 설명>
10 : 보정봉 20 : 보정틀
30 : 마커 40 : 카메라

Claims (6)

  1. 보정틀 내에서 마커의 3차원 좌표를 이용한 광학식 모션 캡처 장비를 위한 다중 카메라 보정 방법에 있어서,
    상기 보정틀 내에서의 상기 마커의 움직임을 감지하여 상기 카메라에서 보정에 필요한 영상을 획득하는 영상획득단계;
    상기 마커의 라벨링 및 중심점을 계산하고 이를 이용하여 상기 영상 사이의 대응점을 추출하는 단계;
    랜삭(RANSAC) 알고리즘을 이용하여 상기 획득한 영상의 일치되는 세트(consensus set)를 무작위(random)로 추출하여 오차 범위 내를 만족하는 영상만을 이용하여 기초행렬(Fundamental Matrix)을 계산하는 단계;
    기초행렬(Fundamental Matrix)을 이용하여 카메라 행렬을 계산하는 단계;
    상기 카메라 행렬과 상기 마커의 중심점으로 사영복원한 3차원 좌표를 계산하는 단계;
    상기 보정틀을 이용하여 상기 마커의 3차원 좌표와 상기 사영복원한 3차원 좌표 사이의 변환행렬(H)을 계산하는 단계;
    상기 카메라 행렬에 상기 변환행렬(H)을 곱하여 새로운 카메라 행렬을 계산하는 단계;
    상기 새로운 카메라 행렬을 이용하여 최종의 3차원 좌표를 계산하는 단계;를 포함하는 것을 특징으로 하는 광학식 모션 캡처 장비를 위한 다중 카메라 보정 방법.
  2. 제 1 항에 있어서,
    상기 변환행렬을 계산하기 위하여 X,Y,Z 축에 부착한 마커의 개수가 5개 이상인 보정틀을 사용하는 것을 특징으로 하는 광학식 모션 캡처 장비를 위한 다중 카메라 보정 방법.
  3. 제 1 항에 있어서,
    상기 보정틀은 동적 보정을 위하여 X,Y,Z 축 중 한 개의 축이 분리되어 사용되는 것을 특징으로 하는 광학식 모션 캡처 장비를 위한 다중 카메라 보정 방법.
  4. 제 1 항에 있어서,
    상기 변환행렬(H)을 계산하기 위하여 특이값 분해에 따른 제차방정식(homogeneous equation)을 이용하는 것을 특징으로 하는 광학식 모션 캡처 장비를 위한 다중 카메라 보정 방법.
  5. 제 1 항에 있어서,
    상기 변환행렬(H)을 계산하기 위하여 h44 를 1로 고정하고 비제차방정식(inhomogeneous equation)을 이용하는 것을 특징으로 하는 광학식 모션 캡처 장비를 위한 다중 카메라 보정 방법.
  6. 제1항 내지 제5항 중 어느 한 항에 있어서,
    상기 기초행렬 계산 단계는 특이값 분해를 이용하여 기초행렬을 계산하는 것을 특징으로 하는,
    광학식 모션 캡쳐 장비를 위한 다중 카메라 보정 방법.
KR1020080068156A 2008-07-14 2008-07-14 광학식 모션 캡처 장비를 위한 다중 카메라 보정 방법 KR100951309B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020080068156A KR100951309B1 (ko) 2008-07-14 2008-07-14 광학식 모션 캡처 장비를 위한 다중 카메라 보정 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020080068156A KR100951309B1 (ko) 2008-07-14 2008-07-14 광학식 모션 캡처 장비를 위한 다중 카메라 보정 방법

Publications (2)

Publication Number Publication Date
KR20100007506A KR20100007506A (ko) 2010-01-22
KR100951309B1 true KR100951309B1 (ko) 2010-04-05

Family

ID=41816480

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020080068156A KR100951309B1 (ko) 2008-07-14 2008-07-14 광학식 모션 캡처 장비를 위한 다중 카메라 보정 방법

Country Status (1)

Country Link
KR (1) KR100951309B1 (ko)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102402855A (zh) * 2011-08-29 2012-04-04 深圳市蓝盾科技有限公司 用于智能交通的双摄像机实时全景视频融合方法及系统
CN102692236A (zh) * 2012-05-16 2012-09-26 浙江大学 基于rgb-d相机的视觉里程计方法
CN107111864A (zh) * 2014-12-23 2017-08-29 华为技术有限公司 用于平滑视图切换和缩放的计算性多相机调整

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101689252B1 (ko) * 2015-05-21 2016-12-23 국민대학교산학협력단 광카메라통신(occ)을 이용한 차량 위치 측정방법
CN112652017B (zh) * 2019-10-11 2024-03-29 中国科学院沈阳自动化研究所 基于相机和动态捕捉设备的外参标定方法
CN112815832B (zh) * 2019-11-15 2022-06-07 中国科学院长春光学精密机械与物理研究所 一种基于3d靶标的测量相机坐标系计算方法
CN113592954B (zh) * 2019-12-27 2023-06-09 深圳市瑞立视多媒体科技有限公司 基于光学动捕的大空间环境下多相机标定方法及相关设备
KR102585261B1 (ko) 2023-04-26 2023-10-06 주식회사 케이유전자 3차원 보정객체의 단일 영상을 활용하여 적응형 영상 증강 방법 기반의 최적화된 다중 카메라 보정 시스템
KR102585255B1 (ko) 2023-04-26 2023-10-05 주식회사 케이유전자 칼만 필터 기반으로 한 다중 카메라 프레임 대 프레임 매칭 및 추적 알고리즘

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060024041A1 (en) 2004-07-27 2006-02-02 Microsoft Corporation System and method for calibrating multiple cameras without employing a pattern by inter-image homography
JP2007064836A (ja) 2005-08-31 2007-03-15 Kyushu Institute Of Technology カメラキャリブレーションの自動化アルゴリズム
JP2008131176A (ja) 2006-11-17 2008-06-05 Aisin Seiki Co Ltd カメラ校正装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060024041A1 (en) 2004-07-27 2006-02-02 Microsoft Corporation System and method for calibrating multiple cameras without employing a pattern by inter-image homography
JP2007064836A (ja) 2005-08-31 2007-03-15 Kyushu Institute Of Technology カメラキャリブレーションの自動化アルゴリズム
JP2008131176A (ja) 2006-11-17 2008-06-05 Aisin Seiki Co Ltd カメラ校正装置

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102402855A (zh) * 2011-08-29 2012-04-04 深圳市蓝盾科技有限公司 用于智能交通的双摄像机实时全景视频融合方法及系统
CN102692236A (zh) * 2012-05-16 2012-09-26 浙江大学 基于rgb-d相机的视觉里程计方法
CN107111864A (zh) * 2014-12-23 2017-08-29 华为技术有限公司 用于平滑视图切换和缩放的计算性多相机调整

Also Published As

Publication number Publication date
KR20100007506A (ko) 2010-01-22

Similar Documents

Publication Publication Date Title
KR100951309B1 (ko) 광학식 모션 캡처 장비를 위한 다중 카메라 보정 방법
CN111145238B (zh) 单目内窥镜图像的三维重建方法、装置及终端设备
JP6507730B2 (ja) 座標変換パラメータ決定装置、座標変換パラメータ決定方法及び座標変換パラメータ決定用コンピュータプログラム
US10334168B2 (en) Threshold determination in a RANSAC algorithm
US9098229B2 (en) Single image pose estimation of image capture devices
US10636165B2 (en) Information processing apparatus, method and non-transitory computer-readable storage medium
WO2014061372A1 (ja) 画像処理装置、画像処理方法および画像処理プログラム
US10438412B2 (en) Techniques to facilitate accurate real and virtual object positioning in displayed scenes
WO2008056765A1 (fr) Procédé de recherche de point correspondant et procédé de mesure de position tridimensionnelle
KR102608956B1 (ko) 스테레오 이미지의 정류를 위한 방법 및 시스템
EP3633606B1 (en) Information processing device, information processing method, and program
KR20080029080A (ko) 단안 줌 카메라를 이용한 이동로봇의 자기위치 추정 시스템및 방법
KR102416523B1 (ko) 다시점 카메라로부터 획득된 조인트 기반의 캘리브레이션을 이용한 3차원 스켈레톤 생성 방법
CN108335327B (zh) 摄像机姿态估计方法和摄像机姿态估计装置
CN111210478A (zh) 一种无共同视野多相机系统外参标定方法、介质及系统
Eichhardt et al. Affine correspondences between central cameras for rapid relative pose estimation
CN108335328B (zh) 摄像机姿态估计方法和摄像机姿态估计装置
St-Charles et al. Online multimodal video registration based on shape matching
JP2011155412A (ja) 投影システムおよび投影システムにおける歪み修正方法
WO2008032375A1 (fr) Dispositif et procédé de correction d&#39;image, et programme informatique
JP2016126673A (ja) 情報処理装置及びその制御方法、並びに、ビデオカメラ
JP6086491B2 (ja) 画像処理装置およびそのデータベース構築装置
US9135715B1 (en) Local feature cameras for structure from motion (SFM) problems with generalized cameras
KR101673144B1 (ko) 부분 선형화 기반의 3차원 영상 정합 방법
Cui et al. Plane-based external camera calibration with accuracy measured by relative deflection angle

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E90F Notification of reason for final refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20130111

Year of fee payment: 4

FPAY Annual fee payment

Payment date: 20140106

Year of fee payment: 5

LAPS Lapse due to unpaid annual fee