KR102445874B1 - 멀티 카메라 시스템을 보정하기 위한 전자 장치 및 이의 제어 방법 - Google Patents

멀티 카메라 시스템을 보정하기 위한 전자 장치 및 이의 제어 방법 Download PDF

Info

Publication number
KR102445874B1
KR102445874B1 KR1020210040348A KR20210040348A KR102445874B1 KR 102445874 B1 KR102445874 B1 KR 102445874B1 KR 1020210040348 A KR1020210040348 A KR 1020210040348A KR 20210040348 A KR20210040348 A KR 20210040348A KR 102445874 B1 KR102445874 B1 KR 102445874B1
Authority
KR
South Korea
Prior art keywords
coordinate system
camera
cameras
images
matrix
Prior art date
Application number
KR1020210040348A
Other languages
English (en)
Inventor
이현기
Original Assignee
재단법인대구경북과학기술원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 재단법인대구경북과학기술원 filed Critical 재단법인대구경북과학기술원
Priority to KR1020210040348A priority Critical patent/KR102445874B1/ko
Application granted granted Critical
Publication of KR102445874B1 publication Critical patent/KR102445874B1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106—Processing image signals
    • H04N13/156—Mixing image signals
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106—Processing image signals
    • H04N13/111—Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
    • H04N13/117—Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation the virtual viewpoint locations being selected by the viewers or determined by viewer tracking
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20—Image signal generators
    • H04N13/204—Image signal generators using stereoscopic image cameras
    • H04N13/243—Image signal generators using stereoscopic image cameras using three or more 2D image sensors
    • H04N5/23212—

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Stroboscope Apparatuses (AREA)

Abstract

전자 장치 및 전자 장치의 제어 방법이 개시된다. 구체적으로, 본 개시에 따른 전자 장치는 복수의 카메라 각각을 통해 복수의 이미지를 획득하고, 복수의 카메라 각각의 내부 파라미터(intrinsic parameter) 및 복수의 카메라 각각에 대응되는 복수의 카메라 좌표계와 월드 좌표계(world coordinate) 사이의 변환을 위한 외부 파라미터(extrinsic parameter)를 바탕으로, 복수의 카메라 좌표계 사이의 변환을 위한 적어도 하나의 매트릭스를 획득하며, 적어도 하나의 매트릭스를 바탕으로 복수의 이미지에 대응되는 이미지 평면 상의 좌표를 구면 좌표계 상의 좌표로 변환하여, 복수의 이미지가 스티칭(stitching)된 이미지를 획득할 수 있다.

Description

멀티 카메라 시스템을 보정하기 위한 전자 장치 및 이의 제어 방법{ELECTRONIC DEVICE FOR CALIBRATING MULTI-CAMERA SYSTEM AND CONTROLLING METHOD THEREOF}
본 개시는 전자 장치 및 전자 장치의 제어 방법에 관한 것으로서, 구체적으로는 복수의 카메라를 통해 획득된 복수의 이미지를 스티칭(stitching)할 수 있는 전자 장치 및 전자 장치의 제어 방법에 관한 것이다.
근래에는 전자 장치에 포함되는 카메라의 개수가 증가하고 있으며, 특히, 복수의 카메라를 통해 180도 이상의 전면을 동시에 촬영할 수 있는 전자 장치 또는 시스템에 대한 발전이 계속되고 있다.
그런데, 종래 기술에 따르면, 복수의 카메라 각각을 통해 복수의 이미지가 획득된 경우, 복수의 이미지 사이의 중첩되는 영역에 포함된 특징점들을 이용하거나, 복수의 이미지 사이의 중첩되는 영역에 포함된 패턴을 이용하는 방식으로 복수의 이미지를 스티칭하게 된다.
따라서, 종래 기술의 경우, 복수의 이미지 간 중첩되는 영역이 존재하지 않는 경우에는 복수의 이미지를 스티칭하여 하나의 이미지를 획득할 수 없으며, 복수의 이미지 간 중첩되는 영역이 존재하는 경우에도 그 중첩되는 영역의 크기가 작다면 복수의 이미지 사이의 접합부에 꺾임 현상과 같이 품질이 저하되는 문제가 발생될 수 있다는 한계가 지적되고 있다.
본 개시는 상술한 바와 같은 종래 기술의 한계를 극복하기 위한 것으로서, 본 개시의 목적은 복수의 이미지 간 중첩되는 영역이 존재하지 않는 경우에도 복수의 이미지를 스티칭하여 품질 높은 이미지를 획득할 수 있는 전자 장치 및 전자 장치의 제어 방법을 제공함에 있다.
상술한 바와 같은 목적을 달성하기 위한 본 개시의 일 실시 예에 따르면, 전자 장치는 복수의 카메라, 복수의 좌표계 사이의 변환을 위한 데이터가 저장되는 메모리 및 상기 복수의 카메라 각각을 통해 복수의 이미지를 획득하고, 상기 복수의 카메라 각각의 내부 파라미터(intrinsic parameter) 및 상기 복수의 카메라 각각에 대응되는 복수의 카메라 좌표계와 월드 좌표계(world coordinate) 사이의 변환을 위한 외부 파라미터(extrinsic parameter)를 바탕으로, 상기 복수의 카메라 좌표계 사이의 변환을 위한 적어도 하나의 매트릭스를 획득하며, 상기 적어도 하나의 매트릭스를 바탕으로 상기 복수의 이미지에 대응되는 이미지 평면 상의 좌표를 구면 좌표계 상의 좌표로 변환하여, 상기 복수의 이미지가 스티칭(stitching)된 이미지를 획득하는 프로세서를 포함한다.
여기서, 상기 복수의 카메라는 제1 카메라, 제2 카메라 및 제3 카메라를 포함하고, 상기 적어도 하나의 매트릭스는 상기 제1 카메라에 대응되는 제1 카메라 좌표계와 상기 제2 카메라에 대응되는 제2 카메라 좌표계 사이의 변환을 나타내는 제1 매트릭스 및 상기 제1 카메라 좌표계와 상기 제3 카메라에 대응되는 제3 카메라 사이의 변환을 나타내는 제2 매트릭스를 포함할 수 있다.
여기서, 상기 프로세서는 상기 내부 파라미터 및 상기 외부 파라미터를 바탕으로 상기 전자 장치의 회전 중심을 원점으로 하는 회전 좌표계와 상기 제1 카메라 좌표계 사이의 변환을 나타내는 제3 매트릭스를 획득하고, 상기 내부 파라미터, 상기 외부 파라미터 및 상기 제3 매트릭스를 바탕으로 상기 제1 매트릭스 및 상기 제2 매트릭스를 획득할 수 있다.
한편, 상기 내부 파라미터는 상기 복수의 카메라 각각의 초점 거리(focal length), 상기 복수의 카메라 각각의 주점(principal point) 및 상기 복수의 카메라 각각의 비대칭 계수(skew coefficient)를 포함할 수 있다.
한편, 상기 외부 파라미터는 상기 복수의 카메라 좌표계와 상기 월드 좌표계 사이의 변환을 위한 회전(rotation) 및 평행이동(translation)을 나타낼 수 있다.
한편, 상기 적어도 하나의 매트릭스는 상기 복수의 카메라 좌표계 사이의 동차 변환(homogeneous transform)을 나타내는 매트릭스일 수 있다.
한편, 상기 메모리에 저장된 상기 데이터는 상기 복수의 이미지의 좌표를 상기 구면 좌표계로 변환하기 위한 룩업 테이블(lookup table)을 포함하고, 상기 프로세서는 상기 룩업 테이블을 바탕으로 상기 복수의 이미지가 스티칭된 이미지를 획득할 수 있다.
한편, 상기 복수의 카메라 각각의 뷰(view)는 서로 중첩되지 않을 수 있다.
상술한 바와 같은 목적을 달성하기 위한 본 개시의 일 실시 예에 따르면, 복수의 카메라를 포함하는 전자 장치의 제어 방법은 상기 복수의 카메라 각각을 통해 복수의 이미지를 획득하는 단계, 상기 복수의 카메라 각각의 내부 파라미터(intrinsic parameter) 및 상기 복수의 카메라 각각에 대응되는 복수의 카메라 좌표계와 월드 좌표계(world coordinate) 사이의 변환을 위한 외부 파라미터(extrinsic parameter)를 바탕으로, 상기 복수의 카메라 좌표계 사이의 변환을 위한 적어도 하나의 매트릭스를 획득하는 단계 및 상기 적어도 하나의 매트릭스를 바탕으로 상기 복수의 이미지에 대응되는 이미지 평면 상의 좌표를 구면 좌표계 상의 좌표로 변환하여, 상기 복수의 이미지가 스티칭(stitching)된 이미지를 획득하는 단계를 포함한다.
상술한 바와 같은 목적을 달성하기 위한 본 개시의 일 실시 예에 따르면, 전자 장치의 제어 방법을 실행하는 프로그램을 포함하는 비일시적 컴퓨터 판독 가능 기록매체에 있어서, 상기 전자 장치는 복수의 카메라를 포함하고, 상기 전자 장치의 제어 방법은 상기 복수의 카메라 각각을 통해 복수의 이미지를 획득하는 단계, 상기 복수의 카메라 각각의 내부 파라미터(intrinsic parameter) 및 상기 복수의 카메라 각각에 대응되는 복수의 카메라 좌표계와 월드 좌표계(world coordinate) 사이의 변환을 위한 외부 파라미터(extrinsic parameter)를 바탕으로, 상기 복수의 카메라 좌표계 사이의 변환을 위한 적어도 하나의 매트릭스를 획득하는 단계 및 상기 적어도 하나의 매트릭스를 바탕으로 상기 복수의 이미지에 대응되는 이미지 평면 상의 좌표를 구면 좌표계 상의 좌표로 변환하여, 상기 복수의 이미지가 스티칭(stitching)된 이미지를 획득하는 단계를 포함한다.
도 1 및 도 2는 본 개시의 일 실시 예에 따른 전자 장치에 대해 간략하게 설명하기 위한 도면,
도 3은 본 개시의 일 실시 예에 따른 전자 장치의 구성을 간략하게 나타내는 블록도,
도 4 내지 도 6은 본 개시의 일 실시 예에 따른 적어도 하나의 매트릭스를 획득하는 과정을 상세하게 설명하기 위한 도면,
도 7은 본 개시에 따라 복수의 이미지를 구면 좌표계 상의 이미지로 변환하는 과정을 상세하게 설명하기 위한 도면,
도 8은 본 개시에 따른 복수의 카메라 각각을 통해 획득된 복수의 이미지를 나타내는 도면,
도 9는 종래 기술에 따라 복수의 이미지를 스티칭한 결과를 나타내는 도면,
도 10은 본 개시의 일 실시 예에 따라 복수의 이미지를 스티칭한 결과를 나타내는 도면, 그리고,
도 11은 본 개시의 일 실시 예에 따른 전자 장치의 제어 방법을 간략하게 나타내는 흐름도이다.
본 실시 예들은 다양한 변환을 가할 수 있고 여러 가지 실시 예를 가질 수 있는바, 특정 실시 예들을 도면에 예시하고 상세한 설명에 상세하게 설명하고자 한다. 그러나 이는 특정한 실시 형태에 대해 범위를 한정하려는 것이 아니며, 본 개시의 실시 예의 다양한 변경(modifications), 균등물(equivalents), 및/또는 대체물(alternatives)을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다.
본 개시를 설명함에 있어서, 관련된 공지 기능 혹은 구성에 대한 구체적인 설명이 본 개시의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우 그에 대한 상세한 설명은 생략한다.
덧붙여, 하기 실시 예는 여러 가지 다른 형태로 변형될 수 있으며, 본 개시의 기술적 사상의 범위가 하기 실시 예에 한정되는 것은 아니다. 오히려, 이들 실시 예는 본 개시를 더욱 충실하고 완전하게 하고, 당업자에게 본 개시의 기술적 사상을 완전하게 전달하기 위하여 제공되는 것이다.
본 개시에서 사용한 용어는 단지 특정한 실시 예를 설명하기 위해 사용된 것으로, 권리범위를 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다.
본 개시에서, "가진다," "가질 수 있다," "포함한다," 또는 "포함할 수 있다" 등의 표현은 해당 특징(예: 수치, 기능, 동작, 또는 부품 등의 구성요소)의 존재를 가리키며, 추가적인 특징의 존재를 배제하지 않는다.
본 개시에서, "A 또는 B," "A 또는/및 B 중 적어도 하나," 또는 "A 또는/및 B 중 하나 또는 그 이상"등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. 예를 들면, "A 또는 B," "A 및 B 중 적어도 하나," 또는 "A 또는 B 중 적어도 하나"는, (1) 적어도 하나의 A를 포함, (2) 적어도 하나의 B를 포함, 또는 (3) 적어도 하나의 A 및 적어도 하나의 B 모두를 포함하는 경우를 모두 지칭할 수 있다.
본 개시에서 사용된 "제1," "제2," "첫째," 또는 "둘째,"등의 표현들은 다양한 구성요소들을, 순서 및/또는 중요도에 상관없이 수식할 수 있고, 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 뿐 해당 구성요소들을 한정하지 않는다.
어떤 구성요소(예: 제1 구성요소)가 다른 구성요소(예: 제2 구성요소)에 "(기능적으로 또는 통신적으로) 연결되어((operatively or communicatively) coupled with/to)" 있다거나 "접속되어(connected to)" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제3 구성요소)를 통하여 연결될 수 있다고 이해되어야 할 것이다.
반면에, 어떤 구성요소(예: 제1 구성요소)가 다른 구성요소(예: 제2 구성요소)에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소와 상기 다른 구성요소 사이에 다른 구성요소(예: 제3 구성요소)가 존재하지 않는 것으로 이해될 수 있다.
본 개시에서 사용된 표현 "~하도록 구성된(또는 설정된)(configured to)"은 상황에 따라, 예를 들면, "~에 적합한(suitable for)," "~하는 능력을 가지는(having the capacity to)," "~하도록 설계된(designed to)," "~하도록 변경된(adapted to)," "~하도록 만들어진(made to)," 또는 "~를 할 수 있는(capable of)"과 바꾸어 사용될 수 있다. 용어 "~하도록 구성된(또는 설정된)"은 하드웨어적으로 "특별히 설계된(specifically designed to)" 것만을 반드시 의미하지 않을 수 있다.
대신, 어떤 상황에서는, "~하도록 구성된 장치"라는 표현은, 그 장치가 다른 장치 또는 부품들과 함께 "~할 수 있는" 것을 의미할 수 있다. 예를 들면, 문구 "A, B, 및 C를 수행하도록 구성된(또는 설정된) 프로세서"는 해당 동작을 수행하기 위한 전용 프로세서(예: 임베디드 프로세서), 또는 메모리 장치에 저장된 하나 이상의 소프트웨어 프로그램들을 실행함으로써, 해당 동작들을 수행할 수 있는 범용 프로세서(generic-purpose processor)(예: CPU 또는 application processor)를 의미할 수 있다.
실시 예에 있어서 '모듈' 혹은 '부'는 적어도 하나의 기능이나 동작을 수행하며, 하드웨어 또는 소프트웨어로 구현되거나 하드웨어와 소프트웨어의 결합으로 구현될 수 있다. 또한, 복수의 '모듈' 혹은 복수의 '부'는 특정한 하드웨어로 구현될 필요가 있는 '모듈' 혹은 '부'를 제외하고는 적어도 하나의 모듈로 일체화되어 적어도 하나의 프로세서로 구현될 수 있다.
한편, 도면에서의 다양한 요소와 영역은 개략적으로 그려진 것이다. 따라서, 본 발명의 기술적 사상은 첨부한 도면에 그려진 상대적인 크기나 간격에 의해 제한되지 않는다.
이하에서는 첨부한 도면을 참고하여 본 개시에 따른 실시 예에 대하여 본 개시가 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 상세히 설명한다.
도 1 및 도 2는 본 개시의 일 실시 예에 따른 전자 장치(100)에 대해 간략하게 설명하기 위한 도면이다.
본 개시에 따른 전자 장치(100)는 복수의 이미지를 스티칭(stitching)할 수 있는 장치를 말한다. 특히, 전자 장치(100)는 복수의 카메라(110)를 포함하고, 복수의 카메라(110) 각각을 통해 획득된 복수의 이미지를 스티칭할 수 있다. 본 개시에 따른 전자 장치(100)의 유형에 특별한 제한이 따르는 것은 아니며, 복수의 카메라(110)를 통해 획득된 복수의 이미지를 스티칭할 수 있도록 구성된 장치라면 본 개시에 따른 전자 장치(100)에 해당될 수 있다.
한편, 본 개시에 따른 전자 장치(100)는 도 1에 도시된 바와 같은 회전 스테이지(stage) 상에 배치되어 회전 스테이지의 회전 축을 중심으로 회전될 수 있다. 다만, 본 개시가 이에 국한되는 것은 아니며, 전자 장치(100)는 사용자의 조작에 의해 특정한 회전 축을 중심으로 회전할 수도 있다.
한편, 도 2에 도시된 바와 같이, 본 개시에 따른 복수의 카메라(110)는 제1 카메라(110-1), 제1 카메라(110-1)의 좌측에 배치된 제2 카메라(110-2) 및 제1 카메라(110-1)의 우측에 배치된 제3 카메라(110-3)를 포함할 수 있다. 그리고, 복수의 카메라(110) 각각의 뷰(view)는 서로 중첩되지 않을 수도 있다. 다시 말해, 도 2의 예시에서는 제1 카메라(110-1)의 뷰(210)와 제2 카메라(110-2)의 뷰(220) 사이에 일부 중첩되는 영역이 존재하며 제1 카메라(110-1)의 뷰(210)와 제3 카메라(110-3)의 뷰(230) 사이에도 일부 중첩되는 영역이 존재하는 것으로 도시하였으나, 제1 카메라(110-1)의 뷰(210)와 제2 카메라(110-2)의 뷰(220) 사이에 중첩되는 영역이 존재하지 않고 제1 카메라(110-1)의 뷰(210)와 제3 카메라(110-3)의 뷰(230) 사이도 중첩되는 영역이 존재하지 않을 수도 있다.
한편, 이하에서는 본 개시에 따른 전자 장치(100)가 도 2에 도시된 바와 같은 복수의 카메라(110)를 포함하는 경우를 전제로 설명할 것이지만, 본 개시에 따른 카메라(110)의 개수와 카메라(110)가 배치된 위치는 실시 예에 따라 상이할 수 있음은 물론이다.
이하에서는 도 3 내지 도 10을 참조하여 본 개시에 따른 전자 장치(100)의 구성 및 전자 장치(100)의 제어 방법에 대해 상세하게 설명한다.
도 3은 본 개시의 일 실시 예에 따른 전자 장치(100)의 구성을 간략하게 나타내는 블록도이다.
도 3에 도시된 바와 같이, 본 개시에 따른 전자 장치(100)는 복수의 카메라(110), 메모리(120) 및 프로세서(130)를 포함할 수 있다. 그러나, 도 3에 도시된 바와 같은 구성들은 예시적인 것에 불과할 뿐이며, 본 개시를 실시함에 있어 도 3에 도시된 바와 같은 구성에 더하여 새로운 구성이 추가되거나 일부 구성이 생략될 수 있음은 물론이다.
복수의 카메라(110)는 적어도 하나의 오브젝트에 대한 이미지를 획득할 수 있다. 구체적으로, 복수의 카메라(110)는 이미지 센서를 포함하고, 이미지 센서는 렌즈를 통해 들어오는 빛을 전기적인 영상 신호로 변환할 수 있다. 일 실시 예에 따르면, 본 개시에 따른 복수의 카메라(110)는 MWIR 카메라(middle wavelength infrared camera)와 같은 적외선 카메라를 포함할 수 있으며, 다만 본 개시에 따른 카메라(110)의 유형에 특별한 제한이 따르는 것은 아니다.
그리고, 전술한 바와 같이, 본 개시에 따른 복수의 카메라(110)는 도 2에 도시된 바와 같이 배치된 제1 카메라(110-1), 제2 카메라(110-2) 및 제3 카메라(110-3)를 포함할 수 있으며, 복수의 카메라(110) 각각의 뷰(view)는 서로 중첩되지 않을 수도 있다.
메모리(120)에는 전자 장치(100)에 관한 적어도 하나의 인스트럭션(instruction)이 저장될 수 있다. 그리고, 메모리(120)에는 전자 장치(100)를 구동시키기 위한 O/S(Operating System)가 저장될 수 있다. 또한, 메모리(120)에는 본 개시의 다양한 실시 예들에 따라 전자 장치(100)가 동작하기 위한 각종 소프트웨어 프로그램이나 애플리케이션이 저장될 수도 있다. 그리고, 메모리(120)는 플래시 메모리(Flash Memory) 등과 같은 반도체 메모리나 하드디스크(Hard Disk) 등과 같은 자기 저장 매체 등을 포함할 수 있다.
구체적으로, 메모리(120)에는 본 개시의 다양한 실시 예에 따라 전자 장치(100)가 동작하기 위한 각종 소프트웨어 모듈이 저장될 수 있으며, 프로세서(130)는 메모리(120)에 저장된 각종 소프트웨어 모듈을 실행하여 전자 장치(100)의 동작을 제어할 수 있다. 즉, 메모리(120)는 프로세서(130)에 의해 액세스되며, 프로세서(130)에 의한 데이터의 독취/기록/수정/삭제/갱신 등이 수행될 수 있다.
한편, 본 개시에서 메모리(120)라는 용어는 메모리(120), 프로세서(130) 내 롬(미도시), 램(미도시) 또는 전자 장치(100)에 장착되는 메모리 카드(미도시)(예를 들어, micro SD 카드, 메모리 스틱)를 포함하는 의미로 사용될 수 있다.
특히, 본 개시에 따른 다양한 실시 예에 있어서, 메모리(120)에는 복수의 좌표계 사이의 변환을 위한 데이터가 저장될 수 있다. 구체적으로, 메모리(120)에는 복수의 카메라(110) 각각의 내부 파라미터(intrinsic parameter) 및 복수의 카메라(110) 각각에 대응되는 복수의 카메라(110) 좌표계와 오브젝트가 실제 위치하는 공간에 대응되는 월드 좌표계(world coordinate) 사이의 변환을 위한 외부 파라미터(extrinsic parameter)가 저장될 수 있다.
또한, 메모리(120)에는 전자 장치(100)의 회전 중심을 원점으로 하는 회전 좌표계와 적어도 하나의 카메라(110) 좌표계 사이의 변환을 나타내는 매트릭스, 복수의 카메라(110) 좌표계 사이의 변환을 위한 매트릭스 등에 대한 데이터가 저장될 수 있다. 뿐만 아니라, 메모리(120)에는 복수의 이미지에 대응되는 이미지 평면 상의 좌표를 구면 좌표계 상의 좌표로 변환하기 위한 룩업 테이블(lookup table)이 저장될 수도 있다.
여기서, 내부 파라미터는 복수의 카메라(110) 각각의 초점 거리(focal length), 복수의 카메라(110) 각각의 주점(principal point) 및 복수의 카메라(110) 각각의 비대칭 계수(skew coefficient)에 대한 정보를 포함하는 매트릭스로 표현될 수 있다. 그리고, 외부 파라미터는 복수의 카메라(110) 좌표계와 월드 좌표계 사이의 회전(rotation) 변환을 위한 매트릭스 및 평행이동(translation) 변환을 위한 매트릭스로 표현될 수 있다.
한편, 회전 좌표계와 카메라(110) 좌표계 사이의 변환을 나타내는 매트릭스, 복수의 카메라(110) 좌표계 사이의 변환을 나타내는 매트릭스는 동차 변환(homogeneous transform)을 나타내는 매트릭스일 수 있다. 따라서, 본 개시에 있어서, '매트릭스'라는 용어는 '트랜스폼' 또는 '호모지니어스 트랜스폼' 등과 같은 용어로 대체될 수 있다.
이상에서 상술한 내용 외에도, 본 개시의 목적을 달성하기 위한 범위 내에서 필요한 다양한 정보가 메모리(120)에 저장될 수 있으며, 메모리(120)에 저장된 정보는 외부 장치로부터 수신되거나 사용자에 의해 입력됨에 따라 갱신될 수도 있다.
프로세서(130)는 전자 장치(100)의 전반적인 동작을 제어한다. 구체적으로, 프로세서(130)는 복수의 카메라(110) 및 메모리(120)를 포함하는 전자 장치(100)의 구성과 연결되며, 상술한 바와 같은 메모리(120)에 저장된 적어도 하나의 인스트럭션을 실행함으로써, 전자 장치(100)의 동작을 전반적으로 제어할 수 있다.
프로세서(130)는 다양한 방식으로 구현될 수 있다. 예를 들어, 프로세서(130)는 주문형 집적 회로(Application Specific Integrated Circuit, ASIC), 임베디드 프로세서, 마이크로 프로세서, 하드웨어 컨트롤 로직, 하드웨어 유한 상태 기계(hardware Finite State Machine, FSM), 디지털 신호 프로세서(Digital Signal Processor, DSP) 중 적어도 하나로 구현될 수 있다. 한편, 본 개시에서 프로세서(130)라는 용어는 CPU(Central Processing Unit), GPU(Graphic Processing Unit) 및 MPU(Main Processing Unit)등을 포함하는 의미로 사용될 수 있다.
본 개시에 따른 다양한 실시 예에 있어서, 프로세서(130)는 복수의 카메라(110) 각각을 통해 복수의 이미지를 획득할 수 있다. 구체적으로, 복수의 카메라(110)는 제1 카메라(110-1), 제2 카메라(110-2) 및 제3 카메라(110-3)를 포함할 수 있으며, 프로세서(130)는 제1 카메라(110-1), 제2 카메라(110-2) 및 제3 카메라(110-3) 각각을 통해 제1 이미지, 제2 이미지 및 제3 이미지를 획득할 수 있다.
복수의 이미지가 획득되면, 프로세서(130)는 복수의 카메라(110) 각각의 내부 파라미터 및 복수의 카메라(110) 각각에 대응되는 복수의 카메라(110) 좌표계와 월드 좌표계 사이의 변환을 위한 외부 파라미터를 바탕으로, 복수의 카메라(110) 좌표계 사이의 변환을 위한 적어도 하나의 매트릭스를 획득할 수 있다.
여기서, 적어도 하나의 매트릭스는 제1 카메라(110-1)에 대응되는 제1 카메라(110-1) 좌표계와 제2 카메라(110-2)에 대응되는 제2 카메라(110-2) 좌표계 사이의 변환을 나타내는 제1 매트릭스 및 제1 카메라(110-1) 좌표계와 제3 카메라(110-3)에 대응되는 제3 카메라(110-3) 사이의 변환을 나타내는 제2 매트릭스를 포함할 수 있다.
구체적으로, 내부 파라미터는 복수의 카메라(110) 각각의 초점 거리, 복수의 카메라(110) 각각의 주점 및 복수의 카메라(110) 각각의 비대칭 계수 등과 같이 카메라(110) 고유의 내부적인 파라미터로서, 전자 장치(100)의 제품 출시 당시 메모리(120)에 저장되거나, 외부 장치로부터 수신함에 따라 업데이트될 수 있다.
또한, 외부 파라미터는 복수의 카메라(110)의 위치 관계 및 방향 등과 같이 외부 공간과의 기하학적 관계에 관련된 파라미터로서, 내부 파라미터 및 복수의 이미지를 바탕으로 획득될 수 있다. 외부 파라미터를 획득하는 과정은 카메라(110) 캘리브레이션(camera calibration) 분야에 있어서 공지된 바와 같은 다양한 기법에 의해 수행될 수 있으며, 예를 들어, 복수의 이미지에 포함된 특징점들을 분석하여 카메라(110)의 3 차원 위치 및 자세에 대한 정보를 추출하는 과정을 통해 수행될 수 있다.
내부 파라미터 및 외부 파라미터가 획득되면, 프로세서(130)는 내부 파라미터 및 외부 파라미터를 바탕으로 전자 장치(100)의 회전 중심을 원점으로 하는 회전 좌표계와 제1 카메라(110-1) 좌표계 사이의 변환을 나타내는 제3 매트릭스를 획득할 수 있다. 또한, 프로세서(130)는 내부 파라미터, 외부 파라미터 및 제3 매트릭스를 바탕으로 제1 카메라(110-1) 좌표계와 제2 카메라(110-2) 좌표계 사이의 변환을 나타내는 제1 매트릭스 및 제1 카메라(110-1) 좌표계와 제3 카메라(110-3) 좌표계 사이의 변환을 나타내는 제2 매트릭스를 획득할 수 있다.
본 개시에 따라 제1 매트릭스 및 제2 매트릭스를 획득하는 과정에 대해서는 도 4 내지 도 6을 참조하여 보다 구체적으로 설명한다.
제1 매트릭스 및 제2 매트릭스가 획득되면, 프로세서(130)는 제1 매트릭스 및 제2 매트릭스를 바탕으로 복수의 이미지의 좌표를 구면 좌표계(spherical coordinate system) 상의 좌표로 변환하여, 복수의 이미지가 스티칭(stitching)된 이미지를 획득할 수 있다. 구체적으로, 프로세서(130)는 서로 다른 제1 카메라(110-1), 제2 카메라(110-2) 및 제3 카메라(110-3) 각각을 통해 획득된 제1 이미지, 제2 이미지 및 제3 이미지를 구면 좌표계에 따른 하나의 이미지 평면 상에 투영(projection)함에 있어서, 제1 카메라(110-1) 좌표계와 제2 카메라(110-2) 좌표계 사이의 변환을 위한 제1 매트릭스 및 제1 카메라(110-1) 좌표계와 제3 카메라(110-3) 좌표계 사이의 변환을 위한 제2 매트릭스를 이용할 수 있다.
본 개시에 따라 복수의 이미지에 대응되는 이미지 평면 상의 좌표를 구면 좌표계 상의 좌표로 변환하는 과정에 대해서는 도 7을 참조하여 보다 구체적으로 설명한다.
한편, 상술한 바와 같이 복수의 이미지의 좌표를 구면 좌표계로 변환하기 위한 데이터는 룩업 테이블(lookup table)의 형태로 메모리(120)에 저장될 수 있다. 그리고, 프로세서(130)는 메모리(120)에 저장된 룩업 테이블을 바탕으로 복수의 이미지가 스티칭된 이미지를 획득할 수 있다. 다시 말해, 프로세서(130)는 제1 매트릭스 및 제2 매트릭스를 획득하는 과정 및 복수의 이미지에 대응되는 이미지 평면 상의 좌표를 구면 좌표계 상의 좌표로 변환하는 과정을 실시간으로 수행하여 복수의 이미지를 스티칭할 수 있을 뿐만 아니라, 메모리(120)에 저장된 룩업 테이블을 이용하여 빠른 속도로 복수의 이미지를 스티칭할 수도 있다.
도 4 내지 도 6은 본 개시의 일 실시 예에 따른 적어도 하나의 매트릭스를 획득하는 과정을 상세하게 설명하기 위한 도면이다.
도 4는 본 개시에 따른 전자 장치(100)가 전자 장치(100)의 회전 축을 기준으로 회전하지 않은 상태, 즉, 본 개시에 따른 회전 좌표계(40)의 원점, 제1 카메라 죄표계(10)의 원점 및 월드 좌표계(50)의 원점이 일직선 상에 배치된 상태를 나타낸다. 따라서, 도 4에 도시된 바와 같은 상태에서, 오브젝트(1000)는 제1 카메라(110-1)의 뷰에 포함된다. 여기서, 전자 장치(100)의 회전 축은 전자 장치(100)를 회전시키기 위한 회전 스테이지의 회전 축에 따라 결정될 수 있다. 한편, 본 개시를 설명함에 있어서, 회전 중심이라는 용어는 전자 장치(100)의 회전 축 상의 점들 중 회전 좌표계(40)의 원점이 되는 점을 지칭하기 위한 용어로 사용된다.
도 4에 도시된 바와 같은 상태에서, 프로세서(130)는 제1 카메라(110-1)를 통해 오브젝트(1000)에 대한 제1 이미지를 획득할 수 있다. 그리고, 프로세서(130)는 내부 파라미터 및 제1 이미지에 포함된 특징점들에 대한 정보를 바탕으로 제1 카메라 죄표계(10)와 월드 좌표계(50) 사이의 회전 및 평행이동을 각각 나타내는 매트릭스 R 및 Tr0를 획득할 수 있다.
한편, 도 4에 도시된 바와 같은 상태에서, 회전 좌표계(40)와 월드 좌표계(50) 사이의 변환은, 회전 좌표계(40)와 제1 카메라 죄표계(10) 사이의 변환을 나타내는 매트릭스 A 및 제1 카메라 죄표계(10)와 월드 좌표계(50) 사이의 평행이동 변환을 나타내는 매트릭스 Tr0의 곱으로 나타낼 수 있다. 즉, 도 4에 도시된 바와 같은 상태에서, 회전 좌표계(40)와 월드 좌표계(50) 사이의 변환은 하기의 수학식 1로 나타낼 수 있다.
Figure 112021036613411-pat00001
도 5는 본 개시에 따른 전자 장치(100)가 회전 축을 기준으로 제1 각도만큼 회전되었으며, 여전히 제1 카메라(110-1)의 뷰에 오브젝트(1000)가 포함되는 상태를 나타낸다.
도 5에 도시된 바와 같은 상태에서, 회전 좌표계(40)와 월드 좌표계(50) 사이의 변환은 두 가지 방식으로 나타낼 수 있다.
첫째로, 도 5에 도시된 바와 같은 상태에서, 회전 좌표계(40)와 월드 좌표계(50) 사이의 변환은, 회전 좌표계(40)와 제1 카메라 죄표계(10) 사이의 변환을 나타내는 매트릭스 A 및 제1 카메라 죄표계(10)와 월드 좌표계(50) 사이의 변환을 나타내는 매트릭스 Tr`1의 곱으로 나타낼 수 있다. 즉, 전자 장치(100)의 회전에 의해 회전 좌표계(40)와 제1 카메라 죄표계(10)는 함께 회전하지만, 제1 카메라 죄표계(10)와 월드 좌표계(50) 사이의 위치 관계는 변경되기 때문에, 제1 카메라 죄표계(10)와 월드 좌표계(50) 사이의 변환을 나타내는 매트릭스 Tr`1은 도 4에 도시된 바와 같은 상태에서 획득된 매트릭스 Tr0와는 상이한 엘리먼트를 포함할 수 있다.
둘째로, 도 5에 도시된 바와 같은 상태에서, 회전 좌표계(40)와 월드 좌표계(50) 사이의 변환은, 수학식 1의 매트릭스와 제1 카메라 죄표계(10)를 월드 좌표계(50)로 제1 각도만큼 회전 변환하기 위한 매트릭스(
Figure 112021036613411-pat00002
)의 곱으로 나타낼 수 있다. 이는 전자 장치(100)가 회전 중심을 기준으로 제1 각도만큼 회전된 경우, 제1 카메라 죄표계(10)를 기준으로 제1 각도만큼 월드 좌표계(50)가 회전된 것으로 볼 수 있기 때문이다.
결국, 도 5에 도시된 바와 같은 상태에서, 회전 좌표계(40)와 월드 좌표계(50) 사이의 변환을 나타내는 두 가지 방식 사이에는 하기 수학식 2와 같은 등식이 성립할 수 있다.
Figure 112021036613411-pat00003
도 6은 본 개시에 따른 전자 장치(100)가 회전 축을 기준으로 제2 각도만큼 회전됨에 따라 제2 카메라(110-2)의 뷰에 오브젝트(1000)가 포함되는 상태(이하, 도 6의 첫번째 상태라고 지칭함)와 전자 장치(100)가 회전 축을 기준으로 제3 각도만큼 회전됨에 따라 제3 카메라(110-3)의 뷰에 오브젝트(1000)가 포함되는 상태(이하, 도 6의 두번째 상태라고 지칭함)를 함께 나타내는 도면이다.
도 6의 첫번째 상태 및 도 6의 두번째 상태에서의 회전 좌표계(40)와 월드 좌표계(50) 사이의 변환을 나타내는 매트릭스를 획득하는 과정 또한, 도 5에 도시된 바와 같은 상태에서 회전 좌표계(40)와 월드 좌표계(50) 사이의 변환을 나타내는 매트릭스를 획득하는 과정과 마찬가지 방법으로 수행될 수 있다.
구체적으로, 도 6의 첫번째 상태에서, 회전 좌표계(40)와 월드 좌표계(50) 사이의 변환은, 회전 좌표계(40)와 제2 카메라 죄표계(20) 사이의 변환을 나타내는 매트릭스 B 및 제2 카메라 죄표계(20)와 월드 좌표계(50) 사이의 변환을 나타내는 매트릭스 Tr2의 곱으로 나타낼 수 있다. 뿐만 아니라, 도 6의 첫번째 상태에서, 회전 좌표계(40)와 월드 좌표계(50) 사이의 변환은, 도 4에 수학식 1의 매트릭스와 제1 카메라 죄표계(10)를 월드 좌표계(50)로 제2 각도만큼 회전 변환하기 위한 매트릭스(
Figure 112021036613411-pat00004
)의 곱으로 나타낼 수 있다. 이는 전자 장치(100)가 회전 중심을 기준으로 제2 각도만큼 회전된 경우, 제1 카메라 죄표계(10)를 기준으로 제2 각도만큼 월드 좌표계(50)가 회전된 것으로 볼 수 있기 때문이다.
결국, 도 6의 첫번째 상태에서, 회전 좌표계(40)와 월드 좌표계(50) 사이의 변환을 나타내는 두 가지 방식 사이에는 하기 수학식 3과 같은 등식이 성립할 수 있다.
Figure 112021036613411-pat00005
한편, 도 6의 두번째 상태에서, 회전 좌표계(40)와 월드 좌표계(50) 사이의 변환은, 회전 좌표계(40)와 제3 카메라 죄표계(30) 사이의 변환을 나타내는 매트릭스 C 및 제3 카메라 죄표계(30)와 월드 좌표계(50) 사이의 변환을 나타내는 매트릭스 Tr3의 곱으로 나타낼 수 있다. 뿐만 아니라, 도 6의 두번째 상태에서, 회전 좌표계(40)와 월드 좌표계(50) 사이의 변환은, 도 4에 수학식 1의 매트릭스와 제3 카메라 죄표계(30)를 월드 좌표계(50)로 제3 각도만큼 회전 변환하기 위한 매트릭스(
Figure 112021036613411-pat00006
)의 곱으로 나타낼 수 있다.
결국, 도 6의 두번째 상태에서, 회전 좌표계(40)와 월드 좌표계(50) 사이의 변환을 나타내는 두 가지 방식 사이에는 하기 수학식 4과 같은 등식이 성립할 수 있다.
Figure 112021036613411-pat00007
이상의 과정을 통해 산출된 3 개의 수학식인 수학식 2, 수학식 3 및 수학식 4는 미지수에 해당하는 3 개의 매트릭스 A, B 및 C를 포함하는 바, 매트릭스 A, B 및 C는 수학식 2, 수학식 3 및 수학식 4를 바탕으로 산출될 수 있다.
결론적으로, 도 4 내지 도 6을 참조하여 상술한 실시 예에 따르면, 프로세서(130)는 제1 카메라 죄표계(10)와 제2 카메라 죄표계(20) 사이의 변환을 나타내는 제1 매트릭스(즉, 매트릭스 B) 및 제1 카메라 죄표계(10)와 제3 카메라 죄표계(30) 사이의 변환을 나타내는 제2 매트릭스(즉, 매트릭스 C)를 획득할 수 있다.
도 7은 본 개시에 따라 복수의 이미지를 구면 좌표계 상의 이미지로 변환하는 과정을 상세하게 설명하기 위한 도면이다.
상술한 바와 같이 제1 카메라 좌표계(10)와 제2 카메라 좌표계(20) 사이의 변환을 나타내는 제1 매트릭스 및 제1 카메라 좌표계(10)와 제3 카메라 좌표계(30) 사이의 변환을 나타내는 제2 매트릭스가 획득되면, 프로세서(130)는 제1 매트릭스 및 제2 매트릭스를 바탕으로, 복수의 이미지에 대응되는 이미지 평면(710) 상의 좌표를 구면 좌표계 상의 좌표로 변환할 수 있다.
구체적으로, 도 7의 점 x는 이미지 평면(710) 상에 제1 이미지(즉, 제1 카메라(110-1)를 통해 획득된 이미지)에 포함된 하나의 픽셀이 투영되는 좌표를 나타낸다. 본 개시의 일 실시 예에 따르면, 프로세서(130)는 제1 카메라 좌표계(10)의 원점을 기준으로 점 x를 무한대 거리의 점으로 정의한 후, 그 무한대 거리의 점을 구면 좌표계의 원점을 향해 구면 좌표계 상에 투영시킴으로써, 점 x에 대응되는 구면 좌표계 상의 점 x'의 좌표를 산출할 수 있다. 이에 따라, 점 x를 구면 좌표계에 따른 새로운 이미지 평면(720) 상의 좌표 x'으로 변환할 수 있다.
한편, 도 7의 점 y는 이미지 평면(710) 상에 제3 이미지(즉, 제3 카메라(110-3)를 통해 획득된 이미지)에 포함된 하나의 픽셀이 투영되는 좌표를 나타낸다. 프로세서(130)는 제3 카메라 좌표계(30)의 원점을 기준으로 점 y를 무한대 거리의 점으로 정의한 후, 그 무한대 거리의 점을 구면 좌표계의 원점을 향해 구면 좌표계 상에 투영시킴으로써 점 y에 대응되는 구면 좌표계 상의 점 y'의 좌표를 산출할 수 있다. 한편, 제3 카메라 좌표계(30)의 원점을 기준으로 점 y를 무한대 거리의 점으로 정의함에 있어서는 제1 카메라 좌표계(10)와 제3 카메라 좌표계(30) 사이의 변환을 나타내는 제2 매트릭스가 이용될 수 있다. 이에 따라, 점 y를 구면 좌표계에 따른 새로운 이미지 평면(720) 상의 좌표 y'로 변환할 수 있다.
도 7에 도시하지는 않았으나, 제2 이미지(즉, 제2 카메라(110-2)를 통해 획득된 이미지)의 좌표들도 점 x 및 점 y에 대한 설명과 마찬가지 방식으로 구면 좌표계 상에 투영될 수 있다.
도 7을 참조하여 상술한 실시 예에 따르면, 프로세서(130)는 서로 다른 복수의 카메라(110)를 통해 획득된 복수의 이미지를 구면 좌표계에 따른 하나의 이미지 평면(720) 상에 투영함으로써, 복수의 이미지가 스티칭된 하나의 이미지를 획득할 수 있게 된다.
도 8은 본 개시에 따른 복수의 카메라 각각을 통해 획득된 복수의 이미지를 나타내는 도면, 도 9는 종래 기술에 따라 복수의 이미지를 스티칭한 결과를 나타내는 도면이고, 도 10은 본 개시의 일 실시 예에 따라 복수의 이미지를 스티칭한 결과를 나타내는 도면이다.
본 개시의 일 실시 예에 따르면, 프로세서는 제1 카메라, 제2 카메라 및 제3 카메라 각각을 통해 도 8에 도시된 바와 같은 제1 이미지(810), 제2 이미지(820) 및 제3 이미지(830)를 획득할 수 있다. 도 8의 제1 이미지(810), 제2 이미지(820) 및 제3 이미지(830)는 본 개시에 따른 복수의 카메라(110)가 MWIR 카메라인 경우에 획득된 이미지들을 나타내는 것이지만, 이는 일 실시 예에 불과할 뿐임은 물론이다.
종래 기술에 따르면, 복수의 카메라(110) 각각을 통해 복수의 이미지(810, 820, 830)가 획득된 경우, 복수의 이미지(810, 820, 830) 사이의 중첩되는 영역에 포함된 특징점들을 이용하거나, 복수의 이미지(810, 820, 830) 사이의 중첩되는 영역에 포함된 패턴을 이용하여 복수의 이미지(810, 820, 830)를 스티칭할 수 있다.
그러나, 종래 기술에 따르면, 복수의 이미지(810, 820, 830) 사이의 중첩되는 영역이 존재하는 경우에 한하여 복수의 이미지(810, 820, 830)를 스티칭할 수 있다는 한계가 있으며, 도 9에 도시된 바와 같이, 종래 기술에 따라 스티칭된 이미지(910)에서 복수의 이미지(810, 820, 830) 사이의 접합부에 꺾임 현상(920)이 나타날 수 있다.
반면, 본 개시에 따르면, 복수의 이미지(810, 820, 830) 사이의 중첩되는 영역이 존재하지 않는 경우에도, 복수의 카메라(110) 각각의 내부 파라미터 및 복수의 카메라(110) 좌표계와 월드 좌표계 사이의 변환을 위한 외부 파라미터를 바탕으로 복수의 카메라(110) 좌표계 사이의 변환을 위한 적어도 하나의 매트릭스를 획득하고, 적어도 하나의 매트릭스를 바탕으로 복수의 이미지(810, 820, 830)에 대응되는 이미지 평면 상의 좌표를 구면 좌표계 상의 좌표로 변환하여, 복수의 이미지(810, 820, 830)가 스티칭된 이미지(1010)를 획득할 수 있다. 그리고 이에 따라, 도 10에 도시된 바와 같이, 본 개시에 따라 스티칭된 이미지(1010)에서 복수의 이미지 사이(810, 820, 830)의 접합부에 나타날 수 있는 꺾임 현상이 현저하게 완화될 수 있다(1020).
도 11은 본 개시의 일 실시 예에 따른 전자 장치(100)의 제어 방법을 간략하게 나타내는 흐름도이다.
도 11을 참조하면, 전자 장치(100)는 복수의 카메라(110) 각각을 통해 복수의 이미지를 획득할 수 있다(S1110). 구체적으로, 전자 장치(100)는 제1 카메라(110-1), 제2 카메라(110-2) 및 제3 카메라(110-3) 각각을 통해 제1 이미지, 제2 이미지 및 제3 이미지를 획득할 수 있다.
전자 장치(100)는 복수의 카메라(110) 각각의 내부 파라미터 및 복수의 카메라(110) 각각에 대응되는 복수의 카메라(110) 좌표계와 월드 좌표계 사이의 변환을 위한 외부 파라미터를 바탕으로, 복수의 카메라(110) 좌표계 사이의 변환을 위한 적어도 하나의 매트릭스를 획득할 수 있다(S1120).
구체적으로, 전자 장치(100)는 내부 파라미터 및 외부 파라미터를 바탕으로 전자 장치(100)의 회전 중심을 원점으로 하는 회전 좌표계와 제1 카메라(110-1) 좌표계 사이의 변환을 나타내는 제3 매트릭스를 획득할 수 있다. 또한, 전자 장치(100)는 내부 파라미터, 외부 파라미터 및 제3 매트릭스를 바탕으로 제1 카메라(110-1) 좌표계와 제2 카메라(110-2) 좌표계 사이의 변환을 나타내는 제1 매트릭스 및 제1 카메라(110-1) 좌표계와 제3 카메라(110-3) 좌표계 사이의 변환을 나타내는 제2 매트릭스를 획득할 수 있다.
전자 장치(100)는 적어도 하나의 매트릭스를 바탕으로 복수의 이미지에 대응되는 이미지 평면 상의 좌표를 구면 좌표계 상의 좌표로 변환하여, 복수의 이미지가 스티칭된 이미지를 획득할 수 있다(S1130).
구체적으로, 전자 장치(100)는 서로 다른 제1 카메라(110-1), 제2 카메라(110-2) 및 제3 카메라(110-3) 각각을 통해 획득된 제1 이미지, 제2 이미지 및 제3 이미지를 구면 좌표계에 따른 하나의 이미지 평면 상에 투영함에 있어서, 제1 카메라(110-1) 좌표계와 제2 카메라(110-2) 좌표계 사이의 변환을 위한 제1 매트릭스 및 제1 카메라(110-1) 좌표계와 제3 카메라(110-3) 좌표계 사이의 변환을 위한 제2 매트릭스를 이용할 수 있다.
한편, 상술한 실시 예에 따른 전자 장치(100)의 제어 방법은 프로그램으로 구현되어 전자 장치(100)에 제공될 수 있다. 특히, 전자 장치(100)의 제어 방법을 포함하는 프로그램은 비일시적 판독 가능 매체(non-transitory computer readable medium)에 저장되어 제공될 수 있다.
구체적으로, 전자 장치(100)의 제어 방법을 실행하는 프로그램을 포함하는 비일시적 컴퓨터 판독 가능 기록매체에 있어서, 전자 장치(100)의 제어 방법은 복수의 카메라(110) 각각을 통해 복수의 이미지를 획득하는 단계, 복수의 카메라(110) 각각의 내부 파라미터(intrinsic parameter) 및 복수의 카메라(110) 각각에 대응되는 복수의 카메라(110) 좌표계와 월드 좌표계(world coordinate) 사이의 변환을 위한 외부 파라미터(extrinsic parameter)를 바탕으로 복수의 카메라(110) 좌표계 사이의 변환을 위한 적어도 하나의 매트릭스를 획득하는 단계 및 적어도 하나의 매트릭스를 바탕으로 복수의 이미지에 대응되는 이미지 평면 상의 좌표를 구면 좌표계 상의 좌표로 변환하여 복수의 이미지가 스티칭(stitching)된 이미지를 획득하는 단계를 포함할 수 있다.
이상에서 전자 장치(100)의 제어 방법, 그리고 전자 장치(100)의 제어 방법을 실행하는 프로그램을 포함하는 컴퓨터 판독 가능 기록매체에 대해 간략하게 설명하였으나, 이는 중복 설명을 생략하기 위한 것일 뿐이며, 전자 장치(100)에 대한 다양한 실시 예는 전자 장치(100)의 제어 방법, 그리고 전자 장치(100)의 제어 방법을 실행하는 프로그램을 포함하는 비일시적 컴퓨터 판독 가능 기록매체에 대해서도 적용될 수 있음은 물론이다.
한편, 비일시적 판독 가능 매체란 레지스터, 캐쉬, 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 구체적으로는, 상술한 다양한 어플리케이션 또는 프로그램들은 CD, DVD, 하드 디스크, 블루레이 디스크, USB, 메모리카드, ROM 등과 같은 비일시적 판독 가능 매체에 저장되어 제공될 수 있다.
기기로 읽을 수 있는 저장매체는, 비일시적(non-transitory) 저장매체의 형태로 제공될 수 있다. 여기서, '비일시적 저장매체'는 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다. 예로, '비일시적 저장매체'는 데이터가 임시적으로 저장되는 버퍼를 포함할 수 있다.
일 실시 예에 따르면, 본 문서에 개시된 다양한 실시 예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory (CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 또는 두개의 사용자 장치들(예: 스마트폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품(예: 다운로더블 앱(downloadable app))의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
이상에서 상술한 바와 같은 본 개시의 다양한 실시 예들에 따른 구성 요소(예: 모듈 또는 프로그램) 각각은 단수 또는 복수의 개체로 구성될 수 있으며, 전술한 해당 서브 구성 요소들 중 일부 서브 구성 요소가 생략되거나, 또는 다른 서브 구성 요소가 다양한 실시 예에 더 포함될 수 있다. 대체적으로 또는 추가적으로, 일부 구성 요소들(예: 모듈 또는 프로그램)은 하나의 개체로 통합되어, 통합되기 이전의 각각의 해당 구성 요소에 의해 수행되는 기능을 동일 또는 유사하게 수행할 수 있다.
다양한 실시 예들에 따른, 모듈, 프로그램 또는 다른 구성 요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱하게 실행되거나, 적어도 일부 동작이 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다.
한편, 본 개시에서 사용된 용어 "부" 또는 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구성된 유닛을 포함하며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로 등의 용어와 상호 호환적으로 사용될 수 있다. "부" 또는 "모듈"은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 모듈은 ASIC(application-specific integrated circuit)으로 구성될 수 있다.
본 개시의 다양한 실시 예들은 기기(machine)(예: 컴퓨터)로 읽을 수 있는 저장 매체(machine-readable storage media에 저장된 명령어를 포함하는 소프트웨어로 구현될 수 있다. 기기는 저장 매체로부터 저장된 명령어를 호출하고, 호출된 명령어에 따라 동작이 가능한 장치로서, 개시된 실시 예들에 따른 전자 장치(예: 전자 장치(100))를 포함할 수 있다.
상기 명령이 프로세서에 의해 실행될 경우, 프로세서가 직접 또는 상기 프로세서의 제어 하에 다른 구성요소들을 이용하여 상기 명령에 해당하는 기능을 수행할 수 있다. 명령은 컴파일러 또는 인터프리터에 의해 생성 또는 실행되는 코드를 포함할 수 있다.
이상에서는 본 개시의 바람직한 실시 예에 대하여 도시하고 설명하였지만, 본 개시는 상술한 특정의 실시 예에 한정되지 아니하며, 청구범위에서 청구하는 본 개시의 요지를 벗어남이 없이 당해 개시가 속하는 기술분야에서 통상의 지식을 가진 자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형실시들은 본 개시의 기술적 사상이나 전망으로부터 개별적으로 이해되어서는 안 될 것이다.
100: 전자 장치 110: 복수의 카메라
120: 메모리 130: 프로세서
140: 통신부 150: 입력부
160: 출력부

Claims (10)

  1. 전자 장치에 있어서,
    복수의 카메라;
    복수의 좌표계 사이의 변환을 위한 데이터가 저장되는 메모리; 및
    상기 복수의 카메라 각각을 통해 복수의 이미지를 획득하고,
    상기 복수의 카메라 각각의 내부 파라미터(intrinsic parameter) 및 상기 복수의 카메라 각각에 대응되는 복수의 카메라 좌표계와 월드 좌표계(world coordinate) 사이의 변환을 위한 외부 파라미터(extrinsic parameter)를 바탕으로, 상기 복수의 카메라 좌표계 사이의 변환을 위한 적어도 하나의 매트릭스를 획득하며,
    상기 적어도 하나의 매트릭스를 바탕으로 상기 복수의 이미지에 대응되는 이미지 평면 상의 좌표를 구면 좌표계 상의 좌표로 변환하여, 상기 복수의 이미지가 스티칭(stitching)된 이미지를 획득하는 프로세서; 를 포함하고,
    상기 메모리에 저장된 상기 데이터는 상기 복수의 이미지의 좌표를 상기 구면 좌표계로 변환하기 위한 룩업 테이블(lookup table)을 포함하고,
    상기 프로세서는,
    상기 룩업 테이블을 바탕으로 상기 복수의 이미지가 스티칭된 이미지를 획득하는 전자 장치.
  2. 제1 항에 있어서,
    상기 복수의 카메라는 제1 카메라, 제2 카메라 및 제3 카메라를 포함하고,
    상기 적어도 하나의 매트릭스는 상기 제1 카메라에 대응되는 제1 카메라 좌표계와 상기 제2 카메라에 대응되는 제2 카메라 좌표계 사이의 변환을 나타내는 제1 매트릭스 및 상기 제1 카메라 좌표계와 상기 제3 카메라에 대응되는 제3 카메라 사이의 변환을 나타내는 제2 매트릭스를 포함하는 전자 장치.
  3. 제2 항에 있어서,
    상기 프로세서는,
    상기 내부 파라미터 및 상기 외부 파라미터를 바탕으로 상기 전자 장치의 회전 중심을 원점으로 하는 회전 좌표계와 상기 제1 카메라 좌표계 사이의 변환을 나타내는 제3 매트릭스를 획득하고,
    상기 내부 파라미터, 상기 외부 파라미터 및 상기 제3 매트릭스를 바탕으로 상기 제1 매트릭스 및 상기 제2 매트릭스를 획득하는 전자 장치.
  4. 제1 항에 있어서,
    상기 내부 파라미터는 상기 복수의 카메라 각각의 초점 거리(focal length), 상기 복수의 카메라 각각의 주점(principal point) 및 상기 복수의 카메라 각각의 비대칭 계수(skew coefficient)를 포함하는 전자 장치.
  5. 제1 항에 있어서,
    상기 외부 파라미터는 상기 복수의 카메라 좌표계와 상기 월드 좌표계 사이의 변환을 위한 회전(rotation) 및 평행이동(translation)을 나타내는 전자 장치.
  6. 제1 항에 있어서,
    상기 적어도 하나의 매트릭스는 상기 복수의 카메라 좌표계 사이의 동차 변환(homogeneous transform)을 나타내는 매트릭스인 전자 장치.
  7. 삭제
  8. 제1 항에 있어서,
    상기 복수의 카메라 각각의 뷰(view)는 서로 중첩되지 않는 전자 장치.
  9. 복수의 카메라 및 복수의 좌표계 사이의 변환을 위한 데이터가 저장되는 메모리를 포함하는 전자 장치의 제어 방법에 있어서,
    상기 복수의 카메라 각각을 통해 복수의 이미지를 획득하는 단계;
    상기 복수의 카메라 각각의 내부 파라미터(intrinsic parameter) 및 상기 복수의 카메라 각각에 대응되는 복수의 카메라 좌표계와 월드 좌표계(world coordinate) 사이의 변환을 위한 외부 파라미터(extrinsic parameter)를 바탕으로, 상기 복수의 카메라 좌표계 사이의 변환을 위한 적어도 하나의 매트릭스를 획득하는 단계; 및
    상기 적어도 하나의 매트릭스를 바탕으로 상기 복수의 이미지에 대응되는 이미지 평면 상의 좌표를 구면 좌표계 상의 좌표로 변환하여, 상기 복수의 이미지가 스티칭(stitching)된 이미지를 획득하는 단계; 를 포함하며,
    상기 메모리에 저장된 상기 데이터는 상기 복수의 이미지의 좌표를 상기 구면 좌표계로 변환하기 위한 룩업 테이블(lookup table)을 포함하고,
    상기 복수의 이미지가 스티칭된 이미지를 획득하는 단계는 상기 룩업 테이블을 바탕으로 상기 복수의 이미지가 스티칭된 이미지를 획득하는 단계인 전자 장치의 제어 방법.
  10. 전자 장치의 제어 방법을 실행하는 프로그램을 포함하는 비일시적 컴퓨터 판독 가능 기록매체에 있어서,
    상기 전자 장치는 복수의 카메라 및 복수의 좌표계 사이의 변환을 위한 데이터가 저장되는 메모리를 포함하고,
    상기 전자 장치의 제어 방법은,
    상기 복수의 카메라 각각을 통해 복수의 이미지를 획득하는 단계;
    상기 복수의 카메라 각각의 내부 파라미터(intrinsic parameter) 및 상기 복수의 카메라 각각에 대응되는 복수의 카메라 좌표계와 월드 좌표계(world coordinate) 사이의 변환을 위한 외부 파라미터(extrinsic parameter)를 바탕으로, 상기 복수의 카메라 좌표계 사이의 변환을 위한 적어도 하나의 매트릭스를 획득하는 단계; 및
    상기 적어도 하나의 매트릭스를 바탕으로 상기 복수의 이미지에 대응되는 이미지 평면 상의 좌표를 구면 좌표계 상의 좌표로 변환하여, 상기 복수의 이미지가 스티칭(stitching)된 이미지를 획득하는 단계; 를 포함하며,
    상기 메모리에 저장된 상기 데이터는 상기 복수의 이미지의 좌표를 상기 구면 좌표계로 변환하기 위한 룩업 테이블(lookup table)을 포함하고,
    상기 복수의 이미지가 스티칭된 이미지를 획득하는 단계는 상기 룩업 테이블을 바탕으로 상기 복수의 이미지가 스티칭된 이미지를 획득하는 단계인 컴퓨터 판독 가능 기록매체.

KR1020210040348A 2021-03-29 2021-03-29 멀티 카메라 시스템을 보정하기 위한 전자 장치 및 이의 제어 방법 KR102445874B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020210040348A KR102445874B1 (ko) 2021-03-29 2021-03-29 멀티 카메라 시스템을 보정하기 위한 전자 장치 및 이의 제어 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020210040348A KR102445874B1 (ko) 2021-03-29 2021-03-29 멀티 카메라 시스템을 보정하기 위한 전자 장치 및 이의 제어 방법

Publications (1)

Publication Number Publication Date
KR102445874B1 true KR102445874B1 (ko) 2022-09-21

Family

ID=83452863

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210040348A KR102445874B1 (ko) 2021-03-29 2021-03-29 멀티 카메라 시스템을 보정하기 위한 전자 장치 및 이의 제어 방법

Country Status (1)

Country Link
KR (1) KR102445874B1 (ko)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20160115466A (ko) * 2015-03-27 2016-10-06 한국전자통신연구원 파노라믹 비디오를 스티칭하는 장치 및 이를 위한 스티칭 방법
KR20190051253A (ko) * 2017-11-06 2019-05-15 한국철도기술연구원 듀얼 카메라를 이용하여 카메라의 3차원 위치 오차 보정이 가능한 영상 변위 계측 방법

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20160115466A (ko) * 2015-03-27 2016-10-06 한국전자통신연구원 파노라믹 비디오를 스티칭하는 장치 및 이를 위한 스티칭 방법
KR20190051253A (ko) * 2017-11-06 2019-05-15 한국철도기술연구원 듀얼 카메라를 이용하여 카메라의 3차원 위치 오차 보정이 가능한 영상 변위 계측 방법

Similar Documents

Publication Publication Date Title
KR102423175B1 (ko) 심도 맵을 이용하여 이미지를 편집하기 위한 장치 및 그에 관한 방법
US10956774B2 (en) Electronic device for acquiring image using plurality of cameras and method for processing image using the same
US11169680B2 (en) Electronic device displaying interface for editing video data and method for controlling same
US8224069B2 (en) Image processing apparatus, image matching method, and computer-readable recording medium
KR102451601B1 (ko) 카메라들 및 회절 광학 엘리먼트들의 외부 교정을 위한 시스템 및 방법들
US10726580B2 (en) Method and device for calibration
KR102659357B1 (ko) 아바타 애니메이션을 제공하기 위한 전자 장치 및 그에 관한 방법
KR102424984B1 (ko) 복수 개의 카메라를 포함하는 전자 장치 및 그 동작 방법
KR102452564B1 (ko) 광학식 이미지 안정화 움직임을 추정하기 위한 장치 및 방법
US11924550B2 (en) Method for processing image by using artificial neural network, and electronic device supporting same
KR20190058337A (ko) 화상 처리장치, 화상 처리방법 및 기억매체
KR102383134B1 (ko) 우선 순위에 기반하여 이미지를 처리하는 전자 장치 및 그 동작 방법
KR102423295B1 (ko) 심도 맵을 이용하여 객체를 합성하기 위한 장치 및 그에 관한 방법
KR102452575B1 (ko) 광학식 이미지 안정화 움직임에 의한 이미지의 변화를 보상하기 위한 장치 및 방법
JP2018026064A (ja) 画像処理装置、画像処理方法、システム
US20190228563A1 (en) Image processing apparatus, image processing method, and storage medium
US12003867B2 (en) Electronic device and method for displaying image in electronic device
US20180367709A1 (en) Image processing apparatus, object shape estimation method, and storage medium
KR102650217B1 (ko) 이미지를 제공하기 위한 방법 및 이를 지원하는 전자 장치
US10657703B2 (en) Image processing apparatus and image processing method
US20210407113A1 (en) Information processing apparatus and information processing method
KR102445874B1 (ko) 멀티 카메라 시스템을 보정하기 위한 전자 장치 및 이의 제어 방법
US10212406B2 (en) Image generation of a three-dimensional scene using multiple focal lengths
KR20130098675A (ko) 얼굴 검출 처리 회로 및 이를 포함하는 촬상 장치
JP2013258583A (ja) 撮像画像表示装置、撮像画像表示方法、プログラム