KR102082300B1 - 삼차원 영상 생성 또는 재생을 위한 장치 및 방법 - Google Patents

삼차원 영상 생성 또는 재생을 위한 장치 및 방법 Download PDF

Info

Publication number
KR102082300B1
KR102082300B1 KR1020130076615A KR20130076615A KR102082300B1 KR 102082300 B1 KR102082300 B1 KR 102082300B1 KR 1020130076615 A KR1020130076615 A KR 1020130076615A KR 20130076615 A KR20130076615 A KR 20130076615A KR 102082300 B1 KR102082300 B1 KR 102082300B1
Authority
KR
South Korea
Prior art keywords
image
spherical
left eye
right eye
planar
Prior art date
Application number
KR1020130076615A
Other languages
English (en)
Other versions
KR20150003576A (ko
Inventor
김승훈
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020130076615A priority Critical patent/KR102082300B1/ko
Priority to EP14150495.1A priority patent/EP2821969A1/en
Priority to US14/155,783 priority patent/US20150002641A1/en
Publication of KR20150003576A publication Critical patent/KR20150003576A/ko
Application granted granted Critical
Publication of KR102082300B1 publication Critical patent/KR102082300B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013—Eye tracking input arrangements
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20—Image signal generators
    • H04N13/204—Image signal generators using stereoscopic image cameras
    • H04N13/207—Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20—Image signal generators
    • H04N13/204—Image signal generators using stereoscopic image cameras
    • H04N13/239—Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30—Image reproducers

Abstract

본 발명의 일 실시예의 일 측면에 따르면, 좌안 영상과 우안 영상을 포함하는 복수의 캡쳐 영상, 및 상기 복수의 캡쳐 영상들 각각에 대한 촬영 시의 방향 정보를 획득하는 단계; 상기 복수의 캡쳐 영상들의 방향 정보를 이용하여, 상기 복수의 캡쳐 영상들의 좌안 영상들을 제1 구형 좌표계에 배치하여 좌안 구형 영상을 생성하고, 상기 복수의 캡쳐 영상들의 상기 우안 영상들을 제2 구형 좌표계에 배치하여 우안 구형 영상을 생성하는 단계; 및 상기 좌안 구형 영상과 상기 우안 구형 영상을 저장하는 단계를 포함하는 삼차원 영상 생성 방법이 제공된다.

Description

삼차원 영상 생성 또는 재생을 위한 장치 및 방법 {Apparatus and method for generating or reproducing three-dimensional image}
본 발명의 실시예들은 삼차원 영상 생성 장치, 삼차원 영상 생성 방법, 삼차원 영상 재생 장치, 및 삼차원 영상 재생 방법에 관한 것이다.
삼차원 콘텐츠에 대한 관심이 높아지면서, 삼차원 영상을 생성하고 재생하는 기술에 대한 관심이 높아지고 있다. 삼차원 영상을 구현하는 방법으로는, 예를 들면, 사용자에게 좌우 방향에서 시청하였을 때 동일한 영상을 제공하면서 양안 시차를 주면, 뇌에서 좌안에서 인식된 영상과 우안에서 인식된 영상을 하나의 영상으로 처리하여, 사용자가 입체감 있는 영상을 인지하도록 하는 방법이 있다. 좌안과 우안에서 영상을 분리하여 각각 인지하도록 하는 방법으로는, 편광 안경, 색 필터 안경, 스크린 등이 이용된다.
본 발명의 실시예들은 360도 방향에서 삼차원 영상을 시청할 수 있도록 하는 삼차원 영상 생성 및 재생을 위한 장치 및 방법을 제공하기 위한 것이다.
본 발명의 일 실시예의 일 측면에 따르면, 좌안 영상과 우안 영상을 포함하는 복수의 캡쳐 영상, 및 상기 복수의 캡쳐 영상들 각각에 대한 촬영 시의 방향 정보를 획득하는 단계;
상기 복수의 캡쳐 영상들의 방향 정보를 이용하여, 상기 복수의 캡쳐 영상들의 좌안 영상들을 제1 구형 좌표계에 배치하여 좌안 구형 영상을 생성하고, 상기 복수의 캡쳐 영상들의 상기 우안 영상들을 제2 구형 좌표계에 배치하여 우안 구형 영상을 생성하는 단계; 및
상기 좌안 구형 영상과 상기 우안 구형 영상을 저장하는 단계를 포함하는 삼차원 영상 생성 방법이 제공된다.
상기 삼차원 영상 생성 방법은, 상기 제1 구형 좌표계에 배치된 상기 복수의 캡쳐 영상들의 좌안 영상들을 스티칭(stitching)하여, 상기 좌안 구형 영상을 생성하는 단계; 및 상기 제2 구형 좌표계에 배치된 상기 복수의 캡쳐 영상들의 우안 영상들을 스티칭하여, 상기 우안 구형 영상을 생성하는 단계를 더 포함할 수 있다.
상기 좌안 구형 영상을 생성하는 단계는, 상기 복수의 캡쳐 영상들의 상기 좌안 영상과 상기 우안 영상의 매칭 결과에 따라, 스티칭할 좌안 영상들을 결정하고, 상기 우안 구형 영상을 생성하는 단계는, 상기 복수의 캡쳐 영상들의 상기 좌안 영상과 상기 우안 영상의 매칭 결과에 따라, 스티칭할 우안 영상들을 결정할 수 있다.
상기 저장하는 단계는, 상기 좌안 구형 영상과, 상기 좌안 구형 영상의 각 픽셀에 대한 제1 구형 좌표계의 좌표 값을 함께 저장하는 단계; 및 상기 우안 구형 영상과, 상기 우안 구형 영상의 각 픽셀에 대한 제2 구형 좌표계의 좌표 값을 함께 저장하는 단계를 포함할 수 있다.
본 발명의 다른 실시예의 일 측면에 따르면, 제1 구형 좌표계에 각 픽셀들이 배치된 좌안 구형 영상, 및 제2 구형 좌표계에 각 픽셀들이 배치된 우안 구형 영상을 로딩하는 단계;
제어 장치의 기울기를 검출하는 단계;
상기 검출된 기울기에 따라, 재생 방향 정보를 결정하는 단계;
상기 재생 방향 정보에 대응하는 재생 영역을 결정하는 단계;
상기 좌안 구형 영상 및 상기 우안 구형 영상으로부터 상기 재생 영역에 대응하는 평면 삼차원 영상을 생성하는 단계; 및
상기 평면 삼차원 영상을 재생하는 단계를 포함하는 삼차원 영상 재생 방법이 제공된다.
상기 삼차원 영상 재생 방법은, 상기 제어 장치의 이동에 따라 상기 평면 삼차원 영상의 크기를 결정하는 단계를 더 포함할 수 있다.
상기 평면 삼차원 영상을 생성하는 단계는, 상기 좌안 구형 영상과 상기 우안 구형 영상의 상기 재생 영역의 픽셀 값을 평면 상에 배치하여 평면 좌안 영상 및 평면 우안 영상을 생성하는 단계를 포함하고, 상기 평면 삼차원 영상을 재생하는 단계는, 상기 평면 좌안 영상 및 상기 평면 우안 영상을 번갈아서 재생할 수 있다.
본 발명의 일 실시예의 다른 측면에 따르면, 입사광을 집광하는 제1 광학계 및 제2 광학계;
상기 제1 광학계 및 상기 제2 광학계를 통과한 입사광을 광전 변환하는 적어도 하나의 촬상 소자;
상기 제1 광학계, 상기 제2 광학계, 및 상기 촬상 소자를 이용하여, 좌안 영상과 우안 영상을 포함하는 복수의 캡쳐 영상들을 생성하는 영상 획득부;
상기 복수의 캡쳐 영상들 각각에 대한 촬영 시의 방향 정보를 획득하는 방향 정보 획득부;
상기 복수의 캡쳐 영상들의 방향 정보를 이용하여, 상기 복수의 캡쳐 영상들을 제1 구형 좌표계에 배치하여 좌안 구형 영상을 생성하고, 상기 복수의 캡쳐 영상들의 상기 우안 영상들을 제2 구형 좌표계에 배치하여 우안 구형 영상을 생성하는 구형 영상 생성부; 및
상기 좌안 구형 영상과 상기 우안 구형 영상을 저장하는 데이터 저장부를 포함하는 삼차원 영상 생성 장치가 제공된다.
상기 구형 영상 생성부는, 상기 제1 구형 좌표계에 배치된 상기 복수의 캡쳐 영상들의 좌안 영상들을 스티칭(stitching)하여, 상기 좌안 구형 영상을 생성하는 좌안 구형 영상 생성부; 및 상기 제2 구형 좌표계에 배치된 상기 복수의 캡쳐 영상들의 우안 영상들을 스티칭하여, 상기 우안 구형 영상을 생성하는 우안 구형 영상 생성부를 포함할 수 있다.
상기 좌안 구형 영상 생성부는, 상기 복수의 캡쳐 영상들의 상기 좌안 영상과 상기 우안 영상의 매칭 결과에 따라, 스티칭할 좌안 영상들을 결정하고, 상기 우안 구형 영상 생성부는, 상기 복수의 캡쳐 영상들의 상기 좌안 영상과 상기 우안 영상의 매칭 결과에 따라, 스티칭할 우안 영상들을 결정할 수 있다.
상기 데이터 저장부는, 상기 좌안 구형 영상과, 상기 좌안 구형 영상의 각 픽셀에 대한 제1 구형 좌표계의 좌표 값을 함께 저장하고, 상기 우안 구형 영상과, 상기 우안 구형 영상의 각 픽셀에 대한 제2 구형 좌표계의 좌표 값을 함께 저장할 수 있다.
본 발명의 다른 실시예의 다른 측면에 따르면, 제1 구형 좌표계에 각 픽셀들이 배치된 좌안 구형 영상, 및 제2 구형 좌표계에 각 픽셀들이 배치된 우안 구형 영상을 저장하는 데이터 저장부;
제어 장치의 기울기를 검출하여, 상기 검출된 기울기에 따라 재생 방향 정보를 결정하는 재생 방향 결정부;
상기 재생 방향 정보에 대응하는 재생 영역을 결정하는 재생 영역 결정부;
상기 좌안 구형 영상 및 상기 우안 구형 영상으로부터 상기 재생 영역에 대응하는 평면 삼차원 영상을 생성하는 평면 삼차원 영상 생성부; 및
상기 평면 삼차원 영상을 재생하는 재생부를 포함하는 삼차원 영상 재생 장치가 제공된다.
상기 삼차원 영상 재생 장치는, 상기 제어 장치의 이동에 따라 상기 평면 삼차원 영상의 크기를 결정하는 영상 크기 결정부를 더 포함할 수 있다.
상기 평면 삼차원 영상 생성부는, 상기 좌안 구형 영상과 상기 우안 구형 영상의 상기 재생 영역의 픽셀 값을 평면 상에 배치하여 평면 좌안 영상 및 평면 우안 영상을 생성하고, 상기 재생부는, 상기 평면 좌안 영상 및 상기 평면 우안 영상을 번갈아서 재생할 수 있다.
본 발명의 일 실시예의 다른 측면에 따르면, 프로세서에 의해 독출되어 수행되었을 때, 삼차원 영상 생성 방법을 수행하는 컴퓨터 프로그램 코드들을 저장하는 컴퓨터 판독가능 기록매체에 있어서, 상기 삼차원 영상 생성 방법은,
좌안 영상과 우안 영상을 포함하는 복수의 캡쳐 영상, 및 상기 복수의 캡쳐 영상들 각각에 대한 촬영 시의 방향 정보를 획득하는 단계;
상기 복수의 캡쳐 영상들의 방향 정보를 이용하여, 상기 복수의 캡쳐 영상들의 좌안 영상들을 제1 구형 좌표계에 배치하여 좌안 구형 영상을 생성하고, 상기 복수의 캡쳐 영상들의 상기 우안 영상들을 제2 구형 좌표계에 배치하여 우안 구형 영상을 생성하는 단계; 및
상기 좌안 구형 영상과 상기 우안 구형 영상을 저장하는 단계를 포함하는, 컴퓨터 판독가능 기록매체가 제공된다.
본 발명의 다른 실시예의 다른 측면에 따르면, 프로세서에 의해 독출되어 수행되었을 때, 삼차원 영상 재생 방법을 수행하는 컴퓨터 프로그램 코드들을 저장하는 컴퓨터 판독가능 기록매체에 있어서, 상기 삼차원 영상 재생 방법은,
제1 구형 좌표계에 각 픽셀들이 배치된 좌안 구형 영상, 및 제2 구형 좌표계에 각 픽셀들이 배치된 우안 구형 영상을 로딩하는 단계;
제어 장치의 기울기를 검출하는 단계;
상기 검출된 기울기에 따라, 재생 방향 정보를 결정하는 단계;
상기 재생 방향 정보에 대응하는 재생 영역을 결정하는 단계;
상기 좌안 구형 영상 및 상기 우안 구형 영상의 상기 재생 영역의 픽셀 값을 이용하여, 평면 삼차원 영상을 생성하는 단계; 및
상기 평면 삼차원 영상을 재생하는 단계를 포함하는, 컴퓨터 판독가능 기록매체가 제공된다.
본 발명의 실시예들에 따르면 360도 방향에서 삼차원 영상을 시청할 수 있도록 하는 삼차원 영상 생성 및 재생을 위한 장치 및 방법을 제공된다.
도 1은 본 발명의 일 실시예에 따른 삼차원 영상 생성 장치(100)의 구성을 나타낸 도면이다.
도 2는 제1 광학계(110a) 및 제2 광학계(110b)가 배치된 본 발명의 일 실시예에 따른 삼차원 영상 생성 장치(100a)의 외관을 도시한 도면이다.
도 3a 내지 3c는 본 발명의 다른 실시예에 따른 삼차원 영상 생성 장치(100b)의 외관을 도시한 도면이다.
도 4는 복수의 캡쳐 영상들로부터 좌안 구형 영상 또는 우안 구형 영상을 생성하는 과정을 설명하기 위한 도면이다.
도 5는 본 발명의 다른 실시예에 따른 구형 영상 생성부(150)의 구성을 도시한 도면이다.
도 6은 본 발명의 다른 실시예에 따라 복수의 좌안 영상 또는 복수의 우안 영상을 합성하는 과정을 설명하기 위한 도면이다.
도 7은 본 발명의 일 실시예에 따른 좌안 구형 영상 및 우안 구형 영상의 일례를 도시한 도면이다.
도 8은 본 발명의 일 실시예에 따른 삼차원 영상 생성 방법을 나타낸 흐름도이다.
도 9는 본 발명의 다른 실시예에 따른 삼차원 영상 재생 장치(800a)의 구성을 나타낸 도면이다.
도 10은 본 발명의 일 실시예 따른 삼차원 영상 재생 장치(800b)를 나타낸 도면이다.
도 11은 본 발명의 다른 실시예에 따른 삼차원 영상 재생 장치(800c)를 나타낸 도면이다.
도 12는 본 발명의 일 실시예에 따라, 재생 영역을 결정하고, 평면 삼차원 영상을 생성하는 과정을 설명하기 위한 도면이다.
도 13은 본 발명의 다른 실시예에 따른 삼차원 영상 재생 방법을 나타낸 흐름도이다.
도 14는 본 발명의 다른 실시예에 따른 삼차원 영상 재생 장치(800d)의 구조를 나타낸 도면이다.
도 15는 본 발명의 다른 실시예에 따라 재생 영역을 결정하는 과정을 설명하기 위한 도면이다.
하기의 설명 및 첨부된 도면은 본 발명에 따른 동작을 이해하기 위한 것이며, 본 기술 분야의 통상의 기술자가 용이하게 구현할 수 있는 부분은 생략될 수 있다.
또한 본 명세서 및 도면은 본 발명을 제한하기 위한 목적으로 제공된 것은 아니고, 본 발명의 범위는 청구의 범위에 의하여 정해져야 한다. 본 명세서에서 사용된 용어들은 본 발명을 가장 적절하게 표현할 수 있도록 본 발명의 기술적 사상에 부합하는 의미와 개념으로 해석되어야 한다.
이하 첨부된 도면을 참조하여 본 발명의 실시예들을 설명한다.
도 1은 본 발명의 일 실시예에 따른 삼차원 영상 생성 장치(100)의 구성을 나타낸 도면이다. 본 실시예에 따른 삼차원 영상 생성 장치(100)는 제1 광학계(110a), 제2 광학계(110b), 촬상 소자(120), 영상 획득부(130), 방향 정보 획득부(140), 구형 영상 생성부(150), 및 데이터 저장부(160)를 포함한다.
본 실시예에 따른 삼차원 영상 생성 장치(100)는, 영상 캡쳐 시, 좌안 영상과 우안 영상을 동시에 촬영하기 위해, 제1 광학계(110a) 및 제2 광학계(110b)를 구비한다.
도 2는 제1 광학계(110a) 및 제2 광학계(110b)가 배치된 본 발명의 일 실시예에 따른 삼차원 영상 생성 장치(100a)의 외관을 도시한 도면이다.
제1 광학계(110a) 및 제2 광학계(110b)는 도 2에 도시된 바와 같이, 서로 이격되어, 피사체로부터의 입사광을 수광하도록 배치된다. 제1 광학계(110a)과 제2 광학계(110b)에서 서로 다른 경로로 빛을 수광하여, 제1 광학계(110a)를 통과한 입사광으로부터 좌안 영상을 생성하고, 제2 광학계(110b)를 통과한 입사광으로부터 우안 영상을 생성할 수 있다.
일 실시예에 따르면, 촬상 소자(120)에서 제1 광학계(110a)에 대응되는 영역과 제2 광학계(110b)에 대응되는 영역이 서로 오버랩되지 않도록 배치될 수 있다. 다른 예로서, 촬상 소자(120)는 제1 광학계(110a)에 대응되는 제1 촬상 소자와 제2 광학계(110b)에 대응되는 제2 촬상 소자를 포함할 수 있다. 이러한 경우 물리적으로 분리된 2개의 촬상 소자가 구비될 수 있다.
제1 광학계(110a) 및 제2 광학계(110b)는 각각 렌즈, 조리개, 및 셔터를 구비할 수 있다. 렌즈는 복수 군 및/또는 복수 매의 렌즈를 포함할 수 있다.
제1 광학계(110a) 및 제2 광학계(110b)를 투과한 광학 신호는 촬상 소자(120)의 수광면에 이르러 피사체의 상을 결상한다. 촬상 소자(120)는 광학 신호를 전기 신호로 변환하는 CCD(Charge Coupled Device) 이미지센서 또는 CIS(Complementary Metal Oxide Semiconductor Image Sensor)일 수 있다.
도 3a 내지 도 3c는 제1 광학계(110a) 및 제2 광학계(110a)가 배치된 본 발명의 다른 실시예에 따른 삼차원 영상 생성 장치(100b)의 외관을 도시한 도면이다.
본 실시예에 따르면, 삼차원 영상 생성 장치(100b)는 제1 광학계(110a)에 대응하는 제1 렌즈(310) 및 제2 광학계(110b)에 대응하는 제2 렌즈(320)를 구비하는 교환식 렌즈(300)와 결합되어, 제1 광학계(110a) 및 제2 광학계(110b)를 구현할 수 있다. 이러한 경우, 촬상 소자(120)는 제1 광학계(110a)에 대응하는 영역 및 제2 광학계(110b)에 대응하는 영역으로 구획되어 이용될 수 있다. 본 실시예에 따른 삼차원 영상 생성 장치(100b)는 도 3c에 도시된 2차원 영상 촬영용 교환식 렌즈와 결합하면 2차원 영상을 생성하고, 도 3b에 도시된 3차원 영상 촬영용 교환식 렌즈(300)와 결합하면 3차원 영상을 생성할 수 있다.
영상 획득부(130, 도 1 참조)는 촬상 소자(120)에서 광전 변환되어 생성된 촬상 신호로부터, 캡쳐 영상을 생성한다. 영상 획득부(130)에서 생성된 캡쳐 영상은 제1 광학계(110a)를 통과한 입사광으로부터 생성된 좌안 영상과, 제2 광학계(110b)를 통과한 입사광으로부터 생성된 우안 영상을 포함할 수 있다.
촬상 소자(120)가 하나만 구비되고, 촬상 소자(120)가 제1 광학계(110a) 및 제2 광학계(110b)에 각각 대응되는 두 영역으로 나뉘어 구성되는 경우, 영상 획득부(130)는 촬상 신호로부터 제1 광학계(110a)에 대응되는 영역을 추출하여 좌안 영상을 생성하고, 제2 광학계에 대응되는 영역을 추출하여 우안 영상을 생성할 수 있다.
촬상 소자(120)가 물리적으로 분리된 제1 촬상 소자와 제2 촬상 소자를 포함하는 경우, 제1 촬상 소자의 촬상 신호로부터 좌안 영상을 생성하고, 제2 촬상 소자의 촬상 신호로부터 우안 영상을 생성할 수 있다.
본 실시예에 따른 영상 획득부(130)는 구형 좌표계에서 표현되는 360도 방향의 좌안 영상 및 우안 영상을 얻기 위해, 복수의 캡쳐 영상을 연속 촬영하도록 제1 광학계(110a), 제2 광학계(110b), 및 촬상 소자(120)를 제어할 수 있다. 본 발명의 일 실시예는 구형 좌표계에서 표현되는 360도 방향의 삼차원 영상을 생성하는데, 360도 방향의 영상은 복수의 캡쳐 영상을 연속 촬영한 후, 이들을 이어 붙여서 생성된다. 이를 위해, 영상 획득부(130)는 360도 방향의 영상을 생성하기 위해 요구되는 캡쳐 영상들을 얻기 위해, 미리 결정된 횟수만큼, 또는 요구되는 캡쳐 영상을 모두 얻을 때까지 연속 촬영을 수행하도록 제1 광학계(110a), 제2 광학계(110b), 및 촬상 소자(120)를 제어할 수 있다. 즉, 셔터 릴리즈 신호가 입력되면, 영상 획득부(130)는 소정의 횟수만큼 연속 촬영을 수행하도록 제1 광학계(110a), 제2 광학계(110b), 및 촬상 소자(120)를 제어할 수 있다. 영상 획득부(130)는 촬영이 수행될 때마다, 좌안 영상과 우안 영상을 포함하는 캡쳐 영상을 생성한다.
연속 촬영이 수행되는 동안, 사용자는 제1 광학계(110a)와 제2 광학계(110b)가 순차적으로 360도 방향을 모두 향하도록 삼차원 영상 생성 장치(100)의 방향을 변경하면서 피사체를 촬영한다. 일 실시예에 따르면, 사용자가 삼차원 영상 생성 장치(100)의 방향을 적절하게 변경하도록 안내하는 사용자 인터페이스가 제공될 수 있다. 예를 들면, 상기 사용자 인터페이스는 삼차원 영상 생성 장치(100)의 이동 방향에 대한 정보, 이동 속도에 대한 정보, 현재까지 촬영된 영상에 대한 정보, 앞으로 촬영되어야 할 방향에 대한 정보 등을 제공할 수 있다. 이를 위해 일 실시예에 따른 삼차원 영상 생성 장치(100)는 이러한 사용자 인터페이스를 제공하기 위한 사용자 인터페이스 제공부(미도시)를 더 포함할 수 있다.
본 발명의 다른 실시예에 따르면, 영상 획득부(130)는 동영상을 촬영하도록 제1 광학계(110a), 제2 광학계(110b), 및 촬상 소자(120)를 제어할 수 있다. 이러한 경우, 셔터 릴리즈 신호가 입력된 이후에 복수의 프레임들이 연속적으로 촬영된다.
방향 정보 획득부(140)는 연속 촬영이 수행되는 동안, 각 캡쳐 영상에 대한 방향 정보를 획득한다. 방향 정보는 예를 들면, 삼차원 영상 생성 장치(100)에 구비된 기울기 센서, 자이로 센서, 지자기 센서, 가속도 센서 등으로부터 획득될 수 있다. 방향 정보 획득부(140)는 영상 획득부(130) 또는 촬상 소자(120)와 동기되어, 영상 캡쳐가 이루어질 때마다, 방향 정보를 생성하여, 구형 영상 생성부(150)로 제공한다.
동영상 촬영이 수행되는 경우에는, 각 프레임이 촬영될 때마다 방향 정보를 생성하여, 구형 영상 생성부(150)로 제공한다.
구형 영상 생성부(150)는 복수의 캡쳐 영상들을 구형 좌표계 상에 배치하여 구형 영상을 생성한다. 이때 좌안 영상을 위한 제1 구형 좌표계와 우안 영상을 위한 제2 구형 좌표계가 정의된다. 복수의 캡쳐 영상들 중 좌안 영상들은 상기 제1 구형 좌표계에 배치되어, 좌안 구형 영상으로 변환된다. 복수의 캡쳐 영상들 중 우안 영상들은 상기 제2 구형 좌표계에 배치되어, 우안 구형 영상으로 변환된다.
도 4는 복수의 캡쳐 영상들로부터 좌안 구형 영상 또는 우안 구형 영상을 생성하는 과정을 설명하기 위한 도면이다.
영상 획득부(130)에 의해 획득된 복수의 캡쳐 영상은 복수의 좌안 영상 및 복수의 우안 영상을 포함한다. 도 4에서는 복수의 좌안 영상으로부터 좌안 구형 영상을 생성하는 과정을 설명한다. 복수의 우안 영상으로부터 우안 구형 영상을 생성하는 과정도 동일한 원리로 수행된다.
복수의 좌안 영상(Im1, Im2, Im3)은 각각 대응되는 방향 정보를 갖는다. 이러한 방향 정보를 이용하여, 각각의 좌안 영상을 제1 구형 좌표계에서 대응되는 위치에 배치한다. 예를 들면, 촬영자가 제1 구형 좌표계의 구 안의 중심점(0)에 있다고 가정하고, 중심점(O)에서 해당 좌안 영상에 대응되는 방향 정보에 대응되는 방향을 바라보았을 때, 향하게 되는 제1 구형 좌표계의 영역에 해당 좌안 영상을 배치한다. 이러한 방법으로 복수의 좌안 영상을 제1 구형 좌표계에 배치하고, 이들을 합성하여, 좌안 구형 영상을 생성할 수 있다.
방향 정보는 제1 구형 좌표계의 좌표(r, θ, ρ)에 맞게 보간되어, 제1 구형 좌표계의 좌표로 변환될 수 있다. 이와 같은 처리시에 삼차원 영상 생성 장치의 사양이 낮은 경우, 처리속도를 위해 클라우드 서비스를 활용할 수 있다.
영상 획득부(130)에서 동영상을 획득한 경우, 구형 영상 생성부(150)는 해당 시점에 복수의 프레임이 중첩되어 입력되어 동영상으로 표현되는 부분만 동영상으로 표현하고, 나머지 부분은 정지 영상으로 표현되도록 좌안 구형 영상 및 우안 구형 영상을 생성할 수 있다. 이를 위해, 해당 시점에 촬영된 영역 이외의 부분은, 이전 또는 이후 시점에 촬영된 프레임들을 활용하여 정지 영상으로 표현할 수 있다.
도 5는 본 발명의 다른 실시예에 따른 구형 영상 생성부(150)의 구성을 도시한 도면이다. 본 실시예에 따른 구형 영상 생성부(150)는 좌안 구형 영상 생성부(410) 및 우안 구형 영상 생성부(420)를 포함한다.
좌안 구형 영상 생성부(410)는 영상 획득부(130)로부터 복수의 좌안 영상을 입력받고, 방향 정보 획득부(140)에서 복수의 좌안 영상 각각에 대응되는 복수의 방향 정보를 입력 받아, 좌안 구형 영상을 생성한다.
우안 구형 영상 생성부(420)는 영상 획득부(130)로부터 복수의 우안 영상을 입력받고, 방향 정보 획득부(140)에서 복수의 우안 영상 각각에 대응되는 복수의 방향 정보를 입력 받아, 우안 구형 영상을 생성한다.
본 실시예에 따르면, 좌안 구형 영상 생성부(410)는 복수의 좌안 영상 중, 좌안 구형 영상을 생성하기 위해 합성될 좌안 영상을 선택할 때, 복수의 우안 영상을 참조하여 합성될 좌안 영상을 선택할 수 있다. 또한 우안 구형 영상 생성부(420)는 복수의 우안 영상 중, 우안 구형 영상을 생성하기 위해 합성될 우안 영상을 선택할 때, 복수의 좌안 영상을 참조하여 합성될 우안 영상을 선택할 수 있다. 예를 들면, 특정 방향에 대응되는 좌안 영상이 다수 존재하는 경우, 이들 중 합성할 좌안 영상을 선택하기 위해, 좌안 영상과 우안 영상의 유사도가 높은 좌안 영상을 우선적으로 선택하여, 합성될 좌안 영상을 선택할 수 있다. 여기서 영상의 유사도는 예를 들면 특징점(예를 들면 에지, 색상 정보)을 서로 매칭하여 판단할 수 있다.
도 6은 본 발명의 다른 실시예에 따라 복수의 좌안 영상 또는 복수의 우안 영상을 합성하는 과정을 설명하기 위한 도면이다.
복수의 좌안 영상이 제1 구형 좌표계에 각각 배치되면, 구형 영상 생성부(150)는 인접하는 좌안 영상을 스티칭하여, 좌안 구형 영상을 생성한다. 예를 들면 서로 인접한 IMAGE 1, IMAGE 2, 및 IMAGE 3가 합성된다. 이때, 인접한 영상들의 특징점을 추출하고, 인접한 영상들의 특징점이 서로 매칭되도록 IMAGE 1, IMAGE 2, 및 IMAGE 3의 위치가 재조정될 수 있다. 특징점은 예를 들면, 에지, 그라이데이션, 색상 등일 수 있다. 이와 같이 특징점을 기반으로 복수의 좌안 영상이 이어 붙여져 스티칭되면, 좌안 구형 영상의 각 픽셀들의 제1 구형 좌표계에서의 좌표 값이 정의되고, 상기 스티칭된 영상과 함께 저장된다. 즉, 예를 들면 제1 픽셀은 (r1, θ1, ρ1)의 좌표 값을 갖고, 제2 픽셀은 (r2, θ2, ρ2)의 좌표 값을 가질 수 있다.
도 7은 본 발명의 일 실시예에 따른 좌안 구형 영상 및 우안 구형 영상의 일례를 도시한 도면이다.
구형 영상 생성부(150)는 도 7에 도시된 바와 같은 좌안 구형 영상(610) 및 우안 구형 영상(620)을 생성할 수 있다. 좌안 구형 영상(610)은 각 픽셀마다 제1 구형 좌표계의 좌표 값이 정의되어 저장되고, 우안 구형 영상(620)은 각 픽셀마다 제2 구형 좌표계의 좌표 값이 정의되어 저장될 수 있다.
본 발명의 일 실시예에 따르면, 좌안 구형 영상과 우안 구안 영상은 하나의 영상 파일로 함께 저장될 수 있다. 이러한 경우, 해당 영상 파일의 헤더부에, 해당 영상 파일에 저장된 영상이 구형의 삼차원 영상이라는 정보, 제1 좌표계 및 제2 좌표계의 크기에 대한 정보(예를 들면 반경) 등이 저장될 수 있다.
본 발명의 다른 실시예에 따르면, 좌안 구형 영상과 우안 구형 영상은 별개의 영상 파일로 각각 저장될 수 있다. 이러한 경우, 좌안 구형 영상의 영상 파일의 헤더부에는, 해당 영상 파일에 저장된 영상이 좌안 구형 영상이라는 정보, 대응되는 우안 구형 영상의 영상 파일의 파일명 및 위치 정보, 제1 좌표계의 크기에 대한 정보(예를 들면 반경) 등이 저장될 수 있다. 우안 구형 영상의 영상 파일의 헤더부에는, 해당 영상 파일에 저장된 영상이 우안 구형 영상이라는 정보, 대응되는 좌안 구형 영상의 영상 파일의 파일명 및 위치 정보, 제2 좌표계의 크기에 대한 정보(예를 들면 반경) 등이 저장될 수 있다.
데이터 저장부(160)는 이와 같이 생성된 영상 파일을 저장한다. 또한 도 1에는 도시되지 않았지만, 본 발명의 일 실시예에 따른 삼차원 영상 생성 장치(100)는, 영상 파일을 생성하기 위한 영상 파일 생성부(미도시)를 더 포함할 수 있다.
도 8은 본 발명의 일 실시예에 따른 삼차원 영상 생성 방법을 나타낸 흐름도이다.
본 실시예에 따른 삼차원 영상 생성 방법은, 좌안 영상과 우안 영상을 포함하는 복수의 캡쳐 영상을 연속 촬영하면서, 복수의 캡쳐 영상 각각에 대응되는 방향 정보를 획득한다(S702).
다음으로, 제1 구형 좌표계에 복수의 좌안 영상을 배치하여 좌안 구형 영상을 생성하고, 제2 구형 좌표계에 복수의 우안 영상을 배치하여 우안 구형 영상을 생성한다(S704). 이때, 상기 방향 정보를 이용하여 복수의 좌안 영상을 제1 구형 좌표계에 배치하고, 복수의 우안 영상을 제2 구형 좌표계에 배치한다.
다음으로 좌안 구형 영상과 우안 구형 영상이 저장된다(S706). 이때, 좌안 구형 영상과 각 픽셀의 제1 구형 좌표계의 좌표 값이 함께 저장되고, 우안 구형 영상과 각 픽셀의 제2 구형 좌표계의 좌표 값이 함께 저장된다. 일 실시예로서, 좌안 구형 영상과 우안 구형 영상은 하나의 영상 파일에 함께 저장될 수 있다. 다른 실시예로서 좌안 구형 영상과 우안 구형 영상은 서로 다른 영상 파일에 각각 저장될 수 있다.
도 9는 본 발명의 다른 실시예에 따른 삼차원 영상 재생 장치(800a)의 구성을 나타낸 도면이다. 본 실시예에 따른 삼차원 영상 재생 장치(800a)는 데이터 저장부(810), 재생 방향 결정부(820), 재생 영역 결정부(830a), 평면 삼차원 영상 생성부(840), 및 재생부(850)를 포함한다.
본 실시예에 따른 삼차원 영상 재생 장치(800a)는 구형 좌안 영상과 구형 우안 영상으로 이루어진 삼차원 영상을 재생하는 장치이다. 데이터 저장부(810)는 좌안 구형 영상과 우안 구형 영상을 저장한다. 일 실시예에 따르면, 삼차원 영상은 하나의 영상 파일에 좌안 구형 영상과 우안 구형 영상을 함께 저장될 수 있다. 이러한 경우, 해당 영상 파일의 헤더부에, 해당 영상 파일에 저장된 영상이 구형의 삼차원 영상이라는 정보, 제1 좌표계 및 제2 좌표계의 크기에 대한 정보(예를 들면 반경) 등이 저장될 수 있다. 다른 실시예로서 좌안 구형 영상과 우안 구형 영상은 별개의 영상 파일로 각각 저장될 수 있다. 이러한 경우, 좌안 구형 영상의 영상 파일의 헤더부에는, 해당 영상 파일에 저장된 영상이 좌안 구형 영상이라는 정보, 대응되는 우안 구형 영상의 영상 파일의 파일명 및 위치 정보, 제1 좌표계의 크기에 대한 정보(예를 들면 반경) 등이 저장될 수 있다. 우안 구형 영상의 영상 파일의 헤더부에는, 해당 영상 파일에 저장된 영상이 우안 구형 영상이라는 정보, 대응되는 좌안 구형 영상의 영상 파일의 파일명 및 위치 정보, 제2 좌표계의 크기에 대한 정보(예를 들면 반경) 등이 저장될 수 있다.
본 실시예에 따른 삼차원 영상 재생 장치(800a)는, 삼차원 영상 재생 장치(800a)에 구비된 기울기 센서의 방향 정보, 또는 삼차원 영상 재생 장치(800a)와 통신하는 제어 장치의 기울기 정보를 입력 받아, 삼차원 영상을 재생할 수 있다.
도 10은 본 발명의 일 실시예 따른 삼차원 영상 재생 장치(800b)를 나타낸 도면이다. 본 실시예에 따르면, 삼차원 영상 재생 장치(800b)는 기울기 센서를 구비하여, 기울기 정보를 획득하고, 획득된 기울기 정보를 이용하여 삼차원 영상을 재생할 수 있다. 이러한 실시예에서는 기울기 정보를 검출하는 제어 장치와 삼차원 영상 재생 장치(800b)가 일체로 형성된다.
도 11은 본 발명의 다른 실시예에 따른 삼차원 영상 재생 장치(800c)를 나타낸 도면이다. 본 실시예에 따르면, 삼차원 영상 재생 장치(800c)는 삼차원 영상 재생 장치(800c)와 통신하는 제어 장치(1000)로부터 기울기 정보를 수신 받을 수 있다. 제어 장치(1000)는 기울기 센서, 자이로 센서, 지자기 센서, 가속도 센서 등을 포함하여, 기울기를 검출할 수 있다. 사용자는 제어 장치(1000)의 기울기를 조절하여, 구형 삼차원 영상의 원하는 방향의 영상을 재생할 수 있다.
재생 방향 결정부(820)는 삼차원 영상 재생 장치(800a)에서 검출된 기울기에 따라 재생 재생 방향 정보를 결정한다. 기울기는 앞서 설명한 바와 같이, 삼차원 영상 재생 장치(800b)에 구비된 기울기 센서로부터 검출되거나, 삼차원 영상 재생 장치(800c)와 통신하고 기울기를 검출할 수 있는 제어 장치(1000)로부터 수신 받을 수 있다.
재생 방향 정보는 검출된 기울기를 제1 구형 좌표계 및 제2 구형 좌표계의 좌표로 변환하여 생성될 수 있다.
재생 영역 결정부(830a)는 상기 재생 방향 정보에 대응하는 재생 영역을 결정한다. 평면 삼차원 영상 생성부(840)는 좌안 구형 영상 및 우안 구형 영상으로부터, 상기 재생 영역에 대응하는 평면 삼차원 영상을 생성한다.
도 12는 본 발명의 일 실시예에 따라, 재생 영역을 결정하고, 평면 삼차원 영상을 생성하는 과정을 설명하기 위한 도면이다. 이하, 좌안 구형 영상으로부터 좌안 평면 삼차원 영상을 생성하는 과정을 예로 들어 설명한다.
재생 방향 정보(r1, θ1, ρ1)가 결정되면, 재생 영역 결정부(830a)는 재생 방향 정보(r1, θ1, ρ1)에 대응하는 좌안 구형 영상의 픽셀을 검출하고, 그 픽셀을 중심으로 소정 영역 내에 있는 픽셀들을 재생 영역으로 결정한다. 상기 소정 영역은 미리 결정된 크기의 영역으로 결정되거나, 설정된 해상도에 따라 결정되는 등 다양한 실시예에 따라 결정될 수 있다.
평면 삼차원 영상 생성부(840)는 좌안 구형 영상으로부터 재생 영역에 대응하는 픽셀들의 픽셀 값을 추출하고, 구형의 영상을 평면화시켜 좌안 평면 삼차원 영상(1110)을 생성한다. 구형의 영상을 평면에 배치하면, 가장자리 부분이 곡선으로 표현되고, 평면화 과정에서 영상의 왜곡이 발생하는데, 평면 삼차원 영상 생성부(840)는 구형의 영상을 평면에 배치한 후, 가장자리 부분을 직선화하고, 영상의 왜곡을 보정하여 좌안 평면 삼차원 영상(1110)을 생성할 수 있다.
좌안 평면 삼차원 영상(1110)을 생성하는 과정과 유사하게, 재생 영역 결정부(830a)는 우안 구형 영상에서 재생 방향 정보에 대응하는 재생 영역을 결정할 수 있다. 또한, 평면 삼차원 영상 생성부(840)는 상기 우안 구형 영상으로부터, 상기 재생 영역에 대응하는 우안 평면 삼차원 영상을 생성할 수 있다.
평면 삼차원 영상 생성부(840)는 좌안 평면 삼차원 영상 및 우안 평면 삼차원 영상을 포함하는 평면 삼차원 영상을 재생부(850)로 출력한다.
재생부(850)는 좌안 평면 삼차원 영상과 우안 평면 삼차원 영상을 포함하는 평면 삼차원 영상을 재생한다. 재생부(850)는 서로 대응되는 좌안 평면 삼차원 영상과 우안 평면 삼차원 영상을 순차적으로 재생하여, 평면 삼차원 영상을 재생할 수 있다.
도 13은 본 발명의 다른 실시예에 따른 삼차원 영상 재생 방법을 나타낸 흐름도이다.
본 실시예에 따른 삼차원 영상 재생 방법은 우선 서로 대응되는 좌안 구형 영상과 우안 구형 영상을 로딩한다(S1202). 다음으로 삼차원 영상 재생 장치(800a) 또는 제어 장치(1000)의 기울기가 검출되고(S1204), 검출된 기울기로부터 재생 방향 정보가 결정된다(S1206). 재생 방향 정보는 제1 좌표계의 좌표 정보와 제2 좌표계의 좌표 정보로 표현된다.
재생 방향 정보가 결정되면, 재생 방향 정보에 대응되는 재생 영역이 결정된다(S1208). 재생 영역은 좌안 구형 영상 및 우안 구형 영상 상에서 결정될 수 있다. 재생 영역은 상기 재생 방향 정보에 대응하는 픽셀을 중심으로 소정 영역 내의 픽셀들을 포함하도록 결정될 수 있다.
다음으로, 좌안 구형 영상 및 우안 구형 영상으로부터, 상기 재생 영역에 대응하는 픽셀들의 픽셀 값을 추출하고, 추출된 픽셀 값들을 이용하여 평면 삼차원 영상이 생성된다(S1210). 좌안 구형 영상 및 우안 구형 영상으로부터 추출된 픽셀 값들은, 평면에 배치되고, 평면화 과정에서 발생한 왜곡이 보정되고, 가장자리를 직선화하여 좌안 평면 삼차원 영상 및 우안 평면 삼차원 영상으로 변환될 수 있다(S1210).
다음으로 좌안 평면 삼차원 영상 및 우안 평면 삼차원 영상을 순차적으로 재생하여, 평면 삼차원 영상을 재생한다(S1212).
도 14는 본 발명의 다른 실시예에 따른 삼차원 영상 재생 장치(800d)의 구조를 나타낸 도면이다. 본 실시예에 따른 삼차원 영상 재생 장치(800d)는 데이터 저장부(810), 재생 방향 결정부(820), 영상 크기 결정부(1310), 재생 영역 결정부(830b), 평면 삼차원 영상 생성부(840), 및 재생부(850)를 포함한다.
데이터 저장부(810)는 좌안 구형 영상과 우안 구형 영상을 포함하는 삼차원 영상을 저장한다.
재생 방향 결정부(820)는 삼차원 영상 재생 장치(800d)에서 검출된 기울기에 따라 재생 방향 정보를 결정한다.
영상 크기 결정부(1310)는 삼차원 영상 재생 장치(800d) 또는 제어 장치(1000)의 이동에 따라 상기 평면 삼차원 영상의 크기를 결정한다.
일 실시예에 따르면 도 10에 도시된 바와 같이 삼차원 영상 재생 장치(800d)에서 기울기를 검출하는 경우, 영상 크기 결정부(1310)는 삼차원 영상 재생 장치(800d)의 이동이 검출된 경우, 평면 삼차원 영상의 크기를 확대하거나 축소할 수 있다. 다른 실시예에 따르면, 도 11에 도시된 바와 같이 제어 장치(1000)에서 기울기를 검출하는 경우, 영상 크기 결정부(1310)는 제어 장치(1000)의 이동이 검출된 경우, 평면 삼차원 영상의 크기를 확대하거나 축소할 수 있다. 예를 들면, 사용자는 삼차원 영상 재생 장치(800d) 또는 제어 장치(1000)의 화면을 본 상태에서, 삼차원 영상 재생 장치(800d) 또는 제어 장치(1000)를 장치의 배면이 향하는 방향으로 이동시켜 평면 삼차원 영상의 크기를 확대하고, 장치의 정면이 향하는 방향으로 이동시켜 평면 삼차원 영상의 크기를 축소할 수 있다.
재생 영역 결정부(830b)는 재생 방향 결정부(820)에서 결정된 상기 재생 방향 정보와, 영상 크기 결정부(1310)에서 결정된 평면 삼차원 영상의 크기 정보에 따라, 좌안 구형 영상 및 우안 구형 영상에서 재생 영역을 결정한다. 앞서 설명한 바와 같이, 재생 영역 결정부(830b)는 재생 방향 정보(r1, θ1, ρ1)에 대응하는 좌안 구형 영상의 픽셀을 검출하고, 그 픽셀을 중심으로 소정 영역 내에 있는 픽셀들을 재생 영역으로 결정한다. 상기 소정 영역은 영상 크기 결정부(1310)에서 결정된 평면 삼차원 영상의 크기 정보에 따라 결정된다.
도 15는 본 발명의 다른 실시예에 따라 재생 영역을 결정하는 과정을 설명하기 위한 도면이다.
도 15에 도시된 바와 같이, 재생 방향 정보(r1, θ1, ρ1)에 따라 재생 영역의 중심점이 결정된다. 다음으로 평면 삼차원 영상의 크기 정보에 따라 좌안 평면 삼차원 영상 또는 우안 평면 삼차원 영상의 크기가 결정된다. 예를 들면, 평면 삼차원 영상의 크기 정보는 중심점으로부터 꼭지점까지의 거리(d1 또는 d2)로 결정될 수 있다. 만약 평면 삼차원 영상의 크기 정보가 d1인 경우, IMAGE 4로 재생 영역이 결정되고, 평면 삼차원 영상의 크기 정보가 d2인 경우, IMAGE 5로 재생 영역이 결정된다.
평면 삼차원 영상 생성부(840)는 좌안 구형 영상 및 우안 구형 영상으로부터, 상기 재생 영역에 대응하는 평면 삼차원 영상을 생성한다.
재생부(850)는 좌안 평면 삼차원 영상과 우안 평면 삼차원 영상을 포함하는 평면 삼차원 영상을 재생한다. 재생부(850)는 서로 대응되는 좌안 평면 삼차원 영상과 우안 평면 삼차원 영상을 순차적으로 재생하여, 평면 삼차원 영상을 재생할 수 있다.
한편, 본 발명은 컴퓨터 판독가능 저장매체에 컴퓨터가 판독 가능한 코드를 저장하여 구현하는 것이 가능하다. 상기 컴퓨터 판독가능 저장매체는 컴퓨터 시스템에 의하여 판독될 수 있는 데이터가 저장되는 모든 종류의 저장 장치를 포함한다.
상기 컴퓨터가 판독 가능한 코드는, 상기 컴퓨터 판독가능 저장매체로부터 프로세서에 의하여 독출되어 실행될 때, 본 발명에 따른 삼차원 영상 생성 방법 또는 삼차원 영상 재생 방법을 구현하는 단계들을 수행하도록 구성된다. 상기 컴퓨터가 판독 가능한 코드는 다양한 프로그래밍 언어들로 구현될 수 있다. 그리고 본 발명의 실시예들을 구현하기 위한 기능적인(functional) 프로그램, 코드 및 코드 세그먼트들은 본 발명이 속하는 기술분야의 통상의 기술자들에 의하여 용이하게 프로그래밍될 수 있다.
컴퓨터 판독가능 저장매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장장치 등이 있으며, 또한 반송파(예를 들어 인터넷을 통한 전송)의 형태로 구현하는 것을 포함한다. 또한, 컴퓨터 판독가능 저장매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산 방식으로 컴퓨터가 판독 가능한 코드가 저장되고 실행되는 것도 가능하다.
이제까지 본 발명에 대하여 바람직한 실시예를 중심으로 살펴보았다. 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자는 본 발명의 본질적인 특성에서 벗어나지 않는 범위에서 변형된 형태로 본 발명을 구현할 수 있음을 이해할 것이다. 그러므로 상기 개시된 실시예들은 한정적인 관점이 아니라 설명적인 관점에서 고려되어야 한다. 본 발명의 범위는 전술한 설명이 아니라 특허청구범위에 나타나 있으며, 특허청구범위에 의해 청구된 발명 및 청구된 발명과 균등한 발명들은 본 발명에 포함된 것으로 해석되어야 한다.

Claims (20)

  1. 삼차원 영상 생성 장치에서 삼차원 영상을 생성하는 방법에 있어서,
    상기 삼차원 영상 생성 장치는 제1 광학계 및 제2 광학계를 포함하는 2개의 광학계를 포함하고,
    상기 삼차원 영상 생성 방법은,
    복수의 방향에 대해, 상기 제1 광학계에 대응하는 제1 촬상 소자의 검출 신호로부터 좌안 영상을 획득하고, 상기 제2 광학계에 대응하는 제2 촬상 소자의 검출 신호로부터 우안 영상을 획득하는 과정을 반복하여, 상기 좌안 영상 및 상기 우안 영상을 포함하는 복수의 캡쳐 영상, 및 상기 복수의 캡쳐 영상들 각각에 대한 촬영 시의 방향 정보를 획득하는 단계;
    상기 복수의 캡쳐 영상들의 방향 정보를 이용하여, 상기 복수의 캡쳐 영상들의 좌안 영상들을 제1 구형 좌표계에 배치하여 좌안 구형 영상을 생성하고, 상기 복수의 캡쳐 영상들의 상기 우안 영상들을 제2 구형 좌표계에 배치하여 우안 구형 영상을 생성하는 단계;
    상기 좌안 구형 영상과 상기 우안 구형 영상을 포함하는 적어도 하나의 영상 파일을 생성하는 단계; 및
    상기 영상 파일을 저장하는 단계를 포함하는 삼차원 영상 생성 방법.
  2. 제1항에 있어서,
    상기 제1 구형 좌표계에 배치된 상기 복수의 캡쳐 영상들의 좌안 영상들을 스티칭(stitching)하여, 상기 좌안 구형 영상을 생성하는 단계; 및
    상기 제2 구형 좌표계에 배치된 상기 복수의 캡쳐 영상들의 우안 영상들을 스티칭하여, 상기 우안 구형 영상을 생성하는 단계를 더 포함하는 삼차원 영상 생성 방법.
  3. 제2항에 있어서,
    상기 좌안 구형 영상을 생성하는 단계는, 상기 복수의 캡쳐 영상들의 상기 좌안 영상과 상기 우안 영상의 매칭 결과에 따라, 스티칭할 좌안 영상들을 결정하고,
    상기 우안 구형 영상을 생성하는 단계는, 상기 복수의 캡쳐 영상들의 상기 좌안 영상과 상기 우안 영상의 매칭 결과에 따라, 스티칭할 우안 영상들을 결정하는, 삼차원 영상 생성 방법.
  4. 제1항에 있어서, 상기 저장하는 단계는,
    상기 좌안 구형 영상과, 상기 좌안 구형 영상의 각 픽셀에 대한 제1 구형 좌표계의 좌표 값을 함께 저장하는 단계; 및
    상기 우안 구형 영상과, 상기 우안 구형 영상의 각 픽셀에 대한 제2 구형 좌표계의 좌표 값을 함께 저장하는 단계를 포함하는, 삼차원 영상 생성 방법.
  5. 제1 구형 좌표계에 각 픽셀들이 배치된 좌안 구형 영상, 및 제2 구형 좌표계에 각 픽셀들이 배치된 우안 구형 영상을 로딩하는 단계;
    제어 장치의 기울기를 검출하는 단계;
    상기 검출된 기울기에 따라, 재생 방향 정보를 결정하는 단계;
    상기 재생 방향 정보에 대응하는 재생 영역을 결정하는 단계;
    상기 좌안 구형 영상으로부터 상기 재생 영역에 대응하는 평면 좌안 영상을 생성하는 단계;
    상기 우안 구형 영상으로부터 상기 재생 영역에 대응하는 평면 우안 영상을 생성하는 단계; 및
    상기 평면 좌안 영상 및 상기 평면 우안 영상을 재생하는 단계를 포함하고,
    상기 좌안 구형 영상은 삼차원 영상 생성 장치의 제1 광학계에 대응하는 제1 촬상 소자의 검출 신호로부터 생성된 영상이고, 상기 우안 구형 영상은 상기 삼차원 영상 생성 장치의 제2 광학계에 대응하는 제2 촬상 소자의 검출 신호로부터 생성된 영상이고, 상기 삼차원 영상 생성 장치는 상기 제1 광학계 및 상기 제2 광학계를 포함하는 2개의 광학계를 포함하는, 삼차원 영상 재생 방법.
  6. 제5항에 있어서,
    상기 제어 장치의 이동에 따라 상기 평면 삼차원 영상의 크기를 결정하는 단계를 더 포함하는 삼차원 영상 재생 방법.
  7. 제5항에 있어서, 상기 평면 삼차원 영상을 생성하는 단계는,
    상기 좌안 구형 영상과 상기 우안 구형 영상의 상기 재생 영역의 픽셀 값을 평면 상에 배치하여 평면 좌안 영상 및 평면 우안 영상을 생성하는 단계를 포함하고,
    상기 평면 삼차원 영상을 재생하는 단계는, 상기 평면 좌안 영상 및 상기 평면 우안 영상을 번갈아서 재생하는, 삼차원 영상 재생 방법.
  8. 입사광을 집광하는 제1 광학계 및 제2 광학계;
    상기 제1 광학계를 통과한 입사광을 광전 변환하는 제1 촬상 소자, 및 상기 제2 광학계를 통과한 입사광을 광전 변환하는 제2 촬상 소자;
    상기 제1 촬상 소자의 검출 신호로부터 좌안 영상을 생성하고, 상기 제2 촬상 소자의 검출 신호로부터 우안 영상을 생성하고, 상기 좌안 영상 및 상기 우안 영상을 포함하는 복수의 캡쳐 영상들을 생성하는 영상 획득부;
    상기 복수의 캡쳐 영상들 각각에 대한 촬영 시의 방향 정보를 획득하는 방향 정보 획득부;
    상기 복수의 캡쳐 영상들의 방향 정보를 이용하여, 상기 복수의 캡쳐 영상들을 제1 구형 좌표계에 배치하여 좌안 구형 영상을 생성하고, 상기 복수의 캡쳐 영상들의 상기 우안 영상들을 제2 구형 좌표계에 배치하여 우안 구형 영상을 생성하는 구형 영상 생성부; 및
    상기 좌안 구형 영상과 상기 우안 구형 영상을 포함하는 적어도 하나의 영상 파일을 저장하는 데이터 저장부를 포함하는 삼차원 영상 생성 장치.
  9. 제8항에 있어서, 상기 구형 영상 생성부는,
    상기 제1 구형 좌표계에 배치된 상기 복수의 캡쳐 영상들의 좌안 영상들을 스티칭(stitching)하여, 상기 좌안 구형 영상을 생성하는 좌안 구형 영상 생성부; 및
    상기 제2 구형 좌표계에 배치된 상기 복수의 캡쳐 영상들의 우안 영상들을 스티칭하여, 상기 우안 구형 영상을 생성하는 우안 구형 영상 생성부를 포함하는, 삼차원 영상 생성 장치.
  10. 제9항에 있어서,
    상기 좌안 구형 영상 생성부는, 상기 복수의 캡쳐 영상들의 상기 좌안 영상과 상기 우안 영상의 매칭 결과에 따라, 스티칭할 좌안 영상들을 결정하고,
    상기 우안 구형 영상 생성부는, 상기 복수의 캡쳐 영상들의 상기 좌안 영상과 상기 우안 영상의 매칭 결과에 따라, 스티칭할 우안 영상들을 결정하는, 삼차원 영상 생성 장치.
  11. 제8항에 있어서,
    상기 데이터 저장부는,
    상기 좌안 구형 영상과, 상기 좌안 구형 영상의 각 픽셀에 대한 제1 구형 좌표계의 좌표 값을 함께 저장하고,
    상기 우안 구형 영상과, 상기 우안 구형 영상의 각 픽셀에 대한 제2 구형 좌표계의 좌표 값을 함께 저장하는, 삼차원 영상 생성 장치.
  12. 제1 구형 좌표계에 각 픽셀들이 배치된 좌안 구형 영상, 및 제2 구형 좌표계에 각 픽셀들이 배치된 우안 구형 영상을 저장하는 데이터 저장부;
    제어 장치의 기울기를 검출하여, 상기 검출된 기울기에 따라 재생 방향 정보를 결정하는 재생 방향 결정부;
    상기 재생 방향 정보에 대응하는 재생 영역을 결정하는 재생 영역 결정부;
    상기 좌안 구형 영상으로부터 상기 재생 영역에 대응하는 평면 좌안 영상을 생성하고, 상기 우안 구형 영상으로부터 상기 재생 영역에 대응하는 평면 우안 영상을 생성하는 평면 삼차원 영상 생성부; 및
    상기 평면 좌안 영상 및 상기 평면 우안 영상을 재생하는 재생부를 포함하고,
    상기 좌안 구형 영상은 삼차원 영상 생성 장치의 제1 광학계에 대응하는 제1 촬상 소자의 검출 신호로부터 생성된 영상이고, 상기 우안 구형 영상은 상기 삼차원 영상 생성 장치의 제2 광학계에 대응하는 제2 촬상 소자의 검출 신호로부터 생성된 영상이고, 상기 삼차원 영상 생성 장치는 상기 제1 광학계 및 상기 제2 광학계를 포함하는 2개의 광학계를 포함하는, 삼차원 영상 재생 장치.
  13. 제12항에 있어서, 상기 제어 장치의 이동에 따라 상기 평면 좌안 영상 및 상기 평면 우안 영상의 크기를 결정하는 영상 크기 결정부를 더 포함하는 삼차원 영상 재생 장치.
  14. 제12항에 있어서,
    상기 평면 삼차원 영상 생성부는, 상기 좌안 구형 영상과 상기 우안 구형 영상의 상기 재생 영역의 픽셀 값을 평면 상에 배치하여 상기 평면 좌안 영상 및 상기 평면 우안 영상을 생성하고,
    상기 재생부는, 상기 평면 좌안 영상 및 상기 평면 우안 영상을 번갈아서 재생하는, 삼차원 영상 재생 장치.
  15. 프로세서에 의해 독출되어 수행되었을 때, 삼차원 영상 생성 장치에서 삼차원 영상 생성 방법을 수행하는 컴퓨터 프로그램 코드들을 저장하는 컴퓨터 판독가능 기록매체에 있어서,
    상기 삼차원 영상 생성 장치는 제1 광학계 및 제2 광학계를 포함하는 2개의 광학계를 포함하고,
    상기 삼차원 영상 생성 방법은,
    복수의 방향에 대해, 상기 제1 광학계에 대응하는 제1 촬상 소자의 검출 신호로부터 좌안 영상을 획득하고, 상기 제2 광학계에 대응하는 제2 촬상 소자의 검출 신호로부터 우안 영상을 획득하는 과정을 반복하여, 상기 좌안 영상 및 상기 우안 영상을 포함하는 복수의 캡쳐 영상, 및 상기 복수의 캡쳐 영상들 각각에 대한 촬영 시의 방향 정보를 획득하는 단계;
    상기 복수의 캡쳐 영상들의 방향 정보를 이용하여, 상기 복수의 캡쳐 영상들의 좌안 영상들을 제1 구형 좌표계에 배치하여 좌안 구형 영상을 생성하고, 상기 복수의 캡쳐 영상들의 상기 우안 영상들을 제2 구형 좌표계에 배치하여 우안 구형 영상을 생성하는 단계;
    상기 좌안 구형 영상과 상기 우안 구형 영상을 포함하는 적어도 하나의 영상 파일을 생성하는 단계; 및
    상기 영상 파일을 저장하는 단계를 포함하는, 컴퓨터 판독가능 기록매체.
  16. 제15항에 있어서, 상기 삼차원 영상 생성 방법은,
    상기 제1 구형 좌표계에 배치된 상기 복수의 캡쳐 영상들의 좌안 영상들을 스티칭(stitching)하여, 상기 좌안 구형 영상을 생성하는 단계; 및
    상기 제2 구형 좌표계에 배치된 상기 복수의 캡쳐 영상들의 우안 영상들을 스티칭하여, 상기 우안 구형 영상을 생성하는 단계를 더 포함하는, 컴퓨터 판독가능 기록매체.
  17. 제15항에 있어서, 상기 저장하는 단계는,
    상기 좌안 구형 영상과, 상기 좌안 구형 영상의 각 픽셀에 대한 제1 구형 좌표계의 좌표 값을 함께 저장하는 단계; 및
    상기 우안 구형 영상과, 상기 우안 구형 영상의 각 픽셀에 대한 제2 구형 좌표계의 좌표 값을 함께 저장하는 단계를 포함하는, 컴퓨터 판독가능 기록매체.
  18. 프로세서에 의해 독출되어 수행되었을 때, 삼차원 영상 재생 방법을 수행하는 컴퓨터 프로그램 코드들을 저장하는 컴퓨터 판독가능 기록매체에 있어서, 상기 삼차원 영상 재생 방법은,
    제1 구형 좌표계에 각 픽셀들이 배치된 좌안 구형 영상, 및 제2 구형 좌표계에 각 픽셀들이 배치된 우안 구형 영상을 로딩하는 단계;
    제어 장치의 기울기를 검출하는 단계;
    상기 검출된 기울기에 따라, 재생 방향 정보를 결정하는 단계;
    상기 재생 방향 정보에 대응하는 재생 영역을 결정하는 단계;
    상기 좌안 구형 영상으로부터 상기 재생 영역에 대응하는 평면 좌안 영상을 생성하는 단계;
    상기 우안 구형 영상의 상기 재생 영역의 픽셀 값을 이용하여, 평면 우안 영상을 생성하는 단계; 및
    상기 평면 좌안 영상 및 상기 평면 우안 영상을 재생하는 단계를 포함하고,
    상기 좌안 구형 영상은 삼차원 영상 생성 장치의 제1 광학계에 대응하는 제1 촬상 소자의 검출 신호로부터 생성된 영상이고, 상기 우안 구형 영상은 상기 삼차원 영상 생성 장치의 제2 광학계에 대응하는 제2 촬상 소자의 검출 신호로부터 생성된 영상이고, 상기 삼차원 영상 생성 장치는 상기 제1 광학계 및 상기 제2 광학계를 포함하는 2개의 광학계를 포함하는, 컴퓨터 판독가능 기록매체.
  19. 제18항에 있어서, 상기 삼차원 영상 재생 방법은,
    상기 제어 장치의 이동에 따라 상기 평면 삼차원 영상의 크기를 결정하는 단계를 더 포함하는, 컴퓨터 판독가능 기록매체.
  20. 제18항에 있어서, 상기 평면 삼차원 영상을 생성하는 단계는,
    상기 좌안 구형 영상과 상기 우안 구형 영상의 상기 재생 영역의 픽셀 값을 평면상에 배치하여 평면 좌안 영상 및 평면 우안 영상을 생성하는 단계를 포함하고,
    상기 평면 삼차원 영상을 재생하는 단계는, 상기 평면 좌안 영상 및 상기 평면 우안 영상을 번갈아서 재생하는, 컴퓨터 판독가능 기록매체.

KR1020130076615A 2013-07-01 2013-07-01 삼차원 영상 생성 또는 재생을 위한 장치 및 방법 KR102082300B1 (ko)

Priority Applications (3)

Application Number Priority Date Filing Date Title
KR1020130076615A KR102082300B1 (ko) 2013-07-01 2013-07-01 삼차원 영상 생성 또는 재생을 위한 장치 및 방법
EP14150495.1A EP2821969A1 (en) 2013-07-01 2014-01-08 Apparatus and method for generating or displaying three-dimensional image
US14/155,783 US20150002641A1 (en) 2013-07-01 2014-01-15 Apparatus and method for generating or displaying three-dimensional image

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020130076615A KR102082300B1 (ko) 2013-07-01 2013-07-01 삼차원 영상 생성 또는 재생을 위한 장치 및 방법

Publications (2)

Publication Number Publication Date
KR20150003576A KR20150003576A (ko) 2015-01-09
KR102082300B1 true KR102082300B1 (ko) 2020-02-27

Family

ID=50028753

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020130076615A KR102082300B1 (ko) 2013-07-01 2013-07-01 삼차원 영상 생성 또는 재생을 위한 장치 및 방법

Country Status (3)

Country Link
US (1) US20150002641A1 (ko)
EP (1) EP2821969A1 (ko)
KR (1) KR102082300B1 (ko)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10547825B2 (en) * 2014-09-22 2020-01-28 Samsung Electronics Company, Ltd. Transmission of three-dimensional video
US11205305B2 (en) 2014-09-22 2021-12-21 Samsung Electronics Company, Ltd. Presentation of three-dimensional video
KR101639275B1 (ko) * 2015-02-17 2016-07-14 서울과학기술대학교 산학협력단 다중 실시간 영상 획득 카메라를 활용한 360도 구형 렌더링 영상 표출 장치 및 이를 통한 자동 영상 분석 방법
US10217189B2 (en) 2015-09-16 2019-02-26 Google Llc General spherical capture methods
US10339627B2 (en) * 2016-10-10 2019-07-02 Gopro, Inc. Apparatus and methods for the optimal stitch zone calculation of a generated projection of a spherical image
KR102498598B1 (ko) 2016-10-18 2023-02-14 삼성전자주식회사 영상 처리 장치 및 그 영상 처리 방법
US11049218B2 (en) 2017-08-11 2021-06-29 Samsung Electronics Company, Ltd. Seamless image stitching

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004514951A (ja) * 2000-11-29 2004-05-20 アールヴイシー　エルエルシー 球面立体視撮影システム及びその方法

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6486908B1 (en) * 1998-05-27 2002-11-26 Industrial Technology Research Institute Image-based method and system for building spherical panoramas
US8369607B2 (en) * 2002-03-27 2013-02-05 Sanyo Electric Co., Ltd. Method and apparatus for processing three-dimensional images

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004514951A (ja) * 2000-11-29 2004-05-20 アールヴイシー　エルエルシー 球面立体視撮影システム及びその方法

Also Published As

Publication number Publication date
EP2821969A1 (en) 2015-01-07
KR20150003576A (ko) 2015-01-09
US20150002641A1 (en) 2015-01-01

Similar Documents

Publication Publication Date Title
KR102082300B1 (ko) 삼차원 영상 생성 또는 재생을 위한 장치 및 방법
KR102465227B1 (ko) 영상 음향 처리 장치 및 방법, 및 프로그램이 저장된 컴퓨터 판독 가능한 기록 매체
US9288474B2 (en) Image device and image processing method for generating control information indicating the degree of stereoscopic property or whether or not 3D image needs to be outputted
JP5414947B2 (ja) ステレオ撮影装置
JP5320524B1 (ja) ステレオ撮影装置
US8970675B2 (en) Image capture device, player, system, and image processing method
JP5204349B2 (ja) 撮影装置、再生装置、および画像処理方法
JP2017022694A (ja) ユーザのデバイスに明視野ベースの画像を表示するための方法および装置ならびに対応するコンピュータプログラム製品
JP5814692B2 (ja) 撮像装置及びその制御方法、プログラム
JP5614268B2 (ja) 画像処理装置、および画像処理方法、並びにプログラム
EP2817958A1 (en) Method and device relating to image content
JPWO2012137454A1 (ja) 立体映像出力装置及び立体映像出力方法
JP2014035597A (ja) 画像処理装置、コンピュータプログラム、記録媒体及び画像処理方法
JP2017050819A (ja) パノラマ画像データの生成装置、生成方法及びプログラム
JP5704885B2 (ja) 撮影機器、撮影方法及び撮影制御プログラム
US20130076868A1 (en) Stereoscopic imaging apparatus, face detection apparatus and methods of controlling operation of same
WO2012014695A1 (ja) 立体撮像装置およびその撮像方法
JP2015084517A (ja) 画像処理装置、画像処理方法、プログラム及び記録媒体
JP2015084518A (ja) 画像処理装置、画像処理方法、プログラム及び記録媒体
JP2013081105A (ja) 撮像装置およびその制御方法
JP2024036943A (ja) 画像処理装置および画像処理方法
JP2016058875A (ja) 画像処理装置および撮像装置、ならびにそれらの制御方法、プログラム
CN108876890A (zh) 一种用于分析和操作图像和视频的方法

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right