KR20150003576A - Apparatus and method for generating or reproducing three-dimensional image - Google Patents
Apparatus and method for generating or reproducing three-dimensional image Download PDFInfo
- Publication number
- KR20150003576A KR20150003576A KR1020130076615A KR20130076615A KR20150003576A KR 20150003576 A KR20150003576 A KR 20150003576A KR 1020130076615 A KR1020130076615 A KR 1020130076615A KR 20130076615 A KR20130076615 A KR 20130076615A KR 20150003576 A KR20150003576 A KR 20150003576A
- Authority
- KR
- South Korea
- Prior art keywords
- image
- eye
- spherical
- coordinate system
- images
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 59
- 210000001508 eye Anatomy 0.000 claims description 160
- 210000005252 bulbus oculi Anatomy 0.000 claims description 77
- 230000003287 optical effect Effects 0.000 claims description 63
- 238000013500 data storage Methods 0.000 claims description 11
- 238000003384 imaging method Methods 0.000 claims description 9
- 230000033001 locomotion Effects 0.000 claims description 8
- 238000004590 computer program Methods 0.000 claims description 4
- 238000010586 diagram Methods 0.000 description 24
- 230000001133 acceleration Effects 0.000 description 2
- 239000011521 glass Substances 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 210000000887 face Anatomy 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/013—Eye tracking input arrangements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/207—Image signal generators using stereoscopic image cameras using a single 2D image sensor
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/239—Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- General Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
Abstract
Description
본 발명의 실시예들은 삼차원 영상 생성 장치, 삼차원 영상 생성 방법, 삼차원 영상 재생 장치, 및 삼차원 영상 재생 방법에 관한 것이다.Embodiments of the present invention relate to a three-dimensional image generating apparatus, a three-dimensional image generating method, a three-dimensional image reproducing apparatus, and a three-dimensional image reproducing method.
삼차원 콘텐츠에 대한 관심이 높아지면서, 삼차원 영상을 생성하고 재생하는 기술에 대한 관심이 높아지고 있다. 삼차원 영상을 구현하는 방법으로는, 예를 들면, 사용자에게 좌우 방향에서 시청하였을 때 동일한 영상을 제공하면서 양안 시차를 주면, 뇌에서 좌안에서 인식된 영상과 우안에서 인식된 영상을 하나의 영상으로 처리하여, 사용자가 입체감 있는 영상을 인지하도록 하는 방법이 있다. 좌안과 우안에서 영상을 분리하여 각각 인지하도록 하는 방법으로는, 편광 안경, 색 필터 안경, 스크린 등이 이용된다.As interest in three-dimensional contents increases, interest in techniques for generating and reproducing three-dimensional images is increasing. As a method of implementing a three-dimensional image, for example, when a user gives a same image when viewed in left and right directions and gives a binocular parallax, the image recognized in the left eye and the image recognized in the right eye are processed as a single image Thereby, there is a method of allowing a user to recognize a three-dimensional image. Polarizing glasses, color filter glasses, screens, and the like are used as methods for separating the images from the left and right eyes and recognizing them respectively.
본 발명의 실시예들은 360도 방향에서 삼차원 영상을 시청할 수 있도록 하는 삼차원 영상 생성 및 재생을 위한 장치 및 방법을 제공하기 위한 것이다.Embodiments of the present invention provide an apparatus and method for three-dimensional image generation and playback that enable a three-dimensional image to be viewed in a 360-degree direction.
본 발명의 일 실시예의 일 측면에 따르면, 좌안 영상과 우안 영상을 포함하는 복수의 캡쳐 영상, 및 상기 복수의 캡쳐 영상들 각각에 대한 촬영 시의 방향 정보를 획득하는 단계;According to an aspect of the embodiment of the present invention, there is provided a method for capturing a captured image, the method comprising: acquiring a plurality of captured images including a left eye image and a right eye image;
상기 복수의 캡쳐 영상들의 방향 정보를 이용하여, 상기 복수의 캡쳐 영상들의 좌안 영상들을 제1 구형 좌표계에 배치하여 좌안 구형 영상을 생성하고, 상기 복수의 캡쳐 영상들의 상기 우안 영상들을 제2 구형 좌표계에 배치하여 우안 구형 영상을 생성하는 단계; 및Eye images of the plurality of captured images are arranged in a first rectangular coordinate system to generate a left-eyeball image using the direction information of the plurality of captured images, and the right-eye images of the plurality of captured images are arranged in a second rectangular coordinate system Creating a right eye spherical image; And
상기 좌안 구형 영상과 상기 우안 구형 영상을 저장하는 단계를 포함하는 삼차원 영상 생성 방법이 제공된다.And storing the left-eye spherical image and the right-eye spherical image.
상기 삼차원 영상 생성 방법은, 상기 제1 구형 좌표계에 배치된 상기 복수의 캡쳐 영상들의 좌안 영상들을 스티칭(stitching)하여, 상기 좌안 구형 영상을 생성하는 단계; 및 상기 제2 구형 좌표계에 배치된 상기 복수의 캡쳐 영상들의 우안 영상들을 스티칭하여, 상기 우안 구형 영상을 생성하는 단계를 더 포함할 수 있다.The 3D image generating method may include generating left eyeball images by stitching left eye images of the plurality of captured images arranged in the first rectangular coordinate system; And stitching right eye images of the plurality of captured images arranged in the second rectangular coordinate system to generate the right eyeball image.
상기 좌안 구형 영상을 생성하는 단계는, 상기 복수의 캡쳐 영상들의 상기 좌안 영상과 상기 우안 영상의 매칭 결과에 따라, 스티칭할 좌안 영상들을 결정하고, 상기 우안 구형 영상을 생성하는 단계는, 상기 복수의 캡쳐 영상들의 상기 좌안 영상과 상기 우안 영상의 매칭 결과에 따라, 스티칭할 우안 영상들을 결정할 수 있다.Wherein the step of generating the left eyeball image comprises determining left eye images to be stitched according to the matching result of the left eye image and the right eye image of the plurality of captured images and generating the right eye spherical image, The right eye images to be stitched can be determined according to the matching result of the left eye image and the right eye image of the captured images.
상기 저장하는 단계는, 상기 좌안 구형 영상과, 상기 좌안 구형 영상의 각 픽셀에 대한 제1 구형 좌표계의 좌표 값을 함께 저장하는 단계; 및 상기 우안 구형 영상과, 상기 우안 구형 영상의 각 픽셀에 대한 제2 구형 좌표계의 좌표 값을 함께 저장하는 단계를 포함할 수 있다.The storing step may include storing coordinate values of a first rectangular coordinate system for each pixel of the left eyeball image and the left eyeball image together; And storing coordinate values of the right eyeball image and the coordinates of the second rectangular coordinate system for each pixel of the right eyeball image together.
본 발명의 다른 실시예의 일 측면에 따르면, 제1 구형 좌표계에 각 픽셀들이 배치된 좌안 구형 영상, 및 제2 구형 좌표계에 각 픽셀들이 배치된 우안 구형 영상을 로딩하는 단계;According to an aspect of another embodiment of the present invention, there is provided a method comprising: loading a left eyeball image in which pixels are arranged in a first rectangular coordinate system; and a right eyeball image in which pixels are arranged in a second rectangular coordinate system;
제어 장치의 기울기를 검출하는 단계;Detecting a tilt of the control device;
상기 검출된 기울기에 따라, 재생 방향 정보를 결정하는 단계;Determining reproduction direction information according to the detected inclination;
상기 재생 방향 정보에 대응하는 재생 영역을 결정하는 단계;Determining a reproduction area corresponding to the reproduction direction information;
상기 좌안 구형 영상 및 상기 우안 구형 영상으로부터 상기 재생 영역에 대응하는 평면 삼차원 영상을 생성하는 단계; 및Generating a planar three-dimensional image corresponding to the reproduction region from the left-eye spherical image and the right-eye spherical image; And
상기 평면 삼차원 영상을 재생하는 단계를 포함하는 삼차원 영상 재생 방법이 제공된다.And reproducing the plane 3D image.
상기 삼차원 영상 재생 방법은, 상기 제어 장치의 이동에 따라 상기 평면 삼차원 영상의 크기를 결정하는 단계를 더 포함할 수 있다.The 3D image reproducing method may further include determining a size of the 3D image in accordance with the movement of the controller.
상기 평면 삼차원 영상을 생성하는 단계는, 상기 좌안 구형 영상과 상기 우안 구형 영상의 상기 재생 영역의 픽셀 값을 평면 상에 배치하여 평면 좌안 영상 및 평면 우안 영상을 생성하는 단계를 포함하고, 상기 평면 삼차원 영상을 재생하는 단계는, 상기 평면 좌안 영상 및 상기 평면 우안 영상을 번갈아서 재생할 수 있다.Wherein the generating of the planar three-dimensional image includes generating a planar left eye image and a planar right eye image by arranging pixel values of the reproduction area of the left eyeball image and the right eyeball image on a plane, The step of reproducing an image may alternately reproduce the planar left eye image and the planar right eye image.
본 발명의 일 실시예의 다른 측면에 따르면, 입사광을 집광하는 제1 광학계 및 제2 광학계;According to another aspect of an embodiment of the present invention, there is provided an optical system including a first optical system and a second optical system for condensing incident light;
상기 제1 광학계 및 상기 제2 광학계를 통과한 입사광을 광전 변환하는 적어도 하나의 촬상 소자;At least one imaging element for photoelectrically converting incident light passing through the first optical system and the second optical system;
상기 제1 광학계, 상기 제2 광학계, 및 상기 촬상 소자를 이용하여, 좌안 영상과 우안 영상을 포함하는 복수의 캡쳐 영상들을 생성하는 영상 획득부;An image acquiring unit that generates a plurality of captured images including a left eye image and a right eye image using the first optical system, the second optical system, and the image pickup element;
상기 복수의 캡쳐 영상들 각각에 대한 촬영 시의 방향 정보를 획득하는 방향 정보 획득부;A direction information obtaining unit for obtaining direction information at the time of shooting for each of the plurality of captured images;
상기 복수의 캡쳐 영상들의 방향 정보를 이용하여, 상기 복수의 캡쳐 영상들을 제1 구형 좌표계에 배치하여 좌안 구형 영상을 생성하고, 상기 복수의 캡쳐 영상들의 상기 우안 영상들을 제2 구형 좌표계에 배치하여 우안 구형 영상을 생성하는 구형 영상 생성부; 및A left eyeball image is generated by arranging the plurality of captured images in a first spherical coordinate system using orientation information of the plurality of captured images, and the right eye images of the plurality of captured images are arranged in a second spherical coordinate system, A spherical image generator for generating spherical images; And
상기 좌안 구형 영상과 상기 우안 구형 영상을 저장하는 데이터 저장부를 포함하는 삼차원 영상 생성 장치가 제공된다.And a data storage unit for storing the left-eye spherical image and the right-eye spherical image.
상기 구형 영상 생성부는, 상기 제1 구형 좌표계에 배치된 상기 복수의 캡쳐 영상들의 좌안 영상들을 스티칭(stitching)하여, 상기 좌안 구형 영상을 생성하는 좌안 구형 영상 생성부; 및 상기 제2 구형 좌표계에 배치된 상기 복수의 캡쳐 영상들의 우안 영상들을 스티칭하여, 상기 우안 구형 영상을 생성하는 우안 구형 영상 생성부를 포함할 수 있다.Wherein the spherical image generating unit comprises: a left eyeball image generating unit for generating the left eye spherical image by stitching left eye images of the plurality of captured images arranged in the first spherical coordinate system; And a right eyeball image generating unit for generating the right eyeball image by stitching right eye images of the plurality of captured images arranged in the second spherical coordinate system.
상기 좌안 구형 영상 생성부는, 상기 복수의 캡쳐 영상들의 상기 좌안 영상과 상기 우안 영상의 매칭 결과에 따라, 스티칭할 좌안 영상들을 결정하고, 상기 우안 구형 영상 생성부는, 상기 복수의 캡쳐 영상들의 상기 좌안 영상과 상기 우안 영상의 매칭 결과에 따라, 스티칭할 우안 영상들을 결정할 수 있다.Wherein the left eyeball image generating unit determines left eye images to be stitched according to a matching result of the left eye image and the right eye image of the plurality of captured images and the right eyeball image generating unit generates the left eyeball image of the captured images, The right eye images to be stitched can be determined according to the matching result of the left eye image and the right eye image.
상기 데이터 저장부는, 상기 좌안 구형 영상과, 상기 좌안 구형 영상의 각 픽셀에 대한 제1 구형 좌표계의 좌표 값을 함께 저장하고, 상기 우안 구형 영상과, 상기 우안 구형 영상의 각 픽셀에 대한 제2 구형 좌표계의 좌표 값을 함께 저장할 수 있다.The data storage unit may store coordinate values of the first rectangular coordinate system for each pixel of the left and right sphere images and the second rectangular coordinate system for each pixel of the right sphere image, Coordinate values of the coordinate system can be stored together.
본 발명의 다른 실시예의 다른 측면에 따르면, 제1 구형 좌표계에 각 픽셀들이 배치된 좌안 구형 영상, 및 제2 구형 좌표계에 각 픽셀들이 배치된 우안 구형 영상을 저장하는 데이터 저장부;According to another aspect of the present invention, there is provided a stereoscopic image display apparatus, comprising: a data storage unit for storing a left-eye spherical image in which pixels are arranged in a first spherical coordinate system; and a right-eye spherical image in which pixels are arranged in a second spherical coordinate system;
제어 장치의 기울기를 검출하여, 상기 검출된 기울기에 따라 재생 방향 정보를 결정하는 재생 방향 결정부;A playback direction determination unit for detecting a tilt of the control device and determining playback direction information according to the detected tilt;
상기 재생 방향 정보에 대응하는 재생 영역을 결정하는 재생 영역 결정부;A reproduction area determination unit that determines a reproduction area corresponding to the reproduction direction information;
상기 좌안 구형 영상 및 상기 우안 구형 영상으로부터 상기 재생 영역에 대응하는 평면 삼차원 영상을 생성하는 평면 삼차원 영상 생성부; 및A planar three-dimensional image generation unit for generating a planar three-dimensional image corresponding to the reproduction area from the left-eyeball image and the right-eyeball image; And
상기 평면 삼차원 영상을 재생하는 재생부를 포함하는 삼차원 영상 재생 장치가 제공된다.And a reproducing unit for reproducing the plane 3D image.
상기 삼차원 영상 재생 장치는, 상기 제어 장치의 이동에 따라 상기 평면 삼차원 영상의 크기를 결정하는 영상 크기 결정부를 더 포함할 수 있다.The three-dimensional image reproducing apparatus may further include an image size determining unit that determines a size of the plane 3D image according to the movement of the controller.
상기 평면 삼차원 영상 생성부는, 상기 좌안 구형 영상과 상기 우안 구형 영상의 상기 재생 영역의 픽셀 값을 평면 상에 배치하여 평면 좌안 영상 및 평면 우안 영상을 생성하고, 상기 재생부는, 상기 평면 좌안 영상 및 상기 평면 우안 영상을 번갈아서 재생할 수 있다.Wherein the planar three-dimensional image generator generates a planar left eye image and a planar right eye image by arranging pixel values of the reproduction area of the left eyeball image and the right eyeball image on a plane, The flat right-eye image can be alternately reproduced.
본 발명의 일 실시예의 다른 측면에 따르면, 프로세서에 의해 독출되어 수행되었을 때, 삼차원 영상 생성 방법을 수행하는 컴퓨터 프로그램 코드들을 저장하는 컴퓨터 판독가능 기록매체에 있어서, 상기 삼차원 영상 생성 방법은,According to another aspect of the present invention, there is provided a computer-readable recording medium storing computer program codes for performing a three-dimensional image generation method when read out and executed by a processor,
좌안 영상과 우안 영상을 포함하는 복수의 캡쳐 영상, 및 상기 복수의 캡쳐 영상들 각각에 대한 촬영 시의 방향 정보를 획득하는 단계;Acquiring a plurality of captured images including a left eye image and a right eye image, and direction information at the time of shooting for each of the plurality of captured images;
상기 복수의 캡쳐 영상들의 방향 정보를 이용하여, 상기 복수의 캡쳐 영상들의 좌안 영상들을 제1 구형 좌표계에 배치하여 좌안 구형 영상을 생성하고, 상기 복수의 캡쳐 영상들의 상기 우안 영상들을 제2 구형 좌표계에 배치하여 우안 구형 영상을 생성하는 단계; 및Eye images of the plurality of captured images are arranged in a first rectangular coordinate system to generate a left-eyeball image using the direction information of the plurality of captured images, and the right-eye images of the plurality of captured images are arranged in a second rectangular coordinate system Creating a right eye spherical image; And
상기 좌안 구형 영상과 상기 우안 구형 영상을 저장하는 단계를 포함하는, 컴퓨터 판독가능 기록매체가 제공된다.And storing the left-eye spherical image and the right-eye spherical image.
본 발명의 다른 실시예의 다른 측면에 따르면, 프로세서에 의해 독출되어 수행되었을 때, 삼차원 영상 재생 방법을 수행하는 컴퓨터 프로그램 코드들을 저장하는 컴퓨터 판독가능 기록매체에 있어서, 상기 삼차원 영상 재생 방법은,According to another aspect of another embodiment of the present invention, there is provided a computer-readable recording medium storing computer program codes for performing a three-dimensional image reproducing method when read and executed by a processor,
제1 구형 좌표계에 각 픽셀들이 배치된 좌안 구형 영상, 및 제2 구형 좌표계에 각 픽셀들이 배치된 우안 구형 영상을 로딩하는 단계;Loading a left eyeball image in which pixels are arranged in a first rectangular coordinate system and a right eyeball image in which pixels are arranged in a second rectangular coordinate system;
제어 장치의 기울기를 검출하는 단계;Detecting a tilt of the control device;
상기 검출된 기울기에 따라, 재생 방향 정보를 결정하는 단계;Determining reproduction direction information according to the detected inclination;
상기 재생 방향 정보에 대응하는 재생 영역을 결정하는 단계;Determining a reproduction area corresponding to the reproduction direction information;
상기 좌안 구형 영상 및 상기 우안 구형 영상의 상기 재생 영역의 픽셀 값을 이용하여, 평면 삼차원 영상을 생성하는 단계; 및Generating a plane 3D image using pixel values of the reproduction area of the left eyeball image and the right eyeball image; And
상기 평면 삼차원 영상을 재생하는 단계를 포함하는, 컴퓨터 판독가능 기록매체가 제공된다.And reproducing the plane three-dimensional image.
본 발명의 실시예들에 따르면 360도 방향에서 삼차원 영상을 시청할 수 있도록 하는 삼차원 영상 생성 및 재생을 위한 장치 및 방법을 제공된다.According to embodiments of the present invention, there is provided an apparatus and method for three-dimensional image generation and playback that allow a three-dimensional image to be viewed in a 360-degree direction.
도 1은 본 발명의 일 실시예에 따른 삼차원 영상 생성 장치(100)의 구성을 나타낸 도면이다.
도 2는 제1 광학계(110a) 및 제2 광학계(110b)가 배치된 본 발명의 일 실시예에 따른 삼차원 영상 생성 장치(100a)의 외관을 도시한 도면이다.
도 3a 내지 3c는 본 발명의 다른 실시예에 따른 삼차원 영상 생성 장치(100b)의 외관을 도시한 도면이다.
도 4는 복수의 캡쳐 영상들로부터 좌안 구형 영상 또는 우안 구형 영상을 생성하는 과정을 설명하기 위한 도면이다.
도 5는 본 발명의 다른 실시예에 따른 구형 영상 생성부(150)의 구성을 도시한 도면이다.
도 6은 본 발명의 다른 실시예에 따라 복수의 좌안 영상 또는 복수의 우안 영상을 합성하는 과정을 설명하기 위한 도면이다.
도 7은 본 발명의 일 실시예에 따른 좌안 구형 영상 및 우안 구형 영상의 일례를 도시한 도면이다.
도 8은 본 발명의 일 실시예에 따른 삼차원 영상 생성 방법을 나타낸 흐름도이다.
도 9는 본 발명의 다른 실시예에 따른 삼차원 영상 재생 장치(800a)의 구성을 나타낸 도면이다.
도 10은 본 발명의 일 실시예 따른 삼차원 영상 재생 장치(800b)를 나타낸 도면이다.
도 11은 본 발명의 다른 실시예에 따른 삼차원 영상 재생 장치(800c)를 나타낸 도면이다.
도 12는 본 발명의 일 실시예에 따라, 재생 영역을 결정하고, 평면 삼차원 영상을 생성하는 과정을 설명하기 위한 도면이다.
도 13은 본 발명의 다른 실시예에 따른 삼차원 영상 재생 방법을 나타낸 흐름도이다.
도 14는 본 발명의 다른 실시예에 따른 삼차원 영상 재생 장치(800d)의 구조를 나타낸 도면이다.
도 15는 본 발명의 다른 실시예에 따라 재생 영역을 결정하는 과정을 설명하기 위한 도면이다.1 is a diagram illustrating a configuration of a three-dimensional
FIG. 2 is a diagram showing an appearance of a three-dimensional
3A to 3C are diagrams showing an appearance of a three-dimensional
4 is a diagram for explaining a process of generating a left-eyeball image or a right-eyeball image from a plurality of captured images.
FIG. 5 is a diagram illustrating a configuration of a rectangular
6 is a view for explaining a process of composing a plurality of left eye images or a plurality of right eye images according to another embodiment of the present invention.
FIG. 7 is a diagram illustrating an example of a left-eye spherical image and a right-eye spherical image according to an embodiment of the present invention.
8 is a flowchart illustrating a method of generating a three-dimensional image according to an exemplary embodiment of the present invention.
9 is a diagram illustrating a configuration of a three-dimensional
10 is a diagram illustrating a three-dimensional
11 is a diagram illustrating a three-dimensional
FIG. 12 is a diagram for explaining a process of determining a reproduction region and generating a plane three-dimensional image according to an embodiment of the present invention.
13 is a flowchart illustrating a three-dimensional image reproducing method according to another embodiment of the present invention.
FIG. 14 is a diagram showing the structure of a three-dimensional
15 is a diagram for explaining a process of determining a reproduction area according to another embodiment of the present invention.
하기의 설명 및 첨부된 도면은 본 발명에 따른 동작을 이해하기 위한 것이며, 본 기술 분야의 통상의 기술자가 용이하게 구현할 수 있는 부분은 생략될 수 있다. The following description and accompanying drawings are for understanding the operation according to the present invention, and parts that can be easily implemented by those skilled in the art can be omitted.
또한 본 명세서 및 도면은 본 발명을 제한하기 위한 목적으로 제공된 것은 아니고, 본 발명의 범위는 청구의 범위에 의하여 정해져야 한다. 본 명세서에서 사용된 용어들은 본 발명을 가장 적절하게 표현할 수 있도록 본 발명의 기술적 사상에 부합하는 의미와 개념으로 해석되어야 한다. Furthermore, the specification and drawings are not intended to limit the present invention, and the scope of the present invention should be determined by the claims. The terms used in the present specification should be construed to mean the meanings and concepts consistent with the technical idea of the present invention in order to best express the present invention.
이하 첨부된 도면을 참조하여 본 발명의 실시예들을 설명한다. Embodiments of the present invention will now be described with reference to the accompanying drawings.
도 1은 본 발명의 일 실시예에 따른 삼차원 영상 생성 장치(100)의 구성을 나타낸 도면이다. 본 실시예에 따른 삼차원 영상 생성 장치(100)는 제1 광학계(110a), 제2 광학계(110b), 촬상 소자(120), 영상 획득부(130), 방향 정보 획득부(140), 구형 영상 생성부(150), 및 데이터 저장부(160)를 포함한다.1 is a diagram illustrating a configuration of a three-dimensional
본 실시예에 따른 삼차원 영상 생성 장치(100)는, 영상 캡쳐 시, 좌안 영상과 우안 영상을 동시에 촬영하기 위해, 제1 광학계(110a) 및 제2 광학계(110b)를 구비한다. The three-dimensional
도 2는 제1 광학계(110a) 및 제2 광학계(110b)가 배치된 본 발명의 일 실시예에 따른 삼차원 영상 생성 장치(100a)의 외관을 도시한 도면이다. FIG. 2 is a diagram showing an appearance of a three-dimensional
제1 광학계(110a) 및 제2 광학계(110b)는 도 2에 도시된 바와 같이, 서로 이격되어, 피사체로부터의 입사광을 수광하도록 배치된다. 제1 광학계(110a)과 제2 광학계(110b)에서 서로 다른 경로로 빛을 수광하여, 제1 광학계(110a)를 통과한 입사광으로부터 좌안 영상을 생성하고, 제2 광학계(110b)를 통과한 입사광으로부터 우안 영상을 생성할 수 있다. The first
일 실시예에 따르면, 촬상 소자(120)에서 제1 광학계(110a)에 대응되는 영역과 제2 광학계(110b)에 대응되는 영역이 서로 오버랩되지 않도록 배치될 수 있다. 다른 예로서, 촬상 소자(120)는 제1 광학계(110a)에 대응되는 제1 촬상 소자와 제2 광학계(110b)에 대응되는 제2 촬상 소자를 포함할 수 있다. 이러한 경우 물리적으로 분리된 2개의 촬상 소자가 구비될 수 있다.According to one embodiment, the area corresponding to the first
제1 광학계(110a) 및 제2 광학계(110b)는 각각 렌즈, 조리개, 및 셔터를 구비할 수 있다. 렌즈는 복수 군 및/또는 복수 매의 렌즈를 포함할 수 있다.The first
제1 광학계(110a) 및 제2 광학계(110b)를 투과한 광학 신호는 촬상 소자(120)의 수광면에 이르러 피사체의 상을 결상한다. 촬상 소자(120)는 광학 신호를 전기 신호로 변환하는 CCD(Charge Coupled Device) 이미지센서 또는 CIS(Complementary Metal Oxide Semiconductor Image Sensor)일 수 있다.The optical signal transmitted through the first
도 3a 내지 도 3c는 제1 광학계(110a) 및 제2 광학계(110a)가 배치된 본 발명의 다른 실시예에 따른 삼차원 영상 생성 장치(100b)의 외관을 도시한 도면이다.3A to 3C are diagrams showing an appearance of a three-dimensional
본 실시예에 따르면, 삼차원 영상 생성 장치(100b)는 제1 광학계(110a)에 대응하는 제1 렌즈(310) 및 제2 광학계(110b)에 대응하는 제2 렌즈(320)를 구비하는 교환식 렌즈(300)와 결합되어, 제1 광학계(110a) 및 제2 광학계(110b)를 구현할 수 있다. 이러한 경우, 촬상 소자(120)는 제1 광학계(110a)에 대응하는 영역 및 제2 광학계(110b)에 대응하는 영역으로 구획되어 이용될 수 있다. 본 실시예에 따른 삼차원 영상 생성 장치(100b)는 도 3c에 도시된 2차원 영상 촬영용 교환식 렌즈와 결합하면 2차원 영상을 생성하고, 도 3b에 도시된 3차원 영상 촬영용 교환식 렌즈(300)와 결합하면 3차원 영상을 생성할 수 있다.According to the present embodiment, the three-dimensional
영상 획득부(130, 도 1 참조)는 촬상 소자(120)에서 광전 변환되어 생성된 촬상 신호로부터, 캡쳐 영상을 생성한다. 영상 획득부(130)에서 생성된 캡쳐 영상은 제1 광학계(110a)를 통과한 입사광으로부터 생성된 좌안 영상과, 제2 광학계(110b)를 통과한 입사광으로부터 생성된 우안 영상을 포함할 수 있다. 1) generates a captured image from an image pickup signal generated by photoelectric conversion in the
촬상 소자(120)가 하나만 구비되고, 촬상 소자(120)가 제1 광학계(110a) 및 제2 광학계(110b)에 각각 대응되는 두 영역으로 나뉘어 구성되는 경우, 영상 획득부(130)는 촬상 신호로부터 제1 광학계(110a)에 대응되는 영역을 추출하여 좌안 영상을 생성하고, 제2 광학계에 대응되는 영역을 추출하여 우안 영상을 생성할 수 있다.When the
촬상 소자(120)가 물리적으로 분리된 제1 촬상 소자와 제2 촬상 소자를 포함하는 경우, 제1 촬상 소자의 촬상 신호로부터 좌안 영상을 생성하고, 제2 촬상 소자의 촬상 신호로부터 우안 영상을 생성할 수 있다.When the
본 실시예에 따른 영상 획득부(130)는 구형 좌표계에서 표현되는 360도 방향의 좌안 영상 및 우안 영상을 얻기 위해, 복수의 캡쳐 영상을 연속 촬영하도록 제1 광학계(110a), 제2 광학계(110b), 및 촬상 소자(120)를 제어할 수 있다. 본 발명의 일 실시예는 구형 좌표계에서 표현되는 360도 방향의 삼차원 영상을 생성하는데, 360도 방향의 영상은 복수의 캡쳐 영상을 연속 촬영한 후, 이들을 이어 붙여서 생성된다. 이를 위해, 영상 획득부(130)는 360도 방향의 영상을 생성하기 위해 요구되는 캡쳐 영상들을 얻기 위해, 미리 결정된 횟수만큼, 또는 요구되는 캡쳐 영상을 모두 얻을 때까지 연속 촬영을 수행하도록 제1 광학계(110a), 제2 광학계(110b), 및 촬상 소자(120)를 제어할 수 있다. 즉, 셔터 릴리즈 신호가 입력되면, 영상 획득부(130)는 소정의 횟수만큼 연속 촬영을 수행하도록 제1 광학계(110a), 제2 광학계(110b), 및 촬상 소자(120)를 제어할 수 있다. 영상 획득부(130)는 촬영이 수행될 때마다, 좌안 영상과 우안 영상을 포함하는 캡쳐 영상을 생성한다.The image obtaining unit 130 according to the present embodiment includes a first
연속 촬영이 수행되는 동안, 사용자는 제1 광학계(110a)와 제2 광학계(110b)가 순차적으로 360도 방향을 모두 향하도록 삼차원 영상 생성 장치(100)의 방향을 변경하면서 피사체를 촬영한다. 일 실시예에 따르면, 사용자가 삼차원 영상 생성 장치(100)의 방향을 적절하게 변경하도록 안내하는 사용자 인터페이스가 제공될 수 있다. 예를 들면, 상기 사용자 인터페이스는 삼차원 영상 생성 장치(100)의 이동 방향에 대한 정보, 이동 속도에 대한 정보, 현재까지 촬영된 영상에 대한 정보, 앞으로 촬영되어야 할 방향에 대한 정보 등을 제공할 수 있다. 이를 위해 일 실시예에 따른 삼차원 영상 생성 장치(100)는 이러한 사용자 인터페이스를 제공하기 위한 사용자 인터페이스 제공부(미도시)를 더 포함할 수 있다.During continuous shooting, the user photographs a subject while changing the direction of the three-dimensional
본 발명의 다른 실시예에 따르면, 영상 획득부(130)는 동영상을 촬영하도록 제1 광학계(110a), 제2 광학계(110b), 및 촬상 소자(120)를 제어할 수 있다. 이러한 경우, 셔터 릴리즈 신호가 입력된 이후에 복수의 프레임들이 연속적으로 촬영된다.According to another embodiment of the present invention, the image acquisition unit 130 may control the first
방향 정보 획득부(140)는 연속 촬영이 수행되는 동안, 각 캡쳐 영상에 대한 방향 정보를 획득한다. 방향 정보는 예를 들면, 삼차원 영상 생성 장치(100)에 구비된 기울기 센서, 자이로 센서, 지자기 센서, 가속도 센서 등으로부터 획득될 수 있다. 방향 정보 획득부(140)는 영상 획득부(130) 또는 촬상 소자(120)와 동기되어, 영상 캡쳐가 이루어질 때마다, 방향 정보를 생성하여, 구형 영상 생성부(150)로 제공한다.The direction information obtaining unit 140 obtains direction information on each captured image while continuous shooting is performed. The direction information can be obtained from, for example, a tilt sensor, a gyro sensor, a geomagnetic sensor, an acceleration sensor, and the like provided in the three-dimensional
동영상 촬영이 수행되는 경우에는, 각 프레임이 촬영될 때마다 방향 정보를 생성하여, 구형 영상 생성부(150)로 제공한다.When motion picture taking is performed, direction information is generated every time each frame is photographed, and provided to the spherical
구형 영상 생성부(150)는 복수의 캡쳐 영상들을 구형 좌표계 상에 배치하여 구형 영상을 생성한다. 이때 좌안 영상을 위한 제1 구형 좌표계와 우안 영상을 위한 제2 구형 좌표계가 정의된다. 복수의 캡쳐 영상들 중 좌안 영상들은 상기 제1 구형 좌표계에 배치되어, 좌안 구형 영상으로 변환된다. 복수의 캡쳐 영상들 중 우안 영상들은 상기 제2 구형 좌표계에 배치되어, 우안 구형 영상으로 변환된다.The spherical
도 4는 복수의 캡쳐 영상들로부터 좌안 구형 영상 또는 우안 구형 영상을 생성하는 과정을 설명하기 위한 도면이다. 4 is a diagram for explaining a process of generating a left-eyeball image or a right-eyeball image from a plurality of captured images.
영상 획득부(130)에 의해 획득된 복수의 캡쳐 영상은 복수의 좌안 영상 및 복수의 우안 영상을 포함한다. 도 4에서는 복수의 좌안 영상으로부터 좌안 구형 영상을 생성하는 과정을 설명한다. 복수의 우안 영상으로부터 우안 구형 영상을 생성하는 과정도 동일한 원리로 수행된다.The plurality of captured images acquired by the image acquisition unit 130 include a plurality of left eye images and a plurality of right eye images. 4, a process of generating a left-eyeball image from a plurality of left-eye images will be described. The process of generating a right eye spherical image from a plurality of right eye images is performed on the same principle.
복수의 좌안 영상(Im1, Im2, Im3)은 각각 대응되는 방향 정보를 갖는다. 이러한 방향 정보를 이용하여, 각각의 좌안 영상을 제1 구형 좌표계에서 대응되는 위치에 배치한다. 예를 들면, 촬영자가 제1 구형 좌표계의 구 안의 중심점(0)에 있다고 가정하고, 중심점(O)에서 해당 좌안 영상에 대응되는 방향 정보에 대응되는 방향을 바라보았을 때, 향하게 되는 제1 구형 좌표계의 영역에 해당 좌안 영상을 배치한다. 이러한 방법으로 복수의 좌안 영상을 제1 구형 좌표계에 배치하고, 이들을 합성하여, 좌안 구형 영상을 생성할 수 있다.The plurality of left eye images Im1, Im2, and Im3 have corresponding direction information. Using these direction information, each of the left eye images is arranged at a corresponding position in the first rectangular coordinate system. For example, when it is assumed that the photographer is located at the center point (0) in the sphere of the first rectangular coordinate system and the direction corresponding to the direction information corresponding to the corresponding left eye image at the center point O is viewed, Eye image is arranged in the region of the left eye image. In this way, a plurality of left eye images can be arranged in a first rectangular coordinate system, and they can be combined to generate a left eyeball image.
방향 정보는 제1 구형 좌표계의 좌표(r, θ, ρ)에 맞게 보간되어, 제1 구형 좌표계의 좌표로 변환될 수 있다. 이와 같은 처리시에 삼차원 영상 생성 장치의 사양이 낮은 경우, 처리속도를 위해 클라우드 서비스를 활용할 수 있다.The direction information can be interpolated to the coordinates (r,?,?) Of the first rectangular coordinate system and converted into the coordinates of the first rectangular coordinate system. When the specification of the three-dimensional image generating apparatus is low during such processing, the cloud service can be utilized for the processing speed.
영상 획득부(130)에서 동영상을 획득한 경우, 구형 영상 생성부(150)는 해당 시점에 복수의 프레임이 중첩되어 입력되어 동영상으로 표현되는 부분만 동영상으로 표현하고, 나머지 부분은 정지 영상으로 표현되도록 좌안 구형 영상 및 우안 구형 영상을 생성할 수 있다. 이를 위해, 해당 시점에 촬영된 영역 이외의 부분은, 이전 또는 이후 시점에 촬영된 프레임들을 활용하여 정지 영상으로 표현할 수 있다.When the moving image is obtained by the image obtaining unit 130, the rectangular
도 5는 본 발명의 다른 실시예에 따른 구형 영상 생성부(150)의 구성을 도시한 도면이다. 본 실시예에 따른 구형 영상 생성부(150)는 좌안 구형 영상 생성부(410) 및 우안 구형 영상 생성부(420)를 포함한다.FIG. 5 is a diagram illustrating a configuration of a rectangular
좌안 구형 영상 생성부(410)는 영상 획득부(130)로부터 복수의 좌안 영상을 입력받고, 방향 정보 획득부(140)에서 복수의 좌안 영상 각각에 대응되는 복수의 방향 정보를 입력 받아, 좌안 구형 영상을 생성한다.The left eyeball
우안 구형 영상 생성부(420)는 영상 획득부(130)로부터 복수의 우안 영상을 입력받고, 방향 정보 획득부(140)에서 복수의 우안 영상 각각에 대응되는 복수의 방향 정보를 입력 받아, 우안 구형 영상을 생성한다.The right eye spherical
본 실시예에 따르면, 좌안 구형 영상 생성부(410)는 복수의 좌안 영상 중, 좌안 구형 영상을 생성하기 위해 합성될 좌안 영상을 선택할 때, 복수의 우안 영상을 참조하여 합성될 좌안 영상을 선택할 수 있다. 또한 우안 구형 영상 생성부(420)는 복수의 우안 영상 중, 우안 구형 영상을 생성하기 위해 합성될 우안 영상을 선택할 때, 복수의 좌안 영상을 참조하여 합성될 우안 영상을 선택할 수 있다. 예를 들면, 특정 방향에 대응되는 좌안 영상이 다수 존재하는 경우, 이들 중 합성할 좌안 영상을 선택하기 위해, 좌안 영상과 우안 영상의 유사도가 높은 좌안 영상을 우선적으로 선택하여, 합성될 좌안 영상을 선택할 수 있다. 여기서 영상의 유사도는 예를 들면 특징점(예를 들면 에지, 색상 정보)을 서로 매칭하여 판단할 수 있다.According to the present embodiment, when selecting a left eye image to be synthesized to generate a left eye spherical image from a plurality of left eye images, the left eyeball
도 6은 본 발명의 다른 실시예에 따라 복수의 좌안 영상 또는 복수의 우안 영상을 합성하는 과정을 설명하기 위한 도면이다.6 is a view for explaining a process of composing a plurality of left eye images or a plurality of right eye images according to another embodiment of the present invention.
복수의 좌안 영상이 제1 구형 좌표계에 각각 배치되면, 구형 영상 생성부(150)는 인접하는 좌안 영상을 스티칭하여, 좌안 구형 영상을 생성한다. 예를 들면 서로 인접한 IMAGE 1, IMAGE 2, 및 IMAGE 3가 합성된다. 이때, 인접한 영상들의 특징점을 추출하고, 인접한 영상들의 특징점이 서로 매칭되도록 IMAGE 1, IMAGE 2, 및 IMAGE 3의 위치가 재조정될 수 있다. 특징점은 예를 들면, 에지, 그라이데이션, 색상 등일 수 있다. 이와 같이 특징점을 기반으로 복수의 좌안 영상이 이어 붙여져 스티칭되면, 좌안 구형 영상의 각 픽셀들의 제1 구형 좌표계에서의 좌표 값이 정의되고, 상기 스티칭된 영상과 함께 저장된다. 즉, 예를 들면 제1 픽셀은 (r1, θ1, ρ1)의 좌표 값을 갖고, 제2 픽셀은 (r2, θ2, ρ2)의 좌표 값을 가질 수 있다.When a plurality of left eye images are arranged in the first rectangular coordinate system, the rectangular
도 7은 본 발명의 일 실시예에 따른 좌안 구형 영상 및 우안 구형 영상의 일례를 도시한 도면이다.FIG. 7 is a diagram illustrating an example of a left-eye spherical image and a right-eye spherical image according to an embodiment of the present invention.
구형 영상 생성부(150)는 도 7에 도시된 바와 같은 좌안 구형 영상(610) 및 우안 구형 영상(620)을 생성할 수 있다. 좌안 구형 영상(610)은 각 픽셀마다 제1 구형 좌표계의 좌표 값이 정의되어 저장되고, 우안 구형 영상(620)은 각 픽셀마다 제2 구형 좌표계의 좌표 값이 정의되어 저장될 수 있다.The spherical
본 발명의 일 실시예에 따르면, 좌안 구형 영상과 우안 구안 영상은 하나의 영상 파일로 함께 저장될 수 있다. 이러한 경우, 해당 영상 파일의 헤더부에, 해당 영상 파일에 저장된 영상이 구형의 삼차원 영상이라는 정보, 제1 좌표계 및 제2 좌표계의 크기에 대한 정보(예를 들면 반경) 등이 저장될 수 있다.According to an embodiment of the present invention, the left eyeball image and the right eyeball image may be stored together as one image file. In this case, information indicating that the image stored in the image file is a spherical three-dimensional image, information on the sizes of the first coordinate system and the second coordinate system (e.g., radius), and the like may be stored in the header part of the image file.
본 발명의 다른 실시예에 따르면, 좌안 구형 영상과 우안 구형 영상은 별개의 영상 파일로 각각 저장될 수 있다. 이러한 경우, 좌안 구형 영상의 영상 파일의 헤더부에는, 해당 영상 파일에 저장된 영상이 좌안 구형 영상이라는 정보, 대응되는 우안 구형 영상의 영상 파일의 파일명 및 위치 정보, 제1 좌표계의 크기에 대한 정보(예를 들면 반경) 등이 저장될 수 있다. 우안 구형 영상의 영상 파일의 헤더부에는, 해당 영상 파일에 저장된 영상이 우안 구형 영상이라는 정보, 대응되는 좌안 구형 영상의 영상 파일의 파일명 및 위치 정보, 제2 좌표계의 크기에 대한 정보(예를 들면 반경) 등이 저장될 수 있다.According to another embodiment of the present invention, the left-eye spherical image and the right-eye spherical image may be respectively stored as separate image files. In this case, in the header part of the image file of the left eyeball image, information that the image stored in the image file is the left eyeball image, file name and position information of the image file of the right eye spherical image, information about the size of the first coordinate system For example, a radius) and the like can be stored. In the header part of the image file of the right eye spherical image, information that the image stored in the image file is the right eye spherical image, file name and position information of the image file of the corresponding left eyeball image, information on the size of the second coordinate system Radius) and the like can be stored.
데이터 저장부(160)는 이와 같이 생성된 영상 파일을 저장한다. 또한 도 1에는 도시되지 않았지만, 본 발명의 일 실시예에 따른 삼차원 영상 생성 장치(100)는, 영상 파일을 생성하기 위한 영상 파일 생성부(미도시)를 더 포함할 수 있다.The data storage unit 160 stores the generated image file. Although not shown in FIG. 1, the
도 8은 본 발명의 일 실시예에 따른 삼차원 영상 생성 방법을 나타낸 흐름도이다.8 is a flowchart illustrating a method of generating a three-dimensional image according to an exemplary embodiment of the present invention.
본 실시예에 따른 삼차원 영상 생성 방법은, 좌안 영상과 우안 영상을 포함하는 복수의 캡쳐 영상을 연속 촬영하면서, 복수의 캡쳐 영상 각각에 대응되는 방향 정보를 획득한다(S702). In the three-dimensional image generation method according to the present embodiment, direction information corresponding to each of a plurality of captured images is acquired while continuously capturing a plurality of captured images including a left eye image and a right eye image (S702).
다음으로, 제1 구형 좌표계에 복수의 좌안 영상을 배치하여 좌안 구형 영상을 생성하고, 제2 구형 좌표계에 복수의 우안 영상을 배치하여 우안 구형 영상을 생성한다(S704). 이때, 상기 방향 정보를 이용하여 복수의 좌안 영상을 제1 구형 좌표계에 배치하고, 복수의 우안 영상을 제2 구형 좌표계에 배치한다.Next, a left eyeball image is generated by arranging a plurality of left eye images in the first rectangular coordinate system, and a right eyeball image is generated by arranging a plurality of right eye images in the second rectangular coordinate system (S704). At this time, a plurality of left eye images are arranged in a first rectangular coordinate system using the direction information, and a plurality of right eye images are arranged in a second rectangular coordinate system.
다음으로 좌안 구형 영상과 우안 구형 영상이 저장된다(S706). 이때, 좌안 구형 영상과 각 픽셀의 제1 구형 좌표계의 좌표 값이 함께 저장되고, 우안 구형 영상과 각 픽셀의 제2 구형 좌표계의 좌표 값이 함께 저장된다. 일 실시예로서, 좌안 구형 영상과 우안 구형 영상은 하나의 영상 파일에 함께 저장될 수 있다. 다른 실시예로서 좌안 구형 영상과 우안 구형 영상은 서로 다른 영상 파일에 각각 저장될 수 있다. Next, the left-eye spherical image and the right-sphere spherical image are stored (S706). At this time, coordinate values of the left eyeball image and the first rectangular coordinate system of each pixel are stored together, and the coordinate values of the right eyeball image and the second rectangular coordinate system of each pixel are stored together. In one embodiment, the left-eye spherical image and the right-eye spherical image may be stored together in one image file. In another embodiment, the left-eye spherical image and the right-eye spherical image may be stored in different image files, respectively.
도 9는 본 발명의 다른 실시예에 따른 삼차원 영상 재생 장치(800a)의 구성을 나타낸 도면이다. 본 실시예에 따른 삼차원 영상 재생 장치(800a)는 데이터 저장부(810), 재생 방향 결정부(820), 재생 영역 결정부(830a), 평면 삼차원 영상 생성부(840), 및 재생부(850)를 포함한다.9 is a diagram illustrating a configuration of a three-dimensional
본 실시예에 따른 삼차원 영상 재생 장치(800a)는 구형 좌안 영상과 구형 우안 영상으로 이루어진 삼차원 영상을 재생하는 장치이다. 데이터 저장부(810)는 좌안 구형 영상과 우안 구형 영상을 저장한다. 일 실시예에 따르면, 삼차원 영상은 하나의 영상 파일에 좌안 구형 영상과 우안 구형 영상을 함께 저장될 수 있다. 이러한 경우, 해당 영상 파일의 헤더부에, 해당 영상 파일에 저장된 영상이 구형의 삼차원 영상이라는 정보, 제1 좌표계 및 제2 좌표계의 크기에 대한 정보(예를 들면 반경) 등이 저장될 수 있다. 다른 실시예로서 좌안 구형 영상과 우안 구형 영상은 별개의 영상 파일로 각각 저장될 수 있다. 이러한 경우, 좌안 구형 영상의 영상 파일의 헤더부에는, 해당 영상 파일에 저장된 영상이 좌안 구형 영상이라는 정보, 대응되는 우안 구형 영상의 영상 파일의 파일명 및 위치 정보, 제1 좌표계의 크기에 대한 정보(예를 들면 반경) 등이 저장될 수 있다. 우안 구형 영상의 영상 파일의 헤더부에는, 해당 영상 파일에 저장된 영상이 우안 구형 영상이라는 정보, 대응되는 좌안 구형 영상의 영상 파일의 파일명 및 위치 정보, 제2 좌표계의 크기에 대한 정보(예를 들면 반경) 등이 저장될 수 있다.The three-dimensional
본 실시예에 따른 삼차원 영상 재생 장치(800a)는, 삼차원 영상 재생 장치(800a)에 구비된 기울기 센서의 방향 정보, 또는 삼차원 영상 재생 장치(800a)와 통신하는 제어 장치의 기울기 정보를 입력 받아, 삼차원 영상을 재생할 수 있다.The three-dimensional
도 10은 본 발명의 일 실시예 따른 삼차원 영상 재생 장치(800b)를 나타낸 도면이다. 본 실시예에 따르면, 삼차원 영상 재생 장치(800b)는 기울기 센서를 구비하여, 기울기 정보를 획득하고, 획득된 기울기 정보를 이용하여 삼차원 영상을 재생할 수 있다. 이러한 실시예에서는 기울기 정보를 검출하는 제어 장치와 삼차원 영상 재생 장치(800b)가 일체로 형성된다.10 is a diagram illustrating a three-dimensional
도 11은 본 발명의 다른 실시예에 따른 삼차원 영상 재생 장치(800c)를 나타낸 도면이다. 본 실시예에 따르면, 삼차원 영상 재생 장치(800c)는 삼차원 영상 재생 장치(800c)와 통신하는 제어 장치(1000)로부터 기울기 정보를 수신 받을 수 있다. 제어 장치(1000)는 기울기 센서, 자이로 센서, 지자기 센서, 가속도 센서 등을 포함하여, 기울기를 검출할 수 있다. 사용자는 제어 장치(1000)의 기울기를 조절하여, 구형 삼차원 영상의 원하는 방향의 영상을 재생할 수 있다.11 is a diagram illustrating a three-dimensional
재생 방향 결정부(820)는 삼차원 영상 재생 장치(800a)에서 검출된 기울기에 따라 재생 재생 방향 정보를 결정한다. 기울기는 앞서 설명한 바와 같이, 삼차원 영상 재생 장치(800b)에 구비된 기울기 센서로부터 검출되거나, 삼차원 영상 재생 장치(800c)와 통신하고 기울기를 검출할 수 있는 제어 장치(1000)로부터 수신 받을 수 있다. The reproduction
재생 방향 정보는 검출된 기울기를 제1 구형 좌표계 및 제2 구형 좌표계의 좌표로 변환하여 생성될 수 있다.The reproduction direction information can be generated by transforming the detected gradient into coordinates of the first rectangular coordinate system and the second rectangular coordinate system.
재생 영역 결정부(830a)는 상기 재생 방향 정보에 대응하는 재생 영역을 결정한다. 평면 삼차원 영상 생성부(840)는 좌안 구형 영상 및 우안 구형 영상으로부터, 상기 재생 영역에 대응하는 평면 삼차원 영상을 생성한다.The reproduction
도 12는 본 발명의 일 실시예에 따라, 재생 영역을 결정하고, 평면 삼차원 영상을 생성하는 과정을 설명하기 위한 도면이다. 이하, 좌안 구형 영상으로부터 좌안 평면 삼차원 영상을 생성하는 과정을 예로 들어 설명한다.FIG. 12 is a diagram for explaining a process of determining a reproduction region and generating a plane three-dimensional image according to an embodiment of the present invention. Hereinafter, a process of generating a left-eye 3D image from a left-eye spherical image will be described as an example.
재생 방향 정보(r1, θ1, ρ1)가 결정되면, 재생 영역 결정부(830a)는 재생 방향 정보(r1, θ1, ρ1)에 대응하는 좌안 구형 영상의 픽셀을 검출하고, 그 픽셀을 중심으로 소정 영역 내에 있는 픽셀들을 재생 영역으로 결정한다. 상기 소정 영역은 미리 결정된 크기의 영역으로 결정되거나, 설정된 해상도에 따라 결정되는 등 다양한 실시예에 따라 결정될 수 있다.When the playback direction information (r 1, θ 1, ρ 1) is determined, and playback sub-area determining unit (830a) detects a pixel of the left-eye rectangular image corresponding to the reproduction direction of the information (r 1, θ 1, ρ 1) , And determines the pixels within the predetermined region around the pixel as the reproduction region. The predetermined area may be determined according to various embodiments, for example, the area may be determined as a predetermined area or may be determined according to the set resolution.
평면 삼차원 영상 생성부(840)는 좌안 구형 영상으로부터 재생 영역에 대응하는 픽셀들의 픽셀 값을 추출하고, 구형의 영상을 평면화시켜 좌안 평면 삼차원 영상(1110)을 생성한다. 구형의 영상을 평면에 배치하면, 가장자리 부분이 곡선으로 표현되고, 평면화 과정에서 영상의 왜곡이 발생하는데, 평면 삼차원 영상 생성부(840)는 구형의 영상을 평면에 배치한 후, 가장자리 부분을 직선화하고, 영상의 왜곡을 보정하여 좌안 평면 삼차원 영상(1110)을 생성할 수 있다.The plane 3D
좌안 평면 삼차원 영상(1110)을 생성하는 과정과 유사하게, 재생 영역 결정부(830a)는 우안 구형 영상에서 재생 방향 정보에 대응하는 재생 영역을 결정할 수 있다. 또한, 평면 삼차원 영상 생성부(840)는 상기 우안 구형 영상으로부터, 상기 재생 영역에 대응하는 우안 평면 삼차원 영상을 생성할 수 있다.Similar to the process of generating the left-eye
평면 삼차원 영상 생성부(840)는 좌안 평면 삼차원 영상 및 우안 평면 삼차원 영상을 포함하는 평면 삼차원 영상을 재생부(850)로 출력한다.The planar three-
재생부(850)는 좌안 평면 삼차원 영상과 우안 평면 삼차원 영상을 포함하는 평면 삼차원 영상을 재생한다. 재생부(850)는 서로 대응되는 좌안 평면 삼차원 영상과 우안 평면 삼차원 영상을 순차적으로 재생하여, 평면 삼차원 영상을 재생할 수 있다.The reproducing
도 13은 본 발명의 다른 실시예에 따른 삼차원 영상 재생 방법을 나타낸 흐름도이다.13 is a flowchart illustrating a three-dimensional image reproducing method according to another embodiment of the present invention.
본 실시예에 따른 삼차원 영상 재생 방법은 우선 서로 대응되는 좌안 구형 영상과 우안 구형 영상을 로딩한다(S1202). 다음으로 삼차원 영상 재생 장치(800a) 또는 제어 장치(1000)의 기울기가 검출되고(S1204), 검출된 기울기로부터 재생 방향 정보가 결정된다(S1206). 재생 방향 정보는 제1 좌표계의 좌표 정보와 제2 좌표계의 좌표 정보로 표현된다.In the three-dimensional image reproducing method according to the present embodiment, the left-eye spherical image and the right-eye spherical image corresponding to each other are loaded (S1202). Next, the tilt of the three-dimensional
재생 방향 정보가 결정되면, 재생 방향 정보에 대응되는 재생 영역이 결정된다(S1208). 재생 영역은 좌안 구형 영상 및 우안 구형 영상 상에서 결정될 수 있다. 재생 영역은 상기 재생 방향 정보에 대응하는 픽셀을 중심으로 소정 영역 내의 픽셀들을 포함하도록 결정될 수 있다.When the reproduction direction information is determined, a reproduction area corresponding to the reproduction direction information is determined (S1208). The reproduction region can be determined on the left eye spherical image and the right eye spherical image. The reproduction area may be determined to include pixels within a predetermined area around a pixel corresponding to the reproduction direction information.
다음으로, 좌안 구형 영상 및 우안 구형 영상으로부터, 상기 재생 영역에 대응하는 픽셀들의 픽셀 값을 추출하고, 추출된 픽셀 값들을 이용하여 평면 삼차원 영상이 생성된다(S1210). 좌안 구형 영상 및 우안 구형 영상으로부터 추출된 픽셀 값들은, 평면에 배치되고, 평면화 과정에서 발생한 왜곡이 보정되고, 가장자리를 직선화하여 좌안 평면 삼차원 영상 및 우안 평면 삼차원 영상으로 변환될 수 있다(S1210). Next, a pixel value of pixels corresponding to the reproduction area is extracted from the left-eye spherical image and the right-eye spherical image, and a plane three-dimensional image is generated using the extracted pixel values (S1210). The pixel values extracted from the left eyeball image and the right eyeball image are arranged in a plane, the distortion generated in the flattening process is corrected, the edge can be linearized, and converted into a left eye plane 3D image and a right eye 3D image at step S1210.
다음으로 좌안 평면 삼차원 영상 및 우안 평면 삼차원 영상을 순차적으로 재생하여, 평면 삼차원 영상을 재생한다(S1212).Next, the left three-dimensional plane image and the right-eye plane three-dimensional image are sequentially reproduced, and a three-dimensional plane image is reproduced (S1212).
도 14는 본 발명의 다른 실시예에 따른 삼차원 영상 재생 장치(800d)의 구조를 나타낸 도면이다. 본 실시예에 따른 삼차원 영상 재생 장치(800d)는 데이터 저장부(810), 재생 방향 결정부(820), 영상 크기 결정부(1310), 재생 영역 결정부(830b), 평면 삼차원 영상 생성부(840), 및 재생부(850)를 포함한다.FIG. 14 is a diagram showing the structure of a three-dimensional
데이터 저장부(810)는 좌안 구형 영상과 우안 구형 영상을 포함하는 삼차원 영상을 저장한다.The
재생 방향 결정부(820)는 삼차원 영상 재생 장치(800d)에서 검출된 기울기에 따라 재생 방향 정보를 결정한다.The reproduction
영상 크기 결정부(1310)는 삼차원 영상 재생 장치(800d) 또는 제어 장치(1000)의 이동에 따라 상기 평면 삼차원 영상의 크기를 결정한다.The image
일 실시예에 따르면 도 10에 도시된 바와 같이 삼차원 영상 재생 장치(800d)에서 기울기를 검출하는 경우, 영상 크기 결정부(1310)는 삼차원 영상 재생 장치(800d)의 이동이 검출된 경우, 평면 삼차원 영상의 크기를 확대하거나 축소할 수 있다. 다른 실시예에 따르면, 도 11에 도시된 바와 같이 제어 장치(1000)에서 기울기를 검출하는 경우, 영상 크기 결정부(1310)는 제어 장치(1000)의 이동이 검출된 경우, 평면 삼차원 영상의 크기를 확대하거나 축소할 수 있다. 예를 들면, 사용자는 삼차원 영상 재생 장치(800d) 또는 제어 장치(1000)의 화면을 본 상태에서, 삼차원 영상 재생 장치(800d) 또는 제어 장치(1000)를 장치의 배면이 향하는 방향으로 이동시켜 평면 삼차원 영상의 크기를 확대하고, 장치의 정면이 향하는 방향으로 이동시켜 평면 삼차원 영상의 크기를 축소할 수 있다.According to an exemplary embodiment, when detecting the tilt in the three-dimensional
재생 영역 결정부(830b)는 재생 방향 결정부(820)에서 결정된 상기 재생 방향 정보와, 영상 크기 결정부(1310)에서 결정된 평면 삼차원 영상의 크기 정보에 따라, 좌안 구형 영상 및 우안 구형 영상에서 재생 영역을 결정한다. 앞서 설명한 바와 같이, 재생 영역 결정부(830b)는 재생 방향 정보(r1, θ1, ρ1)에 대응하는 좌안 구형 영상의 픽셀을 검출하고, 그 픽셀을 중심으로 소정 영역 내에 있는 픽셀들을 재생 영역으로 결정한다. 상기 소정 영역은 영상 크기 결정부(1310)에서 결정된 평면 삼차원 영상의 크기 정보에 따라 결정된다.The reproduction
도 15는 본 발명의 다른 실시예에 따라 재생 영역을 결정하는 과정을 설명하기 위한 도면이다.15 is a diagram for explaining a process of determining a reproduction area according to another embodiment of the present invention.
도 15에 도시된 바와 같이, 재생 방향 정보(r1, θ1, ρ1)에 따라 재생 영역의 중심점이 결정된다. 다음으로 평면 삼차원 영상의 크기 정보에 따라 좌안 평면 삼차원 영상 또는 우안 평면 삼차원 영상의 크기가 결정된다. 예를 들면, 평면 삼차원 영상의 크기 정보는 중심점으로부터 꼭지점까지의 거리(d1 또는 d2)로 결정될 수 있다. 만약 평면 삼차원 영상의 크기 정보가 d1인 경우, IMAGE 4로 재생 영역이 결정되고, 평면 삼차원 영상의 크기 정보가 d2인 경우, IMAGE 5로 재생 영역이 결정된다.As shown in Figure 15, the center point of the play area is determined in accordance with the reproduction direction information (r 1, θ 1, ρ 1). Next, the size of the left eye plane 3D image or the right eye plane 3D image is determined according to the size information of the 3D 3D image. For example, the size information of the planar three-dimensional image can be determined by the distance (d 1 or d 2 ) from the center point to the vertex. If the size information of the plane 3D image is d 1 , the reproduction area is determined by
평면 삼차원 영상 생성부(840)는 좌안 구형 영상 및 우안 구형 영상으로부터, 상기 재생 영역에 대응하는 평면 삼차원 영상을 생성한다.The plane three-dimensional
재생부(850)는 좌안 평면 삼차원 영상과 우안 평면 삼차원 영상을 포함하는 평면 삼차원 영상을 재생한다. 재생부(850)는 서로 대응되는 좌안 평면 삼차원 영상과 우안 평면 삼차원 영상을 순차적으로 재생하여, 평면 삼차원 영상을 재생할 수 있다.The reproducing
한편, 본 발명은 컴퓨터 판독가능 저장매체에 컴퓨터가 판독 가능한 코드를 저장하여 구현하는 것이 가능하다. 상기 컴퓨터 판독가능 저장매체는 컴퓨터 시스템에 의하여 판독될 수 있는 데이터가 저장되는 모든 종류의 저장 장치를 포함한다.Meanwhile, the present invention can be realized by storing computer-readable codes in a computer-readable storage medium. The computer-readable storage medium includes all kinds of storage devices in which data that can be read by a computer system is stored.
상기 컴퓨터가 판독 가능한 코드는, 상기 컴퓨터 판독가능 저장매체로부터 프로세서에 의하여 독출되어 실행될 때, 본 발명에 따른 삼차원 영상 생성 방법 또는 삼차원 영상 재생 방법을 구현하는 단계들을 수행하도록 구성된다. 상기 컴퓨터가 판독 가능한 코드는 다양한 프로그래밍 언어들로 구현될 수 있다. 그리고 본 발명의 실시예들을 구현하기 위한 기능적인(functional) 프로그램, 코드 및 코드 세그먼트들은 본 발명이 속하는 기술분야의 통상의 기술자들에 의하여 용이하게 프로그래밍될 수 있다. The computer-readable code is configured to perform the steps of implementing the three-dimensional image generation method or the three-dimensional image reproduction method according to the present invention when read from and executed by a processor from the computer-readable storage medium. The computer readable code may be implemented in a variety of programming languages. And functional programs, codes, and code segments for implementing embodiments of the present invention may be readily programmed by those skilled in the art to which the present invention pertains.
컴퓨터 판독가능 저장매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장장치 등이 있으며, 또한 반송파(예를 들어 인터넷을 통한 전송)의 형태로 구현하는 것을 포함한다. 또한, 컴퓨터 판독가능 저장매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산 방식으로 컴퓨터가 판독 가능한 코드가 저장되고 실행되는 것도 가능하다.Examples of computer-readable storage media include ROM, RAM, CD-ROM, magnetic tape, floppy disk, optical data storage, and the like, as well as implementations in the form of carrier waves (e.g., transmission over the Internet). In addition, the computer-readable storage medium may be distributed over a networked computer system so that computer readable code is stored and executed in a distributed fashion.
이제까지 본 발명에 대하여 바람직한 실시예를 중심으로 살펴보았다. 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자는 본 발명의 본질적인 특성에서 벗어나지 않는 범위에서 변형된 형태로 본 발명을 구현할 수 있음을 이해할 것이다. 그러므로 상기 개시된 실시예들은 한정적인 관점이 아니라 설명적인 관점에서 고려되어야 한다. 본 발명의 범위는 전술한 설명이 아니라 특허청구범위에 나타나 있으며, 특허청구범위에 의해 청구된 발명 및 청구된 발명과 균등한 발명들은 본 발명에 포함된 것으로 해석되어야 한다.
The present invention has been described above with reference to preferred embodiments. It will be understood by those skilled in the art that the present invention may be embodied in various other forms without departing from the spirit or essential characteristics thereof. Therefore, the above-described embodiments should be considered in an illustrative rather than a restrictive sense. The scope of the present invention is defined by the appended claims rather than by the foregoing description, and the inventions claimed by the claims and the inventions equivalent to the claimed invention are to be construed as being included in the present invention.
Claims (20)
상기 복수의 캡쳐 영상들의 방향 정보를 이용하여, 상기 복수의 캡쳐 영상들의 좌안 영상들을 제1 구형 좌표계에 배치하여 좌안 구형 영상을 생성하고, 상기 복수의 캡쳐 영상들의 상기 우안 영상들을 제2 구형 좌표계에 배치하여 우안 구형 영상을 생성하는 단계; 및
상기 좌안 구형 영상과 상기 우안 구형 영상을 저장하는 단계를 포함하는 삼차원 영상 생성 방법.Acquiring a plurality of captured images including a left eye image and a right eye image, and direction information at the time of shooting for each of the plurality of captured images;
Eye images of the plurality of captured images are arranged in a first rectangular coordinate system to generate a left-eyeball image using the direction information of the plurality of captured images, and the right-eye images of the plurality of captured images are arranged in a second rectangular coordinate system Creating a right eye spherical image; And
And storing the left-eye spherical image and the right-eye spherical image.
상기 제1 구형 좌표계에 배치된 상기 복수의 캡쳐 영상들의 좌안 영상들을 스티칭(stitching)하여, 상기 좌안 구형 영상을 생성하는 단계; 및
상기 제2 구형 좌표계에 배치된 상기 복수의 캡쳐 영상들의 우안 영상들을 스티칭하여, 상기 우안 구형 영상을 생성하는 단계를 더 포함하는 삼차원 영상 생성 방법.The method according to claim 1,
Stitching left eye images of the plurality of captured images arranged in the first rectangular coordinate system to generate the left eyeball image; And
Further comprising stitching right eye images of the plurality of captured images arranged in the second spherical coordinate system to generate the right eye spherical image.
상기 좌안 구형 영상을 생성하는 단계는, 상기 복수의 캡쳐 영상들의 상기 좌안 영상과 상기 우안 영상의 매칭 결과에 따라, 스티칭할 좌안 영상들을 결정하고,
상기 우안 구형 영상을 생성하는 단계는, 상기 복수의 캡쳐 영상들의 상기 좌안 영상과 상기 우안 영상의 매칭 결과에 따라, 스티칭할 우안 영상들을 결정하는, 삼차원 영상 생성 방법.3. The method of claim 2,
Wherein the generating of the left eyeball image comprises: determining left eye images to be stitched according to a matching result of the left eye image and the right eye image of the plurality of captured images,
Wherein the step of generating the right eyeball image determines right eye images to be stitched according to a matching result of the left eye image and the right eye image of the plurality of captured images.
상기 좌안 구형 영상과, 상기 좌안 구형 영상의 각 픽셀에 대한 제1 구형 좌표계의 좌표 값을 함께 저장하는 단계; 및
상기 우안 구형 영상과, 상기 우안 구형 영상의 각 픽셀에 대한 제2 구형 좌표계의 좌표 값을 함께 저장하는 단계를 포함하는, 삼차원 영상 생성 방법.2. The method of claim 1,
Storing the coordinate values of the first rectangular coordinate system for each pixel of the left eyeball image and the left eyeball image together; And
And storing coordinate values of the second spherical coordinate system for each pixel of the right-eye spherical image and the right-eye spherical image together.
제어 장치의 기울기를 검출하는 단계;
상기 검출된 기울기에 따라, 재생 방향 정보를 결정하는 단계;
상기 재생 방향 정보에 대응하는 재생 영역을 결정하는 단계;
상기 좌안 구형 영상 및 상기 우안 구형 영상으로부터 상기 재생 영역에 대응하는 평면 삼차원 영상을 생성하는 단계; 및
상기 평면 삼차원 영상을 재생하는 단계를 포함하는 삼차원 영상 재생 방법.Loading a left eyeball image in which pixels are arranged in a first rectangular coordinate system and a right eyeball image in which pixels are arranged in a second rectangular coordinate system;
Detecting a tilt of the control device;
Determining reproduction direction information according to the detected inclination;
Determining a reproduction area corresponding to the reproduction direction information;
Generating a planar three-dimensional image corresponding to the reproduction region from the left-eye spherical image and the right-eye spherical image; And
And reproducing the three-dimensional image.
상기 제어 장치의 이동에 따라 상기 평면 삼차원 영상의 크기를 결정하는 단계를 더 포함하는 삼차원 영상 재생 방법.6. The method of claim 5,
Further comprising the step of determining the size of the planar three-dimensional image according to the movement of the controller.
상기 좌안 구형 영상과 상기 우안 구형 영상의 상기 재생 영역의 픽셀 값을 평면 상에 배치하여 평면 좌안 영상 및 평면 우안 영상을 생성하는 단계를 포함하고,
상기 평면 삼차원 영상을 재생하는 단계는, 상기 평면 좌안 영상 및 상기 평면 우안 영상을 번갈아서 재생하는, 삼차원 영상 재생 방법.6. The method of claim 5, wherein the generating the plane 3D image comprises:
And generating a planar left eye image and a planar right eye image by arranging pixel values of the reproduction area of the left eyeball image and the right eye spherical image on a plane,
Wherein the step of reproducing the planar three-dimensional image alternately reproduces the planar left-eye image and the planar right-eye image.
상기 제1 광학계 및 상기 제2 광학계를 통과한 입사광을 광전 변환하는 적어도 하나의 촬상 소자;
상기 제1 광학계, 상기 제2 광학계, 및 상기 촬상 소자를 이용하여, 좌안 영상과 우안 영상을 포함하는 복수의 캡쳐 영상들을 생성하는 영상 획득부;
상기 복수의 캡쳐 영상들 각각에 대한 촬영 시의 방향 정보를 획득하는 방향 정보 획득부;
상기 복수의 캡쳐 영상들의 방향 정보를 이용하여, 상기 복수의 캡쳐 영상들을 제1 구형 좌표계에 배치하여 좌안 구형 영상을 생성하고, 상기 복수의 캡쳐 영상들의 상기 우안 영상들을 제2 구형 좌표계에 배치하여 우안 구형 영상을 생성하는 구형 영상 생성부; 및
상기 좌안 구형 영상과 상기 우안 구형 영상을 저장하는 데이터 저장부를 포함하는 삼차원 영상 생성 장치.A first optical system and a second optical system for condensing incident light;
At least one imaging element for photoelectrically converting incident light passing through the first optical system and the second optical system;
An image acquiring unit that generates a plurality of captured images including a left eye image and a right eye image using the first optical system, the second optical system, and the image pickup element;
A direction information obtaining unit for obtaining direction information at the time of shooting for each of the plurality of captured images;
A left eyeball image is generated by arranging the plurality of captured images in a first spherical coordinate system using orientation information of the plurality of captured images, and the right eye images of the plurality of captured images are arranged in a second spherical coordinate system, A spherical image generator for generating spherical images; And
And a data storage unit for storing the left-eye spherical image and the right-eye spherical image.
상기 제1 구형 좌표계에 배치된 상기 복수의 캡쳐 영상들의 좌안 영상들을 스티칭(stitching)하여, 상기 좌안 구형 영상을 생성하는 좌안 구형 영상 생성부; 및
상기 제2 구형 좌표계에 배치된 상기 복수의 캡쳐 영상들의 우안 영상들을 스티칭하여, 상기 우안 구형 영상을 생성하는 우안 구형 영상 생성부를 포함하는, 삼차원 영상 생성 장치.9. The apparatus of claim 8, wherein the spherical image generator comprises:
A left eyeball image generating unit for stitching left eye images of the plurality of captured images arranged in the first rectangular coordinate system to generate the left eyeball image; And
And a right eyeball image generating unit for stitching right eye images of the plurality of captured images arranged in the second spherical coordinate system to generate the right eye spherical image.
상기 좌안 구형 영상 생성부는, 상기 복수의 캡쳐 영상들의 상기 좌안 영상과 상기 우안 영상의 매칭 결과에 따라, 스티칭할 좌안 영상들을 결정하고,
상기 우안 구형 영상 생성부는, 상기 복수의 캡쳐 영상들의 상기 좌안 영상과 상기 우안 영상의 매칭 결과에 따라, 스티칭할 우안 영상들을 결정하는, 삼차원 영상 생성 장치.10. The method of claim 9,
Wherein the left eyeball image generating unit determines left eye images to be stitched according to a matching result of the left eye image and the right eye image of the plurality of captured images,
Wherein the right eyeball image generating unit determines right eye images to be stitched according to a matching result of the left eye image and the right eye image of the plurality of captured images.
상기 데이터 저장부는,
상기 좌안 구형 영상과, 상기 좌안 구형 영상의 각 픽셀에 대한 제1 구형 좌표계의 좌표 값을 함께 저장하고,
상기 우안 구형 영상과, 상기 우안 구형 영상의 각 픽셀에 대한 제2 구형 좌표계의 좌표 값을 함께 저장하는, 삼차원 영상 생성 장치.9. The method of claim 8,
The data storage unit stores,
Storing the coordinate values of the first rectangular coordinate system for each pixel of the left eyeball image and the left eyeball image together,
And stores coordinate values of the right-eye spherical image and the second rectangular coordinate system for each pixel of the right-eye spherical image together.
제어 장치의 기울기를 검출하여, 상기 검출된 기울기에 따라 재생 방향 정보를 결정하는 재생 방향 결정부;
상기 재생 방향 정보에 대응하는 재생 영역을 결정하는 재생 영역 결정부;
상기 좌안 구형 영상 및 상기 우안 구형 영상으로부터 상기 재생 영역에 대응하는 평면 삼차원 영상을 생성하는 평면 삼차원 영상 생성부; 및
상기 평면 삼차원 영상을 재생하는 재생부를 포함하는 삼차원 영상 재생 장치.A data storage unit for storing a left eyeball image in which pixels are arranged in a first rectangular coordinate system and a right eyeball image in which pixels are arranged in a second rectangular coordinate system;
A playback direction determination unit for detecting a tilt of the control device and determining playback direction information according to the detected tilt;
A reproduction area determination unit that determines a reproduction area corresponding to the reproduction direction information;
A planar three-dimensional image generation unit for generating a planar three-dimensional image corresponding to the reproduction area from the left-eyeball image and the right-eyeball image; And
And a reproducing unit for reproducing the plane 3D image.
상기 평면 삼차원 영상 생성부는, 상기 좌안 구형 영상과 상기 우안 구형 영상의 상기 재생 영역의 픽셀 값을 평면 상에 배치하여 평면 좌안 영상 및 평면 우안 영상을 생성하고,
상기 재생부는, 상기 평면 좌안 영상 및 상기 평면 우안 영상을 번갈아서 재생하는, 삼차원 영상 재생 장치.13. The method of claim 12,
Wherein the planar three-dimensional image generation unit generates a planar left eye image and a planar right eye image by arranging pixel values of the reproduction area of the left eyeball image and the right eyeball image on a plane,
Wherein the reproducing unit alternately reproduces the planar left eye image and the planar right eye image.
좌안 영상과 우안 영상을 포함하는 복수의 캡쳐 영상, 및 상기 복수의 캡쳐 영상들 각각에 대한 촬영 시의 방향 정보를 획득하는 단계;
상기 복수의 캡쳐 영상들의 방향 정보를 이용하여, 상기 복수의 캡쳐 영상들의 좌안 영상들을 제1 구형 좌표계에 배치하여 좌안 구형 영상을 생성하고, 상기 복수의 캡쳐 영상들의 상기 우안 영상들을 제2 구형 좌표계에 배치하여 우안 구형 영상을 생성하는 단계; 및
상기 좌안 구형 영상과 상기 우안 구형 영상을 저장하는 단계를 포함하는, 컴퓨터 판독가능 기록매체.A computer-readable recording medium storing computer program codes for performing a three-dimensional image generation method when executed by a processor, the method comprising:
Acquiring a plurality of captured images including a left eye image and a right eye image, and direction information at the time of shooting for each of the plurality of captured images;
Eye images of the plurality of captured images are arranged in a first rectangular coordinate system to generate a left-eyeball image using the direction information of the plurality of captured images, and the right-eye images of the plurality of captured images are arranged in a second rectangular coordinate system Creating a right eye spherical image; And
And storing the left-eye spherical image and the right-eye spherical image.
상기 제1 구형 좌표계에 배치된 상기 복수의 캡쳐 영상들의 좌안 영상들을 스티칭(stitching)하여, 상기 좌안 구형 영상을 생성하는 단계; 및
상기 제2 구형 좌표계에 배치된 상기 복수의 캡쳐 영상들의 우안 영상들을 스티칭하여, 상기 우안 구형 영상을 생성하는 단계를 더 포함하는, 컴퓨터 판독가능 기록매체.16. The method of claim 15, wherein the three-
Stitching left eye images of the plurality of captured images arranged in the first rectangular coordinate system to generate the left eyeball image; And
Stitching right eye images of the plurality of captured images arranged in the second spherical coordinate system to generate the right eye spherical image.
상기 좌안 구형 영상과, 상기 좌안 구형 영상의 각 픽셀에 대한 제1 구형 좌표계의 좌표 값을 함께 저장하는 단계; 및
상기 우안 구형 영상과, 상기 우안 구형 영상의 각 픽셀에 대한 제2 구형 좌표계의 좌표 값을 함께 저장하는 단계를 포함하는, 컴퓨터 판독가능 기록매체.16. The method of claim 15,
Storing the coordinate values of the first rectangular coordinate system for each pixel of the left eyeball image and the left eyeball image together; And
And storing the right eye spherical image and the coordinate values of the second spherical coordinate system for each pixel of the right eye spherical image together.
제1 구형 좌표계에 각 픽셀들이 배치된 좌안 구형 영상, 및 제2 구형 좌표계에 각 픽셀들이 배치된 우안 구형 영상을 로딩하는 단계;
제어 장치의 기울기를 검출하는 단계;
상기 검출된 기울기에 따라, 재생 방향 정보를 결정하는 단계;
상기 재생 방향 정보에 대응하는 재생 영역을 결정하는 단계;
상기 좌안 구형 영상 및 상기 우안 구형 영상의 상기 재생 영역의 픽셀 값을 이용하여, 평면 삼차원 영상을 생성하는 단계; 및
상기 평면 삼차원 영상을 재생하는 단계를 포함하는, 컴퓨터 판독가능 기록매체.A computer-readable recording medium storing computer program codes for performing a three-dimensional image reproducing method when read and executed by a processor, the method comprising:
Loading a left eyeball image in which pixels are arranged in a first rectangular coordinate system and a right eyeball image in which pixels are arranged in a second rectangular coordinate system;
Detecting a tilt of the control device;
Determining reproduction direction information according to the detected inclination;
Determining a reproduction area corresponding to the reproduction direction information;
Generating a plane 3D image using pixel values of the reproduction area of the left eyeball image and the right eyeball image; And
And reproducing the plane three-dimensional image.
상기 제어 장치의 이동에 따라 상기 평면 삼차원 영상의 크기를 결정하는 단계를 더 포함하는, 컴퓨터 판독가능 기록매체.19. The method of claim 18, wherein the three-
And determining the size of the planar three-dimensional image according to the movement of the control device.
상기 좌안 구형 영상과 상기 우안 구형 영상의 상기 재생 영역의 픽셀 값을 평면상에 배치하여 평면 좌안 영상 및 평면 우안 영상을 생성하는 단계를 포함하고,
상기 평면 삼차원 영상을 재생하는 단계는, 상기 평면 좌안 영상 및 상기 평면 우안 영상을 번갈아서 재생하는, 컴퓨터 판독가능 기록매체.
19. The method of claim 18, wherein generating the planar three-
And generating a planar left eye image and a planar right eye image by arranging pixel values of the reproduction area of the left eyeball image and the right eye spherical image on a plane,
Wherein the step of reproducing the planar three-dimensional image alternately reproduces the planar left-eye image and the planar right-eye image.
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020130076615A KR102082300B1 (en) | 2013-07-01 | 2013-07-01 | Apparatus and method for generating or reproducing three-dimensional image |
EP14150495.1A EP2821969A1 (en) | 2013-07-01 | 2014-01-08 | Apparatus and method for generating or displaying three-dimensional image |
US14/155,783 US20150002641A1 (en) | 2013-07-01 | 2014-01-15 | Apparatus and method for generating or displaying three-dimensional image |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020130076615A KR102082300B1 (en) | 2013-07-01 | 2013-07-01 | Apparatus and method for generating or reproducing three-dimensional image |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20150003576A true KR20150003576A (en) | 2015-01-09 |
KR102082300B1 KR102082300B1 (en) | 2020-02-27 |
Family
ID=50028753
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020130076615A KR102082300B1 (en) | 2013-07-01 | 2013-07-01 | Apparatus and method for generating or reproducing three-dimensional image |
Country Status (3)
Country | Link |
---|---|
US (1) | US20150002641A1 (en) |
EP (1) | EP2821969A1 (en) |
KR (1) | KR102082300B1 (en) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101639275B1 (en) * | 2015-02-17 | 2016-07-14 | 서울과학기술대학교 산학협력단 | The method of 360 degrees spherical rendering display and auto video analytics using real-time image acquisition cameras |
WO2018074850A1 (en) * | 2016-10-18 | 2018-04-26 | 삼성전자 주식회사 | Image processing apparatus and image processing method therefor |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11205305B2 (en) | 2014-09-22 | 2021-12-21 | Samsung Electronics Company, Ltd. | Presentation of three-dimensional video |
US10750153B2 (en) * | 2014-09-22 | 2020-08-18 | Samsung Electronics Company, Ltd. | Camera system for three-dimensional video |
US10217189B2 (en) * | 2015-09-16 | 2019-02-26 | Google Llc | General spherical capture methods |
US10339627B2 (en) | 2016-10-10 | 2019-07-02 | Gopro, Inc. | Apparatus and methods for the optimal stitch zone calculation of a generated projection of a spherical image |
US11049218B2 (en) | 2017-08-11 | 2021-06-29 | Samsung Electronics Company, Ltd. | Seamless image stitching |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6486908B1 (en) * | 1998-05-27 | 2002-11-26 | Industrial Technology Research Institute | Image-based method and system for building spherical panoramas |
JP2004514951A (en) * | 2000-11-29 | 2004-05-20 | アールヴイシー エルエルシー | Spherical stereoscopic imaging system and method |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8369607B2 (en) * | 2002-03-27 | 2013-02-05 | Sanyo Electric Co., Ltd. | Method and apparatus for processing three-dimensional images |
-
2013
- 2013-07-01 KR KR1020130076615A patent/KR102082300B1/en active IP Right Grant
-
2014
- 2014-01-08 EP EP14150495.1A patent/EP2821969A1/en not_active Withdrawn
- 2014-01-15 US US14/155,783 patent/US20150002641A1/en not_active Abandoned
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6486908B1 (en) * | 1998-05-27 | 2002-11-26 | Industrial Technology Research Institute | Image-based method and system for building spherical panoramas |
JP2004514951A (en) * | 2000-11-29 | 2004-05-20 | アールヴイシー エルエルシー | Spherical stereoscopic imaging system and method |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101639275B1 (en) * | 2015-02-17 | 2016-07-14 | 서울과학기술대학교 산학협력단 | The method of 360 degrees spherical rendering display and auto video analytics using real-time image acquisition cameras |
WO2018074850A1 (en) * | 2016-10-18 | 2018-04-26 | 삼성전자 주식회사 | Image processing apparatus and image processing method therefor |
US11017598B2 (en) | 2016-10-18 | 2021-05-25 | Samsung Electronics Co., Ltd. | Method for processing omni-directional image using padding area and apparatus supporting the same |
Also Published As
Publication number | Publication date |
---|---|
US20150002641A1 (en) | 2015-01-01 |
EP2821969A1 (en) | 2015-01-07 |
KR102082300B1 (en) | 2020-02-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5140210B2 (en) | Imaging apparatus and image processing method | |
JP5414947B2 (en) | Stereo camera | |
JP5320524B1 (en) | Stereo camera | |
US9341935B2 (en) | Image capturing device | |
JP5204350B2 (en) | Imaging apparatus, playback apparatus, and image processing method | |
JP4072674B2 (en) | Image processing apparatus and method, recording medium, and program | |
KR102082300B1 (en) | Apparatus and method for generating or reproducing three-dimensional image | |
JP5204349B2 (en) | Imaging apparatus, playback apparatus, and image processing method | |
JP5814692B2 (en) | Imaging apparatus, control method therefor, and program | |
US10587860B2 (en) | Imaging apparatus and method for controlling same | |
WO2012039306A1 (en) | Image processing device, image capture device, image processing method, and program | |
JP5133472B2 (en) | 3D image output apparatus and 3D image output method | |
JP5614268B2 (en) | Image processing apparatus, image processing method, and program | |
US20130083169A1 (en) | Image capturing apparatus, image processing apparatus, image processing method and program | |
JP5088973B2 (en) | Stereo imaging device and imaging method thereof | |
JP5704885B2 (en) | Imaging device, imaging method, and imaging control program | |
JP2013081105A (en) | Imaging device and control method thereof | |
JP2005072674A (en) | Three-dimensional image generating apparatus and three-dimensional image generating system | |
JPH07296165A (en) | Camera for photographing three-dimensional image | |
JP2012060512A (en) | Multi-eye imaging apparatus and program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
E902 | Notification of reason for refusal | ||
E701 | Decision to grant or registration of patent right |