KR102483078B1 - 입체 영상을 포함하는 배경과 촬영 중 객체 간의 실시간 뎁스 기반 영상 합성 방법, 장치 및 컴퓨터-판독가능 기록매체 - Google Patents

Abstract

뎁스 값에 따라서 배경 영상의 객체와 촬영 중인 객체의 입체적인 상대적 영상 합성이 가능하도록 하여, 실제 현장에서의 촬영과, 크로마키 등을 이용한 배경과 객체 촬영을 통한 영상 합성 시의 장점을 결합할 수 있는 기술을 제공한다. 본 발명의 일 실시예에 따른 입체 영상을 포함하는 배경과 촬영 중 객체 간의 실시간 뎁스 기반 영상 합성 방법은, 다수의 제1 객체별 뎁스 정보인 제1 뎁스 정보가 설정된 입체 영상 기반의 배경 영상을 포함하는 배경 영상인 제1 영상 데이터의 타임 라인인 제1 타임을 로드하는 제1 단계; 일 공간에서 제2 객체를 촬영함에 따라서 실시간 생성되는 제2 영상 데이터에 포함된 타임 라인으로서 유저 단말로부터 세팅된 타임 라인인 제2 타임을 로드하는 제2 단계; 제1 영상 데이터에 포함된 제1 객체별 제1 뎁스 정보를 제1 영상 데이터로부터 로드하는 제3 단계; 유저 단말로부터 세팅된 제2 객체에 대한 뎁스 정보인 제2 뎁스 정보를 제1 뎁스 정보와 비교하여, 제1 영상 데이터에 포함된 제1 객체에 대한 제2 객체의 상대적 뎁스 위치를 결정하는 제4 단계; 및 제1 타임과 제2 타임을 동기화하여 제1 영상 데이터와 제2 영상 데이터의 타임별 프레임 이미지를 일치 정렬하고, 제4 단계에 의하여 결정된 제2 객체와 제1 객체 간의 상대적 뎁스 위치를 기반으로 제2 영상 데이터의 각 프레임 이미지가 제1 영상 데이터의 각 프레임 이미지에 정합된 제3 영상 데이터를 생성하는 제5 단계;를 포함하는 것을 특징으로 한다.

Description

입체 영상을 포함하는 배경과 촬영 중 객체 간의 실시간 뎁스 기반 영상 합성 방법, 장치 및 컴퓨터-판독가능 기록매체{PROVIDING METHOD, APPARATUS AND COMPUTER-READABLE MEDIUM OF A REAL-TIME DEPTH-BASED IMAGE SYNTHESIS BETWEEN A BACKGROUND INCLUDING A STEREOSCOPIC IMAGE AND AN OBJECT DURING SHOOTING}

본 발명은 방송 컨텐츠 등의 영상 촬영 시, 객체에 배경을 합성하여 컨텐츠를 생성하는 기술에 관한 것으로, 구체적으로는, 영상 촬영 중 실시간으로, 객체가 배경의 입체적인 영상에 합성되도록 하되, 객체간의 뎁스에 따라서 실제 객체와 배경 내의 객체 간의 입체적인 합성이 가능하도록 하여, 방송 컨텐츠의 실감도를 높이고 효율적인 방송 컨텐츠 활용이 가능하도록 하기 위한 기술에 관한 것이다.

방송 컨텐츠 등은 실제 현장에서 영상을 촬영하면서, 각 객체 간의 상호 작용이 이루어지는 경우가 많다. 이러한 실제 현장에서의 촬영은 사실감이 극대화되는 장점이 있으나, 현장 세트의 구축에 드는 비용이 과다하고, 현장 세트 구축을 위한 장소가 요구되기 때문에, 사실감이 극대화되는 드라마, 영화 등에서 사용되고 있다.

한편, 크로마키(Chroma Key)는, 객체를 일정한 색상을 갖는 배경에 위치시키고, 해당 영상을 촬영한 후, 배경에 해당하는 영상을 객체에 합성하여 컨텐츠를 제작하는 방식으로서, 일기예보 등의 평면 배경에 아나운서 등의 객체를 위치시키고 촬영하여, 필요한 정보를 배경에 출력하도록 하는 데 사용되어 왔다.

이러한 배경과 객체 간의 영상을 합성하는 기술은 상술한 크로마키 기법이 많이 사용되고 있는데, 최근에는 유튜브 등의 방송 컨텐츠나, 광고 컨텐츠의 촬영 시에도 사용되고 있다. 그러나 상술한 영상 합성 기술은, 객체가 배경 영상의 가장 높은 뎁스(Depth)에 위치될 수 밖에 없고, 객체 간의 뎁스에 따라서 입체적인 영상을 구현할 수 없어, 그 이용성의 한계가 지적되고 있다.

이러한 기술로느느 예를 들어 한국특허출원 제10-2017-0073073호 등에서 게시되어 있는데 최근에는 다양한 영상의 합성이 가능하도록 하기 위해서, 다중 컬러 키를 적용하여 자연스러운 크로마키 합성 영상을 제공할 수 있는 기술을 게시하고 있다.

그러나, 이러한 기술 역시 상술한 바와 같이, 입체적인 배경과 객체의 합성은 불가능한 문제가 있다. 즉 객체가 배경 영상의 어떤 객체보다 뎁스가 깊은 경우 해당 객체의 뒤로 촬영 중인 객체를 위치시킬 수 없으며, 이에 따라서 상술한 이용성의 한계를 극복하지 못하는 문제가 있다.

이에 따라서 결국은 상술한 바와 같이 실제 현장 등에서 해당 영상을 구현할 수 밖에 없으며, 장소의 한계성을 극복하는 동시에, 배경에 포함된 객체와 촬영 중인 객체 간의 입체적인 뎁스 구현이 가능한 기술에 대한 필요성이 증가되고 있다.

본 발명은 상술한 필요성에 따라서 도출된 것으로서, 3차원 영상 및 게임 영상에서 이용되고 있는 입체 영상의 객체별 뎁스 값을 이용하여, 해당 배경을 크로마키 등으로 구현하고, 배경 전방에 위치된 객체를 촬영 시, 뎁스 값에 따라서 배경 영상의 객체와 촬영 중인 객체의 입체적인 상대적 영상 합성이 가능하도록 하여, 실제 현장에서의 촬영과, 크로마키 등을 이용한 배경과 객체 촬영을 통한 영상 합성 시의 장점을 결합할 수 있는 기술을 제공하는 데 그 목적이 있다.

상술한 목적을 달성하기 위하여, 본 발명의 일 실시예에 따른 입체 영상을 포함하는 배경과 촬영 중 객체 간의 실시간 뎁스 기반 영상 합성 방법은, 다수의 제1 객체별 뎁스 정보인 제1 뎁스 정보가 설정된 입체 영상 기반의 배경 영상을 포함하는 배경 영상인 제1 영상 데이터의 타임 라인인 제1 타임을 로드하는 제1 단계; 일 공간에서 제2 객체를 촬영함에 따라서 실시간 생성되는 제2 영상 데이터에 포함된 타임 라인으로서 유저 단말로부터 세팅된 타임 라인인 제2 타임을 로드하는 제2 단계; 제1 영상 데이터에 포함된 제1 객체별 제1 뎁스 정보를 제1 영상 데이터로부터 로드하는 제3 단계; 상기 유저 단말로부터 세팅된 제2 객체에 대한 뎁스 정보인 제2 뎁스 정보를 상기 제1 뎁스 정보와 비교하여, 상기 제1 영상 데이터에 포함된 제1 객체에 대한 제2 객체의 상대적 뎁스 위치를 결정하는 제4 단계; 및 상기 제1 타임과 제2 타임을 동기화하여 제1 영상 데이터와 제2 영상 데이터의 타임별 프레임 이미지를 일치 정렬하고, 상기 제4 단계에 의하여 결정된 제2 객체와 제1 객체 간의 상대적 뎁스 위치를 기반으로 제2 영상 데이터의 각 프레임 이미지가 제1 영상 데이터의 각 프레임 이미지에 정합된 제3 영상 데이터를 생성하는 제5 단계;를 포함하는 것을 특징으로 한다.

상기 제5 단계는, 상기 제1 객체 중 상기 제2 객체보다 뎁스가 큰 객체에 상기 제2 객체를 오버레이하고, 상기 제1 객체 중 상기 제2 객체보다 뎁스가 작은 객체를 상기 제2 객체에 오버레이하여 상기 제1 영상 데이터의 각 프레임 이미지에 상기 제2 영상 데이터의 각 프레임 이미지를 정합하는 것이 바람직하다.

상기 제5 단계는, 정합된 각 프레임 이미지를 동기화된 타임 라인에 따라 결합하여 제3 영상 데이터를 생성하는 것이 바람직하다.

상기 제1 영상 데이터는, 각 프레임 이미지마다 상기 제1 객체의 식별 정보, 제1 객체를 이루는 픽셀들의 위치 정보 및 제1 객체를 이루는 픽셀들의 뎁스 정보가 포함되도록 구성되는 것이 바람직하다.

상기 제5 단계는, 일 공간에서 상기 제2 객체에 대해서 촬영을 시작 시, 상기 제1 타임이 시작되도록 세팅되는 경우, 상기 제1 타임과 상기 제2 타임의 동기화가 생략되는 것이 바람직하다.

상기 제5 단계는, 상기 제2 영상 데이터의 실시간 생성에 따라서 프레임 이미지별로 실시간 수행됨으로써, 상기 제2 객체에 대한 촬영 시 실시간으로 상기 제3 영상 데이터가 생성되는 것도 가능하다.

상기 제5 단계의 실시간 수행 시마다, 상기 제1 영상 데이터, 상기 제2 영상 데이터 및 상기 제3 영상 데이터가 서로 다른 영역에 표시되며, 기 생성된 제3 영상 데이터에 대하여 적어도 객체별 뎁스 정보에 대한 편집을 통한 제3 영상 데이터의 편집이 가능한 유저 인터페이스를 유저 단말에 제공하는 제6 단계;를 더 포함하는 것이 바람직하다.

상기 제2 뎁스 정보는, 제2 타임에 대한 구간별로 서로 다르게 설정 가능함으로써, 상기 제2 영상 데이터의 타임별 프레임 이미지에 따라서 서로 다른 제2 객체에 대한 제2 뎁스 정보가 설정되는 것이 바람직하다.

한편, 본 발명의 일 실시예에 따른 입체 영상을 포함하는 배경과 촬영 중 객체 간의 실시간 뎁스 기반 영상 합성 장치는, 다수의 제1 객체별 뎁스 정보인 제1 뎁스 정보가 설정된 입체 영상 기반의 배경 영상을 포함하는 배경 영상인 제1 영상 데이터의 타임 라인인 제1 타임을 로드하는 제1 타임 로드부; 일 공간에서 제2 객체를 촬영함에 따라서 실시간 생성되는 제2 영상 데이터에 포함된 타임 라인으로서 유저 단말로부터 세팅된 타임 라인인 제2 타임을 로드하는 제2 타임 로드부; 제1 영상 데이터에 포함된 제1 객체별 제1 뎁스 정보를 제1 영상 데이터로부터 로드하는 제1 뎁스 로드부; 상기 유저 단말로부터 세팅된 제2 객체에 대한 뎁스 정보인 제2 뎁스 정보를 상기 제1 뎁스 정보와 비교하여, 상기 제1 영상 데이터에 포함된 제1 객체에 대한 제2 객체의 상대적 뎁스 위치를 결정하는 상대적 뎁스 결정부; 및 상기 제1 타임과 제2 타임을 동기화하여 제1 영상 데이터와 제2 영상 데이터의 타임별 프레임 이미지를 일치 정렬하고, 상기 상대적 뎁스 결정부에 의하여 결정된 제2 객체와 제1 객체 간의 상대적 뎁스 위치를 기반으로 제2 영상 데이터의 각 프레임 이미지가 제1 영상 데이터의 각 프레임 이미지에 정합된 제3 영상 데이터를 생성하는 영상 합성부;를 포함하는 것을 특징으로 한다.

본 발명에 의하면, 크로마키 기법을 이용하여 배경을 자유롭게 변경하면서 객체를 촬영 시, 배경 영상 컨텐츠를 영상에 포함된 객체별 식별 및 뎁스 설정이 가능한 입체 영상 컨텐츠로 구현한 뒤, 이에 촬영 시의 객체에 대한 뎁스 설정을 통해서, 각 객체별로 상대적인 뎁스값의 비교를 통한 입체적인 영상 합성이 가능하게 되는 효과가 있다.

이에 따라서 별도의 실제 현장에서의 촬영을 하지 않더라도, 실제 현장과 같이 객체별로 뎁스 기반의 상호 작용 및 오버레이가 가능한 영상 합성이 그낭하여, 크로마키 기법 등의 영상 합성 시의 장소의 한계성 극복과, 실제 현장 촬영에서의 사실감 구현의 효과를 동시에 얻을 수 있다.

또한 촬영 중 실시간으로 해당 뎁스를 조절하는 등의 편집이 가능해져, 매우 효율적으로 방송 컨텐츠를 사실감 있게 구현할 수 있어, 작은 스튜디오 등에서 입체적인 영상 촬영이 가능한 효과가 있다.

이러한 본 발명에 의하면, 광고 컨텐츠 및 영화 컨텐츠 등 다양한 방송 컨텐츠의 제작에 있어서 장소적인 한계성이 극복되어, 그 제작 비용의 절감 효과가 극대화되고, 더욱 효율적인 방송 컨텐츠의 제작이 가능해지는 효과가 있다.

또한, 촬영 시, 제2 객체에 대한 포커싱에 따라서 배경 영상이 아웃포커싱됨에 따라서 화질 관리가 어려운 문제를, 제1 영상 데이터와 제2 영상 데이터의 실시간 정합을 통해서 완전하게 해결할 수 있는 효과가 있다.

도 1 및 2는 본 발명의 일 실시예에 따른 입체 영상을 포함하는 배경과 촬영 중 객체 간의 실시간 뎁스 기반 영상 합성 방법의 플로우차트.
도 3은 본 발명의 일 실시예에 따른 입체 영상을 포함하는 배경과 촬영 중 객체 간의 실시간 뎁스 기반 영상 합성 장치의 구성 블록도.
도 4 및 5는 본 발명의 일 실시예의 구현에 따라서 제1 영상 데이터와 제2 영상 데이터의 구조를 설명하기 위한 도면.
도 6은 본 발명의 일 실시예의 구현에 따라 제3 영상 데이터가 생성되는 예를 설명하기 위한 도면.
도 7은 본 발명의 일 실시예의 구현에 따라서 유저 단말에 출력되는 유저 인터페이스의 예.
도 8은 본 발명의 일 실시 예에 따른 컴퓨팅 장치의 내부 구성의 일 예.

이하에서는, 다양한 실시 예들 및/또는 양상들이 이제 도면들을 참조하여 개시된다. 하기 설명에서는 설명을 목적으로, 하나이상의 양상들의 전반적 이해를 돕기 위해 다수의 구체적인 세부사항들이 개시된다. 그러나, 이러한 양상(들)은 이러한 구체적인 세부사항들 없이도 실행될 수 있다는 점 또한 본 발명의 기술 분야에서 통상의 지식을 가진 자에게 인식될 수 있을 것이다. 이후의 기재 및 첨부된 도면들은 하나 이상의 양상들의 특정한 예시적인 양상들을 상세하게 기술한다. 하지만, 이러한 양상들은 예시적인 것이고 다양한 양상들의 원리들에서의 다양한 방법들 중 일부가 이용될 수 있으며, 기술되는 설명들은 그러한 양상들 및 그들의 균등물들을 모두 포함하고자 하는 의도이다.

본 명세서에서 사용되는 "실시 예", "예", "양상", "예시" 등은 기술되는 임의의 양상 또는 설계가 다른 양상 또는 설계들보다 양호하다거나, 이점이 있는 것으로 해석되지 않을 수도 있다.

또한, "포함한다" 및/또는 "포함하는"이라는 용어는, 해당 특징 및/또는 구성요소가 존재함을 의미하지만, 하나이상의 다른 특징, 구성요소 및/또는 이들의 그룹의 존재 또는 추가를 배제하지 않는 것으로 이해되어야 한다.

또한, 제 1, 제 2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되지는 않는다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제 1 구성요소는 제 2 구성요소로 명명될 수 있고, 유사하게 제 2 구성요소도 제 1 구성요소로 명명될 수 있다. 및/또는 이라는 용어는 복수의 관련된 기재된 항목들의 조합 또는 복수의 관련된 기재된 항목들 중의 어느 항목을 포함한다.

또한, 본 발명의 실시 예들에서, 별도로 다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥 상 가지는 의미와 일치하는 의미를 가지는 것으로 해석되어야 하며, 본 발명의 실시 예에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.

도 1 및 2는 본 발명의 일 실시예에 따른 입체 영상을 포함하는 배경과 촬영 중 객체 간의 실시간 뎁스 기반 영상 합성 방법의 플로우차트, 도 3은 본 발명의 일 실시예에 따른 입체 영상을 포함하는 배경과 촬영 중 객체 간의 실시간 뎁스 기반 영상 합성 장치의 구성 블록도, 도 4 및 5는 본 발명의 일 실시예의 구현에 따라서 제1 영상 데이터와 제2 영상 데이터의 구조를 설명하기 위한 도면, 도 6은 본 발명의 일 실시예의 구현에 따라 제3 영상 데이터가 생성되는 예를 설명하기 위한 도면, 도 7은 본 발명의 일 실시예의 구현에 따라서 유저 단말에 출력되는 유저 인터페이스의 예이다, 이하의 설명에 있어서 본 발명의 각 구성 및 실시예에 대한 설명을 위해서 다수의 도면이 함께 참조되어 설명될 수 있다. 또한, 이하의 설명에 있어서 본 발명의 핵심적인 기술적 특징을 수행하기 위해서 전제될 수 있는 공지의 일반적인 기술에 대한 설명은 생략하기로 한다.

상술한 도면들 중, 먼저 도 1 및 2를 참조하면, 본 발명의 일 실시예에 따른 입체 영상을 포함하는 배경과 촬영 중 객체 간의 실시간 뎁스 기반 영상 합성 방법에 있어서, 컴퓨팅 장치는 다수의 제1 객체별 뎁스 정보인 제1 뎁스 정보가 설정된 입체 영상 기반의 배경 영상을 포함하는 배경 영상인 제1 영상 데이터의 타임 라인인 제1 타임을 로드하는 제1 단계(S10)를 수행한다.

본 발명의 일 실시예에 따른 입체 영상을 포함하는 배경과 촬영 중 객에 간의 실시간 뎁스 기반 영상 합성 방법은, 후술하는 도 3에 도시된 바와 같은 본 발명의 일 실시예에 따른 입체 영상을 포함하는 배경과 촬영 중 객에 간의 실시간 뎁스 기반 영상 합성 장치(10, 이하 본 발명의 장치라 함)의 각 구성에 의하여 수행되는 것으로 이해될 것이며, 본 발명의 장치(10)는 도 8에 도시된 하나 이상의 프로세서 및 상기 프로세서에서 수행 가능한 명령들을 저장하는 하나 이상의 메모리를 포함하는 컴퓨팅 장치에 포함되거나, 다수의 컴퓨팅 장치로 구성되는 것으로 이해될 것이다.

제1 영상 데이터는, 스튜디오 등에서 인체나 사물 등의 객체를 촬영 시, 촬영된 데이터를 합성할 배경 영상을 지칭하는 것으로 이해될 것이다. 예를 들어 제1 영상 데이터는 주변 환경이나 사물등에 대한 동영상 등을 이루는 컨텐츠를 포함할 수 있다.

제1 영상 데이터에는 배경 영상을 이루는 다수의 객체가 제1 객체로서 포함될 수 있다. 제1 객체는 상술한 스튜디오 등에 배치되거나 촬영 영역 내에 포함된 인체나 생물 등의 객체를 제외하고, 배경 영상에 포함된 모든 식별 가능한 객체를 의미한다. 예를 들어 자연물, 생물, 사물, 건물, 도로, 시설물, 물건 등 영상에서 상호 작용이 가능하고 식별 가능한 모든 객체를 지칭한다.

제1 영상 데이터는 상술한 제1 객체들에 대한 식별 정보와, 뎁스 정보가 저장된 데이터를 의미한다. 예를 들어, 제1 영상 데이터는 언리얼 엔진(Unreal Engine) 등의 방식으로 구현된 상호 작용이 가능하도록 하여 각 객체들의 식별 정보, 객체의 영역, 크기, 영상 내에서의 위치, 각 객체를 입체적으로 표현하기 위한 뎁스 정보가 설정되어 있는 영상 데이터를 의미함이 바람직하다.

제1 영상 데이터의 타임 라인은, 제1 영상 데이터를 이루는 프레임 이미지들의 출력 순서를 결정하기 위한 상대적 타임 값을 의미한다. 이에 따라서 S10 단계는, 제1 영상 데이터에 대한 프레임 이미지 및 각 프레임 이미지별로 설정된 출력 타임값을 로드하는 프로세스로 이해될 것이다.

이러한 제1 영상 데이터의 구조에 대한 예가 도 4에 도시되어 있다. 일반적으로 언리얼 엔진 등을 이용하여 촬영되거나 제작된 영상 데이터는, 도 4에 도시된 바와 같이 일 프레임 이미지(F11)가 다수 결합되어 영상 데이터(20)를 이룬다. 이때, 각 프레임 이미지(21)에는, 타임 라인(22)과 함께, 각 프레임 이미지(21)에 포함된 객체들의 뎁스값(23)이 객체별로 설정되어 저장될 수 있다. 또한 객체들의 정보에는, 객체의 색상, 크기, 영역, 위치 등에 대한 값 역시 저장될 수 있다.

즉, 제1 영상 데이터는, 각 프레임 이미지마다 제1 객체의 식별 정보, 제1 객체를 이루는 픽셀들의 위치 정보 및 제1 객체를 이루는 픽셀들의 뎁스 정보가 포함되도록 구성됨이 바람직하다.

이를 통해서, 게임 등의 컨텐츠를 제1 영상 데이터로 구성 시, 게임 상에서 객체 간의 상호 작용이 가능한 동시에, 입체적인 표현이 가능하도록 출력될 수 있다. 본 발명에서 입체적인 표현이라 함은, 어떤 객체의 뎁스값이 다른 객체의 뎁스값보다 큰 경우, 해당 어떤 객체의 위에 다른 객체가 오버레이(Overlay)되어 출력되도록 하는 것이다.

한편, 컴퓨팅 장치는 제1 단계(S10)와 함께 일 공간에서 제2 객체를 촬영함에 따라서 실시간 생성되는 제2 영상 데이터에 포함된 타임 라인으로서 유저 단말로부터 세팅된 타임 라인인 제2 타임을 로드하는 제2 단계(S20)를 수행한다.

제2 객체는 프론트 스테이지(Front Stage)에 배치된 인체, 사물 등의 객체를 의미하며, 상술한 제1 객체에 대한 설명에서 언급된 바와 같이 백 스테이지(Back Stage)에서 출력되고 있는 영상 데이터와 합성되어 하나의 컨텐츠를 이루는 객체들을 의미한다.

또한 제2 영상 데이터는 제1 영상 데이터에 합성될 상술한 제2 객체를 촬영한 겨로가를 의미할 것이며, 유저 단말로부터 세팅된 타임 라인이라 함은, 예를 들어 제2 영상 데이터가 제1 영상 데이터가 출력되는 백 스테이지 영역과 별도의 타임 라인으로 촬영되는 경우, 이에 대한 타임 라인을 의미한다. 즉, 예를 들어 LED 등의 스크린 상에 제1 영상 데이터가 출력된 상태에서 제2 영상 데이터가 획득되는 경우, 제2 영상 데이터의 타임 라인이 그대로 제1 영상 데이터의 타임 라인과 동일하게 설정될 수 있을 것이다.

이러한 제2 영상 데이터의 생성에 대한 예가 도 5에 도시되어 있다. 도 5를 참조하면, 촬영 장치(40)를 통해서 제2 객체(50)가 배치된 프론트 스테이지에 대한 촬영이 시작되면 배경(100)과 함께 제2 객체(50)를 촬영하게 되며, 이 경우, 도 4와 유사하게, 제2 영상 데이터(60)가 생성되며, 제2 영상 데이터(60)에는 각 프레임 이미지(61)와 제2 타임에 대응하는 타임 라인(62)이 설정될 수 있다. 이때, 후술하는 S40 단계에 대한 설명에서 언급되는 바와 같이 제2 객체에 대한 뎁스 정보인 제2 뎁스 정보(63)가 각 객체별로 유저 단말에 의하여 미리 설정되면서, 제2 영상 데이터에 의하여 촬영되는 제2 객체들 각각에 대한 뎁스 값이 제2 영상 데이터(60)에 포함되거나, S40 단계의 수행에 의하여 직접 제1 뎁스 정보와 비교될 수 있다.

S10 및 S20 단계가 완료되면, 컴퓨팅 장치는 제1 영상 데이터에 포함된 제1 객체별 제1 뎁스 정보를 제1 영상 데이터로부터 로드하는 제3 단계(S30)와 유저 단말로부터 세팅된 제2 객체에 대한 뎁스 정보인 제2 뎁스 정보를 상기 제1 뎁스 정보와 비교하여, 제1 영상 데이터에 포함된 제1 객체에 대한 제2 객체의 상대적 뎁스 위치를 결정하는 제4 단계(S40)를 수행하게 된다.

도 4에 대한 설명에서 언급한 바와 같이 제1 영상 데이터에 포함된 제1 객체별 제1 뎁스 정보는 제1 영상 데이터에 포함되기 때문에 S10 단계와 S30 단계는 동시에 수행될 수 있다.

한편 본 발명에서는 상술한 바와 같이 백 스테이지에 LED 등의 디스플레이 모듈이 크로마키를 위한 배경과 다르게 설치될 수 있다. 이 경우, S10 단계 등의 수행에 앞서, 디스플레이 모듈에 제1 영상 데이터를 출력하는 단계가 추가로 수행될 수 있다.

이 경우, 상술한 S10 및 S20 단계의 수행은, 예를 들어 제1 영상 데이터가 디스플레이 모듈에 출력되는 동안 제2 영상 데이터에 대한 촬영이 시작되는 경우, 촬영이 시작되는 제1 타임의 타임값과, 제2 타임의 시작값을 특히 로드하는 단계로서 수행될 수 있다. 이는 추후, 제5 단계(S50)의 수행 시, 각 영상의 정합을 위한 타임 라인의 동기화에 사용되는 것으로 이해될 것이다.

한편, 제2 영상 데이터를 촬영하는 영역인 FOV(Field Of View) 및 촬영 각도가 변동될 수 있다. 즉, 프론트 스테이지에서 촬영되는 객체를 다양한 방향에서 역동적으로 촬영하는 경우를 예로 들 수 있는 것이다. 이 경우, 카메라 등 촬영 장치의 영역인 FOV(Field Of View) 및 촬영 각도가 변동되는 것에 감지되어, 제1 영상 데이터 역시 그 출력 방향을 다르게 할 수 있다. 이는 언리얼 엔진 등을 통해 구현되는 영상 데이터의 특징으로서, 객체 중심의 영상에 있어서 입체적인 영상 구현 방식에서 사용될 수 있는 것이다.

이 경우, 촬영 장치의 영역인 FOV(Field Of View) 및 촬영 각도의 변동에 정확히 매칭되도록 제1 영상 데이터의 출력 방향을 변동하는 것이 중요하다. 그렇지 않은 경우, 제2 영상 데이터와 제1 영상 데이터 간의 이질감이 발생하여, 실감있는 제3 영상 데이터의 구현이 되지 않을 수 있는 것이다.

이를 위하여 본 발명에 있어서 촬영 장치에는 촬영 장치의 영역인 FOV(Field Of View) 및 촬영 각도 변화를 감지하기 위해서 지자기 센서 등 장치의 가속도 및 각속도 센서를 포함하는 센서 모듈이 설치될 수 있다.

이 경우, 상술한 제1 영상 데이터를 백 스테이지의 디스플레이 모듈에 추력하는 단계에 있어서, 컴퓨팅 장치는 센서 모듈의 센싱 값에 대응하여, 제1 영상 데이터의 출력 방향을 변동하는 단계를 수행할 수 있다. 이때, 센서 모듈의 센싱 값과 관련하여, 감지되는 센싱 값에 따라서 촬영 장치의 예측되는 FOV(Field Of View) 및 촬영 각도의 변경 값과 그 변경 속도에 대응하여, 딜레이를 방지하기 위해서 예측된 값으로 미리 제1 영상 데이터의 촬영 방향을 예측된 각도 변경 값과 변경 속도에 대응되도록 변경하는 단계가 추가적으로 수행될 수 있다.

S40 단계에 대한 설명으로 돌아와서, 제2 뎁스 정보로서 제2 객체에 대한 세팅된 뎁스 정보란, 제1 객체들에 대한 사전 분석을 통해서 제2 객체들이 제1 객체들 각각에 대해서 어떤 위치에 배치되도록 영상 컨텐츠가 제작되어야 하는지 여부에 대한 판단에 따라서, 유저, 즉 영상 제작자가 해당 제2 객체들에 대해서 뎁스 값을 설정하는 과정을 통해 저장된 데이터를 의미한다.

이러한 제2 뎁스 정보는, 더욱 실감나는 촬영을 위해서, 제2 타임에 대한 구간별로 서로 다르게 설정 가능함으로써, 제2 영상 데이터의 타임별 프레임 이미지에 따라서 서로 다른 제2 객체에 대한 제2 뎁스 정보가 설정되는 것이 바람직하다. 이러한 프로세스는 예를 들어, 제1 영상 데이터와 제2 영상 데이터가 실시간으로 결합되지 않고 유저 단말에 의하여 결합되는 경우에는, 제2 영상 데이터에 대한 유저 단말의 세팅에 의하여 결정될 수 있다.

또한, 제2 뎁스 정보의 경우, 제2 객체가 실시간으로 움직이는 객체인 경우에 있어서, 제2 영상 데이터를 촬영하는 장치와 제2 객체 간의 거리값에 따라서 실시간으로 변경될 수 있다. 이때 제1 영상 데이터에 포함된 배경 영상에 따라서 제2 객체와 제2 영상 데이터를 촬영하는 장치 간의 절대값이 동일하더라도, 제2 뎁스 정보가 다르게 설정될 수 있다.

이러한 경우에 있어서 실시간으로 뎁스가 변경되는 제2 객체의 제2 뎁스 정보를 명확하게 파악하기 위해서, 예를 들어 본 발명의 다른 실시예에서는, 제2 뎁스 정보가 초기 디폴트값만이 상술한 바와 같이 유저 단말의 세팅에 의하여 결정되며, 이후 촬영 시 실시간으로 움직이는 제2 객체에 대한 제2 영상 데이터 내에서 파악 가능하거나 제2 영상 데이터를 촬영하는 장치의 뎁스 센서 등에 의하여 센싱되는 값에 따라, 상대적으로 제2 뎁스 정보가 산출될 수 있다. 즉, 상술한 초기 디폴트값으로서의 제2 뎁스에 대응되는 제2 객체와 제2 영상 데이터를 촬영하는 장치의 거리를 이용하여, 실시간으로 촬영되는 제2 객체와 제2 영상 데이터를 촬영하는 장치 간의 거리값과 초기 디폴트값으로서의 제2 뎁스에 대응되는 제2 객체와 제2 영상 데이터를 촬영하는 장치의 거리의 비율에 따라서 디폴트값을 비례연산한 값을 실시간 제2 객체의 제2 뎁스 정보로서 산출하게 되는 것이다.

한편, 후술하는 바와 같이 제5 단계(S50)는 실시간으로 수행되어서 제3 영상 데이터가 실시간으로 생성될 수 있다. 이 경우, 제2 뎁스 정보의 타임별 설정 변경값은, 프론트 스테이지에 마킹된 다수의 뎁스별 포인트 또는 라인에 대한 촬영 장치(40)의 촬영 및 제2 영상 데이터에 대한 컴퓨팅 장치의 인식 결과로서 구현될 수 있다.

즉, 제2 영상 데이터에는, 프론트 스테이지의 바닥 등에 대한 촬영이 이루어질 수 있고, 이때 프론트 스테이지의 바닥면에는 뎁스별 라인이 마킹되어, 그 촬영 결과 제2 객체가 어떤 뎁스별 라인에 위치되는지 여부를 이미지 분석 프로세스에 의하여 분석될 수 있다. 이 경우, 실시간으로 제2 영상 데이터에 포함된 제2 객체의 제2 뎁스 정보가 분석될 수 있는 것이다.

이와 같이, 제2 뎁스 정보를 제1 뎁스 정보와 비교하게 되면, 제1 영상 데이터에 포함된 제1 객체와 제2 영상 데이터에 포함된 제2 객체 사이의 상대적인 오버레이 기준 데이터인 상대적 뎁스 위치가 결정될 것이며, 이에 따라서 단순히 백 스테이지의 영상 앞에 프론트 스테이지에서 촬영되는 객체가 위치될 수 밖에 없었던 기존의 기술과 달리, 백 스테이지의 영상에 포함된 어떤 객체는 프론트 스테이지에서 촬영되는 객체의 앞에 위치된 것처럼 촬영 결과가 도출될 수 있는 것이다.

즉, S40 단계의 수행에 따라서 상대적 뎁스 위치가 결정되면, 컴퓨팅 장치는, 제1 타임과 제2 타임을 동기화하여 제1 영상 데이터와 제2 영상 데이터의 타임별 프레임 이미지를 일치 정렬하고, 제4 단계(S40)에 의하여 결정된 제2 객체와 제1 객체 간의 상대적 뎁스 위치를 기반으로 제2 영상 데이터의 각 프레임 이미지가 제1 영상 데이터의 각 프레임 이미지에 정합된 제3 영상 데이터를 생성하는 제5 단계(S50)를 수행하게 되는 것이다.

이에 대한 예가 도 6에 도시되어 있다. 즉, S50 단계까지의 수행에 따르면, 제3 영상 데이터의 프레임 이미지(F31)에는, 제1 객체의 이미지(O11, O12)와 제2 객체(50)가 촬영 장치(40)에 의하여 촬영된 결과 생성되는 제2 영상 데이터 상의 제2 객체의 이미지(O2)가 일괄적으로 제2 객체의 이미지(O2)가 제1 객체의 이미지(O11, O12)보다 앞에 배치되지 않고 실감나게 입체적으로 어떤 제1 객체의 이미지(O11)는 제2 객체의 이미지(O2)에 오버레이 되도록 구현되는 것이다.

즉, 상술한 바와 같이 S50단계의 수행에 있어서의 핵심은, 제1 객체 중 제2 객체보다 뎁스가 큰 객체에 상기 제2 객체를 오버레이하고, 제1 객체 중 제2 객체보다 뎁스가 작은 객체를 제2 객체에 오버레이하여 제1 영상 데이터의 각 프레임 이미지에 제2 영상 데이터의 각 프레임 이미지를 정합하는 프로세스로 이해될 수 있을 것이다.

또한 S50 단계의 수행에 있어서는, 정합된 각 프레임 이미지를 동기화된 타임 라인에 따라서 결합하여 제3 영상 데이터를 생성할 것이다. 이 경우 상술한 바와 같이, 제1 영상 데이터가 디스플레이 모듈에 출력되는 동안 제2 영상 데이터에 대한 촬영이 시작되는 경우, 촬영이 시작되는 제1 타임의 타임값과, 제2 타임의 시작값을 특히 로드하고, 해당 값을 기준으로 프레임 이미지를 일치 정렬하는 것이 바람직할 것이다.

이러한 특성 상, S50 단계의 수행에 있어서 일 공간에서 제2 객체에 대해서 촬영을 시작 시, 제1 타임이 시작되도록 세팅되는 경우, 제1 타임과 제2 타임의 동기화가 생략되는 것도 가능할 것이다.

또한 본 발명의 다른 실시예에 있어서는, 촬영 장치(40)의 촬영 결과가 유저 단말에 출력될 때, 제3 영상 데이터를 실시간으로 출력하도록 하는 것도 가능하다. 이는 유저 단말에 제1 영상 데이터가 이미 저장된 상태에서, 타임 라인의 동기화가 완료된 상태에서는, 제1 영상 데이터와 촬영 장치(40)의 촬영에 따라서 실시간으로 생성되는 제2 영상 데이터의 각 프레임 이미지의 S50 단계의 수행에 따른 실시간 합성 결과로서 제3 영상 데이터의 프레임 이미지가 타임에 따라서 생성되는 것을 이용한 결과이다. 즉, S50 단계는, 제2 영상 데이터의 실시간 생성에 따라서 프레임 이미지별로 실시간 수행됨으로써, 제2 객체에 대한 촬영 시 실시간으로 제3 영상 데이터가 생성되는 것으로 이해될 수 있는 것이다.

한편, 제3 영상 데이터를 포함하여 제1 영상 데이터 및 제2 영상 데이터에 대한 편집 기능을 제공하여, 유저들이 촬영 장치를 통한 백 스테이지 및 프론트 스테이지에 대한 촬영 결과 자동으로 생성되는 제3 영상 데이터를 확인하고, 이에 대한 수정 작업을 진행할 수 있도록 하여, 더욱 완성도 높은 영상 컨텐츠가 생성될 수 있도록 할 수 있다.

즉 도 2에 도시된 바와 같이, 제5 단계의 실시간 수행 시마다 또는 제5 단계의 수행 후, 제1 영상 데이터, 제2 영상 데이터 및 제3 영상 데이터가 서로 다른 영역에 표시되며, 기 생성된 제3 영상 데이터에 대하여 적어도 객체별 뎁스 정보에 대한 편집을 통한 제3 영상 데이터의 편집이 가능한 유저 인터페이스를 유저 단말에 제공하는 제6 단계(S60)를 더 수행할 수 있다.

예를 들어 도 78에 도시된 바와 같이 유저 인터페이스의 일 화면(200)에는, 제3 영상 데이터의 프레임 집합(201) 및 동기화된 타임 라인(202)이 출력될 수 있고, 제3 영상 데이터에 포함된 프레임 이미지(F37), 이에 포함된 제1 영상 데이터의 프레임 이미지(F17) 및 제2 영상 데이터의 프레임 이미지(F27)가 출력될 수 있다.

이때 제3 영상 데이터에 대한 이미지 편집 기능(204) 또는 각 객체에 대한 뎁스 편집 기능(203)을 통해서, 영상에 대한 후작업이 가능하도록 하는 것이다. 이와 같은 기능이 제공되면, 더욱 퀄리티가 높고 사실감이 있는 양질의 방송 컨텐츠 등의 영상 제작이 가능한 효과가 있다.

도 3은 본 발명의 일 실시예에 따른 입체 영상을 포함하는 배경과 촬영 중 객체 간의 실시간 뎁스 기반 영상 합성 장치(10), 즉 본 발명의 장치(10)에 대한 구성 블록도이다. 이하의 설명에 있어서 상술한 설명들과 중복되는 내용에 대한 설명은 생략하도록 한다.

도 3을 참조하면, 본 발명의 장치(10)는 제1 타임 로드부(11), 제2 타임 로드부(12), 제1 뎁스 로드부(13), 상대적 뎁스 결정부(14) 및 영상 합성부(15)를 포함하는 것을 특징으로 한다. 추가적으로 유저 인터페이스 제공부(미도시)가 유저 단말(30)에 연결되도록 포함될 수 있다.

제1 타임 로드부(11)는 다수의 제1 객체별 뎁스 정보인 제1 뎁스 정보가 설정된 입체 영상 기반의 배경 영상을 포함하는 배경 영상인 제1 영상 데이터(20)의 타임 라인인 제1 타임을 로드하는 기능을 수행한다. 즉, S10 단계에 대한 설명에서 언급된 모든 기능을 수행하는 구성으로 이해될 수 있다.

제2 타임 로드부(12)는 일 공간에서 촬영 장치(40)를 통해서 제2 객체(50)를 촬영함에 따라서 실시간 생성되어 유저 단말(30)에 전송되는 제2 영상 데이터에 포함된 타임 라인으로서 유저 단말로부터 세팅된 타임 라인인 제2 타임을 로드하는 기능을 수행한다. 즉 S20 단계에 대한 설명에서 언급된 모든 기능을 수행하는 구성으로 이해될 수 있다.

제1 뎁스 로드부(13)는 제1 영상 데이터(20)에 포함된 제1 객체별 제1 뎁스 정보를 제1 영상 데이터로부터 로드하는 기능을 수행한다. 즉 S30 단계에 대한 설명에서 언급된 모든 기능을 수행하는 구성으로 이해될 수 있다.

상대적 뎁스 결정부(14)는 유저 단말(20)로부터 세팅된 제2 객체(50)에 대한 뎁스 정보인 제2 뎁스 정보를 제1 뎁스 정보와 비교하여, 제1 영상 데이터(20)에 포함된 제1 객체에 대한 제2 객체(50)의 상대적 뎁스 위치를 결정하는 기능을 수행한다. 즉 S40 단계에 대한 설명에서 언급된 모든 기능을 수행하는 구성으로 이해될 수 있다.

영상 합성부(15)는 제1 타임과 제2 타임을 동기화하여 제1 영상 데이터(20)와 제2 영상 데이터의 타임별 프레임 이미지를 일치 정렬하고, 상대적 뎁스 결정부(14)에 의하여 결정된 제2 객체와 제1 객체 간의 상대적 뎁스 위치를 기반으로 제2 영상 데이터의 각 프레임 이미지가 제1 영상 데이터의 각 프레임 이미지에 정합된 제3 영상 데이터를 생성하는 기능을 수행한다. 즉, S50 단계에 대한 설명에서 언급된 모든 기능을 수행하는 구성으로 이해될 수 있다.

유저 인터페이스 제공부는, 영상 합성부(15)의 기능이 실시간 수행될 때마다 또는 영상 합성부(15)의 기능 수행 후, 제1 영상 데이터, 제2 영상 데이터 및 제3 영상 데이터가 서로 다른 영역에 표시되며, 생성된 제3 영상 데이터에 대하여 적어도 객체별 뎁스 정보에 대한 편집을 통한 제3 영상 데이터의 편집이 가능한 유저 인터페이스를 유저 단말에 제공하는 기능을 수행한다. 즉 S60 단계에 대한 설명에서 언급된 모든 기능을 수행하는 구성으로 이해될 수 있다.

도 8은 본 발명의 일 실시 예에 따른 컴퓨팅 장치의 내부 구성의 일 예를 도시하였으며, 이하의 설명에 있어서, 상술한 도 1 내지 4에 대한 설명과 중복되는 불필요한 실시 예에 대한 설명은 생략하기로 한다.

도 8에 도시한 바와 같이, 컴퓨팅 장치(10000)은 적어도 하나의 프로세서(processor)(11100), 메모리(memory)(11200), 주변장치 인터페이스(peripheral interface)(11300), 입/출력 서브시스템(I/O subsystem)(11400), 전력 회로(11500) 및 통신 회로(11600)를 적어도 포함할 수 있다. 이때, 컴퓨팅 장치(10000)은 촉각 인터페이스 장치에 연결된 유저 단말이기(A) 혹은 전술한 컴퓨팅 장치(B)에 해당될 수 있다.

메모리(11200)는, 일례로 고속 랜덤 액세스 메모리(high-speed random access memory), 자기 디스크, 에스램(SRAM), 디램(DRAM), 롬(ROM), 플래시 메모리 또는 비휘발성 메모리를 포함할 수 있다. 메모리(11200)는 컴퓨팅 장치(10000)의 동작에 필요한 소프트웨어 모듈, 명령어 집합 또는 그밖에 다양한 데이터를 포함할 수 있다.

이때, 프로세서(11100)나 주변장치 인터페이스(11300) 등의 다른 컴포넌트에서 메모리(11200)에 액세스하는 것은 프로세서(11100)에 의해 제어될 수 있다.

주변장치 인터페이스(11300)는 컴퓨팅 장치(10000)의 입력 및/또는 출력 주변장치를 프로세서(11100) 및 메모리 (11200)에 결합시킬 수 있다. 프로세서(11100)는 메모리(11200)에 저장된 소프트웨어 모듈 또는 명령어 집합을 실행하여 컴퓨팅 장치(10000)을 위한 다양한 기능을 수행하고 데이터를 처리할 수 있다.

입/출력 서브시스템(11400)은 다양한 입/출력 주변장치들을 주변장치 인터페이스(11300)에 결합시킬 수 있다. 예를 들어, 입/출력 서브시스템(11400)은 모니터나 키보드, 마우스, 프린터 또는 필요에 따라 터치스크린이나 센서 등의 주변장치를 주변장치 인터페이스(11300)에 결합시키기 위한 컨트롤러를 포함할 수 있다. 다른 측면에 따르면, 입/출력 주변장치들은 입/출력 서브시스템(11400)을 거치지 않고 주변장치 인터페이스(11300)에 결합될 수도 있다.

전력 회로(11500)는 단말기의 컴포넌트의 전부 또는 일부로 전력을 공급할 수 있다. 예를 들어 전력 회로(11500)는 전력 관리 시스템, 배터리나 교류(AC) 등과 같은 하나 이상의 전원, 충전 시스템, 전력 실패 감지 회로(power failure detection circuit), 전력 변환기나 인버터, 전력 상태 표시자 또는 전력 생성, 관리, 분배를 위한 임의의 다른 컴포넌트들을 포함할 수 있다.

통신 회로(11600)는 적어도 하나의 외부 포트를 이용하여 다른 컴퓨팅 장치와 통신을 가능하게 할 수 있다.

또는 상술한 바와 같이 필요에 따라 통신 회로(11600)는 RF 회로를 포함하여 전자기 신호(electromagnetic signal)라고도 알려진 RF 신호를 송수신함으로써, 다른 컴퓨팅 장치와 통신을 가능하게 할 수도 있다.

이러한 도 8의 실시 예는, 컴퓨팅 장치(10000)의 일례일 뿐이고, 컴퓨팅 장치(11000)은 도 8에 도시된 일부 컴포넌트가 생략되거나, 도 8에 도시되지 않은 추가의 컴포넌트를 더 구비하거나, 2개 이상의 컴포넌트를 결합시키는 구성 또는 배치를 가질 수 있다. 예를 들어, 모바일 환경의 통신 단말을 위한 컴퓨팅 장치는 도 8에도시된 컴포넌트들 외에도, 터치스크린이나 센서 등을 더 포함할 수도 있으며, 통신 회로(1160)에 다양한 통신방식(WiFi, 3G, LTE, Bluetooth, NFC, Zigbee 등)의 RF 통신을 위한 회로가 포함될 수도 있다. 컴퓨팅 장치(10000)에 포함 가능한 컴포넌트들은 하나 이상의 신호 처리 또는 어플리케이션에 특화된 집적 회로를 포함하는 하드웨어, 소프트웨어, 또는 하드웨어 및 소프트웨어 양자의 조합으로 구현될 수 있다.

본 발명의 실시 예에 따른 방법들은 다양한 컴퓨팅 장치를 통하여 수행될 수 있는 프로그램 명령(instruction) 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 특히, 본 실시 예에 따른 프로그램은 PC 기반의 프로그램 또는 모바일 단말 전용의 어플리케이션으로 구성될 수 있다. 본 발명이 적용되는 애플리케이션은 파일 배포 시스템이 제공하는 파일을 통해 이용자 단말에 설치될 수 있다. 일 예로, 파일 배포 시스템은 이용자 단말이기의 요청에 따라 상기 파일을 전송하는 파일 전송부(미도시)를 포함할 수 있다.

이상에서 설명된 장치는 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시 예들에서 설명된 장치 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPGA(field programmable gate array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제상에서 수행되는 하나 이상의 소프트웨어 애플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술 분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.

소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로 (collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상장치(virtual equipment), 컴퓨터 저장 매체 또는 장치에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨팅 장치상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.

실시 예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시 예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광 기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.

이상과 같이 실시 예들이 비록 한정된 실시 예와 도면에 의해 설명되었으나, 해당 기술 분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다. 그러므로, 다른 구현들, 다른 실시 예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.

Claims (10)

1. 하나 이상의 프로세서 및 상기 프로세서에서 수행 가능한 명령들을 저장하는 하나 이상의 메모리를 포함하는 컴퓨팅 장치로 구현되는 입체 영상을 포함하는 배경과 촬영 중 객체 간의 실시간 뎁스 기반 영상 합성 방법에 관한 것으로,
   다수의 제1 객체별 뎁스 정보인 제1 뎁스 정보가 설정된 입체 영상 기반의 배경 영상을 포함하는 배경 영상인 제1 영상 데이터의 타임 라인인 제1 타임을 로드하는 제1 단계;
   일 공간에서 제2 객체를 촬영함에 따라서 실시간 생성되는 제2 영상 데이터에 포함된 타임 라인으로서 유저 단말로부터 세팅된 타임 라인인 제2 타임을 로드하는 제2 단계;
   제1 영상 데이터에 포함된 제1 객체별 제1 뎁스 정보를 제1 영상 데이터로부터 로드하는 제3 단계;
   상기 유저 단말로부터 세팅된 제2 객체에 대한 뎁스 정보인 제2 뎁스 정보를 상기 제1 뎁스 정보와 비교하여, 상기 제1 영상 데이터에 포함된 제1 객체에 대한 제2 객체의 상대적 뎁스 위치를 결정하는 제4 단계; 및
   상기 제1 타임과 제2 타임을 동기화하여 제1 영상 데이터와 제2 영상 데이터의 타임별 프레임 이미지를 일치 정렬하고, 상기 제4 단계에 의하여 결정된 제2 객체와 제1 객체 간의 상대적 뎁스 위치를 기반으로 제2 영상 데이터의 각 프레임 이미지가 제1 영상 데이터의 각 프레임 이미지에 정합된 제3 영상 데이터를 생성하는 제5 단계;를 포함하고,
   상기 제5 단계는,
   일 공간에서 상기 제2 객체에 대해서 촬영을 시작 시, 상기 제1 타임이 시작되도록 세팅되는 경우, 상기 제1 타임과 상기 제2 타임의 동기화가 생략되는 것을 특징으로 하는 입체 영상을 포함하는 배경과 촬영 중 객체 간의 실시간 뎁스 기반 영상 합성 방법.
   
2. 제1항에 있어서,
   상기 제5 단계는,
   상기 제1 객체 중 상기 제2 객체보다 뎁스가 큰 객체에 상기 제2 객체를 오버레이하고, 상기 제1 객체 중 상기 제2 객체보다 뎁스가 작은 객체를 상기 제2 객체에 오버레이하여 상기 제1 영상 데이터의 각 프레임 이미지에 상기 제2 영상 데이터의 각 프레임 이미지를 정합하는 것을 특징으로 하는 입체 영상을 포함하는 배경과 촬영 중 객체 간의 실시간 뎁스 기반 영상 합성 방법.
   
3. 제2항에 있어서,
   상기 제5 단계는,
   정합된 각 프레임 이미지를 동기화된 타임 라인에 따라 결합하여 제3 영상 데이터를 생성하는 것을 특징으로 하는 입체 영상을 포함하는 배경과 촬영 중 객체 간의 실시간 뎁스 기반 영상 합성 방법.
   
4. 제1항에 있어서,
   상기 제1 영상 데이터는,
   각 프레임 이미지마다 상기 제1 객체의 식별 정보, 제1 객체를 이루는 픽셀들의 위치 정보 및 제1 객체를 이루는 픽셀들의 뎁스 정보가 포함되도록 구성되는 것을 특징으로 하는 입체 영상을 포함하는 배경과 촬영 중 객체 간의 실시간 뎁스 기반 영상 합성 방법.
   
5. 삭제
6. 제1항에 있어서,
   상기 제5 단계는,
   상기 제2 영상 데이터의 실시간 생성에 따라서 프레임 이미지별로 실시간 수행됨으로써, 상기 제2 객체에 대한 촬영 시 실시간으로 상기 제3 영상 데이터가 생성되는 것을 특징으로 하는 입체 영상을 포함하는 배경과 촬영 중 객체 간의 실시간 뎁스 기반 영상 합성 방법.
   
7. 제6항에 있어서,
   상기 제5 단계의 실시간 수행 시마다,
   상기 제1 영상 데이터, 상기 제2 영상 데이터 및 상기 제3 영상 데이터가 서로 다른 영역에 표시되며, 기 생성된 제3 영상 데이터에 대하여 적어도 객체별 뎁스 정보에 대한 편집을 통한 제3 영상 데이터의 편집이 가능한 유저 인터페이스를 유저 단말에 제공하는 제6 단계;를 더 포함하는 것을 특징으로 하는 입체 영상을 포함하는 배경과 촬영 중 객체 간의 실시간 뎁스 기반 영상 합성 방법.
   
8. 제1항에 있어서,
   상기 제2 뎁스 정보는,
   제2 타임에 대한 구간별로 서로 다르게 설정 가능함으로써, 상기 제2 영상 데이터의 타임별 프레임 이미지에 따라서 서로 다른 제2 객체에 대한 제2 뎁스 정보가 설정되는 것을 특징으로 하는 입체 영상을 포함하는 배경과 촬영 중 객체 간의 실시간 뎁스 기반 영상 합성 방법.
   
9. 하나 이상의 프로세서 및 상기 프로세서에서 수행 가능한 명령들을 저장하는 하나 이상의 메모리를 포함하는 컴퓨팅 장치로 구현되는 입체 영상을 포함하는 배경과 촬영 중 객체 간의 실시간 뎁스 기반 영상 합성 장치는,
   다수의 제1 객체별 뎁스 정보인 제1 뎁스 정보가 설정된 입체 영상 기반의 배경 영상을 포함하는 배경 영상인 제1 영상 데이터의 타임 라인인 제1 타임을 로드하는 제1 타임 로드부;
   일 공간에서 제2 객체를 촬영함에 따라서 실시간 생성되는 제2 영상 데이터에 포함된 타임 라인으로서 유저 단말로부터 세팅된 타임 라인인 제2 타임을 로드하는 제2 타임 로드부;
   제1 영상 데이터에 포함된 제1 객체별 제1 뎁스 정보를 제1 영상 데이터로부터 로드하는 제1 뎁스 로드부;
   상기 유저 단말로부터 세팅된 제2 객체에 대한 뎁스 정보인 제2 뎁스 정보를 상기 제1 뎁스 정보와 비교하여, 상기 제1 영상 데이터에 포함된 제1 객체에 대한 제2 객체의 상대적 뎁스 위치를 결정하는 상대적 뎁스 결정부; 및
   상기 제1 타임과 제2 타임을 동기화하여 제1 영상 데이터와 제2 영상 데이터의 타임별 프레임 이미지를 일치 정렬하고, 상기 상대적 뎁스 결정부에 의하여 결정된 제2 객체와 제1 객체 간의 상대적 뎁스 위치를 기반으로 제2 영상 데이터의 각 프레임 이미지가 제1 영상 데이터의 각 프레임 이미지에 정합된 제3 영상 데이터를 생성하는 영상 합성부;를 포함하고,
   상기 영상 합성부는,
   일 공간에서 상기 제2 객체에 대해서 촬영을 시작 시, 상기 제1 타임이 시작되도록 세팅되는 경우, 상기 제1 타임과 상기 제2 타임의 동기화가 생략되는 것을 특징으로 하는 입체 영상을 포함하는 배경과 촬영 중 객체 간의 실시간 뎁스 기반 영상 합성 장치.
   
10. 컴퓨터-판독가능 기록매체로서,
    상기 컴퓨터-판독가능 기록매체는, 컴퓨팅 장치로 하여금 이하의 단계들을 수행하도록 하는 명령들을 저장하며, 상기 단계들은:
    다수의 제1 객체별 뎁스 정보인 제1 뎁스 정보가 설정된 입체 영상 기반의 배경 영상을 포함하는 배경 영상인 제1 영상 데이터의 타임 라인인 제1 타임을 로드하는 제1 단계;
    일 공간에서 제2 객체를 촬영함에 따라서 실시간 생성되는 제2 영상 데이터에 포함된 타임 라인으로서 유저 단말로부터 세팅된 타임 라인인 제2 타임을 로드하는 제2 단계;
    제1 영상 데이터에 포함된 제1 객체별 제1 뎁스 정보를 제1 영상 데이터로부터 로드하는 제3 단계;
    상기 유저 단말로부터 세팅된 제2 객체에 대한 뎁스 정보인 제2 뎁스 정보를 상기 제1 뎁스 정보와 비교하여, 상기 제1 영상 데이터에 포함된 제1 객체에 대한 제2 객체의 상대적 뎁스 위치를 결정하는 제4 단계; 및
    상기 제1 타임과 제2 타임을 동기화하여 제1 영상 데이터와 제2 영상 데이터의 타임별 프레임 이미지를 일치 정렬하고, 상기 제4 단계에 의하여 결정된 제2 객체와 제1 객체 간의 상대적 뎁스 위치를 기반으로 제2 영상 데이터의 각 프레임 이미지가 제1 영상 데이터의 각 프레임 이미지에 정합된 제3 영상 데이터를 생성하는 제5 단계;를 포함하고,
    상기 제5 단계는,
    일 공간에서 상기 제2 객체에 대해서 촬영을 시작 시, 상기 제1 타임이 시작되도록 세팅되는 경우, 상기 제1 타임과 상기 제2 타임의 동기화가 생략되는 것을 특징으로 하는 것을 특징으로 하는 컴퓨터-판독가능 기록매체.
    

Images