KR20200010909A - 파노라마 크로마키 합성 시스템 및 방법 - Google Patents

파노라마 크로마키 합성 시스템 및 방법 Download PDF

Info

Publication number
KR20200010909A
KR20200010909A KR1020180085543A KR20180085543A KR20200010909A KR 20200010909 A KR20200010909 A KR 20200010909A KR 1020180085543 A KR1020180085543 A KR 1020180085543A KR 20180085543 A KR20180085543 A KR 20180085543A KR 20200010909 A KR20200010909 A KR 20200010909A
Authority
KR
South Korea
Prior art keywords
image
information
panoramic
background
generating
Prior art date
Application number
KR1020180085543A
Other languages
English (en)
Other versions
KR102133735B1 (ko
Inventor
류제진
Original Assignee
(주)지니트
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by (주)지니트 filed Critical (주)지니트
Priority to KR1020180085543A priority Critical patent/KR102133735B1/ko
Publication of KR20200010909A publication Critical patent/KR20200010909A/ko
Application granted granted Critical
Publication of KR102133735B1 publication Critical patent/KR102133735B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/00—2D [Two Dimensional] image generation
    • G06T11/60—Editing figures and text; Combining figures or text
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/50—Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G06T7/11—Region-based segmentation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G06T7/194—Segmentation; Edge detection involving foreground-background segmentation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20212—Image combination
    • G06T2207/20221—Image fusion; Image merging

Abstract

본 발명은 사용자가 360도 회전을 통해 배경을 관찰할 수 있는 VR 영상 등의 파노라마 영상에 오브젝트 영상을 합성하여 오브젝트가 해당 영상의 공간 내에 실제 존재하는 것과 같은 자연스러운 크로마키 합성 영상을 제공하기 위한 기술에 관한 것으로, 이를 위하여, 본 발명에서는 촬영점을 중심으로 하는 360도 파노라마 배경 영상을 저장하는 파노라마 영상 저장부, 오브젝트를 촬영한 영상을 입력 받기 위한 영상 입력부, 상기 영상 입력부에서 입력 받은 영상에서 배경 크로마 백(chroma back)을 추출하고, 상기 배경 크로마 백을 제거하여 상기 오브젝트의 오브젝트 영상을 추출하는 오브젝트 영상 추출부, 상기 파노라마 영상의 촬영점으로부터 상기 오브젝트가 위치하는 거리 및 각도에 관한 정보를 포함하는 오브젝트 위치정보를 수신하는 오브젝트 위치정보 수신부, 가상 시선 정보를 기초로 상기 가상 시선에 대응되는 뷰 윈도우를 설정하고, 상기 파노라마 배경 영상 중 설정된 뷰 윈도우에 포함되는 영상을 재생 배경 영상으로 생성하는 재생 배경 영상 생성부 및 상기 수신한 오브젝트 위치 정보를 기초로 상기 재생 배경 영상 내에서 상기 오브젝트 영상의 크기 정보 및 상기 오브젝트 영상이 위치할 영상내 위치 정보를 생성하고, 상기 오브젝트 영상의 크기 정보 및 영상내 위치 정보를 기초로 상기 재생 배경 영상 및 상기 오브젝트 영상을 합성하여 합성 영상을 생성하는 합성 영상 생성부를 포함하는 파노라마 크로마키 합성 시스템을 제공한다.

Description

파노라마 크로마키 합성 시스템 및 방법 {Panorama chroma-key synthesis system and method}
본 발명은 파노라마 크로마키 합성 시스템 및 방법에 관한 기술로, 사용자가 360도 회전을 통해 배경을 관찰할 수 있는 VR 영상 등의 파노라마 영상에 오브젝트 영상을 합성하여 오브젝트가 해당 영상의 공간 내에 실제 존재하는 것과 같은 자연스러운 크로마키 합성 영상을 제공하기 위한 기술에 관한 것이다.
뉴스나 일기예보, 선거방송에서 시작된 크로마키 합성 기술이 최근에는 영화, 인터넷 방송국, 중소규모의 프로덕션, 사내방송국, 교육방송국, 개인방송국까지 확산되는 추세이다.
크로마키 합성 기술은 도 1에 도시한 바와 같이, 화면에 등장하는 해설자 등의 오브젝트를 단일색 배경에서 촬영한 뒤, 해당 색을 제거하여 오브젝트를 추출하고, 추출한 오브젝트를 배경영상에 합성함으로써, 해당 오브젝트가 배경영상 내에 함께 존재하는 것과 같은 효과를 제공하는 것이다.
그러나, 이와 같은 기존의 크로마키 합성 시스템은 단순히 영상을 배경으로 오브젝트를 보여주는 것에 불과하여, 실제 오브젝트가 해당 공간에 존재하는 것과 같은 몰입감을 제공하지 못하는 문제점이 있었다.
종래기술인 한국등록특허 제10-1688926호 "크로마키를 이용한 증강현실 영상 제작 장치 및 방법"은 이와 같이 단순한 배경화면에 오브젝트를 합성하여 몰입감을 해치는 문제를 해결하기 위하여 사용자가 실제로 보는 라이브 영상에 오브젝트를 합성하여 보다 실감나는 영상을 제공하도록 하였다.
그러나, 배경화면이 라이브 영상으로 변경되었을 뿐, 라이브 영상의 배경과 오브젝트 사이의 위치정보 등을 고려할 수 있는 방법이 없어서, 자연스러운 영상을 생성하기에 어려움이 있었고, 손가락의 위치 등에 따라 오브젝트의 위치를 결정하도록 함으로써, 이를 라이브 영상이 아닌 교육용 콘텐츠 등에 적용하는데에 어려움이 있었다.
따라서 다양한 영상에 오브젝트가 자연스럽게 배치될 수 있도록 하는 크로마키 합성 기술이 필요하다.
한국등록특허 제 10-1688926호
본 발명은 360도 파노라마 영상에 오브젝트를 자연스럽게 합성하여 제공함으로써, 몰입감을 극대화할 수 있도록 하는 것을 목적으로 한다.
또한, 본 발명은 파노라마 영상 내에서 사용자의 시선 이동 명령에 따라 오브젝트의 합성 위치 및 크기를 재조정하여 합성 영상을 제공함으로써, 실제 해당 공간내에 오브젝트가 있는 것과 같은 효과를 제공하는 것을 목적으로 한다.
또한, 본 발명은 파노라마 영상에 촬영된 배경이 촬영지점으로부터 떨어진 거리에 대한 정보와, 오브젝트가 촬영지점으로부터 떨어진 거리에 대한 정보를 기초로 오브젝트 영상을 합성하여, 파노라마 영상이 실내 촬영인 경우와 실외 촬영인 경우 등에 상관없이 자연스러운 합성 영상을 제공하는 것을 목적으로 한다.
또한, 본 발명은 파노라마 영상 내에서 오브젝트가 보이는 각도에 따라서 오브젝트 영상을 변형하여 제공함으로써, 실제 오브젝트가 파노라마 배경 영상 내에 존재하는 것과 같은 효과를 제공하는 것을 목적으로 한다.
이러한 목적을 달성하기 위하여 본 발명의 일 실시예에 따른 파노라마 크로마키 합성 시스템은 촬영점을 중심으로 하는 360도 파노라마 배경 영상을 저장하는 파노라마 영상 저장부, 오브젝트를 촬영한 영상을 입력 받기 위한 영상 입력부, 상기 영상 입력부에서 입력 받은 영상에서 배경 크로마 백(chroma back)을 추출하고, 상기 배경 크로마 백을 제거하여 상기 오브젝트의 오브젝트 영상을 추출하는 오브젝트 영상 추출부, 상기 파노라마 영상의 촬영점으로부터 상기 오브젝트가 위치하는 거리 및 각도에 관한 정보를 포함하는 오브젝트 위치정보를 수신하는 오브젝트 위치정보 수신부, 가상 시선 정보를 기초로 상기 가상 시선에 대응되는 뷰 윈도우를 설정하고, 상기 파노라마 배경 영상 중 설정된 뷰 윈도우에 포함되는 영상을 재생 배경 영상으로 생성하는 재생 배경 영상 생성부 및 상기 수신한 오브젝트 위치 정보를 기초로 상기 재생 배경 영상 내에서 상기 오브젝트 영상의 크기 정보 및 상기 오브젝트 영상이 위치할 영상내 위치 정보를 생성하고, 상기 오브젝트 영상의 크기 정보 및 영상내 위치 정보를 기초로 상기 재생 배경 영상 및 상기 오브젝트 영상을 합성하여 합성 영상을 생성하는 합성 영상 생성부를 포함하여 구성된다.
또한, 상기 가상 시선 정보에 대한 이동 명령을 사용자로부터 수신하는 이동 명령 수신부를 더 포함하고, 상기 재생 배경 영상 생성부는 상기 이동 명령에 대응하여, 상기 뷰 윈도우를 이동하여 재설정하고, 상기 재설정된 뷰 윈도우에 포함되는 영상을 재생 배경 영상으로 생성하는 것을 특징으로 하여 구성될 수 있다.
또한, 상기 합성 영상 생성부는 기 이동 명령에 대응하여, 상기 재생 배경 영상 내에서 상기 오브젝트 영상이 위치할 영상내 위치 정보를 재생성하고, 상기 재생성된 영상내 위치 정보를 기초로 상기 재생 배경 영상 및 상기 오브젝트 영상을 합성하는 것을 특징으로 하여 구성될 수 있다.
또한, 상기 파노라마 영상 저장부는 상기 촬영점과 상기 파노라마 배경 영상 사이의 거리 정보를 저장하고, 상기 합성 영상 생성부는 상기 촬영점과 상기 파노라마 배경 영상 사이의 거리 정보 및 상기 촬영점으로부터 상기 오브젝트가 위치하는 거리를 기초로 상기 오브젝트 영상의 크기 정보 및 상기 오브젝트 영상이 위치할 영상내 위치 정보를 생성하고, 상기 오브젝트 영상의 크기 정보 및 영상내 위치 정보를 기초로 상기 재생 배경 영상 및 상기 오브젝트 영상을 합성하는 것을 특징으로 하여 구성될 수 있다.
또한, 상기 가상 시선 정보 및 상기 오브젝트가 위치하는 각도 정보를 기초로 상기 오브젝트 영상을 변형하여 변형 오브젝트 영상을 생성하는 변형 오브젝트 영상 생성부를 더 포함하고, 상기 합성 영상 생성부는 상기 재생 배경 영상 및 상기 변형 오브젝트 영상을 합성하도록 구성될 수 있다.
또한, 상기 변형 오브젝트 영상 생성부는 상기 오브젝트의 입체 형상 정보를 이용하여 상기 오브젝트의 옆면 영상을 생성하고, 상기 이동 명령에 따라 상기 옆면 영상을 이용하여 상기 오브젝트가 보이는 각도를 조정하여 상기 변형 오브젝트 영상을 생성하도록 구성될 수 있다.
본 발명에 따르면 360도 파노라마 영상에 오브젝트를 자연스럽게 합성하여 제공함으로써, 몰입감을 극대화할 수 있다.
또한, 본 발명에 따르면 파노라마 영상 내에서 사용자의 시선 이동 명령에 따라 오브젝트의 합성 위치 및 크기를 재조정하여 합성 영상을 제공함으로써, 실제 해당 공간내에 오브젝트가 있는 것과 같은 효과를 제공할 수 있다.
또한, 본 발명에 따르면 파노라마 영상에 촬영된 배경이 촬영지점으로부터 떨어진 거리에 대한 정보와, 오브젝트가 촬영지점으로부터 떨어진 거리에 대한 정보를 기초로 오브젝트 영상을 합성하여, 파노라마 영상이 실내 촬영인 경우와 실외 촬영인 경우 등에 상관없이 자연스러운 합성 영상을 제공할 수 있다.
또한, 본 발명에 따르며 파노라마 영상 내에서 오브젝트가 보이는 각도에 따라서 오브젝트 영상을 변형하여 제공함으로써, 실제 오브젝트가 파노라마 배경 영상 내에 존재하는 것과 같은 효과를 제공할 수 있다.
도 1은 종래의 크로마키 합성 기법에 합성된 영상의 일례를 도시한 도면이다.
도 2는 본 발명의 일실시예에 따른 파노라마 크로마키 합성 시스템의 구성도를 도시한 도면이다.
도 3은 본 발명의 일실시예에 따른 파노라마 크로마키 합성 시스템에서 뷰 윈도우 및 오브젝트의 합성 위치를 결정하는 방법의 실시예를 도시한 도면이다.
도 4는 본 발명의 일실시예에 다른 파노라마 크로마키 합성 시스템에서 오브젝트와 촬영점 사이의 거리에 따라 오브젝트의 합성 위치를 결정하는 방법의 실시예를 도시한 도면이다.
도 5는 본 발명의 일실시예에 따른 파노라마 크로마키 합성 시스템에서 사용자의 가상 시점 이동 명령에 따라 다른 시점 영상을 생성하는 방법의 실시예를 도시한 도면이다.
도 6는 본 발명의 일실시예에 따른 파노라마 크로마키 합성 시스템에서 사용자의 줌인 또는 줌아웃 명령에 따라 합성영상을 생성하는 방법의 실시예를 도시한 도면이다.
도 7은 본 발명의 일실시예에 다른 파노라마 크로마키 합성 시스템에서 오브젝트가 보이는 각도에 따라 변형 오브젝트를 생성하는 방법의 실시예를 도시한 도면이다.
도 8은 본 발명의 일실시예에 따른 파노라마 크로마키 합성 방법의 흐름을 도시한 순서도이다.
이하, 본 발명의 바람직한 실시예를 첨부된 도면들을 참조하여 상세히 설명한다. 본 발명을 설명함에 있어, 관련된 공지 구성 또는 기능에 대한 구체적인 설명이 본 발명의 요지를 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명은 생략하기로 한다. 또한 본 발명의 실시예들을 설명함에 있어 구체적인 수치는 실시예에 불과하며 이에 의하여 발명의 범위가 제한되지 아니한다.
본 발명에 따른 파노라마 크로마키 합성 시스템은 중앙처리장치(CPU) 및 메모리(Memory, 기억장치)를 구비하고 인터넷 등의 통신망을 통하여 다른 단말기와 연결 가능한 서버의 형태로 구성될 수 있다. 그러나 본 발명이 중앙처리장치 및 메모리 등의 구성에 의해 한정되지는 아니한다. 또한, 본 발명에 따른 파노라마 크로마키 합성 시스템은 물리적으로 하나의 장치로 구성될 수도 있으며, 복수의 장치에 분산된 형태로 구현될 수도 있어, 본 발명은 이와 같은 물리적인 장치의 구성에 의하여 한정되지 아니한다.
도 2는 본 발명의 일실시예에 따른 파노라마 크로마키 합성 시스템의 구성도를 도시한 도면이다.
본 발명에 따른 파노라마 크로마키 합성 시스템은(200)은 파노라마 영상 저장부(210), 영상 입력부(220), 오브젝트 영상 추출부(230), 오브젝트 위치 정보 수신부(240), 재생 배경 영상 생성부(250), 합성 영상 생성부(260), 이동 명령 수신부(270) 및 변형 오브젝트 영상 생성부를 포함하여 구성될 수 있다.
파노라마 영상 저장부(210)는 촬영점을 중심으로 하는 360도 파노라마 배경 영상을 저장한다. 파노라마 영상은 촬영점을 중심으로 수평방향 360도를 촬영한 영상과 촬영점을 중심으로 수직 및 수평방향을 촬영한 전방위 영상을 포함하는 의미로, 이와 같은 파노라마 영상을 저장하기 위하여 다양한 방법이 적용될 수 있다.
파노라마 영상 저장부(210)에 저장되는 파노라마 영상은 복수의 카메라를 이용하여 동시에 촬영된 영상일 수 있으며, 각 카메라가 2차원의 영상 데이터를 수신하고, 이를 서로 이어붙여 파노라마 영상을 생성할 수 있다. 파노라마 영상은 정해진 포맷(구 또는 정육면체 등)에 매핑되어 2차원 데이터 형태로 저장될 수 있는데, 이와 같은 포맷을 프로젝션 포맷(Projection Format)이라 부른다.
이와 같이 프로젝션 포맷으로 저장된 파노라마 영상은 사용자가 재생할 때에 다시 사용자가 보는 뷰 윈도우(View Window)에 맞추어 2차원 영상으로 재현될 수 있다.
한편, 파노라마 영상 저장부(210)는 촬영점과 파노라마 배경 영상 사이의 거리 정보를 저장할 수 있는데, 파노라마 영상의 촬영 위치에 따라서, 촬영점과 영상 사이의 거리가 차이가 날 수 있다. 예를 들어, 실내에서 촬영된 파노라마 영상의 경우, 촬영점으로부터 영상에 찍힌 벽면까지의 거리가 수m에 불과할 수 있으며, 야외에서 촬영되는 경우에는 수십m ~ 수km에 달할 수 있다.
이와 같이 파노라마 영상 저장부(210)에 저장되는 파노라마 영상이 어느 곳에서 촬영되었는지에 따라서, 향후 크로마키를 통해 도출된 오브젝트 영상을 합성하는데 있어서, 보다 자연스러운 영상을 생성할 수 있게 된다. 이와 같은 촬영점과 파노라마 배경 영상 사이의 거리 정보는 촬영 시점에서 m단위로 촬영자가 입력한 정보일 수 있으며, 데이터베이스 등에 영상 정보와 대응되어 저장됨으로써, 향후 자연스러운 영상 합성에 활용하도록 할 수 있다.
영상 입력부(220)는 오브젝트를 촬영한 영상을 입력 받는다. 크로마키 합성을 위해서는 스튜디오 등에서 단일 색상의 벽면을 배경으로 오브젝트를 위치시키고 이를 촬영한 영상을 입력받아야 한다. 영상 입력부(220)에서는 카메라 등의 영상 촬영 장비를 통하여 이와 같은 영상을 입력받아 이로부터 오브젝트를 추출하도록 할 수 있다.
영상 입력부(220)는 다양한 각도에서 입체적인 영상을 제공하기 위하여 복수의 카메라 영상을 동시에 입력 받는 것도 가능하며, 단일 카메라 영상을 수신하고 이를 바탕으로 영상을 생성하는 것도 가능하다. 복수의 카메라 영상을 동시에 입력받는 경우에는 향후 파노라마 영상에 오브젝트 영상을 합성하는데 있어서, 다양한 각도의 오브젝트 영상을 이용하여 자연스러운 영상 합성이 가능하도록 할 수 있다.;
오브젝트 영상 추출부(230)는 상기 영상 입력부에서 입력 받은 영상에서 배경 크로마 백(chroma back)을 추출하고, 상기 배경 크로마 백을 제거하여 상기 오브젝트의 오브젝트 영상을 추출한다.
오브젝트 영상 추출부(230)는 스튜디오에서 촬영한 영상을 영상 입력부(220)에서 입력 받아 블루스크린인 배경 크로마백(chroma back)을 제외한 오브젝트의 오브젝트 영상을 추출하는데, 이 때, 배경 크로마백(chroma back)은 주로 적색, 녹색, 청색 중 하나를 사용하게 되나 주로 청색인 블루스크린을 사용하게 된다.
오브젝트 영상 추출부(230)에서는 정해진 배경 크로마백의 색상에 해당하는 화소를 투명 화소로 변환함으로써, 오브젝트만 보이고 배경 부분은 타 영상에 합성할 수 있는 오브젝트 영상을 생성하는 것이 가능하다.
오브젝트 위치정보 수신부(240)는 상기 파노라마 영상의 촬영점으로부터 상기 오브젝트가 위치하는 거리 및 각도에 관한 정보를 포함하는 오브젝트 위치정보를 수신한다.
오브젝트 위치정보 수신부(240)에서 수신하는 오브젝트 위치정보는 크로마키 영상을 합성하는 합성영상 제작자가 오브젝트를 파노라마 영상과 어떻게 합성할지 결정하여 입력하도록 할 수 있는데, 촬영점으로부터 상기 오브젝트가 위치하는 거리는 m단위로 입력받아 앞서 살펴본 파노라마 영상의 배경영상까지의 거리 정보와 함께 자연스러운 영상 합성을 가능하도록 할 수 있다.
또한 오브젝트 위치정보 수신부(240)에서 수신하는 오브젝트 위치정보 중 각도 정보는 360도 전방위 중에서 특정 부분을 0도로 하여 기준점을 설정하였을 때, 기준점으로부터 몇도의 각도의 위치에 존재하는지를 입력하도록 할 수 있는데, 이를 통해서, 오브젝트의 위치를 특정 위치로 고정시키고, 배경 상의 해당 위치에 실제 오브젝트가 존재하는 것과 같은 자연스러운 영상 생성이 가능하도록 할 수 있다.
오브젝트 위치정보 수신부(240)에서는 상기 거리정보 및 각도정보를 합성영상 제작자가 수치로 입력하도록 할 수도 있으며, 파노라마 영상의 범위를 원 형태로 제공하고, 해당 원 내에서 합성영상 제작자가 원하는 위치를 클릭하여 위치를 입력하도록 하는 인터페이스도 가능하다.
재생 배경 영상 생성부(250)는 가상 시선 정보를 기초로 상기 가상 시선에 대응되는 뷰 윈도우를 설정하고, 상기 파노라마 배경 영상 중 설정된 뷰 윈도우에 포함되는 영상을 재생 배경 영상으로 생성한다.
앞서 살펴본 바와 같이 파노라마 영상은 프로젝션 포맷으로 저장이 되는데, 이와 같은 프로젝션 포맷의 영상 중에서 사용자가 현재 바라보는 위치를 뷰 윈도우(View Window)로 설정하고, 해당 뷰 윈도우에 대응되는 부분을 추출하여 사용자의 화면 또는 VR 단말기에 제공할 수 있다.
재생 배경 영상 생성부(250)는 이와 같이 파노라마 영상을 재생하기 위한 뷰 윈도우를 설정하고, 파노라마 영상 중 뷰 윈도우에 포함되는 영상을 재생 배경 영상으로 생성하도록 한다. 이와 같은 뷰 윈도우는 사용자의 조작에 따라서 이동할 수 있는데, 이와 같은 이동을 통하여 사용자가 실제 해당 공간 내에서 주위를 둘러보는 것과 같은 효과를 얻을 수 있다.
합성 영상 생성부(260)는 상기 수신한 오브젝트 위치 정보를 기초로 상기 재생 배경 영상 내에서 상기 오브젝트 영상의 크기 정보 및 상기 오브젝트 영상이 위치할 영상내 위치 정보를 생성하고, 상기 오브젝트 영상의 크기 정보 및 영상내 위치 정보를 기초로 상기 재생 배경 영상 및 상기 오브젝트 영상을 합성하여 합성 영상을 생성한다.
합성 영상 생성부(260)는 자연스러운 영상 합성을 위하여, 상기 파노라마 영상을 경계로 하는 가상 공간을 설정하고, 해당 가상공간 내에서 오브젝트 위치정보를 기초로 오브젝트가 위치하는 곳을 결정한 뒤, 뷰 윈도우 내에서 상기 오브젝트가 위치하는 범위와 크기를 결정하고, 이를 기반으로 오브젝트를 재생 배경 영상에 합성할 수 있다.
합성 영상 생성부(260)는 사용자의 이동 명령이 있는 경우에, 이동에 대응하여 재생 배경 영상 내에서 상기 오브젝트 영상이 위치할 영상내 위치 정보를 재생성하고, 상기 재생성된 영상내 위치 정보를 기초로 상기 재생 배경 영상 및 상기 오브젝트 영상을 합성할 수 있다. 이와 같이 실시간으로 사용자의 이동명령에 대응하여 합성영상을 생성함으로써, 실제 오브젝트가 해당 공간 내에 존재하는 것과 같은 자연스러운 영상 생성이 가능하다.
또한 합성 영상 생성부(260)는 상기 촬영점과 상기 파노라마 배경 영상 사이의 거리 정보 및 상기 촬영점으로부터 상기 오브젝트가 위치하는 거리를 기초로 상기 오브젝트 영상의 크기 정보 및 상기 오브젝트 영상이 위치할 영상내 위치 정보를 생성하고, 상기 오브젝트 영상의 크기 정보 및 영상내 위치 정보를 기초로 상기 재생 배경 영상 및 상기 오브젝트 영상을 합성할 수 있는데, 이를 통하여 파노라마 영상의 배경과 오브젝트가 가까운 경우에는 영상을 이동할 때, 배경과 오브젝트가 비슷한 속도로 이동하게 되며, 배경과 오브젝트가 멀리 떨어져 있을 때에는 배경이 훨씬 더 빠른 속도로 이동함으로써, 실제 오브젝트가 해당 위치에 존재하는 것과 같은 자연스러운 효과를 얻을 수 있다.
또한, 합성 영상 생성부(260)는 자연스러운 영상 합성을 위해, 상기 영상 입력부(220)에서 복수의 카메라를 통해 영상을 입력받은 경우에, 뷰 윈도우 내에서 오브젝트가 위치하는 각도에 따라 해당 각도에서 촬영된 카메라 영상을 이용하여 합성을 진행하는 것이 가능하다. 이를 통하여, 오브젝트가 정면으로 보이는 상황과 측면으로 보이는 상황 모두를 자연스럽게 보여줄 수 있게 되어, 자연스러운 영상 생성이 가능하게 된다.
또한, 상기 영상 입력부(220)에서 단일 카메라로 영상을 입력받은 경우에는 보이는 각도에 따라서 입력받은 오브젝트 영상을 변형하여 측면과 같은 영상을 생성하고 이를 뷰 윈도우 내에서 오브젝트가 위치하는 각도에 대응하여 합성함으로써, 자연스러운 영상 생성이 가능하도록 할 수 있다.
이동 명령 수신부(270)는 상기 가상 시선 정보에 대한 이동 명령을 사용자로부터 수신한다.
앞서 살펴본 바와 같이, 이동 명령 수신부(270)에서 수신되는 사용자의 이동 명령은 파노라마 영상 내에서 뷰 윈도우를 이동시킴으로써, 파노라마 영상 공간 내를 둘러보는 것과 같은 효과를 얻을 수 있다.
이동 명령 수신부(270)는 이와 같은 효과를 위하여 사용자가 키보드, 마우스 또는 터치 등의 조작을 통해 이동 명령을 입력하도록 할 수 있으며, VR 헤드셋 등과 같은 착용형 장치를 이용할 경우에는 사용자의 움직임을 인식하여 이동 명령을 수신함으로써, 자연스럽게 주위를 둘러보는 것과 같은 효과를 제공할 수 있다.
변형 오브젝트 영상 생성부(280)는 상기 가상 시선 정보 및 상기 오브젝트가 위치하는 각도 정보를 기초로 상기 오브젝트 영상을 변형하여 변형 오브젝트 영상을 생성한다.
앞서 살펴본 바와 같이, 상기 영상 입력부(220)에서 단일 카메라로 영상을 입력받은 경우 해당 영상을 그대로 이용하면 오브젝트의 측면 각도가 보이는 경우에도 정면 영상이 합성되어 부자연스러운 영상이 제공될 수 있다. 따라서, 변형 오브젝트 영상 생성부(280)는 정면으로 촬영된 영상을 변형하여 측면을 보는 것과 같은 형상을 제공하여 보다 자연스러운 영상 제공이 가능하도록 할 수 있다.
고정된 카메라를 이용하여 오브젝트의 정면 영상만 촬영하는 경우에도, 오브젝트가 곡면으로 이루어져 있으면 오브젝트의 정면 영상에도 측면의 모습이 일부 촬영되게 된다. 이 때 측면의 영상은 보여지는 각도에 의해 실제 측면의 모습이 압축(왜곡)된 형태로 촬영되게 되는데, 오브젝트의 입체적인 형상을 파악할 수 있다면 오브젝트의 입체적인 형상 정보를 기초로 압축(왜곡)된 오브젝트의 측면 영상을 일부 복원할 수 있게 된다.
즉, 정면 영상에서 보이는 부분까지는 3D 모델로 복원하여 일부 회전된 영상을 생성할 수 있다.
변형 오브젝트 영상 생성부(280)는 적외선 센서 및 영상 센서와 같은 오브젝트를 감지하는 센서를 이용하여 오브젝트 입체 형상 정보를 생성할 수 있다.
또한 변형 오브젝트 영상 생성부(260)는 오브젝트의 카테고리를 인식하고 오브젝트 카테고리를 기초로 통상의 형태를 추정하여 생성할 수 있다. 오브젝트 카테고리는 오브젝트가 될 수 있는 사람 또는 물체의 카테고리가 있으며, 사람을 예로 들면, 사람 카테고리에는 얼굴, 몸, 팔, 다리, 손, 발 등과 같은 부위별 정보가 카테고리 정보로 저장될 수 있다. 오브젝트가 사람인 경우 입체 형상 정보를 생성하는데 필요한 부위 또는 정보를 인식하고 카테고리를 기초로 오브젝트의 옆면을 추정하여 오브젝트 입체 형상 정보를 추출할 수 있다.
도 3은 본 발명의 일실시예에 따른 파노라마 크로마키 합성 시스템에서 뷰 윈도우 및 오브젝트의 합성 위치를 결정하는 방법의 실시예를 도시한 도면이다.
도면에 보는 바와 같이, 파노라마 영상은 촬영점을 중심으로 주변을 둘러 촬영된 영상이므로, 원의 테두리에 해당하는 부분에 촬영 영상이 배치되게 된다.
파노라마 영상을 재생하는 경우에는 전체 영상을 한꺼번에 보여줄 수 없기 때문에, 사용자가 파노라마 영상 내에서 바라볼 가상 시점을 설정하고, 가상 시점 범위를 뷰 윈도우로 설정하여 해당 뷰 윈도우 내에 속하는 영상을 사용자의 단말기에 재생하게 된다.
도면에 표시된 제1 뷰 윈도우(320)를 바라보는 시점에서는 오브젝트(310)가 보이게 되기 때문에, 이 경우 합성 영상 생성부(260)에서는 배경 영상의 해당 위치에 오브젝트를 합성하여 제공하게 된다. 반면 제2 뷰 윈도우(330)를 바라보는 때에는 오브젝트가 시야의 범위 내에 보이지 않게 되기 때문에 합성 영상 생성부(260)에서 보이는 영상에 오브젝트를 포함시켜 합성하지 않게 된다.
이에 따라, 사용자가 가상 시선을 이동하여 보는 경우 오브젝트가 특정 위치에 실제 존재하는 것과 같이 보이는 효과를 얻을 수 있다.
도 4는 본 발명의 일실시예에 다른 파노라마 크로마키 합성 시스템에서 오브젝트와 촬영점 사이의 거리에 따라 오브젝트의 합성 위치를 결정하는 방법의 실시예를 도시한 도면이다.
도면의 (a)에 도시한 바와 같이, 촬영점으로부터 오브젝트까지의 거리가 10m이고, 촬영점에서 배경영상까지의 거리가 20m로 설정된 경우에는 가상의 공간 내에서 오브젝트(310)가 중간에 배치되는 것으로 보아 영상을 생성할 수 있다.
또한 도면의 (b)에 도시한 바와 같이, 촬영점으로부터 오브젝트까지의 거리가 10m이고, 촬영점에서 배경영상까지의 거리가 100m로 설정된 경우에는 가상의 공간 내에서 오브젝트가 10%의 지점에 위치하는 것으로 보아 영상을 생성할 수 있다.
이와 같이 오브젝트의 배치 위치를 결정함으로써, 영상을 이동시켜 볼 때에 오브젝트와 배경영상사이의 이동 속도를 다르게 보이도록 할 수 있으며, 이에 따라 실제 오브젝트가 해당 위치에 있는 것과 같은 효과를 얻을 수 있다.
도 5는 본 발명의 일실시예에 따른 파노라마 크로마키 합성 시스템에서 사용자의 가상 시점 이동 명령에 따라 다른 시점 영상을 생성하는 방법의 실시예를 도시한 도면이다.
도면의 (a)에서 도면의 (b)로 사용자가 시점을 이동하는 경우에 보는 것처럼 배경 영상의 중앙에 합성되던 오브젝트(310)가 배경 영상의 좌측으로 이동하게 된다. 이처럼 이동명령에 따라 오브젝트가 합성되는 위치를 자연스럽게 변경 설정함으로써, 사용자가 파노라마 영상 공간 내를 둘러보는 것을 자연스럽게 제공할 수 있다.
또한, 도면의 (a)와 같이 오브젝트가 중앙에 위치하는 경우에는 오브젝트의 정면이 카메라에서 보이는 것이기 때문에, 오브젝트의 정면 영상을 합성하여 제공하는 것이 자연스러우며, 도면의 (b)와 같이 오브젝트가 뷰 윈도우의 측면에 위치하게 되는 경우에는 실제 오브젝트의 측면이 보이는 것이기 때문에, 오브젝트의 해당 측면 영상을 제공하는 것이 자연스럽다.
이를 위하여 영상 입력부(220)에서 다양한 각도의 오브젝트 영상을 수신하여 필요한 각도의 영상을 합성 영상 생성부(260)에서 합성하는 것이 가능하며, 하나의 카메라만을 이용하여 오브젝트를 촬영하는 경우에는 앞서 살펴본 바와 같이 변형 오브젝트 영상 생성부(280)를 통하여 오브젝트를 측면 영상과 같이 변형함으로써, 자연스러운 영상 제공이 가능하게 된다.
도 6는 본 발명의 일실시예에 따른 파노라마 크로마키 합성 시스템에서 사용자의 줌인 또는 줌아웃 명령에 따라 합성영상을 생성하는 방법의 실시예를 도시한 도면이다.
파노라마 영상에서 사용자가 이동명령뿐 아니라 줌인 또는 줌아웃 명령을 내릴 수 있는데, 줌인 명령과 줌아웃 명령에 따라, 뷰윈도우의 크기를 조절하여 영상을 확대 또는 축소하여 제공하게 되는데, 도면의 (a)에서 (b)로 확대하는 경우에, 도면에 도시한 바와 같이, 화면에 보여지는 뷰 윈도우의 시야각이 좁아지면서 동일한 화면 내에 더 큰 영상을 제공하게 되는데, 이 때, 촬영점에서 오브젝트까지 또한 촬영점에서 배경영상까지의 거리에 따라서 확대되는 영상이 다르게 제공되게 된다.
즉, 오브젝트가 도면에서와 같이 카메라에 매우 가까이 위치하는 경우에 (b)와 같이 줌인을 하면, 영상의 대부분을 오브젝트가 채우게 되어, 실제로 카메라 가까이에 오브젝트가 위치한 것을 촬영한 것과 같은 효과를 얻을 수 있게 된다.
도 7은 본 발명의 일실시예에 다른 파노라마 크로마키 합성 시스템에서 오브젝트가 보이는 각도에 따라 변형 오브젝트를 생성하는 방법의 실시예를 도시한 도면이다.
변형 오브젝트 영상 생성부(280)는 오브젝트 영상을 변형하여 변형 오브젝트 영상을 생성한다. 오브젝트의 입체 형상 정보를 이용하여 오브젝트의 옆면 영상을 생성하고, 오브젝트 옆면 영상을 이용하여 오브젝트가 보이는 각도를 조정할 수 있다.
고정된 카메라를 이용하여 오브젝트의 정면 영상만 촬영하는 경우에도, 오브젝트가 곡면으로 이루어져 있으면 오브젝트의 정면 영상(710)에도 측면의 모습이 일부 촬영되게 된다. 이 때 측면의 영상은 보여지는 각도에 의해 실제 측면의 모습이 압축(왜곡)된 형태로 촬영되게 되는데, 오브젝트의 입체적인 형상(740)을 파악할 수 있다면 오브젝트의 입체적인 형상 정보를 기초로 압축(왜곡)된 오브젝트의 측면 영상을 일부 복원할 수 있게 된다.
즉, 정면 영상에서 보이는 부분까지는 3D 모델로 복원하여 일부 회전된 영상을 생성할 수 있다.
변형 오브젝트 영상 생성부(280)는 오브젝트 영상 추출부(230)에서 적외선 센서 및 영상 센서와 같은 오브젝트를 감지하는 센서를 이용하여 오브젝트 영상을 추출한 후, 오브젝트의 옆면 영상을 생성하고 옆면 영상을 이용하여 오브젝트가 보이는 각도를 조정하여 변형 오브젝트 영상(720)을 생성할 수 있다.
도 8은 본 발명의 일실시예에 따른 파노라마 크로마키 합성 방법의 흐름을 도시한 순서도이다.
본 발명에 따른 파노라마 크로마키 합성 방법은 아래의 설명에 의해 한정되지 않고, 크로마키 합성 시스템(200)에 적용되는 설명을 모두 적용할 수 있다.
파노라마 영상 저장 단계(S801)는 촬영점을 중심으로 하는 360도 파노라마 배경 영상을 저장한다. 파노라마 영상은 촬영점을 중심으로 수평방향 360도를 촬영한 영상과 촬영점을 중심으로 수직 및 수평방향을 촬영한 전방위 영상을 포함하는 의미로, 이와 같은 파노라마 영상을 저장하기 위하여 다양한 방법이 적용될 수 있다.
영상 입력 단계(S802)는 오브젝트를 촬영한 영상을 입력 받는다. 크로마키 합성을 위해서는 스튜디오 등에서 단일 색상의 벽면을 배경으로 오브젝트를 위치시키고 이를 촬영한 영상을 입력받아야 한다. 영상 입력부(220)에서는 카메라 등의 영상 촬영 장비를 통하여 이와 같은 영상을 입력받아 이로부터 오브젝트를 추출하도록 할 수 있다.
오브젝트 영상 추출 단계(S803)는 스튜디오에서 촬영한 영상을 영상 입력부(220)에서 입력 받아 블루스크린인 배경 크로마백(chroma back)을 제외한 오브젝트의 오브젝트 영상을 추출하는데, 이 때, 배경 크로마백(chroma back)은 주로 적색, 녹색, 청색 중 하나를 사용하게 되나 주로 청색인 블루스크린을 사용하게 된다.
오브젝트 위치정보 수신 단계(S804)는 상기 파노라마 영상의 촬영점으로부터 상기 오브젝트가 위치하는 거리 및 각도에 관한 정보를 포함하는 오브젝트 위치정보를 수신한다.
재생 배경 영상 생성 단계(S805)는 가상 시선 정보를 기초로 상기 가상 시선에 대응되는 뷰 윈도우를 설정하고, 상기 파노라마 배경 영상 중 설정된 뷰 윈도우에 포함되는 영상을 재생 배경 영상으로 생성한다.
앞서 살펴본 바와 같이 파노라마 영상은 프로젝션 포맷으로 저장이 되는데, 이와 같은 프로젝션 포맷의 영상 중에서 사용자가 현재 바라보는 위치를 뷰 윈도우(View Window)로 설정하고, 해당 뷰 윈도우에 대응되는 부분을 추출하여 사용자의 화면 또는 VR 단말기에 제공할 수 있다.
이동 명령 수신 단계(S806)는 상기 가상 시선 정보에 대한 이동 명령을 사용자로부터 수신한다. 앞서 살펴본 바와 같이, 이동 명령 수신 단계(S806)에서 수신되는 사용자의 이동 명령은 파노라마 영상 내에서 뷰 윈도우를 이동시킴으로써, 파노라마 영상 공간 내를 둘러보는 것과 같은 효과를 얻을 수 있다.
변형 오브젝트 영상 생성 단계(S807)는 상기 가상 시선 정보 및 상기 오브젝트가 위치하는 각도 정보를 기초로 상기 오브젝트 영상을 변형하여 변형 오브젝트 영상을 생성한다.
앞서 살펴본 바와 같이, 상기 영상 입력부(220)에서 단일 카메라로 영상을 입력받은 경우 해당 영상을 그대로 이용하면 오브젝트의 측면 각도가 보이는 경우에도 정면 영상이 합성되어 부자연스러운 영상이 제공될 수 있다. 따라서, 변형 오브젝트 영상 생성부(280)는 정면으로 촬영된 영상을 변형하여 측면을 보는 것과 같은 형상을 제공하여 보다 자연스러운 영상 제공이 가능하도록 할 수 있다.
합성 영상 생성 단계(S808)는 상기 수신한 오브젝트 위치 정보를 기초로 상기 재생 배경 영상 내에서 상기 오브젝트 영상의 크기 정보 및 상기 오브젝트 영상이 위치할 영상내 위치 정보를 생성하고, 상기 오브젝트 영상의 크기 정보 및 영상내 위치 정보를 기초로 상기 재생 배경 영상 및 상기 오브젝트 영상을 합성하여 합성 영상을 생성한다.
이와 같은, 파노라마 크로마키 합성 방법은 애플리케이션으로 구현되거나 다양한 컴퓨터 구성요소를 통하여 수행될 수 있는 프로그램 명령어의 형태로 구현되어 컴퓨터 판독 가능한 기록 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능한 기록 매체는 프로그램 명령어, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다.
상기 컴퓨터 판독 가능한 기록 매체에 기록되는 프로그램 명령어는 본 발명을 위하여 특별히 설계되고 구성된 것들이거니와 컴퓨터 소프트웨어 분야의 당업자에게 공지되어 사용 가능한 것일 수도 있다.
컴퓨터 판독 가능한 기록 매체의 예에는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CDROM, DVD 와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 ROM, RAM, 플래시 메모리 등과 같은 프로그램 명령어를 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다.
프로그램 명령어의 예에는, 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드도 포함된다. 상기 하드웨어 장치는 본 발명에 따른 처리를 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상에서는 실시예들을 참조하여 설명하였지만, 해당 기술 분야의 숙련된 당업자는 하기의 특허 청구범위에 기재된 본 발명의 사상 및 영역으로부터 벗어나지 않는 범위 내에서 본 발명을 다양하게 수정 및 변경시킬 수 있다.
200: 파노라마 크로마키 합성 시스템
210: 파노라마 영상 저장부 220: 영상 입력부
230: 오브젝트 영상 추출부 240: 오브젝트 위치 정보 수신부
250: 재생 배경 영상 생성부 260: 합성 영상 생성부
270: 이동 명령 수신부 280: 변형 오브젝트 영상 생성부

Claims (13)

  1. 촬영점을 중심으로 하는 360도 파노라마 배경 영상을 저장하는 파노라마 영상 저장부;
    오브젝트를 촬영한 영상을 입력 받기 위한 영상 입력부;
    상기 영상 입력부에서 입력 받은 영상에서 배경 크로마 백(chroma back)을 추출하고, 상기 배경 크로마 백을 제거하여 상기 오브젝트의 오브젝트 영상을 추출하는 오브젝트 영상 추출부;
    상기 파노라마 영상의 촬영점으로부터 상기 오브젝트가 위치하는 거리 및 각도에 관한 정보를 포함하는 오브젝트 위치정보를 수신하는 오브젝트 위치정보 수신부;
    가상 시선 정보를 기초로 상기 가상 시선에 대응되는 뷰 윈도우를 설정하고, 상기 파노라마 배경 영상 중 설정된 뷰 윈도우에 포함되는 영상을 재생 배경 영상으로 생성하는 재생 배경 영상 생성부; 및
    상기 수신한 오브젝트 위치 정보를 기초로 상기 재생 배경 영상 내에서 상기 오브젝트 영상의 크기 정보 및 상기 오브젝트 영상이 위치할 영상내 위치 정보를 생성하고, 상기 오브젝트 영상의 크기 정보 및 영상내 위치 정보를 기초로 상기 재생 배경 영상 및 상기 오브젝트 영상을 합성하여 합성 영상을 생성하는 합성 영상 생성부
    를 포함하는 파노라마 크로마키 합성 시스템.
  2. 제1항에 있어서,
    상기 가상 시선 정보에 대한 이동 명령을 사용자로부터 수신하는 이동 명령 수신부
    를 더 포함하고,
    상기 재생 배경 영상 생성부는 상기 이동 명령에 대응하여, 상기 뷰 윈도우를 이동하여 재설정하고, 상기 재설정된 뷰 윈도우에 포함되는 영상을 재생 배경 영상으로 생성하는 것
    을 특징으로 하는 파노라마 크로마키 합성 시스템.
  3. 제2항에 있어서,
    상기 합성 영상 생성부는
    상기 이동 명령에 대응하여, 상기 재생 배경 영상 내에서 상기 오브젝트 영상이 위치할 영상내 위치 정보를 재생성하고, 상기 재생성된 영상내 위치 정보를 기초로 상기 재생 배경 영상 및 상기 오브젝트 영상을 합성하는 것
    을 특징으로 하는 파노라마 크로마키 합성 시스템.
  4. 제1항에 있어서,
    상기 파노라마 영상 저장부는
    상기 촬영점과 상기 파노라마 배경 영상 사이의 거리 정보를 저장하고,
    상기 합성 영상 생성부는
    상기 촬영점과 상기 파노라마 배경 영상 사이의 거리 정보 및 상기 촬영점으로부터 상기 오브젝트가 위치하는 거리를 기초로 상기 오브젝트 영상의 크기 정보 및 상기 오브젝트 영상이 위치할 영상내 위치 정보를 생성하고, 상기 오브젝트 영상의 크기 정보 및 영상내 위치 정보를 기초로 상기 재생 배경 영상 및 상기 오브젝트 영상을 합성하는 것
    을 특징으로 하는 파노라마 크로마키 합성 시스템.
  5. 제1항에 있어서,
    상기 가상 시선 정보 및 상기 오브젝트가 위치하는 각도 정보를 기초로 상기 오브젝트 영상을 변형하여 변형 오브젝트 영상을 생성하는 변형 오브젝트 영상 생성부를 더 포함하고,
    상기 합성 영상 생성부는
    상기 재생 배경 영상 및 상기 변형 오브젝트 영상을 합성하는 것
    을 특징으로 하는 파노라마 크로마키 합성 시스템.
  6. 제5항에 있어서,
    상기 변형 오브젝트 영상 생성부는
    상기 오브젝트의 입체 형상 정보를 이용하여 상기 오브젝트의 옆면 영상을 생성하고,
    상기 이동 명령에 따라 상기 옆면 영상을 이용하여 상기 오브젝트가 보이는 각도를 조정하여 상기 변형 오브젝트 영상을 생성하는 것
    을 특징으로 하는 파노라마 크로마키 합성 시스템.
  7. 파노라마 영상 저장부에서 촬영점을 중심으로 하는 360도 파노라마 배경 영상을 저장하는 파노라마 영상 저장 단계;
    영상 입력부에서 오브젝트를 촬영한 영상을 입력 받는 영상 입력 단계;
    오브젝트 영상 추출부에서 상기 영상 입력부에서 입력 받은 영상에서 배경 크로마 백(chroma back)을 추출하고, 상기 배경 크로마 백을 제거하여 상기 오브젝트의 오브젝트 영상을 추출하는 오브젝트 영상 추출 단계;
    오브젝트 위치정보 수신부에서 상기 파노라마 영상의 촬영점으로부터 상기 오브젝트가 위치하는 거리 및 각도에 관한 정보를 포함하는 오브젝트 위치정보를 수신하는 오브젝트 위치정보 수신 단계;
    재생 배경 영상 생성부에서 가상 시선 정보를 기초로 상기 가상 시선에 대응되는 뷰 윈도우를 설정하고, 상기 파노라마 배경 영상 중 설정된 뷰 윈도우에 포함되는 영상을 재생 배경 영상으로 생성하는 재생 배경 영상 생성 단계; 및
    합성 영상 생성부에서 상기 수신한 오브젝트 위치 정보를 기초로 상기 재생 배경 영상 내에서 상기 오브젝트 영상의 크기 정보 및 상기 오브젝트 영상이 위치할 영상내 위치 정보를 생성하고, 상기 오브젝트 영상의 크기 정보 및 영상내 위치 정보를 기초로 상기 재생 배경 영상 및 상기 오브젝트 영상을 합성하여 합성 영상을 생성하는 합성 영상 생성 단계
    를 포함하는 파노라마 크로마키 합성 방법.
  8. 제7항에 있어서,
    이동 명령 수신부에서 상기 가상 시선 정보에 대한 이동 명령을 사용자로부터 수신하는 이동 명령 수신 단계
    를 더 포함하고,
    상기 재생 배경 영상 생성 단계는 상기 이동 명령에 대응하여, 상기 뷰 윈도우를 이동하여 재설정하고, 상기 재설정된 뷰 윈도우에 포함되는 영상을 재생 배경 영상으로 생성하는 것
    을 특징으로 하는 파노라마 크로마키 합성 방법.
  9. 제8항에 있어서,
    상기 합성 영상 생성 단계는
    상기 이동 명령에 대응하여, 상기 재생 배경 영상 내에서 상기 오브젝트 영상이 위치할 영상내 위치 정보를 재생성하고, 상기 재생성된 영상내 위치 정보를 기초로 상기 재생 배경 영상 및 상기 오브젝트 영상을 합성하는 것
    을 특징으로 하는 파노라마 크로마키 합성 방법.
  10. 제7항에 있어서,
    상기 영상 저장 단계는
    상기 촬영점과 상기 파노라마 배경 영상 사이의 거리 정보를 저장하고,
    상기 합성 영상 생성 단계는
    상기 촬영점과 상기 파노라마 배경 영상 사이의 거리 정보 및 상기 촬영점으로부터 상기 오브젝트가 위치하는 거리를 기초로 상기 오브젝트 영상의 크기 정보 및 상기 오브젝트 영상이 위치할 영상내 위치 정보를 생성하고, 상기 오브젝트 영상의 크기 정보 및 영상내 위치 정보를 기초로 상기 재생 배경 영상 및 상기 오브젝트 영상을 합성하는 것
    을 특징으로 하는 파노라마 크로마키 합성 방법.
  11. 제7항에 있어서,
    변형 오브젝트 영상 생성부에서 상기 가상 시선 정보 및 상기 오브젝트가 위치하는 각도 정보를 기초로 상기 오브젝트 영상을 변형하여 변형 오브젝트 영상을 생성하는 변형 오브젝트 영상 생성 단계를 더 포함하고,
    상기 합성 영상 생성 단계는
    상기 재생 배경 영상 및 상기 변형 오브젝트 영상을 합성하는 것
    을 특징으로 하는 파노라마 크로마키 합성 방법.
  12. 제11항에 있어서,
    상기 변형 오브젝트 영상 생성 단계는
    상기 오브젝트의 입체 형상 정보를 이용하여 상기 오브젝트의 옆면 영상을 생성하고,
    상기 이동 명령에 따라 상기 옆면 영상을 이용하여 상기 오브젝트가 보이는 각도를 조정하여 상기 변형 오브젝트 영상을 생성하는 것
    을 특징으로 하는 파노라마 크로마키 합성 방법.
  13. 제7항 내지 제12항 중 어느 한 항의 방법을 실행하기 위한 프로그램을 기록한 기록매체.
KR1020180085543A 2018-07-23 2018-07-23 파노라마 크로마키 합성 시스템 및 방법 KR102133735B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020180085543A KR102133735B1 (ko) 2018-07-23 2018-07-23 파노라마 크로마키 합성 시스템 및 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020180085543A KR102133735B1 (ko) 2018-07-23 2018-07-23 파노라마 크로마키 합성 시스템 및 방법

Publications (2)

Publication Number Publication Date
KR20200010909A true KR20200010909A (ko) 2020-01-31
KR102133735B1 KR102133735B1 (ko) 2020-07-21

Family

ID=69369453

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020180085543A KR102133735B1 (ko) 2018-07-23 2018-07-23 파노라마 크로마키 합성 시스템 및 방법

Country Status (1)

Country Link
KR (1) KR102133735B1 (ko)

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1267284A2 (en) * 2001-06-13 2002-12-18 Sumitomo Wiring Systems, Ltd. Three-dimensional virtual assembling method, wiring harness designing method, computer program and system
JP2004234455A (ja) * 2003-01-31 2004-08-19 Canon Inc 情報処理方法および画像再生装置
WO2010024985A1 (en) * 2008-08-27 2010-03-04 International Business Machines Corporation System and method for recognition and labeling of anatomical structures in medical imaging scans
JP2010533282A (ja) * 2007-06-08 2010-10-21 テレ アトラス ベスローテン フエンノートシャップ 多視点パノラマを生成する方法及び装置
KR20110027272A (ko) * 2009-09-10 2011-03-16 (주)트라이디커뮤니케이션 배경 이미지를 이용한 3차원 아바타 서비스 제공 시스템 및 방법
KR20120015168A (ko) * 2010-08-11 2012-02-21 엘지전자 주식회사 3차원 영상의 편집 방법 및 이를 이용하는 이동 단말기
KR101538947B1 (ko) * 2014-03-03 2015-07-29 서울과학기술대학교 산학협력단 실감형 자유시점 영상 제공 장치 및 방법
KR20160003614A (ko) * 2015-12-22 2016-01-11 우덕명 3차원 리얼타임 가상입체 스튜디오 장치에서의 가상입체 스튜디오 영상 생성 방법
KR101688926B1 (ko) 2015-05-28 2016-12-22 (주)소셜네트워크 크로마키를 이용한 증강현실 영상 제작 장치 및 방법
KR101744141B1 (ko) * 2016-01-25 2017-06-07 조선대학교산학협력단 오브젝트 리타게팅에 의한 사진 재구성 방법 및 그 장치
KR101851338B1 (ko) * 2016-12-02 2018-04-23 서울과학기술대학교 산학협력단 실감형 미디어 영상을 제공하는 장치

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1267284A2 (en) * 2001-06-13 2002-12-18 Sumitomo Wiring Systems, Ltd. Three-dimensional virtual assembling method, wiring harness designing method, computer program and system
JP2004234455A (ja) * 2003-01-31 2004-08-19 Canon Inc 情報処理方法および画像再生装置
JP2010533282A (ja) * 2007-06-08 2010-10-21 テレ アトラス ベスローテン フエンノートシャップ 多視点パノラマを生成する方法及び装置
WO2010024985A1 (en) * 2008-08-27 2010-03-04 International Business Machines Corporation System and method for recognition and labeling of anatomical structures in medical imaging scans
KR20110027272A (ko) * 2009-09-10 2011-03-16 (주)트라이디커뮤니케이션 배경 이미지를 이용한 3차원 아바타 서비스 제공 시스템 및 방법
KR20120015168A (ko) * 2010-08-11 2012-02-21 엘지전자 주식회사 3차원 영상의 편집 방법 및 이를 이용하는 이동 단말기
KR101538947B1 (ko) * 2014-03-03 2015-07-29 서울과학기술대학교 산학협력단 실감형 자유시점 영상 제공 장치 및 방법
KR101688926B1 (ko) 2015-05-28 2016-12-22 (주)소셜네트워크 크로마키를 이용한 증강현실 영상 제작 장치 및 방법
KR20160003614A (ko) * 2015-12-22 2016-01-11 우덕명 3차원 리얼타임 가상입체 스튜디오 장치에서의 가상입체 스튜디오 영상 생성 방법
KR101744141B1 (ko) * 2016-01-25 2017-06-07 조선대학교산학협력단 오브젝트 리타게팅에 의한 사진 재구성 방법 및 그 장치
KR101851338B1 (ko) * 2016-12-02 2018-04-23 서울과학기술대학교 산학협력단 실감형 미디어 영상을 제공하는 장치

Also Published As

Publication number Publication date
KR102133735B1 (ko) 2020-07-21

Similar Documents

Publication Publication Date Title
CN111698390B (zh) 虚拟摄像机控制方法及装置、虚拟演播厅实现方法及系统
JP7135141B2 (ja) 情報処理システム、情報処理方法、および情報処理プログラム
Kanade et al. Virtualized reality: Constructing virtual worlds from real scenes
Matsuyama et al. 3D video and its applications
KR101304111B1 (ko) 댄싱 가라오케 시스템
US11501118B2 (en) Digital model repair system and method
JP7303754B2 (ja) ユーザー固有コンテンツを映像制作に融合させる方法及びシステム
KR20200126367A (ko) 정보 처리 장치, 정보 처리 방법, 및 프로그램
CN106331521A (zh) 一种网络虚拟现实技术与实拍结合影视制作系统
KR101739220B1 (ko) 게임 플레이 상황에 대한 특수 영상 생성 시스템
CN114327700A (zh) 一种虚拟现实设备及截屏图片播放方法
CN110730340B (zh) 基于镜头变换的虚拟观众席展示方法、系统及存储介质
CN113382275A (zh) 直播数据的生成方法、装置、存储介质及电子设备
US11847735B2 (en) Information processing apparatus, information processing method, and recording medium
Ikeya et al. Multi-viewpoint robotic cameras and their applications
JP2008217593A (ja) 被写体領域抽出装置及び被写体領域抽出プログラム
Kanade et al. Virtualized reality: Being mobile in a visual scene
KR101843025B1 (ko) 카메라워크 기반 영상합성 시스템 및 영상합성방법
US20230353717A1 (en) Image processing system, image processing method, and storage medium
CN109872400B (zh) 一种全景虚拟现实场景的生成方法
WO2018109265A1 (en) A method and technical equipment for encoding media content
JP7054351B2 (ja) 自由視点映像のリプレイ映像を再生するシステム
JP6934052B2 (ja) 表示制御装置、表示制御方法及びプログラム
US20200225467A1 (en) Method for projecting immersive audiovisual content
KR102133735B1 (ko) 파노라마 크로마키 합성 시스템 및 방법

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant