KR20160093769A - 공간 매칭 기법을 적용한 가상 콘텐츠 생성 방법 및 시스템 - Google Patents

공간 매칭 기법을 적용한 가상 콘텐츠 생성 방법 및 시스템 Download PDF

Info

Publication number
KR20160093769A
KR20160093769A KR1020150014191A KR20150014191A KR20160093769A KR 20160093769 A KR20160093769 A KR 20160093769A KR 1020150014191 A KR1020150014191 A KR 1020150014191A KR 20150014191 A KR20150014191 A KR 20150014191A KR 20160093769 A KR20160093769 A KR 20160093769A
Authority
KR
South Korea
Prior art keywords
virtual
actual
space
camera
virtual space
Prior art date
Application number
KR1020150014191A
Other languages
English (en)
Other versions
KR101952989B1 (ko
Inventor
홍성희
강훈종
김영민
홍지수
강현민
Original Assignee
전자부품연구원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 전자부품연구원 filed Critical 전자부품연구원
Priority to KR1020150014191A priority Critical patent/KR101952989B1/ko
Publication of KR20160093769A publication Critical patent/KR20160093769A/ko
Application granted granted Critical
Publication of KR101952989B1 publication Critical patent/KR101952989B1/ko

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81Monomedia components thereof
    • H04N21/816Monomedia components thereof involving special video data, e.g 3D video
    • H04N13/0011
    • H04N13/004
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/111Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/156Mixing image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/85Assembly of content; Generation of multimedia applications
    • H04N21/854Content authoring
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0088Synthesising a monoscopic image signal from stereoscopic images, e.g. synthesising a panoramic or high resolution monoscopic image

Abstract

공간 매칭 기법을 적용한 가상 콘텐츠 생성 방법 및 시스템이 제공된다. 본 발명의 실시예에 따른 가상 콘텐츠 생성 방법은, 실제 카메라로 촬영되는 실제 공간과 가상 카메라로 촬영할 가상 공간을 매칭시키고, 매칭 결과를 기초로 실제 카메라로 촬영된 실제 영상을 가상 공간에 배치하며, 가상 객체를 가상 공간에 배치한다. 이에 의해, 실제 공간과 가상 공간이 매칭되어, 실제 영상을 가상 공간으로 보다 자연스럽게 합성시킬 수 있게 된다.

Description

공간 매칭 기법을 적용한 가상 콘텐츠 생성 방법 및 시스템{Virtual Contents Creation Method and System with Space Matching Scheme}
본 발명은 콘텐츠 생성에 관한 것으로, 더욱 상세하게는 실제 영상과 가상 객체들을 합성하여 가상의 콘텐츠를 생성하는 방법 및 이를 적용한 시스템에 관한 것이다.
도 1은 실제 영상과 가상 객체를 하나의 가상 공간에 배치하는 공간 매칭 기법을 나타낸 도면이다.
촬영되는 실제 영상과 가상 객체를 하나의 가상 공간에 배치할 경우, 실제 영상에서의 좌표 개념과 가상 공간에서의 좌표 개념이 다르기 때문에, 두 공간을 일치시키기는 것이 불가능하여, 원하는 대로 실제 영상과 가상 객체를 배치할 수 없다는 문제에 봉착하게 된다.
즉, 아무런 보정 없이 실제 영상을 가상 공간에 그대로 옮기게 되면, 가상 공간과 실제 공간과의 공간상의 차이점으로 인해 실제 공간에서의 위치와 가상 공간에서의 위치가 일치하지 않는 것이다.
그 결과, 실제 영상과 가상 객체가 별개로 움직이게 되어, 원하는 CG 합성 결과물을 얻을 수 없게 된다.
본 발명은 상기와 같은 문제점을 해결하기 위하여 안출된 것으로서, 본 발명의 목적은, 공간적 차이점 문제를 해소하기 위한 방안으로, 영상을 촬영한 실제 공간과 가상 공간의 매칭 기법을 적용한 가상 콘텐츠 생성 방법 및 시스템을 제공함에 있다.
상기 목적을 달성하기 위한 본 발명의 일 실시예에 따른, 가상 콘텐츠 생성 방법은, 실제 카메라로 촬영되는 실제 공간과 가상 카메라로 촬영할 가상 공간을 매칭시키는 단계; 상기 매칭 결과를 기초로, 상기 실제 카메라로 촬영된 실제 영상을 상기 가상 공간에 배치하는 제1 배치단계; 및 가상 객체를 상기 가상 공간에 배치하는 제2 배치단계;를 포함한다.
그리고, 상기 제1 배치단계는, 상기 실제 영상을 실제 객체와 실제 배경으로 분리하는 단계; 및 상기 매칭 결과를 기초로, 상기 실제 객체의 실제 좌표를 상기 가상 공간의 가상 좌표로 변환하여, 상기 실제 객체를 배치하는 단계;를 포함할 수 있다.
또한, 본 발명의 일 실시예에 따른, 가상 콘텐츠 생성 방법은, 상기 실제 배경을 상기 가상 공간의 배경 영역에 배치하는 단계;를 더 포함할 수 있다.
그리고, 본 발명의 일 실시예에 따른, 가상 콘텐츠 생성 방법은, 상기 매칭 단계 전에, 상기 실제 카메라와 상기 가상 카메라를 동일하게 세팅하는 단계;를 더 포함할 수 있다.
그리고, 본 발명의 일 실시예에 따른, 가상 콘텐츠 생성 방법은, 상기 가상 카메라를 상기 실제 카메라의 실제 위치에 대응하는 가상 위치에 배치하는 단계;를 더 포함할 수 있다.
한편, 본 발명의 다른 실시예에 따른, 가상 콘텐츠 생성 시스템은, 실제 카메라로 촬영되는 실제 공간과 가상 카메라로 촬영할 가상 공간을 매칭시키고, 상기 가상 객체를 생성하는 제어부; 및 상기 매칭 결과를 기초로 상기 실제 카메라로 촬영된 실제 영상을 상기 가상 공간에 배치하며, 가상 객체를 상기 가상 공간에 배치하는 영상 처리부;를 포함한다.
이상 설명한 바와 같이, 본 발명의 실시예들에 따르면, 실제 공간과 가상 공간이 매칭되어, 실제 영상을 가상 공간으로 보다 자연스럽게 합성시킬 수 있게 된다.
아울러, 가상 공간 구현 뿐만 아니라 실제 영상에 따른 가상 객체의 실시간 이동도 가능하여 동적인 가상 공간을 구현할 수 있게 된다.
도 1은 실제 영상과 가상 객체를 하나의 가상 공간에 배치하는 공간 매칭 기법을 나타낸 도면,
도 2는 본 발명의 일 실시예에 따른 가상 콘텐츠 생성 방법의 설명에 제공되는 흐름도,
도 3은 공간 매칭 기법의 설명에 제공되는 도면,
도 4는 가상 공간에 실제 객체, 실제 배경 및 가상 객체를 배치한 결과를 나타낸 도면, 그리고,
도 5는 본 발명의 다른 실시예에 따른 가상 콘텐츠 생성 시스템의 블럭도이다.
이하에서는 도면을 참조하여 본 발명을 보다 상세하게 설명한다.
도 2는 본 발명의 일 실시예에 따른 가상 콘텐츠 생성 방법의 설명에 제공되는 흐름도이다. 본 발명의 실시예에 따른 가상 콘텐츠 생성 방법은, 공간 매칭 기법을 이용하여, 가상 공간에 대한 실제 객체의 배치가 정확하고 자연스럽게 이루어지도록 한다.
이에 의해, 본 발명의 실시예에 따른 가상 콘텐츠 생성 방법은, 실시간 CG 합성 제작을 위한 사전 준비 기술로 실제 카메라를 통해 입력되는 실제 영상을 가상 공간에 배치시 자연스러운 합성 효과가 나타나게 된다.
이를 위해, 먼저, 도 2에 도시된 바와 같이, 실제 카메라와 가상 카메라를 동일하게 세팅한다(S110). 구체적으로, S110단계에서는, 가상 공간에서 가상 영상을 획득하는 환경과 실제 공간에서 실제 영상을 획득하는 환경을 맞추기 위해, 실제 카메라와 가상 카메라 간의 FOV(Field Of View), 지면에서의 높이, 카메라의 수직/수평 등을 동일하게 세팅한다.
다음, 실제 카메라로 촬영되는 실제 공간과 가상 카메라로 촬영할 가상 공간을 매칭시킨다(S120).
도 3에 도시된 바와 같이, 가상 공간의 x 좌표와 y 좌표의 범위는 모두 [-1,1]로 상정한다. 또한, 가상 공간에서 plane 영역은 객체들이 배치되는 영역이고, background 영역은 실제 배경이 배치되는 영역이다. 실제 배경은, 실제 영상에서 실제 객체를 제외한 나머지 부분이다.
실제 공간의 크기는 알고 있거나 알 수 있고, 가상 공간의 크기 역시 알고 있으며, 실측할 당시의 FOV를 이용하여 z 좌표를 알고 있으므로, 가상 공간의 좌표와 실제 공간의 좌표는 비례식으로부터 유도할 수 있다. 이와 같은 방법으로, 실제 공간과 가상 공간의 좌표를 매칭시킬 수 있게 된다.
다시, 도 2를 참조하여 설명한다.
공간 매칭 이후에, 가상 카메라를 실제 카메라의 실제 위치에 대응하는 가상 위치에 배치한다(S130). 그리고, 실제 카메라로 촬영된 실제 영상을 가상 공간에 배치한다(S140).
S140단계를 위해, 먼저 실제 영상을 실제 객체와 실제 배경으로 분리하고, S120단계에서의 매칭 결과를 기초로 실제 객체의 실제 좌표를 가상 공간의 가상 좌표로 변환하여, 실제 객체를 가상 공간의 plane 영역에 배치한다. 한편, 객체의 크기는 가상 카메라의 FOV에 의해 조정된다. 그리고, 실제 배경을 가상 공간의 배경 영역에 배치한다.
다음, 가상 객체를 가상 공간에 배치한다(S150). 실제 영상 객체의 위치는 알고 있기 때문에, 가상 객체를 움직일 때 그에 상응하게끔 움직여 주면 실제 영상에 가상의 오브젝트가 자연스럽게 움직이게 할 수 있다.
도 4에는 S140단계와 S150단계를 통해 실제 객체, 실제 배경 및 가상 객체를 배치한 결과를 나타내었다.
이후, 가상 카메라로 촬영을 수행하여 영상을 생성하면, 가상 콘텐츠가 제작된다.
도 5는 본 발명의 다른 실시예에 따른 가상 콘텐츠 생성 시스템의 블럭도이다. 본 발명의 실시예에 따른 가상 콘텐츠 생성 시스템은, 도 5에 도시된 바와 같이, 스테레오 카메라(210), 영상 처리부(220), 제어부(230) 및 영상 출력부(240)를 포함한다.
스테레오 카메라(210)는 전술한 실제 카메라에 해당하는 것으로, 실제 장면을 촬영하여 실제 영상을 생성한다.
영상 처리부(220)는 스테레오 카메라(210)에서 촬영된 실제 영상으로부터 실제 객체와 실제 배경을 분리한다. 또한, 영상 처리부(220)는 가상 공간에 실제 객체와 실제 배경을 배치한다.
제어부(230)는 가상 공간을 생성하고, 생성된 가상 공간과 실제 공간을 매칭시킨다. 가상 공간과 실제 공간을 매칭하는 방법에 대해서는, 전술한 바 있으므로, 이에 대한 상세한 설명은 생략한다.
또한, 제어부(230)는 가상 공간에 배치할 가상 객체를 생성한다. 생성된 가상 객체는 영상 처리부(220)에 의해 가상 공간에 배치된다.
이에 의해, 영상 처리부(220)에서는 가상 공간에서 실제 배경과 실제 객체가 배치되고 가상 객체가 추가된 가상 콘텐츠가 생성되게 된다.
영상 출력부(240)는 영상 처리부(220)에 의해 생성된 가상 콘텐츠를 출력한다.
또한, 이상에서는 본 발명의 바람직한 실시예에 대하여 도시하고 설명하였지만, 본 발명은 상술한 특정의 실시예에 한정되지 아니하며, 청구범위에서 청구하는 본 발명의 요지를 벗어남이 없이 당해 발명이 속하는 기술분야에서 통상의 지식을 가진자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형실시들은 본 발명의 기술적 사상이나 전망으로부터 개별적으로 이해되어져서는 안될 것이다.
210 : 스테레오 카메라
220 : 영상 처리부
230 : 제어부
240 : 영상 출력부

Claims (6)

  1. 실제 카메라로 촬영되는 실제 공간과 가상 카메라로 촬영할 가상 공간을 매칭시키는 단계;
    상기 매칭 결과를 기초로, 상기 실제 카메라로 촬영된 실제 영상을 상기 가상 공간에 배치하는 제1 배치단계; 및
    가상 객체를 상기 가상 공간에 배치하는 제2 배치단계;를 포함하는 것을 특징으로 하는 가상 콘텐츠 생성 방법.
  2. 청구항 1에 있어서,
    상기 제1 배치단계는,
    상기 실제 영상을 실제 객체와 실제 배경으로 분리하는 단계; 및
    상기 매칭 결과를 기초로, 상기 실제 객체의 실제 좌표를 상기 가상 공간의 가상 좌표로 변환하여, 상기 실제 객체를 배치하는 단계;를 포함하는 것을 특징으로 하는 가상 콘텐츠 생성 방법.
  3. 청구항 3에 있어서,
    상기 실제 배경을 상기 가상 공간의 배경 영역에 배치하는 단계;를 더 포함하는 것을 특징으로 하는 가상 콘텐츠 생성 방법.
  4. 청구항 1에 있어서,
    상기 매칭 단계 전에, 상기 실제 카메라와 상기 가상 카메라를 동일하게 세팅하는 단계;를 더 포함하는 것을 특징으로 하는 가상 콘텐츠 생성 방법.
  5. 청구항 1에 있어서,
    상기 가상 카메라를 상기 실제 카메라의 실제 위치에 대응하는 가상 위치에 배치하는 단계;를 더 포함하는 것을 특징으로 하는 가상 콘텐츠 생성 방법.
  6. 실제 카메라로 촬영되는 실제 공간과 가상 카메라로 촬영할 가상 공간을 매칭시키고, 상기 가상 객체를 생성하는 제어부; 및
    상기 매칭 결과를 기초로 상기 실제 카메라로 촬영된 실제 영상을 상기 가상 공간에 배치하며, 가상 객체를 상기 가상 공간에 배치하는 영상 처리부;를 포함하는 것을 특징으로 하는 가상 콘텐츠 생성 시스템.
KR1020150014191A 2015-01-29 2015-01-29 공간 매칭 기법을 적용한 가상 콘텐츠 생성 방법 및 시스템 KR101952989B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020150014191A KR101952989B1 (ko) 2015-01-29 2015-01-29 공간 매칭 기법을 적용한 가상 콘텐츠 생성 방법 및 시스템

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020150014191A KR101952989B1 (ko) 2015-01-29 2015-01-29 공간 매칭 기법을 적용한 가상 콘텐츠 생성 방법 및 시스템

Publications (2)

Publication Number Publication Date
KR20160093769A true KR20160093769A (ko) 2016-08-09
KR101952989B1 KR101952989B1 (ko) 2019-02-28

Family

ID=56712198

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020150014191A KR101952989B1 (ko) 2015-01-29 2015-01-29 공간 매칭 기법을 적용한 가상 콘텐츠 생성 방법 및 시스템

Country Status (1)

Country Link
KR (1) KR101952989B1 (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020105847A1 (ko) * 2018-11-23 2020-05-28 삼성전자주식회사 전자 장치 및 그 제어 방법
US11763535B2 (en) 2018-11-23 2023-09-19 Samsung Electronics Co., Ltd. Electronic device and control method thereof

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20240029184A (ko) 2022-08-26 2024-03-05 (주)이노시뮬레이션 자율주행 육상이동체 로봇을 이용한 공간센싱과 객체추론 및 링커 기반의 육상이동체 주행 가상공간 실시간 자동 생성 시스템

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006352539A (ja) * 2005-06-16 2006-12-28 Sharp Corp 広視野映像システム
KR20090044105A (ko) * 2007-10-31 2009-05-07 (주)한국인터넷소프트웨어 삼차원 가상 공간 콘텐츠를 이용한 영상제공시스템
KR20120066233A (ko) * 2010-12-14 2012-06-22 삼성전자주식회사 다층 증강 현실 시스템 및 방법
KR20130014760A (ko) * 2011-08-01 2013-02-12 김현아 이동 단말에서의 증강현실 기반 정보 처리 방법

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006352539A (ja) * 2005-06-16 2006-12-28 Sharp Corp 広視野映像システム
KR20090044105A (ko) * 2007-10-31 2009-05-07 (주)한국인터넷소프트웨어 삼차원 가상 공간 콘텐츠를 이용한 영상제공시스템
KR20120066233A (ko) * 2010-12-14 2012-06-22 삼성전자주식회사 다층 증강 현실 시스템 및 방법
KR20130014760A (ko) * 2011-08-01 2013-02-12 김현아 이동 단말에서의 증강현실 기반 정보 처리 방법

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020105847A1 (ko) * 2018-11-23 2020-05-28 삼성전자주식회사 전자 장치 및 그 제어 방법
US11763535B2 (en) 2018-11-23 2023-09-19 Samsung Electronics Co., Ltd. Electronic device and control method thereof

Also Published As

Publication number Publication date
KR101952989B1 (ko) 2019-02-28

Similar Documents

Publication Publication Date Title
CN106454291B (zh) 用于自动配准和投影映射的系统和方法
CN110300292B (zh) 投影畸变校正方法、装置、系统及存储介质
JP6883608B2 (ja) 深度マップに対して画像位置合せを行って深度データを最適化することができる深度データ処理システム
JP6645151B2 (ja) 投影装置、投影方法及び投影用コンピュータプログラム
CN109564467B (zh) 具有音频、视觉和运动分析的数码相机
JP7387434B2 (ja) 画像生成方法および画像生成装置
KR102152436B1 (ko) 3차원 포인트 클라우드 기반의 동적 3차원 모델 생성을 위한 뼈대 정보 처리 시스템 및 방법
US20140362099A1 (en) Image processing apparatus and image processing method
EP4140552A1 (en) Image processing apparatus, image processing method, and program
KR20210032549A (ko) 화상 처리 장치, 화상 처리 방법 및 컴퓨터 프로그램
KR20160093769A (ko) 공간 매칭 기법을 적용한 가상 콘텐츠 생성 방법 및 시스템
TWI820246B (zh) 具有像差估計之設備、估計來自廣角影像的像差之方法及電腦程式產品
WO2019091115A1 (en) Method and system for scanning space using point cloud structure data
KR20150087446A (ko) 3차원 데이터 처리 장치 및 방법
KR101496441B1 (ko) 평면 디스플레이 장치와 영상 센서를 정합하기 위한 장치 및 방법과, 그 방법을 이용해 정합된 평면 디스플레이 장치와 영상 센서를 구비한 전자 장치
JP2016048467A (ja) 運動視差再現方法、装置およびプログラム
CN114004935A (zh) 通过三维建模系统进行三维建模的方法和装置
KR20150101343A (ko) 영상 투사 시스템
KR20140004604A (ko) 3차원 얼굴 생성 장치 및 방법
JP7040511B2 (ja) 情報処理装置および方法
KR101451236B1 (ko) 3차원 영상 변환 방법 및 그 장치
WO2020084312A1 (en) Method and system for providing at least a portion of content having six degrees of freedom motion
JP2020014075A (ja) 画像投影システム、画像投影方法、及びプログラム
JP5865092B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP2016099638A5 (ko)

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
AMND Amendment
E601 Decision to refuse application
AMND Amendment
X701 Decision to grant (after re-examination)
GRNT Written decision to grant