KR20110024570A - 3차원 동영상 전환시스템 및 방법 - Google Patents

3차원 동영상 전환시스템 및 방법 Download PDF

Info

Publication number
KR20110024570A
KR20110024570A KR1020090082618A KR20090082618A KR20110024570A KR 20110024570 A KR20110024570 A KR 20110024570A KR 1020090082618 A KR1020090082618 A KR 1020090082618A KR 20090082618 A KR20090082618 A KR 20090082618A KR 20110024570 A KR20110024570 A KR 20110024570A
Authority
KR
South Korea
Prior art keywords
image
motion vector
threshold
video
forming
Prior art date
Application number
KR1020090082618A
Other languages
English (en)
Other versions
KR101079207B1 (ko
Inventor
박한수
조일남
김상호
Original Assignee
(주)리얼디스퀘어
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by (주)리얼디스퀘어 filed Critical (주)리얼디스퀘어
Priority to KR1020090082618A priority Critical patent/KR101079207B1/ko
Publication of KR20110024570A publication Critical patent/KR20110024570A/ko
Application granted granted Critical
Publication of KR101079207B1 publication Critical patent/KR101079207B1/ko

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/158Switching image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/513Processing of motion vectors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0085Motion estimation from stereoscopic image signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Abstract

본 발명은 3차원 동영상 전환 시스템 및 방법에 대한 것이다. 본 발명에 의한 3차원 동영상 전환 시스템은, 2차원 동영상의 현재 영상과 지연 영상으로부터 3차원 동영상을 형성하는 3차원 동영상 전환 시스템으로서, 상기 2차원 동영상에서 현재 영상과 지연 영상 간의 움직임 벡터의 크기와 방향을 검출하는 수단과; 상기 움직임 벡터의 크기가 특정 조건에 따른 임계치를 초과하는지를 검출하는 수단과; 임계치를 초과하지 않는 경우에는 상기 움직임 벡터의 방향성에 따라 상기 현재영상과 상기 지연 영상을 좌안과 우안에 선택 대응되도록 배치하고, 임계치를 초과하는 것을 검출하는 경우에는 움직임 벡터의 크기를 임계치인 것으로 하여 대응하는 가공 영상을 생성하고 그 가공 영상이 상기 지연 영상을 대신하도록 하는 가공 영상 형성 수단을 포함하여 구성되는 것을 특징으로 한다.
동영상, 3차원, 지연, 시차, 양안

Description

3차원 동영상 전환시스템 및 방법{A System And A Method For Converting Into Three Dimentional Movie}
본 발명은 3차원 동영상 전환시스템 및 방법에 대한 것으로, 더욱 상세하게는 2차원 동영상의 프레임과 프레임 간의 움직임 벡터의 크기와 방향을 검출하고, 움직임 벡터의 크기가 임계치를 초과하는 경우에는 움직임 벡터 크기가 임계치인 것으로 하여 가공영상을 형성하고 이를 지연영상으로 하여 3차원 입체 동영상을 형성하는 3차원 동영상 전환시스템 및 방법에 대한 것이다.
도 1a는 양안 시차에 의한 입체영상의 원리를 설명하는 개요도이며, 도 1b는 2차원 동영상을 구성하는 프레임을 예시한 개요도이고, 도 1c는 MTD 방식에 의한 좌/우안에 현재프레임과 지연프레임을 배치한 상태를 예시한 개요도이고, 도 1d는 2차원 영상을 3차원 영상으로 전환시 움직임 벡터의 방향성에 따른 좌/우 영상 결정방법을 예시한 도표이다.
도 1a에 도시된 바와 같이, 인간이 사물을 볼 때 사물이 입체적으로 보이는 것은, 좌/우안이 서로 다른 영상을 보게 되고 이를 뇌에서 하나의 영상으로 합성되 어서 입체로 인식하는 것이며, 입체영상의 원리가 되는 좌/우 양안의 시차를 양안 시차라고 한다. 입체영상은 입체카메라를 이용하여 3차원 영상을 습득하는 것이 가장 좋은 방법이라고 할 수 있겠지만, 현재까지 제작된 수많은 영상을 다시 제작하기는 불가능하므로 2차원 영상을 3차원 영상으로 전환하기 위한 다양한 이론들과 방안이 제시되고 있다.
예컨대, 종래 2차원 동영상을 양안 지연 시차(Stereoopsis by binocular delay)의 원리를 이용하여 3차원로 동영상으로 변환하는 연구가 활발하게 진행되고 있다. 양안 지연 시차의 원리에 의한 2차원/3차원 변환은 스테레오 카메라를 이용한 제작과정을 거치지 않기 때문에 비용과 시간을 절약할 수 있으며 이미 제작된 2차원 영상물이나 방송프로그램을 3차원 영상물로 손쉽게 변환할 수 있다는 장점을 가진다.
이러한 변환기술은 J. Ross가 발견한 Ross 현상에 기반을 두고 있는 것으로 양안의 시간적인 지연이 입체감을 느끼는 원인이 된다는 것이 그의 이론이다. 즉, 카메라 및 물체 운동이 존재할 때에 현재 영상과 지연 영상을 사람의 좌/우안에 보이게 함으로써 3차원 입체효과를 발생시킨다는 것이다.
이에 의한 3차원 동영상을 생성하는 기술로 MTD(Modified Time Difference) 방식이 알려져 있다. MTD 방식을 적용한 일 예를 살펴보면, 압축된 2차원 동영상에서 움직임 정보를 추출하고 현재영상 이전의 K개 프레임 중에서 입체영상 형성시 깨짐 발생이 적은 하나의 프레임을 지연영상으로 결정하고 현재영상과 지연영상을 움직임벡터의 방향성에 따라 좌안과 우안에 선택적으로 배치하여 입체효과를 발생 시킨다.
예컨대, 도 1b에 도시된 바와 같이, 2차원 동영상은 'N프레임', 'N+1프레임', ..., 'N+M 프레임'으로 구성되며, MTD 방식은 도 1c와 1d에 예시된 바와 같이 좌안에는 'N프레임'을 우안에는 'N+1프레임'을 배치하는 방식으로 시간의 진행에 따른 양안 지연 시차에 의해 영상속의 객체가 앞쪽으로 튀어나오는 듯한 효과를 줌으로써 3차원 입체 동영상을 형성하게 된다.
그러나, 이러한 방식은 저속 수평 움직이는 물체에 대해서는 입체감을 느낄 수 있으나 배경과 같이 움직임이 적은 물체 대해서는 입체감을 느낄 수 없는 문제점이 있고, 이를 보완하기 위해 영상을 다양한 블록으로 분획하고 각 블록별로 복수의 이전 프레임으로부터 해당 블록에 대한 데이터를 얻어서 영상을 합성하여 지연영상을 제공하는 방법(한국 공개 특허 제10-2006-0036230호)이 제공된다.
그러나, 상기와 같은 종래의 2차원 동영상을 3차원 동영상으로 전환하는 MTD 방식에는 다음과 같은 문제점이 발생하게 된다.
도 1c와 1d에 도시된 종래 MTD 방식은 양안 지연 시차를 이용하여 2차원 영상을 3차원 영상으로 변환시키는 것인데 지연 영상을 위해 이전 프레임 중에 어느 하나를 선택하거나 이전 프레임들로부터 데이터를 합성하여 형성된 지연 영상을 제공하는 것이라는 한계가 있다. 즉, 종래 MTD 방식은 지연 영상의 구성데이터는 수개의 이전 프레임 중 어느 하나의 프레임을 선택하거나, 이미 존재하는 이전 프레임들의 정보를 결합한 것에 한정된다.
따라서, 영상물 내에서 이동속도가 빠른 경우에는 현재 프레임과 즉전 프레 임에 대한 움직임 벡터의 크기가 커져서 입체영상의 생생함보다는 화면이 이중으로 겹쳐져 보이거나 영상이 깨져버려 관찰자가 즐거움 대신 상당한 피로감을 느끼거나 불쾌감을 느끼게 되는 상황이 발생할 수 있게 된다.
본 발명의 목적은, 2차원 동영상을 MTD 방식에 의해 양안 지연 시차를 이용하여 3차원 동영상으로 전환하는 과정에서 움직임 벡터가 급격히 커지는 경우에 발생할 수 있는 화면 깨짐 현상이나 화면이 겹쳐보이는 현상을 방지하는 것이 가능한 3차원 동영상 전환 시스템 및 방법을 구현하는 것이다.
본 발명의 다른 목적은, 3차원 입체 동영상을 형성하는 과정의 연산량을 감소시켜 실시간으로 3 차원 동영상을 형성하는 것이 가능한 3차원 동영상 전환 시스템 및 방법을 구현하는 것이다.
상기 목적을 달성하기 위한 본 발명에 의한 3차원 동영상 전환시스템은, 2차원 동영상의 현재 영상과 지연 영상으로부터 3차원 동영상을 형성하는 3차원 동영상 전환시스템으로서, 상기 2차원 동영상에서 현재 영상과 지연 영상 간의 움직임 벡터의 크기와 방향을 검출하는 수단과; 상기 움직임 벡터의 크기가 특정 조건에 따른 임계치를 초과하는지를 검출하는 수단과; 임계치를 초과하지 않는 경우에는 상기 움직임 벡터의 방향성에 따라 상기 현재영상과 상기 지연 영상을 좌안과 우안에 선택 대응되도록 배치하고, 임계치를 초과하는 것을 검출하는 경우에는 움직임 벡터의 크기를 임계치인 것으로 하여 대응하는 가공 영상을 생성하고 그 가공 영상이 상기 지연 영상을 대신하도록 하는 가공 영상 형성 수단을 포함하여 구성되는 것을 특징으로 한다.
상기 가공 영상 형성수단은, 상기 현재영상과 임계 벡터로부터 가공 영상의 형성을 위한 이미지 매스크를 형성하는 매스킹 수단과; 상기 이미지 매스크에 상기 2차원 동영상을 이용하여 와핑을 수행하여 가공 영상을 형성하는 와핑 수단을 포함하여 구성되는 것을 특징으로 한다.
상기 현재 영상과 지연 영상 또는 가공 영상을 좌안 또는 우안으로 배치하기 위해 상기 움직임 벡터의 방향성을 검토하여 좌안 또는 우안으로 배치하는 영상배치 선택수단을 더 포함하여 구성되는 것을 특징으로 한다.
상기 목적을 달성하기 위한 본 발명에 의한 3차원 동영상 전환 방법은, 2차원 영상을 입력받는 단계와; 상기 2차원 영상의 특성에 대응하는 움직임 벡터 크기의 임계치를 설정하는 임계치 설정단계와; 상기 2차원 영상의 현재 영상과 지연 영상 간의 움직임 벡터와, 운동방향을 검출하는 벡터 검출 단계와; 상기 현재 영상과 지연 영상 간의 움직임 벡터 크기가 임계치를 초과하는지 여부를 판별하는 단계와; 상기 움직임 벡터 크기가 임계치를 초과하지 않는 경우에는 상기 현재 영상과 상기 지연영상을 좌안 또는 우안에 선택적으로 배치하는 영상 배치 단계와; 상기 움직임 벡터 크기가 임계치를 초과하는 것이 있는 경우에는 그 움직임 벡터의 크기를 임계치인 것으로 가정하여 가공 영상을 형성하고 이를 상기 지연 영상을 대신하도록 하는 가공 영상 형성단계를 포함하여 구성되는 것을 특징으로 한다.
상기 가상영상 형성단계는, 상기 임계치를 상기 움직임 벡터의 크기로 하여 매스크를 형성하는 단계와; 상기 입력된 2차원 영상을 이용하여 상기 매스크에 와 핑하여 가공 영상을 형성하는 단계와; 상기 움직임 벡터의 방향성을 분석하여 상기 가상영상을 좌안 또는 우안에 배치하는 단계를 포함하여 구성되는 것을 특징으로 한다.
상기 목적을 달성하기 위한 본 발명에 의한 저장매체는, 상술한바 중 어느 하나의 3차원 동영상 전환 방법의 각 단계를 컴퓨터 시스템상에서 수행하는 컴퓨터 프로그램을 저장하는 것을 특징으로 한다.
본 발명은 상기와 같은 구성에 의해 2차원 동영상에서 3차원 동영상을 형성하는 과정에 있어서 프레임 간 또는 현재영상과 지연영상 간 움직임 벡터의 크기가 큰 경우에도 화면의 깨짐이나 화면의 겹침 현상이 발생하지 않으면서 편안하고 실감있는 3차원 입체영상의 구현을 가능하게 한다.
이하 상기와 같은 구성을 갖는 본 발명에 의한 3차원 동영상 전환 시스템 및 방법의 바람직한 실시예의 구성을 첨부된 도면을 참조하여 상세하게 설명한다.
도 2는 본 발명의 실시예에 의한 3차원 동영상 전환시스템의 구성을 예시한 개요도이고, 도 3a 내지 도 3c는 본 발명의 실시예의 3차원 동영상 전환시스템에 의해 가공영상을 구현하는 과정을 예시한 개요도이다. 도 4는 본 발명의 실시예의 3차원 동영상 전환 시스템에 의해 형성된 가공영상을 좌안 또는 우안에 선택 배치 한 상태를 예시한 개요도이다. 도 5는 본 발명의 실시예의 3차원 동영상 전환 방법의 각 단계를 예시한 흐름도이다.
본 발명은 2차원 동영상의 현재 영상과 이전 영상, 즉 지연 영상으로부터 3차원 동영상을 형성하는 3차원 동영상 전환시스템으로서, 2차원 동영상 현재영상과 지연 영상 간의 움직임 벡터의 크기와 방향을 검출하는 벡터 검출 수단(12)과, 움직임 벡터의 크기가 특정 조건에 따른 임계치를 초과하는지를 검출하는 수단(13)과, 임계치를 초과시에는 움직임 벡터의 크기를 임계치인 것으로 하여 대응하는 가공 영상을 생성하여 지연 영상을 대신하도록 하는 가공 영상 형성 수단(20)을 포함하여 구성된다.
본 실시예의 벡터 검출수단(12)은 2차원 동영상에서 이전 프레임(또는 지연 영상)과 현재 프레임(또는 현재 영상)을 연관되게 하는 각 블록 또는 연관된 개체(덩어리)들의 움직임 벡터를 검출한다. 본 발명의 실시예에서 지연영상은 즉전 프레임일 수도 있고, 영상물의 특징(즉, 스포츠영상, 다큐멘타리, 드라마 등)· 지연팩터 및 움직임 벡터의 크기에 따라서 수개의 이전프레임 중 어느 하나의 프레임이 지연영상으로 선택될 수 있으며, 수개의 프레임 정보에 의해 결합 형성된 영상을 지연영상으로 하여 현재 영상에 대한 움직임벡터를 검출하는 것이 가능하다.
예컨대, 본 발명의 바람직한 일 실시예에서는 MPEG 기반의 압축 동영상에서 각 프레임의 움직임 정보는 복호화단에서 얻어지는 블록들에 대한 움직임 벡터에 의해 분석가능하며, 3차원 동영상을 형성하기 위한 정보로 활용가능하다.
특히, H.264에서는 움직임의 예측을 위하여 다양한 크기의 블록을 이용하기 때문에 더 정확한 움직임 벡터와 정보를 얻을 수 있으며, 블록 이외에 움직임의 유사성에 의해 연관된 개체(덩어리)에 대한 프레임 간의 움직임 벡터에 대한 정보를 얻어 3차원 영상을 형성하기 위한 정보로 활용가능하다.
그러나, 본 발명의 실시예에서 3차원 영상을 얻기 위한 2차원 동영상은 이들 2차원 압축 동영상들에 한정되는 것은 아니며, 다양한 형태의 2차원 동영상에 대해 적용될 수 있는 것이며 실시예에 따라 변경될 수 있는 부분이다. 예컨대, 본 발명의 다른 실시예는 움직임 벡터에 대한 정보가 없는 2차원 동영상으로부터 블록이나 움직임의 개체(덩어리)들을 추출하고 이들에 대한 움직임 벡터의 크기와 방향을 구하여 현재프레임과 이전 프레임들을 연관시키는 것이 가능하며 이들 정보로부터 3차원 동영상을 구현하는 것이 가능하다.
예컨대, 움직임 벡터의 방향에 의해 물체가 좌측에서 우측으로 이동하는 것으로 분석되는 경우 지연영상은 좌측에 배치하고 현재영상은 우측에 배치하는 방식에 의해 입체감이 얻어질 수 있으며, 움직임 벡터의 크기는 물체 또는 시점(示点)이 이동하는 속도에 대응된다. 특히 수평 이동의 경우는 움직임벡터의 크기는 물체의 속도에 비례하게 된다.
움직임 벡터의 크기가 큰 경우에는 프레임간 변화가 큰 경우이며 움직임 벡터의 크기가 작은 경우에는 프레임 간 변화가 적은 경우이며, 양안 지연 시차에 의해 입체감을 형성할 수 있는 움직임벡터의 크기는 일정범위로 한정되게 된다. 즉, 도 3b에 보여진 바와 같이, 움직임 벡터가 상대크기 5로서 일정범위(상대크기 10 이내)에 있는 경우에는 적당한 움직임에 의해 3차원 영상을 생생하게 재현할 수 있게 하지만, 움직임 벡터가 매우 적은 경우에는 입체적인 느낌을 갖기 어려운 측면이 있고, 움직임 벡터가 너무 크게되면(상대크기 15) 입체감을 느끼기보다는 화면이 겹쳐보이거나 영상이 깨져서 오히려 영상 식별이 곤란하게 될 수 있다.
본 발명의 일 실시예에서는 움직임 벡터의 일정 크기 범위에 대해서는 현재프레임을 현재 영상으로 하고 이전프레임의 영상을 지연 영상으로 하며, 프레임의 방향성에 따라 현재영상과 지연 영상을 좌안 또는 우안으로 선택 배치하여 3차원 영상을 구현한다. 또는 지연영상은 이전프레임들로부터 어느 하나가 선택되거나 수개의 이전프레임들로부터 연관된 개체(덩어리)들에 대한 움직임 벡터나 지연팩터 등의 정보를 통해 결합 형성된 영상에 의할 수 있다.
이 경우 움직임 벡터의 크기가 해당 영상물의 종류나 특징에 따라 특정되는 임계치보다 큰 경우에는 화면이 불일치 정도가 커서 입체감보다는 2개의 화면으로 보이거나 화면이 깨져보이는 현상이 발생하므로, 본 발명의 바람직한 실시예에서는 해당 프레임 간의 움직임 벡터 크기가 특정조건에 따른 임계치를 벗어나는지 여부를 검출하기 위한 수단(13)과 임계값을 벗어나는 경우 이를 보정하여 가공영상을 형성하는 수단(20)을 구비한다.
예컨대, 본 발명의 실시예의 가공영상 형성수단(20)은 임계치를 초과하는 움직임 벡터 크기를 임계치로 하여 움직임 벡터의 대상이 되는 블록이나 연관된 개체들에 대한 아웃트라인에 해당하는 매스크를 형성하는 매스킹수단(21)과, 상기 매스 킹수단(21)에 의해 형성된 매스크(23)에 대하여 영상 입력부(9)로 입력된 2차원 동영상을 토대로 와핑(warping)하여 가공영상을 구현하는 와핑 수단(22)을 포함하여 구성된다.
본 실시예의 매스킹 수단(21)은 각 프레임 간이나 현재영상-지연영상 사이 움직임 벡터의 크기가 특정된 임계치보다 큰 경우에는 그 움직임벡터의 크기를 임계치인 것으로 가정하여 그 움직임 벡터의 대상이 되는 블록이나 연관된 개체들에 대한 매스크(23)를 형성한다.
본 실시예의 매스크(23)는 도 3c에 도시된 바와 같이 현재영상 또는 현재 프레임에 임계치 이내 크기의 움직임 벡터에 의해 연관된 지연 대응점을 연결한 아웃트라인 형태로 형성될 수 있다.
본 발명의 바람직한 실시예에서는 임계치를 초과하는 움직임 벡터의 크기를 임계치로 보정하는 경우에 상기 움직임 벡터의 대상과 연관된 다른 개체들에 대해서 방향성에 왜곡이 발생하지 않도록 벡터크기를 보정하는 보정수단을 더 구비하는 것이 바람직하다.
본 실시예의 와핑 수단(22)은, 상기 움직임 벡터의 임계치에 의해 형성된 매스크에 대하여 전후의 영상을 토대로 하여 피드백으로 배경과 아웃트라인 내부 공간에 대한 재구성을 수행한다.
본 실시예에서는 가공영상이 형성되면, 방향성에 대한 분석을 하여 현재영상과 가공영상을 좌안 또는 우안에 배치하는 영상 재배치수단(25)을 더 포함하여 구 성된다.
본 실시예의 가공영상이 좌안 또는 우안에 배치되면, 구도인식 알고리즘(30)에 의해 형성된 원근과 깊이 등의 정보에 따라 좌안 또는 우안에 배치된 영상에 대한 쉬프트 알고리즘(28,29)이 수행되며, 좌안에 대한 영상과 우안에 대한 영상이 연관되게 동시적으로 출력하는 것에 의해 3차원 입체 동영상이 형성되게 된다.
다음은 상기와 같은 구성의 3차원 동영상 전환시스템에 의한 3차원 동영상 전환의 각 과정을 설명한다.
본 발명의 일 실시예에서 2차원 동영상을 입력받아 3차원 동영상을 생성하는 과정은, 2차원 동영상으로부터 현재영상과, 그 이전 영상들을 관련시키는 정보를 추출하여 지연 영상(또는 지연 프레임)을 획득하는 과정이 선행된다(제50단계).
예컨대, 현재 영상은 현재 프레임에 의할 수 있고, 지연 영상은 즉전 프레임이나 수개의 이전 프레임들 중 어느 하나에 의할 수 있다. 한편, 본 발명의 다른 실시예에서 지연영상은 수개의 이전 프레임들로부터 연관된 개체(덩어리)들에 대한 움직임 벡터나 지연 팩터 등의 정보를 통해 결합 형성된 영상에 의하는 것이 가능하며 영상물의 특성 및 실시예에 따라 다양한 지연 영상의 구현 예가 제시될 수 있다.
다음으로 임계값 설정수단(11)에 의해 현재영상과 지연영상 간 움직임 벡터의 크기의 임계치를 설정하는 과정이 수행되며, 임계치는 입력부(9)로 입력되는 영상물의 특성에 따라 변경될 수 있다(제51단계).
예컨대, 스포츠 영상 등 움직임이 빠른 경우에는 1초당 30프레임 정도가 보여지게 되며, 다큐멘터리 등의 영상에는 1초당 20프레임 정도로도 효과적인 2차원 동영상이 가능하며, 동일종류 영상물의 경우에도 장면에 따라 영상이 구성이 달라질 수 있으므로 이들 영상물을 3차원 영상으로 변환시키기 위한 움직임벡터의 조건은 영상물의 종류나 특성에 따라 상이하게 설정될 수 있으며, 그에 따라 움직임 벡터의 임계크기는 다르게 설정될 수 있다.
2차원 영상의 특성에 따라 움직임 벡터 크기의 임계값이 설정되게 되면, 해당 영상물의 현재 영상과 지연영상 사이 움직임벡터의 크기와 방향을 검출하고 그 크기가 임계치를 초과하는지를 검출한다(제52단계,제53단계).
움직임 벡터의 크기가 임계치 이내인 경우에는 움직임 벡터의 방향성을 고려하여 현재영상과 지연영상을 좌안 또는 우안에 배치하여 3차원 입체영상을 구현할 수 있도록 한다(제60단계).
한편, 움직임 벡터의 크기가 임계치를 초과하는 것이 있는 경우에는 그 움직임 벡터의 크기를 임계치에 해당하는 것으로 하여 가공영상을 형성하게 된다(제55단계,제56단계).
가공영상을 형성하는 단계를 살펴보면, 움직임 벡터의 크기를 임계치로 가정하고 지연영상과 현재영상의 다수 대응점들에 대해서도 방향성의 왜곡을 방지할 수 있도록 임계크기 이내의 적절한 크기를 부여하여 연관된 개체에 대한 매스크(20)를 형성하는 과정을 수행한다(제55단계).
상기 매스크(20)에 대하여 입력된 동영상의 지연영상과 현재영상의 정보를 이용하여 매스크 아웃트라인 내측과 외측 배경을 형성하여 가공영상을 완성하게 된다(제56단계).
본 발명의 실시예에서 상기 가공영상은 상기 지연영상을 대신하게 되며, 움직임 벡터의 방향성에 따라 현재영상과 가공영상은 좌안 또는 우안으로 배치되어 입체영상을 형성하게 된다(제57단계).
이때, 2차원 동영상에 대해 구도인식 알고리즘(30)을 수행하여 파악된 구도 정보에 의해 좌안과 우안에 배치된 영상에 대한 쉬프트 알고리즘(28,29)이 수행되고 동시적으로 현재영상과 지연영상 또는 가공영상이 선택적으로 좌안 또는 우안에 출력되어 보여지는 것에 의해 3차원 입체 동영상을 형성하게 된다(제58단계).
본 발명의 실시예에서는 3차원 영상을 형성하는 과정에 매스크(23)을 형성하여 가공영상을 형성하므로 3차원 입체 동영상을 형성하는 과정의 연산량을 감소시켜 실시간으로 3 차원 동영상을 형성하는 것이 가능해진다.
본 발명의 권리범위는 상기 실시예에 한정되는 것이 아니라 특허청구범위에 기재된 사항에 의해 정해지며, 특허청구범위에 기재된 사항과 균등범위에서 당업자가 행한 다양한 변형과 개작을 포함함은 자명하다.
도 1a는 양안 시차에 의한 입체영상의 원리를 설명하는 개요도.
도 1b는 2차원 동영상을 구성하는 프레임을 예시한 개요도.
도 1c는 MTD 방식에 의한 좌/우안에 현재프레임과 지연프레임을 배치한 상태를 예시한 개요도.
도 1d는 2차원 영상을 3차원 영상으로 전환시 움직임 벡터의 방향성에 따른 좌/우 영상 결정방법을 예시한 도표.
도 2는 본 발명의 실시예에 의한 3차원 동영상 전환시스템의 구성을 예시한 개요도.
도 3a 내지 도 3c는 본 발명의 실시예의 3차원 동영상 전환시스템에 의해 가공영상을 구현하는 과정을 예시한 개요도.
도 4는 본 발명의 실시예의 3차원 동영상 전환 시스템에 의해 형성된 가공영상을 좌안 또는 우안에 선택 배치한 상태를 예시한 개요도.
도 5는 본 발명의 실시예의 3차원 동영상 전환 방법의 각 단계를 예시한 흐름도.

Claims (6)

  1. 2차원 동영상의 현재 영상과 지연 영상으로부터 3차원 동영상을 형성하는 3차원 동영상 전환시스템으로서,
    상기 2차원 동영상에서 현재 영상과 지연 영상 간의 움직임 벡터의 크기와 방향을 검출하는 수단과;
    상기 움직임 벡터의 크기가 특정 조건에 따른 임계치를 초과하는지를 검출하는 수단과;
    임계치를 초과하지 않는 경우에는 상기 움직임 벡터의 방향성에 따라 상기 현재영상과 상기 지연 영상을 좌안과 우안에 선택 대응되도록 배치하고, 임계치를 초과하는 것을 검출하는 경우에는 움직임 벡터의 크기를 임계치인 것으로 하여 대응하는 가공 영상을 생성하고 그 가공 영상이 상기 지연 영상을 대신하도록 하는 가공 영상 형성 수단을 포함하여 구성되는 것을 특징으로 하는 3차원 동영상 전환 시스템.
  2. 청구항 1에 있어서, 상기 가공 영상 형성수단은,
    상기 현재영상과 임계 벡터로부터 가공 영상의 형성을 위한 이미지 매스크를 형성하는 매스킹 수단과;
    상기 이미지 매스크에 상기 2차원 동영상을 이용하여 와핑을 수행하여 가공 영상을 형성하는 와핑 수단을 포함하여 구성되는 것을 특징으로 하는 3차원 동영상 전환 시스템.
  3. 청구항 1 또는 2에 있어서, 상기 현재 영상과 지연 영상 또는 가공 영상을 좌안 또는 우안으로 배치하기 위해 상기 움직임 벡터의 방향성을 검토하여 좌안 또는 우안으로 배치하는 영상배치 선택수단을 더 포함하여 구성되는 것을 특징으로 하는 3차원 동영상 전환 시스템.
  4. 2차원 영상을 입력받는 단계와;
    상기 2차원 영상의 특성에 대응하는 움직임 벡터 크기의 임계치를 설정하는 임계치 설정단계와;
    상기 2차원 영상의 현재 영상과 지연 영상 간의 움직임 벡터와, 운동방향을 검출하는 벡터 검출 단계와;
    상기 현재 영상과 지연 영상 간의 움직임 벡터 크기가 임계치를 초과하는지 여부를 판별하는 단계와;
    상기 움직임 벡터 크기가 임계치를 초과하지 않는 경우에는 상기 현재 영상과 상기 지연영상을 좌안 또는 우안에 선택적으로 배치하는 영상 배치 단계와;
    상기 움직임 벡터 크기가 임계치를 초과하는 것이 있는 경우에는 그 움직임 벡터의 크기를 임계치인 것으로 가정하여 가공 영상을 형성하고 이를 상기 지연 영상을 대신하도록 하는 가공 영상 형성단계를 포함하여 구성되는 것을 특징으로 하는 3차원 동영상 전환 방법.
  5. 청구항 4에 있어서, 상기 가상영상 형성단계는,
    상기 임계치를 상기 움직임 벡터의 크기로 하여 매스크를 형성하는 단계와;
    상기 입력된 2차원 영상을 이용하여 상기 매스크에 와핑하여 가공 영상을 형성하는 단계와;
    상기 움직임 벡터의 방향성을 분석하여 상기 가상영상을 좌안 또는 우안에 배치하는 단계를 포함하여 구성되는 것을 특징으로 하는 3차원 동영상 전환 방법.
  6. 청구항 4 또는 5에 있어서의 3차원 동영상 전환 방법의 각 단계를 컴퓨터 시스템상에서 수행하는 컴퓨터 프로그램을 저장되는 저장매체.
KR1020090082618A 2009-09-02 2009-09-02 3차원 동영상 전환시스템 및 방법 KR101079207B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020090082618A KR101079207B1 (ko) 2009-09-02 2009-09-02 3차원 동영상 전환시스템 및 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020090082618A KR101079207B1 (ko) 2009-09-02 2009-09-02 3차원 동영상 전환시스템 및 방법

Publications (2)

Publication Number Publication Date
KR20110024570A true KR20110024570A (ko) 2011-03-09
KR101079207B1 KR101079207B1 (ko) 2011-11-07

Family

ID=43932379

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020090082618A KR101079207B1 (ko) 2009-09-02 2009-09-02 3차원 동영상 전환시스템 및 방법

Country Status (1)

Country Link
KR (1) KR101079207B1 (ko)

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100263936B1 (ko) 1997-12-30 2000-08-16 윤종용 가상 스테레오 영상을 이용한 2차원 연속 영상의 3차원 영상 변환 장치 및 방법
KR100263935B1 (ko) 1997-12-30 2000-08-16 윤종용 운동 시차의 수평 시차로의 변환을 이용한 2차원 연속 영상의 3차원 영상 변환장치 및 방법

Also Published As

Publication number Publication date
KR101079207B1 (ko) 2011-11-07

Similar Documents

Publication Publication Date Title
KR101185870B1 (ko) 3d 입체 영상 처리 장치 및 방법
JP2000078611A (ja) 立体映像受信装置及び立体映像システム
WO2011135760A1 (ja) 立体映像処理装置及び立体映像処理方法
EP2582143A2 (en) Method and device for converting three-dimensional image using depth map information
KR20110086079A (ko) 입력 3차원 비디오 신호를 프로세싱하는 방법 및 시스템
JP2013527646A5 (ko)
JP2009244502A (ja) 画像処理装置、画像表示装置、撮像装置及び画像処理方法
JP2017510092A (ja) オートステレオスコピックマルチビューディスプレイのための画像の生成
TWI478575B (zh) 3d影像處理裝置
US20120087571A1 (en) Method and apparatus for synchronizing 3-dimensional image
JP2012222641A (ja) 画像処理装置、画像処理方法、及びプログラム
JP6033625B2 (ja) 多視点画像生成装置、画像生成方法、表示装置、プログラム、及び、記録媒体
JP2012019517A (ja) ディスプレイ方法および装置
JP5689095B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP5691965B2 (ja) 奥行き推定データの生成装置、生成方法及び生成プログラム、並びに疑似立体画像の生成装置、生成方法及び生成プログラム
KR101228916B1 (ko) 멀티 비젼의 3차원 영상 표시 장치 및 방법
JP5464129B2 (ja) 画像処理装置および視差情報生成装置
KR101079207B1 (ko) 3차원 동영상 전환시스템 및 방법
JP4815004B2 (ja) 多視点画像符号化装置
JP5664356B2 (ja) 生成装置および生成方法
JP5989315B2 (ja) 表示制御プログラム、表示制御システム、表示制御装置、および、表示制御方法
KR101289269B1 (ko) 영상 시스템에서 영상 디스플레이 장치 및 방법
JP2008167310A (ja) 裸眼立体視画像処理方法および装置ならびに演算プログラムを記録した記録媒体
KR101192313B1 (ko) 깊이 영상의 시간적 상관도 향상 방법
WO2011114745A1 (ja) 映像再生装置

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
LAPS Lapse due to unpaid annual fee