KR20170036476A - 다시점 영상 디스플레이 장치 및 그 제어 방법 - Google Patents

다시점 영상 디스플레이 장치 및 그 제어 방법 Download PDF

Info

Publication number
KR20170036476A
KR20170036476A KR1020150135685A KR20150135685A KR20170036476A KR 20170036476 A KR20170036476 A KR 20170036476A KR 1020150135685 A KR1020150135685 A KR 1020150135685A KR 20150135685 A KR20150135685 A KR 20150135685A KR 20170036476 A KR20170036476 A KR 20170036476A
Authority
KR
South Korea
Prior art keywords
view
image
depth
views
slope
Prior art date
Application number
KR1020150135685A
Other languages
English (en)
Other versions
KR102143463B1 (ko
Inventor
한승룡
강진모
이호영
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020150135685A priority Critical patent/KR102143463B1/ko
Priority to US15/018,035 priority patent/US10212416B2/en
Priority to CN201610540158.7A priority patent/CN106559662B/zh
Publication of KR20170036476A publication Critical patent/KR20170036476A/ko
Application granted granted Critical
Publication of KR102143463B1 publication Critical patent/KR102143463B1/ko

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/349Multi-view displays for displaying three or more geometrical viewpoints without viewer tracking
    • H04N13/351Multi-view displays for displaying three or more geometrical viewpoints without viewer tracking for displaying simultaneously
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/302Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays
    • H04N13/317Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays using slanted parallax optics
    • H04N13/0402
    • H04N13/0022
    • H04N13/0425
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/122Improving the 3D impression of stereoscopic images by modifying image signal contents, e.g. by filtering or adding monoscopic depth cues
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/128Adjusting depth or disparity
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/167Synchronising or controlling image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/302Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/302Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays
    • H04N13/305Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays using lenticular lenses, e.g. arrangements of cylindrical lenses
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/302Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays
    • H04N13/31Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays using parallax barriers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/324Colour aspects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/398Synchronisation thereof; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0081Depth or disparity estimation from stereoscopic image signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Processing Or Creating Images (AREA)

Abstract

다시점 영상 디스플레이 장치가 개시된다. 다시점 영상 디스플레이 장치는, 영상을 입력받는 영상 입력부 및, 입력된 영상에 기초하여 생성된 다시점 영상을 디스플레이하는 디스플레이, 및 입력된 영상의 뎁스에 기초하여 서로 다른 시점을 갖는 복수의 뷰를 렌더링하고, 복수의 뷰를 구성하는 픽셀 값에 기초하여 다시점 영상을 생성하는 프로세서를 포함하며, 프로세서는, 싸이클릭 맵핑 방식에 따른 정시 영역이 확장되도록 하고, 정시 영역 확장에 따라 역시 영역에서 발생하는 뷰 점핑 영역에서의 뷰 점핑 양이 기설정된 임계값이 되도록 복수의 뷰를 구성하는 픽셀 값을 조정하여 다시점 영상을 생성한다.

Description

다시점 영상 디스플레이 장치 및 그 제어 방법 { MULTI VIEW IMAGE DISPLAY APPARATUS AND CONTORL METHOD THEREOF }
본 발명은 다시점 영상 디스플레이 장치 및 제어 방법에 관한 것으로, 더욱 상세하게는 무안경식 다시점 영상 디스플레이 장치 및 그 제어 방법에 관한 것이다.
전자 기술의 발달에 힘입어 다양한 유형의 전자기기가 개발 및 보급되고 있다. 특히, 일반 가정에서 가장 많이 사용되고 있는 가전 제품 중 하나인 TV와 같은 디스플레이 장치는 최근 수년 간 급속도로 발전하고 있다.
디스플레이 장치의 성능이 고급화되면서, 디스플레이 장치에서 디스플레이하는 컨텐츠의 종류도 다양하게 증대되었다. 특히, 최근에는 3D 컨텐츠까지 시청할 수 있는 입체 디스플레이 시스템이 개발되어 보급되고 있다.
입체 디스플레이 장치는 일반 가정에서 사용되는 3D 텔레비젼 뿐만 아니라, 각종 모니터, 휴대폰, PDA, PC, 셋탑 PC, 태블릿 PC, 전자 액자, 키오스크 등과 같은 다양한 유형의 디스플레이 장치로 구현될 수 있다. 또한, 3D 디스플레이 기술은, 가정 내 사용 뿐만 아니라 과학, 의약, 디자인, 교육, 광고, 컴퓨터 게임 등과 같이 3D 이미징이 필요한 다양한 분야에 활용될 수 있다.
입체 디스플레이 시스템은 크게 안경 없이 시청 가능한 무안경식 시스템과, 안경을 착용하여 시청하여야 하는 안경식 시스템으로 분류할 수 있다.
안경식 시스템은 만족스러운 입체감을 제공할 수 있으나, 사용자가 반드시 안경을 사용하여야만 한다는 불편함이 있었다. 이에 비해, 무안경식 시스템은 안경 없이도 3D 이미지를 시청할 수 있다는 장점이 있어, 무안경식 시스템에 대한 개발 논의가 지속적으로 이루어지고 있다.
본 발명은 상술한 필요성에 따라 안출된 것으로, 본 발명은 싸이클릭 맵핑 방식에서 정시 영역을 확장하여 선명한 3D 영상을 제공하는 다시점 영상 디스플레이 장치 및 그 제어 방법을 제공하는 것을 목적으로 한다.
본 발명의 상술한 목적을 달성하기 위한 일 실시 예에 따르면 다시점 영상 디스플레이 장치는, 영상을 입력받는 영상 입력부, 상기 입력된 영상에 기초하여 생성된 다시점 영상을 디스플레이하는 디스플레이 및, 상기 입력된 영상의 뎁스에 기초하여 서로 다른 시점을 갖는 복수의 뷰를 렌더링하고, 상기 복수의 뷰를 구성하는 픽셀 값에 기초하여 상기 다시점 영상을 생성하는 프로세서를 포함하며, 상기 프로세서는, 싸이클릭 맵핑 방식에 따른 정시 영역이 확장되도록 하고, 상기 정시 영역 확장에 따라 역시 영역에서 발생하는 뷰 점핑 영역에서의 뷰 점핑 양이 기설정된 임계값이 되도록 상기 복수의 뷰를 구성하는 픽셀 값을 조정하여 상기 다시점 영상을 생성한다.
여기서, 상기 디스플레이는, 상기 다시점 영상을 디스플레이하는 디스플레이 패널 및, 상기 디스플레이 패널의 전면에 배치되어 사용자의 시청 영역에서 서로 다른 시점의 광학 뷰를 제공하는 시역 분리부를 포함하며, 상기 다시점 영상을 생성하기 위해 이용되는 상기 복수의 뷰의 개수는 상기 광학 뷰의 개수보다 많을 수 있다.
또한, 상기 프로세서는, 상기 복수의 뷰 각각의 동일한 픽셀 라인으로 구성된 에피폴라(epipolar) 이미지에 기초하여 생성된 에피폴라 도메인에서 상기 정시 영역이 확장되도록 하고, 상기 정시 영역 확장에 따라 역시 영역에서 발생하는 뷰 점핑 영역에서의 뷰 점핑 양이 기설정된 임계값이 되도록 상기 복수의 뷰를 구성하는 픽셀 값을 조정하여 상기 다시점 영상을 생성할 수 있다.
또한, 상기 프로세서는, 상기 입력된 영상의 뎁스에 기초하여 정시 영역이 확장되도록 하는 복수의 뷰 개수 및 뷰 간 뎁스 차를 산출하고, 이에 기초하여 상기 복수의 뷰를 렌더링하고 상기 복수의 뷰를 구성하는 픽셀 값에 기초하여 상기 다시점 영상을 생성할 수 있다.
또한, 상기 프로세서는, 상기 뷰 점핑 영역에서 발생되는 뷰 간 뎁스 차를 적응적으로 스무싱 처리하여 상기 다시점 영상을 생성할 수 있다.
또한, 상기 프로세서는, 상기 뷰 점핑 영역에서의 뷰 점핑 양이 기설정된 임계값이 되도록 설정된, 정시 영역에서 제공되는 서로 다른 시점의 복수의 뷰 간 뎁스 차에 대응되는 임계 기울기 값을 산출하고, 상기 입력된 영상의 뎁스 기울기 및 상기 산출된 임계 기울기 간의 차이에 기초하여 상기 입력된 영상의 뎁스 기울기 및 상기 임계 기울기 중 적어도 하나로 상기 입력 영상을 처리하여 상기 다시점 영상을 생성할 수 있다.
또한, 상기 뷰 점핑 영역에서의 뷰 점핑 양이 기설정된 임계값이 되도록 설정된, 정시 영역에서 제공되는 서로 다른 시점의 복수의 뷰 간 뎁스 차에 대응되는 임계 기울기 값을 저장하는 저장부;를 더 포함하며, 상기 프로세서는, 상기 입력된 영상의 뎁스 기울기 및 상기 임계 기울기 간의 차이에 기초하여 상기 입력된 영상의 뎁스 기울기 및 상기 임계 기울기 중 적어도 하나로 상기 입력 영상을 처리하여 상기 다시점 영상을 생성할 수 있다.
또한, 상기 프로세서는, 상기 입력된 영상의 뎁스 기울기가 상기 임계 기울기 값보다 큰 경우, 상기 임계 기울기 값으로 상기 입력된 영상을 처리하여, 상기 다시점 영상을 생성할 수 있다.
또한, 상기 프로세서는, 상기 입력된 영상의 뎁스 기울기가 상기 임계 기울기 값보다 크지만, 상기 입력된 영상의 뎁스 기울기를 유지하는 디스플레이 모드인 경우, 역시 구간에서의 뎁스 기울기 만을 상기 임계 기울기 값으로 보정할 수 있다.
또한, 상기 프로세서는, 상기 입력된 영상의 뎁스 기울기가 상기 임계 기울기 값보다 작은 경우, 상기 입력된 영상의 뎁스 기울기에 따라 정시 영역을 추가적으로 확장시킬 수 있다.
또한, 사용자 명령을 입력받는 사용자 인터페이스부를 더 포함하며, 상기 프로세서는, 상기 사용자 명령에 따라 설정된 입체감에 기초하여 상기 싸이클릭 맵핑 방식에 따른 정시 영역이 확장되도록 상기 다시점 영상을 생성할 수 있다.
한편, 본 발명의 일 실시 예에 따른 다시점 영상 디스플레이 장치의 제어 방법은, 입력된 영상의 뎁스에 기초하여 서로 다른 시점을 갖는 복수의 뷰를 렌더링하고, 상기 복수의 뷰를 구성하는 픽셀 값에 기초하여 상기 다시점 영상을 생성하는 단계 및, 상기 생성된 다시점 영상을 디스플레이하는 단계를 포함하며, 상기 다시점 영상을 생성하는 단계는, 싸이클릭 맵핑 방식에 따른 정시 영역이 확장되도록 하고, 상기 정시 영역 확장에 따라 역시 영역에서 발생하는 뷰 점핑 영역에서의 뷰 점핑 양이 기설정된 임계값이 되도록 상기 복수의 뷰를 구성하는 픽셀 값을 조정하여 상기 다시점 영상을 생성한다.
여기서, 상기 다시점 영상 디스플레이 장치는, 상기 다시점 영상을 디스플레이하는 디스플레이 패널 및, 상기 디스플레이 패널의 전면에 배치되어 사용자의 시청 영역에서 서로 다른 시점의 광학 뷰를 제공하는 시역 분리부를 포함하며, 상기 다시점 영상을 생성하기 위해 이용되는 상기 복수의 뷰의 개수는 상기 광학 뷰의 개수보다 많을 수 있다.
또한, 상기 다시점 영상을 생성하는 단계는, 상기 복수의 뷰 각각의 동일한 픽셀 라인으로 구성된 에피폴라(epipolar) 이미지에 기초하여 생성된 에피폴라 도메인에서 상기 정시 영역이 확장되도록 하고, 상기 정시 영역 확장에 따라 역시 영역에서 발생하는 뷰 점핑 영역에서의 뷰 점핑 양이 기설정된 임계값이 되도록 상기 복수의 뷰를 구성하는 픽셀 값을 조정하여 상기 다시점 영상을 생성할 수 있다.
또한, 상기 다시점 영상을 생성하는 단계는, 상기 입력된 영상의 뎁스에 기초하여 정시 영역이 확장되도록 하는 복수의 뷰 개수 및 뷰 간 뎁스 차를 산출하고, 이에 기초하여 상기 복수의 뷰를 렌더링하고 상기 복수의 뷰를 구성하는 픽셀 값에 기초하여 상기 다시점 영상을 생성할 수 있다.
또한, 상기 다시점 영상을 생성하는 단계는, 상기 뷰 점핑 영역에서 발생되는 뷰 간 뎁스 차를 적응적으로 스무싱 처리하여 상기 다시점 영상을 생성할 수 있다.
또한, 상기 다시점 영상을 생성하는 단계는, 상기 뷰 점핑 영역에서의 뷰 점핑 양이 기설정된 임계값이 되도록 설정된, 정시 영역에서 제공되는 서로 다른 시점의 복수의 뷰 간 뎁스 차에 대응되는 임계 기울기 값을 산출하고, 상기 입력된 영상의 뎁스 기울기 및 상기 산출된 임계 기울기 간의 차이에 기초하여 상기 입력된 영상의 뎁스 기울기 및 상기 임계 기울기 중 적어도 하나로 상기 입력 영상을 처리하여 상기 다시점 영상을 생성할 수 있다.
또한, 상기 다시점 영상 디스플레이 장치는, 상기 뷰 점핑 영역에서의 뷰 점핑 양이 기설정된 임계값이 되도록 설정된, 정시 영역에서 제공되는 서로 다른 시점의 복수의 뷰 간 뎁스 차에 대응되는 임계 기울기 값을 저장하며, 상기 다시점 영상을 생성하는 단계는, 상기 입력된 영상의 뎁스 기울기 및 상기 기 저장된 임계 기울기 간의 차이에 기초하여 상기 입력된 영상의 뎁스 기울기 및 상기 임계 기울기 중 적어도 하나로 상기 입력 영상을 처리하여 상기 다시점 영상을 생성할 수 있다.
또한, 상기 다시점 영상을 생성하는 단계는, 상기 입력된 영상의 뎁스 기울기가 상기 임계 기울기 값보다 큰 경우, 상기 임계 기울기 값으로 상기 입력된 영상을 처리하며, 상기 입력된 영상의 뎁스 기울기가 상기 임계 기울기 값보다 크지만, 상기 입력된 영상의 뎁스 기울기를 유지하는 디스플레이 모드인 경우, 역시 구간에서의 뎁스 기울기 만을 상기 임계 기울기 값으로 보정할 수 있다.
또한, 상기 다시점 영상을 생성하는 단계는, 상기 입력된 영상의 뎁스 기울기가 상기 임계 기울기 값보다 작은 경우, 상기 입력된 영상의 뎁스 기울기에 따라 정시 영역을 추가적으로 확장시킬 수 있다.
이상과 같이 본 발명의 다양한 실시 예에 따르면, 무안경식 디스플레이 시스템에서 3D 시청에 따른 피로감을 저감시키고, 자연스러운 3D 시청 환경을 제공할 수 있게 된다.
도 1a 내지 도 1c는 본 발명의 이해를 돕기 위한 Linear Mapping 방식에 따른 다시점 영상의 디스플레이 동작을 설명하는 도면들이다.
도 2a 및 도 2b는 본 발명의 이해를 돕기 위한 Cyclic Mapping 방식에 따른 3D 디스플레이 장치의 동작을 설명하기 위한 도면들이다.
도 3a 내지 도 3d는 본 발명의 일 실시 예에 따른 다시점 영상 디스플레이 장치의 구성을 설명하기 위한 도면들이다.
도 4는 본 발명의 일 실시 예에 따른 에피폴라 이미지 생성 방법을 설명하기 위한 도면이다.
도 5a 및 도 5b는 본 발명의 일 실시 예에 따른 에피폴라 도메인 생성 방법을 설명하기 위한 도면들이다.
도 6은 본 발명의 일 실시 예에 따른 싸이클릭 맵핑 방식에 따라 구성된 에피폴라 도메인의 일 예를 나타내는 도면이다.
도 7 내지 도 10b는 본 발명의 일 실시 예에 따라 정시 영역을 확장하는 방법을 설명하기 위한 도면들이다.
도 11a 및 도 11b, 도 12a 및 도 12b는 본 발명의 일 실시 예에 따라 정시 영역을 확장하는 방법을 설명하기 위한 도면들이다.
도 12a 및 도 12b는 본 발명의 다른 실시 예에 따라 정시 영역을 조정하는 방법을 설명하기 위한 도면들이다.
도 14a 및 도 14b는 본 발명의 또 다른 실시 예에 따라 정시 영역을 조정하는 방법을 설명하기 위한 도면들이다.
도 15는 본 발명의 일 실시 예에 따른 다시점 영상 디스플레이 장치의 제어 방법을 설명하기 위한 흐름도이다.
이하 본 발명의 다양한 실시 예를 첨부된 도면을 참조하여 상세히 설명한다.
도 1a 내지 도 1c는 본 발명의 이해를 돕기 위한 Linear Mapping 방식에 따른 다시점 영상의 디스플레이 동작을 설명하는 도면들이다.
무 안경식 시스템이 복수의 광학 뷰를 가질 경우, 입력된 영상에 대한 렌더링을 통해 복수의 뷰를 생성하고, 복수의 뷰를 이용하여 생성된 다시점 영상을 제공할 수 있다. 여기서, 복수의 뷰 각각은 하나의 시점 영상이 될 수도 있으나, 복수의 시점 영상이 하나의 뷰를 구성할 수도 있다. 예를 들어, 총 7개의 시점 영상으로 7개의 광학 뷰를 제공하는 경우에는 하나의 뷰가 하나의 시점 영상에 대응될 수 있지만, 총 N 개의 시점 영상으로 7개의 광학 뷰를 제공하는 경우 하나의 뷰는 M(M≥1)개의 시점 영상으로 구성될 수도 있다.
한편, 다시점 영상은 View Mapping 기술을 통해 생성된 디스플레이를 위한 영상으로, 다시점 영상을 생성하기 위한 View Mapping에 방식에는 Linear Mapping 방식 및 Cyclic Mapping 방식이 존재한다.
Linear Mapping 방식은 도 1a 및 도 1b에 도시된 바와 같이 서로 다른 시점을 갖는 복수의 뷰, 예를 들어, 1 시점부터 7 시점까지의 뷰를 1, 2, 3, 4, 5, 6, 7, 1, 2, 3... 시점 순으로 광학 뷰에 매칭하는 방식이다.
도 1c는 Linear Mapping 방식에 따라 입체 영상을 제공하는 장치의 동작 방식을 나타낸다.
도시된 바와 같이, 서로 다른 시점에서 촬영한 복수의 영상을 서로 다른 각도로 굴절시키고, 소위 시청 거리라 하는 일정한 거리만큼 떨어진 위치(가령, 약 3m)에 포커스된 영상을 제공한다. 이러한 영상이 형성되는 위치를 시청 영역(또는 광학 뷰)이라 한다. 이에 따라, 사용자(또는 시청자)의 한 쪽 눈이 하나의 제1 시청 영역에 위치하고, 다른 쪽 눈이 제2 시청 영역에 위치하면 입체감을 느낄 수 있게 된다.
일 예로, 도 1c에 따르면, 무안경 3D 디스플레이 장치는 좌안에는 7 시점 중 1 시점 영상에 해당하는 광이, 우안에는 2 시점 영상에 해당하는 광이 투사되도록 할 수 있다. 이에 따라, 사용자는 좌안 및 우안에서 서로 다른 시점의 영상을 시청하게 되어 입체감을 느낄 수 있게 된다.
다만, Linear Mapping 방식의 경우, 시청 위치에 따른 Dead Zone이 발생할 수 있다는 문제점이 있다. 여기서, Dead Zone이란, 사용자의 시청위치가 7 시점에서 1 시점으로 전환되는 위치를 의미하며, 이 위치에서는 디스패리티의 급격한 변화(Jumping 현상)로 인해 심각한 Crosstalk가 발생하여 3D 영상을 시청할 수 없고 사용자에게 시각적 피로감을 주게 된다. 즉, 7 시점 뷰 및 1 시점 뷰를 동시에 시청하게 되는 위치가 Dead Zone에 해당한다.
Cyclic Mapping 방식은 1, 2, 3, 4, 3, 2, 1 시점 순으로 뷰를 배치하는 방식으로, Linear Mapping 방식에서 발생하는 디스패리티의 급격한 변화를 완화시키는 효과를 낼 수 있다는 장점이 있다.
도 2a 및 도 2b는 본 발명의 이해를 돕기 위한 Cyclic Mapping 방식에 따른 3D 디스플레이 장치의 동작을 설명하기 위한 도면들이다.
본 발명에 따르면, 도 1a 및 도 1b에서 설명한 Linear Mapping 방식에 따른 문제점을 해소하기 위하여 Cyclic Mapping 방식에 따라 다시점 영상을 생성할 수 있다.
구체적으로, 총 N 개의 뷰를 이용하여 다시점 영상을 생성하는 경우, 제1 시점부터 제 N/2 시점까지는 순차적으로 배열하고, 그 후 제 N/2-1 시점부터 제1 시점까지 역순으로 배열하는 패턴이 반복되는 패턴으로 배치하여 디스플레이를 위한다시점 영상을 생성할 수 있다. 이 경우, N 이 홀수인 경우에는 N/2 보다 큰 정수(또는 N/2 보다 작은 정수)에 대응되는 시점이 정순과 역순이 배치되는 기준이 전환 시점이 될 수 있다.
일 예로, 도 2b에 도시된 바와 같이 총 7 개의 서로 다른 시점을 갖는 뷰를 이용하여 다시점 영상을 생성하는 경우, 7/2 보다 큰 정수인 4에 대응되는 제4 시점이 전환 시점이 되고, 이에 따라 제1 시점부터 제4 시점 뷰까지는 순차적으로 배열하고, 그 후 제3 시점부터 제1 시점 뷰까지 역순으로 배열하는 패턴이 반복되는 배치 패턴으로 복수의 뷰를 배치할 수 있다. 다만, 이에 한정되는 것은 아니며, 제1 시점부터 제N 시점까지의 홀수 및 짝수 시점 중 하나의 시점을 순차적으로 배열하고, 그 후 제N 시점부터 제1 시점까지의 홀수 및 짝수 시점 중 나머지 하나의 시점을 역순으로 배열하는 패턴이 반복되는 패턴으로 배치하여 다시점 영상을 생성할 수도 있다. 일 예로, 복수의 뷰가 총 7 시점인 경우, 1,3,5,7,6,4,2 시점 뷰가 반복되는 패턴으로 배치하여 다시점 영상을 생성할 수 있다.
한편, 도 2a에 도시된 바와 같은 Cyclic Mapping 방식에 따라 다시점 영상을 배치하는 경우, 시점이 역순으로 배치되는 역시(Pseudo Stereo) 구간이 발생하게 된다. 예를 들어, 도 2b에서 제 1 내지 4 뷰가 정순으로 배치되는 광학 뷰 1 내지 4 구간은 정시에 해당하고, 제 1 내지 4 뷰가 역순으로 배치되는 광학 뷰 4 내지 7 구간은 역시 구간에 해당한다. 이와 같이 시점이 역순으로 배치되는 역시(Pseudo Stereo) 구간에서 사람의 양 눈에 들어오는 영상이 좌우가 바뀌어 들어옴으로써 시청시 피로감 특히, 울렁임 현상을 유발하게 된다는 문제점이 있었다. 이에 따라 본 발명에서는 역시 구간을 최대한 감소시켜 울렁임 현상을 감소시켜 시청시 피로감이 최대한 감소되도록 하는 다양한 실시 예에 대해 자세히 설명하도록 한다.
도 3a 내지 도 3d는 본 발명의 일 실시 예에 따른 다시점 영상 디스플레이 장치의 구성을 설명하기 위한 도면들이다.
도 3a는 본 발명의 일 실시 예에 따른 다시점 영상 디스플레이 장치의 구성을 나타내는 블럭도이다.
도 3a에 따르면, 다시점 영상 디스플레이 장치(100)는 영상 입력부(110), 디스플레이(120) 및 프로세서(130)를 포함한다.
다시점 영상 디스플레이 장치(100)는 TV, 모니터, PC, 키오스크, 태블릿 PC, 전자 액자, 키오스크, 휴대폰 등과 같은 다양한 유형의 디스플레이 장치로 구현될 수 있다.
영상 입력부(110)는 영상을 입력받는다. 구체적으로, 영상 입력부(110)는 외부의 저장 매체, 방송국, 웹 서버 등과 같은 각종 외부 장치로부터 영상을 입력받을 수 있다. 여기서, 입력되는 영상은 단일 시점 영상, 스테레오(Stero) 영상, 다시점 영상 중 어느 하나의 영상이다. 단일 시점 영상은 일반적인 촬영 장치에 의해 촬영된 영상이며, 스테레오 영상(Stereoscopic image)은 좌안 영상과 우안 영상만으로 표현된 3차원 비디오 영상으로, 스테레오 촬영 장치에 의해 촬영된 입체 영상이다. 일반적으로 스테레오 촬영 장치는 2개의 렌즈를 구비한 촬영 장치로 입체 영상을 촬영하는데 사용된다. 그리고, 다시점 영상(Multiview image)은 한대 이상의 촬영 장치를 통해 촬영된 영상들을 기하학적으로 교정하고 공간적인 합성 등을 통하여 여러 방향의 다양한 시점을 사용자에게 제공하는 3차원 비디오 영상을 의미한다.
또한, 영상 입력부(110)는 영상의 뎁스 정보를 수신할 수 있다. 일반적으로 영상의 뎁스(Depth)는 영상의 각각 픽셀별로 부여된 깊이 값으로, 일 예로, 8bit의 뎁스는 0~255까지의 그레이 스케일(grayscale) 값을 가질 수 있다. 예를 들어, 흑/백을 기준으로 나타낼 때, 검은색(낮은 값)이 사용자로부터 먼 곳을 나타내며, 흰색(높은 값)이 사용자로부터 가까운 곳을 나타낼 수 있다.
뎁스(depth) 정보란 3D 영상의 뎁스를 나타내는 정보로, 3D 영상을 구성하는 좌안 영상과 우안 영상 사이의 양안 시차 정도에 대응되는 정보이다. 뎁스 정보에 따라 사람이 느끼는 입체감의 정도가 달라진다. 즉, 뎁스가 큰 경우 좌우 양안 시차가 크게 되므로 입체감이 상대적으로 크게 느껴지고, 뎁스가 작은 경우 좌우 양안 시차가 작게 되므로 입체감이 상대적으로 작게 느껴지게 된다. 뎁스 정보는 일반적으로, 스테레오 정합(Stereo matching) 등과 같이 영상의 2차원적 특성만을 가지고 얻는 수동적인 방법과 깊이 카메라(Depth camera)와 같은 장비를 이용하는 능동적 방법을 통하여 획득될 수 있다. 한편, 뎁스 정보는 뎁스 맵 형태가 될 수 있다. 뎁스 맵(Depth map)이란 영상의 각 영역 별 뎁스 정보를 포함하고 있는 테이블을 의미한다. 영역은 픽셀 단위로 구분될 수도 있고, 픽셀 단위보다 큰 기설정된 영역으로 정의될 수도 있다. 일 예에 따라 뎁스 맵은 0~255까지의 그레이 스케일(grayscale) 값 중 127 또는 128을 기준 값 즉, 0(또는 포컬 플레인)으로 하여 127 또는 128 보다 작은 값을 - 값으로 나타내고, 큰 값을 + 값으로 나타내는 형태가 될 수 있다. 포컬 플레인의 기준값은 0~255 사이에서 임의로 선택할 수 있다. 여기서, - 값은 침강을 의미하며, + 값은 돌출을 의미한다.
디스플레이(120)는, 복수의 광학 뷰(또는 시청 영역)를 제공하는 기능을 한다. 이를 위해, 디스플레이(120)는 복수의 광학 뷰 제공을 위한 디스플레이 패널(121) 및 시역 분리부(122)를 포함한다.
디스플레이 패널(121)은 복수의 서브 픽셀로 구성된 복수의 픽셀을 포함한다. 여기에서, 서브 픽셀은 R(Red), G(Green), B(Blue)로 구성될 수 있다. 즉, R, G, B의 서브 픽셀로 구성된 픽셀이 복수의 행 및 열 방향으로 배열되어 디스플레이 패널(131)을 구성할 수 있다. 이 경우, 디스플레이 패널(131)는 액정 디스플레이 패널(Liquid Crystal Display Panel: LCD Panel), 플라즈마 디스플레이 패널(Plasma Display Panel: PDP), 유기발광 소자(Organic Light Emitting Diode, OLED), VFD(Vacuum Fluorescent Display), FED(Field Emission Display), ELD(Electro Luminescence Display) 등과 같은 다양한 디스플레이 유닛으로 구현될 수 있다.
디스플레이 패널(121)은 영상 프레임을 디스플레이한다. 구체적으로, 디스플레이 패널(121)은 서로 다른 시점의 복수의 뷰가 순차적으로 반복 배치된 다시점 영상 프레임을 디스플레이할 수 있다.
한편, 도 2a에 도시하지 않았지만, 디스플레이 패널(121)이 LCD 패널로 구현되는 경우, 디스플레이 장치(100)는 디스플레이 패널(121)에 백라이트를 공급하는 백라이트부(미도시) 및 영상 프레임을 구성하는 각 픽셀들의 픽셀 값에 따라 디스플레이 패널(121)의 픽셀들을 구동하는 패널 구동부(미도시)를 더 구비할 수 있다.
시역 분리부(122)는 디스플레이 패널(121)의 전면에 배치되어 시청 영역 별로 상이한 시점 즉, 광학 뷰를 제공할 수 있다. 이 경우, 시역 분리부(132)는 렌티큘러 렌즈(Lenticular lens) 또는, 패러랙스 배리어(Parallax Barrier)로 구현될 수 있다.
예를 들어, 시역 분리부(122)는 복수의 렌즈 영역을 포함하는 렌티큘러 렌즈로 구현될 수 있다. 이에 따라, 렌티큘러 렌즈는 복수의 렌즈 영역을 통해 디스플레이 패널(131)에서 디스플레이되는 영상을 굴절시킬 수 있다. 각 렌즈 영역은 적어도 하나의 픽셀에 대응되는 크기로 형성되어, 각 픽셀을 투과하는 광을 시청 영역별로 상이하게 분산시킬 수 있다.
다른 예로, 시역 분리부(122)는 패러랙스 배리어로 구현될 수 있다. 패러랙스 배리어는 복수의 배리어 영역을 포함하는 투명 슬릿 어레이로 구현된다. 이에 따라, 배리어 영역 간의 슬릿(slit)을 통해 광을 차단하여 시청 영역 별로 상이한 시점의 영상이 출사되도록 할 수 있다.
도 3b는 본 발명의 일 실시 예에 따라 시역 분리부(122)가 렌티큘러 렌즈 어레이로 구현된 경우를 예를 들어 설명하도록 한다.
도 3b에 따르면, 디스플레이(120)는 디스플레이 패널(121), 렌티큘러 렌즈 어레이(122') 및 백라이트 유닛(123)을 포함한다.
도 3b에 따르면, 디스플레이 패널(121)은 복수의 열(column)로 구분되는 복수의 픽셀을 포함한다. 각 열 별로 상이한 시점의 이미지가 배치된다. 도 2c에 따르면, 서로 다른 시점의 복수의 이미지 1, 2, 3, 4, 5가 싸이클릭 형태로 순차적으로 반복 배치되는 형태를 나타낸다. 즉, 정시 영역(또는 정시 구간)에 대응되는 각 픽셀 열은 1, 2, 3, 4, 5로 넘버링된 그룹으로 배열된다. 패널로 인가되는 그래픽 신호는 픽셀열 1이 첫 번째 이미지를 디스플레이하고, 픽셀열 2가 두 번째 이미지를 디스플레이하도록 배열된다.
백라이트 유닛(123)은 디스플레이 패널(121)로 광을 제공한다. 백라이트 유닛(123)으로부터 제공되는 광에 의해, 디스플레이 패널(121)에 형성되는 각 이미지 1, 2, 3, 4, 5는 렌티큘러 렌즈 어레이(122')로 투사되고, 렌티큘러 렌즈 어레이(122')는 투사되는 각 이미지 1, 2, 3, 4, 5의 광을 분산시켜 사용자 방향으로 전달한다. 즉, 렌티큘러 렌즈 어레이(122')는 사용자의 위치, 즉, 시청 거리에 출구동공(exit pupils)을 생성한다. 도시된 바와 같이 렌티큘러 렌즈 어레이로 구현되었을 경우 렌티큘러 렌즈의 두께 및 직경, 패러랙스 배리어로 구현되었을 경우 슬릿의 간격 등은 각 열에 의해 생성되는 출구 동공이 65mm 미만의 평균 양안 중심 거리로 분리되도록 설계될 수 있다. 분리된 이미지 광들은 각각 시청 영역을 형성한다. 즉, 도 3b에 도시된 바와 같이 시청 영역에는 복수의 광학 뷰가 형성되고 사용자의 좌안 및 우안이 각각 서로 다른 광학 뷰에 위치하게 되는 경우, 3D 영상을 시청할 수 있게 된다.
한편, 시역 분리부(122)는 화질 개선을 위하여 일정한 각도로 기울어져서 동작할 수 있다. 프로세서(130)는 렌더링된 복수의 뷰 각각을 시역 분리부(122)가 기울어진 각도에 기초하여 분할하고, 이들을 조합하여 출력을 위한 다시점 영상 프레임을 생성할 수 있다. 이에 따라, 사용자는 디스플레이 패널(121)의 서브 픽셀에 수직 방향 또는 수평 방향으로 디스플레이된 영상을 시청하는 것이 아니라, 특정 방향으로 기울어진 영역을 시청할 수 있다. 이에 따라, 사용자는 하나의 완전한 서브 픽셀이 아닌 각 서브 픽셀의 일부를 시청할 수 있다. 예를 들어, 총 5 개의 시점을 제공한다고 가정할 때, 출력 영상은 도 3d에 도시된 바와 같이 복수의 서브 픽셀 중 적어도 일부가 각각 복수의 뷰에 대응되는 픽셀값을 출력하도록 렌더링될 수 있다. 이 경우, 사용자의 우안이 1 시점 영상을 시청하고 좌안이 2 시점 영상을 시청하는 경우, 사용자의 우안은 1 시점에 대응하는 기울어진 영역(10)을, 좌안은 2 시점에 대응하는 기울어진 영역(20)을 시청할 수 있다. 다만 도 3d의 렌더링 영상을 일 예를 도시한 것이며, 복수의 뷰의 개수 및 렌더링 피치 등은 구현 예에 따라 다양하게 변경될 수 있다.
프로세서(130)는 디스플레이 장치(100)의 전반적인 동작을 제어한다.
우선, 프로세서(130)는 서로 다른 시점의 복수의 뷰를 렌더링할 수 있다.
구체적으로, 프로세서(130)는 입력된 영상이 2D 영상인 경우, 2D/3D 변환에 추출된 뎁스 정보를 기초로 서로 다른 시점의 복수의 뷰를 렌더링할 수 있다. 또는 서로 다른 시점의 N 개의 뷰 및 대응되는 N 개의 뎁스 정보가 입력되는 경우 입력된 N 개의 뷰 및 뎁스 정보 중 적어도 하나의 영상 및 뎁스 정보에 기초하여 다시점 영상을 렌더링할 수 있다. 또는 서로 다른 시점의 N 개의 뷰 만 입력되는 경우, N 개의 뷰로부터 뎁스 정보 추출 후, 추출된 뎁스 정보에 기초하여 다시점 영상을 렌더링할 수 있다.
일 예로, 프로세서(130)는 3D 영상, 즉 좌안 영상 및 우안 영상 중 하나를 기준 뷰(또는 센터 뷰)로 선택하여 다시점 영상의 기초가 되는 최좌측 뷰 및 최우측 뷰를 생성할 수 있다. 이 경우, 프로세서(130)는 기준 뷰로 선택된 좌안 영상 및 우안 영상 중 하나에 대응되는 보정된 뎁스 정보를 기초로 최좌측 뷰 및 최우측 뷰를 생성할 수 있다. 프로세서(130)는 최좌측 뷰 및 최우측 뷰가 생성되면, 센터 뷰와 최좌측 뷰 사이에서 복수 개의 보간 뷰를 생성하고, 센터 뷰와 최우측 뷰 사이에서 복수 개의 보간 뷰를 생성함으로써 다시점 영상을 렌더링할 수 있다. 다만, 이에 한정되는 것은 아니며, 보외 기법에 의해 생성되는 보외 뷰(Extrapolation View)를 생성하는 것도 가능하다. 한편, 2D 영상 및 뎁스 정보를 기초로 다시점 영상을 렌더링하는 경우 2D 영상을 센터 뷰로 선택할 수 있음을 물론이다.
다만, 상술한 렌더링 동작은 일 예를 든 것이며, 상술한 렌더링 동작 외에 다양한 방법에 의해 복수의 뷰를 렌더링할 수 있음은 물론이다. 경우에 따라 프로세서(130)는 뎁스 정보에 기초하여 입력된 영상의 뎁스를 다양한 기준에 따라 조정할 수 있으며, 이 경우 프로세서(130)는 뎁스가 조정된 영상에 기초하여 복수의 뷰를 렌더링할 수 있다.
프로세서(130)는 렌더링된 서로 다른 시점의 복수의 뷰를 구성하는 서브 픽셀 값에 기초하여 디스플레이(120)에 디스플레이할 다시점 영상을 생성한다.
구체적으로, 프로세서(130)는 렌더링된 복수의 뷰 각각을 시역 분리부(122)가 기울어진 각도에 기초하여 분할하고, 이들을 싸이클릭 맵핑 형태로 조합하여 출력을 위한 다시점 영상 프레임을 생성할 수 있다.
특히, 프로세서(130)는 상술한 싸이클릭 맵핑 방식에 따른 정시 영역(또는 정시 영역)이 확장되도록 하고, 정시 영역 확장에 따라 역시 영역(또는 역시 구간)에서 발생하는 뷰 점핑 영역에서의 뷰 점핑 양이 기설정된 임계값이 되도록 복수의 뷰를 구성하는 픽셀 값을 조정하여 다시점 영상을 생성할 수 있다. 여기서, 기설정된 임계값은 사용자가 뷰 점핑을 인지하지 못하는 값으로 결정될 수 있으며, 실험 등을 통해 획득될 수 있다. 여기서, 뷰 점핑 영역이란 정시 영역의 확장에 따라 역시 영역과 그 다름 정시 영역 간에 발생되는 뷰간 시점 차가 크기 되는 영역을 의미한다.
일 실시 예에 따르면, 프로세서(130)는 렌더링된 복수의 뷰 각각의 동일한 픽셀 라인으로 구성된 에피폴라(epipolar) 이미지에 기초하여 생성된 에피폴라 도메인에서 정시 영역이 확장되도록 하고, 정시 영역 확장에 따라 역시 영역에서 발생하는 뷰 점핑 영역에서의 뷰 점핑 양이 기설정된 임계값이 되도록 복수의 뷰를 구성하는 픽셀 값을 조정하여 다시점 영상을 생성할 수 있다.
다른 실시 예에 따르면, 프로세서(130)는 복수의 뷰를 렌더링하는 시점에서, 정시 영역이 확장되도록 하는 뷰 개수 및 뷰 간 뎁스 차에 기초하여 복수의 뷰를 렌더링하고, 렌더링된 복수의 뷰를 구성하는 픽셀 값에 기초하여 다시점 영상을 생성할 수 있다. 구체적으로, 프로세서(130)는 입력된 영상의 뎁스에 기초하여 싸이클릭 맵핑 방식에 따라 정시 영역이 확장되도록 하는 뷰의 개수 및 뷰 간 뎁스 차를 산출하고, 산출된 뎁스 차에 기초하여 복수의 뷰를 렌더링할 수 있다. 이 경우, 에피폴라 도메인에서 별도의 이미지 처리 없이 다시점 영상을 생성할 수도 있다.
한편, 프로세서(130)는 뷰 점핑 영역에서의 뷰 점핑 양이 상술한 바와 같이 사용자가 뷰 점핑을 인지 못하도록 설정된 기설정된 임계값에 기초하여, 정시 영역에서 제공되는 서로 다른 시점의 복수의 뷰 간 뎁스 차에 대응되는 임계 기울기 값을 산출할 수 있다.
이 경우, 프로세서(130)는 입력된 영상의 뎁스 기울기 및 산출된 임계 기울기 간의 차이에 기초하여 입력된 영상의 뎁스 기울기 및 산출된 임계 기울기 중 적어도 하나로 입력 영상을 처리하여 다시점 영상을 생성할 수 있다.
또한, 프로세서(130)는 입력된 영상의 뎁스 기울기가 산출된 임계 기울기 값보다 큰 경우, 신출된 임계 기울기 값으로 입력된 영상을 처리하여, 다시점 영상을 생성할 수 있다.
또한, 프로세서(130)는 입력된 영상의 뎁스 기울기가 산출된 임계 기울기 값보다 크지만, 입력된 영상의 뎁스 기울기를 유지하는 디스플레이 모드(예를 들어 영화 상영 모드)인 경우, 역시 영역에서의 뎁스 기울기 만을 신출된 임계 기울기 값으로 보정할 수 있다.
또한, 프로세서(130)는 입력된 영상의 뎁스 기울기가 산출된 임계 기울기 값보다 작은 경우, 입력된 영상의 뎁스 기울기에 따라 정시 영역을 추가적으로 확장시킬 수 있다.
또한, 프로세서(130)는 사사용자 명령에 따라 설정된 입체감에 기초하여 싸이클릭 맵핑 방식에 따른 정시 영역이 확장되도록 하고, 그에 따라 발생되는 뷰 점 영역에서의 기설정된 임계값에 기초하여 정시 영역의 임계 기울기를 산출하고, 이에 기초하여 다시점 영상을 생성할 수도 있다.
또한, 프로세서(130)는 에피폴라 이미지에서 뷰 점핑 영역에서 발생되는 뷰 간 뎁스 차를 적응적으로 스무싱(smoothing) 처리하여 다시점 영상을 생성할 수 있다. 이 경우, 프로세서(130)는 뷰 점핑 영역에 포함된 뷰 간 뎁스 차, 뷰 점핑 영역에 포함된 에지 정보 등에 기초하여 스무싱 강도를 조정할 수 있다. 예를 들어, 뷰 간 뎁스 차가 큰 경우, 뷰 점핑 영역에 에지가 많이 포함된 경우 등에 스무싱 강도를 크게 할 수 있다.
구체적으로, 프로세서(130)는 싸이클릭 맵핑 방식에 따른 역시 영역 및 그 다음 정시 영역 간에 발생되는 뷰 점핑 영역에 대응되는 양 시점 뷰의 픽셀 값을 혼합하고, 혼합 픽셀 값을 해당 시점 뷰에 맵핑하여 뷰 점핑 영역을 스무싱 처리할 수 있다. 이 경우, 프로세서(130)는 R, G, B 중 하나의 서브 픽셀 단위로 혼합 픽셀 값을 산출하고, 산출된 혼합 픽셀 값을 해당 서브 픽셀 영역에 매핑하여 해당 영역을 스무싱 처리할 수 있다.
예를 들어, 프로세서(130)는 제3 뷰 및 제1 뷰 사이에서 뷰 점핑이 발생하는 경우, 제3 뷰에 해당하는 R 서브 픽셀 값 및 제1 뷰에 해당하는 R 서브 픽셀 값을 혼합하여 혼합 픽셀 값을 산출하고, 산출된 값을 제3 뷰에 해당하는 R 서브 픽셀 및 제1 뷰에 해당하는 R 서브 픽셀에 맵핑하여 해당 뷰 점핑 영역을 스무싱 처리할 수 있다.
이 경우, 프로세서(130)는 스무싱 처리할 픽셀 영역에 기설정된 가중치를 적용하여 혼합 픽셀 값을 산출할 수 있다. 여기서 기설정된 가중치는 뷰 점핑 영역에 포함된 뷰 간 뎁스 차, 뷰 점핑 영역에 포함된 에지 정보 등에 기초하여 상이하게 설정될 수 있다.
또한, 혼합 픽셀 값 산출에 관여되는 시점 뷰는 뷰 점핑 영역에 해당하는 시점 뷰 뿐 아니라, 그의 인접 시점 뷰를 포함할 수 있다. 예를 들어, 프로세서(130)는 는 제3 뷰 및 제1 뷰 사이에서 뷰 점핑이 발생하는 경우, 제3 뷰 뿐 아니라, 제3 뷰의 인접 시점 뷰인 제2 뷰 및 제4 뷰의 대응되는 서브 픽셀 영역에 기설정된 가중치를 적용하여 혼합 픽셀 값을 산출할 수 있다. 여기서, 기설정된 가중치는 라플라시안(Laplacian) 필터, 가우시안(Gaussian) 필터, 스무싱(Smoothing) 필터 등의 형태로 적용될 수 있다.
이 경우, 프로세서(130)는 에피폴라 도메인에서 스무싱이 필요한 뷰 점핑 영역 근처에서 2차원 또는 3차원 영역을 설정하고 설정된 영역에 기설정된 가중치를 적용하여 혼합 픽셀 값을 산출할 수 있다. 즉, 에피폴라 도메인의 특성에 기초할 때, 에피폴라 도메인에서 선택된 특정 시점 뷰의 특정 서브 픽셀 영역을 기준으로 3차원 영역을 설정하게 되면 특정 시점 뷰 및 인접 시점 뷰 각각에 대응되는 소스 픽셀 영역을 포함하는 영역을 설정할 수 있게 된다.
또한, 프로세서(130)는 에피폴라 도메인에서 설정된 3차원 영역에 기설정된 필터를 적용하여 기설정된 가중치가 적용된 혼합 픽셀 값을 산출할 수 있다. 여기서, 기설정된 필터는 Bilinear Interpolation 형태가 될 수 있으나, 이에 한정되는 것은 아니다.
도 3c는 본 발명의 다른 실시 예에 따른 다시점 영상 디스플레이 장치의 구성을 나타내는 블럭도이다.
도 3c에 따르면, 다시점 영상 디스플레이 장치(200)는 영상 입력부(110), 디스플레이(120), 프로세서(130) 및 저장부(140)를 포함한다. 도 3c에 도시된 구성 중 영상 입력부(110), 디스플레이(120) 및 프로세서(130)의 구성은 도 3a에 도시된 구성과 동일하므로 자세한 설명은 생략하도록 한다.
저장부(140)는 뷰 점핑 영역에서 사용자가 뷰 점핑을 인지 못하는 뎁스 양에 대한 정보를 저장할 수 있으며, 해당 임계값은 실험을 통해 획득될 수 있다.
또한, 저장부(140)는 뷰 점핑 영역에서의 뷰 점핑 양이 기설정된 임계값이 되도록 설정된, 정시 영역에서 제공되는 서로 다른 시점의 복수의 뷰 간 뎁스 차에 대응되는 임계 기울기 값을 저장할 수 있다. 구체적으로, 저장부(140)는 입력 영상의 뎁스 별(또는 오브젝트의 뎁스 별)로, 정시 영역에서 제공되는 서로 다른 시점의 복수의 뷰 간 뎁스 차에 대응되는 임계 기울기 값을 저장할 수 있다.
이 경우, 프로세서(130)는 입력된 영상의 뎁스 기울기 및 저장부(140)에 저장된 임계 기울기 간의 차이에 기초하여 입력된 영상의 뎁스 기울기 및 임계 기울기 중 적어도 하나로 입력 영상을 처리하여 다시점 영상을 생성할 수 있다.
또한, 프로세서(130)는 입력된 영상의 뎁스 기울기가 임계 기울기 값보다 큰 경우, 임계 기울기 값으로 입력된 영상을 처리하여, 다시점 영상을 생성할 수 있다.
또한, 프로세서(130)는 입력된 영상의 뎁스 기울기가 임계 기울기 값보다 크지만, 입력된 영상의 뎁스 기울기를 유지하는 디스플레이 모드(예를 들어 영화 상영 모드)인 경우, 역시 영역에서의 뎁스 기울기 만을 임계 기울기 값으로 보정할 수 있다.
또한, 프로세서(130)는 입력된 영상의 뎁스 기울기가 임계 기울기 값보다 작은 경우, 입력된 영상의 뎁스 기울기에 따라 정시 영역을 추가적으로 확장시킬 수 있다.
또한, 프로세서(130)는 사용자 인터페이스부(미도시)를 통해 입력된 사용자 명령에 따라 설정된 입체감에 기초하여 싸이클릭 맵핑 방식에 따른 정시 영역이 확장되도록 다시점 영상을 생성할 수도 있다. 예를 들어, 사용자가 원하는 입체감을 설정하면, 프로세서(130)는 사용자에 의해 설정된 입체감에 따라 정시 영역을 확장시키거나, 축소시킬 수 있다.
또한, 사용자 인터페이스부(미도시)는 본 발명에 따른 기능 적용 여부를 선택하기 위한 메뉴를 제공할 수 있다. 또는 컨텐츠 타입 별, 시청 시간 별, 사용자 별 중 적어도 하나에 따라 본 발명에 따른 기능 적용 여부를 선택할 수 있는 메뉴를 제공할 수도 있다.
또한, 저장부(140)는 사용자에게 동일한 입체감을 제공하는 각 뎁스 구간에 대한 정보(JNDD:Just Noticeable Difference in Depth)를 저장할 수 있다. 예를 들어, 8 bit의 뎁스는 0~255까지의 그레이 스케일(grayscale) 값을 갖는 경우, 0~255 값 각각이 사용자에게 다른 입체감으로 인식되는 것이 아니라, 일정 범위 내의 값은 동일한 뎁스로 인식될 수 있다. 예를 들어, 0~8 구간 사이의 뎁스 값은 사용자에게 동일한 입체감을 제공하고, 9~16 구간 사이의 뎁스 값은 사용자에게 동일한 입체감을 제공할 수 있다. 여기서, 사용자에게 동일한 입체감을 제공하는 각 뎁스 구간에 대한 정보를 실험을 통해 획득될 수 있다.
이 경우, 프로세서(130)는 사용자가 뷰 점핑을 인지 못하는 기설정된 임계값을 결정함에 있어서, 상술한 JNDD 정보를 활용할 수 있다. 예를 들어, 실험을 통해 획득된 뷰 점핑 미인지 값을 결정함에 있어, 동일한 입체감을 주는 뎁스 구간에서 포컬 플레인에서 멀어지는 뎁스 값으로 기설정된 임계값을 설정할 수 있다.
도 4는 본 발명의 일 실시 예에 따른 에피폴라 이미지 생성 방법을 설명하기 위한 도면이다.
도 4에 도시된 바와 같이 높이 h, 너비 w인 5 개의 다시점 영상이 렌더링된 경우를 가정하도록 한다.
이 경우, 5 개의 다시점 영상(411 내지 414) 각각의 각 픽셀 라인을 조합하여 각 픽셀 라인에 대응되는 에피폴라 이미지를 생성할 수 있다. 구체적으로, 도시된 바와 같이 첫번째 픽셀 라인을 조합하여 첫번째 이미지(421)를 생성하고, a 번째 픽셀 라인을 조합하여 a 번째 이미지(422)를 생성하고, 이렇게 생성된 픽셀 라인 수에 대응되는 h 개의 이미지를 순차적으로 조합하여 에피폴라 이미지(430)를 생성할 수 있다.
이 경우, 각 픽셀 라인에 대응되는 이미지에서 오브젝트의 뎁스 크기 즉, 픽셀 영역의 뎁스 크기에 따라 기설정된 형태의 라인이 나타날 수 있다. 예를 들어, 오브젝트 A(●)의 경우 뎁스가 "0"이기 때문에 5 개의 다시점 영상에서 동일한 위치에 존재하지만, 오브젝트 B(△)의 경우 기설정된 크기의 뎁스를 갖기 때문에 N 개의 다시점 영상에서 위치가 점점 변경되며 이러한 위치 변경은 기설정된 라인 형태로 나타나게 된다. 도시된 도면을 참고하면 뎁스 값이 "0"인 오브젝트 A(●)에 대응되는 라인은 수직 형태로 나타나며, 기설정된 크기의 뎁스를 갖는 오브젝트 B(△) 및 오브젝트 C(×)에 대응되는 라인은 비스듬한 사선 형태로 나타나게 된다.
도 5a 및 도 5b는 본 발명의 일 실시 예에 따른 에피폴라 도메인 생성 방법을 설명하기 위한 도면들이다.
도 5a에 도시된 바와 같이 너비 w = 1920, 높이 h = 1080의 크기를 갖는 이미지(510)의 동일한 픽셀 라인으로 구성된 에피폴라 이미지를 각 필셀 라인에 대해 생성하고, 이렇게 생성된 각 픽셀 라인에 대응되는 1080 개의 에피폴라 이미지를 조합하여 도 5b에 도시된 바와 같은 에피폴라 도메인을 생성할 수 있다.
도 6은 본 발명의 일 실시 예에 따른 싸이클릭 맵핑 방식에 따라 구성된 에피폴라 도메인의 일 예를 나타내는 도면이다.
도 6에 도시된 바와 같이 에피폴라 도메인(600)은 렌더링된 서로 다른 시점을 갖는 복수의 뷰 각각이 Z 축(view 축)으로 나열되고 각 뷰의 너비 및 높이가 X-Y 축(width 축-height 축)을 구성하는 형태가 될 수 있다. 즉, 복수의 뷰 각각의 동일한 픽셀 라인이 조합된 이미지가 X-Z 축 즉, width-view 축을 구성하는 형태가 될 수 있다. 예를 들어, 복수의 뷰 각각에서 동일한 픽셀 라인이 Z 축 즉, view 축을 구성할 수 있다.
이에 따라 싸이클릭 맵핑 방식에 따라 구성된 에피폴라 도메인을 Z 축(view 축)에서 바라보면 정시 영역의 제1 뷰 존(VZ1)에서는 뎁스가 증가하는 형태, 역시 영역의 제2 뷰 존(VZ2)에서는 뎁스가 감소하는 형태, 정시 영역의 제3 뷰 존(VZ3)에서는 뎁스가 증가하는 형태, 역시 영역의 제4 뷰 존(VZ4)에서는 뎁스가 감소하는 형태의 이미지를 갖게 된다. 즉, 도 7과 같은 형태의 이미지가 될 수 있다.
도 7은 본 발명의 일 실시 예에 따라 에피폴라 도메인의 일측에서 바라본 영상을 나타내는 도면이다.
도 7에 따르면, 정시 영역의 제1 뷰 존(VZ1)에서는 렌더링된 각 뷰가 시차가 증가하는 형태로 배열되는데, 본 발명의 일 실시 예에 따르면 기존의 싸이클릭 맵핑 방식과 달리 정시 영역을 확장시켜 상대적으로 피로도를 유발하는 역시 영역을 축소시킬 수 있다.
하지만, 도시된 바와 같이 정시 영역인 제1 뷰 존(VZ1)을 확장시키게 되면, 인접하는 역시 영역의 제2 뷰 존(VZ2)과 정시 영역의 제3 뷰 존(VZ3) 사이에서 뷰 점핑이 발생하게 된다.
뷰 점핑 영역은 도 8에 도시된 바와 같이 입체감이 큰 픽셀 영역(1310)에서 크게 나타내게 되며, 입체감이 작은 픽셀 영역(1310)에서는 작게 나타나게 된다.
다만, 입체감이 큰 픽셀 영역에서의 뷰 점핑 영역은 3D 영상을 제대로 시청할 수 없는 데드 존에 해당하므로 해당 영역을 스무싱 처리할 수 있다.
도 9a 내지 9c는 본 발명의 일 실시 예에 따른 정시 영역을 확장하는 방법을 개념적으로 설명하기 위한 도면들이다.
도 9a는 기존의 싸이클릭 맵핑 방식에 따른 뷰 맵핑 방식을 나타내는 도면으로, 도시된 바와 같이 제1 내지 제5 뷰를 시점이 증가하는 방향으로 순차적으로 맵핑한 후, 다시 시점이 감소하는 방향으로 순차적으로 맵핑하고, 다시 시점이 증가하는 방향으로 순차적으로 맵핑하는 방식을 반복하여 다시점 영상을 생성할 수 있다.
도 9b는 본 발명의 일 실시 예에 따른 수정된 싸이클릭 맵핑 방식에 따른 뷰 맵핑 방식을 나타내는 도면으로, 도시된 바와 같이 정시 영역을 확장시켜 제1 내지 제6 뷰를 시점이 증가하는 방향으로 순차적으로 맵핑한 후, 다시 시점이 감소하는 방향으로 순차적으로 맵핑하고, 다시 시점이 증가하는 방향으로 순차적으로 맵핑하는 방식을 반복하여 다시점 영상을 생성할 수 있다. 다만, 이 경우, 역시 영역의 감소로 역시 영역에서는 제6 뷰에서 제3 뷰(도 9b) 또는 제7 내지 제4 뷰(도 9c)까지만 순차적으로 맵핑되므로, 제3 뷰 및 다음 정시 영역이 시작하는 제1 뷰 사이에 뷰 점핑 영역이 발생하게 된다. 도 9c와 같은 맵핑 방식에 있어서도 마찬가지로, 제4 뷰 및 다음 정시 영역이 시작하는 제1 뷰 사이에 뷰 점핑 영역이 발생하게 된다.
이에 따라 뷰 점핑이 발생하는 영역에서 뷰간 스무싱 처리를 수행할 수 있다. 구체적으로, 싸이클릭 맵핑 방식에 따른 역시 영역 및 그 다음 정시 영역 간에 발생되는 뷰 점핑 영역에 대응되는 양 시점 뷰의 픽셀 값을 혼합하고, 혼합 픽셀 값을 해당 시점 뷰에 맵핑하여 뷰 점핑 영역을 스무싱 처리할 수 있다. 예를 들어, 도 9b에 도시된 실시 예에서 제3 뷰에 해당하는 픽셀 값 및 제1 뷰에 해당하는 픽셀 값을 혼합하여 혼합 픽셀 값을 산출하고, 산출된 값을 제3 뷰 및 제1 뷰에 재맵핑하여 해당 뷰 점핑 영역을 스무싱 처리할 수 있다. 이 경우, 프로세서(130)는 스무싱 처리할 픽셀 영역에 기설정된 가중치를 적용하여 혼합 픽셀 값을 산출할 수도 있다. 이와 같이 뷰 점핑 영역을 스무싱 처리하는 방법에 대해서는 상술한 바 있으므로 더 이상의 자세한 설명은 생략하도록 한다.
도 10a는 뷰 스무싱 처리 전의 에피폴라 이미지를 나타내며, 도 10b는 뷰 스무싱 처리 후의 에피폴라 이미지를 나타낸다. 도시된 바와 같이 뷰 스무싱 처리 이후에는 뷰 점핑 영역에서 뷰 간 간격을 크게 인지할 수 없게 되므로, 3D 시청시 피로감이 저감될 수 있다.
도 11a 및 도 11b, 도 12a 및 도 12b는 본 발명의 일 실시 예에 따라 정시 영역을 확장하는 방법을 설명하기 위한 도면들이다.
도 11a에서 입력 영상의 입체감에 대응되는 기울기를 ain이라 하고, 정시 영역을 확장을 위해 미리 설정해 놓은 기설정된 임계 기울기를 ath라 한다.
도 11a에 도시된 바와 같이 입력 영상의 입체감에 대응되는 기울기 ain이 기설정된 임계 기울기 ath 이상일 경우 ain 을 ath로 변경하고, bin을 bth로 변경하여 정시 영역 확장에 따른 역효과가 최소화되도록 할 수 있다.
예를 들어, 도 12a에 도시된 바와 같이 입력 영상의 입체감에 대응되는 정시 영역의 기울기 ain을 우선, 임계 기울기 ath로 조정한 후, 그에 대응되도록 역시 영역의 기울기를 설정할 수 있다. 이 경우, 뷰 점핑 영역에서 사용자에게 뷰 점핑이 인식되지 않도록 하는 기설정된 임계값 cth 가 유지되도록 함으로써, 뷰 점핑 영역에서의 시청 피로도를 감소시킬 수 있게 된다.
다만, 컨텐츠 속성에 따라 입력 영상의 입체감을 유지하고자 하는 경우(예를 들어 영화 컨텐츠 등의 경우)에는 도 11b에 도시된 바와 같이 at 그대로 사용할 수도 있다. 다만, bin까지 그대로 이용하게 되면, 역시 영역의 뎁스 차가 커서 시청 피로도가 크게 느껴지므로, bin 은 bth로 변경하고, 이로 인한 뷰 점핑 영역에서 뷰 간 스무싱을 수행할 수 있다. 여기서, 스무싱 양은 |bin-bth| 값, 또는 |bin(M+N) - Vmax|로 결정될 수 있다. 이 경우, M은 정시 영역에 포함된 뷰의 개수, N은 역시 영역에 포함된 뷰의 개수이며, Vmax는 최대 뷰의 개수이다.
예를 들어, 도 12b에 도시된 바와 같이 입력 영상의 입체감에 대응되는 정시 영역의 기울기 ain이 기설정된 임계 기울기 ath 이상일 경우 ain 을 그대로 유지하게 되면, 뷰 점핑 영역에서의 뷰 점핑 양이 기설정된 임계값 cth 을 초과하게 되므로 해당 영역에서 사용자는 극심한 피로도를 느끼게 된다. 이 경우, 해당 뷰 점핑 영역을 스무싱 처리하여 뷰 점핑 구간을 부드럽게 연결시킴으로써 뷰 점핑 영역에서의 시청 피로도를 감소시킬 수 있게 된다.
한편, b(M+N) < Vmax 인 경우에는 기울기 b 와 기울기 a 를 동일하게 할 수 있다.
도 13a 및 도 13b는 본 발명의 다른 실시 예에 따라 정시 영역을 확장하는 방법을 설명하기 위한 도면들이다.
도 13a 및 도 13b에 도시된 바와 같이 본 발명의 다른 실시 예에 따르면 역시 영역의 임계 기울기 bth를 고정시킨 상태에서, 정시 영역의 기울기 at 및 정시 영역의 크기를 가변적으로 조정할 수 있다.
예를 들어, 도 13b에 도시된 바와 같이 입력 영상의 입체감에 대응되는 역시 영역의 기울기 bin이 기설정된 임계 기울기 bth 이상일 경우 정시 영역을 축소시키고, bin이 bth 미만인 경우 정시 영역을 확장시킬 수 있다. 여기서, 정시 영역을 축소시키는 양은 직선 L1과 직선 L2가 교차하는 점에 기초하여 결정될 수 있다.
또한, 광학 뷰 Vp가 temporal 방향으로 떨리는 현상을 방지하기 위해, 다음과 같은 수학식에 따른 a 값의 Temporal Smoothing Filter를 적용할 수 있다.
Figure pat00001
도 14a 및 도 14b는 본 발명의 또 다른 실시 예에 따라 정시 영역을 조정하는 방법을 설명하기 위한 도면들이다.
도 14a에 도시된 바와 같이, 입력 영상의 입체감에 대응되는 정시 영역의 기울기 ain이 기설정된 임계 기울기 ath 미만일 경우 정시 영역을 추가적으로 확장할 수 있다. 구체적으로, 기울기 ain이 기설정된 역시 영역의 임계 기울기 bth와 만나는 지점까지 정시 영역을 확장시킬 수 있다.
또한, 도 14b에 도시된 바와 같이 입력 영상의 입체감에 대응되는 정시 영역의 기울기 ain이 기설정된 임계 기울기 ath 이상일 경우이며, ain을 유지시키는 것이 바람직한 경우(예를 들어, 영화 모드)에는 정시 영역을 축소시키는 것도 가능하다. 구체적으로, 기울기 ain이 기설정된 역시 영역의 임계 기울기 bth와 만나는 지점까지 정시 영역을 축소시킬 수 있다.
도 15는 본 발명의 일 실시 예에 따른 다시점 영상 디스플레이 장치의 제어 방법을 설명하기 위한 흐름도이다.
도 15에 도시된 다시점 영상 디스플레이 장치의 제어 방법에 따르면, 우선 입력된 영상의 뎁스에 기초하여 서로 다른 시점을 갖는 복수의 뷰를 렌더링한다(S1510).
이어서, 복수의 뷰를 구성하는 픽셀 값에 기초하여 다시점 영상을 생성한다(S1520). 이 경우, 싸이클릭 맵핑 방식에 따른 정시 영역이 확장되도록 하고, 정시 영역 확장에 따라 역시 영역에서 발생하는 뷰 점핑 영역에서의 뷰 점핑 양이 기설정된 임계값이 되도록 복수의 뷰를 구성하는 픽셀 값을 조정하여 다시점 영상을 생성한다.
이 후, 생성된 다시점 영상을 디스플레이한다(S1530).
여기서, 상기 다시점 영상 디스플레이 장치는, 다시점 영상을 디스플레이하는 디스플레이 패널 및, 디스플레이 패널의 전면에 배치되어 사용자의 시청 영역에서 서로 다른 시점의 광학 뷰를 제공하는 시역 분리부를 포함하며, 다시점 영상을 생성하기 위해 이용되는 복수의 뷰의 개수는 광학 뷰의 개수보다 많을 수 있다.
또한, 다시점 영상을 생성하는 S1520 단계에서는, 복수의 뷰 각각의 동일한 픽셀 라인으로 구성된 에피폴라(epipolar) 이미지에 기초하여 생성된 에피폴라 도메인에서 정시 영역이 확장되도록 하고, 정시 영역 확장에 따라 역시 영역에서 발생하는 뷰 점핑 영역에서의 뷰 점핑 양이 기설정된 임계값이 되도록 복수의 뷰를 구성하는 픽셀 값을 조정하여 다시점 영상을 생성할 수 있다.
또한, 다시점 영상을 생성하는 S1520 단계에서는, 입력된 영상의 뎁스에 기초하여 정시 영역이 확장되도록 하는 복수의 뷰 개수 및 뷰 간 뎁스 차를 산출하고, 이에 기초하여 복수의 뷰를 렌더링하고 복수의 뷰를 구성하는 픽셀 값에 기초하여 다시점 영상을 생성할 수 있다.
또한, 다시점 영상을 생성하는 S1520 단계에서는, 뷰 점핑 영역에서 발생되는 뷰 간 뎁스 차를 적응적으로 스무싱 처리하여 다시점 영상을 생성할 수 있다.
또한, 다시점 영상을 생성하는 S1520 단계에서는, 뷰 점핑 영역에서의 뷰 점핑 양이 기설정된 임계값이 되도록 설정된, 정시 영역에서 제공되는 서로 다른 시점의 복수의 뷰 간 뎁스 차에 대응되는 임계 기울기 값을 산출하고, 입력된 영상의 뎁스 기울기 및 상기 산출된 임계 기울기 간의 차이에 기초하여 입력된 영상의 뎁스 기울기 및 임계 기울기 중 적어도 하나로 상기 입력 영상을 처리하여 다시점 영상을 생성할 수 있다.
또한, 다시점 영상 디스플레이 장치는, 뷰 점핑 영역에서의 뷰 점핑 양이 기설정된 임계값이 되도록 설정된, 정시 영역에서 제공되는 서로 다른 시점의 복수의 뷰 간 뎁스 차에 대응되는 임계 기울기 값을 저장할 수 있다. 이 경우, 다시점 영상을 생성하는 S1520 단계에서는, 입력된 영상의 뎁스 기울기 및 기 저장된 임계 기울기 간의 차이에 기초하여 입력된 영상의 뎁스 기울기 및 기 저장된 임계 기울기 중 적어도 하나로 입력 영상을 처리하여 다시점 영상을 생성할 수 있다.
또한, 다시점 영상을 생성하는 S1520 단계에서는, 입력된 영상의 뎁스 기울기가 임계 기울기 값보다 큰 경우, 임계 기울기 값으로 입력된 영상을 처리할 수 있다. 다만, 입력된 영상의 뎁스 기울기가 임계 기울기 값보다 크지만, 입력된 영상의 뎁스 기울기를 유지하는 디스플레이 모드인 경우, 역시 영역에서의 뎁스 기울기 만을 상기 임계 기울기 값으로 보정할 수 있다.
또한, 다시점 영상을 생성하는 S1520 단계에서는, 입력된 영상의 뎁스 기울기가 임계 기울기 값보다 작은 경우, 입력된 영상의 뎁스 기울기에 따라 정시 영역을 추가적으로 확장시킬 수 있다.
이상과 같이 본 발명의 다양한 실시 예에 따르면, 싸이클릭 맵핑 방식에 따른 장점을 활용하되, 정시 영역 구간을 늘리고, 이로 인해 발생되는 뷰 점핑 구간에서 스무스한(smooth) view transition을 제공하여 사용자에게 선명한 3D 영상을 서비스할 수 있게 된다.
상술한 다양한 실시 예에 따른 다시점 영상 디스플레이 방법은 프로그램으로 구현되어 디스플레이 장치에 제공될 수 있다.
일 예로, 입력된 영상의 뎁스에 기초하여 서로 다른 시점을 갖는 복수의 뷰를 렌더링하고, 복수의 뷰를 구성하는 픽셀 값에 기초하여 다시점 영상을 생성하며, 다시점 영상 생성시, 싸이클릭 맵핑 방식에 따른 정시 영역이 확장되도록 하고, 정시 영역 확장에 따라 역시 영역에서 발생하는 뷰 점핑 영역에서의 뷰 점핑 양이 기설정된 임계값이 되도록 복수의 뷰를 구성하는 픽셀 값을 조정하여 다시점 영상을 생성하는 방법을 수행하는 프로그램이 저장된 비일시적 판독 가능 매체(non-transitory computer readable medium)가 제공될 수 있다.
비일시적 판독 가능 매체란 레지스터, 캐쉬, 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 구체적으로는, 상술한 다양한 어플리케이션 또는 프로그램들은 CD, DVD, 하드 디스크, 블루레이 디스크, USB, 메모리카드, ROM 등과 같은 비일시적 판독 가능 매체에 저장되어 제공될 수 있다.
또한, 이상에서는 본 발명의 바람직한 실시 예에 대하여 도시하고 설명하였지만, 본 발명은 상술한 특정의 실시 예에 한정되지 아니하며, 청구범위에서 청구하는 본 발명의 요지를 벗어남이 없이 당해 발명이 속하는 기술분야에서 통상의 지식을 가진 자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형실시들은 본 발명의 기술적 사상이나 전망으로부터 개별적으로 이해되어져서는 안될 것이다.
100 : 다시점 영상 디스플레이 장치
110 : 영상 입력부 120 : 디스플레이
130 : 프로세서 140 : 저장부

Claims (20)

  1. 다시점 영상 디스플레이 장치에 있어서,
    영상을 입력받는 영상 입력부;
    상기 입력된 영상에 기초하여 생성된 다시점 영상을 디스플레이하는 디스플레이; 및
    상기 입력된 영상의 뎁스에 기초하여 서로 다른 시점을 갖는 복수의 뷰를 렌더링하고, 상기 복수의 뷰를 구성하는 픽셀 값에 기초하여 상기 다시점 영상을 생성하는 프로세서;를 포함하며,
    상기 프로세서는,
    싸이클릭 맵핑 방식에 따른 정시 영역이 확장되도록 하고, 상기 정시 영역 확장에 따라 역시 영역에서 발생하는 뷰 점핑 영역에서의 뷰 점핑 양이 기설정된 임계값이 되도록 상기 복수의 뷰를 구성하는 픽셀 값을 조정하여 상기 다시점 영상을 생성하는, 다시점 영상 디스플레이 장치.
  2. 제1항에 있어서,
    상기 디스플레이는,
    상기 다시점 영상을 디스플레이하는 디스플레이 패널 및, 상기 디스플레이 패널의 전면에 배치되어 사용자의 시청 영역에서 서로 다른 시점의 광학 뷰를 제공하는 시역 분리부를 포함하며,
    상기 다시점 영상을 생성하기 위해 이용되는 상기 복수의 뷰의 개수는 상기 광학 뷰의 개수보다 많은 것을 특징으로 하는 다시점 영상 디스플레이 장치.
  3. 제1항에 있어서,
    상기 프로세서는,
    상기 복수의 뷰 각각의 동일한 픽셀 라인으로 구성된 에피폴라(epipolar) 이미지에 기초하여 생성된 에피폴라 도메인에서 상기 정시 영역이 확장되도록 하고, 상기 정시 영역 확장에 따라 역시 영역에서 발생하는 뷰 점핑 영역에서의 뷰 점핑 양이 기설정된 임계값이 되도록 상기 복수의 뷰를 구성하는 픽셀 값을 조정하여 상기 다시점 영상을 생성하는 것을 특징으로 하는 다시점 영상 디스플레이 장치.
  4. 제1항에 있어서,
    상기 프로세서는,
    상기 입력된 영상의 뎁스에 기초하여 정시 영역이 확장되도록 하는 복수의 뷰 개수 및 뷰 간 뎁스 차를 산출하고, 이에 기초하여 상기 복수의 뷰를 렌더링하고 상기 복수의 뷰를 구성하는 픽셀 값에 기초하여 상기 다시점 영상을 생성하는 것을 특징으로 하는 다시점 영상 디스플레이 장치.
  5. 제1항에 있어서,
    상기 프로세서는,
    상기 뷰 점핑 영역에서 발생되는 뷰 간 뎁스 차를 적응적으로 스무싱(smoothing) 처리하여 상기 다시점 영상을 생성하는 것을 특징으로 하는 다시점 영상 디스플레이 장치.
  6. 제1항에 있어서,
    상기 프로세서는,
    상기 뷰 점핑 영역에서의 뷰 점핑 양이 기설정된 임계값이 되도록 설정된, 정시 영역에서 제공되는 서로 다른 시점의 복수의 뷰 간 뎁스 차에 대응되는 임계 기울기 값을 산출하고, 상기 입력된 영상의 뎁스 기울기 및 상기 산출된 임계 기울기 간의 차이에 기초하여 상기 입력된 영상의 뎁스 기울기 및 상기 임계 기울기 중 적어도 하나로 상기 입력 영상을 처리하여 상기 다시점 영상을 생성하는 것을 특징으로 하는 다시점 영상 디스플레이 장치.
  7. 제1항에 있어서,
    상기 뷰 점핑 영역에서의 뷰 점핑 양이 기설정된 임계값이 되도록 설정된, 정시 영역에서 제공되는 서로 다른 시점의 복수의 뷰 간 뎁스 차에 대응되는 임계 기울기 값을 저장하는 저장부;를 더 포함하며,
    상기 프로세서는,
    상기 입력된 영상의 뎁스 기울기 및 상기 임계 기울기 간의 차이에 기초하여 상기 입력된 영상의 뎁스 기울기 및 상기 임계 기울기 중 적어도 하나로 상기 입력 영상을 처리하여 상기 다시점 영상을 생성하는 것을 특징으로 하는 다시점 영상 디스플레이 장치.
  8. 제7항에 있어서,
    상기 프로세서는,
    상기 입력된 영상의 뎁스 기울기가 상기 임계 기울기 값보다 큰 경우, 상기 임계 기울기 값으로 상기 입력된 영상을 처리하여, 상기 다시점 영상을 생성하는 것을 특징으로 하는 다시점 영상 디스플레이 장치.
  9. 제7항에 있어서,
    상기 프로세서는,
    상기 입력된 영상의 뎁스 기울기가 상기 임계 기울기 값보다 크지만, 상기 입력된 영상의 뎁스 기울기를 유지하는 디스플레이 모드인 경우, 역시 영역에서의 뎁스 기울기 만을 상기 임계 기울기 값으로 보정하는 것을 특징으로 하는 다시점 영상 디스플레이 장치.
  10. 제7항에 있어서,
    상기 프로세서는,
    상기 입력된 영상의 뎁스 기울기가 상기 임계 기울기 값보다 작은 경우, 상기 입력된 영상의 뎁스 기울기에 따라 정시 영역을 추가적으로 확장시키는 것을 특징으로 하는 다시점 영상 디스플레이 장치.
  11. 제1항에 있어서,
    사용자 명령을 입력받는 사용자 인터페이스부;를 더 포함하며,
    상기 프로세서는,
    상기 사용자 명령에 따라 설정된 입체감에 기초하여 상기 싸이클릭 맵핑 방식에 따른 정시 영역이 확장되도록 상기 다시점 영상을 생성하는 것을 특징으로 하는 다시점 영상 디스플레이 장치.
  12. 다시점 영상 디스플레이 장치의 제어 방법에 있어서,
    입력된 영상의 뎁스에 기초하여 서로 다른 시점을 갖는 복수의 뷰를 렌더링하고, 상기 복수의 뷰를 구성하는 픽셀 값에 기초하여 상기 다시점 영상을 생성하는 단계; 및
    상기 생성된 다시점 영상을 디스플레이하는 단계;를 포함하며,
    상기 다시점 영상을 생성하는 단계는,
    싸이클릭 맵핑 방식에 따른 정시 영역이 확장되도록 하고, 상기 정시 영역 확장에 따라 역시 영역에서 발생하는 뷰 점핑 영역에서의 뷰 점핑 양이 기설정된 임계값이 되도록 상기 복수의 뷰를 구성하는 픽셀 값을 조정하여 상기 다시점 영상을 생성하는, 제어 방법.
  13. 제12항에 있어서,
    상기 다시점 영상 디스플레이 장치는,
    상기 다시점 영상을 디스플레이하는 디스플레이 패널 및, 상기 디스플레이 패널의 전면에 배치되어 사용자의 시청 영역에서 서로 다른 시점의 광학 뷰를 제공하는 시역 분리부를 포함하며,
    상기 다시점 영상을 생성하기 위해 이용되는 상기 복수의 뷰의 개수는 상기 광학 뷰의 개수보다 많은 것을 특징으로 하는 제어 방법.
  14. 제12항에 있어서,
    상기 다시점 영상을 생성하는 단계는,
    상기 복수의 뷰 각각의 동일한 픽셀 라인으로 구성된 에피폴라(epipolar) 이미지에 기초하여 생성된 에피폴라 도메인에서 상기 정시 영역이 확장되도록 하고, 상기 정시 영역 확장에 따라 역시 영역에서 발생하는 뷰 점핑 영역에서의 뷰 점핑 양이 기설정된 임계값이 되도록 상기 복수의 뷰를 구성하는 픽셀 값을 조정하여 상기 다시점 영상을 생성하는 것을 특징으로 하는 제어 방법.
  15. 제12항에 있어서,
    상기 다시점 영상을 생성하는 단계는,
    상기 입력된 영상의 뎁스에 기초하여 정시 영역이 확장되도록 하는 복수의 뷰 개수 및 뷰 간 뎁스 차를 산출하고, 이에 기초하여 상기 복수의 뷰를 렌더링하고 상기 복수의 뷰를 구성하는 픽셀 값에 기초하여 상기 다시점 영상을 생성하는 것을 특징으로 하는 제어 방법.
  16. 제12항에 있어서,
    상기 다시점 영상을 생성하는 단계는,
    상기 뷰 점핑 영역에서 발생되는 뷰 간 뎁스 차를 적응적으로 스무싱 처리하여 상기 다시점 영상을 생성하는 것을 특징으로 하는 제어 방법.
  17. 제12항에 있어서,
    상기 다시점 영상을 생성하는 단계는,
    상기 뷰 점핑 영역에서의 뷰 점핑 양이 기설정된 임계값이 되도록 설정된, 정시 영역에서 제공되는 서로 다른 시점의 복수의 뷰 간 뎁스 차에 대응되는 임계 기울기 값을 산출하고, 상기 입력된 영상의 뎁스 기울기 및 상기 산출된 임계 기울기 간의 차이에 기초하여 상기 입력된 영상의 뎁스 기울기 및 상기 임계 기울기 중 적어도 하나로 상기 입력 영상을 처리하여 상기 다시점 영상을 생성하는 것을 특징으로 하는 제어 방법.
  18. 제12항에 있어서,
    상기 다시점 영상 디스플레이 장치는,
    상기 뷰 점핑 영역에서의 뷰 점핑 양이 기설정된 임계값이 되도록 설정된, 정시 영역에서 제공되는 서로 다른 시점의 복수의 뷰 간 뎁스 차에 대응되는 임계 기울기 값을 저장하며,
    상기 다시점 영상을 생성하는 단계는,
    상기 입력된 영상의 뎁스 기울기 및 상기 기 저장된 임계 기울기 간의 차이에 기초하여 상기 입력된 영상의 뎁스 기울기 및 상기 임계 기울기 중 적어도 하나로 상기 입력 영상을 처리하여 상기 다시점 영상을 생성하는 것을 특징으로 하는 제어 방법.
  19. 제18항에 있어서,
    상기 다시점 영상을 생성하는 단계는,
    상기 입력된 영상의 뎁스 기울기가 상기 임계 기울기 값보다 큰 경우, 상기 임계 기울기 값으로 상기 입력된 영상을 처리하며,
    상기 입력된 영상의 뎁스 기울기가 상기 임계 기울기 값보다 크지만, 상기 입력된 영상의 뎁스 기울기를 유지하는 디스플레이 모드인 경우, 역시 영역에서의 뎁스 기울기 만을 상기 임계 기울기 값으로 보정하는 것을 특징으로 하는 제어 방법.
  20. 제18항에 있어서,
    상기 다시점 영상을 생성하는 단계는,
    상기 입력된 영상의 뎁스 기울기가 상기 임계 기울기 값보다 작은 경우, 상기 입력된 영상의 뎁스 기울기에 따라 정시 영역을 추가적으로 확장시키는 것을 특징으로 하는 제어 방법.




KR1020150135685A 2015-09-24 2015-09-24 다시점 영상 디스플레이 장치 및 그 제어 방법 KR102143463B1 (ko)

Priority Applications (3)

Application Number Priority Date Filing Date Title
KR1020150135685A KR102143463B1 (ko) 2015-09-24 2015-09-24 다시점 영상 디스플레이 장치 및 그 제어 방법
US15/018,035 US10212416B2 (en) 2015-09-24 2016-02-08 Multi view image display apparatus and control method thereof
CN201610540158.7A CN106559662B (zh) 2015-09-24 2016-07-11 多视图图像显示设备及其控制方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020150135685A KR102143463B1 (ko) 2015-09-24 2015-09-24 다시점 영상 디스플레이 장치 및 그 제어 방법

Publications (2)

Publication Number Publication Date
KR20170036476A true KR20170036476A (ko) 2017-04-03
KR102143463B1 KR102143463B1 (ko) 2020-08-12

Family

ID=58407563

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020150135685A KR102143463B1 (ko) 2015-09-24 2015-09-24 다시점 영상 디스플레이 장치 및 그 제어 방법

Country Status (3)

Country Link
US (1) US10212416B2 (ko)
KR (1) KR102143463B1 (ko)
CN (1) CN106559662B (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11089283B2 (en) 2017-12-04 2021-08-10 Kt Corporation Generating time slice video

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10511831B2 (en) * 2017-01-04 2019-12-17 Innolux Corporation Display device and method for displaying
CN112929645A (zh) * 2019-12-05 2021-06-08 北京芯海视界三维科技有限公司 3d显示设备、系统和方法及3d视频数据通信方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20130062556A (ko) * 2011-12-05 2013-06-13 에스케이플래닛 주식회사 3차원 영상 표시 장치 및 그 방법
KR20150055322A (ko) * 2013-11-13 2015-05-21 삼성전자주식회사 다시점 영상 디스플레이 장치 및 그 다시점 영상 디스플레이 방법

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7277121B2 (en) * 2001-08-29 2007-10-02 Sanyo Electric Co., Ltd. Stereoscopic image processing and display system
JP2006030507A (ja) * 2004-07-15 2006-02-02 Toshiba Corp 三次元空間画像表示装置及び三次元空間画像表示方法
KR101502419B1 (ko) * 2008-07-11 2015-03-13 삼성디스플레이 주식회사 다시점 영상 표시방법, 이를 수행하기 위한 표시장치
KR101699920B1 (ko) * 2009-10-07 2017-01-25 삼성전자주식회사 깊이 조절 방법 및 장치
US10134150B2 (en) * 2010-08-10 2018-11-20 Monotype Imaging Inc. Displaying graphics in multi-view scenes
TWI504232B (zh) * 2011-06-22 2015-10-11 Realtek Semiconductor Corp 3d影像處理裝置
EP2648414B1 (en) * 2012-04-03 2016-03-23 Samsung Electronics Co., Ltd 3d display apparatus and method for processing image using the same
KR101856568B1 (ko) * 2013-09-16 2018-06-19 삼성전자주식회사 다시점 영상 디스플레이 장치 및 제어 방법
CN104144337B (zh) * 2014-08-05 2016-07-06 深圳市华星光电技术有限公司 一种多视点立体显示器的图像显示方法及装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20130062556A (ko) * 2011-12-05 2013-06-13 에스케이플래닛 주식회사 3차원 영상 표시 장치 및 그 방법
KR20150055322A (ko) * 2013-11-13 2015-05-21 삼성전자주식회사 다시점 영상 디스플레이 장치 및 그 다시점 영상 디스플레이 방법

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11089283B2 (en) 2017-12-04 2021-08-10 Kt Corporation Generating time slice video

Also Published As

Publication number Publication date
CN106559662B (zh) 2020-05-26
US20170094266A1 (en) 2017-03-30
KR102143463B1 (ko) 2020-08-12
US10212416B2 (en) 2019-02-19
CN106559662A (zh) 2017-04-05

Similar Documents

Publication Publication Date Title
KR102121389B1 (ko) 무안경 3d 디스플레이 장치 및 그 제어 방법
KR102185130B1 (ko) 다시점 영상 디스플레이 장치 및 그 제어 방법
KR102030830B1 (ko) 곡면형 다시점 영상 디스플레이 장치 및 그 제어 방법
KR101856568B1 (ko) 다시점 영상 디스플레이 장치 및 제어 방법
KR102174258B1 (ko) 무안경 3d 디스플레이 장치 및 그 제어 방법
KR102140080B1 (ko) 다시점 영상 디스플레이 장치 및 제어 방법
KR101966152B1 (ko) 다시점 영상 디스플레이 장치 및 그 제어 방법
US9035943B1 (en) Multi-view image display apparatus and multi-view image display method thereof
KR102076598B1 (ko) 디스플레이 장치 및 그의 다시점 영상 디스플레이 방법
KR101975246B1 (ko) 다시점 영상 디스플레이 장치 및 그 제어 방법
KR20170029210A (ko) 무안경 3d 디스플레이 장치 및 그 제어 방법
US10939092B2 (en) Multiview image display apparatus and multiview image display method thereof
KR102143463B1 (ko) 다시점 영상 디스플레이 장치 및 그 제어 방법
KR101980275B1 (ko) 다시점 영상 디스플레이 장치 및 디스플레이 방법
KR20190010060A (ko) 디스플레이 장치 및 그 제어 방법
KR20150120746A (ko) 디스플레이 장치 및 그 제어 방법

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant