KR20170044953A - 무안경 3d 디스플레이 장치 및 그 제어 방법 - Google Patents

무안경 3d 디스플레이 장치 및 그 제어 방법 Download PDF

Info

Publication number
KR20170044953A
KR20170044953A KR1020150144698A KR20150144698A KR20170044953A KR 20170044953 A KR20170044953 A KR 20170044953A KR 1020150144698 A KR1020150144698 A KR 1020150144698A KR 20150144698 A KR20150144698 A KR 20150144698A KR 20170044953 A KR20170044953 A KR 20170044953A
Authority
KR
South Korea
Prior art keywords
image
view
crosstalk
views
inverse
Prior art date
Application number
KR1020150144698A
Other languages
English (en)
Other versions
KR102121389B1 (ko
Inventor
강진모
김성열
이호영
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020150144698A priority Critical patent/KR102121389B1/ko
Priority to US15/078,512 priority patent/US10237539B2/en
Priority to CN201610577107.1A priority patent/CN106604018B/zh
Priority to PCT/KR2016/011483 priority patent/WO2017065517A1/en
Priority to EP16855734.6A priority patent/EP3350989B1/en
Publication of KR20170044953A publication Critical patent/KR20170044953A/ko
Application granted granted Critical
Publication of KR102121389B1 publication Critical patent/KR102121389B1/ko

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/302Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays
    • H04N13/305Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays using lenticular lenses, e.g. arrangements of cylindrical lenses
    • H04N13/04
    • H04N13/0402
    • H04N13/0425
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/302Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/302Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays
    • H04N13/31Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays using parallax barriers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/302Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays
    • H04N13/317Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays using slanted parallax optics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/349Multi-view displays for displaying three or more geometrical viewpoints without viewer tracking
    • H04N13/351Multi-view displays for displaying three or more geometrical viewpoints without viewer tracking for displaying simultaneously
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/398Synchronisation thereof; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding

Abstract

무안경 3D 디스플레이 장치가 개시된다. 디스플레이 패널 및 디스플레이 패널의 전면에 배치되어 사용자의 시청 영역에서 서로 다른 시점의 광학 뷰를 제공하는 시역 분리부를 포함하는 디스플레이부 및, 입력된 영상의 뎁스에 기초하여 서로 다른 시점을 갖는 복수의 영상 뷰를 렌더링하고, 복수의 영상 뷰를 디스플레이 패널에 기설정된 배치 패턴으로 배치하여 다시점 영상을 제공하는 컨트롤러를 포함하며, 컨트롤러는, 복수의 영상 뷰의 배치 위치에 기초하여 서로 다른 시점의 영상 뷰 간에 발생하는 크로스토크(X-talk)를 예측하고, 크로스토크 예측 결과에 따라 X-talk 역보상을 수행하여 보정된 복수의 영상 뷰를 이용하여 다시점 영상을 제공한다.

Description

무안경 3D 디스플레이 장치 및 그 제어 방법 { GLASSLESS 3D DISPLAY APPARATUS AND CONTORL METHOD THEREOF}
본 발명은 무안경 3D 디스플레이 장치 및 그 제어 방법에 관한 것으로, 더욱 상세하게는 광학 뷰보다 많은 개수의 영상 뷰를 렌더링하여 3D 영상을 제공하는 무안경 3D 디스플레이 장치 및 그 제어 방법에 관한 것이다.
전자 기술의 발달에 힘입어 다양한 유형의 전자기기가 개발 및 보급되고 있다. 특히, 일반 가정에서 가장 많이 사용되고 있는 가전 제품 중 하나인 TV와 같은 디스플레이 장치는 최근 수년 간 급속도로 발전하고 있다.
디스플레이 장치의 성능이 고급화되면서, 디스플레이 장치에서 디스플레이하는 컨텐츠의 종류도 다양하게 증대되었다. 특히, 최근에는 3D 컨텐츠까지 시청할 수 있는 입체 디스플레이 시스템이 개발되어 보급되고 있다.
입체 디스플레이 장치는 일반 가정에서 사용되는 3D 텔레비젼 뿐만 아니라, 각종 모니터, 휴대폰, PDA, PC, 셋탑 PC, 태블릿 PC, 전자 액자, 키오스크 등과 같은 다양한 유형의 디스플레이 장치로 구현될 수 있다. 또한, 3D 디스플레이 기술은, 가정 내 사용 뿐만 아니라 과학, 의약, 디자인, 교육, 광고, 컴퓨터 게임 등과 같이 3D 이미징이 필요한 다양한 분야에 활용될 수 있다.
입체 디스플레이 시스템은 크게 안경 없이 시청 가능한 무안경식 시스템과, 안경을 착용하여 시청하여야 하는 안경식 시스템으로 분류할 수 있다.
안경식 시스템은 만족스러운 입체감을 제공할 수 있으나, 시청자가 반드시 안경을 사용하여야만 한다는 불편함이 있었다. 이에 비해, 무안경식 시스템은 안경 없이도 3D 이미지를 시청할 수 있다는 장점이 있어, 무안경식 시스템에 대한 개발 논의가 지속적으로 이루어지고 있다.
특히, 무안경식 시스템의 경우 명암비(contrast), 플리커(flicker), X-talk(crosstalk) 등에 의해 3D 영상의 화질이 좌우된다. 여기서, X-talk는 좌안 영상이 우안 영상과 섞여 우안에 보이거나, 이와 반대로 우안 영상이 좌안 영상에 섞여 좌안에 보이는 현상을 말한다. 이러한 X-talk로 인해 3D 영상의 선명도가 저하된다는 문제점이 있었다.
본 발명은 상술한 필요성에 따라 안출된 것으로, 본 발명은 영상 뷰 기반의 크로스토크 역보상을 통해 선명한 3D 영상을 제공하는 무안경 3D 디스플레이 장치 및 그 제어 방법을 제공하는 것을 목적으로 한다.
본 발명은 상술한 필요성에 따라 안출된 것으로, 본 발명은 영상 뷰 기반의 크로스토크 역보상을 통해 선명한 3D 영상을 제공하는 무안경 3D 디스플레이 장치 및 그 제어 방법을 제공하는 것을 목적으로 한다.
본 발명의 상술한 목적을 달성하기 위한 일 실시 예에 따르면 무안경 3D 디스플레이 장치는, 디스플레이 패널 및 상기 디스플레이 패널의 전면에 배치되어 사용자의 시청 영역에서 서로 다른 시점의 광학 뷰를 제공하는 시역 분리부를 포함하는 디스플레이부 및 입력된 영상의 뎁스에 기초하여 서로 다른 시점을 갖는 복수의 영상 뷰를 렌더링하고, 상기 복수의 영상 뷰를 상기 디스플레이 패널에 기설정된 배치 패턴으로 배치하여 다시점 영상을 제공하는 프로세서를 포함하며, 상기 프로세서는, 상기 복수의 영상 뷰의 배치 위치에 기초하여 서로 다른 시점의 영상 뷰 간에 발생하는 크로스토크(X-talk)를 예측하고, 크로스토크 예측 결과에 따라 X-talk 역보상을 수행하여 보정된 복수의 영상 뷰를 이용하여 상기 다시점 영상을 제공한다.
여기서, 상기 복수의 영상 뷰의 개수는, 상기 광학 뷰의 개수보다 많으며, 상기 광학 뷰 각각은 적어도 두 개의 서로 다른 시점의 영상 뷰에 기초하여 제공될 수 있다.
또한, 상기 프로세서는, 상기 디스플레이 패널의 출력 픽셀 영역 및 상기 영상 뷰를 통해 사용자에게 제공되는 대응되는 가시(可視) 픽셀 영역 간 차이에 기초하여 크로스토크를 예측할 수 있다.
또한, 상기 시역 분리부는, 기설정된 각도로 기울어진 복수의 가시 픽셀 영역이 상기 광학 뷰로 제공되도록 동작하며, 상기 프로세서는, 상기 기설정된 각도, 상기 영상 뷰의 개수 및 렌더링 피치에 기초하여, 기준 영상 뷰에 대한 이론적 크로스토크를 모델링할 수 있다.
또한, 상기 프로세서는, 상기 모델링된 이론적 크로스토크에 가우시안 광 프로파일을 반영하여 개선된 크로스토크를 도출할 수 있다.
또한, 상기 프로세서는, 상기 기설정된 각도, 상기 영상 뷰의 개수 및 렌더링 피치에 기초하여, 상기 기준 영상 뷰에 크로스토크를 제공하는 적어도 하나의 영상 뷰 각각의 크로스토크 발생 가중치를 산출하고, 산출된 가중치에 따른 크로스토크 매트릭스를 생성하여 크로스토크 역 보상을 수행할 수 있다.
또한, 상기 프로세서는, 상기 렌더링된 복수의 영상 뷰 각각의 각 픽셀 라인을 조합하여 각 픽셀 라인에 대응되는 에피폴라(epipolar) 영상을 생성하고, 상기 생성된 에피폴라 영상에 크로스토크 인버스 필터(X-talk Inverse filter)를 적용하여 크로스토크 역보상을 수행하며, 상기 크로스토크 인버스 필터는, 상기 크로스토크 매트릭스의 인버스 매트릭스를 필터 형태로 구현한 것이다.
또한, 상기 프로세서는, 상기 입력 영상의 특성에 기초하여 상기 크로스토크 인버스 필터의 필터링 계수를 조정하고, 상기 조정된 필터링 계수를 반영하여 상기 크로스토크 역보상을 수행할 수 있다.
이 경우, 상기 프로세서는, 상기 크로스토크 인버스 필터를angular smoothing 필터 및 angular sharpening 필터로 구분하고, 상기 입력 영상의 특성에 기초하여 상기 angular smoothing 필터 및 상기 angular sharpening 필터 각각의 계수를 조정함으로써, 상기 크로스토크 인버스 필터의 계수를 조정할 수 있다.
또한, 상기 프로세서는, 상기 크로스토크 역보상이 수행된 에피폴라 영상에 기초하여 상기 렌더링된 복수의 영상 뷰가 보정된 복수의 타겟 영상 뷰를 획득하고, 상기 복수의 타겟 영상 뷰에 기초하여 상기 디스플레이 패널에 기설정된 배치 패턴으로 배치하여 다시점 영상을 제공할 수 있다.
한편, 본 발명의 일 실시 예에 따른 디스플레이 패널 및 상기 디스플레이 패널의 전면에 배치되어 사용자의 시청 영역에서 서로 다른 시점의 광학 뷰를 제공하는 시역 분리부를 포함하는 디스플레이부를 포함하는 무안경 3D 디스플레이 장치의 제어 방법은, 입력된 영상의 뎁스에 기초하여 서로 다른 시점을 갖는 복수의 영상 뷰를 렌더링하는 단계 및, 상기 복수의 영상 뷰를 상기 디스플레이 패널에 기설정된 배치 패턴으로 배치하여 다시점 영상을 제공하는 단계를 포함하며, 상기 다시점 영상을 제공하는 단계는, 상기 복수의 영상 뷰의 배치 위치에 기초하여 서로 다른 시점의 영상 뷰 간에 발생하는 크로스토크(X-talk)를 예측하고, 크로스토크 예측 결과에 따라 X-talk 역보상을 수행하여 보정된 복수의 영상 뷰를 이용하여 상기 다시점 영상을 제공한다.
여기서, 상기 복수의 영상 뷰의 개수는, 상기 광학 뷰의 개수보다 많으며, 상기 광학 뷰 각각은 적어도 두 개의 서로 다른 시점의 영상 뷰에 기초하여 제공될 수 있다.
또한, 상기 다시점 영상을 제공하는 단계는, 상기 디스플레이 패널의 출력 픽셀 영역 및 상기 영상 뷰를 통해 사용자에게 제공되는 대응되는 가시(可視) 픽셀 영역 간 차이에 기초하여 크로스토크를 예측할 수 있다.
또한, 상기 시역 분리부는, 기설정된 각도로 기울어진 복수의 가시 픽셀 영역이 상기 광학 뷰로 제공되도록 동작하며, 상기 다시점 영상을 제공하는 단계는, 상기 기설정된 각도, 상기 영상 뷰의 개수 및 렌더링 피치에 기초하여, 기준 영상 뷰에 대한 이론적 크로스토크를 모델링할 수 있다.
또한, 상기 다시점 영상을 제공하는 단계는, 상기 모델링된 이론적 크로스토크에 가우시안 광 프로파일을 반영하여 개선된 크로스토크를 도출할 수 있다.
또한, 상기 다시점 영상을 제공하는 단계는, 상기 기설정된 각도, 상기 영상 뷰의 개수 및 렌더링 피치에 기초하여, 상기 기준 영상 뷰에 크로스토크를 제공하는 적어도 하나의 영상 뷰 각각의 크로스토크 발생 가중치를 산출하고, 산출된 가중치에 따른 크로스토크 매트릭스를 생성하여 크로스토크 역 보상을 수행할 수 있다.
또한, 상기 다시점 영상을 제공하는 단계는, 상기 렌더링된 복수의 영상 뷰 각각의 각 픽셀 라인을 조합하여 각 픽셀 라인에 대응되는 에피폴라(epipolar) 영상을 생성하고, 상기 생성된 에피폴라 영상에 크로스토크 인버스 필터(X-talk Inverse filter)를 적용하여 크로스토크 역보상을 수행하며, 상기 크로스토크 인버스 필터는, 상기 크로스토크 매트릭스의 인버스 매트릭스를 필터 형태로 구현한 것이다.
또한, 상기 다시점 영상을 제공하는 단계는, 상기 입력 영상의 특성에 기초하여 상기 크로스토크 인버스 필터의 필터링 계수를 조정하고, 상기 조정된 필터링 계수를 반영하여 상기 크로스토크 역보상을 수행할 수 있다.
이 경우, 상기 다시점 영상을 제공하는 단계는, 상기 크로스토크 인버스 필터를angular smoothing 필터 및 angular sharpening 필터로 구분하고, 상기 입력 영상의 특성에 기초하여 상기 angular smoothing 필터 및 상기 angular sharpening 필터 각각의 계수를 조정함으로써, 상기 크로스토크 인버스 필터의 계수를 조정할 수 있다.
또한, 상기 다시점 영상을 제공하는 단계는, 상기 크로스토크 역보상이 수행된 에피폴라 영상에 기초하여 상기 렌더링된 복수의 영상 뷰가 보정된 복수의 타겟 영상 뷰를 획득하고, 상기 복수의 타겟 영상 뷰에 기초하여 상기 디스플레이 패널에 기설정된 배치 패턴으로 배치하여 다시점 영상을 제공할 수 있다.
한편, 본 발명의 일 실시 예에 따른 디스플레이 패널 및 상기 디스플레이 패널의 전면에 배치되어 사용자의 시청 영역에서 서로 다른 시점의 광학 뷰를 제공하는 시역 분리부를 포함하는 디스플레이부를 포함하는 무안경 3D 디스플레이 장치의 제어 방법을 수행하기 위한 프로그램이 저장된 기록 매체에 있어서, 상기 방법은, 입력된 영상의 뎁스에 기초하여 서로 다른 시점을 갖는 복수의 영상 뷰를 렌더링하는 단계; 및, 상기 복수의 영상 뷰를 상기 디스플레이 패널에 기설정된 배치 패턴으로 배치하여 다시점 영상을 제공하는 단계;를 포함하며, 상기 다시점 영상을 제공하는 단계는, 상기 복수의 영상 뷰의 배치 위치에 기초하여 서로 다른 시점의 영상 뷰 간에 발생하는 크로스토크(X-talk)를 예측하고, 크로스토크 예측 결과에 따라 X-talk 역보상을 수행하여 보정된 복수의 영상 뷰를 이용하여 상기 다시점 영상을 제공한다.이상과 같이 본 발명의 다양한 실시 예에 따르면, 무안경식 디스플레이 시스템에서 제공되는 3D 영상의 화질을 개선시킬 수 있게 된다.
이상과 같이 본 발명의 다양한 실시 예에 따르면, 무안경식 디스플레이 시스템에서 제공되는 3D 영상의 화질을 개선시킬 수 있게 된다.
도 1a 내지 도 1d는 본 발명의 이해를 돕기 위한 무안경 3D 디스플레이 장치의 동작을 설명하기 위한 도면이다.
도 2a 내지 도 2c는 본 발명의 다양한 실시 예에 따른 무안경 3D 디스플레이 장치의 구성을 나타내는 도면들이다
도 3a 및 도 3b는 본 발명의 다른 실시 예에 따른 무안경 3D 디스플레이 장치의 구성을 나타내는 블럭도이다.
도 4a 내지 도 4c는 본 발명의 일 실시 예에 따라 X-talk 역보상을 수행하기 위한 방법을 설명하기 위한 도면들이다.
도 5 및 도 6은 기존의 광학 뷰 기반의 X-talk 산출 방식과 본 발명의 일 실시 예에 따른 영상 뷰 기반의 X-talk 산출 방식을 비교하기 위한 도면이다.
도 7 내지 도 10은 이론적 X-talk 산출 방법을 설명하기 위한 도면들이다.
도 11 및 도 12는 본 발명의 다양한 실시 예에 따른 크로스토크 인버스 필터의 계수 조정 방법을 설명하기 위한 도면이다.
도 13은 본 발명의 일 실시 예에 따른 크로스토크 역보상 수행 방법을 설명하기 위한 도면이다.
도 14는 본 발명의 일 실시 예에 따라 에피폴라 영상을 생성하는 방법을 설명하기 위한 도면이다.
도 15는 본 발명의 일 실시 예에 따른 무안경 3D 디스플레이 장치의 제어 방법을 설명하기 위한 흐름도이다.
이하 본 발명의 다양한 실시 예를 첨부된 도면을 참조하여 상세히 설명한다.
도 1a 내지 도 1d는 본 발명의 이해를 돕기 위한 무안경 3D 디스플레이 장치의 동작을 설명하기 위한 도면이다.
도 1a는 본 발명의 일 실시 예에 따라 다시점 영상을 디스플레이하여 무안경 방식으로 입체 영상을 제공하는 장치의 동작 방식을 나타내는 것으로, 여기에서, 다시점 영상은 동일한 오브젝트를 서로 다른 각도에서 촬영한 복수의 영상을 포함한다. 즉, 서로 다른 시점에서 촬영한 복수의 영상을 서로 다른 각도로 굴절시키고, 소위 시청 거리라 하는 일정한 거리만큼 떨어진 위치(가령, 약 3m)에 포커스된 영상을 제공한다. 이와 같이 시청 영역이 형성되는 위치를 광학 뷰라 한다. 이에 따라, 사용자의 한 쪽 눈이 하나의 제1 광학 뷰에 위치하고, 다른 쪽 눈이 제2 광학 뷰에 위치하면 입체감을 느낄 수 있게 된다.
한편, 본 발명의 일 실시 예에 따른 무안경 3D 디스플레이 장치는 복수의 영상 뷰를 이용하여 하나의 광학 뷰를 제공할 수 있다. 구체적으로, 입력된 영상에 대한 렌더링을 통해 복수의 영상 뷰를 생성하고, 복수의 영상 뷰 중 적어도 두 개의 영상 뷰가 하나의 광학 뷰를 제공하도록 다시점 영상을 생성할 수 있다. 일 예로, 도 1a은 총 8 개의 서로 다른 시점의 영상 뷰를 이용하여, 4개의 광학 뷰를 제공하는 경우 디스플레이 동작을 설명하는 도면이다. 도 1a에 따르면, 무안경 3D 디스플레이 장치는 좌안에는 8 시점 중 1, 2 시점 영상에 해당하는 광이, 우안에는 3, 4 시점 영상에 해당하는 광이 투사되도록 할 수 있다. 이에 따라, 사용자는 좌안 및 우안에서 서로 다른 시점의 영상을 시청하게 되어 입체감을 느낄 수 있게 된다. 다만, 이는 일 실시 예에 불과하며, 총 N 개의 시점에 대응되는 영상 뷰를 이용하여 M(M>>N)개의 광학 뷰를 제공하는 경우 하나의 광학 뷰는 N/M개의 시점의 영상 뷰로 구성될 수 있다. 예를 들어, 7개의 영상 뷰를 이용하여 7개의 광학 뷰를 제공하는 도 1b의 실시 예와 달리, 도 1c에 도시된 바와 같이 35 개의 영상 뷰를 이용하여 7개의 광학 뷰를 제공할 수 있다.
도 1d는 도 1c에 도시된 실시 예를 구체적으로 도시한 것으로, 도시된 바에 따르면, 총 7개의 광학 뷰(11 내지 17)를 제공하고, 각 광학 뷰는 5개의 영상 뷰(또는 서브 뷰, 또는 가상 시점 영상)으로 이루어질 수 있다. 즉, 총 35 개(1 내지 35)의 영상 뷰(20)을 이용하여 7개의 광학 뷰(11 내지 17)를 제공할 수 있다. 예를 들어, 제1 광학 뷰(11)는 1 내지 5의 영상 뷰를 이용하여 제공될 수 있다. 이 경우, 인접한 광학 뷰의 시차가 A인 경우, 인접한 영상 뷰의 시차는 A/5가 된다. 또한, 좌안 및 우안의 시차는 인접한 광학 뷰의 시차인 A가 된다. 이에 따라, 영상 뷰 개수와 광학 뷰 개수가 동일한 도 1b의 실시 예와 달리 부드러운 시역 전환이 가능하게 된다. 다만, 본 발명의 다른 실시 예에 따르면, 적어도 일 시청 영역에서는 영상 뷰와 광학 뷰가 일치할 수도 있다. 즉, 영상 뷰가 A 개인 경우 적어도 일 시청 영역에서 제공되는 광학 뷰는 영상 뷰의 개수에 대응되는 A개가 될 수 있다.
한편, View Mapping에 방식에는 Linear Mapping 방식 및 Cyclic Mapping 방식이 존재하며, 도 1a에서는 Linear Mapping 방식을 도시하였으나, 경우에 따라서는 Cyclic Mapping 방식에 기초하여 다시점 영상이 생성될 수 있음은 물론이다.
도 2a 내지 도 2d는 본 발명의 다양한 실시 예에 따른 다시점 영상 디스플레이 장치의 구성을 나타내는 도면들이다
도 2a는 본 발명의 일 실시 예에 따른 무안경 3D 디스플레이 장치의 구성을 나타내는 블럭도이다.
도 2a에 따르면, 무안경 3D 디스플레이 장치(100)는 디스플레이부(110) 및 프로세서(120)를 포함한다.
무안경 3D 디스플레이 장치(100)는 TV, 모니터, PC, 키오스크, 태블릿 PC, 전자 액자, 키오스크, 휴대폰 등과 같은 다양한 유형의 디스플레이 장치로 구현될 수 있다.
영상 입력부(미도시)는 영상을 입력받는다. 구체적으로, 영상 입력부(미도시)는 외부의 저장 매체, 방송국, 웹 서버 등과 같은 각종 외부 장치로부터 영상을 입력받을 수 있다. 여기서, 입력되는 영상은 단일 시점 영상, 스테레오(Stero) 영상, 다시점 영상 중 어느 하나의 영상이다. 단일 시점 영상은 일반적인 촬영 장치에 의해 촬영된 영상이며, 스테레오 영상(Stereoscopic image)은 좌안 영상과 우안 영상만으로 표현된 3차원 비디오 영상으로, 스테레오 촬영 장치에 의해 촬영된 입체 영상이다. 일반적으로 스테레오 촬영 장치는 2개의 렌즈를 구비한 촬영 장치로 입체 영상을 촬영하는데 사용된다. 그리고, 다시점 영상(Multiview image)은 한대 이상의 촬영 장치를 통해 촬영된 영상들을 기하학적으로 교정하고 공간적인 합성 등을 통하여 여러 방향의 다양한 시점을 사용자에게 제공하는 3차원 비디오 영상을 의미한다.
또한, 영상 입력부(미도시)는 영상의 뎁스 정보를 수신할 수 있다. 일반적으로 영상의 뎁스(Depth)는 영상의 각각 픽셀별로 부여된 깊이 값으로, 일 예로, 8bit의 뎁스는 0~255까지의 그레이 스케일(grayscale) 값을 가질 수 있다. 예를 들어, 흑/백을 기준으로 나타낼 때, 검은색(낮은 값)이 시청자로부터 먼 곳을 나타내며, 흰색(높은 값)이 시청자로부터 가까운 곳을 나타낼 수 있다.
뎁스(depth) 정보란 3D 영상의 뎁스를 나타내는 정보로, 3D 영상을 구성하는 좌안 영상과 우안 영상 사이의 양안 시차 정도에 대응되는 정보이다. 뎁스 정보에 따라 사람이 느끼는 입체감의 정도가 달라진다. 즉, 뎁스가 큰 경우 좌우 양안 시차가 크게 되므로 입체감이 상대적으로 크게 느껴지고, 뎁스가 작은 경우 좌우 양안 시차가 작게 되므로 입체감이 상대적으로 작게 느껴지게 된다. 뎁스 정보는 일반적으로, 스테레오 정합(Stereo matching) 등과 같이 영상의 2차원적 특성만을 가지고 얻는 수동적인 방법과 깊이 카메라(Depth camera)와 같은 장비를 이용하는 능동적 방법을 통하여 획득될 수 있다. 한편, 뎁스 정보는 뎁스 맵 형태가 될 수 있다.
뎁스 맵(Depth map)이란 영상의 각 영역 별 뎁스 정보를 포함하고 있는 테이블을 의미한다. 영역은 픽셀 단위로 구분될 수도 있고, 픽셀 단위보다 큰 기설정된 영역으로 정의될 수도 있다. 일 예에 따라 뎁스 맵은 0~255까지의 그레이 스케일(grayscale) 값 중 127 또는 128을 기준 값 즉, 0(또는 포컬 플레인)으로 하여 127 또는 128 보다 작은 값을 - 값으로 나타내고, 큰 값을 + 값으로 나타내는 형태가 될 수 있다. 포컬 플레인의 기준값은 0~255 사이에서 임의로 선택할 수 있다. 여기서, - 값은 침강을 의미하며, + 값은 돌출을 의미한다.
디스플레이부(110)는, 사용자의 시청 영역에서 복수의 광학 뷰를 제공하는 기능을 한다. 이를 위해, 디스플레이부(110)는 복수의 광학 뷰 제공을 위한 디스플레이 패널(111) 및 시역 분리부(112)를 포함한다.
디스플레이 패널(111)은 복수의 서브 픽셀로 구성된 복수의 픽셀을 포함한다. 여기에서, 서브 픽셀은 R(Red), G(Green), B(Blue)로 구성될 수 있다. 즉, R, G, B의 서브 픽셀로 구성된 픽셀이 복수의 행 및 열 방향으로 배열되어 디스플레이 패널(131)을 구성할 수 있다. 이 경우, 디스플레이 패널(131)는 액정 디스플레이 패널(Liquid Crystal Display Panel: LCD Panel), 플라즈마 디스플레이 패널(Plasma Display Panel: PDP), 유기발광 소자(Organic Light Emitting Diode, OLED), VFD(Vacuum Fluorescent Display), FED(Field Emission Display), ELD(Electro Luminescence Display) 등과 같은 다양한 디스플레이 유닛으로 구현될 수 있다.
디스플레이 패널(111)은 영상 프레임을 디스플레이한다. 구체적으로, 디스플레이 패널(111)은 서로 다른 시점의 복수의 뷰가 순차적으로 반복 배치된 다시점 영상 프레임을 디스플레이할 수 있다.
한편, 도 2a에 도시하지 않았지만, 디스플레이 패널(111)이 LCD 패널로 구현되는 경우, 디스플레이 장치(100)는 디스플레이 패널(111)에 백라이트를 공급하는 백라이트부(미도시) 및 영상 프레임을 구성하는 각 픽셀들의 픽셀 값에 따라 디스플레이 패널(121)의 픽셀들을 구동하는 패널 구동부(미도시)를 더 구비할 수 있다.
시역 분리부(112)는 디스플레이 패널(111)의 전면에 배치되어 시청 영역 별로 상이한 시점 즉, 광학 뷰를 제공할 수 있다. 이 경우, 시역 분리부(112)는 렌티큘러 렌즈(Lenticular lens) 또는, 패러랙스 배리어(Parallax Barrier)로 구현될 수 있다.
예를 들어, 시역 분리부(112)는 복수의 렌즈 영역을 포함하는 렌티큘러 렌즈로 구현될 수 있다. 이에 따라, 렌티큘러 렌즈는 복수의 렌즈 영역을 통해 디스플레이 패널(111)에서 디스플레이되는 영상을 굴절시킬 수 있다. 각 렌즈 영역은 적어도 하나의 픽셀에 대응되는 크기로 형성되어, 각 픽셀을 투과하는 광을 시청 영역별로 상이하게 분산시킬 수 있다.
다른 예로, 시역 분리부(112)는 패러랙스 배리어로 구현될 수 있다. 패러랙스 배리어는 복수의 배리어 영역을 포함하는 투명 슬릿 어레이로 구현된다. 이에 따라, 배리어 영역 간의 슬릿(slit)을 통해 광을 차단하여 시청 영역 별로 상이한 시점의 영상이 출사되도록 할 수 있다.
도 2b는 본 발명의 일 실시 예에 따라 시역 분리부(112)가 렌티큘러 렌즈 어레이로 구현되고, 디스플레이 패널(111)이 LCD 패널로 구현된 경우를 예를 들어 설명하도록 한다.
도 2b에 따르면, 디스플레이부(110)는 디스플레이 패널(111), 렌티큘러 렌즈 어레이(112') 및 백라이트 유닛(113)을 포함한다.
도 2b에 따르면, 디스플레이 패널(111)은 복수의 열(column)로 구분되는 복수의 픽셀을 포함한다. 각 열 별로 상이한 시점의 영상 뷰가 배치된다. 도 2b에 따르면, 서로 다른 시점의 복수의 영상 뷰인 제1 내지 제8뷰가 순차적으로 반복 배치되는 형태를 나타낸다. 즉, 각 픽셀 열은 1, 2, 3, 4, 5, 6, 7, 8로 넘버링된 그룹으로 배열된다.
백라이트 유닛(113)은 디스플레이 패널(111)로 광을 제공한다. 백라이트 유닛(113)으로부터 제공되는 광에 의해, 디스플레이 패널(111)에 형성되는 각 영상 뷰는 렌티큘러 렌즈 어레이(112')로 투사되고, 렌티큘러 렌즈 어레이(112')는 투사되는 각 영상 뷰의 광을 분산시켜 사용자 방향으로 전달한다. 즉, 렌티큘러 렌즈 어레이(112')는 사용자의 위치, 즉, 시청 거리에 출구동공(exit pupils)을 생성한다. 도시된 바와 같이 렌티큘러 렌즈 어레이로 구현되었을 경우 렌티큘러 렌즈의 두께 및 직경, 패러랙스 배리어로 구현되었을 경우 슬릿의 간격 등은 각 열에 의해 생성되는 출구 동공이 65mm 미만의 평균 양안 중심 거리로 분리되도록 설계될 수 있다. 분리된 이미지 광들은 각각 광학 뷰를 형성한다. 즉, 도 2b에 도시된 바와 같이 시청 영역에는 복수의 광학 뷰가 형성되고 사용자의 좌안 및 우안이 각각 서로 다른 광학 뷰에 위치하게 되는 경우, 3D 영상을 시청할 수 있게 된다.
한편, 시역 분리부(112)는 화질 개선을 위하여 일정한 각도로 기울어져서 동작할 수 있다. 프로세서(120)는 복수의 뷰 각각을 시역 분리부(112)가 기울어진(Slanted) 각도에 기초하여 분할하고, 이들을 조합하여 출력을 위한 다시점 영상 프레임을 생성할 수 있다. 이에 따라, 사용자는 디스플레이 패널(111)의 서브 픽셀에 수직 방향 또는 수평 방향으로 디스플레이된 영상을 시청하는 것이 아니라, 특정 방향으로 기울어진 영역을 시청할 수 있다. 이에 따라, 시청자는 적어도 일부 픽셀에 대해서는 하나의 완전한 서브 픽셀이 아닌 서브 픽셀의 일부를 시청할 수 있다. 예를 들어, 도 2c에 도시된 바와 같이 사용자는 시역 분리부(112)에 의하여 기설정된 각도로 기울어진 영역(210)을 시청하게 되며, 특히, 시역 분리부(112)의 광학적 동작에 의하여, 사용자는 도시된 바와 같은 기울어진 영역에 픽셀 영역(이하, 가시 픽셀 영역이라 함)을 시청하게 된다. 이 경우, 가시 픽셀 영역에서 제공되는 픽셀(A, B, C)의 크기는 렌티큘러 렌즈의 피치(pitch)에 의해 결정될 수 있다.
프로세서(120)는 디스플레이 장치(100)의 전반적인 동작을 제어한다.
우선, 프로세서(120)는 서로 다른 시점의 복수의 영상 뷰를 렌더링할 수 있다.
구체적으로, 프로세서(120)는 입력된 영상이 2D 영상인 경우, 2D/3D 변환에 추출된 뎁스 정보를 기초로 서로 다른 시점의 복수의 영상 뷰를 렌더링할 수 있다. 또는 서로 다른 시점의 복수의 영상 뷰 및 대응되는 복수의 뎁스 정보가 입력되는 경우, 입력된 복수의 영상 뷰 및 뎁스 정보 중 적어도 하나의 영상 뷰 및 뎁스 정보에 기초하여 개수(이하에서 N개라 함)의 영상 뷰를 렌더링할 수 있다. 또는 서로 다른 시점의 복수의 영상 뷰 만 입력되는 경우, 복수의 영상 뷰로부터 뎁스 정보 추출 후, 추출된 뎁스 정보에 기초하여 N 개의 영상 뷰를 렌더링할 수 있다.
일 예로, 프로세서(120)는 3D 영상, 즉 좌안 영상 및 우안 영상 중 하나를 기준 뷰(또는 센터 뷰)로 선택하여 다시점 영상의 기초가 되는 최좌측 뷰 및 최우측 뷰를 생성할 수 있다. 이 경우, 프로세서(120)는 기준 뷰로 선택된 좌안 영상 및 우안 영상 중 하나에 대응되는 보정된 뎁스 정보를 기초로 최좌측 뷰 및 최우측 뷰를 생성할 수 있다. 프로세서(120)는 최좌측 뷰 및 최우측 뷰가 생성되면, 센터 뷰와 최좌측 뷰 사이에서 복수 개의 보간 뷰를 생성하고, 센터 뷰와 최우측 뷰 사이에서 복수 개의 보간 뷰를 생성함으로써 N개의 영상 뷰를 렌더링할 수 있다. 다만, 이에 한정되는 것은 아니며, 보외 기법에 의해 생성되는 보외 뷰(Extrapolation View)를 생성하는 것도 가능하다. 한편, 2D 영상 및 뎁스 정보를 기초로 다시점 영상을 렌더링하는 경우 2D 영상을 센터 뷰로 선택할 수 있음을 물론이다. 다만, 상술한 렌더링 동작은 일 예를 든 것이며, 상술한 렌더링 동작 외에 다양한 방법에 의해 복수의 영상 뷰를 렌더링할 수 있음은 물론이다. 경우에 따라 프로세서(120)는 뎁스 정보에 기초하여 입력된 영상의 뎁스를 다양한 기준에 따라 조정할 수 있으며, 이 경우 프로세서(120)는 뎁스가 조정된 영상에 기초하여 복수의 영상 뷰를 렌더링할 수 있다.
프로세서(120)는 렌더링된 서로 다른 시점의 복수의 영상 뷰를 구성하는 서브 픽셀 값에 기초하여 디스플레이부(110)에 디스플레이할 다시점 영상을 생성한다. 여기서, 프로세서(120)는 중앙처리장치(central processing unit(CPU)), 어플리케이션 프로세서(application processor(AP)), 또는 커뮤니케이션 프로세서(communication processor(CP)) 중 하나 또는 그 이상을 포함할 수 있다.
특히, 프로세서(120)는 입력된 영상의 뎁스에 기초하여 서로 다른 시점을 갖는 복수의 영상 뷰를 렌더링하고, 복수의 영상 뷰를 디스플레이 패널(111)에 기설정된 배치 패턴으로 배치하여 다시점 영상을 제공할 수 있다.
이 경우, 프로세서(120)는, 복수의 영상 뷰의 배치 위치에 기초하여 서로 다른 시점의 영상 뷰 간에 발생하는 크로스토크(X-talk)를 예측하고, 크로스토크 예측 결과에 따라 X-talk 역보상을 수행하여 다시점 영상을 제공할 수 있다. 여기서, 복수의 영상 뷰의 개수는, 광학 뷰의 개수보다 많으며, 광학 뷰 각각은 적어도 두 개의 서로 다른 시점의 영상 뷰에 기초하여 제공될 수 있다.
구체적으로, 프로세서(120)는, 디스플레이 패널(111)의 출력 픽셀 영역 및 영상 뷰를 통해 사용자에게 제공되는 대응되는 가시(可視) 픽셀 영역 간 차이에 기초하여 크로스토크를 예측할 수 있다.
특히, 프로세서(120)는 영상 뷰로 제공되는 복수의 가시 픽셀 영역이 기울어진 각도, 영상 뷰의 개수 및 렌더링 피치에 기초하여, 기준 영상 뷰에 대한 영상 뷰 기반 크로스토크를 이론적으로 모델링할 수 있다.
또한, 프로세서(120)는, 모델링된 이론적 크로스토크에 가우시안 광 프로파일을 반영하여 개선된 크로스토크를 도출할 수 있다.
또한, 프로세서(120)는 상술한 기울어진 각도, 영상 뷰의 개수 및 렌더링 피치에 기초하여, 기준 영상 뷰에 크로스토크를 제공하는 적어도 하나의 영상 뷰 각각의 크로스토크 발생 가중치를 산출하고, 산출된 가중치에 따른 크로스토크 매트릭스를 생성하여 크로스토크 역 보상을 수행할 수 있다.
또한, 프로세서(120)는 렌더링된 복수의 영상 뷰 각각의 각 픽셀 라인을 조합하여 각 픽셀 라인에 대응되는 에피폴라(epipolar) 영상을 생성하고, 생성된 에피폴라 영상에 크로스토크 인버스 필터(X-talk Inverse filter)를 적용하여 크로스토크 역보상을 수행할 수 있다. 여기서, 크로스토크 인버스 필터는, 크로스토크 매트릭스의 인버스 매트릭스를 필터 형태로 구현한 것일 수 있다.
또한, 프로세서(120)는, 입력 영상의 특성에 기초하여 크로스토크 인버스 필터의 필터링 계수를 조정하고, 조정된 필터링 계수를 반영하여 크로스토크 역보상을 수행할 수 있다.
또한, 프로세서(120)는, 크로스토크 인버스 필터를angular smoothing 필터 및 angular sharpening 필터로 구분하고, 입력 영상의 특성에 기초하여 angular smoothing 필터 및 angular sharpening 필터 각각의 계수를 조정함으로써, 크로스토크 인버스 필터의 계수를 조정할 수 있는데 이에 대한 자세한 설명은 후술하도록 한다.
또한, 프로세서(120)는, 크로스 역보상이 수행된 에피폴라 영상에 기초하여 렌더링된 복수의 영상 뷰가 보정된 복수의 타겟 영상 뷰를 획득하고, 복수의 타겟 영상 뷰에 기초하여 디스플레이 패널(111)에 기설정된 배치 패턴으로 배치하여 다시점 영상을 제공할 수 있다.
또한, 프로세서(120)는X-talk 역보상에 따라 기설정된 임계 값 이하의 화소값을 갖는 영역의 화소값을 기설정된 화소값으로 보상할 수 있다.
구체적으로, 프로세서(120)는 렌더링된 다시점 영상에 기초하여 생성된 에피폴라(epipolar) 영상에 기초하여 X-talk 역보상을 수행되면, 에피폴라 영상에서 X-talk 역보상에 따라 기설정된 임계 값 미만의 화소값을 갖는 영역의 화소값을 인접 영역의 기설정된 임계값 이상의 화소값으로 보상할 수 있다. 즉, 에피폴라 영상에서 X-talk 역보상에 따라 음의 화소값을 갖는 영역의 화소값을 인접 영역의 양의 화소값으로 보상할 수 있다.
또는, 프로세서(120)는 렌더링된 다시점 영상에 기초하여 생성된 에피폴라(epipolar) 영상에 기초하여 X-talk 역보상을 수행되면, 에피폴라 영상에서 X-talk 역보상에 따라 기설정된 임계 값 미만의 화소값을 갖는 영역의 화소값을 입력 영상에서 대응되는 영역의 화소값으로 보상할 수 있다. 즉, 에피폴라 영상에서 X-talk 역보상에 따라 음의 화소값을 갖는 영역의 화소값을 입력 영상에서 대응되는 영역의 양의 화소값으로 보상할 수 있다.
또는, 프로세서(120)는 렌더링된 다시점 영상에 기초하여 생성된 에피폴라(epipolar) 영상에 기초하여 X-talk 역보상을 수행되면, 에피폴라 영상에서 X-talk 역보상에 따라 기설정된 임계 값 미만의 화소값을 갖는 영역의 화소값을 입력 영상의 이전 영상에서 X-talk 역보상된 화소값으로 보상할 수 있다. 즉, 현재 영상 프레임에 대응되는 에피폴라 영상에서 X-talk 역보상에 따라 음의 화소값을 갖는 영역이, 이전 영상 프레임에 대응되는 에피폴라 영상에서 X-talk 역보상에 따라 양의 화소값을 갖는 경우, 이전 프레임의 X-talk 역보상된 화소값으로 보상할 수 있다.
도 3a 및 도 3b는 본 발명의 다른 실시 예에 따른 무안경 3D 디스플레이 장치의 구성을 나타내는 블럭도이다.
도 3a에 따르면, 다시점 영상 디스플레이 장치(200)는 디스플레이부(110), 프로세서(120) 및 저장부(130)를 포함하며, 도 2a에 도시된 무안경 3D 디스플레이 장치(100)의 세부 구성이 될 수 있다. 도 3a에 도시된 구성 중 중복되는 구성에 대해서는 자세한 설명을 생략하도록 한다.
프로세서(120)는 RAM(121), ROM(122), 메인 CPU(123), 그래픽 처리부(124), 제1 내지 n 인터페이스(125-1 ~ 125-n), 버스(126)를 포함한다.
RAM(121), ROM(122), 메인 CPU(123), 그래픽 처리부(124), 제1 내지 n 인터페이스(125-1 ~ 125-n) 등은 버스(126)를 통해 서로 연결될 수 있다.
제1 내지 n 인터페이스(125-1 내지 125-n)는 상술한 각종 구성요소들과 연결된다. 인터페이스들 중 하나는 네트워크를 통해 외부 장치와 연결되는 네트워크 인터페이스가 될 수도 있다.
메인 CPU(123)는 저장부(130)에 액세스하여, 저장부(130)에 저장된 O/S를 이용하여 부팅을 수행한다. 그리고, 저장부(130)에 저장된 각종 모듈, 각종 프로그램, 컨텐츠, 데이터 등을 이용하여 다양한 동작을 수행한다. 특히, 도 3b에 도시된 렌더링 모듈(131), 크로스토크 산출 모듈(132), 크로스토크 조정 모듈(133), 크로스토크 역보상 모듈(134)에 기초하여 본 발명의 다양한 실시 예에 따른 동작을 수행할 수 있다.
ROM(122)에는 시스템 부팅을 위한 명령어 세트 등이 저장된다. 턴온 명령이 입력되어 전원이 공급되면, 메인 CPU(123)는 ROM(122)에 저장된 명령어에 따라 저장부(130)에 저장된 O/S를 RAM(121)에 복사하고, O/S를 실행시켜 시스템을 부팅시킨다. 부팅이 완료되면, 메인 CPU(123)는 저장부(130)에 저장된 각종 프로그램을 RAM(121)에 복사하고, RAM(121)에 복사된 프로그램을 실행시켜 각종 동작을 수행한다.
그래픽 처리부(124)는 연산부(미도시) 및 렌더링부(미도시)를 이용하여 아이콘, 이미지, 텍스트 등과 같은 다양한 객체를 포함하는 화면을 생성한다. 연산부(미도시)는 수신된 제어 명령에 기초하여 화면의 레이아웃에 따라 각 객체들이 표시될 좌표값, 형태, 크기, 컬러 등과 같은 속성값을 연산한다. 렌더링부(미도시)는 연산부(미도시)에서 연산한 속성값에 기초하여 객체를 포함하는 다양한 레이아웃의 화면을 생성한다.
한편, 상술한 프로세서(120)의 동작은 저장부(130)에 저장된 프로그램에 의해 이루어질 수 있다.
저장부(130)는 무안경 3D 디스플레이 장치(100')를 구동시키기 위한 O/S(Operating System) 소프트웨어 모듈, 각종 멀티미디어 컨텐츠와 같은 다양한 데이터를 저장한다. 특히, 저장부(130)에는 도 3b에 도시된 렌더링 모듈(131), 크로스토크 산출 모듈(132), 크로스토크 조정 모듈(133), 크로스토크 역보상 모듈(134) 등의 프로그램 및, 후술하는 Gaussian refinement을 적용하기 위한 알고리즘, 영상 특성 분석 알고리즘 등 본 발명의 다양한 실시 예를 구현하기 위한 다양한 정보가 저장되어 있을 수 있다.
도 4a 내지 도 4c는 본 발명의 일 실시 예에 따라 X-talk 역보상을 수행하기 위한 방법을 설명하기 위한 도면들이다.
일반적으로 무안경 3D 디스플레이 장치에 있어, X-talk는 도 4a에 도시된 바와 같이 인접 영상 뷰 뿐 아니라 모든 영상 뷰로부터 발생할 수 있으며, X-talk 발생 정도는 간단히 X-talk 매트릭스 형태로 구현될 수 있다.
예를 들어, 4개의 뷰에서 인접 뷰의 X-talk를 a %, 다음 인접 영상 뷰의 X-talk를 b %로 가정하는 경우, X-talk는 도 4b에 도시된 바와 같이 나타내어질 수 있다.
한편, 도 4c에 도시된 바와 같이 출력 영상은 X-talk에 의해 영향을 받으며, 아래 수학식 1과 같이 나타내어질 수 있다.
Figure pat00001
여기서, Pi는 입력 영상, Po는 출력 영상, X는 X-talk 매트릭스이다.
이 경우, X-talk의 영향을 감소시키기 위하여 새로운 입력이 아래 수학식 2와 같이 산출될 수 있다.
Figure pat00002
이 후, 아래 수학식 3과 같이 산출된 새로운 출력이 오리지널 영상으로 입력될 수 있다.
Figure pat00003
한편, X-talk 매트릭스를 구성하기 위한 X-talk는 복수의 영상 뷰의 픽셀 배치에 따른 이론적 면적비 계산을 통해 산출될 수 있다.
도 5 및 도 6은 기존의 광학 뷰 기반의 X-talk 산출 방식과 본 발명의 일 실시 예에 따른 영상 뷰 기반의 X-talk 산출 방식을 비교하기 위한 도면이다.
도 5는 기존의 광학 뷰 기반의 X-talk 산출 방식을 설명하기 위한 도면으로, 광학 뷰 기반의 X-talk 매트릭스를 구성하기 위한 X-talk는 일반적으로 평가하고자 하는 기준 광학 뷰의 휘도가 다른 시점의 광학 뷰의 휘도에 의해 영향을 받는 정도(휘도의 비)로 측정된다. 예를 들어, 광학 뷰 기반의 X-talk 산출 방식으로 ISO 방식과 IEC 방식이 이용될 수 있다. 이러한 ISO 방식과 IEC 방식은 광학적 휘도 측정 등을 통한 광학 뷰 프로파일링을 통해 X-talk를 산출하는 반면, 본 발명의 일 실시 예에 따른 영상 뷰 기반의 X-talk는 이론적 계산을 통해 산출될 수 있다.
도 6은 본 발명의 일 실시 예에 따른 영상 뷰 기반의 X-talk 산출 방식을 설명하기 위한 도면으로 도시된 바와 같이 복수의 영상 뷰 픽셀 배치에 따른 면적비 계산을 통해 이론적 X-talk를 산출할 수 있다(610).
구체적으로, 도 6에 도시된 바와 같이 영상 뷰 개수(N)에 따른 디스플레이 패널(111) 상의 픽셀 배치, 시역 분리부(120)의 기울어진 각도(θ), 렌더링 피치(rp) 등에 기초하여 복수의 영상 뷰의 픽셀 배치에 따른 면적비 계산을 통해 영상 뷰 기반의 X-talk를 모델링할 수 있다.
도 7은 영상 뷰의 개수(N)가 15 개인 경우의 디스플레이 패널(111)의 픽셀 배치 상태를 도시한 것으로, 하기와 같은 수학식 4에 기초하여 (i, j) 픽셀 위치에서의 view를 할당할 수 있다.
Figure pat00004
여기서, pij는 (i, j) 위치의 픽셀, θ는 시역 분리부(120)(예를 들어 렌티큘러 렌즈)의 기울어진 각도, rp는 렌더링 피치, N은 영상 뷰의 개수이다.
한편, 기준 영상 뷰가 8 시점 영상 뷰인 경우, 픽셀 배치에 기초하여 X-talk 발생 영역을 판단하고, 판단된 X-talk 발생 영역에서의 X-talk를 산출할 수 있다.
도 8은 X-talk 발생 영역에서의 면적비를 산출하는 구체적 방법을 설명하기 위한 도면이다.
도 8에 도시된 바와 같이 기준 영상 뷰가 8 시점 영상 뷰인 경우, 면적 A, B, C, D 중 A 영역 및 D 영역은 8 시점 영상 뷰에 해당하며, B 영역은 6 시점 C 영역은 9 시점 영상 뷰에 해당한다. 이 경우, 각 영역의 면적은 도시된 바와 같은 수식을 통해 산출될 수 있다.
도 8에 도시된 바와 같은 방식으로 면적비가 산출되면, 그에 기초하여 영상 뷰 기반의 X-talk를 모델링할 수 있다(620). 다만, 이러한 본 발명의 일 실시 예에 따른 이론적 크로스토크 모델링은 광학 뷰 기반 크로스토크 모델링에도 동일/유사한 방식으로 적용될 수 있다.
한편, 도 9a은 이론적으로 산출된 X-talk 정도를 수치로 표현한 도면이다. 도시된 바와 같이 기준 영상 뷰(V(n))에 대한 인접 뷰들(V(n-2), V(n-1), V(n+1), V(n+2))의 크로스토크 정도가 도 8에 도시된 바와 같은 면적 산출 방식에 의해 도출될 수 있다. 다만, 도 9a에 도시된 인접 뷰의 개수는 예시적인 것이며, 기준 영상 뷰(V(n))에 영향을 주는 인접 뷰의 개수는 이에 한정되는 것이 아니다.
이어서, X-talk 모델링 결과에 기초하여 산출된 영상 뷰 기반의 X-talk 매트릭스를 도출할 수 있다(630). 도 9b는 도 9a와 같은 X-talk 모델링 결과에 기초하여 산출된 영상 뷰 기반의 X-talk 매트릭스 X의 일 형태를 도시한다.
이어서, 영상 뷰 기반의 X-talk 매트릭스에 기초하여 영상 뷰 기반의 X-talk 인버스 매트릭스를 도출할 수 있다(640).
한편, 본 발명의 다른 실시 예에 따르면, 도 8에 도시된 바와 같은 방식으로, 이론적 X-talk 모델링 후에 가우시안 광 프로파일을 반영하여 이론적으로 모델링된 X-talk를 조정할 수 있다. 구체적으로, 이론적으로 모델링된 X-talk에 가우시안 커브 피팅(Gaussian curve fitting)을 수행하고, shape를 조절할 수 있다. 예를 들어, 도 10에 도시된 바와 같은 형태로 Gaussian refinement를 통해 최적의 X-talk을 모델링할 수 있다. 구체적으로, 가우시안 광 프로파일을 적용하여 이론적으로 모델링된 X-talk의 가우시안 커브 피팅을 수행할 수 있다.
또한, 본 발명의 또 다른 실시 예에 따르면, X-talk 인버스 매트릭스 도출 후, 영상의 특성을 반영하여 크로스토크 인버스 필터(X-talk Inverse filter)의 계수를 조정할 수 있다. 여기서, 크로스토크 인버스 필터는 크로스토크 매트릭스의 인버스 매트릭스를 필터 형태로 구현한 형태가 될 수 있다.
구체적으로, 도 11에 도시된 바와 같이 에피폴라 영상에 기초하여 영상 뷰의 gradient를 산출하고, 산출된 view gradient에 따라 X-talk 인버스 필터의 계수를 조정할 수 있다.
도 11에 따르면, 타겟 픽셀 영역의 기준 뷰(V(i, n)) 및 인접 뷰(V(i, n-1), V(i, n-2), V(i, n+1), V(i, n+1)) 의 픽셀 값에 기초하여 타겟 픽셀 영역에 대한 view gradient(i, n)를 산출할 수 있다. 구체적으로, 하기의 수학식 5에 기초하여 view gradient(i, n)를 산출할 수 있다.
Figure pat00005
또한, 타겟 픽셀 영역의 인접 픽셀 영역에 대한 view gradient를 상기와 동일한 방식으로 각각 산출하고 산출된 각 픽셀 영역에 대한 view gradient((view grad(i, n-2), (view grad(i, n-1), (view grad(i, n+1), (view grad(i, n+2))에 기초하여 view gradient smoothing 값 view grad smoothing (i, n)을 산출할 수 있다. 예를 들어, 각 픽셀 영역에 대한 view gradient 값을 평균하여 view gradient smoothing 값을 산출할 수 있다. 예를 들어, 하기와 같은 수학식 6에 기초하여 view grad smoothing (i, n)을 산출할 수 있다.
Figure pat00006
도 12a 내지 도 12c는 본 발명의 일 실시 예에 따라 X-talk 인버스 필터의 계수를 조정하는 방법을 설명하기 위한 도면이다.
본 발명의 일 실시 예에 따르면, 도 11에서 설명한 바와 같은 view gradient 값 또는 view gradient smoothing 값에 기초하여 X-talk 인버스 필터의 계수를 조정할 수 있다.
구체적으로, X-talk 인버스 필터는 도 12a에 도시된 바와 같이 angular smoothing 필터 및 angular sharpening 필터로 구분될 수 있다. 즉, X-talk 인버스 필터는 angular smoothing 필터 및 angular sharpening 필터를 합친 형태의 필터가 될 수 있다.
본 발명의 일 실시 예에 따르면, X-talk 인버스 필터를 angular smoothing 필터 및 angular sharpening 필터로 구분하고, 구분된 각 필터의 계수를 조정한 후 다시 합쳐서 결과적으로 X-talk 인버스 필터의 계수가 조정되도록 할 수 있다. 다만, 경우에 따라서는 X-talk 인버스 필터를 angular smoothing 필터 및 angular sharpening 필터로 구분하지 않고, 필터 계수를 조정할 수 있음은 물론이다.
도 12b에 도시된 바와 같이 X-talk 인버스 필터를 angular smoothing 필터 및 angular sharpening 필터로 구분한 상태에서 view gradient 값 또는 view gradient smoothing 값에 대응되는 가중치를 적용하여 각 필터의 계수를 조정할 수 있다. 여기서, view gradient 값 또는 view gradient smoothing 값에 대응되는 가중치는 도 12c에 도시된 바와 같은 형태로 미리 설정되어 있을 수 있다. 이와 같이 angular smoothing 필터 및 angular sharpening 필터의 계수가 각각 조정되면, 이에 기초하여 계수가 조정된 X-talk 인버스 필터를 획득할 수 있게 된다.
이와 같이 영상 특성에 기초하여 계수가 조정된 X-talk 인버스 필터에 기초하여 X-talk를 역보상함에 따라 에지 영역 등에서 발생하는 overshoot artifact등의 화질 저하를 최소화시킬 수 있게 된다.
도 13은 본 발명의 일 실시 예에 따른 크로스토크 역보상 수행 방법을 설명하기 위한 도면이다.
도 13에 도시된 방법에 따르면, 렌더링된 복수의 영상 뷰(View 1 내지 View N) 각각의 각 픽셀 라인을 조합하여 각 픽셀 라인에 대응되는 에피폴라(epipolar) 영상을 생성하고, 생성된 에피폴라 영상에 크로스토크 인버스 필터(X-talk Inverse filter)를 적용하여 크로스토크 역보상을 수행할 수 있다. 여기서, 크로스토크 인버스 필터는 도 11에 도시된 바와 같이 입력 영상의 특성에 기초하여 필터링 계수가 조정된 필터가 될 수 있다.
이어서, 도시된 바와 같이 크로스 역보상이 수행된 에피폴라 영상에 기초하여 복수의 타겟 영상 뷰(New View 1' 내지 New View N')를 획득할 수 있다.
이 후, 생성된 복수의 타겟 영상 뷰(New View 1' 내지 New View N')를 디스플레이 패널(111)에 기설정된 배치 패턴으로 배치하여 다시점 영상을 제공할 수 있다.
도 14는 본 발명의 일 실시 예에 따라 에피폴라 영상을 생성하는 방법을 설명하기 위한 도면이다.
도 14에 도시된 바와 같이 높이 h, 너비 w인 35 개의 다시점 영상이 렌더링된 경우를 가정하도록 한다.
이 경우, 35 개의 다시점 영상(1411 내지 1414) 각각의 각 픽셀 라인을 조합하여 각 픽셀 라인에 대응되는 에피폴라 영상를 생성할 수 있다. 구체적으로, 도시된 바와 같이 첫번째 픽셀 라인을 조합하여 첫번째 이미지(1421)를 생성하고, a 번째 픽셀 라인을 조합하여 a 번째 이미지(1422)를 생성하고, 이렇게 생성된 픽셀 라인 수에 대응되는 h 개의 이미지를 순차적으로 조합하여 에피폴라 영상(1430)를 생성할 수 있다.
이 경우, 각 픽셀 라인에 대응되는 이미지에서 오브젝트의 뎁스 크기 즉, 픽셀 영역의 뎁스 크기에 따라 기설정된 형태의 라인이 나타날 수 있다. 예를 들어, 오브젝트 A(●)의 경우 뎁스가 "0"이기 때문에 35 개의 다시점 영상에서 동일한 위치에 존재하지만, 오브젝트 B(△)의 경우 기설정된 크기의 뎁스를 갖기 때문에 35 개의 다시점 영상에서 위치가 점점 변경되며 이러한 위치 변경은 기설정된 라인 형태로 나타나게 된다. 도시된 도면을 참고하면 뎁스 값이 "0"인 오브젝트 A(●)에 대응되는 라인은 수직 형태로 나타나며, 기설정된 크기의 뎁스를 갖는 오브젝트 B(△) 및 오브젝트 C(×)에 대응되는 라인은 비스듬한 사선 형태로 나타나게 된다.
도 15는 본 발명의 일 실시 예에 따른 무안경 3D 디스플레이 장치의 제어 방법을 설명하기 위한 흐름도이다.
도 15에 도시된 무안경 3D 디스플레이 장치의 제어 방법에 따르면, 입력된 영상의 뎁스에 기초하여 서로 다른 시점을 갖는 복수의 영상 뷰를 렌더링한다(S1510). 여기서, 무안경 3D 디스플레이 장치는 디스플레이 패널 및 디스플레이 패널의 전면에 배치되어 사용자의 시청 영역에서 서로 다른 시점의 광학 뷰를 제공하는 시역 분리부를 포함하는 디스플레이부를 포함할 수 있다.
이어서, 렌더링된 복수의 영상 뷰를 디스플레이 패널에 기설정된 배치 패턴으로 배치하여 다시점 영상을 제공한다(S1520). 이 경우, 복수의 영상 뷰의 배치 위치에 기초하여 서로 다른 시점의 영상 뷰 간에 발생하는 크로스토크(X-talk)를 예측하고, 크로스토크 예측 결과에 따라 X-talk 역보상을 수행하여 보정된 복수의 영상 뷰를 이용하여 다시점 영상을 제공할 수 있다.
여기서, 복수의 영상 뷰의 개수는, 광학 뷰의 개수보다 많으며, 광학 뷰 각각은 적어도 두 개의 서로 다른 시점의 영상 뷰에 기초하여 제공될 수 있다.
또한, 다시점 영상을 제공하는 S1520 단계에서는, 디스플레이 패널의 출력 픽셀 영역 및 영상 뷰를 통해 사용자에게 제공되는 대응되는 가시(可視) 픽셀 영역 간 차이에 기초하여 크로스토크를 예측할 수 있다.
이 경우, 시역 분리부는, 기설정된 각도로 기울어진 복수의 가시 픽셀 영역이 광학 뷰로 제공되도록 동작할 수 있다. 이 경우, 다시점 영상을 제공하는 S1520 단계에서는, 기설정된 각도, 영상 뷰의 개수 및 렌더링 피치에 기초하여, 기준 영상 뷰에 대한 이론적 크로스토크를 모델링할 수 있다.
또한, 다시점 영상을 제공하는 S1520 단계에서는, 모델링된 이론적 크로스토크에 가우시안 광 프로파일을 반영하여 개선된 크로스토크를 도출할 수 있다.
또한, 다시점 영상을 제공하는 S1520 단계에서는, 시역 분리부가 기울어진 기설정된 각도, 영상 뷰의 개수 및 렌더링 피치에 기초하여, 기준 영상 뷰에 크로스토크를 제공하는 적어도 하나의 영상 뷰 각각의 크로스토크 발생 가중치를 산출하고, 산출된 가중치에 따른 크로스토크 매트릭스를 생성하여 크로스토크 역 보상을 수행할 수 있다.
또한, 다시점 영상을 제공하는 S1520 단계에서는, 렌더링된 복수의 영상 뷰 각각의 각 픽셀 라인을 조합하여 각 픽셀 라인에 대응되는 에피폴라(epipolar) 영상을 생성하고, 생성된 에피폴라 영상에 크로스토크 인버스 필터(X-talk Inverse filter)를 적용하여 크로스토크 역보상을 수행할 수 있다. 여기서, 크로스토크 인버스 필터는, 크로스토크 매트릭스의 인버스 매트릭스를 필터 형태로 구현한 것이 될 수 있다.
또한, 다시점 영상을 제공하는 S1520 단계에서는, 입력 영상의 특성에 기초하여 크로스토크 인버스 필터의 필터링 계수를 조정하고, 조정된 필터링 계수를 반영하여 크로스토크 역보상을 수행할 수 있다.
또한, 다시점 영상을 제공하는 S1520 단계에서는, 크로스토크 인버스 필터를angular smoothing 필터 및 angular sharpening 필터로 구분하고, 입력 영상의 특성에 기초하여 angular smoothing 필터 및 angular sharpening 필터 각각의 계수를 조정함으로써, 크로스토크 인버스 필터의 계수를 조정할 수 있다.
또한, 다시점 영상을 제공하는 S1520 단계에서는, 크로스 역보상이 수행된 에피폴라 영상에 기초하여 렌더링된 복수의 영상 뷰가 보정된 복수의 타겟 영상 뷰를 획득하고, 복수의 타겟 영상 뷰에 기초하여 디스플레이 패널에 기설정된 배치 패턴으로 배치하여 다시점 영상을 제공할 수 있다.
이상과 같이 본 발명의 다양한 실시 예에 따르면, 무안경식 디스플레이 시스템에 이론적 X-talk 모델링을 통한 X-talk Inverse Filtering을 적용함으로써 선명한 3D 영상을 서비스할 수 있게 된다.
상술한 다양한 실시 예에 따른 무안경 3D 디스플레이 장치의 제어 방법은 프로그램으로 구현되어 무안경 3D 디스플레이 장치에 제공될 수 있다.
일 예로, 입력된 영상의 뎁스에 기초하여 서로 다른 시점을 갖는 복수의 영상 뷰를 렌더링하는 단계 및, 디스플레이 패널에서 복수의 영상 뷰의 배치 위치에 기초하여 크로스토크 예측 결과에 따라 X-talk 역보상을 수행하여 상기 복수의 영상 뷰를 보정하는 단계, 상기 보정된 복수의 영상 뷰에 기초하여 다시점 영상을 생성하는 단계를 수행하는 프로그램이 저장된 비일시적 판독 가능 매체(non-transitory computer readable medium)가 제공될 수 있다.
비일시적 판독 가능 매체란 레지스터, 캐쉬, 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 구체적으로는, 상술한 다양한 어플리케이션 또는 프로그램들은 CD, DVD, 하드 디스크, 블루레이 디스크, USB, 메모리카드, ROM 등과 같은 비일시적 판독 가능 매체에 저장되어 제공될 수 있다.
또한, 이상에서는 본 발명의 바람직한 실시 예에 대하여 도시하고 설명하였지만, 본 발명은 상술한 특정의 실시 예에 한정되지 아니하며, 청구범위에서 청구하는 본 발명의 요지를 벗어남이 없이 당해 발명이 속하는 기술분야에서 통상의 지식을 가진 자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형실시들은 본 발명의 기술적 사상이나 전망으로부터 개별적으로 이해되어져서는 안될 것이다.
100 : 무안경 3D 디스플레이 장치
110 : 디스플레이 120 : 컨트롤러
130 : 저장부

Claims (20)

  1. 무안경 3D 디스플레이 장치에 있어서,
    디스플레이 패널 및 상기 디스플레이 패널의 전면에 배치되어 사용자의 시청 영역에서 서로 다른 시점의 광학 뷰를 제공하는 시역 분리부를 포함하는 디스플레이부; 및
    입력된 영상의 뎁스에 기초하여 서로 다른 시점을 갖는 복수의 영상 뷰를 렌더링하고, 상기 복수의 영상 뷰를 상기 디스플레이 패널에 기설정된 배치 패턴으로 배치하여 다시점 영상을 제공하는 프로세서;를 포함하며,
    상기 프로세서는,
    상기 복수의 영상 뷰의 배치 위치에 기초하여 서로 다른 시점의 영상 뷰 간에 발생하는 크로스토크(X-talk)를 예측하고, 크로스토크 예측 결과에 따라 X-talk 역보상을 수행하여 보정된 복수의 영상 뷰를 이용하여 상기 다시점 영상을 제공하는, 무안경 3D 디스플레이 장치.
  2. 제1항에 있어서,
    상기 복수의 영상 뷰의 개수는, 상기 광학 뷰의 개수보다 많으며,
    상기 광학 뷰 각각은 적어도 두 개의 서로 다른 시점의 영상 뷰에 기초하여 제공되는, 무안경 3D 디스플레이 장치.
  3. 제1항에 있어서,
    상기 프로세서는,
    상기 디스플레이 패널의 출력 픽셀 영역 및 상기 영상 뷰를 통해 사용자에게 제공되는 대응되는 가시(可視) 픽셀 영역 간 차이에 기초하여 크로스토크를 예측하는, 무안경 3D 디스플레이 장치.
  4. 제3항에 있어서,
    상기 시역 분리부는, 기설정된 각도로 기울어진 복수의 가시 픽셀 영역이 상기 광학 뷰로 제공되도록 동작하며,
    상기 프로세서는, 상기 기설정된 각도, 상기 영상 뷰의 개수 및 렌더링 피치에 기초하여, 기준 영상 뷰에 대한 이론적 크로스토크를 모델링하는, 무안경 3D 디스플레이 장치.
  5. 제4항에 있어서,
    상기 프로세서는,
    상기 모델링된 이론적 크로스토크에 가우시안 광 프로파일을 반영하여 개선된 크로스토크를 도출하는, 무안경 3D 디스플레이 장치.
  6. 제4항에 있어서,
    상기 프로세서는,
    상기 기설정된 각도, 상기 영상 뷰의 개수 및 렌더링 피치에 기초하여, 상기 기준 영상 뷰에 크로스토크를 제공하는 적어도 하나의 영상 뷰 각각의 크로스토크 발생 가중치를 산출하고, 산출된 가중치에 따른 크로스토크 매트릭스를 생성하여 크로스토크 역 보상을 수행하는, 무안경 3D 디스플레이 장치.
  7. 제6항에 있어서,
    상기 프로세서는,
    상기 렌더링된 복수의 영상 뷰 각각의 각 픽셀 라인을 조합하여 각 픽셀 라인에 대응되는 에피폴라(epipolar) 영상을 생성하고, 상기 생성된 에피폴라 영상에 크로스토크 인버스 필터(X-talk Inverse filter)를 적용하여 크로스토크 역보상을 수행하며,
    상기 크로스토크 인버스 필터는, 상기 크로스토크 매트릭스의 인버스 매트릭스를 필터 형태로 구현한 것인, 무안경 3D 디스플레이 장치.
  8. 제7항에 있어서,
    상기 프로세서는,
    상기 입력 영상의 특성에 기초하여 상기 크로스토크 인버스 필터의 필터링 계수를 조정하고, 상기 조정된 필터링 계수를 반영하여 상기 크로스토크 역보상을 수행하는, 무안경 3D 디스플레이 장치.
  9. 제8항에 있어서,
    상기 프로세서는,
    상기 크로스토크 인버스 필터를angular smoothing 필터 및 angular sharpening 필터로 구분하고, 상기 입력 영상의 특성에 기초하여 상기 angular smoothing 필터 및 상기 angular sharpening 필터 각각의 계수를 조정함으로써, 상기 크로스토크 인버스 필터의 계수를 조정하는, 무안경 3D 디스플레이 장치.
  10. 제7항에 있어서,
    상기 프로세서는,
    상기 크로스 역보상이 수행된 에피폴라 영상에 기초하여 상기 렌더링된 복수의 영상 뷰가 보정된 복수의 타겟 영상 뷰를 획득하고, 상기 복수의 타겟 영상 뷰에 기초하여 상기 디스플레이 패널에 기설정된 배치 패턴으로 배치하여 다시점 영상을 제공하는, 무안경 3D 디스플레이 장치.
  11. 디스플레이 패널 및 상기 디스플레이 패널의 전면에 배치되어 사용자의 시청 영역에서 서로 다른 시점의 광학 뷰를 제공하는 시역 분리부를 포함하는 디스플레이부를 포함하는 무안경 3D 디스플레이 장치의 제어 방법에 있어서,
    입력된 영상의 뎁스에 기초하여 서로 다른 시점을 갖는 복수의 영상 뷰를 렌더링하는 단계; 및,
    상기 복수의 영상 뷰를 상기 디스플레이 패널에 기설정된 배치 패턴으로 배치하여 다시점 영상을 제공하는 단계;를 포함하며,
    상기 다시점 영상을 제공하는 단계는,
    상기 복수의 영상 뷰의 배치 위치에 기초하여 서로 다른 시점의 영상 뷰 간에 발생하는 크로스토크(X-talk)를 예측하고, 크로스토크 예측 결과에 따라 X-talk 역보상을 수행하여 보정된 복수의 영상 뷰를 이용하여 상기 다시점 영상을 제공하는, 제어 방법.
  12. 제11항에 있어서,
    상기 복수의 영상 뷰의 개수는, 상기 광학 뷰의 개수보다 많으며,
    상기 광학 뷰 각각은 적어도 두 개의 서로 다른 시점의 영상 뷰에 기초하여 제공되는, 제어 방법.
  13. 제11항에 있어서,
    상기 다시점 영상을 제공하는 단계는,
    상기 디스플레이 패널의 출력 픽셀 영역 및 상기 영상 뷰를 통해 사용자에게 제공되는 대응되는 가시(可視) 픽셀 영역 간 차이에 기초하여 크로스토크를 예측하는, 제어 방법.
  14. 제13항에 있어서,
    상기 시역 분리부는, 기설정된 각도로 기울어진 복수의 가시 픽셀 영역이 상기 광학 뷰로 제공되도록 동작하며,
    상기 다시점 영상을 제공하는 단계는,
    상기 기설정된 각도, 상기 영상 뷰의 개수 및 렌더링 피치에 기초하여, 기준 영상 뷰에 대한 이론적 크로스토크를 모델링하는, 제어 방법.
  15. 제14항에 있어서,
    상기 다시점 영상을 제공하는 단계는,
    상기 기설정된 각도, 상기 영상 뷰의 개수 및 렌더링 피치에 기초하여, 상기 기준 영상 뷰에 크로스토크를 제공하는 적어도 하나의 영상 뷰 각각의 크로스토크 발생 가중치를 산출하고, 산출된 가중치에 따른 크로스토크 매트릭스를 생성하여 크로스토크 역 보상을 수행하는, 제어 방법.
  16. 제15항에 있어서,
    상기 다시점 영상을 제공하는 단계는,
    상기 렌더링된 복수의 영상 뷰 각각의 각 픽셀 라인을 조합하여 각 픽셀 라인에 대응되는 에피폴라(epipolar) 영상을 생성하고, 상기 생성된 에피폴라 영상에 크로스토크 인버스 필터(X-talk Inverse filter)를 적용하여 크로스토크 역보상을 수행하며,
    상기 크로스토크 인버스 필터는, 상기 크로스토크 매트릭스의 인버스 매트릭스를 필터 형태로 구현한 것인, 제어 방법.
  17. 제16항에 있어서,
    상기 다시점 영상을 제공하는 단계는,
    상기 입력 영상의 특성에 기초하여 상기 크로스토크 인버스 필터의 필터링 계수를 조정하고, 상기 조정된 필터링 계수를 반영하여 상기 크로스토크 역보상을 수행하는, 제어 방법.
  18. 제17항에 있어서,
    상기 다시점 영상을 제공하는 단계는,
    상기 크로스토크 인버스 필터를 angular smoothing 필터 및 angular sharpening 필터로 구분하고, 상기 입력 영상의 특성에 기초하여 상기 angular smoothing 필터 및 상기 angular sharpening 필터 각각의 계수를 조정함으로써, 상기 크로스토크 인버스 필터의 계수를 조정하는, 제어 방법.
  19. 제16항에 있어서,
    상기 다시점 영상을 제공하는 단계는,
    상기 크로스 역보상이 수행된 에피폴라 영상에 기초하여 상기 렌더링된 복수의 영상 뷰가 보정된 복수의 타겟 영상 뷰를 획득하고, 상기 복수의 타겟 영상 뷰에 기초하여 상기 디스플레이 패널에 기설정된 배치 패턴으로 배치하여 다시점 영상을 제공하는, 제어 방법.
  20. 디스플레이 패널 및 상기 디스플레이 패널의 전면에 배치되어 사용자의 시청 영역에서 서로 다른 시점의 광학 뷰를 제공하는 시역 분리부를 포함하는 디스플레이부를 포함하는 무안경 3D 디스플레이 장치의 제어 방법을 수행하기 위한 프로그램이 저장된 기록 매체에 있어서,
    상기 방법은,
    입력된 영상의 뎁스에 기초하여 서로 다른 시점을 갖는 복수의 영상 뷰를 렌더링하는 단계; 및,
    상기 복수의 영상 뷰를 상기 디스플레이 패널에 기설정된 배치 패턴으로 배치하여 다시점 영상을 제공하는 단계;를 포함하며,
    상기 다시점 영상을 제공하는 단계는,
    상기 복수의 영상 뷰의 배치 위치에 기초하여 서로 다른 시점의 영상 뷰 간에 발생하는 크로스토크(X-talk)를 예측하고, 크로스토크 예측 결과에 따라 X-talk 역보상을 수행하여 보정된 복수의 영상 뷰를 이용하여 상기 다시점 영상을 제공하는, 기록매체.
KR1020150144698A 2015-10-16 2015-10-16 무안경 3d 디스플레이 장치 및 그 제어 방법 KR102121389B1 (ko)

Priority Applications (5)

Application Number Priority Date Filing Date Title
KR1020150144698A KR102121389B1 (ko) 2015-10-16 2015-10-16 무안경 3d 디스플레이 장치 및 그 제어 방법
US15/078,512 US10237539B2 (en) 2015-10-16 2016-03-23 3D display apparatus and control method thereof
CN201610577107.1A CN106604018B (zh) 2015-10-16 2016-07-20 3d显示设备及其控制方法
PCT/KR2016/011483 WO2017065517A1 (en) 2015-10-16 2016-10-13 3d display apparatus and control method thereof
EP16855734.6A EP3350989B1 (en) 2015-10-16 2016-10-13 3d display apparatus and control method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020150144698A KR102121389B1 (ko) 2015-10-16 2015-10-16 무안경 3d 디스플레이 장치 및 그 제어 방법

Publications (2)

Publication Number Publication Date
KR20170044953A true KR20170044953A (ko) 2017-04-26
KR102121389B1 KR102121389B1 (ko) 2020-06-10

Family

ID=58518226

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020150144698A KR102121389B1 (ko) 2015-10-16 2015-10-16 무안경 3d 디스플레이 장치 및 그 제어 방법

Country Status (5)

Country Link
US (1) US10237539B2 (ko)
EP (1) EP3350989B1 (ko)
KR (1) KR102121389B1 (ko)
CN (1) CN106604018B (ko)
WO (1) WO2017065517A1 (ko)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102021114740B3 (de) 2021-06-08 2022-05-12 Tim Niklas Reimer Omnidirektionales 3D-Pixel für echte dreidimensionale Bilder mit bloßem Auge, 3D-Bildschirm und digitales Fenster
WO2022245045A1 (ko) * 2021-05-20 2022-11-24 삼성전자 주식회사 이미지를 처리하기 위한 방법 및 장치
WO2022255511A1 (ko) * 2021-06-02 2022-12-08 엘지전자 주식회사 디스플레이 장치 및 디스플레이 장치의 제어 방법

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10212532B1 (en) 2017-12-13 2019-02-19 At&T Intellectual Property I, L.P. Immersive media with media device
CN108397654B (zh) * 2018-03-13 2019-06-04 京东方科技集团股份有限公司 一种3d显示器位置调整方法、设备及系统
CN111757088A (zh) * 2019-03-29 2020-10-09 刁鸿浩 一种分辨率无损的裸眼立体显示系统
KR20220045862A (ko) 2020-10-06 2022-04-13 삼성전자주식회사 동적 크로스토크를 측정하는 방법 및 장치
KR20220067950A (ko) 2020-11-18 2022-05-25 삼성전자주식회사 디스플레이 장치 및 그의 제어 방법
CN112543318B (zh) * 2020-12-01 2023-02-17 深圳英伦科技股份有限公司 3d显示屏补偿方法、系统及计算机可读存储介质
KR20220170090A (ko) * 2021-06-22 2022-12-29 에스케이하이닉스 주식회사 멀티-뷰 이미지에서 노이즈 감소를 위한 장치 및 방법
TWI807713B (zh) * 2022-03-22 2023-07-01 友達光電股份有限公司 立體顯示系統及方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20130089489A (ko) * 2012-02-02 2013-08-12 한국과학기술연구원 시역 평탄화 및 동적 크로스토크 최소화를 위한 무안경식 3차원 영상표시장치
KR20150035117A (ko) * 2013-09-27 2015-04-06 삼성전자주식회사 다시점 영상 디스플레이 장치 및 제어 방법

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20100063300A (ko) 2008-12-03 2010-06-11 삼성전자주식회사 3차원 디스플레이에서 뷰간 누화를 보상하는 장치 및 방법
KR101023042B1 (ko) 2009-09-01 2011-03-24 한국과학기술연구원 3차원 영상 디스플레이 장치
KR101691252B1 (ko) 2010-01-05 2016-12-29 리얼디 인크. 타임 시퀀셜 액정 스테레오스코픽 디스플레이 시스템에서의 크로스토크 억제
EP2666300B1 (en) * 2011-01-22 2018-03-07 Humaneyes Technologies Ltd Methods and systems of reducing blurring artifacts in lenticular printing and display
JP2015039070A (ja) 2011-03-29 2015-02-26 株式会社東芝 立体画像表示装置および立体画像表示方法
JP2013038602A (ja) * 2011-08-08 2013-02-21 Sony Corp 画像処理装置、および画像処理方法、並びにプログラム
KR20130017890A (ko) 2011-08-12 2013-02-20 엘지디스플레이 주식회사 입체영상 표시장치와 그 크로스토크 보상 방법
KR101910963B1 (ko) 2011-09-02 2018-10-23 엘지디스플레이 주식회사 편광안경방식 입체영상표시장치
KR20130060598A (ko) * 2011-11-30 2013-06-10 삼성디스플레이 주식회사 입체 영상 표시 장치
KR101322910B1 (ko) * 2011-12-23 2013-10-29 한국과학기술연구원 다수의 관찰자에 적용가능한 동적 시역 확장을 이용한 다시점 3차원 영상표시장치 및 그 방법
WO2013102500A1 (en) * 2012-01-06 2013-07-11 Ultra-D Coöperatief U.A. Display processor for 3d display
US20140085432A1 (en) * 2012-09-27 2014-03-27 3M Innovative Properties Company Method to store and retrieve crosstalk profiles of 3d stereoscopic displays
KR20140130904A (ko) 2013-05-02 2014-11-12 엘지전자 주식회사 영상 표시 장치 및 그 방법
JP2015095779A (ja) * 2013-11-12 2015-05-18 ソニー株式会社 画像処理装置、画像処理方法及び電子機器
KR102143473B1 (ko) * 2013-11-13 2020-08-12 삼성전자주식회사 다시점 영상 디스플레이 장치 및 그 다시점 영상 디스플레이 방법
JP2015156607A (ja) * 2014-02-21 2015-08-27 ソニー株式会社 画像処理装置、画像処理装置、及び電子機器

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20130089489A (ko) * 2012-02-02 2013-08-12 한국과학기술연구원 시역 평탄화 및 동적 크로스토크 최소화를 위한 무안경식 3차원 영상표시장치
KR20150035117A (ko) * 2013-09-27 2015-04-06 삼성전자주식회사 다시점 영상 디스플레이 장치 및 제어 방법

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022245045A1 (ko) * 2021-05-20 2022-11-24 삼성전자 주식회사 이미지를 처리하기 위한 방법 및 장치
US11816817B2 (en) 2021-05-20 2023-11-14 Samsung Electronics Co., Ltd. Method and apparatus for processing an image
WO2022255511A1 (ko) * 2021-06-02 2022-12-08 엘지전자 주식회사 디스플레이 장치 및 디스플레이 장치의 제어 방법
DE102021114740B3 (de) 2021-06-08 2022-05-12 Tim Niklas Reimer Omnidirektionales 3D-Pixel für echte dreidimensionale Bilder mit bloßem Auge, 3D-Bildschirm und digitales Fenster

Also Published As

Publication number Publication date
CN106604018A (zh) 2017-04-26
US20170111633A1 (en) 2017-04-20
CN106604018B (zh) 2021-03-05
EP3350989B1 (en) 2019-06-12
US10237539B2 (en) 2019-03-19
KR102121389B1 (ko) 2020-06-10
EP3350989A4 (en) 2018-08-15
EP3350989A1 (en) 2018-07-25
WO2017065517A1 (en) 2017-04-20

Similar Documents

Publication Publication Date Title
KR102121389B1 (ko) 무안경 3d 디스플레이 장치 및 그 제어 방법
KR101856568B1 (ko) 다시점 영상 디스플레이 장치 및 제어 방법
KR102185130B1 (ko) 다시점 영상 디스플레이 장치 및 그 제어 방법
JP6449428B2 (ja) 曲面状多視点映像ディスプレイ装置及びその制御方法
KR102415502B1 (ko) 복수의 사용자를 위한 라이트 필드 렌더링 방법 및 장치
KR102140080B1 (ko) 다시점 영상 디스플레이 장치 및 제어 방법
KR102174258B1 (ko) 무안경 3d 디스플레이 장치 및 그 제어 방법
KR101675961B1 (ko) 적응적 부화소 렌더링 장치 및 방법
KR101966152B1 (ko) 다시점 영상 디스플레이 장치 및 그 제어 방법
WO2013074753A1 (en) Display apparatuses and methods for simulating an autostereoscopic display device
KR101975246B1 (ko) 다시점 영상 디스플레이 장치 및 그 제어 방법
KR20140089860A (ko) 디스플레이 장치 및 그 디스플레이 방법
KR20120088467A (ko) 2차원 영상 표시 영역 내에 부분 3차원 영상을 디스플레이 하는 방법 및 장치
KR20170029210A (ko) 무안경 3d 디스플레이 장치 및 그 제어 방법
KR20140137971A (ko) 디스플레이 장치 및 그의 다시점 영상 디스플레이 방법
KR20150055322A (ko) 다시점 영상 디스플레이 장치 및 그 다시점 영상 디스플레이 방법
US10939092B2 (en) Multiview image display apparatus and multiview image display method thereof
KR102143463B1 (ko) 다시점 영상 디스플레이 장치 및 그 제어 방법
KR20150012976A (ko) 다시점 영상 처리 장치 및 그 영상 처리 방법
US9832458B2 (en) Multi view image display method in which viewpoints are controlled and display device thereof
KR20190010060A (ko) 디스플레이 장치 및 그 제어 방법

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant