KR101296900B1 - 입체 영상의 뷰 제어방법과 이를 이용한 입체 영상표시장치 - Google Patents

입체 영상의 뷰 제어방법과 이를 이용한 입체 영상표시장치 Download PDF

Info

Publication number
KR101296900B1
KR101296900B1 KR1020090001207A KR20090001207A KR101296900B1 KR 101296900 B1 KR101296900 B1 KR 101296900B1 KR 1020090001207 A KR1020090001207 A KR 1020090001207A KR 20090001207 A KR20090001207 A KR 20090001207A KR 101296900 B1 KR101296900 B1 KR 101296900B1
Authority
KR
South Korea
Prior art keywords
user
image
location information
face
eye image
Prior art date
Application number
KR1020090001207A
Other languages
English (en)
Other versions
KR20100081803A (ko
Inventor
정호영
손현호
임무종
Original Assignee
엘지디스플레이 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지디스플레이 주식회사 filed Critical 엘지디스플레이 주식회사
Priority to KR1020090001207A priority Critical patent/KR101296900B1/ko
Priority to US12/580,668 priority patent/US8970681B2/en
Publication of KR20100081803A publication Critical patent/KR20100081803A/ko
Application granted granted Critical
Publication of KR101296900B1 publication Critical patent/KR101296900B1/ko

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/012Head tracking input arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/275Image signal generators from 3D object models, e.g. computer-generated stereoscopic image signals
    • H04N13/279Image signal generators from 3D object models, e.g. computer-generated stereoscopic image signals the virtual viewpoint locations being selected by the viewers or determined by tracking

Abstract

본 발명은 입체 영상의 뷰 제어방법에 관한 것으로, 이미지 센서와 특정파장의 광을 감지하는 광센서 중 어느 하나의 출력으로부터 사용자의 위치정보를 검출하는 단계; 상기 사용자의 위치정보에 따라 뷰 각도와 뎁스정보를 렌더링하기 위한 파라미터를 변경하는 단계; 상기 파라미터에 따라 뷰 각도와 뎁스 정보가 변경되는 좌안 영상과 우안 영상을 생성하는 단계; 및 상기 좌안 영상과 우안 영상을 입체 영상표시장치에 표시하는 단계를 포함한다.

Description

입체 영상의 뷰 제어방법과 이를 이용한 입체 영상표시장치{METHOD OF CONTROLLING VIEW OF STEREOSCOPIC IMAGE AND STEREOSCOPIC IMAGE DISPLAY USING THE SAME}
본 발명은 입체 영상의 뷰 제어방법과 이를 이용한 입체 영상표시장치에 관한 것이다.
입체영상 표시장치는 양안시차방식(stereoscopic technique)과 복합시차지각방식(autostereoscopic technique)으로 나뉘어진다.
양안시차방식은 입체 효과가 큰 좌우 눈의 시차 영상을 이용하며, 안경방식과 무안경방식이 있고 두 방식 모두 실용화되고 있다. 안경방식은 직시형 표시장치나 프로젝터에 좌우 시차 영상의 편광 방향을 바꿔서 또는 시분할 방식으로 표시하고, 편광 안경 또는 액정셔터 안경을 사용하여 입체 영상을 구현한다 무안경 방식은 일반적으로 좌우 시차 영상의 광축을 분리하기 위한 패럴렉스 베리어 등의 광학판을 표시 화면의 앞에 또는 뒤에 설치하는 방식이다.
안경방식은 표시장치에서 좌안 영상과 우안 영상을 교대로 표시하고 편광 안경에 입사되는 편광특성을 절환한다. 따라서, 안경방식은 좌안 영상과 우안 영상을 시분할 하여 해상도 저하 없이 입체 영상을 구현할 수 있다.
최근 입체 영상을 이용한 3D 콘텐츠는 3D 게임, 3D 광고, 3D 영화 등으로 다양화되고 있다. 입체 영상의 응용 분야와 콘텐츠 확대를 위해서는 사용자의 움직임에 따라 입체 영상의 뷰(view)를 적응적으로 제어할 필요가 있다.
본 발명의 목적은 상기 종래 기술의 문제점들을 해결하고자 안출된 발명으로써 사용자의 위치에 입체 영상의 좌안 영상 뷰와 우안 영상의 뷰 각도와 뎁스정보를 변경하여 무제한의 입체 영상 뷰를 구현하도록 한 입체 영상의 뷰 제어방법과 이를 이용한 입체 영상표시장치를 제공한다.
상기 목적을 달성하기 위하여, 본 발명의 실시예에 따른 입체 영상의 뷰 제어방법은 이미지 센서와 특정파장의 광을 감지하는 광센서 중 어느 하나의 출력으로부터 사용자의 위치정보를 검출하는 단계; 상기 사용자의 위치정보에 따라 뷰 각도와 뎁스정보를 렌더링하기 위한 파라미터를 변경하는 단계; 상기 파라미터에 따라 뷰 각도와 뎁스 정보가 변경되는 좌안 영상과 우안 영상을 생성하는 단계; 및 상기 좌안 영상과 우안 영상을 입체 영상표시장치에 표시하는 단계를 포함한다.
본 발명의 실시예에 따른 입체 영상표시장치는 이미지 센서와 특정파장의 광을 감지하는 광센서 중 어느 하나를 포함하는 표시소자; 상기 이미지 센서와 특정파장의 광을 감지하는 광센서 중 어느 하나의 출력으로부터 사용자의 위치정보를 검출하는 사용자 위치정보 검출부; 및 상기 사용자의 위치정보에 따라 뷰 각도와 뎁스정보를 렌더링하기 위한 파라미터를 변경하여 뷰 각도와 뎁스 정보가 변경되는 좌안 영상과 우안 영상을 생성하고 상기 좌안 영상과 우안 영상을 상기 표시소자에 분리 표시하는 이미지 처리부를 구비한다.
본 발명에 따른 입체 영상의 뷰 제어방법과 이를 이용한 입체 영상표시장치는 사용자의 위치에 따라 입체 영상의 각도와 뎁스정보(depth information)를 변경하여 사용자에게 무제한의 입체 영상 뷰를 제공할 수 있다.
상기 목적 외에 본 발명의 다른 목적 및 특징들은 첨부한 도면들을 참조한 실시예의 설명을 통하여 명백하게 드러나게 될 것이다.
이하, 도 1 내지 도 10d를 참조하여 본 발명의 바람직한 실시예들에 대하여 상세히 설명하기로 한다.
도 1을 참조하면, 본 발명의 실시예에 따른 입체 영상의 뷰 제어방법은 카메라 영상 또는 적외선 센서 출력에 기반하여 사용자(또는 관찰자)의 위치 정보를 획득한다.(S1) 사용자의 위치 정보는 사용자 얼굴의 X축 위치정보(FaceX), 사용자 얼굴의 Y축 위치정보(FaceY), 사용자와 입체 영상표시장치 사이의 거리(또는 Z축 위치정보, Dist)를 포함한 3차원 위치 정보이다.
본 발명의 실시예에 따른 입체 영상의 뷰 제어방법은 사용자의 3차원 위치 정보에 따라 입체 영상표시장치에 표시되는 좌/우안 영상 각각의 뷰 각도와 뎁스정보를 렌더링(Randering)하기 위한 변수 파라미터를 조정한다.(S2) 좌안 영상의 렌 더링 변수(FaceXL)는 "FaceXL= FaceX-offset/2"으로써 사용자 얼굴의 3차원 위치 정보에 따라 결정되며, 우안 영상의 렌더링 변수(FaceXR)는 FaceXR= FaceX+offset/2으로써 사용자 얼굴의 3차원 위치 정보에 따라 결정된다. "offset"은 사용자의 좌안과 우안 사이의 거리에 해당하는 좌안 영상 생성을 위한 카메라 뷰와 우안 영상 생성을 위한 카메라 뷰 사이의 거리이다. 사용자의 3차원 위치정보에 따라 좌/우안 영상의 X축 관련 파라미터과 함께, 좌/우안 영상의 Y축 및 Z축 관련 파라미터들은 사용자의 Y축 및 Z축 위치정보에 따라 실시간 변경될 수 있다.
본 발명의 실시예에 따른 입체 영상의 뷰 제어방법은 좌/우안 영상 렌더링 변수와 사용자 위치 정보에 따라 좌안 영상과 우안 영상을 생성하고 그 좌안 영상과 우안 영상을 입체 영상표시장치에 표시한다.(S3 내지 S5) 사용자의 위치가 바뀔 때마다 좌/우안 영상의 렌더링 변수가 갱신되므로 입체 영상표시장치에 표시되는 좌/우안 영상 각각의 뷰가 사용자 위치에 따라 실시간으로 바뀐다. 따라서, 본 발명의 입체 영상표시장치는 사용자의 시청자에 위치에 따라 변경되는 입체 영상의 뎁스정보를 실시간 생성하여 사용자에게 무제한의 입체 영상 뷰를 제공할 수 있다.
도 2는 도 1의 S1 단계에서 카메라 영상에 기반하여 사용자(또는 관찰자)의 위치 정보를 획득하는 방법의 제어수순을 단계적으로 보여 주는 흐름도이다. 도 3은 입체 영상표시장치(10)와, 그 입체 영상표시장치(10)에 표시되는 입체 영상을 감상하는 사용자의 3차원 위치정보를 보여 주는 도면이다. 도 4는 입체 영상표시장치(10)에 설치된 카메라(11)에 의해 촬상된 카메라 캡쳐 영상을 보여 주는 도면이다.
도 2 내지 도 4를 참조하면, 입체 영상표시장치(10)는 좌/우안 영상이 표시되는 표시화면, 그 표시화면을 감싸는 프레임, 프레임에 설치되는 카메라(11)를 포함한다. 사용자가 카메라(11)의 화각(view angle) 내에 존재할 때, 카메라(11)에 의해 촬상된 영상에는 사용자 이미지가 포함된다. 도 4와 같은 카메라 캡쳐 영상은 카메라 해상도에 따라 결정되는 CW(px)×CH(px) 화소 매트릭스를 포함한다.
입체 영상의 뷰 제어방법은 도 4와 같은 현재 프레임의 카메라 캡쳐 영상을 분석하여 이전 프레임에서 계산된 사용자의 위치정보가 존재하는가를 판단한다. 현재 프레임의 카메라 캡쳐 영상에 이전 프레임에서 계산된 사용자의 위치정보가 존재하면, 입체 영상의 뷰 제어방법은 사용자의 얼굴 탐색 범위를 이전 프레임에서 계산된 사용자 위치 주변으로 설정한다.(S11~S13). 반면에, 현재 프레임의 카메라 캡쳐 영상에 이전 프레임에서 계산된 사용자의 위치정보가 존재하지 않으면, 입체 영상의 뷰 제어방법은 사용자의 얼굴 탐색 범위를 현재 프레임의 카메라 캡쳐 영상 전체 범위로 설정한다.(S11, S12, S14)
입체 영상의 뷰 제어방법은 S13 및 S14 단계에서 설정된 얼굴 탐색 범위 내에서 공지의 얼굴 탐색 알고리즘을 이용하여 사용자의 얼굴을 탐색하여, 카메라 캡쳐 영상으로부터 사용자 얼굴을 XYZ 3차원 위치정보(FaceX, FaceY, Dist)로 추출한다.(S15 및 S16) 얼굴 탐색 알고리즘의 일예로 "Viola & Jones의 얼굴 탐색 알고리즘"을 적용할 수 있으며, 이에 한정되는 것이 아니라 공지의 어떠한 얼굴 탐색 알고리즘도 적용 가능하다. Viola & Jones의 얼굴 탐색 알고리즘은 아래의 수학식 1 내지 4와 같다. 수학식 1 내지 4에서 파라미터 FW(mm), SH(mm), θ(°), CW(px), 및 CH(px)는 도 3 및 도 4와 같이 입체 영상표시장치(10), 카메라(11) 및 카메라 캡쳐 영상에 의해 결정되는 상수값이며, 카메라 캡쳐 영상으로부터 산출된 DW(px) 및 DC(px)는 사용자의 움직임에 따라 Viola & Jones의 얼굴 탐색 알고리즘에 의해 실시간 계산되는 변수값이다. FW는 사용자 얼굴의 폭(Face Width), SH는 입체 영상표시장치(10)의 화면 높이(Screen Height), θ는 사용자가 입체 영상을 바라보는 각도, CW는 카메라 캡쳐 영상의 가로 길이, CH는 카메라 캡쳐 영상의 세로 높이, DW는 카메라 캡쳐 영상으로부터 검출된 사용자 얼굴의 폭(Detected Width), DC는 카메라 캡쳐 영상으로부터 검출된 사용자 얼굴 중심(Detected Center)을 각각 의미한다.
Figure 112009000879568-pat00001
여기서, RPP는 "Radians per pixel"이고 CW는 카메라 캡쳐 영상의 가로 길이이다.
Figure 112009000879568-pat00002
여기서, Dist는 도 3에서 입체 영상표시장치(10)와 사용자 사이의 거리(Face Distance)이다.
Figure 112009000879568-pat00003
여기서,FaceX는 도 3에서 X축 상에서의 사용자 얼굴의 위치이며, DC.X는 카메라 캡쳐 영상으로부터 검출된 사용자 얼굴 중심의 x축 픽셀 위치이다.
Figure 112009000879568-pat00004
여기서,FaceY는 도 3에서 Y축 상에서의 사용자 얼굴의 위치이며, DC.Y는 카메라 캡쳐 영상으로부터 검출된 사용자 얼굴 중심의 y축 픽셀 위치이다.
S11 내지 S16 단계에서 카메라 캡쳐 영상으로부터 사용자 얼굴을 검출하는데 실패하였다면, 입체 영상의 뷰 제어방법은 카메라 캡쳐 영상으로부터 피부색이 가장 많이 포함된 영역을 사용자 얼굴로 인식하여, S11 내지 S16을 재수행하여 사용자 얼굴을 탐색하여 사용자 얼굴을 XYZ 3차원 위치정보(FaceX, FaceY, Dist)로 추출한다.(S17 및 S18)
입체 영상의 뷰 제어방법은 소정의 프레임기간 동안 예를 들면, 수십 프레임기간 동안 S16 및 S18 단계를 반복하여 추출된 입체 영상표시장치(10)를 바라 보는 사용자 얼굴의 3차원 위치정보(FaceX, FaceY, Dist)를 평균한다.(S19) 이는 사용자가 전혀 움직이지 않고 있는 경우에도 카메라 캡쳐 영상에 혼입된 미세한 노이즈 에 의해 사용자 위치 정보가 조금씩 변할 수 있으므로 사용자 위치 정보를 시간축으로 스무딩하여 최종 사용자 얼굴의 3차원 위치 정보로 결정하기 위함이다.
도 5 및 도 6은 도 1의 S1 단계에서 적외선 센서 출력에 기반하여 사용자(또는 관찰자)의 위치 정보를 획득하는 방법을 설명하기 위한 도면들이다.
도 5 및 도 6을 참조하면, 입체 영상표시장치(10)는 좌/우안 영상이 표시되는 표시화면, 그 표시화면을 감싸는 프레임, 프레임에 설치되는 적외선 센서(12)를 포함한다. 사용자는 좌/우 적외선 발광장치(22L, 22R)가 설치된 3D 편광안경(21)을 착용한다. 3D 편광안경(21)을 착용한 사용자가 적외선 센서(12)의 화각 내에 존재할 때, 적외선 센서(12)의 출력에는 좌/우 적외선 발광장치(22L, 22R) 각각으로부터의 적외선이 수광된다. 적외선 센서는 도 6과 같이 센서 해상도에 따라 결정되는 IRW(px)×IRH(px) 센서 매트릭스를 포함한다.
입체 영상의 뷰 제어방법은 도 1의 S1 단계에서 도 6과 같은 적외선 센서의 출력으로부터 적외선 수광 위치(DP1, DP2)를 검출하고, 아래의 수학식 5 내지 11을 이용하여 사용자 얼굴의 폭(DW), 사용자 얼굴의 중심점 XY 좌표(DC.X, DC.Y), 및 사용자 얼굴의 3차원 위치정보(FaceX, FaceY, Dist)를 계산한다.
Figure 112009000879568-pat00005
여기서, DW는 적외선 센서(12)로부터 검출된 좌/우안 적외선 발광장치(22L, 22R) 사이의 폭이다.
Figure 112009000879568-pat00006
여기서, DC.X는 X축 상에서의 사용자 얼굴 중심점 좌표값이다.
Figure 112009000879568-pat00007
여기서, DC.Y는 Y축 상에서의 사용자 얼굴 중심점 좌표값이다.
Figure 112009000879568-pat00008
여기서, RPPIR는 "Radians per pixel"이고 IRW는 적외선 센서 출력의 가로 길이이다.
Figure 112009000879568-pat00009
여기서, Dist는 도 5에서 입체 영상표시장치(10)와 사용자 사이의 거리(Face Distance)이다.
Figure 112009000879568-pat00010
여기서,FaceX는 도 5에서 X축 상에서의 사용자 얼굴의 위치이며, DC.X는 적외선 출력으로부터 검출된 사용자 얼굴 중심의 x축 좌표값이다.
Figure 112009000879568-pat00011
여기서,FaceY는 도 5에서 Y축 상에서의 사용자 얼굴의 위치이며, DC.Y는 카메라 캡쳐 영상으로부터 검출된 사용자 얼굴 중심의 y축 좌표값이다. IRW는 적외선 센서 출력의 세로 높이이고, SH는 입체 영상표시장치(10)의 표시화면에서 세로 높이(Screen Height)이다.
도 7은 도 5에 도시된 3D 편광안경(21)의 적외선 발광장치(22L, 22R)를 상세히 보여 주는 도면이다.
도 7을 참조하면, 적외선 발광장치(22L, 22R) 각각은 적외선 LED 모듈(Light Emitting Diode module, 23), 스위치소자(24) 및 전지(Battery, 25)를 구비한다. 적외선 LED 모듈(23)은 직렬 또는 병렬로 연결된 하나 이상의 적외선 LED를 포함한다. 스위치소자(24)는 사용자 조작에 의해 적외선 LED 모듈(23)과 전지(25) 사이의 전류패스를 절환한다.
도 8을 참조하면, 입체 영상의 뷰 제어방법은 전술한 바와 같이 S1 및 S2 단 계에서 산출된 사용자의 3차원 위치정보를 좌/우안 영상의 렌더링 변수로 하여 좌/우안 영상 각각을 렌더링한다. 본 발명의 입체 영상표시장치는 3D 객체의 모든 각도에 대한 이미지를 저장하는 것이 아니라, OpenGL, Direc3D 등의 3D 모델링 API(Application Programming Interface)를 이용하여 사용자의 양안간 거리(offset)만큼 이격된 좌/우안 카메라 포지션들(CAM1, CAM2)로부터 3D 개체를 바라보는 좌/우안 이미지를 생성한다. 본 발명은 API에서 사용자의 양안거리만큼 이격된 위치에서 동일한 3D 객체를 바라보는 좌안 카메라 포지션과 우안 카메라 포지션 즉, 좌/우안 영상의 뷰 각도와 뎁스 정보를 결정하는 파라미터를 S1 및 S2 단계에서 산출된 사용자 얼굴의 3차원 위치정보에 따라 실시간 변경한다.
본 발명의 입체 영상표시장치는 사용자 얼굴의 3차원 위치정보에 따라 변경되는 변수 파라미터에 따라 좌/우안 영상 각각을 렌더링한 후에 그 좌/우안 영상을 입체 영상표시장치(10)에 분리 표시하여 입체 영상의 뷰 각도와 뎁스정보를 변경한다. 그 결과, 본 발명의 입체 영상 표시장치는 좌/우안 영상의 렌더링을 사용자 움직임에 따라 실시간 변경함으로써 사용자 움직임에 따라 무한 개의 뷰로 보일 수 있는 입체 영상을 구현한다.
예를 들면, 도 9와 같이 사용자가 입체 영상표시소자(10)의 전방으로부터 좌측으로 이동하면, 사용자의 3 차원 위치정보가 변경된다. 이로 인하여, 입체 영상표시소자(10)에 표시되고 있는 좌/우안 영상이 바뀐 사용자의 3차원 위치정보에 따라 렌더링되고 사용자는 도 9의 중앙에서 좌측으로 뷰 각도와 뎁스정보가 이동하는 3D 객체 이미지를 입체 영상으로 감상할 수 있다. 도 9와 같이 사용자가 입체 영 상표시소자(10)의 전방으로부터 우측으로 이동하면, 사용자의 3 차원 위치정보가 변경된다. 이로 인하여, 입체 영상표시소자(10)에 표시되고 있는 좌/우안 영상이 바뀐 사용자의 3차원 위치정보에 따라 렌더링되고 사용자는 도 9의 중앙에서 우측으로 뷰 각도와 뎁스정보가 이동하는 3D 객체 이미지를 입체 영상으로 감상할 수 있다.
본 발명의 실시예에 따른 입체 영상표시장치는 알려져 있는 양안시차방식과 복합시차지각방식의 어떠한 입체 영상표시장치로도 구현될 수 있으며 전술한 입체 영상의 뷰 제어방법을 이용하여 사용자의 3차원 위치정보를 실시간 검출하여 좌/우안 영상을 실시간 렌더링하여 입체 영상의 뷰를 변경한다. 도 10a 내지 도 10d는 본 발명의 입체 영상표시장치(10)로 구현 가능한 예를 보여 주는 도면들이다.
도 10a에 도시된 입체 영상표시장치(10)는 광흡수축이 서로 교차하는 편광판들(POL1, POL2)과, 그 편광판들(POL1, POL2) 사이에 협지된 액정층(LC)을 포함한다. 이 입체 영상표시장치(10)에서 편광판들(POL1, POL2)이 형성된 기판에는 액정층(LC)에 전계를 인가하기 위한 전극이 형성된다. 액정층(LC)에 전압이 인가되지 않으면(Voff) 제1 편광판(PL1)을 통과하는 선편광이 90°위상 지연값을 갖는 액정층(LC)을 통과하면서 편광방향이 바뀌고 제2 편광판(POL2)을 통과한다. 반면에, 액정층(LC)에 소정의 전압이 인가되면(Von), 제1 편광판(PL1)을 통과하는 영상의 선편광이 위상 지연없이 액정층(LC)을 통과하여 제2 편광판(POL2)을 투과하지 못한다. 이를 이용하여, 좌안 영상의 빛과 우안 영상의 빛의 진행 경로를 제어하여 입체 영상을 구현할 수 있다.
도 10b에 도시된 입체 영상표시장치(10)는 백라이트유닛(BLU)과, 액정표시패널(LCP) 사이에 설치된 패럴랙스 배리어(Parrallax Barrier, PBAR)를 구비한다. 패럴랙스 배리어(PBAR)는 액정표시패널(LCP)에서 좌안 영상이 표시되는 화소를 통과하는 빛의 진행경로와, 우안 영상이 표시되는 화소를 통과하는 빛의 진행경로를 분리한다.
도 10c에 도시된 입체 영상표시장치(10)는 액정표시패널(LCP)과 사용자 사이에 설치된 렌티큘러렌즈 어레이(Lenticular Lens Array, LA)를 구비한다. 렌티큘러렌즈 어레이는 액정표시패널(LCP)로부터 입사되는 좌안 영상의 빛과 우안 영상의 빛을 분리한다.
도 10d에 도시된 입체 영상표시장치(10)는 좌안 영상과 우안 영상을 분리 투사하는 프로젝터들(PJ)과, 프로젝터들(PJ)과 사용자 사이에 설치된 더블 렌티큘러렌즈 어레이(DLA)를 구비한다. 프로젝터들(PJ)과 더블 렌티큘러 렌즈 어레이(DLA)의 조합으로 좌안 영상의 빛과 우안 영상의 빛의 진행경로가 분리된다.
이와 같은 입체 영상표시장치(10)에는 사용자의 위치를 검출하기 위하여 사용자를 바라보는 위치의 프레임에 카메라 등의 이미지 센서, 또는 적외선과 같은 특정 파장의 빛을 감지하는 광센서가 설치된다. 입체 영상표시장치(10)에 광센서가 설치되는 경우에, 사용자는 특정 파장의 빛을 발산하는 발광수단을 착용하여야 한다. 입체 영상표시장치(10)는 입체 영상의 뷰 제어방법에 따라 사용자 얼굴의 위치정보를 검출하는 사용자 위치정보 검출부, 사용자 위치정보에 따라 좌/우안 영상의 렌더링을 위한 파라미터를 조정하여 좌/우안 영상을 생성하는 이미지 처리부 등을 구비한다. 입체 영상표시장치(10)의 표시소자는 전술한 액정표시소자의 표시패널(LCP) 뿐만 아니라, 전계 방출 표시장치(Field Emission Display), 플라즈마 디스플레이 패널(Plasma Display Panel), 및 무기 전계발광소자와 유기발광다이오드소자(Organic Light Emitting Diode, OLED)를 포함한 전계발광소자(Electroluminescence Device, EL) 등의 평판 표시장치의 표시패널로 구현될 수 있다.
이상 설명한 내용을 통해 당업자라면 본 발명의 기술사상을 일탈하지 아니하는 범위 내에서 다양한 변경 및 수정이 가능함을 알 수 있을 것이다. 따라서, 본 발명은 상세한 설명에 기재된 내용으로 한정되는 것이 아니라 특허 청구의 범위에 의해 정하여져야만 할 것이다.
도 1은 본 발명의 실시예에 따른 입체 영상의 뷰 제어방법의 제어 수순을 단계적으로 보여 주는 흐름도이다.
도 2는 도 1의 S1 단계에서 카메라 영상에 기반하여 사용자의 위치 정보를 획득하는 방법의 제어수순을 단계적으로 보여 주는 흐름도이다.
도 3은 입체 영상표시소자와, 그 입체 영상표시소자에 표시되는 입체 영상을 바라 보는 사용자 얼굴의 3차원 위치정보를 보여 주는 도면이다.
도 4는 도 3에 도시된 카메라에 의해 촬상된 카메라 캡쳐 영상을 보여 주는 도면이다.
도 5는 도 1의 S1 단계에서 적외선 센서 출력에 기반하여 사용자의 위치 정보를 획득하는 방법을 설명하기 위한 도면으로써 적외선 센서가 설치된 입체 영상 표시소자와 사용자 얼굴의 3차원 위치 정보를 보여 주는 도면이다.
도 6은 도 5에 도시된 적외선 센서에 의해 검출되는 적외선 수광 픽셀 위치를 보여 주는 도면이다.
도 7은 도 5에 도시된 3D 편광안경의 적외선 발광장치를 상세히 보여 주는 도면이다.
도 8은 사용자의 3차원 위치 정보에 따라 좌/우안 영상을 생성하는 카메라 포지션들이 실시간 변경되는 예를 보여 주는 도면이다.
도 9는 본 발명의 실시예에 따른 입체 영상표시장치에 표시되는 3D 객체의 입체 영상의 뷰가 실시간 변경되는 예를 보여 부는 도면이다.
도 10a 내지 도 10d는 본 발명의 실시예에 따른 입체 영상표시장치의 다양한 구현 예들을 보여 주는 도면들이다.
< 도면의 주요 부분에 대한 부호의 설명 >
10 : 입체 영상표시소자 11 : 카메라(이미지 센서)
12 : 적외선 센서(광센서) 21 : 3D 편광안경
22L, 22R : 적외선 발광장치

Claims (10)

  1. 이미지 센서와 특정파장의 광을 감지하는 광센서 중 어느 하나의 출력으로부터 사용자의 위치정보를 검출하는 단계;
    상기 사용자의 위치정보에 따라 뷰 각도와 뎁스정보를 렌더링하기 위한 파라미터를 변경하는 단계;
    상기 파라미터에 따라 뷰 각도와 뎁스 정보가 변경되는 좌안 영상과 우안 영상을 생성하는 단계; 및
    상기 좌안 영상과 우안 영상을 입체 영상표시장치에 표시하는 단계를 포함하며,
    상기 사용자 위치정보를 검출하는 단계는,
    상기 이미지 센서로부터 캡쳐된 현재 프레임의 영상을 분석하여 상기 이미지 센서로부터 캡쳐된 이전 프레임에서 계산된 사용자의 위치정보가 존재하는지를 판단하는 단계;
    상기 이전 프레임에서 계산된 사용자의 위치정보가 존재하면 사용자의 얼굴 탐색범위를 상기 이전 프레임에서 계산된 사용자 위치주변으로 설정하고, 상기 이전 프레임에서 계산된 사용자의 위치정보가 존재하지 않으면 사용자의 얼굴 탐색범위를 현재 프레임의 영상 전체 범위로 설정하는 단계;
    상기 현재 프레임의 영상 전체 범위에서 사용자의 얼굴이 검출되지 않았다면 상기 이미지 센서로부터 출력된 사용자의 피부색과 가장 유사한 색을 포함하는 영역을 사용자의 얼굴로 인식하는 단계를 포함하는 것을 특징으로 하는 입체 영상의 뷰 제어방법.
  2. 제 1 항에 있어서,
    상기 사용자의 위치정보는 사용자 얼굴의 3 차원 위치정보이며,
    상기 3차원 위치정보는 상기 사용자 얼굴의 X축 위치정보, Y축 위치정보, 및 상기 사용자와 입체영상 표시장치 사이의 거리를 나타내는 Z축 위치정보를 포함하는 것을 특징으로 하는 입체 영상의 뷰 제어방법.
  3. 제 2 항에 있어서,
    상기 뷰 각도와 뎁스정보를 렌더링하기 위한 파라미터를 변경하는 단계는 상기 사용자 얼굴의 3 차원 위치정보에 따라 상기 파라미터를 변경하며,
    상기 파라미터는 좌안영상의 렌더링 변수 및 우안 영상의 렌더링 변수를 포함하는 것을 특징으로 하는 입체 영상의 뷰 제어방법.
  4. 제 1 항에 있어서,
    상기 파라미터에 따라 뷰 각도와 뎁스 정보가 변경되는 좌안 영상과 우안 영상을 생성하는 단계는,
    사용자의 양안거리만큼 이격된 위치에서 동일한 3D 객체를 바라보는 좌안 카메라 포지션과 우안 카메라 포지션을 상기 파라미터에 따라 변경하면서 상기 좌안 영상과 우안 영상을 생성하는 것을 특징으로 하는 입체 영상의 뷰 제어방법.
  5. 제 1 항에 있어서,
    상기 사용자가 착용한 안경의 좌/우측에 설치된 발광수단을 이용하여 상기 광센서 쪽으로 특정 파장의 광을 조사하는 단계를 더 포함하는 것을 특징으로 하는 입체 영상의 뷰 제어방법.
  6. 이미지 센서와 특정파장의 광을 감지하는 광센서 중 어느 하나를 포함하는 표시소자;
    상기 이미지 센서와 특정파장의 광을 감지하는 광센서 중 어느 하나의 출력으로부터 사용자의 위치정보를 검출하는 사용자 위치정보 검출부; 및
    상기 사용자의 위치정보에 따라 뷰 각도와 뎁스정보를 렌더링하기 위한 파라미터를 변경하여 뷰 각도와 뎁스 정보가 변경되는 좌안 영상과 우안 영상을 생성하고 상기 좌안 영상과 우안 영상을 상기 표시소자에 분리 표시하는 이미지 처리부를 구비하며,
    상기 사용자 위치정보 검출부는,
    상기 이미지 센서로부터 캡쳐된 현재 프레임의 영상을 분석하여 상기 이미지 센서로부터 캡쳐된 이전 프레임에서 계산된 사용자의 위치정보가 존재하는지를 판단하고,
    상기 이전 프레임에서 계산된 사용자의 위치정보가 존재하면 사용자의 얼굴 탐색범위를 상기 이전 프레임에서 계산된 사용자 위치주변으로 설정하며, 상기 이전 프레임에서 계산된 사용자의 위치정보가 존재하지 않으면 사용자의 얼굴 탐색범위를 현재 프레임의 영상 전체 범위로 설정하고,
    상기 현재 프레임의 영상 전체 범위에서 사용자의 얼굴이 검출되지 않았다면 상기 이미지 센서로부터 출력된 사용자의 피부색과 가장 유사한 색을 포함하는 영역을 사용자의 얼굴로 인식하는 것을 특징으로 하는 입체 영상표시장치.
  7. 제 6 항에 있어서,
    상기 사용자 위치정보는 사용자 얼굴의 3 차원 위치정보이며,
    상기 3차원 위치정보는 상기 사용자 얼굴의 X축 위치정보, Y축 위치정보, 및 상기 사용자와 입체영상 표시장치 사이의 거리를 나타내는 Z축 위치정보를 포함하는 것을 특징으로 하는 입체 영상표시장치.
  8. 제 7 항에 있어서,
    상기 이미지 처리부는, 상기 사용자 얼굴의 3 차원 위치정보에 따라 상기 파라미터를 변경하며, 상기 파라미터는 좌안영상의 렌더링 변수 및 우안 영상의 렌더링 변수를 포함하는 것을 특징으로 하는 입체 영상표시장치.
  9. 제 6 항에 있어서,
    상기 이미지 처리부는,
    사용자의 양안거리만큼 이격된 위치에서 동일한 3D 객체를 바라보는 좌안 카메라 포지션과 우안 카메라 포지션을 상기 파라미터에 따라 변경하면서 상기 좌안 영상과 우안 영상을 생성하는 것을 특징으로 하는 입체 영상표시장치.
  10. 제 6 항에 있어서,
    상기 광센서 쪽으로 특정 파장의 광을 조사하는 발광수단들이 좌/우측에 설치된 안경을 더 구비하는 것을 특징으로 하는 입체 영상표시장치.
KR1020090001207A 2009-01-07 2009-01-07 입체 영상의 뷰 제어방법과 이를 이용한 입체 영상표시장치 KR101296900B1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020090001207A KR101296900B1 (ko) 2009-01-07 2009-01-07 입체 영상의 뷰 제어방법과 이를 이용한 입체 영상표시장치
US12/580,668 US8970681B2 (en) 2009-01-07 2009-10-16 Method of controlling view of stereoscopic image and stereoscopic image display using the same

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020090001207A KR101296900B1 (ko) 2009-01-07 2009-01-07 입체 영상의 뷰 제어방법과 이를 이용한 입체 영상표시장치

Publications (2)

Publication Number Publication Date
KR20100081803A KR20100081803A (ko) 2010-07-15
KR101296900B1 true KR101296900B1 (ko) 2013-08-14

Family

ID=42311363

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020090001207A KR101296900B1 (ko) 2009-01-07 2009-01-07 입체 영상의 뷰 제어방법과 이를 이용한 입체 영상표시장치

Country Status (2)

Country Link
US (1) US8970681B2 (ko)
KR (1) KR101296900B1 (ko)

Families Citing this family (59)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5356952B2 (ja) * 2009-08-31 2013-12-04 レムセン イノベーション、リミティッド ライアビリティー カンパニー 表示装置
US9294751B2 (en) * 2009-09-09 2016-03-22 Mattel, Inc. Method and system for disparity adjustment during stereoscopic zoom
JP5521913B2 (ja) 2009-10-28 2014-06-18 ソニー株式会社 画像処理装置、および画像処理方法、並びにプログラム
KR101627214B1 (ko) * 2009-11-12 2016-06-03 엘지전자 주식회사 영상표시장치 및 그 동작방법
US9030536B2 (en) 2010-06-04 2015-05-12 At&T Intellectual Property I, Lp Apparatus and method for presenting media content
US9787974B2 (en) 2010-06-30 2017-10-10 At&T Intellectual Property I, L.P. Method and apparatus for delivering media content
US8918831B2 (en) 2010-07-06 2014-12-23 At&T Intellectual Property I, Lp Method and apparatus for managing a presentation of media content
US9049426B2 (en) 2010-07-07 2015-06-02 At&T Intellectual Property I, Lp Apparatus and method for distributing three dimensional media content
KR101128637B1 (ko) * 2010-07-08 2012-06-13 삼성전기주식회사 시청자의 3차원 위치 측정 장치, 방법 및 상기 장치를 포함하는 디스플레이 장치
KR101731343B1 (ko) * 2010-07-14 2017-04-28 엘지전자 주식회사 이동 단말기 및 그 제어방법
KR20120007289A (ko) * 2010-07-14 2012-01-20 삼성전자주식회사 디스플레이 장치 및 그 입체감 설정 방법
US9032470B2 (en) 2010-07-20 2015-05-12 At&T Intellectual Property I, Lp Apparatus for adapting a presentation of media content according to a position of a viewing apparatus
US9232274B2 (en) 2010-07-20 2016-01-05 At&T Intellectual Property I, L.P. Apparatus for adapting a presentation of media content to a requesting device
US9560406B2 (en) 2010-07-20 2017-01-31 At&T Intellectual Property I, L.P. Method and apparatus for adapting a presentation of media content
US8994716B2 (en) 2010-08-02 2015-03-31 At&T Intellectual Property I, Lp Apparatus and method for providing media content
US8438502B2 (en) 2010-08-25 2013-05-07 At&T Intellectual Property I, L.P. Apparatus for controlling three-dimensional images
JP5593972B2 (ja) * 2010-08-30 2014-09-24 ソニー株式会社 情報処理装置、立体視表示方法、及びプログラム
CN101917641B (zh) * 2010-09-08 2013-10-02 利亚德光电股份有限公司 Led立体显示器及显示方法、信号接收器
US8947511B2 (en) * 2010-10-01 2015-02-03 At&T Intellectual Property I, L.P. Apparatus and method for presenting three-dimensional media content
KR101046259B1 (ko) * 2010-10-04 2011-07-04 최규호 응시위치를 추적하여 입체영상을 표시하는 입체영상 표시장치
US20120098931A1 (en) * 2010-10-26 2012-04-26 Sony Corporation 3d motion picture adaption system
US20120113235A1 (en) * 2010-11-08 2012-05-10 Sony Corporation 3d glasses, systems, and methods for optimized viewing of 3d video content
KR101721103B1 (ko) * 2010-12-21 2017-03-30 엘지디스플레이 주식회사 입체영상표시장치 및 그 구동방법
US9354718B2 (en) * 2010-12-22 2016-05-31 Zspace, Inc. Tightly coupled interactive stereo display
US20120218253A1 (en) * 2011-02-28 2012-08-30 Microsoft Corporation Adjusting 3d effects for wearable viewing devices
JP5228074B2 (ja) * 2011-03-31 2013-07-03 株式会社東芝 情報処理装置、表示制御方法
US9189825B2 (en) 2011-04-12 2015-11-17 Lg Electronics Inc. Electronic device and method for displaying stereoscopic image
WO2012141350A1 (en) * 2011-04-12 2012-10-18 Lg Electronics Inc. Electronic device and method for displaying stereoscopic image
KR101227878B1 (ko) * 2011-05-30 2013-01-31 김호진 사용자 동작 기반 디스플레이 장치 및 디스플레이 방법
CN103380625A (zh) * 2011-06-16 2013-10-30 松下电器产业株式会社 头戴式显示器及其位置偏差调整方法
US9602766B2 (en) 2011-06-24 2017-03-21 At&T Intellectual Property I, L.P. Apparatus and method for presenting three dimensional objects with telepresence
US8947497B2 (en) 2011-06-24 2015-02-03 At&T Intellectual Property I, Lp Apparatus and method for managing telepresence sessions
US9445046B2 (en) 2011-06-24 2016-09-13 At&T Intellectual Property I, L.P. Apparatus and method for presenting media content with telepresence
US9030522B2 (en) 2011-06-24 2015-05-12 At&T Intellectual Property I, Lp Apparatus and method for providing media content
US8587635B2 (en) 2011-07-15 2013-11-19 At&T Intellectual Property I, L.P. Apparatus and method for providing media services with telepresence
US9465226B2 (en) 2011-08-09 2016-10-11 Sony Computer Entertainment Inc. Automatic shutdown of 3D based on glasses orientation
US9191659B2 (en) * 2011-11-16 2015-11-17 Christie Digital Systems Usa, Inc. Collimated stereo display system
US9098069B2 (en) 2011-11-16 2015-08-04 Google Technology Holdings LLC Display device, corresponding systems, and methods for orienting output on a display
KR101953686B1 (ko) 2011-11-30 2019-05-23 삼성전자주식회사 부화소를 렌더링하는 영상 처리 장치 및 방법
US9222767B2 (en) 2012-01-03 2015-12-29 Samsung Electronics Co., Ltd. Display apparatus and method for estimating depth
GB2498954B (en) 2012-01-31 2015-04-15 Samsung Electronics Co Ltd Detecting an object in an image
JP5167439B1 (ja) 2012-02-15 2013-03-21 パナソニック株式会社 立体画像表示装置及び立体画像表示方法
US8947382B2 (en) 2012-02-28 2015-02-03 Motorola Mobility Llc Wearable display device, corresponding systems, and method for presenting output on the same
US8988349B2 (en) * 2012-02-28 2015-03-24 Google Technology Holdings LLC Methods and apparatuses for operating a display in an electronic device
US20140063206A1 (en) * 2012-08-28 2014-03-06 Himax Technologies Limited System and method of viewer centric depth adjustment
US20140152785A1 (en) * 2012-12-05 2014-06-05 Shenzhen Coocaa Network Technology Co., Ltd. 3d intelligent terminal and system based on glasses
US9041642B2 (en) 2012-12-17 2015-05-26 Disney Enterprises, Inc. Large audience 3D display system without glasses
US9225969B2 (en) 2013-02-11 2015-12-29 EchoPixel, Inc. Graphical system with enhanced stereopsis
CN105432078B (zh) * 2013-02-19 2017-09-22 瑞尔D股份有限公司 双目注视成像方法和设备
RU2530660C1 (ru) * 2013-02-26 2014-10-10 Владимир Николаевич Антипов Способ выявления диапазона условий восприятия глубины образов плоскостных изображений
WO2015034157A1 (ko) * 2013-09-04 2015-03-12 삼성전자주식회사 Eia 생성 방법 및 이를 수행할 수 있는 장치
CN108174184A (zh) * 2013-09-04 2018-06-15 北京三星通信技术研究有限公司 快速集成图像生成方法及与用户交互的裸眼三维显示系统
CN104216126A (zh) * 2014-08-20 2014-12-17 北京科技大学 一种变焦3d显示技术
CN105183149B (zh) * 2015-08-12 2018-02-27 京东方科技集团股份有限公司 距离感测基板、显示装置、显示系统和分辨率调整方法
CN105100506B (zh) * 2015-08-12 2018-10-12 京东方科技集团股份有限公司 显示装置、显示系统和分辨率调整方法
US10757401B2 (en) 2017-03-15 2020-08-25 Sony Corporation Display system and method for display control of a video based on different view positions
US10735707B2 (en) * 2017-08-15 2020-08-04 International Business Machines Corporation Generating three-dimensional imagery
WO2019036630A1 (en) * 2017-08-17 2019-02-21 Google Llc SCALING AN IMAGE OF THE FACE OF A SPEAKER BASED ON THE DISTANCE OF THE FACE AND THE SIZE OF THE DISPLAY DEVICE
CN115695771A (zh) * 2021-07-28 2023-02-03 京东方科技集团股份有限公司 一种显示装置及其显示方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09238369A (ja) * 1996-02-29 1997-09-09 Mitsubishi Electric Corp 3次元像表示装置
JPH11341517A (ja) * 1998-05-26 1999-12-10 Nippon Telegr & Teleph Corp <Ntt> 水平配置立体画像表示システム
JP2005142957A (ja) 2003-11-07 2005-06-02 Sony Corp 撮像装置及び方法、撮像システム

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4649425A (en) * 1983-07-25 1987-03-10 Pund Marvin L Stereoscopic display
US5781229A (en) * 1997-02-18 1998-07-14 Mcdonnell Douglas Corporation Multi-viewer three dimensional (3-D) virtual display system and operating method therefor
AU2003901528A0 (en) * 2003-03-31 2003-05-01 Seeing Machines Pty Ltd Eye tracking system and method
KR100616556B1 (ko) * 2004-06-12 2006-08-28 김은수 무손실 편광형 입체 디스플레이방법 및 장치
KR101249988B1 (ko) * 2006-01-27 2013-04-01 삼성전자주식회사 사용자의 위치에 따른 영상을 디스플레이하는 장치 및 방법
WO2007117485A2 (en) * 2006-04-03 2007-10-18 Sony Computer Entertainment Inc. Screen sharing method and apparatus
KR100834637B1 (ko) * 2006-11-27 2008-06-02 삼성전자주식회사 스테레오 카메라 장치에서 이미지들을 정렬하기 위한 장치및 방법
US7903166B2 (en) * 2007-02-21 2011-03-08 Sharp Laboratories Of America, Inc. Methods and systems for display viewer motion compensation based on user image data
US8269822B2 (en) * 2007-04-03 2012-09-18 Sony Computer Entertainment America, LLC Display viewing system and methods for optimizing display view based on active tracking
US20090237355A1 (en) * 2008-03-24 2009-09-24 Storm Orion Head tracking for virtual reality displays
KR101324440B1 (ko) * 2009-02-11 2013-10-31 엘지디스플레이 주식회사 입체 영상의 뷰 제어방법과 이를 이용한 입체 영상표시장치

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09238369A (ja) * 1996-02-29 1997-09-09 Mitsubishi Electric Corp 3次元像表示装置
JPH11341517A (ja) * 1998-05-26 1999-12-10 Nippon Telegr & Teleph Corp <Ntt> 水平配置立体画像表示システム
JP2005142957A (ja) 2003-11-07 2005-06-02 Sony Corp 撮像装置及び方法、撮像システム

Also Published As

Publication number Publication date
US20100171697A1 (en) 2010-07-08
KR20100081803A (ko) 2010-07-15
US8970681B2 (en) 2015-03-03

Similar Documents

Publication Publication Date Title
KR101296900B1 (ko) 입체 영상의 뷰 제어방법과 이를 이용한 입체 영상표시장치
KR101324440B1 (ko) 입체 영상의 뷰 제어방법과 이를 이용한 입체 영상표시장치
CN102170577B (zh) 用于处理视频图像的方法和系统
US9866825B2 (en) Multi-view image display apparatus and control method thereof
US9041782B2 (en) Multiple-viewer auto-stereoscopic 3D display apparatus
US9848184B2 (en) Stereoscopic display system using light field type data
US20140313295A1 (en) Non-linear Navigation of a Three Dimensional Stereoscopic Display
CN102802014B (zh) 一种多人跟踪功能的裸眼立体显示器
KR20120048301A (ko) 디스플레이 장치 및 방법
EP2905960A1 (en) Display apparatus and controlling method thereof
CN105372821B (zh) 用于减小移动闪烁的3d显示装置
US20160353098A1 (en) Active shutter head mounted display
KR100704634B1 (ko) 사용자의 위치에 따른 입체 영상을 디스플레이하는 장치 및방법
WO2014131230A1 (zh) 图像采集装置和3d显示系统
US10317689B2 (en) 3D display device and driving method thereof
KR101046259B1 (ko) 응시위치를 추적하여 입체영상을 표시하는 입체영상 표시장치
KR101119781B1 (ko) 스테레오 영상화 터치 장치
KR100440955B1 (ko) 2d/3d 겸용 디스플레이
CN105049833B (zh) 一种采用对称可调式背光结构的立体视检查方法和装置
KR102189009B1 (ko) 삼차원영상 표시장치 및 그 구동방법
JP4268415B2 (ja) 立体視方法およびヘッドマウントディスプレイ装置
JP2004258594A (ja) 広角度から鑑賞できる立体画像表示装置
WO2023005606A1 (zh) 一种显示装置及其显示方法
KR102139746B1 (ko) 투명 디스플레이 장치 및 그 디스플레이 방법
KR101954256B1 (ko) 디스플레이 장치 및 그 제어 방법

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20160712

Year of fee payment: 4

FPAY Annual fee payment

Payment date: 20190723

Year of fee payment: 7