KR20230109051A - 온도 변화에 대한 시차 광학 소자의 캘리브레이션 장치 및 방법 - Google Patents

온도 변화에 대한 시차 광학 소자의 캘리브레이션 장치 및 방법 Download PDF

Info

Publication number
KR20230109051A
KR20230109051A KR1020220034671A KR20220034671A KR20230109051A KR 20230109051 A KR20230109051 A KR 20230109051A KR 1020220034671 A KR1020220034671 A KR 1020220034671A KR 20220034671 A KR20220034671 A KR 20220034671A KR 20230109051 A KR20230109051 A KR 20230109051A
Authority
KR
South Korea
Prior art keywords
temperature
parameter
correction
image
electronic device
Prior art date
Application number
KR1020220034671A
Other languages
English (en)
Inventor
황찬솔
강병민
김찬수
최윤선
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to EP22216454.3A priority Critical patent/EP4212946A1/en
Priority to CN202310024409.6A priority patent/CN116430580A/zh
Priority to US18/095,338 priority patent/US20230221518A1/en
Priority to JP2023002074A priority patent/JP2023102773A/ja
Publication of KR20230109051A publication Critical patent/KR20230109051A/ko

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B30/00Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images
    • G02B30/20Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes
    • G02B30/26Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes of the autostereoscopic type
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/302Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/327Calibration thereof
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/011Head-up displays characterised by optical features comprising device for correcting geometrical aberrations, distortion
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0147Head-up displays characterised by optical features comprising a device modifying the resolution of the displayed image
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B2027/0192Supplementary details
    • G02B2027/0198System for aligning or maintaining alignment of an image in a predetermined direction

Abstract

일 실시예에 따른 전자 장치는 개별 온도에 대한 보정치를 모델링한 파라미터 보정 모델을 이용하여 측정된 온도에 대한 보정치를 결정하고, 결정된 보정치를 이용하여 시차 광학 소자의 파라미터를 조정할 수 있다.

Description

온도 변화에 대한 시차 광학 소자의 캘리브레이션 장치 및 방법{DEVICE AND METHOD TO CALIBRATE PARALLAX OPTICAL ELEMENT FOR CHANGE OF TEMPERATURE}
아래의 개시는 온도 변화에 대한 시차 광학 소자의 캘리브레이션 장치 및 방법 에 관한 것이다.
입체 영상을 인지하기 위한 요인 중 가장 지배적인 요인은 사용자의 양 눈에 보여지는 영상의 차이이다. 사용자의 양 눈에 서로 다른 영상을 보여주기 위한 방법으로 편광을 이용한 분할, 시분할, 원색(primary color)의 파장을 다르게 한 파장 분할 등을 이용하여 영상을 필터링(Filtering)하는 안경 방식과, 패럴렉스 배리어(parallax barrier), 렌티큘러 렌즈(lenticular lens), 또는 방향성 백라이트 유닛(directional BLU) 등 3D 변환 장치를 이용하여 각 영상을 특정 시점에서만 볼 수 있도록 하는 무안경 방식이 있다.
무안경 방식의 경우, 안경 착용의 불편을 덜 수 있다는 장점이 있다. 무안경 방식에서 3D 영상의 크로스톡(crosstalk)을 억제하기 위해서는 사용자의 양 눈에 3D 영상을 정확히 조사할 필요가 있다. 3D 디스플레이 장치 및 3D 변환 장치의 생산 과정 또는 설치 과정 등에서 설계 값과 상이한 오차가 발생하는 경우, 영상 품질이 저하될 수 있다.
일 실시예에 따른 전자 장치는, 디스플레이 모듈; 상기 디스플레이 모듈로부터 출력되는 영상에 대응하는 광을 사용자의 아이박스로 제공하는 시차 광학 소자; 상기 시차 광학 소자 주변의 온도를 측정하는 온도 센서; 상기 시차 광학 소자의 파라미터에 대해 서로 다른 온도 범위에서의 보정 정보(correction information)를 결정하기 위한 복수의 파라미터 보정 모델들(parameter calibration models)을 저장한 메모리; 및 상기 복수의 파라미터 보정 모델들 중 상기 측정된 온도에 대응하는 파라미터 보정 모델을 이용하여 상기 측정된 온도에 대응하는 보정 정보를 결정하고, 상기 보정 정보를 이용하여 상기 시차 광학 소자의 파라미터를 조정하는 프로세서를 포함할 수 있다.
상기 복수의 파라미터 보정 모델들의 각각에 할당된 온도 범위는 다른 파라미터 보정 모델에 할당된 온도 범위와 서로 비중첩(non-overlap)할 수 있다.
상기 프로세서는, 기준 온도(reference temperature)를 초과하는 제1 온도 범위에 상기 측정된 온도가 속하는 것에 기초하여, 상기 제1 온도 범위에 대한 제1 파라미터 보정 모델을 이용하여 상기 보정 정보를 결정하고, 상기 기준 온도 이하인 제2 온도 범위에 상기 측정된 온도가 속하는 것에 기초하여, 상기 제2 온도 범위에 대한 제2 파라미터 보정 모델을 이용하여 상기 보정 정보를 결정할 수 있다.
상기 기준 온도는, 상기 시차 광학 소자의 파라미터가 비선형적으로 변화하는 온도 구간에 기초하여 결정되고, 상기 프로세서는, 상기 측정된 온도가 상기 기준 온도를 초과하는 것에 기초하여 상기 제1 파라미터 보정 모델을 이용하여 상기 보정 정보를 결정하고, 상기 측정된 온도가 상기 기준 온도 이하인 것에 기초하여 상기 제2 파라미터 보정 모델을 이용하여 상기 보정 정보를 결정할 수 있다.
상기 기준 온도는, 섭씨 20도 이상 섭씨 30도 이하 중 한 온도 값일 수 있다.
상기 메모리는, 기본 온도 상한을 초과하는 고온에 대한 제1 파라미터 보정 모델, 기본 온도 하한 이하의 저온에 대한 제2 파라미터 보정 모델, 및 상기 기본 온도 상한 및 상기 기본 온도 하한 사이의 기본 온도 범위에 대한 제3 파라미터 보정 모델을 저장하고, 상기 프로세서는, 상기 측정된 온도에 기초하여, 상기 제1 파라미터 보정 모델, 상기 제2 파라미터 보정 모델, 및 제3 파라미터 보정 모델 중 한 모델을 선택하고, 선택된 모델을 이용하여 상기 측정된 온도에 대응하는 상기 보정 정보를 결정할 수 있다.
상기 복수의 파라미터 보정 모델들은, 해당하는 모델에 할당된 온도 범위 내에서 둘 이상의 온도 값들에서 캘리브레이션을 수행함으로써 획득된 기준 파라미터 값들에 기초하여 구축(build)될 수 있다.
상기 복수의 파라미터 보정 모델들은, 상기 기준 파라미터 값들에 대한 회귀 분석(regression analysis)에 기초하여 획득된 온도 및 보정 정보 간의 관계를 나타내는 함수, 및 미리 결정된 온도 별로 매핑된 보정 정보에 관한 매핑 정보 중 적어도 하나를 포함할 수 있다.
상기 복수의 파라미터 보정 모델들 중 적어도 한 모델은, 상기 적어도 한 모델에 할당된 온도 범위 중 비선형 온도 구간(non-linear temperature section)에서 제1 온도 간격으로 획득된 기준 파라미터 값들 및 다른 온도 구간에서 상기 제1 온도 간격보다 넓은 제2 온도 간격으로 획득된 기준 보정 값들에 기초하여 구축될 수 있다.
상기 프로세서는, 상기 보정 정보로서 피치(pitch)에 대한 보정치를 획득하고, 상기 시차 광학 소자의 피치 파라미터 값(pitch parameter value)에 상기 보정치를 적용함으로써 파라미터 보정(parameter correction)을 수행할 수 있다.
일 실시예에 따른 프로세서에 의해 수행되는 파라미터 보정 방법은, 디스플레이 모듈로부터 출력되는 영상에 대응하는 광을 시차 광학 소자를 이용하여 사용자의 아이박스로 제공하는 단계; 서로 다른 온도 범위에서의 보정 정보를 결정하기 위한 복수의 파라미터 보정 모델들 중 상기 시차 광학 소자에 대해 측정된 온도에 대응하는 파라미터 보정 모델을 이용하여 상기 측정된 온도에 대응하는 보정 정보를 결정하는 단계; 및 상기 보정 정보를 이용하여 상기 시차 광학 소자의 파라미터를 조정하는 단계를 포함할 수 있다.
도 1은 일 실시예에 따른 시차 광학 소자의 캘리브레이션을 수행하는 전자 장치를 도시한다.
도 2는 일 실시예에 따른 전자 장치가 헤드업 디스플레이를 포함하는 예시를 도시한다.
도 3은 일 실시예에 따른 전자 장치의 블록도를 도시한다.
도 4는 일 실시예에 따른 시차 광학 소자의 캘리브레이션을 위한 소스 영상, 패턴 영상, 및 관측된 영상을 도시한다.
도 5는 일 실시예에 따른 소스 영상 및 관측된 영상을 도시한다.
도 6은 일 실시예에 따른 시차 광학 소자의 파라미터들을 설명한다.
도 7은 일 실시예에 따른 시차 광학 소자의 온도에 따른 변화를 설명한다.
도 8은 일 실시예에 따른 캘리브레이션 패턴의 온도에 따른 변화 및 보정을 설명한다.
도 9는 일 실시예에 따른 시차 광학 소자의 파라미터에 대한 온도 별 보정 정보를 설명한다.
도 10은 일 실시예에 따른 시차 광학 소자의 파라미터를 보정하기 위한 예시적인 파라미터 보정 모델을 설명하는 도면이다.
도 11은 일 실시예에 따른 고온 파라미터 보정 모델 및 저온 파라미터 보정 모델을 설명한다.
도 12은 일 실시예에 따른 파라미터 조정 결과를 도시한다.
도 13은 일 실시예에 따른 파라미터 보정 방법을 설명하는 흐름도이다.
실시예들에 대한 특정한 구조적 또는 기능적 설명들은 단지 예시를 위한 목적으로 개시된 것으로서, 다양한 형태로 변경되어 구현될 수 있다. 따라서, 실제 구현되는 형태는 개시된 특정 실시예로만 한정되는 것이 아니며, 본 명세서의 범위는 실시예들로 설명한 기술적 사상에 포함되는 변경, 균등물, 또는 대체물을 포함한다.
제1 또는 제2 등의 용어를 다양한 구성요소들을 설명하는데 사용될 수 있지만, 이런 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 해석되어야 한다. 예를 들어, 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소는 제1 구성요소로도 명명될 수 있다.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다.
단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서, "포함하다" 또는 "가지다" 등의 용어는 설명된 특징, 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것이 존재함으로 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 해당 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가진다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥상 가지는 의미와 일치하는 의미를 갖는 것으로 해석되어야 하며, 본 명세서에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
이하, 실시예들을 첨부된 도면들을 참조하여 상세하게 설명한다. 첨부 도면을 참조하여 설명함에 있어, 도면 부호에 관계없이 동일한 구성 요소는 동일한 참조 부호를 부여하고, 이에 대한 중복되는 설명은 생략하기로 한다.
도 1은 일 실시예에 따른 시차 광학 소자의 캘리브레이션을 수행하는 전자 장치를 도시한다.
일 실시예에 따른 전자 장치(100)는 사용자에게 입체 영상을 제공할 수 있다. 예를 들어, 전자 장치(100)는 양안 디스패리티(binocular disparity)를 갖는 영상을 사용자의 양안에 제공할 수 있다. 양안 시차를 갖는 영상은 사용자의 좌안으로 제공되는 제1 영상 및 사용자의 우안으로 제공되는 제2 영상을 포함할 수 있다. 제1 영상 및 제2 영상에서 같은 객체 및/또는 같은 지점에 대응하는 픽셀들은 해당 객체 및/또는 해당 지점의 깊이(예: 사용자가 인식하도록 정의된 및/또는 설정된 해당 객체까지의 거리)에 따른 디스패리티만큼 이격될 수 있다. 다만, 설명의 편의를 위하여 한 사용자의 양안으로의 입체 영상의 제공으로서, 해당 사용자의 좌안에 대응하는 제1 시점(viewpoint) 및 우안에 대응하는 제2 시점으로 영상이 제공되는 예시를 설명하였으나, 이로 한정하는 것은 아니다. 설계에 따라 둘 이상의 시점들로 영상이 제공될 수 있고, 둘 이상의 사용자들에게 입체 영상이 제공될 수도 있다. 예를 들어, 전자 장치(100)는 제1 사용자의 좌안에 대응하는 제1 시점 및 제1 사용자의 우안에 대응하는 제2 시점으로 픽셀 별 양안 시차를 갖는 영상 페어(image pair)를 제공할 수 있다. 또한, 전자 장치(100)는 제2 사용자의 좌안에 대응하는 제3 시점 및 제2 사용자의 우안에 대응하는 제4 시점으로 픽셀 별 양안 시차를 갖는 영상 페어를 제공할 수도 있다.
참고로, 본 명세서에서 한 시점에 대응하는 아이박스(eyebox)는 해당 시점에 대응하는 영상 페어가 제공되는 영역을 나타낼 수 있다. 예를 들어, 아이박스는 사용자의 시선 높이에 대응하여 결정될 수 있으며, 사용자가 아이박스 내에서 정면을 응시할 경우에 전술한 영상 페어가 사용자에게 보여질(viewable) 수 있다.
전자 장치(100)는 디스플레이 패널을 통해 영상을 출력하고, 전자 장치(100)의 시차 광학 소자가 출력된 영상에 대응하는 광을 복수의 시점들로 지향시킬 수 있다. 제조 공정의 오차 및/또는 공차로 인해 캘리브레이션을 통한 미세 튜닝(fine tuning) 없이는 사용자의 좌안 및/또는 우안에서 반대편 눈으로 제공되어야 하는 영상의 일부가 관측될 수 있다. 전술한 바와 같이 다른 시점에서 관측되어야 하는 영상이 제공되는 것을 크로스토크(crosstalk)라고 나타낼 수 있다. 사용자의 좌안에 대응하는 시점에서 좌안 영상만 관측되고 우안에 대응하는 시점에서 우안 영상만 관측되어야 사용자가 정확한 깊이감을 인식하고 선명한 영상을 시청할 수 있다.
일 실시예에 따른 전자 장치(100)는 전술한 크로스토크의 감소 및/또는 제거를 위해, 캘리브레이션을 수행할 수 있다. 전자 장치(100)는 사용자에게 캘리브레이션을 위한 패턴 영상에 대응하는 캘리브레이션 패턴(110)을 제공할 수 있다. 후술하겠으나, 전자 장치(100)의 시차 광학 소자에 의해 디스플레이에 표시된 패턴 영상의 각 지점으로부터 생성된 영상 광이 아이박스에 도달할 수 있다. 예를 들어, 아이박스에서는 디스플레이로부터 시차 광학 소자를 거쳐 아이박스에 도달한 영상 광들이 조합된 형태가 시각적으로 관측될 수 있다. 캘리브레이션 패턴(110)은, 패턴 영상에 대응하는 영상 광들이 시차 광학 소자를 거쳐 도달한 아이박스에서 조합되어 형성된, 시각적 패턴일 수 있다.
전자 장치(100)는 패턴 영상에 대응하는 캘리브레이션 패턴(110)을 관측한 사용자로부터 캘리브레이션을 위한 입력(129)을 수신할 수 있다. 전자 장치(100)는 캘리브레이션을 위한 입력(129)을 수신하는 경우 해당 입력(129)에 의한 시차 광학 소자의 파라미터를 조정할 수 있다. 전자 장치(100)는 조정된 파라미터에 따라 패턴 영상에 대응하는 캘리브레이션 패턴(110)을 변경할 수 있다. 사용자는 패턴 영상에 대응하는 캘리브레이션 패턴(110)에 대응하는 캘리브레이션 패턴이 기준선(예: 수직선 및/또는 수평선)에 정렬될 때까지 전술한 캘리브레이션을 위한 조작을 반복적으로 입력할 수 있다. 전자 장치(100)는 캘리브레이션을 위한 조작을 위한 편리한 입력 인터페이스(120)를 제공할 수 있다. 예를 들어, 도 1에서는 전자 장치(100)의 터치 스크린이 슬라이더 바를 출력하고, 전자 장치(100)는 슬라이더 바에 대한 입력(129)(예: 슬라이더 바 객체를 수평으로 이동시키는 입력)을 검출하는 경우에 응답하여 전술한 시차 광학 소자의 파라미터를 조정할 수 있다. 다만, 캘리브레이션 패턴(110)의 변경을 위한 시차 광학 소자의 파라미터 조정이 사용자의 수동 입력에 의존하는 것으로 한정하는 것은 아니다. 예를 들어, 전자 장치(100)는 사용자와 같은 방향을 향하는 별도의 카메라 모듈을 통해 아이박스에서 캘리브레이션 패턴(110)을 관측하고, 관측된 결과에 기초하여 전술한 시차 광학 소자의 파라미터를 조정할 수도 있다.
참고로, 도 1에 도시된 바와 같이, 차량에 장착된 전자 장치(100)는 차량의 윈드쉴드 글래스(windshield glass)를 통해 컨텐츠 영상 및/또는 패턴 영상을 투사함으로써 사용자에게 제공할 수 있다. 윈드쉴드 글래스를 이용한 헤드업 디스플레이를 하기 도 2에서 설명한다.
도 2는 일 실시예에 따른 전자 장치가 헤드업 디스플레이를 포함하는 예시를 도시한다.
캘리브레이션 시스템(200)은 사용자(290)에게 시차 광학 소자의 캘리브레이션을 제공하는 시스템으로써, 예를 들어, 전자 장치(210)(예: 도 1의 전자 장치(100))가 장착된 기기일 수 있다.
전자 장치(210)는 프로세서(212), 및 헤드업 디스플레이(213)를 포함할 수 있다. 또한, 전자 장치(210)는 눈 검출기(217)도 포함할 수 있다.
프로세서(212)는 렌더링된 패턴 영상을 헤드업 디스플레이(213)를 통해 출력함으로써 사용자(290)에게 패턴 영상을 제공할 수 있다. 프로세서(212)는 캘리브레이션 동안 사용자의 입력 및/또는 아이박스(291)에 배치된 별도 카메라 모듈(미도시됨)에서의 관측 결과에 따라 조정된 파라미터에 따라 패턴 영상을 다시 렌더링하여 제공할 수 있다. 프로세서(212)는 캘리브레이션이 완료된 후 고정된(fixed) 파라미터(예: 캘리브레이션 완료에 응답하여 획득된 파라미터)를 이용하여 컨텐츠를 렌더링함으로써 생성된 컨텐츠 영상을 출력할 수 있다. 후술하는 시차 광학 소자가 컨텐츠 영상에 대응하는 영상 광들을 지향시킴으로써, 지향된 영상 광들이 아이박스에서 조합될 수 있다. 컨텐츠 영상에 대응하는 영상 광들의 조합은 아이박스에서 컨텐츠로서 시각화되어 아이박스에 위치된 사용자에 의해 관측될 수 있다.
컨텐츠는 예시적으로 운행과 관련된 정보를 포함할 수 있고, 차량의 경우 운전과 연관된 정보(이하, 운전 정보)는, 예를 들어, 경로 안내 정보(route guidance information) 및 주행 관련 정보(driving related information)를 포함할 수 있다.
헤드업 디스플레이(213)는 사용자(290)의 전방에 위치되는 사용자(290)의 가시 영역(visible region)에 입체 영상을 시각화할 수 있다. 예를 들어, 헤드업 디스플레이(213)는 사용자(290)의 전방에 배치되는 유리창(예를 들어, 차량의 윈드쉴드 글래스(windshield glass))에 패턴 영상을 시각화할 수 있다. 헤드업 디스플레이(213)는 가상의 프로젝션 평면을 형성할 수 있다. 이하, 가상의 프로젝션 평면은 가상 이미지 평면(virtual image plane)(250)이라고 나타낼 수 있다. 가상 이미지 평면(250)은 헤드업 디스플레이(213)에 의해 생성된 패턴을 포함하는 허상(virtual image)이 표시되는 평면을 나타낼 수 있다. 사용자(290)는 가상 이미지 평면(250)에 허상이 배치된 것으로 인식할 수 있다. 참고로, 헤드업 디스플레이(213) 및 차량의 윈드쉴드 글래스에 의한 광학계로 인해, 사용자는 의도된 캘리브레이션 패턴과 다른 형태의 캘리브레이션 패턴(예: 관측된 패턴)이 관측된 영상(230)을 시청할 수 있다. 예를 들어, 사용자(290)는 아이박스(291)에서 관측된 영상(230)을 시청할 수 있다. 관측된 영상(230)은 예시적으로 캘리브레이션 패턴이 의도보다 더 블러되거나 그라데이션이 추가된 형태를 나타낼 수 있다.
또한, 헤드업 디스플레이(213)는 가상 이미지 평면(250)에 깊이를 가지는 컨텐츠 영상을 시각화할 수 있다. 예를 들어, 프로세서(212)는 객체가 시각화될 수 있는 깊이에 대응하는 양안 시차를 가지는 좌영상 및 우영상을 포함하는 컨텐츠 영상을 헤드업 디스플레이(213)를 통해 사용자(290)에게 제공할 수 있다. 헤드업 디스플레이(213)는 가상 영역(260) 내에 해당하는 깊이를 가지는 컨텐츠를 가상 이미지 평면(250)에 시각화할 수 있다. 여기서, 프로세서(212)는 헤드업 디스플레이(213)의 광학계에 기초하여, 컨텐츠를 3차원 그래픽 표현(graphic representation)으로 렌더링할 수 있다. 3차원 그래픽 표현은 깊이를 가지는 입체적인 그래픽 표현을 나타낼 수 있다. 헤드업 디스플레이(213)는, 컨텐츠가 가지는 깊이에 기초하여, 좌영상(left image) 및 우영상(right image)을 포함하는 컨텐츠 영상을 가상 이미지 평면(250) 상에 형성할 수 있고, 가상 이미지 평면(250)을 통해 좌영상을 사용자(290)의 좌안(left eye)에, 우영상을 사용자(290)의 우안(right eye)에 제공할 수 있다. 다시 말해, 가상 이미지 평면(250)에는 하나의 허상이 맺히나, 헤드업 디스플레이(213) 및 윈드쉴드글래스에 따른 광학계에 의해 하나의 허상으로부터 좌영상에 대응하는 빛 및 우영상에 대응하는 빛이 분리되어 각각 사용자(290)의 좌안 및 우안으로 향할 수 있다. 전술한 바와 같이, 아이박스(291)는 좌영상에 대응하는 광 및 우영상에 대응하는 광이 도달하는 영역으로서, 사용자(290)의 좌안 및 우안에 대응하는 영역을 포함할 수 있다. 따라서, 아이박스(291) 내에서 컨텐츠를 나타내는 좌영상 및 우영상에 대응하는 광이 사용자의 양안에 개별적으로 도달함으로써, 사용자(290)는 입체적으로 렌더링된 컨텐츠의 깊이감을 인식할 수 있다.
일 실시예에 따른 헤드업 디스플레이(213)는 예를 들어, 화상 생성부(picture generation unit), 폴드 거울(fold mirror)(215) 및 확대 거울(magnifying mirror)(216)(예: 오목 거울)을 포함할 수 있다. 화상 생성부는 디스플레이 모듈 및 시차 광학 소자를 포함할 수 있다. 시차 광학 소자는, 예를 들어, 렌티큘러 렌즈(lenticular lens) 및 시차 방벽(parallax barrier)를 포함할 수 있다. 디스플레이 모듈은 광원(214a) 및 디스플레이(예: 디스플레이 패널(214b))를 포함할 수 있다. 광원(214a)으로부터 방출된 빛이 디스플레이 패널(214b)을 통과한 영상 광(image ray)에서, 디스플레이 패널(214b) 중 좌영상에 대응하는 부분을 통과한 영상 광은 시차 광학 소자에 의해 사용자의 좌안으로 향하고, 우영상에 대응하는 부분을 통과한 영상 광은 사용자의 우안으로 향할 수 있다. 도 2에 도시된 관측된 영상(230)은 한쪽 눈에 대응하는 아이박스에서 관측되는 영상으로서, 패턴 영상에 대응하는 영상 광들이 조합되어 형성된 캘리브레이션 패턴을 포함할 수 있다. 다만, 헤드업 디스플레이(213)의 구성을 이로 한정하는 것은 아니고, 설계에 따라 사용자(290)의 전방에 배치된 유리창으로의 투사를 통해 허상이 맺히는 가상 이미지 평면(250)을 형성하는 다양한 구성요소를 포함할 수도 있다.
본 명세서에서는 전자 장치(210)가 차량에 장착된 예시를 중심으로 설명하지만, 이로 한정하는 것은 아니다. 예를 들어, 전자 장치(210)는 증강현실 안경(AR glass, Augmented Reality glass) 및 혼합현실(MR, mixed reality) 등과 같이 현실과 가상의 정보를 결합시키는 기술에 적용될 수 있고, 차량 외에도 모터사이클, 비행기 및 기차와 같은 탈 것(vehicle)에도 적용될 수 있다.
일 실시예에 따른 전자 장치(210)는, 컨텐츠의 깊이를 조절함으로써, 헤드업 디스플레이(213)에 의해 형성되는 가상 이미지 평면(250)의 위치 변경 없이도, 연속적인 깊이를 표현할 수 있다. 또한, 전자 장치(210)는, 가상 이미지 평면(250)의 위치를 변경할 필요가 없으므로, 헤드업 디스플레이(213)에 포함된 구성요소들에 대한 물리적인 조작을 요구하지 않는다.
룩 다운 앵글(look down angle; LDA) θLDA은 사용자의 시선이 내려다보는 각도로서, 디스플레이 모듈 및 시차 광학 소자에 의해 형성되는 가상 이미지 평면(250) 및 아이박스(291) 간의 각도를 나타낼 수 있다. 예를 들어, 룩 다운 앵글 θLDA은 아이박스(291)가 배치된 평면 및 가상 이미지 평면(250) 간의 각도를 나타낼 수 있다.
일 실시예에 따른 전자 장치(210)는 헤드업 디스플레이(213)의 온도 변화에 따라 시차 광학 소자의 파라미터를 조정할 수 있다. 예를 들어, 전자 장치(210)는 측정된 온도에 대해 결정된 보정 정보를 이용하여 파라미터를 조정하고, 조정된 파라미터를 이용하여 캘리브레이션 패턴 및/또는 컨텐츠를 렌더링함으로써 생성된 영상(예: 패턴 영상 및/또는 컨텐츠 영상)을 디스플레이 모듈(예: 디스플레이 패널(214b))을 통해 출력할 수 있다. 후술하겠으나, 시차 광학 소자는 출력된 영상에 대응하는 영상 광들을 지향시켜 아이박스에서 조합되는 형태로 사용자에게 제공할 수 있다. 시차 광학 소자의 파라미터 변화에 대해서는 하기 도 7에서 설명한다.
도 3은 일 실시예에 따른 전자 장치의 블록도를 도시한다.
일 실시예에 따른 전자 장치(300)는 디스플레이 모듈(310), 시차 광학 소자(320), 입력 수신부(330), 프로세서(340), 및 메모리(350)를 포함할 수 있다. 또한, 전자 장치(300)는 눈 검출기(예: 도 2의 눈 검출기(217)) 및 별도 카메라 모듈(미도시됨)도 포함할 수 있다.
디스플레이 모듈(310)은 패턴 영상 및/또는 컨텐츠 영상을 시각화하여 출력할 수 있다. 예를 들어, 디스플레이 모듈(310)은 전자 장치(300)의 프로세서(340)에 의해 렌더링된 영상을 출력할 수 있다. 프로세서(340)는 시차 광학 소자(320)에 대한 파라미터들을 이용하여 캘리브레이션 패턴을 렌더링함으로써 패턴 영상을 생성할 수 있다. 프로세서(340)는 컨텐츠를 렌더링함으로써 컨텐츠 영상을 생성할 수도 있다. 디스플레이 모듈(310)은 렌더링된 패턴 영상 및/또는 렌더링된 컨텐츠 영상을 출력할 수 있다. 패턴 영상 및 컨텐츠 영상은 각각 복수의 시점들에 대응하는 영상들(예: 좌영상 및 우영상)이 혼합된 영상일 수 있다. 디스플레이 모듈(310)은 출력된 영상에 대응하는 광을 광원(예: 백라이트 유닛) 및/또는 자체 발광을 통해 생성하여 후술하는 시차 광학 소자(320)로 전달할 수 있다. 예를 들어 ,디스플레이 모듈(310)은, 모터사이클, 자동차, 기차, 배(watercraft), 항공기(aircraft), 및 우주선(spacecraft)를 포함하는 탈것(vehicle)에 탑재되는 헤드업 디스플레이(HUD, head-up display)의 적어도 일부로서 구현될 수 있다.
시차 광학 소자(320)는 디스플레이 모듈(310)로부터 출력되는 영상에 대응하는 광을 사용자의 아이박스로 제공할 수 있다. 시차 광학 소자(320)는 디스플레이 모듈(310)의 일면(예: 전면 또는 후면) 상에 배치되고, 디스플레이 모듈(310)에 출력된 영상에 대응하는 광을 복수의 시점들로 지향시키는 광학 소자일 수 있다. 본 명세서에서는 복수의 시점들 중 한 시점의 아이박스를 주로 예를 들어 설명한다. 예를 들어, 시차 광학 소자(320)는 디스플레이 모듈(310)에 출력된 영상 중 좌영상에 대응하는 부분을 통과한 빛을 아이박스 내 사용자의 좌안으로의 광 경로로 지향시킬 수 있다. 유사하게, 시차 광학 소자(320)는 디스플레이 모듈(310)에 출력된 영상 중 우영상에 대응하는 부분을 통과한 빛을 아이박스 내 사용자의 우안으로의 광 경로로 지향시킬 수 있다. 시차 광학 소자(320)는 렌티큘러 렌즈 어레이(lenticular lens array), 패럴랙스 배리어(parallax barrier), 및 방향성 백라이트 유닛(directional back light unit)과 같은 광학 레이어를 포함할 수 있다. 시차 광학 소자(320)에 의해 아이박스로 지향된 영상 광들(예: 패턴 영상 및/또는 컨텐츠 영상에 대응하는 영상 광)이 조합됨으로써, 아이박스에서 의도된 영상(intended image)이 관측될 수 있다. 의도된 영상은 전술한 캘리브레이션 패턴 및/또는 컨텐츠를 포함하는 영상일 수 있다.
참고로, 도 2에서 전술한 화상 생성부는 디스플레이 모듈(310) 및 시차 광학 소자(320)를 포함할 수 있다. 다만, 도 2에서는 차량에서 윈드쉴드 글래스를 통한 입체 영상을 제공하기 위한 예시로서 헤드업 디스플레이(213)를 주로 설명하였으나, 이로 한정하는 것은 아니다. 헤드업 디스플레이(213)의 거울들(215, 216)은 디스플레이 모듈(310) 및 시차 광학 소자(320)에 의해 생성된 영상에 대응하는 광을 확대하여 사용자에게 제공하며, 어플리케이션에 따라 영상의 확대를 위한 광학계는 변경될 수도 있다. 예시적으로 HUD의 설계에 따라 거울이 생략될 수 있고, 평판 디스플레이(예: TV)에서는 거울들이 불필요할 수도 있다. 이후 설명의 편의를 위해, 아래 도 3 내지 도 13에서는 전술한 영상의 확대를 위한 광학계(예: 폴드 거울 및 오목 거울)의 설명을 생략하며, 주로 디스플레이 패널 및 그 전면 또는 후면에 배치되는 시차 광학 소자(320)(예: 전면에 배치되는 렌티큘러 렌즈 또는 후면에 배치되는 방향성 백라이트 유닛)에 의해 바로 사용자의 눈(예: 좌안)으로 향하는 광경로로 설명한다. 예시적으로 렌티큘러 렌즈가 디스플레이 패널의 일면에 라미네이트될 수 있다. 다만, 이로 한정하는 것은 아니고, 어플리케이션에 따라 필요에 따라 허상 평면을 형성하기 위한 광학 소자들(예: 거울)이 추가로 포함될 수 있다.
참고로, 앞서 도 2에서는 확대 거울이 모터 구동에 의해 회전되는 예시를 설명하였으나, 이로 한정하는 것은 아니고, 전술한 광경로를 형성하는 복수의 광학 소자들 중 적어도 한 광학 소자가 모터에 의해 회전 가능하게 구성될 수 있다. 모터 구동에 의해 적어도 한 광학 소자의 이동 및/또는 회전에 의해 광경로가 변화할 수 있고, 광경로의 변화에 의해 아이박스(예: 도 2의 아이박스(291))의 위치가 변화할 수 있다.
전술한 디스플레이 모듈(310) 및 시차 광학 소자(320)의 조합을 통해 전자 장치(300)는 사용자의 좌안에 좌영상을 제공하고, 우안에 우영상을 제공할 수 있다. 전자 장치(300)는, 좌영상에서 컨텐츠가 시각화된 그래픽 객체 및 우영상에서 컨텐츠가 시각화된 그래픽 객체를 서로에 대해 양안 시차(binocular disparity)에 기초하여 이격시킴으로써, 깊이를 가지는 컨텐츠를 사용자에게 입체적인 그래픽 객체로 시각화하여 제공할 수 있다. 예를 들어, 전술한 영상 광들이 조합되어 아이박스에서 좌영상 및 우영상이 형성될 수 있고, 좌영상에 포함된 컨텐츠 및 우영상에 포함된 컨텐츠가 서로에 대해 양안 시차를 가질 수 있다.
입력 수신부(330)는 사용자의 입력을 수신할 수 있다. 일 실시예에 따르면 입력 수신부(330)는 아이박스에서 패턴 영상을 관측한 사용자로부터 시차 광학 소자(320)에 대한 캘리브레이션을 위한 입력을 수신할 수 있다. 예를 들어, 입력 수신부(330)는, 터치 패널, 터치 스크린, 다이얼, 조그 다이얼, 셔틀 다이얼, 클릭 휠, 버튼, 슬라이더 바, 조작 레버 중 적어도 하나 또는 둘 이상의 조합을 포함할 수 있다. 다만 입력 수신부(330)의 예시를 전술한 바로 한정하는 것은 아니며, 회전 조작(예: 다이얼) 및/또는 직선 조작(예: 슬라이더바)을 지원하는 다양한 구조를 포함할 수 있다.
본 명세서에서 패턴 영상은 캘리브레이션을 위한 패턴(이하, '캘리브레이션 패턴')을 나타내기 위한 영상으로서, 캘리브레이션 패턴을 포함하는 하나 이상의 소스 영상이 시차 광학 소자의 파라미터를 이용하여 렌더링된 영상을 나타낼 수 있다. 예를 들어, 패턴 영상은 디스플레이 모듈에서 출력되는 영상이고, 캘리브레이션 패턴은 패턴 영상에 대응하는 영상 광들의 조합에 의해 아이박스에서 관측되는 영상에 포함되는 패턴일 수 있다. 캘리브레이션 패턴 및 패턴 영상은 하기 도 4 및 도 5에서 설명한다.
프로세서(340)는 시차 광학 소자(320)의 온도 변화에 응답하여 시차 광학 소자(320)의 파라미터를 조정할 수 있다. 예를 들어, 프로세서(340)는 복수의 파라미터 보정 모델들 중 측정된 온도에 대응하는 파라미터 보정 모델을 이용하여 측정된 온도에 대응하는 보정 정보를 결정할 수 있다. 파라미터 보정 모델은 온도 별로 실제 측정된 데이터를 기반으로 온도에 따른 시차 광학 소자의 파라미터의 틀어짐을 선형 모델링한 모델일 수 있다. 파라미터 보정 모델을 이용한 계산 결과인 보정 정보는 파라미터의 틀어짐을 보상하는데 사용될 수 있다. 보정 정보는 개별 온도에서 시차 광학 소자가 가져야 하는 파라미터로의 보정(correction)을 위한 정보로서, 해당 온도에서 시차 광학 소자가 가져야 하는 파라미터 값(예: 피치 값 또는 위치 오프셋 값)(예: 보정된 파라미터 값 자체) 및/또는 시차 광학 소자의 기준 온도(예: 상온인 20도)를 기준으로 설정된 디폴트 파라미터(default parameter)를 보정하기 위한 보정치를 포함할 수 있다. 보정치는 개별 온도에서 시차 광학 소자가 가져야 하는 파라미터 값 및 기준 온도에서 설정된 디폴트 파라미터 값 간의 차이일 수 있다.
프로세서(340)는 보정 정보를 이용하여 시차 광학 소자의 파라미터를 조정할 수 있다. 예를 들어, 보정 정보가 파라미터 값을 포함하는 경우, 전자 장치는 측정된 온도의 파라미터 값으로 디폴트 파라미터를 대체할 수 있다. 다른 예를 들어, 보정 정보가 보정치를 포함하는 경우, 전자 장치는 측정된 온도의 보정치를 디폴트 파라미터에 적용(예: 가산(add) 및/또는 감산(subtract))함으로써 보정된 파라미터 값을 획득할 수 있다. 본 명세서에서는 측정된 온도에 대한 보정 정보가 보정치를 포함하는 예시를 주로 설명한다.
참고로, 프로세서(340)의 동작을 전술한 바로 한정하는 것은 아니며, 프로세서(340)의 보다 상세한 동작은 하기 도 4 내지 도 13에서 설명한다. 프로세서(340)는 HUD 내부의 자체 프로세서이거나, HUD를 동작시키기 위한 프로세서일 수 있다. 시차 광학 소자(320)의 각 파라미터는 하기 도 6에서 설명한다.
메모리(350)는 캘리브레이션에 요구되는 정보를 임시적으로 또는 영구적으로 저장할 수 있다. 메모리(350)는 시차 광학 소자의 파라미터에 대해 서로 다른 온도 범위에서의 보정 정보를 결정하기 위한 복수의 파라미터 보정 모델들(parameter calibration models)을 저장할 수 있다. 예를 들어, 메모리(350)는 프로세서(340)에 의해 실행되어 하기 도 4 내지 도 13에 따른 동작을 수행하기 위한 명령어들을 저장할 수 있다. 또한, 메모리(350)는 캘리브레이션된 파라미터들(예: 피치 파라미터, 기운 각도 파라미터, 위치 오프셋 파라미터)을 저장할 수도 있다. 메모리(350)는 프로세서(340)에 수반되는 캐시 메모리일 수도 있으나, 이로 한정하는 것은 아니고, 프로세서(340)로부터 분리된 저장 매체일 수도 있다.
온도 센서(360)는 시차 광학 소자 주변의 온도를 측정할 수 있다. 일 실시예에 따르면, 온도 센서(360)는 전자 장치에서 시차 광학 소자가 위치된 공간 내에 배치될 수 있다. 예를 들어, 온도 센서(360)는 시차 광학 소자(320)를 수용하는 하우징(예: 도 2의 헤드업 디스플레이(213)의 하우징) 내에 수용될 수 있다. 참고로, 본 명세서에서 온도 센서(360)의 측정 단위로 섭씨를 주로 설명하나, 이로 한정하는 것은 아니다.
눈 검출기는 사용자의 눈(예: 좌안 및/또는 우안)의 위치를 검출할 수 있다. 전자 장치(300)는 디스플레이 모듈(310) 및 시차 광학 소자(320)를 통해 아이박스로 영상을 제공할 수 있다. 전자 장치(300)는 캘리브레이션을 위한 패턴 영상을 아이박스로 제공할 수 있다. 전자 장치(300)는 전술한 눈 검출기를 통해 사용자의 시선 높이를 검출하고, 시선 높이에 기초하여 아이박스의 위치를 결정할 수 있다. 눈 검출기는 도 2에서 도시된 바와 같이 예시적으로 차량의 내부를 촬영 가능한 카메라를 포함할 수 있다. 눈 검출기는 사용자(예: 운전자)를 포함하여 차량 내부를 촬영한 영상으로부터 눈의 위치를 검출할 수 있다. 다만, 이로 한정하는 것은 아니고, 전자 장치의 프로세서(340)가 전자 장치(300)와 독립된 별개의 내부 카메라에 의해 촬영된 내부 영상을 수신하고, 수신된 내부 영상으로부터 사용자의 눈의 위치를 검출 및/또는 추적할 수도 있다.
전자 장치(300)는 자동 캘리브레이션을 위한 별도 카메라 모듈(미도시됨)을 포함할 수도 있다. 별도 카메라 모듈(미도시됨)은 사용자의 양안이 위치될 것으로 예측 및/또는 추정되는 아이박스에 대응하는 위치에 배치될 수 있다. 별도 카메라 모듈(미도시됨)은 시차 광학 소자(320)의 파라미터들의 캘리브레이션 동안, 디스플레이 모듈(310)에서 출력된 패턴 영상이 시차 광학 소자(320)를 통과하여 아이박스에 도달한 영상(예: 관측된 영상)을 촬영할 수 있다. 전자 장치(300)의 프로세서(340)는, 아이박스에 설치된 카메라 모듈에 의해 촬영되는 영상에 포함되는 캘리브레이션 패턴의 기준선이 정렬될 때까지 시차 광학 소자의 위치 오프셋 파라미터의 조정을 자동으로 반복함으로써, 위치 오프셋 파라미터의 캘리브레이션을 수행할 수 있다. 예시적으로 프로세서(340)는 관측된 영상의 기준선이 캘리브레이션 패턴의 중심에 위치될 때까지 위치 오프셋 파라미터의 업데이트를 반복할 수 있다. 캘리브레이션 패턴의 기준선 및 정렬에 대해서는 하기 도 6에서 설명한다.
도 4는 일 실시예에 따른 시차 광학 소자의 캘리브레이션을 위한 소스 영상, 패턴 영상, 및 관측된 영상을 도시한다.
캘리브레이션 시스템(400)은 전자 장치(420)를 포함할 수 있다. 전자 장치(420)는 시차 광학 소자(421)(예: 도 3의 시차 광학 소자(320)) 및 디스플레이 패널(422)(예: 도 3의 디스플레이 모듈(310)의 디스플레이 패널)을 포함할 수 있다.
전자 장치(420)는 소스 영상들에 기초하여 패턴 영상을 생성할 수 있다. 소스 영상들은 전자 장치(420)에 저장되어 있거나, 혹은 다른 외부 장치에 의해 전자 장치(420)에게 제공될 수 있다. 소스 영상들은 각각 시점(viewpoint)에 대응할 수 있다. 예를 들어, n개의 소스 영상들의 각각은 제1 시점 내지 제n 시점에 개별적으로 대응할 수 있다. 여기서, n은 2이상의 정수일 수 있다. 본 명세서에서는 주로 n=2인 예시를 설명하나, 이로 한정하는 것은 아니다. 한 사용자의 양안의 각각에 대응하는 시점들로만 영상이 제공되는 경우, n=2일 수 있다. 아래에서 상세하게 설명하겠으나, 전자 장치(420)는 파라미터에 기초하여, 소스 영상들에 대응하는 복수의 시점들 중 기준 시점에 해당하는 영상이 기준 시점에서 관측될 수 있도록 패턴 영상을 생성할 수 있다. 예시적으로 기준 시점은 사용자의 좌안에 대응하는 시점일 수 있다. 사용자는 캘리브레이션 동안 우안을 감고, 좌안으로만 패턴 영상을 관측하면서 캘리브레이션 절차를 진행할 수 있다. 기준 시점은 아이박스 내에 위치될 수 있다.
전자 장치(420)는 디스플레이 패널(422)을 통해 패턴 영상을 표시할 수 있다. 패턴 영상은 선형 패턴을 포함하는 소스 영상들에 기초하여 생성되어 캘리브레이션 패턴을 나타내는 패널 영상으로 이해될 수 있다. 참고로, 패턴 영상에서는 캘리브레이션 패턴이 분할되어 표현되고, 개별 시점에서 패턴 영상의 분할됐던 부분들이 시차 광학 소자를 통해 조합되어 캘리브레이션 패턴이 의도된 위치(예: 아이박스)에서 관측될 수 있다. 도 4의 관측된 영상들(431, 432)에서 캘리브레이션 패턴은 두께를 가지고 블러된 수평선으로 도시되었으나, 이로 한정하는 것은 아니고 캘리브레이션 패턴은 두께를 가지고 블러된 수직선일 수도 있다. 후술하겠으나, 파라미터의 종류 별로 수평선 형태의 캘리브레이션 패턴, 수직선 형태의 캘리브레이션 패턴이 사용될 수 있다.
캘리브레이션 패턴은 하나 이상의 소스 영상에 포함된 패턴(예: 선형 패턴)이 조합된 패턴일 수 있다. 예를 들어, 캘리브레이션 패턴은 기준 시점에 대응하는 소스 영상의 패턴을 기준으로, 다른 시점에 대응하는 소스 영상의 패턴의 일부가 조합된 패턴일 수 있다. 캘리브레이션 패턴은 기준 시점에 대응하는 소스 영상의 패턴 전체를 포함하고, 기준 시점(예: 제i 시점)에 인접한 시점(예: i-1 시점 및 제i+1 시점)에 대응하는 소스 영상의 패턴 일부를 포함할 수 있다. 캘리브레이션 패턴에서 기준 시점으로부터 먼 시점(예: 제1 시점 및 제n 시점)에 대응하는 소스 영상의 패턴은 기준 시점에 인접한 시점에 대응하는 소스 영상의 패턴보다 적게 포함될 수 있다. 사람의 눈은 초점을 기준으로 선명하게 인식하고 주변 영역을 흐리게 인식하는데, 사람의 눈에 대응하는 아이박스(eyebox)를 기준으로 설정되는 캘리브레이션 패턴은 전술한 현상을 모사하여 각 시점들의 소스 영상들의 선형 패턴들이 결합된 패턴일 수 있다. 따라서 전술한 바와 같이 각 시점에서 관측된 영상들(431, 432)에서 기준 시점에 대응하는 선형 패턴이 비교적 선명하게 나타나고, 주변 시점 및 먼 시점에 대응하는 선형 패턴은 비교적 흐리게 나타날 수 있다.
시차 광학 소자(421)는 무안경 방식으로 패턴 영상을 3D 영상으로 변환할 수 있다. 시차 광학 소자(421)는 렌티큘러 렌즈 어레이(lenticular lens array), 패럴렉스 배리어(parallax barrier), 및 방향성 백라이트 유닛(directional back light unit)과 같은 광학 레이어를 포함할 수 있다. 도 4에는 편의상 시차 광학 소자(421)가 렌티큘러 렌즈 어레이 및 패럴럭스 배리어의 예시로서 디스플레이 패널(422)의 전면에 위치하는 것으로 도시되어 있으나, 시차 광학 소자(421)는 방향성 백라이트 유닛과 같이 디스플레이 패널(422)의 후면에 위치할 수도 있다.
시차 광학 소자(421)는 디스플레이 패널(422)에게 제공되는, 혹은 디스플레이 패널(422)에서 출력되는 광에 지향성을 부여할 수 있다. 지향성 광을 통해 복수의 시점들(예: 시청자(viewer)의 양 눈에 대응하는 시점들)에 서로 다른 영상이 조사될 수 있고, 시청자는 입체감을 느낄 수 있다. 무안경 방식에서 사용자의 양 눈에 서로 다른 영상 정확히 조사되지 않으면 3D 영상에 크로스토크가 발생할 수 있다. 예를 들어, 전자 장치(420)의 생산 과정 또는 설치 과정 등에서 전자 장치(420)의 파라미터의 설계 값 및 실제 값 사이에 오차가 발생할 경우 이러한 크로스토크가 발생할 수 있다.
참고로, 제1 시점에서는 제1 소스 영상을 포함하는 하나 이상의 소스 영상을 렌더링하여 생성된 제1 패턴 영상에 대응하는 영상이 관측될 수 있고, 제n 시점에서는 제n 소스 영상을 포함하는 하나 이상의 소스 영상을 렌더링하여 생성된 제n 패턴 영상에 대응하는 영상이 관측될 수 있다. 제1 관측된 영상(431)은 제1 패턴 영상에 대응하는 광이 시차 광학 소자(421)를 통과하여 제1 시점에 도달함으로써 관측되는 영상을 나타낼 수 있다. 제n 관측된 영상(439)은 제n 패턴 영상에 대응하는 광이 시차 광학 소자(421)를 통과하여 제n 시점에 도달함으로써 관측되는 영상을 나타낼 수 있다. 한 시점(예: 기준 시점)에 대응하는 패턴 영상은 디스플레이 패널(422)에서 해당 시점으로 향하는 광이 통과하는 부분들에서 표시될 수 있다. 예를 들어, 패턴 영상에서 캘리브레이션 패턴은 디스플레이 패널(422)에서 기준 시점으로 향하는 광이 통과하는 부분들로 분할되어 표현될 수 있다. 캘리브레이션 패턴의 분할된 부분들에 대응하는 광은 시차 광학 소자(421)를 통과하면서 기준 시점에서 조합됨으로써, 사용자는 기준 시점에서 캘리브레이션 패턴을 관측할 수 있다. 참고로, 기준 시점은 제1 눈(first eye)(예: 좌안)에 대응하는 시점이고, 아이박스는 기준 시점 및 기준 시점과 쌍을 이루는 다른 시점(예: 우안인 제2 눈에 대응하는 시점)을 포함할 수 있다.
일 실시예에 따르면, 전자 장치(420)는 사용자의 기준 눈의 위치를 검출할 수 있다. 예를 들어, 전자 장치(420)는 전자 장치(420) 내에, 또는 전자 장치(420) 주변에 설치된 별도의 카메라(예: 도 2의 시선 추적기(217))를 통해 사용자의 눈의 위치를 검출할 수 있다. 전자 장치(400)는 검출된 사용자의 눈의 위치에 대응하는 기준 시점에서 패턴 영상이 관측되도록 렌더링할 수 있다.
도 5는 일 실시예에 따른 소스 영상 및 관측된 영상을 도시한다.
제1 소스 영상들(510) 및 제2 소스 영상들(520)은 복수의 시점들(제1 시점 내지 제n 시점)에 대응할 수 있다. 제1 소스 영상들(510)의 각각은 대응하는 시점에 따라 상이한 위치에 수평선 형태의 선형 패턴을 포함할 수 있다. 제2 소스 영상들(520)은 대응하는 시점에 따라 상이한 위치에 수직선 형태의 선형 패턴을 포함할 수 있다. 제1 소스 영상들(510)은 제1 패턴 영상의 생성을 위해 사용될 수 있고, 제2 소스 영상들(520)은 제2 패턴 영상의 생성을 위해 사용될 수 있다. 예를 들어, 전자 장치는 제i 시점에서의 캘리브레이션을 위해 제i 시점에 대응하는 제1 소스 영상을 포함하는 하나 이상의 소스 영상을 시차 광학 소자의 파라미터를 이용하여 렌더링함으로써 제i 시점에 대응하는 제1 패턴 영상을 생성할 수 있다. 여기서, i는 1이상 n이하의 정수일 수 있다. 다른 예를 들어, 전자 장치는 제i 시점에 대응하는 제2 소스 영상을 포함하는 하나 이상의 소스 영상을 시차 광학 소자의 파라미터를 이용하여 렌더링함으로써 제i 시점에 대응하는 제2 패턴 영상을 생성할 수 있다.
참고로 복수의 파라미터들 중 개별 파라미터의 캘리브레이션시, 해당 파라미터가 캘리브레이션 되어있는지를 판단하기에 용이한 캘리브레이션 패턴이 존재할 수 있다. 제1 소스 영상들(510)은 수평선을 제외한 나머지 영역에 검은 영역을 포함할 수 있다. 제2 소스 영상들(520)은 수직선을 제외한 나머지 영역에 검은 영역을 포함할 수 있다. 제1 소스 영상들(510)은 피치 파라미터를 캘리브레이션하기에 용이할 수 있고, 제2 소스 영상들(520)은 기운 각도 파라미터를 캘리브레이션하기에 용이할 수 있다. 소스 영상들 중 기준 시점에 대응하는 소스 영상의 선형 패턴은 다른 시점의 선형 패턴의 색상(예: 흰색)과 다른 색상(예: 녹색)으로 변경될 수 있다.
전자 장치(예: 도 3의 전자 장치(300))는 기준 시점에서 기준 시점에 대응하는 소스 영상이 표현되도록 라이트 필드 렌더링(light field rendering)을 통해 패턴 영상을 생성할 수 있다. 도 5에서는 기준 시점이 제1 시점이고, 제1 시점에 대해 패턴 영상이 렌더링된 예시를 설명한다. 파라미터 캘리브레이션이 완료된 상태에서 패턴 영상의 출력을 가정할 경우, 사용자는 기준 시점에서 제1 관측된 영상(519) 및 제2 관측된 영상(529)을 시청할 수 있다. 이상적 환경이라면 제1 관측된 영상(519) 및 제2 관측된 영상(529)은 각각 기준 시점에 대응하여 소스 영상들이 조합된 캘리브레이션 패턴과 동일해야 하나, 크로스토크가 존재하는 실제 환경에서는 관측된 영상들(519, 529)에서 각각 기준 시점에 대응하는 캘리브레이션 패턴에 그라데이션이 더 추가된 형태 또는 캘리브레이션 패턴이 보다 블러된 형태로 관측될 수 있다. 참고로, 도 5에서는 캘리브레이션이 완료된 파라미터를 이용한 렌더링 예시를 설명한 바, 제1 관측된 영상(519)에서 캘리브레이션 패턴이 수평선(예: 두께를 가지고 블러된 형상의 수평선)으로 관측되고, 제2 관측된 영상(529)에서 캘리브레이션 패턴이 수직선(예: 두께를 가지고 블러된 형상의 수직선)으로 관측되었다. 캘리브레이션이 완료되기 전이라면, 각각의 선형 캘리브레이션 패턴은 수직선 또는 수평선이 아닌 비스듬한 선형 패턴으로 관측될 수 있다. 아래 도 6에서는 전술한 캘리브레이션 패턴의 정렬을 위한 파라미터들을 설명한다.
도 6은 일 실시예에 따른 시차 광학 소자의 파라미터들을 설명한다.
제1 소스 영상(610)에 기초한 제1 관측된 영상(615)이 사용자에 의해 시청될 수 있고, 제2 소스 영상(620)에 기초한 제2 관측된 영상(615)이 획득될 수 있다. 참고로, 크로스토크가 포함되어 도시됐던 도 5와 달리, 도 6에서는 편의를 위해 제1 관측된 영상(615) 및 제2 관측된 영상(625)은 캘리브레이션이 완료된 상태 및 크로스토크가 없는 이상적인 환경에서 관측되는 형태로 도시되었다.
전자 장치(예: 도 3의 전자 장치(300))의 파라미터는, 시차 광학 소자(651)(예: 도 3의 시차 광학 소자(320))의 파라미터로 지칭될 수도 있다. 시차 광학 소자(651)의 파라미터들은 피치 파라미터, 기운 각도 파라미터, 및 위치 오프셋 파라미터를 포함할 수 있다. 시차 광학 소자(651)의 파라미터 중 두께는 고정된 것으로 가정한다.
피치 파라미터는 시차 광학 소자(651)의 단위 요소(unit element)의 피치 p를 나타내는 파라미터일 수 있다. 시차 광학 소자(651)는 단위 요소들(unit elements)을 포함할 수 있다. 단위 요소는 디스플레이 모듈(652)을 통해 출력되는 영상에 대응하는 광에 지향성을 부여하는 단위 광학 소자로서, 예시적으로 패럴렉스 배리어의 슬릿(slit) 및 렌티큘러 렌즈의 단위 렌즈를 포함할 수 있다. 단위 요소는 디스플레이 모듈(652)의 일면 상에 배치되는 광학 레이어에 대응하는 평면에서 일축을 따라 주기적으로 배치될 수 있다. 피치 파라미터는 단위 요소의 주기적인 배치의 간격을 나타낼 수 있다. 도 6에서 피치 파라미터는 단위 요소의 수평 방향 주기를 나타낼 수 있다. 3D 영상 내 시점(view)이 반복되는 구간의 길이가 피치 p에 따라 결정될 수 있다. 피치 파라미터를 통해 제1 관측된 영상(615) 내 선형 패턴(예: 기준선)의 기울기(예: 수평 기울기)가 조절될 수 있다. 다시 말해, 피치 파라미터의 조절을 통해 패턴 영상에 대응하는 선형 캘리브레이션 패턴이 회전될 수 있다.
기운 각도 파라미터(slanted angle parameter)는 시차 광학 소자(651)의 단위 요소(unit element)의 디스플레이 모듈(652)의 기준축에 대한 기울기를 나타낼 수 있다. 도 6에서 디스플레이 모듈(652)의 기준축은 세로축으로 도시되었으며, 기운 각도 θ는 단위 요소가 세로축에 대해 형성하는 기울기를 나타낼 수 있다. 기운 각도 파라미터를 통해 제2 관측된 영상(625) 내 선형 패턴의 기울기가 조절될 수 있다.
위치 오프셋 파라미터는 시차 광학 소자(651) 및 디스플레이 모듈(652) 간의 상대 위치를 나타낼 수 있다. 예를 들어, 위치 오프셋 파라미터는 단위 요소의 시작 위치(start position) 및 디스플레이 모듈(652)의 시작 픽셀 간의 위치 오프셋 s을 나타낼 수 있다. 도 6에서는 위치 오프셋 s이 디스플레이 모듈(652)의 좌측 상단의 시작 픽셀 기준으로 좌측의 단위 요소의 시작 위치 간의 수평 오프셋으로서 도시된다. 전자 장치는 위치 오프셋 파라미터를 통해 제1 관측된 영상(615) 내 선형 패턴의 수직 위치 및 제2 관측된 영상(625) 내 선형 패턴의 수평 위치를 조절할 수 있다. 다만, 도 6에서는 설명의 편의를 위해 위치 오프셋 s이 좌측 상단의 시작 픽셀 기준으로 설명되었으나, 이로 한정하는 것은 아니다. 위치 오프셋 s에 대한 시작 픽셀은 디스플레이 모듈(652)의 중심으로 설정될 수도 있다. 후술하겠으나, 시작 픽셀이 디스플레이 모듈(652)의 중심으로 설정되는 경우, 시차 광학 소자의 파라미터들 중 피치 파라미터만 온도 변화시 변화할 수 있다. 시작 픽셀이 디스플레이 모듈(652)의 좌측 상단으로 설정되는 경우, 시차 광학 소자의 파라미터들 중 위치 오프셋 파라미터 및 피치 파라미터가 온도 변화시 변화할 수 있다.
일 실시예에 따르면, 전자 장치의 프로세서는, 피치 파라미터에 대응하는 제1 패턴 영상, 기운 각도 파라미터에 대응하는 제2 패턴 영상, 및 위치 오프셋 파라미터에 대응하는 제3 패턴 영상 중 하나 또는 둘 이상의 조합을 사용자에게 제공할 수 있다. 제1 패턴 영상은 수평선을 각각 포함하는 제1 소스 영상들에 기초하여 생성될 수 있다. 제2 패턴 영상은 수직선을 각각 포함하는 제2 소스 영상들에 기초하여 생성될 수 있다. 제3 패턴 영상은 수직선 및 수평선 중 하나를 포함하는 캘리브레이션 패턴으로 생성될 수 있다. 아래에서 살펴볼 것처럼, 피치 파라미터는 가로 패턴을 통해 다른 파라미터들과 독립적으로 캘리브레이션될 수 있다. 또한, 피치 파라미터가 캘리브레이션되었다면, 기운 각도 파라미터는 세로 패턴을 통해 다른 파라미터들과 독립적으로 캘리브레이션될 수 있다. 전자 장치는 제1 패턴 영상, 제2 패턴 영상, 및 제3 패턴 영상 중 둘 이상을 동시에 제공할 수도 있으나, 각각 순차적으로 하나씩 제공할 수도 있다. 참고로, 후술하겠으나, 본 명세서에서는 피치 파라미터 및 기운 각도 파라미터의 캘리브레이션 및/또는 조정이 완료된 이후에 제3 패턴 영상을 이용한 위치 오프셋 파라미터를 캘리브레이션 및/또는 조정하는 동작을 주로 설명하며, 후술하는 패턴 영상은 주로 위치 오프셋 파라미터의 캘리브레이션을 위한 제3 패턴 영상을 나타낼 수 있다. 후술하겠으나, 온도 변화시 피치 파라미터가 주로 변화하므로, 전자 장치는 피치 파라미터에 대응하는 제1 패턴 영상을 제공할 수 있다.
일 실시예에 따른 캘리브레이션은, 패턴 영상에 대응하여 관측된 영상의 기준선이 수직 또는 수평하면서 영상의 중심에 위치되도록, 시차 광학 소자의 파라미터를 조정하는 동작을 나타낼 수 있다. 예를 들어, 캘리브레이션에 의해 제1 관측된 영상(615)에서 기준선은 수평이면서 영상의 중심에 위치될 수 있다. 다른 예를 들어, 캘리브레이션에 의해 제2 관측된 영상(625)에서 기준선은 수직이면서 영상의 중심에 위치될 수 있다. 전술한 전술한 캘리브레이션 패턴을 이용한 수동 또는 자동 캘리브레이션은 기준 온도(예: 상온인 섭씨 20도)를 기준으로 수행될 수 있고, LF(Light Field) 캘리브레이션이라고도 나타낼 수 있다.
일 실시예에 따른 가로 패턴 및 세로 패턴을 이용한 순차적인 캘리브레이션 과정은 체크 패턴 등의 다른 복잡한 패턴을 이용한 캘리브레이션 과정에 비해 저해상도에서 효율적으로 수행될 수 있다. 가로 패턴을 이용한 캘리브레이션 및 세로 패턴을 이용한 캘리브레이션이 분리되어 수행되므로 캘리브레이션 작업이 단순해지기 때문이다. 무안경식 3D 영상 기술은 HUD(head up display)와 같은 저해상도 디바이스에서 구현될 수 있다. HUD의 경우 일반적인 디스플레이 장치에 비해 시청 거리가 길고, 1장의 패턴 영상으로 파라미터를 추정하기에 해상도가 부족할 수 있다. 또한, HUD 장치를 구성하는 반사 굴절 광학계(catadioptric system)로 인해 3D 영상에 왜곡이 발생할 수 있다. 실시예에 따른 캘리브레이션은 단순한 패턴을 통해 순차적으로 진행되므로, 이러한 저해상도 디바이스나 광학계를 포함하는 디바이스에서도 높은 성능을 발휘할 수 있다.
도 7은 일 실시예에 따른 시차 광학 소자의 온도에 따른 변화를 설명한다.
일 실시예에 따르면, 전자 장치(예: 도 3의 전자 장치(300))는 시차 광학 소자(예: 도 3의 시차 광학 소자(320)로서, 렌티큘러 렌즈 어레이 또는 패럴랙스 배리어)를 이용한 무안경 방식의 3차원 디스플레이를 포함할 수 있다. 디스플레이 및 시차 광학 소자의 조합은 헤드업 디스플레이(예: 도 2의 헤드업 디스플레이(213))라고도 표현될 수 있다. 도 7에서는 디스플레이 패널(예: 도 3의 디스플레이(310)) 상에 렌티큘러 렌즈 어레이가 배치된 구조가 도시된다.
전자 장치는 렌티큘러 렌즈 어레이에 대해 기준 온도(예: 상온인 섭씨 20도)에서 캘리브레이션(예: LF 캘리브레이션)에 기초하여 획득된 파라미터를 이용하여 영상의 렌더링을 수행할 수 있다. 다만, 디스플레이 패널 상에 배치된 렌티큘러 렌즈 어레이의 형상이 온도 변화에 따라 변화할 수 있다. 렌티큘러 렌즈 어레이의 형상 변화에 의해, 아이박스의 개별 위치들에 대한 영상 광들의 지향성이 틀어질 수 있다. 디스플레이 패널에서 동일한 영상이 출력되더라도, 온도 변화에 따라 아이박스에 도달한 영상 광들이 조합된 영상(예: 관측된 영상)이 틀어질 수 있다. 다시 말해, 기준 온도에서의 캘리브레이션을 기초로 획득된 파라미터는, 기준 온도가 아닌 다른 온도에서 오차를 가질 수 있다. 예시적으로, 차량용 HUD의 경우, 차량이 실내가 아닌 실외에 위치되므로, 시차 광학 소자가 가혹한 온도 변화를 겪을 수 있다. 예를 들어, 여름철 차량 실내 온도는 100도, 및 겨울철 차량 실내 온도는 영하 40도에 달할 수도 있다. 온도 변화가 커질수록, 시차 광학 소자의 형상 변화 및 캘리브레이션 오차가 증가할 수 있다. 본 명세서에서는 차량용 HUD를 주로 설명하나, 이로 한정하는 것은 아니며, 무안경 방식의 3D 디스플레이(예: 3D TV, 3D 태블릿)에도 적용될 수 있다.
예시적으로, 전자 장치의 내부 온도가 증가하는 경우, 도 7의 상단에 도시된 바와 같이 렌티큘러 렌즈 어레이가 팽창될 수 있다. 렌티큘러 렌즈 어레이는 전방향(예: 상하좌우)으로 팽창될 수 있다. 팽창된 렌티큘러 렌즈 어레이(710)의 피치 파라미터는 Pe로 나타낼 수 있다. 반대로, 전자 장치의 내부 온도가 감소하는 경우, 도 7의 하단에 도시된 바와 같이 렌지큘러 렌즈 어레이가 전방향에서 수축될 수 있다. 수축된 렌티큘러 렌즈 어레이(720)의 피치 파라미터는 Ps로 나타낼 수 있다. 전술한 온도 변화에 따라 렌티큘러 렌즈 어레이가 팽창 및 수축하는 반면, 디스플레이 패널의 크기는 유지될 수 있다. 다시 말해, 온도 변화에 따라 디스플레이 패널 대비 시차 광학 소자(예: 렌티큘러 렌즈 어레이)가 팽창 또는 수축할 수 있다.
본 명세서에서는 위치 오프셋이 디스플레이 패널의 중심을 기준으로 설정된 예시를 주로 설명한다. 디스플레이 패널의 중심을 기준으로 렌티큘러 렌즈 어레이가 팽창 또는 수축하는 경우, 도 7에 도시된 바와 같이, 렌티큘러 렌즈 어레이의 파라미터들 중 기운 각도 파라미터 및 시작 위치 파라미터는 온도 변화에도 불구하고 변하지 않을 수 있다. 피치 파라미터만 기준 온도에서 P였다가, 팽창시 Pe로 증가하고, 수축시 Ps로 감소할 수 있다. 따라서, 온도 변화에 대응하여 피치 파라미터만 보정(correct)될 필요가 있다. 전자 장치는 온도 별 피치 파라미터에 대한 보정 정보를 모델링한 파라미터 보정 모델을 구축할 수 있다. 전자 장치는, 파라미터 보정 모델을 이용하여, 기준 온도에서 획득된 캘리브레이션 결과 대비 전자 장치 내부(예: HUD 내부)의 온도 변화에 따라 오차를 유발하는 피치 파라미터를 보정할 수 있다.
다만, 이로 한정하는 것은 아니고, 위치 오프셋이 좌측 상단의 시작 픽셀 기준으로 설정되는 경우, 전술한 시차 광학 소자의 팽창 또는 수축에 의해 위치 오프셋 파라미터 및 피치 파라미터가 함께 달라질 수 있다. 이 경우, 전자 장치는 온도 별 피치 파라미터에 대한 보정 정보를 모델링한 파라미터 보정 모델(예: 피치 보정 모델) 뿐만 아니라, 위치 오프셋 파라미터에 대한 보정 정보를 모델링한 파라미터 보정 모델(예: 오프셋 보정 모델)로 함께 구축할 수 있다. 오프셋 보정 모델에 대해서 후술하는 피치 보정 모델에 대한 설명이 동일 또는 유사하게 적용될 수 있다. 더 나아가, 설계에 따라, 전자 장치는 피치, 시작 위치, 및 기운 각도 별로 파라미터 보정 모델을 복수의 온도 범위들 별로 개별적으로 구축하여 이용할 수도 있다.
따라서, 전자 장치는 매 온도 변화마다 전술한 LF 캘리브레이션의 반복적 수행 없이, 온도 변화에 따른 LF 캘리브레이션의 틀어짐을 보상할 수 있다. 아래에서는 매 온도 변화마다 시차 광학 소자의 파라미터를 획득하기 위한 동작(예: LF 캘리브레이션)을 수행할 필요 없이, 온도 별로 미리 획득된 보정 정보를 이용하여 기준 온도를 기초로 셋팅된 파라미터(예: 피치 파라미터)를 보상하는 방법을 설명한다. 온도 별 보정 정보는 파라미터 보정 모델에 기초하여 결정될 수 있다. 파라미터 보정 모델은 실측에 기초하여 온도 변화에 따른 파라미터의 변화량을 모델링한 모델로서, 예시적으로 회귀 함수(regression function) 및/또는 룩업테이블(look up table, LUT)을 포함할 수 있다.
아래에서는 도 4 내지 도 6에서 설명한 바에 따른 캘리브레이션에 기초하여 획득된 파라미터(예: 피치 파라미터 또는 시작 위치 파라미터)를 온도 별로 미리 획득된 파라미터 보정 모델을 이용하여 보정하는 동작을 설명한다.
도 8은 일 실시예에 따른 캘리브레이션 패턴의 온도에 따른 변화 및 보정을 설명한다.
예시적으로, 도 8에서 전자 장치(예: 도 3의 전자 장치(100)는 기준 온도(예: 초기 상온인 섭씨 20도)에서 자동화 캘리브레이션에 기초하여 피치 파라미터를 획득할 수 있다. 전자 장치는 LF 캘리브레이션에 기초하여 획득된 피리 파라미터(예: P)를 이용하여 패턴 영상을 렌더링할 수 있다. 렌더링된 패턴 영상에 대응하는 관측 영상(810)에서 캘리브레이션 패턴의 기준선이 수평하게 나타날 수 있다. 이후, 시차 광학 소자를 수용한 공간(예: 전자 장치의 하우징 내부 공간)의 온도가 섭씨 60도로 상승하는 경우, 도 7에서 전술한 바와 같은 렌티큘러 렌즈의 팽창에 의해 렌티큘러 렌즈 어레이의 피치가 달라질 수 있다. 팽창된 렌티큘러 렌즈 어레이의 피치는 Pe일 수 있고, Pe는 P보다 클 수 있다. 전자 장치가 섭씨 60도에서 기준 온도에서 획득된 피치 파라미터 P를 이용하여 패턴 영상을 렌더링하여 출력할 경우, 오차를 포함하는 관측된 영상(815)이 아이박스에 나타날 수 있다. 도 8에 도시된 바와 같이, 수평선이어야 되는 캘리브레이션 패턴이 시계 방향으로 회전된 형태로 아이박스에서 관측될 수 있다. 섭씨 60도에서는 팽창된 렌티큘러 렌즈 어레이에 맞춰서 Pe의 피치 파라미터를 이용한 렌더링이 수행되어야 하나, 그보다 작은 P의 피치 파라미터를 이용한 렌더링이 수행됐기 때문이다.
전자 장치가 섭씨 60도에서 캘리브레이션에 기초하여 획득된 Pe의 피치 파라미터를 이용하여 패턴 영상을 렌더링 및 출력할 경우, 도 8에 도시된 바와 같이 보정된 캘리브레이션 패턴(820)이 아이박스에서 관측될 수 있다. Pe의 피치 파라미터를 이용하여 표시된 패턴은, P의 피치 파라미터를 이용하여 표시된 패턴보다 반시계 방향(890)으로 회전되어 수평한 기준선을 포함할 수 있다.
따라서 전자 장치는 파라미터 보정 모델을 이용하여 측정된 온도인 섭씨 60도에 대해 피치 파라미터 값 Pe를 결정하고, 결정된 피치 파라미터 값 Pe로 디폴트 피치 파라미터 값 P를 대체함으로써 파라미터 보정을 수행할 수 있다. 전자 장치는 보정된 피치 파라미터 값 Pe를 이용하여 영상을 렌더링 및 출력할 수 있다.
도 9는 일 실시예에 따른 시차 광학 소자의 파라미터에 대한 온도 별 보정 정보를 설명한다.
일 실시예에 따르면, 캘리브레이션 시스템(예: 도 4의 캘리브레이션 시스템)은 온도 변경이 가능한 챔버(chamber) 및 전자 장치의 아이박스에 대응하는 위치에 설치되는 카메라를 포함할 수 있다. 챔버는 전자 장치 및/또는 전자 장치의 시차 광학 소자를 수용할 수 있다. 챔버의 적어도 일면이 투명한 소재(예: 유리)를 포함할 수 있다. 시차 광학 소자를 통과한 영상 광이 챔버의 투명한 면을 지나 아이박스에 대응하는 위치로 지향될 수 있다. 캘리브레이션 시스템의 카메라는, 전술한 시차 광학 소자 및 챔버를 통과한 영상 광들의 조합(예: 관측된 영상)을 촬영할 수 있다. 다시 말해, 캘리브레이션 시스템의 카메라는 전자 장치의 HUD에 의해 형성되는 허상(virtual image)을 촬영할 수 있다. 캘리브레이션 시스템은 상온(예: 섭씨 20도)에서 자동화 캘리브레이션을 수행할 수 있다. 자동화 캘리브레이션은 도 4 내지 도 6에서 전술하였으므로 생략한다.
캘리브레이션 시스템은 온도에 따라 자동화 캘리브레이션을 진행할 수 있다. 도 9에서는 챔버의 온도가 섭씨 -30도에서 섭씨 90도까지 10도 간격으로 변경되는 예시가 도시된다. 기준 온도인 섭씨 20도에서의 캘리브레이션을 기초로 획득된 피치 파라미터를 고정 한 채로 온도를 변경하는 경우, 도 9의 좌측에 도시된 바와 같이, 온도 변화에 따라 캘리브레이션 시스템의 카메라에서 관측되는 캘리브레이션 패턴이 회전될 수 있다. 예를 들어, 30도 내지 90도에서 관측된 캘리브레이션 패턴들(915a)은 기준 온도인 20도에서 관측되는 기준 캘리브레이션 패턴(910) 대비 시게 방향으로 회전될 수 있다. 다른 예를 들어, 10 도 내지 영하 30도에서 관측된 캘리브레이션 패턴들(915b)은 기준 캘리브레이션 패턴(910) 대비 반시계 방향으로 회전될 수 있다. 도시된 바와 같이, 기준 온도와의 차이가 증가할수록, 회전 정도도 증가할 수 있다.
캘리브레이션 시스템은 개별 온도에 대해 캘리브레이션(예: LF 캘리브레이션)을 수행할 수 있다. 도 9의 우측에 도시된 바와 같이, 각 온도에 맞추어 자동화 캘리브레이션을 수행한 결과(920)에서 캘리브레이션 패턴들의 기준선이 수평하게 정렬된 것으로 나타날 수 있다. 결과(920)는 기준 파라미터 값인 P로부터 각 온도에 따른 피치 파라미터 값 Pe(또는 Ps)로 변경된 후에 관측되는 캘리브레이션 패턴일 수 있다. 도 9에 도시된 예시에서, 예를 들어 90°C에서 캘리브레이션에 기초하여 획득된 피치 파라미터 값은 20°C에서 획득된 기준 피치 값보다 39nm만큼 클 수 있다. 다른 예를 들어, -30°C에서 캘리브레이션에 기초하여 획득된 피치 파라미터 값은 20°C에서 획득된 기준 피치 값보다 33nm만큼 작을 수 있다. 전술한 변화량들은 기준 파라미터 값(예: 기준 피치 값)에 대한 보정치로서 사용될 수 있으며, 보정치의 결정을 위한 파라미터 보정 모델(예: 회귀 모델)의 구축(예: 생성)은 하기 도 10에서 설명한다.
도 10은 일 실시예에 따른 시차 광학 소자의 파라미터를 보정하기 위한 예시적인 파라미터 보정 모델을 설명하는 도면이다.
일 실시예에 따른 캘리브레이션 시스템(예: 도 4의 캘리브레이션 시스템(400)) 및/또는 전자 장치(예: 도 3의 전자 장치(300))는 기준 온도 별로 획득된 보정 정보(예: 보정치)에 기초하여 파라미터 보정 모델을 구축할 수 있다. 파라미터 보정 모델은 온도 별로 디폴트 파라미터 대비 적용되어야 하는 보정 정보를 나타내는 모델일 수 있다. 캘리브레이션 시스템 및/또는 전자 장치는 복수의 파라미터 보정 모델들을 구축 및/또는 이용할 수 있다. 참고로, 파라미터 보정 모델에 의해 출력되는 보정치의 단위는 nm 단위일 수 있다. mm 단위로 생성된 회귀 모델(regression model)보다 nm 단위로 생성된 회귀 모델이 보다 적은 오차를 나타낼 수 있다.
예를 들어, 복수의 파라미터 보정 모델들은, 기준 파라미터 값들에 대한 회귀 분석(regression analysis)에 기초하여 획득된 온도 및 보정 정보 간의 관계를 나타내는 함수(예: 회귀 함수), 및 미리 결정된 온도 별로 매핑된 보정 정보에 관한 매핑 정보 중 적어도 하나를 포함할 수 있다. 예를 들어, 매핑 정보는 미리 결정된 온도들의 각각에 대해 보정치가 매핑된 정보로서, 온도별 피치 보정치를 나타내는 룩업테이블일 수 있다. 전자 장치는 측정된 온도에 매칭(match)하는 온도를 매핑 정보(예: 룩업테이블)로부터 검색하고, 검색된 온도에 대응하는 보정치를 결정할 수 있다. 전자 장치는 검색된 보정치를 이용하여 시차 광학 소자의 파라미터(예: 피치 파라미터)를 조정할 수 있다. 참고로, 본 명세서에서는 주로 회귀 함수를 이용한 파라미터 보정을 설명한다. 도 10에서도 파라미터 보정 모델의 예시로서 회귀 함수가 도시되며, x축은 섭씨 온도, y축은 온도에 따른 보정치를 nm 단위로 도시한다. 기준 온도가 섭씨 20도로 설정되었으므로, 20도에서는 보정치가 0으로 도시된다. 회귀 함수는 5차 함수일 수 있으나, 이로 한정하는 것은 아니다.
일 실시예에 따른 복수의 파라미터 보정 모델들은, 해당하는 모델에 할당된 온도 범위 내에서 둘 이상의 온도 값들에서 캘리브레이션을 수행함으로써 획득된 기준 파라미터 값들에 기초하여 구축(build)될 수 있다. 도 10에서는 파라미터 보정 모델(1090)이 기준 온도들(예: -30도, -20도, -10도, 0도, 10도, 20도, 30도, 40도, 50도, 60도, 70도, 80도, 및 90도) 별로 캘리브레이션에 기초하여 획득된 보정치들(예: 기준 보정치들)을 이용하여 생성된 예시가 도시된다. 예를 들어, 파라미터 보정 모델(1090)은 기준 보정치들을 이용한 회귀 분석에 기초하여 결정된 회귀 함수를 포함할 수 있다. 다만, 도 10에 도시된 바와 같이, 전자 장치에게 잠재적으로 발생할 가능성이 있는 전체 온도 범위는 -30도부터 90도인데, 전체 온도 범위에 대한 회귀 분석에 기초하여 획득된 회귀 함수는 15도이상 45도 구간에서 실제로 요구되는 보정치(1091)와 추정된 회귀 함수(1092) 간에 오차가 발생할 수 있다. 따라서, 캘리브레이션 시스템 및/또는 전자 장치는 온도 구간을 나누어, 복수의 파라미터 보정 모델들(1010, 1020)을 구축 및 이용할 수 있다.
일 실시예에 따르면, 복수의 파라미터 보정 모델들(1010, 1020)은 서로 다른 온도 범위에 할당될 수 있다. 예를 들어, 복수의 파라미터 보정 모델들(1010, 1020)의 각각에 할당된 온도 범위는 다른 파라미터 보정 모델에 할당된 온도 범위와 서로 비중첩(non-overlap)할 수 있다. 예를 들어, 제1 파라미터 보정 모델(1010)은 제1 온도 범위에 할당되고, 제2 파라미터 보정 모델(1020)은 제2 온도 범위에 할당될 수 있다. 제1 온도 범위 및 제2 온도 범위는 서로 비중첩될 수 있다. 도 10에 도시된 예시에서 제1 온도 범위는 20도 이상 90도 이하의 온도들을 포함하는, 고온 범위를 나타낼 수 있고, 제2 온도 범위는 -30도 이상 20도 이사의 온도들을 포함하는, 저온 범위를 나타낼 수 있다. 제1 온도 범위와 제2 온도 범위는 기준 온도에 기초하여 결정될 수 있다.
전술한 기준 온도는, 시차 광학 소자의 파라미터가 비선형적으로 변화하는 온도 구간에 기초하여 결정될 수 있다. 예를 들어, 기준 온도는 시차 광학 소자의 파라미터가 비선형적으로 변환하는 온도 구간에 속하는 온도들 중 한 온도로 결정될 수 있다. 시차 광학 소자는 안정 온도 영역(stability temperature region)(예: 20도 이상 40도 이하)에서는 파라미터를 유지하고, 안정 온도 영역을 벗어나는 고온 범위(예: 40도 초과) 및 저온 범위(예: 20도 미만)에서는 변화하는 파라미터를 나타낼 수 있다. 다시 말해, 안정 온도 여역에서 시차 광학 소자의 파라미터가 거의 변하지 않으므로, 비선형적으로 변화하는 구간으로 해석될 수 있다. 도 10에 도시된 예시에서도 -30도이상 20도 미만의 온도 구간 및 40도 초과 및 90도 이하의 온도 구간에서 시차 광학 소자의 피치 파라미터에 대한 보정치가 선형적으로 변화하고, 20도 이상 40도 이하 온도 구간에서 피치 파라미터의 변화가 없거나 적은 것으로 나타날 수 있다. 예를 들어, 기준 온도는, 섭씨 20도 이상 섭씨 30도 이하 중 한 온도 값일 수 있으며, 도 10에서 기준 온도는 20도로 결정된 예시가 도시된다.
전자 장치는 전술한 바와 같이 온도 구간 별로 구축된 파라미터 보정 모델을 이용하여 보정 정보(예: 보정치)를 측정된 온도에 대해 결정할 수 있다. 예를 들어, 전자 장치는 측정된 온도가 기준 온도를 초과하는 것에 기초하여 제1 파라미터 보정 모델(1010)을 이용하여 보정 정보를 결정할 수 있다. 전자 장치는 기준 온도(reference temperature)를 초과하는 제1 온도 범위에 측정된 온도가 속하는 것에 기초하여, 제1 온도 범위에 대한 제1 파라미터 보정 모델(1010)을 이용하여 보정 정보를 결정할 수 있다. 다른 예를 들어, 전자 장치는 측정된 온도가 기준 온도 이하인 것에 기초하여 제2 파라미터 보정 모델(1020)을 이용하여 보정 정보를 결정할 수 있다. 전자 장치는 기준 온도 이하인 제2 온도 범위에 측정된 온도가 속하는 것에 기초하여, 제2 온도 범위에 대한 제2 파라미터 보정 모델(1020)을 이용하여 보정 정보를 결정할 수 있다.
전자 장치는 제1 파라미터 보정 모델(1010) 또는 제2 파라미터 보정 모델(1020) 중 한 모델을 이용하여 측정된 온도에 대응하는 보정치를 결정할 수 있다. 예를 들어, 전자 장치는 측정된 온도가 50도인 경우, 제1 파라미터 보정 모델(1010)을 이용하여 보정치로서 +9nm를 결정할 수 있다. 다른 예를 들어, 전자 장치는 측정된 온도가 0도인 경우, 보정치로서 -15nm를 결정할 수 있다. 전자 장치는 결정된 보정치를 디폴트 파라미터(예: 디폴트 피치 값)에 적용(예: 가산)함으로써 보정된 파라미터 값을 획득할 수 있다. 전자 장치는 보정된 파라미터 값을 이용하여 영상을 렌더링 및 출력함으로써 아이박스에 컨텐츠를 제공할 수 있다.
더 나아가, 복수의 파라미터 보정 모델들(1010, 1020) 중 적어도 한 모델은, 적어도 한 모델에 할당된 온도 범위 중 비선형 온도 구간(non-linear temperature section)에서 제1 온도 간격으로 획득된 기준 파라미터 값들 및 다른 온도 구간에서 제1 온도 간격보다 넓은 제2 온도 간격으로 획득된 기준 보정 값들에 기초하여 구축될 수도 있다. 도 10에서는 기준 파라미터 값들이 균등한 온도 간격으로 측정된 예시가 도시되었는데, 비선형 온도 구간(예: 도 10에 도시된 예시에서 30도부터 50도 사이의 온도 구간, 및 10도에서 30도 사이의 구간)에서 다른 온도 구간보다 밀도 높게 기준 파라미터 값들이 측정될 수 있다. 따라서, 비선형 온도 구간에서 보다 정밀한 보정치를 출력 가능한 파라미터 보정 모델이 구축될 수 있다.
다른 일 실시예에 따르면, 전자 장치의 메모리는, 기본 온도 상한(1051)을 초과하는 고온(1001)에 대한 제1 파라미터 보정 모델, 기본 온도 하한(1052) 이하의 저온(1002)에 대한 제2 파라미터 보정 모델, 및 기본 온도 상한(1051) 및 기본 온도 하한(1052) 사이의 기본 온도 범위(1003)에 대한 제3 파라미터 보정 모델을 저장할 수 있다. 예를 들어, 전자 장치의 프로세서는, 측정된 온도에 기초하여, 제1 파라미터 보정 모델, 제2 파라미터 보정 모델, 및 제3 파라미터 보정 모델 중 한 모델을 선택하고, 선택된 모델을 이용하여 측정된 온도에 대응하는 보정 정보를 결정할 수도 있다. 도 10에서 기본 온도 범위는 기본 온도 하한 초과 기본 온도 하한 이하의 온도 범위로 정의될 수 있고, 상기 기본 온도 상한은 섭씨 30도이고, 상기 기본 온도 하한은 섭씨 20도일 수 있다.
도 11은 일 실시예에 따른 고온 파라미터 보정 모델 및 저온 파라미터 보정 모델을 설명한다.
일 실시예에 따른 전자 장치(예: 도 3의 전자 장치(300))의 프로세서는, 보정 정보로서 피치(pitch)에 대한 보정치를 획득하고, 시차 광학 소자의 피치 파라미터 값(pitch parameter value)에 보정치를 적용함으로써 파라미터 보정(parameter correction)을 수행할 수 있다. 예를 들어, 도 11은 섭씨 10도 단위의 기준 온도 값들에 대해 측정된 기준 파라미터 값들에 기초하여 생성된 파라미터 보정 모델들을 이용한 파라미터 보정을 설명한다. 도 11에 도시된 예시에서, 25도, 35도, 45도, 55도, 65도, 75도, 및 85도에 대해서는 고온 파라미터 보정 모델(1110)(예: 도 10의 제1 파라미터 보정 모델)이 이용되고, 15도, 5도, -5도, -15도, 및 -25도에 대해서는 저온 파라미터 보정 모델(1120)이 이용될 수 있다. 도 11에 도시된 바와 같이 고온에서 관측된 영상(1101)은 회전된 패턴을 나타냈으나, 전자 장치는 고온 파라미터 보정 모델(1110)에 기초하여 결정된 보정치를 적용함으로써 정렬된 패턴(1190)을 표시할 수 있다. 유사하게, 저온에서 관측된 영상(1102)은 회전된 패턴을 나타냈으나, 전자 장치는 저온 파라미터 보정 모델(1120)에 기초하여 결정된 보정치를 적용함으로써 정렬된 패턴(1190)을 표시할 수 있다.
예시적으로, 파라미터 보정 모델들은, LFR(Light Field Rendering) 보드에 실장될 수 있다. 전자 장치는 온도 센서에 의해 측정된 HUD 내부 온도 값을 LFR 보드에 입력할 수 있다. LFR 보드는 파라미터 보정 모델들 중 입력된 온도에 대응하는 회귀 모델에 입력된 온도를 적용함으로써 nm 단위의 보정치를 계산할 수 있다. 전자 장치는 다음 수학식 Pc(x) =P+Δp(x)Х10-6에 따라 보정된 파라미터를 획득할 수 있다. 여기서, P는 기준 온도(예: 상온 20°C)에 대해 캘리브레이션에 기초하여 획득된 디폴트 피치 값을 나타낼 수 있다. Δp(x)는 온도 x°C에서 디폴트 피치 값에 적용되어야 하는 피치 보정치를 나타낼 수 있다. Pc(x)는 온도 x°C에서 보정된 피치 값을 나타낼 수 있다. 여기서 Δp(x)의 단위가 nm이기 때문에 mm로 변환될 수 있다. 참고로, HUD 광학계 및 패널이 변경되어도 전술한 온도에 따른 시차 광학 소자에 대한 파라미터 보정이 가능할 수 있다.
도 12은 일 실시예에 따른 파라미터 조정 결과를 도시한다.
시차 광학 소자의 캘리브레이션이 완료되기 전 좌안 영상 및 우안 영상(1210)에서 각각 서로의 컨텐츠 일부가 포함될 수 있다. 일 실시예에 따르면 시차 광학 소자의 캘리브레이션이 완료되는 경우, 좌안 영상 및 우안 영상(1220)에서 서로의 컨텐츠가 분리되어 나타날 수 있다. 다시 말해, 크로스토크가 제거될 수 있다.
일 실시예에 따르면, 프로세서는, 사용자로부터 캘리브레이션 완료 입력을 수신하는 경우에 응답하여, 시차 광학 소자의 사용자에게 개인화된 파라미터들을 저장할 수 있다. 전자 장치는 개인화된 파라미터들을 이용하여 컨텐츠 영상을 렌더링하여 디스플레이 모듈에 출력할 수 있다. 도 4 내지 도 11에서 전술한 바와 같은 인터페이스 및 캘리브레이션 패턴의 피드백을 통해 사용자는 직관적으로 시차 광학 소자의 파라미터들을 수동으로 편리하게 조정할 수 있다.
도 13은 일 실시예에 따른 파라미터 보정 방법을 설명하는 흐름도이다.
우선, 단계(1310)에서 전자 장치는 디스플레이 모듈로부터 출력되는 영상에 대응하는 광을 시차 광학 소자를 이용하여 사용자의 아이박스로 제공할 수 있다. 본 명세서에서 시차 광학 소자로서 렌티큘러 렌즈 어레이를 주로 설명하였으나, 이로 한정하는 것은 아니고, 패럴랙스 배리어나 평면 디스플레이 패널(flat display panel)의 백라이트(backlight)에 슬릿(slit) 형태의 광원이 적용된 다양한 HUD 장치에 대해서도 동일 또는 유사한 동작 및 설계가 적용될 수 있다.
그리고 단계(1320)에서 전자 장치는 서로 다른 온도 범위에서의 보정 정보를 결정하기 위한 복수의 파라미터 보정 모델들 중 시차 광학 소자에 대해 측정된 온도에 대응하는 파라미터 보정 모델을 이용하여 측정된 온도에 대응하는 보정 정보를 결정할 수 있다.
이어서 단계(1330)에서 전자 장치는 보정 정보를 이용하여 시차 광학 소자의 파라미터를 조정할 수 있다.
다만, 전자 장치의 동작이 도 13에서 설명한 바로 한정하는 것은 아니고, 도 1 내지 도 12에서 전술한 동작들 중 적어도 하나와 시계열적으로 및/또는 병렬적으로 수행될 수 있다.
이상에서 설명된 실시예들은 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치, 방법 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPGA(field programmable gate array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 소프트웨어 애플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 컨트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.
소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 저장할 수 있으며 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다.
위에서 설명한 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 또는 복수의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상과 같이 실시예들이 비록 한정된 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 이를 기초로 다양한 기술적 수정 및 변형을 적용할 수 있다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.
그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.

Claims (20)

  1. 전자 장치에 있어서,
    디스플레이 모듈;
    상기 디스플레이 모듈로부터 출력되는 영상에 대응하는 광을 사용자의 아이박스로 제공하는 시차 광학 소자;
    상기 시차 광학 소자 주변의 온도를 측정하는 온도 센서;
    상기 시차 광학 소자의 파라미터에 대해 서로 다른 온도 범위에서의 보정 정보(correction information)를 결정하기 위한 복수의 파라미터 보정 모델들(parameter calibration models)을 저장한 메모리; 및
    상기 복수의 파라미터 보정 모델들 중 상기 측정된 온도에 대응하는 파라미터 보정 모델을 이용하여 상기 측정된 온도에 대응하는 보정 정보를 결정하고, 상기 보정 정보를 이용하여 상기 시차 광학 소자의 파라미터를 조정하는 프로세서
    를 포함하는 전자 장치.
  2. 제1항에 있어서,
    상기 복수의 파라미터 보정 모델들의 각각에 할당된 온도 범위는 다른 파라미터 보정 모델에 할당된 온도 범위와 서로 비중첩하는(non-overlap),
    전자 장치.
  3. 제1항에 있어서,
    상기 프로세서는,
    기준 온도(reference temperature)를 초과하는 제1 온도 범위에 상기 측정된 온도가 속하는 것에 기초하여, 상기 제1 온도 범위에 대한 제1 파라미터 보정 모델을 이용하여 상기 보정 정보를 결정하고,
    상기 기준 온도 이하인 제2 온도 범위에 상기 측정된 온도가 속하는 것에 기초하여, 상기 제2 온도 범위에 대한 제2 파라미터 보정 모델을 이용하여 상기 보정 정보를 결정하는,
    전자 장치.
  4. 제3항에 있어서,
    상기 기준 온도는,
    상기 시차 광학 소자의 파라미터가 비선형적으로 변화하는 온도 구간에 기초하여 결정되고,
    상기 프로세서는,
    상기 측정된 온도가 상기 기준 온도를 초과하는 것에 기초하여 상기 제1 파라미터 보정 모델을 이용하여 상기 보정 정보를 결정하고,
    상기 측정된 온도가 상기 기준 온도 이하인 것에 기초하여 상기 제2 파라미터 보정 모델을 이용하여 상기 보정 정보를 결정하는,
    전자 장치.
  5. 제4항에 있어서,
    상기 기준 온도는,
    섭씨 20도 이상 섭씨 30도 이하 중 한 온도 값인,
    전자 장치.
  6. 제1항에 있어서,
    상기 메모리는,
    기본 온도 상한을 초과하는 고온에 대한 제1 파라미터 보정 모델, 기본 온도 하한 이하의 저온에 대한 제2 파라미터 보정 모델, 및 상기 기본 온도 상한 및 상기 기본 온도 하한 사이의 기본 온도 범위에 대한 제3 파라미터 보정 모델을 저장하고,
    상기 프로세서는,
    상기 측정된 온도에 기초하여, 상기 제1 파라미터 보정 모델, 상기 제2 파라미터 보정 모델, 및 제3 파라미터 보정 모델 중 한 모델을 선택하고, 선택된 모델을 이용하여 상기 측정된 온도에 대응하는 상기 보정 정보를 결정하는,
    전자 장치.
  7. 제1항에 있어서,
    상기 복수의 파라미터 보정 모델들은,
    해당하는 모델에 할당된 온도 범위 내에서 둘 이상의 온도 값들에서 캘리브레이션을 수행함으로써 획득된 기준 파라미터 값들에 기초하여 구축(build)된,
    전자 장치.
  8. 제7항에 있어서,
    상기 복수의 파라미터 보정 모델들은,
    상기 기준 파라미터 값들에 대한 회귀 분석(regression analysis)에 기초하여 획득된 온도 및 보정 정보 간의 관계를 나타내는 함수, 및 미리 결정된 온도 별로 매핑된 보정 정보에 관한 매핑 정보 중 적어도 하나를 포함하는,
    전자 장치.
  9. 제7항에 있어서,
    상기 복수의 파라미터 보정 모델들 중 적어도 한 모델은,
    상기 적어도 한 모델에 할당된 온도 범위 중 비선형 온도 구간(non-linear temperature section)에서 제1 온도 간격으로 획득된 기준 파라미터 값들 및 다른 온도 구간에서 상기 제1 온도 간격보다 넓은 제2 온도 간격으로 획득된 기준 보정 값들에 기초하여 구축된,
    전자 장치.
  10. 제1항에 있어서,
    상기 프로세서는,
    상기 보정 정보로서 피치(pitch)에 대한 보정치를 획득하고, 상기 시차 광학 소자의 피치 파라미터 값(pitch parameter value)에 상기 보정치를 적용함으로써 파라미터 보정(parameter correction)을 수행하는,
    전자 장치.
  11. 프로세서에 의해 수행되는 파라미터 보정 방법에 있어서,
    디스플레이 모듈로부터 출력되는 영상에 대응하는 광을 시차 광학 소자를 이용하여 사용자의 아이박스로 제공하는 단계;
    서로 다른 온도 범위에서의 보정 정보를 결정하기 위한 복수의 파라미터 보정 모델들 중 상기 시차 광학 소자에 대해 측정된 온도에 대응하는 파라미터 보정 모델을 이용하여 상기 측정된 온도에 대응하는 보정 정보를 결정하는 단계; 및
    상기 보정 정보를 이용하여 상기 시차 광학 소자의 파라미터를 조정하는 단계
    를 포함하는 파라미터 보정 방법.
  12. 제11항에 있어서,
    상기 복수의 파라미터 보정 모델들의 각각에 할당된 온도 범위는 다른 파라미터 보정 모델에 할당된 온도 범위와 서로 비중첩하는(non-overlap),
    파라미터 보정 방법.
  13. 제11항에 있어서,
    상기 보정 정보를 결정하는 단계는,
    기준 온도(reference temperature)를 초과하는 제1 온도 범위에 상기 측정된 온도가 속하는 것에 기초하여, 상기 제1 온도 범위에 대한 제1 파라미터 보정 모델을 이용하여 상기 보정 정보를 결정하는 단계; 및
    상기 기준 온도 이하인 제2 온도 범위에 상기 측정된 온도가 속하는 것에 기초하여, 상기 제2 온도 범위에 대한 제2 파라미터 보정 모델을 이용하여 상기 보정 정보를 결정하는 단계
    를 포함하는 파라미터 보정 방법.
  14. 제13항에 있어서,
    상기 기준 온도는,
    상기 시차 광학 소자의 파라미터가 비선형적으로 변화하는 온도 구간에 기초하여 결정되고,
    상기 보정 정보를 결정하는 단계는,
    상기 측정된 온도가 상기 기준 온도를 초과하는 것에 기초하여 상기 제1 파라미터 보정 모델을 이용하여 상기 보정 정보를 결정하는 단계; 및
    상기 측정된 온도가 상기 기준 온도 이하인 것에 기초하여 상기 제2 파라미터 보정 모델을 이용하여 상기 보정 정보를 결정하는 단계
    를 포함하는 파라미터 보정 방법.
  15. 제14항에 있어서,
    상기 기준 온도는,
    섭씨 20도 이상 섭씨 30도 이하 중 한 온도 값인,
    파라미터 보정 방법.
  16. 제11항에 있어서,
    기본 온도 상한을 초과하는 고온에 대한 제1 파라미터 보정 모델, 기본 온도 하한 이하의 저온에 대한 제2 파라미터 보정 모델, 및 상기 기본 온도 상한 및 상기 기본 온도 하한 사이의 기본 온도 범위에 대한 제3 파라미터 보정 모델을 저장하는 단계
    를 더 포함하고,
    상기 보정 정보를 결정하는 단계는,
    상기 측정된 온도에 기초하여, 상기 제1 파라미터 보정 모델, 상기 제2 파라미터 보정 모델, 및 제3 파라미터 보정 모델 중 한 모델을 선택하고, 선택된 모델을 이용하여 상기 측정된 온도에 대응하는 상기 보정 정보를 결정하는 단계
    를 포함하는 파라미터 보정 방법.
  17. 제11항에 있어서,
    상기 복수의 파라미터 보정 모델들은,
    해당하는 모델에 할당된 온도 범위 내에서 둘 이상의 온도 값들에서 캘리브레이션을 수행함으로써 획득된 기준 파라미터 값들에 기초하여 구축(build)된,
    파라미터 보정 방법.
  18. 제17항에 있어서,
    상기 복수의 파라미터 보정 모델들은,
    상기 기준 파라미터 값들에 대한 회귀 분석(regression analysis)에 기초하여 획득된 온도 및 보정 정보 간의 관계를 나타내는 함수, 및 미리 결정된 온도 별로 매핑된 보정 정보에 관한 매핑 정보 중 적어도 하나를 포함하는,
    파라미터 보정 방법.
  19. 제17항에 있어서,
    상기 복수의 파라미터 보정 모델들 중 적어도 한 모델은,
    상기 적어도 한 모델에 할당된 온도 범위 중 비선형 온도 구간(non-linear temperature section)에서 제1 온도 간격으로 획득된 기준 파라미터 값들 및 다른 온도 구간에서 상기 제1 온도 간격보다 넓은 제2 온도 간격으로 획득된 기준 보정 값들에 기초하여 구축된,
    파라미터 보정 방법.
  20. 제11항 내지 제19항 중 어느 한 항의 방법을 수행하기 위한 명령어를 포함하는 하나 이상의 컴퓨터 프로그램을 저장한 컴퓨터 판독 가능 기록 매체.
KR1020220034671A 2022-01-12 2022-03-21 온도 변화에 대한 시차 광학 소자의 캘리브레이션 장치 및 방법 KR20230109051A (ko)

Priority Applications (4)

Application Number Priority Date Filing Date Title
EP22216454.3A EP4212946A1 (en) 2022-01-12 2022-12-23 Device and method to calibrate parallax optical element for temperature change
CN202310024409.6A CN116430580A (zh) 2022-01-12 2023-01-09 用于针对温度改变校准视差光学元件的装置和方法
US18/095,338 US20230221518A1 (en) 2022-01-12 2023-01-10 Device and method to calibrate parallax optical element for temperature change
JP2023002074A JP2023102773A (ja) 2022-01-12 2023-01-11 温度変化に対する視差光学素子のキャリブレーション装置及び方法

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR20220004443 2022-01-12
KR1020220004443 2022-01-12

Publications (1)

Publication Number Publication Date
KR20230109051A true KR20230109051A (ko) 2023-07-19

Family

ID=87425960

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020220034671A KR20230109051A (ko) 2022-01-12 2022-03-21 온도 변화에 대한 시차 광학 소자의 캘리브레이션 장치 및 방법

Country Status (1)

Country Link
KR (1) KR20230109051A (ko)

Similar Documents

Publication Publication Date Title
CN110325895B (zh) 聚焦调整多平面头戴式显示器
US11379173B2 (en) Method of maintaining accuracy in a 3D image formation system
Itoh et al. Occlusion leak compensation for optical see-through displays using a single-layer transmissive spatial light modulator
US10466485B2 (en) Head-mounted apparatus, and method thereof for generating 3D image information
JPH0974573A (ja) 立体cg画像生成装置
US11012677B1 (en) Systems and methods for correcting rolling shutter artifacts
CN107209949B (zh) 用于产生放大3d图像的方法和系统
KR102570277B1 (ko) 3d 영상 장치의 왜곡 보정 방법 및 그 방법을 이용하는 장치
US20160127718A1 (en) Method and System for Stereoscopic Simulation of a Performance of a Head-Up Display (HUD)
KR20220032448A (ko) 크로스토크를 보정하는 방법 및 장치
JP2020095271A (ja) 3次元映像を表示する装置及び方法
KR20230109051A (ko) 온도 변화에 대한 시차 광학 소자의 캘리브레이션 장치 및 방법
EP4212946A1 (en) Device and method to calibrate parallax optical element for temperature change
US11882266B2 (en) Method and device to calibrate parallax optical element to change of look down angle
WO2020137088A1 (ja) ヘッドマウントディスプレイ、表示方法、及び表示システム
CN110431470B (zh) 焦面显示
US11778163B2 (en) Device and method to calibrate parallax optical element
KR101883883B1 (ko) 플립영상을 차단하는 무안경 원통형 홀로그램 디스플레이 방법
KR20160128483A (ko) Table-top 3D 디스플레이 시스템 및 그 방법
JP2014216719A (ja) 画像処理装置、立体画像表示装置、画像処理方法およびプログラム
de la Barré et al. A new design and algorithm for lenticular lenses display
KR20240020051A (ko) 자동차 내부 카메라를 이용한 hud 캘리브레이션 방법 및 장치