KR102543341B1 - 눈 추적 정보에 기반하는 이미지 영역에서의 적응형 파라미터 - Google Patents

눈 추적 정보에 기반하는 이미지 영역에서의 적응형 파라미터 Download PDF

Info

Publication number
KR102543341B1
KR102543341B1 KR1020227017215A KR20227017215A KR102543341B1 KR 102543341 B1 KR102543341 B1 KR 102543341B1 KR 1020227017215 A KR1020227017215 A KR 1020227017215A KR 20227017215 A KR20227017215 A KR 20227017215A KR 102543341 B1 KR102543341 B1 KR 102543341B1
Authority
KR
South Korea
Prior art keywords
screen
image
eye
region
area
Prior art date
Application number
KR1020227017215A
Other languages
English (en)
Other versions
KR20220080000A (ko
Inventor
마틴 헨릭 톨
하비에르 산 아구스틴 로페즈
라스무스 달
Original Assignee
메타 플랫폼즈 테크놀로지스, 엘엘씨
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 메타 플랫폼즈 테크놀로지스, 엘엘씨 filed Critical 메타 플랫폼즈 테크놀로지스, 엘엘씨
Publication of KR20220080000A publication Critical patent/KR20220080000A/ko
Application granted granted Critical
Publication of KR102543341B1 publication Critical patent/KR102543341B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013—Eye tracking input arrangements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18—Eye characteristics, e.g. of the iris
    • G06V40/19—Sensors therefor
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/37—Details of the operation on graphic patterns
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30—Image reproducers
    • H04N13/366—Image reproducers using viewer tracking
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/017—Head mounted
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/147—Digital output to display device ; Cooperation and interconnection of the display device with other functional units using display panels
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00—Image coding
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18—Eye characteristics, e.g. of the iris
    • G06V40/193—Preprocessing; Feature extraction
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/14—Display of multiple viewports
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/39—Control of the bit-mapped memory
    • G09G5/391—Resolution modifying circuits, e.g. variable screen formats
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106—Processing image signals
    • H04N13/128—Adjusting depth or disparity
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106—Processing image signals
    • H04N13/161—Encoding, multiplexing or demultiplexing different image signal components
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124—Quantisation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/162—User input
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/167—Position within a video image, e.g. region of interest [ROI]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/017—Head mounted
    • G02B2027/0178—Eyeglass type
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/0179—Display position adjusting means not related to the information to be displayed
    • G02B2027/0187—Display position adjusting means not related to the information to be displayed slaved to motion of at least a part of the body of the user, e.g. head, eye
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00—Control of display operating conditions
    • G09G2320/06—Adjustment of display parameters
    • G09G2320/0693—Calibration of display systems
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00—Aspects of display data processing
    • G09G2340/04—Changes in size, position or resolution of an image
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00—Aspects of display data processing
    • G09G2340/04—Changes in size, position or resolution of an image
    • G09G2340/0407—Resolution change, inclusive of the use of different resolutions for different screen areas

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Computer Hardware Design (AREA)
  • Signal Processing (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Ophthalmology & Optometry (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • User Interface Of Digital Computer (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Optics & Photonics (AREA)
  • Processing Or Creating Images (AREA)

Abstract

디스플레이 시스템은 스크린을 영역들로 분할하고 각 영역에 렌더링/인코딩 파라미터의 상이한 세트를 적용한다. 시스템은 사용자의 눈의 중심와에 의해 보여지는 제1 영역에 제1 파라미터의 세트를 적용한다. 시스템은 또한, 눈의 부중심와에 의해 보여지는 제2 영역에 제2 파라미터의 세트를 적용하고, 부중심와 외부의 눈의 영역에 의해 보여지는 제3 영역에 제3 파라미터의 세트를 적용한다. 제1 파라미터의 세트는 상대적으로 높은 이미지 품질을 생성하도록 선택되는 한편, 제2 파라미터의 세트는 중간 품질을 생성하고, 제3 파라미터의 세트는 낮은 품질을 생성한다. 결국, 제2 영역 및 제3 영역은 적은 컴퓨팅 전력과 적은 대역폭으로 렌더링, 인코딩 및 송신될 수 있다.

Description

눈 추적 정보에 기반하는 이미지 영역에서의 적응형 파라미터{ADAPTIVE PARAMETERS IN IMAGE REGIONS BASED ON EYE TRACKING INFORMATION}
본 발명은 일반적으로 눈 추적에 관한 것으로서, 더욱 특히 눈 추적 정보에 기반하는 이미지 영역에서의 적응형 파라미터의 사용에 관한 것이다.
이미지는 다양한 상이한 컨텍스트에서 사용자에게 렌더링되고, 인코딩되며 디스플레이된다. 다수의 상황에서, 사용자에게 디스플레이하기 위해 이미지를 렌더링하고, 인코딩하며 송신하기 위한 프로세스는 특히, 이미지가 상대적으로 높은 해상도, 가령 1080p 또는 4k를 갖는 때 또는 이미지가 비디오를 구성하는 프레임 시퀀스, 가령 비디오 파일이나 게임 애플리케이션에 의해 생성된 장면의 일부일 때 많은 양의 컴퓨팅 리소스를 소비할 수 있다. 이는 더 높은 전력 소비 및 더 긴 프로세싱 시간과 같은 바람직하지 않은 부작용으로 이어질 수 있다.
본 발명의 내용 중에 포함되어 있다.
디스플레이 시스템은 이미지의 상이한 영역에 상이한 파라미터의 세트를 적용한다. 시스템은 디스플레이 스크린의 스크린을 보는 사용자의 한쪽 또는 양쪽 눈의 눈 추적 정보를 수신한다. 시스템은 눈 추적 정보에 기반하여 제1 스크린 영역과 제2 스크린 영역을 결정한다. 일실시예로, 제1 스크린 영역은 사용자의 눈의 중심와에 의해 보여지는 스크린의 부분이고 제2 스크린 영역은 중심와 외부의 망막의 부분에 의해 보여지는 스크린의 부분이다. 시스템은 제1 파라미터의 세트를 제1 이미지 영역에 적용하고 제2 파라미터의 세트를 스크린의 제2 이미지 영역에 적용함으로써 스크린 상에 디스플레이하기 위한 이미지를 프로세싱한다. 제1 이미지 영역은 제1 스크린 영역에서 디스플레이될 이미지의 부분이고, 제2 이미지 영역은 제2 이미지 영역에서 디스플레이될 이미지의 부분이다. 제2 파라미터의 세트는 제1 파라미터의 세트보다 낮은 이미지 품질을 발생시키지만, 사용자는 중심와 외부의 망막의 부분이 중심와보다 덜 민감하기 때문에 더 낮은 이미지 품질을 지각할 가능성이 낮다. 결과적으로 이미지는 적은 컴퓨팅 성능과 적은 대역폭으로 프로세싱될 수 있다.
디스플레이 시스템은 헤드 마운트 디스플레이(HMD)의 일부일 수 있다. HMD는 가상 현실(VR) 시스템, 증강 현실(AR) 시스템, 혼합 현실(MR) 시스템 또는 이들의 임의의 조합의 일부일 수 있다.
본 발명에 따른 실시예들은 특히 시스템, 저장 매체 및 방법에 관한 첨부된 청구항들에 개시되며, 예컨대 시스템과 같은 하나의 청구항 카테고리에 언급되는 임의의 특징은 또한 가령 방법, 저장 매체나 컴퓨터 프로그램과 같은 다른 청구항 카테고리로 청구될 수 있다. 첨부된 청구항의 인용 또는 참조는 형식상의 이유를 위해 선택되었을 뿐이다. 하지만 임의의 선행 청구항으로의 의도적인 참조(특히 다중 인용)에서 야기되는 임의의 주제 또한 청구될 수 있어, 청구항 및 그 특징의 임의의 조합이 첨부된 청구항에서 선택된 인용에 관계 없이 개시되고 청구될 수 있다. 청구될 수 있는 주제는 첨부된 청구항에 나타난 바와 같은 특징의 조합뿐만 아니라 청구항의 특징의 다른 임의의 조합을 포함하는데, 청구항에 언급된 각 특징은 청구항의 임의의 다른 특징 또는 다른 특징의 조합과 조합될 수 있다. 나아가, 임의의 실시예와 본 명세서에 서술되거나 도시된 특징은 별개의 청구항 및/또는 임의의 실시예나 본 명세서에 서술되거나 도시된 특징과의 또는 첨부된 청구항의 임의의 특징과의 조합에 청구될 수 있다.
일실시예로 방법은:
디스플레이 장치의 스크린을 보는 사용자의 눈의 적어도 하나의 이미지를 포함하는 눈 추적 정보를 수신하는 단계;
눈 추적 정보에 기반하여, 스크린의 영역에 대응하는 제1 스크린 영역을 결정하는 단계로서, 제1 스크린 영역은 사용자의 주시점을 포함하고, 상기 주시점은 눈 추적 정보가 캡처된 시간에 사용자가 보는 스크린 상의 지점을 표현하는, 제1 스크린 영역을 결정하는 단계;
눈 추적 정보에 기반하여, 제1 스크린 영역과 분리된 스크린의 영역에 대응하는 제2 스크린 영역을 결정하는 단계;
스크린 상의 디스플레이를 위한 이미지를 인코딩하는 단계로서, 인코딩하는 단계는:
제1 인코딩 파라미터의 세트에 기반하여 제1 스크린 영역에 디스플레이될 이미지의 제1 이미지 영역을 인코딩하는 단계;
제1 인코딩 파라미터의 세트보다 낮은 품질을 발생시키는 제2 인코딩 파라미터의 세트에 기반하여 제2 스크린 영역에 디스플레이될 이미지의 제2 이미지 영역을 인코딩하는 단계를 포함하는, 인코딩 하는 단계; 및
스크린 상에 디스플레이되도록 인코딩된 이미지를 디스플레이 장치로 송신하는 단계를 포함할 수 있다.
일실시예로, 제1 스크린 영역은 눈의 중심와에 의해 보여지는 스크린의 영역에 대응할 수 있다.
제2 스크린 영역은 중심와 외부의 눈의 망막의 부분에 의해 보여지는 스크린의 영역에 대응할 수 있다.
제1 인코딩 파라미터의 세트는 제1 이미지 해상도를 포함할 수 있고, 제2 인코딩 파라미터의 세트는 제2 이미지 해상도를 포함하며, 제2 이미지 해상도는 제1 이미지 해상도보다 낮다.
제1 이미지 영역을 인코딩하는 것은 제1 인코딩된 이미지 영역을 생성하는 것을 포함할 수 있고, 제2 이미지 영역을 인코딩하는 것은 제2 인코딩된 이미지 영역을 생성하는 것을 포함할 수 있고:
제1 인코딩된 이미지 영역 및 제2 인코딩된 이미지 영역을 포함하는 패킹된 이미지를 생성하는 것을 더 포함할 수 있다.
제1 인코딩 파라미터의 세트는 제1 프레임레이트를 포함할 수 있고, 제2 인코딩 파라미터의 세트는 제2 프레임레이트를 포함할 수 있으며, 제2 프레임레이트는 제1 프레임레이트보다 더 낮을 수 있다.
방법은:
눈 추적 정보에 기반하여, 제1 스크린 영역 및 제2 스크린 영역과 분리된 스크린의 영역에 대응하는 제3 스크린 영역을 결정하는 단계를 더 포함할 수 있고,
스크린 상에 디스플레이하기 위해 이미지를 인코딩하는 단계는:
제2 인코딩 파라미터의 세트에 기반하여 이미지의 제3 이미지 영역을 인코딩하는 단계를 더 포함하고, 제3 이미지 영역은 제3 스크린 영역에 디스플레이되며, 제3 인코딩 파라미터의 세트는 제1 인코딩 파라미터의 세트보다 낮은 품질 및 제2 인코딩 파라미터의 세트보다 높은 품질을 발생시킨다.
제3 스크린 영역은 눈의 부중심와(parafovea)에 의해 보여지는 스크린의 영역에 대응할 수 있다.
디스플레이 장치는 가상 현실 헤드셋일 수 있다.
본 발명에 따른 일실시예로, 비-일시적 컴퓨터-판독가능한 저장 매체는 하나 이상의 프로세서에 의해 실행될 때, 하나 이상의 프로세서로 하여금:
디스플레이 장치의 스크린을 보는 사용자의 눈의 적어도 하나의 이미지를 포함하는 눈 추적 정보를 수신하고;
눈 추적 정보에 기반하여, 스크린의 영역에 대응하는 제1 스크린 영역을 결정함에 있어서, 제1 스크린 영역은 사용자의 주시점을 포함하고, 상기 주시점은 눈 추적 정보가 캡처된 시간에 사용자가 보는 스크린 상의 지점을 표현하는, 제1 스크린 영역을 결정하고;
눈 추적 정보에 기반하여, 제1 스크린 영역과 분리된 스크린의 영역에 대응하는 제2 스크린 영역을 결정하고;
스크린 상의 디스플레이를 위한 이미지를 인코딩하는 것으로서, 인코딩하는 것은:
제1 인코딩 파라미터의 세트에 기반하여 제1 스크린 영역에 디스플레이될 이미지의 제1 이미지 영역을 인코딩하고;
제1 인코딩 파라미터의 세트보다 낮은 품질을 발생시키는 제2 인코딩 파라미터의 세트에 기반하여 제2 스크린 영역에 디스플레이될 이미지의 제2 이미지 영역을 인코딩하는 단계를 포함하는, 인코딩하고; 및
스크린 상에 디스플레이되도록 인코딩된 이미지를 디스플레이 장치로 송신하도록 야기하는 것을 포함하는 동작을 수행하도록 야기할 수 있는 명령어를 저장할 수 있다.
제3 스크린 영역은 눈의 중심와에 의해 보여지는 스크린의 영역에 대응할 수 있다.
제2 스크린 영역은 중심와 외부의 눈의 망막의 부분에 의해 보여지는 스크린의 영역에 대응할 수 있다.
제1 인코딩 파라미터의 세트는 제1 이미지 해상도를 포함할 수 있고, 제2 인코딩 파라미터의 세트는 제2 이미지 해상도를 포함할 수 있으며, 제2 이미지 해상도는 제1 이미지 해상도보다 낮을 수 있다.
제1 이미지 영역을 인코딩하는 것은 제1 인코딩된 이미지 영역을 생성하는 것을 포함할 수 있고, 제2 이미지 영역을 인코딩하는 것은 제2 인코딩된 이미지 영역을 생성하는 것을 포함할 수 있고:
제1 인코딩된 이미지 영역 및 제2 인코딩된 이미지 영역을 포함하는 패킹된 이미지를 생성하는 것을 더 포함할 수 있다.
제1 인코딩 파라미터의 세트는 제1 프레임레이트를 포함할 수 있고, 제2 인코딩 파라미터의 세트는 제2 프레임레이트를 포함할 수 있으며, 제2 프레임레이트는 제1 프레임레이트보다 더 낮을 수 있다.
동작은:
눈 추적 정보에 기반하여, 제1 스크린 영역 및 제2 스크린 영역과 분리된 스크린의 영역에 대응하는 제3 스크린 영역을 결정하는 것을 더 포함할 수 있고,
스크린 상에 디스플레이하기 위해 이미지를 인코딩하는 것은:
제2 인코딩 파라미터의 세트에 기반하여 이미지의 제3 이미지 영역을 인코딩하는 것을 더 포함할 수 있고, 제3 이미지 영역은 제3 스크린 영역에 디스플레이되며, 제3 인코딩 파라미터의 세트는 제1 인코딩 파라미터의 세트보다 낮은 품질 및 제2 인코딩 파라미터의 세트보다 높은 품질을 발생시킨다.
제3 스크린 영역은 눈의 부중심와(parafovea)에 의해 보여지는 스크린의 영역에 대응할 수 있다.
디스플레이 장치는 가상 현실 헤드셋일 수 있다.
일실시예로 시스템은:
하나 이상의 프로세서; 및
명령어를 저장할 수 있는 비-일시적 컴퓨터-판독가능한 저장 매체를 포함할 수 있고, 상기 명령어는 하나 이상의 프로세서에 의해 실행될 때, 하나 이상의 프로세서로 하여금:
디스플레이 장치의 스크린을 보는 사용자의 눈의 적어도 하나의 이미지를 포함하는 눈 추적 정보를 수신하고;
눈 추적 정보에 기반하여, 스크린의 영역에 대응하는 제1 스크린 영역을 결정함에 있어서, 제1 스크린 영역은 사용자의 주시점을 포함하고, 상기 주시점은 눈 추적 정보가 캡처된 시간에 사용자가 보는 스크린 상의 지점을 표현하는, 제1 스크린 영역을 결정하고;
눈 추적 정보에 기반하여, 제1 스크린 영역과 분리된 스크린의 영역에 대응하는 제2 스크린 영역을 결정하고;
스크린 상의 디스플레이를 위한 이미지를 인코딩하는 것으로서, 인코딩하는 것은:
제1 인코딩 파라미터의 세트에 기반하여 제1 스크린 영역에 디스플레이될 이미지의 제1 이미지 영역을 인코딩하고;
제1 인코딩 파라미터의 세트보다 낮은 품질을 발생시키는 제2 인코딩 파라미터의 세트에 기반하여 제2 스크린 영역에 디스플레이될 이미지의 제2 이미지 영역을 인코딩하는 것을 포함하며, 및
스크린 상에 디스플레이되도록 인코딩된 이미지를 디스플레이 장치로 송신하도록 야기하는 것을 포함하는 동작을 수행하도록 야기할 수 있다.
동작은:
눈 추적 정보에 기반하여, 제1 스크린 영역 및 제2 스크린 영역과 분리된 스크린의 영역에 대응하는 제3 스크린 영역을 결정하는 것을 더 포함할 수 있고,
스크린 상에 디스플레이하기 위해 이미지를 인코딩하는 것은:
제2 인코딩 파라미터의 세트에 기반하여 이미지의 제3 이미지 영역을 인코딩하는 것을 더 포함할 수 있고, 제3 이미지 영역은 제3 스크린 영역에 디스플레이되며, 제3 인코딩 파라미터의 세트는 제1 인코딩 파라미터의 세트보다 낮은 품질 및 제2 인코딩 파라미터의 세트보다 높은 품질을 발생시킨다.
본 발명의 내용 중에 포함되어 있다.
도 1a는 일실시예에 따른 디스플레이 장치가 동작하는 시스템의 블록도이다.
도 1b는 일실시예에 따른 렌더링/인코딩 엔진의 블록도이다.
도 2는 일실시예에 따른 헤드-마운트 디스플레이의 다이어그램이다.
도 3a 및 3b는 일실시예에 따른 스크린을 응시하는 눈을 도시하고, 중심와 원뿔 및 부중심와 원뿔뿐만 아니라 중심와 영역과 부중심와 영역을 도시한다.
도 3c는 일실시예에 따라 중심와 영역, 부중심와 영역 및 스크린 상의 외부 영역을 도시한다.
도 4는 일실시예에 따라 눈 추적 정보에 기반하여 이미지 영역에서 적응형 파라미터를 적용하기 위한 프로세스를 도시하는 블록도이다.
도 5a는 일실시예에 따라 렌더링 파라미터의 상이한 세트로 이미지의 상이한 부분을 렌더링하기 위한 프로세스를 도시하는 블록도이다.
도 5b는 일실시예에 따라 인코딩 파라미터의 상이한 세트로 이미지의 상이한 부분을 인코딩하기 위한 프로세스를 도시하는 블록도이다.
도 5c는 일실시예에 따라 파라미터의 상이한 세트로 이미지의 상이한 부분을 렌더링하고 인코딩하기 위한 프로세스를 도시하는 블록도이다.
도 6a는 일실시예에 따라 인코딩 파라미터의 상이한 세트로 이미지의 상이한 부분을 인코딩하고 이후 패킹된 이미지로 이미지에 대한 인코딩된 이미지 영역을 패킹하는 예시를 도시한다.
도 6b는 일실시예에 따라 이미지의 시퀀스를 인코딩 및 패킹하는 예시를 도시한다.
도면들은 단지 예로서 본 명세서의 다양한 실시예들을 도시한다. 통상의 기술자는 후술할 설명으로부터 본 명세서에 도시되는 구조 및 방법의 대안적인 실시예가 본 명세서에 제공되는 원리로부터 벗어나지 않고 채용될 수 있음을 용이하게 인식할 것이다.
개요
사용자가 연속으로 스크린의 상이한 영역을 응시하는 사용자 및 이미지를 수반하는 다수의 애플리케이션이 있다. 예시는 비디오 게임, 가상 현실 장면, 비디오 스트림 및 증강 현실 프로젝션을 포함한다.
스크린을 볼 때 사용자의 눈은 주시점 주위의 스크린 영역에서 더 높은 해상도에 대해 민감하다. 주시점은 가장 높은 시력을 제공하고 원추 세포의 농도가 가장 높은 망막의 영역인 중심와와 정렬된다. 중심와를 넘어 망막의 영역에서 해상도에 대한 민감도가 감소하고 시력이 중심와로부터 거리가 멀어지면서 떨어진다. 부중심와(중심와를 포위하는 눈의 반지 모양 지역)에서, 눈은 해상도에 여전히 민감하지만, 중심와에서보다 적다. 부중심와의 외부의 영역에서는 눈이 해상도의 차이에 덜 민감하다.
스크린에 디스플레이되는 이미지가 더 높은 해상도를 갖는 상황에서, 더 높은 해상도로 전체 이미지를 렌더링하고, 더 높은 해상도로 전체 이미지를 인코딩하며, 적절하게 높은 대역폭 수단을 사용하여 인코딩된 이미지를 전송하는 것이 전형적이다. 하지만, 눈은 중심와 및 부중심와 외부의 영역에서 이미지 해상도에 대해 상대적으로 민감하지 않기 때문에 전체 이미지가 더 높은 해상도에서 렌더링되고, 인코딩되며 전송되는 프로세스는 컴퓨팅 성능과 대역폭의 불필요한 사용을 발생시킬 수 있다.
전체 이미지에 대해 더 높은 해상도를 사용하는 대신에 디스플레이 시스템은 디스플레이 장치의 스크린을 영역들로 분할하고 각 영역에 렌더링/인코딩 파라미터의 상이한 세트를 적용한다. 예컨대, 디스플레이 시스템은 사용자의 눈의 중심와에 의해 보여지는 스크린의 제1 영역(이하 중심와 영역으로 지칭됨)을 식별하고 제1 영역에 파라미터의 제1 세트를 적용한다. 파라미터의 제1 세트는 상대적으로 높은 이미지 품질을 양산하도록 선택된다. 예컨대, 파라미터의 제1 세트는 상대적으로 높은 프레임레이트 및 해상도를 특정할 수 있다. 유사하게, 디스플레이 시스템은 사용자의 눈의 부중심와에 의해 보여지는 스크린의 제2 영역(이하 부중심와 영역으로 지칭됨)을 식별할 수 있고, 제2 영역에 파라미터의 제2 세트를 적용한다. 디스플레이 시스템은 중심와 및 부중심와 외부의 사용자의 눈의 영역에 의해 보여지는 스크린의 제3 영역(이하 외부 영역으로 지칭됨)을 더 식별할 수 있고, 제3 영역에 파라미터의 제3 세트를 적용한다. 파라미터의 제2 세트는 중간 이미지 품질(예컨대, 중간 프레임레이트 및 해상도)를 양산하도록 선택되고, 파라미터의 제3 세트는 더 낮은 이미지 품질(예컨대, 더 낮은 프레임레이트 및 해상도)를 양산하도록 선택된다. 결과적으로, 제2 영역 및 제3 영역은 더 적은 컴퓨팅 성능 및 더 적은 대역폭으로 렌더링, 인코딩 및 전송될 수 있고, 이는 이미지를 렌더링, 인코딩 및 전송하는데 사용되는 컴퓨팅 성능 및 대역폭의 전체 양을 감소시킨다.
디스플레이 시스템은 눈 추적 유닛으로부터 수신된 눈 추적 정보에 기반하여 제1 영역 및 제2 영역을 식별한다. 디스플레이 시스템은 사용자가 보고 있는 스크린 상의 지점(이하 주시점으로 지칭됨)을 결정하기 위해 눈 추적 정보를 사용한다. 디스플레이 시스템은 이후 주시점에 기반하여 중심와 영역, 부중심와 영역 및 외부 영역의 경계를 결정할 수 있다. 일실시예로, 중심와 영역은 주시점에 중심을 갖는 원이며 2.5도의 시각적 각도의 반경을 가지며, 부중심와 영역은 2.5도의 시각적 각도의 내부 반경 및 5도의 시각적 각도의 외부 반경을 갖는 주시점 상의 환형이다. 외부 영역은 부중심와 영역의 외부 반경을 초과하는 스크린의 부분이다.
스크린 영역의 경계를 결정한 이후, 디스플레이 시스템은 적응적으로 이미지를 렌더링 및 인코딩할 수 있다. 게다가, 디스플레이 시스템은 사용자의 눈이 스크린의 상이한 위치들 사이에서 시프팅함에 따라 주기적인 간격으로 업데이트된 눈 추적 정보를 수신할 수 있고, 디스플레이 시스템은 업데이트된 눈 추적 정보에 기반하여 스크린 영역의 경계 및 주시점을 다시 계산할 수 있다. 따라서, 사용자에게는, 주시점 주변의 스크린의 영역(즉, 중심와 영역)이 더 높은 이미지 품질을 갖는 것으로 나타날 것이고, 이는 눈이 이미지 품질에 가장 민감한 영역이다. 부중심와 영역에서, 중간 파라미터가 주목할 만한 이미지 저하 없이 적용될 수 있고, 외부 영역에서 더 낮은 파라미터는 주목할만한 이미지 품질 저하 없이 적용될 수 있다.
심지어 사용자의 눈이 스크린을 가로질러 빠르게 이동하고 있는 때에도 눈 추적 정보는 응시 위치의 변화를 따라갈 수 있고, 업데이트된 눈 추적 정보는 이미지의 상이한 중심와 및 부중심와 영역에 적응형 파라미터가 적용되는 것을 허용하기에 충분히 빠르게 릴레이될 수 있다. 따라서, 사용자가 어디를 보는지와 무관하게 이미지는 높은 해상도를 갖는 것으로 나타난다. 하지만, 디스플레이 시스템은 더 높은 품질 파라미터로 이미지의 부분을 렌더링 및 인코딩하는 한편, 이미지의 나머지는 중간 또는 더 낮은 품질 파라미터로 렌더링 및 인코딩된다.
눈 추적 정보에 기반하여 적응형 파라미터를 적용하는 것의 전체 효과는 이미지 데이터를 렌더링 및 인코딩하는데 사용되는 전체 컴퓨팅 능력 및 사용자의 디스플레이 장치에 의한 디스플레이를 위해 이미지 데이터를 전송하는데 사용된 대역폭의 양을 감소시키는 것이다.
시스템 개요
도 1a는 디스플레이 시스템(110)이 동작하는 시스템(100)의 블록도이다. 시스템(100)은 VR 시스템 환경, AR 시스템 환경, MR 시스템 환경, 또는 이들의 임의의 조합에서 동 할 수 있다. 도 1a에 도시된 시스템(100)은 각각 디스플레이 시스템(110)에 결합되는 디스플레이 장치(105)(예컨대, 헤드-마운트 디스플레이), 이미징 장치(135) 및 입력 인터페이스(140)를 포함한다.
한편 도 1a는 하나의 디스플레이 장치(105), 하나의 이미징 장치(135) 및 하나의 입력 인터페이스(140)를 포함하는 예시적인 시스템(100)을 도시하지만, 다른 실시예에서 임의의 개수의 이러한 컴포넌트들이 시스템(100)에 포함될 수 있다. 예컨대, 각각이 연관된 입력 인터페이스(140)를 가지고 디스플레이 시스템(110)과 통신하는 각각의 디스플레이 장치(105), 입력 인터페이스(140) 및 이미징 장치(135)를 갖는, 하나 이상의 이미징 장치(135)에 의해 모니터링되는 다수의 디스플레이 장치(105)가 있을 수 있다. 대안적 구성으로, 상이한 컴포넌트 및/또는 추가 컴포넌트는 시스템(100)에 포함될 수 있다. 일부 경우에, 유사하게, 하나 이상의 컴포넌트의 기능은 본 명세서에 기술되는 것과는 상이한 방식으로 컴포넌트들 사이에 분산될 수 있다. 예를 들어, 디스플레이 시스템(110)의 일부 또는 모든 기능은 디스플레이 장치(105)에 포함될 수 있다.
디스플레이 장치(105)는 컴퓨터-생성된 요소(예컨대, 2차원 또는 3차원 이미지, 2차원 또는 3차원 비디오, 사운드 등)를 갖는 물리적인, 실제 세계의 환경의 가상 및/또는 증강된 뷰를 포함하는 컨텐츠를 사용자에게 제시하는 헤드-마운트 디스플레이(HMD)이다. 일부 실시예로, 오디오는 디스플레이 장치(105), 디스플레이 시스템(110) 또는 둘 모두로부터 오디오 정보를 수신하고 오디오 정보에 기반하여 오디오 데이터를 제시하는 외부 장치(예컨대, 스피커 및/또는 헤드폰)를 통해 제시된다. 디스플레이 장치(105)의 일부 실시예가 도 2와 함께 아래에서 더 기술된다. 디스플레이 장치(105)는 강성으로 또는 비-강성으로 서로와 결합될 수 있는 하나 이상의 강체를 포함할 수 있다. 강체 사이의 강성 결합은 결합된 강체가 단일 강성 엔티티로 역할을 하도록 한다. 대조적으로, 강체 사이의 비-강성 결합은 강체가 서로에 상대적으로 이동할 수 있게 한다. 디스플레이 장치(105)는 전자 디스플레이(115), 광학 블록(118), 하나 이상의 로케이터(120), 하나 이상의 위치 센서(125), 관성 측정 유닛(IMU)(130) 및 눈 추적 유닛(160)을 포함한다. 디스플레이 장치(105)의 일부 실시예는 본 명세서에 기술된 것들과는 상이한 컴포넌트를 가진다. 유사하게, 다양한 컴포넌트의 기능은 다양한 실시 예에서 설명된 것과 상이한 방식으로 시스템(100) 내의 다른 컴포넌트들 사이에 분산될 수 있다. 예를 들어, 눈 추적 유닛(160)의 일부 기능은 디스플레이 시스템(110)에 의해 수행될 수 있다.
전자 디스플레이(115)(이하 스크린으로도 지칭됨)는 디스플레이 시스템(110)로부터 수신된 데이터에 따라 이미지를 사용자에게 디스플레이한다. 다양한 실시예로, 전자 디스플레이(115)는 단일 전자 디스플레이 또는 다수의 전자 디스플레이(예컨대, 사용자의 각 눈을 위한 디스플레이)를 포함할 수 있다. 전자 디스플레이(115)의 예시는: 액정 디스플레이(LCD), 유기 발광 다이오드(OLED) 디스플레이, 액티브 매트릭스 유기 발광 다이오드 디스플레이(AMOLED), 임의의 다른 디스플레이, 또는 이들의 임의의 조합을 포함한다.
광학 블록(118)은 전자 디스플레이(115)로부터 수신된 이미지 광을 확대하고, 광과 연관된 광학 오차를 보정하고, 보정된 이미지 광이 디스플레이 장치(105)의 사용자에게 제시된다. 다양한 실시 예에서, 광학 블록(118)은 하나 이상의 광학 요소를 포함한다. 광학 요소의 예시는: 개구, 프레넬(Fresnel) 렌즈, 볼록 렌즈, 오목 렌즈, 필터, 또는 전자 디스플레이(115)로부터 방출된 이미지 광에 영향을 주는 임의의 다른 적절한 광학 요소를 포함한다. 또한, 광학 블록(118)은 상이한 광학 요소들의 조합을 포함 할 수 있다. 일부 실시예로, 광학 블록(118) 내의 하나 이상의 광학 요소는 하나 이상의 코팅, 가령 부분 반사기 또는 반사방지 코팅을 가질 수 있다.
광학 블록(118)에 의한 이미지 광의 확대는 전자 디스플레이(115)가 더 큰 디스플레이보다 물리적으로 더 작고, 무게가 덜 나가고, 더 적은 전력을 소비하도록 허용한다. 추가로, 확대는 디스플레이되는 컨텐츠의 시야각을 증가시킬 수 있다. 예를 들어, 디스플레이되는 컨텐츠의 시야는 디스플레이되는 컨텐츠가 사용자의 시야의 거의 전부(예컨대, 대각선으로 110도), 그리고 일부 경우 전부를 사용하여 표시되도록 한다. 일부 실시예에서, 광학 블록(118)은 그 효과적인 초점 거리가 전자 디스플레이(115)에 의해 투영되는 이미지 광을 확대하는 전자 디스플레이(115)와의 간격보다 크도록 설계된다. 추가로, 일부 실시예에서 확대의 양은 광학 블록(118)으로부터의 광학 요소의 추가 또는 제거에 의해 조정될 수 있다.
광학 블록(118)은 하나 이상의 타입의 광학 오차를 보정하도록 설계될 수 있다. 광학 오차의 예시는: 2차원 광학 오차, 3차원 광학 오차, 또는 이들의 임의의 조합을 포함한다. 2차원 오차는 2차원에서 발생하는 광학 수차(aberration)이다. 2차원 오차의 예시적인 타입은: 배럴 왜곡, 핀쿠션 왜곡, 축방향 색수차(chromatic aberration), 횡방향 색수차, 또는 2차원 광학 오차의 임의의 다른 타입을 포함한다. 3차원 오차는 3차원에서 발생하는 광학 오차이다. 3차원 오차의 예시적인 타입은 구면 수차, 색수차, 필드 만곡, 비점 수차, 또는 임의의 다른 타입의 3차원 광학 오차를 포함한다. 일부 실시예로, 디스플레이를 위해 전자 디스플레이(115)로 제공되는 컨텐츠는 사전 왜곡되고, 광학 블록(118)은, 컨텐츠에 기반하여 생성된 전자 디스플레이(115)로부터의 이미지 광을 수신할 때 왜곡을 보정한다.
로케이터(locator, 120)는 서로에 대하여 그리고 디스플레이 장치(105) 상의 특정 기준점에 대하여 디스플레이 장치(105) 상의 특정 위치들에 위치하는 물체이다. 로케이터(120)는 발광 다이오드(LED), 코너 튜브 반사기, 반사 마커, 디스플레이 장치(105)가 동작하는 환경과 대조되는 광원 타입, 또는 이들의 임의의 조합일 수 있다. 로케이터(120)가 활성(즉, LED 또는 다른 타입의 발광 장치)인 실시예에서, 로케이터(120)는 가시광 대역(~380 nm 내지 750 nm), 적외선(IR) 대역(~750 nm 내지 1700nm), 적외선 대역(10nm 내지 380nm), 전자기 스펙트럼의 일부 다른 부분, 또는 이들의 임의의 조합 내에서 광을 방출할 수 있다.
일부 실시예로, 로케이터(120)는, 로케이터(120)에 의해 방출되거나 반사된 광의 파장에 대해 투명하거나 로케이터(120)에 의해 방출되거나 반사된 광의 파장을 실질적으로 감쇠하지 않도록 충분히 얇게 되도록 디스플레이 장치(105)의 외부 표면 아래에 위치한다. 추가로, 일부 실시예에서, 디스플레이 장치(105)의 외부 표면 또는 다른 부분은 광의 파장의 가시선 대역에서 불투명하다. 따라서, 로케이터(120)는 IR 대역에서 투명하지만 가시광 대역에서 불투명한, 외부 표면 아래에서의 IR 대역의 광을 방출할 수 있다.
IMU(130)는 하나 이상의 위치 센서들(125)로부터 수신된 측정 신호에 기반하여 캘리브레이션 데이터를 생성하는 전자 장치이다. 위치 센서(125)는 디스플레이 장치(105)의 움직임에 응답하여 하나 이상의 측정 신호를 생성한다. 위치 센서(125)의 예시는: 하나 이상의 가속도계, 하나 이상의 자이로스코프, 하나 이상의 자력계, 움직임을 감지하는 다른 적절한 타입의 센서, IMU(130)의 오차 보정에 사용되는 센서 타입, 또는 이들의 임의의 조합을 포함한다. 위치 센서(125)는 IMU(130)의 외부, IMU(130)의 내부, 또는 이들의 임의의 조합에 위치할 수 있다.
하나 이상의 위치 센서(125)로부터의 하나 이상의 측정 신호에 기반하여, IMU(130)는 디스플레이 장치(105)의 초기 위치에 상대적인 디스플레이 장치(105)의 추정된 위치를 표시하는 고속 캘리브레이션 데이터를 생성한다. 예컨대, 위치 센서(125)는 병진 운동(전/후, 상/하, 좌/우)을 측정하는 다수의 가속도계 및 회전 운동(예컨대, 피치, 요우(yaw), 롤(roll))을 측정하는 다수의 자이로스코프를 포함한다. 일부 실시예로, IMU(130)는 빠르게 측정 신호를 샘플링하고 샘플링된 데이터로부터 디스플레이 장치(105)의 추정된 위치를 계산한다. 예컨대, IMU(130)는 속도 벡터를 추정하기 위해 가속도계로부터 수신된 측정 신호를 시간에 대해 적분하고, 디스플레이 장치(105) 상의 기준점의 추정 위치를 결정하기 위해 속도 벡터를 시간에 대해 적분한다. 대안으로, IMU(130)는 고속 캘리브레이션 데이터를 결정하는 디스플레이 시스템(110)으로 샘플링된 측정 신호를 제공한다. 기준점은 디스플레이 장치(105)의 위치를 기술하는데 사용될 수 있는 포인트이다. 기준점은 일반적으로 공간에서의 한 지점으로 정의될 수 있고, 실제로는, 기준점은 종종 디스플레이 장치(105) 내의 지점(예를 들어, IMU(130)의 중심)으로 정의된다.
IMU(130)는 디스플레이 시스템(110)으로부터 하나 이상의 캘리브레이션 파라미터를 수신한다. 이하에서 더 논의되는 바와 같이 하나 이상의 캘리브레이션 파라미터는 디스플레이 장치(105)의 추적을 유지하는데 사용된다. 수신된 캘리브레이션 파라미터에 기반하여, IMU(130)는 하나 이상의 IMU 파라미터(예컨대, 샘플링 속도)를 조정할 수 있다. 일부 실시예로, 특정 캘리브레이션 파라미터는 IMU(130)로 하여금 기준점의 초기 위치를 업데이트하도록 하여서 기준점의 다음 캘리브레이션된 위치에 대응하도록 한다. 기준점의 다음 캘리브레이션된 위치로 기준점의 초기 위치를 업데이트하는 것은 결정된 추정 위치와 연관되는 누적 오차를 감소시키는데 도움을 준다. 드리프트 오차로도 지칭되는 누적 오차는 기준점의 추정 위치가 시간에 걸쳐 기준점의 실제 위치로부터 멀리 "표류(drift)"하도록 야기한다.
눈 추적 유닛(160)은 사용자의 눈의 움직임을 추적한다. 일반적으로, 추적된 눈 움직임은 눈의 각도 회전뿐 아니라 눈의 병진(translation), 눈의 뒤틀림의 변화 또는 눈의 형상의 변화를 포함할 수 있다. 눈의 각도 회전은 눈의 각도 방향의 변화이다. 눈의 각도 방향은 디스플레이 장치(105) 내의 사용자의 응시 방향에 대응하고, 본 명세서에서 눈의 중심와(눈의 망막에 대한 함몰부) 및 눈의 동공의 중심 사이의 축인 중심와 축의 방향으로 정의된다. 일반적으로, 사용자의 눈이 한 점에 고정될 때, 사용자의 눈의 중심와 축은 그 점과 교차한다. 눈은 또한, 각막 표면에 수직인 눈의 중심을 통과하는 축인 동공 축을 포함한다. 일반적으로 동공 축은 중심 축과 직접 정렬되지 않는다. 동공 및 중심 축 모두는 동공의 중심에서 교차하지만, 중심와 축의 방향은 동공 축으로부터 좌우로 약 -1° 내지 8° 및 수직으로 ±4° 오프셋된다. 중심와 축은 눈의 뒤쪽에 있는 중심와에 대해 정의되기 때문에 중심와 축의 감지는 특정 눈 추적 방법을 사용할 때 어렵거나 불가능할 수 있다. 따라서, 일부 실시예에서, 눈 추적 유닛(160)은 동공 축의 방향을 검출하고 검출된 동공 축에 기반하여 중심와 축을 추정한다. 대안으로, 눈 추적 유닛(160)은 눈 또는 눈의 망막의 다른 특징의 위치를 직접 검출함으로써 중심와 축을 추정한다.
눈의 병진은 안와에 대한 눈의 위치의 변화이다. 일부 실시예에서, 눈의 병진 운동은 직접 검출되지 않지만, 검출된 각도 방향으로부터의 맵핑에 기반하여 근사화된다. 눈 추적 유닛(160)의 하나 이상의 컴포넌트에 대한 눈의 위치의 변화에 대응하는 눈의 병진이 또한, 검출될 수 있다. 눈 추적 유닛(160)의 하나 이상의 컴포넌트에 대한 눈의 병진은 사용자의 머리의 디스플레이 장치(105)의 위치가 쉬프트할 때 발생할 수 있다. 눈 추적 유닛(160)은 또한, 눈의 비틀림을 검출할 수 있는데, 이는 동공 축에 대한 눈의 회전이다. 눈 추적 유닛(160)은 검출된 눈의 뒤틀림을 사용하여 검출된 동공 축에 기반하여 중심와 축의 방향을 추정할 수 있다. 눈 추적 유닛(160)은 눈의 형상의 변화도 추적할 수 있는데, 비뚤어짐(skew) 또는 스케일링 선형 변환 또는 비틀림 왜곡(twisting distortion)(예컨대, 뒤틀림 변형으로 인한)으로 근사될 수 있다. 눈 추적 유닛(160)은 동공 축의 각도 방향, 눈의 병진, 눈의 뒤틀림 및 눈의 현재 형상의 조합에 기반하여 중심와 축을 추정할 수 있다.
눈 추적 유닛(160)은 눈 추적 정보를 결정하기 위해 추적된 눈 움직임을 사용한다. 눈 추적 정보는 사용자의 눈의 위치 및/또는 방향을 기술한다. 눈 추적 유닛(160)은 눈 추적 값들, 가령 응시 방향(중심와의 중심과 눈의 동공의 중심을 양분하는 축인 중심와 축의 방향으로도 지칭됨), 응시 위치(사용자가 보고 있는 주시점으로도 지칭됨) 및 응시 시간(얼마나 오랫동안 사용자가 특정 방향을 보고 있는지), 수렴 각도(사용자가 보는 거리 및 응시 방향을 변경할 때 양안 사이의 각도), 사용자의 동공간 거리(IPD, 양안의 동공의 중심 사이의 거리로 정의됨), 사용자의 식별, 눈의 비틀림 상태, 눈의 형상, 한쪽 눈 또는 양안의 위치에 기반하는 일부 다른 기능 또는 이들의 임의의 조합을 더 추정하기 위해 결정된 눈 추적 정보를 사용할 수 있다. 예컨대, 눈 추적 유닛(160)은 사용자가 무한대에 초점이 맞추어 지거나, 예컨대 사용자로부터 멀리 떨어진 다른 객체에 초점이 맞추어질 때 눈 위치를 추정함으로써 IPD를 결정할 수 있다. 다른 예시로서, 눈 추적 유닛(160)은 사용자의 보는 거리 및 응시 방향의 변화를 추정함으로써 수렴 각도를 결정한다. 눈 추적 유닛(160)은 또한, 동공 축에 대한 눈의 회전을 추정함으로써 눈의 비틀림 상태를 결정할 수 있다. 일부 실시예에서, 눈 추적 유닛(160)은 중심와 축, 동공 축으로부터 중심와 축의 방향, 및 눈의 형상의 변화를 결정할 수 있다.
눈 추적 유닛(160)은 하나 이상의 조명원, 하나 이상의 이미징 장치 및 눈 추적 컨트롤러를 포함할 수 있다. 조명원(또한, 일루미네이터로도 지칭됨)은 광으로 사용자 눈의 일부를 조명한다. 기결정된 조명 전력은 눈에 부상을 발생시킬 임계치보다 작다. 조명원은 적외선 광원일 수 있다. 적외선 광원의 예시로는 레이저(예컨대, 튜닝가능한 레이저, 연속파 레이저, 펄스 레이저, 적외선 광을 방출하는 다른 적절한 레이저), 발광 다이오드(LED), 광섬유 광원, 적외선 및/또는 가시광을 방출하는 다른 적절한 광원, 또는 이들의 임의의 조합을 포함한다. 다양한 실시예에서, 조명원은 가시광 또는 근적외선 광을 방출할 수 있다. 일부 실시예에서, 하나 이상의 조명원로부터 방출된 광은 구조화 광 패턴이다. 일부 실시예에서, 조명원에 의해 조명되는 눈의 부분은, 조명된 부분으로부터의 신호와 눈의 움직임 동안 조명된 부분을 둘러싸는 다른 신호 사이의 명백한 변화로 인하여, 용이한 검출을 위해 선택된다. 예컨대, 조명된 부분은 최대 콘트라스트(예컨대, 가장 강한 역반사를 갖는 위치 또는 사용자의 공막 또는 각막 표면의 에지로부터의 후방산란)을 가질 수 있다. 조명된 부분은 예컨대, 공막의 에지, 각막의 표면, 윤부(예컨대, 각막 및 공막의 접합부, 홍채 및 공막의 접합부, 홍채 및 동공의 적합부 또는 눈의 임의의 다른 적절한 접합부)에 위치할 수 있다.
이미징 장치는 눈의 조명된 영역으로부터 반사되거나 및/또는 산란된 광을 검출한다. 이미징 장치는 지향된 광에 비례하는 검출 신호를 출력한다. 검출 신호는 사용자의 눈(170)의 조명된 부분을 통한 분명한 콘트라스트 변화(예컨대, 각막 반사의 콘트라스트 변화)와 상관되는 눈의 조명된 부분의 반사율에 대응한다. 일실시예로, 이미징 장치는 눈의 조명된 부분의 이미지를 캡처하도록 구성된 카메라를 포함한다. 일부 실시예로, 검출기는 단일 지점 검출(예컨대, 포토다이오드, 평형/정합된 포토다이오드, 또는 애벌런치(avalanche) 포토다이오드 또는 광전자 튜브) 또는 1차원 또는 2차원 검출기 어레이(예컨대, 카메라, 선형 포토다이오드 어레이, CCD 어레이 또는 CMOS 어레이)에 기반할 수 있다. 일부 실시예로, 눈 추적 유닛(160)은 눈의 하나 이상의 조명된 부분으로부터 반사된 광을 캡처하기 위해 다수의 검출기를 포함할 수 있다.
눈 추적 유닛(160)은 하나 이상의 이미징 장치로부터 캡처된 광(예컨대, 캡처된 이미지)에 기반하여 눈 추적 정보를 결정한다. 일부 실시예로, 눈 추적 유닛(160)은 눈의 눈 추적 정보를 추정하기 위해 캡처된 광 정보(예컨대, 눈의 반사, 눈으로 투사된 구조화 광 패턴의 왜곡)를 기결정된 색인 테이블 또는 기결정된 눈 모델과 비교할 수 있다. 기결정된 색인 테이블 또는 기결정된 눈 모델은 캡처된 광 정보 및 눈 추적 정보 사이의 관계를 기술한다. 예컨대, 일부 실시예로, 눈 추적 유닛(160)은 사용자의 눈의 캡처된 이미지에서 하나 이상의 조명원으로부터의 광의 반사의 위치를 식별하고, 식별된 반사의 형상 및/또는 위치와 기결정된 색인 테이블 (또는 기결정된 눈 모델) 간의 비교에 기반하여 눈 추적 정보를 결정한다. 또는, 눈이 구조화 광 패턴으로 조명되는 경우, 눈 추적 유닛(160)은 눈으로 투사된 구조화 광 패턴의 왜곡을 검출하고, 검출된 왜곡과 기결정된 색인 테이블 (또는 기결정된 눈 모델) 사이의 비교에 기반하여 눈 추적 정보를 추정한다. 눈 추적 유닛(160)은 다른 눈 추적 값들, 가령 동공 축, 응시 각도(예컨대, 중심와 축에 대응함), 눈의 병진, 눈의 뒤틀림 및 눈의 현재 형상을 더 추정하기 위해 눈 추적 정보를 사용할 수 있다. 대안의 실시예로, 눈 추적 정보를 결정하기 위해 하나 또는 양안으로부터 반사된 광을 사용하는 대신에 눈 추적 유닛(160)은 눈의 위치를 결정하는 임의의 다른 방법, 가령 초음파 또는 레이더를 사용할 수 있다.
일부 실시예로, 눈 추적 유닛(160)은 사용자의 눈의 모델을 저장하고 눈의 현재 방향을 추정하기 위해 눈의 하나 이상의 스캔과 함께 모델을 사용한다. 모델은 눈의 표면의 3D 모델 또는 눈의 부분의 3D 볼륨일 수 있다. 모델은 예컨대, 중심와 부중심와 및 중심와 주변을 포함하는 눈의 망막의 상이한 부분에 대한 경계를 더 포함한다. 눈의 이러한 부분들의 경계는 예컨대 아래에서 기술되는 캘리브레이션 시퀀스를 통해 결정될 수 있다. 사용자의 양안이 스캐닝되는 실시예에서, 디스플레이 시스템(110) 또는 디스플레이 장치(105)는 각 눈에 대한 개별 모델을 저장할 수 있다.
스크린 영역을 결정하기 이전에 눈 추적 유닛(160)은 눈의 모델을 생성 또는 트레이닝하기 위해 캘리브레이션 시퀀스를 수행할 수 있다. 일실시예로, 눈 추적 유닛(160)은 캘리브레이션 시퀀스 동안에 하나 이상의 트랜시버로 눈을 반복적으로 스캐닝한다. 예컨대, 사용자는 디스플레이 장치(105)의 전자 디스플레이(115)에 디스플레이되는 특정 가상 객체 또는 가상 표시자를 보도록 지시받는다. 눈의 부분은 사용자가 가상 표시자를 보는 동안에 스캐닝되어서, 눈 추적 유닛(160)이 눈의 알려진 방향으로 눈의 샘플 스캔을 캡처하도록 허용한다. 이들 샘플 스캔은 모델로 조합될 수 있다. 눈 추적 유닛(160)이 모델을 생성한 이후, 눈 추적 유닛(160)은 사용자의 눈을 후속하여 추적할 수 있다. 일부 실시예로, 눈 추적 유닛(160)은 눈 추적 동안에 모델을 업데이트한다.
이미징 장치(135)는 디스플레이 시스템(110)으로부터 수신된 캘리브레이션 파라미터에 따라 저속 캘리브레이션 데이터를 생성한다. 저속 캘리브레이션 데이터는 이미징 장치(135)가 감지할 수 있는 로케이터(120)의 관측된 위치를 보여주는 하나 이상의 이미지를 포함한다. 이미징 장치(135)는 하나 이상의 카메라, 하나 이상의 비디오 카메라, 하나 이상의 로케이터(120)를 포함하는 이미지를 캡쳐할 수 있는 임의의 다른 장치, 또는 이들의 임의의 조합을 포함할 수 있다. 추가로, 이미징 장치(135)는 (예컨대, 신호-대-노이즈 비율을 증가시키는데 사용되는) 하나 이상의 필터를 포함할 수 있다. 이미징 장치(135)는 이미징 장치(135)의 시야 내에서 로케이터(120)로부터 방출되거나 반사된 광을 감지하도록 구성된다. 로케이터(120)가 수동 소자(예컨대, 역반사기(retroreflector))를 포함하는 실시예에서, 이미징 장치(135)는 이미징 장치(135)에서 광원을 향해 광을 역반사하는, 로케이터(120)의 일부 또는 전부를 조명하는 광원을 포함할 수 있다. 저속 캘리브레이션 데이터는 이미징 장치(135)로부터 디스플레이 시스템(110)으로 통신되고, 이미징 장치(135)는 하나 이상의 이미징 파라미터(예컨대, 초점 길이, 초점, 프레임 레이트, ISO, 센서 온도, 셔터 속도, 조리개 등)를 조정하기 위해 디스플레이 시스템(110)으로부터 하나 이상의 캘리브레이션 파라미터를 수신한다.
입력 인터페이스(140)는 디스플레이 시스템(110)으로 행위 요청을 사용자가 전송하도록 허용하는 장치이다. 행위 요청은 특정 행위를 수행하기 위한 요청이다. 예컨대, 행위 요청은 애플리케이션을 시작하거나 애플리케이션을 종료하거나 애플리케이션 내의 특정 행위를 수행하는 것일 수 있다. 입력 인터페이스(140)는 하나 이상의 입력 장치를 포함할 수 있다. 예시적인 입력 장치는: 키보드, 마우스, 게임 컨트롤러, 행위 요청을 수신하고 수신된 행위 요청을 디스플레이 시스템(110)으로 통신하기 위한 임의의 다른 적절한 장치를 포함한다. 입력 인터페이스(140)에 의해 수신된 행위 요청은 행위 요청에 대응하는 행위를 수행하는 디스플레이 시스템(110)으로 통신된다. 일부 실시예에서, 입력 인터페이스(140)는 디스플레이 시스템(110)으로부터 수신된 명령에 따라 햅틱 피드백을 사용자에게 제공할 수 있다. 예컨대, 햅틱 피드백은 행위 요청이 수신될 때 또는 입력 인터페이스(140)가 디스플레이 시스템(110)으로부터 명령을 수신할 때 제공되어 입력 인터페이스(140)로 하여금 디스플레이 시스템(110)이 행위를 수행할 때 햅틱 피드백을 생성하도록 야기한다.
디스플레이 시스템(110)은: 이미징 장치(135), 디스플레이 장치(105) 및 입력 인터페이스(140) 중 하나 이상으로부터 수신된 정보에 따라 사용자에게 제시하기 위해 컨텐츠를 디스플레이 장치(105)로 제공한다. 도 1a에 도시된 예시에서, 디스플레이 시스템(110)은 애플리케이션 스토어(145), 추적 모듈(150), 엔진(155) 및 이미징 프로세싱 엔진(165)을 포함한다. 디스플레이 시스템(110)의 일부 실시예는 도 1a와 함께 기술된 것들과 상이한 모듈을 가진다. 유사하게, 이하에서 더 기술되는 기능은 본 명세서에 기술된 것과 상이한 방식으로 디스플레이 시스템(110)의 모듈 사이에서 분산될 수 있다.
애플리케이션 스토어(145)는 디스플레이 시스템(110)에 의한 실행을 위한 하나 이상의 애플리케이션을 저장한다. 애플리케이션은, 프로세서에 의해 실행시 사용자에게 제시하기 위한 컨텐츠를 생성하는 명령어들의 그룹이다. 애플리케이션에 의해 생성된 컨텐츠는 디스플레이 장치(105) 또는 입력 인터페이스(140)의 움직임을 통해 사용자로부터 수신된 입력에 응답할 수 있다. 애플리케이션의 예시는: 게임 애플리케이션, 컨퍼런스 애플리케이션, 비디오 재생 애플리케이션, 또는 다른 적절한 애플리케이션을 포함한다.
추적 모듈(150)은 하나 이상의 캘리브레이션 파라미터를 사용하여 시스템(100)을 캘리브레이션하고, 디스플레이 장치(105) 또는 입력 인터페이스(140)의 위치 결정에 있어서의 오차를 감소시키기 위해 하나 이상의 캘리브레이션 파라미터를 조정할 수 있다. 예컨대, 추적 모듈(150)은 디스플레이 장치(105) 상의 관측된 위치에 대한 더 정확한 위치를 획득하기 위해 이미징 장치(135)의 초점을 조정한다. 또한, 추적 모듈(150)에 의해 수행되는 캘리브레이션은 IMU(130)로부터 수신된 정보를 감안한다. 추가로, 디스플레이 장치(105)의 추적이 손실된다면(예컨대, 이미징 장치(135)가 디스플레이 장치(105) 상의 적어도 임계 수의 로케이터(120)에 대한 시야선을 손실한다면), 추적 모듈(150)은 시스템(100)의 일부 또는 전부를 다시 캘리브레이션한다.
추적 모듈(150)은 이미징 장치(135)로부터 저속 캘리브레이션 정보를 사용하여 디스플레이 장치(105)의 움직임을 추적한다. 예컨대, 추적 모듈(150)은 디스플레이 장치(105)의 모델 및 저속 캘리브레이션 정보로부터 관측된 로케이터를 사용하여 디스플레이 장치(105)의 기준점의 위치를 결정한다. 추적 모듈(150)은 또한, 고속 캘리브레이션 정보로부터의 위치 정보를 사용하여 디스플레이 장치(105)의 기준점의 위치를 결정한다. 추가로, 일부 실시예에서, 추적 모듈(150)은 고속 캘리브레이션 정보, 저속 캘리브레이션 정보, 또는 이들의 일부 조합의 부분들을 사용하여 디스플레이 장치(105)의 미래의 위치를 예측할 수 있다. 추적 모듈(150)은 디스플레이 장치(105)의 추정 또는 예측된 미래 위치를 엔진(155)으로 제공한다.
엔진(155)은 시스템(100) 내에서 애플리케이션을 실행하고, 추적 모듈(150)로부터 디스플레이 장치(105)의 위치 정보, 가속도 정보, 속도 정보, 예측된 미래 위치, 또는 이들의 임의의 조합을 수신한다. 수신된 정보에 기반하여, 엔진(155)은 사용자에게 제시하기 위해 디스플레이 장치(105)로 제공하기 위한 컨텐츠를 결정한다. 예컨대, 수신된 정보가 사용자가 좌측을 보았다고 표시한다면, 엔진(155)은 가상 환경에서 사용자의 움직임을 미러링하는 디스플레이 장치(105)를 위한 컨텐츠를 생성한다. 추가로, 엔진(155)은 입력 인터페이스(140)로부터 수신된 행위 요청에 응답하여 디스플레이 시스템(110) 상에서 실행되는 애플리케이션 내에서 행위를 수행하고 행위가 수행되었다는 피드백을 사용자에게 제공한다. 제공된 피드백은 디스플레이 장치(105)를 통한 시각적 또는 청각적 피드백이거나 입력 인터페이스(140)를 통한 햅틱 피드백일 수 있다.
이미지 프로세싱 엔진(165)은 (예컨대, 눈 추적 유닛(160)으로부터) 눈 추적 정보를 수신하고, 사용자의 망막의 상이한 부분에 의해 보여지는 스크린의 부분을 표현하는 둘 이상의 스크린 영역으로 스크린을 분할하며, 각 스크린 영역에 디스플레이될 이미지의 부분에 파라미터의 상이한 세트를 적용함으로써 스크린 상에 디스플레이하기 위해 이미지를 프로세싱한다. 본 명세서에서 언급되는 바와 같이, 스크린 상의 디스플레이를 위해 이미지를 프로세싱하는 것은 이미지를 렌더링하는 것(예컨대, 게임에서 장면을 렌더링하는 것), 이미지를 인코딩하는 것, 또는 이미지의 렌더링 및 인코딩의 임의의 조합을 포함할 수 있다. 이미지 프로세싱 엔진(165)의 컴포넌트는 도 1b를 참조하여 아래에서 상세히 기술된다.
도 1a에 도시된 실시예에서, 이미지 프로세싱 엔진(165)은 VR 시스템 환경, AR 시스템 환경, MR 시스템 환경 또는 이들의 임의의 조합에서 동작할 수 있는 시스템(100)에서 구현된다. 하지만, 본 명세서에 기술된 이미지 프로세싱 엔진(165)은 또한, 눈 추적 컴포넌트를 포함하는 다른 타입의 시스템 내에 또한, 구현될 수 있다. 예컨대, 다른 실시예로 엔진(165)은 휴대용 전자 장치(예컨대, 스마트폰이나 태블릿 컴퓨터) 상에 구현된다. 본 실시예에서, 엔진(165)은 눈 추적 정보(예컨대, 휴대용 전자 장치의 전면향 카메라로부터 캡처된 이미지)를 수신하고, 휴대용 전자 장치의 스크린 상에 디스플레이되는 이미지에 적응형 파라미터를 적용한다. 또 다른 실시예로, 엔진(165)은 눈 추적을 수행할 수 있는 컴포넌트(예컨대, 사용자향 카메라, 가령 랩탑 디스플레이의 베젤에 구성되거나 모니터의 상단부에 장착된 카메라)를 갖는 랩탑 또는 데스크탑 컴퓨터 상에 구현되고 컴퓨터의 스크린 상에 디스플레이되는 이미지에 적응형 파라미터를 적용한다.
도 1b는 일실시예에 따른 이미지 프로세싱 엔진(165)의 블록도이다. 도 1b에 도시된 렌더링/인코딩 엔진은 스크린 영역 모듈(162), 렌더링 모듈(164) 및 인코딩 모듈(166)을 포함한다. 대안의 구성에서 상이하거나 및/또는 추가적인 컴포넌트가 렌더링/인코딩 엔진에 포함될 수 있다. 일부 경우에, 유사하게, 하나 이상의 컴포넌트의 기능은 본 명세서에 기술되는 것과는 상이한 방식으로 컴포넌트들 사이에 분산될 수 있다.
스크린 영역 모듈(162)은 눈 추적 정보를 (예컨대, 눈 추적 유닛(160)으로부터) 수신하고 사용자의 망막의 상이한 부분, 가령 중심와, 부중심와 및 부중심와를 넘어서는 망막의 부분에 대응하는 스크린 영역을 결정한다. 본 명세서에서 지칭되는 바와 같이 스크린 영역은 사용자의 망막의 특정 부분에 의해 보여지는 스크린의 부분이다. 예컨대, 스크린 영역 모듈(162)은 중심와에 의해 보여지는 스크린의 부분에 대응하는 제1 스크린 영역(중심와 영역),
부중심와에 의해 보여지는 스크린의 부분에 대응하는 제2 스크린 영역(부중심와 영역) 및 부중심와 외부의 망막의 부분에 의해 보여지는 스크린의 부분에 대응하는 제3 스크린 영역(외부 영역)을 결정할 수 있다.
스크린 영역 모듈(162)은 눈 추적 유닛(160)과 같은 눈 추적 컴포넌트로부터 눈 추적 정보를 수신한다. 일실시예로, 눈 추적 정보는 눈 추적 유닛(160)에 의해 결정된 사용자의 눈의 각도 방향을 포함한다. 다른 실시예로, 눈 추적 정보는 추가적 또는 상이한 정보, 가령 사용자의 눈의 하나 이상의 이미지를 포함한다. 스크린 영역 모듈(162)이 눈 추적 정보에 기반하여 스크린 영역을 결정하는 방식은 도 3a-3c를 참조하여 아래에 상세히 기술된다.
렌더링 모듈(164)은 디스플레이 시스템(110) 상에 실행되는 애플리케이션에 의해 생성된 정보에 기반하여 이미지를 렌더링한다. 애플리케이션은 애플리케이션 스토어(145)에 저장되거나 입력 인터페이스(140)를 통해 다른 시스템으로부터 수신될 수 있다. 예컨대, 디스플레이 시스템(110)은 장면 내의 다양한 위치에서 하나 이상의 가상 객체(가령, 플레이어 캐릭터, 비-플레이어 캐릭터, 환경적 객체 및 배경)를 포함하는 장면을 생성하는 게임 애플리케이션을 실행한다. 모듈(164)은 둘 이상의 이미지 영역으로 이미지를 분할하고, 각 영역에 렌더링 파라미터의 대응하는 세트를 적용함으로써 이미지를 렌더링한다. 예컨대, 전술된 예시에서, 렌더링 모듈(164)은 렌더링 파라미터의 대응하는 세트로 각 이미지 영역 내의 가상 객체를 렌더링함으로써 장면의 이미지를 렌더링한다. 본 명세서에서 언급된 바와 같이, 이미지는 프레임들의 시퀀스(예컨대, 비디오 또는 게임 애플리케이션의 프레임) 내의 정지 사진 또는 하나의 프레임일 수 있다.
인코딩 모듈(166)은 (예컨대, 렌더링 모듈(164) 또는 입력 인터페이스(140)로부터) 이미지를 수신하고 송신을 위해 이미지를 인코딩한다. 모듈(166)은 이미지를 둘 이상의 이미지 영역으로 분할하고 각 영역에 인코딩 파라미터의 대응하는 세트를 적용함으로써 이미지를 인코딩한다. 일실시예로, 인코딩 모듈(166)은 도 6a 및 6b를 참조하여 기술된 프로세스에 따라 이미지를 인코딩한다. 인코딩 된 이후에, 디스플레이 시스템(110)은 이미지를 디스플레이 장치(105)에 전송하여 사용자에게 디스플레이할 수 있다.
본 명세서에 언급되는 바와 같이 이미지 영역은, 디스플레이 장치(105)의 스크린 상에 디스플레이될 때 사용자의 망막의 특정 부분에 의해 보여지는 이미지의 부분이다. 예컨대, 모듈(164, 166)은 중심와에 의해 보여지는 제1 이미지 영역, 부중심와에 의해 보여지는 제2 이미지 영역 및 부중심와의 외부의 망막의 부분에 의해 보여지는 제3 이미지 영역에 파라미터의 상이한 세트를 적용한다. 일부 실시예로, 렌더링 모듈(164)에 의해 렌더링되거나 및/또는 인코딩 모듈(166)에 의해 인코딩되는 이미지는 전체 화면을 덮는 방식으로 디스플레이된다(즉, 이미지는 전체 스크린 모드로 디스플레이된다). 이러한 실시예에서, 렌더링 모듈(164) 및 인코딩 모듈(166)을 참조하여 기술된 이미지 영역은 스크린 영역 모듈(162)을 참조하여 기술된 스크린 영역과 동일한 형상 및 위치를 이미지 내에 가진다. 다른 실시예로, 이미지는 (예컨대, 전체 스크린을 점유하지 않는 윈도우 내에서) 스크린의 부분 상에 디스플레이된다. 이러한 실시예에서, 모듈(164, 166)은 이미지가 디스플레이될 스크린의 부분을 포함하고 스크린의 다른 부분을 배제하도록 스크린 영역을 크롭핑함으로써 이미지 영역의 경계를 결정한다.
도 2는 일실시예에 따른 헤드-마운트 디스플레이(HMD)(200)의 다이어그램이다. HMD(200)는 디스플레이 장치(105)의 일실시예이며, 전방 강체(205) 및 밴드(210)를 포함한다. 전방 강체(205)는 전자 디스플레이(115)의 전자 디스플레이 요소(도 2에 도시되지 않음), 광학 블록(118)(도 2에 도시되지 않음), IMU(130), 하나 이상의 위치 센서(125), 눈 추적 유닛(160) 및 로케이터(120)를 포함한다. 도 2가 도시하는 실시예에서, 위치 센서(125)는 IMU(130) 내에 위치하고, IMU(130) 또는 위치 센서(125) 모두는 사용자에게 가시적이지 않다.
로케이터(120)는 서로에 대해 그리고 기준점(215)에 대하여 전방 강체(205) 상의 고정된 위치에 위치한다. 도 2의 예시에서, 기준점(215)은 IMU(130)의 중심에 위치한다. 각 로케이터(120)는 이미징 장치(135)가 감지할 수 있는 광을 방출한다. 로케이터(120), 또는 로케이터(120)의 부분은 도 2의 예시에서 전방 강체(205)의 전방 측면(220A), 상부 측면(220B), 하부 측면(220C), 우측 측면(220D), 좌측 측면(220E)에 위치한다.
이미지 영역에서의 적응형 파라미터
도 3a 및 3b는 일실시예에 따라 시선 벡터(306)에 의해 표시되는 방향으로 스크린(304)을 응시하는 사용자의 눈(302)을 도시한다. 먼저 도 3a를 참조하면, 사용자의 눈(302), 시선 벡터(306) 및 스크린(304)이 도시된다. 도 3a는 예컨대 눈 추적 유닛(160)에 의해 캡처된 눈의 이미지에 기반하여 스크린 영역 모듈(162)에 의해 생성된 스크린 상의 중심와 영역(308), 부중심와 영역(310) 및 외부 영역(312)을 더 도시한다.
스크린 영역 모듈(162)은 눈이 보고 있는 방향을 표현하는 시선 벡터를 결정한다. 일부 실시예로, 스크린 영역 모듈(162)은 안구 중심(A), 각막 중심(C), 동공(E) 및 각막 중심과 동공 중심 간의 거리(h)를 포함하는 눈과 연관된 복수의 눈의 특성에 기반하여 시선 벡터를 결정한다. 일실시예로, 눈 추적 유닛(160)은 이러한 눈 특성의 추정치를 계산하고 눈 추적 정보의 일부로서 스크린 영역 모듈(162)로 추정치를 전송한다. 다른 실시예로, 스크린 영역 모듈(162)은 눈 추적 유닛(160)으로부터 눈의 각도 방향을 수신하고 눈 회전에 기반하여 눈의 모델에 회전을 적용함으로써 이러한 눈 특성을 생성한다. 다른 실시예로, 스크린 영역 모듈(162)은 눈 추적 유닛(160)으로부터 눈의 중심와 축을 수신하고 시선 벡터(306)로서 중심와 축의 방향을 사용한다. 시선 벡터(306)를 결정한 이후, 모듈(162)은 시선 벡터(306)와 스크린(304) 사이의 교차점을 계산함으로써 주시점(314)을 결정한다. 다른 실시예로, 주시점(314)은 다른 수단으로 계산된다.
302로 도시되는 스크린의 영역은 눈이 해상도의 차이에 대해 가장 민감한 곳인 중심와 영역이다. 304로 도시된 영역은 눈이 해상도의 차이에 대해 덜 민감한 곳인 302에 가장 가까운 부중심와 영역이다. 영역(302, 304) 외부의 영역은 눈이 해상도의 차이에 가장 민감하지 않은 곳인 외부 이미지 영역(306)이다.
도 3a에 도시된 실시예에서, 스크린 영역 모듈(162)은 주시점에 중심이 있는 기결정된 반경의 원을 도시함으로써 중심와 영역(308)을 결정한다. 유사하게, 스크린 영역 모듈(162)은 주시점에 중심이 있는 제2 기결정된 반경의 제2 원을 도시하고 환영(반지 형상)을 양산하도록 중심와 영역을 감산함으로써 부중심와 영역(310)을 결정한다. 스크린 영역 모듈(162)은 중심와 영역(308) 및 부중심와 영역(310)에 의해 커버되지 않는 스크린의 영역으로 외부 영역(312)을 추가적으로 결정할 수 있다.
기결정된 반경의 갖는 스크린 영역(308, 310, 312)을 결정하기 위한 프로세스는 예컨대, 기결정된 반경이 시각 각도의 특정 각도 수에 대응되도록 선택될 수 있고, 중심와 영역(308) 및 부중심와 영역(310)에 대한 시각 각도가 사용자의 중심와 및 부중심와의 해부학적 경계의 추정치를 나타내도록 선택될 수 있기 때문에 동작 동안에 사용자의 눈(302)으로부터의 알려진 거리에서 스크린(304)이 잔존하는 구현(예컨대, 디스플레이 장치(105)가 헤드 마운트 디스플레이, 가령 도 2에 도시된 HMD(200)인 구현)에서 특히 유익하다. 예컨대, 전술한 바와 같이 기결정된 반경은 중심와 영역(308)이 2.5도의 시각적 각도의 반경에 대응하고 부중심와 영역(310)이 5.0도의 시각적 각도의 반경에 대응되도록 선택될 수 있다. 일부 실시 예에서, 기결정된 반경은 눈 추적 유닛(160)을 참조하여 위에서 설명된 사용자의 눈 모델에 기반하여 선택된다.
도 3b는 일실시예에 따라 도 3a의 눈을 도시하고, 중심와 원뿔(316) 및 부중심와 원뿔(318)을 더 도시한다. 도 3b에 도시된 실시예에서, 중심와 영역과 부중심와 영역은 3D 원뿔에 의해 정의된다. 316로 도시된 원뿔 형상은 중심와 원뿔인 한편, 318로 도시된 원뿔 형상은 부중심와 원뿔이다.
도 3b에 도시된 실시예에서, 스크린 영역 모듈(162)은 원뿔(316, 318)에 기반하여 스크린 영역(308, 310)을 결정한다. 더욱 특히, 스크린 영역 모듈(162)은 도 3a를 참조하여 위에서 기술된 방식으로 눈 특성에 기반하여 시선 벡터를 결정한다. 시선 벡터(306)를 결정한 이후 스크린 영역 모듈(162)은 시선 벡터(306)에 매칭되는 축, 각막 중심(C)에서의 꼭지점 및 축에 대하여 기결정된 각도(예컨대, 2.5도)만큼 오프셋되는 원뿔형 표면을 갖는 원뿔로 중심와 원뿔(316)을 정의한다. 유사하게, 스크린 영역 모듈(162)은 시선 벡터(306)에 매칭하는 축과, 각막 중심(C)에서 꼭지점 및 축에 대하여 상이한 기결정된 각도(예컨대, 5도)만큼 오프셋된 원뿔 표면을 갖는 원뿔로 부중심와 원뿔(318)을 정의한다. 도 3a를 참조하여 위에서 기술된 기결정된 반경과 유사하게, 원뿔(316, 318)을 정의하는 기결정된 각도는 전형적인 인간 사용자의 중심와 및 부중심와의 해부학적 경계의 추정치를 표현하도록 선택될 수 있고, 눈의 모델에 기반할 수 있다. 원뿔(316, 318)을 정의한 이후, 스크린 영역 모듈(162)은 대응하는 원뿔(316, 318)과 스크린(304) 사이의 교차점을 계산함으로써 중심와 영역(308) 및 부중심와 영역(310)을 결정한다. 스크린 영역 모듈(162)은 중심와 영역(308) 및 부중심와 영역(310)에 의해 커버되지 않는 스크린의 영역으로서 외부 영역(312)을 더 결정할 수 있다.
도 3c는 일실시예에 따라 스크린(304) 상에 나타나는 중심와 영역(308), 부중심와 영역(310) 및 외부 영역(312)을 도시한다. 비록 중심와 및 부중심와 영역(308, 310)이 도 3a 내지 3c에 원으로 도시되지만 다른 실시예에서, 이들 영역은 상이한 형상을 가질 수 있다. 일실시예로, 중심와 및 부중심와 영역은 주시점(314)에 중심을 갖고 측면이 도 3a-3c에 도시된 원형 중심와 및 부중심와 영역(308, 310)의 직경과 동일한 길이를 갖는 정사각형이다. 다른 실시 예에서, 중심와 및 부중심와 영역은 직사각형이다. 정사각형 또는 직사각형 중심와 및 부중심와 영역을 사용하는 것은, 예컨대 픽셀이 직교 좌표계로 인덱싱된 스크린에서 정사각형 또는 직사각형 영역을 정의하는 것이 더 용이하게 때문에 유익하다.
일부 실시예로, 스크린 영역 모듈(162)은 층들 간의 더 매끄러운 전환을 제공하기 위한 추가 영역을 생성한다. 일부 실시예로, 각 영역의 크기는 적응형이고 눈의 특성의 노이즈, 눈의 특성의 추정된 정확성, 시선 벡터의 방향 또는 이들의 임의의 조합에 기반하여 업데이트될 수 있다. 일부 실시예로, 각 스크린 영역의 크기는 사카드(주시점 사이에서의 고속 눈 운동)이 감지될 때 증가되고 주시가 일단 안정되면 다시 감소된다.
도 4는 일실시예에 따라 눈 추적 정보에 기반하여 이미지 영역에서 적응형 파라미터를 적용하기 위한 프로세스를 도시하는 블록도이다. 디스플레이 시스템(110)은 눈 추적 정보를 수신한다(402). 예를 들어, 시스템(110)은 디스플레이 장치(105)의 눈 추적 유닛(160)으로부터 사용자의 눈의 각도 방향을 수신한다. 시스템(110)은 추가로 또는 대안으로, 도 3a를 참조하여 기술된 하나 이상의 눈의 특성 또는 사용자의 눈의 이미지와 같은 다른 타입의 눈 추적 정보를 수신한다.
눈 추적 정보를 수신(402)한 이후, 시스템(110)은 눈 추적 정보에 기반하여 둘 이상의 스크린 영역을 결정한다(404). 예컨대, 시스템은 중심와 영역, 부중심와 영역 및 외부 영역을 결정(404)하기 위해 도 3a 및 3b를 참조하여 기술된 프로세스 중 하나 또는 둘 모두를 수행한다. 다른 실시예에서, 시스템(110)은 상이한 개수의 영역을 결정할 수 있다(404). 예컨대, 시스템(110)은 2개의 영역(예컨대, 중심와 영역과 외부 영역, 하지만 부중심와 영역은 제외)을 결정할 수 있다. 다른 예시로, 시스템은 전술한 바와 같이 중심와 영역, 부중심와 영역 및 외부 영역을 결정할 수 있고, 추가적으로 사용자의 중심와 주변에 대응하는 중심와 주변 영역(부중심와를 둘러싸는 망막의 부분)을 추가로 결정할 수 있다.
시스템(110)은 이미지 내의 상이한 이미지 영역에 파라미터의 상이한 세트를 적용(406)함으로써 이미지를 렌더링 및/또는 인코딩한다. 이미지가 전체 스크린 상에 디스플레이되는 실시예에서, 이미지 영역은 스크린 영역과 동일 공간에 존재한다. 이미지가 스크린의 부분에 디스플레이되는 실시예에서, 시스템(110)은 스크린 영역을 이미지가 디스플레이될 스크린의 부분으로 크롭핑함으로써 이미지 영역의 경계를 결정한다. 디스플레이 시스템(110)은 스크린 상에 디스플레이될 디스플레이 장치(105)로 이미지를 전송(408)한다.
도 5a-5c는 상이한 이미지 영역에 파라미터의 상이한 세트를 적용함으로써 이미지를 렌더링하고 인코딩하기 위한 프로세스의 다양한 실시예를 도시한다. 도 5a-5c에 도시된 하나 이상의 프로세스는 예컨대, 도 4를 참조하여 기술된 렌더링/인코딩 단계(406)로서 수행될 수 있다. 일실시예로, 도 5a-5c에 도시된 각 프로세스는 이미지 프로세싱 엔진(165)에 의해 수행된다.
우선 도 5a를 참조하면, 일실시예에 따라 렌더링 파라미터의 상이한 세트로 이미지의 상이한 부분을 렌더링하기 위한 프로세스를 도시하는 블록도가 도시된다. 디스플레이 시스템(110)은 렌더링 파라미터의 제1 세트에 기반하여 제1 이미지 영역을 렌더링한다(502). 디스플레이 시스템(110)은 또한, 렌더링 파라미터의 제2 세트에 기반하여 제2 이미지 영역을 렌더링한다. 예컨대, 제1 이미지 영역은 중심와에 의해 보여지는 이미지의 부분에 대응하는 중심와 영역일 수 있고, 제2 이미지 영역은 중심와 외부의 망막의 부분에 의해 보여지는 이미지의 부분에 대응하는 외부 영역일 수 있다.
본 명세서에 언급되는 것처럼, 렌더링 파라미터의 세트는 이미지를 렌더링하기 위해 디스플레이 시스템(110) 상에서 수행되는 렌더링 프로세스의 동작에 영향을 주는 하나 이상의 인자를 명시한다. 렌더링 파라미터의 예시는 이미지 해상도, 프레임레이트, 안티-앨리어싱 설정 또는 텍스처 품질을 포함할 수 있다. 렌더링 파라미터의 일부 또는 전부는 렌더링 프로세스가 더 많은 컴퓨팅 리소스를 소비하는 대가로 더 높은 이미지 품질을 달성하거나 또는 낮은 품질이지만 렌더링 프로세스가 보다 적은 컴퓨팅 리소스로 수행되게 허용하도록 조정될 수 있다. 일실시예로, 렌더링 파라미터의 제2 세트는 렌더링 파라미터의 제1 세트보다 더 낮은 이미지 품질을 생성한다.
이미지가 렌더링된 이후, 디스플레이 시스템(110)은 렌더링된 이미지를 인코딩한다(506). 도 5a에 도시된 실시예로, 전체 이미지는 인코딩 파라미터의 단일 세트에 기반하여 인코딩된다(506). 하지만, 다른 실시예, 가령 도 5b-5c에 도시된 실시예에서, 디스플레이 시스템(110)은 인코딩 파라미터의 상이한 세트에 기반하여 렌더링된 이미지의 상이한 영역을 인코딩한다(506).
도 5a에 도시되지는 않지만, 디스플레이 시스템(110)은 또한, 렌더링 파라미터의 제3 세트에 기반하여 제3 이미지 영역을 렌더링할 수 있다. 일실시예로, 제3 이미지 영역은 부중심와에 의해 보여지는 이미지의 부분에 대응하는 부중심와 영역일 수 있고(이 경우, 외부 영역은 중심와 및 부중심와 외부의 망막의 부분에 의해 보여지는 이미지의 부분에 대응할 수 있다). 이 실시예에서, 렌더링 파라미터의 제3 세트는 중간 레벨의 이미지 품질(즉, 렌더링 파라미터의 제1 세트보다 낮은 이미지 품질 및 렌더링 파라미터의 제2 세트보다 높은 이미지 품질)을 생성한다.
보다 광범위하게는, 디스플레이 시스템(110)은 이미지 품질의 감소되는 레벨을 제공하는 렌더링 파라미터의 상이한 세트로 중심와 영역, 부중심와 영역 및 외부 영역(상기 제공된 설명에서는 각각 제1, 제3 및 제2 영역으로 지칭됨)을 렌더링할 수 있다. 이미지 품질에 대한 눈의 민감도는 중심와로부터의 거리에 따라 감소하기 때문에 부중심와 영역에서의 중간 이미지 품질 및 외부 영역에서의 낮은 이미지 품질은 다수의 사용자들에게 지각될 수 없다. 하지만, 부중심와 및 외부 영역에 대해 더 낮은 품질의 렌더링 파라미터를 사용하는 것은 더 적은 컴퓨팅 리소스로 이미지에 대한 렌더링 프로세스가 수행되는 것을 허용하고, 이는 렌더링 프로세스가 더 적은 시간에 완료되거나 및/또는 더 적은 전력을 사용하는 것을 유익하게 허용한다. 따라서, 렌더링 파라미터의 상이한 세트로 상이한 이미지 영역을 렌더링하는 이러한 프로세스는 디스플레이 시스템(110)이 충분히 높은 이미지 품질과 더 적은 컴퓨팅 리소스의 사용 간의 균형을 맞추는 렌더링 프로세스를 수행하도록 허용한다.
일부 실시예로, 렌더링되는 이미지는 애플리케이션(예컨대, 게임)에 의해 생성된 장면을 도시하고 장면 내의 다양한 위치에서 다수의 객체를 포함한다. 일실시예로, 렌더링 파라미터의 세트는 객체의 일부가 대응하는 영역 내부에 나타나는지 여부에 기반하여 장면 내의 객체에 적용될 수 있다. 예컨대, 사용자가 객체 및 중심와 영역 외부로 연장되는 객체의 부분을 보고 있다면, 디스플레이 시스템(110)은 사용자가 객체의 임의의 부분에서 어떠한 변화도 인지하지 않도록 렌더링 파라미터의 제1 세트로 전체 객체를 할당하여 렌더링할 수 있다.
일부 실시예로, 장면 내의 하나 이상의 객체는 객체와 사용자 사이의 거리를 표현하는 깊이 값을 가진다. 장면 내의 각 객체의 깊이 값은 장면을 생성하는 애플리케이션에 의해 결정될 수 있다. 예컨대, 게임 애플리케이션에 의해 생성된 장면 내의 객체에 대한 깊이 값은 장면 내의 게임 객체의 위치와 플레이어의 시점의 위치 사이의 거리를 표현할 수 있다.
이러한 실시예에서, 디스플레이 시스템(110)은 객체의 깊이에 적어도 부분적으로 기반하여 객체에 적용할 렌더링 파라미터의 세트를 선택할 수 있다. 일실시예로, 사용자가 짧은 거리에 위치한 객체를 보고 있다면(예컨대, 주시점이 제1 임계값보다 낮은 깊이 값을 갖는 객체에 위치한다면), 디스플레이 시스템(110)은, 배경 객체가 중심와 또는 부중심와 영역 내에 있다고 하더라도 배경에 위치한 객체(예컨대, 제2 임계값보다 더 높은 깊이 값을 갖는 객체)의 렌더링 파라미터의 더 낮은 품질의 세트를 적용한다.
다른 실시예로, 2개의 시선 벡터는 사용자의 두 눈에 대해 별도로 결정되고 디스플레이 시스템(110)은 2개의 시선 벡터의 수렴에 기반하여 사용자의 초점의 깊이를 결정한다. 이 실시예에서, 디스플레이 시스템(110)은 장면 내에서 초점의 깊이와 객체의 깊이 값 사이의 깊이의 차이(이하 깊이 차이라고 지칭됨)를 결정하고, 시스템(110)은 객체가 중심와 또는 부중심와 영역에 있다고 하더라도 깊이 차이가 임계값보다 높은 객체에 렌더링 파라미터의 더 낮은 품질의 세트를 적용한다.
일부 실시예로, 디스플레이 시스템(110)은 함께 프레임의 시퀀스를 구성하는 다수의 이미지에 대한 렌더링 프로세스를 수행한다. 예컨대, 이미지는 게임 애플리케이션의 프레임 또는 비디오의 프레임일 수 있다. 이러한 실시예에서, 디스플레이 시스템(110)은 상이한 프레임레이트에서 이미지의 상이한 영역을 렌더링할 수 있다. 일실시예로, 디스플레이 시스템(110)은 모든 프레임에 대해 중심와 영역을 렌더링하고 모든 다른 프레임마다 외부 영역을 렌더링한다. 일부 실시예로, 디스플레이 시스템(110)은 주어진 프레임에 대해 렌더링되지 않은 영역을 보정하기 위해 시간적 안티엘리어싱을 적용할 수 있다.
다른 실시예로, 디스플레이 시스템(110)은 장면의 컨텐츠에 기반하여 프레임 내의 이미지 영역이 렌더링되는 주파수를 결정한다. 예컨대, 이미지 영역이 연속 프레임 사이에서 다소 정적으로 잔존하는 객체를 포함한다면(예컨대, 배경에서 클라우드), 이미지 영역은 이동하는 객체를 포함하는 이미지 영역보다 더 낮은 주파수로 렌더링될 수 있다.
도 5b는 일실시예에 따라 인코딩 파라미터의 상이한 세트로 이미지의 상이한 부분을 인코딩하기 위한 프로세스를 도시하는 블록도이다. 렌더링된 이미지는 디스플레이 시스템(110)에서 제공된다(512). 다양한 실시예에서, 렌더링된 이미지는 (예컨대, 게임 애플리케이션 또는 디스플레이 시스템 상에서 실행되는 임의의 다른 애플리케이션의 일부로서) 디스플레이 시스템(110) 상에서 렌더링되거나, 디스플레이 시스템(110)의 저장 매체에 저장되거나(예컨대, 이미지 파일 또는 비디오 파일), 또는 입력 인터페이스(140)를 통해 디스플레이 시스템(110)에서 수신될 수 있다(예컨대, 스트리밍 서비스, 가령 YOUTUBE로부터의 비디오 스트림).
렌더링된 이미지가 제공(512)된 이후, 디스플레이 시스템(110)은 인코딩 파라미터의 제1 세트에 기반하여 제1 이미지 영역을 인코딩한다(514). 디스플레이 시스템(110)은 또한, 인코딩 파라미터의 제2 세트에 기반하여 제2 이미지 영역을 인코딩한다(516). 예컨대, 제1 이미지 영역은 중심와에 의해 보여지는 이미지의 부분에 대응하는 중심와 영역일 수 있고, 제2 이미지 영역은 중심와 외부의 망막의 부분에 의해 보여지는 이미지의 부분에 대응하는 외부 영역일 수 있다.
본 명세서에 언급되는 것처럼, 인코딩 파라미터의 세트는 이미지를 렌더링하기 위해 디스플레이 시스템(110) 상에서 수행되는 인코딩 프로세스의 동작에 영향을 주는 하나 이상의 인자를 명시한다. 인코딩 파라미터의 예시는 이미지 해상도, 프레임레이트 및 압축 인자, 가령 코딩을 변환하기 위해 사용되는 변환의 타입, 양자화 레벨의 수 및 범위, 크로마 서브샘플링 및 색상 공간 감소를 포함할 수 있다. 전술한 렌더링 파라미터와 유사하게, 인코딩 파라미터의 일부 또는 전부는 인코딩 프로세스가 더 많은 컴퓨팅 리소스를 소비하는 대가로 더 높은 이미지 품질을 달성하거나 또는 낮은 품질이지만 인코딩 프로세스가 보다 적은 컴퓨팅 리소스로 수행되게 허용하도록 조정될 수 있다. 추가로, 인코딩 파라미터의 더 높은 품질의 세트는 더 큰 파일 크기를 갖는 인코딩된 이미지를 발생시킬 수 있는 한편, 인코딩 파라미터의 더 낮은 품질의 세트는 더 작은 파일 크기를 갖는 인코딩된 이미지 파일을 발생시킬 수 있다. 일실시예로, 렌더링 파라미터의 제2 세트는 렌더링 파라미터의 제1 세트보다 더 낮은 이미지 품질 및 더 작인 파일 크기를 생성한다.
도 5b에 도시되진 않지만, 디스플레이 시스템(110)은 또한, 인코딩 파라미터의 제3 세트에 기반하여 제3 이미지 영역을 인코딩할 수 있다. 일실시예로, 제3 이미지 영역은 부중심와에 의해 보여지는 이미지의 부분에 대응하는 부중심와 영역일 수 있고(이 경우, 외부 영역은 중심와 및 부중심와 외부의 망막의 부분에 의해 보여지는 이미지의 부분에 대응할 수 있다). 이 실시예에서, 렌더링 파라미터의 제3 세트는 중간 레벨의 이미지 품질(즉, 인코딩 파라미터의 제1 세트보다 낮은 이미지 품질 및 인코딩 파라미터의 제2 세트보다 높은 이미지 품질)을 생성한다.
요약하면, 이미지를 인코딩하기 위한 이러한 프로세스를 수행하는 디스플레이 시스템(110)은 중심와 영역에 높은 품질의 인코딩 파라미터를, 부중심와 영역에 중간 품질의 인코딩 파라미터를, 그리고 외부 영역에 낮은 품질의 인코딩 파라미터를 적용할 수 있다. 전술한 바와 같이, 이미지 품질에 대한 눈의 민감도는 중심와로부터의 거리에 따라 감소하고; 따라서 부중심와 영역에서의 중간 품질 및 외부 영역에서의 낮은 품질은 이미지의 전체 이미지 품질의 사용자의 인식을 불리하게 이미지화할 가능성이 적다. 하지만, 부중심와 및 외부 영역에서 중간 및 낮은 품질의 인코딩 파라미터를 사용하는 것은 인코딩 프로세스가 더 적은 컴퓨팅 리소스로 수행되도록 허용하고, 따라서 인코딩 프로세스는 더 적은 시간에 완료되거나 및/또는 더 적은 전력을 소비할 수 있도록 한다. 또한, 부중심와 및 외부 영역에서 중간 및 낮은 품질의 인코딩 파라미터를 사용하는 것은 더 작은 파일 크기를 갖는 인코딩된 이미지를 발생시키고, 이는 이미지를 디스플레이 장치(105)로 전송할 때 사용되는 대역폭의 양을 이롭게 감소시킨다.
도 5c는 일실시예에 따라 파라미터의 상이한 세트로 이미지의 상이한 부분을 렌더링하고 인코딩하기 위한 프로세스를 도시하는 블록도이다. 디스플레이 시스템(110)은 렌더링 파라미터의 제1 세트에 기반하여 제1 이미지 영역을 렌더링하고(522), 렌더링 파라미터의 제2 세트에 기반하여 제2 이미지 영역을 렌더링한다(524). 이미지를 렌더링한 이후, 디스플레이 시스템(110)은 인코딩 파라미터의 제1 세트에 기반하여 제1 이미지 영역을 인코딩하고(526) 인코딩 파라미터의 제2 세트에 기반하여 제2 이미지 영역을 인코딩한다(528).
일실시예로, 렌더링 단계(522, 524)를 위해 사용되는 이미지 영역은 인코딩 단계(526, 528)에 사용되는 이미지 영역과 동일하다. 즉, 인코딩 파라미터의 제1 세트는 렌더링 파라미터의 제1 세트로 렌더링된 이미지 영역에 적용되고, 인코딩 파라미터의 제2 세트는 렌더링 파라미터의 제2 세트로 렌더링된 이미지 영역에 적용된다. 다른 실시예에서, 렌더링 단계(522, 524)에 사용되는 이미지 영역은 인코딩 단계(526, 528)에 사용되는 이미지 영역과는 상이하다. 예를 들어, 인코딩 단계(526, 528)에 사용되는 이미지 영역은 (도 6a 및 도 6b를 참조하여 후술되는 예시에 도시된 바와 같이) 정사각형인 반면, 렌더링 단계(522, 524)를 위해 사용되는 이미지 영역들은 원형이다.
도 6a는 일실시예에 따라 인코딩 파라미터의 상이한 세트로 이미지의 상이한 부분을 인코딩하고 이후 단일 프레임으로 이미지에 대한 인코딩된 이미지 영역을 패킹하기 위한 프로세스의 예시를 도시한다. 디스플레이 시스템(110)은 중심와 영역(602), 부중심와 영역(604) 및 외부 영역(606)으로 분할된 이미지(601)를 인코딩한다. 디스플레이 시스템(110)은 인코딩 파라미터의 제1 세트에 기반하여 중심와 영역(602)을 인코딩하고, 렌더링 파라미터의 제2 세트에 기반하여 부중심와 영역(604)을 인코딩하며, 렌더링 파라미터의 제3 세트에 기반하여 외부 영역을 인코딩한다. 도 6a에 도시된 예시에서, 인코딩 파라미터의 3개의 세트는 상이한 해상도를 명시한다. 특히, 인코딩 파라미터의 제1 세트는 제1의 상대적으로 높은 해상도를 명시하고, 인코딩 파라미터의 제2 세트는 낮은 해상도(예컨대, 제1 해상도의 1/2)를 명시하고, 인코딩 파라미터의 제3 세트는 심지어 더 낮은 해상도(예컨대, 제1 해상도의 1/4)를 명시한다.
이러한 인코딩 프로세스는 3개의 인코딩된 이미지 영역: 인코딩된 중심와 영역(612), 인코딩된 부중심와 영역(614) 및 인코딩된 외부 영역(616)을 생성한다. 디스플레이 시스템(110)은 인코딩된 이미지 영역을 단일 패킹된 이미지(622)로 함께 패킹하기 위한 패킹 프로세스를 수행하고, 패킹된 이미지(622)를 디스플레이 장치(105)로 전송한다. 패킹된 이미지(622)를 수신한 이후, 디스플레이 장치(105)는 이를 스크린 상에 디스플레이 하기 위해 각 인코딩된 이미지 영역을 그에 따라 업스케일링 및 합성함으로써 이미지(601)를 언패킹하고 재구성한다. 이러한 방식으로 인코딩된 이미지 영역을 패킹하는 것은 예컨대, 발생된 패킹된 이미지(622)가 특정 해상도에서의 이미지보다 상당히 더 적은 픽셀을 포함하기 때문에 이롭다. 예컨대, 이미지(601)가 1920 x 1080 픽셀의 해상도를 갖는다면, 패킹된 이미지(622)는 원래의 1920 x 1080 이미지의 2.0 백만 픽셀에 대해 0.380 백만 픽셀을 포함하고, 이는 각 이미지를 전송하는데 사용되는 대역폭 및 시간을 상당히 감소시킨다.
도 6b는 일실시예에 따라 이미지의 시퀀스를 인코딩 및 패킹하는 예시를 도시한다. 도 6b에 도시된 예시에서, 이미지의 시퀀스는 (예컨대, 비디오나 게임 애플리케이션에 있는) 프레임의 시퀀스를 구성하고, 인코딩 파라미터의 각 세트는 상이한 주파수(즉, 상이한 프레임레이트)를 명시한다. 더욱 특히, 중심와 영역(652)은 제1 주파수(예컨대, 120Hz)에서 인코딩 및 송신되고; 부중심와 영역(654)은 제1 주파수보다 낮은 제2 주파수(예컨대, 80Hz)에서 인코딩 및 송신되고; 외부 영역(656)은 제1 및 제2 주파수보다 낮은 제3 주파수(예컨대, 40Hz)에서 인코딩 및 송신된다.
각 프레임에 대하여, 디스플레이 시스템(110)은 이미지 영역을 인코딩하고 디스플레이 장치(105)로 이후 전송되는 패킹된 프레임으로 패킹한다. 프레임이 모든 영역을 포함하지 않는 경우(예컨대, 프레임 n+1(660B), 프레임 n+2(660C) 및 프레임 n+4(660E)) 디스플레이 시스템(110)은 각 이미지 영역에 대해 이용가능한 가장 최근의 프레임을 사용함으로써 다음의 프레임을 생성한다. 일부 실시예로, 사후-프로세싱 기술이 오정렬을 보정하기 위해 적용된다.
도 6b는 5개의 프레임, 프레임 n(660A) 내지 프레임 n+4(660E)의 시퀀스를 도시한다. 프레임 n은 중심와 영역(652A), 부중심와 영역(654A) 및 외부 영역(656A)을 포함한다. 프레임 n+1(660B)에서, 중심와 영역(652B) 및 부중심와 영역(654B)이 포함되지만, 외부 영역은 포함되지 않고, 따라서 디스플레이 장치(105)로 전송될 데이터의 양을 감소시킨다. 프레임 n+2은 새롭게 인코딩된 중심와 영역(652C)을 포함하지만 부중심와 영역 또는 외부 영역을 포함하지 않고 따라서 데이터의 양을 더 감소시킨다. 이후 시퀀스는 프레임 n+3(660D) 및 프레임 n+4(660E)으로 스스로를 반복한다. 이렇게 하면서, 사용자의 눈이 가장 민감한 이미지 영역(즉, 중심와 영역(652))이 각 연속 프레임으로 새롭게 인코딩 및 송신된다. 사용자의 눈이 덜 민감한 이미지 영역(즉, 부중심와 영역(654))은 3개의 프레임 중 각 2개로 새롭게 인코딩 및 송신된다. 사용자의 눈이 심지어 덜 민감한 이미지 영역(즉, 외부 영역)은 매 3개의 프레임마다 한번씩 새롭게 인코딩 및 송신된다. 이는 전달되는 데이터의 양을 상당히 감소시키고 따라서 각 프레임을 전송하는데 요구되는 대역폭 및 시간을 감소시킨다.
일부 실시예로, 디스플레이 시스템(110)은 주어진 프레임에 대해 인코딩되지 않고 디스플레이 장치(105)로 송신되지 않는 영역을 렌더링하지 않는다. 일부 실시예로, 디스플레이 시스템(110)은 장면 내의 활동에 기반하여 어떤 영역이 렌더링되는지 결정한다. 예컨대, 객체가 이미지 영역에서 정적으로 잔존한다면, 그 이미지 영역에 대한 렌더링 주파수는 이동하는 객체가 존재하는 경우보다 더 낮을 수 있다.
추가적인 구성 정보
본 명세서의 실시예들의 상술한 설명은 예시의 목적으로 제시된 것으로서, 배타적이거나 개시된 정확한 형태들로 본 명세서를 제한하고자 하는 것이 아니다. 당업자는 상술한 명세서의 관점에서 많은 변경 및 변형이 가능함을 이해할 수 있다.
본 명세서의 몇몇 부분들은 알고리즘 또는 정보에 대한 동작의 기호적 표현으로 본 명세서의 실시예들을 설명한다. 이러한 알고리즘적 설명이나 표현은 본 기술분야에서 통상의 지식을 가진 자들에게 효과적으로 그들의 작업의 실체를 전달하기 위하여 데이터 프로세싱 기술분야에서 통상의 지식을 가진 자에 의하여 공통적으로 사용되는 것이다. 기능적으로, 계산적으로 또는 논리적으로 설명되고 있는 이들 동작은 컴퓨터 프로그램 또는 등가의 전기 회로, 마이크로 코드 등에 의해 구현되는 것으로 이해된다. 또한, 종종 이러한 동작의 배열은 일반성의 손실 없이 모듈로 언급될 수 있는 것으로 확인된다. 기술된 동작 및 그와 관련된 모듈들은 소프트웨어, 펌웨어, 하드웨어 또는 이들의 임의의 결합으로 구현될 수 있을 것이다.
본 명세서에 설명된 임의의 단계들, 동작들 또는 프로세스들은 하나 이상의 하드웨어 또는 소프트웨어 모듈들에 의해 또는 이들과 다른 장치들의 결합에 의해 수행되거나 구현될 수 있다. 일실시예에서, 소프트웨어 모듈은 기술된 단계들, 동작들 또는 프로세스들 일부 또는 전부를 수행하기 위하여 컴퓨터 프로세서에 의해 실행될 수 있는 컴퓨터 프로그램 코드를 포함하는 컴퓨터 판독가능한 매체를 포함하는 컴퓨터 프로그램 제품으로 구현된다.
본 명세서의 실시예는 본 명세서의 동작을 수행하기 위한 장치에도 관련된다. 이 장치는 요청된 목적을 위하여 구체적으로 구성될 수 있고/있거나 컴퓨터에 저장된 컴퓨터 프로그램에 의해 선택적으로 활성화되거나 재구성되는 범용 컴퓨팅 장치를 포함할 수 있다. 이런 컴퓨터 프로그램은 비-일시적 유형의 컴퓨터 판독가능한 저장 매체 또는 컴퓨터 시스템 버스에 결합될 수 있는 전자 명령어를 저장하기에 적절한 임의의 타입의 매체에 저장될 수 있다. 게다가, 본 명세서에서 언급된 임의의 컴퓨팅 시스템들은 단일 프로세서를 포함할 수 있거나, 증가한 컴퓨팅 능력을 위해 다중 프로세서 설계를 채용한 구조일 수 있다.
본 명세서의 실시예는 본 명세서에 서술된 컴퓨팅 프로세스에 의해 생산된 제품에도 관련된다. 이런 제품은 컴퓨팅 프로세스의 처리 결과인 정보를 포함할 수 있으며, 여기서 정보는 비-일시적, 유형의 컴퓨터 판독가능한 저장 매체에 저장되고 본 명세서에 개시된 컴퓨터 프로그램 제품 또는 다른 데이터 조합의 임의의 실시예를 포함할 수 있다.
마지막으로, 본 명세서에서 사용된 언어는 원칙적으로 읽기 쉬운 지침상의 목적으로 선택되었으며, 발명의 요지를 상세히 설명하거나 제한하려고 선택된 것은 아닐 수 있다. 따라서, 본 명세서의 범위는 발명의 상세한 설명에 의해서가 아니라 본 명세서를 기초로 출원된 임의의 청구범위들에 의해 한정되는 것으로 의도된다. 따라서, 실시예들에 관한 설명은 하기의 청구범위에서 제시되는 명세서의 범위의 예시가 되지만, 이에 제한되지는 않아야 한다.

Claims (20)

  1. 디스플레이 장치의 스크린의 복수의 스크린 영역들을 결정하는 단계로서, 상기 복수의 스크린 영역들은 제2 스크린 영역과 별개의 제1 스크린 영역을 포함하고, 상기 제1 스크린 영역은 사용자의 주시점(point of regard)을 포함하고, 상기 제2 스크린 영역은 상기 제1 스크린 영역을 둘러싸는, 상기 복수의 스크린 영역들을 결정하는 단계;
    제1 인코딩 파라미터의 세트를 사용하여 상기 스크린 상에 디스플레이될 상기 제1 스크린 영역에 대응하는, 객체를 포함하는 이미지의 일부를 인코딩하는 단계;
    제2 인코딩 파라미터의 세트를 사용하여 상기 제2 스크린 영역에 대응하는 이미지의 다른 부분을 인코딩하는 단계로서, 상기 제2 인코딩 파라미터의 세트는 상기 제1 인코딩 파라미터의 세트보다 낮은 품질을 발생시키는, 상기 이미지의 다른 부분을 인코딩하는 단계;
    하나의 시선 벡터가 사용자의 각 눈에 대한 것인, 2개의 시선 벡터의 수렴에 기반하여 사용자의 초점의 깊이를 결정하는 단계;
    상기 이미지 내의 객체의 깊이를 결정하는 단계;
    상기 사용자의 초점의 깊이와 상기 객체의 깊이 사이의 차이를 결정하는 단계;
    상기 차이에 기반하여 상기 제 2 파라미터의 세트를 사용하여 상기 객체를 인코딩하는 단계; 및
    상기 스크린 상에 디스플레이되도록 상기 인코딩된 이미지를 상기 디스플레이 장치로 송신하는 단계를 포함하는, 방법.
  2. 제 1 항에 있어서,
    상기 제1 스크린 영역은 상기 주시점에 중심을 갖는 원이며, 상기 제2 스크린 영역은 상기 주시점 주위의 환형인, 방법.
  3. 제 2 항에 있어서,
    상기 제1 스크린 영역의 크기 및 상기 제2 스크린 영역의 크기는 하나 이상의 파라미터에 기반하고, 상기 하나 이상의 파라미터는:
    상기 제1 스크린 영역의 반경, 및
    상기 환형의 외부 원의 반경을 포함하고,
    상기 외부 원은 상기 제2 스크린 영역의 외부 에지에 대응하는, 방법.
  4. 제 1 항에 있어서,
    상기 제1 스크린 영역은, 제1 원뿔이 상기 디스플레이 장치의 스크린과 교차하는 것에 기반하여 결정되고,
    상기 제2 스크린 영역은, 제2 원뿔이 상기 디스플레이 장치의 스크린과 교차하는 것에 기반하여 결정되는, 방법.
  5. 제 4 항에 있어서,
    상기 제1 스크린 영역의 크기 및 상기 제2 스크린 영역의 크기는 하나 이상의 파라미터에 기반하고, 하나 이상의 파라미터는:
    상기 제1 원뿔의 제1 각도, 및
    상기 제2 원뿔의 제2 각도를 포함하고,
    상기 제1 원뿔의 원뿔형 표면은 축으로부터 상기 제1 각도만큼 오프셋되고,
    상기 제2 원뿔의 원뿔형 표면은 축으로부터 상기 제2 각도만큼 오프셋되는, 방법.
  6. 제 4 항에 있어서,
    상기 사용자의 눈 특성에 기반하여 상기 사용자의 각 눈에 대한 시선 벡터를 결정하는 단계를 더 포함하고, 상기 제1 원뿔의 축은 상기 사용자의 한쪽 눈의 상기 결정된 시선 벡터에 의해 정의되고, 상기 제2 원뿔의 축은 상기 사용자의 다른 쪽 눈의 상기 결정된 시선 벡터에 의해 정의되는, 방법.
  7. 제 1 항에 있어서,
    상기 제1 스크린 영역은 상기 주시점에 중심을 갖는 직사각형이고, 상기 제2 스크린 영역의 형상은 상기 주시점에 중심을 갖는 외부 직사각형에 의해 정의되고, 상기 제1 스크린 영역의 크기 및 상기 제2 스크린 영역의 크기는 하나 이상의 파라미터에 기반하고, 상기 하나 이상의 파라미터는:
    상기 제1 스크린 영역의 길이, 및
    상기 제2 스크린 영역의 형상을 정의하는 상기 외부 직사각형의 한 변의 길이를 포함하는, 방법.
  8. 제 7 항에 있어서,
    상기 제1 스크린 영역의 각 변은 동일한 길이를 갖고, 상기 외부 직사각형의 각 변은 동일한 길이를 갖는, 방법.
  9. 제 1 항에 있어서,
    상기 제1 스크린 영역과 상기 제2 스크린 영역 사이에 더 매끄러운 전환(smoother transition)을 제공하도록 구성된 하나 이상의 추가 스크린 영역을 결정하는 단계; 및
    눈 특성의 노이즈 및 상기 눈 특성의 추정된 정확도 중 적어도 하나에 기반하여, 상기 제1 스크린 영역, 상기 제2 스크린 영역, 및 상기 하나 이상의 추가 스크린 영역의 크기를 업데이트하는 단계를 더 포함하는, 방법.
  10. 제 9 항에 있어서,
    고정점들 사이에 고속 눈 운동을 감지하는 것에 응답하여, 상기 제1 스크린 영역, 상기 제2 스크린 영역, 및 상기 하나 이상의 추가 스크린 영역 각각의 크기를 증가시키는 단계; 및
    상기 고속 눈 운동을 감지한 후 고정이 안정적이라고 감지한 것에 응답하여, 상기 제1 스크린 영역, 상기 제2 스크린 영역, 및 상기 하나 이상의 추가 스크린 영역 각각의 크기를 감소시키는 단계를 더 포함하는, 방법.
  11. 제 1 항에 있어서,
    상기 제1 스크린 영역은 상기 사용자의 눈의 중심와(fovea)에 의해 보여지는 상기 스크린의 영역에 대응하고, 상기 제2 스크린 영역은 상기 사용자의 눈의 부중심와(parafovea)에 의해 보여지는 상기 스크린의 영역에 대응하는, 방법.
  12. 제 1 항에 있어서,
    상기 제1 인코딩 파라미터의 세트는 제1 이미지 해상도를 포함하고, 상기 제2 인코딩 파라미터의 세트는 제2 이미지 해상도를 포함하고, 상기 제1 이미지 해상도는 상기 제2 이미지 해상도보다 높은, 방법.
  13. 제 1 항에 있어서,
    상기 제1 인코딩 파라미터의 세트는 제1 프레임레이트를 포함하고, 상기 제2 인코딩 파라미터의 세트는 제2 프레임레이트를 포함하고, 상기 제1 프레임레이트는 상기 제2 프레임레이트보다 높은, 방법.
  14. 하나 이상의 프로세서에 의해 실행될 때, 상기 하나 이상의 프로세서로 하여금,
    디스플레이 장치의 스크린의 복수의 스크린 영역들을 결정하는 것으로서, 상기 복수의 스크린 영역들은 제2 스크린 영역과 별개의 제1 스크린 영역을 포함하고, 상기 제1 스크린 영역은 사용자의 주시점을 포함하고, 상기 제2 스크린 영역은 상기 제1 스크린 영역을 둘러싸는, 상기 복수의 스크린 영역들을 결정하는 것;
    제1 인코딩 파라미터의 세트를 사용하여 상기 스크린 상에 디스플레이될 상기 제1 스크린 영역에 대응하는, 객체를 포함하는 이미지의 일부를 인코딩하는 것;
    제2 인코딩 파라미터의 세트를 사용하여 상기 제2 스크린 영역에 대응하는 이미지의 다른 부분을 인코딩하는 것으로서, 상기 제2 인코딩 파라미터의 세트는 상기 제1 인코딩 파라미터의 세트보다 낮은 품질을 발생시키는, 상기 이미지의 다른 부분을 인코딩하는 것;
    하나의 시선 벡터가 사용자의 각 눈에 대한 것인, 2개의 시선 벡터의 수렴에 기반하여 사용자의 초점의 깊이를 결정하는 것;
    상기 이미지 내의 객체의 깊이를 결정하는 것;
    상기 사용자의 초점의 깊이와 상기 객체의 깊이 사이의 차이를 결정하는 것;
    상기 차이에 기반하여 상기 제 2 파라미터의 세트를 사용하여 상기 객체를 인코딩하는 것; 및
    상기 스크린 상에 디스플레이되도록 상기 인코딩된 이미지를 상기 디스플레이 장치로 송신하는 것을 포함하는 동작들을 수행하도록 야기하는 명령어를 저장하는 비-일시적 컴퓨터-판독가능한 매체.
  15. 제 14 항에 있어서,
    상기 제1 스크린 영역은 상기 사용자의 눈의 중심와에 의해 보여지는 상기 스크린의 영역에 대응하고, 상기 제2 스크린 영역은 상기 사용자의 눈의 부중심화에 의해 보여지는 상기 스크린의 영역에 대응하는, 비-일시적 컴퓨터-판독가능한 매체.
  16. 제 14 항에 있어서,
    상기 제1 인코딩 파라미터의 세트는 제1 이미지 해상도를 포함하고, 상기 제2 인코딩 파라미터의 세트는 제2 이미지 해상도를 포함하고, 상기 제1 이미지 해상도는 상기 제2 이미지 해상도보다 높은, 비-일시적 컴퓨터-판독가능한 매체.
  17. 제 14 항에 있어서,
    상기 제1 인코딩 파라미터의 세트는 제1 프레임레이트를 포함하고, 상기 제2 인코딩 파라미터의 세트는 제2 프레임레이트를 포함하고, 상기 제1 프레임레이트는 상기 제2 프레임레이트보다 높은, 비-일시적 컴퓨터-판독가능한 매체.
  18. 제 14 항에 있어서,
    상기 제1 스크린 영역은 상기 주시점에 중심을 갖는 원이고, 상기 제2 스크린 영역은 상기 주시점 주위의 환형인, 비-일시적 컴퓨터-판독가능한 매체.
  19. 제 14 항에 있어서,
    상기 제1 스크린 영역은, 제1 원뿔이 상기 디스플레이 장치의 스크린과 교차하는 것에 기반하여 결정되고,
    상기 제2 스크린 영역은, 제2 원뿔이 상기 디스플레이 장치의 스크린과 교차하는 것에 기반하여 결정되는, 비-일시적 컴퓨터-판독가능한 매체.
  20. 하나 이상의 프로세서; 및
    상기 하나 이상의 프로세서에 의해 실행될 때, 상기 하나 이상의 프로세서로 하여금,
    디스플레이 장치의 스크린의 복수의 스크린 영역들을 결정하는 것으로서, 상기 복수의 스크린 영역들은 제2 스크린 영역과 별개의 제1 스크린 영역을 포함하고, 상기 제1 스크린 영역은 사용자의 주시점을 포함하고, 상기 제2 스크린 영역은 상기 제1 스크린 영역을 둘러싸는, 상기 복수의 스크린 영역들을 결정하는 것;
    제1 인코딩 파라미터의 세트를 사용하여 상기 스크린 상에 디스플레이될 상기 제1 스크린 영역에 대응하는, 객체를 포함하는 이미지의 일부를 인코딩하는 것;
    제2 인코딩 파라미터의 세트를 사용하여 상기 제2 스크린 영역에 대응하는 이미지의 다른 부분을 인코딩하는 것으로서, 상기 제2 인코딩 파라미터의 세트는 상기 제1 인코딩 파라미터의 세트보다 낮은 품질을 발생시키는, 상기 이미지의 다른 부분을 인코딩하는 것;
    하나의 시선 벡터가 사용자의 각 눈에 대한 것인, 2개의 시선 벡터의 수렴에 기반하여 사용자의 초점의 깊이를 결정하는 것;
    상기 이미지 내의 객체의 깊이를 결정하는 것;
    상기 사용자의 초점의 깊이와 상기 객체의 깊이 사이의 차이를 결정하는 것;
    상기 차이에 기반하여 상기 제 2 파라미터의 세트를 사용하여 상기 객체를 인코딩하는 것; 및
    상기 스크린 상에 디스플레이되도록 상기 인코딩된 이미지를 상기 디스플레이 장치로 송신하는 것을 포함하는 동작들을 수행하도록 야기하는 명령어를 저장하는 비-일시적 컴퓨터-판독가능한 매체를 포함하는 시스템.
KR1020227017215A 2016-08-01 2017-07-31 눈 추적 정보에 기반하는 이미지 영역에서의 적응형 파라미터 KR102543341B1 (ko)

Applications Claiming Priority (6)

Application Number Priority Date Filing Date Title
US201662369336P 2016-08-01 2016-08-01
US62/369,336 2016-08-01
US15/662,582 US10373592B2 (en) 2016-08-01 2017-07-28 Adaptive parameters in image regions based on eye tracking information
US15/662,582 2017-07-28
KR1020197004708A KR102403304B1 (ko) 2016-08-01 2017-07-31 눈 추적 정보에 기반하는 이미지 영역에서의 적응형 파라미터
PCT/US2017/044749 WO2018026730A1 (en) 2016-08-01 2017-07-31 Adaptive parameters in image regions based on eye tracking information

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
KR1020197004708A Division KR102403304B1 (ko) 2016-08-01 2017-07-31 눈 추적 정보에 기반하는 이미지 영역에서의 적응형 파라미터

Publications (2)

Publication Number Publication Date
KR20220080000A KR20220080000A (ko) 2022-06-14
KR102543341B1 true KR102543341B1 (ko) 2023-06-16

Family

ID=61010531

Family Applications (2)

Application Number Title Priority Date Filing Date
KR1020227017215A KR102543341B1 (ko) 2016-08-01 2017-07-31 눈 추적 정보에 기반하는 이미지 영역에서의 적응형 파라미터
KR1020197004708A KR102403304B1 (ko) 2016-08-01 2017-07-31 눈 추적 정보에 기반하는 이미지 영역에서의 적응형 파라미터

Family Applications After (1)

Application Number Title Priority Date Filing Date
KR1020197004708A KR102403304B1 (ko) 2016-08-01 2017-07-31 눈 추적 정보에 기반하는 이미지 영역에서의 적응형 파라미터

Country Status (6)

Country Link
US (2) US10373592B2 (ko)
EP (2) EP4180920A1 (ko)
JP (2) JP6886510B2 (ko)
KR (2) KR102543341B1 (ko)
CN (1) CN109791605B (ko)
WO (1) WO2018026730A1 (ko)

Families Citing this family (54)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11284109B2 (en) * 2016-01-29 2022-03-22 Cable Television Laboratories, Inc. Visual coding for sensitivities to light, color and spatial resolution in human visual system
US10115205B2 (en) * 2016-03-11 2018-10-30 Facebook Technologies, Llc Eye tracking system with single point calibration
CN108780223B (zh) * 2016-03-11 2019-12-20 脸谱科技有限责任公司 用于生成眼睛模型的角膜球跟踪
US10373592B2 (en) * 2016-08-01 2019-08-06 Facebook Technologies, Llc Adaptive parameters in image regions based on eye tracking information
KR20180025524A (ko) * 2016-08-31 2018-03-09 엘지디스플레이 주식회사 개인 몰입형 표시장치 및 이의 구동방법
JP2020513253A (ja) * 2016-11-10 2020-05-14 ニューロトラック テクノロジーズ，インク． 認識能力の分析のために、画像取得デバイスを人間のユーザーに関連付けるための方法およびシステム
CN107168668A (zh) * 2017-04-28 2017-09-15 北京七鑫易维信息技术有限公司 图像数据传输方法、装置以及存储介质、处理器
TWI646466B (zh) * 2017-08-09 2019-01-01 宏碁股份有限公司 視覺範圍映射方法及相關眼球追蹤裝置與系統
US10946745B2 (en) * 2017-08-30 2021-03-16 Texas Instruments Incorporated GPU-less instrument cluster system with full asset sweep
EP3468187A1 (en) * 2017-10-03 2019-04-10 Axis AB Method and system for encoding video streams
GB2568261B (en) 2017-11-08 2022-01-26 Displaylink Uk Ltd System and method for presenting data at variable quality
US10627899B2 (en) * 2018-02-09 2020-04-21 Microsoft Technology Licensing, Llc Eye tracking system for use in a visible light display device
US10551914B2 (en) * 2018-02-09 2020-02-04 Microsoft Technology Licensing, Llc Efficient MEMs-based eye tracking system with a silicon photomultiplier sensor
US10694170B2 (en) * 2018-03-05 2020-06-23 Valve Corporation Controlling image display via real-time compression in peripheral image regions
US11194389B2 (en) 2018-06-21 2021-12-07 Qualcomm Incorporated Foveated rendering of graphics content using a rendering command and subsequently received eye position data
CN108833976B (zh) * 2018-06-27 2020-01-24 深圳看到科技有限公司 一种全景视频动态切流后的画面质量评估方法及装置
WO2020141344A2 (en) * 2018-07-20 2020-07-09 Tobii Ab Distributed foveated rendering based on user gaze
CN109242943B (zh) 2018-08-21 2023-03-21 腾讯科技（深圳）有限公司 一种图像渲染方法、装置及图像处理设备、存储介质
GB2567553B (en) * 2018-09-06 2021-04-07 Sony Interactive Entertainment Inc Foveated rendering system and method
JP7256491B2 (ja) * 2018-09-13 2023-04-12 凸版印刷株式会社 映像伝送システム、映像伝送装置、および、映像伝送プログラム
US10915776B2 (en) 2018-10-05 2021-02-09 Facebook, Inc. Modifying capture of video data by an image capture device based on identifying an object of interest within capturted video data to the image capture device
CN109377503A (zh) * 2018-10-19 2019-02-22 珠海金山网络游戏科技有限公司 图像更新方法和装置、计算设备及存储介质
WO2020110121A1 (en) * 2018-11-29 2020-06-04 Blink O.G. Ltd. Systems and methods for anatomy-constrained gaze estimation
GB2583061B (en) * 2019-02-12 2023-03-15 Advanced Risc Mach Ltd Data processing systems
US10466489B1 (en) 2019-03-29 2019-11-05 Razmik Ghazaryan Methods and apparatus for a variable-resolution screen
US11284053B2 (en) 2019-03-29 2022-03-22 Razmik Ghazaryan Head-mounted display and projection screen
US10554940B1 (en) 2019-03-29 2020-02-04 Razmik Ghazaryan Method and apparatus for a variable-resolution screen
CN110602475B (zh) * 2019-05-29 2021-06-01 珠海全志科技股份有限公司 提高图像质量的方法及装置、vr显示设备及控制方法
US10976816B2 (en) 2019-06-25 2021-04-13 Microsoft Technology Licensing, Llc Using eye tracking to hide virtual reality scene changes in plain sight
CN110267025B (zh) * 2019-07-03 2021-04-13 京东方科技集团股份有限公司 虚拟3d显示的渲染方法、装置以及其显示方法、系统
CN110347265A (zh) * 2019-07-22 2019-10-18 北京七鑫易维科技有限公司 渲染图像的方法及装置
EP4005201A1 (en) * 2019-07-28 2022-06-01 Google LLC Methods, systems, and media for rendering immersive video content with foveated meshes
US11100899B2 (en) * 2019-08-13 2021-08-24 Facebook Technologies, Llc Systems and methods for foveated rendering
US11106039B2 (en) 2019-08-26 2021-08-31 Ati Technologies Ulc Single-stream foveal display transport
ES2809648A1 (es) * 2019-09-04 2021-03-04 Alias Antonio Jose Casado Sistema y procedimiento de optimizacion del renderizado de imagenes a partir del seguimiento de las pupilas
JP2021057770A (ja) * 2019-09-30 2021-04-08 株式会社ソニー・インタラクティブエンタテインメント 画像データ転送装置および画像圧縮方法
JP7491676B2 (ja) * 2019-09-30 2024-05-28 株式会社ソニー・インタラクティブエンタテインメント 画像データ転送装置および画像圧縮方法
JP7496677B2 (ja) 2019-09-30 2024-06-07 株式会社ソニー・インタラクティブエンタテインメント 画像データ転送装置、画像表示システム、および画像圧縮方法
US11614797B2 (en) * 2019-11-05 2023-03-28 Micron Technology, Inc. Rendering enhancement based in part on eye tracking
US20210134250A1 (en) * 2019-11-05 2021-05-06 Htc Corporation Display system
TWI827874B (zh) * 2019-11-05 2024-01-01 宏達國際電子股份有限公司 顯示系統
WO2021122902A1 (en) * 2019-12-17 2021-06-24 Tobii Ab Method and system for applying adapted colour rendering on a display
CN111142827B (zh) * 2019-12-31 2021-04-13 镁佳(北京)科技有限公司 应用显示方法及装置，存储介质及电子设备
US20210304705A1 (en) * 2020-03-27 2021-09-30 Samsung Electronics Co., Ltd. Image display apparatus and method for managing data packet loss
CN111553972B (zh) * 2020-04-27 2023-06-30 北京百度网讯科技有限公司 用于渲染增强现实数据的方法、装置、设备及存储介质
US11940630B2 (en) * 2020-05-27 2024-03-26 Sony Group Corporation Display apparatus and display method
CN113810696A (zh) * 2020-06-12 2021-12-17 华为技术有限公司 一种信息传输方法、相关设备及系统
KR102384411B1 (ko) * 2020-07-29 2022-04-06 한국항공대학교산학협력단 Vr 영상 제공 시스템 및 방법
US11297332B1 (en) 2020-10-30 2022-04-05 Capital One Services, Llc Gaze-tracking-based image downscaling for multi-party video communication
CN113177434A (zh) * 2021-03-30 2021-07-27 青岛小鸟看看科技有限公司 基于单眼球追踪的虚拟现实系统注视渲染方法、系统
US11863786B2 (en) * 2021-05-21 2024-01-02 Varjo Technologies Oy Method of transporting a framebuffer
CN115933952B (zh) * 2021-08-28 2023-11-24 荣耀终端有限公司 一种触控采样率调节方法及相关装置
CN115236871A (zh) * 2022-05-17 2022-10-25 北京邮电大学 基于人眼跟踪和双向背光的桌面式光场显示系统及方法
US20240007771A1 (en) * 2022-07-01 2024-01-04 Meta Platforms Technologies, Llc Readout methods for foveated sensing

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009009253A (ja) 2007-06-27 2009-01-15 Renesas Technology Corp プログラム実行方法、プログラム、およびプログラム実行システム
JP2012124784A (ja) 2010-12-09 2012-06-28 Canon Marketing Japan Inc 動画再生システム
JP2014508311A (ja) 2010-12-08 2014-04-03 株式会社ソニー・コンピュータエンタテインメント 視線追跡を用いた適応的ディスプレー

Family Cites Families (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08313843A (ja) * 1995-05-16 1996-11-29 Agency Of Ind Science & Technol 視線追従方式による広視野高解像度映像提示装置
JP3263278B2 (ja) * 1995-06-19 2002-03-04 株式会社東芝 画像圧縮通信装置
US6697506B1 (en) * 1999-03-17 2004-02-24 Siemens Corporate Research, Inc. Mark-free computer-assisted diagnosis method and system for assisting diagnosis of abnormalities in digital medical images using diagnosis based image enhancement
WO2001050754A1 (de) 1999-12-30 2001-07-12 Swisscom Mobile Ag Verfahren für die übermittlung von bilddaten
US20030067476A1 (en) 2001-10-04 2003-04-10 Eastman Kodak Company Method and system for displaying an image
JP2004056335A (ja) * 2002-07-18 2004-02-19 Sony Corp 情報処理装置および方法、表示装置および方法、並びにプログラム
US8020993B1 (en) * 2006-01-30 2011-09-20 Fram Evan K Viewing verification systems
JP2009118072A (ja) * 2007-11-05 2009-05-28 Ihi Corp 遠隔操作装置及び遠隔操作方法
EP2309307B1 (en) * 2009-10-08 2020-12-09 Tobii Technology AB Eye tracking using a GPU
KR20110136040A (ko) * 2010-06-14 2011-12-21 주식회사 비즈모델라인 사용자 시선 기반 증강현실 기능이 구비된 단말
US8902970B1 (en) 2010-12-01 2014-12-02 Amazon Technologies, Inc. Altering streaming video encoding based on user attention
US9690099B2 (en) * 2010-12-17 2017-06-27 Microsoft Technology Licensing, Llc Optimized focal area for augmented reality displays
US8885882B1 (en) 2011-07-14 2014-11-11 The Research Foundation For The State University Of New York Real time eye tracking for human computer interaction
CA2847975A1 (en) * 2011-09-07 2013-03-14 Tandemlaunch Technologies Inc. System and method for using eye gaze information to enhance interactions
WO2013109941A2 (en) * 2012-01-19 2013-07-25 Vid Scale, Inc. Methods and systems for video delivery supporting adaption to viewing conditions
KR102001950B1 (ko) * 2012-07-26 2019-07-29 엘지이노텍 주식회사 시선 추적 장치 및 이의 시선 추적 방법
US10514541B2 (en) * 2012-12-27 2019-12-24 Microsoft Technology Licensing, Llc Display update time reduction for a near-eye display
US9244529B2 (en) * 2013-01-27 2016-01-26 Dmitri Model Point-of-gaze estimation robust to head rotations and/or device rotations
US9064295B2 (en) * 2013-02-04 2015-06-23 Sony Corporation Enhanced video encoding using depth information
US9727991B2 (en) 2013-03-01 2017-08-08 Microsoft Technology Licensing, Llc Foveated image rendering
KR20230113418A (ko) * 2013-03-15 2023-07-28 매직 립, 인코포레이티드 디스플레이 시스템 및 방법
CN104427291B (zh) * 2013-08-19 2018-09-28 华为技术有限公司 一种图像处理方法及设备
JP6074122B1 (ja) * 2013-12-09 2017-02-01 ゼンソモトリック インストゥルメンツ ゲゼルシャフト ヒューア イノベイティブ ゼンソリック エムベーハーＳＥＮＳＯＭＯＴＯＲＩＣ ＩＮＳＴＲＵＭＥＮＴＳ Ｇｅｓｅｌｌｓｃｈａｆｔ ｆｕｒ ｉｎｎｏｖａｔｉｖｅ Ｓｅｎｓｏｒｉｋ ｍｂＨ 目追跡装置動作方法及び能動的電力管理を行う目追跡装置
JP6608137B2 (ja) * 2014-01-03 2019-11-20 ハーマン インターナショナル インダストリーズ インコーポレイテッド ディスプレイ上の両眼転導検出
US10264211B2 (en) 2014-03-14 2019-04-16 Comcast Cable Communications, Llc Adaptive resolution in software applications based on dynamic eye tracking
US10423222B2 (en) 2014-09-26 2019-09-24 Digilens Inc. Holographic waveguide optical tracker
US9791924B2 (en) 2014-12-23 2017-10-17 Mediatek Inc. Eye tracking with mobile device in a head-mounted display
US10210844B2 (en) * 2015-06-29 2019-02-19 Microsoft Technology Licensing, Llc Holographic near-eye display
US10475370B2 (en) * 2016-02-17 2019-11-12 Google Llc Foveally-rendered display
US10218968B2 (en) 2016-03-05 2019-02-26 Maximilian Ralph Peter von und zu Liechtenstein Gaze-contingent display technique
US10460704B2 (en) * 2016-04-01 2019-10-29 Movidius Limited Systems and methods for head-mounted display adapted to human visual mechanism
US10373592B2 (en) * 2016-08-01 2019-08-06 Facebook Technologies, Llc Adaptive parameters in image regions based on eye tracking information

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009009253A (ja) 2007-06-27 2009-01-15 Renesas Technology Corp プログラム実行方法、プログラム、およびプログラム実行システム
JP2014508311A (ja) 2010-12-08 2014-04-03 株式会社ソニー・コンピュータエンタテインメント 視線追跡を用いた適応的ディスプレー
JP2012124784A (ja) 2010-12-09 2012-06-28 Canon Marketing Japan Inc 動画再生システム

Also Published As

Publication number Publication date
US20180033405A1 (en) 2018-02-01
KR20190026030A (ko) 2019-03-12
JP2021144227A (ja) 2021-09-24
KR102403304B1 (ko) 2022-06-02
WO2018026730A1 (en) 2018-02-08
US20190318708A1 (en) 2019-10-17
US10373592B2 (en) 2019-08-06
KR20220080000A (ko) 2022-06-14
JP7177213B2 (ja) 2022-11-22
EP4180920A1 (en) 2023-05-17
US10984756B2 (en) 2021-04-20
EP3345125A1 (en) 2018-07-11
EP3345125A4 (en) 2019-05-01
CN109791605A (zh) 2019-05-21
JP6886510B2 (ja) 2021-06-16
CN109791605B (zh) 2023-05-23
JP2019533325A (ja) 2019-11-14

Similar Documents

Publication Publication Date Title
KR102543341B1 (ko) 눈 추적 정보에 기반하는 이미지 영역에서의 적응형 파라미터
US11016301B1 (en) Accommodation based optical correction
US10504207B1 (en) Rendering composite content on a head-mounted display including a high resolution inset
US10257507B1 (en) Time-of-flight depth sensing for eye tracking
KR101962302B1 (ko) 구조화 광을 사용한 안구 추적
US10140695B2 (en) Head-mounted compound display including a high resolution inset
CN108780223B (zh) 用于生成眼睛模型的角膜球跟踪
US9984507B2 (en) Eye tracking for mitigating vergence and accommodation conflicts
US10417784B1 (en) Boundary region glint tracking
US20180173303A1 (en) Eye tracking using a light field camera on a head-mounted display
KR102144040B1 (ko) 헤드 마운트 디스플레이의 얼굴 센서를 사용한 얼굴과 안구 추적 및 얼굴 애니메이션
US10109067B2 (en) Corneal sphere tracking for generating an eye model
US10698218B1 (en) Display system with oscillating element
US10495882B1 (en) Positioning cameras in a head mounted display to capture images of portions of a face of a user

Legal Events

Date Code Title Description
A107 Divisional application of patent
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right