JP7415931B2 - 画像周辺領域内のリアルタイム圧縮による画像表示制御 - Google Patents
画像周辺領域内のリアルタイム圧縮による画像表示制御 Download PDFInfo
- Publication number
- JP7415931B2 JP7415931B2 JP2020543614A JP2020543614A JP7415931B2 JP 7415931 B2 JP7415931 B2 JP 7415931B2 JP 2020543614 A JP2020543614 A JP 2020543614A JP 2020543614 A JP2020543614 A JP 2020543614A JP 7415931 B2 JP7415931 B2 JP 7415931B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- pixel values
- pixel
- block
- copy
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000006835 compression Effects 0.000 title claims description 52
- 238000007906 compression Methods 0.000 title claims description 52
- 230000002093 peripheral effect Effects 0.000 title description 10
- 238000000034 method Methods 0.000 claims description 91
- 238000009877 rendering Methods 0.000 claims description 35
- 230000005540 biological transmission Effects 0.000 claims description 25
- 230000000717 retained effect Effects 0.000 claims description 7
- 230000009471 action Effects 0.000 claims description 4
- 230000003287 optical effect Effects 0.000 description 16
- 238000003491 array Methods 0.000 description 15
- 238000012545 processing Methods 0.000 description 12
- 238000005516 engineering process Methods 0.000 description 10
- 230000008901 benefit Effects 0.000 description 6
- 238000010586 diagram Methods 0.000 description 6
- 230000005043 peripheral vision Effects 0.000 description 6
- 230000006837 decompression Effects 0.000 description 5
- 230000004075 alteration Effects 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 210000001747 pupil Anatomy 0.000 description 4
- 230000000007 visual effect Effects 0.000 description 4
- 238000012935 Averaging Methods 0.000 description 3
- 230000003190 augmentative effect Effects 0.000 description 3
- 210000003128 head Anatomy 0.000 description 3
- 239000011159 matrix material Substances 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 238000000926 separation method Methods 0.000 description 3
- 230000033001 locomotion Effects 0.000 description 2
- 229920001690 polydopamine Polymers 0.000 description 2
- 238000005549 size reduction Methods 0.000 description 2
- 238000012952 Resampling Methods 0.000 description 1
- 230000003466 anti-cipated effect Effects 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 210000005069 ears Anatomy 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 230000004438 eyesight Effects 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 238000003709 image segmentation Methods 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 238000002955 isolation Methods 0.000 description 1
- 238000002156 mixing Methods 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 201000003152 motion sickness Diseases 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 230000001179 pupillary effect Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 241000894007 species Species 0.000 description 1
- 230000000638 stimulation Effects 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/332—Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G3/00—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
- G09G3/001—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background
- G09G3/003—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background to produce spatial visual effects
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/25—Output arrangements for video game devices
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/013—Eye tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
- G06F3/0346—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
- G06F3/147—Digital output to display device ; Cooperation and interconnection of the display device with other functional units using display panels
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F2300/00—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
- A63F2300/80—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game specially adapted for executing a specific type of game
- A63F2300/8082—Virtual reality
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/0147—Head-up displays characterised by optical features comprising a device modifying the resolution of the displayed image
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2340/00—Aspects of display data processing
- G09G2340/02—Handling of images in compressed format, e.g. JPEG, MPEG
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2340/00—Aspects of display data processing
- G09G2340/04—Changes in size, position or resolution of an image
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2360/00—Aspects of the architecture of display systems
- G09G2360/16—Calculation or use of calculated indices related to luminance levels in display data
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
- G09G5/10—Intensity circuits
Description
[項目1]
1または複数のハードウェアプロセッサが、表示パネルに表示するための複数の画素値を有する画像用のデータを受信する段階であって、前記複数の画素値は、複数の色チャネルに属する前記画像の一次領域内のターゲット画素値と、前記複数の色チャネルの第1の色チャネルに属する前記画像の1または複数の二次領域内の第1の画素値と、前記複数の色チャネルの第2の色チャネルに属する前記1または複数の二次領域内の第2の画素値と、を含む段階と、
前記1または複数のハードウェアプロセッサが前記画像の圧縮されたコピーを生成して、前記一次領域の前記ターゲット画素値を保持し、かつ、表色方法で前記第1の画素値および前記第2の画素値の少なくともいくつかを削除することによって前記1または複数の二次領域内の解像度を低減する、前記表示パネルに送信する段階であって、
第1の圧縮レベルを使用して、前記第1の色チャネルの前記第1の画素値を示す前記圧縮されたコピー内の第1の情報を低減する段階であって、前記第1の圧縮レベルが前記第1の情報内の画素値の数量を低減し、前記第1の画素値よりも少ない固有値を有する低減された組の第1の可能画素値から前記第1の情報内の各画素値を選択する、段階と、
第2の圧縮レベルを使用して、前記第2の色チャネルの前記第2の画素値を示す前記圧縮されたコピー内の第2の情報を低減する段階であって、前記第2の圧縮レベルが前記第1の圧縮レベルより小さい圧縮を有し、前記第2の情報内の画素値の数量を低減することなく、前記第2の画素値よりも少ない固有値を有する低減された組の第2の可能画素値から前記第2の情報内の各画素値を選択する、段階と、
を有する段階と、
前記1または複数のハードウェアプロセッサが、前記画像の前記圧縮されたコピーを前記表示パネルに送信して、前記画像を前記表示パネルに表示させる段階と、
を備える方法。
[項目2]
前記圧縮されたコピー内の前記第1の情報および前記第2の情報を低減する前記段階が、
前記画像内の前記第1の画素値の複数のブロックのそれぞれについて、より小さいサイズの単一の第1のサブブロックを有する前記圧縮されたコピー内の前記ブロックを示す段階であって、前記単一の第1のサブブロックの画素値が、前記低減された組の第1の可能画素値から選択され、前記単一の第1のサブブロックの画素値のそれぞれが、前記ブロックからの前記第1の画素値のうちの複数を示す、段階と、
前記画像内の前記第2の画素値の複数のブロックのそれぞれについて、複数の第2のサブブロックを有する前記圧縮されたコピー内の前記ブロックを示す段階であって、前記複数の第2のサブブロックが全体として前記ブロックと同サイズであり、前記複数の第2のサブブロックの画素値が、前記低減された組の第2の可能画素値から選択される、段階と、
を含む、項目1に記載の方法。
[項目3]
前記圧縮されたコピーを使用して前記画像を前記表示パネルに表示する段階であって、前記複数の第2のサブブロック内の各画素値を使用して、前記低減された組の第2の可能画素値のうちの1つになるように前記第2の色チャネルの第2の表示パネル画素のうちの1つの表示を制御することによって、および、前記単一の第1のサブブロック内の前記画素値を使用して、より多くの数量のさらなる画素値を生成することであって、前記さらなる画素値のそれぞれが、前記低減された組の第1の可能画素値のうちの1つになるように前記第1の色チャネルの前記第2の表示パネル画素のうちの1つの表示を制御する、生成することによって、前記保持されたターゲット画素値のそれぞれを使用して、前記一次領域に対応する領域内の前記複数の色チャネルの第1の表示パネル画素のうちの1つの表示を制御し、かつ、前記1または複数の二次領域に対応する1または複数の領域内の前記第2の表示パネル画素の表示を制御する段階を有する、段階をさらに備える、項目2に記載の方法。
[項目4]
前記1または複数のハードウェアプロセッサがレンダリングシステムの一部であり、前記表示パネルが、少なくとも前記低減された第1の情報を含む前記圧縮されたコピー内の情報を復元し、かつ、前記画像を前記表示パネルに表示することを制御する一環として前記復元された情報を使用するように構成される1または複数のハードウェア回路を含むヘッドマウントディスプレイ(HMD)デバイスの一部であり、前記圧縮されたコピーを生成する前記段階が、前記圧縮されたコピーのサイズを低減して、前記圧縮されたコピーを前記レンダリングシステムから前記HMDデバイスに送信するために使用される帯域幅を低減する段階を有する、項目1から3のいずれか一項に記載の方法。
[項目5]
前記HMDデバイスが、前記送信する段階が行われる無線接続を介して前記レンダリングシステムに接続され、前記第1の圧縮レベルまたは前記第2の圧縮レベルのうちの少なくとも1つが前記無線接続の1または複数の特性に少なくとも部分的に基づいて使用される、項目4に記載の方法。
[項目6]
前記レンダリングシステムおよび前記HMDデバイスがゲームシステムの一部であり、前記HMDデバイスが、前記送信する段階が行われるテザーを介して前記レンダリングシステムに接続されるバーチャルリアリティ装置であり、前記画像が実行中のゲームプログラムによって生成される一連の複数の映像フレームのうちの1つであり、前記受信する段階、および前記生成する段階、および前記送信する段階が前記複数の映像フレームのそれぞれについて連続して実行される、項目4または5に記載の方法。
[項目7]
第1の解像度で前記一次領域内に情報を表示することと、前記第1の解像度よりも低い第2の解像度で前記第2の色チャネルの前記1または複数の二次領域内に情報を表示することと、前記第2の解像度よりも低い第3の解像度で前記第1の色チャネルの前記1または複数の二次領域内に情報を表示することと、を含む、前記1または複数のハードウェア回路の制御下で前記画像を前記表示パネルに表示することを制御する段階をさらに備える、項目4から6のいずれか一項に記載の方法。
[項目8]
前記1または複数のハードウェア回路の制御下で、追加情報を生成して前記第1の解像度よりも低く、前記第2の解像度よりも高い第4の解像度で表示する段階と、前記一次領域の少なくとも一部と前記1または複数の二次領域の少なくとも一部との間の中間領域内に前記第4の解像度で前記追加情報を表示する段階と、をさらに備える、項目7に記載の方法。
[項目9]
前記第1の色チャネルが赤色の色チャネルまたは青色の色チャネルの少なくとも1つを含み、前記第2の色チャネルが緑色の色チャネルを含む、項目1から8のいずれか一項に記載の方法。
[項目10]
前記画像の前記圧縮されたコピーを生成する前記段階の前に、前記表示パネルを見るユーザの視線の方向に対応するために前記画像の前記一次領域を決定する段階をさらに備える、項目1から9のいずれか一項に記載の方法。
[項目11]
前記画像の前記圧縮されたコピーを生成する前記段階の前に、特定されたコンテンツを前記画像内に表示する位置に少なくとも部分的に基づいて前記画像の前記一次領域を決定する段階をさらに備える、項目1から10のいずれか一項に記載の方法。
[項目12]
1または複数の現状に基づいて前記画像の前記圧縮されたコピーに使用する圧縮量を決定する段階と、前記決定された圧縮量を含めるように前記圧縮されたコピーを生成する前記段階を実行する段階と、をさらに備え、前記1または複数の現状が、前記画像内の情報の複雑さ、前記1または複数のプロセッサへのロード、前記送信する段階に使用される接続の属性、または、前記表示パネルを見るユーザの1または複数の嗜好のうちの少なくとも1つを含む、項目1から11のいずれか一項に記載の方法。
[項目13]
前記画像が矩形状で構築され、前記表示パネルに表示され、前記画像の1または複数の三次領域を含まない前記画像の非矩形状のサブセットだけが可視であり、前記圧縮されたコピーを生成する前記段階が、前記1または複数の三次領域の少なくとも何らかの画素値情報が前記圧縮されたコピー内に含まれないようにする段階を有する、項目1から12のいずれか一項に記載の方法。
[項目14]
前記画像用の前記データを受信する前記段階が、前記画像を生成する段階を有し、前記画像の前記圧縮されたコピーを生成する前記段階がリアルタイムで前記画像を生成する前記段階と同時に実行される、項目1から13のいずれか一項に記載の方法。
[項目15]
前記画像用の前記データがさらに、前記ターゲット画素値と関連付けられるターゲットHDR輝度値と、前記第1の画素値と関連付けられる第1のHDR輝度値と、前記第2の画素値と関連付けられる第2のHDR輝度値と、を含む複数のハイダイナミックレンジ(HDR)輝度値を指定し、前記画像の前記圧縮されたコピーを生成する前記段階がさらに、前記第1の圧縮レベルおよび前記第2の圧縮レベルより小さい圧縮を有する第3の圧縮レベルを使用して、少なくとも前記第1のHDR輝度値および前記第2のHDR輝度値を示す前記圧縮されたコピー内の第3の情報を低減する段階を有する、項目1から14のいずれか一項に記載の方法。
[項目16]
前記第3の情報を低減する前記段階が、前記第3の情報内の各HDR輝度値を使用して前記第1のHDR輝度値および前記第2のHDR輝度値内の多様なHDR輝度値を示すことによって、前記第3の情報内のHDR輝度値の数量を低減する段階を含み、さらに、前記第1のHDR輝度値および前記第2のHDR輝度値よりも少ない固有値を有する低減された組のHDR可能輝度値から前記第3の情報内の各HDR輝度値を選択する段階を含む、項目15に記載の方法。
[項目17]
前記画像の前記圧縮されたコピーを生成する前記段階がさらに、前記ターゲット画素値と関連付けられる前記ターゲットHDR輝度値の全てを保持して、前記画像の表示の際、前記一次領域の前記ターゲット画素値、および前記ターゲット画素値と関連付けられる前記ターゲットHDR輝度値の解像度を低減させない段階を有する、項目15または16に記載の方法。
[項目18]
システムであって、
複数の画素を有するヘッドマウントディスプレイ(HMD)デバイスの表示パネルと、
自動化動作を前記システムに実行させるように構成される1または複数のハードウェア回路と、
を備え、前記自動化動作が、
画像の複数の画素値を有する符号化されたコピーを受信する動作と、
前記符号化されたコピー内の前記複数の画素値から前記画像の一次領域の前記複数の画素値のうちの多様な画素値を特定する動作であって、前記特定された多様な画素値が、複数の色チャネルに属し、前記一次領域に対応する前記表示パネルの画素を制御する際に使用するためのものである、特定する動作と、
前記画像の1または複数の二次領域用であり、かつ、前記複数の色チャネルのうち少なくとも1つの第1の色チャネルに属する、前記符号化されたコピーから前記複数の画素値の追加の第1の画素値を特定する動作であって、前記追加の第1の画素値が、前記多様な画素値よりも少ない固有値を有する低減された組の第1の可能画素値の各1つである、特定する動作と、
前記複数の色チャネルの少なくとも1つの第2の色チャネルに属する前記画像の前記1または複数の二次領域の他の画素値を生成する動作であって、生成する前記動作が、前記1または複数の二次領域用であり、かつ、前記少なくとも1つの第2の色チャネルに属する、前記符号化されたコピーから前記複数の画素値の追加の第2の画素値を特定する動作と、特定されたそれぞれの追加の第2の画素値を使用して前記他の画素値のうちの複数を生成する動作と、を含み、前記他の画素値が、前記多様な画素値よりも少ない固有値を有する低減された組の第2の可能画素値の各1つである、生成する動作と、
前記画像を前記表示パネルに表示する動作であって、前記特定された追加の第1の画素値、および前記生成された他の画素値のそれぞれを使用して、前記1または複数の二次領域に対応する前記表示パネルの画素の表示を制御する動作と、前記特定された多様な画素値のそれぞれを使用して、前記一次領域に対応する前記表示パネルの前記画素のうちの1つを制御する動作と、を含む、表示する動作と、
を少なくとも含む、
システム。
[項目19]
命令が記憶されたレンダリングシステムのメモリをさらに備え、前記命令は、前記レンダリングシステムの1または複数のハードウェアプロセッサによって実行されると、さらなる自動化動作を実行することによって、前記レンダリングシステムに前記符号化されたコピーを生成させ、前記符号化されたコピーを前記HMDデバイスに送信させ、前記さらなる自動化動作が、
前記レンダリングシステムが、前記複数の色チャネルに属する複数の画素値を含む前記画像用のデータを受信する動作と、
前記レンダリングシステムが、前記1または複数の二次領域内の表色圧縮を利用して前記画像の前記符号化されたコピーを生成する動作であって、
前記符号化されたコピー内で、前記一次領域内の前記受信したデータの画素値を保持し、前記保持した画素値の色データのサイズを保持する動作と、
追加の第1の画素値の複数のブロックのそれぞれについて、前記符号化されたコピー内で、前記ブロックをより小さいサイズの単一の第1のサブブロックと交換することであって、前記単一の第1のサブブロックの画素値のそれぞれが、第1の低減された組の可能画素値から選択され、前記単一の第1のサブブロックの画素値のそれぞれが、前記ブロックからの前記追加の第1の画素値のうちの複数を示す、交換することによって、前記符号化されたコピー内で、前記1または複数の二次領域の前記受信したデータ内にあり、かつ、前記第1の色チャネルに属する、前記追加の第1の画素値について、色データの画素数量およびサイズを低減する動作と、
追加の第2の画素値の複数のブロックのそれぞれについて、前記符号化されたコピー内で、前記ブロックを複数の第2のサブブロックと交換することであって、前記複数の第2のサブブロックの画素値のそれぞれが、第2の低減された組の可能画素値から選択される、交換することによって、前記符号化されたコピー内で、前記1または複数の二次領域の前記受信したデータ内にあり、かつ、前記第2の色チャネルに属する、前記追加の第2の画素値に対して、色データのサイズを低減する動作と、
を含む、生成する動作と、
前記レンダリングシステムが、前記画像の前記符号化されたコピーを前記HMDデバイスに送信する動作と、
を少なくとも含む、項目18に記載のシステム。
[項目20]
前記記憶された命令がさらに、前記レンダリングシステムに、前記表示パネルに表示するために一連の複数の映像フレームを生成するソフトウェアアプリケーションを実行させ、少なくとも1つの接続を介して前記HMDデバイスに送信する前に前記複数の映像フレームのそれぞれを符号化させ、前記画像が複数の映像フレームのうちの1つであり、前記多様な画素値を前記受信および特定する前記動作と、前記追加の第1の画素値を特定する前記動作と、前記他の画素値を生成する前記動作と、表示する前記動作とが、前記複数の映像フレームのそれぞれについて実行される、項目19に記載のシステム。
[項目21]
前記HMDデバイスの第2の表示パネルをさらに備え、前記HMDデバイスが、前記HMDデバイスの装着者の1つの目で見ることができる位置に前記表示パネルを収容し、前記装着者のもう1つの目で見ることができる位置に前記第2の表示パネルを収容し、前記自動化動作がさらに、前記画像を前記表示パネルに表示する前記動作と同時に第2の画像を前記第2の表示パネルに表示して、バーチャルリアリティ表示を前記装着者に提供する動作を含む、項目18から20のいずれか一項に記載のシステム。
[項目22]
前記画像を前記表示パネルに表示する前記動作が、前記一次領域内の情報を第1の解像度で表示する動作と、前記第1の色チャネルの前記1または複数の二次領域内の情報を前記第1の解像度よりも低い第2の解像度で表示する動作と、前記第2の色チャネルの前記1または複数の二次領域内の情報を前記第2の解像度よりも低い第3の解像度で表示する動作と、さらなる情報を、前記第1の解像度よりも低く、前記第2の解像度よりも高い第4の解像度で生成および表示する動作と、を含み、前記さらなる情報を表示する前記動作が、前記一次領域の一部と前記1または複数の二次領域の一部との間で実行される、項目18から21のいずれか一項に記載のシステム。
[項目23]
前記画像が矩形状で構築され、前記表示パネルに表示され、前記画像の1または複数の三次領域を含まない前記画像の非矩形状のサブセットだけが可視であり、前記画像を前記表示パネルに表示する前記動作が、前記1または複数の三次領域に対応する前記符号化されたコピーからのあらゆる画素値を表示しない動作を含む、項目18から22のいずれか一項に記載のシステム。
[項目24]
前記符号化されたコピーがさらに、前記複数の画素値と関連付けられる複数のハイダイナミックレンジ(HDR)輝度値を符号化する追加情報を含み、前記自動化動作がさらに、
前記画像の前記一次領域の前記多様な画素値と関連付けられる複数のHDR輝度値のうちの多様なHDR輝度値を特定する動作と、
前記追加情報内の複数の符号化されたHDR輝度値のそれぞれについて、前記符号化されたHDR輝度値を使用して、他のHDR輝度値のうちの多様なHDR輝度値を生成することによって、前記追加情報から前記複数のHDR輝度値のうちの前記他のHDR輝度値を生成する動作であって、前記他のHDR輝度値のうちの多様なHDR輝度値が、前記特定された多様なHDR輝度値よりも少ない固有値を有する低減された組のHDR可能輝度値の各1つである、生成する動作と、
を含み、
前記画像を表示する前記動作がさらに、前記1または複数の二次領域に対応する前記表示パネルの画素の表示を制御する一環として前記生成された他のHDR輝度値を使用する動作と、前記特定された多様なHDR輝度値を使用して、前記一次領域に対応する前記表示パネルの画素の表示を制御する動作と、を含む、
項目18から23のいずれか一項に記載のシステム。
[項目25]
映像レンダリングコンピューティングシステムの1または複数のハードウェアプロセッサが、ヘッドマウントディスプレイ(HMD)デバイスに表示するために複数の色チャネル内の複数の画素値を有する画像の映像フレームデータを受信する段階と、
前記1または複数のハードウェアプロセッサが、フル解像度で表示される前記画像の一次領域と、フル解像度よりも低い解像度で表示される前記画像の1または複数の二次領域と、を決定する段階と、
前記1または複数のハードウェアプロセッサが前記画像を符号化して、表色方法で前記1または複数の二次領域内で圧縮される前記HMDデバイスに送信するための前記画像の修正されたコピーを生成する段階であって、
前記一次領域内の前記受信した映像フレームデータの第1の画素値に対して、前記修正されたコピー内の前記第1の画素値の全てを保持する段階と、
前記1または複数の二次領域内の前記受信した映像フレームデータの第2の画素値に対して、および前記複数の色チャネルの1または複数の第2の色チャネルに対してとは異なる前記複数の色チャネルの1または複数の第1の色チャネルに対して、前記修正されたコピー内の前記第2の画素値の少なくともいくつかを交換する段階であって、
前記第2の画素値を、それぞれが単一の色チャネルの多様な画素値の定められた第1の数を有する複数のブロックに分割することと、
前記複数のブロックを示し、かつ、それぞれが前記定められた第1の数よりも少ない多様な画素値の第2の数を有する、より小さいサブブロックを作成することであって、前記1または複数の第1の色チャネルのうちの1つの画素値を有する各ブロックについて、各画素値が前記ブロック内に2つ以上の画素値を示す単一のサブブロックを作成することを含み、さらには、前記1または複数の第2の色チャネルのうちの1つの画素値を有する各ブロックについて、画素値が全体として前記ブロックを複製する複数のサブブロックを作成することを含む、作成することと、
各サブブロックについて、前記サブブロック内の各画素値を、前記サブブロックの複数の許容画素値のうちの1つに変えることであって、前記サブブロックからの最小画素値および最大画素値を含めるように、および前記最小画素値と前記最大画素値との間の1または複数の中間画素値を含めるように、前記サブブロックの前記複数の許容画素値を決定することを含む、変えることと、
によって行われる段階と、
を有する段階と、
前記修正されたコピーを前記HMDデバイスに送信する段階と、
前記HMDデバイスの少なくとも1つのコントローラの制御下で、前記修正されたコピーから前記HMDデバイスに前記画像を表示する段階であって、前記保持された第1の画素値を使用して前記一次領域内の表示を制御する段階と、前記作成されたサブブロックおよび前記変えられた画素値から新しいブロックを生成することによって、前記交換した少なくともいくつかの画素値を使用して前記1または複数の二次領域内の表示を制御する段階と、を有する段階と、
を備える方法。
[項目26]
前記1または複数の第1のチャネルが赤色および青色であり、赤色または青色の画素値を有する各ブロックの前記単一のサブブロックを前記作成することを実行して、前記1または複数の二次領域内の前記赤色の色チャネルおよび前記青色の色チャネルの色データの画素数量およびサイズの両方を低減し、前記1または複数の第2のチャネルが緑色であり、緑色の画素値を有する各ブロックの前記複数のサブブロックを前記作成することを実行して、前記1または複数の二次領域内の前記緑色の色チャネルの色データのサイズを低減する一方で、前記1または複数の二次領域内の前記赤色の色チャネルおよび前記青色の色チャネルに対してよりも前記1または複数の二次領域内の前記緑色の色チャネルに対してより高い解像度を提供する、項目25に記載の方法。
[項目27]
前記映像フレームデータが矩形状で受信され、前記画像が前記HMDデバイスに表示され、前記画像の1または複数の三次領域を含まない前記画像の非矩形状のサブセットだけが可視であり、前記画像を符号化して前記修正されたコピーを生成する前記段階が、画素値を一定値に変えることによって前記1または複数の三次領域の色データのサイズを低減する段階を有する、項目26に記載の方法。
[項目28]
前記受信する段階と、前記符号化する段階と、前記送信する段階と、前記表示する段階とを、一連の複数の映像フレームのそれぞれについて実行し、前記決定する段階を、前記HMDデバイスのユーザの視線を追跡することに基づいて各映像フレームについて動的に実行して、前記視線が向く領域として前記一次領域を特定する、項目25から27のいずれか一項に記載の方法。
[項目29]
前記HMDデバイスが、前記送信する段階が行われる無線接続を介して前記映像レンダリングコンピューティングシステムに接続され、前記画像を符号化して前記修正されたコピーを生成する前記段階が、前記無線接続の信号の強度または帯域幅の少なくとも1つに基づいて、ある圧縮レベルで実行される、項目25から28のいずれか一項に記載の方法。
Claims (21)
- 1または複数のハードウェアプロセッサが、表示パネルに表示するための複数の画素値を有する画像用のデータを受信する段階であって、前記複数の画素値は、複数の色チャネルに属する前記画像の一次領域内のターゲット画素値と、前記複数の色チャネルの第1の色チャネルに属する前記画像の1または複数の二次領域内の第1の画素値と、前記複数の色チャネルの第2の色チャネルに属する前記1または複数の二次領域内の第2の画素値と、を含む段階と、
前記1または複数のハードウェアプロセッサが、前記表示パネルに送信するための前記画像の圧縮されたコピーを生成する段階であって、前記圧縮されたコピーは、前記一次領域の前記ターゲット画素値を保持し、かつ、前記1または複数の二次領域内の解像度を低減する、段階であって、
第1の圧縮レベルを使用して、前記第1の色チャネルの前記第1の画素値を示す前記圧縮されたコピー内の第1の情報を低減する段階であって、前記第1の圧縮レベルは、前記第1の情報内の画素値の数量を低減し、前記第1の色チャネルの画素値から決定された複数の第1の可能画素値から前記第1の情報内の各画素値を選択する、段階と、
第2の圧縮レベルを使用して、前記第2の色チャネルの前記第2の画素値を示す前記圧縮されたコピー内の第2の情報を低減する段階であって、前記第2の圧縮レベルは、前記第1の圧縮レベルより低圧縮を有し、前記第2の情報内の画素値の数量を低減することなく、前記第2の色チャネルの画素値から決定された複数の第2の可能画素値から前記第2の情報内の各画素値を選択する、段階と、
を有する段階と、
前記1または複数のハードウェアプロセッサが、前記画像の前記圧縮されたコピーを前記表示パネルに送信して、前記画像を前記表示パネルに表示させる段階と、
を備える方法。 - 前記圧縮されたコピー内の前記第1の情報および前記第2の情報を低減する前記段階が、
前記画像内の前記第1の画素値の複数のブロックのそれぞれについて、より小さいサイズの単一の第1のサブブロックを有する前記圧縮されたコピー内の前記ブロックを示す段階であって、前記単一の第1のサブブロックの画素値は、前記複数の第1の可能画素値から選択され、前記単一の第1のサブブロックの画素値のそれぞれは、前記ブロック内の複数の前記第1の画素値の画素代表値である、段階と、
前記画像内の前記第2の画素値の複数のブロックのそれぞれについて、複数の第2のサブブロックを有する前記圧縮されたコピー内の前記ブロックを示す段階であって、前記複数の第2のサブブロックが全体として前記ブロックと同サイズであり、前記複数の第2のサブブロックの画素値は、前記複数の第2の可能画素値から選択される、段階と、
を含む、請求項1に記載の方法。 - 前記圧縮されたコピーを使用して前記画像を前記表示パネルに表示する段階であって、前記複数の第2のサブブロック内の各画素値を使用して、前記複数の第2の可能画素値のうちの1つになるように前記第2の色チャネルの第2の表示パネル画素のうちの1つの表示を制御することによって、および、前記単一の第1のサブブロック内の前記画素値を使用して、より多くの数量のさらなる画素値を生成することであって、前記さらなる画素値のそれぞれが、前記複数の第1の可能画素値のうちの1つになるように前記第1の色チャネルの前記第2の表示パネル画素のうちの1つの表示を制御する、生成することによって、前記保持されたターゲット画素値のそれぞれを使用して、前記一次領域に対応する領域内の前記複数の色チャネルの第1の表示パネル画素のうちの1つの表示を制御し、かつ、前記1または複数の二次領域に対応する1または複数の領域内の前記第2の表示パネル画素の表示を制御する段階を有する、段階をさらに備える、請求項2に記載の方法。
- 前記1または複数のハードウェアプロセッサがレンダリングシステムの一部であり、前記表示パネルが、少なくとも前記低減された第1の情報を含む前記圧縮されたコピー内の情報を復元し、かつ、前記画像を前記表示パネルに表示することを制御する一環として前記復元された情報を使用するように構成される1または複数のハードウェア回路を含むヘッドマウントディスプレイ(HMD)デバイスの一部であり、前記圧縮されたコピーを生成する前記段階が、前記圧縮されたコピーのサイズを低減して、前記圧縮されたコピーを前記レンダリングシステムから前記HMDデバイスに送信するために使用される帯域幅を低減する段階を有する、請求項1から3のいずれか一項に記載の方法。
- 前記レンダリングシステムおよび前記HMDデバイスがゲームシステムの一部であり、前記HMDデバイスが、前記送信する段階が行われるテザーを介して前記レンダリングシステムに接続されるバーチャルリアリティ装置であり、前記画像が実行中のゲームプログラムによって生成される一連の複数の映像フレームのうちの1つであり、前記受信する段階、および前記生成する段階、および前記送信する段階が前記複数の映像フレームのそれぞれについて連続して実行される、請求項4に記載の方法。
- 第1の解像度で前記一次領域内に情報を表示することと、前記第1の解像度よりも低い第2の解像度で前記第2の色チャネルの前記1または複数の二次領域内に情報を表示することと、前記第2の解像度よりも低い第3の解像度で前記第1の色チャネルの前記1または複数の二次領域内に情報を表示することと、を含む、前記1または複数のハードウェア回路の制御下で前記画像を前記表示パネルに表示することを制御する段階をさらに備える、請求項4または5に記載の方法。
- 前記第1の色チャネルが赤色の色チャネルまたは青色の色チャネルの少なくとも1つを含み、前記第2の色チャネルが緑色の色チャネルを含む、請求項1から6のいずれか一項に記載の方法。
- 前記画像の前記圧縮されたコピーを生成する前記段階の前に、前記表示パネルを見るユーザの視線の方向に対応するために前記画像の前記一次領域を決定する段階をさらに備える、請求項1から7のいずれか一項に記載の方法。
- 前記画像の前記圧縮されたコピーを生成する前記段階の前に、特定されたコンテンツを前記画像内に表示する位置に少なくとも部分的に基づいて前記画像の前記一次領域を決定する段階をさらに備える、請求項1から8のいずれか一項に記載の方法。
- 前記画像が矩形状で構築され、前記表示パネルに表示され、前記画像の1または複数の三次領域を含まない前記画像の非矩形状のサブセットだけが可視であり、前記圧縮されたコピーを生成する前記段階が、前記1または複数の三次領域の少なくとも何らかの画素値情報が前記圧縮されたコピー内に含まれないようにする段階を有する、請求項1から9のいずれか一項に記載の方法。
- 前記画像用の前記データを受信する前記段階が、前記画像を生成する段階を有し、前記画像の前記圧縮されたコピーを生成する前記段階がリアルタイムで前記画像を生成する前記段階と同時に実行される、請求項1から10のいずれか一項に記載の方法。
- システムであって、
複数の画素を有するヘッドマウントディスプレイ(HMD)デバイスの表示パネルと、
自動化動作を前記システムに実行させるように構成される1または複数のハードウェア回路と、
を備え、前記自動化動作が、
画像の複数の画素値を有する符号化されたコピーを受信する動作と、
前記符号化されたコピー内の前記複数の画素値から、前記画像の一次領域内のターゲット画素値を特定する動作であって、前記ターゲット画素値は、複数の色チャネルに属し、前記一次領域に対応する前記表示パネルの画素を制御する際に使用するためのものである、特定する動作と、
前記符号化されたコピー内の前記複数の画素値から、前記複数の色チャネルのうち少なくとも1つの第1の色チャネルに属する、前記画像の1または複数の二次領域内の第1の画素値を特定する動作であって、前記特定された第1の画素値のそれぞれは、前記第1の色チャネルの画素値から決定された複数の第1の可能画素値のうちの1つである、特定する動作と、
前記複数の色チャネルの少なくとも1つの第2の色チャネルに属する前記画像の前記1または複数の二次領域内の第2の画素値を生成する動作であって、生成する前記動作が、前記符号化されたコピー内の前記複数の画素値から、前記少なくとも1つの第2の色チャネルに属する、前記画像の前記1または複数の二次領域内の第2の画素値を特定する動作と、前記特定された第2の画素値を含むブロック内の他の画素値を、前記特定された第2の画素値に設定することによって、前記第2の画素値を生成する動作と、を含み、前記特定された第2の画素値のそれぞれは、前記第2の色チャネルの画素値から決定された複数の第2の可能画素値のうちの1つである、生成する動作と、
前記画像を前記表示パネルに表示する動作であって、前記第1の画素値、および前記第2の画素値のそれぞれを使用して、前記1または複数の二次領域に対応する前記表示パネルの画素の表示を制御する動作と、前記ターゲット画素値のそれぞれを使用して、前記一次領域に対応する前記表示パネルの前記画素のうちの1つを制御する動作と、を含む、表示する動作と、
を少なくとも含む、
システム。 - 命令が記憶されたレンダリングシステムのメモリをさらに備え、前記命令は、前記レンダリングシステムの1または複数のハードウェアプロセッサによって実行されると、さらなる自動化動作を実行することによって、前記レンダリングシステムに前記符号化されたコピーを生成させ、前記符号化されたコピーを前記HMDデバイスに送信させ、前記さらなる自動化動作が、
前記レンダリングシステムが、前記複数の色チャネルに属する複数の画素値を含む前記画像用のデータを受信する動作と、
前記レンダリングシステムが、前記1または複数の二次領域内の表色圧縮を利用して前記画像の前記符号化されたコピーを生成する動作であって、
前記符号化されたコピー内で、前記一次領域内の前記受信したデータのターゲット画素値を保持し、前記保持したターゲット画素値の色データのサイズを保持する動作と、
第2の画素値の複数のブロックのそれぞれについて、前記符号化されたコピー内で、前記ブロックをより小さいサイズの単一の第1のサブブロックと交換することであって、前記単一の第1のサブブロックの画素値のそれぞれは、前記複数の第2の可能画素値から選択され、前記単一の第1のサブブロックの画素値のそれぞれは、前記ブロック内の複数の前記第2の画素値の画素代表値である、交換することによって、前記符号化されたコピー内で、前記1または複数の二次領域の前記受信したデータ内にあり、かつ、前記第2の色チャネルに属する、前記第2の画素値について、色データの画素数量およびサイズを低減する動作と、
第1の画素値の複数のブロックのそれぞれについて、前記符号化されたコピー内で、前記ブロックを複数の第2のサブブロックと交換することであって、前記複数の第2のサブブロックの画素値のそれぞれは、前記複数の第1の可能画素値から選択される、交換することによって、前記符号化されたコピー内で、前記1または複数の二次領域の前記受信したデータ内にあり、かつ、前記第1の色チャネルに属する、前記第1の画素値に対して、色データのサイズを低減する動作と、
を含む、生成する動作と、
前記レンダリングシステムが、前記画像の前記符号化されたコピーを前記HMDデバイスに送信する動作と、
を少なくとも含む、請求項12に記載のシステム。 - 前記記憶された命令がさらに、前記レンダリングシステムに、前記表示パネルに表示するために一連の複数の映像フレームを生成するソフトウェアアプリケーションを実行させ、少なくとも1つの接続を介して前記HMDデバイスに送信する前に前記複数の映像フレームのそれぞれを符号化させ、前記画像が複数の映像フレームのうちの1つであり、前記符号化されたコピーを受信する前記動作と、前記ターゲット画素値を特定する前記動作と、前記第1の画素値を特定する前記動作と、前記第2の画素値を生成する前記動作と、表示する前記動作とが、前記複数の映像フレームのそれぞれについて実行される、請求項13に記載のシステム。
- 前記HMDデバイスの第2の表示パネルをさらに備え、前記HMDデバイスが、前記HMDデバイスの装着者の1つの目で見ることができる位置に前記表示パネルを収容し、前記装着者のもう1つの目で見ることができる位置に前記第2の表示パネルを収容し、前記自動化動作がさらに、前記画像を前記表示パネルに表示する前記動作と同時に第2の画像を前記第2の表示パネルに表示して、バーチャルリアリティ表示を前記装着者に提供する動作を含む、請求項12から14のいずれか一項に記載のシステム。
- 前記画像を前記表示パネルに表示する前記動作が、前記一次領域内の情報を第1の解像度で表示する動作と、前記第1の色チャネルの前記1または複数の二次領域内の情報を前記第1の解像度よりも低い第2の解像度で表示する動作と、前記第2の色チャネルの前記1または複数の二次領域内の情報を前記第2の解像度よりも低い第3の解像度で表示する動作と、を含む、請求項12から15のいずれか一項に記載のシステム。
- 前記画像が矩形状で構築され、前記表示パネルに表示され、前記画像の1または複数の三次領域を含まない前記画像の非矩形状のサブセットだけが可視であり、前記画像を前記表示パネルに表示する前記動作が、前記1または複数の三次領域に対応する前記符号化されたコピーからのあらゆる画素値を表示しない動作を含む、請求項12から16のいずれか一項に記載のシステム。
- 映像レンダリングコンピューティングシステムの1または複数のハードウェアプロセッサが、ヘッドマウントディスプレイ(HMD)デバイスに表示するために複数の色チャネル内の複数の画素値を有する画像の映像フレームデータを受信する段階と、
前記1または複数のハードウェアプロセッサが、フル解像度で表示される前記画像の一次領域と、フル解像度よりも低い解像度で表示される前記画像の1または複数の二次領域と、を決定する段階と、
前記1または複数のハードウェアプロセッサが、前記画像を符号化して、前記1または複数の二次領域内で圧縮される、前記HMDデバイスに送信するための前記画像の修正されたコピーを生成する段階であって、
前記一次領域内の前記受信した映像フレームデータのターゲット画素値に対して、前記修正されたコピー内の前記ターゲット画素値の全てを保持する段階と、
前記複数の色チャネルの1または複数の第1の色チャネルに属する前記1または複数の二次領域内の前記受信した映像フレームデータの第1の画素値について、前記修正されたコピー内の前記第1の画素値の少なくともいくつかを交換し、および、前記1または複数の第1の色チャネルとは異なる前記複数の色チャネルの1または複数の第2の色チャネルに属する前記1または複数の二次領域内の前記受信した映像フレームデータの第2の画素値について、前記修正されたコピー内の前記第2の画素値の少なくともいくつかを交換する段階であって、
前記第1の画素値および前記第2の画素値を、それぞれが単一の色チャネルの多様な画素値の定められた第1の数を有する複数のブロックに分割することと、
前記複数のブロックを示し、かつ、それぞれが前記定められた第1の数よりも少ない多様な画素値の第2の数を有する、より小さいサブブロックを作成することであって、前記1または複数の第1の色チャネルのうちの1つの第1の色チャネルの複数の第1の画素値を有する各ブロックについて、各画素値が前記ブロック内の2つ以上の第1の画素値を示す単一のサブブロックを作成することを含み、さらには、前記1または複数の第2の色チャネルのうちの1つの第2の色チャネルの複数の第2の画素値を有する各ブロックについて、画素値が全体として前記ブロックを複製する複数のサブブロックを作成することを含む、作成することと、
各サブブロックについて、前記サブブロック内の各画素値を、前記サブブロックの複数の許容画素値のうちの1つに変えることであって、前記サブブロックからの最小画素値および最大画素値を含めるように、および前記最小画素値と前記最大画素値との間の1または複数の中間画素値を含めるように、前記サブブロックの前記複数の許容画素値を決定することを含む、変えることと、
によって行われる段階と、
を有する段階と、
前記修正されたコピーを前記HMDデバイスに送信する段階と、
前記HMDデバイスの少なくとも1つのコントローラの制御下で、前記修正されたコピーから前記HMDデバイスに前記画像を表示する段階であって、前記保持されたターゲット画素値を使用して前記一次領域内の表示を制御する段階と、前記作成されたサブブロックおよび前記変えられた画素値から新しいブロックを生成することによって、前記交換した少なくともいくつかの画素値を使用して前記1または複数の二次領域内の表示を制御する段階と、を有する段階と、
を備える方法。 - 前記1または複数の第1の色チャネルが赤色および青色であり、赤色または青色の画素値を有する各ブロックの前記単一のサブブロックを前記作成することを実行して、前記1または複数の二次領域内の前記赤色の色チャネルおよび前記青色の色チャネルの色データの画素数量およびサイズの両方を低減し、前記1または複数の第2の色チャネルが緑色であり、緑色の画素値を有する各ブロックの前記複数のサブブロックを前記作成することを実行して、前記1または複数の二次領域内の前記緑色の色チャネルの色データのサイズを低減する一方で、前記1または複数の二次領域内の前記赤色の色チャネルおよび前記青色の色チャネルに対してよりも前記1または複数の二次領域内の前記緑色の色チャネルに対してより高い解像度を提供する、請求項18に記載の方法。
- 前記映像フレームデータが矩形状で受信され、前記画像が前記HMDデバイスに表示され、前記画像の1または複数の三次領域を含まない前記画像の非矩形状のサブセットだけが可視であり、前記画像を符号化して前記修正されたコピーを生成する前記段階が、画素値を一定値に変えることによって前記1または複数の三次領域の色データのサイズを低減する段階を有する、請求項19に記載の方法。
- 前記受信する段階と、前記符号化する段階と、前記送信する段階と、前記表示する段階とを、一連の複数の映像フレームのそれぞれについて実行し、前記決定する段階を、前記HMDデバイスのユーザの視線を追跡することに基づいて各映像フレームについて動的に実行して、前記視線が向く領域として前記一次領域を特定する、請求項18から20のいずれか一項に記載の方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US15/912,323 US10694170B2 (en) | 2018-03-05 | 2018-03-05 | Controlling image display via real-time compression in peripheral image regions |
US15/912,323 | 2018-03-05 | ||
PCT/US2019/020320 WO2019173147A1 (en) | 2018-03-05 | 2019-03-01 | Controlling image display via real-time compression in peripheral image regions |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021515446A JP2021515446A (ja) | 2021-06-17 |
JP7415931B2 true JP7415931B2 (ja) | 2024-01-17 |
Family
ID=67768869
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020543614A Active JP7415931B2 (ja) | 2018-03-05 | 2019-03-01 | 画像周辺領域内のリアルタイム圧縮による画像表示制御 |
Country Status (6)
Country | Link |
---|---|
US (1) | US10694170B2 (ja) |
EP (2) | EP4273852A3 (ja) |
JP (1) | JP7415931B2 (ja) |
KR (1) | KR102618255B1 (ja) |
CN (1) | CN111819798A (ja) |
WO (1) | WO2019173147A1 (ja) |
Families Citing this family (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10521881B1 (en) * | 2017-09-28 | 2019-12-31 | Apple Inc. | Error concealment for a head-mountable device |
WO2019082510A1 (ja) * | 2017-10-23 | 2019-05-02 | ソニー株式会社 | 表示制御装置、ヘッドマウントディスプレイ、表示制御方法およびコンピュータプログラム |
JP2019103067A (ja) | 2017-12-06 | 2019-06-24 | キヤノン株式会社 | 情報処理装置、記憶装置、画像処理装置、画像処理システム、制御方法、及びプログラム |
US10796407B2 (en) * | 2018-05-11 | 2020-10-06 | Samsung Electronics Co., Ltd. | Foveated domain storage and processing |
US11347056B2 (en) * | 2018-08-22 | 2022-05-31 | Microsoft Technology Licensing, Llc | Foveated color correction to improve color uniformity of head-mounted displays |
US10861240B1 (en) * | 2018-09-26 | 2020-12-08 | Facebook Technologies, Llc | Virtual pupil camera in head mounted display |
US10885882B2 (en) * | 2018-12-06 | 2021-01-05 | Tobii Ab | Reducing aliasing artifacts in foveated rendering using cross-resolution modulation |
WO2020261617A1 (ja) * | 2019-06-27 | 2020-12-30 | 株式会社ソニー・インタラクティブエンタテインメント | 画像処理システム、画像処理用集積回路、および画像処理方法 |
EP4005201A1 (en) * | 2019-07-28 | 2022-06-01 | Google LLC | Methods, systems, and media for rendering immersive video content with foveated meshes |
EP3800889A4 (en) * | 2019-07-31 | 2022-06-15 | Xi'an Novastar Tech Co., Ltd. | DATA PROCESSING METHOD, DEVICE AND SYSTEM, SYSTEM CONTROL DEVICE AND MODULE CONTROL DEVICE |
GB2589325B (en) * | 2019-11-26 | 2021-12-22 | Sony Interactive Entertainment Inc | Image rendering method and apparatus |
CN114830075A (zh) * | 2019-12-18 | 2022-07-29 | 佛吉亚歌乐电子有限公司 | 显示控制装置和显示控制方法 |
US11245911B1 (en) * | 2020-05-12 | 2022-02-08 | Whirlwind 3D, LLC | Video encoder/decoder (codec) for real-time applications and size/b and width reduction |
US11157081B1 (en) * | 2020-07-28 | 2021-10-26 | Shenzhen Yunyinggu Technology Co., Ltd. | Apparatus and method for user interfacing in display glasses |
CN112509146B (zh) * | 2020-11-23 | 2023-06-20 | 歌尔科技有限公司 | 图像处理方法、装置、电子设备及存储介质 |
KR102276936B1 (ko) * | 2021-01-15 | 2021-07-13 | (주)제주넷 | 3차원 가상 전시 공간의 전시물 이용 서비스 제공 장치 |
CN114935971A (zh) * | 2021-02-05 | 2022-08-23 | 京东方科技集团股份有限公司 | 显示驱动芯片、显示装置和显示驱动方法 |
WO2022236601A1 (zh) * | 2021-05-10 | 2022-11-17 | 京东方科技集团股份有限公司 | 图像数据的传输方法及装置 |
US11863786B2 (en) * | 2021-05-21 | 2024-01-02 | Varjo Technologies Oy | Method of transporting a framebuffer |
CN114581781B (zh) * | 2022-05-05 | 2022-08-09 | 之江实验室 | 一种高分辨率遥感图像的目标检测方法及装置 |
CN116248895B (zh) * | 2023-05-06 | 2023-07-21 | 上海扬谷网络科技有限公司 | 虚拟现实全景漫游的视频云转码方法及系统 |
CN117319662B (zh) * | 2023-11-28 | 2024-02-27 | 杭州杰竞科技有限公司 | 一种人体目标识别的图像压缩、解压方法和系统 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006295913A (ja) | 2005-04-11 | 2006-10-26 | Sharp Corp | 空間的スケーラブルコーディングのためのアダプティブアップサンプリング方法および装置 |
US20150003537A1 (en) | 2004-04-23 | 2015-01-01 | Dolby Laboratories Licensing Corporation | Apparatus and Methods for Encoding, Decoding and Representing High Dynamic Range Images |
US20170045941A1 (en) | 2011-08-12 | 2017-02-16 | Sony Interactive Entertainment Inc. | Wireless Head Mounted Display with Differential Rendering and Sound Localization |
Family Cites Families (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5103306A (en) * | 1990-03-28 | 1992-04-07 | Transitions Research Corporation | Digital image compression employing a resolution gradient |
US20030112863A1 (en) * | 2001-07-12 | 2003-06-19 | Demos Gary A. | Method and system for improving compressed image chroma information |
WO2006010644A1 (en) * | 2004-07-29 | 2006-02-02 | Oce-Technologies B.V. | Lossless compression of color image data using entropy encoding |
US7769239B2 (en) | 2006-01-12 | 2010-08-03 | Gary Demos | Efficient bit-exact lossless image coding residual system |
JP4073942B2 (ja) * | 2006-12-01 | 2008-04-09 | シャープ株式会社 | 画像圧縮装置および画像伸張装置、ならびに画像圧縮方法および画像伸張方法をコンピュータに実行させるためのプログラムをそれぞれ記録したコンピュータ読取可能な記録媒体 |
US9897805B2 (en) | 2013-06-07 | 2018-02-20 | Sony Interactive Entertainment Inc. | Image rendering responsive to user actions in head mounted display |
EP2965288A4 (en) * | 2013-03-08 | 2016-07-27 | Intel Corp | IMAGE ENCODING TECHNIQUES BASED ON AREA OF INTEREST |
JP2016202716A (ja) * | 2015-04-24 | 2016-12-08 | 株式会社コーエーテクモゲームス | プログラム及び記録媒体 |
CN105204217B (zh) * | 2015-10-13 | 2018-05-01 | 武汉华星光电技术有限公司 | 液晶显示面板 |
US10356407B2 (en) * | 2015-11-20 | 2019-07-16 | Facebook Technologies, Llc | Display-side video decompression using quantization tables |
US10169846B2 (en) * | 2016-03-31 | 2019-01-01 | Sony Interactive Entertainment Inc. | Selective peripheral vision filtering in a foveated rendering system |
EP3472806A4 (en) * | 2016-06-17 | 2020-02-26 | Immersive Robotics Pty Ltd | IMAGE COMPRESSION METHOD AND DEVICE |
US10373592B2 (en) * | 2016-08-01 | 2019-08-06 | Facebook Technologies, Llc | Adaptive parameters in image regions based on eye tracking information |
US10572764B1 (en) * | 2017-06-05 | 2020-02-25 | Google Llc | Adaptive stereo rendering to reduce motion sickness |
US10861142B2 (en) * | 2017-07-21 | 2020-12-08 | Apple Inc. | Gaze direction-based adaptive pre-filtering of video data |
-
2018
- 2018-03-05 US US15/912,323 patent/US10694170B2/en active Active
-
2019
- 2019-03-01 WO PCT/US2019/020320 patent/WO2019173147A1/en unknown
- 2019-03-01 EP EP23193538.8A patent/EP4273852A3/en active Pending
- 2019-03-01 KR KR1020207028413A patent/KR102618255B1/ko active IP Right Grant
- 2019-03-01 JP JP2020543614A patent/JP7415931B2/ja active Active
- 2019-03-01 EP EP19763329.0A patent/EP3744007B1/en active Active
- 2019-03-01 CN CN201980016998.5A patent/CN111819798A/zh active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20150003537A1 (en) | 2004-04-23 | 2015-01-01 | Dolby Laboratories Licensing Corporation | Apparatus and Methods for Encoding, Decoding and Representing High Dynamic Range Images |
JP2006295913A (ja) | 2005-04-11 | 2006-10-26 | Sharp Corp | 空間的スケーラブルコーディングのためのアダプティブアップサンプリング方法および装置 |
US20170045941A1 (en) | 2011-08-12 | 2017-02-16 | Sony Interactive Entertainment Inc. | Wireless Head Mounted Display with Differential Rendering and Sound Localization |
Non-Patent Citations (1)
Title |
---|
FUNT, Brian et al.,Strategies for Foveated Compression and Transmission,Proc. Symposium for Information Display,2017年,pp.1-4,[online],Retrieved from the Internet: <URL: https://research.google/pubs/pub46452> |
Also Published As
Publication number | Publication date |
---|---|
WO2019173147A1 (en) | 2019-09-12 |
KR20200130359A (ko) | 2020-11-18 |
EP4273852A2 (en) | 2023-11-08 |
US20190273910A1 (en) | 2019-09-05 |
CN111819798A (zh) | 2020-10-23 |
JP2021515446A (ja) | 2021-06-17 |
EP3744007A4 (en) | 2021-04-21 |
EP4273852A3 (en) | 2024-01-10 |
EP3744007A1 (en) | 2020-12-02 |
US10694170B2 (en) | 2020-06-23 |
KR102618255B1 (ko) | 2023-12-27 |
EP3744007B1 (en) | 2023-08-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7415931B2 (ja) | 画像周辺領域内のリアルタイム圧縮による画像表示制御 | |
KR102467376B1 (ko) | 디스플레이 처리 회로 | |
US20230005167A1 (en) | Virtual and augmented reality systems and methods | |
US11094075B1 (en) | Systems and methods utilizing a machine learning model for generating defocus blur effects | |
CN107850777B (zh) | 光学像差校正的方法和装置 | |
US11176901B1 (en) | Pan-warping and modifying sub-frames with an up-sampled frame rate | |
US10572764B1 (en) | Adaptive stereo rendering to reduce motion sickness | |
US11011123B1 (en) | Pan-warping and modifying sub-frames with an up-sampled frame rate | |
EP3598271A1 (en) | Method and device for disconnecting user's attention |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220121 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230210 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230307 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230519 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230905 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20231121 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20231205 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20231218 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7415931 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |