TWI788200B - 影像壓縮方法與設備 - Google Patents

影像壓縮方法與設備 Download PDF

Info

Publication number
TWI788200B
TWI788200B TW111102715A TW111102715A TWI788200B TW I788200 B TWI788200 B TW I788200B TW 111102715 A TW111102715 A TW 111102715A TW 111102715 A TW111102715 A TW 111102715A TW I788200 B TWI788200 B TW I788200B
Authority
TW
Taiwan
Prior art keywords
frequency coefficients
image data
bit
encoded
encoding
Prior art date
Application number
TW111102715A
Other languages
English (en)
Other versions
TW202220441A (zh
Inventor
丹尼爾 利亞姆 菲茨杰拉德
蒂莫西 西蒙 盧卡斯
Original Assignee
澳大利亞商伊門斯機器人控股有限公司
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from AU2016905048A external-priority patent/AU2016905048A0/en
Application filed by 澳大利亞商伊門斯機器人控股有限公司 filed Critical 澳大利亞商伊門斯機器人控股有限公司
Publication of TW202220441A publication Critical patent/TW202220441A/zh
Application granted granted Critical
Publication of TWI788200B publication Critical patent/TWI788200B/zh

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/167Position within a video image, e.g. region of interest [ROI]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/132Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/18Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a set of transform coefficients
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Auxiliary Devices For And Details Of Packaging Control (AREA)
  • Image Processing (AREA)
  • Apparatus For Radiation Diagnosis (AREA)

Abstract

本發明揭示一種將形成部分數位實境內容的一或多個影像中之影像資料壓縮之方法,該方法包括:從該影像資料獲得像素資料,該像素料資料代表該等一或多個影像之內一像素陣列;決定該等一或多個影像之內該像素陣列相對於一已定義位置的一位置,該已定義位置至少部分指示該使用者的一凝視點;以及至少部分依照該已決定的位置將該像素資料壓縮,如此壓縮程度取決於該像素陣列的該已決定位置。

Description

影像壓縮方法與設備
本發明係關於壓縮或解壓縮影像資料的方法及設備,並且在一個特定範例中用於壓縮或解壓縮影像資料,允許用降低的頻寬並且較少的延遲來傳輸影像資料。
本說明書中對任何先前公開 (或其衍生資訊)或任何已知事項的引用,不是也不應被視為確認或承認或任何形式的建議,即先前申請案(或其衍生資訊)或已知事物,構成本說明書所涉及事業領域的一般常見知識之一部分。
在虛擬、增強和混合的實境系統中,通常提供一種可戴式顯示裝置,諸如頭戴式顯示器(HMD,Head Mounted Display),其基於顯示裝置的相對空間位置及/或方位將資訊顯示給佩戴者。這種系統根據關於該顯示裝置姿勢(位置和方位)的資訊產生影像來進行操作,如此隨著該顯示裝置移動,會更新該等影像以反映該顯示裝置的新姿勢。
為了避免暈眩,姿勢資訊的收集和相應影像的建立間之時間差最小化,特別是在該顯示裝置快速移動的情況下,這相當重要。結合產生高解析度影像,使得它們看起來盡可能逼真之需求,這表示需要有相當高階的處理硬體。結果,高端現有系統通常需要具有高頻寬並且低延遲連接至該顯示裝置的靜態桌上型電腦。因此,像是HTC Vive TM、Oculus Rift TM和Playstation VR TM這些當前的系統在電腦與HMD之間需要有線連接,這並不方便。
雖然有行動解決方案可用,例如Gear VR TM,其併入行動電話來執行HMD本身內的影像處理和顯示,但是處理能力是有限的,意味著可以顯示的內容受到限制,特別是在影像解析度和品質方面。
我們都知道,壓縮影像資料可縮小資料體積。這在許多應用當中都非常有用,如減少儲存該影像資料所需的儲存容量,或減少傳輸該影像資料伴隨的頻寬需求。
JPEG使用根據離散餘弦轉換(DCT,discrete cosine transform)的破壞性壓縮,此算術運算將視頻源的每個框/區域(frame/field)從空間(2D)域轉換為頻域(也就是轉換域)。鬆散基於人類精神視覺系統的知覺模型拋棄了高頻資訊,即強度上和色調上的急劇轉變。在轉換域中,通過量化來減少資訊。然後量化係數被序列並鬆散地打包至一輸出位元流。
然而,這種方式通常只能完成有限的壓縮量並且需要相當多的處理時間,因此不適合用於低延遲應用,像是虛擬或增強實境、遙現(telepresence)等。
在一個廣泛的形式中,本發明的態樣尋求提供一種將形成部分數位實境內容的一或多個影像中之影像資料壓縮之方法,該方法包括:從該影像資料獲得像素資料,該像素料資料代表該等一或多個影像之內一像素陣列;決定該等一或多個影像之內該像素陣列相對於一已定義位置的一位置,該已定義位置至少部分指示該使用者的一凝視點;以及將該像素資料壓縮來產生壓縮的影像資料,該像素資料以至少部分依照該已決定位置來壓縮,如此壓縮程度取決於該像素陣列的該已決定位置。
在一個具體實施例內,該已定義位置為至少以下之一:一已測量的該使用者凝視點;一預期的該使用者凝視點;偏移一已測量的該使用者凝視點之處;偏移一預期的該使用者凝視點之處;以及至少部分依照指示該使用者凝視點的凝視資料所決定之處,該凝視資料從一凝視追蹤系統來獲得。
在一個具體實施例內,該方法包括壓縮該像素資料,如此該壓縮程度取決於下列之一:根據與該已定義點的一距離;根據相對於該已定義點的一方向;從該已定義點進一步增加;以及提供渲染壓縮。
在一個具體實施例內,該方法包括:選擇複數個編碼方案之一者;以及使用該選取的編碼方案對該像素資料編碼。
在一個具體實施例內,該等編碼方案之每一者提供一個別壓縮程度,並且其中該方法包含至少部分根據至少以下之一者來選擇該編碼方案:一所要的壓縮程度;以及該像素陣列的該位置。
在一個具體實施例內,該方法包括:決定指示所使用該編碼方案的一編碼代碼;以及使用該編碼代碼與已編碼像素資料來產生壓縮影像資料。
在一個具體實施例內,該方法包括使用一編碼方案,利用以下來壓縮該像素資料:對該像素資料套用一轉換,以決定指示該像素陣列的頻率分量之一組頻率係數;使用一位元編碼方案選擇性對至少某些該等頻率分量編碼,藉此產生一組已編碼的頻率係數;以及使用該已編碼的頻率係數產生壓縮的影像資料。
在一個具體實施例內,該位元編碼方案定義用於編碼該等頻率係數之每一者的位元數,並且其中該等頻率係數進行選擇性編碼,如此至少以下之一者:至少某些該等已編碼頻率係數具有不同位元數;較少位元數用於將對應至較高頻率的頻率係數編碼;逐漸較少的位元數用於將對應至逐漸較高頻率的頻率係數編碼;拋棄至少一頻率係數,如此該組已編碼頻率係數小於該組頻率係數;以及拋棄對應至較高頻率的至少一頻率係數。
在一個具體實施例內,該方法包括:選擇複數個位元編碼方案之一者;以及依照該選取的位元編碼方案對該頻率係數編碼。
在一個具體實施例內,該等複數個位元編碼方案之每一者選擇性用不同的位元數來編碼不同的頻率係數,以提供不同的壓縮程度。
在一個具體實施例內,至少部分根據至少以下之一來選擇該位元編碼方案:一所要的壓縮程度;以及該像素陣列的該位置。
在一個具體實施例內,該等頻率分量配置在複數個層級內,並且其中每一位元編碼方案定義要用來編碼該等複數個層級中每一者內該等頻率係數的一各別位元數。
在一個具體實施例內,該陣列為一 Nx N像素陣列,導致2 N-1個頻率分量層級。
在一個具體實施例內,該方法包括將一比例縮放因數套用到至少某些該等頻率係數,如此編碼已比例縮放的頻率係數,該比例縮放因數用來減少每一頻率係數的強度,並且其中至少以下之一:將不同的比例縮放因數套用到至少某些頻率係數;將該相同的比例縮放因數套用到每一頻率係數;以及將一不同的比例縮放因數套用到一不同通道內的頻率係數。
在一個具體實施例內,該影像資料定義複數個通道,並且其中該方法包括針對每一通道選擇性編碼頻率係數。
在一個具體實施例內,該像素資料定義RGB通道,並且其中該方法包括:將該RGB通道轉換成YCbCr通道;以及轉換該等YCbCr通道。
在一個具體實施例內,該方法包括至少以下之一:選擇性針對該Y通道比起該等Cb或Cr通道編碼更多頻率係數;選擇性針對該等YCbCr通道同時編碼頻率係數;以及選擇性針對該等CbCr通道編碼頻率係數並使用該Y通道。
在一個具體實施例內,該轉換為一二維(2-D)離散餘弦轉換。
在一個具體實施例內,該方法包括利用以下從影像資料獲取像素資料:緩衝對應至該影像的下一個 n-1列像素之影像資料;緩衝該下一列像素的下一個 n像素之影像資料;從該已緩衝影像資料中獲得下一個 nx n像素區塊的像素資料;重複步驟b)和c),直到已經從所有該 n列像素中獲得像素資料;以及重複步驟a)至d),直到已經從該影像的每一列像素中獲得像素資料。
在一個具體實施例內,根據至少以下之一來選擇 n:一選取的位元編碼方案;一所要的壓縮程度;以及該像素陣列的該位置。
在一個具體實施例內,該方法包括:同時選擇編碼頻率係數;以及至少部分通過並行至序列位元組編碼來產生壓縮的影像資料。
在一個廣泛的形式中,本發明的態樣尋求提供一種將形成部分數位實境內容的一或多個影像中之已壓縮影像資料解壓縮之方法,該方法包括:獲得已壓縮的影像資料,該已壓縮影像資料代表該等一或多個影像之內一像素陣列,並且至少部分根據該等一或多個影像之內相對於一已定義位置的該像素陣列之一位置來壓縮,該已定義位置至少部分指示該使用者的凝視點;以及至少部分根據該已決定位置來將該已壓縮影像資料解壓縮。
在一個具體實施例內,該已定義位置為至少以下之一:一已測量的該使用者凝視點;一預期的該使用者凝視點;偏移一已測量的該使用者凝視點之處;偏移一預期的該使用者凝視點之處;以及至少部分依照指示該使用者凝視點的凝視資料所決定之處,該凝視資料從一凝視追蹤系統來獲得。
在一個具體實施例內,該方法包括:選擇複數個解碼方案之一者;以及使用該選取的解碼方案對該像素資料解碼。
在一個具體實施例內,該方法包括至少部分根據至少以下之一來選擇該解碼方案:一所要的壓縮程度;該像素陣列的一位置;以及指示所使用的該編碼方案之一編碼代碼,該編碼代碼由該已壓縮的資料影像來決定。
在一個具體實施例內,該方法包括使用一解碼方案,利用以下來解壓縮該已壓縮的像素資料:依照其中定義每一已編碼頻率係數內所使用該位元數的一位元編碼方案,從該已壓縮影像資料決定一組已編碼頻率係數;依照該位元編碼方案來執行該已編碼頻率係數的位元解碼,藉此產生一組頻率係數,其中產生至少一個頻率係數,如此該組已編碼頻率係數小於該組頻率係數;以及對該組頻率係數套用一逆向轉換,來決定代表該等一或多個影像之內一像素陣列的像素資料。
在一個具體實施例內,該位元編碼方案定義用於編碼該等頻率係數每一者的該位元數,該位元編碼方案使用較少的位元數,來編碼對應至較高頻率的頻率係數,並且其中該方法包括產生對應至較高頻域的至少某些該頻率係數。
在一個具體實施例內,該方法包括:選擇複數個位元編碼方案之一者;以及依照該選取的位元編碼方案對該已編碼的頻率係數解碼。
在一個具體實施例內,該等複數個位元編碼方案之每一者選擇性用不同的位元數來編碼不同的頻率係數,以提供一不同的壓縮程度。
在一個具體實施例內,至少部分根據至少以下之一來選擇該位元編碼方案:一編碼代碼;該位元編碼方案,用來產生該已壓縮的影像資料;以及該像素陣列的該位置。
在一個具體實施例內,該等頻率分量配置在複數個層級內,並且其中每一位元編碼方案定義要用來編碼該等複數個層級中每一者內該等頻率係數的一各別位元數。
在一個具體實施例內,該陣列為一 Nx N像素陣列,導致2 N-1個頻率分量層級。
在一個具體實施例內,該方法包括將一比例縮放因數套用到至少某些該等頻率係數,如此解碼已比例縮放的已編碼頻率係數,該比例縮放因數用來增加每一頻率係數的強度,並且其中至少以下之一:將不同的比例縮放因數套用到至少某些已編碼頻率係數;將該相同的比例縮放因數套用到每一已編碼頻率係數;以及將一不同的比例縮放因數套用到一不同通道內的已編碼頻率係數。
在一個具體實施例內,該影像資料定義複數個通道,並且其中該方法包括針對每一通道選擇性解碼已編碼的頻率係數。
在一個具體實施例內,該已壓縮影像資料定義YCbCr通道,並且其中該方法包括:執行該等YCbCr通道的一逆轉換;以及將該等已轉換YCbCr通道轉換成RGB通道。
在一個具體實施例內,該方法包括至少以下之一:比該Y通道產生更多頻率係數給該Cb或Cr通道;同時解碼該等已編碼YCbCr通道;以及解碼該等CbCr通道,並將該等已編碼CbCr通道與該Y通道轉換成RGB通道。
在一個具體實施例內,該逆轉換為一逆二維(2-D)離散餘弦轉換。
在一個具體實施例內,該方法包括:至少部分通過序列至並行位元組解碼來解碼已壓縮的影像資料;以及同時選擇性解碼頻率係數。
在一個具體實施例內,根據至少以下之一來決定所要的壓縮程度:該像素陣列的該位置;用來傳輸該已壓縮影像資料的一通訊連結之傳輸頻寬;用來傳輸該已壓縮影像資料的一通訊連結之傳輸服務品質;一顯示裝置的移動;影像顯示需求;一目標顯示解析度;經處理的一通道;以及錯誤矩陣。
在一個具體實施例內,該數位實境為至少以下之一:增強實境;虛擬實境;混合實境;以及遙現。
在一個具體實施例內,該方法用於透過至少以下之一,將來自一計算裝置的該影像資料傳輸至一可穿戴式數位實境頭戴組:一通訊網路;以及一無線通訊連結。
在一個廣泛的形式中,本發明的態樣尋求提供一種將形成部分數位實境內容的一或多個影像中之影像資料壓縮之設備,該設備包括至少一個電子編碼器處理裝置,該至少一個電子編碼器處理裝置:從該影像資料獲得像素資料,該像素料資料代表該等一或多個影像之內一像素陣列;決定該等一或多個影像之內該像素陣列相對於一已定義位置的一位置,該已定義位置至少部分指示該使用者的一凝視點;以及至少部分依照該已決定的位置將該像素資料壓縮,如此壓縮程度取決於該像素陣列的該已決定位置。
在一個廣泛的形式中,本發明的態樣尋求提供一種將形成部分數位實境內容的一或多個影像中之已壓縮影像資料解壓縮之設備,該設備包括至少一個電子解碼器處理裝置,該至少一個電子解碼器處理裝置:獲得已壓縮的影像資料,該已壓縮影像資料代表該等一或多個影像之內一像素陣列,並且至少部分根據該等一或多個影像之內相對於一已定義位置的該像素陣列之一位置來壓縮,該已定義位置至少部分指示該使用者的凝視點;以及至少部分根據該已決定位置來將該已壓縮影像資料解壓縮。
在一個廣泛的形式中,本發明的態樣尋求提供一種將代表一或多個影像的影像資料壓縮之方法,該方法包括:從該影像資料獲得像素資料,該像素料資料代表該等一或多個影像之內一像素陣列;對該像素資料套用一轉換,以決定指示該像素陣列的頻率分量之一組頻率係數;使用一位元編碼方案選擇性編碼至少某些該等頻率係數,藉此產生一組已編碼的頻率係數,其中該位元編碼方案定義用於將該等頻率係數每一者編碼的該位元數,如此該等頻率係數選擇性編碼時:使用不同位元數將至少某些該等已編碼頻率係數編碼;以及拋棄至少一頻率係數,如此該組已編碼頻率係數小於該組頻率係數;以及使用該已編碼的頻率係數產生壓縮的影像資料。
在一個具體實施例內,選擇性編碼該等頻率係數,如此至少以下之一:定義使用一些位元來編碼頻率係數之每一者,與該各別頻率係數之值無關;較少位元數用於將對應至較高頻率的頻率係數編碼;逐漸較少的位元數用於將對應至逐漸較高頻率的頻率係數編碼;拋棄對應至較高頻率的至少一頻率係數。
在一個具體實施例內,該方法包括將一比例縮放因數套用到至少某些該等頻率係數,如此編碼已比例縮放的頻率係數,並且其中至少以下之一:將不同的比例縮放因數套用到至少某些頻率係數;將該相同的比例縮放因數套用到每一頻率係數;以及該比例縮放因數用來降低頻率係數每一者的強度。
在一個具體實施例內,該方法包括:選擇複數個編碼方案之一者;以及使用該選取的編碼方案對該像素資料編碼。
在一個具體實施例內,該等編碼方案之每一者提供一各別壓縮程度,並且其中該方法包含至少部分根據至少以下之一者來選擇該編碼方案:一所要的壓縮程度;以及該像素陣列的該位置。
在一個具體實施例內,該方法包括依照至少以下之一將頻率係數選擇性編碼:選擇規則;一所要的壓縮程度;以及該等一或多個影像內該像素陣列的一位置。
在一個具體實施例內,該方法包括:選擇複數個位元編碼方案之一者;以及依照該選取的位元編碼方案對該頻率係數編碼。
在一個具體實施例內,該等複數個位元編碼方案之每一者選擇性用不同的位元數來編碼不同的頻率係數,以提供不同的壓縮程度。
在一個具體實施例內,至少部分根據至少以下之一來選擇該位元編碼方案:選擇規則;一所要的壓縮程度;以及該像素陣列的該位置。
在一個具體實施例內,該方法包括根據至少以下之一來選擇該位元解碼方案:用來傳輸該已壓縮影像資料的一通訊連結之傳輸頻寬;用來傳輸該已壓縮影像資料的一通訊連結之傳輸服務品質;一顯示裝置的移動;影像顯示需求;一目標顯示解析度;經處理的一通道;該等一或多個影像之內該像素陣列的一位置;該等一或多個影像之內該像素陣列相對於該等一或多個影像的一觀察者凝視點之一位置;以及錯誤矩陣。
在一個具體實施例內,該等頻率分量配置在複數個層級內,並且其中每一位元編碼方案定義要用來編碼該等複數個層級中每一者內該等頻率係數的一各別位元數。
在一個具體實施例內,該陣列為一 Nx N像素陣列,導致2 N-1個頻率分量層級。
在一個具體實施例內,該方法包括:決定該等一或多個影像的一觀察者之凝視點;至少部分依照該凝視點將頻率係數選擇性編碼。
在一個具體實施例內,該方法包括:決定該凝視點與該等一或多個影像內該像素陣列的一位置間之距離;以及依照該距離將頻率係數選擇性編碼,如此較大距離有較少的頻率係數經過編碼。
在一個具體實施例內,該影像資料定義複數個通道,並且其中該方法包括針對每一通道選擇性編碼頻率係數。
在一個具體實施例內,該像素資料定義RGB通道,並且其中該方法包括:將該RGB通道轉換成YCbCr通道;以及轉換該等YCbCr通道。
在一個具體實施例內,該方法包括至少以下之一:選擇性針對該Y通道而比該等Cb或Cr通道編碼更多頻率係數;選擇性針對該等YCbCr通道同時編碼更多頻率係數;以及通過以下產生該已壓縮影像資料:編碼該等CbCr通道;以及使用該Y通道。
在一個具體實施例內,該轉換為一二維(2-D)離散餘弦轉換。
在一個具體實施例內,該方法包括從一視頻饋送當中獲取該像素資料。
在一個具體實施例內,該方法包括利用以下從影像資料獲取像素資料:緩衝對應至該影像的下一個 n-1列像素之影像資料;緩衝該下一列像素的下一個 n像素之影像資料;從該已緩衝影像資料中獲得下一個 nx n像素區塊的像素資料;重複步驟b)和c),直到已經從所有該 n列像素中獲得像素資料;以及重複步驟a)至d),直到已經從該影像的每一列像素中獲得像素資料。
在一個具體實施例內,根據至少以下之一來選擇 n:選擇規則;一選取的位元編碼方案;以及該像素陣列的該位置。
在一個具體實施例內,該方法包括:同時選擇編碼頻率係數;以及至少部分通過並行至序列位元組編碼來產生壓縮的影像資料。
在一個廣泛的形式中,本發明的態樣尋求提供一種將代表一或多個影像的影像資料壓縮之設備,該設備包括至少一個電子編碼器處理裝置,該至少一個電子編碼器處理裝置:從該影像資料獲得像素資料,該像素料資料代表該等一或多個影像之內一像素陣列;對該像素資料套用一轉換,以決定指示該像素陣列的頻率分量之一組頻率係數;使用一位元編碼方案選擇性編碼至少某些該等頻率係數,藉此產生一組已編碼的頻率係數,其中該位元編碼方案定義用於將該等頻率係數編碼的該位元數,並且其中該等頻率係數選擇性編碼時:至少某些該等已編碼頻率係數具有不同位元數;拋棄至少一頻率係數,如此該組已編碼頻率係數小於該組頻率係數;以及使用該已編碼的頻率係數產生已壓縮的影像資料。
在一個具體實施例內,該設備包括:一編碼器輸入緩衝區,用來接收該影像資料;以及一編碼器輸出緩衝區,其中儲存壓縮影像資料。
在一個具體實施例內,該設備包括一編碼器輸入緩衝區,該編碼器輸入緩衝區:緩衝對應至該影像的下一個 n-1列像素之影像資料;緩衝該下一列像素中下一個 n像素的影像資料,允許該至少一個編碼器處理裝置從該已緩衝影像資料中獲取下一個 nx n像素區塊的像素資料;重複步驟b),直到已經從所有該 n列像素中獲得像素資料;以及重複步驟a)和b),直到已經從該影像的每一列像素中獲得像素資料。
在一個具體實施例內,該設備包括一編碼器發射器,發射來自該編碼器輸出緩衝區的該影像資料。
在一個具體實施例內,該至少一個編碼器處理裝置包括:一現場可程式閘陣列;一專用積體電路以及一圖形處理單元。
在一個具體實施例內,該像素資料定義複數個通道,並且其中該設備包括至少每一通道的一各別處理裝置之一者以及一並行處理裝置,用來同時處理每一通道。
在一個具體實施例內,該像素資料定義RGB通道,並且其中該設備:將該RGB通道轉換成YCbCr通道;以及使用處理裝置將該等YCbCr通道選擇性編碼。
在一個具體實施例內,該像素資料定義RGB通道,並且其中該設備:使用一YCbCr處理裝置,將該等RGB通道轉換成CbCr通道;使用至少一各別處理裝置將該等CbCr通道解碼;以及使用一延遲區塊將該Y通道從該YCbCr處理裝置轉換至一輸出緩衝區。
在一個具體實施例內,該設備包括一編碼器,用無線通訊方式與一解碼器通訊,允許影像資料以已壓縮影像資料方式在該編碼器與該解碼器之間轉換。
在一個具體實施例內,該編碼器為耦合至合適程式編輯的處理系統至少之一及其一部分。
在一個具體實施例內,該解碼器為耦合至一可穿戴顯示裝置至少之一及其一部分。
在一個具體實施例內,該編碼器和解碼器通訊來交換至少以下之一:已壓縮的影像資料;指示一顯示裝置移動的移動資料;至少部分用來控制該顯示裝置的控制資料;指示使用者輸入指令的輸入資料;指示一觀察者的凝視點之凝視資料;以及來自與一可穿戴顯示裝置關聯的感應器之感應器資料。
在一個廣泛的形式中,本發明的態樣尋求提供一種將代表一或多個影像的已壓縮影像資料解壓縮之方法,該方法包括:獲取已壓縮的影像資料;依照定義每一已編碼頻率係數內所使用位元數的一位元編碼方案,從該已壓縮影像資料決定一組已編碼頻率係數;依照該位元編碼方案來執行該已編碼頻率係數的位元解碼,藉此產生一組頻率係數,其中產生至少一個頻率係數,如此該組已編碼頻率係數小於該組頻率係數;以及對該組頻率係數套用一逆向轉換,來決定代表該等一或多個影像之內一像素陣列的像素資料。
在一個具體實施例內,該方法包括:選擇複數個解碼方案之一者;以及使用該選取的解碼方案對該像素資料解碼。
在一個具體實施例內,該方法包括至少部分根據至少以下之一來選擇該解碼方案:選擇規則;一所要的壓縮程度;該像素陣列的一位置;以及指示所使用的該編碼方案之一編碼代碼,該編碼代碼由該已壓縮的資料影像來決定。
在一個具體實施例內,該位元編碼方案使用較少的位元數,來編碼對應至較高頻率的頻率係數,並且其中該方法包括產生對應至較高頻域的至少某些該頻率係數。
在一個具體實施例內,該方法包括將一比例縮放因數套用到至少某些該等頻率係數,如此轉換已比例縮放的頻率係數,並且其中至少以下之一:將不同的比例縮放因數套用到至少某些已編碼頻率係數;將該相同的比例縮放因數套用到每一已編碼頻率係數;以及該比例縮放因數用來增加已編碼頻率係數每一者的強度。
在一個具體實施例內,該方法包括:選擇複數個位元編碼方案之一者;以及依照該選取的位元編碼方案對該已編碼的頻率係數解碼。
在一個具體實施例內,該等複數個位元編碼方案之每一者選擇性用不同的位元數來編碼不同的頻率係數,以提供不同的壓縮程度。
在一個具體實施例內,至少部分根據至少以下之一來選擇該位元編碼方案:一編碼代碼;選擇規則;該位元編碼方案,用來產生該已壓縮的影像資料;以及該像素陣列的該位置。
在一個具體實施例內,該選擇規則根據至少以下之一:用來傳輸該已壓縮影像資料的一通訊連結之傳輸頻寬;用來傳輸該已壓縮影像資料的一通訊連結之傳輸服務品質;一顯示裝置的移動;影像顯示需求;一目標顯示解析度;經處理的一通道;該等一或多個影像之內該像素陣列的一位置;該等一或多個影像之內該像素陣列相對於該等一或多個影像的一觀察者凝視點之一位置;以及錯誤矩陣。
在一個具體實施例內,該方法包括:決定該等一或多個影像的一觀察者之凝視點;至少部分依照該凝視點將已編碼頻率係數選擇性解碼。
在一個具體實施例內,該方法包括:決定該凝視點與該等一或多個影像內該像素陣列的一位置間之距離;以及依照該距離將該已編碼頻率係數選擇性解碼,如此較大距離產生較多的頻率係數。
在一個具體實施例內,該等頻率分量配置在複數個層級內,並且其中每一位元編碼方案定義要用來編碼該等複數個層級中每一者內該等頻率係數的一各別位元數。
在一個具體實施例內,該陣列為一 Nx N像素陣列,導致2 N-1個頻率分量層級。
在一個具體實施例內,該影像資料定義複數個通道,並且其中該方法包括針對每一通道選擇性解碼已編碼的頻率係數。
在一個具體實施例內,該已壓縮影像資料定義YCbCr通道,並且其中該方法包括:執行該等YCbCr通道的一逆轉換;以及將該等已轉換YCbCr通道轉換成RGB通道。
在一個具體實施例內,該方法包括至少以下之一:比該Y通道產生更多頻率係數給該Cb或Cr通道;同時解碼該等已編碼YCbCr通道;解碼該等CbCr通道,並將該等已解碼CbCr通道與該Y通道轉換成RGB通道。
在一個具體實施例內,該逆轉換為一逆二維(2-D)離散餘弦轉換。
在一個具體實施例內,該方法包括使用該像素資料來產生一視頻饋送。
在一個具體實施例內,該方法包括:至少部分通過序列至並行位元組解碼來解碼已壓縮的影像資料;以及同時選擇性解碼頻率係數。
在一個具體實施例內,該數位實境為至少以下之一:增強實境;虛擬實境;以及混合實境。
在一個具體實施例內,該方法用於利用透過至少以下之一,接收來自一計算裝置的該已壓縮影像資料,在一可戴式數位實境頭戴組內顯示影像資料:一通訊網路;以及一無線通訊連結。
在一個具體實施例內,該方法用於至少以下之一:傳輸虛擬實境視頻資料;以及無線傳輸虛擬實境視頻資料。
在一個廣泛的形式中,本發明的態樣尋求提供一種將代表一或多個影像的已壓縮影像資料解壓縮之設備,該設備包括至少一個電子解碼器處理裝置,該至少一個電子解碼器處理裝置:獲取已壓縮的影像資料;依照定義每一已編碼頻率係數內所使用該位元數的一位元編碼方案,從該已壓縮影像資料決定一組已編碼頻率係數;依照該位元編碼方案來執行該已編碼頻率係數的位元解碼,藉此產生一組頻率係數,其中產生至少一個頻率係數,如此該組已編碼頻率係數小於該組頻率係數;以及對該組頻率係數套用一逆向轉換,來決定代表該等一或多個影像之內一像素陣列的像素資料。
在一個具體實施例內,該設備包括:一解碼器輸入緩衝區,用來接收該已壓縮影像資料;以及一解碼器輸出緩衝區,其儲存該影像資料。
在一個具體實施例內,該設備包含一解碼器收發器,接收該已壓縮影像資料並將該已壓縮影像資料提供至該輸入緩衝區。
在一個具體實施例內,該至少一個解碼器處理裝置包括:一現場可程式閘陣列;一專用積體電路以及一圖形處理單元。
在一個具體實施例內,該已壓縮影像資料定義複數個通道,並且其中該設備包括至少每一通道的一各別處理裝置之一者以及一並行處理裝置,用來同時處理每一通道。
在一個具體實施例內,該已壓縮影像資料定義YCbCr通道,並且其中該設備:使用至少一個處理裝置將該等CbCr通道解碼;以及將該等已解碼YCbCr通道轉換成RGB通道。
在一個具體實施例內,該已壓縮影像資料定義YCbCr通道,並且其中該設備:使用處理裝置將該等CbCr通道解碼;使用一RGB處理裝置,將該等已解碼CbCr通道與該Y通道轉換成RGB通道;以及使用一延遲區塊將該Y通道從一解碼器輸入緩衝區轉換至該RGB處理裝置。
在一個具體實施例內,該設備包括一解碼器,以無線通訊方式與一編碼器通訊,允許影像資料作為已壓縮影像資料在該編碼器與該解碼器之間傳輸。
在一個具體實施例內,該解碼器為耦合至合適程式編輯的電腦系統至少之一及其一部分。
在一個具體實施例內,該解碼器為耦合至一可穿戴顯示裝置至少之一及其一部分。
在一個具體實施例內,該解碼器和編碼器通訊來交換至少以下之一:已壓縮的影像資料;指示一顯示裝置移動的移動資料;至少部分用來控制該顯示裝置的控制資料;指示使用者輸入指令的輸入資料;指示一觀察者的凝視點之凝視資料;以及來自與一可穿戴顯示裝置關聯的感應器之感應器資料。
在一個廣泛的形式中,本發明的態樣尋求提供一種將代表一或多個影像的影像資料壓縮之方法,該方法包括:從該影像資料獲得像素資料,該像素料資料代表該等一或多個影像之內一像素陣列;決定一編碼方案;使用該編碼方案對該像素資料編碼;決定指示所使用該編碼方案的一編碼代碼;以及使用該編碼代碼與已編碼像素資料來產生已壓縮影像資料。
在一個具體實施例內,該方法包括用至少以下之一來決定該編碼方案:根據該影像資料的一影像類型;根據從一影像資料來源接收的一編碼方案指示;利用分析至少該影像資料與該像素資料之一者;以及根據包含至少以下之一的壓縮需求:一壓縮總量;一結果影像品質;以及一壓縮延遲。
在一個具體實施例內,該方法包括分析該像素資料來決定該像素陣列是否為至少以下之一:一梯度;一邊界;以及一單一顏色。
在一個具體實施例內,該方法包括至少以下之一:若該像素陣列為純色,則將該像素陣列替換為表示該純色的一編碼代碼;若該像素陣列為一梯度,則該方法包含使用根據本發明另一態樣的一方法來將該像素資料編碼;以及使用根據本發明另一態樣的一方法來將該像素資料解碼。
在一個廣泛的形式中,本發明的態樣尋求提供一種將代表一或多個影像的影像資料壓縮之設備,該設備包括至少一個電子編碼器處理裝置,該至少一個電子編碼器處理裝置:從該影像資料獲得像素資料,該像素料資料代表該等一或多個影像之內一像素陣列;決定一編碼方案;使用該編碼方案將該像素資料編碼;決定指示所使用該編碼方案的一編碼代碼;以及使用該已編碼的頻率係數產生壓縮的影像資料。
在一個廣泛的形式中,本發明的態樣尋求提供一種將代表一或多個影像的已壓縮影像資料解壓縮之方法,該方法包括:獲取已壓縮的影像資料;從該已壓縮影像資料決定一編碼代碼;使用該編碼代碼決定一編碼方案;以及使用該編碼方案將該至少部分已壓縮影像資料解碼,來決定代表該等一或多個影像之內一像素陣列的像素資料。
在一個具體實施例內,該方法包括至少以下之一:將一編碼代碼替換為一純色的像素陣列;使用根據本發明另一態樣的一方法,將已壓縮影像資料解碼為一梯度的一像素陣列;以及使用根據本發明另一態樣的一方法來將該已壓縮影像資料解碼。
在一個廣泛的形式中,本發明的態樣尋求提供一種將代表一或多個影像的已壓縮影像資料解壓縮之設備,該設備包括至少一個電子解碼器處理裝置,該至少一個電子解碼器處理裝置:獲取已壓縮的影像資料;從該已壓縮影像資料決定一編碼代碼;使用該編碼代碼決定一編碼方案;以及使用該編碼方案將該已壓縮影像資料解碼,來決定代表該等一或多個影像之內一像素陣列的像素資料。
應了解,本發明的廣泛形式及其各自特徵可以結合使用、可互換及/或獨立使用,並且不用於限制參考單獨的廣泛形式。
此時將參閱第一圖說明用於壓縮與解壓縮影像資料的方法之範例。
針對例示目的,假設至少部分使用一或多個電子處理裝置來執行該處理。在一個範例中,使用個別處理裝置來壓縮與解壓縮該影像資料,允許已壓縮影像資料在該等兩處理裝置之間傳輸,雖然這並非必須並且可擇一地同一個處理裝置可用於壓縮與解壓縮該影像資料。
該處理裝置可形成各別處理系統的一部分,像是電腦系統、電腦伺服器、包含行動電話、可攜式電腦的用戶端裝置、像是可穿戴式或頭戴式顯示器的顯示裝置,或另外可為連結至這種裝置的獨立模組形式。
該影像資料通常代表一或多個影像,並且在一個範例中,代表要顯示在各別顯示裝置上的一系列影像。如從以下說明中將了解,在一個特定範例中,該影像資料為適於遠端顯示對於一來源的一系列影像,像是在其中影像顯示於一可穿戴式顯示器上的虛擬或增強實境圖形應用中,及/或在其中影像從像是無人機搭載攝影機等遠端可控制系統顯示的遙現應用中。
在此範例中,在步驟100上,從影像資料獲得像素資料,該像素料資料代表該等一或多個影像之內一像素陣列。該像素資料可用任何合適的方式獲取,這取決於該影像資料的格式。在一個範例中,簡單選擇該影像資料之內特定位元組序列就可達成。該像素陣列通常對應至一組像素數量,像是該等影像之一者之內一8x8像素區塊,不過也可使用其他像素陣列。
在步驟110上,對該像素資料套用一轉換,以決定指示該像素陣列的頻率分量之一組頻率係數。因此,該轉換通常為一頻率轉換,像是傅立葉轉換等,並且在一個範例內為2D DCT (離散餘弦轉換)。該轉換可用任何合適的方式套用,例如使用已知的轉換技術,但是在一個範例中以高並行方式執行,藉此縮短處理時間。
在步驟120上,使用一位元編碼方案將至少某些該等頻率係數選擇性編碼,藉此產生一組已編碼的頻率係數。該位元編碼方案定義要用來將每一頻率係數編碼的位元數,在該等頻率係數經過選擇性編碼之後,至少某些該等已編碼頻率係數具有不同位元數,並且至少一頻率係數遭到拋棄,如此該組已編碼頻率係數小於該組頻率係數。
此處理可用任何合適方式實現,並且可包含拋棄某些該等頻率係數,然後使用不同的位元數編碼該等剩餘頻率係數,藉此減少編碼該等頻率係數所需的位元數。替代地,該處理應包括用零位元編碼某些該等頻率係數,藉此有效拋棄該等各別頻率係數做為該編碼步驟的一部分。
已拋棄的該等特定頻率分量將隨該較佳實施而變,通常較高頻率分量會因其強度較少並因其對應至影像之內劇烈轉變而被拋棄,意味著其對於整體影像品質的貢獻較少。這允許拋棄較高頻率分量係數,而不會對所感受的影像品質有顯著不利地影響。除了拋棄對應至較高頻率的頻率分量以外,該處理可用較少位元編碼較高頻率分量的頻率係數,藉此減少編碼該等頻率係數所需的位元總量。
類似地,當用不同位元數編碼該等頻率係數時,其執行與該頻率係數的實際值無關,而是根據對該頻率係數的預期強度之了解來執行。例如:較低頻率上的頻率係數強度通常較大,因此通常用較多位元數編碼,而較高頻率上的頻率係數強度通常較小,因此用較少位元數編碼。這可讓要編碼的該等頻率係數值不會損失資訊。
一旦已經執行編碼,則在步驟130上可使用該已編碼頻率係數產生壓縮影像資料,例如,這可通過建立一位元組串流來執行,包含該等已編碼頻率係數序列,選擇性以額外資訊,像是旗標或其他標記來識別新影像等等的開始。
因此,上述處理允許通過使用一位元編碼方案,其拋棄至少某些該等頻率係數並使用不同位元數編碼該等剩餘係數,例如根據該頻率係數的強度,選擇性編碼頻率係數來建立已壓縮影像資料。如此,使用較少數量位元就可編碼較小強度係數,而無任何資訊損失。
應該注意的是,這種方法應該與代碼替換技術形成對照,例如霍夫曼編碼(Huffman encoding),其中的值替代較短的代碼。相反,在此範例中,該等值仍舊已編碼,儘管使用適合於該值預期強度的位元數,因此如果預期該頻率係數值不超過七,那麼這可編碼為三位元字元,所以六會編碼為「110」,而不是使用預設的八位元字元「00000110」。相較之下,若預期該頻率係數之值高達六十三,則應使用六位元字元,例如二十應編碼為「010100」。在該值高出該可用位元數的事件中,則應使用可用於該定義位元數的最大值,從而導致所得已壓縮影像資料的精度損失。
如此,該位元編碼方案使用有關該等頻率係數值的預期大小之資訊,以便定義應使用的位元數。較不積極的位元編碼方案將使用較多位元數,導致壓縮較少,但是有較高解析度,而較積極的位元編碼方案將使用較少位元數,因此提供較多壓縮,但是解析度較低。
在任何事件中,通過使用一位元編碼方案,其定義用於將每一頻率係數編碼的該位元數,這允許在解壓縮該已壓縮影像資料時使用相同方案,接著允許執行正確解壓縮,同時允許設置所使用的該位元編碼方案,將用於目前情況的該壓縮最佳化。
關於這方面,在步驟140上,依照該位元編碼方案,從該已壓縮影像資料決定一組已編碼的頻率係數。尤其是,利用選擇組成下一個頻率係數的下一個位元數,關於用來將每一頻率係數編碼的該位元數之資訊允許將該已接收已壓縮影像資料劃分成該等已編碼頻率係數。
在步驟150上,依照該位元編碼方案,執行該等已編碼頻率係數的選擇性位元解碼,藉此產生一組頻率係數。在這方面,執行來將每一已編碼頻率係數轉換成一頻率係數,並且另外產生在該編碼處理期間要丟棄的頻率係數。尤其是,通常執行來產生據有空值的頻率係數,藉此再次建立一整組頻率係數。
接著,對該組頻率係數套用一逆向轉換,來決定代表該等一或多個影像之內一像素陣列的像素資料。尤其是,其通常為逆向頻率轉換的形式,像是逆向傅立葉轉換、2D DCT等。
因此,上述處理允許通過使用一位元編碼方案選擇性編碼頻率係數,將影像資料編碼,然後接著使用相同位元編碼方案,將該已編碼頻率係數解碼。更進一步,使用的該位元編碼方案可經過調適,並且可取決於廣泛的標準範圍,像是已編碼影像資料的性質、已編碼的特定通道等。這允許套用該位元編碼方案,藉此可實現最大壓縮量。
除了上述優點以外,可用高並行方式實現該方案,例如允許同時編碼每一頻率係數。這反過來使得能夠快速執行該處理,從而減少延遲時間,這在許多應用中相當重要,諸如虛擬實境應用,其中反應顯示裝置的移動而建立影像,並且必須快速將其傳輸到該顯示裝置來顯示。
此時將描述一些進一步特色。
在一個範例中,該位元編碼方案使用較少數量的位元來編碼對應至較高頻率的頻率係數,這是由於該等較高頻率分量具有較小強度,這表示需要較少量位元就可精確編碼較高頻率係數,相較低頻率。在一個範例中,逐漸較少的位元數用於將對應至逐漸較高頻率的頻率係數編碼。在此案例中,連續較高頻率上的頻率係數應具有位元數等於或低於一前面較低頻率的頻率係數之位元數。類似地,該方法可包括拋棄對應至較高頻率的至少某些該等頻率係數,這傾向對於所看見的影像品質較少衝擊。亦應了解,針對某些該等較低頻率係數,可保留將該係數編碼所需的所有位元,在某些範例可超過8位元。
在一個範例中,該方法包括將一比例縮放因數套用到至少某些該等頻率係數,如此編碼已比例縮放的頻率係數。在此方面,使用比例縮放減少該等頻率係數的強度,如此可使用較少位元數編碼這些係數。當執行解壓縮時可套用類似的比例縮放因數,藉此將各別頻率分量比例縮放回其原始強度。在此處理期間,通常執行數值簡化(rounding),如此該已比例縮放的頻率分量為整數值,或具有有限數量的有效數據,藉此將用來編碼該等係數的位元數最少化。亦應了解,當執行時,該等重新建立的頻率分量之精準度會下降,但是這效果對於結果影像品質的影響可忽略不計。
在一個範例中,將該相同的比例縮放因數套用到每一頻率係數。因為這減少執行該比例縮放時的計算負擔,因此特別有利。尤其是,這允許從記憶體,像是暫存器中,讀取單一比例縮放因數,或允許在邏輯組態之內寫死,藉此讓該等頻率係數的比例縮放程序更迅速。然而,這不是必需的,並且不同的比例縮放因數可套用於不同的頻率係數,例如以較大量比例縮放頻率較高的頻率係數。
在一個範例中,該方法包括將一比例縮放因數套用至該等頻率分量,以決定比例縮放的頻率分量,依照選擇標準選擇一或多個已比例縮放的頻率分量,並依照一位元編碼方案執行該已選取已比例縮放頻率分量的位元編碼,來產生壓縮的影像資料,藉此限制用來將每一已選取已比例縮放的頻率分量編碼。然而,這並非必需並且應使用其他方式,像是在拋棄某些該等頻率係數之後執行比例縮放等。
在一個範例中,該方法可包括選擇複數個編碼方案之一者,並使用該已選取的編碼方案編碼該像素資料,這允許根據因素,像是所需的壓縮程度,來選擇不同的編碼方案。如此,每一該等編碼方案都能提供各別壓縮程度,例如通過使用不同壓縮方式,或以複數個不同位元編碼方案之一者來使用上述方式。在此後者案例中,該等複數個位元編碼方案之每一者選擇性用不同的位元數來編碼不同的頻率係數,以提供不同的壓縮程度。
根據一係數範圍,像是選擇規則、所要的壓縮程度及/或像素陣列在該等一或多個影像內的位置,可選擇所使用的該特定編碼方案,接著用來提供所喜愛的壓縮,底下將有更詳盡說明。
類似地,在一個範例中,該方法通常包括依照選擇規則、所要的壓縮程度及/或像素陣列在該等一或多個影像內的位置,選擇性編碼頻率係數。在這方面,該等選擇規則可用來定義要編碼哪些頻率係數,及/或使用哪個特定位元編碼方案,這實際上實現相同的最終結果,因此應被認為是等效程序。
例如:該等選擇規則可用來選擇該等頻率係數的子集來進行編碼,然後使用該位元編碼方案來編碼。替代地,依照選擇規則選擇一位元編碼方案,使用該位元編碼方案以零位元編碼至少某些的該等頻率係數,然後依照該位元編碼方案編碼該等頻率係數。
在兩案例中,使用選擇規則允許動態執行選擇性位元編碼,如此可根據環境調整選取的該等頻率係數及/或用來編碼該已選擇頻率係數的位元數。當解壓縮該已壓縮影像資料時,可使用類似的選擇規則,藉此允許根據該特定環境,動態執行該位元編碼方案及/或頻率係數拋棄,確定可精確解壓縮該已壓縮資料。
在一個範例中,這允許考量到許多不同因數,像是用來傳輸該已壓縮影像資料的一通訊連結之傳輸頻寬、用來傳輸該已壓縮影像資料的一通訊連結之傳輸服務品質、顯示裝置的移動、影像顯示需求、目標顯示解析度、所處理的一影像通道、該等一或多個影像之內該像素陣列的位置或關於該等一或多個影像的一觀察者凝視點該該等一或多個影像之內該像素陣列之位置。針對另一替代方案,可使用指示該已解壓縮影像內錯誤及/或資料傳輸的誤差度量,以便控制使用的壓縮程度。亦應了解,這些配置可用來動態調整壓縮程度,例如利用變更用來壓縮該影像資料的該位元編碼方案,例如:若壓縮物超出臨界,則可減少壓縮,而若可用傳輸頻寬下降,則可提高壓縮。此動態調整壓縮的能力幫助將該壓縮最佳化,以獲得當前環境的最佳可能影像品質。
例如:一影像某些部分的相對品質可能不如其他部分那麼重要。在虛擬實境的案例中,由於顯示鏡頭的影像失真,所以影像周邊部分通常不會確實顯示給使用者。因此,這些影像部分應使用一有效零品質編碼,藉此在不損失該可視影像的任何影像品質之下,可大幅減少壓縮影像資料量。
在另一個範例中,尤其是在虛擬實境應用中,這可根據一觀察者凝視點來執行。在此範例中,這牽涉到決定該等一或多個影像的一觀察者凝視點,並至少部分依照該凝視點來選擇性編碼頻率係數。尤其是,這可牽涉到決定該凝視點與該等一或多個影像內該像素陣列的位置間之距離,並依照該距離選擇性編碼頻率係數,如此距離越遠就編碼越少頻率係數。如此,可執行觀察者觀看影像哪個部分之分析,例如使用眼睛追蹤技術或類似技術,然後以較高品質編碼靠近該凝視點的影像部分。在此方面,一觀察者對於周邊區域的注視通常會減少,如此通常比較不會注意到影像品質下降。因此,用較高品質編碼靠近觀察者凝視點的影像,這會讓整體品質較差的影像被觀察者認為具有一般水準品質。
在一個範例中,該等頻率分量配置在複數個階層內,用每一位元編碼方案定義要用於編碼該等複數個階層內每一者內該等頻率係數之各別位元數。類似地,或用從應該編碼哪個階層頻率係數所定義之選擇規則。如此,可依照各別階層定義該位元編碼方案及/或頻率係數的選擇。
在一個範例中,該像素陣列為 Nx N像素陣列,產生2 N-1階頻率分量,不過應了解,這將取決於特定實施。
在一個範例中,除了執行上述破壞壓縮以外,也可執行額外非破壞壓縮步驟。這通常牽涉到解析(parsing)位元組序列,識別包含一些一致位元組的子序列,並且將該子序列替換成指出該等一致位元組之值以及該子序列內一些一致位元組之代碼。在一個範例中,當一致位元組的子序列包括三或多個位元組時,該代碼包括二位元組,不過應了解,應可使用其他合適的編碼方案。
雖然通常稱為運行長度編碼的代碼替換可以在任何位元組序列上執行,但是在一個範例中,該位元組序列為從該已編碼頻率係數形成的該位元流。在此方面,通常有許多該等已編碼頻率係數擁有零值,表示當將從該等已編碼頻率係數形成的該位元流當成位元組序列分析時,在序列內頻繁存在許多零值位元組。因此,通過將這些替換為一代碼,這允許減少位元組數量。
在一個範例中,該影像資料定義複數個通道,並且其中該方法包括針對每一通道選擇性編碼頻率係數。通過單獨編碼不同通道,這允許對不同通道進行不同編碼,例如使用不同位元編碼方案,或拋棄不同頻率係數。此外,單獨編碼通道可允許通道同時編碼,如此可大幅幫助縮短編碼執行時間,因此降低編碼延遲。
在一個範例中,該像素資料定義RGB通道,並且該方法包括將該等RGB通道轉換成亮度與色度通道YCbCr,並變換該等YCbCr通道。在此方面,人眼對於亮度與色度通道的感受並不同,允許色度通道使用較大壓縮程度來編碼,因此品質相較於該亮度通道較低,但無損所感受到的品質。然而,應了解,這並非必需並且處理可另外在該等RGB通道內執行,在此案例中色彩轉換並非必要。
如此在此範例中,該方法可包括針對該Y通道比該Cb或Cr通道選擇性編碼更多頻率係數,並且類似可包括針對該Y通道用超過該等Cb和Cr通道的位元來選擇性編碼頻率係數。
在進一步範例中,在該像素資料定義RGB通道之處,該方法可包括將該等RGB通道轉換成YCbCr通道,並利用編碼該等CbCr通道並使用該Y通道來產生該壓縮影像資料。實際上在此範例中,該Y通道並未有效編碼,表示保留該亮度通道內含的完整資訊。這在某些編碼場景中特別有用,例如當編碼顯示漸層的像素陣列時,這可幫助保留色彩變化,因此改善畫質,同時僅導致壓縮些微減小。
如上述,該等不同通道可同時編碼。此外,該等頻率係數中每一通道都可同時編碼。在此案例中,產生已壓縮影像資料的該方法通常包括同時執行來串列位元組編碼,如此將該等頻率係數串列成一位元組串流,然後進行位元組編碼。
在一個範例中,從影像資料獲取像素資料的方法包括將對應至該影像中下一個 n-1像素列的影像資料緩衝、將該下一個像素列的下一 n個像素之影像資料緩衝,以及從該已緩衝影像資料中獲取下一個 nx n像素區塊之像素資料。重複此程序,直到已經從所有 n列像素獲取像素資料,而針對下一 n列重複此程序,通過將對應至該影像中下一個 n-1像素列的影像資料緩衝、將該下一個像素列的下一 n個像素之影像資料緩衝,以及從該已緩衝影像資料中獲取下一個 nx n像素區塊之像素資料。
如此,從此可了解,該處理並未要求整個影像都緩衝,而是只有在開始處理之前先將 n-1列像素以及來自下一列的進一步 n個像素緩衝即可。這有兩個主要衝擊,換言之縮短處理時間,接著造成延遲顯著縮小,同時降低整體記憶體需求。 n值通常為整數並且可根據因素來設定,像是選擇規則、所需的壓縮程度、像素陣列的位置等。在一個範例中 n=8,但是這並非必要,任何值都可使用。
雖然可以從任何來源獲取影像資料,不過在一個範例中,該方法包括從一視頻饋送中,像是要顯示的一系列影像,獲取該像素資料。在一個範例中,該方法用於傳輸虛擬實境視頻資料,並且在一個特定範例中,用於無線傳輸虛擬實境視頻資料。
上述處理也可用於提供形成任何數位實境內容一部分的影像,包含增強實境、虛擬實境、混合實境、遙現等。
在一個範例中,該方法用於利用透過至少一通訊網路與一無線通訊連結之一者,接收來自一計算裝置的該已壓縮影像資料,在一可戴式數位實境頭戴組內顯示影像資料。這可包括從一電腦以無線方式將已壓縮影像傳輸至其他類似裝置,或可包括從雲端計算環境將已壓縮影像傳輸至本機裝置,像是頭戴式智慧型手機,允許使用雲端計算來執行影像建立。合適連接的範例,包括一有線GB網際網路、至行動電話的串流,例如透過行動通訊網路,像是3G、4G或5G網路,透過有線連接傳輸至一綁定HMD,或透過無線連接傳輸至未綁定HMD等。
應了解,當解壓縮該已壓縮影像資料時,可使用類似方式。
例如:可使用相同位元編碼方案,如此該位元編碼方案使用較少位元數來編碼對應至較高頻率的頻率係數。在此案例中,針對壓縮期間拋棄對應至較高頻率的至少某些頻率係數,必需要在解壓縮期間再次產生,通常為空值,允許套用後續逆變換,以下將有更詳細說明。
通常該方法包括將一比例縮放因數套用到至少某些該等頻率係數,如此轉換已比例縮放的頻率係數。再次,將相同比例縮放因數套用至每一頻率係數,藉此提高每一頻率係數的強度,進而逆轉壓縮期間執行的該比例縮放,並再次產生該原始頻率係數強度的近似值。
該方法可包括選擇複數個解碼方案之一者,並使用該已選取的解碼方案解碼該像素資料。在此案例中,可使用選擇規則、所要的壓縮程度或該像素陣列的位置,類似於上述關於影像壓縮的該編碼方案選擇,來選擇該解碼方案。替代地,此可根據指出所使用該編碼方案的一編碼代碼來執行,該編碼代碼由該已壓縮影像資料所決定。
同樣,該解碼方案可與上面描述的不同,但可同樣使用複數個不同位元編碼方案之一者,依照該選取的位元編碼方案解碼該已編碼頻率係數。在此案例中,該等複數個位元編碼方案之每一者選擇性用不同的位元數來編碼不同的頻率係數,以提供不同的壓縮程度。
類似地並有效等效地,該方法可以包括依照選擇規則選擇性地解碼該已編碼頻率係數,特別是通過依照選擇規則產生該已編碼頻率係數,並依照該位元編碼方案解碼該已編碼頻率係數。
如壓縮期間,該等選擇規則通常取決於一因素範圍,像是用來傳輸該已壓縮影像資料的一通訊連結之一或多個傳輸頻寬、用來傳輸該已壓縮影像資料的一通訊連結之傳輸服務品質、顯示裝置的移動、影像顯示需求、目標顯示解析度、所處理的一通道、該等一或多個影像之內該像素陣列的位置或關於該等一或多個影像的一觀察者凝視點之該等一或多個影像之內該像素陣列之位置。
例如:這可牽涉到決定該等一或多個影像的一觀察者凝視點,並至少部分依照該凝視點來選擇性解碼已編碼頻率係數。這通常可通過決定該凝視點與該等一或多個影像內該像素陣列的位置間之距離,並依照該距離選擇性解碼該已編碼頻率係數來實現,如此距離越遠就產生更多頻率係數。然而,應了解,選擇規則的實施可根據該較佳實施以任何合適方式來實現。
該等頻率分量通常配置在複數個階層內,使用該位元編碼方案,其定義要用於編碼對應至該等複數個階層之個別一者之內頻率分量的該等頻率係數之各別位元數,或使用該等選擇規則,其由應該產生哪個階層頻率係數來定義。
在也執行非破壞編碼的事件中,該方法通常包括識別序列位元組之內一代碼,並將該代碼替換成包含一些一致位元組的子序列。在此案例中,該代碼通常指出該子序列內該等一致位元組以及一些一致位元組之值。同樣,該子序列通常包括三個或更多位元組,必且該代碼包含兩位元組,不過也可使用其他合適的配置。通常在該已壓縮影像資料上執行此處理,用此來產生該位元串流,然後用來建立該等已編碼頻率係數。
如先前所說明,該影像資料通常定義複數個通道,而已編碼頻率係數選擇性單獨解碼每一通道。該等通道通常包括YCbCr通道,而該方法包括執行該等YCbCr通道的逆變換,並且將該等已變換YCbCr通道轉換成RGB通道。通常,該逆變換為一逆2-D離散餘弦變換,不過可使用其他合適的轉換。亦應了解,若該Y通道尚未編碼,如上述,該方法可包括解碼該等CbCr通道,然後將該等已解碼CbCr通道和該Y通道轉換成RGB通道。
如壓縮該影像資料的範例中,該方法通常包括比該Y通道產生更多頻率係數給該等Cb或Cr通道。該方法也可包括同時解碼該等已編碼YCbCr通道,亦選擇性同時對個別頻率分量進行位元解碼,在案例中已壓縮影像資料通過串聯至並聯位元組解碼進行至少部分解碼,有效將該傳入位元組串流區分成單獨位元編碼頻率分量,然後同時進行解碼。
該已解壓縮資料也可進行進一步處理,像是使用一去區塊濾波器(deblocking filter),用來在使用區塊編碼技術等等時,以使宏區塊(marcoblocks)之間形成的銳利邊緣平順。這又可以允許使用更高程度的壓縮,同時避免影像品質的相應降低。
在進一步範例中,由一各別硬體組態執行上述方法,例如:壓縮影像資料可由包括一電子編碼器處理裝置的一編碼器來執行,其中該裝置從該影像資料獲得像素資料、執行一頻率變換、使用一位元編碼方案選擇性編碼至少某些該等頻率係數,以及使用該已編碼頻率係數產生已壓縮影像資料。
類似地,使用包括一電子解碼器處理裝置的一解碼器來執行該已壓縮影像資料的解壓縮,其中該裝置獲得已壓縮影像資料、從該已壓縮影像資料決定一組已編碼頻率係數、依照該位元編碼方案執行該等已編碼頻率係數的位元解碼,以及將一逆變換套用至該組頻率係數,來決定代表該等一或多個影像之內一像素陣列的像素資料。
在一個範例中,該設備(200)包括以無線通訊的一編碼器和一解碼器,允許影像資料以已壓縮影像資料方式在該編碼器與該解碼器之間傳輸。在一個特定範例中,可用此來提供可穿戴式顯示裝置,像是一HMD與一處理系統之間的無線通訊。此時將參照第二A圖來說明此範例。
在此範例中,像是適合程式編輯電腦系統、遊戲控制台等的一處理系統210適用於在一HMD 240上產生顯示內容。處理系統210通常通過接收來自該HMD有關該HMD姿勢的感測器資料,並且選擇性輸入來自一或多個個別控制器250的資料,來實現此目的。然後處理系統210根據該感測器及/或輸入資料來產生內容,通常為視頻資料的形式,其可從視頻卡等地方輸出。該視頻資料傳輸至一編碼器220,其藉由壓縮該影像資料來編碼該視頻資料,然後透過一無線通訊連結260無線傳輸該已壓縮影像資料至解碼器230。解碼器230將該已壓縮影像資料解碼,並將該結果視頻資料提供給該HMD來顯示。
應了解,此配置允許現有的電腦系統、遊戲機等以及HMD 210、240透過無線連接260相連,如此避免處理系統210與HMD 240之間有線連接的需求。如此例如一使用者可穿戴一HMD和相關解碼器,然後將該編碼器連接至其電腦系統或遊戲機,建構成一無線HMD配置。這可用於將傳統繫連(tethered)耳麥轉換成無線配置。
然而這並非必需,或者處理系統210和HMD 240可設置成包括整合式編碼器與解碼器硬體,允許這些透過直接無線連接260來通訊,如第二B圖內所示。例如:在一電腦系統內可提供該編碼器,用於產生內容,而該解碼器可整合在智慧型手機內,例如Snapdragon 820 Hexagon DSP或類似裝置內,允許該智慧型手機接收並解碼從該電腦系統無線串流來的內容。在一個範例中,這允許該電腦系統越過一本機無線連接來串流,但在另一個範例中,這可用來透過一行動電話網路或類似網路,提供來自雲端型數位實境引擎的內容。
此時將參照第三圖來更詳細說明該硬體組態的範例。
此範例將用分離的硬體編碼器與解碼器來例示,但應了解,這並非必需並且該相同技術可與整合式硬體結合使用。更進一步,雖然參照虛擬實境應用,同樣這並非必需,並且該技術可用來套用至其中要傳輸影像資料的任何環境,尤其是當要使用有限頻寬傳輸影像資料時,同時保持可接受的影像品質以及期望的延遲,像是在虛擬實境、增強實境或遙現應用中。
在此範例中,設備300再次包括一處理系統310、編碼器320、解碼器330以及HMD或類似形式的一顯示裝置340。此時將更詳細說明這些組件每一者。
在此範例中,處理系統310包括一個微處理器311、一記憶體312、一選配輸入/輸出裝置313,像是鍵盤及/或顯示器,以及如所示透過一匯流排315互連的一外部介面314。在此範例中,外部介面314可用於將處理系統310連接至周邊裝置,像是通訊網路、儲存裝置、週邊設備等。雖然顯示單一外部介面314,不過這僅為範例,並且實際上可提供使用許多方法(例如乙太網路、序列、USB、無線等等)的多個介面。在此特定範例中,該外部介面包括至少一資料連接,像是USB,以及視頻連接,像是DisplayPort、HMDI、Thunderbolt等等。
在使用中,微處理器311執行儲存在記憶體312內應用程式軟體形式的指令,允許執行所需的處理。該應用程式軟體可包括一或多個軟體模組,並且可在合適的執行環境內執行,像是一作業系統環境等。
因此,應了解,可從任何合適的處理系統形成處理系統310,像是合適的程式編輯PC等等。在一個特定範例中,處理系統310為標準處理系統,像是Intel架構型處理系統,其執行儲存在非揮發性(例如硬碟)儲存設備內的軟體應用程式,不過這並非必要。然而,亦應了解,該處理系統可為任何電子處理裝置,像是微處理器、微晶片處理器、邏輯閘組態、選擇性關聯於實施邏輯的韌體,諸如FPGA (場可程式編輯閘陣列)、一專用積體電路(ASIC)、一晶片上系統(SoC)、一圖形處理單元(GPU)、數位信號處理(DSP)或任何其他電子裝置、系統或配置。
更進一步,雖然處理系統310顯示為單一實體,應了解,實際上處理系統310應由多個實體裝置所形成,可選擇性分配在一些地理個別位置上,例如雲端環境一部分。
編碼器320通常包括一編碼器輸入緩衝區321,依序連結至一編碼器處理裝置322、一編碼器輸出緩衝區323以及一收發器324。可提供一個別資料緩衝區325來耦接至收發器324。
在使用中,影像資料,並且在一個特定範例中,視頻資料已接收,並且在送至編碼器處理裝置322進行壓縮之前,暫時儲存在輸入緩衝區321內。在此方面,該編碼器輸入緩衝區通常緩衝對應至該影像的接下來七列像素,然後接下來八列像素之影像資料。這允許編碼器處理裝置322從該已緩衝影像資料獲得接下來8x8區塊像素的像素資料,並開始編碼。
一旦已經完成,接下來八個像素則緩衝,重複此步驟直到已獲取並已編碼來自八列像素的像素資料。然後針對該影像內後續像素列重複此處理,直到已獲取整個影像的像素資料,在此點上以類似方式處理下一個影像。針對此方式的結果,該編碼器輸入緩衝區從來不需要儲存超過七列及八個影像資料像素,減少記憶體之需求。此外,針對已獲取像素資料,這可使用該編碼處理立即處理,即使在緩衝影像資料的接下來八個像素之前。這顯著縮短處理時間,並幫助減少整體延遲。
然後,該結果已壓縮影像資料儲存在編碼器輸出緩衝器323內,例如依序通過編碼位元內的讀取,藉此透過收發器324,在傳輸至解碼器330之前,執行並列至序列位元組編碼。收發器324也調適成透過編碼器資料緩衝區325傳輸其他資料,像是接收自HMD 340的一感測器資料。
根據較佳具體實施例,緩衝區321、323、325可為任何合適的暫時儲存設備形式,根據該較佳實施並且在一個範例中,可包括高效能FIFO (先進先出)場記憶體晶片等等。該輸入緩衝區通常連接至HDMI連接埠、顯示器連接埠輸出或任何其他合適的視頻源,而資料緩衝區335連接至USB連接埠,藉此允許等效連接至該電腦系統。
收發器324可為任何合適形式,但是在一個範例中,允許該編碼器與該解碼器之間短範圍無線電通訊360,例如透過點對點直接WiFi TM連接、60 GHz無線技術等等。
處理裝置322可為能夠執行本文所說明該壓縮處理的任何裝置。處理裝置322可包括依照記憶體內儲存的軟體指令操作之通用處理裝置。然而,在一個範例中,為了確定適當的快速壓縮時間,該處理裝置包括設置成執行該壓縮處理的客製化硬體。這應包括選擇性關聯於實現邏輯的韌體,像是一FPGA (場可程式編輯閘陣列)、一圖形處理單元(GPU,Graphics Processing Unit)、一專用積體電路(ASIC,Application-Specific Integrated Circuit)、一晶片上系統(SoC,system on a chip)、數位信號處理器(DSP,digitial signal processor)或任何其他電子裝置、系統或配置。在較佳範例中,編碼器處理裝置322設置成執行每一DCT的個別通道並行處理,以及個別頻率係數的並行編碼。如此,雖然顯示單一編碼器處理裝置322,實務上,可提供各別編碼器處理裝置322來同時編碼每一該等通道,或另外可使用、一GPU或其他類似並行處理架構。在像是該Y通道這類通道未編碼的事件中,該編碼器處理裝置可在將該各別資料發送至編碼器輸出緩衝區323當中簡單導入一延遲,確定這仍舊與該等已編碼CbCr通道同步。
解碼器330通常包括一收發器334,其連結至一解碼器輸入緩衝區331,接著連結至一解碼器處理裝置332和一解碼器輸出緩衝區333。另外提供一分離的資料緩衝區335,其耦接至收發器334。
在使用中,透過收發器334從編碼器320接收已壓縮影像資料,並且在送至解碼器處理緩衝區332進行解壓縮之前,暫時儲存在輸入緩衝區331內。然後,該結果影像資料在傳輸至顯示裝置340之前,儲存在解碼器輸出緩衝區333內。收發器324也適用於透過解碼器資料緩衝區335傳輸其他資料,像是接收自顯示裝置340的一感測器資料。
根據較佳具體實施例,緩衝區331、333、335可為任何合適的暫時儲存設備形式,並且在一個範例中,可包括高效能FIFO (先進先出)場記憶體晶片等等。該輸出緩衝區通常連接至HDMI連接埠,而資料緩衝區335則連接至USB連接埠,藉此允許等效連接至該顯示裝置。
收發器334可為任何合適形式,但是在一個範例中,允許該編碼器與該解碼器之間短範圍無線電通訊360,例如透過點對點直接WiFi TM連接、60 GHz無線技術等等。
處理裝置332可包括依照記憶體內儲存的軟體指令操作之通用處理裝置。然而,在一個範例中,為了確定適當的低解壓縮時間,該處理裝置包括設置成執行該解壓縮處理的客製化硬體。這應包括選擇性關聯於實現邏輯的韌體,像是一FPGA (場可程式編輯閘陣列)、一圖形處理單元(GPU,Graphics Processing Unit)、一專用積體電路(ASIC,Application-Specific Integrated Circuit)、一晶片上系統(SoC,system on a chip)、數位信號處理器(DSP,digitial signal processor)或任何其他電子裝置、系統或配置。在較佳範例中,解碼器處理裝置332設置成執行每一DCT的個別通道並行處理,以及個別頻率係數的並行編碼。同樣,雖然顯示單一解碼器處理裝置332,實務上,可提供各別解碼器處理裝置332來同時編碼每一該等通道,或另外可使用、一GPU或其他類似並行處理架構。在像是該Y通道這類通道未編碼的事件中,該解碼器處理裝置可在將該各別資料發送至解碼器輸出緩衝區333當中簡單導入一延遲,確定這仍舊與該等已解碼CbCr通道同步。
顯示裝置340包括至少一個微處理器341、一記憶體342、一選配輸入/輸出裝置343,像是鍵盤或輸入按鈕、一或多個感測器344、一顯示器345以及的一外部介面346,如所示透過一匯流排347互連。
顯示裝置340可為HMD形式,因此提供於適當外殼內,然後可讓使用者佩戴,並包括相關透鏡,允許觀看到該顯示器,精通技術人士將會了解。
在此範例中,外部介面347適用於用來透過有線連接,將該顯示裝置正常連接至處理系統310。雖然顯示單一外部介面347,不過這僅為範例,並且實際上可提供使用許多方法(例如乙太網路、序列、USB、無線等等)的多個介面。在此特定範例中,該外部介面通常包括至少一資料連接,像是USB,以及視頻連接,像是DisplayPort、HMDI、Thunderbolt等等。
在使用中,微處理器341執行儲存在記憶體342內應用程式軟體形式的指令,允許執行所需的處理。該應用程式軟體可包括一或多個軟體模組,並且可在合適的執行環境內執行,像是一作業系統環境等。因此,應了解,該處理裝置可為任何電子處理裝置,像是微處理器、微晶片處理器、邏輯閘組態、選擇性關聯於實施邏輯的韌體,諸如FPGA (場可程式編輯閘陣列)、一圖形處理單元(GPU)、一專用積體電路(ASIC)、一晶片上系統(SoC)、數位信號處理(DSP)或任何其他電子裝置、系統或配置。
感測器344一般用於感測顯示裝置340的方位及/或位置,並且可包括慣性感測器、加速度計等。可提供像是光感測器或接近感測器這些額外感測器,來決定目前是否正在佩戴該顯示裝置,而眼睛追蹤感測器可用於提供使用者凝視點的指示。
在一個範例中,該顯示裝置可因此為現有商業顯示裝置,像是HTC Vive TM、Oculus Rift TM或Playstation VR TM頭戴組,不過應了解,這並非必需並且可使用任何合適的配置。
此時將更詳盡說明該影像壓縮/解壓縮的操作範例。
為了該範例的目的,假設處理系統310正在執行產生顯示在顯示裝置340上內容的應用程式軟體,其中根據來自顯示裝置340上感測器345以及選配的其他感測器之感測器資料,動態地顯示內容,例如手持控制器或位置檢測系統(未顯示),如精通技術人員將了解的。
由處理系統310所執行的動作,係由處理器311依照在記憶體312內儲存為應用程式軟體的指令來執行,及/或透過I/O裝置313或其他週邊(未顯示)接收自使用者的輸入指令來執行。顯示裝置340所執行的動作由處理器341依照在記憶體342內儲存為應用程式軟體的指令來執行。
編碼器320和解碼器340當成處理系統310與顯示裝置340之間的介面,允許影像資料顯示於顯示裝置340上之前壓縮、無線傳輸然後解壓縮,同時也允許感測器資料或輸入指令資料回傳至該處理系統。由編碼器320和解碼器330所執行的動作通常由各別處理裝置322、332根據已定義的程式編輯來執行,並且在一個範例中,根據一客製化硬體組態及/或嵌入式韌體內的指令來執行。
然而,應了解,針對以下範例目的所假設的上述組態並非必需,並且可使用許多其他組態,例如:該編碼器與解碼器的功能性可直接內建在處理系統310與顯示裝置340之內。此外,該壓縮技術可套用至廣泛的其他其況中,包括在一或多個電腦系統上壓縮與解壓縮影像,不需要使用分開的顯示裝置。然而,上述配置對於虛擬或增強實境應用、遙現應用等特別有利。
此時將參閱第四A圖至第四D圖說明壓縮與後續解壓縮影像資料的方法之範例程序。
在此範例中,在步驟400和402上,編碼器320從處理系統310接收影像資料,特別是代表一系列影像的視頻資料,然後暫時儲存在編碼器輸入緩衝區321內。接著分析該影像資料,例如通過解析該資料來識別限定標頭(header)的該資料內之旗標、識別一影像的開頭等等,在步驟404上允許獲取對應至接下來8x8像素區塊的影像資料。在此方面,當緩衝該資料時,該編碼器從該影像要求一初始8x8像素區塊,以便開始處理。因此,在開始處理之前,在編碼器輸入緩衝區321內填入一影像的前七行像素,以及第八行像素的前八個像素。隨著接收到接下來八個像素,接著處理接下來8x8區塊,然後重複到已經處理完該影像前八列內所有像素。接著用類似方式處理接下來八列群組。
該影像資料通常為多通道RGB資料的形式,然後在步驟406上由處理裝置322轉換成YCbCr亮度與色度通道。此處理可用已知的數學座標轉換來執行,因此將不會進一步詳細說明。
在步驟408上,一2D DCT套用至每一該等亮度與色度通道,藉此將該等通道轉換至頻率領域。此處理可用已知的技術執行,並且在較佳範例中,由處理裝置322以並行度非常高的方式執行,藉此縮短處理時間。每一通道上的轉換處理結果為8x8矩陣,具有64個頻率係數,代表該各別影像通道內不同頻率分量的強度。
在步驟410上,一比例縮放因數套用至每一矩陣,例如用該比例縮放因數除以每一頻率係數,藉此降低每一頻率係數的強度。該比例縮放因數應為任何值,並且可不同通道都不同。身為此處理的一部分,該已比例縮放的頻率係數通常數值簡化為為整數或有效圖的設定數量,藉此減少編碼該等頻率係數所需資料的量,例如:係數500應需要9位元來編碼,而50只需要6位元,因此套用10的比例縮放因數可減少編碼該等特別頻率係數所需之位元數。
在此方式中,應了解較低值係數可數值簡化為零,例如4經過比例縮放為0.4,並因此四捨五入為零。雖然這導致資訊損失,這傾向發生於已知對該影像整體外觀貢獻較少的較高頻率分量,因此這種損失的衝擊有限。
在套用該比例縮放因數之後,在步驟412上決定選擇規則。該等選擇規則用於允許選擇某些該等頻率分量,如此在步驟414上可拋棄其他分量。該選擇通常根據定義為對角跨越該矩陣的一階層(hierarchy)之層級來執行,如此一個8x8頻率領域矩陣包括分別具有1、2、3、4、5、6、7、8、7、6、5、4、3、2、1係數的15層級。
已拋棄的該等層級通常是較高頻率分量,這上面有提到對於該影像外觀的貢獻較低。根據該較佳實施,該等選擇規則基於一廣泛的因素範圍來定義哪個層級被拋棄。
例如:色度通道對於影像外觀的貢獻通常低於亮度通道,所以相對於該亮度通道來說,通常會拋棄更多層級的色度。如此例如,針對該亮度通道Y,保留層級1至8,對應至36個頻率係數,如第五圖內531上所示,而針對該等色度通道Cb和Cr,可保留層級1至6,對應於只有21個頻率係數,如第五圖內532和533上所示。應了解,這減少從192編碼至78通過全部三個通道所需的頻率係數總量。
根據規則選擇要保留哪個階層,當選擇要保留哪個階層時,允許該編碼器和解碼器套用相同標準,接著以即時調適方式執行之。接著根據其他因素選擇不同階層,像是編碼器與解碼器之間一通訊通道的品質及/或頻寬。如此,若由於干擾而減少頻寬,可選擇較少階層,這導致較高壓縮程度。雖然這將導致影像品質下降,不過在許多應用中,像是VR,某些框品質下降受注目的程度要低於掉框或增加延遲,因此是較佳結果。
其他因素可包括但不受限於該顯示裝置的移動,尤其是移動速率、影像顯示需求、目標顯示解析度、該等一或多個影像之內該像素陣列的位置以及該等一或多個影像之內該項素陣列相對於該等一或多個影像的觀察者凝視點之位置。底下將更詳細說明進一步範例。
在步驟416上,決定一位元編碼方案,然後在步驟418上,允許使用不同位元數來選擇性編碼該已選取頻率係數。在此方案,如上述,一已比例縮放頻率分量可能只需要6位元就可完全編碼該係數。因此,選取該位元編碼方案,如此針對該階層內每一層級,改變用來編碼該等頻率係數的位元數。這是可行的,因為較高頻率分量通常具有較小的強度,因此需要較少的位元進行編碼。
在一個範例中,用於該亮度通道的該編碼方案不同於該色度通道所使用的,而範例編碼方案顯示於底下的表格1內。 表格1
  位元數
層級 亮度通道 色度通道
1 8 6
2 6 4
3 6 4
4 4 3
5 4 2
6 3 2
7 3 0
8 2 0
第五圖內顯示用於該等三個通道每一者中前6個層級的此編碼形式之範例。使用選擇規則與位元編碼方案的此特定組合導致以129位元編碼亮度通道541,並且用60位元編碼色度通道542、543之每一者,導致只使用249位元就可編碼該8x8像素陣列的全部三個通道。應了解,這相較於需要192位元組的原始未壓縮影像資料,代表超過六倍的壓縮。
從此將可了解,具有0位元的加密通道有效對應至拋棄該通道,因此這可通過選擇使用該等編碼規則的一編碼方案,用來當成選擇該等已編碼係數之方式,藉此有效地將步驟412和414與416和418組合。
一旦已經執行該編碼,則在步驟420上利用執行並列至序列位元組編碼,可將該等位元已編碼頻率分量串連成一位元串流,然後允許以32位元組(256位元)表示。在步驟422上,剖析該等位元組,來在步驟424上識別後續一致位元組。尤其是,此方式用於識別三個或更多一致位元組的子序列,然後在步驟426上替換成一代碼,不損失任何資訊。
特別是針對大部分影像,在該結果編碼頻率係數內有零字串,在此該等已比例縮放的係數都數值簡化為零。因此,可用一代碼替換,其可由該解碼器識別,允許該解碼器重新插入一致位元組的子序列。
雖然該代碼可為任何合適的形式,在一個範例中,該代碼包括識別該特定位元組為代碼的一標頭,以及對應至一致位元組的值與編號之資訊。在較佳配置當中,使用布林OR運算將一2位元組代碼與一列(1-8)內零編號組合。在一個範例中,該零編號代表為N-1,如此0-7的數字與該2位元組代碼進行OR運算,如此只採用該第二位元組的3位元,例如:所使用的該代碼可為(1111 1111 ; 1111 1000),其中該第二位元組根據零編號與0-7進行OR運算。應了解,類似方式可用於不同值。
此方式運作良好,因為該編碼很少導致連續數字超過或等於248之值,如此該解碼演算法可簡單搜尋具有255值的一個位元組以及具有值大於或等於248的後續位元組,將其識別為與已編碼頻率分量相反地代碼。然後用對應至具有由該第二位元中最後3位元所表示一系列零的該資料之位元組來取代此代碼。這可導致在根據最新測試的該位元編碼階段之後,資料可進一步縮小19-25%。
在執行代碼替換之後,在步驟428上輸出已壓縮影像資料。尤其是,該已壓縮影像資料通常儲存在輸出緩衝區323內,直到有足夠資料,此時建立一資料封包並由收發器324傳輸至該編碼器。
在步驟430上,解碼器330透過收發器334接收該已壓縮資料,然後儲存在解碼器輸入緩衝區331內。在步驟432上剖析該資料,以識別該資料內的代碼,如上述,然後在步驟434上用重複的一致位元組之子序列來替換,藉此重新建立位元已編碼頻率係數的該位元串流。
在步驟436上,解碼器處理裝置332決定用於編碼該影像資料的該位元編碼方案,用此方案來執行該位元串流的序列至並列解碼,藉此在步驟438上決定該等已編碼頻率係數。尤其是,這允許解碼器處理裝置332決定用於編碼該頻率係數的該位元的數字,允許該位元串流有效分成個別已編碼頻率係數。在步驟440上使用該等個別頻率係數來重新建立該比例縮放的頻率矩陣,使用空值產生拋棄的頻率係數,藉此填滿整個矩陣,接著在步驟442上根據該比例縮係數比例縮放。
在步驟444上,在步驟446上將每一YCbCr通道的該已轉換矩陣轉換成RGB通道之前,套用逆向2D DCT轉換,允許在步驟448上輸出一8x8像素區塊,而允許由顯示裝置340實施。
因此,上述處理可顯著減少每一8x8像素區塊編碼所需的影像資料量,因此減少整體影像量。尤其是,使用YCbCr通道的2D DCT、對結果頻率係數進行選擇性位元編碼以及一選配的最終非破壞編碼方案,就可實現此目的。每一通道都可同時處理,以並行方式將該DCT套用至該8x8陣列。更進一步,每一該等頻率係數的位元編碼也同時發生,產生大量並行方法,允許以迅速方式同時執行壓縮與解壓縮,造成對等待時間有最小影響,這在像是VR、AR以及遙現這類即時應用當中相當重要。
此時將參閱第六圖和第七圖來說明實現選擇規則的方式範例。
尤其是,此範例著重在如何使用一影像之內該像素陣列的空間定位來影響該選擇處理,並因此影響所執行的壓縮量。針對其他因素可執行類似處理,並且本文將不再詳細說明。此處理對於編碼器或解碼器來說都一樣,所以為了容易說明,因此只將焦點放在編碼器的操作上。
在此範例中,在步驟600上,編碼器處理裝置322決定該目前通道的選擇規則。在此方面,如先前所述,不同規則通常會套用至該等亮度與色度通道之每一者。然後在步驟605上,編碼器處理裝置322決定該影像之內該像素陣列的位置,並從此決定是否伴隨有與該位置有關的一絕對規則。在此方面,當使用頭戴組顯示影像時,該透鏡配置通常表示看不見影像的該部分。第七圖內顯示此範例,其顯示一影像的可觀看部分701以及不可觀看部分702。在此方面,若該像素陣列位於不可觀看部分702內,則不需要對該像素陣列編碼,因此該處理可簡單忽略該等頻率係數的所有層級。因此,在步驟610上若存在該像素陣列絕對位置的規則,則該處理前往步驟625,允許決定各別層級選擇,然後在步驟630上使用各別位元編碼方案,如上面關於步驟414至418的說明。
否則在步驟615上,編碼器處理裝置322決定該影像的觀察者凝視點。運用眼睛追蹤感應系統就可實現,精通技術人士就可了解。一旦已經決定,在步驟620上決定一相對位置,以及決定一範例內該凝視點與該目前像素陣列位置之間的距離,然後在步驟625和630上用此來引導係數及/或位元編碼方案決策。在此方面,當一個人的周邊視野感受不到與其焦點位置相同的細節層級時,所以可從使用者凝視點開始進一步使用更大程度的壓縮。
在一個範例中,可將使用者凝視點四周定義成最低壓縮區域,而隨著從該最低區域往外移動時提高壓縮程度。該區域可為任何形狀,並且可根據特定環境而為圓形、橢圓形、卵形等等。該區域也可相對於該凝視區偏離中心,因此確保使用低於該凝視點的最小壓縮,此區域一般來說就是使用者比較會察覺的區域。
亦應了解,在無法測量使用者凝視點的環境中,這可預測。一般而言,該預測聚焦在畫面的中央,但應了解,這並非必需並且可改變,例如根據像是所代表內容的性質、頭戴組移動方向等等。
如此,應了解,這說明允許根據該影像之內該像素陣列的絕對及/或相對位置來執行選擇性編碼之機制。讓該編碼器與解碼器每一者都執行相同演算法來選擇該編碼方案以及所使用的選擇,這允許該解碼器可靠並精確解壓縮該已壓縮影像資料,同時仍舊允許動態執行編碼,將整體壓縮程度最大化,同時讓可感受的影像品質損失降至最低。
應了解,類似方式可用於其他因素,像是傳輸品質及/或頻寬,因此確定該壓縮程度最適合當前的環境。
此時將參考第八圖說明用來壓縮影像資料以及後續解壓縮已壓縮影像資料的方法之進一步範例。
雖然用單獨範例說明,不過從以下說明將了解,該當前範例可與上述壓縮/解壓縮技術結合使用,以便用來進一步改善壓縮與計算效能。尤其是,上述技術代表以下處理當中可運用的選項之一,不過也可了解,根據環境可適當其他壓縮技術。
在此範例中,在步驟800上,從像素資料獲得代表該等一或多個影像之內一像素陣列的像素資料。這可用任何合適方式實現,但是通常牽涉到緩衝所接收的影像資料,直到已經用類似上述方式獲得一像素陣列,像是8x8陣列。
在步驟810上,已決定一編碼方案,通常從一或多個先前定義的編碼方案當中選擇一編碼方案,像是上面關於第一圖至第七圖所說明的編碼方案。該選擇可用任何適當方式來執行,像是通過該影像及/或像素資料的分析、根據關聯於該影像的影像類型、根據來自影像來源或顯示器的指令等等,並且這通常根據當前情況的特定需求,執行來提供更高或更低壓縮程度。
在步驟820上,使用該編碼方案編碼該像素資料,例如使用上述技術等等。在步驟830上,指示該編碼方案的一編碼代碼是例如通過與可用方案相關聯的查找(look-up),這與該已編碼區塊搭配使用來產生壓縮影像資料。在一個範例中,這可利用該已編碼代碼當成前綴碼加入至該已編碼像素資料來實現,儘管可使用其他方式,包括根據所使用的該編碼方案,簡單地通過用該編碼代碼取代該像素數據,例如使用一代碼字元替換。
一旦已經建立該已壓縮影像資料,然後這可傳輸至一目的地,例如一位元組串流的一部分,允許進行解碼來產生影像資料。
在步驟840上,通常由決定來自該已壓縮影像資料的該編碼代碼來執行此處理。在此方面,該編碼代碼通常具有一組格式,像是位元的特定組合,這樣在所接收位元組串流之內就可輕易辨識。然後使用該編碼代碼來決定使用的該編碼方案,通常透過步驟850上的查找程序。然後在步驟860上,使用該已辨識編碼方案來解碼該已壓縮影像資料,例如使用上面關於第一圖至第七圖所描述的方式,藉此產生代表該等一或多個影像之內該像素陣列的像素資料。
因此,上述處理允許使用一些編碼方案之一者來執行編碼。在較佳範例中,事先知道編碼器與解碼器使用該等不同編碼方案,允許針對已編碼/已解碼的該影像之內每一像素陣列動態改變。這確定該編碼方案用於最佳化被編碼的該特定資料,藉此實現壓縮最大化,同時確定維持其他所要的特性,像是影像品質與編碼時間。
此時將描述一些進一步特色。
當編碼該影像時,該處理通常牽涉到根據不同因素的一範圍之一或多者,包括該影像資料的影像類型、從一影像資料來源或顯示器接收的一編碼方案指示、利用分析至少該影像資料與該像素資料之一者,或根據壓縮要求,像是要求的壓縮量、結果影像品質、壓縮延遲等等,來決定該編碼方案。
如此例如在編碼相片而非電腦生成圖形時,可使用不同編碼類型,因為其通常具有非常不同的屬性。從與該影像相關聯的中繼資料,或根據該影像本身的屬性,就可獲得該影像的性質。另外,供應該影像資料的一影像來源,像是供應該影像資料來傳輸至一顯示器或其他計算裝置的一電腦系統,可指定應該使用的該編碼方案。
進一步範例為分析該像素資料,來識別該像素陣列的特性,例如若該像素陣列具有單一顏色,則應該使用與內含多種顏色的該像素陣列所用不同之演算法。這對於編碼具有單一顏色的大面積影像特別有用,像是天空或背景,允許指示使用純色來取代整個像素陣列的該像素資料之單一編碼代碼,藉此導致最大量壓縮,而對影像品質無有效損失。
進一步範例為梯度或邊界的識別,其可導致使用許多影像壓縮方式還是得不到所要壓縮物,因此可能需要替代的壓縮方式。
在一個較佳範例中,其中該像素陣列並非純色,則使用關於第一圖至第七圖所描述的方式。在該像素陣列不含梯度或邊界的事件中,該技術可牽涉到編碼所有三個該等YCbCr通道。然而,在該像素陣列包含一梯度或邊界的事件中,該Y通道可不用編碼,如此保留額外的亮度資訊。雖然這減少所獲得的最終壓縮總量,不過由於該等CbCr通道的壓縮,所以該壓縮總量仍舊足夠,而該額外保留的顏色資訊可顯著改善該梯度或邊界區域內該結果影像的品質。
該選擇也可用來控制一壓縮演算法的其他態樣,例如:這應用於以類似於關於第六圖中該處理所執行方式,指定在上述壓縮處理當中要保留哪個頻率係數。
該編碼代碼通常指定為從0至255的數字形式,這可用單一位元組定義,並且允許最多256種不同的編碼方案供選擇。如此有廣泛不同的編碼方案可使用,而這些方案都分別指派給數字0至255,如此可使用廣泛不同的編碼方案,藉此達成具有所要影像品質的最佳壓縮。在一個特定範例中,應了解,可建立編碼方案的工業標準清單,如此即使之前未溝通建立要使用的編碼方案,也可讓編碼與解碼系統協同運作。
在一個特定範例中,該編碼代碼可由諸如「11111111」之類的固定格式前導位元組來識別,如此用來選擇指派給數字1的編碼方案之該編碼代碼應為「1111111100000001」。應了解,執行此允許該解碼處理輕鬆識別所使用的編碼處理。然而,任何合適的方式都可使用,並且上面範例並非用於設限。
應了解,當解碼該已壓縮影像資料時,使用類似的方式,該方式包括將一編碼代碼替換成一純色的像素陣列,或使用先前說明的解碼處理。
亦應了解,可使用類似於上述的設備來執行該影像壓縮處理,因此不再進一步詳細說明。
此時參閱第九A圖和第九B圖,更詳細說明進一步範例處理。
在此範例中,在步驟904上,編碼器320從處理系統310接收影像資料,特別是代表一系列影像的視頻資料,然後在步驟902上暫時儲存在編碼器輸入緩衝區321內。接著分析該影像資料,例如通過解析該資料來識別限定標頭的該資料內之旗標、識別一影像的開頭等等,在步驟904上獲取對應至接下來8x8像素區塊的影像資料。應了解,這對應至上述步驟400至404,因此將不再進一步詳細說明。
在步驟906上,編碼器920選擇要使用的一編碼方案。這可透過8x8像素區塊的分析,例如決定該區塊是否為單一顏色、梯度、邊緣等等,或可根據該影像來源提供的資訊來實現。
在顯示的範例中,該等編碼方案包括一第一編碼方案,用來在步驟908上執行一區塊替換,其中用一已知預定的代碼取代單色像素區塊。在步驟908上提供一第二編碼方案,在此範例中其對應至上述編碼方案,並且指定至步驟406至426。然而,應了解,可使用不同方案的任何數量 N,然後在步驟910上選擇並使用其他方案。
在步驟912上,代表該已選取編碼方案的一編碼代碼前置附加(prepended)至該已編碼資料,然後在步驟914上將此資料當成壓縮影像資料來輸出。
接著,在步驟916上,解碼器330接收該已壓縮影像資料,來執行此解碼,並在步驟918上,偵測該編碼代碼存在與否,然後在步驟920上,用此檢測結果來選擇一適當的解碼方案。例如:這可包括在步驟922上執行區塊替換,用單色像素區塊取代該預定代碼,或包括在步驟924上執行步驟432-446的該解碼處理。同樣,提供 N合適的解碼方案,而依照需求可在步驟926上選擇並使用其他方案。
最終,在步驟928上,從該解碼器輸出一8x8像素區塊。
從此可了解,步驟906上執行的該選擇程序執行要執行的分類功能,如此每一像素區塊都可指派給不同的編碼方案。在一個範例中,最多可定義256個不同的方案,允許第三方導入新壓縮/解壓縮方案給先前說明架構之內的該8x8像素區塊。更進一步,使用者可定義特定分類方案,如此例如根據要編碼的該影像內容性質、該情況的需求,像是延遲需求等等,例如256個方案的不同組合就可用於不同環境。
這大大增加了可執行的編碼之靈活性,並且特別允許使用針對每個像素區塊的分類處理,來動態選擇個別編碼方案,藉此根據具體情況優化對每個區塊的編碼。更進一步,可以提供不同的分類方案,每個不同的分類方案允許存取編碼方案的不同組合,藉此進一步增加靈活性,允許使用者確保可在各種不同情況中執行最佳編碼。
在另一個廣泛形式中,上述第六圖和第七圖中描述的該移動壓縮方案還可結合不同的加密方案來使用,以提供一種將來自數位實境內容中一或多個影像形成部分的影像資料壓縮之方法,此時將參閱第十圖來說明。
在此範例中,該方法包括在步驟1000上從該影像資料獲得像素資料,該像素資料代表該等一或多個影像之內一像素陣列。這可用類似於上述方式來實現。
在步驟1010上,決定該等一或多個影像之內該像素陣列相對於一已定義位置的一位置,而該已定義位置至少部分指示該使用者的一凝視點。所定義的位置可以基於凝視的實際測量點,或該使用者的預期或預測凝視點,例如通過假設使用者在開始盯著該影像的大致中心,或基於內容,例如影像內的焦點、頭戴組的移動等來決定。此外,該定義點可偏離該凝視點,例如將此定位在該凝視點底下,來考量到個人傾向稍微聚焦在凝視點底下,避免走路時撞到障礙物。
接著,在步驟1020上將該像素資料壓縮,來產生壓縮的影像資料,該像素資料以至少部分依照該已決定位置來壓縮,如此壓縮程度取決於該像素陣列的該已決定位置。
應了解,可執行類似的解壓縮處理,其牽涉到在步驟1030上獲得已壓縮的影像資料,該已壓縮影像資料代表該等一或多個影像之內一像素陣列,並且至少部分根據該等一或多個影像之內的該像素陣列相對於一已定義位置之一位置來壓縮,該已定義位置至少部分指示該使用者的凝視點,以及在步驟1040上至少部分依照該已決定位置來解壓縮該已壓縮影像資料。
如此,這提供壓縮與後續解壓縮該影像的機制,其中該壓縮根據一像素陣列相對於一定義點的位置來控制,接著至少部分根據該使用者的預測或受測凝視點來控制。尤其是,這允許根據該像素陣列的位置,選擇壓縮程度,如此在該凝視點附近區域可使用較少壓縮,而遠離該凝視點的區域可使用較大壓縮,例如使用者的視野周邊內。這實際上提供了渲染(foveated)壓縮,通過增加使用者的周邊視野的壓縮,其中降低的影像品質不太明顯,從而允許實現更大的總體壓縮,而無可察覺的品質損失。
應了解,此處理可與上述壓縮處理結合使用,例如允許基於該像素陣列的位置來選擇不同的壓縮方案,並允許使用上述位元編碼方案。然而,這並非必需並且任何合適的壓縮方案都可使用,像是小波壓縮、自適應採樣等。
在任何事件中,此時將描述一些進一步特色。
在一個範例中,所定義位置是使用者的凝視測量點、使用者的凝視預期點、偏離使用者凝視測量點之處、偏離使用者凝視預期點之處以及至少部分依照指示使用者凝視點的凝視資料所決定點之一,其中該凝視資料獲自於一凝視追踪系統。如此,所定義點可基於凝視的測量點或預測點並且可偏移,像是低於該凝視點,以便優化該壓縮程度,而不會引起可察覺的影像品質降低。
該壓縮程度可基於與該定義點的距離,例如遠離該凝視點時逐漸降低,但也可基於相對於該定義點的方向,如此高於或低於該定義點時壓縮較多。應了解,這允許在相對於該凝視點定位具有任意形狀的區域中使用相應的壓縮程度,並且這可以根據受壓縮內容的特定環境及/或性質來配置。例如,這允許圍繞該定義點的橢圓形、卵形或心形區域與周邊區域相比具有減少的壓縮量,從而在該使用者對任何壓縮物的感知將會更大的區域中優化影像品質。
在一個範例中,該方法包括選擇複數個編碼方案之一者,並使用該已選取的編碼方案編碼該像素資料,如此應了解,這允許結合類似於第八圖和第九圖中描述的技術來執行渲染壓縮,其中使用的編碼方案係依照該像素陣列的位置來選擇。如此在一個範例中,每個編碼方案都提供相應的壓縮程度,並且其中該方法包括至少部分依照想要的壓縮程度及/或該像素陣列的位置來選擇編碼方案。
該處理也涉及決定指出所使用編碼方案的一編碼代碼,並使用該編碼代碼和已編碼像素資料來產生壓縮影像資料,從而允許將其用於解碼該已壓縮影像資料。然而,這並非必需,或者該解壓縮處理可以涉及使用類似的標準來決定所使用的編碼方案,例如該像素陣列的位置以及因此所需的壓縮程度。
在一個範例中,該編碼方案使用類似於上面關於第一圖所描述的方式,在此案例中,通過對該像素資料套用一轉換,來決定指出該像素陣列頻率分量的一組頻率係數,來壓縮影像資料,使用一位元編碼方案選擇性編碼至少某些該等頻率係數,從而產生一組已編碼的頻率係數,並使用該已編碼的頻率係數產生已壓縮影像資料。然而應了解,可使用任一或多個合適壓縮技術,像是JPEG等等。
在該較佳範例中,如上面第一圖的案例中,該位元編碼方案定義用於將每一該等頻率係數編碼的位元數,如此至少某些該等已編碼頻率係數具有不同的位元數。更典型地,使用較少數的位元來編碼對應於較高頻率的頻率係數,並且較佳是,逐漸更少數量的位元用於對逐漸升高頻率相應的頻率係數進行編碼。在一個範例中,拋棄至少一些頻率係數(使用零位元有效進行編碼),使得該組已編碼頻率係數小於該組頻率係數,並且這些頻率係數通常對應於較高頻率。
在一個範例中,該方法包括選擇複數個位元編碼方案之一者,並依照該選取的位元編碼方案編碼該等頻率係數。如此應了解,不同的編碼方案可以對應於第一圖的該編碼方案,其中使用不同的位元編碼方案來用各別不同的位元數對不同的頻率係數進行編碼,從而提供不同的壓縮程度。
如此應了解,該位元編碼方案可至少部分根據想要的壓縮程度及/或該像素陣列的位置來選擇。這可根據其他因素,例如該像素陣列的位置、用於發送該已壓縮影像資料的一通訊連結之傳輸頻寬、用於發送該已壓縮影像資料的一通訊連結之傳輸服務品質、一顯示裝置的移動、影像顯示要求、一目標顯示解析度、正在處理的通道、錯誤矩陣等。如上述,這允許動態調整該壓縮,以幫助優化該壓縮並獲得當前情況下最佳可能影像品質之能力。
在一個範例中,該等頻率分量配置在複數個層級內,並且其中每一位元編碼方案定義要用來編碼該等複數個層級中每一者內該等頻率係數的一個別位元數。尤其是,其中該陣列為 Nx N像素陣列,這產生2 N-1階的頻率分量,其中每一階層內的分量都用各別位元數編碼。
如上述,該方法可包括以類似於上述方式套用一比例縮放因數。
該影像資料通常定義複數個通道,其中該方法包括針對每一通道選擇性編碼頻率係數。例如:該像素資料可定義RGB通道,該等通道會轉換成YCbCr通道,然後如上述轉換該等通道。此處理涉及選擇性比該等Cb或Cr通道編碼更多頻率係數給該Y通道、選擇性同時編碼頻率係數給該等YCbCr通道及/或選擇性編碼頻率係數給該等CbCr通道並使用該Y通道,如此該Y通道有效未壓縮。
在一個範例中,該轉換為一2-D離散餘弦轉換。
該方法通常也包括將該影像資料緩衝,以獲得該等像素陣列,例如通過緩衝像素的 n-1列,以及下一列像素的接下來 n像素,來形成第一 nx n像素區塊。然後如前所述緩衝連續區塊,其中基於所選位元編碼方案、想要的壓縮程度及/或該像素陣列的位置,可選擇性控制每個區塊中的像素數。
頻率係數通常同時編碼,而該已壓縮影像資料是通過並列到序列位元組編碼所產生,不過也可使用其他合適的方式。
類似方式可用於將該已壓縮影像資料解碼。
例如:對該已壓縮影像資料解碼可包括選擇複數個解碼方案之一者,並使用所選解碼方案對該像素資料解碼,其中該選擇係基於想要的壓縮程度、該像素陣列的位置或該已壓縮影像資料內一編碼代碼。
該方法可包括使用與上述類似的解壓縮方案,其可使用複數個位元編碼方案之一者來提供不同程度的壓縮,通過針對複數個階層每一者中的該等頻率係數,編碼個別位元數。
一比例縮放因數可套用到至少某些該等頻率係數,如此解碼已比例縮放的已編碼頻率係數,該比例縮放因素用來增加每一頻率係數的強度。再次,不同的比例縮放因數可套用於至少某些已編碼的頻率係數,或該相同的比例縮放因數可套用於每一已編碼的頻率係數。在兩案例中,不同的比例縮放因數可套用於不同通道內的已編碼頻率係數。
可使用複數個通道,其中每個通道都依照需要進行解碼,這可通過使用序列至並列位元組解碼並選擇性同時解碼頻率係數,來選擇性同時執行。
上述技術想要的壓縮程度可基於該像素陣列的位置、用於發送該已壓縮影像資料的一通訊連結之傳輸頻寬、用於發送該已壓縮影像資料的一通訊連結之傳輸服務品質、一顯示裝置的移動、影像顯示要求、一目標顯示解析度、正在處理的通道或錯誤矩陣之任一或多者。
這些技術可用於傳輸數位實境內容,包括增強實境、虛擬實境、混合實境、遙現等之任一或多者。這可包括經由一通訊網路及/或一無線通訊連結,從計算裝置將該影像資料發送到可穿戴式數位實境頭戴組。
因此,上述處理允許進行顯著的影像壓縮,而對於等待時間沒有不利的影響,允許將該技術用於使用現有硬體,對虛擬或增強實境可穿戴式顯示器提供無線連接,同時也允許在其他應用當中更廣泛地實現已改良的影像壓縮。
在本說明書和以下申請專利範圍中,除非上下文另有要求,否則文字「包括」以及諸如「包括」或「包含」之類的變體將被理解為暗示包括所述整數群組或步驟,但不排除任何其他整數或整數群組。
精通技術人士將了解,許多變化和修改將變得顯而易見。精通技術人士應了解的所有這些變化和修改,都應落在上述本發明中廣泛的精神和範疇內。
100-170:步驟 200:可穿戴式裝置上顯示影像設備 210:處理系統 220:編碼器 230:解碼器 240:HMD 250:控制器 260:無線通訊連結 300:虛擬實境系統合併用於壓縮與解壓縮影像資料的設備 310:處理系統 311:微處理器 312:記憶體 313:輸入/輸出裝置 314:外部介面 315:匯流排 320:編碼器 321:編碼器輸入緩衝區 322:編碼器處理裝置 323:編碼器輸出緩衝區 324:收發器 325:個別資料緩衝區 330:解碼器 331:解碼器輸入緩衝區 332:解碼器處理裝置 333:解碼器輸出緩衝區 334:收發器 335:個別資料緩衝區 340:顯示裝置 341:微處理器 342:記憶體 343:輸入/輸出裝置 344:感測器 345:顯示器 346:外部介面 347:匯流排 360:短範圍無線電通訊 400-448:步驟 531-533:頻率係數 541:亮度通道 542:色度通道 543:色度通道 600-630:步驟 701:可觀看部分 702:不可觀看部分 800-860:步驟 900-928:步驟 1000-1040:步驟
請參閱附圖,說明本發明的範例,其中:
第一圖為用於壓縮以及後續解壓縮影像資料的一方法範例之流程圖;
第二A圖為用於在一可穿戴式裝置上顯示影像的一設備之第一範例示意圖;
第二B圖為用於在一可穿戴式裝置上顯示影像的一設備之第二範例示意圖;
第三圖為一虛擬實境系統合併用於壓縮與解壓縮影像資料的設備之特定範例示意圖;
第四A圖至第四D圖為用於壓縮以及後續解壓縮影像資料的一方法特定範例之流程圖;
第五圖為例示該編碼處理態樣的示意圖;
第六圖為選擇一位元編碼方案的一方法範例之流程圖;
第七圖為待編碼的影像範例之示意圖;
第八圖為用於壓縮影像資料以及解壓縮已壓縮影像資料的一編碼/解碼方案之另一個範例的流程圖;
第九A圖和第九B圖為使用一選取的編碼/解碼方案,來壓縮以及後續解壓縮影像資料的一方法特定範例之流程圖;以及
第十圖為用於壓縮以及後續解壓縮影像資料的一方法進一步範例之流程圖。
100-170:步驟

Claims (20)

  1. 一種代表一或多個影像中之影像資料壓縮之方法,該方法包括: a)               從該影像資料獲得像素資料,該像素料資料代表該等一或多個影像之內一像素陣列; b)              對該像素資料套用一轉換,以決定指示該像素陣列的頻率分量之一組頻率係數; c)               選擇複數個位元編碼方案之一者,其中該等複數個位元編碼方案之每一者選擇性用不同的位元數來編碼不同的頻率係數,以提供不同的壓縮程度,且其中至少部分根據至少以下之一來選擇該位元編碼方案: i)   用來傳輸該已壓縮影像資料的一通訊連結之傳輸頻寬; ii)  用來傳輸該已壓縮影像資料的一通訊連結之傳輸服務品質;以及 iii) 指示資料傳輸錯誤的錯誤矩陣; d)              使用選擇的位元編碼方案選擇性對至少某些該等頻率係數編碼,藉此產生一組已編碼的頻率係數,其中該位元編碼方案定義用於編碼該等頻率係數之每一者的位元數,如此當該等頻率係數進行選擇性編碼時: i)    至少某些該等已編碼頻率係數用不同位元數編碼;及 ii)   拋棄至少一頻率係數,如此該組已編碼頻率係數小於該組頻率係數;以及 e)               使用該已編碼的頻率係數產生壓縮的影像資料。
  2. 如請求項1之方法,其中該方法包括根據至少以下之一選擇該位元編碼方案: a)               一顯示裝置的鏡頭安排; b)              一顯示裝置的移動; c)               一顯示裝置的影像顯示需求; d)              一顯示裝置的一目標顯示解析度; e)               經處理的一通道;以及 f)                該等一或多個影像之內該像素陣列的一位置。
  3. 如請求項1之方法,其中選擇性編碼該等頻率係數,如此至少以下之一: a)    定義使用一些位元數來編碼頻率係數之每一者,與該各別頻率係數之值無關; b)    較少位元數用於將對應至較高頻率的頻率係數編碼; c)    逐漸較少的位元數用於將對應至逐漸較高頻率的頻率係數編碼; d)    拋棄對應至較高頻率的至少一頻率係數。
  4. 如請求項1之方法,其中該方法包括將一比例縮放因數套用到至少某些該等頻率係數,如此編碼已比例縮放的頻率係數,並且其中至少以下之一: a)      將不同的比例縮放因數套用到至少某些頻率係數; b)      將該相同的比例縮放因數套用到每一頻率係數;以及 c)      該比例縮放因數用來降低頻率係數每一者的強度。
  5. 如請求項1之方法,其中該等頻率分量配置在複數個層級內,並且其中每一位元編碼方案定義要用來編碼該等複數個層級中每一者內該等頻率係數的一各別位元數。
  6. 如請求項1之方法,其中該影像資料定義複數個通道,並且其中該方法包括透過以下方法針對每一通道選擇性編碼頻率係數: a)      將該RGB通道轉換成YCbCr通道;以及 b)      藉由選擇性針對該Y通道而比該等Cb或Cr通道編碼更多頻率係數來轉換該等YCbCr通道。
  7. 如請求項1之方法,其中該方法包括利用以下從影像資料獲得像素資料: a)      緩衝對應至該影像的下一個 n-1列像素之影像資料; b)      緩衝該下一列像素的下一個 n像素之影像資料; c)      從該已緩衝影像資料中獲得下一個 nx n像素區塊的像素資料; d)      重複步驟b)和c),直到已經從所有該 n列像素中獲得像素資料;以及 e)      重複步驟a)至d),直到已經從該影像的每一列像素中獲得像素資料。
  8. 如請求項1之方法,其中該方法包括: a)      同時選擇編碼頻率係數;以及 b)      至少部分通過並行至序列位元組編碼來產生壓縮的影像資料。
  9. 如請求項1之方法,其中該方法包括至少以下之一: a)    變更所選的位元編碼方案,以動態調整壓縮程度; b)    若壓縮物超出臨界壓縮,則選擇位元編碼方案,以減少壓縮;以及 c)    若可用傳輸頻寬下降,則可提高壓縮。
  10. 一種將代表一或多個影像的已壓縮影像資料解壓縮之方法,該方法包括: a)      獲取已壓縮的影像資料; b)      決定複數個位元編碼計畫中所選擇的一個,其中該等位元編碼方案的每一個以各別不同的位元數選擇性編碼不同的頻率係數來提供不同的壓縮程度,其中該位元編碼方案至少部分基於以下至少一者而被選擇: i)    用來傳輸該已壓縮影像資料的一通訊連結之傳輸頻寬; ii)   用來傳輸該已壓縮影像資料的一通訊連結之傳輸服務品質;以及 iii)  指示資料傳輸錯誤的錯誤矩陣; c)      依照所選擇的該位元編碼方案藉由以下來解碼已編碼的該頻率係數: i)    依照所選擇的該位元編碼方案從該壓縮影像資料決定一組經編碼的頻率係數; ii)   依照該位元編碼方案執行該等頻率係數的位元解碼,以產生一組頻率係數,其中至少一個頻率係數被產生,使得該組經編碼的頻率係數小於該組頻率係數;以及 iii)  對該組頻率係數套用一逆向轉換,來決定代表該等一或多個影像之內一像素陣列的像素資料。
  11. 如請求項10之方法,其中該方法包括根據至少以下之一選擇該位元編碼方案: a)      一顯示裝置的鏡頭安排; b)      一顯示裝置的移動; c)    一顯示裝置的影像顯示需求; d)   一顯示裝置的一目標顯示解析度; e)   經處理的一通道;以及 f)   該等一或多個影像之內該像素陣列的一位置。
  12. 如請求項1之方法,其中該影像資料為指示該數位實境包括至少以下之一: a)      增強實境; b)      虛擬實境;以及 c)      混合實境。
  13. 如請求項1之方法,其中該方法用於利用一無線通訊連結,接收來自一計算裝置的該已壓縮影像資料,在一可戴式數位實境頭戴組內顯示影像資料。
  14. 如請求項1之方法,其中該方法用於至少以下之一: a)      傳輸虛擬實境視頻資料;以及 b)      無線傳輸虛擬實境視頻資料。
  15. 一種將代表一或多個影像的影像資料壓縮之設備,該設備包括至少一個電子編碼器處理裝置,該至少一個電子編碼器處理裝置: a)      從該影像資料獲得像素資料,該像素料資料代表該等一或多個影像之內一像素陣列; b)      對該像素資料套用一轉換,以決定指示該像素陣列的頻率分量之一組頻率係數; c)    選擇複數個位元編碼方案之一者,其中該等複數個位元編碼方案之每一者選擇性用不同的位元數來編碼不同的頻率係數,以提供不同的壓縮程度,且其中至少部分根據至少以下之一來選擇該位元編碼方案: i)    用來傳輸該已壓縮影像資料的一通訊連結之傳輸頻寬; ii)   用來傳輸該已壓縮影像資料的一通訊連結之傳輸服務品質;以及 iii)  指示資料傳輸錯誤的錯誤矩陣; d)    使用所選擇的位元編碼方案選擇性編碼至少某些該等頻率係數,藉此產生一組已編碼的頻率係數,其中該位元編碼方案定義用於將該等頻率係數編碼的該位元數,並且其中該等頻率係數選擇性編碼時: i)    至少某些該等已編碼頻率係數具有不同位元數;及 ii)   拋棄至少一頻率係數,如此該組已編碼頻率係數小於該組頻率係數;以及 e)       使用該已編碼的頻率係數產生壓縮的影像資料。
  16. 如請求項15之設備,其中該設備包括: a)  一編碼器輸入緩衝區,用來接收該影像資料; b)  一編碼器輸出緩衝區,其中儲存壓縮影像資料;以及 c)    一編碼器發射器,發射來自該編碼器輸出緩衝區的該影像資料。
  17. 如請求項15之設備,其中該至少一編碼器處理裝置包括: a)  一合適程式編輯的現場可程式閘陣列; b)  一專用積體電路;以及 c)  一圖形處理單元。
  18. 如請求項15之設備,其中該像素資料定義複數個通道,並且其中該設備包括: a)  針對每一通道的一各別處理裝置;以及 b)  用於同時處理每一通道的一並行處理裝置。
  19. 如請求項15之設備,其中該設備包括一編碼器,用無線通訊方式與一解碼器通訊,允許影像資料作為已壓縮影像資料在該編碼器與該解碼器之間傳輸,其中該編碼器為耦合至合適程式編輯的處理系統至少之一及其一部分,且其中該解碼器為耦合至一可穿戴顯示裝置至少之一及其一部分。
  20. 一種將代表一或多個影像的已壓縮影像資料解壓縮之設備,該設備包括至少一個電子解碼器處理裝置,該至少一個電子解碼器處理裝置: a)    獲取已壓縮的影像資料; b)    依照定義每一已編碼頻率係數內所使用該位元數的一位元編碼方案,從該已壓縮影像資料決定一組已編碼頻率係數; c)   決定複數個位元編碼計畫中所選擇的一個,其中該等位元編碼方案的每一個以各別不同的位元數選擇性編碼不同的頻率係數來提供不同的壓縮程度,其中該位元編碼方案至少部分基於以下至少一者而被選擇: i)    用來傳輸該已壓縮影像資料的一通訊連結之傳輸頻寬; ii)   用來傳輸該已壓縮影像資料的一通訊連結之傳輸服務品質;及 iii)  指示資料傳輸錯誤的錯誤矩陣; d)  依照所選擇的該位元編碼方案藉由以下來解碼已編碼的該頻率係數: i)  依照所選擇的該位元編碼方案來執行該已編碼頻率係數的位元解碼,藉此產生一組頻率係數,其中產生至少一個頻率係數,如此該組已編碼頻率係數小於該組頻率係數;以及 ii)對該組頻率係數套用一逆向轉換,來決定代表該等一或多個影像之內一像素陣列的像素資料。
TW111102715A 2016-06-17 2017-06-15 影像壓縮方法與設備 TWI788200B (zh)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
US201662351738P 2016-06-17 2016-06-17
US62/351738 2016-06-17
AU2016905048 2016-12-07
AU2016905048A AU2016905048A0 (en) 2016-12-07 Image compression method and apparatus

Publications (2)

Publication Number Publication Date
TW202220441A TW202220441A (zh) 2022-05-16
TWI788200B true TWI788200B (zh) 2022-12-21

Family

ID=60663859

Family Applications (2)

Application Number Title Priority Date Filing Date
TW106119982A TWI757303B (zh) 2016-06-17 2017-06-15 影像壓縮方法與設備
TW111102715A TWI788200B (zh) 2016-06-17 2017-06-15 影像壓縮方法與設備

Family Applications Before (1)

Application Number Title Priority Date Filing Date
TW106119982A TWI757303B (zh) 2016-06-17 2017-06-15 影像壓縮方法與設備

Country Status (3)

Country Link
AU (2) AU2017285700B2 (zh)
TW (2) TWI757303B (zh)
WO (1) WO2017214671A1 (zh)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10657674B2 (en) 2016-06-17 2020-05-19 Immersive Robotics Pty Ltd. Image compression method and apparatus
AU2018218182B2 (en) 2017-02-08 2022-12-15 Immersive Robotics Pty Ltd Antenna control for mobile device communication
WO2018145153A1 (en) 2017-02-08 2018-08-16 Immersive Robotics Pty Ltd Antenna control for mobile device communication
TW201935927A (zh) 2017-11-21 2019-09-01 澳大利亞商伊門斯機器人控股有限公司 用於影像壓縮之頻率分量選擇
EP3714602A4 (en) * 2017-11-21 2021-07-28 Immersive Robotics Pty Ltd IMAGE COMPRESSION FOR DIGITAL REALITY
US10650791B2 (en) * 2017-12-28 2020-05-12 Texas Instruments Incorporated Display system
WO2019209257A1 (en) 2018-04-24 2019-10-31 Hewlett-Packard Development Company, L.P. Display devices including switches for selecting column pixel data
CN113033787A (zh) * 2019-12-24 2021-06-25 中科寒武纪科技股份有限公司 一种量化神经网络矩阵的方法、设备、计算机产品及板卡
US11403782B2 (en) * 2019-12-31 2022-08-02 Alibaba Group Holding Limited Static channel filtering in frequency domain

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5325125A (en) * 1992-09-24 1994-06-28 Matsushita Electric Corporation Of America Intra-frame filter for video compression systems
US6252989B1 (en) * 1997-01-07 2001-06-26 Board Of The Regents, The University Of Texas System Foveated image coding system and method for image bandwidth reduction
US7027655B2 (en) * 2001-03-29 2006-04-11 Electronics For Imaging, Inc. Digital image compression with spatially varying quality levels determined by identifying areas of interest
US7689047B2 (en) * 2005-04-19 2010-03-30 Samsung Electronics Co, Ltd. Reduced buffer size for JPEG encoding
US7734105B2 (en) * 2003-12-19 2010-06-08 Telefonaktiebolaget Lm Ericsson (Publ) Multi-mode image processing
US8098941B2 (en) * 2007-04-03 2012-01-17 Aptina Imaging Corporation Method and apparatus for parallelization of image compression encoders

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5963673A (en) * 1995-12-20 1999-10-05 Sanyo Electric Co., Ltd. Method and apparatus for adaptively selecting a coding mode for video encoding
KR100323441B1 (ko) * 1997-08-20 2002-06-20 윤종용 엠펙2동화상부호화/복호화시스템
US6249614B1 (en) * 1998-03-06 2001-06-19 Alaris, Inc. Video compression and decompression using dynamic quantization and/or encoding
US8542732B1 (en) * 2008-12-23 2013-09-24 Elemental Technologies, Inc. Video encoder using GPU
US8184069B1 (en) * 2011-06-20 2012-05-22 Google Inc. Systems and methods for adaptive transmission of data

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5325125A (en) * 1992-09-24 1994-06-28 Matsushita Electric Corporation Of America Intra-frame filter for video compression systems
US6252989B1 (en) * 1997-01-07 2001-06-26 Board Of The Regents, The University Of Texas System Foveated image coding system and method for image bandwidth reduction
US7027655B2 (en) * 2001-03-29 2006-04-11 Electronics For Imaging, Inc. Digital image compression with spatially varying quality levels determined by identifying areas of interest
US7734105B2 (en) * 2003-12-19 2010-06-08 Telefonaktiebolaget Lm Ericsson (Publ) Multi-mode image processing
US7689047B2 (en) * 2005-04-19 2010-03-30 Samsung Electronics Co, Ltd. Reduced buffer size for JPEG encoding
US8098941B2 (en) * 2007-04-03 2012-01-17 Aptina Imaging Corporation Method and apparatus for parallelization of image compression encoders

Also Published As

Publication number Publication date
AU2019253866B2 (en) 2021-07-22
WO2017214671A1 (en) 2017-12-21
AU2017285700B2 (en) 2019-07-25
TW202220441A (zh) 2022-05-16
TWI757303B (zh) 2022-03-11
AU2017285700A1 (en) 2019-01-24
AU2019253866A1 (en) 2019-11-14
TW201806386A (zh) 2018-02-16

Similar Documents

Publication Publication Date Title
US11151749B2 (en) Image compression method and apparatus
TWI788200B (zh) 影像壓縮方法與設備
US11553187B2 (en) Frequency component selection for image compression
AU2018280337B2 (en) Digital content stream compression
US11973979B2 (en) Image compression for digital reality
US20240121406A1 (en) Content Compression for Network Transmission
US20230395041A1 (en) Content Display Process
JP4011580B2 (ja) 画像データ伝送システム