TW201018245A - Systems and method for highly efficient video compression using selective retention of relevant visual detail - Google Patents

Systems and method for highly efficient video compression using selective retention of relevant visual detail Download PDF

Info

Publication number
TW201018245A
TW201018245A TW098124286A TW98124286A TW201018245A TW 201018245 A TW201018245 A TW 201018245A TW 098124286 A TW098124286 A TW 098124286A TW 98124286 A TW98124286 A TW 98124286A TW 201018245 A TW201018245 A TW 201018245A
Authority
TW
Taiwan
Prior art keywords
video stream
video
stream
detail
details
Prior art date
Application number
TW098124286A
Other languages
English (en)
Inventor
Leonard T Bruton
Greg Lancaster
Matt Sherwood
Danny D Lowe
Original Assignee
Headplay Barbados Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Headplay Barbados Inc filed Critical Headplay Barbados Inc
Publication of TW201018245A publication Critical patent/TW201018245A/zh

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/184Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being bits, e.g. of the compressed video stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H04N19/37Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability with arrangements for assigning different transmission priorities to video input data or to video coded data
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

201018245 六、發明說明: 【發明所屬之技術領域】 此申請案係關於同時申請之共同待決共同擁有專利申請 案美國專利申請案第12/176,371號SYSTEMS AND METHODS FOR IMPROVING THE QUALITY OF COMPRESSED VIDEO SIGNALS BY SMOOTHING BLOCK ARTIFACTS及 美國專利申請案第12/176,372號SYSTEMS AND METHODS FOR IMPROVING THE QUALITY OF COMPRESSED VIDEO SIGNALS BY SMOOTHING THE ENTIRE FRAME AND OVERLAYING PRESERVED DETAIL,該等申請案藉 此以引用方式併入本文中。 此揭示内容係關於數位視訊信號,且更具體而言係關於 用於藉由利用人類視覺系統(HVS)之特徵來改善壓縮數位 視訊信號之品質之系統及方法,該等特徵允許針對解壓縮 視訊之一既定知覺品質達成顯著位元速率保存。 【先前技術】 眾所周知’相對於表示文本資訊或音訊信號所需之數位 資料量,視訊信號係由大量數位資料表示。因此在以高位 元速率傳輸數位視訊信號時’且尤其在該等位元速率必須 對應於視訊顯示器裝置所要求之即時數位視訊信號時,佔 據相對大的頻寬。 特定而言’大量不同視訊信號經由此等通信頻道(如電 繞或光纖)之同時傳輸及接受通常係藉由以共享各種通信 頻道中之可用頻寬的方式頻率多工或時間多工該等視訊信 141726.doc 201018245 號來達成。 經數位化之視訊資料通常係根據國際公認的格式化標準 (例如,MPEG2、MPEG4、H264)與音訊資料及其他資料— 起喪入經格式化的媒體標案中。此等檔案通常係經由網際 網路散佈及多工,並分別儲存於電腦之數位記憶體、行動 電話、數位視訊記錄器中及光盤(CD)與數位視訊光碟 (DVD)上。許多該等裝置係在實體上且無差別地合併至單 個裝置中。
在形成經格式化之媒體檔案的程序中,檔案資料經受各 種程度及類型的數位壓縮以減小其表示所需的數位資料 量,藉此減小記憶㈣存要求以及其在與多個其他視訊槽 案多工時可靠之同時傳輸所需的頻寬。 網際網路提供視訊資料之遞送 尤具複雜實例,其中 視訊播案係在其自集中式飼服器至最終使用者之下載傳輸 期間以許多不同方式且經由許多不同頻道(亦即,路徑侈 工。然而,實質上在所有情形下,期望針對一既定初始數 位視訊源及最終使用者之所接收及所顯示視訊之一既定品 質,將所得視訊檔案I縮至最小的可能大小。 格式化之視訊構案可表示一完全經數位化之電影。電 I:::線在需要時」下載以供直接顯示及即時觀看或供 =最:使用者記錄裝置(例如,數位視訊記中以 供稍後即時觀看。 141726.doc 201018245 體。 在上述通信頻道之接收器端處,通常採用單個使用者計 算及儲存裝置。此等單個使用者袭置之當前不同實例係個 人電腦及數位機上盒’其中之任—者或兩者通常輸出連接 至最終使用者之視訊顯示器裝置(例如,τν),且直接或間 接輸入連接至一有線銅分佈電纜線路(亦即,電纜τν)。通 常,此電纜同時攜載數百個即時經多工之數位視訊信號且 通常輸入連接至攜載來自視訊程式化之一本端分佈器之地 面視訊信號之一光纖電纜。亦使用最終使用者衛星盤來接❹ 收廣播視訊信號。無論最終使用者是否採用經由地面電纜 或衛星遞送之視訊信號,通常皆使用最終使用者數位機上 盒或其他等效物來接收數位視訊信號並選擇欲觀看之特定 視訊信號(亦即,所謂的TV頻道或τν節目)^該等所傳輸 數位視訊信號通常係呈壓縮數位格式,且因此必須在由最 終使用者接受後即時未壓縮。 大多數視sfl壓縮方法藉由僅保持初始未壓縮之視訊信號 之一數位近似來減小數位視訊資料量。因此,在壓縮之前 〇 的初始視訊信號與未壓縮之視訊信號之間存在一可量測 差。將此差界定為視訊失真。對於一既定視訊壓縮方法, ·. 視訊失真程度幾乎始終在壓縮視訊資料中之資料量藉由為 彼等方法挑選不同參數減小時變得更大。亦即,視訊失真 往往隨著壓縮程度的增加而增加。 隨著視訊壓縮程度的增加,視訊失真最終變得對Hvs可 見,且最終此失真變得對所挑選顯示器裝置上即時視訊之 141726.doc 201018245 典型觀看者明顯討厭。該視訊失真被觀察為所謂的視訊假 影。一視訊假影係由HVS視為不屬於初始未壓縮之視訊景 像之所觀察視訊内容。 存在用於使來自壓縮視訊之明顯討厭的假影在壓縮期間 或在壓縮後顯著衰減之方法。大多數該等方法僅應用於採 用基於區塊之二維(2D)離散餘弦變換(DCT)或其近似之壓 縮方法。在下文中,我們將該等方法稱為基於DcT之方 法。在此等情形下,迄今最明顯討厭的假影係假影區塊於 所顯示視訊景像中之出現。 存在用於通常藉由搜尋假影區塊或藉由需要關於其位於 視訊之每一訊框中之何處之先驗知識來使該等區塊衰減之 方法。 使明顯討厭的假影之出現衰減之問題對於其中視訊資料 已經先前壓縮及解壓縮(可能多於一次)或其中其已經先前 重新定大小、重新格式化或色彩重新混合之廣泛發生情形 尤其困難。舉例而言,視訊資料可已自NTSC格式重新格 式化為PAL格式或自rgb格式轉換為YCrCb格式。在此等 情形下,關於該等假影區塊位置之先驗知識幾乎係確實未 知,且因此相依於此知識之方法不工作。 用於使視訊假影之出現衰減之方法必須不顯著添加表示 壓縮視訊資料所需之資料總量。此限制係一主要設計挑 戰。舉例而言,所顯示視訊之每一訊框中之每一像素之三 個色彩中之每一者通常係由8個位元表示,因此每彩色像 素總計24個位π。舉例而言,若推進至其中明顯討厭的假 141726.doc 201018245 影顯而易見之壓縮限制,則H 264(基於DCT之)視訊壓縮標 準能夠達成在其低端處對應於每像素一位元之約1/4〇之視 訊寅料壓縮。因此,此對應於勝於4〇x24=96〇之一平均壓 縮比率。因此’用於以此壓縮比率使視訊假影衰減之任一 方法必須相對於每像素一位元之1 /40添加一不顯著數目之 位兀。需要在壓縮比率如此高以致於每像素之平均位元數 目通常小於一位元之1M〇時使區塊假影之出現衰減之方 法0 對於基於DCT及其他基於區塊之壓縮方法,最嚴重明顯 耐厭的假影係呈小矩形區塊形式,該等小矩形區塊通常隨 時間、大小及定向以相依於視訊景像之局部空間時間特性 之方式變化。特定而言,該等假影區塊之性質相依於物件 在視訊景像中之局部運動且相依於彼等物件所含有之空間 細節量。隨著壓縮比率針對一特定視訊增加,基於 之基於DCT之視訊編碼器將逐漸較少位元分配給表示每一 區塊内之像素強度之所謂的量化基礎函式。分配於每一區 塊中之位元數目係在關於HVS之廣泛心理視覺知識的基礎 上確定。料列而f,視訊物#之形狀及邊緣及其運動之時 間平滑軌道在心理視覺上頗重要,且因此必須分配位元以 確保其保真度,如在所有基於MPEG DCT之方法中。 隨著壓縮程度的增加,且在其保持上述保真度之目標 中,壓縮方法(在所謂的編碼器中)最終將分配一恆定(或幾 乎恆定)強度分配給每-區塊且其係此通常係在視覺上最 討厭之區塊假影。據估計,若假影區塊在相對均勻強度上 141726.doc 201018245 與其直接鄰近區塊相差大於3%,則含有該等區塊之空間 區域頗明顯討厭。在已使用基於區塊之DCT類型方法高度 壓縮之視訊景像中,許多訊框之大區域含有此等區塊假 影。 【發明内容】 本發明呈現用於以使用表示在視覺上感知不到或不相關 細節之資料之選擇性去除來最小化且甚至可防止區塊假影 之形成並改善壓縮效率之一方式壓縮數位視訊信號之系統 及方法。透過超出可准許頻寬限制之資料之優先化去除來 改善頻寬控制。此提供一程序,一經耦合之壓縮器及解壓 縮器系統可藉由該程序在低位元速率下以解壓縮視訊之高 知覺品質實現視訊之傳輸或儲存。
在一個實施例中,以上所識別之題為SYSTEMS AND METHODS FOR IMPROVING THE QUALITY OF COMPRESSED VIDEO SIGNALS BY SMOOTHING BLOCK ARTIFACTS 及 SYSTEMS AND METHODS FOR IMPROVING THE QUALITY OF COMPRESSED VIDEO SIGNALS BY SMOOTHING THE ENTIRE FRAME AND OVERLAYING PRESERVED DETAIL之共同待決專利申請 案中所討論之概念可與本文中所討論之概念結合使用以減 小用於「載波」視訊流之傳輸所需之頻寬。本文中所述之 壓縮/解壓縮程序利用HVS之特徵,該等特徵允許針對解壓 縮視訊之一既定知覺品質達成顯著位元速率保存。 一個重要的觀察結果係HVS在感知物件之總體結構及運 141726.doc •9· 201018245 動時相對快速,但「平 _ 一 不禺於」於精細細節較慢。舉例而 &,一棒料球手可足_速_知-投手及球的運動從 2起始-適當之反應並以合理的可靠性以該球,但將幾 俱接有^球在其移動及在其飛行中自旋時之螺紋或擦 丰^細^之感知H面,若彼球靜止且離該擊球 央尺遠放置,則他/她可相當精確地感知並描述該等 細:。藉由抑制如—快速自旋球上螺紋之此感知不到細節 之現來利用HVS之此特性以使其不消耗塵縮視 之頻寬。 τ 除上述反應速率特性以外,可利用其他则特性來增加 縮效率。對於一既定頻寬而言,可藉由優先化-視訊序 列中「最相關」細節之傳輸來最優化所感知之視訊品質。 因此舉例而3,靜止或慢速移動細節—般而言將具有比 快速移動細節高的優先權。類似地’對於大多數類型之視 訊而吕’接近視訊中心之細節可比位於影像週邊周圍之細 節對觀察者而言更「相關」。可相應地利用頻寬以用比週 邊細節更大的保真度來傳送令心細節。 HVS往往亦對具體影像分量(例如,人類面部特徵)高度 敏感。足夠強大以併入面部辨識能力之—編碼系統可優先 化此等所辨識之區域以使其以較大保真度呈現。 由本文中所討論之概念提出之—進—步则特性類似於 由以上所識別之中請案中所述之解塊方法處理之_特 性’亦即,刪對一影像之其他平滑區域中之銳利幾何廣 闊假影高度敏感之事實。具體而言,本發明方法經公式化 141726.doc •10- 201018245 以甚至在格外低頻寬情形下保持影像之平滑外觀。此.與往 往在低頻寬情形下產生高度討厭的區塊假影之習用DCT基 於區塊之方法相反。 與微波方法相反,此方法部分地因其選擇性地抑制細節 且有成果地使用運動估計及補償來達成對高速運動景像之 極佳壓縮之能力而達成較低頻寬。 前述内容已相當廣泛地略述 何做汉孜w儍點
以便可更好地理解本發明之以下實施方式。將在下文中描 述本發明之額外特徵及優點,其形成本發明之申請專利範 圍之標的。熟習此項技術者應瞭解’彳易於利用所揭示之 概念及具體實施例作為用於修改或設計用於執行本發明之 相同目的之其他結構之一基礎。熟習此項技術者亦應認識 到,此等等效構造並不背離如在隨附申請專利範圍中所閣 明之本發明之精神及範嘴。自以下描述在結合附圖考量 將更好地理解被認為係本發明之特性之新㈣徵關於 及:作方法兩者連同進一步物件及優點'然而,將 準破地理解,料圖中之每—者僅係出於圖解說明及描述 目的並不意欲作為對本發明之限制之-定義。 【實施方式】 我 一,"I q蝴乏概念對視訊訊框 進仃編碼/壓縮之方法之— ^ 個實知例1 此方法可本 方式用於圖3中所示之系 去了以只例 可分別係在處理!W &彳法及20 方;饮 中運行之軟體。同樣,兮辇 方法可視期望在物體或ASIC中。 W遺等 141726.doc 201018245 圖圖解說明一壓縮程序之一實施例,其實現上述優 點,且其達成一有效視訊傳輸或儲存系統之重要目標,包 針對既疋知覺品質使用極低位元速率同時在低頻寬情 开v下、准持-滿意的影像品質。該系統具有支援對壓縮視訊 流位7L速率之精確單遍控制同時對(例如)高速運動、變速 運動或具有最小討厭或分散注意力假影之混亂視訊之「困 難J景像具有強健處理之能力。該壓縮/編碼程序之輸出 係-對視訊流102及103 ’分別表示為「載波。」流及「細. 節D」流。在圖2中’該等流傳送至解碼器/解壓縮器程序❹ 圖2顯不一種用於根據本文中所討論之概念對視訊訊 框進行解碼之方法之-個實施例。如下文將討論,程序2〇 圖解說明與圖i之壓縮程序互補之一解壓縮程序,該程序 、凡進行解瑪且重構該視訊而同時最小化與經編碼視訊 之高度壓縮性質有關之失真或假影之可感知出現。 見轉向圖1,程序1】擷取、壓縮傳入視訊流的低頻空間 分量且對該等分量進行編碼以產生「載波流c」iQ2。此載 波流之低空間頻寬暗示其具有有限資訊内容,且因此可高❹ 度壓縮~保持之空間頻宽必須足夠低以確保該載波流在 解壓縮時避免區塊假影。所保持之空間頻寬必須足夠高以 確保該載波流在解壓縮時提供初始視訊流之__視覺上滿意、 的低細節表示。 , 可以許多眾所周知之方法中之任一者來達成上述對低頻 刀量之擷取及隨後壓縮/編瑪。—個實例性方法係實施一 頻域減小取樣’從而產生用於有效壓縮/編碼之-低細節 141726.doc •12- 201018245 流。-適宜頻域減小取樣程序之-實例將係對源視訊之 8x8個區塊實施一 DCT(離散餘弦變換),丟棄除所得係數之 左上2x2個區塊以外之所有區塊,按比例向下調整該子 組之右側、底部及右下係數以稍微減小高頻資訊,且接著 對所得2x2個區塊實施一逆DCT以產生具有服從藉由一習 用基於DCT之編碼程序之有效壓縮之頻率特性之一經空間 減小取樣之影像。
程序ίο之剩餘部分係致力於形成「細節D」輸出流1〇3。 在概念上,可將細節流視為視訊之「剩餘部分」以使得載 波C流及細節D流之總和(在經無損編碼時)再現源視訊。實 際上,係用於產生及操縱細節流之該方法形成此壓縮方法 之許多優點。 程序12以與其將在程序2〇(圖2)中進行解碼之方式相同 的方式來對來自程序1、1之經編碼載波流進行解碼。此產生 初始視訊之一近似。程序13自「近似」視訊流Che減去初 :視訊流V。此產生原始細節視訊資料,若可將該原始細 節視訊資料無損發送至解碼器,則此將允許對位於解碼側 上之初始視訊之確切重構。 應注意之一要點係原始細節資料併入對可能已引入載波 編碼程序中之任何假影之「校正」,此乃因其係以與在該 解碼器上進行之方式完全相同之方式自載波導出。此在編 碼器上構成可顯著增加由解碣器所重新產生之視訊的品質 之一回饋迴路。 來自程序13之原始細節視訊資料係呈以零為中心之有符 141726.doc •13- 201018245 號值之形式,通常使用有符號的8位元來表示每一分量色 A頻道,雖然其他表示同樣有效。一般而言,細節資料亦 具有小量值,尤其在空間上平滑且因此由載波流良好地接 近之初始視訊之區域中。 程序14、15及16係關於應用於細節視訊資料以消除感知 不到或其他不相關細節從而產生一「經修整」細節流之選 擇性細節抑制。該等細節抑制程序產生對應於欲抑制或保 持之細節流之區之抑制係數。 程序16表示一實例性細節抑制方法,其中經由習用運動 估β十技術为析源視訊以找到初始視訊中運動之位置及量值 從而確定其中運動之量值開始接近HVS之回應速率限制之 區。在其中幾乎沒偵測到運動之區中,設定抑制係數以保 留對應細節流區(無抑制)。在其中運動速度超出HVS回應 速率限制之區中’設定抑制係數以消除對應細節流區(完 全抑制)。該等限制之間的運動量值產生發訊對對應細節 流區之局部抑制之係數’其根據該量值自無抑制至完全抑 制而變化。 注意’可以許多方式導出上述程序所需之運動估計。舉 例而言’若編碼器係在内部使用運動估計之一基於區塊之 編碼器’則可自載波編碼器獲得運動估計。此具有減小進 行運動估計所花費之編碼時間量之實際效應,但並不嚴格 要求。 亦可單獨或以組合方式使用(例如)面部辨識1 5、去加重 週邊區細節、或具有已知HVS敏感度/不敏感度或具有相對 141726.doc -14- 201018245 興趣/無興趣之其他區域之加重/去加重的其他細節管理/抑 制方法,該等方法各自供應欲應用於程序17之細節流之抑 制係數。 程序17可係用於應用抑制係數來保留或消除細節區之可 A眾所周知之程序中之任一者。此一程序涉及細節值與表 • 示為介於〇.0與I·0之間的空間變化標量值之抑制係數之簡 - I乘法。在其中欲完全抑制細節之區中,對應抑制係數值 _ 係〇·〇,而其中欲完全保留細節之區具有為丨.0之一對應抑 制係數。藉由大於0_0且小於i.O之係數值達成局部抑制。 細節資料(一般而言具有低量值之以零為中心的值)的性質 良好地適於允許此類型之簡單抑制。一替代抑制方法可對 細節流資料實施量化以極精細地量化欲完全保留之區(亦 即,元全保留光亮度及色度準確性),而根據抑制程度來 更粗略地量化欲抑制之區。在此情形下,將大多數經粗略 量化之細節值設定為零。 • 在某些情形下(例如,對有限頻寬頻道之單遍視訊編 碼),期望限制經編碼細節流之位元速率。在一個實施例 中,在細節視訊流已由程序14「修整」之後但在對其進行 • 編碼之前,程序18針對正處理之每一訊框估計壓縮/經編 碣輸出大小可能為多少。對於大多數編碼方法而言,可以 合理的準確性(〜15%)來估計此。在假定此估計之情形下, 該系統可逆動地調整欲進行編碼之資料量以更好地達成目 標位元速率。細節資料以零為中心的形式係使得可容易地 應用細節抑制方法。該等方法可係上述相同細節抑方法以 141726.doc 15- 201018245 消除(或以其他方式達成更多壓縮)細節之較低優先權部 分。 程序18可以各種方式確定—細節區之優先權。一細節區 之一簡單量度(例如平均能量(亦即,標準偏差))係一個實 例。消除具有㈣準偏差之區將對經解碼視訊具有很小可 感知效應,但該程序可迅速地減小欲對其進行編碼的資料 量直至其落在目標頻寬内。亦可使用更複雜優先化量度, 例如焦點分析或週邊區域去重點。 程序19涵蓋對細節視訊流之實際編碼。理想上該編竭 方法應良好地適於對高空間頻率視訊資料進行編碼且無 需與程序11中所使狀編碼方法㈣。在對每-訊框進行 編碼之後,可將所達成之位元速率與目標位元速率進行比 較,同時將任一位元速率錯誤回饋至程序18以改善隨後的 壓縮估計。藉助此回饋及任意調整欲保狀細節資料量的 能力,可達成對輸出位元速率之精細控制而不一定需要求 助於多個編碼操作。可達到的目標位元速率是每像素—位 元的1/100。 注意,在基於DCT之編碼器的情形下,使用程序19〇作 為一後處理程序來補充或消除以上回饋迴路,並直接修改 所產生輸出流中之宏塊直至滿足頻寬約束。此處,細節流 以零為中心的性質再次使得可藉由有效地使低優先權宏塊 之内容歸零來保存頻寬直至滿足頻寬目標。此内容歸零將 因高DC内容而在-習用基於D„的經編碼流中無效。此後 調整細節修整’使得可以高精確性達成目標頻寬限制而不 141726.doc * 16 - 201018245 需要多個昂貴的編碼操作。此後處理比程序18的預處理更 困難,此乃因經編碼位元流必須經解析/分解以暴露宏塊 資訊,經修改以使低優先權宏塊失效,且接著經重組,但 其達成更好的每訊框精確性。 細節編碼程序之一重要特徵係儘管位元速率相對低(相 對於以既定解析度表示訊框通常所需的位元速率),其免 於分塊效應,即使所使用之編碼器係基於區塊之(基於 DCT之)編碼器。在一經解碼影像中之毗鄰宏塊自身内幾 乎不具有細節但具有不同DC位準時,分塊發生。由於在 細節流中,每一經編碼宏塊皆係以零為中心,且實質上不 存在DC資訊’因此可不存在Dc偏移以產生分塊。 作為一實際問題,應注意大多數習用視訊編碼器不能直 接處理有符號的輸入資料。在此等情形下,必須將一偏移 值(對具有一位元深度為8之影像資料而言通常為128)添加 至有符號的資料以產生適於壓縮之無符號值。此並不影響 上述之「區塊免疫性」優點,此乃因每一宏塊皆變成以 128為中心而非以零為中心。實質上,仍不存在Dc/低頻偏 移源來產生分塊效應。 應注意’由於極強烈地壓縮了細節流,因此預期將引入 壓縮假影。事實情形如此,但彼等假影往往在性質上比代 表使用基於DCT之技術之經尚度壓縮視訊之高度可見分塊 假影更細微。對於細節流而言,最普遍假影在存在不足頻 寬來為一宏塊發送新細節資料而是解碼器簡單地複製與先 刖訊框上存在之宏塊内容相同的宏塊内容時發生。該等所 141726.doc 201018245 拷貝宏塊内容(雖然一般而言具有很小影像能量)形成甚至 在^礎載波影像及細節影像之其他部分改變時仍保持靜止 之一厂模糊」印象。本發明之一關鍵益處係一般而言可在 解碼侧上偵測及糾正此種假影,從而產生一更細微的細節 知失而非-銳利高度可見假影。在以下之解碼操作說明中 將討論用於偵測及處理此類型假影之程序。 圖2顯示一種用於根據方法1〇對先前壓縮之視訊資料進 行解碼之方法之一個實施例2〇。帛序21解遷縮載波流C 102(來自圖1)且程序22解壓縮細節流D 1〇3(來自圖^。 一解碼器實施例可僅添加經解碼載波流及細節流(且減 去可能已應用於編碼之(例如)128偏移),從而產生一可顯 示視訊流。此係用於不顯示—顯著「模糊」假影(如先前 所述)之相對高位元速率編碼之一可行方法。然而,對於 其中較高壓縮已導致一可感知「模糊」效應之彼等情形而 言’可應用一額外清除程序,例如程序23。 程序23檢查經解碼細節Ddec訊框及經解碼載波c〜訊框 兩者以找到產生模糊效應之所拷貝細節宏塊。存在此一程 序之許多可能實施例,但中心思想係使用來自可靠高保真 度載波流之資§孔來4定較低保真度細節流資訊在何處不正 確或不可靠。程序23之一較佳實施例由一系列如下所述之 測試組成。將該等測試應用於細節視訊訊框中之像素及對 應载波視訊訊框之像素之區塊。若該等測試確定該區塊係 「模糊」,則其内容失效(亦即,不存在細節,且僅載波 •保持於對應位置中)。注意,應根據用於細節流之基於 141726.doc -18 - 201018245 DCT之編碼/解碼方法來挑選應用該等測試之區塊。若該方 法僅將整個在塊標記為正拷貝,則此處所測試之區塊應直 接對應於彼等宏塊。若該方法允許將宏塊分割成可個別標 »己以供拷貝之子區塊,則此處所測試之區塊應對應於該等 子區塊。 一區塊測試之結果亦可係非決定性的。為處理此情形, 逐訊框地保持該「模糊測試」之結果。若估定一區塊在先 前訊框上係「模糊」的且當前區塊上之測試係非決定性 的,則保持先前估定且假定該區塊在此區塊上亦係模糊 的。類似地,若該區塊在先前訊框上非係模糊的,則在對 當前訊框之測試係非決定性時保持相同估定。對於一視訊 序列中之正第一訊框,假定所有細節皆有效(且每一區塊 之「模糊狀態」預設為「非模糊」)。 該等測試需要對當前載波視訊訊框及細節視訊訊框兩者 且對直接先前載波訊框及細節訊框(用於改變偵測)進行存 取。該等測試如下(對每—區塊執行): 1) 若細節區塊内容非係自先前訊框拷貝,則該區塊非 係模糊(結束測試)。注意,對該等内容是否係拷貝之確定 可係明顯或暗示:可直接自解碼器獲得「拷貝旗標」,或 另一選擇為假定一確切匹配暗示細節區塊被拷貝之情形下 在訊*框之間比較細節區塊内容。 2) 若該等細節區塊内容之標準偏差太高(亦即,強烈紋 理化)’則該區塊最可能非係模糊(結束測試)。大多數「模 糊」區塊係完全平坦(亦即,標準偏差為零)··區塊中之高 141726.doc •19- 201018245 能量往往暗示其非係假影。另外,真正「模糊」在其中影 像具有若干自然紋理之區中較不明顯因此即使由於此規 則而遺漏某些模糊,其亦可能使其不明顯。將「高」臨限 值指,為-解碼器控制參數。已發現實際上起作用之一典 型「高」臨限值係約總可用亮度範圍之1%。 3)若細節區塊内容之平均值距零「太遠」,則其將有 太多能量被視為模糊(結束測試將「太遠」臨限值指定 為一解碼器控制參數》已發現實際上起作用之一典型平均 值係約總可用亮度範圍之4%。 4a)若對應於當前區塊之載波像素已因最後訊框而「顯 著」改變,則該區塊最可能係「模糊」的且應失效(結束 測試)。將「顯著」臨限值指定為一解碼器控制參數。已 發現實際上起作用之-典型「顯著」臨限值係約總可用亮 度範圍之0.5%。 4b)若對載波之運動估計指示當前區塊附近之影像正移 動,則該區塊最可能係「模糊」的且應將其重設為零(結 束測試)。注意,此測試可對便宜解碼器硬體禁止,且因 此可視為可選。 5)測試模棱兩可:載波或細節兩者皆未改變,且能量 相當低。重新使用自先前訊框產生之估定。 程序24合計載波流Cdee及「纟至去模糊之」(亦即,經清潔 之)細節流以產生最終經重構之視訊V 201。 圖3顯示本文中所討論之概念之使用之一個實施例3〇。 在系統30中,提供視訊(及音訊)作為一輸入31。其可來自 141726.doc •20- 201018245 置自一(若干)視訊資料 例如透過一直播廣播流 之前經預壓縮。編碼器
時節省傳輸媒體上之頻寬。 本端儲存器(未顯示),或自另一位置自 接收。此視訊可以許多形式到達,例如 或視訊檔案且可在由編碼器32接收之 若將多於一個視訊流遞送至解碼器34,則可由調諧器 34-2選擇數位流之各種頻道以便根據本文中所討論之程序 進行解碼。注意,可自一單個位置(例如自編碼器32)或自 不同位置(未顯示)發送各種視訊頻道。輸出經解碼視訊流 可儲存於儲存器35中或由一個或多個顯示器36顯示,或視 φ 期望分佈至其他位置(未顯示)。亦注意,無需同時或在同 傳輸媒體上傳輸載波流及細節流,只要在重新組合之前 該兩個流經適當地協調即可。 • 雖然已詳細描述了本發明及其優點,但應理解,可在本 * 文中對其作出各種改變、替換及變更,而不背離如由隨附 申凊專利範圍所界定之本發明之精神及範疇。此外’本申 清案之範疇並不意欲限於本說明書中所述之程序、機器、 製、物質組成、手段、方法及步驟之特定實施例。熟習 此項技術者自本發明之揭示内容將易於瞭解,可根據本發 141726,doc •21· 201018245 明利用當前存在或稍後將開發出的實施與本文中所述之對 應實施例大致相同的功能或達成大致相同的結果之程序、 機器、製品、物質組成、手段、方法或步驟。因此,隨附 申請專利範疇意欲在其範疇内包含此等程序、機器、製 品、物質組成、手段、方法或步驟。 【圖式簡單說明】 為更全面地理解本發明,已結合隨附圖式參照以上描 述,其中: 圖1顯示一種用於根據本文中所討論之概念對視訊訊框 進行編碼之方法之一個實施例; 圖2顯示一種用於根據本文中所討論之概念對視訊訊框 進行解碼之方法之一個實施例;及 圖3顯不其中可有利地採用本文中所討論之編碼器及解 碼器概念之一系統之一個實施例。 【主要元件符號說明】 30 系統 31 輸入 32 編碼器 32-1 處理器 33 網路 34 解碼器 34-1 處理器 34-2 調諧器 35 儲存器 141726.doc -22- 201018245
36 顯示器 102 「載波C」 流 103 「細節D」 流 201 重構視訊V 141726.doc •23-

Claims (1)

  1. 201018245 七、申請專利範圍: 1. 一種用於遞送一數位視訊流之方法,該方法包括: 自該數位視訊流減去所識別之低頻分量以產生一唯AC 視讯流及一低頻貧料流; 對該唯AC視訊流進行編碼; - 以足以避免區塊假影之一位元速率,對該低頻視訊流 進行編碼;及 將該等經編碼視訊流中之兩者遞送至遠離該編碼位置 籲 之一位置。 2. 如請求項1之方法,進一步包括: 對位於該遠端位置處之該經編碼低頻視訊流及唯A c視訊 流進行解碼,以重新產生該數位視訊信號。 3·如請求項2之方法,進一步包括: 在演算法上自該重新產生之視訊信號消除不期望假 .影。
    如請求項3之方法,其中該等不期望假影係至少部分地 由跨越該視訊流之訊框的拷貝宏塊形成,且其中該等拷 貝宏塊係由以下步驟確定: 檢查該經解碼低頻視訊流及唯AC視訊流兩者;及 使用來自該低頻視訊流之資訊來確定該低唯ac流中所 含有的資訊何時不可靠。 如請求項3之方法’其中該位元速率可低至每像素一位 元(bpp)之1/100 。 6.如請求項2之方法,進一步包括: 141726.doc 201018245 在邊唯AC視訊流之該編碼之前,自該唯八(:視訊流去 除某些細節’該等所去除之細節係'如此以致對—人類視 覺系統(HVS)具有一低影響。 7.如„青求項6之方法’其中使用來自以下列之準則來選擇 該等所去除之細節:運動估計、面部偵測、週邊區摘 測0 8·如请求項6之方法,進一步包括: 基於一特定傳輸位元速率來優先化該細節去除。 - 9·如明求項6之方法,其中該特定位元速率係在1/1〇〇 _響 之範圍中。 10. 如請求項6之方法,進一步包括: 在一時間點處,預期一視訊流之一壓縮輸出大小;及 使用該所預期之輸出大小來控制自該視訊流去除之一細 節量。 11. 如请求項1之方法’其中該減去包括: 對該經編碼低頻視訊流進行解碼且自該數位輸入視訊 流減去該經解碼低頻視訊流。 Ο 12. 如請求項2之方法,進一步包括: 將該所重新形成之視訊流遞送至一顯示器,以使觀看 - 該顯不益之一 HVS因藉由該唯Ac視訊流之該編碼自該輸 *. 入視訊流去除資料而受到最小干擾。 13. —種用於視訊流壓縮之系統,該系統包括: 處理器,其用於將一可用視訊流分離成第一視訊流 及第一視訊机,該第一視訊流排他地含有自該可用視訊 141726.doc -2- 201018245 流獲得的低頻資料,且該第二視訊流含有自該可用視訊 流獲得的所有剩餘資料; 該處理器進一步操作以用於抑制來自該第二視訊流之 某些細節產生具有減少之資訊内容之一第三視訊流;及 一傳輸器,用於以壓縮格式將該第一視訊流及該第三 視訊流兩者發送至一遠端位置。 14.如請求項13之系統,進一步包括: 若干解碼器,用於獨立地解壓該第一經編碼視訊流及 第二經編碼視訊流兩者;及 一加法器,用於組合該解壓縮之第一視訊資料流及第 二視訊資料流。 15.如請求項14之系統,進一步包括: 一顯示器,用於向一觀察者顯示該等所組合解壓縮之 視:流,以便該觀察者即使在該所組合視訊流表示某些
    、、即之遺漏資料時,亦將接收與由初始視訊流提供之視 覺體驗類似的視覺體驗。 16·如請求項15之系統’其中該某些遺漏細節係、關於下列之 至者:快速移動細節、週邊細節、非面部細節。 17.如請求項14之系統,進一步包括: 一儲存器裝置 流。 用於儲存該第一視訊流及第三視訊 18 •種用於㈣-輸人數位視訊流之方法’該方法包括·· 對來自該輸入視訊流之彳 之低頻分量進行空間濾波以形成 4編碼載波流; 141726.doc 201018245 對該載波流進行解碼·, 藉由自該視訊流減去該經解碼載波流來形成—原始細 節視訊流; 藉由將抑制應用於該原始細節視訊流中之某些細節來 產生一經修整之細節視訊流;及 對该所修整之細節視訊流進行編碼。 19·如請求項18之方法,進一步包括: 儲存該經編碼經修正之細節視訊流及該經編碼載波流 兩者。 2〇·如請求項18之方法,進一步包括·· 裁剪该經修整之細節視訊流以使其符合一所期望位元 速率。 21 ·如印求項18之方法,其中該抑制包括: 產生與一視訊流之某些態樣有關的係數,該等態樣係 關於選自以下列表之一視訊流的至少一個屬性:面部細 節、行動估計、週邊細節。 22. 如請求項18之方法,進一步包括·· 將该經編碼經修整之細節視訊流及該經編碼裁波流兩 者傳輸至一解碼器。 23. 如請求項22之方法,其中該解碼器實施以下方法: 對該等所傳輸之視訊流中之每一者進行解碼;及 將該等經解碼視訊流組合成一輸出流。 24. 如請求項23之方法,進一步包括: 向一顯示器呈現該輸出流,以便該所顯示輸出視訊流 141726.doc 201018245 之一觀察者即使在該所組合輸出視訊流表示該等經抑制 細節之遺漏資料時,亦將接收與由該輸入視訊流提供之 視訊體驗類似的視覺體驗。 25. 如請求項24之方法,進一步包括. 在該組合之前,清潔該經解瑪經修整之細節視訊流。 26. 如請求項25之方法’其中該清潔 糊效應。 輸出視訊流去除模
    141726.doc
TW098124286A 2008-07-19 2009-07-17 Systems and method for highly efficient video compression using selective retention of relevant visual detail TW201018245A (en)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
US12/176,374 US8077773B2 (en) 2008-07-19 2008-07-19 Systems and methods for highly efficient video compression using selective retention of relevant visual detail

Publications (1)

Publication Number Publication Date
TW201018245A true TW201018245A (en) 2010-05-01

Family

ID=41530270

Family Applications (1)

Application Number Title Priority Date Filing Date
TW098124286A TW201018245A (en) 2008-07-19 2009-07-17 Systems and method for highly efficient video compression using selective retention of relevant visual detail

Country Status (14)

Country Link
US (1) US8077773B2 (zh)
EP (1) EP2319245A4 (zh)
JP (1) JP2011528874A (zh)
KR (1) KR20110042321A (zh)
CN (1) CN102106148A (zh)
AU (1) AU2009273707A1 (zh)
BR (1) BRPI0916327A2 (zh)
CA (1) CA2731243A1 (zh)
MA (1) MA32493B1 (zh)
MX (1) MX2011000692A (zh)
RU (1) RU2011106325A (zh)
TW (1) TW201018245A (zh)
WO (1) WO2010009540A1 (zh)
ZA (1) ZA201100641B (zh)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101675116B1 (ko) * 2009-08-06 2016-11-10 삼성전자 주식회사 영상의 부호화 방법 및 장치, 그 복호화 방법 및 장치
US20110321104A1 (en) * 2010-06-24 2011-12-29 Worldplay (Barbados) Inc. System and method for mass distribution of high quality video
GB2488396A (en) * 2010-08-17 2012-08-29 Streamworks Internat S A Video signal processing
EP2429192A1 (en) 2010-08-17 2012-03-14 Streamworks International S.A. Video signal processing
JP6024952B2 (ja) * 2012-07-19 2016-11-16 パナソニックIpマネジメント株式会社 画像送信装置、画像送信方法、画像送信プログラム及び画像認識認証システム
US9204681B2 (en) 2013-05-21 2015-12-08 Ariat International, Inc. Hybrid boots
USD763561S1 (en) 2014-05-12 2016-08-16 Ariat International, Inc. Footwear sole
CN110072107B (zh) * 2019-04-25 2022-08-12 南京理工大学 一种基于运动估计共享的雾霾视频压缩方法
CN111654701B (zh) * 2020-04-21 2022-02-11 北京奇艺世纪科技有限公司 视频编码预处理方法、装置、设备和计算机可读存储介质

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0568171A (ja) * 1991-09-05 1993-03-19 Matsushita Electric Ind Co Ltd 帯域分割型画像符号化装置
KR970007530B1 (ko) * 1991-09-30 1997-05-10 가부시기가이샤 도시바 대역 압축 신호 처리 장치
KR0181028B1 (ko) * 1995-03-20 1999-05-01 배순훈 분류 디바이스를 갖는 개선된 비디오 신호 부호화 시스템
US6760463B2 (en) * 1995-05-08 2004-07-06 Digimarc Corporation Watermarking methods and media
US5850294A (en) 1995-12-18 1998-12-15 Lucent Technologies Inc. Method and apparatus for post-processing images
JPH09247614A (ja) * 1996-03-14 1997-09-19 Matsushita Electric Ind Co Ltd 画像信号処理装置
JP3356201B2 (ja) * 1996-04-12 2002-12-16 ソニー株式会社 ビデオカメラおよび輪郭強調装置
JP3931392B2 (ja) * 1997-08-25 2007-06-13 ソニー株式会社 立体画像用ビデオ信号生成装置、立体画像用ビデオ信号送出装置および立体画像用ビデオ信号受信装置
US6160586A (en) * 1998-09-30 2000-12-12 Vtel Corporation Digital video processing using a dynamically varying number of video fields
US6470142B1 (en) * 1998-11-09 2002-10-22 Sony Corporation Data recording apparatus, data recording method, data recording and reproducing apparatus, data recording and reproducing method, data reproducing apparatus, data reproducing method, data record medium, digital data reproducing apparatus, digital data reproducing method, synchronization detecting apparatus, and synchronization detecting method
WO2002073974A1 (en) 2001-03-12 2002-09-19 Koninklijke Philips Electronics N.V. Video encoder and recording apparatus
FR2857204A1 (fr) 2003-07-03 2005-01-07 Thomson Licensing Sa Dispositif et procede de compression ou de decompression d'images numeriques
KR101132351B1 (ko) * 2004-05-03 2012-04-05 톰슨 리서치 펀딩 코포레이션 Dsl 시스템에 대해 고속으로 채널 변경할 수 있게 하는 방법 및 장치
US7961357B2 (en) * 2004-12-08 2011-06-14 Electronics And Telecommunications Research Institute Block artifact phenomenon eliminating device and eliminating method thereof
US20090028452A1 (en) * 2005-04-27 2009-01-29 Nec Corporation Image decoding method, image decoding device, and program
US7995649B2 (en) 2006-04-07 2011-08-09 Microsoft Corporation Quantization adjustment based on texture level
US8503536B2 (en) * 2006-04-07 2013-08-06 Microsoft Corporation Quantization adjustments for DC shift artifacts

Also Published As

Publication number Publication date
KR20110042321A (ko) 2011-04-26
EP2319245A1 (en) 2011-05-11
CA2731243A1 (en) 2010-01-28
WO2010009540A1 (en) 2010-01-28
MA32493B1 (fr) 2011-07-03
MX2011000692A (es) 2011-04-27
US8077773B2 (en) 2011-12-13
AU2009273707A1 (en) 2010-01-28
JP2011528874A (ja) 2011-11-24
US20100014578A1 (en) 2010-01-21
CN102106148A (zh) 2011-06-22
RU2011106325A (ru) 2012-08-27
BRPI0916327A2 (pt) 2018-05-29
EP2319245A4 (en) 2011-08-24
ZA201100641B (en) 2011-10-26

Similar Documents

Publication Publication Date Title
TW201018245A (en) Systems and method for highly efficient video compression using selective retention of relevant visual detail
KR101354833B1 (ko) 디지털 비디오의 가변 해상도 인코딩 및 디코딩 기법
KR100803594B1 (ko) 압축된 비디오 이미지들에서의 압축 잡음을 제거하기 위하여 압축률 정보를 생성하는 방법 및 장치
EP1601203A2 (en) Mosquito noise detection and reduction
JP2010532930A (ja) ビデオ透かし入れ
US7684626B1 (en) Method and apparatus for image decoder post-processing using image pre-processing and image encoding information
MXPA04011439A (es) Metodo y aparato para transcodificar flujos de bits de video comprimido.
US20180367800A1 (en) Adaptive bit rate ratio control
EP1596603B1 (en) Video encoder and method for detecting and encoding noise
EP1540587A1 (en) Combined video decoder and watermark creator
US20050169537A1 (en) System and method for image background removal in mobile multi-media communications
JP4023324B2 (ja) 透かし埋め込み及び画像圧縮部
JP5227797B2 (ja) 符号化利得を高めるためのシステム及び方法
US20130222535A1 (en) Reducing visibility of 3d noise
JP2006525731A (ja) 新標準への移行をサポートする多階層符号化
KR100338725B1 (ko) 목표부호량에근접시킨영상신호부호화방법및그에따른장치
Zare et al. VVC Adaptive Loop Filter Optimization for Subpicture-based Viewport-adaptive Streaming
Smith Receiver-Driven Video Adaptation
Brydon Saving Bits—The Impact of MCTF Enhanced Noise Reduction
Larbier AVC-I: Yet Another Intra Codec for Broadcast Contribution?
Larbier AVC-I: Yet another intra codec for broadcast contribution?
US20100150470A1 (en) Systems and methods for deblocking sequential images by determining pixel intensities based on local statistical measures
Bruns et al. 4: 4: 4 Compression of Moving Pictures for Digital Cinema using the MPEG-2 Toolkit
FR2888452A1 (fr) Procede et dispositif de codage d'un contenu video comprenant une sequence d'images et un logo
KR20140042790A (ko) 시퀀스 내의 이미지의 압축