TW421758B - System and method for extracting spatially reduced image sequences in a motion compensated compressed format - Google Patents
System and method for extracting spatially reduced image sequences in a motion compensated compressed format Download PDFInfo
- Publication number
- TW421758B TW421758B TW087102569A TW87102569A TW421758B TW 421758 B TW421758 B TW 421758B TW 087102569 A TW087102569 A TW 087102569A TW 87102569 A TW87102569 A TW 87102569A TW 421758 B TW421758 B TW 421758B
- Authority
- TW
- Taiwan
- Prior art keywords
- frame
- block
- blocks
- coding
- image
- Prior art date
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
- H04N19/61—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T9/00—Image coding
- G06T9/007—Transform coding, e.g. discrete cosine transform
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
- H04N19/625—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using discrete cosine transform [DCT]
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Discrete Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Description
A7 421758 ________B7_ 五、發明説明(1 ) . 發明之範圍 本發明之範圍係關於自魔_縮之視頻序列中取出資訊。更 具體言之’本發明之範圍係關於自MPEG-2(運動圖像專家 組之第2型)之壓縮格式之視頻資訊中,在無需解壓縮之情 況下,取出空間節省之影像序列。 發明之背景 MPEG-1视頻標準界定三種不同型式之框(見圖ιΑ),亦即 框内編碼框(I框)’預測框(P框)及雙向預測框(B框)。p及 B框亦稱作框際編碼,因爲此等框係根據先前之主要或參 考框編碼=MPEG-1標準之細節可見於1992年ISO/IEC JTC1 CD 111*72之「用於高達1.5百萬位元/秒之位元數位儲存媒 體之移動圖像及相關音頻I編碼J 2此參考資料以其全文 以參考方式納於本説明中a I框使用框内部編碼予以壓縮, 亦即此等框不參考任何其他經編碼之資料流框^每一框分 成8X8塊(一般爲Π2塊)及採取離散餘弦變換(dct)。於64 個DCT係數中,DC,AC01及AC10係特別有闡。此等係數例 示於圖1B中。預測框使用得自先前之I框或p枢之運動補馈 資訊而被編碼。B框使用得自先前及(或)未來之I或p框而 被编瑪◊ P及B框亦可包括框内編碼之塊r當其爲j框中之 塊時,,亦可使用DCT而被編碼严 MPEG-1位元流可爲具有6層之一層狀結構,一序列層, 一組圖像層,一圖像層,一薄片層,及一塊層。序列層爲 位於頂部之编碼層。一圖像層組(G〇p)爲一組在相關顯示 順序之圖像。此圖像層組包括至少一框。每_圖像對應於 -4- 本紙張尺度適用中國國家標準(CNS ) A4规格(210X297公釐)~ ---^---^----A------訂 (請先閱讀背面之洼意事項再填寫本頁> 經濟部中央標隼局員工消費合作社印衆 A7 4 2 17 5 8 B7 五 '發明説明(2 ) 一框°每一圖像分成8片。一片分成若干巨塊。一巨塊由6 塊1 12組成,其中4塊用於亮度,2塊用於彩色。有關MP£G-1標準之細節可見於1992年之ISO/IEC JTC1 CD 11 Π2之「用 於高達1.5百萬位元/秒儲存媒體之運動圖像及相關音頻之 编碼」。 有關處理節省影像產生之細節可見於「有關自MPEG壓縮 視頻取出DC序列之討論」,(此文獻見於1995年「影像處 理國際會議」之第II卷260-263頁,其作者爲B丄.Yeo及B. Liu)。此項參考文獻以其全文納於本説明中以供參考之 用。一 DC影像係由8 X 8塊之塊型態之平均値。對於由一 MPEG· 1編碼之視頻之I框而言,DC影像中之每一像素對應 於每一 DCT塊之DC係數之一成比例之係數。 自P及B框以一般方式取出之DC影像示於圖1C中。圖中 Pref 13 ] D爲有關之目標塊並爲框際編碼。需將此目標塊轉換 爲一框内編碼DCT格式,以便取出DC係數。P0,..., P3( 134,135,136及137)爲4個原始編碼相鄰塊(稱作主 塊)’自此等主塊可導出及Ptef運動向量(Λχ,Ay) ^運動向 量(Ax · z_iy) 150爲與塊pref相關之運勤補價資訊之一部分。 主塊P(」,…,p3中之陰影部分134P,135p ’ 136p及U7p被稱 作提出貢獻之子塊,此等子塊係由(△&,△》,)使之移動。因 此’ Pret'之DC係數係導出用於dc影像序列, 框際編碼對於Ρι之關係於「MC_DCT壓縮視頻之操作及 ^成」,t文獻中導出,(此文獻載於IEEE學據,1995年1月 第13卷,第丨_u頁,有關,「通訊方面之精選領域之智慧信 __ -5- 本’表張尺度適用巾賴Ί標準(CNS 規格(2IGX297公势] -- ---^---^----d------ΐτ------象 (#先間讀背面之注意事項再填寫本页) 經濟部中央榡準局員工消費合作社印^ A7 42 175 8 ____________B7 五、發明説明(3 ) 號處理之特別議題」,此文獻由s.F. Chang及D.G. Messerschmitt提出)。此參考資料係以其全文以參考方式纳 入本文中。如果吾人以一 8 X 8矩陣代表每一塊,則可使用 矩陣乘法以空間領域説明·· 3 式中爲類如in = G„ 〇)或& = G t)之矩陣。每一ι„爲 具有η大小之單位矩陣。S&對於p之此種效應之實例例示於 圖ID中。其目標爲使子塊自左上角移至右下角,同時亦將 塊中其餘數値設定爲零。預先乘算使有關子塊垂直移位, 事後乘算使子塊水平移位。有關子塊之4可能位置爲左上 方f右上方,右下方及左下方。
Sy之數値於表1中以h i及w,之設定値明白顯示,因此有時 可將Si,寫爲1^及Wi之函數。例如,S〇产S—ho,w^StnOu)。 以8 X 8塊P之2D DCT表示DCT(P),可將DCT(Pret)之DC係 數就某些加權係數w ^言以下式表示: {DCT{Pref))〇0 = Σ (Σ , ⑴ j=〇 \m=0 /=0 * 「有關自MPEG壓縮視頻取出DC序列之討論」之關鍵結 果爲 ,(此文獻由B,L. Yeo及B. Liu於1995年Γ影像 處理國際會議」第II卷26〇·263頁中提出)。 -6- 本紙張尺度適用中國國家標準(CNS ) A4規格(2!〇X297公釐) (請先閱请背面之注意事項再填寫本頁) 訂 % 經濟部中央標準局貝工消費合作社印製 421758 A7 B7 五、發明説明(4 ) ---- 子塊 | 位置- s,t si2 p〇 右下方 /〇 1〇 〇 / (::) Ρί 左下方 ΐ々) ΙΓΤΓ ρ2 右上方 IL〇°) ί0 Ί ,0/ ρ3 ______—— 左上方 G::), / 〇 Λι»ι \ ν〇 〇7 表1 : SiL及Si2矩陣 亦即加權XV&爲塊Pref對於塊重疊之比値》使用一種稱作第 一階近似方法以其以下式近似(DCTee)00 DC(P^f:智 DCm »=0 經濟部中央標隼局員工消費合作社印繁 . ^ ^ 表-- {請先閱讀背面之注意事項再填寫本頁) 此種近似方法僅需運動向量資訊及參考框中之DC值s此 種近似方法示於「有關自MPEG壓縮視頻取出DC序列之討 論J文獻中,(此文獻载於1995年「影像處理國際會議」第 II卷260-263頁,作者爲B.L. Yeo及B. Liu),當將此種近似方 法應用於B及P框時,在實施時可產生良好結果。 使用直接自MPEG-1視頻取出之DC影像可產生用於處理 MPEG-1視頻之有效演算法。應用之實例引證於「有關壓.縮 視頻之迅速場景分析J中’(此文獻载於1995年12月「IEEE 之用於視頻技術之有關電路及系統之事項處理j第5卷.之 第53 3-544頁’作者爲B.L.’ Yeo及B· Liu)及「视頻散射之有 -7- 本紙張尺度適用中國國家標準(CNS ) Α4規格(210X25)7公;t ) A7 421758 ________Β7 _ 五、發明説明(5 ) 效2s配及叢集」’(此文獻載於ι995年12月「影像處理國際 會議」第I卷338-341頁,作者爲M M Yeung&B Liu)。此等 參考文獻以其全文納於本說明中以爲參考之用。 對於MPEG-1視頻之I框言,DC+2AC以如下方式界定”即 對於每一8 X 8 DCT塊言,DC及二低階AC係數ACal及AC—#-予以保留,以2X2反DCT獲致4像素。對於B及P框言,使 用方程式(2)自DCT塊Ρ;之DC及二低階AC係數構造Pref之DC及 二低階AC係數。當a + bSl時, ^ Σ ( Σ ⑵ i=0 \m+/<l j w 式中hi及Wj分別爲塊ρχ圖1C)之高度及寬度。進一步之細節 可見於「MPEG壓縮視頻之快速微觀瀏覽」,(此文獻載於 1997年5月技術報告RC20841,其作者爲IBM T_J. Watson研 究中心之B.L. Yeo,此參考文獻以其全文纳於本說明中以 爲參考.之用α MPEG-2視頻係用於較高之資料速率及用於高品質視頻廣 播,而MPEG-1係用於1.5百萬位元/秒等級之資料速率。 MPEG-2適合應用於遠爲較寬之範圍及模式之操作y其可保 持所有之MPEG-1視頻語法及將其擴充以便有更佳之適應性 及功能。MPEG-2亦可用於交錯視f及可定標資科流之編 碼。MPEG-1不能用於交錯視頻,僅能用於非交錯(順次前 進)之视頻° 於交錯視頻中,每一框由二場構成,即一上部場之一下 部場。根據MPEG-2,每一 t場可作爲一单獨圖像(場圖像)編 -8- _ 本紙張尺度適用中國國家標準(CNS ) A4規格(210X297公釐) (請先閱讀背面之注意事項再填寫本頁) 訂 經濟部中央標準局員工消費合作社印« 4 2 1 75 8 A7 B7 五、發明説明(6 ) ' 碼或作爲一完整框(框圖像)編碼框圖像及場圖像编碼可 於MPEG-2資料中混合。用於場圖像之DCT係數始終組織成 獨立場。然而,於一框圖像中,DCT可以巨塊爲基礎完成 對場及框之變換。此即一框囷像可有框編碼巨塊及場编碼 巨塊。 圖iE ’ 1F及1G顯示可能用於MPEG-2視頻之DCT編碼巨塊 之不同格式。圖1F顯示根據MPEG-2視頻標準之一框圖像中 先前技術框DCT編碼之圖。圖1G顯示根據MPEG-2視頻標準 之一場圖像中先前技術之一經编碼之巨塊圖<· 根據MPEG-2之運動補償(MC)在使用上亦較MPEG-1者普 遍。現有二種基本模式之運動補償:基於場之運動補償及 基於棍之運動補償。根據基於場之MC,係使用二運動向量 以指定上部及下部場之轉換(基於框之模式MC及運動向量 構成基於場之MC用之運動補償資訊)。基於框之MC與根據 MPEG-1完成者相同。在場圖像方面,僅可使用基於場之 MC,但在框圖像方面,可使用基於框及基於場之mc。 此二種情況例示於圖1H及圖II中。圖m顯示先前技術之 框圖像中框預測或根據MPEG-2視頻標準之場圖像中之預 測D圖11顯示先前技術之根據MPEG-2視頻標準之場预測。 簡言之,MPEG-2與MPEG-〗間之一差別爲經由使用DCT支 援交錯視頻編碼及(或)經由框或場编碼支援交錯場之運動 補償。 爲能改善預測效率,MPEG-2進一步支援16X8運動補償 模式。此模式可使一巨塊,當作一上部16X8區域及一下部 -9- 本紙张尺度適爪中國國家標华(CNS ) A4规格(210X297公釐} ' ~— (請先閱讀背面之注意事項再填寫本頁} -訂 經濟部中央標隼局貝工消費合作社印製 Α7 4^75δ 五、發明説明(7 ) Ιό X 8區域處理。每一區域然後以獨立方式予以運動補 償。另一模式爲雙主要運動預測。此模式在將一預定之場 或框編瑪時’將得自相反配類之一相鄰場之預測値予以平 均。雙主要運動預測有可能減少資料中之雜訊。 有關MPEG-2標準之細節’可見於iso/iec JTCl CD 13818 「移動圖像及‘3 W音頻之類屬编碼,1994,MPEG視頻壓缩 標準 J (此文獻由 J.L. MitcheU,W.B. pennebaker,C.E. Foog 及DJ· Le Gall,於1996年經由Chapman及Hall提出)及「數位 視頻:MPEG-2入門 j -(此文獻由 B.G. HaskeU,A. Puri及A.N. Netravali於1997年經由Chapman及Hall提出)。此等文獻以其 全文納於本説明中以爲參考之用。 符號表示法 於本説明中,係使用下述符號約定。使用8 X 8(16 X 16) 資料塊(巨塊)作爲8X8矩陣(16Χ 16矩陣或反之亦然, 惟僅當不產生混淆之情況下爲之。空間域塊或巨塊(或矩陣) 以大寫字母(例如,D,Df,Di,Ρ等表示,相對應之DCT域 塊(或矩陣)以同樣之大窝字母,但上面加有輔助符號 (a)(例如,Α·,·Ρ,,等,此即對於由矩陣〇代表之一 8 X 8塊 言,可有 b = DCT[D、= TDT\ (3) 式中T爲具有輸入项t(i,j)之8 X 8 DCT矩陣(i代表第i列及j 代表第j行),輸入項由下式表示
KiJ) = ^(〇c〇,(2j + 1-)tX-, (4) · 2 w 16 本紙張尺度適用中國國家標準(CNS )六4規格(2]〇x297公釐) ---„---.----乂------訂------'t 《請先閲讀背面之注意事項再填寫本頁) 經濟部中央榡準局貝工消費合作社印製
421 75 8 A7 B7 - — — -- — ..丨丨―— >-__丨——- —— 五、發明説明(8 ) 式中 ,He. (5) 當需要更明白之符號表示時,亦可明確使用DCT以表示 一塊之DCT域値。例如,以DCT(AB)表示加之於矩陣乘積 AB之2D-DCT 〇亦可經常使用2D-DCT之分配特性: DCT(AB) = DCT(A)DCT(B) = Ab. (6) 3 因此可將2D-DCT寫成 化/ = Σ文1只知 ί=0 用以將空間域中子塊之運動當作在DCT域中者予以説明, 即 DCTdf) = J^DCTiSiCDCTiPADCTijS^· t=〇 僅使用h之DCT値及運動向量(Αχ,Ay) 150,而使框際编碼 塊成爲直接位於DCT域中之框内编碼DCT塊DCT(Pref)之變 換,被稱作Γ DCT域反運動補償」^爲使符號表示簡化, 現將於本説明書中説明子塊在空間域中之移動情形;塊之 DCT域中數値可以相同方式自方程式(6)推論而得。 一非交錯16 X 16巨瑰係以一簡單大窝字母(例如D )表 示,而其相對應之交錯巨塊係由加一撇號之大窝字母(例如 D·)表示。假定有一非交錯巨塊D,m 4組成部分8 X 8塊即 f D0 〇Λ 可由D〇,D;,D2及〇3表示,亦即D =(乃2 % J。同樣,對於 相對應之交錯巨塊IT言/其4僻組成部分塊係由,D、, D'2及D'3表示,亦即D= 。於一塊(矩陣)中之每一
組成部分均以二指數予以,指示,即代表於一塊(矩陣)A -11 - 本紙乐尺度適用中國國家標準(CNS ) Α4规格(210X297公釐) {請先閲讀背而之注意事項再填巧本頁 訂 經濟部中央標準局員工消費合作社印製 421758 1 A7 B7 五、發明説明(9 中位於i列及j行之組成部分0爲代表一矩陣之一列或行向 量,可使用一短劃,即Ai_代表第i例向量及A_i代表第i行向 量。 () 現就一非交錯16 X 16巨塊D = t D2 L>3 j 加μ考慮/式中 i=0,1,2,3,Dj爲一 S X 8 塊=同樣,使 D1 加以考慮 ^0 D[ D', D', 爲相 對應之交錯巨塊,即D'u及D'!對應於D之上方場,D'2&ir3對 應於D之下方場。D與D1之間之關係可藉使用一 16 X 16置換 矩陣説明如下式 D = PD P〇 Pi \ (7) P2 Pz 及 /V: 經濟部中央標準局員工消費合作社印製 10 0 0 0 0 0 10 0 0 0 0 0 1 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0、 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 .0 0 0 0 0 0 0 0 1 0 0 0 0 0 0 0 0 0 / 0 10 0 0 0 0 0 0 0 0 0 10 0 0 0 0 0 0 0 0 0 1 0 0 0 0 0 0 0 0 0 0 1 0 0 0 0 0
Pi
Pz /00 10 0 0 0 1 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 10 0 0 0 0 0 10 0 0 0 0 0 1 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 \ 0 0 0 0 0 0 100 0 0 0 0 10 0 0 0 0 0 1 (8) ---:---Γ---->农--I---- (請先閱讀背面之注意事項再填两本頁) 先前技術問題之説明 12- 本紙張尺度適用中國國家標準(CNS ) Λ4規格(230X297公釐) 421758 A7 B7 五、發明説明(10 ) 先前技術無法處理在DCT域中之交錯視頻框。’ (讀先間讀背面之注意事項再填寫本頁) 先前技術無法在無需解壓縮情況下提供便利方法,以處 理根據MPEG-2壓縮視頻框際编碼框。 先前技術無法敎示就一 MPEG-2壓縮視頻,自一框際運動 補償編碼框構造一框内DCT编碼框(此種處理過程稱作DCT 域反運動補償)之方法° 先前技術無法在無需解壓縮情況下提供一種方法,以自 MPEG-2壓縮視頻序列中取出空間節省影像序列。 先前技術無法敎示自使用運動補償及DCT編碼之交錯視 頻框取出空間節省影像用於視頻處理工作。 先前技術無法分析具有使用包括交錯視頻编碼模式编碼 之視頻之大型資料庫,而此交錯視頻之编碼則係使用DCT 及有如根據MPEG-2之運動補償。 先前技術無法於包括MPEG-2視頻之大型視頻資料庫中定 索引及檢索^ 先前技術無法任意接達MPEG-2視頻框。 發明之目的 本發明之一目的爲提供一種以運動補償壓縮格式構造空 間節省影像序列之系統及方法。 經濟部中央標準局員工消費合作社印製 本發明之一目的爲提供一種在無需充分解壓縮之情況下 有效構造運動補償壓縮格式之空間節省影像序列之系統與 方法" 本發明之一目的爲提供一種索引及(或)搜索視頻資訊之 系統及方法3 , -13- 本紙張尺度適用中國國家標準(CNS ) Λ4規格(210X 297公楚) 42 175 8 A7 B7 五、發明説明(11 ) 本發明之一目的爲提供一種有效瀏覽視頻資訊之系統及 方法β 本發明之一目的爲提供一種用於有瀏覽可任意接達個別 之視頻序列之框之視頻資訊之系統及方法。 發明之簡述 在假定壓縮之視頻經由DCT及運動補償而支援交錯框之 編碼情況下,本發明根據選擇之DCT域係數及(或)運動向 量資訊應用不同之構造方法,以產生空間節省之影像而無 需解壓縮操作。然後空間節省影像可用於.視頻瀏覽,影像 呈現準備及處理。 圖式之簡要説明 上述之目的及其他目的,特點及優點,將可自以下之本 發明之較佳具體實例之詳細説明及參考包括以下之圖式而 得更佳之暸解: 圖1Α爲顯示根據MPEG視頻標準之三個不同之先前技術之 框型式之圖。 圖1B爲顯示根據MPEG視頻標準之一先前技術8 X 8離散 餘弦變換(DCT)塊之圖" 蛵濟部中央榡隼局員工消費合作社印製 (請先閲讀背面之注意事項再填寫本頁} 圖1C爲顯示根據MPEG-1視頻標準之一先前技術參考塊, 運動向量,及原始塊之圖。 圖ID爲顯示代表用以移動MPEG-1視頻提出貫獻之子塊之 —先前技術矩陣乘算之圖° 圖1E爲顯示代表根據MPEG-2视頻標準之一框圖像中之— 先前技術場DCT编碼之圖。, -14- 本紙張尺度適用中國國家標牟(CNS ) A4規格(2丨OX 297公釐) 421758 A7 B7__ _ — ~ ~ 五、發明説明(12 ) 圖1F爲顯示代表根據MPEG-2視頻標準之一框圖像中夂一 先前技術框DCT編碼之圖。 圖1G爲顯示代表根據MPEG-2視頻標準之一場圖像中之一 先前技術編碼巨塊之圖。 圖1H爲顯示代表根據MPEG-2視頻標準之一框圖像中或一 場圖像中之一先前技術之框預測之圖。 圖Π爲顯示代表根據MPEG-2視頻標準之一框圖像中之一 先前技術中之場預測。 圖2爲執行本發明之一電腦系統之一較隹具體實例之方塊 圖。 圖3爲一流程圖,圖中顯示用於得自一 MPEG-2視頻之節 省影像序列之構造程序之步驟。 圖4爲一流程圖,圖中顯示構造得自I框之節省影像序列 之步驟。 圖5爲一流程圖,圖中顯示構造得自P及(或)B框之節省 影像之步驟 圖6爲一流程圖,圖中顯示應用DCT域反運動補償之步 驟。 圖6 A爲一流程圖,圖中顯示用於計算每一主塊於預測一 塊時之頁獻之步驟。 圖7爲顯示場預測之一方塊圖° 圖8爲一方塊圖,顯示一基於場之運動補償及一經框編碼 之主塊。 圖9 A爲一方塊圖,顯示當主塊係經場編碼及提出貢獻之 -15- 本^^度適用中國^¥導(CNS } A4规格(210X297公釐j—' " PI - m - n I - n - - 1 - I_ _ HI T * t --¾ (請先鬩讀背面之注意事項再填寫本頁) -濟部中央標準局員工消費合作社印製 經濟部中央標準局貝工消費合作社印笨 42 175 8 ' A7 B7 五、發明説明(13 ) 子塊來自一上部區域時基於場之運動補償。 圖9B爲一方塊圖,顯示當主塊係經場編碼及提出貢獻之 子塊來自一下部區域時基於場之運動補償。 圖10爲一方塊圖,顯示一 16 X 16巨塊之預測。 圖11爲一方塊圖,顯示二水平相鄰區域之預測。 圖12爲一方塊圖,顯示在有相同之運動向量情況下,二 相鄰塊之DCT域反運動補償之蠻力計算。 圖13爲一方塊圖,顯示在有相同之運動向量情沉下,使 用二相鄰塊中共有之資訊之一種用於此二相鄰塊中之快速 DCT域反運動補償之較佳方法。 圖14爲一流程圖,顯示使用橫過二相鄰塊之共用資訊之 一種用於快速DCT域反運動補償之較佳方法。 圖15爲圖10之提出貢獻之子塊之標記及用於圖16至23中 之符號表示。 圖16及17爲方塊圖,顯示在有相同運動向量情況下,使 用4塊中之共有資訊以構造塊之一種用於4相鄰塊中之快 速DCT域反運動補償之較佳方法。 圖18及19爲方塊圖,顯示在有相同運動向量情況下,使 用4塊中之共有資訊以構造塊QN之一種用於4相鄰塊中之快 速DCT域反運動補償之較佳方法。 圖20及21爲方塊圖,顯示在有相同運動向量情況下,使 用4塊中之共有資訊以構造塊QT之一種用於4相鄰塊中之快 速DCT域反運動補償之較佳方法。 圖22及23爲方塊圖,顯示在有相同運動向量情況下,使 -16- 本紙張尺度適用中國國家標準(CNS ) A4現格(210X 297公釐) {請先閲讀背面之注意<項再填寫本頁y
、1T 42 175 8 A7 B7 經濟部中央標準局負工消費合作社印聚 五、發明説明(14 ) 用4塊中之共有資訊以構造塊Qu之一種用於4相鄰塊中之快 速DCT域反運動補償之較佳方法。 圖24爲顯示節省影像序列之電視幕。 發明之細述 圖2爲顯示一電腦系統200之方塊圖,此系統例如爲一 IBM RISC系統/ 6000( IBM公司商標),本發明之較佳具趙實 例即操作於此系統中。電腦系统200中之组件藉系統滙流排 2 12連接及經由此溫流排通訊。一中央處理單元(CUp)21(J, 僅讀記憶器(R〇M)2l6,随機接達記憶器(rAm)214,一般均 連接至系統滙流排212。此較佳具體實例包括一個或數個應 用程式202。一種型式之應用程式202爲進一步於圖3中説明 之一處理過程300。例如爲磁片219产磁碟220及CDROM 221 之額外記憶器可藉適當之記憶器配接器218而連接至系统滙 流排212 »輸入/輸出配接器(222,236)將各裝置連接至與用 户交互作用之系统湿流排2 12。例如,一鍵盤224及(或)滑 鼠226輸入經由用爲一顯示裝置(例如一圖形用户界面, GUI) 238之一通當用户輸入配接器212而連接至系統滙流排 212及(或)印字機經由一適當之用户輸出配接器236而連接 至系統滙流排212。舉例而言,用以控制一 GUI之一用户輸 出配接器222可爲一 IBM RISC系統/6000彩色圖形顯示器配 接器236。藉使用例如ActionMedia II顯示配接器234(説明於 IBM ActionMedia II技術參考資料)/可將多媒體功能加添至 系統200。類似此種配接器之配接器可用以經由音頻輸入裝 置(例如一微音器)232及一,音頻輸出装置(例如一個或數個 -17- 本紙張尺度適用中國國家標芈(CNS ) A4規格(2]ΟΧ297公釐) (請先閱讀1 北l^r^ 注意事項再填寫本頁) 'π 經濟部中央標準局負工消费合作社印製 421758 Λ7 _______B7 五、發明説明(15 ) 擴音器)288。視頻輸入(例如經由一攝像機)230及視頻輸出 238亦可由類如此等配接器之配接器而使之操作。語音辨識 可雜使用IBM VoiceType 口授聽窝配接器而完成。用於例如 虛擬現實系统之其他功能之用户界面(222,236)可連接至系 統滙流排212。適當之連接器275可用以將電腦系統200連接 至一普通網路(例如’網際網路,廣域網路(WAN),及(或) 局部區域網路(LAN))280 以經由此等網路與服務站290及 (或)客户通訊。若干此等電腦29〇可實施系統200同樣功 能。用於類似此電腦系統200之系統之硬體係爲人所熟知。 圖3至6爲流程圖,説明爲自MPEG-2視頻取出空間影像序 列而由本發明所實拖之各種不同處理過程。圖7至1〇爲方塊 圖,例示由於實施此等處理過程改變至視頻之情形。現假 定有一 MPEG-2視頻,或更廣泛言之’假定有經由DCT及根 據MPEG-2之運動補償而支援交錯框编碼之壓縮視頻,在無 柏解壓縮之情況下,本發明自屬於不同編碼框型式(即1, P及B型式)之框中取出空間節省影像序列。(於本説明中, 任荷經由支援DCT及運動補償之交錯框編碼之壓縮視頻均 可柄·之爲MPEG-2視頻’且不會損失其通性)β於本發明 中’根據框型式及编碼模式細節,根據選擇性DCT域係數 及(或)運動向量資訊,而應用不同之取出方法。然後可使 用空間節省影像以供視頻瀏覽及影像呈現準備及處理。 圖3爲一流程圖,説明自μ PEG-2視頻構造節省影像序列 之全部處理。於步驟310中,MPEG-2係作爲輸入。視頻序 列具有標題以其説明資料包中所包含之相闞於此標題之框 -18 本紙乐尺度適州中國國家標準(CNS ) Λ4規格(210Χ297公釐) (請先閱讀背面之注意事項再填寫本頁) ,1Τ 42175 8 A7 B7 五、發明説明(16 ) 之型式。.此爲一般熟知之事。於步驟32〇,使用已知技術檢 驗標喊貪Λ以決定是否有更多之框需處理。如爲否,則至 今所產生之節省影像序列係爲輸出33〇並且結束處理過程。 如果尚有更多之框需處理,次一框即當作現行框及於步驟 340以F表示步驟350測試現行框F是否爲I框,Ρ框,或Β 框。標題中提供有資訊用以根據此方式將此等框分類。如 果其爲I框,現行框F即於步驟360中處理。否則,現行框f 即於步驟370中處理。當現行框F於方塊360或370中處理之 後’處理過程進行至方塊320及繼續進行。 圖4爲一流程圖,顯示圖3中步驟360之細節及説明處理I 框之步驟以構造節省影像之細部情形。步骑3 61決定現行框 是否有更多之巨塊需處理。如果爲否,即如步驟366所示, 處理過程回返至圓3中之步騍320。如果有更多之巨塊需處 理,次一巨塊即作爲步驟362中之現行巨塊(以Μ表示)。隨 後於步驟303中根據MPEG-2位元流中標題資訊,決定是否 現行巨塊爲框DCT編碼或場DCT编碼。如果爲框DCT編碼, 即將此巨塊送至步騍365。如果爲場DCT编碼,即對步騍 364中之Μ應用一 DCT域解交錯操作(詳細之較佳具體實例 將於後文中提出),然後連續送至步驟365。於步驟365中, DC,AC 10及AC01數値自現行巨塊Μ中取出,隨後處理過程 回返至步驟361。DC成分代表其個別塊中之平均強度數 値,AC10及AC01數値代表塊中強度變化之最低頻率成分。 惟需注意例如爲1Π之其他頻率係數可用於代替性具體實例 中。然而於一較佳具體實例中此二最低頻率成分係經選 -19- 本紙张尺度適用中國國家標率(CNS ) Λ4規格(210X 297公釐) (請先閲讀背面之注意事項再填轉本頁) 訂 、濟部中央摞本爲员工消費合作社印衆 421758 A7 __________B7 五、發明説明(17 ) 擇’因此二最低頻率連同DC成分提供包含於原始塊中之適
(请先閱讀背面之注意事¾再填穹本FC 當數量之資訊’以其以足夠迅速及有效方式產生一減少尺 寸之塊。 處理過程360(包含於一較佳具體實例中者)之目的爲識別 一框編碼巨塊中之DC,AC10,及AC01成分3如果此巨塊爲 框編碼365,此項識別爲直接簡單。然而如果此巨塊爲場编 碼364 ’此巨塊需變換爲一框編碼格式以便能識別所需係 數。用以説明如何完成此種變換之一較佳具體實例如下 述0 現揭示一種對於圖4之更嚴密之説明。於步騾362中,假 定Μ爲由4個8X8 DCT塊DCT(D,i)組成之一場編碼巨塊。爲 能獲致DCTfDOw^解交錯型式之DC係數,DCT(D,)之DC係 數需加以計算。 用於就巨塊計算DCT(Di)之DC係數之一種較佳方法係根 據%編碼塊中DCT係數之一加權線性組合: {D〇)〇0 ~ (Ρ〇Ζ>ό)〇〇 -h (^1^2)00 —{P〇)〇-~{D〇)-〇 + (^1)0-(^2)-0 =(再)。_((琢)—。+(玛)_。), (9) 式中,用於線性组合之加權: 經濟部中央標苹局員工消費合作社印製 (Ρ〇 V = (0.5,0.453,0, -0.159,0,0.106,0, -0.090). (!0) 僅需要估5次乘算。於一代替性具體實例中,如最後二非 零値係數予以忽略不計,則僅使用了次乘算。忽略此等最 後二非零値係數對於例如瀏覽,散射邊界檢測之若干應用 言’可於己減少尺寸之塊中產生足夠之解析度。 '--- -20- 本纸張尺度適用中國國家標皁(CNS ) Λ4規格(21 Ox 297公您〉 經"'部中央標革局買工消费合作社印紫 4 2 7 7 5 8 、 at B7 --------------------- ------ 五、發明説明(18 ) 在畚需使用任何乘算之情況下計算(仏心之—較佳具體實 例係使用下述(办)〇〇之結果: (d2}〇〇 ~ ((^0)00 + (^2)00)-(^0)°0 (") 同樣,D#D3i DC數値可由下列方程式計算: (^ι)οο — (-^0)0-((-^1)-0 + (^3)-0) (12) (^3)00 = ((·〇〇00 +(-^3)00) — (-^1)00 (13) 因此,構造一非交錯塊之一 DC値最多A 2,5次(5/2 = 2.5)乘 算。如果方程式(10)之最後二非零値係數亦予以忽略,則 僅需1·5次(3/2= 1.5)乘算。 再者,於步驟362中,如果Μ爲一場編碼巨塊,則可能需 要自一對應之場编碼巨塊產生一框編碼巨塊之低階AC係數 (例如,AC01及AC10)。用於計算加權之線性组合之一較佳 具體實例實施如下之步驟364 : (1?〇)01 R; (ί〇)〇〇((ί?ό)〇1 + (-^2)01) (14) (Z>0)10 = (_Ρ0)10(Ζ?ό)〇。+ (Ρ〇)ιι(Ι^)ι〇 + (·Ρι)ιο(·^ί)〇〇 + =(·Ρ〇)ΐ〇({Ό〇)〇〇 ™ (-^2)00) + (·ί〇)π(-^0)ΐ〇 + (-^1)11(-^2)10 (15) (^2)01 ~ ((^ό)〇ΐ + (-^2)01) ~ (^θ)θΐ (D2)iq ~ (-^2)10(^0)00 + (^2)11(^0)10 + (-^3)^(-^2)00 + (-^3)11(^2)10 =(-^2)10((^0)00 - (^2)00) + (-P2)ll(^〇)l〇 + (^3)11(^2)10 (16) 圖5顯示一流程圖,詳細説明圖3中之步驟370及説明自ρ 或Β框構造節省影像序列。此處DC,AC10,及AC01係數再 度就框编碼巨塊予以識別。然而對於:P及B框格式之運動補 償巨塊言,此巨塊必須轉換爲框際編碼及框編碼巨塊。 步騍371決定現行框是否有更多巨塊需處理。如果爲否, 處理過程繼續進行至圖3之步驟320。如果有更多之巨塊需 -21 - 本纸張尺度述圯中國國家標皁(CNS ) Λ4规格(2丨0X 297公釐) ---^---^--— —士衣------訂------良 (讀先閱讀背面之注意事項再填寫本頁.) 421758 λ7 _____— —__B7 五、發明説明(19 ) 處理,次一巨塊於步骤372中即當作現行巨塊(以F代表)。 步驟373測試現行巨塊?是否爲枢際编碼。如果爲否,步驟 375測試現行巨塊从是否爲框DCT編碼或場dct編碼。如果 爲框DCT編碼,M直接由步驟377處理。如果爲場編 碼,即將有如方程式⑼,⑼,(12) ’(13)及(14卜〇6)所説明 您DCT域解交錯方式應用於步驟376及此解交錯之巨塊使之 於步驟377中處理。於步驟377中,dc,ac〇1,ACi〇數値取 自現行巨塊Μ,處理過程繼續於步驟371中進行。需注意方 塊375 ’ 376,及377分別與方塊363 , 364,及365相同,有關 彼等之説明亦分別相同e如果現行之巨塊於方塊373中爲框 際編碼’一述之DCT域反運動補償即應用於方塊374中之 Μ。於步驟375中,誤差項於步驟378中經予以計算及加添 至自步驟375所產生之每一DCT係數’然後處理過程繼續在 方塊371中進行。此誤差項之計算可以與1框於圖4中處理之 相同方式完成》 圖6爲顯示圖5中374細節之方塊圖及説明一較佳具體實 例以其實施DCT域反運動補償之步驟,用以將框際编碼之 巨塊轉換爲框際編碼框编碼巨塊,如此可識別DC,AC10, AC01係數。 經满部中央標準局貝工消费合作社印^ I n n ------^ I I I [I I I T ▼ - ^ *-& (請先M讀背面之注意事項再填寫本頁) 於步驟640,現行巨塊中塊之數目設定爲N及每一塊設定 爲I,B2,,BN 〇於步驟641,一指數變數i設定爲〇,於 步滕642,指數變數i以1遞增。於步媒643 ’決定指數變數i 之現行數値是否小於或等於N。如果爲否’ DCT域反運動 補償即完成及處理過程繼贫於圖5中步驟371進行。否則’ -22- 本紙張尺度適用中國國家標準(CNS ) Λ4規格(210x 297公1〉 42”5 8 , A7 ________B7 五、發明説明(2〇 ) 於步驟644中,採用B,。吾人希望獲致與匕相關之節省影像 表示。更廣泛言之’吾人希望獲致&之框内DCT编碼表示, Β〗係使用框際運動補償而編碼。根據與塊氐相關聯之運動向 量’提出贡獻之主塊K之數目即被決定。呼叫貢獻之主區 塊心’其中j=i , 2,…’ K。於步驟645至647,指數j被賦予初 值及用以計算主塊Aj對於之DCT表示之貢獻。現行主塊& 之頁獻予以計算及由C表示(步驟648),然後加至C(Bi)(步 骤649)。處理過程自步驟646繼續重複。結果所得之c(Bi)然 後產生塊B^DCT塊域表示或塊仏之節省影像表示,後者相 當於塊匕之DCT域値之DC及低階AC係數。 經濟部中央標半局負工消費合作社印^ 現參看圖1C及1D ’可注意者’一現行塊131係由參考框之 各別主塊134-137之部分134P-137P產生。因此,每一此等部 分134P-137P對於現行塊131之貫獻必須決定以便產生現行 塊131。此等貧獻以線性方式加權以產生現行塊,加權値由 運動補償(基於場或框之運動補償)之模式,主塊(場或框編 瑪)之編碼型式及運動向量決定。需注意者,雖然此可於先 前技術之MPEG-1中完成’亦即僅爲框鳊碼塊及基於框之運 動補償’但是先前技術中並未揭示或建議用於決定框及(或) 場编碼塊之此等貢獻及連同框及(或)基於場之運動補償之 裝置或方法,亦即MPEG-2。 爲能決定各別之塊(〖34-137)之每一部分134P-137P之對於 巨塊132之現行塊131D之貢獻,每一巨塊132之標題均用以 決定巨塊132是否由:(1)基於場或(2)基於框之運動補償所 產生。然後決定是否每一各別之塊(134-137)爲框编碼或場 -23- 本紙張尺度適用中國國家標準(CNS ) Λ4規格(21〇X 297公茇) : — A7 421758 ' B7 _____ 五、發明説明(21 ) 編碼。下述情況中之每一情況均轉換爲框内編碼及框編碼 DCT 塊: a. 現行塊自基於場運動補償所產生及提出貢獻之主塊(例 如134)爲場编碼" b. 現行塊自基於場運動補償所產生及提出貫獻之主塊(例 如134)爲框編碼》 c. 現行塊自基於框運動補償所產生及提出貢獻之主塊(例 如134)爲場編碼。 d-現行塊自基於框運動補償所產生及提出貢獻之主塊(例 如134)爲框編碼。 冗成此處理過程之細節見圖6A之説明,,在圖之下方顯示 步驟64 8之細節。 圖6 A爲一流程圖’顯示用以計算一主塊之貢獻之步驟, 亦即顯tf圖6之步驟648之細節3於步祿6a i,主塊係設定 爲塊A』及運動型式設定爲MT。於塊6A2中,測試運動塑式 MT是否爲框預測或場預測。如果爲框預測,則進一步測試 塊心疋否爲框編碼或場編碼。如果爲框编碼,處理過程即 進行至步驟684,如果爲場編碼,處理過程即進行至步驟 683。在另外一方面,如果運動型式MT爲基於場之預測及 如果王塊爲框編碼或場編碼Λ即於步驟6A4中予以測試。 如果爲框編碼,處理過程即繼續進行至682及如果爲否即繼 續進仃至681。步驟681,682,683,684處理前述之分別以 ⑻’(b) ’(c)及⑷標記之情況。 現説月《十算主塊八』,j =丨,2,,【對於有關現行塊&之貢 --—~~__-24· 本紙張反度^-——- ; :----^------ΐτ------% (請先閱讀背面之注意事項再填本頁} 經滴部中央標準局貝工消费合作社印製 A7 42 175 8 _____ B7_ 五、發明説明(22 ) 獻之較佳方法3現在已有主塊A」之DCT域値及需要計算匕之 DCT域値。此外,則使用運動向量資訊。現説明B,之整组 DCT係數之結構及亦説明之框编碼型DC係數(亦即用於產 生DC影像者)° 於以下説明中,將需予以構造之現行塊稱之爲Q及主塊 爲或Ni Ki3,以利符號表示。首先考慮步驟681及682(對 應於情況(a)及(b)),在此等情況下運動補償爲基於場之預 測。 (1)目標槐之基於場之預測:步驟6S1及682 ’亦即情況⑻及⑻ 於一基於場之MC中,係使用二運動向量以預測一巨塊之 上部及下部場。於空間域中之基於場之MC例示於圖7中。 其目的爲自主塊M;,凡之DCT域表示及運動向量(wl0,hV)及 (wb〇,hb0)構造8 X 8塊Q之DCT域表示。需注意主塊可以交錯 或非交錯格式编碼°現就較佳具體實例之細節加以説明。 於圖7中,目標塊Q之上部場710自4 8 X 8主塊,M] ’ M2,而得預測,下部場720自另一組4 8 X 8主塊N0,Nj, N2,1^3而得預測。在不損失普遍性之情況下’假定用以產 生Q之上部及下部場之運動向量分別爲Ok ’ ht〇)及(wb〇 ’ hb〇)。於圖7 t可注意到主塊及目標塊爲葬交錯空間域塊° 但在DCT域中,此等主塊可屬於不同之巨塊·彼等可以例 如框或場編碼之不同格式编碼。在空間域中塊Q 720之預測 可由下式説明: ^ = ΣΙ〇^+Σ?=〇£?λ' (17). and QM'= (18) -25-
本紙張尺度璉用中國國家標準(CNS ) Λ4規格(2】0X 29»^T :---T----Λ--------訂----11 良 (请先Μ讀背面之注意事^-再填巧本貧) 經漪部中央標率局員工消费合作社印來 421758 Α7 Β7 •經濟部中央標率局員工消費合作社印^ 五、發明説明(23 M,及N,代表在交錯或非交錯格式中之主塊。對於每—主塊 或N,而言,或代表M減凡對於目標q之預測所提出之貫 獻及以PiSilMh*予以計算,式中pt;,pb,%及 S ij ’ 0 A U及1匀S2爲矩陣,且將於下文中説明r u目標塊Q 由每一主塊之貢獻之和形成。 Q之DCT域表示係得自下式 Q = + (19) 計算貢獻QMAQNl,0sis3,需有三步驟。首先,自每一主 塊Mj或队’識別對於Q之預測提出貢獻之子塊,此子塊於後 文中即稱作提出貢獻之子塊。其次,此經織別之提出貫獻 之子塊使之以垂直及水平方式移動至適當角隅。此工作藉 乘以矩陣及S1^,0幻S3及j勾_ η而完成。第三,每一列經 移位之提出貢獻之子塊係藉乘以矩陣p丨及]^而被置於對應於 Q之正確位置。矩陣S^·,S〜’ Μ,及p%根據Mi或队之表示而 決定。 現對主塊之二個別情況加以考慮:⑴非交錯主塊,(ii)交 錯主塊。 (i)非交錯主塊:步驟68 1,亦即情況(a) 當M/Ni)代表一非交錯塊時/,可寫作从=Mi (N,=凡)。在 此情況下,需要能算於DCT域中以非交錯格式编碼之Μ〗對 於Q之貢獻。惟運動補償之模式仍然爲基於場之運動補 償。 . 首先使Μ;(Ν,)之提出貢獻,之子塊移位及於適當之場選擇之 -2Θ- 本紙張尺度適用中國國家棉举(CNS〉Λ4规格(21〇Χ297公釐) ---^---r----d------訂 (請先閲讀背面之注意事項再填寫本茛) 421758 A7 B7 經濟部中央標準局男工消费合作社印來 五、發明説明(24 ) 後構造提出貢獻之塊(在此情況下爲遵循圖7之上部(下部) 場)。圓8例示構造QM2之程序。 子塊座接自水乎及垂直位移(W〗,h〗)及(wbi,hb而識別a子 塊在主塊中之位置及其水平與垂直之大小係根據MPEG-1以 相同方式決定移位之數値及方向。因此,由Sij代表(見表 1 ),用於於DCT域中就MPEG-1運動預測而移位之矩陣.,即 用於S〗;/,S\j,亦即 S\- = S^h1; 7 w1;) (20) S'= ,wb,·) , (21) 於圖8中,提出貢獻之子塊爲位於主棟M2中右上角之ht; x w'塊及移位至提出貢獻之塊QM2中之左下角處。 在提出貢獻之子塊方面之場選擇,對於上部場預測相較 於下部場預測而言,係有所不同。於上部場預測中,每_ 奇數列均被選擇。然而在下部場預測中,經選擇之奇數歹,j 係映射至偶數列,亦即 P i — Psd ’ Ρ ί - PswapPsel ’ (22) (請讀背面之注意事項再填窍本頁 *衣 -訂
Ptd /ιοοοοοοο οαοοοοοο 001000 00 oooooooo 0 0 0 0 1 0 0 0 oooooooo 0 0 0 0 0 0 1 0 \oooooooo 及 swap "〇〇〇0〇〇、 1000〇〇〇q 0001〇〇〇g 0010〇〇qq 0000〇1qq 〇〇〇〇1〇〇〇 0 0 0 0 0 0 0 ! v ο ο ο 〇 0 0 1 〇 -良, -27- 本紙張尺度適用中國國家標準(CNS ) Λ4規格(2丨0X29?公釐) 421758 Λ7 ——---------B7 五、發明説明(25 )
Anchor block Λ"ί〇 — — Μι w Μ 2 TO m3 (爲)
衣2 备一王塊爲交錯型式時,%,,%,及5、就垂違 及水平移位之選擇爲:h,= h\或h,二K,w, 〇4爲一 4 X 4空矩陣。 二 Wbi,及 閱 讀 背 之 注 意 事 項 再 填 本 頁 (11)父錯主塊:步驟682 ,亦即處理情沉(b) 當从⑼)代表\交#塊時,在某些交錯巨塊D,中, M;(Ni)=D〗’ -(巩巩j。在此種情況下’需計算在DCT域 中以交錯格式编碼之吨對於Q之貢獻。運動補償之模式仍 爲基於場之運動補償。 假設有一交錯之8 X 8塊,稱此塊之上半部(亦即最先4列) 爲上部區域及此塊之下半部(亦即後面4列)爲下部區域α此 時’每一交錯主塊之提出貢獻之子塊即屬於上部區域或下 部區域。在每一區域中,提出貢獻之子塊,對於MAN,.而 言’當i=0,1時,係以(w1丨,「hV2])或(wbi,「hV2l)移位,對 於 Μ;及Ν;而言,當 i=2,3 時,係以(w' ’ LhV2j)或(w、,Lhbi/2」) 移位。 圖9例示基於場之MC及場編碼主塊M2之概要。於圖9 中,運動向量爲(hVwb)及希望M2中之提出貢獻之予塊對於 —--- -28- 本紙张尺度適用中囤國家標隼(CNS ) A4規格(210X297公釐) 421 75 8 ' A7 __ 87 _ -r· . — — __ , 一 五、發明説明(26 ) Q之上部場提出貢獻。於圖9(a)中r提出贡獻之子塊來自上 部區域’而於圖9(b)中,提出贡獻之子塊來自下部區域D 水平移位之方向及數値係由w丨或wb;決定,其決定方式相 同於非交錯主塊之情況,亦即Sb = SJwb及Sbi2 = Sbdwbi;) u 然而垂直移位對於每一區域均不同,因爲塊係以交錯編瑪 之故。矩陣S[ii及Sbn就垂直移位之選擇經示於表2中。當屬 於一交錯主塊之上部區域之提出貢獻之子塊係就%及 二者予以選擇時,Si係當子塊屬於下部區域時方予以選 擇。 因此在SiMiS%或S^VfiS%中之經移位之提出貢獻之子塊仍 爲交錯型式。其每一列均需映射至右方列之位置以構造非 交錯之提出貢獻之塊,亦即QMi或QNi。此可藉用於DCT域解 交錯之置換矩陣P之二子矩陣而完成。對於上部場預 測言,每一列子塊使用Ρ〇,即β = Ρ〇 , 〇 d幻而自第一列目 標塊開始擴展至每一相間隔之列。對於下部場預測言,每 一列子塊使用p,,pbi = ,〇引S3,自第二列目標塊開始擴 展至每一相間隔之列。 (2)目標塊Q之基於框之預測··用於情況(c)及(d)之步驟683及 684 在框預測方面,係使用一運動向量以預測一目標框之上 部及下部場二者。空間域塊之預測可以下式概略説明: Q = J2QM'· - (23) t * 如果一主塊N/^爲非交錯,其對此目標塊之上部及下部場 二者均提出貢獻。此貢獻可寫成: __- 29 -_ 本紙張尺度適用中囡國家標準(CNS ) Λ4規格(210'〆297公麓) #f讀背面之注意事項再填寫本頁
1T % 經濟部中央標準局®::工消費合作社印米
421 7R B A7 B7 五、發明説明(27 Q 1 = SiiMjS^ * 式中當>0 ? 1,2,3及j=l ’ 2時,s,』爲使先前說明之提出貢 獻之子塊移位之矩陣。當主塊吨爲交錯型式,从哿於目標 塊之上部場及下部場中任一場提出貫獻並且可能有4^ 塊。在此種情況下,貢獻qMi可有如基於場預測(交"錯主2 情況)情況加以計算,即 QMi = (24) QMi = 或 (25) 爲節省影像產生計算選擇性DCT係數 爲能自框際編碼之P及B框產生類似DC或OC+2AC影像之 影像,僅有Q巧,碎,巧,,β,〇 <幻之選擇之DC係數可預先 計算。每一主塊對於点中之每一组成部分可窝成下式,提 出貢獻之主塊之DCT係數之加權之線性组合如下式所示: = Σ Σ DCT(VrSa)km(M^mn(^2)nl =0 n=〇 -〇 η=〇 (26) (27) ---^-------在------訂------良 (讀先閲讀背面之注意事項再填界本頁) 式中加權値 (28) 經满部中央標準局貝工消费合作社印製 此式決定於(a)運動補償之模式(基於場或基於框),(b)提出 貢獻之主塊(場或框编碼),及(c)運動申量。然後,= Σ(^·ν (29) t 自方程式(27)可知,一提出貢獻之塊之一组成部分之DCT 値之預測需要64次乘算,對於一目標塊之預測結果需有最 30- 本紙张尺度適用中國國家標準(CNS ) Λ4規格(210X29?公麓) 經滴部中央標準局負工消費合作社印來 421758 A7 ___________B7_ 五、發明説明(28 ) ~ ~ 多64 X 8之乘算,此因爲最多可能有s個提出貢獻之主塊之 故。 此外,將需要構造目標塊之DC及選擇之AC値,此等數値 可能用爲未來之主塊。與MPEG- 1不同者,B框中之塊可用 爲主塊(用爲預測其他場之基於場之運動補償)。此即意指 需將大多之經預測之塊之DC及選擇之AC値保持於P及B框 中 。 經加權之方程式(27)之線性组合之快速計算可藉僅使用 方程式(28)中選擇之成組係數而完成。一較佳之具體實例 爲使用將方程式(27)之計算限制於〇 ,亦即僅使用 框内編碼之主塊之DC,AC01及AC10係數。吾人稱之爲 DC+2AC近似法。根據DC+2AC近似法,方程式(27)變爲 DCT(Q)kl = ^DCTiQ^ (30) « ~ Σ (31) t m+n<l 式中wkl(i,m,n)定義於方程式(28)中=特別有關者爲僅有 DCT(Q)00,DCT(Q)〇ADCT(Q)10保留。 快速演算法 下述説明本發明之一較佳具體實例。此實例於美國專利 申請案第_號中主張專利,此專利申請案之名稱爲 「用於使用共有資訊之DCT域反運動補償之系統及方 法」’且係由Song及Yeo二氏提出,此申請案與本申請案同 曰提出申請,現納入本説明中以爲參考》 現將說明用於快速DCT域反運動補償及根據共有資訊快 -31 - 本紙法尺度過用中國國家標準(CNS ) Λ4規格(210X 297公釐} ---:---τ----d-------訂------1 (讀先閲讀背面之ii意事唄再填frf本頁j A2 A7 B7 五、發明説明(29 ) 速取出空間節省影像之較佳之演算法。更確切言之,將説 明用於快速對方程式(18)及(31)評估之較佳演算法。此種加 速係根據二個等級之方法:(i)具有相同编碼格式之相鄰主 塊,及(ii)使用同一巨塊中橫過主塊之共有資訊。 加速操作之一共同主題爲於反運動補償處理過程中對於 提出貢獻之子塊運動之排序,如此即涉及置換矩陣。使用 置換矩陣可對具有相同编碼格式有最大之利用及使用同一 巨塊中橫過主塊之共有資訊。現首先説明置换矩陣如何加 速重新構造空閘節省影像,亦即使用具有相同编碼結構及 同一巨塊中橫過主塊之共有資訊之相鄭主塊而快速評沽方 程式(31)。 首先以近似法計算DCT(ABC)形式之DC,AC01及AC10係 數之較佳實例,式中A,B,C爲8 X 8矩陣’此實例如下 式:DCf(ABC)kl 二 Γ vki(m,n)Bmn, (32) m+r»<l * 式中叫(m, η) = Uni,及〇红+ 。當a及(或)C爲一置換矩 陣P時,即獲致P,即獲致 DGT{VBA)hl = vZ(m,n)(B)mn, 4(m,n) = (33) τη+π<1 DCT{ABV)ki = ^(m,n) = v4fcm^rW (34) m+n<l DCT{VBV% = Σ 4(m,n)(否W, ^(ττζ,η) = (35Γ m+n<l 式中k+1 1及m. + n S1。表3 :表4 ’及表5顯示用於近似法中 -32 -_ _ 本紙張尺度適用中國國家標隼(CNS M4规格(2丨0X297公楚) —7—丨'.----,τ— (%尤閱讀背面之注意事項再填荈本頁) -訂 &K· 經滴部中央標準局員工消贽合作社印嚷 12 17 5 8 (37) 〇 /8-、1,( (Λ.I) \{rrt, n) (0,0) (0,1) (1,0) (0,0) 0 (0,1) 0 0,〇) 0 0 A7 B7 五、發明説明(30 ) 9係數(數値/即對於每一(k,u及對之v>m,幻)(表 J ),二w(m ’ _〇)(表2,及 v2fc〗(m , n)(表 5 ) ώ 表 3 及表 4 説明 般(观)或黯(聊)之(DC,AC〇ilAc叫之三數値,在 當有4輸入項爲零值時,可以5次乘算計算,如此對於一般 情況’可節省4次乘算。同樣,表5説明i)CT^5P〇之三數 値’在當一輸入項爲I及6輸入項爲零値時,僅需以2次乘 算計算。 當垂直或水平相鄰主塊具有相同編碼格式時,用於Dct 域反運動補償之方程式可重新安排,如此彼等可包括置換 矩陣及有如表3,4及5所提示者可節省就同樣計算所花費 之計算成本。繼續進行處理過程,可注意到用於水平移位 Si2之矩陣可有下列特性: S〇2(w〇) ~ S22(w2), S12(wi) = ^32(^3), (36) 5〇2(^〇) + *?12(^i) — P° — ^— ·ρ------------訂------泉 f讀先閱讀背面之:;χ意事項再瑱寫本頁〕 經漓部中央標準局負工消费合作社印製 λ λ 表3 : 一使用置換矩陣之預先乘算/ 5次乘算 (Λ, I) \ (m, η} (0,0) (0,1) (1,0) (〇,〇) 0 (0,1) 0 (1,0) 0 0 -33- 本纸張尺度通用中國國家樣準(CNS ) Α4規格(210X 297公釐) 經濟部中央標苹局員工消費合作社印" 4 2 1 7 ^ H ^ a? Β7 五、發明说明(31 ) 2. p,— 表4 : w 使用置換矩陣之預先乘算/ 5次乘算 (λ, 1) \(m, η) (0,0) (0,1) (1,0) (0,0) 1 0 0 (0,1) 0 0 (1,0) 0 0 表5 : AmVn/—使用置換矩陣之預先及事後乘算:2次乘算 及P〇爲一 8 X 8置换矩陣。 現繼續説明重新方程式(3 1)之較佳具體實例以利用方程 式(36)及(3Ό,亦説明有如表3,4及5提示之加速情況。 使用相同编碼格式之相鄰主塊 有二種情況:(i)使用相同编碼格式之2相鄰之主塊及(ϋ) 使用相同編碼格式之全部4相鄰主塊0 ⑴使用相同編碼格式之2相鄰主塊 假定2上部主塊M0及屬於以相同格式編碼之巨塊。在此 情況下,不管編碼格式或運動預測模式爲何 S0l = S„ ^ P〇= Pi (38) 使用此等關係,將QM〇 + QM〗之預測以方程式寫出之一較 佳方式爲: qM〇 + = p〇S〇lM〇S〇2 + P^nMiSjs (39) =P〇Soi(M〇 - M〇S〇2 + PoSoiMjP0 (40) 於方程式(40)之第二項中有使用一置換矩陣之一乘算後 情沉。以DC+2AC使之近似於方程式(40)之第一項需要9次 乘算,但使用一種自表4計算以DC+2AC近似此方程式第二 項之較佳方法可以5次乘算而完成。與方程式(39)相較,需 -34- __________ 本紙张尺度適用中國國家標準(CNS ) A4規格(2]0x 297公f ) --- -------K _I _ 1— T _ n I 1 I— n I * 4 、T (請先閱讀背面之注意事項再填寫本頁) A7 421758 _______B7 _ 五、發明説明(32 ) (請先閱讀背面之注意事項再填寫本頁) 要3次額外加法演算以計算。但是由於有4項爲零值 (見表4),故可節省4次加法演算,結果節省4次乘法及1次 加法演算操作。此較佳具體實例可以一單獨步驟計算QM*> + QMl共同之貢獻,與此相較則係以二分別步驟(即單獨計算 qM〇及計算此貢獻β此增益獲自以置換矩陣表示qM〇 + QM〗及獲自因之如表4所提示之乘算次數之減少a 同樣,當二下部主塊M2及M3以相同格式編碼時,用於預 測QM2 + QM3之方程式可以同樣方式重寫’因而節省同樣數 量之計算。在此種情況下,可使用S2】=S3I& P2 = p3之事 實。 當垂直相鄰主塊以相同格式編碼時,可獲致相同之節 省。然而,計算之節省係決定於主塊之預測模式及編碼格 式。舉例而s ,當二主塊及係以同樣格式編碼時,則 可有= IV及 qM〇 + qM2 = p〇s〇]M〇s〇2 + p2s2iM3S22 =P〇SOI(M〇 - M2)S〇2 + P〇XM2S〇2 » (41) 經漭部中决粽準局貞工消貧合作社印裝 式中X = Sw+S:^。需注意在基於框之MC及非交錯主塊之情 況下,P〇-I及X爲一置換矩陣,因而產生有如水平相郝情 況下之同樣節省。一般言之,如果具有交錯之主塊,X將 不會爲一置換矩陣。 (ii)全部四主塊均有相同編碼格式 當全部四主塊均以相同格式編碼時,一較佳表示q之方 式為 -35 本紙伕尺度適用中國國家標準(CNS } Λ4規格(2丨0X 297公f A7 421758 _________ B7_ 五、發明説明(33 )
Q t=o - .___5i___ ^ 、. =ΆΛΐ(入ί〇 — —別2 + A43)S〇2 +凡知(人—別3)户0 + _Ζκ 人^ 〜別必们 +7^01/。 (42) 於方程式(42)中有二項係包括蓋換矩陣ρ〇。因此以 DC+2AC近似於Q可以28(=9+9+5+5)次乘法演算計算。其亦 需要9次額外之加法演算以計算Hi = ·Μι -別3,馬=別2 -別3及 Μί-私-如8次加法演算因零係數而得節省。此表示節省 8次乘法演算及需要加寿一次加法演算。方程式(42)中之各 項亦將其標記爲Ζ,,Ζ2,义3及24。此等標記亦將於方程式 (47) ’方程式(4S)及方程式(49)中引用,及圖16至23中引 用’用以説明以快速方法於同一巨塊中就4塊實施DCT域反 運動補償。 基於巨塊之預測:重新使用中間計算 在很多情況下,一组相鄰之目標塊係使用同一運動向量 予以預測。例如,一巨塊中之4個8X8亮度資料塊(或在 CHROMA 444)中之彩色資料塊)係共用場及框預測二者之 同一運動向量5於CHROMA 422中,二垂直相鄰之彩色塊 共用同一運動向量。在此種情沉下,此同一主塊可在橫過 多個目標塊之情沉下被共用。此即意指在預測多目標塊方 面可能有共用資訊。於後文之説明中將對塊之間之共用資 訊納入考慮而説明由4個8 X 8塊组成之一 16X 16之巨塊之 DCT反運動補償之較佳具體實例及證明所獲致之速度之提 高3其他相似情況即可以此類推? ________-36- 本紙乐尺度適用中國國家標隼(CNS ) A4规格(210X297公釐} ---^---N1----装-------訂------良 (請先W讀背面之注意事項再填穷本頁) 經濟部中央標翠局負工消費合作社印聚 經满部中央標準局貝工消費合作社印製 4 2 17^¾ a? B7___ 五、發明説明(34 ) 圖1 0顯示對於一 16 X 16巨塊Q之預測。4個8 X 8目標塊 QM 1005,QN 1010,QT 1015,及 QlM〇20 t 之每一目標塊分別 由4主塊Μ,,Ν,·,Τί,及Ui,i=0,1 ’ 2 ’ 3預測。爲能預測每一 目標塊(1005,1010,1015,1020) ’ 4提出貢獻之主塊之DCT 域値需予以計算及相加。但是需注意4目標塊之蕷測係彼 此緊密關聯,而無需單獨計算。現考慮以下之二項觀察所 得。 首先,雖然總共有16個提出貢獻之主塊,但僅有9個不同 之主塊及其中5塊係由多重目標塊所共用,因爲此等目標 塊屬於同一巨塊及使用同一運動向量予以預測。舉例而 言,目標塊QM 1005及<^ 1010共用二主塊,即Μ, = N〇及M3 = N2。同樣,QM J〇〇5及QT 1015 共用 M2 = T〇及M3 = T,等。其 次,於主塊中每一提出貢獻之次塊之垂直及水平位移橫過 4 目標塊 ’ QM 1005,QN 1010,QT 1015,及Qu 1020之距離相 同。此即 wM| = wN* = wT| = wulliM! = hNi = hTi = liUi< 而 〇 si <3, 式中由主塊對W及h所作上標(例如wMihMi)係表示由與每一 主塊相關之運動向量所造成之水平及垂直位移。 (i)二相鄰區域之貢獻之計算 當分別疋主塊具有相同主塊時’首先考慮有如圖丨〇及Η 中所示之二水平相鄱目標塊1〇〇5及}〇1〇之上部區域 1115 <預測。自圖丨2以後,僅例示提出贡獻之子塊之運動 及相加演算’且假定彼等以非交錯格式編碼,亦即對於一 般以PyYLZ表示之提出貢獻之子塊之運動,爲簡明計對於匕 之效果係予以忽略不計,其中Y爲Sil形式或x , L爲—主塊 __ -37- 本紙張尺度適财( CNS ) Α4·_⑺以职公楚)-1 --------- „ Γ----^ -------—訂 (請先閱讀背面之注意事項再填寫本頁) 421758 A7 B7 經濟部中央標卑局貝工消f合作杜印製 五、發明説明(35 ) (例如M〇)或主塊之_组合(例如,Μ〇 - Μι),及Z爲Sj2或P0形 式。但如果提出貢獻之子塊以交錯格式编碼時,則其情況 相同。 圖12中顯示蠻力算法(先前技術)。子塊A,B,C及D中 之每一子塊分別於DCT域中處理,A及C分別自!^及叫之右 下方角隅移至中間塊1220及1225之左上方角隅,B及D分別 自及N】之左下方角隅移至中間塊1230及1235之右上 方角隅。中間塊之其餘係數設定爲零(中間塊1220 , 1225, 123〇及1235之白色空間)。用.於預先及事後乘算以使塊移動 之矩陣8(^亦示於圖12中。在此種移動之後,包括A及B之中 間塊係相加在一起及包括C及D之塊亦相加在一起以產生框 内編碼之目標塊1005A及1010A之上部區域(1105及1110)。根 據此種方法,需要4對矩陣預先及事後乘算》 但是本發明顥示一種用於計算目標塊上部區域1105及 1110之貢獻之具體實例,此計算係將橫過三提出貢獻之框 内編碼主塊M0,MfN。)及Ni之共用資訊(B及C )納入考慮、 由本發明所處理之資訊之共用情況例示於圖丨3中及此處理 過程之流程圖示於圖14中。根據此較佳具體實例,無需分 別將子塊A,B,C及D中每一子塊予以移動,而係將每一 對相鄰之框内编碼主塊(,Ml對及,仏對)有如圖〗4中 明確説明者首先彼此相減(13〇2,1402)。於1403中,獲自 1402中塊相減之右下方子塊a-C使之移至左上方角隅,且於 1404中獲自1402中塊相減之左下方子塊D-B使之移至右上方 角隅。用於此移動之矩陣示於圖Π中並且與用於圖〗1中者 -38- 本紙張尺度適用中國國家標準(CNS ) Λ4規格(210X297公釐) (請先閲讀背面之注意事項再填WT本頁) 訂 A7 421758 __ B7 五、發明説明(36 ) (請先閱讀背#之注意事碩再填寫本頁} 相同。一重要區別(1404)爲同時分別將位於左下角之子塊B 及位於右下角之C分別移至右上方及左上方。此種移動可 由一預先及事後乘算:說明,式中P〇(w)界定 於方程式(37)中。此結果再度相加(1306,1406)以產生有如 1^(13〇5八)及L2(l3l〇A)之結果。根據此較诖具禮實例,相較 於使用4對圖12中之蠻力算法,此實例僅需要3對矩陣預先 及事後乘算。 根據先前技術,係將框内编碼共用主塊之共用資訊(即提 出貢獻之子塊B及C )分開成4中間塊,而本發明則係使共用 之資訊(子塊B及C )置於每一「非共用J框内主塊中,然後 提出貢獻之子塊(B及C)之位置在框内共用主塊中反轉,如 此中間塊之分別對之相加係於框内編碼目標塊(例如 1305Α=1〇〇5Α及131〇A=1010A)之同樣上部區域(分別爲11〇5 及1H0)中產生(1305A及1310A) >但是此工作係以少於25% 之使子塊(A,B,C,D )移動之矩陣乘算情沉下完成。此 外’僅使用3中間塊。 於後文中將就圖14中之流程圖作更確實之解説^需注意 方程式(40)界定步驟1402,1404及1406。方程式(40)可重新 寫成: 經濟部中央標準局貝工消費合作社印製 qMo+qA 二 p〇Sw(Mi —M〇)s;2+p〇s〇,MnP〇, (43) 因而可將相對應之目標塊QN之方程式寫成: QN〇-f q^i = P0S〇i(N1-N〇)S12+P()S〇1N(,P0 ^ (44) 此方程式界定步驟1402 , 1404及1406。可注意到方程式(44) 之第二項之DCT域傻,即,凡&从Ρ〇業經使用方程式(40)而 _ -39- 本紙張尺度適用中國國家榡準(CNS ) Λ4規格(210X297公釐} 經潴部中央標隼局員工消費合作社印裝 42175 8 A7 ______B7__ 五、發明説明(37 ) 當作尸。計算。此爲共用子塊B及C之移位1404及調 換14〇4。僅有-蚪)和(成對減法演算及移動)需要另 外之計算以獲致^。有關產生DC+2AC近似方面則需 要9次另外之乘算。由於方程式(43)需要14次乘算,逐需要
總共23(=14+9)次乘算以構造炉。+ <?私及炉。+炉i之DC+2AC 之近似。 根據此項揭示,可將同樣新穎步驟應用於任何三個相鄰 之框内編碼主塊(亦即水平,垂直及對角線相鄰框内編碼主 塊)°更確切言之,炉。+和:及15¾ +炉之預測爲 qM〇 + qM2= p〇s〇iM〇s〇2 + p〇s21m2S22 = P〇(S01M〇 + S21M2)S〇2 =P〇(S〇iM〇 + (X - S01)M2)S〇2= P〇S0i(M〇 - M2)S〇2 + P〇XM2S〇2 (45) 同樣 QT〇 + qt2 = p〇s22(i2 - T〇)S〇2 + = (46) 由於M2= T〇,二方程式之第二項爲相同。可發現無論x 是否爲置換矩陣,此情況均爲眞實。在此種情況下,預測 二區域之乘算總數爲27(=9+9+9)。在框預測及主塊非交錯 情沉,此總數變爲23(=9+5 + 9)。 (ii)二相鄰塊之預測 現將説明使用本發明利用三個或更多個(例如6個)主塊 (於本發明中爲,Μ!,N!,M2,M3及N3)以將二相鄰框際編 碼目標塊(例如1005及10 10)轉換爲二相鄰框内编碼目標塊 (1005A及 1010A)。 於圖15中,首先安排用於圖16 t之符號表示。此等符號 表示有如圖10中之同樣配置,連同有如圖中所示之提出貢 _ -40- 本紙张尺度適用中國國家掠率(CNS ) Λ4規格(210X29"?公釐) ^^^1 ]fi— ιϋ^ϋ 1---- 一 .、 _ I ,T (請先閱讀背面之注意事項再填寫本頁j 421758 A7 _______ B7 _ 五、.發明説明(38 ) 經濟部中央標隼局員工消費合作社印聚 1^— 丁 、ye (請先閲讀背面之注意事項再填窍本頁) 獻之子塊八彳。主塊]\4()及%係經標示並經於151〇组合成\{0-。根據符號表示,自Mu所劃之實線係指所取之Mu未經任 何修改,而自所刻之虚線係指所取之叫爲-Μι,亦即取% 之負値。如前述,矩陣預先及事後乘算使相加後之塊-“】移位之效應係由二矩陣&及$似説明。圖16例示有如方程 式(42)中所説明之主塊组合及移動之效應β子塊a,b , C,D,E,F,G,I,J及K對於數値提出貫獻。塊組合 (1605-1607)及移動(16I5U618)之效應,導致如圖16及方程 式(42)所標示產生中間塊,Z2,Z3及24。子塊之组合及移 動與圖13中所説明者相同。更具體言之,得自分別之相鄰 之主塊(Μ〇,Μ】’ M2及M3)之提出贡歎之子塊A,C,I及K係 於1605中组合及於1615使之移動,如此中間塊A包含共用 資訊A-C-I + K,此資訊於1615移位至中間塊I之左角。得 自相鄰之主塊(M〇 ’ M.〇之提出贡獻之子塊B,C,J及K係於 1606組合及於1616使之移動,如此中間塊z2包含共用資訊C -K,此資訊於1616移位至Z2之左上角及資訊B-J於1616同 時移位至I之右上角。以同樣方式,得自相鄰之主塊(M# Μ;)之提出貢獻之子塊E,G,I及K係於1607组合及於16Π 使之移動,如此中間塊Z3包括共用資訊I - K,此資訊於 1617移位至Zj之左上角及資訊E-G於1617同時移位至之左 下角。最後,得自主塊M3之提出贡獻之子塊(},f,k及J於 1618组合’如此中間塊24包含〇,戶,1<:及1,但自左至右,自 下部至上部,自M.d Z4移位。 於圖! 7中,Ζ!至Zj係相加,在一起以產生QM。於圓! 8中,顯 -41 - 本紙伕尺度適用中國®家標準(CNS ) A4規格(210X297公釐) 經濟部中央標準局貝工消費合作社印裝 421758 A7 B7 五、發明説明(39 ) 示塊之組合及移位以產生相鄰目標塊QN。於此圖中,塊之 組合及移動與圖16中者相似。此外,Z2及艺4可由圖16重複使 用及此二塊係另外加一圓圈標示。此種共用型式再度類似 於圖12中所例示者。於圖19中,結果使之相加以獲致。 由於圖16及18中子塊之组合及相加以產生新框内编碼目標 碼QM〗005&QN 1010,因此可能僅需要6對預先及事後乘 算,此係因爲使用共用資訊之故,如果每一提出貫獻之子 塊均經分別處理,則需要8對預先及事後矩陣乘算。 對於圖16至19之一更確切之解説爲方程式(42)及方程式 (47),此方程式如下式所示: ι=0
Zi 2h_ =P〇<S〇l(-A/i ' Λ^ο — Λ/3 + Λ^)<5ΐ2 + V〇Sqi{Mo ^2)Ρ° + A Zi V〇X(M3 - M2)Sn + V〇XM2P° (47) 由於N0 = MAN2 = M3,方程式(47)之第二项(Z2)及第四項 (Z4)與方程式(42)中者相同及可予以重新使用。因此,對應 於第一及第三項之A = -此+死)6^2及 23 = τνφ^-#2於2逐需另行計算Μ資訊之共用類似於圖13中 所示者’例外之處爲在現在之情沉係考慮全部4子塊,而 非於每一塊中僅考慮2子塊。構造及之pC+2> G近似 算法之乘算總數現變爲46卜9+5+9+5+9+9)。用於框預測之 乘算現變爲 35(=9+5+5+2+9+5)。 (iii)整個巨塊之預測 當所有主塊對於一巨塊中之4目標塊言均屬於相同格式時, -42- 本紙張尺度適用中國國家標準(CNS ) A4規格(210X297公势) (請先閲讀背面之注意事項再填寫本頁j
經濟部中央標準局員工消費合作社印« 42175 8 Α7 Β7 五、發明説明(如) 即可應用相同觀念以節省計算。現假$QM 1005及QN】0〗0之 框内编碼DCT表示業已根據由方程式(42;)及(47)及圖16至19 有關共用之資訊而計算,即可進一步使用此共用之資訊以 計算 QT 1015 及Qu 1020 〇 圓20中示出塊之纽合及移位以產生QT。此外。4中間塊中 之2塊(圖16中之Z3&Z4)可被重新使用。圖22顯示塊之蚯合 及移位。於此圖中,4中間塊中之3塊可被重新使用(囷20 中之Z8,圖18中之Z6及圖16中之Ζ4) β其淨效應爲對此較佳 具體實例言僅需要9對預先及事後矩陣乘算,與此相較如 果塊QM,QN,QT&QU中每一塊均需分別處理,貝1(需16對預 先及事後矩陣乘算。 對於圖20至23之一更確切之解説如下列,QT&QU可寫作: ,_5!_. .. -.-¾__„ Q7 = v〇s2i{% - r3 - r〇 + τ〇502 + v〇s2i(r3 - τ^ρ0 + Ζ3 7^〇又(別2 —別 3)S〇2 + (48) z9 __ 7^0^21(¼ — + Wo)^12 ~Η ^0^21(^3 ^ι)Ρ°
_2$_ ZJ + 巧)·^人户0 (49) 在DC+2AC近似算法方面,業已示出及ί^可以46次 乘法演算計算(或對於框預測及非交錯主塊情況言則爲35 次)。由於方程式(48)中二新項包括一置換矩陣,之 DC+2AC近似算法可僅使用14(=9+5)次乘法演算。對於δ2 之DC+2AC近似演算而言,對於第1項僅需9次額外乘法演 算。因此,對於整個巨塊$ DC+2AC近似算法而言,係使用 *43- 本紙張尺度適用中國國家榇举-(CNS ) Α4規格(210X297公资) ---:---Ϊ-----表-- f (請先閱讀背面.s-'/i意事項再填巧本頁j 訂 經濟部中央標準局貝工消費合作社印聚 42175 8_ b7____ 五、發明説明(41 ) 69次乘法演算(在框預測及非交錯主塊方面爲58次),結果 每一塊爲17.25(14.5)次乘法演算。此快速方程式(31)計算之 較佳具體實例較之需要36次乘法演算之方法,在乘法演算 之數目方面產生約50%(或60%)之改進。 節省影像之應用 使用本發明自壓縮之視頻中取出之節省影像組可進一步 供視頻劉覽使用。使用節省影像之瀏覽技術之一實例可見 於「有關MPEG壓縮視頻之微觀瀏覽」(此文獻係由B.L. Yeo於199?年於IBM T.J. Watson研究中心,技術報告 RC20841中提出)。由於每一節省之影像之尺寸相較於全部 框及經壓縮視頻本身爲很小,例如,具有4.0百萬位元/秒 及708 x 480之空間解像度编碼之一 MPEG-2視頻之DC影像之 尺寸爲88 X 60及僅佔有約〇.2百萬位元/秒。此组DC影像或 一子集DC影像可在不使用太多頻帶寬之情況下自一服務站 發送至一客户以供快速瀏覽之用5此DC影像可進一步壓缩 以減少位元率。 於瀏覽時,節省之影像可於圖形顯示器(例如圖2之200逐 一回放。顯示器238可爲電視或電腦監視器238。由於無需 實施在計算上昂貴之解壓縮工作,DC影像可以較即時更快 之速度回放,,亦即對3〇框/秒視頻而言,此組DC影像可以 較30框/秒更快速度回放。此種功能性可使用户快速瀏覽視 頻内容。此外可随機接達視頻之其他部分^當有壓縮視頻 時,隨機接達遠較困難及費時。節省影像亦可用作進入個 別視頻圖塊之索引。索引可目視以致使用者可藉看到所選 _ -44- 本纸張尺度適用中國國家^隼(CNS ) A4規格(21〇·〆297公釐) !| I -- ·----- HI I ! -- —I. '''尽 1— 1— (讀先閱讀背面之泣意事項#填寫本页) 订 經满部中央標準局貝工消资合作社印製
d2175 B A7 ______ B7 五、發明説明(42 ) ' 擇4影像(洌如,每一次拍攝~影像)而導航至個別之拍 攝。此等索引亦可用作以影像爲主之比對。 圓24爲用於顯示節約影像序列之電視之方塊圖3顯示幕 由顯示主要TV節目(2405)之部分連同一個或數個顯示節省 影像序列之窗(2402,2403)組成。於機頂匣24〇1中,可置放 有正規之MPEG-2解碼器用以將主要電視節目之原有尺寸之 顯示解碼。此外’機顶匣2401亦可包括一個或數個自 MPEG-2視頻取出知省影像之装置(處理,3 及no) Q此 節省影像取出器此時可用以顯示同—電視節目之多個鏡頸 所攝之景物(例如’由不同之攝影機對同一運動節目所攝之 景物)或同時顯示可能來自不同頻道之不同節目β控制按扭 2404可用以(例如經由遙控)開啓或關斷其他節目之節省影 像之顯示或轉換至不同節目使其顯示於額外之窗(例如24〇2 及2403)中。機頂匣中之節省影像取出裝置較之完全MpEG_ 2編碼器在成本上遠爲低廉,因此加添數個取出器不會大幅 增加機頂匣之成本,但可對觀賞者提供較佳之電视觀賞及 頻道探尋經驗。 如果相當於本文所揭示之代替性具體實例對於熟諳本行 技術者爲顯然易見,此等具體實例亦屬於本案發明人之設 想範圍内。 -45 - 本紙乐尺度適财翻家梯準(CNS ) ( 210X 297公瘦) (請先聞讀背面之注意事項再填寫本頁) -I -" 丁
Claims (1)
- 經濟部中央標準局貝工消費合作社印製 42175 8 、个 韶 C3 __________ D8 六' 申請專ίϊϊϊί ^ 〜' ^ —~ L 援交錯框編碼之運動補憤壓縮格式之空 間節省影像序列之系統,包括: -運動補償視頻框之序列,每—框有多個像素,該序 列由—位元流界定及儲存於一記憶器中,每一框以一框 内格式編碼及有一個或多個框内編碼塊’編碼塊中包含 ’國頻率成分,此等頻率成分由框中像素之離散餘弦變 換(DCT)而產生; —由一處理器所執行之取出器,此取出器檢查位元流 及自一個或多個框内编碼塊選出頻率成分之子集;及 —由該處理器執行之構造器,此構造器於該子集中產 生頻率成分之组合,以於一第二序列中構造一個或多個 2間節省之影像,每一空間節省之影像具有多個第二像 素° 2. 如申請專利範圍第1項之系統,其中—個或多個第二像 素係使用一個或多個枢内编碼塊中之—DC及一個或多 個AC頻率成分之一加權線性组合而產生α 3. 如申請專利範圍第2項之系統,其中AC頻率成分爲AC01 及AC 10頻率成分。 4·如申請專利範圍第2項之系統,其中一個或多個框内編 碼塊具有一場編碼與一框編碼中之一之编碼。 5_如申請專利範園第4項之系統,其中一個或多個加權線 性組合之加權値決定於包含頻率成分之框内編碼之巨填 是否爲枢編碼或場編碼。 6_如申請專利範園第2項之系统,其中空間節省影像爲DC -46- 本紙張尺度適用中國國家標準(CNS ) A4現格(210X297公董T I -I— m —rin 1^1 il n^i In HI ϋ. I (請先閲讀背面之注意事項再填寫本頁) 訂 7 5 8 經濟部中央梯準局負工消費合作社印繁 AS B8 C8 D8 六、申讀專利範圍 影像。 7.如申請專利範圍第2項之系統,其中空間節省影像爲 DC+2AC影像 ^ S, —種用以於支援交錯框編碼之一運動補償壓縮格式中取 出空間節省影像序列之系统,包括: 一運動補償壓縮視頻框之序列,每一框有多個像素, 該序列由一位元流界定及儲存於一記憶器中,每—框以 一框際格式與一框内格式中之—編碼’以框際格式編碼 心.-框有一個或多個框際编碼塊,每一框際編碼使用相對 於一個或多個麥考框之運魴補償資訊及使用相對於其本 身及一個或多個參考框之軻餘而编碼,及每一框内编碼 框包括一個或多個由框中像素之離散餘弦變換(DC 丁)所 產生之頻率成分; 一由一處理器執行之取出器/此取出器檢查位元流及 自一個或數個框際編碼塊中選出運動補償資訊及另外自 値或數個框内編碼塊中選出頻率成分之子集,此取出 器使用位凡流中之標題資訊以識別框際編碼及框内編碼 塊;及 由涊處理器執行之構造器,該構造器使用所選之運 =償資訊以決定如何於子集中產生頻率成分之組合而 万;第一序列中構造—個或多個空間節省影像,每一空間 節省影像具有多個第二像素。 9.如申叫專利範圍第8項之系統,其中空間節省影像爲沉 影像θ (請先閲讀背面之注意事項再填寫本頁)8 8 B 8 ABCD 421755 A、申請專利範圍 ίο.如申請專利範園第s項之系統’其中空間節省影像爲 DC+2AC影像。 (諳先閲讀背面之注意事項再填寫本頁} II·如申請專利範圍第8項之系統,其中一個或多個第二像 素係使用一個或多個參考框中一個或多個提出貢獻之主 塊之一DC及一個或多個AC頻率成分之一加權線性组 合,而自框際編碼框中之一產生,每一提出貢獻之主塊 倮由框際组編碼塊中之一之一個或多個運動向量決定, 運動向量爲經選出之運動補償資訊之一部分。 12.如申請專利範圍第^項之系統,其中每一框際編碼框可 在經選出之運動補償資訊爲基於場或基於框之運動補償 之情況產生。 13‘如申請專利範圍第12項之系統,其中在參考框中之提出 貢獻之主塊可爲框或場編碼。 14·如申請專利範圍第U項之系統,其中加權之線性組合之 加權値可由下述一項或多項決定: (a)框際編碼塊之一個或多個運動向量; 0>)提由貫獻之主塊中頻率成分之數目; (c) 經選出之運動補償資訊:及 經濟部中央標隼局員工消費合作社印装 (d) 參考框中提出貢獻之主塊爲框编碼或場編构, 15·如申請專利範園第i丨項之系統,其中ac頻率成分爲 AC01及AC10頻率成分。 16.如申請專利範圍第1項之系統,其中空間節省影像序列 係經由一網路而發出^ 17·如中請專利範園第1项之系統,其中空間節省影像序列 -48 - 本紙張尺度通用帽固家襟準(CNS )祕植(2獻加公着) 42 175 8 ABCD 六、申請專利範圍 係經麼縮", 18. 如申請專利範園第1項之系統,其中空間節省影像序列 係以圖形顯示器之視見之系列播出。 19. 如申請專利範圍第1S項之系統,其中圖形顯示器爲一電 20. 如申請專利範圍第1S项之系統,其中節省影像序列中之 一個或多個節省影像係供瀏覽。 21. 如申請專利範園第18項之系碑,其中節省影像序列中之 一個或多個部省影像係供索引。 (請先閲讀背面之注意事項再填寫本頁) 經濟部中央標率局員工消費合作社印製 -49- 本紙張尺度適用中國國家揉準(CNS ) A4規格(210X297公釐)
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US08/873,669 US6108448A (en) | 1997-06-12 | 1997-06-12 | System and method for extracting spatially reduced image sequences in a motion compensated compressed format |
Publications (1)
Publication Number | Publication Date |
---|---|
TW421758B true TW421758B (en) | 2001-02-11 |
Family
ID=25362099
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
TW087102569A TW421758B (en) | 1997-06-12 | 1998-02-23 | System and method for extracting spatially reduced image sequences in a motion compensated compressed format |
Country Status (5)
Country | Link |
---|---|
US (1) | US6108448A (zh) |
JP (1) | JP3177213B2 (zh) |
KR (1) | KR100309721B1 (zh) |
SG (1) | SG87000A1 (zh) |
TW (1) | TW421758B (zh) |
Families Citing this family (29)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7301748B2 (en) | 1997-04-08 | 2007-11-27 | Anthony Anthony A | Universal energy conditioning interposer with circuit architecture |
US9054094B2 (en) | 1997-04-08 | 2015-06-09 | X2Y Attenuators, Llc | Energy conditioning circuit arrangement for integrated circuit |
US7321485B2 (en) | 1997-04-08 | 2008-01-22 | X2Y Attenuators, Llc | Arrangement for energy conditioning |
US7336468B2 (en) | 1997-04-08 | 2008-02-26 | X2Y Attenuators, Llc | Arrangement for energy conditioning |
US6445828B1 (en) * | 1998-09-28 | 2002-09-03 | Thomson Licensing S.A. | Transform domain resizing of an image compressed with field encoded blocks |
US6618507B1 (en) * | 1999-01-25 | 2003-09-09 | Mitsubishi Electric Research Laboratories, Inc | Methods of feature extraction of video sequences |
US7383504B1 (en) * | 1999-08-30 | 2008-06-03 | Mitsubishi Electric Research Laboratories | Method for representing and comparing multimedia content according to rank |
US6608867B2 (en) | 2001-03-30 | 2003-08-19 | Koninklijke Philips Electronics N.V. | Detection and proper scaling of interlaced moving areas in MPEG-2 compressed video |
US6956902B2 (en) * | 2001-10-11 | 2005-10-18 | Hewlett-Packard Development Company, L.P. | Method and apparatus for a multi-user video navigation system |
US6990146B2 (en) * | 2001-11-16 | 2006-01-24 | Koninklijke Philips Electronics N.V. | Method and system for detecting intra-coded pictures and for extracting intra DCT precision and macroblock-level coding parameters from uncompressed digital video |
US7263660B2 (en) * | 2002-03-29 | 2007-08-28 | Microsoft Corporation | System and method for producing a video skim |
US7386048B2 (en) | 2002-05-28 | 2008-06-10 | Sharp Laboratories Of America, Inc. | Methods and systems for image intra-prediction mode organization |
US7921445B2 (en) * | 2002-06-06 | 2011-04-05 | International Business Machines Corporation | Audio/video speedup system and method in a server-client streaming architecture |
KR100472476B1 (ko) * | 2002-08-31 | 2005-03-10 | 삼성전자주식회사 | 움직임 보상을 위한 보간 방법 및 그 장치 |
US7653133B2 (en) * | 2003-06-10 | 2010-01-26 | Rensselaer Polytechnic Institute (Rpi) | Overlapped block motion compression for variable size blocks in the context of MCTF scalable video coders |
US8107535B2 (en) * | 2003-06-10 | 2012-01-31 | Rensselaer Polytechnic Institute (Rpi) | Method and apparatus for scalable motion vector coding |
WO2004111789A2 (en) * | 2003-06-10 | 2004-12-23 | Rensselaer Polytechnic Institute | A method for processing i-blocks used with motion compensated temporal filtering |
US7623574B2 (en) * | 2003-09-07 | 2009-11-24 | Microsoft Corporation | Selecting between dominant and non-dominant motion vector predictor polarities |
US7856054B1 (en) | 2003-11-14 | 2010-12-21 | Apple Inc. | Scene change identification during encoding of compressed video |
CN1890854A (zh) | 2003-12-22 | 2007-01-03 | X2Y艾泰钮埃特有限责任公司 | 内屏蔽式能量调节装置 |
WO2006093831A2 (en) | 2005-03-01 | 2006-09-08 | X2Y Attenuators, Llc | Energy conditioner with tied through electrodes |
WO2006104613A2 (en) | 2005-03-01 | 2006-10-05 | X2Y Attenuators, Llc | Conditioner with coplanar conductors |
KR101390426B1 (ko) | 2006-03-07 | 2014-04-30 | 엑스2와이 어테뉴에이터스, 엘.엘.씨 | 에너지 컨디셔너 구조물들 |
KR101498044B1 (ko) * | 2007-01-10 | 2015-03-05 | 삼성전자주식회사 | 매크로 블럭이 적응적으로 부호화된 압축영상에 대한축소영상 생성방법 및 이를 적용한 영상기기 |
US8358700B2 (en) * | 2008-06-03 | 2013-01-22 | Omnivision Technologies, Inc. | Video coding apparatus and method for supporting arbitrary-sized regions-of-interest |
US8712930B1 (en) | 2010-08-09 | 2014-04-29 | Google Inc. | Encoding digital content based on models for predicting similarity between exemplars |
US20120170653A1 (en) * | 2010-12-30 | 2012-07-05 | General Instrument Corporation | Block based sampling coding systems |
US8515193B1 (en) * | 2011-04-08 | 2013-08-20 | Google Inc. | Image compression using exemplar dictionary based on hierarchical clustering |
US9286653B2 (en) | 2014-08-06 | 2016-03-15 | Google Inc. | System and method for increasing the bit depth of images |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP0665512B1 (en) * | 1994-02-01 | 2000-05-10 | Canon Kabushiki Kaisha | An image processing method and apparatus |
US5845015A (en) * | 1995-10-12 | 1998-12-01 | Sarnoff Corporation | Method and apparatus for resizing images using the discrete cosine transform |
US5832120A (en) * | 1995-12-22 | 1998-11-03 | Cirrus Logic, Inc. | Universal MPEG decoder with scalable picture size |
US5737019A (en) * | 1996-01-29 | 1998-04-07 | Matsushita Electric Corporation Of America | Method and apparatus for changing resolution by direct DCT mapping |
US5933537A (en) * | 1996-07-29 | 1999-08-03 | Polaroid Corporation | Method and apparatus for conversion of frequency-coefficient matrices |
-
1997
- 1997-06-12 US US08/873,669 patent/US6108448A/en not_active Expired - Lifetime
-
1998
- 1998-02-23 TW TW087102569A patent/TW421758B/zh not_active IP Right Cessation
- 1998-05-27 KR KR1019980019207A patent/KR100309721B1/ko not_active IP Right Cessation
- 1998-06-02 JP JP15329598A patent/JP3177213B2/ja not_active Expired - Fee Related
- 1998-06-10 SG SG9801393A patent/SG87000A1/en unknown
Also Published As
Publication number | Publication date |
---|---|
JP3177213B2 (ja) | 2001-06-18 |
KR100309721B1 (ko) | 2001-12-17 |
KR19990006500A (ko) | 1999-01-25 |
SG87000A1 (en) | 2002-03-19 |
JPH1118094A (ja) | 1999-01-22 |
US6108448A (en) | 2000-08-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
TW421758B (en) | System and method for extracting spatially reduced image sequences in a motion compensated compressed format | |
TW443066B (en) | System and method for DCT domain inverse motion compensation using shared information | |
TW406512B (en) | Temporal and spatial scaleable coding for video object planes | |
TWI690201B (zh) | 全方位視訊之解碼方法、編碼方法及電子設備 | |
CN1312934C (zh) | 选择数字视频的编码方式的方法和装置 | |
CN101263718B (zh) | 集成数字译码方法 | |
CN100542282C (zh) | 能够最小化随机存取延迟的视频编码/解码装置及方法 | |
CN105432083A (zh) | 混合向后兼容的信号编码和解码 | |
CN105308966A (zh) | 视频编码方法及其设备以及视频解码方法及其设备 | |
CN100446572C (zh) | 译码数字影像位流所含画面的方法及其数字影像译码系统 | |
CN103026706A (zh) | 用于多层帧兼容视频传输的系统及方法 | |
CN101500116A (zh) | 图像解码设备和图像解码方法 | |
CN106341622B (zh) | 一种多路视频流的编码方法及装置 | |
CN103329534A (zh) | 图像编码装置及图像解码装置 | |
CN104904146A (zh) | Jctvc-l0226:vps和vps_extension更新 | |
CN105052142A (zh) | 仅高级语法shvc中的一般化残余预测及其信令和管理 | |
GB2505169A (en) | Decoding data based on header information | |
JP2009506626A (ja) | 時間的レイヤー化を使ったトリック再生 | |
Song et al. | Fast extraction of spatially reduced image sequences from MPEG-2 compressed video | |
CN106664413A (zh) | 用于补偿亮度差的层间视频编码方法和装置以及视频解码方法和装置 | |
CN107637078A (zh) | 视频译码系统和方法中的残差变换和逆向变换 | |
JP5508024B2 (ja) | ビデオ信号を符号化するための方法及びシステム、符号化されたビデオ信号、並びに、ビデオ信号を復号するための方法及びシステム | |
CN113767625A (zh) | 基于mpm列表的帧内预测方法及其设备 | |
KR100746005B1 (ko) | 다중 목적의 비디오 스트림을 처리하는 장치 및 방법 | |
WO1993013626A1 (en) | Image data coding method, image data decoding method, image data coding device, image data decoding device, and image recording medium |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
GD4A | Issue of patent certificate for granted invention patent | ||
MM4A | Annulment or lapse of patent due to non-payment of fees |