TW201004356A - Video refresh adaptation algorithms responsive to error feedback - Google Patents
Video refresh adaptation algorithms responsive to error feedback Download PDFInfo
- Publication number
- TW201004356A TW201004356A TW098111524A TW98111524A TW201004356A TW 201004356 A TW201004356 A TW 201004356A TW 098111524 A TW098111524 A TW 098111524A TW 98111524 A TW98111524 A TW 98111524A TW 201004356 A TW201004356 A TW 201004356A
- Authority
- TW
- Taiwan
- Prior art keywords
- video
- frame
- packet
- rate
- time
- Prior art date
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/85—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
- H04N19/89—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/103—Selection of coding mode or of prediction mode
- H04N19/107—Selection of coding mode or of prediction mode between spatial and temporal predictive coding, e.g. picture refresh
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/507—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction using conditional replenishment
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/60—Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client
- H04N21/63—Control signaling related to video distribution between client, server and network components; Network processes for video distribution between server and clients or between remote clients, e.g. transmitting basic layer and enhancement layers over different transmission paths, setting up a peer-to-peer communication via Internet between remote STB's; Communication protocols; Addressing
- H04N21/637—Control signals issued by the client directed to the server or network components
- H04N21/6375—Control signals issued by the client directed to the server or network components for requesting retransmission, e.g. of data packets lost or corrupted during transmission from server
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
- H04L47/28—Flow control; Congestion control in relation to timing considerations
- H04L47/283—Flow control; Congestion control in relation to timing considerations in response to processing delays, e.g. caused by jitter or round trip time [RTT]
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Description
201004356 六、發明說明: 【發明所屬之技術領域】 本揭示案係關於視訊資料之編碼及/或解碼。 本申請案主張2008年4月7曰申請之美國臨時申請案第 61/043,005號之權利,該申請案之整個内容係以引用之方 式併入本文中。 【先前技術】 視訊寫碼及壓縮技術可藉由減少圖框序列中之視訊圖框 之間的時間冗餘且亦減少視訊圖框内之空間冗餘而達成有 效壓縮。視訊寫碼及壓縮技術之實例係藉由以下各項進行 描述·· JTU-T H.261、MO、動畫專業團體(MpEG)i、 刪G2及MPEG4標準,以及咖τη·264標準及其對應物 ISO/IECMPEG-4第10部分(亦即,進階視訊W(AV⑶。 經框内寫碼圖框(intra_cod d d irame)為自含式的且減少視 訊圖框内之空間冗餘。然而, ^間冩碼圖框(inter-coded frame)係經由來自其他經耷 冩碼圖框(例如,先前經寫碼圖 框)之運動補償而進行預測以減 4丄、一 崎乂呀間几餘。框間寫碼可 達成咼壓縮效率。然而,圖框 —s π 1 間的框間相依性使經框間 舄碼圖框之經寫碼位元流對… 奵於傳播頻逼錯誤更敏感。 於經壓縮位元流中之錯誤導 " 訊圖框中的錯誤。 V致由視轉碼器所重建之視 框内寫碼可有助於最 此等圖框中之視”料的;=錯誤之可能性’因為 之視訊資料的寫碼。‘:糸獨立於先前或後續圖框中 …而,經框内寫碼圖框可包含比經框 139676.doc 201004356 間寫碼圖框之經寫碼資料多許 此引起傳輸頻寬問題。鈇莫^ 罵馬貝科,且可因 流視訊應用程式進行執 '、在解碼係糟由即時或串 存在品質…此:=:妈視訊輸出側上可能 框内寫_圖框内之個別—資料_Γ:=:)僅 而非框内寫碼所有圖框資料。 °° 框間寫碼圖框(亦即 / 、、、ι預測圖框(p-圖框)或經雙向預
測圖框(B-圖框))内之任何认 又门預 仃、,Ό疋巨集區塊可經框内寫碼為框 内巨集區塊。類似於經框内寫碼圖框,經框内寫碼巨集區 塊係獨立於來自另一(例如,先前)經寫碼圖框之資料而: 寫瑪。迫使巨集區塊經柜内寫碼之方法可被稱為編物 内更新。 【發明内容】 一般而言,本揭示案係關於用於回應於接收到由視訊解 碼器所提供之錯誤反饋而調適性地判定用於更新視訊單元 (例如’圖框)序列内之視訊資料區段(例如’巨集區塊)的 速率的技術。此錯誤反饋可包含封包遺失反饋,其指示視 訊解碼器未能接收到圖框序列之一或多個圖框内的封包。 在一些狀況下,錯誤反饋包含由視訊解碼器所發送之圖 像遺失指示(PLI)訊息及/或通用否定應答(GNACK)訊息。 PLI訊息指示屬於一或多個圖像之未經界定量之經寫碼視 訊資料的遺失,而GNACK訊息可識別已遺失之特定經寫 碼視訊資料封包。 可實施錯誤反饋演算法以基於自視訊解碼器所接收之錯 I39676.doc 201004356 誤反饋而藉由視訊編碼器來設定巨集區塊框内更新速率。 視π '·扁碼為可接著使用此框内更新速率以框内寫碼圖框序 列之每一圖框中的一或多個巨集區塊。 在一恶樣中,一種方法包含··自視訊解碼器接收指示與 經寫碼視訊資料相關聯之錯誤的反饋;及在接收到反饋 後’便判定用於㈣寫碼視訊單元序列内之每一視訊單元 之規定數目之視訊資料區段的速率,纟中一視訊單元内之 視訊資料區段的框内寫碼係獨立於序列内之其他視訊單元 内之視訊資料區段的寫碼。 在心樣中’一種電腦可讀媒體含有用於使一或多個處 理器進行以下操作之指+:自視訊解碼器接收指示與經寫 碼視訊資料相關聯之錯誤的反饋;及在接收到反饋後,便 判定用於框内寫碼視訊單元序列内之每—視訊單元之規定 數目之視訊資料區段的速率,其中一視訊單元内之視訊資 料區段的框内寫碼係獨立於序列内之其他視訊單元内之視
Sfl資料區段的寫碼。 在-態樣中’-種器件包含儲存器件及一或多個處理 一或多個處理器㈣至儲存器件且經組態以進行以下 操作:自視訊解碼器接收指示與經寫碼視訊資料相關聯之 錯,的反饋;及在接收収饋後,便判定用於㈣寫碼視 几早兀序列内之每-視訊單元之規定數目之視訊資料區段 =二…視訊單元内之視訊資料區段的框内寫碼係 、歹,内之其他視訊單元内之視訊資料區段的寫碼。 在-態樣中,-種方法包含:藉由視訊解碼器而備測與 139676.doc 201004356 自視讯編碼器所發送 冩碼視讯貧料相關聯的至少一錯 决,判疋用於視訊解碼 听^裔興視況編碼器之間的資 往返行進時間,·判定視铺μ ^ )貝科柄的 -山、H R解碼益向視訊編碼器最後發送浐 不由視訊解碼器所偵測之先 送時間;比較各前時門…°"的反饋讯息時的最後發 和田/夺間與攻後發送時間及往返行進時間之 土“較’判定是否向視訊編碼 解碼器所镇測之至少一許令㈣c ^^sfl 处 夕錯块的第二反饋訊息。 在一態樣中’ 一種器件包含 之一或多㈣^ 、3料㈣及_至儲存器件 ^ 。一或多個處理器經組態以偵測與自視 机編碼器所發送之經寫碼雜 疋心、、工舄碼視讯貧料相關聯的至少一 判定用於器件盘視%输满# θ 門、別— 編碼&之間的資料通信的往返行進時 ^ 判夂斋件向視訊編碼器最德發详扣- ^ 4發、私不由器件所偵測之 先則錯决的反饋訊息時的最 , 达%間,及比較當前時間 與最後發送時間及往返行進時 可間之和。基於比較,一或多 個處理器經進一步組離、以划—3丈丄、 '夕 ° 疋疋否向視訊編碼器發送指示 件㈣測之至少—錯誤的第二反饋訊息。 本揭示案中所描述之技術可以硬體、軟體、韋刀體或其任 何組合進行實施。若以赴 _ — ' 軟體進仃貫轭,則軟體可在可指代 -或多個處理器之處理器中得以執行,諸如,微處理哭、 特殊應用積體電路(繼)、場可程式化閑陣列(FPGA)或數 位U處理11 (DSP),或其他等效積體或離散邏輯電路。 ^ 3用以執仃該等技術之指令的軟體可最初館存於電腦可 讀媒體中且載入於處理器中且由處理器執行。 因此’本揭示案亦預期包含用以使處理器執行如本揭示 139676.doc 201004356 案中所描述之各種技術中之任一者的指令的# 电月每可言啬士笨 體。在一些狀況下,電腦可讀媒體可形成可 ° 、 及/或用於益件中之電腦程式產品之一部分。带 电腦程式產 品可包括電腦可讀媒體,且在一些狀況下, 〇 ν了包括封裝 一或多個態樣之細節係在隨附圖式及以下描 一 义1· Τ進行闇 述。其他特徵、目標及優點將自描述及圖式且 ^ «q - ^ g 申5埒專利 範圍而為顯而易見的。 【實施方式】 。。圖1為說明經由網路16而通信地耦接至器件(視訊解碼 為)20之貫例器件(視訊編碼器)2的方塊圖。視訊編碼器2及 視訊解碼器20可包含獨立器件,或可為較大系統之二部 刀。舉例而έ,視訊編碼器2及視訊解碼器20中之每一者 可包含以下各項或為以下各項之一部分:無線通信器件 (諸如,⑽行動手機)、數位相機、視訊相機、視訊電 話、數位多媒體播放器、個人數位助理(pAD)'視訊遊: 控制台、個人電腦或膝上型器件,或其他視訊器件。視訊 編瑪=2及視訊解碼器2G亦可各自包括於可用於上文所描 述之-件中之-些或全部中的—或多個積體電路或晶片 内。在-些狀況下’網路16可包含有線或無線網路。在一 心樣中、..罔路16可為私密或公眾(例如,網際網路)網路。 。。為了僅說明及描述起見,器件2被稱為視訊編碼器,且 器件20被稱為視訊解碼器。在以下描述中,各種技術提供 關於在執行編碼(例如’壓縮)之器件與執行解碼(例如,解 139676.doc 201004356
壓縮)之器件之間的資訊交換的細H 編碼器)與器件2〇r滿却初。 益件2(視。fl 地耦;&妙 碼态)經展不為經由網路16而通信 也轉接。然而’應理解’在某些態樣中,器件2及/或科 2〇可執行編碼及/或解碼摔 一 Η “ 為了僅說明目的, 在後續七田述中假設器件2執行少 仃至7視sfl ',扁碼操作且因此被 碼器’㈣件2G執行至少視㈣碼操作且因此 被稱為視訊解碼器。
在-些狀況下,視訊編碼器2及視訊解碼器2〇可各自能 純料種制程式,諸如,圖㈣m視訊應用程 式及/或其他多媒體應用程式。舉例而言,視訊編碼器2及 視机解碼器20可用於圖形應用程式、視訊遊戲應用程式、 視訊回放應用程式、數位相機應用程式、即時訊息傳輸應 用程式、視訊電話會議應用程式、行動應用程式或視訊串 流應用程式。 視訊編碼器2及視訊解碼器2〇可各自能夠處理各種不同 育料類型及格式。舉例而言,其可能能夠處理靜態影像資 料、移動影像(視訊)資料或其他多媒體資料。如以下將更 洋細地描述,視訊編碼器2能夠在框内更新程序期間框内 寫碼視訊單元序列内之一或多個視訊單元(諸如,視訊圖 框)内的一或多個區段(例如,區塊或巨集區塊)或視訊資料 以有助於減少序列内之空間冗餘。經框内寫碼區段為獨立 於來自先前或後續經寫碼視訊單元之視訊資料而經寫碼的 區段。 個別圖框内之任何給定巨集區塊可經框内寫碼為框内巨 139676.doc 201004356 集區塊。類似於經框内寫碼圖框,經框内寫碼巨集區塊係 獨立於來自另一(例如,先前)經寫碼圖框之資料而經寫 碼。迫使巨集區塊經框内寫碼之方法可被稱為編碼器㈣ 更新。巨集區塊經㈣寫碼之速率可被稱為框内更新速 率。可能存在框内更新巨集區塊之各種原目,諸如,由視 訊解碼器20所進行之逆離散餘弦變換(idct)失配控制,及 錯誤回復(error resilience)。 為了(諸士)在H.261及H.263基於區塊之視訊寫媽標準的 情形下控制IDCT失配,影像中之每一巨集區塊位置可在 每傳輸用於彼巨集區塊之係、數的狀次數時經框内寫碼至 少一次。巨集區塊之框内更新可限制歸因於町/耽丁失 配之錯誤傳播範圍。 為了改良錯誤回復’所選擇巨集區塊可經框内寫碼以限 制由使用已歸詩頻道錯誤而經不正確地⑽或隱藏之惡 化巨集區塊引起的錯誤傳播。此等惡化巨集區塊可在解碼 後便為視覺不良的。料1自返回參看惡化Η區塊以 用於時間預測之後續圖框的經正確解碼巨㈣塊亦可為視 ,不良的。此等類型之假影與DCT/IDCU配錯誤相比可 士為更不良的。因❿’其可在經由易出錯頻道而傳達資料 時驅動框内更新策略。 基於自視訊解碼㈣所接收之錯誤(封包遺失)反饋18, 視訊編碼器2能夠動態地調整經框内寫碼區塊之框内更新 速率、。以此方式’視訊編碼器2能夠最佳化至視訊解碼器 2 〇之視訊資料傳輪的品皙 貝且減 >、至視訊解碼器2〇之視訊資 139676.doc 10 201004356 料傳輸中的錯誤數目,仍亦藉由控制隨著時間而發送 二解碼$ 2G之經框内寫碼區塊的數目來管理傳輪頻寬。在 I些態樣中,反饋18可包括㈣與經寫碼視訊資料相關聯 2不:類型之封包錯誤之任何數目的指示,其包括封包遺 失之指不。為了僅說明起見 係關於封包遺失反饋。將在以〜中假設反饋18 =編碼器2包括儲存媒體4、顯示器扣及—或多個處 心。儲存媒體4可包括能夠儲存指令及/或資料之任何 ==揮發:記憶體’諸如,同步動態隨機存取記憶體 ^記憶體(難)、非揮發性隨機存取記憶體 )、嵌入式動態隨機存取記憶體(eDRAM)、靜熊隨 =取記憶體(SRAM)或快閃記憶體。顯示器件12可:能 ° ;、、、了顯不目的而顯示視訊資料之任何器彳,諸如, LCD(液晶顯示器)、《顯示器件或其他電視(TV)顯示哭 2。處理器14可包括-或多個處理器,諸如,圖2之實例 所展不的控制處理器、視訊處理器、圖形處理器及/或 顯示處理器。黏;。上 "…、為件2及處理器14各自能夠自儲存媒體 讀取及向儲存媒體4進行寫入。舉例而言,處理器14 I執订ί自/堵存於儲存媒體4中之—或多個功能模組的指 7此寺拉組可包含經無線動態地下載至儲存媒體4中之 可下載模組。在—態樣中,此等模組中之一或多者可包含 自應用程式開發者所建立之應用程式設計介面(Αρι)指令 所產生或編譯的二進位指令。 圖1展示儲存於儲存媒體4内之三個此等模組之實例,三 139676.doc • 11 - 201004356 個模組中之每一者可包含一或多個指令或程式碼以供執 行、。如在圖i中可見,儲存媒體4儲存用於框内編碼器6、 預測性(框間)編碼器8及速率調適模組1〇之指令。框内編碼 器6能夠在執行後便框内寫碼一或多個視訊單元⑼如,圖 框)内之或多個視訊資料區段(例如’區塊)。由框内編碼 器6所執行之框内寫碼可包含未基於視訊單元序列内之其 他視訊單元内所含有之資料區段之寫碼的獨立寫碼。㈣ 性編碼器8能夠框間寫碼-或多個視訊資料區段以減少跨 越視訊單元之時間冗餘。框㈣碼可實施預㈣技術以^ 於來自先前或後續經寫碼圖框之運動補償而編碼視气資 料。速率調適模組10能夠接收及處理由視訊解石馬器2〇所提 供之封包遺失反饋18 ’以判定(例如,設定、修改)由框内 編碼器6所實施之框内寫碼的速率(或框内更新速率 广然圖i之實例將框内編碼器6、預測性編碼器8及速率 調適模組10展示為儲存於儲存媒體4内且可由處理器⑽ 行之模組,但在其他狀況下,此等模組可實施於硬體内 (諸如,處理器14之硬體内在_些狀況下,處理器听 包括一或多種類型之處理器,諸如,圖2之實例中所展示 的通用微處理器及/或其他類型之處理器。 視訊編碼器2隨著時間而將經寫碼視訊資料發送至視訊 解碼器20以供解碼及顯示。若視訊解碼器2〇判定豆已遺失 -或多個視訊資料封包(諸如,藉由追縱封包序號),則視 訊解碼器20可向視訊編碼器2發送視訊解碼器加遺失經 寫碼視訊資料之指示。在圖1中,此指示包含封包遺失反 139676.doc 201004356 饋18。在一些狀況下,封包遺失反饋18可包括即時控制協 定(RTCP)資料或訊息。舉例而言,封包遺失反饋1 8可包括 各自可識別一或多個封包(諸如,已遺失之封包)之一或多 個通用否定應答(GNACK)訊息。封包遺失反饋18可包括一 或多個圖像遺失指示(PLI)訊息,其通常指示屬於一或多個 圖像之未經界疋里之經馬碼視訊資料的遺失。在一些狀況 下,封包遺失反饋18可包括亦可提供關於封包遺失之資訊
的一或多個即時輸送協定(RTP)訊息,諸如,接收器報告 訊息。 在圖1之實例中,視訊解碼器20包括儲存媒體22、顯示 裔件28及一或多個處理器30。類似於儲存媒體4 ,儲存媒 體22可包括能夠儲存指令及/或資料之任何永久性或揮發 ,記憶體,諸如,同步動態隨機存取記憶體(sdram)、唯 讀記憶體(ROM) 揮發性隨機存取記憶體(nvr綱、鼓 入式動態隨機存取記憶體(eDRAM)'靜態隨機存取記憶體 (SRAM)或快閃記憶體。類似於顯示器件12,顯示器件 可為能夠為了顯示目的而顧 "貝不視汛貢料之任何器件,諸 如,L· C D (液晶顯示器)、雷嗯雜_ 〇。π上a _ ;龟水,‘、、員不盗件或其他電視(TV)顯 示器件。處理器30可句;te__Ϋ ^ 口口 括或多個處理器,諸如,控制處 理器、視訊處理器、圖形處 °。及/或顯不處理1§。顯示 器件28及處理器3〇久白台匕糾ώ b夠自儲存媒體22進行讀取及 存媒體22進行寫入。 用於兩個功能模組之指 )解碼器26。框内解瑪器 如圖1所示,儲存媒體22可包括 令:框内解碼器24及預測性(框間 139676.doc 13 201004356 24能夠解碼及顯示由視訊編碼器2跨越網路“而發送之— 或多個視訊單元(例如,圖框)内所含有的經框内寫碼視訊 資料區段(例如’區塊)。預測性解碼㈣能夠解碼及顯示 由視訊編碼器2所發送之經框間寫碼區段。處理器3〇可執 行此等模組24及26以將視訊資料顯示於顯示器件“上。雖 然圖】之實例將框内解碼器2 4及預測性解碼器2 6展示為儲 存於儲存媒體22内且可由處理器3()執行之模組,但在其他 狀況下”莫組可實施於硬體内(諸如,處理器3〇之硬 體内)。在-些狀況下,處理器3〇可包括_或多種類型之 處理器,諸如,圖2之實例中所展示的通用微處理器及/或 其他類型之處理器。 在一些狀況下,視訊解碼器2〇進一步能夠執行編碼摔 作。在此等狀況下’視訊解碼㈣可包括類似於框内編碼 器6、預測性編碼器8及速率調適模組1〇之模組。在—些狀 況下’視訊編碼器2進-步能夠(諸如)在自器件2〇接枚妹寫 碼視訊資料執行解碼操作(其可執行解碼操作及編碼摔 作兩者)。在此等狀況下,視訊編碼器2可包括類似於框内 解碼器24及預測性解碼器26之模組。 圖2為說明根據一態樣之可包括於圖卜斤示之視訊編碼器 2及/或視訊解碼器20内之實例處理器5〇的方塊圖。當包括 於:見I編碼器2内時’圖2所示之處理器5〇可為處理器“之 邛刀。當包括於視訊解碼器2〇内時,處理器5〇可為處理 器3^ —部分。處理器14及處理器30可各自包括—或多個 處理益’且在-些狀況下’彳包括圖2之實例中所展示之 139676.doc -14- 201004356 處理器中的一或多者。 處理器5〇可包含多個可程式化處理器。如圖2所示,此 等處理器可包括控制或通用處理器52、視訊處理器Μ、圖 形處理器56及顯示處理器58。控制處理器52可能能夠控制 視訊處理器54、形處理器56及顯示處理器58。在—態樣 中,處理器5〇可包括其他形式之多媒體處理器。 視訊處理器54可在視訊編碼及/或解碼操作期間得以利 用’且可實施各種寫碼演算法。舉例而言,在—些狀況 下’視訊處理器54可實施H.261、H 263 '動晝專業團體 (MPEG)l、MPEG2及/或MPEG4視訊寫碼標準,以及 標準及其對應#ISQ/IEC MPEG_4第IG部分(亦即,進階視 訊寫碼(AVC))。視訊處理器54亦可在編碼或解碼視訊^料 時實施-❹個離散餘弦變換(DCT)或逆離散餘 (IDCT)操作。 ' 圖形處理㈣可為心再現、操控及顯示電腦化圖形之 專用圖形再現器件。圖形處理器56可實施各種複雜的圖形 相關演异法。舉例而言,複雜演算法可對應於兩維或 電腦化圖形之表示。s相走挪„ " 〜 ’ 衣不圖形處理态56可實施許多所謂的「美 元」圖形操作’諸如,形成點、線、三角形或其他多: 形’以在绪如顯示器件12或28(圖υ之顯示器上建立複雜的 f維曰影像二顯示處理器58管理像素資料在顯示器件上之顯
丁,4 U牛58可對像素資料執行各種操作,諸如,旋 及/或按比例調整操作。 W 圖3A至圖3F為根據—態樣之說明圖框序列之圖解,其 J39676.doc -15- 201004356 中在序列之每一圖框内某一數目之區塊經框内寫碼。此等 圖解將視訊資料區段展示為區塊(例如,巨集區塊),但可 使用任何大小或形狀之視訊資料區段。區塊可(例如)包含 諸如16x16像素巨集區塊之巨集區塊,或在一些狀況下, 可包含較小子分割區(16χ8、8χ16、8x8、4x8、8x4、 4x4 ’等等)像素區塊。 在圖3A至圖3F之實例中,假設實例圖框序列包括在時 間序列中彼此連續地跟隨之六個圖框。(當然,在其他狀 况或貫例中’圖框序列可包括六個以上圖框。)每一圖框 可包括以不同位置而配置之區塊陣列。圖3A至圖犴中之每 一者為了說明起見而展示此等六個圖框中之一者。視訊編 碼益2(圖1)能夠寫碼(例如,框内寫碼及/或框間寫碼)每一 圖框内之視訊資料區塊且向視訊解碼器2〇發送圖框以供解 碼及顯示。視訊編碼器2可使用其預測性編碼器8來框間寫 碼任何給定圖框内之一或多個視訊資料區塊,且可使用其 框内編碼器6來框内寫碼任何給定圖框内之一或多個視訊 資料區塊。視訊編碼器2可使用其速率調適模組1〇來調整 區塊之框内寫碼速率(亦即,框内更新速率)或每一圖框中 之經框内寫碼區塊的數目。 在圖3A至圖3F中,時間連續圖框中之每一者包括六個 經框内寫碼區塊102。圖3A至圖3F亦描繪尚未經框内寫碼 之區塊1〇〇且亦描繪先前經框内寫碼之區塊1〇4。在一些狀 況下,給定圖框内之未經框内寫碼之任何區塊可能經框間 寫碼。然而,如在圖3A至圖3F之六圖框序列中可見,若無 139676.doc -16- 201004356 區塊、纟二框内寫碼兩次(因為每一區塊可為唯一的,如同此 κ例中之狀況)’則所有區塊將在六圖框序列中經框内寫 碼一次。應注意,在此實例中’相同數目之區塊(六個)在 每一圖框中經框内寫碼,但此不為必要的。每一圖框中之 未經框内寫碼之區塊可能經框間寫碼,且可參考相應最佳 匹配之區塊經框内寫碼或框間寫碼的一或多個圖框。 在圖3A至圖3F中,因為在序列之每一圖框中僅六個區
塊經框内寫碼,所以花費六個圖框來完成整個圖框中之所 有位置處之每一區塊的框内寫碼。然而,假定其他區塊經 框間寫碼’則在圖框之間可能存在互依性,此意謂經寫碼 位元流可對於傳播頻道錯誤敏感,其可導致由視訊解碼器 20所解碼之視訊圖框内的錯誤。增加每一所傳輸圖框中之 經框内寫碼1塊的數目可減少錯t吳及由頻道錯誤所引起之 錯誤傳播。然而,假定多於用於框間寫碼之位元的位元可 用於框内寫碼,則增加每一圖框中之經框内寫碼區塊的數 目亦可增加傳輸頻寬。 因此,視訊編碼器2之速率調適模組1〇可動態地判定或 ㈣由框内編碼器6所執行之框内寫碼的速率。舉例而 § ’速率調適模組1 〇可判定序列中夕立 力疋斤夕j肀之母一圖框之經框内寫 碼區塊的數目,且因此可增加或減 4硪夕此數目,以嘗試平衡 頻寬與錯誤減少參數。如先前所描述,在一些狀況下,、亲 率調適模組1〇可基於自視訊解瑪器所接收之封包遺失^ 饋1 8而判定框内更新速率。皋 —“ 舉例而§,若視訊解碼器20指 示存在顯著量之封包遺失或錯 乂封包适失或錯誤之增 139676.doc 201004356 加’則速率調適模組1 0可判定增加框内更新速率以有助於 減少進一步傳播錯誤之可能性。此將在下文進行更詳細地 描述。 圖4為根據一態樣之說明可由視訊編碼器(諸如,圖1所 不之視訊編碼2)執行以基於所接收錯誤反饋(諸如,錯爷 反饋1 8)而判定用於框内寫碼視訊資料區段之方法的流程 圖。圖4展示可由視訊編碼器實施之高階方法的細節:二 諸如圖5至圖8之後續圖中亦展示各種態樣之其他細節。在 圖4之以下描述中,為了僅說明起見而將假設方法係由視 訊編碼器2執行。 一視訊編碼器2可自視訊解碼器2()接收指示與經寫碼視訊 資料(諸如,可能先前已由視訊編碼器2發送至視訊解碼器 20之經寫碼視訊資料)相關聯之錯誤(例如,資料遺失)的反 饋18(106)。在接收到反饋18後,視訊編碼器2便可判定用 於框内寫碼視訊單元(例如 圖框)序列内之每一視訊單元 之規定數目之視訊資料區段(例如,區塊)的速率,其中一 視訊單元内之視訊資料區段的框内寫碼係獨立於序列内之 其他視訊單元内之視訊資料區段的寫碼(⑽)。視訊編碼器 2可針對多個視訊單元及/或視訊單元序列而重複處理所接 收反饋18及判定用於框内寫碼之速率的動作。 在-些狀況下’自視訊解碼器2G所發送之反饋⑽7 視訊解碼器20所解碼之經寫碼視訊f料之至少一部分^ 失。每-視訊資料區段可包含_或多個視訊資料區塊 視訊單元序列内之每一視訊單元可包含一或多個視訊1 139676.doc -18· 201004356 圖框或片層。一圖框内之視訊資料區塊的框内寫碼可獨立 於序列内之其他圖框内之視訊資料區塊的寫碼。 在一態樣中,反饋18可包含圖像遺失指示(PLI)及通用 否定應答(GNACK)中之至少一者。反饋18可包含指示含有 經寫碼視訊資料之遺失封包之數目的反饋,每一遺失封包 先刖已由視訊編碼器2發送至視訊解碼器2〇,但未被視訊 解碼器2G接收卜在—些狀況下’如下文將進__步詳細地 描述,判定用於框内寫碼之速率可至少部分地基於用於跨 越序列内之一或多個視訊單元而校正錯誤的目標校正時 間。 當反饋18包括指示遺失封包之數目的⑽織時,判定 用於框内寫碼之速率可至少部分地基於遺失封包之數目。 在一狀況下,視矾編碼器2亦可自視訊解碼器2〇接收指 示遺失封包之第二數目的報告。舉例而言,此報告可為由 視訊解碼器20週期性地發送至視訊編碼器乂 一系列 接收報告中的-者。如下文將進—步詳細地描述,在一 態樣中,視訊編瑪器2可基於由⑽似所指示 之數目及由報告所指示之遺失封包之第二數目中的至少一 者Γ計算封^㈣,ρ狀料““之速率传至 少部分地基於封包錯誤率。 、丰係至 於GNACK或報告中之哪—者指示較高量之遺 算封包錯誤率。判定框内肖 ,匕而汁 心々Η馬碼速率可進一步至 於視訊單元序列内之每一視訊單 :刀土 數目。 听3有之封包的估計 139676.doc 】9 201004356 若錯誤反饋18包括GNACK訊息,則GNACK可識別每一 这失封包’且視訊編碼器2可基於當前時間與經識別遺失 封包中之一者先前發送至視訊解碼器20時之時間之間的差 而計算流逝時間,如下文參看圖8而進一步詳細地描述。 視訊編碼器2可至少部分地基於此流逝時間而判定框内寫 碼速率。在一些狀況下,由GNACK所識別之每一遺失封 包具有關聯序號。當將封包自視訊編碼器2發送至視訊解 碼器20時’序號最初可以升序而指派至封包。視訊解碼器 2〇可記住已接收到哪些封包且亦記住此等封包之相應序 號。因此’假設序號係以升序,則由視訊解碼㈣所發送 之GNACK可識別任何遺失封包之序號(或遺失封包之序號 範圍)。 ° 在接收到藉由序號而識別遺失封包之GNack後,視 編碼器2便可計算流逝時間。視訊編碼器2可判定 GNACK所朗之哪―遺失封包具有切具有經框内寫 區段之先前視訊單元序列之第—封包之序號的序號,該 前視訊單元序㈣先前由視訊編碼以發送至視訊解碼 2〇。如參看圖8更詳細地描4 ’視訊編碼器2可接著基於 由視訊編碼器2所維持之當前時間與所判定遺失封包先 自:訊編碼器2發送至視訊解碼器2〇時之時間之間的差 汁鼻流逝時間。視訊編碼器2 — 稭由5己住如藉由序號而 =母—封包料發W解碼㈣㈣行流逝時間 §t异。 如上文所描述, 視訊編碼器2可針對多 個視訊單元序列 139676.doc -20- 201004356 中之每一視訊單元而重複反饋18之接收及用於框内寫碼之 速率之判定。在一些狀況下,如下文進一步詳細地描述, 視訊編碼器2可基於跨越一視訊單元序列内之不同視訊單 7L之所偵測運動量是否超出運動臨限值而判定是否重複所 接收反饋1 8之處理及用於在多個視訊單元序列中進行框内 • 寫碼之速率的判定。在-態樣中,運動臨限值為可調整參 - 數,在一些狀況下,當視訊編碼器2使用框内寫碼視訊資 η ㈣段之較高速率時’可調整參數可藉由視訊編碼器2而 口又疋為較南臨限值。 圖5為根據一態樣之說明用於基於所接收封包遺失資訊 而判定用於框内寫碼視訊資料區塊之框内更新速率之方法 的流程®。雖然圖5之實例提及視訊資料區塊或巨隼區 塊,但各種其他視訊資料區段(大小、形狀)可在各種:他 情境下經框内寫碼。在一態樣中’圖5所示之方法可由視 訊編碼器基於自視訊解碼器2〇所接收之 [; 饋18而執行。 ^各種情境下,視訊編碼器2(且更㈣而言,速率調適 =)可基於所接收封包遺失反饋而判定巨集區塊框内 ’且可使用各種準則或因數來計算框内更新速 率。舉例而言,如將進一步詳細 ’、 在呻I田地“述,視訊編碼器2可 在什异框内更新速率時使用目標校正時間、未 之機率 '所偵測錯誤之數目、運 ,工又錯炔 誤之有限持續時間。 | &使用者感知錯 參看圖5及後續流程圖來描 >数 卜文界定此等 139676.doc 201004356 參數中之一些:
Target_c〇rrection—Time(以秒計):在藉由視訊編碼器2 而偵測到諸如封包遺失之錯誤之後視訊編碼器2必須校正 錯誤所歷時的最大時間量。
Current—Frame—Rate(以每秒圖框計):由視訊編碼器二所 使用之每秒圖框的當前數目。若視訊編碼器2隨著 target_enC—rate(目標編碼速率)參數之改變而使此參2變 化,則速率調適模組10可自來自視訊編碼器2之圖框遞= 而估計此參數。在一些狀況下,視訊編碼器2可向逮率調 適模組10指示Current_Frame_Rate之值。
MaX_Intra—MB—%(0-100%):經框内寫碼巨集區塊之最 大容許百分數。此參數可用以限制視訊品f之降級,因Z 圖框大小可根據資料及圖框速率而為固定的。 (整數):在债測到封包遺失時跨越整個影像 而將執行經全巨集區塊框内更新序列(跨越圖框序列)的次 數。
Intra—MB—No—Loss(0_1〇〇%):在不存在所偵測封包遺 失時經框内寫碼(經更新)巨集區塊的百分數。 mtra—趣―%(0_100%):視訊編碼器2將在每圖框(或片 層)插入之經框内寫碼(經更新)巨集區塊的百分數。
Num—Intra一Frames(整數):視訊編碼器2具有經框内寫碼 (經更新)巨集區塊之圖框的數目。 广卜,以下所展示之各種公式及計算包括Max及Min運 算。假設Max運算選擇集合内之兩個或兩個以上可能值中 139676.doc -22- 201004356 、』取入值,且Min運算選擇集合内之兩個或 值中的最小值。 圖5所不之方法重複地檢查以判定視訊編碼器2是否已自 視訊解碼器20接收到RTCP反饋⑴〇)。在接收到此反饋 後、’視訊編碼器便判定反饋是否指示由視訊編碼器2傳輸 至視訊解碼器2〇之—或多個封包的遺失⑴2)。舉例而言, 由視訊解碼器20發送至視訊編碼器2之封包遺失反饋叫圖
1)可才曰示由視3凡、編碼态所發送之一或多個經寫碼視訊資料 封包的此遺失D 方視訊編碼器2尚未接收到任何封包遺失指示,則其可 使用速率調適模組10來判定或設定巨集區塊之框内更新速 率或百分數(Intra—ΜΒ—%)等於 Intra—MB—%—n〇—L〇ss ’ 其 可包έ可調整參數(11 4)。在一些狀況下,視訊編碼器2可 自動地設定或調整lntra—MB—%_No—Loss。在一些狀況 下,使用者可設定或調整此參數,(諸如)以增加或減少每 一圖框中之經框内寫碼巨集區塊的數目。 然而,若視訊編碼器2已接收到諸如封包遺失反饋丨8之 封包遺失指示’則視訊編碼器2可判定其已接收到GNACK 還是PLI(116)。GNACK可指示已遺失或具有錯誤之一或多 個特定封包。在接收到封包遺失指示後便開始 Intra—refresh 常式(118)。 最初’視訊編碼器2之速率調適模組10可設定 (120)Intra_MB—%等於
Min{Max一Into—MB_%,l〇〇%/(Target—Correction一Time X Current—Frame一Rate)} 〇 139676.doc -23 - 201004356
Max_Intra_MB_% 及 Target—Correction_Time 各自為可耳有 初始預界定值之可调整芩數,其可針對由視訊編碼器2所 執行之特定應用程式或操作而經最佳化。此等參數亦可針 對由視訊編碼器2所執行之不同應用程式(例如,視訊電 δ舌、視afl串流、遊戲)而具有不同值。速率調適模組1 〇在 判定Intra—MB_%之值時使用此等參數中之每一者的值。 在些狀,兄下’如下文將更詳細地描述’速率調適模組 10可實施一或多個可選增強功能(諸如,圖6至圖8所示之 功能)以獲得Intra_MB_%之經修改值(122)。速率調適模組 10請求視訊編碼器2使用Intra_MB_%作為每一圖框中之巨 集區塊的框内更新速率(諸如,藉由執行框内編碼器6及預 測性編碼器8)而開始用於視訊圖框序列之框内更新程序 (124)。視訊編碼器2亦可將Num_Intra_frames之值初始化 為零。接著,藉由視訊編碼器2而提供框内更新程序已開 始之輸入。視訊編碼器2亦指示何時已到達每一視訊圖框 邊界(126)。此可為用以設定RTP中之時戳及/或市場位元 (market bit)之同一指示的一部分。當已到達視訊圖框邊界 日rT ’速率5周適模組10遞增Num」ntra_Fi*anies( 128), Num—Intra—Frames為使用Intra_MB_%之當前值而記住包括 經框内寫碼巨集區塊之視訊圖框之數目的參數。 在每一圖框邊界處,速率調適模組10判定(130)是否 Num_Intra_Frames>=Ceil[ 100%/Intra_MB_°/〇] 〇 若Num_Intra_Frames小於此上限(或最大臨限值),則視訊 編碼器2檢查以判定其是否已自視訊解碼器20接收到另一 139676.doc -24- 201004356 封包遺失指示(13 1)。若否’則視訊編碼器2再次檢查視訊 圖框邊界(126)。然而,若視訊編碼器2已自視訊解碼器2〇 接收到諸如封包遺失反饋18之另一封包遣失指示,則視訊 編碼器2可判定其已接收到GNACK還是PLI(116)。在此狀 況下’視§孔編碼器2接著繼續進行intra—refresh常式(11 8)。 若Num一Intra—Frames大於或等於此上限,則視訊編碼器 2針對全視訊圖框序列内之每一圖框而使用Intra—%之 當前值已向視訊解碼器20發送此序列(藉以每一圖框中之 經指示數目之巨集區塊已經框内寫碼)。速率調適模組1〇 接著執行圖5所示之Repeat_Intra常式(132)。在此常式中, 速率調適模組1〇判定視訊編碼器2已框内更新整個視訊圖 框序列(經框内更新)的次數大於還是等於Intra—Repeat(其 為可具有為二之初始值的另一可調整參數)之值(丨34)。
Intra-Repeat之值可經調整以解決與經框内更新圖框序列 内之一或多個巨集區塊相關聯的可能運動。此運動可潛在 地導致可藉由將視訊序列之框内更新序列重複一或多次而 校正的錯誤。 當已執行(框内更新)完整框内更新序列之次數大於或等 ' a~RePeat之值時’速率調適模組1 〇返回至未彳貞測到 遺失之操作,且設定Intra—MB_%=Intra—MB_%—No_L()SS。 然而’如圖5所示,若經框内更新小於Intra—Repeat之值, 則速率調適模組1〇遞增經框内更新之值(136),且再次針對 後續視讯圖框序列而執行Intra 一 refresh常式(118)。 圖6為可由圖1所示之視訊編碼器2執行以獲得 139676.doc -25- 201004356
Intra—MB—%之經修改值之方法的流程圖。如在圖5中之方 框「Intra—MB—%之可選增強」(122)内所規定, Intra—MB_%之此經修改值可用於圖5之方法内。在一態樣 中,視訊編碼态2可執行圖5所示之方法以計算Intra_MB_0/〇 之初始值,但可接著另外執行圖6所示之方法以判定 Intra—MB—%之經修改值以供在框内寫碼圖框序列之每一視 訊圖框内的巨集區塊時使用。 藉由執行圖6所示之方法,視訊編碼器2可限制在圖框序 列内之一框内更新經框内寫碼巨集區塊序列之後具有未經 校正錯誤之機率。速率調適模組1〇可至少部分地基於在框 内更新序列期間RTP封包遺失速率之估計而判定 Intra—MB一。/。之經修改值,且可利用包括於由視訊解碼器2〇 所提供之RTCP接收器報告内的fracti〇n—1〇st參數,此指示 自發送最後接收器報告起已由視訊解碼器2〇遺失之封包的 分數。 此外,當速率調適模組1〇已自視訊解碼器2〇偵測到大量 錯誤(例如,封包遺失)時,速率調適模組1〇可能能夠增加 Intra—MB—%之值。藉由如此進行,視訊編碼器2可能能夠 更快速地校正可由視訊解碼器20之使用者見到的錯誤(如 顯示於顯示器件28上)。 參看圖6及後續流程圖來描述各種參數。下文界定此等 參數中之一些:
Target_Err—Pr(0-1):在單一框内更新序列(亦即,視訊 圖框序列)之後於影像中仍將存在錯誤的目標機率。在圖6 139676.doc -26- 201004356 之實例中,此參數經設定為高於預期PER(封包錯誤率)乘 每圖框之封包數目。 α (〇-1):用於估計avg_norm_ppf(每圖框之平均正規化封 包)之IIR(無限脈衝回應)濾波器修正因數。視訊編碼器2可 以為0.1之值而開始。 β (0-10):用於判定Intra_MB—%之調諧因數。視訊編碼 器2可以為1 · 0之值而開始。 PER(〇-l): #包錯誤率,其可經設定為等於來自自視訊 解碼器20所接收之最近RTCp接收器報告的^Η〇η !⑽參 數。 avg—norm—ppf(實數):每圖框之平均「正規化」封包, 其可經正規化為50 kbps(每秒千位元)及i〇 fps(每秒圖框) 之目標編碼速率。 inst_ppf( j^數).當剛圖框中之每圖框之封包。 est_ppf( Λ數).每將來圖框之封包的估計數目。
Target—enc—rate(每秒位元):由速率調適模組1〇所設定 之 target_encode_rate之當前值。 如圖6所不,視訊編碼器2可在計算Intra_MB_%之經修 改值(163)時計算或估計avg__m—咐之值⑴⑴。一旦封 包已預備好且準備好藉由視訊編碼器2而進行傳輸(152), 視訊編碼器2便可遞lnst_ppf,其為當前圖框中之每圖框 之封包的數目(154卜在—些狀況下,inst』pf指示圖框中 之RTP封包的數目。針對圖框内之每—封包而進一步遞增 咖—邮,直至最終封包指示圖框之結束為止(156)。在此 139676.doc -27· 201004356 點上,視訊編瑪器2能夠如下計算(158)avg—norm_ppf之經 修正值: avg—nom_ppH^-a)x avg_norm_ppf+(a X instjppf) X (50 kbps/target—encode_rate)x (Current_Frame_Rate/10 ^3S), 其中在此特定實例中,可假設目標編碼速率係相對於50 kbps之預界定值而經正規化,且當前圖框速率係相對於1 〇 fps之預界定值而經正規化。此等預界定值用於僅某些實 例情境下,且可在不同組態中具有各種不同值。可接著針 對下一圖框而將inst_ppf之值重設為零(160)。如所示, avg—norm_ppf 之值係基於 inst_ppf、target_encode_rate 及 Current_frame_Rate(其為當前圖框之圖框速率)之值。如圖 6所示,avg_norm_ppf之此值可接著用以計算est—ppf之 值。 在一態樣中,可如下計算est_ppf(每圖框之估計封包)之 值: est_ppf^avgjiorm_ppf X (target_enc_rate/50 kbps) X (10 Q)s/Current_Frame—Rate), 其中在此實例中,目標編碼速率係相對於50 kbps之預界定 值而經正規化,且當前圖框速率係相對於1 0 fps之預界定 值而經正規化(166)。預界定值可經最佳化,且可在各種不 同組態中具有不同值。目標編碼速率(target_enc_rate)可作 為一輸入參數而提供至等式,且來自圖5所示之基本演算 法的Intra_MB_%之值可作為另一輸入參數而提供(164)。 在一態樣中,目標編碼速率target_enc_rate可包含可基於 (例如)由視訊編碼器2所執行之應用程式類型而調諧的可調 139676.doc -28- 201004356 整參數。在一態樣中,目標編碼速率可基於動態速率調適 演算法而調諧,其中視訊編碼器2將其速率調適至網路條 件。 視訊編碼器2之速率調適模組10可設定PER(封包錯誤率) 之值等於由視訊解碼器20所發送之RTCP接收器報告内所 含有的fraction_lost之值,fraction_lost如上文所描述指示 自發送最後接收器報告起已由視訊解碼器20遺失之封包的 分數(168)。速率調適模組10可接著如下計算 Target_Err_Pr(其為在單一框内更新序列之後於影像中將仍 存在錯誤的目標機率)之經修正值(170):
Target—Err_Pr=Max{Target—Err—Pr,est_ppf X PER}。 在進行此計算之後,速率調適模組1 0能夠基於如藉由圖 5所示之方法或基本演算法所判定的Intra_MB_%之初始值 而計算ntra_MB_°/〇之經修正或經修改值。如藉由圖5之方 法所判定的Intra_MB_%之此初始值經指示為來自基本演算 法之Intra__MB_%(諸如,在圖6中,其中基本演算法為圖5 所示之演算法)。可如下計算(172)Intra_MB_%之經修正 值:
Min{Max_Intra_MB_°/〇,Max{P x 100% x log(l-PER) x est_ppi71og(l-Taiget_Err_pr), Intra_MB—% from Base Algorithm} }。 當速率調適模組1 0根據Intra_MB_%之此經修正值而框 内寫碼序列之圖框内的巨集區塊時,Intra_MB_°/。之此經修 正值可接著由圖5所示之基本演算法使用(174)。 圖6所示之方法計算Intra_MB_%之經修正值以有助於視 139676.doc -29- 201004356 訊編碼器2限制在圖框序列内之一框内更新經框内寫碼巨 集區塊序列之後具有未經校正錯誤之機率。結果, Intra—MB—%之經修正或經修改值通常將為增加值,使得巨 集區塊之框内更新更快速地且在序列内之較少圖框中發 生。在獲得值且使用圖6所示之計算的過程中,在—些^ 況下,可假設圖框之每一片層(其中一片層可含有多 個巨集區塊)含有至少一經框内寫碼巨集區塊。 藉由使用此假設’可進一步假設在整個經框内更新圖框 序列(具冑M Intra一MB_%之速率而經更新之經㈣寫碼巨 集區塊)期間之任何封包遺失可在一些巨集區塊中弓丨起錯 誤’因為可能遺失某些經框内寫碼巨集區塊。此等假設; 包含關於如何快速地㈣更新圖框序狀保守假設。假設 封包錯誤之機率貫穿圖框序列而分布,則貫穿序列之所: 封包皆可具有引起未經校正錯誤之相等機率。因此,在— 經框内更新圖框序列之後不存在錯誤之機率可等於(1、 PER’,其中P為整個圖框序列中之封包的數目。因此,框 内更新序列中之封包的總數可經限制為小於 log (l-Target_Err_Pr)/l〇g (1-PER) 〇 經框内更新(IR)圖框序列 為: 中之封包的數目可接著經計算 IR序列中之#圖框父在IR序列 I、月間母圖框之平均#封包, 其中IR序列中之#圖框,G%/Intra—mb—%。 結果’在IR序列期間每圖框 計算為: 閏化之封包的估計平均數目可經 139676.doc 30· 201004356 estjpp^Avg normjjpf x (taiget_enc_rate/50 kbps) x (10 ^)s/Cmrent Frame Rate) ° 組合此等結果會提供關於藉由圖6所示之方法所判定的 Intra_MB_%之經修改值的以下公式: log (l-Target_Err_Pr)/log (l-PER)>=(100%/Intra_MB_%) x est_ppf ° 圖7為根據一態樣之可由視訊編碼器2(圖1)之速率調適 模組1 0執行以在接收到GNACK訊息後便計算封包錯誤率 (PER)之方法的流程圖。如參看圖6之用以計算Intra_MB_% 之經修改值的方法所描述,PER之值經選擇及設定為等於 包括於由視訊解碼器20所發送之接收器報告内之 fraction_lost參數的值。圖7展示可由速率調適模組1〇用以 基於接收到GNACK而獲得per之經修改值的方法。 如圖7所示’速率調適模組1〇能夠基於所接收GNACK訊 息中所指示之封包的數目而計算參數GNACK_PER之值 (180)。自視訊解碼器20發送GNACK。視訊解碼器20可判 定一或多個圖框内之具有錯誤(例如,已遺失)之封包的數 目,且可在GNACK内指示此數目。此外,在GNACK内, 視訊解碼器20可藉由序號而識別具有錯誤之特定封包。在 一態樣中,當封包經由網路16而首先發送至視訊解碼器20 時,此等封包序號最初係由視訊編碼器2判定。 在接收到GNACK後,速率調適模組10便可比較 GNACK一PER之值與包括於自視訊解碼器2〇所發送之先前 RTCP接收器報告内之fracti〇n_i〇st之值(182)。若 GNACK—PER大於或等於fracti〇n—i〇st,則速率調適模組1 〇 將PER之值設定為等於GNACK_PER(184)。然而,若 139676.doc -31 - 201004356
GNACK—PER小於fracti〇n_lost,則速率調適模組1〇將PER 之值設定為等於來自最後接收器報告之fracti〇nJ〇st之值 (186)。 因此,如自圖7之方法可見,速率調適模組1〇選擇封包 錯誤率PER之值作為GNACK—PER& fracti〇n—1〇对中之較大 者。藉由選擇此等兩個值中之較大者,速率調適模組在 圖6之方法内計算經修改框内更新速率Intra_MB—%時使用 PER之較高值。在此態樣中,當(諸如)藉由―加參 數或藉由GNACK訊息而指示較高量之封包錯誤時,速率 調適模組1 0增加Intra_MB__%。 圖8為根據一態樣之說明可由視訊編碼器2(圖丨)之速率 調適模組1G執行以基於自視訊解碼㈣接收到可各自包括 封包序號之-或多個GNACKm息而判定經修正框内更新 速率之方法的流程圖。藉由執行圖8之方法,視訊編碼器2 可解決及限制視訊解碼器2G之使用者可感知錯誤之總時 間。視訊編碼器2之速率調適模組1G可針對較舊錯誤而使 用Wa—__%之較大值’使得此等較舊錯誤可經更快速地 逮率調適模組1阿維持RTP封包錢至相點或時戮之 映射’在此時,自視訊編碼器2發送封包⑽)。舉例而 視訊編碼器2可在第-時間點(例如,⑽叫發送呈有 弟—序號之第一封包,且可在第-日* „ 、 發送且以 , 間點(例如,110 ms) 算—序叙第二封包。料調適模組10可針對此 1封包中之母-者以及自視訊編碼器2發送至視訊解 139676.doc -32· 201004356 碼器20之任何其他封包而保持序號至時戳之映射。 當視訊編碼器2自視訊解碼器20接收到指示一或多個封 包具有錯誤(例如,已遺失)之GNACK時,視訊編碼器2能 夠判定在GNACK内所識別之封包中之每一者的序號。舉 例而言,若GNACK指示四個不同封包具有錯誤,則視訊 ' 編碼器2能夠判定此等四個封包中之每一者的RTP序號。此 • 等序號可與此等四個封包相關聯,且包括於GNACK内。 (如先前所描述,此等RTP序號為在封包由視訊編碼器2首 ί、 4 先發送至視訊解碼器20時最初指派至封包之序號。在一態 樣中,序號係由視訊編碼器2以升序而指派給順序地發送 至視訊解碼器20之封包。) 在判定由所接收GANCK所識別之封包的序號後,視訊 編碼器2便可判定(192)經識別封包之最早或最小序號 (RTP—SN),其大於含有經框内寫碼巨集區塊之最後經框内 更新圖框序列之第一封包的序號(RTP_SN_Last_IR_Sequence) ί ’或 RTP—SN>RTP一SN—Last_IR一Sequence。 視訊編碼器2使用其映射資訊來判定在GNACK内所識別 ' 之具有此最早序號RTP_SN之封包的時戳。此時戳對應於 視訊編碼器2最初將具有序號RTP_SN之此封包發送至視訊 解碼器20時的時間點。此時戳因此係基於由視訊編碼器2 所維持之時鐘。視訊編碼器2比較此時戳 (TS_of_earliest_GNACK_RTP_SN)與如由視訊編碼器2之時 鐘所指示的當前時間(〇111:代111;_1;丨11^),且如下計算(194)差 139676.doc -33 - 201004356 (Time_elapsed)之值:
Time_elapsed=Current_Time-TS一of—earliest—GNACK—RTP—SN。
Time_elapsed參數之值指示自具有序號RTP—SN之封包已 由視訊編碼器2發送起已流逝的時間週期。速率調適模組 1 〇可接著基於此流逝時間週期而修改Intra_MB_%之值(用 於框内寫碼後續經框内更新序列中之巨集區塊)。因為 RTP_SN為GNACK中之經識別封包的大於含有經框内寫碼 巨集區塊之最後經框内更新圖框序列之第一封包之序號的 最早或最小序號,所以速率調適模組10嘗試修改 Intra_MB_%之值以更快速地解決及校正較舊錯誤(其更早 以前發生)。通常,速率調適模組1 0在此等狀況下將增加 Intra 一 MB_%之值,且接著在圖5所示之方法内(在Intra_refresh 常式中)使用此經修改值。 在一態樣中,速率調適模組10可如下計算(196) Intra_MB_°/〇之經修改值: 设定 Intra_MB_%=Min {Max_Intra__MB_%,100%/ [(Target_Correetion_Time-
Time—elapsed)x Current—Frame—Rate]}。 如同先前所描述之公式或計算中的某些,速率調適模組1 〇 在某些狀況下可藉由Max_Intra_MB_%而界限Intra_MB_% 之值。Max—Intra_MB_%之值可由視訊編碼器2或由使用者 基於由視訊編碼器2所執行之應用程式類型或由視訊編碼 器2所提供之環境而組態或調整。在以上狀況下,速率調 適模組1 0亦可至少部分地基於Target_Correction_Time與 Time—elapsed之間的差而判定Intra_MB_%之經修改值。如 139676.doc -34- 201004356 先前所描述,Target—C〇rrection一Time參數指示在藉由視訊 編碼器2而偵測到諸如封包遺失之錯誤之後視訊編碼器2必 須校正錯誤所歷時的最大時間量。在此狀況下,此最大校 正日ττ間纟^:為接收益發現錯誤傳播之目標最大時間量。 Target一C〇rreCti〇n_Time之值可為了最佳化起見而經組態或 改變。 在一些悲樣中’視訊編碼器2可實施用於判定可用於圖5 所示之lima—refresh常式内之Intra—MB—%之經修改值的另 一增強。在此等態樣中,速率調適模組丨〇可嘗試量測過去 視讯圖框序列上之運動量,在該過去視訊圖框期間,在偵 測到一或多個封包錯誤後便使用Intra-MB—%。如先前參看 圖5所描述,根據可調整參數Intra—repeat之值,速率調適 模組10可針對圖框序列而將框内更新序列潛在地重複一或 多次。此參數之值可基於所偵測運動而調整,其可為圖框 序列内之圖框上之運動向量的函數。 速率調適模組10可比較所偵測運動量與運動臨限值,運 動限值可包含由使用者或由視訊編碼器2組態或調整之 值。舉例而言,假定框内更新正以較高速率而發生,則在 當前正使用hrna—MB_%之較高值的情況下,視訊編碼器2 可使用較高臨限值。臨限值可應用至針㈣圖框或序列之 運動統計,但同樣亦可應用至針對特定巨集區塊之運動。 若所谓測運動量小於此臨限值,則速率調適模組10可根 據下式而修改Intra—MB—%之值以設定為等於無遺失值(如 圖5中所使用): 139676.doc •35· 201004356
Intra_MB_%=Intra MB % No Loss ° —— — 然而,若運動量超出此臨限值,則速率調適模組丨〇可重 複整個視訊圖框序列之框内更新程序,及/或可增加
Intra—repeat之值,使得可執行額外更新。框内更新序列之 重複可有助於校正可能由一或多個圖框内之額外運動而引 起的任何錯誤。 圖9為根據一態樣之說明可由視訊解碼器2〇(圖”執行以 判定向視訊編碼器2發送PLI(圖像遺失指示)訊息還是諸如 通用否定應答(GNACK)之另一指示之方法的流程圖。如先 前所描述’視訊解碼器2〇能夠在藉由框内解碼器24及/或 預測性解碼器26而偵測到一或多個封包錯誤後便向視訊編 碼器2發送錯誤(例如,封包遺失)反饋18。此反饋^可包括 一或多個GNACK及/或PLI訊息。GNACK訊息可特定地識 別具有錯誤之封包,而1>1^訊息可在未必識別封包的情況 下更一般化地識別解碼錯誤。 然而’隨著時間(例如)向視訊編碼器2發送過多pU訊息 可肐存在某些缺點。舉例而言,視訊解碼器2 〇可向視訊編 碼态2發送第一 PLI,第一 PLI可觸發視訊編碼器2之速率調 適模組10以藉由增加1ntra—MB—%之值而開始框内更新序列 或增加框内編碼圖框序列内之巨集區塊的速率。假設存在 由視訊解碼器20所感知之新或額外錯誤,則在視訊解碼器 20此後不久在接收到經新更新巨集區塊中之任一者之前向 視Λ、.扁碼器2發送另—p乙I的情況下,視訊編碼器2可再次 但潛在不必要地增加Intra-MB-%之值。在此等類型之情境 139676.doc -36- 201004356 下,來自視訊解碼器20之Pu訊息可與由視訊編碼器2所發 送之經框内更新巨集區塊一起穿越路徑以校正先前指示之 =誤°因& ’在—些狀況下’可能更有益的係使視訊解碼 器20在短時間週期上向視訊編碼器2發送重複之訊.之 前執行某些檢查。 根據圖9之方法,視訊解碼器2〇可等待來自框内解碼器
24及/或預測性解碼器26之解碼器輸出(細)。視訊解碼器 20可接著判定框内解碼器24及/或預測性解碼器%是否偵 測到任何解碼錯誤(2G2)。在—些狀況下,視訊解碼器2〇可 (諸如)經由分析經寫碼視訊資料之位元流而偵測到未由 RTP層偵測到之某些錯誤。若偵測到解碼錯誤(諸如,所接 收之經寫碼封包中之—去φ夕扭π ·+、甘τ· Τ ^者肀之錯扶,或甚至一或多個封包 之遺失)’則視訊解碼器20可根據其時鐘而判定當前時間 (current_time)。 視訊解碼器20亦可判定或查找RTT之值,rtt之值為用 於視訊解碼器20與視訊編碼器2之間的資料通信的往返行 進時間的值。在-些狀況T,RTT之值可在視訊解碼器 内經最初設定或組態為預設值。然而’視訊解碼器2〇能夠 基於針對視訊解碼器20與視訊編碼器2之間的資料通信的 即時計算而隨著時間來動態地調整或修正rtt之值。舉例 而言,視訊解碼器20可能能夠使用—或多個RT(:p接收器 及/或發送器報告内所含有之資訊,以便量測或估計rtt: 值。在-態樣中,視訊解碼器2()可基於在視訊解碼器2〇與 視訊編碼器2之間所交換之至少一對訊息而量測或估計 139676.doc -37- 201004356 RTT之值。 在圖9之實例中,視訊解碼器20可檢查以判定(204)是否 滿足以下條件: current time > RTT+Time_Last_Sent_PLI 5 其中Time_Last_Sent_PLI等於視訊解碼器20向視訊編碼器2 最後發送PLI之時間(根據視訊解碼器20之時鐘)。根據視訊 解碼器20之時鐘’若當前時間實際上大於RTT加上 Time_Last—Sent_PLI ’則視訊解碼器20可向視訊編碼器2發 送另一PLI訊息,且亦將Time—Last_Sent PLI之值設定為當 前時間(206)。 然而’若當前時間小於或等於RTT加上Time Last 則視汛解碼器20將抑制向視訊編碼器2發送另一 pLI訊息 在此等情境下,視訊解碼器2〇判定其在_往返行進時間 先前已發送一 PLI ’且不需要發送另—。在此等情 下’視訊解碼H 20假設視訊編碼器2將回應於接收到由 訊解碼器20所發送μ前PU而開始新框内更新序列或 能:至調整Ϊ偷a_MB—%之值’且視訊解碼器2〇將在已發 先前PLI之後在一往返行進時間内在極早時開始接收此 更序助之封包(及巨集區塊)。因此,若視訊解碼器 在此—往返行進時間窗内識別任何錯誤,則假設此等錯 可在接收到先前PU後便藉由視訊編碼器2所起始之框内
新序列而校正,且祸却紐踩毋n T A 規。fl解碼為20不需要在此時間窗内發 PPU。視訊解^2G可針對自視㈣碼器2所接收之 有紅寫碼封包而繼續執行圖9所示之方法。 139676.doc •38- 201004356 圖10為根據一態樣之可由視訊解碼器20(圖1)執行以判 疋向視訊編碼器2發送GNACK還是PLI之方法的流程圖。 在些狀況下,若(例如)自最後發送PLI起存在具有錯誤或 已逍失之大量封包’則視訊解碼器2G可判定向視訊編瑪器 2《运通用PLI訊息。在—態樣中,若在―往返行進時間内 γ例如)尚未發送先前gnack或pu(諸如,圖9所示),則視 訊解瑪器20可執行圖1〇所示之方法。 因此,如圖10所示,視訊解碼器2〇可等待解碼輸出 (21〇) ’且判定處理是否已到達圖框邊界(或是否已偵測到 新圖框)(211)。若如&,則視訊解碼器2〇可將被稱作 J〇st之變數之值重設為零。如下文所描 述,視訊解碼器20在偵測到封包錯誤後便判定發送 GNACK還是PLI的過程中使用此變數之值。當已偵測到新 圖框時,視訊解碼器20可將此變數之值重設為零。 視Λ解碼益2〇可識別由視訊編碼器2所發送之特定封包 已送失,且可接著遞增Number_0f一 packets_lost變數 (212)。視訊解碼器2〇可接著比較一吹㈣ 之值與封包遺失臨限值。此臨限值可包含可由使用者或由 視訊解碼器20組態或調諸之可調整參數。在一些例項中, 此臨限值之值可視器件類型(例如,用於視訊解碼器20及/ 或視訊編碼器2之器件類型)及/或所執行之應用程式類型 (例如,視訊電話應用程式、遊戲應用程式)而定。 在一態樣中’視訊解碼n2()可判定(214)是否滿足以下 條件: 139676.doc -39- 201004356
Number^fjacketsJ〇st >=%_Packet_Loss_Threshold)x avg_ppf, 其中avg—ppf等於由視訊解碼器2〇所接收之每圖框之封包 的:均數目。視訊解碼器20能夠藉由連續地判定由視訊編 碼器2所接收之每_圖框中之封包的數目而估計^咐之 值。若自最後發送PU起已存在高數目之遺失封包,使得 遺失封包之數目超出臨限值(其如上文所描示亦可基於 avg—ppf),則視訊解碼器20可向視訊編碼器2發送另一 訊息以起始全框内更新序列(2 i 8)。視訊解碼器2 〇亦可將 Number_0f—packetsJ〇st之值重設為零。在一態樣中,在發 送PLI之前,視訊解碼器2〇亦可執行圖9所示之方法以判定 先刖PLI是否已在一往返行進時間窗内經發送,且可在為 此情況時制止發送另一PLI,如先前所描述。 然而,右視訊解碼器20判定自最後PLI之傳輸起遺失封 包之數目未超出臨限值,則視訊解碼器2〇可向視訊編碼器 2發送GNACK而非PLI(2丨6)。GNACK可識別具有錯誤(或 已遺失)之特定封包。在一些狀況下,視訊編碼器2可接著 使用與在GNACK巾所識狀封包相„的序號來執行修 正框内更新速率之增強型方法,諸如,圖8所示之方法。 雲於以上描述及圖9至圖10所示之方法,在—態樣中, 諸如視訊解碼器2 〇之視訊解碼器可偵測到與自諸如視訊編 碼器2之視訊編碼器所發送之經寫碼視訊資料相關聯的至 少一錯誤。視訊解碼器20可判定用於視訊解碼器⑼與視訊 編碼器2之間的資料通信的往返行進時間、判定視1解石 器20向視訊編碼器2最後發送指示由視訊解碼器2〇所偵測 Ί 39676.doc -40- 201004356 之先前錯誤之反饋訊息時的最後發送時間,且比較當 間與最後發送時間及往返行進時間之和。基於比較:視訊 料器2。可判定是否向視訊編碼器2發送指示由視訊解碼 态20所偵測之至少一錯誤的第二反饋訊幸。 ^一些狀況下,視訊解碼器2G可在當;時間超出最 达㈣及往返行進時間之和的情況下發送第二反饋訊息, 且可將最後發送時間設定為等 田月〗時間。判定往返行進 :3 於在視訊解碼器20與視訊編碼器2之間所交 2之至少一訊息而量測或估計往返行進時間。在 下,視訊解碼器20可自視, 一 枓,Β π 目祝°凡編碼益2接收經寫碼視訊資 ^ 且可至少藉由在藉由視訊解碼而站 -,,,a, 1斛碼益而解碼經寫碼視訊 科後便_至少-解碼錯誤來伯測至少—錯誤。 在—態樣中,視訊解碼器20可至,> 拉ώ ^ ^ + ^ & 偵測至少一笋莩/扁、f 了至乂精由谓測封包遺失而 錯决。在偵測到封句 可遞婵请生# ^ 了匕遌失後,視訊解碼器20便 J遞增遺失封包之計數、比 且在漬4^ 遺失封包之計數與臨限值, 子匕之計數超出臨限值 出最後發送斤„ ,、 的^況下且在當前時間超 器2發送第-g 子間之和的情況下向視訊編碼 值,則禎4扣 還失封包之計數未超出臨限 m j視讯解碼器20可向i目4 之另一類$ > 内視5fl編碼器2發送指示封包遺失 "員里之反饋訊息。 在_些狀、、兄 下在向視訊編碼器2發送第-/5錯^自 後,視訊解碼器2便 、弟一反饋5“ 臨限值可至小Λ 遺失封包之計數設定為等於零。 的平均數目二^分地基於封包遺失臨限值及每圖框之封包 I39676.doc -41 - 201004356 本揭不案中所描述之技術可實施於通用微處理器、 仏5虎處理益(DSp)、特殊應用積體電路(规^、場可 化閘陣列(FPGA)或其他等效邏輯器件中之—或多者内。: 此:如本文中所使用之術語「處理器」或「控制器 代月J述、,、„構中之任—或多者或適於實施本文中所描述之 術的任何其他結構。 技 本文中所况明之各種組件可藉由硬體、軟體、韌體 任何組合之任何合適組合來實現。在諸圖中’各種組件: 描繪為獨立單元或模組。然而,參看此等圖而描述之各: 組件中之全部或若干者可整合成共同硬體及/或軟體内之 組合式早兀或模組。因此,特徵作為組件、單元或模%之 表不思欲為了易於說明起見而強調特定功能特徵, 要求藉由獨立硬體或軟體組件來實現此等特徵。在: 況下,各種單元可經實施為由一或多個處理 : 程式化過程。 丁之可 本文中經描述為模組、器件或組件之任何特徵 每 施於整合邏輯器件中或獨立地實施為離散但可交互摔^ 朴斋件。在各種態樣中,此等組件可至少部分地形成為 :或=積體電路器件(其可被共同地稱為 件)’诸如’積體電路晶片或晶片組。此電路可提供於; =體=片器件中或多個交互操作之積體電路晶“ 二及jr各種影像、顯示、音訊或其他多媒體應用 紅式及0中之任-者中。在—些態樣中,例如, 的 部分 件可形成諸如無線通信器件手機之行動 ,、、且 139676.doc •42- 201004356 若以軟體進行實施,則可藉由包含具有在由一或多個處 理器執行時執行上文所描述方法中之一或多者之指令之程 式碼的電腦可讀資料儲存媒體而至少部分地實現該等技 術。電腦可讀媒體可形成可包括封裝材料之電腦程式產品 的一部分。電腦可讀媒體可包含隨機存取記憶體(RAM), 諸如,同步動態隨機存取記憶體(SDRAM)、唯讀記憶體 (ROM)、非揮發性隨機存取記憶體(NVRAM)、電可擦可程 式化唯讀記憶體(EEPROM)、嵌入式動態隨機存取記憶體 (eDRAM)、靜態隨機存取記憶體(SRAM)、快閃記憶體、 磁性或光學資料儲存媒體。 或者或另外,可藉由電腦可讀通信媒體而至少部分地實 現該等技術,電腦可讀通信媒體載運或傳達呈指令或資料 結構之形式的程式碼且可由一或多個處理器存取、讀取及/ 或執行。可將任何連接適當地稱為電腦可讀媒體。舉例而 言,若使用同軸電纜、光纖電纜、雙絞線、數位用戶線 (DSL)或諸如紅外線、無線電及微波之無線技術而自網 站、伺服器或其他遠端源傳輸軟體,則同軸電纜、光纖電 纜、雙絞線、DSL或諸如紅外線、無線電及微波之無線技 術包括於媒體之定義中。上文之組合亦應包括於電腦可讀 媒體之範疇内。所利用之任何軟體可由一或多個處理器執 行,諸如,一或多個DSP、通用微處理器、ASIC、FPGA 或其他等效積體或離散邏輯電路。 本揭示案中已描述各種態樣。此等及其他態樣係在以下 申請專利範圍之範®壽内。 139676.doc -43 - 201004356 【圖式簡單說明】 圖1為說明經由網路而通信地耦接至視訊解碼器之視訊 編碼器的方塊圖。 圖2為說明可包括於圖1所 心优afL編碼裔及/或視訊解 碼器内之實例處理器的方塊圖。 圖3A至圖3F為說明圖框序列之圖解,其中在序列之每 圖框内某一數目之區塊係經框内寫碼。 圖4為說明可由視訊編碼器執行以基於所接收錯誤反镇 而判定用於框内寫碼視訊資料區段之速率之方 圖。 彳瓜牲 圖5為說明可由視訊編碼器執行以基於所接收封 資訊而狀用於框内寫碼視訊資料區塊之框内更新速: 方法的流程圖。 圖6為可由視訊編碼器執行以獲得 又仔错由圖5之方法而判定 之框内更新速率之經修改值之方法的流程圖。 圖7為可由視訊編碼器執行以在 安收到通用否定應笈 (GNACK)訊息後便計算封包錯誤率 ° 千 < 万法的流程圖。 圖8為說明可由視訊編碼器執行以 土於接收到包括封台 序號之GNACK訊息而判定經修改框 灵新速率之方法的 流程圖。 的 圖9為說明可由視訊解碼器執行以〜θ 疋是否向視訊編碼 器發送PLI(圖像遺失指示)訊息之方 构馬 〜乃次的流裎圖。 圖10為可由視訊解碼器執行以主丨〜丄 列疋向視訊編碼器於 GNACK還是PLI之方法的流程圖。 &运 139676.doc -44- 201004356 【主要元件符號說明】 i. 2 視訊編碼器/器件 4 儲存媒體 6 框内編瑪器 8 預測性(框間)編碼器 10 速率調適模組 12 顯示器件 14 處理器 16 網路 18 錯誤(封包遺失)反饋 20 視訊解碼器/器件 22 儲存媒體 24 框内解碼器 26 預測性(框間)解碼器 28 顯示器件 30 處理器 50 處理器 52 控制或通用處理器 54 視訊處理器 56 圖形處理器 58 顯示處理器 100 尚未經框内寫碼之區塊 102 經框内寫碼區塊 104 先前經框内寫碼之區塊 139676.doc -45·
Claims (1)
- 201004356 七、申請專利範圍: 1. 一種方法,其包含: 自視訊解碼器接收指示與經寫碼視訊資料相關聯之 一錯誤的反饋;及 在接收到該反饋後,便判定用於框内寫碼一視訊單元 序列内之每一視訊單元之規定數目之視訊資料區段的一 速率,其中一視訊單元内之視訊資料區段的一框内寫碼 二蜀於°亥序列内之其他視訊單元内之視訊資料區段的 '寫碼。 2. 如请求項丨之方法,其中接收該反饋包含自該視訊解碼 态接收指示該經寫碼視訊資料之至少一封包之一遺失的 反饋該至少一封包先前已發送至該視訊解碼器,但未 被該視訊解碼器接收到。 3. 如請求項1之方法,其中每一視訊資料區段包含一或多 個視訊資料區塊,且其中該視訊單元序列内之每一視訊 單元包含一或多個視訊資料圖框。 4. 如请求項丨之方法,其中判定該速率包含至少部分地基 於用於跨越該序列内之一或多個視訊單元而校正錯誤的 一目標校正時間而判定該速率。 5. 如請求項1之方法,其中該反饋包含一圖像遺失指示 (PU)及一通用否定應答(Gnack)中之至少一者。 6. 如印求項5之方法,其中該反饋包含該GNACK,其中該 GNACK指示遺失封包之數目,且其中判定用於框内寫碼 之s亥速率係至少部分地基於遺失封包之該數目。 139676.doc 201004356 7.如請求項6之方法,其進一步包含: 自該視訊解碼器接收指示遺失封包之第二數目 告;及 基於由該GNACK所指示之遺失封包之該數目及由該報 告所指示之遺失封包之該第二數目中的至少一者而計算 一封包錯誤率, 其中判定用於框内寫碼之該速率係至少部分地基於該 封包錯誤率。 8·如請求項7之方法’其中判定該速率係、進-步至少部分 地基於該視訊單元序列内之每一視料元内所含有之封 包的估計數目。 9·如請求項6之方法,其中該⑽似識別每一遺失封包, 其中邊方法進-步包含基於一當前時間與該等經識別遺 失封包中之一者先前發送至該視訊解碼器時之一時間之 間的一差而計算一流逝時間,且其中判定該速率係進一 步至少部分地基於該流逝時間。 1〇_如請求項9之方法,其中由該GNACK所識別之每—遺失 封包具有一序號,且其中計算該流逝時間包含: 判定由該GNACK所識別之哪一遺失封包具有大於具有 經框内寫碼區段之一先前視訊單元序列之一第—封包之 一序號的一序號;及 基於該當前時間與該所判定遺失封包先前發送至該視 δίΐ解碼器時之一時間之間的一差而計算該流逝時間。 11.如請求項1之方法,其進—步包含基於跨越一視訊單元 139676.doc -2» 201004356 12. 序列内之不同視訊單 動臨限值而判定是否 行框内寫碼之該速率 -種含有指令之電腦可讀媒體, 個處理器進行以下操作: 元之一所偵測運動量是否超出一 重複用於在多個視訊單元序列中 的該判定。 該等指令用於使一或 運 進 多 自視訊解碼器才妾收指示與經寫碼視訊資料相關聯之 一錯誤的反饋;及在接收到该反饋後,便判定用於框内寫碼一視訊單元 序列内之每一視訊單元之規定數目t視訊資料區段的一 速率,其中一 ia ^ , , 祝5fl早兀内之視訊資料區段的一框内寫碼 係獨立於該序列内之其他視訊單元内之視訊資料區段的 一寫·^馬。 13. 如請求項12之電腦可讀媒體,其中用於使該-或多個處 j器接收該反饋之該等指令包含用於使該—或多個處理 '^自忒視訊解碼器接收指示該經寫碼視訊資料之至少一 封包之—遺失的反饋的指令,該至少-封包先前已發送 至該視訊解碼器,但未被該視訊解碼器接收到。 14. 如=求項12之電腦可讀媒體,其中每一視訊資料區段包 2一或多個視訊資料區塊,且其中該視訊單元序列内之 每一視訊單元包含一或多個視訊資料圖框。 15. 用於框内寫碼之該速 列内之一或多個視訊 如請求項12之電腦可讀媒體,其中 率係至少部分地基於用於跨越該序 單元而校正錯誤的一目標校正時間 16.如請求項12之電腦可讀媒體, 其中該反饋包含一圖像遺 139676.doc 201004356 失指示(PLI)及一通用否定應答(GNACK)中之至少一者。 17. 18. 19. 20. 21. 如請求項丨6之電腦可讀媒體,其中該反饋包含該 GNACK,其中該GNACK指示遺失封包之數目,且其中 用於框内寫碼之該速率係至少部分地基於遺失封包之該 數目。 如請求項Π之電腦可讀媒體,其進—步包含^吏該一 或多個處理器進行以下操作之指令: 自該視訊解碼器接收指示遺失封包之第二數目的—報 告;及 土於由為GNACK所指不之遺失封包之該數目及由該報 告所指示之遺失封包之該第二數目中的至少一者而計算 一封包錯誤率, ,、中用於框内寫碼之該速率係至少部分地基於該封包 錯誤率。 、二求項1 8之電腦可讀媒體,其中用於框内寫碼之該速 率係進-步至少部分地基於該視訊單元序列内之每一視 訊早元内所含有之封包的估計數目。 、求項1 7之毛腦可讀媒體,其中該識別每一遺 :封包’其中該電腦可讀媒體進—步包含用於使該一或 2處理ϋ基於-#前時間與該等經識別遺失封包中之 ^發送至該視訊解碼器時之—時間之間的一差而 传 〜逝時間的指令,且其中用於框内寫碼之該速率 係步至少部分地基於該流逝時間。 如請求項2G之電腦可讀媒體,其中由該GNACK所識別之 139676.doc 201004356 母—遺失封包具有一序號,且其中用於使該一或多個處 理益计算該流逝時間之該等指令包含用於使該一或多個 處理器進行以下操作之指令: 判定由該GNACK所識別之哪一遺失封包具有大於具有 、、’呈框内寫碼區段之一先前視訊單元序列之一第一封包之 一序號的一序號;及 基於該當前時間與該所判定遺失封包先前發送至該視Λ解碼器時之一時間之間的一差而計算該流逝時間。 22_如7求項12之電腦可讀媒體,其進一步包含用於使該一 或夕個處自器基力冑越一視訊單元序列内之不同視訊單 70之一所偵測運動量是否超出一運動臨限值而判定是否 重複用於在多個視訊單元序财進行㈣寫碼之該速率 的該判定的指令。 23. —種器件,其包含: 一儲存器件;及 或夕個處理器’其耗接至該儲存器件且經組態以進 行以下操作: 目—視訊解碼器接收指示與經寫碼視訊 之一錯誤的反饋;及 -在接收到該反饋後,便判定用於框内寫碼-視訊單 兀序列内之母-視訊單元之規定數目之視訊資料區段 的—速率,其中-視訊單元内之視訊資料區段的—框 内寫碼係獨立於該序列 料區段的―寫巧。他視讯早-内之視訊資 139676.doc 201004356 24. 25. 26. 27. 28. 29. 如租求項23之器件’其中該一或多個處理器經組態以至 夕藉由自該視訊解碼器接收指示該經寫碼視訊資料之至 少一封包之一遺失的反饋而接收該反饋,該至少一封包 先丽已發送至該視訊解碼器,但未被該視訊解碼器接收 到。 如請求項23之器件,其中每一視訊資料區段包含一或多 視°孔資料區塊,且其中該視訊單元序列内之每一視訊 單元包含一或多個視訊資料圖框。 如请求項23之器件,其中用於框内寫碼之該速率係至少 部分地基於用A跨越該序列内《―或多個視訊單元而校 正錯誤的一目標校正時間。 如明求項23之器件’其中該反饋包含一圖像遺失指示 (PU)及—通用否定應答(GNACK)中之至少一者。 士 β求項27之器件,其中該反饋包含該(31^八匚]^,其中該 GNACK指示遺失封包之數目,且其中用於框内寫碼之= 速率係至少部分地基於遺失封包之該數目。 :明求項28之器件’其中該一或多個處理器經進一步組 態以進行以下操作: 自該視訊解碼器接收指示遺失封 告;及 包之第二數目 的一報 基於由該GNACK所指示之遺失封包之該數目及由該報 告所指示之遺失封包之該第二數目中的至少一者 一封包錯誤率, 其中用於框内寫碼之該速率係至少部分地基於該封包 139676.doc 201004356 錯誤率。 3 0.如請求項29之器件,其中用於框内寫碼之該速率係進— 步至少部分地基於該視訊單元序列内之每一視訊單元内 所含有之封包的估計數目。 31_如請求項28之器件,其中該gnaCK識別每一遺失封包, 其中該一或多個處理器經進一步組態以基於一當前時間 與該等經識別遺失封包中之一者先前發送至該視訊解碼 器時之一時間之間的一差而計算一流逝時間,且其中用 於框内舄碼之該速率係進一步至少部分地基於該流逝時 間。 32. 如請求項31之器件,其中由該gnack所識別之每一遺失 封G具有n且其中該—或多個處理器經組態以至 ^藉由以下搖作而計算該流逝時間:判定由該G财CK所 朗之哪—遺失封包具有大於具有經框内寫碼區段之一 先前視訊單元序列之―第—封包之—序號的—序號;及 基於該當前日㈣與騎狀遺失料先前發送至該視訊 解碼器時之-時間之間的一差而計算該流逝時間。 33. 如請求項23之器件,其中該—或多個處理器經進一步电 “基於跨越一視訊單元序列内之不同視訊單元之一所 债測運動量是否超出—運動臨限值㈣定是否重複用於 個視訊單元序列中進行框内寫竭之該速率的該判 疋0 34.如請求項23之器件 機。 其中該器件包j 一無線通信器件手 139676.doc 201004356 35. 36. 37. 38. 39. 40. 41. 如請求項23之器伴,甘士 #, ,'中§亥盗件包含一或多個積體電路 器件。 一種器件,其包含: ;自視Λ解碼益接收指示與經寫碼視訊資料相關 聯之一錯誤的反饋的構件;及 S 用於在接收到該反镇後便判定用於框内寫碼一視訊單 一序】内之每視汛單元之規定數目之視訊資料區段的 速率的構件,其中—視訊單元内之視訊資料區段的一 框内舄碼係獨立於^ —女a- τ . 於5亥序列内之其他視訊單元内之視訊資 料區段的一寫碼。 如凊求項36之器件’其中用於接收該反饋之該構件包含 ;自。亥視Λ解碼益接收指示該經寫碼視訊資料之至少 ,封包之-遺失的反饋的構件,該至少_封包先前已發 辽至《亥視戒解碼益,但未被該視訊解碼器接收到。 如”月长項3 6之态件’其中每一視訊資料區段包含—或多 :視Dfl貝料區塊’且其中該視訊單元序列内之每—視訊 單元包含一或多個視訊資料圖框。 月长項3 6之器件,其中用於框内寫碼之該速率係至少 郤刀地基於用於跨越該序列内之一或多個視訊單元而校 正錯§吳的一目標校正時間。 如請求項36之器件’其中該反饋包含一圖像遺失指示 (PLI)及一通用否定應答(gnack)中之至少一者。 如請求項40之器件,其中該反饋包含該gnack,其中該 GNACIQ曰不逍失封包之數目,且其中用於框内寫碼之該 139676.doc 201004356 速率係至少部分地基於遺失封包之該數目。 42.如請求項41之器件,其進一步包含: 用於自該視訊解碼器接收指示遺失封包之第 一報告的構件;及 的 用於基於由該⑽敬所⑹之遺失封包之該數 遠報告所指示之遺失封包之該第二數目中的至少 計算一封包錯誤率的構件, 而C„. 其中用於框内寫碼之該速率係至少部分地基於該封勺 錯誤率。 匕 43. 如請求項42之器件,其中用於框内寫碼之該速率係進— 步至少部分地基於該視訊單元序列内之每—視訊單 所含有之封包的估計數目。 44. 如請求項41之器件,其中該GNACK識別每一遺失封包, 其中該器件進—步包含詩基於-當前時間與該等i識 別遺失封包中之-者先前發送至該視訊解碼器時之—時 間之間的一差而計算一流逝時間的構件,且其中用於^ 内寫碼之該速率係進一步至少部分地基於該流逝時間/ 45. 如請求項44之器件,其中由該gnack所識別之每—遺失 封包具有-序號’且其中用於計算該流逝時間之該構件 包含: 用於判定由該GNACK所識別之哪一遺失封包具有大於 具有經框内寫碼區段之一先前視訊單元序列之一第一封 包之—序號的一序號的構件;及 用於基於該當前時間與該所判定遺失封包先前發送至 139676.doc 201004356 該視訊解碼器時之-時間之間的-差而計算該流逝時間 的構件。 47 队如請求項36之器件,其進一步包含用於基於跨越一心 ㈣列内之不同視訊單元之-所伯測運動量是否超出 -運動臨限值而判定是否重複用於在多個視訊單元序列 中進仃框内寫碼之該速率的該判定的構件。 一種方法’其包含: —藉由-視訊解碼器而制與自一視訊編碼器所發送之 經舄碼視訊資料相關聯的至少—錯誤; >判定用於該視訊解碼器與該視訊編碼器之間的資 #的一往返行進時間; 視訊解碼器所_之_先前錯誤的—反績訊息時的 判定該視訊解碼器向該視訊編碼器最後發送指示由該 最 後發送時間; 比較一當前時間與該最後發送時間及該往返行進時門 之一和;及 间 基於该比李父,判定是否向該視訊編碼器發送指示 視訊解碼器所镇測之該至少一錯誤的一第二 丁自忒 48. 如請求項47之方、本 甘土丨,>曰 心。 二:’其中判定是否向該視訊編碼器發送 s亥弟一反饋訊息包含: 〜 在該當前時間超出該最後發送時間及該往返 之該和的情況下發送該第二反饋訊息;及 ^ β1 將該最後發送時間設定為等於該當前時間。 49. 如„月求項47之方法,其中判定該往返行進時間包含基& 139676.doc 10. 201004356 在該視訊解碼器與該視訊編碼器之間所交換之至少一對 訊息而量測或估計該往返行進時間。 50·如請求項47之方法,i准—本— 矢/、進一步包含自該視訊編碼器接收 該經寫碼視訊資料,且其令债測該至少一錯誤包含在藉 由该視訊解W而解碼該經寫碼視訊f料後制測至少 一解碼錯誤。 51.如請求項47之方法,其中摘測該至少—錯誤包含倘測一 封包遺失,且其中該方法進-步包含: 在偵測到該封包遺失後,便遞增遺失封包之一計數; 比較遺失封包之該計數與一臨限值; 若遺失封包之該計數超出該臨限值,且若該當前時間 超出該最後發料間及肺返行進日"之該和,則向該 視汛編碼器發送該第二反饋訊息;及 ,遺失封包之該計數未超出該臨限值,則向該視訊編 碼為發达指示該封包遺失之另—類型之反饋訊息。 52·如請求項51之方法,其進一步包含: 向歧視I編碼态發送該第二反饋訊息後,便將遺失 封包之該計數設定為等於零。 53. 如。月求項51之彳法,#中該臨限值係至少部分地基於一 封包遺失臨限值及每圖框之封包的平均數目。 54. —種器件,其包含: 一儲存器件;及 或夕個處理器’其耦接至該儲存器件且經組態以進 行以下操作: 139676.doc 201004356 偵測與自-視訊編碼器所發送之經寫碼視訊資料相 關聯的至少一錯誤; 判定用於該器件與該視訊編碼器之間的資料通信的 一往返行進時間; 旬疋。亥5件向该視訊編碼器最後發送指示由該器件 所偵測之一先前錯誤的一反饋訊息時的一最後 間; 吋 比較一 #前時間與該最後發料間及該往返行進時 間之一和;及 · 55. 56. 57. 基於該比較’判定是否向該視訊編碼器發送指示 =器件所偵測之該至少—錯誤H反镇訊息。 項54^件,其中該—或多個處理器經組態以至 二以下操作而判定是否向該視訊編碼器發送該第二 ―二息:在該#前時間超出該最後發送時間及該往返 仃日可間之该和的情況下發送該第二反馈 最後^送時間設定為等於該t前時間。〜’及將該 如請求項54之器件,盆中咳—式炙伽老 少蕻“ 〃中°亥3戈夕個處理器經組態以至 二稭由基於在該器件與該視訊編碼器之間所交換… 息而量測或估計該往返行進時間而判定該往返: =項54之器件,其中該一或多個處理器經進卡 ::該視訊編碼器接收該經寫碼視訊資料,且其中該 寫碼:個t理心組態以藉由在藉由該器件而解碼該經 馬硯心料後便倩測至少一解碼錯誤而偵剛該至少一 I39676.doc •12· 201004356 錯誤。 月求項54之器件,其中該至少一錯誤包含一封包遺 失, Η ι其中該一或多個處理器經進一步組態以: 在偵蜊到該封包遺失後便遞增遺失封包之一計數; 比較遺失封包之該計數與—臨限值; 右通失封包之該計數超出該臨限值,且若該當前時間 超出。亥最後發送時間及該往返行進時間之該和,則向該 視訊蝙碼器發送該第二反饋訊息;及 右迨失封包之该计數未超出該臨限值,則向該視訊編 碼為發送指示該封包遺失之另一類型之反饋訊息。 59·如叫求項58之斋件’其中該一或多個處理器經進一步組 態以在向該視訊編碼器發送該第二反饋訊息後便將遺失 封包之該計數設定為等於零。 6〇·如請求項58之器件,其中該臨限值係至少部分地基於_ 封包遺失臨限值及每圖框之封包的平均數目。 61.如請求項5 4之器件,盆中兮杜 八甲忒為件包含一無線通信器件手 62·如請求項54之器件,| φ 路 /、中°玄m件包含一或多個積體電 器件。 63. —種器件,其包含: 之經寫碼視訊資料 用於偵測與自一視訊編碼器所發送 相關聯的至少一錯誤的構件; 用於判定用於該5|株版# > X益件與邊視訊編碼器之間的資料 的一往返行進時間的構件; ° 139676.doc -13- 201004356 件二::定該器件向該視訊編碼器最後發送指示由該器 斤偵測之-先前錯誤的一反饋訊息時 間的構件; 取傻知k日守 :比广當前時間與該最後發送時間及該往 日守間之一和的構件;及 逆 用於基於該比較而判定是 由今哭杜祕# j疋疋否向該視矾編碼器發送指示 ^件所偵測之該至少—錯誤的—第二反㈣息的構 64 =包含指令之電腦可讀媒體,該等指令用 個處理器進行以下操作: '夕 :由-視訊解碼器而谓測與自—視訊編碼器 經寫碼視訊資料相關聯的至少一錯誤; 判定用於該視訊解碼器與該 信的-往返行進時間; 料通 4〇 _ . σ从仗奴巧子曰不 視訊解碼器所偵測之一先前 後發送時間; ⑴錯㈣—反饋訊息時的— 比較一當前時間與該最後發逆日士叫 之—和;& *發”間及該往返行進時間 基於該比較,判定是否向該視 钼4 、,兩碼為發达指示由兮 視讯解碼器所偵測之該至少— 田違 錯5吳的一第二反饋訊息。 判定該視訊解碼器向該視訊編碼器最後發送指 訊解石1突K 7占、、吼丨 > 丄、, W 口亥 最 139676.doc -14-
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US4300508P | 2008-04-07 | 2008-04-07 | |
US12/349,386 US8406296B2 (en) | 2008-04-07 | 2009-01-06 | Video refresh adaptation algorithms responsive to error feedback |
Publications (1)
Publication Number | Publication Date |
---|---|
TW201004356A true TW201004356A (en) | 2010-01-16 |
Family
ID=41133248
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
TW098111524A TW201004356A (en) | 2008-04-07 | 2009-04-07 | Video refresh adaptation algorithms responsive to error feedback |
Country Status (7)
Country | Link |
---|---|
US (2) | US8406296B2 (zh) |
EP (3) | EP2274914B1 (zh) |
JP (3) | JP5248673B2 (zh) |
KR (2) | KR101248265B1 (zh) |
CN (2) | CN102857757B (zh) |
TW (1) | TW201004356A (zh) |
WO (1) | WO2009126583A1 (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10609419B2 (en) | 2015-06-24 | 2020-03-31 | Sony Corporation | Encoding apparatus, decoding apparatus and transmission control method |
Families Citing this family (50)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8406296B2 (en) | 2008-04-07 | 2013-03-26 | Qualcomm Incorporated | Video refresh adaptation algorithms responsive to error feedback |
JP5197238B2 (ja) * | 2008-08-29 | 2013-05-15 | キヤノン株式会社 | 映像送信装置、その制御方法、および制御方法を実行するプログラム |
JP4987034B2 (ja) * | 2008-12-26 | 2012-07-25 | 三菱電機株式会社 | 映像表示装置 |
US8468566B2 (en) | 2009-04-10 | 2013-06-18 | Echostar Technologies L.L.C. | Control message feedback in a satellite broadcast communication system |
US9723319B1 (en) * | 2009-06-01 | 2017-08-01 | Sony Interactive Entertainment America Llc | Differentiation for achieving buffered decoding and bufferless decoding |
US20110072148A1 (en) * | 2009-09-24 | 2011-03-24 | Cisco Technology, Inc. | Distributed Coordination of Network Elements for Packet Encapsulation |
US20110249729A1 (en) * | 2010-04-07 | 2011-10-13 | Apple Inc. | Error resilient hierarchical long term reference frames |
US20130307847A1 (en) * | 2010-12-06 | 2013-11-21 | The Regents Of The University Of California | Rendering and encoding adaptation to address computation and network |
US9025672B2 (en) * | 2011-05-04 | 2015-05-05 | Cavium, Inc. | On-demand intra-refresh for end-to end coded video transmission systems |
GB2492329B (en) | 2011-06-24 | 2018-02-28 | Skype | Video coding |
GB2492163B (en) | 2011-06-24 | 2018-05-02 | Skype | Video coding |
GB2492330B (en) | 2011-06-24 | 2017-10-18 | Skype | Rate-Distortion Optimization with Encoding Mode Selection |
GB2493777A (en) | 2011-08-19 | 2013-02-20 | Skype | Image encoding mode selection based on error propagation distortion map |
GB2495468B (en) * | 2011-09-02 | 2017-12-13 | Skype | Video coding |
CN102946533B (zh) * | 2011-09-02 | 2016-08-17 | 斯凯普公司 | 视频编码 |
GB2495469B (en) | 2011-09-02 | 2017-12-13 | Skype | Video coding |
GB2495467B (en) | 2011-09-02 | 2017-12-13 | Skype | Video coding |
EP2582141A3 (en) * | 2011-10-14 | 2013-08-07 | Richwave Technology Corp. | Method for providing error-resilient digital video content |
CN102520897B (zh) * | 2011-11-14 | 2015-01-28 | 中兴通讯股份有限公司 | 一种移动终端及其提高屏幕界面绘制速度的方法 |
EP2769543A1 (en) * | 2011-11-14 | 2014-08-27 | Telefonaktiebolaget LM Ericsson (Publ) | Method of and apparatus for compression encoding a picture in a picture sequence |
US20130170559A1 (en) * | 2011-12-28 | 2013-07-04 | Rovi Technologies Corporation | Systems and methods for region of interest video processing |
US9661325B1 (en) * | 2012-02-17 | 2017-05-23 | Polycom, Inc. | Lossy channel video blur avoidance |
US10103839B2 (en) * | 2012-06-28 | 2018-10-16 | Ant-Advanced Network Technologies Oy | Processing and error concealment of digital signals |
US9648363B2 (en) * | 2012-09-28 | 2017-05-09 | Marvell World Trade Ltd. | Enhanced user experience for miracast devices |
US9930082B2 (en) | 2012-11-20 | 2018-03-27 | Nvidia Corporation | Method and system for network driven automatic adaptive rendering impedance |
US10616086B2 (en) * | 2012-12-27 | 2020-04-07 | Navidia Corporation | Network adaptive latency reduction through frame rate control |
US20140281994A1 (en) * | 2013-03-15 | 2014-09-18 | Xiaomi Inc. | Interactive method, terminal device and system for communicating multimedia information |
US9407923B2 (en) * | 2013-05-20 | 2016-08-02 | Gamefly Israel Ltd. | Overconing lost IP packets in streaming video in IP networks |
US9350683B2 (en) * | 2013-06-18 | 2016-05-24 | Cisco Technology, Inc. | Reliable bulk data dissemination using rateless codes |
US9819604B2 (en) | 2013-07-31 | 2017-11-14 | Nvidia Corporation | Real time network adaptive low latency transport stream muxing of audio/video streams for miracast |
CN104780029B (zh) * | 2014-01-14 | 2019-02-19 | 华为技术有限公司 | 一种混合自动重传请求方法及相关装置 |
KR101599888B1 (ko) | 2014-05-02 | 2016-03-04 | 삼성전자주식회사 | 적응적 영상 데이터 압축 방법 및 장치 |
CN104079859B (zh) * | 2014-07-03 | 2017-04-26 | 天津瑞发科半导体技术有限公司 | 基于反馈机制的视频传输速率自适应系统 |
US10116418B2 (en) * | 2014-08-08 | 2018-10-30 | University Of Florida Research Foundation, Incorporated | Joint fountain coding and network coding for loss-tolerant information spreading |
US9905199B2 (en) | 2014-09-17 | 2018-02-27 | Mediatek Inc. | Processor for use in dynamic refresh rate switching and related electronic device and method |
US10032430B2 (en) * | 2014-09-17 | 2018-07-24 | Mediatek Inc. | Processor for use in dynamic refresh rate switching and related electronic device |
GB2536059B (en) | 2015-03-06 | 2017-03-01 | Garrison Tech Ltd | Secure control of insecure device |
US10085029B2 (en) | 2015-07-21 | 2018-09-25 | Qualcomm Incorporated | Switching display devices in video telephony |
CN106488229B (zh) * | 2015-09-01 | 2022-01-21 | 恩智浦美国有限公司 | 具有可调整帧内刷新率的视频编码器 |
US10313685B2 (en) * | 2015-09-08 | 2019-06-04 | Microsoft Technology Licensing, Llc | Video coding |
US10595025B2 (en) | 2015-09-08 | 2020-03-17 | Microsoft Technology Licensing, Llc | Video coding |
US10200694B2 (en) * | 2015-09-17 | 2019-02-05 | Mediatek Inc. | Method and apparatus for response of feedback information during video call |
GB2545010B (en) | 2015-12-03 | 2018-01-03 | Garrison Tech Ltd | Secure boot device |
CN110225338B (zh) | 2016-12-30 | 2021-12-10 | 深圳市大疆创新科技有限公司 | 图像处理方法、装置、无人飞行器和接收端 |
CN109936746B (zh) * | 2016-12-30 | 2021-07-16 | 深圳市大疆创新科技有限公司 | 图像处理方法与设备 |
US10291936B2 (en) | 2017-08-15 | 2019-05-14 | Electronic Arts Inc. | Overcoming lost or corrupted slices in video streaming |
US11784757B2 (en) * | 2018-03-08 | 2023-10-10 | Nokia Technologies Oy | Method, apparatus and computer program |
WO2020237466A1 (zh) * | 2019-05-27 | 2020-12-03 | 深圳市大疆创新科技有限公司 | 视频传输方法、装置、飞行器、播放设备及存储介质 |
CN111713107A (zh) * | 2019-06-28 | 2020-09-25 | 深圳市大疆创新科技有限公司 | 图像处理方法、设备、无人飞行器和接收端 |
US11039149B2 (en) * | 2019-08-01 | 2021-06-15 | Qualcomm Incorporated | Dynamic video insertion based on feedback information |
Family Cites Families (29)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2834313B2 (ja) | 1990-11-09 | 1998-12-09 | 株式会社日立製作所 | 画像符号化復号装置 |
JPH04334189A (ja) | 1991-05-09 | 1992-11-20 | Mitsubishi Electric Corp | 画像伝送装置 |
KR0132894B1 (ko) | 1992-03-13 | 1998-10-01 | 강진구 | 영상압축부호화 및 복호화 방법과 그 장치 |
US5682204A (en) | 1995-12-26 | 1997-10-28 | C Cube Microsystems, Inc. | Video encoder which uses intra-coding when an activity level of a current macro-block is smaller than a threshold level |
JPH10200897A (ja) | 1997-01-08 | 1998-07-31 | Nippon Telegr & Teleph Corp <Ntt> | 動画像伝送装置 |
JPH11289542A (ja) | 1998-02-09 | 1999-10-19 | Matsushita Electric Ind Co Ltd | 画像符号化装置、画像符号化方法、および画像符号化プログラムを記録した記録媒体 |
US6765964B1 (en) | 2000-12-06 | 2004-07-20 | Realnetworks, Inc. | System and method for intracoding video data |
US6876705B2 (en) | 2001-03-05 | 2005-04-05 | Intervideo, Inc. | Systems and methods for decoding of partially corrupted reversible variable length code (RVLC) intra-coded macroblocks and partial block decoding of corrupted macroblocks in a video decoder |
JP2002330437A (ja) | 2001-05-01 | 2002-11-15 | Sony Corp | 画像伝送方法、画像伝送方法のプログラム、画像伝送方法のプログラムを記録した記録媒体及び画像伝送装置 |
KR100399932B1 (ko) | 2001-05-07 | 2003-09-29 | 주식회사 하이닉스반도체 | 메모리의 양을 감소시키기 위한 비디오 프레임의압축/역압축 하드웨어 시스템 |
DE60213196T2 (de) | 2002-02-13 | 2006-11-23 | Matsushita Electric Industrial Co., Ltd., Kadoma | Verfahren zum Übertragen von Datenpaketen unter Verwendung der Protokolle RTP und RTCP |
JP2004215201A (ja) | 2003-01-09 | 2004-07-29 | Sony Corp | 情報処理装置および情報処理方法、データ通信システム、記録媒体、並びにプログラム |
JP4244159B2 (ja) | 2003-05-16 | 2009-03-25 | 株式会社エヌ・ティ・ティ・ドコモ | 受信装置、通信システムおよびプログラム |
US20040252761A1 (en) * | 2003-06-16 | 2004-12-16 | Dilithium Networks Pty Limited (An Australian Corporation) | Method and apparatus for handling video communication errors |
JP3871661B2 (ja) | 2003-07-25 | 2007-01-24 | 株式会社東芝 | マルチメディアコンテンツ受信装置及びマルチメディアコンテンツ受信方法 |
US7796499B2 (en) | 2003-12-05 | 2010-09-14 | Telefonaktiebolaget L M Ericsson (Publ) | Method of and system for video fast update |
EP1638333A1 (en) | 2004-09-17 | 2006-03-22 | Mitsubishi Electric Information Technology Centre Europe B.V. | Rate adaptive video coding |
US8948266B2 (en) | 2004-10-12 | 2015-02-03 | Qualcomm Incorporated | Adaptive intra-refresh for digital video encoding |
US8634413B2 (en) | 2004-12-30 | 2014-01-21 | Microsoft Corporation | Use of frame caching to improve packet loss recovery |
CN100459717C (zh) | 2005-04-20 | 2009-02-04 | 华为技术有限公司 | 基于h.264的压缩视频传输误码消除方法 |
TWI259725B (en) | 2005-04-28 | 2006-08-01 | Benq Corp | Methods and systems for transmitting AV information |
JP4688566B2 (ja) | 2005-05-10 | 2011-05-25 | 富士通東芝モバイルコミュニケーションズ株式会社 | 送信機及び受信機 |
EP1903747B1 (en) * | 2005-07-08 | 2017-03-08 | Fujitsu Ltd. | Transmitting apparatus, receiving apparatus and information communication method |
JP4513725B2 (ja) * | 2005-11-09 | 2010-07-28 | ソニー株式会社 | パケット送信装置、通信システム及びプログラム |
JP4687538B2 (ja) | 2006-04-04 | 2011-05-25 | パナソニック株式会社 | 受信装置、送信装置およびその通信方法 |
KR100827152B1 (ko) * | 2006-10-20 | 2008-05-02 | 삼성전자주식회사 | Nal 유닛 에러 검출을 위한 효율적인 h.264 복호 방법및 장치 |
US8175075B2 (en) * | 2006-12-26 | 2012-05-08 | Alcatel Lucent | Adaptive header compression in a wireless communication network |
US8265171B2 (en) * | 2008-02-26 | 2012-09-11 | Richwave Technology Corp. | Error resilient video transmission using instantaneous receiver feedback and channel quality adaptive packet retransmission |
US8406296B2 (en) * | 2008-04-07 | 2013-03-26 | Qualcomm Incorporated | Video refresh adaptation algorithms responsive to error feedback |
-
2009
- 2009-01-06 US US12/349,386 patent/US8406296B2/en not_active Expired - Fee Related
- 2009-04-06 EP EP09730601.3A patent/EP2274914B1/en not_active Not-in-force
- 2009-04-06 WO PCT/US2009/039677 patent/WO2009126583A1/en active Application Filing
- 2009-04-06 KR KR1020107024998A patent/KR101248265B1/ko not_active IP Right Cessation
- 2009-04-06 JP JP2011504113A patent/JP5248673B2/ja not_active Expired - Fee Related
- 2009-04-06 KR KR1020127034357A patent/KR101330931B1/ko not_active IP Right Cessation
- 2009-04-06 CN CN201210298842.0A patent/CN102857757B/zh active Active
- 2009-04-06 CN CN2009801121142A patent/CN101983509B/zh not_active Expired - Fee Related
- 2009-04-06 EP EP17193896.2A patent/EP3288263A1/en not_active Withdrawn
- 2009-04-06 EP EP13156796.8A patent/EP2621173A3/en not_active Ceased
- 2009-04-07 TW TW098111524A patent/TW201004356A/zh unknown
-
2012
- 2012-05-10 US US13/468,395 patent/US9479800B2/en active Active
-
2013
- 2013-01-24 JP JP2013011107A patent/JP2013138447A/ja active Pending
-
2014
- 2014-09-19 JP JP2014191384A patent/JP5917638B2/ja not_active Expired - Fee Related
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10609419B2 (en) | 2015-06-24 | 2020-03-31 | Sony Corporation | Encoding apparatus, decoding apparatus and transmission control method |
US11297354B2 (en) | 2015-06-24 | 2022-04-05 | Sony Corporation | Encoding apparatus, decoding apparatus and transmission control method |
Also Published As
Publication number | Publication date |
---|---|
KR101248265B1 (ko) | 2013-03-27 |
JP2011517233A (ja) | 2011-05-26 |
CN102857757A (zh) | 2013-01-02 |
EP2274914B1 (en) | 2013-05-08 |
EP2274914A1 (en) | 2011-01-19 |
EP2621173A3 (en) | 2014-06-25 |
EP2621173A2 (en) | 2013-07-31 |
US20120219073A1 (en) | 2012-08-30 |
JP2013138447A (ja) | 2013-07-11 |
EP3288263A1 (en) | 2018-02-28 |
KR101330931B1 (ko) | 2013-11-18 |
KR20100131520A (ko) | 2010-12-15 |
CN101983509B (zh) | 2013-11-13 |
KR20130018964A (ko) | 2013-02-25 |
US20090252227A1 (en) | 2009-10-08 |
WO2009126583A1 (en) | 2009-10-15 |
JP2015039189A (ja) | 2015-02-26 |
US8406296B2 (en) | 2013-03-26 |
US9479800B2 (en) | 2016-10-25 |
CN101983509A (zh) | 2011-03-02 |
JP5917638B2 (ja) | 2016-05-18 |
JP5248673B2 (ja) | 2013-07-31 |
CN102857757B (zh) | 2015-12-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
TW201004356A (en) | Video refresh adaptation algorithms responsive to error feedback | |
US20060188025A1 (en) | Error concealment | |
US20140348224A1 (en) | Adaptive video processing of an interactive environment | |
US10944973B2 (en) | Estimation of video quality of experience on media servers | |
TW200904194A (en) | Feedback based scalable video coding | |
EP3122043B1 (en) | Method and system for determining a quality value of a video stream | |
WO2010009637A1 (zh) | 一种视频质量评估方法、系统及装置 | |
TWI499306B (zh) | 即時視訊傳輸系統內之同步圖框復原 | |
US10142644B2 (en) | Decoding frames | |
US20120106632A1 (en) | Method and apparatus for error resilient long term referencing block refresh | |
CN112995214B (zh) | 一种实时视频传输系统、方法及计算机可读存储介质 | |
US20080069202A1 (en) | Video Encoding Method and Device | |
US9179196B2 (en) | Interleaved video streams | |
US9451288B2 (en) | Inferred key frames for fast initiation of video coding sessions | |
EP3550838B1 (en) | Resilient signal encoding | |
CN115396733A (zh) | 视频帧传输方法、装置、设备、存储介质及产品 | |
Leonardi et al. | Performance of a Distributed Video Codec Behaviours in Presence of Transmission Errors |