JP2009545234A - ビデオデコーダーのメモリ削減のための方法 - Google Patents

ビデオデコーダーのメモリ削減のための方法 Download PDF

Info

Publication number
JP2009545234A
JP2009545234A JP2009521801A JP2009521801A JP2009545234A JP 2009545234 A JP2009545234 A JP 2009545234A JP 2009521801 A JP2009521801 A JP 2009521801A JP 2009521801 A JP2009521801 A JP 2009521801A JP 2009545234 A JP2009545234 A JP 2009545234A
Authority
JP
Japan
Prior art keywords
picture
resolution
decoding
pictures
memory
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009521801A
Other languages
English (en)
Other versions
JP5059860B2 (ja
JP2009545234A5 (ja
Inventor
ウィンガー,ローウェル
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
LSI Corp
Original Assignee
LSI Logic Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by LSI Logic Corp filed Critical LSI Logic Corp
Publication of JP2009545234A publication Critical patent/JP2009545234A/ja
Publication of JP2009545234A5 publication Critical patent/JP2009545234A5/ja
Application granted granted Critical
Publication of JP5059860B2 publication Critical patent/JP5059860B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/156Availability of hardware or computational resources, e.g. encoding based on power-saving criteria
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/59Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial sub-sampling or interpolation, e.g. alteration of picture size or resolution
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/105Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/423Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation characterised by memory arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/423Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation characterised by memory arrangements
    • H04N19/426Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation characterised by memory arrangements using memory downsizing methods
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/423Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation characterised by memory arrangements
    • H04N19/426Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation characterised by memory arrangements using memory downsizing methods
    • H04N19/428Recompression, e.g. by spatial or temporal decimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/91Television signal processing therefor
    • H04N5/92Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Television Signal Processing For Recording (AREA)

Abstract

ビデオデコードの方法が、開示される。この方法には、一般に、(A)ビットストリームから第1のピクチャをデコードするステップであって、第1のピクチャが第1の解像度を有するステップと、(B)第1のピクチャを第1の解像度でメモリに記憶するステップと、(C)第1のピクチャを第2の解像度でメモリに記憶するステップであって、第2の解像度が第1の解像度より低いステップと、が含まれる。

Description

本発明は、一般にビデオデコードに関し、特にビデオデコーダーのメモリ削減のための方法に関する。
ビデオデコーダーの市場が成熟するにつれて、デコードプロセスでピクチャをバッファするために用いられるメモリのコストおよびサイズが、重要な要素になっている。MPEG−2準拠ビットストリーム用のデコードメモリを削減するために用いられる従来の技術は、(i)Bフレームを落とすこと、および(ii)低減解像度で参照フレームを記憶することである。
しかしながら、従来の解決法は、H.264準拠のデコードに対して、品質対メモリトレードオフの点で最適からは程遠い。MPEG−2および他の従前の規格と異なり、H.264デコードによって、(i)多数の参照フレーム、(ii)並べ替え遅延だけのための(かつ参照として用いるためではない)非参照ピクチャの強制的な記憶、(iii)非常に柔軟なピクチャパターン(すなわち、ピクチャグループ)、(iv)階層的なピクチャグループ、および(v)参照Bフレームが可能になる。
本発明は、ビデオデコードの方法に関する。この方法には、一般に、(A)ビットストリームから第1のピクチャをデコードするステップであって、第1のピクチャが第1の解像度を有するステップと、(B)第1のピクチャを第1の解像度でメモリに記憶するステップと、(C)第1のピクチャを第2の解像度でメモリに記憶するステップであって、第2の解像度が第1の解像度より低いステップと、が含まれる。
本発明の目的、特徴および利点には、ビデオデコーダーのメモリ削減のための方法であって、(i)デコードピクチャ(decoded picture)バッファのサイズを低減し、(ii)参照ピクチャの解像度低減による潜在的ドリフトまたは誤差を最小限にし、(iii)欠落した参照ピクチャによる潜在的ドリフトおよび/または誤差を最小限にし、かつ/または(iv)従来の技術と比較して、メモリサイズ対デコードビデオ品質のよりよいトレードオフを提供可能な方法を提供することが含まれる。
本発明の、これらおよび他の目的、特徴および利点は、下記の詳細な説明ならびに添付された特許請求の範囲および図面から明らかになろう。
本発明の好適な実施形態に係る回路のブロック図である。 最古の参照ピクチャを破棄する第1の例示的なデコードシーケンス(decoding sequence)のための表である。 第1のバッファサイズから最古の参照ピクチャを動的に低減する第1の例示的なデコードシーケンスのための表である。 第2のバッファサイズから最古の参照ピクチャを動的に低減する第1の例示的なデコードシーケンスのための表である。 全ての参照ピクチャを低減し、かつ最古の参照ピクチャを破棄する第1の例示的なデコードシーケンスのための表である。 最古の参照ピクチャを破棄する第2の例示的なデコードシーケンスのための表である。 第1のバッファサイズから最古の参照ピクチャを動的に低減する第2の例示的なデコードシーケンスのための表である。 第2のバッファサイズから最古の参照ピクチャを動的に低減する第2の例示的なデコードシーケンスのための表である。 記憶のために全ての参照ピクチャを低減し、かつ最古の参照ピクチャを破棄する第2の例示的なデコードシーケンスのための表である。 最古の参照ピクチャを破棄する第3の例示的なデコードシーケンスのための表である。 参照Bピクチャを一時的に蓄積し、かつ最古の参照ピクチャを破棄する第3の例示的なデコードシーケンスのための表である。 全ての参照ピクチャを低減し、かつ最古の参照ピクチャを破棄する第3の例示的なデコードシーケンスのための表である。 最古の参照ピクチャを破棄する第4の例示的なデコードシーケンスのための表である。 最古の低減解像度参照ピクチャを動的に低減する第4の例示的なデコードシーケンスのための表である。 いくつかの参照ピクチャを低減し、時間的誤差を最小限にし、かつ一時的に蓄積する第4の例示的なデコードシーケンスのための表である。 いくつかの参照ピクチャを低減し、時間的蓄積を最小限にし、かつ最古の参照ピクチャを破棄する第4の例示的なデコードシーケンスのための表である。 全ての参照ピクチャを低減し、かつ最古の参照ピクチャを破棄する第4の例示的なデコードシーケンスのための表である。 ピクチャを処理する方法のフローチャートである。 デコードピクチャバッファにおけるサンプルの書き込みおよび解放の図である。 低減解像度参照データを処理する例示的な方法のフローチャートである。 ピクチャの例示的なデコードシーケンスの図である。
図1を参照すると、回路100のブロック図が、本発明の好適な実施形態に従って示されている。回路(またはシステム)100は、メディアプロセッサ回路と呼んでもよい。メディアプロセッサ回路100には、一般に、回路(またはモジュール)102および回路(またはモジュール)104が含まれる。入力信号(例えば、BS)は、回路102によって受信してもよい。出力信号(例えば、VOUT)は、回路102によって生成および提供してもよい。回路102および回路104は、互いに通信してデータを交換してもよい。
信号BSは、ビットストリームと一般に呼ばれる圧縮ビデオ信号であってもよい。信号BSには、プログレッシブフォーマットフレームおよび/またはインターレースフォーマットフィールドのシーケンスを含んでもよい。信号BSは、VC−1、MPEGおよび/またはH.26x規格に準拠してもよい。MPEG/H.26x規格には、一般に、H.261、H.264、H.263、MPEG−1、MPEG−2、MPEG−4およびH.264/AVCが含まれる。MPEG規格は、スイス(Switzerland)のジュネーブ(Geneva)にある、国際標準化機構のムービィングピクチャーズエキスパートグループ(Moving Pictures Expert Group)が定義することができる。H.26x規格は、スイス(Switzerland)のジュネーブ(Geneva)にある、国際電気通信連合・電気通信標準化部門が定義することができる。VC−1規格は、ニューヨーク(New York)州ホワイトプレーンズ(White Plains)の映画テレビ技術者協会(SMPTE)による映画テレビ技術者協会(SMPTE)421M−2006という文書によって定義することができる。
信号VOUTは、1つまたは複数のアナログビデオ信号および/または1つまたは複数のデジタルビデオ信号であってもよい。信号VOUTには、一般に、プログレッシブフォーマットフレームおよび/またはインターレースフォーマットフィールドのシーケンスが含まれる。信号VOUTには、ディスプレイをビデオ情報と同期させるのに適した同期信号を含んでもよい。信号VOUTは、限定するわけではないが、RGB(赤、緑、青)信号、EIA770(例えば、YCrCb)信号、Sビデオ信号および/またはコンポジットビデオベースバンド信号(CVBS)としてアナログ形式で生成してもよい。デジタル形式では、信号VOUTは、限定するわけではないが、高解像度マルチメディアインタフェース(HDMI)信号、デジタルビデオインタフェース(DVI)信号および/またはBT.656信号として生成してもよい。信号VOUTは、標準解像度信号または高解像度信号としてフォーマットしてもよい。
回路102は、デコード回路と呼んでもよい。デコード回路102は、信号BSで受信されたビデオ情報をデコードおよびフォーマットして信号VOUTを生成するように動作可能であってもよい。デコードは、VC−1、MPEGおよび/またはH.26x規格に準拠してもよい。
回路104は、メモリ回路と呼んでもよい。メモリ回路104は、デジタルビデオおよびオーディオデータをデコードおよびフォーマットする際に用いられるフレーム/フィールド(ピクチャ)および他の情報を一時的にバッファするように動作可能であってもよい。デコードピクチャをバッファするために用いられる、メモリ回路104内のバッファ領域は、デコードピクチャバッファ(DPB)と呼んでもよい。メモリ回路104は、シングルデータレート(SDR)ダイナミックランダムアクセスメモリ(DRAM)またはダブルデータレート(DDR)DRAMとして実現してもよい。他のメモリ技術を実行して、特定用途の基準を満たしてもよい。
DPBのサイズ低減には、下記のような技術の1つまたは複数を用いてもよい。いくつかの実施形態において、デコード回路102は、第1に、ピクチャ(例えば、PIC1)を標準解像度(例えば、RESA)でメモリ回路104に記憶し、後で、ピクチャPIC1を異なる解像度(例えば、RESB)でメモリ回路104に記憶してもよい。一般に、標準解像度RESAは、RESBよりも優れている。例えば、解像度RESAは、デコードピクチャのフル解像度であってもよい。解像度RESBは、半水平解像度、半垂直解像度、半水平および半垂直解像度、または別の低減解像度であってもよい。
他の実施形態において、デコード回路102は、他のピクチャの復元/デコードのために適切であると示される可能性がある参照ピクチャの全てを書き込まなくてもよい。参照ピクチャがメモリ回路104に欠落している場合には、誤差補正技術を利用して、デコードで用いるための代替参照ピクチャを生成してもよい。
さらに他の実施形態において、デコード回路102は、一般に、並べ替え遅延のために保持されるピクチャを低減解像度で書き込む(および/またはサイズ変更する)。「低減」は、標準デコード解像度/プロセス(例えば、特定のビットストリームシンタックス用のH.264規格デコードプロセス)との比較であってもよい。低減されたピクチャが、メモリ回路104から読み出された後、かつ表示される前に、低減されたピクチャは、標準解像度へ回復するためにアップサンプリングしてもよい。
他の実施形態において、デコード回路102は、ピクチャのいくつかだけを低減解像度で書き込むように動作可能であってもよい。残りのデコードピクチャは、標準(フル)解像度でメモリ回路104にバッファしてもよい。
図2〜21を参照すると、頭字語RRは、低減解像度でDPB(例えば、メモリ回路104)に記憶された参照ピクチャゆえに、ピクチャをデコードする間に潜在的ドリフトおよび/または誤差が導入される可能性がある状態を指してもよい。頭字語FRは、前にDPBから解放/上書き/削除されて欠落した参照ピクチャゆえに、ピクチャをデコードする間に潜在的ドリフトおよび/または誤差が導入される可能性がある状態を指してもよい。頭字語HHRは、ピクチャが半水平解像度でDPBに記憶される状態を指してもよい。いくつかの実施形態において、DPBは、1つの追加的なフル解像度ピクチャ用の記憶装置を有し、表示の前にデコードされる現在のピクチャを受信およびバッファしてもよい。他の実施形態において、DPBは、少なくとも2つの余分なマクロブロック行のための追加記憶装置を有して、表示の前に現在のピクチャ行を受信およびバッファしてもよい。
図2を参照すると、最古の参照ピクチャを破棄する第1の例示的なデコードシーケンスのための表が示されている。例示的なデコードシーケンスは、イントラピクチャ(「I」)と、後に続く予測ピクチャ(「P」)および/または瞬時デコードリフレッシュ(IDR)ピクチャアクセスポイント(例えば、ピクチャグループ(GOP)の開始)のシーケンスとを示す。例示的なピクチャシーケンスは、I P P P...を含むストリームであってもよい。Pピクチャのデコードは、4つまでの参照ピクチャを用いてもよい。表示遅延(行132)は、(i)マクロブロック適応フィールド/フレームを備えたH.264ストリーム用のデコード後の少なくとも2つのマクロブロック行、および(ii)ほとんどの他の場合におけるデコード後の少なくとも1つのマクロブロック行であってもよい。DPBへのデコードピクチャの記憶は、例では一般にフル解像度で実行される。
デコードシーケンスは、一般に、列110で始まるが、この列110では、最初のIピクチャ(例えば、I0)が、(i)デコードされ(行130)、(ii)短い遅延の後で表示される(行132)。列112では、(i)ピクチャI0は、DPBに記憶してもよく(行134)、(ii)最初のPピクチャ(例えば、P0)は、参照ピクチャとしてピクチャI0を利用して、デコードしてもよく(行130)、(iii)ピクチャP0は、表示してもよい(行132)。ピクチャI0がDPBにおいて利用可能なので、デコードピクチャP0は、一般に、欠落した参照フレームによるドリフトおよび/または誤差を少しも生じない(例えば、RFが引き起こす歪みがない)。
列114では、(i)ピクチャP0は、参照ピクチャとしてDPBに記憶してもよく(行132)、(ii)新しいPピクチャ(例えば、P1)は、DPBから参照ピクチャの1つまたは複数(例えば、I0および/またはP0)を用いてデコードしてもよく(行130)、(iii)ピクチャP1は、表示してもよい(行132)。DPBが、2つ以上のフル解像度参照ピクチャを保持する大きさにされる場合には(行136、138および140)、全ての潜在的参照ピクチャが、ピクチャP1をデコードするために利用可能であり、欠落したピクチャによるドリフトは、ピクチャP1では生じ得ない。DPBが2つ未満のフル解像度参照ピクチャを保持する大きさにされる場合には(行134)、最古の参照ピクチャI0がDPBから解放されたか、かつ/または参照ピクチャP0によって上書きされた可能性があるので、ピクチャP1は、ある小さなドリフト/誤差を生じる可能性がある。
列116では、(i)ピクチャP1は、参照ピクチャとしてDPBに記憶してもよく(行132)、(ii)新しいPピクチャ(例えば、P2)は、DPBから参照ピクチャの1つまたは複数(例えば、I0、P0および/またはP1)を用いてデコードしてもよく(行130)、(iii)ピクチャP2は、表示してもよい(行132)。DPBが、少なくとも3つのフル参照ピクチャを保持する大きさにされる場合には(行138および140)、ピクチャP2のデコードは、3つの全ての参照ピクチャを利用可能にしてもよい。DPBが3つ未満のフル参照ピクチャを保持する大きさにされ(行134および136)、かつ参照ピクチャI0および/またはP0が最古の参照ピクチャとして破棄される場合には、ピクチャP2は、いくらかの限られたドリフトおよび/または誤差を生じる可能性がある。
列118では、(i)ピクチャP2は、参照ピクチャとしてDPBに記憶してもよく(行132)、(ii)新しいPピクチャ(例えば、P3)は、DPBから参照ピクチャの1つまたは複数(例えば、I0、P0、P1および/またはP2)を用いてデコードしてもよく(行130)、(iii)ピクチャP3は、表示してもよい(行132)。DPBが、4つの全ての参照ピクチャを保持するために利用可能な十分なスペースを有する場合には(行140)、欠落した参照ピクチャによるドリフトおよび/または誤差が、ピクチャP3のデコードに導入されなくなり得る。DPBが4つ未満のフル解像度参照ピクチャを保持する大きさにされる場合には(行134、136および138)、ピクチャP3は、潜在的に欠落した参照ピクチャゆえに、ある小さなドリフト/誤差を生じる可能性がある。
列120では、(i)参照ピクチャI0(まだDPBにある場合)は、より新しい参照ピクチャ用に場所を空けるために破棄または解放してもよく、(ii)ピクチャP3は、参照ピクチャとしてDPBに記憶してもよく(行132)、(iii)次のPピクチャ(例えば、P4)は、参照ピクチャの1つまたは複数(例えば、P0、P1、P2および/またはP3)を用いてデコードしてもよく(行130)、(iv)ピクチャP4は、表示してもよい(行132)。DPBが、4つ以上のフル解像度参照ピクチャを保持するほど十分に大きい場合には(行140)、欠落した参照ピクチャが引き起こすドリフト/誤差は、ピクチャP4に生じない可能性がある。そうでなければ、より古い参照ピクチャが破棄され(行134、136および138)、起こり得るわずかなドリフト/誤差をピクチャP4に引き起こした可能性がある。
列122では、(i)参照ピクチャP0は破棄してもよく、(ii)ピクチャP4は、参照ピクチャとしてDPBに記憶してもよく(行132)、(iii)新しいPピクチャ(例えば、P5)は、DPBにおける利用可能な参照ピクチャ(例えば、P1、P2、P3および/またはP4)を用いてデコードしてもよく(行130)、(iv)ピクチャP5は、表示してもよい(行132)。ピクチャP4と同様に、DPBが、少なくとも4つのフル解像度参照ピクチャを保持する大きさにされる場合には(行140)、ピクチャP5は、欠落した参照ピクチャが引き起こすドリフト/誤差を有しない可能性がある。DPBの能力では4つ未満の参照ピクチャが保持される場合には(行134、136および138)、いくらかの限られたドリフト/誤差が、欠落した参照ピクチャゆえに、ピクチャP5のデコードに導入される可能性がある。
図3を参照すると、最古の参照ピクチャの解像度を動的に低減する第1の例示的なデコードシーケンスのための表が示されている。例示的なピクチャシーケンスは、I P P P...を含むストリームであってもよい。Pピクチャのデコードは、4つまでの参照ピクチャを用いてもよい。例におけるDPBは、3つまでのフル解像度参照ピクチャを保持する大きさにしてもよい。
列110〜116では、ピクチャI0、P0、P1およびP2は、前に図2に示したようにデコードおよび表示してもよい。DPBが少なくとも3つのフル解像度参照ピクチャを保持可能なので、欠落した参照ピクチャによるドリフトまたは誤差は、デコード中に導入されないようにできる。列150では、(i)参照ピクチャI0およびP0は、単一のフル解像度参照ピクチャと同じスペースを占めるように低減してもよく(行156および行158)、(ii)ピクチャP2は、フル解像度参照ピクチャとしてDPBに記憶してもよく(行134)、(iii)ピクチャP3は、デコードしてもよく(行130)、(iv)ピクチャP3は、表示してもよい(行132)。ピクチャP3のデコードが、低減解像度参照ピクチャ(例えば、hI0および/またはhP0)に依存可能なので、ある小さなドリフトおよび/または誤差が、ピクチャP3に導入される可能性がある。
列152では、最新の参照ピクチャの場所は、(i)低減されたピクチャI0(例えば、hI0)をDPBから破棄すること、ならびに(ii)低減されたピクチャP1(例えば、hP1)および低減されたピクチャP0(例えば、hP0)が、単一のフル解像度ピクチャのスペースを使うように(行156および158)、参照ピクチャP1を低減することによって(行156)、空けてもよい。次に、(iii)ピクチャP3は、DPBに記憶してもよく(行134)、(iv)ピクチャP4は、デコードしてもよく、(v)ピクチャP4は、表示してもよい。ピクチャP4のデコードが、低減解像度参照ピクチャ(例えば、hP0および/またはhP1)に依存可能なので、ある小さなドリフトおよび/または誤差が、ピクチャP4に導入される可能性がある。ピクチャP5のデコードは、ピクチャP4と同じ方法で進んでもよい(列154)。
図4を参照すると、最古の参照ピクチャを動的に低減する第1の例示的なデコードシーケンスのための表が示されている。例示的なピクチャシーケンスは、I P P P...を含むストリームであってもよい。Pピクチャのデコードは、4つまでの参照ピクチャを用いてもよい。例におけるDPBは、2.5までのフル解像度参照ピクチャを保持する大きさにしてもよい。DPBの他のサイズ(例えば、3.5のフル解像度参照ピクチャ)は、同じ技術に従ってもよい。
列110〜114では、ピクチャI0、P0およびP1は、前のように、デコードし、表示し、DPBに記憶してもよい。列160では、(i)参照ピクチャI0は、半フル解像度スペースに収まるようにダウンサンプリングしてもよく(例えば、hI0)(行170)、(ii)参照ピクチャP1は、DPBに記憶してもよく(行134)、(iii)ピクチャP2は、参照ピクチャhI0、P1および/またはP2の1つまたは複数を用いてデコードしてもよく(行130)、(iv)次に、ピクチャP2は、表示してもよい(行132)。ピクチャP2のデコードが、低減解像度参照ピクチャhI0を潜在的に用いるので、いくらかの限られたドリフトおよび/または誤差が、ピクチャP2に存在する可能性がある。
列162では、最新の参照ピクチャ用の場所は、(i)参照ピクチャP0(168行)および参照ピクチャP1(行170)の両方の解像度を低減することによって、DPBに空けてもよい。さらに、(ii)参照ピクチャhI0は、DPBに残ってもよい(172行)。次に、(iii)ピクチャP2は、参照ピクチャとして記憶してもよく、(iv)ピクチャP4は、デコードしてもよく(行130)、(v)ピクチャP4は、表示してもよい(行132)。ピクチャP3をデコードするために用いられる、4つの可能な参照ピクチャの3つ(例えば、hI0、hP0およびhP1)が、低減解像度で記憶されるので、ピクチャP3は、限られたドリフトおよび/または誤差を含む可能性がある。
列164では、(i)参照ピクチャhI0は、破棄してもよく、(ii)参照ピクチャP2の解像度は、より新しい参照ピクチャ用のスペースを生成するために低減してもよい(例えば、hP2)。次に、(iii)ピクチャP3は、DPBに記憶してもよく、(iv)ピクチャP4は、デコードしてもよく、(v)ピクチャP4は、表示してもよい。前のように、ピクチャP4は、低減解像度でDPBに記憶された、4つの参照ピクチャの3つゆえに、わずかな潜在的ドリフトおよび/または誤差を有する可能性がある。デコードは、フル解像度参照ピクチャP4ならびに低減解像度参照ピクチャhP3、hP2および/またはhP1を用いて、P5ピクチャに対して列166で継続してもよい。
図5を参照すると、全ての参照ピクチャを低減し、かつ最古の参照ピクチャを破棄する第1の例示的なデコードシーケンスのための表が示されている。例示的なピクチャシーケンスは、I P P P...を含むストリームであってもよい。Pピクチャのデコードは、4つまでの参照ピクチャを用いてもよい。DPBは、異なるサイズで示されている。
図6を参照すると、最古の参照ピクチャを破棄する第2の例示的なデコードシーケンスのための表が示されている。第2の例示的なピクチャシーケンスは、ストリームI B B P B B...であってもよい。例において、Bピクチャは、一般に、非参照ピクチャである。ブルーレイディスク(Blu−ray DiscTM)のH.264実施形態について、Bピクチャは、直前/直後のIピクチャ、Pピクチャおよび/または参照Bピクチャを参照するだけでもよい。ピクチャに取って代わる相補的フィールドペアを備え、I P B B B B P P B B B B P Pを含むフィールドピクチャGOPは、後に続く例においてもまた働くことが可能である。ブルーレイディスク(Blu−ray DiscTM)は、ブルーレイディスクアソシエーション(Blu−ray Disc Association)の商標である。
図7を参照すると、最古の参照ピクチャを動的に低減する第2の例示的なデコードシーケンスのための表が示されている。DPBは、例において、3つのフル解像度参照ピクチャを記憶する大きさにしてもよい。低減された参照ピクチャによるドリフト/誤差のわずかな可能性が存在し、(i)ブルーレイ基準の下でピクチャP3以上、および(ii)ブルーレイ基準なしではピクチャB4以上で始まる可能性がある。
図8を参照すると、最古の参照ピクチャを動的に低減する第2の例示的なデコードシーケンスのための表が示されている。DPBは、例において、2.5のフル解像度参照ピクチャを記憶する大きさにしてもよい。他のハーフサイズ(例えば、3.5)のDPBが、同様の方法で動作可能である。低減された参照ピクチャによるドリフト/誤差の小さな可能性が存在し、(i)ブルーレイ基準の下でピクチャP2以上、および(ii)ブルーレイ基準なしではピクチャB2以上で始まる可能性がある。
図9を参照すると、記憶用に全ての参照ピクチャを低減し、かつ最古の参照ピクチャを破棄する第2の例示的なデコードシーケンスのための表が示されている。参照ピクチャの全てが、低減解像度で記憶されるので、P0で始まる全てのピクチャは、低減解像度によって引き起こされる小さなドリフト/誤差を有する可能性がある。欠落した参照ピクチャによって引き起こされるドリフト/誤差は、図6に似ている可能性がある。
図10〜17を参照すると、用語「B」は、非参照Bピクチャを指してもよく、「Br」は、参照Bピクチャを指してもよい。I Br B P Br B...を含む第3の例示的なシーケンスが、一般的に示されている。ブルーレイH.264基準に対して、Bピクチャは、直前/直後のIピクチャ、Pピクチャおよび参照Brピクチャを参照するだけであってもよい。
図10を参照すると、最古の参照ピクチャを破棄する第3の例示的なデコードシーケンスのための表が示されている。図11を参照すると、一時的に参照Bピクチャを蓄積し、かつ最古の参照ピクチャを破棄する第3の例示的なデコードシーケンスのための表が示されている。図12を参照すると、全ての参照ピクチャを低減し、かつ最古の参照ピクチャを破棄する第3の例示的なデコードシーケンスのための表が示されている。
図13を参照すると、最古の参照ピクチャを破棄する第4の例示的なデコードシーケンスのための表が示されている。第4の例示的なシーケンスには、一般に、階層的GOPにおけるピクチャI B Br B P B Br B...が含まれる。サイズ3のDPBおよび非ブルーレイ基準にとって、欠落した参照ピクチャの潜在的ドリフトが、ピクチャB2の後に存在する可能性がある。ブルーレイ基準を備えたDPBサイズ3にとって、欠落した参照ピクチャの潜在的ドリフトが、ピクチャP2の後に存在する可能性がある。
図14を参照すると、最古の低減解像度参照ピクチャを動的に低減する第4の例示的なデコードシーケンスのための表が示されている。ブルーレイ基準では、低減参照ピクチャの潜在的ドリフトが、ピクチャP2から始まるデコードピクチャに対して存在する可能性がある。ブルーレイ基準なしでは、低減参照ピクチャの潜在的ドリフトは、デコードピクチャB2から始まって、存在する可能性がある。
図15を参照すると、ある参照ピクチャを低減し、時間的誤差を最小限にし、一時的に蓄積する第4の例示的なデコードシーケンスのための表が示されている。一般に、ドリフトは、Pピクチャでは見られないが、Bピクチャでは見られる可能性がある。例では、蓄積は、Pピクチャを過ぎては実行しなくてもよい。さらに、この例は、サブサンプリングされる記憶装置が十分であり得る限りは、動的なメモリ削減なしに実行してもよい。3.5のDPBサイズについて、低減解像度参照誤差が短い時間距離だけ蓄積するように、参照ピクチャhI0は、ピクチャBr2をデコードするためだけに用いてもよい。
図16を参照すると、いくつかの参照ピクチャを低減し、時間的蓄積を最小限にし、かつ最古の参照ピクチャを破棄する第4の例示的なデコードシーケンスのための表が示されている。図17を参照すると、全ての参照ピクチャを低減し、かつ最古の参照ピクチャを破棄する第4の例示的なデコードシーケンスのための表が示されている。低減参照ピクチャが引き起こすいくらかのドリフト/誤差は、全ての例に関して、ピクチャI0後の全てのピクチャに生じる可能性がある。欠落した参照ピクチャのドリフト/誤差は、最古の参照ピクチャを破棄することによって引き起こされる可能性がある。
上記の説明に基づいて、メディアプロセッサ回路100は、ほとんど常にドリフト(可視誤差)がほとんどないようにできるブルーレイ1080ラインインターレース4参照ピクチャデコードに対する解決策を提供可能である。記憶装置/メモリのうち3つの参照ピクチャの分量だけが、最も普通のGOP構造に対して用いられる場合であってさえ、ドリフトを小さなままに保つことができる。DPB=3ピクチャ用のいくつかの好ましい解決法が、H.264用に用いられる最も普通のGOP構造のいくつかに対して、図2〜17に太字で示されている。すなわち、I P P P P...、I B B P B B P...、I Br B P Br B P Br B P...およびI B Br B P B Br B P...である。
下記は、スペースを考慮して必要に応じて、H.264デコードで用いられるメモリを削減することによる「最悪の場合」の影響を制限する例示的な規則セットである。規則1:非参照ピクチャは、一般に、時間的に継続するドリフトを引き起こさないので、非参照ピクチャを第1に低減する。規則2:ミスマッチによるドリフトの期間を低減するために、予測/復元に対して短い(例えば、どちらかの方向に1つまたは2つのピクチャ)時間の、潜在的で間接的な影響を伴う参照ピクチャを低減する。規則3:より遠く離れた参照ピクチャは、予測/復元に対して(一般に)それほど頻繁には用いられない可能性があるという原理に基づいて、「最古の」参照ピクチャ、または続くピクチャデコードから時間的に最も遠くにあり得る参照ピクチャを低減する。規則4:メモリ帯域幅、およびメモリに既に存在するピクチャをダウンサイジングする処理コストを考慮する。メモリ帯域幅および/または処理サイクルが不十分な場合には、(i)復元された情報を、一度、低減解像度で記憶するようにし、(ii)フル解像度で記憶し、リードバックし、解像度を低減し、次にメモリに書き戻すのではないようにして、現在デコードされているピクチャの低減を試みる。規則4は、システムのボトルネックに応じて規則1〜3に優先してもよい。記憶装置が主なシステムボトルネックである場合には、一般に規則1、2、3を順番に適用する。処理サイクルおよび/またはメモリ帯域幅の1つまたは両方が、主なシステムボトルネックである場合には、サイクル/帯域幅が予算内になるまで、規則4を考慮してもよい。
図18を参照すると、ピクチャを処理する方法200のフローチャートが示されている。方法(またはプロセス)200には、一般に、ステップ(またはブロック)202、ステップ(またはブロック)204、ステップ(またはブロック)206、ステップ(またはブロック)208、ステップ(またはブロック)210、ステップ(またはブロック)212、ステップ(またはブロック)214、ステップ(またはブロック)216、ステップ(またはブロック)218、ステップ(またはブロック)220、ステップ(またはブロック)222、ステップ(またはブロック)224およびステップ(またはブロック)226が含まれる。
デコード回路102は、ステップ202において、符号化されたピクチャを信号BSで受信してもよい。ステップ204において、符号化されたピクチャをデコード回路102によってデコードし、復元されるピクチャをフル解像度で生成してもよい。いくつかの実施形態において、フル解像度で復元されたピクチャは、ステップ206でメモリ回路104に記憶してもよい。ステップ208において、復元ピクチャは、表示シーケンス(デコードシーケンスとは異なってもよい)でメモリ回路104から読み出してもよい。復元ピクチャは、ステップ210で表示してもよい。
いくつかの実施形態において、復元ピクチャ全体を一度に記憶することは、避けてもよい。かかる場合には、フル解像度デコードピクチャの少数(例えば、2つ)のマクロブロック行を、ピクチャがデコードされているときに、メモリ回路104にバッファしてもよい。より新しいマクロブロック行が記憶されているのと同時に、より古いマクロブロック行は、ステップ214でメモリ回路104から読み出し、ステップ210で表示してもよい。
いくつかの実施形態において、復元ピクチャは、低減解像度のフォーマットでメモリ回路104に記憶してもよい。例えば、ピクチャが、フル(標準)解像度でデコードされた後で、ピクチャは、ステップ216でダウンサンプリングし、ステップ218において、低減解像度でメモリ回路104に記憶してもよい。ときには、フル解像度の復元ピクチャは、ステップ206に従ってメモリ回路104に既に存在する可能性がある。したがって、復元ピクチャは、ステップ208でメモリ回路104から読み出し、ステップ216でダウンサンプリングし、ステップ218でメモリ回路104に書き戻してもよい。同じ参照ピクチャの2つのコピーをメモリ回路104に同時に有するのを避けるために、前にフル解像度ピクチャによって占められた領域は、ステップ220で解放してもよい。解放は、低減解像度ピクチャが書き込まれる前かまたは後に行ってもよい。ステップ220において、低減解像度復元ピクチャは、表示順序(書き込み順序と異なってもよい)で、メモリ回路104から読み出してもよい。ステップ210で表示するために、低減解像度ピクチャのアップサンプリングをステップ224で実行して、ピクチャをフル解像度に回復してもよい。
他の実施形態において、デコードは、ピクチャの復元およびダウンサンプリングの両方を同時に実行するように構成してもよい。ステップ226において、復元ピクチャは、低減解像度で直接生成してもよい(例えば、ブロックフィルタリングの一部としてダウンサンプリングされる)。次に、低減解像度ピクチャは、ステップ216で記憶し、ステップ222で読み出し、ステップ224でアップサンプリングし、ステップ210で表示してもよい。
図19を参照すると、デコードピクチャバッファ(DPB)におけるサンプルの書き込みおよび解放の図が示されている。第1のピクチャ(例えば、P0 FULL)は、エリア230でDPBに記憶してもよい。領域232にあるDPBの残りは、空で利用可能なままであってもよい。DPBにおける利用可能スペースを増加させるために、ピクチャP0は、半水平解像度にダウンサンプリングし(例えば、P0 HHR)、エリア230の前半に記憶(例えば、エリア234に記憶)してもよい。低減ピクチャP0 HHRが、オリジナルピクチャP0 FULLに重複しない、エリア230の後半(例えば、エリア236)は、後の使用のために解放してもよい。
第2のフル解像度ピクチャ(例えば、P1 FULL)は、領域238でDPBに記憶してもよい。領域238は、ピクチャP0 FULLが低減されたときに利用可能にされた未使用の領域236に重複してもよい。P1 FULLは、その後、DPBから読み出され、ダウンサンプリングされ、低減されたバージョン(例えば、P1 HHR)が、エリア240でDPBに書き込まれてもよい。ピクチャP1 HHRがDPBにおいて利用可能なので、ピクチャP1 FULLを保持するエリア238は、さらなる使用のために解放してもよい(利用可能にされる)。第3のフル解像度ピクチャ(例えば、P3 FULL)は、解放された(空いている)エリア238に記憶するか、または(図示のように)DPBの別の領域242に記憶してもよい。
いくらか後の時間に、ピクチャP0 HHRを破棄して、新しいピクチャのためにスペース234を解放してもよい。別の新しいピクチャ(例えば、P3 FULL)は、古いスペース234およびスペース238の前半を含むスペース244でDPBに記憶してもよい。空いたスペース238の後半(例えば、スペース246)は、未使用のままでもよい。ピクチャP3 FULLはまた、DPBにおいて、スペース246または(図示のように)別のエリア(例えば、エリア248)に、低減解像度(例えば、P3 HHR)で記憶してもよい。
図20を参照すると、低減解像度参照データを処理する例示的な方法250のフローチャートが示されている。方法(またはプロセス)250には、一般に、ステップ(またはブロック)252、ステップ(またはブロック)254、ステップ(またはブロック)256、ステップ(またはブロック)258、ステップ(またはブロック)260、ステップ(またはブロック)262およびステップ(またはブロック)264が含まれる。方法250は、図18に示されているデコードステップ204および/または226内にサブステップを形成してもよい。
残りのマクロブロックが復元されるときに、関連する低減解像度参照マクロブロックは、ステップ252でメモリ回路104から読み出してもよい。ステップ254において、低減解像度参照マクロブロックは、フル解像度にアップサンプリングしてもよい。ステップ256において、動き補正(例えば、サブピクセル補間)を、フル解像度参照マクロブロックについて実行してもよい。次に、ステップ258において、動き補正された参照マクロブロックを残りのマクロブロックに追加して、復元マクロブロックを生成してもよい。復元マクロブロックは、ステップ260でブロックフィルタリングし、次に、記憶および/または表示してもよい。
いくつかの実施形態において、1つまたは複数の参照ピクチャは、デコードで用いられる前に、メモリ回路104から解放しておいてもよい(例えば、ステップ262)。欠落した参照ピクチャに対して補正するために、ステップ264で誤差補正技術を用いて、欠落した参照マクロブロック用の適切な代替を生成してもよい。誤差補正技術には、限定するわけではないが、欠落した参照ピクチャの代わりに代替参照ピクチャからのデータを用いること、および別のピクチャからの空間的予測によって欠落した参照ピクチャを再生成することが含まれる。特定用途の基準を満たすために、他の誤差補正技術を実行してもよい。
図21を参照すると、例示的なピクチャシーケンスの図が示されている。例示的なシーケンスには、一般に、P0 B1 B2 B3 B4 B5 B6 B7 P8が含まれる。ピクチャP0は、ピクチャB1、B2およびB4用の参照ピクチャとして用いてもよい。ピクチャP8は、ピクチャB7、B6およびB4用の参照ピクチャとして用いてもよい。ピクチャB4は、ピクチャB3およびB5用の参照ピクチャとして用いてもよい。ピクチャB2は、ピクチャB1およびB3用の参照ピクチャであってもよい。ピクチャB6は、ピクチャB5およびB7用の参照ピクチャであってもよい。
DPBの使用を最小限にするために、参照ピクチャのいくつかは、ダウンサンプリング(ダウンサイズ)してもよい。いくつかの実施形態において、最古の参照ピクチャは、より早くダウンサイズしてもよい。「最古」は、次の基準の任意の1つまたは複数を用いて決定してもよい。すなわち、これらの基準は、(i)H.264ピクチャの順序カウント、(ii)タイムスタンプ、(iii)表示順序、(iv)デコード順、(v)H.264フレーム番号(例えば、frame_num)、(vi)H.264リスト0ピクチャ番号(例えば、picNumL0)、(vii)H.264リスト1ピクチャ番号(例えば、picNumL1)および(viii)、ピクチャが、「短期」参照ピクチャかまたは「長期」参照ピクチャかどうかということ、である。短期参照ピクチャの例は、時間的に近接したピクチャB2用にだけ用いられるピクチャB1であってもよい。長期参照ピクチャの例は、時間的に離れたピクチャP4のデコードのために用いられるピクチャP0であってもよい。
他の実施形態において、参照ピクチャのダウンサイジングは、短い時間的影響に基づいて、より早く実行してもよい。例えば、少数/一組を超える隣接フレームによって、たとえ間接的にも予測のために用いられない参照Bピクチャは、ダウンサンプリングしてもよい。別の例では、たとえ間接的であっても少数/一組の隣接フレームを参照するためだけに用いられるBrフレームによって用いられるだけのPピクチャは、ダウンサンプリングしてもよい。
解像度低減は、復元ピクチャが、表示並べ替え(並べ替え遅延)のためにバッファされるときに、DPBのスペースを節約するように用いてもよい。例えば、並べ替え遅延を受ける、いくつかまたは全ての非参照ピクチャは、低減解像度でDPBに記憶してもよい。次に、ピクチャは、表示される直前にフル解像度にアップサンプリングしてもよい。「低減」は、一般に、標準デコード解像度/プロセス(例えば、特定のビットストリームシンタックス用のH.264標準デコードプロセス)に比べてである。並べ替え遅延のためだけに記憶される非参照ピクチャは、サブサンプリング(低減)された場合でも、一般に、どんな他のピクチャへもドリフトを伝搬しない。
ダウンサンプリングは、様々な条件下で参照ピクチャに適用してもよい。例えば、短い時間距離でドリフト/誤差を伝搬することが知られている参照ピクチャは、低減解像度での記憶用に優先してもよい。特に、ブルーレイストリームの参照Bフレームは、デコード順において後に続き、かつデコード順において次のIフレームまたはP−フレームに先行するBフレームを超えてはドリフトを伝搬し得ない。より具体的には、多くても2つの追加フレームが、ブルーレイストリームにおける参照ピクチャのダウンサンプリングゆえに、ダウンサンプリングされた参照Bフレームに加えてドリフトする可能性がある。
別の例において、他のピクチャの予測にそれほど寄与しないことが(順方向ストリーム分析などの、あるプロセスによって)知られている参照ピクチャは、ダウンサンプリングしてもよい。さらに、解像度を低減された場合でも、それほど歪みを導入し得ない、ある一定の参照ピクチャ(例えば、既に比較的ぼやけているか、または他のピクチャにおける他の多くのピクセルによって予測のために参照されない)もまた、低減解像度での記憶用に優先してもよい。
当業者には明らかであろうが、図18および20の図によって実行される機能は、本明細書の教示に従ってプログラムされた従来の汎用デジタルコンピュータを用いて実現してもよい。また当業者には明らかであろうが、適切なソフトウェアコーディングは、本開示の教示に基づき、熟練したプログラマによって容易に準備することができる。
本発明はまた、ASIC、FPGAを準備することによって、または本明細書で説明するように、従来の要素回路の適切なネットワークを相互接続することによって実現してもよく、これらの修正は、当業者には容易に明らかになろう。
したがって、本発明にはまた、コンピュータ製品を含んでもよいが、このコンピュータ製品は、コンピュータをプログラムして本発明によるプロセスを実行するために使用できる命令を含む記憶媒体であってもよい。記憶媒体には、限定するわけではないが、フロッピー(登録商標)ディスク、光ディスク、CD−ROM、光磁気ディスク、ROM、RAM、EPROM、EEPROM、フラッシュメモリ、磁気もしくは光カードを含む任意のタイプのディスク、または電子命令を記憶するのに適した任意のタイプの媒体、を含むことができる。本明細書で用いるように、用語「同時」は、ある共通の期間を共有するイベントを説明するように意味されているが、しかしこの用語は、同じ時点で始まるか、同じ時点で終了するか、または同じ期間を有するイベントに制限されるようには意味されていない。
本発明を、その好適な実施形態に関連して特に図示し説明したが、本発明の範囲から逸脱せずに、形態および詳細の様々な変更をなし得ることが、当業者によって理解されよう。

Claims (22)

  1. (A)ビットストリームから第1のピクチャをデコードするステップであって、前記第1のピクチャが第1の解像度を有するステップと、
    (B)前記第1のピクチャを前記第1の解像度でメモリに記憶するステップと、
    (C)前記第1のピクチャを第2の解像度で前記メモリに記憶するステップであって、前記第2の解像度が前記第1の解像度より低いステップと、
    を含む、ビデオデコードのための方法。
  2. 前記第1のピクチャを前記第1の解像度で記憶する前記メモリの領域を解放するステップと、
    前記第1のピクチャを前記第1の解像度で前に記憶した前記領域における部分を用いて、第2のピクチャを前記メモリに記憶するステップであって、前記部分が、(i)前記第1の解像度の前記第1のピクチャと、(ii)前記第2の解像度の前記第1のピクチャとの間の差異を含むステップと、
    をさらに含む、請求項1に記載の方法。
  3. 前記第1のピクチャが、前記メモリに記憶された複数の参照ピクチャの間で最古の参照ピクチャであることに応じて、前記第1のピクチャを前記第1の解像度で記憶する前記メモリの領域を解放するステップであって、前記最古の参照ピクチャが、(i)ピクチャ順序カウント、(ii)タイムスタンプ、(iii)表示順序、(iv)デコード順序、(v)フレーム番号、(vi)リスト0ピクチャ番号、(vii)リスト1ピクチャ番号、および(viii)デコードされている現在のピクチャからの時間距離、の少なくとも1つに基づいて決定されるステップをさらに含む、請求項1に記載の方法。
  4. (i)前記第1のピクチャが非参照ピクチャであること、および(ii)前記第1のピクチャが、並べ替え遅延を受けることの両方に応じて、前記第1のピクチャを前記第1の解像度で記憶する前記メモリの領域を解放するステップをさらに含む、請求項1に記載の方法。
  5. (i)前記第1のピクチャが、前記メモリに記憶された複数の参照ピクチャの1つを含むこと、および(ii)前記第1のピクチャが、長い時間距離にわたってはデコードに影響を及ぼさないことの両方に応じて、前記第1のピクチャを前記第1の解像度で記憶する前記メモリの領域を解放するステップをさらに含む、請求項1に記載の方法。
  6. (i)前記ビットストリームをデコードすること、および(ii)前記第1の解像度の前記第1のピクチャをダウンサンプリングすることのうちの1つによって、前記第2の解像度の前記第1のピクチャを生成するステップをさらに含む、請求項1に記載の方法。
  7. 前記ビットストリームから第2のピクチャをデコードするステップであって、前記第2の解像度の前記第1のピクチャが、前記第2のピクチャがデコードされた後で前記メモリに記憶されるステップをさらに含む、請求項1に記載の方法。
  8. (i)前記デコードが、H.264規格のデコードを含み、(ii)前記メモリがダイナミックランダムアクセスメモリを含み、(iii)前記第1の解像度がフル解像度を含み、(iv)前記第2の解像度が半水平解像度を含む、請求項1に記載の方法。
  9. 前記ビットストリームから第2のピクチャをデコードするステップと、
    前記第2のピクチャを前記第2の解像度で前記メモリに記憶するステップと、
    をさらに含む、請求項1に記載の方法。
  10. 前記第2のピクチャを前記第2の解像度から前記第1の解像度にアップサンプリングするステップと、
    第1の解像度の前記第2のピクチャを前記デコードにおける参照ピクチャとして用いて、前記ビットストリームから第3のピクチャをデコードするステップと、
    をさらに含む、請求項9に記載の方法。
  11. (i)前記メモリに記憶されていない、前記第1の解像度の前記第2のピクチャと、
    (ii)(a)前記メモリ用の利用可能なメモリ帯域幅、(b)利用可能なダウンサンプリングサイクル、および(c)前記メモリにおける利用可能な記憶エリア、の少なくとも1つに基づいて、前記メモリに記憶された前記第1の解像度の前記第2のピクチャと、の1つをダウンサンプリングすることによって、前記第2の解像度の前記第2のピクチャを生成するステップをさらに含む、請求項9に記載の方法。
  12. (A)ビットストリームから複数の参照ピクチャをデコードするステップと、
    (B)前記参照ピクチャのサブセットをメモリに記憶するステップと、
    (C)前記ビットストリームから特定のピクチャをデコードするステップであって、前記特定のピクチャを符号化するために用いられる前記参照ピクチャの少なくとも1つが、前記特定のピクチャがデコードされる間、前記メモリに記憶されていないステップと、
    を含む、ビデオデコードのための方法。
  13. ステップ(C)が、
    少なくとも1つの誤差補正技術を用いて前記特定のピクチャをデコードするサブステップを含む、請求項12に記載の方法。
  14. 前記参照ピクチャの最古のピクチャを前記メモリから破棄するステップであって、前記最古の参照ピクチャが、(i)ピクチャ順序カウント、(ii)タイムスタンプ、(iii)表示順序、(iv)デコード順序、(v)フレーム番号、(vi)リスト0ピクチャ番号、(vii)リスト1ピクチャ番号、および(viii)デコードされている現在のピクチャからの時間距離、の少なくとも1つに基づいて決定されるステップをさらに含む、請求項12に記載の方法。
  15. (A)ビットストリームから複数の第1のピクチャをデコードするステップであって、前記第1のピクチャのそれぞれが、第1の解像度を有するステップと、
    (B)前記第1のピクチャのサブセットをダウンサンプリングすることによって、複数の第2のピクチャを生成するステップであって、前記第2のピクチャのそれぞれが、前記第1の解像度より低い第2の解像度を有するステップと、
    (C)前記第2のピクチャをメモリに記憶するステップと、
    (D)表示に先立って前記第2のピクチャのシーケンスを並べ替えるステップと、
    を含む、ビデオデコードのための方法。
  16. 前記ビットストリームから複数の参照ピクチャをデコードするステップと、
    前記参照ピクチャをダウンサンプリングすることによって、複数の低減参照ピクチャを生成するステップと、
    前記低減参照ピクチャを前記メモリに記憶するステップと、
    前記第1のピクチャをデコードする際に用いるために、前記低減参照ピクチャをアップサンプリングするステップと、
    をさらに含む、請求項15に記載の方法。
  17. (A)ビットストリームから複数の復元ピクチャをデコードするステップであって、前記復元ピクチャが、複数の第1のピクチャおよび複数の第2のピクチャを含むステップと、
    (B)前記第2のピクチャをダウンサンプリングすることによって、複数の第3のピクチャを生成するステップと、
    (C)(i)前記第1のピクチャおよび(ii)前記第3のピクチャの両方をメモリに記憶するステップと、
    を含む、ビデオをデコードするための方法。
  18. 前記第2のピクチャが、並べ替え遅延を受ける複数の非参照ピクチャを含む、請求項17に記載の方法。
  19. 前記第2のピクチャが、長い時間距離にわたってはデコードに影響を及ぼさない参照ピクチャを含む、請求項17に記載の方法。
  20. 前記第2のピクチャは、(i)の少なくとも1つが前記復元ピクチャの少数をデコードする際に用いられ、かつ(ii)が前記復元ピクチャをデコードする際に小さな歪みを導入する参照ピクチャを含む、請求項17に記載の方法。
  21. 前記第2のピクチャが、
    並べ替え遅延を受ける複数の非参照ピクチャと、
    前記非参照ピクチャをデコードする際に用いられる参照ピクチャと、
    を含む、請求項17に記載の方法。
  22. 前記復元ピクチャが、複数の参照ピクチャをさらに含み、
    前記方法が、
    前記第2のピクチャの少なくとも1つを前記メモリに記憶するステップであって、前記第3のピクチャが、前記少なくとも1つの第2のピクチャより低い解像度を有するステップと、
    前記参照ピクチャのサブセットを前記メモリに記憶するステップであって、前記復元ピクチャの特定の1つを符号化するために用いられる前記参照ピクチャの少なくとも1つが、前記特定のピクチャがデコードされる間、前記メモリに記憶されていないステップと、 表示の前に前記第3のピクチャのシーケンスを並べ替えるステップと、
    をさらに含む、請求項17に記載の方法。
JP2009521801A 2006-07-27 2007-07-24 ビデオデコーダーのメモリ削減のための方法 Expired - Fee Related JP5059860B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US11/494,105 2006-07-27
US11/494,105 US7801223B2 (en) 2006-07-27 2006-07-27 Method for video decoder memory reduction
PCT/US2007/016628 WO2008013802A2 (en) 2006-07-27 2007-07-24 Method for video decoder memory reduction

Publications (3)

Publication Number Publication Date
JP2009545234A true JP2009545234A (ja) 2009-12-17
JP2009545234A5 JP2009545234A5 (ja) 2012-03-15
JP5059860B2 JP5059860B2 (ja) 2012-10-31

Family

ID=38982022

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009521801A Expired - Fee Related JP5059860B2 (ja) 2006-07-27 2007-07-24 ビデオデコーダーのメモリ削減のための方法

Country Status (6)

Country Link
US (1) US7801223B2 (ja)
EP (1) EP2055104A4 (ja)
JP (1) JP5059860B2 (ja)
KR (1) KR101176584B1 (ja)
CN (1) CN101513064B (ja)
WO (1) WO2008013802A2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008167449A (ja) * 2006-12-28 2008-07-17 Samsung Electronics Co Ltd 映像の符号化、復号化方法及び装置
JP2013106090A (ja) * 2011-11-10 2013-05-30 Ntt Docomo Inc 動画像予測符号化方法、動画像予測符号化装置、動画像予測符号化プログラム、動画像予測復号方法、動画像予測復号装置および動画像予測復号プログラム

Families Citing this family (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101321284B (zh) * 2007-06-10 2012-01-04 华为技术有限公司 一种编解码方法、设备及系统
US8861598B2 (en) * 2008-03-19 2014-10-14 Cisco Technology, Inc. Video compression using search techniques of long-term reference memory
JPWO2010092740A1 (ja) * 2009-02-10 2012-08-16 パナソニック株式会社 画像処理装置、画像処理方法、プログラムおよび集積回路
CN101895764B (zh) * 2010-08-09 2012-07-11 北京海尔集成电路设计有限公司 一种节省存储空间的视频解码方法
US20140169449A1 (en) * 2011-07-05 2014-06-19 Telefonaktiebolaget L M Ericsson (Publ) Reference picture management for layered video
US9106927B2 (en) 2011-09-23 2015-08-11 Qualcomm Incorporated Video coding with subsets of a reference picture set
US9264717B2 (en) 2011-10-31 2016-02-16 Qualcomm Incorporated Random access with advanced decoded picture buffer (DPB) management in video coding
CN102647558A (zh) * 2012-04-18 2012-08-22 深圳市联祥瑞实业有限公司 监控视频记录方法及设备
US20160311386A1 (en) * 2013-12-19 2016-10-27 Hutchinson Element of an engine compartment of a motor vehicle and method of protecting the element against chemical attacks from a metal halide
GB2539241B (en) 2015-06-11 2019-10-23 Advanced Risc Mach Ltd Video processing system
JP6679290B2 (ja) 2015-11-30 2020-04-15 ルネサスエレクトロニクス株式会社 半導体装置
CN105915784A (zh) * 2016-04-01 2016-08-31 纳恩博(北京)科技有限公司 信息处理方法和装置
WO2020156540A1 (en) 2019-02-02 2020-08-06 Beijing Bytedance Network Technology Co., Ltd. Buffer management for intra block copy in video coding
KR20210123300A (ko) 2019-02-02 2021-10-13 베이징 바이트댄스 네트워크 테크놀로지 컴퍼니, 리미티드 비디오 코딩에서 인트라 블록 복사를 위한 버퍼 관리
CN109831599B (zh) * 2019-02-21 2021-09-14 苏州天准科技股份有限公司 一种基于fpga的针对3d测量中图像存储的压缩方法
KR102688366B1 (ko) * 2019-03-01 2024-07-24 베이징 바이트댄스 네트워크 테크놀로지 컴퍼니, 리미티드 비디오 코딩에서 인트라 블록 복사를 위한 방향 기반 예측
WO2020177662A1 (en) 2019-03-01 2020-09-10 Beijing Bytedance Network Technology Co., Ltd. Implementation aspects in intra block copy in video coding
KR20210125506A (ko) 2019-03-04 2021-10-18 베이징 바이트댄스 네트워크 테크놀로지 컴퍼니, 리미티드 비디오 코딩에서 인트라 블록 복사를 위한 버퍼 관리
CN111754387B (zh) * 2019-03-28 2023-08-04 杭州海康威视数字技术股份有限公司 一种图像处理方法及设备
CN117294841A (zh) 2019-07-06 2023-12-26 北京字节跳动网络技术有限公司 用于视频编解码中的帧内块复制的虚拟预测缓冲
JP7359934B2 (ja) 2019-07-10 2023-10-11 北京字節跳動網絡技術有限公司 映像符号化におけるイントラブロックコピーのためのサンプル識別
EP3981146A4 (en) 2019-07-11 2022-08-03 Beijing Bytedance Network Technology Co., Ltd. BITSTREAM CONFORMITY RESTRICTIONS FOR INTRA-BLOCK COPY IN VIDEO ENCODING
CN115022670B (zh) * 2022-05-31 2023-09-05 咪咕文化科技有限公司 视频文件存储方法、还原方法、装置、设备及存储介质
CN117979062B (zh) * 2024-03-05 2024-07-12 北京瑞祺皓迪技术股份有限公司 一种基于编码流引用计数的实时视频流传输方法及装置

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2296618A (en) * 1994-12-30 1996-07-03 Winbond Electronics Corp Digital video decoding system requiring reduced memory space
JPH1066081A (ja) * 1996-06-19 1998-03-06 Thomson Consumer Electron Inc Mpegデコーダのためのマルチモード・データ削減システム
JP2000004442A (ja) * 1998-06-15 2000-01-07 Hitachi Ltd ディジタル符号化画像データの復号・表示装置
EP1292154A2 (en) * 2001-08-20 2003-03-12 Broadcom Corporation A method and apparatus for implementing reduced memory mode for high-definition television
JP2003179826A (ja) * 2001-12-11 2003-06-27 Hitachi Ltd 画像再生表示装置
JP2003289544A (ja) * 2002-03-27 2003-10-10 Sony Corp 画像情報符号化装置及び方法、画像情報復号装置及び方法、並びにプログラム
JP2004274694A (ja) * 2002-07-11 2004-09-30 Matsushita Electric Ind Co Ltd 画像符号化方法及び画像復号化方法
US20040199740A1 (en) * 2003-04-07 2004-10-07 Nokia Corporation Adaptive and recursive compression of lossily compressible files

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5724475A (en) * 1995-05-18 1998-03-03 Kirsten; Jeff P. Compressed digital video reload and playback system
JPH09121358A (ja) * 1995-10-25 1997-05-06 Matsushita Electric Ind Co Ltd 画像符号化及び復号化装置と方法
US5825424A (en) * 1996-06-19 1998-10-20 Thomson Consumer Electronics, Inc. MPEG system which decompresses and recompresses image data before storing image data in a memory and in accordance with a resolution of a display device
KR100282307B1 (ko) * 1998-02-20 2001-02-15 구자홍 디지탈 티브이 수신 디코더 장치
US6222944B1 (en) * 1998-05-07 2001-04-24 Sarnoff Corporation Down-sampling MPEG image decoder
JP4051841B2 (ja) * 1999-12-01 2008-02-27 ソニー株式会社 画像記録装置および方法
JP3938368B2 (ja) * 2003-09-02 2007-06-27 ソニー株式会社 動画像データの編集装置および動画像データの編集方法

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2296618A (en) * 1994-12-30 1996-07-03 Winbond Electronics Corp Digital video decoding system requiring reduced memory space
JPH1066081A (ja) * 1996-06-19 1998-03-06 Thomson Consumer Electron Inc Mpegデコーダのためのマルチモード・データ削減システム
JP2000004442A (ja) * 1998-06-15 2000-01-07 Hitachi Ltd ディジタル符号化画像データの復号・表示装置
EP1292154A2 (en) * 2001-08-20 2003-03-12 Broadcom Corporation A method and apparatus for implementing reduced memory mode for high-definition television
JP2003179826A (ja) * 2001-12-11 2003-06-27 Hitachi Ltd 画像再生表示装置
JP2003289544A (ja) * 2002-03-27 2003-10-10 Sony Corp 画像情報符号化装置及び方法、画像情報復号装置及び方法、並びにプログラム
JP2004274694A (ja) * 2002-07-11 2004-09-30 Matsushita Electric Ind Co Ltd 画像符号化方法及び画像復号化方法
US20040199740A1 (en) * 2003-04-07 2004-10-07 Nokia Corporation Adaptive and recursive compression of lossily compressible files

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008167449A (ja) * 2006-12-28 2008-07-17 Samsung Electronics Co Ltd 映像の符号化、復号化方法及び装置
JP2013106090A (ja) * 2011-11-10 2013-05-30 Ntt Docomo Inc 動画像予測符号化方法、動画像予測符号化装置、動画像予測符号化プログラム、動画像予測復号方法、動画像予測復号装置および動画像予測復号プログラム

Also Published As

Publication number Publication date
US7801223B2 (en) 2010-09-21
EP2055104A4 (en) 2011-09-14
US20080025407A1 (en) 2008-01-31
JP5059860B2 (ja) 2012-10-31
WO2008013802A2 (en) 2008-01-31
CN101513064A (zh) 2009-08-19
KR101176584B1 (ko) 2012-08-23
EP2055104A2 (en) 2009-05-06
KR20090046807A (ko) 2009-05-11
WO2008013802A3 (en) 2008-11-27
CN101513064B (zh) 2013-08-14

Similar Documents

Publication Publication Date Title
JP5059860B2 (ja) ビデオデコーダーのメモリ削減のための方法
JP3395166B2 (ja) 統合ビデオ復号化システム、フレーム・バッファ、符号化ストリーム処理方法、フレーム・バッファ割当て方法及び記憶媒体
US8428126B2 (en) Image decoding device with parallel processors
US5835636A (en) Method and apparatus for reducing the memory required for decoding bidirectionally predictive-coded frames during pull-down
KR100376207B1 (ko) 비디오신장프로세서에있어서디램(dram)의효율적인어드레싱을행하기위한방법및장치
US6104416A (en) Tiling in picture memory mapping to minimize memory bandwidth in compression and decompression of data sequences
US6088391A (en) Method and apparatus for segmenting memory to reduce the memory required for bidirectionally predictive-coded frames
US6198773B1 (en) Video memory management for MPEG video decode and display system
US8170107B2 (en) Flexible reduced bandwidth compressed video decoder
JPH08265766A (ja) デジタルビデオ減圧プロセッサ及びそのためのdramマッピング方法
JPH08505512A (ja) 映像デコーダにおけるチャンネル・バッファの管理
JP2012502592A (ja) 並列処理を用いた復号システムおよび方法
US6028612A (en) Picture memory mapping to minimize memory bandwidth in compression and decompression of data sequences
JPWO2010092740A1 (ja) 画像処理装置、画像処理方法、プログラムおよび集積回路
TW200833124A (en) Memory reduced H264/MPEG-4 AVC codec
US8184700B2 (en) Image decoder
TW450004B (en) Programmable filter for removing selected user data from an MPEG-2 bit-stream
US20080267295A1 (en) Video decompression, de-interlacing and frame rate conversion with frame buffer compression
KR20170065568A (ko) 샘플 메타데이터와 미디어 샘플들의 결합
US20090022229A1 (en) Efficient image transmission between TV chipset and display device
US20050025250A1 (en) Video decoding during I-frame decode at resolution change
KR100535296B1 (ko) 디지털방식으로코딩된비디오필름의원래의데이터를재생하는방법및그방법을수행하는장치
US8027383B2 (en) Mosquito noise reduction filter in digital decoders
EP1142345A1 (en) Video memory management for mpeg video decode and display system
JP2011091592A (ja) 画像符号化装置、符号変換装置、画像記録装置、画像再生装置、画像符号化方法及び、集積回路

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100705

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120124

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120126

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20120126

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120131

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120423

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20120509

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120522

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120621

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120717

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120802

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150810

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees