JP6058736B2 - 映像シーケンスのピクチャの復号化及び符号化 - Google Patents

映像シーケンスのピクチャの復号化及び符号化 Download PDF

Info

Publication number
JP6058736B2
JP6058736B2 JP2015097696A JP2015097696A JP6058736B2 JP 6058736 B2 JP6058736 B2 JP 6058736B2 JP 2015097696 A JP2015097696 A JP 2015097696A JP 2015097696 A JP2015097696 A JP 2015097696A JP 6058736 B2 JP6058736 B2 JP 6058736B2
Authority
JP
Japan
Prior art keywords
pictures
output
picture
marked
decoded
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015097696A
Other languages
English (en)
Other versions
JP2015216638A (ja
Inventor
リチャード ショーベリ,
リチャード ショーベリ,
ジョナサン サミュエルソン,
ジョナサン サミュエルソン,
Original Assignee
テレフオンアクチーボラゲット エルエム エリクソン(パブル)
テレフオンアクチーボラゲット エルエム エリクソン(パブル)
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by テレフオンアクチーボラゲット エルエム エリクソン(パブル), テレフオンアクチーボラゲット エルエム エリクソン(パブル) filed Critical テレフオンアクチーボラゲット エルエム エリクソン(パブル)
Publication of JP2015216638A publication Critical patent/JP2015216638A/ja
Application granted granted Critical
Publication of JP6058736B2 publication Critical patent/JP6058736B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/587Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal sub-sampling or interpolation, e.g. decimation or subsequent interpolation of pictures in a video sequence
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • H04N19/152Data rate or code amount at the encoder output by measuring the fullness of the transmission buffer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H04N19/31Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability in the temporal domain
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/423Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation characterised by memory arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Television Signal Processing For Recording (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Description

本発明は、一般に、映像シーケンスのピクチャの復号化及び符号化に関し、特に、ピクチャの復号化及び符号化に関連する復号化ピクチャバッファからのピクチャの出力又はバンピングに関する。
H.264映像圧縮
H.264(Moving Picture Experts Group−4高度映像符号化(MPEG−4 AVC))は、最新の映像符号化規格である。これは、時間冗長及び空間冗長を利用するブロックに基づく複合映像符号化方式で構成される。H.264/AVC規格は、デコーダが規格に対応するために指定されたシーケンスにおいて実行される必要のある多くの復号化処理を含む仕様書において定義される。エンコーダに対する要求はないが、良好な圧縮効率を達成するために、エンコーダも処理の大部分を実行する場合が多い。
H.264/AVCは、ピクチャが復号化された後に復号化ピクチャを格納する復号化ピクチャバッファ(DPB)を定義する。これは、デコーダがシーケンスを復号化するために、定義された量のメモリを使用する必要があることを意味する。DPBは、後続のピクチャを復号化する間に参照に使用されるピクチャを含む。本明細書中、「参照に使用される」は、特定のピクチャが別のピクチャの復号化時に予測に使用されることを意味する。その場合、参照に使用されるピクチャの画素値は、現在復号化されているピクチャの画素値を予測するために使用されてもよい。これをフレーム間予測とも呼ぶ。DPBは、出力を待機しているピクチャを更に含む。本明細書中、「出力」は、デコーダがデコーダの外部にピクチャを出力する機能を意味する。H.264仕様は、ビットストリームが復号化ピクチャに変換された後に出力される方法を説明する(図1を参照)。出力されたピクチャは、例えば表示されるか又はディスクに書き込まれてもよい。
DPB内のピクチャが出力を待機している1つの一般的な理由は、当該ピクチャより前に出力されるがまだ復号化されていないピクチャが存在するためである。
図2は、3つのピクチャA、B及びCの一例を示す。復号化の順序は、圧縮形式のピクチャがデコーダに供給される順序である。これは通常は、ピクチャがエンコーダにより符号化される順序と同一である。図2は、本例における復号化の順序がA、B及びCであることを示す。出力の順序は、復号化ピクチャが出力される順序である。図2に示すように、出力の順序は復号化の順序と同一である必要がなく、図2において、出力の順序はA、C、Bである。図中の矢印は、各ピクチャの参照に使用されるピクチャを示し、ピクチャAはピクチャB及びピクチャCの双方の参照に使用される。
図2において、ピクチャCは、ピクチャBより後に復号化されるが、ピクチャBより前に出力される。ピクチャBが復号化された場合、ピクチャCがまだ復号化されておらず且つピクチャCがピクチャBより前に出力される必要があるため、ピクチャBをすぐに出力できない。従って、ピクチャBが他の何らかのピクチャにより参照に使用されない場合でも、ピクチャBは復号化後にDPBに格納される必要がある。ピクチャCを復号化する場合、ピクチャCがピクチャAを参照に使用するため、ピクチャAもDPB内に存在する必要がある。
出力の順序は、PictureOrderCount(POC)値を信号伝送することにより制御される。全てのピクチャのPOCを伝達するために、ビットストリーム内に構文要素が存在し、それらの値はピクチャの出力の順序を定義するために使用される。
DPBの状況を把握するために、H.264/AVCは、ピクチャが復号化された後に実行される3つの処理、すなわち、ピクチャマーキング処理、ピクチャ出力処理及び解放処理を含む。
ピクチャマーキング処理は、ピクチャに「参照に使用されるもの」又は「参照に使用されないもの」のいずれかとしてマーキングする。「参照に使用されるもの」としてマーキングされたピクチャは参照に使用可能であり、これは、復号化の順序が後ろであるピクチャが復号化処理において当該ピクチャを参照に使用してもよいことを意味する。「参照に使用されないもの」としてマーキングされたピクチャは、後続のピクチャにより参照に使用できない。当該処理は、ビットストリームを介してエンコーダにより制御される。オプションの構文がH.264/AVCビットストリーム内に存在する場合、これは、「参照に使用されないもの」としてマーキングされるピクチャを示す。多くの場合、当該動作をメモリ管理制御動作(MMCO)と呼ぶ。オプションのMMCO構文が存在しない場合、「スライディングウィンドウ」処理と呼ばれる先入れ先出し機構が定義される。スライディングウィンドウ処理は、最後に復号化されたピクチャによりDPB内のピクチャの個数が多くなりすぎる場合、復号化の順序が最初のピクチャが自動的に「参照に使用されないもの」としてマーキングされることを意味する。
ピクチャマーキング処理の後に実行されるピクチャ出力処理は、ピクチャに「出力が必要なもの」又は「出力が不要なもの」のいずれかとしてマーキングする。「出力が必要なもの」としてマーキングされるピクチャは、まだ出力されていないものであり、「出力が不要なもの」としてマーキングされるピクチャは、すでに出力され、出力を待機していないものである。ピクチャ出力処理は、ピクチャの出力も行う。これは、処理が「出力が必要なもの」としてマーキングされるピクチャを選択し、それらを出力し、その後に「出力が不要なもの」としてマーキングすることを意味する。ピクチャ出力処理は、ピクチャが出力される順序を判定する。尚、ピクチャ出力処理は、1つの特定のピクチャが復号化された後、0個以上のピクチャを出力し且つマーキングしてもよい。
上記の2つの処理がデコーダにより実行された後、解放処理が実行される。「参照に使用されないもの」及び「出力が不要なもの」の双方としてマーキングされたピクチャは、DPBから削除され且つ除去される。これをDPBピクチャスロットのうちの1つが解放されたと呼ぶ場合がある。
H.264/AVCにおけるDPBのサイズは制限される。これは、出力を待機しているか又は参照に使用できるため格納されるピクチャの個数が制限されることを意味する。可変のmax_dec_frame_bufferingは、DPB内に存在するピクチャスロットの数と呼ぶ場合もあるDPBのサイズを示す。エンコーダは、DPBのサイズが超過しないことを確認する必要がある。
3つの処理は規格において説明される。これは、デコーダがエンコーダにより制御されるため、デコーダが出力の順序を決められないことを意味する。これは、ピクチャ出力処理及びエンコーダにより送出されるビットストリーム内の関連する要素により全て判定される。H.264/AVCの復号化ステップの簡略なフローチャートを図3に示す。
H.264におけるピクチャ出力処理は、ピクチャが出力される順序を定義する。正しい順序でピクチャを出力するデコーダは、出力の順序に対応する。デコーダは、H.264において説明されるピクチャの出力処理に従ってもよいが、場合によっては、ピクチャ出力処理により与えられるより早い可変のnum_reorder_framesを使用して、ピクチャを出力できる。num_reorder_framesは、何らかのピクチャより復号化の順序が前であり且つ出力の順序が後ろであるピクチャの最大個数を示す。
図4は、ピクチャBが復号化された場合の一例を示す。しかし、ピクチャCがピクチャBより前に出力されるか又は後に出力されるかが分からないため、ピクチャBを出力できない。出力の順序が復号化の順序と同一であるとエンコーダが決定した場合、エンコーダはデコーダに0のnum_reorder_frames値を示すことができる。それにより、エンコーダは本例におけるピクチャCがピクチャBより後に出力されることを保証し、デコーダはピクチャBが復号化されるとすぐにそれを出力できる。本例において、num_reorder_framesが0である場合、デコーダにおいて追加の再配列遅延は存在しない。本例におけるnum_reorder_framesが1に設定される場合、ピクチャCがピクチャBより前に出力される可能性がある。num_reorder_framesが1である場合、1ピクチャ分の追加の再配列遅延が存在し、num_reorder_framesが2である場合、再配列遅延は2ピクチャ分である。
HEVC映像圧縮
H.265とも呼ばれる高効率映像符号化(HEVC)は、映像符号化共同研究部会(JCT−VC)において開発された映像符号化規格である。JCT−VCは、MPEGと国際電気通信連合・電気通信標準化部門(ITU−T)との共同プロジェクトである。HEVCは、多くの新規ツールを含み、H.264/AVCよりはるかに効率的である。HEVCは、ピクチャが属する時間レイヤに対応する各ピクチャに対するtemporal_idを更に定義する。時間レイヤは順序が付けられ、下位の時間レイヤは上位の時間レイヤに依存しないという特性を有する。従って、下位の時間レイヤに影響を及ぼさずに上位の時間レイヤを除去できる。時間レイヤの除去を時間スケーリングとも呼ぶことができる。HEVCビットストリームは、ビットストリーム内に存在してもよい時間レイヤの最大個数を指定する構文要素max_sub_layers_minus1を含む。デコーダは、全ての時間レイヤを復号化してもよく、あるいは、時間レイヤのサブセットのみを復号化してもよい。デコーダが実際に復号化する最上位時間レイヤを最上位時間サブレイヤと呼び、これは、max_sub_layers_minus1により指定されるレイヤの最大個数以下に設定されてもよい。その場合、デコーダは最上位時間サブレイヤ以下の全てのレイヤを復号化する。最上位時間サブレイヤは外部手段により設定されてもよい。
尚、上記の説明は、時間レイヤに特定されるものではなく、空間レイヤ及び品質レイヤ等の他の種類のレイヤにも当てはまる。その場合、デコーダが復号化する時間レイヤを最上位復号化レイヤと呼ぶ。
HEVCの復号化の流れは、H.264/AVCと若干異なる。HEVCは、DPB、ピクチャに「参照に使用されるもの」及び「参照に使用されないもの」としてマーキングするピクチャマーキング処理、ピクチャに「出力が必要なもの」及び「出力が不要なもの」としてマーキングするピクチャ出力処理、並びに解放処理を有する。H.264/AVCと同様に、HEVCもPOC値を使用してピクチャの出力の順序を定義する。HEVCにおいて、POC値は可変のPicOrderCntValにより表され、ピクチャはPicOrderCntValの昇順で出力される。
しかし、HEVCはMMCO又はスライディングウィンドウ処理を有さない。その代わりに、HEVCは、「参照に使用されるもの」としてマーキングされるピクチャのリストが各スライスヘッダにおいて明示的に送出されることを指定する。HEVCにおけるピクチャへのマーキングは、当該リストを使用し、リストに記載されたDPB内の全てのピクチャが「参照に使用されるもの」としてマーキングされ且つリストに記載されていないDPB内の全てのピクチャが「参照に使用されないもの」としてマーキングされることを保証する。リストは参照ピクチャセット(RPS)と呼ばれ、各スライスヘッダにおいて1つのリストを送出することは、DPBにおける参照マーキングの状態が明確であり且つ各スライスにおいて繰り返されることを意味する。これは、H.264/AVCと異なる。
RPSがHEVCにおいて使用されるため、ピクチャマーキング処理、ピクチャ出力処理及び解放処理は全て、ピクチャの第1のスライスヘッダの構文解析後に実行される(図5を参照)。
H.264/AVCに対して説明されるnum_reorder_framesの機能性は、HEVCにおいて同様に存在する。HEVCビットストリームは、iが時間レイヤであるmax_num_reorder_pics[i]で示される構文要素を各時間レイヤに対して含む。max_num_reorder_pics[i]の機能はnum_reorder_framesと同一であるが、この場合の各符号語は、その時間レイヤ以下の時間レイヤに存在する復号化の順序がピクチャより前であり且つ出力の順序が当該ピクチャより後ろであるピクチャの最大許容個数を示す。
復号化の順序がA、B、C、D、Eであり且つ出力の順序がA、D、C、E、Bである図6の例を考慮する。これは時間レイヤを使用するピクチャの構造であり、ピクチャA及びピクチャBが最下位時間レイヤ(レイヤ0)に属し、ピクチャCが中間の時間レイヤ(レイヤ1)に属し、ピクチャD及びピクチャEが最上位時間レイヤ(レイヤ2)に属する。図中の矢印は、他のピクチャにより参照に使用されるピクチャを示す。例えばピクチャAからピクチャBへの矢印が存在するため、ピクチャAはピクチャBにより参照に使用される。HEVCにおけるmax_num_reorder_picsの最善の使用は、出力遅延を可能な限り減少するために、max_num_reorder_pics[i]を可能な限り小さい値に設定することである。各時間レイヤに対するmax_num_reorder_picsの可能な最小値を図6に示す。これが最下位レイヤに対して0である理由は、何らかのピクチャより復号化の順序が前であるが出力の順序が後ろであるピクチャがレイヤ0に存在しないためである。レイヤ1の場合、ピクチャBはピクチャCより復号化の順序が前であるが出力の順序が後ろであり、レイヤ2の場合、ピクチャB及びピクチャCの双方はピクチャDより復号化の順序が前であるが出力の順序が後ろである。
デコーダが時間レイヤ0のみを復号化すると認識している場合、デコーダはピクチャBを復号化後すぐに出力できる可能性があるが、デコーダが全てのレイヤを復号化する場合、デコーダはピクチャBを復号化後すぐに出力できない。その場合、デコーダは、出力の順序がピクチャBより後ろである2つのピクチャが復号化されるまで待つ必要がある。
2012年9月12日に発表されたJCTVC−K0030_v3、Proposed Editorial Improvement for High efficiency video coding(HEVC) Text Specification Draft 8、B.Bross他、JCT−VC of ITU−T SG16 WP3 and ISO/IEC JTC1/SC29/WG11 11th Meeting、上海、2012年10月10日〜19日は、62ページの7.4.2.1節及び64ページの7.4.2.2節においてmax_num_reorder_picsの使用を説明する。
no_output_of_prior_pics_flag
H.264ビットストリーム及びHEVCビットストリームの双方は、no_output_of_prior_pics_flagと呼ばれるフラグを指定する。当該フラグは、ランダムアクセスピクチャ(RAP)のスライスヘッダ内に存在する。ランダムアクセスピクチャは、ストリームの処理を開始できるピクチャである。それらは、デコーダがランダムアクセスポイントから復号化を開始する場合、後続のピクチャの復号化を正確に実行できることを保証する。デコーダが処理を開始するために、ランダムアクセスピクチャより復号化の順序が前であるピクチャを含むデータが供給される必要がない。
no_output_of_prior_pics_flagは、復号化ピクチャバッファ内の以前に復号化されたピクチャがランダムアクセスピクチャの復号化後に処理される方法を指定する。簡潔に述べると、no_output_of_prior_pics_flagが1である場合、DPB内の「出力が必要なもの」としてマーキングされたピクチャは出力される必要がなく、no_output_of_prior_pics_flagが0である場合、そのようなピクチャは出力される必要がある。
max_num_reorder_picsが0であり且つピクチャCはno_output_of_prior_pics_flagが1であるランダムアクセスピクチャである一例を示す図7を考慮する。H.264において、ピクチャBを復号化した後すぐにピクチャBを出力できる。現在のHEVC仕様において、ピクチャCが1に等しいno_output_of_prior_pics_flagを有するRAPピクチャであるか否かをデコーダがピクチャBの復号化直後に認識しないため、ピクチャBを復号化した後すぐにピクチャBを出力できない。ピクチャCがそのようなピクチャでない場合、ピクチャBを復号化した後すぐにピクチャBを出力できる。しかし、ピクチャCが実際は1であるno_output_of_prior_pics_flagを有するRAPである場合、ピクチャCのスライスヘッダの復号化時にピクチャBが「出力が必要なもの」としてマーキングされるため、ピクチャBは出力されるべきでない。
HEVCにおけるピクチャ出力処理はスライスヘッダが構文解析される際に行われ且つno_output_of_prior_pics_flagが重要な特徴であるため、現在のHEVC規格はH.264/AVCより出力遅延が大きい。
no_output_of_prior_pics_flagの使用の情報は、JCTVC−K0030_v3の75ページの7.4.7.1節及び26ページのC.5.2節において開示される。
HEVCにおいてRPSを使用することによる利点は、H.264/AVCの方法と比較して誤り耐性がはるかに高いことである。また、時間スケーラビリティがより単純である。HEVCの解決策に関する問題は、H.264/AVCと比較してピクチャの出力に関する更なる遅延が導入されることである。H.264/AVCにおいて、ピクチャは復号化された後に出力できる。HEVCにおいて、デコーダは、ピクチャが出力される前に、次のピクチャのスライスヘッダが構文解析されるのを待つ必要がある。これにより遅延が発生する。
従って、従来技術の映像符号化の欠点、特に、従来技術の映像符号化において生じる場合のある遅延の問題を解決する必要がある。
一般的な目的は、映像シーケンスのピクチャの向上された復号化及び符号化を提供することである。
特定の目的は、ピクチャの出力遅延を減少できるそのような復号化及び符号化を提供することである。
上記の目的及び他の目的は、本明細書中で開示される実施形態により達成される。
実施形態の一態様は、デコーダにより実行される方法に関する。方法は、現在のピクチャが復号化され且つ復号化ピクチャバッファ(DPB)に格納された後に、DPB内の出力が必要なものとしてマーキングされたピクチャの個数を判定することを含む。方法は、個数と値sps_max_num_reorder_pics[HighestTid]とを比較することを更に含む。HighestTidは、映像シーケンスのデコーダにより復号化される最上位レイヤを指定する。方法は、個数が値より大きい場合、DPB内の出力が必要なものとしてマーキングされたピクチャのうち、出力の順序が最初のピクチャを出力することを更に含む。個数が値より大きい場合、ピクチャは、出力が不要なものとして更にマーキングされる。
実施形態の関連する一態様は、映像シーケンスのピクチャを表すビットストリームの現在のピクチャが復号化され且つDPBに格納された後に、DPB内の出力が必要なものとしてマーキングされたピクチャの個数を判定するように構成されるデコーダを定義する。デコーダは、個数と値sps_max_num_reorder_pics[HighestTid]とを比較するように更に構成される。デコーダは、個数が値より大きい場合、DPB内の出力が必要なものとしてマーキングされたピクチャのうち、出力の順序が最初のピクチャを出力し且つピクチャに出力が不要なものとしてマーキングするように更に構成される。
実施形態の別の関連する態様は、映像シーケンスのピクチャを表すビットストリームの現在のピクチャが復号化され且つDPBに格納された後に、DPB内の出力が必要なものとしてマーキングされたピクチャの個数を判定する個数判定モジュールを備えるデコーダを定義する。デコーダは、個数と値sps_max_num_reorder_pics[HighestTid]とを比較する比較モジュールを更に備える。デコーダは、個数が値より大きい場合、DPB内の出力が必要なものとしてマーキングされたピクチャのうち、出力の順序が最初のピクチャを出力する出力モジュールを更に備える。デコーダは、個数が値より大きい場合、ピクチャに出力が不要なものとしてマーキングするマーキングモジュールを更に備える。
実施形態の別の態様は、エンコーダにより実行される方法に関する。方法は、現在のピクチャが復号化され且つDPBに格納された後に、DPB内の出力が必要なものとしてマーキングされたピクチャの個数を判定することを含む。方法は、個数と値sps_max_num_reorder_pics[HighestTid]とを比較することを更に含む。方法は、個数が値より大きい場合、DPB内の出力が必要なものとしてマーキングされたピクチャのうち、出力の順序が最初のピクチャに出力が不要なものとしてマーキングすることを更に含む。
実施形態の関連する一態様は、現在のピクチャが復号化され且つDPBに格納された後に、DPB内の出力が必要なものとしてマーキングされたピクチャの個数を判定するように構成されるエンコーダを定義する。エンコーダは、個数と値sps_max_num_reorder_pics[HighestTid]とを比較するように更に構成される。エンコーダは、個数が値より大きい場合、DPB内の出力が必要なものとしてマーキングされたピクチャのうち、出力の順序が最初のピクチャに出力が不要なものとしてマーキングするように更に構成される。
実施形態の別の関連する態様は、現在のピクチャが復号化され且つDPBに格納された後に、DPB内の出力が必要なものとしてマーキングされたピクチャの個数を判定する個数判定モジュールを備えるエンコーダを定義する。エンコーダは、個数と値sps_max_num_reorder_pics[HighestTid]とを比較する比較モジュールを更に備える。エンコーダは、個数が値より大きい場合、DPB内の出力が必要なものとしてマーキングされたピクチャのうち、出力の順序が最初のピクチャに出力が不要なものとしてマーキングするマーキングモジュールを更に備える。
実施形態の更なる一態様は、デコーダにより実行される方法に関する。方法は、映像シーケンスの復号化される現在のピクチャのスライスヘッダを構文解析することを備える。方法は、構文解析されたスライスヘッダに基づいて、現在のピクチャに対する参照ピクチャセット(RPS)を判定することを更に含む。方法は、RPS内に存在しないDPB内の全てのピクチャに参照に使用されないものとしてマーキングすることを更に含む。DPB内のピクチャのうち、出力が必要なものとしてマーキングされた0個以上のピクチャが出力され且つ出力が不要なものとしてマーキングされる。方法は、DPB内のピクチャのうち、参照に使用されないもの及び出力が不要なものとしてマーキングされたピクチャをDPBから削除することを更に含む。方法は、現在のピクチャを復号化することと、DPB内の出力が必要なものとしてマーキングされたピクチャの個数を判定することとを更に含む。個数は、映像シーケンスのピクチャを表すビットストリーム内に存在する少なくとも1つの構文要素から導出される値と比較される。個数が値より大きい場合、DPB内の出力が必要なものとしてマーキングされたピクチャのうち、出力の順序が最初のピクチャが出力され、出力が不要なものとしてマーキングされる。一実施形態において、ピクチャの個数の判定、個数の比較、ピクチャの出力及びピクチャへのマーキングは、現在のピクチャを復号化した後に実行される。
実施形態の関連する一態様は、映像シーケンスのピクチャを表すビットストリームの復号化される現在のピクチャのスライスヘッダを構文解析し且つ構文解析されたスライスヘッダに基づいて現在のピクチャに対するRPSを判定するように構成されるデコーダを定義する。デコーダは、RPS内に存在しないDPB内の全てのピクチャに参照に使用されないものとしてマーキングするように更に構成される。デコーダは、DPB内のピクチャのうち、出力が必要なものとしてマーキングされた0個以上のピクチャを出力し且つ0個以上のピクチャに出力が不要なものとしてマーキングするように更に構成される。デコーダは、DPB内のピクチャのうち、参照に使用されないもの及び出力が不要なものとしてマーキングされたピクチャをDPBから削除するように更に構成される。本実施形態において、デコーダは、現在のピクチャを復号化するように更に構成される。デコーダは、DPB内の出力が必要なものとしてマーキングされたピクチャの個数を判定するように更に構成される。デコーダは、個数とビットストリーム内に存在する少なくとも1つの構文要素から導出される値とを比較するように更に構成される。本実施形態において、デコーダは、個数が値より大きい場合、DPB内の出力が必要なものとしてマーキングされたピクチャのうち、出力の順序が最初のピクチャを出力し且つピクチャに出力が不要なものとしてマーキングするように構成される。デコーダは、現在のピクチャを復号化した後に、ピクチャの個数を判定し、個数を比較し、ピクチャを出力し且つピクチャにマーキングするように構成されるのが好ましい。
実施形態の別の関連する態様は、映像シーケンスのピクチャを表すビットストリームの復号化される現在のピクチャのスライスヘッダを構文解析する構文解析モジュールを備えるデコーダを定義する。デコーダは、構文解析されたスライスヘッダに基づいて現在のピクチャに対するRPSを判定する参照ピクチャセット判定モジュールを更に備える。デコーダは、RPS内に存在しないDPB内の全てのピクチャに参照に使用されないものとしてマーキングするマーキングモジュールと、DPB内のピクチャのうち、出力が必要なものとしてマーキングされた0個以上のピクチャを出力する出力モジュールとを更に備える。マーキングモジュールは更に、0個以上のピクチャに出力が不要なものとしてマーキングする。デコーダは、DPB内のピクチャのうち、参照に使用されないもの及び出力が不要なものとしてマーキングされたピクチャをDPBから削除するピクチャ削除モジュールを備える。デコーダは、現在のピクチャを復号化する復号化モジュールを更に備える。デコーダは、DPB内の出力が必要なものとしてマーキングされたピクチャの個数を判定する個数判定モジュールと、個数とビットストリーム内に存在する少なくとも1つの構文要素から導出される値とを比較する比較モジュールとを更に備える。本実施形態において、出力モジュールは更に、個数が値より大きい場合、DPB内の出力が必要なものとしてマーキングされたピクチャのうち、出力の順序が最初のピクチャを出力する。マーキングモジュールは更に、個数が値より大きい場合、ピクチャに出力が不要なものとしてマーキングする。好適な一実施形態において、復号化モジュールが現在のピクチャを復号化した後に、個数判定モジュールはピクチャの個数を判定し、比較モジュールは個数を比較し、出力モジュールはピクチャを出力し、マーキングモジュールはピクチャにマーキングする。
実施形態の更に別の態様は、エンコーダにより実行される方法に関する。方法は、映像シーケンスの現在のピクチャに対するRPS内に存在しないDPB内の全てのピクチャに参照に使用されないものとしてマーキングすることと、DPB内のピクチャのうち、出力が必要なものとしてマーキングされた0個以上のピクチャに出力が不要なものとしてマーキングすることとを含む。方法は、DPB内のピクチャのうち、参照に使用されないもの及び出力が不要なものとしてマーキングされたピクチャをDPBから削除することを更に含む。方法は、現在のピクチャを復号化することを更に含む。DPB内の出力が必要なものとしてマーキングされたピクチャの個数が判定され、少なくとも1つの定義された構文要素から導出される値と比較される。方法は、個数が値より大きい場合、DPB内の出力が必要なものとしてマーキングされたピクチャのうち、出力の順序が最初のピクチャに出力が不要なものとしてマーキングすることを更に含む。好適な一実施形態において、ピクチャの個数の判定、個数の比較及びピクチャへのマーキングは、現在のピクチャを復号化した後に実行される。
実施形態の関連する一態様は、映像シーケンスの現在のピクチャに対するRPS内に存在しないDPB内の全てのピクチャに参照に使用されないものとしてマーキングするように構成されるエンコーダを定義する。エンコーダは、DPB内のピクチャのうち、出力が必要なものとしてマーキングされた0個以上のピクチャに出力が不要なものとしてマーキングし且つDPB内のピクチャのうち、参照に使用されないもの及び出力が不要なものとしてマーキングされたピクチャをDPBから削除するように更に構成される。エンコーダは、現在のピクチャを復号化するように更に構成される。エンコーダは、DPB内の出力が必要なものとしてマーキングされたピクチャの個数を判定し且つ個数と少なくとも1つの定義された構文要素から導出される値とを比較するように更に構成される。エンコーダは、個数が値より大きい場合、DPB内の出力が必要なものとしてマーキングされたピクチャのうち、出力の順序が最初のピクチャに出力が不要なものとしてマーキングするように更に構成される。好適な一実施形態において、エンコーダは、現在のピクチャを復号化した後に、ピクチャの個数を判定し、個数を比較し且つピクチャにマーキングするように構成される。
実施形態の別の関連する態様は、映像シーケンスの現在のピクチャに対するRPS内に存在しないDPB内の全てのピクチャに参照に使用されないものとしてマーキングし且つDPB内のピクチャのうち、出力が必要なものとしてマーキングされた0個以上のピクチャに出力が不要なものとしてマーキングするマーキングモジュールを備えるエンコーダを定義する。エンコーダは、DPB内のピクチャのうち、参照に使用されないもの及び出力が不要なものとしてマーキングされたピクチャをDPBから削除するピクチャ削除モジュールを更に備える。エンコーダは、現在のピクチャを復号化する復号化モジュールを更に備える。エンコーダは、DPB内の出力が必要なものとしてマーキングされたピクチャの個数を判定する個数判定モジュールと、個数と少なくとも1つの定義された構文要素から導出される値とを比較する比較モジュールとを更に備える。本実施形態において、マーキングモジュールは更に、個数が値より大きい場合、DPB内の出力が必要なものとしてマーキングされたピクチャのうち、出力の順序が最初のピクチャに出力が不要なものとしてマーキングする。好適な一実施形態において、復号化モジュールが現在のピクチャを復号化した後に、個数判定モジュールはピクチャの個数を判定し、比較モジュールは個数を比較し、マーキングモジュールはピクチャにマーキングする。
実施形態の更なる態様は、上記に係るデコーダ及び/又は上記に係るエンコーダを備える移動端末、並びに上記に係るデコーダ及び/又は上記に係るエンコーダを備えるネットワークノードに関する。
実施形態は、その更なる目的及び利点と共に、以下の説明及び添付の図面を参照することにより最もよく理解されるだろう。
図1は、H.264/AVCデコーダを示す概略図である。 図2は、マルチレイヤ映像シーケンスの一例に対する出力の順序及び復号化の順序を示す図である。 図3は、H.264/AVCの復号化を簡略に示すフローチャートである。 図4は、マルチレイヤ映像シーケンスの一例に対する出力の順序及び復号化の順序を示す図である。 図5は、HEVCの復号化を簡略に示すフローチャートである。 図6は、マルチレイヤ映像シーケンスの一例に対する出力の順序、復号化の順序及び時間レイヤ示す図である。 図7は、映像シーケンスの一例に対する出力の順序及び復号化の順序を示す図である。 図8は、一実施形態に係るデコーダにより実行される方法を示すフローチャートである。 図9は、図8の方法の追加のオプションのステップを示すフローチャートである。 図10は、図8の方法の追加のオプションのステップを示すフローチャートである。 図11は、別の実施形態に係るデコーダにより実行される方法を示すフローチャートである。 図12は、図9又は図11の方法の追加のオプションのステップを示すフローチャートである。 図13は、図8又は図11の方法の追加のオプションのステップを示すフローチャートである。 図14は、一実施形態の復号化を簡略に示すフローチャートである。 図15は、別の実施形態の復号化を簡略に示すフローチャートである。 図16は、一実施形態に係るデコーダを概略的に示すブロック図である。 図17は、別の実施形態に係るデコーダを概略的に示すブロック図である。 図18は、更なる一実施形態に係るデコーダを概略的に示すブロック図である。 図19は、更に別の実施形態に係るデコーダを概略的に示すブロック図である。 図20は、更なる一実施形態に係るデコーダを概略的に示すブロック図である。 図21は、一実施形態に係るエンコーダにより実行される方法を示すフローチャートである。 図22は、別の実施形態に係るエンコーダにより実行される方法を示すフローチャートである。 図23は、一実施形態に係るエンコーダを概略的に示すブロック図である。 図24は、別の実施形態に係るエンコーダを概略的に示すブロック図である。 図25は、更なる一実施形態に係るエンコーダを概略的に示すブロック図である。 図26は、更に別の実施形態に係るエンコーダを概略的に示すブロック図である。 図27は、更なる一実施形態に係るエンコーダを概略的に示すブロック図である。 図28は、一実施形態に係る移動端末を概略的に示すブロック図である。 図29は、一実施形態に係るネットワークノードを概略的に示すブロック図である。 図30は、マルチレイヤ映像シーケンスの一例に対する出力の順序及び復号化の順序を示す図である。
図中、同一の図中記号が同様又は対応する要素に対して使用される。
本発明は、一般に、映像シーケンスのピクチャの復号化及び符号化に関し、特に、ピクチャの復号化及び符号化に関連する復号化ピクチャバッファからのピクチャの出力又はバンピングに関する。従って、実施形態は、出力遅延の減少を可能にし、最新の解決策より早くピクチャを出力できるようにする。
一般的な一実施形態において、ピクチャが復号化される場合、デコーダ又はエンコーダ(ピクチャの復号化は、以前に符号化されたピクチャから復元参照ピクチャを取得するために、符号化中にも実行される)は、復号化ピクチャバッファ(DPB)内の出力が必要なものとしてマーキングされたピクチャの個数を判定し、当該個数とビットストリーム内の構文要素から導出される値とを比較する。DPB内の出力が必要なものとしてマーキングされたピクチャの個数がビットストリーム内の構文要素から導出される値より大きい場合、修正された出力処理が実行されるか、あるいは、DPB内の出力が必要なものとしてマーキングされたピクチャのうち、出力の順序が最初のピクチャが出力され、出力が不要なものとしてマーキングされる。これをピクチャ出力処理#2と示す。
本明細書中、最初に復号化側を説明した後に符号化側を説明して、種々の特定の実現例の実施形態及び態様を以下に更に説明する。
本明細書中、出力が必要なものとしてマーキングされることは、ピクチャが表示又は格納等のために出力されるのを待機していることを示す。それに対応して、本明細書中、出力が不要なものとしてマーキングされることは、ピクチャが出力されるのを待機していないこと、例えば既に出力されたことを示す。それに対応して、参照に使用されるものとしてマーキングされることは、ピクチャが別のピクチャの復号化時に予測に使用されることを示す。参照に使用されないものとしてマーキングされることは、ピクチャが後続のピクチャにより参照又は予測に使用できないことを示す。上述のようにマーキングすることは、ラベル「出力が必要なもの」、「出力が不要なもの」、「参照に使用されるもの」又は「参照に使用されないもの」をピクチャに文字通りマーキングすることであると解釈されるべきでない。寧ろ、マーキングは、ピクチャが出力される必要がある/必要がない及び参照ピクチャとして使用できる/使用できないと何らかの方法で識別されることであると解釈されるべきである。マーキングは、種々の実施形態で実現されてもよい。例えばピクチャは、出力される必要があるピクチャ又は出力される必要がないピクチャ、あるいは、参照ピクチャとして使用できるピクチャ又は参照ピクチャとして使用できないピクチャに対するDPBの専用の特定の部分に格納されてもよい。あるいは、ピクチャは、出力が必要なもの又は出力が不要なもの及び参照に使用されるもの又は参照に使用されないものとしてピクチャを識別するフラグ又は他の符号語を用いてタグ付けされるか又はそれらと関連付けられてもよい。フラグを使用する一実現例の場合、フラグは、選択肢の1つを示す第1の値(0bin又は1bin)及び他の選択肢を示す第2の値(1bin又は0bin)を有してもよい。例えば、第1のフラグがピクチャの出力に関して使用されてもよく、第2のフラグが参照に関して使用されてもよい。
従って、一般的な一態様は、デコーダにより実行される方法に関する。方法において、デコーダは、DPB内の出力が必要なものとしてマーキングされたピクチャの個数を判定し、当該個数とビットストリーム内の構文要素から導出される値とを比較する。DPB内の出力が必要なものとしてマーキングされたピクチャの個数がビットストリーム内の構文要素から導出される値より大きい場合、修正された出力処理が実行されるか、あるいは、DPB内の出力が必要なものとしてマーキングされたピクチャのうち、出力の順序が最初のピクチャが出力され、出力が不要なものとしてマーキングされる。本明細書中、これをピクチャ出力処理#2と示す。
この一般的な態様は、本明細書中でH.265対応デコーダとしても示されるHEVC対応デコーダにおいて実現されるのが好ましい。そのような場合、実現例の一実施形態は、HEVC対応デコーダにより実行され且つ以下のステップを備える方法に関する。HEVC対応デコーダは、DPB内の出力が必要なものとしてマーキングされたピクチャの個数を判定する。HEVC対応デコーダは更に、個数と映像シーケンスのピクチャを表すビットストリーム内に存在する少なくとも1つの構文要素から導出される値とを比較する。個数が値より大きい場合、HEVC対応デコーダは更に、DPB内の出力が必要なものとしてマーキングされたピクチャのうち、出力の順序が最初のピクチャを出力する。更に、個数が値より大きい場合、HEVC対応デコーダは、出力されたピクチャに出力が不要なものとしてマーキングする。
図8は、一実施形態に係るデコーダにより実行される方法を示すフローチャートである。方法は、現在のピクチャが復号化され且つDPBに格納された後に、ステップS1において、出力必要とマーキングされたDPB内のピクチャの個数を判定することを含む。次のステップS2は、当該個数と値sps_max_num_reorder_pics[HighestTid]とを比較することを含む。個数が値より大きい場合、ステップS3へ進む。当該ステップS3は、出力必要とマーキングされたDPB内のピクチャのうち、出力順序が最初のピクチャを出力することを含む。その後、ステップS3で出力されたピクチャは、ステップS4において、出力不要とマーキングされる。従って、当該ステップS4は、個数が値より大きい場合に実行される。
本実施形態において、sps_max_num_reorder_pics[HighestTid]は、映像シーケンスのピクチャを表すビットストリーム内に存在する少なくとも1つの構文要素から導出される値の好適な表現として使用される。更に、HighestTidは、映像シーケンスのデコーダにより復号化される最上位レイヤを指定する。従って、HighestTidは、映像シーケンスが1つ以上の時間レイヤを含む場合は最上位時間サブレイヤを示し、映像シーケンスが1つ以上の空間レイヤ、品質レイヤ等の別の種類のレイヤを含む場合は最上位復号化レイヤを示す。
一実施形態において、HighestTidがiである場合、sps_max_num_reorder_pics[i]は、復号化の順序が符号化映像シーケンス内の何らかのピクチャより前であり且つ出力の順序が当該ピクチャより後ろになることができるピクチャの最大許容個数を示す。max_num_reorder_pics[i]の接頭辞spsは、構文要素がビットストリームのシーケンスパラメータセット(SPS)内に存在するのが好ましいことを示す。
従って、本実施形態において、レイヤ毎に導出される1つの値がビットストリーム内に存在し、ステップS2で実行される比較で使用される値は、映像シーケンスのデコーダにより実際に復号化される最上位レイヤに対して導出される値である。尚、この最上位復号化レイヤは、構文要素が映像パラメータセット(VPS)から検索されるか又はSPSから検索されるかに依存して、vps_max_sub_layers_minus1又はsps_max_sub_layers_minus1等のmax_sub_layers_minus1構文要素により指定される映像シーケンス内のレイヤの最大個数以下であってもよい。
従って、特定の一実施形態において、映像シーケンスは、ピクチャの複数のレイヤ、すなわち少なくとも2つのレイヤを含むマルチレイヤ映像シーケンスである。その場合、複数のレイヤの各レイヤは、各々の値を定義する関連する構文要素を有するのが好ましい。その場合、ステップS2の比較で使用される値は、本実施形態において、複数のレイヤのうちデコーダにより復号化される最上位レイヤに関連する構文要素から取得される値である。
特定の一実施形態において、sps_max_num_reorder_pics[i]は、レイヤi以下の時間レイヤ等のレイヤ内に存在する復号化の順序がピクチャより前であり且つ出力の順序が当該ピクチャより後ろであるピクチャの最大許容個数を示す。
一実施形態において、ステップS2の比較で個数が判定された値より小さい場合、方法は終了するのが好ましく、ピクチャは出力されないか又はマーキングされない。従って、そのような場合、ステップS3及びS4は省略され、実行されない(右側の点線を参照)。
一実施形態において、ステップS2〜S4は、現在のピクチャが復号化され且つDPBに格納された後に1回のみ実行されてもよい。あるいは、DPB内の出力が必要なものとしてマーキングされたピクチャの個数が値sps_max_num_reorder_pics[HighestTid]より大きくなくなるまで、ステップS2〜S4により形成されるループ(左側の点線を参照)が実行されてもよい。ステップS2〜S4のループが実行される度に、ステップS3で出力されたピクチャにステップS4で出力が不要なものとしてマーキングすることにより、DPB内の出力が必要なものとしてマーキングされたピクチャの個数は1ずつ減少される。これは、現在のピクチャが復号化され且つDPBに格納された後に、ステップS3又はS4が、個数≦sps_max_num_reorder_pics[HighestTid]の場合は0回実行されてもよく、個数=sps_max_num_reorder_pics[HighestTid]+1の場合は1回実行されてもよく、個数>sps_max_num_reorder_pics[HighestTid]+1の場合は2回以上実行されてもよく、すなわち、個数=sps_max_num_reorder_pics[HighestTid]+nの場合はn回実行されてもよいことを意味する。ステップS2における比較により、個数が値sps_max_num_reorder_pics[HighestTid]より大きくないと判定される場合、方法は終了する。
ステップS1におけるDPB内の出力が必要なものとしてマーキングされたピクチャの個数の判定は、現在のピクチャが復号化され且つDPBに格納された後に実行されるのが好ましい。
上記で開示し且つ図8に示す方法は、復号化され且つDPBに格納される映像シーケンスのピクチャ毎に1回実行されるのが好ましい。従って、方法は、現在のピクチャが復号化されたと見なされるとすぐに、すなわち、ピクチャの最後の復号化ユニットが復号化され且つ現在の復号化ピクチャがDPB内の空のピクチャ格納バッファ、すなわちピクチャスロットに格納された後すぐに実行されるのが好ましい。
図9は、図8の方法の追加のオプションのステップを示すフローチャートである。方法は、映像シーケンスの復号化される現在のピクチャのスライスヘッダを構文解析することを含むステップS10から開始する。次のステップS11において、構文解析されたスライスヘッダに基づいて、現在のピクチャに対する参照ピクチャセット(RPS)を判定する。ステップS12において、RPS内に存在しないDPB内の全てのピクチャは、参照に使用されないものとしてマーキングされる。次のステップS13は、DPB内のピクチャのうち、出力が必要なものとしてマーキングされた0個、1つ又は複数、すなわち2つ以上のピクチャを出力することを含む。当該ステップS13は、出力された0個以上のピクチャに出力が不要なものとしてマーキングすることを更に含む。ステップS14は、DPB内のピクチャのうち、参照に使用されないもの及び出力が不要なものとしてマーキングされたピクチャをDPBから削除又は除去することを含む。その後、ステップS15において、現在のピクチャが復号化される。その後、図8のステップS1へ進む。従って、本実施形態において、ステップS1におけるピクチャの個数の判定、ステップS2における個数の比較、ステップS3におけるピクチャの出力及びステップS4におけるピクチャへのマーキングは、ステップS15において現在のピクチャを復号化した後に実行される。
ステップS15における現在のピクチャの復号化に加えて、本ステップは、現在のピクチャに参照に使用されるものとしてマーキングすることを更に含むのが好ましく、あるいは、オプションの一実施形態において、現在のピクチャに短期間参照に使用されるものとしてマーキングすることを更に含むのが好ましい。現在のピクチャは更に、ステップS10において取得されるのが好ましい可変のPicOutputFlagの値に従って、出力が必要なもの又は出力が不要なものとしてマーキングされるのが好ましい。
一般に、符号化映像シーケンス、すなわちビットストリームは、ネットワーク抽象化層(NAL)ユニットを含む。基本的に、1つのNALユニットは、スライスに対する制御情報を含む対応するスライスヘッダと映像ペイロードデータとを有するスライスを含むか、あるいは、NALユニットは、VPS、SPS及びピクチャパラメータセット(PPS)等のパラメータセットを含む。パラメータセットは制御情報を含む。映像シーケンスのピクチャは、単一のスライスで構成されてもよく、あるいは複数のスライスで構成されてもよい。従って、図9のステップS10は、ピクチャのスライスを含むNALユニットのスライスヘッダ部分を構文解析することを含む。ピクチャが複数のスライスを含むため各々のスライスヘッダを含む複数のNALユニットに分散される場合、ステップS10は、ピクチャの各スライスに対して実行されるのが好ましい。しかし、ステップS11〜S14は、通常はピクチャ内の第1のスライスであるピクチャ内のスライスのうちの1つに対してのみ実行されるのが好ましい。
ステップS10で構文解析されるスライスヘッダは、デコーダがRPSを生成できるようにする情報を含む。RPSは、現在のピクチャに関連付けられる参照ピクチャのセットであり、復号化の順序が現在のピクチャより前であり且つ現在のピクチャ又は復号化の順序が現在のピクチャより後ろである映像シーケンス内のピクチャの参照、すなわちフレーム間予測に使用されてもよい全ての参照ピクチャで構成される。
ステップS10で取得され且つステップS11でRPSを判定するために使用される情報は、例えば、現在のスライスに適用可能なSPS等のパラメータセット内に含まれるRPS構文構造に対する識別子を含む。HEVCに適用可能なそのような識別子の一例は、short_term_ref_pic_set_idxである。その場合、パラメータセットは、SPSに含まれるshort_term_ref_pic_set()構文要素の個数を定義するnum_short_term_ref_pic_sets等の1つ以上のRPSを定義する構文要素を含み、その場合、short_term_ref_pic_set()構文要素は、現在のピクチャに対する候補RPSを定義する。
あるいは、ステップS10で取得される情報は、ステップS11においてRPSを判定するために直接使用されてもよい。当該情報は、例えばshort_term_ref_pic_set()構文要素を含んでもよく、その場合、short_term_ref_pic_set()構文要素は現在のピクチャのRPSを定義する。
RPSの判定の更なる情報は、第WO2013/002700号、並びにJCTVC−J1003_d7、High efficiency video coding(HEVC) text specification draft 8、B.Bross等、JCT−VC of ITU−T SG16 WP3 and ISO/IEC JTC1/SC29/WG11 10th Meeting、ストックホルム、2012年7月11日〜20日の7.3.2.2節、7.3.5.1節、7.3.5.2節、7.4.2.2節、7.4.5.1節及び8.3.2節において見ることができる。
上述のように、RPSは、DPB内に保持される映像シーケンスのピクチャ、すなわち、現在のピクチャを復号化する際及び/又は復号化の順序が現在のピクチャより後ろであるピクチャを復号化する際に参照ピクチャとして使用できる映像シーケンスのピクチャを指定する。これは、DPBに格納されているがRPS内に記載されていない参照ピクチャはそれ以上参照ピクチャとして使用されないことを意味する。従って、ステップS12は、DPB内に存在するがRPSにおいて識別されないそのようなピクチャに参照に使用されないものとしてマーキングすることを含む。
ステップS13におけるピクチャの出力は、出力が必要なものとしてマーキングされた1つのピクチャを出力すること、出力が必要なものとしてマーキングされた2つ以上のピクチャを出力すること又は実際はピクチャを全く出力しないことを含むことができる。ステップS13で出力されるピクチャは、出力の順序に従って出力され、Picture Order Count(POC)の値が小さい順序で出力されるのが好ましい。
その後、ステップS13で出力されたピクチャは、出力されたため、出力が不要なものとしてマーキングされる。0個のピクチャが出力される場合、当然、当該ステップS13においてマーキングは実行されない。
参照に使用されないもの及び出力が不要なものとしてマーキングされたピクチャは、それ以上、参照ピクチャとして必要なく且つ出力も不要である。従って、ステップS14において、そのようなマーキングされたピクチャがDPBから削除又は除去され、DPB内のピクチャ格納バッファ、すなわちピクチャスロットが解放される。
現在のピクチャの復号化は、HEVC/H.265規格において指定されるようなピクチャ復号化の既知の方法に従って実行される。従って、ステップS15における復号化は、通常は参照ピクチャとしてDPBに格納された1つ以上の以前に復号化されたピクチャの画素値を使用して、現在のピクチャ内の画素又はサンプルの画素値を生成することを含む。
図9に示す実施形態において、図8に示すステップS1〜S4を含む方法は、ピクチャ出力処理#2として上述した追加又は更なるピクチャ出力処理として見なされてもよい。そのため、本実施形態により、現在のピクチャがステップS15で復号化された後であるがビットストリーム内の次のピクチャの処理を開始する前でも、すなわち、復号化の順序が次であるピクチャに対してステップS10を実行する前でも、ステップS3においてピクチャを出力できる。
図14は、本実施形態を要約する。従って、一実施形態において、より早くピクチャを出力できるようにするために、追加のピクチャ出力処理ステップがピクチャの復号化の後に追加される(図14を参照)。デコーダの方法は、実施形態に係る以下の順序のステップを含んでもよく且つ/又はデコーダは、そのようなステップを実行するように構成されてもよい。
1.ピクチャPの第1のスライスヘッダのRPSを含むスライスヘッダが構文解析される。
2.ピクチャマーキング処理が実行され、例えば、スライスヘッダからのRPSにより、ピクチャが参照に使用されないものとしてマーク付される場合がある。
3.ピクチャ出力処理が実行され、ピクチャが出力される場合がある。
4.ピクチャPが復号化される。
5.ピクチャPが復号化された後、デコーダは、DPB内の出力が必要なものとしてマーキングされたピクチャの個数を判定し、当該個数とビットストリーム内の例えばsps_max_num_reorder_pics[HighestTid]である構文要素から導出される値とを比較する。
6.DPB内の出力が必要なものとしてマーキングされたピクチャの個数がビットストリーム内の構文要素から導出される値より大きい場合、DPB内の出力が必要なものとしてマーキングされたピクチャのうち、出力の順序が最初のピクチャが出力され、出力が不要なものとしてマーキングされる。このように、実施形態によると、ピクチャ出力処理#2が導入される。
7.次のピクチャQが、ピクチャQに対して上記のステップ1〜6を繰り返すことにより復号化される。
図8において開示した方法は、HEVC等に対する修正された出力処理の一部としても実現されてもよい。本方法において、既存のピクチャ出力処理ステップは、より早くピクチャを出力できるようにするために修正される。
修正は、背景の節において説明したno_output_of_prior_pics_flagに関する問題に対する解決策を提供する。解決策は、上述の実施形態と同様であるが、更なる出力処理を追加する代わりに、no_output_of_prior_pics_flagが1である場合に既存のHEVC出力処理が修正される点が異なる。
図10は、上述の実施形態を実現する場合の図8における方法の追加のオプションのステップを示すフローチャートである。ステップS20は、no_output_of_prior_pics_flagフラグの値を取得するために、本技術でイントラランダムアクセスポイント(IRAP)ピクチャとも呼ぶ映像シーケンスのランダムアクセスピクチャ(RAP)のスライスヘッダを構文解析することを含む。no_output_of_prior_pics_flagフラグの値が1である場合、図8のステップS1へ進む。従って、本実施形態において、ステップS1における個数の判定、ステップS2における個数の比較、ステップS3におけるピクチャの出力及びステップS4におけるピクチャへのマーキングは、no_output_of_prior_pics_flagの値が1である場合に実行される。
それに対応して、no_output_of_prior_pics_flag値の値が0である場合、方法は終了し、修正された出力処理は実行されない。
本実施形態がHEVCに適用される場合、方法は、ステップS20で構文解析されたスライスヘッダに基づいてランダムアクセスピクチャに対するRPSを判定する追加ステップを備えるのが好ましい(図9のステップS11と比較)。方法は、RPS内に記載されていないDPB内の全てのピクチャに参照に使用されないものとしてマーキングすることを更に含む(図9のステップS12と比較)。ランダムアクセスピクチャは復号化される(図9のステップS15と比較)。本実施形態において、ステップS1における個数の判定、ステップS2における個数の比較、ステップS3におけるピクチャの出力及びステップS4におけるピクチャへのマーキングは、RPS内に記載されていないピクチャにマーキングした後でありランダムアクセスピクチャを復号化する前に実行される。
図15は、本実施形態の復号化を簡略に示すフローチャートである。デコーダの方法は、実施形態に係る以下の順序のステップを含んでもよく且つ/又はデコーダは、そのようなステップを実行するように構成されてもよい。
1)ピクチャPの第1のスライスヘッダのスライスヘッダが構文解析される。
2)ピクチャマーキング処理が実行される。
3)ピクチャ出力処理が実行され、ピクチャが出力される場合がある。ピクチャ出力処理は、no_output_of_prior_pics_flagが1である場合に以下が適用するように修正される。
a.デコーダは、DPB内の出力が必要なものとしてマーキングされたピクチャの個数を判定し、当該個数とビットストリーム内の構文要素から導出される値とを比較する。
b.DPB内の出力が必要なものとしてマーキングされたピクチャの個数がビットストリーム内の構文要素から導出される値より大きい場合、DPB内の出力が必要なものとしてマーキングされたピクチャのうち、出力の順序が最初のピクチャが出力され、出力が不要なものとしてマーキングされる。
c.DPB内の出力が必要なものとしてマーキングされた残りの全てのピクチャは、出力が不要なものとしてマーキングされる。それらは出力されない。
4)ピクチャPが復号化される。
図11は、別の実施形態に係るデコーダにより実行される方法を示すフローチャートである。方法は、ステップS30において、映像シーケンスの復号化される現在のピクチャのスライスヘッダを構文解析することを含む。ステップS31において、構文解析されたスライスヘッダに基づいて、RPSが現在のピクチャに対して判定される。次のステップS32は、RPS内に存在しないDPB内の全てのピクチャに参照に使用されないものとしてマーキングすることを含む。ステップS33において、DPB内のピクチャのうち、出力が必要なものとしてマーキングされた0個以上のピクチャが出力され、出力が不要なものとしてマーキングされる。次のステップS34は、DPB内のピクチャのうち、参照に使用されないもの及び出力が不要なものとしてマーキングされたピクチャをDPBから削除又は除去することを含む。その後、ステップS35において、現在のピクチャは復号化される。
上記のステップS30〜S35は、基本的に、前述し且つ図9に示したステップS10〜S15に対応する。
その後、DPB内の出力が必要なものとしてマーキングされたピクチャの個数を判定することを含むステップS36へ進む。当該個数は、ステップS37において、映像シーケンスのピクチャを表すビットストリーム内に存在する少なくとも1つの構文要素から導出される値と比較される。個数が値より大きい場合、ステップS38及びS39へ進む。ステップS38は、DPB内の出力が必要なものとしてマーキングされたピクチャのうち、出力の順序が最初のピクチャを出力することを含む。ステップS39は、ステップS38で出力されたピクチャに出力が不要なものとしてマーキングすることを含む。
本実施形態において、ステップS36におけるピクチャの個数の判定、ステップS37における個数の比較、ステップS38におけるピクチャの出力及びステップS39におけるピクチャへのマーキングは、ステップS35において現在のピクチャを復号化した後に実行される。
ステップS36〜S39は、前述し且つ図8に示したステップS1〜S4に対応するが、ステップS37において判定された個数と比較される値が必ずしもsps_max_num_reorder_pics[HighestTid]でなくてもよく、その代わりに、以下に更に説明するビットストリーム内に存在する他の構文要素から導出される値であってもよい点が異なる。
一実施形態において、ステップS37の比較において判定される際に個数が値より大きくない場合、方法は終了するのが好ましく、ピクチャは出力されず又はマーキングされない。従って、そのような場合、ステップS38及びS39は省略され且つ実行されない(右側の点線を参照)。
一実施形態において、ステップS37〜S39は、現在のピクチャが復号化され且つ好ましくはDPBに格納された後に1回のみ実行されてもよい。あるいは、DPB内の出力が必要なものとしてマーキングされたピクチャの個数が値より大きくなくなるまで、ステップS37〜S39により形成されるループ(左側の点線を参照)が実行されてもよい。ステップS37〜S39のループが実行される度に、ステップS38で出力されたピクチャにステップS39で出力が不要なものとしてマーキングすることにより、DPB内の出力が必要なものとしてマーキングされたピクチャの個数は1ずつ減少される。
図12は、図11の方法の追加のオプションのステップを示すフローチャートであるが、図8及び図9に示す実施形態にも適用可能である。方法は、現在のピクチャが復号化された図11のステップS35又は図9のステップS15から続く。次のステップS40は、DPB内の復号化された現在のピクチャを空のピクチャ格納バッファ、すなわちピクチャスロットに格納することを含む。ステップS41において、復号化された現在のピクチャは、出力が必要なもの又は出力が不要なものとしてマーキングされる。オプションで、ピクチャは、短期間参照に使用されるものとして更にマーキングされ、すなわち、参照ピクチャとして使用されるものとして更にマーキングされてもよい。当該ステップS41は、現在のピクチャに割り当てられたPicOutputFlagに基づいて実行されるのが好ましい。従って、フラグが1の値を有する場合、復号化された現在のピクチャは出力が必要なものとしてマーキングされ、それ以外の場合、すなわちフラグが0の値を有する場合、復号化された現在のピクチャは出力が不要なものとしてマーキングされる。PicOutputFlagは、現在のピクチャのスライスヘッダ内に存在してもよい構文要素pic_output_flag等に基づいて、当該現在のピクチャに適用可能なビットストリーム内の構文要素から導出されてもよい。
その後、図11のステップS36又は図8のステップS1へ進み、DPB内の出力が必要なものとしてマーキングされたピクチャの個数が判定される。
図11のステップS37及び図8のステップS2における比較で使用される値の選択の種々の実施形態を以下に説明する。
一実施形態において、映像シーケンスは、ピクチャの複数のレイヤを含むマルチレイヤ映像シーケンスである。その場合、複数のレイヤの各レイヤは、出力処理において使用される各々の値を定義する関連する構文要素を有する。方法は、図13のフローチャートに示す追加のオプションのステップを更に備える。方法は、図11のステップS35又は図8のステップS1から続く。次のステップS50は、複数のレイヤのうちデコーダにより復号化される最上位レイヤに関連する構文要素から導出される値を選択することを含む。その後、図11のステップS37又は図8のステップS2へ進み、当該選択された値が使用される。
本実施形態において、ステップS37及びステップS2は、ステップS36又はS1で判定された個数とsps_max_num_reorder_pics[HighestTid]の値とを比較することを含むのが好ましい。個数が値sps_max_num_reorder_pics[HighestTid]より大きい場合、ステップS38又はS3へ進み、本実施形態において、当該ステップは、DPB内の出力が必要なものとしてマーキングされた全てのピクチャのうち、DPB内のPicOrderCntValの値が最小のピクチャを出力することを含む。PicOrderCntValは、ピクチャのピクチャ順位値を表し、DPBに格納されたピクチャの出力の順序を定義するのが好ましい。
本実施形態の特定の実現例の一態様において、映像シーケンスは、ピクチャの複数のレイヤを含むマルチレイヤ映像シーケンスである。そのような場合、各レイヤは、各々の値、すなわちレイヤの番号iに対するsps_max_num_reorder_pics[i]を有する。その場合、使用する値は、最上位復号化レイヤ、すなわち、レイヤが異なる時間レイヤである場合の最上位サブレイヤ等、デコーダにより復号化される最上位レイヤに関連する値である。
別の実施形態において、映像シーケンスは、ピクチャの複数のレイヤを含むマルチレイヤ映像シーケンスである。その場合、複数のレイヤの各レイヤは、各々の値を定義する関連する構文要素を有する。方法は、図13のフローチャートに示す追加のオプションのステップを更に備える。方法は、図11のS36から続く。次のステップS50は、複数のレイヤの最上位レイヤに関連する構文要素から導出される値を選択することを含む。その後、ステップS37へ進み、当該選択された値が使用される。
本実施形態において、ステップS37は、ステップS36で判定された個数とsps_max_num_reorder_pics[sps_max_sub_layers_minus1]の値とを比較することを含むのが好ましい。個数が値sps_max_num_reorder_pics[sps_max_sub_layers_minus1]より大きい場合、ステップS38へ進み、本実施形態において、当該ステップは、DPB内の出力が必要なものとしてマーキングされた全てのピクチャのうち、DPB内のPicOrderCntValの値が最小のピクチャを出力することを含む。構文要素sps_max_sub_layers_minus1は、映像シーケンスのレイヤの最大個数を指定する。
本実施形態の特定の実現例の一態様において、映像シーケンスは、ピクチャの複数のレイヤを含むマルチレイヤ映像シーケンスである。そのような場合、各レイヤは、各々の値、すなわちレイヤの番号iに対するsps_max_num_reorder_pics[i]を有する。その場合、使用する値は、ビットストリーム内の最上位レイヤに関連する値である。
更なる一実施形態において、映像シーケンスは、ピクチャの複数のレイヤを含むマルチレイヤ映像シーケンスである。その場合、複数のレイヤの各レイヤは、各々の値を定義する関連する構文要素を有する。方法は、図13のフローチャートに示す追加のオプションのステップを更に備える。方法は、図11のステップS36から続く。次のステップS50は、複数のレイヤのうち復号化された現在のピクチャが属するレイヤに関連する構文要素から導出される値を選択することを含む。その後、ステップS37へ進み、当該選択された値が使用される。
更に別の実施形態において、映像シーケンスは、ピクチャの複数のレイヤを含むマルチレイヤ映像シーケンスである。その場合、複数のレイヤの各レイヤは、各々の値を定義する関連する構文要素を有する。方法は、図13のフローチャートに示す追加のオプションのステップを更に備える。方法は、図11のステップS36から続く。次のステップS50は、各々の値のうち最大の値を選択することを含む。
図11に示す方法は、映像シーケンスのランダムアクセスピクチャである現在のピクチャに適用可能である。そのような場合、ステップS30は、no_output_of_prior_flagフラグの値を取得するためにランダムアクセスピクチャのスライスヘッダを構文解析することを含むのが好ましい。そのような場合、ステップS36における個数の判定、ステップS37における個数の比較、ステップS38におけるピクチャの出力及びステップS39におけるピクチャへのマーキングは、当該フラグの値に基づく条件付きであってもよい。従って、オプションの一実施形態において、上記のステップS36〜S39は、no_output_of_prior_flagフラグの値が1である場合に実行される。
一実施形態において、図9のステップS12及び図11のステップS32において実行されるピクチャへのマーキングは、RPS内に存在しないDPB内の全てのピクチャに参照に使用されないものとしてマーキングすることを含むのが好ましい。これらのステップは、オプションで、RPS内に存在するDPB内の全てのピクチャに参照に使用されるものとしてマーキングすることを更に含む。しかし、一般に、ピクチャは復号化され且つDPBに格納されると、参照に使用されるものとしてマーキングされる。従って、ステップS12及びS32は、通常、それ以上参照に必要ないピクチャに再度マーキングすることを含む。
一実施形態において、図8のステップS3及び図11のステップS38において実行されるピクチャの出力は、ステップS2又はS37で判定される際に個数が値より大きい場合、DPB内の出力が必要なものとしてマーキングされた全てのピクチャのうち、ピクチャ順位値が最小のピクチャを出力することを含むのが好ましい。ピクチャ順位値は、パラメータPicOrderCntValにより表されるのが好ましい。
一実施形態において、図8のステップS3及び図11のステップS38において実行されるピクチャの出力は、符号化映像シーケンスの復号化される次のピクチャのスライスヘッダを構文解析する前に実行されるのが好ましい。
一実施形態において、図8又は図11において実行される方法は、ビットストリームに関連付けられ且つPPS、SPS及びVPSで構成されるグループから選択されるパラメータセットから少なくとも1つの構文要素を検索する追加のステップを備える。PPSは、現在のピクチャのスライスヘッダ内に存在するPPS識別子に基づいて識別される。現在のピクチャに適用するSPSは、現在のピクチャのスライスヘッダ内に存在するPPS識別子により識別されるPPS内に存在するSPS識別子により識別される。それに対応して、現在のピクチャに適用するVPSは、現在のピクチャに適用するSPS内に存在するVPS識別子により識別される。特定の一実施形態において、少なくとも1つの構文要素はSPSから検索される。
no_output_of_prior_pics_flagを使用する一実現例に適用可能な特定の一実施形態は、no_output_of_prior_pics_flagフラグが1である場合、DPB内の出力が必要なものとしてマーキングされた残りの全てのピクチャに出力が不要なものとしてマーキングするのが好ましい追加のステップを備える。
関連する一実施形態において、方法は、no_output_of_prior_pics_flagフラグが1である場合、ピクチャを全く出力せずにDPB内の全てのピクチャを削除する更なるステップを備える。その場合、DPBの占有量は、DPBが空であることを示すために0に等しく設定される。
種々の実施形態を以下に更に説明する。
実施形態1
一実施形態において、より早くピクチャを出力できるようにするために、追加のピクチャ出力処理ステップがピクチャ復号化の後に追加される(図14を参照)。
デコーダの方法は、実施形態に係る以下の順序のステップを含んでもよく且つ/又はデコーダは、そのようなステップを実行するように構成されてもよい。
1.ピクチャPの第1のスライスヘッダのスライスヘッダが構文解析される。
2.ピクチャマーキング処理が実行される。
3.ピクチャ出力処理が実行され、ピクチャが出力される場合がある。
4.ピクチャPが復号化される。
5.ピクチャPが復号化された後、デコーダは、DPB内の「出力が必要なもの」としてマーキングされたピクチャの個数を判定し、当該個数とビットストリーム内の構文要素(実施形態9により説明される)から導出される値とを比較する。
6.DPB内の「出力が必要なもの」としてマーキングされたピクチャの個数がビットストリーム内の構文要素から導出される値より大きい場合、DPB内の「出力が必要なもの」としてマーキングされたピクチャのうち、出力の順序が最初のピクチャが出力され、「出力が不要なもの」としてマーキングされる。このように、実施形態によると、ピクチャ出力処理#2が導入される。
7.次のピクチャQが復号化される。
実施形態2
実施形態1と同一であり、値は、ビットストリーム内の構文要素の単一の符号語により表される。
実施形態3
実施形態2と同一であり、値は、例えばピクチャパラメータセット(PPS)、シーケンスパラメータセット(SPS)又は映像パラメータセット(VPS)であるシーケンスパラメータセット内の符号語により表される。
実施形態4
実施形態1〜3と同一であり、ビットストリーム内のレイヤ毎に導出される1つのレイヤ依存値が存在し、比較で使用する値は、ピクチャPと同一のレイヤに対して導出される値である。
実施形態5
実施形態1〜3と同一であり、ビットストリーム内のレイヤ毎に導出される1つの値が存在し、比較で使用する値は、ビットストリーム内の最上位レイヤに対して導出される値である。
実施形態6
実施形態1〜3と同一であり、ビットストリーム内のレイヤ毎に導出される1つの値が存在し、比較で使用する値は、全てのレイヤに対して最大の値である。
実施形態7
実施形態5と同一であり、最上位レイヤは、最上位サブレイヤとして定義される。
実施形態8
実施形態1〜7と同一であり、出力の順序が最初のピクチャは、DPB内のPicOrderCntValの値が最小のピクチャとして定義される。PicOrderCntValはPOCを定義し、上述される。
実施形態9
実施形態4〜8と同一であり、レイヤは時間レイヤである。
実施形態10
実施形態1、2、3、5、8及び9の組み合わせは、1つの好適な実施形態である。現在のHEVC仕様(JCTVC−K0030_v3)において本実施形態を述べることにより、C.5.3節におけるHEVC仕様に以下の変更が生じる。太字の文章は、追加された文章を意味する。
C.5.3 ピクチャの復号化、マーキング及び格納、並びに可能な場合の1つのピクチャの出力
現在のピクチャを含むアクセスユニットnの最後の復号化ユニットがDPBから除去されると、以下がすぐに行われる。
現在のピクチャは、ピクチャの最後の復号化ユニットが復号化された後に、復号化されたと考えられる。現在の復号化ピクチャは、DPB内の空のピクチャ格納バッファに格納され、以下が適用される。
1.−現在の復号化ピクチャが1に等しいPicOutputFlagを有する場合、「出力が必要なもの」としてマーキングされる。
2.−それ以外の場合(現在の復号化ピクチャが0に等しいPicOutputFlagを有する場合)、「出力が不要なもの」としてマーキングされる。
現在の復号化ピクチャが参照ピクチャである場合、「参照に使用されるもの」としてマーキングされ、それ以外の場合(現在の復号化ピクチャが非参照ピクチャである場合)、「参照に使用されないもの」としてマーキングされる。
現在の復号化ピクチャがDPBに格納された後、DPB内の「出力が必要なもの」としてマーキングされたピクチャの個数がsps_max_num_reorder_pics[sps_max_sub_layers_minus1]より大きい場合、DPB内の全てのピクチャのうち、DPB内のPicOrderCntValの値が最小のピクチャがクロップされ、出力され且つ「出力が不要なもの」としてマーキングされる。
実施形態11
実施形態1、2、3、7、8及び9の組み合わせは、別の好適な実施形態である。現在のHEVC仕様(JCTVC−K0030_v3)において本実施形態を述べることにより、C.5.3節におけるHEVC仕様に以下の変更が生じる。太字の文章は、追加された文章を意味する。
C.5.3 ピクチャの復号化、マーキング及び格納、並びに可能な場合の1つのピクチャの出力
現在のピクチャを含むアクセスユニットnの最後の復号化ユニットがDPBから除去されると、以下がすぐに行われる。
現在のピクチャは、ピクチャの最後の復号化ユニットが復号化された後に、復号化されたと考えられる。現在の復号化ピクチャは、DPB内の空のピクチャ格納バッファに格納され、以下が適用される。
1.−現在の復号化ピクチャが1に等しいPicOutputFlagを有する場合、「出力が必要なもの」としてマーキングされる。
2.−それ以外の場合(現在の復号化ピクチャが0に等しいPicOutputFlagを有する場合)、「出力が不要なもの」としてマーキングされる。
現在の復号化ピクチャが参照ピクチャである場合、「参照に使用されるもの」としてマーキングされ、それ以外の場合(現在の復号化ピクチャが非参照ピクチャである場合)、「参照に使用されないもの」としてマーキングされる。
現在の復号化ピクチャがDPBに格納された後、DPB内の「出力が必要なもの」としてマーキングされたピクチャの個数がsps_max_num_reorder_pics[HighestTid]より大きい場合、DPB内の全てのピクチャのうち、DPB内のPicOrderCntValの値が最小のピクチャがクロップされ、出力され且つ「出力が不要なもの」としてマーキングされる。
実施形態12
一実施形態において、より早くピクチャを出力できるようにするために、既存のピクチャ出力処理ステップが修正される(図15を参照)。
修正は、上述したno_output_of_prior_pics_flagに関する問題に対する解決策を提供する。解決策は、実施形態1〜11と同様であるが、追加の出力処理を追加する代わりに、以下に示すようにno_output_of_prior_pics_flagが1である場合に既存のHEVC出力処理が修正される点が異なる。
デコーダの方法は、実施形態に係る以下の順序のステップを含んでもよく且つ/又はデコーダは、そのようなステップを実行するように構成されてもよい。
1.ピクチャPの第1のスライスヘッダのスライスヘッダが構文解析される。
2.ピクチャマーキング処理が実行される。
3.ピクチャ出力処理が実行され、ピクチャが出力される場合がある。ピクチャ出力処理は、no_output_of_prior_pics_flagが1である場合に以下が適用するように修正される。
a.デコーダは、DPB内の「出力が必要なもの」としてマーキングされたピクチャの個数を判定し、当該個数とビットストリーム内の構文要素から導出される値とを比較する。
b.DPB内の「出力が必要なもの」としてマーキングされたピクチャの個数がビットストリーム内の構文要素から導出される値より大きい場合、DPB内の「出力が必要なもの」としてマーキングされたピクチャのうち、出力の順序が最初のピクチャが出力され、「出力が不要なもの」としてマーキングされる。
c.DPB内の「出力が必要なもの」としてマーキングされた残りの全てのピクチャは、「出力が不要なもの」としてマーキングされる。それらは出力されない。
4)ピクチャPが復号化される。
実施形態2〜12は、本実施形態12に同様に適用する。
実施形態13
実施形態12と実施形態2、3、7、8及び9との組み合わせは、好適な一実施形態である。現在のHEVC仕様(JCTVC−K0030_v3)において本実施形態を述べることにより、C.3.1節におけるHEVC仕様に以下の変更が生じる。太字の文章は、追加された文章を意味する。
C.3.1 DPBからのピクチャの除去
現在のピクチャを復号化する前に(しかし、現在のピクチャの第1のスライスのスライスヘッダを構文解析した後に)DPBからピクチャを除去することは、アクセスユニットn(現在のピクチャを含む)の第1の復号化ユニットをDPBから除去する際にすぐに行われ、以下のように進められる。
8.3.2項において指定される参照ピクチャセットに対する復号化処理が実行される。
現在のピクチャがIDR又はBLAピクチャである場合、以下が適用する。
1.IDR又はBLAピクチャが復号化される第1のピクチャでなく、有効なシーケンスパラメータセットから導出されるpic_width_in_luma_samples又はpic_height_in_luma_samples又はiの何らかの可能な値に対するsps_max_dec_pic_buffering[i]の値がそれぞれ、先行ピクチャに対して有効であったシーケンスパラメータセットから導出されるpic_width_in_luma_samples又はpic_height_in_luma_samples又はsps_max_dec_pic_buffering[i]の値と異なる場合、no_output_of_prior_pics_flagの実際の値に関係なく、no_output_of_prior_pics_flagは1であるとHRDにより推論される。
尚、デコーダの実現例は、pic_width_in_luma_samples、pic_height_in_luma_samples又はsps_max_dec_pic_buffering[i]の変化に関して、ピクチャ又はDPBのサイズの変化にHRDより率直に対処しようとするべきである。
2.no_output_of_prior_pics_flagが1である場合又は1であると推論される場合、以下の順序のステップが適用する。
1.DPB内の「出力が必要なもの」としてマーキングされたピクチャの個数がsps_max_num_reorder_pics[HighestTid]より大きい場合、DPB内の全てのピクチャのうち、DPB内のPicOrderCntValの値が最小のピクチャがクロップされ、出力され且つ「出力不要なもの」としてマーキングされる。
2.DPB内の全てのピクチャ格納バッファが含むピクチャを出力することなく、それらのピクチャ格納バッファが空にされ、DPBの占有量は0に設定される。
DPB内の以下の条件の全てが当てはまる全てのピクチャkがDPBから削除される。
−ピクチャkは、「参照に使用されないもの」としてマーキングされる。
−ピクチャkは、0に等しいPicOutputFlagを有するか、あるいは、そのDPB出力時間が現在のピクチャnの第1の復号化ユニット(復号化ユニットmと示す)のDPB除去時間以下である。すなわち、t0、dpb(k)<=t(m)。
ピクチャがDPBから除去される場合、DPBの占有量は1ずつ減分される。
図30を参照して、JCTVC−K0030_v3において216〜217ページのC.5.1節により示される従来技術に対する本明細書中で開示する実施形態の利点を以下に説明する。JCTVC−K0030_v3における従来技術の解決策は、何らかのピクチャを出力するかを判定するために、パラメータsps_max_num_reorder_pics[TemporalID]を使用する。特に、JCTVC−K0030_v3において、DPB内の出力が必要なものとしてマーキングされたピクチャの個数がsps_max_num_reorder_pics[TemporalID]より大きい場合、現在の復号化ピクチャを格納するための空のピクチャ格納バッファが生じるまで、C.5.2.1項において指定されるバンピング処理が繰り返し実行されると述べられる。
図30に示す番号は、映像シーケンス内のピクチャの復号化の順序を示す。ピクチャは、左から右の順序で、すなわち、I0、b5、B3、b6、B2、b7、B4、b8及びP1の順序で出力される必要がある。図は、異なるレイヤに対するレイヤの番号、すなわちTemporalId及び各レイヤに対するsps_max_num_reorder_picsを更に示す。JCTVC−K0030_v3において提案されるようにsps_max_num_reorder_pics[TemporalID]を使用してスライスヘッダの構文解析に関連してピクチャをバンピング又は出力する場合、出力処理は以下に従う。
ピクチャ 出力待ち sps_max_num_reorder_pics 動作
I0 − 0 なし
B1 I0 0 I0を出力
B2 B1 1 なし
B3 B1 B2 2 なし
B4 B1 B2 B3 2 B3を出力
しかし、ピクチャb5がピクチャB3より前に出力される必要があるため、ピクチャB4の処理時にピクチャB3を出力するのは誤りである。
現在のピクチャを復号化した後にHighesTId=3を使用してバンピング、すなわち出力する本明細書において開示する一実施形態を使用する場合、以下の結果が達成される。
ピクチャ 出力待ち sps_max_num_reorder_pics 動作
I0 I0 4 なし
B1 I0 B2 4 なし
B2 I0 B1 B2 4 なし
B3 I0 B1 B2 B3 4 なし
B4 I0 B1 B2 B3 B4 4 I0を出力
B5 B1 B2 B3 B4 b5 4 b5を出力
一実施形態によると、時間スケーリングを使用してレイヤ0〜2のみを復号化する場合、HighesTidは2であり、以下の結果が達成される。
ピクチャ 出力待ち sps_max_num_reorder_pics 動作
I0 I0 2 なし
B1 I0 B1 2 なし
B2 I0 B1 B2 2 I0を出力
B3 B1 B2 B3 2 B3を出力
B4 B1 B2 B4 2 B2を出力
従って、本明細書において開示する実施形態は、図30に示す例において正しい順序でピクチャを出力できるが、JCTVC−K0030_v3における従来技術の解決策は、スライスヘッダを構文解析した後にバンピング処理を実行する場合、正しい順序で出力しない。
図8〜図15に関連して上述したステップ、機能、手順、モジュール及び/又はブロックは、汎用電子回路網及び特定用途向け回路網の双方を含む個別回路又は集積回路技術等の何らかの従来の技術を使用してハードウェアで実現されてもよい。
特定の例は、1つ以上の適切に構成されたデジタル信号プロセッサ、並びに、例えば特殊化した機能を実行するために相互接続された個別論理ゲート又は特定用途向け集積回路(ASIC)である他の既知の電子回路を含む。
あるいは、図8〜図15に関連して上述したステップ、機能、手順、モジュール及び/又はブロックのうちの少なくともいくつかは、1つ以上のプロセッサを含む適切な処理回路網により実行するためのコンピュータプログラム等のソフトウェアで実現されてもよい。
プロセッサは、例えばメモリの形態であるコンピュータプログラム製品に格納されたコンピュータプログラムに含まれるソフトウェア命令を実行できる。各コンピュータプログラム製品は、ランダムアクセスメモリ(RAM)及び読出し専用メモリ(ROM)の何らかの組み合わせであるメモリであってもよい。各メモリは、例えば磁気メモリ、光メモリ、固体メモリ又はリモートに搭載されたメモリのうちのいずれか1つ又はそれらの組み合わせであってもよい固定記憶装置を含む。
従って、上記に提示し且つ図8〜図15に示したフローチャート又は図は、1つ以上のプロセッサにより実行される場合、コンピュータのフローチャート又は図であると見なされてもよい。対応する装置は、機能モジュールのグループとして定義されてもよく、その場合、プロセッサにより実行される各ステップは機能モジュールに対応する。この場合、機能モジュールは、プロセッサ上で実行するコンピュータプログラムとして実現される。
処理回路網の例は、1つ以上のマイクロプロセッサ、1つ以上のデジタル信号プロセッサ(DSP)、1つ以上の中央処理装置(CPU)、映像加速ハードウェア、並びに/あるいは1つ以上のフィールドプログラマブルゲートアレイ(FPGA)又は1つ以上のプログラマブル論理制御器(PLC)等の何らかの適切なプログラマブル論理回路網を含むが、それらに限定されない。
提案された技術が実現される何らかの従来の装置又はユニットの一般的な処理能力を再利用することが可能だろうことが更に理解されるべきである。例えば既存のソフトウェアを再プログラミングするか又は新規のソフトウェア構成要素を追加することにより、既存のソフトウェアを再利用することが更に可能だろう。
一態様によると、上記で開示した実施形態のいずれかに係る方法を実行するように構成されるデコーダが提供される。デコーダは、映像シーケンスのピクチャを表すビットストリームの現在のピクチャが復号化され且つDPBに格納された後に、DPB内の出力が必要なものとしてマーキングされたピクチャの個数を判定するように構成される。デコーダは、個数と値sps_max_num_reorder_pics[HighestTid]とを比較するように更に構成される。デコーダは、個数が値より大きい場合、DPB内の出力が必要なものとしてマーキングされたピクチャのうち、出力の順序が最初のピクチャを出力するように更に構成される。デコーダは、個数が値より大きい場合、(出力された)ピクチャに出力が不要なものとしてマーキングするように更に構成される。
一実施形態において、デコーダ100は、本明細書中の上記で開示した方法ステップ(図8、並びにオプションで図9、図10及び図12〜図14を参照)を実行するように構成されるプロセッサ110を備える。デコーダ100は、プロセッサ110に接続されたメモリ120を更に備えてもよい(図16を参照)。
図16は、一実施形態に係るデコーダ100を概略的に示すブロック図である。デコーダ100は、映像シーケンスのピクチャを表すビットストリーム10を受信し且つビットストリーム10を復号化するように構成される。デコーダ100は、プロセッサ110と、DPB125を備えるメモリ120とを備える。プロセッサ110は、現在のピクチャが復号化され且つDPB125に格納された後に、DPB125内の出力が必要なものとしてマーキングされたピクチャの個数を判定するように構成される。プロセッサ110は、個数と値sps_max_num_reorder_pics[HighestTid]14とを比較するように更に構成される。プロセッサ110は、個数が値より大きい場合、DPB125内の出力が必要なものとしてマーキングされたピクチャのうち、出力の順序が最初のピクチャを出力するように更に構成される。プロセッサ110は、個数が値より大きい場合、ピクチャに出力が不要なものとしてマーキングするように更に構成される。
図16において、デコーダ100は、プロセッサ110を備えるものとして示される。当該プロセッサ110は、単一のプロセッサとして実現されてもよく、あるいは処理回路網の形態等で複数のプロセッサとして実現されてもよい。
従って、図16は、デコーダ100のコンピュータでの一実現例を示す。この特定の例において、上述したステップ、機能、手順、モジュール及び/又はブロックのうちの少なくともいくつかは、プロセッサ110により実行するためにメモリ120にロードされるコンピュータプログラムで実現される。プロセッサ110及びメモリ120は相互接続され、通常のソフトウェア実行を可能にする。符号化ピクチャのビットストリーム10の入力及び復号化ピクチャの出力を可能にするために、オプションの入出力装置(不図示)がプロセッサ110及び/又はメモリ120に更に相互接続されてもよい。
用語「コンピュータ」は、特定の処理、判定又は計算タスクを実行するためのプログラムコード又はコンピュータプログラム命令の実行を可能にする何らかのシステム、デバイス又は装置として一般的な意味で解釈されるべきである。
一実施形態において、プロセッサ110は、映像シーケンスの復号化される現在のピクチャのスライスヘッダ12を構文解析するように構成されるのが好ましい。プロセッサ110は、構文解析されたスライスヘッダ12に基づいて現在のピクチャに対するRPSを判定するように更に構成される。プロセッサ110は、RPS内に存在しないDPB125内の全てのピクチャに参照に使用されないものとしてマーキングするように更に構成される。プロセッサ110は、DPB125内のピクチャのうち、出力が必要なものとしてマーキングされた0個以上のピクチャを出力し且つ0個以上のピクチャに出力が不要なものとしてマーキングするように更に構成される。プロセッサ110は、DPB125内のピクチャのうち、参照に使用されないもの及び出力が不要なものとしてマーキングされたピクチャをDPB125から削除又は除去するように更に構成されるのが好ましい。プロセッサ110は、好ましくは符号化された形態で提供される映像ペイロードデータ16を使用して、現在のピクチャを復号化するように更に構成される。本実施形態において、プロセッサ110は、現在のピクチャを復号化した後に、ピクチャの個数を判定し、個数を比較し、ピクチャを出力し且つピクチャにマーキングするように構成される。
一実施形態において、プロセッサ110は、オプションで、no_output_prior_pics_flagフラグの値を取得するために映像シーケンスのランダムアクセスピクチャのスライスヘッダ12を構文解析するように構成される。そのような場合、プロセッサ110は、オプションで、no_output_prior_pics_flagフラグの値が1である場合に(及びそのような場合のみ)、個数を判定し、個数を比較し、ピクチャを出力し且つピクチャにマーキングするように構成される。
実施形態の別の態様は、映像シーケンスの復号化される現在のピクチャのスライスヘッダを構文解析するように構成されるデコーダに関する。デコーダは、構文解析されたスライスヘッダに基づいて現在のピクチャに対するRPSを判定するように更に構成される。デコーダは、RPS内に存在しないDPB内の全てのピクチャに参照に使用されないものとしてマーキングするように更に構成される。デコーダは、DPB内のピクチャのうち、出力が必要なものとしてマーキングされた0個以上のピクチャを出力し且つ0個以上のピクチャに出力が不要なものとしてマーキングするように更に構成される。デコーダは、DPB内のピクチャのうち、参照に使用されないもの及び出力が不要なものとしてマーキングされたピクチャをDPBから削除又は除去するように更に構成されるのが好ましい。デコーダは、現在のピクチャを復号化するように更に構成される。本実施形態において、デコーダは、DPB内の出力が必要なものとしてマーキングされたピクチャの個数を判定するように構成される。デコーダは、個数とビットストリーム内に存在する少なくとも1つの構文要素から導出される値とを比較するように更に構成される。デコーダは、個数が値より大きい場合、DPB内の出力が必要なものとしてマーキングされたピクチャのうち、出力の順序が最初のピクチャを出力するように更に構成される。デコーダは、個数が値より大きい場合、ピクチャに出力が不要なものとしてマーキングするように更に構成される。これは、本実施形態において、デコーダが、現在のピクチャを復号化した後に、ピクチャの個数を判定し、個数を比較し、ピクチャを出力し且つピクチャにマーキングするように構成されることを意味する。
一実施形態において、デコーダ100は、本明細書中の上記で開示した方法ステップ(図11、並びにオプションで図12、図13及び図15を参照)を実行するように構成されるプロセッサ110を備える。デコーダ100は、プロセッサ110に接続されたメモリ120を更に備えてもよい(図16を参照)。
本実施形態において、従って、デコーダ100は、プロセッサ110と、DPB125を備えるメモリ120とを備える。プロセッサ110は、映像シーケンスの復号化される現在のピクチャのスライスヘッダ12を構文解析するように構成される。プロセッサ110は、構文解析されたスライスヘッダ12に基づいて現在のピクチャに対するRPSを判定するように更に構成される。プロセッサ110は、RPS内に存在しないDPB125内の全てのピクチャに参照に使用されないものとしてマーキングするように更に構成される。プロセッサ110は、DPB125内のピクチャのうち、出力が必要なものとしてマーキングされた0個以上のピクチャを出力し且つ0個以上のピクチャに出力が不要なものとしてマーキングするように更に構成される。プロセッサ110は、DPB125内のピクチャのうち、参照に使用されないもの及び出力が不要なものとしてマーキングされたピクチャをDPB125から削除又は除去するように更に構成されるのが好ましい。プロセッサ110は、現在のピクチャを復号化するように更に構成される。本実施形態において、プロセッサ110は、DPB125内の出力が必要なものとしてマーキングされたピクチャの個数を判定するように構成される。プロセッサ110は、個数とビットストリーム10内に存在する少なくとも1つの構文要素14から導出される値とを比較するように更に構成される。プロセッサ110は、個数が値より大きい場合、DPB125内の出力が必要なものとしてマーキングされたピクチャのうち、出力の順序が最初のピクチャを出力するように更に構成される。プロセッサ110は、個数が値より大きい場合、ピクチャに出力が不要なものとしてマーキングするように更に構成される。これは、本実施形態において、プロセッサ110が、現在のピクチャを復号化した後に、ピクチャの個数を判定し、個数を比較し、ピクチャを出力し且つピクチャにマーキングするように構成されることを意味する。
一実施形態において、プロセッサ110は、本明細書中の上記で開示したように、復号化された現在のピクチャをDPB125に格納し且つ復号化された現在のピクチャに出力が必要なもの又は出力が不要なものとしてマーキングするように構成されるのが好ましい。
実現例の一実施形態において、プロセッサ110は、個数と値sps_max_num_reorder_pics[HighestTid]とを比較するように構成されるのが好ましい。この実現例の実施形態において、プロセッサ110は、個数が値sps_max_num_reorder_pics[HighestTid]より大きい場合、DPB125内の出力が必要なものとしてマーキングされた全てのピクチャのうち、DPB125内のPicOrderCntValの値が最小のピクチャを出力するように構成される。
実現例の別の実施形態において、現在のピクチャは、映像シーケンスのランダムアクセスピクチャである。そのような場合、プロセッサ110は、オプションで、no_output_prior_pics_flagフラグの値を取得するためにランダムアクセスピクチャのスライスヘッダ12を構文解析するように構成される。その場合、プロセッサ110は、オプションで、no_output_prior_pics_flagフラグの値が1である場合に、個数を判定し、個数を比較し、ピクチャを出力し且つピクチャにマーキングするように構成される。
映像シーケンスがピクチャの複数のレイヤを含むマルチレイヤ映像シーケンスであり、複数のレイヤの各レイヤが各々の値を定義する関連する構文要素を有する場合、プロセッサ110は、複数のレイヤのうちデコーダ100により復号化される最上位レイヤに関連する好ましくはsps_max_num_reorder_picsである構文要素から導出される値を選択するように構成されるのが好ましい。
一実施形態において、プロセッサ110は、個数が値より大きい場合、DPB125内の出力が必要なものとしてマーキングされたピクチャのうち、ピクチャ順位値が最小のピクチャを出力するように構成されるのが好ましい。
一実施形態において、プロセッサ110は、映像シーケンスの復号化される次のピクチャのスライスヘッダを構文解析する前にピクチャを出力するように構成されるのが好ましい。
図17は、デコーダ200の別の実現例を概略的に示すブロック図である。本例は、デコーダ200のハードウェアでの実現例に特に適している。デコーダ200は、映像シーケンスのピクチャを表すビットストリームを受信し且つDPB225を備える接続されたメモリ220にビットストリームを格納するように構成された入力部210を備える。デコーダは、メモリ220に接続された個数判定部230を更に備える。当該個数判定部230は、現在のピクチャが復号化され且つDPB225に格納された後に、DPB225内の出力が必要なものとしてマーキングされたピクチャの個数を判定するように構成される。比較器240は、個数判定部230に接続され、個数と値sps_max_num_reorder_pics[HighestTid]とを比較するように構成される。デコーダ200は、比較器240及び好ましくはメモリ220に接続された出力部250を更に備える。出力部250は、個数が値より大きい場合、DPB225内の出力が必要なものとしてマーキングされたピクチャのうち、出力の順序が最初のピクチャを出力するように構成される。マーキング部260は、メモリ220に接続され、個数が値より大きい場合、ピクチャに出力が不要なものとしてマーキングするように構成される。
比較器240は、個数判定部230により判定されたピクチャの個数を受信するために、個数判定部230に接続されるのが好ましい。それに対応して、出力部250は、判定された個数が値sps_max_num_reorder_pics[HighesTid]より大きいか否かの情報を比較器240から受信するために、比較器240に接続されるのが好ましい。マーキング部260は、出力部250により出力されたピクチャの情報を受信するために、出力部250に接続されるのが好ましい。
図18は、デコーダ300の更に別の実現例を概略的に示すブロック図である。本例は、デコーダ300のハードウェアでの実現例に特に適している。デコーダ300は、映像シーケンスのピクチャを表すビットストリームを受信し且つDPB325を備える接続されたメモリ320にビットストリームを格納するように構成された入力部310を備える。メモリ320に接続された構文解析部370は、映像シーケンスの復号化される現在のピクチャのスライスヘッダを構文解析するように構成される。デコーダ300は、構文解析部370及び好ましくはメモリ370に接続された参照ピクチャセット判定部380を備える。参照ピクチャセット判定部380は、構文解析されたスライスヘッダに基づいて現在のピクチャに対するRPSを判定するように構成される。マーキング部360は、メモリ320に接続され、RPS内に存在しないDPB325内の全てのピクチャに参照に使用されないものとしてマーキングするように構成される。デコーダ300は、メモリ320及び好ましくは比較340に接続された出力部350を更に備える。出力部350は、DPB325内のピクチャのうち、出力が必要なものとしてマーキングされた0個以上のピクチャを出力するように構成され、その場合、マーキング部360は、0個以上のピクチャに出力が不要なものとしてマーキングするように構成される。ピクチャ削除部390は、メモリ320に接続され、DPB325内のピクチャのうち、参照に使用されないもの及び出力が不要なものとしてマーキングされたピクチャをDPB325から削除又は除去するように構成される。復号化部305は、メモリ320に接続され、現在のピクチャを復号化するように構成される。
図18のデコーダ300は、メモリ320に接続され、好ましくは構文解析部370及び比較器340に更に接続された個数判定部330を更に備える。個数判定部330は、DPB325内の出力が必要なものとしてマーキングされたピクチャの個数を判定するように構成される。前述した比較器340は、個数とビットストリーム内に存在する少なくとも1つの構文要素から導出される値とを比較するように構成される。本実施形態において、出力部350は、個数が値より大きい場合、DPB325内の出力が必要なものとしてマーキングされたピクチャのうち、出力の順序が最初のピクチャを出力するように更に構成される。マーキング部360は、個数が値より大きい場合、ピクチャに出力が不要なものとしてマーキングするように更に構成される。
好適な一実施形態において、復号化部305が現在のピクチャを復号化した後に、個数判定部330はピクチャの個数を判定するように構成され、比較器340は個数を比較するように構成され、出力部350はピクチャを出力するように構成され、マーキング部360はピクチャにマーキングするように構成される。
参照ピクチャセット判定部380は、構文解析されたスライスヘッダ内に存在し且つRPSを判定するために使用される情報を受信するために、構文解析部370に接続されるのが好ましい。参照ピクチャセット判定部380は、RPS又はRPS内に記載されたピクチャの情報をマーキング部360に提供するために、マーキング部360に更に接続されるのが好ましい。比較器340は、個数判定部330により判定されたピクチャの個数を受信するために、個数判定部330に接続されるのが好ましい。それに対応して、出力部350は、判定された個数が値より大きいか否かの情報を比較器340から受信するために、比較器340に接続されるのが好ましい。マーキング部360は、出力部350により出力されたピクチャの情報を受信するために、出力部350に接続されるのが好ましい。
前述したように、デコーダは、機能モジュールのグループとして定義されてもよく、その場合、機能モジュールは、プロセッサ上で実行するコンピュータプログラムとして実現される。
図16は、プロセッサ110及び関連付けられたメモリ120を備えるデコーダ100の一例を概略的に示すブロック図である。
従って、メモリ120に常駐するコンピュータプログラムは、プロセッサ110により実行される場合に、上述したステップ及び/又はタスクの少なくとも一部を実行するように構成された適切な機能モジュールとして編成されてもよい。そのような機能モジュールの一例を図19に示す。従って、図19は、機能モジュール410〜440のグループを備えるデコーダ400の一例を概略的に示すブロック図である。これらのモジュールは、映像シーケンスのピクチャを表すビットストリームの現在のピクチャが復号化され且つDPBに格納された後に、DPB内の出力が必要なものとしてマーキングされたピクチャの個数を判定する個数判定モジュール410を含む。デコーダ400は、好ましくは個数判定モジュール410から受信される個数と値sps_max_num_reorder_pics[HighesTid]とを比較する比較モジュール420を更に備える。デコーダ400の出力モジュール430は、オプションであるが好ましくは比較モジュール420により判定される際に個数が値より大きい場合、DPB内の出力が必要なものとしてマーキングされたピクチャのうち、出力の順序が最初のピクチャを出力する。デコーダ400は、オプションであるが好ましくは比較モジュール420により判定される際に個数が値より大きい場合、ピクチャに出力が不要なものとしてマーキングするマーキングモジュール440を更に備える。
図20は、機能モジュール510〜580のグループを有するデコーダ500の別の例を概略的に示すブロック図である。デコーダ500は、映像シーケンスのピクチャを表すビットストリームの復号化される現在のピクチャのスライスヘッダを構文解析する構文解析モジュール510を備える。デコーダ500の参照ピクチャセット判定モジュール520は、好ましくは構文解析モジュール510により構文解析されたスライスヘッダに基づいて現在のピクチャに対するRPSを判定する。デコーダ500は、オプションであるが好ましくは参照ピクチャセット判定モジュール520により判定されたRPS内に存在しないDPB内の全てのピクチャに参照に使用されないものとしてマーキングするマーキングモジュール530と、DPB内のピクチャのうち、出力が必要なものとしてマーキングされた0個以上のピクチャを出力する出力モジュール540とを更に備える。一実施形態において、マーキングモジュール530は更に、0個以上のピクチャに出力が不要なものとしてマーキングする。デコーダ500は、DPB内のピクチャのうち、参照に使用されないもの及び出力が不要なものとしてマーキングされたピクチャをDPBから削除又は除去する削除モジュール550と、現在のピクチャを復号化する復号化モジュール560とを更に備える。デコーダ500は、DPB内の出力が必要なものとしてマーキングされたピクチャの個数を判定する個数判定モジュール560と、オプションであるが好ましくは個数判定モジュール560により判定された個数とビットストリーム内に存在する少なくとも1つの構文要素から導出される値とを比較する比較モジュール570とを更に備える。
一実施形態において、出力モジュール540は更に、オプションであるが好ましくは比較モジュール570により判定される際に個数が値より大きい場合、DPB内の出力が必要なものとしてマーキングされたピクチャのうち、出力の順序が最初のピクチャを出力する。マーキングモジュール530は更に、オプションであるが好ましくは比較モジュール570により判定される際に個数が値より大きい場合、ピクチャに出力が不要なものとしてマーキングする。
一実施形態において、復号化モジュール560が現在のピクチャを復号化した後に、個数判定モジュール570はピクチャの個数を判定し、比較モジュール580は個数を比較し、出力モジュール540はピクチャを出力し、マーキングモジュール530は前記ピクチャにマーキングする。
図19及び図20に示すデコーダ400、500の実施形態は、オプションで、図9、図10、図12〜図15等を参照して本明細書中の上記で開示した種々の実現例の実施形態を実行するように更に動作可能であってもよい。
一実施形態において、コンピュータプログラムは、プロセッサ110(図16を参照)又はコンピュータにより実行される場合に、上述し且つ図8〜図15に示したステップ、機能、手順及び/又はブロックをプロセッサ110又はコンピュータに実行させるプログラムコードを備える。
ソフトウェア又はコンピュータプログラムは、通常はコンピュータ可読媒体に記憶又は格納されるコンピュータプログラム製品として実現されてもよい。コンピュータ可読媒体は、ROM、RAM、コンパクトディスク(CD)、デジタル多用途ディスク(DVD)、ユニバーサルシリアルバス(USB)メモリ、ハードディスクドライブ(HDD)記憶装置、フラッシュメモリ又は他の何らかの従来のメモリ装置を含むがそれらに限定されない1つ以上の取外し可能又は取外し不能メモリ装置を含んでもよい。従って、コンピュータプログラムは、処理回路網により実行するために、コンピュータ又は同様の処理装置のオペレーティングメモリにロードされてもよい。
図16〜図20に示すデコーダ100、200、300、400、500は、HEVC対応デコーダであるのが好ましい。しかし、実施形態はHEVCに限定されない。
一態様によると、エンコーダにより実行される方法が提供される。方法において、エンコーダは、DPB内の出力が必要なものとしてマーキングされたピクチャの個数を判定し、当該個数とビットストリーム内の構文要素により表される値とを比較する。DPB内の出力が必要なものとしてマーキングされたピクチャの個数がビットストリーム内の構文要素から導出される値より大きい場合、修正された出力マーキング処理が実行されるか、あるいは、DPB内の出力が必要なものとしてマーキングされたピクチャのうち、出力の順序が最初のピクチャに出力が不要なものとしてマーキングする。
図21は、一実施形態に係るエンコーダにより実行される方法を示すフローチャートである。方法は、現在のピクチャが復号化され且つDPBに格納された後に、ステップS60において、DPB内の出力が必要なものとしてマーキングされたピクチャの個数を判定することを含む。次のステップS61は、個数と値sps_max_num_reorder_pics[HighestTid]とを比較することを含む。この場合、HighestTidは、映像シーケンスのうちエンコーダにより復号化される最上位レイヤを指定する。個数が値より大きい場合、ステップS62へ進む。ステップS62は、DPB内の出力が必要なものとしてマーキングされたピクチャのうち、出力の順序が最初のピクチャに出力が不要なものとしてマーキングすることを含む。
図21のエンコーダにおいて実行される方法は、対応するデコーダにおいて実行される対応する方法と基本的に同様である(図8を参照)。しかし、デコーダはピクチャを出力するが、エンコーダは一般にピクチャを出力しない点が異なる。従って、図21に示す方法の実施形態は、図8のデコーダにより実行される対応する方法の出力ステップS3を有さないのが好ましい。
一実施形態において、現在のピクチャが復号化された場合、出力に対するマーキング及び参照に対するマーキングの2つのマーキングが行われるのが好ましい。従って、一実施形態において、これらのマーキングは、出力が必要なものとしてマーキングされるピクチャの個数に影響を及ぼすため、ステップS60の前に行われるのが好ましい。現在のピクチャがPicOutputFlag=1を有する場合、現在のピクチャも計数されるのが好ましい。
一実施形態において、ステップS61の比較において判定される際に個数が値より大きくない場合、方法は終了するのが好ましく、ピクチャはマーキングされない。従って、そのような場合、ステップS62は省略され、実行されない(右側の点線を参照)。
一実施形態において、図21のステップS61〜S62は、現在のピクチャが復号化され且つDPBに格納された後に1回のみ実行されてもよい。あるいは、DPB内の出力が必要なものとしてマーキングされたピクチャの個数が値sps_max_num_reorder_pics[HighestTid]より大きくなくなるまで、ステップS61〜S62により形成されるループ(左側の点線を参照)が実行されてもよい。ステップS61〜S62のループが実行される度に、ステップS62でマーキングすることにより、DPB内の出力が必要なものとしてマーキングされたピクチャの個数は1ずつ減少される。
図22は、別の実施形態に係るエンコーダにより実行される方法を示すフローチャートである。方法は、ステップS70において、映像シーケンスセットの現在のピクチャに対するRPS内に存在しないDPB内の全てのピクチャに参照に使用されないものとしてマーキングすることを含む。方法は、ステップS71において、DPB内のピクチャのうち、出力が必要なものとしてマーキングされた0個以上のピクチャに出力が不要なものとしてマーキングすることを更に含む。ステップS72において、DPB内のピクチャのうち、参照に使用されないもの及び出力が不要なものとしてマーキングされたピクチャはDPBから削除又は除去される。次のステップS73は、現在のピクチャを復号化することを含む。方法は、ステップS74において、DPB内の出力が必要なものとしてマーキングされたピクチャの個数を判定することと、ステップS75において、個数と少なくとも1つの定義された構文要素から導出される値とを比較することとを更に含む。当該個数が値より大きい場合、ステップS76へ進む。ステップS76は、DPB内の出力が必要なものとしてマーキングされたピクチャのうち、出力の順序が最初のピクチャに出力が不要なものとしてマーキングすることを含む。好適な一実施形態において、ステップS74におけるピクチャの個数の判定、ステップS75における個数の比較及びステップS76におけるピクチャへのマーキングは、ステップS73において現在のピクチャを復号化した後に実行される。
図22のエンコーダにおいて実行される方法は、対応するデコーダにおいて実行される対応する方法と基本的に同様である(図11を参照)。しかし、デコーダはピクチャを出力するが、エンコーダは一般にピクチャを出力しない点が異なる。従って、図22に示す方法の実施形態は、図11のデコーダにより実行される対応する方法の出力ステップS33及びS38を有さないのが好ましい。更に、図22の方法において、エンコーダはビットストリームを受信しないため、現在のピクチャに対するRPSを判定するための情報を取得するためにスライスヘッダを構文解析する必要がない。エンコーダ自体が現在のピクチャに対するRPSを生成し且つ判定する点が明らかに異なる。従って、図11のデコーダにより実行される対応する方法のステップS30及びS31は、通常はエンコーダにより実行されない。
一実施形態において、ステップS75の比較において判定される際に個数が値より大きくない場合、方法は終了するのが好ましく、ピクチャはマーキングされない。従って、そのような場合、ステップS76は省略され、実行されない(右側の点線を参照)。
一実施形態において、ステップS75〜S76は、現在のピクチャが復号化され且つDPBに格納された後に1回のみ実行されてもよい。あるいは、DPB内の出力が必要なものとしてマーキングされたピクチャの個数が値より大きくなくなるまで、ステップS75〜S76により形成されるループ(左側の点線を参照)が実行されてもよい。ステップS75〜S76のループが実行される度に、ステップS76でマーキングすることにより、DPB内の出力が必要なものとしてマーキングされたピクチャの個数は1ずつ減少される。
デコーダにより実行される方法に関連して前述した実施形態は、エンコーダにより同様に実行可能である。
例えばエンコーダの方法は、一実施形態に係る以下の順序のステップを含んでもよく且つ/又はエンコーダは、そのようなステップを実行するように構成されてもよい。
1.ピクチャPが符号化される。
2.ピクチャPが符号化された後、エンコーダは、DPB内の「出力が必要なもの」としてマーキングされたピクチャの個数を判定し、当該個数とビットストリーム内の構文要素から導出可能な値とを比較する。尚、これはエンコーダ内のDPBを示す。エンコーダ及びデコーダにおけるDPBの状態は同一である。デコーダにおける比較は完全に同一である。HEVC仕様はデコーダの動作を指定するが、エンコーダはそれに追従する必要があり、すなわちエンコーダはデコーダの動作を実行する。
3.DPB内の「出力が必要なもの」としてマーキングされたピクチャの個数がビットストリーム内の構文要素から導出可能な値より大きい場合、DPB内の「出力が必要なもの」としてマーキングされたピクチャのうち、出力の順序が最初のピクチャが「出力が不要なもの」としてマーキングされる。オプションで、ピクチャはエンコーダから出力されてもよい。
4.次のピクチャQが符号化される。
図21及び図22に関連して上述したステップ、機能、手順、モジュール及び/又はブロックは、汎用電子回路網及び特定用途向け回路網の双方を含む個別回路又は集積回路技術等の何らかの従来の技術を使用してハードウェアで実現されてもよい。
特定の例は、1つ以上の適切に構成されたデジタル信号プロセッサ、並びに例えば特殊化した機能を実行するために相互接続された個別論理ゲート又はASICである他の既知の電子回路を含む。
あるいは、図21及び図22に関連して上述したステップ、機能、手順、モジュール及び/又はブロックのうちの少なくともいくつかは、1つ以上のプロセッサを含む適切な処理回路網により実行するためのコンピュータプログラム等のソフトウェアで実現されてもよい。
プロセッサは、例えばメモリの形態であるコンピュータプログラム製品に格納されたコンピュータプログラムに含まれるソフトウェア命令を実行できる。各コンピュータプログラム製品は、RAM及びROMの何らかの組み合わせであるメモリであってもよい。各メモリは、例えば磁気メモリ、光メモリ、固体メモリ又はリモートに搭載されたメモリのうちのいずれか1つ又はそれらの組み合わせであってもよい固定記憶装置を含む。
従って、上記に提示し且つ図21及び図22に示したフローチャート又は図は、1つ以上のプロセッサにより実行される場合、コンピュータのフローチャート又は図であると見なされてもよい。対応する装置は、機能モジュールのグループとして定義されてもよく、その場合、プロセッサにより実行される各ステップは機能モジュールに対応する。この場合、機能モジュールは、プロセッサ上で実行するコンピュータプログラムとして実現される。
処理回路網の例は、1つ以上のマイクロプロセッサ、1つ以上のDSP、1つ以上のCPU、映像加速ハードウェア、並びに/あるいは1つ以上のFPGA又は1つ以上のPLC等の何らかの適切なプログラマブル論理回路網を含むが、それらに限定されない。
提案された技術が実現される何らかの従来の装置又はユニットの一般的な処理能力を再利用することが可能だろうことが更に理解されるべきである。例えば既存のソフトウェアを再プログラミングするか又は新規のソフトウェア構成要素を追加することにより、既存のソフトウェアを再利用することが更に可能だろう。
一態様によると、方法を実行するように構成されるエンコーダが提供される。エンコーダは、現在のピクチャが復号化され且つDPBに格納された後に、DPB内の出力が必要なものとしてマーキングされたピクチャの個数を判定するように構成される。エンコーダは、個数と値sps_max_num_reorder_pics[HighestTid]とを比較するように更に構成される。エンコーダは、個数が値より大きい場合、DPB内の出力が必要なものとしてマーキングされたピクチャのうち、出力の順序が最初のピクチャに出力が不要なものとしてマーキングするように更に構成される。
一実施形態において、エンコーダ600は、本明細書中の上記で開示した方法ステップ(図21を参照)を実行するように構成されるプロセッサ610を備える。エンコーダ600は、プロセッサ610に接続されたメモリ620を更に備えてもよい(図23を参照)。
図23は、一実施形態に係るエンコーダ600を概略的に示すブロック図である。エンコーダ600は、映像シーケンスのピクチャをビットストリーム10に符号化するように構成される。エンコーダ600は、プロセッサ610及びメモリ620を備える。メモリ620は、DPB625を備える。一実施形態において、プロセッサ610は、現在のピクチャが復号化され且つDPB625に格納された後に、DPB625内の出力が必要なものとしてマーキングされたピクチャの個数を判定するように構成される。プロセッサ610は、個数と値sps_max_num_reorder_pics[HighestTid]とを比較するように更に構成される。プロセッサ610は、個数が値より大きい場合、DPB625内の出力が必要なものとしてマーキングされたピクチャのうち、出力の順序が最初のピクチャに出力が不要なものとしてマーキングするように更に構成される。
図23において、エンコーダ600は、プロセッサ610を備えるものとして示される。当該プロセッサ610は、単一のプロセッサとして実現されてもよく、あるいは処理回路網の形態等で複数のプロセッサとして実現されてもよい。
従って、図23は、エンコーダ600のコンピュータでの一実現例を示す。この特定の例において、上述したステップ、機能、手順、モジュール及び/又はブロックのうちの少なくともいくつかは、プロセッサ610により実行するためにメモリ620にロードされるコンピュータプログラムで実現される。プロセッサ610及びメモリ620は相互接続され、通常のソフトウェア実行を可能にする。符号化されるピクチャの入力及びビットストリーム10の出力を可能にするために、オプションの入出力装置(不図示)がプロセッサ610及び/又はメモリ620に更に相互接続されてもよい。
実施形態の別の態様は、映像シーケンスの現在のピクチャに対するRPS内に存在しないDPB内の全てのピクチャに参照に使用されないものとしてマーキングするように構成されるエンコーダに関する。エンコーダは、DPB内のピクチャのうち、出力が必要なものとしてマーキングされた0個以上のピクチャに出力が不要なものとしてマーキングし、DPB内のピクチャのうち、参照に使用されないもの及び出力が不要なものとしてマーキングされたピクチャをDPBから削除又は除去するように更に構成される。エンコーダは、現在のピクチャを復号化し、DPB内の出力が必要なものとしてマーキングされたピクチャの個数を判定するように更に構成される。エンコーダは、個数と少なくとも1つの定義された構文要素から導出される値とを比較し、個数が値より大きい場合、DPB内の出力が必要なものとしてマーキングされたピクチャのうち、出力の順序が最初のピクチャに出力が不要なものとしてマーキングするように更に構成される。一実施形態において、エンコーダは、現在のピクチャを復号化した後に、ピクチャの個数を判定し、個数を比較し且つピクチャにマーキングするように構成される。
一実施形態において、エンコーダ600は、本明細書中の上記で開示した方法ステップ(図22を参照)を実行するように構成されるプロセッサ610を備える。エンコーダ600は、プロセッサ610に接続されたメモリ620を更に備えてもよい(図23を参照)。
図23は、一実施形態に係るエンコーダ600を概略的に示すブロック図である。エンコーダ600は、映像シーケンスのピクチャをビットストリーム10に符号化するように構成される。エンコーダ600は、プロセッサ610及びメモリ620を備える。メモリ620は、DPB625を備える。一実施形態において、プロセッサ610は、映像シーケンスの現在のピクチャに対するRPS内に存在しないDPB625内の全てのピクチャに参照に使用されないものとしてマーキングするように構成される。プロセッサ610は、DPB625内のピクチャのうち、出力が必要なものとしてマーキングされた0個以上のピクチャに出力が不要なものとしてマーキングするように更に構成される。プロセッサ610は、DPB625内のピクチャのうち、参照に使用されないもの及び出力が不要なものとしてマーキングされたピクチャをDPB625から削除又は除去するように更に構成される。本実施形態において、プロセッサ610は、現在のピクチャを復号化し、DPB625内の出力が必要なものとしてマーキングされたピクチャの個数を判定するように更に構成される。プロセッサ610は、個数と少なくとも1つの定義された構文要素から導出される値とを比較するように更に構成される。プロセッサ610は、個数が値より大きい場合、DPB内の出力が必要なものとしてマーキングされたピクチャのうち、出力の順序が最初のピクチャに出力が不要なものとしてマーキングするように更に構成される。本実施形態において、プロセッサ610は、現在のピクチャを復号化した後に、ピクチャの個数を判定し、個数を比較し且つピクチャにマーキングするように構成される。
図24は、エンコーダ700の別の実現例を概略的に示すブロック図である。本例は、エンコーダ700のハードウェアでの実現例に特に適している。エンコーダ700は、DPB725を備えるメモリ720に接続された個数判定部730を備える。個数判定部730は、映像シーケンスの現在のピクチャが復号化され且つDPB725に格納された後に、DPB725内の出力が必要なものとしてマーキングされたピクチャの個数を判定するように構成される。エンコーダ700は、個数判定部730及び好ましくはメモリ720に接続された比較器740を更に備える。比較器740は、個数と値sps_max_num_reorder_pics[HighestTid]とを比較するように構成される。エンコーダのマーキング部760は、メモリ720に接続され、個数が値より大きい場合、個数が値より大きい場合、DPB725内の出力が必要なものとしてマーキングされたピクチャのうち、出力の順序が最初のピクチャに出力が不要なものとしてマーキングするように構成される。
比較器740は、個数判定部730により判定されたピクチャの個数を受信するために、個数判定部730に接続されるのが好ましい。
図25は、ハードウェアでの実現例に特に適しているエンコーダ800の更に別の実現例を概略的に示すブロック図である。エンコーダ800は、DPB825を備えるメモリ820に接続されたマーキング部860を備える。マーキング部860は、i)映像シーケンスの現在のピクチャに対するRPS内に存在しないDPB825内の全てのピクチャに参照に使用されないものとしてマーキングし、ii)DPB825内のピクチャのうち、出力が必要なものとしてマーキングされた0個以上のピクチャに出力が不要なものとしてマーキングするように構成される。ピクチャ削除部890は、メモリ820に接続され、DPB825内のピクチャのうち、参照に使用されないもの及び出力が不要なものとしてマーキングされたピクチャをDPB825から削除又は除去するように構成される。エンコーダ800は、メモリ820に接続され且つ現在のピクチャを復号化するように構成された復号化部805を更に備える。エンコーダ800の個数判定部830は、メモリ830に接続され、DPB825内の出力が必要なものとしてマーキングされたピクチャの個数を判定するように構成される。エンコーダ800は、個数判定部830及び好ましくはメモリ820に接続された比較器840を更に備える。比較器840は、個数と少なくとも1つの定義された構文要素から導出される値とを比較するように構成される。本実施形態において、マーキング部860は、個数が値より大きい場合、DPB825内の出力が必要なものとしてマーキングされたピクチャのうち、出力の順序が最初のピクチャに出力が不要なものとしてマーキングするように更に構成される。好適な一実施形態において、復号化部805が現在のピクチャを復号化した後に、個数判定部830はピクチャの個数を判定するように構成され、比較器840は個数を比較するように構成され、マーキング部860はピクチャにマーキングするように構成される。
比較器840は、個数判定部830により判定されたピクチャの個数を受信するために、個数判定部830に接続されるのが好ましい。
前述したように、エンコーダは、機能モジュールのグループとして定義されてもよく、その場合、機能モジュールは、プロセッサ上で実行するコンピュータプログラムとして実現される。
図23は、プロセッサ610及び関連付けられたメモリ620を備えるエンコーダ600の一例を概略的に示すブロック図である。
従って、メモリ620に常駐するコンピュータプログラムは、プロセッサ610により実行される場合に、上述したステップ及び/又はタスクの少なくとも一部を実行するように構成された適切な機能モジュールとして編成されてもよい。そのような機能モジュールの一例を図26に示す。従って、図26は、機能モジュール910〜930のグループを備えるエンコーダ900の一例を概略的に示すブロック図である。これらのモジュールは、映像シーケンスのピクチャを表すビットストリームの現在のピクチャが復号化され且つDPBに格納された後に、DPB内の出力が必要なものとしてマーキングされたピクチャの個数を判定する個数判定モジュール910を備える。エンコーダ900は、オプションであるが好ましくは個数判定モジュール910により判定された個数と値sps_max_num_reorder_pics[HighesTid]とを比較する比較モジュール920を更に備える。エンコーダ900は、オプションであるが好ましくは比較モジュール920により判定される際に個数が値より大きい場合、DPB内の出力が必要なものとしてマーキングされたピクチャのうち、出力の順序が最初のピクチャに出力が不要なものとしてマーキングするマーキングモジュール930を更に備える。
図27は、機能モジュール1000〜1050のグループを有するエンコーダ1000の別の例を概略的に示すブロック図である。エンコーダ1000は、映像シーケンスの現在のピクチャに対するRPSセット内に存在しないDPB内の全てのピクチャに参照に使用されないものとしてマーキングし且つDPB内のピクチャのうち出力が必要なものとしてマーキングされた0個以上のピクチャに出力が不要なものとしてマーキングするマーキングモジュール1010を備える。エンコーダ1000は、DPB内のピクチャのうち、参照に使用されないもの及び出力が不要なものとしてマーキングされたピクチャをDPBから削除又は除去する削除モジュール1020と、現在のピクチャを復号化する復号化モジュール1030とを更に備える。エンコーダ1000は、DPB内の出力が必要なものとしてマーキングされたピクチャの個数を判定する個数判定モジュール1040と、オプションであるが好ましくは個数判定モジュール1040により判定された個数とビットストリーム内に存在する少なくとも1つの構文要素から導出される値とを比較する比較モジュール1050とを更に備える。
一実施形態において、マーキングモジュール1010は更に、オプションであるが好ましくは比較モジュール1050により判定される際に個数が値より大きい場合、DPB内の出力が必要なものとしてマーキングされたピクチャのうち、出力の順序が最初のピクチャに出力が不要なものとしてマーキングする。
一実施形態において、復号化モジュール1030が現在のピクチャを復号化した後に、個数判定モジュール1040はピクチャの個数を判定し、比較モジュール1050は個数を比較し、マーキングモジュール1010は前記ピクチャにマーキングする。
一実施形態において、コンピュータプログラムは、プロセッサ610(図23を参照)又はコンピュータにより実行される場合に、上述し且つ図21又は図22に示したステップ、機能、手順及び/又はブロックをプロセッサ610又はコンピュータに実行させるプログラムコードを備える。
ソフトウェア又はコンピュータプログラムは、通常はコンピュータ可読媒体に記憶又は格納されるコンピュータプログラム製品として実現されてもよい。コンピュータ可読媒体は、ROM、RAM、CD、DVD、USBメモリ、HDD記憶装置、フラッシュメモリ又は他の何らかの従来のメモリ装置を含むがそれらに限定されない1つ以上の取外し可能又は取外し不能メモリ装置を含んでもよい。従って、コンピュータプログラムは、処理回路網により実行するために、コンピュータ又は同様の処理装置のオペレーティングメモリにロードされてもよい。
図23〜図27に示すエンコーダ600、700、800、900、1000は、HEVC対応エンコーダであるのが好ましい。しかし、実施形態はHEVCに限定されない。
図16〜図20のいずれかにおけるデコーダ100、200、300、400、500及び図23〜図27のいずれかにおけるエンコーダ600、700、800、900、1000は、例えば移動端末において実現されてもよい。例えばデコーダ100、200、300、400、500は、例えばビデオカメラ又は映像ストリームを表示するための他の何らかの装置の受信機内に位置してもよい。例えばエンコーダ600、700、800、900、1000は、例えば移動端末内のビデオカメラの送信機内に位置してもよい。
図28は、一実施形態に係る移動端末1100を概略的に示すブロック図である。移動端末1100は、図16〜図20のいずれかに示したデコーダ及び/又は図23〜図27のいずれかに示したエンコーダ等の実施形態に係るデコーダ100、200、300、400、500及び/又は実施形態に係るエンコーダ600、700、800、900、1000を備える。
移動端末1100は、通常は無線通信であるが代わりに又はそれに加えて有線通信である外部ユニットとの通信を可能にする入出力(I/O)部1110を更に備えるのが好ましい。I/O部1110は、無線通信のための送信機及び受信機、あるいは送受信機として実現されてもよい。あるいは、I/O部1110は、有線通信を実行できる一般的なI/O部又はポート1110であってもよい。移動端末1100がエンコーダ600、700、800、900、1000を用いて実現される場合、I/O部1110は、エンコーダ600、700、800、900、1000により生成される符号化映像シーケンスを表すビットストリームを送信又は出力するように構成されるのが好ましい。それに対応して、移動端末1100がデコーダ100、200、300、400、500を備える場合、I/O部1110は、符号化映像シーケンスを表すビットストリームを受信又は入力するように構成されるのが好ましい。
移動端末1100は、符号化映像シーケンスの符号化ピクチャを格納するように構成されたメモリ1120を備える。これらの符号化ピクチャは、移動端末1100自体により生成されてもよい。そのような場合、移動端末1100は、接続されたエンコーダ600、700、800、900、1000と共に、メディアエンジン又は記録器(不図示)を備えるのが好ましい。あるいは、符号化映像シーケンスは、何らかの他の装置により生成され、移動端末1100へ送信される。
符号化ピクチャは、メモリ1120からデコーダ100、200、300、400、500に取り込まれる。その後、デコーダ100、200、300、400、500は、符号化ピクチャを復号化ピクチャに復号化する。復号化ピクチャは、移動端末1100の表示装置又は画面1140、あるいは移動端末1100に接続された表示装置又は画面1140上で表示可能な映像データに映像シーケンスの復号化ピクチャをレンダリングするように構成されるメディアプレーヤ1130に提供される。
図28において、移動端末1100はデコーダ100、200、300、400、500及びメディアプレーヤ1130の双方を備え、デコーダ100、200、300、400、500はメディアプレーヤ1130の一部として実現されるものとして示した。しかし、これは移動端末1100に対する実現例の一実施形態の例示であって非限定的な例にすぎないと考えられるべきである。また、デコーダ100、200、300、400、500及びメディアプレーヤ1130が2つの物理的に別個の装置において提供される分散された実現例が可能であり、これは本明細書中で使用される移動端末1100の範囲内である。表示装置1140は、移動端末1100に接続され実際のデータ処理が行われる別個の装置として提供されてもよい。
移動端末1100は、符号化ピクチャの符号化映像シーケンスに対して動作することによりピクチャを復号化し且つ映像データを利用可能にするメディア復号化機能を有するどんな装置であってもよい。そのような移動端末1100の非限定的な例は、移動電話及び他のポータブルメディアプレーヤ、コンピュータ、デコーダ、ゲームコンソール等を含む。
図23〜図27のいずれかに示した実施形態のエンコーダ600、700、800、900、1000及び/又は図16〜図20のいずれかに示した実施形態のデコーダ100、200、300、400、500は、図29に示すネットワークノード2において実現されてもよい。
図29に示すように、エンコーダ600、700、800、900、1000及び/又はデコーダ100、200、300、400、500は、送出装置3と受信装置4との間の通信ネットワーク1におけるネットワークノード2において実現されてもよい。そのようなネットワークノード2は、例えば異なる映像解像度、フレーム速度、品質、ビット速度及び符号化規格の間で映像を変換する装置であってもよい。ネットワークノード2は、無線基地局、Node−B、あるいは無線利用ネットワーク等の通信ネットワーク1における他の何らかのネットワークノードの形態であってもよい。
実施形態のエンコーダ及び/又はデコーダは、メディア認識ネットワーク要素等のビットストリームに対して動作する何らかの要素において同様に提供されてもよい。
実施形態はHEVCに限定されず、スケーラブル拡張又は多視点拡張等のHEVCの何らかの拡張、あるいは異なる映像コーデックに適用されてもよい。
上述した実施形態は、本発明のいくつかの例示的な例として理解される。本発明の範囲から逸脱せずに種々の修正、組み合わせ及び変形が実施形態に対して行われてもよいことが当業者には理解されるだろう。
特に、異なる実施形態における異なる部分的解決策は、技術上可能である場合、他の構成と組み合わせ可能である。しかし、本発明の範囲は添付の特許請求の範囲により定義される。

Claims (15)

  1. デコーダ(100、200、400)が実行する方法であって、
    ビットストリームの現在のピクチャが復号化され且つ復号化ピクチャバッファ(125、225)に格納された後に、前記復号化ピクチャバッファ(125、225)内の出力が必要なものとしてマーキングされたピクチャの個数を判定するステップ(S1)であって、前記現在のピクチャは、ピクチャの複数のレイヤを含むマルチレイヤ映像シーケンスの前記デコーダ(100、200、400)により復号化される最上位レイヤ以外のレイヤに属している、ステップと、
    前記最上位レイヤと関連付けられた構文要素から値sps_max_num_reorder_pics[HighestTid]を導出するステップであって、HighestTidは前記最上位レイヤを特定し、前記構文要素は前記ビットストリームのシーケンスパラメータセットから検索され、前記複数のレイヤのうちの各レイヤiは、値sps_max_num_reorder_pics[i]をそれぞれ定義する関連構文要素を有し、前記値sps_max_num_reorder_pics[i]は、HighestTidがiに等しい場合に、復号化の順序がマルチレイヤ映像シーケンスにおけるピクチャより前であり、且つ、出力の順序が当該ピクチャより後ろであるピクチャの最大許容個数を示す、ステップと、
    前記復号化ピクチャバッファ(125、225)内の出力が必要なものとしてマーキングされた前記ピクチャの個数が前記値sps_max_num_reorder_pics[HighestTid]より大きい場合、前記復号化ピクチャバッファ(125、225)内の出力が必要なものとしてマーキングされた前記ピクチャのうち、出力の順序が最初のピクチャを出力するステップ(S3)と、
    前記復号化ピクチャバッファ(125、225)内の出力が必要なものとしてマーキングされた前記ピクチャの個数が前記値sps_max_num_reorder_pics[HighestTid]より大きい場合、前記ピクチャに出力が不要なものとしてマーキングするステップ(S4)と、
    を含むことを特徴とする方法。
  2. 前記マルチレイヤ映像シーケンスの復号化される前記現在のピクチャのスライスヘッダを構文解析するステップ(S10)と、
    前記構文解析されたスライスヘッダに基づいて、前記現在のピクチャに対する参照ピクチャセットを判定するステップ(S11)と、
    前記参照ピクチャセット内に存在しない前記復号化ピクチャバッファ(125、225)内の全てのピクチャに参照に使用されないものとしてマーキングするステップ(S12)と、
    前記復号化ピクチャバッファ(125、225)内の前記ピクチャのうち、出力が必要なものとしてマーキングされた0個以上のピクチャを出力し且つ前記0個以上のピクチャに出力が不要なものとしてマーキングするステップ(S13)と、
    前記復号化ピクチャバッファ(125、225)内の前記ピクチャのうち、参照に使用されないもの及び出力が不要なものとしてマーキングされたピクチャを前記復号化ピクチャバッファ(125、225)から削除するステップ(S14)と、
    前記現在のピクチャを復号化するステップ(S15)と
    を含み、
    ピクチャの前記個数を判定するステップ(S1)、前記ピクチャを出力するステップ(S3)及び前記ピクチャにマーキングするステップ(S4)は、前記現在のピクチャを復号化するステップ(S15)の後に実行されることを特徴とする請求項1記載の方法。
  3. デコーダ(100、300、500)が実行する方法であって、
    ピクチャの複数のレイヤを含むマルチレイヤ映像シーケンスの復号化されるビットストリームの現在のピクチャのスライスヘッダを構文解析するステップ(S30)であって、前記現在のピクチャはマルチレイヤ映像シーケンスの前記デコーダ(100、200、400)により復号化される最上位レイヤ以外のレイヤに属している、ステップと、
    前記構文解析されたスライスヘッダに基づいて、前記現在のピクチャに対する参照ピクチャセットを判定するステップ(S31)と、
    前記参照ピクチャセット内に存在しない復号化ピクチャバッファ(125、325)内の全てのピクチャに参照に使用されないものとしてマーキングするステップ(S32)と、
    前記復号化ピクチャバッファ(125、325)内の前記ピクチャのうち、出力が必要なものとしてマーキングされた0個以上のピクチャを出力し且つ前記0個以上のピクチャに出力が不要なものとしてマーキングするステップ(S33)と、
    前記復号化ピクチャバッファ(125、325)内の前記ピクチャのうち、参照に使用されないもの及び出力が不要なものとしてマーキングされたピクチャを前記復号化ピクチャバッファ(125、325)から削除するステップ(S34)と、
    前記現在のピクチャを復号化するステップ(S35)と、
    前記復号化ピクチャバッファ(125、325)内の出力が必要なものとしてマーキングされたピクチャの個数を判定するステップ(S36)と、
    前記最上位レイヤと関連付けられた構文要素から値sps_max_num_reorder_pics[HighestTid]を導出するステップであって、HighestTidは前記最上位レイヤを特定し、前記構文要素は前記ビットストリームのシーケンスパラメータセットから検索され、前記複数のレイヤのうちの各レイヤiは、値sps_max_num_reorder_pics[i]をそれぞれ定義する関連構文要素を有し、前記値sps_max_num_reorder_pics[i]は、HighestTidがiに等しい場合に、復号化の順序がマルチレイヤ映像シーケンスにおけるピクチャより前であり、且つ、出力の順序が当該ピクチャより後ろであるピクチャの最大許容個数を示す、ステップと、
    前記復号化ピクチャバッファ(125、325)内の出力が必要なものとしてマーキングされた前記ピクチャの個数が前記値sps_max_num_reorder_pics[HighestTid]より大きい場合、前記復号化ピクチャバッファ(125、325)内の出力が必要なものとしてマーキングされた前記ピクチャのうち、出力の順序が最初のピクチャを出力するステップ(S38)と、
    前記復号化ピクチャバッファ(125、325)内の出力が必要なものとしてマーキングされた前記ピクチャの個数が前記値sps_max_num_reorder_pics[HighestTid]より大きい場合、前記ピクチャに出力が不要なものとしてマーキングするステップ(S39)とを含み、
    ピクチャの前記個数を判定するステップ(S36)、前記ピクチャを出力するステップ(S38)及び前記ピクチャにマーキングするステップ(S39)は、前記現在のピクチャを復号化するステップ(S35)の後に実行されることを特徴とする方法。
  4. 前記復号化された現在のピクチャを前記復号化ピクチャバッファ(125、325)に格納するステップ(S40)と、
    前記復号化された現在のピクチャに出力が必要なもの又は出力が不要なものとしてマーキングするステップ(S41)とを更に含み、
    ピクチャの前記個数を判定するステップ(S1、S36)は、前記復号化された現在のピクチャにマーキングするステップ(S41)の後に実行されることを特徴とする請求項3記載の方法。
  5. 前記ピクチャを出力するステップ(S3、S38)は、前記復号化ピクチャバッファ(125、225、325)内の出力が必要なものとしてマーキングされた前記ピクチャの個数が前記値sps_max_num_reorder_pics[HighestTid]より大きい場合、前記復号化ピクチャバッファ(125、225、325)内の出力が必要なものとしてマーキングされた全てのピクチャのうち、前記復号化ピクチャバッファ(125、225、325)内のピクチャ順位値を表すPicOrderCntValの値が最小のピクチャを出力するステップ(S3、S38)を含むことを特徴とする請求項1から4のいずれか1項に記載の方法。
  6. ピクチャの複数のレイヤを含むマルチレイヤ映像シーケンスのピクチャを表すビットストリーム(10)の現在のピクチャが復号化され且つ復号化ピクチャバッファ(125、225)に格納された後に、前記復号化ピクチャバッファ(125、225)内の出力が必要なものとしてマーキングされたピクチャの個数を判定し、前記現在のピクチャは、前記マルチレイヤ映像シーケンスのデコーダ(100、200)により復号化される最上位レイヤ以外のレイヤに属し、
    前記最上位レイヤと関連付けられた構文要素から値sps_max_num_reorder_pics[HighestTid]を導出し、HighestTidは前記最上位レイヤを特定し、前記構文要素は前記ビットストリームのシーケンスパラメータセットから検索され、前記複数のレイヤのうちの各レイヤiは、値sps_max_num_reorder_pics[i]をそれぞれ定義する関連構文要素を有し、前記値sps_max_num_reorder_pics[i]は、HighestTidがiに等しい場合に、復号化の順序がマルチレイヤ映像シーケンスにおけるピクチャより前であり、且つ、出力の順序が当該ピクチャより後ろであるピクチャの最大許容個数を示し、
    前記復号化ピクチャバッファ(125、225)内の出力が必要なものとしてマーキングされた前記ピクチャの個数が前記値sps_max_num_reorder_pics[HighestTid]より大きい場合、前記復号化ピクチャバッファ(125、225)内の出力が必要なものとしてマーキングされた前記ピクチャのうち、出力の順序が最初のピクチャを出力し、
    前記復号化ピクチャバッファ(125、225)内の出力が必要なものとしてマーキングされた前記ピクチャの個数が前記値sps_max_num_reorder_pics[HighestTid]より大きい場合、前記ピクチャに出力が不要なものとしてマーキングするように構成されることを特徴とするデコーダ(100、200)。
  7. ピクチャの複数のレイヤを含むマルチレイヤ映像シーケンスのピクチャを表すビットストリーム(10)の復号化される現在のピクチャのスライスヘッダを構文解析し、前記現在のピクチャは、前記マルチレイヤ映像シーケンスのデコーダ(100、300)により復号化される最上位レイヤ以外のレイヤに属し、
    前記構文解析されたスライスヘッダに基づいて、前記現在のピクチャに対する参照ピクチャセットを判定し、
    前記参照ピクチャセット内に存在しない復号化ピクチャバッファ(125、325)内の全てのピクチャに参照に使用されないものとしてマーキングし、
    前記復号化ピクチャバッファ(125、325)内の前記ピクチャのうち、出力が必要なものとしてマーキングされた0個以上のピクチャを出力し且つ前記0個以上のピクチャに出力が不要なものとしてマーキングし、
    前記復号化ピクチャバッファ(125、325)内の前記ピクチャのうち、参照に使用されないもの及び出力が不要なものとしてマーキングされたピクチャを前記復号化ピクチャバッファ(125、325)から削除し、
    前記現在のピクチャを復号化し、
    前記復号化ピクチャバッファ(125、325)内の出力が必要なものとしてマーキングされたピクチャの個数を判定し、
    前記最上位レイヤと関連付けられた構文要素から値sps_max_num_reorder_pics[HighestTid]を導出し、HighestTidは前記最上位レイヤを特定し、前記構文要素は前記ビットストリームのシーケンスパラメータセットから検索され、前記複数のレイヤのうちの各レイヤiは、値sps_max_num_reorder_pics[i]をそれぞれ定義する関連構文要素を有し、前記値sps_max_num_reorder_pics[i]は、HighestTidがiに等しい場合に、復号化の順序がマルチレイヤ映像シーケンスにおけるピクチャより前であり、且つ、出力の順序が当該ピクチャより後ろであるピクチャの最大許容個数を示し、
    前記復号化ピクチャバッファ(125、325)内の出力が必要なものとしてマーキングされた前記ピクチャの個数が前記値sps_max_num_reorder_pics[HighestTid]より大きい場合、前記復号化ピクチャバッファ(125、325)内の出力が必要なものとしてマーキングされた前記ピクチャのうち、出力の順序が最初のピクチャを出力し、
    前記復号化ピクチャバッファ(125、325)内の出力が必要なものとしてマーキングされた前記ピクチャの個数が前記値sps_max_num_reorder_pics[HighestTid]より大きい場合、前記ピクチャに出力が不要なものとしてマーキングするように構成され、前記現在のピクチャを復号化した後に、ピクチャの前記個数を判定し、前記ピクチャを出力し且つ前記ピクチャにマーキングするように構成されることを特徴とするデコーダ(100、300)。
  8. 前記デコーダ(100、200、300、400、500)は、高効率映像符号化(HEVC)対応デコーダ(100、200、300、400、500)であることを特徴とする請求項6又は7に記載のデコーダ。
  9. エンコーダ(600、700、900)が実行する方法であって、
    現在のピクチャが復号化され且つ復号化ピクチャバッファ(625、725)に格納された後に、前記復号化ピクチャバッファ(625、725)内の出力が必要なものとしてマーキングされたピクチャの個数を判定するステップ(S60)であって、前記現在のピクチャは、ピクチャの複数のレイヤを含むマルチレイヤ映像シーケンスの前記エンコーダ(600、700、900)により復号化される最上位レイヤ以外のレイヤに属している、ステップと、
    シーケンスパラメータセットにおける構文要素に対して値sps_max_num_reorder_pics[HighestTid]を選択するステップ(S50)であって、HighestTidは前記最上位レイヤを特定し、前記複数のレイヤのうちの各レイヤiは関連する値sps_max_num_reorder_pics[i]を有し、前記値sps_max_num_reorder_pics[i]はHighestTidがiに等しい場合に、復号化の順序がマルチレイヤ映像シーケンスにおけるピクチャより前であり、且つ、出力の順序が当該ピクチャより後ろであるピクチャの最大許容個数を示す、ステップと、
    前記復号化ピクチャバッファ(625、725)内の出力が必要なものとしてマーキングされたピクチャの個数が前記値sps_max_num_reorder_pics[HighestTid]より大きい場合、前記復号化ピクチャバッファ(625、725)内の出力が必要なものとしてマーキングされた前記ピクチャのうち、出力の順序が最初のピクチャに出力が不要なものとしてマーキングするステップ(S62)と、
    を含むことを特徴とする方法。
  10. エンコーダ(600、800)が実行する方法であって、
    ピクチャの複数のレイヤを含むマルチレイヤ映像シーケンスの現在のピクチャに対する参照ピクチャセット内に存在しない復号化ピクチャバッファ(625、825)内の全てのピクチャに、参照に使用されないものとしてマーキングするステップ(S70)であって、前記現在のピクチャは前記マルチレイヤ映像シーケンスの前記エンコーダ(600、800)により復号化される最上位レイヤ以外のレイヤに属している、ステップと、
    前記復号化ピクチャバッファ(625、825)内の前記ピクチャのうち、出力が必要なものとしてマーキングされた0個以上のピクチャに出力が不要なものとしてマーキングするステップ(S71)と、
    前記復号化ピクチャバッファ(625、825)内の前記ピクチャのうち、参照に使用されないもの及び出力が不要なものとしてマーキングされたピクチャを前記復号化ピクチャバッファ(625、825)から削除するステップ(S72)と、
    前記現在のピクチャを復号化するステップ(S73)と、
    前記復号化ピクチャバッファ(625、825)内の出力が必要なものとしてマーキングされたピクチャの個数を判定するステップ(S74)と、
    シーケンスパラメータセットにおける構文要素に対して値sps_max_num_reorder_pics[HighestTid]を選択するステップ(S50)であって、HighestTidは前記最上位レイヤを特定し、前記複数のレイヤのうちの各レイヤiは関連する値sps_max_num_reorder_pics[i]を有し、前記値sps_max_num_reorder_pics[i]はHighestTidがiに等しい場合に、復号化の順序がマルチレイヤ映像シーケンスにおけるピクチャより前であり、且つ、出力の順序が当該ピクチャより後ろであるピクチャの最大許容個数を示す、ステップと、
    前記復号化ピクチャバッファ(625、825)内の出力が必要なものとしてマーキングされたピクチャの個数が前記値sps_max_num_reorder_pics[HighestTid]より大きい場合、前記復号化ピクチャバッファ(625、825)内の出力が必要なものとしてマーキングされた前記ピクチャのうち、出力の順序が最初のピクチャに出力が不要なものとしてマーキングするステップ(S76)とを含み、
    ピクチャの個数を判定するステップ(S74)及び前記ピクチャにマーキングするステップ(S76)は、前記現在のピクチャを復号化するステップ(S73)の後に実行されることを特徴とする方法。
  11. 現在のピクチャが復号化され且つ復号化ピクチャバッファ(625、725)に格納された後に、前記復号化ピクチャバッファ(625、725)内の出力が必要なものとしてマーキングされたピクチャの個数を判定し、前記現在のピクチャは、ピクチャの複数のレイヤを含むマルチレイヤ映像シーケンスのエンコーダ(600、700)により復号化される最上位レイヤ以外のレイヤに属し、
    シーケンスパラメータセットにおける構文要素に対して値sps_max_num_reorder_pics[HighestTid]を選択し、HighestTidは前記最上位レイヤを特定し、前記複数のレイヤのうちの各レイヤiは関連する値sps_max_num_reorder_pics[i]を有し、前記値sps_max_num_reorder_pics[i]はHighestTidがiに等しい場合に、復号化の順序がマルチレイヤ映像シーケンスにおけるピクチャより前であり、且つ、出力の順序が当該ピクチャより後ろであるピクチャの最大許容個数を示し、
    前記復号化ピクチャバッファ(625、725)内の出力が必要なものとしてマーキングされたピクチャの個数が前記値sps_max_num_reorder_pics[HighestTid]より大きい場合、前記復号化ピクチャバッファ(625、725)内の出力が必要なものとしてマーキングされた前記ピクチャのうち、出力の順序が最初のピクチャに出力が不要なものとしてマーキングするように構成されることを特徴とするエンコーダ(600、700)。
  12. ピクチャの複数のレイヤを含むマルチレイヤ映像シーケンスの現在のピクチャに対する参照ピクチャセット内に存在しない復号化ピクチャバッファ(625、825)内の全てのピクチャに参照に使用されないものとしてマーキングし、前記現在のピクチャは前記マルチレイヤ映像シーケンスのエンコーダ(600、800)により復号化される最上位レイヤ以外のレイヤに属し、
    前記復号化ピクチャバッファ(625、825)内の前記ピクチャのうち、出力が必要なものとしてマーキングされた0個以上のピクチャに出力が不要なものとしてマーキングし、
    前記復号化ピクチャバッファ(625、825)内の前記ピクチャのうち、参照に使用されないもの及び出力が不要なものとしてマーキングされたピクチャを前記復号化ピクチャバッファ(625、825)から削除し、
    前記現在のピクチャを復号化し、
    前記復号化ピクチャバッファ(625、825)内の出力が必要なものとしてマーキングされたピクチャの個数を判定し、
    シーケンスパラメータセットにおける構文要素に対して値sps_max_num_reorder_pics[HighestTid]を選択し、HighestTidは前記最上位レイヤを特定し、前記複数のレイヤのうちの各レイヤiは関連する値sps_max_num_reorder_pics[i]を有し、前記値sps_max_num_reorder_pics[i]はHighestTidがiに等しい場合に、復号化の順序がマルチレイヤ映像シーケンスにおけるピクチャより前であり、且つ、出力の順序が当該ピクチャより後ろであるピクチャの最大許容個数を示し、
    前記復号化ピクチャバッファ(625、825)内の出力が必要なものとしてマーキングされたピクチャの個数が前記値sps_max_num_reorder_pics[HighestTid]より大きい場合、前記復号化ピクチャバッファ(625、825)内の出力が必要なものとしてマーキングされた前記ピクチャのうち、出力の順序が最初のピクチャに出力が不要なものとしてマーキングするように構成され、前記現在のピクチャを復号化した後に、ピクチャの前記個数を判定し、前記ピクチャにマーキングするように構成されることを特徴とするエンコーダ(600、800)。
  13. 前記エンコーダ(600、700、800、900、1000)は、高効率映像符号化(HEVC)対応エンコーダ(600、700、800、900、1000)であることを特徴とする請求項11又は12に記載のエンコーダ。
  14. 請求項からのいずれか1項に記載のデコーダ(100、200、300、400、500)及び/又は請求項11から13のいずれか1項に記載のエンコーダ(600、700、800、900、1000)を備えることを特徴とする移動端末(1100)。
  15. 請求項からのいずれか1項に記載のデコーダ(100、200、300、400、500)及び/又は請求項11から13のいずれか1項に記載のエンコーダ(600、700、800、900、1000)を備えることを特徴とするネットワークノード(2)。
JP2015097696A 2012-09-28 2015-05-12 映像シーケンスのピクチャの復号化及び符号化 Active JP6058736B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US201261706869P 2012-09-28 2012-09-28
US61/706,869 2012-09-28

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2015533584A Division JP5820551B1 (ja) 2012-09-28 2013-09-26 映像シーケンスのピクチャの復号化及び符号化

Publications (2)

Publication Number Publication Date
JP2015216638A JP2015216638A (ja) 2015-12-03
JP6058736B2 true JP6058736B2 (ja) 2017-01-11

Family

ID=49261548

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2015533584A Active JP5820551B1 (ja) 2012-09-28 2013-09-26 映像シーケンスのピクチャの復号化及び符号化
JP2015097696A Active JP6058736B2 (ja) 2012-09-28 2015-05-12 映像シーケンスのピクチャの復号化及び符号化

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2015533584A Active JP5820551B1 (ja) 2012-09-28 2013-09-26 映像シーケンスのピクチャの復号化及び符号化

Country Status (23)

Country Link
US (3) US9407932B2 (ja)
EP (2) EP3076673B1 (ja)
JP (2) JP5820551B1 (ja)
KR (2) KR101561012B1 (ja)
CN (2) CN105025303B (ja)
AP (2) AP3943A (ja)
AU (1) AU2013322607B2 (ja)
BR (1) BR112015006535B1 (ja)
CA (1) CA2886688C (ja)
CL (3) CL2015000758A1 (ja)
DK (2) DK3076673T3 (ja)
ES (2) ES2596268T3 (ja)
HK (1) HK1206896A1 (ja)
IL (2) IL237488A (ja)
IN (2) IN2015DN01879A (ja)
MX (2) MX338311B (ja)
MY (1) MY155923A (ja)
PH (1) PH12015500413B1 (ja)
PL (1) PL2901680T3 (ja)
RU (3) RU2607979C2 (ja)
SG (2) SG10201502830WA (ja)
WO (1) WO2014049066A1 (ja)
ZA (2) ZA201501654B (ja)

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101561012B1 (ko) 2012-09-28 2015-10-15 텔레폰악티에볼라겟엘엠에릭슨(펍) 비디오 시퀀스의 픽처의 디코딩 및 인코딩
US9942545B2 (en) * 2013-01-03 2018-04-10 Texas Instruments Incorporated Methods and apparatus for indicating picture buffer size for coded scalable video
US10264272B2 (en) * 2013-10-15 2019-04-16 Qualcomm Incorporated Device and method for scalable coding of video information
US9648348B2 (en) * 2013-10-23 2017-05-09 Qualcomm Incorporated Multi-layer video file format designs
US9654794B2 (en) * 2014-01-03 2017-05-16 Qualcomm Incorporated Methods for coding an inter-layer reference picture set (RPS) and coding end of bitstream (EOB) network access layer (NAL) units in multi-layer coding
US20150195564A1 (en) * 2014-01-03 2015-07-09 Qualcomm Incorporated Method for coding a reference picture set (rps) in multi-layer coding
CN104053002A (zh) * 2014-06-05 2014-09-17 乐视网信息技术(北京)股份有限公司 视频解码方法和视频解码装置
CN108141619B (zh) * 2015-10-19 2020-11-20 联发科技股份有限公司 管理已解码图像缓存器的方法及装置
US10116576B2 (en) * 2015-10-19 2018-10-30 Samsung Electronics Co., Ltd. Methods and apparatus for random access of HEVC bitstream for MMT
US10516891B2 (en) 2015-11-20 2019-12-24 Intel Corporation Method and system of reference frame caching for video coding
WO2017154563A1 (ja) * 2016-03-07 2017-09-14 ソニー株式会社 符号化装置および符号化方法
US10623755B2 (en) * 2016-05-23 2020-04-14 Qualcomm Incorporated End of sequence and end of bitstream NAL units in separate file tracks
CN107592543B (zh) * 2016-07-06 2019-12-24 北京大学 视频解码处理方法及装置
TWI690202B (zh) * 2018-12-28 2020-04-01 瑞昱半導體股份有限公司 用於控制媒體播放器中之串流緩衝器的方法與相關的緩衝裝置
JP7323099B2 (ja) * 2019-09-24 2023-08-08 ホアウェイ・テクノロジーズ・カンパニー・リミテッド マルチレイヤビデオビットストリームのためのdpbパラメータのシグナリング
EP4044598A4 (en) * 2019-11-05 2022-12-07 LG Electronics Inc. METHOD AND DEVICE FOR PROCESSING IMAGE INFORMATION FOR IMAGE/VIDEO CODING
KR20230017236A (ko) * 2020-05-18 2023-02-03 엘지전자 주식회사 픽처 출력 관련 정보 기반 영상 또는 비디오 코딩
KR20230019845A (ko) 2020-06-08 2023-02-09 바이트댄스 아이엔씨 코딩된 비디오 픽처에서 슬라이스 카운트의 제약들
CN112055231B (zh) * 2020-08-31 2021-10-15 浙江大华技术股份有限公司 视频解码方法、解码装置、解码器及电子设备

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000013790A (ja) * 1998-06-19 2000-01-14 Sony Corp 画像符号化装置および画像符号化方法、画像復号装置および画像復号方法、並びに提供媒体
RU2374787C2 (ru) * 2005-03-10 2009-11-27 Квэлкомм Инкорпорейтед Структура декодера для оптимизированного управления обработкой ошибок в потоковой передаче мультимедийных данных
AU2006223287C1 (en) 2005-03-10 2010-10-21 Qualcomm Incorporated A decoder architecture for optimized error management in streaming multimedia
JP2009500941A (ja) 2005-07-08 2009-01-08 エルジー エレクトロニクス インコーポレイティド 情報を圧縮/圧縮解除するためにビデオ信号のコーディング情報をモデリングする方法
KR101154999B1 (ko) * 2005-07-08 2012-07-09 엘지전자 주식회사 영상 신호의 코딩정보를 압축/해제하기 위해 모델링하는 방법
US7894523B2 (en) 2005-09-05 2011-02-22 Lg Electronics Inc. Method for modeling coding information of a video signal for compressing/decompressing coding information
US7656410B2 (en) * 2006-03-31 2010-02-02 Intel Corporation Image buffering techniques
US7991236B2 (en) 2006-10-16 2011-08-02 Nokia Corporation Discardable lower layer adaptations in scalable video coding
US8265140B2 (en) 2008-09-30 2012-09-11 Microsoft Corporation Fine-grained client-side control of scalable media delivery
JP2010252151A (ja) * 2009-04-17 2010-11-04 Renesas Electronics Corp 再生装置、及び同期再生方法
US20110235709A1 (en) 2010-03-25 2011-09-29 Apple Inc. Frame dropping algorithm for fast adaptation of buffered compressed video to network condition changes
US8885729B2 (en) * 2010-12-13 2014-11-11 Microsoft Corporation Low-latency video decoding
PL3410725T3 (pl) 2011-06-30 2022-02-21 Telefonaktiebolaget Lm Ericsson (Publ) Sygnalizacja obrazu referencyjnego
TWI587693B (zh) * 2011-06-30 2017-06-11 微軟技術授權有限責任公司 用於減少視訊編碼及解碼中之延遲的方法、系統及電腦可讀取媒體
US9351005B2 (en) * 2012-09-24 2016-05-24 Qualcomm Incorporated Bitstream conformance test in video coding
KR101561012B1 (ko) * 2012-09-28 2015-10-15 텔레폰악티에볼라겟엘엠에릭슨(펍) 비디오 시퀀스의 픽처의 디코딩 및 인코딩

Also Published As

Publication number Publication date
AP3943A (en) 2016-12-16
AP2015008308A0 (en) 2015-03-31
EP2901680A1 (en) 2015-08-05
IN2015DN01879A (ja) 2015-08-07
AP2015008469A0 (en) 2015-05-31
EP3076673A1 (en) 2016-10-05
SG11201501396RA (en) 2015-03-30
CA2886688C (en) 2020-01-07
KR101561012B1 (ko) 2015-10-15
US20170264916A1 (en) 2017-09-14
ZA201501654B (en) 2016-02-24
EP2901680B1 (en) 2016-07-06
DK2901680T3 (en) 2016-09-19
MX338311B (es) 2016-04-12
AU2013322607A1 (en) 2015-03-26
CL2015000952A1 (es) 2015-12-18
PH12015500413A1 (en) 2015-04-20
CN104685889B (zh) 2016-08-24
US9848203B2 (en) 2017-12-19
RU2015121357A (ru) 2015-12-10
US9706225B2 (en) 2017-07-11
KR20150054009A (ko) 2015-05-19
JP5820551B1 (ja) 2015-11-24
ES2627741T3 (es) 2017-07-31
US9407932B2 (en) 2016-08-02
ES2596268T3 (es) 2017-01-05
CL2019000428A1 (es) 2019-06-07
HK1206896A1 (zh) 2016-01-15
PH12015500413B1 (en) 2015-04-20
IL237488A0 (en) 2015-04-30
ZA201502295B (en) 2017-08-30
RU2607979C2 (ru) 2017-01-11
JP2015534384A (ja) 2015-11-26
CN105025303A (zh) 2015-11-04
MX2015003724A (es) 2015-06-24
KR101729425B1 (ko) 2017-04-21
RU2016140556A (ru) 2018-12-14
BR112015006535A2 (pt) 2017-07-04
BR112015006535B1 (pt) 2022-11-29
RU2623896C2 (ru) 2017-06-29
WO2014049066A1 (en) 2014-04-03
US20140161181A1 (en) 2014-06-12
SG10201502830WA (en) 2015-05-28
CA2886688A1 (en) 2014-04-03
IL237488A (en) 2016-06-30
EP3076673B1 (en) 2017-03-01
IL238190B (en) 2018-01-31
PL2901680T3 (pl) 2017-01-31
DK3076673T3 (en) 2017-06-06
CN105025303B (zh) 2018-05-29
RU2015115939A (ru) 2016-11-20
CL2015000758A1 (es) 2015-11-27
MY155923A (en) 2015-12-16
IN2015DN02716A (ja) 2015-09-04
JP2015216638A (ja) 2015-12-03
KR20150050597A (ko) 2015-05-08
US20150319457A1 (en) 2015-11-05
AU2013322607B2 (en) 2015-06-18
CN104685889A (zh) 2015-06-03
MX351197B (es) 2017-10-05

Similar Documents

Publication Publication Date Title
JP6058736B2 (ja) 映像シーケンスのピクチャの復号化及び符号化
US11490119B2 (en) Decoded picture buffer management
US10986357B2 (en) Signaling change in output layer sets
US10284862B2 (en) Signaling indications and constraints
US20160029019A1 (en) Reference picture set signaling and restriction on an electronic device
AU2015224479B2 (en) Decoding and encoding of pictures of a video sequence

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160726

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A132

Effective date: 20160801

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160927

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A132

Effective date: 20161021

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20161128

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20161207

R150 Certificate of patent or registration of utility model

Ref document number: 6058736

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250