JP2022511162A - フレームレートスケーラブルビデオ符号化 - Google Patents

フレームレートスケーラブルビデオ符号化 Download PDF

Info

Publication number
JP2022511162A
JP2022511162A JP2020551482A JP2020551482A JP2022511162A JP 2022511162 A JP2022511162 A JP 2022511162A JP 2020551482 A JP2020551482 A JP 2020551482A JP 2020551482 A JP2020551482 A JP 2020551482A JP 2022511162 A JP2022511162 A JP 2022511162A
Authority
JP
Japan
Prior art keywords
shutter
frame
frames
frame rate
angle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020551482A
Other languages
English (en)
Other versions
JP7087100B2 (ja
Inventor
ロビン アトキンス
ポン イン
タオラン ルー
ファンチュン プー
ショーン トーマス マッカーシー
ウォルター ジェイ. フサーク
タオ チェン
コアン-ミン スー
Original Assignee
ドルビー ラボラトリーズ ライセンシング コーポレイション
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ドルビー ラボラトリーズ ライセンシング コーポレイション filed Critical ドルビー ラボラトリーズ ライセンシング コーポレイション
Publication of JP2022511162A publication Critical patent/JP2022511162A/ja
Priority to JP2022093134A priority Critical patent/JP7411727B2/ja
Application granted granted Critical
Publication of JP7087100B2 publication Critical patent/JP7087100B2/ja
Priority to JP2023218291A priority patent/JP2024029104A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H04N19/31Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability in the temporal domain
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/132Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/184Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being bits, e.g. of the compressed video stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/187Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a scalable video layer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Holo Graphy (AREA)
  • Particle Accelerators (AREA)
  • Mechanical Light Control Or Optical Switches (AREA)
  • Television Systems (AREA)
  • Indication In Cameras, And Counting Of Exposures (AREA)
  • Liquid Crystal (AREA)
  • Exposure Control For Cameras (AREA)
  • Studio Devices (AREA)

Abstract

フレームレートスケーラビリティのための方法およびシステムが説明される。シーンに亘って可変フレームレートおよび可変シャッタ角度を有する入力および出力ビデオシーケンス、もしくは固定入力フレームレートおよび入力シャッタ角度を有する入力ビデオシーケンスのために、サポートが提供されるが、デコーダに、対応する入力値とは異なる出力フレームレートおよびシャッタ角度でビデオ出力を生成することを許容する。デコーダが、許容されたもの間で特定の後方互換性ターゲットフレームレートおよびシャッタ角度をより計算効率良く復号することを許容する技術が提供される。

Description

関連出願の相互参照
本出願は2019年3月11日に出願された米国仮出願第62/816,521号、2019年5月21日に出願された米国仮出願第62/850,985号、2019年8月6日に出願された米国仮出願第62/883,195号、および2019年9月24日に出願された米国仮出願第62/904,744号からの優先権の利益を主張するものであり、それらの各々は参照によりその全体が援用される。
本文書は、一般に画像に関する。より詳細には、本発明の一実施形態がフレームレートスケーラブルビデオ符号化に関する。
本明細書で使用されるように、用語「ダイナミックレンジ」(DR)は、例えば、最も暗いグレー(黒)から最も明るい白(ハイライト)までの、画像内の強度(例えば、ルミナンス、ルマ)の範囲を知覚する人間の視覚系(HVS)の能力に関連し得る。この意味で、DRは「シーンリファード」強度に関連する。DRは、特定の幅の強度範囲を適切にまたは概ねレンダリングするディスプレイ装置の能力にも関係し得る。この意味で、DRは「表示参照」強度に関連する。本明細書の説明の任意の時点で特定の意味を有するように明示的に指定されていない限り、用語はいずれの意味でも、例えば、互換的に使用され得ることが推測されるべきである。
本明細書で使用されるように、高ダイナミックレンジ(HDR)という用語は、人間の視覚系(HVS)の14~15桁にわたるDR幅に関する。実際には、人間が強度範囲の広い幅を同時に知覚することができるDRは、HDRに関していくらか切り捨てることができる。
実際には、画像が1つ以上の色成分(例えば、ルマYおよびクロマCbおよびCr)を含み、各色成分は、ピクセル当たりnビットの精度(例えば、n=8)によって表される。線形輝度符号化を使用すると、n≦8の画像(例えば、カラー24ビットJPEG画像)は標準ダイナミックレンジ(SDR)の画像と考えられ、n>8の画像は強化されたダイナミックレンジの画像と考えられる。また、HDR画像は、Industrial Light and Magicによって開発されたOpenEXRファイルフォーマットなどの高精度(例えば、16ビット)浮動小数点フォーマットを使用して、格納し、配布することもできる。
現在、ドルビー研究所からのドルビービジョン(Dolby Vision)またはブルーレイ(Blue-Ray)におけるHDR10などのビデオ高ダイナミックレンジコンテンツの配信は、多くの再生装置の能力によって、4K解像度(例えば、4096×2160または3840×2160など)および60フレーム/秒(fps)に制限されている。将来のバージョンでは、8K解像度(例えば、7680×4320)および120fpsまでのコンテンツが配信および再生のために利用可能であり得ることが予想される。ドルビービジョンのようなHDR再生コンテンツエコシステムを単純化するために、将来のコンテンツタイプが既存の再生装置と互換性があることが望ましい。理想的には、コンテンツプロデューサが、既存のHDRデバイス(HDR10またはドルビービジョンなど)と互換性のあるコンテンツの特別なバージョンを導出および配信する必要なしに、将来のHDR技術を採用し、配信することができなければならない。本発明者らによって理解されるように、ビデオコンテンツ、特にHDRコンテンツのスケーラブルな配信のための改善された技術が望まれている。
このセクションで説明されるアプローチは追求されることができるアプローチであるが、必ずしも、以前に考えられたまたは追求されたアプローチではない。したがって、特に断らない限り、このセクションに記載されているアプローチのいずれも、単にこのセクションに含まれているために先行技術として適格であると仮定すべきではない。同様に、1つ以上のアプローチに関して特定された問題は特に断らない限り、このセクションに基づいていかなる先行技術においても認識されていると推測すべきではない。
本発明の実施形態は限定ではなく例として、添付の図面の図に示されており、同様の参照番号は同様の要素を指す。
ビデオ配信パイプラインの例示的なプロセスを示す。 本発明の一実施形態による、ターゲットシャッタ角度でターゲットフレームレートをレンダリングするために連続するオリジナルフレームを結合する例示的なプロセスを示す。 本発明の一実施形態による、固定フレームレートを有するコンテナ内の、可変入力フレームレートおよび可変シャトル角度を有する入力シーケンスの例示的な表示を示す。 本発明の一実施形態による、後方互換性を有する、種々のフレームレートおよびシャッタ角度における、時間的スケーラビリティのための例示的な表示を示す。
ビデオ符号化のためのフレームレートスケーラビリティに関連する例示的な実施形態が、本明細書で説明される。以下の説明において、説明の目的のために、本発明の完全な理解を提供するために、多数の特定の詳細が記載される。しかしながら、本発明は、これらの特定の詳細なしに実施されてもよいことは明らかであろう。他の例では、本発明を不必要に閉塞し、不明瞭にし、または難読化することを回避するために、周知の構造および装置は網羅的な詳細では説明されない。
概要
本明細書で説明される例示的な実施形態は、ビデオ符号化におけるフレームレートスケーラビリティに関する。一実施形態では、プロセッサを有するシステムが符号化ビデオフレームを含む符号化ビットストリームを受信し、1つ以上の符号化されたフレームは、第1のフレームレートおよび第1のシャッタ角度で符号化される。プロセッサは、第2のフレームレートおよび第2のシャッタ角度で復号されるべき符号化フレームのグループの存在を示す第1のフラグを受信し、符号化フレームのグループのための第2のフレームレートおよび第2のシャッタ角度の符号化ビットストリーム値からアクセスし、符号化フレームのグループ、第1のフレームレート、第1のシャッタ角度、第2のフレームレート、および第2のシャッタ角度に基づいて、第2のフレームレートおよび第2のシャッタ角度で復号フレームを生成する。
第2の実施形態では、プロセッサ有するデコーダであって、
符号化ビデオフレームのグループを含む符号化ビットストリームを受信することであって、符号化ビットストリーム内のすべての符号化ビデオフレームは、第1のフレームレートで符号化される、符号化ビットストリームを受信することと、
結合されたN個のフレームの数を受信することと、
ベースラインフレームレートのための値を受信することと、
N個の連続符号化フレームのグループにアクセスすることであって、N個の連続符号化フレームのグループ内のi番目の符号化フレームは、第1のシャッタ角度および第1のフレームレートに基づいて、ベースラインフレームレートおよびi番目のシャッタ角度でエンコーダにおいて符号化されたi番目までの入力ビデオフレームの平均を示し、ここで、i=1、2、...Nである、N個の連続符号化フレームのグループにアクセスすることと、
第2のフレームレートおよび第2のシャッタ角度でN個の連続する符号化フレームのグループを復号するために、符号化ビットストリームから、または第2のフレームレートおよび第2のシャッタ角度についてのユーザ入力値からアクセスすることと、
N個の連続する符号化フレームのグループ、第1のフレームレート、第1のシャッタ角度、第2のフレームレート、および第2のシャッタ角度に基づいて、第2のフレームレートおよび第2のシャッタ角度で復号フレームを生成することと、を実行する。
第3の実施形態では、符号化ビデオストリーム構造は、
ビデオピクチャのシーケンスの符号化を含む符号化ピクチャセクションと、
シグナリングセクションであって、
1秒間に経過する時間単位の数を示す、シャッタインターバルタイムスケールパラメータと、
シャッタインターバルタイムスケールパラメータの周波数で作動するクロックの時間単位の数を示す、シャッタインターバルクロックチックパラメータであって、シャッタインターバルタイムスケールパラメータにより割られたシャッタインターバルは、露光持続時間値を示す、シャッタインターバルクロックチックパラメータと、
符号化ピクチャセクション内のすべての時間的サブレイヤについて露光持続時間情報が固定されているかを示すシャッタインターバル持続時間フラグと、の符号化を含む、シグナリングセクションと、を含み、
シャッタインターバル持続時間フラグが、露光持続時間情報が固定されていることを示す場合、符号化ピクチャセクション内のすべての時間的サブレイについてビデオピクチャのシーケンスの符号化バージョンは、シャッタインターバルタイムスケールパラメータおよびシャッタインターバルクロックチックパラメータに基づいて、露光持続時間値を算出することにより復号され、そうでない場合、
シグナリングセクションは、サブレイヤパラメータの1つ以上のアレイを含み、シャッタインターバルタイムスケールパラメータと結合されたサブレイヤパラメータの1つ以上のアレイにおける値は、ビデオピクチャのシーケンスの時間的サブレイヤの復号されたバージョンを表示するために、各サブレイヤについて対応するサブレイヤ露光持続時間値を算出するのに使用される。
ビデオ配信処理パイプラインの例
図1は、ビデオキャプチャからビデオコンテンツ表示までの様々な段階を示す従来のビデオ配信パイプライン(100)の例示的なプロセスを示す。一連のビデオフレーム(102)は、画像生成ブロック(105)を使用してキャプチャまたは生成される。ビデオフレーム(102)は、ビデオデータ(107)を提供するために、(例えば、デジタルカメラによって)デジタル的に取り込まれてもよく、または(例えば、コンピュータアニメーションを使用して)コンピュータによって生成されてもよい。代替的に、ビデオフレーム(102)は、フィルムカメラによってフィルム上にキャプチャされてもよい。フィルムは、ビデオデータ(107)を提供するためにデジタルフォーマットに変換される。プロダクションフェーズ(110)では、ビデオデータ(107)が編集されて、ビデオプロダクションストリーム(112)が提供される。
次いで、プロダクションストリーム(112)のビデオデータは、ポストプロダクション編集のために、ブロック(115)でプロセッサに供給される。ポストプロダクション編集のブロック(115)は、ビデオクリエータの創作意図に従って、画質を向上させるか、または画像の特定の外観を達成するために、画像の特定の領域における色または明るさを調整または修正することを含むことができる。これは「カラータイミング」または「カラーグレーディング」というものである。他の編集(例えば、シーン選択およびシーケンシング、画像クロッピング、コンピュータ生成される視覚特殊効果の追加、ジャダーまたはブラー制御、フレームレート制御など)は、ブロック(115)で実行されて、配信のためのプロダクションの最終バージの間、ビデオ画像は参照ディスプレイ(125)に表示される。ポストプロダクション(115)に続いて、最終プロダクション(117)のビデオデータは、テレビジョンセット、セットトップボックス、ムービーシアター等のような復号および再生装置にダウンストリームで配信するために、符号化ブロック(120)に配信されてもよい。いくつかの実施形態では、符号化ブロック(120)は、符号化ビットストリーム(122)を生成するために、ATSC、DVB、DVD、Blu-Ray、および他の配信フォーマットによって定義されるものなどの、オーディオエンコーダおよびビデオエンコーダを含むことができる。受信機では、符号化ビットストリーム(122)は復号ユニット(130)によって復号され、信号(117)の同一または近似を表す復号信号(132)を生成する。受信機は、参照ディスプレイ(125)とは全く異なる特性を有することができるターゲットディスプレイ(140)に取り付けることができる。その場合、ディスプレイ管理ブロック(135)を使用して、ディスプレイマップ信号(137)を生成することによって、復号信号(132)のダイナミックレンジをターゲットディスプレイ(140)の特性にマッピングすることができる。
スケーラブル符号化
スケーラブル符号化は、すでに、MPEG-2、AVC、およびHEVCのような多くのビデオ符号化標準の一部である。本発明の実施形態では、スケーラブル符号化は、特に非常に高解像度のHDRコンテンツに関するので、性能および柔軟性を改善するために拡張される。
本明細書で使用されるように、「シャッタ角度」という用語は、各フレームインターバルの間にフィルムが光に曝される時間の割合を制御する調節可能なシャッタ設定を示す。例えば、一実施形態では、
Figure 2022511162000002
である。
この用語は、伝来の機械的な回転シャッタに起源を持つが、現代のデジタルカメラもまた、シャッタを電子的に調整することができる。映画撮影者は、シャッタ角度を使用して、各フレームに記録されるモーションブラーやジャダーの量を制御することができる。なお、「露光時間」の代わりに、「露光持続時間」、「シャッタインターバル」、「シャッタスピード」などの代替用語を用いてもよい。同様に、「フレームインターバル」の代わりに、「フレーム持続時間」という用語を用いてもよい。あるいは、「フレームインターバル」を「1/フレームレート」に置き換えてもよい。露光時間の値は、通常、フレームの持続時間以下である。例えば、180度のシャッタ角度は、露光時間がフレーム持続時間の半分であることを示す。いくつかの状況では、露光時間が、例えば、符号化フレームレートが120fpsであり、符号化および表示前の関連するビデオコンテンツのフレームレートが60fpsである場合、符号化ビデオのフレーム持続時間よりも長くてもよい。
限定ではなく、オリジナルコンテンツが360度のシャッタ角度でオリジナルフレームレート(例えば、120fps)で撮影(または生成)される実施形態を考える。次に、受信装置では、例えば、平均化または当技術分野で知られている他の動作によって、オリジナルフレームの判断力のある結合によって、オリジナルフレームレート以下の様々なフレームレートでビデオ出力をレンダリングすることができる。
結合プロセスは、(例えば、ガンマ、PQまたはHLGを使用して)非線形符号化信号で実行されてもよいが、最良の画質は、最初に、非線形符号化信号を線形光表示に変換し、次に、変換されたフレームを結合し、最後に、出力を非線形伝達関数で再符号化することによって、線形光領域内のフレームを結合することによって得られる。このプロセスは、非線形領域で結合するよりも、物理的なカメラ露光のより正確なシミュレーションを提供する。
一般的に、フレームを結合するプロセスは、オリジナルフレームレート、ターゲットフレームレート、ターゲットシャッタ角度、および結合されるフレーム数の観点から下記のように表現することができる。
Figure 2022511162000003
これは、
Figure 2022511162000004
と同等である。
ここで、n_framesは結合されたフレームの数であり、original_frame_rateはオリジナルコンテンツのフレームレートであり、target_frame_rateはレンダリングされるフレームレートであり(ここで、target_frame_rate≦original_frame_rate)、target_shutter_angleは所望のモーションブラーの量を示す。この例では、target_shutter_angleの最大値は360度であり、最大モーションブラーに対応する。target_shutter_angleの最小値は360*(target_frame_rate/original_frame_rate)と表すことができ、最小モーションブラーに対応する。n_framesの最大値は、(original_frame_rate/target_frame_rate)として表すことができる。target_frame_rateおよびtarget_shutter_angleの値は、n_frameの値が非ゼロ整数であるように選択されるべきである。
オリジナルフレームレートが120fpsである特別な場合、数式(2)は、
Figure 2022511162000005
として書き換えることができ、これは、
Figure 2022511162000006
と同等である。
target_frame_rate、n_frames、およびtarget_shutter_angleの値の間の関係は、original_frame_rate=120fpsの場合について表1に示される。表1において、「NA」は、ターゲットフレームレートと結合フレーム数との対応する結合が許可されていないことを示す。
Figure 2022511162000007
図2は、一実施形態による、ターゲットシャッタ角度でターゲットフレームレートをレンダリングするために、連続したオリジナルフレームを結合する例示的なプロセスを示す。120fpsでの入力シーケンス(205)および360度のシャッタ角度が与えられた場合、プロセスは、5つの連続するフレームのセット内の入力フレームの3つ(例えば、最初の3つの連続するフレーム)を結合させ、他の2つをドロップすることによって、24fpsおよび216度のシャッタ角度での出力ビデオシーケンス(210)を生成する。いくつかの実施形態では、(210)の出力フレーム01は、フレーム1、3、および5、またはフレーム2、4、および5などの入力フレーム(205)のどれかを結合することによって生成され得るが、連続するフレームを結合することはより良好な品質のビデオ出力をもたらすと考えられることに留意されたい。
例えば、芸術的およびスタイル的効果を管理するために、可変フレームレートでオリジナルコンテンツをサポートすることが望ましい。また、オリジナルコンテンツの可変入力フレームレートは、コンテンツの生成、交換、および配信を単純化するために、固定フレームレートを有する「コンテナ」にパッケージ化されることが望ましい。一例として、固定フレームレートコンテナにおいて可変フレームレートビデオデータをどのように表現するか、に関する3つの実施形態が提示される。明確にするために、および限定することなく、以下の説明は固定120fpsコンテナを使用するが、アプローチは代替のフレームレートコンテナに容易に拡張することができる。
第1の実施形態(可変フレームレート)
第1の実施形態は、一定のフレームレートを有するコンテナにパッケージされた可変(一定でない)フレームレートを有するオリジナルコンテンツの明示的な記述である。例えば、異なるシーンに対して、異なるフレームレート、例えば、24、30、40、60、または120fpsを有するオリジナルコンテンツは、120fpsの一定のフレームレートを有するコンテナにパッケージされてもよい。この例では、各入力フレームは、5x、4x、3x、2x、または1x回複製して、共通の120fpsコンテナにパッケージ化できる。
図3は、固定フレームレートを有する符号化ビットストリームBで表される可変フレームレートおよび可変シャッタ角度を有する入力ビデオシーケンスAの一例を示す。そして、デコーダにおいて、デコーダは、シーン毎に変化し得る、所望のフレームレートおよびシャッタ角度で出力ビデオシーケンスCを再構成する。例えば、図3に示すように、シーケンスBを構成するために、入力フレームのいくつかは複製され、いくつかはそのまま(複製なしで)符号化され、いくつかは4回コピーされる。次いで、シーケンスCを構築するために、各複製フレームから任意の1つのフレームを選択し、オリジナルフレームレートおよびシャッタ角度が一致する出力フレームを生成する。
この実施形態では、メタデータがビットストリームに挿入され、オリジナル(基本)フレームレートおよびシャッタ角度を示す。メタデータは、シーケンスパラメータセット(SPS)、ピクチャパラメータセット(PPS)、スライスまたはタイルグループヘッダなどの高レベルシンタックスを使用して、信号を送ることができる。メタデータの存在は、エンコーダおよびデコーダが以下のような有益な機能を実行することを可能にする。
a)エンコーダは複製したフレームを無視することができ、それによって、符号化速度を向上させ、プロセスを単純化する。たとえば、複製フレーム内のすべてのコーディングツリーユニット(CTU)は、SKIPモードおよび参照フレームのLIST0における参照インデックス0を使用して符号化できる。これは複製フレームがコピーされる復号されたフレームを参照する。
b)デコーダは複製フレームの復号をバイパスすることができ、それによってプロセスを単純化する。たとえば、ビットストリーム内のメタデータは、フレームが、新しいフレームをコピーすることによりおよび復号することなく、デコーダが再現できる、以前に復号されたフレームの複製であることを示すことができる。
c)再生装置は、ベースフレームレートを示すことによって、例えばフレームレート変換またはノイズ低減アルゴリズムを調整することによって、ダウンストリームプロセスを最適化することができる。
この実施形態は、エンドユーザがコンテンツクリエータによって意図されたフレームレートでレンダリングされたコンテンツを見ることを可能にする。この実施形態は、コンテナのフレームレート、例えば120fpsをサポートしないデバイスとの後方互換性を提供しない。
表2および表3は、シーケンスパラメータセットおよびタイルグループヘッダの生バイトシーケンスペイロード(RBSP)のシンタックス例を示しており、ここでは、提案された新しいシンタックス要素は強調表示されたフォントで示されている。残りのシンタックスは、汎用ビデオコーデック(VVC)(参照文献[2])の提案された仕様におけるシンタックスに従う。
例として、SPS(表2参照)では、可変フレームレートを有効にするフラグを追加できる。
sps_vfr_enabled_flagが1に等しいことは、コード化ビデオシーケンス(CVS)に可変フレームレートコンテンツを含めることができることを明示する。sps_vfr_enabled_flagが0に等しいことは、CVSに固定フレームレートコンテンツを含めることができることを明示する。
tile_group header()(表3参照)では、
tile_group_vrf_info_present_flagが1に等しいことは、シンタックス要素tile_group_true_frおよびtile_group_shutterangleがシンタックスに存在することを明示する。tile_group_vrf_info_present_flagが0に等しいことは、シンタックス要素tile_group_true_frおよびtile_group_shutterangleがシンタックスに存在しないことを明示する。tile_group_vrf_info_present_flagが存在しない場合、0であることを暗示する。
tile_group_true_frは、このビットストリームで伝送されるビデオデータの実際のフレームレートを示す。tile_group_shutterangleは、このビットストリームで伝送されるビデオデータの実際のフレームレートに対応するシャッタ角度を示す。
tile_group_skip_flagが1に等しいことは、現在のタイルグループが別のタイルグループからコピーされることを明示する。tile_group_skip_flagが0に等しいことは、現在のタイルグループが別のタイルグループからコピーされないことを明示する。
tile_group_copy_pic_order_cnt_lsbは、tile_group_skip_flagが1に設定されているときに現在のピクチャがコピーする、以前に復号されたピクチャのピクチャオーダーカウントモジュロMaxPicOrderCntLsbを明示する。
Figure 2022511162000008
Figure 2022511162000009
Figure 2022511162000010
第2の実施形態-固定フレームレートコンテナ
第2の実施形態は、固定フレームレートおよびシャッタ角度を有するオリジナルコンテンツが、図2に例示されているような、代替フレームレートおよび可変シミュレートされたシャッタ角度で、デコーダによってレンダリングされ得るユースケースを可能にする。例えば、オリジナルコンテンツが、120fpsのフレームレートおよび360度のシャッタ角度(シャッタが1/120秒開いていることを意味する)を有する場合、デコーダは、120fps以下の複数のフレームレートをレンダリングすることができる。例えば、表1に記載されるように、216度のシミュレートされたシャッタ角度で24fpsを復号するために、デコーダは3つの復号されたフレームを結合し、24fpsで表示することができる。表4は表1に拡大され、出力ターゲットフレームレートおよび所望のターゲットシャッタ角度でレンダリングするために、異なる数の符号化フレームを組み合わせる方法を示す。フレームの結合は、単純なピクセル平均によって、あるフレームからのピクセルが他のフレームのピクセルよりも多く重み付けされ、すべての重みの合計が1になる重み付けピクセル平均によって、または当技術分野で知られている他のフィルタ補間スキームによって実行され得る。表4において、関数Ce(a,b)は、符号化フレームa~bの組み合わせを示し、この組み合わせは、平均化、重み付け平均化、フィルタリングなどによって実行することができる。
Figure 2022511162000011
Figure 2022511162000012
ターゲットシャッタ角度の値が360度未満の場合、デコーダは異なる組の復号フレームを結合できる。例えば、表1から、120fps、360度でのオリジナルストリームが与えられると、40fpsおよび240度のシャッタ角度でストリームを生成するために、デコーダは、3つの可能なフレームのうちの2つのフレームを結合する必要がある。したがって、1番目と2番目のフレーム、または2番目と3番目のフレームのいずれかを組み合わせることができる。どのフレームを結合するかの選択は、以下のように表現される「復号フェーズ」に関して説明することができる。
Figure 2022511162000013
ここで、decode_phase_idxは、[0,n_frames_max-1]のインデックス値を持つ一連のシーケンシャルフレーム内のオフセットインデックスを示し、ここで、n_framesは数式(2)によって与えられる。
Figure 2022511162000014
一般に、decode_phase_idxは、[0,n_frames_max-n_frames]の範囲である。例えば、120fpsおよび360度のシャッタ角度におけるオリジナルシーケンスに対して、240度のシャッタ角度における40fpsのターゲットフレームレートに対して、n_frames_max=120/40=3である。数式(2)から、n_frames=2であるため、decode_phase_idxは[0,1]の範囲である。したがって、decode_phase_idx=0は、インデックス0と1のフレームを選択することを示し、decode_phase_idx=1は、インデックス1と2のフレームを選択することを示す。
この実施形態では、コンテンツ作成者によって意図されたレンダリングされた可変フレームレートは、補足エンハンスメント情報(supplemental enhancement information)(SEI)メッセージのような、またはビデオユーザビリティ情報(video usability information)(VUI)のようなメタデータとしてシグナリングされてもよい。任意選択的に、レンダリングされたフレームレートは、受信機またはユーザによって制御され得る。コンテンツ作成者の好ましいフレームレートおよびシャッタ角度を指定するフレームレート変換SEIメッセージングの一例を表5に示す。SEIメッセージは、結合フレームが符号化信号領域(例えば、ガンマ、PQなど)または線形光領域で実行されるかどうかを示すこともできる。ポスト処理には、デコーダピクチャバッファ(DPB)に加えてフレームバッファが必要であることに留意されたい。SEIメッセージは、必要な追加フレームバッファの数、またはフレームを結合するためのいくつかの代替方法を示し得る。例えば、複雑さを低減するために、フレームは低減された空間解像度で再結合されてもよい。
表4に示すように、フレームレートとシャッタ角度とのある組み合わせ(例えば、30fpsおよび360度、または24fpsおよび288または360度)では、デコーダは3つ以上の復号フレームを結合する必要があり、これはデコーダによって必要とされるバッファスペースの数を増加させる。デコーダ内の余分なバッファ空間の負担を軽減するために、いくつかの実施形態では、フレームレートおよびシャッタ角度の特定の組み合わせは、許容される復号パラメータのセットに対して(例えば、適切なコーディングプロファイルおよびレベルを設定することによって)限定されてもよい。
再び、一例として、24fpsでの再生の場合を考えると、デコーダは、120fpsの出力フレームレートで表示されるべき同じフレームを5回表示することを決定することができる。これは、24fpsの出力フレームレートでフレームを1回示すことと全く同じである。一定の出力フレームレートを維持する利点は、ディスプレイが一定のクロック速度で動作できることであり、これにより、すべてのハードウェアがはるかに単純になる。ディスプレイがクロックスピードを動的に変化させることができる場合、同じフレームを5回(それぞれ1/120秒)繰り返す代わりに、フレームを1回(1/24秒)だけ表示する方が理にかなう。前者のアプローチは、わずかに高い画質、わずかにより良い光学的効率、またはわずかにより良い電力効率をもたらし得る。同様の考察は、他のフレームレートにも適用可能である。
表5は、一実施形態によるフレームレート変換SEIメッセージングシンタックスの一例を示す。
Figure 2022511162000015
framerate_conversion_cancel_flag=1は、SEIメッセージが出力順で以前のフレームレート変換SEIメッセージの永続性をキャンセルすることを示す。framerate_conversion_cancel_flag=0は、フレームレート変換情報が後に続くことを示す。
base_frame_rateは、所望のフレームレートを指定する。
base_shutter_angleは、所望のシャッタ角度を指定する。
decode_phase_idx_present_flag=1は、復号フェーズ情報が存在することを指定する。decode_phase_idx_present_flag=0は、復号フェーズ情報が存在しないことを指定する。
decode_phase_idxは、インデックス値0..(n_frames_max-1)を有する一連のシーケンシャルフレーム内のオフセットインデックスを示し、ここで、n_frames_max=120/base_frame_rateである。decode_phase_idxの値は、0..(n_frames_max-n_frames)の範囲でなければならず、ここで、n_frames=base_shutter_angle/(3*base_frame_rate)である。decode_phase_idxが存在しない場合、0と推測される。
conversion_domain_idc=0は、フレーム結合が線形領域で実行されることを指定する。conversion_domain_idc=1は、フレーム結合が非線形領域で実行されることを指定する。
num_frame_buffersは、追加のフレームバッファ数を指定する(DPBはカウントしない)。
framerate_conversion_persistence_flagは、カレントレイヤのフレームレート変換SEIメッセージの持続性を指定する。framerate_conversion_persistence_flag=0の場合、フレームレート変換SEIメッセージが現在の復号ピクチャにのみ適用されることを指定する。picAをカレントピクチャとする。framerate_conversion_persistence_flag=1は、以下の条件の1つ以上が真になるまで、カレントレイヤのフレームレート変換SEIメッセージが出力順に持続することを指定する。
-カレントレイヤの新しい符号化レイヤワイズビデオシーケンス(CLVS)が始まる。
-ビットストリームが終了する。
-カレントレイヤに適用可能なフレーマレート変換SEIメッセージを含むアクセスユニット内のカレントレイヤ内のピクチャpicBが出力され(PicOrderCnt(picB)はPicOrderCnt(picA)よりも大きい)、ここで、PicOrderCnt(picB)およびPicOrderCnt(picA)はそれぞれ、picBおよびpicAのPicOrderCntVal値であり、picBのピクチャ順序カウントのための復号プロセスの呼び出しの直後である。
第3の実施形態-複数のシャッタ角度で符号化された入力
第3の実施形態は、ビットストリームからのサブフレームレートの抽出を可能にし、したがって、後方互換性をサポートする符号化方式である。HEVCでは、これは時間的スケーラビリティによって達成される。時間的レイヤのスケーラビリティは、復号フレームのtemporal_idシンタックス要素に異なる値を割り当てることによって有効になる。これにより、ビットストリームはtemporal_id値に基づいて単純に抽出できる。しかしながら、時間的スケーラビリティに対するHEVCスタイルのアプローチは、異なるシャッタ角度で出力フレームレートをレンダリングすることを可能にしない。例えば、120fpsのオリジナルから抽出された60fpsのベースフレームレートは、常に180度のシャッタ角度を有する。
ATSC3.0では、360度のシャッタ角度を有する60fpsのフレームが2つの120fpsフレームの重み付け平均としてエミュレートされる他の方法が記載されている。エミュレートされた60fpsフレームには0のtemporal_id値が割り当てられ、temporal_id値1が割り当てられたオリジナルの120fpsフレームと交互に結合される。60fpsが必要な場合、デコーダはtemporal_idが0のフレームのみを復号する必要がある。120fpsが必要な場合、デコーダは、対応する各temporal_id=0フレーム(すなわち、エミュレートされた60fpsフレーム)のスケールされたバージョンから各temporal_id=1フレーム(すなわち、120fpsフレーム)を減算して、明示的に送信されなかった対応するオリジナルの120fpsフレームを回復し、それによって、オリジナルの120fpsフレームをすべて再構成することができる。
本発明の実施形態では、後方互換性(BC)である方法で、複数のターゲットフレームレートおよびターゲットシャッタ角度をサポートする新しいアルゴリズムが記載される。オリジナルの120fpsコンテンツをいくつかのシャッタ角度での基本フレームレートで前処理することが提案される。次いで、デコーダにおいて、種々の他のシャッタ角度における他のフレームレートを簡単に導出することができる。ATSC3.0手法は提案された方式の特殊なケースと考えることができ、ここで、temporal_id=0を有するフレームは60fps@360シャッタ角度でフレームを搬送し、temporal_id=1を有するフレームは、60fps@180シャッタ角度でフレームを搬送する。
第1の例として、図4に描かれているように、40fpsのベースレイヤフレームレートと、120、240、および360度のシャッタ角度とを有するシーケンスを符号化するために使用される、120fpsおよび360シャッタ角度での入力シーケンスを検討する。この方式では、エンコーダは、オリジナルの入力フレームのうちの3つまでを結合することによって新しいフレームを算出する。例えば、40fpsおよび240度での入力を表す符号化フレーム2(En-2)は入力フレーム1および2を結合することによって生成され、40fpsおよび360度での入力を表す符号化フレーム3(En-3)はフレームEn-2を入力フレーム3に結合することによって生成される。デコーダでは、入力シーケンスを再構成するために、復号フレーム2(Dec-2)はフレームEn-2からフレームEn-1を減算することによって生成され、復号フレーム3(Dec-3)はフレームEn-3からフレームEn-2を減算することによって生成される。3つの復号フレームは、120fpsの基本フレームレートおよび360度のシャッタ角度での出力を表す。追加のフレームレートおよびシャッタ角度は、表6に示されるように、復号フレームを使用して外挿することができる。表6において、関数Cs(a,b)は、入力フレームa~bの組み合わせを示し、この組み合わせは、平均化、重み付け平均化、フィルタリングなどによって実行することができる。
Figure 2022511162000016
Figure 2022511162000017
このアプローチの利点は、表6に示すように、40fpsバージョンすべてを、さらなる処理なしに復号できることである。別の利点は、他のフレームレートを様々なシャッタ角度で導出することができることである。例えば、30fpsおよび360のシャッタ角度で復号するデコーダを考える。表4から、出力は、Ce(1,4)=Cs(1,4)、Cs(5,8)、Cs(9,12)などによって生成されるフレームのシーケンスに対応し、これらは表6に示される復号シーケンスにも一致するが、表6では、Cs(5,8)=e6-e4+e8である。一実施形態では、ルックアップテーブル(LUT)を使用して、指定された出力フレームレートおよびエミュレートされたシャッタ角度で出力シーケンスを生成するために、復号フレームをどのように組み合わせる必要があるかを定義することができる。
別の例では、以下に示すように、72、144、216、288、および360度のシャッタ角度での24fpsベースレイヤの抽出を単純化するために、エンコーダ内で最大5つのフレームを結合させることが提案される。これは、レガシーテレビ上で、24fpsで最良に提示される映画コンテンツにとって望ましい。
Figure 2022511162000018
Figure 2022511162000019
表7に示すように、復号フレームレートがベースラインフレームレート(24fps)と一致する場合、5つのフレーム(例えば、e1~e5)の各グループにおいて、デコーダは所望のシャッタ角度(例えば、144度のシャッタ角度に対してe2)で1つのフレームを単に選択することができる。異なるフレームレートおよび特定のシャッタ角度で復号するために、デコーダは、復号フレームを(例えば、加算または減算によって)どのように適切に結合するかを決定する必要がある。例えば、30fpsおよび180度のシャッタ角度で復号するために、以下のステップに従うことができる。
a)デコーダは、120fpsおよび360度で、後方互換性を何ら考慮することなく送信する仮想エンコーダを検討することができ、次いで、表1から、デコーダは、所望のフレームレートおよびシャッタ角度で出力シーケンスを生成するために、4フレームのうち2フレームを組み合わせる必要がある。例えば、表4に示されるように、シーケンスはCe(1,2)=Avg(s1,s2)、Ce(5,6)=Avg(s5,s6)などを含み、ここで、Avg(s1,s2)は、フレームs1およびs2の平均を示すことができる。
b)定義により、符号化フレームはe1=s1、e2=Avg(s1,s2)、e3=Avg(s1,s3)などと表現できることを前提として、ステップa)におけるフレームのシーケンスも次のように表現できることを容易に導き出すことができる。
-Ce(1,2)=Avg(s1,s2)=e2
-Ce(5,6)=Avg(s5,s6)=Avg(s1,s5)-Avg(s1,s4)+s6=e5-e4+e6
-etc.
以前と同様に、復号フレームの適切な結合を事前に算出し、LUTとして利用可能にすることができる。
提案された方法の利点は、コンテンツ作成者とユーザの両方にオプションを提供すること、すなわち、ディレクトリ/編集上の選択およびユーザの選択を可能にすることである。例えば、エンコーダ内の前処理内容は、様々なシャッタ角度でベースフレームレートを作成することを可能にする。各シャッタ角度には[0,(n_frames-1)]の範囲のtemporal_id値を割り当てることができ、ここで、n_framesは基本フレームレートで割った120に等しい値を有する。(たとえば、ベースフレームレートが24fpsの場合、temporal_idは[0,4]の範囲にある。)圧縮効率を最適化するか、もしくは美的な理由によるか、選択できる。一部のユースケースでは、たとえば、上位ストリーミングの場合、異なる基本レイヤを持つ複数のビットストリームを符号化して保存し、ユーザに提供して選択することができる。
開示される方法の第2の例では、複数の後方互換性フレームレートがサポートされ得る。理想的には、24fpsの基本レイヤを得るために24フレーム/秒で復号し、30fpsのシーケンスを得るために30フレーム/秒で、60fpsのシーケンスを得るために60フレーム/秒で復号し、等々が可能であることを望む。ターゲットシャッタ角度が指定されていない場合、ソースフレームレートおよびターゲットフレームレートに許容されるシャッタ角度のうち、180度にできるだけ近いデフォルトターゲットシャッタ角度が推奨される。例えば、表7に示す値では、120、60、40、30、および24でのfpsの好ましいターゲットシャッタ角度は、360度、180度、120度、180度、および216度である。
上記の例から、コンテンツをどのように符号化するかの選択は、特定のベースレイヤフレームレートを復号する複雑さに影響を及ぼし得ることが認められる。本発明の一実施形態は、所望のベースレイヤフレームレートに基づいて符号化方式を適応的に選択することである。映画コンテンツの場合、これは、例えば、24fpsとすることができ、一方、スポーツの場合、60fpsとすることができる。
本発明のBC実施形態のための例示的なシンタックスは、以下の表8および表9に示される。
SPS(表8)では、SPS_hfr_BC_enabled_flagおよびSPS_base_framerateの2つのシンタックス要素が追加される(SPS_hfr_BC_enabled_flagが1に設定されている場合)。
sps_hfr_BC_enabled_flag=1は、後方互換性のある高フレームレートが符号化ビデオシーケンス(CVS)で有効になることを指定する。sps_hfr_BC_enabled_flag=0は、後方互換性のある高フレームレートがCVSで有効になっていないことを指定する。
sps_base_framerateは、カレントCVSの基本フレームレートを指定する。
タイルグループヘッダでは、sps_hfr_BC_enabled_flagが1 に設定されている場合、シンタックスnumber_avg_framesがビットストリームで送信される。
number_avg_framesは、ベースフレームレートでカレントピクチャを生成するために結合される、最も高いフレームレート(例えば、120fps)でのフレーム数を指定する。
Figure 2022511162000020
Figure 2022511162000021
第2の実施形態(固定フレームレート)の変形例
HEVC(H.265)符号化標準(参照文献[1])および開発中のVersatile Video Coding Standard(一般にVVCと呼ばれる。参照文献[2]を参照)では、ピクチャをフレームとして、または1つ以上のフィールドとして表示するかどうか、および復号ピクチャを繰り返すかどうか、を示すシンタックス要素pic_structを定義する。HEVCからの表D.2「pic_structの解釈」のコピーは、参照のために付録に提供される。
発明者によって認識されるように、既存のpic_structシンタックス要素は、固定フレームレートコーディングコンテナを使用する場合に、コンテンツフレームレートの特定のサブセットのみをサポートできることに留意することが重要である。たとえば、60fpsの固定フレームレートコンテナを使用する場合、既存のpic_structシンタックスは、fixed_pic_rate_within_cvs_flag=1のとき、フレームダブリングを使用することで30fpsを、フレームダブリングとフレームトリプルを使用することで24fpsを、互いのフレームごとに交互にサポートできる。ただし、120fpsの固定フレームレートコンテナを使用する場合、カレントpic_structシンタックスは、24fpsまたは30fpsのフレームレートをサポートできない。この問題を軽減するために、2つの新しい方法が提案されている。一方はHEVCバージョンの拡張であり、他方はそうではない。
方法1:後方互換性のないpic_struct
VVCは依然として開発中であり、したがって、最大の自由度でシンタックスを設計することができる。一実施形態では、pic_structにおいて、フレームダブリングおよびフレームトリプリングのためのオプションを除去し、pic_structの特定の値を使用して任意のフレーム繰り返しを示し、繰り返すフレームの数を指定する、新しいシンタックス要素num_frame_repetition_minus2を追加することが提案される。提案されたシンタックスの一例は以下の表に記載されており、ここで、表10はHEVCにおける表D.2.3に対する変更を示し、表11は、付録に示される表D.2の変更を示す。
Figure 2022511162000022
num_frame_repetition_minus2+2は、fixed_pic_rate_within_cvs_flag=1の場合、数式E-73で与えられるDpbOutputElementalInterval[n]に等しいフレーム更新インターバルで、フレームをnum_frame_repetition_minus2+2回連続してディスプレイに表示する必要があることを示す。
Figure 2022511162000023
方法2:HEVCバージョンのpic_structの拡張バージョン
AVCおよびHEVCデコーダはすでに採用されているため、古いオプションを削除せずに、既存のpic_structシンタックスを単に拡張することが望ましい場合がある。実施形態では、新しいpic_struct=13、「フレーム繰り返し拡張」値、および新しいシンタックス要素num_frame_repetition_minus4が追加される。提案されたシンタックスの一例は、表12および13に記載されている。pic_struct値0~12では、提案されたシンタックスは表D.2のものと同じであるため(付録に示すように)、これらの値は簡略化のために省略されている。
Figure 2022511162000024
num_frame_repetition_minus4+4は、fixed_pic_rate_within_cvs_flag=1の場合、数式E-73で与えられるDpbOutputElementalInterval[n]に等しいフレーム更新インターバルで、フレームをnum_frame_repetition_minus4+4回連続してディスプレイに表示する必要があることを示す。
Figure 2022511162000025
HEVCでは、パラメータFrame_field_info_present_flagがビデオユーザビリティ情報(VUI)中に存在するが、シンタックス要素pic_struct、source_scan_type、およびduplicate_flagはpic_timing()SEIメッセージ中にある。実施形態では、frame_field_info_present_flagと共に、すべての関連するシンタックス要素をVUIに移動することが提案される。提案されたシンタックスの一例を表14に示す。
Figure 2022511162000026
シャッタ角度情報の代替シグナリング
可変フレームレートを扱う場合、所望のフレームレートと所望のシャッタ角度の両方を識別することが望ましい。従来のビデオ符号化規格では「ビデオユーザビリティ情報」(VUI)がアスペクト比、カラープライマリ、クロマサブサンプリングなどのビデオコンテンツの適切な表示のための必須情報を提供する。VUIは固定ピクレートが1に設定される場合、フレームレート情報を提供することもあるが、シャッタ角度情報のためのサポートはない。実施形態は異なる時間的レイヤに対して異なるシャッタ角度を使用することを可能にし、デコーダは、シャッタ角度情報を使用して、ディスプレイ上の最終的な外観を改善することができる。
例えば、HEVCは、より高いフレームレートからより低いフレームレートに移行するために、本質的にフレームドロップ技法を使用する時間的サブレイヤをサポートする。これに関する主問題は、各フレームドロップで有効シャッタ角度が減少することである。たとえば、60fpsは1フレームおきにドロップすることで120fpsビデオから派生できる。30fpsは4フレームのうち3フレームをドロップすることで派生でき、24fpsは5フレームのうち4フレームをドロップすることで派生できる。120Hz用の完全な360度シャッタを想定すると、単純なフレームドロッピングでは、60fps、30fps、および24fpsのシャッタ角度はそれぞれ180、90、および72度になる[3]。180度未満のシャッタ角度は特に50Hz未満のフレームレートでは一般的に許容できないことが、経験によって示されている。シャッタ角度情報を提供することによって、例えば、ディスプレイが、各時間的レイヤに対してシャッタ角度を低減した120Hzビデオから映画効果を生成することが望ましい場合、スマート技術を適用して、最終的な外観を改善することができる。
別の例では、同じシャッタ角度で異なる時間的レイヤ(例えば、120fpsビットストリーム内の60fpsサブビットストリーム)をサポートしたい場合がある。そして、主問題は、120fpsのビデオが120Hzで表示されるとき、偶数/奇数フレームは異なる有効シャッタ角度を有することである。ディスプレイが関連情報を有する場合、スマート技術を適用して最終的な外観を改善することができる。提案されたシンタックスの一例が表15に示されており、ここでは、HEVCにおけるE.2.1VUIパラメータシンタックステーブル(参照文献[1])は、上述のようにシャッタ角度情報をサポートするように修正される。なお、別の実施形態では、シャッタ角度シンタックスを絶対度で表現する代わりに、シャッタ速度に対するフレームレートの比率として表現することもできる(数式(1)参照)。
Figure 2022511162000027
vui_shutter_angle_info_present_flag=1は、vui_parameters()シンタックス構造にシャッタ角度情報が存在することを指定する。vui_shutter_angle_info_present_flag=0は、vui_parameters()シンタックス構造にシャッタ角度情報が存在しないことを指定する。
fixed_shutter_angle_within_cvs_flag=1は、シャッタ角度情報がCVS内のすべての時間的サブレイヤで同じであることを指定する。fixed_shutter_angle_within_cvs_flag=0は、シャッタ角度情報がCVS内のすべての時間的サブレイヤで同じではないことを指定する。
fixed_shutter_angleは、CVS内のシャッタ角度を度で指定する。fixed_shutter_angleの値は、0~360の範囲である。
sub_layer_shutter_angle[i]は、HighestTidがiに等しいとき、シャッタ角度を度で指定する。sub_layer_shutter_angle[i]の値は、0~360の範囲である。
符号化ビデオシーケンス(CVS)内の段階的フレームレート更新
実験は、HDRディスプレイ上に表示されるHDRコンテンツに対して、100ニト(nits)表示における標準ダイナミックレンジ(SDR)再生と同じ動きジャダリングを知覚するために、コンテンツの明るさに基づいてフレームレートを増加させる必要があることを示す。ほとんどの標準(AVC、HEVC、VVCなど)では、ビデオフレームレートは、vui_time_scale、vui_num_units_in_tick、elemental_duration_in_tc_minus1[temporal_id_max]シンタックス要素を使用して、VUI(SPSに含まれる)で示すことができる。たとえば、以下の表16に示される(参照文献[1]のセクションE.2.1を参照)。
Figure 2022511162000028
参照文献[1]で論じているように、変数ClockTickは、以下のように導出され、クロックチックと呼ばれる。
ClockTick=vui_num_units_in_tick÷vui_time_scale
picture_duration=ClockTick*(elemental_duration_in_tc_minus1[i]+1)
frame_rate=1/pic_duration
しかしながら、フレームレートは、例えば、HEVCにおいて、イントラランダムアクセスポイント(IRAP)フレームにおいてのみ、または新たなCVSの開始においてのみ、特定の時点においてのみ変更することができる。HDR再生では、フェードインやフェードアウトの場合、ピクチャの明るさがフレームごとに変わるため、ピクチャごとにフレームレート、またはピクチャの持続時間を変更する必要がある場合がある。フレームレートまたはピクチャ持続時間を任意の時点で(フレーム毎にでも)リフレッシュ可能にするために、一実施形態では、表17に示すように、「漸進的リフレッシュレート」のための新しいSEIメッセージが提案される。
Figure 2022511162000029
新しいシンタックスnum_units_in_tickの定義は、vui_num_units_in_tickと同じであり、time_scaleの定義は、vui_time_scaleと同じである。
num_units_in_tickは、クロックチックカウンタの1つのインクリメント(クロックチックと呼ばれる)に対応する周波数time_scale Hzで動作するクロックの時間単位の数である。num_units_in_tickは0より大きいものとする。秒単位のクロックチックは、num_units_in_tickをtime_scaleで割った商に等しくなる。例えば、ビデオ信号のピクチャレートが25Hzである場合、time_scaleは27 000 000に等しく、num_units_in_tickは1 080 000に等しく、したがってクロックチックは0.04秒に等しくてもよい。
time_scaleは、1秒間に経過する時間単位の数である。例えば、27MHzクロックを使用して時間を測定する時間座標系は、27 000 000のtime_scaleを有する。time_scaleの値は0より大きいものとする。
gradual_refresh_rateSEIメッセージを使用するピクチャのピクチャ持続時間は、次のように定義される。
picture_duration=num_units_in_tick÷time_scale。
SEIメッセージによるシャッタ角度情報のシグナリング
前述のように、表15は、シャッタ角度サポートを有するVUIパラメータシンタックスの例を提供する。一例として、限定するものではないが、表18は同一のシンタックス要素を列挙しているが、ここではシャッタ角度情報のためのSEIメッセージの一部として挙げられている。SEIメッセージングは一例としてのみ使用されており、シーケンスパラメータセット(SPS)、ピクチャパラメータセット(PPS)、スライスまたはタイルグループヘッダなどのような、高レベルシンタックスの他のレイヤで同様のメッセージングが構築されてもよいことに注意されたい。
Figure 2022511162000030
シャッタ角度は、通常、0~360度で表される。例えば、180度のシャッタ角度は、露光持続時間がフレーム持続時間の1/2であることを示す。シャッタ角度は、shutter_angle=frame_rate*360*shutter_speedとして表すことができ、ここで、shutter_speedは露光持続時間であり、frame_rateはフレーム持続時間の逆数である。与えられた時間的サブレイヤTidに対するframe_rateは、num_units_in_tick、time_scale,elemental_duration_in_tc_minus1[Tid]で示すことができる。例えば、fixed_pic_rate_within_cvs_flag[Tid]=1の場合、
frame_rate=
time_scale/(num_units_in_tick*(elemental_duration_in_tc_minus1[Tid]+1))。
いくつかの実施形態では、シャッタ角度の値(例えば、fixed_shutter_angle)は整数でなくてもよく、例えば、135.75度であってもよい。より高い精度を可能にするために、表21では、u(9)(符号なし9ビット)をu(16)または他の何らかの適切なビット深度(例えば、12ビット、14ビット、または16ビットを超える)で置き換えることができる。
いくつかの実施形態において、シャッタ角度情報を「クロックチック」の観点で表現することが有益であり得る。VVCにおいて、変数ClockTickは、以下のように導出される。
Figure 2022511162000031
次に、フレーム持続時間と露光持続時間の両方を、クロックチックの倍数または分数として表すことができる。
Figure 2022511162000032
Figure 2022511162000033
ここで、fNおよびfMは浮動小数点値であり、fN≦fMである。
そして、
Figure 2022511162000034
ここで、NumeratorおよびDenominatorは、fN/fM比を近似する整数である。
表19は、式(11)によって示されるSEIメッセージングの例を示す。この例では、シャッタ角度は、実世界のカメラのための0より大きくなければならない。
Figure 2022511162000035
前述のように、シャッタ角精度のためのu(16)(符号なし16ビット)の使用は、例示として示され、360/216=0.0055の精度に対応する。精度は、実際の用途に基づいて調整することができる。たとえば、u(8)を使用すると、精度は360/2=1.4063になる。
注記:シャッタ角度は0度より大きいが、360度以下で表される。例えば、180度のシャッタ角度は、露光持続時間がフレーム持続時間の1/2であることを示す。
fixed_shutter_angle_within_cvs_flag=1は、シャッタ角度値がCVS内のすべての時間的サブレイヤについて同じであることを指定する。fixed_shutter_angle_in_cvs_flag=0は、シャッタ角度値がCVS内のすべての時間的サブレイヤについて同じではないことを指定する。
fixed_shutter_angle_numer_minus1+1は、シャッタ角度値を導出するために使用される分子を指定する。fixed_shutter_angle_numer_minus1の値は、0から65535までの範囲内でなければならない。
fixed_shutter_angle_demom_minus1+1は、シャッタ角度値を導出するために使用される分母を指定する。fixed_shutter_angle_demom_minus1の値は、0から65535までの範囲でなければならない。
fixed_shutter_angle_numer_minus1の値は、fixed_shutter_angle_demom_minus1の値以下でなければならない。
可変シャッタ角度は、度で、次のように導出される。
shutterAngle=360*(fixed_shutter_angle_numer_minus1+1)÷(fixed_shutter_angle_demom_minus1+1))
sub_layer_shutter_angle_numer_minus1[i]+1は、HighestTidがiに等しいときに、シャッタ角度値を導出するために使用される分子を指定する。sub_layer_shutter_angle_numer_minus1[i]の値は、0から65535までの範囲内でなければならない(区間の両端を含む)。
sub_layer_shutter_angle_demom_minus1[i]+1は、HighestTidがiに等しいときに、シャッタ角度値を導出するために使用される分母を指定する。sub_layer_shutter_angle_demom_minus1[i]の値は、0から65535までの範囲内でなければならない(区間の両端を含む)。
sub_layer_shutter_angle_numer_minus1[i]の値は、sub_layer_shutter_angle_denom_minus1[i]の値以下でなければならない。
可変サブレイヤシャッタ角度[i]は、度で、以下のように導出される。
subLayerShutterAngle[i]=360*
(sub_layer_shutter_angle_numer_minus1[i]+1)÷(sub_layer_shutter_angle_demom_minus1[i]+1)
別の実施形態では、フレーム持続時間(例えば、frame_duration)は何らかの他の手段によって指定されてもよい。例えば、DVB/ATSCにおいて、fixed_pic_rate_within_cvs_flag[Tid]=1のとき、
frame_rate=time_scale/(num_units_in_tick*(elemental_duration_in_tc_minus1[Tid]+1)),frame_duration=1/frame_rate。
表19および後続の表のいくつかのシンタックスは、シャッタ角度が常にゼロよりも大きいと仮定するが、シャッタ角度=0はいかなるモーションブラーもなくコンテンツが表示されるべき創造的な意図をシグナリングするために使用され得る。これは、グラフィックス、アニメーション、CGIテクスチャ、マット画面などを動かすためのケースである。したがって、例えば、シグナリングシャッタ角度=0は、トランスコーダにおいて、(例えば、エッジを保存するトランスコーディングモードを選択するために)ならびにCTAインターフェースまたは3GPPインターフェースを介してシャッタ角度メタデータを受信するディスプレイにおいて、モード決定に有用であり得る。例えば、シャッタ角度=0を使用して、ノイズ除去、フレーム補間などの動き処理を実行すべきでないディスプレイに指示することができる。そのような実施形態では、シンタックス要素fixed_shutter_angle_nume_minus1およびsub_layer_shutter_angle_numer_minus1[i]が、シンタックス要素fixed_shutter_angle_numerおよびsub_layer_shutter_angle_nume[i]によって置き換えることができ、ここで、fixed_shutter_angle_numerは、シャッタ角度値を導出するのに使用される分子を指定する。fixed_shutter_angle_numerの値は、0から65535までの範囲でなければならない(区間の両端を含む)。
sub_layer_shutter_angle_numer[i]は、HighestTidがiに等しいときにシャッタ角度値を導出するために使用される分子を指定する。sub_layer_shutter_angle_numer[i]の値は、0~65535の範囲でなければならない(区間の両端を含む)。
別の実施形態では、fixed_shutter_angle_denom_minus1およびsub_layer_shutter_angle_denom_minus1[i]はまた、シンタックス要素fixed_shutter_angle_denomおよびsub_layer_shutter_angle_denom[i]により置き換えられる。
一実施形態では、表20に示すように、VVCでgeneral_hrd_parameters_present_flag=1に設定することによって、SPSで定義されたnum_units_In_tickおよびtime_scaleシンタックスを再利用することができる。このシナリオの下では、SEIメッセージは露光持続時間SEIメッセージとして名前を変更することができる。
Figure 2022511162000036
fixed_exposure_duration_within_cvs_flag=1は、有効露光持続時間値はCVSにおけるすべての時間的サブレイヤについて同じである、ということを指定する。
fixed_exposure_duration_numer_minus1+1は、露光持続時間値を導出するのに使用する分子を指定する。fixed_exposure_duration_numer_minus1の値は、0から65535までの範囲でなければならない(区間の両端を含む)。
fixed_exposure_duration_demom_minus1+1は、露光持続時間値を導出するために使用される分母を指定する。fixed_exposure_duration_demom_minus1は、0から65535までの範囲でなければならない(区間の両端を含む)。
fixed_exposure_during_numer_minus1の値は、fixed_exposure_duration_demom_minus1の値以下でなければならない。
変数fixedExposureDurationは、次のように導出される。
fixedExposureDuration=(fixed_exposure_duration_numer_minus1+1)÷(fixed_exposure_duration_demom_minus1+1)*ClockTicks。
sub_layer_exposure_duration_duration_numer_minus1[i]+1は、HighestTidがiに等しいときの露光持続時間値を導出するために使用される分子を指定する。sub_layer_exposure_duration_numer_minus1[i]の値は、0から65535までの範囲でなければならない(区間の両端を含む)。
sub_layer_exposure_duration_demom_minus1[i]+1は、HighestTidがiに等しいときの露光持続時間値を導出するために使用される分母を指定する。sub_layer_exposure_duration_demom_minus1[i]の値は、0から65535までの範囲でなければならない(区間の両端を含む)。
sub_layer_exposure_duration_numer_minus1[i]の値は、sub_layer_exposure_duration_demom_minus1[i]の値以下でなければならない。
iに等しいHigestTidについての変数subLayerExposureDuration[i]は次のように導出される。
subLayerExposureDuration[i]=(sub_layer_exposure_duration_numer_minus1[i]+1)÷(sub_layer_exposure_duration_demom_minus1[i]+1)*ClockTick。
別の実施形態では、表21に示すように、シンタックス要素expo_num_units_in_tickおよびexpo_time_scaleによってclockTickを明示的に定義することができる。ここでの利点は、前の実施形態と同様に、VVCにおいて、general_hrd_parameters_present_flagセットが1に設定されているかどうかに依存しないことである。
Figure 2022511162000037
Figure 2022511162000038
expo_num_units_in_tickは、クロックチックカウンタの1つのインクリメント(クロックチックと呼ばれる)に対応する周波数タイムスケールHzで作動するクロックの時間単位の数である。expo_num_units_in_tickは0より大きくなければならない。変数clockTicによって定義されるクロックチックは、秒単位で、expo_num_units_in_tickをexpo_time_scaleで割った商に等しい。
expo_time_scaleは、1秒間に経過する時間単位の数である。
clockTick=expo_num_units_in_tick÷expo_time_scaleである。
注記:2つのシンタックス要素(expo_num_units_in_tickおよびexpo_time_scale)は、露光時間を測定するために定義される。
num_units_in_tickおよびtime_scaleが存在する場合、clockTickはClockTick以下でなければならない。
fixed_exposure_duration_within_cvs_flag=1は、有効露光持続時間値がCVS内のすべての時間的副レイヤに対して同じであることを指定する。fixed_exposure_duration_in_CVS_flag=0は、CVS内のすべての時間的サブレイヤについて有効露光持続時間値が同じでないことを指定する。
fixed_exposure_duration_within_cvs_flag=1の場合、変数fixedExposureDurationはclockTickに設定される。
sub_layer_exposure_duration_numer_minus1[i]+1は、HighestTidがiに等しいときの露光持続時間値を導出するために使用される分子を指定する。sub_layer_exposure_duration_numer_minus1[i]の値は、0から65535までの範囲でなければならない(区間の両端を含む)。
sub_layer_exposure_duration_demom_minus1[i]+1は、HighestTidがiに等しいときの露光持続時間値を導出するために使用される分母を指定する。sub_layer_exposure_duration_demom_minus1[i]の値は、0以上65535までの範囲でなければならない(区間の両端を含む)。
sub_layer_exposure_duration_numer_minus1[i]の値は、sub_layer_exposure_duration_demom_minus1[i]の値以下でなければならない。
iに等しいHigestTidについての変数subLayerExposureDuration[i]は、以下のように導出される。
subLayerExposureDuration[i]=(sub_layer_exposure_duration_numer_minus1[i]+1)÷(sub_layer_exposure_duration_denom_minus1[i]+1)*clockTick。
前述したように、シンタックスパラメータ、sub_layer_exposure_duration_numer_minus1[i]およびsub_layer_exposure_duration_denom_minus1[i]はまた、sub_layer_exposure_duration_numer[i]およびsub_layer_exposure_duration_denom[i]によって置き換えられる。
別の実施形態では、表22に示すように、シンタックス要素sii_num_units_in_shutter_intervalおよびsii_time_scaleによってパラメータShutterInterval(すなわち、露光持続時間)を定義することができ、ここで、
Figure 2022511162000039
Figure 2022511162000040
シャッタインターバル情報SEIメッセージセマンティクス
シャッタインターバル情報SEIメッセージは、符号化および表示の前の関連するビデオコンテンツ、例えばカメラキャプチャコンテンツに対するシャッタインターバル、画像センサがピクチャを生成するために露光された時間の量を示す。
sii_num_units_in_shutter_intervalは、シャッタクロックチックカウンタの1つのインクリメントに対応する周波数sii_time_scale Hzで動作するクロックの時間単位の数を指定する。変数ShutterIntervalによって定義されるシャッタインターバルは、秒単位で、sii_num_units_in_shutter_intervalをsii_time_scaleで割った商に等しい。例えば、ShutterIntervalが0.04秒に等しいとき、sii_time_scaleは、27 000 000に等しく、sii_num_units_in_shutter_intervalは、1 080 000に等しくてもよい。
sii_time_scaleは、1秒間に経過する時間単位の数を指定する。たとえば、27MHzクロックを使用して時間を計測する時間座標系では、sii_time_scaleは27 000 000になる。
sii_time_scaleの値が0より大きい場合、ShutterIntervalの値は下記によって指定される。
ShutterInterval=sii_num_units_in_shutter_interval÷sii_time_scale。それ以外の場合(sii_time_scaleの値が0に等しい)、ShutterIntervalは未知または指定されていないとして解釈されなければならない。
注記1:0に等しいShutterIntervalの値は、関連するビデオコンテンツがスクリーンキャプチャコンテンツ、コンピュータ生成コンテンツ、または他の非カメラキャプチャコンテンツを含むことを指定する。
注記2:符号化ピクチャレートの逆数の値よりも大きいShutterIntervalの値、符号化ピクチャインターバルは、符号化ピクチャレートが関連するビデオコンテンツが作成されたピクチャレートよりも大きいことを示してもよく、例えば、符号化ピクチャレートが120Hzであり、符号化および表示前の関連するビデオコンテンツのピクチャレートが60Hzである場合である。与えられた時間的サブレイヤTidのための符号化インターバルは、ClockTickおよびelemental_duration_in_tc_minus1[Tid]によって示されることがある。例えば、fixed_pic_rate_within_cvs_flag[Tid]=1のとき、変数PictureInterval[Tid]によって定義される所与の時間的サブレイヤTidのためのピクチャインターバルは、下記によって指定されることがある。
PictureInterval[Tid]=ClockTick*(elemental_duration_in_tc_minus1[Tid]+1)。
fixed_shutter_interval_into_cvs_flag=1は、ShutterIntervalの値がCVS内のすべての時間的サブレイヤについて同じであることを指定する。fixed_shutter_interval_within_cvs_flag=0は、ShutterIntervalの値がCVS内のすべての時間的サブレイヤについて同じでないことを指定する。
sub_layer_shutter_interval_numer[i]は、HighestTidがiに等しい場合、変数subLayerShutterInterval[i]で定義される、サブレイヤシャッタインターバルを導出するために使用される分子を秒単位で指定する。
sub_layer_shutter_interval_denom[i]は、HighestTidがiに等しい場合に、変数subLayerShutterInterval[i]によって定義される、サブレイヤシャッタインターバルを導出するために使用される分母を秒単位で指定する。
iに等しいHighestTidについてのsubLayerShutterInterval[i]の値は、以下のように導出される。fixed_shutter_interval_within_cvs_flagの値が0に等しく、sub_layer_shutter_interval_denom[i]の値が0より大きい場合、
subLayerShutterInterval[i]=ShutterInterval*sub_layer_shutter_interval_numer[i]÷sub_layer_shutter_interval_denom[i]である。
そうでない場合(sub_layer_shutter_interval_denom[i]の値が0に等しい)、subLayerShutterInterval[i]は未知または指定されていないとして解釈されるべきである。fixed_shutter_interval_within_cvs_flagの値が0に等しくない場合、subLayerShutterInterval[i]=ShutterIntervalである。
代替的な実施形態では、サブレイヤシャッタインターバルをシグナリングするための分子および分母を使用する代わりに、単一値を使用する。このようなシンタックスの例を表23に示す。
Figure 2022511162000041
シャッタインターバル情報SEIメッセージセマンティクス
シャッタインターバル情報SEIメッセージは、符号化および表示の前の関連するビデオコンテンツについてのシャッタインターバル、例えば、カメラキャプチャコンテンツに対して、画像センサがピクチャを生成するために露光された時間の量を示す。
sii_num_units_in_shutterは、シャッタクロックチックカウンタの1つのインクリメントに対応する周波数sii_time_scale Hzで動作するクロックの時間単位の数を指定する。変数ShutterIntervalによって定義されるシャッタインターバルは、秒単位で、sii_num_units_in_shutter_intervalをsii_time_scaleで割った商に等しい。例えば、ShutterIntervalが0.04秒に等しいとき、sii_time_scaleは27 000 000に等しく、sii_num_units_in_shutter_intervalは1 080 000に等しくてもよい。
sii_time_scaleは、1秒間に経過する時間単位の数を指定する。たとえば、27MHzクロックを使用して時間を計測する時間座標系では、sii_time_scaleは27 000 000になる。
sii_time_scaleの値が0より大きい場合、ShutterIntervalの値は下記により指定される。
ShutterInterval=sii_num_units_in_shutter_interval÷sii_time_scale。
それ以外の場合(sii_time_scaleの値が0に等しい)、ShutterIntervalは未知または指定されていないとして解釈されるべきである。
注記1:0に等しいShutterIntervalの値は、関連するビデオコンテンツがスクリーンキャプチャコンテンツ、コンピュータ生成コンテンツ、または他の非カメラキャプチャコンテンツを含むことを示し得る。
注記2:符号化ピクチャレートの逆数の値よりも大きいShutterIntervalの値、符号化ピクチャインターバルは、符号化ピクチャレートが関連するビデオコンテンツが生成されたピクチャレートよりも大きいことを示してもよく、例えば、符号化ピクチャレートが120Hzであり、符号化および表示前の関連するビデオコンテンツのピクチャレートが60Hzである場合である。所与の時間的副レイヤTidについての符号化ピクチャインターバルは、ClockTickおよびelemental_duration_in_tc_minus1[Tid]によって示されることがある。例えば、fixed_pic_rate_within_cvs_flag[Tid]=1のとき、変数PictureInterval[Tid]によって定義される所定の時間的サブレイヤTidのためのピクチャインターバルは、下記によって指定される。
PictureInterval[Tid]=ClockTick*(elemental_duration_in_tc_minus1[Tid]+1)
fixed_shutter_interval_into_cvs_flag=1は、ShutterIntervalの値がCVS内のすべての時間的サブレイヤについて同じであることを指定する。fixed_shutter_interval_within_cvs_flag=0は、ShutterIntervalの値がCVS内のすべての時間的サブレイヤについて同じでないことを指定する。
sub_layer_num_units_in_shutter_interval[i]は、シャッタクロックチックカウンタの1つのインクリメントに対応する周波数sii_time_scale Hzで動作するクロックの時間単位の数を指定する。変数subLayerShutterInterval[i]によって定義されるサブレイヤシャッタインターバルは、秒単位で、HighestTidがiに等しいとき、sub_layer_num_units_in_shutter_interval[i]をsii_time_scaleで割った商に等しい。
fixed_shutter_interval_within_cvs_flagの値が0に等しく、sii_time_scaleの値が0より大きい場合、subLayerShutterInterval[i]の値は、以下によって指定される。
subLayerShutterInterval[i]=sub_layer_num_units_in_shutter_interval[i]÷sii_time_scale
それ以外の場合(sii_time_scaleの値が0に等しい)、subLayerShutterInterval[i]は未知または指定されていないとして解釈されるべきである。fixed_shutter_interval_within_cvs_flagの値が0に等しくない場合、subLayerShutterInterval[i]=ShutterIntervalである。
表24は、シャッタ角度または露光持続時間に関連するSEIメッセージングを提供するための、表18~23で議論される6つのアプローチの概要を提供する。
Figure 2022511162000042
可変フレームレートシグナリング
2019年8月06日に出願された米国仮出願第62/883,195号に記載されているように、多くの出願において、デコーダが可変フレームレートで再生をサポートすることが望まれている。フレームレート適応は典型的には、例えば、参照文献[2]の付属書Cに記載されているように、仮想参照デコーダ(HRD)における動作の一部である。一実施形態では、90kHzクロックの関数として、ピクチャプレゼンテーション時間(PPT)を定義するシンタックス要素をSEIメッセージングまたは他の手段を介してシグナリングすることが提案される。これは、HRDで指定された公称デコーダピクチャバッファ(DPB)出力時間の一種の繰り返しであるが、現在は、MPEG-2システムで指定された90kHzClockTicks精度を使用している。このSEIメッセージの利点は、a)HRDがイネーブルされない場合、各フレームのタイミングを示すためにPPT SEIメッセージを依然として使用することができること、b)ビットストリームタイミングおよびシステムタイミングの変換を容易にすることができることである。
表25は、MPEG-2トランスポート(H.222)(参照[4])で使用されているプレゼンテーションタイムスタンプ(PTS)変数のシンタックスに一致する、提案されたPPTタイミングメッセージのシンタックスの例を説明する。
Figure 2022511162000043
PPT (ピクチャプレゼンテーションタイム)
プレゼンテーションタイムは、以下のように復号時間に関連する。PPTは、3つの別個のフィールドで符号化された33ビット数である。これは、基本ストリームnのプレゼンテーションユニットkのシステムターゲットデコーダにおけるプレゼンテーションの時間tp(k)を示す。PPTの値は、システムクロック周波数を300で割った単位(90kHzが生成)で指定される。ピクチャプレゼンテーションタイムは、以下の数式に従ってPPTから導出される。
PPT(k)=((system_clock_frequency x tp(k))/300)%233
ここで、tp(k)はプレゼンテーションユニットP(k)のプレゼンテーションタイムである。
参照文献
本明細書に列挙された参照文献の各々は、その全体が参照により組み込まれる。
[1]高効率ビデオコーディング(HEVC),H.265,シリーズH、動画の符号化、ITU、(02/2018)
[2]B.Bross,J.Chen,and S.Liu,「多様なビデオ符号化(VVC)(ドラフト5)」JVET アウトプットドキュメント、JVET-N1001,v5,(2019年5月14日にアップされた)
[3]C.Carbonara,J.DeFilippis,M.Korpi,「高フレームレートキャプチャおよび生成」SMPTE、2015年技術コンファレンスおよびエキシビション、2015年10月26-29日
[4]オーディオビジュアルサービスのインフラストラクチャ-伝送多重化および同期、H.222.0,シリーズH、動画および関連するオーディオ情報の汎用コーディング:Systems,ITU,08/2018
コンピュータシステム実装例
本発明の実施形態は、コンピュータシステム、電子回路およびコンポーネントで構成されたシステム、マイクロコントローラなどの集積回路(IC)デバイス、フィールドプログラマブルゲートアレイ(FPGA)、または別の構成可能またはプログラマブル論理デバイス(PLD)、離散時間またはデジタル信号プロセッサ(DSP)、特定用途向けIC(ASIC)、および/またはそのようなシステム、デバイス、またはコンポーネントのうちの1つ以上を含む装置で実装され得る。コンピュータおよび/またはICは、本明細書で説明されるようなフレームレートスケーラビリティに関する命令を実行、制御、または実行することができる。コンピュータおよび/またはICは、本明細書に記載するフレームレートスケーラビリティに関連する様々なパラメータまたは値のいずれかを計算してもよい。画像およびビデオの実施形態は、ハードウェア、ソフトウェア、ファームウェア、およびそれらの様々な組合せで実施することができる。
本発明のある特定の実施形態は、プロセッサに本発明の方法を実行させるソフトウェア命令を実行するコンピュータプロセッサを含む。例えば、ディスプレイ内の1つ以上のプロセッサ、エンコーダ、セットトップボックス、トランスコーダなどは、プロセッサにアクセス可能なプログラムメモリ内でソフトウェア命令を実行することによって、上述のフレームレートスケーラビリティに関連する方法を実装することができる。本発明の実施形態はまた、プログラム製品の形態で提供されてもよい。プログラム製品は、データプロセッサによって実行されると、データプロセッサに本発明の方法を実行させる命令を含む1組のコンピュータ可読信号を搬送する任意の非一時的かつ有形の媒体を含むことができる。本発明によるプログラム製品は、多種多様な非一時的かつ有形の形態のいずれであってもよい。プログラム製品は、例えば、フロッピーディスケット、ハードディスクドライブを含む磁気データ記憶媒体、CD ROM、DVDを含む光データ記憶媒体、ROM、フラッシュRAMなどを含む電子データ記憶媒体などの物理媒体を含むことができる。プログラム製品上のコンピュータ可読信号は、任意選択で、圧縮または暗号化することができる。
構成要素(例えば、ソフトウェアモジュール、プロセッサ、アセンブリ、デバイス、回路など)が上記で言及されている場合、別段の指示がない限り、その構成要素(「手段」への言及を含む)への言及は、本発明の例示的な実施形態において機能を実行する開示された構造と構造的に同等でない構成要素を含む、説明された構成要素(例えば、機能的に同等)の機能を実行する任意の構成要素の同等物を含むものとして解釈されるべきである。
等価物、拡張物、代替物およびその他
したがって、フレームレートスケーラビリティに関連する例示的な実施形態が説明される。前述の明細書では、本発明の実施形態が実施ごとに変化し得る多数の特定の詳細を参照して説明されてきた。したがって、本発明が何であり、出願人によって本発明であることが意図されているものの唯一の排他的な指標は、後続の訂正を含む、そのような特許請求の範囲が発行される特定の形態で、本出願から発行される請求項のセットである。当該請求項に含まれる用語につき本明細書に明示的に記載される定義は、請求項で使用される用語の意味に優先する。したがって、請求項に明示的に記載されていない限定、要素、特性、特徴、利点または属性は、当該請求項の範囲をいかなる方法でも制限すべきではない。したがって、本明細書および図面は、制限的な意味ではなく例示的な意味に考えられるべきである。
付録
この付録は、表D.2のコピーと、H.265仕様(参照文献[1])からの関連するpic_struct関連情報を提供する。
Figure 2022511162000044
Figure 2022511162000045
pic_structシンタックス要素のセマンティック
pic_structは、ピクチャをフレームとして表示するか、または1つ以上のフィールドとして表示するかを示し、また、fixed_pic_rate_within_cvs_flag=1のときのフレームの表示については、式E-73で与えられるDpbOutputElementalInterval[n]に等しい固定フレーム更新インターバルを使用するディスプレイのフレームダブリングまたはトリプリング繰り返し期間を示すことができる。pic_structの解釈は表D.2で規定されている。表D.2に列挙されていないpic_structの値は、ITU-T|ISO/IECによる将来の使用のために予約され、この仕様のこのバージョンに準拠するビットストリームには存在しない。デコーダはpic_structの予約値を無視する。
存在する場合、pic_structの値が以下の条件のうちの正確に1つが真であるように制約されることが、ビットストリーム適合性の要件である。
-pic_structの値は、CVS内のすべてのピクチャについて0、7、または8に等しくなる。
-pic_structの値は、CVS内のすべてのピクチャについて1、2、9、10、11、または12に等しくなる。
-pic_structの値は、CVS内のすべてのピクチャに対して3、4、5、または6に等しくなる。
fixed_pic_rate_within_cvs_flag=1のとき、フレームダブリングは7に等しいpic_structによって示され、それは、数式E-73によって与えられるように、DpbOutputElementalInterval[n]に等しいフレームリフレッシュインターバルでディスプレイ上に2回連続して表示されるべきであることを示し、そして、フレームトリプリングは8に等しいpic_structによって示され、それは、数式E-73によって与えられるように、DpbOutputElementalInterval[n]に等しいフレームリフレッシュインターバルでディスプレイ上に3回連続して表示されるべきであることを示す。
注記3:フレームダブリングを使用すると、表示を容易にすることができ、たとえば、50Hzプログレッシブスキャンディスプレイでは25Hzプログレッシブスキャンビデオ、60Hzプログレッシブスキャンディスプレイでは30Hzプログレッシブスキャンビデオを使用できる。フレームダブリングおよびフレームトリプリングを他の各フレーム上で交互に組み合わせて使用することにより、60Hzプログレッシブスキャンディスプレイ上の24Hzプログレッシブスキャンビデオの表示を容易にすることができる。
4:2:0、4:2:2、および4:4:4のクロマフォーマットに対するトップフィールドおよびボトムフィールドにおけるサンプルの公称垂直サンプリング位置および公称水平サンプリング位置を、それぞれ図D.1、図D.2、および図D.3に示す。
フィールドのアソシエーションインジケータ(pic_structが9から12に等しい)は、相補パリティのフィールドをフレームとして関連付けるためのヒントを提供する。フィールドのパリティはトップまたはボトムとすることができ、一方のフィールドのパリティがトップであり、他方のフィールドのパリティがボトムである場合、2つのフィールドのパリティは相補的と見なされる。
frame_field_info_present_flag=1の場合、表D.2の3番目の列で指定された制約が適用されることは、ビットストリーム適合性の要件である。
注4:frame_field_info_present_flag=0の場合、多くの場合、デフォルト値が他の手段によって推論または示されることができる。ピクチャの意図された表示タイプの他の指示がない場合、デコーダは、frame_field_info_present_flag=0のとき、pic_structの値を0と推論する必要がある。

Claims (26)

  1. 可変フレームレートおよびシャッタ角度で符号化ビデオビットストリームを復号する方法であって、前記方法は、プロセッサによって実行され、
    符号化ビデオフレームを有する符号化ビットストリームを受信することであって、1つ以上の符号化フレームは第1のフレームレートおよび第1のシャッタ角度で符号化される、符号化ビットストリームを受信することと、
    第2のフレームレートおよび第2のシャッタ角度で復号されるべき符号化フレームのグループの存在を示す、第1のフラグを受信することと、
    符号化フレームの前記グループのための前記第2のフレームレートおよび前記第2のシャッタ角度の値に、前記符号化ビットストリームからアクセスすることと、
    符号化フレームの前記グループ、前記第1のフレームレート、前記第1のシャッタ角度、前記第2のフレームレート、および前記第2のシャッタ角度に基づいて、前記第2のフレームレートおよび前記第2のシャッタ角度で復号フレームを生成することと、
    を含む、方法。
  2. 前記第2のフレームレートおよび前記第2のシャッタ角度で前記復号フレームを生成することは、
    復号フレームのグループを生成するために、符号化フレームの前記グループに各フレームを復号することと、
    前記第2のフレームレートおよび前記第2のシャッタ角度で出力フレームを生成するために、復号フレームの前記グループ内のN個のフレームを結合することであって、ここで、
    N=(target_shutter_angle/orig_shutter_angle)*(original_frame_rate/target_frame_rate)であり、target_shutter_angleは前記第2のシャッタ角度を示し、orig_shutter_angleは前記第1のシャッタ角度を示し、original_frame_rateは前記第1のフレームレートを示し、target_frame_rateは前記第2のフレームレートを示す、N個のフレームを結合することと、を含む、請求項1に記載の方法。
  3. 符号化フレームの第2のグループについての、第3のフレームレートのための第1のパラメータ値、および第3のシャッタ角度のための第2のパラメータ値に、前記符号化ビットストリームからアクセスすることであって、前記第3のフレームレートは、前記第2のフレームレートと異なる、アクセスすることと、
    符号化フレームの前記第2のグループ、前記第1のフレームレート、前記第1のシャッタ角度、前記第3のフレームレート、および前記第3のシャッタ角度に基づいて、前記第3のフレームレートおよび前記第3のシャッタ角度で復号フレームを生成することと、をさらに含む、請求項1記載の方法。
  4. 前記第1のフレームレートは120fpsであり、前記第1のシャッタ角度は360度である、請求項2に記載の方法。
  5. 前記符号化ビデオビットストリームにおいて、復号フェーズインデックス値にアクセスすることをさらに含み、前記復号フェーズインデックス値は、前記復号フレームにおけるN個のフレームのどのグループが一緒に結合されるべきかを示す、請求項2に記載の方法。
  6. 120fpsの第1のフレームレートおよび360度の第1のシャッタ角度について、復号フェーズインデックス値は、0から(n_frames_max-1)のインデックス値を有するシーケンシャルフレームのセット内のフレームインデックスを示し、ここで、n_frames_max=120/target_frame_rateであり、前記復号フェーズインデックス値は、0からn_frames_max-n_framesの間であり、n_frames=target_shutter_angle/(3*target_frate_rate)である、請求項5に記載の方法。
  7. 可変フレームレートおよびシャッタ角度で符号化ビデオビットストリームを復号する方法であって、前記方法は、プロセッサによって実行され、
    符号化ビデオフレームのグループを含む符号化ビットストリームを受信することであって、前記符号化ビットストリーム内のすべての符号化ビデオフレームは、第1のフレームレートで符号化される、符号化ビットストリームを受信することと、
    結合されたN個のフレームの数を受信することと、
    ベースラインフレームレートのための値を受信することと、
    N個の連続符号化フレームのグループにアクセスすることであって、N個の連続符号化フレームの前記グループ内のi番目の符号化フレームは、第1のシャッタ角度および前記第1のフレームレートに基づいて、前記ベースラインフレームレートおよびi番目のシャッタ角度でエンコーダにおいて符号化されたi番目までの入力ビデオフレームの平均を示し、ここで、i=1、2、...Nである、N個の連続符号化フレームのグループにアクセスすることと、
    第2のフレームレートおよび第2のシャッタ角度でN個の連続する符号化フレームの前記グループを復号するために、前記符号化ビットストリームまたはユーザ入力から、第2のフレームレートおよび第2のシャッタ角度値にアクセスすることと、
    N個の連続する符号化フレームの前記グループ、前記第1のフレームレート、前記第1のシャッタ角度、前記第2のフレームレート、および前記第2のシャッタ角度に基づいて、前記第2のフレームレートおよび前記第2のシャッタ角度で復号フレームを生成することと、を備える方法。
  8. 前記第2のフレームレートおよび前記第2のシャッタ角度で前記復号フレームを生成することは、
    N個の復号フレームのグループを生成するために、N個の連続した符号化フレームの前記グループ内の各フレームを復号することと、
    N個の復号フレームの前記グループ、前記第2のフレームレート、および前記第2のシャッタ角度に基づいて、前記第2のフレームレートおよび前記第2のシャッタ角度における出力フレームを生成することと、を含む、請求項7に記載の方法。
  9. 前記第2のフレームレートが前記ベースラインフレームレートに等しい場合、N個の連続する符号化フレームの前記グループ内の復号されたi番目のフレームは、前記第2のフレームレートにおける出力フレーム、およびSA(i)=orig_shutter_angle*i*(target_frame_rate/original_frame_rate)で与えられるシャッタ角度値に対応し、
    orig_shutter_angleは第1のシャッタ角度を示し、orig_shutter_rateは第1のフレームレートを示し、target_frame_rateは第2のフレームレートを示し、i=1、2、...Nである、請求項8に記載の方法。
  10. 前記第1のシャッタ角度は360度であり、前記第1のフレームレートは120fpsであり、N=5であり、前記ベースラインフレームレートは24fpsである、請求項9に記載の方法。
  11. 前記第2のフレームレートが前記ベースラインフレームレートと異なっている場合、前記第2のフレームレートおよび前記第2のシャッタ角度で出力フレームを生成することは、
    結合されたときに、前記第2のフレームレートおよび前記第2のシャッタ角度における出力フレームを生成する、前記第1のフレームレートおよび前記第1のシャッタ角度における対応する入力フレームの入力セットを、仮想エンコーダに対して算出することと、
    N個の復号フレームのグループを生成するために、N個の連続した符号化フレームの前記グループ内の各フレームを復号することと、
    結合されたときに、対応する入力フレームの前記入力セットを結合することによって生成される出力と一致する出力を生成する、N個の復号フレームの前記グループ内のフレームの出力セットを算出することと、
    N個の復号フレームの前記グループ内のフレームの出力セットに基づいて、前記出力フレームを生成することと、を含む、請求項7に記載の方法。
  12. 前記第2のフレームレートおよび前記第2のシャッタ角度に対して、前記出力セットは、前記第1のフレームレート、前記第1のシャッタ角度、および結合されたフレームの数Nに基づいて生成されたルックアップテーブルから検索される、請求項11に記載の方法。
  13. 前記N個の連続する符号化フレームの前記グループ内の少なくとも1つのフレームは第1の時間的識別(ID)番号に関連付けられ、N個の連続する符号化フレームの前記グループ内の少なくとも第2のフレームは第2の時間ID番号に関連付けられ、復号することは、さらに、
    出力時間的ID番号にアクセスすることと、
    前記出力時間的ID番号に一致する時間的ID番号を有するフレームのみを、N個の連続する符号化フレームの前記グループから復号することと、を含む、請求項8に記載の方法。
  14. 符号化ビデオストリーム構造を格納した非一時的なプロセッサ可読媒体であって、前記符号化ビデオストリーム構造は、
    ビデオピクチャのシーケンスの符号化を含む符号化ピクチャセクションと、
    前記符号化ピクチャセクション内のすべての時間的サブレイヤについてシャッタ角度情報が固定されているかを示す第1のシャッタ角度フラグの符号化を含むシグナリングセクションであって、
    前記第1のシャッタ角度フラグが、シャッタ角度情報が固定されていることを示す場合、前記符号化ピクチャセクション内のすべての前記時間的サブレイヤについて、前記固定されたシャッタ角度値を使用して、前記ビデオピクチャのシーケンスの復号バージョンを表示するための固定されたシャッタ角度値を含み、そうでない場合、
    前記時間的サブレイヤの各々について、サブレイヤシャッタ角度値のアレイ内の値が前記ビデオピクチャのシーケンスの前記時間的サブレイヤの復号されたバージョンを表示するための対応するシャッタ角度値を示す、サブレイヤシャッタ角度値の前記アレイを含む、シグナリングセクションと、
    を備える、非一時的なプロセッサ可読媒体。
  15. 前記シグナリングセクションは、前記ビデオピクチャのシーケンス内の復号ピクチャが連続的に表示されるべき回数を示すフレーム繰り返し値の符号化をさらに含む、請求項14に記載の非一時的なプロセッサ可読媒体。
  16. 前記シグナリングセクションは、1秒内で経過する時間単位の数を示すtime_scale値の周波数で動作するクロックの時間単位の数を示すnum_units_in_tick値の符号化、および前記time_scale値の符号化をさらに含み、前記num_units_in_tick値およびtime_scale値は、フレーム単位で再生中にフレームの繰り返しおよび/または持続時間を調整するためにデコーダによって使用される、請求項14に記載の非一時的なプロセッサ可読媒体。
  17. 前記シグナリングセクションは、補足エンハンスメント情報(SEI)メッセージングセクションまたはビデオユーザ情報(VUI)メッセージングセクションを含む、請求項14、15または16に記載の非一時的なプロセッサ可読媒体。
  18. 符号化ビデオストリーム構造を格納した非一時的なプロセッサ可読媒体であって、前記符号化ビデオストリーム構造は、
    ビデオピクチャのシーケンスの符号化を含む符号化ピクチャセクションと、
    前記符号化ピクチャセクション内のすべての時間的サブレイヤについてシャッタ角度情報が固定されているかを示す第1のシャッタ角度フラグの符号化を含むシグナリングセクションであって、
    前記第1のシャッタ角度フラグが、シャッタ角度情報が固定されていることを示す場合、前記符号化ピクチャセクション内のすべての前記時間的サブレイヤについて、前記固定されたシャッタ角度を使用して、前記固定されたシャッタ角度分子値および前記固定されたシャッタ角度分母値に基づいて、前記ビデオピクチャのシーケンスの復号バージョンを表示するための固定されたシャッタ角度分子値および固定されたシャッタ角度分母値を含み、そうでない場合、
    サブレイヤシャッタ角度分子値およびサブレイヤシャッタ角度分母値の各々が、前記ビデオピクチャのシーケンスの前記時間的サブレイヤの復号されたバージョンを表示するための対応するサブレイヤシャッタ角度を算出するのに適用される、前記サブレイヤシャッタ角度分子値のアレイおよび前記サブレイヤシャッタ角度分母値のアレイを含む、シグナリングセクションと、を備える、非一時的なプロセッサ可読媒体。
  19. 符号化ビデオストリーム構造を格納した非一時的なプロセッサ可読媒体であって、前記符号化ビデオストリーム構造は、
    ビデオピクチャのシーケンスの符号化を含む符号化ピクチャセクションと、
    前記符号化ピクチャセクション内のすべての時間的サブレイヤについて露光持続時間情報が固定されているかを示す第1の露光持続時間フラグの符号化を含むシグナリングセクションであって、
    前記第1の露光持続時間フラグが、露光持続時間情報が固定されていることを示す場合、前記符号化ピクチャセクション内のすべての前記時間的サブレイヤについて、固定された露光持続時間を使用して、前記固定された露光持続時間分子値および前記固定された露光持続時間分母値に基づいて、前記ビデオピクチャのシーケンスの復号バージョンを表示するための固定された露光持続時間分子値および固定された露光持続時間分母値を含み、そうでない場合、
    サブレイヤ露光持続時間分子値およびサブレイヤ露光持続時間分母値の各々が、前記ビデオピクチャのシーケンスの前記時間的サブレイヤの復号されたバージョンを表示するための対応するサブレイヤ露光持続時間を算出するのに適用される、前記サブレイヤ露光持続時間分子値のアレイおよび前記サブレイヤ露光持続時間分母値のアレイを含む、シグナリングセクションと、を備える、非一時的なプロセッサ可読媒体。
  20. 前記シグナリングセクションは、クロックチック値を決定するためのシグナリングパラメータをさらに含む、請求項19に記載の非一時的なプロセッサ可読媒体。
  21. 前記クロックチック値を決定するための前記シグナリングパラメータは、クロックの時間単位の数で露光時間を表す第1のクロックチックパラメータ、および1秒内の前記時間単位の数の露光時間スケールを表す第2のクロックチックパラメータを含み、前記クロックチック値は、前記第1のクロックチックパラメータと前記第2のクロックチックパラメータとの比として決定される、請求項20に記載の非一時的なプロセッサ可読媒体。
  22. 符号化ビデオストリーム構造を格納した非一時的なプロセッサ可読媒体であって、前記符号化ビデオストリーム構造は、
    ビデオピクチャのシーケンスの符号化を含む符号化ピクチャセクションと、
    1秒間に経過する時間単位の数を示す、シャッタインターバルタイムスケールパラメータと、
    前記シャッタインターバルタイムスケールパラメータの周波数で作動するクロックの時間単位の数を示す、シャッタインターバルクロックチックパラメータであって、前記シャッタインターバルタイムスケールパラメータにより割られた前記シャッタインターバルは、露光持続時間値を示す、シャッタインターバルクロックチックパラメータと、
    前記符号化ピクチャセクション内のすべての時間的サブレイヤについて露光持続時間情報が固定されているかを示すシャッタインターバル持続時間フラグと、の符号化を含む、シグナリングセクションと、を備え、
    前記シャッタインターバル持続時間フラグが、前記露光持続時間情報が固定されていることを示す場合、前記符号化ピクチャセクション内のすべての前記時間的サブレイヤについて前記ビデオピクチャのシーケンスの符号化バージョンは、前記シャッタインターバルタイムスケールパラメータおよび前記シャッタインターバルクロックチックパラメータに基づいて、前記露光持続時間値を算出することにより復号され、そうでない場合、
    前記シグナリングセクションは、サブレイヤパラメータの1つ以上のアレイを含み、前記シャッタインターバルタイムスケールパラメータと結合されたサブレイヤパラメータの前記1つ以上のアレイにおける値は、前記ビデオピクチャのシーケンスの前記時間的サブレイヤの復号されたバージョンを表示するために、各サブレイヤについて対応するサブレイヤ露光持続時間値を算出するのに使用される、非一時的なプロセッサ可読媒体。
  23. サブレイヤパラメータの前記1つ以上のアレイは、各値が前記シャッタインターバルタイムスケールパラメータの周波数で作動する前記クロックの時間単位の数を示す、サブレイヤシャッタインターバルクロックチック値のアレイを含む、請求項22に記載の非一時的なプロセッサ可読媒体。
  24. サブレイヤパラメータの前記1つ以上のアレイは、サブレイヤ露光持続時間の分子値を有する第1のアレイ、および前記サブレイヤ露光持続時間の分母値の第2のアレイを含む、請求項22に記載の非一時的なプロセッサ可読媒体。
  25. 請求項1~13のいずれか1項に記載の方法を1つ以上のプロセッサで実行するためのコンピュータ実行可能命令を格納した非一時的なコンピュータ可読記憶媒体。
  26. プロセッサを含み、請求項1~13に記載の方法のいずれか1つを実行するように構成された装置。
JP2020551482A 2019-03-11 2020-03-11 フレームレートスケーラブルビデオ符号化 Active JP7087100B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2022093134A JP7411727B2 (ja) 2019-03-11 2022-06-08 フレームレートスケーラブルビデオ符号化
JP2023218291A JP2024029104A (ja) 2019-03-11 2023-12-25 フレームレートスケーラブルビデオ符号化

Applications Claiming Priority (9)

Application Number Priority Date Filing Date Title
US201962816521P 2019-03-11 2019-03-11
US62/816,521 2019-03-11
US201962850985P 2019-05-21 2019-05-21
US62/850,985 2019-05-21
US201962883195P 2019-08-06 2019-08-06
US62/883,195 2019-08-06
US201962904744P 2019-09-24 2019-09-24
US62/904,744 2019-09-24
PCT/US2020/022018 WO2020185853A2 (en) 2019-03-11 2020-03-11 Frame-rate scalable video coding

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2022093134A Division JP7411727B2 (ja) 2019-03-11 2022-06-08 フレームレートスケーラブルビデオ符号化

Publications (2)

Publication Number Publication Date
JP2022511162A true JP2022511162A (ja) 2022-01-31
JP7087100B2 JP7087100B2 (ja) 2022-06-20

Family

ID=70166175

Family Applications (6)

Application Number Title Priority Date Filing Date
JP2020551482A Active JP7087100B2 (ja) 2019-03-11 2020-03-11 フレームレートスケーラブルビデオ符号化
JP2022573730A Active JP7353520B2 (ja) 2019-03-11 2021-06-15 フレームレートスケーラブルビデオ符号化
JP2022093134A Active JP7411727B2 (ja) 2019-03-11 2022-06-08 フレームレートスケーラブルビデオ符号化
JP2023151374A Pending JP2023169303A (ja) 2019-03-11 2023-09-19 フレームレートスケーラブルビデオ符号化
JP2023202943A Pending JP2024020591A (ja) 2019-03-11 2023-11-30 フレームレートスケーラブルビデオ符号化
JP2023218291A Pending JP2024029104A (ja) 2019-03-11 2023-12-25 フレームレートスケーラブルビデオ符号化

Family Applications After (5)

Application Number Title Priority Date Filing Date
JP2022573730A Active JP7353520B2 (ja) 2019-03-11 2021-06-15 フレームレートスケーラブルビデオ符号化
JP2022093134A Active JP7411727B2 (ja) 2019-03-11 2022-06-08 フレームレートスケーラブルビデオ符号化
JP2023151374A Pending JP2023169303A (ja) 2019-03-11 2023-09-19 フレームレートスケーラブルビデオ符号化
JP2023202943A Pending JP2024020591A (ja) 2019-03-11 2023-11-30 フレームレートスケーラブルビデオ符号化
JP2023218291A Pending JP2024029104A (ja) 2019-03-11 2023-12-25 フレームレートスケーラブルビデオ符号化

Country Status (18)

Country Link
US (12) US11523127B2 (ja)
EP (6) EP3850847B1 (ja)
JP (6) JP7087100B2 (ja)
KR (5) KR102311046B1 (ja)
CN (14) CN114666594A (ja)
BR (2) BR112020019362A2 (ja)
CA (4) CA3231105A1 (ja)
DK (2) DK4064706T3 (ja)
ES (2) ES2922799T3 (ja)
FI (1) FI4064706T3 (ja)
HR (2) HRP20220863T1 (ja)
HU (2) HUE059347T2 (ja)
IL (4) IL289965B (ja)
MX (4) MX2023011520A (ja)
PH (1) PH12020551511A1 (ja)
PL (2) PL3850847T3 (ja)
PT (2) PT4064706T (ja)
WO (2) WO2020185853A2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110198474B (zh) * 2018-02-27 2022-03-15 中兴通讯股份有限公司 一种码流处理方法及装置
CN114666594A (zh) 2019-03-11 2022-06-24 杜比实验室特许公司 帧速率可伸缩视频编码
CN114208202A (zh) 2019-08-06 2022-03-18 杜比实验室特许公司 画布尺寸可伸缩的视频编码
US11812165B2 (en) * 2021-06-16 2023-11-07 Mediatek Inc. Method and apparatus for dynamically changing frame rate of sensor output frames according to whether motion blur condition is met

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014522600A (ja) * 2011-05-31 2014-09-04 ドルビー ラボラトリーズ ライセンシング コーポレイション 分解能トレードオフおよび最適化を実装するビデオ圧縮
WO2015076277A1 (ja) * 2013-11-22 2015-05-28 ソニー株式会社 送信装置、送信方法、受信装置および受信方法
JP2016506691A (ja) * 2013-01-07 2016-03-03 クゥアルコム・インコーポレイテッドQualcomm Incorporated ビデオコーディングにおけるビデオタイミングについてのピクチャ順序カウントタイミング情報の条件付きシグナリング
JP2016226035A (ja) * 2012-04-13 2016-12-28 三菱電機株式会社 画像符号化装置、画像復号装置、画像符号化方法、画像復号方法及び符号化ビットストリームを記録した記録媒体
JP2017005723A (ja) * 2013-06-12 2017-01-05 三菱電機株式会社 符号化データのデータ構造

Family Cites Families (44)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4509917B2 (ja) 2005-11-21 2010-07-21 株式会社メガチップス 画像処理装置及びカメラシステム
US8698908B2 (en) 2008-02-11 2014-04-15 Nvidia Corporation Efficient method for reducing noise and blur in a composite still image from a rolling shutter camera
JP2011217272A (ja) 2010-04-01 2011-10-27 Canon Inc 映像処理装置及びその制御方法
US8736700B2 (en) * 2010-09-30 2014-05-27 Apple Inc. Techniques for synchronizing audio and video data in an image signal processing system
JP2012195734A (ja) * 2011-03-16 2012-10-11 Sony Corp 固体撮像装置、撮像装置、電子機器、及び、固体撮像装置の駆動方法
US10237565B2 (en) 2011-08-01 2019-03-19 Qualcomm Incorporated Coding parameter sets for various dimensions in video coding
US9196016B2 (en) 2012-01-18 2015-11-24 Linkedin Corporation Systems and methods for improving video stutter in high resolution progressive video
US9912941B2 (en) 2012-07-02 2018-03-06 Sony Corporation Video coding system with temporal layers and method of operation thereof
US10110890B2 (en) 2012-07-02 2018-10-23 Sony Corporation Video coding system with low delay and method of operation thereof
US20140003534A1 (en) 2012-07-02 2014-01-02 Sony Corporation Video coding system with temporal scalability and method of operation thereof
US10003815B2 (en) 2013-06-03 2018-06-19 Qualcomm Incorporated Hypothetical reference decoder model and conformance for cross-layer random access skipped pictures
JP6605789B2 (ja) 2013-06-18 2019-11-13 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 送信方法、受信方法、送信装置、および、受信装置
JP6571314B2 (ja) 2013-06-18 2019-09-04 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 送信方法
JP6625318B2 (ja) 2013-08-29 2019-12-25 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 送信方法および受信方法
US10063886B2 (en) 2013-10-07 2018-08-28 Vid Scale, Inc. Combined scalability processing for multi-layer video coding
JP6538324B2 (ja) 2013-10-18 2019-07-03 パナソニック株式会社 画像符号化方法および画像符号化装置
US8830367B1 (en) 2013-10-21 2014-09-09 Gopro, Inc. Frame manipulation to reduce rolling shutter artifacts
JP6652320B2 (ja) 2013-12-16 2020-02-19 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 送信方法、受信方法、送信装置及び受信装置
US9860540B2 (en) 2014-01-03 2018-01-02 Qualcomm Incorporated Inference of nooutputofpriorpicsflag in video coding
US10368097B2 (en) 2014-01-07 2019-07-30 Nokia Technologies Oy Apparatus, a method and a computer program product for coding and decoding chroma components of texture pictures for sample prediction of depth pictures
US10567765B2 (en) 2014-01-15 2020-02-18 Avigilon Corporation Streaming multiple encodings with virtual stream identifiers
WO2015115946A1 (en) * 2014-01-30 2015-08-06 Telefonaktiebolaget L M Ericsson (Publ) Methods for encoding and decoding three-dimensional video content
CA2942838C (en) 2014-03-17 2019-10-01 Nokia Technologies Oy An apparatus, a method and a computer program for video coding and decoding
US10187659B2 (en) 2014-04-25 2019-01-22 Sharp Kabushiki Kaisha Image decoding device, image coding device, and coding data transform device
KR20170015905A (ko) 2014-05-30 2017-02-10 톰슨 라이센싱 높은 프레임 레이트 타일링 압축 기법
JP2016005244A (ja) * 2014-06-19 2016-01-12 株式会社ニコン 画像符号化装置、画像復号装置、画像符号化方法および画像復号方法
JP6510039B2 (ja) 2014-10-02 2019-05-08 ドルビー ラボラトリーズ ライセンシング コーポレイション ジャダー可視性制御のためのデュアルエンドメタデータ
CN105744251A (zh) 2014-12-11 2016-07-06 深圳市华天瑞彩科技开发有限公司 快门式led三维显示控制系统
CN107431845B (zh) 2015-03-31 2021-03-26 松下电器(美国)知识产权公司 发送方法、接收方法、发送装置以及接收装置
WO2016185947A1 (ja) 2015-05-19 2016-11-24 ソニー株式会社 画像処理装置、画像処理方法、受信装置および送信装置
JP6809471B2 (ja) 2015-09-10 2021-01-06 ソニー株式会社 送信装置、送信方法、受信装置および受信方法
KR102267922B1 (ko) 2015-09-23 2021-06-22 노키아 테크놀로지스 오와이 360도 파노라마 비디오를 코딩하는 방법, 장치 및 컴퓨터 프로그램 제품
US10148983B2 (en) 2015-09-25 2018-12-04 Qualcomm Incorporated Methods and systems of improved video stream switching and random access
EP3363195B1 (en) * 2015-10-19 2023-08-30 HFI Innovation Inc. Method and apparatus for decoded picture buffer management in video coding system using intra block copy
US9681111B1 (en) 2015-10-22 2017-06-13 Gopro, Inc. Apparatus and methods for embedding metadata into video stream
JP6588801B2 (ja) 2015-10-30 2019-10-09 キヤノン株式会社 画像処理装置、画像処理方法、及び、プログラム
TWI605705B (zh) 2015-11-30 2017-11-11 晨星半導體股份有限公司 位元流解碼方法與位元流解碼電路
US10965867B2 (en) 2016-03-03 2021-03-30 Sony Corporation Display control device and display control method
TWI670964B (zh) 2016-12-13 2019-09-01 日商夏普股份有限公司 用於減少於視訊之時間可適性層之假影之系統及方法
US20210136421A1 (en) 2016-12-31 2021-05-06 Sharp Kabushiki Kaisha Systems and methods for reducing artifacts in temporal scalable layers of video
CN111149346B (zh) * 2017-09-28 2021-07-13 杜比实验室特许公司 用于编码和解码高动态范围视频的方法、装置和介质
US10499009B1 (en) * 2018-09-25 2019-12-03 Pixelworks, Inc. Realistic 24 frames per second output from high frame rate content
US11234044B2 (en) 2018-12-28 2022-01-25 Sony Group Corporation Transmission apparatus, transmission method, encoding apparatus, encoding method, reception apparatus, and reception method
CN114666594A (zh) 2019-03-11 2022-06-24 杜比实验室特许公司 帧速率可伸缩视频编码

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014522600A (ja) * 2011-05-31 2014-09-04 ドルビー ラボラトリーズ ライセンシング コーポレイション 分解能トレードオフおよび最適化を実装するビデオ圧縮
JP2016226035A (ja) * 2012-04-13 2016-12-28 三菱電機株式会社 画像符号化装置、画像復号装置、画像符号化方法、画像復号方法及び符号化ビットストリームを記録した記録媒体
JP2016506691A (ja) * 2013-01-07 2016-03-03 クゥアルコム・インコーポレイテッドQualcomm Incorporated ビデオコーディングにおけるビデオタイミングについてのピクチャ順序カウントタイミング情報の条件付きシグナリング
JP2017005723A (ja) * 2013-06-12 2017-01-05 三菱電機株式会社 符号化データのデータ構造
WO2015076277A1 (ja) * 2013-11-22 2015-05-28 ソニー株式会社 送信装置、送信方法、受信装置および受信方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
ALEX MACKIN, FAN ZHANG, DAVID BULL: "A Frame Rate Convesion Method Based on a Virtual Shutter Angle", 2019 IEEE INTERNATIONAL CONFERENCE ON IMAGE PROCESSING (ICIP), JPN6021039244, 26 September 2019 (2019-09-26), ISSN: 0004711503 *

Also Published As

Publication number Publication date
ES2952678T3 (es) 2023-11-03
CA3187271A1 (en) 2021-12-23
PT4064706T (pt) 2023-07-19
WO2021257578A9 (en) 2023-02-02
DK3850847T3 (da) 2022-07-11
EP3850847B1 (en) 2022-05-18
US20220038723A1 (en) 2022-02-03
JP2024020591A (ja) 2024-02-14
HUE062299T2 (hu) 2023-10-28
DK4064706T3 (da) 2023-07-24
IL289965B (en) 2022-09-01
US11582472B2 (en) 2023-02-14
EP4150909A4 (en) 2023-11-08
PH12020551511A1 (en) 2021-11-22
CN114666594A (zh) 2022-06-24
US20240015315A1 (en) 2024-01-11
US20220166991A1 (en) 2022-05-26
PL3850847T3 (pl) 2022-08-22
US11871015B2 (en) 2024-01-09
KR20230169394A (ko) 2023-12-15
CN114666598A (zh) 2022-06-24
WO2020185853A3 (en) 2020-10-29
EP4300974A3 (en) 2024-03-20
PL4064706T3 (pl) 2023-08-21
US11936888B1 (en) 2024-03-19
CA3187271C (en) 2024-05-28
CN114666599A (zh) 2022-06-24
EP4300975A2 (en) 2024-01-03
KR20230158651A (ko) 2023-11-20
CN116668696A (zh) 2023-08-29
US20200382802A1 (en) 2020-12-03
US10999585B2 (en) 2021-05-04
JP7087100B2 (ja) 2022-06-20
CN117478882A (zh) 2024-01-30
JP2024029104A (ja) 2024-03-05
CA3192296A1 (en) 2021-12-23
CN117478882B (zh) 2024-05-28
CN114666597A (zh) 2022-06-24
KR102311046B1 (ko) 2021-10-12
US20210211688A1 (en) 2021-07-08
CN111971964B (zh) 2022-06-03
JP2023529590A (ja) 2023-07-11
EP4064706B1 (en) 2023-06-14
US20240179328A1 (en) 2024-05-30
EP4064706A1 (en) 2022-09-28
JP7353520B2 (ja) 2023-09-29
WO2021257578A1 (en) 2021-12-23
US20230171417A1 (en) 2023-06-01
JP2022120065A (ja) 2022-08-17
MX2022016068A (es) 2023-02-02
ES2922799T3 (es) 2022-09-20
US20240171760A1 (en) 2024-05-23
IL295131A (en) 2022-09-01
KR20210125110A (ko) 2021-10-15
CN111971964A (zh) 2020-11-20
KR20230003317A (ko) 2023-01-05
CN115702564A (zh) 2023-02-14
IL277365A (en) 2020-11-30
CN114666595A (zh) 2022-06-24
US11979589B2 (en) 2024-05-07
CA3231109A1 (en) 2021-12-23
EP4236325A2 (en) 2023-08-30
FI4064706T3 (fi) 2023-08-07
US20240031587A1 (en) 2024-01-25
US12003741B1 (en) 2024-06-04
PT3850847T (pt) 2022-07-01
HRP20220863T1 (hr) 2022-10-28
WO2020185853A2 (en) 2020-09-17
US11523127B2 (en) 2022-12-06
IL304034A (en) 2023-08-01
IL277365B (en) 2022-03-01
JP2023169303A (ja) 2023-11-29
MX2023004340A (es) 2023-10-16
US20240089474A1 (en) 2024-03-14
CN114845111A (zh) 2022-08-02
CN114666596A (zh) 2022-06-24
CN114845109A (zh) 2022-08-02
US12015793B1 (en) 2024-06-18
US20230073388A1 (en) 2023-03-09
HUE059347T2 (hu) 2022-11-28
US20240080465A1 (en) 2024-03-07
CA3231105A1 (en) 2021-12-23
CN116668696B (zh) 2024-05-10
EP3850847A2 (en) 2021-07-21
MX2023011519A (es) 2023-10-05
CN115702564B (zh) 2023-10-31
EP4300975A3 (en) 2024-03-27
US11818372B2 (en) 2023-11-14
IL295131B1 (en) 2023-08-01
EP4300974A2 (en) 2024-01-03
MX2023011520A (es) 2024-03-26
JP7411727B2 (ja) 2024-01-11
HRP20230760T1 (hr) 2023-11-10
EP4236325A3 (en) 2023-10-11
CN117014611B (zh) 2024-03-15
CN114845110A (zh) 2022-08-02
BR112022025555A2 (pt) 2023-01-03
US11979588B2 (en) 2024-05-07
IL295131B2 (en) 2023-12-01
KR102502747B1 (ko) 2023-02-23
US11323728B2 (en) 2022-05-03
EP4150909A1 (en) 2023-03-22
BR112020019362A2 (pt) 2021-09-21
KR20210055025A (ko) 2021-05-14
CN117014611A (zh) 2023-11-07
IL289965A (en) 2022-03-01

Similar Documents

Publication Publication Date Title
JP7087100B2 (ja) フレームレートスケーラブルビデオ符号化
KR20230026549A (ko) 프레임 레이트 스케일러블 비디오 코딩

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210413

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210413

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20210413

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211012

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220107

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220222

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220427

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220517

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220608

R150 Certificate of patent or registration of utility model

Ref document number: 7087100

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150