JP7045317B2 - 画像復号化・符号化方法、復号化・符号化装置 - Google Patents

画像復号化・符号化方法、復号化・符号化装置 Download PDF

Info

Publication number
JP7045317B2
JP7045317B2 JP2018534535A JP2018534535A JP7045317B2 JP 7045317 B2 JP7045317 B2 JP 7045317B2 JP 2018534535 A JP2018534535 A JP 2018534535A JP 2018534535 A JP2018534535 A JP 2018534535A JP 7045317 B2 JP7045317 B2 JP 7045317B2
Authority
JP
Japan
Prior art keywords
image
shaping
parameter
restored
layer
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018534535A
Other languages
English (en)
Other versions
JP2019500811A (ja
Inventor
李明
呉平
呉▲ザオ▼
尚国強
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
ZTE Corp
Original Assignee
ZTE Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ZTE Corp filed Critical ZTE Corp
Publication of JP2019500811A publication Critical patent/JP2019500811A/ja
Application granted granted Critical
Publication of JP7045317B2 publication Critical patent/JP7045317B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/189Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding
    • H04N19/196Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding being specially adapted for the computation of encoding parameters, e.g. by averaging previously computed encoding parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/154Measured or subjectively estimated visual quality after decoding, e.g. measurement of distortion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/174Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a slice, e.g. a line of blocks or a group of blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/184Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being bits, e.g. of the compressed video stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/98Adaptive-dynamic-range coding [ADRC]

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

本発明は、通信分野に関し、具体的に、画像復号化・符号化方法、復号化・符号化装置に関する。
現在、国際標準化機構は、H.265/HEVC規格に基づきハイダイナミックレンジ動画(High Dynamic Range、HDRと略称する)に対する拡張規格を制定している。HDR拡張規格では、「整形器(Reshaper)」という信号処理フレームワークによってテストモデルを構築することを考えている。ヘッドエンド側において、整形器が入力されたHDR動画をH.265/HEVC Main 10Profileエンコーダに適用され得る入力動画(例え、標準ダイナミックレンジ画像(Standard Dynamic Range、SDRと略称する)動画)になるように処理する。受信側ではその逆の処理によって、H.265/HEVC Main 10Profileデコーダで復号化され復元したSDR動画をHDR動画になるように処理する。同時に、HDR動画及びSDR動画に使用される色空間(Color Gamut)(HDR動画では、より大きな色空間が使用される)が異なると、ヘッドエンド側と受信側における整形器による動作に、動画色空間の変換が更に含まれる。
上記信号処理フレームワークをサポートするために、国際標準化機構は、H.265/HEVCを拡張して、パラメータセット構造において受信側の整形器の処理を指示するための情報を符号化して伝送する。オプションとして、シーケンスパラメータセット(Sequence Parameter Set、SPSと略称する)の拡張において、HDR動画変換の特徴パラメータを符号化して伝送し、画像パラメータセット(Picture Parameter Set、PPSと略称する)の拡張において、受信側の整形器の処理に用いられるパラメータを符号化して伝送する。受信側において、デコーダが画像再構成を完了した後に、パラメータセットにおけるパラメータに従って、引き続き再構成された画像に対して整形処理を行い、それにより再構成された画像をHDR画像に変換させる。
上記方法では、スライス(Slice)復号化手順において、パラメータセットインデックス番号によって、参照されるパラメータセットを活性化し、当該パラメータセットにおける情報パラメータを用いてスライスを復号化する。SPSの適用範囲は、符号化された動画シーケンス(Coded Video Sequence、CVSと略称する)の全体である。すなわち、同一CVSにおけるスライス復号化手順において同一なSPSが使用される。PPSの使用範囲は、1フレームの画像である。すなわち、同一フレームの画像におけるスライス復号化手順において同一なPPSが使用される。符号化手順に対応して、同一CVSにおけるスライスは、同一なSPSを参照する必要があり、且つ当該SPSにおける情報パラメータは、CVSの符号化手順において変更されないままで維持される。同一フレームの画像におけるスライスは、同一のPPSを参照する必要があり、且つ当該PPSにおけるパラメータ情報は、当該画像符号化手順において変更されないままで維持される。
ダイナミックレンジおよび色空間のいずれかの変換手順においても、非可逆的に情報損失をもたらす。実測の結果によると、オリジナルのHDR動画に比較して、上記信号処理フレームワークを用いれば、受信側において整形器により復元されたHDR動画には、テクスチャ細部の損失又は色の歪み等の可視歪みが存在する可能性があり、さらにこれら歪みは、H.265/HEVCエンコーダの動画圧縮率と関係する。通常、圧縮率が高いほど(すなわち、符号化率が低いほど)、復号化され復元した動画における非可逆圧縮による歪みが大きくなり、整形器によって復号化され復元した動画を処理した後に出力したHDR動画には、より多くのテクスチャ、色の歪みが存在する。このため、HDR動画の発信元特性、エンコーダの非可逆圧縮特性等の要因に応じて、HDR動画の符号化手順において整形パラメータを動的に調整することで、受信側におけるHDR復元動画の主観的な視聴品質を効果的に向上させることができる。
PPSは、理論的には画像層の符号化パラメータを適応的に調整する仕組みを提供し、画像のフレームごとにPPSを別個に設置することで整形器の画像適応調整を実現することができるが、整形パラメータがPPSの拡張において符号化されるため、画像のフレームごとに整形パラメータを調整することと同時に、PPSにおける他の調整する必要のない符号化パラメータを繰り返し符号化する必要があり、これら繰り返し符号化されたパラメータは、大きな符号化ビットコストをもたらす。
関連技術における動画視聴品質が劣り、整形パラメータの符号化コストが大きいという問題について、現在、効果的な解決策はまだ提出されていない。
本発明の実施例では、少なくとも関連技術における動画視聴品質が劣り、整形パラメータの符号化コストが大きいという問題を解決するような画像復号化・符号化方法、復号化・符号化装置を提供する。
本発明の実施例の一態様によれば、動画ビットストリームを解析し、前記動画ビットストリームの画像及び/又はスライス層データユニットから整形パラメータを取得し、取得された前記整形パラメータによって復元画像に用いられる整形パラメータを決定することと、前記復元画像に用いられる整形パラメータを用いて前記復元画像に対して整形処理を行うこととを含む画像復号化処理方法であって、前記復元画像は、整形処理が行われる前に、前記動画ビットストリームを復号化して得られた画像であり、前記画像及び/又はスライス層データユニットは、画像パラメータセットPPSとは異なる画像及び/又はスライス層パラメータセット又は前記復元画像に対応するアクセスユニットAUに含まれるスライスヘッダを含み、前記整形処理は、ダイナミックレンジおよび色空間の変換を含み、前記動画ビットストリームの前記画像及び/又はスライス層データユニットから前記整形パラメータを取得し、取得された前記整形パラメータによって復元画像が用いる整形パラメータを決定する前には、前記動画ビットストリームにおいてAUに含まれるスライスヘッダにおけるPPSパラメータセットインデックス番号を決定することと、前記PPSパラメータセットインデックス番号により参照されるPPSに応じて前記復元画像が用いる整形パラメータを取得することとを更に含み、前記画像パラメータセットPPSにおいて、前記スライスヘッダの解析で得られたPPSパラメータセットインデックス番号と同じPPSパラメータセットインデックス番号を有するパラメータセットが探せなかった場合、エラー処理仕組みを作動させてエラー復元を行う、画像復号化処理方法を提供する。前記パラメータセットインデックス番号により参照されるPPSに応じて前記復元画像が用いる整形パラメータを取得することは、前記PPSの拡張部分及び/又は前記PPSにより参照されるパラメータセットに第1の整形パラメータが担持されているか否かを判定することと、判定結果が「YES」である場合、取得された前記復元画像が用いる整形パラメータが前記第1の整形パラメータであると決定し、及び/又は、判定結果が「NO」である場合、取得された前記復元画像が用いる整形パラメータが既定値又は空であると決定することとを含む。前記動画ビットストリームの前記画像及び/又はスライス層データユニットから前記整形パラメータを取得し、取得された前記整形パラメータによって復元画像が用いる整形パラメータを決定することは、前記スライスヘッダの拡張部分を解析し、第2の整形パラメータを得ることと、前記第2の整形パラメータを用いて、前記復元画像が用いる整形パラメータを更新または再決定することとを含む。
オプションとして、前記画像及び/又はスライス層データユニットは、前記復元画像に対応するアクセスユニットAUに含まれるパラメータデータユニットを含み、前記画像及び/又はスライス層データユニットは、前記復元画像に対応するアクセスユニットAUに含まれるパラメータデータユニットを含み、前記動画ビットストリームの前記画像及び/又はスライス層データユニットから前記整形パラメータを取得し、取得された前記整形パラメータによって復元画像が用いる整形パラメータを決定することは、前記動画ビットストリームにおいてAUに含まれるパラメータデータユニットを解析し、第3の整形パラメータを取得することと、前記第3の整形パラメータを用いて前記復元画像が用いる整形パラメータを更新または再決定し、或いは、事前設定された整形パラメータ決定方法によって、前記復元画像が用いる整形パラメータが前記第3の整形パラメータであると決定することとを含む。ここで、前記パラメータデータユニットは、前記AUに含まれるスライスビットストリームデータユニットとは独立したデータユニットである。また、オプションとして、事前設定された整形パラメータ決定方法は、事前設定された決定方法と、動画パラメータセットVPSを解析して得られた整形パラメータを指示するための第1の識別情報を利用して決定する方法と、シーケンスパラメータセットSPSを解析して得られた整形パラメータを指示するための第2の識別情報を利用して決定する方法との少なくとも一種を含む。
オプションとして、前記第3の整形パラメータを用いて前記復元画像が用いる整形パラメータを更新または再決定することは、前記動画ビットストリームにおいてAUに含まれるスライスヘッダにおけるPPSパラメータセットインデックス番号を決定することと、前記パラメータセットインデックス番号により参照されるPPSに応じて前記復元画像が用いる整形パラメータを取得することと、前記第3の整形パラメータを用いて、取得された前記復元画像が用いる整形パラメータを更新または再決定することとを含む。また、オプションとして、前記パラメータセットインデックス番号により参照される前記PPSに応じて前記復元画像が用いる整形パラメータを取得することは、前記PPSの拡張部分及び/又は前記PPSにより参照されるパラメータセットに第1の整形パラメータが担持されているか否かを判定することと、判定結果が「YES」である場合、取得された前記復元画像が用いる整形パラメータが前記第1の整形パラメータであると決定し、及び/又は、判定結果が「NO」である場合、取得された前記復元画像が用いる整形パラメータが既定値又は空であると決定することとを含む。
オプションとして、前記動画ビットストリームの前記画像及び/又はスライス層データユニットから前記整形パラメータ取得し、取得された前記整形パラメータによって復元画像が用いる整形パラメータを決定することは、前記AUに含まれる前記スライスヘッダを解析し、第3の識別情報を取得することと、前記第3の識別情報前記復元画像が用いる整形パラメータを前記PPS以外の他の画像及び/又はスライス層パラメータセットに応じて決定するように指示する場合、前記AUに含まれる前記スライスヘッダを解析し、前記他の画像及び/又はスライス層パラメータセットのインデックス番号を取得し、インデックス番号が前記他の画像及び/又はスライス層パラメータセットのインデックス番号と同じであるパラメータセットを活性化し、第5の整形パラメータを取得することと、前記第5の整形パラメータを用いて、取得された前記復元画像が用いる整形パラメータを更新または再決定することとを含む。ここで、前記第3の識別情報は、前記復元画像が用いる整形パラメータが前記PPS以外の他の画像及び/又はスライス層パラメータセットに応じて決定するか否かを指示するために用いられる。
オプションとして、前記画像及び/又はスライス層データユニットは、システム層画像パラメータデータユニットを含み、前記動画ビットストリームを解析し、前記動画ビットストリームの画像及び/又はスライス層データユニットから整形パラメータを取得し、取得された前記整形パラメータによって復元画像が用いる整形パラメータを決定することは、前記動画ビットストリームを運ぶためのトランスポートストリーム又はメディアファイルにおけるシステム層画像パラメータデータユニットから第6の整形パラメータを取得することと、前記第6の整形パラメータを用いて前記復元画像が用いる整形パラメータを更新または再決定し、或いは、前記復元画像が用いる整形パラメータが前記第6の整形パラメータであると決定することとを含む。ここで、前記システム層画像パラメータデータユニットは、前記動画ビットストリームにおけるアクセスユニットAUに対応する記述情報又は補助情報を含む。また、オプションとして、前記動画ビットストリームを運ぶためのトランスポートストリーム又はメディアファイルにおける前記システム層画像パラメータデータユニットから前記整形パラメータを取得することは、前記システム層画像パラメータデータユニットから取得された、整形処理を実行するか否かを示す識別パラメータと、ダイナミックレンジ整形パラメータと、色空間整形パラメータと、整形パラメータ使用範囲との少なくとも1つのパラメータに応じて前記整形パラメータを決定することを含む。
オプションとして、前記第6の整形パラメータを用いて前記復元画像が用いる整形パラメータを更新または再決定することは、前記動画ビットストリームにおいてAUに含まれるスライスヘッダにおけるPPSパラメータセットインデックス番号を決定することと、前記パラメータセットインデックス番号により参照されるPPSに応じて前記復元画像が用いる整形パラメータを取得することと、前記第6の整形パラメータを用いて、取得された前記復元画像が用いる整形パラメータを更新または再決定することとを含む。また、オプションとして、前記パラメータセットインデックス番号により参照される前記PPSに応じて前記復元画像が用いる整形パラメータを取得することは、前記PPSの拡張部分及び/又は前記PPSにより参照されるパラメータセットに第1の整形パラメータが担持されているか否かを判定することと、判定結果が「YES」である場合、取得された前記復元画像が用いる整形パラメータが前記第1の整形パラメータであると決定し、及び/又は、判定結果が「NO」である場合、取得された前記復元画像が用いる整形パラメータが既定値又は空であると決定することとを含む。
オプションとして、前記画像及び/又はスライス層データユニットは、システム層画像パラメータデータユニットを含み、前記方法は、前記動画ビットストリームを運ぶためのトランスポートストリーム又はメディアファイルにおけるシステム層画像パラメータデータユニットから、前記復元画像に対して二次整形処理を行うための整形パラメータを取得することと、取得された前記復元画像に対して二次整形処理を行うための整形パラメータを利用して、前記復元画像に対して二次整形処理を行うこととを含む。ここで、前記システム層画像パラメータデータユニットは、前記動画ビットストリームにおけるアクセスユニットAUに対応する記述情報又は補助情報を含む。また、オプションとして、前記動画ビットストリームを運ぶためのトランスポートストリーム又はメディアファイルにおけるシステム層画像パラメータデータユニットから、前記復元画像に対して二次整形処理を行うための整形パラメータを取得することは、前記システム層画像パラメータデータユニットから取得された、整形処理を実行するか否かを示す識別パラメータと、ダイナミックレンジ整形パラメータと、色空間整形パラメータと、整形パラメータ使用範囲との少なくとも1つのパラメータに応じて、前記復元画像に対して二次整形処理を行うための整形パラメータを決定することを含む。
本発明の実施例の別態様によれば、復元画像をハイダイナミックレンジ動画HDR画像に変換させるのに用いられる、前記復元画像が用いる整形パラメータを決定することと、決定された前記復元画像が用いる整形パラメータを、現在の符号化画像のビットが所在する動画ビットストリームに書き込み、又は処理対象となる動画ビットストリームの画像及び/又はスライス層データユニットに書き込む画像符号化処理方法を提供する。ここで、前記復元画像は、エンコーダが整形処理を実行する前に、現在の符号化画像に対する復元標準ダイナミックレンジSDR画像であり、或いは、前記復元画像は、処理対象となる動画ビットストリームを復号化して得られたSDR画像であり、前記画像及び/又はスライス層データユニットは、画像パラメータセットPPSとは異なる画像及び/又はスライス層パラメータセット又は前記復元画像に対応するアクセスユニットAUに含まれるスライスヘッダを含む。前記復元画像を前記ハイダイナミックレンジ動画HDR画像に変換させるのに用いられる、前記復元画像が用いる整形パラメータを決定することは、画像層整形パラメータとシーケンス層整形パラメータとを決定することと、前記画像層整形パラメータと前記シーケンス層整形パラメータとによって前記復元画像が用いる整形パラメータを決定することとを含み、前記画像層整形パラメータは、前記復元画像と目標HDR画像との誤差を最小化する整形処理手順に用いられるフィルタ係数を含み、前記シーケンス層整形パラメータは、前記目標HDR画像により構成される目標HDR動画のダイナミックレンジ及び色空間と、前記復元画像により構成される復元動画ダイナミックレンジ及び色空間とに応じて決定された、前記復元動画のダイナミックレンジから前記目標HDR動画のダイナミックレンジまで拡張されたマッピングパラメータ、及び/又は前記復元動画の色空間から前記目標HDR動画の色空間への変換パラメータを含み、前記目標HDR画像は、エンコーダに入力されたオリジナルのHDR動画において前記復元画像に対応するHDR画像であり、前記復元画像のうち、キーフレーム画像に対しては前記画像層整形パラメータを計算し、前記キーフレーム画像以外の画像に対しては、前記シーケンス層整形パラメータを使用し、前記キーフレーム画像は、シーンチェンジ画像、ランダムアクセス画像、または、時間領域識別子番号(Temporal Identifier(ID))の値が比較的小さい画像である。
オプションとして、前記画像層整形パラメータと前記シーケンス層整形パラメータとによって前記復元画像が用いる整形パラメータを決定することは、前記画像層整形パラメータと前記シーケンス層整形パラメータとをそれぞれ利用して前記復元画像に対して整形処理を行うことと、前記復元画像に対して整形処理を行って得られたHDR画像と前記目標HDR画像との誤差の最小なパラメータは前記復元画像が用いる整形パラメータであると決定することとを含む。また、オプションとして、決定された前記復元画像が用いる整形パラメータを、前記現在の符号化画像のビットが所在する動画ビットストリームに書き込み、又は前記処理対象となる動画ビットストリームの画像及び/又はスライス層データユニットに書き込むことは、前記復元画像が用いる整形パラメータが前記シーケンス層整形パラメータである場合、前記シーケンス層整形パラメータに対して符号化を行い、符号化された符号化ビットを、前記現在の符号化画像のビットが所在する動画ビットストリームに書き込み、又は前記処理対象となる動画ビットストリームの画像パラメータセットPPS及び/又は前記PPSにより参照されるパラメータセットに書き込むことと、前記復元画像が用いる整形パラメータが前記画像層整形パラメータである場合、前記画像層整形パラメータに対して符号化を行い、符号化された符号化ビットを、前記現在の符号化画像のビットが所在する動画ビットストリームに書き込み、又は前記処理対象となる動画ビットストリームにおけるアクセスユニットAUに含まれるスライスヘッダに書き込むこととを含む。
オプションとして、前記画像層整形パラメータと前記シーケンス層整形パラメータによって前記復元画像が用いる整形パラメータを決定することは、前記画像層整形パラメータと、前記シーケンス層整形パラメータと、現在の符号化順に従う直前の符号化画像に使用される整形パラメータとから、前記復元画像が用いる整形パラメータを決定することを含む。また、オプションとして、前記画像層整形パラメータと、前記シーケンス層整形パラメータと、現在の符号化順に従う直前の符号化画像に使用される整形パラメータとから、前記復元画像が用いる整形パラメータを決定することは、前記画像層整形パラメータと、前記シーケンス層整形パラメータと、前記直前の符号化画像に使用される整形パラメータとをそれぞれ利用して、前記復元画像に対して整形処理を行うことと、前記復元画像に対して整形を行って得られたHDR画像と前記目標HDR画像との誤差の最小なパラメータは前記復元画像が用いる整形パラメータであると決定することとを含む。
オプションとして、前記画像及び/又はスライス層データユニットは、前記復元画像に対応するアクセスユニットAUに含まれるパラメータデータユニットを含み、決定された前記復元画像が用いる整形パラメータを、前記現在の符号化画像のビットが所在する動画ビットストリームに書き込み、又は前記処理対象となる動画ビットストリームの画像及び/又はスライス層データユニットに書き込むことは、前記復元画像が用いる整形パラメータが前記シーケンス層整形パラメータである場合、前記シーケンス層整形パラメータに対して符号化を行い、符号化された符号化ビットを、前記現在の符号化画像のビットが所在する動画ビットストリームに書き込み、又は前記処理対象となる動画ビットストリームの画像パラメータセットPPS及び/又は前記PPSにより参照されるパラメータセットに書き込むことと、前記復元画像が用いる整形パラメータが前記画像層整形パラメータ又は前記直前の符号化画像に使用される整形パラメータである場合、前記画像層整形パラメータ又は前記直前の符号化画像に使用される整形パラメータに対して符号化を行い、符号化された符号化ビットを、前記現在の符号化画像のビットが所在する動画ビットストリームに書き込み、又は前記処理対象となる動画ビットストリームにおけるアクセスユニットAUに含まれるパラメータデータユニットに書き込み、或いは、前記復元画像が用いる整形パラメータが前記画像層整形パラメータである場合、前記画像層整形パラメータに対して符号化を行い、符号化された符号化ビットを、前記現在の符号化画像のビットが所在する動画ビットストリームに書き込み、又は前記処理対象となる動画ビットストリームにおけるアクセスユニットAUに含まれるパラメータデータユニットに書き込むことと、前記復元画像が用いる整形パラメータが前記直前の符号化画像に使用される整形パラメータである場合、前記現在の符号化画像のビットが所在する動画ビットストリーム、又は前記処理対象となる動画ビットストリームにおけるアクセスユニットAUで第4の識別情報を符号化することとを含む。ここで、前記第4の識別情報は、前記整形パラメータが前記直前の符号化画像に使用される整形パラメータであることを指示するために用いられ、前記パラメータデータユニットは、前記AUに含まれる、スライスビットストリームデータユニットとは独立したデータユニットである。また、オプションとして、前記方法は、動画パラメータセットVPSで前記整形パラメータを指示するための第1の識別情報を符号化する方式と、シーケンスパラメータセットSPSで前記整形パラメータを指示するための第2の識別情報を符号化する方式との少なくとも1つの方式で前記整形パラメータを指示するための識別情報を符号化することを更に含む。
オプションとして、前記画像層整形パラメータと前記シーケンス層整形パラメータとによって前記復元画像が用いる整形パラメータを決定することは、前記画像層整形パラメータと、前記シーケンス層整形パラメータと、使用された前記復元画像に対応するアクセスユニットAUに含まれるスライスヘッダにおける画像パラメータセットPPS以外の画像及び/又はスライス層パラメータセットにおいて符号化された1つ又は複数の第1の別整形パラメータとから、前記復元画像が用いる整形パラメータを決定することを含む。また、オプションとして、前記画像層整形パラメータと、前記シーケンス層整形パラメータと、前記第1の別整形パラメータとから前記復元画像が用いる整形パラメータを決定することは、前記画像層整形パラメータと、前記シーケンス層整形パラメータと、前記第1の別整形パラメータとをそれぞれ利用して前記復元画像に対して整形処理を行うことと、前記復元画像に対して整形処理を行って得られたHDR画像と前記目標HDR画像との誤差の最小なパラメータは前記復元画像が用いる整形パラメータであると決定することとを含む。
オプションとして、決定された前記復元画像が用いる整形パラメータを、前記現在の符号化画像のビットが所在する動画ビットストリームに書き込み、又は前記処理対象となる動画ビットストリームの画像及び/又はスライス層データユニットに書き込むことは、前記復元画像が用いる整形パラメータが前記シーケンス層整形パラメータである場合、スライスヘッダにおいてPPS以外の画像及び/又はスライス層パラメータセットを使用しないと識別する情報を符号化することと、前記復元画像が用いる整形パラメータが前記第1の別整形パラメータである場合、スライスヘッダにおいてPPS以外の画像及び/又はスライス層パラメータセットを使用すると識別する情報を符号化し、前記第1の別整形パラメータが所在するパラメータセットのパラメータセットインデックス番号を符号化することと、前記復元画像が用いる整形パラメータが前記画像層整形パラメータである場合、前記画像層整形パラメータに対して符号化し、符号化ビットを新規のパラメータセットデータユニットに書き込むこととを含む。ここで、前記新規のパラメータセットデータユニットにはパラメータセットインデックス番号が配置され、スライスヘッダにおいてPPS以外の画像及び/又はスライス層パラメータセットを使用すると識別する情報が符号化され、前記パラメータセットインデックス番号が符号化される。
オプションとして、前記画像層整形パラメータと前記シーケンス層整形パラメータとによって前記復元画像が用いる整形パラメータを決定することは、前記画像層整形パラメータと、前記シーケンス層整形パラメータと、トランスポートストリーム又はメディアファイルのシステム層において符号化された1つ又は複数の第2の別整形パラメータとから、前記復元画像が用いる整形パラメータを決定することを含む。また、オプションとして、前記画像層整形パラメータと、前記シーケンス層整形パラメータと、前記第2の別整形パラメータとから前記復元画像が用いる整形パラメータを決定することは、前記画像層整形パラメータと、前記シーケンス層整形パラメータと、前記第2の別整形パラメータとをそれぞれ利用して前記復元画像に対して整形処理を行うことと、前記復元画像に対して整形処理を行って得られたHDR画像と前記目標HDR画像との誤差の最小なパラメータは前記復元画像が用いる整形パラメータであると決定することとを含む。
オプションとして、決定された前記復元画像が用いる整形パラメータを、前記現在の符号化画像のビットが所在する動画ビットストリームに書き込み、又は前記処理対象となる動画ビットストリームの画像及び/又はスライス層データユニットに書き込むことは、前記復元画像が用いる整形パラメータが前記シーケンス層整形パラメータである場合、システム層において第5の識別情報を符号化することと、前記復元画像が用いる整形パラメータが前記画像層整形パラメータである場合、前記システム層において前記画像層整形パラメータを符号化することと、前記復元画像が用いる整形パラメータが前記第2の別整形パラメータである場合、前記システム層において前記第2の別整形パラメータを符号化し、或いは、前記システム層において第6の識別情報を符号化することとを含む。ここで、前記第5の識別情報は、前記復元画像が用いる整形パラメータを、前記システム層において符号化された整形パラメータを使用しないように指示するために用いられ、前記第6の識別情報は、前記復元画像が用いる整形パラメータを、前記システム層において符号化された整形パラメータを使用するように指示するために用いられる。また、オプションとして、前記システム層において、前記復元画像に対して二次整形を行うための整形パラメータと、二次整形処理の実行方式を指示するための制御情報とを符号化する。
本発明の実施例の別態様によれば、動画ビットストリームを解析し、前記動画ビットストリームの画像及び/又はスライス層データユニットから整形パラメータを取得し、取得された前記整形パラメータによって復元画像が用いる整形パラメータを決定するように設置される第1の決定モジュールと、前記復元画像が用いる整形パラメータを用いて前記復元画像に対して整形処理を行うように設置される処理モジュールとを備える画像復号化処理装置であって、前記復元画像は、整形処理が行われる前に、前記動画ビットストリームを復号化して得られた画像であり、前記画像及び/又はスライス層データユニットは、画像パラメータセットPPSとは異なる画像及び/又はスライス層パラメータセット又は前記復元画像に対応するアクセスユニットAUに含まれるスライスヘッダを含み、前記整形処理は、ダイナミックレンジおよび色空間の変換を含み、前記動画ビットストリームの前記画像及び/又はスライス層データユニットから前記整形パラメータを取得し、取得された前記整形パラメータによって復元画像が用いる整形パラメータを決定する前には、前記動画ビットストリームにおいてAUに含まれるスライスヘッダにおけるPPSパラメータセットインデックス番号を決定することと、前記PPSパラメータセットインデックス番号により参照されるPPSに応じて前記復元画像が用いる整形パラメータを取得することとを更に行い、前記画像パラメータセットPPSにおいて、前記スライスヘッダの解析で得られたPPSパラメータセットインデックス番号と同じPPSパラメータセットインデックス番号を有するパラメータセットが探せなかった場合、エラー処理仕組みを作動させてエラー復元を行い、前記パラメータセットインデックス番号により参照されるPPSに応じて前記復元画像が用いる整形パラメータを取得することは、前記PPSの拡張部分及び/又は前記PPSにより参照されるパラメータセットに第1の整形パラメータが担持されているか否かを判定することと、判定結果が「YES」である場合、取得された前記復元画像が用いる整形パラメータが前記第1の整形パラメータであると決定し、及び/又は、判定結果が「NO」である場合、取得された前記復元画像が用いる整形パラメータが既定値又は空であると決定することとを含み、前記動画ビットストリームの前記画像及び/又はスライス層データユニットから前記整形パラメータを取得し、取得された前記整形パラメータによって復元画像が用いる整形パラメータを決定することは、前記スライスヘッダの拡張部分を解析し、第2の整形パラメータを得ることと、前記第2の整形パラメータを用いて、前記復元画像が用いる整形パラメータを更新または再決定することとを含む、画像復号化処理装置を提供する。
本発明の実施例の別態様によれば、前記画像及び/又はスライス層データユニットは、前記復元画像に対応するアクセスユニットAUに含まれるパラメータデータユニット又はシステム層画像パラメータデータユニットを含む画像復号化処理装置を提供する。
本発明の実施例の別態様によれば、復元画像をハイダイナミックレンジ動画HDR画像に変換させるのに用いられる、前記復元画像が用いる整形パラメータを決定するように設置される第2の決定モジュールと、決定された前記復元画像が用いる整形パラメータを、現在の符号化画像のビットが所在する動画ビットストリームに書き込み、又は処理対象となる動画ビットストリームの画像及び/又はスライス層データユニットに書き込むように設置される書き込みモジュールとを備え、前記復元画像は、エンコーダが整形処理を実行する前に、現在の符号化画像に対する復元標準ダイナミックレンジSDR画像であり、或いは、前記復元画像は、処理対象となる動画ビットストリームを復号化して得られたSDR画像であり、前記画像及び/又はスライス層データユニットは、画像パラメータセットPPSとは異なる画像及び/又はスライス層パラメータセット又は前記復元画像に対応するアクセスユニットAUに含まれるスライスヘッダを含み、前記復元画像を前記ハイダイナミックレンジ動画HDR画像に変換させるのに用いられる、前記復元画像が用いる整形パラメータを決定することは、画像層整形パラメータとシーケンス層整形パラメータとを決定することと、前記画像層整形パラメータと前記シーケンス層整形パラメータとによって前記復元画像が用いる整形パラメータを決定することとを含み、前記画像層整形パラメータは、前記復元画像と目標HDR画像との誤差を最小化する整形処理手順に用いられるフィルタ係数を含み、前記シーケンス層整形パラメータは、前記目標HDR画像により構成される目標HDR動画のダイナミックレンジ及び色空間と、前記復元画像により構成される復元動画のダイナミックレンジ及び色空間とに応じて決定された、前記復元動画のダイナミックレンジから前記目標HDR動画のダイナミックレンジまで拡張されたマッピングパラメータ、及び/又は前記復元動画の色空間から前記目標HDR動画の色空間への変換パラメータを含み、前記目標HDR画像は、エンコーダに入力されたオリジナルのHDR動画において前記復元画像に対応するHDR画像であり、前記復元画像のうち、キーフレーム画像に対しては前記画像層整形パラメータを計算し、前記キーフレーム画像以外の画像に対しては、前記シーケンス層整形パラメータを使用し、前記キーフレーム画像は、シーンチェンジ画像、ランダムアクセス画像、または、時間領域識別子番号(Temporal Identifier(ID))の値が比較的小さい画像である、画像符号化処理装置を提供する。
本発明の実施例の別態様によれば、前記画像及び/又はスライス層データユニットは、前記復元画像に対応するアクセスユニットAUに含まれるパラメータデータユニット又はシステム層画像パラメータデータユニットを含む画像符号化処理装置を提供する。
本発明の別実施例では、前記実施例に係るステップの1つまたはその組合せを実行するための実行指令が記憶されるコンピュータ記憶媒体を提供する。
本発明の実施例によれば、動画ビットストリームを解析し、前記動画ビットストリームの画像及び/又はスライス層データユニットから整形パラメータを取得し、取得された前記整形パラメータによって復元画像が用いる整形パラメータを決定し、前記復元画像が用いる整形パラメータを用いて前記復元画像に対して整形処理を行う方法を採用する。ここで、前記復元画像は、整形処理が行われる前に、前記動画ビットストリームを復号化して得られた画像であり、前記画像及び/又はスライス層データユニットは、画像パラメータセットPPSとは異なる画像及び/又はスライス層パラメータセットと、前記復元画像に対応するアクセスユニットAUに含まれるパラメータデータユニットと、スライスヘッダと、システム層画像パラメータデータユニットとの少なくとも1つのデータユニットを含む。関連技術における動画視聴品質が劣り、整形パラメータの符号化コストが大きいという問題が解決され、動画視聴品質を向上させ、整形パラメータの符号化コストを低減させる効果が更に達成される。
ここで説明する図面は、本発明についての更なる理解を提供するために提供され、本出願の一部に構成される。本発明の例示的な実施例及びその説明は、本発明を説明するために使用され、本発明に対する不適切な制限を構成するものではない。図面において、
図1は、本発明の実施例による画像復号化処理方法のフローチャートである。 図2は、本発明の実施例による画像符号化処理方法のフローチャートである。 図3は、本発明の実施例による画像復号化処理装置の構成ブロック図である。 図4は、本発明の実施例による画像復号化処理装置の選択的な構成ブロック図である。 図5は、本発明の実施例による画像符号化処理装置の構成ブロック図である。 図6は、本発明の実施例によるデコーダの構成ブロック図である。 図7は、本発明の実施例によるエンコーダの構成ブロック図である。
以下、図面を参照しながら実施例とともに本発明について詳しく説明する。なお、衝突しない限り、本出願に係る実施例及び実施例に係る特徴は互いに組み合わせることができる。
なお、本発明の明細書、特許請求の範囲及び上記図面に記載の「第1の」、「第2の」等の用語は、類似対象を区別するために使用され、必ずしも特定の順序又は優先順位を記述するために使用されるものではない。
本実施例は、画像復号化処理方法を提供する。図1は、本発明の実施例による画像復号化処理方法のフローチャートである。図1に示すように、当該フローは、
動画ビットストリームを解析し、当該動画ビットストリームの画像及び/又はスライス層データユニットから整形パラメータを取得し、取得された整形パラメータによって復元画像が用いる整形パラメータを決定するステップS102と、
上記復元画像が用いる整形パラメータを用いて復元画像に対して整形処理を行うステップS104とを含む。
ここで、当該復元画像は、整形処理が行われる前に、動画ビットストリームを復号化して得られた画像であり、上記画像及び/又はスライス層データユニットは、画像パラメータセットPPSとは異なる画像及び/又はスライス層パラメータセットと、上記復元画像に対応するアクセスユニットAUに含まれるパラメータデータユニットと、スライスヘッダと、システム層画像パラメータデータユニットとの少なくとも1つのデータユニットを含む。
ここで、上記実施例における動作の主体は、復号化処理機器、例えばデコーダであっても良い。
上記実施例から分かるように、復元画像に対して整形処理を行うための整形パラメータは、動画ビットストリームの画像及び/又はスライス層データユニットから取得された整形パラメータにより決定されるものであり、画像の視聴品質を効果的に向上させ、更に動画の視聴品質を向上させることができ、且つ整形パラメータの符号化コストを低減させることができる。上記ステップによれば、関連技術における動画視聴品質が劣り、整形パラメータの符号化コストが大きいという問題が解決され、動画視聴品質を向上させ、整形パラメータの符号化コストを低減させる効果が更に達成される。
一代替実施例において、上記動画ビットストリームの画像及び/又はスライス層データユニットから上記整形パラメータを取得し、取得された上記整形パラメータによって復元画像が用いる整形パラメータを決定する前には、上記動画ビットストリームにおいてAUに含まれるスライスヘッダにおけるPPSパラメータセットインデックス番号を決定することと、上記パラメータセットインデックス番号により参照されるPPSに応じて復元画像が用いる整形パラメータを取得することとを更に含む。
ここで、上記パラメータセットインデックス番号により参照されるPPSに応じて復元画像が用いる整形パラメータを取得することは、複数種の取得方法が存在しても良い。以下、1種を例として説明する。上記PPSの拡張部分及び/又はPPSにより参照されるパラメータセットには、第1の整形パラメータが担持されているか否かを判定し、判定結果が「YES」である場合、取得された上記復元画像が用いる整形パラメータが当該第1の整形パラメータであると決定し、及び/又は、判定結果が「NO」である場合、取得された上記復元画像が用いる整形パラメータが既定値又は空であると決定する。以下、上記動画ビットストリームはHDR動画ビットストリームであることを例として説明する。
復号化処理機器は、HDR動画ビットストリームにおいて各AUに含まれるスライスヘッダにおけるPPSパラメータセットインデックス番号を解析し、受信されたPPSにおいて、PPSデータユニットにおけるインデックス番号とスライスヘッダを解析して得られたパラメータセットインデックス番号の値と同じであるPPSを探す。復号化処理機器は、当該PPSを活性化し、当該PPSデータユニットにおける符号化ビットを解析する。当該PPSの拡張部分を解析して整形パラメータが得られた場合、当該整形パラメータを、当該PPSを参照するスライスに用いられる整形パラメータとする。逆に、当該PPSの拡張を解析した結果整形パラメータが得られなかった場合、当該PPSを参照するスライスに用いられる整形パラメータを空とし、或いは既定値とする。
上記実施例から分かるように、画像及び/又はスライス層データユニットは、画像パラメータセットPPSとは異なる画像及び/又はスライス層パラメータセットと、上記復元画像に対応するアクセスユニットAUに含まれるパラメータデータユニットと、スライスヘッダと、システム層画像パラメータデータユニットとの少なくとも1つのデータユニットを含む。以下、異なる画像及び/又はスライス層データユニットをそれぞれ参照しながら、上記ステップS102に関する動作について説明する。
一代替実施例において、上記画像及び/又はスライス層データユニットは、スライスヘッダであっても良い。当該実施例において、上記動画ビットストリームの画像及び/又はスライス層データユニットから整形パラメータを取得し、取得された整形パラメータによって復元画像が用いる整形パラメータを決定することは、上記スライスヘッダの拡張部分を解析し、第2の整形パラメータを取得することと、当該第2の整形パラメータを用いて、復元画像が用いる整形パラメータを更新または再決定することとを含む。以下、一代替実施例を参照しながら、画像及び/又はスライス層データユニットがスライスヘッダであっても良い場合に関連する動作について説明する。
代替実施例1
本実施例は、HDR動画に対して復号化処理を行う装置に用いられるHDR動画の復号化処理方法である。前記装置の入力は、HDR動画ビットストリーム又はHDR動画ビットストリームを含むトランスポートストリーム又はメディアファイルであり、出力は、再生用の復元HDR動画である。当該実施例は、以下のステップを含む。
ステップ1において、ビットストリームを解析し、画像及び/又はスライス層データユニットから整形パラメータを得る。
復号化処理機器は、入力ビットストリームを解析する。入力ビットストリームがHDR動画ビットストリームを含むトランスポートストリーム又はメディアファイルである場合、前記トランスポートストリーム又はメディアファイルからHDR動画ビットストリームを抽出する。
復号化処理機器は、HDR動画ビットストリームにおいて各AUに含まれるスライスヘッダにおけるPPSパラメータセットインデックス番号を解析し、受信されたPPSにおいて、PPSデータユニットにおけるインデックス番号とスライスヘッダを解析して得られたパラメータセットインデックス番号の値とは同じであるPPSを探す。
復号化処理機器は、当該PPSを活性化し、当該PPSデータユニットにおける符号化ビットを解析する。当該PPSの拡張部分を解析して整形パラメータが得られた場合、当該整形パラメータを、当該PPSを参照するスライスに用いられる整形パラメータ(上記第1の整形パラメータに対応する)とする。逆に、当該PPSの拡張を解析した結果整形パラメータが得られなかった場合、当該PPSを参照するスライスに用いられる整形パラメータを空とし、或いは既定値とする。
復号化処理機器は、スライスヘッダを解析する。スライスヘッダの拡張部分を解析して整形パラメータ(上記第2の整形パラメータに対応する)が得られた場合、当該整形パラメータを当該スライスに用いられる整形パラメータとし、すなわち、スライスヘッダの拡張を解析して得られた整形パラメータを用いて、当該スライスにより参照されるPPSを解析して得られた整形パラメータ又は既定値を上書きする。逆に、スライスヘッダの拡張部分を解析した結果整形パラメータが得られなかった場合、当該スライスにより参照されるPPSの拡張部分を解析して得られた整形パラメータ又は既定値を使用する。
特に、復号化処理機器がHDR動画ビットストリームから得られた「当該画像の復元SDR画像に対して整形処理を行う必要があるか否か」という識別情報は、「当該画像の復元SDR画像に対して整形処理を行う必要がない」と指示すると、復号化処理機器は、整形パラメータの解析ステップと当該SDR画像に対する整形処理ステップをスキップしても良い。とは言え、復号化処理機器は、復号化画像を再生に適合する動画データフォーマットに変換する必要がある。
ステップ2において、動画ビットストリームを復号化し、復元画像を得る。
復号化処理機器は、HDR動画ビットストリームに対して復号化を行い、復元SDR動画を得る。
ステップ3において、復元画像が用いる整形パラメータによって復元SDR画像に対して整形処理を行い、HDR画像に変換する。
上記の方法を用いて、復元SDR画像の発信元特性(ダイナミックレンジ、色空間、非可逆圧縮の歪み等を含んでもよく、それに限定されない)がシーケンスのうちの大部分の画像と同一又は類似する場合、復号化処理機器は、PPSから得られた整形パラメータを用いて復元SDR動画に対して整形処理を行う。復元SDR画像の発信元特性がシーケンスのうちの大部分の画像とはかなり異なる場合、復号化処理機器は、スライスヘッダの拡張から復元画像の発信元特性に関連する整形パラメータを得て、前記整形パラメータによって復元SDR画像に対して整形処理を行うことができ、整形処理により得られたHDR画像の視聴品質が向上される。このようにして、画像層整形パラメータの変更による復号化処理機器の頻繁なPPS更新動作が回避される。
一代替実施例において、上記画像及び/又はスライス層データユニットは、AUに含まれるパラメータデータユニットであっても良い。当該実施例において、上記動画ビットストリームの画像及び/又はスライス層データユニットから上記整形パラメータを取得し、取得された整形パラメータによって復元画像が用いる整形パラメータを決定することは、上記動画ビットストリームにおいてAUに含まれるパラメータデータユニットを解析し、第3の整形パラメータを取得することと、上記第3の整形パラメータを用いて復元画像が用いる整形パラメータを更新または再決定し、或いは、事前設定された整形パラメータ決定方法によって上記復元画像が用いる整形パラメータが第3の整形パラメータであると決定することとを含む。ここで、当該パラメータデータユニットは、AUに含まれるスライスビットストリームデータユニットとは独立したデータユニットである。
オプションとして、上記第3の整形パラメータを用いて復元画像が用いる整形パラメータを更新または再決定することは、動画ビットストリームにおいてAUに含まれるスライスヘッダにおけるPPSパラメータセットインデックス番号を決定することと、当該パラメータセットインデックス番号により参照されるPPSに応じて上記復元画像が用いる整形パラメータを取得することと、第3の整形パラメータを用いて取得された当該復元画像が用いる整形パラメータを更新または再決定することとを含む。ここで、上記パラメータセットインデックス番号により参照されるPPSに応じて上記復元画像が用いる整形パラメータを取得することは、複数種の取得方法が存在し、例えば、上記PPSの拡張部分及び/又はPPSにより参照されるパラメータセットには、第1の整形パラメータが担持されているか否かを判定し、判定結果が「YES」である場合、取得された上記復元画像が用いる整形パラメータが第1の整形パラメータであると決定し、及び/又は、判定結果が「NO」である場合、取得された復元画像が用いる整形パラメータが既定値又は空であると決定するように復元画像が用いる整形パラメータを取得することができる。
ここで、上記第3の整形パラメータは、上記AUの直前のAUに含まれるパラメータデータユニットに対して解析を行って得られた第4の整形パラメータを決定する。当該直前のAUは、AUの復号化順に従って決定された現在の復号化対象となるAU(すなわち、上記AU)の直前のAUであっても良い。
上記事前設定された整形パラメータ決定方法は、デフォルトの決定方法と、動画パラメータセットVPSを解析して得られた整形パラメータを指示するための第1の識別情報を利用して決定する方法と、シーケンスパラメータセットSPSを解析して得られた整形パラメータを指示するための第2の識別情報を利用して決定する方法との少なくとも一種を含んで良い。ここで、上記デフォルトの方法は、事前設定された決定方法であっても良い。以下、一代替実施例を参照しながら、上記画像及び/又はスライス層データユニットがAUに含まれるパラメータデータユニットである場合の動作について説明する。
代替実施例2
本実施例は、HDR動画に対して復号化処理を行う装置に用いられるHDR動画の復号化処理方法である。前記装置の入力は、HDR動画ビットストリーム又はHDR動画ビットストリームを含むトランスポートストリーム又はメディアファイルであり、出力は、再生用の復元HDR動画である。当該実施例は、以下のステップを含む。
ステップ1において、ビットストリームを解析し、画像及び/又はスライス層データユニットから整形パラメータを得る。
復号化処理機器は、入力ビットストリームを解析する。入力ビットストリームがHDR動画ビットストリームを含むトランスポートストリーム又はメディアファイルである場合、前記トランスポートストリーム又はメディアファイルからHDR動画ビットストリームを抽出する。
復号化処理機器は、HDR動画ビットストリームにおいて各AUに含まれるスライスヘッダにおけるPPSパラメータセットインデックス番号を解析し、受信されたPPSにおいて、PPSデータユニットにおけるインデックス番号とスライスヘッダを解析して得られたパラメータセットインデックス番号の値とは同じであるPPSを探す。
復号化処理機器は、当該PPSを活性化し、当該PPSデータユニットにおける符号化ビットを解析する。当該PPSの拡張部分を解析して整形パラメータ(上記第1の整形パラメータに対応する)が得られた場合、当該整形パラメータを、当該PPSを参照するスライスに用いられる整形パラメータとする。逆に、当該PPSの拡張を解析した結果整形パラメータが得られなかった場合、当該PPSを参照するスライスに用いられる整形パラメータを空とし、或いは既定値とする。
復号化処理機器は、AUにパラメータデータユニットが含まれると検出されると、当該データパラメータデータユニットを解析し、AUに含まれるスライスに対して復号化して得られたSDR復元画像に対して整形処理を行うための整形パラメータ(上記第3の整形パラメータに対応する)を得て、上記整形パラメータをSDR復元画像に対して整形処理を行うための整形パラメータとする。逆に、復号化処理機器は、AUにパラメータデータユニットが含まれていないと検出されると、当該AUに含まれるスライスにより参照されるPPSを解析して得られた整形パラメータをSDR復元画像に対して整形処理を行うための整形パラメータとする。ここで、上記パラメータデータユニットは、AUに含まれるスライスビットストリームデータユニットとは独立したデータユニットであり、例えば、パラメータセットと補助拡張情報(Supplemental Enhancement Information、SEIと略称する)データユニット、ユーザ定義のデータユニット等である。
オプションとして、復号化処理機器は、AUにパラメータデータユニットが含まれると検出されると、AUの復号化順に従って現在の復号化対象となるAUの直前のAUに含まれるパラメータデータユニットを解析して得られた整形パラメータ(上記第4の整形パラメータに対応する)を現在のAUを復号化して得られたSDR復元画像の候補整形パラメータ(上記第3の整形パラメータに対応する)とするように配置されても良い。別のセットの候補整形パラメータは、PPSを解析して得られた整形パラメータである。復号化処理機器は、復号化対象となるAUに含まれるスライスヘッダを解析し、どのセットの候補整形パラメータを選択するかを示す識別情報を得て、識別情報に従って対応する整形パラメータを用いてSDR復元画像に対して整形処理を行う。ここで、復号化処理機器に対する配置方法は、復号化処理機器が上記方法をデフォルトとして採用し、或いは、復号化処理機器は、動画パラメータセット(Video Parameter Set、VPSと略称する)及び/又はSPSを解析して上記方法を使用するか否かを示す識別情報(ここで、VPSにより解析された識別情報が上記第1の識別情報に対応し、SPSにより解析された識別情報が上記第2の識別情報に対応する)を得て、識別情報によって復号化されたAUにおけるパラメータデータユニットに含まれる整形パラメータを使用するか否かを設定することであっても良い。
特に、復号化処理機器がHDR動画ビットストリームから得られた「当該画像の復元SDR画像に対して整形処理を行う必要があるか否か」という識別情報は、「当該画像の復元SDR画像に対して整形処理を行う必要がない」と指示すると、復号化処理機器は、整形パラメータの解析ステップと当該SDR画像に対する整形処理ステップをスキップしても良い。とは言え、復号化処理機器は、復号化画像を再生に適合する動画データフォーマットに変換する必要がある。
ステップ2は、代替実施例1に係るステップ2とは同じであるため、ここで説明を省略する。
ステップ3は、代替実施例1に係るステップ3とは同じであるため、ここで説明を省略する。
なお、当該代替実施例において、HDR動画ビットストリームにおいて各AUに含まれるスライスヘッダにおけるPPSから整形パラメータを解析する動作は、AUに含まれるパラメータデータユニットから整形パラメータを解析する動作の後に行っても良い。
代替実施例1に係る復号化処理機器に比較して、本実施例に係る復号化処理機器は、AUにおけるパラメータデータユニットを解析することで、AUにおけるすべてのスライスに使用される整形パラメータを得る。これにより、スライスヘッダを解析するコストを更に低減することができる。
一代替実施例において、上記画像及び/又はスライス層データユニットは、AUに含まれるスライスヘッダであっても良い。当該実施例において、上記動画ビットストリームの画像及び/又はスライス層データユニットから整形パラメータを取得し、取得された整形パラメータによって復元画像が用いる整形パラメータを決定することは、AUに含まれるスライスヘッダを解析し、第3の識別情報を取得することと、上記第3の識別情報は復元画像が用いる整形パラメータをPPS以外の他の画像及び/又はスライス層パラメータセットに応じて決定するように指示すると、AUに含まれるスライスヘッダを解析し、上記他の画像及び/又はスライス層パラメータセットのインデックス番号を取得することと、インデックス番号が他の画像及び/又はスライス層パラメータセットのインデックス番号とは同じであるパラメータセットを活性化し、第5の整形パラメータを取得することと、上記第5の整形パラメータを用いて、取得された復元画像が用いる整形パラメータを更新または再決定することとを含む。ここで、当該第3の識別情報は、復元画像が用いる整形パラメータがPPS以外の他の画像及び/又はスライス層パラメータセットに応じて決定するか否かを指示するために用いられる。以下、一代替実施例を参照しながら、画像及び/又はスライス層データユニットはAUに含まれるスライスヘッダである場合に関連する動作について説明する。
代替実施例3
本実施例は、HDR動画に対して復号化処理を行う装置に用いられるHDR動画の復号化処理方法である。前記装置の入力は、HDR動画ビットストリーム又はHDR動画ビットストリームを含むトランスポートストリーム又はメディアファイルであり、出力は、再生用の復元HDR動画である。当該実施例は、以下のステップを含む。
ステップ1において、ビットストリームを解析し、画像及び/又はスライス層データユニットから整形パラメータを得る。
復号化処理機器は、入力ビットストリームを解析する。入力ビットストリームがHDR動画ビットストリームを含むトランスポートストリーム又はメディアファイルである場合、上記トランスポートストリーム又はメディアファイルからHDR動画ビットストリームを抽出する。
復号化処理機器は、HDR動画ビットストリームにおいて各AUに含まれるスライスヘッダにおけるPPSパラメータセットインデックス番号を解析し、受信されたPPSにおいて、PPSデータユニットにおけるインデックス番号とスライスヘッダを解析して得られたパラメータセットインデックス番号の値とは同じであるPPSを探す。
復号化処理機器は、当該PPSを活性化し、当該PPSデータユニットにおける符号化ビットを解析する。当該PPSの拡張部分を解析して整形パラメータ(上記第1の整形パラメータに対応する)が得られた場合、当該整形パラメータを、当該PPSを参照するスライスに用いられる整形パラメータとする。逆に、当該PPSの拡張を解析した結果整形パラメータが得られなかった場合、当該PPSを参照するスライスに用いられる整形パラメータを空とし、或いは既定値とする。
復号化処理機器は、当該スライスヘッダを解析し、PPS以外の他の画像/スライス層パラメータセットを使用するか否かを示す識別情報を得る。当該識別情報から、「PPS以外の他の画像/スライス層パラメータセットを使用しない」と指示されると、PPS拡張を解析して得られた整形パラメータを用いて復元SDR画像に対して整形処理を行う。
逆に、当該識別情報から、「PPS以外の他の画像/スライス層パラメータセットを使用する」と指示されると、引き続きスライスヘッダを解析し、当該画像/スライス層パラメータセットのインデックス番号を得て、受信されたビットストリーム又は復号化されたパラメータセットデータユニットにおいて、パラメータセットインデックス番号とスライスヘッダを解析して得られたインデックス番号とは同じであるパラメータセットを探す。復号化処理機器は、当該パラメータセットを解析し、整形パラメータ(上記第5の整形パラメータに対応する)を得て、当該整形パラメータを用いて復号化され復元したSDR画像に対して整形処理を行う。上記手順において、復号化処理機器は、受信されたAUとAU外に伝送されたパラメータセットビットストリームとを検索することで、上記画像/スライス層パラメータセットを探しても良い。オプションとして、処理されたHDR動画ビットストリームには、パラメータセットインデックス番号の異なる上記画像/スライス層パラメータセットが多く含まれる可能性があるため、復号化処理機器では、パラメータセットを検索する処理複雑度を低減するために、パラメータセットインデックス番号をアクセスパラメータとするデータ構造が用いられる。例えば、一態様として、パラメータセットインデックス番号をアクセスパラメータのポインタ配列とし、配列におけるポインタは、当該パラメータセットインデックス番号の対応パラメータセットが記憶された解析データに向け指されていても良い。復号化処理機器は、スライスヘッダを解析してパラメータセットインデックス番号を得た後に、直接にパラメータセットインデックス番号を入口パラメータとして当該データ構造をアクセスし、対応パラメータセットに含まれる整形パラメータを得ることができる。
特に、復号化処理機器がHDR動画ビットストリームから得られた「当該画像の復元SDR画像に対して整形処理を行う必要があるか否か」という識別情報は、「当該画像の復元SDR画像に対して整形処理を行う必要がない」と指示すると、復号化処理機器は、整形パラメータの解析ステップと当該SDR画像に対する整形処理ステップをスキップしても良い。とは言え、復号化処理機器は、復号化画像を再生に適合する動画データフォーマットに変換する必要がある。
ステップ2は、代替実施例2に係るステップ2と同じであるため、ここでは説明を省略する。
ステップ3は、代替実施例2に係るステップ3と同じであるため、ここでは説明を省略する。
代替実施例2に係る復号化処理機器と比較して、本実施例に係る復号化処理機器は、PPSとは異なる画像/スライス層パラメータセットを解析することで、スライスに使用される整形パラメータを得る。これにより、復号化処理機器は、直前の復号化AUにおける整形パラメータに限定されない整形パラメータを選択可能であり、復号化された情報の利用率が向上される。同時に、パラメータセット自体の属性を用いて、復号化処理機器は、パケットロス状況が存在するか否かをより容易に判定することができる。例えば、復号化処理機器は、スライスヘッダのパラメータセット番号を解析した後に、受信されたパラメータセットにおいて同じパラメータセット番号を有するパラメータセットが探せなかった場合、復号化処理機器は、エラー処理仕組みを作動させてエラー復元を行うことができ、動画通信の信頼性が向上される。
一代替実施例において、上記画像及び/又はスライス層データユニットは、システム層画像パラメータデータユニットであっても良い。当該実施例において、動画ビットストリームを解析し、動画ビットストリームの画像及び/又はスライス層データユニットから整形パラメータを取得し、取得された整形パラメータによって復元画像が用いる整形パラメータを決定することは、上記動画ビットストリームを運ぶためのトランスポートストリーム又はメディアファイルにおけるシステム層画像パラメータデータユニットから第6の整形パラメータを取得することと、当該第6の整形パラメータを用いて復元画像が用いる整形パラメータを更新または再決定し、或いは、復元画像が用いる整形パラメータが当該第6の整形パラメータであると決定することとを含む。ここで、当該システム層画像パラメータデータユニットは、動画ビットストリームにおけるアクセスユニットAUに対応する記述情報又は補助情報を含む。
一代替実施例において、上記第6の整形パラメータを用いて復元画像が用いる整形パラメータを更新または再決定することは、上記動画ビットストリームにおいてAUに含まれるスライスヘッダにおけるPPSパラメータセットインデックス番号を決定することと、上記パラメータセットインデックス番号により参照されるPPSに応じて復元画像が用いる整形パラメータを取得することと、上記第6の整形パラメータを用いて、取得された復元画像が用いる整形パラメータを更新または再決定することとを含む。
一代替実施例において、上記パラメータセットインデックス番号により参照されるPPSに応じて復元画像が用いる整形パラメータを取得することは、上記PPSの拡張部分及び/又はPPSにより参照されるパラメータセットに第1の整形パラメータが担持されているか否かを判定することと、判定結果が「YES」である場合、取得された復元画像が用いる整形パラメータが第1の整形パラメータであると決定し、及び/又は、判定結果が「NO」である場合、取得された復元画像が用いる整形パラメータが既定値又は空であると決定することとを含む。
一代替実施例において、上記動画ビットストリームを運ぶためのトランスポートストリーム又はメディアファイルにおけるシステム層画像パラメータデータユニットから整形パラメータを取得することは、システム層画像パラメータデータユニットから取得された、整形処理を実行するか否かを示す識別パラメータと、ダイナミックレンジ整形パラメータと、色空間整形パラメータと、整形パラメータ使用範囲との少なくとも1つのパラメータに応じて上記整形パラメータを決定することを含む。
一代替実施例において、動画の品質を保証するために、上記復元画像に対して複数回の整形処理(例えば、2回の整形処理)を行っても良い。以下、当該実施例について説明する。動画ビットストリームを運ぶためのトランスポートストリーム又はメディアファイルにおけるシステム層画像パラメータデータユニット(他のシステム層情報ユニットであっても良い)から復元画像に対して二次整形処理を行うための整形パラメータを取得し、取得された復元画像に対して二次整形処理を行うための整形パラメータを利用して、復元画像に対して二次整形処理を行う。ここで、当該システム層画像パラメータデータユニットは、動画ビットストリームにおけるアクセスユニットAUに対応する記述情報又は補助情報を含む。なお、ここで、二次整形処理の整形パラメータを取得する動作は、上記各実施例において復元画像が用いる整形パラメータを取得する動作の前に行っても良い。
一代替実施例において、上記動画ビットストリームを運ぶためのトランスポートストリーム又はメディアファイルにおけるシステム層画像パラメータデータユニットから、復元画像に対して二次整形処理を行うための整形パラメータを取得することは、システム層画像パラメータデータユニットから取得された、整形処理を実行するか否かを示す識別パラメータと、ダイナミックレンジ整形パラメータと、色空間整形パラメータと、整形パラメータ使用範囲との少なくとも1つのパラメータに応じて、復元画像に対して二次整形処理を行うための整形パラメータを決定することを含む。
以下、一代替実施例を参照しながら、上記画像及び/又はスライス層データユニットがシステム層画像パラメータデータユニットである場合に関連する動作について説明する。
代替実施例4
本実施例は、HDR動画に対して復号化処理を行う装置に用いられるHDR動画の復号化処理方法である。上記装置の入力は、HDR動画ビットストリームを含むトランスポートストリーム又はメディアファイルであり、出力は、再生用の復元HDR動画である。当該実施例は、以下のステップを含む。
ステップ1において、ビットストリームを解析し、画像及び/又はスライス層データユニットから整形パラメータを得る。
復号化処理機器は、入力ビットストリームを解析し、上記トランスポートストリーム又はメディアファイルからHDR動画ビットストリームを抽出する。復号化処理機器は、HDR動画ビットストリームにおいて各AUに含まれるスライスヘッダにおけるPPSパラメータセットインデックス番号を解析し、受信されたPPSにおいて、PPSデータユニットにおけるインデックス番号とスライスヘッダを解析して得られたパラメータセットインデックス番号の値と同じであるPPSを探す。
復号化処理機器は、当該PPSを活性化し、当該PPSデータユニットにおける符号化ビットを解析する。当該PPSの拡張部分を解析して整形パラメータ(上記第1の整形パラメータに対応する)が得られた場合、当該整形パラメータを、当該PPSを参照するスライスに用いられる整形パラメータとする。逆に、当該PPSの拡張を解析した結果整形パラメータが得られなかった場合、当該PPSを参照するスライスに用いられる整形パラメータを空とし、或いは既定値とする。
復号化処理機器は、トランスポートストリーム又はメディアファイルにおけるシステム層情報ユニット(例えば、システム層画像パラメータデータユニット)を解析し、復元SDR画像に対して整形処理を行うための整形パラメータを得る。これらシステム層情報ユニットは、トランスポートストリーム又はメディアファイルにおけるHDR動画ビットストリームにおいてAUに関連する記述情報又は補助情報、例えば記述子(Descriptor)であっても良い。復号化処理機器は、システム層情報ユニットから、整形処理を実行するか否かを示す識別パラメータと、ダイナミックレンジ整形パラメータと、色空間整形パラメータと、整形パラメータ使用範囲との少なくとも1つのパラメータを得る。ここで、整形パラメータ使用範囲は、復元SDR動画に用いられる整形パラメータ(候補整形パラメータは、PPSを解析して得られた整形パラメータと、システム層ビットストリームを解析して得られた整形パラメータと、整形パラメータのデフォルト値又は既定値等を含んでも良く、それに限定されない)及び当該整形パラメータを使用する画像範囲(例えば、HDR動画ビットストリームにおけるある指定されたAUから別の指定されたAUまで)を指示するために用いられる。復号化処理機器は、システム層情報ユニットにおけるパラメータによって、AUを復号化して得られたSDR画像に対する整形処理に用いられる整形パラメータを決定する。
オプションとして、本実施例に記載の復号化処理機器は、代替実施例1、代替実施例2又は代替実施例3に記載のHDRビットストリームを解析して整形パラメータを得る方法を採用しても良い。オプションとして、前述実施例1、2又は3を用いて整形パラメータを決定した後に、本実施例に記載の方法を更に採用して、システム層整形パラメータと整形処理の制御パラメータとを得ることができる。ここで、整形処理の制御パラメータは、復号化処理機器がSDR復元画像に対して整形処理を行うために選択する整形パラメータ(例えば、HDRビットストリームを解析して得られた整形パラメータと、システム層ビットストリームを解析して得られた整形パラメータとのいずれかを選択する)を指示してもよく、整形処理の実行モードを指示してもよく、例えば、まず、HDRビットストリームを解析して得られた整形パラメータを用いてSDR復元画像に対して整形処理を行い、その後、システム層ビットストリームを解析して得られた整形パラメータを用いて第2次の整形処理を行う。このようなカスケードの整形処理により、SDR復元画像に対して精度が徐々に向上する整形処理を行い、復元HDR画像の品質を向上させることができる。
特に、復号化処理機器がトランスポートストリーム又はメディアファイルから得られた「当該画像の復元SDR画像に対して整形処理を行う必要があるか否か」という識別情報は、「当該画像の復元SDR画像に対して整形処理を行う必要がない」と指示すると、復号化処理機器は、整形パラメータの解析ステップと当該SDR画像に対する整形処理ステップをスキップしても良い。とは言え、復号化処理機器は、復号化画像を再生に適合する動画データフォーマットに変換する必要がある。
ステップ2は、代替実施例3に係るステップ2と同じであるため、ここでは説明を省略する。
ステップ3は、代替実施例3に係るステップ3と同じであるため、ここでは説明を省略する。
代替実施例3に係る復号化処理機器と比較して、本実施例に係る復号化処理機器は、トランスポートストリーム又はメディアファイルにおけるシステム層ビットストリームを解析することで、SDR復元画像の整形パラメータを得る。システム層のトランスポートストリーム又はメディアファイルに含まれるHDR動画ビットストリームに対する記述情報によって、復号化処理機器は、より柔軟に整形パラメータを選択してSDR画像に対して整形処理を行う。同時に、オプションとして、復号化処理機器は、システム層の整形パラメータを用いてSDR復元画像に対して「二次整形処理」を行い、復元HDR動画の品質を更に向上させることができる。
本発明の実施例の別態様によれば、画像符号化処理方法を更に提供する。図2は、本発明の実施例による画像符号化処理方法のフローチャートであり、図2に示すように、当該フローは、
復元画像をハイダイナミックレンジ動画HDR画像に変換させるのに用いられる、前記復元画像が用いる整形パラメータを決定するステップS202と、
決定された上記復元画像が用いる整形パラメータを、現在の符号化画像のビットが所在する動画ビットストリームに書き込み、又は処理対象となる動画ビットストリームの画像及び/又はスライス層データユニットに書き込むステップS204とを含む。
ここで、当該復元画像は、エンコーダが整形処理を実行する前に、現在の符号化画像に対する復元標準ダイナミックレンジSDR画像であり、或いは、当該復元画像は、処理対象となる動画ビットストリームを復号化して得られたSDR画像であり、当該画像及び/又はスライス層データユニットは、画像パラメータセットPPSとは異なる画像及び/又はスライス層パラメータセットと、上記復元画像に対応するアクセスユニットAUに含まれるパラメータデータユニットと、スライスヘッダと、システム層画像パラメータデータユニットとの少なくとも1つのデータユニットを含む。
ここで、上記実施例における動作の主体は、符号化処理機器、例えば、エンコーダであっても良い。
上記実施例から分かるように、復元画像が用いる整形パラメータを動画ビットストリームの画像及び/又はスライス層データユニットに書き込むことができ、画像の視聴品質を効果的に向上させ、更に動画の視聴品質を向上させ、且つ整形パラメータの符号化コストを低減させることができる。上記ステップによれば、関連技術における動画視聴品質が劣り、整形パラメータの符号化コストが大きいという問題が解決され、動画視聴品質を向上させ、整形パラメータの符号化コストを低減させる効果が更に達成される。
一代替実施例において、上記復元画像をハイダイナミックレンジ動画HDR画像に変換させるのに用いられる、復元画像が用いる整形パラメータを決定することは、画像層整形パラメータとシーケンス層整形パラメータとを決定することと、上記画像層整形パラメータとシーケンス層整形パラメータとによって上記復元画像が用いる整形パラメータを決定することとを含む。ここで、当該画像層整形パラメータは、復元画像と目標HDR画像との誤差を最小化する整形処理手順に用いられるフィルタ係数を含み、当該シーケンス層整形パラメータは、目標HDR画像により構成される目標HDR動画のダイナミックレンジ及び色空間と、復元画像により構成される復元動画のダイナミックレンジ及び色空間とに応じて決定された、復元動画のダイナミックレンジから目標HDR動画のダイナミックレンジまで拡張されたマッピングパラメータ、及び/又は復元動画の色空間から目標HDR動画の色空間への変換パラメータを含む。
一代替実施例において、上記目標HDR画像は、エンコーダに入力されたオリジナルのHDR動画において上記復元画像に対応するHDR画像である。
上記画像層整形パラメータとシーケンス層整形パラメータとによって復元画像が用いる整形パラメータを決定する方法は複数種存在し、以下、当該決定方法について、それぞれ例を挙げて説明する。
一代替実施例において、画像層整形パラメータとシーケンス層整形パラメータとをそれぞれ利用して復元画像に対して整形処理を行い、当該復元画像に対して整形処理を行って得られたHDR画像と目標HDR画像との誤差の最小なパラメータは復元画像が用いる整形パラメータであると決定するように、復元画像が用いる整形パラメータを決定する。オプションとして、決定された復元画像が用いる整形パラメータを、現在の符号化画像のビットが所在する動画ビットストリームに書き込み、又は処理対象となる動画ビットストリームの画像及び/又はスライス層データユニットに書き込むことは、上記復元画像が用いる整形パラメータがシーケンス層整形パラメータである場合、シーケンス層整形パラメータに対して符号化を行い、符号化された符号化ビットを、現在の符号化画像のビットが所在する動画ビットストリームに書き込み、又は処理対象となる動画ビットストリームの画像パラメータセットPPS及び/又はPPSにより参照されるパラメータセットに書き込むことと、上記復元画像が用いる整形パラメータが画像層整形パラメータである場合、画像層整形パラメータに対して符号化を行い、符号化された符号化ビットを、現在の符号化画像のビットが所在する動画ビットストリームに書き込み、又は処理対象となる動画ビットストリームにおけるアクセスユニットAUに含まれるスライスヘッダに書き込むこととを含む。以下、一代替実施例を参照しながら説明する。
代替実施例5
本実施例は、HDR動画に対して符号化処理を行う装置に用いられる、代替実施例1に記載の復号化方法に対応するHDR動画の符号化処理方法を提供する。当該装置で生成されたビットストリームは、代替実施例1に係る復号化処理装置によって適切に処理されることが可能になる。本実施例に係る装置の入力は、オリジナルのHDR動画であり、出力は、HDR動画ビットストリーム又はHDR動画ビットストリームを含むトランスポートストリーム又はメディアファイルである。当該実施例は、以下のステップを含む。
ステップ1において、入力HDR動画に対して整形処理を行い、H.265/HEVC Main 10Profileエンコーダに適合するSDR入力動画を得る。当該エンコーダを用いて入力動画に対して符号化を行い、エンコーダのローカル復元SDR動画を得る。
当該ステップにおける整形処理手順は、HDR動画シーケンスにおける画像に適用され、HDR画像のダイナミックレンジを低減させることができ、同時に、アプリケーション設定に従って、HDR画像の色空間に対する変換動作を選択して実行する。オプションとして、受信側において復号化され復元したSDR動画がオリジナルのHDR動画と同じ色空間を有する必要があると、色空間の変換動作を実行しなく、逆に、色空間の変換動作を実行する。ここで、前記入力HDR動画に対する整形処理は、上記国際標準化機構のテストモデルで既存の方法を使用しても良い。当該整形手順において出力された目標SDR動画のダイナミックレンジと色空間のパラメータとは、実際の適用の要求に応じて設置されても良い。
ステップ2において、エンコーダによる復元SDR画像をHDR画像に変換させる整形手順における整形パラメータを計算する。
エンコーダにおいてローカルで復号化され復元したSDR動画画像について、対応するオリジナルの入力HDR画像を参照とし、当該SDR画像に対して整形処理を行うための整形パラメータを決定する。前記整形処理は、SDR画像のダイナミックレンジを増大させるとともに、アプリケーション設定に従ってSDR画像色空間に対する変換動作を選択して実行することを含む。オプションとして、受信側に必要なHDR動画は、復号化され復元したSDR動画と同じ色空間を有すると、色空間の変換動作を実行しなく、逆に、色空間の変換動作を実行する。
一般的には、HDR画像のダイナミックレンジは、SDR画像よりもはるかに大きい。同時に、HDR画像は、色域図でより広い領域をカバーする色空間を使用する。そのため、整形手順において、SDR画像のダイナミックレンジ及び色空間に対して「拡張」を行う必要がある。1つの方法は、適応フィルタの方法を用いて、SDR画像が整形処理された後に画像とオリジナルのHDR入力画像との誤差を最小化できる整形処理手順に用いられるフィルタ係数を計算し、上記係数を当該整形処理手順の整形パラメータ(すなわち、「画像層整形パラメータ」)とする。画像層整形パラメータを決定する手順において、エンコーダにおいてローカルで復号化され復元したSDR画像が使用されるため、決定された画像層整形パラメータは、当該SDR復元画像における非可逆圧縮の歪みに対して補償することができる。
別の整形パラメータを決定する方法は、オリジナルの入力HDR動画のダイナミックレンジ及び色空間、ローカルで復号化され復元したSDR動画のダイナミックレンジ及び色空間に応じて、SDR動画ダイナミックレンジからHDR動画ダイナミックレンジまで拡張されたマッピングパラメータを計算し、SDR動画の色空間からHDR動画色空間への変換パラメータを計算し、且つマッピングパラメータと変換パラメータとを整形処理手順における整形パラメータ(すなわち、「シーケンス層整形パラメータ」)とする。
オプションとして、ダイナミックレンジの変換手順において、まず、SDR動画シーケンスとオリジナルのHDRシーケンスとの平均ダイナミックレンジを決定し、異なるダイナミックレンジにおいて動画の画素サンプリング点の値と対応する光強度との曲線に応じて、SDR動画ダイナミックレンジ内の画素サンプリング点の値をHDR動画ダイナミックレンジ内にマッピングする対応関係曲線を計算し、曲線パラメータをマッピングパラメータとする。色空間の変換手順において、SDR動画の色空間の色域図におけるカバー領域がHDR動画の色空間よりも小さいため、簡単な方法として、直接にSDR動画色空間における色点の対応値をHDR動画の色空間に同じ色点の対応値に変換させ、当該変換手順に用いられる計算パラメータを変換パラメータとする。他の色空間の変換方法は、SDR色空間に同一色度曲線に沿って、SDR動画の色空間における点を拡張してHDR動画の色空間の同一色度曲線上の色点までマッピングし、マッピング曲線に対応するパラメータを変換パラメータとする。この方法により、オリジナルのSDR動画の色空間における色点を、SDR動画の色空間がカバーする色域外のHDR動画の色空間がカバーする色域まで拡張することができ、HDR動画の彩度が向上される。
HDR動画に対する符号化手順において、処理機器は、まず、「シーケンス層整形パラメータ」を決定しても良い。処理機器は、入力HDR動画とエンコーダによる復元SDR動画とを分析し、動画のダイナミックレンジと色空間とを決定しても良い。処理機器は、設定パラメータによってHDR動画とSDR動画とのダイナミックレンジ及び色空間を直接決定しても良く、例えば、HDR動画とともに入力された設定パラメータにおける、入力HDR動画のダイナミックレンジと色空間とを指示するためのパラメータや、ステップ1に使用される、HDR動画から目標SDR動画に変換されたときのダイナミックレンジと色空間とを指示するためのパラメータである。
特に、符号化処理機器は、エンコーダによる復元SDR画像に対して整形処理を行う必要があるか否かを判定し、画像に対して、当該画像の復元SDR画像に対して整形処理を行う必要があるか否かを示す識別情報を符号化することができる。符号化処理機器に使用可能な1つの判定方法は、符号化処理機器によって復元SDR画像とオリジナルの入力HDR画像との間のダイナミックレンジの差異を検出し、両方のダイナミックレンジが同じである場合、或いは、SDR画像のダイナミックレンジ外の対応する入力HDR画像における画素点が少ない場合、或いは、選定されたHDR動画品質評価基準に従ってSDR画像ダイナミックレンジ外の対応する入力HDR画像における画素点のHDR復元動画の視聴品質に対する影響が無視可能であると判定される場合、ダイナミックレンジの整形処理を行わない。同様に、符号化処理機器により検出された、オリジナルの入力HDR画像における画素サンプリング値に対応する色がいずれもSDR画像の色空間がカバーする色域内に位置される場合、或いは、SDR画像の色空間外の対応する入力HDR画像における画素点が少ない場合、或いは、選定されたHDR動画品質評価基準に従ってSDR画像の色空間外の対応する入力HDR画像における画素点のHDR復元動画の視聴品質に対する影響が無視可能であると判定される場合、色空間の整形処理を行わない。ここで、上記HDR動画品質量評価基準は、標準化機構のテストモデルと参照ソフトウェアで既存のHDR動画品質を評価する誤差基準を採用しても良い。符号化処理機器によって復元SDR動画に対して整形処理を行う必要がないと判定されると、画像に対して、「当該画像の復元SDR画像に対して整形処理を行う必要がない」という識別情報を符号化する。符号化処理機器は、ステップ2とそれ以降のステップ3、ステップ4を実行する必要がない。
ステップ3において、エンコーダによる復元SDR画像をHDR画像に変換させる整形手順における整形パラメータを選択する。
符号化処理機器は、シーケンス層整形パラメータと画像層整形パラメータとからエンコーダによってSDR画像を復元することに用いられる整形パラメータを選択する。1種の方法として、シーケンス層整形パラメータと画像層整形パラメータとをそれぞれ使用して復元SDR動画に対して整形処理を行って得られた、HDR動画とオリジナルのHDR動画との誤差を比較して、誤差が低い方を選択して復元SDR画像の整形パラメータとする。ここで、誤差の計算は、従来の平均誤差基準、例えば、絶対誤差合計を採用しても良く、標準化機構のテストモデルと参照ソフトウェアで既存のHDR動画品質を評価する誤差基準を採用しても良い。
ステップ4において、整形パラメータに対して符号化を行い、符号化ビットを動画ビットストリームにおける画像及び/又はスライス層データユニットに書き込む。
符号化処理機器は、シーケンス層整形パラメータに対して符号化を行い、符号化ビットをPPSに書き込み、且つHDR動画符号化シーケンス全体に対する、新たなシーケンス層整形パラメータの再計算及び新たな整形パラメータを含むPPSの再生成をしない。復元SDR画像がシーケンス層整形パラメータを使用すると、画像層整形パラメータに対して符号化を行わない。逆に、復元SDR画像が画像層整形パラメータを使用する場合、画像層整形パラメータを符号化し、符号化ビットを当該画像に含まれるスライスヘッド情報に書き込む。
オプションとして、符号化処理機器は、生成されたPPSにおいて、スライスヘッダ拡張を使用することを指示するためのフラグslice_segment_header_extension_present_flagを1にする。シーケンス層整形パラメータを使用する場合、符号化処理機器は、当該PPSのスライスを参照するスライスヘッダにおいて、スライスヘッダの拡張部分のビット数を指示するためのパラメータを0にしてもよい。画像層パラメータを使用する場合、符号化処理機器は、画像層整形パラメータを符号化し、画像層整形パラメータの符号化に必要なビット数を計算し、その値をスライスヘッダの拡張部分のビット数の値とし、符号化処理機器は、当該値をスライスヘッダの拡張部分のビットストリームに書き込み、その後、画像層整形パラメータの符号化ビットをスライスヘッダの拡張部分のビットストリームに書き込む。
なお、更に、上記符号化処理機器の実行フローは、実施可能な方式であるが、更に最適化することができる。例えば、符号化処理機器の計算複雑度を低減するために、符号化する前に入力HDR動画と配置されたSDR動画パラメータによってシーケンス層整形パラメータを計算し、且つキーフレーム画像のみに対してステップ302において画像層整形パラメータを計算し、他の画像に対してシーケンス層整形パラメータを直接使用する。ここで、キーフレームとして選択可能な画像は、符号化動画シーケンスにおけるシーンチェンジ画像、ランダムアクセス画像、時間領域識別子番号(Temporal Identifier(ID))の値が比較的小さい画像等を含む。一方、最良なHDR復元動画の品質を追求するために、符号化処理機器は、できるだけ多くのSDR画像に対して画像層整形パラメータを選択し、或いは、SDR画像ごとに対して画像層整形パラメータを選択することができる。符号化処理機器がSDR画像ごとに画像層整形パラメータを選択するモードに配置されると、PPSにおいてシーケンス層整形パラメータを符号化しなく、画像のスライスヘッダの拡張で画像層整形パラメータを符号化する。同時に、復元HDR動画の品質を更に向上させるために、符号化処理機器は、同一画像における異なるスライスに対して、それぞれ画像層整形パラメータを計算してスライスヘッダ拡張において符号化されても良い。符号化処理機器は、適用要求、機器自体が利用可能な計算資源の状況に応じて、符号化制御パラメータを設置して、上記整形パラメータの計算と符号化方法において選択しても良い。例えば、動画記憶及び非リアルタイムストリーミングメディアアプリケーションについて、符号化処理機器通は、通常十分な計算資源が配置され、各画像が画像層整形パラメータを使用する符号化モードを選択しても良く、リアルタイム動画通信又は符号化処理機器の計算資源が限定される場合、キーフレーム画像に対して画像層整形パラメータを使用しながら非キーフレームに対してシーケンス層整形パラメータを使用する符号化モードを選択しても良い。
上記符号化処理方法を用いて、整形手順における画像の適応性を向上させると同時に、新たなPPSを頻繁に生成して整形パラメータを符号化することでPPSにおける他の符号化制御パラメータを繰り返し符号化することによる追加の符号化コストを回避する。
一代替実施例において、上記画像層整形パラメータとシーケンス層整形パラメータとによって復元画像が用いる整形パラメータを決定することは、画像層整形パラメータと、シーケンス層整形パラメータと、現在の符号化順に従う直前の符号化画像に使用される整形パラメータとから、復元画像が用いる整形パラメータを決定することを含む。オプションとして、上記画像層整形パラメータと、シーケンス層整形パラメータと、現在の符号化順に従う直前の符号化画像に使用される整形パラメータとから、上記復元画像が用いる整形パラメータを決定することは、画像層整形パラメータと、シーケンス層整形パラメータと、直前の符号化画像に使用される整形パラメータとをそれぞれ利用して、復元画像に対して整形処理を行うことと、上記復元画像に対して整形処理を行って得られたHDR画像と目標HDR画像との誤差の最小なパラメータは復元画像が用いる整形パラメータであると決定することとを含む。
一代替実施例において、決定された上記復元画像が用いる整形パラメータを、現在の符号化画像のビットが所在する動画ビットストリームに書き込み、又は処理対象となる動画ビットストリームの画像及び/又はスライス層データユニットに書き込むことは、復元画像が用いる整形パラメータがシーケンス層整形パラメータである場合、当該シーケンス層整形パラメータに対して符号化を行い、符号化された符号化ビットを、現在の符号化画像のビットが所在する動画ビットストリームに書き込み、又は処理対象となる動画ビットストリームの画像パラメータセットPPS及び/又はPPSにより参照されるパラメータセットに書き込むことと、上記復元画像が用いる整形パラメータが画像層整形パラメータ又は直前の符号化画像に使用される整形パラメータである場合、上記画像層整形パラメータ又は直前の符号化画像に使用される整形パラメータに対して符号化を行い、符号化された符号化ビットを、現在の符号化画像のビットが所在する動画ビットストリームに書き込み、又は処理対象となる動画ビットストリームにおけるアクセスユニットAUに含まれるパラメータデータユニットに書き込むことと、或いは、上記復元画像が用いる整形パラメータが上記画像層整形パラメータである場合、画像層整形パラメータに対して符号化を行い、符号化された符号化ビットを、現在の符号化画像のビットが所在する動画ビットストリームに書き込み、又は処理対象となる動画ビットストリームにおけるアクセスユニットAUに含まれるパラメータデータユニットに書き込むことと、上記復元画像が用いる整形パラメータが直前の符号化画像に使用される整形パラメータである場合、上記現在の符号化画像のビットが所在する動画ビットストリーム、又は処理対象となる動画ビットストリームにおけるアクセスユニットAUで第4の識別情報を符号化することとを含みむ。ここで、当該第4の識別情報は、整形パラメータが直前の符号化画像に使用される整形パラメータであることを指示するために用いられる。ここで、当該パラメータデータユニットは、上記AUに含まれるスライスビットストリームデータユニットとは独立したデータユニットである。オプションとして、上記実施例に係る方法は、動画パラメータセットVPSにおいて上記整形パラメータを指示するための第1の識別情報を符号化する方式と、シーケンスパラメータセットSPSにおいて上記整形パラメータを指示するための第2の識別情報を符号化する方式との少なくとも1つであり、整形パラメータを指示するための識別情報を符号化することを更に含む。以下、代替実施例を参照しながら説明する。
代替実施例6
本実施例は、HDR動画に対して符号化処理を行う装置に用いられる代替実施例2に係る復号化方法に対応するHDR動画の符号化処理方法を提供する。当該装置で生成されたビットストリームは、代替実施例2に係る復号化処理装置によって適切に処理されることが可能になる。本実施例に係る装置の入力は、オリジナルのHDR動画であり、出力は、HDR動画ビットストリーム又はHDR動画ビットストリームを含むトランスポートストリーム又はメディアファイルである。当該実施例は、以下のステップを含む。
ステップ1は、代替実施例5に係るステップ1と同じであるため、ここでは説明を省略する。
ステップ2は、代替実施例5に係るステップ2と同じであるため、ここでは説明を省略する。
ステップ3において、エンコーダによる復元SDR画像をHDR画像に変換させる整形手順における整形パラメータを選択する。
符号化処理機器は、シーケンス層整形パラメータと、画像層整形パラメータと、符号化順に従う直前の符号化画像に使用される整形パラメータとから、エンコーダによってSDR画像を復元することに用いられる整形パラメータを選択する。1種の方法として、各候補整形パラメータをそれぞれ用いて復元SDR動画に対して整形処理を行って得られた、HDR動画とオリジナルのHDR動画との誤差を比較して、誤差がより低い方を選択して復元SDR画像の整形パラメータとする。ここで、誤差の計算は、従来の平均誤差基準、例えば、絶対誤差合計を採用しても良く、標準化機構のテストモデルと参照ソフトウェアで既存のHDR動画品質を評価する誤差基準を採用しても良い。
ステップ4において、整形パラメータに対して符号化を行い、符号化ビットを動画ビットストリームに画像及び/又はスライス層データユニットに書き込む。
符号化処理機器は、シーケンス層整形パラメータに対して符号化を行い、符号化ビットをPPSに書き込み、且つHDR動画符号化シーケンス全体に対する、新たなシーケンス層整形パラメータの再計算及び新たな整形パラメータを含むPPSの再生成をしない。
代替実施例2に係る復号化処理機器に対応して、復元SDR画像がシーケンス層整形パラメータを使用する場合、ステップ3における上記他の2セットの候補整形パラメータに対して符号化を行わない。逆に、復元SDR画像がシーケンス層整形パラメータを使用しない場合、符号化処理機器は、パラメータデータユニットを生成し、使用される非シーケンス層整形パラメータに対して符号化を行い、符号化ビットをパラメータデータユニットに書き込み、パラメータデータユニットを符号化画像のビットが所在するAUに書き込む。ここで、当該パラメータデータユニットは、AUに含まれるスライスビットストリームデータユニットとは独立したデータユニット、例えば、SEIデータユニット、ユーザ定義のデータユニット等を含む。
代替実施例2に係る復号化処理機器に対応して、オプションとして、符号化処理機器は、非シーケンス層整形パラメータを用いてSDR復元動画に対して整形処理を行う場合、符号化処理機器は、符号化されたAUの整形パラメータを直接使用するモードに配置されても良い。オプションとして、符号化処理機器は、画像層整形パラメータを使用する場合、符号化処理機器がパラメータデータユニットを生成し、画像層整形パラメータに対して符号化を行い、符号化ビットをパラメータデータユニットに書き込み、パラメータデータユニットを符号化画像のビットが所在するAUに書き込む。逆に、符号化処理機器は、符号化順に従う直前のAUに用いられる整形パラメータを用いて現在のSDR復元画像に対して整形処理を行う場合、符号化処理機器は、パラメータデータユニットを生成しなく、符号化処理機器は、スライスヘッダにおける「どのセットの候補整形パラメータを使用するか」という識別情報(上記第4の識別情報に対応する)を符号化し、SDR復元動画に対して整形処理を行う場合、PPSにおける整形パラメータを採用するか、もしくは、符号化順に従う直前のAUに用いられる整形パラメータを採用するかを指示するために用いられる。代替実施例2に係る復号化処理機器に対応して、ここで、符号化処理機器に対する配置方法は、符号化処理機器が上記方法をデフォルトとして採用し、或いは、符号化処理機器は、VPS及び/又はSPSにおいて、上記方法を使用するか否かを示す識別情報を符号化して(ここで、VPSにおける識別情報を上記第1の識別情報に対応するように符号化して、SPSにおける識別情報を上記第2の識別情報に対応するように符号化する)、復号化されたAUにおけるパラメータデータユニットに含まれる整形パラメータを使用するか否かを指示するために用いられる方法であっても良い。
なお、代替実施例5に係る符号化処理装置と類似した最適化方法は、本実施例に係る符号化処理装置にも適用可能である。
代替実施例5に係る符号化処理機器と比較して、本実施例に係る符号化処理装置は、AUに含まれるパラメータデータユニットで整形パラメータを符号化し、画像が比較的多いスライスを含む場合(例えば、スライス符号化ビットはネットワークの最大伝送ユニットのサイズに適合することを要求する場合)、スライスヘッダにおける整形パラメータの符号化コストを低減させる。
一代替実施例において、画像層整形パラメータとシーケンス層整形パラメータとによって復元画像が用いる整形パラメータを決定することは、画像層整形パラメータと、シーケンス層整形パラメータと、使用された復元画像に対応するアクセスユニットAUに含まれるスライスヘッダにおける画像パラメータセットPPS以外の画像及び/又はスライス層パラメータセットにおいて符号化された1つ又は複数の第1の別整形パラメータとから、上記復元画像が用いる整形パラメータを決定することを含む。オプションとして、上記画像層整形パラメータと、シーケンス層整形パラメータと、第1の別整形パラメータとから上記復元画像が用いる整形パラメータを決定することは、上記画像層整形パラメータと、シーケンス層整形パラメータと、第1の別整形パラメータとをそれぞれ利用して復元画像に対して整形処理を行うことと、復元画像に対して整形処理を行って得られたHDR画像と目標HDR画像との誤差の最小なパラメータは復元画像が用いる整形パラメータであると決定することとを含む。
一代替実施例において、決定された上記復元画像が用いる整形パラメータを、現在の符号化画像のビットが所在する動画ビットストリームに書き込み、又は処理対象となる動画ビットストリームの画像及び/又はスライス層データユニットに書き込むことは、上記復元画像が用いる整形パラメータがシーケンス層整形パラメータである場合、スライスヘッダにおいて、PPS以外の画像及び/又はスライス層パラメータセットを使用しないと識別する情報を符号化することと、復元画像が用いる整形パラメータが第1の別整形パラメータである場合、スライスヘッダにおいて、PPS以外の画像及び/又はスライス層パラメータセットを使用すると識別する情報を符号化し、第1の別整形パラメータが所在するパラメータセットのパラメータセットインデックス番号を符号化することと、復元画像が用いる整形パラメータが画像層整形パラメータである場合、画像層整形パラメータに対して符号化し、符号化ビットを新規のパラメータセットデータユニットに書き込むこととを含む。ここで、当該新規のパラメータセットデータユニットにはパラメータセットインデックス番号が配置され、スライスヘッダにおいて、PPS以外の画像及び/又はスライス層パラメータセットを使用すると識別する情報を符号化し、上記パラメータセットインデックス番号を符号化する。以下、一代替実施例を参照しながら説明する。
代替実施例7
本実施例は、HDR動画に対して符号化処理を行う装置に用いられる、代替実施例3に係る復号化方法に対応するHDR動画の符号化処理方法を提供する。本実施例に係る装置で生成されたビットストリームは、代替実施例3に係る復号化処理装置によって適切に処理されることが可能になる。本実施例に係る装置の入力は、オリジナルのHDR動画であり、出力は、HDR動画ビットストリーム又はHDR動画ビットストリームを含むトランスポートストリーム又はメディアファイルである。当該実施例は、以下のステップを含む。
ステップ1は、代替実施例6に係るステップ2と同じであるため、ここでは説明を省略する。
ステップ2は、代替実施例6に係るステップ2と同じであるため、ここでは説明を省略する。
ステップ3において、エンコーダによる復元SDR画像をHDR画像に変換させる整形手順における整形パラメータを選択する。
符号化処理機器は、シーケンス層整形パラメータと、画像層整形パラメータと、使用されたPPS以外の画像/スライス層パラメータセット(上記画像及び/又はスライス層パラメータセットと同じである)において符号化された1つ又は複数の整形パラメータ(上記第1の別整形パラメータに対応する)とから、エンコーダによってSDR画像を復元することに用いられる整形パラメータを選択する。1種の方法として、各候補整形パラメータをそれぞれ用いて復元SDR動画に対して整形処理を行って得られた、HDR動画とオリジナルのHDR動画との誤差を比較して、誤差がより低い方を選択して復元SDR画像の整形パラメータとする。ここで、誤差の計算は、従来の平均誤差基準、例えば、絶対誤差合計を採用しても良く、標準化機構のテストモデルと参照ソフトウェアで既存のHDR動画品質を評価する誤差基準を採用しても良い。
ステップ4において、整形パラメータに対して符号化を行い、符号化ビットを動画ビットストリームの画像及び/又はスライス層データユニットに書き込む。
符号化処理機器は、シーケンス層整形パラメータに対して符号化を行い、符号化ビットをPPSに書き込み、且つHDR動画符号化シーケンス全体に対する、新たなシーケンス層整形パラメータの再計算及び新たな整形パラメータを含むPPSの再生成をしない。
代替実施例3に記載の復号化処理機器に対応して、復元SDR画像がシーケンス層整形パラメータ又はPPS以外の画像/スライス層パラメータセットにおいて符号化された整形パラメータを使用する場合、ステップ3における画像層の候補整形パラメータに対して符号化を行わない。逆に、復元SDR画像が画像層整形パラメータを使用する場合、符号化処理機器は、新たなパラメータセットデータユニットを生成し、それに対してパラメータセットインデックス番号を分配し、使用される画像層整形パラメータに対して符号化し、符号化ビットを上記パラメータセットデータユニットに書き込む。上記手順において、符号化処理機器は、シーケンス層整形パラメータを使用する場合、符号化処理機器は、スライスヘッダにおいて「PPS以外の他の画像/スライス層パラメータセットを使用しない」という識別情報を符号化し、逆に、符号化処理機器は、スライスヘッダにおいて「PPS以外の他の画像/スライス層パラメータセットを使用する」という識別情報を符号化し、その後に、使用される整形パラメータが所在する画像/スライス層インデックス番号を符号化する。
なお、代替実施例5に係る符号化処理装置と類似した最適化方法は、本実施例に係る符号化処理装置にも適用可能である。
代替実施例6に係る符号化処理機器と比較して、本実施例に係る符号化処理装置は、整形パラメータをパラメータセットにおいて符号化し、符号化された整形パラメータをより柔軟に選択でき、情報利用率が向上され、追加の符号化コストが低減される。同時に、パラメータセットの特性を利用して、符号化処理装置は、PPS以外の画像/スライス層パラメータセットに対してAU内伝送とAU外伝送との2種の方式を選択し、伝送效率を両立するとともに、整形パラメータ伝送の信頼性が向上される。例えば、符号化処理装置が所在する発信側は、復号化処理装置を含む受信側によりフィードバックされたパラメータセットの消失を受信する場合、消失パラメータセットのインデックス番号によって、同じ内容のパラメータセットを再送する方式を採用してエラー復元を行うことができる。
一代替実施例において、上記画像層整形パラメータとシーケンス層整形パラメータとによって復元画像が用いる整形パラメータを決定することは、画像層整形パラメータと、シーケンス層整形パラメータと、トランスポートストリーム又はメディアファイルのシステム層において符号化された1つ又は複数の第2の別整形パラメータとから、上記復元画像が用いる整形パラメータを決定することを含む。オプションとして、上記画像層整形パラメータと、シーケンス層整形パラメータと、第2の別整形パラメータとから復元画像が用いる整形パラメータを決定することは、画像層整形パラメータと、シーケンス層整形パラメータと、第2の別整形パラメータとをそれぞれ利用して復元画像に対して整形処理を行うことと、上記復元画像に対して整形処理を行って得られたHDR画像と目標HDR画像との誤差の最小なパラメータが復元画像が用いる整形パラメータであると決定することとを含む。
一代替実施例において、決定された上記復元画像が用いる整形パラメータを、現在の符号化画像のビットが所在する動画ビットストリームに書き込み、又は処理対象となる動画ビットストリームの画像及び/又はスライス層データユニットに書き込むことは、上記復元画像が用いる整形パラメータがシーケンス層整形パラメータである場合、システム層において第5の識別情報を符号化することと、復元画像が用いる整形パラメータが画像層整形パラメータである場合、上記システム層において画像層整形パラメータを符号化することと、上記復元画像が用いる整形パラメータが第2の別整形パラメータである場合、システム層において第2の別整形パラメーを符号化すること、或いは、システム層において第6の識別情報を符号化することとを含む。ここで、当該第5の識別情報は、復元画像が用いる整形パラメータを、上記システム層において符号化された整形パラメータを使用しないように指示するために用いられ、上記第6の識別情報は、上記復元画像が用いる整形パラメータを、上記システム層において符号化された整形パラメータを使用するように指示するための用いられる。
一代替実施例において、上記システム層において上記復元画像に対して二次整形を行うための整形パラメータと、二次整形処理の実行方式を指示するための制御情報とを符号化する。以下、代替実施例を参照しながら説明する。
代替実施例8
本実施例は、HDR動画に対して符号化処理を行う装置に用いられる代替実施例4に係る復号化方法に対応するHDR動画の符号化処理方法を提供する。当該実施例に係る装置で生成されたビットストリームは、代替実施例4に係る復号化処理装置によって適切に処理されることが可能になる。当該実施例に係る装置の入力は、オリジナルのHDR動画であり、出力は、HDR動画ビットストリームを含むトランスポートストリーム又はメディアファイルである。当該実施例は、以下のステップを含む。
ステップ1は、代替実施例7に係るステップ1と同じであるため、ここでは説明を省略する。
ステップ2は、代替実施例7に係るステップ2と同じであるため、ここでは説明を省略する。
ステップ3において、エンコーダによる復元SDR画像をHDR画像に変換させる整形手順における整形パラメータを選択する。
符号化処理機器は、シーケンス層整形パラメータと、画像層整形パラメータと、トランスポートストリーム又はメディアファイルのシステム層において符号化された1つ又は複数の整形パラメータとから、エンコーダによってSDR画像を復元することに用いられる整形パラメータを選択する。1種の方法として、各候補整形パラメータをそれぞれ用いて復元SDR動画に対して整形処理を行って得られた、HDR動画とオリジナルのHDR動画との誤差を比較して、誤差がより低い方を選択して復元SDR画像の整形パラメータとする。ここで、誤差の計算は、従来の平均誤差基準、例えば、絶対誤差合計を採用しても良く、標準化機構のテストモデルと参照ソフトウェアで既存のHDR動画品質を評価する誤差基準を採用しても良い。
ステップ4において、整形パラメータに対して符号化を行い、符号化ビットを動画ビットストリームにおける画像及び/又はスライス層データユニットに書き込む。
符号化処理機器は、シーケンス層整形パラメータに対して符号化を行い、符号化ビットをPPSに書き込み、且つHDR動画符号化シーケンス全体に対する、新たなシーケンス層整形パラメータの再計算及び新たな整形パラメータを含むPPSの再生成をしない。
代替実施例4に係る復号化処理機器に対応して、復元SDR画像がシーケンス層整形パラメータを使用する場合、オプションとして、符号化処理機器は、システム層において画像層整形パラメータを符号化しないとともに、システム層において識別情報(上記第5の識別情報に対応する)を符号化し、現在のAUをシステム層において符号化された整形パラメータを使用しないように指示しても良く、オプションとして、符号化処理機器は、SDR復元画像に対して2回の整形処理を使用する処理方法を選択して、システム層ビットストリームでシーケンス層整形パラメータを用いて処理された画像に対して第2の次整形処理を行うための整形パラメータを符号化しでも良い。符号化処理機器は、システム層において整形処理の実行方式を指示するための制御情報を符号化する。
代替実施例4に係る復号化処理機器に対応して、復元SDR画像がシーケンス層整形パラメータを使用しない場合、オプションとして、符号化処理機器は、システム層においてSDR画像整形処理に用いられる整形パラメータを符号化し、符号化された整形パラメータは、画像層整形パラメータであっても良く、システム層において符号化された整形パラメータを使用する識別情報(上記第6の識別情報に対応する)を指示するために用いられ、オプションとして、符号化処理機器は、SDR復元画像に対して2回の整形処理を行う処理方法を選択しても良く、HDR動画ビットストリームで画像層整形パラメータ(例えば、上記代替実施例5、代替実施例6又は代替実施例7に係る方法)を符号化し、その後に画像層整形パラメータ又はシステム層において符号化された整形パラメータを用いてSDR復元画像に対して整形処理を行った後の画像に対して整形処理もう1回を行うための整形パラメータを更に計算し、システム層において当該整形パラメータを符号化する同時に、符号化処理機器は、システム層において整形処理の実行方式を指示するための制御情報を符号化する。
なお、代替実施例5に係る符号化処理装置と類似した最適化方法は、本実施例に係る符号化処理装置にも適用可能である。
代替実施例7に係る符号化処理機器に比較して、本実施例に係る符号化処理機器は、トランスポートストリーム又はメディアファイルで整形パラメータを符号化し、且つ整形処理の実行方式の制御情報を符号化し、符号化処理機器は、より柔軟にSDR画像に対して整形処理を行う同時に、より効果的にシステム層において符号化された整形パラメータを利用することができる。同時に、オプションとして、符号化処理機器は、SDR復元画像に対してカスケード整形を行う動作方式を選択し、システム層においてSDR復元画像に対して「二次整形処理」を行うための整形パラメータを符号化し、SDR復元画像の整形処理の精度を更に向上させ、復元HDR動画の品質を向上させることができる。
以上の実施形態の説明により、当業者であればはっきりと理解するであろう、上記の実施例による方法は、ソフトウェア及び必要な汎用ハードウェアプラットフォームによって実現されることができ、もちろんハードウェアを介してもよいが、多くの場合、前者がより良い実施態様である。この理解に基づき、本発明の技術手段は、本質的な、すなわち先行技術に貢献する部分は、ソフトウェア製品の形態で具体化することができる。当該コンピュータソフトウェア製品は、記憶媒体(例えば、ROM/RAM、磁気ディスク、光ディスク)に記憶され、端末装置(携帯電話、コンピュータ、サーバ又はネットワークデバイス等)に本発明の各実施例に記載の方法を実行させるための幾つかの指令を含む。
本実施例において、上記実施例及び代替実施例を達成するための画像復号化処理装置及び画像符号化処理装置を更に提供し、既に説明したものは、ここではその説明を省略する。以下に使用されるように、「モジュール」という用語は、所定の機能を実現可能なソフトウェア及び/又はハードウェアの組合わせである。以下の実施例で説明する装置は、好ましくはソフトウェアで実現されるが、ハードウェア又はソフトウェアとハードウェアの組合わせの実現も可能で想像されるものである。
図3は、本発明の実施例による画像復号化処理装置の構成ブロック図であり、図3に示すように、当該装置は、第1の決定モジュール32と処理モジュール34とを備える。以下、当該装置について説明する。
第1の決定モジュール32は、動画ビットストリームを解析し、動画ビットストリームの画像及び/又はスライス層データユニットから整形パラメータを取得し、取得された整形パラメータによって復元画像が用いる整形パラメータを決定するように設置され、処理モジュール34は、上記決定モジュール32に接続され、上記復元画像が用いる整形パラメータを用いて復元画像に対して整形処理を行うように設置される。ここで、当該復元画像は、整形処理が行われる前に、動画ビットストリームを復号化して得られた画像であり、当該画像及び/又はスライス層データユニットは、画像パラメータセットPPSとは異なる画像及び/又はスライス層パラメータセットと、復元画像に対応するアクセスユニットAUに含まれるパラメータデータユニットと、スライスヘッダと、システム層画像パラメータデータユニットとの少なくとも1つのデータユニットを含む。
図4は、本発明の実施例による画像復号化処理装置の選択的な構成ブロック図であり、図4に示すように、当該装置は、図3に示されるすべてのモジュールに加えて、第3の決定モジュール42と取得モジュール44とを更に含む。以下、当該装置について説明する。
第3の決定モジュール42は、動画ビットストリームの上記画像及び/又はスライス層データユニットから上記整形パラメータを取得し、取得された上記整形パラメータによって復元画像が用いる整形パラメータを決定する前には、動画ビットストリームにおいてAUに含まれるスライスヘッダにおけるPPSパラメータセットインデックス番号を決定するように設置され、取得モジュール44は、上記第3の決定モジュール42と第1の決定モジュール32とに接続され、上記パラメータセットインデックス番号により参照されるPPSに応じて復元画像が用いる整形パラメータを取得するように設置される。
一代替実施例において、取得モジュール44は、PPSの拡張部分及び/又はPPSにより参照されるパラメータセットに第1の整形パラメータが担持されているか否かを判定し、判定結果が「YES」である場合、取得された上記復元画像が用いる整形パラメータが第1の整形パラメータであると決定し、及び/又は、判定結果が「NO」である場合、取得された上記復元画像が用いる整形パラメータが既定値又は空であると決定することで、パラメータセットインデックス番号により参照されるPPSに応じて復元画像が用いる整形パラメータを取得することができる。
一代替実施例において、上記第1の決定モジュール32は、上記スライスヘッダの拡張部分を解析し、第2の整形パラメータを得て、当該第2の整形パラメータを用いて復元画像が用いる整形パラメータを更新または再決定することで、動画ビットストリームの画像及び/又はスライス層データユニットから整形パラメータを取得し、取得された整形パラメータによって復元画像が用いる整形パラメータを決定することができる。
一代替実施例において、上記第1の決定モジュール32は、さらに、上記動画ビットストリームにおいてAUに含まれるパラメータデータユニットを解析し、第3の整形パラメータを取得し、第3の整形パラメータを用いて上記復元画像が用いる整形パラメータを更新または再決定するか、或いは、事前設定された整形パラメータ決定方法によって、復元画像が用いる整形パラメータが第3の整形パラメータであると決定することで、動画ビットストリームの画像及び/又はスライス層データユニットから整形パラメータを取得し、取得された整形パラメータによって復元画像が用いる整形パラメータを決定することができる。ここで、当該パラメータデータユニットは、AUに含まれるスライスビットストリームデータユニットとは独立したデータユニットである。
一代替実施例において、動画ビットストリームにおいてAUに含まれるスライスヘッダにおけるPPSパラメータセットインデックス番号を決定し、当該パラメータセットインデックス番号により参照されるPPSに応じて復元画像が用いる整形パラメータを取得し、上記第3の整形パラメータを用いて取得された復元画像が用いる整形パラメータを更新または再決定することで、第3の整形パラメータを用いて復元画像が用いる整形パラメータを更新または再決定することができる。
一代替実施例において、PPSの拡張部分及び/又はPPSにより参照されるパラメータセットに第1の整形パラメータが担持されているか否かを判定し、判定結果が「YES」である場合、取得された復元画像が用いる整形パラメータが第1の整形パラメータであると決定し、及び/又は、判定結果が「NO」である場合、取得された復元画像が用いる整形パラメータが既定値又は空であると決定することで、パラメータセットインデックス番号により参照されるPPSに応じて上記復元画像が用いる整形パラメータを取得することができる。
一代替実施例において、上記第3の整形パラメータは、AUの直前のAUに含まれるパラメータデータユニットを解析して得られた第4の整形パラメータを含む。
一代替実施例において、上記事前設定された整形パラメータ決定方法は、デフォルトの決定方法と、動画パラメータセットVPSを解析して得られた整形パラメータを指示するための第1の識別情報を利用して決定する方法と、シーケンスパラメータセットSPSを解析して得られた整形パラメータを指示するための第2の識別情報を利用して決定する方法との少なくとも一種を含む。
一代替実施例において、上記第1の決定モジュール32は、さらに、AUに含まれるスライスヘッダを解析し、第3の識別情報を取得し、第3の識別情報は指示復元画像が用いる整形パラメータをPPS以外の他の画像及び/又はスライス層パラメータセットに応じて決定するように指示する場合、AUに含まれるスライスヘッダを解析し、上記他の画像及び/又はスライス層パラメータセットのインデックス番号を取得し、インデックス番号が他の画像及び/又はスライス層パラメータセットのインデックス番号とは同じであるパラメータセットを活性化し、第5の整形パラメータを取得し、当該第5の整形パラメータを用いて、取得された復元画像が用いる整形パラメータを更新または再決定することで、動画ビットストリームの画像及び/又はスライス層データユニットから整形パラメータを取得し、取得された整形パラメータによって復元画像が用いる整形パラメータを決定することができる。ここで、当該第3の識別情報は、復元画像が用いる整形パラメータがPPS以外の他の画像及び/又はスライス層パラメータセットに応じて決定するか否かを指示するために用いられる。
一代替実施例において、上記第1の決定モジュール32は、さらに、上記動画ビットストリームを運ぶためのトランスポートストリーム又はメディアファイルにおけるシステム層画像パラメータデータユニットから第6の整形パラメータを取得し、当該第6の整形パラメータを用いて復元画像が用いる整形パラメータを更新または再決定し、或いは、復元画像が用いる整形パラメータが当該第6の整形パラメータであると決定することで、動画ビットストリームを解析し、上記動画ビットストリームの画像及び/又はスライス層データユニットから整形パラメータを取得し、取得された整形パラメータによって復元画像が用いる整形パラメータを決定することができる。ここで、上記システム層画像パラメータデータユニットは、動画ビットストリームにおけるアクセスユニットAUに対応する記述情報又は補助情報を含む。
一代替実施例において、上記第6の整形パラメータを用いて復元画像が用いる整形パラメータを更新または再決定することは、動画ビットストリームにおいてAUに含まれるスライスヘッダにおけるPPSパラメータセットインデックス番号を決定することと、当該パラメータセットインデックス番号により参照されるPPSに応じて復元画像が用いる整形パラメータを取得することと、上記第6の整形パラメータを用いて取得された復元画像が用いる整形パラメータを更新または再決定することとを含む。
一代替実施例において、上記パラメータセットインデックス番号により参照されるPPSに応じて復元画像が用いる整形パラメータを取得することは、PPSの拡張部分及び/又はPPSにより参照されるパラメータセットに第1の整形パラメータが担持されているか否かを判定することと、判定結果が「YES」である場合、取得された復元画像が用いる整形パラメータが上記第1の整形パラメータであると決定し、及び/又は、判定結果が「NO」である場合、取得された復元画像が用いる整形パラメータが既定値又は空であると決定することとを含む。
一代替実施例において、上記システム層画像パラメータデータユニットから取得された、整形処理を実行するか否かを示す識別パラメータと、ダイナミックレンジ整形パラメータと、色空間整形パラメータと、整形パラメータ使用範囲との少なくとも1つのパラメータに応じて整形パラメータを決定することで、上記動画ビットストリームを運ぶためのトランスポートストリーム又はメディアファイルにおけるシステム層画像パラメータデータユニットから上記整形パラメータを取得することができる。
一代替実施例において、上記画像復号化処理装置は、二次整形パラメータ取得モジュールと二次整形処理モジュールとを更に含んでも良い。ここで、当該二次整形パラメータ取得モジュールと二次整形処理モジュールとは、上記画像復号化処理装置における各モジュールとの接続関係において限定されなくでも良く、すなわち、当該二次整形パラメータ取得モジュール及び二次整形処理モジュールで実行された動作と、上記画像復号化処理装置に含まれるモジュールで実行された動作との優先順位は限定されなくでも良い。以下、当該二次整形パラメータ取得モジュール及び二次整形処理モジュールについて説明する。
二次整形パラメータ取得モジュールは、動画ビットストリームを運ぶためのトランスポートストリーム又はメディアファイルにおけるシステム層画像パラメータデータユニット(他のシステム層情報ユニットであっでも良い)から、復元画像に対して二次整形処理を行うための整形パラメータを取得するように設置される。ここで、当該システム層情報ユニットは、動画ビットストリームにおけるアクセスユニットAUに対応する記述情報又は補助情報を含む。二次整形処理モジュールは、上記二次整形パラメータ取得モジュールに接続され、取得された復元画像に対して二次整形処理を行うための整形パラメータを利用して、復元画像に対して二次整形処理を行うように設置される。
一代替実施例において、上記二次整形パラメータ取得モジュールは、システム層画像パラメータデータユニットから取得された、整形処理を実行するか否かを示す識別パラメータと、ダイナミックレンジ整形パラメータと、色空間整形パラメータと、整形パラメータ使用範囲との少なくとも1つのパラメータに応じて、復元画像に対して二次整形処理を行うための整形パラメータを決定することで、動画ビットストリームを運ぶためのトランスポートストリーム又はメディアファイルにおけるシステム層画像パラメータデータユニットから、復元画像に対して二次整形処理を行うための整形パラメータを取得することができる。
図5は、本発明の実施例による画像符号化処理装置の構成ブロック図であり、図5に示すように、当該装置は、決定モジュール52と書き込みモジュール54とを備える。以下、当該装置について説明する。
決定モジュール52は、復元画像をハイダイナミックレンジ動画HDR画像に変換させるのに用いられる復元画像が用いる整形パラメータを決定するように設置される。ここで、当該復元画像は、エンコーダが整形処理を実行する前に、現在の符号化画像に対する復元標準ダイナミックレンジSDR画像であり、或いは、当該復元画像は、処理対象となる動画ビットストリームを復号化して得られたSDR画像である。書き込みモジュール54は、上記決定モジュール52に接続され、決定された上記復元画像が用いる整形パラメータを、現在の符号化画像のビットが所在する動画ビットストリームに書き込み、又は処理対象となる動画ビットストリームの画像及び/又はスライス層データユニットに書き込むように設置される。ここで、当該画像及び/又はスライス層データユニットは、画像パラメータセットPPSとは異なる画像及び/又はスライス層パラメータセットと、上記復元画像に対応するアクセスユニットAUに含まれるパラメータデータユニットと、スライスヘッダと、システム層画像パラメータデータユニットとの少なくとも1つのデータユニットを含む。
一代替実施例において、上記決定モジュール52は、画像層整形パラメータとシーケンス層整形パラメータとを決定し、上記画像層整形パラメータとシーケンス層整形パラメータとによって復元画像が用いる整形パラメータを決定することで、復元画像をハイダイナミックレンジ動画HDR画像に変換させるのに用いられる、復元画像が用いる整形パラメータを決定することができる。ここで、当該画像層整形パラメータは、上記復元画像と目標HDR画像との誤差を最小化する整形処理手順に用いられるフィルタ係数を含み、シーケンス層整形パラメータは、目標HDR画像により構成される目標HDR動画のダイナミックレンジ及び色空間と、復元画像により構成される復元動画のダイナミックレンジ及び色空間とに応じて決定された、復元動画のダイナミックレンジから上記目標HDR動画のダイナミックレンジまで拡張されたマッピングパラメータ、及び/又は復元動画の色空間から目標HDR動画の色空間への変換パラメータを含む。
一代替実施例において、上記目標HDR画像は、エンコーダに入力されたオリジナルのHDR動画において上記復元画像に対応するHDR画像である。
一代替実施例において、上記画像層整形パラメータとシーケンス層整形パラメータとをそれぞれ利用して復元画像に対して整形処理を行い、当該復元画像に対して整形処理を行って得られたHDR画像と目標HDR画像との誤差の最小なパラメータは復元画像が用いる整形パラメータであると決定することで、画像層整形パラメータとシーケンス層整形パラメータとによって復元画像が用いる整形パラメータを決定することができる。
一代替実施例において、上記書き込みモジュール54は、復元画像が用いる整形パラメータがシーケンス層整形パラメータである場合、当該シーケンス層整形パラメータに対して符号化を行い、符号化された符号化ビットを、現在の符号化画像のビットが所在する動画ビットストリームに書き込み、又は処理対象となる動画ビットストリームの画像パラメータセットPPS及び/又はPPSにより参照されるパラメータセットに書き込み、上記復元画像が用いる整形パラメータが画像層整形パラメータである場合、画像層整形パラメータに対して符号化を行い、符号化された符号化ビットを、現在の符号化画像のビットが所在する動画ビットストリームに書き込み、又は上記処理対象となる動画ビットストリームにおけるアクセスユニットAUに含まれるスライスヘッダに書き込むことで、決定された復元画像が用いる整形パラメータを、現在の符号化画像のビットが所在する動画ビットストリームに書き込み、又は処理対象となる動画ビットストリームの画像及び/又はスライス層データユニットに書き込むことができる。
一代替実施例において、上記画像層整形パラメータと、シーケンス層整形パラメータと、現在の符号化順に従う直前の符号化画像に使用される整形パラメータとから、上記復元画像が用いる整形パラメータを決定することで、上記画像層整形パラメータとシーケンス層整形パラメータとによって復元画像が用いる整形パラメータを決定することができる。
一代替実施例において、画像層整形パラメータと、シーケンス層整形パラメータと、直前の符号化画像に使用される整形パラメータとをそれぞれ利用して、復元画像に対して整形処理を行い、上記復元画像に対して整形処理を行って得られたHDR画像と目標HDR画像との誤差の最小なパラメータが復元画像が用いる整形パラメータであると決定することで、画像層整形パラメータと、シーケンス層整形パラメータと、現在の符号化順に従う直前の符号化画像に使用される整形パラメータとから、上記復元画像が用いる整形パラメータを決定することができる。
一代替実施例において、上記書き込みモジュール54は、上記復元画像が用いる整形パラメータがシーケンス層整形パラメータである場合、シーケンス層整形パラメータに対して符号化を行い、符号化された符号化ビットを、現在の符号化画像のビットが所在する動画ビットストリームに書き込み、又は処理対象となる動画ビットストリームの画像パラメータセットPPS及び/又はPPSにより参照されるパラメータセットに書き込み、上記復元画像が用いる整形パラメータが画像層整形パラメータ又は直前の符号化画像に使用される整形パラメータである場合、上記画像層整形パラメータ又は直前の符号化画像に用される整形パラメータに対して符号化を行い、符号化された符号化ビットを、現在の符号化画像のビットが所在する動画ビットストリームに書き込み、又は処理対象となる動画ビットストリームにおけるアクセスユニットAUに含まれるパラメータデータユニットに書き込み、或いは、上記復元画像が用いる整形パラメータが画像層整形パラメータである場合、画像層整形パラメータに対して符号化を行い、符号化された符号化ビットを、現在の符号化画像のビットが所在する動画ビットストリームに書き込み、又は上記処理対象となる動画ビットストリームにおけるアクセスユニットAUに含まれるパラメータデータユニットに書き込み、上記復元画像が用いる整形パラメータが直前の符号化画像に使用される整形パラメータである場合、現在の符号化画像のビットが所在する動画ビットストリーム、又は処理対象となる動画ビットストリームにおけるアクセスユニットAUで第4の識別情報を符号化することで、決定された復元画像が用いる整形パラメータを、現在の符号化画像のビットが所在する動画ビットストリームに書き込み、又は処理対象となる動画ビットストリームの画像及び/又はスライス層データユニットに書き込むことができる。ここで、当該第4の識別情報は、整形パラメータが直前の符号化画像に使用される整形パラメータであることを指示するために用いられ、当該パラメータデータユニットは、AUに含まれるスライスビットストリームデータユニットとは独立したデータユニットである。
一代替実施例において、上記画像符号化処理装置は、上記のモジュールに加えて、符号化モジュールを更に含んでも良い。当該符号化モジュールと画像符号化処理装置における上記モジュールとの接続順は限定されなくても良く、すなわち、当該符号化モジュールで実行された動作と画像符号化処理装置における上記モジュールで実行された動作の優先順位は限定されない。以下、当該符号化モジュールについて説明する。
符号化モジュールは、動画パラメータセットVPSで整形パラメータを指示するための第1の識別情報を符号化する方式と、シーケンスパラメータセットSPSで整形パラメータを指示するための第2の識別情報を符号化する方式との少なくとも1つの方式で整形パラメータを指示するための識別情報を符号化するように設置される。
一代替実施例において、上記画像層整形パラメータと、シーケンス層整形パラメータと、使用された上記復元画像に対応するアクセスユニットAUに含まれるスライスヘッダにおける画像パラメータセットPPS以外の画像及び/又はスライス層パラメータセットにおいて符号化された1つ又は複数の第1の別整形パラメータとから、上記復元画像が用いる整形パラメータを決定することで、上記画像層整形パラメータとシーケンス層整形パラメータとによって復元画像が用いる整形パラメータを決定することができる。
一代替実施例において、画像層整形パラメータと、シーケンス層整形パラメータと、第1の別整形パラメータとをそれぞれ利用して復元画像に対して整形処理を行い、当該復元画像に対して整形処理を行って得られたHDR画像と目標HDR画像との誤差の最小なパラメータが上記復元画像が用いる整形パラメータであると決定することで、画像層整形パラメータと、シーケンス層整形パラメータと、第1の別整形パラメータとから上記復元画像が用いる整形パラメータを決定することができる。
一代替実施例において、上記書き込みモジュール54は、上記復元画像が用いる整形パラメータがシーケンス層整形パラメータである場合、スライスヘッダにおいてPPS以外の画像及び/又はスライス層パラメータセットを使用しないと識別する情報を符号化し、上記復元画像が用いる整形パラメータが第1の別整形パラメータである場合、スライスヘッダにおいてPPS以外の画像及び/又はスライス層パラメータセットを使用すると識別する情報を符号化し、上記第1の別整形パラメータが所在するパラメータセットのパラメータセットインデックス番号を符号化し、上記復元画像が用いる整形パラメータが画像層整形パラメータである場合、上記画像層整形パラメータに対して符号化を行い、符号化ビットを新規のパラメータセットデータユニットに書き込むことで、決定された上記復元画像が用いる整形パラメータを、現在の符号化画像のビットが所在する動画ビットストリームに書き込み、又は処理対象となる動画ビットストリームの画像及び/又はスライス層データユニットに書き込むことができる。ここで、当該新規のパラメータセットデータユニットにはパラメータセットインデックス番号が配置され、スライスヘッダにおいてPPS以外の画像及び/又はスライス層パラメータセットを使用すると識別する情報を符号化し、上記パラメータセットインデックス番号を符号化する。
一代替実施例において、画像層整形パラメータと、シーケンス層整形パラメータと、トランスポートストリーム又はメディアファイルのシステム層において符号化された1つ又は複数の第2の別整形パラメータとから、上記復元画像が用いる整形パラメータを決定することで、上記画像層整形パラメータとシーケンス層整形パラメータとによって復元画像が用いる整形パラメータを決定することができる。
一代替実施例において、上記画像層整形パラメータと、シーケンス層整形パラメータと、第2の別整形パラメータとをそれぞれ利用して復元画像に対して整形処理を行い、上記復元画像に対して整形処理を行って得られたHDR画像と目標HDR画像との誤差の最小なパラメータが復元画像が用いる整形パラメータであると決定することで、上記画像層整形パラメータと、シーケンス層整形パラメータと、第2の別整形パラメータとから復元画像が用いる整形パラメータを決定することができる。
一代替実施例において、上記書き込みモジュール54は、上記復元画像が用いる整形パラメータがシーケンス層整形パラメータである場合、システム層において第5の識別情報を符号化し、上記復元画像が用いる整形パラメータが画像層整形パラメータである場合、上記システム層において画像層整形パラメータを符号化し、上記復元画像が用いる整形パラメータが第2の別整形パラメータである場合、上記システム層において第2の別整形パラメータを符号化し、或いは、上記システム層において第6の識別情報を符号化することで、決定された復元画像が用いる整形パラメータを、上記現在の符号化画像のビットが所在する動画ビットストリームに書き込み、又は処理対象となる動画ビットストリームの画像及び/又はスライス層データユニットに書き込むことができる。ここで、上記第5の識別情報は、復元画像が用いる整形パラメータを、上記システム層において符号化された整形パラメータを使用しないように指示するために用いられ、当該第6の識別情報は、復元画像が用いる整形パラメータを、上記システム層において符号化された整形パラメータを使用するように指示するために用いられる。
一代替実施例において、上記システム層において、復元画像に対して二次整形を行うための整形パラメータと、二次整形処理の実行方式を指示するための制御情報が符号化される。
図6は、本発明の実施例によるデコーダの構成ブロック図であり、図6に示すように、当該デコーダ62は、上記いずれか一項に記載の画像復号化処理装置64を含む。
図7は、本発明の実施例によるエンコーダの構成ブロック図であり、図7に示すように、当該エンコーダ72は、上記いずれか一項に記載の画像符号化処理装置74を含む。
本発明の実施例では、復号化処理機器(例えば、上記デコーダ62)及び/又は符号化処理機器(例えば、上記エンコーダ72)を含む電子機器を更に提供する。
ここで、上記復号化処理機器は、例えば、上記代替実施例1、代替実施例2、代替実施例3及び代替実施例4のいずれか一種の復号化処理機器の実施方法を採用して、HDR動画ビットストリーム又はHDR動画ビットストリームを含むトランスポートストリーム又はメディアファイルを処理し、再生に適合するHDR復元動画を生成することができる。
上記符号化処理機器は、例えば、上記対応する代替実施例5、代替実施例6、代替実施例7及び代替実施例8のいずれか一種の符号化処理機器の実施方法を採用して、HDR動画(すなわち、入力されたオリジナルのHDR動画)に対して処理し、HDR動画ビットストリーム又はHDR動画ビットストリームを含むトランスポートストリーム又はメディアファイルを生成することができる。
本実施例に係る電子機器は、例えば、携帯電話、コンピュータ、サーバ、セットトップボックス、携帯型移動端末、デジタル動画カメラ、テレビジョン放送システム装置等の動画通信アプリケーションに関連するビットストリーム生成装置及び受信再生装置であっても良い。
なお、上記の各モジュールは、ソフトウェア又はハードウェアにより実現されてもよく、後者については、以下の方式で実現されてもよいが、これに限定されない。上記のモジュールはすべて同一プロセッサ内に位置され、或いは、上記のモジュールはそれぞれ複数のプロセッサに位置されている。
本発明の実施例では、記憶媒体を更に提供する。オプションとして、本実施例において、上記記憶媒体は、
動画ビットストリームを解析し、当該動画ビットストリームの画像及び/又はスライス層データユニットから整形パラメータを取得し、取得された整形パラメータによって復元画像が用いる整形パラメータを決定するステップS11と、
上記復元画像が用いる整形パラメータを用いて復元画像に対して整形処理を行うステップS12とを実行するためのプログラムコードを記憶するように設置されても良い。
ここで、当該復元画像は、整形処理が行われる前に、動画ビットストリームを復号化して得られた画像であり、上記画像及び/又はスライス層データユニットは、画像パラメータセットPPSとは異なる画像及び/又はスライス層パラメータセットと、上記復元画像に対応するアクセスユニットAUに含まれるパラメータデータユニットと、スライスヘッダと、システム層画像パラメータデータユニットとの少なくとも1つのデータユニットを含む。
オプションとして、記憶媒体は、更に、
復元画像をハイダイナミックレンジ動画HDR画像に変換させるのに用いられる上記復元画像が用いる整形パラメータを決定するステップS21と、
決定された上記復元画像が用いる整形パラメータを、現在の符号化画像のビットが所在する動画ビットストリームに書き込み、又は処理対象となる動画ビットストリームの画像及び/又はスライス層データユニットに書き込むステップS22とを実行するためのプログラムコードを記憶するように設置される。
ここで、当該復元画像は、エンコーダが整形処理を実行する前に、現在の動画に対して画像符号化した復元標準ダイナミックレンジSDR画像であり、或いは、当該復元画像は、処理対象となる動画ビットストリームを復号化して得られたSDR画像であり、当該画像及び/又はスライス層データユニットは、画像パラメータセットPPSとは異なる画像及び/又はスライス層パラメータセットと、上記復元画像に対応するアクセスユニットAUに含まれるパラメータデータユニットと、スライスヘッダと、システム層画像パラメータデータユニットとの少なくとも1つのデータユニットを含む。
オプションとして、本実施例において、上記記憶媒体は、Uディスク、読み出し専用メモリ(Read-Only Memory、ROMと略称する)、ランダムアクセスメモリ(Random Access Memory、RAMと略称する)、リムーバブルハードディスク、磁気ディスク又は光ディスク等の様々なプログラムコードを記憶可能な媒体を含むことができるが、これに限定されない。
オプションとして、本実施例において、プロセッサは、記憶媒体に記憶されたプログラムコードに従って上記各方法の実施例に係るステップを実行する。
オプションとして、本実施例に係る具体的な例は、上記実施例及び代替実施例で説明した例を参照することができ、本実施例は、ここでは説明を省略する。
明らかに、当業者であれば理解するであろう、上述した本発明の各モジュール又は各ステップは、汎用の計算装置により実現可能であり、単一の計算装置に集中するか、或いは複数の計算装置からなるネットワークに分散しでも良く、オプションとして、計算装置が実行可能なプログラムコードにより実現可能であり、これにより、記憶装置に記憶され、計算装置で実行することができ、更に場合によっては、ここで説明した以外の順序で図示又は説明したステップを実行してもよく、或いは、それらを個々の集積回路モジュールに作成し、或いはそれらの中の複数のモジュール又はステップを単一の集積回路モジュールに作成することで実現しでもよい。従って、本発明は、いずれかの特定のハードウェアとソフトウェアの組合わせには限定されない。
以上の説明は、本発明の代替実施例に過ぎず、本発明を限定するものではなく、当業者にとって、本発明には様々な変更と変化が可能である。本発明の要旨及び原則を逸脱しない範囲においての種々の変更、同等な入替、改善等は、いずれも本発明の保護範囲内に含まれるべきである。
上記の説明から分かるように、本発明では、復元画像に対して整形処理を行うための整形パラメータは、動画ビットストリームの画像及び/又はスライス層データユニットから取得された整形パラメータにより決定られるものであり、画像の視聴品質を効果的に向上させ、更に動画の視聴品質を向上させることができ、且つ整形パラメータの符号化コストを低減させることができる。上記ステップによれば、関連技術における動画視聴品質が劣り、整形パラメータの符号化コストが大きいという問題が解決され、動画視聴品質を向上させ、整形パラメータの符号化コストを低減させる効果が更に達成される。

Claims (19)

  1. 動画ビットストリームを解析し、前記動画ビットストリームの画像及び/又はスライス層データユニットから整形パラメータを取得し、取得された前記整形パラメータによって復元画像が用いる整形パラメータを決定することと、
    前記復元画像が用いる整形パラメータを用いて前記復元画像に対して整形処理を行うことと、を含む画像復号化処理方法であって、
    前記復元画像は、整形処理が行われる前に、前記動画ビットストリームを復号化して得られた画像であり、前記画像及び/又はスライス層データユニットは、画像パラメータセットPPSとは異なる画像及び/又はスライス層パラメータセット又は前記復元画像に対応するアクセスユニットAUに含まれるスライスヘッダを含み、
    前記整形処理は、ダイナミックレンジおよび色空間の変換を含み、
    前記動画ビットストリームの前記画像及び/又はスライス層データユニットから前記整形パラメータを取得し、取得された前記整形パラメータによって復元画像が用いる整形パラメータを決定する前には、
    前記動画ビットストリームにおいてAUに含まれるスライスヘッダにおけるPPSパラメータセットインデックス番号を決定することと、
    前記PPSパラメータセットインデックス番号により参照されるPPSに応じて前記復元画像が用いる整形パラメータを取得することとを更に含み、
    前記画像パラメータセットPPSにおいて、前記スライスヘッダの解析で得られたPPSパラメータセットインデックス番号と同じPPSパラメータセットインデックス番号を有するパラメータセットが探せなかった場合、エラー処理仕組みを作動させてエラー復元を行い、
    前記パラメータセットインデックス番号により参照されるPPSに応じて前記復元画像が用いる整形パラメータを取得することは、
    前記PPSの拡張部分及び/又は前記PPSにより参照されるパラメータセットに第1の整形パラメータが担持されているか否かを判定することと、
    判定結果が「YES」である場合、取得された前記復元画像が用いる整形パラメータが前記第1の整形パラメータであると決定し、及び/又は、判定結果が「NO」である場合、取得された前記復元画像が用いる整形パラメータが既定値又は空であると決定することとを含み、
    前記動画ビットストリームの前記画像及び/又はスライス層データユニットから前記整形パラメータを取得し、取得された前記整形パラメータによって復元画像が用いる整形パラメータを決定することは、
    前記スライスヘッダの拡張部分を解析し、第2の整形パラメータを得ることと、
    前記第2の整形パラメータを用いて、前記復元画像が用いる整形パラメータを更新または再決定することとを含む、
    画像復号化処理方法。
  2. 前記画像及び/又はスライス層データユニットは、前記復元画像に対応するアクセスユニットAUに含まれるパラメータデータユニットを含み、前記画像及び/又はスライス層データユニットは、前記復元画像に対応するアクセスユニットAUに含まれるパラメータデータユニットを含み、前記動画ビットストリームの前記画像及び/又はスライス層データユニットから前記整形パラメータを取得し、取得された前記整形パラメータによって復元画像が用いる整形パラメータを決定することは、
    前記動画ビットストリームにおいてAUに含まれるパラメータデータユニットを解析し、第3の整形パラメータを取得することと、
    前記第3の整形パラメータを用いて前記復元画像が用いる整形パラメータを更新または再決定し、或いは、
    事前設定された整形パラメータ決定方法によって、前記復元画像が用いる整形パラメータが前記第3の整形パラメータであると決定することとを含み、
    前記パラメータデータユニットは、前記AUに含まれるスライスビットストリームデータユニットとは独立したデータユニットであり、
    事前設定された整形パラメータ決定方法は、
    事前設定された決定方法と、動画パラメータセットVPSを解析して得られた整形パラメータを指示するための第1の識別情報を利用して決定する方法と、シーケンスパラメータセットSPSを解析して得られた整形パラメータを指示するための第2の識別情報を利用して決定する方法との少なくとも一種を含む、請求項1に記載の方法。
  3. 前記第3の整形パラメータを用いて前記復元画像が用いる整形パラメータを更新または再決定することは、
    前記動画ビットストリームにおいてAUに含まれるスライスヘッダにおけるPPSパラメータセットインデックス番号を決定することと、
    前記パラメータセットインデックス番号により参照されるPPSに応じて前記復元画像が用いる整形パラメータを取得することと、
    前記第3の整形パラメータを用いて、取得された前記復元画像が用いる整形パラメータを更新または再決定することとを含み、
    前記パラメータセットインデックス番号により参照される前記PPSに応じて前記復元画像が用いる整形パラメータを取得することは、
    前記PPSの拡張部分及び/又は前記PPSにより参照されるパラメータセットに第1の整形パラメータが担持されているか否かを判定することと、
    判定結果が「YES」である場合、取得された前記復元画像が用いる整形パラメータが前記第1の整形パラメータであると決定し、及び/又は、判定結果が「NO」である場合、取得された前記復元画像が用いる整形パラメータが既定値又は空であると決定することとを含む、請求項に記載の方法。
  4. 前記動画ビットストリームの前記画像及び/又はスライス層データユニットから前記整形パラメータを取得し、取得された前記整形パラメータによって復元画像が用いる整形パラメータを決定することは、
    前記AUに含まれる前記スライスヘッダを解析し、第3の識別情報を取得することと、
    前記第3の識別情報前記復元画像が用いる整形パラメータを前記PPS以外の他の画像及び/又はスライス層パラメータセットに応じて決定するように指示する場合、前記AUに含まれる前記スライスヘッダを解析し、前記他の画像及び/又はスライス層パラメータセットのインデックス番号を取得することと、
    インデックス番号が前記他の画像及び/又はスライス層パラメータセットのインデックス番号とは同じであるパラメータセットを活性化し、第5の整形パラメータを取得することと、
    前記第5の整形パラメータを用いて、取得された前記復元画像が用いる整形パラメータを更新または再決定することとを含み、
    前記第3の識別情報は、前記復元画像が用いる整形パラメータが前記PPS以外の他の画像及び/又はスライス層パラメータセットに応じて決定するか否かを指示するために用いられる、請求項に記載の方法。
  5. 前記画像及び/又はスライス層データユニットは、システム層画像パラメータデータユニットを含み、前記動画ビットストリームを解析し、前記動画ビットストリームの画像及び/又はスライス層データユニットから整形パラメータを取得し、取得された前記整形パラメータによって復元画像が用いる整形パラメータを決定することは、
    前記動画ビットストリームを運ぶためのトランスポートストリーム又はメディアファイルにおけるシステム層画像パラメータデータユニットから第6の整形パラメータを取得することと、
    前記第6の整形パラメータを用いて前記復元画像が用いる整形パラメータを更新または再決定し、或いは、前記復元画像が用いる整形パラメータが前記第6の整形パラメータであると決定することとを含み、
    前記システム層画像パラメータデータユニットは、前記動画ビットストリームにおけるアクセスユニットAUに対応する記述情報又は補助情報を含み、
    前記動画ビットストリームを運ぶためのトランスポートストリーム又はメディアファイルにおける前記システム層画像パラメータデータユニットから前記整形パラメータを取得することは、
    前記システム層画像パラメータデータユニットから取得された、整形処理を実行するか否かを示す識別パラメータと、ダイナミックレンジ整形パラメータと、色空間整形パラメータと、整形パラメータ使用範囲との少なくとも1つのパラメータに応じて前記整形パラメータを決定することを含む、請求項1に記載の方法。
  6. 前記第6の整形パラメータを用いて前記復元画像が用いる整形パラメータを更新または再決定することは、
    前記動画ビットストリームにおいてAUに含まれるスライスヘッダにおけるPPSパラメータセットインデックス番号を決定することと、
    前記パラメータセットインデックス番号により参照されるPPSに応じて前記復元画像が用いる整形パラメータを取得することと、
    前記第6の整形パラメータを用いて、取得された前記復元画像が用いる整形パラメータを更新または再決定することとを含み、
    前記パラメータセットインデックス番号により参照される前記PPSに応じて前記復元画像が用いる整形パラメータを取得することは、
    前記PPSの拡張部分及び/又は前記PPSにより参照されるパラメータセットに第1の整形パラメータが担持されているか否かを判定することと、
    判定結果が「YES」である場合、取得された前記復元画像が用いる整形パラメータが前記第1の整形パラメータであると決定し、及び/又は、判定結果が「NO」である場合、取得された前記復元画像が用いる整形パラメータが既定値又は空であると決定することとを含む、請求項に記載の方法。
  7. 前記画像及び/又はスライス層データユニットは、システム層画像パラメータデータユニットを含み、前記動画ビットストリームを運ぶためのトランスポートストリーム又はメディアファイルにおけるシステム層画像パラメータデータユニットから、前記復元画像に対して二次整形処理を行うための整形パラメータを取得することと、
    取得された前記復元画像に対して二次整形処理を行うための整形パラメータを利用して、前記復元画像に対して二次整形処理を行うこととを含み、
    前記システム層画像パラメータデータユニットは、前記動画ビットストリームにおけるアクセスユニットAUに対応する記述情報又は補助情報を含み、
    前記動画ビットストリームを運ぶためのトランスポートストリーム又はメディアファイルにおけるシステム層画像パラメータデータユニットから、前記復元画像に対して二次整形処理を行うための整形パラメータを取得することは、
    前記システム層画像パラメータデータユニットから取得された、整形処理を実行するか否かを示す識別パラメータと、ダイナミックレンジ整形パラメータと、色空間整形パラメータと、整形パラメータ使用範囲との少なくとも1つのパラメータに応じて、前記復元画像に対して二次整形処理を行うための整形パラメータを決定することを含む、請求項1に記載の方法。
  8. 復元画像をハイダイナミックレンジ動画HDR画像に変換させるのに用いられる、前記復元画像が用いる整形パラメータを決定することと、
    決定された前記復元画像が用いる整形パラメータを、現在の符号化画像のビットが所在する動画ビットストリームに書き込み、又は処理対象となる動画ビットストリームの画像及び/又はスライス層データユニットに書き込むこととを含み、
    前記復元画像は、エンコーダが整形処理を実行する前に、現在の符号化画像に対する復元標準ダイナミックレンジSDR画像であり、或いは、前記復元画像は、処理対象となる動画ビットストリームを復号化して得られたSDR画像であり、
    前記画像及び/又はスライス層データユニットは、画像パラメータセットPPSとは異なる画像及び/又はスライス層パラメータセット又は前記復元画像に対応するアクセスユニットAUに含まれるスライスヘッダを含み、
    前記復元画像を前記ハイダイナミックレンジ動画HDR画像に変換させるのに用いられる、前記復元画像が用いる整形パラメータを決定することは、
    画像層整形パラメータとシーケンス層整形パラメータとを決定することと、
    前記画像層整形パラメータと前記シーケンス層整形パラメータとによって前記復元画像が用いる整形パラメータを決定することとを含み、
    前記画像層整形パラメータは、前記復元画像と目標HDR画像との誤差を最小化する整形処理手順に用いられるフィルタ係数を含み、
    前記シーケンス層整形パラメータは、前記目標HDR画像により構成される目標HDR動画のダイナミックレンジ及び色空間と、前記復元画像により構成される復元動画ダイナミックレンジ及び色空間とに応じて決定された、前記復元動画のダイナミックレンジから前記目標HDR動画のダイナミックレンジまで拡張されたマッピングパラメータ、及び/又は前記復元動画の色空間から前記目標HDR動画の色空間への変換パラメータを含み、
    前記目標HDR画像は、エンコーダに入力されたオリジナルのHDR動画において前記復元画像に対応するHDR画像であり、
    前記復元画像のうち、キーフレーム画像に対しては前記画像層整形パラメータを計算し、前記キーフレーム画像以外の画像に対しては、前記シーケンス層整形パラメータを使用し、
    前記キーフレーム画像は、シーンチェンジ画像、ランダムアクセス画像、または、時間領域識別子番号(Temporal Identifier(ID))の値が比較的小さい画像である、
    画像符号化処理方法。
  9. 前記画像層整形パラメータと前記シーケンス層整形パラメータとによって前記復元画像が用いる整形パラメータを決定することは、
    前記画像層整形パラメータと前記シーケンス層整形パラメータとをそれぞれ利用して前記復元画像に対して整形処理を行うことと、
    前記復元画像に対して整形処理を行って得られたHDR画像と前記目標HDR画像との誤差の最小なパラメータは前記復元画像が用いる整形パラメータであると決定することとを含み、
    決定された前記復元画像が用いる整形パラメータを、前記現在の符号化画像のビットが所在する動画ビットストリームに書き込み、又は前記処理対象となる動画ビットストリームの画像及び/又はスライス層データユニットに書き込むことは、
    前記復元画像が用いる整形パラメータが前記シーケンス層整形パラメータである場合、前記シーケンス層整形パラメータに対して符号化を行い、符号化された符号化ビットを、前記現在の符号化画像のビットが所在する動画ビットストリームに書き込み、又は前記処理対象となる動画ビットストリームの画像パラメータセットPPS及び/又は前記PPSにより参照されるパラメータセットに書き込むことと、
    前記復元画像が用いる整形パラメータが前記画像層整形パラメータである場合、前記画像層整形パラメータに対して符号化を行い、符号化された符号化ビットを、前記現在の符号化画像のビットが所在する動画ビットストリームに書き込み、又は前記処理対象となる動画ビットストリームにおけるアクセスユニットAUに含まれるスライスヘッダに書き込むこととを含む、請求項に記載の方法。
  10. 前記画像層整形パラメータと前記シーケンス層整形パラメータによって前記復元画像が用いる整形パラメータを決定することは、
    前記画像層整形パラメータと、前記シーケンス層整形パラメータと、現在の符号化順に従う直前の符号化画像に使用される整形パラメータとから、前記復元画像が用いる整形パラメータを決定することを含み、
    前記画像層整形パラメータと、前記シーケンス層整形パラメータと、現在の符号化順に従う直前の符号化画像に使用される整形パラメータとから、前記復元画像が用いる整形パラメータを決定することは、
    前記画像層整形パラメータと、前記シーケンス層整形パラメータと、前記直前の符号化画像に使用される整形パラメータとをそれぞれ利用して、前記復元画像に対して整形処理を行うことと、
    前記復元画像に対して整形を行って得られたHDR画像と前記目標HDR画像との誤差の最小なパラメータは前記復元画像が用いる整形パラメータであると決定することとを含む、請求項に記載の方法。
  11. 前記画像及び/又はスライス層データユニットは、前記復元画像に対応するアクセスユニットAUに含まれるパラメータデータユニットを含み、決定された前記復元画像が用いる整形パラメータを、前記現在の符号化画像のビットが所在する動画ビットストリームに書き込み、又は前記処理対象となる動画ビットストリームの画像及び/又はスライス層データユニットに書き込むことは、
    前記復元画像が用いる整形パラメータが前記シーケンス層整形パラメータである場合、前記シーケンス層整形パラメータに対して符号化を行い、符号化された符号化ビットを、前記現在の符号化画像のビットが所在する動画ビットストリームに書き込み、又は前記処理対象となる動画ビットストリームの画像パラメータセットPPS及び/又は前記PPSにより参照されるパラメータセットに書き込むことと、
    前記復元画像が用いる整形パラメータが前記画像層整形パラメータ又は前記直前の符号化画像に使用される整形パラメータである場合、前記画像層整形パラメータ又は前記直前の符号化画像に使用される整形パラメータに対して符号化を行い、符号化された符号化ビットを、前記現在の符号化画像のビットが所在する動画ビットストリームに書き込み、又は前記処理対象となる動画ビットストリームにおけるアクセスユニットAUに含まれるパラメータデータユニットに書き込むことと、或いは、
    前記復元画像が用いる整形パラメータが前記画像層整形パラメータである場合、前記画像層整形パラメータに対して符号化を行い、符号化された符号化ビットを、前記現在の符号化画像のビットが所在する動画ビットストリームに書き込み、又は前記処理対象となる動画ビットストリームにおけるアクセスユニットAUに含まれるパラメータデータユニットに書き込むことと、
    前記復元画像が用いる整形パラメータが前記直前の符号化画像に使用される整形パラメータである場合、前記現在の符号化画像のビットが所在する動画ビットストリーム又は前記処理対象となる動画ビットストリームにおけるアクセスユニットAUで第4の識別情報を符号化することとを含み、
    前記第4の識別情報は、前記整形パラメータが前記直前の符号化画像に使用される整形パラメータであることを指示するために用いられ、
    前記パラメータデータユニットは、前記AUに含まれるスライスビットストリームデータユニットとは独立したデータユニットであり、
    動画パラメータセットVPSで前記整形パラメータを指示するための第1の識別情報を符号化する方式と、
    シーケンスパラメータセットSPSで前記整形パラメータを指示するための第2の識別情報を符号化する方式との少なくとも1つの方式で前記整形パラメータを指示するための識別情報を符号化することを更に含む、請求項10に記載の方法。
  12. 前記画像層整形パラメータと前記シーケンス層整形パラメータとによって前記復元画像が用いる整形パラメータを決定することは、
    前記画像層整形パラメータと、前記シーケンス層整形パラメータと、使用された前記復元画像に対応するアクセスユニットAUに含まれるスライスヘッダにおける画像パラメータセットPPS以外の画像及び/又はスライス層パラメータセットにおいて符号化された1つ又は複数の第1の別整形パラメータとから、前記復元画像が用いる整形パラメータを決定することを含み、
    前記画像層整形パラメータと、前記シーケンス層整形パラメータと、前記第1の別整形パラメータとから前記復元画像が用いる整形パラメータを決定することは、
    前記画像層整形パラメータと、前記シーケンス層整形パラメータと、前記第1の別整形パラメータとをそれぞれ利用して前記復元画像に対して整形処理を行うことと、
    前記復元画像に対して整形処理を行って得られたHDR画像と前記目標HDR画像との誤差の最小なパラメータは、前記復元画像が用いる整形パラメータであると決定することとを含む、請求項に記載の方法。
  13. 決定された前記復元画像が用いる整形パラメータを、前記現在の符号化画像のビットが所在する動画ビットストリームに書き込み、又は前記処理対象となる動画ビットストリームの画像及び/又はスライス層データユニットに書き込むことは、
    前記復元画像が用いる整形パラメータが前記シーケンス層整形パラメータである場合、スライスヘッダにおいてPPS以外の画像及び/又はスライス層パラメータセットを使用しないと識別する情報を符号化することと、
    前記復元画像が用いる整形パラメータが前記第1の別整形パラメータである場合、スライスヘッダにおいてPPS以外の画像及び/又はスライス層パラメータセットを使用すると識別する情報を符号化し、前記第1の別整形パラメータが所在するパラメータセットのパラメータセットインデックス番号を符号化することと、
    前記復元画像が用いる整形パラメータが前記画像層整形パラメータである場合、前記画像層整形パラメータに対して符号化し、符号化ビットを新規のパラメータセットデータユニットに書き込み、スライスヘッダにおいてPPS以外の画像及び/又はスライス層パラメータセットを使用すると識別する情報を符号化し、前記パラメータセットインデックス番号を符号化することとを含み、
    前記新規のパラメータセットデータユニットにはパラメータセットインデックス番号が配置される、請求項12に記載の方法。
  14. 前記画像層整形パラメータと前記シーケンス層整形パラメータとによって前記復元画像が用いる整形パラメータを決定することは、
    前記画像層整形パラメータと、前記シーケンス層整形パラメータと、トランスポートストリーム又はメディアファイルのシステム層において符号化された1つ又は複数の第2の別整形パラメータとから、前記復元画像が用いる整形パラメータを決定することを含み、
    前記画像層整形パラメータと、前記シーケンス層整形パラメータと、前記第2の別整形パラメータとから前記復元画像が用いる整形パラメータを決定することは、
    前記画像層整形パラメータと、前記シーケンス層整形パラメータと、前記第2の別整形パラメータとをそれぞれ利用して前記復元画像に対して整形処理を行うことと、
    前記復元画像に対して整形処理を行って得られたHDR画像と前記目標HDR画像との誤差の最小なパラメータは前記復元画像が用いる整形パラメータであると決定することとを含む、請求項に記載の方法。
  15. 決定された前記復元画像が用いる整形パラメータを、前記現在の符号化画像のビットが所在する動画ビットストリームに書き込み、又は前記処理対象となる動画ビットストリームの画像及び/又はスライス層データユニットに書き込むことは、
    前記復元画像が用いる整形パラメータが前記シーケンス層整形パラメータである場合、システム層において第5の識別情報を符号化することと、
    前記復元画像が用いる整形パラメータが前記画像層整形パラメータである場合、前記システム層において前記画像層整形パラメータを符号化することと、
    前記復元画像が用いる整形パラメータが前記第2の別整形パラメータである場合、前記システム層において前記第2の別整形パラメータを符号化し、或いは、前記システム層において第6の識別情報を符号化することとを含み、
    前記第5の識別情報は、前記復元画像が用いる整形パラメータを、前記システム層において符号化された整形パラメータを使用しないように指示するために用いられ、
    前記第6の識別情報は、前記復元画像が用いる整形パラメータを、前記システム層において符号化された整形パラメータを使用するように指示するために用いられ、
    前記システム層において、前記復元画像に対して二次整形を行うための整形パラメータと、二次整形処理の実行方式を指示するための制御情報とを符号化する、請求項14に記載の方法。
  16. 動画ビットストリームを解析し、前記動画ビットストリームの画像及び/又はスライス層データユニットから整形パラメータを取得し、取得された前記整形パラメータによって復元画像が用いる整形パラメータを決定するように設置される第1の決定モジュールと、
    前記復元画像が用いる整形パラメータを用いて前記復元画像に対して整形処理を行うように設置される処理モジュールとを備える画像復号化処理装置であって、
    前記復元画像は、整形処理が行われる前に、前記動画ビットストリームを復号化して得られた画像であり、前記画像及び/又はスライス層データユニットは、画像パラメータセットPPSとは異なる画像及び/又はスライス層パラメータセット又は前記復元画像に対応するアクセスユニットAUに含まれるスライスヘッダを含み、前記整形処理は、ダイナミックレンジおよび色空間の変換を含み、
    前記動画ビットストリームの前記画像及び/又はスライス層データユニットから前記整形パラメータを取得し、取得された前記整形パラメータによって復元画像が用いる整形パラメータを決定する前には、
    前記動画ビットストリームにおいてAUに含まれるスライスヘッダにおけるPPSパラメータセットインデックス番号を決定することと、
    前記PPSパラメータセットインデックス番号により参照されるPPSに応じて前記復元画像が用いる整形パラメータを取得することとを更に行い
    前記画像パラメータセットPPSにおいて、前記スライスヘッダの解析で得られたPPSパラメータセットインデックス番号と同じPPSパラメータセットインデックス番号を有するパラメータセットが探せなかった場合、エラー処理仕組みを作動させてエラー復元を行い、
    前記パラメータセットインデックス番号により参照されるPPSに応じて前記復元画像が用いる整形パラメータを取得することは、
    前記PPSの拡張部分及び/又は前記PPSにより参照されるパラメータセットに第1の整形パラメータが担持されているか否かを判定することと、
    判定結果が「YES」である場合、取得された前記復元画像が用いる整形パラメータが前記第1の整形パラメータであると決定し、及び/又は、判定結果が「NO」である場合、取得された前記復元画像が用いる整形パラメータが既定値又は空であると決定することとを含み、
    前記動画ビットストリームの前記画像及び/又はスライス層データユニットから前記整形パラメータを取得し、取得された前記整形パラメータによって復元画像が用いる整形パラメータを決定することは、
    前記スライスヘッダの拡張部分を解析し、第2の整形パラメータを得ることと、
    前記第2の整形パラメータを用いて、前記復元画像が用いる整形パラメータを更新または再決定することとを含む、
    画像復号化処理装置。
  17. 前記画像及び/又はスライス層データユニットは、前記復元画像に対応するアクセスユニットAUに含まれるパラメータデータユニット又はシステム層画像パラメータデータユニットを含む、請求項16に記載の画像復号化処理装置。
  18. 復元画像をハイダイナミックレンジ動画HDR画像に変換させるのに用いられる、前記復元画像が用いる整形パラメータを決定するように設置される第2の決定モジュールと、
    決定された前記復元画像が用いる整形パラメータを、現在の符号化画像のビットが所在する動画ビットストリームに書き込み、又は処理対象となる動画ビットストリームの画像及び/又はスライス層データユニットに書き込むように設置される書き込みモジュールとを備え、
    前記復元画像は、エンコーダが整形処理を実行する前に、現在の符号化画像に対する復元標準ダイナミックレンジSDR画像であり、或いは、前記復元画像は、処理対象となる動画ビットストリームを復号化して得られたSDR画像であり、
    前記画像及び/又はスライス層データユニットは、画像パラメータセットPPSとは異なる画像及び/又はスライス層パラメータセット又は前記復元画像に対応するアクセスユニットAUに含まれるスライスヘッダを含み、
    前記復元画像を前記ハイダイナミックレンジ動画HDR画像に変換させるのに用いられる、前記復元画像が用いる整形パラメータを決定することは、
    画像層整形パラメータとシーケンス層整形パラメータとを決定することと、
    前記画像層整形パラメータと前記シーケンス層整形パラメータとによって前記復元画像が用いる整形パラメータを決定することとを含み、
    前記画像層整形パラメータは、前記復元画像と目標HDR画像との誤差を最小化する整形処理手順に用いられるフィルタ係数を含み、
    前記シーケンス層整形パラメータは、前記目標HDR画像により構成される目標HDR動画のダイナミックレンジ及び色空間と、前記復元画像により構成される復元動画ダイナミックレンジ及び色空間とに応じて決定された、前記復元動画のダイナミックレンジから前記目標HDR動画のダイナミックレンジまで拡張されたマッピングパラメータ、及び/又は前記復元動画の色空間から前記目標HDR動画の色空間への変換パラメータを含み、
    前記目標HDR画像は、エンコーダに入力されたオリジナルのHDR動画において前記復元画像に対応するHDR画像であり、
    前記復元画像のうち、キーフレーム画像に対しては前記画像層整形パラメータを計算し、前記キーフレーム画像以外の画像に対しては、前記シーケンス層整形パラメータを使用し、
    前記キーフレーム画像は、シーンチェンジ画像、ランダムアクセス画像、または、時間領域識別子番号(Temporal Identifier(ID))の値が比較的小さい画像である、画像符号化処理装置。
  19. 前記画像及び/又はスライス層データユニットは、前記復元画像に対応するアクセスユニットAUに含まれるパラメータデータユニット又はシステム層画像パラメータデータユニットを含む、請求項18に記載の画像符号化処理装置。
JP2018534535A 2015-12-31 2016-11-15 画像復号化・符号化方法、復号化・符号化装置 Active JP7045317B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN201511032566.3 2015-12-31
CN201511032566.3A CN106937121B (zh) 2015-12-31 2015-12-31 图像解码和编码方法、解码和编码装置、解码器及编码器
PCT/CN2016/105926 WO2017114016A1 (zh) 2015-12-31 2016-11-15 图像解码和编码方法、解码和编码装置、解码器及编码器

Publications (2)

Publication Number Publication Date
JP2019500811A JP2019500811A (ja) 2019-01-10
JP7045317B2 true JP7045317B2 (ja) 2022-04-01

Family

ID=59224465

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018534535A Active JP7045317B2 (ja) 2015-12-31 2016-11-15 画像復号化・符号化方法、復号化・符号化装置

Country Status (6)

Country Link
US (1) US11006134B2 (ja)
EP (2) EP3399752B1 (ja)
JP (1) JP7045317B2 (ja)
KR (1) KR102156030B1 (ja)
CN (1) CN106937121B (ja)
WO (1) WO2017114016A1 (ja)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3244616A1 (en) * 2016-05-13 2017-11-15 Thomson Licensing A method for encoding an input video comprising a luma component and two chroma components, the method comprising reshaping of said input video based on reshaping functions
JP7086587B2 (ja) * 2017-02-24 2022-06-20 インターデジタル ヴイシー ホールディングス, インコーポレイテッド 復号された画像データから画像データを再構成する方法および装置
US11310532B2 (en) 2017-02-24 2022-04-19 Interdigital Vc Holdings, Inc. Method and device for reconstructing image data from decoded image data
CN117082247A (zh) * 2018-02-14 2023-11-17 杜比实验室特许公司 在视频编码中利用率失真优化进行图像再成形
CN113383547A (zh) 2019-02-01 2021-09-10 北京字节跳动网络技术有限公司 环路整形和帧间编解码工具之间的相互作用
WO2020156534A1 (en) 2019-02-01 2020-08-06 Beijing Bytedance Network Technology Co., Ltd. Interactions between in-loop reshaping and intra block copy
KR20230163584A (ko) * 2019-02-28 2023-11-30 엘지전자 주식회사 Aps 시그널링 기반 비디오 또는 영상 코딩
WO2020177704A1 (en) * 2019-03-04 2020-09-10 Beijing Bytedance Network Technology Co., Ltd. In-loop filtering in video processing
US20220150481A1 (en) * 2019-03-07 2022-05-12 Lg Electronics Inc. Video or image coding based on luma mapping with chroma scaling
CN113574889B (zh) 2019-03-14 2024-01-12 北京字节跳动网络技术有限公司 环路整形信息的信令和语法
WO2020192614A1 (en) 2019-03-23 2020-10-01 Beijing Bytedance Network Technology Co., Ltd. Restrictions on adaptive-loop filtering parameter sets
CN111027448B (zh) * 2019-12-04 2023-05-05 成都考拉悠然科技有限公司 一种基于时域推理图的视频行为类别识别方法
CN115361510A (zh) * 2020-05-08 2022-11-18 华为技术有限公司 一种高动态范围hdr视频的处理方法、编码设备和解码设备
EP4205395A4 (en) * 2020-12-24 2023-07-12 Huawei Technologies Co., Ltd. CODING WITH FEATURE MAP DATA SIGNALING

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018524931A (ja) 2015-07-16 2018-08-30 ドルビー ラボラトリーズ ライセンシング コーポレイション Hdrおよび広色域の信号のための信号整形および符号化

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8218625B2 (en) * 2004-04-23 2012-07-10 Dolby Laboratories Licensing Corporation Encoding, decoding and representing high dynamic range images
US8014445B2 (en) * 2006-02-24 2011-09-06 Sharp Laboratories Of America, Inc. Methods and systems for high dynamic range video coding
WO2010105036A1 (en) * 2009-03-13 2010-09-16 Dolby Laboratories Licensing Corporation Layered compression of high dynamic range, visual dynamic range, and wide color gamut video
JP5332773B2 (ja) 2009-03-18 2013-11-06 ソニー株式会社 画像処理装置および方法
US8990200B1 (en) * 2009-10-02 2015-03-24 Flipboard, Inc. Topical search system
TWI479898B (zh) * 2010-08-25 2015-04-01 Dolby Lab Licensing Corp 擴展影像動態範圍
CN105324997B (zh) 2013-06-17 2018-06-29 杜比实验室特许公司 用于增强动态范围信号的分层编码的自适应整形
EP2819414A3 (en) * 2013-06-28 2015-02-25 Samsung Electronics Co., Ltd Image processing device and image processing method
EP3024222A4 (en) * 2013-07-14 2017-01-18 LG Electronics Inc. Method and apparatus for transmitting and receiving ultra high-definition broadcasting signal for expressing high-quality color in digital broadcasting system
KR101839258B1 (ko) 2013-10-14 2018-03-15 나이키 이노베이트 씨.브이. 운동 움직임 속성으로부터의 페이스 및 에너지 지출의 계산
US20150103878A1 (en) 2013-10-14 2015-04-16 Qualcomm Incorporated Device and method for scalable coding of video information
US20150195574A1 (en) * 2013-11-06 2015-07-09 Arris Enterprises, Inc. Modification of picture parameter set (pps) for hevc extensions
CN104754347B (zh) 2013-12-26 2019-05-17 中兴通讯股份有限公司 视频图像序号的编码、解码方法及装置、电子设备
EP2938084A4 (en) * 2013-12-27 2016-10-26 Sony Corp IMAGE PROCESSING DEVICE AND IMAGE PROCESSING METHOD
WO2017019818A1 (en) * 2015-07-28 2017-02-02 Vid Scale, Inc. High dynamic range video coding architectures with multiple operating modes
JP6320440B2 (ja) * 2015-08-04 2018-05-09 ドルビー ラボラトリーズ ライセンシング コーポレイション ハイダイナミックレンジ信号のための信号再構成
US11277610B2 (en) * 2015-09-23 2022-03-15 Arris Enterprises Llc Single layer high dynamic range coding with standard dynamic range backward compatibility

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018524931A (ja) 2015-07-16 2018-08-30 ドルビー ラボラトリーズ ライセンシング コーポレイション Hdrおよび広色域の信号のための信号整形および符号化

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
D. Bugdayci Sansli et al., "Dynamic Range Adjustment SEI Message", Joint Collaborative Team on Video Coding (JCT-VC) of ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG11 21th Meeting: Warsaw, PL, 19-26 June, 2015, [JCTVC-U0098]
Koohyar Minoo et al.,"Exploratory Test Model for HDR extension of HEVC", ISO/IEC JTC1/SC29/WG11 MPEG2014/N15792, October 2015, Geneva, CH
Stephan Wenger et al., "Adaptation Parameter Set (APS)", Joint Collaborative Team on Video Coding (JCT-VC) of ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG11 6th Meeting: Torino, IT, 14-22 July, 2011, [JCTVC-F747r3]

Also Published As

Publication number Publication date
US11006134B2 (en) 2021-05-11
KR102156030B1 (ko) 2020-09-16
US20190014331A1 (en) 2019-01-10
CN106937121A (zh) 2017-07-07
EP3962085A3 (en) 2022-05-25
JP2019500811A (ja) 2019-01-10
EP3399752B1 (en) 2021-12-22
WO2017114016A1 (zh) 2017-07-06
CN106937121B (zh) 2021-12-10
EP3399752A4 (en) 2019-12-11
KR20180100368A (ko) 2018-09-10
EP3399752A1 (en) 2018-11-07
EP3962085A2 (en) 2022-03-02

Similar Documents

Publication Publication Date Title
JP7045317B2 (ja) 画像復号化・符号化方法、復号化・符号化装置
CN109547786B (zh) 视频编码、以及视频解码的方法、装置
CN109416832B (zh) 高效的基于直方图的亮度外观匹配
JP6684971B2 (ja) ハイダイナミックレンジ映像を符号化するためのセグメントベース再構成
US10356459B2 (en) Information processing apparatus and method
CN107771392B (zh) 用于高动态范围图像的实时内容自适应感知量化器
CN110650349B (zh) 一种图像编码方法、解码方法、编码器、解码器及存储介质
CN112352437B (zh) Hdr分发中的元数据转换
JP7393366B2 (ja) 画像の符号化方法、復号化方法、エンコーダおよびデコーダ
US9894385B2 (en) Video signal processing method and device
JP7037584B2 (ja) 効率的なエンド・ツー・エンドシングルレイヤー逆ディスプレイマネジメント符号化
EP3685587B1 (en) Backward compatible display management metadata compression
WO2024178220A1 (en) Image/video compression with scalable latent representation
WO2023146634A1 (en) Block-based compression and latent space intra prediction

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180719

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180719

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190625

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190709

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191002

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200107

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200402

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20200623

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201023

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20201023

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20201102

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20201104

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20201127

C211 Notice of termination of reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C211

Effective date: 20201201

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20210907

C13 Notice of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: C13

Effective date: 20211026

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211228

C23 Notice of termination of proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C23

Effective date: 20220201

C03 Trial/appeal decision taken

Free format text: JAPANESE INTERMEDIATE CODE: C03

Effective date: 20220308

C30A Notification sent

Free format text: JAPANESE INTERMEDIATE CODE: C3012

Effective date: 20220308

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220318

R150 Certificate of patent or registration of utility model

Ref document number: 7045317

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150