JP2020145707A - 画像データを処理する方法および装置 - Google Patents

画像データを処理する方法および装置 Download PDF

Info

Publication number
JP2020145707A
JP2020145707A JP2020083328A JP2020083328A JP2020145707A JP 2020145707 A JP2020145707 A JP 2020145707A JP 2020083328 A JP2020083328 A JP 2020083328A JP 2020083328 A JP2020083328 A JP 2020083328A JP 2020145707 A JP2020145707 A JP 2020145707A
Authority
JP
Japan
Prior art keywords
color
color difference
difference component
image
component
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020083328A
Other languages
English (en)
Other versions
JP6980054B2 (ja
Inventor
ロペス,パトリツク
Lopez Patrick
ルローネ,フアブリス
LELEANNEC Fabrice
オリビエ,ヤニツク
Olivier Yannick
トウーズ,デイビツド
Touze David
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
InterDigital VC Holdings Inc
Original Assignee
InterDigital VC Holdings Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by InterDigital VC Holdings Inc filed Critical InterDigital VC Holdings Inc
Publication of JP2020145707A publication Critical patent/JP2020145707A/ja
Application granted granted Critical
Publication of JP6980054B2 publication Critical patent/JP6980054B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H04N19/36Scalability techniques involving formatting the layers as a function of picture distortion after decoding, e.g. signal-to-noise [SNR] scalability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Processing Of Color Television Signals (AREA)
  • Color Television Systems (AREA)
  • Facsimile Image Signal Circuits (AREA)

Abstract

【課題】ダイナミック・レンジを拡張するために符号化の前に利得を色差成分に適用する画像データ符号化方法及び装置を提供する。【解決手段】符号化装置300による画像データ符号化方法は、少なくとも画像の部分に対して色成分X’、Y’、Z’から色差成分D’Z、D’Xを取得すること、取得した色差成分のダイナミック・レンジを拡張するために色空間の色域に依存する利得係数gx、gzを適用することによって色差成分をスケーリングすること及びスケーリングされた色差成分gxD’x、gzD’zを符号化することを含む。【選択図】図3

Description

本発明は、画像データを処理する方法および装置に関する。具体的には、限定するものではないが、本発明は、色差成分の符号化および色差成分の復号に関する。
ディジタル・カメラによってキャプチャされた画像、または、コンピュータが生成した画像などの画像は、各画素または複数の画素からなるグループの色特徴を規定する色情報を含んでいる。このような色情報は、色空間における色を規定する色成分として表すことができる。色成分は、例えば、ルマ輝度およびニュートラル・グレイスケール・カラーから青または赤(YUV)への色度の色ずれの尺度としての、または、赤、緑または青(RGB)の光成分の強度の尺度としての、色の強度を表す。一般的には、YUVモデルは、1つの輝度(ルマ)(Y)および2つの色度(UV)成分の観点で色空間を規定する。一般的には、Yは、ルマ成分(輝度)を表し、UおよびVは、クロミナンス(色)またはクロマ成分表す。
XYZ色空間は、国際照明委員会(CIE:Commission Internationale de l’Eclairage)によって策定された国際規格である。この色モデルは、3つの原色、XYZに基づいており、全ての視覚可能な色は、X、YおよびZの正の値を使用して表される。Y原色は、輝度に密接に一致するように規定され、その一方で、X原色およびZ原色は、色情報を与える。
ハイダイナミック・レンジ・イメージング(HDRまたはHDRIとも称する)は、シーンの明所と暗所との間の輝度のダイナミック・レンジを拡大することが可能であり、従来のローダイナミック・レンジ(LDR)画像と比較して、色域のレンジ(範囲)を拡大することができる。このことは、HDRイメージングにおいて、レンジ(範囲)全体にわたって高い信号精度を実現するために、信号表現をより広いダイナミック・レンジに拡張することによって成し遂げることができる。HDR画像において、画素の色成分値は、浮動小数点フォーマット(各成分に対し、32ビットまたは16ビット、すなわち、単精度浮動小数点(float)または半精度浮動小数点(half−float))を含み、通常、より大きな数のビットを用いて表される(例えば、16ビットから64ビット)。最も一般的なフォーマットは、openEXR半精度浮動小数点フォーマット(RGB成分毎に16ビット、すなわち、画素毎に48ビット)、または、通常は少なくとも16ビットの“long”型表現の整数値である。このような範囲は、人間の視覚システムの自然な感度に対応する。このように、HDR画像は、現実のシーンに存在する広範囲の輝度および色をより正確に表し、これによって、シーンをよりリアルに表現できるようにする。
色情報、特に、HDR色情報の記憶に必要なメモリの量を減少させるために、さらに、送信における帯域幅の使用を低減するために、画像データの色情報を、より小さな、より処理しやすいデータのサイズに圧縮するための多くの技術が存在する。
例えば、SMPTE2085規格は、ハイダイナミック・レンジXYZ信号に対して使用されるべきYDzDx色差符号化を規定する。非線形に符号化されたX’、Y’およびZ’の値によって表された色情報は、Y’、D’zおよびD’xの色差信号に変換される。色度信号D’zは、成分Z’とY’との間の重み付けされた差分として規定され、D’xは、色成分X’とY’との間の重み付けされた差分である。輝度信号Y’は、変換によって変更されない。SMPTE2085規格は、X’Y’Z’からY’D’ZD’Xへの変換、さらに、Y’D’ZD’XからX’Y’Z’への変換を規定する。
色差成分D’zおよびD’xのダイナミックは、コンテンツに対して使用される色空間に依存する。例えば、ITU Rec709においては、D’xは、範囲[−0.135;0.131]内で変化し、その一方で、ITU Rec2020が考慮される場合、変化範囲は、[−0.496;0.147]である。したがって、有用なダイナミックは、ITU Rec2020の範囲全体の約65%であり、ITU Rec709では、27%のみである。入力データの減少の結果、符号化入力において導入される量子化ノイズが増加する。
本発明は、上記の点を考慮してなされたものである。
一般的な態様では、本発明は、ダイナミック・レンジを拡張するために、符号化の前に利得を色差成分に適用することに関する。
本発明の第1の態様によれば、色空間における画像の部分の色特性を規定する色成分を含む画像データを符号化する方法が提供される。この方法は、少なくとも画像の部分に対し、画像の部分の色成分から色差成分を取得することと、色差成分を、この色差成分のダイナミック・レンジを拡張するために、利得係数を適用することによってスケーリングすることと、スケーリングされた色差成分を符号化することと、を含む。各々の色差成分に適用される利得係数は色空間の色域に依存していてもよい。
本発明の一実施形態においては、各々の色差成分に適用される利得係数は、色差成分が
−0.5〜0.5の範囲内となるようにするものであり、色差成分が導出される色成分(X’,Y’,Z’)は、[0.0,1.0]の範囲にある。
本発明の一実施形態においては、色差成分のスケーリングは、色差成分の量子化の前に適用される。
一実施形態においては、色差成分のスケーリングは、色差成分の量子化の後に適用される。
一実施形態においては、画像の部分は、8ビットを超えるビット深度を有するハイダイナミック・レンジの画像の部分である。
一実施形態においては、この方法は、適用される利得係数を表すデータを送信することをさらに含む。例えば、適用される利得係数を表すデータは、ビデオ・ユーザビリティ情報のフィールドに含まれる。使用される色域を示すデータは、例えば、ビデオ・ユーザビリティ情報のmatrix_coeffフィールドに含まれていてもよい。
本発明の第2の態様によれば、色空間における画像の部分の色特性を規定する色成分を含む画像データを復号する方法が提供される。この方法は、少なくとも画像の部分に対し、受信されたデータ・ビットストリームを復号することと、復号されたビットストリームから色差成分を取得することと、符号化の前に色差成分に適用される利得係数に対応する再スケーリング係数を適用することによって、色差成分を再スケーリングすることと、画像の部分の対応する色成分を取得するために再スケーリングされた色差成分を処理することと、を含む。各々の色差成分に適用される利得係数は色空間の色域に依存していてもよい。
一実施形態においては、この方法は、例えば、ビデオ・ユーザビリティ情報のフィールド内で、符号化の前に適用される利得係数を表すデータを受信することを含む。使用される色域を示すデータは、例えば、ビデオ・ユーザビリティ情報のmatrix_coeffフィールドに含まれていてもよい。
本発明の第3の態様は、色空間における画像の部分の色特性を規定する色成分を含む画像データを符号化する符号化装置を提供する。この符号化装置は、画像の部分の色成分から色差成分を取得する処理モジュールと、色差成分を、この色差成分のダイナミック・レンジを拡張するために利得係数を適用することによってスケーリングするスケーラと、スケーリングされた色差成分を符号化する符号化器と、を含む。
符号化装置は、利得係数を、色空間の色域に依存する各々の色差成分に適用するように構成することができる。
符号化装置は、色差成分が−0.5〜0.5の範囲内となるように利得係数を各々の色差成分に適用するように構成することができる。
符号化装置は、色差成分の量子化の前に色差成分をスケーリングするように構成することができる。
別の実施形態においては、符号化装置は、色差成分の量子化の後に色差成分をスケーリングするように構成することができる。
一実施形態においては、符号化装置は、適用される利得係数を表すデータを送信する送
信機を含む。例えば、適用される利得係数を表すデータは、ビデオ・ユーザビリティ情報のフィールドに含まれる。使用される色域を示すデータは、例えば、ビデオ・ユーザビリティ情報のmatrix_coeffフィールドに含まれていてもよい。
本発明の第4の態様は、色空間における画像の部分の色特性を規定する色成分を含む画像データを復号する復号装置を提供する。この復号装置は、受信されたビットストリームを復号する復号器と、復号されたビットストリームから色差成分を取得する処理モジュールと、符号化の前に色差成分に適用される利得係数に対応する再スケーリング係数を適用することによって色差成分を再スケーリングするリスケーラと、画像の部分の対応する色成分を取得するために再スケーリングされた色差成分を処理する画像プロセッサと、を含む。各々の色差成分に適用される利得係数は色空間の色域に依存していてもよい。
復号装置は、例えば、ビデオ・ユーザビリティ情報のフィールド内で、符号化の前に適用される利得係数を表すデータを受信するように構成することができる。使用される色域を示すデータは、例えば、ビデオ・ユーザビリティ情報のmatrix_coeffフィールドに含まれていてもよい。
本発明の第5の態様は、色空間における画像の部分の色特性を規定する色成分を含む符号化された画像データであって、本発明の第1の態様の実施形態の方法に従って符号化されている画像データと、ダイナミック・レンジを拡張するために、符号化する前に画像データの色差成分に適用される利得係数を表すデータと、を含むデータ・パッケージを提供する。
本発明のさらなる態様は、メモリと、1つ以上のプロセッサと、メモリに記憶され、1つ以上のプロセッサによって実行されるように構成された1つ以上のモジュールとを含む電子装置であって、1つ以上のモジュールは、色空間における画像の部分の色特徴を規定する色成分を含む画像データを符号化する命令を含み、この命令は、
画像部分の色成分から色差成分を取得することと、
色差成分を、この色差成分のダイナミック・レンジを拡張するために、利得係数を適用することによってスケーリングすることと、
スケーリングされた色差成分を符号化することと、を含む、電子装置を提供する。各々の色差成分に適用される利得係数は色空間の色域に依存していてもよい。
本発明のさらなる態様は、メモリと、1つ以上のプロセッサと、メモリに記憶され、1つ以上のプロセッサによって実行されるように構成された1つ以上のモジュールとを含む電子装置であって、1つ以上のモジュールは、色空間における画像の部分の色特性を規定する色成分を含む画像データを復号する命令を含み、この命令は、
受信されたビットストリームを復号することと、
復号されたビットストリームから色差成分を取得することと、
符号化の前に色差成分に適用される利得係数に対応する再スケーリング係数を適用することによって、色差成分を再スケーリングすることと、
画像の部分の対応する色成分を取得するために再スケーリングされた色差成分を処理することとを含む、電子装置を提供する。
本発明に係る方法を、少なくとも部分的にコンピュータによって実施することができる。したがって、本発明は、完全にハードウェアの実施形態で実施することも、(ファームウェア、常駐ソフトウェア、マイクロコードなどを含む)完全にソフトウェアの実施形態で実施することも、ソフトウェアおよびハードウェアの態様を組み合わせた実施形態で実施することもでき、これらは、全て、本明細書において、一般的に、「回路」、「モジュール」、または、「システム」と称することがある。さらに、本発明は、任意の有体物と
しての媒体であって、内部にコンピュータが使用可能なプログラムコードが実装された表現を有する媒体において実施されるコンピュータ・プログラム・プロダクトの形態で実施することができる。
本発明は、ソフトウェアにおいて実施することができるため、本発明は、任意の適切な担持媒体上でプログラム可能な装置に提供されるコンピュータ・プログラムコードとして実施することができる。有体物としての担持媒体には、フロッピー・ディスク、CD−ROM、ハードディスク・ドライブ、磁気テープ装置、または、ソリッドステート・メモリ装置などが含まれる。一時的な搬送媒体には、電気信号、電子信号、光学信号、音響信号、磁気信号、電磁信号、例えば、マイクロ波またはRE信号などの信号が含まれる。
本発明の実施形態を、例示的な目的のみで、図面を参照して説明する。
本発明の1つ以上の実施形態を実施可能なデータ通信システムの例を示すブロック図である。 本発明の1つ以上の実施形態を実施可能な画像処理装置の例を示すブロック図である。 本発明の第1の実施形態に係る符号化装置のブロック図である。 本発明の第1の実施形態に係る符号化方法のステップを例示するフローチャートである。 本発明の第2の実施形態に係る符号化装置を示すブロック図である。 本発明の第2の実施形態に係る符号化方法のステップを例示するフローチャートである。 本発明の第1の実施形態に係る復号装置を示すブロック図である。 本発明の第1の実施形態に係る復号方法のステップを例示するフローチャートである。 本発明の第2の実施形態に係る復号装置を示すブロック図である。 本発明の第2の実施形態に係る復号方法のステップを例示するフローチャートである。 本発明の1つ以上の実施形態を実施可能な受信装置の例を示すブロック図である。 本発明の1つ以上の実施形態を実施可能な受信装置の別の例を示すブロック図である。
図1は、本発明の1つ以上の実施形態を実施可能なデータ通信システムの例を模式的に示すブロック図である。示されている例ではストリーミングのシナリオが考慮されているが、例えば、光学ディスクまたはUSBキーなどのメディア記憶装置を使用して2つの装置間のデータ転送を行うことができることが理解されよう。示されている例において、データ通信システム100は、送信装置、例えば、サーバ110は、データ通信ネットワーク150を介して、受信装置、例えば、クライアント端末120にデータ・ストリームのデータ・パケットを送信するように動作する。データ通信ネットワーク150は、ワイド・エリア・ネットワーク(WAN)またはローカル・エリア・ネットワーク(LAN)とすることができる。このようなネットワークは、例えば、無線ネットワーク(Wifi/802.11a、bまたはg)、イーサネット(登録商標)・ネットワーク、インターネット・ネットワーク、または、幾つかの異なるネットワークから構成される混合ネットワークとすることができる。本発明の特定の実施形態においては、データ通信システムは、サーバ110が同一のデータ・コンテンツを複数のクライアントに送信するディジタル・テレビジョン・ブロードキャスト・システムとすることができる。
サーバ110によって提供されるデータ・ストリーム140は、1つ以上の静止画像または複数の画像からなるシーケンスを含むビデオ・データを表すビットストリームを含む。本発明の実施形態によっては、ビットストリームで表される画像データは、カメラを使用して送信装置110によってキャプチャされ、送信装置110に記憶され、別のデータ・プロバイダから送信装置110によって受信されるか、送信装置110によって生成される。送信装置110には、画像データを符号化して、送信のための圧縮されたビットストリーム、すなわち、符号化器に対して入力される画像データのよりコンパクトな表現を提供する符号化器111が設けられる。本発明の1つ以上の実施形態においては、符号化された画像データは、画像を形成する色を表す符号化された色差信号を含む。
クライアント端末120は、送信されたビットストリーム140を受信し、復号器121によって、本発明の実施形態に従ってビットストリームを復号してマルチメディア・データをクライアント端末上でレンダリングする。クライアント端末は、テレビジョンやコンピュータなどの据え置き型の装置とすることもでき、限定するものではないが、ポータブル・コンピュータ、ハンドヘルド・コンピュータ、タブレット・コンピュータ、携帯電話、メディア・プレイヤー、携帯情報端末(PDA)などを含む、可搬型の電子装置とすることもできる。
図2は、本発明の少なくとも1つの実施形態を実施するように構成された画像処理装置200の機能的な要素を模式的に例示するブロック図である。処理装置は、本発明の実施形態に従って画像を符号化する符号化器または画像を復号する復号器を備えることができる。画像処理装置200は、マイクロコンピュータ、ワークステーション、または、スマートフォン、タブレット、またはポータブル・コンピュータなどの可搬型の装置とすることができる。
画像処理装置200は、メモリ210と、1つ以上の処理ユニット(CPU)220と、アプリケーションとのデータの転送のやりとりをするための入出力インタフェース230と、を含む。画像処理装置200のコンポーネントは、1つ以上の通信バス250を介して通信する。メモリ210は、高速ランダム・アクセス・メモリ(RAM)211および読み出し専用メモリ(ROM)212を含むことができる。ROM212は、少なくともプログラムコードおよびパラメータを記憶する。本発明の実施形態に係る方法のアルゴリズムをROM212に記憶することができる。電源が投入されると、CPU220は、プログラムをRAM211にアップロードし、対応する命令を実行する。
RAM211は、レジスタにおいて、CPU220によって実行され、装置200の電源が投入された後にアップロードされるプログラムと、レジスタにおける入力データと、レジスタにおけるアルゴリズムの種々の状態の中間データと、レジスタにおけるアルゴリズムを実行するための他の変数と、を含む。
メモリ210には、1つ以上の磁気ディスク記憶装置などの不揮発性メモリ、フラッシュメモリ装置、または他の不揮発性のソリッドステート・メモリ装置が含まれる。実施形態によっては、メモリは、さらに、1つ以上のCPU220から離れて位置する記憶装置を含むことがある。例えば、記憶手段は、インタフェースおよび/または通信ネットワークを通じてアクセス可能である。
実施形態によっては、例えば、処理装置が復号装置である場合、この装置には、例えば、タッチ感知スクリーンである、データを表示し、且つ/または、キーボードまたは他のユーザのインタラクティブな手段による、ユーザとのグラフィカル・インタフェースとして機能するディスプレイが設けられる。実施の形態によっては、装置は、バッテリ114
0などの電源を備える。代替的な実施形態によれば、電源は、装置の外部に存在させることができる。
本実施形態においては、処理装置200は、本発明を実施するソフトウェアを使用するプログラム可能な装置である。しかしながら、代替的には、処理装置は、ハードウェアの形態(例えば、特定用途向け集積回路(ASIC)の形態)で実施することができ、または、ハードウェアおよびソフトウェアを組み合わせて実施することができる。
図3、図5、図7および図9において、例示されているモジュールは、機能的なモジュールに対応し、区別可能な物理的なユニットに対応することもあれば区別可能な物理的なユニットに対応しないこともある。例えば、複数のこのようなモジュールが、1つのユニークなコンポーネントまたは回路において関連していることもあれば、ソフトウェアの機能に対応することもある。さらに、モジュールは、場合によっては、複数の別個の物理的なエンティティ、またはソフトウェア機能から構成されていてもよい。
図3は、本発明の第1の実施形態に係る符号化装置300の機能的なモジュールを例示する模式的なブロック図である。図4は、本発明の第1の実施形態に係る符号化方法のステップを記述するフローチャートである。
符号化装置300に対する入力データは、画像データを含む。画像データは、符号化されるべき画像または画像の部分を表すことがある。画像データの色情報は、ハイダイナミック・レンジの色域を有する色空間で表される。色成分は、関連付けられた色空間における画像データの色情報を規定する。本特定の実施形態においては、色成分は、XYZフォーマットで提供される。しかしながら、例えば、RGBなど、色成分の他のフォーマットにも本発明を適用できることを理解されよう。ステップS410においては、OETF(光電気伝達関数)モジュール310は、色成分に光電気伝達関数を適用する。OETF関数は、入力信号を限定されたダイナミックに圧縮し、ピクチャの暗所領域内ではさらなる詳細を与える。色成分X,Y,Zから取得された変換済みの色成分は、それぞれ、X’,Y’およびZ’と示される。
そして、ステップS420において、色変換モジュール320は、色差成分を取得するために、OETFモジュールから出力された色成分信号X’、Y’およびZ’に対して色変換を実行する。変換されたX、YおよびZは、Y’、D’zおよびD’x色差信号に変換される。色差D’zは、色成分Z’とY’との間の重み付け差分として規定され、色差信号D’xは、色成分X’とY’との間の重み付け差分である。輝度信号Y’は、変換により変更されない。適用される色変換の例は、以下のように数式によって表される。色差成分D’Z、D’Xは、以下のように表される。
Figure 2020145707
Figure 2020145707
ここで、入力色成分X’、Y’およびZ’は、[0.0,1.0]の範囲にあり、出力色成分D’zおよびD’xは、[−0.5,+0.5]の公称範囲にある。
ステップS430において、スケーリング・モジュール330は、各々の利得係数gxおよびgzを、それぞれに対応するダイナミック・レンジを拡張するために、色差成分D’xおよびD’zに適用する。適用される利得係数gx,gzは、使用される色域に依存する。実施形態によっては、利得係数は、スケーリングされた色差成分gxD’xおよびgzD’zが範囲[−0.5;0.5]内となるように適用される。
色域Rec709およびRec2020に適用可能な利得係数の例が表1に与えられている。
Figure 2020145707
表1:DzおよびDx成分に適用される利得係数の例
ステップS440において、量子化モジュール340は、量子化を色差成分Y’ならびにスケーリングされた色差成分gxD’xおよびgzD’zに適用して量子化された色差成分QgxD’x、QY’およびQgzD’zを取得する。
ステップS450において、量子化された色差成分QgxD’x、QY’およびQgzD’zは、符号化モジュール350によって、画像データを表すビットストリームに符号化される。
図5は、本発明の第2の実施形態に係る符号化装置500の機能的なモジュールを例示する模式的なブロック図である。図6は、本発明の第2の実施形態に係る符号化方法のステップを記述するフローチャートである。
符号化装置500に対する入力データは、画像データの色成分がXYZフォーマットで提供される第1の実施形態の画像データと同様の画像データを含む。第2の実施形態は、色差成分の量子化の後にスケーリングが色差成分に適用される点で、第1の実施形態とは異なる。本発明の第2の実施形態に係る画像データの符号化方法の最初のステップS610において、OETFモジュール510は、色成分X、YおよびZに光電気伝達関数を適用し、それぞれ、X’、Y’およびZ’と表記される変換された色成分を取得する。
そして、ステップS620において、本発明の第1の実施形態と同様に色差成分D’zおよびD’xを取得するために、色変換モジュール520は、色変換をOETFモジュー
ルから出力された色成分信号X’およびZ’に対して実行する。色成分Y’は変更されない。
ステップS630において、量子化モジュール530は、量子化を色差成分Y’ならびに色差成分D’xおよびD’zに適用し、色差成分QD’x、QY’およびQD’zを取得する。
ステップS640において、スケーリング・モジュール540は、各々の利得ファクタgxおよびgzを、各々のダイナミック・レンジを拡張するために、量子化された色差成分QD’xおよびQD’zに適用する。
ステップS650において、符号化器モジュール550によって、スケーリング且つ量子化された色差成分gxQD’x、QY’およびgzQD’zが符号化され、画像データを表すビットストリームとなる。
図7は、本発明の第1の実施形態に係る復号装置700の機能的なモジュールを例示する模式的なブロック図である。図8は、本発明の第1の実施形態に係る方法のステップを記述するフローチャートである。
復号装置700に対する入力データは、本発明の第1の実施形態に従って符号化された画像データを表す符号化されたビットストリームを含む。
ステップS810において、復号モジュール710は、入来するビットストリームを復号して量子化且つスケーリングされた色差成分QgxD’x、QY’およびQgzD’zを取得する。
ステップS820において、量子化且つスケーリングされた色差成分が逆量子化モジュール710によって逆量子化され、スケーリングされた色差成分gxD’x、Y’および
gzD’zが取得される。
ステップS830において、逆量子化された色差成分が色変換モジュール730によって処理され、以下のように、色成分X’,Y’およびZ’が取得される。
X’=2D’X+c2Y’
Z’=(2D’Z+Y’)/c1
ここで、
Figure 2020145707
であり、X’、Y’およびZ’は、[0.0,1.0]の範囲にあり、D’zおよびD’xは、[−0.5,0.5]の範囲にある。
そして、色成分X’、Y’およびZ’に対し、復号装置に関連付けられたディスプレイ装置の要求条件に従って、ステップS840において、さらなる処理が行われうる。
図9は、本発明の第2の実施形態に係る復号装置900の機能的なモジュールを例示する模式的なブロック図である。図10は、本発明の第2の形態係る方法のステップを記述
するフローチャートである。
復号装置900に対する入力データは、本発明の第2の実施形態に従って符号化された画像データを表す符号化されたビットストリームを含む。
ステップS1010において、復号モジュール910は、入来するビットストリームを復号してスケーリング且つ量子化された色差成分gxQD’x,QY’およびgzQD’zを取得する。
スケーリング且つ量子化された色差成分gxQD’xおよびgzQD’zを処理するために、符号化器gx gzによって適用される利得係数が復号装置によって取得される。
表2は、色域Rec709および色域Rec2020に対する、表1の利得係数の場合に適用されるべき逆スケーリング係数を例示している。
Figure 2020145707
表2:DzおよびDx成分に適用される復号スケーリング
情報は、復号器によって、様々な方法でアクセスされる。例えば、情報は、予め記憶されることがあり、情報は、符号化器から復号器に、画像データと共に送信されることもあれば、画像データとは別個に送信されることもある。
本発明の1つの特定の実施形態においては、ビデオ・ユーザビリティ情報(VUI)を使用し、3つのフィールド、color_primaries、transfer_characteristicsおよびmatrix_coeffsを通じてスケーリング情報を復号器に伝送することができる。
color_primariesフィールドは、ISO 11664−1に規定されているようなxおよびyのCIE 1931の定義の観点から、ソース原色の色度座標を示している。このフィールドは、使用される色域が、例えば、Rec709であるか、Rec2020であるかを示すために使用することができる。
transfer_characteristicsフィールドは、ソース・ピクチャの光電子工学伝達特性を示す。このフィールドは、符号化するべき色差成分へのXYZの変換を記述するために使用することができる。
matrix_coeffsフィールドは、緑、青および赤の原色からの輝度および色度信号を導出する際に使用される行列係数を記述する。
本発明の本実施形態においては、新たな値がmatrix_coeffsフィールドに追加される。matrix_coeffsのこの特定の値のために、表2に示されているようなcolor_primariesフィールドに従って、符号化器側で成分QD’xおよびQD’zがスケーリングされる。
例えば、color_primaries=1(Rec709を示す)である場合には、QD’xおよびQD’zは、それぞれ、復号器側で8および3の係数でD’xおよびD’zにダウンスケーリングされる。
ステップS1020において、色差成分が逆量子化モジュール910によって逆量子化され、スケーリングされた色差成分D’x、Y’およびD’zが取得される。
ステップS1030において、逆量子化された色差成分が色変換モジュール930によって処理され、以下のように、色成分X’、Y’およびZ’が取得される。
X’=2D’X+c2Y’
Z’=(2D’Z+Y’)/c1
ここで、
Figure 2020145707
であり、
色成分X’、Y’およびZ’は、[0.0,1.0]の範囲にあり、色差成分D’zおよびD’xは、[−0.5,0.5]の範囲にある。
そして、色成分X’、Y’およびZ’は、ステップS1050において、復号装置に関連付けられた表示装置の要求条件に従って、さらに処理することができる。
本発明の実施形態は、例えば、MPEG符号化等のようなビデオ・ストリーミングのための様々な符号化スキームにおいてその用途を見いだすことができる。
図11は、例示的な送信システム1300を示している。入力メディア・データ、例えば、HDR画像データを含むオーディオおよびビデオ・データは、本発明の実施形態に従って、メディア符号化器1310で符号化される。符号化されたデータは、多重化器1320で多重化され、送信機1330で送信される。送信システムは、通常のTVブロードキャスト環境で使用することができ、または、ストリーミングまたはダウンローディングのためのオーディオ・ビジュアル(AV)・データを提供するどのようなサービスにおいても使用することができる。
図12は、例示的な受信システム1400を示している。システム1400の入力データは、ビットストリーム、例えば、システム1300の出力に符号化されるマルチメディア・データとすることができる。データは、受信機1410で受信され、逆多重化器1420で逆多重化され、そして、本発明の実施形態に従う復号方法を適用することによってメディア復号器1430で復号される。復号されたパケットは、逆多重化器1420のバッファに収納することができる。レンダリング・エンジン1440は、例えば、カラーでHDR画像を表示するために、メディア・コンテンツをレンダリングする。
本発明を特定の実施形態を参照して上記に説明したが、本発明は特定の実施形態に限定されるものではなく、本発明の範囲の中で変更が施されることが当業者には明らかであろう。
例えば、上記の例において、前処理SMPTE色変換処理を含む符号化処理または復号処理について説明したが、本発明が色差成分を取得するためのどのような特定な処理にも限定されるものではないことが理解できよう。画像の色情報の符号化に適用可能な他の処理を、本発明のコンテキストにおいて適用することもできる。例えば、符号化処理およびこれに対応する復号処理は、MPEG2、MPEG4、AVC、H.263などのような何らかの符号化手法最適化ステップを伴う他の符号化/復号方法に基づくものとすることができる。
上述した例示的な実施形態を参照することによって、多くのさらなる変更および変形が当業者によって提案されるであろう。実施形態は、例示的な目的のみで与えられ、本発明の範囲を限定するように意図されたものではなく、本発明の範囲は、付随する請求の範囲によってのみ確定される。特に、種々の実施形態からの種々の特徴事項は、適宜、相互に置き換え可能である。

Claims (14)

  1. 色空間における画像の部分の色特性を規定する色成分を含む画像データを符号化する方法であって、当該方法は、少なくとも画像の部分に対し、
    前記画像の部分の色成分から取得された色差成分を、当該色差成分のダイナミック・レンジを拡張するために、利得係数を適用することによってスケーリングすることであって、各々の色差成分に適用される前記利得係数は前記色空間の色域に依存している、前記スケーリングすることと、
    前記スケーリングされた色差成分を符号化することと、
    を含む、前記方法。
  2. 各々の色差成分に適用される前記利得係数は、前記色差成分が−0.5〜0.5の範囲内となるようにするものである、請求項1に記載の方法。
  3. 前記色差成分のスケーリングは、前記色差成分の量子化の前に適用される、請求項1または2に記載の方法。
  4. 前記色差成分のスケーリングは、前記色差成分の量子化の後に適用される、請求項1または2に記載の方法。
  5. 前記画像の部分は、8ビットを超えるビット深度を有するハイダイナミック・レンジの画像の部分である、請求項1〜4のいずれか1項に記載の方法。
  6. 前記適用される利得係数を表すデータを送信することをさらに含む、請求項1〜5のいずれか1項に記載の方法。
  7. 前記適用される利得係数を表す前記データは、ビデオ・ユーザビリティ情報のフィールドに含まれる、請求項6に記載の方法。
  8. 使用される前記色域を示すデータがビデオ・ユーザビリティ情報のmatrix_coeffフィールドに含まれる、請求項7に記載の方法。
  9. 色空間における画像の部分の色特性を規定する色成分を含む画像データを復号する方法であって、当該方法は、少なくとも画像の部分に対し、
    受信されたデータ・ビットストリームを復号することと、
    前記復号されたビットストリームから色差成分を取得することと、
    符号化の前に前記色差成分に適用される利得係数に対応する再スケーリング係数を適用することによって、前記色差成分を再スケーリングすることであって、前記利得係数は前記色空間の色域に依存している、前記再スケーリングすることと、
    前記画像の部分の対応する色成分を取得するために、前記再スケーリングされた色差成分を処理することと、
    を含む、前記方法。
  10. ビデオ・ユーザビリティ情報のフィールドに含まれる、符号化の前に適用される前記利得係数を表すデータを受信することを含む、請求項9に記載の方法。
  11. 色空間における画像の部分の色特性を規定する色成分を含む画像データを符号化する符号化器であって、
    前記画像の部分の色成分から取得された色差成分を、当該色差成分のダイナミック・レンジを拡張するために利得係数を適用することによってスケーリングするスケーリング・
    モジュールであって、各々の色差成分に適用される前記利得係数は前記色空間の色域に依存している、前記スケーリング・モジュールと、
    前記スケーリングされた色差成分を符号化する符号化モジュールと、
    を含む、前記符号化器。
  12. 色空間における画像の部分の色特性を規定する色成分を含む画像データを復号する復号器であって、
    受信されたビットストリームを復号する復号モジュールと、
    前記復号されたビットストリームから色差成分を取得する処理モジュールと、
    符号化の前に前記色差成分に適用される利得係数に対応する再スケーリング係数を適用することによって前記色差成分を再スケーリングする再スケーリング・モジュールであって、各々の色差成分に適用される前記利得係数は前記色空間の色域に依存している、前記再スケーリング・モジュールと、
    前記画像の部分の対応する色成分を取得するために前記再スケーリングされた色差成分を処理する画像処理モジュールと、
    を含む、前記復号器。
  13. 色空間における画像の部分の色特性を規定する色成分を含む符号化された画像データであって、請求項1〜8のいずれか1項に記載の方法に従って符号化されている前記画像データと、
    ダイナミック・レンジを拡張するために、符号化する前に前記画像データの色差成分に適用される利得係数を表すデータと、
    を含む、データ・パッケージ
  14. プログラム可能な装置のためのコンピュータ・プログラム製品であって、前記プログラム可能な装置にローディングされて実行されたときに、請求項1〜10のいずれか1項に記載の方法を実行する命令のシーケンスを含む、前記コンピュータ・プログラム製品。
JP2020083328A 2014-07-22 2020-05-11 画像データを処理する方法および装置 Active JP6980054B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP14306184.4A EP2977958A1 (en) 2014-07-22 2014-07-22 Method and apparatus for processing image data
EP14306184.4 2014-07-22
JP2017503115A JP6703978B2 (ja) 2014-07-22 2015-07-20 画像データを処理する方法および装置

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2017503115A Division JP6703978B2 (ja) 2014-07-22 2015-07-20 画像データを処理する方法および装置

Publications (2)

Publication Number Publication Date
JP2020145707A true JP2020145707A (ja) 2020-09-10
JP6980054B2 JP6980054B2 (ja) 2021-12-15

Family

ID=51265638

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2017503115A Active JP6703978B2 (ja) 2014-07-22 2015-07-20 画像データを処理する方法および装置
JP2020083328A Active JP6980054B2 (ja) 2014-07-22 2020-05-11 画像データを処理する方法および装置

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2017503115A Active JP6703978B2 (ja) 2014-07-22 2015-07-20 画像データを処理する方法および装置

Country Status (9)

Country Link
US (1) US10757426B2 (ja)
EP (2) EP2977958A1 (ja)
JP (2) JP6703978B2 (ja)
KR (1) KR102401881B1 (ja)
CN (1) CN106537912B (ja)
AU (1) AU2015294052B2 (ja)
MX (1) MX2017000846A (ja)
TW (1) TWI725939B (ja)
WO (1) WO2016012396A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180139360A1 (en) * 2015-05-18 2018-05-17 Thomson Licensing Method and device for processing color image data representing colors of a color gamut
EP3119086A1 (en) * 2015-07-17 2017-01-18 Thomson Licensing Methods and devices for encoding/decoding videos
CN108605125B (zh) * 2016-01-28 2021-05-25 皇家飞利浦有限公司 对hdr视频进行编码和解码的方法及设备

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007295415A (ja) * 2006-04-26 2007-11-08 Sharp Corp 画像処理方法および画像処理装置
JP2012520050A (ja) * 2009-03-10 2012-08-30 ドルビー ラボラトリーズ ライセンシング コーポレイション 拡張ダイナミックレンジおよび拡張次元をもつ画像信号変換
JP2015211417A (ja) * 2014-04-30 2015-11-24 ソニー株式会社 情報処理装置、情報記録媒体、および画像処理方法、並びにプログラム

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3057255B2 (ja) 1989-08-15 2000-06-26 ソニー株式会社 画像処理装置及び画像処理方法
KR100200363B1 (ko) * 1996-10-10 1999-06-15 윤종용 영상의 다이나믹 레인지 확대 장치
EP1608183A1 (en) 2004-06-14 2005-12-21 Dialog Semiconductor GmbH Matrix circuit for imaging sensors
JPWO2007066710A1 (ja) 2005-12-07 2009-05-21 ソニー株式会社 符号化装置、符号化方法および符号化プログラム、ならびに、復号装置、復号方法および復号プログラム
EP1998571A1 (en) 2006-03-20 2008-12-03 Sony Corporation Image signal processing device and image signal processing method
US9571856B2 (en) 2008-08-25 2017-02-14 Microsoft Technology Licensing, Llc Conversion operations in scalable video encoding and decoding
US9414054B2 (en) * 2012-07-02 2016-08-09 Microsoft Technology Licensing, Llc Control and use of chroma quantization parameter values
WO2014045506A1 (en) * 2012-09-24 2014-03-27 Sharp Kabushiki Kaisha Video compression with color space scalability
JP2015005899A (ja) * 2013-06-21 2015-01-08 ソニー株式会社 復号装置および復号方法、並びに、符号化装置および符号化方法
US10075735B2 (en) * 2013-07-14 2018-09-11 Sharp Kabushiki Kaisha Video parameter set signaling
KR20150010658A (ko) * 2013-07-18 2015-01-28 삼성전자주식회사 비디오 포멧 파라미터 전달을 사용하는 비디오 부호화 방법 및 그 장치, 비디오 복호화 방법 및 그 장치
JP6368365B2 (ja) * 2013-07-18 2018-08-01 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. Hdrイメージの符号化のためのコードマッピング関数を作成するための方法及び装置、並びに、かかる符号化イメージの使用のための方法及び装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007295415A (ja) * 2006-04-26 2007-11-08 Sharp Corp 画像処理方法および画像処理装置
JP2012520050A (ja) * 2009-03-10 2012-08-30 ドルビー ラボラトリーズ ライセンシング コーポレイション 拡張ダイナミックレンジおよび拡張次元をもつ画像信号変換
JP2015211417A (ja) * 2014-04-30 2015-11-24 ソニー株式会社 情報処理装置、情報記録媒体、および画像処理方法、並びにプログラム

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
CHAD FOGG AND JIM HELMAN: "Indication of SMPTE 2084 and 2085 and carriage of 2086 metadata in HEVC", JOINT COLLABORATIVE TEAM ON VIDEO CODING (JCT-VC) OF ITU-T SG 16 WP 3 AND ISO/IEC JTC 1/SC 29/WG 11, vol. JCTVC-P0084r1, JPN6021027070, January 2014 (2014-01-01), pages 1 - 5, ISSN: 0004549111 *
MASATO TODA ET AL.: "High Dynamic Range Rendering for YUV Images with a Constraint on Perceptual Chroma Preservation", ICIP 2009, JPN6021027069, 2009, pages 1817 - 1820, XP031628094, ISSN: 0004549110 *
SEBASTIEN LASSERRE ET AL.: "New HDR video coding results", JOINT COLLABORATIVE TEAM ON VIDEO CODING (JCT-VC) OF ITU-T SG 16 WP 3 AND ISO/IEC JTC 1/SC 29/WG 11, vol. JCTVC-Q0191, JPN6021027072, March 2014 (2014-03-01), pages 1 - 6, ISSN: 0004549112 *
ZICONG MAI, PANOS NASIOPOULOS AND RABAB K. WARD: "COMPUTATIONALLY EFFICIENT TONE-MAPPING OF HIGH-BIT-DEPTH VIDEO IN THE YCBCR DOMAIN", ICASSP 2012, JPN6021027067, 2012, pages 1505 - 1508, XP032227416, ISSN: 0004549109, DOI: 10.1109/ICASSP.2012.6288176 *

Also Published As

Publication number Publication date
JP6980054B2 (ja) 2021-12-15
KR102401881B1 (ko) 2022-05-26
EP2977958A1 (en) 2016-01-27
CN106537912A (zh) 2017-03-22
US10757426B2 (en) 2020-08-25
AU2015294052A1 (en) 2017-02-23
JP6703978B2 (ja) 2020-06-03
JP2017525290A (ja) 2017-08-31
CN106537912B (zh) 2020-02-07
KR20170037608A (ko) 2017-04-04
US20170223366A1 (en) 2017-08-03
MX2017000846A (es) 2017-05-01
WO2016012396A1 (en) 2016-01-28
TWI725939B (zh) 2021-05-01
TW201605228A (zh) 2016-02-01
EP3172718A1 (en) 2017-05-31
EP3172718B1 (en) 2022-04-27
BR112017000992A2 (pt) 2017-11-14
AU2015294052B2 (en) 2020-12-03

Similar Documents

Publication Publication Date Title
RU2611978C2 (ru) Формирование и обработка сигнала изображения с высоким динамическим диапазоном
AU2016212243B2 (en) A method and apparatus of encoding and decoding a color picture
JP6980054B2 (ja) 画像データを処理する方法および装置
JP7340659B2 (ja) 復号された画像データから画像データを再構成する方法および装置
KR20200081386A (ko) 제1 이미지로부터 제2 이미지를 생성하기 위한 방법 및 디바이스
KR102537393B1 (ko) Hdr 이미지를 재구성하기 위한 방법 및 디바이스
WO2017001330A1 (en) Method and device for encoding both a hdr picture and a sdr picture obtained from said hdr picture using color mapping functions
KR20190132399A (ko) 컬러 영역 매핑을 위한 방법 및 디바이스
JP2013517723A (ja) イメージエンコーダおよびイメージデコーダ
KR20180044291A (ko) 코딩 및 디코딩 방법과 대응하는 디바이스
KR20190117686A (ko) 높은 동적 범위 이미지를 디코딩하기 위한 방법 및 디바이스
KR20200002029A (ko) 컬러 영역 매핑을 위한 방법 및 디바이스
CN113228694B (zh) 处理音频和/或视频内容及相应信号的方法、设备、电子组件、系统、计算机可读程序产品和计算机可读存储介质
EP3026908A1 (en) Method and device for quantizing and de-quantizing a picture using scaling factors for chrominance based on luminance
BR112017000992B1 (pt) Método de codificação de dados de imagem, método para decodificação de dados de imagem, codificador para codificar dados de imagem, decodificador para decodificar dados de imagem e mídia de armazenamento legível por computador não transitória
CN116508054A (zh) 用于避免色调映射器中的色度削波同时维持饱和度并保持色调的方法、设备和装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200610

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210706

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210709

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211007

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211027

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211116

R150 Certificate of patent or registration of utility model

Ref document number: 6980054

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150