JP6568078B2 - 画像データを符号化するための方法および装置ならびに画像データを復号するための方法および装置 - Google Patents

画像データを符号化するための方法および装置ならびに画像データを復号するための方法および装置 Download PDF

Info

Publication number
JP6568078B2
JP6568078B2 JP2016546017A JP2016546017A JP6568078B2 JP 6568078 B2 JP6568078 B2 JP 6568078B2 JP 2016546017 A JP2016546017 A JP 2016546017A JP 2016546017 A JP2016546017 A JP 2016546017A JP 6568078 B2 JP6568078 B2 JP 6568078B2
Authority
JP
Japan
Prior art keywords
image
segment
encoding
dynamic range
perceptual space
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2016546017A
Other languages
English (en)
Other versions
JP2017508354A (ja
JP2017508354A5 (ja
Inventor
ル レアンネック ファブリツェ
ル レアンネック ファブリツェ
ラセール セバスチャン
ラセール セバスチャン
トウゼ ダヴィッド
トウゼ ダヴィッド
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Thomson Licensing SAS
Original Assignee
Thomson Licensing SAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Thomson Licensing SAS filed Critical Thomson Licensing SAS
Publication of JP2017508354A publication Critical patent/JP2017508354A/ja
Publication of JP2017508354A5 publication Critical patent/JP2017508354A5/ja
Application granted granted Critical
Publication of JP6568078B2 publication Critical patent/JP6568078B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/98Adaptive-dynamic-range coding [ADRC]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • H04N19/147Data rate or code amount at the encoder output according to rate distortion criteria
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/182Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a pixel
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/189Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding
    • H04N19/19Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding using optimisation based on Lagrange multipliers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/96Tree coding, e.g. quad-tree coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

本発明は、画像データを符号化するための方法および装置、および画像データを復号するための方法および装置に関する。詳細には、限定しないが、本発明は、ハイダイナミックレンジ(HDR)アプリケーションのためのビデオデータの符号化および復号に関する。
撮像デバイスによって取り込まれるシーン内の光の変動は大きく変わり得る。たとえば、シーンの影の中に位置する物体は、直射日光によって照明された物体に比べて非常に暗く見える可能性がある。従来のローダイナミックレンジ(LDR)画像によって提供される限られたダイナミックレンジおよび色域は、そのようなシーン内の輝度および色の変化を正確に再現するための十分な範囲を提供しない。典型的には、画像の画素の輝度または色を表すLDR画像の成分の値は、限られた数のビット(典型的には8、10、または12ビット)によって表される。そのような表現によって提供される輝度の限られた範囲は、特に輝度の明るい範囲および暗い範囲において、小さな信号変動が効果的に再現されることを可能にしない。
ハイダイナミックレンジ画像(HDRまたはHDRIとも呼ばれる)は、従来のLDR画像に比べてシーンの明るいエリアと暗いエリアの間で輝度のより大きなダイナミックレンジを可能にする。これは、範囲全体にわたって高い信号精度を提供するために、HDR画像において、信号表現をより広いダイナミックレンジに拡張することによって達成される。HDR画像では、画素の成分値は、通常、浮動小数点フォーマット(たとえば、各成分について32ビットまたは16ビット、すなわちfloatまたはhalf−float)において含むより多くの数のビット(たとえば、16ビットから64ビット)で表され、最も一般的なフォーマットは、openEXR半精度浮動小数点フォーマット(RGB成分当たり16ビット、すなわち画素当たり48ビット)であり、またはlong表現、典型的には少なくとも16ビットを有する整数である。そのような範囲は、人の視覚系の自然の感度に対応する。このようにして、HDR画像は、現実のシーンにおいて見出される輝度の広い範囲をより正確に表し、それによりシーンのより現実的な表現を提供する。
しかし、提供される値のより大きな範囲のために、HDR画像は大量の記憶空間および帯域幅を消費し、HDR画像およびビデオの記憶および伝送を問題の多いものにする。したがって、データをより小さい、より管理可能なデータサイズに圧縮するために、効率的なコード化技法が必要とされている。正確なレンダリングのために輝度のダイナミックレンジを保存しながらHDRデータを効果的に圧縮するための適切なコード化/復号技法を見出すことは、困難であることが判明している。
HDR画像を符号化するための典型的な手法は、LDR画像を符号化するために使用される従来の符号化方式により画像を符号化するために、画像のダイナミックレンジを低減することである。
たとえば、1つのそのような技法では、トーンマッピングオペレータが入力HDR画像に適用され、次いで、トーンマッピングされた画像は、ビデオのためのJPEG/JPEG200またはMPEG−2、H.264/AVCなど従来の8〜10ビット深度の符号化方式により符号化される(Karsten Suhring、H.264/AVC Reference Software、http://iphome.hhi.de/suehring/tml/download/、the book of I.E.Richardson titled ”H.264 and MPEG−4 video compression” published in J.Wiley & Sons in September 2003)。次いで、逆トーンマッピング演算子が復号された画像に適用され、入力画像と、復号され逆トーンマッピングされた画像との間で残差が計算される。最後に、その残差が、第2の従来の8〜10ビット深度の符号化器方式により符号化される。
この第1の手法の主な欠点は、2つの符号化方式の使用、および入力画像のダイナミックレンジを従来の符号化方式のダイナミックレンジの2倍(16〜20ビット)に制限することである。別の手法によると、たとえばHEVCなど、従来の8〜10または拡張された12、14、もしくは16ビット深度の符号化方式(B.Bross、W.J.Han、G.J.Sullivan、J.R.Ohm、T.Wiegand JCTVC−K1003、”High Efficiency Video Coding(HEVC)text specification draft 9,” Oct 2012)およびその高いビット深度拡張と適合するダイナミックレンジに値が属する色空間内の画像画素の視覚的にロスレスな表現を得るために、入力HDR画像が変換される。従来のコーデックが高い画素(ビット)深度を操作することができる場合でさえ、一般に、そのようなビット深度で、画像にわたって均一に符号化することは困難である。なぜなら、得られる圧縮比が伝送アプリケーションにとって低すぎるからである。
LDR画像に適用可能なコード化技法を使用する他の手法は、復号された画像内にアーチファクトを引き起こす。本発明は、前述を念頭に置いて工夫された。
本発明の第1の態様によると、輝度成分および色差メトリックを有する知覚空間内で定義されるハイダイナミックレンジの画像の少なくとも一部を符号化する方法が提供され、この方法は、
ローダイナミックレンジ(LDR)画像に適用可能な符号化処理を使用して上記画像の上記少なくとも一部のセグメントを符号化し、上記符号化処理において少なくとも1つの符号化パラメータを適用するステップと、
上記符号化されたセグメントをハイダイナミックレンジの上記知覚空間内で再構築するステップと、
ハイダイナミックレンジの上記知覚空間内の上記符号化されたセグメントについてレート歪みコストを評価するステップと、
上記セグメントの上記符号化処理のための前記少なくとも1つの符号化パラメータを上記評価されたレート歪みコストに基づいて調整するステップと、を含む。
画像のセグメントは、画像のブロックを指してもよい。ブロックは、たとえば、予測ユニット(PU)、コード化ユニット(CU)、または変換ユニット(TU)であり得る。
一実施形態では、上記少なくとも1つの符号化パラメータは、符号化されるセグメントに上記画像を区分することを定義し、各セグメントは、HDRの対応する知覚空間を有する。
一実施形態では、上記少なくとも1つの符号化パラメータは、コード化4分木パラメータを含む。
一実施形態では、この方法は、上記セグメントについて、共通の代表的な輝度成分値を、上記セグメントの対応する画像サンプルの輝度値に基づいて得るステップを含む。
一実施形態では、上記レート歪みコストを評価するステップは、上記共通の代表的な輝度成分値の符号化に関連付けられたレートを評価するステップを含む。
一実施形態では、符号化処理は、HEVCタイプの符号化処理であり、上記画像の上記少なくとも一部の上記セグメントは、コード化ユニット、予測ユニット、または変換ユニットに対応する。
一実施形態では、この方法は、画像セグメントを符号化する前に、そのセグメントを上記共通の代表的な輝度成分値に基づいて局所的な知覚空間内で表すステップを含む。
一実施形態では、この方法は、上記セグメントについて、局所的なLDR領域内の局所的な残差輝度成分を得るステップであって、上記局所的な残差輝度成分は、元の画像の対応する輝度成分と上記セグメントの上記共通の代表的な輝度値との差に対応する、ステップを含む。
一実施形態では、この方法は、上記セグメントについて、上記局所的な知覚空間内の少なくとも1つの対応する画像部分を得るステップであって、前記少なくとも1つの画像部分は、上記セグメントの上記共通の代表的な輝度値に従って正規化された上記セグメントの上記局所的な残差輝度成分または色成分に対応する、ステップを含む。
一実施形態では、上記レート歪みコストを評価するステップは、前記少なくとも1つの画像部分の符号化に関連付けられたレートを評価するステップを含む。
一実施形態では、上記レート歪みコストを評価するステップは、上記局所的な残差輝度成分の符号化に関連付けられたレートを評価するステップを含む。
一実施形態では、上記レート歪みコストを評価するステップは、ハイダイナミックレンジの上記知覚空間内の上記符号化されたセグメントの再構築に関連付けられた歪みを評価するステップを含む。
一実施形態では、符号化パラメータセットpについてのレート歪みコストDHDRは、以下の式に基づいて評価され、
HDR(CU,p)+λ(RLDR(CU,p)+R(Llf,p))
上式で、
・ RLDR(CU,p)は、残差画像部分の符号化に関連付けられたレートであり、
R(Llf,p)は、上記共通の代表的な輝度成分値の符号化に関連付けられたレートであり、
HDR(CU,p)は、ハイダイナミックレンジの上記知覚空間内の上記符号化されたセグメントの再構築に関連付けられた歪みであり、
λは、ラグランジュパラメータである。
一実施形態では、この方法は、上記局所的な知覚空間内で再構築された上記残差画像部分のサンプルと、元のテクスチャのサンプルと、前記画像の対応するサンプルとの間で仮想ロスレスリファインメントを実施するステップを含む。
本発明の第2の態様によると、輝度成分および色差メトリックを有する知覚空間内で定義されるハイダイナミックレンジの画像の少なくとも一部を符号化するための符号化デバイスが提供され、このデバイスは、
ローダイナミックレンジ(LDR)画像に適用可能な符号化処理を使用して上記画像の上記少なくとも一部のセグメントを、符号化処理において少なくとも1つの符号化パラメータを適用することによって符号化するための符号化器(ENC1、ENC2、ENC3)と、
上記符号化されたセグメントをハイダイナミックレンジの上記知覚空間内で再構築する再構築モジュール(REC)と、
ハイダイナミックレンジの上記知覚空間内の上記符号化されたセグメントについてレート歪みコストを決定するためのレート歪みモジュール(RATE−DIST)と、
上記セグメントの上記符号化処理のための上記少なくとも1つの符号化パラメータを上記評価されたレート歪みコストに基づいて調整するための符号化器管理モジュール(ENCODER CONTROL)と、を備える。
画像のセグメントは、画像のブロックを指してもよい。ブロックは、たとえば、予測ユニット(PU)、コード化ユニット(CU)、または変換ユニット(TU)であり得る。
一実施形態では、上記少なくとも1つの符号化パラメータは、符号化されるセグメントに上記画像を区分することを定義し、各セグメントは、HDRの対応する知覚空間を有する。
一実施形態では、上記少なくとも1つの符号化パラメータは、コード化4分木パラメータを含む。
一実施形態では、符号化デバイスは、前記セグメントについて、共通の代表的な輝度成分値を、前記セグメントの対応する画像サンプルの輝度値に基づいて得るためのモジュールを含む。
一実施形態では、レート歪みモジュールは、上記共通の代表的な輝度成分値の符号化に関連付けられたレートを評価するように構成される。
一実施形態では、符号化デバイスは、HEVCタイプの符号化処理を実装するように構成され、上記画像の上記少なくとも一部の上記セグメントは、コード化ユニット、予測ユニット、または変換ユニットに対応する。
一実施形態では、符号化デバイスは、画像セグメントを符号化する前に、そのセグメントを上記共通の代表的な輝度成分値に基づいて局所的な知覚空間内で表すためのモジュールを備える。
一実施形態では、符号化デバイスは、上記セグメントについて、局所的なLDR領域内の局所的な残差輝度成分を得るためのモジュールを備え、前記局所的な残差輝度成分は、元の画像の対応する輝度成分と上記セグメントの上記共通の代表的な輝度値との差に対応する。
一実施形態では、符号化デバイスは、上記セグメントについて、上記局所的な知覚空間内の少なくとも1つの対応する画像部分を得るためのモジュールを備え、前記少なくとも1つの画像部分は、上記セグメントの上記共通の代表的な輝度値に従って正規化された上記セグメントの上記局所的な残差輝度成分または色成分に対応する。
一実施形態では、レート歪みモジュールは、残差画像部分の符号化に関連付けられたレートを評価するように構成される。
一実施形態は、レート歪みモジュールは、ハイダイナミックレンジの上記知覚空間内の上記符号化されたセグメントの再構築に関連付けられた歪みを評価するように構成される。
一実施形態では、符号化パラメータセットpについてのレート歪みコストDHDRは、以下の式に基づいて評価され、
HDR(CU,p)+λ(RLDR(CU,p)+R(Llf,p))
上式で、
・ RLDR(CU,p)は、残差画像部分の符号化に関連付けられたレートであり、
R(Llf,p)は、上記共通の代表的な輝度成分値の符号化に関連付けられたレートであり、
HDR(CU,p)は、ハイダイナミックレンジの上記知覚空間内の上記符号化されたセグメントの再構築に関連付けられた歪みであり、
λは、ラグランジュパラメータである。
一実施形態では、符号化デバイスは、上記局所的な知覚空間内で再構築された上記残差画像部分のサンプルと、元のテクスチャのサンプルと、前記画像の対応するサンプルとの間で仮想ロスレスリファインメントを実施するためのモジュールを備える。
本発明の第3の態様によると、輝度成分および色差メトリックを有する知覚空間内で定義されるハイダイナミックレンジの画像の少なくとも一部を表すビットストリームを復号するための復号方法が提供され、この方法は、
少なくとも1つの符号化パラメータを表すコード化データにアクセスするステップと、
ローダイナミックレンジ(LDR)画像に適用可能な復号処理を使用して上記画像の上記少なくとも一部のセグメントを、上記少なくとも1つの符号化パラメータに対応する少なくとも1つの復号パラメータを適用することによって復号するステップと、を含み、
上記少なくとも1つの符号化パラメータは、LDR画像に適用可能な符号化処理およびハイダイナミックレンジの上記知覚空間内の上記セグメントの再構築によって、上記セグメントの符号化後、上記セグメントについて評価されたレート歪みコストに基づいて決定される。
画像のセグメントは、画像のブロックを指してもよい。ブロックは、たとえば、予測ユニット(PU)、コード化ユニット(CU)、または変換ユニット(TU)であり得る。
一実施形態では、上記少なくとも1つの復号パラメータは、復号されるセグメントに上記画像を区分することを定義し、各セグメントは、HDRの対応する知覚空間を有する。
一実施形態では、上記少なくとも1つの復号パラメータは、復号4分木パラメータを含む。
本発明の第4の態様によると、輝度成分および色差メトリックを有する知覚空間内で定義されるハイダイナミックレンジの画像の少なくとも一部を表すビットストリームを復号するための復号デバイスが提供され、このデバイスは、
上記画像を符号化するための少なくとも1つの符号化パラメータを表すコード化データにアクセスするためのインターフェースと、
ローダイナミックレンジ(LDR)画像に適用可能な復号処理を使用して上記画像の上記少なくとも一部のセグメントを、上記少なくとも1つの符号化パラメータに対応する少なくとも1つの復号パラメータを適用することによって復号するための復号器と、を備え、
上記少なくとも1つの符号化パラメータは、LDR画像に適用可能な符号化処理およびハイダイナミックレンジの上記知覚空間内の上記セグメントの再構築によって、上記セグメントの符号化後、上記セグメントについて評価されたレート歪みコストに基づいて決定される。
画像のセグメントは、画像のブロックを指してもよい。ブロックは、たとえば、予測ユニット(PU)、コード化ユニット(CU)、または変換ユニット(TU)であり得る。
一実施形態では、上記少なくとも1つの復号パラメータは、復号されるセグメントに上記画像を区分することを定義し、各セグメントは、HDRの対応する知覚空間を有する。
一実施形態では、上記少なくとも1つの復号パラメータは、復号4分木パラメータを含む。
本発明の第5の態様によると、輝度成分および色差メトリックを有する知覚空間内で定義されるハイダイナミックレンジの画像の少なくとも一部を表すビットストリームが提供され、このビットストリームは、符号化パラメータセットを表すデータを担持する信号をさらに含み、上記少なくとも1つの符号化パラメータは、LDR画像に適用可能な符号化処理およびハイダイナミックレンジの上記知覚空間内の上記セグメントの再構築によって、上記セグメントの符号化後、上記セグメントについて評価されたレート歪みコストに基づいて決定される。
第3の態様、第4の態様、および第5の態様の少なくとも1つの符号化パラメータは、本発明の第1の態様および第2の態様の実施形態のいずれかに従って決定される。
本発明の他の態様は、輝度成分および色差メトリックを有するハイダイナミックレンジの知覚空間内で定義されるハイダイナミックレンジの画像の少なくとも一部を符号化する方法を提供し、この方法は、ローダイナミックレンジ(LDR)画像に適用可能な符号化処理を使用して上記画像の上記一部のセグメントを符号化し、上記符号化処理において少なくとも1つの符号化パラメータを適用するステップと、上記セグメントの上記符号化処理のための前記少なくとも1つの符号化パラメータをレート歪みコストに基づいて調整するステップと、を含み、上記レート歪みコストは、ハイダイナミックレンジの上記知覚空間内での上記符号化されたセグメントの再構築後、上記符号化されたセグメントに対して評価される。
本発明の他の態様は、輝度成分および色差メトリックを有するハイダイナミックレンジの知覚空間内で定義されるハイダイナミックレンジの画像の少なくとも一部を符号化するための符号化デバイスを提供し、このデバイスは、
ローダイナミックレンジ(LDR)画像に適用可能な符号化処理を使用して上記画像の上記少なくとも一部のセグメントを符号化し、上記符号化処理において少なくとも1つの符号化パラメータを適用するステップと、
上記符号化されたセグメントをハイダイナミックレンジの上記知覚空間内で再構築し、
ハイダイナミックレンジの上記知覚空間内の上記符号化されたセグメントについてレート歪みコストを評価し、
上記セグメントの上記符号化処理のための前記少なくとも1つの符号化パラメータを上記評価されたレート歪みコストに基づいて調整するように構成された1つまたは複数のプロセッサを備える。
本発明の他の態様によると、輝度成分および色差メトリックを有する知覚空間内で定義されるハイダイナミックレンジの画像の少なくとも一部を表すビットストリームを復号するための復号デバイスが提供され、このデバイスは、
上記画像を符号化するために使用される少なくとも1つの符号化パラメータを表すコード化データにアクセスし、
ローダイナミックレンジ(LDR)画像に適用可能な復号処理を使用して上記画像の上記少なくとも一部のセグメントを、上記少なくとも1つの符号化パラメータにそれぞれ対応する少なくとも1つの復号パラメータを適用することによって復号するように構成された1つまたは複数のプロセッサを備え、
上記少なくとも1つの符号化パラメータは、LDR画像に適用可能な符号化処理およびハイダイナミックレンジの上記知覚空間内の上記セグメントの再構築によって、上記セグメントの符号化後、上記セグメントについて評価されたレート歪みコストに基づいて事前に決定される。
本発明の実施形態は、改善された視覚体験をもたらす広範なアプリケーション向けのハイダイナミックレンジ画像データのための符号化および復号方法を提供する。
本発明による方法の少なくとも一部は、コンピュータによって実施され得る。したがって、本発明は、完全にハードウェアの実施形態、完全にソフトウェアの実施形態(ファームウェア、常駐ソフトウェア、マイクロコードなどを含む)、またはソフトウェアとハードウェアの態様を組み合わせる実施形態の形態をとることができ、これらはすべて、本明細書において一般に、「回路」「モジュール」または「システム」と呼ばれることがある。さらに、本発明は、コンピュータ使用可能なプログラムコードが媒体内に含まれる任意の有形の表現媒体内に含まれるコンピュータプログラム製品の形態をとることができる。
本発明はソフトウェアで実装することができるので、本発明は、任意の好適なキャリア媒体上でプログラム可能な装置に提供するためにコンピュータ可読コードとして具体化され得る。有形のキャリア媒体は、フロッピディスク、CD−ROM、ハードディスクドライブ、磁気テープデバイス、またはソリッドステートメモリデバイスなど記憶媒体を含むことができる。過渡的なキャリア媒体は、電気信号、電子信号、光信号、音響信号、磁気信号、または電磁信号、たとえばマイクロ波もしくはRE信号などの信号を含むことができる。
次に、本発明の実施形態について、例示のためだけとして、以下の図面を参照して述べる。
本発明の第1の実施形態による符号化処理のブロック図である。 HEVCビデオ圧縮標準による、コード化ユニットを予測ユニットと変換ユニットに分解する一例を示す概略図である。 本発明の一実施形態による符号化処理のブロック図である。 本発明の他の実施形態による符号化処理のブロック図である。 本発明の1つまたは複数の実施形態による復号処理のブロック図である。 本発明の1つまたは複数の実施形態による符号化デバイスのブロック図である。 本発明の1つまたは複数の実施形態による復号デバイスのブロック図である。 本発明の1つまたは複数の実施形態を実装することができるデータ通信システムの一例のブロック図である。
図1は、本発明の第1の実施形態による画像Iの少なくとも一部を符号化するための方法のステップを示す概略ブロック図である。図1の方法の符号化ステップは、一般に、LDRタイプの画像に適用可能なHEVC圧縮標準に基づくが、本発明の実施形態は、たとえばH.264/AVC、MPEG2、またはMPEG4など、LDRタイプの画像に適用可能な他の符号化標準に適用されてもよいことを理解されたい。
この方法は、HDR画像データを獲得することから始まる。HDR画像データは、画像のビデオシーケンス、画像、または画像の一部を表してもよい。以下の説明を簡単にするために、獲得される画像データは、HDR画像に対応する。HDR画像データは、ビデオカメラなど撮像デバイスから直接獲得されても、ローカルまたは遠隔に位置する、HDR画像データが記憶されるメモリデバイスから獲得されても、無線または有線伝送ラインを介して受信されてもよい。
本明細書で使用されるとき、「HDR画像」という用語は、典型的には16より大きいビット数によって表される浮動小数点(floatまたはhalf−float)、固定小数点、または長い表現の整数のフォーマットにあるハイダイナミックレンジデータを含む任意のHDR画像を指す。入力HDR画像は、任意の色空間または知覚空間内で定義され得る。たとえば、本実施形態では、入力HDR画像は、RGB色空間内で定義される。他の実施形態では、入力HDR画像は、YUVまたは任意の知覚空間など、別の色空間内で定義されてもよい。
一般に、このプロセスの符号化ステップは、画像の画素の輝度を表すデータを含む画像に対して実施される。そのような画像データは、輝度成分Lと、おそらくは少なくとも1つの色成分C(i)とを含み、ここでiは、画像の色成分を識別するインデックスである。画像のこれらの成分は、色空間、通常3D空間を定義し、たとえば、画像は、輝度成分Lとおそらくは2つの色成分C1、C2とを含む色知覚空間内で定義されてもよい。
しかし、本発明は、色成分を有するHDR画像に限定されないことを理解されたい。たとえば、HDR画像は、色成分なしに輝度成分を有する知覚空間内の灰色画像であってもよい。
知覚空間は、輝度成分を含む複数の成分から構成され、知覚空間の2つの点の視知覚間のそれぞれの差をそれらの値が表し、好ましくはそれらに比例する色差メトリックd((L,C1,C2),(L’,C1’,C2’))を有する色空間として定義される。たとえば、色空間は、輝度成分Lと、2つの色成分C1、C2とを有する。
数学的に言えば、色差メトリックd((L,C1,C2),(L’,C1’,C2’))は、知覚閾値ΔE0(JND、丁度可知差異とも呼ばれる)が存在するように定義され、知覚閾値未満では、人の眼は、知覚空間内の2色間の視覚的な差を知覚することができない。すなわち、
d((L,C1,C2),(L’,C1’,C2’))<ΔE0 (1)
知覚閾値ΔE0は、知覚空間の2つの点(L,C1,C2)および(L’,C1’,C2’)とは独立である。したがって、その成分が知覚空間に属する画像を、式(1)のメトリックが境界ΔE0未満にとどまるように符号化することにより、画像の表示される復号後バージョンが視覚的にロスレスであることが確実化される。
獲得された画像Iが、たとえば(R,G,B)など非知覚空間に属する成分を含むとき、知覚空間を定義する輝度成分Lとおそらくは2つの色成分C1、C2とを有するHDR画像1pを得るために、ステップS101において、画像変換モジュールICによって画像データIに知覚的変換が適用される。実施される知覚的変換は、ディスプレイのライティング条件、および初期色空間によって決まる。たとえば、初期色空間が(R,G,B)色空間であると仮定すると、画像Iは、最初に周知の線形空間(X,Y,Z)に変換される。このステップは、適切な場合、逆ガンマ補正を適用し、次いで線形RGB空間データを3×3変換行列でXYZ空間に変換することによってデータの線形化を実施することを含む。このステップの場合、画像の視覚的環境を特徴付けるデータが使用される。たとえば、(X,Y,Z)空間内でディスプレイの参照ライティング条件を定義する値(Xn,Yn,Zn)の3Dベクトルが使用される。
一例として、知覚的変換は、知覚空間LabCIE1976が選択される場合、以下のように定義される。
*=116f(Y/Yn)−16
*=500(f(X/Xn)−f(Y/Yn))
*=200(f(Y/Yn)−f(Z/Zn))
上式で、fは、たとえばいかによって与えられるガンマ補正関数である。
f(r)=r1/3 f>(6/29)3の場合
Figure 0006568078
これらの色は、知覚空間LabCIE1976上で定義された以下の色差メトリックが満たされるとき、参照ライティング条件(Xn,Yn,Zn)で互いに人が区別可能である。
d((L*,a*,b*),(L*’,a*’,b*’))2=(ΔL*2,(Δa*2,(Δb*2<(ΔE02
ΔL*は、2つの色(L*,a*,b*)および(L*’,a*’,b*’)の輝度成分間の差であり、Δa*(またはΔb*)は、これらの2色の色成分間の差である。典型的には、ΔE0は、1と2の間の値を有する。
空間(X,Y,Z)内の画像を、場合によっては逆変換し、本例では(R,G,B)空間など初期空間内の復号された画像の推定を得ることができる。対応する逆知覚的変換は、以下によって与えられる。
Figure 0006568078
別の例によれば、知覚空間Lu**が選択されるとき、知覚的変換は、以下のように定義され得る。
*=13L(u’−u’white)およびv*=13L(v’−v’white
上式で、以下が定義される。
Figure 0006568078
および
Figure 0006568078
以下のユークリッドメトリックを知覚空間Lu**に対して定義することができる。
d((L*,u*,v*),(L*’,u*’,v*’))2=(ΔL)2+(Δu*2+(Δv*2
ΔL*は、2つの色(L*,u*,v*)および(L*’,u*’,v*’)の輝度成分間の差であり、Δu*(またはΔv*)は、これらの2色の色成分間の差である。
Luv空間についての対応する逆知覚的変換は、以下によって与えられる。
Figure 0006568078
本発明は知覚空間LabCIE1976に限定されず、同じLab空間であるが知覚距離を測定するためのメトリックが異なるLabCIE1994、LabCIE2000など任意のタイプの知覚空間に、またはたとえば任意の他のユークリッド知覚空間に拡張され得ることを理解されたい。
他の例は、LMS空間とIPT空間である。これらの知覚空間上において、メトリックは、好ましくは知覚差に比例するように定義され、その結果、それ未満では人が知覚空間内の2色間の視覚的な差を知覚することができない均一な最大知覚閾値ΔE0が存在することが条件である。
ステップS102では、区分モジュールPART1によって画像が一連の空間ユニットまたはセグメントに空間的に分解される。画像を符号化する際のHEVCビデオ圧縮技法による空間コード化構造の一例が図2に示されている。HEVCタイプの符号化器の場合、最も大きな空間ユニットは、コード化ツリーユニット(CTU)と呼ばれる。各空間ユニットは、しばしば4分木と呼ばれる符号化パラメータによって示される分解構成に従ってさらなる要素に分解される。4分木の各葉は、コード化ユニット(CU)と呼ばれ、予測ユニット(PU)および変換ユニット(TU)と呼ばれる1つまたは複数の部分要素にさらに区分される。
図1の例のステップS102では、コード化ユニットは1つまたは複数のセグメントまたはブロックB1に区分され、これらのセグメントまたはブロックは、本例では、符号化器管理モジュールENCODER CONTROLによって管理される符号化パラメータに従って予測ベースの符号化のための予測ユニット(PU)に対応する。
本例では、ステップS102の出力ブロックB1はPUであるが、HEVCタイプの技法が適用される本発明の他の実施形態では、ステップS102の出力は、CUであってもTUであってもよいことを理解されたい。他の実施形態では、ブロックB1は、符号化される画像の適切な空間領域を指すことになる。
本例では、各予測ユニットまたはブロックB1は、それぞれの予測ユニット(イントラまたはインタ)パラメータに関連付けられた方形または矩形の空間領域に対応する。
符号化器管理モジュールENCODER CONTROLは、現在の画像の所与のコード化ユニットまたはコード化ユニットの部分要素を符号化するために使用される方策を管理する。それを行うために、符号化器管理モジュールは、候補の符号化パラメータを現在のコード化ユニットまたはコード化ユニット部分要素に割り当てる。これらの符号化パラメータは、以下の符号化パラメータの1つまたは複数を含むことができる。
・ 符号化4分木、予測ユニット、および変換ユニットで表されるコード化ツリーユニット組織
・ コード化ツリーのコード化ユニットに割り当てられるコード化モード(イントラまたはインタ)
・ 考慮されているコード化ツリー内の各イントラコード化ユニットについてのイントラ予測モード(DC、プレーナ、または角度方向)
・ インタコード化ユニットの場合のインタ予測パラメータ:動きベクトル、参照ピクチャインデックスなど
本明細書に記載の本発明の実施形態では、候補の符号化パラメータを用いる現在のコード化ユニットの符号化に関連付けられたレート歪みコストが計算され、符号化器管理モジュールENCODER CONTROLは、計算されたレート歪みコストに従って符号化パラメータの少なくとも1つを適合させる。
コード化ユニットのための符号化パラメータの選択は、以下のようにレート歪みコストを最小限に抑えることによって実施される。
Figure 0006568078
上式で、pは、所与のコード化ユニットのための候補の符号化パラメータのセットを表し、λは、ラグランジュパラメータを表し、D(p)およびR(p)は、符号化パラメータの候補のセットpを用いる現在のコード化ユニットの符号化に関連付けられた歪みおよびレートをそれぞれ表す。
本発明の実施形態では、歪み項D(p)は、符号化される画像の初期のHDR知覚空間内で得られる符号化エラーを表す。一般に、これは、以下で述べるように、符号化パラメータに関連付けられた歪み項D(p)を計算する前に、元の(L*,a*,b*)空間に処理して戻されるCUまたはCU部分要素を再構築することを含む。そのような手法は、その元のHDR空間内のコード化ユニットまたは部分要素が考慮されるので、復号された画像内でのアーチファクトの出現を低減する助けとなる。
ステップS103では、各予測ユニットまたはブロックは、その予測ユニットまたはブロックを構成するサンプル(サンプルは、1つまたは複数の画素を含むことができる)の輝度値の平均を表す低空間周波数輝度成分Llfと呼ばれる輝度成分値に帰属する。これは、輝度処理モジュールLFによって実施される。低空間周波数輝度成分を計算することは、基本的に、元の画像の輝度成分をダウンサンプリングすることを含む。本発明は、各予測ユニットまたはブロックについて低空間周波数バージョンを計算するための特定の実施形態に限定されないこと、および画像Ipの輝度成分の任意のローパスフィルタリングまたはダウンサンプリングを使用することができることを理解されたい。ステップS104では、低空間周波数輝度成分が量子化ユニットQによって量子化され、量子化された低空間周波数輝度成分
Figure 0006568078
をもたらす。ステップS110において、エントロピー符号化器ENC1によって、出力ビデオビットストリームのために量子化された低空間周波数輝度成分
Figure 0006568078
に対して、エントロピー符号化が実施される。低空間周波数輝度成分の符号化は、本明細書では、コード化の第1のレイヤまたは輝度レイヤと呼ばれることがある。
量子化された低空間周波数輝度成分
Figure 0006568078
のそれぞれの値に基づいて、ステップS105において、局所的な知覚空間ユニットLPTによって、予測ユニットまたはブロックの輝度および色成分の値が、ステップS101の知覚空間変換に対応する局所的な知覚空間に変換される。本例におけるこの知覚空間は、知覚空間L’a’b’である。量子化された低空間周波数輝度成分
Figure 0006568078
は、ディスプレイの参照ライティング条件として使用される。ブロックのこの局所的な知覚空間Labの輝度および色成分は、(L* local,a* local,b* local)と記される。実際には、局所的な知覚空間への変換は、局所的な知覚空間内の符号化処理において目標になる量子化された低空間周波数輝度成分
Figure 0006568078
および最大エラー閾値ΔEによって決まる。
局所的な知覚空間(L* local,a* local,b* local)への変換は、以下のステップを含む。輝度信号は、最初に、以下の輝度残差計算を通じて、いわゆる局所的なLDR表現に変換される。
Figure 0006568078
上式で、Lrは、計算される残差輝度成分を表し、Lは、元の画像内の対応する輝度成分を表し、
Figure 0006568078
は、量子化された低空間周波数輝度成分を表す。
このステップは、本明細書では、LDR局所化ステップと呼ぶことができる。
次いで、残差輝度成分Lrは、以下のように局所的な知覚空間内で表される。Lab知覚空間モードにおける公称ライティング輝度Ynを仮定すると、係数YEによるライティング条件の変化が、知覚空間成分を以下のように変換する。
(Xn,Yn,Zn)→(YEn,YEn,YEn
これは、以下の知覚閾値E0の変化ΔE0に対応する。
ΔE0→ΔE0.E (1/3)
したがって、知覚閾値E0は、後処理における最大ライティング変化乗法係数に従ってコード化に適合される。量子化された低空間周波数輝度成分
Figure 0006568078
の局所的な明るさに関する情報は、YE=Ylf/Ynをとり、ここでYlf
Figure 0006568078
の関係は、以下によって与えられる。
Figure 0006568078
このようにして、知覚空間は、各予測ユニットに関連付けられた低空間周波数輝度成分
Figure 0006568078
に基づくので局所化される。
実際には、LabCIE76知覚空間に対応する実施形態では、知覚空間の局所化は、以下の形態をとる。
Figure 0006568078
色成分a*およびb*に関して、LDR局所化は必要とされない。知覚空間の局所化は、以下の変換を含む。
Figure 0006568078
ステップS106では、各予測ユニットが、さらなるCU区分ステップによって1つまたは複数の変換ユニット(TU)に分解される。たとえば、イントラコード化ユニットの場合、コード化ユニットの各変換ユニットは、事前にコード化され再構築された隣接するTUから空間予測される。現在のTUに関連付けられた残差テクスチャがステップS107で決定される。次いで、残差テクスチャが、ステップS108において変換ユニットTによって変換され、ステップS109において量子化ユニットQによって、ステップS111におけるエントロピー符号化器ENC2によるエントロピー符号化のために量子化される。変換ユニットのために使用される符号化パラメータは、本発明の実施形態のレート歪み計算に基づいて符号化器管理モジュールENCODER CONTROLによって決定されてもよい。テクスチャ残差の符号化は、本明細書では、コード化の第2のレイヤと呼ばれることがある。
したがって、各予測ユニット内でコード化される残差テクスチャデータが局所的な知覚空間(L* local,a* local,b* local)内で表される。符号化されるHDR画像のCTUの4分木表現の選択のために局所的な知覚空間に基づいてレート歪みコストが計算された場合、不整合が生じる可能性が高くなる。たとえば、所与の4分木レベルでの所与のCUについて、符号化器の区分ユニットが2つのタイプの予測ユニット、2N×2NとN×Nの間で選択しなければならないと考えてみると、対応するレート歪みコスト間の比較は、以下のようになる。
Figure 0006568078
すなわち
Figure 0006568078
右側の項では、異なる色空間内で表されたPUについて計算された歪みに対して加算が実施されることがわかる。これは、不整合に通じ得る。
そのような問題に対処するために、本発明の実施形態では、画像の空間エンティティに関連付けられたレート歪みコストが、局所的なLDR知覚空間ではなく元のHDR知覚空間内で考慮される。このようにして、画像の異なる画像ブロックに対応するレート歪みコストは、同じ知覚空間内で計算されたものであるため比較可能である。したがって、HDR空間内でコード化ユニットを再構築するステップが図1の実施形態の符号化処理に含まれている。HDR空間内でのコード化ユニットの再構築は、以下のように実施される。
コード化ユニットの各TUは、ステップS112における逆量子化、ステップS114における逆変換、およびステップS116における予測加算を実施することによって再構築される。次いで、再構築されたTUは、ステップS118において元のHDR空間内で得られる。
本発明の特定の実施形態における局所的な色空間がLab76であるHDR空間内で残差TUを再構築するステップS118について、以下の式を適用することができる。これらの式は、輝度成分Lおよびクロミナンス成分a、bについてHDR空間内のTUの復号された画素の再構築にそれぞれ対応する。
Figure 0006568078
上式で、
・ LDRSCALINGは、LDRコード化レイヤの入力における所与の画素のダイナミックレンジを固定するための一定の整数を表す。
Figure 0006568078
Figure 0006568078
Figure 0006568078
は、サンプルを含むPUに関連付けられた局所的なLab空間内で再構築される輝度サンプルおよびクロミナンスサンプルを表す。
Figure 0006568078
Figure 0006568078
Figure 0006568078
は、圧縮される元の画像IpのHDR知覚空間内で再構築されるサンプルを表す。
Figure 0006568078
は、逆量子化後、再構築されたバージョンでの、PUに関連付けられた低空間周波数輝度成分を表す。
本発明の1つまたは複数の実施形態による、符号化パラメータのセットでコード化ユニットを符号化するためにレート歪みコストを計算するためのプロセスは、以下のように開始される。図1の実施形態では、レート歪みコストプロセスは、ステップS120において、レート歪みモジュールRATE−DISTによって実施される。
このプロセスは、レート歪みコストJを0にリセットすることによって初期化される:J←0
低空間周波数成分Llf(PU)がステップS110においてエントロピー符号化された後で、ステップS120で、エントロピー符号化された低空間周波数成分Llf(PU)について、関連のレートR(Llf)が決定される。次いで、レート歪みコストJが、以下に従って更新される。
J←J+λ.R(Llf
ここでλはラグランジュパラメータを表す。
関連のレートR(TU,p)が、ステップS120において、ステップS111のエントロピー符号化された残差テクスチャについて決定される。
次いで、元のHDR知覚空間内の再構築されたTUについての歪みが、以下のように計算される。
Figure 0006568078
ここで、
Figure 0006568078
は、元のHDR画像内のTUのサンプルに対応し、
Figure 0006568078
は、HDR知覚空間内の再構築されたTUのサンプルに対応する。次いで、CUのレート歪みコストJが以下のように更新される。
J←J+DHDR(TU,p)+λ.R(TU,p)
符号化パラメータpを用いたCUの符号化に関連付けられたレート歪みコストは、以下のように公式化することができる。
HDR(CU,p)+λ(RLDR(CU,p)+R(Llf,p))
上式で、
・ RLDR(CU,p)は、LDRレイヤ内の考慮されているCUのコード化コストである。
R(Llf,p)は、考慮されているCUに属するPUに関連付けられた低周波数輝度成分のコード化コストである。
ステップS122では、符号化器管理モジュールENCODER CONTROLは、HDR知覚空間内の符号化されたTUについてステップS122で計算されたレート歪みコストに基づいてLDR符号化処理の符号化パラメータを適合する。
図3は、図1の符号化ステップが組み込まれる符号化処理の一例を示す概略ブロック図である。追加のモジュールについて、以下のように述べる。ユニット130は、動き推定(ステップS131)、動き補償(ステップS132)を含むインタフレーム符号化処理のためにビデオのフレームが記憶されるメモリを表す。再構築されたTUに対するイントラ予測は、ステップS133で実施される。
図3に示されているように、符号化器管理モジュールENCODER CONTROLは、ステップS123において、現在の画像内で所与のコード化ユニットを符号化するために使用される方策を判断することを担当する。
図4は、本発明の他の実施形態による、画像の少なくとも一部を符号化する方法のステップを示す概略ブロック図である。図4を参照すると、ステップS201からS214は、図1の対応するステップS101からS114と同様である。図4の実施形態のプロセスは、処理されるPUの局所的な知覚空間内で再構築されたテクスチャデータに対してリファインメントが実施される、典型的には疑似ロスレスと呼ばれるリファインメントステップを含む点で図1のものと異なる。この符号化は、低空間周波数成分Llfのエントロピー符号化、残差テクスチャデータのエントロピー符号化、およびLノルムエントロピー符号化を含むので、トライレイヤ符号化と呼ばれることがある。符号化処理の追加のリファインメントステップは、元のテクスチャデータと、考慮されている局所的な知覚空間内で構築されたテクスチャデータとの間(ステップS216からS224)のLノルムに基づいて歪みを確保する。符号化モジュールENC3は、ステップS221においてこの符号化レイヤのための符号化を実施する。
レイヤLが存在する場合、符号化器は、2つの異なる動作モードに従って動作することができる。第1の動作モードでは、Lノルムにおける再構築の品質だけが追求される。そのような場合、画像データは、以下に従って、Lノルムにおける品質を確保する最低限のレートで符号化される。
Figure 0006568078
上式で、
Figure 0006568078
は、Lノルムにおける目標歪み(品質レベル)を表し、RL∞は、残差レイヤL内で現在のCUをコード化するために使用されるビットの数を構成する。この動作モードでは、残差レイヤLが、考慮されている局所的な知覚空間内で、元の画素データと再構築されたブロックとの間にあり得る歪みを自動的に補正する。レイヤのセットの符号化のコード化レートは削減され、したがって圧縮の効率が改善される。
トライレイヤ符号化の第2の動作モードでは、LDRレイヤ内での再構築の品質と3つのレイヤの合計レートとの間で妥協が探し求められる。レート歪みコストは、以下のように公式化される。
Figure 0006568078
Figure 0006568078
は、LDRレイヤ内で復号され、元の画像のHDR空間内で再構築されたCUの品質に対応する。LDRレイヤの符号化器がL2ノルムで動作するので、この品質は、L2ノルムで計算される。さらに、RL∞は、現在のCUについてリファインメントレイヤLのレートに対応する。
後者の動作モードの利点は、良好な品質の中間LDRレイヤが再構築されることである。
記載の実施形態のそれぞれにおいて、元のHDR画像を表す符号化されたビットストリームが、復号デバイスを備える宛先受信デバイスに送信される。画像データを符号化するために使用された、適合された符号化パラメータに関する情報を復号デバイスに送信し、HDR画像を表すビットストリームを復号し元のHDR画像を再構築することを可能にすることができる。適合された符号化パラメータを表す情報は、送信前に符号化されてもよい。たとえば、図1および図4の実施形態では、適合された符号化パラメータを表すデータが、符号化器管理モジュールによって提供され、符号化器ENC2によってビットストリーム内で符号化される。したがって、これらの例では、これらのパラメータは、コード化の第2のレイヤ(LDRレイヤ)に対応するビットストリーム内で符号化される。
図5は、画像Iを表すビットストリームを復号するための本発明の一実施形態による、復号デバイスによって実装される復号処理の一例を示す概略ブロック図である。復号処理では、復号器DEC1、DEC2、およびDEC3が、それぞれ符号化器ENC1、ENC2、およびENC3によって符号化されたデータを復号するように構成される。
この例では、ビットストリームFは、輝度成分とおそらくは少なくとも1つの色成分とを備えるHDR画像Iを表す。実際、画像Iの成分は、上述の知覚色空間に属する。
ステップ501では、画像Iの輝度成分の低空間周波数バージョンの復号されたバージョン
Figure 0006568078
が、復号器DEC1によりビットストリームFを少なくとも一部復号することによって得られる。
ステップ502では、符号化された残差テクスチャデータの復号されたバージョンが、復号器DEC2によりビットストリームFを少なくとも部分復号することによって得られる。
ステップ505では、残差テクスチャデータの復号されたバージョンおよび画像の輝度成分の低空間周波数バージョンの復号されたバージョン
Figure 0006568078
を互いに関連付け、復号された画像
Figure 0006568078
を得る。
画像データが図4のプロセスなどトライレイヤ符号化処理に従って符号化されている本発明のいくつかの実施形態では、復号が復号器ユニットDEC3によって実施される復号の第3のレイヤが提供される。
適合された符号化パラメータを表すデータPが、復号デバイスによって受信され、ステップ530でパラメータ復号器モジュールDEC−PARによって復号される。符号化パラメータPは、画像データIと共にビットストリーム内で送信される。次いで、使用された符号化パラメータに関する情報が復号器DEC1、DEC2、およびDEC3に提供され、その結果、符号化された画像データを、符号化器の符号化器管理モジュールENCODER CONTROLによって決定された符号化パラメータに従って復号パラメータを用いて復号することができる。
復号器DEC2の復号精度は、表示される画像の復号されたバージョン内の視覚的損失の制御を保証する知覚空間内で定義されるメトリックの上限を定義する知覚閾値ΔEによって決まる。したがって、復号の精度は、局所的に変化する知覚閾値の関数である。
前述のように、一実施形態によると、知覚閾値ΔEは、ディスプレイの参照ライティング条件(符号化するために使用されるものと同じ)、および画像Iの輝度成分の低空間周波数バージョンの復号されたバージョン
Figure 0006568078
に従って決定される。
一実施形態によると、残差画像の各成分は、知覚閾値ΔEにより正規化されており、その残差画像は、一定の精度で復号され、差分画像の復号されたバージョンの各成分は、知覚閾値ΔEの助けにより再正規化され、ここで、
Figure 0006568078
一実施形態によると、再正規化は、知覚閾値ΔEの関数である値による割り算である。
符号化器ENC1、ENC2、および/またはENC3(ならびに復号器DEC1、DEC2、および/またはDEC3)は、特定の符号化器(復号器)に限定されないが、エントロピー符号化器(復号器)が必要とされるとき、ハフマンコーダ、算術コーダ、またはh264/AVCもしくはHEVCで使用されるCabacのようなコンテキスト適応コーダなど、エントロピー符号化器が有利である。
符号化器ENC2(および復号器DEC2)は、たとえばJPEG、JPEG2000、MPEG2、h264/AVC、またはHEVCのようなロッシー画像/ビデオコーダとすることができる特定の符号化器に限定されない。
符号化器ENC3(および復号器DEC3)は、たとえばJPEGロスレス、h264/AVCロスレス、トレリスベースの符号化器、または適応DPCMのような符号化器のような画像コーダとすることができる特定のロスレスまたは疑似ロスレス符号化器に限定されない。
一変形形態によると、ステップ510で、モジュールIICが、ステップ505の出力である復号された画像
Figure 0006568078
に逆知覚的変換を提供するように構成される。たとえば、復号された画像
Figure 0006568078
の推定が周知の空間(X,Y,Z)に変換される。
知覚空間LabCIE1976が選択されるとき、逆知覚的変換は、以下によって与えられる。
Figure 0006568078
知覚空間Luvが選択されるとき、逆知覚的変換は、以下によって与えられる。
Figure 0006568078
おそらくは、空間(X,Y,Z)内の画像は、(R,G,B)空間など初期空間内の復号された画像の推定を得るために逆変換される。
図1および図3から図7では、これらのモジュールは、区別可能な物理ユニットに対応してもしなくてもよい機能ユニットである。たとえば、複数のそのようなモジュールが、一意のコンポーネントまたは回路内で関連付けられても、ソフトウェア機能に対応してもよい。さらに、モジュールは、おそらくは別個の物理エンティティから構成されてもよい。
本発明の実施形態と適合する装置は、ハードウェアだけによって実装されても、ソフトウェアだけによって実装されても、ハードウェアとソフトウェアの組合せによって実装されてもよい。ハードウェアの点では、たとえば、ASICもしくはFPGAもしくはVLSI、それぞれ<<特定用途向け集積回路>>、<<フィールドプログラマブルゲートアレイ>>、<<超大規模集積>>など、またはデバイス内に埋め込まれたいくつかの集積電子コンポーネントを使用することによって、またはハードウェアコンポーネントとソフトウェアコンポーネントのブレンドから、専用ハードウェアが使用されてもよい。
図6Aは、本発明の一実施形態による符号化デバイスの概略ブロック図である。
符号化デバイス600は、データを受信および送信するためのI/Oインターフェース610と、メモリ620と、メモリコントローラ625と、I/Oインターフェース610から受け取られたデータを処理するための1つまたは複数の処理ユニット(CPU)を備える処理回路640とを備える。CPUは、デジタル信号プロセッサ(DSP)を含むことができる。メモリは、読出し専用メモリ(ROM)およびランダムアクセスメモリ(RAM)を含むことができる。
1つまたは複数の処理ユニット640は、メモリ620内に記憶された様々なソフトウェアプログラムおよび/または命令のセットを実行し、符号化デバイス600のための様々な機能を実施し、データを処理する。様々なコンポーネントは、データバスを介してリンクされる。本発明の実施形態による方法のアルゴリズムは、メモリ620のROM内にソフトウェアコンポーネントとして記憶される。CPUは、メモリのRAM内のプログラムをアップロードし、対応する命令を実行する。
メモリ620内に記憶されたソフトウェアコンポーネントは、ローダイナミックレンジ(LDR)画像に適用可能な符号化処理を使用してその画像の少なくとも一部のセグメントを符号化し、符号化処理において少なくとも1つの符号化パラメータを適用するための符号化器モジュール(または命令のセット)ENCと、符号化されたセグメントをハイダイナミックレンジの知覚空間内で再構築するための再構築モジュールREC(または命令のセット)と、ハイダイナミックレンジの知覚空間内の符号化されたセグメントについてレート歪みコストを決定するためのレート歪みモジュールRATE−DIST(または命令のセット)と、セグメントの符号化処理のための少なくとも1つの符号化パラメータを評価されたレート歪みコストに基づいて調整するための符号化器管理モジュール(ENC CTRL)(または命令のセット)とを含む。
一般的なシステムタスク(たとえば、電力管理、メモリ管理)を制御するための、また符号化デバイス600の様々なハードウェアおよびソフトウェアコンポーネント間の通信を容易にするためのオペレーティングシステムモジュールO/S、ならびにI/Oインターフェース610を介した他のデバイスとの通信を制御および管理するためのインターフェースモジュールINTなど、他のモジュールが含まれてもよい。
他の実施形態では、符号化デバイスは、ディスプレイライティングの最大環境輝度値Y_nなどディスプレイの参照ライティング条件を得るための参照ライティングモジュールをさらに備えることができる。
特定の他の実施形態によると、符号化デバイスは、ディスプレイを備えることができ、ディスプレイの参照ライティング条件を得るための参照ライティングモジュールは、ディスプレイのそのような参照ライティング条件を、ディスプレイの特性から、またはモジュールによって取り込まれるディスプレイ周りのライティング条件から決定するように構成される。たとえば、ディスプレイライティングの最大環境輝度値Y_nを得るためのモジュールは、ディスプレイに取り付けられ、環境ライティング条件を測定するセンサを備える。フォトダイオードなどがこの目的に使用されてもよい。
図6Bは、本発明の一実施形態による復号デバイスの概略ブロック図である。
復号デバイス700は、データを受信および送信するためのI/Oインターフェース710と、メモリ720と、メモリコントローラ725と、I/Oインターフェース710から受け取られたデータを処理するための1つまたは複数の処理ユニット(CPU)を備える処理回路740とを備える。CPUは、デジタル信号プロセッサ(DSP)を含むことができる。メモリは、読出し専用メモリ(ROM)およびランダムアクセスメモリ(RAM)を含むことができる。
1つまたは複数の処理ユニット740は、メモリ720内に記憶された様々なソフトウェアプログラムおよび/または命令のセットを実行し、復号デバイス700のための様々な機能を実施し、データを処理する。様々なコンポーネントは、データバスを介してリンクされる。本発明の実施形態による方法のアルゴリズムは、メモリ720のROM内にソフトウェアコンポーネントとして記憶される。CPUは、メモリのRAM内のプログラムをアップロードし、対応する命令を実行する。
メモリ720内に記憶されたソフトウェアコンポーネントは、ローダイナミックレンジ(LDR)画像に適用可能な復号処理を使用して、また復号処理において少なくとも1つの復号パラメータを適用して、画像の少なくとも一部のセグメントを復号するための復号器モジュール(または命令のセット)DECを含む。復号パラメータ
一般的なシステムタスク(たとえば、電力管理、メモリ管理)を制御するための、また符号化デバイス600の様々なハードウェアおよびソフトウェアコンポーネント間の通信を容易にするためのオペレーティングシステムモジュールO/S、ならびにI/Oインターフェースを介した他のデバイスとの通信を制御および管理するためのインターフェースモジュールINTなど、他のモジュールが含まれてもよい。
図7は、本発明の実施形態を実装することができる通信システムの一例である。この通信システムは、通信ネットワークNETを介して通信する2つの遠隔デバイスA、Bを含む。通信ネットワークNETは、無線ネットワーク、有線ネットワーク、または無線通信リンクと有線通信リンクの組合せであってもよい。
デバイスAは、本発明の実施形態のいずれかによるHDR画像を符号化するための方法を実装するように構成された符号化器を備え、デバイスBは、図5に関連して述べたHDR画像を表すビットストリームを復号するための方法を実装するように構成された復号器を備える。また、デバイスBは、復号されたHDR画像を表示するためのディスプレイ37を備えることができる。
本発明のいくつかの他の実施形態では、デバイスA、Bは、ディスプレイライティングの最大環境輝度値Y_nなどディスプレイの参照ライティング条件に関する情報にアクセスすることができるように構成される。
たとえば、デバイスA、Bは、ディスプレイライティングの最大環境輝度値Y_nなどディスプレイの同じ参照ライティング条件を記憶する。
あるいは、デバイスBは、ディスプレイライティングの最大環境輝度値Y_nなどディスプレイの参照ライティング条件を得るように、またそれをデバイスAに送るように構成される。次いで、デバイスAは、ディスプレイライティングの最大輝度値Y_nなど送信されたディスプレイの参照ライティング条件を受信するように構成される。
逆に、デバイスAは、ディスプレイライティングの最大環境輝度値Y_nなどディスプレイの参照ライティング条件を、たとえば記憶メモリから得るように、またそれをデバイスBに送るように構成される。次いで、デバイスBは、ディスプレイライティングの最大環境輝度環境値Y_nなどそのような送信されたディスプレイの参照ライティング条件を受信するように構成される。
本明細書に記載の本発明の実施形態は、たとえば方法もしくはプロセス、装置、ソフトウェアプログラム、データストリーム、または信号で実装され得る。単一の形態の実装の文脈で論じられているにすぎない(たとえば、方法としてのみ論じられている)場合でさえ、論じられている特徴の実装は、他の形態(たとえば、装置またはプログラム)でも実装され得る。装置は、たとえば適切なハードウェア、ソフトウェア、およびファームウェアで実装され得る。方法は、たとえばプロセッサなど装置で実装され得る。プロセッサという用語は、たとえばコンピュータ、マイクロプロセッサ、集積回路、またはプログラマブルロジックデバイスを含めて、処理デバイスを一般に指す。また、プロセッサは、たとえばコンピュータ、タブレット、セル電話、ポータブル/携帯情報端末(PDA)、およびエンドユーザ間の情報の通信を容易にする他のデバイスなど、通信デバイスを含むことができる。
本原理の「one embodiment(一実施形態)」または「an embodiment(一実施形態)」または「one implementation(一実装)」または「an implementation(一実装)」、ならびにそれらの他の変形形態に言及することは、その実施形態に関連して述べられている特定の特徴、構造、特性などが本原理の少なくとも1つの実施形態に含まれることを意味する。したがって、本明細書を通して様々な場所に現れる「in one embodiment(一実施形態では)」または「in an embodiment(一実施形態では)」または「in one implementation(一実装では)」または「in an implementation(一実装では)」、ならびに他の変形形態の出現は、必ずしもすべて同じ実施形態を指すとは限らない。
さらに、本説明または特許請求の範囲は、様々な情報を「決定すること」を指すことがある。情報を決定することは、たとえば、情報を推定すること、情報を計算すること、情報を予測すること、または情報をメモリから取り出すことのうちの1つまたは複数を含むことができる。
さらに、本説明または特許請求の範囲は、様々な情報を「受け取ること」を指すことがある。受け取ることは、「アクセスすること」と同様に、広い用語であることが意図されている。情報を受け取ることは、たとえば、情報にアクセスすること、または情報を(たとえば、メモリから)取り出すことのうちの1つまたは複数を含むことができる。さらに、「受け取ること」は、一般に、たとえば、情報を記憶すること、情報を処理すること、情報を送信すること、情報を移動すること、情報をコピーすること、情報を消去すること、情報を計算すること、情報を決定すること、情報を予測すること、または情報を推定することなど動作中に何らかの形で含まれる。
本発明について特定の実施形態を参照して上述したが、本発明は、それらの特定の実施形態に限定されず、本発明の範囲内にある修正形態が当業者には明らかになることを理解されたい。
たとえば、前述の例では、HEVCコード化プロセスに基づく符号化処理について述べたが、本発明は、何らかの特定の符号化処理に限定されないことを理解されたい。LDR画像の符号化に適用可能な他の符号化処理が、本発明の文脈において適用されてもよい。たとえば、符号化処理および相補的な復号処理は、MPEG2、MPEG4、AVC、H.263など、何らかの符号化方策の最適化ステップを含む他の符号化/復号方法に基づいてもよい。
当業者には、例示のためだけに与えられ、添付の特許請求の範囲によってのみ決定される本発明の範囲を限定するものではない前述の例示的な実施形態を参照したとき、多数の他の修正形態および変形形態が自ずと暗示されよう。特に、異なる実施形態からの異なる特徴は、適宜交換され得る。
上記実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
(付記1)
輝度成分および色差メトリックを有するハイダイナミックレンジの知覚空間内で定義されるハイダイナミックレンジの画像の少なくとも一部を符号化する方法であって、
ローダイナミックレンジ(LDR)画像に適用可能な符号化処理を使用して前記画像の前記一部のセグメントを符号化し、前記符号化処理において少なくとも1つの符号化パラメータを適用するステップ(S102;S202、S107;S207、S116;S216)と、
前記符号化されたセグメントをハイダイナミックレンジの前記知覚空間内で再構築するステップ(S118、S224)と、
ハイダイナミックレンジの前記知覚空間内の前記符号化されたセグメントについてレート歪みコストを評価するステップ(S120;S220)と、
前記セグメントの前記符号化処理のための前記少なくとも1つの符号化パラメータを前記評価されたレート歪みコストに基づいて調整するステップ(S122;S222)と、
を含む、前記方法。
(付記2)
前記少なくとも1つの符号化パラメータは、符号化される前記画像のセグメントに前記画像を区分することを定義し、符号化される各セグメントは、HDRの対応する知覚空間を有する、付記1に記載の方法。
(付記3)
前記少なくとも1つの符号化パラメータは、コード化4分木パラメータを含む、付記2に記載の方法。
(付記4)
前記セグメントについて、共通の代表的な輝度成分値を、前記セグメントの対応する画像サンプルの輝度値に基づいて得るステップ(S103、S203)をさらに含む、付記1〜3のいずれか一項に記載の方法。
(付記5)
前記レート歪みコストを評価するステップ(S120)は、前記共通の代表的な輝度成分値の符号化に関連付けられたレートを評価するステップを含む、付記4に記載の方法。
(付記6)
前記符号化処理は、HEVC圧縮技法による符号化処理であり、前記画像の前記少なくとも一部の前記セグメントは、コード化ユニット、予測ユニット、または変換ユニットに対応する、付記1〜5のいずれか一項に記載の方法。
(付記7)
画像セグメントを符号化する前に、前記セグメントを共通の代表的な輝度成分値に基づいて局所的な知覚空間内で表すステップ(S105;S205)をさらに含む、付記2〜6のいずれか一項に記載の方法。
(付記8)
前記セグメントについて、局所的なLDR領域内の局所的な残差輝度成分を得るステップであって、前記局所的な残差輝度成分は、元の画像の対応する輝度成分と前記セグメントの前記共通の代表的な輝度値との差に対応する、前記ステップを含む、付記7に記載の方法。
(付記9)
前記セグメントについて、前記局所的な知覚空間内の少なくとも1つの対応する画像部分を得るステップであって、前記少なくとも1つの画像部分は、前記セグメントの前記共通の代表的な輝度値に従って正規化された前記セグメントの前記局所的な残差輝度成分または色成分に対応する、前記ステップをさらに含む、付記8に記載の方法。
(付記10)
前記レート歪みコストを評価するステップ(S120;S220)は、前記少なくとも1つの画像部分の符号化に関連付けられたレートを評価するステップを含む、付記9に記載の方法。
(付記11)
前記レート歪みコストを評価するステップ(S120;S220)は、ハイダイナミックレンジの前記知覚空間内の前記符号化されたセグメントの再構築に関連付けられた歪みを評価するステップを含む、付記1〜10のいずれか一項に記載の方法。
(付記12)
符号化パラメータセットpについてのレート歪みコストD HDR は、以下の式に基づいて評価され、
HDR (CU,p)+λ(R LDR (CU,p)+R(L lf ,p))
上式で、
・ R LDR (CU,p)は、残差画像部分の符号化に関連付けられたレートであり、
R(L lf ,p)は、共通の代表的な輝度成分値の符号化に関連付けられたレートであり、
HDR (CU,p)は、ハイダイナミックレンジの前記知覚空間内の前記符号化されたセグメントの再構築に関連付けられた歪みであり、
λは、ラグランジュパラメータである、付記1〜11のいずれか一項に記載の方法。
(付記13)
局所的な前記知覚空間内で再構築された残差画像部分のサンプルと、元のテクスチャのサンプルと、前記画像の対応するサンプルとの間で仮想ロスレスリファインメントを実施するステップ(S218)をさらに含む、付記1〜12のいずれか一項に記載の方法。
(付記14)
輝度成分および色差メトリックを有するハイダイナミックレンジの知覚空間内で定義されるハイダイナミックレンジの画像の少なくとも一部を符号化するための符号化デバイスであって、
ローダイナミックレンジ(LDR)画像に適用可能な符号化処理を使用して前記画像の前記少なくとも一部のセグメントを符号化し、前記符号化処理において少なくとも1つの符号化パラメータを適用するための符号化器(ENC;ENC1、ENC2、ENC3)と、
前記符号化されたセグメントをハイダイナミックレンジの前記知覚空間内で再構築するための再構築モジュール(REC)と、
ハイダイナミックレンジの前記知覚空間内の前記符号化されたセグメントについてレート歪みコストを決定するためのレート歪みモジュール(RATE−DIST)と、
前記セグメントの前記符号化処理のための前記少なくとも1つの符号化パラメータを評価された前記レート歪みコストに基づいて調整するための符号化器管理モジュール(ENCODER CONTROL;ENC−CTRL)と、
を備える、前記符号化デバイス。
(付記15)
輝度成分および色差メトリックを有する知覚空間内で定義されるハイダイナミックレンジの画像の少なくとも一部を表すビットストリームを復号するための方法であって、
前記画像を符号化するために使用される少なくとも1つの符号化パラメータを表すコード化データにアクセスするステップと、
ローダイナミックレンジ(LDR)画像に適用可能な復号処理を使用して前記画像の前記少なくとも一部のセグメントを、前記少なくとも1つの符号化パラメータにそれぞれ対応する少なくとも1つの復号パラメータを適用することによって復号するステップと、を含み、
前記符号化パラメータは、LDR画像に適用可能な符号化処理およびハイダイナミックレンジの前記知覚空間内の前記セグメントの再構築によって、前記セグメントの符号化後、前記セグメントについて評価されたレート歪みコストに基づいて事前に決定される、前記方法。
(付記16)
輝度成分および色差メトリックを有する知覚空間内で定義されるハイダイナミックレンジの画像の少なくとも一部を表すビットストリームを復号するための復号デバイスであって、
前記画像を符号化するために使用される少なくとも1つの符号化パラメータを表すコード化データにアクセスするインターフェース(I/O;530)と、
ローダイナミックレンジ(LDR)画像に適用可能な復号処理を使用して前記画像の前記少なくとも一部のセグメントを、前記少なくとも1つの符号化パラメータにそれぞれ対応する少なくとも1つの復号パラメータを適用することによって復号するための復号器(DEC;501、502;520)と、を備え、
前記少なくとも1つの符号化パラメータは、LDR画像に適用可能な符号化処理およびハイダイナミックレンジの前記知覚空間内の前記セグメントの再構築によって、前記セグメントの符号化後、前記セグメントについて評価されたレート歪みコストに基づいて事前に決定される、前記復号デバイス。
(付記17)
輝度成分および色差メトリックを有する知覚空間内で定義されるハイダイナミックレンジの画像の少なくとも一部を表すビットストリームと、
前記画像を符号化するために使用される少なくとも1つの符号化パラメータを表すコード化データと、を備え、前記少なくとも1つの符号化パラメータは、前記画像の符号化されたセグメントについて評価されたレート歪みコストに基づいて事前に決定され、前記符号化されたセグメントは、LDR画像に適用可能な符号化処理によって符号化されており、ハイダイナミックレンジの前記知覚空間内で再構築されている、データストリーム。
(付記18)
プログラマブル装置のためのコンピュータプログラム製品であって、前記プログラマブル装置内にロードされ、前記プログラマブル装置によって実行されたとき、請求項1〜13または15のいずれか一項に記載の方法を実装するための命令のシーケンスを含む、前記コンピュータプログラム製品。

Claims (17)

  1. 輝度成分および色差メトリックを有するハイダイナミックレンジの知覚空間内で定義されるハイダイナミックレンジの画像の少なくとも一部を符号化する方法であって、
    ローダイナミックレンジ(LDR)画像に適用可能な符号化処理を使用して前記画像の前記一部のセグメントを符号化し、前記符号化処理において少なくとも1つのコーディングパラメータを適用することと、
    前記符号化されたセグメントをハイダイナミックレンジの前記知覚空間内で再構築することと、
    ハイダイナミックレンジの前記知覚空間内の前記符号化されたセグメントについてレート歪みコストを評価することと、
    前記セグメントの前記符号化処理のための前記少なくとも1つのコーディングパラメータを前記評価されたレート歪みコストに基づいて調整することと、
    を含む、前記方法。
  2. 前記少なくとも1つのコーディングパラメータは、符号化される前記画像のセグメントに前記画像を区分することを定義し、符号化される各セグメントは、ハイダイナミックレンジの対応する知覚空間を有する、請求項1に記載の方法。
  3. 前記少なくとも1つのコーディングパラメータは、コーディング4分木パラメータを含む、請求項2に記載の方法。
  4. 前記セグメントについて、共通の代表的な輝度成分値を、前記セグメントの対応する画像サンプルの輝度値に基づいて得ることをさらに含む、請求項1〜3のいずれか一項に記載の方法。
  5. 前記レート歪みコストを評価することは、前記共通の代表的な輝度成分値の符号化に関連付けられたレートを評価することを含む、請求項4に記載の方法。
  6. 前記符号化処理は、HEVC圧縮技法による符号化処理であり、前記画像の前記少なくとも一部の前記セグメントは、コーディングユニット、予測ユニット、または変換ユニットに対応する、請求項1〜5のいずれか一項に記載の方法。
  7. 前記セグメントを符号化する前に、前記セグメントを共通の代表的な輝度成分値に基づいて局所的な知覚空間内で表すことをさらに含む、請求項2〜6のいずれか一項に記載の方法。
  8. 前記セグメントについて、局所的なLDR領域内の局所的な残差輝度成分を得ることであって、前記局所的な残差輝度成分は、元の画像の対応する輝度成分と前記セグメントの前記共通の代表的な輝度値との差に対応する、前記得ることを含む、請求項7に記載の方法。
  9. 前記セグメントについて、前記局所的な知覚空間内の少なくとも1つの対応する画像部分を得ることであって、前記少なくとも1つの画像部分は、前記セグメントの前記共通の代表的な輝度値に従って正規化された前記セグメントの前記局所的な残差輝度成分または色成分に対応する、前記得ることをさらに含む、請求項8に記載の方法。
  10. 前記レート歪みコストを評価することは、前記少なくとも1つの画像部分の符号化に関連付けられたレートを評価することを含む、請求項9に記載の方法。
  11. 前記レート歪みコストを評価することは、ハイダイナミックレンジの前記知覚空間内の前記符号化されたセグメントの再構築に関連付けられた歪みを評価することを含む、請求項1〜10のいずれか一項に記載の方法。
  12. コーディングパラメータセットpについてのレート歪みコストDHDRは、以下の式に基づいて評価され、
    HDR(CU,p)+λ(RLDR(CU,p)+R(Llf,p))
    上式で、
    LDR(CU,p)は、残差画像部分の符号化に関連付けられたレートであり、
    R(Llf,p)は、共通の代表的な輝度成分値の符号化に関連付けられたレートであり、
    HDR(CU,p)は、ハイダイナミックレンジの前記知覚空間内の前記符号化されたセグメントの再構築に関連付けられた歪みであり、
    λは、ラグランジュパラメータである、請求項1〜11のいずれか一項に記載の方法。
  13. 局所的な前記知覚空間内で再構築された残差画像部分のサンプルと、元のテクスチャのサンプルと、前記画像の対応するサンプルとの間で仮想ロスレスリファインメントを実施することをさらに含む、請求項1〜12のいずれか一項に記載の方法。
  14. 輝度成分および色差メトリックを有するハイダイナミックレンジの知覚空間内で定義されるハイダイナミックレンジの画像の少なくとも一部を符号化する符号化デバイスであって、
    ローダイナミックレンジ(LDR)画像に適用可能な符号化処理を使用して前記画像の前記少なくとも一部のセグメントを符号化し、前記符号化処理において少なくとも1つのコーディングパラメータを適用する符号化器と、
    前記符号化されたセグメントをハイダイナミックレンジの前記知覚空間内で再構築する再構築モジュールと、
    ハイダイナミックレンジの前記知覚空間内の前記符号化されたセグメントについてレート歪みコストを決定するレート歪みモジュールと、
    前記セグメントの前記符号化処理のための前記少なくとも1つのコーディングパラメータを評価された前記レート歪みコストに基づいて調整する符号化器管理モジュールと、
    を備える、前記符号化デバイス。
  15. 輝度成分および色差メトリックを有する知覚空間内で定義されるハイダイナミックレンジの画像の少なくとも一部を表すビットストリームを復号する方法であって、
    前記画像を符号化するために使用される少なくとも1つのコーディングパラメータを表すコーディングデータにアクセスすることと、
    ローダイナミックレンジ(LDR)画像に適用可能な復号処理を使用して前記画像の前記少なくとも一部のセグメントを、前記少なくとも1つのコーディングパラメータにそれぞれ対応する少なくとも1つの復号パラメータを適用することによって復号することと、を含み、
    前記コーディングパラメータは、LDR画像に適用可能な符号化処理およびハイダイナミックレンジの前記知覚空間内の前記セグメントの再構築によって、前記セグメントの符号化後、前記セグメントについて評価されたレート歪みコストに基づいて事前に決定される、前記方法。
  16. 輝度成分および色差メトリックを有する知覚空間内で定義されるハイダイナミックレンジの画像の少なくとも一部を表すビットストリームを復号する復号デバイスであって、
    前記画像を符号化するために使用される少なくとも1つのコーディングパラメータを表すコーディングデータにアクセスするインターフェースと、
    ローダイナミックレンジ(LDR)画像に適用可能な復号処理を使用して前記画像の前記少なくとも一部のセグメントを、前記少なくとも1つのコーディングパラメータにそれぞれ対応する少なくとも1つの復号パラメータを適用することによって復号する復号器と、を備え、
    前記少なくとも1つのコーディングパラメータは、LDR画像に適用可能な符号化処理およびハイダイナミックレンジの前記知覚空間内の前記セグメントの再構築によって、前記セグメントの符号化後、前記セグメントについて評価されたレート歪みコストに基づいて事前に決定される、前記復号デバイス。
  17. プログラマブル装置のためのコンピュータプログラムであって、前記プログラマブル装置内にロードされ、前記プログラマブル装置によって実行されたとき、請求項1〜13または15のいずれか一項に記載の方法を実装するための命令のシーケンスを含む、前記コンピュータプログラム。
JP2016546017A 2014-01-10 2015-01-08 画像データを符号化するための方法および装置ならびに画像データを復号するための方法および装置 Expired - Fee Related JP6568078B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP14305042.5A EP2894857A1 (en) 2014-01-10 2014-01-10 Method and apparatus for encoding image data and method and apparatus for decoding image data
EP14305042.5 2014-01-10
PCT/EP2015/050228 WO2015104316A1 (en) 2014-01-10 2015-01-08 Method and apparatus for encoding image data and method and apparatus for decoding image data

Publications (3)

Publication Number Publication Date
JP2017508354A JP2017508354A (ja) 2017-03-23
JP2017508354A5 JP2017508354A5 (ja) 2018-01-18
JP6568078B2 true JP6568078B2 (ja) 2019-08-28

Family

ID=50023501

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016546017A Expired - Fee Related JP6568078B2 (ja) 2014-01-10 2015-01-08 画像データを符号化するための方法および装置ならびに画像データを復号するための方法および装置

Country Status (6)

Country Link
US (1) US20160337668A1 (ja)
EP (2) EP2894857A1 (ja)
JP (1) JP6568078B2 (ja)
KR (1) KR20160106599A (ja)
CN (1) CN106063266B (ja)
WO (1) WO2015104316A1 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016145243A1 (en) * 2015-03-10 2016-09-15 Apple Inc. Adaptive chroma downsampling and color space conversion techniques
WO2017046408A1 (en) * 2015-09-18 2017-03-23 Thomson Licensing Determination of a co-located luminance sample of a color component sample, for hdr coding/decoding
FR3044196B1 (fr) * 2015-11-20 2019-05-10 Thales Methode de compression d'images permettant d'obtenir une qualite de compression fixe
WO2017137444A1 (en) 2016-02-09 2017-08-17 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Concept for picture/video data streams allowing efficient reducibility or efficient random access
CN110139109B (zh) * 2018-02-08 2023-01-10 北京三星通信技术研究有限公司 图像的编码方法及相应终端
US10631009B2 (en) * 2018-07-17 2020-04-21 Tfi Digital Media Limited Method based on coding tree unit level rate-distortion optimization for rate control in video coding
US11363306B2 (en) * 2019-04-05 2022-06-14 Comcast Cable Communications, Llc Methods, systems, and apparatuses for processing video by adaptive rate distortion optimization
CN110225342B (zh) * 2019-04-10 2021-03-09 中国科学技术大学 基于语义失真度量的视频编码的比特分配系统及方法
CN110289861B (zh) * 2019-05-20 2021-09-07 湖南大学 半精度压缩感知采样方法

Family Cites Families (31)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2199588A1 (en) * 1997-03-10 1998-09-10 Efrem Hoffman Hierarchical data matrix pattern recognition and identification system
US6560285B1 (en) * 1998-03-30 2003-05-06 Sarnoff Corporation Region-based information compaction as for digital images
US6594388B1 (en) * 2000-05-25 2003-07-15 Eastman Kodak Company Color image reproduction of scenes with preferential color mapping and scene-dependent tone scaling
US7295609B2 (en) * 2001-11-30 2007-11-13 Sony Corporation Method and apparatus for coding image information, method and apparatus for decoding image information, method and apparatus for coding and decoding image information, and system of coding and transmitting image information
US8086050B2 (en) * 2004-08-25 2011-12-27 Ricoh Co., Ltd. Multi-resolution segmentation and fill
US8090198B2 (en) * 2005-03-25 2012-01-03 Mitsubishi Electric Corporation Image processing apparatus, image display apparatus, and image display method
US20060282855A1 (en) * 2005-05-05 2006-12-14 Digital Display Innovations, Llc Multiple remote display system
JP2009116098A (ja) * 2007-11-07 2009-05-28 Victor Co Of Japan Ltd 光学システム及び投射型表示装置
JP4544308B2 (ja) * 2008-01-11 2010-09-15 ソニー株式会社 画像処理装置、撮像装置、方法およびプログラム
WO2012122423A1 (en) * 2011-03-10 2012-09-13 Dolby Laboratories Licensing Corporation Pre-processing for bitdepth and color format scalable video coding
US8363131B2 (en) * 2009-01-15 2013-01-29 Aptina Imaging Corporation Apparatus and method for local contrast enhanced tone mapping
US8346009B2 (en) * 2009-06-29 2013-01-01 Thomson Licensing Automatic exposure estimation for HDR images based on image statistics
US9087382B2 (en) * 2009-06-29 2015-07-21 Thomson Licensing Zone-based tone mapping
BR112012008988B1 (pt) * 2009-10-14 2022-07-12 Dolby International Ab Método, meio legível não transitório e aparelho para processamento de mapa de profundidade
US8279349B2 (en) * 2009-11-17 2012-10-02 Nice Systems Ltd. Automatic control of visual parameters in video processing
US9225916B2 (en) * 2010-03-18 2015-12-29 Cisco Technology, Inc. System and method for enhancing video images in a conferencing environment
CN102845071B (zh) * 2010-04-19 2015-01-28 杜比实验室特许公司 高动态范围、视觉动态范围和宽色域的图像与视频的质量评估
US20130107956A1 (en) * 2010-07-06 2013-05-02 Koninklijke Philips Electronics N.V. Generation of high dynamic range images from low dynamic range images
WO2012122426A1 (en) * 2011-03-10 2012-09-13 Dolby Laboratories Licensing Corporation Reference processing for bitdepth and color format scalable video coding
CN104054338B (zh) * 2011-03-10 2019-04-05 杜比实验室特许公司 位深和颜色可伸缩视频编码
WO2012142285A2 (en) * 2011-04-12 2012-10-18 Dolby Laboratories Licensing Corporation Quality assessment for images that have extended dynamic ranges or wide color gamuts
EP2579591A1 (en) * 2011-10-04 2013-04-10 Thomson Licensing Method of and device for encoding an HDR image, method of and device for reconstructing an HDR image and non-transitory storage medium
WO2013068132A1 (en) * 2011-11-09 2013-05-16 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Inter-layer prediction between layers of different dynamic sample value range
US9756353B2 (en) * 2012-01-09 2017-09-05 Dolby Laboratories Licensing Corporation Hybrid reference picture reconstruction method for single and multiple layered video coding systems
RU2652465C2 (ru) * 2012-07-13 2018-04-26 Конинклейке Филипс Н.В. Усовершенствованные способы и устройства для кодирования и декодирования hdr изображений
US9544612B2 (en) * 2012-10-04 2017-01-10 Intel Corporation Prediction parameter inheritance for 3D video coding
KR101767094B1 (ko) * 2012-12-03 2017-08-31 한화테크윈 주식회사 영상 처리 장치 및 방법
US10255888B2 (en) * 2012-12-05 2019-04-09 Texas Instruments Incorporated Merging multiple exposures to generate a high dynamic range image
US20140169669A1 (en) * 2012-12-19 2014-06-19 National Chung Cheng University Tone mapping method of high dynamic range image/video
US9532057B2 (en) * 2012-12-28 2016-12-27 Qualcomm Incorporated Inter-layer prediction using sample-adaptive adjustments for bit depth scalable video coding
EP2961168A1 (en) * 2014-06-27 2015-12-30 Thomson Licensing Method and apparatus for predicting image samples for encoding or decoding

Also Published As

Publication number Publication date
CN106063266B (zh) 2019-09-13
JP2017508354A (ja) 2017-03-23
US20160337668A1 (en) 2016-11-17
EP3092797A1 (en) 2016-11-16
WO2015104316A1 (en) 2015-07-16
CN106063266A (zh) 2016-10-26
EP2894857A1 (en) 2015-07-15
KR20160106599A (ko) 2016-09-12

Similar Documents

Publication Publication Date Title
JP6568078B2 (ja) 画像データを符号化するための方法および装置ならびに画像データを復号するための方法および装置
JP5646641B2 (ja) 画像のブロックを符号化する方法及び画像のブロックを再構成する方法
US20170171565A1 (en) Method and apparatus for predicting image samples for encoding or decoding
US10873763B2 (en) Video compression techniques for high dynamic range data
CN105264888A (zh) 用于对色彩空间、色彩采样率和/或比特深度自适应切换的编码策略
CN105230023A (zh) 色彩空间、色彩采样率和/或比特深度的自适应切换
JP2013500661A (ja) 画像シーケンスを表す符号化されたデータのストリームを復号する方法および画像シーケンスを符号化する方法
KR20220145405A (ko) 피쳐 양자화/역양자화를 수행하는 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장하는 기록 매체
JP7384974B2 (ja) 適応乗算係数を用いた画像フィルタリングのための方法および装置
US20160360231A1 (en) Efficient still image coding with video compression techniques
KR102513756B1 (ko) 이미지 인코딩 방법, 디코딩 방법, 인코더, 디코더 및 저장매체
EP3085088B1 (en) Method and device for encoding a high-dynamic range image
KR20220146469A (ko) 결합된 픽셀/변환 기반 양자화에 의한 비디오 코딩을 위한 양자화 파라미터 제어 방법
TW201531089A (zh) 將影像資料編碼之方法及裝置,以及將影像資料解碼之方法及裝置
KR20160135670A (ko) 픽처 블록을 인코딩/디코딩하기 위한 방법
EP2887665A1 (en) Method and device for encoding a high-dynamic range image
WO2015091309A1 (en) Method and device for encoding a high-dynamic range image
EP3063940A1 (en) Method and device for predictive coding/decoding of a group of pictures of a sequence of images with conversion of the dynamic of the values of the pixels

Legal Events

Date Code Title Description
RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20161202

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20161202

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171201

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171201

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20181108

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181119

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190218

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20190226

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190614

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20190624

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190705

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190801

R150 Certificate of patent or registration of utility model

Ref document number: 6568078

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees