JP6529504B2 - ハイダイナミックレンジ画像を符号化する、および/または、ビットストリームを復号するための方法およびデバイス - Google Patents

ハイダイナミックレンジ画像を符号化する、および/または、ビットストリームを復号するための方法およびデバイス Download PDF

Info

Publication number
JP6529504B2
JP6529504B2 JP2016543142A JP2016543142A JP6529504B2 JP 6529504 B2 JP6529504 B2 JP 6529504B2 JP 2016543142 A JP2016543142 A JP 2016543142A JP 2016543142 A JP2016543142 A JP 2016543142A JP 6529504 B2 JP6529504 B2 JP 6529504B2
Authority
JP
Japan
Prior art keywords
image
backlight
residual
decoded
residual image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016543142A
Other languages
English (en)
Other versions
JP2017508332A (ja
JP2017508332A5 (ja
Inventor
ラセール セバスチャン
ラセール セバスチャン
オリビエ ヤニック
オリビエ ヤニック
リリアンネック ファブリス
リリアンネック ファブリス
トウズ デイビッド
トウズ デイビッド
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Thomson Licensing SAS
Original Assignee
Thomson Licensing SAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Thomson Licensing SAS filed Critical Thomson Licensing SAS
Publication of JP2017508332A publication Critical patent/JP2017508332A/ja
Publication of JP2017508332A5 publication Critical patent/JP2017508332A5/ja
Application granted granted Critical
Publication of JP6529504B2 publication Critical patent/JP6529504B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/184Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being bits, e.g. of the compressed video stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/0007Image acquisition
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/20Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
    • G09G3/34Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters by control of light from an independent source
    • G09G3/3406Control of illumination source
    • G09G3/342Control of illumination source using several illumination sources separately controlled corresponding to different display panel areas, e.g. along one dimension such as lines
    • G09G3/3426Control of illumination source using several illumination sources separately controlled corresponding to different display panel areas, e.g. along one dimension such as lines the different display panel areas being distributed in two dimensions, e.g. matrix
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/02Improving the quality of display appearance
    • G09G2320/0271Adjustment of the gradation levels within the range of the gradation scale, e.g. by redistribution or clipping
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/06Adjustment of display parameters
    • G09G2320/0626Adjustment of display parameters for control of overall brightness
    • G09G2320/0646Modulation of illumination source brightness and image signal correlated to each other
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/02Handling of images in compressed format, e.g. JPEG, MPEG
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2350/00Solving problems of bandwidth in display systems
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2360/00Aspects of the architecture of display systems
    • G09G2360/16Calculation or use of calculated indices related to luminance levels in display data

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

本発明は概して、画像/ビデオ符号化および復号に関する。特に本発明の技術分野は、画像であって、その画素値がハイダイナミックレンジに属する画像の符号化/復号に関連するものである。
本セクションは、読者に、下記で説明および/または請求される本発明の様々な特徴に関係付けられ得る、技術の様々な特徴を紹介することが意図される。この論考は、読者に背景情報を提供して、本発明の様々な特徴のより良好な理解を容易にすることにおいて役立つと確信される。したがって、これらの説明は、この観点で、および、従来技術の自白としてではなく読まれるべきであるということが理解されるべきである。
ローダイナミックレンジ画像(LDR画像)は、画像であって、その輝度値が、限られた数のビット(8または10であることが最も多い)によって表される画像である。この限られた表現は、特に、暗い輝度範囲、および明るい輝度範囲で、小さな信号変動の正しいレンダリングを可能としない。ハイダイナミックレンジ画像(HDR画像)では信号表現は、信号の高い正確度をその全部の範囲にわたって維持するために拡張される。HDR画像では画素値は通常、最も普及したフォーマットがopenEXR半フロートフォーマット(RGB成分当たり16ビット、すなわち、画素当たり48ビット)である、フローティングポイント(浮動小数点)フォーマット(各々の成分に対して32ビットまたは16ビット、すなわち、フロートまたはハーフフロートのいずれか)で、または、長い表現、典型的には少なくとも16ビットによる整数で表される。
HDR画像を符号化するための典型的なアプローチは、従来の符号化スキーム(LDR画像を符号化するように初期に構成される)の手段により画像を符号化するために、画像のダイナミックレンジを低減することである。
第1の手法によると、トーンマッピングオペレータが入力HDR画像に供給され、トーンマッピングされる画像が次いで、ビデオに対するJPEG/JPEG2000またはMPEG−2、H.264/AVC(“Advanced video coding for generic audiovisual Services”, SERIES H: AUDIOVISUAL AND MULTIMEDIA SYSTEMS, Recommendation ITU−T H.264, Telecommunication Standardization Sector of ITU, January 2012)などの、従来の8〜10ビット深度の符号化スキームの手段により符号化される。次いで逆トーンマッピングオペレータが、復号される画像に供給され、残差画像が、入力画像と、復号および逆トーンマッピングされる画像との間で算出される。最終的に残差画像は、第2の従来の8〜10ビット深度の符号化器スキームの手段により符号化される。
この第1の手法は、ローダイナミックレンジ画像が従来の装置の手段により復号および表示され得るという意味で、逆方向互換性がある。
しかしながらこの第1の手法は、2つの符号化スキームを使用し、入力画像のダイナミックレンジを、従来の符号化スキームのダイナミックレンジの2倍(16〜20ビット)であるように制限する。さらにそのような手法は時には、入力HDR画像とのより弱い相関を伴うローダイナミックレンジ画像につながる。これは、画像の、低いコーディング性能につながる。
第2の手法によると、バックライト画像が、入力HDR画像の輝度成分から決定される。次いで、入力HDR画像をバックライト画像で除算することにより残差画像が取得され、バックライト画像および残差画像の両方が直接符号化される。
入力HDR画像を符号化するためのこの特定の手法は、ハイダイナミックレンジを復号および/または表示することが可能でない従来の装置との逆方向互換性がない。
本発明は、画像を符号化するための方法であって、
− 上記画像から決定されるバックライト画像を符号化するステップと、
− 上記画像を上記バックライト画像の復号されたバージョンで除算することにより残差画像を取得するステップと、
− 上記残差画像をトーンマッピングすることによりトーンマッピングされた残差画像を取得するステップと、
− 上記トーンマッピングされた残差画像を符号化するステップと、
を含む、上記方法によって、上記従来技術の欠点の一部を改善することを提示する。
これは、視認可能な(viewable)残差画像、すなわち、結果として生じる残差画像が、上記画像内の元のシーンと比較して、適度に良好に、および矛盾なく、上記トーンマッピングされたシーンを芸術的に(artistically)レンダリングするという意味での残差画像を提供する。この方法はしたがって、逆方向互換性があるものであり、なぜならば、上記視認可能な残差画像が、ハイダイナミックレンジに対処することが可能でない従来の装置により復号および/または表示され得るためである。
さらに、そのような方法の手段によりハイダイナミックレンジ画像を符号化することは、効率的な符号化スキームにつながるものであり、なぜならば、高度に空間的に相関させられる(および、画像の同じシーケンスの他の画像に時間的に相関させられる)上記トーンマッピングされた残差画像(ローダイナミックレンジ画像)および上記バックライト画像が、別々に符号化されるためである。コーディング利得はしたがって、上記トーンマッピングされた残差画像の高い圧縮率、および、上記バックライト画像を符号化するためのデータのわずかな量によって到達される。
実施形態によると、上記残差画像をトーンマッピングすることは、上記残差画像の画素値に従った、ガンマ補正またはSLog補正のいずれかを含む。
暗い情報の損失および明るい情報の損失が存しないような、ガンマ補正およびSLog補正は、高い精密さを伴う、上記残差画像および上記バックライト画像からのHDR画像の再構築につながる。さらにガンマ補正およびS−log補正は、上記再構築されるHRD画像および上記視認可能な残差画像の両方において、平坦にクリッピングされるエリアを回避する。
実施形態によると、上記バックライト画像を上記画像から取得するステップは、
− バックライト画像を、上記画像の輝度成分から取得するステップと、
− 上記バックライト画像を、上記画像の平均輝度値によって変調するステップと、
を含む。
上記バックライト画像を、上記画像の平均輝度値によって変調することは、上記画像と上記残差画像との間の大域的な輝度コヒーレンスを改善し、例えば、上記画像内の明るい領域は上記残差画像内で明るく見え、上記画像内の暗い領域は上記残差画像内で暗く見える。
実施形態によると、上記バックライト画像を上記画像から取得することは、
− 上記バックライト画像を変調する前に、上記バックライト画像を、その平均値により正規化するステップ
をさらに含む。
これは、上記画像に対して、1における中間灰色(mid-gray-at-one)のバックライト画像を得ることを可能とする。
実施形態によると、上記方法は、符号化の前に、上記残差画像をスケール化するステップをさらに含む。
これは、上記残差画像から取得される画像の平均的な灰色を、視認およびコーディングの両方に対する妥当な値にする。
実施形態によると、上記方法は、符号化の前に、上記残差画像をクリッピングするステップをさらに含む。
上記残差画像をクリッピングすることは、限られた数のビットを確実にし、それを符号化するための従来の符号化/復号スキームの使用を可能とする。さらには上記符号化/復号スキームは、既存のインフラストラクチャ(コーデック、ディスプレイ、流通チャネル、その他)との逆方向互換性がある。なぜならば、ローダイナミックレンジ、典型的には8〜10ビットを有するその残差画像のみが、上記画像のローダイナミックレンジバージョンを表示するために、そのようなインフラストラクチャによって送信され得るためである。バックライトデータを内包する小さなビットストリームが、上記画像の元のバージョン(すなわち、HDR画像)を流通させるために、専用のインフラストラクチャによってサイドコンテナ(side container)内で搬送され得る。
その態様の別のものによると、本発明は、画像をビットストリームから復号するための方法であって、
− 上記ビットストリームを少なくとも部分的に復号することによりバックライト画像および復号された残差画像を取得するステップと、
− 上記復号された残差画像に対して上記バックライト画像を乗算することにより復号された画像を取得するステップと、
を備え、
上記復号された残差画像は、上記復号された残差画像に対して上記バックライト画像を乗算する前に逆トーンマッピングされることを特徴とする、上記方法に関係する。
上記態様の別のものによると、本発明は、上記の方法を実現する、画像を符号化するためのデバイス、および、ビットストリームを復号するためのデバイスに関係する。
本発明の特定の性質、ならびに、本発明の他の対象、利点、特徴部、および使用は、付随する図面との連関で取り上げられる好適な実施形態の、以下の説明から明らかになろう。
実施形態は、以下の図への参照によって説明されることになる。
本発明の実施形態による画像Iを符号化するための方法のステップのブロック線図を示す図である。 本発明の実施形態による方法のステップのブロック線図を示す図である。 本発明の実施形態による方法のステップのブロック線図を示す図である。 本発明の実施形態による方法のステップのブロック線図を示す図である。 画像をバックライト画像で除算することにより算出される残差画像を表すビットストリームを復号するための、本発明の実施形態による方法のステップのブロック線図を示す図である。 本発明の実施形態によるデバイスのアーキテクチャの例を示す図である。 本発明の実施形態による通信ネットワークを介して通信する2つのリモートデバイスを示す図である。
本発明は、本明細書で下記に、本発明の実施形態が示される、付随する図への参照によってより完全に説明されることになる。しかしながら本発明は、多くの代替の形式で実施され得るものであり、本明細書で論述される実施形態に制限されると解釈されるべきではない。したがって、本発明は様々な変更および代替的形式を許すものであるが、その特定の実施形態が、例として図面で示され、本明細書で詳細に説明されることになる。しかしながら、本発明を、開示される個別の形式に制限する意図が存するものではなく、反対に本発明は、特許請求の範囲により定義されるような、本発明の趣旨および範囲の内部にある、すべての変更、等価物、および代替物を包含することができるということが理解されるべきである。類する番号は、図の説明の全体を通して、類する要素を指す。
本明細書で使用される専門用語は、個別の実施形態を説明することの目的のみのためのものであり、本発明に関して制限的であることは意図されない。本明細書で使用される際に、単数形式「a」、「an」、および「the」は、複数形式もまた含むことが、コンテキストが明確にそうでないと指示しない限りは意図される。用語「備える(3人称単数現在形)」、「備える(現在分詞形)」、「含む(3人称単数現在形)」、および/または「含む(現在分詞形)」は、本明細書で使用されるときに、説述される特徴部、整数、ステップ、動作、要素、および/または構成要素の存在を指定するが、1または複数の、他の特徴部、整数、ステップ、動作、要素、構成要素、および/またはそれらの群の、存在または追加を排除しないということがさらに理解されよう。さらに、要素が、別の要素に「応答的である」または「接続される」と言及される場合、それは、その別の要素に直接に応答的である、もしくは接続される場合があり、または、介在要素が存在し得る。それとは対照的に、要素が、他の要素に「直接に応答的である」または「直接接続される」と言及される場合、介在要素は存在しない。本明細書で使用される際に、用語「および/または」は、関連付けられ列挙される項目の1または複数の任意の、およびすべての組み合わせを含み、「/」と略され得る。
第1の、第2の、その他の用語が、様々な要素を説明するために本明細書で使用され得るが、これらの要素は、これらの用語により制限されるべきではないということが理解されよう。これらの用語は、1つの要素を別のものから区別するために使用されるのみである。例えば、本開示の教示から逸脱することなく、第1の要素は第2の要素と名付けられ得るものであり、同様に、第2の要素は第1の要素と名付けられ得る。
線図の一部は、通信の主方向を示すために、通信経路上に矢印を含むが、通信は、描写される矢印に対して反対方向で行われ得るということが理解されるべきである。
一部の実施形態は、各々のブロックが、指定される論理的機能を実現するための、回路要素、モジュール、または、1もしくは複数の実行可能命令を備えるコードの小部分を表す、ブロック線図および動作フローチャートに関して説明される。他の実現では、ブロックで記される機能は、記される順序から外れて行われ得るということも留意されるべきである。例えば、連続で示される2つのブロックは、現実には、実質的に同時的に実行され得るものであり、またはブロックは時には、必然的に含まれる機能性に依存して、逆順序で実行され得る。
本明細書での「1つの実施形態」または「実施形態」への参照は、実施形態とのコネクションで説明される個別の特徴部、構造、または特性が、本発明の少なくとも1つの実現に含まれ得るということを意味する。本明細書での様々な所での語句「1つの実施形態で」または「実施形態によると」の出現は、必ずしもすべてが同じ実施形態を指してはおらず、別々の、または代替的実施形態は、必ずしも他の実施形態に関して相互に排他的ではない。
特許請求の範囲に出現する参照番号は、例示のみのためだけに用いられるものであり、特許請求の範囲の範囲への制限的な影響を有さないものとする。
明示的に説明されないが、本実施形態および変形形態は、任意の組み合わせまたはサブコンビネーションで用いられ得る。
本発明は、画像を符号化/復号することに対して説明されるが、画像のシーケンス(ビデオ)の符号化/復号に拡張となるものであり、なぜならば、シーケンスの各々の画像は、下記で説明されるように順次的に符号化/復号されるためである。
図1は、本発明の実施形態による画像Iを符号化するための方法のステップのブロック線図を示す。
ステップ10でモジュールICは、符号化されることになる画像Iの、輝度成分L、および可能性として、少なくとも1つの色成分C(i)を取得する。
例えば、画像Iが色空間(X,Y,Z)に属するとき、輝度成分Lは、成分Yの変換f(.)により取得され、例えばL=f(Y)である。
画像Iが色空間(R,G,B)に属するとき、輝度成分Lは、実例として、
L=0.2127.R+0.7152.G+0.0722.B
により与えられる線形結合により、709色域で取得される。
ステップ11でモジュールBAMは、バックライト画像Balを、画像Iの輝度成分Lから決定する。
図2で例示されるステップ11の実施形態によると、モジュールBIは、バックライト画像Baを、
Ba=ΣiiΨi (1)
により与えられる、重み付けされた形状関数Ψiの線形結合であるとして決定するものである。ただしaiは重み付け係数である。
したがって、バックライト画像Baを輝度成分Lから決定することは、バックライト画像Baが輝度成分Lに適合するために、最適な重み付け係数(および可能性として、前もって知られていないならば、最適な形状関数も)を見出すことにある。
重み付け係数aiを見出すための多くのよく知られている方法が存する。例えば最小平均二乗法(a least mean square method)を使用して、バックライト画像Baと輝度成分Lとの間の平均二乗誤差を最小化することが可能である。
本発明は、バックライト画像Baを取得するための任意の特定の方法に制限されない。
形状関数は、(実例としてLEDでなされ、したがって各々の形状関数は1つのLEDの応答に対応する)ディスプレイバックライトの真の物理応答であり得るものであり、または、輝度成分に最も良好な状態で適合するための純粋な数学的構築物であり得るということが留意され得る。
この実施形態によると、ステップ11から出力されるバックライト画像Balは、式(1)により与えられるバックライト画像Baである。
図3で例示されたステップ11の実施形態によると、モジュールBMは、(式(1)により与えられる)バックライト画像Baを、モジュールHLの手段により取得される画像Iの平均輝度値Lmeanによって変調する。
この実施形態によると、ステップ11から出力されるバックライト画像Balは、変調されたバックライト画像である。
実施形態によると、モジュールHLは、平均輝度値Lmeanを、全体の輝度成分Lにわたって算出するように構成される。
実施形態によると、モジュールHLは、
Figure 0006529504
により平均輝度値Lmeanを算出するように構成され、ただしβは、1よりも小さい係数であり、E(X)は、輝度成分Lの数学的期待値(平均)である。
この最後の実施形態は有利であり、なぜならばそれは、平均輝度値Lmeanが、極値の高い値を伴う数個の画素により左右されるということを回避するものであり、その左右されるということは通常、画像Iが画像のシーケンスに属するときに、非常に厄介な時間的な平均輝度の不安定性につながるためである。
本発明は、平均輝度値Lmeanを算出するための特定の実施形態に制限されない。
図4で例示されるこの実施形態の変形形態によると、モジュールNは、画像に対して(または、画像Iが画像のシーケンスに属するならば、すべての画像に対して)、1における中間灰色のバックライト画像Bagrayを得るように、(式(1)により与えられる)バックライト画像Baを、その平均値E(Ba)により正規化する。
Figure 0006529504
次いでモジュールBMは、1における中間灰色のバックライト画像Bagrayを、画像Lの低空間的周波数バージョンLlfによって、以下の関係
Figure 0006529504
を使用することにより変調するように構成される、ただしcstmodは変調係数であり、αは、1よりも小さい、典型的には1/3の、別の変調係数である。
この変形形態によると、ステップ11から出力されるバックライト画像Balは、式(2)により与えられる変調されるバックライト画像Bamodである。
変調係数cstmodは、残差画像に対する良好な見かけとなる輝度を得るために調節され、バックライト画像を取得するためのプロセスに高度に依存するということが留意され得る。例えば、最小平均二乗により取得されるバックライト画像に対して、
Figure 0006529504
である。
実際的には線形性により、バックライト画像を変調するためのすべての動作は、バックライト係数aiに、補正因子として供給され、その因子は、
Figure 0006529504
を得るように係数aiを新しい係数
Figure 0006529504
に、変換するものである。
ステップ12で、ステップ11から出力されるバックライト画像Balを決定するために必要とされるデータが、符号化器ENC1の手段により符号化され、ビットストリームBFに追加され、そのビットストリームBFは、ローカルもしくはリモートメモリに記憶され、および/または、通信インターフェイスによって(例えば、バスに、または、通信ネットワークもしくはブロードキャストネットワークを介して)送信され得る。
例えば、既知の非適応的な形状関数が使用される場合は、符号化されることになるデータは、重み付け係数aiまたは
Figure 0006529504
に制限されるが、形状関数Ψiは、実例として、より良好な適合のためのいくらか最適な数学的構造の事例では、事前に知られておらず、したがってビットストリームBF内に符号化される場合もある。そのため、すべての重み付け係数aiまたは
Figure 0006529504
(および可能性として、形状関数Ψi)が、ビットストリームBF内に符号化される。
有利には、重み付け係数aiまたは
Figure 0006529504
は、ビットストリームBFのサイズを低減するために、符号化される前に量子化される。
ステップ13で残差画像Resは、画像をバックライト画像の復号されたバージョン
Figure 0006529504
で除算することにより算出される。
バックライト画像の復号されたバージョン
Figure 0006529504
を使用して、符号化器側および復号器側の両方で同じバックライト画像を確実にすることが有利であり、したがってそのことは、最終的な復号される画像
Figure 0006529504
のより良好な精密度につながる。
より精密には、モジュールICから取得される画像Iの輝度成分L、および可能性として、各々の色成分C(i)は、バックライト画像の復号されたバージョン
Figure 0006529504
で除算される。この除算は画素ごとに行われる。
例えば、画像Iの成分R、G、またはBが色空間(R,G,B)で表現されるとき、成分RRes、GRes、およびBResが、以下のように取得される。
Figure 0006529504
Figure 0006529504
Figure 0006529504
例えば、画像Iの成分X、Y、またはZが色空間(X,Y,Z)で表現されるとき、成分XRes、YRes、およびZResが、以下のように取得される。
Figure 0006529504
実施形態によると、ステップ14で、バックライト画像の復号されたバージョン
Figure 0006529504
が、復号器DEC1の手段によりビットストリームBFを少なくとも部分的に復号することにより取得される。
上述したように、バックライト画像を取得するために必要とされる一部のデータ、ステップ11の出力が、符号化され(ステップ12)、次いで、ビットストリームBFを少なくとも部分的に復号することにより取得されている。
上記で与えられる例に続いて、重み付け係数
Figure 0006529504
(および可能性として、形状関数
Figure 0006529504
)が次いで、ステップ14の出力として取得される。
次いでステップ15でモジュールBAGは、バックライト画像の復号されたバージョン
Figure 0006529504
を、重み付け係数
Figure 0006529504
、および、一部の知られている非適応的形状関数、または形状関数
Figure 0006529504
のいずれかから、
Figure 0006529504
により生成する。
ステップ16でモジュールTMOは、視認可能な残差画像Resvを得るために、残差画像Resをトーンマッピングする。
残差画像Resは、そのダイナミックレンジが高すぎるために、および、この残差画像Resの復号されたバージョンではとても目立つアーチファクトが現れるために、視認可能でないと思われ得る。残差画像をトーンマッピングすることは、これらの欠点の少なくとも1つを改善する。
本発明は、任意の特定のトーンマッピングオペレータに制限されない。この単一の条件は、トーンマッピングオペレータは可逆的なものとするということである。
例えば、Reinhardにより定義されるトーンマッピングオペレータが使用され得る(Reinhard, E., Stark, M., Shirley, P., and Ferwerda, J., らの「Photographic tone reproduction for digital images」, ACM Transactions on Graphics 21 (July 2002))、または、Boitard, R., Bouatouch, K., Cozot, R., Thoreau, D., & Gruson, A. (2012)らの「ビデオトーンマッピングに対する時間的コヒーレンシ」、A. M. J. van Eijk, C. C. Davis, S. M. Hammel, & A. K. Majumdar (Eds.), Proc. SPIE 8499, Applications of Digital Image Processing (p. 84990D−84990D−10))においてである。
ステップ19で、視認可能な残差画像Resvは、符号化器ENC2の手段によりビットストリームF内で符号化され、そのビットストリームFは、ローカルもしくはリモートメモリに記憶され、および/または、通信インターフェイスによって(例えば、バス上で、または、通信ネットワークもしくはブロードキャストネットワークを介して)送信され得る。
ステップ16の実施形態によると、残差画像をトーンマッピングすることは、残差画像の画素値による、ガンマ補正またはSLog補正のいずれかを備える。
視認可能な残差画像Resvが次いで、例えば、
Resv=A.Resγ
により与えられ、ただしAは定数値であり、γは、例えば1/2.4に等しい、ガンマ曲線の係数である。
あるいは、視認可能な残差画像Resvは、例えば、
Resv=a.ln(Res+b)+c
により与えられ、ただしa、b、およびcは、0および1が不変であるように決定されるSLog曲線の係数であり、SLog曲線の導関数は、1未満でガンマ曲線により延長されるときに、1において連続する。したがってa、b、およびcは、パラメータγの関数である。
実施形態によると、ガンマ−Slog曲線のパラメータγは、ビットストリームBF内で符号化される。
ガンマ補正を残差画像Res上で供給することは、暗い領域を引き上げるが、明るい画素の焼き付きを回避するためにハイライトを十分低下させない。
SLog補正を残差画像Res上で供給することは、ハイライトを十分低下させるが、暗い領域を引き上げない。
したがって、ステップ16の好ましい実施形態によると、モジュールTMOは、残差画像Resの画素値によって、ガンマ補正またはSLog補正のいずれかを供給する。
例えば、残差画像Resの画素値が、(1に等しい)閾値より下であるとき、ガンマ補正が供給され、そうでない場合、SLog補正が供給される。
構築により、視認可能な残差画像Resvは通常、上記のガンマ−Slogの組み合わせの使用を特に効率的になすと、画像Iの輝度に依存して、より多く、またはより少なく1に近い平均値を有する。
方法の実施形態によると、ステップ17でモジュールSCAは、符号化(ステップ19)の前に、視認可能な残差画像Resvの各々の成分に対してスケール化因子cstscalingを乗算することにより、視認可能な残差画像Resvをスケール化する。結果として生じる残差画像Ressが次いで、
Ress=cstscaling.Resv
により与えられる。
特定の実施形態では、スケール化因子cstscalingは、視認可能な残差画像Resvの値を0から最大値2N−1の間でマッピングするように定義され、ただしNは、符号化器ENC2によるコーディングのための入力として可能とされるビットの数である。
これは当然ながら、値1(おおよそ、視認可能な残差画像Resvの平均値である)を、中間灰色値2N-1に対応付けることにより取得される。したがって、標準的なビット数N=8を有する視認可能な残差画像Resvに対して、120に等しいスケール化因子は、27=128での中間色の灰色に非常に近いため、極めて整合する値である。
方法のこの実施形態によると、ステップ19で残差画像Ressは、符号化器ENC2の手段により符号化される。
方法の実施形態によると、ステップ18でモジュールCLIは、視認可能な残差画像Resvを、符号化の前にクリッピングして、そのダイナミックレンジを、例えば符号化器ENC2の能力によって定義される、目標とされるダイナミックレンジTDRに制限する。
この最後の実施形態によると、結果として生じる残差画像Rescが、例えば、方法の実施形態によると、
Resc=max(2N,Resv
Resc=max(2N,Ress
により与えられる。
本発明は、そのようなクリッピング(max(.))に制限されるのではなく、任意の種類のクリッピングに拡張される。
方法のこの実施形態によると、ステップ19で残差画像Rescは、符号化器ENC2の手段により符号化される。
スケール化の実施形態およびクリッピングの実施形態を組み合わせることが、方法の実施形態によると、
Ressc=max(2N,cstscaling*Resv
により、または、Ressc=max(2N,cstscaling*Ress
により与えられる残差画像Resscにつながる。
方法のこの実施形態によると、ステップ19で残差画像Resscは、符号化器ENC2の手段により符号化される。
視認可能な残差画像Resvのトーンマッピングおよびスケール化は、パラメトリックプロセスである。パラメータは、固定される、またはされない場合があり、後者の事例ではそれらは、符号化器ENC1の手段によりビットストリームBF内で符号化され得る。
方法の実施形態によると、ガンマ補正の定数値γ、スケール化因子cstscalingは、ビットストリームBF内で符号化されるパラメータであり得る。
パラメータα、cstmod、cstscaling、γ、βの選定は、ポストプロダクションおよびカラーグレーディングの専門家の分別によく追従する、コンテンツに適するトーンマッピングの選定のための余地を与えるということが留意され得る。
他方でユニバーサルパラメータが、大きく多様な画像のすべてに対して受け入れ可能であるために定義される場合がある。その場合、ビットストリームBF内で符号化されるパラメータはない。
図5は、画像をバックライト画像で除算することにより算出される残差画像を表すビットストリームを復号するための、本発明の実施形態による方法のステップのブロック線図を示す。
上記で解説されたように、ステップ14および15で、バックライト画像
Figure 0006529504
が、例えば、復号器DEC1の手段によりビットストリームBFを少なくとも部分的に復号することにより取得される。
ビットストリームBFは、ローカルに記憶され、または、通信ネットワークから受信されている場合がある。
ステップ51で、復号される残差画像
Figure 0006529504
が、復号器DEC2の手段によるビットストリームFの少なくとも部分的な復号により取得される。
ビットストリームFは、ローカルに記憶され、または、通信ネットワークから受信されている場合がある。
下記で解説されるように、復号される残差画像
Figure 0006529504
は、従来の装置により視認可能である。
ステップ54で、復号される残差画像
Figure 0006529504
に対して、バックライト画像
Figure 0006529504
を乗算することにより復号される画像
Figure 0006529504
が取得される。
ステップ14の実施形態によると、パラメータ
Figure 0006529504
および/または
Figure 0006529504
は、ローカルメモリから、または、復号器DEC1の手段によるビットストリームBFの少なくとも部分的な復号によってのいずれかでも取得される。
方法によると、ステップ52でモジュールISCAは、逆スケール化を、復号される残差画像
Figure 0006529504
に、その復号される残差画像
Figure 0006529504
をパラメータ
Figure 0006529504
で除算することにより供給している。
ステップ53でモジュールITMOは、逆トーンマッピングを、復号される残差画像
Figure 0006529504
に、パラメータ
Figure 0006529504
の手段により供給している。
例えば、パラメータ
Figure 0006529504
はガンマ曲線を定義し、逆トーンマッピングは、ガンマ曲線から、復号される残差画像
Figure 0006529504
の画素値に対応する値を見出すことだけである。
復号器DEC1またはDEC2のそれぞれは、符号化器ENC1またはENC2のそれぞれにより符号化されているデータを復号するように構成される。
符号化器ENC1およびENC2(ならびに、復号器DEC1およびDEC2)は、特定の符号化器(復号器)に制限されるのではなく、エントロピー符号化器(復号器)が要されるときは、Huffmannコーダ、算術コーダ、または、h264/AVCもしくはHEVCで使用されるCabacに類するコンテキスト適応コーダなどのエントロピー符号化器が有利である。
符号化器ENC1およびENC2(ならびに、復号器DEC1およびDEC2)は、例えば、JPEG、JPEG2000、MPEG2、h264/AVC、またはHEVCに類する、損失を伴う画像/ビデオコーダであり得る、特定の符号化器に制限されない。
図1〜5上では、モジュールは、区別可能な物理ユニットとの関係にある、またはない場合がある機能ユニットである。例えばこれらのモジュール、またはそれらの一部は、一体で類のない構成要素もしくは回路に至らせられ、または、ソフトウェアの機能性に寄与し得る。反対に(a contrario)、一部のモジュールは可能性として、別々の物理エンティティから構成され得る。本発明と互換性がある装置は、純粋なハードウェアを使用して、例えば、専用のハードウェア、それぞれ≪特定用途向け集積回路≫、≪フィールドプログラマブルゲートアレイ≫、≪超大規模集積回路≫である、そのようなASIC、もしくはFPGA、もしくはVLSIを使用して、または、デバイスに組み込まれるいくつかの集積される電子構成要素から、または、ハードウェア構成要素およびソフトウェア構成要素の混合からのいずれかで実現される。
図6は、図1〜5との関係で説明される方法を実現するように構成され得る、デバイス60の例示的なアーキテクチャを表す。
デバイス60は、データおよびアドレスバス61により一体にリンクされる、後に続く要素:
− 例えばDSP(すなわち、ディジタル信号プロセッサ)であるマイクロプロセッサ62(または、CPU)、
− ROM(すなわち、読出し専用メモリ)63、
− RAM(すなわち、ランダムアクセスメモリ)64、
− アプリケーションからの送信するデータの受信のためのI/Oインターフェイス65、および、
− バッテリ66、
を備える。
変形形態によると、バッテリ66はデバイスに対して外部である。図6のこれらの要素の各々は、当業者によりよく知られており、さらには開示されないことになる。述べられるメモリの各々では、本明細書で使用される単語≪レジスタ≫は、小さな容量のエリア(いくらかのビット)に、または、非常に大きなエリア(例えば、全体のプログラム、または、大きな量の受信もしくは復号されるデータ)に対応し得る。ROM63は、少なくともプログラムおよびパラメータを備える。本発明による方法のアルゴリズムは、ROM63に記憶される。スイッチオンされるとき、CPU62は、プログラムをRAMにアップロードし、対応する命令を実行する。
RAM64はレジスタ内に、CPU62により実行され、デバイス60のスイッチオンの後にアップロードされるプログラムと、レジスタ内に入力データと、レジスタ内に、方法の異なる状態での中間データと、レジスタ内に、方法の実行のために使用される他の変数と、を備える。
本明細書で説明される実現は、例えば、方法もしくはプロセス、装置、ソフトウェアプログラム、データストリーム、または信号で実現され得る。実現の単一の形式のコンテキストで論考されるのみである(例えば、方法またはデバイスとしてのみ論考される)場合でも、論考される特徴部の実現は、他の形式(例えば、プログラム)でも実現され得る。装置は例えば、適切なハードウェア、ソフトウェア、およびファームウェアで実現され得る。方法は例えば、例えばコンピュータ、マイクロプロセッサ、集積回路、またはプログラマブル論理デバイスを一般的に含む処理デバイスを指す、例えばプロセッサなどの装置で実現され得る。プロセッサには、例えば、エンドユーザ間の情報の通信をたやすくする、コンピュータ、セル電話、携帯情報端末(「PDA」)、および他のデバイスなどの、通信デバイスもを含む。
符号化または符号化器の特定の実施形態によると、画像Iは発生源から取得される。例えば発生源は、
− ローカルメモリ(63または64)、例えば、ビデオメモリ、またはRAM(すなわち、ランダムアクセスメモリ)、フラッシュメモリ、ROM(すなわち、読出し専用メモリ)、ハードディスク、
− ストレージインターフェイス(65)、例えば、マスストレージ、RAM、フラッシュメモリ、ROM、光学ディスク、または磁気支持体とのインターフェイス、
− 通信インターフェイス(65)、例えば、ワイヤラインインターフェイス(例えば、バスインターフェイス、ワイドエリアネットワークインターフェイス、ローカルエリアネットワークインターフェイス)、またはワイヤレスインターフェイス(IEEE802.11インターフェイス、またはBluetooth(登録商標)インターフェイスなど)、および、
− 画像取り込み回路(例えば、例えばCCD(すなわち、電荷結合デバイス)、またはCMOS(すなわち、相補型金属酸化物半導体)などのセンサ)、
を備えるセットに属する。
復号または復号器の異なる実施形態によると、復号される画像
Figure 0006529504
は宛先に送出され、具体的には宛先は、
− ローカルメモリ(63または64)、例えば、ビデオメモリ、またはRAM、フラッシュメモリ、ハードディスク、
− ストレージインターフェイス(65)、例えば、マスストレージ、RAM、フラッシュメモリ、ROM、光学ディスク、または磁気支持体とのインターフェイス、
− 通信インターフェイス(65)、例えば、ワイヤラインインターフェイス(例えば、バスインターフェイス(例えばUSB(すなわち、ユニバーサルシリアルバス))、ワイドエリアネットワークインターフェイス、ローカルエリアネットワークインターフェイス、HDMI(高精細度マルチメディアインターフェイス(High Definition Multimedia Interface))インターフェイス)(登録商標)、またはワイヤレスインターフェイス(IEEE802.11インターフェイス、WiFi(登録商標)、またはBluetooth(登録商標)インターフェイスなど)、および、
− ディスプレイ、
を備えるセットに属する。
符号化または符号化器の異なる実施形態によると、ビットストリームBFおよび/またはFは宛先に送出される。例として、ビットストリームFおよびBFの1つ、または、ビットストリームFおよびBFの両方は、ローカルまたはリモートメモリ、例えば、ビデオメモリ(64)、またはRAM(64)、ハードディスク(63)に記憶される。変形形態では、1つまたは両方のビットストリームは、ストレージインターフェイス(65)、例えば、マスストレージ、フラッシュメモリ、ROM、光学ディスク、もしくは磁気支持体とのインターフェイスに送出され、および/または、通信インターフェイス(65)、例えば、ポイントツーポイントリンク、通信バス、ポイントツーマルチポイントリンク、もしくはブロードキャストネットワークへのインターフェイスを介して送信される。
復号または復号器の異なる実施形態によると、ビットストリームBFおよび/またはFは発生源から取得される。例示的にはビットストリームは、ローカルメモリ、例えば、ビデオメモリ(64)、RAM(64)、ROM(63)、フラッシュメモリ(63)、またはハードディスク(63)から読出される。変形形態では、ビットストリームは、ストレージインターフェイス(65)、例えば、マスストレージ、RAM、ROM、フラッシュメモリ、光学ディスク、もしくは磁気支持体とのインターフェイスから受信され、および/または、通信インターフェイス(65)、例えば、ポイントツーポイントリンク、バス、ポイントツーマルチポイントリンク、もしくはブロードキャストネットワークへのインターフェイスから受信される。
異なる実施形態によると、図1〜4との関係で説明される符号化方法を実現するように構成されるデバイス60は、
− 移動可能デバイス、
− 通信デバイス、
− ゲームデバイス、
− タブレット(または、タブレットコンピュータ)、
− ラップトップ、
− 静止画像カメラ、
− ビデオカメラ、
− 符号化チップ、
− 静止画像サーバー、および、
− ビデオサーバー(例えば、ブロードキャストサーバー、ビデオオンデマンドサーバー、またはウェブサーバー)、
を備えるセットに属する。
異なる実施形態によると、図5との関係で説明される復号方法を実現するように構成されるデバイス60は、
− 移動可能デバイス、
− 通信デバイス、
− ゲームデバイス、
− セットトップボックス、
− TVセット、
− タブレット(または、タブレットコンピュータ)、
− ラップトップ、
− ディスプレイ、および、
− 復号チップ、
を備えるセットに属する。
図7で例示される実施形態によると、通信ネットワークNETを介しての2つのリモートデバイスAとBとの間の送信コンテキストで、デバイスAは、図1との関係で説明されるような画像を符号化するための方法を実現するように構成される手段を備え、デバイスBは、図5との関係で説明されるような復号するための方法を実現するように構成される手段を備える。
本発明の変形形態によると、ネットワークは、静止画像またはビデオ画像を、デバイスAから、デバイスBを含む復号デバイスにブロードキャストするように適応させられるブロードキャストネットワークである。
本明細書で説明される様々なプロセスおよび特徴部の実現は、多様な異なる機器またはアプリケーション、特に例えば、機器またはアプリケーションで実施され得る。そのような機器の例は、符号化器、復号器、復号器からの出力を処理するポストプロセッサ、符号化器への入力を提供するプリプロセッサ、ビデオコーダ、ビデオ復号器、ビデオコーデック、ウェブサーバー、セットトップボックス、ラップトップ、パーソナルコンピュータ、セル電話、PDA、および他の通信デバイスを含む。明確であるべきであるように、機器は移動可能であり、さらには、移動可能な乗物に設置され得る。
追加的に方法は、プロセッサにより遂行される命令により実現され得るものであり、そのような命令(および/または、実現により生み出されるデータ値)は、例えば、集積回路、ソフトウェア搬送波、または、例えば、ハードディスク、コンパクトディスケット(「CD」)、光学ディスク(例えば、しばしばディジタルバーサタイルディスクまたはディジタルビデオディスクと指されるDVDなど)、ランダムアクセスメモリ(「RAM」)、もしくは読出し専用メモリ(「ROM」)などの、他のストレージデバイスなどの、プロセッサ可読媒体上に記憶され得る。命令は、プロセッサ可読媒体上で有形に実施されるアプリケーションプログラムを形成し得る。命令は例えば、ハードウェア、ファームウェア、ソフトウェア、または組み合わせでのものであり得る。命令は例えば、動作システム、別々のアプリケーション、または、その2つの組み合わせに見出され得る。プロセッサは、したがって例えば、プロセスを履行するように構成されるデバイス、および、プロセスを履行するための命令を有する(ストレージデバイスなどの)プロセッサ可読媒体を含むデバイスの両方として特徴付けられ得る。さらにプロセッサ可読媒体は、命令への追加で、または命令の代わりに、実現により生み出されるデータ値を記憶し得る。
当業者には明らかになるように、実現は、例えば記憶または送信され得る情報を搬送するためにフォーマットされる多様な信号を生み出し得る。情報は例えば、方法を遂行するための命令、または、説明される実現の1つにより生み出されるデータを含み得る。例えば信号は、データとして、説明される実施形態のシンタックスを書込む、もしくは読出すための規則を搬送するために、または、データとして、説明される実施形態により書込まれる実際のシンタックス値を搬送するためにフォーマットされ得る。そのような信号は例えば、電磁波(例えば、スペクトルの無線周波数小部分を使用する)として、または、ベースバンド信号としてフォーマットされ得る。フォーマットすることは例えば、データストリームを符号化すること、および、搬送波を、符号化されるデータストリームによって変調することを含み得る。信号が搬送する情報は例えば、アナログまたはディジタル情報であり得る。信号は、知られているように、多様な異なるワイヤードまたはワイヤレスリンクを介して送信され得る。信号は、プロセッサ可読媒体上に記憶され得る。
いくつかの実現が説明された。それでも、様々な変更がなされ得るということが理解されよう。例えば異なる実現の要素は、他の実現を生み出すために、組み合わされ、補完され、変更され、または除去され得る。追加的に当業者は、他の構造およびプロセスが、開示されるものの代わりになり得るものであり、結果として生じる実現は、開示される実現と、少なくとも実質的に同じ機能を、少なくとも実質的に同じ方法で遂行して、少なくとも実質的に同じ結果を達成することになるということを理解するであろう。したがって、これらおよび他の実現は、本出願により企図されるものである。
上記実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
(付記1)
画像を符号化するための方法であって、
− 前記画像から決定される(11)バックライト画像を符号化する(12)ステップと、
− 前記画像を前記バックライト画像の復号されたバージョンで除算することにより残差画像を取得する(13)ステップと、
− 前記残差画像をトーンマッピングすることによりトーンマッピングされた残差画像を取得する(16)ステップと、
− 前記トーンマッピングされた残差画像を符号化する(19)ステップと、
を含む、前記方法。
(付記2)
前記残差画像をトーンマッピングすることは、前記残差画像の画素値に従った、ガンマ補正またはSLog補正のいずれかを含む、付記1に記載の方法。
(付記3)
前記バックライト画像を前記画像から得る(11)ことは、
− バックライト画像を、前記画像の輝度成分から取得するステップと、
− 前記バックライト画像を、前記画像の平均輝度値(Lmean)によって変調するステップと、
を含む、付記1または2に記載の方法。
(付記4)
前記バックライト画像を前記画像から得る(11)ことは、
− 前記バックライト画像を、その平均値により、前記バックライト画像を変調する前に正規化するステップ
をさらに含む、付記3に記載の方法。
(付記5)
前記方法は、符号化の前に、前記残差画像の各々の成分に対してスケール化因子を乗算することにより、前記残差画像をスケール化する(17)ステップをさらに含む、付記1乃至4のいずれか一項に記載の方法。
(付記6)
前記方法は、符号化の前に、前記残差画像をクリッピングして(18)、そのダイナミックレンジを、目標とされるダイナミックレンジに制限するステップをさらに含む、付記1乃至5のいずれか一項に記載の方法。
(付記7)
前記画像は、
− ローカルメモリ、
− ストレージインターフェイス、
− ブロードキャストインターフェイス、
− 通信インターフェイス、および、
− 画像取り込み回路、
を備えるセットに属する発生源から取得される、付記1乃至6のいずれか一項に記載の方法。
(付記8)
前記画像は、符号化された画像に符号化され、前記符号化された画像は、
・ ローカルメモリ、
・ ストレージインターフェイス、および、
・ 通信インターフェイス、
を備えるセットに属する宛先に送出される、付記1乃至7のいずれか一項に記載の方法。
(付記9)
画像をバックライト画像で除算することにより算出される残差画像を表すビットストリームを復号するための方法であって、
− 前記ビットストリームを少なくとも部分的に復号することによりバックライト画像(14、15)および復号された残差画像(51)を取得するステップと、
− 前記復号された残差画像に対して前記バックライト画像を乗算することにより復号された画像を取得する(54)ステップと、
を含み、
前記復号された残差画像は、前記復号された残差画像に対して前記バックライト画像を乗算する前に逆トーンマッピングされる(53)、前記方法。
(付記10)
画像を符号化するためのデバイスであって、
− 前記画像から決定される(BAM)バックライト画像を符号化する(ENC1)ことと、
− 前記画像を前記バックライト画像の復号されたバージョンで除算することにより残差画像を取得することと、
− 前記残差画像をトーンマッピングすることによりトーンマッピングされた残差画像を取得する(TMO)ことと、
− 前記トーンマッピングされた残差画像を符号化する(ENC2)ことと、
を行うように構成された、前記デバイス。
(付記11)
前記デバイスは、
− 移動可能デバイス、
− 通信デバイス、
− ゲームデバイス、
− タブレット、
− ラップトップ、
− 静止画像カメラ、
− ビデオカメラ、
− 符号化チップ、
− 静止画像サーバー、および、
− ビデオサーバー、
を備えるセットに属する、付記10に記載のデバイス。
(付記12)
前記デバイスは、
− ローカルメモリ、
− ストレージインターフェイス、
− ブロードキャストインターフェイス、
− 通信インターフェイス、および、
− 画像取り込み回路、
を備えるセットに属する、前記画像を取得するための手段を備える、付記10または11に記載のデバイス。
(付記13)
前記デバイスは、
− ローカルメモリ、
− ストレージインターフェイス、
− ブロードキャストインターフェイス、
− ディスプレイ、および、
− 通信インターフェイス、
を備えるセットに属する、宛先に、符号化された画像を送出するための手段を備える、付記10乃至12のいずれか一項に記載のデバイス。
(付記14)
画像をバックライト画像で除算することにより算出される残差画像を表すビットストリームを復号するためのデバイスであって、
− 前記ビットストリームを少なくとも部分的に復号することによりバックライト画像(DEC1、BAG)および復号された残差画像(DEC2)を取得することと、
− 前記復号された残差画像に対して前記バックライト画像を乗算することにより復号された画像を取得することと、
を行うように構成され、
復号された残差画像を、前記復号された残差画像に対してバックライト画像を乗算する前に逆トーンマッピングする(ITMO)ようにさらに構成された、前記デバイス。
(付記15)
前記デバイスは、
− 移動可能デバイス、
− 通信デバイス、
− ゲームデバイス、
− セットトップボックス、
− TVセット、
− タブレット、
− ラップトップ、および、
− 復号チップ、
を備えるセットに属する、付記14に記載の復号デバイス。

Claims (15)

  1. 画像を符号化する方法であって、
    前記画像から決定されるバックライト画像を符号化することと、
    前記画像を前記バックライト画像の復号されたバージョンで除算することにより残差画像を取得することと、
    前記残差画像をトーンマッピングすることによりトーンマッピングされた残差画像を取得することと、
    前記トーンマッピングされた残差画像を符号化することと、
    を含む、前記方法。
  2. 前記残差画像をトーンマッピングすることは、前記残差画像の画素値に従った、ガンマ補正またはSLog補正のいずれかを含む、請求項1に記載の方法。
  3. 前記バックライト画像を前記画像から得ることは、
    バックライト画像を、前記画像の輝度成分から取得することと、
    前記バックライト画像を、前記画像の平均輝度値によって変調することと、
    を含む、請求項1または2に記載の方法。
  4. 前記バックライト画像を前記画像から得ることは、
    前記バックライト画像を、その平均値により、前記バックライト画像を変調する前に正規化すること
    をさらに含む、請求項3に記載の方法。
  5. 前記方法は、符号化の前に、前記残差画像の各々の成分に対してスケール化因子を乗算することにより、前記残差画像をスケール化することをさらに含む、請求項1乃至4のいずれか一項に記載の方法。
  6. 前記方法は、符号化の前に、前記残差画像をクリッピングして、そのダイナミックレンジを、目標とされるダイナミックレンジに制限することをさらに含む、請求項1乃至5のいずれか一項に記載の方法。
  7. 前記画像は、
    ローカルメモリ、
    ストレージインターフェイス、
    ブロードキャストインターフェイス、
    通信インターフェイス、および、
    画像取り込み回路、
    を備えるセットに属する発生源から取得される、請求項1乃至6のいずれか一項に記載の方法。
  8. 前記画像は、符号化された画像に符号化され、前記符号化された画像は、
    ローカルメモリ、
    ストレージインターフェイス、および、
    通信インターフェイス、
    を備えるセットに属する宛先に送出される、請求項1乃至7のいずれか一項に記載の方法。
  9. 画像をバックライト画像で除算することにより算出される残差画像を表すビットストリームを復号する方法であって、
    前記ビットストリームを少なくとも部分的に復号することによりバックライト画像および復号された残差画像を取得することと、
    前記復号された残差画像に対して前記バックライト画像を乗算することにより復号された画像を取得することと、
    を含み、
    前記復号された残差画像は、前記復号された残差画像に対して前記バックライト画像を乗算する前に逆トーンマッピングされる、前記方法。
  10. 画像を符号化するデバイスであって、
    前記画像から決定されるバックライト画像を符号化することと、
    前記画像を前記バックライト画像の復号されたバージョンで除算することにより残差画像を取得することと、
    前記残差画像をトーンマッピングすることによりトーンマッピングされた残差画像を取得することと、
    前記トーンマッピングされた残差画像を符号化することと、
    を行うように構成された、前記デバイス。
  11. 前記デバイスは、
    移動可能デバイス、
    通信デバイス、
    ゲームデバイス、
    タブレット、
    ラップトップ、
    静止画像カメラ、
    ビデオカメラ、
    符号化チップ、
    静止画像サーバー、および、
    ビデオサーバー、
    を備えるセットに属する、請求項10に記載のデバイス。
  12. 前記デバイスは、
    ローカルメモリ、
    ストレージインターフェイス、
    ブロードキャストインターフェイス、
    通信インターフェイス、および、
    画像取り込み回路、
    を備えるセットに属する、前記画像を取得するための手段を備える、請求項10または11に記載のデバイス。
  13. 前記デバイスは、
    ローカルメモリ、
    ストレージインターフェイス、
    ブロードキャストインターフェイス、
    ディスプレイ、および、
    通信インターフェイス、
    を備えるセットに属する、宛先に、符号化された画像を送出するための手段を備える、請求項10乃至12のいずれか一項に記載のデバイス。
  14. 画像をバックライト画像で除算することにより算出される残差画像を表すビットストリームを復号するデバイスであって、
    前記ビットストリームを少なくとも部分的に復号することによりバックライト画像および復号された残差画像を取得することと、
    前記復号された残差画像に対して前記バックライト画像を乗算することにより復号された画像を取得することと、
    を行うように構成され、
    復号された残差画像を、前記復号された残差画像に対してバックライト画像を乗算する前に逆トーンマッピングするようにさらに構成された、前記デバイス。
  15. 前記デバイスは、
    移動可能デバイス、
    通信デバイス、
    ゲームデバイス、
    セットトップボックス、
    TVセット、
    タブレット、
    ラップトップ、および、
    復号チップ、
    を備えるセットに属する、請求項14に記載の復号デバイス。
JP2016543142A 2013-12-27 2014-12-22 ハイダイナミックレンジ画像を符号化する、および/または、ビットストリームを復号するための方法およびデバイス Active JP6529504B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP13306878.3A EP2890129A1 (en) 2013-12-27 2013-12-27 Method and device for encoding a high-dynamic range image and/or decoding a bitstream
EP13306878.3 2013-12-27
PCT/EP2014/078942 WO2015097120A1 (en) 2013-12-27 2014-12-22 Method and device for encoding a high-dynamic range image and/or decoding a bitstream

Publications (3)

Publication Number Publication Date
JP2017508332A JP2017508332A (ja) 2017-03-23
JP2017508332A5 JP2017508332A5 (ja) 2017-12-28
JP6529504B2 true JP6529504B2 (ja) 2019-06-12

Family

ID=49955853

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016543142A Active JP6529504B2 (ja) 2013-12-27 2014-12-22 ハイダイナミックレンジ画像を符号化する、および/または、ビットストリームを復号するための方法およびデバイス

Country Status (7)

Country Link
US (1) US9924178B2 (ja)
EP (2) EP2890129A1 (ja)
JP (1) JP6529504B2 (ja)
KR (1) KR20160102414A (ja)
CN (1) CN105850128B (ja)
TW (1) TWI659642B (ja)
WO (1) WO2015097120A1 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20160102067A (ko) * 2013-12-30 2016-08-26 퀄컴 인코포레이티드 3d 비디오 코딩에서의 델타 dc 잔차 코딩의 단순화
WO2016120209A1 (en) 2015-01-30 2016-08-04 Thomson Licensing A method and apparatus of encoding and decoding a color picture
EP3107300A1 (en) 2015-06-15 2016-12-21 Thomson Licensing Method and device for encoding both a high-dynamic range frame and an imposed low-dynamic range frame
EP3113496A1 (en) 2015-06-30 2017-01-04 Thomson Licensing Method and device for encoding both a hdr picture and a sdr picture obtained from said hdr picture using color mapping functions
US9979895B2 (en) * 2015-09-04 2018-05-22 Disney Enterprises, Inc. High dynamic range tone mapping
CN108702514B (zh) * 2016-03-09 2020-07-07 华为技术有限公司 一种高动态范围图像处理方法及装置
EP3367658A1 (en) * 2017-02-24 2018-08-29 Thomson Licensing Method and device for reconstructing an hdr image
CN109166538B (zh) * 2018-11-22 2023-10-20 合肥惠科金扬科技有限公司 显示面板的控制电路及显示装置
KR102609852B1 (ko) * 2019-01-16 2023-12-06 삼성디스플레이 주식회사 표시 장치 및 표시 시스템

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6907070B2 (en) * 2000-12-15 2005-06-14 Microsoft Corporation Drifting reduction and macroblock-based control in progressive fine granularity scalable video coding
US20020118743A1 (en) * 2001-02-28 2002-08-29 Hong Jiang Method, apparatus and system for multiple-layer scalable video coding
US9894379B2 (en) * 2001-07-10 2018-02-13 The Directv Group, Inc. System and methodology for video compression
US8218625B2 (en) * 2004-04-23 2012-07-10 Dolby Laboratories Licensing Corporation Encoding, decoding and representing high dynamic range images
US8014445B2 (en) * 2006-02-24 2011-09-06 Sharp Laboratories Of America, Inc. Methods and systems for high dynamic range video coding
US9571856B2 (en) * 2008-08-25 2017-02-14 Microsoft Technology Licensing, Llc Conversion operations in scalable video encoding and decoding
CN102388611B (zh) * 2009-02-11 2015-08-19 汤姆森特许公司 使用色调映射和反色调映射的比特深度可分级视频编码和解码的方法和装置
WO2010105036A1 (en) * 2009-03-13 2010-09-16 Dolby Laboratories Licensing Corporation Layered compression of high dynamic range, visual dynamic range, and wide color gamut video
US8606009B2 (en) * 2010-02-04 2013-12-10 Microsoft Corporation High dynamic range image generation and rendering
WO2011163114A1 (en) * 2010-06-21 2011-12-29 Dolby Laboratories Licensing Corporation Displaying images on local-dimming displays
HUE063195T2 (hu) * 2010-10-18 2024-01-28 Dolby Laboratories Licensing Corp Képfeldolgozási eljárások és berendezések lokalizált színskála meghatározás segítségével
US9275605B2 (en) * 2010-11-23 2016-03-01 Dolby Laboratories Licensing Corporation Content metadata enhancement of high dynamic range images
WO2012127401A1 (en) * 2011-03-24 2012-09-27 Koninklijke Philips Electronics N.V. Apparatuses and methods for analyzing image gradings
EP2557789B1 (en) * 2011-08-09 2017-09-27 Dolby Laboratories Licensing Corporation Guided image up-sampling in video coding
EP2613532A1 (en) * 2012-01-06 2013-07-10 Thomson Licensing Method of and device for encoding an HDR video together with an LDR video, method of and device for reconstructing one of an HDR video and an LDR video coded together and non-transitory storage medium
JP5924147B2 (ja) * 2012-06-14 2016-05-25 ソニー株式会社 表示装置、画像処理装置、および表示方法

Also Published As

Publication number Publication date
CN105850128B (zh) 2019-08-16
US20160330456A1 (en) 2016-11-10
WO2015097120A1 (en) 2015-07-02
KR20160102414A (ko) 2016-08-30
TW201537960A (zh) 2015-10-01
EP2890129A1 (en) 2015-07-01
TWI659642B (zh) 2019-05-11
JP2017508332A (ja) 2017-03-23
US9924178B2 (en) 2018-03-20
EP3087741A1 (en) 2016-11-02
CN105850128A (zh) 2016-08-10

Similar Documents

Publication Publication Date Title
JP6529504B2 (ja) ハイダイナミックレンジ画像を符号化する、および/または、ビットストリームを復号するための方法およびデバイス
JP6391680B2 (ja) 符号化する方法及び復号する方法並びに対応する符号器及び復号器
US10250893B2 (en) Method and device for encoding both a high-dynamic range frame and an imposed low-dynamic range frame
TW201540052A (zh) 將高動態範圍影像編碼成位元流及/或將表示高動態範圍影像之位元流解碼之方法及裝置
US10148958B2 (en) Method and device for encoding and decoding a HDR picture and a LDR picture
TW201537962A (zh) 影像之編碼方法和裝置,位元流之解碼裝置,電腦程式製品,以及處理器可讀式媒體
WO2015097135A1 (en) Method and device for encoding a high-dynamic range image
TW201545547A (zh) 訊框之編碼裝置和解碼裝置
EP3113494A1 (en) Method and device for encoding a high-dynamic range image
TW201537963A (zh) 影像之編碼方法和裝置,以及電腦程式製品和處理器可讀式媒體
TW201537961A (zh) 影像之編碼方法和裝置,位元流之解碼裝置,電腦程式製品,以及處理器可讀式媒體
TW201532424A (zh) 影像之編碼方法和裝置,以及電腦程式製品和處理器可讀式媒體
WO2015097129A1 (en) Method and device for encoding a high-dynamic range image
TW201537964A (zh) 影像之編碼方法和裝置,位元流之解碼裝置,電腦程式製品,以及處理器可讀式媒體
TW201608876A (zh) 訊框之編碼方法和裝置以及訊框之解碼方法和裝置,電腦程式製品及處理器可讀式媒體和非暫態儲存媒體
TW201603564A (zh) 訊框之編碼方法和裝置以及訊框之解碼方法和裝置,電腦程式製品及處理器可讀式媒體和非暫態儲存媒體
TW201608875A (zh) 訊框之編碼方法和裝置以及訊框之解碼方法和裝置,電腦程式製品及處理器可讀式媒體和非暫態儲存媒體
EP2938083A1 (en) Method and device for processing an information data indicating that a frame contains samples of at least two distinct packed constituent frames according to a specific frame-packing-arrangement scheme
US20170188049A1 (en) Method and device for encoding a frame and/or decoding a bitstream representing a frame
WO2015177125A1 (en) Method and device for encoding a frame and/or decoding a bitstream representing a frame

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171113

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171113

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180703

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20180928

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190416

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190514

R150 Certificate of patent or registration of utility model

Ref document number: 6529504

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250