JP2019504548A - 画像及びビデオのためのダイナミックレンジ符号化 - Google Patents

画像及びビデオのためのダイナミックレンジ符号化 Download PDF

Info

Publication number
JP2019504548A
JP2019504548A JP2018531233A JP2018531233A JP2019504548A JP 2019504548 A JP2019504548 A JP 2019504548A JP 2018531233 A JP2018531233 A JP 2018531233A JP 2018531233 A JP2018531233 A JP 2018531233A JP 2019504548 A JP2019504548 A JP 2019504548A
Authority
JP
Japan
Prior art keywords
color
image
input
dynamic range
linear
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018531233A
Other languages
English (en)
Other versions
JP6495552B2 (ja
Inventor
ジェローン フーベルト クリストッフェル ヤコブス ステッセン
ジェローン フーベルト クリストッフェル ヤコブス ステッセン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Koninklijke Philips NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips NV filed Critical Koninklijke Philips NV
Publication of JP2019504548A publication Critical patent/JP2019504548A/ja
Application granted granted Critical
Publication of JP6495552B2 publication Critical patent/JP6495552B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/92Dynamic range modification of images or parts thereof based on global image properties
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/64Systems for the transmission or the storage of the colour picture signal; Details therefor, e.g. coding or decoding means therefor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/98Adaptive-dynamic-range coding [ADRC]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/571Control of the dynamic range involving a non-linear response
    • H04N25/575Control of the dynamic range involving a non-linear response with a response composed of multiple slopes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20208High dynamic range [HDR] image processing

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Nonlinear Science (AREA)
  • Image Processing (AREA)
  • Processing Of Color Television Signals (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

優秀だが簡便な輝度ダイナミックレンジ変換を得るために、入力画像Im_inのピクセルの入力色Y’UV_LDRを出力画像Im_res、REC_HDRのピクセルの赤、緑及び青の色成分の出力色R’o,G’o,B’oに変換するように構成され、その入力画像が第1の輝度ダイナミックレンジDR_1を有し、その出力画像が第2の輝度ダイナミックレンジDR_2を有し、第1のダイナミックレンジのピーク輝度が第2のダイナミックレンジのピーク輝度より少なくとも2倍低いか又はその逆であり、傾き変数InvBetによって決定される最も暗い入力ルマ値を含む入力画像色のルマの範囲の暗いサブレンジSR_dのための線形区間と、第2の傾き変数InvAlphによって制御される明るいサブレンジSR_brにおける最も明るい入力ルマ値のための第2の線形区間と、2つの線形区間の間の放物線区間とを含む3区間明度再グレーディング曲線を適用するように構成される粗マッピングユニット202、552を備える画像色処理装置200を備える、HDRビデオ復号器250を説明する。

Description

本発明は、第1の輝度ダイナミックレンジの画像又は画像のビデオを第2の輝度ダイナミックレンジ(以下の実施形態の大部分では、符号化側では入力画像の第1のレンジより低く、復号側ではより高い)の画像又はビデオに変換することを可能にする装置及び方法並びにその結果得られる製品、たとえば、データ記憶製品(たとえば、ブルーレイディスク)又は伝送製品又は信号に関し、特には、マスター高ダイナミックレンジ(HDR:high dynamic range)画像(たとえば、1000nitピーク明度、すなわち、関連する基準ディスプレイのピーク明度)から開始し、これは非限定的には、たとえば、カラーグレーダによって定義される特定のカラールックで作成されるマスターHDRグレーディング、又は放送の準備ができたRAWテレビ番組キャプチャであり、次いで、第2のダイナミックレンジの画像又は特に画像のセット(ビデオ)を介した符号化及び通信があり、これは入力マスターとは別のダイナミックレンジで符号化され、たとえば典型的には、標準ダイナミックレンジ画像(SDR:standard dynamic range、これはレガシーなRec.709のOETFで定義され、100nitピーク明度(PB:peak brightness)の基準モニタ上で最適に見えるようにグレーディングされる)として符号化され、又は任意のLDR(低ダイナミックレンジ:low dynamic range)画像符号化であり、任意の画像通信システムの他方側で、対応する画像又はビデオ復号器が、たとえば、受信側で利用可能な3000nitPBのHDRディスプレイ上でレンダリングするのに適した復号画像を生成する。方法及び装置の実施形態は、レガシー(LDR)ビデオ符号化(本文書では標準SDR符号化とも呼ばれる)よりも高い輝度要件に対処できる必要がある任意のビデオ符号化及び復号に特に適している。SDR(LDR)ビデオ符号化は典型的にはRec.709のEOTFで符号化され、これは100nitの標準値付近のピーク明度及び0.1nitの黒レベルを有する典型的なLDR表示能力にうまく一致するものであり、LDRグレーディングがこれらの標準値で行われると仮定する。高ダイナミックレンジ画像は、レガシーSDR符号化のみでは符号化できない任意の画像であり(ただし、以下に説明されるように、ツール及び装置の一部は適所で再利用される)、その理由は、典型的にはより高い画質特性を有し、特に画像のピーク明度がより高いためである(100nitよりも少なくとも2倍高いが、典型的なより高品質のHDR画像では、たとえば1000nitPB、又は5000nitPBなどである)。輝度ダイナミックレンジの下端のさらなる詳細について言及しない場合、少なくとも本出願の実施形態を理解するために、当業者がそれを0nitと仮定すると暗黙的に仮定する。
近年、いくつかの大きく異なるディスプレイ、具体的には、大きく異なるピーク明度を有するテレビ信号受信ディスプレイ(テレビ)が市場に登場している。従来、いわゆるレガシー低ダイナミックレンジ(LDR)ディスプレイのピーク明度(PB)は最大でも約2倍しか変わらなかったが(80〜150nitのどこか)、さらに高いピーク明度への近年の傾向は、1000nit以上のいわゆる高ダイナミックレンジ(HDR)テレビ、及び5000nitPBのディスプレイをもたらし、そのようなより高いPBの様々なディスプレイがまもなく市場に出てくると想定される。映画館でさえも、近年、視聴者に知覚される最終的な明度ダイナミックレンジを増加させる手法を検討している。100nitのLDR標準レガシーTVと比較して、たとえば2000nitのディスプレイは20倍のピーク明度を有し、これは利用可能な4以上の追加ストップに相当し、すなわち、様々な画像においてより明るい物体をレンダリングするより多数の手法に相当する。一方、新世代のHDR画像生成又は撮影システムも使用する場合、これはHDRシーン又はエフェクトのはるかに優れたレンダリングを可能にする。たとえば、(レガシーLDRグレーディングで行われるように)建物又は車両の外の晴れた世界を(ソフト)クリップする代わりに、HDR TVガマットの輝度軸上の追加の利用可能な明度を使用して、明るくカラフルな屋外エリアを表示することができる。これが意味するのは、コンテンツクリエータは、非限定的にカラーグレーダと呼ぶが(ただし、様々な態様で具現化され、たとえば生テレビ制作では、特に符号化のいくつかの色特性に影響する1つのダイヤルを時折調整するだけの場合がある人物)、非常に美しい(典型的にはより明るい、場合によってはよりコントラストが高く、よりカラフルな)専用のHDR画像又はビデオコンテンツを作る余地があるということである。しかしながら、他方でこれは問題を生じさせ、LDR画像符号化は、白から開始して相対的に設計され、18%の反射の中間グレーに従って良好に照明され、これが意味するのは、典型的には、100nitなどの比較的低いPBの5%未満のディスプレイにレンダリングされた輝度が、典型的には視聴者には、暗いグレーを識別するのが困難なものとして、又は周囲の照明に応じて識別不可能な黒としてさえ見えるということである。5000nitのディスプレイでは、この最適にグレーディングされたHDR画像に問題はなく、5000nitの5%はまだ250nitであるので、これはたとえば通常のインテリアのように見え、輝度範囲の最大95%は、たとえばランプ、又はそのようなランプに近い、すなわち明るく照らされた領域のようなHDR効果に純粋に使用することができる。しかしながら、LDRでは、このHDRグレーディングのレンダリングは完全に誤ったものとなり(そのようなディスプレイ用に作成されなかったので)、視聴者は、たとえば、黒に近い領域上の最も明るい領域に対応するホットスポットしか見えない。
一般に、十分に異なるディスプレイ(少なくとも2倍のPBの差)に対して最適な画像を生成するためには、再グレーディングが必要である。これが行われるのは、より低いダイナミックレンジディスプレイ用の画像を再グレーディングして、より高いダイナミックレンジディスプレイ上でのレンダリングに適したものにする(すなわち、1000nitPBの実際のディスプレイ上で最適に見える、たとえば、1000nit基準ディスプレイ入力画像をアップグレードし、これは次いで5000nitPBの実際のディスプレイ上でレンダリングするために色処理される)場合と、その逆として、すなわち、画像をダウングレードして、ビデオ画像として符号化されるグレーディングに関連する基準ディスプレイよりも低いPBの実際のディスプレイ上での表示に適するようにする(その画像は典型的には何らかの手法で受信側に送信される)場合との両方である。簡潔にするため、1つ又は複数のHDR画像がLDRにダウングレードされるシナリオについてのみ説明する。
HDR技術は(これによって意味するのは、かなり複雑な、すなわち、10000nitなどの高いピーク明度の少なくともいくつかのHDR画像を処理することが可能であるべき技術であるが、LDR画像又は中程度のダイナミックレンジ画像などでも動作する)、民生用及び業務用両方の様々な領域に浸透し(たとえば、カメラ、データ処理デバイス、たとえば、ブルーレイプレーヤー、テレビ、コンピュータソフトウェア、投影システム、セキュリティ又はビデオ会議システムなど)、様々な態様を様々な手法で処理することが可能な技術を必要とする。
国際公開第2013/144809号(及び国際公開第2014/056679号)において、出願人は、入力画像(Im−in)に関連する基準ディスプレイダイナミックレンジとは別のディスプレイダイナミックレンジに適した画像(Im_res)を生成するための色処理を行う技法を一般的に定式化し、(典型的には、PBは異なるディスプレイダイナミックレンジ、ひいては最適にグレーディングされた画像を特徴付けるのに十分であり、その理由は、いくつかのシナリオでは、黒の点を無視し、実際的に0と仮定するためである)すなわち、これは基本的には画像が最適に見えるように作成されたディスプレイのPBを定式化し、これは以下で解明される本発明にとって改良すべき良い従来技術を形成する。この原理を図1において再び簡潔に再定式化する。しかしながら、従来技術の例の特性の一部は本実施形態の文脈において関連があり、一部は一般的なHDR符号化には存在せず、本実施形態及び教示の制限はないことを読者は理解すべきであり、その理由はそのような様々なHDRビデオ(又は画像)コーデック技術と共に動作することができるためである。
具体的には、関連があるのは、シーンの2つの異なるダイナミックレンジルックを有することであり、これらは色変換を介して互いに関連し得る(たとえば、図4が解明するように、街路灯の輝度、又は等価的にルマ(luma)を大幅に低下させ(これらは対応するルマを典型的には10又は12ビット表現などに符号化する符号である)、そのような高輝度画像物体全てをLDRの輝度範囲の小さいサブレンジに絞ることを選択することができる)。我々の実施形態は、マスターHDR画像の何らかの符号化を任意の受信側に送信するシステムでも動作することができるが、以下の説明では、HDR画像の代わりにLDRグレーディングを伝達する実施形態を使用し、ただし、HDRシーンのマスターHDRグレーディング画像(Im_in_HDR)の近い再構成を受信機が再計算することを可能にする色変換関数(その一部は色度平面で動作し得るが、主に輝度変換に焦点を当てる)を符号化するメタデータを共に使用することを仮定する。これは、HDR機能を有する受信機が、接続されたHDRディスプレイ上にHDR画像をレンダリングすることだけでなく、LDRテレビ又はコンピュータモニタ、プロジェクタ、ポータブルディスプレイなどをまだ有する人々のためにレガシーLDR画像をレンダリングすることも可能にする。
この原理は一般的に適用可能(構築可能)であり、すなわち、仮定されるべきでないのは、入力画像若しくは出力画像のカラーフォーマット、又は色処理が行われる色空間に関するあらゆる特定の制限であり、具体的には、従来技術がある特定の線形RGB処理について言及する場合、本文書では、いくつかの非線形色空間処理及びそれに基づく符号化戦略を発明しており説明することを明示する。
入力画像Im_inの様々なピクセルは、色変換器100によって連続的に色処理され(ここではこれはビデオ符号化器に存在すると仮定し、符号化対象のHDRビデオを入力として取得し、LDR画像を出力するが、これは依然としてHDR情報も最適に含み、ただし、再グレーディングされたLDRルックのものである)、これは乗算器104によりそれらの線形RGB値に乗算係数(a)を乗算して、出力画像Im_res内のピクセルの出力色RsGsBsを得ることによって行われる。乗算係数は、典型的には人間のカラーグレーダによって作成されるあるトーンマッピング仕様から規定されるが、画像の特性(たとえば、ヒストグラム、又は顔のような特別な物体の色特性など)を分析する自動変換アルゴリズムから来る場合もある。マッピング関数は、たとえば、粗くガンマ状であるので、暗い色が持ち上げられ(これはLDRディスプレイ上でレンダリングするためにより明るくし、よりコントラストを高めるために必要とされる)、代償として明るい領域のコントラストが低下して、LDRディスプレイ上でパステル化される。グレーダは顔などのある特別な物体をさらに識別しており、その輝度に対して、曲線の中でコントラストが高められた部分を作成している。具体的には、この曲線は、(最大値評価ユニット101によって決定される)Mと名付けられた各ピクセルのR、G及びB色成分の最大値に、曲線適用ユニット102(これは手軽にLUTなどであって、典型的には、ガンマ係数などのマッピングの関数形状を符号化したパラメータを受信した後に、色処理を行う受信側において、たとえば画像のショットごとに計算される)によって適用されるが、Mが輝度であるか、又は輝度若しくは明度のある非線形表現、たとえばルマ、すなわち輝度の1/N乘であって、Nはある整数などである場合にも、同一の原理が動作することができる。そして、乗算係数計算ユニット103は、現在処理中のピクセルごとに、適切な乗算係数(a)を計算する。これは、たとえば、画像が第1の対象ディスプレイ、たとえば100nitLDRディスプレイ上にレンダリングされる場合、Mに適用されたトーンマッピング関数Fの出力、すなわちF(M)をMで除算したものである。たとえば800nitPBの中間ディスプレイなどのために画像が必要な場合(又は他の値、場合によっては、HDR入力画像Im_inの基準ディスプレイPBよりも高い)、(ディスプレイ上に直接レンダリングされるか、通信されるか、又は後の使用のために何らかのメモリに記憶されるかにかかわらず)画像が適合するディスプレイダイナミックレンジに適した値に、入力色の乗法マッピングの量を再スケーリングする他の関数GがF(M)/Mに適用される。これは、非常に複雑な明度変換を乗算として表現する手法である。本発明の背景知識を説明するために述べた従来技術は、典型的には線形RGB成分に乗算するものであるが、本発明の実施形態が、非線形の、たとえば典型的にはRGB色表現、たとえばRec.709のOETFで変換されたR’G’B’成分、又は典型的には1より小さい、たとえば1/2の指数値のR、G及びBのべき乘でも動作することを強調する。
これまで説明した部分は、全体的な色処理を構成する。これは、連続したピクセルのセットの色の中の特定の値のみに基づいて処理が行われ得ることを意味する(また、それらの色の輝度のみに焦点を当てることにする)。したがって、たとえば画像の円形のサブ選択内のピクセルのセットからピクセルを取得するだけの場合、上記の定式化された原理に従って色処理を行うことができる。しかしながら、人間の視覚は非常に相対的であり、空間的に相対的でもあり、物体の色及び明度は、画像内の他の物体の比色特性との関連で(また、様々な技術的制限も考慮して)判定されるので、より高度なHDR符号化システムは局所処理を行う選択肢を有する。一部の画像において、ランプ又は顔などの1つ又は複数の物体を分離し、その物体に専用処理を行うことを望む。しかしながら、再度要点を強調すると、ここに提示された技術では、これは、単にある分離された色処理ではなく、マスターグレーディングのピクセルの画像から導出可能な少なくとも1つのさらなるグレーディングの符号化の一部(ここではHDRから導出されたLDR)を形成する。市場のより単純な変形形態は局所処理を使用せず(概念的には類似しているが、とりわけ、より複雑な集積回路につながる)、以下の原理はその詳細なしで説明することができるので、その態様をさらに詳述しない。
マスターグレーディング又は導出されたグレーディングが、空間構造、すなわち撮像されたシーンの物体を符号化した画像として受信側に実際に通信され、2つのルック間の関係を符号化する色変換関数もメタデータで伝達される場合、受信側で他のグレーディングを再計算することができる。すなわち、たとえば、HDR画像が受信された場合には、必要に応じて復号によりLDR画像を構築するために、又は逆に、ルックのペアのうちLDR画像が通信された若しくは記憶されている場合には、HDR画像を再構成するために、色処理が必要とされる。局所処理の原理が符号化技術で使用されるという事実は、とりわけ、基本的な数学的処理方法の単純なセットを必要とするという技術的意味合いを有し、その理由は、分野に出ている全ての復号IC又はソフトウェアがこれを実装し、手頃な価格で符号化を理解して復号器LDR画像を生成できる必要があるためである。
市場を利用する様々な画像又はビデオのための実際的に有用な符号化技術を設計する場合、技術的な制約は、ICの観点から(安価な装置も単純なIC若しくはICの領域部分又はソフトウェアを必要とするので)、符号化関数ツールを少数にし、スマートに選択して、シーンの様々なダイナミックレンジルック画像を作成し符号化するために最も必要なことを行うようにするべきであるということである(その結果、任意のコンテンツ作成変形形態における任意の「グレーダ」又はコンテンツクリエータは、(所望に十分に近い)HDR/LDR画像ルックペアを作成した所望の結果と、これを記憶又は通信するための対応する符号化とを得る)。他方、それに関する他の問題は、上記で説明された哲学では、人間のカラーグレーダなどが、再グレーディングをLDR画像などで符号化されたものとして指定し、任意の受信側の受信機において適切なHDR画像に再グレーディングする役割を果たすが、所与のシーンの特定のルックのための最適なパラメータのセットにおいて、グレーダはまた、適切なグレーディング/符号化ツールを適切な順序で有することで、それらによって便利に作業できるようにする必要がある(所望のカラールックの良好な精度を得る必要があるだけでなく、時間も重要であるので、望むルックを迅速かつ効率的に得るために、極力少ない操作でこれを行う必要がある)。この2つの対立する制約のセットは、エレガントに提供される必要がある。さらに、LDR画像が任意の受信機に送信される場合、見なければならない第3の基準であって、以下のような技術的解決策が少なくともおおよそ満足しなければならないものさえ存在し、すなわち、あるLDRルック画像を設計した場合、受信機HDR復号器によるHDR画像の再構成は依然として十分な精度でなければならず、したがってこれは、発明時に、汎用的なHDR符号化器及び復号器のための、結果として得られる最適な技術装置ユニットにも影響する。
Hattoriらの「HLS:SEI message for Knee Function Information」、16.JCT−VC MEETING、2014年9月1日、San Joseには、1つ又は複数のニーポイントに基づく、シーンホワイトレベルのたとえば1200%までの入力ダイナミックレンジ上の入力HDR輝度(すなわち1200nitまでの符号)と、LDRルマとの間の関係を指定する新たなSEIメッセージが記載されている。ニーポイントは、デジタルセンサが、平均的なグレーワールドの仮定に従って照明された場合に、シーンホワイト(これはシーン平均グレーより約5倍明るい)よりもわずかに明るいだけのシーン物体をハードクリップするという問題傾向を有するという問題を解決するトリックであった。そのアイデアは、より暗いシーン輝度に対してよりノイズが少ない、より優れたセンサがあれば、シーンを少し露出アンダーにして、たとえば、最大でシーンホワイトの4倍までの、シーンホワイトよりも明るい様々なシーン輝度(たとえば、最適なシーン照明下での花嫁の白いドレス)の識別を可能にすることができるというものである(雑にクリップして、たとえばシーンホワイトの1.2倍を超える全てを白、すなわち、ルマY’=8ビットで255に符号化するのではない)。もちろん、そのようなより明るいシーン輝度を正確にカメラセンサに捕捉することは解決策の一部にすぎず、その理由は、たとえばSDR100nitPBディスプレイ上に良好な画質でレンダリングするなどの消費のためにSDR画像を計算する場合に、実際の8ビットルマ符号を、アナログセンサで決定される(最大のまだ記録可能なシーン輝度、すなわち1.0に対する)シーン輝度に割り当てるトリックもさらに必要であるためである。SDR出力ルマ軸上の全ての色を4倍さらには12倍の上方範囲に適合するように単に圧縮することは、エレガントな解決策ではなく、その理由は、同様に良好に露光されてよく見えるはずの暗い物体がその際に暗くなりすぎて良好なSDR画質にならないためである。したがって、より暗いルマの古典的な(Rec.709の)ルマの割り当てをニーポイントまで維持する技法を考案し、ニーポイント以上は、より圧縮された、典型的には対数のルマ符号割り当て戦略を使用して、入力輝度のはるかに高い上方範囲(たとえば、シーンホワイトの1倍からシーンホワイトの4倍までの範囲)が、ニーポイントの位置に応じて、ルマ符号の上方範囲、たとえば上位10%にマッピングされるようにした(又は、SDR画像内の相当な量のシーンホワイトより明るい輝度を絞りたい場合は、ニーポイントをルマ範囲の50%、すなわち8ビットで128、又は10ビットで512に選択することができるが、画像のカラールックは、まだ視認可能だが、著しく悪化し始める)。Hattoriは必要な全ての情報を復号器に迅速に伝達する技法及び実用的手法を導入し、復号器はSDR画像を受信した場合に、1つ又は複数のそのようなニーポイントに基づいてHDR画像の再構成を行うための逆関数を適用するためにその情報を必要とする。ニー処理のメカニズムは、SDR画像のルックを正確に制御するための良い手法ではない。特に、最大で何倍までのシーンホワイトを超える輝度がまだ符号化可能であるべきかを指定するK倍係数が高すぎない場合には(すなわち、中程度の高ダイナミックレンジのシーン)、より高い明度のサブレンジをSDRルマのより小さいサブレンジに連続的に屈曲させる単純かつ高速な関数によってより高いダイナミックレンジ(input_d_range)を屈曲させるのは簡単な手法ではある(これが問題にならないと仮定するが、ニー関数の誤った単純な対数部分によって破壊される、美しい明るいグレー値を有する、雲などのような最も明るい領域などに重要な画像コンテンツを有する場合、これは必ずしも正しくはない)。人間のグレーダが画像のルックを正確に最適化したい場合に特に有用な、単純かつ非常に有用な粗いグレーディング関数をこの文書が教示しないことは明らかである(任意の自動装置で盲目的に使用され得るある合理的に動作する輝度対ルマのマッピングの数学的仕様にすぎないHattoriとは対照的であり、その理由は、その唯一の目的が、HDRルック画像をただ単に、すなわち受信側で再構成可能であり、必ずしも芸術的に見栄えの良くはないSDR画像に符号化することであり、出願人が、一部の実施形態では(半)自動的にも動作するが、同一の符号化原理によって、ハリウッド映画の人間のカラーグレーダによる正確なカラーグレーディングのような、芸術的に正確な要望を有する市場にも応えるべきであるシステムを設計することを望んでいたためである)。より具体的には、HDRシーン画像の正確な暗部及び明部の部分領域の制御も教示されないとしても、放物線の中間区間の教示は明らかに存在せず、Hattoriはそのような実現に到達するために必要なHDR研究を行おうとしていない。
米国特許出願公開第2015/010059号もまた、SEI画像教示として伝達されるこの同一のニーポイント曲線(モデル3:いくつかのピボット点)を含み、S曲線の教示も含み、これは本出願の教示とは無関係の、他の可能なHDRからSDRへのマッピング曲線にすぎない。
Zicong Maiら、「Optimizing a Tone Curve for Backward−Compatible High Dynamic Range Image and Video Compression」、IEEE Transactions on image processing、vol.20、no.6、2011年6月も、再構成可能なHDR画像を実際にSDR画像として伝達する手法であるが、大きく異なる手法で、すなわち、入力画像の輝度ヒストグラムに基づいて決定される画像最適マッピング関数形状を計算することによって行うものである(大きい領域には少なすぎる符号を割り当てず、これはバンディングを導入する場合があり、図3を参照されたい)。
国際公開第2014/178286号もやはりニー型の符号化器(図3)であり、シーンホワイトよりも幾分明るいシーン輝度(N倍)をSDR符号に含めることを可能にする。次いでこれを使用して、たとえばNが8又は10である場合にSDRディスプレイよりもN倍明るいピーク明度を有するHDRディスプレイ上にHDR画像(最も明るい物体をきれいに明るくするもの)をレンダリングすることができる(図7)。
国際公開第2014/128586号もまた、HDRシーンのHDR画像を実際に、視聴者の宅内に既に多数配備されているレガシーSDRディスプレイ上に直接レンダリングするために使用可能なSDR画像として通信する様々な技術教示を含む。これは、画像別の高度にカスタマイズされた輝度マッピング曲線形状が有用な場合があることを教示するが(図8)、目下の粗い関数が、対応するグレーディングされたSDR技術と共に通信される実際のHDRにおける非常に有用な関数であるというようなことは何も教示しない。
従来技術はいずれも、本出願のエレガントかつ単純なHDR符号化システムの方向にすら示唆を与えておらず、本出願は批判的なカラーグレーダでさえ、全ての実用的な目的のために、高品質のSDR画像に効率的に到達することを可能にする。
ICがビデオ速度で動作させるのに十分に計算的に単純であるだけでなく、グレーダが任意の意図したディスプレイ上(少なくともHDRディスプレイ、及び他のもの、典型的にはレガシーLDRディスプレイ上であるが、HDR画像から開始する関数型再グレーディング色変換を指定するパラメータによって、少なくともHDRルックが符号化されるHDRディスプレイと、LDRルックが共に符号化されるLDRディスプレイとの間の様々なディスプレイ上で、符号化は良好に見えることが好ましく、両方の画像は典型的には[0,1]にスケーリングされた10ビットワードとして定義される)に表示するための任意の詳細なカラールックを指定するのに十分に汎用的で扱いやすくもある実用上有用な符号化システムを有するという上記の課題は、入力画像(Im_in)のピクセルの入力色(Y’UV_LDR)を出力画像(Im_res、REC_HDR)のピクセルの赤、緑及び青の色成分の出力色(R’o,G’o,B’o)に変換するように構成され、その入力画像が第1の輝度ダイナミックレンジ(DR_1)を有し、その出力画像が第2の輝度ダイナミックレンジ(DR_2)を有し、第1のダイナミックレンジのピーク輝度が第2のダイナミックレンジのピーク輝度より少なくとも2倍低いか又はその逆であり、傾き変数(InvBet)によって決定される最も暗い入力ルマ値を含む入力画像色のルマの範囲の暗いサブレンジ(SR_d)のための線形区間と、第2の傾き変数(InvAlph)によって制御される明るいサブレンジ(SR_br)における最も明るい入力ルマ値のための第2の線形区間と、2つの線形区間の間の放物線区間とを含む3区間明度再グレーディング曲線を適用するように構成される粗マッピングユニット(202、552)を備える画像色処理装置(200)を備える、HDRビデオ復号器(250)によって解決される。
作成側、たとえばパラメータを調整する人物は、HDRシーン又はその画像の特性と、第2に所望の場合に、画像が符号化される符号化の特性とに応じて必要な傾きを決定することができる。典型的には、符号化の出力画像(受信機及びそれを構成する復号器が受信する入力画像である)が100nitPBのRec.709のSDR符号化である場合、たとえば、グレーダ(又は測定された画像特性に基づく自動曲線決定アルゴリズム)は、たとえば、入力マスターHDR画像のPBに対する曲線形状を決定する(たとえば、5000nit対1000nitPB)。しかしながら、コンテンツに基づいて正確な形状を決定してもよい。たとえば、図4の単車のような非常に暗いコンテンツが存在する場合、グレーダはそれを、HDRディスプレイ(たとえば、2000nitPB)上のHDR画像レンダリングでは比較的深い輝度とするが、HDRシーンのLDR画像符号化では比較的高く明るくされたものとすることを望む(典型的なSDRディスプレイ上にレンダリングされた場合に視認可能である必要がある)。また、クリエータは、HEVCコーデックなどがLDR画像の符号化に使用するビット数のような、典型的なLDR画像符号化の詳細を既に考慮に入れている。復号器のいくつかの実施形態は、線形区間間の放物線領域を自律的に決定し、たとえば、入力ルマ範囲の常に固定の20%、又は2つの区間の傾きに応じたパーセンテージ(たとえば、傾きの差が大きい場合はより多い)、さらには、画像の現在のショットの特徴、たとえば、暗い範囲より上の中間の明度範囲に多くの細部が存在するか否か、若しくは滑らかな勾配が存在するか否かなどに基づく。
しかしながら、他の実施形態では、グレーダ、又は一般的にはクリエータは、放物線領域の幅を指定することができ、たとえば、2つの幅(どの点から放物線部分が線形部分に変化するか)W1及びW2を、復号器が規定可能なある定義された点、たとえば、線形部分が連続した場合に交差する場所から指定する。又は、これを単一の幅の値として伝達することができる。唯一の必要な条件は、復号器が逆3区間明度再グレーディング関数を適用して、受信されたLDR画像からHDRシーンの再構成されたHDRルック画像を得ることができることである。様々な実施形態では、図2に示された凹型上方屈曲関数のパラメータ(すなわち、InvBet、InvAlph)を送信することができ、又は同様に、ダウングレード曲線パラメータ(alph、bet)を送信することができる。一方の曲線を他方の曲線に容易に変換することができ、たとえば、LUTを所望の精度に設定し、次いで軸を交換することができ、したがって、当業者は、説明の簡単のために、実際の実現における両方の可能性について話していることを理解するであろう。一般に、所望に応じて2つのさらなるパラメータが存在し、たとえば、ホワイトオフセットWh_oであり、これは出力LDRルマ符号範囲上で最も明るいHDR符号が収まる場所を規定する(又は典型的には他の実施形態では、HDRの最も明るい入力輝度又はルマから垂直軸上に定義されてもよく、その場合、この値を超えるHDR色はLDR表現においてクリップされ、これは画像符号化の特定の用途次第で有用であるか又は望ましくないことがある)。同様に、ダークオフセットB_oが存在し、これはグレーダが他の原理に基づいて決定するものであり、その理由は、ディスプレイ上の暗色のレンダリングが明色のレンダリングと異なるためである。したがって、一般的なシステムにおいて、5つのパラメータalph、bet、W(=W1+W2であって、予め合意された手法で定義され、たとえば交点303の左右に50%である)、B_o及びWh_oを供給する符号化器の実施形態を有することは有用である。
単純な実施形態は3区間曲線で十分である。より高度な実施形態はさらなる色変換を適用する。たとえば、第1の事前色変換ユニット224は、3部分曲線の適用前に、たとえば人間の視聴者にとってより均一に画像の色を分散させる変換を適用する。事後色変換ユニット203は他の色変換関数を適用し、たとえば、グレーダは、3部分曲線から得られる明度ルックと比較して、ルマ範囲のある特定の部分を暗くすることができる。ドメイン色変換ユニット204は、たとえば、平方根又はRec.709ドメインのY’o結果を得る代わりに、さらなる色空間変換を行い、同様に、たとえば知覚的に線形化されたドメインで計算を行うことなどもできる。もちろん、入力及び出力カラードメインは、典型的には、3部分曲線の正確な形状と、それを特徴付ける上述の2つ、3つ又は5つのパラメータとに影響を及ぼし得る。最後に、必要な色変換を行って、たとえばRec.709の結果、すなわち、あるHDRルマ定義、たとえばPQさらには線形R’o、G’o、B’o色成分仕様を有するものを生成した後、カラーフォーマットユニット226はさらに、接続されたディスプレイを直接駆動するのに適した最終的なRGB色空間の色、たとえばRd、Gd、Bdを指定し、接続されたディスプレイは典型的には、標準的又はディスプレイ固有である、ある事前指定された光−電気伝達関数(OETF:Opto−electronic transfer function)などに典型的には従うあるHDR画像定義をその画像接続(ケーブル又は無線)において予期するHDRディスプレイである。カスタマイズ関数適用ユニット(203)は、この現在のHDRシーンのニーズ(具体的には、非常に小さいLDR輝度範囲で全ての物体明度のパズルをつなぎ合わせることの複雑さ)に基づいて非常に詳細な正確な関数を設計することを、(たとえば、十分な時間、計算資源などを使用して)それが実行できる場所において、すなわち典型的には作成側で行うことを可能にする(また、この関数の形状の情報は受信側装置に伝達される)。特に、人間のカラーグレーダは、非線形形状を微調整して、開始画像の主要な物体又は領域の輝度に対応する全ての適切な場所でそれを屈曲させることができる。したがって、たとえば小部分を生成画像において任意の輝度まで望むように明るくすることができる。特に、たとえば屋内シーンのほとんどが既に正しい輝度を有しているが、窓を通して見える空のある小部分が明るすぎる又は暗すぎる場合、カスタム曲線CCは、それらのピクセル色のみを色変換するように設計することができる。いくつかの特定の実施形態では、カスタム曲線は、その勾配が入力範囲のどこでも最小値を下回らないように設計することさえできる。将来の市場における様々な種類のHDR画像又はビデオ処理システム(たとえば、放送、LDRベースの既存の衛星チャンネル、対して、インターネット配信)と、様々な種類のコンテンツ(ハリウッドの非常に壮大なHDRの芸術的な画像、対して、発生したダイナミックレンジが発生する現場制作)とに適合できるように本システムを設計しており、したがって、カスタム曲線ユニットは、いかなる詳細な輝度(明度)の挙動でも、それを必要とする画像のどの部分に対しても、また、様々な実装形態において、これが実現される作成側の実装労力がどれほど多くても又は少なくても、実装することを可能にする。
以下の非網羅的な実施形態は非常に有用である。
画像色処理装置(200)が、3区間曲線を低ダイナミックレンジルマ(Y’_LDR)に適用するように構成される、請求項1に記載のHDRビデオ復号器(250)。これはある特定のドメイン、たとえば2つのグレーディングの1つのルマドメイン、たとえば典型的にはSDRルマにおいて動作するために有用である。
画像色処理装置(200)が、好ましくはNが2である指数1/Nのべき関数によって3区間曲線を入力色に適用した出力結果である色の輝度に関連する出力ルマ(Y’o)を、3区間曲線を適用した結果として生成するように構成される、HDRビデオ復号器(250)。
画像色処理装置(200)が、出力ルマ(Y’o)を乗算係数とする乗算を、現在処理中のピクセルの色の好ましい非線形の色表現(R’s、G’s、B’s)に適用する乗算器(225)を備えることによって、出力色を決定するように構成される、HDRビデオ復号器(250)。
画像色処理装置(200)が、平方根関数に近い形状であって、Nを整数値とする指数1/Nのべき関数であることが好ましい非線形関数によって線形R、G、B色成分から技術的に定義される非線形の色表現(R’s、G’s、B’s)を得るように構成される、HDRビデオ復号器(250)。
受信されたメタデータから第1及び第2の傾き変数を読み取るように構成され、それを粗マッピングユニット(202、552)に供給するように構成される読み取りユニット(277)を備える、HDRビデオ復号器(250)。
読み取りユニット(277)がさらに、受信されたメタデータから2つの線形区間の間の放物線領域の幅(W_par)を読み取るように構成され、それを粗マッピングユニット(202、552)に供給するように構成される、HDRビデオ復号器(250)。
連続した画像の復号器HDRビデオを生成するビデオ復号の方法であって、傾き変数(InvBet)によって決定される最も暗い入力ルマ値を含む入力画像色のルマの範囲の暗いサブレンジ(SR_d)のための線形区間と、第2の傾き変数(InvAlph)によって制御される明るいサブレンジ(SR_br)における最も明るい入力ルマ値のための第2の線形区間と、2つの線形区間の間の放物線区間とを含む3区間明度再グレーディング曲線を適用して、色変換中の入力色の好ましい非線形のRGB色表現(R’s、G’s、B’s)との乗算に供給される出力ルマ(Y’o)を生成するステップを有する、方法。
入力画像(Im_in)のピクセルの入力色を出力画像(IMED)のピクセルの出力色(Y’UV)に変換するように構成され、その入力画像が第2の輝度ダイナミックレンジ(DR_2)を有し、その出力画像が第1の輝度ダイナミックレンジ(DR_1)を有し、第1のダイナミックレンジのピーク輝度が第2のダイナミックレンジのピーク輝度より少なくとも2倍低いか又はその逆であり、傾き変数(InvBet)によって決定される最も暗い入力ルマ値を含む入力画像色のルマの範囲の暗いサブレンジ(SR_d)のための線形区間と、第2の傾き変数(InvAlph)によって制御される明るいサブレンジ(SR_br)における最も明るい入力ルマ値のための第2の線形区間と、2つの線形区間の間の放物線区間とを含む3区間明度再グレーディング曲線を適用するように構成される粗マッピングユニット(503)を備える画像色処理装置(200)を備える、HDRビデオ符号化器(501)。
画像色処理装置(200)が、3区間曲線を非線形ドメインの入力色の色表現に適用するように構成され、その色成分が、線形の赤、緑及び青の加法色成分に基づく非線形関数によって定義されることを特徴とする、HDRビデオ符号化器(501)。
画像色処理装置(200)が、3区間曲線を入力色の線形の赤、緑及び青の色表現に適用するように構成される、HDRビデオ符号化器(501)。
画像色処理装置(200)が、非線形関数によって出力色の輝度に関連する非線形ルマ(Y’o)を含む表現で出力色を決定するように構成される、HDRビデオ符号化器(501)。
画像色処理装置(200)が、標準ダイナミックレンジビデオ符号化によって定義される表現で出力色を決定するように構成され、出力ルマ(Y’o)色成分が、Rec.709光−電気伝達関数又は平方根によって定義されることを特徴とする、HDRビデオ符号化器(501)。
低ダイナミックレンジ画像に符号化されるHDR画像セットを生成する、HDRビデオ符号化の方法であって、入力画像(Im_in)のピクセルの入力色を出力画像(IMED)のピクセルの出力色(Y’UV)に変換するステップであって、その入力画像が第2の輝度ダイナミックレンジ(DR_2)を有し、その出力画像が第1の輝度ダイナミックレンジ(DR_1)を有し、第1のダイナミックレンジのピーク輝度が第2のダイナミックレンジのピーク輝度より少なくとも2倍低いか又はその逆であり、傾き変数(InvBet)によって決定される最も暗い入力ルマ値を含む入力画像色のルマの範囲の暗いサブレンジ(SR_d)のための線形区間と、第2の傾き変数(InvAlph)によって制御される明るいサブレンジ(SR_br)における最も明るい入力ルマ値のための第2の線形区間と、2つの線形区間の間の放物線区間とを含む3区間明度再グレーディング曲線を適用するステップを有する、変換するステップを有する、方法。
プロセッサによって実行された場合に、上記の方法の請求項のいずれか一項に定義された全てのステップを適用するコードと、あるピクセル化された色成分データ、及び3区間曲線を指定するメタデータ、すなわち、典型的には上記の少なくとも2つの、又は好ましくは5つのパラメータ(alph、bet、W、Wh_o、B_o)を受信することによって、(LDRとして)受信されたHDR画像を復号し再構成するように受信機を技術的に機能させる情報を、メモリ上であるか他の技術的手段上であるかに関わらず含む信号とを含む、コンピュータ可読メモリ。
本発明による方法及び装置の任意の変形形態のこれら及び他の態様は、以下に説明される実装形態及び実施形態を参照して、また、添付の図面を参照して明らかになり解明され、図面はより一般的な概念を例示する非限定的な特定の例示としての役割を果たすにすぎず、構成要素が任意選択であることを示すために破線が使用され、非破線の構成要素は必ずしも必須ではない。また、破線は、必須であると説明されている要素が物体の内部に隠れていることを示すために、又は物体/領域の選択、チャートでの値レベルの指示などの無形のもののために使用することもできる。
局所色処理を含むダイナミックレンジ変換を行うための、出願人によって以前に発明され特許取得された可能な色処理装置を概略的に示す図であり、この色処理は典型的には入力画像内の物体の輝度を変化させることを少なくとも含み、これは一部の概念を解明するが、本発明の好ましい実施形態は、非線形RGB色空間及び典型的にはその対応するルマY’において、必要な変更を加えて適用される。 受信されたLDR画像からHDR画像をパラメトリックに復号し生成することが可能なシステムのためのダイナミックレンジ変換を行うように構成されるシステムの一例を概略的に示す図であり、すなわち、HDRシーンのHDRルックも、受信されたLDRルック画像からHDRルック画像を導出するための色変換関数を特徴付けるメタデータを介して受信されるが、LDR画像ピクセル色のみが実際に受信側に送信され受信される。 HDR画像ピクセル色データからLDRを符号化するための1つの典型的な3区間の粗い最初のルママッピングの符号化側関数形状を示す図であり、入力は、たとえばHDR線形輝度ドメインにあり、出力(垂直軸)は、たとえば典型的にはLDR平方根LDRルマドメインにある。 より低いダイナミックレンジのディスプレイにおいて、レガシー100nitピーク明度(PB)SDRディスプレイの設置基盤でさえ視認可能である必要があるHDRコンテンツに関する典型的な技術的及び芸術的問題をいくつかの例によって明らかにする図である。 出願人の装置及び方法の実施形態が有利に使用される例示的なビデオ符号化システムを概略的にもう少し明らかにする図である。
図1は、(少なくとも)2つのグレーディングされた画像(HDR、たとえば5000nitPB、及びPB=100nitの標準SDR LDR)を符号化して、大幅に異なるダイナミックレンジ(PB)のディスプレイ上にレンダリングするためのシステムの1つの可能な色変換と、特にその色変換コアユニットとを示す。当業者であれば、人間のグレーダが計算を実行して、どのようなルックを実際に作成しているかを較正済みディスプレイ上で確認しつつ、同時に符号化関数ツールキットにおけるグレーディング関数の自身の嗜好に応じた最適パラメータ値を指定するコンテンツ作成側と、たとえば、セットトップボックス、BDプレーヤー、コンピュータ、ディスプレイ自体、又は映画館の業務用システムなどのビデオ受信及び色処理デバイスに装置が含まれる受信側との両方にこのシステムが存在できることを理解する。
2つのグレーディング(HDR及びLDR、これらは次いで、PB=800nitなどの任意の中間ダイナミックレンジMDRディスプレイのためにさらなる計算によってさらに最適化することができる)を指定するデータを既に有する受信側を説明する。
したがって、我々の新規な符号化原理によれば、受信装置は、たとえば、ブルーレイディスク上で、若しくはビデオサーバへのインターネット接続を介して、又は他の装置からHDMI(登録商標)ケーブルを介するなどによって受信される、実際に符号化された1つの画像Im_in_HDRしか実際には有さない(たとえば、古典的には10ビットのHEVC符号化だが、正規化された[0,1]画像に当然ながら復号可能である)。次いで、これはLDRグレーディングへと計算される必要があり、たとえばその理由は、LDRディスプレイが接続され、正しくグレーディングされたLDR画像を必要とするためである(たとえば、視聴者はリビングルームのHDRディスプレイの視聴をやめると判断するが、ベッドでポータブルパッドPCで視聴し続ける)。
色変換を行うことができるためには、色変換装置は、関数を指定するパラメータ(CF)も必要とする。当業者であれば、たとえば放物線は、始点及び終点、直線の開始の傾き及び曲率などによって指定できることを理解する。
典型的には、HDRからLDRへのマッピングの飽和制御だけでなく、少なくとも出力物体の輝度に影響するマッピングも含まれる(ただし、数学的には線形RGB色成分を乗法的にスケーリングすることによって、その輝度マッピングを典型的には適用する)。
図2は、その輝度再グレーディングをどのように好ましく行うことができるかをより詳細に示す。
SDR画像、すなわち、符号化されたY’UV(又はY’CbCr)が入力されると仮定する。それらを行列演算して、入力画像ピクセルのスケーリングされたRGB成分R’sG’sB’sにすることができる。これらは、たとえば、平方根ルマドメインにあると仮定する(すなわち、対応する線形色成分は二乗によって出現する)。対応するY’_LDRルマは、Y’UV表現から簡単に分離される。これらのR’sG’sB’sの値が、実際には最終的に得られるHDR色成分(R’o、G’o、B’o)のあるスケーリングされたバージョンであることを図4Bに見ることができ、図4Bでは、LDR及びHDR両方のグレーディングの1つの色を、同一の最大ルマ=1.0に正規化されたRGB色域(たとえば、Rec.2020プライマリなど)において示す。単車が、HDR画像で駆動されたときにHDRディスプレイ上で有するのと同一の絶対輝度(5nit)で、LDR画像で駆動されたときにLDRディスプレイ上にレンダリングされなければならない場合、これはその(相対的な、1に正規化された、すなわち、10ビット符号の場合は1023に正規化された)LDRルマがより高い必要があることを意味する。すなわち、色成分R’o、G’o、B’o及びR’s、G’s、B’sの間の色変換又はその逆も、対応するそれぞれの輝度又はルマY’_HDR及びY’_LDRのスケーリングに対応し、これは乗算器225によって実現されるものである。いくつかの実施形態では、R’s、G’s、B’sは、入力Y’UV色表現から直接計算されるが、他の実施形態では、色変換器223によって適用される、異なるR’s、G’s、B’s値に達するために含まれるさらなる色変換が存在する(図面の全ての破線部分は、市場のより単純な実施形態ではなく、いくつかの他の実施形態については任意選択であることに留意されたい)。これはさらなる明度及び/又は色彩の微調整、たとえば、何らかのルック調整などを適用する。
次いで、読み取りユニット(277)は、粗マッピングユニット202が、HDR/LDRルック画像ペアを共に符号化するために使用された適切な関数、すなわち、受信されたLDR画像からHDR画像を再構成する手法を適用することを可能にするデータを供給し、たとえば、パラメータを渡すか、又は関数をLUTとして供給する。次いで、(少なくとも)3区間曲線マッピングを適用することによって得られた正確にスケーリングされたルマY’oは、3つのスケーリングされた色成分のそれぞれに乗算する入力乗数として使用されて正しい出力色が生成され、これはカラーフォーマットユニット226によって他の色表現にさらに変換される。
粗マッピングユニット(202)の良好な実施形態は、たとえば図3のような関数を適用する。放物線区間の位置は、開始及び終了ルマ値を符号化することによって決定されるが、放物線は図3のようにその幅として符号化することもできる。入力は、この例では非限定的に、線形RGB表現の輝度、すなわちu_HDR_inであり、出力TU_LDR_outは、所望であれば特定用途のシステムにおいて後で、ユニット203のカスタム形状曲線によって微調整するか、或いは乗算器に送信して、処理中のこのピクセルの正しいHDR色を取得することができるものである。
この実施形態では、基本的な「放物線」トーンマッピング曲線は3つの区間:
− 傾きbet又はbg(ベースゲイン)のパラメータによって制御される(0,0)を通る暗区間と、
− 傾きalph又はdg(差動ゲイン)を有する(u_max,TU_max)を通る明区間と、
− 幅xp(x幅の放物線)を有するその2つをつなぐ放物線区間と
からなる。
放物線がなければ、2つの線形区間は点
um=(TU_max−dg*u_max)/(bg−dg)、
TUm=bg*um=TU_max−(u_max−um)*dg
においてつながる。
これ(um,TUm)を中心とする放物線を追加することで、連続的に微分可能な曲線を作成し、これは傾き=bgで始まり、傾き=dgで終わらなければならない。数学的計算から、(3のうちの)1自由度、すなわち、放物線の幅xpのみが残されることを得る。
幅に応じて、u=umでのy値は、
up=0でのTU=TUmから、
TU=TUm−delta_TU=TU−up*(bg−dg)/8まで低下する。
この関係を反転して、delta_TUからupを計算することができる:
up=8*delta_TU/(bg−dg)
したがって、典型的には、up=0から開始し、次いで屈曲曲線と、基準輝度マッピング曲線(散布図)との間の最大距離delta_TUを調べ、これからupを計算することができる。
したがって、この実施形態では、放物線区間の幅(典型的には、0.0〜1.0の間)は、ベースゲインの傾き(たとえば、典型的な値は、明るい画像の場合の0.5と、暗い画像の場合の1.0との間である)と、最も明るい入力範囲の傾き(典型的には0.0〜0.25の間)とに加えて任意の受信側装置に伝達される、この関数形状を指定する第3のパラメータとなる。
図4では、将来のHDRシステム(たとえば、1000nitPBディスプレイに接続されるもの)が正しく処理できる必要がある、すなわち、いかなるディスプレイが接続されるか又は接続が想定されるかに関わらず、画像内の、最終的にレンダリングされる画像内の全ての物体/ピクセルについて適切な輝度を作成できる必要がある多数の可能なHDRシーンの2つの例のみを示している。たとえば、ImSCN1はテキサス州で上映しているカウボーイ映画の晴れた屋外の画像であり、ImSCN2は夜間の画像である。HDR画像レンダリングを、ごく最近終了した(又は実際には今後数年で市場で始まる予定である)LDR時代におけるそのいつもの態様と異ならせるものは、LDRがそのような限られたダイナミックレンジしか有していなかったこと(およそPB=100nit、及び黒レベル±1nit、又は画面反射によるより明るい視聴環境ではさらに高くなる)、主に物体の反射率しか表示できなかったこと(これは良好な白の90%と良好な黒の1%との間に収まる)である。したがって、物体をその照明とは無関係に表示しなければならず、起こり得るシーンの大変良好で時折非常にコントラストの高い照明の全てを同時に忠実に表示することはできなかった。実際には、それは、非常に明るい晴れたシーンは、どんよりした雨の日のシーンと同一の表示輝度(0〜100nit)でレンダリングされなければならなかったことを意味していた。また、夜間のシーンでさえもあまりに暗くレンダリングすることはできず、又は、視聴者は画像の最も暗い部分をうまく識別することもできないので、やはりそれらの夜間の明度も0〜100nitの範囲にわたってレンダリングされる。したがって、従来は夜のシーンを青く色付けして、視聴者が昼間のシーンを見ているのではないと理解できるようにしなければならなかった。さて、もちろん実生活では、人間の視覚も利用可能な光量に適応するが、それほどではない(ほとんどの人は実生活で暗くなってきたことを認識する)。したがって、少なくとも利用可能なHDRディスプレイを有する場合に、芸術的に内部にデザイン可能な全ての壮大な局所照明効果を使用して画像をレンダリングすることを望む。
しかしながら、それは、一部の人々にとってはまだ、素晴らしい新たなHDR映画をその制限されたLDRディスプレイ(その範囲は、正確な縮尺ではないが図4の右側に示されている)にダウングレードする必要があるという事実を変えない。
したがって、左側で、5000nitPBの(すなわち、5000nitPBディスプレイでのレンダリングに最適化された)マスターHDRグレーディングにおいて見たい物体輝度を確認する。ただの錯覚ではなく、カウボーイが明るい太陽に照らされた環境にいる本当の感覚を伝えたい場合、その輝度を、たとえば500nit付近に指定しレンダリングする必要がある。これらの例のみから、より小さいLDR輝度範囲で全ての物体のパズルをつなぎ合わせることが、理想的には単純な圧縮(たとえば、線形関数によってHDRのPBをLDRのPBにマッピングし、それによってより低い輝度全てもマッピングする)の問題ではないという感覚を既に得ることができる。反対に、異なる輝度マッピング−挙動クラスの2つの例を与える。日中のシーンでは、受信されたLDR画像からHDR画像を計算したい場合、具体的には、18nitのLDR中間グレー付近にレンダリングされるカウボーイがHDRで500nitにマッピングされるように(すなわち、約30倍の明度増加)、全ての輝度を引き伸ばす伸張関数を実際に適用することができる。しかしながら、夜のシーンではそうすることを望まず、又はHDRモニタでは途方もなく明るくなる(実際に細部に飛び込むと、一部の画像の詳細によって、明るすぎる場合であっても、脳は夜のシーンを見ているとまだ想像し得るが、今や可能となった、壮大で高品質のHDRレンダリングを本当に望む場合、それは理想とは程遠くレンダリングされる)。このImSCN2では、夜の全ての暗い物体の輝度が2つのディスプレイ(及び中間PBの全てのディスプレイ)で同一になることを望む。むしろ、HDR画像で非常に明るい輝度に明るくされるのは照明用ポールの光であり、月かもしれない。したがって、輝度マッピング関数の形状は大きく異なる。それら2つの典型的な画像の態様を共に、たとえば、洞窟の中で撮影され、小さい穴を通して晴れた屋外を見る、1つの画像内に有する場合、複雑な輝度マッピング曲線を実際に設計して、自身の芸術的欲求に応じたLDR及びHDR両方の物体輝度を得たいと思う場合がある。そのような状況がLDR時代に典型的にはどのように起こったのかは、洞窟の外の全てを白にクリップしただけである。又は、LDR時代には、カメラが相対的な輝度としてその意味とは無関係に撮影したもの、及びいかなるディスプレイ上でもそれらを最終的にレンダリングするためにそれが暗示するものをただ考えていたので、画像の一部が暗くなりすぎることが多かった。たとえば、廊下を歩き太陽が差し込むのを見た場合、これらの太陽があたった場所は非常に明るく見える。廊下の他の部分は比較的暗いが、これはそこを歩く人にはそれらが通常より暗く見えることを意味しない(実際には追加の照明のために、影の部分でさえ、太陽が雲の後ろに移動した場合よりもいくらか明るく見える)。しかしながら、これらの日当たりの良い色を白付近に置くLDRレンダリングは、廊下の影部分を過度に暗くレンダリングするしかできず、その理由は、そうでなければ、限られた範囲で可能な唯一のことは、影を妥当な輝度でレンダリングするが、太陽の中の全てが、最大ルマ符号、たとえば255を超えてクリップされ、100nitでレンダリングされるためである。
したがって、そのようなシーンの最適なLDRレンダリングは複雑な設計の問題であるが、少なくとも現在はHDRディスプレイによって、日当たりの良い部分をリアルに、すなわち特定の輝度を超えてレンダリングすることができる。たとえば、視聴環境がおよそ200nitに対応する場合、画像の影部分を200nit付近にレンダリングすることができる。また、日光のあたる部分を、ディスプレイのPBに応じて、たとえば2000nitにレンダリングすることができる。それは必ずしも常に、影の輝度を上回る実生活と全く同一の相対量ではないとしても、少なくとも、暗すぎる廊下又はクリップよりもはるかにリアルに見える。
しかしながら、読者であれば、この複雑さの全て、具体的には遭遇し得る多数の種類の画像、及び少なくともいくつかのより高品質のHDR範囲(たとえばPB=10,000nit)とSDR100nit範囲との大きな差が、種々のピクセル色、及び特にその輝度の正確な指定を可能にするシステムを要求する理由を理解する。また、出願人は特に、コンテンツクリエータが、どのように任意の他のダイナミックレンジ画像が受信された画像から計算されるかに対して、少なくともそう望む者にとって、そうしたい程度まで、最小限指定する必要がある程度まで、影響を与えられるようにすべきであるという哲学を有していた。
図5は、HDR画像の通信及び消費のためのある典型的な完全なシステム又はチェーンにおける我々の基本的な輝度変更装置(又は方法)の可能な組み込みを示す。当業者は、どのようにしてグレーダなどがUIコンポーネントを使用して、任意の関数の形状、たとえばそれらを特徴付けるパラメータを、自身のニーズ又は要望に応じて変更することができるかを理解するであろう。モードiiの例(コンテンツクリエータが自身のRAWキャプチャから作成したマスターHDR画像MAST_HDRからダウングレードされたLDR画像が実際に通信され、次いで受信側で必要な場合にMAST_HDR画像の近似に再構成される)を説明するが、システム及び我々の装置の実施形態は、MAST_HDR画像が実際に通信され、SDRディスプレイに供給するためにLDR画像が必要な場合に、装置が受信機において輝度ダウングレードを適用するモードi動作においても使用することができることを強調したい。これらの受信されたLDR又はHDR画像のそれぞれは、1499nitPBなどの異なるダイナミックレンジの画像に変換することもできる。また、装置の実施形態を作成側の装置、たとえば符号化器に組み込んで、たとえば、カラーグレーダが、受信側で何が起こるか、及び所与の関数によってMAST_HDRから計算されたLDR画像がどのように見えるかを確認できるようにすることもでき、装置及び方法は、たとえば、ローカルコンテンツ配信業者の視聴ブースなど、任意の中間位置のトランスコーダで使用することもできる。
この例示的な方式のビデオ符号化器501は、入力509を介して入力画像IM_INを取得し、これは説明を簡単にするために既に芸術的に作成されたマスターHDRグレーディングであると仮定するが、あるRAW画像フィードからのHDR画像でもよく、これはリアルタイムの障害がほとんどなく、おそらく撮影中に数回ノブをダイヤルするだけで、最小限に色処理される必要がある。
色彩処理ユニットによってピクセル色に対して計算される色彩処理が含まれてもよく、たとえば、彩度を低下させる彩度変化であって、LDR変換において、たとえばステンドグラスの窓のより明るい色を、白付近のLDR色域の狭い頂部に押し込むことによって追加で明るくできるようにするものがあるが、その詳細については説明しない。次いで、輝度マッピングユニット503は、我々の装置の実施形態のいずれかが図2に示されるように行う様々なことを行い、現在の画像セットについて決定され、たとえば、ユーザインタフェースインタラクションによって、又は以前に決定された関数を符号化したメタデータからロードされる、輝度均一化、そして3部分曲線、及び適用可能な場合には、ある最適形状の関数CCなどを行う。いくつかの実施形態は、画像分析ユニット566に画像の特性、たとえば、ピクセル輝度の大部分の場所、ハイライトパッチのサイズ及び散乱などを分析させることによって、3部分曲線の形状を決定する。関数入力手段508は、たとえば、典型的なカラーグレーディングツール、若しくは少なくとも1つの関数を記憶するデータベースへの接続、又は遠隔の人間のグレーダへの接続などと、読者が理解することができる。そして、この中間画像IMEDは、現在この例では、0〜100nitのLDR範囲に分布したピクセル輝度と、それらに対応するRec.709ルマ(すなわち、図示のY’oUV)とを有するLDR画像であり、画像又はビデオ符号化ユニット505によって典型的なレガシーLDR符号化技術、たとえばHEVCで符号化される。この理由は、実際にはHDRシーンのHDR画像を符号化したものであるにもかかわらず、少なくとも後続の技術、たとえば、通過する画像配信パイプラインなどにとって、通常のLDR画像のように「見える」ためである。これを任意の受信機に、マスターHDR画像からLDR画像を生成するために使用された色変換関数(又はその逆関数)も送信することによって伝え、これは、通常のLDR画像の代わりにHDR画像を実際に受信したことを受信機に伝えるだけでなく、受信機が、受信された逆関数を受信されたLDR画像に適用することによって、MAST_HDR画像の近似を再構成することを可能にする。したがって、符号化された画像又はビデオLDR_oencは、実際には、システムの残りの部分に対しては通常のLDRビデオとして機能し、ある通信手段510を通って移動し、これはたとえば、空中放送、インターネット接続、又はいかなる消費者若しくは専門家(たとえば、映画)の場所にも輸送される物理メモリなどである。
受信端では、この符号化された出力画像(LDR_oenc)は、入力画像又はビデオLDR_iencとなる(これはさらなる変換をさらに受けている場合があるが、説明のために、ループスルーされた同一の画像であると仮定する)。LDR_oencでモードiのHDR通信システムを使用する場合、モードiiとは異なる形状の関数を使用して、画像に異なる物体明度及び統計を与えるが、共にHEVC符号化などが行われることにすぐに気付くべきである。
ビデオ復号器550は、その入力556を介して、画像と、関数を符号化したメタデータMET(F)、具体的には、たとえばカラーグレーダ又はライフプロダクションの技術ディレクターなどのある他の人物によって作成側で選択された最適なカスタム曲線との両方を取得する。画像又はビデオ復号ユニット(555)はHEVCビデオを復号し、次いでこれは、我々の装置又は方法の実施形態のいずれかを具現化する輝度マッパー552によって色処理される(すなわち、少なくとも近似的にHDR画像を再構成するための適切な逆3部分関数を適用する)。最後に、正しくグレーディングされたREC_HDR、たとえば5000nitPB画像は、ディスプレイ580、たとえば理想的には5000nitディスプレイに送ることができる(HDRコンテンツとディスプレイとの間でPBが一致しない場合、たとえばSTBに具現化されたこのビデオ復号器は、必要とされるたとえば2500nitディスプレイPBまで適切な色変換によって画像を既に表示調整しており、又は、ディスプレイがそれを内部的に、我々が教示した装置/方法の独自のバージョン有することによって行う)。もちろん、レガシーSDR100nitディスプレイに適切にグレーディングされたコンテンツが供給される場合、ビデオ復号器550はLDR画像LDR_rndをそれに供給し、これはこの例では単に、さらなる色変換の必要がない復号器で受信されたLDR画像であるが、LDR HEVCコンテナ内でHDR画像を受信した場合、ビデオ復号器550は、我々の装置/方法の実施形態のいずれかに従って適切なダウングレードをさらに行う。
本文書で開示されたアルゴリズムの構成要素は、実際にはハードウェア(たとえば、特定用途向けICの部分)として、又は専用のデジタル信号プロセッサ若しくは汎用プロセッサ上で動作するソフトウェアとして(完全に又は部分的に)実現される。それらは、少なくとも何らかのユーザ入力(たとえば、工場で、若しくは消費者の入力、又は他の人間の入力)が存在する/しているという意味で半自動である。
どの構成要素が任意選択の改良であり、他の構成要素と組み合わせて実現され得るか、また、どのように方法の(任意選択の)ステップが装置のそれぞれの手段に対応するか、及びその逆は、本提案から当業者には理解できるはずである。いくつかの構成要素が本発明において特定の関係で(たとえば、ある構成の1つの図に)開示されているという事実は、本明細書で特許取得のために開示された同一の発明思想の下での実施形態として他の構成が可能でないことを意味するものではない。また、実際的な理由で、限られた範囲の例しか記載されていないという事実は、他の変形形態が特許請求の範囲に入ることができないことを意味するものではない。実際には、本発明の構成要素は、任意の使用チェーンに沿った異なる変形形態で具現化することができ、たとえば、符号化器のような作成側の全ての変形形態は、復号器などの分解されたシステムの消費側の対応する装置に類似又は対応し、逆も同様である。実施形態のいくつかの構成要素は、符号化器及び復号器の間の任意の伝送技術において、伝送されるか又は協調などにさらに使用される信号内に、特定の信号データとして符号化される。本出願における「装置」という単語は、最も広い意味で使用され、すなわち、特定の目的の実現を可能にする手段のグループであり、したがって、たとえば、IC(の小部分)、専用機器(たとえば、ディスプレイを有する機器)、又はネットワーク接続されたシステムの一部などとすることができる。「構成」又は「システム」も、最も広い意味でも使用されることが意図されているので、とりわけ、単一の物理的な購入可能な装置、装置の一部、協働する装置(の一部)の集合体などを含む。
コンピュータプログラム製品の表記は、汎用又は専用プロセッサが、一連のローディングステップ(これは中間変換ステップ、たとえば、中間言語及び最終的なプロセッサ言語への変換を含む)の後に、コマンドをプロセッサに入力して発明の特徴的な機能のいずれかを実行することを可能にする、コマンドの集合の任意の物理的実現を包含するものと理解されるべきである。具体的には、コンピュータプログラム製品は、たとえばディスク又はテープなどのキャリア上のデータ、メモリに存在するデータ、有線又は無線のネットワーク接続を介して移動するデータ、又は紙面上のプログラムコードとして実現される。プログラムコードとは別に、プログラムに必要な特徴データもコンピュータプログラム製品として具現化される。そのようなデータは任意の手法で(部分的に)供給される。
本発明、又はビデオデータのような本実施形態の任意の哲学に従って使用可能な任意のデータも、データキャリア上の信号として具現化され、これはリムーバブルメモリ、たとえば、光ディスク、フラッシュメモリ、リムーバブルハードディスク、無線手段を介して書き込み可能なポータブルデバイスなどである。
任意の提示された方法の動作に必要なステップのいくつかは、データ入力及び出力ステップ、よく知られている典型的には組み込みの処理ステップ、たとえば標準的なディスプレイ駆動など、コンピュータプログラム製品又は(本発明の実施形態の詳細と共に)本明細書に記載された任意のユニット、装置又は方法に記載される代わりに、プロセッサ又は本発明の任意の装置の実施形態の機能内に既に存在する。結果として得られる製品及び類似の成果物、たとえば、方法の任意のステップ又は装置の任意のサブパートに含まれる特定の新規な信号、並びにそのような信号の任意の新たな用途、又は任意の関連する方法に対する保護も所望する。
上記の実施形態が本発明を限定するのではなく例示するものであることに留意されたい。当業者が提示された例を特許請求の範囲の他の領域にマッピングすることを容易に実現できる場合、簡潔にするために、これらの選択肢の全てを詳細に述べているわけではない。特許請求の範囲で組み合わせられた本発明の要素の組み合わせとは別に、要素の他の組み合わせも可能である。要素の任意の組み合わせを、単一の専用要素内で実現することができる。
請求項内の括弧内のいかなる参照符号も、その請求項を限定するものではなく、図面中の任意の特定のシンボルでもない。「備える」という単語は、請求項に記載されていない要素又は態様の存在を排除するものではない。要素に先行する単語「a」又は「an」は、複数のそのような要素の存在を排除するものではない。

Claims (15)

  1. 第1の輝度ダイナミックレンジを有する入力画像のピクセルの入力色を、第2の輝度ダイナミックレンジを有する出力画像のピクセルの赤、緑及び青の色成分の出力色に変換する画像色処理装置を備える、HDRビデオ復号器であって、
    前記第1のダイナミックレンジのピーク輝度が前記第2のダイナミックレンジのピーク輝度より少なくとも2倍低いか又はその逆であり、
    前記画像色処理装置は、傾き変数によって決定される最も暗い入力ルマ値を含む入力画像色のルマの範囲の暗いサブレンジのための線形区間と、第2の傾き変数によって制御される明るいサブレンジにおける最も明るい入力ルマ値のための第2の線形区間と、これら2つの線形区間の間の放物線区間とを含む3区間明度再グレーディング曲線を適用する粗マッピングユニットを備える、HDRビデオ復号器。
  2. 前記画像色処理装置が、前記3区間明度再グレーディング曲線を低ダイナミックレンジルマに適用する、請求項1に記載のHDRビデオ復号器。
  3. 前記画像色処理装置が、Nが2の場合を含む指数1/Nのべき関数によって前記3区間明度再グレーディング曲線を前記入力色に適用した出力結果である色の輝度に関連する出力ルマを、前記3区間明度再グレーディング曲線を適用した結果として生成する、請求項1又は2に記載のHDRビデオ復号器。
  4. 前記画像色処理装置が、出力ルマを乗算係数とする乗算を、現在処理中のピクセルの色の好ましい非線形の色表現に適用する乗算器を備えることによって、前記出力色を決定する、請求項1乃至3の何れか一項に記載のHDRビデオ復号器。
  5. 前記画像色処理装置が、平方根関数に近い形状であって、Nを整数値とする指数1/Nのべき関数である非線形関数によって線形R、G、B色成分から技術的に定義される非線形の色表現を得る、請求項1乃至4の何れか一項に記載のHDRビデオ復号器。
  6. 受信されたメタデータから前記第1及び第2の傾き変数を読み取り、それを前記粗マッピングユニットに供給する読み取りユニットを備える、請求項1乃至5の何れか一項に記載のHDRビデオ復号器。
  7. 前記読み取りユニットがさらに、受信されたメタデータから前記2つの線形区間の間の放物線領域の幅を読み取り、それを前記粗マッピングユニットに供給する、請求項6に記載のHDRビデオ復号器。
  8. 連続した画像の復号器HDRビデオを生成するビデオ復号の方法であって、傾き変数によって決定される最も暗い入力ルマ値を含む入力画像色のルマの範囲の暗いサブレンジのための線形区間と、第2の傾き変数によって制御される明るいサブレンジにおける最も明るい入力ルマ値のための第2の線形区間と、これら2つの線形区間の間の放物線区間とを含む3区間明度再グレーディング曲線を適用して、色変換される入力色の好ましい非線形のRGB色表現との乗算に供給される出力ルマを生成するステップを有する、方法。
  9. 第2の輝度ダイナミックレンジを有する入力画像のピクセルの入力色を、第1の輝度ダイナミックレンジを有する出力画像のピクセルの出力色に変換する画像色処理装置を備える、HDRビデオ符号化器であって、
    前記第1のダイナミックレンジのピーク輝度が前記第2のダイナミックレンジのピーク輝度より少なくとも2倍低いか又はその逆であり、
    前記画像色処理装置は、傾き変数によって決定される最も暗い入力ルマ値を含む入力画像色のルマの範囲の暗いサブレンジのための線形区間と、第2の傾き変数によって制御される明るいサブレンジにおける最も明るい入力ルマ値のための第2の線形区間と、これら2つの線形区間の間の放物線区間とを含む3区間明度再グレーディング曲線を適用する粗マッピングユニットを備える、HDRビデオ符号化器。
  10. 前記画像色処理装置が、前記3区間明度再グレーディング曲線を非線形ドメインの前記入力色の色表現に適用する請求項9に記載のHDRビデオ符号化器において、
    その色成分が、線形の赤、緑及び青の加法色成分に基づく非線形関数によって定義されることを特徴とする、HDRビデオ符号化器。
  11. 前記画像色処理装置が、前記3区間明度再グレーディング曲線を前記入力色の線形の赤、緑及び青の色表現に適用する、請求項9に記載のHDRビデオ符号化器。
  12. 前記画像色処理装置が、非線形関数によって出力色の輝度に関連する非線形ルマを含む表現で前記出力色を決定する、請求項9乃至11の何れか一項に記載のHDRビデオ符号化器。
  13. 前記画像色処理装置が、標準ダイナミックレンジビデオ符号化によって定義される表現で前記出力色を決定する請求項9乃至12の何れか一項に記載のHDRビデオ符号化器であって、
    出力ルマ色成分が、Rec.709光−電気伝達関数又は平方根によって定義されることを特徴とする、HDRビデオ符号化器。
  14. 低ダイナミックレンジ画像に符号化されるHDR画像セットを生成する、HDRビデオ符号化の方法であって、
    第2の輝度ダイナミックレンジを有する入力画像のピクセルの入力色を、第1の輝度ダイナミックレンジを有する出力画像のピクセルの出力色に変換するステップであって、第1のダイナミックレンジのピーク輝度が第2のダイナミックレンジのピーク輝度より少なくとも2倍低いか又はその逆であるステップを有し、
    前記変換するステップは、傾き変数によって決定される最も暗い入力ルマ値を含む入力画像色のルマの範囲の暗いサブレンジのための線形区間と、第2の傾き変数によって制御される明るいサブレンジにおける最も明るい入力ルマ値のための第2の線形区間と、これら2つの線形区間の間の放物線区間とを含む3区間明度再グレーディング曲線を適用するステップを有する、方法。
  15. プロセッサによって実行された場合に、請求項8又は14に記載の方法の全てのステップを実行するコードを含む、コンピュータ可読メモリ。
JP2018531233A 2015-12-17 2016-12-12 画像及びビデオのためのダイナミックレンジ符号化 Active JP6495552B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP15200630.0 2015-12-17
EP15200630 2015-12-17
PCT/EP2016/080538 WO2017102606A1 (en) 2015-12-17 2016-12-12 Dynamic range coding for images and video

Publications (2)

Publication Number Publication Date
JP2019504548A true JP2019504548A (ja) 2019-02-14
JP6495552B2 JP6495552B2 (ja) 2019-04-03

Family

ID=55024822

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018531233A Active JP6495552B2 (ja) 2015-12-17 2016-12-12 画像及びビデオのためのダイナミックレンジ符号化

Country Status (12)

Country Link
US (1) US10152777B2 (ja)
EP (1) EP3235236B1 (ja)
JP (1) JP6495552B2 (ja)
CN (1) CN107211079B (ja)
BR (1) BR112017016037A2 (ja)
ES (1) ES2684432T3 (ja)
HU (1) HUE040383T2 (ja)
MX (1) MX364488B (ja)
PL (1) PL3235236T3 (ja)
RU (1) RU2720446C2 (ja)
WO (1) WO2017102606A1 (ja)
ZA (1) ZA201704982B (ja)

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102330316B1 (ko) 2014-02-25 2021-11-24 애플 인크. 비디오 인코딩 및 디코딩을 위한 적응형 전달 함수
EP3244616A1 (en) * 2016-05-13 2017-11-15 Thomson Licensing A method for encoding an input video comprising a luma component and two chroma components, the method comprising reshaping of said input video based on reshaping functions
US10720091B2 (en) * 2017-02-16 2020-07-21 Microsoft Technology Licensing, Llc Content mastering with an energy-preserving bloom operator during playback of high dynamic range video
US10148907B1 (en) * 2017-10-27 2018-12-04 Avago Technologies International Sales Pte. Limited System and method of luminance processing in high dynamic range and standard dynamic range conversion
US10856040B2 (en) * 2017-10-31 2020-12-01 Avago Technologies International Sales Pte. Limited Video rendering system
CN111434114B (zh) * 2017-12-01 2024-06-11 交互数字Vc控股公司 处理图像
EP3496028A1 (en) * 2017-12-08 2019-06-12 Koninklijke Philips N.V. Improved high dynamic range video color remapping
CN109982007B (zh) * 2017-12-27 2021-11-19 联发科技股份有限公司 应用在机顶盒的格式转换电路及相关的方法
JP7246855B2 (ja) * 2018-02-16 2023-03-28 キヤノン株式会社 撮像装置、記録装置及び表示制御装置
EP3761637B1 (en) * 2018-03-02 2023-06-28 Sony Group Corporation Video-signal-processing device, video-signal-processing method, and imaging device
US10445865B1 (en) * 2018-03-27 2019-10-15 Tfi Digital Media Limited Method and apparatus for converting low dynamic range video to high dynamic range video
CN108492772B (zh) * 2018-03-30 2019-10-25 京东方科技集团股份有限公司 一种Gamma调节方法及Gamma调节系统
CN108900823B (zh) 2018-07-05 2019-07-12 华为技术有限公司 一种视频信号处理的方法及装置
CN108882028B (zh) 2018-07-05 2019-06-14 华为技术有限公司 视频信号的处理方法及装置
US20200192548A1 (en) * 2018-12-13 2020-06-18 Ati Technologies Ulc Methods and apparatus for displaying a cursor on a high dynamic range display device
EP3764346A1 (en) * 2019-07-09 2021-01-13 Koninklijke Philips N.V. Adjustment of display optimization behaviour for hdr images
CN112686809A (zh) * 2019-10-18 2021-04-20 华为技术有限公司 处理高动态范围图像的方法和装置
EP3873096A1 (en) * 2020-02-25 2021-09-01 Koninklijke Philips N.V. Improved hdr color processing for saturated colors
US11330196B2 (en) * 2020-10-12 2022-05-10 Microsoft Technology Licensing, Llc Estimating illumination in an environment based on an image of a reference object
CN114842807B (zh) * 2021-02-01 2023-11-17 广州视睿电子科技有限公司 亮度调节方法、系统、设备和存储介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000050081A (ja) * 1998-07-06 2000-02-18 Eastman Kodak Co エッジのコントラスト利得制御による自動ト―ン調節方法
JP2008263475A (ja) * 2007-04-13 2008-10-30 Sony Corp 画像処理装置および方法、並びに、プログラム
JP2009169592A (ja) * 2008-01-15 2009-07-30 Canon Inc 画像処理装置、画像処理方法、プログラム及びコンピュータ読み取り可能な記憶媒体

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4245699B2 (ja) * 1998-09-16 2009-03-25 オリンパス株式会社 撮像装置
JP5026092B2 (ja) * 2007-01-12 2012-09-12 三菱電機株式会社 動画像復号装置および動画像復号方法
JP5624062B2 (ja) * 2009-03-06 2014-11-12 コーニンクレッカ フィリップス エヌ ヴェ 入力画像データを出力画像データに変換するための方法、入力画像データを出力画像データに変換するための画像変換ユニット、画像処理装置、ディスプレイデバイス
CN102388612B (zh) * 2009-03-13 2014-10-08 杜比实验室特许公司 高动态范围、可视动态范围和宽色域视频的分层压缩
EP2445214A1 (en) * 2010-10-19 2012-04-25 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Video coding using temporally coherent dynamic range mapping
TR201911093T4 (tr) 2012-03-26 2019-08-21 Koninklijke Philips Nv Hdr görüntü kodlamaya ve kod çözmeye yönelik parlak bölge tabanlı aparatlar ve yöntemler.
AR091515A1 (es) * 2012-06-29 2015-02-11 Sony Corp Dispositivo y metodo para el procesamiento de imagenes
JP5911643B2 (ja) 2012-10-08 2016-04-27 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 色制約付きの輝度変更画像処理
US9412155B2 (en) * 2012-12-31 2016-08-09 Karl Storz Imaging, Inc. Video system with dynamic contrast and detail enhancement
MX350910B (es) * 2013-02-21 2017-09-25 Koninklijke Philips Nv Métodos y dispositivos de codificación y decodificación de imágenes mejoradas de alto rango dinámico (hdr).
BR112015026979B1 (pt) 2013-04-30 2023-04-11 Sony Corporation Dispositivos e métodos de transmissão e recepção

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000050081A (ja) * 1998-07-06 2000-02-18 Eastman Kodak Co エッジのコントラスト利得制御による自動ト―ン調節方法
JP2008263475A (ja) * 2007-04-13 2008-10-30 Sony Corp 画像処理装置および方法、並びに、プログラム
JP2009169592A (ja) * 2008-01-15 2009-07-30 Canon Inc 画像処理装置、画像処理方法、プログラム及びコンピュータ読み取り可能な記憶媒体

Also Published As

Publication number Publication date
HUE040383T2 (hu) 2019-03-28
US10152777B2 (en) 2018-12-11
US20180276801A1 (en) 2018-09-27
RU2017126189A3 (ja) 2020-02-28
WO2017102606A1 (en) 2017-06-22
EP3235236A1 (en) 2017-10-25
CN107211079B (zh) 2021-05-28
BR112017016037A2 (pt) 2018-03-20
ZA201704982B (en) 2019-01-30
EP3235236B1 (en) 2018-06-20
JP6495552B2 (ja) 2019-04-03
MX364488B (es) 2019-04-29
MX2017009282A (es) 2017-10-11
PL3235236T3 (pl) 2018-11-30
RU2720446C2 (ru) 2020-04-29
ES2684432T3 (es) 2018-10-02
RU2017126189A (ru) 2019-01-21
CN107211079A (zh) 2017-09-26

Similar Documents

Publication Publication Date Title
JP6495552B2 (ja) 画像及びビデオのためのダイナミックレンジ符号化
JP6596125B2 (ja) Hdrイメージの符号化のためのコードマッピング関数を作成するための方法及び装置、並びに、かかる符号化イメージの使用のための方法及び装置
JP7343629B2 (ja) Hdr画像をエンコードする方法及び装置
US10902567B2 (en) Handling multiple HDR image sources
JP7061073B6 (ja) Hdrビデオの符号化及び復号
JP6619888B2 (ja) Hdrビデオの符号化及び復号化
JP2019502221A (ja) 特定のディスプレイのための高ダイナミックレンジ画像の最適化
US11151962B2 (en) Graphics-safe HDR image luminance re-grading
WO2016119979A1 (en) Simple but versatile dynamic range coding
JP6831389B2 (ja) 複数のhdr画像ソースの処理
US11741873B2 (en) Adjustment of display optimization behaviour for HDR images
JP7300070B2 (ja) 飽和色のための改善されたhdrカラー処理
KR102279842B1 (ko) Hdr 이미지 인코딩 방법 및 장치
CN117321625A (zh) 显示优化的hdr视频对比度适配
JP2024517241A (ja) ディスプレイに最適化されたhdrビデオコントラスト適応
BR112017002313B1 (pt) Codificador para codificar um vídeo de entrada de alto alcance dinâmico, método para codificar um vídeo de entrada de alto alcance dinâmico, decodificador de vídeo para decodificar um vídeo de alto alcance dinâmico, decodificador de vídeo para decodificar um conjunto de imagens de vídeo de alto alcance dinâmico e método de decodificação de vídeo de um conjunto de imagens de vídeo de alto alcance dinâmico

Legal Events

Date Code Title Description
A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20181116

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181127

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190110

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190205

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190306

R150 Certificate of patent or registration of utility model

Ref document number: 6495552

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250