JP7313285B2 - 復号された高ダイナミックレンジ画像の彩度を最適化すること - Google Patents

復号された高ダイナミックレンジ画像の彩度を最適化すること Download PDF

Info

Publication number
JP7313285B2
JP7313285B2 JP2019559733A JP2019559733A JP7313285B2 JP 7313285 B2 JP7313285 B2 JP 7313285B2 JP 2019559733 A JP2019559733 A JP 2019559733A JP 2019559733 A JP2019559733 A JP 2019559733A JP 7313285 B2 JP7313285 B2 JP 7313285B2
Authority
JP
Japan
Prior art keywords
luminance
image
saturation
hdr
color
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019559733A
Other languages
English (en)
Other versions
JP2020520145A (ja
Inventor
ヨハネス ワイゼブランド ティヒラー
マーク ジョゼフ ウィレム メルテンス
モウリク ヨハネス ゲラルドゥス ライク ファン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Koninklijke Philips NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips NV filed Critical Koninklijke Philips NV
Publication of JP2020520145A publication Critical patent/JP2020520145A/ja
Application granted granted Critical
Publication of JP7313285B2 publication Critical patent/JP7313285B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/20Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
    • G09G3/2003Display of colours
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/92Dynamic range modification of images or parts thereof based on global image properties
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/98Adaptive-dynamic-range coding [ADRC]
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/02Improving the quality of display appearance
    • G09G2320/0242Compensation of deficiencies in the appearance of colours
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/02Improving the quality of display appearance
    • G09G2320/0271Adjustment of the gradation levels within the range of the gradation scale, e.g. by redistribution or clipping
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/02Improving the quality of display appearance
    • G09G2320/0271Adjustment of the gradation levels within the range of the gradation scale, e.g. by redistribution or clipping
    • G09G2320/0276Adjustment of the gradation levels within the range of the gradation scale, e.g. by redistribution or clipping for the purpose of adaptation to the characteristics of a display device, i.e. gamma correction
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/06Adjustment of display parameters
    • G09G2320/0626Adjustment of display parameters for control of overall brightness
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/06Colour space transformation

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)
  • Processing Of Color Television Signals (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

本発明は、符号化されたHDR画像(すなわち、ピクセル色コード、及び、特に、従来のRec.709規格又は低ダイナミックレンジコーデックにより符号化可能な輝度より大幅に明るい輝度を符号化するコードを含む画像)を受信するための、及び、典型的には、限定するわけではないが、画像コンテンツを生成する人間の色グレーダーにより所望される特定のディスプレイピーク輝度(PB_D)をもつディスプレイのための正確で芸術的な見た目を取得するための、特に、多くの連続したHDR画像を含むビデオといった、入力として高ダイナミックレンジシーンの画像から始まる画像のピクセルの色、及び特に、それらの彩度を最適化するための、方法及び装置に関する。とりあえず現時点でビデオ技術の当業者が誰でも理解可能でなければならない高ダイナミックレンジ(HDR)画像という概念を明確にするために、それが、標準的な最大100ニトの低ダイナミックレンジ符号化ピーク輝度(PB_C)より2、3倍高いピクセル輝度を分類することが可能な画像符号化として規定されるので、このようなピクセル輝度をレンダリングすることが可能なHDRディスプレイにおいて、典型的には最大で少なくとも1000ニト以上で正確に対応するピクセル輝度のレンダリングを可能にするピクセルルマコードをこのようなHDR画像が含み得るということが説明され得る。この技術は、例えば、SDRディスプレイでは曇った日のようにいくぶんどんよりとして見えるが、約1000ニトより高いピクセル輝度を使用してレンダリングされた場合、元の晴れ渡った見た目を伝える晴れ渡った、例えば地中海の画像に対して、見る者が大幅な違いを視認し得ることを利点としてもち得る。しかし、異なるPB_Dをもつ多くの異なるHDRディスプレイの出現に伴って、すべての画像コンテンツが自明的にレンダリングされ得るわけではないという問題が発生し、ディスプレイが表示することが可能なレンジ内の輝度への画像輝度の何らかの最適な再グレーディングが望まれる。受信側において任意の特定のディスプレイに対して最適化された画像のこのような再グレーディングされた最適な見た目は、HDR基準ディスプレイ、例えば、高ピーク輝度マスタリングディスプレイ(例えば、PB_HDR_M=5000ニトの)に対してグレーディングされたHDR画像(いわゆるマスターHDR画像)の基準となるHDRの見た目に対応する。符号化ピーク輝度(PB_C)の画像が(おおむね)同じディスプレイピーク輝度(PB_D)のディスプレイにレンダリングされたときに、基準となる見た目のHDR画像の最適なレンダリングが実際に達成される。ある人が、より低いダイナミックレンジを利用可能なディスプレイをもっている場合、その人が同様に見える画像に実際的に最適化しなければならないが、(PB_D=PB_Cの)対応するディスプレイにおいてその人が達成し得る最適なHDRの印象を与えることはできない。この内容における再グレーディングは、特に、排他的にそうされるわけではないが、人間の色グレーダーにより行われる(いくつかの実施形態は、ICにおいてインベイクト色数学を使用して排他的に動作する)、特定のダイナミックレンジの最適化された画像を入力画像から決定するときの、画像オブジェクトピクセルの色、及び、特に、様々な画像オブジェクトの輝度(又は、明度の外観)の変換を意味する。本発明の実施形態は、最適化された画像が、基準ディスプレイであって、その基準ディスプレイに対応してHDR画像のグレーディングが行われた、その基準ディスプレイのピーク輝度(又は、言い換えると、符号化ピーク輝度PB_C)に等しくないピーク輝度(PB_D)をもつ任意の実際のディスプレイにおいてレンダリングされるときに、基準となる見た目に近づけることに関係する。より低いピーク輝度(又は、ダイナミックレンジ)のディスプレイは、より高いピーク輝度のディスプレイにおいてレンダリング可能なすべての画像の見た目を厳密に同じように実際にレンダリングすることは絶対に不可能であり、むしろ、少なくともいくつかのオブジェクトピクセルの色に何らかのトレードオフが生じ、それらのピクセルの見た目(例えば、典型的には、イメージングされたHDRシーンのいくつかの画像オブジェクトの明度)をある程度異なるものにするので、対応する見た目が、見る者に対して厳密に同じ見た目であることを意味するとは限らないことを読み手は理解する。任意の特定のディスプレイに対して最適化された画像を計算する最適化アルゴリズム(ディスプレイ調整と呼ばれる)は、例えば、入力及び再グレーディングされた出力画像におけるピクセル色の色相及び彩度を、画像内におけるピクセルの少なくとも大部分に対して実質的に等しく維持することを試みる。
HDR画像の見た目、及び/又は、生成サイトから任意の受信器に実際に通信された画像の見た目は、画像色を規定するために技術ツールを使用して人間の色グレーダーにより、又は、スマート画像再カラーリングルールを使用して自動アルゴリズムにより生成されたものである。この点について、読み手は、HDR画像を通信する手法の少なくとも2つのカテゴリが存在することを理解しなければならず、すなわち、いずれか一方が、HDR画像自体を(画像のPB_Cより低いPB_Dへの最適な再グレーディングを記述した生成側に承認された関数と一緒に)通信するか、又は、後方互換性カテゴリが、マスターHDR画像自体の代わりにマスターHDR画像から再グレーディングされたSDR補完を通信し、以下の実施形態の技術は、両方の状況において動作し得る。通信される画像は、カメラ、例えば、消費者用カメラから、又は、例えば、シーンのコンピュータグラフィック画像などの他のソースからの直接的なものである。しかし、生成サイトにおいて生成された符号化された意図された画像、及び、任意の受信サイトにおいて利用可能なディスプレイにおいて実際にレンダリングされた画像は、典型的には、(ディスプレイの能力が許す限り)同様に見える。
ピクセル色の彩度(又は、色彩の豊かさ)は、画像の見た目の重要な側面である。彩度は、(可視スペクトルの波長の特定の部分集合に対するエネルギーをもつ)混色における純色の量、及び、他の純色の欠如(波長の別の部分集合に対する低エネルギー)、又は、端的に言えば、すべての波長の量がおおむね等しい(すなわち、混色において高い割合の中間グレー色を混合した)低彩度色に対する、高い彩度値により示される色の純度の技術的測定結果である。このような見た目の画像におけるオブジェクトの、人間である見る者に対する外観は、色がどの程度強いか(例えば、強く赤色なのか、弱いピンクなのか)であり、さらに、典型的には、動物又は植物における色素の量などの天然の性質と相関する。彩度は、画像の美しさを上げる、又は下げるために使用され得る(見る者は、多くの場合、高彩度の画像を好むが、パステル画像も魅力がある)ので、例えば、テレビの回路などの様々な装置が、多くの場合、色制御部と呼ばれる、彩度に影響する色変換ユニットを有する。不正確な彩度は、異様に見え得、例えば、いくつかの色は、過度に非高彩度である場合、白くなって見えるが、過度に高い彩度も、異様で漫画的に見え得、特に、より暗い、例えば夜のシーンにおけるより暗い色に対して、変に見え得る。
出願人の発明者は、従来の標準ダイナミックレンジ符号化(単純化するために、ここ最近は約PB_D=100ニトの同じディスプレイピーク輝度をもつディスプレイのために正しくグレーディングされた画像を供給する、固定のPB_C=100ニトとした、SDR)を使用した場合に可能であったものよりはるかに大きい符号化ピーク輝度(PB_Cが例えば5000ニト)及び輝度ダイナミックレンジを取り扱うことが可能な新たに開発されたビデオ符号化のフレームワークにおいて、この研究をすることを開始した。このHDR画像取り扱い技術は、主に、ピクセルに対して所望の適切な明度又は輝度を生成することに関する(システムは、輝度を使用して規定されるが、当業者の読み手は、技術的には演算は実際には、例えば、平方根関数などのY’=OETF(Y)といった何らかの光電変換関数により輝度から規定された、プライムを付して示されるルマY’に必要な変更を加えて行われることを理解し得る)が、もちろん、三次元の物理的実体である色は、彩度の正確な取り扱いがさらに必要とされることを意味し、SDR時代にこれが行われた手法に比べて(ビデオ)画像が取り扱われる手法が大幅に変えられた場合に、彩度がどのように扱われなければならないかがさらに非常に大幅に変化すること、及び、確かだと信頼されていることが再考されることを必要とすることが想定される。
マスターHDRグレーディング(すなわち、例えば、5000ニトのHDR基準ディスプレイにおけるムービー又はビデオのために作られた「最高品質」の開始画像)を、設置された従来のSDRディスプレイの展開された市場にサービス提供するために、SDR100ニトPB_C画像に色変換する必要があるとき、画像オブジェクトの明度がどのように変化しなければならないかを、例えば新たに開発されたHDRビデオ符号化技術(以下の例又は同様のものにより本発明の概念を説明するために出願人が使用するもの)により、例えば人間のクリエーター/グレーダーが規定するだけでなく同時通信することを可能にするシステムが構築された場合、少なくともいくつかの画像オブジェクト又はピクセルの彩度を変える機構がさらに必要とされることが合理的である。例えば、何らかのオブジェクトを相対的に暗くすること、例えば、元のHDRシーンにおけるより明るいオブジェクトのために、より小さいSDRダイナミックレンジに余地を作ることが必要とされる場合、(本技術が取り扱うことができることを必要とする要求事項の一例にすぎないが)SDRの見た目の画像においてそれらによりパンチ力をもたせるために、少なくともそれらのオブジェクトがある程度、より色彩豊かにされることが想定され得る。その一方で、暗くされた、又は明るくされたピクセルは、例えば、システムが技術的に不適切に設計された場合、「自動的に」非常に過度に高い彩度を簡単に取得し得る。
図1は、概念としての彩度、及び彩度処理の技術的な知識情報、すなわち、ビデオ専門家が本概念を検討するときに典型的に検討するものの簡潔な概要を与える。
彩度を取り扱う良い手法は、図1Aに示されるように、彩度が円柱HLS空間(色相(h)、明度(L)、彩度(S))の色成分であることであり、その中で明度もL=OETF2(Y)として規定され得る尺度であり、Yは輝度である。明度を使用することにより、同じ色、又は、より正確には、円柱の中央における明度軸の周囲に半径方向に広がる色度(h,S)の、はるかに明るい円を作り得る。彩度は、ゼロ(明度軸における無彩色又はグレー)と、1.0に等しく正規化された円周上の最大彩度との間に位置する単純な尺度である。従って、次に、入力色を周辺により近い結果色102に動かすことにより色彩度を高める、すべての色、例えば、示される例示的な色101に対する彩度ブースト(b)が規定され得る。典型的には、
S_out=b*S_in
というタイプの乗算的彩度変換関数が使用され、b>1の場合に彩度の上昇を実現し、b<1の場合に低彩度化を実現する。任意の色の色相及び明度(L_c)は、理想的には純粋な彩度変換に対して未修正のまま留まらなければならない。このような円柱色表現において彩度処理は、(このような色空間が完全に一様ではないということは別として)過度に困難であるとは限らない。しかし、RGBピクセルディスプレイなどの実際の加算的表色系は、図7において2Dにおいて概略的に示されるように、より高い輝度の領域において完全な円柱から逸脱しており、さらに、いくつかの非常に複雑な要因を既に導入したものであり得る。
別のより実際的な彩度変換は、図1Bに示されるようにルマ(Y’)クロマ(Cb,Cr)バージョンの色空間において作用する。とりわけ、このような色空間がSDRテレビ色符号化の自然な色空間であるので、このような色空間が一般的であり、従って、実際はそれらが単純で可逆なSDR画像符号化において使用されるように設計されているにすぎないが、その色空間において任意の色処理を実施することが決定され得る。この場合も、ここでは、Cb成分とCr成分との両方に乗算がなされる乗算的彩度変換技法により、色103が、グレー色の無彩色軸(及び、それらの対応する注釈を付されたルマ値Y’)から、結果色104に離れるように動かされる。このバージョンに関して、彩度ブースト又は低下は、PAL、又は、NTSCのYIQ空間などの同様の色表現に対して作用する1960年代のテレビ回路まで遡り得る。このようなシステムは、それぞれ定数B又は1/Bを乗じることにより、すべての入来ピクセル色のCb及びCr成分をブーストする、又は暗くする。これにより、少なくとも現代において、彩度修正をどのように行うかが合理的な程度に簡単であるとみなされる。
図2は、単にいくつかの概念を紹介するために、出願人により発明された例である、典型的なHDRビデオ符号化及び復号チェーンを示すにすぎず、このタイプの技術に対して、本発明は、この種類のHDRビデオ復号受信器のアップグレードにより、受信側において最適に見える画像を生成するために有用である。読み手は、最初に、画像が無彩色である(すなわち、ピクセルに対して輝度のみをもち、色相も彩度ももたないグレー値画像)と仮定したシステムを学ぶ。(0.1ニトから100ニトの間の輝度のみを通信し得る)Rec.709コーデックが使用された場合に、より高いPB_Dのディスプレイのための高品質画像が通信されることがまさにできないというギャップを埋めるために、このようなHDRビデオ符号化技術が2、3年前に出現した。
ここで、理解のしやすさを目的として、すなわち、後述の教示に対する限定ではなく、1つ又は複数のHDR画像が(100ニトのLDR低ダイナミックレンジ画像である)SDR画像として、すなわち、従来のSDRテレビ、コンピュータモニター、投影器、携帯電話などにおける直接的な良い見た目の表示に適したものとして実際に通信されることがさらに仮定される。符号化された最も白い白色(すなわちPB_C)が最も明るい表示可能なディスプレイにおける白色(すなわち、本例においてPB_D=100ニト)として表示され、すべての他の輝度が入力画像においてPB_Cに対するそれらの相対値であったものに比例して表示される(すなわち、5000ニトの50%が50ニトとしてレンダリングされる)ことを規定した従来のSDR表示仕様に従って、例えば、100ニトPB_Dディスプレイに例えば、5000ニトPB_C画像が直接表示される場合、悪い見た目の画像が発生する。従って、例えば、0.01ニトから5ニトの間の輝度をもつ、5000ニトPB_C画像において暗い中に立った人が符号化される場合、5000ニトPB_D画像にこの画像領域を表示するのであれば相応な輝度であるように思われるが、100ニトSDRディスプレイにこのような画像を直接レンダリングするとき、この人のすべてのピクセルが0.1未満に低下し、すなわち、視認不能な黒色になる。従って、SDRディスプレイにおいて最も暗い領域を十分に視認可能にするために、画像の少なくともそれらの最も暗い領域に、何らかの明るくする再グレーディング処理が適用される必要がある。SDR画像を取得するために、(正規化された)HDR画像からピクセルを実際にどの程度相対的に明るくするか(50倍、又は、わずか30倍、又は70倍)は、例えば、マスターHDR画像に対するSDRペンダント画像を生成する人間の色グレーダーの好みの問題であるが、エコシステムの完全な説明のためにこの態様を説明するが、これは、どの特定の明るくする関数が偶然選択されるかに関わらず、彩度処理を正しく取り扱うためのフレームワークとなる、HDR技術に対する本開示の寄与における細目にすぎないことを読み手は十分に理解するはずである。
この比較的新しい最近発明されたシステムは、読み手により少しの間熟考されなければならず、すなわち、例えば、5000ニトPB_C画像(すなわち、画像を5000ニトPB_Dディスプレイにおける最適なレンダリングに適したものとする多くの様々なピクセル輝度のすべて、すなわち、例えば、最大で例えば120ニトであるより暗い屋内における部屋の輝度だけでなく、最大で例えば、5000ニトである電球の、及び電球の周囲におけるピクセル輝度をももつ画像)を、それら5000ニト画像を実際に送信することによるのではなく、任意の受信器にSDR(100ニトPB_C)画像を実際に送信することにより実際に通信し、これは、受信器が受信された100ニトSDR画像から5000ニトマスターHDR画像を再構成することを可能にする輝度変換関数(色変換関数F_ctの全体の一部であるF_L)がメタデータにおいて適切な手法により同時通信される場合に実現され得る(すなわち、通信されたSDR画像において電球ピクセルは最大で100ニトの輝度をもつ可能があるが、その画像に対する輝度変換関数を使用して、受信器は、それらのピクセルを、例えば5000ニトHDR画像ピクセルに再構成することを知る)。
しかし、出願人は、その、例えば1000ニトPB_Cのマスターグレーディングされた、及び符号化されたHDR画像をSDR画像にダウングレードする色変換関数をメタデータとして一緒に、任意の画像通信手段(例えば、ケーブルネットワーク、インターネット接続、又はブルーレイディスクなど)を介して受信器にHDR画像を実際に通信するさらに異なる別のシステムをさらに発明しており、以下の教示及び実施形態はその状況にも適用される。
これらの輝度変換関数、又は、概して、色変換関数F_ctは、HDRマスター画像MAST_HDRに対応した合理的な見た目のSDR画像(Im_LDR)を得るように人間の色グレーダーにより規定される。一方で、非常に重要なことに同時に、逆関数IF_ctを使用することにより、元のマスターHDR(MAST_HDR)画像が、受信サイトにおいて再構成されたHDR画像(Im_RHDR)として十分な正確さを伴って再構成され得ることを確実なものとする(従って、これは二重基準であり、従来のビデオ符号化と非常に異なるこのような手法を軽視できないものとする)。
人間のグレーダーは、例えば、(例えば、LUT表現における)輝度変換関数形状、又は、入力MAST_HDR画像ピクセルの輝度を出力SDR画像(Im_LDR)ピクセルの輝度に、又はその逆に変換するための少なくとも1つの関数的仕様を含む色変換関数F_ctの(関数形状のパラメトリックな規定における)パラメータを、画像の見た目がその人の好みに合うまでダイヤルを回転させることにより、決定し得る(理解のしやすさを目的として、この教示の残りの部分では、これをガンマ曲線であると仮定し得るが、実際にはもちろん、任意のマスター画像に対応した最適な中間ダイナミックレンジ(MDR)画像を取得することは、典型的には、より複雑な検討を含む)。
実際、人は単純にダイナミックレンジが単におおむね最も明るい輝度を最も暗い輝度により除算したものと考える。それがHDRディスプレイに対して良い特性であるとともに、HDR画像はより深い洞察を必要とする。それは、適切な選択された関数を使用した画像シーンの特定の領域の再検討に関することでもあり、及び、オブジェクト内、及び、オブジェクト間のコントラストに関するものもある(例えば、すべての再グレーディングされたMDR画像において十分に隠されなければならない誰かが、霧の中に隠れている)。実際、それは、多くの場合、任意のHDRシーンの本質を見つけることに関するものであり得、マスターの各ダイナミックレンジ画像バージョンにおいて、輝度の適切に割り当てられたレンジによりそれが最適に表されることを確実なものとする。いくつかの場合において、本技術の、あるユーザー、特に、コンテンツクリエーターは、単純な要求事項を抱え、いくつかの場合において、別の人は、厳しい要求事項を抱えるが、理想的には技術が、理想的には最も実際的な手法により(例えば、所望により支配的な領域間コントラストを既に設定している第1の粗い関数を用意し、さらに、これに基づいて、この事前グレーディングされた画像において、続いて、いくつかの特定の画像オブジェクトの精度の良い輝度再グレーディングを行う第2の関数を使用することにより)、そのすべてに対応することができなければならない(すなわち、関数は、N個の連続した画像のショットに対して、又は、さらには、特定の単一の画像に対して調整され得る)。HDR画像のオブジェクト輝度が、HDR輝度レンジDR_2より大幅に低いダイナミックレンジDR_1(典型的には50分の1であり、場合によっては異なる視認条件もある)をもつSDR画像のためのオブジェクト輝度に最適に変換される必要がある場合の、このようなオブジェクト輝度の技術的な、及び/又は、芸術的な要求に対する2、3個の例が図3に示される。異なる検討につながり、さらには非常に異なる輝度マッピング関数形状につながる様々なシナリオが存在することが理解され得る。例えば、夜のシーン(Im_SCN2)は、より暗いSDRディスプレイにおいて比較的良好に取り扱われ、SDR輝度レンジ(DR_1)の利用可能な上部における光の輝度に対する何らかの最適な割り当てを生成しながら、SDRディスプレイに、より暗いオブジェクトを、5000ニトPB_D HDRディスプレイにおける場合と実質的に等しい輝度を使用してレンダリングすることをSDR画像符号化において指定する判断がされる。晴れ渡った西部劇の画像(ImSCN1)の場合、例えば、「太陽を最も明るく可能な色、すなわち、輝度PB_LDRの白色にマッピングする」及び「景色及びシーンのオブジェクト色を十分に明るいSDR色に分配する」といった、完全に異なる検討がなされ、これが、このシーンにおける、より暗い色(例えば、カウボーイの茶色のブーツ)を例えば、25ニトにマッピングする何らかの輝度変換関数形状を結果的にもたらす。第1のマッピングが、むしろ等輝度の特性を含むのに対し、第2のマッピングは、むしろ圧縮の性質であり、様々なより複雑な技法が使用される。任意の画像取り扱いシステム、及び、特に、最適な彩度を決定しようとするシステム-最適な色、特に、彩度は一見した印象よりいくぶん複雑な事項である-は、様々な必要とされる挙動に正しく対処することができなければならないことが読み手により理解されるはずである。読み手は、HDR画像の取り扱い(符号化及びレンダリング)のいくつかの主な概念のこの簡略化された説明は、新規な高品質画像の取り扱いに対して存在するいくつかのさらなる大幅な複雑さを実際より大幅に過小に評価しているが、本来は説明が複雑となるので、説明をできる限り単純なものに留めるように試みていることを認識するはずである。HDRシーンのこれら2つのグレーディングされたバージョン(SDR及びマスターHDR画像)のみを記述することに加えて、中間MDR画像、又は、さらには、超HDR画像に対する様々な要求事項が存在し得、例えば、小さい太陽を、ディスプレイが行うことが可能である限りできるだけ明るくレンダリングすることが常に所望されるが、街路照明を5000ニトより高い任意のPB_Dに対して、3000ニトにおいてレンダリングすることが常に所望される。
読み手が理解しなければならないことは、コンテンツ生成側において例えば、10個の異なるMDRグレーディングを作る(例えば、200ニトPB_Dディスプレイ、500ニト、750、1300など)代わりに、本開示の技術を使用して、コンテンツクリエーターが典型的には、例えば、5000ニトマスターHDRグレーディング画像、及び、100ニトマスターSDR画像である2つの基準(又は、マスター)グレーディング、を作ることしか必要とされず、コンテンツ受信側は、従って、(2つの画像を受信することによるのではなく、それらのうちの1つと、逆関数、又は処理を使用して、一方のグレーディングを他方に変換すること、又はその逆を可能にする色変換関数F_ctとを受信することにより、)良い見た目の、対応した、十分に類似した再グレーディングされたMDR画像を自動的に決定し得ることが可能にされている。MDR画像ピクセル輝度は、受信側において利用可能なディスプレイの特定のディスプレイピーク輝度PB_Dに依存し、その因子は、また、生成側においてまだ知られていない(このことは、別のやり方をとる場合に、コンテンツクリエーターの貴重な時間を浪費してコンテンツクリエーターが多数の画像を作る必要がある理由である)ことに留意されたい。
しかし、受信側ディスプレイ調整アルゴリズムがMDR輝度を実際に計算する様々な手法が存在し得(これは、特定のHDRシーン画像のHDRコンテンツの非常に詳細な特異性を考慮することで、又は、より大雑把に言えば、究極的な正確さより勝る簡潔さ、及び関係する価格及びICの複雑さといった利点を好む客に対して、よりスマートかつ、より精度の良いものとなり得る)、繰り返しになるが、その態様は本開示のフレームワークにおける単一の限られたバージョンというわけではなく、むしろ、本フレームワークが、所与の任意の選択されたディスプレイ調整方法に対する問題に対応し、及び、問題を解決し得る可変な態様である(さらに、以下で、当業者はそれをどのように実施するかを学ぶ)。
しかし当業者は今のところ、HDRビデオ符号化問題及び技術について適度に知識があるはずであるが、何人かの読み手はディスプレイ調整についていくぶんなじみの薄い場合があるので、図16に別の説明のための例が追加されている。
図16Aは、平均輝度の領域(飛行型スクーター1602に乗ったロボットは、平均的な普通に照らされた200ニトのHDR輝度付近に広がるピクセル輝度をもつ)、窓の後ろの暗い部屋にいる男1601などの暗い又は非常に暗い輝度、及び、例えば、ネオンライトサイン1604、又は、左右の構築物間の路地における明るい霧の中の低コントラストの形状に見える人であるシャドウマン1603などの、より高い明度の領域又はオブジェクトを含む典型的なHDR画像を示す。図16Bは、単一のグローバル輝度マッピング関数形状が再グレーディング輝度変換のために十分であると仮定することにより-例えば、x軸におけるマスターHDR輝度から始めて-再グレーディングされた画像の輝度がどのように導出され得るかを示す(すなわち、グローバルは、画像内における空間位置がどこであってもそのHDR輝度を取得することが必要とされるにすぎず、F_L_h2s関数は、y軸におけるペンダント再グレーディングの対応するSDR輝度を生成することを意味する)。y軸にx軸が実際にコピーされているので、恒等変換、すなわち、斜線として描かれた点線に当然に対応した、4000ニトPB_D最適化画像にマスターHDR4000ニトPB_C輝度をマッピングするものであっても、任意の輝度再グレーディング関数が指定され得ることに留意されたい。このような絶対輝度表現では、例えばSDR画像の、輝度のより低いPB_Cの集合にマッピングすることは、斜線より下方に入る関数により行われることが理解され得る。1つの正規化輝度システムにおいて実際に計算を行うとき(それはいくらかの洞察を生み出すので)、以下で行われるように、正規化されたHDR輝度を、正規化されたSDR輝度にマッピングする関数は、斜線の上方に位置すると誤認されてはならない(読み手は、このような輝度が、開いたピクセルバルブに対する固定バックライト表示PB_Dニトを使用して、ディスプレイに対するLCDピクセルバルブ透過率パーセントを表すと仮定してこれを理解し得る。すなわち、HDRディスプレイとSDRディスプレイとの両方において同じ輝度1ニトを仮定して、暗い男1601をレンダリングしたい場合、正規化HDR輝度を50倍明るくして、50倍暗いSDRディスプレイバックライトを補償する必要がある)。
例えば図7などの色空間表現に対する説明を見るとき、「正規化された0.0~1.0の輝度Y*の1つの固有集合」と表現され得るが、理解しやすくするために、同じ色表現において2つの異なる手法でグレーディングされた画像からピクセル輝度(又は、暗い中の男などの特定のオブジェクトからの、輝度の、及び一般的な3D色におけるブロブ)を重ね合わせることが、どのような観点からも、それらの2つのピクセルの正規化輝度が完全に同じ手法により正規化されたことを意味することはないと誤解されてはならず、すなわち、各々がそれ自体の符号化ピーク輝度により正規化され、従って、絶対HDR画像ピクセル輝度が、例えば、それらの絶対輝度をPB_C_HDR=5000ニトにより除算することにより、1.0未満に収まるように正規化されたのに対し、例えば、700ニトPB_Dディスプレイ最適化画像に対するMDR輝度が700により除算することにより正規化された。しかし、そのユニバーサルな正規化された表現内において色処理、又は特に、再グレーディング変換を実行し得、次に、正規化値に例えば700を乗じることにより、一意に規定された絶対輝度(及びクロマチック成分)に最終的に変換する。
図16Bの関数F_L_h2sは、4000ニトPB_C生成マスターHDR画像に対する関係するSDR輝度を指定する輝度マッピング関数であり、これは、例えば、SDRグレーディングされた画像自体と一緒に、メタデータとしてHDRビデオ信号の受信器に典型的には同時通信される関数である。受信側は、そのディスプレイ調整アルゴリズムにより二次的輝度マッピング関数、ディスプレイ調整輝度マッピング関数F_L_daを決定し、この関数は、HDR輝度をSDR輝度にマッピングするのではなく、この例では1000ニトPB_C MDR輝度にマッピングする(読み手は、まず、受信されたSDRビデオ画像を再構成されたマスターHDR画像に復号することによりディスプレイ調整が行われ、次に、関数F_L_daが、最適化されたMDR画像輝度L_MDRを最終的に取得するために、それらのL_HDR輝度に適用されると仮定する)この二次的な関数F_L_daがどの程度厳密に決定されるかは、説明されているとおり、本発明では(多くの可能な代替的な変形例を使用したプラグイン式コンポーネントとなる)細目であり、読み手の理解のために、読み手は、関数形状が、関数F_L_h2sと斜線との間のどこかに収まるとだけ仮定しなければならない。もちろん、スマートなアルゴリズムは、約3000ニトの輝度マッピングについて詳細に注意を払ってもよいので、シャドウマンは常に申し分なく視認可能である(あまり明確に視認可能でない、あまりかすんでいない)が、ディスプレイ調整アルゴリズムがそれほど理想ではない関数を導出した場合でも、以下の彩度処理フレームワークの実施形態は、このようなF_L_da関数を使用しても依然として動作する(任意のL_HDRと対応するL_SDRとの間の関係を確立する何らかの関数F_L_h2s、及び、第3のL_MDRと元のマスターHDR画像のL_HDRとの間の関係を確立する関数F_L_daが存在することが必要であるにすぎず、従って、一意に規定されたこの3つの輝度が得られ、L_SDRなどからL_MDRがさらに計算され得る)。従って、特定のピクセルの各々に対して、それぞれ、SDR再グレーディング画像における対応するL_HDRとL_SDRとをもつ、HDRシーンの2つの基準グレーディングが存在する(その中で、輝度は、多くの手法により表され得、すなわち、Lmin_clipとLmax_clipとの間の乗算的スケーリングのみを行う露出スライシング機構は、元のシーンの異なる画像表現スペクトルを生成する単一の、及び単純な手法にすぎず、概して、それは、最適には様々なダイナミックレンジ再グレーディングのうちの2つのみであっても、すべてのピクセル又は画像オブジェクト輝度をどのように再割り当てするかに関して、より複雑であり得る)、従って、そのピクセル位置に対する第3の対応する輝度、すなわち、(中間輝度ダイナミックレンジ能力に対して、極端な端部PB_C選択に再グレーディングすることにより指定された、再グレーディングの必要性を再定量化することに基づいて導出される)L_MDRをもつ第3のMDR画像が存在する。基準グレーディングは、典型的には、この特定のタイプのHDRシーンの画像がどのように理想的に再グレーディングされなければならないかの「ガイダンス」としてコンテンツ生成側において生成され、(そのMDRディスプレイの能力、すなわち、典型的には、少なくともそのPB_Dに基づくが、いくつかのより高い品質のディスプレイの調整アルゴリズムでは、さらにその最小の識別可能な黒色MB_Dに基づいて)受信側のみにおいて、どのディスプレイが最適化されたMDR画像を供給される必要があるかが知られているので、第3の画像(及び、そのピクセル輝度)は、典型的には、受信側において生成される。
従って、人間により指定されるか、(色変換関数を指定するために画像特性を分析する)テレビ番組のリアルタイムの生成中における自動アルゴリズムにより指定されるかによらず、本発明の以下で説明される実施形態に関連することは、F_ctが、ピクセル輝度をどのように取り扱うかを指定することに加えて、それが輝度のアップグレードであるかダウングレードであるかにかかわらず、第1の輝度ダイナミックレンジを使用した表現におけるピクセル色を、第2の輝度ダイナミックレンジを使用した表現におけるピクセル色に変換するときの彩度変換の仕様になると仮定される、(例えば、彩度ブースト関数といった、及び、現在のHDR画像又はHDRシーンの画像の連続した流れの特定の必要性に合わせて調整された)少なくとも1つのクロマチック色処理仕様を含むことである。
図2に戻ると、関数F_ctをIF_ctに逆関数化することを受信側に依存する代わりに、受信された、及び復号されたSDR画像Im_RLDRからIm_RHDRを計算するために必要とされる関数を既に送信していてもよいことに留意されたい。従って、色変換関数が実際に行うことは、HDR画像(MAST_HDR)におけるピクセルの輝度を100ニトPB LDRダイナミックレンジDR_1にすべての輝度を最適に当てはめるように、LDR(又は、実際にはSDR)輝度に変えることである(すなわち、それにより、同時に、SDR画像及びそのオブジェクト明度のための良い見た目を生成し、及び、この関数の二重の見た目の画像の符号化パラダイムにおける任意の受信器によるHDR画像の再構成可能性の観点から、HDRからSDRへのレンジ圧縮の可逆性を確実なものとする)。
図2に示されるビデオ通信技術の既存の、又は事前共有の部分において展開することに適した典型的な符号化チェーンは、以下のように動作する。例えば、最適にグレーディングされた画像を与えるグレーディングコンピュータ、又は、(いくつかのダイヤル及びボタンを使用してカメラ操作者により調整された)HDR出力画像を与えるカメラなどであるいくつかの画像ソース201が、画像又はビデオ符号化器221により色変換されるように、及び符号化されるように、マスターHDR画像MAST_HDRを送達する。色変換器202は、説明の簡潔さを目的として、本明細書では、kを2.0より大きい数として係数gam=1/kとしたガンマ関数である、及び、クロマチック処理に対しては例えばb=0.9とした低彩度化と仮定される、例えば輝度に対しては凸状に湾曲した関数といった、(少なくとも1つの輝度変換関数、及び1つのクロミナンス又は色度変換関数だと仮定される、選択された適切な色変換関数F_ctに従って、典型的には順に(順序は、いくつかの実施形態において交換可能であり、及び、既に説明したように、例えば、人間の色グレーダーにより最適化される))決定された色変換を適用する。もちろん、それらが十分に可逆であること、すなわち、例えば、Im_RHDR画像は無視できる程度の、又は許容可能なバンディング、又は他の色誤差を含むことを条件として、より複雑な輝度マッピング関数が使用され、実際にそれらが使用されている。輝度変換関数を少なくとも含むこれらの色変換関数F_ctを適用することにより、出力画像Im_LDRが取得される。
この画像は、この時点で、それは、例えば、8ビット又は10ビットRec.709YCbCrピクセル色により特徴解析されるので、従来のSDR画像であった場合と同様に、例えば、DCTベースのビデオ符号化器といった少なくとも何らかの技術に対するものである。これは、第2のステップとして、画像又は画像集合が、場合によってはある程度の修正を加えられる従来のLDR画像圧縮器(203)を使用した通信のために圧縮されることを可能にし、例えば、予測差のDCT-ed変換のための量子化テーブルは、それらの中のHDRオブジェクトを含む画像に、より適するように最適化されたものである(しかし、色変換は、典型的には、既に、Im_LDRの見た目の統計データを、典型的なHDR画像より典型的なLDR画像にはるかに類似したものにするものであり、レンジの上部は、多くの場合、小さいランプなどを含むにすぎないものであるので、このHDR画像は、典型的には、比較的暗い輝度をもつ比較的多くのピクセルを含む)。例えば、限定ではない説明のために、符号化されたSDR画像Im_CODを生成するHEVC(H265)圧縮器であると仮定される、MPEGタイプ圧縮器が使用される。従って、この画像又はビデオ圧縮器203は、それがただの通常のSDR画像を取得するように見せ掛けるが、違いは、それが、この場合、さらに、マスターHDR画像の再構成を可能にする関数F_ctも取得すること、すなわち、これを効果的に、SDRの見た目とHDRの見た目との両方、及び、それらの対応する画像集合(それぞれ、Im_RLDR、Im_RHDR)のデュアル同時符号化にすることである。関数F_ctのすべての情報を含むこのメタデータを通信するいくつかの手法が存在する。例えばそれらは、ビデオ画像に関係した任意の有用な追加的な情報を通信するためにAVC又はHEVCにおいて以前に開発された機構であるSEIメッセージとして通信される。このような態様が具現化される手法は、もちろん、以下の教示に対して重大ではなく、従って、HDR画像の取り扱いの背景及び完全な概念、及び、それに関係した新しい発明を読み手が十分に理解することができるように、何らかの典型的な例のみが示される。続いて、送信フォーマッタ204が、例えば、ATSC3.0に従った、例えば、衛星又はケーブル又はインターネット送信、又はBDディスクといった、何らかの規格に従った何らかの伝送媒体205を介して伝播するようにデータをフォーマットするようにすべての必要な変換を適用し、それらの既存の、又は将来のバージョンの画像又はビデオ通信技術に何が必要であっても、すなわち、チャンネル符号化など、データのパケット化が実施される。
任意の消費者用又はプロ用受信サイト(例えば、視聴者の家にあるテレビSTB、ビデオ会議、市販のビデオウォールなど)において、例えば、セットトップボックス、テレビ、又はコンピュータなどの様々な物理的装置に組み込まれる受信器206が、アンフォーマット、及び、例えば、チャンネル復号を適用するように構成されたアンフォーマッタを備えることによりチャンネル符号化を解除する。次に、ビデオ復号器220のビデオ圧縮解除器207が、例えば、HEVC圧縮解除を適用して、(すなわち、MAST_HDR画像に色変換関数F_ctを適用することにより、生成側においてグレーディングされた厳密なSDRの見た目をもつ)復号されたLDR画像Im_RLDRを生成する。次に、色変換器208がMAST_HDRからIm_LDRを作ために符号化側において使用される色変換F_ctの逆色変換IF_ctを適用することにより、SDR画像を、5000ニトの元のマスター画像Im_RHDRの5000ニトPB_C再構成画像Im_RHDRに変換するように構成される。
上述のシステムは、基本的なHDRビデオ符号化/復号チェーンであり得るが、概して、プロ用システムに対しては、より多くの技術が必要とされる。
最近、多くのHDRビデオ符号化技術が現れている。ある発明者は、彼らが例えば1000ニトの固定のPB_Cを使用して規定するHDRビデオを符号化するだけで十分だと考えている(このような輝度からルマコード値への単なる変換は、技術的な驚き及び問題の発生がそれほど多くない状態で、適度に単純に行われるものでなければならない)。これは、生成側において例えば、0.1ニトから1000ニトの間の任意の輝度をピクセルに対して規定し、次に、受信側において対応する0.1ニト~1000ニトの輝度がレンダリングされ得るように、何らかの通信符号化(又は、ストレージコーデック)機構を介してビデオ画像を通信し得るので、それに対する実質的にすべてだと考えられる。出願人の発明者は、良いHDR体験は、特定の物理的な輝度を厳密にレンダリングすることに関することだけではないことに気付いた。特に、このような単なる符号化及び復号アプローチを含むことは、従来のSDRディスプレイを設置しているユーザー(又は、ユーザーが家に高品質1000ニトPB_Dディスプレイをもつが、一時的に別の部屋に歩いて行く必要があるときにモバイル端末での視聴に切り替えたい場合がある)は、ユーザーのディスプレイでは明らかに合理的な見た目の画像を見ることができないことを意味する。すなわち、ユーザーがその単独のHDR通信技術の提案が提供するものである、SDR HEVC画像コードコンテナになると推定されるものにより符号化されたHDR画像のみを通信することにより、HDRシーンを通信する任意の技術が使用される場合(これにより読み手は、それがY_max=1.0に正規化されたときHDR輝度を量子化する問題、すなわち、最大ルマコードが、レンダリングされた輝度PB_Cとなるどの最大値に対応するかの問題にすぎないので、10ビットルマ面がSDR画像又は任意のPB_C HDR画像の両方のルマを含み得るので、ビットの量が画像のダイナミックレンジの信頼可能な予測因子ではないことを理解しなければならない)、その不適切なHDR画像を使用してSDRディスプレイが何を行う必要があるかが不明確である。HDRルマを生成するために使用されるOETFが何であれ、及び、それらが(例えば、誤ったRec.709EOTFを使用して)どのように解釈されようと、このようなSDRを見る者は、典型的には、画像の大部分が過度に暗く、おそらくほとんど識別することができない状態を目にする(及び、場合によっては、見る者は、より暗い領域の大部分が過度に明るい状態を目にするが、いずれの場合においても、それは悪いことであり、何が起きるか明確ではなく、例えば、太陽が地平線より下の特定の角度に位置して特定の暗さの印象をもたらす状態において、行動が発生する晩の暗示的な時間などの、ムービーのこのような重要な意味論的な、又は感情的な側面が、典型的には、うまく機能しなくなる)輝度に変換し、次に、例えば、少なくとも人が最初に考えることを人が非常に合理的だと考えるように、画像内における最も明るいコンテンツを、(常に)ディスプレイが生成し得る最も明るい白色に、従って、PB_CからPB_Dにマッピングする典型的なレンダリングを行う場合でも、これが理解され得る。
従来の(すなわち、古いビデオの専門的技術のもとで正しく準備された)SDR画像は、拡散光シーンの白色の約18%の輝度をもつように、申し分なく照らされたシーンにおいて最も関連した色をもち、このことは、ほとんどの色が、従来のディスプレイの場合に100ニトである最大に明るい表示色PB_Dのすぐ下で申し分なく明るくレンダリングされることを意味する。色のうちの大部分が申し分なく明るくレンダリングされることを意味する通常の薄暗いテレビ視聴の場合、実際に、レンダリングがある程度自己発光(例えば、部屋内の印刷されたポスターと比べたときのライトボックス効果)のように観測されさえする。ヒトの視覚は、反射するオブジェクトを含む自然の風景の中で、通常、適度に一様に照らされた領域において、オブジェクトのグレー度又は明度(反射率)を見るように発達してきた。それは、例えば、局所的な白色の+-5%未満、又は、少なくとも1%未満の色が、典型的には、より関心の低い黒色として観測されるだけであることを意味する。見る者は、見る者の視覚系をテレビの白色に適応させる。そして、次に起こることは、半世紀にわたってSDR画像を見てきた後では、ほとんどの人が、HDRが技術的に必要とするものはもちろんのこと、何か悪い状態が存在することに、もはや気付きもしないように、適度に高い品質の手法により実際のシーンの申し分のない(「概略的な」)レンダリングを見る者が観測することである。問題は、この場合、画像化されたシーンの高ダイナミックレンジを理由として、より暗い領域が、より明るいものと比べて相対的にはるかに暗くなることである。例えば、HDR画像において最も明るい点は、例えば、HDRマスターグレーディングにおいて5000ニトであるランプの表面におけるピクセルであるのに対し、夜のシーンにおける他のオブジェクトの最も明るいピクセルは、例えば、わずか10ニトである。これは、SDRディスプレイにおけるPB_CからPB_Dへの理念によりこれをレンダリングする場合、夜のシーンの関心のあるすべてのものが深い黒色に低下するので、何らかの適正化策が不可欠であることを意味する因子500である。
同様の問題は、例えば、見る環境における強い照明を理由として、マスターグレーディングが行おうとしたものを上回る程に、当初に意図されたものに比べてSDR視認シナリオに対して、より大きく低減するような見る状況にいる任意の見る者に対して発生する。この因子は、単なるHDRビデオ符号化器によっては考慮されておらず、実際に、現在不満の対象とされている。
SMPTE ST.2084 EOTFベースの単独のHDR符号化に関する良いことは、任意のHDRシーンにおけるそれらの見た目をこの場合において一意に規定するために、色グレーダーに対する絶対的フレームワークをもつことにより、それがHDRコンテンツ生成におけるビューを一意的に固定することであり、すなわち、それらは、各オブジェクトに対して、さらには各ピクセルに対して、例えば、下に0.005ニトまで、及び、上に5000ニトまで拡張された拡張された輝度レンジにおいて、どの輝度をそれがもつべきかを指定し得、従って、非常に暗い、及び、非常に明るい画像オブジェクトを指定すること(及び、ディスプレイがそのようにすることが可能である場合はレンダリングすること)が可能である。このような基準フレームワーク、実際には基準理論的ディスプレイ輝度レンジが、さらなる技術開発を開始するために必要とされていた。しかし、容易に認識されていなかった欠点は、それが、固定のレンダリング環境(グレーディング室におけるグレーダーのディスプレイの0.005ニトから5000ニト)に対して輝度を符号化する手法にすぎず、ほとんどの人がコンテンツグレーダーの見る状況と著しく異なり得る状況においてTVを見ることを知りながら、それが、それらの画像が最終的にどのように使用されなければならないかに関して何も指定しないので、これがHDR符号化及び取り扱いにおいていくぶん硬直的な標準的なビューを生成することである。後者の、最終的に見る者にとって良質なムービー又は番組は、実際に重要な因子である。
近年、いくつかの企業が、従来のSDRディスプレイにおいてHDRシーンの良い同等な再グレーディングをレンダリングするために後に使用され得る、同じHDRシーンの2つの異なるダイナミックレンジグレーディング、すなわち、そのシーンの(例えば、PB_C=10,000ニトである)何らかのHDR画像、及び、従来のSDR画像(PB_C=100ニト)を通信することを可能にする符号化システムを研究及び公開することを開始した(WO2007082562[Max Planck]、残りのレイヤー(すなわち、実際には第2の画像)を使用した2画像方法の教示、及び、WO2005104035[Dolby Laboratories]を参照されたい)。読み手は、読み手の理解を容易にするために、(Rec.709OETFを使用して1000:1の輝度ダイナミックレンジのみを符号化し得る)SDR画像が、すべてのシーンオブジェクトの表面色の符号化を含むこと、及び、第2の画像がシーンに対して非一様な照明を含む何らかのブースト画像であることを想定し得る(例えば、「一様に照らされた」オブジェクトが明るく照らされている場合、ピクセルごとの輝度ブーストの第2の画像は、約50という値を含み、そのオブジェクトが影の中に発生する場合、その輝度は、例えば、1/10を乗じられる)。それは、実際、上述の夜のシーンのように500:1の領域間コントラスト比をもつ画像がSDRディスプレイにおいて、より良くレンダリングされ得るという問題を既に解決しており、これは、ある者が、2つのオブジェクト(ランプ、及び、暗い街路オブジェクト)を、それらの相対輝度に関してすぐ近くに動かし得るという理由からであり、これは、典型的には、例えば0ニトから20ニトの間の暗い街路色を明るくしたSDRグレーディングを作ることに対応し、街路照明は従って、例えばPB_D=100ニトにおいて、ある程度、より明るいだけである(効果的に、オブジェクト間コントラストを500:1ではなく5:1に低減するが、ランプは依然として画像の残りの部分に比べてある程度点灯して見え、従って、印象は、少なくともそれがPB_D=100ニトのディスプレイにおいて可能な限り、依然としてある程度再現される)。
しかし、出願人は、このようなデュアルグレーディング画像通信、すなわち、5000ニトPB_D HDRディスプレイに適した1つの画像と、従来の100ニトPB_Dディスプレイに適した他のSDR画像とを提案するものが、(理想的には、任意の画像又はビデオコンテンツ、例えば例として、屋外で見るポータブル型の、又は大きいスクリーンディスプレイ、ミュージアム又は病室における投影などの最適な使用を伴うすべての可能なディスプレイシナリオをサービス提供することを望んでいるので)多用途良品質HDR取り扱いシステムに対して依然として十分ではなく、従って、解決策としてより技術的なコンポーネントが必要とされると感じている。既に述べたとおり、それは、例えば、10ビットルマコードとしてHDR輝度を符号化することができることに関係するだけでなく、最終的には、別のやり方をとる場合には、より高いダイナミックレンジの画像が、特に適切にレンダリングされた、より低いダイナミックレンジの画像より悪く見えさえするので、見る者に対してそれらを最適に提供することができることにも関係する。単純な従来のSDR画像とは対照的に、人は現在、HDR画像をもつ、すなわち、HDR画像は、場合によっては非常に異なる輝度の高品質なコンテンツ(すなわち、既に事前に最適化されたSDR画像などではなく、非常に様々なもの)を含み、次に、このコンテンツが、レンダリングサイトに存在する任意の可能なディスプレイにおいて、どのように最適に取り扱われ、特に、どのようにレンダリングされなければならないかが問題となり、この問題は、(可能性として技術的に、及び/又は意味論的に非常に異なるHDRシーンのタイプが存在するので)概して、コンテンツに依存した問題でもある。しかし、より多くのこのような市場における要求を導入することは、技術的な複雑さをより高めることにもなり、新しい問題が生まれ、これに対して、適切な新しい技術的な解決策が発明される必要がある。
出願人の発明者は、ほとんどの状況が、見る環境、及びディスプレイの周辺だが見る者の視野に入るオブジェクトの輝度を無視した場合でも、画像符号化ピーク輝度PB_C(すなわち、理想的な基準ディスプレイであって、この理想的な基準ディスプレイに対してこの通信される画像が色グレーディングされ、逸脱したディスプレイではそれが最適ではなく見え、例えばあまりに過度に暗く見えるが、この理想的な基準ディスプレイにおいてそれが最適に見える、この理想的な基準ディスプレイに対応したPB_C)に等しくない実際に利用可能なディスプレイのディスプレイピーク輝度PB_Dの問題を抱えることに気付いた。従って、色変換器208は、典型的には、元のMAST_HDRの近似を単に再構成するように構成されるだけでなく、マスターHDR画像がPB_C=5000ニトであった、及び、このような5000ニトPB_Cの符号化された画像、又はPB_C=100ニトSDR画像として通信される場合の、例えば接続された800ニトPB_Dディスプレイ(210)に対して、例えば、(実際のHDRシーンの最も忠実な印象を与えるように)最適化された、本明細書において中間ダイナミックレンジ画像(MDR)と呼ばれるものを計算するように構成された色調整ユニット209をさらに含む。これは、それらは、いずれにせよ、例えば、1500ニトPB_Dディスプレイに表示するのみであり得るので、いくつかの用途は、元の5000ニトの(マスターの)HDRの見た目の画像の再構成を必要としないからであり、従って、実際に必要とされることは、そのディスプレイに対していわゆるディスプレイ調整された(ディスプレイ適応されたとも表現される)画像である。
両方の場合において、実際の通信される画像は、例えば、少なくとも、可能なディスプレイピーク輝度PB_Dのレンジに関して(例えば、SDRピーク輝度及びダイナミックレンジといった)2つの遠く離れたダイナミックレンジの状況のうちの1つから他方の選択肢(HDR)に、コンテンツを生成したアーティストに従って、コンテンツをどのように再グレーディングしなければならないかを指定する色変換関数F_ctを使用して補完される。出願人の発明者の洞察によると、それは、さらに、特定の画像コンテンツに対して、中間MDR画像に対する典型的な再グレーディング要求事項を伝える(中間ダイナミックレンジという名称はさらに、例えば、5000ニトPB_Cコンテンツが受信された場合に7000ニトPB_Dディスプレイに対して、それらの遠く離れた2つの典型的なグレーディングのもののレンジの外側のPB_Dに再グレーディングし得ることを無視するわけではないことに留意されたい)。さらに、受信側は受信された関数F_ctから単独で最適なMDR画像を決定するので、これは、生成側、すなわち、例えば、人間の色グレーダー(又は、自動輝度再グレーディング関数決定装置)が、PB_D MDRディスプレイ再グレーディング間におけるいくつかのものに対する多くの関数を指定する必要を無くす。
それは、例えば、100ニトSDR画像を、例えば、5000ニトHDR画像の代わりに800ニトMDR画像に明るくする必要があるので、F_ctメタデータにおいて実際に受信されたものに比べて(MDR画像計算において適用されるように)輝度ブースト関数を低減させた後にのみではあるが、色変換関数(すなわち、例えば、生成側のマスターHDR画像から実際に通信されたSDR画像を生成したF_ct)を受信すること、及び、(必要とされる最適なMDR画像を取得するために、受信されたSDR画像に逆色変換すること)の問題にすぎないように一見、見える(しかし、読み手は、ディスプレイは非常に様々な能力をもつので、実際には調整がはるかに複雑であり、本明細書における原理の説明に対するものより複雑な計算工程が適用され、及び、HDRシーンの非常に異なる性質-例えば、天窓と人工光との間のバランスから、夜遅くにシーンがどのように見えなければならないか-が与えられたとき、特定のHDR画像のオブジェクト間コントラスト、及び、ビデオの場合はさらにシーン間コントラストを使用してオブジェクト内コントラストを最適化するために、一般的に何が発生するかを単に説明するための単純なガンマの代わりに、非常に複雑な輝度マッピングが使用され得ることを理解する)。又は、代替的に、1.0に正規化された色空間において定式化されて、任意のディスプレイピーク輝度を1.0にもつ相対的な色域の相対輝度軸において、MAST_HDRがPB_C=1000ニトをもっていた、及び、このデータがSDRルマ又は対応する輝度として実際に通信される場合、10倍強いバックライト照射を使用して1000ニトPB_Dディスプレイにおいて同様の見た目を得るために、SDR画像オブジェクト(例えば、暗い夜のオブジェクト)のうちの大部分を10倍だけ相対的に暗くすることを適用することによりSDR相対輝度をHDR相対輝度に変換する必要がある(すなわち、説明するモデルとしてLCDを使用する場合、LCDピクセル透過率を制御する画像は、最終的なディスプレイレンダリング輝度を取得するためにバックライト値を乗じられるので、10倍明るいバックライトのHDRディスプレイに対して、SDRディスプレイにおけるものと同じ見た目を望む場合、10分の1倍にLCDピクセルの透過率を下げるか、又は、ディスプレイに向かう駆動画像における対応する輝度のパーセントを下げなければならない)。
従って(さらに、説明のための単純な輝度マッピング関数F_Lが単純なガンマ関数であることにこだわると)、この時点でSDRからMDRへの色変換として(F_L関数形状において通信されるように)SDRからHDRへの予測を実現するためにガンマ関数を小さくすること、及び次に、より低いダイナミックレンジの画像とより高いダイナミックレンジの画像との間における変換のために同時指定されたクロマチック彩度変換をさらに適用することだけが必要と考えられ、それに対して存在するものは、それですべてである。無色のグレー値画像をもっているときに、それに対して存在するものは、それですべてであるが、色が含まれる場合はそれほど単純ではない。
実際、古い復号パラダイムを単純に適用すること、すなわち、「復号器は、(不可逆圧縮のいくつかの丸め誤差を除いて)元の(マスターHDR)入力画像の再構成を取得するために、符号化器が行ったすべてのことを逆の順序で解除していくだけだ」と考える人もいる。従って、図5Aの色処理の順序に従った復号器をもつと仮定し、すなわち、復号器は、まず、出力画像におけるすべてのピクセルの既に正しい輝度を達成するために、(単純化した例では単なるガンマ関数である、例えばLUTとして通信された、受信された輝度変換関数形状F_Ltにより)示されるように輝度変換を行い、次に、同様に、メタデータにおいて通信される精度の良い必要とされる関数F_satを使用して、彩度ブースト/低減関数であると仮定されるクロマチック色適正化を行う。その理由は、ディスプレイの色域はいくぶん複雑な形状をもつので、概して、これが、色域が白色に向かって絞られる、より上方の先端部に比べて、より暗い色が存在する色域のより低い部分において異なる色挙動を必要とし、及び、このより明るい色に対して、ディスプレイ(又は、さらには、RGB符号化)は、すべての色、特に、高い彩度をもつ特定の色度を実現することができるわけではないからである。従って、彩度変換関数を指定することにより色域においてどのように色を絞り得るかの概括的な方法を教示しているWO2014/128586の図15aにおいて教示されているように、ある程度多かれ少なかれ複雑な輝度依存彩度変換関数が使用される。ある者は、図5Bにおいて、過度に高いT1を使用して正方形により示される色を上昇させた場合、到達可能な色域の外側に行き着く、しかし、無彩色軸に向かう適切な低彩度化を伴うのであれば、出力色はやはり問題とならないことが想定され得る。本例においてHDR画像自体を通信し、ダウングレードする必要しかないシステムと、受信されたSDR画像からマスターHDR画像の再構成への可逆な再構成を必要とするシステムとの間の差に留意しなければならない。前者の場合において、より深刻な色誤差が許容される。特に、いずれにせよ何らかの最適化、従って、近似が必要とされる色域の上部において、色マッピングは唯一の正確な科学というわけではないことがさらに理解されなければならない。従って、改善された色アルゴリズムを設計することが、一切の色誤差を与えないように理論上動作するものを作ることに関するとは限らず、むしろ、他のHDR色処理との比較がされなければならず、例えば、HLGは、色域のより上方のエリアだけでなく、より低いエリアにおいても深刻な彩度誤差を誘発する。
入力及び出力画像のRGB一次的色度が同じである場合、両方の画像が(すなわち、それらの正規化において使用されるそれらの異なるPB_Cにもかかわらず)、(何が発生しているかを理解することをある程度簡単にする)同じ正規化された色域形状を実際にもつことが留意されなければならない。しかし、HDR画像において比較的暗いものである色(すなわち、RGBの三角形における最大彩度が可能であり、すなわち、図5Bの色域ダイヤモンドの底部に存在する色)は、SDR対応像において明るいものであり、従って、ピーク輝度直下の狭い色域先端部において、別のやり方をとる場合にはこのような明るい色が不可能である(及び、さらに、MDR色は場合によっては信じがたいものである)ので、何らかの彩度の低下をもたらす必要があるであるので、依然として問題が存在する。概して、別の色処理が誤差を誘発などの理由から、又は、いくつかの色に対する異なる彩度が芸術的により魅力的な結果をもたらすので、彩度の適正化がさらに行われるが、技術的な側面に関して、読み手は、何らかの色処理仕様、典型的には正規化輝度b[Ln]又は正規化ルマb[Yn]のレンジにわたって異なり得る乗数の集合だけが存在することを仮定する(この場合において、この輝度又はルマが、どの画像表現について議論しているかに応じてニトによる完全に異なる絶対輝度に対応することに、依然として慎重に注意を払わなければならない)。
復号するこの手法が、従って、ミラー符号化に対応する(復号器が行う必要があるすべてのことを符号化器が指定する限り、画像が正しく現れ、包括的な原理は依然として常に妥当である)。コンテンツ生成側において、例えば、人間のグレーダーが、まず、彩度処理ユニットを使用して色を何らかの適切なSDR色度にマッピングし、次に、(SEI)メタデータにグレーダーが使用した彩度関数を書き込んだ。次に、グレーダーが、それらのピクセル色の明度を最適化し、別のSEIメッセージに輝度マッピング関数形状を書き込んだ。従って、受信器がHDRシーン画像を再構成するために行う必要があることは、2つの受信された色処理関数(まず、輝度変換、次に、再彩度)を単に逆に適用することだけである。
しかし新規な市場の実際的な必要性の理念によるこのような新規なシステムを実際に掘り下げて研究及び設計するとき、人は、これが、良いHDR符号化(複合)/取り扱いシステムをこれから構築するためのそれほど遠い道のりではないという本質的な問題に(まず、物事が多くの回数、完全に機能していること、及び、次に、突然機能しないことを観測ことにより)直面する。
すなわち、輝度マッピングのためのより良い、又は、より悪い視覚的な品質の様々な方法を実際に設計し得ることを想定し得るが、次に、何らかのクロマチック、すなわち彩度変換をしたい場合、問題に直面する(及び、非常に様々なタイプのHDRコンテンツがあることを理由として、いくつかのタイプのHDRシーン画像が特定のアルゴリズムの処理のものにおいて他のもより魅力的に、及び許容可能に振る舞うので、理解されることはもちろんのこと迅速に発見される問題であるとも限らない)。より正確には、彩度処理F_satは、(誰も他にまったく何も望まない場合)正確なSDRからHDRへの再構成のために指定されたものであるが、これは実際にSDRからMDRへの調整のために行われることではない。逆復号パラダイムを使用した単なる符号化された画像データの再構成の理念は理解可能であるが、ここで、最適なHDR画像の取り扱いの現在のステータスに伴って、コンテンツ生成グレーディングのみがそれらの対応する色変換関数を使用してSDRにどの基準HDR表現が使用されるかにかかわらず基準HDR表現から1つの特定の標準化された再グレーディングを作る時間と要望とをもつということに結びついた最適なディスプレイ調整の必要性という、追加的な問題が突然見出された。
従って、見た目に関するクリエーターの仕様の本質的な要素が明らかに欠けており、任意の受信器側ディスプレイにおいて実際にレンダリングするそのリアルタイムにおいて、MDRのPB_C=800ニトの見た目の画像の詳細事項又は必要性に関係したより多くの情報を供給するようにグレーダーに依頼することを始めることができない。この重要な点を再度強調しておく。すなわち、グレーダーは、すべてのレンダリングダイナミックレンジ状況に対する画像を作ることが理想的であるが、実際的な理由から、本開示のHDR取り扱い理念は、2つ(又は、少なくとも数個の)異なるダイナミックレンジの画像をグレーディングする重要な近道を採用することが必要なだけである。一方で、さらに、様々なMDR状況に対してどのように再グレーディングするかを示すデータが何らかの形で使用されなければならない。これは、大きな、そして、おそらく多くの人にとって理解することが困難な「(常に必要とされる)すべての色情報が画像ピクセルの色トリプレットに含まれる」SDR時代から、「メタデータにおける関数にそれ以上のものが含まれていない場合、実際のHDRシーンに関する少なくとも同程度の情報」へのシフトである。受信側は、良いMDR画像を取得するために、すべてのこの再グレーディング情報最適に使用することが何らかの形で必要である。HDRシーンは、この場合に輝度方向が何らかの深さと同等なものとして振る舞う3D画像であることが隠喩として想定され得、このようなシナリオにおいて、読み手は、受信側において他の2D方向ビューを計算し得るように、実際のシーンの説明を完全なものとするために、ピクセル化された画像に追加的な情報、すなわち、深さマップ又はそれに類似のものをなぜ追加するかを理解する。
従って、符号化及び輝度の挙動に関するすべての教示を利用可能にすることにより、いくつかの少なくとも実際的な解決策は、依然として、良品質に、すなわち、受信サイトにおける任意の利用可能なディスプレイ状況に対する、受信された色変換関数F_ctにおいて規定されているような、コンテンツクリエーターに従った、コンテンツに依存した意味論的に(この特定のHDRシーン、例えば、晴れ渡った屋外+薄暗い屋内の画像に)適切な再グレーディングの芸術的な要望に従って、ディスプレイ調整を行うことができることが見出されなければならない。出願人は、最近、多くの技術的原理に従って、再グレーディングとも呼ばれるこのような輝度調整をどのように行わなければならないか、又は行い得るか、すなわち、MDR画像(シーンオブジェクト)のピクセルがどの輝度をもたなければならないかを設計することに、非常に長い期間を費やしており、これは(輝度)ダイナミックレンジ低減の主目的だからであり、及び、入力色がどの出力色に変換されなければならないかの主要な第1の部分、及び、様々な画像領域の輝度の割り当てに対するすべてのこれらの様々な最適化選択が、以下の処理部、特に、クロマチック(非明度)処理における複雑さをもたらすので、これを行うことが望まれることが可能であり、望まれる場合がある。新しいフレームワークがどのような様々な状況を取り扱うことができなければならないかに関する多くの複雑な詳細事項に入り込むことなく、読み手は、例え話として、中型ボックス内に立つ必要のある人として、MDR画像生成を見ることにより、多くの問題及び可能性のうちのいくつかのアイデアを取得し得、すなわち、大きいHDRボックス内ではその人が不具合を一切伴わずにただ立つことが可能であり、SDRボックスは非常に小さいと仮定すると、その人はその人の膝と頭部との両方を曲げる必要がある。しかし、ある種のMDRボックスに対して、その人は、その人の首、又は、その人の膝を伸ばすので、従って、最適な選択をもたらすさらなる検討がなされる。さらに、いくつかの実施形態の回路トポロジーにおいて、このようなクロマチック後処理は、クロマチック前処理と同じように必要とされ、これが、例えば、SDR色度を変換することにより、MDR色度の割り当てを最適化し、従って、様々なことが試みられ得る(クロマチック方向は、明度次元及びその要求から、典型的には完全に独立しているわけではないが、ほとんど独立であると見受けられ得るので、様々なアプローチがとられ得る)。いずれの場合においても、色の色相が、概して、すべてのダイナミックレンジ画像において同一であると仮定した場合、このようなMDR画像に必要な彩度変換を行うための(通常、単純で、別のやり方をとる場合には、それは、手頃なビデオ処理ICに含めることができず、典型的には、手頃なビデオ処理ICに含めない)いくつかの実際的でありながら普遍的に適用可能な技術を考え出すことが必要とされる。それは、取るに足らない作業ではなく、それは、物事、特に、彩度(又は、概して、クロマチックの、例えば、2D行列の)処理に対する新しい見方を必要とする。
読み手は、様々な手法により、すなわち、様々な色空間において、またさらには、色空間を通る変換経路を行う様々な手法により、処理を実際に行う(例えば顧客の要望による)必要性が存在することをさらに理解しなければならない。MDR輝度の後続の決定と依然として適度に連携する、色度の何らかの事前正規化を行うこのような変形例を設計し得るいくつかの変形例が存在するが、より多くの問題を抱えるシナリオも存在し、例えば、良い色の取り扱いを行うためにその2つの次元が非常に関心のあるものであるが申し分なく直交可能ではないという問題を抱える、b[max(R,G,B)-Y]ベースの彩度処理挙動後、その輝度処理において輝度相関としてmax(R,G,B)を使用する復号器における後続の輝度処理が、(このことは、実際には、人がディスプレイ調整を行うことを開始することを所望するまでは、すべてがうまく行くことを意味し、同様の問題が、他の変形例に現れる)。
従って、(ディスプレイ調整型)輝度処理が決定された後彩度処理はそれほど無視できないので、それは特別な何らかのケア、及び独創的で新しい取り扱いフレームワークを必要としないというこの主な問題に対して、一般的なスマートな取り扱い機構が必要とされる。
出願人の全く無関係ではないが直接は関係していない先行する特許出願がWO2015/124754であることに留意されたい。これは、Crayon色空間と呼ばれる新しい色空間の規定及び、その中での色処理に関し、これは、白色の色度に向かって縮む黒色における先端部を除いて図1の円柱色空間と同様である。この色空間において彩度処理が可能であるが、(もちろん、完全に新しい彩度挙動、特に、新しい彩度ブースト関数形状を決定するために二次的輝度を以下に提示されるように考慮することによるのではなく、)ディスプレイ調整の場合にそれをどのように行うかに関係した関連する教示が与えられておらず、これがそうである理由の一部は、例えば、(規定するためにどの色近似が準備されたかにさらに依存して)先端部の一部における色に対していくつかの単純な色域マッピングヒューリスティックが使用され得るので、それがさらに、例えば、Y’CbCr空間での場合に比べて、Crayon色空間において彩度処理を相対的により簡単に行うからである。
ディスプレイ調整シナリオの場合に、良い色を計算する上述の課題を解決するために、入力画像に対応した出力画像(Im3000nit)の出力色(Y’M,Cb’M,Cr’M)を生成するように、入力画像(Im_RLDR)の入力色(Y’L,C’bL,C’rL)の色彩度(C’bL,C’rL)を処理するための非常に有用な装置(400)を開発し、この出力画像は、出力画像のピクセル色が入力色の正規化輝度位置(Y1)に比べて異なる正規化輝度位置(Y2)をもつことにより特徴付けられた入力画像の再グレーディングであり、正規化輝度は、ピクセルの輝度を画像の輝度表現のそれぞれの最大符号化可能輝度で除算したものとして規定され、これにより、入力画像の最大符号化可能輝度と出力画像の最大符号化可能輝度との比が少なくとも4以上、又は1/4以下であり、装置は、
- 入力色の輝度(Y’L)と基準輝度(L’_HDR)との間のマッピングを規定する輝度マッピング関数(F_L_s2h)と、入力色の輝度(Y’L)の異なる値に対する彩度ブースト値(b)を規定する初期彩度処理関数(F_sat)とを受信するように構成された受信器(206)と、
- 輝度マッピング関数(F_L_s2h)と、ディスプレイピーク輝度(PB_D)及び最小の識別可能な黒色(MB_D)のうちの少なくとも1つとに基づいてディスプレイ調整輝度マッピング関数(F_L_da)を計算するように構成されたディスプレイ調整ユニット(1009)と、
- 入力色の入力された輝度(Y’L)から出力輝度(Y’M)を決定するように、ディスプレイ調整輝度マッピング関数(F_L_da)を適用するように構成された輝度プロセッサ(401)と、
- 正規化輝度値(Y_norm)に対する彩度乗数を指定する彩度処理技法に基づいて入力された色彩度(C’bL,C’rL)を出力色の色彩度(Cb’M,Cr’M)にマッピングするように構成された彩度処理ユニット(410、411)と、
を備え、
装置が、初期彩度処理技法(F_sat)に基づいて、及び、輝度マッピング関数(F_L_s2h)に基づいて輝度マッピング関数(F_M2H)を適用することにより出力輝度(Y’M)から導出可能な二次的輝度値(Y’_H)に基づいて、最終彩度処理技法(b;Bcorr)を計算するように構成された彩度因数決定ユニット(402)をさらに備えることを特徴とし、彩度処理ユニットが、最終彩度処理技法(b;Bcorr)を適用することにより出力色の色彩度(Cb’M,Cr’M)を計算するように構成されている。
このフレームワークは、ディスプレイ調整輝度マッピング関数を計算するための様々な技術的な異なる基準を可能にするように調整される(例えば、ディスプレイピーク輝度能力が、例えば1000ニトに向かって100ニトより上に上昇するとき、HDRの見た目、及び、対応するシーンオブジェクト輝度分布にある程度、より迅速に進む)が、(例えば、TVにおいて)技法が固定された後は、それらがコンテンツ生成側において所望されるようにグレーディングされるので、2つの基準グレーディングHDRとSDRとの間の元の輝度マッピング関数の間の関係と、それら2つのグレーディングされた画像のうちのどちらが実際に受信器に通信されるかに応じたF_L_s2h又はF_L_h2sと、ディスプレイ調整輝度マッピング関数F_L_daとが固定され、従って、ディスプレイ調整型MDR画像の相補的なクロミナンス又は色度最適化の問題は、任意の実施形態により本発明により取り扱われ得る。通常、彩度処理は、例えば、正規化されたSDR色の色域において規定されたHDR画像通信のSDR画像通信の変形例における、入力クロミナンスC’bL及びC’rLを、出力としてMDRクロミナンスにマッピングし、次に、このようなMDR及びSDRの必要な彩度適正化の間の関数関係が必要とされるが、生成側は、SDRからHDRへの彩度技法のみを通信している。
3つのSDR、MDR、及びHDR輝度のうちの欠けた1つである二次的輝度が、様々な例示的な実施形態において以下に示されるように受信器において計算され得、及び、(二次的輝度のこの導出は、SDRからMDRへの、又はHDRからMDRへの再グレーディングの色処理のクロマチック処理部のために実際に使用されるが、)このHDR輝度は輝度自体間の関係に基づいており、すなわち、本手法により、この特定のHDRシーン画像がメタデータにおけるF_L_s2h又はF_L_h2s関数形状により生成側から通信されるように輝度再グレーディングを行うことを必要とする。
それに対して、MDR輝度と、入力輝度がSDR輝度である場合にHDR輝度である必要とされる二次的輝度との間の関係を与える輝度マッピング関数F_M2Hが計算され得る。以下に示されるように、関数F_L_s2hに基づく好ましい関数F_M2Hは関数F_L_s2h自体であり、関数F_L_s2hは、生成側において確立されたHDR輝度よりある程度暗いHDR輝度を生成する。実施形態に対する別の合理的な選択は、コンテンツ生成側において確立された元のHDR輝度を使用することである。当業者の読み手は、受信されたSDR輝度からMDR輝度を計算するためにディスプレイ調整型関数を確立し得る場合、必要とされる場合に、MDR輝度から(元の、基準)HDR輝度を生成するために補関数をどのように決定し得るかを理解する(これは、ディスプレイ調整関数のスケール調整されたさらなる続きであり(図16Bを参照されたい)、すなわち、曲線F_L_da上において開始HDR輝度をMDR輝度にマッピングする輝度乗数ではないが、F_L_da曲線上におけるy座標及びF_L_h2曲線上におけるy座標の乗数であり、SDR輝度から始まる逆方向におけるマッピングに対応し、実用的な一例は、例えば、図10のA_L^(1-P)の例として、この計算を迅速に行うが、それは、任意の所与のx座標に対する3つのそれぞれのy座標としての3つの輝度に関係した3つの曲線、すなわち、恒等曲線及びF_L_s2hとF_L_daをもつ場合、当業者は、図7を使用して説明されるように、別の1つから始めて3つのうちの1つの輝度を計算する乗数を含むLUTを作り得ることを見出すことが過度に困難であってはならない)。
上述のように、最大でもただ1つの輝度(典型的には、処理されるピクセルの入力輝度、又は、代替的に、それに対応した輝度、すなわち、典型的には、その使用のために、すなわち、現時点で接続されている実際のディスプレイのためにHDRシーンの元のコンテンツ生成側のグレーディングされた画像に対応した最良の画像をレンダリングすることのために最適となるように現在計算されている画像の出力輝度)に依存する彩度処理により、正確な出力色を得るために、入力色のクロマチック成分(すなわち、色度、又は、それらの対応するクロミナンス表現)を処理することが可能であるように一見考えられるが、しかし、いくつかの異なるグレーディング状況に対して正確な色を作ること、例えば、ピーク輝度であって、そのピーク輝度に対してどの画像も生成側においてグレーディングされていないピーク輝度をもつMDRに対する最適画像を作ることは、最初から非常に扱い難いように見受けられる。
従って、必要とされるブースト因数bの計算を(例えば、乗数によるクロミナンスCb及びCrの)彩度の実際のブーストの前における計算として行う、典型的には彩度因数決定ユニット(402)として具現化された彩度処理部は、コンテンツデータ生成側において知られていなかった、すなわち、彩度処理技法F_satが厳密に最適化されることが絶対に不可能な対象の、例えば、MDRディスプレイピーク輝度といった、この場合の新しい特別な状況に対して彩度ブースト仕様がどの程度まで変えられなければならないかを示す適正化輝度として機能するこのピクセルに対する二次的輝度値を考慮することを必要とする。しかし、それは、実際に、このようなデュアル輝度アプローチが困難さを解決し、及び、単にそれらの輝度に関するだけでなく、それらの色彩度(及び、典型的には、マスター画像のすべてのグレーディングにおいて実質的に同一である色相)に関しても正確な(又は、全体として少なくとも合理的な程度に近い近似値の)MDR画像色を生成し得ることを証明している。
正確なMDRクロミナンスの計算を最終的に実施する乗算器410及び411に必要なb因数の計算を実施形態がどのように行うかは、例えば、以下のとおりである(又は、同じように、例えば、色度などの他の色表現の他の色座標において同じことを実施するICトポロジーを設計し得るが、YCbCr表現は、ビデオ色処理の本分野において好ましいものであるように見受けられる)。
装置(400)は、二次的輝度値(Y’_H)が、受信された初期彩度処理関数(F_sat)の入力座標として使用されて、その入力座標に対する関数の値として乗算因数(b)を得ることをさらに特徴とする。従って、この場合、彩度ブースト値関数は、(任意の特定のピクセル輝度の位置は、MDR画像計算シナリオにおいて「誤り」であるが、ユニバーサルな正規化輝度に対して)それが入力されたときに、すなわち、通信されたときにそれが図らずももっている形状F_sat[Y_norm]とともに使用されるが、このピクセルに対する必要とされるb因数を参照するための正しい位置は、このHDR輝度として決定される。これは、特定の計算トポロジーに対して有用である。
代替的に、装置(400)は、二次的輝度値(Y’_H)が、入力色の各可能な正規化輝度(Y’L)に対する最終彩度処理技法(b;Bcorr)の新しい出力座標を計算するために使用されることをさらに特徴とする。すなわち、この変形例において、F_sat関数に対する新しい形状が、各入力正規化輝度/x座標に対して異なるy座標を使用して計算される。これは、図12のプリロードする例など、入力色の輝度に基づいて、乗算器にどの彩度ブースト因数が送信されるかを直接読み取ることを所望するクロマチックの処理コンポーネントを含む実施形態に有用である。
さらなる研究の後、研究者のうちの1人により、より低い符号化ピーク輝度PB_Cの画像に再グレーディングするときに、最も明るい色に対する良い輝度の絞りを主に決定するために適用され得る同じ技術が、暗い色を改善するために、例えば、見る者が比較的明るい見る環境において画像を見る場合、このような暗い色を明るくする必要があるとき、同様に使用され得ることが発見された。
実際、原理的には、より複雑な彩度、又は、さらには色度処理の実施形態が、同じ原理に従って設計され得るが、(画像に対する必要性、とりわけ、より高いダイナミックレンジの画像がより低いダイナミックレンジ画像に変換される必要があるか、その逆であるかに応じて)乗算ブースト(又は、減光)として彩度を見ることが実際的に有用である。しかし、研究が示すように、解決策のこのような構築が行われるが、輝度ダイナミックレンジ再グレーディングの複雑さを理由として、このような乗算因数bは、典型的には(RGB色域の複雑な先細形状を理由として)正規化輝度に伴って、及び、典型的には、コンテンツに依存した形態により(例えば、例えば染色されたガラス窓又は色付きランプに、明るい高彩度色が存在するか否かに応じて)変動する。すなわち、彩度仕様F_satは、典型的には、(例えば、輝度がMDR画像に対するそれらの適切な正規化値に既に変換されているSDR中間画像における)各可能な正規化輝度に対する適切なブースト因数b[Y]とともに、生成側から通信される(しかし、原理的にいくつかの実施形態は、受信側自体においてそれを生成し得る)。従って、最終的な彩度処理技法を決定する2つの輝度のうちの第1の輝度が、現在のピクセルがどの程度明るいか、及び、このような明度に対してどの彩度変換が必要かに関する(例えば、LUTとして具現化されたと仮定して)関数の入力又はインデックスとして使用される。上述のとおり、この特定の状況(すなわち、例えば、5ルクスの見る環境に対する1700ニトPB_D MDR画像、又は、その同じ5ルクスの見る環境に対する、又は、500ルクスの環境に対する3000ニトPB_D MDR画像を計算することなど)に対して最終的に正しい彩度ブーストが行われることを保証する状況適正化決定輝度として、二次的輝度が必要とされる。
説明されるように、典型的には、2つの輝度のうちの1つが、輝度マッピング前(F_Lt)輝度であり、2つの輝度のうちの他方の1つが、輝度マッピング後輝度であり、マッピングは、輝度変換を実施する異なる色処理サブユニットにより実施され、彩度処理の前又は後に実施されるタイミングワイズであり、従って、処理フローワイズである(前のものは、従って、輝度マッパーにおける入力輝度である)。それら2つの輝度は、高ダイナミックレンジシーンの画像を取得するために最適化されたピクセルの色をもつピクセルの対応する輝度であり、前輝度及び後輝度は、そのシーンの2つの画像の輝度であり、そのシーンの第1の画像が、他方の画像の第2の画像ピーク輝度(PB_LDR)より少なくとも2倍した高さの、又は、少なくとも2分の1倍した低さの第1の画像ピーク輝度(PB_HDR)をもつ。本概念は、異なるダイナミックレンジの画像が計算される必要があるシナリオにおいて特に有用である。例えば、100ニト画像が入力される(しかし、この画像は、正しく行われた場合、色処理関数F_Lt及びF_satと一緒に、HDR画像を再構成すること、又は、MDR画像を作ることに関するすべての情報を含む)が、例えば、750ニトPB_Dディスプレイが接続されているので、最終的に必要とされるものは、750ニト画像である。従って、本装置は、(入力画像ピクセル色と一緒に色マッピング関数を使用することにより技術的に実現される、元のマスターHDR画像がどのように見えていたかを考慮することにより、)すべての画像オブジェクトの輝度だけでなく、ピクセル色のクロマチックの側面、特に、その彩度をこの能力のディスプレイにおいて最適に見えるようにするために、すべての情報の最適な使用を行うことが必要とされる。(これは、典型的には、異なるピーク輝度PB_C、又は、アップグレード又はダウングレードのどの方向にダイナミックレンジ変換が進行するかに応じて、典型的には少なくとも2倍大きいか、又は1/2倍小さい、そのダイナミックレンジにおける最大限に表現可能な輝度を、2つの画像のうちの1つがもつことを特徴とする)大幅に異なるダイナミックレンジの2つの画像のうちの1つが、典型的には、(ユニット401の)輝度マッピング前に存在する画像であり、他方の画像はそのマッピングにより結果的にもたらされる。
有益なことに、装置(400)はマスターHDR画像のピーク輝度と100ニトのピーク輝度との間においてピーク輝度をもつ画像である、中間ダイナミックレンジ画像(Im3000nit)のピクセルの中間ダイナミックレンジ輝度(Y’_M)である2つの輝度のうちの第1のものをもち、中間ダイナミックレンジ輝度(Y’_M)は、輝度プロセッサ(401)により入力輝度から計算され、2つの輝度のうちの第2のものは、マスターHDR画像のそのピクセルの対応する輝度である。次に、b因数が、F_sat LUTにおけるインデックスとしてMDR輝度から計算され得るので、これは実際的に有用な実施形態である。
有益なことに、装置(400)は、2つの輝度のうちの第1のものとして入力輝度をもつ。この場合、すべてが、開始時の状況から計算され得、すなわち、入力輝度は、LUTへのインデックスを形成する(これは、インデックス適正化を使用する実施形態において二次的輝度によりリセットされ得るが、この実施形態の変形例は、F_sat関数の形状を適正化する実施形態に有用であり、この入力画像輝度としてインデックスを維持する)。
有益なことに、装置(400)は、2つの輝度のうちの第1のものが、受信側ディスプレイの入力画像の最も暗い色の第1のレンダリング能力のために最適化する第1の輝度マッピング関数(1401)を使用して計算された(例えば、中間ダイナミックレンジ)輝度(Y’_M)であり、2つの輝度のうちの第2のものが、実際の受信側ディスプレイ(201)の入力画像の最も暗い色の第2のレンダリング能力のために最適化する第2の輝度マッピング関数(1402)を使用して計算された(例えば、中間ダイナミックレンジ)輝度(Y’_M)である装置である。本原理は、新しいMDR画像が異なるディスプレイピーク輝度PB_Dのために、というだけでなく、特に、その最も暗い黒色が受信側ディスプレイにより適切にレンダリングされ得る他のダイナミックレンジの態様の計算のためにも、計算されることを必要とする場合に作用する。
有益なことに、上述の変形例のうちの1つの装置を備える高ダイナミックレンジ画像計算装置は、高ダイナミックレンジ画像計算装置が、少なくとも500ニトのピーク輝度をもつ画像を出力するように構成されていることを特徴とする。
有益なことに、本発明は、入力画像(Im_RLDR)の入力色(Y’L,C’bL,C’rL)の色彩度(C’bL,C’rL)を処理して、入力画像に対応した出力画像(Im3000nit)の出力色(Y’M,Cb’M,Cr’M)を生成する方法として実現され、出力画像が、出力画像のピクセル色が入力色(Y1)の正規化輝度位置に比べて異なる正規化輝度位置(Y2)をもつことにより特徴付けられた入力画像の再グレーディングであり、正規化輝度が、ピクセルの輝度を画像の輝度表現のそれぞれの最大符号化可能輝度により除算したものとして規定され、結果として、入力画像の最大符号化可能輝度と出力画像の最大符号化可能輝度との比が、少なくとも4以上、又は1/4以下であり、本方法は、
- 入力色の輝度(Y’L)と基準輝度(L’_HDR)との間のマッピングを規定する輝度マッピング関数(F_L_s2h)と、入力色の輝度(Y’L)の異なる値に対する彩度ブースト値(b)を規定する初期彩度処理関数(F_sat)とを受信することと、
- 輝度マッピング関数(F_L_s2h)と、ディスプレイピーク輝度(PB_D)及び最小の識別可能な黒色(MB_D)のうちの少なくとも1つとに基づいて、ディスプレイ調整輝度マッピング関数(F_L_da)を計算することと、
- 入力色の入力された輝度(Y’L)から出力輝度(Y’M)を決定するようにディスプレイ調整輝度マッピング関数(F_L_da)を適用することと、
- 正規化輝度値(Y_norm)に対する彩度乗数を指定する彩度処理技法に基づいて出力色の色彩度(Cb’M,Cr’M)を取得するために入力された色彩度(C’bL,C’rL)をマッピングすることと、
を有し、
本方法が、初期彩度処理技法(F_sat)に基づいて、及び、輝度マッピング関数(F_L_s2h)に基づいて輝度マッピング関数(F_M2H)を適用することにより出力輝度(Y’M)から導出可能な二次的輝度値(Y’_H)に基づいて、最終彩度処理技法(b;Bcorr)を計算することをさらに有し、出力色の色彩度(Cb’M,Cr’M)が、最終彩度処理技法(b;Bcorr)を適用することにより計算されることを特徴とする。
有益なことに、方法は、二次的輝度ではない最終彩度処理技法の計算において考慮された2つの輝度のうちの1つが、乗算因数(b)を得るための参照輝度であることをさらに特徴とする。
有益なことに、方法は、2つの輝度のうちの1つが、輝度マッピング前(F_Lt)輝度であり、2つの輝度のうちの他方の1つが、輝度マッピング後輝度であること、及び、2つの輝度が、高ダイナミックレンジシーンの画像を取得するために最適化されたピクセルの色をもつピクセルの対応する輝度であり、前輝度及び後輝度が、そのシーンの2つの画像の輝度であり、シーンの第1の画像が、他方の画像の第2の画像ピーク輝度(PB_LDR)より少なくとも2倍高い、又は、少なくとも2分の1倍の低さの第1の画像ピーク輝度(PB_HDR)をもつことをさらに特徴とする。
有益なことに、2つの輝度のうちの第1のものが、マスターHDR画像のピーク輝度(PB_HDR)と100ニトのピーク輝度と間にピーク輝度をもつ画像である中間ダイナミックレンジ画像(Im3000nit)のピクセルの中間ダイナミックレンジ輝度(Y’_M)であり、中間ダイナミックレンジ輝度(Y’_M)が、入力輝度から計算され、2つの輝度のうちの第2のものが、マスターHDR画像のそのピクセルの対応する輝度である方法がさらに実現される。
有益なことに、2つの輝度のうちの第1のものが入力輝度である方法がさらに実現される。
従って、HDR技術に対する本開示の貢献の基本的な性質は、例えば、SDR入力色、及び、このような色が全体としてどのように再グレーディングされなければならないかのメタデータにおける関数的仕様に基づくMDR色計算である(特に、F_L=F_L_s2hは、SDR画像ピクセルからマスターHDR、例えば、4000ニトPB_C対応ピクセルに向かうときに輝度がどのように明るくならなければならないかを指定するが、この関数は、さらに、ディスプレイ調整アルゴリズム及び対応する関数F_L_daを介して、任意の中間MDR画像ピクセル輝度がどのように再グレーディングしなければならないかを決定し、SDRからMDRへの、又はHDRからMDRへの色処理フレームワークのクロマチック部分は、受信された入力基準彩度技法から最終彩度技法を決定する、及び、適用される正しい最終彩度技法を決定するために、3つの輝度(SDRY、MDRY、HDRY)のうちの2つ、例えば、入力SDR輝度、及び、計算された対応するMDR輝度に加えて、3つのうちの第3のもの、例えば、HDR輝度を使用する、対応する、例えば、SDRからMDRへの彩度ブースト(b)を正しく決定するために、この輝度再マッピング必要性情報を様々な可能な実施形態の例を使用して、どのように使用するかを教示する。これは、F_satにおいて通信されたものに比べて、各可能な入力正規化輝度に対する新しい彩度ブースト値を計算する。
本発明による方法及び装置のこれらの態様及び他の態様が、以下で説明される実施態様及び実施形態から明らかとなり、以下で説明される実施態様及び実施形態を参照しながら、及び、添付図面を参照しながら説明され、添付図面が、他の手法により実現され得る、より概括的な概念を例示する非限定的な特定の例示的な図として機能するにすぎないことを読み手は理解し、添付図面において、破線は、コンポーネントが任意選択的であることを示すために使用され、実線のコンポーネントは必須であるとは限らない。破線は、本質的であると説明される要素がオブジェクトの内部に隠されていることを示すために、又は、例えば、例えば、オブジェクト/領域の選択(及び、それらがディスプレイにどのように示されるか)などの無形のものに対しても使用され得る。教示の簡潔さを目的として、いくつかのコンポーネントをいくつかの画像にのみ示しているが、それらのコンポーネントが他の様々な実施形態にも必要な変更を加えた上で追加され得ることは、-内容の複雑さ、及び、なされ得る様々な代替的な実現例を知らされたとき-当業者の読み手に明確なはずである。いくつかの図が、任意のより高いレベルの抽象性で、例えば、技術的フレームワークレベルで実施形態の態様を説明していることも明確なはずである。
従来技術の教示がどれほど古典的に彩度処理を見ているかを概略的に示す図である。 符号化器及び復号器を含むHDR画像符号化フレームワークの例、特に、受信器側の受信されたSDR画像のピクセル色を元のマスターHDR画像ピクセル色の十分に近い再構成にマッピングするための1つ又は複数の関数(F_ct)をさらに通信することにより、SDR画像として実際に高品質高ピーク輝度(例えば、5000ニト)HDR画像の通信を達成するものを概略的に示す図である。 少なくともピクセル色の輝度の側面が懸念される限りにおいて、画像輝度ダイナミックレンジ再マッピング(再グレーディングとも呼ばれる)において典型的に発生する色マッピングのうちのいくつかを概略的に示す図である。 本出願の原理のうちのいくつかによる、新しいHDR画像復号器の一実施形態を概略的に示す図である。 全体的な色変換のいくつかの実施形態が、輝度変換をまず行った後でクロマチック色変換(特に、ピクセルの彩度を調節する変換)をどのように行い得るか、又は、他の実施形態が処理を逆にどのように行い得るかを概略的に示す図である。 SDR画像として実際にHDR画像を通信する一実施形態、及び、相対的なクロミナンスベースの色空間における典型的な色変更を概略的に示す図である。 色度ベースの色空間における色マッピング、及び、異なるピーク輝度を含む異なるダイナミックレンジのディスプレイのために画像を最適化するための正規化輝度の変化が何を典型的に伴うかを示す図である。 とりわけ、異なるダイナミックレンジのディスプレイにおいて対応する見た目をもつ必要がある色がどのように、実現可能な色域の外側に外れるかを示し、さらに、これは最適な彩度適正化技法により取り扱われなければならないことを示す図である。 彩度と様々な輝度との間のいくつかの関係を概略的に示す図である。 特定の処理技法が(すなわち、例えば、その特定のPB_MDRのための専用の輝度及び彩度処理LUTとして)通信されていないMDRピーク輝度に対する再グレーディングのための2輝度の最適化された彩度技法の別の可能な実施形態を概略的に示す図である。 これが、それぞれの3つの異なるディスプレイピーク輝度に対して最適化された画像の3つの特定の再グレーディングされた状況に対して最適化された色を得たときの、特定のオブジェクトにおける特定のピクセルに対する輝度間の関係を概略的に示す図である。 本発明の原理による別の有用な復号器の実施形態を概略的に示す図である。 その実施形態においてどの色処理が関与させられるか、及び、そのPB_MDRに対して最適化された出力画像を必要とする任意の特定の接続されたMDRディスプレイのために、どのようにそれが正しいF_sat LUT関数形状を規定することをもたらし得るかを概略的に示す図である。 例えば、ミルキーブラックをもたらすディスプレイの大幅な漏れ光などの黒色レンダリングにおける欠点を適正化する輝度処理がどのように関与するか、及び、どのように、2輝度ベースの最適化された彩度適正化技法がこのような状況のもとで機能するようにさらに調整され得るかを概略的に示す図である。 その例示的な実施形態に対する輝度に基づくいくつかの適正化曲線を概略的に示す図である。 ディスプレイ調整がどのように動作するか、及び、再グレーディング可能関数のレンジの2つの最端部間において再グレーディングするときコンテンツクリエーターにより決定されたようにこのHDR画像に対する再グレーディングの必要性を通信する受信されたテンプレートF_L_s2h輝度マッピング関数からディスプレイ調整型関数F_L_daがどのように計算され得るかを概略的に説明する図であり、すなわち、基準グレーディングは、典型的には、当初生成されたマスターHDR画像、及び、その対応するSDR100ニトPB_C画像である。 入力SDRクロミナンスを良い対応する出力MDRクロミナンスに転換する良い彩度処理技法を、HDR二次的輝度がどのように結果的にもたらし得るかの別の実施形態を概略的に示す図である。
(発明された原理を同様に実施するいくつかの可能な手法の)様々な実施形態の詳細に入る前に、図5は、-例えば、どの彩度の規定及び/又は処理が特定のビデオ通信システムにおいて使用されるかなどの他の詳細に関係なく-いくつかの実施形態が、クロマチック処理の前に輝度処理を(例えば、復号側において、又は、実際にはそれを一般的に説明し得るので、2部分明度/クロマチック処理を行い得る任意の装置において)行うか、又は、逆に行い得ることを読み手に示している。さらには、ある種の並列処理を想定可能である。さらには、何らかの「逆の順序の」処理が想定可能である。例えば、例えば、ピクセルごとの処理を行うための実際の計算エンジン(すなわち、例えば、4Kピクセルをカバーする走査ライン上において連続してピクセルを処理するIC)は、クロマチック処理をまず行ってから、輝度処理を行う(すなわち、まず、正しい彩度を取得してから正しい輝度を取得する)タイプのものである。特定の輝度(又は、ルマ)に対応したブースト因数s(Y_MDR)を知る必要があるが、(例えば、入力されたSDR画像からのそのSDR輝度のみではあるが)その輝度がまだ知られていない場合、場合によっては彩度処理として厳密に次に何を行うかをアプリオリに知ることは困難である。しかし、それを行う手法が存在する。例えば、ソフトウェア並列処理が、いくつかの場合において、いくつかの手法により、どのような種類の彩度修正が現在のタイプのピクセルに必要であるかを確立し得る。例えば、1023種類のSDR輝度に対して何が行われなければならないかを試験する必要しかないので、従って、例えば、現在の画像のピクセルの実際の処理の前に、(例えば、すべてのY値に対して因数1.0を使用して彩度ブロックがバイパスされた状態で)色計算チェーンを通して1023個の異なるSDR輝度を送信し、どのMDR輝度が現れるか、どの彩度がそれらに必要か、及び、事前彩度トポロジーにおいて1023種類のSDRピクセルに対してどの同等な彩度が必要かを確認し得る。当業者の読み手は、例えば、処理ループを2回行うことといった、同じ結果に対する他のトポロジーが可能であることを理解する。
関心のある変形例は、ピクセルがそれらの最終的な正しい(例えば、HDR)輝度をまだもっていないことがあるが、様々な明度のピクセル間の判別を可能にする何らかの指示が依然として存在し、これが、ピクセルの正しいタイプ(明度)に従ったクロマチック前処理を可能にするものである。2つの異なるダイナミックレンジ表現、すなわち、それらの(例えば、HDR)輝度位置、従って、それらの特定の必要とされる彩度変換においてピクセル輝度の間に1対1のリンクが作られ得る場合に、これが実行され得る。実質的に可逆なシステムの場合、(輝度マッピングによりリンクされた)SDR相対輝度とHDR相対輝度との間に少なくとも大まかな関係をもっており、(修正の加えられた受信器側の決定されたマッピングによりリンクされた)MDR輝度、すなわち、例えば、MDR画像ピクセルに対する彩度ブーストとして必要とされるものが、対応する、例えば、SDR画像ピクセルに対して原理的に定式化され得る。例えば、何らかの正規化されたRGB座標及び輝度Y/Y_refを使用して何らかの正規化された色域において正規化された入力ピクセルをもっている場合に、Y_refがすべてのピクセルに対して固定値というわけではないが、例えば、単調関数である場合でも、これが行われ得る。以下から読み取ることができるとおり、次に、色度又は正規化されたクロミナンスに適用するように彩度関数形状を調整し得る(すべてが同じ色域に入った後、ユニバーサルな0.0~1.0の正規化輝度レンジY*により除算することによりいくつかのことを行い得る)。
図5Aは、輝度ファーストタイプの、例えば復号器の、色処理を示す。第1のダイナミックレンジ(XDR)の画像、すなわち、輝度Y_XDRのピクセルが入力される。普遍性を失うことを望まなくても、これらがSDR輝度又は正規化輝度となることが想定され得る。輝度変換ユニット501は、何らかの輝度変換関数F_Lt、例えば、例示的なガンマ関数などを適用する。これは、別のダイナミックレンジの何らかの画像に対する輝度Y_ZDRを結果的にもたらす(例えば、入力として100ニトSDR、及び、出力として1000ニトHDR)。正規化された色域における変換を説明することが多くの場合に有用である。その状況において、XDR画像(ダイナミックレンジXを使用した画像については表記が簡潔となり、例えば、0-PB_C=Xニトである)とZDR画像との両方が、同じ色域形状に輝度をもち得る(図5Bに、輝度軸が上向きに延びた状態でその黒色点先端部上において線形RGB色キューブを傾けることに対応したダイヤモンド表現における変換が示されており、入力及び出力の原色が異なる場合、クロマチック処理がさらにそれを考慮し得るが、説明は単純なまま維持される)。
従って、同じ捕捉されたHDRシーンに対して、SDR画像は、ダイヤモンド形の(正規化された)符号化又は表示色の色域がはるかに高く広がるピクセル色のクラウドをもち、HDR画像は、ほとんどの(対応する)色がその相対的な色域においてはるかに低い位置に納まり(100/1000ニトの例では典型的には約10分の1と低い)、いくつかの色のみが色域において高く位置するクラウドをもつので、HDR画像とSDR画像との間の差が知覚可能となる(例えば、グレーダーは、SDR及びHDRグレーディング画像の両方に対してPB_C、すなわち、ダイヤモンドの上部において例えば、金属表面における太陽のいくつかの鏡面反射といった最も明るい色をマッピングすることを決定する)。
次に、彩度処理ユニット(502)が彩度変換処理を適用し、彩度変換処理の限定ではないが、彩度変換処理が、s_out=b(Y_ZDR)*s_inのタイプのものであると仮定し、ここで、s_out及びs_inは、(例えば、Cr、Cbベースの)何らかの色空間において規定された彩度であり、ブースト関数b(Y_ZDR)は、様々な可能な輝度に対する値の集合として彩度のブースト又はディミニュエーションを規定する何らかの関数である(さらに、限定されないが、それは、インデックスとしてのY_ZDR値と、例えば、1/k又はk、例えば、0.03又は1.5などの値とが記載された受信されたLUTであると仮定する)。この手法により、ディスプレイ色域の制限だけでなく、この特定の画像又は画像のショットの必要性、すなわち、多くの非一様な手法により色域を埋め得るそのピクセル輝度の実際の分布にも基づいて彩度が形作られ得る。入力が、例えばSDRである場合、出力色ColHDRは、この例においてHDR色である。より複雑な実施形態では、彩度ブースト関数は、より複雑であり、より多くの画像的側面の関数であり得、例えば、それは、b’(max(R,G,B)-Y_ZDR)として規定されるが、より簡単に理解することを目的として、より単純な修正例が再度説明されることに留意されたい。この部分は彩度測定又は同等な座標、例えば、R-Y、G-Y、及びB-Yをブーストすることにより典型的な彩度を実施するので、彩度ブースト関数は、最終的に「正しい」彩度ブースト関数b(Y_ZDR)でなければならず、すなわち、本開示は(いくつかの実施形態において、少なくとも受信側において部分的に規定されるが、多くの場合、HDR画像符号化信号に関係したメタデータにおいて受信された、生成側の2つの基準グレーディング間における最適な彩度処理の仕様にすぎない)初期彩度技法又は関数の修正について教示するので、最終ブースト関数と呼ばれ得るもの(新しい状況、特に、新しい計算構成トポロジーのもとで規定されたものに対応したもの)が、使用されなければならない。
図5Bは、(符号化又はそれに対応したディスプレイの)正規化された輝度クロマ色域510における2つの連続した色変換の演算を示し、すなわち、第1の変換T1が、例えば輝度の上昇を行い、次に、T2が、例えば彩度の低下を行う(これは、例えば、晴れ渡った屋外のピクセルを色域内に絞るために彩度の低下を行う必要がある、より高いダイナミックレンジの画像をより低いダイナミックレンジ画像に変換する、復号器又は符号化器に対する典型的な色変換であり、SDRからHDRへの色変換を行う復号器の場合は、まず正規化輝度の低下が行われた後、彩度ブーストが行われる)。
同様に、図5Cは、まず、彩度処理ユニット521により(事前)彩度処理が実施され、次に、輝度変換ユニット522により輝度変換が実施され、繰り返しになるが、この例では、必要に応じてHDR色(ColHDR)を生成する代替的な実施形態を示す。誰かがなぜそのような好ましい復号トポロジーを設計したかの理由が存在し得る。Y_XDRのスルーリンキングに留意されたい。図5Dは、正規化輝度/クロマ色域530において、この処理命令がどのようにして、まず、彩度位置を適正化するために(事前)彩度を行い(変換Ta1)、次に、所望の輝度変換(Ta2。Ta2のために、例えば、復号器は、例えば生成側において人間のグレーダー又は自動グレーダーにより決定されて、例えば、LUT Y_out=F[Y_in]として通信された輝度変換関数形状を取得する)を行うかを示す。ここで、SDR輝度に対する対応する正規化されたHDR画像輝度を導出するための典型的な処理が示され、すなわち、(同じ色域ダイヤモンドに示される)正規化HDR輝度が低下させられる。彩度の位置は、(このダイヤモンド色域におけるクロミナンスの規定にもかかわらず)そのHDR輝度に対して既に正しいものである。
実際に、復号の通常の教示を考慮すると、技術的な設計者は、これが図6に概略的に示されるものを伴うと考えるように誘導される。図6には、実際にSDR画像としてHDR画像、及び、受信されたSDR画像からHDRの見た目の画像を計算するための、すなわち、場合によっては量子化、DCT-ing、サブサンプリングなどに起因した何らかの丸め誤差を除いて、生成側におけるマスターHDR画像(HDR_in)と同一のHDR画像RecHDRを再構成するための関数F_ctのメタデータを通信するタイプの例示的なHDRシーン画像(+同時通信されたSDRグレーディング)の通信技術が存在する。符号化器600の輝度変換ユニット601は、例えば、このムービーのために人間のグレーダーにより所望される(又は、現実のテレビ番組に対して適切に機能する)、何らかの特定の輝度マッピング関数、例えば、LUT F_L[Y]を適用する。結果として得られる像(SDR)における出力輝度は、(それらが同じ正規化された色域において表されている、すなわち、Y_max=1.0を使用している場合でも)SDR輝度である。それらの色の色度、及び、特に彩度は、正しくないものであり、例えば、いくつかの(中間)色表現においてこれらは、柔軟なYCbCr符号化によるものではなく(又は、実現可能なRGB値を使用したものではなく、例えば、いくつかのピクセルは、負のR値をもつが、これは何らかの中間計算の実施形態において依然として行われ得る)符号化器において表される値である。彩度処理ユニット602は、各可能な正規化SDR輝度Y_SDRに対する彩度乗数を分類する選択された彩度修正関数b(Y_SDR)により、所望により(いずれも芸術的により良い色を作る、及び/又は、RGB色域内の色のいくつかをもたらす)彩度処理を適用するように構成される。これは、ビデオ圧縮、及び、何らかの送信技術610、例えば、ビデオ通信ケーブル、又は、インターネット接続、又は、例えばスーパーマーケットにおいて事前に記憶されたコマーシャルを見せるための独自ビデオネットワークなどを介した送信のために準備された最終的な完全に正しいSDR色(ColSDR)を生成する。(例えば、10ビットHEVC圧縮画像として、例えば、それらの計算されたSDR色を分類する限り、直接的なRGB符号化などの同等な表現も同様に可能であるが、典型的には、YCbCr表現における)ピクセルのためにSDR色を含む画像Imと一緒に、2つの色処理関数の逆関数が、復号器605による直接的な使用のためにメタデータINVF_L及びINVbとして符号化される。
復号器の彩度プロセッサ603は、この逆彩度関数INVbを受信されたSDR画像(Im)のSDR輝度(Y_SDR)に適用して、後でHDR画像になるために既に正しく事前に高彩度化されたSDR画像(R_SDR)を生成する(それは中間画像であるので、SDR TV又はディスプレイにおいてレンダリングするためにSDR画像としてこれが使用された場合、ピクセルの彩度は最適ではないように見える)。続いて、輝度変換器604が、逆輝度マッピング関数INVF_Lを使用してSDR輝度を対応するHDR輝度に変換することにより、RecHDR画像を生成する。
演算は、図6Bのダイヤモンド色域に示される細線は、符号化器の演算を示し、HDRマスター画像のSDR同等グレーディングを作り、太線は、逆関数を使用して復号器がこの色演算をどのようにしてほぼ完全に反転させ、受信器のRecHDR画像において生成側の元のHDR画像色を実質的に生成するかを示す。様々なダイナミックレンジの色がシフトされた対応する色位置として正規化された色域に示され得るので、このすべてが、ダイナミックレンジY_XDRが何であれ単一の色域に示され得る。
従って、これは、HDR画像を取り扱うための完全なシステムであるように思われ、そのとおりであり、これは、さらにどのようにして、それが出願人により最初に設計されたか、及び、多くの種類のHDRコンテンツに内部的に、及び、外部的に使用されたかを示す。しかし、これは問題を分かりにくくする。例えば、受信されたSDR画像から元の例えば5000ニトマスターHDR画像を再構成することしか必要としないHDRレンダリングシステムに対して、グレーディングのペア(2つのみ)が関与させられる場合に限り、これはHDRの取り扱いの完全な手法である。しかし、上述のように以下の要求事項、すなわち、ある見る者が5000ニトHDR TVではなく、例えば2500ニト屋外広報パネル(MDRディスプレイ)においてそれらの受信された5000ニトムービーを見ることが追加された場合、問題はそれ自体すぐ現れないので、多数の試験後に問題が発見される。上述のように、このシステム(例えば、この屋外パネル)は、このパネルにレンダリングされる輝度を取得するために少なくとも何らかの輝度の割り当てを行う必要がある。これは、2500ニトより高いすべての輝度のクリッピングするのではないほうが良く、その理由は、例えば、明るい空の中のすべての雲が見えなくなるからである。5000ニト符号化白色を2500ニトディスプレイピーク輝度に移動させる単なる線形輝度圧縮は、さらに、最良の選択肢とは言えない場合があり、従って、何らかのよりスマートな最適化が適用されなければならない。概して、(色がSDR色の代わりにHDR色として入ってくる場合、すなわち、受信側においてSDRにダウングレードする場合でも)図5B又は図6Bなどの色域グラフに示され得る色のシフトとしてそれ自体を示す何らかの輝度変換が存在する。
これに入る前に、わずかに異なる手法により色域、すなわち、(黒色から上に延びた円筒壁を含む)色度ベースの色域を見ることは、そのことがダイヤモンドの下部と上部との間の差を明確にするので、適切である。ダイヤモンド色域形状は、典型的な技術的画像及びビデオ色表現のうちの1つであるが、色度ベースの色空間は、処理されたときに色が理想的に何でなければならないか、及び、何にならなければならないかを示す、より自然な手法である。しかし(例えば、ダイヤモンド色域の下端に沿った原色の赤色に対して)輝度を上昇させるのに伴って、色のクロマが上昇するが、下部における色の彩度は、輝度を上昇させるのに伴って同じまま留まる(このことは、より多くの光に伴う特定の内在的な(従って、固定された)彩度をもったシーンオブジェクトを照らす自然の原理に対応する)。これは、図7に示される。(この符号化又はディスプレイに対して、最大彩度s=1.0と同一視される、円筒壁内に、黒色点から色域の下部における色域境界を外向きに動かして、上向きの錐形を変化させる)このような輝度/色度色域は、実際の問題、すなわち、色域の上部の近白色のみが、限られた彩度の色、又は言い換えると、パステル色に対応し得ることを示すために有用である。それでも、いくつかのHDRシーンは、より高いダイナミックレンジの色域と(SDRほどまで低くなる場合であっても)より低いダイナミックレンジの色域との両方に対して作成可能な色を含み、このことが、なぜピクセルの彩度に付随する問題がしばらくの間注目されていないのかについての理由の一部である。実際の画像色のクラウドが、HDRマスター画像(HDR色クラウド701)に対して、及び、両方のディスプレイにおいて同じ最終的にレンダリングされた輝度が望まれる場合、理想的には、より高い正規化輝度(Y_norm)、さらには同じ色度及び彩度に対応する(すなわち、色の位置が、色域の中央における無彩色軸から離れたものを指す)、より低いダイナミックレンジの対応する画像(MDR色クラウド702)に対して示される。ほとんどの決定的な問題は、(色域の先端部は概して白っぽい光及び鏡面反射が存在する位置であるので、いくつかのHDR画像に対しては問題になるとは限らない、)色域が狭くなり、白色及び近白色のみを含み得る色域の先端部において発生する。しかし、さらに、より暗い色に対しては、SDR、MDR、及びHDR画像ピクセルのすべてに対して適切な色度を使用することに伴って理論上は何らかの解決策が存在し得るということは、実際の場合にも、計算が直ちにすべての取り扱いシステムに対して正しいということを意味しない。MDR画像において若干誤っているだけである場合でも、色は依然として誤ったものであり得る。
読み手が後述の教示をより良く理解することを目的として、別の重要な背景的な概念が図7を使用して説明されなければならない。上述のとおり、例えば、MDR輝度Y2とHDR輝度との間における輝度マッピングは、任意の複雑な関数、例えばY2=a*Y1^3+b*Y1+cであり得る。しかし、Y1からY2へのマッピング(又はその逆)が何であれ、何らかの値Aを使用した乗算的スケーリングとしてそれが概念的に確認され得る。Aはもちろん定数ではなく、すべての可能なY1値に対する変数であり、A値は、選択された輝度マッピング関数すなわち、A(Y1)の実際の形状に依存する。さらに、SDRからHDRへのマッピングが(Y1の何らかの値、例えば、0.05に対して)、例えば、A=0.1に対応する場合、任意の中間MDR輝度へのマッピングが(すなわち、例えば、HDRからMDR_500へのマッピングの場合)、何らかのより弱い乗数、すなわち、1未満の乗数に対して、より高い値の乗数、例えば、A’=0.4を含むことが理論にかなう。様々な理由により、ディスプレイの能力と現在の画像コンテンツの必要性との間の最適な相関に関係して、これらの中間ブースト又は減光は、様々な可能な調整シナリオに伴って非常に複雑になり得るが、この特許出願に対する包括的な点は、MDRピーク輝度などの所与の調整状況に対して、例えば、Y_MDR=A’*Y1を計算するために、SDR輝度であるかHDR輝度であるかに関わらず、すべての可能な開始輝度に対してスケーリング因数A’の集合を常に指定し得ることであることが留意されなければならない。当業者が本開示の教示からこれを理解及び実施することに困難さはない。すなわち、当業者が、例えば、生成側において人間のグレーダーにより良い視覚的結果を与えるように生成された、及び、SEIメッセージとして通信されたHDR輝度とMDR輝度との間の再グレーディング関数を取得した後、当業者は、これを乗数の集合A(Y_HDR)に計算して、例えば、LUTとして当業者の輝度処理IC部にこれを実現し得る。さらに、輝度マッピング関数のディスプレイ調整に関係した特定の問題は存在しない。本発明の概括的な原理が関係する限りにおいて、読み手は(図16に従って)、PB_Dが100ニトとマスターHDRグレーディングのPB_Cとの間に位置する場合、及び、同様に、他のPB_D状況、例えば、PB_C=4000ニトの90%に対して関数が、HDRからSDRへの基準輝度マッピング曲線F_L_h2sの任意のY_HDR x座標位置に対するy座標と斜線との間の中間点を通ることを仮定し、ディスプレイ調整のより高度な可能性については、当業者は必要に応じて、例えば、WO2017108906を参照し得る。及び、当業者が当業者自身のディスプレイ調整原理を使用することを望む場合、当業者は、本開示のフレームワークにおいて使用するために、当業者のデータを最終的なF_L_HDR-to-MDR、又は、F_L_SDR-to-MDRに変換する知識をもたなければならない。従って、輝度マッピングLUTが、さらに、画像色のクラウドを上向きに、又は下向きにではあるが、典型的には(例えば、簡潔であるためにクラウド形状の変換にすぎない説明のために描かれた単純化した例の包括的な状況である、図7におけるクラウドの先端部が縦方向に大幅に絞られているが、底部ローブが、例えば同じ寸法及び形状に留まった状態で)非一様な手法によりシフトさせるこのような乗数を含むLUTとして指定され得ることが言え得る。
ちょうど1つの例が、輝度マッピングにおけるこのような乗算的ビューがどれほど、SDR又はHDR輝度からMDR輝度を導出するための可能な調整アルゴリズムをより簡単に理解する手法であるかのアイデアを与える。より低いHDR色が、縦方向高さY=0.1(又は、1/10の単位では1)にあると仮定する。例えば、SDR輝度Y2は0.5にあり、従って、SDR輝度は、A=5を乗じることによりHDRのものから計算され得る(又は、同様に、HDR輝度は、図6を使用して説明されるように受信されたSDR輝度を5で除算することにより再構成され得る)。MDR輝度は、どこかの中間位置にある。最も簡単な調整の実施形態の場合(ある者が2つの異なるディスプレイを所有しているが、同様の、例えば、典型的な晩に見るテレビ環境に置かれていると仮定し、従って、説明のために、さらに周辺の照明及び見る者の順応性を取り扱うために必要とされるすべての調整の専門的技術を無視する)、中間位置は、MDRディスプレイのピーク輝度(PB_D_MDR)、すなわち、最小値の100ニトと他端部における受信された画像の再構成可能なHDR画像のピーク輝度であるPB_C_HDRとの間において、可能なディスプレイピーク輝度のスケールにおいてそれが当てはまる位置に依存する。
HDRからSDRへの乗算が例えば5によりSDR正規化輝度を暗くする場合、HDRからMDRへの計算のためのA’を導出するために、例えば、何らかのべき関数、すなわちA’=power(A,F(PB_D_MDR))が使用され得、ここで、すなわち、たまたま、PB_D=100ニトであるSDRディスプレイであるMDRディスプレイが接続されている場合、HDR PB_D=PB_C_HDRであるディスプレイが、調整されたMDR画像(従って、マスターHDR画像でなければならないもの)、及び、グレーダーにより決定されたHDRからSDRへの変換の提供を受けるとき、Fは、一意の変換を与えるように調整された、PB_D_MDRの何らかの(典型的にはシステムにおいて事前に決定されているが、いくつかの実施形態では生成側からの選択がさらにメタデータにおいて通信され得る)関数である。厳密な関数形状は、人がはるかに高いPB_MDR値に動くとき、よりSDR的な画像の見た目を与えることに対して、どれくらい高速にMDRディスプレイがHDRディスプレイとして振る舞うことを開始しなければならないかを設計するために使用され得る。
例えば、結果的に本開示の実施形態の普遍性を制限する意図無く以下のことを説明するために使用される適切に機能する実施形態は、A’=A^apであり、ここで、MDRがHDRから計算される場合、ap=log(PB_MDR/PB_HDR)/log(PB_SDR/PB_HDR)である(PB_HDRは、この画像符号化のどのようなPB_Cであってもよく、PB_SDRは典型的な100ニトである)。SDRからMDR画像を計算するときの必要な変更を加えた同様の状況は、例えば、上述のA=1/5のHDRからSDRへの関係例に適用される、ap=log(PB_MDR/PB_SDR)/log(PB_HDR/PB_SDR)である。例えば、apは、log(5)/log(10)=0.7であり得、受信されたSDRからMDRを導出するために、0.2の代わりに0.32のみの減光を与える。もちろん、同様に機能するいくつかのより複雑な変形例が想定され得、出願人により開発されているが、いずれの場合においても、それらは、Y値のA値に対する何らかのA’を与えるようにすべて定式化され得、すなわち、それにより、何らかのHDRシーンのHDR及びSDRグレーディング(すなわち、A[Y_SDR]値)の間のどのような可能な関係に対しても、調整された状況の様々な再グレーディングを実現する。
従って、これは、ディスプレイ調整出力を得ることを可能にし、すなわち、輝度変換器604は、それがSDR入力を得るとき(再構成されたHDR画像の代わりに)MDR画像を取得するために、A-LUTの代わりにA’-LUT輝度変換関数を適用する。
しかし、彩度の何がここで依然として適用可能か?ということが問題である。処理は、非常に異なるMDR輝度ではなくピクセルに対するHDR輝度が計算されることを彩度プロセッサ603が想定していた場合、彩度プロセッサ603により行われたものである。
例えば、YCbCr色符号化(及び、彩度処理技法)では、輝度ともに上昇する非線形RGB座標の差としてCb及びCrが規定されるので、Cb及びCrは輝度により規定される。しかし、色度ベースのビューにおいても、図8を使用してより明確に示される問題が見られ得る。彩度処理が第2の処理ステップである場合であっても、様々なブースト/減光因数を含むsat[Y_SDR]LUTという規定を受信することが、この第2の処理ブロックにおいて明らかに適用され得るというわけではない。図8を使用して、受信器が(例えば、10ビットSMPTE ST.2084規定のルマを使用して)入力として通信されたHDR画像を取得する、及び、それが、100ニトTVを所有するそれらの見る者のために最適に見えるSDR画像を計算するために関数(F_Lt、F_sat)を使用する場合の、他の典型的なシナリオが説明される。低彩度化が適用されない場合、(正規化された!)HDR輝度(ブロブ801に収まる画像色)の、より高い(ブロブ802における)SDR輝度への単なるシフトが、(問題ゾーンZPにおける)このコンテンツに対する色域の外に出る色を計算する問題を生み出すことが(既に、コンテンツ生成側において)確認されている。一例として、図16のネオンサインが挙げられ得、この場合、高彩度の明るい青色(又は、赤色)のランプが若干低彩度化された青色としてSDRにおいて表される場合、それはそれほど決定的ではない(何十年もSDR画像を見てきた後で見る者は、ランプに対するこのような挙動をある意味で想定しているので、実際に、これは、SDRが発光するオブジェクトを実際に符号化又は表示することができない場合でも、オブジェクトがおそらくランプであることの標示となり、可逆なSDRベースの符号化システムに対してさえ、よく知られた低彩度化技法が選択されることを条件として、元のHDRのネオンランプ色が非常に適度に再構成され得る)。その色域外問題は、(SDR)輝度依存関数b(Y_SDR)を使用して、乗算的彩度ブーストを適用することにより(技術的な、又は市場における要求が望むように、完全に、又は、少なくとも部分的に)解決され得る(実際に、この場合、減少する)。読み手は、任意の実際のシーンの画像が、多くの場合、1つのこのような決定的なオブジェクトを含むのみであり(おそらく、ただ1つのネオンサイン、及び、すべての他のピクセルが、比較的「簡単に」再グレーディング可能である)、これは、すべての色域問題が同時に取り扱われる必要がある場合に比べて技術を緩和し得るものであり(このような非常に低頻度の画像に対して、実際には、いずれにせよある量の色誤差を目指すことを決定する)ことをさらに理解しなければならない。(非常に低彩度化された暗い色を含むにすぎない)このHDRシーンの画像ブロブの下方、及び最低部に対して、b=1.0が使用され得ることが確認された。彩度が高い、すなわち、ブロブ部が左に突出している部分に対しては、例えば、1.0から0.3まで線形に低下する低下ブーストを適用することが必要とされ、従って、結果として、SDRブロブ802の色が色域の先端部に適切にはまる。
しかし、既にMDR相対輝度レンジ(すなわち、もはや801ブロブではなく803ブロブに収まるMDR輝度が計算されている)にある色に(事後)彩度を適用することが所望される場合、輝度マッピング関数は既に適用されているので、それが小さ過ぎて過度な低彩度化につながるので、色Cxに対して、その相対輝度高さに対して彩度ブーストが適用されてはならない。
この例において適用されなければならないことは、因数1.0である。すなわち、HDR入力画像から計算されたSDR画像と同様に、このMDRブロブが出力画像の役割を果たすことが分かっている。この例の復号器の場合、符号化器が(ここでは、MDR輝度にマッピングするために調整されたディスプレイが使用されている)SDR輝度にHDR輝度をマッピングするために輝度マッピング関数F_L、及び、(ここで、異なる彩度関数に変換される)SDRクロミナンスにHDRクロミナンスを低彩度化するための彩度ブースト関数を生成したことも分かっている。及び、この例において、関数bは、符号化器の輝度マッピングの正規化出力輝度位置、すなわち、正規化SDR輝度のレンジにわたって規定される。従って、SDRブロブであるかのようにブロブ803が取り扱われ得、その対応するブロブ801より低いHDRブロブ輝度が導出され得る。それら2つ-すなわち、MDRブロブ、及び、より深いHDRブロブ-の間のマッピングは両方とも、色域の円柱部の内側にあるので、(そのbx位置に対する)b関数値が1.0となることが保証される。
読み手が誤認しないことを確実なものとするために、図17に別の例が追加されている。この場合、ブロブ801の色(依然としてHDR画像通信モードを開始すると仮定するので、処理は、符号化器及び復号器におけるものと同じである)は、ここでは、非常に明るいので色域のテント状の上部に少なくとも部分的に存在する。これは、基準輝度マッピングF_Ls2hにより絞られるSDRブロブの彩度がより小さいという効果をもつだけではない。さらに、(本例以外の他の形状をもち得るが、例示的な、輝度的に色域上部への絞りを常に実施する)何らかのディスプレイ調整輝度マッピング関数F_L_daにより、受信されたHDRブロブから計算可能なMDRブロブ803の色は、点線のブロブ803により示されるように、同じ彩度を維持することが、ある程度の色域外問題をもたらすので、当然に、この場合、低彩度化される必要がある(可逆性を必要とするさらなる計算を必要としない前方ディスプレイ調整処理を使用すると、いくつかの色が色域的にクリップされ得る場合、それは基本的な問題ではないが、回避可能である場合、そうでないことが好ましい)。従って、色801の入力HDRブロブを適切にフィッティングしたブロブ803に変換するために要求される低彩度化を計算するために、関係するHDRブロブ1701における対応するY_HDを取得するために、通信された(すなわち、ディスプレイ的に適応されていない)基準輝度マッピングF_L_s2hを、MDRブロブ803における任意の輝度Y_MDRに適用することにより(HDR輝度である)別の(第4の)輝度Y_HDが決定され得る。この位置は、最初に通信されたB(Y*n)_iniとしてのブースト値の本開示の関数において0.8の低彩度化値をもたらし、すなわち、MDR色ではなくSDR色に、HDR色を低彩度化すると仮定すると、これは、(以前の輝度マッピングサブブロックにおける相対輝度配置を行った後)入力HDRブロブ801からMDRブロブ803を取得するために必要な低彩度化量に対して驚くほど適切に機能する。それがたまたまそこに存在するSDR色のブロックであるかのように、(念のために言うと、当業者にしてみるとこれらは完全に異なる色であるが、)MDRブロックを概念的に再解釈し得ることのアハ的洞察を得たとき、それほど驚くことではないかもしれない。その状況に対して、F_L_s2hのクリエーターは、このような輝度及び決定的に高い彩度をもつこのような色が、実際にMDRブロブ803位置であるその対応する「SDR」位置に申し分なくマッピングされることの保証が得られる(従って、この洞察を得た後、少なくともこの彩度処理に対して、ブロブ801及び802について忘れられ得る)。
これは理論的な最適条件であるが、MDR輝度に加えて何らかの二次的HDR輝度を導出する他の実際的に依然として有用な実施形態も作られ得る。それがマスターHDR画像にあったものとして(及び、この例において、それが受信されたものとして、しかし、SDR画像通信の例では、ブロブ803への代わりにブロブ802にではあるがF_L_s2hを再度適用することにより、SDRブロブ802におけるSDRピクセルからそれが計算可能であるものとして)、このオブジェクトのピクセル対して元のHDR輝度Y_H1が使用される場合、1/2の値が取得される。これは、若干過度に低彩度化されたMDRブロブを生成するが、一方で、色域から外れた彩度は発生しないので、それは依然として適切に使用可能な色である(及び、関数B(Y*n)_iniは色域先端部のより狭くより高いエリアに色を嵌めるように典型的には低下することを必要とするので、これが発生することは想定されず、より低いHDR位置Y_HDが申し分なく機能する場合、いずれにせよ最も明るいものが典型的にはより決定的ではないランプ又は鏡面の強調表示ピクセルであるので、特に、典型的に発生するHDR色のうちの大部分に対して、さらにb(Y_H1)値がそれほど悪くなく作用しなければならないことが想定可能である)、及び、その一方で、それは、Y_MDR入力位置(本開示の本教示について学習されていない場合、第1の輝度処理部から外に出るときの、通常使用される彩度ブースト値関数への入力位置)において読み取られる極値1/5を使用することよりはるかに良い。
従って、Y_MDRから(又は、SDR輝度から同様に3つのものの数学的関係を介して)2つの可能な二次的輝度値、すなわち、逆ディスプレイ調整輝度マッピング関数F_L_daを介した元のY_H1、又は、F_L_s2hを介した好ましいY_HDのうちの1つを当業者の好みに従って、一次的Y_MDR値の代わりに入力(参照)値としてこの二次的輝度を(新しい彩度技法として)使用する同じ理念のもとで、当業者が計算し得ることを当業者が学習した状態にあり、MDR色を取得するためのはるかに良い低彩度化関数が達成される。
同じ態様が異なる中間画像からではあるが、単なる再構成から想定されるもの(すなわち同時通信された2つのグレーディングのうちの他方、例えば、受信されたSDRから予測されるHDR、又はその逆)ではなく、むしろ、受信側において知られているだけのPB_Dを使用した、何らかのMDR画像である画像に、最端部(すなわち、基準)ダイナミックレンジグレーディングのペアの結果として得られる画像を計算しない場合にも適用される。
図4は、出願人の標準化されたダイナミックレンジ処理装置400の例を示す。
この復号器における入力は、(例えば、MPEG圧縮解除後の)符号化されたSDR YCbCr、すなわち、輝度Y’Lである(実際にはルマであるが、輝度に等しく、輝度プロセッサ401において1.0への正規化がなされると仮定される)。これは、輝度と色度との並列処理に見えるが、実際には、それは、中間ダイナミックレンジ輝度Y’Mの入力を理由として、輝度処理の後に色度/彩度処理が続く(見て分かるように、正しい最終的なb(Y*n)値を取得するための適正化アクションが二次的HDR輝度Y’Hを介して402において決定されない場合、本例において乗算器410及び411として具現化された実際の再彩度処理部により、誤ったb関数が使用される)。F_satは、パラメトリック関数的仕様のような他の実施形態の普遍性を失わずに、ブースト因数b[Yx]を含むLUTであると仮定され、ここで、Yxは、正規化輝度である(さらに、しかし401のLUTにおいてF_L_da関数ではなくF_L_s2h関数をF_Ltとしてロードすることにより、通常の基準となるSDRからHDRへの状況においてそれが動作する場合、この説明の例ではSDR入力ルマY’LをHDRルマに変換する401の輝度処理後にそれが適用されるので、最初にYxが本例においてHDR色に関係していると考えられるが、言うまでもなく、この特許出願において教示される本開示の原理を使用することにより実際、それが一般的な/唯一の正規化された色であることが理解され得、このことが、表記Y*nがさらに導入された理由であることに留意されたい)、すなわち、典型的には、何らかのサブサンプリングされた精度ですべての可能な輝度が0から1.0の間にある。明確であるために述べると、正しいMDR LUT又はクロマチック処理技法は、概して、依然として、ユニット402により導出される必要があるので、b[Yx]の入力されたLUTは、MDR色ではなく、入力SDR色からHDRを導出するものである(乗算器は何が起こったかに関心はなく、乗算器は、正しい、すなわち、少なくとも相応の画像を与える、連続して入力されたピクセルの各Y’Lに対するb値を供給されることを必要とするだけである)。
ここで、輝度プロセッサがHDR再構成輝度(すなわちY’M=Y’_H)を出力した場合、彩度は実現が簡単である(なぜなら、それが、次に、再構成されたHDR色表現において発生するからであり、それは、最適なHDR-2-SDR変換の彩度LUTを決定するために符号化器側においてさらに使用されたものである)。すなわち、
(R’out-Y’_H)=b(Y_H)*(R’in-Y’_H)であり、G’及びB’に対しても同様であり、又は、
Cb=(128+)a*(B’-Y’_H)
Cr=(128+)b*(R’-Y’_H)であり、ここで、a及びbは、すなわち、例えば、Rec.709原色といった、符号化システムの測色に応じた定数であり(及び、定数128は、8ビット表現を使用した例示的な実施形態に対するものであり、同様の定数が、例えば、10ビット又は12ビットのために使用される)ので、また、乗算器410及び411により実施される、適切なb(Y_H)を使用した、Cb及びCrの乗算として彩度が記述され得る。Y’HであるY’Mと一緒に出力クロミナンスCb’M及びC’rMが、単なるHDR再構成のために、正しいHDR画像ピクセル色を与える。
しかし、MDR画像計算のために、彩度因数決定ユニット402における入力404は、適切なスケーリング因数を与えない。
MDR色計算のための正しい彩度乗算因数を決定することができるために二次的情報が必要とされる。この実施形態において、二次的情報は入力405におけるHDR輝度Y’_Hである(HDR輝度Y’_Hは輝度処理部のためにまったく必要とされないが、HDR輝度Y’_Hはクロマチック計算部に必要である)。
従って、これは、概して必要とされるものの第1の説明のための例である(既に本開示の発明の典型的な実施形態のアルゴリズム的に十分な仕様を形成している、図8において色域に関して説明されるものと並ぶが、本例では、典型的なIC計算ユニットトポロジーにおいてそれが説明される)。これに対し、通常の彩度計算は、(異なる彩度ビデオ色を計算するための通常の手法である)すべてのY*nに対する定数因数bをまだもっていない場合、よくても単一の輝度、すなわち、処理される色の輝度に対する依存関係をもち、ここで、最終的な彩度が乗算器410及び411により1組の2個のクロミナンスに依然として適用される場合でも、適用可能な(最終的な)彩度は、2つの輝度に基づいて決定される(さらなる例示的な実施形態が以下に示される)。
数学的に、これは、(R’out-Y’_H)=b(Y’M,Y’_H)*(R’in-Y’_H)などのように、又は、他の色表現、又は他の彩度処理決定において同様の定式化として表記され得、生成側からの所望の彩度挙動/プロファイルの通信である因数F_satが落とされており、その理由は、例えば、異なる輝度ダイナミックレンジの画像を計算する装置の色計算の実施形態に、本原理がさらに適用され得ることであり、ここで、受信側は、クロマチック又は特に彩度処理に対するそれ自体の技法を決定するが、やはり、処理されるピクセルに対する2つの輝度値に基づく。又は言い換えると、彩度因数決定ユニット402がb*_out(Y*n)=G(b_in(Yx),Y’_H)を決定し、これにより、Y’_HがYx=Y_MDRから計算可能であり、ここで、Yx=Y_HDRではなくYx=Y_MDRから始まるのだが、G関数が、説明されるようにブロブにおける対応する必要とされる彩度を取得する。以下で明らかにされるように、実際にそれを実現する2つの同等な手法が存在する。すなわち、1つが、Y_MDR位置から始めてb(Yx)を参照するために新しいx位置を計算するか、又は、1つが、対応する再計算されたb*(Yx)関数形状を同じように計算することにより、輝度プロセッサ401(それがその同じY’H値の知識情報を依然として必要とすることを当業者は理解する)により計算された初期Y_MDR位置においてではあるが、乗算器に対する正しいb値を直接的に読み取り得る。複雑な測色の詳細に立ち入る必要なく、以下のV-Yベースの変形例などのいくつかの変形例は、実際的な実現例に対して他に勝る1つの選択肢を好む。
さらに示されるものは、ディスプレイ420にHDR信号を通信することに適切な何らかの非線形OETFに従って指定された(様々な手法が存在し得るが、それらの詳細は本明細書においてさらに深入りするほど関連しない)、例えばR”、G”及びB”といったディスプレイの所望の色表現を決定するための(本出願の主要部ではないが単に完全を期すための)任意選択的な色コンバーター412である。入力輝度Y’Lからユニット402への破線の入力接続(矢印)は、適用される最終的な彩度(b)が例えば、ブースト値LUTへの正規化インデックスとしてのSDR入力輝度から、又は、既に計算されたMDR輝度(Y’MDR)からの両方から特定され得ることを示すことに留意されたく、これは同じ重ね合わせの技術的原理に従った(及び、これに従って、例えば、復号器の色処理部に対する技術的な選択がなされる)最終彩度ブースト関数の異なる計算を伴うのみであるからである。
図9は、測色的に何が発生しているかを示す。純粋なHDR再構成をもつ(すなわち、ディスプレイ調整のMDR画像生成がまだである)場合、以下のことが行われる。画像色のクラウド、及び特に、高彩度色(例えば、女性の高彩度の青色のドレス)は、符号化/送信/生成側においてブロブ901である。依然として符号化側において、例えば、人間の色グレーダーが、クラウド902が最良の見た目のSDR同等色であることを決定する。前述のように、相対輝度は、それらがHDRディスプレイより低いPB_D_SDR(典型的には100ニト)のディスプレイに示される必要があるという理由から、より高い。理想的には色度は同じでなければならないが、相対的なSDR色のクラウドが色域の狭い先端部に収まるので、それは不可能である。従って、グレーダーは、適切な彩度減光Dxを選択している。実際に、グレーダーは、すべての可能なYに対して関数Dx[Y]を通信し得る。(少なくとも、再グレーディングの明度の挙動に関する限り、(送信可能な)単調な輝度関数F_Ltのみに基づいて、SDR<>HDR再グレーディング及びその間の任意のものが実施され得る手法により、本開示のコーデック理念が規定されていることを思い出されたく、従って、これに対応して、相応の/最適なクロマチック再グレーディング挙動を符号化する同様のY依存関数が規定され得ることが想定され得る)。逆(逆の関係の)彩度ブースト関数Rx[Y]を通信することがさらに良いことであるが、それは、実施態様の細部である。
復号器は、ここで、まず、受信されたSDR色を輝度調節し(この例では、受信された正規化SDR色が検討されていることに注意されたい)、HDR色の適切に伸ばされた(又は、場合によっては、圧縮された)クラウド(クラウド903)を取得するが、正しい色度のものはまだである(その理由は、輝度処理、すなわちAを使用した乗算が、任意の色に対して実施されただけであり、従って、それは、依然として受信されたSDR画像ピクセルのSDR色度をもつからである(クロミナンスは、この色度ビューにおいて使用されるとき色度とは異なり輝度を使用して計られ、実際、1/b[Y]を関数(1/Y_SDR)*bb[Y]と見ることが多くの場合に有用であり後者の成分は色域先端部の挙動を規定することに留意されたい)。左に例が示されている彩度ブースト関数1/b[Yi]を受信することにより、受信器/復号器は、ここで、ピクセルの任意の可能な輝度Yiに対して正しい彩度ブーストRxを適用し得る(Rx=b[Yi]、例えばブロブの高彩度色に対するb[Yx])。
しかし、復号器が、ここで、最適なMDR画像輝度を決定すると仮定すると(及び、当然に、すべての正しい関数が入力及び/又は決定された状態ではあるが、この計算トポロジーを使用することが依然として望まれる)、処理される画像におけるすべての色に対して、ブロブ904が生じる。当然に、MDR色がHDR色と同じに見える(すなわち、同じ色度をもつ、及び、それほど低彩度化されていない、又は、他の場合において、より高彩度化されている)ことが望まれる場合、ここではたまたま輝度Yzをもつピクセルに対してではあるが、同じRx因数が適用される必要がある。又は、異なる手法で定式化されると、色は、この例において、過度に非高彩度である(又は、概して、誤っている)であるので、ブースト因数b[Yz]が使用されることができない。何らかの形でb[Yx]、又は言い換えるとYxが知られる必要がある(包括的な原理を実現するいくつかの実施形態の手法が存在することが以下で詳細に説明される)。さらに、例えば、色域使用最適化に対するいくつかの色誤差を考慮して、より複雑な彩度処理を構築するためにこの原理基づいて構築し得る。当業者の読み手は、これと上述のものとの間の類似性を理解するが、ここでは、一方ではSDR入力から始まって動作し、他方ではY’CbCrベースの計算トポロジーにより動作するシステムに変換される(他の教示が同様に使用される)。
図10は、第1のタイプの別の実施形態(復号器における事後彩度、受信されたSDR、正しい参照エントリー位置におけるbの直接的な輝度ベースの参照、ただし、ここでは、ダイナミックレンジ変換に非常に有用な別の彩度数学技法による)を示す。本例において異なることは、輝度ではなくピクセルの明度を定量化するために別の量J’が使用されることである。それは、J’=max(a*R’,b*G’,c*B’,d*Y’)として明度計算ユニット1003により計算され、ここで、a、b、c、及びdは、選択された最初から固定された、又は所与のHDRシーン画像に対して最適化された、及び、生成側から通信されたものであり得る乗算の定数である。出願人は、このような量、及び、それらの測色的挙動について研究を行い、それらが、HDR再グレーディングに対する有益な特徴(例えば、簡潔さ、良い色域トラバージョン制御挙動など)をまだもつ、色域における様々な可能な色度にわたる一定輝度の良い近似として機能し得ることを観測し、及びこのようなJ’明度尺度における関数は、関係した計算トポロジーにおいて輝度ベースのバージョンに同様に適用され得る。例えば、F*_Lt(max(R,G,B))明度マッピングが使用される場合、色域外リスクを制御することがより簡単になるが、異なる彩度挙動を設計することが必要とされ、しかし、これは、その高レベルの性質に関係し、特に、本教示のディスプレイ調整の性質は、上述のものと同様に振る舞う。
輝度マッピング関数F_Ltは、次に、この明度変数J’に明度マッパー1004により適用され、各ピクセルに対する出力明度尺度J’oをもたらす。この実施形態により示される別のことは、(図7を使用して説明される)輝度処理ユニット1001の輝度処理の乗算的適用であり、すなわち、分割器1005が、J’o/Jとして乗数A_Lを計算する。次に、ディスプレイ調整技法は、ディスプレイ調整ユニット1009により決定され、ディスプレイ調整ユニット1009は、この例において、指数Pを計算する(この明度再決定の実施形態の技術は、他の調整技法に対しても機能する)。最終的に適用される乗数A_L^Pは、P乗までA_Lを増やすことにより最終乗数計算ユニット1006により計算される(Pは、ここでは、固定であると仮定され、MDR画像が計算されることを必要とする対象となるディスプレイピーク輝度PB_Dの関数であり、P=0の場合、恒等変換が適用され、従って、入力及び出力画像の相対輝度は同じとなり、これは、入力された画像PB_Cの符号化明度と同じディスプレイピーク輝度PB_Dをもつディスプレイを提供することに対応し、P=1である場合、例えば、4000ニトPB_C HDR画像といった、2つの基準グレーディングのうちの他方の極端なものを復元するために完全な輝度変換が行われる)。本明細書において、この例において、さらにすぐにY’Mが計算される、冗長な4倍のものとして表された適切なMDR色は、所望のMDR画像を計算するために適切な乗数A_L^PにSDR入力色(R’G’B’Y’_S)を乗じることにより取得され、これは、乗算器1007により実施される。興味深いことに、輝度処理ユニット1001の別の出力は、別の指数により大きくされた乗数A_L、すなわちA_L^(1-P)である。
これを有用にするものが、図11に示される。例えば、HDR輝度1101とSDR輝度1102とが乗算因数A(例えば10)である変換によりリンクされた場合、MDR輝度1103が乗数A^P(P<1.0)を介してHDR色に関係しているとき、次のこと、すなわち、因数A^(1-P)を使用することにより、SDR輝度から計算される代わりに、MDR輝度からHDR輝度が計算され得ることが適用される。
興味深いことに、この挙動は、(線形であるか非線形であるかに関わらず)輝度に適用されるだけでなく、輝度依存のいくつかの他の変数にも適用される。図10に戻ると、彩度処理ユニット1002は、技法Cb_out=b[Y]*Cb_inを適用しない。それは、V’-Y’と呼ばれる色域においてすべての色に対して計算され得る、及び、最大値計算ユニット1011によりトリプレット(R’-Y’,G’-Y’,B’-Y’)の最大値として計算される量に基づいて適用される彩度ブーストを決定する。完全を期すために、(SDR画像は典型的にはRec.709 OETFに従って符号化されるので、おおむね線形なものの平方根である)実際的に有用な非線形R’G’B’を使用してこの実施形態が説明されているが、本原理は、線形RGB及びV-Yに対しても、及び、最大値計算において重み付けされた入力を使用する場合でも機能することに留意されたい。色域のどこかにおける色が(単にその輝度値だけでなく)どのV’-Y’値をもつのかに応じて彩度定数を決定することは、max(R’G’B’)値技法に基づいて輝度マッピングが実施された場合、色を低彩度化することについて興味深い性質をもつ(しかし、これは本発明に対する実施形態の細部にすぎず、完全を期すために、読み手がこの技術に関するさらなる詳細を知りたい場合、WO2016055178を参照されたい)が、繰り返しになるが、これは、ディスプレイ調整状況に対しても、適切なV’-Y’値でなければならない。
これが(例えば、5000ニトHDR再構成画像であって、この5000ニトHDR再構成画像に対してb[V’-Y’]が適切な彩度ブースト因数を与える、5000ニトHDR再構成画像ではなく)MDR画像に対する以前の(輝度マッピング1001)ステージにおいて決定された場合にV’-Y’値に彩度を適用すること、及び、ブースト因数計算器1013においてF_sat LUTにおけるこのV’-Y’_MDRインデックスを入力することは、繰り返しになるが、誤った彩度ブースト、例えば、非常なほど過度に高彩度の暗い色を与える(厳密な誤差はF_sat関数の形状に依存する)。まず、正しい彩度関数挙動(Fsat、又はb[])がHDR正規化輝度色表現において決定され、次に、SDR基準画像に対する輝度マッピングが実施されるので、符号化器側において問題は存在しないことに留意されたい。
従って、(ディスプレイ調整型MDR画像のPB_D依存計算のために、復号器側におい)参照(すなわち、本開示の概括的な定式化において、第2の輝度値の一実施形態であり、以下も参照されたい)を行うために適正化されたV’-Y’値である値(V’-Y’)_cが決定されなければならない。それは、従って、MDR画像ピクセル色に対する正しい出力クロミナンスCbo、Croを最終的に取得するために正しいブースト因数を与える(色コンバーター1014が、輝度処理ステージのMDRピクセルR’G’B’色成分から入力クロミナンスCb、Crを計算する)。当業者の読み手は、乗算器1012により残りの乗算値A_L^(1-P)を使用して(不正確な)MDR V’-Y’値を乗じることが、対応する正しいHDR対応(V’-Y’)_c値(これは、最適なb関数が符号化側において規定された対象であるSDR及びHDR基準色のペアを表すHDR輝度であり、すなわち、本開示の全体的な概念の二次的輝度値であり、第1の輝度は通常輝度Y’_Mであり、これは、彩度処理に入ることとは別に、さらに、Cbo及びCroと一緒に、3つの出力色座標のうちの1つとして機能する)を再取得することとなることを理解し得る。さらに、クロミナンスの処理は、それらの輝度を使用してスケール調整されることを必要とするので、b因数の決定は典型的には(この実施形態において第2の輝度の値表現である)P因数にも依存する。例えば、典型的には、b=F_sat[(V’-Y’)_c]^Pが使用される。興味深いことに、A_L^(1-P)値は、本例において、(無彩色軸における)HDR輝度の同等なものとして機能し、及び、同様に、V’=max(R’,G’,B’)値、又はV’-Y’値(Y’は、色域における任意のピクセル色のルマである)において任意の特定の色度に対するこのような3つのものを拡縮することができ、従って、これは、繰り返しになるが、ここでJ’/V’-Y’色処理フレームワークにおいて導出される測色の詳細にもかかわらず、図4のより概括的な例の場合と同様に、これがY’_Hの特別な入力であることに対応する。
従って、正しいインデックス位置とは別に、LUTのコンテンツは、さらに、中間ダイナミックレンジ状況、特に、L_MDRに依存する。
図12は、ディスプレイ調整能力をもつ、及び、ここでは、前述のように逆順ではなくまず彩度処理を行い、次に輝度調節(正規化された正しい高彩度色に対する最終的な正しい輝度の決定)を行う別のHDR画像又はビデオ復号器の実施形態を示す。SDR画像ピクセルのY’SDR及びCb及びCrクロミナンス成分が入力される(回路は、入力としてY’CbCr正規化HDR色を取得したとき、ダウングレードモードにおいて同様に動作し得る)。SDR画像の輝度は、ピクセルの色に対して(画像のより良い芸術的な見た目を得るために)Cb及びCrに依存した適正化を使用して任意選択的に調節されたものであり、従ってこの場合において、このような動作は、クロマチック寄与計算器1202、及び、a*Cb+b*CrをY’SDRに加算する加算器1201により解除されなければならない。結果は、ピクセルの真のSDRルマ、すなわち、輝度マッピングを介して対応するHDR輝度(又は、ルマ)及びMDR輝度に簡単に関係付けられたものである。
彩度ブースト因数計算器1203は、Y’CL値であるインデックスY、及び、Yの関数としてのその彩度関数の形状(すなわち、符号化側において決定された、及び通信されたb関数形状に応じて、この現在のピクセル色に対して適用可能な彩度ブースト因数を計算する。SDR入力クロミナンスは、乗算器1204によりこのb値を乗じられ、MDR画像状況(以下の測色の説明を参照されたい)に対して正しい出力クロミナンスCbo、Croをもたらす。これらは、色コンバーター1205に入り、正規化された(輝度に依存しない)非線形R’G’B’成分、すなわちR’/L’、G’/L’、及びB’/L’を取得する。従って、必要とされることは、乗算器1207を使用してそれらにピクセルの適切な輝度L’_HDRを乗じて、正しいHDR R’G’B’値、すなわちR’G’B’_HDRを得ることですべてである(装置はこれらが、何らかの値の規定、例えば、0~5000内であり、又は、さらに、依然として0~1.0の表現内であり得るように系統立てられたものであり得るが、重要なことは(相対)SDR輝度に比べて、HDR相対輝度に対して正しく配置されることである)。HDR輝度L’_HDRは、繰り返しになるが、実際には有用な関数(知覚的に一様な領域への変換関数、従って、おおまかな領域間コントラスト制御関数、オブジェクトファイングレーディング関数など)の並びであり得る輝度変換器1206により実行される何らかの処理によりSDR輝度から計算されるが、繰り返しになるが、本明細書における説明のために、入力Y’CLと出力L’_HDRとは、何らかの(可変なY’CL依存の)乗算のA因数によりリンクされているだけであることが仮定される。
ここで興味深いことに、ダイナミックレンジ変換処理の彩度処理のための2つの関連した輝度値が、様々な手法により異なる実施形態において使用され得る。
第1の手法は、第2の輝度を直接、すなわち、b値を参照するための正しいx座標として使用する(すなわち、図9を使用して説明されるように、MDR画像の輝度である一次的位置Yzの代わりに二次的輝度位置Yxを使用する、又は、図4において、SDRからMDRへの輝度計算から入力404を通した入来する一次的輝度の代わりに二次的輝度Y’_Hを使用する)ことである。しかし、同じことを実現する別の手法は、後で第1の輝度により直接的にインデックス処理され得る彩度ブースト関数b[Y]を再計算することである(しかし、二次的輝度は、依然として、この新しいb関数形状を計算することができることが彩度処理方法により必要とされる)。これは、従って、さらに二次的輝度を使用して行われ、従って、彩度はその全体として、概して依然として2つの輝度に依存する。
これは、図13を使用して示される。
上述のとおり、3つの輝度、すなわち、受信器が入力として取得する(図12の前述の例における)SDR輝度SDRY、受信されたSDRグレーディングされた画像に対応したマスターHDR画像の再構成から続く対応するHDR輝度HDRY(符号化側において生成された2つの基準画像グレーディング、及び、どちらが入力画像において受信されたかによらず、一方を他方から計算するために輝度マッピング関数として同時通信されたそれぞれの対応するF_L_s2h、F_L_h2sによりこの2個による組が一意的に固定されることが教示された)、及び、(SDRからのアップグレードにおいてであろうと、HDR構成からのダウングレードにおいてであろうと、調整アルゴリズム、及び、対応するF_L_da(このF_L_da関数は説明されるように、それぞれF_L_s2h、F_L_h2s関数に基づいて導出可能である)により計算可能な)MDR輝度MDRYの間に関係がある。図は、SDR色域の先端部における必要とされる絞りを説明している(その理由は、正規化HDR色は、SDR色になるために特定の程度まで比較的明るくされる必要があるので、何らかの彩度の低下が、特に、符号化器のHDR-2-SDR色マッピングを反転させることに基づいて動作するHDR画像通信方法のために、色域内においてマッピングするために必要であるからである)。例えば、全彩度レンジにおけるHDR色は、(例えば、人間の色グレーダー、又は、すべての色の統計データ、及び、例えば、赤色のりんごにおける何らかの彩度クリッピングが、画像の残りの部分の影響と比較してどれほど悪いかなどを見るアルゴリズムにより生成された)選択されたプロファイルDSDRに従ってSDR色度彩度まで彩度低下する。従って、(受信されたSDR画像ピクセルから再構成された)HDR画像ピクセルに対する正しい彩度を取得するための彩度ブースト因数b[SDRY]は、逆曲線BSDRにより与えられる。しかし、ここで疑問なのは、どの彩度がMDR画像ピクセルに必要とされるかということである。これは、(図においてbSDR/bMDRとして概略的に描かれた)b[SDR-to-MDR]=b[SDR-to-HDR]/b[MDR-to-HDR]として取得され得る。最初のbは、それが符号化器側において知ることも可能であるので、最初のbは2つの基準グレーディング状況間における彩度変換であるので、最初のbは関数BSDRのうちの1つである。(MDRが仮想的なより低いHDR輝度に投影される場合でも)HDR彩度が全レンジにわたるので、2つ目のbMDRは、さらに、(水平の点線により示される)異なる位置においてではあるが、BSDRグラフから読み取られ得る。明確であるための数値例を使用すると、SDR彩度が、例えば、因数7によりHDR(最高)彩度にブーストされた場合、及び、MDR輝度位置(すなわち、このような位置における高彩度色)が、因数3を使用してHDRにブーストされた場合、SDR入力輝度位置から対応するMDR輝度位置に動くために必要とされるブーストは、7/3である。この原理は、SDRY規定クロミナンスとMDRY規定色との間に直接適用され得るBcorr関数をもたらす。
読み手は、これが、繰り返しになるが(請求項に記載されるような)新しい技術の本開示の概括的な説明に従うことを理解し、すなわち、(それが、入力画像から取得された輝度であり、入力されたCb値及びCr値に属し、MDR出力色を取得するために本開示の新しい彩度技法により正しく高彩度化されるものであり、SDRYが、本開示の包括的な原理の第1の輝度であるので)LUTとして入力SDRYを取得する正しい最終的な彩度関数Bcorrが望まれるが、この正しいBcorr関数を決定することができるために、Bcorrの特定に必要なb[SDR-to-HDR]値を読み取るために、二次的輝度HDRYが必要とされる。
最終的に、これは、様々な可能な色値(すなわち、全体的な関係を決定するその入力色の色度と一緒にSDRY)に依存するだけであるので、それは、彩度関数決定ユニット1220により、すべての可能なSDRY値、及び、最も高彩度の可能な色に対して一回計算され得る。従って、当業者の読み手は、しかし本開示の新しいフレームワークが多用途であるように設計され、概していくつかのテーストのディスプレイ調整の専門的技術を使用して動作することができるが、技法が、例えば、テレビにおいて規定された後、F_L_da関数形状の微分が、受信されたF_L_s2h関数形状から一意に規定されることを理解するはずであり、従って、SDRY、MDRY、及びHDRYの3つが、3つのうちの任意の1つから始まって一意的に決定され、従って、Bcorrを導出するための説明される方法が一意に規定される(この例は、上述のようにSDR色と解釈されるMDR色に対応したより深いHDR輝度を使用してさらに定式化され得る)。
このBcorr関数が(事前)ロードされた後、復号器1200の残りの部分が、それらが入って来るときに、ピクセルごとに正しい色の処理の数学を使用して処理し得る。新しいHDRシーンの、例えば、画像の新しいショットの開始時に、再グレーディング技術が変化した場合、この状況がリセットされることだけを必要とする(例えば、役者が屋内から屋外シーンに動いたときであり、このことは、HDR、SDR基準画像のそれぞれにおける、より暗い画像領域及びより明るい画像領域のそれぞれの間の異なる関係を必要とし、すなわち、その新しいシーンの第1の画像の第1のピクセルがMDR色ピクセルに変えられる必要がある前に、ユニット1220により上述の計算を再開させる、及び、新しいBcorr LUT又は、概して、1203においてロードされた彩度計算アルゴリズムを含む、新しいF_L_s2h-及び、典型的には、さらに、新しいb[HDR-2-SDR]-を必要とし、従って、現在処理されているピクセルの輝度又はルマY_in_pixelに対して、b=Bcorr[Y_in_pixel]が確立され得る)。
図14を使用して、ディスプレイ調整画像ダイナミックレンジ再グレーディングにおいて典型的でもある、デュアル輝度ベースの彩度処理の最後の例が説明される。図14Aは、2つの輝度マッピング関数を示す。受信器が、(例えば、場合によっては最大値PB_C_HDR=5000ニトまでの画像ピクセルの輝度をもつ)HDR入力画像を取得する、及び、見る環境、及びMDRディスプレイの、ディスプレイの黒色の能力がマスターHDRグレーディング画像を生成するために使用される基準ディスプレイのものと実質的に同一である場合において(すなわち、少なくとも最も暗い画像色が懸念され、調整することが必要とされ、及び、通常のHDR画像が、それが符号化側において見えるのと同様に示され得る限りにおいて)、例えばPB_D=700ニトのMDRディスプレイに対する最適な輝度を計算する必要があるシナリオにおいて、関数1402が適切である。しかし、いくつかの異なる受信側の技術的要因が、暗闇に潜んでいる犯人が、受信側/見る側における実際のディスプレイにおいて適切に視認可能でないということをもたらし得る。それに対する解決策は、第2の輝度マッピング関数1401である、受信側において異なる実際の黒色状況を考慮したHDRからMDRへの輝度マッピング関数を規定することである。これは、例えば、最も暗い符号化可能色に対するDELといった、最も暗い画像色に対するオフセットを含む(色、及び関数は実際にゼロを通過せず、小さい輝度値、例えば0.0001ニトを通ることに留意されたい)。従って、関数1402が受信されたF_L_h2s関数であること、(PB_D依存ディスプレイ適応も存在するが、最も簡単な変形例は、F_L_h2sにおいて指定された、より明るい色に対するHDRからSDRへのマッピングを実施して、最も暗い色を適正化するにすぎない)、及び、関数1401が、(この場合、ディスプレイピーク輝度PB_Dに依存するだけでなく、この例では、本例においてDELに等しいと仮定される最小の識別可能な黒色MB_Dにも主に依存して)受信側において計算されたHDR-2-MDR輝度マッピング関数であることが言え得る。
ここでの問題は、図4に示されるような処理が使用される(すなわち、輝度依存彩度計算を使用するが、彩度因数決定ユニット402の適切かつスマートに設計さえたアルゴリズムなしである)場合、約ゼロの入力輝度で除算された(DELによりオフセットされるのでゼロとは大幅に異なる)(ユニット401における輝度処理の)出力輝度の乗算因数が非常に高いことである。従って、乗算器410及び411は、非常なほど過度に高いブースト因数bにより彩度をさらにブーストし、あまりにも過度に高彩度の暗い色をもたらし、端的に言えば、見苦しいMDR画像をもたらす。
ユニット402がどのようにして、より良く振る舞い得るかが図14Bに示される。色1411及び1412は、黒色調節をしない場合の(すなわち、関数1402に従って計算されたときの、輝度レンジのより暗い部分における2つの例示的な色のみの)2つのMDR色である。色1413及び1414は、関数1401を対応するHDR入力色に適用することにより結果的にもたらされる輝度オフセットされた色である。Yb(黒色調節を伴う)及びYn(黒色調節を伴わない)の2つの輝度に基づいて、すなわち、M=Yn/Ybに等しい乗数により彩度ブースト因数を適正化することにより決定された場合、正しい彩度が適用され得る。受信された入力画像符号化に対応した基準ディスプレイの黒色に対して受信側ディスプレイの黒色が理想的である理想的な状況に対する関数である受信された彩度関数(F_sat、又は言い換えるとb[y])はこの因数Mを乗じられて、この特定の必要とされるMDR画像を生成するための正しい彩度処理をもたらす。これも、構築された、及び、上述の他の例により例示される本開示の全体的な原理に沿った一実施形態である。ここで、より暗い色のクロミナンスが色域の円柱部に収まるが、依然として正しいY値によりスケール調整されることを必要とすることが考慮される。(例えば、輝度マッピング後にダウングレード符号化器及び復号器により彩度マッピングが適用される場合)符号化側においてどのような彩度の改善b[Y_SDR]が選択されたとしても、それは、本例において量DELを使用してシフトさせることによるが、しかし、むしろ、(図4のY’_Hに対応した)対応する二次的輝度インデックス位置(Yn)を使用することにより、明度上昇された輝度であるY_MDRを使用してインデックス処理されなければならない。2つの輝度の一部による乗算は、入力参照位置をLUTに変更されないまま残しながら、B_initをBcorr彩度ブースト関数形状に適正化する技術の例である。これは、依然として、輝度最適化経路から正しいYになると決定されたYが、彩度処理サブ回路に対して使用されるYとは異なるという主要な原理に従うことに留意されたい。
図15は、いくつかの受信側黒色レンダリングディスプレイ能力に対して、このような適正化がどのように見えるかの例を示す。すなわち、1501は、1ニトの最小のレンダリング可能な黒色に対する、乗算的適正化関数(すなわち、本例では、LUTエントリーとしてのx軸におけるすべての可能なY値に対するM因数)である(読み手の理解のために、読み手は、それが、例えば、画像コンテンツのより低い値を判別不能な漏れ光として示す非常に悪いLCDディスプレイであること、又は、比較的明るい環境において見ることであると仮定し得る)。曲線1502は、0.1ニトの最小のレンダリング可能な、又は知覚可能な黒色に対応し、曲線1503は、0.01ニトに対応し、1504は、0.001ニトに対応し、曲線1505は、0.0001ニトに対応する。横軸は、ログガンマ知覚表現における輝度を示す6ビット(0~64)のインデックスである(それをどのように実現するかの一例にすぎない)。繰り返しになるがこれが2つの輝度値、すなわち、輝度変換前Y値及び輝度変換後Y値に依存した彩度処理であり、及び、(最適な彩度処理技法、すなわちF_satが決定される必要がある場合)それら2つのうちの1つのみがコンテンツ生成側において知ることが可能であることが見出された。すなわち、乗算器により適用される彩度ブースト因数は、b_result=M*b_in[Y_HDR]である。
本明細書において開示されるアルゴリズム的コンポーネントは、ハードウェア(例えば、特定用途向けICの一部)として、又は、特別なデジタル信号プロセッサ、又は一般的なプロセッサなどにおいて動作するソフトウェアとして実際に(完全に、又は部分的に)実現されてよい。メモリ製品は、例えば、ポータブルメモリ、例えば、ブルーレイディスク、又は、ソリッドステートメモリスティックだけでなく、例えば、オフサイトサーバーであって、オフサイトサーバーからビデオ又は画像がビデオ又は画像の使用の離れた位置にダウンロードされ得る、オフサイトサーバーにおけるメモリであってよい。技術的原理は、例えば、他の色処理の実施形態の回路トポロジーにおいて、及び/又は、他の色規定を使用して同様に機能する。
どのコンポーネントが、任意選択的な改善であり、及び、他のコンポーネントと組み合わされて実現され得るか、及び(任意選択的な)方法のステップが装置のそれぞれの手段にどのように対応するか、及び、その逆このことが、本開示の提示から当業者に理解可能なはずである。本出願における「装置」という用語は、その最も広い意味において、すなわち、特定の目的の実現を可能にする一群の手段として使用され、従って、例えば、IC(の小さい回路部)、又は、専用電化製品(例えば、ディスプレイを含む電化製品)、又はネットワーク接続されたシステムの一部などであり得る。「構成」は、さらに、最も広い意味に使用されることが意図され、従って、これは、とりわけ、単一の装置、装置の一部、連携した装置(の部分)の集合体などを備えてよい。
コンピュータプログラム製品の指すものは、汎用又は専用プロセッサが、(中間変換ステップ、例えば、中間言語、及び最終的なプロセッサ言語への変換を含んでよい)一連のローディングステップ後にプロセッサにコマンドを入れること、及び、発明の特徴的な関数のうちの任意のものを実行することを可能にするコマンドの集合体の任意の物理的な実現例を包含すると理解されなければならない。特に、コンピュータプログラム製品は、例えばディスク又はテープなどの媒体上のデータ、メモリ内に存在するデータ、-有線又は無線-ネットワーク接続を介して伝播するデータ、又は紙上のプログラムコードとして実現されてよい。プログラムコードとは別に、プログラムに必要な特徴的なデータは、コンピュータプログラム製品としても具現化されてよい。
データ入力及び出力ステップなどの、方法の演算に必要なステップのうちのいくつかは、コンピュータプログラム製品において説明される代わりにプロセッサの機能に既に存在してよい。
上述の実施形態は本発明を限定するのではなく例示することが留意されなければならない。当業者は、請求項の他の領域への提示される例のマッピングを簡単に実現し得、簡潔にするために、これらの選択肢のすべてが詳細に言及されるとは限らない。請求項において組み合わされた本発明の要素の組み合わせとは別に、要素の他の組み合わせが可能である。要素の任意の組み合わせが、単一の専用の要素において実現され得る。
請求項における括弧の間のいずれの参照符号も、請求項を限定するようには意図されない。「備える(含む、有する、もつ)」という用語は、請求項に列挙されていない要素又は態様の存在を排除しない。要素に先行する英語の「a(不定冠詞)」又は「an(不定冠詞)」に対応する表現は、複数のこのような要素の存在を排除しない。

Claims (3)

  1. 入力画像に対応した出力画像の出力色を生成するように前記入力画像の入力色の彩度を処理するための装置であって、前記出力画像は、前記出力画像のピクセル色の正規化輝度を前記入力色の正規化輝度に比べて異なる正規化輝度にマッピングする関数により、前記入力画像に再グレーディングを実行することにより得られた画像であり、前記正規化輝度が、ピクセルの輝度を画像の輝度表現のそれぞれの最大符号化可能輝度により除算したものとして規定され、前記入力画像の前記最大符号化可能輝度と前記出力画像の前記最大符号化可能輝度との比が、4より大きく、又は1/4より小さく、前記装置が、
    前記入力色の輝度の幾つかの値について、前記入力色の輝度とそれぞれの対応する基準輝度との間のマッピングを規定する輝度マッピング関数(F_L_s2h)を受信し、及び前記入力色の前記正規化輝度の可能な値の各々について彩度乗数を規定する初期彩度処理関数を受信する受信器と、
    前記輝度マッピング関数(F_L_s2h)と、ディスプレイピーク輝度とに基づいてディスプレイ調整輝度マッピング関数を計算するディスプレイ調整ユニットと、
    入力輝度から出力輝度を決定するように、前記ディスプレイ調整輝度マッピング関数を適用する輝度プロセッサと、
    最終彩度処理関数により指定される彩度乗数を計算する彩度乗数決定ユニットであって、前記最終彩度処理関数は、前記初期彩度処理関数に基づき、及び、前記輝度マッピング関数(F_L_s2h)を適用することにより前記出力輝度から導出される二次的輝度値に基づく、彩度乗数決定ユニット
    前記最終彩度処理関数により指定される前記彩度乗数を前記入力色の彩度に乗算することにより前記出力色の彩度を計算し、前記入力色の彩度を前記出力色の彩度にマッピングする彩度処理ユニットと、
    を含む装置。
  2. 前記二次的輝度値が、入力座標に対する関数の値である前記最終彩度処理関数の乗数を得るように、受信された前記初期彩度処理関数の前記入力座標として使用されることをさらに特徴とする、
    請求項1に記載の装置。
  3. 入力画像に対応した出力画像の出力色を生成するように前記入力画像の入力の彩度を処理する方法であって、前記出力画像が、前記入力画像のピクセル色の正規化輝度を、前記出力画像の対応する異なる値の正規化輝度にマッピングする関数を適用することにより、前記入力画像に再グレーディングを実行することにより得られた画像であり、正規化輝度が、ピクセルの輝度を画像の輝度表現のそれぞれの最大符号化可能輝度により除算したものとして規定され、前記入力画像の前記最大符号化可能輝度と前記出力画像の前記最大符号化可能輝度との比が、4より大きく、又は1/4より小さく、前記方法が、
    前記入力画像のピクセルの輝度の幾つかの値とそれぞれの対応する基準輝度との間のマッピングを規定する輝度マッピング関数(F_L_s2h)、及び、入力色を有するピクセルの前記正規化輝度の異なる値に対する幾つかの対応する彩度乗数を規定する初期彩度処理関数を受信するステップと、
    前記輝度マッピング関数(F_L_s2h)と、ディスプレイピーク輝度とに基づいてディスプレイ調整輝度マッピング関数を計算するステップと、
    入力輝度から出力輝度を決定するように、前記ディスプレイ調整輝度マッピング関数を適用するステップと、
    最終彩度処理関数により指定される彩度乗数を計算するステップであって、前記最終彩度処理関数は、前記初期彩度処理関数に基づき、及び、前記輝度マッピング関数(F_L_s2h)を適用することにより前記出力輝度から導出される二次的輝度値に基づく、ステップと
    前記最終彩度処理関数により指定される前記彩度乗数を前記入力色の彩度に乗算することにより前記出力色の彩度を計算し、前記入力色の彩度を前記出力色の彩度にマッピングするステップ
    を含む方法。
JP2019559733A 2017-05-05 2018-05-03 復号された高ダイナミックレンジ画像の彩度を最適化すること Active JP7313285B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP17169671.9A EP3399497A1 (en) 2017-05-05 2017-05-05 Optimizing decoded high dynamic range image saturation
EP17169671.9 2017-05-05
PCT/EP2018/061280 WO2018202744A1 (en) 2017-05-05 2018-05-03 Optimizing decoded high dynamic range image saturation

Publications (2)

Publication Number Publication Date
JP2020520145A JP2020520145A (ja) 2020-07-02
JP7313285B2 true JP7313285B2 (ja) 2023-07-24

Family

ID=58672437

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019559733A Active JP7313285B2 (ja) 2017-05-05 2018-05-03 復号された高ダイナミックレンジ画像の彩度を最適化すること

Country Status (5)

Country Link
US (2) US10964248B2 (ja)
EP (2) EP3399497A1 (ja)
JP (1) JP7313285B2 (ja)
CN (1) CN110612550B (ja)
WO (1) WO2018202744A1 (ja)

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
MX367832B (es) * 2014-01-24 2019-09-09 Sony Corp Dispositivo de transmisión, método de transmisión, dispositivo de recepción y método de recepción.
ES2744795T3 (es) * 2014-05-28 2020-02-26 Koninklijke Philips Nv Métodos y aparatos para codificar unas imágenes HDR, y métodos y aparatos para usar tales imágenes codificadas
CN109584175B (zh) * 2018-11-21 2020-08-14 浙江大华技术股份有限公司 一种图像处理方法及装置
CN111970564B (zh) * 2020-08-26 2023-03-24 展讯通信(上海)有限公司 Hdr视频显示处理的优化方法及装置、存储介质、终端
CN112365415B (zh) * 2020-11-09 2024-02-09 珠海市润鼎智能科技有限公司 高动态范围图像的快速显示转换方法
CN112862709B (zh) * 2021-01-27 2024-05-03 昂视智能(深圳)有限公司 图像特征增强方法、装置及可读存储介质
CN113240644B (zh) * 2021-05-17 2022-04-22 青岛信芯微电子科技股份有限公司 高动态范围图像的显示处理方法及相关装置
CN113643651B (zh) * 2021-07-13 2022-08-09 深圳市洲明科技股份有限公司 一种图像增强方法、装置、计算机设备和存储介质
CN113643323B (zh) * 2021-08-20 2023-10-03 中国矿业大学 城市地下综合管廊尘雾环境下目标检测系统
KR102564447B1 (ko) * 2021-11-30 2023-08-08 엘지전자 주식회사 디스플레이 장치
KR102674361B1 (ko) * 2022-01-03 2024-06-13 엘지전자 주식회사 디스플레이 장치
CN114463207B (zh) * 2022-01-24 2022-07-29 哈尔滨理工大学 基于全局动态范围压缩与局部亮度估计的色阶映射方法
US20230274464A1 (en) * 2022-02-28 2023-08-31 Avid Technology, Inc. Low-Bitrate Encoding of High Dynamic Range Content
CN115471473B (zh) * 2022-09-15 2024-06-07 广东艾依格家居有限公司 一种家具板材瑕疵检测系统及方法
EP4387221A1 (en) * 2022-12-15 2024-06-19 Koninklijke Philips N.V. Image processing apparatus and image processing method
GB2627343A (en) * 2022-12-15 2024-08-21 Koninklijke Philips Nv Image processing apparatus and image processing method
EP4415343A1 (en) * 2023-02-08 2024-08-14 Koninklijke Philips N.V. Hdr out of gamut adjusted tone mapping

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014128586A1 (en) 2013-02-21 2014-08-28 Koninklijke Philips N.V. Improved hdr image encoding and decoding methods and devices
US20150109321A1 (en) 2013-10-17 2015-04-23 Imagination Technologies Limited Tone Mapping
WO2015124754A1 (en) 2014-02-21 2015-08-27 Koninklijke Philips N.V. High definition and high dynamic range capable video decoder
WO2016088393A1 (ja) 2014-12-05 2016-06-09 三菱電機株式会社 画像処理装置及び方法、並びにプログラム及び記録媒体
WO2016091406A1 (en) 2014-12-11 2016-06-16 Koninklijke Philips N.V. Optimizing high dynamic range images for particular displays

Family Cites Families (44)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5768427A (en) * 1995-06-27 1998-06-16 Motorola, Inc. Method and system for compressing a video signal using nonlinear interpolation
US5793892A (en) * 1995-06-27 1998-08-11 Motorola, Inc. Method and system for compressing a pixel map signal using dynamic quantization
JP3291259B2 (ja) * 1998-11-11 2002-06-10 キヤノン株式会社 画像処理方法および記録媒体
US6972793B1 (en) * 1998-12-26 2005-12-06 Sony Corporation Video signal processing device and its method
US7262765B2 (en) * 1999-08-05 2007-08-28 Microvision, Inc. Apparatuses and methods for utilizing non-ideal light sources
KR100871686B1 (ko) * 2002-08-23 2008-12-05 삼성전자주식회사 색상보존을 위한 대비 및 명도 개선방법 및 장치
US7714831B2 (en) * 2003-07-16 2010-05-11 Honeywood Technologies, Llc Background plateau manipulation for display device power conservation
US8218625B2 (en) 2004-04-23 2012-07-10 Dolby Laboratories Licensing Corporation Encoding, decoding and representing high dynamic range images
US8270753B2 (en) * 2005-06-14 2012-09-18 Nikon Corporation Image processing device, computer program product, and image processing method to restore signals in a saturated area
KR100736939B1 (ko) * 2005-10-08 2007-07-10 삼성전자주식회사 지능형 색역 관리 방법
JP5249784B2 (ja) 2006-01-23 2013-07-31 マックス−プランク−ゲゼルシャフト・ツア・フェルデルング・デア・ヴィッセンシャフテン・エー・ファオ 高ダイナミックレンジコーデック
JP2008058897A (ja) * 2006-09-04 2008-03-13 Mitsubishi Electric Corp 色順次画像表示方法、および色順次画像表示装置
JP4858317B2 (ja) * 2007-06-04 2012-01-18 ソニー株式会社 色域成分解析装置、色域成分解析方法及び色域成分解析プログラム
JP4575963B2 (ja) * 2008-02-14 2010-11-04 三菱電機株式会社 画像処理装置
US8363131B2 (en) * 2009-01-15 2013-01-29 Aptina Imaging Corporation Apparatus and method for local contrast enhanced tone mapping
WO2011017062A1 (en) * 2009-07-27 2011-02-10 Dolby Laboratories Licensing Corporation Digital display devices and digital projectors with expanded color gamut
KR101588336B1 (ko) * 2009-12-17 2016-01-26 삼성디스플레이 주식회사 데이터 처리 방법 및 이를 수행하기 위한 표시 장치
US9754629B2 (en) * 2010-03-03 2017-09-05 Koninklijke Philips N.V. Methods and apparatuses for processing or defining luminance/color regimes
TW201134228A (en) * 2010-03-17 2011-10-01 Ili Technology Corp Real-time image contrast enhancement and color gain circuit
US9135864B2 (en) * 2010-05-14 2015-09-15 Dolby Laboratories Licensing Corporation Systems and methods for accurately representing high contrast imagery on high dynamic range display systems
US9864243B2 (en) * 2010-05-14 2018-01-09 Dolby Laboratories Licensing Corporation High dynamic range displays using filterless LCD(s) for increasing contrast and resolution
EP2630783B1 (en) * 2010-10-18 2020-06-10 Dolby Laboratories Licensing Corporation Image processing methods and apparatus using localized gamut definitions
JP5914530B2 (ja) * 2011-03-09 2016-05-11 ドルビー ラボラトリーズ ライセンシング コーポレイション 高コントラストのグレースケールおよびカラーディスプレイ
US8791890B2 (en) * 2011-04-05 2014-07-29 Landmark Screens, Llc Presentation of highly saturated colors with high luminance
US8731287B2 (en) * 2011-04-14 2014-05-20 Dolby Laboratories Licensing Corporation Image prediction based on primary color grading model
US9111330B2 (en) * 2011-05-27 2015-08-18 Dolby Laboratories Licensing Corporation Scalable systems for controlling color management comprising varying levels of metadata
KR101809993B1 (ko) * 2011-06-03 2017-12-19 삼성디스플레이 주식회사 영상 신호 처리 방법 및 이를 수행하는 표시 장치
EP2745290A1 (en) * 2011-09-27 2014-06-25 Koninklijke Philips N.V. Apparatus and method for dynamic range transforming of images
WO2014038517A1 (ja) * 2012-09-07 2014-03-13 シャープ株式会社 多原色表示装置
CN103581634B (zh) * 2013-08-12 2015-07-22 泰邦泰平科技(北京)有限公司 图像的宽动态范围处理方法
CN105379263B (zh) * 2013-11-13 2017-09-22 杜比实验室特许公司 用于指导图像的显示管理的方法和设备
JP2015154307A (ja) * 2014-02-17 2015-08-24 ソニー株式会社 画像処理装置、画像処理方法、およびプログラム
US9710215B2 (en) * 2014-03-31 2017-07-18 Dolby Laboratories Licensing Corporation Maximizing native capability across multiple monitors
ES2744795T3 (es) * 2014-05-28 2020-02-26 Koninklijke Philips Nv Métodos y aparatos para codificar unas imágenes HDR, y métodos y aparatos para usar tales imágenes codificadas
CN107005720B (zh) * 2014-08-08 2020-03-06 皇家飞利浦有限公司 用于编码hdr图像的方法和装置
JP6356349B2 (ja) 2014-10-10 2018-07-11 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. ダイナミックレンジマッピングのための彩度処理仕様
CN104408752B (zh) * 2014-12-11 2017-07-04 西安电子科技大学 一种基于混合色调映射算法的高动态范围图像压缩方法
US9997134B2 (en) * 2015-02-02 2018-06-12 Disney Enterprises, Inc. Chromatic Calibration of an HDR display using 3D octree forests
KR20160138685A (ko) * 2015-05-26 2016-12-06 에스케이하이닉스 주식회사 저 복잡도의 하이 다이나믹 레인지 이미지 생성 장치 및 그 방법
EP3136375B1 (en) * 2015-08-31 2020-07-08 Lg Electronics Inc. Image display apparatus
US10182783B2 (en) * 2015-09-17 2019-01-22 Cmt Medical Technologies Ltd. Visualization of exposure index values in digital radiography
JP2017097645A (ja) * 2015-11-25 2017-06-01 ソニー株式会社 情報処理装置、および情報処理方法、並びにプログラム
PT3394850T (pt) 2015-12-21 2020-08-14 Koninklijke Philips Nv Otimização de imagens de alta gama dinâmica para monitores específicos
CN105828057A (zh) * 2016-03-23 2016-08-03 武汉鸿瑞达信息技术有限公司 一种优化图像辨识度的hdr自适应颜色映射方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014128586A1 (en) 2013-02-21 2014-08-28 Koninklijke Philips N.V. Improved hdr image encoding and decoding methods and devices
US20150109321A1 (en) 2013-10-17 2015-04-23 Imagination Technologies Limited Tone Mapping
WO2015124754A1 (en) 2014-02-21 2015-08-27 Koninklijke Philips N.V. High definition and high dynamic range capable video decoder
WO2016088393A1 (ja) 2014-12-05 2016-06-09 三菱電機株式会社 画像処理装置及び方法、並びにプログラム及び記録媒体
WO2016091406A1 (en) 2014-12-11 2016-06-16 Koninklijke Philips N.V. Optimizing high dynamic range images for particular displays

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
Hwi-Gang KIM, et al.,"Color Saturation Compensation in iCAM06 for High-Chroma HDR Imaging",IEICE TRANSACTIONS on Fundamentals of Electronics, Communications and Computer Sciences,日本,[online], The Institute of Electronics, Information and Communication Engineers (IEICE),2011年11月01日,Vol.E94-A, No.11,Pages 2353-2357,[令和5年5月31日検索], インターネット, <URL: https://search.ieice.org/bin/summary.php?id=e94-a_11_2353>,Online ISSN: 1745-1337, Print ISSN: 0916-8508, <DOI: 10.1587/transfun.E94.A.2353>.
井上 誠喜(外2名),「C言語で学ぶ実践CG・映像合成」,第1版,日本,株式会社オーム社,2005年04月25日,第8~18頁及び「カラー口絵」頁,ISBN: 4-274-50016-0.
井上 誠喜(外5名),「C言語で学ぶ実践画像処理」,第1版,日本,株式会社オーム社,1999年12月08日,第102~112頁及び「カラー口絵」頁,ISBN: 4-274-94619-3.

Also Published As

Publication number Publication date
JP2020520145A (ja) 2020-07-02
CN110612550B (zh) 2023-11-14
EP3619678A1 (en) 2020-03-11
US20200193890A1 (en) 2020-06-18
CN110612550A (zh) 2019-12-24
US10964248B2 (en) 2021-03-30
WO2018202744A1 (en) 2018-11-08
US20210272497A1 (en) 2021-09-02
EP3399497A1 (en) 2018-11-07
US11521537B2 (en) 2022-12-06

Similar Documents

Publication Publication Date Title
JP7313285B2 (ja) 復号された高ダイナミックレンジ画像の彩度を最適化すること
US11949921B2 (en) Methods and apparatuses for encoding an HDR images, and methods and apparatuses for use of such encoded images
EP3394850B1 (en) Optimizing high dynamic range images for particular displays
CN109219961B (zh) 对hdr视频进行编码和解码的方法和装置
JP7300070B2 (ja) 飽和色のための改善されたhdrカラー処理
JP2024517241A (ja) ディスプレイに最適化されたhdrビデオコントラスト適応
US20240257323A1 (en) Display-optimized hdr video contrast adaptation
US20240273692A1 (en) Display-Optimized Ambient Light HDR Video Adapation
KR102279842B1 (ko) Hdr 이미지 인코딩 방법 및 장치

Legal Events

Date Code Title Description
RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20200313

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20200319

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200406

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210430

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220517

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220816

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221129

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230227

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230613

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230711

R150 Certificate of patent or registration of utility model

Ref document number: 7313285

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150