JP6134699B2 - イメージ・グレーディングを分析するための装置及び方法 - Google Patents

イメージ・グレーディングを分析するための装置及び方法 Download PDF

Info

Publication number
JP6134699B2
JP6134699B2 JP2014500513A JP2014500513A JP6134699B2 JP 6134699 B2 JP6134699 B2 JP 6134699B2 JP 2014500513 A JP2014500513 A JP 2014500513A JP 2014500513 A JP2014500513 A JP 2014500513A JP 6134699 B2 JP6134699 B2 JP 6134699B2
Authority
JP
Japan
Prior art keywords
picture
graded
grading
graded picture
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014500513A
Other languages
English (en)
Other versions
JP2014518024A (ja
Inventor
レムコ テオドルス ヨハネス マイス
レムコ テオドルス ヨハネス マイス
マルク ヨゼフ ウィレム メルテンス
マルク ヨゼフ ウィレム メルテンス
ウィルヘルムス ヘンドリクス アルフォンス ブリュルス
ウィルヘルムス ヘンドリクス アルフォンス ブリュルス
クリス ダムカト
クリス ダムカト
マルティン ハメル
マルティン ハメル
コルネリス ウィルヘルムス クウィストホウト
コルネリス ウィルヘルムス クウィストホウト
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Koninklijke Philips NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips NV filed Critical Koninklijke Philips NV
Publication of JP2014518024A publication Critical patent/JP2014518024A/ja
Application granted granted Critical
Publication of JP6134699B2 publication Critical patent/JP6134699B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/10Intensity circuits
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20208High dynamic range [HDR] image processing
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/06Adjustment of display parameters
    • G09G2320/0613The adjustment depending on the type of the information to be displayed
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/06Adjustment of display parameters
    • G09G2320/0626Adjustment of display parameters for control of overall brightness

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Image Processing (AREA)
  • Picture Signal Circuits (AREA)
  • Image Analysis (AREA)

Description

本発明は、異なるグレーディング、特にLDR及びHDR変種を比較する方法及び装置、並びに、結果としての製品(例えば、2つのグレーディング間の差異を記述するデータ構造を少なくとも含む信号及びその信号を伝達するキャリア)に関する。
カラーのピクチャをレンダリングして符号化することは、取得されたシーンを忠実に表すのであれ又はその芸術的にグレード化された変形であれ、人の視覚の複雑な適応的挙動のためというわけでは全くなく、常に捉えどころのない問題である。典型的なテレビ符号化は、コンテンツが、平均的な視聴条件の下で、1つの典型的なCRTディスプレイにレンダリングされるのみであることを仮定することによって、この問題を解決した。これは、排他的な(そして比較的単純な)システム(例えばNTSC方式、より近年ではMPEG2)につながり、このシステムは、視聴環境が推定に合致する場合に、(第1にはその輝度成分そして第2にはその色彩成分を共に意味する)色が、比較的正しく(あるいは、シーンとディスプレイ色域との間にギャップが存在するので、少なくとも望ましいように)表現されることを仮定する。さらに、それに関して定められる比較的単純な色変換(例えば特定のLCDディスプレイのそれぞれの原色のためのRGB駆動システムに対するマトリクス化、又は白色点(white point)適応など)は、結果として生じるレンダリングされたピクチャが、軽微な逸脱を所与として、より密接に基準(CRT)ディスプレイ上でのレンダリングに合致するという点で色レンダリングを改善しない場合に、少なくとも、パラダイムの下ですでに受け入れられた変換よりひどい色レンダリング誤りを犯さない。しかしながら、同じ色管理指針の下で、ますます非常に異なる種類の装置がこの十年においてテレビ・システムに接続されたので、この閉じたシステムは開放された。(特定のコントラスト、ガンマ値などによって)例えばLCDテレビに任意のカメラからの消費者の静止ピクチャをレンダリングすることが可能になっただけではなく、さらに、それぞれのディスプレイは、その物理的特性(特に、レンダリング可能な色域)に関して別物となり、視聴環境も同様に多様になった(例えば屋外のモバイル・テレビ視聴、ホームシネマなど)。特に、白色の輝度が増加した(例えば2000Cd/m2)ディスプレイが市場に登場し始めた(又は登場する)ときに、深さが増加した光子収集ウェル及びADCを有するカメラと同時に、2つの小領域、すなわち、低ダイナミックレンジ(LDR)と呼ばれる場合がある標準的な表示システム、及び、高ダイナミックレンジ(HDR)と呼ばれる非常に高い輝度レンダリング能力を備えるシステムへと分けて論じ始めることが慣習的となった。LDR符号化された信号は、(例えば、ハイライトを制限することによって)HDRディスプレイに表示されることができる又は表示される必要がある特定の範囲のためのイメージの特性を深刻に悪化させる場合があったことを理解すると、LDR基準システムからのそのような主要な逸脱の下で、そのようなHDRディスプレイのための良いピクチャを生成することは、単純な色変換よりはるかに手ごわいタスクとなる可能性があることを理解する(実際にHDRディスプレイの色域を最大限活用しなければならない)。そのような改善されたHDRディスプレイの高い価格にかなう視覚品質のHDRディスプレイ上でピクチャをレンダリングするディスプレイ駆動設定を生成することを可能にする必要性が明らかに存在するので、新たな符号化、新たなイメージ処理技術、新たなレンダリング方法などを有することの必要性が理解される。
この特許出願において、我々は、ディスプレイが何であれ(2つだけより多く存在する)、幾つかの品質(例えば1000 nitの白色若しくは5000 nitの白色)のHDRであるか、サブLDR(SLDR)とも呼ばれるLDRより低品質のものであるかによらず、そして更なる状況においてという点で、より一般的にこの問題を調査し、我々は、手元の情報を所与として、改善されたピクチャをレンダリングすることを可能にしたいと思う。
我々の以下の技術的ソリューションは、全ての種類のグレーディング、圧縮及びHDRシステムを改善するという目的によってもたらされた。当業者によって知られているように、グレーディングは、イメージが最適に見えるように、全ての色(/輝度)の芸術的な改善を含むことを意味することが一般的に知られている。実際には、カメラ・キャプチャリングは、厳密な見た目(すなわちシーン中の全てのオブジェクトの輝度)をほとんど生成することができず、したがって一般的に、グレーダは局所的な領域の色をつけなおし、顔をより明るくし、又は例えば、でこぼこのある皮膚を追加するようなより高度な特別効果を適用する。述べられる方法(及び装置)は任意のディスプレイのための最適なレンダリングを生成することを扱うことができるが、それらは主に、(例えば500nitピーク輝度を超える)より高いダイナミックレンジ・ディスプレイのために有用であり、(LDRグレーディングに追加して、又は、別のHDR情報として)キャプチャされたシーンの高ダイナミック・レンジ転化イメージに関するグレーディング情報に基づく。それらは特に、日当りのよい屋外若しくはランプのような、より高い輝度の領域のための符号化された情報を分析して処理するために有用であるが、領域のレンダリングの高性能な処理がより重要になる暗い領域のためにも有用である。HDR信号及びいくつかの一般的な標準的な基準LDR(例えば自動的にHDRから導き出される)に関するいくつかの実施の形態から原則として出発することができるが、本方法は、少なくとも2つのグレーディング(一般的に、一方は低ダイナミック・レンジ、他方は高ダイナミック・レンジ)が存在するときに、ほとんどの場合に有用である。
比較ユニット110及び対応する方法は、イメージの2つのグレーディング(すなわち、同じ瞬間の2つのグレーディング)における領域(例えばオブジェクト、ピクセル(のセット))の正確な比較を行うように、すなわち、第1及び第2グレーディングのピクセル値(少なくとも輝度又はその相関であるが、3次元若しくはN次元カラー、あるいは、例えば局所的な推定される照度のようなピクセルに関連付けられる更なるイメージ属性)が何であるかを比較し、グレーディング差異データ構造DATGRADにおいて(更なる処理において使用可能な)適切に管理可能な態様でグレーディング情報のこの特定の差異を表わすように用意される。このデータは、シーン・レンダリングの理論的には無限のセットの少なくとも2つの変種がどのように見るかについて理解するために、受信側で用いられることができる。すなわち、これら2つは、例えば、(単にカメラに基づく)シーンの幾分単調なLDRバージョン、並びに、正確にキャプチャされたより高い及び/又はより低い輝度の領域を有することができる。しかしながら、それはさらに、これらのサブ領域が複数のディスプレイ(それらのうちの少なくとも2つの特性基準ディスプレイが特定のレンダリングを有する)でどのように最良にレンダリングされるべきか、例えば、人間のグレーダの決定に従って、明るい領域が過度に顕著に又は刺激するようにならないように低減するべきかについての情報を有することができる。この重要な情報から開始して、受信側は、何が意図されているかをより適切に決定することができ、それから、実際の表示のためのより適切なレンダリングを生成すること、例えば、2つの基準グレーディング仲介することができる。
これは、以下のような複数の態様で実行されることができる。
第1輝度ダイナミックレンジを有する第1のグレード化されたピクチャ(LDR)を取得し、第1輝度ダイナミックレンジと異なる第2輝度ダイナミックレンジを有する第2のグレード化されたピクチャ(HDR)のグレーディングを符号化するデータを取得し、少なくとも第2のグレード化されたピクチャ(HDR)のグレーディングを符号化するデータに基づいてグレーディング差異データ構造(DATGRAD)を決定することに基づいて、イメージの少なくとも2つのグレーディングの差異を分析する方法。
このグレーディング差異は、HDRがどのように符号化されたかに基づいて、例えば、領域又は高輝度の領域のための別のイメージとしてシーンの一部を符号化するサブピクチャのための変更関数に注目することによって、決定されることができる。グレーディング差異データ構造(DATGRAD)は、一般的に、HDRとして異なるいくつかの領域が空間的にどこに存在するか、そして一般的におそらくそれらがどのように異なるかをも、例えば、それらが、イメージ全体に単一のマッピング(例えばガンマ変換)(すなわち、例えばLDRレンジのより暗い輝度に対して良好なマッピング)が適用されたならばそれらが属する輝度レンジに比べて、輝度が1.5倍に増加されるべきであることを特定することができる。そして受信側表示システムは、(例えば、明るい領域に対応する輝度を下回るように輝度を暗くすることによって)もちろんどれくらいの物理的色域をそのような増加に利用可能であるかに依存して、この1.5倍の増加に従うことを試みることができる。
第2のグレード化されたピクチャ(HDR)のグレードを符号化するデータが第2のグレード化されたピクチャ(HDR)であり、グレーディング差異データ構造(DATGRAD)を決定するステップが、第1のグレード化されたピクチャ(LDR)及び第2のグレード化されたピクチャ(HDR)の少なくとも空間的又は輝度領域の第1のグレード化されたイメージ(LDR)及び第2のグレード化されたイメージ(HDR)のピクセル値を比較することを含む方法。
もちろん、比較は、等級分けされた実際のHDRピクチャ(すなわち、例えば18ビット線形輝度符号化RAWイメージ)について実行されることができる。事前マッピングが、特定の逆符号化ガンマを適用し、ストレッチングを行い、標準的なLDR-to-HDRアルゴリズム(例えば逆S曲線)を実行するなどによって、2つのグレーディングを同じフォーマット(例えば32ビット線形空間)にするために用いられることができる。そして差異として残るものは、一般的に、明るさが低い(LDR)ディスプレイに対してより明るい(HDR)ディスプレイに関してグレーダが最良の見た目であると意図したものである。
グレーディング差異データ構造(DATGRAD)が、イメージの空間的関心領域(RI)を有し、基準に従って、第2のグレード化されたピクチャ(HDR)に対する第1のグレード化されたピクチャ(LDR)のための空間領域におけるグレーディングの差異の存在又は量を示す方法。
これは、特定のレンダリング(例えばHDR効果)を行うための特別な領域の迅速な識別を可能にし、これは、特別な変換関数を適用し、その変換を実行するために、メモリにおいてそれらの領域のための追加のデータ(例えば特定のピクセルのための補正値)を調べることによって、あるいは、例えばコンピュータ・グラフィックス(再)生成関数のような関数をその領域に適用することによって、生成される。HDR効果の量は、例えば他のイメージと比べて明るい領域のブーストの量と同程度に単純であることができ、これは、例えば主にLDRピクセル輝度の初期の(より暗い)値を保存するマッピングを介して、例えばLDRグレーディングからの単純なトーン(すなわち一般的に輝度)マッピングの結果として生じることができる。
グレーディング差異データ構造(DATGRAD)に基づいて第3のグレード化されたピクチャ(MDR)を導き出すステップをさらに含む方法。
一般的に、中間イメージが、例えばディスプレイを直接駆動するために、又は基準色空間において、生成され、それから最終的なディスプレイ駆動値が導き出される。
第1、第2又は第3のグレード化された・ピクチャのうちの少なくとも1つに、例えばピクチャ適応スケーリング又はピクチャ・シャープニングのような、イメージ処理変換を適用することを更に含む方法。
ピクチャは、特に知的に全ての利用可能な異なるグレーディング・データを与えられて、さらに最適化されることができる。例えば、ある領域のコントラストが中間低範囲グレーディング(MDR)において失われた場合、それは、例えば、(例えば微細範囲パターンの)局所的なシャープネスを増加させることや、彩度を変更することなどによって、心理視覚的に補正されることができる。
グレーディング差異データ構造(DATGRAD)に基づいて、例えばイメージの空間領域の色規格のような、イメージ記述(IMDESC)を導き出すことをさらに含む方法。
第3のグレード化されたピクチャ(MDR)中のピクセルの輝度は、第1のグレード化されたピクチャ(LDR)中のピクセルの輝度周辺の少なくとも1つの変域に含まれ、特に、第3のグレード化されたピクチャ(MDR)は、視覚的品質特性(例えば鮮明度)又は圧縮アーチファクト測定による、第1のグレード化された・ピクチャ(LDR)の視覚的品質改善である方法。
もちろん、MDRピクチャは、HDRグレードにおける相補的な情報を所与として、LDRピクチャの改善であることができる。例えば、LDRグレードは、あらかじめ導き出されたレガシー・グレードであることができるが、それはHDRリマスタリングによって共符号化されることができ、それは、受信側で更なるLDRグレードを得るために用いられることができる。この場合には、MDRは、中間的なピーク輝度(例えば5000nitと500nitとの間の2000nit)を有しないが、(すなわち、適切な表示可能な、又は、例えば700nitと100nitとの間の実際のピーク輝度を持つディスプレイにおいて用いられることが意図される)500nitと同様のピーク輝度を有することができる。
第3のグレード化されたピクチャ(MDR)の導出が、観察環境の特性(VCHAR)に関する得られた情報に基づいて実行される方法。ここで例えば、任意のグレーディングのより暗い部分において依然として見えるものは、例えば任意のイメージ・グレーディングのより暗い範囲のための特別なマッピングによって、微調整されることができる。
第3のグレード化されたイメージ(MDR)の導出が、例えば、光出力の不快感を特定する設定、電力使用を制限する設定、又は、表示される第3のグレード化されたイメージ(MDR)の好ましい視覚属性を特定する設定のような、第3のグレード化されたイメージ(MDR)の表示に関するユーザ制御された設定(USRSET)に基づいて実行される方法。
中間的なグレーディングは、(単一のディスプレイ上であっても)ユーザが最終的な見た目を良好に制御することを可能にする。しかし、これが2つのグレーディングに基づいてスマートに実行されるので、コンテンツ作成者(例えばハリウッド)も同様である(すなわち、これにより、作成者は、少なくとも暗黙に、又は、更なる符号化されたシーン特徴づけ情報若しくは命令によって明示的に、ユーザが例えばレンダリング輝度を低下させた場合に、異なる輝度のサブレンジ(例えばHDR効果)がどのように見えるべきかを伝達する)。
第3のグレード化されたイメージ(MDR)が、第1のグレード化されたピクチャ(LDR)と第2のグレード化されたピクチャ(HDR)との間で、輝度基準に従って計測可能であるように、中間的な画像として導き出される方法。
例えば、例えば、標準信号(例えばグレー・バー・チャートなど) にトーン・マッピング(例えば好ましい又は典型的な表示ガンマ)を適用する場合、ピーク輝度は、両方のピーク輝度の中間であるか、又は、スケールに沿ったいくつかの輝度の平均である。
第3のグレード化されたピクチャの導出が、第1のグレード化されたピクチャ(LDR)を第2のグレード化されたピクチャ(HDR)の近似へと変換するトーン・マッピングの逆トーン・マッピング(ITM)に基づいて実行される方法。このようにして、新たなLDR変形が計算されることができ、例えば、(例えば、信号を用いた更なる装置に対する接続を通じて)更なる符号化のための基準として機能するか、又は、画質測度に従うより良好なイメージ特性を有する。
全てのこれらの方法は、装置として、又は。それら(の少なくとも主要な部分)を包含する他の製品として実現されることができる。例えば、イメージの少なくとも2つのグレーディングの差異を分析するためのイメージ処理装置は、第1輝度ダイナミックレンジを有する第1のグレード化されたピクチャ(LDR)の入力のための第1入力、第1輝度ダイナミックレンジと異なる第2輝度ダイナミックレンジを有する第2のグレード化されたピクチャ(HDR)のグレーディングを符号化するデータの入力のための第2入力、第2のグレード化されたピクチャ(HDR)のグレーディングを符号化するデータに少なくとも基づいてグレーディング差異データ構造(DATGRAD)を決定するように用意された比較ユニットを有する。
上記の方法のように、グレーディング差異データ構造(DATGRAD)は、異なるグレーディングが存在する領域(例えば全てのブロック)のリストのように単純であることができ、好ましくは差異の数理的な表現(例えばピクセル・オフセット)、又はブロック中の少なくともいくつかのピクセルのための補正モデルであり、一般的に、2つのグレーディングに関するいくつかの標準的なマッピングと比較される(例えば、ガンマ関数によって2つをマッピングするアルゴリズムであり、そのガンマ係数は、例えばピクチャのショットごとに送信されることができる。いくつかの係数の場合、例えば、パワーp、利得g(又はピーク輝度)及びオフセットoff、HDR=(g*LDR)^p+offが存在することができる)。
第2入力が、第2のグレード化されたピクチャ(HDR)を受信するように用意され、比較ユニット(110)が、第1のグレード化されたピクチャ(LDR)及び第2のグレード化されたピクチャ(HDR)のうちの1つの少なくとも空間的又は輝度領域の第1のグレード化されたピクチャ(LDR)ピクセル値と第2のグレード化されたピクチャ(HDR)のピクセル値との比較に基づいて、グレーディング差異データ構造(DATGRAD)を決定するように用意される、イメージ処理装置。比較は、一般的に、いくつかの共通の比較可能な形態に2つの距離を縮めるいくつかの標準的なマッピングの後であり、それは、例えば重みつき差異又は差異が実際には何であるか(例えば振幅、隣接するピクセル又は部分領域上のプロファイルなど)のよりスマートな識別を実行する前に、例えば中間的な色空間及び輝度範囲を介して、又は事前変換を直接適用することによって、実現されることができる。
イメージ処理装置(101)は、グレーディング差異データ構造(DATGRAD)に基づいて第3のグレード化されたピクチャ(MDR)を導き出すように用意されたイメージ導出ユニット(112)を更に備える。
イメージ処理装置(101)は、少なくとも第2のグレード化されたピクチャ(HDR)のグレーディングを符号化するデータに基づいて第1のグレード化されたピクチャ(LDR)に画像処理変換を適用するために用意される。
イメージ処理装置(101)は、符号化された画像データを復号して、そこから第1のグレード化されたピクチャ(LDR)及び第2のグレード化されたピクチャ(HDR)を得るために用意される復号器を含み、イメージ導出ユニット(112)は、第1のグレード化されたピクチャ(LDR)と同様のグレーディングを有するが、第1のグレード化されたピクチャより良好な視覚品質の第3のグレード化されたピクチャ(MDR)を得るために、第1のグレード化されたピクチャ(LDR)及び第2のグレード化されたピクチャ(HDR)の少なくとも1つにイメージ処理変換を適用するように用意される。
本発明による方法及び装置のこれらの及び他の態様は、以下に記述される実施態様及び実施の形態並びに添付の図面から明らかであり、それらを参照して説明される。それらは、単に、より一般的なコンセプトを例示する非制限的な特定の例として供され、図において、破線はコンポーネントがオプションであることを示すために用いられ、破線ではないコンポーネントは必ずしも必須という訳ではない。破線はさらに、必須であるとして説明された要素が、オブジェクトの内部に隠されていることを示すため、又は、例えばオブジェクト/領域の選択(及びそれらがディスプレイでどのように示されるか)のような無形の物のために用いられる。
2つのグレード(LDR, HDR)を分析するための基本的な比較装置の実施の形態を概略的に説明する図。それは一般的に、(例えば、ROIMAP又は一般にいくつかのDATGRADを含む)メタデータ・データ構造としてこの差異を符号化するために配置される符号器中に存在し、このメタデータは、グレード・ピクチャ(例えばLDR、HDR及びおそらくMDR)を伴っていることができる。 概略的に例示的な受信側消費者システムを説明する図。このシステムにおいて、いくつかの装置は、それぞれのディスプレイにグレーダによって意図されるようにシーンを最適にレンダリングするためのグレーディング及び駆動信号を最適に導き出すために本実施例を用いることができる。 2つの他のグレーディングの平均的な挙動に基づいて中間グレーディングをどのような導き出すことができるかについて概略的に説明する図。 2つの他のグレーディングに存在する情報に基づいて第3グレーディングをどのように導き出すことができるかの他の実施例を概略的に説明する図。 概略的に、2つのグレードにおける特定の値又はクラスの色をそこから導き出せる他のグレードにおける対応する色とどのように関連づけることができるかの他の実施例を説明する図。 コンテンツ作成からコンテンツ使用までの例示的なイメージング・チェーンを概略的に説明する図であり、例えば、少なくともいくつかのHDRグレードにおける情報及び/又はDATGRADを考慮して、改善した品質のLDRピクチャQLDR2を導き出すことのような、本発明の特定の実施の形態によるいくつかの可能性を説明する。 利用可能でとされていたLDRグレードと比べてLDRグレードを改善することの他の実施例を概略的に説明する図。QLDR2は、幾分より高いピーク輝度表示(例えば800nit)を駆動するために例えば用いられることができる。 、例えば表示能力のような外来のパラメータに依存してグレードのための比較挙動を行う方法を概略的に説明する図。
図1のイメージ処理装置は、2つのデータ入力、すなわち、第1(例えば、以下の記載の簡潔性のために、低ダイナミックレンジLDRと呼ばれる)入力120及び第2(一般的に高ダイナミックレンジHDR)入力121を有する。これらの入力は、例えば、図6において説明されるように(例えばAVCのようなDCTに基づく)圧縮規格にしたがって符号化されていることができるピクチャを受信することができるが、当面は、説明を簡単にするために、それらがNビット値を有する単純なRAWピクチャであることを仮定する(3つ又はそれ以上の色成分がMビット値として符号化されるが、このアプリケーションのために、説明を簡単にするために、ピクチャを濃淡値のみのピクチャとして取り扱う)。本文において、例えばカメラによって取り込まれた(又はコンピュータ・グラフィックス環境で生成された)ピクセル化されたオブジェクトの幾何学的組成である用語「イメージ」と、多くの可能な符号化で1つであり、特にそのイメージのグレーディングである用語「ピクチャ」を区別する(すなわち、イメージは、ピクチャの群の原型のようなものであり、例えば、カメラのrawファイルであることができ、一方、それから導き出される第1ピクチャは8ビット線形符号化であることができ、それから導き出される他のピクチャはガンマ0.45による8ビット非線形符号化であることができる)。我々は、グレーディングと符号化との間の差異を説明する必要ある(我々は、複数のピクセル又はピクチャの色における任意の規格のために「符号化」という一般的な語を用い、必要とされる関与する符号化ビットの量を低減するために数学的な変換も行われる場合には、「圧縮」という語を用いる[「圧縮」との語の再利用を避けるために、例えば0.5のような分数又は他のマッピング関数を掛けることによって、大きなダイナミックレンジから小さいダイナミックレンジへと値を圧縮するときに、「ダウンコンバート」との語を用いる])。グレーディングによって、我々は、全てのイメージ・オブジェクトの輝度(/色)が、例えばRAWとして符号化されることができるピクチャへとどのように調整されるかを意味する。そして、一般的に、(例えば異なるディスプレイのために)異なる最適な見た目を生成するために、異なるグレーディングを生成する。すなわち、グレーディングは、(ピクチャがより良好に見えるようにして、そして例えば単なるブラインド・カメラ・キャプチャによって)審美的原理に基づいて、最終的なピクチャ符号化の固有の輝度範囲への、獲得されたシーンのオブジェクトの割り当てに関係がある。すなわち、グレーディングは、(もちろん新たな最適化された技術によって)一般的にいくつかの人間のコンポーネントを含むが、これは、いくつかの最終的な数学的変換を適用することにおいても実現されることができる(例えば、グレーディングは、先験的な審美的コンセプトに基づいて、最適な濃淡値割り当て関数として符号化されることができる)。これが単なる芸術に関する特許され得ないコンセプトの符号化に過ぎないと解釈されないことを確認するために、我々は、本方法は、新たなシステム、すなわち、特に、新たな最良の美的な見た目をハードウェアに自主的に決定させることが可能であるシステムの技術的構成を可能にすることを強調したい。取り込まれたイメージが、例えば家具を有する良い様子のシーンを生成することによって、芸術的に構成されることができるが、最終的には例えばシャープニング・フィルタへの技術的入力を形成するのと同じように、グレーディングは、最終的に符号化されるときに、技術のために必要とされる技術的情報を形成する。LDR入力に入力されるLDRピクチャは、例えば8ビットで符号化されることができ、HDRピクチャは例えば14ビットであるが、ビットの数それ自体は、厳密に何がピクチャ中にあるか、より正確には、イメージ・オブジェクトの各々のピクセルがどの色を持つかについて、多くを語らない。例えば、カメラが16ビットrawを生成する場合、14ビットHDRピクチャ中のかすかな非線形性によってそれらを符号化することがスマートでありえる(したがって、人間の視覚系は高輝度の輝度さに対してあまり敏感ではなく、すなわち、輝度の範囲の部分範囲は、利用可能な14ビットの線形割合より小さい方を割り当てられることができるという事実を利用することができる)。しかしながら、8ビット・ワードは、どんなに滑らかな非線形性を選択しても、16ビット輝度を忠実に符号化するためには小さ過ぎる場合があり、したがって一般的に、高い精度によって符号化される必要がある中間領域を決定し、その上下の明るい及び暗い輝度部分範囲を(ソフト)クリップする。これが範囲対精度の選択であることに注意されたい。もちろん、(例えば下位8ビットを省略することによって)16ビットから8ビットへと単に線形にダウンコンバートすることができるが、イメージの重要な輝度範囲は悪く再生され、それは、表示上のバンディングにつながる可能性がある。したがって、HDR信号は、それを符号化するために用いられるビットの量について必ずしも多くを示すわけではないが、どのオブジェクト輝度がピクチャ中に存在するかについて、例えば、符号化された非常に明るい領域が存在し、同時に非常に暗い領域が存在することについて示す。これらの符号化が一般的に技術的変換であることを理解することが重要である。そして、1つの表現を他の数学的表現に、例えば、LDR及びHDRを、それらを比較するための共通のフォーマットに符号化することができる(例えば、単純なものはそれらの白を同じ32ビット白レベルと同一視し、他の色が続く)。たとえカメラマン(又はカメラの設定を行う技術者)が自身の好みに従って複数の変換曲線のうちの1つを実際に選択することができるとしても、これは、基本的に依然として、例えばガンマ0.45曲線又は消費者カメラのようなS曲線による技術的マッピングである。グレーディングは、通常、ピクセル濃淡値及び/又は色のより緻密な決定であり、一般的に芸術的な変換を含むことができる。それは、技術上の考察によって部分的に限定される場合があるが(例えば、グレーダは、8ビット表現にダウンコンバートするためにいくつかの種類のS曲線を適用することを必要とする場合があるが、その場合依然として、例えば単に異なる形状の曲線からの選択でも、芸術的に最適な選択を用いる)、一般的に、それは、より高ビットの符号化のためにさえ、イメージの空間領域を選択し、(他の光がショットに他の感情を伝える領域に向けられるかのように)何らかのプロファイルに従ってその明度を変更することのような、より複雑な望ましい変換を必要とする(例えば、これは、一般的に、動画のデジタル・マスタのために、又は、ゲームのための空間をレンダリングするより高ビットの表現において実行される)。例えば、グレーダは、鏡面的に反射するオブジェクトを、(そのイメージ環境に比べて)より煌めかせるために、領域の局所的な輝度を増加させることができる。このグレーディングは、シーンについての意味情報、すなわち、作成者が全てのオブジェクト又は領域によって比色定量的に何を達成するつもりであったのかを暗黙に含むので、非常に有用な情報源である。1つのピクチャ(例えばLDRグレーディング)のみ利用可能である場合、イメージ処理装置が行うことができる最良のことは(例えば、ピクチャは標準的な500nit LDRディスプレイのために定められるかもしれないが、受信側において1000 nitディスプレイで表示される必要があり、実際にはこのディスプレイのより高い輝度範囲を活用することを所望し、それは、単にピクチャ信号をそのままディスプレイに適用するだけの場合、8ビット白を1000 nitディスプレイの白にマッピングすることから生じる輝度拡張が人間の目の適応によってすばやく打ち消されるので、それほど起こらない)、非常に一般的な技術的な式に従って特定のイメージ・ピクセル、領域又はオブジェクトの色を変換することを試みることであり、それはテレビ中のイメージ処理ICによって例えば実行されることができる。例えば、250を上回る駆動レベルd_norm(それは一般的に色符号化の輝度成分である)を有するピクセルを検出することができ、これらがハイライトであるらしいと解釈することができ、そして、(他の色を非常の低いディスプレイ出力輝度L_outとしたまま)現在のディスプレイの白へとマッピングするようにそれらを強くブーストすることができる。しかし、この方針は、いくつかのイメージにとっては非常に誤っており、例えば、いくつかの人の目の白い部分あまりに極端にブーストすることを想像することができる。しかしながら、少なくとも2つの異なるグレーディング(例えば、LDRグレーディング及びHDRグレーディング)が利用可能である場合、それらから、レンダリング又は変換がどのようであるべきかをより適切に導き出すことができる(上記の例において、目は、HDRグレーディングにおいて著しくより明るくなく、したがって、それらは全ての導き出されたグレーディングにおいて同様に作用するために「保護される」べきであるが、光は明るい)。
比較ユニット110は、第2グレーディングに対する第1グレーディング(例えばLDR及びHDR、又はHDR及びSLDR、LDRより下の範囲のためのグレーディング(例えば40:1))におけるピクセル又は領域の濃淡値の差異に注目し(我々は、より高い用語の正確さが必要でない場合、明度又は輝度のような異なる関連パラメータに変えて濃淡値を用いることができる)、グレーディング差異データ構造DATGRADとして、濃淡値にそれらの差異を特徴づける。述べられたように、差異は、純粋に数学ピクチャ特性評価方法において、すなわち、共通の基準への変換のあとにピクセル色又は輝度値のなんらかの差異を計算することによって(例えば、HDR色範囲における標準的な態様でLDRディスプレイをエミュレートすることによって)、決定されることができる。これは、ピクセルごとに実行されることができるか、又は、領域若しくはオブジェクトのよりスマートな特性評価が用いられることができ、例えば、テクスチャ測定又は(局所的な照度比較のために用いられることができる)空間プロファイルなどを用いる。しかしながら、ピクチャの純粋な技術的分析とは別に、実際の差異を決定するために、心理視覚則を考慮する差異アルゴリズムを定めることが有利でありえる。これにより、我々は、例えば実験室空間における計算又は色外観モデルの適用を意味しないが、人間視覚システムは、周囲のものと比べてオブジェクトの明度を判断することが知られている。特に、人間の視覚的システムは、見えたもの全体として(例えば、ディスプレイがどれだけ明るくピクセルをレンダリングできるか、及び周囲の色)、心理的に黒、白及びグレーを判断する。人間の視覚的システムがピクチャ中の淡い反射色と自己発光ランプとの間の差異を認知するので、後者は特にHDRにとって重要である。レンダリングは、好ましくは、例えば、明らかに白い領域として観察されるべきであるところ、明るいグレーの領域として観察されるべきではなく、逆もまた同じである。そのようなモデルは、いくつかの異なる計算において考慮されることができ、すなわち、一般的に、ピクセル又は幾何学的位置ごとのグレーディングは1つの実数である必要はないが、例えば、局所的オブジェクトがグレーディングにおいてどのように異なるのかについてのいくつかの態様を特徴づけるテュープルであることができる(すなわち、例えば、色差のようなピクセルごとの6次元テュープルで符号化されたイメージ、及び、ピクセルごとの3次元明度差。しかし、差異はより複雑なモデル(例えば、変換関数、又は、テュープル値として関数値をもつイメージと等価であるパラメトリックN次元のマッピング・マニホールドなど)として符号化されることもできる。なお、イメージは、例えば実際のシーンの空間的統計表現であることができる(例えば、輝度サブレンジのようなオブジェクトのクラス・タイプに基づく特定の関数に従って色を付けなおされたオブジェクトのマルチ・スケールの粗い表現))。例えば、局所的なシャープネスが、(人間の視覚的システムがこれを全て一緒に混合する)最終的な見た目に重要であることが知られているので、このテュープルはいくつかの画像特性を含むことができ、したがって、それは、異なる第3のグレーディングを決定するために受信側で用いられることができ、例えば、増加したシャープネスのためにいくつかの局所的なコントラストを強調するのをやめる。差異は、ベクトル、モデル(例えば、2つを関連付ける又はマッピングする関数マッピング)などとして符号化されることができる。
グレーディング差異データ構造DATGRADは、(ランニング解析アルゴリズムにおいて同時に全ての画像領域の記憶された情報を含む必要があるというわけではないが)イメージ全体又はイメージの重要な部分のための差異を説明することができる。もちろん、複数のピクチャ(例えばイメージの3つのグレーディング)又は複数のイメージのためのグレーディング差異データ構造DATGRAD(例えば時刻TRにおける基準イメージ中の同じHDRオブジェクトとの時刻TR+5におけるLDRピクチャのグレーディングの比較)が構成などされることができ、それは、いくつかの態様で、シーンの特定の要素(例えばシーン・オブジェクト)が、様々な特定のレンダリング・サイドの(ディスプレイ・ダイナミックレンジ、環境光の変化などのような)制限の下でどのように見えるべきかを伝達することができる。変動の後者のタイプの単純な実施の形態は、例えば関心領域マップROIMAP(例えばイメージのサイズを有するピクチャ)であることができる。図1は、2つの関心領域、すなわち、爆発であるRI及びロボット胸部の輝線であるRI2を含むそのようなマップを概略的に示す。2つのピクチャにおいてグレーディングの大きな差異が存在するので、これらの領域は特定されることができ、例えば、LDRピクチャは値が255にクリップされる必要があり、HDRピクチャはシーンの残りの値を越える明るい値としてそれらを特定する。いくつかの数値計算用アルゴリズムが、この差異を決定するために用いられることができ、それが、関心領域マップROIMAPに書き込まれるブーリアン値("1" = 関心領域, "0" = 非関心領域)をもたらすことができるか、又は、アルゴリズムは、例えば、領域がLDRピクチャ中よりどれだけ明るいかをさらに特徴付ける(例えば、CRがマップROIMAP中のピクセルのグレー値である場合、使用される定義は、0<=CI<100: 通常、 関心なし;100<CI<150:第1輝度タイプの明るいオブジェクト;150<CI: 表示側で利用可能な最大の輝度によってレンダリングされるべきである非常に明るいオブジェクトであることができる)例えば8ビット数によって、又は、(他のレンダリング処理変換につながる)どの種類のオブジェクトである可能性があるかを定めるイメージ・コンテンツ分析などによって、差異(量又はタイプなど)をさらに特定することができる。
すなわち、差異は精密に符号化される必要はなく、(受信側におけるレンダリング多様性を可能にする)いくつかのクラスに大まかに割り当てられることができ、更なるメタデータが、DATGRAD構造に追加されることができ、例えば、領域の種類をさらに特徴づける(それは、これが「輝線」であるというフラグを含むことができ、それは単純2進数評価であることができる[反射オブジェクトは、規格化されたマッピングによる共通の基準に対する変換の後さえ、それらの実際のピクセル値は異なる場合があるが、ピクチャ/グレーディングの両方において等しいと考えられることができ、一方、光は異なるように見えて、HDRディスプレイに対してLDR上で基本的に異なるようにレンダリングされる])。例えば、単純な予測の値(例えば、LDR画像の線形ストレッチ又は意図されるHDRディスプレイのより良好な特性の予想された再レンダリング)を、HDRイメージにおけるピクセルの実際の値と比較することができる。予測された値と実際の値が大体同じである場合、それは多分、関心のあるオブジェクトではなく、より高いダイナミックレンンジのシステムと同様に領域を示すための単なる変換である(それは、例えば粗い丸めこみによって、同等を示す"0"に変換されることができる)。一方、値がより大きい程度で異なる場合、ピクセルは関心があるとしてマークされることができ("1")、「差異」の粗い特性評価である。比較ユニット110は、特に、周囲のピクセルの比も考慮される場合(例えば、グレーディング濃淡値関係は、関心領域RI外の第1の関係からRI内の第2関係へと変化する)、LDR及びHDRピクチャにおけるピクセル値の比に注目する式を用いることができる。比較は、ピクセルあたりの分析に基づく必要はないが、空間フィルタリング、形態素処理、わずかな誤った構造の削除などのような、更なる前処理又は後処理が必要である場合がある。さらに、例えば空に対応する領域の更なる分析によって、又は、特定された領域のサイズ、形状、色、テクスチャなど基づいて、幾つかの領域が無視されて、ROIMAP中に含まれないことができる。
これらの関心領域RIを得ることは、全ての種類のイメージ処理にとってそれらを有用にする。これは、イメージのレンダリングに関連するイメージ処理であることができ、例えば、ディスプレイの駆動値として適用されるために、(例えば入力されたLDR又はHDRピクチャを変換することによって)新たなピクチャが構成されることができ、明るいオブジェクトの明さ値は、より明るくされる(例えば、「ハイライト・ブースト の量」のユーザ設定に対応する)。しかしながら、他の画像処理機能も関心領域RIから利益を得ることができる。領域が異なるグレーディングに値するのに十分に重要だったので、それらは、例えば、(例えば、携帯装置280の小さいディスプレイ281のための)異なるアスペクト比に向かう切り取り(crop)のような画像処理において残留するべきである。さらに、ロボットの胸部光は、画像分析法(例えば人型ロボット形状検出器) により領域をさらに処理するための初期入力を形成することができる。さらに、イメージ圧縮及びイメージ展開方式において、圧縮(展開)数学的処理は、そのような領域のために異なって調整されることができる(例えば、量子化の精度、又は他の品質に影響するパラメータ)。そして、例えば、ROIMAP中のピクセル値に含まれる又はそれとは別のメタデータとしてイメージ信号に割り当てられることができる量子化ステップを割り当てることは容易である。さらに、爆発領域は、例えば、フレーム又はその中のダスト構造のテクスチャを強調又は改善する(コンピュータ・グラフィクス・アルゴリズムを含む)異なるイメージ処理アルゴリズムによって処理されることができる。これらの関心領域の分析は、(特に単純な)イメージの記述IMDESCから恩恵を受けるアプリケーションにおいて用いられることができる。例えば、シーン中のオブジェクト、特にイメージ中の現実の光構造である領域を(特にそれらがHDRグレーディングにおけるように忠実に表現されている場合)より適切に知ることから、アンビライト(ambilight)又は周辺照明効果の生成は恩恵を受ける。例えば、爆発領域のための(X,Y,Z)又は(L,a,b)又は(R,G,B)平均色(あるいは色のセット)を導き出し、アンビライトを駆動するためにこの領域/色のみを用いることができる(X,Y,Z)_AL1は制御パラメータであることができ、あるいは、アンビライト・ユニット261への接続260を介して直接駆動する)。第2の関心領域は、周辺照明を駆動するために用いられることができる(周辺照明の特徴づけに従って、制御パラメータ(X,Y,Z)_SL1は、任意の1セットの周辺照明250の通信ユニット251に無線で送信される)。一般に、イメージ記述は、利用可能なピクチャの全ての種類の特性及び更なるデータに基づくことができる(例えば、オブジェクトがコンピュータ・グラフィクスで生成されたか等)。
例えば、異なるディスプレイ、異なる観察環境特性、異なるユーザの好み等のための新たなグレードのピクチャを導き出すことを望む場合、比較ユニット110は、(他のグレードのピクチャ中の全てのピクセルの各々のための新たなピクセルを生成し、そしてこれが、2つの例としてのグレーディングを所与として、異なるレンダリング状況の下で一般にシーンがどのように見えるべきかについてのイメージ・ベースの評価に対応するので)一般的にピクチャ全体を分析するが、もちろん、より多くのイメージのピクチャが関与することができる(例えば、特に(以前の)イメージが、レンダリングされるべき現在のイメージ又は他の基準ピクチャ中に存在しない段階的な暗いオブジェクトを含むので、ショット又はシーンのための特に代表的なグレーディングを有するとしてマークされることができ、あるいは、選択されることができる)。例えば現在のイメージ中に存在するより明るいオブジェクトのためのHDR画像から出発する濃淡値における変化を決定するときに、再レンダリング変換はこの更なる情報を用いることができる。これは、例えば、色域を確保して又はいくつかの影響を考慮するためにレンダリングを調節するために有用でありえる。
そして、グレーディング差異データ構造は、画像中の少なくともピクセルの選択された領域のための両方の段階的なピクチャにおける1つの(又はいくつかの)ピクセル値を少なくとも有する。イメージ全体を要約する複雑なもの又はその統計的要約から、(例えば、ある時刻においてイメージの小さい部分を調べる分析アルゴリズムにおける)簡単な局所的な表現まで(その場合、イメージの残りの部分は更なるデータにおいて要約されることができる)、いくつかの等価な構造が用いられることができる。
一例として、(例えば典型的なL_max_LDR = 500 nitの8ビットディスプレイを意図する)LDRディスプレイと、(例えばそれに従ってHDR符号化が実行されたL_Max_HDR = 5000 nitの基準ディスプレイのための)HDRディスプレイ(例えば、単に利用可能なLDR及びHDRグレーディングに基づいて、2000 nitの白を出力することしかできないより低品質のHDRディスプレイ)との間の中間のMDR(中間ダイナミックレンジ)ディスプレイのためのグレーディングをどのように計算すべきかを示すために図3を用いる。MDRグレーディング(及びそれからのMDRディスプレイ駆動信号。しかし、図3の例において我々は駆動信号d_normを直ちに導出する)の実際の導出は、再グレーディング・ユニット112又は方法によって実行される。当業者は、同様の考察によって、比較ユニット又は方法及び再グレーディング・ユニット又は方法の同様のバージョンは、追加的に又は単独で、第2グレード・ピクチャのグレーディングを符号化する他のデータを用いて構築されることができることを理解すべきである。例えば、符号化においてHDRピクチャがLDRグレード・ピクチャからのトーン・マッピングIL_PREDに基づいて主に符号化される場合、そのトーン・マッピングの逆は有用な関数であることができる(すなわち、当業者は、単に追加的なデータによる再グレーディングを調整することによってではなく、以下の例と同様の再グレーディングを構成することができる。例えば、逆トーン・マッピングがある程度特定のオブジェクトの濃淡値の減少に対応する場合、MDRのための再グレーディングは、減少した程度であるが、再グレーディング関数を導出するためのこれらの単独のデータを用いて、そうすることができる)。
図3において、2つの光電子変換関数、LDRディスプレイのOECF_LDR及びHDRディスプレイ(例えば、5000nitの基準ディスプレイ)のOEFC_HDRが示される。それらは、(例えば8ビットと14ビットが共に1にマップされるので、対応するHDRグレード・ピクチャに対してLDRを符号化するビットの量が重要でないように)アナログの正規化されたx軸によって示され、y軸は、ディスプレイ駆動値としてx値d_normを用いるかを示し、ディスプレイは、曲線のL_out値に等しい輝度を出力する。一般的に、そのような曲線はガンマ関数であり、典型的な又は実際のまぶしさなどに対する更なる補整をさらに考慮する。比較は、曲線上の少なくとも1つ又はいくつかポイントに重点を置く(例えば、淡い濃淡値を有し、駆動値の範囲(LDRグレーディングにおけるR_obj_W_LDR及びHDRグレーディングにおけるR_obj_W_HDRに対応する、ピクセル・カラーのある領域)。なお、主にディスプレイがその電気光学挙動(すなわちピクセル値がディスプレイ-ガンマの観点から解釈される)によって濃淡値をどのように表示することができるに焦点を合わせたこの単純なシナリオにおいて、グレーディングは、OECFに沿ったシフトとして解釈されることができ、すなわち、LDRにおける範囲は、LDR最大から、HDRピクチャの最大からの距離dw_hより小さい距離dw_lを有する。これは、グレーダが、例えば、HDR範囲上へのLDR値の単なる線形拡張によってレンダリングされるとすると、オブジェクトが明るすぎると考えたからであり、すなわち、HDRピクチャ中のそれらのピクセルの駆動値を、プレーンの拡張値より小さく修正した(なお、LDR及びHDRに対するプレーンの拡張値は、単純にマッピングするカメラの未加工の値に由来する場合がある)。このオブジェクト範囲において、LDRイメージ中の特定のピクセル(例えば、グラフ上に示されるような特定の濃淡値を有するピクセル301又は302)は、(例えば、単なる幾何学的配置によって、又はより複雑な割り当てアルゴリズムによって)それぞれHDRイメージ中の特定のピクセル303, 304に対応する。LDR及びHDR(302及び304)それぞれのための「最適な」グレード・ピクセルを所与として、中間MDRディスプレイにおいて(ピクセル305のために)どんな駆動値が必要であるかを知りたいだろう。長所として、単純なアルゴリズムによって、補間グレーディングのために、このポイント305は、MDRディスプレイのためのOECF_MDRを決定し、LDR及びHDRグレーディングそれぞれにおけるポイント302及び304を繋ぐ線とこのOECF_MDRとの交点を計算することによって取得されることができる。そこから、MDRディスプレイを駆動するための駆動値d_norm_solが決定されることができる。このOECF_MDRを適用することは、良好なソリューションにつながる多くの利点を有する。例えば、出力輝度が全てのディスプレイのために同じであるべき場合には、水平接続線は、任意のOECFのために、その出力輝度をもたらす駆動値を与える。逆に、クリッピングのために、1つのOECF上の複数のポイントが、他のOECF上の単一のポイントに対応するシナリオが存在する場合がある。例えば、暗い領域において、OECF_MDR及びOECF_LDRは、局所的に比較的類似である。この類似性は、マッピング・アルゴリズムから生じ、2つの暗いピクセル311と312との間のレンダリングにおける差異は、ますます異なる点314及び315に対してディスプレイの能力に従ってうまく比例するので、さらにOECF_MDRはOECF_HDRと同様になる。もちろん、さまざまなOECFに沿ったポイント又は1セットのポイントの位置をより詳しく調べる、特に、内部基準に比べてオブジェクト範囲/領域の外側の基準ポイントに対する予想される位置を調べる、より複雑なアルゴリズムが用いられることができる(オブジェクト内部のコントラストに対する、大域的な明度関係のさまざまなグレーディング・シナリオのインパクトをどのようにグレーダが判断するのかをそれぞれ行わなければならない)。例えば、ポイント306へのより複雑なマッピングとして、マッピング式は、範囲が例えば最大値(dw_h)と比較される場所に対するオブジェクト・ポイントの典型的な範囲内でポイントが位置する場所(例えば、最も明るいポイント304からの距離dmo_h)、並びに、異なるグレーディング(LDR、HDR、及び、おそらくは、他のディスプレイのための又は他の表示シナリオ等のための更なるグレーディング)における関係に対する、予測されるMDRグレード・ピクセル値のためのこれ(距離dw_mは、少なくとも許容差内で、2つの他のグレーディングを所与として期待されるものに合致しているべきであり、したがって、例えば、dw_h及びdw_lを所与として線形に期待されるよりもう少し過度により暗い値へとシフトすることができるが、dw_lより暗くない)の評価関係を有することができる。マッピング式は、例えば平均、又は、処理の下でオブジェクト範囲中に頻繁に存在する色のような、特性値を含むことができ、これらの値は、例えば、グレーディング側におけるグレーディング処理の統計分析に基づいて、符号化されたイメージとともにメタデータとして一緒に記憶されることができる(例えば、特定のオブジェクト又は各種オブジェクトのための許容される範囲の上部分においてそれらを最適にフィットさせることを試みて値を注意深くいじるグレーダに注目し、そのグレーディングなどに費やされた時間の量のようなパラメータに注目することができ、それが、MDRディスプレイOECFの対応するサブレンジにおけるマッピングに再グレーディングを誘導することができる)。再グレーディングを微調整するための有用なデータの例は、例えば明るい色R_whiteの範囲であり、それは、異なる程度に、多くのLDRディスプレイ又はそれ以下においても表される/表されるべき、R_midのような中間範囲でオブジェクト又は領域を比較して再グレーディングするための他のシナリオに対して、低レンジ・ディスプレイ上に対してより高ダイナミックジンジ・ディスプレイ上で比較的よく表すことができる。
(例えば、より大きなグレア、すなわち低減されたコントラストを説明するために最適化に駆動される必要がある携帯装置280のより低品質のディスプレイ281のような)例えばサブLDRディスプレイに対して外挿するために有用でありえる、より複雑なグレーディングの実施例、及び、例えばユーザの好みのような他の要求のための調整が、図4に示される。
物理的OECF表現において全てを表して、それらのOECFに沿ったシフトとして全ての他の変更を考える代わりに、全体のOECF(例えば、OECF_TFR)を与えるOECFの変更としてトーン・マッピング(例えば、ユーザの好みのコントラスト設定)のような濃淡値の幾つかの変更を表現することができる(ディスプレイがもはやガンマ挙動を示さずに、何らかの他の複雑な挙動を示すように、言い換えると、何らかの他のグローバルな(又はより複雑な、あるいはセミグローバルな)変換の観点においてピクセル・カラー・マッピングを再評価する)ことを理解すべきである。そのようなOECF_TDR曲線は、その場合単純な表示曲線の代わりに典型的なレンダリング・システム曲線としてみなされることができる。これは、特に、「常に期待される」変更に対して(常に例外的に明るい領域を好むユーザのようであるが、それらはグレード化される)、そして(その芸術的な意図がシフトとして依然として表されることができる)特定のイメージ/ピクチャ中の特定のオブジェクトの特定のグレーディングから区別するために、興味深い。例えば、グレーダは、元のシーン中の暗いコート・ショットは実際に明るい白のように等級分けされるべきであることを好む場合があり、ユーザは、全ての明るいコートがさらにより明るいことを望む。ディスプレイの実際のOECFがたとえどんなものであろうとも、暗い色をそれ程気にかけない特性OECF_TDRを有するために(例えば、追加のルックアップ・テーブル又は同様のものによって)ユーザがそれを構成し(おそらく、動画はいくつかの暗いシーンを有し、ユーザはディスプレイのフロントガラスで反射するリビングルーム照明のフレアを所与としてより適切にそれらを見ることを望むので、ユーザはそれらに輝度オフセットを追加する)、ユーザは(範囲clrvisにおける)中間的なカラーのための大きいコントラストを特定し、ユーザは、(ディスプレイがその最大値L_max_TDRまでのより明るい色を実際にレンダリングすることができる場合であっても)、(ユーザ設定が多すぎないスマートな色改善を適用することを望むユーザ制御の背後の数学的処理に依存して、値HL_ref_HDR又は同様の特定のパラメータを超える)少なくともより明るいハイライト401,402を、1つのハイライト典型値L_max_APLにクリップすることを好む(すなわち、それらのポイントは、HDRグレーディングから-マッピング410などによって、位置404にマップされる)。
コンテンツ作成側の創造的なグレーダは、例えばユーザ輝度ブーストのような、そのような可変条件の下であるときに、レンダリングが(大体)どのように見えるべきであるかの意見をここでは述べることができる。グレーダは、一部分の曲線を用いることができる。例えば、上記で説明されるように、駆動値LE_dvHより上で、グレーダはディスプレイ・ガンマ挙動に基づく単純な補間方針を用いることができる。しかしより暗い色に対して、グレーダは、1つあるいは複数の他の変換方針(例えば、最大の識別可能な画像の詳細を維持するためのもの、最大の怖い(隠れた)見た目のためのものなど)を記述することができる。(より実際的な)HDRグレード及びLDRグレードにおける差異は、この観点から解釈されることができ(例えば、どのように詳細が連続してより高いダイナミックレンジのグレーディング中に存在するようになるか)、したがって、(図4において矢印として表わされる)予測関数、又は、平均的なシステムの挙動を決定するOECF_TDRのような部分関数が、少なくとも2つのグレーディングに異なるグレーディングを特徴づけることができ、第3のグレーディングに対する再グレーディング挙動を決定することができる。例えば、ユーザが輝度ボタンを押すと、システムは、より暗い色のための、より詳細を保存する再グレーディングに近づく。
このアルゴリズムは、初期の予測のために期待される変換を用い、そして、いくつかのグレードのピクチャLDR、HDR中の実際のグレード化されたピクセル値に基づいて修正する。例えば、グレーディングは、観察環境に対する典型的な参照値によって構成されることができる。図3の方法を適用した後で、その後に例えばLDR符号化に対して定められたものより暗い環境で観察されるときのピクチャのコントラストを例えば増加させるために、人間の心理視覚原理に基づいて標準的な比色変換を適用することができる(すなわち、LDR信号は、LDRディスプレイでの使用であるが大幅に暗い環境における使用のために修正されべきである)。しかしそれは、すくなくともグレーダの芸術的な好みによれば、最適状態には及ばない可能性がある。別の態様では、利用可能なグレーディングから予測モデルに直接これらの係数(少なくとも駆動値の範囲にわたる必要とされる増加したコントラスト)を組み込むことができる。観察環境輝度の低下に対してグレーディングがどのようであるべきかに関する正確な情報をいくつかのグレーディングが(部分的に)伝達する場合、これは両方とも実行されることができ(例えば、グレーダは、いくつかの代表的なピクチャのために、暗い環境のために例えば第2のLDR及びHDRグレーディングのための再格付けをすることができる)、その情報は、2つの単純なグレーディングLDR及びHDRのみによってさえ、他のイメージ/オブジェクト/シナリオためのマッピングの精度を高めるために用いられることができ、図4の方策が意味を成す。この例示的な方法において、LDRにおけるピクセルの色の範囲を考慮して、すくなくともその中の点(例えば中点)がターゲット・トーン・マッピングOECF_TDRに、すなわちポイントP_LDに位置するべきかを予測する(このマッピングは、新たな観察環境に対するユーザの適応、コントラストに関するユーザの好みなどを特徴づける全ての又は幾つかの要求される心理視覚補正を考慮する関数を生成することにより実行される)。HDR(すなわち、HDRグレーディング中のサブレンジ又はオブジェクト領域)に関して同じことを実行することで、オフセットdpだけP_LDと異なるP_HDをもたらす。これは、一般的に、グレーダがこれらの色は明るいHDRディスプレイ上で軽い明度によってレンダリングされるべきである考えた一方、例えば、物理的制約が、LDRのためのより高い駆動値によってそれらをレンダリングすることを強制する可能性があるからである。そして、OECF_TDR上の中心点に対応する点410を得るための最終的なマッピング・アルゴリズムは、ユーザがこの小さいサブレンジが高コントラストでレンダリングされることを好んだので、それ程多くないグレーレベルがこの範囲に対して表わされることができ、範囲R_LDRが可能性のある濃淡値の全体の中のどこにあるかを検討することができ、ポイント410がLDR予測P_LDにより近いという事実をもたらすという要因を考慮して、それがLDR予測により近いべきか又はHDR予測により近いべきかを決定する。もちろん、精度の低いモデリング式によるブラインド・アルゴリズムは、合理的な近似として、P_LDとP_HDとの間の中点を利用し、それは計算負荷を簡素化し、すなわち、検出器は、P_LDとP_HDとの間の差異を評価することができ、より精度がよい複雑な更なる計算が必要とされるかどうかを決定することができる。一般的な表現において、この例における比較の下での範囲は、駆動値LE_dvHとHE_dvHとの間に位置する。LRO_min及びLRO_maxは、輝度軸上のLDRサブレンジを特徴づける例である。
そのようなモデルは、図5で説明されるように、複雑度を表すことができる。
例えば図5bにおいて、(おそらく局所的な、すなわち幾つかの領域又はオブジェクトに対して)更なる実際のグレーディングが存在し、対応する点G_MDRは、線形軌跡ではなく、非線形軌跡に従って、より正確な補間が実行されるべきであることを示す(これは、HDRグレーディングの近くで、その色の中間的なグレーディングはそれほど相違するべきでないが、HDRから特定の距離を超えて、それらはLDR状態にすばやく収束するという事実に由来する)。これが、例えば、それらのカラーのための任意のより高ダイナミックレンジのディスプレイから可能なすべてをしぼり出すためのグレーダの選択のためであることができる。そのような考察は、例えばLDRポイントとHDRポイントとの間の線形予測に沿った距離及びそこからの直交する偏差を含む式によって、数学的に扱われることができる。図5aは、より複雑なグレーディング差異データ構造DATGRADの構成の例を示し、その画像に対して局所的に、中間グレーディングに対する複雑な非線形挙動、例えば、グレーディング上のポイント503は、最大値L_M1及びおそらく最小値のような更なるパラメータPx_1などによる表示に対して正確である。パラメトリック数学的予測PMAPによるマッピングは実際の最適にグレード化されたポイントから曲線形の距離DELTだけ逸脱する場合があり、より多くのこのポイントが利用可能であるほど、予測は良好になることができる。それらのポイント及び曲線は、受信側で(LDR及びHDRグレーディング並びに更なる比色パラメータのみのような)わずかなデータに基づいて推定されることができるが、それらは、送信側からの共符号化されたデータに基づいて決定されることができる(例えば、グレーダの装置のソフトウェアは、幾つかの高度に代表的な曲線、又はそれらを(より正確に)再生成するためのパラメータを追加することができる)。
図1に戻って、いくつかのオプションの接続されたコンポーネントが示される。状況分析モジュール130は、他の再レンダリングを必要とする状況に関するパラメータ、例えば異なるマッピング・アルゴリズム又は(伝達されたデータに基づいて再グレーディング・ユニット112によって、又は、状況分析モジュール自体によって決定されて、転送されることができる)他のターゲット・トーン・マッピングOECF_TDRなどを提供する。それは、例えば1つ以上の環境測定装置132のようなさまざまな装置に接続されることができる(それは、例えば、ディスプレイがあるリビングルーム又は環境の明るさを測定し、この情報を環境特徴データVCHARとして転送する照度計であることができる)。イメージ処理装置101は、クリエータ側であっても、コンピュータ又はセットトップボックスのような受信側であっても、ユーザ・コントローラ134(例えばリモート・コントローラ)に接続されることもできる。このようにして、再グレーディングは、特定のユーザ設定に基づいて決定されることができる。例えば、ユーザは、利用可能ないくつかの視覚的品質設定、典型的なテレビと同様に単純な大域的コントラスト・ブースト、又は、例えば、より暗い色のための輝度設定、中間範囲のためのコントラスト及び最も明るい色のための好ましいブースト若しくは調光の3つのパラメータ・セットを伴う、よりHDRに関連した制御を有することができる(それから、アルゴリズムはトーン・マッピング関数を構成又は修正することができる)。そして、ユーザ制御される設定USRSETは、3つの数値的値であることができ、例えば、更なるスマート設定が、テレビ、コンテンツ・プレーヤーなどに組み込まれることができ、例えば全体的なパワー・セービング設定は、単に最大出力をスケーリングすることよりも、トーン・マッピングに対してより役に立つが、重要な中間範囲のオブジェクトの最適な可視性を考慮して(おそらく、観察環境データを考慮して)スマート曲線を適用する。他の設定は、最も明るい色に関してのみ、例えばそれらの影響又は不快さを増加又は低減するために、機能することができる。
図2は、本実施例を用いて本実施例から恩恵を受けることができる例示的なリビングルーム・システムを示す。例えば、画像処理装置は、光学ディスク・プレーヤ210中の画像処理IC101として実現されることができる(例えばBDであるが、これは単なる一例であって、本発明は、例えば固体メモリ、のような他の記憶手段、インターネット接続のようなデータ伝送経路などによって実現されることができ、もちろん、画像処理「装置」は、任意の大きな装置であることができることにも留意されたい)。ブルーレイ・ディスク215は、2つのグレード化されたピクチャ(又はそれと同等の情報)、(例えば、特定のオブジェクトに対してグレーダによって明示的に特定される、又は、グレーディング実行によって自動的に導出される)ピクチャがどのようにグレード化及び/又はレンダリングされるべきかに関する更なるデータ216、並びに、グレーディングがどのように圧縮パラメータにマッピングされるかのような潜在的な他の情報などを含むことができる。後者は、付加された軌道またはメタデータを介して送られることができる(例えばAVCにおける補足エンハンスメント情報のようなシステム)。例えば、グレーダ側(例えば603)のグレーディング装置は、グレーダがいくつかのオブジェクトのグレーディングに気を取られている時間の量を追跡ことができる。これは、オブジェクトがどれくらい重要である可能性があるかについての指標であり、それは、例えば関心領域マップROIMAP中に数値的に表わされる。そして受信側の自動イメージ処理アルゴリズムは、この情報を考慮することができ、例えば、オブジェクトが低品質のディスプレイ上で最適に見えることを確実にすることができる。図5aにおけるような構造を再形成することを助けるパラメータ・モデルが記憶されることができる。なお、異なる種類のグレーディングへの再グレーディングを可能にするメタデータが存在する場合があり、それは、より正確な微調整を可能にする近似のテンプレートを形成することができる(例えば、少なくとも最も重要なオブジェクトがLDRからSLDRへとどのようにマッピングされるべきか、LDRは他の予想される観察条件の下でどのようにLDR^*にマップされるべきか、及び、1つの有望な中間グレーディング)。グレーダは、多数のさまざまな異なるディスプレイに対してどのように効果が正確に再グレード化されるべきかを、(少なくともいくつかの重要なオブジェクトに対して)より正確に特定することができる。どのタイプのイメージ・オブジェクト又は効果が関係するかの意味情報(例えば、観察者に向けて明るく輝くべきであるフラッシュライト、又は、一時的に観察者をまぶしがらせるべきである爆発など)が、共に記憶されることができる。なお、消費者向けBDディスクについて言及したが、これは、コンテンツ所有者側のグレーディングの永続的な記憶のための記憶装置であるか、又は、テレビスタジオへの送信のための送信手段などであることができる。同様に、消費者環境における再グレーディングについて説明したが、それらは、例えば、人間による修正の前の自動事前グレーディングのような、専門の環境において実行されることもできる。ディスプレイ自体がイメージ処理ICを含むことができるが、この例では、BDプレーヤ(あるいは、セットトップボックス、PC又は家庭メディア装置など)が、粒度分析及び再グレーディングことを実行することを想定する。それは、無線又は有線の接続213(例えばHDMI)上でテレビ200に接続することができ、それは、必要なグレード化されたピクチャ(例えばMDRピクチャ)を伝達するか、又は、テレビが(最初にあるいはさらに)再グレーディング、イメージ処理機能(例えばシャープネス増加若しくは色修正)などを実行することを可能にする他のデータを伝達する。テレビは、LCDパネル201及びLEDバックライト・ユニット202から成り、別のアンビライト・ユニット261を有する。BDプレーヤは、第2のユーザがベッドルームで見ている携帯型ディスプレイ280に送られる更なるグレーディングSLDRを構成することができる。
興味深い実施の形態において、第3のグレーディングは、LDRピクチャ(例えばQLDR1)であり、すなわち、それは、典型的には、ほとんど入力LDRグレーディングのように見えるピクチャである(すなわち、そのピクセルの色/輝度は、入力LDRの輝度周辺の変域RANGVARの範囲に入り、例えば、鮮明度又はテクスチャの追加/改善調整のみが存在する)。これのいくつかの実施例が図6に説明され、作成からレンダリングまでのイメージ使用チェーンを示す。カメラ601は、カメラ生データをマスター記憶装置602に記憶し、そこから、それは、グレーディング装置603においてマスターグレーディングされ、デジタル・マスタ記憶装置604に記憶される(もちろん更なる自動的な又はユーザにガイドされた変換が含まれることができるが、これはHDR入力と同等視されることができる)。その後、このデジタル・マスタは、第2グレーディング装置605において再びグレード化され、HDR(例えば12ビット対数デジタル・マスタ)と共に、LDR記憶装置606に記憶されることができる(例えば、これは、BD上に8ビットでLDRを記憶するためのグレーディングであることができる)。そして、LDR圧縮機610が、例えばAVCにおけるように、DCTに基づく原理に従ってLDR信号を圧縮する、階層符号化が関与する場合がある。LDR伸長機611は、受信側が実行することができるものを再構成し、HDR予測装置612は、伸長されたLDR信号からHDR信号を予測するために、トーン・マッピングを適用する。HDR符号器613は、例えば残差(及び/又はトーン・マッピング関数の補正)として、HDR信号を符号化する。例示的な実施の形態の更なる詳細のために、EP 10168565.9 (PCT/IB2011/052892)を参照する。フォーマッタ614は、例えばBDディスク上に、又は、ネットワーク620上で送信されるように、全てを一緒にする。逆フォーマッタ630は、受信側ですべてを解凍し、LDRデコンプレッサ631を介して、LDRピクチャ(又はピクチャ・シーケンス)、及び、HDRグレード化ピクチャを符号化するデータ(すなわち、例えば差異ピクチャ)D_HDRを得る。第2HDR予測装置632及びHDR復号器633を介して、HDR信号は、忠実に再構成されることができる。なお、この階層化アプローチにおいて、HDR符号器613と同様に、例えば、MDRディスプレイ又は他の観察環境などのために、LDR及び潜在的にHDRのような他の信号に基づいて、差異信号を符号化する更なる符号器が存在することができる。
本実施例の有利なアプリケーションは、オプションの逆トーン・マッピング・ユニット634である。すなわち、HDRピクチャがトーン・マッピングを介してLDRに関連する場合(なお、逆トーン・マッピング関数は、LDRからHDRへのトーン・マッピングの利用可能なバージョンから導出されることができるが、もちろん、HDR及びLDRピクチャの分析することによって(相互)導出されることもできる)、LDRはその逆を経てHDRから導き出せる(HDRピクチャの全ての輝度L_HDRをL_LDRに関連付けるITM;なお、複雑なグレーディングからみて、そのようなトーン・マッピングは、イメージ全体に対して一定である必要はなく、時空的に局所的でありえる)。しかしながら、HDRに基づく予測を近似的にマップすること(例えば、LDR及びLDR^*の小規模の空間平均信号を互いにマッピングすること)ができ、そして、(HDRがより正確なテクスチャ、例えば、LDR入力では除かれている場合があるより正確なグラデーションを有するので)LDR信号を改善することができることを理解することが重要である。ましてや、これは、より粗く表わされた(すなわち少ないビットによる)LDR信号を送信することを可能にし(これは、明らかに階層化予測アプローチに反するように見える)、そしてHDRデータのためにより多くのビットを確保する。これは、例えば、利用可能な非常に広い帯域を持たない場合があるが、依然としてハイエンドなHDRアプリケーションのための最適な経験及び品質を望むケーブル又はインターネットのようなシステムにとって有利である。他方では、それらは、従来のシステムにサービスを提供し続ける必要がある。その場合、完全に従来のシステムは、いくつかのより低い品質の(例えばより明暗のむらがある)LDRデータを得る場合がある。しかしながら、セットトップボックスは、ソフトウェアによってより容易にアップグレードされることができ、又は、消費者は、1500ドルの新たなテレビよりも150ドルのプレーヤを容易に購入し、したがって、このシナリオは、ユーザが、図6のシステムによる新たな例えばBDプレーヤと、依然として旧来のLDRディスプレイ200を有する場合に興味深い。そして、逆トーン・マッピング・ユニット634は、LDR及びHDRグレーディングの全ての利用可能なデータから、ブロックアーチファクトなどが少ない、より高い品質のLDR信号QLDR1を生成する。
オプションとして(そして別のシステムにおいても)実行されることができる他の処理は、イメージプロセッサ635による。それは、LDR信号の選択された領域に、それをより鮮明にするために、HDRグレーディングから選択される空間テクスチャを例えば追加することができ、QLDR2をもたらす。もちろん、全ての利用可能なピクチャ・データから最終的な駆動信号を導出するためのより複雑な関数も利用されることができ、例えば、入力LDR信号及びQLDR1信号が、例えば(基礎となるテクスチャがスムーズな階調か又は複雑であるかなどに例えば注目する)品質分析に基づいて、混合されることができる。
図7は、概略的に、対応するHDRグレーディング(すなわち、シャープニング)を有するLDRグレーディングに関して実行されることができるイメージ処理の他の実施例を説明する。HDRがより良好な品質データを有するので、(アーチファクトなどを増加させるのではなく)その信号をシャープにすることがより良好である。高周波数分離ユニット701は、HDR信号(例えば、そのミクロテクスチャを含む)の高周波数部分h_HDRを導き出す。空間選択ユニット703は、どのピクセルに対してこのデータが用いられるべきかを決定する。変換ユニット705は、ミクロテクスチャがLDR範囲に適用されるためにどのように変換されるべきであるかを決定し、例えば、それは、局所的な鮮明度の量を制御するゲイン・ユニットであることができ、マッパー707は、この微細テクスチャの濃淡値をLDRオブジェクトの基礎をなすプロファイルに正確にマップし、その後、それは加算器711によってLDRに追加される。当業者は、例えばアンシャープ・マスキングのような代わりのオプションによってそれをどのように実現すべきであるかについて、及び、他のイメージ処理関数をどのように同様に構成すべきかについて、認識するだろう。例えば、この方法は、LDR輪郭アーチファクトを除去するために有用である。
図8は、異なる作成者のレンダリング・ビューが特定のパラメータの値に依存して異なるモデルによってどのように表されることができるかを概略的に示す。例えば、共通の基準にLDR及びHDRグレーディングをそれぞれマップする予測関数に関して、例えば、(LDR)基準ディスプレイ(それに関して一般的にLDRグレードが決定された)の暗い色をレンダリングする能力及びディスプレイ周囲の光レベルのようなパラメータに基づいてこれを符号化することができる。同じことが、例えば、全OECF(例えばOECF_TDR)によって、実行されることができ、それによって、レンダリング・システムの平均的なレンダリング挙動がモデル化あれ、すなわち、判断等される。
この例では、「黒表現可能性」軸は、どれくらい多くの暗い色が、例えばディスプレイのフロントパネル上での周囲の照明の反射の下で観察されることができるかを決定する。レベル"bad"は、例えば、全ての駆動値の10%が互いに区別されることができないことを示すことができる。"good"は、例えば最低0.5%の符号が少なくとも依然として区別可能であることを意味することができる。低品質LDRシステムは、不十分な黒及び低いピーク輝度を有する。この場合には、第1のモデルmod_1が定められ、これは、例えば、LDRグレードが正確にはどのようなものであるかの予測のために、このモデルが、典型的なグレーダによってより暗い色の厳しい照明を考慮することを意味する。いくつかの色が依然として過剰に暗い場合、それは何かを意味するにちがいない。しかしながら、良好な黒を有するディスプレイにおいて、モデル2(mod_2)は、それらの過剰に暗い色を、使用されるOECF(例えば、そのような良好なダイナミックレンジ・ディスプレイのガンマ曲線)の過剰に暗い輝度領域に正確に投射することができる。同様に、より高いピーク輝度のために、他の方針が用いられることができる(mod_3)。これらの方針は、メタデータ(例えばDAT_GRAD)及び例えば直線又はパラメータ曲線などのようなそれらの間の(粗い)境界中に符号化されることができる。LDR及びHDRグレードを分化するために比較モデル(及びおそらく再グレーディング規格アルゴリズム)を場合に依存して符号化することは、異なる意図された挙動間のインテリジェント・スイッチングを非常に容易にする。
本文において開示されるアルゴリズムのコンポーネントは、ハードウェア(例えば特定用途向け集積回路の一部)として又は特別なデジタルシグナルプロセッサ若しくは汎用プロセッサなどで動作するソフトウェアとして実際に(全面的にあるいは部分的に)実現されることができる。どのコンポーネントがオプションの改善であって、他のコンポーネントとの組み合わせで実現されることができ、方法の(オプションの)ステップが装置のそれぞれの手段にどのように対応するか(又はその逆)は、我々のプレゼンテーションから当業者によって理解されるはずである。本出願における用語「装置」は、その最も広い意味、すなわち、特定の目的の実現を可能にする手段のグループとの意味で用いられ、したがって、例えば、IC(の小部分)、(ディスプレイを備える機器のような)専用の機器又はネットワーク化されたシステムの一部などであることができる。「配置」も、最も広い意味で用いられることが意図され、したがって、それは、とりわけ、単一の装置、装置の一部、協働する装置(の一部)の集合などを含む。
外延としての本実施例のコンピュータ・プログラム製品バージョンは、汎用又は特定用途プロセッサが、(中間言語及び最終的なプロセッサ言語への翻訳のような中間変換ステップを含むことができる)一連のロードステップの後で、プロセッサにコマンドを入力して、本発明の特性関数のいずれかを実行することを可能にする、コマンドの集合の任意の物理的実現を含むことが理解されるべきである。特に、コンピュータ・プログラム製品は、例えばディスク又はテープのようなキャリア上のデータ、メモリに存在するデータ、有線若しくは無線ネットワーク接続を介して伝播するデータとして実現されることができる。プログラムコードは別として、プログラムのために必要とされる特性データが、コンピュータ・プログラム製品として実現されることができる。コンピュータとして、我々は、データ計算を実行することが可能な任意の装置を意味し、すなわちそれは、例えば携帯電話であることができることは明らかである。装置の請求項は、実施の形態のコンピュータで実現されるバージョンをカバーすることができる。
方法の実施のために必要とされるいくつかのステップ(例えばデータ入出力ステップ) は、コンピュータ・プログラム製品において記述される代わりに、プロセッサの機能中にすでに存在する場合がある。
上述の実施の形態は、本発明を制限ではなく説明することが留意されるべきである。請求の範囲の他の領域への示された実施例のマッピングを当業者が容易に理解できる場合、我々は、簡潔性のために、全てのこれらのオプションを徹底的には述べなかった。請求項において組み合わせられた本発明の要素の組み合わせとは別に、要素の他の組み合わせも可能である。要素の任意の組み合わせは、単一の専用の要素において実現されることができる。
請求の範囲における括弧間のいかなる参照符号も、請求の範囲を制限することを意図しない。用語語「有する」「含む」などは、請求項に挙げられていない要素又は態様の存在を除外しない。ある要素に先行する「a」又は「an」という語は、斯かる要素が複数存在することを除外するものではない。

Claims (17)

  1. イメージの少なくとも2つのグレーディングの差異を分析する方法であって、
    第1輝度ダイナミックレンジを有する第1のグレード化されたピクチャを取得し、
    第1輝度ダイナミックレンジとは異なる第2輝度ダイナミックレンジを有する第2のグレード化されたピクチャのグレーディングを符号化するデータを取得し、
    前記第2のグレード化されたピクチャの前記グレーディングを符号化する前記データに少なくとも基づいて、グレーディング差異データ構造を決定し、
    前記グレーディング差異データ構造、並びに、前記第1のグレード化されたピクチャ及び予め存在するか又は第2のグレード化されたピクチャのグレーディングを符号化する前記データから導出可能な第2のグレード化されたピクチャの少なくとも1つに基づいて、第3のグレード化されたピクチャを導出し、
    前記第3のグレード化されたピクチャの導出が、観察環境の特性に関する取得された情報に基づいて実行される、方法。
  2. イメージの少なくとも2つのグレーディングの差異を分析する方法であって、
    第1輝度ダイナミックレンジを有する第1のグレード化されたピクチャを取得し、
    第1輝度ダイナミックレンジとは異なる第2輝度ダイナミックレンジを有する第2のグレード化されたピクチャのグレーディングを符号化するデータを取得し、
    前記第2のグレード化されたピクチャの前記グレーディングを符号化する前記データに少なくとも基づいて、グレーディング差異データ構造を決定し、
    前記グレーディング差異データ構造、並びに、前記第1のグレード化されたピクチャ及び予め存在するか又は第2のグレード化されたピクチャのグレーディングを符号化する前記データから導出可能な第2のグレード化されたピクチャの少なくとも1つに基づいて、第3のグレード化されたピクチャを導出し、
    前記第3のグレード化されたピクチャの導出は、光出力の不快感を特定する設定、電力使用を制限する設定、又は、当該第3のグレード化されたピクチャの表示に関するユーザ制御された設定に基づいて実行される、方法。
  3. 第2のグレード化されたピクチャの前記グレーディングを符号化する前記データが前記第2のグレード化されたピクチャであり、グレーディング差異データ構造を決定するステップが、
    前記第1のグレード化されたピクチャ及び前記第2のグレード化されたピクチャのうちの1つの少なくとも空間又は輝度領域の、前記第1のグレード化されたピクチャ及び前記第2のグレード化されたピクチャのピクセル値を比較することを含む、請求項1又は2に記載の方法。
  4. 前記グレーディング差異データ構造は、前記イメージの空間的関心領域を含み、基準にしたがって、前記第2のグレード化されたピクチャに対する前記第1のグレード化されたピクチャの空間領域におけるグレーディングの差異の存在又は量を示す、請求項1から請求項のいずれか一項に記載の方法。
  5. 前記第1、第2及び第3のグレード化されたピクチャの少なくとも1つに、例えば、ピクチャ適応スケーリング又はピクチャ鮮明化のような、イメージ処理変換を適用することをさらに含む、請求項1から請求項のいずれか一項に記載の方法。
  6. 前記グレーディング差異データ構造に基づいて、例えば前記イメージの空間領域の色規格のような、イメージ記述を導出することをさらに含む、請求項1から請求項のいずれか一項に記載の方法。
  7. 前記第3のグレード化されたピクチャのピクセルの輝度が、前記第1のグレード化されたピクチャのピクセルの輝度周辺の少なくとも1つの変域に含まれ、特に、前記第3のグレード化されたピクチャは、鮮明度のような視覚品質特性又は圧縮アーチファクト測定による、前記第1のグレード化されたピクチャの視覚品質改善である、請求項に記載の方法。
  8. 前記第3のグレード化されたピクチャが、前記第1のグレード化されたピクチャと前記第2のグレード化されたピクチャとの間の、輝度基準に従って測定可能な、中間ピクチャとして導出される、請求項又はに記載の方法。
  9. 前記第3のグレード化されたピクチャの導出が、前記第1のグレード化されたピクチャを前記第2のグレード化されたピクチャの近似に変換するトーン・マッピングの逆トーン・マッピングに少なくとも部分的に基づいて実行される、請求項に記載の方法。
  10. マルチレイヤ・イメージ復号方法の一部を構成し、前記第1のグレード化されたピクチャを符号化するベースレイヤが、第2のグレード化されたピクチャのグレーディングを符号化するデータを含む第2レイヤからのデータによって改善されることができない場合に視覚的に望ましいものより低いビットレートかつ高いアーチファクト・レベルで生成される、請求項に記載の方法。
  11. イメージ符号化方法の一部を構成し、例えば少なくとも1つの空間領域のための量子化パラメータのような符号化パラメータが、前記グレーディング差異データ構造に基づいて決定される、請求項1又は2に記載の方法
  12. イメージの少なくとも2つのグレーディングの差異を分析するためのイメージ処理装置であって、
    第1輝度ダイナミックレンジを有する第1のグレード化されたピクチャの入力のための第1入力と、
    前記第1輝度ダイナミックレンジと異なる第2輝度ダイナミックレンジを有する第2のグレード化されたピクチャのグレーディングを符号化するデータの入力のための第2入力と、
    前記第2のグレード化されたピクチャの前記グレーディングを符号化する前記データに少なくとも基づいてグレーディング差異データ構造を決定するように用意される比較ユニットと、
    前記グレーディング差異データ構造に基づいて第3のグレード化されたピクチャを導出するように用意されるイメージ導出ユニットとを有し、
    前記第3のグレード化されたピクチャの導出が、観察環境の特性に関する取得された情報に基づいて実行される、装置。
  13. イメージの少なくとも2つのグレーディングの差異を分析するためのイメージ処理装置であって、
    第1輝度ダイナミックレンジを有する第1のグレード化されたピクチャの入力のための第1入力と、
    前記第1輝度ダイナミックレンジと異なる第2輝度ダイナミックレンジを有する第2のグレード化されたピクチャのグレーディングを符号化するデータの入力のための第2入力と、
    前記第2のグレード化されたピクチャの前記グレーディングを符号化する前記データに少なくとも基づいてグレーディング差異データ構造を決定するように用意される比較ユニットと、
    前記グレーディング差異データ構造に基づいて第3のグレード化されたピクチャを導出するように用意されるイメージ導出ユニットとを有し、
    記第3のグレード化されたピクチャの導出は、光出力の不快感を特定する設定、電力使用を制限する設定、又は、当該第3のグレード化されたピクチャの表示に関するユーザ制御された設定に基づいて実行される、装置。
  14. 前記第2入力が、第2のグレード化されたピクチャを受信するように用意され、前記比較ユニットが、前記第1のグレード化されたピクチャ及び前記第2のグレード化されたピクチャのうちの1つの少なくとも空間又は輝度領域の前記第2のグレード化されたピクチャのピクセル値と前記第1のグレード化されたピクチャのピクセル値を比較することに基づいて前記グレーディング差異データ構造を決定するように用意される、請求項12又は13に記載のイメージ処理装置。
  15. 少なくとも前記第2のグレード化されたピクチャのグレーディングを符号化する前記データに基づいて前記第1のグレード化されたピクチャにイメージ処理変換を適用する、請求項12から請求項14のいずれか一項に記載のイメージ処理装置。
  16. 符号化されたイメージデータを復号し、それから第1のグレード化されたピクチャ及び第2のグレード化されたピクチャを取得するように用意される復号器を有し、前記イメージ導出ユニットは、前記第1のグレード化されたピクチャと同様のグレーディングを有するが前記第1のグレード化されたピクチャより良好な視覚品質の前記第3のグレード化されたピクチャを取得するために前記第1のグレード化されたピクチャ及び第2のグレード化されたピクチャの少なくとも1つにイメージ処理変換を適用するように用意される、請求項12又は13に記載のイメージ処理装置。
  17. 請求項12から請求項15のいずれか一項に記載のイメージ処理装置を有し、前記グレーディング差異データ構造に基づいて前記第1のグレード化されたピクチャ及び第2のグレード化されたピクチャの少なくとも1つを出力ピクチャとして符号化するように用意された、イメージ符号器。
JP2014500513A 2011-03-24 2012-03-19 イメージ・グレーディングを分析するための装置及び方法 Active JP6134699B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
EP11159503.9 2011-03-24
EP11159503 2011-03-24
US201161563129P 2011-11-23 2011-11-23
US61/563,129 2011-11-23
PCT/IB2012/051296 WO2012127401A1 (en) 2011-03-24 2012-03-19 Apparatuses and methods for analyzing image gradings

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2017007190A Division JP6368385B2 (ja) 2011-03-24 2017-01-19 イメージ・グレーディングを分析するための装置及び方法

Publications (2)

Publication Number Publication Date
JP2014518024A JP2014518024A (ja) 2014-07-24
JP6134699B2 true JP6134699B2 (ja) 2017-05-24

Family

ID=46878693

Family Applications (3)

Application Number Title Priority Date Filing Date
JP2014500513A Active JP6134699B2 (ja) 2011-03-24 2012-03-19 イメージ・グレーディングを分析するための装置及び方法
JP2017007190A Active JP6368385B2 (ja) 2011-03-24 2017-01-19 イメージ・グレーディングを分析するための装置及び方法
JP2018128648A Active JP6831352B2 (ja) 2011-03-24 2018-07-06 イメージ・グレーディングを分析するための装置及び方法

Family Applications After (2)

Application Number Title Priority Date Filing Date
JP2017007190A Active JP6368385B2 (ja) 2011-03-24 2017-01-19 イメージ・グレーディングを分析するための装置及び方法
JP2018128648A Active JP6831352B2 (ja) 2011-03-24 2018-07-06 イメージ・グレーディングを分析するための装置及び方法

Country Status (8)

Country Link
US (2) US11049473B2 (ja)
EP (1) EP2689392B1 (ja)
JP (3) JP6134699B2 (ja)
CN (1) CN103430212B (ja)
ES (1) ES2550782T3 (ja)
MX (1) MX2013010788A (ja)
RU (1) RU2607981C2 (ja)
WO (1) WO2012127401A1 (ja)

Families Citing this family (43)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011073877A1 (en) * 2009-12-17 2011-06-23 Koninklijke Philips Electronics N.V. Ambience cinema lighting system
EP2677719A1 (en) * 2012-06-19 2013-12-25 Alcatel Lucent A method for interfacing a communication terminal with networked objects
US9129388B2 (en) * 2012-11-21 2015-09-08 Apple Inc. Global approximation to spatially varying tone mapping operators
KR102037716B1 (ko) * 2012-11-23 2019-10-30 삼성디스플레이 주식회사 디스플레이 장치의 감마 데이터 저장 방법, 디스플레이 장치 및 디스플레이 장치의 구동 방법
PL3022902T3 (pl) 2013-07-16 2020-06-29 Koninklijke Philips N.V. Sposób i urządzenie do tworzenia funkcji eotf dla uniwersalnego odwzorowywania kodu dla obrazu hdr
US10194162B2 (en) 2013-07-18 2019-01-29 Koninklijke Philips N.V. Methods and apparatuses for creating code mapping functions for encoding an HDR image, and methods and apparatuses for use of such encoded images
CN106713697B (zh) * 2013-10-22 2019-02-12 杜比实验室特许公司 用于扩展动态范围图像的引导颜色分级
EP2989793B1 (en) * 2013-11-13 2017-04-05 Dolby Laboratories Licensing Corporation Workflow for content creation and guided display management of enhanced dynamic range video
EP2890129A1 (en) * 2013-12-27 2015-07-01 Thomson Licensing Method and device for encoding a high-dynamic range image and/or decoding a bitstream
KR102156608B1 (ko) 2014-02-07 2020-09-16 소니 주식회사 수신 장치, 표시 장치 및 수신 방법
CN106416216B (zh) 2014-05-16 2019-07-12 松下知识产权经营株式会社 变换方法及变换装置
JP6443857B2 (ja) * 2014-06-05 2018-12-26 キヤノン株式会社 画像処理装置、画像処理方法、及び、プログラム
CN110460744B (zh) 2014-06-10 2022-03-08 松下知识产权经营株式会社 亮度变换装置和亮度变换方法
WO2015190045A1 (ja) 2014-06-10 2015-12-17 パナソニックIpマネジメント株式会社 変換方法および変換装置
CN110708439A (zh) 2014-06-26 2020-01-17 松下知识产权经营株式会社 显示装置及数据输出方法
MX366608B (es) * 2014-06-26 2019-07-16 Panasonic Ip Man Co Ltd Dispositivo de salida de datos, metodo de salida de datos y metodo de generacion de datos.
JP6421504B2 (ja) 2014-07-28 2018-11-14 ソニー株式会社 画像処理装置及び画像処理方法
WO2016020189A1 (en) * 2014-08-08 2016-02-11 Koninklijke Philips N.V. Methods and apparatuses for encoding hdr images
CN107077726B (zh) 2014-10-27 2019-04-09 杜比实验室特许公司 使用扩展颜色范围的内容映射
RU2661309C1 (ru) * 2015-02-17 2018-07-13 Долби Лэборетериз Лайсенсинг Корпорейшн Межслойное предсказание для сигналов с улучшенным динамическим диапазоном
US10109228B2 (en) 2015-04-10 2018-10-23 Samsung Display Co., Ltd. Method and apparatus for HDR on-demand attenuation control
US10778983B2 (en) * 2015-09-23 2020-09-15 Dolby Laboratories Licensing Corporation Preserving texture/noise consistency in video codecs
JP6830190B2 (ja) * 2015-10-07 2021-02-17 パナソニックIpマネジメント株式会社 映像送信方法、映像受信方法、映像送信装置及び映像受信装置
CN105554975A (zh) * 2015-11-20 2016-05-04 深圳市美贝壳科技有限公司 根据照片主色调调整家居灯饰色调的方法
EP3394850B1 (en) * 2015-12-21 2020-05-13 Koninklijke Philips N.V. Optimizing high dynamic range images for particular displays
EP3214600B1 (en) * 2016-03-04 2019-02-06 Aptiv Technologies Limited Method for processing high dynamic range (hdr) data from a nonlinear camera
US10699391B2 (en) 2016-04-29 2020-06-30 Disney Enterprises, Inc. Dynamic range expansion highlight information restoration
TWI631505B (zh) * 2016-08-26 2018-08-01 晨星半導體股份有限公司 應用於播放裝置的影像處理方法及相關的電路
CN109661806B (zh) 2016-09-06 2022-03-08 索尼公司 图像处理装置、图像处理方法和程序
EP3312798A1 (en) * 2016-10-20 2018-04-25 Thomson Licensing Method and device for inverse tone mapping
EP3373585A1 (en) * 2017-03-09 2018-09-12 Thomson Licensing Method for inverse tone mapping of an image with visual effects
EP3734954B1 (en) * 2017-12-27 2023-03-22 Panasonic Intellectual Property Management Co., Ltd. Display device and display method
KR102489265B1 (ko) * 2018-04-10 2023-01-17 엘지전자 주식회사 비디오 신호를 처리하는 멀티미디어 디바이스 및 그 제어 방법
US10917583B2 (en) * 2018-04-27 2021-02-09 Apple Inc. Standard and high dynamic range display systems and methods for high dynamic range displays
TWI808970B (zh) 2018-04-30 2023-07-21 圓剛科技股份有限公司 影像訊號轉換裝置
EP3621307A1 (en) * 2018-09-05 2020-03-11 Koninklijke Philips N.V. Multi-range hdr video coding
MX2021001378A (es) 2018-09-05 2021-04-19 Koninklijke Philips Nv Codificacion de video de alto intervalo dinamico (hdr) multi-intervalo.
CN111797845A (zh) * 2019-03-19 2020-10-20 北京沃东天骏信息技术有限公司 图片处理方法、装置、存储介质及电子设备
EP3839876A1 (en) 2019-12-20 2021-06-23 Fondation B-COM Method for converting an image and corresponding device
US20230215131A1 (en) * 2020-06-30 2023-07-06 Sony Group Corporation Video signal processing apparatus, video signal processing method, and imaging apparatus
US11330196B2 (en) * 2020-10-12 2022-05-10 Microsoft Technology Licensing, Llc Estimating illumination in an environment based on an image of a reference object
US11854119B2 (en) * 2021-01-22 2023-12-26 Adobe Inc. Automatic object re-colorization
TWI796265B (zh) * 2022-07-27 2023-03-11 友達光電股份有限公司 顯示裝置以及影像顯示方法

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8218625B2 (en) * 2004-04-23 2012-07-10 Dolby Laboratories Licensing Corporation Encoding, decoding and representing high dynamic range images
US7612804B1 (en) * 2005-02-15 2009-11-03 Apple Inc. Methods and apparatuses for image processing
RU2370815C2 (ru) * 2005-08-19 2009-10-20 Самсунг Электроникс Ко., Лтд. Способ и система для выделения и классификации дефектов экспозиции цифровых изображений
US8537893B2 (en) * 2006-01-23 2013-09-17 Max-Planck-Gesellschaft Zur Forderung Der Wissenschaften E.V. High dynamic range codecs
US8265349B2 (en) * 2006-02-07 2012-09-11 Qualcomm Incorporated Intra-mode region-of-interest video object segmentation
US8014445B2 (en) 2006-02-24 2011-09-06 Sharp Laboratories Of America, Inc. Methods and systems for high dynamic range video coding
US8194997B2 (en) * 2006-03-24 2012-06-05 Sharp Laboratories Of America, Inc. Methods and systems for tone mapping messaging
US8175158B2 (en) * 2008-01-04 2012-05-08 Sharp Laboratories Of America, Inc. Methods and systems for inter-layer image prediction parameter determination
JP5690267B2 (ja) 2008-08-22 2015-03-25 トムソン ライセンシングThomson Licensing コンテンツ配信のための方法およびシステム
US8406569B2 (en) * 2009-01-19 2013-03-26 Sharp Laboratories Of America, Inc. Methods and systems for enhanced dynamic range images and video from multiple exposures
BRPI1009443B1 (pt) * 2009-03-13 2021-08-24 Dolby Laboratories Licensing Corporation Método de geração de parâmetros de mapeamento de tons inverso, método de compactação de dados de vídeo e método para geração de um fluxo de bits de saída a partir de um fluxo de bits de entrada
EP3467816A1 (en) * 2010-02-24 2019-04-10 Dolby Laboratories Licensing Corp. Display management methods and apparatus
US20130107956A1 (en) 2010-07-06 2013-05-02 Koninklijke Philips Electronics N.V. Generation of high dynamic range images from low dynamic range images
WO2012125892A1 (en) * 2011-03-17 2012-09-20 Dolby Laboratories Licensing Corporation Generating alternative versions of image content using histograms

Also Published As

Publication number Publication date
JP2018198429A (ja) 2018-12-13
ES2550782T3 (es) 2015-11-12
EP2689392B1 (en) 2015-09-02
RU2607981C2 (ru) 2017-01-11
CN103430212B (zh) 2017-05-24
WO2012127401A1 (en) 2012-09-27
US11710465B2 (en) 2023-07-25
JP6368385B2 (ja) 2018-08-01
JP2014518024A (ja) 2014-07-24
RU2013147421A (ru) 2015-04-27
US20210295800A1 (en) 2021-09-23
US11049473B2 (en) 2021-06-29
US20140002479A1 (en) 2014-01-02
JP2017099007A (ja) 2017-06-01
CN103430212A (zh) 2013-12-04
JP6831352B2 (ja) 2021-02-17
EP2689392A1 (en) 2014-01-29
MX2013010788A (es) 2014-01-16

Similar Documents

Publication Publication Date Title
JP6368385B2 (ja) イメージ・グレーディングを分析するための装置及び方法
JP6596125B2 (ja) Hdrイメージの符号化のためのコードマッピング関数を作成するための方法及び装置、並びに、かかる符号化イメージの使用のための方法及び装置
US11195492B2 (en) Optimizing high dynamic range images for particular displays
JP6700322B2 (ja) 改善されたhdrイメージ符号化及び復号化方法、装置
US20230177659A1 (en) Encoding and decoding hdr videos
US9754629B2 (en) Methods and apparatuses for processing or defining luminance/color regimes
CN107111980B (zh) 针对特定显示器优化高动态范围图像
RU2616158C2 (ru) Устройства и способы для кодирования и декодирования hdr-изображений
KR102209563B1 (ko) Hdr 이미지 인코딩 방법 및 장치
JP6262198B2 (ja) Hdr画像符号化及び復号のための輝度領域ベース装置及び方法
RU2640750C2 (ru) Устройство и способ для преобразования динамического диапазона изображений
EP3430806B1 (en) Encoding and decoding hdr videos
KR20200145843A (ko) Hdr 이미지 인코딩 방법 및 장치

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150303

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160115

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160126

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160418

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20160929

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170119

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20170127

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170330

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170424

R150 Certificate of patent or registration of utility model

Ref document number: 6134699

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250