JP2020154609A - 情報処理装置および情報処理方法 - Google Patents

情報処理装置および情報処理方法 Download PDF

Info

Publication number
JP2020154609A
JP2020154609A JP2019051578A JP2019051578A JP2020154609A JP 2020154609 A JP2020154609 A JP 2020154609A JP 2019051578 A JP2019051578 A JP 2019051578A JP 2019051578 A JP2019051578 A JP 2019051578A JP 2020154609 A JP2020154609 A JP 2020154609A
Authority
JP
Japan
Prior art keywords
image
hdr
sdr
brightness
graphic
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019051578A
Other languages
English (en)
Other versions
JP6921886B2 (ja
Inventor
弘文 占部
Hirofumi Urabe
弘文 占部
雅泰 佐藤
Masayasu Sato
雅泰 佐藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2019051578A priority Critical patent/JP6921886B2/ja
Priority to US16/821,319 priority patent/US11410343B2/en
Priority to CN202010198014.4A priority patent/CN111724752A/zh
Publication of JP2020154609A publication Critical patent/JP2020154609A/ja
Priority to JP2021116093A priority patent/JP7331047B2/ja
Application granted granted Critical
Publication of JP6921886B2 publication Critical patent/JP6921886B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/001Texturing; Colouring; Generation of texture or colour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/20Drawing from basic elements, e.g. lines or circles
    • G06T11/206Drawing of charts or graphs
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/10Intensity circuits
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/40Image enhancement or restoration using histogram techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/92Dynamic range modification of images or parts thereof based on global image properties
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/37Details of the operation on graphic patterns
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/39Control of the bit-mapped memory
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20208High dynamic range [HDR] image processing

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Image Processing (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Picture Signal Circuits (AREA)
  • Transforming Electric Information Into Light Information (AREA)

Abstract

【課題】HDRの一部であり且つ複数の輝度レベルを含む輝度レンジに対応する画素数の割合を、ユーザに容易に(直感的に)把握させることを可能する技術を提供する。【解決手段】本発明の情報処理装置は、画像の各画素の輝度レベルに関する情報を取得する取得手段と、前記情報に基づいて、SDR(Standard Dynamic Range)、及び、HDR(High Dynamic Range)からSDRを除いた輝度レンジの少なくとも一方について、対応する画素数の、前記画像における割合を判断する判断手段と、前記割合を出力する出力手段と、を有することを特徴とする。【選択図】図4

Description

本発明は、情報処理装置および情報処理方法に関する。
広いダイナミックレンジ(広い輝度レンジ)に対応する画像データの規格として、PQ(Perceptual Quantizer)、HLG(Hybrid Log−Gamma)、等の様々な規格が提案されている。これらの広いダイナミックレンジは「HDR(High Dynamic Range)」などと呼ばれる。一方、従来のダイナミックレンジ(HDRよりも狭いダイナミックレンジ)は「SDR(Standard Dynamic Range)」などと呼ばれる。HDRの各輝度を使用することで、非常に暗い暗部から非常に明るい明部までの幅広い画像表現が可能となる。さらに、HDRで撮影された画像(画像コンテンツ)をSDRで放送するなどのために、HDRとSDRの併用、HDRからSDRへの変換、等が行われている。HDRを有する画像は「HDR画像」などと呼ばれ、HDR画像を表す画像データは「HDR画像データ」などと呼ばれる。同様に、SDRを有する画像は「SDR画像」などと呼ばれ、SDR画像を表す画像データは「SDR画像データ」などと呼ばれる。
HDR画像データの規格には、米国CTA(Consumer Technology
Association)が策定したHDR10もある。HDR10では、動画コンテンツ(動画)全体におけるピーク輝度(最大輝度)と最大フレーム平均輝度が、メタデータ(静的メタデータ)として規定されている。最大フレーム平均輝度は、複数のフレームにそれぞれ対応する複数のフレーム平均輝度(フレームに対応する画像(フレーム画像)の平均輝度)の最大輝度である。
HDR画像データの規格には、米国SMPTE(Society of Motion
Picture and Television Engineers)が策定したST2094−40もある。ST2094−40では、動画の一部期間ごとのピーク輝度と最大フレーム平均輝度が、メタデータ(動的メタデータ)として規定されている。具体的には、動画の各シーンまたは各フレームのピーク輝度と最大フレーム平均輝度が、動的メタデータとして規定されている。
その他、ITU(Internarional Telecomunication Union)が策定したBT.2408−1 Operational practices in HDR television productionもある。以後、この規格を「BT.2084−1」と記載する。BT.2408−1では、HDRとSDRとの併用について述べられている。具体的には、BT.2408−1では、HDRでの平均輝度は高くなりすぎないように管理されるべきである旨、HLGでのReference
Whiteは約200cd/mとされるべきである旨、等が述べられている。Reference Whiteは、SDRでの白色に相当する。
ITUが策定したBT.2390−4 High dynamic range television for production and international programme exchangeもある。以後、この規格を「BT.2390−4」と記載する。BT.2390−4では、HDRからSDRへの変換について述べられている。HDRからSDRへの変換には、HDRの一部(0〜100cd/mの輝度レンジなど)を圧縮せずに他の部分を圧縮する方法、HDRの全体を圧縮する方法、等の様々な方法が用いられている。
さらに、米国VESA(Video Electronics Standards Association)が策定したDisplay HDRもある。Display HDRでは、400cd/mの高輝度表示を行える表示装置として「DisplayHDR400」が規定されており、600cd/mの高輝度表示を行える表示装置として「DisplayHDR600」が規定されている。さらに、1000cd/mの高輝度表示を行える表示装置として「DisplayHDR1000」が規定されている。このように、HDR画像を表示する表示装置の表示輝度も様々である。
そして、HDR画像制作では、画像の輝度分布を確認するためのアシスト機能として、輝度ヒストグラム表示機能、波形モニタ表示機能、フォルスカラー表示機能、等が利用されている。
特許文献1には、黒つぶれのエリア(画素数)の割合と、白とびのエリア(画素数)の割合とを表示する技術が開示されている。
特開2007−266680号公報
HDR画像制作では、HDR画像が明るくなりすぎないようにしたり、HDR画像が好適な画質のSDR画像に変換されるようにしたりするために、HDR画像の輝度を管理する必要がある。例えば、ユーザは、HDRの一部の輝度レンジに対応する画素数の、HDR画像における割合を把握して、HDR画像の輝度を管理する必要がある。
特許文献1に開示の技術によれば、ユーザは、黒つぶれのエリア(画素数)の割合と、白とびのエリア(画素数)の割合とを容易に(直感的に)把握できる。しかしながら、特許文献1に開示の技術を用いても、ユーザは、HDRの一部であり且つ複数の輝度(輝度レベル)を含む輝度レンジに対応する画素数の割合を容易に(直感的に)把握できず、HDR画像の輝度を十分に管理できない。つまり、ユーザは、黒つぶれも白とびもしていない画素を含むエリアの割合を容易に(直感的に)把握できない。
本発明は、HDRの一部であり且つ複数の輝度レベルを含む輝度レンジに対応する画素数の割合を、ユーザに容易に(直感的に)把握させることを可能する技術を提供することを目的とする。
本発明の第1の態様は、画像の各画素の輝度レベルに関する情報を取得する取得手段と、前記情報に基づいて、SDR(Standard Dynamic Range)、及び、HDR(High Dynamic Range)からSDRを除いた輝度レンジの少なくとも一方について、対応する画素数の、前記画像における割合を判断する判断手段と、前記割合を出力する出力手段と、を有することを特徴とする情報処理装置である。
本発明の第2の態様は、入力画像のデータを処理して処理画像のデータを生成する画像処理部と、前記入力画像のデータに関するグラフィック画像のデータを生成するグラフィック生成部と、前記処理画像と前記グラフィック画像とを表示する表示制御部と、を有し、前記グラフィック画像は、輝度レベルを示す軸を有するグラフ又はヒストグラムであり、フォルスカラー表示機能が有効である場合に、前記画像処理部は、複数の輝度レンジと
複数の変換色との所定の対応関係に基づいて、前記入力画像に変換色を適用し、前記グラフィック生成部は、前記所定の対応関係に基づいて、前記グラフィック画像に変換色を適用することを特徴とする情報処理装置である。
本発明の第3の態様は、画像の各画素の輝度レベルに関する情報を取得するステップと、前記情報に基づいて、SDR(Standard Dynamic Range)、及び、HDR(High Dynamic Range)からSDRを除いた輝度レンジの少なくとも一方について、対応する画素数の、前記画像における割合を判断するステップと、前記割合を出力するステップと、を有することを特徴とする情報処理方法である。
本発明の第4の態様は、入力画像のデータを処理して処理画像のデータを生成する画像処理ステップと、前記入力画像のデータに関するグラフィック画像のデータを生成するグラフィック生成ステップと、前記処理画像と前記グラフィック画像とを表示する表示制御ステップと、を有し、前記グラフィック画像は、輝度レベルを示す軸を有するグラフ又はヒストグラムであり、フォルスカラー表示機能が有効である場合に、前記画像処理ステップでは、複数の輝度レンジと複数の変換色との所定の対応関係に基づいて、前記入力画像に変換色を適用し、前記グラフィック生成ステップでは、前記所定の対応関係に基づいて、前記グラフィック画像に変換色を適用することを特徴とする情報処理方法である。
本発明の第5の態様は、コンピュータを、上述した情報処理装置の各手段として機能させるためのプログラムである。
本発明によれば、HDRの一部であり且つ複数の輝度レベルを含む輝度レンジに対応する画素数の割合を、ユーザに容易に(直感的に)把握させることが可能となる。
本実施形態に係る表示装置の構成例を示すブロック図 本実施形態に係るHDR/SDR変換の一例を示す図 本実施形態に係る輝度レンジの一例を示す図 本実施形態に係るグラフィック画像の一例を示す図 本実施形態に係るグラフィック画像の一例を示す図 本実施形態に係るグラフィック画像の一例を示す図 本実施形態に係る設定情報の一例を示す図 本実施形態に係る表示装置の処理フロー例を示すフローチャート 本実施形態に係る階調値と画素数と輝度の対応関係の一例を示す図 本実施形態に係るグラフィック画像の一例を示す図 本実施形態に係るグラフィック画像の一例を示す図
以下、本発明の実施形態について説明する。表示装置が本実施形態に係る情報処理装置を内蔵する例を説明するが、本実施形態に係る情報処理装置は、表示装置とは別体の装置(パーソナルコンピュータなど)であってもよいし、再生装置又は撮像装置が本実施形態に係る情報処理装置を内蔵していてもよい。
図1は、本実施形態に係る表示装置の構成例を示すブロック図である。図1の表示装置100は、入力部101、画像解析部102、画像処理部103、グラフィック合成部104、表示部105、表示制御部106、メモリ部107、及び、グラフィック生成部108を有する。
入力部101は、対象動画データを取得し、対象動画データを画像解析部102へ出力する。対象動画データは、例えば、HDR10、HDR10+、PQ(Perceptual Quantizer)、HLG(Hybrid Log−Gamma)、等に準拠した動画データであり、動画(動画コンテンツ)を表す。PQ(Perceptual Quantizer)、HLG(Hybrid Log−Gamma)、等で定義された広いダイナミックレンジは「HDR(High Dynamic Range)」などと呼ばれる。一方、ガンマ2.2などで定義されたダイナミックレンジ(HDRよりも狭いダイナミックレンジ)は「SDR(Standard Dynamic Range)」などと呼ばれる。HDRを有する画像(動画;静止画)は「HDR画像(HDR動画;HDR静止画)」などと呼ばれ、HDR画像(HDR動画;HDR静止画)を表す画像データは「HDR画像データ(HDR動画データ;HDR静止画データ)」などと呼ばれる。同様に、SDRを有する画像(動画;静止画)は「SDR画像(SDR動画;SDR静止画)」などと呼ばれ、SDR画像(SDR動画;SDR静止画)を表す画像データは「SDR画像データ(SDR動画データ;SDR静止画データ)」などと呼ばれる。本実施形態では、対象動画データとしてHDR動画データ(HDRに対応する動画データ)が取得される。
具体的には、入力部101は、対象動画(対象動画データによって表された動画)のフレーム毎に、フレーム画像データ(フレームに対応する画像(フレーム画像)を表す画像データ)を外部装置から取得する。そして、入力部101は、取得したフレーム画像データを画像解析部102へ出力する。入力部101は、例えば、SDI(Serial Digital Interface)、HDMI(High−Definition Multimedia Interface)、等の規格に準拠した入力端子である。外部装置は、撮像装置、再生装置、等である。
なお、表示装置100は、動画データを記憶する記憶部を有してもよく、入力部101は、記憶部に記録された動画データを対象動画データとして記憶部から取得してもよい。対象動画データは、ガンマ2.2などに準拠したSDR動画データ(SDRに対応する動画データ)であってもよい。入力部101によって取得される画像データ(入力画像のデータ)は、動画データでなく、静止画データであってもよい。
画像解析部102は、入力部101から出力された対象動画データを取得し、対象動画データを解析し、解析結果を表示制御部106へ出力し、対象動画データを画像処理部103へ出力する。
具体的には、画像解析部102は、対象動画データを解析し、対象動画の各時間位置(各フレーム)における各画素の輝度(絶対輝度;輝度レベル)に関する画素情報を、解析結果として取得する。本実施形態では、画像解析部102は、入力部101から出力されたフレーム画像データを解析する。画素情報は、入力部101から出力されたフレーム画像データの取り得る複数の階調値のそれぞれについて、当該フレーム画像データによって表されたフレーム画像に存在する画素の数を示す。フレーム画像データの階調値が10ビットの値(0〜1023)である場合には、画素情報は、0〜1023のそれぞれについて存在する画素の数を示す。
さらに、画像解析部102は、対象動画データから、対象動画データに対応するメタデータを取得し、取得したメタデータを解析結果として表示制御部106へ出力する。メタデータは、例えば、HDMIで規定されているInfoFrameに格納されたデータ、SDIで規定されているブランキング部に格納されたANC(Ancillary)データ、等である。
画像処理部103は、画像解析部102から出力された対象動画データに画像処理を施すことにより、処理動画データ(処理画像のデータ)を生成する。そして、画像処理部103は、処理動画データをグラフィック合成部104へ出力する。
具体的には、表示制御部106から画像処理部103に、階調カーブ(階調値と輝度の対応関係;階調特性;伝達関数)が設定される。HLG、PQ、等の階調カーブは、HDR画像を表示(処理)するために、ユーザ操作又はメタデータに基づいて設定される。ガンマ2.2などの階調カーブは、SDR画像を表示(処理)するために、ユーザ操作又はメタデータに基づいて設定される。表示制御部106から画像処理部103には、リミテッドレンジ、フルレンジ、等の階調範囲も設定される。リミテッドレンジとフルレンジは、設定された輝度レンジ(HLG、PQ、等の輝度レンジ;元レンジ)を割り当てる階調範囲である。リミテッドレンジは、対象動画データの取り得る階調値の範囲の一部であり、フルレンジは、対象動画データの取り得る階調値の範囲の全体である。画像処理部103は、設定された階調カーブ、階調範囲、等に従って対象動画データの各階調値を変換する(階調変換処理)。
表示制御部106は、画像処理部103に、HLG、PQ、等の輝度レンジ(元レンジ)の少なくとも一部を、HDR表示(HDRでの表示)に使用する輝度レンジ(HDRレンジ)としてユーザ操作に基づいて設定することもできる。画像処理部103は、設定されたHDRレンジに応じて、元レンジの輝度に対応する階調値が、HDRレンジの輝度に対応する階調値に変換されるように、対象動画データの各階調値を変換する(マッピング処理)。ここで、HLGが設定され、元レンジが0〜1000cd/mの輝度レンジであり、0〜600cd/mのHDRレンジが設定された場合を考える。この場合には、0〜600cd/mの輝度レンジの階調値は変換されず、600cd/mよりも高い輝度に対応する階調値は、600cd/m(上限輝度)に対応する階調値に変換される(クリップ処理)。
表示制御部106は、画像処理部103に、HDR/SDR変換(HDR画像をSDR画像に変換する階調変換処理;HDR画像のダイナミックレンジを変換するレンジ変換処理)の実行も設定できる。図2は、本実施形態に係るHDR/SDR変換の一例を示す。図2は、ダイナミックレンジがHLGの輝度レンジ(0〜1000cd/m)であるHDR画像をSDR画像に変換するHDR/SDR変換の一例を示す。図2では、HDRの0〜203cd/mの輝度レンジがSDRの0〜75%の輝度レンジに変換され、HDRの203〜600cd/mの輝度レンジがSDRの75〜100%の輝度レンジに変換される。そして、HDRの600〜1000cd/mの輝度がSDRの100%の輝度に変換される(クリップ処理)。なお、それらの輝度レンジの境界となる輝度(境界輝度)は、階調カーブに応じて自動設定してもよいし、ユーザ操作により手動設定されてもよい。また、HDR/SDR変換の対応関係が1DLUTにより任意に設定されてもよい。ここでは、表示制御部106は、階調カーブがHLGのものであるため、境界輝度を203cd/mと600cd/mに自動設定している。
図2のHDR/SDR変換によれば、HDR画像のうち、0〜203cd/mの輝度を有するエリアは、SDR画像において階調性が高いエリア(HDR画像の再現度が高いエリア;例えば、HDR画像と同じ輝度を有するエリア)となる。このため、本実施形態では、0〜203cd/mの輝度レンジ(SDR画像においてHDR画像の再現度が高くなる輝度レンジ)を「高再現レンジ」と記載する。203〜600cd/mの輝度を有するエリアは、SDR画像において階調性はあるが低いエリア(HDR画像は再現されるが再現度は低いエリア)となる。このため、本実施形態では、203〜600cd/mの輝度レンジ(SDR画像においてHDR画像は再現されるが再現度は低くなる輝度レンジ)を「低再現レンジ」と記載する。そして、600〜1000cd/mの輝度を有
するエリアは、SDR画像において階調性が無いエリア(HDR画像が再現されないエリア;黒つぶれまたは白とびのエリア)となる。このため、本実施形態では、600〜1000cd/mの輝度レンジ(SDR画像においてHDR画像が再現されなくなる輝度レンジ)を「非再現レンジ」と記載する。
そして、高再現レンジに対応しない画素数のHDR画像における割合(HDR画像の総画素数に対する、高再現レンジに対応しない画素数の割合)が大きすぎると、HDR/SDR変換によって画質の低い(悪い)SDR画像が得られてしまう。高再現レンジに対応しない画素は、HDR画像の複数の画素のうち、低再現レンジまたは非再現レンジの輝度を有する画素である。非輝度レンジに対応する画素数(非輝度レンジの輝度を有する画素の数)のHDR画像における割合が大きすぎると、HDR/SDR変換による画質劣化が顕著に発生する。
図3(A),3(B)は、HDR画像の各種輝度レンジの一例を示す。
図3(A)は、HDR画像の階調値が10ビットの値(0〜1023)であり、HLG(0〜1000cd/mの元レンジ)が設定され、64〜960のリミテッドレンジが設定された場合の例を示す。図3(A)の場合は、64〜960の階調範囲がHDR表示に使用され、0〜64と960〜1023の階調範囲がHDR表示に使用されないこととなる。HDR表示において、0〜64の階調値は黒色(黒つぶれ)で表示され、960〜1023の階調値は白色(白とび)で表示される。HDR表示(HDR表示が明るすぎないかなど)の観点では、黒つぶれ(0〜64の階調値)の画素数の割合と、白つぶれ(960〜1023の階調値)の画素数の割合とを管理しなくてもよい。このため、HDR表示の黒つぶれの輝度をSDRおよびHDRの黒色の輝度(0cd/m)として扱い、且つ、HDR表示の白とびの輝度をHDRの白色の輝度(1000cd/m)として扱って、各種割合を管理することが好ましい。HDR表示の観点で管理することが好ましい割合は、例えば、SDRに対応する画素数のHDR画像における割合、非SDR(HDRからSDRを除いた輝度レンジ)に対応する画素数のHDR画像における割合、等である。
なお、図2のHDR/SDR変換を行う場合には、0〜720の階調範囲に対応する輝度レンジ(0〜203cd/mの輝度レンジ;高再現レンジ)をSDRとして扱って各種割合を管理することが好ましい。そして、721〜1023の階調範囲に対応する輝度レンジ(203〜1000cd/mの輝度レンジ)を非SDRとして扱って各種割合を管理することが好ましい。さらに、非SDRのうち、203〜600cd/mの輝度レンジ(低再現レンジ)と、600〜1000cd/mの輝度レンジ(非再現レンジ)とのそれぞれについて、対応する画素数のHDR画像における割合を管理することが好ましい。
図3(B)は、HDR画像の階調値が10ビットの値(0〜1023)であり、HLG(0〜1000cd/mの元レンジ)が設定され、64〜960のリミテッドレンジが設定され、0〜700cd/mのHDRレンジが設定された場合の例を示す。図3(B)の場合には、HDRレンジ(0〜700cd/m)の外側の輝度は、HLGの元レンジ(0〜1000cd/m)に含まれていても、HDR表示に使用されない。具体的には、700〜1000cd/mの輝度レンジは、元レンジに含まれているが、HDR表示に使用されない。HDR表示において、元レンジの700〜1000cd/mの輝度は、白色(白とび)で表示される。但し、図3(B)の場合には、HDRの白色の輝度は700cd/mとなる。HDR表示の観点では、白つぶれの画素数の割合であっても、元レンジに含まれ且つHDR表示に使用されない輝度レンジに対応する画素数のHDR画像における割合は、管理することが好ましい。その他は、図3(A)の場合と同様である。
画像の輝度分布(輝度レベル分布)を確認するためのアシスト機能として、画素の色を当該画素の輝度に応じた変換色に変換する処理を行って画像を表示するというフォルスカラー表示機能(表示方法)がある。本実施形態では、表示制御部106は、画像処理部103に、フォルスカラー表示機能の有効/無効も設定できる。フォルスカラー表示機能が有効である場合には、輝度(輝度レンジ)と変換色の対応関係が表示制御部106から画像処理部103に通知される。画像処理部103は、通知された対応関係に従って対象動画データの画素の色を変換色に変換する(色変換処理)。
グラフィック合成部104は、画像処理部103から出力された処理動画データ(各フレーム画像データ)に、グラフィック生成部108から出力されたグラフィックデータを合成することにより、合成動画データを生成する。そして、グラフィック合成部104は、合成動画データを表示部105へ出力する。グラフィック生成部108からグラフィックデータが出力されなかった場合には、グラフィック合成部104は、処理動画データを表示部105へ出力する。グラフィックデータは、OSD(On Screen Display)画像などのグラフィック画像を表す画像データである。合成動画データは、処理動画(処理動画データによって表された動画)にグラフィック画像を重ねた動画(合成動画)を表す。
表示部105は、グラフィック合成部104から出力された動画データ(合成動画データまたは処理動画データ)に基づく動画を表示面に表示する。表示部105は、表示パネルを有する。表示部105は、例えば、液晶パネルとバックライトユニットを有する液晶表示部、有機EL表示パネル、等である。
表示制御部106は、表示装置100の各ブロックの処理を制御する。メモリ部107は、プログラム、パラメータ、等を記憶する。例えば、表示制御部106は、メモリ部107に格納されたプログラムを実行して表示装置100の各ブロックの処理を制御する演算処理回路である。なお、表示制御部106は、表示装置100に設けられた不図示のボタンなどに対してユーザが行った操作(ユーザ操作)に応じて、行われたユーザ操作に対応する操作情報を取得してもよい。そして、表示制御部106は、操作情報に応じて、制御の切り替え、制御の詳細設定、等を行ってもよい。
本実施形態では、表示制御部106は、画像解析部102から出力された解析結果(画素情報)、表示装置100に対するユーザ操作、等に基づいて、画像処理部103、グラフィック生成部108、等の処理を制御する。具体的には、表示制御部106は、階調カーブ、階調範囲、HDRレンジ、HDR/SDR変換の実行、フォルスカラー表示機能の有効/無効、等の設定情報を、ユーザ操作(操作情報)に応じて決定する。そして、表示制御部106は、決定した設定情報を画像処理部103へ出力(設定)する。さらに、表示制御部106は、決定した設定情報と、画像解析部102から出力された解析結果とを、グラフィック生成部108へ出力(設定)する。なお、表示装置100の起動直後では、設定情報の初期情報(所定の情報)が設定されたり、前回の設定が継続されたりする。
グラフィック生成部108は、グラフィックデータを生成し、グラフィック合成部104へ出力する。本実施形態では、グラフィック生成部108は、表示制御部106から出力された解析結果(画素情報)と設定情報に基づいて、SDRと非SDRの少なくとも一方について、対応する画素数のHDR画像における割合を判断する。そして、グラフィック生成部108は、判断した割合を示すグラフィックデータを生成する。グラフィック生成部108は、SDRおよび非SDRとは異なる輝度レンジに対応する割合を判断することもできる。なお、設定情報で示される各種パラメータ(階調カーブなど)が、対象動画データ、対象動画データのメタデータ、等から取得されたり、予め定められていたりする
場合には、グラフィック生成部108は、設定情報を用いずにグラフィックデータを生成できる。さらに、グラフィック生成部108は、判断した割合、生成したグラフィックデータ、等を外部装置へ出力してもよい。グラフィックデータの生成と合成は、外部装置で行われてもよい。上述した割合(HDRの一部であり且つ複数の輝度を含む輝度レンジに対応する画素数の割合)が出力(表示)されることで、当該割合をユーザに容易に(直感的に)把握させることが可能となる。
図4(A)〜4(C)は、グラフィック生成部108により生成されるグラフィック画像の一例を示す。図4(A)〜4(C)は、HLG(0〜1000cd/mの元レンジ)が設定された場合の例を示す。
図4(A)のグラフィック画像には、SDR(高再現レンジ)に対応する画素数のHDR画像における割合(70%)と、非SDRに対応する画素数のHDR画像における割合(30%)とが、文字列(数値)で描画されている。ユーザは、これらの割合から、例えば、HDR表示でのHDR画像の明るさ、非SDRに対応する画素数が多すぎないか(非SDRに対応するエリアが大きすぎないか)、HDR画像のHDR表示が明るすぎないか、等を容易に(直感的に)判断できる。ユーザは、HDR/SDR変換による画質劣化の度合いを容易に(直感的に)判断することもできる。例えば、ユーザは、SDR画像のうち高い再現度でHDR画像が再現されるエリアのサイズ、割合、等を容易に(直感的に)判断できる。さらに、図4(A)のグラフィック画像には、低再現レンジに対応する画素数のHDR画像における割合(25%)と、非再現レンジに対応する画素数のHDR画像における割合(5%)とが、文字列で描画されている。ユーザは、これらの割合から、HDR/SDR変換による画質劣化の度合いをより詳細に判断できる。例えば、ユーザは、HDR/SDR変換によって生じる白とびの量などを容易に(直感的に)判断できる。
図4(B)のグラフィック画像にも、SDRと非SDRのそれぞれについて、対応する画素数のHDR画像における割合が文字列で描画されている。さらに、図4(B)のグラフィック画像には、非SDRにおける複数の輝度レンジのそれぞれについて、対応する画素数のHDR画像における割合が文字列で描画されている。具体的には、203〜400cd/m、400〜600cd/m、600〜800cd/m、及び、800〜1000cd/mの4つの輝度レンジのそれぞれについて、対応する画素数のHDR画像における割合が文字列で描画されている。ユーザは、これらの割合から、例えば、約200cd/m幅でHDR画像の明るさを容易に管理できる。ユーザは、DisplayHDR400に対応する表示装置、DisplayHDR600に対応する表示装置、DisplayHDR1000に対応する表示装置のそれぞれでのHDR画像(HDR表示)の画質を容易に(直感的に)判断することもできる。
なお、図4(A),4(B)では、非SDRにおける複数の輝度レンジとして、非SDRを構成する複数の輝度レンジが使用されているが、複数の輝度レンジによって非SDRが構成されなくてもよい。例えば、非SDRにおける複数の輝度レンジのいずれかが、当該複数の輝度レンジの他のいずれかに重なっていてもよい。非SDRにおける複数の輝度レンジのいずれかが、当該複数の輝度レンジの他のいずれかから離れていてもよい。非SDRにおける複数の輝度レンジは、フォルスカラー表示機能の複数の変換色がそれぞれ対応付けられた複数の輝度レンジであってもよい。
図4(C)のグラフィック画像には、SDRと非SDRのそれぞれについてのみ、対応する画素数のHDR画像における割合が文字列で描画されている。なお、SDRに対応する画素数のHDR画像における割合と、非SDRに対応する画素数のHDR画像における割合との一方から、それらの他方を判断できる。このため、グラフィック画像は、SDRに対応する画素数のHDR画像における割合と、非SDRに対応する画素数のHDR画像
における割合との一方のみを示してもよい。
図5(A),5(B)は、グラフィック画像の他の例を示す。図5(A),5(B)のグラフィック画像では、対象動画における各種割合の時間変化が示されている。具体的には、図5(A),5(B)のグラフィック画像には、割合を示す縦軸と時間を示す横軸とを有するグラフが描画されている。そして、グラフィック画像に描画されたグラフにより、各種割合の時間変化が示されている。図5(A),5(B)は、SDRに対応する割合(SDRに対応する画素数のHDR画像における割合)が100%から徐々に低減し、且つ、非SDRに対応する割合が0%から徐々に増加する例を示す。
図5(A)のグラフィック画像では、棒グラフにより、各種割合の時間変化が示されている。図5(A)において、棒グラフの領域501はSDR(高再現レンジ)に対応する割合を示し、領域502は低再現レンジに対応する割合を示し、領域503は非再現レンジに対応する割合を示す。ユーザは、図5(A)のグラフィック画像を確認して、非SDRに対応する画素数が多い状態が続いてHDR表示が明るすぎるか、非SDRに対応する画素数が一瞬だけ多くなるが対象動画の全体の明るさは落ち着いているか、等を容易に(直感的に)判断できる。
図5(B)のグラフィック画像では、線グラフにより、各種割合の時間変化が示されている。図5(B)において、線グラフの線512は低再現レンジに対応する割合を示し、線513は非再現レンジ及び低再現レンジを含む非SDRに対応する割合を示す。線512と線513は、異なる色で表示させてもよい。図5(B)のグラフィック画像によれば、図5(A)のグラフィック画像の場合に比べ、ユーザは、低再現レンジに対応する割合の時間変化、非再現レンジに対応する割合の時間変化、等をより容易に(より直感的に)判断できる。そして、ユーザは、HDR画像で非SDRが使用されているか(非SDRに対応する画素が存在するか)、非SDRに対応する画素数が多すぎるか、等をより容易に(より直感的に)判断できる。図5(B)のグラフィック画像(線グラフ)には、SDR(高再現レンジ)に対応する割合を示す線は描画されていない。しかしながら、SDRに対応する割合は、線512によって示された割合と線513によって示された割合とを100%から減算することで得られるため、ユーザは、SDRに対応する割合も容易に判断できる。
図6は、グラフィック画像の他の例を示す。図6のグラフィック画像には、各種輝度レンジを示すバー(インジケータ;レベルメータ)が描画されている。図6のグラフィック画像には、各種輝度を示す文字列が、バーの複数の位置のうち、文字列によって示された輝度を示す位置に描画されている。さらに、図6のグラフィック画像には、各種割合を示す文字列が、バーの複数の位置のうち、文字列によって示された割合に対応する輝度レンジを示す位置に描画されている。
図6において、文字列603は、表示中のフレーム画像のピーク輝度(フレームピーク輝度;最大輝度;最大輝度レベル;ピーク輝度レベル)を示す。文字列604は、表示中のフレーム画像の平均輝度(フレーム平均輝度;平均輝度レベル)を示す。フレームピーク輝度、フレーム平均輝度、等は、HDMIデータなどに含まれているメタデータ(HDR10、ST2094−40、等で規定されたメタデータ)を解析することで得ることができる。表示中のフレーム画像(フレーム画像データ)自体を解析することでも、これらの情報を得ることができる。図6の例では、フレームピーク輝度は800cd/mであり、フレーム平均輝度は160cd/mである。
文字列601は、対象動画のピーク輝度(動画ピーク輝度;MaxCLL(Maximum Content Light Level))を示す。文字列602は、最大フレ
ーム平均輝度(MaxFALL(Maximum Frame Average Light Level))を示す。最大フレーム平均輝度は、対象動画の複数のフレームにそれぞれ対応する複数のフレーム平均輝度の最大輝度(最大レベル)である。これらの情報も、メタデータ、対象動画データ自体、等を解析することで得ることができる。図6の例では、動画ピーク輝度は1000cd/mであり、最大フレーム平均輝度は200cd/mである。
なお、動画ピーク輝度と最大フレーム平均輝度の少なくとも一方は、ユーザによって予め指定(設定)された輝度であってもよい。動画ピーク輝度と最大フレーム平均輝度の少なくとも一方は、対象動画の動画ファイルにメタ情報として予め付加されていてもよい。動画ピーク輝度は、対象動画全体のピーク輝度であってもよいし、グラフィック画像の表示期間など、対象動画の一部期間のピーク輝度であってもよい。同様に、最大フレーム平均輝度は、対象動画の全フレーム平均輝度の最大輝度であってもよいし、対象動画の一部期間における複数のフレーム平均輝度の最大輝度であってもよい。
ここで、メタデータで示された動画最大ピーク輝度、ユーザによって指定された動画最大ピーク輝度、等は、対象動画の実際のピーク輝度とは異なることがある。このため、フレームピーク輝度(フレーム画像の実際のピーク輝度)は、文字列601で示された動画最大ピーク輝度(メタデータで示された動画最大ピーク輝度、ユーザによって指定された動画最大ピーク輝度、等)を超えることがある。このような理由により、図6のグラフィック画像には、文字列603のフレームピーク輝度(表示中のフレーム画像の実際のピーク輝度)が文字列601の動画最大ピーク輝度を超えたことを通知(警告)するためのアイテム605が描画されている。グラフィック生成部108は、文字列603のフレームピーク輝度が文字列601の動画最大ピーク輝度を超えた場合に、アイテム605の表示態様を変更する。
文字列611はSDR(高再現レンジ)に対応する割合を示し、文字列612は低再現レンジに対応する割合を示し、文字列613は非再現レンジに対応する割合を示す。
なお、表示装置100に対するユーザ操作などに応じて、割合の描画の有効/無効、描画する割合の種類、等が切り替えられてもよい。
図7は、本実施形態に係るグラフィック画像の生成に関する設定情報の一例を示すテーブルである。図7の例では、設定項目「割合表示」の設定情報として、割合を表示する「ON」、または、割合を表示しない「OFF」が設定される。設定項目「割合表示種別」の設定情報として、「HDR/SDR変換」と「フォルスカラー」と「HDR/SDR比率」のいずれかが設定される。「HDR/SDR変換」は、HDR/SDR変換に基づいて割合を表示するための設定情報である。「フォルスカラー」は、フォルスカラー表示機能(色変換処理)に基づいて割合を表示するための設定情報である。「HDR/SDR比率」は、SDRに対応する割合と非SDRに対応する割合のみを表示するための設定情報である。設定項目「HDR/SDRボーダー」の設定情報として、SDRと非SDRの境界となる輝度(境界輝度)を自動で決定するための「自動」、または、手動で指定された境界輝度が設定される。例えば、100cd/m又は203cd/mが境界輝度としてユーザ操作により指定されてもよいし、100〜203cd/mのうち任意の1つの値が境界輝度としてユーザ操作により指定されてもよい。「自動」が設定された場合に、グラフィック生成部108は、HDR/SDR変換の階調変換カーブ(変換特性)、フォルスカラー表示機能(色変換処理)、画像データ規格(PQ、HLG、等)、等に基づいて自動で境界輝度を決定する。表示制御部106は、表示装置100に対するユーザ操作(操作情報)などに応じて、これらの設定情報をグラフィック生成部108に設定する。
図8は、表示装置100の処理フロー例を示すフローチャートである。例えば、対象動画が表示装置100に入力されている状態(各種割合が判断可能な状態)で、入力部101によって取得されたフレーム画像が更新され、画像解析部102の解析結果がグラフィック生成部108に通知されると、図8の処理フローが開始する。階調カーブ、階調範囲、HDRレンジ、フォルスカラー機能の有効/無効、等の設定情報がユーザ操作によって変更され、変更後の設定情報がグラフィック生成部108に通知された場合にも、図8の処理フローが開始する。
ステップS801にて、グラフィック生成部108は、図7の設定項目「割合表示」の設定情報として「ON」が設定されているか否かを判断する。「ON」が設定されている場合はステップS802へ処理が進む。「OFF」が設定されている場合は、各種割合を示すグラフィック画像は表示されず、本処理フローが終了する。
ステップS802にて、グラフィック生成部108は、図7の設定項目「割合表示種別」の設定情報として「HDR/SDR変換」が設定されているか否かを判断する。「HDR/SDR変換」が設定されている場合はステップS803へ処理が進み、「HDR/SDR変換」が設定されていない場合はステップS804へ処理が進む。
ステップS803にて、グラフィック生成部108は、HDR/SDR変換に基づいて輝度レンジ(SDR(高再現レンジ)、低再現レンジ、及び、非再現レンジ)を決定する。そして、グラフィック生成部108は、対象フレーム画像の画素情報に基づいて、決定した輝度レンジに対応する画素数の対象フレーム画像における割合を判断する。対象フレーム画像は、処理対象のフレーム画像であり、画像解析部102から出力されたフレーム画像であり、表示されるフレーム画像である。その後、グラフィック生成部108は、判断した割合を示すグラフィック画像を生成し、グラフィック合成部104へ出力する。グラフィック生成部108は、対象フレーム画像のフレームピーク輝度、対象フレーム画像のフレーム平均輝度、対象動画の動画ピーク輝度、対象動画の最大フレーム平均輝度、等をさらに判断し、それらの輝度をさらに示すグラフィック画像を生成してもよい。ステップS803の処理により、図4(A),5(A),5(B),6に示すようなグラフィック画像が生成されて表示される。
ここで、各種輝度と各種割合の決定方法の具体例を説明する。
グラフィック生成部108は、表示制御部106から出力された解析結果(画素情報)と設定情報(階調カーブと階調範囲)に基づいて、対象フレーム画像データの各階調値を輝度に変換する。
図9は、画素情報(階調値と画素数の対応関係)、及び、階調値と変換後の輝度との対応関係の一例を示す。図9は、対象フレーム画像の解像度(水平方向の画素数×垂直方向の画素数)が1920×1080画素、つまり対象フレーム画像の総画素数が2073600画素である場合の例を示す。図9は、対象フレーム画像の階調値が10ビットの値(0〜1023)である場合の例を示す。図9では、階調値940を有する画素の数が1036800画素であり、階調値64を有する画素の数が1036800画素である。
ここで、階調カーブとしてHLGが設定されており、リミテッドレンジとして64〜940の階調範囲が設定されているとする。このため、グラフィック生成部108は、64〜940の階調範囲をHLGの輝度レンジ(0〜1000cd/mの輝度レンジ)に変換する。64〜940の階調範囲において、階調値の変化に対する輝度の変化はHLGに従う。さらに、グラフィック生成部108は、64よりも小さい階調値を0cd/mに変換し、940よりも大きい階調値を1000cd/mに変換する(クリップ処理)。
なお、図9に示すような複数のテーブル(複数の階調カーブのいずれかと複数の階調範囲のいずれかとの複数の組み合わせに対応する複数のテーブル)を予め用意し、階調カーブと階調範囲の設定情報に応じたテーブルを用いて上記変換を行ってもよい。上記複数の組み合わせに対応する複数の計算式のうち、階調カーブと階調範囲の設定情報に応じた計算式を用いた計算により上記変換を行ってもよい。
なお、図9では、HLGの輝度レンジとして0〜1000cd/mの輝度レンジを用いたが、HLGで規定されている輝度は相対輝度であり、HLGの輝度レンジ(絶対輝度のレンジ)は変更可能である。例えば、HLGの輝度レンジは、0〜2000cd/mの輝度レンジなどに変更可能である。HLGの輝度レンジが変わると、階調値と変換後の輝度との対応関係も変わる。
上記変換の後、グラフィック生成部108は、画素情報から、画素が存在し且つ最も大きい階調値を判断する。そして、グラフィック生成部108は、判断した階調値に対応する輝度(上記変換後の輝度)を、フレームピーク輝度として決定する。図9の例では、画素が存在し且つ最も大きい階調値は940であり、上記変換により階調値940は輝度1000cd/mに変換されている。このため、1000cd/mがフレームピーク輝度として決定される。
さらに、グラフィック生成部108は、各階調値について画素数と変換後の輝度との積(画素数×輝度)を算出し、算出結果(乗算値)の総和を算出する。これにより、全画素の輝度の総和が得られる。そして、グラフィック生成部108は、全画素の輝度の総和を総画素数で除算すること(全画素の輝度の総和/総画素数)により、フレーム平均輝度を算出する。図9の例では、「(1036800画素×1000cd/m+1036800画素×0cd/m)/2073600画素」により、500cd/mがフレーム平均輝度として算出される。
対象動画の複数のフレームのそれぞれについて上記処理を行えば、複数のフレームにそれぞれ対応する複数の処理結果から、動画ピーク輝度と最大フレーム平均輝度を決定することができる。具体的には、複数のフレームピーク輝度の最大輝度を動画ピーク輝度として決定することができ、複数のフレーム平均輝度の最大輝度を最大フレーム平均輝度として決定することができる。
以上が、各種輝度の決定方法の具体例である。次に、各種割合の決定方法の具体例を説明する。
ここで、HDR/SDR変換の階調変換カーブ(変換特性)として、図2のカーブが設定されているとする。このため、グラフィック生成部108は、図2のカーブに従って、0〜203cd/mの輝度レンジをSDR(高再現レンジ)として判断する。そして、グラフィック生成部108は、203〜600cd/mの輝度レンジを低再現レンジとして判断し、600cd/mよりも高い輝度レンジを非再現レンジとして判断する。
その後、グラフィック生成部108は、上記判断した輝度レンジに属す輝度に変換された画素の数を判断し、判断した画素数を対象フレーム画像の総画素数で除算することにより、上記判断した輝度レンジに対応する割合を算出する。図9の例では、0〜203cd/mに変換された画素は、階調値64の画素(1036800画素)である。このため、「(1036800画素/2073600画素)×100%」により、SDRに対応する割合として50%が算出される。同様に、低再現レンジに対応する割合として0%が算出され、非再現レンジに対応する割合として50%が算出される。
図8の説明に戻る。ステップS804にて、グラフィック生成部108は、図7の設定項目「割合表示種別」の設定情報として「フォルスカラー」が設定されているか否かを判断する。「フォルスカラー」が設定されている場合はステップS805へ処理が進み、「フォルスカラー」が設定されていない場合(「HDR/SDR比率」が設定されている場合)はステップS806へ処理が進む。
ステップS805にて、グラフィック生成部108は、フォルスカラー表示機能(色変換処理)に基づいて、輝度レンジを決定する。具体的には、グラフィック生成部108は、フォルスカラー表示機能の複数の変換色がそれぞれ対応付けられた複数の輝度レンジを決定する。ここで、フォルスカラー表示機能において、0〜203cd/mの輝度レンジ(SDR)に、変換色としてモノクロ色が対応付けられているとする。そして、203〜400cd/m、400〜600cd/m、600〜800cd/m、及び、800〜1000cd/mの4つの輝度レンジ(非SDR)に4つの変換色(非モノクロ色)がそれぞれ対応付けられているとする。この場合には、グラフィック生成部108は、0〜203cd/m、203〜400cd/m、400〜600cd/m、600〜800cd/m、及び、800〜1000cd/mの5つの輝度レンジを決定する。そして、グラフィック生成部108は、対象フレーム画像の画素情報に基づいて、決定した輝度レンジに対応する画素数の対象フレーム画像における割合を判断する。割合の判断方法(決定方法)は上述したとおりである。その後、グラフィック生成部108は、判断した割合を示すグラフィック画像を生成し、グラフィック合成部104へ出力する。ステップS805の処理により、図4(B)に示すようなグラフィック画像が生成されて表示される。
ステップS806にて、グラフィック生成部108は、SDRに対応する割合と非SDRに対応する割合のみを判断する。割合の判断方法(決定方法)は上述したとおりである。ここで、図7の設定項目「HDR/SDRボーダー」の設定情報として「自動」が設定されている場合を考える。その場合には、グラフィック生成部108は、対象動画(対象フレーム画像)のダイナミックレンジに関する規格(設定された階調カーブ;HLG、PQ、等)に基づいて輝度レンジ(SDRとHDR)を決定し、決定した輝度レンジに対応する割合を判断する。例えば、HLGの場合は、グラフィック生成部108は、203cd/m以下の輝度レンジをSDRとして決定し、203cd/mよりも高い輝度レンジを非SDRとして決定する。PQの場合は、グラフィック生成部108は、100cd/m以下の輝度レンジをSDRとして決定し、100cd/mよりも高い輝度レンジを非SDRとして決定する。グラフィック生成部108は、HDR/SDR変換、フォルスカラー表示機能、等に基づいてSDRと非SDRを決定してもよい。次に、図7の設定項目「HDR/SDRボーダー」の設定情報として境界輝度(手動で指定された輝度)が設定されている場合を考える。その場合には、グラフィック生成部108は、境界輝度以下の輝度レンジをSDRとして決定し、境界輝度よりも高い輝度レンジを非SDRとして決定する。その後、グラフィック生成部108は、判断した割合を示すグラフィック画像を生成し、グラフィック合成部104へ出力する。ステップS806の処理により、図4(C)に示すようなグラフィック画像が生成されて表示される。
なお、割合、フレームピーク輝度、フレーム平均輝度、等を1フレーム毎に描画(更新または追加)して、グラフィック画像を1フレーム毎に更新する例を説明したが、そうでなくてもよい。例えば、割合、フレームピーク輝度、フレーム平均輝度、等を2フレーム毎に描画(更新または追加)して、グラフィック画像を2フレーム毎に更新してもよい。これにより、グラフィック画像の更新頻度、情報の描画量、等を低減することができる。この場合は、割合、フレームピーク輝度、フレーム平均輝度、等が2フレーム毎に間引かれてもよい。つまり、割合、フレームピーク輝度、フレーム平均輝度、等は、1フレーム
に対応する情報であってもよい。割合、フレームピーク輝度、フレーム平均輝度、等は、2フレームの情報の平均であってもよい。
なお、10ビットの対象動画データを10ビットの精度で解析する例を説明したが、10ビットの対象動画データを、10ビットよりも低い精度で解析してもよい。例えば、8ビットの精度で、階調値0〜3の画素数、階調値4〜6の画素数、等をカウントしてもよい。
なお、輝度レベルとして絶対輝度を使用する例を説明したが、輝度レベルは絶対輝度に限られない。例えば、輝度レベルとして階調値を使用してもよい。その場合は、階調値から輝度への変換は行わず、フレーム画像のピーク階調値(最大階調値)をフレームピーク輝度として決定し、フレーム画像の平均階調値「APL(AveragePicture
Level)」をフレーム平均輝度として決定してもよい。輝度レベルの種類を適宜切り替えてもよい。HDR画像を処理するための設定がされている場合(例えば、HLG、PQ、等の階調カーブが設定されている場合)に、輝度レベルとして絶対輝度を使用してもよい。そして、SDR画像を処理するための設定がされている場合(例えば、ガンマ2.2などの階調カーブが設定されている場合)に、輝度レベルとして階調値を使用してもよい。
なお、フレーム画像データを1フレーム毎に取得して、グラフィック画像を1フレーム毎に更新する例を説明したが、そうでなくてもよい。例えば、動画ファイル(対象動画データの全体)を取得し、全フレーム画像データを解析し、全フレーム画像データの割合(輝度レンジに対応する画素数のフレーム画像における割合)が描画されたグラフィック画像を一括で生成してもよい。1つの動画ファイルのみを取得してもよいし、順番に再生する複数の動画ファイルを取得してもよい。複数の動画ファイルを取得した場合は、複数の動画ファイルの上記割合を示すグラフィック画像を生成してもよい。
図10は、動画ファイルに基づいて生成したグラフィック画像の一例を示す。図10は、ファイル名「video_001.mov」,「video_002.mov」の2つの動画ファイルを連続して再生する場合の例を示す。図10では、時間軸(タイムライン)上に2つの動画ファイルのファイル名が描画されている。そして、2つの動画ファイルのフレームピーク輝度、フレーム平均輝度、及び、割合(例えば、図5(A)や図5(B)で示したようなSDR及び/又は非SDRの割合)の時間変化が示されている。このようなグラフィック画像を表示することで、ユーザは、複数の動画ファイルにおける上記割合の時間変化などを確認して、複数の動画ファイルを連続して再生した場合に好適な見え方で動画ファイルが切り替わるかなどを容易に(直感的に)把握できる。これにより、ユーザは各動画ファイルを好適に編集できる(編集の効率が向上する)。複数の動画ファイルは、例えば、連結して1つの動画ファイルとすることを想定した複数の動画ファイルである。
なお、対象動画データを解析して画素情報を取得する例を説明したが、そうでなくてもよい。対象動画データに対応するメタデータに画素情報が含まれている場合には、メタデータを解析して画素情報を取得してもよい。その際、メタデータは、対象動画データに付加されたメタデータ(対象動画データに含まれたメタデータ)であってもよいし、対象動画データから独立したメタデータ(メタファイル)であってもよい。
また、図4〜6,10にグラフィック画像を例示したが、それ以外のグラフィック画像でもよいし、図4〜6,10のグラフィック画像を組み合わせてもよい。さらに、図8のフローは例示でありそれ以外のフローを用いてもよい。例えば、図11は、本実施形態に係るグラフィック画像の一例を示す図であり、表示中のフレーム画像の輝度のヒストグラ
ムである。縦軸は度数(画素数)を示し、横軸は輝度を示し、ここでは、HLGではなくPQに基づく輝度スケールを使用している。線1103は、表示中のフレーム画像のピーク輝度を表し、線1104は、表示中のフレーム画像の平均輝度を表す。さらに、HDR/SDR比率1105が、ヒストグラムと並べて表示されている。具体的には、ヒストグラムのSDR側にSDRに対応する画素数の割合(76.7%)を文字列で描画し、ヒストグラムの非SDR側に非SDRに対応する画素数の割合(23.3%)を文字列で描画している。これにより、SDRに対応する画素数の割合と非SDRに対応する画素数の割合を、ユーザに容易に(直感的に)把握させることが可能となる。なお、HDR/SDRボーダーの境界輝度は、100cd/mに設定されている。ここでは、フォルスカラー表示機能において、0〜100cd/mの輝度レンジ(SDR)に変換色としてモノクロ色が対応付けられているとする。また、100〜250cd/m、250〜500cd/m、500〜1000cd/m、1000〜10000cd/mの4つの輝度レンジ(非SDR)に4つの異なる変換色(非モノクロ色)がそれぞれ対応付けられているとする。このため、図11では、ヒストグラムの各棒(ビン)を、それぞれの輝度レンジに対応する変換色で着色している。これにより、表示面に表示されているフレーム画像及びヒストグラムの両方にフォルスカラー(変換色)が着色されているため、輝度レンジに対応する領域の位置及び画素数の割合の両方をユーザが同時に視覚的に確認することが可能となる。図11では、フレーム画像のピーク輝度1103が表示装置の表示レンジ(表示輝度(表示面上の輝度)のレンジ;HDRレンジ)の最大輝度である1000cd/mを超えている。この場合、超えている領域(表示レンジの外側)のヒストグラムの各棒(ビン)を警告色で表示させてもよい。なお、図11のグラフィック画像と同様にして、図5や図6のグラフィック画像にフォルスカラー表示機能の設定を適用してフォルスカラーを着色してもよい。
以上述べたように、本実施形態によれば、画像の各画素の輝度(輝度レベル)に関する画素情報が取得される。そして、画素情報に基づいて、SDRと非SDRの少なくとも一方について、対応する画素数の画像における割合が判断され、出力される。これにより、SDRに対応する画素数の割合と、非SDRに対応する画素数の割合との少なくとも一方を、ユーザに容易に(直感的に)把握させることが可能となる。
なお、本実施形態(図1)の各ブロックは、個別のハードウェアであってもよいし、そうでなくてもよい。2つ以上のブロックの機能が、共通のハードウェアによって実現されてもよい。1つのブロックの複数の機能のそれぞれが、個別のハードウェアによって実現されてもよい。1つのブロックの2つ以上の機能が、共通のハードウェアによって実現されてもよい。また、各ブロックは、ハードウェアによって実現されてもよいし、そうでなくてもよい。例えば、装置が、プロセッサと、制御プログラムが格納されたメモリとを有していてもよい。そして、装置が有する少なくとも一部のブロックの機能が、プロセッサがメモリから制御プログラムを読み出して実行することにより実現されてもよい。
なお、本実施形態(上述した変形例を含む)はあくまで一例であり、本発明の要旨の範囲内で本実施形態の構成を適宜変形したり変更したりすることにより得られる構成も、本発明に含まれる。
<その他の実施形態>
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
100:表示装置 102:画像解析部 108:グラフィック生成部
その他、ITU(Internarional Telecomunication Union)が策定したBT.2408−1 Operational practices in HDR television productionもある。以後、この規格を「BT.2408−1」と記載する。BT.2408−1では、HDRとSDRとの併用について述べられている。具体的には、BT.2408−1では、HDRでの平均輝度は高くなりすぎないように管理されるべきである旨、HLGでのReference
Whiteは約200cd/mとされるべきである旨、等が述べられている。Reference Whiteは、SDRでの白色に相当する。
そして、高再現レンジに対応しない画素数のHDR画像における割合(HDR画像の総画素数に対する、高再現レンジに対応しない画素数の割合)が大きすぎると、HDR/SDR変換によって画質の低い(悪い)SDR画像が得られてしまう。高再現レンジに対応しない画素は、HDR画像の複数の画素のうち、低再現レンジまたは非再現レンジの輝度を有する画素である。非再現レンジに対応する画素数(非再現レンジの輝度を有する画素の数)のHDR画像における割合が大きすぎると、HDR/SDR変換による画質劣化が顕著に発生する。
図3(A)は、HDR画像の階調値が10ビットの値(0〜1023)であり、HLG(0〜1000cd/mの元レンジ)が設定され、64〜960のリミテッドレンジが設定された場合の例を示す。図3(A)の場合は、64〜960の階調範囲がHDR表示に使用され、0〜64と960〜1023の階調範囲がHDR表示に使用されないこととなる。HDR表示において、0〜64の階調値は黒色(黒つぶれ)で表示され、960〜1023の階調値は白色(白とび)で表示される。HDR表示(HDR表示が明るすぎないかなど)の観点では、黒つぶれ(0〜64の階調値)の画素数の割合と、白とび(960〜1023の階調値)の画素数の割合とを管理しなくてもよい。このため、HDR表示の黒つぶれの輝度をSDRおよびHDRの黒色の輝度(0cd/m)として扱い、且つ、HDR表示の白とびの輝度をHDRの白色の輝度(1000cd/m)として扱って、各種割合を管理することが好ましい。HDR表示の観点で管理することが好ましい割合は、例えば、SDRに対応する画素数のHDR画像における割合、非SDR(HDRからSDRを除いた輝度レンジ)に対応する画素数のHDR画像における割合、等である。
図3(B)は、HDR画像の階調値が10ビットの値(0〜1023)であり、HLG(0〜1000cd/mの元レンジ)が設定され、64〜960のリミテッドレンジが設定され、0〜700cd/mのHDRレンジが設定された場合の例を示す。図3(B)の場合には、HDRレンジ(0〜700cd/m)の外側の輝度は、HLGの元レンジ(0〜1000cd/m)に含まれていても、HDR表示に使用されない。具体的には、700〜1000cd/mの輝度レンジは、元レンジに含まれているが、HDR表示に使用されない。HDR表示において、元レンジの700〜1000cd/mの輝度は、白色(白とび)で表示される。但し、図3(B)の場合には、HDRの白色の輝度は700cd/mとなる。HDR表示の観点では、白とびの画素数の割合であっても、元レンジに含まれ且つHDR表示に使用されない輝度レンジに対応する画素数のHDR画像における割合は、管理することが好ましい。その他は、図3(A)の場合と同様である。

Claims (13)

  1. 画像の各画素の輝度レベルに関する情報を取得する取得手段と、
    前記情報に基づいて、SDR(Standard Dynamic Range)、及び、HDR(High Dynamic Range)からSDRを除いた輝度レンジの少なくとも一方について、対応する画素数の、前記画像における割合を判断する判断手段と、
    前記割合を出力する出力手段と、
    を有することを特徴とする情報処理装置。
  2. 前記判断手段は、少なくとも、HDRからSDRを除いた前記輝度レンジにおける複数の輝度レンジのそれぞれについて、前記割合を判断する
    ことを特徴とする請求項1に記載の情報処理装置。
  3. 前記判断手段は、前記画像のダイナミックレンジを変換する変換処理に基づいて、前記割合を判断するための輝度レンジを決定する
    ことを特徴とする請求項1または2に記載の情報処理装置。
  4. 前記判断手段は、前記画像の画素の輝度レベルが属す輝度レンジに応じて当該画素の色を変換する変換処理に基づいて、前記割合を判断するための輝度レンジを決定する
    ことを特徴とする請求項1または2に記載の情報処理装置。
  5. 前記判断手段は、前記画像のダイナミックレンジに関する規格に基づいて、前記割合を判断するための輝度レンジを決定する
    ことを特徴とする請求項1または2に記載の情報処理装置。
  6. 前記画像は動画の1フレームの画像であり、
    前記判断手段は、前記動画における前記割合の時間変化を示すグラフィック画像を生成し、
    前記出力手段は、前記グラフィック画像を出力する
    ことを特徴とする請求項1〜5のいずれか1項に記載の情報処理装置。
  7. 前記画像は動画の1フレームの画像であり、
    前記判断手段は、前記割合、前記画像の最大輝度レベル、前記画像の平均輝度レベル、前記動画の最大輝度レベル、及び、前記動画の複数のフレームにそれぞれ対応する複数の平均輝度レベルの最大レベルを示すグラフィック画像を生成し、
    前記出力手段は、前記グラフィック画像を出力する
    ことを特徴とする請求項1〜5のいずれか1項に記載の情報処理装置。
  8. 前記取得手段は、前記画像に対応するメタデータを解析して前記情報を取得する
    ことを特徴とする請求項1〜7のいずれか1項に記載の情報処理装置。
  9. 入力画像のデータを処理して処理画像のデータを生成する画像処理部と、
    前記入力画像のデータに関するグラフィック画像のデータを生成するグラフィック生成部と、
    前記処理画像と前記グラフィック画像とを表示する表示制御部と、
    を有し、
    前記グラフィック画像は、輝度レベルを示す軸を有するグラフ又はヒストグラムであり、
    フォルスカラー表示機能が有効である場合に、
    前記画像処理部は、複数の輝度レンジと複数の変換色との所定の対応関係に基づいて、前記入力画像に変換色を適用し、
    前記グラフィック生成部は、前記所定の対応関係に基づいて、前記グラフィック画像に変換色を適用する
    ことを特徴とする情報処理装置。
  10. 表示部と、請求項1〜11のいずれか1項に記載の情報処理装置と、を有する
    ことを特徴とする表示装置。
  11. 画像の各画素の輝度レベルに関する情報を取得するステップと、
    前記情報に基づいて、SDR(Standard Dynamic Range)、及び、HDR(High Dynamic Range)からSDRを除いた輝度レンジの少なくとも一方について、対応する画素数の、前記画像における割合を判断するステップと、
    前記割合を出力するステップと、
    を有することを特徴とする情報処理方法。
  12. 入力画像のデータを処理して処理画像のデータを生成する画像処理ステップと、
    前記入力画像のデータに関するグラフィック画像のデータを生成するグラフィック生成ステップと、
    前記処理画像と前記グラフィック画像とを表示する表示制御ステップと、
    を有し、
    前記グラフィック画像は、輝度レベルを示す軸を有するグラフ又はヒストグラムであり、
    フォルスカラー表示機能が有効である場合に、
    前記画像処理ステップでは、複数の輝度レンジと複数の変換色との所定の対応関係に基づいて、前記入力画像に変換色を適用し、
    前記グラフィック生成ステップでは、前記所定の対応関係に基づいて、前記グラフィック画像に変換色を適用する
    ことを特徴とする情報処理方法。
  13. コンピュータを、請求項1〜9のいずれか1項に記載の情報処理装置の各手段として機能させるためのプログラム。
JP2019051578A 2019-03-19 2019-03-19 情報処理装置および情報処理方法 Active JP6921886B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2019051578A JP6921886B2 (ja) 2019-03-19 2019-03-19 情報処理装置および情報処理方法
US16/821,319 US11410343B2 (en) 2019-03-19 2020-03-17 Information processing apparatus, information processing method, and non-transitory computer readable medium
CN202010198014.4A CN111724752A (zh) 2019-03-19 2020-03-19 信息处理设备和方法、显示设备以及计算机可读介质
JP2021116093A JP7331047B2 (ja) 2019-03-19 2021-07-14 情報処理装置および情報処理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019051578A JP6921886B2 (ja) 2019-03-19 2019-03-19 情報処理装置および情報処理方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2021116093A Division JP7331047B2 (ja) 2019-03-19 2021-07-14 情報処理装置および情報処理方法

Publications (2)

Publication Number Publication Date
JP2020154609A true JP2020154609A (ja) 2020-09-24
JP6921886B2 JP6921886B2 (ja) 2021-08-18

Family

ID=72515206

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2019051578A Active JP6921886B2 (ja) 2019-03-19 2019-03-19 情報処理装置および情報処理方法
JP2021116093A Active JP7331047B2 (ja) 2019-03-19 2021-07-14 情報処理装置および情報処理方法

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2021116093A Active JP7331047B2 (ja) 2019-03-19 2021-07-14 情報処理装置および情報処理方法

Country Status (3)

Country Link
US (1) US11410343B2 (ja)
JP (2) JP6921886B2 (ja)
CN (1) CN111724752A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022172449A1 (ja) * 2021-02-15 2022-08-18 株式会社ソニー・インタラクティブエンタテインメント 学習装置、動画像生成装置、学習済モデルの生成方法、動画像生成方法及びプログラム

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7027554B2 (ja) * 2018-01-11 2022-03-01 ドルビー ラボラトリーズ ライセンシング コーポレイション コンテンツスキャン適応メタデータを用いた光レベル管理
JP7431596B2 (ja) * 2020-01-31 2024-02-15 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
US11743598B2 (en) * 2020-07-14 2023-08-29 Nbcuniversal Media, Llc Light valve systems and methods
TWI774459B (zh) 2021-07-05 2022-08-11 緯創資通股份有限公司 亮度調整方法及其相關顯示系統
US11734806B2 (en) 2021-11-24 2023-08-22 Roku, Inc. Dynamic tone mapping
WO2023136532A1 (ko) * 2022-01-14 2023-07-20 삼성전자 주식회사 이미지를 제공하는 방법 및 이를 지원하는 전자 장치

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016046701A (ja) * 2014-08-25 2016-04-04 キヤノン株式会社 画像処理装置、画像処理方法、及び、プログラム
JP2017028490A (ja) * 2015-07-22 2017-02-02 ルネサスエレクトロニクス株式会社 撮像センサ及びセンサモジュール
JP2017126879A (ja) * 2016-01-14 2017-07-20 京セラドキュメントソリューションズ株式会社 画像形成装置、画像形成方法及び画像形成プログラム
JP2018121194A (ja) * 2017-01-25 2018-08-02 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007266680A (ja) 2006-03-27 2007-10-11 Victor Co Of Japan Ltd 撮像装置
JP5181970B2 (ja) * 2008-09-25 2013-04-10 オムロン株式会社 画像処理装置および画像処理方法
ES2728153T3 (es) * 2010-09-16 2019-10-22 Koninklijke Philips Nv Aparatos y métodos para mejorar la codificación de imágenes
JP5713752B2 (ja) * 2011-03-28 2015-05-07 キヤノン株式会社 画像処理装置、及びその制御方法
JP2014143457A (ja) * 2013-01-22 2014-08-07 Canon Inc Hdr切り替え制御方法
JP6395455B2 (ja) 2014-06-09 2018-09-26 株式会社キーエンス 検査装置、検査方法およびプログラム
JP2016006930A (ja) 2014-06-20 2016-01-14 ソニー株式会社 撮像装置および撮像方法
CN106659360A (zh) * 2014-11-26 2017-05-10 奥林巴斯株式会社 诊断支援装置和诊断支援信息显示方法
JP2017033274A (ja) * 2015-07-31 2017-02-09 オリンパス株式会社 画像処理装置、画像処理方法、及び画像処理プログラム
JP6670110B2 (ja) 2016-01-07 2020-03-18 キヤノン株式会社 画像処理装置、撮像装置、制御方法及びプログラム
JP6451669B2 (ja) * 2016-03-04 2019-01-16 ソニー株式会社 評価装置、評価方法およびカメラシステム
JP2017219802A (ja) 2016-06-10 2017-12-14 キヤノン株式会社 画像処理装置、その制御方法、及び表示装置
CN106847152A (zh) * 2017-01-19 2017-06-13 北京小米移动软件有限公司 对比度提升方法及装置
US10813597B2 (en) * 2017-04-14 2020-10-27 The Regents Of The University Of California Non-invasive hemodynamic assessment via interrogation of biological tissue using a coherent light source
US10546554B2 (en) * 2018-03-26 2020-01-28 Dell Products, Lp System and method for adaptive tone mapping for high dynamic ratio digital images

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016046701A (ja) * 2014-08-25 2016-04-04 キヤノン株式会社 画像処理装置、画像処理方法、及び、プログラム
JP2017028490A (ja) * 2015-07-22 2017-02-02 ルネサスエレクトロニクス株式会社 撮像センサ及びセンサモジュール
JP2017126879A (ja) * 2016-01-14 2017-07-20 京セラドキュメントソリューションズ株式会社 画像形成装置、画像形成方法及び画像形成プログラム
JP2018121194A (ja) * 2017-01-25 2018-08-02 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022172449A1 (ja) * 2021-02-15 2022-08-18 株式会社ソニー・インタラクティブエンタテインメント 学習装置、動画像生成装置、学習済モデルの生成方法、動画像生成方法及びプログラム

Also Published As

Publication number Publication date
JP2021168186A (ja) 2021-10-21
US20200302659A1 (en) 2020-09-24
JP6921886B2 (ja) 2021-08-18
US11410343B2 (en) 2022-08-09
JP7331047B2 (ja) 2023-08-22
CN111724752A (zh) 2020-09-29

Similar Documents

Publication Publication Date Title
JP6921886B2 (ja) 情報処理装置および情報処理方法
US11647148B2 (en) Display system, display method, and display apparatus
US9948884B2 (en) Converting method and converting apparatus for converting luminance value of an input video into a second luminance value
JP6663214B2 (ja) 表示方法および表示装置
JP6808762B2 (ja) 情報処理装置および情報処理方法
KR101221865B1 (ko) 스파클 처리
CN115393228B (zh) 图像处理方法、装置以及图形处理设备
KR20180094949A (ko) 디지털 이미지를 프로세싱하기 위한 방법, 디바이스, 단말 장비 및 연관된 컴퓨터 프로그램
JP2020127068A (ja) 制御装置および制御方法
JP7271490B2 (ja) 情報処理装置および情報処理方法
US11869174B2 (en) Image processing apparatus, display apparatus, image processing method, and non-transitory computer readable medium
JP2024039874A (ja) 画像処理装置、画像処理装置の制御方法およびプログラム
JP2020127107A (ja) 画像処理装置
JP2010288052A (ja) テレビジョン受像機
JP2006074535A (ja) カラーエンコーディング方法及び信号処理方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200130

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200130

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210330

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210526

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210629

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210728

R151 Written notification of patent or utility model registration

Ref document number: 6921886

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151