JPWO2019069483A1 - 映像表示装置及び映像表示方法 - Google Patents

映像表示装置及び映像表示方法 Download PDF

Info

Publication number
JPWO2019069483A1
JPWO2019069483A1 JP2018554418A JP2018554418A JPWO2019069483A1 JP WO2019069483 A1 JPWO2019069483 A1 JP WO2019069483A1 JP 2018554418 A JP2018554418 A JP 2018554418A JP 2018554418 A JP2018554418 A JP 2018554418A JP WO2019069483 A1 JPWO2019069483 A1 JP WO2019069483A1
Authority
JP
Japan
Prior art keywords
video
metadata
tone map
display device
dynamic
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018554418A
Other languages
English (en)
Other versions
JP7108880B2 (ja
Inventor
山本 雅哉
雅哉 山本
小塚 雅之
雅之 小塚
柏木 吉一郎
吉一郎 柏木
歳朗 西尾
歳朗 西尾
和彦 甲野
和彦 甲野
洋 矢羽田
洋 矢羽田
健 廣田
健 廣田
美裕 森
美裕 森
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Publication of JPWO2019069483A1 publication Critical patent/JPWO2019069483A1/ja
Application granted granted Critical
Publication of JP7108880B2 publication Critical patent/JP7108880B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/003Details of a display terminal, the details relating to the control arrangement of the display terminal and to the interfaces thereto
    • G09G5/005Adapting incoming signals to the display format of the display terminal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/6027Correction or control of colour gradation or colour contrast
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/435Processing of additional data, e.g. decrypting of additional data, reconstructing software from modules extracted from the transport stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/74Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/20Circuitry for controlling amplitude response
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/66Transforming electric information into light information

Abstract

映像表示装置(102B)は、所定期間に含まれる複数の時間区間の各々における映像の最大輝度を示すダイナミックメタデータを用いて、各時間区間の前記映像の輝度を、当該時間区間の映像の最大輝度に応じた変換カーブを用いて変換するトーンマップ処理部(134)と、表示部(135)とを備え、トーンマップ処理部(134)は、所定期間における映像の最大輝度を示すスタティックメタデータを用いて、複数の時間区間で同一の最大輝度を示す第1ダイナミックメタデータを用いてトーンマップ処理を行う第1動作と、複数の時間区間で最大輝度が変化する第2ダイナミックメタデータを用いてトーンマップ処理を行う第2動作とを切り替える。

Description

本開示は、映像を表示する映像表示装置及び映像表示方法に関する。
特許文献1には、HDR(High Dynamic Range)映像において、画像上にグラフィックスをマップするための方法及びシステムについて記載されている。
特許第6104411号明細書
White Paper Blu-ray Disc Read-Only Format (Ultra HD Blu-ray), Audio Visual Application Format Specifications for BD-ROM Version 3.1, August 2016, http://www.blu-raydisc.com/Assets/Downloadablefile/BD-ROM_Part3_V3.1_WhitePaper_160729_clean.pdf
本開示は、表示する映像の質を向上できる映像表示装置又は映像表示方法を提供する。
本開示の一態様に係る映像表示装置は、所定期間に含まれる複数の時間区間の各々における映像の最大輝度を示すダイナミックメタデータを用いて、各時間区間の前記映像の輝度を、当該時間区間の前記映像の前記最大輝度に応じた変換カーブを用いて変換するトーンマップ処理を行うトーンマップ処理部と、前記トーンマップ処理後の映像を表示する表示部とを備え、前記トーンマップ処理部は、前記所定期間における前記映像の最大輝度を示すスタティックメタデータを用いて生成された、前記複数の時間区間で同一の前記最大輝度を示す第1ダイナミックメタデータを用いて前記トーンマップ処理を行う第1動作と、前記複数の時間区間で前記最大輝度が変化する第2ダイナミックメタデータを用いて前記トーンマップ処理を行う第2動作とを切り替える。
本開示は、表示する映像の質を向上できる映像表示装置又は映像表示方法を提供できる。
図1は、映像技術の進化について説明するための図である。 図2は、コンテンツに新たな映像表現を導入するときの、映像制作、配信方式、及び表示装置の関係について説明するための図である。 図3Aは、トーンマップの一例を示す図である。 図3Bは、トーンマップの一例を示す図である。 図4Aは、スタティックトーンマップの一例を示す図である。 図4Bは、ダイナミックトーンマップの一例を示す図である。 図5は、動画にグラフィックスを重畳して表示する例を示す図である。 図6は、従来の映像表示システムの構成を示す図である。 図7は、従来の映像表示システムの構成を示す図である。 図8は、主映像にグラフィックスが重畳されたときのダイナミックトーンマップの影響を示す図である。 図9は、実施の形態に係る映像表示システムの構成を示す図である。 図10は、実施の形態に係る、各種フラグと映像表示装置の動作との関係を示す図である。 図11は、実施の形態に係る映像表示装置の構成を示す図である。 図12は、実施の形態に係るメタデータ処理部の構成を示す図である。 図13は、実施の形態に係る映像再生装置の動作を示すフローチャートである。 図14は、実施の形態に係る映像表示装置の動作を示すフローチャートである。
[1−1.背景]
まず、映像技術の変遷について、図1を用いて説明する。図1は、映像技術の進化について説明するための図である。
これまで、映像の高画質化としては、表示画素数の拡大に主眼がおかれ、Standard Definition(SD)の720×480画素から、High Definition(HD)の1920×1080画素の映像が普及している。
近年、更なる高画質化を目指して、Ultra High Definition(UHD)の3840×1920画素、あるいは、4Kの4096×2048画素の、所謂4K映像の導入が開始された。
4Kの導入と共に、ダイナミックレンジ拡張、色域拡大、又は、フレームレートの追加或いは向上なども検討されている。
その中でも、ダイナミックレンジについては、暗部階調を維持しつつ、現行のテレビ信号で表現不能な鏡面反射光などの明るい光を、より現実に近い明るさで表現するための方式として、HDR(High Dynamic Range)が注目されている。具体的には、これまでのテレビ信号は、SDR(Standard Dynamic Range)と呼ばれ、最高輝度が100nitであった。これに対して、HDRでは1000nit以上まで最高輝度を拡大することが想定されている。HDRは、SMPTE(Society of Motion Picture & Television Engineers)、及びITU−R(International Telecommunications Union Radiocommunications Sector)などにおいて、マスタリングディスプレー用規格の標準化が進行中である。
HDRの具体的な適用先としては、HD及びUHDと同様に、放送、パッケージメディア(Blu−ray(登録商標) Disc等)、及びインターネット配信などが想定されている。
[1−2.マスター生成、配信方式、及び表示装置の関係]
図2は、コンテンツに新たな映像表現を導入するときの、映像制作、配信方式、及び表示装置の関係について説明するための図である。
映像の高画質化のために新たな映像表現(画素数の増加等)を導入する場合には、図2に示すように、(1)映像制作側のHome Entertainment向けマスターを変更する必要がある。それに応じて、(2)放送、通信、及びパッケージメディア等の配信方式も、(3)その映像を表示するテレビ、又はプロジェクター等の表示装置も更新する必要がある。
[1−3.トーンマップ]
トーンマップ(Tone Mapping)は、HDR映像の輝度と映像表示装置の最大輝度(Display Peak Luminance:DPL)との関係から、映像の最大輝度(Maximum Content Luminance Level:MaxCLL)がDPLを超える場合に、映像の輝度を変換し、映像の輝度をDPL以内に収める処理である。この処理により、映像の最大輝度付近の情報を失うことなく映像を表示できる。この変換は、映像表示装置の特性にも依存し、どのように表示するかの考え方にも依存するので、映像表示装置毎に異なった変換カーブが用いられる。
図3A及び図3Bは、トーンマップの一例を示す図である。図3Aは、DPLが500nitの場合を示し、図3Bは、DPLが1000nitの場合を示す。また、図3A及び図3Bは、MaxCLLが1000nitの映像を表示した場合のトーンマップと、MaxCLLが4000nitの映像を表示した場合のトーンマップとの例である。
図3Aに示すように、DPLが500nitの場合、どちらの映像も500nit以下でMaxCLLまでを表示できるように、輝度が変換されるが、MaxCLLが高い映像のほうが変換の度合いは大きくなる。
図3Bに示すように、DPLが1000nitの場合、MaxCLLが1000nitの映像では、トーンマップが行われない。MaxCLLが4000nitの映像では、トーンマップが行われ、4000nitの輝度が1000nitに変換されて表示される。
[1−4.ダイナミックメタデータとダイナミックトーンマップ]
図4Aは、スタティックメタデータを用いたトーンマップの例を示す図である。図4Bは、ダイナミックメタデータを用いたダイナミックトーンマップの例を示す図である。
図4Aに示すように、スタティックメタデータ(MaxCLL)が用いられる場合、MaxCLLは一連の映像内で最も高い輝度を示すため、映像表示装置は、一連の映像に対して、固定的なトーンマップしか行えない。これに対して、映像表示装置は、図4Bの(a)に示すように、時間変化する輝度に合わせたメタデータ(ここではDynamic MaxCLLと称す)を用いることで、輝度が低い場合は、トーンマップを行わず(図4Bの(b))、輝度が高い場合はトーンマップを行う(図4Bの(c))というように、時間変化する輝度に合わせた最適なトーンマップを実現できる。
[1−5.映像とグラフィックスとの合成]
図5は、動画にメニュー及び字幕などのグラフィックスを重畳して、映像表示装置で表示する例を示す図である。ここでは、Ultra HD Blu−rayの例を示す。
グラフィックスを重畳する前の動画を主映像と表現する。Ultra HD Blu−rayではグラフィックスは、HD解像度で準備される。映像再生装置は、HDのグラフィックスに対してHD−UHD変換を行うことでUHDのグラフィックスを生成する。そして、映像再生装置は、得られたUHDのグラフィックスと、UHD解像度の主映像とを合成する。そして、映像再生装置は、合成後の映像を、HDMI(登録商標)(High−Definition Multimedia Interface)を通じて映像表示装置に送る。映像表示装置は、送られてきた映像をHDRとして表示する。
また、映像再生装置は、ダイナミックメタデータを、主映像の輝度の時間変化に基づいて決定し、HDMIを通じて、映像表示装置に送る。映像表示装置は、送られてきたダイナミックメタデータに基づき、主映像に字幕及びメニューが重畳された映像信号に対して、ダイナミックトーンマップを施す。
この状況は、放送又は通信によるOTT(Over The Top)サービスでのHDR映像を表示する場合でも、主映像にメニュー又は字幕が重畳され、得られた映像が映像表示装置で表示される場合は同様である。
[1−6.従来の映像再生装置]
従来のHDR対応の映像再生装置の構成について説明する。まず、スタティックメタデータのみに対応している映像再生装置(HDR10、BDAで定めるマンダトリHDRの場合)について説明する。
図6は、従来の映像表示システム100の構成を示す図である。この映像表示システム100は、映像再生装置101と、映像表示装置102とを含む。映像再生装置101は、HDR対応の映像再生装置であり、ディスク111と、BD−ROM駆動部112と、デマルチプレクサ113と、PGデコーダ(PG Dec)114と、映像デコーダ(Video Dec)115と、メニュー制御部116と、スタティックメタデータ抽出部117と、映像合成部118と、映像情報出力部119とを備える。
ディスク111は、映像及び必要なその他の情報を記録した記録媒体であり、例えば、BD−ROMメディアである。BD−ROM駆動部112は、ディスク111から情報を読み取る。デマルチプレクサ113は、BD−ROM駆動部112から出力される情報から、字幕情報、映像情報、及び音声情報(図示せず)を抽出する。
PGデコーダ114は、デマルチプレクサ113で抽出された字幕情報から字幕グラフィックスを生成する。映像デコーダ115は、デマルチプレクサ113で抽出された映像情報から映像信号を生成する。
メニュー制御部116は、BD−ROM駆動部112から出力される情報を用いて、メニューグラフィックスの生成及びその制御を行う。スタティックメタデータ抽出部117は、BD−ROM駆動部112から出力される情報からスタティックメタデータを抽出する。
映像合成部118は、メニュー制御部116で生成されたメニューグラフィックス、PGデコーダ114で生成された字幕グラフィックス、及び、映像デコーダ115で生成された映像情報を合成することで映像信号を生成する。映像情報出力部119は、映像合成部118で生成された映像信号、デマルチプレクサ113で抽出された音声信号(図示せず)、及び、スタティックメタデータ抽出部117で抽出されたスタティックメタデータをHDMIなどの伝送部を経由して、映像表示装置102へ送る。
次に、ダイナミックメタデータを持つHDRに対応した映像再生装置の構成を説明する。図7は、ダイナミックメタデータを持つHDRに対応した映像再生装置101Aを含む映像表示システム100Aの構成を示す図である。この映像表示システム100は、映像再生装置101Aと、映像表示装置102Aとを含む。
この映像再生装置101Aは、図6に示す映像再生装置101の構成に加え、ダイナミックメタデータ抽出部120と、メタデータ切替部121とを備える。
ダイナミックメタデータ抽出部120は、映像デコーダ115で生成された映像情報に含まれるダイナミックメタデータを抽出する。メタデータ切替部121は、ダイナミックメタデータ抽出部120で抽出されたダイナミックメタデータと、スタティックメタデータ抽出部117で抽出されたスタティックメタデータとうち、出力するメタデータを切り替える、又は双方を出力するなどの処理を行う。映像情報出力部119は、メタデータ切替部121から出力されたメタデータを映像信号とともに、HDMIなどの伝送部を経由して、映像表示装置102Aへ送る。
なお、ここでは、ダイナミックメタデータが映像情報に含まれるとしたが、ダイナミックメタデータは、別途、ディスク111に記録されており、映像情報に同期して、メタデータ切替部121へ送られてもよい。このような構成により、映像表示装置102で、ダイナミックメタデータに基づくダイナミックトーンマップを実現できる。
なお、Blu−ray、Ultra HD Blu−rayの詳細は、例えば、非特許文献1に記載されている。
[1−7.動画にグラフィックスを重畳した映像データにダイナミックトーンマップを行う場合の課題]
ダイナミックメタデータ方式では、HDR映像の輝度分布などの輝度に関わるメタデータがフレーム毎に指定され、映像信号とともに、そのようなメタデータが、映像表示装置に送られる。映像表示装置は、当該映像表示装置の最大輝度などの表示能力に応じて、送られてきたメタデータを参考にして、輝度を変換するなどの処理を行う。このようなダイナミックメタデータ方式は、映像表示装置の輝度などの表示性能によらずできるだけ一定の品質の映像を表示する方式として、注目されている。
しかしながら、ダイナミックメタデータは、時間的に変化するために、本来一定であるべき映像の表示が、安定しないという問題がある。
表示すべき映像が、同時に編集、又は監修された映像、いわゆる動画だけであるならば、ある程度、映像の状況を考慮した処理が可能である。このような動画を主映像とし、同時に、本来一定であり、まったく変動しない、字幕又はメニューなどのグラフィックスデータが主映像に重畳されて表示されると、ダイナミックメタデータを使用した処理により、一定であるべきグラフィックスの輝度又は色が変化するという悪影響が出てくる。この悪影響は、主映像の輝度が高く、映像表示装置の輝度が低いほど顕著となる。
図8は、主映像にグラフィックスが重畳されたときのダイナミックトーンマップの影響を示す図である。ここで、図8の(a)に示すように、重畳されるグラフィックスの輝度を350nit仮定する。図8の(b)に示すように主映像の輝度が低い区間では、トーンマップが行われず、グラフィックスは本来の輝度である350nitで映像表示装置に表示される。一方、図8の(c)に示すように、主映像の輝度が高い区間では、トーンマップが行われ、グラフィックスの輝度は、350nitより低い輝度で映像表示装置に表示される。このように、本来一定であるべきグラフィックスの輝度が時間的に変動することになり、好ましくない状態となる。ここでは輝度だけの影響としたが、実際の映像表示装置では、色成分も影響を受けるために色も影響を受けることもある。
[1−8.解決方法]
上記課題を避ける手段として、重畳するグラフィックスの位置情報を映像表示装置に送り、グラフィックスが表示されている部分のみ、ダイナミックメタデータを適用しない方法が考えられる。しかし、この方法は、表示画面の全領域において、グラフィックスが表示されているかどうかの情報の伝送が必要であり、映像表示装置での処理も、表示ピクセル単位での判断が必要など、実現はかなり困難である。
また、上記のように、映像表示装置側で正しい処理をするための追加情報を映像再生装置が映像表示装置に送り、映像表示装置側で、グラフィックスが重畳されたHDR映像の表示処理を行う場合、映像表示装置側の実装により、映像の見え方が変わる可能性がある。コンテンツ製作者としては、これは大きな課題と認識されている。このため、常に正しく処理を行えるように、ブルーレイ規格でなどの映像再生装置の動作を定めた規定に従い、映像再生装置側で処理を行い、映像表示装置に送るダイナミックメタデータを加工する。これにより、映像表示装置で適切な映像を表示できる。ただし、映像表示装置側の処理によっては、画質劣化が起こる可能性があるため、映像表示装置側の処理も含めた方式が必要である。
本開示では以下の解決方法を用いる。HDR映像の再生時に、メニューを重畳して表示しているかどうかを示すフラグ(Graphics_Menu_On_Flag:GMOF)を、メニューグラフィックスを表示する時に、必要に応じて設定する。この設定は、ブルーレイディスクの場合、HDMV(High Definition Movie Mode)のコマンド又はBD−J(Blu−ray Disc Java(登録商標))のコマンドで行われる。
HDR映像データなどが記録されたディスク又はHDRデータを再生する場合に、メニューなどのグラフィックスがHDR映像に重畳表示された場合、映像再生装置は、GMOFフラグをONに設定する。また、映像再生装置は、映像再生装置の内部で、トーンマップの処理、又はグラフィックスの変換を行った場合、映像表示装置にGMOFを伝送しない。
映像表示装置でトーンマップの処理を行う場合、映像再生装置は、スタティックメタデータに相当する値をダイナミックメタデータとして映像表示装置に送る。これにより、映像表示装置はトーンマップを固定するので、グラフィックスへの影響を低減できる。
映像再生装置は、ダイナミックメタデータをスタティックメタデータに相当する値に変更するとき、また、スタティックメタデータに相当する値をもとのダイナミックメタデータに戻すときに、スムーズな遷移のため、メタデータの値を少しずつ変化させる。これにより、メタデータが変わることによるトーンマップの変化の違和感を低減できる。
映像再生装置は、ディスク又はHDRデータにメニューグラフィックスの最大輝度(MaxLLGM)が指定されている場合には、当該MaxLLGMを取得する。または、映像再生装置は、MaxLLGMに相当する値をメニューグラフィックスを分析することで生成する。また、映像再生装置は、映像表示装置から表示装置の最大輝度情報(MAXTVLL)を受け取る。そして、映像再生装置は、MaxLLGMとMAXTVLLを比較することで、メニューグラフィックスにダイナミックトーンマップの影響がないかを判断する。映像再生装置は、当該影響がないと判断した場合、GMOFフラグがONであっても、ダイナミックメタデータの変換処理を行わない。これにより、映像表示装置でできる限りダイナミックなトーンマップを実施できるので、よりよい映像表示を実現できる。
GMOFが映像表示装置に送られた場合、映像表示装置は、HDR映像にグラフィックスが重畳されていることを認識できるので、適切なトーンマップ処理を行うことができる。すなわち、映像表示装置は、映像表示装置(例えばTV)の輝度レベル、コンテンツの輝度レベル、及びグラフィックスの輝度レベル(MaxLLGM)に基づき、ダイナミックメタデータに従ったトーンマップをそのまま行うか、トーンマップを固定するか、スタティックメタデータに応じたトーンマップを行うか、輝度レベルに応じてそれらの処理を組み合わせた処理を行うかなどを切り替える。これにより、映像表示装置は適切な処理を行える。
このとき、映像表示装置は、ディスク又はHDRデータで指定されたメニューグラフィックスの最大輝度(MaxLLGM)、又は、映像再生装置内で生成されたMaxLLGMを、トーンマップ処理に用いることで、より適切な処理を行うことが可能となる。
また、GMOFがONの場合に、映像再生装置は、TV側処理優先フラグ(TVPAF)を設定する。TVPAFがONの場合、映像再生装置は、Dynamic Metadata Block Mode Flag (DMBM)をOFFに設定し、DMBMを映像表示装置に送付する。この場合、映像表示装置で、自身の輝度に応じた適切な処理が許可される。
TVPAFがOFFに設定された場合は、映像再生装置は、DMBMをONに設定し、DMBMを映像表示装置に送付する。この場合、映像表示装置は、ダイナミックメタデータに従った処理を行うことが強制される。すなわち、映像表示装置は、映像再生装置側で処理されたダイナミックメタデータに従うことになる。よって、映像再生装置におけるダイナミックメタデータへの対応が明確であれば、ほとんどの映像表示装置で同様な映像が表示される。
以上により、放送、Blu−ray等のパッケージメディア、又はOTT等のインターネット配信により送られてきたHDR映像信号に対して、ダイナミックトーンマップを行う場合において、メニュー及び字幕などのグラフィックスに対するダイナミックトーンマップの影響を低減できる。これにより、安定したグラフィックスの表示と映像表示装置の最大輝度(DPL)と動画の最大輝度に応じたダイナミックトーンマップの効果を得ることができる。
上記により、特に、映像の輝度に比較して低い最大輝度の映像表示装置におけるHDR効果大きくする一方、スタティックトーンマップと同様な品位が高いグラフィックスの表示が実現できる。
さらに、TVなどの映像表示装置の処理によらないスタティックトーンマップ相当のダイナミックメタデータを映像再生装置が映像表示装置に送出することで、コンテンツ製作者の意図をより再現できる。一方、コンテンツ製作者が許可すれば、映像表示装置での処理も選択可能である。よって、グラフィックスの状態に応じた適切な処理の選択により、ダイナミックトーンマップの効果を最大限としつつ、グラフィックスへの影響を抑えることが可能となる。
[2−1.映像表示システムの構成]
図9は、本実施の形態に係る映像表示システム100Bの構成を示す図である。映像表示システム100Bは、映像再生装置101Bと、映像表示装置102Bとを含む。
映像再生装置101Bは、ディスク111と、BD−ROM駆動部112と、デマルチプレクサ113と、PGデコーダ(PG Dec)114と、映像デコーダ(Video Dec)115と、メニュー制御部116Bと、スタティックメタデータ抽出部117と、映像合成部118と、映像情報出力部119と、ダイナミックメタデータ抽出部120と、メタデータ処理部122とを備える。
ディスク111は、映像及び必要なその他の情報を記録した記録媒体であり、例えば、BD−ROMメディアである。BD−ROM駆動部112は、ディスク111から情報を読み取る。デマルチプレクサ113は、BD−ROM駆動部112から出力される情報から、字幕情報、映像情報、及び音声情報(図示せず)を抽出する。
PGデコーダ114は、デマルチプレクサ113で抽出された字幕情報から字幕グラフィックスを生成する。映像デコーダ115は、デマルチプレクサ113で抽出された映像情報から映像信号を生成する。
メニュー制御部116Bは、BD−ROM駆動部112から出力される情報を用いて、メニューグラフィックスの生成及びその制御を行う。また、メニュー制御部116Bは、メニューグラフィックス状態情報(GMOF、TVPAF、MaxLLGM)をメタデータ処理部122に出力する。
スタティックメタデータ抽出部117は、BD−ROM駆動部112から出力される情報からスタティックメタデータを抽出する。スタティックメタデータは、映像の輝度(例えば、最大輝度及び平均輝度)を示す情報を含む。このスタティックメタデータで示される映像の輝度は、所定期間における映像の輝度(固定値)である。
映像合成部118は、メニュー制御部116Bで生成されたメニューグラフィックス、PGデコーダ114で生成された字幕グラフィックス、及び、映像デコーダ115で生成された映像情報を合成することで映像信号を生成する。つまり、映像合成部118は、映像情報にメニューグラフィックス及び字幕グラフィックスを重畳する。
ダイナミックメタデータ抽出部120は、映像デコーダ115で生成された映像情報からダイナミックメタデータを抽出する。なお、ダイナミックメタデータは、別途、ディスク111に記録されており、映像情報に同期して、メタデータ処理部122へ送られてもよい。また、ダイナミックメタデータは、映像の輝度(例えば、最大輝度及び平均輝度)を示す情報を含む。このダイナミックメタデータで示される映像の輝度は、所定期間において時系列に変化する。つまり、ダイナミックメタデータは、スタティックメタデータにおける上記所定期間に含まれる複数の時間区間の各々における映像の最大輝度を示す。
メタデータ処理部122は、ダイナミックメタデータ抽出部120で抽出されたダイナミックメタデータと、スタティックメタデータ抽出部117で抽出されたスタティックメタデータとを、メニュー制御部116Bから出力されたメニューグラフィックス状態情報と、映像表示装置102Bの輝度情報(MAXTVLL)とを用いて処理し、メニューグラフィックスの状態に応じたダイナミックメタデータの変更を行う。また、メタデータ処理部122は、MAXTVLLを、例えば、映像表示装置102BからEDIDとして取得する。
映像情報出力部119は、映像合成部118で生成された映像信号、デマルチプレクサ113で抽出された音声信号(図示せず)、並びに、メタデータ処理部122で処理されたダイナミックメタデータ及びスタティックメタデータをHDMIなどの伝送部を経由して、映像表示装置102Bへ送る。
メニュー制御部116Bは、例えば、BD−JというJavaコマンドを処理するBD−Jエンジン、又は、ストリーム中にIGとして記載されたHDMVコマンドを処理するHDMVコマンドインタープリタにより実現される。
[2−2.フラグ及び状態]
以下、各フラグ及び状態の詳細を説明する。Graphics_Menu_On_Flag(GMOF)は、HDR映像の再生時に、メニューグラフィックスを重畳して表示しているかどうかを示すフラグである。このGMOFは、BD−J又はHDMVのコマンドで設定される。メニューグラフィックス表示されていても、メニューグラフィックスが透明な場合、メニューグラフィックスの表示領域が狭い場合、又は、メニューグラフィックスの輝度が十分低い場合などの、メニューグラフィックスがダイナミックトーンマップの影響を受けない場合には、GMOFはOFFに設定される。
GMOF=OFFは、HDR映像の再生時に、メニューグラフィックスが重畳されていないか、ダイナミックトーンマップによる影響を考慮しないでよい範囲のメニューグラフィックスが表示されていることを示す。
GMOF=ONは、HDR映像の再生時に、ダイナミックトーンマップにより影響を受ける可能性があるメニューグラフィックスが重畳されていることを示す。つまり、GMOF=ONは、映像再生装置又は映像表示装置でのなんらかの処理により、メニューグラフィックスへのダイナミックトーンマップの影響を低減することをコンテンツ製作者は意図していることを示す。
Maximum_Luminance_Level_of_Graphics_Menu(MaxLLGM)は、メニューグラフィックスの最大輝度を示す。MaxLLGMは、GMOFのパラメータとして設定される。よって、GMOFがOFFの場合は、MaxLLGMは設定されない。
MaxLLGM=0は、メニューグラフィックスの最大輝度が不明である、又はメニューグラフィックスが透明であることを示す。
MaxLLGM=1〜最大値により、メニューグラフィックスの最大輝度が示される。なお、最大値は任意に定義される。例えば、最大値が、通常使用されるマスタリングモニタの最大輝度である1000nitの場合において、MaxLLGMが8ビットであれば、メニューグラフィックスの最大輝度が約4nit単位で示される。また、MaxLLGMが10ビットであれば、メニューグラフィックスの最大輝度が約1nit単位で示される。
Maximum_TV_Luminance_Level(MAXTVLL)は、映像表示装置が表示可能な最大輝度を示す。映像再生装置101Bは、MAXTVLLを、例えば、映像表示装置102BからEDIDとして取得する。または、ユーザが映像再生装置101Bの初期設定としてMAXTVLLを設定してもよい。
MAXTVLLは、具体的な輝度を数値で示してもよいし、映像表示装置の最大輝度が属する輝度範囲を示してもよい。つまり、MAXTVLLに、以下に示す複数のフォーマットいずれかを用いることができる。
MAXTVLL=0は、映像表示装置の最大輝度が不明であることを示す。MAXTVLL=1〜最大値により、映像再生装置の最大輝度の具体的な数値が示される。この場合、例えば、MAXLLGと同様に、最大輝度とビット数で、単位が決まる。例えば、最大値が1000nitであり、8ビットで表現する場合には、映像再生装置の最大輝度が4nit単位で示される。
または、MAXTVLLは、輝度範囲を示す。この場合、例えば、MAXTVLLは、輝度範囲の中心値を現す。例えば、1000nitが最大値の場合、MAXTVLLは、1000nit、500nit、及び200nitのいずれかを示す。MAXTVLLで1000nitが示される場合、映像表示装置の最大輝度が700nit以上であることを示す。MAXTVLLで500nitが示される場合、映像表示装置の最大輝度が300nitから800nitまでの輝度範囲に含まれることを示す。MAXTVLLで200nitが示される場合、映像表示装置の最大輝度が400nit以下であることを示す。なお、上記のように輝度範囲がオーバーラップして定義されてもよいし、オーバーラップしないように定義されてもよい。また、MAXTVLLは、中心値等の輝度の数値を示すのではなく、輝度範囲に割り当てられたインデックス等を示してもよい。例えば、MAXTVLL=1により400nit以下の輝度範囲が示され、MAXTVLL=2により、300〜800nitの輝度範囲が示され、MAXTVLL=3により700nit以上の輝度範囲が示される。
TV Processing Authorized Flag(TVPAF)は、映像表示装置での処理を優先するか否かを示すフラグであり、映像表示装置でのメタデータの処理が許可されているかどうかを示す。
このTVPAFは、GMOFのパラメータとして設定される。よって、GMOFがOFFの場合は、TVPAFは設定されない。
TVPAF=OFFは、映像表示装置での処理を認めないことを示す。すなわち、これは、映像再生装置で、ダイナミックメタデータを適切な値に設定することを意味する。
TVPAF=ONは、映像表示装置での処理を優先することを示す。すなわち、映像再生装置は、ダイナミックメタデータ及びスタティックメタデータを変更せず、HDR映像に記録されているままのダイナミックメタデータ及びスタティックメタデータを出力する。
Dynamic Metadata Block Mode Flag (DMBM)は、映像表示装置でダイナミックメタデータの処理を行わなくてよいかどうかを示す。DMBMは、映像再生装置から映像表示装置にメタデータとともに送られるフラグである。
DMBM=OFFは、映像表示装置でダイナミックメタデータを変更可能であることを示す。つまり、この場合、映像表示装置は、GMOF=ONである場合に、ダイナミックメタデータではなく、スタティックメタデータによるトーンマップを行うこと、又は、HDR映像データを解析し、映像表示装置の特性に応じた処理を行うことができる。
DMBM=ONは、映像表示装置では、映像再生装置から送られたダイナミックメタデータに従った処理を行うことが求められることを示す。
図10は、これらの値の組み合わせと映像表示装置でのトーンマップ処理の関係を示す図である。
Mode0は、メニューグラフィックスが重畳されておらず、ダイナミックメタデータに従いダイナミックトーンマップが行われる場合である。Mode1は、メニューグラフィックスが重畳されているが、映像表示装置で、適切なトーンマップを選択する場合である。Mode2は、メニューグラフィックスは重畳されているが、映像再生装置で、ダイナミックトーンマップの影響を受けないと判断し、映像表示装置では、ダイナミックメタデータに従ったダイナミックトーンマップを行う場合である。Mode3は、映像再生装置でメニューグラフィックスがダイナミックトーンマップの影響を受けると判断し、映像表示装置に送るダイナミックメタデータをスタティックメタデータ相当に設定することで、トーンマップを固定し、スタティックトーンマップが行われる場合である。
まず、Java API(アプリケーションプログラミングインタフェース)又はHDMV IGが呼び出された場合において、Mode1では、スタジオ(コンテンツ製作者)は映像表示装置(例えばTV)による追加処理を認めており、TVPAF=ON(1)に設定される。
映像再生装置は、HDMI VSIF(Vendor Specific InfoFrame)により、GMOF=1(ON)、DMBM)=0(OFF)、MaxLLGMを映像表示装置に送る。この場合、映像表示装置(TV)は、MaxLLGMに影響しないように映像表示装置のトーンマップカーブを変更し、ダイナミックメタデータモード(ダイナミックトーンマップ)を継続してもよい。
Mode2では、スタジオ(コンテンツ製作者)は映像表示装置(例えばTV)による追加処理を認めておらず、TVPAF=OFF(0)に設定される。また、HDR10+のアルゴリズムによりMAXTVLLが十分に高い、又は、MaxLLGMがMAXTVLL比べて十分に低いと判定される。この場合、Mode1と同様の動作が行われる。
Mode3では、TVPAF=OFF(0)であり、かつ、HDR10+アルゴリズムによりMaxLLGMがMAXTVLLより十分に低くないと判定される。
この場合、映像再生装置は、HDMI VSIFにより、GMOF=1(ON)、DMBM=1(ON)、MaxLLGMを映像表示装置に送る。また、VSIF内のダイナミックメタデータは、固定スタティック値に設定される。また、映像再生装置のオプションとして、メタデータの値を少しずつ変化させる機能がある。
[2−3.映像表示装置の構成]
図11は、本実施の形態に係る映像表示装置102Bの構成を示すブロック図である。映像表示装置102Bは、輝度情報保持部131と、映像受信部132と、メタデータ取得部133と、トーンマップ処理部134と、表示部135とを備える。
HDMIなどの映像情報伝送部を通じて、映像再生装置101Bから映像表示装置102Bに映像信号、ダイナミックメタデータ及びスタティックメタデータが入力される。また、映像表示装置102Bは、映像表示装置102Bの能力を等を示す情報を、EDIDとして映像再生装置101Bに送る。
輝度情報保持部131は、画像を表示する場合の最大輝度情報(MAXTVLL)を保持する。映像表示装置102Bは、このMAXTVLLをEDIDを通じて、映像再生装置101Bに送る。このとき同時に、映像表示装置102Bは、映像表示装置102Bが、規定のダイナミックメタデータに対応し、ダイナミックトーンマップ処理が可能なことなどを示す情報も映像再生装置101Bに送る。
映像受信部132は、映像信号、及びメタデータを受信する。映像受信部132は、映像信号をトーンマップ処理部134に送り、メタデータをメタデータ取得部133に送る。メタデータ取得部133は、GMOF、MaxLLGM、及びDMBMなどの情報を含むダイナミックメタデータの種々のパラメータ、並びにスタティックメタデータの種々のパラメータを取得し、取得したパラメータをトーンマップ処理部134に送る。
トーンマップ処理部134は、MAXTVLLと、表示部135の属性と、メタデータ取得部133から送られるメタデータとを用い、入力された映像信号に適切なトーンマップ処理を行い、処理後の映像信号を表示部135へ出力する。表示部135は、処理後の映像信号に基づく映像を表示する。
[2−4.メタデータ処理部の構成]
図12は、本実施の形態に係る映像再生装置101Bが備えるメタデータ処理部122の構成を示すブロック図である。このメタデータ処理部122は、ダイナミックメタデータ保持部141と、スタティックメタデータ保持部142と、メタデータ演算部143と、メタデータ判断部144と、切替部SW1とを備える。
ダイナミックメタデータ保持部141は、ダイナミックメタデータ抽出部120からのダイナミックメタデータを、必要なタイミングで保持すると同時に、切替部SW1の端子Aに送る。
スタティックメタデータ保持部142は、スタティックメタデータ抽出部117からのスタティックメタデータを、ダイナミックメタデータ保持部141と同じタイミングで保持すると同時に、映像情報出力部119へ送る。このスタティックメタデータは映像表示装置102Bへ送られる。
メタデータ演算部143は、ダイナミックメタデータ保持部141で保持されているダイナミックメタデータと、スタティックメタデータ保持部142で保持されているスタティックメタデータとを、メタデータ判断部144からの情報に基づき、処理することで、ダイナミックメタデータの形式の情報を生成し、生成されたダイナミックメタデータを切替部SW1の端子Bへ送る。
メタデータ判断部144は、メニュー制御部116Bからのメニューグラフィックス状態情報(GMOF、TVPAF、及びMaxLLGMなど)と映像表示装置102BからのEDID(対応映像方式の情報、及びMAXTVLLなど)とを受け取り、これらの情報に基づき、出力するダイナミックメタデータとしてダイナミックメタデータ抽出部120からのダイナミックメタデータを選択(切替部SW1で端子Aを選択)するか、メタデータ演算部143で演算したダイナミックメタデータを選択(切替部SW1で端子Bを選択)するために切替部SW1を制御する。また、メタデータ判断部144は、メタデータ演算部143に、入力されたメニューグラフィックス状態情報、及びMAXTVLLを送る。また、メタデータ判断部144は、ダイナミックメタデータ保持部141とスタティックメタデータ保持部142で、メタデータの保持を行うかどうかの制御を行う。切替部SW1で選択して出力されたダイナミックメタデータは、映像情報出力部119を経由して、映像表示装置102Bへ送られる。
メタデータ判断部144での判断基準を、図10を用いて説明する。図10において、VSIFに含まれるダイナミックメタデータの値が、「ダイナミック値」である場合は、ダイナミックに変化するダイナミックメタデータが出力される。具体的には、切替部SW1が端子Aに接続される(Case1)。または、切替部SW1が端子Bに接続される。このとき、メタデータ演算部143は、入力されたダイナミックメタデータに何も演算を行わず、入力されたダイナミックメタデータにGMOF、MaxLLGM及びDMBMなどの値を追加した情報を、端子Bに出力する。これにより、GMOF、MaxLLGM及びDMBMを含むダイナミックメタデータが出力される(Case2〜4、6)。
VSIFに含まれるダイナミックメタデータの値が、固定スタティック値(Fixed static value)の場合、切替部SW1が端子Bに接続される。また、メタデータ演算部143は、所定の演算方式により固定の値を示すダイナミックメタデータを演算し、得られたダイナミックメタデータに、GMOF、MaxLLGM、及びDMBMなどの値を追加し、追加後のダイナミックメタデータを出力する。
Case3では、MaxLLGMが記録媒体又はHDRデータ内に、JAVA(登録商標)又はHDMVのコマンドとして記載されていない。この場合、メニュー制御部116Bは、表示されるメニューグラフィックスからMaxLLGMを生成する。
Case6とCase7では、メタデータ処理部122は、MaxLLGMとMAXTVLLを比較する。メタデータ処理部122は、MaxLLGMがMAXTVLLに対して、十分に高い輝度の場合(MAXTVLLがLow)、ダイナミックメタデータを固定する(Case7)。
[2−5.動作]
まず、映像再生装置101Bの動作を説明する。図13は、本実施の形態に係る映像再生装置101Bに含まれるメタデータ処理部122の動作を示すフローチャートである。
映像再生装置101Bは、ディスク111などに記録されたHDR映像の再生開始する。映像にメニューグラフィックスが重畳表示されるまでは、GMOFはOFFである(S101でOFF)。よって、切替部SW1が端子Aに接続され、メタデータ処理部122は、ダイナミックメタデータ抽出部120で抽出されたダイナミックメタデータをそのまま、映像情報出力部119に出力する(S102)。映像情報出力部119は、このダイナミックメタデータを、HDMIなどを介して、映像表示装置102Bに送る。なお、有効なGMOFが存在しない場合も、GMOFがOFFである場合と同様の動作が行われる。
映像にメニューグラフィックスが重畳表示されると、GMOFがONになる(S101でON)。これにより、切替部SW1は端子Bに接続され、メタデータ処理部122は、メタデータ演算部143から出力されたダイナミックメタデータを映像情報出力部119に出力する。
GMOFがONであり、かつ、TVPAFがONである場合(S103でON)、ダイナミックメタデータ保持部141は、入力されたダイナミックメタデータを保持せず、そのままメタデータ演算部143に出力する。メタデータ演算部143は、入力されたダイナミックメタデータに追加のメタデータ(GMOF、MaxLLGM,DMBM)を追加し、追加後のダイナミックメタデータを出力する(S104)。つまり、メタデータ処理部122は、ダイナミックメタデータ抽出部120で抽出されたダイナミックメタデータをほぼそのまま出力する。
GMOFがONであり、かつ、TVPAFがOFF又は無効の場合(S103でOFF)、メタデータ処理部122は、MaxLLGMがMAXTVLLより十分小さいかを判定する(S105)。MaxLLGMがMAXTVLLより十分小さいとみなされた場合(S105でYes)、TVPAFがOFFである場合と同様に、メタデータ演算部143は、入力されたダイナミックメタデータに追加のメタデータ(GMOF、MaxLLGM,DMBM)を追加し、追加後のダイナミックメタデータを出力する(S104)。つまり、メタデータ処理部122は、ダイナミックメタデータ抽出部120で抽出されたダイナミックメタデータをほぼそのまま出力する。
MaxLLGMがMAXTVLLより十分小さいとみなされない場合、又はMAXTVLL或いはMaxLLGMがない(無効である)場合(S105でNo)、ダイナミックメタデータ保持部141は、入力されたダイナミックメタデータを保持し、スタティックメタデータ保持部142は、入力されたスタティックメタデータを保持する。メタデータ演算部143は、保持されているスタティックメタデータと、保持されているダイナミックメタデータとを用いて、固定されたダイナミックメタデータを生成し、生成したダイナミックメタデータに、追加のメタデータ(GMOF、MaxLLGM,DMBM)を追加し、追加後のダイナミックメタデータを出力する(S106)。映像表示装置102Bが、この固定されたダイナミックメタデータを用いて処理を行うことで、スタティックメタデータを用いた場合と同等な効果を得ることができる。
具体的には、例えば、メタデータ演算部143は、ダイナミックメタデータ保持部141で保持されたダイナミックメタデータを、所定の期間において継続して出力することで、当該期間においてダイナミックメタデータを固定する。なお、この場合、スタティックメタデータは用いられない。
または、メタデータ演算部143は、保持されているダイナミックメタデータと、保持されているスタティックメタデータとを合成し、得られたメタデータをダイナミックメタデータとして継続して出力する。例えば、メタデータ演算部143は、保持されているダイナミックメタデータに示される映像の最大輝度と、保持されているスタティックメタデータで示される映像の最大輝度とに所定の演算(例えば、平均又は重み付け加算等)を行い、得られた最大輝度を示すダイナミックメタデータを継続して出力する。
または、メタデータ演算部143は、スタティックメタデータに相当する値をダイナミックメタデータとして算出してもよい。つまり、メタデータ演算部143は、スタティックメタデータ保持部142で保持されたスタティックメタデータで示される最大輝度を示すダイナミックメタデータを、所定の期間において継続して出力することで、当該期間においてダイナミックメタデータを固定してもよい。このようにメタデータ演算部143は、ダイナミックメタデータ保持部141で保持されたダイナミックメタデータ、及びスタティックメタデータ保持部142で保持されたスタティックメタデータの少なくとも一方を用いて所定の期間において同じ映像の輝度値(固定値)を示すダイナミックメタデータを生成する。
また、メタデータ演算部143は、ダイナミックメタデータを固定値に遷移させる場合に、出力するダイナミックメタデータの値を現在の値から固定値に徐々に変化させてもよい。また、メタデータ演算部143は、出力するダイナミックメタデータの値を固定値からダイナミックメタデータ抽出部120で抽出されたダイナミックメタデータに戻す場合に、出力するダイナミックメタデータの値を固定値から現在の値に徐々に変化させてもよい。これにより、映像表示装置102Bにおけるトーンマップの急激な変化を抑制できる。
なお、徐々に変化するとは、予め定められた期間において、連続的又は段階的に値が変化することを意味する。つまり、ダイナミックメタデータを固定値に遷移させる場合では、上記期間において、現在の値と固定値との間の1以上の値を経て、現在の値から固定値に値が変更される。また、予め定められた期間とは、例えば、複数フレームが表示される期間である。
MaxLLGMがMAXTVLLより十分小さいとみなす条件とは、例えば、MaxLLGMがMAXTVLLの50%より小さいなどの条件である。つまり、この条件は、MAXTVLLに対するMaxLLGMの割合(MaxLLGM/MAXTVLL)が予め定められた割合(例えば0.5)より小さいことである。
この割合を小さくすると、メニューグラフィックスがHDR映像に重畳されたときに、ダイナミックメタデータによる影響を少なくできるが、トーンマップが固定になりやすくなるため、高品位なHDR映像とならない場合が増えることになる。よって、メニューグラフィックスの輝度を落とすことにより、ダイナミックトーンマップのメニューグラフィックスへの影響を少なくし、できるだけダイナミックなトーンマップが用いられるようにすることで、高品位なHDR映像の表示を実現できる。ただし、メニューグラフィックスの作成に対する制限が大きくなることから、適切な値とする必要がある。
これらの一連の処理が、映像の再生が終了するまで繰り返し行われる(S107)。例えば、この処理は、1フレーム単位又は複数フレーム単位で繰り返し行われる。
次に、映像表示装置102Bの動作を説明する。図14は、本実施の形態に係る映像表示装置102Bに含まれるトーンマップ処理部134の動作を示すフローチャートである。
映像表示が開始されると、映像受信部132は、映像信号及びメタデータを受信する。映像信号とメタデータとは分離され、それぞれトーンマップ処理部134に送られる。
(1)メタデータが、スタティックメタデータを含み、ダイナミックメタデータを含まない場合、(2)ダイナミックメタデータが存在し、GMOFがOFF、又はGMOFが存在しない場合、トーンマップ処理部134は、メタデータに従ったトーンマップを実行する(S112)。そしてトーンマップ後の映像信号が表示部135へ送られ、表示部135は、当該映像信号に基づくHDR映像を表示する。
具体的には、メタデータが、スタティックメタデータを含み、ダイナミックメタデータを含まない場合、トーンマップ処理部134は、スタティックメタデータに従ったスタティックなトーンマップ、又は映像信号を解析した結果を用いたトーンマップを行う。
また、メタデータにダイナミックメタデータが存在する場合、トーンマップ処理部134は、ダイナミックメタデータに従ったダイナミックトーンマップを行う。この場合にも、トーンマップ処理部134は、映像信号を解析した結果を用いてもよい。
GMOFがONであり、かつ、DMBMがONである又は定義されていない場合(S111でON、かつS113でON)、トーンマップ処理部134は、ダイナミックメタデータに従ったダイナミックトーンマップを行う(S114)。この場合にも、トーンマップ処理部134は、映像信号を解析した結果を用いてもよい。
GMOFがONであり、かつ、DMBMがOFFであり(S111でON、かつS113でON)、トーンマップ処理部134は、ダイナミックメタデータに含まれるMaxLLGMと、MAXTVLLとを比較する(S115)。MaxLLGMがMAXTVLLより十分に小さいとみなされる場合(S115でYes)、トーンマップ処理部134は、ダイナミックメタデータに従ったダイナミックトーンマップを行う(S114)。なお、MaxLLGMがMAXTVLLより十分に小さいとみなす条件は、例えば、上述したステップS105と同様である。また、トーンマップ処理部134は、この判定に、MAXTVLL以外のパラメータを用いてもよい。
MaxLLGMがMAXTVLLより十分小さいとみなされない場合、又はMaxLLGMが送られてきていない場合(S115でNo)、トーンマップ処理部134は、スタティックメタデータに従ったトーンマップを行う(S116)。なお、MaxLLGMが送られてきている場合は、トーンマップ処理部134は、MaxLLGM以上の輝度に対してはダイナミックメタデータに従ったダイナミックトーンマップを行い、MaxLLGM未満の輝度に対してはスタティックメタデータに従ったスタティックトーンマップを行ってもよい。
これらの一連の処理が、映像の表示が終了するまで繰り返し行われる(S117)。例えば、この処理は、1フレーム単位又は複数フレーム単位で繰り返し行われる。
以上のように、トーンマップ処理部134は、所定期間に含まれる複数の時間区間の各々における映像の最大輝度を示すダイナミックメタデータを用いて、各時間区間の映像の輝度を、当該時間区間の映像の最大輝度に応じた変換カーブを用いて変換するトーンマップ処理(ダイナミックトーンマップ処理)を行う。表示部135は、トーンマップ処理後の映像を表示する。メタデータ処理部122は、前記所定期間における映像の最大輝度を示すスタティックメタデータを用いて、複数の時間区間で同一の前記最大輝度を示す第1ダイナミックメタデータを生成する。映像表示システム100Bは、(i)メタデータ処理部122が、スタティックメタデータを用いて第1ダイナミックメタデータを生成し(S106)、(ii)トーンマップ処理部134が、第1ダイナミックメタデータを用いてトーンマップ処理を行う(S114)第1動作と、トーンマップ処理部134が、複数の時間区間で最大輝度が変化する第2ダイナミックメタデータを用いてトーンマップ処理を行う(S112)第2動作とを切り替える。
これにより、トーンマップ処理部における動作を変更することなく、ダイナミックトーンマップを行うか、トーンマップを固定するかを切り替えることができる。つまり、トーンマップ処理部の構成を変更することなく、トーンマップを固定する機能を実現できる。また、トーンマップ処理部は、映像表示装置に含まれる可能性がある。よって、映像表示装置に変更を加えることなく、又は、変更を低減しつつ、映像再生装置に対する変更のみで上記の機能を実現できる。また、映像表示装置における処理により画質が劣化することを抑制できる。このように、本実施の形態の手法により、表示する映像の質を向上できる。
また、映像表示システム100Bは、さらに、主映像にグラフィックスを合成することで前記映像を生成する映像合成部118を備える。主映像にグラフィックスが合成された場合(S101でON、かつS111でON)、前記第1動作が行われる。(S106かつS114)、主映像にグラフィックスが合成されていない場合、第2動作、又は、スタティックメタデータを用いて前記トーンマップ処理を行う第3動作が行われる(S112)。これにより、グラフィックスの輝度の変化を抑制できる。
また、主映像にグラフィックスが合成され(S101でON)、かつ、表示部135が表示可能な最大輝度(MAXTVLL)に対するグラフィックスの最大輝度(MaxLLGM)の割合が予め定められた値より高い場合(S105でNo)、第1動作が行われる(S106かつS114)。主映像にグラフィックスが合成され(S101でON)、かつ、前記割合が予め定められた値より低い場合(S105でYes)、第2動作が行われる(S104かつS114)。
これによれば、グラフィックスの輝度の変化が発生する可能性が高い場合には、トーンマップを固定し、グラフィックスの輝度の変化が発生する可能性が低い場合には、ダイナミックトーンマップを継続できる。これにより、グラフィックスの輝度の変化を抑制しつつ、適切にダイナミックトーンマップを行うことができる。
また、主映像にグラフィックスが合成され(S101でON)、かつ、前記割合が予め定められた値より高い場合(S105でNo、又はS115でNo)に、映像に付随している情報(例えばTVPAF)に基づき第1動作(S106かつS114)又は第3動作(S116)が行われる。
これによれば、コンテンツ作成者がトーンマップ処理部(例えば映像表示装置)においてトーンマップ処理を変更することを許可するか否かを設定できる。
また、メタデータ処理部122は、スタティックメタデータで示される映像の最大輝度と、第2ダイナミックメタデータで示される、第1動作が開始された時間区間における映像の最大輝度とを演算することで、第1ダイナミックメタデータで示される前記同一の最大輝度を演算する。これにより、第2ダイナミックメタデータとスタティックメタデータとを加味した第1ダイナミックメタデータを作成できる。
また、第2動作から第1動作への切り替え時において、メタデータ処理部122は、第1ダイナミックメタデータで示される最大輝度を、第2ダイナミックメタデータ示される最大輝度から前記同一の最大輝度に、複数フレームにおいて連続的又は段階的に変更する。これにより、動作の切り替え時において、トーンマップを滑らかに変更できる。
また、映像表示装置102Bは、所定期間に含まれる複数の時間区間の各々における映像の最大輝度を示すダイナミックメタデータを用いて、各時間区間の映像の輝度を、当該時間区間の前記映像の前記最大輝度に応じた変換カーブを用いて変換するトーンマップ処理を行うトーンマップ処理部134と、トーンマップ処理後の映像を表示する表示部135とを備える。トーンマップ処理部134は、所定期間における映像の最大輝度を示すスタティックメタデータを用いて生成された、複数の時間区間で同一の前記最大輝度を示す第1ダイナミックメタデータを用いてトーンマップ処理を行う第1動作(S114)と、複数の時間区間で最大輝度が変化する第2ダイナミックメタデータを用いてトーンマップ処理を行う第2動作(S112)とを切り替える。
これにより、トーンマップ処理部における動作を変更することなく、ダイナミックトーンマップを行うか、トーンマップを固定するかを切り替えることができる。つまり、トーンマップ処理部の構成を変更することなく、トーンマップを固定する機能を実現できる。また、映像表示装置における処理により画質が劣化することを抑制できる。このように、本実施の形態の手法により、表示する映像の質を向上できる。
また、トーンマップ処理部134は、映像にグラフィックスが含まれる場合(S111でON)、第1動作を行い(S114)、映像に前記グラフィックスが含まれない場合(S111でOFF)、第2動作、又は、スタティックメタデータを用いてトーンマップ処理を行う第3動作を行う(S112)。
また、トーンマップ処理部134は、映像にグラフィックスが含まれる場合(S111でON)、トーンマップ処理部134が、ダイナミックメタデータを用いた第1トーンマップ処理と、スタティックメタデータを用いた第2トーンマップ処理とのうち、第1トーンマップ処理を行うことを強制することを示すフラグ(DMBM)により、第1トーンマップ処理を行うことが強制されている場合(S113でON)、第1トーンマップ処理を行い、フラグ(DMBM)により、第1トーンマップ処理を行うことが強制されていない場合(S113でOFF)、第1トーンマップ処理(S114)又は第2トーンマップ処理(S116)を行う。第1動作が行われる場合(S106かつS114)には、フラグ(DMBM)により第1トーンマップ処理を行うことが強制される。
これにより、映像再生装置において強制的に第1ダイナミックメタデータを用いた処理を行うようにできるので、確実に第1ダイナミックメタデータを用いてトーンマップを固定する処理を実現できる。
また、トーンマップ処理部134は、映像にグラフィックスが含まれ、かつ、フラグ(DMBM)により、第1トーンマップ処理を行うことが強制されていない場合(S111でONかつS113でOFF)において、表示部135が表示可能な最大輝度(MAXTVLL)に対するグラフィックスの最大輝度(MaxLLGM)の割合が予め定められた値より高い場合(S115でNo)、第2トーンマップ処理を行い(S116)、前記割合が予め定められた値より低い場合(S115でYes)、第1トーンマップ処理を行う(S114)。
これによれば、グラフィックスの輝度の変化が発生する可能性が高い場合には、トーンマップを固定し、グラフィックスの輝度の変化が発生する可能性が低い場合には、ダイナミックトーンマップを継続できる。これにより、グラフィックスの輝度の変化を抑制しつつ、適切にダイナミックトーンマップを行うことができる。
[3.変形例]
映像再生装置が再生するHDR映像は、例えばBlu−rayディスク、DVD、Internetの動画配信サイト、放送、又はHDD(Hard Disk Drive)内の映像であってもよい。
上記映像再生装置は、ディスクプレイヤー、ディスクレコーダ、セットトップボックス、テレビ、パーソナルコンピュータ、又はスマートフォンなど、記録媒体、放送又はインターネットからの圧縮された映像信号を復号し、映像表示装置に送る装置でもよい。また、映像再生装置101Bの機能の一部又は全てが、映像表示装置102Bに含まれてもよい。例えば、映像再生装置101Bに含まれる処理部のうち、ディスク111及びBD−ROM駆動部112以外の処理部が映像表示装置102Bに含まれてもよい。また、映像表示装置102Bに含まれる映像受信部132、メタデータ取得部133及びトーンマップ処理部134が映像再生装置101Bに含まれてもよい。また、トーンマップ処理部134に含まれる機能のうち一部の機能が映像再生装置101Bに含まれてもよい。
映像再生装置からの映像信号を映像表示装置に伝送する映像信号伝送手段は、HDMI、DVI、又はDPなどの映像信号を非圧縮の状態で伝送する手段であってもよいし、ネットワークを通じた伝送のように映像信号を圧縮した形式で伝送する手段であってもよい。
映像表示装置の最大輝度情報又はトーンマップ情報の映像再生装置への設定は、利用者が映像再生装置にリモートコントローラなどを用いて入力することで行われてもよいし、利用者が映像再生装置が備える操作装置を用いて入力することで行われてもよい。または、利用者は、インターネット又はその他の手段を用いて、これらの情報を取得し、取得した情報をポータブル記憶媒体に保存し、ポータブル記憶媒体を介して、これらの情報を映像再生装置に送ってもよい。また、映像再生装置が直接、インターネットに接続され、映像再生装置は、サーバのデータベースから、これらの情報を取得してもよい。さらに、映像再生装置は、映像表示装置にテストパターンを表示し、表示されたテストパターンを用いて映像表示装置の特性を確認しながら、これらの情報を取得及び記憶してもよい。
映像再生装置は、グラフィックス(字幕又はメニュー)の輝度をそのデータから検出することでグラフィックス輝度情報(MaxLLGM)を生成してもよいし、映像データ作成時に予め作成されたグラフィックスの輝度を取得してもよい。例えば、グラフィックスの輝度は、ディスクに記録されていてもよいし、メタデータとして放送又はInternetで送付されてもよい。映像再生装置は、グラフィックスの輝度を読み取り、ダイナミックメタデータの一部として映像表示装置に送る。あるいは、Internetに接続されたサーバのデータベースに、再生するコンテンツに対する情報として、グラフィックス(字幕又はメニュー)の輝度情報が記録されており、映像再生装置は、当該データベースからグラフィックスの輝度情報(MaxLLGM)を取得し、取得した輝度情報を映像表示装置に送ってもよい。
MaxLLGMとMAXTVLLとの比較に用いる上記割合(例えば50%)が、表示する映像信号の特徴に応じて決定され、ディスクに格納されていてもよい。または、映像表示装置の特徴に応じて上記割合が決定されてもよい。また、この割合は、インターネット上のデータベースより取得されてもよい。
以上、本開示の実施の形態に係る映像表示システムについて説明したが、本開示は、この実施の形態に限定されるものではない。
また、上記実施の形態に係る映像表示システムに含まれる各処理部は典型的には集積回路であるLSIとして実現される。これらは個別に1チップ化されてもよいし、一部又は全てを含むように1チップ化されてもよい。
また、集積回路化はLSIに限るものではなく、専用回路又は汎用プロセッサで実現してもよい。LSI製造後にプログラムすることが可能なFPGA(Field Programmable Gate Array)、又はLSI内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。
また、上記各実施の形態において、各構成要素は、専用のハードウェアで構成されるか、各構成要素に適したソフトウェアプログラムを実行することによって実現されてもよい。各構成要素は、CPUまたはプロセッサなどのプログラム実行部が、ハードディスクまたは半導体メモリなどの記録媒体に記録されたソフトウェアプログラムを読み出して実行することによって実現されてもよい。
また、本開示は、映像表示システムにより実行される各種方法として実現されてもよい。
また、ブロック図における機能ブロックの分割は一例であり、複数の機能ブロックを一つの機能ブロックとして実現したり、一つの機能ブロックを複数に分割したり、一部の機能を他の機能ブロックに移してもよい。また、類似する機能を有する複数の機能ブロックの機能を単一のハードウェア又はソフトウェアが並列又は時分割に処理してもよい。
また、フローチャートにおける各ステップが実行される順序は、本開示を具体的に説明するために例示するためのものであり、上記以外の順序であってもよい。また、上記ステップの一部が、他のステップと同時(並列)に実行されてもよい。
以上、一つまたは複数の態様に係る映像表示システムについて、実施の形態に基づいて説明したが、本開示は、この実施の形態に限定されるものではない。本開示の趣旨を逸脱しない限り、当業者が思いつく各種変形を本実施の形態に施したものや、異なる実施の形態における構成要素を組み合わせて構築される形態も、一つまたは複数の態様の範囲内に含まれてもよい。
本開示は、映像表示システム、映像再生装置又は映像表示装置に適用できる。
100、100A、100B 映像表示システム
101、101A、101B 映像再生装置
102、102A、102B 映像表示装置
111 ディスク
112 BD−ROM駆動部
113 デマルチプレクサ
114 PGデコーダ
115 映像デコーダ
116、116B メニュー制御部
117 スタティックメタデータ抽出部
118 映像合成部
119 映像情報出力部
120 ダイナミックメタデータ抽出部
121 メタデータ切替部
122 メタデータ処理部
131 輝度情報保持部
132 映像受信部
133 メタデータ取得部
134 トーンマップ処理部
135 表示部
141 ダイナミックメタデータ保持部
142 スタティックメタデータ保持部
143 メタデータ演算部
144 メタデータ判断部
本開示は、映像を表示する映像表示装置及び映像表示方法に関する。
特許文献1には、HDR(High Dynamic Range)映像において、画像上にグラフィックスをマップするための方法及びシステムについて記載されている。
特許第6104411号明細書
White Paper Blu-ray Disc Read-Only Format (Ultra HD Blu-ray), Audio Visual Application Format Specifications for BD-ROM Version 3.1, August 2016, http://www.blu-raydisc.com/Assets/Downloadablefile/BD-ROM_Part3_V3.1_WhitePaper_160729_clean.pdf
本開示は、表示する映像の質を向上できる映像表示装置又は映像表示方法を提供する。
本開示の一態様に係る映像表示装置は、所定期間に含まれる複数の時間区間の各々における映像の最大輝度を示すダイナミックメタデータを用いて、各時間区間の前記映像の輝度を、当該時間区間の前記映像の前記最大輝度に応じた変換カーブを用いて変換するトーンマップ処理を行うトーンマップ処理部と、前記トーンマップ処理後の映像を表示する表示部とを備え、前記トーンマップ処理部は、前記所定期間における前記映像の最大輝度を示すスタティックメタデータを用いて生成された、前記複数の時間区間で同一の前記最大輝度を示す第1ダイナミックメタデータを用いて前記トーンマップ処理を行う第1動作と、前記複数の時間区間で前記最大輝度が変化する第2ダイナミックメタデータを用いて前記トーンマップ処理を行う第2動作とを切り替える。
本開示は、表示する映像の質を向上できる映像表示装置又は映像表示方法を提供できる。
図1は、映像技術の進化について説明するための図である。 図2は、コンテンツに新たな映像表現を導入するときの、映像制作、配信方式、及び表示装置の関係について説明するための図である。 図3Aは、トーンマップの一例を示す図である。 図3Bは、トーンマップの一例を示す図である。 図4Aは、スタティックトーンマップの一例を示す図である。 図4Bは、ダイナミックトーンマップの一例を示す図である。 図5は、動画にグラフィックスを重畳して表示する例を示す図である。 図6は、従来の映像表示システムの構成を示す図である。 図7は、従来の映像表示システムの構成を示す図である。 図8は、主映像にグラフィックスが重畳されたときのダイナミックトーンマップの影響を示す図である。 図9は、実施の形態に係る映像表示システムの構成を示す図である。 図10は、実施の形態に係る、各種フラグと映像表示装置の動作との関係を示す図である。 図11は、実施の形態に係る映像表示装置の構成を示す図である。 図12は、実施の形態に係るメタデータ処理部の構成を示す図である。 図13は、実施の形態に係る映像再生装置の動作を示すフローチャートである。 図14は、実施の形態に係る映像表示装置の動作を示すフローチャートである。
[1−1.背景]
まず、映像技術の変遷について、図1を用いて説明する。図1は、映像技術の進化について説明するための図である。
これまで、映像の高画質化としては、表示画素数の拡大に主眼がおかれ、Standard Definition(SD)の720×480画素から、High Definition(HD)の1920×1080画素の映像が普及している。
近年、更なる高画質化を目指して、Ultra High Definition(UHD)の3840×1920画素、あるいは、4Kの4096×2048画素の、所謂4K映像の導入が開始された。
4Kの導入と共に、ダイナミックレンジ拡張、色域拡大、又は、フレームレートの追加或いは向上なども検討されている。
その中でも、ダイナミックレンジについては、暗部階調を維持しつつ、現行のテレビ信号で表現不能な鏡面反射光などの明るい光を、より現実に近い明るさで表現するための方式として、HDR(High Dynamic Range)が注目されている。具体的には、これまでのテレビ信号は、SDR(Standard Dynamic Range)と呼ばれ、最高輝度が100nitであった。これに対して、HDRでは1000nit以上まで最高輝度を拡大することが想定されている。HDRは、SMPTE(Society of Motion Picture & Television Engineers)、及びITU−R(International Telecommunications Union Radiocommunications Sector)などにおいて、マスタリングディスプレー用規格の標準化が進行中である。
HDRの具体的な適用先としては、HD及びUHDと同様に、放送、パッケージメディア(Blu−ray(登録商標) Disc等)、及びインターネット配信などが想定されている。
[1−2.マスター生成、配信方式、及び表示装置の関係]
図2は、コンテンツに新たな映像表現を導入するときの、映像制作、配信方式、及び表示装置の関係について説明するための図である。
映像の高画質化のために新たな映像表現(画素数の増加等)を導入する場合には、図2に示すように、(1)映像制作側のHome Entertainment向けマスターを変更する必要がある。それに応じて、(2)放送、通信、及びパッケージメディア等の配信方式も、(3)その映像を表示するテレビ、又はプロジェクター等の表示装置も更新する必要がある。
[1−3.トーンマップ]
トーンマップ(Tone Mapping)は、HDR映像の輝度と映像表示装置の最大輝度(Display Peak Luminance:DPL)との関係から、映像の最大輝度(Maximum Content Luminance Level:MaxCLL)がDPLを超える場合に、映像の輝度を変換し、映像の輝度をDPL以内に収める処理である。この処理により、映像の最大輝度付近の情報を失うことなく映像を表示できる。この変換は、映像表示装置の特性にも依存し、どのように表示するかの考え方にも依存するので、映像表示装置毎に異なった変換カーブが用いられる。
図3A及び図3Bは、トーンマップの一例を示す図である。図3Aは、DPLが500nitの場合を示し、図3Bは、DPLが1000nitの場合を示す。また、図3A及び図3Bは、MaxCLLが1000nitの映像を表示した場合のトーンマップと、MaxCLLが4000nitの映像を表示した場合のトーンマップとの例である。
図3Aに示すように、DPLが500nitの場合、どちらの映像も500nit以下でMaxCLLまでを表示できるように、輝度が変換されるが、MaxCLLが高い映像のほうが変換の度合いは大きくなる。
図3Bに示すように、DPLが1000nitの場合、MaxCLLが1000nitの映像では、トーンマップが行われない。MaxCLLが4000nitの映像では、トーンマップが行われ、4000nitの輝度が1000nitに変換されて表示される。
[1−4.ダイナミックメタデータとダイナミックトーンマップ]
図4Aは、スタティックメタデータを用いたトーンマップの例を示す図である。図4Bは、ダイナミックメタデータを用いたダイナミックトーンマップの例を示す図である。
図4Aに示すように、スタティックメタデータ(MaxCLL)が用いられる場合、MaxCLLは一連の映像内で最も高い輝度を示すため、映像表示装置は、一連の映像に対して、固定的なトーンマップしか行えない。これに対して、映像表示装置は、図4Bの(a)に示すように、時間変化する輝度に合わせたメタデータ(ここではDynamic MaxCLLと称す)を用いることで、輝度が低い場合は、トーンマップを行わず(図4Bの(b))、輝度が高い場合はトーンマップを行う(図4Bの(c))というように、時間変化する輝度に合わせた最適なトーンマップを実現できる。
[1−5.映像とグラフィックスとの合成]
図5は、動画にメニュー及び字幕などのグラフィックスを重畳して、映像表示装置で表示する例を示す図である。ここでは、Ultra HD Blu−rayの例を示す。
グラフィックスを重畳する前の動画を主映像と表現する。Ultra HD Blu−rayではグラフィックスは、HD解像度で準備される。映像再生装置は、HDのグラフィックスに対してHD−UHD変換を行うことでUHDのグラフィックスを生成する。そして、映像再生装置は、得られたUHDのグラフィックスと、UHD解像度の主映像とを合成する。そして、映像再生装置は、合成後の映像を、HDMI(登録商標)(High−Definition Multimedia Interface)を通じて映像表示装置に送る。映像表示装置は、送られてきた映像をHDRとして表示する。
また、映像再生装置は、ダイナミックメタデータを、主映像の輝度の時間変化に基づいて決定し、HDMIを通じて、映像表示装置に送る。映像表示装置は、送られてきたダイナミックメタデータに基づき、主映像に字幕及びメニューが重畳された映像信号に対して、ダイナミックトーンマップを施す。
この状況は、放送又は通信によるOTT(Over The Top)サービスでのHDR映像を表示する場合でも、主映像にメニュー又は字幕が重畳され、得られた映像が映像表示装置で表示される場合は同様である。
[1−6.従来の映像再生装置]
従来のHDR対応の映像再生装置の構成について説明する。まず、スタティックメタデータのみに対応している映像再生装置(HDR10、BDAで定めるマンダトリHDRの場合)について説明する。
図6は、従来の映像表示システム100の構成を示す図である。この映像表示システム100は、映像再生装置101と、映像表示装置102とを含む。映像再生装置101は、HDR対応の映像再生装置であり、ディスク111と、BD−ROM駆動部112と、デマルチプレクサ113と、PGデコーダ(PG Dec)114と、映像デコーダ(Video Dec)115と、メニュー制御部116と、スタティックメタデータ抽出部117と、映像合成部118と、映像情報出力部119とを備える。
ディスク111は、映像及び必要なその他の情報を記録した記録媒体であり、例えば、BD−ROMメディアである。BD−ROM駆動部112は、ディスク111から情報を読み取る。デマルチプレクサ113は、BD−ROM駆動部112から出力される情報から、字幕情報、映像情報、及び音声情報(図示せず)を抽出する。
PGデコーダ114は、デマルチプレクサ113で抽出された字幕情報から字幕グラフィックスを生成する。映像デコーダ115は、デマルチプレクサ113で抽出された映像情報から映像信号を生成する。
メニュー制御部116は、BD−ROM駆動部112から出力される情報を用いて、メニューグラフィックスの生成及びその制御を行う。スタティックメタデータ抽出部117は、BD−ROM駆動部112から出力される情報からスタティックメタデータを抽出する。
映像合成部118は、メニュー制御部116で生成されたメニューグラフィックス、PGデコーダ114で生成された字幕グラフィックス、及び、映像デコーダ115で生成された映像情報を合成することで映像信号を生成する。映像情報出力部119は、映像合成部118で生成された映像信号、デマルチプレクサ113で抽出された音声信号(図示せず)、及び、スタティックメタデータ抽出部117で抽出されたスタティックメタデータをHDMIなどの伝送部を経由して、映像表示装置102へ送る。
次に、ダイナミックメタデータを持つHDRに対応した映像再生装置の構成を説明する。図7は、ダイナミックメタデータを持つHDRに対応した映像再生装置101Aを含む映像表示システム100Aの構成を示す図である。この映像表示システム100は、映像再生装置101Aと、映像表示装置102Aとを含む。
この映像再生装置101Aは、図6に示す映像再生装置101の構成に加え、ダイナミックメタデータ抽出部120と、メタデータ切替部121とを備える。
ダイナミックメタデータ抽出部120は、映像デコーダ115で生成された映像情報に含まれるダイナミックメタデータを抽出する。メタデータ切替部121は、ダイナミックメタデータ抽出部120で抽出されたダイナミックメタデータと、スタティックメタデータ抽出部117で抽出されたスタティックメタデータとうち、出力するメタデータを切り替える、又は双方を出力するなどの処理を行う。映像情報出力部119は、メタデータ切替部121から出力されたメタデータを映像信号とともに、HDMIなどの伝送部を経由して、映像表示装置102Aへ送る。
なお、ここでは、ダイナミックメタデータが映像情報に含まれるとしたが、ダイナミックメタデータは、別途、ディスク111に記録されており、映像情報に同期して、メタデータ切替部121へ送られてもよい。このような構成により、映像表示装置102で、ダイナミックメタデータに基づくダイナミックトーンマップを実現できる。
なお、Blu−ray、Ultra HD Blu−rayの詳細は、例えば、非特許文献1に記載されている。
[1−7.動画にグラフィックスを重畳した映像データにダイナミックトーンマップを行う場合の課題]
ダイナミックメタデータ方式では、HDR映像の輝度分布などの輝度に関わるメタデータがフレーム毎に指定され、映像信号とともに、そのようなメタデータが、映像表示装置に送られる。映像表示装置は、当該映像表示装置の最大輝度などの表示能力に応じて、送られてきたメタデータを参考にして、輝度を変換するなどの処理を行う。このようなダイナミックメタデータ方式は、映像表示装置の輝度などの表示性能によらずできるだけ一定の品質の映像を表示する方式として、注目されている。
しかしながら、ダイナミックメタデータは、時間的に変化するために、本来一定であるべき映像の表示が、安定しないという問題がある。
表示すべき映像が、同時に編集、又は監修された映像、いわゆる動画だけであるならば、ある程度、映像の状況を考慮した処理が可能である。このような動画を主映像とし、同時に、本来一定であり、まったく変動しない、字幕又はメニューなどのグラフィックスデータが主映像に重畳されて表示されると、ダイナミックメタデータを使用した処理により、一定であるべきグラフィックスの輝度又は色が変化するという悪影響が出てくる。この悪影響は、主映像の輝度が高く、映像表示装置の輝度が低いほど顕著となる。
図8は、主映像にグラフィックスが重畳されたときのダイナミックトーンマップの影響を示す図である。ここで、図8の(a)に示すように、重畳されるグラフィックスの輝度を350nit仮定する。図8の(b)に示すように主映像の輝度が低い区間では、トーンマップが行われず、グラフィックスは本来の輝度である350nitで映像表示装置に表示される。一方、図8の(c)に示すように、主映像の輝度が高い区間では、トーンマップが行われ、グラフィックスの輝度は、350nitより低い輝度で映像表示装置に表示される。このように、本来一定であるべきグラフィックスの輝度が時間的に変動することになり、好ましくない状態となる。ここでは輝度だけの影響としたが、実際の映像表示装置では、色成分も影響を受けるために色も影響を受けることもある。
[1−8.解決方法]
上記課題を避ける手段として、重畳するグラフィックスの位置情報を映像表示装置に送り、グラフィックスが表示されている部分のみ、ダイナミックメタデータを適用しない方法が考えられる。しかし、この方法は、表示画面の全領域において、グラフィックスが表示されているかどうかの情報の伝送が必要であり、映像表示装置での処理も、表示ピクセル単位での判断が必要など、実現はかなり困難である。
また、上記のように、映像表示装置側で正しい処理をするための追加情報を映像再生装置が映像表示装置に送り、映像表示装置側で、グラフィックスが重畳されたHDR映像の表示処理を行う場合、映像表示装置側の実装により、映像の見え方が変わる可能性がある。コンテンツ製作者としては、これは大きな課題と認識されている。このため、常に正しく処理を行えるように、ブルーレイ規格でなどの映像再生装置の動作を定めた規定に従い、映像再生装置側で処理を行い、映像表示装置に送るダイナミックメタデータを加工する。これにより、映像表示装置で適切な映像を表示できる。ただし、映像表示装置側の処理によっては、画質劣化が起こる可能性があるため、映像表示装置側の処理も含めた方式が必要である。
本開示では以下の解決方法を用いる。HDR映像の再生時に、メニューを重畳して表示しているかどうかを示すフラグ(Graphics_Menu_On_Flag:GMOF)を、メニューグラフィックスを表示する時に、必要に応じて設定する。この設定は、ブルーレイディスクの場合、HDMV(High Definition Movie Mode)のコマンド又はBD−J(Blu−ray Disc Java(登録商標))のコマンドで行われる。
HDR映像データなどが記録されたディスク又はHDRデータを再生する場合に、メニューなどのグラフィックスがHDR映像に重畳表示された場合、映像再生装置は、GMOFフラグをONに設定する。また、映像再生装置は、映像再生装置の内部で、トーンマップの処理、又はグラフィックスの変換を行った場合、映像表示装置にGMOFを伝送しない。
映像表示装置でトーンマップの処理を行う場合、映像再生装置は、スタティックメタデータに相当する値をダイナミックメタデータとして映像表示装置に送る。これにより、映像表示装置はトーンマップを固定するので、グラフィックスへの影響を低減できる。
映像再生装置は、ダイナミックメタデータをスタティックメタデータに相当する値に変更するとき、また、スタティックメタデータに相当する値をもとのダイナミックメタデータに戻すときに、スムーズな遷移のため、メタデータの値を少しずつ変化させる。これにより、メタデータが変わることによるトーンマップの変化の違和感を低減できる。
映像再生装置は、ディスク又はHDRデータにメニューグラフィックスの最大輝度(MaxLLGM)が指定されている場合には、当該MaxLLGMを取得する。または、映像再生装置は、MaxLLGMに相当する値をメニューグラフィックスを分析することで生成する。また、映像再生装置は、映像表示装置から表示装置の最大輝度情報(MAXTVLL)を受け取る。そして、映像再生装置は、MaxLLGMとMAXTVLLを比較することで、メニューグラフィックスにダイナミックトーンマップの影響がないかを判断する。映像再生装置は、当該影響がないと判断した場合、GMOFフラグがONであっても、ダイナミックメタデータの変換処理を行わない。これにより、映像表示装置でできる限りダイナミックなトーンマップを実施できるので、よりよい映像表示を実現できる。
GMOFが映像表示装置に送られた場合、映像表示装置は、HDR映像にグラフィックスが重畳されていることを認識できるので、適切なトーンマップ処理を行うことができる。すなわち、映像表示装置は、映像表示装置(例えばTV)の輝度レベル、コンテンツの輝度レベル、及びグラフィックスの輝度レベル(MaxLLGM)に基づき、ダイナミックメタデータに従ったトーンマップをそのまま行うか、トーンマップを固定するか、スタティックメタデータに応じたトーンマップを行うか、輝度レベルに応じてそれらの処理を組み合わせた処理を行うかなどを切り替える。これにより、映像表示装置は適切な処理を行える。
このとき、映像表示装置は、ディスク又はHDRデータで指定されたメニューグラフィックスの最大輝度(MaxLLGM)、又は、映像再生装置内で生成されたMaxLLGMを、トーンマップ処理に用いることで、より適切な処理を行うことが可能となる。
また、GMOFがONの場合に、映像再生装置は、TV側処理優先フラグ(TVPAF)を設定する。TVPAFがONの場合、映像再生装置は、Dynamic Metadata Block Mode Flag (DMBM)をOFFに設定し、DMBMを映像表示装置に送付する。この場合、映像表示装置で、自身の輝度に応じた適切な処理が許可される。
TVPAFがOFFに設定された場合は、映像再生装置は、DMBMをONに設定し、DMBMを映像表示装置に送付する。この場合、映像表示装置は、ダイナミックメタデータに従った処理を行うことが強制される。すなわち、映像表示装置は、映像再生装置側で処理されたダイナミックメタデータに従うことになる。よって、映像再生装置におけるダイナミックメタデータへの対応が明確であれば、ほとんどの映像表示装置で同様な映像が表示される。
以上により、放送、Blu−ray等のパッケージメディア、又はOTT等のインターネット配信により送られてきたHDR映像信号に対して、ダイナミックトーンマップを行う場合において、メニュー及び字幕などのグラフィックスに対するダイナミックトーンマップの影響を低減できる。これにより、安定したグラフィックスの表示と映像表示装置の最大輝度(DPL)と動画の最大輝度に応じたダイナミックトーンマップの効果を得ることができる。
上記により、特に、映像の輝度に比較して低い最大輝度の映像表示装置におけるHDR効果大きくする一方、スタティックトーンマップと同様な品位が高いグラフィックスの表示が実現できる。
さらに、TVなどの映像表示装置の処理によらないスタティックトーンマップ相当のダイナミックメタデータを映像再生装置が映像表示装置に送出することで、コンテンツ製作者の意図をより再現できる。一方、コンテンツ製作者が許可すれば、映像表示装置での処理も選択可能である。よって、グラフィックスの状態に応じた適切な処理の選択により、ダイナミックトーンマップの効果を最大限としつつ、グラフィックスへの影響を抑えることが可能となる。
[2−1.映像表示システムの構成]
図9は、本実施の形態に係る映像表示システム100Bの構成を示す図である。映像表示システム100Bは、映像再生装置101Bと、映像表示装置102Bとを含む。
映像再生装置101Bは、ディスク111と、BD−ROM駆動部112と、デマルチプレクサ113と、PGデコーダ(PG Dec)114と、映像デコーダ(Video Dec)115と、メニュー制御部116Bと、スタティックメタデータ抽出部117と、映像合成部118と、映像情報出力部119と、ダイナミックメタデータ抽出部120と、メタデータ処理部122とを備える。
ディスク111は、映像及び必要なその他の情報を記録した記録媒体であり、例えば、BD−ROMメディアである。BD−ROM駆動部112は、ディスク111から情報を読み取る。デマルチプレクサ113は、BD−ROM駆動部112から出力される情報から、字幕情報、映像情報、及び音声情報(図示せず)を抽出する。
PGデコーダ114は、デマルチプレクサ113で抽出された字幕情報から字幕グラフィックスを生成する。映像デコーダ115は、デマルチプレクサ113で抽出された映像情報から映像信号を生成する。
メニュー制御部116Bは、BD−ROM駆動部112から出力される情報を用いて、メニューグラフィックスの生成及びその制御を行う。また、メニュー制御部116Bは、メニューグラフィックス状態情報(GMOF、TVPAF、MaxLLGM)をメタデータ処理部122に出力する。
スタティックメタデータ抽出部117は、BD−ROM駆動部112から出力される情報からスタティックメタデータを抽出する。スタティックメタデータは、映像の輝度(例えば、最大輝度及び平均輝度)を示す情報を含む。このスタティックメタデータで示される映像の輝度は、所定期間における映像の輝度(固定値)である。
映像合成部118は、メニュー制御部116Bで生成されたメニューグラフィックス、PGデコーダ114で生成された字幕グラフィックス、及び、映像デコーダ115で生成された映像情報を合成することで映像信号を生成する。つまり、映像合成部118は、映像情報にメニューグラフィックス及び字幕グラフィックスを重畳する。
ダイナミックメタデータ抽出部120は、映像デコーダ115で生成された映像情報からダイナミックメタデータを抽出する。なお、ダイナミックメタデータは、別途、ディスク111に記録されており、映像情報に同期して、メタデータ処理部122へ送られてもよい。また、ダイナミックメタデータは、映像の輝度(例えば、最大輝度及び平均輝度)を示す情報を含む。このダイナミックメタデータで示される映像の輝度は、所定期間において時系列に変化する。つまり、ダイナミックメタデータは、スタティックメタデータにおける上記所定期間に含まれる複数の時間区間の各々における映像の最大輝度を示す。
メタデータ処理部122は、ダイナミックメタデータ抽出部120で抽出されたダイナミックメタデータと、スタティックメタデータ抽出部117で抽出されたスタティックメタデータとを、メニュー制御部116Bから出力されたメニューグラフィックス状態情報と、映像表示装置102Bの輝度情報(MAXTVLL)とを用いて処理し、メニューグラフィックスの状態に応じたダイナミックメタデータの変更を行う。また、メタデータ処理部122は、MAXTVLLを、例えば、映像表示装置102BからEDIDとして取得する。
映像情報出力部119は、映像合成部118で生成された映像信号、デマルチプレクサ113で抽出された音声信号(図示せず)、並びに、メタデータ処理部122で処理されたダイナミックメタデータ及びスタティックメタデータをHDMIなどの伝送部を経由して、映像表示装置102Bへ送る。
メニュー制御部116Bは、例えば、BD−JというJavaコマンドを処理するBD−Jエンジン、又は、ストリーム中にIGとして記載されたHDMVコマンドを処理するHDMVコマンドインタープリタにより実現される。
[2−2.フラグ及び状態]
以下、各フラグ及び状態の詳細を説明する。Graphics_Menu_On_Flag(GMOF)は、HDR映像の再生時に、メニューグラフィックスを重畳して表示しているかどうかを示すフラグである。このGMOFは、BD−J又はHDMVのコマンドで設定される。メニューグラフィックス表示されていても、メニューグラフィックスが透明な場合、メニューグラフィックスの表示領域が狭い場合、又は、メニューグラフィックスの輝度が十分低い場合などの、メニューグラフィックスがダイナミックトーンマップの影響を受けない場合には、GMOFはOFFに設定される。
GMOF=OFFは、HDR映像の再生時に、メニューグラフィックスが重畳されていないか、ダイナミックトーンマップによる影響を考慮しないでよい範囲のメニューグラフィックスが表示されていることを示す。
GMOF=ONは、HDR映像の再生時に、ダイナミックトーンマップにより影響を受ける可能性があるメニューグラフィックスが重畳されていることを示す。つまり、GMOF=ONは、映像再生装置又は映像表示装置でのなんらかの処理により、メニューグラフィックスへのダイナミックトーンマップの影響を低減することをコンテンツ製作者は意図していることを示す。
Maximum_Luminance_Level_of_Graphics_Menu(MaxLLGM)は、メニューグラフィックスの最大輝度を示す。MaxLLGMは、GMOFのパラメータとして設定される。よって、GMOFがOFFの場合は、MaxLLGMは設定されない。
MaxLLGM=0は、メニューグラフィックスの最大輝度が不明である、又はメニューグラフィックスが透明であることを示す。
MaxLLGM=1〜最大値により、メニューグラフィックスの最大輝度が示される。なお、最大値は任意に定義される。例えば、最大値が、通常使用されるマスタリングモニタの最大輝度である1000nitの場合において、MaxLLGMが8ビットであれば、メニューグラフィックスの最大輝度が約4nit単位で示される。また、MaxLLGMが10ビットであれば、メニューグラフィックスの最大輝度が約1nit単位で示される。
Maximum_TV_Luminance_Level(MAXTVLL)は、映像表示装置が表示可能な最大輝度を示す。映像再生装置101Bは、MAXTVLLを、例えば、映像表示装置102BからEDIDとして取得する。または、ユーザが映像再生装置101Bの初期設定としてMAXTVLLを設定してもよい。
MAXTVLLは、具体的な輝度を数値で示してもよいし、映像表示装置の最大輝度が属する輝度範囲を示してもよい。つまり、MAXTVLLに、以下に示す複数のフォーマットいずれかを用いることができる。
MAXTVLL=0は、映像表示装置の最大輝度が不明であることを示す。MAXTVLL=1〜最大値により、映像再生装置の最大輝度の具体的な数値が示される。この場合、例えば、MAXLLGと同様に、最大輝度とビット数で、単位が決まる。例えば、最大値が1000nitであり、8ビットで表現する場合には、映像再生装置の最大輝度が4nit単位で示される。
または、MAXTVLLは、輝度範囲を示す。この場合、例えば、MAXTVLLは、輝度範囲の中心値を現す。例えば、1000nitが最大値の場合、MAXTVLLは、1000nit、500nit、及び200nitのいずれかを示す。MAXTVLLで1000nitが示される場合、映像表示装置の最大輝度が700nit以上であることを示す。MAXTVLLで500nitが示される場合、映像表示装置の最大輝度が300nitから800nitまでの輝度範囲に含まれることを示す。MAXTVLLで200nitが示される場合、映像表示装置の最大輝度が400nit以下であることを示す。なお、上記のように輝度範囲がオーバーラップして定義されてもよいし、オーバーラップしないように定義されてもよい。また、MAXTVLLは、中心値等の輝度の数値を示すのではなく、輝度範囲に割り当てられたインデックス等を示してもよい。例えば、MAXTVLL=1により400nit以下の輝度範囲が示され、MAXTVLL=2により、300〜800nitの輝度範囲が示され、MAXTVLL=3により700nit以上の輝度範囲が示される。
TV Processing Authorized Flag(TVPAF)は、映像表示装置での処理を優先するか否かを示すフラグであり、映像表示装置でのメタデータの処理が許可されているかどうかを示す。
このTVPAFは、GMOFのパラメータとして設定される。よって、GMOFがOFFの場合は、TVPAFは設定されない。
TVPAF=OFFは、映像表示装置での処理を認めないことを示す。すなわち、これは、映像再生装置で、ダイナミックメタデータを適切な値に設定することを意味する。
TVPAF=ONは、映像表示装置での処理を優先することを示す。すなわち、映像再生装置は、ダイナミックメタデータ及びスタティックメタデータを変更せず、HDR映像に記録されているままのダイナミックメタデータ及びスタティックメタデータを出力する。
Dynamic Metadata Block Mode Flag (DMBM)は、映像表示装置でダイナミックメタデータの処理を行わなくてよいかどうかを示す。DMBMは、映像再生装置から映像表示装置にメタデータとともに送られるフラグである。
DMBM=OFFは、映像表示装置でダイナミックメタデータを変更可能であることを示す。つまり、この場合、映像表示装置は、GMOF=ONである場合に、ダイナミックメタデータではなく、スタティックメタデータによるトーンマップを行うこと、又は、HDR映像データを解析し、映像表示装置の特性に応じた処理を行うことができる。
DMBM=ONは、映像表示装置では、映像再生装置から送られたダイナミックメタデータに従った処理を行うことが求められることを示す。
図10は、これらの値の組み合わせと映像表示装置でのトーンマップ処理の関係を示す図である。
Mode0は、メニューグラフィックスが重畳されておらず、ダイナミックメタデータに従いダイナミックトーンマップが行われる場合である。Mode1は、メニューグラフィックスが重畳されているが、映像表示装置で、適切なトーンマップを選択する場合である。Mode2は、メニューグラフィックスは重畳されているが、映像再生装置で、ダイナミックトーンマップの影響を受けないと判断し、映像表示装置では、ダイナミックメタデータに従ったダイナミックトーンマップを行う場合である。Mode3は、映像再生装置でメニューグラフィックスがダイナミックトーンマップの影響を受けると判断し、映像表示装置に送るダイナミックメタデータをスタティックメタデータ相当に設定することで、トーンマップを固定し、スタティックトーンマップが行われる場合である。
まず、Java API(アプリケーションプログラミングインタフェース)又はHDMV IGが呼び出された場合において、Mode1では、スタジオ(コンテンツ製作者)は映像表示装置(例えばTV)による追加処理を認めており、TVPAF=ON(1)に設定される。
映像再生装置は、HDMI VSIF(Vendor Specific InfoFrame)により、GMOF=1(ON)、DMBM)=0(OFF)、MaxLLGMを映像表示装置に送る。この場合、映像表示装置(TV)は、MaxLLGMに影響しないように映像表示装置のトーンマップカーブを変更し、ダイナミックメタデータモード(ダイナミックトーンマップ)を継続してもよい。
Mode2では、スタジオ(コンテンツ製作者)は映像表示装置(例えばTV)による追加処理を認めておらず、TVPAF=OFF(0)に設定される。また、HDR10+のアルゴリズムによりMAXTVLLが十分に高い、又は、MaxLLGMがMAXTVLL比べて十分に低いと判定される。この場合、Mode1と同様の動作が行われる。
Mode3では、TVPAF=OFF(0)であり、かつ、HDR10+アルゴリズムによりMaxLLGMがMAXTVLLより十分に低くないと判定される。
この場合、映像再生装置は、HDMI VSIFにより、GMOF=1(ON)、DMBM=1(ON)、MaxLLGMを映像表示装置に送る。また、VSIF内のダイナミックメタデータは、固定スタティック値に設定される。また、映像再生装置のオプションとして、メタデータの値を少しずつ変化させる機能がある。
[2−3.映像表示装置の構成]
図11は、本実施の形態に係る映像表示装置102Bの構成を示すブロック図である。映像表示装置102Bは、輝度情報保持部131と、映像受信部132と、メタデータ取得部133と、トーンマップ処理部134と、表示部135とを備える。
HDMIなどの映像情報伝送部を通じて、映像再生装置101Bから映像表示装置102Bに映像信号、ダイナミックメタデータ及びスタティックメタデータが入力される。また、映像表示装置102Bは、映像表示装置102Bの能力を等を示す情報を、EDIDとして映像再生装置101Bに送る。
輝度情報保持部131は、画像を表示する場合の最大輝度情報(MAXTVLL)を保持する。映像表示装置102Bは、このMAXTVLLをEDIDを通じて、映像再生装置101Bに送る。このとき同時に、映像表示装置102Bは、映像表示装置102Bが、規定のダイナミックメタデータに対応し、ダイナミックトーンマップ処理が可能なことなどを示す情報も映像再生装置101Bに送る。
映像受信部132は、映像信号、及びメタデータを受信する。映像受信部132は、映像信号をトーンマップ処理部134に送り、メタデータをメタデータ取得部133に送る。メタデータ取得部133は、GMOF、MaxLLGM、及びDMBMなどの情報を含むダイナミックメタデータの種々のパラメータ、並びにスタティックメタデータの種々のパラメータを取得し、取得したパラメータをトーンマップ処理部134に送る。
トーンマップ処理部134は、MAXTVLLと、表示部135の属性と、メタデータ取得部133から送られるメタデータとを用い、入力された映像信号に適切なトーンマップ処理を行い、処理後の映像信号を表示部135へ出力する。表示部135は、処理後の映像信号に基づく映像を表示する。
[2−4.メタデータ処理部の構成]
図12は、本実施の形態に係る映像再生装置101Bが備えるメタデータ処理部122の構成を示すブロック図である。このメタデータ処理部122は、ダイナミックメタデータ保持部141と、スタティックメタデータ保持部142と、メタデータ演算部143と、メタデータ判断部144と、切替部SW1とを備える。
ダイナミックメタデータ保持部141は、ダイナミックメタデータ抽出部120からのダイナミックメタデータを、必要なタイミングで保持すると同時に、切替部SW1の端子Aに送る。
スタティックメタデータ保持部142は、スタティックメタデータ抽出部117からのスタティックメタデータを、ダイナミックメタデータ保持部141と同じタイミングで保持すると同時に、映像情報出力部119へ送る。このスタティックメタデータは映像表示装置102Bへ送られる。
メタデータ演算部143は、ダイナミックメタデータ保持部141で保持されているダイナミックメタデータと、スタティックメタデータ保持部142で保持されているスタティックメタデータとを、メタデータ判断部144からの情報に基づき、処理することで、ダイナミックメタデータの形式の情報を生成し、生成されたダイナミックメタデータを切替部SW1の端子Bへ送る。
メタデータ判断部144は、メニュー制御部116Bからのメニューグラフィックス状態情報(GMOF、TVPAF、及びMaxLLGMなど)と映像表示装置102BからのEDID(対応映像方式の情報、及びMAXTVLLなど)とを受け取り、これらの情報に基づき、出力するダイナミックメタデータとしてダイナミックメタデータ抽出部120からのダイナミックメタデータを選択(切替部SW1で端子Aを選択)するか、メタデータ演算部143で演算したダイナミックメタデータを選択(切替部SW1で端子Bを選択)するために切替部SW1を制御する。また、メタデータ判断部144は、メタデータ演算部143に、入力されたメニューグラフィックス状態情報、及びMAXTVLLを送る。また、メタデータ判断部144は、ダイナミックメタデータ保持部141とスタティックメタデータ保持部142で、メタデータの保持を行うかどうかの制御を行う。切替部SW1で選択して出力されたダイナミックメタデータは、映像情報出力部119を経由して、映像表示装置102Bへ送られる。
メタデータ判断部144での判断基準を、図10を用いて説明する。図10において、VSIFに含まれるダイナミックメタデータの値が、「ダイナミック値」である場合は、ダイナミックに変化するダイナミックメタデータが出力される。具体的には、切替部SW1が端子Aに接続される(Case1)。または、切替部SW1が端子Bに接続される。このとき、メタデータ演算部143は、入力されたダイナミックメタデータに何も演算を行わず、入力されたダイナミックメタデータにGMOF、MaxLLGM及びDMBMなどの値を追加した情報を、端子Bに出力する。これにより、GMOF、MaxLLGM及びDMBMを含むダイナミックメタデータが出力される(Case2〜4、6)。
VSIFに含まれるダイナミックメタデータの値が、固定スタティック値(Fixed static value)の場合、切替部SW1が端子Bに接続される。また、メタデータ演算部143は、所定の演算方式により固定の値を示すダイナミックメタデータを演算し、得られたダイナミックメタデータに、GMOF、MaxLLGM、及びDMBMなどの値を追加し、追加後のダイナミックメタデータを出力する。
Case3では、MaxLLGMが記録媒体又はHDRデータ内に、JAVA(登録商標)又はHDMVのコマンドとして記載されていない。この場合、メニュー制御部116Bは、表示されるメニューグラフィックスからMaxLLGMを生成する。
Case6とCase7では、メタデータ処理部122は、MaxLLGMとMAXTVLLを比較する。メタデータ処理部122は、MaxLLGMがMAXTVLLに対して、十分に高い輝度の場合(MAXTVLLがLow)、ダイナミックメタデータを固定する(Case7)。
[2−5.動作]
まず、映像再生装置101Bの動作を説明する。図13は、本実施の形態に係る映像再生装置101Bに含まれるメタデータ処理部122の動作を示すフローチャートである。
映像再生装置101Bは、ディスク111などに記録されたHDR映像の再生開始する。映像にメニューグラフィックスが重畳表示されるまでは、GMOFはOFFである(S101でOFF)。よって、切替部SW1が端子Aに接続され、メタデータ処理部122は、ダイナミックメタデータ抽出部120で抽出されたダイナミックメタデータをそのまま、映像情報出力部119に出力する(S102)。映像情報出力部119は、このダイナミックメタデータを、HDMIなどを介して、映像表示装置102Bに送る。なお、有効なGMOFが存在しない場合も、GMOFがOFFである場合と同様の動作が行われる。
映像にメニューグラフィックスが重畳表示されると、GMOFがONになる(S101でON)。これにより、切替部SW1は端子Bに接続され、メタデータ処理部122は、メタデータ演算部143から出力されたダイナミックメタデータを映像情報出力部119に出力する。
GMOFがONであり、かつ、TVPAFがONである場合(S103でON)、ダイナミックメタデータ保持部141は、入力されたダイナミックメタデータを保持せず、そのままメタデータ演算部143に出力する。メタデータ演算部143は、入力されたダイナミックメタデータに追加のメタデータ(GMOF、MaxLLGM,DMBM)を追加し、追加後のダイナミックメタデータを出力する(S104)。つまり、メタデータ処理部122は、ダイナミックメタデータ抽出部120で抽出されたダイナミックメタデータをほぼそのまま出力する。
GMOFがONであり、かつ、TVPAFがOFF又は無効の場合(S103でOFF)、メタデータ処理部122は、MaxLLGMがMAXTVLLより十分小さいかを判定する(S105)。MaxLLGMがMAXTVLLより十分小さいとみなされた場合(S105でYes)、TVPAFがOFFである場合と同様に、メタデータ演算部143は、入力されたダイナミックメタデータに追加のメタデータ(GMOF、MaxLLGM,DMBM)を追加し、追加後のダイナミックメタデータを出力する(S104)。つまり、メタデータ処理部122は、ダイナミックメタデータ抽出部120で抽出されたダイナミックメタデータをほぼそのまま出力する。
MaxLLGMがMAXTVLLより十分小さいとみなされない場合、又はMAXTVLL或いはMaxLLGMがない(無効である)場合(S105でNo)、ダイナミックメタデータ保持部141は、入力されたダイナミックメタデータを保持し、スタティックメタデータ保持部142は、入力されたスタティックメタデータを保持する。メタデータ演算部143は、保持されているスタティックメタデータと、保持されているダイナミックメタデータとを用いて、固定されたダイナミックメタデータを生成し、生成したダイナミックメタデータに、追加のメタデータ(GMOF、MaxLLGM,DMBM)を追加し、追加後のダイナミックメタデータを出力する(S106)。映像表示装置102Bが、この固定されたダイナミックメタデータを用いて処理を行うことで、スタティックメタデータを用いた場合と同等な効果を得ることができる。
具体的には、例えば、メタデータ演算部143は、ダイナミックメタデータ保持部141で保持されたダイナミックメタデータを、所定の期間において継続して出力することで、当該期間においてダイナミックメタデータを固定する。なお、この場合、スタティックメタデータは用いられない。
または、メタデータ演算部143は、保持されているダイナミックメタデータと、保持されているスタティックメタデータとを合成し、得られたメタデータをダイナミックメタデータとして継続して出力する。例えば、メタデータ演算部143は、保持されているダイナミックメタデータに示される映像の最大輝度と、保持されているスタティックメタデータで示される映像の最大輝度とに所定の演算(例えば、平均又は重み付け加算等)を行い、得られた最大輝度を示すダイナミックメタデータを継続して出力する。
または、メタデータ演算部143は、スタティックメタデータに相当する値をダイナミックメタデータとして算出してもよい。つまり、メタデータ演算部143は、スタティックメタデータ保持部142で保持されたスタティックメタデータで示される最大輝度を示すダイナミックメタデータを、所定の期間において継続して出力することで、当該期間においてダイナミックメタデータを固定してもよい。このようにメタデータ演算部143は、ダイナミックメタデータ保持部141で保持されたダイナミックメタデータ、及びスタティックメタデータ保持部142で保持されたスタティックメタデータの少なくとも一方を用いて所定の期間において同じ映像の輝度値(固定値)を示すダイナミックメタデータを生成する。
また、メタデータ演算部143は、ダイナミックメタデータを固定値に遷移させる場合に、出力するダイナミックメタデータの値を現在の値から固定値に徐々に変化させてもよい。また、メタデータ演算部143は、出力するダイナミックメタデータの値を固定値からダイナミックメタデータ抽出部120で抽出されたダイナミックメタデータに戻す場合に、出力するダイナミックメタデータの値を固定値から現在の値に徐々に変化させてもよい。これにより、映像表示装置102Bにおけるトーンマップの急激な変化を抑制できる。
なお、徐々に変化するとは、予め定められた期間において、連続的又は段階的に値が変化することを意味する。つまり、ダイナミックメタデータを固定値に遷移させる場合では、上記期間において、現在の値と固定値との間の1以上の値を経て、現在の値から固定値に値が変更される。また、予め定められた期間とは、例えば、複数フレームが表示される期間である。
MaxLLGMがMAXTVLLより十分小さいとみなす条件とは、例えば、MaxLLGMがMAXTVLLの50%より小さいなどの条件である。つまり、この条件は、MAXTVLLに対するMaxLLGMの割合(MaxLLGM/MAXTVLL)が予め定められた割合(例えば0.5)より小さいことである。
この割合を小さくすると、メニューグラフィックスがHDR映像に重畳されたときに、ダイナミックメタデータによる影響を少なくできるが、トーンマップが固定になりやすくなるため、高品位なHDR映像とならない場合が増えることになる。よって、メニューグラフィックスの輝度を落とすことにより、ダイナミックトーンマップのメニューグラフィックスへの影響を少なくし、できるだけダイナミックなトーンマップが用いられるようにすることで、高品位なHDR映像の表示を実現できる。ただし、メニューグラフィックスの作成に対する制限が大きくなることから、適切な値とする必要がある。
これらの一連の処理が、映像の再生が終了するまで繰り返し行われる(S107)。例えば、この処理は、1フレーム単位又は複数フレーム単位で繰り返し行われる。
次に、映像表示装置102Bの動作を説明する。図14は、本実施の形態に係る映像表示装置102Bに含まれるトーンマップ処理部134の動作を示すフローチャートである。
映像表示が開始されると、映像受信部132は、映像信号及びメタデータを受信する。映像信号とメタデータとは分離され、それぞれトーンマップ処理部134に送られる。
(1)メタデータが、スタティックメタデータを含み、ダイナミックメタデータを含まない場合、(2)ダイナミックメタデータが存在し、GMOFがOFF、又はGMOFが存在しない場合、トーンマップ処理部134は、メタデータに従ったトーンマップを実行する(S112)。そしてトーンマップ後の映像信号が表示部135へ送られ、表示部135は、当該映像信号に基づくHDR映像を表示する。
具体的には、メタデータが、スタティックメタデータを含み、ダイナミックメタデータを含まない場合、トーンマップ処理部134は、スタティックメタデータに従ったスタティックなトーンマップ、又は映像信号を解析した結果を用いたトーンマップを行う。
また、メタデータにダイナミックメタデータが存在する場合、トーンマップ処理部134は、ダイナミックメタデータに従ったダイナミックトーンマップを行う。この場合にも、トーンマップ処理部134は、映像信号を解析した結果を用いてもよい。
GMOFがONであり、かつ、DMBMがONである又は定義されていない場合(S111でON、かつS113でON)、トーンマップ処理部134は、ダイナミックメタデータに従ったダイナミックトーンマップを行う(S114)。この場合にも、トーンマップ処理部134は、映像信号を解析した結果を用いてもよい。
GMOFがONであり、かつ、DMBMがOFFであり(S111でON、かつS113でON)、トーンマップ処理部134は、ダイナミックメタデータに含まれるMaxLLGMと、MAXTVLLとを比較する(S115)。MaxLLGMがMAXTVLLより十分に小さいとみなされる場合(S115でYes)、トーンマップ処理部134は、ダイナミックメタデータに従ったダイナミックトーンマップを行う(S114)。なお、MaxLLGMがMAXTVLLより十分に小さいとみなす条件は、例えば、上述したステップS105と同様である。また、トーンマップ処理部134は、この判定に、MAXTVLL以外のパラメータを用いてもよい。
MaxLLGMがMAXTVLLより十分小さいとみなされない場合、又はMaxLLGMが送られてきていない場合(S115でNo)、トーンマップ処理部134は、スタティックメタデータに従ったトーンマップを行う(S116)。なお、MaxLLGMが送られてきている場合は、トーンマップ処理部134は、MaxLLGM以上の輝度に対してはダイナミックメタデータに従ったダイナミックトーンマップを行い、MaxLLGM未満の輝度に対してはスタティックメタデータに従ったスタティックトーンマップを行ってもよい。
これらの一連の処理が、映像の表示が終了するまで繰り返し行われる(S117)。例えば、この処理は、1フレーム単位又は複数フレーム単位で繰り返し行われる。
以上のように、トーンマップ処理部134は、所定期間に含まれる複数の時間区間の各々における映像の最大輝度を示すダイナミックメタデータを用いて、各時間区間の映像の輝度を、当該時間区間の映像の最大輝度に応じた変換カーブを用いて変換するトーンマップ処理(ダイナミックトーンマップ処理)を行う。表示部135は、トーンマップ処理後の映像を表示する。メタデータ処理部122は、前記所定期間における映像の最大輝度を示すスタティックメタデータを用いて、複数の時間区間で同一の前記最大輝度を示す第1ダイナミックメタデータを生成する。映像表示システム100Bは、(i)メタデータ処理部122が、スタティックメタデータを用いて第1ダイナミックメタデータを生成し(S106)、(ii)トーンマップ処理部134が、第1ダイナミックメタデータを用いてトーンマップ処理を行う(S114)第1動作と、トーンマップ処理部134が、複数の時間区間で最大輝度が変化する第2ダイナミックメタデータを用いてトーンマップ処理を行う(S112)第2動作とを切り替える。
これにより、トーンマップ処理部における動作を変更することなく、ダイナミックトーンマップを行うか、トーンマップを固定するかを切り替えることができる。つまり、トーンマップ処理部の構成を変更することなく、トーンマップを固定する機能を実現できる。また、トーンマップ処理部は、映像表示装置に含まれる可能性がある。よって、映像表示装置に変更を加えることなく、又は、変更を低減しつつ、映像再生装置に対する変更のみで上記の機能を実現できる。また、映像表示装置における処理により画質が劣化することを抑制できる。このように、本実施の形態の手法により、表示する映像の質を向上できる。
また、映像表示システム100Bは、さらに、主映像にグラフィックスを合成することで前記映像を生成する映像合成部118を備える。主映像にグラフィックスが合成された場合(S101でON、かつS111でON)、前記第1動作が行われる。(S106かつS114)、主映像にグラフィックスが合成されていない場合、第2動作、又は、スタティックメタデータを用いて前記トーンマップ処理を行う第3動作が行われる(S112)。これにより、グラフィックスの輝度の変化を抑制できる。
また、主映像にグラフィックスが合成され(S101でON)、かつ、表示部135が表示可能な最大輝度(MAXTVLL)に対するグラフィックスの最大輝度(MaxLLGM)の割合が予め定められた値より高い場合(S105でNo)、第1動作が行われる(S106かつS114)。主映像にグラフィックスが合成され(S101でON)、かつ、前記割合が予め定められた値より低い場合(S105でYes)、第2動作が行われる(S104かつS114)。
これによれば、グラフィックスの輝度の変化が発生する可能性が高い場合には、トーンマップを固定し、グラフィックスの輝度の変化が発生する可能性が低い場合には、ダイナミックトーンマップを継続できる。これにより、グラフィックスの輝度の変化を抑制しつつ、適切にダイナミックトーンマップを行うことができる。
また、主映像にグラフィックスが合成され(S101でON)、かつ、前記割合が予め定められた値より高い場合(S105でNo、又はS115でNo)に、映像に付随している情報(例えばTVPAF)に基づき第1動作(S106かつS114)又は第3動作(S116)が行われる。
これによれば、コンテンツ作成者がトーンマップ処理部(例えば映像表示装置)においてトーンマップ処理を変更することを許可するか否かを設定できる。
また、メタデータ処理部122は、スタティックメタデータで示される映像の最大輝度と、第2ダイナミックメタデータで示される、第1動作が開始された時間区間における映像の最大輝度とを演算することで、第1ダイナミックメタデータで示される前記同一の最大輝度を演算する。これにより、第2ダイナミックメタデータとスタティックメタデータとを加味した第1ダイナミックメタデータを作成できる。
また、第2動作から第1動作への切り替え時において、メタデータ処理部122は、第1ダイナミックメタデータで示される最大輝度を、第2ダイナミックメタデータ示される最大輝度から前記同一の最大輝度に、複数フレームにおいて連続的又は段階的に変更する。これにより、動作の切り替え時において、トーンマップを滑らかに変更できる。
また、映像表示装置102Bは、所定期間に含まれる複数の時間区間の各々における映像の最大輝度を示すダイナミックメタデータを用いて、各時間区間の映像の輝度を、当該時間区間の前記映像の前記最大輝度に応じた変換カーブを用いて変換するトーンマップ処理を行うトーンマップ処理部134と、トーンマップ処理後の映像を表示する表示部135とを備える。トーンマップ処理部134は、所定期間における映像の最大輝度を示すスタティックメタデータを用いて生成された、複数の時間区間で同一の前記最大輝度を示す第1ダイナミックメタデータを用いてトーンマップ処理を行う第1動作(S114)と、複数の時間区間で最大輝度が変化する第2ダイナミックメタデータを用いてトーンマップ処理を行う第2動作(S112)とを切り替える。
これにより、トーンマップ処理部における動作を変更することなく、ダイナミックトーンマップを行うか、トーンマップを固定するかを切り替えることができる。つまり、トーンマップ処理部の構成を変更することなく、トーンマップを固定する機能を実現できる。また、映像表示装置における処理により画質が劣化することを抑制できる。このように、本実施の形態の手法により、表示する映像の質を向上できる。
また、トーンマップ処理部134は、映像にグラフィックスが含まれる場合(S111でON)、第1動作を行い(S114)、映像に前記グラフィックスが含まれない場合(S111でOFF)、第2動作、又は、スタティックメタデータを用いてトーンマップ処理を行う第3動作を行う(S112)。
また、トーンマップ処理部134は、映像にグラフィックスが含まれる場合(S111でON)、トーンマップ処理部134が、ダイナミックメタデータを用いた第1トーンマップ処理と、スタティックメタデータを用いた第2トーンマップ処理とのうち、第1トーンマップ処理を行うことを強制することを示すフラグ(DMBM)により、第1トーンマップ処理を行うことが強制されている場合(S113でON)、第1トーンマップ処理を行い、フラグ(DMBM)により、第1トーンマップ処理を行うことが強制されていない場合(S113でOFF)、第1トーンマップ処理(S114)又は第2トーンマップ処理(S116)を行う。第1動作が行われる場合(S106かつS114)には、フラグ(DMBM)により第1トーンマップ処理を行うことが強制される。
これにより、映像再生装置において強制的に第1ダイナミックメタデータを用いた処理を行うようにできるので、確実に第1ダイナミックメタデータを用いてトーンマップを固定する処理を実現できる。
また、トーンマップ処理部134は、映像にグラフィックスが含まれ、かつ、フラグ(DMBM)により、第1トーンマップ処理を行うことが強制されていない場合(S111でONかつS113でOFF)において、表示部135が表示可能な最大輝度(MAXTVLL)に対するグラフィックスの最大輝度(MaxLLGM)の割合が予め定められた値より高い場合(S115でNo)、第2トーンマップ処理を行い(S116)、前記割合が予め定められた値より低い場合(S115でYes)、第1トーンマップ処理を行う(S114)。
これによれば、グラフィックスの輝度の変化が発生する可能性が高い場合には、トーンマップを固定し、グラフィックスの輝度の変化が発生する可能性が低い場合には、ダイナミックトーンマップを継続できる。これにより、グラフィックスの輝度の変化を抑制しつつ、適切にダイナミックトーンマップを行うことができる。
[3.変形例]
映像再生装置が再生するHDR映像は、例えばBlu−rayディスク、DVD、Internetの動画配信サイト、放送、又はHDD(Hard Disk Drive)内の映像であってもよい。
上記映像再生装置は、ディスクプレイヤー、ディスクレコーダ、セットトップボックス、テレビ、パーソナルコンピュータ、又はスマートフォンなど、記録媒体、放送又はインターネットからの圧縮された映像信号を復号し、映像表示装置に送る装置でもよい。また、映像再生装置101Bの機能の一部又は全てが、映像表示装置102Bに含まれてもよい。例えば、映像再生装置101Bに含まれる処理部のうち、ディスク111及びBD−ROM駆動部112以外の処理部が映像表示装置102Bに含まれてもよい。また、映像表示装置102Bに含まれる映像受信部132、メタデータ取得部133及びトーンマップ処理部134が映像再生装置101Bに含まれてもよい。また、トーンマップ処理部134に含まれる機能のうち一部の機能が映像再生装置101Bに含まれてもよい。
映像再生装置からの映像信号を映像表示装置に伝送する映像信号伝送手段は、HDMI、DVI、又はDPなどの映像信号を非圧縮の状態で伝送する手段であってもよいし、ネットワークを通じた伝送のように映像信号を圧縮した形式で伝送する手段であってもよい。
映像表示装置の最大輝度情報又はトーンマップ情報の映像再生装置への設定は、利用者が映像再生装置にリモートコントローラなどを用いて入力することで行われてもよいし、利用者が映像再生装置が備える操作装置を用いて入力することで行われてもよい。または、利用者は、インターネット又はその他の手段を用いて、これらの情報を取得し、取得した情報をポータブル記憶媒体に保存し、ポータブル記憶媒体を介して、これらの情報を映像再生装置に送ってもよい。また、映像再生装置が直接、インターネットに接続され、映像再生装置は、サーバのデータベースから、これらの情報を取得してもよい。さらに、映像再生装置は、映像表示装置にテストパターンを表示し、表示されたテストパターンを用いて映像表示装置の特性を確認しながら、これらの情報を取得及び記憶してもよい。
映像再生装置は、グラフィックス(字幕又はメニュー)の輝度をそのデータから検出することでグラフィックス輝度情報(MaxLLGM)を生成してもよいし、映像データ作成時に予め作成されたグラフィックスの輝度を取得してもよい。例えば、グラフィックスの輝度は、ディスクに記録されていてもよいし、メタデータとして放送又はInternetで送付されてもよい。映像再生装置は、グラフィックスの輝度を読み取り、ダイナミックメタデータの一部として映像表示装置に送る。あるいは、Internetに接続されたサーバのデータベースに、再生するコンテンツに対する情報として、グラフィックス(字幕又はメニュー)の輝度情報が記録されており、映像再生装置は、当該データベースからグラフィックスの輝度情報(MaxLLGM)を取得し、取得した輝度情報を映像表示装置に送ってもよい。
MaxLLGMとMAXTVLLとの比較に用いる上記割合(例えば50%)が、表示する映像信号の特徴に応じて決定され、ディスクに格納されていてもよい。または、映像表示装置の特徴に応じて上記割合が決定されてもよい。また、この割合は、インターネット上のデータベースより取得されてもよい。
以上、本開示の実施の形態に係る映像表示システムについて説明したが、本開示は、この実施の形態に限定されるものではない。
また、上記実施の形態に係る映像表示システムに含まれる各処理部は典型的には集積回路であるLSIとして実現される。これらは個別に1チップ化されてもよいし、一部又は全てを含むように1チップ化されてもよい。
また、集積回路化はLSIに限るものではなく、専用回路又は汎用プロセッサで実現してもよい。LSI製造後にプログラムすることが可能なFPGA(Field Programmable Gate Array)、又はLSI内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。
また、上記各実施の形態において、各構成要素は、専用のハードウェアで構成されるか、各構成要素に適したソフトウェアプログラムを実行することによって実現されてもよい。各構成要素は、CPUまたはプロセッサなどのプログラム実行部が、ハードディスクまたは半導体メモリなどの記録媒体に記録されたソフトウェアプログラムを読み出して実行することによって実現されてもよい。
また、本開示は、映像表示システムにより実行される各種方法として実現されてもよい。
また、ブロック図における機能ブロックの分割は一例であり、複数の機能ブロックを一つの機能ブロックとして実現したり、一つの機能ブロックを複数に分割したり、一部の機能を他の機能ブロックに移してもよい。また、類似する機能を有する複数の機能ブロックの機能を単一のハードウェア又はソフトウェアが並列又は時分割に処理してもよい。
また、フローチャートにおける各ステップが実行される順序は、本開示を具体的に説明するために例示するためのものであり、上記以外の順序であってもよい。また、上記ステップの一部が、他のステップと同時(並列)に実行されてもよい。
以上、一つまたは複数の態様に係る映像表示システムについて、実施の形態に基づいて説明したが、本開示は、この実施の形態に限定されるものではない。本開示の趣旨を逸脱しない限り、当業者が思いつく各種変形を本実施の形態に施したものや、異なる実施の形態における構成要素を組み合わせて構築される形態も、一つまたは複数の態様の範囲内に含まれてもよい。
本開示は、映像表示システム、映像再生装置又は映像表示装置に適用できる。
100、100A、100B 映像表示システム
101、101A、101B 映像再生装置
102、102A、102B 映像表示装置
111 ディスク
112 BD−ROM駆動部
113 デマルチプレクサ
114 PGデコーダ
115 映像デコーダ
116、116B メニュー制御部
117 スタティックメタデータ抽出部
118 映像合成部
119 映像情報出力部
120 ダイナミックメタデータ抽出部
121 メタデータ切替部
122 メタデータ処理部
131 輝度情報保持部
132 映像受信部
133 メタデータ取得部
134 トーンマップ処理部
135 表示部
141 ダイナミックメタデータ保持部
142 スタティックメタデータ保持部
143 メタデータ演算部
144 メタデータ判断部

Claims (5)

  1. 所定期間に含まれる複数の時間区間の各々における映像の最大輝度を示すダイナミックメタデータを用いて、各時間区間の前記映像の輝度を、当該時間区間の前記映像の前記最大輝度に応じた変換カーブを用いて変換するトーンマップ処理を行うトーンマップ処理部と、
    前記トーンマップ処理後の映像を表示する表示部とを備え、
    前記トーンマップ処理部は、
    前記所定期間における前記映像の最大輝度を示すスタティックメタデータを用いて生成された、前記複数の時間区間で同一の前記最大輝度を示す第1ダイナミックメタデータを用いて前記トーンマップ処理を行う第1動作と、
    前記複数の時間区間で前記最大輝度が変化する第2ダイナミックメタデータを用いて前記トーンマップ処理を行う第2動作とを切り替える
    映像表示装置。
  2. 前記トーンマップ処理部は、
    前記映像にグラフィックスが含まれる場合、前記第1動作を行い、
    前記映像に前記グラフィックスが含まれない場合、前記第2動作、又は、前記スタティックメタデータを用いて前記トーンマップ処理を行う第3動作を行う
    請求項1記載の映像表示装置。
  3. 前記トーンマップ処理部は、前記映像に前記グラフィックスが含まれる場合、
    前記トーンマップ処理部が、前記ダイナミックメタデータを用いた第1トーンマップ処理と、前記スタティックメタデータを用いた第2トーンマップ処理とのうち、前記第1トーンマップ処理を行うことを強制することを示すフラグにより、前記第1トーンマップ処理を行うことが強制されている場合、前記第1トーンマップ処理を行い、前記フラグにより、前記第1トーンマップ処理を行うことが強制されていない場合、前記第1トーンマップ処理又は前記第2トーンマップ処理を行い、
    前記第1動作が行われる場合には、前記フラグにより前記第1トーンマップ処理を行うことが強制される
    請求項2記載の映像表示装置。
  4. 前記トーンマップ処理部は、前記映像に前記グラフィックスが含まれ、かつ、前記フラグにより、前記第1トーンマップ処理を行うことが強制されていない場合において、
    前記表示部が表示可能な最大輝度に対する前記グラフィックスの最大輝度の割合が予め定められた値より高い場合、前記第2トーンマップ処理を行い、
    前記割合が前記予め定められた値より低い場合、前記第1トーンマップ処理を行う
    請求項3記載の映像表示装置。
  5. 映像表示装置における映像表示方法であって、
    所定期間に含まれる複数の時間区間の各々における映像の最大輝度を示すダイナミックメタデータを用いて、各時間区間の前記映像の輝度を、当該時間区間の前記映像の前記最大輝度に応じた変換カーブを用いて変換するトーンマップ処理を行うトーンマップ処理ステップと、
    前記トーンマップ処理後の映像を表示する表示ステップとを含み、
    前記トーンマップ処理ステップでは、
    前記所定期間における前記映像の最大輝度を示すスタティックメタデータを用いて生成された、前記複数の時間区間で同一の前記最大輝度を示す第1ダイナミックメタデータを用いて前記トーンマップ処理を行う第1動作と、
    前記複数の時間区間で前記最大輝度が変化する第2ダイナミックメタデータを用いて前記トーンマップ処理を行う第2動作とを切り替える
    映像表示方法。
JP2018554418A 2017-10-06 2018-02-26 映像表示装置及び映像表示方法 Active JP7108880B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201762569301P 2017-10-06 2017-10-06
US62/569,301 2017-10-06
PCT/JP2018/006863 WO2019069483A1 (ja) 2017-10-06 2018-02-26 映像表示装置及び映像表示方法

Publications (2)

Publication Number Publication Date
JPWO2019069483A1 true JPWO2019069483A1 (ja) 2020-09-17
JP7108880B2 JP7108880B2 (ja) 2022-07-29

Family

ID=65994527

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2018554418A Active JP7108880B2 (ja) 2017-10-06 2018-02-26 映像表示装置及び映像表示方法
JP2018554425A Active JP7133772B2 (ja) 2017-10-06 2018-02-26 映像表示システム及び映像表示方法

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2018554425A Active JP7133772B2 (ja) 2017-10-06 2018-02-26 映像表示システム及び映像表示方法

Country Status (5)

Country Link
US (2) US11146737B2 (ja)
EP (2) EP3694216A4 (ja)
JP (2) JP7108880B2 (ja)
CN (2) CN109891902B (ja)
WO (2) WO2019069483A1 (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3644618A4 (en) 2017-06-21 2020-05-27 Panasonic Intellectual Property Management Co., Ltd. IMAGE DISPLAY SYSTEM AND IMAGE DISPLAY METHOD
US11039045B2 (en) 2017-07-14 2021-06-15 Panasonic Intellectual Property Management Co., Ltd. Video display system and video display method
CN109891902B (zh) * 2017-10-06 2022-02-18 松下知识产权经营株式会社 影像显示系统及影像显示方法
CN111345034B (zh) * 2017-10-31 2022-08-26 索尼公司 再现设备、再现方法、程序及记录介质
JP7184544B2 (ja) * 2018-06-08 2022-12-06 シャープ株式会社 表示制御装置、表示装置、テレビジョン、及び表示制御方法
KR20210001762A (ko) * 2019-06-28 2021-01-06 삼성전자주식회사 영상을 처리하는 전자 장치 및 그 영상 처리 방법
KR20210045227A (ko) * 2019-10-16 2021-04-26 삼성전자주식회사 디스플레이 장치 및 그 동작방법
CN113630563B (zh) * 2020-05-08 2022-07-22 华为技术有限公司 一种高动态范围hdr视频的处理方法、编码设备和解码设备
US11769234B2 (en) 2020-10-07 2023-09-26 Qualcomm Incorporated Methods and apparatus for histogram based tone mapping
JPWO2023095718A1 (ja) * 2021-11-29 2023-06-01
CN115564659B (zh) * 2022-02-28 2024-04-05 荣耀终端有限公司 视频处理方法和装置
KR20240009810A (ko) * 2022-07-14 2024-01-23 삼성전자주식회사 영상 출력 장치 및 그 제어 방법
CN116320218B (zh) * 2023-05-24 2023-08-29 深圳金智凌轩视讯技术有限公司 基于嵌入式计算机平台的多路视频合成分析处理管理系统

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016027423A1 (ja) * 2014-08-19 2016-02-25 パナソニックIpマネジメント株式会社 伝送方法、再生方法及び再生装置
JP2016100039A (ja) * 2014-11-17 2016-05-30 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 記録媒体、再生方法、および再生装置

Family Cites Families (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5438279A (en) 1977-09-02 1979-03-22 Asahi Chem Ind Co Ltd Production of strengthened forous membrabe
CN102763134B (zh) * 2010-02-19 2015-11-25 汤姆森特许公司 用于高动态范围视频色调映射的参数内插
EP2539884B1 (en) 2010-02-24 2018-12-12 Dolby Laboratories Licensing Corporation Display management methods and apparatus
JP6407717B2 (ja) 2011-09-27 2018-10-17 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 画像のダイナミックレンジ変換のための装置及び方法
EP2748792B1 (en) * 2012-08-08 2016-12-21 Dolby Laboratories Licensing Corporation Image processing for hdr images
EP2959676B1 (en) 2013-02-21 2020-09-23 Dolby Laboratories Licensing Corporation Systems and methods for appearance mapping for compositing overlay graphics
US10055866B2 (en) 2013-02-21 2018-08-21 Dolby Laboratories Licensing Corporation Systems and methods for appearance mapping for compositing overlay graphics
JP6241683B2 (ja) 2013-08-20 2017-12-06 ソニー株式会社 再生装置、再生方法、および記録媒体
US9584786B2 (en) * 2014-03-05 2017-02-28 Dolby Laboratories Licensing Corporation Graphics blending for high dynamic range video
US9230338B2 (en) 2014-03-05 2016-01-05 Dolby Laboratories Licensing Corporation Graphics blending for high dynamic range video
MX358934B (es) * 2014-06-26 2018-09-10 Panasonic Ip Man Co Ltd Dispositivo de salida de datos, metodo de salida de datos y metodo de generacion de datos.
KR102190233B1 (ko) * 2014-10-06 2020-12-11 삼성전자주식회사 영상 처리 장치 및 이의 영상 처리 방법
JP2016081553A (ja) 2014-10-17 2016-05-16 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 記録媒体、再生方法、および再生装置
CN107113470B (zh) 2014-11-10 2021-07-13 皇家飞利浦有限公司 用于编码的方法、视频处理器、用于解码的方法、视频解码器
WO2016181584A1 (ja) * 2015-05-12 2016-11-17 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 表示方法および表示装置
JP6663214B2 (ja) * 2015-05-26 2020-03-11 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 表示方法および表示装置
US10140953B2 (en) * 2015-10-22 2018-11-27 Dolby Laboratories Licensing Corporation Ambient-light-corrected display management for high dynamic range images
US9984446B2 (en) * 2015-12-26 2018-05-29 Intel Corporation Video tone mapping for converting high dynamic range (HDR) content to standard dynamic range (SDR) content
KR102488954B1 (ko) 2016-05-16 2023-01-16 엘지전자 주식회사 영상 처리 장치 및 그의 영상 처리 방법
CN113593499B (zh) * 2016-05-27 2023-12-12 杜比实验室特许公司 在视频优先级与图形优先级之间转换
EP3644618A4 (en) * 2017-06-21 2020-05-27 Panasonic Intellectual Property Management Co., Ltd. IMAGE DISPLAY SYSTEM AND IMAGE DISPLAY METHOD
US10939158B2 (en) * 2017-06-23 2021-03-02 Samsung Electronics Co., Ltd. Electronic apparatus, display apparatus and control method thereof
US11049225B2 (en) * 2017-07-07 2021-06-29 Panasonic Intellectual Property Management Co., Ltd. Video processing system and video processing method
US10735688B2 (en) * 2017-07-13 2020-08-04 Samsung Electronics Co., Ltd. Electronics apparatus, display apparatus and control method thereof
US11039045B2 (en) * 2017-07-14 2021-06-15 Panasonic Intellectual Property Management Co., Ltd. Video display system and video display method
US10504263B2 (en) * 2017-08-01 2019-12-10 Samsung Electronics Co., Ltd. Adaptive high dynamic range (HDR) tone mapping with overlay indication
WO2019053917A1 (ja) * 2017-09-13 2019-03-21 パナソニックIpマネジメント株式会社 輝度特性生成方法
CN109891902B (zh) * 2017-10-06 2022-02-18 松下知识产权经营株式会社 影像显示系统及影像显示方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016027423A1 (ja) * 2014-08-19 2016-02-25 パナソニックIpマネジメント株式会社 伝送方法、再生方法及び再生装置
JP2016100039A (ja) * 2014-11-17 2016-05-30 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 記録媒体、再生方法、および再生装置

Also Published As

Publication number Publication date
CN109891901B (zh) 2022-04-08
US20190394384A1 (en) 2019-12-26
CN109891902B (zh) 2022-02-18
WO2019069483A1 (ja) 2019-04-11
CN109891901A (zh) 2019-06-14
EP3694217A4 (en) 2020-12-02
EP3694216A1 (en) 2020-08-12
CN109891902A (zh) 2019-06-14
JP7108880B2 (ja) 2022-07-29
US10992877B2 (en) 2021-04-27
US11146737B2 (en) 2021-10-12
US20210006689A1 (en) 2021-01-07
JP7133772B2 (ja) 2022-09-09
EP3694217A1 (en) 2020-08-12
WO2019069482A1 (ja) 2019-04-11
JPWO2019069482A1 (ja) 2020-09-10
EP3694216A4 (en) 2020-12-02

Similar Documents

Publication Publication Date Title
JP7108880B2 (ja) 映像表示装置及び映像表示方法
JP7117627B2 (ja) 映像表示システム及び映像表示方法
JP7117558B2 (ja) 映像表示装置及び映像表示方法
JP2016208499A (ja) データ出力装置及びデータ出力方法
JP7054825B2 (ja) 映像表示装置及び映像表示方法
JP6731627B2 (ja) 再生装置で実行される方法、及び再生装置
JP6868797B2 (ja) 変換方法及び変換装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181015

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201218

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220301

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220323

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220405

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220422

R151 Written notification of patent or utility model registration

Ref document number: 7108880

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151