JP2021124638A - 表示制御装置、表示制御方法、プログラムおよび記憶媒体 - Google Patents

表示制御装置、表示制御方法、プログラムおよび記憶媒体 Download PDF

Info

Publication number
JP2021124638A
JP2021124638A JP2020018973A JP2020018973A JP2021124638A JP 2021124638 A JP2021124638 A JP 2021124638A JP 2020018973 A JP2020018973 A JP 2020018973A JP 2020018973 A JP2020018973 A JP 2020018973A JP 2021124638 A JP2021124638 A JP 2021124638A
Authority
JP
Japan
Prior art keywords
image
brightness
hdr
control unit
display control
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2020018973A
Other languages
English (en)
Other versions
JP2021124638A5 (ja
Inventor
洋明 梨澤
Hiroaki Nashizawa
洋明 梨澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2020018973A priority Critical patent/JP2021124638A/ja
Priority to US17/167,839 priority patent/US11438523B2/en
Priority to CN202110163688.5A priority patent/CN113225475A/zh
Publication of JP2021124638A publication Critical patent/JP2021124638A/ja
Publication of JP2021124638A5 publication Critical patent/JP2021124638A5/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/76Circuitry for compensating brightness variation in the scene by influencing the image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/62Control of parameters via user interfaces
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • H04N23/632Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters for displaying or modifying preview images prior to image capturing, e.g. variety of image resolutions or capturing parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6812Motion detection based on additional sensors, e.g. acceleration sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/951Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/02Improving the quality of display appearance
    • G09G2320/0238Improving the black level
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/06Adjustment of display parameters
    • G09G2320/0626Adjustment of display parameters for control of overall brightness
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/06Adjustment of display parameters
    • G09G2320/0666Adjustment of display parameters for control of colour parameters, e.g. colour temperature
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/06Adjustment of display parameters
    • G09G2320/0673Adjustment of display parameters for control of gamma adjustment, e.g. selecting another gamma curve
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/06Colour space transformation
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/02Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the way in which colour is displayed
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/10Intensity circuits
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • General Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • Studio Devices (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Picture Signal Circuits (AREA)

Abstract

【課題】OSDを適切な輝度で表示する。
【解決手段】本発明の表示制御装置は、HDR画像とともにグラフィック画像を表示部に表示させるように制御する表示制御手段を有し、前記表示制御手段は、前記HDR画像の輝度が第1の輝度である場合に、前記グラフィック画像を第2の輝度で表示させ、前記HDR画像の輝度が前記第1の輝度より高い第3の輝度である場合に、前記グラフィック画像を前記第2の輝度より高い第4の輝度で表示するように制御する。
【選択図】図12A

Description

本発明は、表示制御装置、表示制御方法、プログラムおよび記憶媒体に関する。
近年、LED素子の進化などにより、黒を引き締めて上限輝度(最大輝度;ピーク輝度)をさらに高めたることができるHDR(High Dynamic Range)対応のディスプレイが普及し始めている。HDR対応のディスプレイでは、高ダイナミックレンジ(HDR)の画像データを圧縮することなくそのまま表示することができる。HDRでは従来のダイナミックレンジ(以下、SDR;Standard Dynamic Range)でコントラストが下がってしまっていた青空の雲や、夜景のネオンなどの風景をリアルに(階調性良く)再現できる。このようなHDRはブルーレイに記録される動画などで主流であったが今後は静止画にも適用されると考えられる。
ここで、撮像装置の背面液晶などでは、撮影画像を再生表示する際に併せて、撮影時情報(秒時、絞り値、ISO感度、画像名称)や再生時の状態情報などのOSD(グラフィック画像)を撮影画像に重畳して表示することが行われている。特許文献1では、表示装置からピーク輝度やガンマを受信して、OSDの明るさが暗くなると判断した場合は予めOSDを明るくしておくことや、画像とOSDのどちらが重要であるかを判断して、OSDをどちらかに最適な明るさにすることが開示されている。特許文献2では、SDRのOSD(100cd/m)をHDRデータに変換するときには、OSDの輝度階調値をDiffuseWhite(画像で支配的な白(300〜500cd/m)に相当)にすることが開示されている。
特開2019−057824号公報 国際公開第2016/038950号
しかしながら、上述の特許文献1および特許文献2に開示された従来技術は、背面画像に対して、相対的にOSDが明るく表示されたり暗く表示される場合、OSDの視認性が悪いという課題があった。
そこで、本発明は、OSDを適切な輝度で表示することを目的とする。
本発明の一態様は、
HDR画像とともにグラフィック画像を表示部に表示させるように制御する表示制御手段を有し、
前記表示制御手段は、前記HDR画像の輝度が第1の輝度である場合に、前記グラフィック画像を第2の輝度で表示させ、前記HDR画像の輝度が前記第1の輝度より高い第3の輝度である場合に、前記グラフィック画像を前記第2の輝度より高い第4の輝度で表示するように制御する、
ことを特徴とする表示制御装置である。
本発明によれば、OSDを適切な輝度で表示することができる。
実施形態1に係るデジタルカメラの外観図である。 実施形態1に係るデジタルカメラの構成を示すブロック図である。 実施形態1に係る外部機器接続を示す図である。 実施形態1に係るLV撮影モード処理を示すフローチャートである。 実施形態1に係るクイックレビュー表示処理を示すフローチャートである。 実施形態1に係る接続処理のシーケンス図である。 実施形態1に係る撮影メニュー処理を示すフローチャートである。 実施形態1に係る撮影メニュー処理を示すフローチャートである。 実施形態1に係るHDR撮影処理を示すフローチャートである。 実施形態1に係るHDR撮影処理を示すフローチャートである。 実施形態1に係るCxCy平面を示す図である。 実施形態1に係るHDR撮影処理を示すフローチャートである。 実施形態1に係る表示画像の一例を示す図である。 実施形態1に係る表示画像の一例を示す図である。 実施形態1に係る階調補正量の一例を示す図である。 実施形態1に係る階調補正量の一例を示す図である。 実施形態1に係るファイルの構成の一例を示す図である。 実施形態1に係る再生モード処理を示すフローチャートである。 実施形態1に係る再生モード処理を示すフローチャートである。 実施形態1に係る再生モード処理を示すフローチャートである。 実施形態1に係る再生モード処理を示すフローチャートである。 実施形態1に係る再生モード処理を示すフローチャートである。 実施形態1に係る再生モード処理を示すフローチャートである。 実施形態1に係る再生モード処理を示すフローチャートである。 実施形態1に係る再生モード処理を示すフローチャートである。 実施形態1に係る再生モード処理を示すフローチャートである。 実施形態1に係る再生モード処理を示すフローチャートである。 実施形態1に係る再生メニュー処理を示すフローチャートである。 実施形態1に係るRAW現像処理に関する機能ブロック図である。 実施形態1に係るOSD輝度設定処理を示すフローチャートである。 実施形態1に係るOSD輝度設定処理を示すフローチャートである。 実施形態1に係るOSD輝度設定処理を示すフローチャートである。 OSD情報表示の一例を示す図である。 実施形態1に係るOSD情報表示を示す図である。 実施形態2に係る撮影条件と輝度階調値との対応関係を示す図である。 実施形態2に係る輝度変化を示す図である。 実施形態3に係る表示画像の一例を示す図である。 実施形態3に係るOSD輝度設定処理を示すフローチャートである。 実施形態4に係る表示画像の一例を示す図である。 実施形態4に係るOSD輝度設定処理を示すフローチャートである。
以下に、本発明を実施するための形態について、添付の図面を用いて詳細に説明する。なお、以下に説明する実施の形態は、本発明の実現方法としての一例であり、本発明が適用される装置の構成や各種条件によって適宜修正又は変更されてもよい。また、各実施の形態は適宜組み合わされることも可能である。
(実施形態1)
以下、図面を参照して本発明の好適な実施形態を説明する。図1A、図1Bに、本発明を適用可能な装置の一例としてのデジタルカメラ100の外観図を示す。図1Aはデジタルカメラ100の前面斜視図であり、図1Bはデジタルカメラ100の背面斜視図である。
表示部28は、デジタルカメラ100の背面に設けられた表示部であり、画像や各種情報を表示する。ファインダー外表示部43は、デジタルカメラ100の上面に設けられた表示部であり、シャッター速度や絞りをはじめとするデジタルカメラ100の様々な設定値を表示する。端子カバー40は、デジタルカメラ100を外部機器に接続する接続ケーブル等のコネクタ(不図示)を保護するカバーである。クイックリターンミラー12は、システム制御部50(後述)から指示されて、不図示のアクチュエータによりアップダウンされる。通信端子10は、デジタルカメラ100がレンズユニット150(後述;着脱可能)側と通信を行うための通信端子である。接眼ファインダー16は、フォーカシングスクリーン13(後述)を観察することで、レンズユニット150を通して得た被写体の光学像の焦点や構図の確認を行うための覗き込み型のファインダーである。蓋202は、記録媒体200(後述)を格納するスロットの蓋である。グリップ部90は、ユーザがデジタルカメラ100を構えた際に右手で握りやすい形状とした保持部である。
また、デジタルカメラ100は、モード切替スイッチ60、シャッターボタン61、メイン電子ダイヤル71、電源スイッチ72、サブ電子ダイヤル73、4方向キー74、SETボタン75、及び、LVボタン76を有する。デジタルカメラ100は、拡大ボタン77、縮小ボタン78、及び、再生ボタン79も有する。デジタルカメラ100は、他の操作部材を有していてもよい。各種操作部材については後述する。
図2は、デジタルカメラ100の構成例を示すブロック図である。
レンズユニット150は、交換可能な撮影レンズを搭載するレンズユニットである。レンズ103は通常、複数枚のレンズから構成されるが、図2では簡略して一枚のレンズのみで示している。通信端子6は、レンズユニット150がデジタルカメラ100側と通信を行うための通信端子であり、通信端子10は、デジタルカメラ100がレンズユニット150側と通信を行うための通信端子である。レンズユニット150は、これら通信端子6,10を介してシステム制御部50と通信する。そして、レンズユニット150は、内部のレンズシステム制御回路4によって絞り駆動回路2を介して絞り1の制御を行う。また、レンズユニット150は、レンズシステム制御回路4によってAF駆動回路3を介してレンズ103の位置を変位させることで焦点を合わせる。
AE(自動露出)センサー17は、レンズユニット150を通した被写体(被写体光)の輝度を測光する。
焦点検出部11は、システム制御部50にデフォーカス量情報を出力する。システム制御部50は、デフォーカス量情報に基づいてレンズユニット150を制御し、位相差AFを行う。
クイックリターンミラー12(以下、ミラー12)は、露光、ライブビュー撮影、動画撮影などの際にシステム制御部50から指示されて、不図示のアクチュエータによりアップダウンされる。ミラー12は、レンズ103から入射した光束をファインダー16側と撮像部22側とに切り替えるためのミラーである。ミラー12は、通常時は、ファインダー16へと光束を導く(反射させる)ように配されるが(ミラーダウン)、撮影やライブ
ビュー表示が行われる場合には、撮像部22へと光束を導くように上方に跳ね上がり光束中から待避する(ミラーアップ)。また、ミラー12は、その中央部が光の一部を透過できるようにハーフミラーとなっており、光束の一部を、焦点検出を行うための焦点検出部11に入射するように透過させる。
撮影者は、ペンタプリズム14とファインダー16を介して、フォーカシングスクリーン13を観察することで、レンズユニット150を通して得た被写体の光学像の焦点や構図の確認が可能となる。
シャッター101は、システム制御部50の制御で撮像部22の露光時間を自由に制御できるフォーカルプレーンシャッターである。
撮像部22は、光学像を電気信号に変換するCCDやCMOS素子等で構成される撮像素子である。A/D変換器23は、撮像部22から出力されるアナログ信号をデジタル信号に変換する。
画像処理部24は、A/D変換器23からのデータ、又は、メモリ制御部15からのデータに対し所定の処理(画素補間、縮小といったリサイズ処理、色変換処理、等)を行う。また、画像処理部24では、撮像した画像データを用いて所定の演算処理が行われ、得られた演算結果に基づいてシステム制御部50が露光制御や測距制御を行う。これにより、TTL(スルー・ザ・レンズ)方式のAF(オートフォーカス)処理、AE処理、EF(フラッシュプリ発光)処理、等が行われる。画像処理部24では更に、撮像した画像データを用いて所定の演算処理が行われ、得られた演算結果に基づいてTTL方式のAWB(オートホワイトバランス)処理も行われる。
A/D変換器23からの出力データは、画像処理部24及びメモリ制御部15を介して、或いは、メモリ制御部15を介してメモリ32に直接書き込まれる。メモリ32は、撮像部22によって得られA/D変換器23によりデジタルデータに変換された画像データや、表示部28に表示するための画像データを格納する。メモリ32は、所定枚数の静止画像や所定時間の動画像および音声を格納するのに十分な記憶容量を備えている。
また、メモリ32は画像表示用のメモリ(ビデオメモリ)を兼ねている。D/A変換器19は、メモリ32に格納されている画像表示用のデータをアナログ信号に変換して表示部28に供給する。こうして、メモリ32に書き込まれた表示用の画像データはD/A変換器19を介して表示部28により表示される。表示部28は、LCD等の表示器上で、D/A変換器19からのアナログ信号に応じた表示を行う。A/D変換器23によってA/D変換されメモリ32に蓄積されたデジタル信号をD/A変換器19においてD/A変換して表示部28に逐次転送して表示することで、電子ビューファインダーの機能が実現でき、スルー画像表示(ライブビュー表示)が行える。以下、ライブビュー表示で表示される画像を「LV画像」と称する。
ファインダー内表示部41には、ファインダー内表示部駆動回路42を介して、現在オートフォーカスが行われている測距点を示す枠(AF枠)や、カメラの設定状態を表すアイコンなどが表示される。
ファインダー外表示部43には、ファインダー外表示部駆動回路44を介して、シャッター速度や絞りをはじめとするデジタルカメラ100の様々な設定値が表示される。
デジタル出力I/F90は、メモリ32に格納されている画像表示用のデータをデジタル信号のまま外部機器300に供給する。このようにして、メモリ32に書き込まれた表
示用の画像データは外部機器300に表示される。
不揮発性メモリ56は、電気的に消去・記録可能なメモリであり、例えばEEPROM等が用いられる。不揮発性メモリ56には、システム制御部50の動作用の定数、プログラム等が記憶される。ここでいう、プログラムとは、本実施形態にて後述する各種フローチャートを実行するためのプログラムのことである。
システム制御部50は、少なくとも1つのプロセッサーまたは回路からなる制御部であり、デジタルカメラ100全体を制御する。システム制御部50は、前述した不揮発性メモリ56に記録されたプログラムを実行することで、後述する本実施形態の各処理を実現する。システムメモリ52は例えばRAMであり、システム制御部50は、システム制御部50の動作用の定数、変数、不揮発性メモリ56から読み出したプログラム等をシステムメモリ52に展開する。また、システム制御部50は、メモリ32、D/A変換器19、表示部28等を制御することにより表示制御も行う。
システムタイマー53は、各種制御に用いる時間や、内蔵された時計の時間を計測する計時部である。
電源制御部80は、電池検出回路、DC−DCコンバータ、通電するブロックを切り替えるスイッチ回路等により構成され、電池の装着の有無、電池の種類、及び、電池残量の検出等を行う。また、電源制御部80は、その検出結果及びシステム制御部50の指示に基づいてDC−DCコンバータを制御し、必要な電圧を必要な期間、記録媒体200を含む各部へ供給する。電源部30は、アルカリ電池やリチウム電池等の一次電池やNiCd電池やNiMH電池、Li電池等の二次電池、ACアダプター等からなる。
記録媒体I/F18は、メモリカードやハードディスク等の記録媒体200とのインターフェースである。記録媒体200は、撮影された画像を記録するためのメモリカード等の記録媒体であり、半導体メモリや磁気ディスク等から構成される。
通信部54は、無線または有線ケーブルによって接続された外部機器に対して、映像信号や音声信号の送受信を行う。通信部54は無線LAN(Local Area Network)やインターネットとも接続可能である。また、通信部54は、Bluetooth(登録商標)やBluetooth Low Energyでも外部機器と通信可能である。通信部54は撮像部22で撮像した画像(LV画像を含む)や、記録媒体200に記録された画像を送信可能であり、外部機器から画像データやその他の各種情報を受信することができる。
姿勢検知部55は、重力方向に対するデジタルカメラ100の姿勢を検知する。姿勢検知部55で検知された姿勢に基づいて、撮像部22で撮影された画像が、デジタルカメラ100を横に構えて撮影された画像であるか、縦に構えて撮影された画像であるかを判別可能である。システム制御部50は、姿勢検知部55で検知された姿勢に応じた向き情報を撮像部22で撮像された画像(撮像画像)の画像ファイルに付加したり、画像を回転して記録したりすることが可能である。姿勢検知部55としては、加速度センサーやジャイロセンサーなどを用いることができる。姿勢検知部55である加速度センサーやジャイロセンサーを用いて、デジタルカメラ100の動き(パン、チルト、持ち上げ、静止しているか否か等)を検知することも可能である。
操作部70は、システム制御部50に各種の動作指示を入力するために使用される。操作部70は、ユーザからの操作(ユーザ操作)を受け付ける入力部としての各種操作部材を含む。例えば、操作部70は、押しボタン、回転ダイヤル、タッチセンサなどを含む。
具体的には、操作部70は、モード切替スイッチ60、シャッターボタン61、メイン電子ダイヤル71、電源スイッチ72、サブ電子ダイヤル73、及び、4方向キー74を含む。また、操作部70は、SETボタン75、LVボタン76、拡大ボタン77、縮小ボタン78、及び、再生ボタン79を含む。また、操作部70は、AF−ONボタン70b、クイック設定ボタン70c、アクティブ枠切替ボタン70d、メニューボタン70e、ファンクションボタン70f、インフォボタン70gを含む。操作部70の各操作部材は、表示部28、または、外部機器300に表示される種々の機能アイコンを選択操作することなどにより、場面ごとに適宜機能が割り当てられ、各種機能ボタンとして作用する。機能ボタンとしては、例えば、終了ボタン、戻るボタン、画像送りボタン、ジャンプボタン、絞込みボタン、属性変更ボタン、等がある。例えば、メニューボタン70eが押下されると、各種の設定が可能なメニュー画面が表示部28、または、外部機器300に表示される。ユーザは、表示部28、または、外部機器300に表示されたメニュー画面と、4方向キー74やSETボタン75とを用いて直感的に各種設定を行うことができる。
モード切替スイッチ60は、各種モードを切り替えるための操作部材である。モード切替スイッチ60は、システム制御部50の動作モードを静止画記録モード、動画撮影モード、再生モード等のいずれかに切り替える。静止画記録モードに含まれるモードとして、オート撮影モード、オートシーン判別モード、マニュアルモード、絞り優先モード(Avモード)、シャッター速度優先モード(Tvモード)、及び、プログラムAEモードがある。また、撮影シーン別の撮影設定となる各種シーンモード、カスタムモード等がある。モード切替スイッチ60により、ユーザは、これらのモードのいずれかに直接切り替えることができる。あるいは、モード切替スイッチ60で撮影モードの一覧画面に一旦切り換えた後に、表示された複数のモードのいずれかに、他の操作部材を用いて選択的に切り替えるようにしてもよい。同様に、動画撮影モードにも複数のモードが含まれていてもよい。
シャッターボタン61は、撮影指示を行うための操作部材である。シャッターボタン61は、第1シャッタースイッチ62と第2シャッタースイッチ64を備える。第1シャッタースイッチ62は、シャッターボタン61の操作途中、いわゆる半押し(撮影準備指示)でONとなり、第1シャッタースイッチ信号SW1を発生する。システム制御部50は、第1シャッタースイッチ信号SW1により、AF処理、AE処理、AWB処理、EF処理、等の動作を開始する。第2シャッタースイッチ64は、シャッターボタン61の操作完了、いわゆる全押し(撮影指示)でONとなり、第2シャッタースイッチ信号SW2を発生する。システム制御部50は、第2シャッタースイッチ信号SW2により、撮像部22からの信号読み出しから記録媒体200に画像データを書き込むまでの一連の撮影処理の動作を開始する。
メイン電子ダイヤル71は回転操作部材であり、メイン電子ダイヤル71を回すことで、シャッター速度や絞りなどの設定値の変更等が行える。電源スイッチ72は、デジタルカメラ100の電源のON/OFFを切り替える操作部材である。サブ電子ダイヤル73は回転操作部材であり、サブ電子ダイヤル73を回すことで、選択枠の移動や画像送りなどが行える。4方向キー74は、上、下、左、右の各部を押し込み可能に構成される。4方向キー74の押した部分に応じた処理が可能である。SETボタン75は、押しボタンであり、主に選択項目の決定などに用いられる。
LVボタン76は、静止画撮影モードにおいてライブビュー(以下、LV)のON/OFFを切り替えるボタンである。動画撮影モードにおいては、LVボタン76は、動画撮影(記録)の開始、停止の指示に用いられる。拡大ボタン77は、撮影モードのライブビュー表示において拡大モードのON/OFFの切り換え及び拡大モード中の拡大率の変更を行うための操作ボタンである。再生モードにおいては、拡大ボタン77は、再生画像を
拡大したり、その拡大率を増加させたりするための拡大ボタンとして機能する。縮小ボタン78は、拡大された再生画像の拡大率を低減させ、表示された画像を縮小させるためのボタンである。再生ボタン79は、撮影モードと再生モードとを切り替える操作ボタンである。撮影モード中に再生ボタン79を押下することで再生モードに移行し、記録媒体200に記録された画像のうち最新の画像を表示部28に表示させることができる。
AF−ONボタン70bは、AFの実行を指示するためのボタンである。AF−ONボタン70bの押下方向は、レンズ103から撮像部22に入射する被写体光の方向(光軸)と平行である。
クイック設定ボタン70c(以下、Qボタン70c)は、各動作モードにおいて設定可能な設定項目の一覧であるクイック設定メニューを表示させるためのボタンである。例えば、ライブビュー撮影での撮影待機中に押下されると、電子先幕シャッター、モニターの明るさ、LV画面のWB、2点拡大、無音撮影などの設定項目の一覧がLVに重畳して1列に表示される。ユーザは、表示されたクイック設定メニューの内、任意の選択肢を4方向キー74で選択して、SETボタン75を押下することで、選択した設定項目に関する設定変更や動作モードへの移行を行うことができる。
アクティブ枠切替ボタン70dは、2点拡大処理において、拡大している2箇所のうち、アクティブな拡大位置(枠)を切り替えるためのボタンである。また、動作モードによって異なる機能が割り当てられており、再生モードにおいて押下すると、表示している画像にプロテクト属性を付与することができる。
メニューボタン70eは、各種の設定が可能なメニュー画面を表示部28、または、外部機器300に表示させるためのボタンである。
ファンクションボタン70fは、ボタンごとに異なる機能を割り当て可能なボタンである。ファンクションボタン70fのそれぞれは、グリップ部90を保持する右手の指(中指または薬指または小指)によって操作可能な位置に配置されており、押下方向はレンズ103から撮像部22に入射する被写体光の方向(光軸)と平行である。
インフォボタン70gは、各種情報表示の切り替え等を行うためのボタンである。
タッチパネル70aは、タッチパネル70aに対する接触を検知する。タッチパネル70aと表示部28とは一体的に構成することができる。例えば、タッチパネル70aを、光の透過率が表示部28の表示を妨げないように構成し、表示部28の表示面の上層に取り付ける。そして、タッチパネル70aにおける入力座標と、表示部28上の表示座標とを対応付ける。これにより、恰もユーザが表示部28上に表示された画面を直接的に操作可能であるかのようなGUI(グラフィカルユーザインターフェース)を提供できる。システム制御部50は、タッチパネル70aへの以下の操作、あるいは状態を検出できる。
・タッチパネル70aにタッチしていなかった指やペンが新たにタッチパネル70aにタッチしたこと、すなわち、タッチの開始(以下、タッチダウン(Touch−Down)と称する)
・指やペンがタッチパネル70aをタッチしている状態であること(以下、タッチオン(Touch−On)と称する)
・指やペンがタッチパネル70aをタッチしたまま移動していること(以下、タッチムーブ(Touch−Move)と称する)
・タッチパネル70aへタッチしていた指やペンがタッチパネル70aから離れたこと、すなわち、タッチの終了(以下、タッチアップ(Touch−Up)と称する)
・タッチパネル70aに何もタッチしていない状態(以下、タッチオフ(Touch−
Off)と称する)
タッチダウンが検出されると、同時にタッチオンも検出される。タッチダウンの後、タッチアップが検出されない限りは、通常はタッチオンが検出され続ける。タッチムーブが検出された場合も、同時にタッチオンが検出される。タッチオンが検出されていても、タッチ位置が移動していなければタッチムーブは検出されない。タッチしていた全ての指やペンがタッチアップしたことが検出されると、タッチオフが検出される。
これらの操作・状態や、タッチパネル70a上に指やペンがタッチしている位置座標は内部バスを通じてシステム制御部50に通知される。そして、システム制御部50は通知された情報に基づいてタッチパネル70a上にどのような操作(タッチ操作)が行なわれたかを判定する。タッチムーブについてはタッチパネル70a上で移動する指やペンの移動方向についても、位置座標の変化に基づいて、タッチパネル70a上の垂直成分・水平成分毎に判定できる。所定距離以上をタッチムーブしたことが検出された場合はスライド操作が行なわれたと判定するものとする。タッチパネル70a上に指をタッチしたままある程度の距離だけ素早く動かして、そのまま離すといった操作をフリックと呼ぶ。フリックは、言い換えればタッチパネル70a上を指ではじくように素早くなぞる操作である。所定距離以上を、所定速度以上でタッチムーブしたことが検出され、そのままタッチアップが検出されるとフリックが行なわれたと判定できる(スライド操作に続いてフリックがあったものと判定できる)。更に、複数箇所(例えば2点)を同時にタッチして、互いのタッチ位置を近づけるタッチ操作をピンチイン、互いのタッチ位置を遠ざけるタッチ操作をピンチアウトと称する。ピンチアウトとピンチインを総称してピンチ操作(あるいは単にピンチ)と称する。タッチパネル70aは、抵抗膜方式や静電容量方式、表面弾性波方式、赤外線方式、電磁誘導方式、画像認識方式、光センサー方式等、様々な方式のタッチパネルのうちいずれの方式のものを用いてもよい。タッチパネルに対する接触があったことでタッチがあったと検出する方式や、タッチパネルに対する指やペンの接近があったことでタッチがあったと検出する方式があるが、いずれの方式でもよい。
また、撮像装置本体に限らず、有線または無線通信を介して撮像装置(ネットワークカメラを含む)と通信し、撮像装置を遠隔で制御する制御装置(表示制御装置)にも本発明を適用可能である。撮像装置を遠隔で制御する装置としては、例えば、スマートフォンやタブレットPC、デスクトップPCなどの装置がある。制御装置側で行われた操作や制御装置側で行われた処理に基づいて、制御装置側から撮像装置に各種動作や設定を行わせるコマンドを通知することにより、撮像装置を遠隔から制御可能である。また、撮像装置で撮影したライブビュー画像を有線または無線通信を介して受信して制御装置側で表示できるようにしてもよい。
なお、上述した各実施形態においては、本発明をデジタルカメラに適用した場合を例にして説明したが、これはこの例に限定されない。すなわち、PDA、携帯電話端末や携帯型の画像ビューワ、ディスプレイを備えるプリンタ装置、デジタルフォトフレーム、音楽プレーヤー、ゲーム機、電子ブックリーダーなど、表示部を備えた装置であれば、本発明は適用可能である。
図3はデジタルカメラ100と外部機器300とを示す図である。デジタルカメラ100と外部機器300が接続ケーブル302で接続されると、デジタルカメラ100の表示部28が消灯し(表示なし)、表示部28に表示されていた画面が外部機器300のディスプレイ301に表示される。
<LV撮影モード処理>
図4Aは、デジタルカメラ100でのLV撮影モード処理を示すフローチャートである
。この処理は、不揮発性メモリ56に記録されたプログラムをシステムメモリ52に展開してシステム制御部50が実行することで実現する。
S401では、システム制御部50は、HDR撮影モードに設定されているか否かを判断する。HDR撮影モードに設定されている場合はS402に進み、そうでない場合(SDR撮影モードに設定されている場合)はS422に進む。
S402では、システム制御部50は、デジタルカメラ100が外部機器300と接続されているか否かを判断する。接続されている場合はS403に進み、そうでない場合はS404に進む。
S403では、システム制御部50は、デジタルカメラ100と外部機器300の接続処理を行う。接続処理の詳細は図5を用いて後述する。本実施形態では、外部機器がHDR接続に対応していればHDR接続され、対応していなければ、SDR接続されるものとする。
S404では、システム制御部50(画像処理部24)は、撮像部22で撮像しA/D変換器23でデジタル信号に変換した画像をHDR(HDR画質)で現像する。
S405では、システム制御部50は、LV画像を表示する表示部28または外部機器300がHDR対応(HDR表示に対応している)か否かを判断する。HDR対応の場合はS409に進み、そうでない場合はS406に進む。
S406では、システム制御部50は、HDRアシスト表示の設定が「アシスト1」であるか「アシスト2」であるかを判断する。HDRアシスト表示の設定が「アシスト1」である場合はS407に進み、「アシスト2」である場合はS408に進む。ここで、HDRアシスト表示とは、HDR画像をSDR画像に変換する際に、HDR画像の特定のレンジを優先させてSDR画像へと変換することで、HDR画像データの階調性をユーザが確認できるように画像を表示するための機能である。本実施形態では、HDRアシスト表示の設定は、「アシスト1」と「アシスト2」の2つの設定の間で切り替え(変更)可能である。「アシスト1」は高輝度優先の設定であり、「アシスト2」は低輝度優先の設定である。なお、HDRアシスト表示の設定は、ユーザ操作によって変更可能である。また、HDR画像は、ダイナミックレンジが所定のレンジより広い画像である。また、SDR画像は、ダイナミックレンジが所定のレンジより狭い画像である。
S407では、システム制御部50は、S404で現像したHDRのLV画像に対してアシスト1の設定に応じたSDR変換処理(HDRからSDRに変換する処理)を行い、SDR(SDR画質)でLV画像を表示部28または外部機器300に表示する。なお、システム制御部50は、表示部28または外部機器300に適したサイズへのリサイズ処理も行うものとする。
S408では、システム制御部50は、S404で現像したHDRのLV画像に対してアシスト2の設定に応じたSDR変換処理(HDRからSDRに変換する処理)を行い、SDRでLV画像を表示部28または外部機器300に表示する。なお、システム制御部50は、S407と同様に、表示部28または外部機器300に適したサイズへのリサイズ処理も行うものとする。
S409では、システム制御部50は、S404で現像したHDRのLV画像を、HDRのまま表示部28または外部機器300に表示する。なお、システム制御部50は、S407と同様に、表示部28または外部機器300に適したサイズへのリサイズ処理を行
うものとする。
S410では、システム制御部50は、メニューボタン70eが押下されたか否かを判断する。押下された場合はS411に進み、そうでない場合はS412に進む。
S411では、システム制御部50は、撮影メニュー処理を行いS412に進む。撮影メニュー処理の詳細は図6A、図6Bを用いて後述する。
S412では、システム制御部50は、インフォボタン70gが押下されたか否かを判断する。押下された場合はS413に進み、そうでない場合はS414に進む。
S413では、システム制御部50は、撮影情報の表示を切り替える。撮影情報は、例えば、ヒストグラムやハイライト警告等である。
S414では、システム制御部50は、シャッターボタン61が半押し(SW1)状態であるか否かを判断する。半押し状態である場合はS415に進み、そうでない場合はS420に進む。
S415では、システム制御部50は、上述のAF処理/AE処理を行う。
S416では、システム制御部50は、シャッターボタン61が全押し(SW2)状態であるか否かを判断する。全押し状態である場合はS418に進み、そうでない場合はS417に進む。
S417では、システム制御部50は、シャッターボタン61の半押し(SW1)状態が維持されているか否かを判断する。維持されている場合はS415に進み、そうでない場合はS420に進む。
S418では、システム制御部50は、HDR撮影処理を行う。HDR撮影処理の詳細は図7A〜7Hを用いて後述する。
S419では、システム制御部50は、クイックレビュー表示処理を行う。クイックレビュー表示処理の詳細は図4Bを用いて後述する。
S420では、システム制御部50は、LVボタン76(動画ボタン)が押下されたか否かを判断する。押下された場合はS421に進み、そうでない場合はS438に進む。
S421では、システム制御部50は、S404でHDR現像した画像をHEVC圧縮して、HDR動画ファイルとして記録する。
S422では、システム制御部50は、デジタルカメラ100が外部機器300と接続されているか否かを判断する。接続されている場合はS423に進み、そうでない場合はS424に進む。
S423では、システム制御部50は、デジタルカメラ100と外部機器300の接続処理を行う。接続処理の詳細は図5を用いて後述する。ここで、SDR撮影モードのため、デジタルカメラ100と外部機器300とはSDR接続される。
S424では、システム制御部50(画像処理部24)は、撮像部22で撮像しA/D変換器23でデジタル信号に変換した画像をSDR(SDR画質)で現像する。
S425では、システム制御部50は、S424で現像したSDRのLV画像を、SDRのまま表示部28または外部機器300に表示する。なお、システム制御部50は、S407と同様に、表示部28または外部機器300に適したサイズへのリサイズ処理を行うものとする。
S426〜S433の処理は、上述のS410〜S417の処理と同様のため、説明を省略する。
S434では、システム制御部50は、SDR撮影処理を行う。SDR撮影処理は図7A〜7Hを用いて後述するHDR撮影処理と同様に行われる。なお、SDR撮影処理の場合、S710では、システム制御部50は、本画像としてS707でHDR現像ではなくSDR現像したSDR画像を圧縮する。
S435では、システム制御部50は、クイックレビュー表示処理を行う。クイックレビュー表示処理の詳細は図4Bを用いて後述する。
S436では、システム制御部50は、LVボタン76が押下されたか否かを判断する。押下された場合はS437に進み、そうでない場合はS438に進む。
S437では、システム制御部50は、S424でSDR現像した画像をH264圧縮して、SDR動画ファイルとして記録する。
S438では、システム制御部50は、再生ボタン79が押下されたか否かを判断する。押下された場合はS439に進み、そうでない場合はS440に進む。
S439では、システム制御部50は,再生モード処理を行う。再生モード処理の詳細は図9A〜9H、図10A,10Bを用いて後述する。
S440では、LV撮影モード処理を終了するか否かを判断する。終了する場合は本処理フローを終了し、そうでない場合はS401に進む。
≪クイックレビュー表示処理(S419、S435)≫
図4Bは、本実施形態に係るクイックレビュー表示処理(S419、S435)を示すフローチャートである。この処理は、不揮発性メモリ56に記録されたプログラムをシステムメモリ52に展開してシステム制御部50が実行することで実現する。
S451では、システム制御部50は、クイックレビュー表示が「あり」に設定されているか否かを判断する。「あり」に設定されている場合はS452に進み、そうでない場合(「なし」に設定されている場合)は本処理フローを終了する。
S452では、システム制御部50は、HDR撮影モードで撮影されたか否かを判断する。HDR撮影モードで撮影された場合はS453に進み、そうでない場合(SDR撮影モードで撮影された場合)はS460に進む。
S453では、システム制御部50は、クイックレビュー表示を行う表示部28または外部機器300がHDR対応であるか否かを判断する。HDR対応の場合はS457に進み、そうでない場合はS454に進む。
S454では、システム制御部50は、RAW静止画撮影で撮影したかを判断する。R
AW静止画撮影の場合はS455に進み、そうでない場合(HIEF静止画撮影の場合)はS456に進む。
S455では、システム制御部50は、RAW画像ファイル内の表示用HDR画像をSDR変換(HDRからSDRへの変換)して、SDRで表示部28または外部機器300に表示する。なお、システム制御部50は、表示部28または外部機器300に適したサイズへのリサイズ処理を行ってもよい。
S456では、システム制御部50は、HEIF画像ファイル内の表示用HDR画像をSDR変換(HDRからSDRへの変換)して、SDRで表示部28または外部機器300に表示する。なお、システム制御部50は、S455と同様に、表示部28または外部機器300に適したサイズへのリサイズ処理を行ってもよい。
S457では、システム制御部50は、S454と同様に、RAW静止画撮影で撮影したかを判断する。RAW静止画撮影の場合はS458に進み、そうでない場合(HIEF静止画撮影の場合)はS459に進む。
S458では、システム制御部50は、RAW画像ファイル内の表示用HDR画像をHDRで表示部28または外部機器300に表示する。なお、システム制御部50は、S455と同様に、表示部28または外部機器300に適したサイズへのリサイズ処理を行ってもよい。
S459では、システム制御部50は、HEIF画像ファイル内の表示用HDR画像をHDRで表示部28または外部機器300に表示する。なお、システム制御部50は、S455と同様に、表示部28または外部機器300に適したサイズへのリサイズ処理を行ってもよい。
S460では、システム制御部50は、RAW静止画撮影で撮影したか否かを判断する。RAW静止画撮影の場合はS461に進み、そうでない場合(JPEG静止画撮影の場合)はS462に進む。
S461では、システム制御部50は、RAW画像ファイル内の表示用SDR画像をSDRで表示部28または外部機器300に表示する。なお、システム制御部50は、S455と同様に、表示部28または外部機器300に適したサイズへのリサイズ処理を行ってもよい。
S462では、システム制御部50は、JPEG画像ファイル内の表示用SDR画像をSDRで表示部28または外部機器300に表示する。なお、システム制御部50は、S455と同様に、表示部28または外部機器300に適したサイズへのリサイズ処理を行ってもよい。
S463では、システム制御部50は、シャッターボタン61が押下(半押し、SW1)されたか否かを判断する。押下された場合は本処理フローを終了し、そうでない場合はS464に進む。
S464では、システム制御部50は、クイックレビュー表示(クイックレビュー表示処理による表示)の時間が、所定の設定時間以上経過したか否かを判断する。経過した場合は本処理フローを終了し、そうでない場合はS463に進む。なお、設定時間は、ユーザによって設定および変更が可能であるものとする。
≪接続処理(S403、S423)≫
図5Aは、デジタルカメラ100と外部機器300が接続された場合の接続処理(S403、S423)を示すシーケンス図である。本実施形態では、デジタルカメラ100と外部機器300が接続されているものとして説明する。
S501では、システム制御部50は、デジタル出力I/F90を制御して、外部機器300に対する+5V信号の送信を開始する。送信された+5V信号は接続ケーブル302の+5V信号線(不図示)を通じて、外部機器300に伝送される。外部機器300は、接続ケーブル302の+5V信号を受信し、S502に進む。
S502では、外部機器300は、デジタルカメラ100が接続ケーブル302を介して外部機器300に接続されたことを検知してS503に進む。
S503では、外部機器300は、接続ケーブル302のHPD(Hot Plug Detect)信号線(不図示)を介して、デジタルカメラ100に対するHPD信号(ホットプラグ検知シグナル)の送信を開始する。デジタルカメラ100のデジタル出力I/F90は、送信されたHPD信号を、接続ケーブル302を介して受信する。デジタル出力I/F90は、HPD信号を受信すると、システム制御部50にHPD信号の受信を通知し、S504に進む。
S504では、システム制御部50は、HPD信号の受信の通知によって外部機器300の接続を検知してS505に進む。
S505では、システム制御部50は、デジタル出力I/F90を制御して、接続ケーブル302からEDID(Extended Display Identification Data;拡張ディスプレイ識別データ)要求信号を送信する。送信されたEDID要求信号は接続ケーブル302のEDID信号線(不図示)を通じて、外部機器300に伝送される。外部機器300は、EDID要求信号を受信してS506に進む。
S506では、外部機器300は、接続ケーブル302のEDID信号線(不図示)からEDIDを送信する。デジタルカメラ100のデジタル出力I/F90は、接続ケーブル302を介して、送信されたEDIDを受信する。デジタル出力I/F90は、EDIDを受信すると、システム制御部50にEDIDの受信を通知してS507に進む。
S507では、システム制御部50は、デジタル出力I/F90に対して、S506で受信したEDIDをメモリ32へコピーするよう指示を行う。コピー完了後、システム制御部50は、メモリ32に展開されたEDIDを解析して、外部機器300が受付可能な映像信号(外部機器300の能力)を判断してS508に進む。
S508では、システム制御部50は、HDR信号を出力するか、SDR信号を出力するかを判断する。本実施形態では、システム制御部50は、デジタルカメラ100の設定がHDR有効であって、かつ外部機器300がHDR対応である場合に、外部機器300に対してHDR信号を出力し、それ以外の場合はSDR信号を出力する。なお、外部機器300がHDR対応である場合とは、例えば、S507で判断した外部機器300が受付可能な映像信号にHDR信号が含まれる場合が挙げられる。
S509では、システム制御部50は、デジタル出力I/F90に対して、S508で判断した信号の送信開始を指示する。送信開始の指示を受信したデジタル出力I/F90は、接続ケーブル302を介して、映像信号(SDR信号またはHDR信号)の送信を開始してS510に進む。
S510では、システム制御部50は、接続ケーブル302のTMDS(Transition Minimized Differential Signaling)信号線(不図示)を介して映像信号を外部機器300に出力する。外部機器300は、接続ケーブル302のTMDS信号線(不図示)を介して映像信号を受信してS511に進む。
S511では、外部機器300は、S510で受信した映像信号を解析して、映像信号を表示できる設定にディスプレイ301の駆動を切り替えてS512に進む。
S512では、外部機器300は、S510で受信した映像信号を外部機器300のディスプレイ301に表示する。
図5Bおよび図5Cは、デジタルカメラ100と外部機器300とが接続され、外部機器300に映像が表示されている状態で、映像出力をSDR画像からHDR画像に(または映像出力をHDR画像からSDR画像に)切り替える場合の処理を示す図である。
図5Bは、デジタルカメラ100から外部機器300に出力される映像をSDR画像からHDR画像に切り替える処理を示すシーケンス図である。ここで、デジタルカメラ100と外部機器300との接続は完了しているものとする。
S521では、システム制御部50は、デジタル出力I/F90に対して、SDR映像信号(SDR信号)の送信を指示してS522に進む。
S522では、システム制御部50は、接続ケーブル302のTMDS信号線(不図示)を介してSDR映像信号を外部機器300に出力する。外部機器300は、接続ケーブル302のTMDS信号線(不図示)を介してSDR映像信号を受信してS523に進む。
S523では、外部機器300は、S522で受信したSDR映像信号を外部機器300のディスプレイ301に表示する。デジタルカメラ100がSDR映像信号を出力している間は、S521〜S523の処理を繰り返すことで、外部機器300のディスプレイ301にSDR画像が表示される。デジタルカメラ100が外部機器300への映像出力をSDR画像からHDR画像に切り替えるとS524以降の処理を実行する。
S524では、システム制御部50は、デジタル出力I/F90を制御してSDR映像信号の出力停止を指示してS525に進む。
S525では、システム制御部50は、接続ケーブル302のTMDS信号線(不図示)を介して映像信号の送信(出力)を停止する旨を通知する。外部機器300は、接続ケーブル302のTMDS信号線(不図示)を介してSDR映像信号の送信を停止する旨の通知を受け付けてS526に進む。
S526では、外部機器300は、デジタルカメラ100からの映像の受信が停止したため、外部機器300のディスプレイ301への映像の表示を停止してS527に進む。
S527では、システム制御部50は、デジタル出力I/F90に対して、HDR映像信号の送信を指示してS528に進む。
S528では、システム制御部50は、接続ケーブル302のTMDS信号線(不図示)を介してHDR映像信号を出力する。外部機器300は、接続ケーブル302のTMD
S信号線(不図示)を介してHDR映像信号を受信してS529に進む。
S529では、外部機器300は、S528で受信した映像信号を解析して、HDR映像信号を表示する設定にディスプレイ301の駆動を切り替えてS530に進む。
S530では、外部機器300は、S528で受信したHDR映像信号を外部機器300のディスプレイ301に表示する。このとき、S529〜S530の処理時間は、外部機器300の性能によって異なり、映像が表示されるまで1秒から5秒程度の時間がかかることがある。
図5Cは、デジタルカメラ100から外部機器300に出力される映像をHDR画像からSDR画像に切り替える処理を示すシーケンス図である。ここで、デジタルカメラ100と外部機器300との接続は完了しているものとする。
S541では、システム制御部50は、デジタル出力I/F90に対して、HDR映像信号(HDR信号)の送信を指示し、S542に進む。
S542では、システム制御部50は、接続ケーブル302のTMDS信号線(不図示)を介してHDR映像信号を外部機器300に出力する。外部機器300は、接続ケーブル302のTMDS信号線(不図示)を介してHDR映像信号を受信してS523に進む。
S543では、外部機器300は、S542で受信したHDR映像信号を外部機器300のディスプレイ301に表示する。デジタルカメラ100がHDR映像信号を出力している間は、S541〜S543の処理を繰り返すことで、外部機器300のディスプレイ301にHDR画像が表示される。デジタルカメラ100が外部機器300への映像出力をHDR画像からSDR画像に切り替えるとS544以降の処理を実行する。
S544では、システム制御部50は、デジタル出力I/F90に対しHDR映像信号の出力停止を指示してS545に進む。
S545では、システム制御部50は、接続ケーブル302のTMDS信号線(不図示)へ介して映像信号の送信(出力)を停止する旨を通知する。外部機器300は、接続ケーブル302のTMDS信号線(不図示)を介してHDR映像信号の送信を停止する旨の通知を受け付けてS546に進む。
S546では、外部機器300は、デジタルカメラ100からの映像の受信が停止したため、外部機器300のディスプレイ301への映像の表示を停止してS547に進む。
S547では、システム制御部50はデジタル出力I/F90に対して、SDR映像信号の送信を指示してS548に進む。
S548では、デジタルカメラ100は接続ケーブル302のTMDS信号線(不図示)を介してSDR映像信号を出力する。外部機器300は、接続ケーブル302のTMDS信号線(不図示)を介してSDR映像信号を受信してS549に進む。
S549では、外部機器300は、S548で受信した映像信号を解析して、SDR映像信号を表示する設定にディスプレイ301の駆動を切り替えてS530に進む。
S550では、外部機器300は、S528で受信したSDR映像信号を外部機器30
0のディスプレイ301に表示する。このとき、S549〜S550の処理時間は、外部機器300の性能によって異なり、映像が表示されるまで1秒から5秒程度の時間がかかることがある。
≪撮影メニュー処理(S411、S427)≫
図6A、図6Bは、本実施形態に係る撮影メニュー処理の詳細を示すフローチャートである。この処理は、不揮発性メモリ56に記録されたプログラムをシステムメモリ52に展開してシステム制御部50が実行することで実現する。
S601では、システム制御部50は、HDR撮影モードに設定されているか否かを判断する。HDR撮影モードに設定されている場合はS603に進み、そうでない場合(SDR撮影モードに設定されている場合)はS602に進む。
S602では、システム制御部50は、通常のSDR撮影時のメニューを表示する。S603では、システム制御部50は、HDR撮影時に併用させない機能を無効状態(グレーアウト)にしてメニューを表示する。
S604では、システム制御部50は、ユーザにより、HDR撮影に関する設定項目が選択されたか否かを判断する。選択された場合はS605に進み、そうでない場合はS610に進む。
S605では、システム制御部50は、ユーザによりHDR撮影を行うか否かの設定が有効に切り替わったか否かを判断する。有効に切り替わった場合はS606に進み、そうでない場合はS607に進む。
S606では、システム制御部50は、HDR撮影を行うか否かの設定を有効に変更して、設定値をシステムメモリ52に記録する。
S607では、システム制御部50は、ユーザによりHDRアシスト表示の設定が変更されたか否かを判断する。変更された場合はS608に進み、そうでない場合はS609に進む。なお、HDR撮影を行うか否かの設定が無効の時はHDRアシスト表示の設定を変更できないことが望ましい。
S608では、システム制御部50は、撮影時のHDRアシスト表示の設定を変更し、設定値をシステムメモリ52に記録する。HDRアシスト表示の設定が「する」の場合のバリエーションとして、2つ以上の設定値(選択肢)があってもよい。
S609では、システム制御部50は、ユーザによりHDR設定の終了指示がされたか否かを判断する。終了指示がされなかった場合はS604に進み、終了指示がされた場合はS610に進む。
S610では、システム制御部50は、ユーザにより静止画記録画質の設定項目が選択されたか否かを判断する。選択された場合はS611に進み、そうでない場合はS651(図6B)に進む。
S611では、システム制御部50は、HDR撮影モードに設定されているか否かを判断する。HDR撮影モードに設定されている場合はS612に進み、そうでない場合(SDR撮影モードに設定されている場合)はS614に進む。
S612では、システム制御部50は、HDR撮影用の設定画面を表示する。S613
では、システム制御部50は、HDR撮影用の記録画質をユーザ選択により受け付ける。HDR撮影用の記録画質としては、「RAW画像」、「HDR静止画ファイル」および「RAW+HDR静止画ファイルの2画像同時出力」のいずれかをユーザが選択可能であるものとする。また、画像サイズについても、センサー読み出し時の画素数に近い「Large」、少し小さい「Middle」、さらに小さい「Small」等を選択可能であるものとする。さらに、ファイルサイズ容量を下げる(圧縮する)ための圧縮率も「高画質(低圧縮率)」、「標準(高圧縮率)」、「低画質(高圧縮率)」のいずれかを選択可能であるものとする。
S614では、システム制御部50は、SDR撮影用の設定画面を表示する。S615では、システム制御部50は、SDR撮影用の記録画質をユーザ選択により受け付ける。上述と同様に、SDR撮影用の設定記録画質等も複数の選択肢があるものとする。
S651(図6B)では、システム制御部50は、ユーザにより、動画記録画質の設定項目が選択されたか否かを判断する。選択された場合はS652に進み、そうでない場合はS657に進む。
S652では、システム制御部50は、HDR撮影モードに設定されているか否かを判断する。HDR撮影モードに設定されている場合はS653に進み、そうでない場合(SDR撮影モードに設定されている場合)はS655に進む。
S653では、システム制御部50は、HDR撮影用の設定画面を表示する。S654では、システム制御部50は、HDR撮影用の記録画質のユーザ選択を受け付ける。HDR撮影用の設定記録画質としては、「RAW動画」、「RAW動画+プロキシ動画」、「HDR動画ファイル」および「RAW+プロキシ動画+HDR動画ファイルの3動画同時出力」のいずれかをユーザが選択可能であるものとする。また、画像サイズについては、「8K」、「4K」、「FullHD」、「HD」、「VGA」等が選択可能であるものとする。さらに、ファイルサイズ容量を下げる(圧縮する)ための圧縮率もALL−Iなどの「高画質(低圧縮率)」、IPBなどの「標準」、「低画質(高圧縮率)」等が選択可能であるものとする。その他、フレームレート、放送方式(NTSC/PALなど)が選択可能であってもよい。
S655では、システム制御部50は、SDR撮影用の設定画面を表示する。S656では、システム制御部50は、SDR撮影用の記録画質のユーザ選択を受け付ける。SDR撮影用の設定記録画質としても、HDR撮影用と同様に複数の選択肢が設けられているものとする。
S657では、システム制御部50は、ユーザにより、HDR出力の設定項目が選択されたか否かを判断する。選択された場合はS658に進み、そうでない場合はS660に進む。
S658では、システム制御部50は、ユーザによりHDR出力設定が有効に切り替えられたか否かを判断する。有効に切り替えられた場合はS659に進み、そうでない場合はS660に進む。
S659では、システム制御部50は、HDR出力設定を有効に変更し、設定値をシステムメモリ52に記録する。
S660では、システム制御部50は、ユーザにより、再生時のビューアシストの設定項目が選択されたか否かを判断する。選択された場合はS661に進み、そうでない場合
はS663に進む。
S661では、システム制御部50は、ユーザにより、再生時のビューアシストの設定が有効に切り替えられたか否かを判断する。有効に切り替えられた場合はS662に進み、そうでない場合はS663に進む。
S662では、システム制御部50は、再生時のビューアシスト設定を有効に変更して、設定値をシステムメモリ52に記録する。
S663では、システム制御部50は、ユーザにより、転送時のSDR変換の設定項目が選択されたか否かを判断する。選択された場合はS664に進み、そうでない場合はS665に進む。
S664では、システム制御部50は、転送時のSDR変換設定の有効/無効を切り替える。
S665では、システム制御部50は、ユーザにより、その他の設定項目が選択されたか否かを判断する。選択された場合はS666に進み、そうでない場合はS667に進む。S666では、システム制御部50は、その他の設定項目に対応付けられた処理を行う。
S667では、システム制御部50は、ユーザにより、撮影メニュー処理を終了する指示を受け付けたか否かを判断する。撮影メニュー処理を終了する指示を受け付けた場合は本処理フローを終了し、そうでない場合はS601に進む。
≪HDR撮影処理(S418)≫
図7Aは、本実施形態に係るHDR撮影処理(S418)の詳細を示すフローチャートである。メモリ32に書き込まれたRAWデータを画像処理部24でHDR現像する例について説明する。
デジタルカメラやデジタルビデオカメラ等の撮像装置は、撮影時の光源に応じて撮影画像の色調を補正するホワイトバランス機能を備えている。ホワイトバランス機能は、光源(晴天や曇天等の自然光源、蛍光灯や白熱灯等の人工光源)によって変わる色調の違いを補正し、光源に関わらず白さが同じように見えるようにする機能である。
S701では、システム制御部50は、メモリ制御部15を介して、RAWデータを取得する。
S702では、システム制御部50は、取得したRAWデータに基づいて、白らしい画素を判断する処理(白サーチ枠内判断処理)を行う。
S703では、システム制御部50は、S702の結果に基づいて、ホワイトバランス処理に必要なホワイトバランス係数を算出する。S702、S703の処理(ホワイトバランス係数の算出処理)の詳細について図7Bのフローチャートを用いて後述する。
S704〜S706では、システム制御部50は、階調補正処理に必要な階調補正パラメータを算出する。階調補正パラメータの算出処理の詳細については、図7Dのフローチャートを用いて後述する。
S707では、システム制御部50は、算出したホワイトバランス係数、階調補正パラ
メータ、および種々のHDR用のパラメータを用いて現像を行う。なお、現像パラメータとして、色マトリクス、カメラOETFカーブデータ、色調整パラメータ、ノイズリダクションパラメータ、シャープネスパラメータ等を用いてもよい。カメラOETFとしては、例えばST.2084で規格化されているPQ(Perceptual Quontization)のEOTF(Electro−Optical Transfer Function)の逆特性を想定しているが、カメラ側のOOTF(Opto−Optical Transfer Function)を組み合わせてもよい。もしくはARIB
STD−B67で開発されたHLG(Hybrid Log−Gamma)のOETFを使用してもよい。
S708では、システム制御部50は、S707で現像した画像をリサイズして、2画面比較画像用(簡易表示用の画像)としてMPF(Multi Pixel Format)画像を生成し、圧縮する。
S709では、システム制御部50は、S708で生成したMPF画像をさらにリサイズしてインデックス表示(インデックス再生)などに用いるサムネイル画像を生成し、圧縮する。
S710では、システム制御部50は、本画像としてS707で現像したHDR画像を圧縮する。圧縮する方法はいろいろ考えられるが、例えば、10bitのYUV422のデータであればH.265 (ISO/IEC 23008−2 HEVC)で圧縮すればよい。
S711では、システム制御部50は、ユーザ設定(記録画質設定)によりRAW記録されるか否かを判断する。RAW記録される場合はS712に進み、そうでない場合はS713に進む。
S712では、システム制御部50は、RAW画像を圧縮して記録媒体I/F18を介して記録媒体200に記録する。なお、圧縮されたRAW画像は、ヘッダを付加してファイルとして記録される。圧縮方式としては幾つか考えられるが、劣化のない可逆であるロスレス圧縮や、非可逆ではあるがファイルサイズが小さくなるロッシー圧縮などを用いればよい。またヘッダには、検出メタデータとしてS702の処理結果とS704で求めたヒストグラムおよびS705で求めた顔検出結果を記録する。また、ヘッダの中には、ユーザによりHDR撮影となっていた場合のホワイトバランス係数や階調補正量といったHDR用の現像パラメータや、S708で生成した表示用のMPF画像も併せて記録する。
なお、現像パラメータはSDR撮影であればSDR用の現像パラメータになるが、単写など処理速度に余裕がある場合はHDR撮影時にSDR用の現像パラメータも生成して両方記録しても構わない(図8A、図8C)。また、単写など処理速度に余裕がある時はHDR用の表示用画像とは別に、SDR用の現像パラメータを用いてSDR画質の本画像、MPF画像、サムネイル画像を作成し、HDR用の表示用画像とSDR用の表示用画像を同ファイルに記録してもよい(図8D)。また、サムネイルを表示する際は、画像が小さいのでどのような画像かが分かれば十分であるため、S709で作成するサムネイル画像のみSDR現像画像で作成し保存しても構わない(図8E)。このような構成にすることで、HDRの圧縮方式であるH.265のデコードに対応していない製品でもサムネイル画像のみ表示することも可能になる。
S713では、システム制御部50は、現像したHDR画像を圧縮して静的メタデータもしくは動的メタデータを付加して、ファイルとして、記録媒体I/F18を介して記録媒体200に記録する。静的メタデータとして、CEA−861.3に準拠したディスプ
レイの3原色および白色点のx,y座標、マスタリングディスプレイの最大輝度値、最小輝度値等が挙げられる。また、静的メタデータとして、コンテンツ最大輝度値(Maximum Content Light Level)、フレーム平均輝度レベル(Maximum Frame−average Light Level)等が挙げられる。また、動的メタデータとして、SMPTE ST 2094で定義されているカラーボリューム変換の動的トーンマッピングのメタデータ等が挙げられる。なお、HDR特性をPQ信号で表すには最低限10bitの深度が必要であるが、従来のJPEGフォーマットのでは8bitであるため、新たに静止画HDR用のコンテナを採用する必要がある。そのため、本実施形態では、HEIF(High Efficiency Image File Format)のコンテナを使用する。HEIFは、MPEG(Moving Picture Experts Group)によって開発され、MPEG−H Part 12(ISO/IEC 23008−12)で定義された画像ファイルフォーマットである。HEIFは、本画像だけでなく、サムネイルや複数の時間的に関連ある画像やEXIFやXMPといったメタデータも1つのファイルの中に格納することができるという特徴がある。よって、HEVCでエンコードされた10bitのイメージシーケンスも格納できるため使い回しがよい。
≪ホワイトバランス係数の算出処理(S702、S703)≫
図7Bは、本実施形態に係るホワイトバランス係数の算出処理(S702、S703)の詳細を示すフローチャートである。
S721では、システム制御部50は、デベイヤ処理を行う。RAWデータは、各画素でR,G,Bのいずれかしか信号がない。白サーチを行うためには、色信号に変換する必要があるため、デベイヤ処理を行う。R,G,Bの全チャンネルの信号を生成するデベイヤの方法は幾つかあるが、例えば、ローパスフィルタによる線形補間で信号生成する。
S722では、システム制御部50は、デベイヤ後の信号から光学的な黒の成分を減算する処理を行う。一般的に、RAWデータは、ノイズによる影響があるため光学的な黒(OB;Optical Black)は0ではなく値を持っている。よってデベイヤ後の信号からOB分を減算する必要がある。
S723では、システム制御部50は、取得したRGB信号から色信号Cx、Cyを次の式(1)により算出する。ここで、Cxは色温度を表し、Cyは緑方向補正量に対応している。Yiは輝度値である。
Figure 2021124638
図7CにCxCy平面を図示する。図7Cに示すように、撮像装置において予め白色を高色温度下(例えば日中など)から低色温度下(例えば日暮れ時など)まで撮影し、色評価値Cx、Cyを座標上にプロットすることで、白色を検出するための基準となる白軸1200を定めることができる。実際の光源において白色には若干のばらつきが存在するため、白軸1200の両側に幅を持たせる処理を行う(S724)。これ(幅を持った白軸)を白サーチ枠1201と称する。
S725では、システム制御部50は、デベイヤ後の各画素についてCxCy座標系にプロットし、白サーチ枠1201内に入っているか否かを判断する。
S726では、システム制御部50は、白サーチ枠内に入った画素の中で、積分対象とする画素を輝度方向で制限する明暗除外処理を行う。この処理は、暗すぎる色はノイズの影響を受けやすくなるのでホワイトバランス係数の算出精度が低下してしまうことを防ぐために行われる。同様に、明るすぎる色は各チャンネルのいずれかがセンサー飽和することでR/G比もしくはB/G比のバランスが崩れ正しい色から離れていってしまいホワイトバランス係数の算出精度が低下してしまうことを防ぐために行われる。このとき、SDRでは明度側が例えば+1EVまでの明るさまで対象とするのに対して、HDRでは+2EVまでの明るさまで対象とすることでよりHDRに最適化されたホワイトバランス係数を算出することが可能となる。
S727では、システム制御部50は、白サーチ枠内かつ明暗除外処理のなされたCx、Cyからそれぞれの色評価値の積分値SumR,SumG,SumBを算出する(白ノード分析処理)。
S728では、システム制御部50は、算出した積分値から、次の式(2)によりホワイトバランス係数WBCo_R,WBCo_G,WBCo_Bを算出する。なお、ホワイトバランス係数(WB係数)は、ユーザによって設定されている撮影モード(SDR撮影もしくはHDR撮影)用の値を算出してもよいし、SDR用、HDR用の両方を算出してもよい。
Figure 2021124638
≪階調補正パラメータの算出処理(S704〜S706)≫
図7Dは、本実施形態に係る階調補正パラメータの算出処理(S704〜S706)の詳細を示すフローチャートである。
S731では、システム制御部50は、図7AのS701〜S703の処理で生成したWB係数を用いてWB処理を行う。
S732では、システム制御部50は、ヒストグラム検出を行う。具体的には、システム制御部50は、S731で得られたホワイトバランスのゲイン値を画像データ全体に適用する。さらに、システム制御部50は、ガンマ補正処理を行った画素値(画像)から、輝度情報としてヒストグラムを作成する。ガンマ補正処理は、公知のルックアップテーブルを用いる方法を用いればよいが、現像で用いるガンマ特性と同じガンマ特性を用いることが好ましい。ただし、処理時間やメモリ量の節約のために、折れ線で近似したガンマ特性など、簡略化したガンマ特性を用いてもよい。なお、画像の端の部分は、一般に重要でないことが多く、また撮像レンズによっては周辺光量の低下の影響を受ける部分であるため、周縁部の画素を除いてヒストグラムを作成してもよい。
S733では、システム制御部50は、顔検出の前処理を行う。これは画像データに対して縮小処理、ガンマ処理等を施して、顔を容易に検出しやすいようにするためである。なお、顔検出の前処理は、公知の種々の方法を適用可能である。
S734では、システム制御部50は、前処理後の画像データに対して、公知の方法を用いて顔検出処理を実行する。顔検出処理により、顔と検出された領域(顔領域)と、検出の信頼度とが得られる。
S735では、システム制御部50は、露出補正量(低下量)を補うための階調補正量(階調補正量(A))を第1の階調補正量として算出する。この際、画像の暗部については適正露出になるようにする一方、予め定めた輝度レベル以上の高輝度画素については補正されない(少なくとも、露出補正量を完全には補わない)ように入出力特性の階調補正量を算出する。これにより、階調補正後の明部が白とびすることをさらに抑制することができる。この階調補正量は、露出補正量に応じた複数の補正テーブルとして予め用意しておくことができる。
S736では、システム制御部50は、顔が検出されたか否かを判断する。具体的には、システム制御部50は、S734の顔検出処理により検出された顔領域のうち、信頼度があらかじめ設定した評価閾値より高い顔領域がある場合に、顔が検出されたと判断する。顔が検出された場合はS737に進み、そうでない場合はS741に進む。
S737では、システム制御部50は、検出された顔領域の一部の領域を、顔輝度取得領域として抽出する。顔輝度取得領域は、顔の明るい部分の輝度を取得するための領域であり、その数や位置などに関して特に制限はない。
S738では、システム制御部50は、顔輝度取得領域の各々について、領域に含まれるR画素、G画素、B画素の種類ごとに平均値を求める(顔輝度を算出する)。さらにRGB画素の各平均値に対し、ヒストグラム検出と同様にしてホワイトバランスのゲイン値を適用し、ガンマ補正を行った後、以下の式(3)により輝度値Yに変換する。なお、ヒストグラム検出および顔検出において適用するホワイトバランスのゲイン値は、同一画像データに対してWB処理で使用したゲイン値を用いることが好ましい。輝度ガンマも、理想的には現像と同じものを用いるのが好ましいが、処理時間やメモリ量の節約のために、折れ線で近似したガンマ特性など、簡略化したガンマ特性を用いてもよい。
Figure 2021124638
S739では、システム制御部50は、S738で顔輝度取得領域の各々について求めた輝度値を、適正露出時を想定した値に変換する。これは、画像データが、適正露出よりも低い露出で撮像されていることから、適正露出で撮像した場合よりも顔の輝度が低く検出されることを補正する処理である。輝度値の変換は、露出制御が決定した露出補正量(低下量)を補償するように行ってもよいし、S735で算出した階調補正量を用いて行ってもよい。
S740では、システム制御部50は、検出された顔の輝度の代表値を算出する。代表値としては、例えば、検出されている顔領域の顔輝度取得領域の各々の輝度値に基づいて最大値等の統計量を求めればよい。
S741では、システム制御部50は、ヒストグラム特徴量を検出する。ヒストグラム特徴量は、例えば、ヒストグラムで暗部側から累積度数が1%である画素が属するレベル(SD)、明部側から累積度数が1%である画素が属するレベル(HL)等である。
S742では、システム制御部50は、S741で算出したヒストグラム特徴量を、適正露出での撮像を想定した値に変換する。これは、画像データが、適正露出よりも低い露出で撮像されていることから、適正露出で撮像した場合よりもヒストグラム特徴量が低く検出されることを補正する処理である。輝度値の変換は、露出制御が決定した露出補正量(低下量)を補償するように行ってもよいし、S735で算出した階調補正量を用いて行ってもよい。
S743では、システム制御部50は、目標の補正量の算出を行う。まず、システム制御部50は、顔の代表輝度値、もしくはヒストグラム特徴量に対する目標輝度レベルを求める。そして、システム制御部50は、これらの目標輝度レベルと、画像データ中の輝度の最小値と最大値とに基づいて、スプライン補間などにより、入力輝度レベルに対する出力輝度レベルを定めたルックアップテーブル(入出力特性)を作成する。以下、当該ルックアップテーブルを、階調補正量(B)または第2の階調補正量とも称する。
ここで、HDRではSDRと目標の階調補正量を変えてもよい。図7Eは、SDRで表示した例を示す。図7Fは、HDRで表示した例を示す。被写体の輝度値はいずれも同じ値であるが、背景についてSDRでは高くても100cd/mであるのに対して、HDRでは100cd/mを超えた値となる。その結果、被写体の輝度値は同じであっても、HDRの方が暗く感じる場合がある。これは明度対比と言って、人間の視覚特性に起因する現象である。その場合、図7Gに示すようなSDRで算出した階調補正量に対して、図7Hで示すようなより暗部を持ち上げる補正量を適用することで、見た目として好ましい結果にすることができる。
顔の代表輝度値や画像データのヒストグラム特徴量に対する目標輝度レベルは、経験的に好ましいと考えられる固定値に設定することが可能であるが、代表輝度値やヒストグラム特徴量の値に応じて異なる目標輝度レベルを設定してもよい。この場合、目標輝度レベルを設定するパラメータ(代表輝度値やヒストグラム特徴量)毎に、入力レベルに対する目標輝度レベルの関係を定めたルックアップテーブルを用意しておけばよい。このようにして定めた目標輝度レベルへの変換を実現するための補正特性を、スプライン補間などの方法によって求め、必要であれば階調補正量(B)を適用するルックアップテーブル(又は関係式)として保存する。
S744では、システム制御部50は、S735で算出した階調補正量(A)と、S743で算出した階調補正量(B)を合成する。例えば、システム制御部50は、各入力輝度レベルに対して、まず階調補正量(A)を適用した後に、補正後の輝度レベルに対して階調補正量(B)を適用した結果の輝度値を求め、各入力輝度レベルに対する出力輝度レベルのルックアップテーブルを作成する。
S745では、システム制御部50は、S744で求めた合成補正量(合成階調補正量)の上限値を制限する処理(リミッター処理)を行う。階調補正量(A)と階調補正量(B)を合成することで、補正量が大きくなり、補正後の画像においてノイズ量が目立ちやすくなるため、全体の補正量に制限を設ける。リミッター処理は、各輝度値において許容する最大の補正量をテーブルとして用意しておき、S744で作成したルックアップテーブルの値のうち、最大補正量を超える出力レベルを最大補正量に対応する出力レベルに置換することで実現できる。なお、階調補正量はユーザによって設定されている撮影モード(SDR撮影もしくはHDR撮影)用の値を算出してもよいし、SDR用、HDR用の両方を算出してもよい。
≪データ構造≫
図8Aは、上述の各種記録処理において記録媒体200に記録する静止画RAW画像データの構造を示す。以下で例示するファイルフォーマットはISO/IEC14496−12で規定されているISOベースメディアファイルフォーマットである。そのため、本ファイルフォーマットは木構造を持ちボックスと呼ばれる各ノードを持っている。また、各ボックスは複数のボックスを子要素として持つことができる。
画像データ(画像ファイル)801は、先頭にファイルタイプの記述のためのボックスftyp(802)、全てのメタデータを含むボックスmoov(803)、トラックのメディアデータ本体のボックスmdat(808)、その他のボックス(807)を有する。前述のボックスmoovは子要素として、MetaData(805)を格納するボックスuuid(804)と、ImageDataを参照する情報を格納するtrakボックス(806)とを有する。MetaDataには、画像のメタデータ、例えば、画像の作成日時、撮影時条件、HDRまたはSDRで撮影したかどうかの情報、その他の撮影情報が記載されている。前述のボックスmdatは子要素として、撮影した静止画像データであるImageData(809)を持つ。
ここで、SDRで撮影したRAW画像と、HDRで撮影したRAW画像とでは、ImageData(809)に記録される画像が異なる。
図8Bは、SDRで撮影したRAW画像が記録されるImageData(809)を示す図である。ImageData(809)は、SDR画質で現像してJPEG圧縮したTHM画像(821)、MPF画像(822)、本画像(823)、RAW画像(824)、およびRAW現像パラメータ(825)を持つ。
図8Cは、HDR撮影時の表示用画像としてHDR画像のみを持つImageData(809)を示す図である。ImageData(809)は、HDR画質現像しHEVC圧縮したTHM画像(826)、MPF画像(827)、本画像(828)、RAW画像(824)、およびRAW現像パラメータ(825)を持つ。
図8Dは、HDR撮影時の表示用画像としてHDR画像とSDR画像の両方を持つImageData(809)を示す図である。ImageData(809)は、SDR画質現像しJPEG圧縮したTHM画像(821)、MPF画像(822)、本画像(823)とHDR画質現像しHEVC圧縮したTHM画像(826)を持つ。また、ImageData(809)は、MPF画像(827)、本画像(828)とRAW画像(824)、RAW現像パラメータ(825)を持つ。
図8Eは、HDR撮影時のTHM画像のみSDR画像で、MPF画像と本画像はHDR画像のImageData(809)を示す図である。ImageData(809)は、SDR画質現像しJPEG圧縮したTHM画像(821)、HDR画質現像しHEVC圧縮したMPF画像(827)、本画像(828)、RAW画像(824)、RAW現像パラメータ(825)を持つ。
なお、本実施形態で示したファイルフォーマットは一例であり、必要に応じて他のボックスを有してもよい。また、表示用画像をmoov(803)内のボックスや、その他のボックス(807)に持つ構成としてもよい。
≪再生モード処理(SDR)(S439)≫
図9Aは、表示部28を使用した再生モード処理(S439)の詳細を示すフローチャートである。この処理は、不揮発性メモリ56に記録されたプログラムをシステムメモリ52に展開してシステム制御部50が実行することで実現する。
S901では、システム制御部50は、インデックス再生か否かを判断する。インデックス再生の場合はS902に進み、そうでない場合(通常の再生の場合)はS903に進む)。
S902では、システム制御部50は、再生(表示)する画像の枚数を決定する。S903では、システム制御部50は、再生する画像を決定する。S904では、システム制御部50は、再生する画像の描画処理を行う。描画処理の詳細は、図9Bを用いて後述する。
S905では、システム制御部50は、表示する全ての画像の描画が完了したか否かを判断する。完了した場合はS906に進み、そうでない場合はS903に進む。
S906では、システム制御部50は、表示部28へ画像出力を行い、本処理フローを終了する。
なお、システム制御部50は、以下に示す操作受付処理(不図示)を行ってもよい。まず、システム制御部50は、ユーザによりメニューボタン70e押下が行われたか否かを判断する。押下されたと判断された場合はメニュー表示処理を行う。次に、システム制御部50は、ユーザによりシャッターボタン61押下が行われたか否かを判断する。押下されたと判断された場合は再生モードを終了し、撮影モード処理を行う。さらに、システム制御部50は、ユーザにより電源スイッチ72が操作され電源がオフされたか否か判断する。電源がオフされたと判断された場合は電源オフ処理を実行する。また、システム制御部50は、ユーザにより画像切替操作がされたか否かを判断する。画像切替操作がされたと判断された場合はS903に進み、次の画像の再生処理を行う。
図9Bは、描画処理(S904)の詳細を示すフローチャートである。
S911では、システム制御部50は、再生する画像の情報を取得する。S912では、システム制御部50は、再生する画像を決定する(読込画像選択)。再生する画像を決定する処理の詳細は、図9Cを用いて後述する。
S913では、システム制御部50は、再生する画像を記録媒体200から読み出す。S914では、システム制御部50は、再生する画像の伸長処理を行う。S915では、システム制御部50は、S914で伸長処理を施した画像データから画素ごとの輝度データを収集する。この輝度データとは例えば輝度情報であり、ヒストグラム処理やハイライト警告処理などに用いる。
S916では、システム制御部50は、再生する画像(読込画像)がHDR画像であるか否かを判断する。HDR画像である場合はS917に進み、そうでない場合(SDR画像である場合)はS920に進む。
S917では、システム制御部50は、再生時のHDRアシスト表示の設定が「アシスト1」であるか否かを判断する。「アシスト1」の場合はS918に進み、そうでない場合(「アシスト2」の場合)はS919に進む。
S918では、システム制御部50は、S914で伸長した画像に対して「アシスト1」の設定に応じたSDR変換(HDRからSDRへの変換)を行う。
S919では、システム制御部50は、S914で伸長した画像に対して「アシスト2
」の設定の応じたSDR変換(HDRからSDRへの変換)を行う。
S920では、システム制御部50は、画像に対して、表示部28に適したサイズへの拡縮処理を行う。S921では、システム制御部50は、生成した画像の配置を決定して画像を配置し、描画処理を終了する。
図9C〜図9Hは、読込画像選択処理(S912)の詳細を示すフローチャートである。
S926では、システム制御部50は、取得した画像が再生可能であるか否かを判断する。再生可能である場合はS927に進み、そうでない場合はS936に進む。
S927では、システム制御部50は、再生する画像が静止画像であるか否かを判断する。静止画像である場合はS928に進み、そうでない場合はS935に進む。
S928では、システム制御部50は、再生する画像がRAW画像であるか否かを判断する。RAW画像である場合はS929に進み、そうでない場合はS930に進む。
S929では、システム制御部50は、再生するRAW画像がHDRで撮影されたRAW画像であるか否かを判断する。HDRで撮影されたRAW画像である場合はS931に進み、そうでない場合(SDRで撮影されたRAW画像である場合)はS932に進む。このときの判断は図8A〜図8Eで説明した、RAWファイル内にあるメタデータを用いて行われる。
S930では、システム制御部50は、RAW画像でないと判断された静止画像がHDRで撮影された画像か否かを判断する。HDRの場合はS933に進み、そうでない場合(SDRの場合)はS934に進む。本実施形態ではHDRで撮影した画像はHEIFファイルとして記録、SDRで撮影した画像はJPEGファイルとして記録するため、HEIFファイルかJPEGファイルかでHDR画像かSDR画像かを判断するものとする。なお、HEIFファイル内のメタデータを使用してHDR画像かSDR画像かを判断してもよい。
S931では、システム制御部50は、HDRで撮影されたRAW画像ファイルから再生に使用する画像データを選択する。
S932では、システム制御部50は、SDRで撮影されたRAW画像ファイルから再生に使用する画像データを選択する。
S933では、システム制御部50は、HDR現像した静止画像ファイルから再生に使用する画像データを選択する。
S934では、システム制御部50は、SDR現像した静止画像ファイルから再生に使用する画像データを選択する。
S935では、システム制御部50は、動画ファイルの中から表示すべき画像データ(フレーム)を選択する。
S936では、システム制御部50は、再生画像の非表示処理を行う。この場合、再生できない画像ということをユーザに知らせるために再生不可であることを示す情報が表示部28に表示される。
図9Dは、HDRで撮影されたRAW画像ファイルから再生に使用する画像データを選択する処理(S931)の詳細を示すフローチャートである。
S941では、システム制御部50は、インデックス再生か否かを判断する。インデックス再生の場合はS942に進み、そうでない場合(通常再生の場合)はS943に進む。
S942では、システム制御部50は、インデックス再生の再生枚数が36枚以上であるか否かを判断する。36枚以上である場合はS945に進み、そうでない場合はS944に進む。なお、本実施形態は36枚以上であるか否かに応じて判断しているが、枚数の閾値は一例である。また、表示部28の大きさによって枚数の閾値を変更してもよい。
S943では、システム制御部50は、「表示用 HDR 本画像(HEVC)」(828)を再生する画像データ(読込画像)として決定する。
S944では、システム制御部50は、「表示用 HDR MPF画像(HEVC)」(827)を再生する画像データとして決定する。
S945では、システム制御部50は、「表示用 HDR THM画像(HEVC)」(826)を再生する画像データとして決定する。
図9Eは、HDRで撮影されたRAW画像ファイルから再生に使用する画像データを選択する処理(S931)の別の例を示すフローチャートである。具体的には、HDRで撮影されたRAW画像ファイルがSDRの表示用画像を持つ場合にRAW画像ファイルから再生に使用する画像データを選択する処理の詳細を示すフローチャートである。
S951では、システム制御部50は、インデックス再生であるか否かを判断する。インデックス再生である場合はS952に進み、そうでない場合(通常再生の場合)はS953に進む。
S952では、システム制御部50は、インデックス再生の再生枚数が36枚以上であるか否かを判断する。36枚以上である場合はS955に進み、そうでない場合はS954に進む。
S953〜S955では、システム制御部50は、再生するRAW画像ファイルにSDR画像が含まれているか否かを判断する。このときの判断は図8A〜図8Eで説明した、RAWファイル内にあるメタデータを用いて行われる。
S956では、システム制御部50は、「表示用 HDR 本画像(HEVC)」(828)を再生に使用する画像データとして決定する。
S957では、システム制御部50は、「表示用 SDR 本画像(JPEG)」(823)を再生に使用する画像データとして決定する。
S958では、システム制御部50は、「表示用 HDR MPF画像(HEVC)」(827)を再生に使用する画像データとして決定する。
S959では、システム制御部50は、「表示用 SDR MPF画像(JPEG)」(822)を再生に使用する画像データとして決定する。
S960では、システム制御部50は、「表示用 HDR THM画像(HEVC)」(826)を再生に使用する画像データとして決定する。
S961では、システム制御部50は、「表示用 SDR THM画像(JPEG)」(821)を再生に使用する画像データとして決定する。
図9Fは、HDR現像静止画像ファイルから再生に使用する画像データを選択する処理(S933)の詳細を示すフローチャートである。
S971では、システム制御部50は、インデックス再生であるか否かを判断する。インデックス再生の場合はS972に進み、そうでない場合(通常再生の場合)はS973に進む。
S972では、システム制御部50は、インデックス再生の再生枚数が36枚以上であるか否かを判断する。36枚以上である場合はS975に進み、そうでない場合はS974に進む。
S973では、システム制御部50は、「HDR 本画像(HEVC)」(不図示)を再生に使用する画像データとして決定する。
S974では、システム制御部50は、「HDR MPF画像(HEVC)」(不図示)を再生に使用する画像データとして決定する。
S975では、システム制御部50は、「HDR THM画像(HEVC)」(不図示)を再生に使用する画像データとして決定する。
図9Gは、SDRで撮影されたRAW画像ファイルから再生に使用する画像データを選択するフローチャートである。
S981では、システム制御部50は、インデックス再生であるか否かを判断する。インデックス再生の場合はS982に進み、そうでない場合(通常再生の場合)はS983に進む。
S982では、システム制御部50は、インデックス再生の再生枚数が36枚以上であるか否かを判断する。36枚以上である場合はS985に進み、そうでない場合はS984に進む。
S983では、システム制御部50は、「表示用 SDR 本画像(JPEG)」(823)を再生に使用する画像データとして決定する。
S984では、システム制御部50は、「表示用 SDR MPF画像(JPEG)」(822)を再生に使用する画像データとして決定する。
S985では、システム制御部50は、「表示用 SDR THM画像(JPEG)」(821)を再生に使用する画像データとして決定する。
図9Hは、SDR現像静止画像ファイルから再生に使用する画像データを選択する処理(S934)の詳細を示すフローチャートである。
S991では、システム制御部50は、インデックス再生であるか否かを判断する。インデックス再生の場合はS992に進み、そうでない場合(通常再生の場合)はS993に進む。
S992では、システム制御部50は、インデックス再生の再生枚数が36枚以上であるか否かを判断する。36枚以上である場合はS995に進み、そうでない場合はS994に進む。
S993では、システム制御部50は、「SDR 本画像(JPEG)」(不図示)を再生に使用する画像データとして決定する。
S994では、システム制御部50は、「SDR MPF画像(JPEG)」(不図示)を再生に使用する画像データとして決定する。
S995では、システム制御部50は、「SDR THM画像(JPEG)」(不図示)を再生に使用する画像データとして決定する。
≪再生モード処理(HDR)(S439)≫
図10Aは、外部機器300を使用した再生モード処理(S439)の詳細を示すフローチャートである。この処理は、不揮発性メモリ56に記録されたプログラムをシステムメモリ52に展開してシステム制御部50が実行することで実現する。
S1001では、システム制御部50は、デジタルカメラ100が外部機器300と接続されているか否かを判断する。接続されていると判断された場合はS1002に進み、そうでない場合はS1005に進む。
S1002では、システム制御部50は、再生時のHDR設定が有効であるか否かを判断する。再生時のHDR設定は、「HDR再生する」、「HDR再生しない」、「撮影モード連動」を選択および設定することが可能であるものとする。また、「HDR再生する」は、再生する画像がHDR画像かSDR画像かに関係なく、外部機器300がHDRに対応していれば、HDR出力するモードである。「HDR再生しない」は、SDR出力するモードである。「撮影モード連動」は、再生時の出力を撮影モードに連動させるモードであり、「HDR撮影」が「する」に設定されている場合は、再生時もHDR出力し、「HDR撮影」が「しない」に設定されている場合は再生時もSDR出力するモードである。S1002において、「HDR再生する」の場合はS1003に進み、「HDR再生しない」の場合はS1005に進む。また、「撮影モード連動」の場合は、S606で設定した「HDR撮影」が「する」の場合はS1003に進み、「しない」の場合はS1005に進む。
S1003では、システム制御部50は、外部機器300がHDRに対応したディスプレイであるか否かを判断する。HDRに対応したディスプレイである場合はS1004に進み、そうでない場合はS1005に進む。
S1004では、システム制御部50は、外部機器300にHDRの映像(信号)を出力する。
S1005では、システム制御部50は、外部機器300にSDRの映像を出力する。
S1006〜S1008,S1010〜S1011は図9Aで説明した、S901〜S903,S905〜S906と同じであるため説明は省略する。S1009の詳細は、図
10Bを用いて後述する。
図10Bは、外部機器300を使用した再生モード処理での描画処理(S1009)の詳細を示すフローチャートである。
S1021〜S1025,S1028,S1029は図9Bで説明した、S911〜S915,S920,S921と同じであるため説明は省略する。
S1026では、システム制御部50は、再生する画像がHDR画像であるか否かを判断する。HDR画像である場合はS1028に進み、そうでない場合(SDR画像である場合)はS1027に進む。
S1027では、システム制御部50は、HDR変換(SDRからHDRへの変換)を行う。
<再生メニュー処理>
図11Aは、本実施形態に係る再生メニュー処理の詳細を示すフローチャートである。この処理は、不揮発性メモリ56に記録されたプログラムをシステムメモリ52に展開してシステム制御部50が実行することで実現する。
S1101では、システム制御部50は、RAW現像の設定項目(不図示)におけるユーザ設定を参照して、RAW現像するか否かを判断する。RAW現像する場合はS1102に進み、RAW現像しない場合はS1103に進む。
S1102では、システム制御部50は、ユーザ指定のRAW画像ファイルに対してRAW現像処理を行う。例えば、システム制御部50は、HDR現像を行ってHEIFファイルとして保存したり、SDR現像してJPEGファイルとして保存したりする。RAW現像処理の詳細は図11Bを用いて後述する。
S1103では、システム制御部50は、HDRファイルのSDR変換の設定項目(不図示)を参照して、SDR変換(HDRからSDRへの変換)するか否かを判断する。SDR変換する場合はS1104に進み、SDR変換しない場合はS1105に進む。
S1104では、システム制御部50は、ユーザ指定のHDR画像ファイルに対してSDR変換を行う。HDR画像は、OETFがPQ、色域がBT.2020などの色空間で生成された画像であるため、SDRのγ2.2、sRGBなどの色空間にトーンマッピングおよびガマットマッピング処理を行う必要がある。具体的な方法としては公知の技術を用いればよいが、例えば適正露出をSDRと揃えるようなトーンマッピングを行うとSDRと比較して明るさを合わせた結果を得ることができる。
S1105では、システム制御部50は、ファイル転送の設定項目(不図示)を参照してファイル転送するか否かを判断する。ファイル転送する場合はS1106に進み、ファイル転送しない場合はS1107に進む。
S1106では、システム制御部50は、ユーザ指定の画像ファイルに対して転送処理を行う。HDR画像ファイルを転送する際、受信先がSDR表示しかできない場合にはS1104で示すSDR変換をカメラ内で実施してからSDR画像ファイルとして転送してもよい。
S1107では、システム制御部50は、再生メニュー処理を終了するか否かを判断す
る。再生メニュー処理を終了する場合は本処理フローを終了し、そうでない場合はS1101に進む。
図11Bは、RAW現像処理(S1102)を行う各機能の機能ブロック図である。記録媒体200に記録されている撮影されたRAW画像1111をシステム制御部50が読み出し、画像処理部24でRAW現像処理が行われる。RAW画像の各画素は、各々単一の色プレーンにおける強度のみを示す。なお、RAW画像としてSDR撮影されたときのRAW(SDR)とHDR撮影されたときのRAW(HDR)が存在する。また、現像時にRAW(SDR)をそのままSDR現像する場合と、HDR現像する場合も有り得る。反対に、RAW(HDR)をHDR現像する場合と、SDR現像する場合もある。ホワイトバランス部1112は、白をより白くする処理を行う。RAW(HDR)をHDR現像する場合は、ファイルに記録されているHDR用のホワイトバランス係数を用いてホワイトバランス処理を実施する。また、SDR現像する場合は、ファイルに格納されているSDR用のホワイトバランス係数を生成して、ホワイトバランス処理を実施する。なお、RAW画像にHDR用、SDR用の両方のホワイトバランス係数が記録されている場合は、適宜必要な方を用いればよい。
色補間部1113は、ノイズリダクションや色モザイク画像を補間することによって、全ての画素においてR、G、Bの色情報が揃ったカラー画像を生成する。生成されたカラー画像から、マトリクス変換部1114およびガンマ変換部1115を経て基本的なカラー画像が生成される。その後、色輝度調整部1116で画像の見栄えを調整するための処理がカラー画像に対し行われる。例えば、夕景を検出してその彩度を強調するといった画像補正がシーンに応じて行われる。階調補正も同様に実施するが、RAW(HDR)をHDR現像する場合は、ファイルに格納されているHDR用の階調補正量を用いて階調補正を実施する。SDR現像する場合は、ファイルに記録されている顔検出結果、ヒストグラムを用いてSDR用の階調補正量を算出し階調補正を実施する。なお、RAW画像にHDR用、SDR用の両方の階調補正量が記録されている場合は、適宜必要な方を用いればよい。
所望の色調整を行った画像に対して、圧縮部1117で高解像度画像をJPEGやHEVC等の方法で圧縮し、記録部1118でフラッシュメモリ等の記録媒体に記録する現像画像が生成される。なお、先述したHEIFコンテナには複数の画像を格納できるので、HDR現像した画像の他にSDR現像した画像も含めて格納しても構わない。
<OSD輝度設定処理>
図12Aは、本実施形態に係るOSD輝度設定処理の一例を示すフローチャートである。この処理は、不揮発性メモリ56に記録されたプログラムをシステムメモリ52に展開してシステム制御部50が実行することで実現する。この処理は、HDRディスプレイにおいてOSDの情報表示を行う際に、OSDの輝度を調整(設定)する処理である。
S1201では、システム制御部50は、OSDの表示先のディスプレイ(本実施形態では、外部機器300)がHDR表示に対応しているか否かを判断する。HDR表示に対応している場合はS1202に進み、そうでない場合はS1206に進む。
S1202では、システム制御部50は、表示する対象の画像が1枚であるか否かを判断する。1枚の場合はS1203に進み、そうでない場合(複数の場合)はS1204に進む。
S1203では、システム制御部50は、表示する対象の画像(1枚)に基づいて、OSDの輝度階調値(白の信号値)を決定する。画像に基づいてOSDの輝度階調値を決定
する処理の詳細は、図12Bを用いて後述する。
S1204では、システム制御部50は、表示する対象の画像(複数)に基づいて、OSDの輝度階調値を決定する。画像に基づいてOSDの輝度階調値を決定する処理の詳細は、図12Bを用いて後述する。
S1205では、システム制御部50は、ディスプレイの表示可能輝度を取得する。これは、S1203またはS1204で決定したOSDの輝度階調値についてディスプレイ側が表示可能であるか否かを判断するためである。ディスプレイの表示可能輝度を取得する方法は、例えば、ディスプレイの表示輝度情報を含むEDID情報をDDI(Display Data Channel)を利用して取得する。なお、前提として、グラフィックボードとディスプレイ双方がDDIをサポートしていることが必要である。なお、ディスプレイの表示輝度情報を取得できない場合には、予め用意された想定ディスプレイ表示輝度からユーザによって選択された表示輝度を取得してもよい。想定ディスプレイ表示輝度は、例えば、VESAのDisplayHDR規格に合わせた、1000cd/m、600cd/m、400cd/mや、UltraHD PremiumLOGO準拠の1000cd/m、500cd/m等が挙げられる。
S1206では、システム制御部50は、SDR変換画像(SDR変換後の画像;SDR画像)に基づいてOSDの輝度階調値を決定する。例えば、SDR変換画像を構成する全画素の輝度階調値うち、最大となる輝度階調値を算出し、当該最大となる輝度階調値をOSDの輝度階調値を決定する。SDRの場合は色域Rec.709、ガンマ2.2などであるため輝度階調値は相対値となる。しかし、昨今HDRディスプレイの普及に伴い、HDRディスプレイでSDR表示をした際のピーク輝度もより高輝度になってきている。ここで従来通りのSDR表示をすると、例えば、白の輝度階調値(白輝度)である255(8bit)が1000cd/mとなり、HDR同様に眩しすぎるという問題が出てくる懸念がある。EDID情報でSDRディスプレイのピーク輝度がわかる場合は、OSDの白の輝度階調値として、HDR向けの方法(S1202以降の処理)と同様の方法で決定した輝度階調値に対応するSDRのコード値を設定すればよい。
S1207では、システム制御部50は、OSDの輝度階調値を調整する。具体的には、システム制御部50は、S1203またはS1204で決定したOSDの輝度階調値と、S1205で取得したディスプレイの表示可能輝度とのうち、小さい方の輝度階調値を最終的なOSDの輝度階調値として決定する。
S1208では、システム制御部50は、OSDのうちグレー文字の輝度階調値を決定する。グレー文字は、当該グレー文字で表示されている機能が無効であることを示すOSDである。グレー文字の輝度階調値を決定する処理は、図12Cを用いて後述する。
S1209では、システム制御部50は、決定した輝度階調値(OSDの輝度階調値とグレー文字の輝度階調値)を設定する。
図12Bは、本実施形態におけるOSDの輝度階調値(白の信号値)を決定する処理(S1203、S1204)の詳細を示すフローチャートである。
S1211では、システム制御部50は、表示画像を構成する全画素のうち最大となる輝度階調値を取得する。例えば、システム制御部50は、表示画像の輝度信号のヒストグラムを解析し、最も高輝度側のbinの信号値(輝度信号の最大値)を取得する。ここで、単純に最大値を選択すると、輝点の信号値などの極めて頻度が低い値を取得してしまい見た目との相関が低くなってしまうため、例えば、ヒストグラムの上位(高輝度側)1%
の信号値の平均値を最大値の代わりに取得してもよい。また、表示する対象の画像が複数の場合(S1204の場合)は、複数の画像のそれぞれから最大となる輝度階調値を取得し、取得した複数の輝度階調値の最大値、最小値、平均値、中央値、最頻値等を取得する。
S1212では、システム制御部50は、S1211で取得した輝度階調値が、あらかじめ保持している最小限の輝度階調値(所定の値)を下回る場合に、当該最小限の輝度階調値をOSDの輝度階調値として決定する。S1211で取得した最大値に合わせてOSDを表示すると、暗い画素のみのシーン(ローキーなシーン)の場合、OSDも暗くなってしまう。そのため、本実施形態では、OSDの輝度として最小限の輝度値を予め保持しておき、S1211で取得した最大値が当該最小限の輝度値を下回る場合は、最小限の輝度値をOSDの輝度値として設定する。最小限の輝度値として、例えば、ITU−R BT.1886のAppendixにデファクトスタンダードとして記載されている100cd/mを用いることができる。
S1213では、システム制御部50は、上述の処理で決定された輝度階調値をOSDの輝度階調値として設定する。すなわち、OSD(グラフィック画像)の輝度をL1、表示画像(HDR画像)の輝度をL2とすると、L1=f(L2)は広義の増加関数であると捉えることもできる。なお、表示画像の輝度が高くなるほど、OSDの輝度が高くなればよく、表示画像の輝度に比例してOSDの輝度が線形に高くなってもよく、階段状に(ステップ関数で)高くなってもよい。
図12Cは、OSDのうちグレー文字の輝度階調値を決定する処理(S1208)の詳細を示すフローチャートである。
S1221では、システム制御部50は、SDR表示時の白およびグレーの輝度階調値を取得する。例えば、システム制御部50は、SDR表示時の白の輝度階調値として255(8bit)、SDR表示時のグレーの輝度階調値として128(8bit)を取得する。
S1222では、システム制御部50は、S1221で取得した値をICtCp値に変換する。具体的には、SDRの白とグレーの信号値は、一般に公開されているDolbyのWhitePaper Version7.2(ICtCp_DolbyWhitePaper.pdf)に記載されている変換式によりXYZ値からICtCp値に変換される。
S1223では、システム制御部50は、白のICtCp値とグレーのICtCp値との差分ΔI(知覚差異)を算出する。なお、SDRの輝度は相対輝度であるため文字白は常に100cd/mとは限らない。200cd/mをSDRの文字白として想定する場合などは、ICtCpへの変換式の途中のXYZ色空間で線形スケーリングすることで対応できる。
S1224では、システム制御部50は、HDRについてS1207で決定したOSDの輝度階調値を取得する。
S1225では、システム制御部50は、SDR同様に、S1224で取得した値をICtCpに変換する。
S1226では、システム制御部50は、グレー文字のICtCp値を算出する。HDRでは、画像のOETFがPQであれば、コード値と輝度値が1対1対応のため先述の線
形スケーリングは不要である。画像のOETFがHLGの場合は、相対値であるためSDR同様に所望のスケーリングが必要である。この際、想定しているシステムガンマも考慮に入れる必要がある。そして、SDR時の白とグレーの知覚差異をHDRでも実現するためには、HDR時の白のICtCp値から知覚差異ΔIを減算したICtCp値をHDR時のグレーのICtCp値とすればよい。
S1227では、システム制御部50は、このようにして算出したHDR時のグレー文字のICtCp値からLMS、XYZ、RGBを経由して輝度階調値(Y)を算出する。
S1228では、システム制御部50は、HDR表示時のOSDにおけるグレー文字の輝度階調値を設定する。
図13A〜図13Cは、従来手法に係る表示画像を示す図である。従来から、撮像装置の背面液晶等に撮影画像を再生表示する際、撮影時情報(秒時、絞り値、ISO感度、画像名称)や再生時の状態情報などのOSD(グラフィック画像)を撮影画像に重畳させて表示していた。
例えば、SDR画像の場合は図13Aに示すように、SDR画像の取り得る最大(上限)の階調値とOSDの白とが同じ8bitのコードで最大値255とするのが一般的であった。しかし、HDR画像の場合は、特にPQ規格に則った画像データの場合は、10bitのコードでHDR画像に存在する最大の階調値が1023にはならないケースが一般的である。そのため、OSDの白に最大値1023を割り当ててしまうと(ディスプレイの性能にも依るが)、図13Bに示すように、画像よりもOSDの方が明るく輝いて見え眩しく表示されてしまう。一方で、背景の画像は相対的に暗く感じ、見にくいといった課題が懸念される。そこで、例えば、OSDの白に階調値520を割り当てると、図13Cのように眩しくはなくなる。ここで、520という値は、ITU−R BT.1886のAppendixにデファクトスタンダードとして記載されている100cd/mの輝度に相当するPQコード値である。しかし、背景の画像データが明るい場合などには相対的に暗く感じ見にくくなるようなケースが懸念される。また、OSDの白を暗くするとグレーに感じる場合があるが、この場合、グレーは無効(Disable)な機能を示すことが多々あるため、ユーザが誤解してしまうことも懸念される。
図13D、図13Eは、本実施形態に係る表示画像を示す図である。図13Dに示すように、背景画像の最大輝度階調値とOSD(グラフィック画像)の白文字の輝度階調値とが同じであるためOSDの視認性が向上している。また、図13Eに示すように、背景画像の最大輝度が、表示する画像毎に異なる場合であっても、その時の背景画像の最大輝度にOSDの白文字の輝度を合わせることでOSDを常に視認性を良くすることができる。以上、説明したように実施形態1によると、高輝度を表示可能なHDRディスプレイであっても、背景画像に重畳させたOSDを視認性良く見せることが可能となる。
また、上述の処理により、図14(SDR表示)に示すOSDの白い箇所(1401)に対するグレーの箇所(グレーの文字または記号)(1402)の知覚差異は、HDR表示に切り替わって白の輝度階調値が変化しても維持される。そのため、SDRの時と同じ感覚でグレー輝度を知覚することが可能となる。
(実施形態2)
次に、本発明の実施形態2について説明する。実施形態1では背景画像の最大輝度階調値に基づいてOSDの輝度階調値を決定した。これに対して、実施形態2では、背景画像の撮影条件に基づいて、OSDの輝度階調値を決定する点が実施形態1と異なる。
具体的には、図12AのS1203またはS1204の処理で、撮像時の入力ダイナミックレンジ設定と現像時のガンマ設定に応じてOSDの輝度階調値を決定する。PQでは1023が10000cd/mに対応しているが、入力ダイナミックレンジが狭いと出力として1023まで使い切らないことが有り得る。実際に使用される出力信号の最大値は現像時のガンマカーブに依存し、コントラストが高い特性のガンマでは出力信号の最大値も高くなる。従って、例えば、撮影条件として、撮影時の撮影モードにおいて、Dレンジ設定が狭い場合、広い場合、現像時のガンマ設定(現像モード)が高コントラストの場合、標準コントラストの場合で、4通りの組み合わせに応じた最大信号値が存在することになる。図15は、撮影条件によって決定される4通りの最大信号値および最大輝度値の一例を示す図である。OSDの白の輝度階調値として、撮影条件に対応する最大信号値を割り当てればよい。
以上説明したように、実施形態2では、画像の画素値ではなく、画像の撮影条件に基づいてOSDの白の輝度階調値を決定することで、OSDの視認性を向上させる。例えば、画像再生において複数の画像を送りながら順次閲覧するときに、コンテンツの最大輝度値が画像毎にばらばらであっても、OSDの白の輝度階調値は変化せず、ちらつきを抑え視認性を良くすることが可能となる。
ここで、撮影条件が異なる複数の画像を送りながら順次閲覧する場合には、やはりちらつきが生じる懸念がある。そこで、図16に示すように、1枚目と2枚目で撮影条件が異なる場合、OSDの輝度を徐々に変化させるようにしてもよい(1601)。2枚目から3枚目への画像送りの場合も同様に輝度を徐々に変化させる(1602)。ただし、画像送りボタン(不図示)を押下し続ける等の操作によって高速で画像送りが行われる場合は、輝度を徐々に変化させなくてもよい。この場合、例えば、1枚目の輝度を維持しつつ、画像送りボタンの押下が解除された際に表示されている画像の撮影条件に応じた輝度でOSDを表示することで、ちらつきを少なくすることができる(1603)。
(実施形態3)
次に、本発明の実施形態3について説明する。実施形態1および2では表示画像の画素値もしくは撮影条件に基づいてOSDの白の輝度階調値を設定していた。実施形態3では、インデックス表示などでHDR画像とSDR画像を含む複数の画像をマルチ再生する際に、複数の画像に基づいてOSDの白の輝度階調値を決定する点が実施形態1および2と異なる。すなわち、上述の実施形態1において、S1204の処理が異なる。
図17A〜図17Cは、本実施形態に係るマルチ再生表示の例を示す図である。例えば2×2の4枚の画像について、上段の2枚はSDR画像で最大輝度値が100cd/mであり、下段の2枚はHDR画像で最大輝度値が648cd/mであるものとする。この際、OSDの白の輝度階調値を図17AのようにHDR画像に合わせてしまうと、SDR画像の明るさに対してOSDの輝度が高くなりすぎてOSDの視認性が低下するとともに、SDR画像の視認性が低下する。また、OSDの白の輝度階調値を図17BのようにSDR画像に合わせてしまうと、HDR画像の明るさに対してOSDの輝度が低くなりすぎてOSDの視認性が低下してしまう。そこで、実施形態3では、複数の画像の白の輝度階調値を調整する。
図18は、実施形態3に係るOSD輝度設定処理の一例を示すフローチャートである。
S1801では、システム制御部50は、複数の画像の白の輝度階調値を取得する。S1802では、システム制御部50は、取得した全画像の白の輝度階調値の中央値を算出する。S1803では、システム制御部50は、算出した中央値をOSDの白の輝度階調値として設定する。このようにすることで、図17Cに示すように、SDR画像、HDR
画像およびOSDをバランスよく表示することができるため、視認性を向上させることが可能となる。なお、複数の画像から白の輝度階調値を算出(S1802)する方法は、中央値に限定されず、平均値や最頻値等の統計量を用いてもよい。
以上説明したように、実施形態3では、複数の画像を同時に(並べて)表示する際に、全画像の白の輝度階調値に基づいてOSDの白の輝度階調値を決定する。このようにすることで、例えば、インデックス再生などのマルチ表示においても、SDR画像、HDR画像、OSDの全てについて視認性を良くすることが可能となる。
(実施形態4)
次に、本発明の実施形態4について説明する。実施形態1〜3では画面全体に対して、OSDの白の輝度階調値を1つ設定していた。すなわち、実施形態1〜3では、背景全体に基づいて、OSDの白の輝度階調値を1つ設定していた。しかし、被写体は明るい領域もあれば暗い領域もあるし、SDR画像はHDR画像に対して暗いことが多い。そこで、実施形態4では、背景となる1枚の画像の面内の領域毎に最適なOSDの白の輝度階調値を設定する点が実施形態1〜3と異なる。
例えば、図19Aの下端のOSDの白の輝度階調値は背景画像と同程度の輝度であるため下端のOSDの視認性は問題ない。しかし、白の輝度階調値が下端のOSDと同じである上端のOSDは、背景画像が明るいため相対的に暗く見えてしまう。このようなケースでは画像1枚に対してOSDの白の輝度階調値を1つだけ好適に設定するのが困難である。そこで、画像の特徴を考慮し、画像面内の領域毎に最適なOSDの白の輝度階調値を設定することが望ましい。
図20は、実施形態4に係るOSD輝度設定処理の一例を示すフローチャートである。
S2001では、システム制御部50は、表示画像に基づいて輝度分布画像(輝度分布を示す画像)を取得する。輝度分布画像としては、表示画像の輝度成分を使用してもよい。中〜低帯域の周波数帯(空間周波数が所定の周波数より低い低周波数帯)の輝度成分の方が後に説明する処理においてトーンジャンプ等の画質劣化の懸念が小さいため、表示画像の輝度信号に対して高帯域(高周波数帯)を落とす処理を事前に施す。高帯域を落とす(抑圧する)処理としては幾つか考えられるが、例えば、水平垂直にLPF(ローパスフィルター)をかけるフィルター処理を行ってもよい。
S2002では、システム制御部50は、算出した輝度分布画像を用いて、OSDの輝度階調値を領域ごとに求める(OSDの情報表示用画像を修正する)。なお、輝度分布画像において輝度が高い領域でOSDの輝度階調値も高くすればよい。この場合は、領域の輝度が高いほどOSDの輝度階調値も高くする。これを実現するための方法としては幾つか考えられるが、例えば、表示画像の輝度分布画像とOSDの情報表示画像をスクリーン処理で演算することが考えられる。スクリーン処理は、レイヤー合成方法の1つであり、公知の技術を用いて行えばよいが、具体的には白黒反転させた表示画像と、同じく白黒反転させたOSDの情報表示画像とを乗算させ、得られた結果を再度白黒反転させることで実施することができる。
S2003では、システム制御部50は、S2002で求められたOSDの白の輝度階調値を実際の輝度階調値(コード値)に設定する。このようにすることで、図19Bに示すように、表示画像内で、明るい領域(上端)には明るいOSDを、暗い領域(下端)には暗いOSDを重畳表示することができる。
以上説明したように実施形態4によると、画像の特徴に応じて、画像の領域毎に異なる
OSDの白の輝度階調値を設定することで、被写体に依らず安定して視認性のよいOSDの情報表示をすることが可能となる。
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
(その他の実施形態)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
50:システム制御部

Claims (15)

  1. HDR画像とともにグラフィック画像を表示部に表示させるように制御する表示制御手段を有し、
    前記表示制御手段は、前記HDR画像の輝度が第1の輝度である場合に、前記グラフィック画像を第2の輝度で表示させ、前記HDR画像の輝度が前記第1の輝度より高い第3の輝度である場合に、前記グラフィック画像を前記第2の輝度より高い第4の輝度で表示するように制御する、
    ことを特徴とする表示制御装置。
  2. 前記HDR画像の輝度は、前記HDR画像の最大輝度である、
    ことを特徴とする請求項1に記載の表示制御装置。
  3. 前記HDR画像の輝度は、前記HDR画像を撮像した際の撮影条件で設定されている最大輝度である、
    ことを特徴とする請求項1に記載の表示制御装置。
  4. 前記撮影条件は、撮像時のダイナミックレンジ設定または、現像時のガンマ設定である、
    ことを特徴とする請求項3に記載の表示制御装置。
  5. 前記表示制御手段は、前記表示部に表示する画像を切り替える場合に、前記グラフィック画像の輝度を徐々に変化させる、
    ことを特徴とする請求項1から4のいずれか一項に記載の表示制御装置。
  6. 前記表示制御手段は、前記表示部に複数の画像を並べて表示する場合に、前記グラフィック画像の輝度は、各画像の最大輝度の最大値、最小値、平均値、中央値または最頻値のいずれかの値である、
    ことを特徴とする請求項1から5のいずれか一項に記載の表示制御装置。
  7. 前記表示制御手段は、前記HDR画像の面内における領域ごとに、前記グラフィック画像の輝度を決定する、
    ことを特徴とする請求項1から6のいずれか一項に記載の表示制御装置。
  8. 前記表示制御手段は、ユーザによって選択された表示輝度に基づいて、前記グラフィック画像の輝度を調整する、
    ことを特徴とする請求項1から7のいずれか一項に記載の表示制御装置。
  9. 前記表示制御手段は、前記表示部から取得される表示可能輝度に基づいて、前記グラフィック画像の輝度を調整する、
    ことを特徴とする請求項1から8のいずれか一項に記載の表示制御装置。
  10. 前記表示制御手段は、前記HDR画像の、空間周波数が所定の周波数より低い低周波数帯の輝度成分に基づいて、前記グラフィック画像の輝度を調整する、
    ことを特徴とする請求項1から9のいずれか一項に記載の表示制御装置。
  11. 前記表示制御手段は、HDR表示時の前記グラフィック画像において無効であることを示すグレーの輝度を、SDR表示時の前記グラフィック画像の最大輝度とグレーの輝度との差に基づいて決定する、
    ことを特徴とする請求項1から10のいずれか一項に記載の表示制御装置。
  12. 前記表示制御手段は、前記HDR画像の輝度に基づいて決定される前記グラフィック画像の輝度が所定の値を下回った場合に、前記グラフィック画像の輝度を前記所定の値に設定する、
    ことを特徴とする請求項1から11のいずれか一項に記載の表示制御装置。
  13. HDR画像を取得する取得ステップと、
    前記HDR画像とともにグラフィック画像を表示部に表示させるように制御する表示制御ステップと、
    を有し、
    表示制御ステップでは、前記HDR画像の輝度が第1の輝度である場合に、前記グラフィック画像を第2の輝度で表示させ、前記HDR画像の輝度が前記第1の輝度より高い第3の輝度である場合に、前記グラフィック画像を前記第2の輝度より高い第4の輝度で表示するように制御する、
    ことを特徴とする表示制御方法。
  14. コンピュータを、請求項1から12のいずれか一項に記載された表示制御装置の各手段として機能させるためのプログラム。
  15. コンピュータを、請求項1から12のいずれか一項に記載された表示制御装置の各手段として機能させるためのプログラムを格納したコンピュータが読み取り可能な記憶媒体。
JP2020018973A 2020-02-06 2020-02-06 表示制御装置、表示制御方法、プログラムおよび記憶媒体 Pending JP2021124638A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2020018973A JP2021124638A (ja) 2020-02-06 2020-02-06 表示制御装置、表示制御方法、プログラムおよび記憶媒体
US17/167,839 US11438523B2 (en) 2020-02-06 2021-02-04 Display control apparatus, display control method, and a non-transitory computer-readable medium
CN202110163688.5A CN113225475A (zh) 2020-02-06 2021-02-05 显示控制设备、显示控制方法和计算机可读介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020018973A JP2021124638A (ja) 2020-02-06 2020-02-06 表示制御装置、表示制御方法、プログラムおよび記憶媒体

Publications (2)

Publication Number Publication Date
JP2021124638A true JP2021124638A (ja) 2021-08-30
JP2021124638A5 JP2021124638A5 (ja) 2023-02-10

Family

ID=77084643

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020018973A Pending JP2021124638A (ja) 2020-02-06 2020-02-06 表示制御装置、表示制御方法、プログラムおよび記憶媒体

Country Status (3)

Country Link
US (1) US11438523B2 (ja)
JP (1) JP2021124638A (ja)
CN (1) CN113225475A (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11681422B2 (en) * 2010-02-16 2023-06-20 John W. Rowles Methods for a user selectable digital mirror
JP2021082069A (ja) * 2019-11-20 2021-05-27 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法、及びプログラム
JP2022150350A (ja) * 2021-03-26 2022-10-07 セイコーエプソン株式会社 画像処理回路、回路装置及び電子機器
CN116704926A (zh) * 2022-02-28 2023-09-05 荣耀终端有限公司 帧数据显示方法、电子设备及存储介质

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6381215B2 (ja) * 2014-01-29 2018-08-29 キヤノン株式会社 画像処理装置、画像処理方法、表示装置、表示装置の制御方法、及び、プログラム
JP5948618B2 (ja) * 2014-05-16 2016-07-06 パナソニックIpマネジメント株式会社 変換方法および変換装置
US9501855B2 (en) 2014-09-11 2016-11-22 Sony Corporation Image processing apparatus and image processing method
US10109228B2 (en) * 2015-04-10 2018-10-23 Samsung Display Co., Ltd. Method and apparatus for HDR on-demand attenuation control
US10403233B2 (en) * 2017-01-17 2019-09-03 Canon Kabushiki Kaisha Image processing apparatus and image processing method
JP7020832B2 (ja) 2017-09-21 2022-02-16 キヤノン株式会社 デジタルビデオカメラ、映像出力装置、映像出力方法、プログラム
JP2019159252A (ja) 2018-03-16 2019-09-19 キヤノン株式会社 制御装置、表示装置、制御方法およびプログラム

Also Published As

Publication number Publication date
CN113225475A (zh) 2021-08-06
US20210250518A1 (en) 2021-08-12
US11438523B2 (en) 2022-09-06

Similar Documents

Publication Publication Date Title
JP7263053B2 (ja) 撮像装置、画像処理装置、それらの制御方法、プログラム
JP2021124638A (ja) 表示制御装置、表示制御方法、プログラムおよび記憶媒体
JP7313893B2 (ja) 撮像装置及び記録制御方法及びプログラム
JP7365133B2 (ja) 通信装置およびその制御方法、プログラム
US10972674B2 (en) Electronic apparatus
JP2024015185A (ja) 撮像装置及びその制御方法及びプログラム
JP7091068B2 (ja) 電子機器
US11165970B2 (en) Image processing apparatus, imaging apparatus, image processing method, and non-transitory computer readable medium
CN113491103B (zh) 摄像设备及其控制方法和存储介质
JP2020141334A (ja) 撮像装置及びその制御方法及びプログラム
JP7493984B2 (ja) 電子機器
JP7191649B2 (ja) 電子機器

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230202

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230202

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20231027

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231205

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240123

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240402