JP2017085481A - 映像処理装置、映像処理方法、及び映像処理プログラム - Google Patents

映像処理装置、映像処理方法、及び映像処理プログラム Download PDF

Info

Publication number
JP2017085481A
JP2017085481A JP2015214554A JP2015214554A JP2017085481A JP 2017085481 A JP2017085481 A JP 2017085481A JP 2015214554 A JP2015214554 A JP 2015214554A JP 2015214554 A JP2015214554 A JP 2015214554A JP 2017085481 A JP2017085481 A JP 2017085481A
Authority
JP
Japan
Prior art keywords
gamma
gamma characteristic
luminance
characteristic
input
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015214554A
Other languages
English (en)
Other versions
JP6624889B2 (ja
JP2017085481A5 (ja
Inventor
真也 瓜阪
Shinya Urisaka
真也 瓜阪
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2015214554A priority Critical patent/JP6624889B2/ja
Priority to GB1617760.2A priority patent/GB2545067B/en
Priority to KR1020160137292A priority patent/KR102045202B1/ko
Priority to DE102016120450.1A priority patent/DE102016120450A1/de
Priority to US15/335,131 priority patent/US10582174B2/en
Priority to CN201610968187.3A priority patent/CN106941587B/zh
Publication of JP2017085481A publication Critical patent/JP2017085481A/ja
Publication of JP2017085481A5 publication Critical patent/JP2017085481A5/ja
Application granted granted Critical
Publication of JP6624889B2 publication Critical patent/JP6624889B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/82Camera processing pipelines; Components thereof for controlling camera response irrespective of the scene brightness, e.g. gamma correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/68Circuits for processing colour signals for controlling the amplitude of colour signals, e.g. automatic chroma control circuits
    • H04N9/69Circuits for processing colour signals for controlling the amplitude of colour signals, e.g. automatic chroma control circuits for modifying the colour signals by gamma correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/20Circuitry for controlling amplitude response
    • H04N5/202Gamma control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/643Hue control means, e.g. flesh tone control

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Picture Signal Circuits (AREA)
  • Studio Devices (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Image Processing (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Processing Of Color Television Signals (AREA)

Abstract

【課題】低輝度から高輝度までの全領域において、実被写体の階調特性に近い、自然な階調、色、鮮鋭感の再現を可能にすることを課題とする。【解決手段】カメラマイコン(111)は、映像信号の低輝度から高輝度までの全輝度領域における輝度の入力値に対する出力値の関係を、入力ダイナミックレンジによらずに、基準のガンマ特性における輝度の入力値に対する出力値の関係に合わせるようにしたガンマ特性を設定する。ガンマ補正処理部(109)は、そのガンマ特性に基づいて、撮像された映像信号に対して入力値を前記出力値に変換するガンマ補正処理を行う。【選択図】図1

Description

本発明は、映像処理装置、映像処理方法、映像処理プログラム、及び映像処理システムに関する。
従来、撮像装置で被写体等を撮影した映像を表示装置にて表示する映像処理システムでは、撮像装置と表示装置の双方でガンマ補正による階調補正処理が行われている。撮像装置は、撮像した映像信号の輝度の入力コード値を、撮像装置のガンマ特性(いわゆるカメラガンマ)に応じた出力コード値に変換することで階調補正処理(ガンマ補正処理)を行う。表示装置は、供給された映像信号の輝度の入力コード値を、表示装置のガンマ特性(いわゆるディスプレイガンマ)に基づいて輝度値に変換する階調補正処理(ガンマ補正処理)を行う。これにより、非常に広いダイナミックレンジを持つ実世界の被写体の明るさのうち、限られた明るさの範囲のみが切り出されて、表示装置のモニタディスプレイが有する限定的な狭いダイナミックレンジの中に収まる表示が可能となる。
また、撮像装置において実用的な入力ダイナミックレンジを確保するための階調補正処理の技術として、特許文献1には、ニー補正処理を含むガンマ補正処理を行うことで入力ダイナミックレンジを広げる技術が開示されている。
特開2002−223373号公報
ここで、ニー補正処理を含むガンマ補正処理は、実用的な入力ダイナミックレンジを確保しつつ、中輝度から高輝度の領域におけるコントラストを圧縮するような階調補正処理となっている。しかしながら、中輝度から高輝度の領域のコントラストを圧縮した場合、撮像装置と表示装置からなるシステムトータルとしての階調特性は、低輝度部に対して高輝度部のコントラストが圧縮された不自然な特性になってしまう。具体的には、表示装置に表示される映像の階調特性は、実被写体の階調特性と比較して高輝度部の輝度変化が減少したものとなっている。このため、表示装置に表示される映像は、実被写体の自然な階調や色、鮮鋭感が損なわれた不自然なものとなってしまう。
一方、表示装置において、高輝度部分の明るさを持ち上げることにより、高輝度部で圧縮されたコントラストを補うような階調補正処理の技術もある。しかしながら、撮像装置から出力される映像信号は中輝度から高輝度部分の階調情報が欠落した信号になっているため、表示装置側の処理のみでは十分に階調を復元できない。また、表示装置側からみた場合、撮像装置のガンマ特性は未知であるため、表示装置側で実被写体の自然な階調や色、鮮鋭感を再現することは困難である。
本発明はこのような問題点に鑑みてなされ、低輝度から高輝度までの全輝度領域で実被写体の階調特性に近い、自然な階調、色、鮮鋭感の再現を可能とする映像処理装置、映像処理方法、映像処理プログラム、及び映像処理システムを提供することを目的とする。
本発明の映像処理装置は、映像信号の低輝度から高輝度までの全輝度領域における輝度の入力値に対する出力値の関係を、入力ダイナミックレンジによらずに、基準のガンマ特性における輝度の入力値に対する出力値の関係に合わせるようにしたガンマ特性を設定する制御手段と、前記設定されたガンマ特性に基づいて、撮像された映像信号に対して前記入力値を前記出力値に変換するガンマ補正処理を施す補正手段とを有することを特徴とする。
本発明によれば、低輝度から高輝度までの全輝度領域において、実被写体の階調特性に近い、自然な階調、色、鮮鋭感の再現が可能となる。
本実施形態の撮像装置の概略構成を示す図である。 撮像装置の概観を示す斜視図である。 通常撮影モードの場合のガンマ補正処理の説明図である。 高輝度優先モードの場合のガンマ補正処理の説明図である。 撮像装置における階調補正処理制御のフローチャートである。 撮像装置の露出表示制御例を示す概略図である。 本実施形態の映像処理システムの概略構成を示す図である。 表示装置におけるピーク輝度値設定処理制御のフローチャートである。 表示装置におけるガンマ補正処理制御のフローチャートである。 表示装置における信号処理制御のフローチャートである。
以下に、本発明の好ましい実施の形態を、添付の図面に基づいて詳細に説明する。
<撮像装置の構成>
図1は、本実施形態の映像処理装置の一例である撮像装置100の概略構成を示す図である。
レンズ101は被写体像をイメージセンサ105の撮像面に結像させる。絞り102は、レンズ101から入射した光の光量を調節する。イメージセンサ105は、レンズ101と絞り102を介して撮像面上に結像された被写体像等を映像信号に変換する。イメージセンサ105の後段には図示しないアナログデジタル(A/D)変換器等が設けられており、アナログ映像信号をA/D変換によりコード化したデジタル映像信号が、信号処理部112に送られる。なお、レンズ101は、手振れ補正用の光学系を光軸に対してシフトさせるようなレンズシフト方式の手振れ補正機能を有していてもよい。また、手振れ補正は、レンズ101の光軸に対してイメージセンサ105の位置を変化させるセンサシフト方式であってもよいし、イメージセンサ105からの読み出しを制御することにより手振れ補正を行う読み出し制御方式であってもよい。
信号処理部112は、ホワイトバランス補正処理部107、エッジ強調処理部108、ガンマ(γ)補正処理部109、輝度/色情報検出部110を有する。以下の説明ではホワイトバランスを「WB」と表記する。WB補正処理部107は、イメージセンサ105からの映像信号に対して、ホワイトバランス補正処理を施す。エッジ強調処理部108は、WB補正処理後の映像信号に対して、エッジ強調処理を施す。ガンマ補正処理部109は、撮像装置のガンマ特性(カメラガンマ)に基づくガンマ補正処理を施す。ガンマ補正処理の詳細については後述する。また、信号処理部112の輝度/色情報検出部110は、映像信号の1フレームの画像を水平方向と垂直方向に分割して複数の輝度/色情報検出枠(以下、検出枠と表記する。)を設定する。そして、輝度/色情報検出部110は、検出枠内の画素値を積分するなどの処理を行い、さらに被写体像の各検出枠内における輝度情報及び色情報を検出する。輝度/色情報検出部110により検出された各検出枠の輝度情報及び色情報は、カメラマイコン111に送られる。なお、マイコンはマイクロコンピュータの略であり、以下の説明でも同様にマイコンと表記する。また、信号処理部112は、WB補正処理、エッジ強調処理、ガンマ補正処理、輝度/色情報検出処理以外にも様々な処理を行うが、それらの説明は省略する。信号処理部112による各種信号処理がなされた後の映像信号は、ディスプレイ116に出力されて表示されたり、磁気テープ115やDVDディスク117、メモリカード118等に記録されたりする。
カメラマイコン111は、撮像装置100における制御手段の一例であり、輝度/色情報検出部110にて検出された輝度情報及び色情報などの被写体情報を基に、WB補正処理、エッジ強調処理、ガンマ補正処理のための各補正値を算出する。そして、カメラマイコン111は、WB補正処理の補正値をWB補正処理部107に送り、エッジ強調処理の補正値をエッジ強調処理部108に送り、ガンマ補正処理の補正値(後述するガンマ特性のガンマ補正カーブ)をガンマ補正処理部109に送る。これにより、WB補正処理部107、エッジ強調処理部108、ガンマ補正処理部109では、それぞれ供給された補正値に基づく処理が行われる。カメラマイコン111は、イメージセンサ駆動部106を介してイメージセンサ105における電荷の蓄積、読み出しなどの制御を行う。カメラマイコン111は、レンズ駆動部103を介してレンズ101のフォーカス、ズームなどの制御を行う。カメラマイコン111は、輝度情報及び色情報を基に、絞り駆動部104を介して絞り102の制御を行うと共に、イメージセンサ駆動部106を介してイメージセンサ105のシャッタースピードの制御を行うことにより、露出制御を行う。カメラマイコン111は、撮像装置100がレンズシフト方式やセンサシフト方式、読み出し制御方式の何れかの手振れ補正機能を有する場合には、それら方式に応じた手振れ補正の制御をも行う。
<ビデオカメラの構成>
図2は、本実施形態の撮像装置100とディスプレイ116が一体となされた映像処理システムの一例としてのビデオカメラ120の概観を示す斜視図である。
ビデオカメラ120の内部には、DVDディスク117、磁気テープ115、メモリカード118などの記録媒体が収納され、映像信号や静止画像を記録再生できるようになっている。レンズ部121は、図1のレンズ101や絞り102を有する。マイク122は、撮影時の音声を集音するために備えられている。電子式ビューファインダ(EVF)123は、ユーザが覗き込むことにより、撮影されている被写体等の確認や、再生画像の表示等のために備えられている。動画用トリガースイッチ124は、例えばプッシュボタンであり、動画撮影開始及び終了を機器に伝達するためにユーザが操作するスイッチである。静止画用トリガースイッチ125は、例えばプッシュボタンであり、静止画撮影開始及び終了を機器に伝達するためにユーザが操作するスイッチである。モードダイヤル126は、回転式のスイッチからなる。モードダイヤル126では、例えば再生モードに設定する「再生」、カメラモードに設定する「カメラ」、後述する通常撮影モードや高輝度優先モード、それらの何れでもない「OFF」の何れかをユーザが選択可能となされている。操作スイッチ群127は、ユーザがビデオカメラ120を操作するためのスイッチや、画質フィルタモードを入力するためのキー、その他のメニュー操作や再生系の操作などのためのキー等からなる。液晶パネル128は、ビデオカメラ120の本体側面に開閉自在となされ、さらに水平方向にも回転可能となるように取り付けられており、EVF123と同様に、撮影されている被写体等の確認や、再生画像の表示等に使用される。図2の例では、液晶パネル128は、ビデオカメラ120の本体に対して開いている状態となされている。なお、図1のディスプレイ116は、EVF123又は液晶パネル128の何れであってもよい。スピーカ129は、映像等の再生の際に、映像と共に記録された音声を出力するために設けられている。バッテリ130は、ビデオカメラ120に対して電力を供給する二次電池であり、本体に対して着脱可能となされている。図2のビデオカメラ120の場合、被写体等を撮像して記録するまでの構成部分が本実施形態の撮像装置100に相当し、撮像された映像信号や記録された映像信号を再生して液晶パネル128等に表示するまでの構成部分が本実施形態の表示装置に相当する。
<高輝度優先モードと通常撮影モードの説明>
ここで、本実施形態の撮像装置100は、映像を撮影する際の撮影モードとして、少なくとも高輝度優先モードと通常撮影モードとを有している。また、撮像装置100において、ガンマ補正処理に用いられるガンマ特性(カメラガンマ)は、撮影モードが高輝度優先モードの場合には高輝度優先用のガンマ補正カーブとなされ、一方、通常撮影モードの場合には通常撮影用のガンマ補正カーブとなされる。以下、本実施形態の撮像装置100が通常撮影モードと高輝度優先モードでのガンマ補正処理に用いるガンマ特性(ガンマ補正カーブ)について説明する。
通常撮影モードは、実用的な入力ダイナミックレンジを確保しつつ、中輝度から高輝度の領域におけるコントラストを圧縮するようなニー補正処理を含むガンマ補正処理による階調補正が行われるモードである。なお、コントラストの圧縮とは、ダイナミックレンジの変化に対する輝度の変化で表される特性曲線の傾きを小さくすることに相当する。
以下、通常撮影モードの場合の階調補正特性について、図3(a)〜図3(d)を用いて説明する。図3(a)と図3(b)は、撮像装置のガンマ特性(カメラガンマ)を表している。図3(c)は、表示装置のガンマ特性(ディスプレイガンマ)を表している。図3(d)は、撮像装置と表示装置を合わせた映像処理システムトータルとしてみた場合の階調特性を表している。
図3(a)と図3(b)のガンマ特性907は、入力ダイナミックレンジがx1の場合に対応したガンマ特性を表しており、ITU−R BT.709等で規格化されているガンマ特性である。一方、図3(a)と図3(b)のガンマ特性909は、入力ダイナミックレンジがx2の場合に対応するガンマ特性であり、入力ダイナミックレンジを実用的な範囲まで広げた場合を示している。ガンマ特性907と比較した場合、ガンマ特性909は、中輝度から高輝度の領域のコントラストを圧縮する特性となっている。ガンマ特性909は、入力ダイナミックレンジを広げつつ、人間の視覚感度が高い低輝度の暗部から中輝度までの領域に対する出力(明るさ)を確保する特性となされている。この通常撮影モードでは、人間の視覚感度が低い高輝度の領域については、輝度の出力値のコードに対するビット数の割り振りを減らすことでデータ量を減らすようになされている。
通常撮影モードの場合、撮像装置100のガンマ補正処理部109は、映像信号の輝度の入力値のコードを、ガンマ特性909のガンマ補正カーブに応じた出力値のコードに変換するようなガンマ補正処理を行う。以下、入力値のコードを入力コード値、出力値のコードを出力コード値と表記する。通常撮影モードで階調補正処理がなされた後の映像信号は、例えば記録された後に再生されて表示装置の液晶パネル128等のモニタディスプレイに表示される。
一方、表示装置のガンマ特性は、例えば図3(c)に示すようなガンマ特性910となっている。表示装置では、例えば記録された後に再生された映像信号の輝度の入力コード値を、図3(c)のガンマ特性910のガンマ補正カーブに応じた輝度値に変換するようなガンマ補正処理が行われる。この図3(c)に示したガンマ特性910は、ITU−R BT.709等で規格化されているガンマ特性907の逆特性となされたガンマ特性である。
ただし、この場合、撮像装置と表示装置からなる映像処理システムトータルとしての階調特性は、図3(d)に示すような階調特性911になる。すなわち、撮像装置でガンマ特性909が用いられ、表示装置でガンマ特性910が用いられてガンマ補正処理が行われた場合、映像処理システムトータルの階調特性911は、低輝度部に対して高輝度部のコントラストが圧縮された不自然な階調特性となる。この場合、表示装置のモニタディスプレイに表示される映像は、実被写体の自然な階調や色、鮮鋭感が損なわれた不自然なものとなる。
以下、高輝度優先モードの場合の階調補正特性について、図4(a)〜図4(d)を用いて説明する。図4(a)と図4(b)は、撮像装置のガンマ特性(カメラガンマ)を表している。図4(c)は、表示装置のガンマ特性(ディスプレイガンマ)を表している。図4(d)は、撮像装置と表示装置を合わせた映像処理システムトータルとしてみた場合の階調特性を表している。
図4(a)のガンマ特性137は、図3(a)のガンマ特性907と同様に、入力ダイナミックレンジがx1の場合に対応したガンマ特性であり、ITU−R BT.709等で規格化されているガンマ特性である。一方、図4(a)と図4(b)のガンマ特性139は、入力ダイナミックレンジがx2の場合に対応するガンマ特性であり、入力ダイナミックレンジを実用的な範囲まで広げた場合を示している。このガンマ特性139は、ガンマ特性137を基準にした場合に、入力コードに対して出力コードの関係が一定に保たれ、低輝度から高輝度までのコード値に対するビットの割り振りの割合を変更しないで固定にしておくような特性となされている。
ここで、基準となる入力ダイナミックレンジx1に対応するガンマ特性137をy=f(x)の関数で表し、入力ダイナミックレンジをt倍に広げる場合を例に挙げると、高輝度優先モードのガンマ特性139はy=f(x/t)の関数で表すことができる。
なお、入力ダイナミックレンジは、撮像装置の製品ごとに適正な値として設定されていてもよいし、同一製品内での撮影モードごとに適正な値として設定されていてもよい。また、入力ダイナミックレンジは、同一撮影モード内では例えば撮影シーンごとに適応的に設定されてもよい。
高輝度優先モードの場合、撮像装置100のガンマ補正処理部109は、映像信号の輝度の入力コード値を、ガンマ特性139のガンマ補正カーブに応じたコード値に変換するようなガンマ補正処理を行う。高輝度優先モードで階調補正処理がなされた後の映像信号は、例えば記録された後に再生されて本実施形態の表示装置の液晶パネル128等のモニタディスプレイに表示される。
このように、高輝度優先モードでは、入力ダイナミックレンジを広げつつ、低輝度〜高輝度の全輝度領域について、入出力コード値の関係を、基準のガンマ特性137の入出力コード値の関係に合わせたガンマ特性139を用いたガンマ補正処理が行われる。また、高輝度優先モードでは、低輝度から高輝度まで全輝度領域において、出力コード値に対してビットの割り振りの割合が変更されずに固定になされる。高輝度優先モードでは、ガンマ特性137を基準として、入力コード値に対する出力コード値の関係が一定に保たれたガンマ特性139でガンマ補正処理が行われるため、通常撮影モードの場合のような高輝度領域のコントラスト圧縮は行われない。
一方、表示装置のガンマ特性は、前述の図3(c)のガンマ特性910と同様の図4(c)に示すガンマ特性140となっている。したがって、表示装置では、例えば記録された後に再生された映像信号の輝度の入力コード値を、図4(c)のガンマ特性140のガンマ補正カーブに基づいて輝度値に変換するようなガンマ補正処理が行われる。
この場合、撮像装置と表示装置からなる映像処理システムトータルとしての階調特性は、図4(d)に示すような階調特性141となる。すなわち、撮像装置側でガンマ特性139に基づくガンマ補正処理が行われた場合、映像処理システムトータルでの階調特性141は、低輝度部から高輝度部までの全輝度領域でリニアな特性となる。したがって、撮像装置が高輝度優先モードである場合、映像処理システムでは、図4(d)の階調特性141のようなリニアな階調特性が実現され、表示装置のモニタの表示映像は、実被写体の自然な階調や色、鮮鋭感が再現された自然なものとなる。
<撮像装置における階調補正処理の説明>
図5は、本実施形態の撮像装置100で撮影が行われて階調補正処理が行われる際の、カメラマイコン111による入力ダイナミックレンジの決定からガンマ補正カーブの決定、メタデータの記録、ガンマ補正処理の制御までの流れを示すフローチャートである。
図5のフローチャートの各処理は、本実施形態に係る撮像装置用の映像処理プログラムをカメラマイコン111が実行することで実現される。本実施形態に係る映像処理プログラムは、撮像装置100の不図示のROM等に予め用意されていてもよく、また不図示の外部記憶媒体から読み出されて撮像装置の不図示のRAM等にロードされてもよい。その他にも、映像処理プログラムは、インターネット等のネットワークから撮像装置100にダウンロードされてもよい。以下の説明では、図5の各処理のステップS101〜ステップS108を、S101〜S108と略記する。
図5のフローチャートで示す階調補正処理は、例えば、動画用トリガースイッチ124や静止画用トリガースイッチ125などがユーザにより操作されて撮影が開始されることでスタートする。撮像装置100の階調補正処理がスタートすると、カメラマイコン111は、S101において入力ダイナミックレンジを決定する。このとき決定される入力ダイナミックレンジは、撮影モードによって予め設定された所定値か、又は、輝度/色情報検出部110により検出された輝度情報及び色情報を基に算出した値となされる。S101の後、カメラマイコン111は、S102に処理を進める。
S102では、カメラマイコン111は、輝度/色情報検出部110にて検出された輝度情報及び色情報に基づく、前述した絞り102の制御とイメージセンサ105のシャッタースピードの制御により、露出制御を行う。S102の後、カメラマイコン111は、S103に処理を進める。
S103では、カメラマイコン111は、撮影モードが高輝度優先モードに設定されているかどうかを判断する。なお、撮影モードを高輝度優先モードとするか、或いは通常撮影モードとするかは、ユーザがモードダイヤル126を操作することによる選択可能となされている。カメラマイコン111は、S103において、撮影モードが高輝度優先モードであると判断した場合にはS104に処理を進め、高輝度優先モードでないと判断した場合(通常撮影モードであると判断した場合)にはS106に処理を進める。
S104では、カメラマイコン111は、ガンマ補正処理部109でガンマ補正処理に用いるガンマ特性を、前述した高輝度優先モード用のガンマ特性139のガンマ補正カーブに決定する。S104の後、カメラマイコン111は、S105に処理を進める。
S105では、カメラマイコン111は、高輝度優先モードに対応した後述するメタデータを生成して映像信号に付加する。メタデータの付加は、例えばガンマ補正処理部109の後段で行われるが、映像信号にメタデータを付加する構成の図示は省略する。これにより、メタデータは、映像信号と共に磁気テープ115やDVDディスク117、メモリカード118等に記録されることになる。S105の後、カメラマイコン111は、S108に処理を進める。
ここで、メタデータは、高輝度優先モードを示すフラグ、入力ダイナミックレンジ、表示装置について予め設定された表示輝度の基準値に対する倍率とピーク輝度値、撮像装置のガンマ形状情報とベースガンマ等の情報である。入力ダイナミックレンジを示す情報は、表示装置側が適正な明るさ(ピーク輝度値)を算出する際に用いられる。表示輝度の基準値に対する倍率は、高輝度優先モードにおいて、前述した関数y=f(x/t)のガンマ特性139を決定する際の「t」(基準となる入力ダイナミックレンジx1をt倍に広げた場合の「t倍」)に相当する情報である。高輝度優先モードにおいて、基準となる入力ダイナミックレンジx1をt倍に広げた場合、表示装置における表示輝度をt倍にするのが適正であるため、メタデータの一つとして、この倍率の情報が用意される。また、ピーク輝度値は、ITU−R BT.709において表示装置側の規格として決められているピーク輝度値を基準として、撮像装置100が算出する値である。撮像装置100は、入力ダイナミックレンジに応じて、表示装置に対する適正なピーク輝度値を算出し、そのピーク輝度値をメタデータの一つとして含める。ガンマ形状情報は、ガンマ補正カーブの形状を表すための数式やガンマ値を示す情報であり、高輝度優先モードの場合には前述のガンマ特性139の形状を表す情報であり、通常撮影モードの場合には前述のガンマ特性909の形状を表す情報である。ベースガンマは、ITU−R BT.709で規格化されている前述のガンマ特性137を示す情報である。
一方、S106の処理に進んだ場合、カメラマイコン111は、ガンマ補正処理部109でのガンマ補正処理に用いるガンマ特性を、前述した通常撮影モード用のガンマ特性909のガンマ補正カーブに決定する。S106の後、カメラマイコン111は、S107に処理を進める。
S107では、カメラマイコン111は、通常撮影モードに対応したメタデータを映像信号に付加する。なお、この場合のメタデータは、通常撮影モードを示すフラグ、入力ダイナミックレンジ、表示装置について予め設定された表示輝度の基準値に対する倍率とピーク輝度値、撮像装置のガンマ形状情報、撮像装置のベースガンマ等の情報である。メタデータの付加は、前述同様に例えばガンマ補正処理部109の後段で行われる(図示は省略する)。これにより、メタデータは、映像信号と共に磁気テープ115やDVDディスク117、メモリカード118等に記録される。S107の後、カメラマイコン111は、S108に処理を進める。
S108では、カメラマイコン111は、ガンマ補正処理部109に対して、S104又はS106で決定されたガンマ補正カーブに基づいたガンマ補正処理を行わせる。S108のガンマ補正処理の後、カメラマイコン111は、撮像装置100の電源が切断されるまで、図5のフローチャートの処理を繰り返す。
<撮像装置における適正露出制御の際の表示例の説明>
以下、高輝度優先モードにおいて撮像装置100が撮像している映像をディスプレイ116(EVF123や液晶パネル128等)にライブビュー表示(スルー映像の表示)がなされている際の適正露出表示の例について、図6を参照しながら説明する。図6は、撮影モードが高輝度優先モードの場合に、ディスプレイ116(EVF123や液晶パネル128等)にライブビュー表示されている映像の一例を示している。
カメラマイコン111は、撮影が行われている場合、図6に示すように、ディスプレイ116の画面内の露出情報表示エリア301に、現在の絞り値、シャッター速度、ゲイン値に応じた現在の露出と適正露出との関係を表示するための露出表示信号を生成する。これにより、ディスプレイ116の画面内の露出情報表示エリア301には、現在の絞り値、シャッター速度、ゲイン値などが表示される。また、カメラマイコン111は、例えばユーザ操作により、絞り、シャッター速度、ゲインなどの値が変えられた場合には、露出情報表示エリア301の表示も更新する。露出表示エリア303には、例えば適正露出(±0)に対するアンダー(−)やオーバー(+)を表す露出バー305と、現在の露出状態を示す露出マーク304とが表示される。露出マーク304が露出バー305の何れの位置にあるかにより、ユーザは、現在の露出が、適正露出(±0)に対してどの程度アンダーであるか或いはオーバーであるか等を確認できる。
ここで、本実施形態の高輝度優先モードの場合のガンマ特性139は、通常撮影モードのガンマ特性909と比較すると、相対的に暗めのガンマ特性となっている。このため、高輝度優先モードの場合、カメラマイコン111は、露出表示エリア303の適正露出(±0)の表示位置を、ガンマ特性139に合わせた位置にずらすようにして表示する。これにより、高輝度優先モードにより映像が通常撮影モードと比べて相対的に暗めになっていたとしても、ユーザは、露出表示エリア303の表示を確認することにより、現在の露出が適正露出(±0)かどうかを判断することができる。
以上述べたように、本実施形態によれば、撮像装置100が高輝度優先モードに設定されている場合には、図4(d)の階調特性141に示すようなリニアな階調特性が実現される。したがって、表示装置のモニタに表示される映像は、暗部(低輝度領域)からハイライト部(高輝度領域)までの全輝度領域において、実被写体の自然な階調や色、鮮鋭感が再現された自然なものとなる。特に、撮像装置100が高輝度優先モードに設定されている場合、表示装置では、例えば金属の輝き、水の透明感、青空や雲の立体感、スキントーン等の階調性、色再現性、鮮鋭感が格段に向上した映像の表示が可能となる。
<映像処理システムの構成>
図7は、前述の図1に示した本実施形態の撮像装置100と、本実施形態の映像処理装置の一例である表示装置220からなる映像処理システムの概略構成を示す図である。
図7に示した撮像装置100は、図1のディスプレイ116を除き、図1のレンズ101〜DVDディスク117と各々同じ構成を有しているため、それらの説明は省略する。また、図7の撮像装置100における通常撮影モードのガンマ特性と高輝度優先モードのガンマ特性、及びガンマ補正処理(階調補正処理)は、前述の図1の撮像装置100の例と同様であるため、それらの説明は省略する。
図7の映像処理システムにおいて、表示装置220には、撮像装置100の信号処理部112で信号処理が施された映像信号、或いは、磁気テープ115やDVDディスク117、メモリカード118等に記録されて再生された映像信号が入力される。表示装置220に入力された映像信号は、メタデータ解析部228と信号処理部222に送られる。
メタデータ解析部228は、入力された映像信号に付加されている前述したメタデータを解析して、メタデータの解析結果をディスプレイマイコン221に送る。具体的には、メタデータ解析部228は、高輝度優先モードを示すフラグ、入力ダイナミックレンジ、表示輝度の基準値に対する倍率とピーク輝度値、撮像装置のガンマ形状情報とベースガンマ等の情報を、ディスプレイマイコン221に送る。なお、それら全ての情報がメタデータに含まれていない場合もあり得るが、メタデータ解析部228は、メタデータから解析できた全ての情報をディスプレイマイコン221に送る。ディスプレイマイコン221は、表示装置220における制御手段の一例であり、メタデータ解析結果に基づいて、信号処理部222における各信号処理を制御する。
本実施形態の信号処理部222は、少なくともガンマ補正処理部226を有する。図7の例の場合、信号処理部222は、ガンマ補正処理部226の他に、画質モード設定部223、ピーク輝度設定部224、色補正処理部225、高輝度適応処理部227をも有している。信号処理部222は、画質モード設定部223、ピーク輝度設定部224、色補正処理部225、高輝度適応処理部227の全てを有していてもよいし、それらのうち何れかのみを有していてもよい。信号処理部222で信号処理がなされた後の映像信号は、図7では図示を省略しているディスプレイ(図1のディスプレイ116)に送られて表示される。
画質モード設定部223は、表示装置220の画質モードを設定する。表示装置220は、例えば、「おまかせ」、「標準」、「鮮やか」、「ダイナミック」、「シネマ」、「ゲーム」などの各種画質モードに適した表示を行うことができ、画質モード設定部223ではそれらの中の何れかの画質モードへの設定が行われる。画質モード設定部223は、例えば画質モード設定メニューからユーザが選択したメニューに応じた画質モードに設定してもよいし、撮像装置100で高輝度優先モードと通常撮影モードの何れが用いられたかに応じて画質モードを設定してもよい。高輝度優先モード又は通常撮影モードに応じた画質モードの一設定例として、画質モード設定部223は、高輝度優先モードの場合には「鮮やか」、「ダイナミック」などの画質モードを設定し、通常撮影モードの場合には「標準」の画質モードを設定する。
ピーク輝度設定部224は、表示装置220がディスプレイ(116)に映像を表示する際のピーク輝度を設定する。撮像装置100で高輝度優先モードによりガンマ補正処理がなされた場合、ピーク輝度設定部224は、映像信号のピーク輝度値を、映像の中低輝度部の明るさが通常撮影モードのときの明るさと等しくなるようなピーク輝度値に設定する処理を行う。ピーク輝度設定部224で設定されるピーク輝度値は、規格等で決められたピーク輝度値でもよいが、実被写体の自然な階調等を再現するためには、中低輝度部の明るさが通常撮影モードのときの明るさと等しくなるピーク輝度値に設定することが望ましい。また、撮像装置100で通常撮影モードにより階調補正処理がなされた場合、ピーク輝度設定部224は、映像信号のピーク輝度値を、予め決められた通常映像用の所定のピーク輝度値に設定する。なお、ピーク輝度値設定処理の詳細は後述する図8のフローチャートにて説明する。
色補正処理部225は、映像信号に対し、マトリクス演算やルックアップテーブルによる色変換処理や特定色の色補正処理などを行う。マトリクス演算やルックアップテーブルによる色変換処理や特定色の色補正処理の説明は省略する。
ガンマ補正処理部226は、映像信号に対してガンマ補正処理を行う。撮像装置100で高輝度優先モードにより階調補正処理がなされた場合、ガンマ補正処理部226は、映像信号に対し、撮像装置100が高輝度優先モードの際に用いたガンマ特性139の逆特性に近いガンマ補正カーブによるガンマ補正処理を行う。ガンマ補正処理部226が用いるガンマ特性は、ITU−R BT.709等の規格によるガンマ特性でもよいが、実被写体の自然な階調等を再現するためには、高輝度優先モードのガンマ特性139の逆特性のガンマ特性を用いることが望ましい。また、撮像装置100で通常撮影モードにより階調補正処理がなされた場合、ガンマ補正処理部226は、映像信号に対し、撮像装置100が通常撮影モードの際に用いたガンマ特性909の逆特性に近いガンマ補正カーブによるガンマ補正処理を行う。なお、ガンマ補正処理の詳細は後述する図9のフローチャートにて説明する。
高輝度適応処理部227は、撮像装置100で高輝度優先モードと通常撮影モードの何れの階調補正処理が行われたかに応じて、映像信号に対する適応処理を行う。本実施形態では、適応処理の一例として、通常撮影モードのガンマ補正処理により高輝度の領域のコントラストが圧縮された映像信号に対し、表示装置220が、高輝度の領域に対応した色情報を復元するようなダイナミックレンジリマスター処理を挙げる。ダイナミックリマスター処理は、高輝度領域のダイナミックレンジを拡張すると、高輝度領域が全て白に寄ってしまうような場合に、復元する輝度の拡張率に見合うように色情報を拡張する処理である。この適応処理の例において、撮像装置100で通常撮影モードにより階調補正処理がなされた場合、高輝度適応処理部227は、映像信号に対し、高輝度の領域に対応した色情報を復元するようなダイナミックレンジリマスター処理を行う。一方、撮像装置100で高輝度優先モードにより階調補正処理がなされた場合、高輝度適応処理部227は、映像信号に対し、ダイナミックレンジリマスター処理を行わないようにする。
<表示装置におけるピーク輝度値設定処理の説明>
図8は、表示装置220において、撮像装置100で高輝度優先モードと通常撮影モードの何れにより階調補正処理がなされた映像信号であるかに応じたピーク輝度値により、表示映像の明るさを設定する場合のフローチャートである。なお、表示装置220は、この図8の処理と後述する図9の処理との何れか一方のみを行ってもよいし、両方を行ってもよい。また、表示装置220は、後述する図10のフローチャートのような処理を行ってもよい。このため、本実施形態では、図8〜図10の各フローチャートを分けて説明している。
図8のフローチャートの各処理は、本実施形態に係る表示装置用の映像処理プログラムをディスプレイマイコン221が実行することで実現される。本実施形態に係る映像処理プログラムは、表示装置220の不図示のROM等に予め用意されていてもよく、また不図示の外部記憶媒体から読み出されて表示装置220の不図示のRAM等にロードされてもよい。その他にも、映像処理プログラムは、インターネット等のネットワークから表示装置220にダウンロードされてもよい。以下の説明では、図8の各処理のステップS201〜ステップS204を、S201〜S204と略記する。
図8のフローチャートで示す処理は、例えば、ユーザにより図2に示したビデオカメラ120のモードダイヤル126で再生モードになされ、さらに操作スイッチ群127により再生が開始されることでスタートする。図8の処理がスタートすると、ディスプレイマイコン221は、S201において、メタデータの解析結果の高輝度優先モードを示すフラグ、又はユーザ操作に基づいて、映像信号が高輝度優先モードで階調補正処理された信号か否かを判断する。ディスプレイマイコン221は、S201において、高輝度優先モードのフラグが有る場合にはS202に処理を進め、一方、高輝度優先モードのフラグが無い場合(映像信号が通常撮影モードで階調補正処理された信号である場合)にはS203に処理を進める。
S202に進んだ場合、ディスプレイマイコン221は、映像の中低輝度部の明るさが通常撮影モード時の明るさと等しくなるようなピーク輝度値を算出する。ディスプレイマイコン221は、メタデータの前述した入力ダイナミックレンジ、又は表示輝度の基準値に対する倍率、又はピーク輝度値に基づいて、中低輝度部の明るさが通常撮影モードの明るさと等しくなるピーク輝度値を算出する。
ここで、メタデータの入力ダイナミックレンジは、前述したように撮像装置100のカメラマイコン111がピーク輝度値を算出する際に用いられたものである。このため、表示装置220のディスプレイマイコン221も、カメラマイコン111の場合と同様にして入力ダイナミックレンジからピーク輝度値を求めることができる。また、メタデータの表示輝度の基準値に対する倍率は、前述したように、撮像装置100のカメラマイコン111が、高輝度優先モードの場合に表示装置において適正となる表示輝度の倍率として算出した値である。このため、表示装置220のディスプレイマイコン221は、カメラマイコン111の場合とは逆に、表示輝度の基準値に対する倍率から、高輝度優先モードで階調補正処理された映像信号に対して適正な表示輝度(ピーク輝度値)を求めることができる。また、メタデータのピーク輝度値は、前述したように、撮像装置100のカメラマイコン111が、ITU−R BT.709に表示装置側の規格として決められているピーク輝度値を基準として算出した値である。このため、表示装置220のディスプレイマイコン221は、メタデータのピーク輝度値により、高輝度優先モードで階調補正処理された映像信号に対する適正なピーク輝度値を求めることができる。なお、ディスプレイマイコン221は、S202において、メタデータを用いずに、予め決められた高輝度優先映像用の所定のピーク輝度値を用いてもよい。S202の後、ディスプレイマイコン221は、S204に処理を進める。
一方、S203に進んだ場合、ディスプレイマイコン221は、予め決められた通常映像用の所定のピーク輝度値を算出する。通常映像用の所定のピーク輝度値の算出処理の説明は省略する。S202の後、ディスプレイマイコン221は、S204に処理を進める。
S204に進むと、ディスプレイマイコン221は、S202又はS203で決定したピーク輝度値に基づいて、ピーク輝度設定部224に対し、後段のディスプレイ(116)におけるピーク輝度値を設定させる。これにより、撮像装置100で高輝度優先モードによる階調補正処理が行われていた場合、ピーク輝度設定部224では、映像信号に対して中低輝度部の明るさが通常撮影モードの明るさと等しくなるようなピーク輝度値の設定処理が行われる。一方、撮像装置100で通常撮影モードによる階調補正処理が行われていた場合、ピーク輝度設定部224では、映像信号に対して通常撮影モードの映像用のピーク輝度値の設定処理が行われる。S204の後は、ディスプレイマイコン221は、表示装置220の電源が切断されるまで図8のフローチャートの処理を繰り返す。
本実施形態の表示装置220は、撮像装置100にて行われた高輝度優先モード又は通常撮影モードの階調補正処理に連動して、ディスプレイ(116)のピーク輝度値を設定する処理が行われる。表示装置220は、撮像装置100にて高輝度優先モードによる階調補正処理が行われた場合、その階調補正処理された映像信号の低中輝度領域の明るさを、通常撮影モードの場合の明るさと同等にしている。これにより、表示装置220は、撮像装置100にて高輝度優先モードによる階調補正処理が行われた場合に低中輝度の領域の表示映像が暗く見えてしまうことを防ぐことができる。また、本実施形態では、撮像装置100で高輝度優先モードの処理が行われた場合に、低中輝度領域を明るくするピーク輝度値に設定することで、高輝度優先モードにより向上した高輝度領域の画質と低中輝度の画質のバランスをとることができる。
<表示装置におけるガンマ補正処理の説明>
図9は、表示装置220において、撮像装置100で高輝度優先モードと通常撮影モードの何れにより階調補正処理がなされた映像信号であるかに応じたガンマ補正カーブにより、表示映像の信号に対するガンマ補正処理を行う場合のフローチャートである。
図9のフローチャートの各処理は、本実施形態に係る表示装置用の映像処理プログラムをディスプレイマイコン221が実行することで実現される。本実施形態に係る映像処理プログラムは、表示装置220の不図示のROM等に予め用意されていてもよく、また不図示の外部記憶媒体から読み出されて表示装置220の不図示のRAM等にロードされてもよい。その他にも、映像処理プログラムは、インターネット等のネットワークから表示装置220にダウンロードされてもよい。以下の説明では、図9の各処理のステップS301〜ステップS304を、S301〜S304と略記する。
図9のフローチャートで示す処理は、例えば、ユーザにより図2に示したビデオカメラ120のモードダイヤル126で再生モードになされ、さらに操作スイッチ群127により再生が開始されることでスタートする。図9の処理がスタートすると、ディスプレイマイコン221は、S301において、メタデータの解析結果の高輝度優先モードを示すフラグ、或いはユーザ操作に基づいて、映像信号が高輝度優先モードで階調補正処理された信号か否かを判断する。ディスプレイマイコン221は、S301において、高輝度優先モードのフラグが有る場合にはS302に処理を進め、一方、高輝度優先モードのフラグが無い場合(映像信号が通常撮影モードで階調補正処理された信号である場合)にはS303に処理を進める。
S302に進んだ場合、ディスプレイマイコン221は、メタデータのガンマ形状情報とベースガンマの情報に基づいて、表示装置220のガンマ特性が、撮像装置100におけるガンマ特性の逆特性に最も近くなるようなガンマ補正カーブを決定する。なお、ディスプレイマイコン221は、S302において、メタデータのガンマ形状情報とベースガンマの情報を用いず、予め決められた高輝度優先映像用のガンマ補正カーブを用いてもよい。S302の後、ディスプレイマイコン221は、S304に処理を進める。
一方、S303に進むと、ディスプレイマイコン221は、予め決められた通常映像用の所定のガンマ補正カーブを決定する。S302の後、ディスプレイマイコン221は、S304に処理を進める。
S304では、ディスプレイマイコン221は、ガンマ補正処理部226に対し、S302又はS303で決定したガンマ補正カーブに基づくガンマ補正処理を行わせる。これにより、撮像装置100で高輝度優先モードによる階調補正処理が行われていた場合、ガンマ補正処理部226では、映像信号に対し、高輝度優先モードにおけるガンマ特性の逆特性に近いガンマ補正カーブに基づくガンマ補正処理が行われる。一方、撮像装置100で通常撮影モードによる階調補正処理が行われていた場合、ガンマ補正処理部226では、映像信号に対し、通常撮影モードにおけるガンマ特性の逆特性に近いガンマ補正カーブに基づくガンマ補正処理が行われる。S304の後は、ディスプレイマイコン221は、表示装置220の電源が切断されるまで図9のフローチャートの処理を繰り返す。
本実施形態の表示装置220は、撮像装置100にて行われた高輝度優先モード又は通常撮影モードで用いられたガンマ特性の逆特性に近いガンマ補正カーブによるガンマ補正処理が行われる。表示装置220は、ガンマ補正処理を行う際のガンマ特性を、撮像装置100にて行われた高輝度優先モード又は通常撮影モードに応じて切り替えることで、映像処理システムトータルでの階調特性のリニアリティ精度を向上させることができる。例えば撮像装置100で高輝度優先モードによる階調補正処理が行われた場合、入力ダイナミックレンジを広げても、通常撮影モードの場合のようなコントラスト圧縮は行われず、映像処理システムトータルでの階調特性を輝度リニアにすることができる。これにより、暗部からハイライト部まで全域で、より自然な階調性を実現することが可能となる。
<表示装置の信号処理の説明>
図10は、表示装置220において、ディスプレイマイコン221と信号処理部222における処理のフローチャートである。
図10のフローチャートの各処理は、本実施形態に係る表示装置用の映像処理プログラムをディスプレイマイコン221が実行することで実現される。本実施形態に係る映像処理プログラムは、前述同様に、表示装置220の不図示のROM等に予め用意されていてもよく、不図示の外部記憶媒体からRAM等にロードされても、或いは、ネットワークからダウンロードされてもよい。以下の説明では、図10の各処理のステップS401〜ステップS412を、S401〜S412と略記する。
図10のフローチャートで示す処理は、例えば、ユーザ操作によりビデオカメラ120が再生モードになされ、さらに再生の開始指示が入力されたことでスタートする。図10の処理がスタートすると、ディスプレイマイコン221は、S401において、メタデータの解析結果の高輝度優先モードを示すフラグ、或いはユーザ操作に基づいて、映像信号が高輝度優先モードで階調補正処理された信号か否かを判断する。ディスプレイマイコン221は、S401において、高輝度優先モードのフラグが有る場合にはS402に処理を進め、一方、高輝度優先モードのフラグが無い場合にはS406に処理を進める。
S402に進んだ場合、ディスプレイマイコン221は、画質モード設定メニューからユーザが選択したメニューに応じた画質モード、又は、高輝度優先モードに応じた画質モードを決定する。S402の後、ディスプレイマイコン221は、S403に処理を進める。これに対し、S406に進んだ場合、ディスプレイマイコン221は、画質モード設定メニューからユーザが選択したメニューに応じた画質モード、又は、通常撮影モードに応じた画質モードを決定する。そして、ディスプレイマイコン221は、その決定した画質モードにより、画質モード設定部223に対して画質モードの設定を行わせる。S406の後、ディスプレイマイコン221は、S407に処理を進める。
S403に進んだ場合、ディスプレイマイコン221は、前述の図8のS202の場合と同様にして、映像の中低輝度部の明るさが通常撮影モード時の明るさと等しくなるようなピーク輝度値を算出する。S403の後、ディスプレイマイコン221は、S404に処理を進める。これに対し、S407に進んだ場合、ディスプレイマイコン221は、前述の図8のS203の場合と同様にして、予め決められた通常映像用の所定のピーク輝度値を算出する。S407の後、ディスプレイマイコン221は、S408に処理を進める。
S404に進んだ場合、ディスプレイマイコン221は、前述の図9のS302の場合と同様にして、撮像装置100で用いられたガンマ特性139の逆特性に最も近くなるようなガンマ補正カーブを決定する。S404の後、ディスプレイマイコン221は、S405に処理を進める。これに対し、S408に進んだ場合、ディスプレイマイコン221は、前述の図9のS303の場合と同様にして、予め決められた通常映像用の所定のガンマ補正カーブを決定する。S408の後、ディスプレイマイコン221は、S409に処理を進める。
S405に進んだ場合、ディスプレイマイコン221は、撮像装置100で高輝度優先モードの階調補正処理が行われた映像信号に対する適応処理を決定(適応処理を行うか否かを決定)する。S405の後、ディスプレイマイコン221は、S410に処理を進める。これに対し、S409に進んだ場合、ディスプレイマイコン221は、撮像装置100で通常撮影モードの階調補正処理が行われた映像信号に対する適応処理を決定する。S409の後、ディスプレイマイコン221は、S410に処理を進める。
S410では、ディスプレイマイコン221は、S405又はS406で決定した画質モードとなるように、画質モード設定部223に対して前述したような画質モードの設定を行わせる。S410の後、ディスプレイマイコン221は、S411に処理を進める。
S411では、ディスプレイマイコン221は、S403又はS407で決定したピーク輝度値に基づいて、前述の図8のS204の場合と同様に、ピーク輝度設定部224に対してピーク輝度値を設定させる。S411の後、ディスプレイマイコン221は、S412に処理を進める。
S412では、ディスプレイマイコン221は、S404又はS408で決定したガンマ補正カーブに基づいて、前述の図9のS304の場合と同様に、ガンマ補正処理部226に対してガンマ補正処理を行わせる。S412の後、ディスプレイマイコン221は、S413に処理を進める。
S413では、ディスプレイマイコン221は、S405又はS409で決定した適応処理に基づいて、高輝度適応処理部227に対して前述したような適応処理を行わせる。S413の後は、ディスプレイマイコン221は、表示装置220の電源が切断されるまで図10のフローチャートの処理を繰り返す。
以上述べたように、本実施形態の撮像装置100と表示装置220を有する映像処理システムによれば、実用的な入力ダイナミックレンジを確保しつつ、低輝度から高輝度までの全輝度領域で実被写体の階調特性に近い、自然な階調、色、鮮鋭感の再現が可能となる。
<その他の実施形態>
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
上述の実施形態は、何れも本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。即ち、本発明は、その技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。
100 撮像装置、107 WB補正処理部、108 エッジ強調処理部、109 ガンマ補正処理部、110 輝度/色情報検出部、111 カメラマイコン、112 信号処理部、220 表示装置、221 ディスプレイマイコン、222 信号処理部、223 画質モード設定部、224 ピーク輝度値設定部、225 色補正処理部、226 ガンマ補正処理部、227 高輝度部適応処理部、228 メタデータ解析部、301 露出表示部、303 適正露出表示部

Claims (18)

  1. 映像信号の低輝度から高輝度までの全輝度領域における輝度の入力値に対する出力値の関係を、入力ダイナミックレンジによらずに、基準のガンマ特性における輝度の入力値に対する出力値の関係に合わせるようにしたガンマ特性を設定する制御手段と、
    前記設定されたガンマ特性に基づいて、撮像された映像信号に対して前記入力値を前記出力値に変換するガンマ補正処理を行う補正手段と
    を有することを特徴とする映像処理装置。
  2. 前記補正手段は、前記設定されたガンマ特性に基づいて、前記撮像された映像信号の各輝度値がコード化された前記入力値のコードを前記出力値のコードに変換し、前記低輝度から高輝度までの全輝度領域の前記出力値のコードに対するビットの割り振りの割合を変更せずに前記ガンマ補正処理を行うことを特徴とする請求項1に記載の映像処理装置。
  3. 前記制御手段は、前記設定するガンマ特性を、前記基準のガンマ特性の入力ダイナミックレンジより所定の倍率だけ広くなされた入力ダイナミックレンジのガンマ特性とすることを特徴とする請求項1又は2に記載の映像処理装置。
  4. 前記制御手段は、前記基準のガンマ特性の入力値と出力値の関係に合わせるようにして前記設定した第1のガンマ特性と、前記基準のガンマ特性の入力値と出力値の関係に対し、高輝度領域の入力値に対する出力値を圧縮するように設定した第2のガンマ特性との何れかを、装置のモードに応じて選択し、
    前記補正手段は、前記装置のモードに応じて選択された前記第1のガンマ特性又は第2のガンマ特性を用いて、前記ガンマ補正処理を行うことを特徴とする請求項1乃至3の何れか1項に記載の映像処理装置。
  5. 前記制御手段は、前記ガンマ補正処理の際に前記第1のガンマ特性と前記第2のガンマ特性の何れが用いられたかを示す情報と、前記選択された第1のガンマ特性又は前記第2のガンマ特性が前記基準のガンマ特性の入力ダイナミックレンジより所定の倍率だけ広げられた入力ダイナミックレンジのガンマ特性である場合の前記所定の倍率に対応した情報と、前記映像信号のピーク輝度値を表す情報と、前記選択された前記第1のガンマ特性又は前記第2のガンマ特性のガンマ形状情報と、前記基準のガンマ特性を示す情報との、少なくとも何れか一つの情報を、メタデータとして、前記ガンマ補正処理が行われた後の映像信号に付加することを特徴とする請求項4に記載の映像処理装置。
  6. 前記制御手段は、
    撮像がなされている映像信号に対して前記ガンマ補正処理が行われてライブビュー表示がなされるときの現在の露出と適正露出との関係を位置の関係として表示するための露出表示信号を生成し、
    前記第1のガンマ特性を用いたガンマ補正処理が行われる場合には、前記適正露出を示す位置を、前記第1のガンマ特性によりガンマ補正処理が行われたときの明るさに合わせた位置にした前記露出表示信号を生成することを特徴とする請求項4又は5に記載の映像処理装置。
  7. 映像信号の低輝度から高輝度までの全輝度領域における輝度の入力値に対する出力値の関係を、入力ダイナミックレンジによらずに、基準のガンマ特性における輝度の入力値に対する出力値の関係に合わせるようにしたガンマ特性の逆特性となるガンマ特性を設定する制御手段と、
    前記設定されたガンマ特性に基づいて、入力された映像信号に対して前記入力値を前記出力値に変換するガンマ補正処理を行う補正手段と
    を有することを特徴とする映像処理装置。
  8. 前記制御手段は、
    前記入力された映像信号に付加されているメタデータを解析し、
    前記メタデータの解析結果に基づいて、前記基準のガンマ特性の入力値と出力値の関係に合わせるようにした前記ガンマ特性である第1のガンマ特性の逆特性となる第3のガンマ特性と、前記基準のガンマ特性の入力値と出力値の関係に対し、高輝度領域の入力値に対する出力値を圧縮するようにした第2のガンマ特性の逆特性となる第4のガンマ特性との何れかを選択し、
    前記補正手段は、前記選択された前記第3のガンマ特性又は第4のガンマ特性に基づいて、前記入力された映像信号に対して前記ガンマ補正処理を行うことを特徴とする請求項7に記載の映像処理装置。
  9. 前記制御手段は、
    前記メタデータの解析結果として、前記入力された映像信号が前記第1のガンマ特性を用いてガンマ補正処理されていることを示す情報を得た場合には、前記第3のガンマ特性を選択し、
    前記メタデータの解析結果として、前記入力された映像信号が前記第2のガンマ特性を用いてガンマ補正処理されていることを示す情報を得た場合には、前記第4のガンマ特性を選択することを特徴とする請求項8に記載の映像処理装置。
  10. 前記制御手段は、前記メタデータの解析結果として、第1、第2のガンマ特性が前記基準のガンマ特性の入力ダイナミックレンジより所定の倍率だけ広くなされた入力ダイナミックレンジのガンマ特性であるときの前記所定の倍率を表す情報を得た場合には、前記第3、第4のガンマ特性を、前記所定の倍率だけ広くなされた入力ダイナミックレンジのガンマ特性に設定することを特徴とする請求項8又は9に記載の映像処理装置。
  11. 前記制御手段は、前記第3のガンマ特性を選択し、前記メタデータの解析結果として、前記第1のガンマ特性の入力ダイナミックレンジを表す情報、又は、第1のガンマ特性が前記基準のガンマ特性の入力ダイナミックレンジより所定の倍率だけ広くなされた入力ダイナミックレンジのガンマ特性であるときの前記所定の倍率を表す情報、又は、前記入力された映像信号のピーク輝度値を表す情報を得た場合には、前記得られた情報に基づいて、前記映像信号に対して前記第3のガンマ特性によるガンマ補正処理が行われた場合の低中輝度の領域の輝度値が、前記映像信号に対して前記第4のガンマ特性によるガンマ補正処理が行われた場合の低中輝度の領域の輝度値に等しくなるピーク輝度値を求め、
    前記入力された映像信号のピーク輝度値を、前記制御手段が求めたピーク輝度値に設定する輝度設定手段を有することを特徴とする請求項8乃至10の何れか1項に記載の映像処理装置。
  12. 前記制御手段は、
    前記メタデータの解析結果として、前記第1のガンマ特性のガンマ形状情報が得られた場合には、前記第1のガンマ特性のガンマ形状情報に基づいて、前記第3のガンマ特性を設定し、
    前記メタデータの解析結果として、前記第2のガンマ特性のガンマ形状情報が得られた場合には、前記第2のガンマ特性のガンマ形状情報に基づいて、前記第4のガンマ特性を設定することを特徴とする請求項8乃至11の何れか1項に記載の映像処理装置。
  13. 前記制御手段は、前記メタデータの解析結果として、前記基準のガンマ特性を示す情報が得られた場合には、前記基準のガンマ特性を示す情報に基づいて、前記第3、第4のガンマ特性の設定を行うことを特徴とする請求項8乃至12の何れか1項に記載の映像処理装置。
  14. 前記制御手段が前記第4のガンマ特性を選択して前記補正手段により前記第4のガンマ特性を用いた前記ガンマ補正処理が行われた場合には、前記入力された映像信号に対して前記第2のガンマ特性による前記高輝度領域の圧縮に対応した復元を行う適応処理を行い、前記制御手段が前記第3のガンマ特性を選択して前記補正手段により前記第3のガンマ特性を用いた前記ガンマ補正処理が行われた場合には、前記入力された映像信号に対して前記適応処理を行わない適応処理手段を有することを特徴とする請求項8乃至13の何れか1項に記載の映像処理装置。
  15. 制御手段が、低輝度から高輝度までの全輝度領域における輝度の入力値に対する出力値の関係を、入力ダイナミックレンジによらずに、基準のガンマ特性における輝度の入力値に対する出力値の関係に合わせるようにしたガンマ特性を設定するステップと、
    補正手段が、前記設定されたガンマ特性に基づいて、撮像された映像信号に対して前記入力値を前記出力値に変換するガンマ補正処理を行うステップと
    を含むことを特徴とする映像処理方法。
  16. 制御手段が、低輝度から高輝度までの全輝度領域における輝度の入力値に対する出力値の関係を、入力ダイナミックレンジによらずに、基準のガンマ特性における輝度の入力値に対する出力値の関係に合わせるようにしたガンマ特性の逆特性となるガンマ特性を設定するステップと、
    補正手段が、前記設定されたガンマ特性に基づいて、入力された映像信号に対して前記入力値を前記出力値に変換するガンマ補正処理を行うステップと
    を含むことを特徴とする映像処理方法。
  17. コンピュータを、請求項1乃至14の何れか1項に記載の映像処理装置の各手段として機能させるための映像処理プログラム。
  18. 請求項1に記載の映像処理装置と、請求項7に記載の映像処理装置とを有することを特徴とする映像処理システム。
JP2015214554A 2015-10-30 2015-10-30 映像処理装置、映像処理方法、及び映像処理プログラム Active JP6624889B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2015214554A JP6624889B2 (ja) 2015-10-30 2015-10-30 映像処理装置、映像処理方法、及び映像処理プログラム
GB1617760.2A GB2545067B (en) 2015-10-30 2016-10-20 Video processing apparatus, method, program, and medium in which a gamma correction curve for an extended dynamic range is generated using a reference curve
KR1020160137292A KR102045202B1 (ko) 2015-10-30 2016-10-21 영상 처리장치, 영상 처리방법, 프로그램, 및 매체
US15/335,131 US10582174B2 (en) 2015-10-30 2016-10-26 Video processing apparatus, video processing method, and medium
DE102016120450.1A DE102016120450A1 (de) 2015-10-30 2016-10-26 Videoverarbeitungsvorrichtung, Videoverarbeitungsverfahren, Programm und Medium
CN201610968187.3A CN106941587B (zh) 2015-10-30 2016-10-31 视频处理设备和视频处理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015214554A JP6624889B2 (ja) 2015-10-30 2015-10-30 映像処理装置、映像処理方法、及び映像処理プログラム

Publications (3)

Publication Number Publication Date
JP2017085481A true JP2017085481A (ja) 2017-05-18
JP2017085481A5 JP2017085481A5 (ja) 2018-12-06
JP6624889B2 JP6624889B2 (ja) 2019-12-25

Family

ID=57738137

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015214554A Active JP6624889B2 (ja) 2015-10-30 2015-10-30 映像処理装置、映像処理方法、及び映像処理プログラム

Country Status (6)

Country Link
US (1) US10582174B2 (ja)
JP (1) JP6624889B2 (ja)
KR (1) KR102045202B1 (ja)
CN (1) CN106941587B (ja)
DE (1) DE102016120450A1 (ja)
GB (1) GB2545067B (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019087844A (ja) * 2017-11-06 2019-06-06 株式会社ソニー・インタラクティブエンタテインメント 画像処理装置、表示装置、および画像処理方法
JP2020039118A (ja) * 2018-09-03 2020-03-12 キヤノン株式会社 画像処理装置およびその制御方法

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106683601B (zh) * 2015-11-10 2020-07-14 佳能株式会社 显示控制装置及其控制方法
US20190052803A1 (en) * 2017-08-09 2019-02-14 Canon Kabushiki Kaisha Image processing system, imaging apparatus, image processing apparatus, control method, and storage medium
KR102499187B1 (ko) * 2018-02-12 2023-02-13 삼성전자주식회사 카메라를 이용하여 획득한 이미지를 압축 처리하는 전자 장치 및 그 동작 방법
KR20210058488A (ko) * 2019-11-14 2021-05-24 광주과학기술원 머신 러닝에 기반하여 데이터의 압축에 이용되는 표현 매트릭스 및 관측 매트릭스를 선택하기 위한 전자 장치 및 방법
KR102216391B1 (ko) * 2020-12-23 2021-02-17 박준영 디지털 리마스터링 기술을 이용한 실시간 화상송출 시스템 및 방법
JP2023074897A (ja) * 2021-11-18 2023-05-30 キヤノン株式会社 画像処理装置、画像処理方法、および撮像装置

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01231571A (ja) * 1988-03-11 1989-09-14 Nec Corp 写真電送装置
JP2002033956A (ja) * 2000-07-14 2002-01-31 Olympus Optical Co Ltd 撮像装置
JP2003264738A (ja) * 2002-03-07 2003-09-19 Olympus Optical Co Ltd デジタルカメラ
JP2008301095A (ja) * 2007-05-30 2008-12-11 Sony Corp 撮像装置及び撮像方法
WO2014002901A1 (ja) * 2012-06-29 2014-01-03 ソニー株式会社 画像処理装置および方法
JP2014519221A (ja) * 2011-04-28 2014-08-07 コーニンクレッカ フィリップス エヌ ヴェ 映像符号化信号を発生する方法及び装置
WO2015007910A1 (en) * 2013-07-19 2015-01-22 Koninklijke Philips N.V. Hdr metadata transport

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3586238B2 (ja) 2001-12-03 2004-11-10 キヤノン株式会社 撮像装置
US7081906B2 (en) * 2001-12-27 2006-07-25 Lg Electronics Inc. Driving method and device for flat panel display
WO2004004328A1 (ja) * 2002-06-26 2004-01-08 Matsushita Electric Industrial Co., Ltd. 特性補正装置
US20040066388A1 (en) * 2002-07-16 2004-04-08 Leather Mark M. Method and apparatus for improved transform functions for non gamma corrected graphics systems
JP4385841B2 (ja) * 2004-04-22 2009-12-16 ソニー株式会社 画像処理装置
JP4321496B2 (ja) * 2005-06-16 2009-08-26 ソニー株式会社 画像データ処理装置、画像データ処理方法およびプログラム
CN101322416B (zh) 2006-03-20 2010-10-13 索尼株式会社 图像信号处理装置及图像信号处理方法
WO2008156456A1 (en) * 2007-06-20 2008-12-24 Thomson Licensing Automatic gamma correction of input source content
WO2009008234A1 (ja) * 2007-07-11 2009-01-15 Sony Corporation 表示装置および表示装置の駆動方法
JP5249077B2 (ja) * 2009-02-17 2013-07-31 キヤノン株式会社 撮像装置及び画像処理方法
JP2014219724A (ja) * 2013-05-01 2014-11-20 キヤノン株式会社 画像処理装置、画像処理装置の制御方法、及び、プログラム
RU2670782C9 (ru) * 2013-07-18 2018-11-23 Конинклейке Филипс Н.В. Способы и устройства для создания функций отображения кода для кодирования изображения hdr и способы и устройства для использования таких кодированных изображений
JP6415063B2 (ja) 2014-02-21 2018-10-31 キヤノン株式会社 画像処理装置、画像処理方法、制御プログラム、および記録媒体
JP6278736B2 (ja) * 2014-02-26 2018-02-14 キヤノン株式会社 画像処理装置、画像処理方法、制御プログラム、および記録媒体
JP6282156B2 (ja) 2014-03-31 2018-02-21 キヤノン株式会社 画像装置、画像処理方法、制御プログラム及び記憶媒体
KR20180006898A (ko) * 2015-05-12 2018-01-19 소니 주식회사 화상 처리 장치 및 화상 처리 방법, 그리고 프로그램
JP6519329B2 (ja) * 2015-06-09 2019-05-29 ソニー株式会社 受信装置、受信方法、送信装置および送信方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01231571A (ja) * 1988-03-11 1989-09-14 Nec Corp 写真電送装置
JP2002033956A (ja) * 2000-07-14 2002-01-31 Olympus Optical Co Ltd 撮像装置
JP2003264738A (ja) * 2002-03-07 2003-09-19 Olympus Optical Co Ltd デジタルカメラ
JP2008301095A (ja) * 2007-05-30 2008-12-11 Sony Corp 撮像装置及び撮像方法
JP2014519221A (ja) * 2011-04-28 2014-08-07 コーニンクレッカ フィリップス エヌ ヴェ 映像符号化信号を発生する方法及び装置
WO2014002901A1 (ja) * 2012-06-29 2014-01-03 ソニー株式会社 画像処理装置および方法
WO2015007910A1 (en) * 2013-07-19 2015-01-22 Koninklijke Philips N.V. Hdr metadata transport

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019087844A (ja) * 2017-11-06 2019-06-06 株式会社ソニー・インタラクティブエンタテインメント 画像処理装置、表示装置、および画像処理方法
US10825153B2 (en) 2017-11-06 2020-11-03 Sony Interactive Entertainment Inc. Image processing apparatus, display apparatus, and image processing method
JP2020039118A (ja) * 2018-09-03 2020-03-12 キヤノン株式会社 画像処理装置およびその制御方法

Also Published As

Publication number Publication date
KR20170051274A (ko) 2017-05-11
GB2545067B (en) 2020-01-08
KR102045202B1 (ko) 2019-11-15
GB2545067A (en) 2017-06-07
JP6624889B2 (ja) 2019-12-25
US10582174B2 (en) 2020-03-03
GB201617760D0 (en) 2016-12-07
CN106941587B (zh) 2020-02-28
CN106941587A (zh) 2017-07-11
DE102016120450A1 (de) 2017-05-04
US20170127034A1 (en) 2017-05-04

Similar Documents

Publication Publication Date Title
JP6624889B2 (ja) 映像処理装置、映像処理方法、及び映像処理プログラム
JP5053724B2 (ja) 画像表示装置、撮像装置、画像再生装置、及び画像表示方法
JP4785799B2 (ja) 画像処理装置、画像処理方法及び撮影装置
JP2009201094A (ja) 撮像装置および撮像方法
JP2008109629A (ja) 画像補正装置及び画像補正方法とプログラム
JP2017212532A (ja) 画像処理装置
KR20080101277A (ko) 히스토그램을 디스플레이 하는 디지털 영상 처리 장치 및그의 동작 방법
JP2002300372A (ja) 画像処理装置、画像処理プログラムが記録された記録媒体、および、画像再生装置
JP2012195968A (ja) 撮像装置、制御方法及びプログラム
JP5277863B2 (ja) 撮像装置および撮像方法
JP2020136823A (ja) 画像処理装置、撮像装置、画像処理方法、撮像装置の制御方法、及びプログラム
JP2014107837A (ja) 撮像装置、画像処理装置、及び制御方法
JP5803233B2 (ja) 撮像装置および撮像方法
WO2014175273A1 (ja) 撮像装置及びその制御方法
JP2003259200A (ja) 撮像装置
JP2004129065A (ja) デジタルカメラ
JP2018026606A (ja) 画像処理装置
JP5904753B2 (ja) 画像処理装置及び画像処理装置の制御方法
JP2010245924A (ja) 画像表示装置、およびカメラ
JP7332325B2 (ja) 画像処理装置、撮像装置、画像処理方法、及びプログラム
JP2019029781A (ja) 画像処理装置
JP6072191B2 (ja) 画像処理装置及び画像処理装置の制御方法
JP2024070628A (ja) 画像処理装置、画像処理方法、および撮像装置
JP2024123696A (ja) 画像処理装置及び方法及びプログラム
JP2022135222A (ja) 撮像装置、撮像装置の制御方法、及びプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181026

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181026

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190725

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190806

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191003

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191029

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191126

R151 Written notification of patent or utility model registration

Ref document number: 6624889

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151