JP6317577B2 - 映像信号処理装置及びその制御方法 - Google Patents

映像信号処理装置及びその制御方法 Download PDF

Info

Publication number
JP6317577B2
JP6317577B2 JP2013251415A JP2013251415A JP6317577B2 JP 6317577 B2 JP6317577 B2 JP 6317577B2 JP 2013251415 A JP2013251415 A JP 2013251415A JP 2013251415 A JP2013251415 A JP 2013251415A JP 6317577 B2 JP6317577 B2 JP 6317577B2
Authority
JP
Japan
Prior art keywords
video signal
display
luminance
luminance level
signal processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013251415A
Other languages
English (en)
Other versions
JP2015109563A5 (ja
JP2015109563A (ja
Inventor
三浦 裕也
裕也 三浦
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2013251415A priority Critical patent/JP6317577B2/ja
Priority to US14/558,460 priority patent/US10102787B2/en
Publication of JP2015109563A publication Critical patent/JP2015109563A/ja
Publication of JP2015109563A5 publication Critical patent/JP2015109563A5/ja
Application granted granted Critical
Publication of JP6317577B2 publication Critical patent/JP6317577B2/ja
Priority to US16/130,287 priority patent/US10896634B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/20Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
    • G09G3/2003Display of colours
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/02Improving the quality of display appearance
    • G09G2320/0233Improving the luminance or brightness uniformity across the screen
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/02Improving the quality of display appearance
    • G09G2320/0242Compensation of deficiencies in the appearance of colours

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Description

本発明は、映像信号処理装置及びその制御方法に関する。
従来、カメラ機能を有する機器において、撮影時の露出条件の設定を補助するための機能として、画像を構成する画素の輝度のレベルや分布を表示する機能が知られている。例えば、所定の範囲の輝度レベルを有する画素にゼブラパターンを重畳表示したり、特定の色の画素に置換して表示したり(フォールスカラー表示)する機能が知られている(特許文献1)。
また、波形モニタ(ウェーブフォームモニタ)と呼ばれる、画面の垂直ライン(または水平ライン)方向に位置する輝度とその出現頻度を、波形の表示位置とその輝度レベルで示す表示方法も知られている。
特許第4181625号公報
フォールスカラー表示は、所定範囲の輝度レベルを有する画素が存在する場所や範囲を知るには有効であるが、表示色と具体的な輝度レベルとの対応が分かりづらい。一方、波形モニタ表示は波形表示であるため、映像との関係を把握するには慣れが必要であるほか、波形の輝度レベルと映像内の位置との関係が曖昧だった。
本発明はこのような従来技術の課題に鑑みてなされたものであり、映像中の所定の輝度レベル範囲を有する部分と、所定の輝度レベル範囲の具体的な値とを容易に把握可能な表示を実現する映像信号処理装置及びその制御方法の提供を目的とする。
上述の目的を達成するための本発明の映像信号処理装置は、映像信号と、映像信号の輝度波形とを表示手段に表示可能な映像信号処理装置であって、輝度波形は、映像信号に含まれる輝度レベルと映像信号に対応した画面内における位置との関係を表し、映像信号のうち、予め設定した輝度レベル範囲に含まれる輝度レベルを有する第1の領域を所定の色で表示手段に表示するように映像信号の表示を制御する第1の表示制御手段と、輝度波形のうち、輝度レベル範囲に対応する第2の領域を所定の色に対応する色で表示手段に表示するように輝度波形の表示を制御する第2の表示制御手段と、を有することを特徴とする。
このような構成により、本発明に拠れば、映像中の所定の輝度レベル範囲を有する部分と、所定の輝度レベル範囲の具体的な値とを容易に把握可能な表示を実現する映像信号処理装置及びその制御方法を提供できる。
本発明の実施形態に係る映像処理装置の一例としてのデジタルカメラの機能構成例を示すブロック図 図1のビデオ信号処理部115の機能構成例を示すブロック図 本発明の第1の実施形態に係るデジタルカメラにおける映像表示および輝度波形表示の例を模式的に示す図 本発明の第2の実施形態に係るデジタルカメラにおける映像表示および輝度波形表示の例を模式的に示す図 本発明の第2の実施形態に係るデジタルカメラにおける映像表示および輝度波形表示の別の例を模式的に示す図 本発明の実施形態に係るデジタルカメラにおける映像表示および輝度波形表示のさらに別の例を模式的に示す図 本発明の第3の実施形態に係るデジタルカメラにおける映像表示および輝度波形表示の例を模式的に示す図
以下、図面を参照して本発明を例示的な実施形態に基づいて詳細に説明する。なお、以下では本発明をデジタルカメラに適用した場合について説明する。しかし、本発明は映像信号の処理および表示機能を有する任意の装置に適用可能である。従って、本発明の実施形態に係る映像信号処理装置は、例えば以下の装置を包含する。撮像装置(デジタルビデオカメラ、デジタルスチルカメラなど)および、撮影機能を有する電子機器(カメラ付き携帯情報端末、カメラ付き携帯電話、カメラ付きパーソナルコンピュータなど)。また、撮影機能は必須でないため、各種ピクチャーモニタ、マスターモニタ、波形モニタをはじめ、パーソナルコンピュータなど、一般的に画像処理装置と呼ばれる装置・機器も含まれる。
●(第1の実施形態)
図1は、本実施形態に係るデジタルカメラの機能ブロック図である。レンズ部101は、被写体像を撮像素子102の撮像面上に結像する光学系を構成し、ユーザによるマニュアル操作を可能とするズーム機能、焦点調節機能及び、絞り調節機能を備える。撮像素子102は多数の光電変換素子が2次元的に配列された構成を有し、レンズ部101によって結像された被写体光学像を画素単位の映像信号に変換する。撮像素子102は例えば、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサや、CCD(Charged Coupled Device)イメージセンサであってよい。撮像素子102はまた、光電変換素子による電荷蓄積時間を調整することによる電子シャッター機能を備える。
撮像素子駆動部103は、カメラ信号処理部106の制御するタイミングに従って撮像素子102を駆動制御する。CDS/AGC部104は、撮像素子102からのアナログ映像信号を相関二重サンプリング(CDS)してノイズを削減し、システム制御部111の制御に従って信号レベルのゲイン制御(AGC)を行う。A/D(Analog to Digital)変換器105は、CDS/AGC部104からのアナログ映像信号をデジタル映像信号に変換し、カメラ信号処理部106に供給する。
カメラ信号処理部106は、システム制御部111と連携して、タイミング信号の生成、自動露出(Auto Exposure:AE)制御、ガンマ調整、オートフォーカス(Auto Focus:AF)制御など、カメラ撮像系の制御を行う。
本実施形態のデジタルカメラは、用途に応じた第1記憶部107、第2記憶部116、第3記憶部112、第4記憶部119を有している。ここでは便宜上、第1記憶部107をカメラ信号処理用、第2記憶部116をビデオ制御用、第3記憶部112をシステム制御用、第4記憶部119をCODEC用として個別に設けられているものとして記載しているが、物理的には同じ記憶装置で実現してもよい。第1〜第4記憶部107,116,112,119は、典型的には読み書き可能な半導体メモリによって構成されるが、少なくとも1つが他の種類の記憶装置で構成されてもよい。
第1記憶部107は、撮像した映像を信号処理する際のフレームメモリ等としてカメラ信号処理部106が使用する。レンズ駆動部108はシステム制御部111の制御に従い、レンズ部101の図示しないモータやアクチュエータなどを駆動し、倍率変更レンズやフォーカシングレンズの位置の変更、絞りの開閉動作を実施する。これにより、システム制御部111はレンズ部101のズーム倍率の変更および合焦距離の調整や、露出の調整を行うことが可能である。レンズ駆動部108の制御は、システム制御部111がカメラ信号処理部106での信号処理結果に基づいて行う。例えば、AF制御時には、カメラ信号処理部106が求めたAF評価値に基づいてシステム制御部111がレンズ駆動部108を制御し、レンズ部101のフォーカシングレンズを駆動制御することで、レンズ部101を被写体に合焦させる。
マイク110は、周囲の音を記録する際に有効とされ、マイク110からの音声信号はカメラ信号処理部106に供給される。例えば撮像素子102で撮像した映像と併せてマイク110からの音声を記録する場合、カメラ信号処理部106は映像と音声との時刻合わせをしてビデオ信号処理部115に供給する。
システム制御部111は例えばCPUのようなプログラマブルプロセッサであり、第3記憶部112に記憶されたプログラムを実行することにより、本実施形態のデジタルカメラの動作全般を制御する。第3記憶部112は、例えばROMやRAMを含み、システム制御部111が実行するプログラムや各種設定、初期値などを記憶する。また、第3記憶部112は、システム制御部111のワークエリアとしても用いられる。
入力操作部113は、撮影者がデジタルカメラに指示を与えるためのユーザインタフェースであり、キー、各種操作ボタン等の入力デバイスを備える。
計時部114は、リアルタイムクロック(RTC)とバックアップ電池を備え、システム制御部111からの要求に応じて、日時情報を返信する。
ビデオ信号処理部115は、第1表示部122及び第2表示部123への、色相、彩度、明度の調整を含む表示制御、アナログライン出力部124の出力制御、デジタルデータI/F部125への出力制御および、記録/再生部120の制御等を行う。第1表示部122及び第2表示部123を含む各映像出力系に対する映像信号の解像度変換や、ゼブラパターンの重畳などもビデオ信号処理部115が行う。ビデオ信号処理部115はさらに、撮影情報やユーザ設定メニュー、タッチパネル操作に必要な機能ボタン表示などのOSD(On Screen Display)表示制御も行う。第2記憶部116はビデオ制御用の記憶部で、ビデオ信号処理部115がビデオベースバンド信号に関する信号処理を行う際のフレームメモリ、ワークメモリ等として使用する。
H.264コーデック部117は、動画像の符号化/復号処理を行う動画像コーデックの一例である。符号化/復号の形式はMPEG(Moving Picture Experts Group)2方式を始め、他の形式であってよい。同様に、JPEG(Joint Photographic Experts Group)コーデック部118は、静止画像の符号化/復号処理を行う静止画コーデックの一例である。やはり符号化/復号の形式はJPEG2000やPNGなど、他の形式であってよい。なお、本実施形態では、H.264コーデック部117と回路を共用するためと、再生動画からの静止画撮影機能(キャプチャ機能)を実現するため、JPEGコーデック部118はビデオ信号処理部115に接続されている。しかし、JPEGコーデック部118はカメラ信号処理部106に直接接続されてもよい。第4記憶部119はコーデック用で、H.264コーデック部117およびJPEGコーデック部118が映像信号の符号化/復号の際に用いる。
記録/再生部120は、ビデオ信号処理部115とH.264コーデック部117またはJPEGコーデック部118により、符号化処理され、記録フォーマットとして処理された記録データを記録媒体121に対して記録したり、読み出したりする。なお、記録媒体121はメモリカードに限定されず、DVDや更に高容量の光ディスク、HDD、SSDなどであっても、それぞれに応じた記録再生システムを、別途、構成可能である。
第1表示部122及び第2表示部123は表示装置であり、いずれも同様の情報を表示することができる。ただし、本実施形態において、第2表示部123は第1表示部122よりも小型であり、ファインダ内に設けられているものとする。一方、第1表示部122は、例えば筐体の側面などに開閉可能に設けられる比較的大型の表示装置である。
これら第1及び第2表示部122及び123には、撮像モードでは撮像素子102からの入力映像や拡大映像に加え、撮影アスペクト枠表示などの補助表示が表示される。撮像素子102からの入力映像を順次表示することで、第1及び第2表示部122及び123は電子ビューファインダ(EVF)として機能する。
一方、再生モード時、第1及び第2表示部122及び123には、記録媒体121に記録されている動画像や静止画像が表示される。また、入力操作部113からの撮影者による入力操作情報や、記録媒体121のメモリカード内の任意の画像情報(撮影情報)などを表示することも可能である。
アナログライン出力部124は、アナログコンポーネント映像の出力や、S端子出力、コンポジット映像出力などのインタフェース群である。アナログライン出力部124を外部モニタ等に接続して、本デジタルカメラからの映像出力を外部モニタに表示することができる。
デジタルデータI/F部125は、USBやSDI、HDMI(登録商標)などのデジタルインタフェースを1つ以上、含むことができる。
次いで、本実施形態のデジタルカメラにおいて、映像画面内における具体的な輝度レベルと位置との関係をユーザが把握することを助けるために行う補助表示とその実現方法について図2、図3を用いて説明する。
図2は、ビデオ信号処理部115の機能構成の一部を示すブロック図である。
RGB形式の入力映像信号201は、カメラ信号処理部106から供給される。
色空間変換回路202は、入力映像信号201をRGB色空間からYCbCr色空間へ、3×3のマトリックス演算によって変換する。変換後の映像信号は、輝度(Y)成分(以下、輝度信号という)が映像輝度レベル比較回路203、色差制御回路206、および輝度波形生成回路207に入力され、色差(Cb,Cr)成分(以下、色差信号という)が色差制御回路206に入力される。
映像輝度レベル比較回路203は、色空間変換回路202からの輝度信号を、システム制御部111から制御バス204を通じてレジスタ205に予め設定された輝度レベル範囲と比較し、範囲内であるか範囲外であるかを色差制御回路206に伝える。なお、レジスタ205に設定され、比較される輝度レベル範囲は複数あっても構わない。
レジスタ205に設定されている輝度レベル範囲が複数ある場合、映像輝度レベル比較回路203は判定結果を、どの輝度レベルについての判定結果なのかが判別できるように色差制御回路206に伝える。どのような方法であってもよいが、例えば輝度レベル範囲を特定可能な情報と判定結果とを、各画素について通知すれば良い。
色差制御回路206は、映像輝度レベル比較回路203での比較結果に従って、比較した輝度信号の画素位置に対応する色差信号に対する制御を行う。具体的には、色差制御回路206は、設定された輝度レベル範囲に含まれる画素は、予め輝度レベル範囲ごとに設定された色で表示され、設定された輝度レベル範囲に含まれない画素は元の色のまま表示されるように色差を生成する。詳細については後述する。
輝度波形生成回路207は、たとえば、一般的な波形モニタ(WFM)が表示するような輝度波形信号を生成し、波形輝度レベル比較回路208および色差制御回路209に出力する。具体的には、映像の水平ラインごとに輝度値波形を生成し、1画面分の輝度値波形を合成することにより、1画面分の映像信号に対する輝度波形信号を生成する。輝度波形信号は、2次元の輝度波形画面を表し、各画素のx座標は映像信号の水平方向の位置を、y座標は輝度値を、また画素の値はy座標で表される輝度の出現頻度をそれぞれ表している。従って、映像信号の水平位置x1の垂直ラインが同一輝度値y1の画素で構成される場合、輝度波形画面では、x1に対応するx座標を有する画素群のうち、y1に対応するy座標の画素だけが値を有し、他のy座標を有する画素は値を持たない。また、輝度波形画面の画素値は出現頻度が多いほど大きくなるため、高輝度で表示される。
波形輝度レベル比較回路208は、輝度波形生成回路207からの輝度波形データの各画素が表す輝度レベルをレジスタ205に予め設定された輝度レベル範囲と比較して、範囲内であるか範囲外であるかを色差制御回路209に伝える。ここで、「画素が表す輝度レベル」はその画素の値(=出現頻度)ではなく、波形モニタ表示におけるその画素のy座標に相当する値である点に留意されたい。
レジスタ205に設定されている輝度レベル範囲が複数ある場合、波形輝度レベル比較回路208は判定結果を、どの輝度レベルについての判定結果なのかが判別できるように色差制御回路209に伝える。どのような方法であってもよいが、例えば輝度レベル範囲を特定可能な情報と判定結果とを、各画素について通知すれば良い。
色差制御回路209は、波形輝度レベル比較回路208での比較結果に従って、比較した輝度波形信号の画素に対応する輝度および色差信号を生成する。この輝度は画素値が大きいほど高い。また、色差制御回路209は、設定された輝度レベル範囲に含まれる画素は、予め輝度レベル範囲ごとに設定された色で表示され、設定された輝度レベル範囲に含まれない画素は予め設定された標準色で表示されるように色差を生成する。
合成回路210は、色差制御回路206と色差制御回路209からの輝度ならびに色差信号を合成し、1画面分の合成映像を生成する。合成回路210は例えば、色差制御回路206からのYCbCr(YUV)信号で表される映像に、色差制御回路209からのYCbCr(YUV)信号で表される波形表示を子画面表示の形で半透過合成したり、同一画面の別領域に合成したりする。
選択回路211は、色差制御回路206、色差制御回路209および合成回路210から輝度ならびに色差信号を受信し、制御バス204を通じたシステム制御部111による制御に従って選択した信号をフォーマット適合回路212、214、216に出力する。
フォーマット適合回路212は、選択回路211から受信した映像信号を、第1表示部122の液晶パネルに表示するための信号フォーマットに変換した表示用信号213を、第1表示部122に出力する。ここでは、LVDS伝送フォーマットに変換するものとする。
フォーマット適合回路214は、選択回路211から受信した映像信号を、第2表示部123の液晶パネルに表示するための信号フォーマットに変換した表示用信号215を、第2表示部123に出力する。ここでは、フォーマット適合回路212と同様にLVDS伝送フォーマットに変換するものとする。なお、上述の通り第1表示部122と第2表示部123とは表示解像度が異なるため、第1表示部122に出力する表示用信号213の方が第2表示部123に出力する表示用信号215より画素数が多い。他の点については第1の実施形態と同様であってよい。
フォーマット適合回路216は、選択回路211から受信した映像信号を、外部出力用の信号フォーマットに変換した出力用信号217を、デジタルデータI/F部125に出力する。ここでは、輝度(Y)に対して色差(CbCr)を間引いてYCC(YUV)422形式に変換し、SDI出力フォーマットに変換するものとする。
次いで、図2に示す映像信号処理回路で行う表示制御動作の一例を、図3を用いて模式的に説明する。
図3において、映像および輝度波形(波形モニタ表示)はいずれも第1表示部122に表示されるものとする。また説明を簡素化するため、映像信号は画面左側が低輝度、画面右側が高輝度の水平ランプ信号であるとする。すなわち、同一垂直ライン内の画素は等しい輝度レベルを有し、画面の左から右へむかって垂直ラインの輝度が一定に増加するような映像であるとする。
波形モニタ表示領域301は、水平方向において映像表示領域130と対応した座標軸を有しており、垂直方向は輝度レベルをIRE単位で表している。このように、映像表示領域130と波形モニタ表示領域301の位置を対応付けて表示する場合、映像表示領域130と波形モニタ表示領域301は同じ表示部に表示される。しかし、位置を対応付けない場合には、別個の表示部に表示されてもよいし、同じ表示部に表示されてもよい。ここで、IRE(Institute of Radio Engineers)は映像信号の100%白の輝度レベルを100[IRE]とした単位である。本実施形態では、波形表示の明るさで映像画面内に含まれる輝度レベルの頻度を表しており、明るく表示されるほど同一水平位置においてその輝度レベルの頻度が高いことが示される(不図示)。
図3に示す映像信号は、60IRE〜70IREの範囲の輝度レベルを有する領域302が着色(ここでは一例として赤色とする)表示されている。この着色は、ビデオ信号処理部115がゼブラパターンの重畳と同様に例えば色の付いた均一なパターンを映像に重畳表示することで実現されてもよいし、フォールスカラー表示と同様に映像の対象画素の色を置き換えたり変換したりすることで実現されてもよい。
そして、波形モニタ表示領域301の輝度波形表示において、映像の領域302に対応する領域303は、領域302に付けた色に対応する色、例えば同色(赤色)で表示する。なお、映像信号に付けた色と、輝度波形表示に適用する色とは厳密に同色である必要は無く、映像信号に付けた他の色と混同することなく対応関係が把握できる程度の類似性があればよい。従って、「対応する色」という表現は、同一色のみならず類似色も含むものと解されるべきである。
また、映像信号の60IRE〜70IREの範囲以外の輝度レベルを有する領域304、306には色を付けていないため、映像がそのまま表示される。
そのため、領域304,306に対応する輝度波形表示の領域305、307は、予め定められた標準色、例えば緑色で表示する。
以上説明したように、本実施形態によれば、映像信号と、この映像信号の輝度波形表示とを併せて行う。また、映像信号のうち特定の輝度レベルを有する範囲(画素)を着色表示するとともに、輝度波形表示においてもその特定の輝度レベルに対応した部分を映像信号と同様に着色表示する。従ってユーザは、映像表示画面からは、特定の輝度レベル範囲の画素が映像中に存在する位置や量を把握することができ、輝度波形表示画面からは、映像表示における特定の輝度レベル範囲が具体的にどのような値であるのかを容易かつ正確に把握することができる。例えばライブビュー表示画像に本実施形態を適用すれば、映像表示画面と輝度波形表示画面とを見ながら露出条件を設定することで、意図した撮影結果を得ることができる。
●(第2の実施形態)
次に、本発明の第2の実施形態について説明する。本実施形態が第1の実施形態と異なる点は、1つの輝度レベル範囲ではなく、全ての輝度レベルを包含する複数の輝度レベル範囲について映像の着色表示と、対応する輝度波形表示を実施している点である。
基本的な動作は第1の実施形態と同様であるため、説明を省略する。図4は、図3と同様の映像に対する本実施形態の表示方法を模式的に示した図である。
本実施形態では30IRE以下、30IRE超70IRE未満、70IRE以上、の3つの輝度レベル範囲に分割し、それぞれ青、緑、黄に着色表示している。そのため、左から右に向かって0IRE以下から0と100IREを通って100IRE以上まで輝度レベルが線形に増加する本実施形態の映像信号では、映像表示領域130において領域402が青,領域404が緑,領域406が黄、に着色表示されている。
この場合、ビデオ信号処理部115は、波形モニタ表示領域401の輝度波形も、30IRE以下に対応する部分403は青、30IRE超70IRE未満に対応する部分405は緑、70IRE以上に対応する部分407は黄で表示される。
(変形例)
なお、全ての輝度レベルに対して色を割り当てるのではなく、特定の範囲の複数の輝度レベル範囲について映像の着色表示と、対応する輝度波形表示を実施してもよい。
例えば、図5は、50IRE以下の輝度レベルをほぼ等分割した輝度レベル範囲をそれぞれ異なる色で着色表示した例を示している。
図5(a)では、映像信号(ここでは水平ランプ信号)の輝度レベルが50IRE以下の部分について、3つの輝度レベル範囲に分割し、異なる色で着色表示するとともに、波形モニタ表示に対して同様の着色を行った例を示している。システム制御部111がレジスタ205に設定する輝度レベルの範囲を制御することにより、このような表示制御を実現できる。
従って、映像表示領域130の領域502,504,506と、波形モニタ表示領域301における輝度波形の領域503,505,507はそれぞれ対応する色に着色表示されている。一方、50IREを超える領域508の映像信号は着色表示されず、元の映像がそのまま表示され、対応する輝度波形の領域509は領域503,505,507とは異なる標準色、例えば緑色で表示される。
低照度部分の諧調性を特に確認したい場合などに有効となる。
また、表示される映像信号の最大輝度レベルに応じて、着色表示する輝度レベルを動的に変更してもよい。例えば、図5(b)に示すように、映像信号の最大輝度レベルが50IREである場合、映像信号に含まれる輝度レベルの範囲(0〜50IRE)を複数に分割して着色表示するようにしてもよい。カメラ信号処理部106で検出された映像中の最高輝度レベルに応じて、システム制御部111がレジスタ205に設定する輝度レベルの範囲を制御することにより、このような表示制御を実現できる。これにより、撮影条件に応じた情報をユーザに提供することができる。
図5(b)では、最大輝度レベルの50IREを有する部分には着色表示を行わず、50IRE未満の輝度範囲を3つに分割して着色表示した例を示している。50IREの輝度レベルを有する領域608には着色表示を行わず、輝度波形の対応する領域609は標準色で表示される。この場合、最大輝度レベルの変動とともに、最大輝度レベル以下の、分割して特定色に着色表示する輝度範囲は変化する。
本実施形態によれば、第1の実施形態と同様の効果に加え、複数の輝度レベル範囲について一度に輝度レベルの分布とその値の把握が可能になり、撮影時の露出設定をより厳密に行うことが可能になる。
なお、図3〜図5の例では、輝度波形表示と映像表示との水平位置を合わせた場合を示したが、映像につけられた色と輝度波形表示の色とが対応しているため、表示位置を合わせなくても両者の対応は明確に把握できる。
例えば、映像表示画面にピクチャインピクチャ形式で(子画面として)輝度波形表示画面を重畳表示するような形態であってもよい。
図6は、映像表示領域に波形モニタ表示領域を子画面として重畳表示した場合の例を示す図である。図6(a)は着色表示前の状態を、(b)は着色表示後の状態をそれぞれ示している。本例では、波形モニタ表示領域301は映像表示領域130に半透過で重畳表示されている。図6(b)の501で示すように、映像表示領域130に表示されている映像のうち、所定輝度レベルを有する画素と、波形モニタ表示領域301における所定輝度レベルに対応する部分が対応する色で着色表示されている。このように、波形モニタ表示領域301と映像表示領域130の位置を合わせずに表示する場合には、波形モニタ表示領域301と映像表示領域130とが異なる表示部に表示される形態であってもよい。また、映像と輝度波形とが比較可能であれば、波形モニタ表示領域301と映像表示領域130とが同一表示画面内で交互に表示されたり、映像表示領域130が常時表示され、波形モニタ表示領域301が点滅表示されたりするような表示形態を採用してもよい。
●(第3の実施形態)
次に、本発明の第3の実施形態について説明する。本実施形態に係るデジタルカメラの機能構成は第1および第2の実施形態と同様であってよいため、以下では、本実施形態に特徴的な映像表示と波形モニタ表示の制御動作について説明する。
本実施形態では、着色表示を行う輝度レベル範囲を、基準輝度レベルと、映像信号に対して適用されるガンマ補正カーブ(階調補正特性)とを用いて決定することを特徴とする。
図7は、図3〜図4と同様の形式で映像表示領域130および波形モニタ表示領域301を示した図である。ここでも、映像信号は画面左側が低輝度、画面右側が高輝度の水平ランプ信号であるとする。
NTSC方式のテレビ放送では、受信側のテレビでガンマ値2.2と定義されており、表示がリニアな階調となるように、一般的に送信側では表示装置の逆ガンマ特性である1/2.2=0.4545…のガンマ値を用いてガンマ補正を適用する。ガンマ補正は、非線形な入出力特性を有するガンマ補正カーブを用いた階調補正処理である。撮影時に表示装置(第1表示部122)のガンマ特性の逆特性を用いてガンマ補正すれば、水平ランプ信号に対する輝度波形は、図7に示すように直線状となる。一方、撮影時に映像信号に適用するガンマ補正カーブは必ずしも表示装置のガンマカーブの逆特性としない(ならない)場合もあり、この場合には、映像信号が水平ランプ信号であっても輝度波形は直線になるとは限らない。
本実施形態では撮影時にカメラ信号処理部106で適用されうるガンマ補正カーブ(階調補正特性)として、図7に示すガンマ補正カーブA 321と、ガンマ補正カーブB 322があるものとする。ただし、これは説明および理解を容易にするためであって、3つ以上のガンマ補正カーブの1つが適用される構成であっても基本的な動作は同様である。
ここでは、着色表示を行う輝度レベル範囲を指定する情報として、基準輝度レベルが予め設定されているものとする。基準輝度レベルはある特定の輝度レベル[REI]である。また、基準輝度レベルは複数設定されていてもよいが、ここでは説明及び理解を容易にするために1つであるものとする。
システム制御部111は、カメラ信号処理部106から、映像信号に適用するガンマ補正カーブを特定する情報を取得する。この情報は、ガンマ補正カーブそのものであってもよいし、ガンマ補正カーブの識別情報であってもよい。なお、複数のガンマ補正カーブのうち、どのガンマ補正カーブを適用するかは、任意の基準に応じて、例えばユーザの設定によって決定されてよい。システム制御部111は、カメラ信号処理部106から取得するか、自身が有する記憶装置を参照して、使用されるガンマ補正カーブを参照し、基準輝度レベルにガンマ補正カーブを適用した後の輝度値(ガンマ補正後の値)を求める。そして、システム制御部111は、ガンマ補正後の値を中心として所定の輝度レベル範囲を、着色表示を行う輝度レベル範囲として求め、ビデオ信号処理部115のレジスタ205に設定する。
図7に示す例では、ガンマ補正カーブで補正(変換)した輝度値を中心として±5[IRE]の範囲を着色表示対象の輝度レベル範囲としている。その結果、基準輝度レベル320に対し、ガンマ補正カーブA 321が用いられる場合には輝度レベル範囲323が、ガンマ補正カーブB 322が用いられる場合には輝度レベル範囲324が、それぞれ着色表示対象となる輝度レベル範囲を表している。
レジスタ205に輝度レベル範囲が設定された後の処理については第1の実施形態と同様である。従って、カメラ信号処理部106でガンマ補正カーブA 321が用いられる場合、映像表示領域130のうち輝度レベル範囲323に対応する領域308と、波形モニタ表示領域301における輝度波形の対応する領域307が着色表示される。一方、カメラ信号処理部106でガンマ補正カーブB 322が用いられる場合、映像表示領域130のうち輝度レベル範囲324に対応する領域310と、波形モニタ表示領域301における輝度波形の対応する領域309が着色表示される。
図7ではカメラ信号処理部106でガンマ補正カーブA 321が用いられる場合とガンマ補正カーブB 322が用いられる場合を併せて示しているため、領域308と310(または領域307と309)の両方が着色表示されるように見える。しかし、実際にはガンマ補正カーブに応じた一方のみが着色表示される。
なお、映像表示領域130の領域312,314,316はガンマ補正カーブA 321およびB 322のいずれが用いられても着色表示されない。同様に、波形モニタ表示領域301の輝度波形の領域311,313,315は、ガンマ補正カーブA 321およびB 322のいずれが用いられても標準色で表示される。
なお、システム制御部111がガンマ補正後の基準輝度レベルを求め、それに従って着色表示を行う輝度レベル範囲をレジスタ205に設定する動作を、映像輝度レベル比較回路203および波形輝度レベル比較回路208で行うようにしてもよい。この場合、システム制御部111はレジスタ205に例えばカメラ信号処理部106が映像信号に対して適用するガンマ補正カーブを特定する情報と基準輝度レベルを設定する。そして、映像輝度レベル比較回路203および波形輝度レベル比較回路208は、ガンマ補正カーブを適用した後の基準輝度レベルを求め、着色対象の輝度レベル範囲を設定してレベル比較処理を行えばよい。ガンマ補正カーブを適用した後の基準輝度レベルは、カメラ信号処理部106もしくはシステム制御部111から取得したガンマ補正カーブを用いたり、予めビデオ信号処理部115に記憶されたガンマ補正カーブを用いて求めてもよい。なお、映像輝度レベル比較回路203および波形輝度レベル比較回路208の一方で輝度レベル範囲を求め、他方に通知するように構成してもよい。
以上説明したように、本実施形態では、ガンマ補正前の基準輝度レベルと、ガンマ補正カーブ(階調補正特性)とを用い、ガンマ補正後の基準輝度レベルに応じた輝度レベル範囲に対して着色表示を行う。そのため、第1〜第2の実施形態の効果に加え、例えば、18%グレーチャートのような既知の入力映像を用いて撮影輝度レベル管理をする場合に、撮影で使用するガンマ補正カーブに適した輝度レベルに注目して撮影条件を設定することが可能となる。なお、本実施形態は、第2の実施形態とも組み合わせ可能である。
●(他の実施形態)
以上、本発明をその好適な実施形態に基づいて詳述してきたが、本発明はこれら特定の実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の様々な形態も本発明に含まれる。上述の実施形態の一部を適宜組み合わせても良い。
特に、映像中の輝度レベルと波形モニタの波形の輝度レベルの関連性を示すために、映像の色差(Cb,Cr)成分を制御して映像の色を変更する方法でなくとも良い。代わりに、該当する輝度レベルに対して、従来広く使われているゼブラパターンなどの任意のパターンを輝度レベル範囲と対応付けられた所定の色で重畳表示することでも同様の効果が得られる。この場合、映像信号は白黒表示してもよい。
また、上述した着色表示は、任意のタイミングでオンオフ可能とすることができる。例えば、入力操作部113を通じた指示に応じてオンオフを切り替えてもよい。オフの場合は、少なくとも色差制御回路206,209の動作を停止させ、色空間変換回路202および輝度波形生成回路207の出力が合成回路210や選択回路211に入力されるようにすればよい。なお、着色表示のオンオフは、映像信号の輝度レベルが変化するような操作が行われた際に自動的にオンされるようにすることで、新しい撮影条件で得られる映像の輝度レベルの管理を補助することができる。このような操作としては、例えば絞り値、シャッター速度、撮影感度の少なくとも1つを変更する操作や、撮影モードの変更など、結果として絞り値、シャッター速度、撮影感度の少なくとも1つが変更される操作がある。なお、他の条件によって着色表示のオンオフを制御するようにしてもよい。
また、上述の実施形態の機能を実現するソフトウェアのプログラムを、記録媒体から直接、或いは有線/無線通信を用いてプログラムを実行可能なコンピュータを有するシステム又は装置に供給し、そのプログラムを実行する場合も本発明に含む。
従って、本発明の機能処理をコンピュータで実現するために、該コンピュータに供給、インストールされるプログラムコード自体も本発明を実現するものである。つまり、本発明の機能処理を実現するためのコンピュータプログラム自体も本発明に含まれる。
その場合、プログラムの機能を有していれば、オブジェクトコード、インタプリタにより実行されるプログラム、OSに供給するスクリプトデータ等、プログラムの形態を問わない。
プログラムを供給するための記録媒体としては、例えば、ハードディスク、磁気テープ等の磁気記録媒体、光/光磁気記憶媒体、不揮発性の半導体メモリでもよい。
また、プログラムの供給方法としては、コンピュータネットワーク上のサーバに本発明を形成するコンピュータプログラムを記憶し、接続のあったクライアントコンピュータはがコンピュータプログラムをダウンロードしてプログラムするような方法も考えられる。

Claims (15)

  1. 映像信号と、該映像信号の輝度波形とを表示手段に表示可能な映像信号処理装置であって、
    前記輝度波形は、前記映像信号に含まれる輝度レベルと前記映像信号に対応した画面内における位置との関係を表し、
    前記映像信号のうち、予め設定した輝度レベル範囲に含まれる輝度レベルを有する第1の領域を所定の色で前記表示手段に表示するように前記映像信号の表示を制御する第1の表示制御手段と
    前記輝度波形のうち、前記輝度レベル範囲に対応する第2の領域を前記所定の色に対応する色で前記表示手段に表示するように前記輝度波形の表示を制御する第2の表示制御手段と、を有することを特徴とする映像信号処理装置。
  2. 前記第2の表示制御手段は、前記第2の領域に、前記所定の色または前記所定の色に対応する色を有するパターンを重畳して前記表示手段に表示するように制御することを特徴とする請求項1記載の映像信号処理装置。
  3. 前記第2の表示制御手段は、前記第2の領域の信号を、前記所定の色もしくは前記所定の色に対応する色の信号で置き換えて前記表示手段に表示するように制御することを特徴とする請求項1記載の映像信号処理装置。
  4. 前記第1の表示制御手段は、前記予め設定した輝度レベル範囲が複数ある場合、前記複数の輝度レベル範囲に対応する複数の前記第1の領域のそれぞれ、異なる色で前記表示手段に表示するように制御することを特徴とする請求項1から3のいずれか1項に記載の映像信号処理装置。
  5. 前記複数の輝度レベル範囲が、前記映像信号の最大輝度レベルに基づいて設定されることを特徴とする請求項4に記載の映像信号処理装置。
  6. 前記複数の輝度レベル範囲が、前記映像信号に含まれる輝度レベルの範囲に基づいて設定されることを特徴とする請求項4に記載の映像信号処理装置。
  7. 記映像信号と、前記輝度波形と、前記表示手段において互いに別の領域に表示されることを特徴とする請求項1から6のいずれか1項に記載の映像信号処理装置。
  8. 前記第2の領域が、前記画面内における前記第1の領域の位置と対応する前記画面内の位置に表示されることを特徴とする請求項7に記載の映像信号処理装置。
  9. 前記第2の表示制御手段は、前記輝度波形が、前記画面の子画面として前記映像信号に重畳して表示されるように制御することを特徴とする請求項1から6のいずれか1項に記載の映像信号処理装置。
  10. 前記映像信号には階調補正処理が適用されており、前記階調補正処理に用いられた階調補正特性に応じて前記輝度レベル範囲を設定する設定手段をさらに有することを特徴とする請求項1から9のいずれか1項に記載の映像信号処理装置。
  11. 前記設定手段は、予め定められた基準輝度レベルに前記階調補正特性を適用した後の輝度レベルに基づいて前記輝度レベル範囲を設定することを特徴とする請求項10記載の映像信号処理装置。
  12. 映像信号を生成する撮像手段と、
    請求項1から9のいずれか1項に記載の映像信号処理装置と、
    を有することを特徴とする、撮影機能を有する電子機器。
  13. 映像信号を生成する撮像手段と、
    前記映像信号に階調補正処理を適用する補正手段と、
    請求項10または11に記載の映像信号処理装置と、
    を有することを特徴とする、撮影機能を有する電子機器。
  14. 映像信号と、該映像信号の輝度波形とを表示手段に表示可能な映像信号処理装置の制御方法であって、
    前記輝度波形は、前記映像信号に含まれる輝度レベルと前記映像信号に対応した画面内における位置との関係を表し、
    前記映像信号のうちを、予め設定した輝度レベル範囲に含まれる輝度レベルを有する第1の領域を所定の色で前記表示手段に表示するように制御する第1の表示制御ステップと、
    記輝度波形のうち、前記輝度レベル範囲に対応する第2の領域を前記所定の色に対応する色で前記表示手段に表示するように制御する第2の表示制御ステップと、
    を有することを特徴とする映像信号処理装置の制御方法。
  15. コンピュータを、請求項1から11のいずれか1項に記載の映像信号処理装置の各手段として機能させるためのプログラム。
JP2013251415A 2013-12-04 2013-12-04 映像信号処理装置及びその制御方法 Active JP6317577B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2013251415A JP6317577B2 (ja) 2013-12-04 2013-12-04 映像信号処理装置及びその制御方法
US14/558,460 US10102787B2 (en) 2013-12-04 2014-12-02 Image signal processing apparatus and control method therefor
US16/130,287 US10896634B2 (en) 2013-12-04 2018-09-13 Image signal processing apparatus and control method therefor

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013251415A JP6317577B2 (ja) 2013-12-04 2013-12-04 映像信号処理装置及びその制御方法

Publications (3)

Publication Number Publication Date
JP2015109563A JP2015109563A (ja) 2015-06-11
JP2015109563A5 JP2015109563A5 (ja) 2017-01-12
JP6317577B2 true JP6317577B2 (ja) 2018-04-25

Family

ID=53265808

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013251415A Active JP6317577B2 (ja) 2013-12-04 2013-12-04 映像信号処理装置及びその制御方法

Country Status (2)

Country Link
US (2) US10102787B2 (ja)
JP (1) JP6317577B2 (ja)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102321815B1 (ko) * 2015-05-08 2021-11-05 삼성디스플레이 주식회사 표시 장치 및 표시 장치의 구동 방법
JP6742789B2 (ja) * 2016-04-11 2020-08-19 キヤノン株式会社 表示制御装置、その制御方法、プログラムおよび記憶媒体
JP2018013696A (ja) * 2016-07-22 2018-01-25 キヤノン株式会社 画像処理装置および表示装置
WO2018163628A1 (ja) * 2017-03-07 2018-09-13 ソニー株式会社 情報処理装置、及び情報処理方法
US10587872B2 (en) * 2017-07-05 2020-03-10 Project Giants, Llc Video waveform peak indicator
US10755392B2 (en) * 2017-07-13 2020-08-25 Mediatek Inc. High-dynamic-range video tone mapping
JP7129813B2 (ja) 2018-04-24 2022-09-02 キヤノン株式会社 画像処理装置およびその制御方法、プログラム並びに記憶媒体
JP7341656B2 (ja) * 2018-12-11 2023-09-11 キヤノン株式会社 画像処理装置、制御方法、プログラム、及び、記憶媒体
JP6808762B2 (ja) 2019-01-07 2021-01-06 キヤノン株式会社 情報処理装置および情報処理方法
JP7293040B2 (ja) * 2019-08-19 2023-06-19 キヤノン株式会社 電子機器、電子機器の制御方法、プログラムおよび記憶媒体
JP2021113847A (ja) * 2020-01-16 2021-08-05 キヤノン株式会社 表示装置および表示装置の制御方法
KR20210147134A (ko) * 2020-05-27 2021-12-07 삼성디스플레이 주식회사 표시 장치
CN111785209B (zh) * 2020-07-16 2022-04-19 京东方科技集团股份有限公司 显示面板及其驱动方法、显示装置
CN113709418A (zh) * 2021-08-26 2021-11-26 洛阳瑞光影视光电技术有限公司 一种具有测光功能的监视器

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5166791A (en) * 1991-09-18 1992-11-24 Videotek, Inc. Video picture and waveform display with line selection
JPH06351048A (ja) * 1993-06-14 1994-12-22 Sony Corp ビデオ信号解析表示装置
JP2004147005A (ja) * 2002-10-23 2004-05-20 Leader Electronics Corp 映像信号レベルを測定する測定器、及び、映像信号レベルを表示する表示装置
JP2006146176A (ja) * 2004-10-19 2006-06-08 Canon Inc 画像表示装置
JP4541859B2 (ja) * 2004-12-08 2010-09-08 サムスン・デジタル・イメージング・カンパニー・リミテッド カメラ及び輝度分布表示方法
US8482579B2 (en) * 2007-09-14 2013-07-09 Sharp Kabushiki Kaisha Image display device and image display method
WO2009075027A1 (ja) 2007-12-11 2009-06-18 Leader Electronics Corp. 輝度情報表示装置および方法
JP5537048B2 (ja) * 2009-03-04 2014-07-02 キヤノン株式会社 画像表示装置、画像表示方法、撮像装置、及び撮像装置の制御方法
TWI413083B (zh) * 2009-09-15 2013-10-21 Chunghwa Picture Tubes Ltd 液晶顯示器之過壓驅動方法及裝置
JP5448799B2 (ja) * 2009-12-25 2014-03-19 キヤノン株式会社 表示制御装置及び表示制御方法
JP5631125B2 (ja) * 2010-09-01 2014-11-26 キヤノン株式会社 画像処理装置、その制御方法及びプログラム
JP5614277B2 (ja) * 2010-12-21 2014-10-29 リコーイメージング株式会社 ウェーブフォームを記録可能なカメラ
US8854370B2 (en) * 2011-02-16 2014-10-07 Apple Inc. Color waveform
JP5272042B2 (ja) * 2011-05-12 2013-08-28 富士重工業株式会社 環境認識装置および環境認識方法
US9417479B2 (en) * 2011-05-13 2016-08-16 Samsung Display Co., Ltd. Method for reducing simultaneous contrast error
KR101850994B1 (ko) * 2011-11-18 2018-04-23 삼성디스플레이 주식회사 표시 장치의 휘도 조절 방법 및 이를 이용한 표시 장치

Also Published As

Publication number Publication date
US20190012949A1 (en) 2019-01-10
US20150154903A1 (en) 2015-06-04
US10896634B2 (en) 2021-01-19
US10102787B2 (en) 2018-10-16
JP2015109563A (ja) 2015-06-11

Similar Documents

Publication Publication Date Title
JP6317577B2 (ja) 映像信号処理装置及びその制御方法
US9270888B2 (en) Image processing apparatus and control method thereof
US7511742B2 (en) Digital camera and image signal generating method
JP6574878B2 (ja) 画像処理装置及び画像処理方法、撮像装置、プログラム、並びに記憶媒体
JP2007081685A (ja) 画像信号処理装置、画像信号処理方法及び画像信号処理システム
JP4785799B2 (ja) 画像処理装置、画像処理方法及び撮影装置
KR102158844B1 (ko) 영상 처리 장치, 영상 처리 방법, 및 컴퓨터 판독가능 기록매체
JP2009003011A (ja) 画像表示装置、撮像装置、画像再生装置、及び画像表示方法
US10972674B2 (en) Electronic apparatus
JP7129813B2 (ja) 画像処理装置およびその制御方法、プログラム並びに記憶媒体
US8502882B2 (en) Image pick-up apparatus, white balance setting method and recording medium
JP6032912B2 (ja) 撮像装置、その制御方法及びプログラム
US7570294B2 (en) Digital camera
JP6450107B2 (ja) 画像処理装置及び画像処理方法、プログラム、記憶媒体
JPWO2017150238A1 (ja) 表示制御装置、表示制御方法、及び、プログラム
US9413974B2 (en) Information processing apparatus, image sensing apparatus, control method, and recording medium for conversion processing
JP2020005084A (ja) 画像処理装置、画像処理方法、及びプログラム
JP2020036162A (ja) 画像処理装置、撮像装置、画像処理方法、及びプログラム
US20180376031A1 (en) Projection apparatus that improves dynamic range of luminance of printed material, control method therefor, and storage medium
JP6592293B2 (ja) 画像処理装置、画像処理方法、および撮像装置
CN112422809B (zh) 摄像设备、摄像设备的控制方法和计算机可读介质
JP6592292B2 (ja) 画像処理装置、画像処理方法、および撮像装置
JP2021118457A (ja) 撮像装置およびその制御方法、プログラム並びに記憶媒体
JP5574015B2 (ja) 画像処理装置、電子カメラおよび画像処理プログラム
JP2020005067A (ja) 画像処理装置、撮像装置、画像処理方法、及びプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161128

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20161128

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170623

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170728

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170922

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180302

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180330

R151 Written notification of patent or utility model registration

Ref document number: 6317577

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151