JP6070183B2 - 撮像装置 - Google Patents

撮像装置 Download PDF

Info

Publication number
JP6070183B2
JP6070183B2 JP2012286184A JP2012286184A JP6070183B2 JP 6070183 B2 JP6070183 B2 JP 6070183B2 JP 2012286184 A JP2012286184 A JP 2012286184A JP 2012286184 A JP2012286184 A JP 2012286184A JP 6070183 B2 JP6070183 B2 JP 6070183B2
Authority
JP
Japan
Prior art keywords
exposure
exposure period
image
period
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012286184A
Other languages
English (en)
Other versions
JP2014128021A (ja
Inventor
寺内 正和
正和 寺内
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Imaging Co Ltd
Original Assignee
Ricoh Imaging Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Imaging Co Ltd filed Critical Ricoh Imaging Co Ltd
Priority to JP2012286184A priority Critical patent/JP6070183B2/ja
Publication of JP2014128021A publication Critical patent/JP2014128021A/ja
Application granted granted Critical
Publication of JP6070183B2 publication Critical patent/JP6070183B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、画像を撮像する撮像装置に関する。
複数回に分けて撮像した画像を合成して1枚の合成画像にする撮像装置が知られている。撮像装置は、撮像する度に、撮像した画像を撮像済みの画像に合成して合成画像を作成し、画面に表示する。画面に表示された合成画像を見て、ユーザは合成画像の露出が適正か否かを判断し、適正であるとユーザが判断したときにはユーザの操作により撮像を終了する(特許文献1)。
特開2009−130471号公報
しかし、このような撮像装置では、ユーザは露光期間中にモニタの傍に待機してモニタに表示される画像を確認しなければならず、露光期間が長期間に渡る場合においては煩雑であり、ユーザがモニタの傍に待機できない場合においては長期間露光ができなくなる。同様に、測定限界以下の光量しか得られない状況下ではシャッタスピードや絞り等の撮影条件を撮像装置が撮像前に決定できないため、モニタに表示される画像をユーザが確認して露光期間を決定しなければならない。
本発明はこれらの問題に鑑みてなされたものであり、ユーザが確認することなく、自動的に露光を適正に保つことができる撮像装置を得ることを目的とする。
本願発明による撮像装置は、露光期間中において、単位露光期間毎に撮像して画像を出力する撮像素子と、撮像素子から画像を受信して画像の露光状態を監視する監視部とを備え、露光期間中において、監視部は撮像素子から画像を受信し、受信した画像の露光状態に基づいて残り露光期間を決定することを特徴とする。
露光期間中において、監視部は撮像素子から複数の画像を受信し、受信した複数の画像の露光状態に基づいて残り露光期間を決定することが好ましい。
露光期間中において、監視部は撮像素子から画像を受信し、受信した全ての画像を合成して合成画像を作成し、合成画像の露光状態に基づいて残り露光期間を決定することが好ましい。
監視部は、合成画像の露光状態が適正以上であるときに撮像を終了することが好ましい。
監視部は、合成画像の露光状態が適正以上でないときに残り露光期間を決定することが好ましい。
監視部は、残り露光期間が単位露光期間よりも長い場合には、単位露光期間で撮像素子に撮像を行わせ、残り露光期間が単位露光期間以下である場合には、残り露光期間で撮像素子に撮像を行わせることが好ましい。
監視部は、露光期間を開始する前に被写体像の露出に基づいて目標露光期間を算出し、目標露光期間が単位露光期間よりも長い場合には、単位露光期間で撮像素子に撮像を行わせ、目標露光期間が単位露光期間以下である場合には、目標露光期間で撮像素子に撮像を行わせることが好ましい。
単位露光期間は、撮像素子の特性に応じて決定されることが好ましい。
本発明によれば、ユーザが確認することなく、自動的に露光を適正に保つことができる撮像装置を得る。
撮像装置を概略的に示したブロック図である。 露光シーケンスを示したタイミングチャートである。 露光量と露光期間との関係を示したグラフである。 露光処理を示したフローチャートである。 露光期間算出処理を示したフローチャートである。 露光量判定処理を示したフローチャートである。
以下、本発明による撮像装置の一実施形態であるデジタルカメラ100について図1から6を用いて説明する。まず、図1を用いてデジタルカメラ100の構成について説明する。
デジタルカメラ100は、撮影レンズ101、リターンミラー102、シャッタ103、例えばCCDやCMOSから成る撮像素子104、監視部を成すDSP105、内部メモリ106、操作ボタン107、LCD108、SDカード109、及び露出センサ110を主に備える。
撮影レンズ101は着脱自在となるようにデジタルカメラ100に取り付けられる。リターンミラー102は、下げられた状態において、撮影レンズ101からの被写体像をファインダーブロック111に向けて反射する。ファインダーブロック111内に設けられるペンタプリズム112は、被写体像をファインダ113及び露出センサ110に向けて反射する。また、リターンミラー102はハーフミラーであって、リターンミラー102を透過した被写体像はAFセンサ114に向けて反射される。他方、リターンミラー102が上げられると、撮影レンズ101からの被写体像は撮像素子104に結像する。
操作ボタン107は、例えばシャッターレリーズを備える。シャッターレリーズは、ユーザにより操作され、撮影を行う旨の信号をDSP105に送信する。
シャッターレリーズが半押しされると、露出センサ110は、被写体像の露出を測定し、DSP105に送信し、AFセンサ114は被写体像のコントラスト情報をDSP105に送信する。DSP105は、露出に基づいて、シャッタスピードを決定し、コントラスト情報に基づいて撮影レンズ101を駆動して被写体に合焦させる。
シャッターレリーズが全押しされると、シャッタ103は先幕と後幕とを有し、DSP105が決定したシャッタスピードに基づいて、撮像時に先幕と後幕が期間を開けて走ることにより撮像素子104の露光量を調節する。撮像素子104は被写体像を撮像して画像を出力する。
DSP105は、撮像素子104から画像を受信して、内部メモリ106を使用しながら画像処理を施し、LCD108及び/又はSDカード109に送信する。LCD108は画像を表示し、SDカード109は画像を保存する。SDカード109は、デジタルカメラ100に対して着脱自在に設けられる。
撮像素子104は、その特性に応じた単位露光期間を有する。単位露光期間は実験により予め決定され、内部メモリ106に記憶される値である。一般に撮像素子104が長期間露光を行うと、暗電流の影響により、出力した画像にノイズがのる傾向がある。露光期間が長くなるほどノイズが増える。そこで、画像に含まれるノイズが画質に影響を与えない程度である露光期間を単位露光期間として決定する。
デジタルカメラ100は、バルブ撮影を行うことができる。後述する露光処理を実行することにより、バルブ撮影が実現される。
次に、図2を用いてバルブ撮影における露光シーケンスについて説明する。露光シーケンスを開始する前、デジタルカメラ100は待機状態にある。待機状態においては、リターンミラー102は下げられ、シャッタ103は閉じられ、撮像素子104は待機状態に置かれている。そして、ユーザがシャッターレリーズを半押しすると、露出センサ110は被写体像の露出を測定し、DSP105は露出センサ110から被写体像の露出を取得し、露出に基づいて目標露光期間を算出する。目標露光期間は、適正な露光量を得るまでシャッタ103を開放すべき期間であって、適正な露光量を得るまで撮像素子104が被写体像を露光すべき期間である。目標露光期間算出の詳細については後述される。シャッターレリーズが半押しされた時点の被写体像の露出に基づいて目標露光期間が算出されているため、被写体像の露出が増加した場合には、目標露光期間が経過していなくても画像が適正露出に達する可能性があり、被写体像の露出が減少した場合には、目標露光期間が経過しても画像が適正露出に達していない可能性がある。
ユーザがシャッターレリーズを全押しすると、撮像素子104の電荷がリセットされた後、電荷を蓄積し始める。撮像素子104が電荷を蓄積し始めると、シャッタ103の先幕が走って、被写体像が撮像素子104に結像する。このとき、露光が開始される。
撮像素子104は、1回目の単位露光期間が経過すると、1フレーム目の画像を出力する。DSP105は、画像を受信して、画像の露光量を測定し、残り露光期間を算出する。残り露光期間は、現在の露光量から適正な露光量を得るまでシャッタ103を開放すべき期間であって、現在の露光量から適正な露光量を得るまで撮像素子104が被写体像を露光すべき期間である。残り露光期間算出の詳細については後述される。
そして、単位露光期間が残り露光期間よりも短い場合には、撮像素子104は2回目の単位露光期間に入って、単位露光期間が経過した後に2フレーム目の画像を出力する。そしてDSP105は、1フレーム目の画像と2フレーム目の画像とを合成して合成画像を作成する。そしてこの合成画像の露光量を測定し、再度、残り露光期間を算出する。
これらの処理を繰り返すと、単位露光期間が残り露光期間よりも長くなる場合が生じる。このとき、撮像素子104は残り露光期間が経過した後に画像を出力し、後幕が走ってシャッタ103を閉じ、リターンミラー102が下がって、露光を終了する。
次に図3を用いて残り露出期間の算出手法について詳細に説明する。
観察に耐えうる適正な画像を得るための露光量は一般的に既知の手法により求められる値であり、ここでは目標露光量Etと呼ばれる。残り露出期間の算出手法は、撮像素子104が画像を出力する度に、現時点における露光量Enと目標露光量Etとを用いて残り露出期間を算出する手法である。
まず、1回目の単位露光期間t1が経過したときについて説明する。DSP105は、1フレーム目の画像を受信して、画像の露光量E1を測定する。一般に露光量Eと期間tとの関係は線形一次式E=at+bで表される。そこで、1回目の単位露光期間t1、及び1フレーム目の画像の露光量E1に基づいて、係数a及びbを求める。そして求められた式を用いて目標露光量を得るまでに必要な期間tt=(Et−b)/aを求める。そして、期間ttから単位露光期間t1を減じて残り露光期間を求める。
n回目の単位露光期間tnが経過したときについて説明する。DSP105は、nフレーム目の画像を受信して、1フレーム目からn−1フレーム目までの画像と合成して合成画像を作成する。そして合成画像の露光量Enを測定する。さらに、1回目からn回目までの単位露光期間の合計、及び合成画像の露光量Enに基づいて、式E=at+bの係数a及びbを求める。そして求められた式を用いて目標露光量を得るまでに必要な期間tt=(En−b)/aを求める。そして、1回目からn回目までの単位露光期間の合計を期間ttから減じて残り露光期間を求める。
そして、単位露光期間が残り露光期間よりも長くなると、撮像素子104は残り露光期間が経過した後に画像を出力し、後幕が走ってシャッタ103を閉じ、リターンミラー102が下がって、露光を終了する。そしてDSP105は、出力された全ての画像を合成して合成画像を作成する。
次に図4を用いて露光処理について説明する。露光処理は、ユーザがシャッターレリーズを半押ししたときに実行される。
始めのステップS41では、露出センサ110が被写体像の露出を測定し、DSP105は露出センサ110から被写体像の露出を取得する。
次のステップS42では、シャッターレリーズが全押しされたか否かを判断する。全押しされた場合、処理はステップS43に進み、全押しされていない場合、処理はステップS41に戻る。
ステップS43では、後述する露光期間計算処理を実行する。露光期間算出処理は、目標露光期間及び単位露光期間を算出する処理である。
次のステップS44では、撮像素子104が単位露光期間だけ露光を行い、次のステップS45では、DSP105が撮像素子104から1フレームの画像を読み出す。
次のステップS46では、後述する露光量判定処理を実行する。露光量判定処理は、画像の露光量に応じて露光を終了するか否かを判定する処理である。
次のステップS47では、露光量判定処理の結果に基づいて、露光を終了するか否かを判断する。露光を終了する場合、処理は終了し、露光を終了しない場合、処理はステップS44に戻って再度露光を行う。
次に図5を用いて露光期間算出処理について説明する。露光期間算出処理は、露光処理のステップS43において実行される。
始めのステップS51では、単位露光期間を内部メモリ106から読み出す。
次のステップS52では、AEデータが有効か否かを判断する。すなわち、露光処理のステップS41で露出センサ110が被写体像の露出が適正に測定しているか否かを判断する。有効である場合、処理はステップS55に進み、有効でない場合、処理はステップS56に進む。バルブ撮影を行うときなどには被写体像の露出が少ないことがあり、このために露出センサ110が適正にAEデータを測定できない場合がある。このような場合にAEデータが有効でないと判断される。
次のステップS53では、被写体像の露出に基づいて目標露光期間を算出する。
次のステップS54では、目標露光期間が単位露光期間よりも長いか否かを判断する。長い場合には、ステップS56に進み、長くない場合にはステップS55に進む。
ステップS55では、残り露光期間に目標露光期間を設定する。目標露光期間が単位露光期間よりも長くない場合、つまり目標露光期間が単位露光期間以下である場合、単位露光期間を露光すると画像の露光量が適正露光量を超えてしまう。そこで、残り露光期間に目標露光期間を設定して、目標露光期間だけ撮像素子104に露光させる。そして処理が終了する。
ステップS56では、残り露光期間に単位露光期間を設定する。AEデータが有効でない場合、目標露光量を正確に算出できないため、残り露光期間に単位露光期間を設定して、画像の露光状態を監視しながら撮像を行う。また、目標露光期間が単位露光期間よりも長い場合にも、残り露光期間に単位露光期間を設定して、画像の露光状態を監視しながら撮像を行う。そして処理が終了する。
次に図6を用いて露光量判定処理について説明する。露光量判定処理は、露光処理のステップS46において実行される。
始めのステップS61では、露光処理のステップS45において読み出した画像が1フレーム目か否かを判断する。1フレーム目であるとき、1フレーム目の画像を合成画像としてステップS63に進む。1フレーム目でないとき、処理はステップS62に進み、いままでに読み出した画像と今回読み出した画像とを合成して合成画像を作成する。
ステップS63では、合成画像の露光量を測定する。次のステップS64では、測定した露光量に基づいて露光が適正か否かを判定する。
そしてステップS65では、ステップS64で判定した露光量が目標露光量を超えているか否かを判断する。超えている場合、処理はステップS66に進み、露光完了フラグに1を設定する。露光完了フラグが1であるときは露光が完了したことを表す。ステップS65において露光量が目標露光量を超えているか否かを判断することにより、被写体像の露出が急に変化したときに撮影を中断して、適正な露出の画像を得ることができる。ステップS65において、露光量が目標露光量を超えていない場合、処理はステップS67に進む。
ステップS67では、ステップS63において測定した露光量に基づいて残り露光期間を算出する。
次のステップS68では、単位露光期間よりも残り露光期間の方が長いか否かを判断する。長い場合、処理はステップS69に進み、長くない場合、処理はステップS70に進む。
ステップS69では、次の露光期間に単位露光期間を設定する。これにより、画像の露光状態を監視しながら撮像を行うことができる。
ステップS70では、次の露光期間に残り露光期間を設定する。これにより、画像の露光量を適正に保ちながら露光を終了できる。
次のステップS71では、露光完了フラグに0を設定する。露光完了フラグが0であるときは露光が完了していないことを表す。そして処理が終了する。
本実施形態によれば、画像の露光状態をデジタルカメラが適宜監視しながら撮影を行えるため、撮影中に適正な露出の画像を自動的に得ることができる。また、被写体像の露出が急に変化したときには撮影を中断して、適正な露出の画像を得ることができる。
従来のデジタルカメラ100を用いてバルブ撮影を行うとき、ユーザは所望の期間の間ずっとシャッターレリーズを押圧していなければならない。しかしながら本実施形態によれば、ユーザはシャッターレリーズを1回押し下げることによりバルブ撮影を行い、かつ適切な露光量の画像を得ることができる。
また、測定限界以下の光量しか得られない状況において撮像を行う場合、シャッタスピードや絞り等の撮影条件を撮像装置が撮像前に決定できない。しかしながら本実施形態によれば、撮像された画像を解析することで露光期間を自動的に決定することができる。
なお、単位露光期間は、露光期間算出処理のステップS43において算出されても良い。
なお、DSP105は、n−1フレーム目の画像とnフレーム目の画像の露光量を用いて式E=at+bの係数a及びbを求め、求められた式を用いて目標露光量を得るまでに必要な期間tt=(En−b)/aを求めてもよい。さらに、nフレーム目の画像の露光量を用いて式E=at+bの係数a及びbを求め、求められた式を用いて目標露光量を得るまでに必要な期間tt=(En−b)/aを求めても良い。単位露光期間に得られた露光量から係数a及びbを算出して目標露光量になるまでの時間を算出することができる。
また、DSP105は、最小二乗法などの手法を用いて、複数の画像の露光量に基づいて式E=at+bの係数a及びbを求め、求められた式を用いて目標露光量を得るまでに必要な期間tt=(En−b)/aを求めてもよい。
なお、本実施形態では、バルブ撮影に対して本願発明を適用した場合について説明したが、通常の撮影、シャッタスピードが例えば1秒以下の場合に対しても本願発明を適用でき、この場合においてもバルブ撮影と同様の効果を得る。
また、従来の自動露光では長時間に渡る露光期間に関して適正な露光値を算出することが困難であるが、本実施形態によれば非常に長い露光期間を必要とする場合にも適切かつ精度の高い露光値を得ることができる。
なお、撮影レンズ101は、デジタルカメラ100に対して着脱自在でなく、着脱できないように固定されてもよい。
また、撮像素子104は、CCDでなく、CMOS等の固体撮像素子を備えてもよい。
なお、シャッタ103は、先幕及び後幕の双方、あるいは一方を有さず。電子シャッタであっても良い。一方を有さない場合、先幕又は後幕いずれか一方に相当する動作を電子シャッタが行う。
単位露光期間は実験により予め決定されなくてもよく、撮像環境の変化に応じて露光期間中に動的に変更されても良い。なお撮像環境とは、撮像素子104の温度や、デジタルカメラの温度等である。
なお本実施形態では、撮像素子104から所定の期間毎に画像を取得して合成画像を作成し、合成画像の露光量を用いて目標露光期間を算出したが、撮像素子104から所定の期間毎に画像を取得し、画像の露光量の増加分から目標露光期間を算出してもよい。
100 デジタルカメラ
101 撮影レンズ
102 リターンミラー
103 シャッタ
104 撮像素子
105 DSP
106 内部メモリ
107 操作ボタン
108 LCD
109 SDカード
110 露出センサ

Claims (8)

  1. 露光期間中において、単位露光期間毎に撮像して画像を出力する撮像素子と、
    前記撮像素子から単位露光期間毎に出力される画像を受信し、受信した画像の露光状態を監視する監視部とを備え、
    前記露光期間中において、前記監視部は、画像を受信する毎に、受信した画像の露光状態に基づいて残り露光期間を決定する撮像装置。
  2. 前記露光期間中において、前記監視部は、受信した画像の露光量に基づいて、目標露光量が得られるまでの残り露光期間を算出する請求項1に記載の撮像装置。
  3. 前記露光期間中において、前記監視部は、受信した全ての画像を合成して合成画像を作成し、前記合成画像の露光状態に基づいて残り露光期間を決定する請求項に記載の撮像装置。
  4. 前記監視部は、前記合成画像の露光状態が適正以上であるときに撮像を終了する請求項に記載の撮像装置。
  5. 前記監視部は、前記合成画像の露光状態が適正以上でないときに前記残り露光期間を決定する請求項に記載の撮像装置。
  6. 前記監視部は、前記残り露光期間が前記単位露光期間よりも長い場合には、前記単位露光期間で前記撮像素子に撮像を行わせ、前記残り露光期間が前記単位露光期間以下である場合には、前記残り露光期間で前記撮像素子に撮像を行わせる請求項1から5のいずれかに記載の撮像装置。
  7. 前記監視部は、前記露光期間を開始する前に被写体像の露出に基づいて目標露光期間を算出し、前記目標露光期間が前記単位露光期間よりも長い場合には、前記単位露光期間で前記撮像素子に撮像を行わせ、前記目標露光期間が前記単位露光期間以下である場合には、前記目標露光期間で前記撮像素子に撮像を行わせる請求項1から6のいずれかに記載の撮像装置。
  8. 前記単位露光期間は、前記撮像素子の特性に応じて決定される請求項1から7のいずれかに記載の撮像装置。
JP2012286184A 2012-12-27 2012-12-27 撮像装置 Active JP6070183B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012286184A JP6070183B2 (ja) 2012-12-27 2012-12-27 撮像装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012286184A JP6070183B2 (ja) 2012-12-27 2012-12-27 撮像装置

Publications (2)

Publication Number Publication Date
JP2014128021A JP2014128021A (ja) 2014-07-07
JP6070183B2 true JP6070183B2 (ja) 2017-02-01

Family

ID=51407158

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012286184A Active JP6070183B2 (ja) 2012-12-27 2012-12-27 撮像装置

Country Status (1)

Country Link
JP (1) JP6070183B2 (ja)

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4469486B2 (ja) * 2000-10-19 2010-05-26 キヤノン株式会社 撮像装置及び撮像方法
JP2005117395A (ja) * 2003-10-08 2005-04-28 Konica Minolta Photo Imaging Inc 撮像装置
JP2009188869A (ja) * 2008-02-08 2009-08-20 Olympus Imaging Corp 撮像装置および撮像装置の表示方法
JP4706936B2 (ja) * 2008-09-26 2011-06-22 ソニー株式会社 撮像装置、その制御方法およびプログラム

Also Published As

Publication number Publication date
JP2014128021A (ja) 2014-07-07

Similar Documents

Publication Publication Date Title
JP2010282085A5 (ja) 撮像装置及び該撮像装置の制御方法
JP5500916B2 (ja) 撮像装置及びその制御方法
JP2009199047A (ja) 撮像装置、およびレンズ装置
JP2018031877A (ja) 撮像装置および焦点調節方法
JP6250098B2 (ja) 撮像装置および撮像方法
US9609202B2 (en) Image pickup apparatus and control method with focus adjusting modes
JP4360318B2 (ja) デジタルスチルカメラ
JP2007199261A (ja) 焦点検出装置、方法およびカメラ
JP2013038497A (ja) 長時間露光可能な撮影装置
JP6656584B2 (ja) 撮影装置
JP5618765B2 (ja) 撮像装置及びその制御方法
JP6393091B2 (ja) 撮像装置及びその制御方法、プログラム、記憶媒体
JP2009027622A (ja) 露出量算出装置、撮像装置および露出量算出プログラム
JP6541312B2 (ja) 撮像装置及びその制御方法
JP6070183B2 (ja) 撮像装置
JP2006165725A (ja) 撮影装置及びその露出決定方法
JP5747595B2 (ja) 露出制御装置及びカメラ
JP2011040799A (ja) 撮像装置
JP2017005495A (ja) 撮像装置、その制御方法、及びプログラム
JP6704718B2 (ja) 撮像装置、その制御方法、および制御プログラム
JP2012132957A (ja) 撮像装置及び撮像装置の設定方法
JP2009135669A (ja) 撮像装置及びその制御方法
JP2009086004A (ja) 撮影装置及びその制御方法
JP6504845B2 (ja) 撮像装置、その制御方法、および制御プログラム
JP2021043371A (ja) 撮像装置およびその制御方法

Legal Events

Date Code Title Description
RD05 Notification of revocation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7425

Effective date: 20150327

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20151009

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160628

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160705

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160905

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20161206

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20161219

R150 Certificate of patent or registration of utility model

Ref document number: 6070183

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250