JP5899707B2 - Imaging device - Google Patents
Imaging device Download PDFInfo
- Publication number
- JP5899707B2 JP5899707B2 JP2011184290A JP2011184290A JP5899707B2 JP 5899707 B2 JP5899707 B2 JP 5899707B2 JP 2011184290 A JP2011184290 A JP 2011184290A JP 2011184290 A JP2011184290 A JP 2011184290A JP 5899707 B2 JP5899707 B2 JP 5899707B2
- Authority
- JP
- Japan
- Prior art keywords
- evaluation value
- flicker
- imaging device
- luminance
- value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003384 imaging method Methods 0.000 title claims description 51
- 235000019557 luminance Nutrition 0.000 claims description 165
- 238000011156 evaluation Methods 0.000 claims description 55
- 238000001514 detection method Methods 0.000 claims description 41
- 238000000034 method Methods 0.000 claims description 36
- 238000010606 normalization Methods 0.000 claims description 30
- 230000003287 optical effect Effects 0.000 claims description 22
- 241000287463 Phalacrocorax Species 0.000 claims 1
- 241000287462 Phalacrocorax carbo Species 0.000 claims 1
- 238000010586 diagram Methods 0.000 description 13
- 238000009825 accumulation Methods 0.000 description 10
- 230000011514 reflex Effects 0.000 description 6
- 230000004907 flux Effects 0.000 description 5
- 239000004973 liquid crystal related substance Substances 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 1
- 230000004397 blinking Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 238000005096 rolling process Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
Images
Landscapes
- Transforming Light Signals Into Electric Signals (AREA)
- Studio Devices (AREA)
- Picture Signal Circuits (AREA)
Description
本発明は、撮像装置に関するものである。 The present invention relates to an imaging apparatus.
従来より、フリッカを検出するために、検出対象とするフリッカの周期よりも短い周期で画像データを読み出し、被写体の輝度変化を検出することで、フリッカを検出する技術が知られている(たとえば、特許文献1参照)。 Conventionally, in order to detect flicker, a technique for detecting flicker by reading out image data with a cycle shorter than the cycle of flicker to be detected and detecting a change in luminance of the subject is known (for example, Patent Document 1).
しかしながら、従来技術では、手振れや撮影者のボタン操作による振動が生じた場合に、フリッカによる輝度変化を検出することが困難となり、フリッカを適切に検出できない場合があった。 However, in the prior art, when a hand shake or a vibration caused by a photographer's button operation occurs, it is difficult to detect a luminance change due to flicker, and flicker may not be detected appropriately.
本発明が解決しようとする課題は、フリッカを良好に検出できる撮像装置を提供することである。 The problem to be solved by the present invention is to provide an imaging apparatus capable of detecting flicker satisfactorily.
本発明は、以下の解決手段によって上記課題を解決する。なお、発明の実施形態を示す図面に対応する符号を付して説明するが、この符号は発明の理解を容易にするためだけのものであって発明を限定する趣旨ではない。 The present invention solves the above problems by the following means. In addition, although the code | symbol corresponding to drawing which shows embodiment of this invention is attached | subjected and demonstrated, this code | symbol is only for making an understanding of invention easy, and is not the meaning which limits invention.
[1]本発明に係る撮像装置は、複数の画素が第1方向および前記第1方向と交差する第2方向に二次元状に配列され、検出対象とするフリッカの周期よりも短い周期で、前記第1方向に配列された画素により構成される画素列ごとに、画像信号を出力可能な撮像部(110)と、検出対象とするフリッカの周期よりも短い周期で、複数の前記画素列から出力された前記画像信号を、間引いて読み出す画像信号読み出し部(170)と、前記画像信号読み出し部により読み出された前記画像信号に基づいて、フレームごとに、被写体の輝度に関する評価値を検出して、前記評価値の時系列データを検出する評価値検出部(170)と、前記評価値検出部が検出した前記評価値の時系列データを補正することで、正規化処理を行う処理部(170)と、前記正規化処理が行われたデータに基づいて、フリッカの検出を行うフリッカ検出部(170)と、を備える。
[2]上記撮像装置に係る発明において、前記処理部は、前記評価値の時系列データに存在する複数の極大値および/または複数の極小値が同じ値となるように正規化処理を行うように構成することができる。
[1] an imaging apparatus according to the present invention, a plurality of pixels arranged in the second direction in two dimensions crossing the first direction and the first direction, in a shorter period than the period of flicker to be detected, For each pixel column composed of pixels arranged in the first direction , the imaging unit (110) that can output an image signal and a plurality of the pixel columns with a cycle shorter than the cycle of flicker to be detected. the outputted the image signal, an image signal read-out part for thinning out and reading out (170), wherein on the basis of the image signal read out by the image signal read-out unit, for each frame, search out an evaluation value regarding brightness of the object Te, evaluation value detecting unit that it detects the time-series data of the evaluation value (170), that the evaluation value detecting unit corrects the time series data of the evaluation value detected, performs the normalization process Processing unit (17 ) And, on the basis of the normalization process is performed data, flicker detection unit for detecting a flicker and (170), Ru comprising a.
[2] In the invention related to the imaging apparatus, the processing unit performs normalization processing so that a plurality of maximum values and / or a plurality of minimum values existing in the time-series data of the evaluation values have the same value. Can be configured.
[3]上記撮像装置に係る発明において、前記処理部(170)は、前記評価値の時系列データの正規化処理を行う際に、前記評価値の時系列データを構成する各評価値を、該評価値が得られたフレームの前後の所定数のフレーム内で得られた前記極小値で減算するオフセット除去処理を行うように構成することができる。 [3] In the invention according to the imaging device, wherein the processing unit (170), when carrying out a normalization process of the time-series data of the evaluation value, the evaluation values constituting the time-series data of the evaluation value, An offset removal process for subtracting the minimum value obtained in a predetermined number of frames before and after the frame from which the evaluation value is obtained can be performed.
[4]上記撮像装置に係る発明において、前記処理部(170)は、前記評価値の時系列データの正規化処理を行う際に、前記オフセット除去処理を行った各評価値を、該評価値が得られたフレームの前後の前記所定数のフレーム内で得られた前記極大値で除算するように構成することができる。 [ 4 ] In the invention relating to the imaging apparatus, the processing unit (170) may use the evaluation value obtained by performing the offset removal processing as the evaluation value when performing the time-series data normalization processing of the evaluation value. Is divided by the maximum value obtained in the predetermined number of frames before and after the obtained frame.
[5]上記撮像装置に係る発明において、前記フリッカ検出部(170)は、前記正規化処理が行われた各評価値が、所定閾値以上であるか否かに基づいて、各評価値を2値化することで、前記評価値データ列の2値化処理を行ない、前記2値化処理された前記評価値データ列に基づいて、フリッカの検出を行うように構成することができる。 [ 5 ] In the invention related to the imaging apparatus, the flicker detection unit (170) sets each evaluation value to 2 based on whether each evaluation value subjected to the normalization processing is equal to or greater than a predetermined threshold value. By binarizing, the evaluation value data string can be binarized, and flicker can be detected based on the binarized evaluation value data string.
[6]上記撮像装置に係る発明において、前記所定数は、光源に用いる商用電源の1周期において、前記評価値検出部(170)により検出可能な前記評価値の数であるように構成することができる。 [6] In the invention according to the imaging apparatus, wherein the predetermined number, in one period of the commercial power source used for light sources, which are configured such that the number of detectable the evaluation value by the evaluation value detector (170) be able to.
[7]上記撮像装置に係る発明において、前記処理部(170)は、検出対象とするフリッカの周波数に応じて、前記所定数を切り替えるように構成することができる。 [ 7 ] In the invention related to the imaging apparatus, the processing unit (170) may be configured to switch the predetermined number in accordance with a flicker frequency to be detected.
[8]上記撮像装置に係る発明において、前記処理部(170)は、撮像画面全体の輝度に対応する評価値からなる前記評価値の時系列データ、および、撮像画面を分割した複数の領域の輝度のうち最大の輝度に対応する評価値からなる評価値の時系列データに対して、前記正規化処理を行い、前記フリッカ検出部(170)は、前記正規化処理が行われた、撮像画面全体の輝度に対応する評価値からなる評価値の時系列データ、または、撮像画面を分割した複数の領域の輝度のうち最大の輝度に対応する評価値のうちいずれか一方に基づいて、フリッカを検出するように構成することができる。 [ 8 ] In the invention related to the imaging apparatus, the processing unit (170) includes the time-series data of the evaluation values composed of evaluation values corresponding to the luminance of the entire imaging screen, and a plurality of areas obtained by dividing the imaging screen. The normalization process is performed on the time-series data of the evaluation values including the evaluation value corresponding to the maximum luminance among the luminances, and the flicker detection unit (170) is the imaging screen on which the normalization processing has been performed. Based on either time-series data of evaluation values consisting of evaluation values corresponding to the overall luminance, or evaluation values corresponding to the maximum luminance among the luminance values of a plurality of areas obtained by dividing the imaging screen, flicker is performed. It can be configured to detect.
[9]上記撮像装置に係る発明において、前記処理部(170)は、スルー画像を表示している際、または動画像を撮影している際に、前記正規化処理を行うように構成することができる。 [ 9 ] In the invention relating to the imaging apparatus, the processing unit (170) is configured to perform the normalization process when a through image is displayed or a moving image is captured. Can do.
[10]上記撮像装置に係る発明において、前記フリッカ検出部(170)により検出されたフリッカに基づいて、被写体の輝度に応じた適切な露出を得るための、絞りとシャッター速度との組み合わせを予め設定したプログラム線図を変更する制御部(170)をさらに備えるように構成することができる。
[ 10 ] In the invention relating to the imaging apparatus, a combination of an aperture and a shutter speed for obtaining an appropriate exposure according to the luminance of the subject based on the flicker detected by the flicker detection unit (170) in advance. It can comprise so that the control part (170) which changes the set program diagram may be further provided.
本発明によれば、フリッカを良好に検出することができる。 According to the present invention, flicker can be detected well.
以下においては、本発明を一眼レフデジタルカメラに適用した実施形態を図面に基づいて説明する。 In the following, an embodiment in which the present invention is applied to a single-lens reflex digital camera will be described with reference to the drawings.
図1は、本実施形態に係る一眼レフデジタルカメラ1を示すブロック図であり、本発明の撮像装置に関する構成以外のカメラの一般的構成については、その図示と説明を一部省略する。
FIG. 1 is a block diagram showing a single-lens reflex
本実施形態の一眼レフデジタルカメラ1(以下、単にカメラ1という。)は、カメラボディ100とレンズ鏡筒200とを備え、カメラボディ100とレンズ鏡筒200とは着脱可能に結合されている。本実施形態のカメラ1においては、レンズ鏡筒200は、撮影目的などに応じて、交換可能となっている。
The single-lens reflex
レンズ鏡筒200には、レンズ211,212,213、および絞り220を含む撮影光学系が内蔵されている。
The
フォーカスレンズ212は、レンズ鏡筒200の光軸L1に沿って移動可能に設けられ、エンコーダ260によってその位置が検出されつつフォーカスレンズ駆動モータ230によってその位置が調節される。そして、エンコーダ260で検出されたフォーカスレンズ212の現在位置情報は、レンズ制御部250を介して後述するカメラ制御部170へ送出される。そして、この情報に基づいて演算されたフォーカスレンズ212の駆動量Δdが、カメラ制御部170からレンズ制御部250を介して送出され、これに基づいて、フォーカスレンズ駆動モータ230は駆動する。
The
絞り220は、上記撮影光学系を通過して、カメラボディ100に備えられた撮像素子110に至る光束の光量を制限するとともにボケ量を調整するために、光軸L1を中心にした開口径が調節可能に構成されている。絞り220による開口径の調節は、たとえば自動露出モードにおいて演算された適切な開口径が、カメラ制御部170からレンズ制御部250を介して絞り駆動部240へ送信されることにより行われる。また、開口径の調節は、カメラボディ100に設けられた操作部150を介したマニュアル操作により、設定された開口径がカメラ制御部170からレンズ制御部250を介して絞り駆動部240へ送信されることによっても行われる。なお、絞り220の開口径は図示しない絞り開口センサにより検出され、レンズ制御部250で現在の開口径が認識される。
The
一方、カメラボディ100は、被写体からの光束を撮像素子110、ファインダ135、測光センサ137および焦点検出モジュール160へ導くためのミラー系120を備える。このミラー系120は、回転軸123を中心にして被写体の観察位置と撮影位置との間で所定角度だけ回転するクイックリターンミラー121と、このクイックリターンミラー121に軸支されてクイックリターンミラー121の回動に合わせて回転するサブミラー122とを備える。図1においては、ミラー系120が被写体の観察位置にある状態を実線で示し、被写体の撮影位置にある状態を二点鎖線で示す。
On the other hand, the
ミラー系120は、被写体の観察位置にある状態では光軸L1の光路上に挿入される一方で、被写体の撮影位置にある状態では光軸L1の光路から退避するように回転する。
The
クイックリターンミラー121はハーフミラーで構成され、被写体の観察位置にある状態では、被写体からの光束(光軸L1)の一部の光束(光軸L2,L3)を当該クイックリターンミラー121で反射してファインダ135および測光センサ137へ導き、一部の光束(光軸L4)を透過させてサブミラー122へ導く。これに対して、サブミラー122は全反射ミラーで構成され、クイックリターンミラー121を透過した光束(光軸L4)を焦点検出モジュール160へ導く。
The quick return mirror 121 is composed of a half mirror, and in a state where the subject is at the observation position, the quick return mirror 121 reflects a part of the light flux (optical axes L2 and L3) from the subject (optical axis L1). Then, the light is guided to the
したがって、ミラー系120が観察位置にある場合は、被写体からの光束(光軸L1)はファインダ135、測光センサ137および焦点検出モジュール160へ導かれ、撮影者により被写体が観察されるとともに、露出演算やフォーカスレンズ212の焦点調節状態の検出が実行される。そして、撮影者がレリーズボタン(不図示)を全押しするとミラー系120が撮影位置に回動し、被写体からの光束(光軸L1)は全て撮像素子110へ導かれ、撮影した画像データを図示しないメモリに保存する。
Therefore, when the
クイックリターンミラー120で反射された被写体からの光束は、撮像素子110と光学的に等価な面に配置された焦点板131に結像し、ペンタプリズム133と接眼レンズ134とを介して観察可能になっている。このとき、透過型液晶表示器132は、焦点板131上の被写体像に焦点検出エリアマークなどを重畳して表示するとともに、被写体像外のエリアにシャッター速度、絞り値、撮影枚数などの撮影に関する情報を表示する。これにより、撮影者は、撮影準備状態において、ファインダ135を通して被写体およびその背景ならびに撮影関連情報などを観察することができる。
The light beam from the subject reflected by the
測光センサ137は、二次元カラーCCDイメージセンサなどで構成され、撮影の際の露出値を演算するため、撮像画面を複数の領域に分割して領域ごとの輝度に応じた測光信号を出力する。測光センサ137で検出された信号はカメラ制御部170へ出力され、たとえば、静止画を撮影する際の自動露出制御に用いられる。
The
焦点検出モジュール160は、被写体光を用いた位相差検出方式による自動合焦制御を実行するための焦点検出素子であり、サブミラー122で反射した光束(光軸L4)の、撮像素子110の撮像面と光学的に等価な位置に固定されている。
The
撮像素子110は、カメラボディ100の、被写体からの光束の光軸L1上であって、レンズ211,212,213を含む撮影光学系の予定焦点面となる位置に設けられ、その前面にシャッター111が設けられている。本実施形態に係る撮像素子110は、その撮像面に、複数の光電変換素子が水平方向および垂直方向に二次元状に配列されており、たとえば、水平方向に配列された画素列(走査ライン)ごとにシャッターを切るローリングシャッター方式により駆動する、MOSイメージセンサで構成されている。撮像素子110で光電変換された電気画像信号は、カメラ制御部170で画像処理されたのち図示しないメモリに保存される。なお、撮影画像を格納するメモリは内蔵型メモリやカード型メモリなどで構成することができる。
The
また、本実施形態において、撮像素子110は、図2に示すように、15個の分割領域に区分されており、各分割領域における被写体の輝度を検出することができる。ただし、この分割領域の数は、15個に限定されず、適宜設定することができる。
In the present embodiment, the
操作部150は、シャッターレリーズボタン、動画撮影ボタン、および撮影者がカメラ1の各種動作モードを設定するための入力スイッチであり、自動露出モード/マニュアル露出モード、オートフォーカスモード/マニュアルフォーカスモードの切換などの設定が行えるようになっている。また、シャッターレリーズボタンのスイッチは、ボタンの半押しでONとなる第1スイッチSW1と、ボタンの全押しでONとなる第2スイッチSW2とを含む。
The
カメラボディ100にはカメラ制御部170が設けられている。カメラ制御部170はマイクロプロセッサ、ASIC、RAMなどの周辺部品から構成され、撮像素子110から出力された画像データを取得する。そして、カメラ制御部170は、撮像素子110から出力された画像データに、所定の画像処理を施すことで、スルー画像および撮像画像の生成を行う。また、カメラ制御部170は、レンズ制御部250と電気的に接続され、レンズ制御部250から、レンズ鏡筒200の焦点調節範囲の情報などを含むレンズ情報を受信するとともに、レンズ制御部250へ絞り制御信号などの情報を送信する。さらに、カメラ制御部170は、動画撮影時やスルー画像表示時に、撮像素子110から画像データを読み出し、読み出した画像データに基づいて、フリッカ光源に起因するフリッカの検出を行う。なお、フリッカの検出方法については、後述する。
The
液晶モニタ190は、カメラボディ100の背面に設けられ、撮像素子110により得られた画像データに基づくスルー画像を、液晶モニタ190が備えるディスプレイに表示する。
The
次に、図3を参照して、本実施形態に係るカメラ1の動作例を説明する。図3は、カメラ1の動作例を示すフローチャートである。なお、以下に説明するカメラ1の動作は、たとえば、撮影者により操作部150に備えられた動画撮影ボタンがオンされ、動画撮影が開始されることで開始される。
Next, an operation example of the
ステップS101では、カメラ制御部170により、ミラー系120を撮影位置に回動するミラーアップ処理が行われる。これにより、被写体からの光束(光軸L1)が全て撮像素子110へと導かれることとなる。
In step S101, the
そして、ステップS102では、撮像素子110により、フリッカ検出用の電荷の蓄積が開始される。これにより、検出対象とするフリッカの周期よりも短い周期で、撮像素子110の蓄積が繰り返し行われ、蓄積された電荷に基づく画像データが、カメラ制御部170により読み出される。なお、本実施形態においては、商用電源を用いるフリッカ光源のフリッカを検出するものとする。一般に、商用電源の周波数は50Hzまたは60Hzであるため、商用電源を用いるフリッカ光源に起因するフリッカの周期は、50Hzの電源で10ms、60Hzの電源で8.3msとなる。そこで、このような商用電源を用いるフリッカ光源のフリッカを検出するために、撮像素子110により、たとえば8.3msよりも短い周期で、蓄積が繰り返されるとともに、画像データが出力される。
In step S102, the
また、本実施形態では、フリッカの周期よりも短い周期で、撮像素子110の蓄積を繰り返し行うために、撮像素子110のゲイン(ISO感度)を上げて、フリッカ検出用の蓄積が行われる。また、本実施形態では、フリッカの周期よりも短い周期で、撮像素子110から画像データを読み出すために、カメラ制御部170は、撮像素子110で得られた画像データを間引いて読み出す。たとえば、カメラ制御部170は、撮像素子110に配列された画素列のうちの複数の画素列から出力された画像データのみを読み出すことで、撮像素子110から画像データを間引いて読み出すことができる。そして、カメラ制御部170により読み出された画像データは、時系列に沿って、カメラ制御部170に備えるメモリに記憶される。
Further, in the present embodiment, in order to repeatedly accumulate the
ステップS103では、カメラ制御部170により、フリッカ検出用の蓄積が所定回数以上行われたか否かの判断が行われる。フリッカ検出用の蓄積が所定回数以上行われている場合には、ステップS104に進み、一方、フリッカ検出用の蓄積が所定回数以上行われていない場合は、ステップS103で待機し、フリッカ検出用の蓄積を繰り返す。
In step S103, the
そして、ステップS104では、まず、カメラ制御部170により、フリッカ検出用に撮像素子110から読み出された画像データに基づいて、輝度値の検出が行われる。具体的には、カメラ制御部170は、図2に示すように、撮像素子110の各分割領域で得られた画像データに基づいて、各分割領域ごとの輝度値を算出する。さらに、カメラ制御部170は、全ての分割領域の輝度値の平均値を、撮像素子110の全領域における平均輝度値として算出するとともに、全ての分割領域の輝度値のうち最大となる輝度値を、最大輝度値として検出する。同様に、カメラ制御部170は、撮像素子110から時系列に沿って読み出した他の画像データについても、平均輝度値および最大輝度値を検出し、これにより、最大輝度値の時系列データである最大輝度データ列と、平均輝度値の時系列データである平均輝度データ列とを取得する。
In step S104, first, the
ここで、図4は、輝度データ列の一例を示す図である。なお、図4において、縦軸は、輝度値の大きさを示しており、横軸は、輝度値が検出されたフレーム番号を示している。なお、フレーム番号は、フリッカ検出用の蓄積が開始された後、最初に読み出された画像データに基づく輝度値が、1フレーム目となり、次いで読み出された画像データに基づく輝度値が、2フレーム目となる。図4に示す例では、フリッカ光源の周期的な明滅に起因して、フリッカが発生しており、そのため、図4に示すように、輝度値が周期的に変化する輝度データ列が検出される。また、図4に示す例では、手振れや撮影者のボタン操作に起因する振動により、輝度データ列が全体的に傾いて推移している(図4に示す例では、輝度データ列における極小値および極大値が、フレーム数が大きくなるほど、大きくなるように推移している。)。このような輝度データ列内の輝度値の変化は、フリッカ光源による輝度変化に起因するものではないため、このように手振れや撮影者のボタン操作に起因する振動が生じた場合に、輝度データ列に基づいて、フリッカによる輝度変化を検出することが困難となる場合がある。そのため、本実施形態では、以下に説明する処理を、輝度データ列に対して実行する。 Here, FIG. 4 is a diagram illustrating an example of a luminance data string. In FIG. 4, the vertical axis indicates the magnitude of the luminance value, and the horizontal axis indicates the frame number where the luminance value is detected. The frame number indicates that the luminance value based on the image data read first after the start of flicker detection accumulation is the first frame, and then the luminance value based on the read image data is 2 It becomes the frame eye. In the example shown in FIG. 4, flicker occurs due to the periodic flickering of the flicker light source. Therefore, as shown in FIG. 4, a luminance data string whose luminance value changes periodically is detected. . In the example shown in FIG. 4, the luminance data string is inclined overall as a result of camera shake or vibration caused by the photographer's button operation (in the example shown in FIG. 4, the minimum value in the luminance data string and The maximum value is increasing as the number of frames increases.) Such a change in the luminance value in the luminance data string is not caused by a luminance change caused by the flicker light source. Therefore, when such a vibration due to camera shake or a photographer's button operation occurs, the luminance data string is changed. Therefore, it may be difficult to detect a luminance change due to flicker. Therefore, in the present embodiment, the process described below is executed on the luminance data string.
ステップS105では、カメラ制御部170により、ステップS104で検出された最大輝度データ列および平均輝度データ列に対して、オフセット除去処理が実行される。ここで、図5は、図4に示す平均輝度データ列の一部を抜き出して示した図であり、図6は、オフセット除去処理後の図5に示す平均輝度データ列を示す図である。以下においては、図5および図6を参照して、平均輝度データ列に対するオフセット除去処理について説明するが、本実施形態においては、最大輝度データ列についても、同様にオフセット除去処理が行われる。なお、図5および図6においては、図4と同様に、縦軸は、輝度値の大きさを示しており、横軸は、輝度値が検出されたフレーム番号を示している。
In step S105, the
すなわち、カメラ制御部170は、まず、検出対象とするフリッカの1周期で得られる輝度値の数を算出する。ここで、フリッカ光源は、所定のフリッカ周期で明滅を繰り返しており、このフリッカ周期は、商用電源を用いる光源においては、50Hzの電源で10ms、60Hzの電源で8.3msとなる。そのため、撮像素子110がフリッカ検出用の蓄積を、たとえば1000fps(1ms周期)で行う場合には、カメラ制御部170は、フリッカの1周期で8〜10個の輝度値を算出することができる。このような場合、カメラ制御部170は、検出対象とするフリッカの1周期で得られる輝度値の数を8〜10個として算出する。
That is, the
次いで、カメラ制御部170は、輝度値が極小となる極小値の検出を行う。たとえば、フリッカの1周期で得られる輝度値の数が10個である場合、連続して得られた10フレームの輝度値の中に、輝度値が極大となる極大値と、輝度値が極小となる極小値が存在するものと考えられる。そこで、図5に示すように、Nフレーム目の輝度値に対して、オフセット除去処理を行う場合、カメラ制御部170は、Nフレーム目の輝度値を中心として、フリッカの1周期に相当する輝度値を検出できる範囲内、すなわち、N−5フレーム目からN+5フレーム目までの範囲内において、輝度値が極小となる極小値を検出する。その結果、図5に示す例では、N−3フレーム目の輝度値が極小値として検出される。
Next, the
そして、カメラ制御部170は、オフセット除去処理の対象となる輝度値を、検出された極小値で減算することで、オフセット除去処理を実行する。たとえば、図5に示すように、Nフレーム目の輝度値に対して、オフセット除去処理を行う場合、カメラ制御部170は、Nフレーム目の輝度値を、検出されたN−3フレーム目の極小値で減算する。たとえば、図5に示すように、N−3フレーム目の極小値の値がB1であり、Nフレーム目の輝度値の値がB2である場合に、Nフレーム目の輝度値についてオフセット除去処理を行うことで、図6に示すように、オフセット除去処理されたNフレーム目の輝度値はB2−B1となる。同様に、平均輝度データ列を構成する他の輝度値についてもオフセット除去処理が行われ、その結果、図6に示す例では、極小値であるN−3フレーム目の輝度値は0となり、他の輝度値もそれぞれ対応する極小値で減算される。そして、このように、平均輝度データ列を構成する全ての輝度値についてオフセット処理を行うことにより、平均輝度データ列のオフセット除去処理が行われる。
Then, the
次いで、ステップS106では、カメラ制御部170により、ステップS105でオフセット除去処理が行われた最大輝度データ列および平均輝度データ列に対して、正規化処理が実行される。ここで、図7は、正規化処理後の図6に示す輝度データ列を示す図である。以下においては、図7を参照して、平均輝度データ列に対する正規化処理について説明するが、本実施形態においては、最大輝度データ列についても、同様に正規化処理が行われる。なお、図7においても、図4〜図6と同様に、縦軸は、輝度値の大きさを示しており、横軸は、輝度値が検出されたフレーム番号を示している。
Next, in step S106, the
すなわち、カメラ制御部170は、まず、輝度値が極大となる極大値の検出を行う。たとえば、図7に示すように、Nフレーム目の輝度値に対して正規化処理を行う場合、カメラ制御部170は、Nフレーム目の輝度値を中心として、フリッカの1周期に相当する輝度値を検出できる範囲内、すなわち、N−5フレーム目からN+5フレーム目までの範囲内において、輝度値が極大となる極大値を検出する。その結果、図7に示す場面例では、N+3フレーム目の輝度値が、極大値として検出される。そして、カメラ制御部170は、Nフレーム目の輝度値を、検出されたN+3フレーム目の極大値で除算することで、Nフレーム目の輝度値について正規化処理を行う。同様に、カメラ制御部170は、平均輝度データ列を構成する他の輝度値についても、正規化処理を行う。これにより、図7に示す例では、極大値であるN+3フレーム目の輝度値は1となり、極小値であるN−3フレーム目の輝度値は0となり、その他の輝度値も0〜1の範囲内の値に補正される。そして、このように平均輝度データ列を構成する全ての輝度値について正規化処理を行うことで、平均輝度データ列の正規化処理が行われる。
That is, the
続いて、ステップS107では、カメラ制御部170により、ステップS106で正規化処理が行われた最大輝度データ列および平均輝度データ列に対して、2値化処理が実行される。ここで、図8は、2値化処理後の図4に示す輝度データ列を示す図である。以下においては、図8を参照して、平均輝度データ列に対する2値化処理について説明するが、本実施形態においては、最大輝度データ列についても、同様に2値化処理が行われる。なお、図8においても、図4〜図7と同様に、縦軸は、輝度値の大きさを示しており、横軸は、輝度値が検出されたフレーム番号を示している。また、図8においては、2値化処理前の平均輝度データ列を破線で示し、2値化処理後の平均輝度データ列を実線で示している。
Subsequently, in step S107, the
すなわち、カメラ制御部170は、正規化処理が行われた各輝度値(図8中、破線で示す。)について、所定閾値以上であるか否かの判断を行い、輝度値が所定閾値以上である場合には、該輝度値を1として算出し、反対に、輝度値が所定閾値未満である場合には、該輝度値を0として算出する。たとえば、図8に示す例では、各輝度値が0.6以上であるか否かを判断し、0.6以上の輝度値を1として算出し、0.6未満の輝度値を0として算出する。これにより、図8に示すように、正規化処理が行われた輝度値が、0または1で2値化され(図8中、実線で示す)、これにより、平均輝度データ列の2値化処理が行われる。
That is, the
そして、ステップS108では、カメラ制御部170により、ステップS107で2値化処理が行われた最大輝度データ列または平均輝度データ列に基づいて、フリッカの周波数の検出が行われる。具体的には、カメラ制御部170は、まず、最大輝度データ列および平均輝度データ列のいずれか一方を、フリッカ検出に用いる輝度データ列として選択する。たとえば、フリッカが点光源に起因するものである場合、点光源が存在する分割領域の輝度変化の度合いは大きくなるため、最大輝度データ列を用いてフリッカ検出を行うことで、フリッカの検出精度を高めることができる。そこで、カメラ制御部170は、たとえば、最大輝度データ列における輝度変化の度合いが所定値以上となる場合には、フリッカ検出に用いる輝度データ列として、最大輝度データ列を選択し、最大輝度データ列における輝度差が所定値未満となる場合には、フリッカ検出に用いる輝度データ列として、平均輝度データ列を選択する。このように、フリッカ検出に用いる輝度データ列を、最大輝度データ列および平均輝度データ列の中から適切に選択することで、フリッカの検出精度を高めることができる。
In step S108, the
そして、カメラ制御部170は、選択した輝度データ列に基づいて、フリッカの周波数の検出を行う。具体的には、カメラ制御部170は、選択された輝度データ列の各周期ごとに、「0」または「1」である輝度値の数をカウントし、カウントした数の平均値を算出することで、輝度データ列の1周期において、「0」または「1」である輝度値の数を算出する。たとえば、撮像素子110が、フリッカ検出用の蓄積を1000fps(1ms周期)で行う場合に、選択した輝度データ列内の1周期において、「0」または「1」である輝度値の数(平均値)が10として算出された場合には、フリッカの周期は10msであると判断でき、カメラ制御部170は、フリッカの周波数を50Hzとして検出する。また、同様に、撮像素子110が、フリッカ検出用の蓄積を1000fps(1ms周期)で行う場合に、選択した輝度データ列の1周期において、「0」または「1」である輝度値の数(平均値)が8.3として算出された場合には、フリッカの周期は8.3msであると判断でき、カメラ制御部170は、フリッカの周波数を60Hzとして検出する。
The
そして、ステップS109では、カメラ制御部170により、ステップS108で検出されたフリッカの周波数に基づいて、動画像撮影用のプログラム線図の選択が行われる。ここで、プログラム線図とは、被写体の輝度に応じた露出を得るための、絞りとシャッタースピードとの組み合わせを予め設定したものである。また、本実施形態では、フリッカの周波数に応じた複数のプログラム線図が、たとえば、カメラ制御部170に備えるメモリに記憶されており、このようなプログラム線図は、フリッカによる影響を低減できるように、たとえば、フリッカの周期の整数倍の周期で撮像素子110の蓄積を行うためのシャッタースピードと、このシャッタースピードに合わせて適切な露出が得られる絞りとの組み合わせとなるように設定されている。カメラ制御部170は、このようにフリッカの周波数に応じた複数のプログラム線図の中から、ステップS108で検出されたフリッカの周波数に応じたプログラム線図を選択する。
In step S109, the
ステップS110では、カメラ制御部170により露出制御が行われる。たとえば、カメラ制御部170は、ステップS109で選択されたプログラム線図に基づいて、フリッカの影響を低減するように、シャッタースピードおよび絞りを制御する。
In step S110, the
また、ステップS111では、カメラ制御部170により、焦点調節処理が行われる。具体的には、カメラ制御部170は、撮像素子110の出力を読み出し、読み出した画素出力の高周波成分を、高周波透過フィルタを用いて抽出し、これを積算することで、焦点評価値を求める。そして、カメラ制御部170は、フォーカスレンズ212を所定のサンプリング間隔(距離)で駆動させながら、それぞれの位置で焦点評価値を求め、該焦点評価値が最大となるフォーカスレンズ212の位置を合焦位置として求める、コントラスト検出方式による焦点検出を実行する。そして、カメラ制御部170は、検出された合焦位置まで、フォーカスレンズ212を駆動させることで、光学系の焦点調節を行う。なお、本実施形態において、カメラ制御部170は、たとえば、ステップS108で検出したフリッカの周波数に基づいて、フリッカによる縞模様を含まない画像データを得られるタイミングで、画像データを取得し、取得した画像データに基づいて、焦点検出を行うことで、光学系の焦点状態をより適切に検出することができる。
In step S111, the
そして、ステップS112では、カメラ制御部170により、プログラム線図に従って設定されたシャッタースピードおよび絞りで、撮像素子110による電荷の蓄積が行われる。そして、カメラ制御部170は、撮像素子110から画像データを読み出し、読み出した画像データに基づく画像を表示モニタ190に表示するとともに、続くステップS113において、読み出した画像データをメモリ(不図示)に記憶する。
In step S112, the
そして、ステップS114では、カメラ制御部170により、動画像の撮影が終了されたか否かの判断が行われる。たとえば、カメラ制御部170は、動画像を撮影している際に、撮影者により操作部150に備えられた動画撮影ボタンが押下された場合に、動画像の撮影が終了されたと判断することができる。動画像の撮影が終了されたと判断された場合には、ステップS115に進み、ミラー系120を観察位置に回動するミラーダウン処理が行われた後、上述したカメラ1の処理を終了する。一方、動画像の撮影が継続されていると判断された場合には、ステップS110に戻り、ステップS108で検出したフリッカの周波数に基づいて、動画像の撮影が繰り返し行われる。
In step S114, the
以上のように、本実施形態に係るカメラ1は動作する。
As described above, the
このように、本実施形態では、動画像の撮影を行う際に、検出対象であるフリッカの周期よりも短い周期で、撮像素子110から画像データを読み出し、読み出した画像データに基づいて輝度値を検出することで、輝度値の時系列データである輝度データ列を取得する。そして、輝度データ列内の複数の極小値および極大値が同じ値となるように、輝度データ列を構成する各評価値を補正することで、輝度データ列の正規化処理を行い、さらに、正規化処理された輝度データ列を2値化処理する。そして、2値化処理された輝度データ列に基づいて、フリッカの検出を行う。このように、本実施形態では、検出された輝度データ列を正規化処理することで、図4に示すように、手振れや撮影者のボタン操作による振動などによる輝度変化も生じてしまい、フリッカに起因する輝度変化を検出することが困難となる場合でも、手振れやボタン操作による振動による影響を有効に排除することができるため、フリッカを良好に検出することができる。また、本実施形態によれば、フリッカによる輝度変化の度合が小さく、フリッカの検出が困難な場合でも、フリッカの検出に適した輝度データ列に補正することで、フリッカを良好に検出することができる。また、本実施形態では、正規化処理された輝度データ列を2値化処理することで、正規化処理によってもフリッカ検出に適した輝度データ列が得られないような場合でも、フリッカを良好に検出することができる。
As described above, in this embodiment, when capturing a moving image, the image data is read from the
なお、以上説明した実施形態は、本発明の理解を容易にするために記載されたものであって、本発明を限定するために記載されたものではない。したがって、上記の実施形態に開示された各要素は、本発明の技術的範囲に属する全ての設計変更や均等物をも含む趣旨である。 The embodiment described above is described for facilitating the understanding of the present invention, and is not described for limiting the present invention. Therefore, each element disclosed in the above embodiment is intended to include all design changes and equivalents belonging to the technical scope of the present invention.
たとえば、上述した実施形態では、動画像の撮影を行う場面を例示して説明したが、たとえば、静止画像を撮影する際に、スルー画像を表示する場面においても、本発明を適用することができる。たとえば、撮影者によりスルー画像を表示するためのボタンが操作された場合に、上述した実施形態に係るフリッカの検出を行い、たとえば、検出されたフリッカの周期の整数倍となる周期で、撮像素子110の蓄積を行うことで、フリッカによる縞模様が表示されないように、スルー画像を生成、表示することができる。 For example, in the above-described embodiment, a scene where a moving image is shot has been described as an example. However, for example, when a still image is shot, the present invention can be applied to a scene where a through image is displayed. . For example, when a photographer operates a button for displaying a through image, flicker detection according to the above-described embodiment is performed. For example, the imaging element has a cycle that is an integral multiple of the detected flicker cycle. By accumulating 110, it is possible to generate and display a through image so that a stripe pattern due to flicker is not displayed.
また、上述した実施形態では、MOSイメージセンサから構成される撮像素子110を用いる構成を例示したが、撮像素子110は、CCDセンサやCIDで構成することもできる。
In the above-described embodiment, the configuration using the
さらに、上述した実施形態において、フリッカ周期を算出する際に、50Hzの電源のフリッカ周期である10.0msと、60Hzの電源のフリッカ周期である8.3msとのいずれに近いかを判断し、近い方の周期(すなわち、10.0msまたは8.3ms)をフリッカ周期として算出するような構成としてもよい。 Further, in the above-described embodiment, when calculating the flicker cycle, it is determined whether the flicker cycle of the 50 Hz power source is 10.0 ms or the 60 Hz power source flicker cycle is 8.3 ms, A configuration may be adopted in which the closer cycle (that is, 10.0 ms or 8.3 ms) is calculated as the flicker cycle.
なお、本実施形態のカメラ1は特に限定されず、例えば、デジタルビデオカメラ、一眼レフデジタルカメラ、レンズ一体型のデジタルカメラ、携帯電話用のカメラなどのその他の光学機器に本発明を適用してもよい。
The
1…一眼レフデジタルカメラ
100…カメラボディ
110…撮像素子
137…測光センサ
150…操作部
160…焦点検出モジュール
170…カメラ制御部
200…レンズ鏡筒
212…フォーカスレンズ
230…フォーカスレンズ駆動モータ
250…レンズ制御部
DESCRIPTION OF
Claims (10)
検出対象とするフリッカの周期よりも短い周期で、複数の前記画素列から出力された前記画像信号を、間引いて読み出す画像信号読み出し部と、
前記画像信号読み出し部により読み出された前記画像信号に基づいて、フレームごとに、被写体の輝度に関する評価値を検出して、前記評価値の時系列データを検出する評価値検出部と、
前記評価値検出部が検出した前記評価値の時系列データを補正することで、正規化処理を行う処理部と、
前記正規化処理が行われたデータに基づいて、フリッカの検出を行うフリッカ検出部と、を備える撮像装置。 A plurality of pixels are two-dimensionally arranged in a second direction crossing the first direction and the first direction, in a shorter period than the period of flicker to be detected, composed of pixels arrayed in the first direction An imaging unit capable of outputting an image signal for each pixel row to be processed;
An image signal readout unit that thins out and reads out the image signals output from the plurality of pixel columns in a cycle shorter than the cycle of flicker to be detected;
Based on the image signal read by the image signal read-out unit, for each frame, and it detects an evaluation value regarding brightness of the object, and the evaluation value detector which detect the time-series data of the evaluation value,
By the evaluation value detecting unit corrects the time series data of the evaluation value detected, and a processing unit that performs a normalization process,
Based on the normalization process is performed data comprises that an imaging device and the flicker detection unit, a for detecting a flicker.
前記処理部は、前記評価値の時系列データに存在する複数の極大値および/または複数の極小値が同じ値となるように正規化処理を行う撮像装置。The image processing apparatus, wherein the processing unit performs a normalization process so that a plurality of maximum values and / or a plurality of minimum values existing in the time-series data of the evaluation values have the same value.
前記処理部は、前記評価値の時系列データの正規化処理を行う際に、前記評価値の時系列データを構成する各評価値を、該評価値が得られたフレームの前後の所定数のフレーム内で得られた前記極小値で減算するオフセット除去処理を行う撮像装置。 The imaging device according to claim 2 ,
When performing the normalization process of the time series data of the evaluation value , the processing unit converts each evaluation value constituting the time series data of the evaluation value to a predetermined number of frames before and after the frame from which the evaluation value is obtained. line cormorant imaging device an offset removal processing for subtracting at said minimum value obtained within the frame.
前記処理部は、前記評価値の時系列データの正規化処理を行う際に、前記オフセット除去処理を行った各評価値を、該評価値が得られたフレームの前後の所定数のフレーム内で得られた前記極大値で除算する撮像装置。 The imaging device according to claim 3 .
When performing the normalization processing of the time series data of the evaluation value , the processing unit sets each evaluation value subjected to the offset removal processing within a predetermined number of frames before and after the frame from which the evaluation value is obtained. you divide obtained in the maximum value IMAGING dEVICE.
前記フリッカ検出部は、前記正規化処理が行われた各評価値が、所定閾値以上であるか否かに基づいて、各評価値を2値化することで、前記評価値の時系列データの2値化処理を行ない、前記2値化処理された前記評価値の時系列データに基づいて、フリッカの検出を行う撮像装置。 In the imaging device according to claim 3 or 4 ,
The flicker detection unit binarizes each evaluation value based on whether or not each evaluation value subjected to the normalization process is equal to or greater than a predetermined threshold value. performs binarization processing, on the basis of the time-series data of the binarized processed the evaluation value, detects the row cormorants imaging device of flicker.
前記所定数は、光源に用いる商用電源の1周期において、前記評価値検出部により検出可能な前記評価値の数である撮像装置。 In the imaging device in any one of Claims 3-5 ,
The predetermined number, in one period of the commercial power source used for the optical source, the number der Ru imaging device detectable the evaluation value by the evaluation value detecting unit.
前記処理部は、検出対象とするフリッカの周波数に応じて、前記所定数を切り替える撮像装置。 In the imaging device in any one of Claims 3-5 ,
Wherein the processing unit, in accordance with the frequency of the flicker to be detected, toggle its imaging device to the predetermined number.
前記処理部は、撮像画面全体の輝度に対応する評価値からなる評価値の時系列データ、および、撮像画面を分割した複数の領域の輝度のうち最大の輝度に対応する評価値からなる評価値の時系列データに対して、前記正規化処理を行い、
前記フリッカ検出部は、前記正規化処理が行われた、撮像画面全体の輝度に対応する評価値からなる評価値の時系列データ、または、撮像画面を分割した複数の領域の輝度のうち最大の輝度に対応する評価値のうちいずれか一方に基づいて、フリッカを検出する撮像装置。 The imaging apparatus according to any one of claims 1 to 7
Wherein the processing unit, the time series data of the evaluation value consisting evaluation value corresponding to the brightness of the entire imaging screen, and the evaluation value consisting evaluation value corresponding to the maximum luminance of the luminance of the plurality of regions obtained by dividing the imaging screen The normalization process is performed on the time series data of
The flicker detection unit is the time-series data of evaluation values composed of evaluation values corresponding to the luminance of the entire imaging screen on which the normalization processing has been performed, or the maximum luminance among the luminances of a plurality of areas obtained by dividing the imaging screen based on one of the evaluation values corresponding to the brightness, detect flicker imaging device.
前記処理部は、スルー画像を表示している際、または動画像を撮影している際に、前記正規化処理を行う撮像装置。 In the imaging device in any one of Claims 1-8 ,
Wherein the processing unit, when displaying a through image, or when you are shooting a moving image, the line power sale IMAGING DEVICE said normalization processing.
前記フリッカ検出部により検出されたフリッカに基づいて、被写体の輝度に応じた適切な露出を得るための、絞りとシャッター速度との組み合わせを予め設定したプログラム線図を変更する制御部をさらに備える撮像装置。 The imaging apparatus according to any one of claims 1 to 9
Based on the flicker detected by the flicker detection unit, for obtaining a proper exposure according to the brightness of the subject, Ru further comprising a control unit for changing the program chart previously set combinations of aperture and shutter speed imaging device.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011184290A JP5899707B2 (en) | 2011-08-26 | 2011-08-26 | Imaging device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011184290A JP5899707B2 (en) | 2011-08-26 | 2011-08-26 | Imaging device |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2013046325A JP2013046325A (en) | 2013-03-04 |
JP5899707B2 true JP5899707B2 (en) | 2016-04-06 |
Family
ID=48009863
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011184290A Active JP5899707B2 (en) | 2011-08-26 | 2011-08-26 | Imaging device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5899707B2 (en) |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0951481A (en) * | 1995-08-03 | 1997-02-18 | Hitachi Ltd | Image pickup device |
JP2003163942A (en) * | 2001-11-27 | 2003-06-06 | Minolta Co Ltd | Image-processing program |
JP4106554B2 (en) * | 2003-09-08 | 2008-06-25 | ソニー株式会社 | Imaging environment determination method and imaging apparatus |
JP4167637B2 (en) * | 2004-09-27 | 2008-10-15 | 埼玉日本電気株式会社 | Flicker suppression method, CCD image sensor |
JP4335849B2 (en) * | 2005-06-13 | 2009-09-30 | 富士通マイクロエレクトロニクス株式会社 | Imaging device capable of flicker detection |
JP2008224808A (en) * | 2007-03-09 | 2008-09-25 | Canon Inc | Automatic focusing device and imaging apparatus |
-
2011
- 2011-08-26 JP JP2011184290A patent/JP5899707B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2013046325A (en) | 2013-03-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8254773B2 (en) | Image tracking apparatus and tracking evaluation method | |
US9602714B2 (en) | Image pickup apparatus, method of controlling image pickup apparatus, and non-transitory computer-readable storage medium | |
JP5597078B2 (en) | Imaging apparatus and control method thereof | |
JP2018093275A (en) | Imaging apparatus and flicker determination method | |
US10447923B2 (en) | Image processing apparatus, imaging apparatus, and method of controlling image processing apparatus | |
JP2007155921A (en) | Focusing apparatus | |
JP6175748B2 (en) | Imaging device | |
US10212344B2 (en) | Image capturing device and control method capable of adjusting exposure timing based on detected light quantity change characteristic | |
JP5832153B2 (en) | Imaging apparatus, control method thereof, and program | |
JP6393091B2 (en) | Imaging apparatus, control method therefor, program, and storage medium | |
JP2013042298A (en) | Imaging apparatus and flicker generation frequency detection method | |
JP5899707B2 (en) | Imaging device | |
JP2013042300A (en) | Imaging apparatus and flicker generation frequency detection method | |
JP5590850B2 (en) | Imaging device and focus control method of imaging device | |
JP6704718B2 (en) | Imaging device, control method thereof, and control program | |
JP5482444B2 (en) | Imaging device | |
JP2015064521A (en) | Focus detection device, focus adjustment device, and imaging apparatus | |
JP6128193B2 (en) | Imaging device | |
JP6677336B2 (en) | Imaging device | |
JP2010272966A (en) | Photometric device, and imaging apparatus | |
JP6455582B2 (en) | Imaging device | |
JP2018005145A (en) | Imaging device | |
JP2006011035A (en) | Automatic focusing device, imaging apparatus, and focusing position detecting method | |
JP2012235325A (en) | Imaging apparatus | |
JP6504845B2 (en) | Imaging device, control method therefor, and control program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20140826 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20150619 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20150630 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20150831 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20160209 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20160222 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5899707 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |