JP2015200908A - imaging device - Google Patents
imaging device Download PDFInfo
- Publication number
- JP2015200908A JP2015200908A JP2015127157A JP2015127157A JP2015200908A JP 2015200908 A JP2015200908 A JP 2015200908A JP 2015127157 A JP2015127157 A JP 2015127157A JP 2015127157 A JP2015127157 A JP 2015127157A JP 2015200908 A JP2015200908 A JP 2015200908A
- Authority
- JP
- Japan
- Prior art keywords
- image
- point spread
- image data
- focus
- focus lens
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Focusing (AREA)
- Automatic Focus Adjustment (AREA)
- Studio Devices (AREA)
Abstract
Description
本開示は撮像装置に関する。 The present disclosure relates to an imaging apparatus.
特許文献1は、DFD(Depth From Defocus)方式のシステムを採用した撮像装置を開示している。この撮像装置は、複数種類のボケが得られるようにフォーカス制御を実施し、撮像素子によりボケの大きさが異なる複数の画像を取得する。次に、撮像装置は、ボケの大きさが異なる複数の画像に基づいて、被写体距離を算出する。そして、撮像装置は、算出した被写体距離に基づいて、フォーカス制御を実施する。
DFD方式のシステムを採用することにより、被写体への合焦動作の高速化が期待される。一方、DFD方式のシステムを採用するため、より高い合焦精度の改善が求められている。 By adopting the DFD system, it is expected to increase the speed of the focusing operation on the subject. On the other hand, in order to employ the DFD system, there is a demand for higher focusing accuracy.
本開示は、より精度高い合焦動作を実現する撮像装置を提供する。 The present disclosure provides an imaging apparatus that realizes a focusing operation with higher accuracy.
本開示の撮像装置は、フォーカスレンズと、フォーカスレンズを介して形成された被写体像を撮像し、画像データを生成する撮像部と、フォーカスレンズが第1の位置にあるときに撮像部によって生成された第1の画像データと、フォーカスレンズが第1の位置から第1の移動量を移動した第2の位置にあるときに撮像部によって生成された第2の画像データとに基づいて、合焦位置に関する値を算出する画像処理部と、複数の被写体距離に対応する複数の点拡がり関数を予め格納するメモリと、メモリに格納された多数の点拡がり関数から必要な複数の点拡がり関数を選択して画像処理部に通知する制御部と、を備える。画像処理部は、第1の画像データと選択された複数の点拡がり関数を用いた演算により第3の画像データを作成し、第2の画像データと第3の画像データを用いて合焦位置に関する値を算出する。 The imaging device according to the present disclosure is generated by an imaging unit that captures a focus lens, an object image formed via the focus lens, and generates image data, and the focus lens is at a first position. Based on the first image data and the second image data generated by the imaging unit when the focus lens is at the second position moved the first movement amount from the first position, focusing is performed. An image processing unit that calculates values related to the position, a memory that stores a plurality of point spread functions corresponding to a plurality of object distances in advance, and a plurality of point spread functions that are required from a number of point spread functions stored in the memory are selected. And a control unit that notifies the image processing unit. The image processing unit creates third image data by calculation using the first image data and a plurality of selected point spread functions, and uses the second image data and the third image data to focus the position. Calculate the value for.
本発明によれば、より精度高い合焦動作を実現する撮像装置を提供できる。 ADVANTAGE OF THE INVENTION According to this invention, the imaging device which implement | achieves a highly accurate focusing operation can be provided.
以下、適宜図面を参照しながら、実施の形態を詳細に説明する。但し、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項の詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になるのを避け、当業者の理解を容易にするためである。 Hereinafter, embodiments will be described in detail with reference to the drawings as appropriate. However, more detailed description than necessary may be omitted. For example, detailed descriptions of already well-known matters and repeated descriptions for substantially the same configuration may be omitted. This is to avoid the following description from becoming unnecessarily redundant and to facilitate understanding by those skilled in the art.
なお、発明者らは、当業者が本開示を十分に理解するために添付図面および以下の説明を提供するのであって、これらによって請求の範囲に記載の主題を限定することを意図するものではない。 In addition, the inventors provide the accompanying drawings and the following description in order for those skilled in the art to fully understand the present disclosure, and are not intended to limit the subject matter described in the claims. Absent.
撮像装置から被写体までの距離である被写体距離を計測する数ある方法の1つに、撮影された画像に生じるボケ量(Defocus)の相関値を利用するDFD(Depth from Defocus)と呼ばれる手法がある。一般に、撮影画像に生じるボケ量は、撮影時のフォーカス位置と被写体距離との関係に応じて撮像装置毎に一意に決まる。DFD演算ではこの特性を利用し、フォーカス位置を変動させることでボケ量の異なる2枚の画像を意図的に作り出し、ボケ量の違いと点拡がり関数(Point spread function、PSF)とから被写体距離を計測する。実施の形態にかかる撮像装置は、DFD演算を用いて被写体距離を計測することによりオートフォーカス制御を行う。 One of many methods for measuring the subject distance, which is the distance from the imaging device to the subject, is a technique called DFD (Depth from Defocus) that uses a correlation value of a blur amount (Defocus) generated in a captured image. . In general, the amount of blur that occurs in a captured image is uniquely determined for each imaging device in accordance with the relationship between the focus position at the time of shooting and the subject distance. In the DFD calculation, this characteristic is used to intentionally create two images with different amounts of blur by changing the focus position, and the subject distance is calculated from the difference in the amount of blur and the point spread function (PSF). measure. The imaging apparatus according to the embodiment performs autofocus control by measuring a subject distance using DFD calculation.
以下、実施の形態における撮像装置の構成および動作について説明する。 Hereinafter, the configuration and operation of the imaging apparatus according to the embodiment will be described.
〔1.撮像装置の電気的構成〕
図1は、実施の形態における撮像装置であるデジタルビデオカメラ100の電気的構成を示すブロック図である。デジタルビデオカメラ100は、1以上のレンズからなる光学系110を備える。光学系110は被写体からの光により被写体像をCMOSイメージセンサ140上に形成する。形成された被写体像を撮像センサであるCMOSイメージセンサ140で撮像する。CMOSイメージセンサ140は撮像した被写体像に基づいて画像データを生成する。CMOSイメージセンサ140で生成された画像データは、A/Dコンバータ(ADC)150でデジタル信号に変換された後、画像処理部160で各種処理が施され、メモリカード200に格納される。以下、デジタルビデオカメラ100の構成を詳細に説明する。
[1. Electrical configuration of imaging device]
FIG. 1 is a block diagram illustrating an electrical configuration of a
実施の形態における光学系110は、ズームレンズ111、手振れ補正レンズ112、フォーカスレンズ113、絞り114により構成される。ズームレンズ111を光軸110Xに沿って移動させることにより、被写体像の拡大、縮小をすることができる。また、フォーカスレンズ113を光軸110Xに沿って移動させることにより被写体像のフォーカスを調整することができる。また、手振れ補正レンズ112は、光学系110の光軸110Xに垂直な面内で移動可能である。デジタルビデオカメラ100のブレを打ち消す方向に手振れ補正レンズ112を移動することで、デジタルビデオカメラ100のブレが撮像画像に与える影響を低減できる。また、絞り114は光軸110X上に位置する開口部114Aを有し、使用者の設定に応じて若しくは自動で開口部114Aの大きさを調整し、透過する光の量を調整する。
The
レンズ駆動部120は、ズームレンズ111を駆動するズームアクチュエータや、手振れ補正レンズ112を駆動する手振れ補正アクチュエータや、フォーカスレンズ113を駆動するフォーカスアクチュエータや、絞り114を駆動する絞りアクチュエータを含む。そして、レンズ駆動部120は、上記のズームアクチュエータや、フォーカスアクチュエータや、手振れ補正アクチュエータや、絞りアクチュエータを制御する。
The
CMOSイメージセンサ140は、光学系110で形成された被写体像を撮像してアナログ信号であるアナログ画像データを生成する。CMOSイメージセンサ140は、露光、転送、電子シャッタなどの各種動作を行う。
The
A/Dコンバータ150は、CMOSイメージセンサ140で生成されたアナログ画像データをデジタル信号であるデジタル画像データに変換する。
The A /
画像処理部160は、CMOSイメージセンサ140で生成された画像データに対して各種処理を施し、表示モニタ220に表示するための画像データを生成したり、メモリカード200に格納するための画像データを生成したりする。例えば、画像処理部160は、CMOSイメージセンサ140で生成された画像データに対して、ガンマ補正、ホワイトバランス補正、傷補正などの各種処理を行う。また、画像処理部160は、CMOSイメージセンサ140で生成された画像データを、H.264規格やMPEG2規格に準拠した圧縮形式等により圧縮する。画像処理部160は、DSPやマイコンなどで実現可能である。
The
制御部180は、デジタルビデオカメラ100全体を制御する。制御部180は半導体素子などで実現できる。制御部180はハードウェアのみで構成してもよいし、ハードウェアとソフトウェアとを組み合わせることにより実現してもよい。制御部180は、マイコンなどで実現できる。
The
バッファ170は、画像処理部160及び制御部180のワークメモリとして機能する。バッファ170は、例えば、DRAM、強誘電体メモリなどで実現できる。
The
カードスロット190はメモリカード200を着脱可能に保持する。カードスロット190は機械的及び電気的にメモリカード200と接続可能である。メモリカード200はフラッシュメモリや強誘電体メモリなどを内部に含み、画像処理部160で生成された画像ファイル等のデータを格納できる。
The
内部メモリ240は、フラッシュメモリや強誘電体メモリなどで構成される。内部メモリ240は、デジタルビデオカメラ100全体を制御するための制御プログラム等を記憶する。また、内部メモリ240は点拡がり関数を格納している。
The
操作部材210は使用者からの操作を受け付けるユーザーインターフェースの総称である。操作部材210は、例えば、使用者からの操作を受け付ける十字キーや決定釦等を含む。
The
表示モニタ220は、CMOSイメージセンサ140で生成された画像データが示す画像や、メモリカード200から読み出された画像データが示す画像を表示できる画面220Aを有する。また、表示モニタ220は、デジタルビデオカメラ100の各種設定を行うための各種メニュー画面等も画面220Aに表示できる。表示モニタ220の画面220A上にはタッチパネル220Bが配置されている。タッチパネル220Bはユーザによりタッチされて各種タッチ操作を受け付けることができる。タッチパネル220Bに対するタッチ操作が示す指示は制御部180に通知され各種処理が行われる。
The display monitor 220 includes a
角速度センサ250は、手振れ等に起因してデジタルビデオカメラ100に発生した角速度を検出する。角速度センサ250が検出した角速度は制御部180に通知される。制御部180は、角速度センサ250から通知された角速度により、デジタルビデオカメラ100に発生した角速度に基づく画像のブレを解消するよう手振れ補正レンズ112を駆動させることができる。
The
〔2.デジタルビデオカメラ100の動作〕
デジタルビデオカメラ100は、DFD演算の結果を用いてオートフォーカス動作を行う。図2は、実施の形態におけるデジタルビデオカメラ100のDFD演算の結果を用いたフォーカスレンズ制御を説明するためのブロック図である。
[2. Operation of digital video camera 100]
The
DFD演算回路161は、画像処理部160内に構成された演算回路であり、DFD演算を実施してDepthマップを作成する。具体的には、DFD演算回路161は、フォーカス位置を変動させることで、意図的に作り出したボケ量の異なる2枚の画像である観測画像PA、参照画像PBと点拡がり関数とから観測画像PA(参照画像PB)の各画素での被写体距離を示すDepthマップを作成する。
The
次に、DFD演算回路161は、作成したDepthマップを制御部180に通知する。制御部180は、通知されたDepthマップに基づいてフォーカスレンズ113を駆動するようレンズ駆動部120を制御する。
Next, the DFD
以下、図2に示したDFD演算回路161によるDFD演算の詳細と、制御部180による被写体距離の決定の詳細について説明する。
Details of the DFD calculation by the
まず、DFD演算回路161によるDFD演算の詳細について説明する。図3は、実施の形態におけるデジタルビデオカメラ100のDFD演算におけるフォーカスレンズ113の移動を説明するためのイメージ図である。DFD演算において、制御部180はフォーカス位置を変動させることで、意図的にボケ量の異なる2枚の画像を作り出す。具体的には、図3に示すように、制御部180はレンズ駆動部120を制御して、時刻t1におけるフォーカスレンズ113の位置をフォーカス位置L1に設定する。同様に、時刻t2におけるフォーカスレンズ113の位置を、フォーカス位置L1と異なるフォーカス位置L2に設定する。CMOSイメージセンサ140は、フォーカスレンズ113がフォーカス位置L1にあるときに被写体を撮像して、観測画像PAを作成する。同様に、CMOSイメージセンサ140は、フォーカスレンズ113がフォーカス位置L2にあるときにその被写体を撮像して参照画像PBを作成する。観測画像PAと参照画像PBとは、撮像されたときのフォーカスレンズ113の位置が異なるので、同一被写体を撮像した画像ではあるが互いにボケ量が異なる。
First, details of the DFD calculation performed by the
図4は、実施の形態におけるデジタルビデオカメラ100のDFD演算による被写体距離の算出を説明するイメージ図である。DFD演算回路161は、観測画像PAを構成する各観測画素SA、参照画像PBを構成する各参照画素SBに対してDFD演算を行い、各画素SA(SB)での被写体距離を算出する。DFD演算回路161は、観測画素SAに複数の点拡がり関数を畳み込んで得られた結果である複数の観測画素CAを、観測画素CAと画像上の同じ座標の参照画素SBと照合する。その動作を以下に説明する。
FIG. 4 is a conceptual diagram illustrating calculation of the subject distance by DFD calculation of the
点拡がり関数は、光学系の点光源に対する応答を示す関数であり、ボケ量の変化を示す。点拡がり関数を、点光源の集合に対応する画像に畳み込む(Convolution)ことで、人為的にボケ画像を生成することができる。本実施の形態では、多数の被写体距離に対応して予め多数の点拡がり関数が内部メモリ240内に用意している。制御部180は、至近側から遠側までを16段階の被写体距離に分解し、それらの被写体距離にそれぞれ対応する16個の点拡がり関数PSF1〜PSF16を内部メモリ240に用意された多数の点拡がり関数から選択する。このとき、フォーカスレンズ113の移動量に応じて、至近側から遠側までの16段階の被写体距離の分解能を変化させる。すなわち、制御部180は、フォーカスレンズ113の移動量が減少するにつれて、至近側から遠側までを16段階に分解する被写体距離の間隔を狭くする。一方、制御部180は、フォーカスレンズ113の移動量が増加するにつれて、至近側から遠側までを16段階に分解する被写体距離の間隔を広くする。そして、制御部180は、選択した16個の点拡がり関数PSF1〜PSF16をDFD演算回路161に通知する。
The point spread function is a function indicating the response of the optical system to the point light source, and indicates a change in the amount of blur. By convolutioning the point spread function with an image corresponding to a set of point light sources (convolution), it is possible to artificially generate a blurred image. In the present embodiment, a large number of point spread functions are prepared in advance in the
DFD演算回路161は、各観測画素SAでの被写体までの距離に対応した16個の点拡がり関数PSF1〜PSF16を各観測画素SAに畳み込みすることで、各観測画素SAでの被写体までの距離に対応した16個の観測画素CA1〜CA16を生成する。16個の観測画素CA1〜CA16は、畳み込まれている点拡がり関数がそれぞれ異なるので、それぞれ異なるボケ画像を形成する。
The
続いて、DFD演算回路161は、観測画素CA1〜CA16を参照画素SBと照合し、観測画素CA1〜CA16のうち参照画素SBとの差分値が最小となる観測画素CAnを判定する。そして、観測画素CAnに畳み込まれている点拡がり関数に対応する被写体距離を観測画素SAの被写体距離であると決定する。例えば、観測画素CA3と参照画素SBとの差分値が、他の観測画素CA1〜2、CA4〜16のそれぞれと参照画素SBとの差分値と比較して最小となる場合、DFD演算回路161は、観測画素CA3を作成する際に観測画素SAに畳み込んだ点拡がり関数PSF3に対応する被写体距離を観測画素SAでの被写体距離であると決定する。
Subsequently, the DFD
以上の動作を、観測画像PA及び参照画像PBの各画素について実施することにより、DFD演算回路161は各画素についての被写体距離の分布であるDepthマップを完成させる。実施の形態では各被写体までの距離に対応した16個の点拡がり関数を用いたので、Depthマップは16階調の被写体距離を示す。
By performing the above operation for each pixel of the observation image PA and the reference image PB, the DFD
続いて、図5及び図6を用いて、DFD演算結果を用いたオートフォーカス動作について説明する。図5は、デジタルビデオカメラ100におけるオートフォーカス動作のフローチャートである。図6は、デジタルビデオカメラ100におけるオートフォーカス動作を説明するイメージ図である。図6は、フォーカスレンズ113の各位置P1〜P4における被写体距離に対するコントラスト値のイメージを示している。図6において、位置P1〜P4は、フォーカスレンズ113の位置を示す。移動量D1〜D3は、フォーカスレンズ113の移動量を示す。また、被写体距離S1〜S5は、被写体までの距離を示す。また、コントラストカーブCC1〜CC4は、それぞれ被写体距離S1〜S4においてフォーカスレンズ113が位置P1〜P4にあるときに、コントラスト値がピークとなるコントラストカーブである。被写体距離S5は、合焦動作の目的としている被写体が存在する被写体距離を示す。
Subsequently, an autofocus operation using the DFD calculation result will be described with reference to FIGS. 5 and 6. FIG. 5 is a flowchart of the autofocus operation in the
図5に示すように、デジタルビデオカメラ100は、撮影モードにおいて、オートフォーカス動作を実施する。まず、画像処理部160は、現在のフォーカスレンズ113の位置P1において、CMOSイメージセンサ140が撮像した画像を取得する(ステップS300)。続いて、制御部180は、レンズ駆動部120を制御して、フォーカスレンズ113を、位置P1から第1の移動量D1だけシフトした位置P2へと移動させる(ステップS301)。画像処理部160は、フォーカスレンズ113が位置P2に移動すると、CMOSイメージセンサ140が撮像した画像を取得する(ステップS302)。
As shown in FIG. 5, the
ここで、画像処理部160は、ステップS300にて取得した画像を観測画像PAとし、ステップS302にて取得した画像を参照画像PBとして、上述したDFD演算を実施する(ステップS303)。画像処理部160は、DFD演算により被写体距離(合焦位置を示す情報)を算出する。
Here, the
次に、制御部180は、ステップS303のDFD演算により算出された被写体距離(合焦位置を示す情報)が、所定の範囲内であるか否かを判定する(ステップS304)。このとき、ステップS303のDFD演算により算出された被写体距離(合焦位置を示す情報)が、16個の点拡がり関数PSF1〜PSF16のいずれに対応する被写体距離であるかを判定する。上述したように、点拡がり関数PSF1〜PSF16は、至近側から遠側までを16段階に分解された被写体距離に対応している。このとき、点拡がり関数PSF1は、点拡がり関数PSF1〜PSF16のうち、最も至近側の被写体距離に対応している。一方、点拡がり関数PSF16は、点拡がり関数PSF1〜PSF16のうち、最も遠側の被写体距離に対応している。よって、具体的には、制御部180は、ステップS303のDFD演算により算出された被写体距離(合焦位置を示す情報)が、点拡がり関数PSF1又は点拡がり関数PSF16に対応するか(所定の範囲外であるか)、点拡がり関数PSF2〜PSF15に対応するか(所定の範囲内であるか)を判定する。
Next, the
ステップS303のDFD演算により算出された被写体距離(合焦位置を示す情報)が、所定の範囲内にない(点拡がり関数PSF1又は点拡がり関数PSF16に対応する)と判定されたとき(ステップS304の「No」)、制御部180は、DFD演算におけるフォーカスレンズ113の移動量として、第1の移動量D1よりも移動量を増加させた第2の移動量D2を設定する(ステップS305)。そして、制御部180は、レンズ駆動部120を制御して、フォーカスレンズ113を位置P2から第2の移動量D2だけシフトした位置P3へと移動させる(2巡目のステップS301)。画像処理部160は、フォーカスレンズ113が位置P3に移動すると、CMOSイメージセンサ140が撮像した画像を取得する(2巡目のステップS302)。
When it is determined that the subject distance (information indicating the in-focus position) calculated by the DFD calculation in step S303 is not within the predetermined range (corresponding to the point spread function PSF1 or the point spread function PSF16) (in step S304). “No”), the
ここで、画像処理部160は、1巡目のステップS302にて取得した画像を観測画像PAとし、2巡目のステップS302にて取得した画像を参照画像PBとして、DFD演算を再度実施する(2巡目のステップS303)。そして、画像処理部160は、DFD演算により被写体距離(合焦位置を示す情報)を算出する。再び、制御部180は、ステップS303のDFD演算により算出された被写体距離(合焦位置を示す情報)が、所定の範囲内であるか否かを判定する(2巡目のステップS304)。制御部180は、ステップS303のDFD演算により算出された被写体距離(合焦位置を示す情報)が、所定の範囲内になる(点拡がり関数PSF2〜PSF15に対応する)まで、ステップS301からステップS305の動作を繰り返す。ステップS303のDFD演算により算出された被写体距離が、所定の範囲内にない場合に、フォーカスレンズ113の移動量を増加させる技術的意義については後述する。
Here, the
ステップS304において、ステップS303のDFD演算により算出された被写体距離(合焦位置を示す情報)が、所定の範囲内であると判定されると(ステップS304の「Yes」)、制御部180は、DFD演算におけるフォーカスレンズ113の移動量として、前回の移動量(第1の移動量D1又は第2の移動量D2)よりも移動量を減少させた第3の移動量D3を設定する(ステップS306)。続いて、制御部180は、レンズ駆動部120を制御して、フォーカスレンズ113を、位置P3から第3の移動量D3だけシフトした位置P4へと移動させる(ステップS307)。画像処理部160は、フォーカスレンズ113が位置P4に移動すると、CMOSイメージセンサ140が撮像した画像を取得する(ステップS308)。
If it is determined in step S304 that the subject distance (information indicating the in-focus position) calculated by the DFD calculation in step S303 is within a predetermined range (“Yes” in step S304), the
ここで、画像処理部160は、前回のステップS302にて取得した画像を観測画像PAとし、ステップS308にて取得した画像を参照画像PBとして、DFD演算を実施する(ステップS309)。画像処理部160は、DFD演算により被写体距離(合焦位置を示す情報)を算出する。
Here, the
次に、制御部180は、DFD演算により算出された被写体距離(合焦位置を示す情報)が所定の分解能を満たすか否かを判定する(ステップS310)。本実施の形態では、画像上でボケを感じさせない分解能を所定の分解能とする。
Next, the
DFD演算により算出された被写体距離(合焦位置を示す情報)が所定の分解能を満たさない場合(ステップS310の「No」)、制御部180は、DFD演算を画像処理部160に再度実施させる。このとき、制御部180は、DFD演算におけるフォーカスレンズ113の移動量として、第3の移動量D3よりも移動量を更に減少させた移動量を設定する(2巡目のステップS306)。そして、制御部180は、ステップS309におけるDFD演算により算出された被写体距離(合焦位置を示す情報)が、所定の分解能を満たすまで、ステップS306からステップS310の処理を繰り返す(ステップS310の「No」)。ステップS309のDFD演算により算出された被写体距離(合焦位置を示す情報)が、所定の分解能以下である場合に、フォーカスレンズ113の移動量を減少させる技術的意義については後述する。
When the subject distance (information indicating the focus position) calculated by the DFD calculation does not satisfy the predetermined resolution (“No” in step S310), the
ステップS310において、ステップS309のDFD演算により算出された被写体距離(合焦位置を示す情報)が、所定の分解能を満たすと判定された場合(ステップS310の「Yes」)、制御部180は、オートフォーカス動作において、DFD演算により決定された被写体距離に基づいて、フォーカスレンズ113を最終的に移動させるべき合焦位置を決定する(ステップS311)。具体的には、制御部180は、トラッキングテーブルを参照して、求めた被写体距離と現在のズームレンズ111の位置とに基づいて合焦位置を算出する。図7は、実施の形態におけるデジタルビデオカメラ100の複数の被写体距離に対するズームトラッキングテーブルを示す。図7に示すように、ズームトラッキングテーブルは、代表的ないくつかの被写体距離DL(図7では1m、2m、3m、無限遠(INF))に対応してズームレンズ111の位置に対する合焦位置を示すカーブDM1〜DM4を含む。制御部180は、ズームトラッキングテーブルに記載のカーブを被写体距離について補間することで、代表的な被写体距離DL以外の被写体距離についてもフォーカスレンズ113を移動させるべき位置である合焦位置を算出することができる。
In step S310, when it is determined that the subject distance (information indicating the in-focus position) calculated by the DFD calculation in step S309 satisfies the predetermined resolution (“Yes” in step S310), the
そして、制御部180は、レンズ駆動部120を制御することにより、フォーカスレンズ113を合焦位置へと移動させる(ステップS312)。
Then, the
以上説明したオートフォーカス動作により、デジタルビデオカメラ100は、合焦精度を確保することができる。
With the autofocus operation described above, the
続いて、ステップS303のDFD演算により算出された被写体距離(合焦位置を示す情報)が、所定の範囲内にない(点拡がり関数PSF1又は点拡がり関数PSF16に対応する)場合に、フォーカスレンズ113の移動量を増加させる技術的意義について説明する。
Subsequently, when the subject distance (information indicating the in-focus position) calculated by the DFD calculation in step S303 is not within a predetermined range (corresponding to the point spread function PSF1 or the point spread function PSF16), the
図6は、フォーカスレンズ113が位置P1〜P4に位置するときの、被写体距離に対するコントラスト値の関係を示している。DFD演算においては、互いに異なるフォーカスレンズ位置において取得した少なくとも2枚の画像から、被写体距離を算出する。具体的には、前述したとおり、画像処理部160は、観測画像PAの観測画素SAに対して点拡がり関数を畳み込んだ結果である観測画素CAと、参照画像PBの参照画素SBとを照合して、被写体距離を算出する。この照合において、有意な被写体距離を算出するためには、参照画像PBは、目的の被写体距離において、所定値以上のコントラスト値を有している必要がある。目的の被写体距離において、所定値以上のコントラスト値を有していない場合とは、参照画像PBにて、目的の被写体距離に位置する被写体像のコントラスト値を有意に検出できていないことを意味する。そのため、目的の被写体距離に位置する被写体像のコントラスト値を有意に検出できる位置に、フォーカスレンズ113を更に移動させる必要がある。図6に示す例では、被写体距離S5に目的の被写体が存在する。このとき、被写体距離S2にピークをもつコントラストカーブCC2の被写体距離S5におけるコントラスト値はたいへん小さいため、コントラストカーブCC2からは、被写体距離S5において有意なコントラスト値を検出することができない。すなわち、フォーカスレンズ113が位置P2に位置しているときは、被写体距離S5にある被写体に対しては有意なコントラスト値を検出することができない。このとき、図5のステップS305において移動量を増加させることなく、前回(ステップS301)と同じ第1の移動量D1にてフォーカスレンズ113を移動させても可能である。しかし、第1の移動量D1よりも大きい第2の移動量D2によりフォーカスレンズ113を移動させることで、目的の被写体距離に位置する被写体像のコントラスト値を有意に検出できる可能性を高めることができる。図6に示すように、フォーカスレンズ113を第1の移動量D1よりも大きい第2の移動量D2の移動量で移動させて位置P3に位置させることにより、被写体距離S5において有意なコントラスト値C1を検出することができる。すなわち、被写体距離S3にピークをもつコントラストカーブCC3は、被写体距離S5において有意なコントラスト値C1を有する。
FIG. 6 shows the relationship of the contrast value with respect to the subject distance when the
続いて、ステップS309のDFD演算により算出された被写体距離(合焦位置を示す情報)が、所定の分解能より低い場合に、フォーカスレンズ113の移動量を減少させる技術的意義について説明する。
Next, the technical significance of reducing the amount of movement of the
フォーカスレンズ113の移動量を減少させることは、参照画像PBを観測画像PAにより近づけることを意味する。DFD演算においては、観測画像PAが示すコントラスト値と、参照画像PBが示すコントラスト値とが重畳する範囲が少しでもあれば、何かしらの照合結果を得ることができる。観測画像PAと参照画像PBとの照合における精度について図8を用いて説明する。図8は、DFD演算の精度を説明するためのイメージ図である。図8のコントラストカーブCC3及びCC4に示すように、裾野付近からピーク位置付近に近づくにつれて傾きが急峻になるが、裾野付近では傾きがなだらかである。そのため、観測画像PAが示すコントラスト値と、参照画像PBが示すコントラスト値とが重畳する範囲があったとしても、その重畳する範囲が裾野付近である場合は、コントラスト値の所定の差分ΔCに対する被写体距離の差分(例えば、コントラストカーブCC3の被写体距離S5におけるコントラスト値の所定の差分ΔCに対する被写体距離の差分ΔS3)が大きくなってしまい、十分な被写体距離の検出精度を確保することができない。一方、その重畳する範囲が裾野側からよりピーク位置側に近付いた場合は、コントラスト値の所定の差分ΔCに対する被写体距離の差分(例えば、コントラストカーブCC4の被写体距離S5におけるコントラスト値の所定の差分ΔCに対する被写体距離の差分ΔS4)を小さくすることができ、十分な被写体距離の検出精度を確保することができる。
Decreasing the amount of movement of the
図5に示すステップS306においてフォーカスレンズ113の移動量を減少させる段階では、すでにステップS304において、DFD演算により算出された被写体距離(合焦位置を示す情報)が所定の範囲内であること(点拡がり関数PSF2〜PSF15に対応すること)を満たしている。これは、図6に示すコントラストカーブCC3の被写体距離S5におけるコントラスト値C1が示すように、ステップS302で取得する参照画像PB(ステップS309におけるDFD演算では観測画像PA)における、目的の被写体に対するコントラスト値が、裾野付近よりは比較的ピーク位置側にあることを示している。したがって、図5及び図6に示すコントラストカーブCC4のように、ステップS308で取得する参照画像PBにおける、目的の被写体に対するコントラスト値を、よりピーク位置側に近づけることで、ステップS309のDFD演算のときに被写体距離の検出精度を高めることができる。このように、ステップS309のDFD演算のときの観測画像PAは、すでに裾野付近よりピーク位置側にあるため、フォーカスレンズ113の移動量を減少させることで、参照画像PBにおける、目的の被写体のコントラスト値を、更にピーク位置側に漸近させることができる。図6に示す例では、フォーカスレンズ113をより小さい第3の移動量D3で位置P4に移動させることにより、被写体距離S5においてより有意なコントラスト値C2を検出することができる。これにより、DFD演算結果に基づく合焦動作の精度を向上させることができる。
In the step of reducing the movement amount of the
〔3.効果等〕
上記のように、デジタルビデオカメラ100は、フォーカスレンズ113と、フォーカスレンズ113を介して形成された被写体像を撮像し、画像データを生成するCMOSイメージセンサ140と、フォーカスレンズ113が第1の位置にあるときにCMOSイメージセンサ140によって生成された第1の画像データ(観測画像PA)と、フォーカスレンズ113が第1の位置から第1の移動量を移動した第2の位置にあるときにCMOSイメージセンサ140によって生成された第2の画像データ(参照画像PB)とに基づいて、合焦位置に関する値を算出する画像処理部160と、複数の被写体距離に対応する複数の点拡がり関数を予め格納するメモリと、メモリに格納された多数の点拡がり関数から必要な複数の点拡がり関数を選択して画像処理部160に通知する制御部180と、を備える。画像処理部160は、第1の画像データと選択された複数の点拡がり関数を用いた演算により第3の画像データを作成し、第2の画像データと第3の画像データを用いて合焦位置に関する値を算出する。これにより、すでに算出した合焦位置に関する値の精度を更に高めることができる。
[3. Effect etc.)
As described above, in the
一般に、コントラストオートフォーカス方式と呼ばれているオートフォーカス方式では、あるフォーカスレンズ位置における撮像画像の高周波成分を抽出しているのみであり、それだけでは合焦位置はわからない。一方、DFD演算を用いたオートフォーカス方式では、被写体距離に対応して合焦位置の結果はすでに算出されている。本開示のデジタルビデオカメラ100では、DFD演算を用いてすでに合焦位置が算出されているが、フォーカスレンズ113の移動量を変化させることにより、合焦位置の算出結果の精度を更に高めることができる。
In general, in an autofocus method called a contrast autofocus method, only a high-frequency component of a captured image at a certain focus lens position is extracted, and the focus position cannot be determined by that alone. On the other hand, in the autofocus method using the DFD calculation, the result of the focus position has already been calculated corresponding to the subject distance. In the
また、制御部180は、合焦位置に関する値が、所定の範囲内にあるか否かを判定する。そして、制御部180は、合焦位置に関する値が、所定の範囲内にないと判定したときは、次回のフォーカスレンズ113の移動量を第1の移動量から増加させた第2の移動量へと変化させ、再度合焦位置に関する値を算出する。これにより、合焦位置に関する値が、所定の範囲内に収まるように、より確実に合焦動作を行うことができる。
In addition, the
一方、制御部180は、合焦位置に関する値が、所定の範囲内にあると判定したときは、次回のフォーカスレンズ113の移動量を第1の移動量から減少させた第3の移動量へと変化させ、再度合焦位置に関する値を算出する。これにより、すでに所定の範囲内に収まっている合焦位置に関する値の精度を、より高めることができる。
On the other hand, when it is determined that the value related to the in-focus position is within the predetermined range, the
そして、制御部180は、再度算出した合焦位置に関する値が、第2の所定の範囲にある(所定の分解能を満たす)と判定したときに、当該算出した合焦位置へとフォーカスレンズ113を移動させる。これにより、精度の高い合焦動作を実現することができる。
Then, when the
〔4.他の実施の形態〕
以上のように、本出願において開示する技術の例示として、実施の形態を説明した。しかしながら、本開示における技術は、これに限定されず、適宜、変更、置き換え、付加、省略などを行った実施の形態にも適用可能である。また、上記実施の形態で説明した各構成要素を組み合わせて、新たな実施の形態とすることも可能である。
[4. Other Embodiments]
As described above, the embodiments have been described as examples of the technology disclosed in the present application. However, the technology in the present disclosure is not limited to this, and can also be applied to an embodiment in which changes, replacements, additions, omissions, and the like are appropriately performed. Moreover, it is also possible to combine each component demonstrated in the said embodiment and it can also be set as a new embodiment.
上記の実施の形態において、点拡がり関数は内部メモリ240に用意されている。本発明はこれに限定されず、点拡がり関数は、例えば画像処理部160内のメモリに用意されていてもよい。また、実施の形態におけるデジタルビデオカメラ100では、16個の点拡がり関数が選択されるが、Depthマップの階調の数に応じて、選択される点拡がり関数の数は16個以上であっても16個未満であってもよい。
In the above embodiment, the point spread function is prepared in the
実施の形態における撮像装置であるデジタルビデオカメラは非レンズ交換式のデジタルビデオカメラであるが、これに限定されず、レンズ交換式のデジタルビデオカメラであってもよい。 The digital video camera which is the imaging device in the embodiment is a non-lens interchangeable digital video camera, but is not limited thereto, and may be a lens interchangeable digital video camera.
上記実施の形態では、観測画素SAに、点拡がり関数PSF1〜PSF16を畳み込んだ結果を、参照画素SBと照合するようにしたが、本開示はこれに限定されない。観測画素SAと参照画素SBとから、奥行が幅広く焦点が合った全焦点画像を一旦生成し、この全焦点画像に点拡がり関数PSF1〜PSF16を畳み込んだ結果を、参照画素SBと照合するようにしてもよい。全焦点画像によれば、奥行が幅広く焦点が合っているため、奥行に幅広くコントラスト情報を有することになり、DFD演算のS/Nを向上させることができる。そのため、合焦位置の算出精度をより向上させることができる。更には、この全焦点画像に点拡がり関数PSF1〜PSF16を畳み込んだ結果を、参照画素SBでなく、観測画素SAと照合するようにしてもよい。観測画素SAと、参照画素SBとでは、画像を撮像したときのフォーカスレンズの位置が互いに異なるため、被写体に対して異なるコントラスト情報を有する。そのため、観測画素SAでは、コントラスト情報を有する被写体であっても、参照画素SBでは、コントラスト情報を有しない被写体が発生し得る。このような場合に、この全焦点画像に点拡がり関数PSF1〜PSF16を畳み込んだ結果を、観測画素SAと照合することで、DFD演算によって合焦位置を判定可能なダイナミックレンジを拡げることができる。 In the above embodiment, the result of convolution of the point spread functions PSF1 to PSF16 into the observation pixel SA is collated with the reference pixel SB, but the present disclosure is not limited to this. From the observation pixel SA and the reference pixel SB, an omnifocal image whose depth is wide and in focus is once generated, and the result obtained by convolving the point spread functions PSF1 to PSF16 with the omnifocal image is collated with the reference pixel SB. It may be. According to the omnifocal image, since the depth is widely focused, the depth has a wide range of contrast information, and the S / N of the DFD calculation can be improved. Therefore, the calculation accuracy of the in-focus position can be further improved. Furthermore, the result of convolving the point spread functions PSF1 to PSF16 with the omnifocal image may be collated with the observation pixel SA instead of the reference pixel SB. The observation pixel SA and the reference pixel SB have different contrast information with respect to the subject because the positions of the focus lenses are different from each other when an image is captured. Therefore, even if the observation pixel SA is a subject having contrast information, a subject having no contrast information may occur in the reference pixel SB. In such a case, the dynamic range in which the in-focus position can be determined by the DFD calculation can be expanded by collating the result obtained by convolving the point spread functions PSF1 to PSF16 with the omnifocal image with the observation pixel SA. .
以上のように、本開示における技術の例示として、実施の形態を説明した。そのために、添付図面および詳細な説明を提供した。 As described above, the embodiments have been described as examples of the technology in the present disclosure. For this purpose, the accompanying drawings and detailed description are provided.
したがって、添付図面および詳細な説明に記載された構成要素の中には、課題解決のために必須な構成要素だけでなく、上記技術を例示するために、課題解決のためには必須でない構成要素も含まれ得る。そのため、それらの必須ではない構成要素が添付図面や詳細な説明に記載されていることをもって、直ちに、それらの必須ではない構成要素が必須であるとの認定をするべきではない。 Accordingly, among the components described in the accompanying drawings and the detailed description, not only the components essential for solving the problem, but also the components not essential for solving the problem in order to illustrate the above technique. May also be included. Therefore, it should not be immediately recognized that these non-essential components are essential as those non-essential components are described in the accompanying drawings and detailed description.
また、上述の実施の形態は、本開示における技術を例示するためのものであるから、請求の範囲またはその均等の範囲において種々の変更、置き換え、付加、省略などを行うことができる。 Moreover, since the above-mentioned embodiment is for demonstrating the technique in this indication, a various change, substitution, addition, abbreviation, etc. can be performed in a claim or its equivalent range.
本開示における撮像装置は、デジタルビデオカメラや、デジタルスチルカメラや、カメラ機能付携帯電話や、カメラ機能付スマートフォン等に適用できる。 The imaging device according to the present disclosure can be applied to a digital video camera, a digital still camera, a mobile phone with a camera function, a smartphone with a camera function, and the like.
100 デジタルビデオカメラ(撮像装置)
110 光学系
111 ズームレンズ
112 手振れ補正レンズ
113 フォーカスレンズ
114 絞り
120 レンズ駆動部
140 CMOSイメージセンサ(撮像センサ)
150 A/Dコンバータ
160 画像処理部
170 バッファ
180 制御部
190 カードスロット
200 メモリカード
210 操作部材
220 表示モニタ
240 内部メモリ
250 角速度センサ
100 Digital video camera (imaging device)
DESCRIPTION OF
150 A /
Claims (2)
前記フォーカスレンズを介して形成された被写体像を撮像し、画像データを生成する撮像部と、
前記フォーカスレンズが第1の位置にあるときに前記撮像部によって生成された第1の画像データと、前記フォーカスレンズが前記第1の位置から第1の移動量を移動した第2の位置にあるときに前記撮像部によって生成された第2の画像データとに基づいて、合焦位置に関する値を算出する画像処理部と、
複数の被写体距離に対応する複数の点拡がり関数を予め格納するメモリと、
前記メモリに格納された多数の点拡がり関数から必要な複数の点拡がり関数を選択して前記画像処理部に通知する制御部と、を備え、
前記画像処理部は、前記第1の画像データと前記選択された複数の点拡がり関数を用いた演算により第3の画像データを作成し、前記第2の画像データと前記第3の画像データを用いて前記合焦位置に関する値を算出する、撮像装置。 A focus lens,
An imaging unit that captures a subject image formed via the focus lens and generates image data;
The first image data generated by the imaging unit when the focus lens is at the first position and the second position where the focus lens has moved the first movement amount from the first position. An image processing unit that calculates a value related to the in-focus position based on the second image data generated by the imaging unit at times.
A memory for storing a plurality of point spread functions corresponding to a plurality of subject distances;
A control unit that selects a plurality of necessary point spread functions from a number of point spread functions stored in the memory and notifies the image processing unit;
The image processing unit creates third image data by calculation using the first image data and the selected plurality of point spread functions, and the second image data and the third image data are generated. An imaging apparatus that calculates a value related to the in-focus position.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015127157A JP5866570B2 (en) | 2013-11-19 | 2015-06-25 | Imaging device |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013238475 | 2013-11-19 | ||
JP2013238475 | 2013-11-19 | ||
JP2015127157A JP5866570B2 (en) | 2013-11-19 | 2015-06-25 | Imaging device |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014217960A Division JP5866493B2 (en) | 2013-11-19 | 2014-10-27 | Imaging device |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2015200908A true JP2015200908A (en) | 2015-11-12 |
JP5866570B2 JP5866570B2 (en) | 2016-02-17 |
Family
ID=54552147
Family Applications (4)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015127157A Active JP5866570B2 (en) | 2013-11-19 | 2015-06-25 | Imaging device |
JP2015127155A Active JP5866569B2 (en) | 2013-11-19 | 2015-06-25 | Imaging device |
JP2015127156A Active JP5866537B2 (en) | 2013-11-19 | 2015-06-25 | Imaging device |
JP2015224366A Pending JP2016057633A (en) | 2013-11-19 | 2015-11-17 | Imaging device |
Family Applications After (3)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015127155A Active JP5866569B2 (en) | 2013-11-19 | 2015-06-25 | Imaging device |
JP2015127156A Active JP5866537B2 (en) | 2013-11-19 | 2015-06-25 | Imaging device |
JP2015224366A Pending JP2016057633A (en) | 2013-11-19 | 2015-11-17 | Imaging device |
Country Status (1)
Country | Link |
---|---|
JP (4) | JP5866570B2 (en) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7002050B2 (en) | 2018-07-11 | 2022-02-10 | パナソニックIpマネジメント株式会社 | Imaging device |
JP6687210B1 (en) * | 2019-10-03 | 2020-04-22 | 株式会社ザクティ | Imaging device |
Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH01167610A (en) * | 1987-11-27 | 1989-07-03 | Univ New York State | Method and apparatus for determining distance between surface section and camera for 3-d space scene |
JP2000152064A (en) * | 1998-11-16 | 2000-05-30 | Ricoh Co Ltd | Automatic focus controller |
JP2006323172A (en) * | 2005-05-19 | 2006-11-30 | Olympus Corp | Focusing information obtaining apparatus |
JP2007139893A (en) * | 2005-11-15 | 2007-06-07 | Olympus Corp | Focusing detection device |
JP2009069830A (en) * | 2007-09-14 | 2009-04-02 | Samsung Electronics Co Ltd | Auto-focus method and device of image-capturing apparatus |
JP2011128623A (en) * | 2009-12-21 | 2011-06-30 | Sony Corp | Autofocus with confidence measure |
JP2012058352A (en) * | 2010-09-06 | 2012-03-22 | Canon Inc | Focus adjustment device and imaging device |
WO2012101719A1 (en) * | 2011-01-27 | 2012-08-02 | パナソニック株式会社 | Three-dimensional imaging device and three-dimensional imaging method |
JP2013044844A (en) * | 2011-08-23 | 2013-03-04 | Panasonic Corp | Image processing device and image processing method |
WO2013094552A1 (en) * | 2011-12-22 | 2013-06-27 | ソニー株式会社 | Imaging device, method for controlling same, and program |
-
2015
- 2015-06-25 JP JP2015127157A patent/JP5866570B2/en active Active
- 2015-06-25 JP JP2015127155A patent/JP5866569B2/en active Active
- 2015-06-25 JP JP2015127156A patent/JP5866537B2/en active Active
- 2015-11-17 JP JP2015224366A patent/JP2016057633A/en active Pending
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH01167610A (en) * | 1987-11-27 | 1989-07-03 | Univ New York State | Method and apparatus for determining distance between surface section and camera for 3-d space scene |
JP2000152064A (en) * | 1998-11-16 | 2000-05-30 | Ricoh Co Ltd | Automatic focus controller |
JP2006323172A (en) * | 2005-05-19 | 2006-11-30 | Olympus Corp | Focusing information obtaining apparatus |
JP2007139893A (en) * | 2005-11-15 | 2007-06-07 | Olympus Corp | Focusing detection device |
JP2009069830A (en) * | 2007-09-14 | 2009-04-02 | Samsung Electronics Co Ltd | Auto-focus method and device of image-capturing apparatus |
JP2011128623A (en) * | 2009-12-21 | 2011-06-30 | Sony Corp | Autofocus with confidence measure |
JP2012058352A (en) * | 2010-09-06 | 2012-03-22 | Canon Inc | Focus adjustment device and imaging device |
WO2012101719A1 (en) * | 2011-01-27 | 2012-08-02 | パナソニック株式会社 | Three-dimensional imaging device and three-dimensional imaging method |
JP2013044844A (en) * | 2011-08-23 | 2013-03-04 | Panasonic Corp | Image processing device and image processing method |
WO2013094552A1 (en) * | 2011-12-22 | 2013-06-27 | ソニー株式会社 | Imaging device, method for controlling same, and program |
Also Published As
Publication number | Publication date |
---|---|
JP5866570B2 (en) | 2016-02-17 |
JP5866569B2 (en) | 2016-02-17 |
JP2016057633A (en) | 2016-04-21 |
JP5866537B2 (en) | 2016-02-17 |
JP2015207019A (en) | 2015-11-19 |
JP2015200907A (en) | 2015-11-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5866493B2 (en) | Imaging device | |
JP5895270B2 (en) | Imaging device | |
JP6405531B2 (en) | Imaging device | |
KR20190021138A (en) | Electronic device which stores depth information associating with image in accordance with Property of depth information acquired using image and the controlling method thereof | |
JP2017046355A (en) | Imaging apparatus | |
JP6357646B2 (en) | Imaging device | |
JP2016018116A (en) | Focus adjustment device, focus adjustment method and program, and imaging apparatus | |
JP6326631B2 (en) | Imaging device | |
JP2016167801A (en) | Imaging device, imaging method and imaging program | |
JP6564284B2 (en) | Image processing apparatus and image processing method | |
JP5866570B2 (en) | Imaging device | |
TWI693828B (en) | Image-capturing device and method for operating the same | |
JP6089232B2 (en) | Imaging device | |
JP6603892B2 (en) | Imaging device | |
JP2020008785A (en) | Imaging apparatus | |
KR101700360B1 (en) | Digital photographing apparatus, method for controlling the apparatus, and medium for recording the method | |
JP2011071712A (en) | Stereoscopically imaging device and method | |
WO2021065065A1 (en) | Imaging device | |
JP2008026801A (en) | Optical device and control method thereof | |
JP6724395B2 (en) | Image display control device, image display control method, and image display control program | |
US20190045123A1 (en) | Imaging apparatus and control method thereof | |
JP2020197599A (en) | Image capturing device and control method therefor |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20150804 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20150915 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20151027 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20151109 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 5866570 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |