JP5698555B2 - 撮像素子、撮像装置 - Google Patents

撮像素子、撮像装置 Download PDF

Info

Publication number
JP5698555B2
JP5698555B2 JP2011032008A JP2011032008A JP5698555B2 JP 5698555 B2 JP5698555 B2 JP 5698555B2 JP 2011032008 A JP2011032008 A JP 2011032008A JP 2011032008 A JP2011032008 A JP 2011032008A JP 5698555 B2 JP5698555 B2 JP 5698555B2
Authority
JP
Japan
Prior art keywords
pixel
pixels
focus detection
pupil
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2011032008A
Other languages
English (en)
Other versions
JP2012175145A (ja
Inventor
眞悟 加藤
眞悟 加藤
杉本 行弘
行弘 杉本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2011032008A priority Critical patent/JP5698555B2/ja
Publication of JP2012175145A publication Critical patent/JP2012175145A/ja
Application granted granted Critical
Publication of JP5698555B2 publication Critical patent/JP5698555B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、ベイヤー配列された3色の画素を有し画素加算読み出しが可能な撮像素子と、該撮像素子を用いた撮像装置と、に関する。
近年、被写体像を撮像するための撮像素子上に、撮影用の画素(撮影画素)とは別に焦点検出用の画素(焦点検出画素)を設けて、別途の位相差AF用センサを用いることなく位相差AFを行うことができるようにする技術が提案されている。
一方、撮像しながら、その撮影画像を撮像装置の背面に設けられたLCDパネル等の表示装置に表示させるライブビュー機能は、60フレーム/秒の撮像フレームレートとLCDパネルのリフレッシュレートがあれば滑らかな動きの動画表示が得られることが知られている。しかし、近年のデジタルカメラ等には例えば12M(メガ)ピクセルの撮像素子が搭載されており、こうした多画素の撮像素子から全画素を読み出そうとしても、例えば1秒当たり数フレーム程度のフレームレートしか得ることができず、滑らかな動きのライブビュー画像が得られるとは言い難い。
そこで、近年の撮像装置では、撮像素子から読み出す画素数を減少させることにより、フレームレートを上げる技術を採用することが一般的となっている。こうした技術の代表例としては、画素間引き読み出しと、画素加算読み出しとが知られている。
前者の画素間引き読み出しは、例えば、複数ラインに1ラインの割合で、かつ1ライン上において複数画素に1画素の割合で、選択した画素のみを読み出すことにより、読み出す画素数を減少させる技術である。
また、後者の画素加算読み出しは、水平方向および/または垂直方向に隣接する同色の画素同士の画素信号を撮像素子内において加算し、撮像素子から読み出す画素数を減少させる技術である。
これら2種類の技術を比較すると、画素間引き読み出しには、フレームレートを上げたことによる露光時間短縮で光電変換量が減りS/N比が低下するという課題と、画素間引きしたことによるサンプリング折り返しでモアレが出るという課題と、があるために、画素間引き読み出しよりも画素加算読み出しの方が画質的に優れていると考えられる。
上述した焦点検出画素を備えた撮像素子を用いて、瞳分割位相差方式の焦点検出を行う場合にも、上述したライブビューと同様に画素加算読み出しの技術を導入することにより、AF速度を向上する効果や、ライブビューと同時にAFを行い得る効果などを期待することができる。
このような焦点検出画素を備えた撮像素子において、画素加算読み出しを行うようにした技術として、例えば特開2009−130581号公報に記載の技術が挙げられる。該公報に記載の技術の概要を、図20および図21を参照して説明する。ここに、図20は従来の撮像素子上に設けられた焦点検出画素の配置を示す図、図21は従来の撮像素子における画素加算読み出しの方法を説明するための図である。
図20に示すように、撮影画素が縦横に配列された撮像素子の、あるライン上に、結像光学系の射出瞳の第1の瞳領域(ここに、第1の瞳領域を瞳Aということにする)を通過した光束を受光する画素(瞳A焦点検出画素)と、射出瞳の第2の瞳領域(同様に、第2の瞳領域を瞳Bということにする)を通過した光束を受光する画素(瞳B焦点検出画素)と、を1画素の撮影画素を挟み込みながら(つまり、1画素置きに)交互に配置する。ここに、1画素置きに配置する理由は、図20においてカラーフィルタがベイヤー配列された撮像素子を想定しており、同一ライン上における同色画素は1画素置きに存在するためである。
この図20に示したような撮像素子から加算読出を行う場合には、図21に示すように行う。ここに図21は、撮像素子が原色ベイヤー配列の撮像素子であって、青(B)画素が配列されたライン上のG画素(Gb画素)の位置に、瞳A焦点検出画素Saおよび瞳B焦点検出画素Sbが交互に配設された例を示している。
まず、撮影画素のみが配置されたラインについては、R画素とG画素とを隣接する同色毎にそれぞれ3画素加算して読み出す。一方、焦点検出画素が配置されたラインについては、瞳A焦点検出画素Saと瞳B焦点検出画素Sbとを隣接する同色(同一種類)毎にそれぞれ2画素加算して読み出し、青(B)画素については読み出しを行わない。
このような読み出しにより、瞳Aおよび瞳Bの焦点検出画素データを読み出すことが可能となっている。そして、読み出される総画素数が全画素数の1/3になるために、全画素を読み出す場合に比して3倍のフレームレートを達成することが可能になる利点がある。
特開2009−130581号公報
しかしながら、上記特開2009−130581号公報に記載の技術では、焦点検出画素が配置されたラインには撮影画素であるB画素が存在するにも関わらず、該ラインからは撮影画素の画素データが読み出されることがない。従って、焦点検出画素が配置されたラインからは画像データを得ることができず、近傍の他のラインの画像データを用いて補間等を行うしかないが、その補間精度も低下してしまうことになる。
加えて、焦点検出画素が配置されたラインと配置されていないラインとでは、加算する画素位置の組み合わせが異なるために、画素加算可能な一般的な撮像素子(本発明に係る図6参照)を利用することができず、専用の撮像素子や駆動回路、信号処理回路、製造ライン等を開発することが必要となり、費用が嵩むことになってしまう。
さらに、該公報に記載の技術では、焦点検出画素が配置されたラインからは撮影画素データが得られないために、該ラインの数を最小化する必要がある。このために、瞳A焦点検出画素と瞳B焦点検出画素とは同一ライン上に配置されている。すなわち、該公報に記載の技術には、焦点検出画素の配置条件に制限事項が存在し、瞳A焦点検出画素と瞳B焦点検出画素とを異なる行に配置するといった自由な配置を行うことができない。つまり、焦点検出画素を斜め方向に配置すると、水平方向のエッジパターンと垂直方向のエッジパターンとの何れも検出することが可能となる利点があることが知られているが、該公報に記載の技術ではこのような利点を享受することができない。
本発明は上記事情に鑑みてなされたものであり、焦点検出画素の配置が比較的自由であり、特殊な読み出しを要することのない焦点検出可能な撮像素子と、該撮像素子を用いた撮像装置と、を提供することを目的としている。
上記の目的を達成するために、本発明のある態様による撮像素子は、ベイヤー配列された3色の画素を有し、一水平ライン上において一連に隣接する同一色画素同士のn(nは2以上の整数)画素加算を上限とする画素加算読み出しが可能な撮像素子において、一水平ライン上において一連に隣接するn個のX(ここに、Xはベイヤー配列された3色の内の何れか1色)画素に相当する画素位置に配設された焦点検出画素でなる第1の画素群を単位として、複数の単位に対して、各単位に含まれる各焦点検出画素に、該焦点検出画素の中心から一方向へ偏心して設けられた第1の偏心マスクと、上記第1の画素群が設けられた水平ラインと、同一の、またはX画素が存在する水平ラインとして隣接する、一水平ライン上において一連に隣接するn個のX画素に相当する画素位置に配設された焦点検出画素でなり、かつ該第1の画素群とは焦点検出画素を共有せず、かつ水平ライン方向における一方向側の位置が該第1の画素群と対をなして隣接する第2の画素群を単位として、複数の単位に対して、各単位に含まれる各焦点検出画素に、該画素の中心から他方向へ偏心して設けられた第2の偏心マスクと、を具備し、上記一単位の第1の偏心マスクと、上記一単位の第2の偏心マスクとは、何れも、加算可能な画素数が1種類であるときには該加算可能な画素数の、2倍の画素数の上記水平ライン方向の画素列を基本周期として、該基本周期の1以上の整数倍を周期として配置され、加算可能な画素数が複数種類であるときには全種類の該加算可能な画素数の最小公倍数の、2倍の画素数の上記水平ライン方向の画素列を基本周期として、該基本周期の1以上の整数倍を周期として配置されている。
また、本発明の他の態様による撮像装置は、上述の撮像素子と、上記撮像素子上に被写体像を形成する結像光学系と、上記第1の画素群からの出力により形成される第1の画像と、上記第2の画素群からの出力により形成される第2の画像と、の位相差を検出する位相差検出部と、を具備したものである。
本発明の撮像素子、撮像装置によれば、焦点検出可能でありながら、焦点検出画素の配置が比較的自由であり、特殊な読み出しを要することがない。
本発明の実施形態1における撮像装置の構成を示すブロック図。 上記実施形態1における位相差検出部の構成を示すブロック図。 上記実施形態1における撮影画素および焦点検出画素の第1の構成例を示す図。 上記実施形態1における撮影画素および焦点検出画素の第2の構成例を示す図。 上記実施形態1における撮影画素および焦点検出画素の第3の構成例を示す図。 上記実施形態1において、撮像素子における撮影画素のみで構成されるラインの水平3画素加算読み出しを説明するための図。 上記実施形態1において、撮像素子における焦点検出画素を含むラインの水平3画素加算読み出しを説明するための図。 上記実施形態1において、撮像素子上における焦点検出画素および撮影画素の画素構成を示す図。 上記実施形態1において、全画素読み出し時に画素種別信号に基づき瞳分離部により抽出される焦点検出画素を示す図。 上記実施形態1の画像処理部において全画素読み出し時に撮影画像として処理される画素信号を示す図。 上記実施形態1において、全画素読み出し時に瞳分離部により抽出された焦点検出画素の内、位相差算出部における相関演算に用いられる焦点検出画素を示す図。 上記実施形態1において、2画素加算読み出し時に撮像素子から出力される画像信号の画素構成を示す図。 上記実施形態1において、焦点検出画素の画素データを含む2画素加算画素を抽出したときの様子を示す図。 上記実施形態1の画像処理部において2画素加算読み出し時に撮影画像として処理される画素信号を示す図。 上記実施形態1において、2画素加算読み出し時に位相差算出部における相関演算に用いられる焦点検出画素を示す図。 上記実施形態1において、3画素加算読み出し時に撮像素子から出力される画像信号の画素構成を示す図。 上記実施形態1において、3画素加算読み出し時に位相差算出部における相関演算に用いられる焦点検出画素を示す図。 上記実施形態1の画像処理部において3画素加算読み出し時に撮影画像として処理される画素信号を示す図。 本発明の実施形態2において、撮像素子における焦点検出画素を含むラインの水平3画素加算読み出しを説明するための図。 従来の撮像素子上に設けられた焦点検出画素の配置を示す図。 従来の撮像素子における画素加算読み出しの方法を説明するための図。
以下、図面を参照して本発明の実施の形態を説明する。
[実施形態1]
図1から図18は本発明の実施形態1を示したものであり、図1は撮像装置の構成を示すブロック図である。
本実施形態の撮像装置は、例えばAF機能を有するデジタルカメラ等として構成されたものであり、図1に示すように、結像光学系1と、撮像部2と、位相差検出部6と、フォーカス制御部7と、画像処理部10と、を備えている。
結像光学系1は、光学的な被写体像を撮像部2内の後述する撮像素子3上に結像するための対物光学系であり、図示しない光学絞りや、焦点位置を調節するためのフォーカスレンズを含んで構成されている。
撮像部2は、撮像素子3と、撮像素子駆動部4と、画素種別信号出力部5と、を備えている。
撮像素子3は、結像光学系1により結像された光学的な被写体像を光電変換して画像信号を生成し出力するものである。この撮像素子3は、被写体像を画素単位で光電変換するようになっており、複数の画素が例えば図8に示すように撮像面上に2次元マトリクス状に配列されている。ここに、撮像素子3上に設けられた画素としては、撮影用の画素(撮影画素)と、焦点検出用の画素(焦点検出画素)とがある。そして、本実施形態においては、撮影画素が3色の画素(ここでは特に、原色系のR画素とG画素とB画素)でなり、これら3色の撮影画素がベイヤー配列されていることを想定している。さらに、本実施形態においては、焦点検出画素が、結像光学系1の射出瞳を異なる2つの瞳領域に区分した(すなわち、瞳分割した)内の、第1の瞳領域(ここに、第1の瞳領域を瞳Aということにする)と第2の瞳領域(同様に、第2の瞳領域を瞳Bということにする)とを各通過した光束を受光する瞳A焦点検出画素と瞳B焦点検出画素とでなることを想定している。従って、被写体上のある点から発せられた光は、瞳Aを通過して瞳A焦点検出画素に到達する一方、瞳Bを通過して瞳B焦点検出画素に到達することになる。そして、この撮像素子3は、一水平ライン上において一連に隣接する同一色画素同士のn(nは2以上の整数であり、本実施形態においては後述するようにn=3)画素加算を上限とする画素加算が可能であり、さらに、垂直方向においても画素加算が可能であって、画素加算された結果を読み出すことができるように構成されたものとなっている。
ここで、図3〜図5を参照して、撮像素子3上に構成された撮影画素および焦点検出画素の構成例を説明する。
まず、図3は、撮影画素および焦点検出画素の第1の構成例を示す図である。
撮影画素30と瞳A焦点検出画素30Aと瞳B焦点検出画素30Bとは、何れも、半導体基板31内に不純物をドープして形成されたフォトダイオード32と、半導体基板31上に形成された遮光マスク33およびマイクロレンズ35と、を有しており、深部から表層へ向かって、光電変換部層PD、遮光マスク層SM、マイクロレンズ層MLが形成された積層構造となっている。
遮光マスク33には、フォトダイオード32に各対応する位置に開口34が形成されている。そして、マイクロレンズ35は、フォトダイオード32と開口34とを結ぶ線上に配置されている。このとき、撮影画素30はフォトダイオード32の中心と結像光学系1の射出瞳の中心とを結ぶ線(1点鎖線で示す線)上にマイクロレンズ35の中心が位置するように構成されているのに対して、瞳A焦点検出画素30Aは該線からマイクロレンズ35Aの中心が一方向にずれて位置するように構成され、瞳B焦点検出画素30Bは該線からマイクロレンズ35Bの中心が他方向にずれて位置するように構成されている。
こうして、図3に示す例においては、マイクロレンズ35A,35Bの位置を遮光マスク33の開口34に対してずらすことにより、画素の中心から一方向および他方向へ偏心して設けられた第1および第2の偏心マスクを構成し、瞳A焦点検出画素30Aおよび瞳B焦点検出画素30Bを形成している。
次に、図4は、撮影画素および焦点検出画素の第2の構成例を示す図である。
この図4に示す例においても、各画素の積層構造は図3に示したものと同様であり、撮影画素30の構成も図3に示したものと同様である。ただし、この図4に示す例においては、瞳A焦点検出画素30Aと瞳B焦点検出画素30Bとの何れについても、マイクロレンズ35は、その中心が、フォトダイオード32の中心と結像光学系1の射出瞳の中心とを結ぶ線上に位置するように構成されている。さらに、瞳A焦点検出画素30Aはマイクロレンズ35を通過した光束の一方側を遮光するように開口34Aが形成され、瞳B焦点検出画素30Bはマイクロレンズ35を通過した光束の他方側を遮光するように開口34Bが形成されている。
こうして、図4に示す例においては、遮光マスク33に形成された開口34A,34Bの範囲を一方側および他方側に制限することにより、画素の中心から一方向および他方向へ偏心して設けられた第1および第2の偏心マスクを構成し、瞳A焦点検出画素30Aおよび瞳B焦点検出画素30Bを形成している。
続いて、図5は、撮影画素および焦点検出画素の第3の構成例を示す図である。
この図5に示す撮像素子は、深部から表層へ向かって、光電変換部層PD、配線層WL、マイクロレンズ層MLが形成された積層構造となっている。そして、半導体製造プロセスによりこのような積層構造に形成された撮像素子に対して、半導体製造プロセスによることなく形成された光学部材である平板状の遮光マスクガラス37を貼設することにより、遮光マスクガラス層MGをさらに設けた構造となっている。
ここに、配線層WLには遮光機能を備えた配線パターン36が形成され、この配線パターン36はフォトダイオード32に各対応する位置に開口36aが形成されている。
また、遮光マスクガラス37の例えばマイクロレンズ35に対向する側の面には、開口39,39A,39Bを有する遮光マスク38が形成されている。ただし、撮影画素30に対して形成された開口39は結像光学系1からマイクロレンズ35へ入射する光束をけることがないように構成されているのに対して、瞳A焦点検出画素30Aに対して形成された開口39Aは結像光学系1からマイクロレンズ35へ入射する光束の一方側を遮光するように構成され、瞳B焦点検出画素30Bに対して形成された開口39Bは結像光学系1からマイクロレンズ35へ入射する光束の他方側を遮光するように構成されている。
こうして、図5に示す例においては、図3に示した遮光マスク33を、半導体製造プロセスによることなく形成された遮光マスクガラス37上の遮光マスク38として構成し、遮光マスク38に設けられた開口39A,39Bの範囲を一方側および他方側に制限することにより、画素の中心から一方向および他方向へ偏心して設けられた第1および第2の偏心マスクを構成して、瞳A焦点検出画素30Aおよび瞳B焦点検出画素30Bを形成している。このような構成によれば、半導体製造プロセスにより製造されるのは通常の撮像素子と同一となるために、半導体製造プロセスを変更する必要がなく、製造コストを低減することができる。加えて、新規の専用撮像素子の開発が不要となって開発コストの大幅な低減を図ることができるとともに、実績のある撮像素子3を使用することができ、安定した性能が得られる利点がある。また、半導体製造プロセスが終了した後の状態の撮像素子を、通常撮像素子と焦点検出機能付き撮像素子とに区別する必要がないために、管理コストを大幅に低減することも可能となる。
図1の説明に戻って、撮像素子駆動部4は、撮像素子3を駆動制御するものである。すなわち、撮像素子駆動部4は、全画素読出モード、水平2画素加算読出モード、水平3画素加算読出モード等の内の何れかの読出モードを撮像素子3に設定し、水平同期信号HDと垂直同期信号VDとを撮像素子3へ出力して、該撮像素子3上に上述したように配列された複数の画素を所定の順序で駆動するようになっている。従って、画像信号は、読み出された画素順に、画素単位の画像信号(画素データ)として撮像素子3から出力されることになる。さらに、撮像素子駆動部4は、撮像素子3へ設定した読出モードと、撮像素子3へ出力している水平同期信号HDおよび垂直同期信号VDとに基づいて、撮像素子3から読み出されている画素位置の情報である読出位置情報と読出モードとを画素種別信号出力部5へ出力すると共に、相関演算を行うタイミングを示す相関タイミング信号と読出モードとを位相差検出部6へ出力するようになっている。
ここに、撮像素子駆動部4から画素種別信号出力部5へ出力される読出位置情報は、例えば、マトリクス状に配列された複数の画素の位置に対応した、所定のタイミングを有するパルス信号である。
また、撮像素子駆動部4は、上述したような制御信号(垂直同期信号、水平同期信号、読出位置情報、読出モード、相関タイミング信号)のそれぞれを、図示しないレリーズボタンの操作に同期して出力するようになっている。
画素種別信号出力部5は、撮像素子駆動部4からの読出位置情報および読出モードに基づいて、撮像素子3から画素単位で順次出力される画像信号の種類を示す画素種別信号を生成し、位相差検出部6へ出力する回路である。ここに、画素種別信号は、焦点検出画素信号と瞳種別信号とを含んでいる。前者の焦点検出画素信号は、撮像素子3から出力されている画素データが、焦点検出画素の信号であることを示す信号である。また、後者の瞳種別信号は、撮像素子3から出力されている画素データが、瞳A焦点検出画素と瞳B焦点検出画素との何れの画素からのものであるかを示す信号である。画素種別信号出力部5は、焦点検出画素信号を、画像処理部10へも出力するようになっている。
この画素種別信号出力部5は、例えば、読出位置情報のパルス信号をカウントするカウンタと、読出モードに応じた焦点検出画素の位置に対応する値を保持する記憶部と、を備えて構成され、カウント値が所定値(すなわち、読出モードに応じた焦点検出画素の位置に対応する値)になったときに、焦点検出画素信号と瞳種別信号とを出力する。
位相差検出部6は、瞳A焦点検出画素に結像されている被写体像(第1の画素群からの出力により形成される第1の画像)と、瞳B焦点検出画素からの画像信号に結像されている被写体像(第2の画素群からの出力により形成される第2の画像)と、の位相差を検出するためのものである。ここに図2は、位相差検出部6の構成を示すブロック図である。
図2に示すように、位相差検出部6は、瞳分離部21と、相関演算制御部22と、位相差算出部23と、を備えている。
瞳分離部21には、撮像素子3からの画像信号と、画素種別信号出力部5からの焦点検出画素信号および瞳種別信号とが入力される。相関演算制御部22には、撮像素子駆動部4からの相関タイミング信号が入力される。位相差算出部23には、撮像素子駆動部4からの読出モードが入力される。
瞳分離部21は、入力された画素データが焦点検出画素の信号であることを焦点検出画素に基づき判定し、さらに、瞳A焦点検出画素と瞳B焦点検出画素との何れの信号であるかを瞳種別信号に基づき判別して、焦点検出画素であると判定されたときにのみ、判別結果に応じて分類した画素データを位相差算出部23へ出力する。
一方、相関演算制御部22は、相関タイミング信号に基づいて、相関演算を行うことができるだけの画素データが位相差算出部23に蓄積されたことを確認し、蓄積されたことが確認されたら空間位置をずらしながらの相関演算を位相差算出部23に行わせるための相関演算制御信号を位相差算出部23へ出力する。
位相差算出部23は、図示しないバッファを備えており、瞳分離部21からの瞳A焦点検出画素データと瞳B焦点検出画素データとをそれぞれ区分して蓄積する。ここに、撮像素子3上における測距点は、1点、もしくは複数点設けられるのが一般的であるが、各測距点内には、複数の瞳A焦点検出画素と、これら複数の瞳A焦点検出画素と対をなす複数の瞳B焦点検出画素とが配置されている。従って、1つの測距点に対する相関演算は、その1つの測距点内の焦点検出画素からの画素データが全て蓄積された後に行われ、このタイミングを示すのが上述した相関タイミング信号、ひいては相関演算制御信号である。そして、位相差算出部23は、相関演算制御信号に基づいて、バッファに蓄積されている複数の瞳A焦点検出画素データと複数の瞳B焦点検出画素データとに対して、相関値を算出する相関演算を行う。この相関演算は、相関演算制御信号に基づいて、瞳A焦点検出画素データと複数の瞳B焦点検出画素データとの相対的な空間位置をずらしながら、複数回に渡って行われる。さらに、位相差算出部23は、複数回の演算により得られた複数の相関値に基づいて、補間演算等も行いながら、最も高い相関値を示す空間位置ずれ量を算出する。このとき、この空間位置ずれ量は、読出モードに応じて変化する画素ピッチを考慮して算出される。位相差算出部23は、こうして算出された最も高い相関値を示す空間位置ずれ量を位相差として、位相差信号を後述するデフォーカス量算出部8へ出力する。
フォーカス制御部7は、デフォーカス量算出部8とフォーカスレンズ駆動部9とを備えており、位相差検出部6により検出される位相差を0に近付けるように結像光学系1を駆動するものである。
すなわち、デフォーカス量算出部8は、位相差検出部6からの位相差信号に基づきデフォーカス量を算出して、フォーカスレンズ駆動部9へ出力する。
フォーカスレンズ駆動部9は、デフォーカス量算出部8により算出されたデフォーカス量に応じて、撮像素子3に結像される被写体像が合焦状態となるように、結像光学系1内のフォーカスレンズを駆動する。これにより、撮像装置のAF機能が実現される。撮像装置には図示しない操作部(例えば、デジタルカメラのレリーズボタン)が設けられており、この操作部からの操作信号により撮影処理の実行が指示されると、その実行時に焦点検出が行われてAF機能が実行される。
画像処理部10は、撮影処理の実行により得られた撮像素子3からの撮像信号に対して画像処理を行うものである。この画像処理部10により行われる画像処理には、焦点検出画素の補間処理も含まれる。すなわち、焦点検出画素は、撮影用の画素として使用することができないために、画像処理部10に含まれる補間回路が、焦点検出画素の位置の画素データを、周囲の撮影画素の画素データを用いて補間して生成する処理を行う。この画像処理部10により生成された画像データは、図示しない記録媒体等に記録されたり、図示しない表示装置に表示されたりするようになっている。
次に、図6は、撮像素子3における撮影画素のみで構成されるラインの水平3画素加算読み出しを説明するための図である。
原色ベイヤー配列は、よく知られているように、2×2画素の画素ブロック内に、対角方向にG画素を2画素配置し、残る対角の一方にB画素を他方にR画素をそれぞれ配置して、このような画素ブロックを敷き詰めた構成となっている。そして、この図6に付した数字は、画素ブロックを区別するためのものとなっている。このような画素構成では、あるラインにはG画素とB画素のみが交互に配列され、このラインに隣接するラインにはR画素とG画素のみが交互に配列されることになる。そこで、B画素が配置されたラインのG画素をGbと記載し、R画素が配置されたラインのG画素をGrと記載している。
このような画素配置において、水平3画素加算読み出しは同一の水平ライン上において一連に隣接する3つの同一色画素同士の画素加算として行われる。すなわち、図6に示す例においては、Gb1+Gb2+Gb3により画素加算後のGb画素が生成され、B1+B2+B3により画素加算後のB画素が生成され、R1+R2+R3により画素加算後のR画素が生成され、Gr1+Gr2+Gr3により画素加算後のGr画素が生成される。この画素加算方法は、現在製造され販売されている撮像素子において広く普及している一般的な方法である。
なお、図6においては水平3画素加算読み出しを説明したが、本実施形態の撮像素子3は、加算読み出しとしてさらに、水平2画素加算読み出し、水平2画素および垂直2画素を加算した合計4画素加算読み出し、水平3画素および垂直3画素を加算した合計9画素加算読み出し、を行うことができることを想定している。ここに、水平2画素加算読み出しにおいては、2水平ライン毎に1水平ラインの割合で読み出す間引き読み出し、水平3画素加算読み出しにおいては、3水平ライン毎に1水平ラインの割合で読み出す間引き読み出し、をそれぞれ行い得るようにしても構わない。
このように本実施形態では、一水平ライン上において一連に隣接する同一色画素同士の3画素加算を上限とする画素加算読み出しが可能であることを想定している。
ただし、撮像素子3が、水平n(nは2以上の整数)画素加算および垂直m(mは2以上の整数)画素加算の合計n×m画素加算読み出し、を行うことができるより一般的な構成であっても、本実形態の構成は同様にして適用することができる。
続いて、図7は、撮像素子3における焦点検出画素を含むラインの水平3画素加算読み出しを説明するための図である。
この図7には、Gb画素に相当する位置に焦点検出画素が配置される例を示している(ただし、Gr画素に相当する位置に焦点検出画素が配置されても勿論構わない)。ここに、焦点検出画素は、Gb1〜Gb3に相当する位置に第1の画素群である瞳A焦点検出画素Sa1〜Sa3が配置され、Gb4〜Gb6に相当する位置に第1の画素群と対をなして隣接する第2の画素群である瞳B焦点検出画素Sb4〜Sb6が配置されている。このように瞳A焦点検出画素と瞳B焦点検出画素とは、撮像素子3の各測距点上に画素群の対として複数形成されており、1つの画素群が3画素で構成されているのは、本実施形態における撮像素子3の水平ライン上における画素加算読み出しが3画素加算を上限としているためである。
なお、より一般には、瞳A焦点検出画素を構成する第1の偏心マスクは、一水平ライン上において一連に隣接するn個のX(ここに、Xはベイヤー配列された3色の内の何れか1色)画素に相当する画素位置に配設された焦点検出画素でなる第1の画素群を単位として、複数の単位に対して、各単位に含まれる各焦点検出画素に、該焦点検出画素の中心から一方向へ偏心して設けられている。
また、瞳B焦点検出画素を構成する第2の偏心マスクは、第1の画素群が設けられた水平ラインと、同一の、またはX画素が存在する水平ラインとして隣接する、一水平ライン上において一連に隣接するn個のX画素に相当する画素位置に配設された焦点検出画素でなり、かつ該第1の画素群とは焦点検出画素を共有せず、かつ水平ライン方向における一方向側の位置が該第1の画素群と対をなして隣接する第2の画素群を単位として、複数の単位に対して、各単位に含まれる各焦点検出画素に、該画素の中心から他方向へ偏心して設けられている。
このような焦点検出画素を含む画素配置においても、水平3画素加算読み出しは、図6に示したような撮影画素のみで構成されるラインと全く同様に、同一の水平ライン上において一連に隣接する3つの同一色画素同士の画素加算として行われる。従って、図7に示す例においては、Sa1+Sa2+Sa3により画素加算後のSa画素が生成され、B1+B2+B3により画素加算後のB画素が生成され、R1+R2+R3により画素加算後のR画素が生成され、Gr1+Gr2+Gr3により画素加算後のGr画素が生成される。同様に、Sb4+Sb5+Sb6により画素加算後のSb画素が生成され、B4+B5+B6により画素加算後のB画素が生成され、R4+R5+R6により画素加算後のR画素が生成され、Gr4+Gr5+Gr6により画素加算後のGr画素が生成される。
このように、本実施形態の構成によれば、広く普及している一般的な画素加算方法によって、焦点検出画素の画素加算読み出しを行うことができる。
続いて、図8〜図10を参照して、全画素読み出しを行うときの焦点検出画素について説明する。なお、図8〜図18までは、画素配列が分かり易くなるように、水平方向の画素並びを示す数字を参照用に付している。
まず、図8は、撮像素子3上における焦点検出画素および撮影画素の画素構成を示す図である。
この図8に示した画素構成は、図7に示した画素構成と同様であるが、一単位の第1の偏心マスクを構成する3つの瞳A焦点検出画素Saと、一単位の第2の偏心マスクを構成する3つの瞳B焦点検出画素Sbとが、水平ライン方向に、24画素を周期として配置されている。
ここに、本実施形態においては、水平方向に可能な画素加算は、2画素加算および3画素加算の2種類である。そして、これらの画素数の最小公倍数は6であるために、この6の2倍の12画素を基本周期として、この基本周期の例えば2倍の24画素を周期として一単位の第1の偏心マスクおよび一単位の第2の偏心マスクを配置したものである。
このように、一単位の第1の偏心マスクと、一単位の第2の偏心マスクとは、何れも、加算可能な画素数が1種類であるときには該加算可能な画素数の、複数種類であるときには全種類の該加算可能な画素数の最小公倍数の、2倍の画素数の上記水平ライン方向の画素列を基本周期として、該基本周期の1以上の整数倍を周期として配置されるようになっている。
次に、図9は、全画素読み出し時に画素種別信号に基づき瞳分離部21により抽出される焦点検出画素を示す図である。
図示のように瞳分離部21は、画素種別信号出力部5からの焦点検出画素信号および瞳種別信号に基づいて、画像信号から瞳A焦点検出画素Saと瞳B焦点検出画素Sbとを分離する。
また、図10は、画像処理部10において、全画素読み出し時に撮影画像として処理される画素信号を示す図である。
画像処理部10は、画素種別信号出力部5からの焦点検出画素信号に基づいて、画像信号中に含まれる焦点検出画素の位置を取得し、焦点検出画素以外の画素、すなわち撮影画素の画素信号のみを撮影画像の基礎データとする。そして、画像処理部10の補間回路は、焦点検出画素の位置の画素データを、周囲の撮影画素の画素データを用いて補間し、欠落画素のない画像信号を生成する。
続いて、図11は、全画素読み出し時に瞳分離部21により抽出された焦点検出画素の内、位相差算出部23における相関演算に用いられる焦点検出画素を示す図である。結像光学系1により結像される被写体像が合焦している場合には、ある画素に結像される被写体像は、瞳Aを通過して結像された被写体像であっても、瞳Bを通過して結像された被写体像であっても、同一の被写体部分の像となる。一方、結像光学系1により結像される被写体像が合焦から外れて行くにつれて、ある画素に結像される被写体像は、瞳Aを通過して結像された被写体像である場合と、瞳Bを通過して結像された被写体像である場合とで、次第にずれが大きくなることになる。相関演算はこのような原理を利用して行われるために、相関演算を行う際に一対をなす瞳A焦点検出画素Saと瞳B焦点検出画素Sbとは、空間的な位置が接近していることが望ましい。そこで、画像信号が全画素読み出しにより得られたものである場合には、この図11に示すように、対をなす、3つの瞳A焦点検出画素Saと3つの瞳B焦点検出画素Sbとの内の、空間的に最も近い1画素ずつを、位相差算出部23における相関演算に用いるようにしている。
次に、図12〜図14を参照して、2画素加算読み出しを行うときの焦点検出画素について説明する。ここに、図12は2画素加算読み出し時に撮像素子3から出力される画像信号の画素構成を示す図、図13は焦点検出画素の画素データを含む2画素加算画素を抽出したときの様子を示す図、図14は画像処理部10において2画素加算読み出し時に撮影画像として処理される画素信号を示す図、図15は2画素加算読み出し時に位相差算出部23における相関演算に用いられる焦点検出画素を示す図である。
まず、撮像素子3上における画素配列は、上述した図8に示したものと同様である。
図8に示した画素配列の内の、例えば番号5のG画素と番号7のSa画素とは2画素加算され、図12における番号3の混交された画素(G+Sa)となるために、この画素は焦点検出画素としても撮影画素としても用いることができない。同様に、図8における番号17のSb画素と番号19のG画素も2画素加算され、図12における番号9の混交された画素(G+Sb)となるために、この画素も焦点検出画素と撮影画素との何れとしても用いることができない。
一方、図8における番号9のSa画素と番号11のSa画素、番号13のSb画素と番号15のSb画素は、2画素加算により、図12における番号5のSa画素および番号7のSb画素の画素にそれぞれなるために、焦点検出画素として用いることができる。
従って、図15に示すように、位相差算出部23における相関演算には、図12における番号5のSa画素および番号7のSb画素の画素データ等が用いられる。
また、画像処理部10の補間回路は、焦点検出画素の画素データを含む2画素加算画素の位置(図14における番号3,5,7,9,15,17,19,21の画素位置)の画素データを、周囲の2画素加算の撮影画素の画素データを用いて補間し、欠落画素のない画像信号を生成することになる。このとき、2画素加算読み出しから得られる画像信号の総画素数は、全画素読み出しから得られる画像信号の総画素数の1/2となる。
続いて、図16〜図18を参照して、3画素加算読み出しを行うときの焦点検出画素について説明する。ここに、図16は3画素加算読み出し時に撮像素子3から出力される画像信号の画素構成を示す図、図17は3画素加算読み出し時に位相差算出部23における相関演算に用いられる焦点検出画素を示す図、図18は画像処理部10において3画素加算読み出し時に撮影画像として処理される画素信号を示す図である。
上述したように、撮像素子3上における画素配列は図8に示したものと同様である。
図8における番号7,9,11の各Sa画素、番号13,15,17の各Sb画素は、3画素加算により、図16における番号3のSa画素および番号5のSb画素にそれぞれなる。
従って、図17に示すように、位相差算出部23における相関演算には、図16における番号3のSa画素および番号5のSb画素の画素データ等が用いられる。
また、画像処理部10の補間回路は、3画素加算された焦点検出画素の位置(図18における番号3,5,11,13の画素位置)の画素データを、周囲の3画素加算の撮影画素の画素データを用いて補間し、欠落画素のない画像信号を生成することになる。このとき、3画素加算読み出しから得られる画像信号の総画素数は、全画素読み出しから得られる画像信号の総画素数の1/3となる。
このようにして、全画素読み出しの画像信号から生成された画像は例えば静止画像として用いられ、2画素加算読み出し、3画素加算読み出し、あるいは垂直方向の加算も含めた4画素加算読み出し、9画素加算読み出し等の画像信号から生成された画像は例えば動画像やライブビュー画像として用いられることになる。
なお、上述においては、撮像素子3上にベイヤー配列された3色の画素として、原色系のR,G,B画素を例に挙げたが、本発明はこれに限定されるものではない。
また、焦点検出画素は、カラーフィルタが設けられた画素を利用して作成しても良いが、カラーフィルタがない画素として作成しても構わない。前者の場合にはカラーフィルタの構造を変えなくて良い利点があり、後者の場合には焦点検出画素の画素感度を向上することができる利点がある。
このような実施形態1によれば、ベイヤー配列された3色の画素と、焦点検出画素とをを有し、一水平ライン上において一連に隣接する同一色画素同士のn(nは2以上の整数)画素加算を上限とする画素加算読み出しが可能な撮像素子において、焦点検出画素についても、特殊な読み出しを要することなく画素加算読み出しすることが可能となる。従って、専用の読み出し方式が必要な撮像素子や駆動回路、信号処理回路、製造ライン等を開発することが不要となり、開発費用を低減することが可能となる。特に、図5に示したような構成の撮像素子を用いる場合には、より顕著にこの効果を奏することができる。
そして、焦点検出画素が配置されたラインであっても、撮影画素データ(図7に示した例では、B画素データ)を得ることができるために、撮影画素データが全く得られないラインが生じることはなく、焦点検出画素が配置されるラインの最小化を迫られることがない。従って、焦点検出画素を、上述した従来の技術に比較して自由に配置することが可能となる。
[実施形態2]
図19は本発明の実施形態2を示したものであり、撮像素子3における焦点検出画素を含むラインの水平3画素加算読み出しを説明するための図である。
この実施形態2において、上述の実施形態1と同様である部分については同一の符号を付して説明を省略し、主として異なる点についてのみ説明する。
上述したように、本発明によれば、焦点検出画素を比較的自由に配置することができる。そこで本実施形態は、撮像素子3上に画素群の対として形成される瞳A焦点検出画素と瞳B焦点検出画素とを、隣接する異なるラインに配置したものとなっている。
まず、撮像装置の構成や撮影画素のみが配置されたラインにおける加算読み出しは、実施形態1において図1〜図6を参照したものと同様である。従って、本実施形態においても、一水平ライン上において一連に隣接する同一色画素同士の3画素加算を上限とする画素加算読み出しが可能であることを想定している。
次に、本実施形態における焦点検出画素の配置は、例えば図19に示すようになっている。
すなわち、この図19には、Gb1〜Gb3に相当する位置に瞳A焦点検出画素Sa1〜Sa3が配置され、Gr4〜Gr6に相当する位置に瞳B焦点検出画素Sb4〜Sb6が配置される例を示している(ただし、Gb1〜Gb3に相当する位置に瞳B焦点検出画素Sb1〜Sb3が配置され、Gr4〜Gr6に相当する位置に瞳A焦点検出画素Sa4〜Sa6が配置されても勿論構わない)。
このような焦点検出画素を含む画素配置においても、水平3画素加算読み出しは、図6に示したような撮影画素のみで構成されるラインと全く同様に、同一の水平ライン上において一連に隣接する3つの同一色画素同士の画素加算として行われる。従って、図19に示す例においては、Sa1+Sa2+Sa3により画素加算後のSa画素が生成され、B1+B2+B3により画素加算後のB画素が生成され、R1+R2+R3により画素加算後のR画素が生成され、Gr1+Gr2+Gr3により画素加算後のGr画素が生成される。同様に、Gb4+Gb5+Gb6により画素加算後のGb画素が生成され、B4+B5+B6により画素加算後のB画素が生成され、R4+R5+R6により画素加算後のR画素が生成され、Sb4+Sb5+Sb6により画素加算後のSb画素が生成される。
このように、本実施形態の構成においても、上述した実施形態1の構成と同様に、広く普及している一般的な画素加算方法によって、焦点検出画素の画素加算読み出しを行うことができる。
このような実施形態2によれば、上述した実施形態1とほぼ同様の効果を奏するとともに、焦点検出画素を斜め方向に配置することができるために、水平方向のエッジパターンと垂直方向のエッジパターンとの何れも検出することが可能となる利点を享受することができる。
なお、本発明は上述した実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化することができる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成することができる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除しても良い。さらに、異なる実施形態にわたる構成要素を適宜組み合わせても良い。このように、発明の主旨を逸脱しない範囲内において種々の変形や応用が可能であることは勿論である。
1…結像光学系
2…撮像部
3…撮像素子
4…撮像素子駆動部
5…画素種別信号出力部
6…位相差検出部
7…フォーカス制御部
8…デフォーカス量算出部
9…フォーカスレンズ駆動部
10…画像処理部
21…瞳分離部
22…相関演算制御部
23…位相差算出部
30…撮影画素
30A,Sa…瞳A焦点検出画素
30B,Sb…瞳B焦点検出画素
31…半導体基板
32…フォトダイオード
33…遮光マスク
34…開口
34A…開口(第1の偏心マスク)
34B…開口(第2の偏心マスク)
35…マイクロレンズ
35A…マイクロレンズ(第1の偏心マスク)
35B…マイクロレンズ(第2の偏心マスク)
36…配線パターン
36a…開口
37…遮光マスクガラス(光学部材)
38…遮光マスク
39…開口
39A…開口(第1の偏心マスク)
39B…開口(第2の偏心マスク)

Claims (7)

  1. ベイヤー配列された3色の画素を有し、一水平ライン上において一連に隣接する同一色画素同士のn(nは2以上の整数)画素加算を上限とする画素加算読み出しが可能な撮像素子において、
    一水平ライン上において一連に隣接するn個のX(ここに、Xはベイヤー配列された3色の内の何れか1色)画素に相当する画素位置に配設された焦点検出画素でなる第1の画素群を単位として、複数の単位に対して、各単位に含まれる各焦点検出画素に、該焦点検出画素の中心から一方向へ偏心して設けられた第1の偏心マスクと、
    上記第1の画素群が設けられた水平ラインと、同一の、またはX画素が存在する水平ラインとして隣接する、一水平ライン上において一連に隣接するn個のX画素に相当する画素位置に配設された焦点検出画素でなり、かつ該第1の画素群とは焦点検出画素を共有せず、かつ水平ライン方向における一方向側の位置が該第1の画素群と対をなして隣接する第2の画素群を単位として、複数の単位に対して、各単位に含まれる各焦点検出画素に、該画素の中心から他方向へ偏心して設けられた第2の偏心マスクと、
    を具備し、
    上記一単位の第1の偏心マスクと、上記一単位の第2の偏心マスクとは、何れも、加算可能な画素数が1種類であるときには該加算可能な画素数の、2倍の画素数の上記水平ライン方向の画素列を基本周期として、該基本周期の1以上の整数倍を周期として配置され、加算可能な画素数が複数種類であるときには全種類の該加算可能な画素数の最小公倍数の、2倍の画素数の上記水平ライン方向の画素列を基本周期として、該基本周期の1以上の整数倍を周期として配置されていることを特徴とする撮像素子。
  2. 水平ライン単位での間引き読み出しをさらに行い得ることを特徴とする請求項1に記載の撮像素子。
  3. 上記同一色画素同士の画素加算読み出しは、さらに、上記水平ライン方向に交差する垂直方向にも可能であることを特徴する請求項1に記載の撮像素子。
  4. 上記第1の偏心マスクおよび上記第2の偏心マスクは、撮像素子の半導体製造プロセスにより形成されたものであることを特徴とする請求項1に記載の撮像素子。
  5. 上記第1の偏心マスクおよび上記第2の偏心マスクを構成する遮光マスクが形成された光学部材をさらに具備し、
    上記光学部材を、半導体製造プロセスが終了した後の状態の撮像素子に取り付けることにより製造することを特徴とする請求項1に記載の撮像素子。
  6. 請求項1に記載の撮像素子と、
    上記撮像素子上に被写体像を形成する結像光学系と、
    上記第1の画素群からの出力により形成される第1の画像と、上記第2の画素群からの出力により形成される第2の画像と、の位相差を検出する位相差検出部と、
    を具備したことを特徴とする撮像装置。
  7. 上記結像光学系は、焦点位置を調節可能であり、
    上記位相差検出部により検出される位相差を0に近付けるように上記結像光学系を駆動するフォーカス制御部をさらに具備したことを特徴とする請求項6に記載の撮像装置。
JP2011032008A 2011-02-17 2011-02-17 撮像素子、撮像装置 Expired - Fee Related JP5698555B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011032008A JP5698555B2 (ja) 2011-02-17 2011-02-17 撮像素子、撮像装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011032008A JP5698555B2 (ja) 2011-02-17 2011-02-17 撮像素子、撮像装置

Publications (2)

Publication Number Publication Date
JP2012175145A JP2012175145A (ja) 2012-09-10
JP5698555B2 true JP5698555B2 (ja) 2015-04-08

Family

ID=46977677

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011032008A Expired - Fee Related JP5698555B2 (ja) 2011-02-17 2011-02-17 撮像素子、撮像装置

Country Status (1)

Country Link
JP (1) JP5698555B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2944997A4 (en) 2013-01-10 2016-12-21 Olympus Corp IMAGE CAPTURE DEVICE, IMAGE CORRECTION METHOD, IMAGE PROCESSING DEVICE, AND IMAGE PROCESSING METHOD
JP6372983B2 (ja) * 2013-09-02 2018-08-15 キヤノン株式会社 焦点検出装置およびその制御方法、撮像装置

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3592147B2 (ja) * 1998-08-20 2004-11-24 キヤノン株式会社 固体撮像装置
JP4384288B2 (ja) * 1999-05-27 2009-12-16 オリンパス株式会社 焦点検出装置
JP5045350B2 (ja) * 2007-10-01 2012-10-10 株式会社ニコン 撮像素子および撮像装置
JP5241355B2 (ja) * 2008-07-10 2013-07-17 キヤノン株式会社 撮像装置とその制御方法
JP5739640B2 (ja) * 2010-10-20 2015-06-24 キヤノン株式会社 撮像素子及び撮像装置

Also Published As

Publication number Publication date
JP2012175145A (ja) 2012-09-10

Similar Documents

Publication Publication Date Title
JP5232118B2 (ja) 撮像デバイスおよび電子カメラ
JP5664270B2 (ja) 撮像素子および撮像装置
JP5547349B2 (ja) デジタルカメラ
JP5589146B2 (ja) 撮像素子及び撮像装置
JP4957413B2 (ja) 固体撮像素子及びこれを用いた撮像装置
JP5613843B2 (ja) 固体撮像素子、撮像装置、及び合焦制御方法
JP5597777B2 (ja) カラー撮像素子及び撮像装置
EP2181349A1 (en) Image sensing apparatus
JPWO2012042963A1 (ja) 固体撮像素子及び撮像装置
JP2011103335A (ja) 撮像素子及び撮像装置
JP5966636B2 (ja) 撮像素子および撮像装置
JP2012124791A (ja) 撮像素子および撮像装置
JP2019205194A (ja) 撮像素子および撮像装置
JP5621059B2 (ja) カラー撮像素子及び撮像装置
JP5634614B2 (ja) 撮像素子及び撮像装置
JP5698555B2 (ja) 撮像素子、撮像装置
JP2012211942A (ja) 固体撮像素子及び撮像装置
JP6315032B2 (ja) 撮像素子および撮像装置
JP6566072B2 (ja) 撮像素子および撮像装置
JP4711630B2 (ja) 固体撮像素子
JP7397626B2 (ja) 撮像装置及びその制御方法
JP5929307B2 (ja) 撮像装置およびデジタルカメラ
JP6234097B2 (ja) 撮像装置およびその制御方法
JP2015161727A (ja) 撮像素子および撮像装置
JP2015167363A (ja) 撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140204

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20141030

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20141111

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20141208

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150120

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150213

R151 Written notification of patent or utility model registration

Ref document number: 5698555

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees