JP2013214950A - 撮像装置 - Google Patents

撮像装置 Download PDF

Info

Publication number
JP2013214950A
JP2013214950A JP2012267244A JP2012267244A JP2013214950A JP 2013214950 A JP2013214950 A JP 2013214950A JP 2012267244 A JP2012267244 A JP 2012267244A JP 2012267244 A JP2012267244 A JP 2012267244A JP 2013214950 A JP2013214950 A JP 2013214950A
Authority
JP
Japan
Prior art keywords
filter
unit
light
filters
lens
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012267244A
Other languages
English (en)
Other versions
JP6060659B2 (ja
Inventor
Yuji Yamanaka
祐治 山中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2012267244A priority Critical patent/JP6060659B2/ja
Priority to CN201310087399.7A priority patent/CN103312950B/zh
Publication of JP2013214950A publication Critical patent/JP2013214950A/ja
Application granted granted Critical
Publication of JP6060659B2 publication Critical patent/JP6060659B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Blocking Light For Cameras (AREA)
  • Endoscopes (AREA)
  • Studio Devices (AREA)

Abstract

【課題】被写体の同一点から発した複数の光情報を含む光線を同時に効率よく取得可能な撮像装置を提供すること。
【解決手段】本撮像装置は、被写体から出射する光線を捕捉する撮像レンズと、前記撮像レンズを介して入射する前記光線から、各々が異なる光情報を有する光線を生成するフィルタが複数個配置されたフィルタ部と、前記撮像レンズを介して入射する前記光線が前記フィルタ部を通過する領域において、隣接する前記フィルタの境界部が露出するように前記フィルタを保持するフィルタ保持部と、前記フィルタを通過した前記異なる光情報を有する光線を、各々複数の領域に分割する領域分割手段と、前記領域分割手段により複数の領域に分割された各光線を受光して画像情報を出力する撮像素子アレイと、を有する。
【選択図】図1

Description

本発明は、被写体の光情報を取得する撮像装置に関する。
被写体の光情報を取得する撮像装置に関して、例えば、通常画像(可視光画像)と偏光画像を得るための撮像装置が既に知られている。この撮像装置は、例えば医療分野の内視鏡装置において用いられている。
具体的には、体腔内に挿入され、通常画像と偏光画像を撮像する内視鏡と、この内視鏡に照明光を供給する光源装置と、内視鏡に内蔵された撮像素子に対する信号処理を行うプロセッサと、プロセッサから出力される映像信号を表示するモニタとから構成される内視鏡装置において用いられている。通常画像の他に偏光画像を用いるのは、被写体の表面或いは深部の情報を抽出するためである。
しかし、従来の撮像装置では、フィルタや光源を切り替えることで異なる光情報を取得しているため、被写体の同一点から発した複数の光情報を含む光線を同時に効率よく取得できないという問題があった。上記内視鏡装置の例においても、通常画像を取得するモードと偏光画像を取得するモードとは排他的であるため、通常画像と偏光画像とを同時に取得することはできない。
本発明は、上記の点に鑑みてなされたものであり、被写体の同一点から発した複数の光情報を含む光線を同時に効率よく取得可能な撮像装置を提供することを課題とする。
本撮像装置は、被写体から出射する光線を捕捉する撮像レンズと、前記撮像レンズを介して入射する前記光線から、各々が異なる光情報を有する光線を生成するフィルタが複数個配置されたフィルタ部と、前記撮像レンズを介して入射する前記光線が前記フィルタ部を通過する領域において、隣接する前記フィルタの境界部が露出するように前記フィルタを保持するフィルタ保持部と、前記フィルタを通過した前記異なる光情報を有する光線を、各々複数の領域に分割する領域分割手段と、前記領域分割手段により複数の領域に分割された各光線を受光して画像情報を出力する撮像素子アレイと、を有することを要件とする。
開示の技術によれば、被写体の同一点から発した複数の光情報を含む光線を同時に効率よく取得可能な撮像装置を提供できる。
第1の実施の形態に係る撮像装置を例示する図である。 第1の実施の形態に係るフィルタ部及びフィルタ保持部を例示する図である。 第1の実施の形態に係るマクロピクセルを例示する図である。 第1の実施の形態に係るフィルタの境界部を例示する図である。 比較例に係るフィルタ部及びフィルタ保持部を例示する図である。 比較例に係るマクロピクセルを例示する図である。 第2の実施の形態に係る撮像装置を例示する図である。 第3の実施の形態に係るフィルタの境界部を例示する図である。 第3の実施の形態に係るマクロピクセルを例示する図である。 第4の実施の形態に係る撮像装置を例示する図である。 移動手段の一例を示す図である。 第4の実施の形態に係るマクロピクセルを例示する図である。 第5の実施の形態に係る撮像装置を例示する図である。 画像処理手段が2次元画像を作製する方法を例示するフローチャートである。 撮像素子アレイを簡略化して例示する図である。 フィルタの境界部が移動する場合に画像処理手段が2次元画像を作製する方法を例示するフローチャートである。
以下、図面を参照して発明を実施するための形態について説明する。各図面において、同一構成部分には同一符号を付し、重複した説明を省略する場合がある。
〈第1の実施の形態〉
図1は、第1の実施の形態に係る撮像装置を例示する図である。図1を参照するに、撮像装置10は大略すると、第1のレンズ20と、フィルタ部30と、フィルタ保持部40と、第2のレンズ50と、レンズアレイ60と、撮像素子アレイ70とを有する。100は、被写体を示している。
第1のレンズ20は、被写体100の任意の点から出射する光線を捕捉し、略平行光線に変換してフィルタ部30に伝達する機能を有する。なお、第1のレンズ20は、本発明に係る撮像レンズの代表的な一例である。
フィルタ部30は、撮像レンズを介して入射する光線から、各々が異なる光情報を有する光線を生成するフィルタが複数個配置された構造を有し、フィルタ保持部40により保持されている。第1のレンズ20からの略平行光線は、フィルタ部30を透過して第2のレンズ50に入射する。フィルタ部30及びフィルタ保持部40の詳細については、後述する。
第2のレンズ50はフィルタ部30を透過する略平行光線を収束させ、レンズアレイ60の位置で結像させる機能を有する。レンズアレイ60は複数のマイクロレンズ61により構成されている。各マイクロレンズ61は、第2のレンズ50からの収束光線を複数の領域に分割し、再び発散させて撮像素子アレイ70に伝達する機能を有する。
このように、レンズアレイ60で第2のレンズ50からの収束光線を複数の領域に分割することにより、撮像素子アレイ70において、隣接する信号同士が重複しないように領域分割された画像が得られる。なお、レンズアレイ60は、本発明に係る領域分割手段の代表的な一例である。
撮像素子アレイ70は、各マイクロレンズ61により発散された光線を受光して電気信号に変換し、画像情報を出力する機能を有する。撮像素子アレイ70としては、例えばMOS(Metal Oxide Semiconductor Device)、CMOS(Complimentary Metal Oxide Semiconductor Device)、CCD(Charge CoupLED Device)、CIS(Contact Image Sensor)等を用いることができる。
なお、撮像素子アレイ70の一部をマクロピクセル71と称する。マイクロレンズアレイ60を構成する各マイクロレンズ61毎に、対応するマクロピクセル71が存在する。各マクロピクセル71は、複数の画素を有する。各画素の大きさは、例えば、数μm程度とすることができる。
このように、撮像装置10において、被写体100の任意の点から発した光線は第1のレンズ20で略平行光線に変換され、フィルタ部30を経由して第2のレンズ50に入射し、第2のレンズ50で収束光線に変換されて、レンズアレイ60の位置で結像する。そして、レンズアレイ60の各マイクロレンズ61は、第2のレンズ50からの収束光線を再び発散させて撮像素子アレイ70の各マクロピクセル71に伝達し、撮像素子アレイ70により画像情報が得られる。
撮像装置10において、第1のレンズ20及び第2のレンズ50の各々の焦点距離はF、レンズアレイ60を構成する各マイクロレンズ61の焦点距離はfである。被写体100の中心部と第1のレンズ20の中心部との間の距離Daは、第1のレンズ20の焦点距離Fと等しい。又、第2のレンズ50とレンズアレイ60との間の距離はDbは第2のレンズ20の焦点距離Fと等しい。
レンズアレイ60と撮像素子アレイ70との間の距離Dcは、マイクロレンズ61の焦点距離fと等しい。又、第1のレンズ20、第2のレンズ50、及びレンズアレイ60を構成する各マイクロレンズ61のFナンバーは等しい。
撮像装置10を図1に示すような構成とすることにより、プレノプティックカメラを構築できる。なお、プレノプティックカメラは、マイクロレンズによってカメラに入射する光を分割することにより、異なる視点の画像を一度の撮影で取得可能とするカメラである。そのため、プレノプティックカメラで撮影した画像に基づき計算処理を行うことで、任意の視点、開口径、フォーカス距離の画像を生成できる。又、プレノプティックカメラの構成とすることで、撮像素子アレイ70は被写体100から発した光線の明るさ情報のみならず、方向情報も検出できる。
次に、フィルタ部30及びフィルタ保持部40について、更に詳しく説明する。図2は、第1の実施の形態に係るフィルタ部及びフィルタ保持部を例示する図である。図2(a)はフィルタ部のみを例示し、図2(b)はフィルタ部がフィルタ保持部に保持されている状態(図1と同様の状態)を例示している。
図2を参照するに、フィルタ部30は、所定位置に配置されたフィルタ31、32、33、及び34を有する。又、フィルタ保持部40は、枠部41と、枠部41の内側に固定された押さえ部42とを有する。押さえ部42の中央部近傍には、平面形状が略円形状の開口部42xが形成されている。
開口部42x内にはフィルタ31、32、33、及び34の各々の一部が露出しており、フィルタ部30に入射する光線は開口部42x内に露出するフィルタ31、32、33、及び34を透過する。なお、第1のレンズ20から入射する光線がフィルタ部30を通過する領域において、フィルタ31、32、33、及び34の各々の境界部にはフィルタ保持部40が設けられていない。
つまり、フィルタ保持部40は、第1のレンズ20から入射する光線がフィルタ部30を通過する領域において、フィルタ31、32、33、及び34の各々の境界部が露出するようにフィルタ31、32、33、及び34を保持している。具体的には、押さえ部42が、開口部42x内にフィルタ31、32、33、及び34の各々の境界部の少なくとも一部が露出するように、フィルタ31、32、33、及び34を保持している。そして、第1のレンズ20を介して入射する光線は、開口部42xを通過する。
フィルタ31、32、33、及び34は、各々例えば平面形状が略矩形状のガラス板に所定の特性を有する多層膜を蒸着した構成等とすることができる。フィルタ31、32、33、及び34は、各々特性が異なるフィルタである。一例を挙げれば、フィルタ31は赤色光線を透過させるフィルタ、フィルタ32は緑色光線を透過させるフィルタ、フィルタ33は青色光線を透過させるフィルタ、フィルタ34は可視光線を透過させるフィルタである。
フィルタ31、32、33、及び34は、各々の2つの側面が他のフィルタ部の側面と接するように、フィルタ保持部40の枠部41の内側に配置されている。各々の2つの側面が他のフィルタ部の側面と接する部分は接着等はされていなく、単に側面同士が接触している状態である。
フィルタ31、32、33、及び34において、各々の第1のレンズ20側の面(入射側の面)の光線が透過しない領域の少なくとも一部は、フィルタ保持部40の押さえ部42に接して押さえられている。
フィルタ31、32、33、及び34の各々の枠部41側の側面は、枠部41の内側面と接着されていてもよいし、枠部41にばね部材等を設け、フィルタ31、32、33、及び34を各々枠部41の中心側に向かって押圧する構造等としてもよい。又、フィルタ31、32、33、及び34の各々の第1のレンズ20側の面の押さえ部42に接している部分は、接着されていてもよい。このように、枠部41及び押さえ部42を設けることにより、フィルタ31、32、33、及び34の脱落を防止できる。
又、押さえ部42は、フィルタ31、32、33、及び34の各々の第2のレンズ50側の面(出射側の面)に設けてもよい。この場合には、フィルタ31、32、33、及び34において、各々の第2のレンズ50側の面(出射側の面)の光線が透過しない領域の少なくとも一部が、フィルタ保持部40の押さえ部42に接して押さえられる。
又、フィルタ31、32、33、及び34の各々の第1のレンズ20側の面(入射側の面)に押さえ部42を設け、更に、フィルタ31、32、33、及び34の各々の第2のレンズ50側の面(出射側の面)に、押さえ部42と同様の形状又は異なる形状の他の部材(開口部が形成されている)を設け、枠部41と押さえ部42と他の部材により、フィルタ31、32、33、及び34を挟み込んで保持する構造としてもよい。
開口部42xは、第1のレンズ20から入射する光線を妨げない範囲で小さく形成することが好ましい。押さえ部42がフィルタ31、32、33、及び34の各々の第1のレンズ20側の面と接する面積を大きくし、フィルタ保持部40がフィルタ部30を安定的に保持するためである。なお、開口部42xの平面形状は、略円形状には限定されず、例えば、略楕円形状、略矩形状、略多角形状等の任意の形状として構わない。
なお、例えば、第1のレンズ20から入射する光線の外縁部が不要である場合等は、開口部42xを第1のレンズ20から入射する光線の断面積よりも小さく開口し、開口部42xを絞りとして機能させてもよい。この場合には、第1のレンズ20からフィルタ部30に入射する光線の一部は遮光され、残部が第2のレンズ50側に透過することになる。
フィルタ保持部40の枠部41及び押さえ部42は、例えば、樹脂や金属等から形成できる。又、図1及び図2(b)では、フィルタ保持部40の枠部41と押さえ部42とは別体として図示しているが、枠部41と押さえ部42を同一材料で一体に形成してもよい。
なお、ここでは、フィルタ部30を縦2×横2(フィルタ31、32、33、及び34)に空間分割する例を示したが、これには限定されない。複数の光情報を同時に取得するためには、最低限2つのフィルタを有していればよい。例えば、平面形状が略長方形状の2つのフィルタを接するように配置して、フィルタ保持部40で保持する構造とすることができる。
次に、レンズアレイ60を通過した光束が複数の光情報に分離される過程について説明する。なお、ここでは、マイクロレンズ61に対応するマクロピクセル71が21×21画素である場合を例に取り説明する。
図3は、第1の実施の形態に係るマクロピクセルを例示する図である。図3を参照するに、マクロピクセル71は、部分領域71a、71b、71c、及び71dを有する。フィルタ部30を透過した光線はマイクロレンズ61を通過する際に上下左右が反転するため、部分領域71a、71b、71c、及び71dは、各々図2のフィルタ34、33、32、及び31に対応した光情報を受光する領域となる。
十字状の71xは、フィルタ31、32、33、及び34が接している領域により生じる影である(以降、影71xと称する)。一般的に、取り扱い時に指等を傷つけないために、フィルタの外縁部には図4に示すような面取りが施されている。図4では、フィルタ31及び32の外縁部両面に各々面取り31x及び32xが施されている例を示しているが、フィルタ33及び34にも同様の面取りが施されている。フィルタ31、32、33、及び34において、面取りが施された領域は光が直進しないため、図3に示すような影71xが生じる。
しかしながら、本実施の形態では、第1のレンズ20から入射する光線がフィルタ部30を通過する領域において、フィルタ31、32、33、及び34の各々の境界部が露出しているため、影71xが生じる領域を縮小でき、光情報を効率よく取得することが可能である。
この点について、比較例を用いながら、より詳しく説明する。図5は、比較例に係るフィルタ部及びフィルタ保持部を例示する図である。図5を参照するに、フィルタ保持部400は、枠部410と、枠部410の内側に固定された押さえ部420とを有し、フィルタ部30を構成するフィルタ31、32、33、及び34を保持している。
押さえ部420は、押さえ部42(図2(b)参照)とは異なり、フィルタ31、32、33、及び34の各々の境界部を覆うように十字状に形成されている。つまり、第1のレンズ20から入射する光線がフィルタ部30を通過する領域において、フィルタ31、32、33、及び34の各々の境界部は露出していない。
図6は、比較例に係るマクロピクセルを例示する図である。図6は、図1に示す撮像装置10において、フィルタ保持部40をフィルタ保持部400に置換した場合の様子を示している。
図6を参照するに、マクロピクセル71に生じた十字状の影71yは、フィルタ保持部400の押さえ部420による影である。フィルタ保持部400には十字状の押さえ部420が存在しているため、それに対応する十字状の影71yが発生し、影71yの部分は受光素子(画素)があるにも関わらず光情報を取得できない。つまり、影71yにより光情報の損失が生じる。
例えば、フィルタ31、32、33、及び34に入射する光線の断面形状が直径2mmの円形であり、押さえ部420の幅が0.5mmであるとすると、マクロピクセル71の有する画素の1/4程度を覆うように影71yが発生し、その部分で光情報の損失が生じる。
一方、前述のように、図2(b)に示す本実施の形態に係るフィルタ保持部40には十字状の押さえ部は設けられていなく、第1のレンズ20から入射する光線がフィルタ部30を通過する領域において、フィルタ31、32、33、及び34の各々の境界部が露出している。そのため、図3に示す影71xが生じる領域は、図6に示す影71yが生じる領域に比べて大幅に縮小し、光情報を効率よく取得することが可能となるのである。
このように、第1の実施の形態に係る撮像装置10では、複数の光情報に対応した空間分割フィルタであるフィルタ31、32、33、及び34を設け、第1のレンズ20から入射する光線がフィルタ部30を通過する領域において、フィルタ31、32、33、及び34の各々の境界部を露出させている。これにより、各マクロピクセル上の影が生じる領域を縮小でき、被写体100の同一点から発した複数の光情報を含む光線を同時に効率よく取得することが可能となる。
〈第2の実施の形態〉
第2の実施の形態では、レンズアレイに代えてピンホールアレイを用いる例を示す。なお、第2の実施の形態において、既に説明した実施の形態と同一構成部分についての説明は省略する。
図7は、第2の実施の形態に係る撮像装置を例示する図である。図7を参照するに、撮像装置10Aは、レンズアレイ60がピンホールアレイ60Aに置換された点が、撮像装置10(図1参照)と相違する。
ピンホールアレイ60Aは、遮光部材に複数の開口部61xが例えば格子状に配置された構造を有する。第2のレンズ50からの収束光線は、ピンホールアレイ60Aの各開口部61xにより複数の領域に分割され、発散光が撮像素子アレイ70の各マクロピクセル71に伝達される。ピンホールアレイ60Aの各開口部61x毎に、対応するマクロピクセル71が存在する。各開口部61xは、例えば、第1の実施の形態のレンズアレイ60を構成する各マイクロレンズ61の中心に対応する位置に配置することができる。
このように、ピンホールアレイ60Aで第2のレンズ50からの収束光線を複数の領域に分割することにより、撮像素子アレイ70において、隣接する信号同士が重複しないように領域分割された画像が得られる。なお、ピンホールアレイ60Aは、本発明に係る領域分割手段の代表的な一例である。
ピンホールアレイ60Aとしては、ガラス等の透明部材に金属膜や黒色樹脂による遮光部を設け、その一部に開口部61xが形成された部材や、金属薄板等からなる遮光部に開口部61xが形成された部材等を用いることができる。開口部61xの平面形状は、円形や楕円形、矩形或いは他のより複雑な形状とすることができる。
このように、レンズアレイ60に代えてピンホールアレイ60Aを用いることにより、第1の実施の形態の効果に加えて、回折現象を除く光学的収差が皆無になるという効果を奏する。但し、そのトレードオフとして像が暗くなるが、十分な光量が期待できる撮影状況ならば上記効果が発揮できる。
〈第3の実施の形態〉
第3の実施の形態では、第1の実施の形態よりも更に光情報を効率よく取得できる例を示す。なお、第3の実施の形態において、既に説明した実施の形態と同一構成部分についての説明は省略する。
図8は、第3の実施の形態に係るフィルタの境界部を例示する図である。図9は、第3の実施の形態に係るマクロピクセルを例示する図である。第1の実施の形態では、図4に示すようにフィルタ31及び32の外縁部両面に各々面取り31x及び32xが施されており、フィルタ33及び34にも同様の面取りが施されていた。そのため、面取りが施された領域で光が直進しないため、図3に示すような影71xが生じていた。
一方、第3の実施の形態では、図8に示すように、フィルタ31及び32の外縁部両面には面取りが施されていない。又、図示はしないが、フィルタ33及び34にも外縁部両面には面取りが施されていない。そのため、光が直進しない部分が最小限となり、図9に示す影71zが生じる領域は、図3に示す影71xが生じる領域に比べて更に縮小し、光情報を更に効率よく取得することが可能となる。なお、フィルタ31、32、33、及び34において、他のフィルタと接しない面には図4と同様な面取りが施されていても構わない。
なお、図8に示すようにフィルタ31、32、33、及び34において、他のフィルタと接する面に面取りが施されていない場合にも図9に示すような影71zが生じる理由は、各フィルタの境界部において入射光線の反射や減衰が生じるためである。
このように、第3の実施の形態では、フィルタ31、32、33、及び34において、他のフィルタと接する面に面取りを施さないことにより、第1の実施の形態と比較して、光情報を更に効率よく取得することが可能となる。
〈第4の実施の形態〉
第4の実施の形態では、フィルタ部30を移動可能に構成する例を示す。なお、第4の実施の形態において、既に説明した実施の形態と同一構成部分についての説明は省略する。
図10は、第4の実施の形態に係る撮像装置を例示する図である。図10を参照するに、撮像装置10Bは、移動手段80が追加された点が、撮像装置10(図1参照)と相違する。
移動手段80は、フィルタ部30及びフィルタ保持部40を第1のレンズ20を介して入射する光線の光軸に略垂直な方向に移動させ、任意の位置で保持する機能を有する。例えば、フィルタ部30及びフィルタ保持部40を移動自在な状態で固定部に保持し、固定部に光軸に略垂直な面内で互いに直交する2つの送りねじを設けることにより移動手段80を実現できる。
但し、必ずしもフィルタ保持部40をフィルタ部30と一緒に移動させる必要はない。例えば、フィルタ保持部40を固定部とし、フィルタ部30を移動自在な状態でフィルタ保持部40に保持し、フィルタ保持部40に対してフィルタ部30のみを移動させる構造としても構わない。
図11は移動手段の一例を示す図であり、第1のレンズ20を介して入射する光線の光軸方向から視た図である。図11(a)はフィルタ部及びフィルタ保持部を固定部に対して移動自在に構成する例を示している。なお、図11(a)において、便宜上、立設部112を梨地模様で示している。
図11(a)を参照するに、フィルタ部30及びフィルタ保持部40は、移動自在な状態で固定部110に保持されている。固定部110は、例えば平面形状が略矩形状の板状部111と、板状部111の外縁部に枠状に突起するように設けられた立設部112とを有する。なお、板状部111と立設部112とは、一体に形成されていてもよいし、別体を接着等したものであってもよい。
固定部110には、移動手段80の一例である、ねじ81及び82、並びに弾性体83及び84が設けられている。より具体的には、ねじ81及び82は、立設部112の上側部分と左側部分に設けられたねじ穴(図示せず)と噛み合うように挿入されている。
弾性体83は、立設部112の下側部分の内壁とフィルタ保持部40の枠部41の下側部分の外壁との間の、フィルタ保持部40を介してねじ81と対向する位置に配置されている。又、弾性体84は、立設部112の右側部分の内壁とフィルタ保持部40の枠部41の右側部分の外壁との間の、フィルタ保持部40を介してねじ82と対向する位置に配置されている。弾性体83及び84としては、例えば、スポンジや板ばね等を用いることができる。
ねじ81の先端部は、フィルタ保持部40の枠部41の上側部分の外壁と接してフィルタ保持部40を弾性体83側に押圧して弾性体83を収縮させ、フィルタ部30及びフィルタ保持部40を上下方向に挟んで保持している。又、ねじ82の先端部は、フィルタ保持部40の枠部41の左側部分の外壁と接してフィルタ保持部40を弾性体84側に押圧して弾性体84を収縮させ、フィルタ部30及びフィルタ保持部40を左右方向に挟んで保持している。
ねじ81を回転させると固定部110に対してフィルタ部30及びフィルタ保持部40が上下方向(垂直方向)に移動し、ねじ82を回転させると固定部110に対してフィルタ部30及びフィルタ保持部40が左右方向(水平方向)に移動する。なお、ねじ81及び82は手動で回転させてもよいし、ステッピングモータ等を用いて電動で回転させてもよい。例えば、数μm程度のピッチで移動できるように構成すると好適である。
図11(b)はフィルタ部を固定部であるフィルタ保持部に対して移動自在に構成する例を示している。図11(b)を参照するに、フィルタ部30は、移動自在な状態で固定部であるフィルタ保持部40に保持されている。
フィルタ保持部40には、移動手段80の一例である、ねじ81及び82、並びに弾性体83及び84が設けられている。より具体的には、ねじ81及び82は、フィルタ保持部40の枠部41の上側部分と左側部分に設けられたねじ穴(図示せず)と噛み合うように挿入されている。
弾性体83は、フィルタ保持部40の枠部41の下側部分の内壁とフィルタ部30のフィルタ33及び34の下側部分の外壁との間の、フィルタ部30を介してねじ81と対向する位置に配置されている。又、弾性体84は、フィルタ保持部40の枠部41の右側部分の内壁とフィルタ部30のフィルタ32及び34の右側部分の外壁との間の、フィルタ部30を介してねじ82と対向する位置に配置されている。
ねじ81の先端部は、フィルタ部30のフィルタ31及び32の上側部分の外壁と接してフィルタ部30を弾性体83側に押圧して弾性体83を収縮させ、フィルタ部30を上下方向に挟んで保持している。又、ねじ82の先端部は、フィルタ部30のフィルタ31及び33の左側部分の外壁と接してフィルタ部30を弾性体84側に押圧して弾性体84を収縮させ、フィルタ部30を左右方向に挟んで保持している。なお、ねじ81及び82の先端部を鋭利にせずに平坦部を設け、該当するフィルタの外壁と面で接するようにすることが好ましい。
ねじ81を回転させるとフィルタ保持部40に対してフィルタ部30が上下方向(垂直方向)に移動し、ねじ82を回転させるとフィルタ保持部40に対してフィルタ部30が左右方向(水平方向)に移動する。なお、図11(a)の場合と同様に、ねじ81及び82は手動で回転させてもよいし、ステッピングモータ等を用いて電動で回転させてもよい。例えば、数μm程度のピッチで移動できるように構成すると好適である。
なお、図11(a)及び図11(b)において、押さえ部42の開口部42xを絞りとして使用しない場合には、フィルタ部30が移動してもフィルタ部30に入射する光線を遮らない程度に予め開口部42xを大きく形成しておく必要がある。
図12は、第4の実施の形態に係るマクロピクセルを例示する図であり、図10に示す移動手段80によりフィルタ部30(又は、フィルタ部30及びフィルタ保持部40)を移動させた場合の例を示している。つまり、フィルタ31、32、33、及び34の各境界部の交点の位置(以降、単に各境界部の交点の位置と称する)を光軸に対してずらした場合の例を示している。
各境界部の交点の位置を光軸に対してずらしたことにより、部分領域71a、71b、71c、及び71dの各々の面積が異なり、影71xの位置が移動している。例えば、部分領域71aに対応するフィルタ34の光情報を多く取得したい場合は、図12のように(部分領域71aの面積が他の部分領域よりも広くなるように)、移動手段80を用いて各境界部の交点の位置を移動させればよい。なお、光情報を効率よく取得できる点については、第1の実施の形態と同様である。
このように、第4の実施の形態では、移動手段80を設け、フィルタ部30(又は、フィルタ部30及びフィルタ保持部40)を光軸に略垂直な面内で移動させることにより、所定のフィルタからの光情報を他のフィルタからの光情報よりも多く取得することが可能となる。
例えば、フィルタ31、32、33、及び34の各々の透過率の違いや、撮像素子アレイ70の波長に対する感度の違い等を補正するために、特定のフィルタからの光情報を多く取得したい場合等に有効である。又、特定のフィルタから光情報を、他のフィルタから光情報よりも高S/Nで取得したい場合等に、特定のフィルタからの光情報を多く取得して平均化することも有効である。
〈第5の実施の形態〉
第5の実施の形態では、2次元画像を作製する例を示す。なお、第5の実施の形態において、既に説明した実施の形態と同一構成部分についての説明は省略する。
図13は、第5の実施の形態に係る撮像装置を例示する図である。図13を参照するに、撮像装置10Cは、画像処理手段90が追加された点が、撮像装置10(図1参照)と相違する。
画像処理手段90は、撮像素子アレイ70から出力された電気信号(画像情報)に基づいて2次元画像を作製する機能を有する。画像処理手段90は、例えばCPU、ROM、メインメモリ等を含み、画像処理手段90の各種機能は、ROM等に記録されたプログラムがメインメモリに読み出されてCPUにより実行されることによって実現できる。但し、画像処理手段90の一部又は全部は、ハードウェアのみにより実現されてもよい。又、画像処理手段90は、物理的に複数の装置により構成されてもよい。
図14及び図15を参照しながら、図13に示す画像処理手段90が2次元画像を作製する方法について説明する。まず、図14に示すフローチャートの説明をし、その後、図15を参照しながら補足する。
図14において、まず、ステップS201では、被写体100から出射した光線を第1のレンズ20で捕捉する。次に、ステップS202では、ステップS201で第1のレンズ20で捕捉した光線を、フィルタ部30、第2のレンズ50、及びレンズアレイ60により複数の光情報を含む光線に分離する。
次に、ステップS203では、ステップS202で分離した複数の光情報を含む光線を撮像素子アレイ70で受光する。次に、ステップS204では、画像処理手段90は、撮像素子アレイ70から受光光量に対応した電気信号を入手する。次に、ステップS205では、画像処理手段90は、撮像素子アレイ70から入手した電気信号を再配列する。次に、ステップS206では、画像処理手段90は、所定の光情報を含む2次元画像を複数出力する。
図15は、撮像素子アレイを簡略化して例示する図である。図15では、説明の便宜上、撮像素子アレイ70はマクロピクセル71を中心とした3×3のマクロピクセルにより構成されているものとする。太線で囲まれた部分が各マクロピクセルである。
なお、図3等ではマクロピクセル71が21×21画素である場合を例に取り説明したが、図15では説明の便宜上マクロピクセル71を含む各マクロピクセルが横2画素×縦2画素で構成されているものとする。すなわち、マクロピクセル71を含む各マクロピクセルは、フィルタ31、32、33、及び34に対応する部分領域を1つずつ備えている。
図14のステップS205及びS206で説明したように、画像処理手段90が撮像素子アレイ70から出力された電気信号を再配列することにより、所定の光情報を含む2次元画像を複数作製できる。例えば、各マクロピクセルの左上の画素の電気信号を、図15中の矢印のように再配列することにより、図2のフィルタ34に対応する光情報を含む9画素の2次元画像150を作製できる。
同様に、各マクロピクセルの右上の画素の電気信号を再配列することにより図2のフィルタ33に対応する光情報を含む9画素の2次元画像を、各マクロピクセルの左下の画素の電気信号を再配列することにより図2のフィルタ32に対応する光情報を含む9画素の2次元画像を、各マクロピクセルの右下の画素の電気信号を再配列することにより図2のフィルタ31に対応する光情報を含む9画素の2次元画像を作製できる。
なお、実際には各マクロピクセルの各部分領域には多数の画素が存在するが、各部分領域に属する画素から1画素を抜き出して、その画素の出力値を再配列してもよいし、各部分領域に属する画素の出力値の総和或いは平均値を算出して再配列してもよい。各部分領域に属する画素の出力値の総和或いは平均値を算出して再配列する方法は、1画素を抜き出して再配列する方法に対して、信号とノイズとの比(SN比)を大きくできる点で、つまり、ノイズの影響を小さくできる点で好ましい。
又、各部分領域に属する画素から1画素を抜き出して再配列する方法では、視差を有する複数の2次元画像を作製できる。作製した複数の2次元画像からシフト量を求め、求めたシフト量に基づいて、被写体までの距離を推定できる。
又、図15では、簡単のために非常に少ないマクロピクセル数(3×3)で説明したが、実際はレンズアレイ60を構成するマイクロレンズ61の数を増やすことにより、つまり、マクロピクセル数を増やすことにより、意味のある2次元画像を取得することが可能である。
〈第6の実施の形態〉
第6の実施の形態では、移動手段を有する場合において、2次元画像を作製する例を示す。なお、第6の実施の形態において、既に説明した実施の形態と同一構成部分についての説明は省略する。
図10に示す撮像装置10Bの撮像素子アレイ70に図13に示す画像処理手段90を接続し、移動手段80を動作させながら画像を取得する場合の画像処理手段90による処理について、図16のフローチャートを参照しながら説明する。
図16において、まず、ステップS301では、移動手段80により、フィルタ部30及びフィルタ保持部40を、固定部110に対して第1のレンズ20を介して入射する光線の光軸に略垂直な方向に移動させる(図11(a)参照)。或いは、移動手段80により、フィルタ部30を、固定部であるフィルタ保持部40に対して第1のレンズ20を介して入射する光線の光軸に略垂直な方向に移動させる(図11(b)参照)。
次に、ステップS302〜S304において、各領域の同定を行う。まず、ステップS302において、均一な明るさの面光源を第1のレンズ20の直前に配置して発光させ、ステップS303において、校正用の画像の撮像を行う。なお、取得した画像をライトフィールド画像と称する。ライトフィールド画像は、マクロピクセルがレンズアレイを構成するマイクロレンズの数だけ並んだ画像である。
ここでは、ステップS301での移動手段80によるフィルタ部30(又は、フィルタ部30及びフィルタ保持部40)の移動にともなって、マクロピクセル71の中をフィルタの境界部の像である影71xが移動し、前述の図12に示した画像が得られたとする。図12の例では、各境界部の交点の位置は、マクロピクセル71の中央ではなく右下に移動している。
ステップS303では、フィルタの境界部に対応する影71xが暗く、部分領域71a、71b、71c、及び71dの影71xを除く領域が明るいライトフィールド画像(以降、校正画像と称する)が得られる。なお、面光源の大きさは、第1のレンズ20の開口よりも大きいことが好ましい。
次に、ステップS304において、ステップS303で撮像した校正画像に二値化処理及びラベリング処理を行う。二値化処理を行うことにより、例えば、図12に示すマクロピクセル71において、影71xに対応する領域が黒、部分領域71a、71b、71c、及び71dの影71xを除く領域が白となる。
ラベリング処理とは、連結している画素で同じ色情報を持った集合に同一のラベル番号を付加する処理である。例えば、まず、マクロピクセル71において、ラベルが付加されていない画素に対し新しいラベル番号を付加する。次に、新しいラベル番号を付加した画素と連結して同じ色情報を有する画素に対し同じラベル番号を付加する。次に、同じラベル番号を付加した画素と連結して同じ色情報有する画素に対して同じラベル番号を付加する。
上記操作を繰り返すことにより、一つの連結成分に同じラベル番号が付加される。次に、ラベル番号が付加されていない画素に対して同様の処理を行い、全画素にラベル番号が付加されたとき、ラベリング処理は終了する。ラベリング処理を行うことにより、例えば、部分領域71a、71b、71c、及び71dの影71xを除く領域に各々ラベル番号1、2、3、及び4が付加され、影71xに対応する領域にラベル番号0が付加される。以上により、各領域の同定が完了する。
つまり、移動手段80によるフィルタ部30(又は、フィルタ部30及びフィルタ保持部40)の移動にともなってフィルタの境界部の像が各マクロピクセル中を移動した場合に、各マクロピクセル中のフィルタ31〜34に対応する画素領域が認識された。
次に、ステップS305において、実際に光情報を測定したい被写体を撮像装置10Bで撮像し、ライトフィールド画像を取得する。そして、ラベリング処理した部分領域71a、71b、71c、及び71dについて(ラベル番号1、2、3、及び4が付加された各画素領域について)、それぞれ画素値の平均値を算出する(平均値算出処理)。なお、ステップS304の二値化処理及びラベリング処理、並びにステップS305の平均値算出処理は、全てのマクロピクセルについて行う。
次に、ステップS306において、図14のステップS205及び図15と同様にして電気信号の再配列を行い、ステップS307において、フィルタ31〜34に対応する異なる光情報を含む複数の2次元画像を形成する。
なお、二値化処理及びラベリング処理、並びに平均値算出処理は、例えば、画像処理手段90の図示しないROM等に記録されたプログラムがメインメモリに読み出されてCPUにより実行されることによって、自動的に行うことが可能である。但し、二値化処理及びラベリング処理、並びに平均値算出処理は、画像処理手段90を構成するハードウェアのみにより、自動的に行うようにしてもよい。二値化処理を行わずに、モニタに映した画像を見ながら手動でラベリング処理を行う方法も考えられるが、手間がかかるため、画像処理手段90により自動化することが好ましい。
このようにして、第6の実施の形態では、画像処理手段90が、移動手段80によるフィルタ部30の移動にともなってフィルタの境界部の像が各マクロピクセル中を移動した場合に、各マクロピクセル中のフィルタ31〜34に対応する画素領域を認識する。そして、画像処理手段90が、認識した画素領域から得られるフィルタ31〜34に対応する異なる光情報に基づいて、フィルタ31〜34に対応する異なる光情報を含む複数の2次元画像を形成する。
つまり、画像処理手段90が、移動手段80によるフィルタ部30の移動にともなって各マクロピクセル中を移動するフィルタの境界部の像に対応して、各マクロピクセルにおいて異なる光情報を受光する領域を変化させる。これにより、移動手段80によりフィルタ部30が移動した場合にも、異なる光情報を含む複数の2次元画像を形成できる。
以上、好ましい実施の形態について詳説したが、上述した実施の形態に制限されることはなく、特許請求の範囲に記載された範囲を逸脱することなく、上述した実施の形態に種々の変形及び置換を加えることができる。
例えば、フィルタ部30は分光情報を取得するフィルタには限定されず、例えば偏光情報を取得するフィルタ等としても構わない。又、各実施の形態は、適宜組み合わせることができる。
10、10A、10B、10C 撮像装置
20 第1のレンズ
30 フィルタ部
31、32、33、34 フィルタ
31x、32x 面取り
40 フィルタ保持部
41 枠部
42 押さえ部
42x 開口部
50 第2のレンズ
60 レンズアレイ
60A ピンホールアレイ
61 マイクロレンズ
61x 開口部
70 撮像素子アレイ
71 マクロピクセル
71a、71b、71c、71d 部分領域
71x、71y、71z 影
80 移動手段
81、82 ねじ
83、84 弾性体
90 画像処理手段
100 被写体
110 固定部
111 板状部
112 立設部
150 2次元画像
特開2003−47588号公報

Claims (10)

  1. 被写体から出射する光線を捕捉する撮像レンズと、
    前記撮像レンズを介して入射する前記光線から、各々が異なる光情報を有する光線を生成するフィルタが複数個配置されたフィルタ部と、
    前記撮像レンズを介して入射する前記光線が前記フィルタ部を通過する領域において、隣接する前記フィルタの境界部が露出するように前記フィルタを保持するフィルタ保持部と、
    前記フィルタを通過した前記異なる光情報を有する光線を、各々複数の領域に分割する領域分割手段と、
    前記領域分割手段により複数の領域に分割された各光線を受光して画像情報を出力する撮像素子アレイと、を有する撮像装置。
  2. 前記フィルタ部を、前記撮像レンズを介して入射する前記光線の光軸に垂直な方向に移動させる移動手段を有する請求項1記載の撮像装置。
  3. 複数の領域に分割された前記各光線は、前記撮像素子アレイの前記各光線に対応する領域である各マクロピクセルにより受光され、
    前記移動手段による前記フィルタ部の移動にともなって前記フィルタの境界部の像が前記各マクロピクセル中を移動した場合に、前記各マクロピクセル中の各々の前記フィルタに対応する画素領域を認識し、認識した前記画素領域から得られる前記異なる光情報に基づいて、前記異なる光情報を含む複数の2次元画像を形成する画像処理手段を有する請求項2記載の撮像装置。
  4. 前記フィルタ部及び前記フィルタ保持部は、移動自在な状態で固定部に保持され、
    前記移動手段は、前記フィルタ部及び前記フィルタ保持部を、前記固定部に対して、前記光軸に垂直な方向に移動させる請求項2又は3記載の撮像装置。
  5. 前記フィルタ部は、移動自在な状態で前記フィルタ保持部に保持され、
    前記移動手段は、前記フィルタ部を、前記フィルタ保持部に対して、前記光軸に垂直な方向に移動させる請求項2又は3記載の撮像装置。
  6. 前記移動手段は、前記フィルタ保持部を前記光軸に垂直な所定方向に押圧して、前記フィルタ部及び前記フィルタ保持部を前記光軸に垂直な方向に移動させるねじと、
    前記光軸に平行な方向から視て、前記フィルタ保持部を介して前記ねじと対向する位置に配置され、前記ねじの押圧に対して前記所定方向に収縮する弾性体と、を有し、
    前記フィルタ保持部は、前記ねじと前記弾性体に挟まれて保持されている請求項4記載の撮像装置。
  7. 前記移動手段は、前記フィルタ部を前記光軸に垂直な所定方向に押圧して、前記フィルタ部を前記光軸に垂直な方向に移動させるねじと、
    前記光軸に平行な方向から視て、前記フィルタ部を介して前記ねじと対向する位置に配置され、前記ねじの押圧に対して前記所定方向に収縮する弾性体と、を有し、
    前記フィルタ部は、前記ねじと前記弾性体に挟まれて保持されている請求項5記載の撮像装置。
  8. 前記フィルタ保持部は、隣接する前記フィルタの境界部を露出する開口部を有し、
    前記撮像レンズを介して入射する前記光線は、前記開口部を通過する請求項1乃至7の何れか一項記載の撮像装置。
  9. 前記フィルタ保持部は、前記フィルタの各々の入射側の面又は出射側の面の少なくとも一方の面と接して前記フィルタの各々を押さえる押さえ部を有し、
    前記開口部は、前記押さえ部に形成されている請求項8記載の撮像装置。
  10. 隣接する前記フィルタの境界部には面取りが施されていない請求項1乃至9の何れか一項記載の撮像装置。
JP2012267244A 2012-03-09 2012-12-06 撮像装置 Expired - Fee Related JP6060659B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2012267244A JP6060659B2 (ja) 2012-03-09 2012-12-06 撮像装置
CN201310087399.7A CN103312950B (zh) 2012-03-09 2013-03-08 摄像装置

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2012053792 2012-03-09
JP2012053792 2012-03-09
JP2012267244A JP6060659B2 (ja) 2012-03-09 2012-12-06 撮像装置

Publications (2)

Publication Number Publication Date
JP2013214950A true JP2013214950A (ja) 2013-10-17
JP6060659B2 JP6060659B2 (ja) 2017-01-18

Family

ID=49587974

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012267244A Expired - Fee Related JP6060659B2 (ja) 2012-03-09 2012-12-06 撮像装置

Country Status (1)

Country Link
JP (1) JP6060659B2 (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015109523A (ja) * 2013-12-03 2015-06-11 株式会社リコー 撮像装置、調整装置および調整方法
JP2015175784A (ja) * 2014-03-17 2015-10-05 株式会社リコー 測定装置、色情報取得装置及び製造方法
US9420242B2 (en) 2014-05-07 2016-08-16 Ricoh Company, Ltd. Imaging device and exposure adjusting method
US9609292B2 (en) 2014-03-04 2017-03-28 Ricoh Company, Limited Imaging device, adjusting device, and adjusting method
JP2017169202A (ja) * 2015-01-09 2017-09-21 株式会社リコー プレノプティック・イメージング・システムのオブジェクト空間較正
KR101917341B1 (ko) * 2017-10-31 2018-11-09 한국기초과학지원연구원 이미지 센서용 렌즈 어레이
EP4113080A4 (en) * 2020-02-28 2023-11-29 Panasonic Intellectual Property Management Co., Ltd. IMAGING DEVICE

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7433042B1 (en) * 2003-12-05 2008-10-07 Surface Optics Corporation Spatially corrected full-cubed hyperspectral imager
US20090135282A1 (en) * 2007-11-27 2009-05-28 Commissariat A L'energie Atomique Visible imaging device with a colour filter
JP5418932B2 (ja) * 2010-11-16 2014-02-19 株式会社ニコン マルチバンドカメラ及びマルチバンド画像撮像方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7433042B1 (en) * 2003-12-05 2008-10-07 Surface Optics Corporation Spatially corrected full-cubed hyperspectral imager
US20090135282A1 (en) * 2007-11-27 2009-05-28 Commissariat A L'energie Atomique Visible imaging device with a colour filter
JP5418932B2 (ja) * 2010-11-16 2014-02-19 株式会社ニコン マルチバンドカメラ及びマルチバンド画像撮像方法

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015109523A (ja) * 2013-12-03 2015-06-11 株式会社リコー 撮像装置、調整装置および調整方法
US9609292B2 (en) 2014-03-04 2017-03-28 Ricoh Company, Limited Imaging device, adjusting device, and adjusting method
JP2015175784A (ja) * 2014-03-17 2015-10-05 株式会社リコー 測定装置、色情報取得装置及び製造方法
US9420242B2 (en) 2014-05-07 2016-08-16 Ricoh Company, Ltd. Imaging device and exposure adjusting method
JP2017169202A (ja) * 2015-01-09 2017-09-21 株式会社リコー プレノプティック・イメージング・システムのオブジェクト空間較正
KR101917341B1 (ko) * 2017-10-31 2018-11-09 한국기초과학지원연구원 이미지 센서용 렌즈 어레이
EP4113080A4 (en) * 2020-02-28 2023-11-29 Panasonic Intellectual Property Management Co., Ltd. IMAGING DEVICE

Also Published As

Publication number Publication date
JP6060659B2 (ja) 2017-01-18

Similar Documents

Publication Publication Date Title
JP6060659B2 (ja) 撮像装置
CN103037180B (zh) 图像传感器和摄像设备
JP5879549B2 (ja) ライトフィールド撮像装置、および画像処理装置
JP4967873B2 (ja) 撮像装置
JP5672989B2 (ja) 撮像装置
JP5716465B2 (ja) 撮像装置
CN103168272B (zh) 进深推定摄像装置以及摄像元件
US9621773B2 (en) Optical imaging apparatus, in particular for computational imaging, having further functionality
JP5842146B2 (ja) 固体撮像装置、撮像装置、及び分光素子
JP6119193B2 (ja) 距離測定装置及び距離測定方法
CN102948153A (zh) 双传感器成像系统
US20140125810A1 (en) Low-profile lens array camera
JP2021103766A (ja) イメージ装置及びイメージ検出方法
JP2014164174A (ja) 固体撮像装置、携帯情報端末、および固体撮像システム
CN105684436A (zh) 摄像元件以及摄像装置
JP5115068B2 (ja) 撮像装置
WO2013114895A1 (ja) 撮像装置
JP5950128B2 (ja) 固体撮像装置
WO2013057859A1 (ja) 撮像素子
CN112335049B (zh) 成像组件、触摸屏、摄像模组、智能终端、相机和距离测量方法
US11889186B2 (en) Focus detection device, focus detection method, and image capture apparatus
JP5874334B2 (ja) 画像処理装置、撮像装置、画像処理プログラムおよび撮像装置の制御プログラム
US20220413258A1 (en) Imaging apparatus, information processing method, program, and interchangeable lens
JP2015207815A (ja) 撮像素子および撮像素子を備えた撮像装置
CN103312950A (zh) 摄像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20151112

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160804

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160906

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161026

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20161115

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20161128

R151 Written notification of patent or utility model registration

Ref document number: 6060659

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees