JP4211319B2 - 撮像装置 - Google Patents

撮像装置 Download PDF

Info

Publication number
JP4211319B2
JP4211319B2 JP2002237559A JP2002237559A JP4211319B2 JP 4211319 B2 JP4211319 B2 JP 4211319B2 JP 2002237559 A JP2002237559 A JP 2002237559A JP 2002237559 A JP2002237559 A JP 2002237559A JP 4211319 B2 JP4211319 B2 JP 4211319B2
Authority
JP
Japan
Prior art keywords
imaging
lens
point
image
imaging means
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2002237559A
Other languages
English (en)
Other versions
JP2003162018A (ja
Inventor
功一 吉川
茂 田島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2002237559A priority Critical patent/JP4211319B2/ja
Publication of JP2003162018A publication Critical patent/JP2003162018A/ja
Application granted granted Critical
Publication of JP4211319B2 publication Critical patent/JP4211319B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B13/00Optical objectives specially designed for the purposes specified below
    • G02B13/06Panoramic objectives; So-called "sky lenses" including panoramic objectives having reflecting surfaces

Description

【0001】
【発明の属する技術分野】
本発明は、全天(全方位)等の広い範囲を撮像することができる撮像装置に係わる。
【0002】
【従来の技術】
周知のように、多数のビデオカメラを1つの筐体に収納して、全方位或いは全周を同時に撮影するカメラが種々開発されている。
【0003】
即ち、例えば空間のある一点を視点として水平面上でその周囲を撮像してパノラマ画像等の広範囲の画像を得るには、図8及び図9に示すように、点Iを中心としてその周囲に4個のビデオカメラ1,2,3,4を等間隔に配置する共に、それぞれのビデオカメラ1,2,3,4のレンズ5,6,7,8の光軸を放射方向に向けて固定している。
【0004】
これら4つのカメラ1,2,3,4により、撮影領域9の一部10をオーバーラップさせて、オーバーラップした個所をつなぎ合わせることにより、全周360度の画像を撮影することを可能にする。
【0005】
【発明が解決しようとする課題】
しかしながら、上述の従来の撮像装置にあっては、ビデオカメラ1,2,3,4の水平画角は90°以上必要であり、図9に示す2つのビデオカメラ3,4の撮像領域9がオーバーラップした領域10で、いわゆるパララックス(視差)を発生する。
【0006】
カメラから被写体までの距離により、このパララックスの値が異なるので、カメラ3とカメラ4でそれぞれ撮像した画像を張り合わせる際には、オーバーラップした領域10内の画像のどの位置を基準とするかによって、張り合わせて得られる画像が変わってくる。
即ちパララックスのある画像において、実用的な張り合わせを実施するには、画像のどの部分が重要であるかを編集者が眼で見て判断して、その位置を基準とする必要がある。このため、動画の張り合わせを自動化することは困難であり、撮像した画像の処理の自動化の大きな障害となっている。
【0007】
上述した問題の解決のために、本発明においては、パララックスの発生を抑制することにより、複数のカメラから広い範囲の画像を得ることができる撮像装置を提供するものである。
【0008】
【課題を解決するための手段】
本発明の撮像装置は、広範囲の被写体を分割した複数の各分割被写部をそれぞれ個別に複数の撮像手段によって撮影し、各撮像手段からの映像情報を入力した処理手段によって1つの映像に張り合わせ処理するものであって、撮像手段が、レンズ及びこのレンズを通過した光線を検知する撮像素子を備え、撮像手段のレンズの開口絞りの中心を通る主光線中、ガウス領域に位置する主光線を選択し、この選択された主光線の物空間における直線成分を延長して光軸と交わる点をNP点と定義したときに、各撮像手段においてNP点が撮像素子より後方に設定され、かつ複数の撮像手段の各NP点を略一致させたものである。
【0009】
上述の本発明の撮像装置の構成によれば、各撮像手段においてNP点が撮像素子より後方に設定されていることにより、各撮像手段の光学系が他の撮像手段の光路をさえぎらない。また、複数の撮像手段の各NP点を略一致させたことにより、各撮像手段の間のパララックスをなくすことが可能になる。
【0010】
【発明の実施の形態】
本発明は、広範囲の被写体を分割した複数の各分割被写部をそれぞれ個別に複数の撮像手段によって撮影し、各撮像手段からの映像情報を入力した処理手段によって1つの映像に張り合わせ処理する撮像装置であって、撮像手段が、レンズ及びこのレンズを通過した光線を検知する撮像素子を備え、撮像手段のレンズの開口絞りの中心を通る主光線中、ガウス領域に位置する主光線を選択し、この選択された主光線の物空間における直線成分を延長して光軸と交わる点をNP点と定義したときに、各撮像手段においてNP点が撮像素子より後方に設定され、かつ複数の撮像手段の各NP点を略一致させた撮像装置である。
【0012】
また本発明は、上記撮像装置において、さらに、各撮像手段において、レンズ及び撮像素子とを有する光学系が、NP点とレンズの各方向の外周部とを通る直線からなる空間に内包されるように配置された構成とする。
【0013】
まず、本発明の具体的な実施の形態に先立ち、本発明の概要を説明する。
【0014】
ビデオカメラ等に用いられているレンズは、複数のレンズを組み合わせて色収差や像面湾曲、フレアなどの収差をできるだけ少なくするように設計されている。このようなレンズは、原理的には図1に示すような薄い1枚の凸レンズ201で構成されており、この凸レンズ201の焦点位置に、CCDやMOS等の固体撮像素子によるビデオ用撮像デバイス、あるいは銀塩カメラの場合であればフィルムである撮像素子202が配置されている。
そして、このような基本構造の撮像装置において、画角αは、凸レンズ201による屈折分を無視すると、ほぼ撮像素子202の直径d1と、凸レンズ201と撮像素子202との間の距離d4(焦点距離)により決定され、tan(α/2)=(d1/2)/(d4)の式で表すことができる。
【0015】
従って、このようなカメラを用いて被写体を撮影するときに、仮に凸レンズ201の内部中心に位置する後述のNP点(ノンパララックス点)203を中心として回転させながら撮像すれば、それにより得られた複数の画像間にパララックスは発生しない。
【0016】
ここでNP点とは、本願の発明者らが光学系の基本的な考えに基づいて、複数の画像をつなぎ合わせた場合に生じるパララックスを如何に減少させることができるかを多くの実験を積み重ねた結果として検出されたもので、図2に示すように、物体で反射した光が等価凸レンズ300を介して撮像部301に像を結ぶ状態の場合で説明する。
【0017】
即ち等価凸レンズ300は、複数のレンズ302〜308によって構成され、開口絞り309がレンズ304とレンズ305の間に設けられている。
尚、図2中321は鏡胴を示し、322はカメラを示す。
【0018】
そして、開口絞り309の中心を通る無数の主光線のうち、光軸310に最も近い領域、つまり収差が最も小さいガウス領域を通る主光線311を選択する。
この主光線311のうちの物空間312における直線部分を延長して光軸310と交わる点をNP点(ノンパララックス点)313として設定したものである。
【0019】
そして、このNP点313の存在を検証した上で、さらに複数のカメラを用いた場合即ち1つのカメラを回転させる代わりに、同時に複数のカメラを用いて撮像する場合に応用した。
図1に示した1つの凸レンズ201ではNP点203の位置は制約されたポイントのみとなるため、複数のカメラをそれぞれのNP点203を共通するように配置することは物理的に不可能である。
これに対して、図2に示す等価凸レンズ300のように複数のレンズを組み合わせることによって、NP点313をほぼ光軸310の延長線上の任意の位置に設定することが可能になることを見出した。
【0020】
同時に複数のカメラを用いて撮像する場合に、それぞれのNP点を一致させる構成としては、例えば図2に示した複数のレンズ間(302−303)の空中にNP点313を位置させる構成、あるいは図示しないがレンズの前段にミラーを設置してミラーで反射させた光をカメラで撮像すると共に各カメラのNP点の虚像の位置を一致させる構成が考えられる。
【0021】
しかしながら、いずれの構成でもカメラの撮像素子と信号処理回路部が物理的障害となり、全方位を撮影することが不可能となっていた。
即ちNP点が図2に示したようにレンズの中にある場合に、図3に示すように各カメラのNP点12を一点に一致させたとする。図3は、4つのカメラのそれぞれの便宜的な画角14,15,16,17とその境界線10,11を示している。
【0022】
この場合、図3に示す1つのカメラ13(画角14)の撮像素子や信号処理回路部が入った部分が他のカメラの撮像範囲(画角16)と物理的に干渉してしまう。このため、干渉する部分の画像が得られず、全方位の画像を得ることができなくなってしまう。
【0023】
尚、カメラの光軸をずらして、カメラを縦方向に重ねることは可能であるが、これでは画像が垂直方向にずれたものとなってしまう。
【0024】
そこで、本発明は、各カメラにおいてそのNP点を撮像素子より後方に配置すると共に、所定の半径領域(球形領域)内に全てのカメラのNP点を位置させるようにしたものである。これによって、カメラ画像間にパララックスは発生しない。
【0025】
そして、上述のようにNP点を撮像素子より後方にするには、複数のレンズを組み合わせて、テレフォト型(望遠型)の光学系を構成すればよい。
テレフォト型の光学系を構成して、NP点を撮像素子より後方にするには、例えば物空間側(被写体側)に凸レンズ作用(収束作用)を有するレンズを配置すると共に、像空間側(撮像素子側)に凹レンズ作用(発散作用)を有するレンズを配置すればよい。
【0026】
続いて本発明の具体的な実施の形態を説明する。
本発明の撮像装置の一実施の形態として、撮像装置を構成する単位の撮像部の概略構成図を図4に示す。
この撮像部は、複数のレンズから成る撮像レンズ群21と、開口絞り22と、撮像素子23と、信号処理部24とを有してなり、撮像レンズ群21及び開口絞り22が鏡筒(鏡胴)25内に収納されて構成されている。
【0027】
そして、撮像レンズ群21のうち、物空間側(被写体側)にある前玉のレンズ群28が凸レンズ作用(収束作用)を有し、前述したテレフォト型(望遠型)の光学系を構成している。
これにより、NP点26を撮像素子23より後方に位置させることができる。
【0028】
さらに、前玉のレンズ28aの外周部とNP点26とを直線27A,27Bで結んだ空間内に鏡筒(鏡胴)25及び信号処理部24が収まるように設計することにより、この空間内にビデオカメラを配置することが可能となる。
【0029】
従って、図4に示した撮像部を、それぞれのNP点26を略一致させるように複数配置させることにより、撮像素子23及び信号処理部分24が他のカメラの光路を遮ることがなくなり、上下左右全方位360度の映像をパララックスなしで撮影することが可能になる。
【0030】
各撮像部のNP点を略一致させることは、具体的には所定の半径領域(球体)内に各撮像部のNP点を設定することに相当する。
パララックスをなくして各撮像部が撮像した画像を張り合わせるためには、少なくとも各撮像部のNP点が半径約50mmの領域(球体)内に配置されるように構成し、より好ましくは各撮像部のNP点が半径約20mmの領域(球体)内に配置されるように構成する。
【0031】
図4に示した撮像部を、それぞれのNP点26を略一致させるように複数配置させた構成の撮像装置の一形態を図5に示す。
図5に示す撮像装置は、前玉のレンズ28の外周が五角形となっているテレフォト型の光学系を組み立てて、正12面体とした場合を示す。
この撮像装置は、正12面体の12面のうち、底面は支柱43の取り付けや各カメラの信号線(図示せず)の引き出しに用い、残りの11面の各面に1個ずつ合計11個の光学系(図4参照)を配置して構成されている。
【0032】
この構成から明らかなように、多面体上に光学系を配置することにより、ほとんど全天球を撮像するカメラシステムが構成できる。
【0033】
尚、多面体としては図5に示した正12面体に限らず、正6面体(立方体)や正20面体でもよい。
また、多面体は正多面体が設計しやすいが、光学系の設計により、必ずしも正多面体でなくともよい。
【0034】
上述の本実施の形態の構成によれば、複数の撮像部のNP点26を略一致させることにより、各撮像部の画像のパララックスをなくすことができる。
また、複数の撮像部により、広い範囲、図5の構成によればほぼ全方位を撮像することが可能になる。
従って、パララックスをなくし、かつ全方位を撮影することができる。
【0035】
また、複数の撮像部により撮像領域を分担して撮像するため、各カメラにおいて高い解像度で撮像することにより、広い範囲を高い解像度で撮像することが可能になる。
【0036】
本発明の撮像装置の他の実施の形態として、撮像装置を構成する単位の撮像部の概略構成図を図6に示す。
この撮像部は、凹面鏡50と、凹レンズ51と、開口絞り55と、撮像素子52と、信号処理部53とを有して構成されている。
そして、外部からの光を凹面鏡50で反射させて凹レンズ51に入射させるようにしている。
【0037】
この撮像部の構成によれば、凹面鏡50により外部からの光が反射されると共に収束されるので、この凹面鏡50は凸レンズ作用(収束作用)を有している。従って、凹面鏡50と凹レンズ51他の屈折光学系とによって、テレフォト型の光学系を構成することができ、NP点56を凹面鏡50より後ろに位置させることが可能になる。
この構成により、1つの撮像装置が占有する空間は、凹面鏡50の外周部と、NP点56を結んだ空間内、つまり直線54a,54bの内側の空間になる。
【0038】
そして、この図6に示す撮像部がNP点56を略一致するように複数配置されることにより、撮像素子52及び信号処理部分53が他のカメラの光路を遮ることなく、上下左右全方位360度の映像をパララックスなしで撮影することができる。
【0039】
図6に示した撮像部を、それぞれのNP点56を略一致させるように複数配置させた構成の撮像装置の一形態を図7に示す。
図7に示す撮像装置は、正五角形の凹面鏡58と屈折光学系60(レンズ)を有するテレフォト型の光学系を組み立てて、正12面体とした場合を示す。
この撮像装置は、正12面体の12面のうち、底面は支柱57の取り付けや各カメラの信号線(図示せず)の引き出しに用い、残りの11面の各面に1個ずつ合計11個の光学系(図6参照)を配置して構成されている。図中59は屈折光学系60を支えるステー、61はビデオカメラ62を支えるステーである。
【0040】
この構成から明らかなように、多面体上に光学系を配置することにより、ほとんど全天球を撮像するカメラシステムが構成できる。
【0041】
尚、多面体としては図7に示した正12面体に限らず、正6面体(立方体)や正20面体でもよい。
また、多面体は正多面体が設計しやすいが、光学系の設計により、必ずしも正多面体でなくともよい。
【0042】
上述の本実施の形態によれば、先の実施の形態と同様に、複数の撮像部のNP点56を略一致させることにより、各撮像部の画像のパララックスをなくすことができ、かつ広い範囲、図7の構成によればほぼ全方位を撮像することが可能になる。
従って、パララックスをなくし、かつ全方位を撮影することができる。
【0043】
また、複数の撮像部により撮像領域を分担して撮像するため、各カメラにおいて高い解像度で撮像することにより、広い範囲を高い解像度で撮像することが可能になる。
【0044】
また、本実施の形態では、撮像素子52及び信号処理部53を多面体の内部に設けず多面体の外部に配置しているため、多面体の大きさの制約が緩和され、多面体の小型化を図ることができる。
【0045】
上述の各実施の形態では、NP点を略一致させた各撮像部により、多面体を構成して、ほぼ全天の撮像を行う構成を示したが、その他の構成にも本発明を適用することができる。
【0046】
例えば全天のうち一部例えば前方の半球領域をNP点を略一致させた複数の撮像部により撮像する構成としてもよい。また、さらに他の方向はNP点の位置が異なる撮像部により撮像するように組み合わせてもよい。
【0047】
また、例えば、各撮像部を水平面に配置して、水平方向の帯状の領域を360度撮像するように構成してもよい。
【0048】
本発明は、上述の実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲でその他様々な構成が取り得る。
【0049】
【発明の効果】
上述の本発明によれば、各撮像部間においてパララックスをなくし、かつ他の撮像部の光路をさえぎらないようにすることができる。
これにより、広い範囲例えば全方位を撮影することができる。
【0050】
また、複数のレンズ及びカメラを使用して撮像領域を分担して撮像するため、各カメラで高い解像度で撮像することにより、広い範囲を高い解像度で撮像することが可能になる。
【図面の簡単な説明】
【図1】本発明の撮像装置の原理を説明するための図である。
【図2】本発明の撮像装置の原理を説明するための図である。
【図3】NP点がレンズの中にある場合を示した平面図である。
【図4】本発明の一実施の形態の撮像装置を構成する撮像部の概略構成図である。
【図5】図4の撮像部を複数配置させた構成の撮像装置の一形態を示す図である。
【図6】本発明の他の実施の形態の撮像装置を構成する撮像部の概略構成図である。
【図7】図6の撮像部を複数配置させた構成の撮像装置の一形態を示す図である。
【図8】従来の撮像装置の概略構成図である。
【図9】図8の撮像装置の平面図である。
【符号の説明】
22,55 開口絞り、23,52 撮像素子、24,53 信号処理部、26,56 NP点、28 (前玉の)レンズ、50,58 凹面鏡、62 ビデオカメラ

Claims (2)

  1. 広範囲の被写体を分割した複数の各分割被写部をそれぞれ個別に複数の撮像手段によって撮影し、該各撮像手段からの映像情報を入力した処理手段によって1つの映像に張り合わせ処理する撮像装置であって、
    上記撮像手段が、レンズ及び該レンズを通過した光線を検知する撮像素子を備え、
    上記撮像手段の上記レンズの開口絞りの中心を通る主光線中、ガウス領域に位置する主光線を選択し、該選択された主光線の物空間における直線成分を延長して光軸と交わる点をNP点と定義したときに、
    各上記撮像手段において、上記NP点が上記撮像素子より後方に設定され、
    かつ上記複数の撮像手段の各NP点を略一致させた
    ことを特徴とする撮像装置。
  2. 上記各撮像手段において、上記レンズ及び上記撮像素子とを有する光学系が、上記NP点と上記レンズの各方向の外周部とを通る直線からなる空間に内包されるように配置されていることを特徴とする請求項1に記載の撮像装置。
JP2002237559A 2001-08-17 2002-08-16 撮像装置 Expired - Fee Related JP4211319B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002237559A JP4211319B2 (ja) 2001-08-17 2002-08-16 撮像装置

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2001-248100 2001-08-17
JP2001248100 2001-08-17
JP2002237559A JP4211319B2 (ja) 2001-08-17 2002-08-16 撮像装置

Publications (2)

Publication Number Publication Date
JP2003162018A JP2003162018A (ja) 2003-06-06
JP4211319B2 true JP4211319B2 (ja) 2009-01-21

Family

ID=26620623

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002237559A Expired - Fee Related JP4211319B2 (ja) 2001-08-17 2002-08-16 撮像装置

Country Status (1)

Country Link
JP (1) JP4211319B2 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4288939B2 (ja) * 2002-12-05 2009-07-01 ソニー株式会社 撮像装置
JP2005283616A (ja) * 2004-03-26 2005-10-13 Softopia Japan Foundation 撮像装置
JP2006030664A (ja) 2004-07-16 2006-02-02 Sony Corp 撮像装置
JP4386021B2 (ja) 2005-10-11 2009-12-16 ソニー株式会社 撮像装置
JP4345829B2 (ja) 2007-03-09 2009-10-14 ソニー株式会社 画像表示システム、画像表示装置、画像表示方法およびプログラム
CA2953337C (en) 2014-05-06 2023-04-11 Zakariya NIAZI Imaging system, method, and applications
WO2018193713A1 (ja) * 2017-04-21 2018-10-25 ソニー株式会社 撮像装置

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0497334A (ja) * 1990-08-15 1992-03-30 Kichijin:Kk 三面マルチ撮影方法とその装置
JP3523667B2 (ja) * 1993-08-24 2004-04-26 オリンパス株式会社 複眼式光学系
JP3478687B2 (ja) * 1996-11-15 2003-12-15 キヤノン株式会社 複眼撮像装置
JPH11122521A (ja) * 1997-08-11 1999-04-30 Sony Corp ディジタル撮像装置および撮像方法
JP2002229138A (ja) * 2001-02-06 2002-08-14 Sony Corp 撮像装置
JP2002320124A (ja) * 2001-02-13 2002-10-31 Sony Corp 撮像装置

Also Published As

Publication number Publication date
JP2003162018A (ja) 2003-06-06

Similar Documents

Publication Publication Date Title
WO2003017646A1 (fr) Dispositif d'imagerie
US7006123B2 (en) Wide range image pickup apparatus and arrangement for suppressing the appearance of parallax
KR100983625B1 (ko) 촬상장치
JP4259541B2 (ja) パノラマ撮像装置
JP4386021B2 (ja) 撮像装置
JP2006279538A (ja) 撮像装置
JP2008294819A (ja) 撮像装置
JP2022116089A (ja) 撮像システム、方法及び用途
JP4051945B2 (ja) 撮像装置
JP4211319B2 (ja) 撮像装置
JP2002320124A (ja) 撮像装置
JP2005283616A (ja) 撮像装置
WO2006009088A1 (ja) 撮像装置
JP2002229138A (ja) 撮像装置
JP2009080410A (ja) 光学系及びそれを用いた内視鏡
JP2004080088A (ja) 撮像装置
JP2000023199A (ja) 複眼撮像装置
KR101469361B1 (ko) 초광각 파노라마 영상 촬영 장치
JP3872250B2 (ja) 広画角撮像装置
JP2001258050A (ja) 立体映像撮像装置
JP2004070002A (ja) 撮像装置
WO2018149488A1 (en) An optical arrangement for focusing images of a three-dimensional space from different perspectives onto one or more camera sensors
JP3669344B2 (ja) 撮像装置
EP3533216A1 (en) An optical arrangement for focusing images of a three-dimensional space from different divergent perspectives onto one or more camera sensors
JPH1164931A (ja) 全周囲画像取得方法並びに全周囲画像入力装置とその製造方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050815

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080207

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080520

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080711

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20081007

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20081020

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111107

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111107

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111107

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121107

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121107

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131107

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees