JP4304973B2 - 撮像装置 - Google Patents
撮像装置 Download PDFInfo
- Publication number
- JP4304973B2 JP4304973B2 JP2002358580A JP2002358580A JP4304973B2 JP 4304973 B2 JP4304973 B2 JP 4304973B2 JP 2002358580 A JP2002358580 A JP 2002358580A JP 2002358580 A JP2002358580 A JP 2002358580A JP 4304973 B2 JP4304973 B2 JP 4304973B2
- Authority
- JP
- Japan
- Prior art keywords
- imaging
- image
- distance
- imaging unit
- subject
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Description
【発明の属する技術分野】
本発明は、レンズと撮像素子を有する撮像部を複数備えて成り、全周等広い範囲を撮影することができる撮像装置に係わる。
【0002】
【従来の技術】
従来から、複数のカメラを用いて、広画角を同時に撮影できる撮像装置が数々提案されている。
【0003】
例えば、角錐ミラーを用いることにより、複数のカメラの視点中心を仮想的に略一致させた撮像装置が提案されている(例えば、特許文献1参照)。
このように角錐ミラーを用いた構成では、光学的に複数のカメラの視点中心が一致しているため、各カメラ間にパララックスを生じず、高品質に複数の画像を繋ぎ合わせることができる。
また、カメラから近い距離の被写体を撮影する場合でも、撮影されない死角が生じることがない。
【0004】
【特許文献1】
特公昭39−8140号公報(第1図)
【0005】
【発明が解決しようとする課題】
しかしながら、上述の構成の撮像装置では、1つのカメラが近距離の被写体にピントを合わせていて、隣の他のカメラが中距離の被写体にピントを合わせている場合には、遠距離の被写体の像倍率が2つのカメラで異なることから、遠距離の被写体に対する像の大きさが違ってくる。
【0006】
上述のように複数のカメラを用いて視点中心を略一致させた撮像装置において、1つのカメラの光路を図5に示す。
図5は、1つのカメラにおいて、レンズを移動させて、近距離の被写体、中距離の被写体、遠距離(無限遠)の被写体にそれぞれピントを合わせた場合の光路を、それぞれ図5A,図5B,図5Cに示している。
【0007】
図5A〜図5Cに示すように、カメラは、レンズとして第1のレンズ群53及び第2のレンズ群54と、これらレンズ群53,54の間に配置された絞り55と、後方に撮像手段51として、例えば撮像素子(CCD固体撮像素子やCMOS型固体撮像素子)やフィルムを備えて構成されている。
なお、このカメラでは、第1のレンズ群53及び第2のレンズ54に、通常使われているレンズ、即ちレンズ通過後の主光線が光軸とは平行でないレンズを用いている。
【0008】
そして、被写体までの距離に応じて、レンズ群53,54と撮像手段51との距離を変化させて、具体的にはレンズ群53,54に対する撮像手段51の相対位置を動かすことにより、撮像手段51上にピントが合った像を結ぶように構成されている。
【0009】
レンズ53,54の画角(図示せず)に対する像の大きさ、即ち撮像領域の両端に対応する像の大きさは、被写体の距離に関わらず、ピントを合わせた被写体の距離が近距離(図5A)、中距離(図5B)、無限遠(図5C)のいずれである場合でも、Y0で一定である。
【0010】
一方、無限遠に位置する被写体の像は、図5Cに示す無限遠にピントを合わせた場合の像の位置と同じ位置、即ち絞り55から距離LFの位置であり、ピントを合わせた被写体の距離に関わらず一定である。
そして、図5Aに示すように、近距離の被写体にピントを合わせた場合には、無限遠に位置する被写体の像の大きさはY1になる。このとき、主光線52はレンズ53,54を通過したあと広がっているため、Y1<Y0となる。
同様に、図5Bに示すように、中距離の被写体にピントを合わせた場合には、無限遠に位置する被写体の像の大きさはY2になる。このときも、主光線52は、レンズ53,54を通過したあと広がるので、Y2<Y0となる。また、レンズ53,54を通過したあとの主光線52の広がる度合いが、近距離の被写体にピントを合わせた場合よりも大きくなるため、Y1<Y2<Y0である。
【0011】
従って、1つのカメラが近距離の被写体にピントを合わせて、隣り合う別のカメラが中距離の被写体にピントを合わせた場合に、背景等の遠距離にある被写体の像の大きさ(即ち像倍率)が異なってくることがわかる。
【0012】
そして、隣り合うカメラで像倍率が大きく異なってくると、これら隣り合うカメラの画像を貼り合わせることが困難になる。
即ち隣り合うカメラの画像同士を、近距離の像が連続するように画像を拡大縮小して調整しようとすると、背景画像が連続しなくなってしまう。一方、遠距離の像が連続するように画像を拡大縮小して調整しようとすると、近距離の像が連続しなくなってしまう。
【0013】
この問題を解決する方法としては、例えば、近距離、中距離、遠距離の映像をそれぞれ距離ごとにオブジェクト化して、このオブジェクト化した映像ごとに画像の拡大縮小を行い、再度重ね合わせる方法が考えられる。
しかしながら、この方法では、近距離から遠距離まで被写体が連続している場合には対応が難しくなり、また処理時間もかかる。
【0014】
撮像素子のサイズが小さく、かつ広角レンズを用いる場合、被写界深度が広くなるため、この問題が顕在化しにくい。
これに対して、狭角レンズ(望遠レンズ等)を用いる場合や、大きな撮像素子を用いる場合には問題となる。
従って、撮影の際に、全てのカメラでフォーカスを揃える必要があり、これが大きな制約となっていた。
【0015】
上述した問題の解決のために、本発明においては、複数の撮像部においてフォーカスを合わせなくても、画像を重ね合わせることができ、複数の撮像部により広い範囲の撮影を行うことができる撮像装置を提供するものである。
【0016】
【課題を解決するための手段】
本発明の撮像装置は、撮像手段と、光を集光して撮像手段に結像させる集光手段とを備えた撮像部を複数有して成り、複数の撮像部の各撮像部において、集光手段と撮像手段との間を通るあらゆる主光線が、集光手段と撮像手段との間を通る光の光軸と略平行であり、集光手段が前方の第1のレンズ群と後方の第2のレンズ群とから成り、第1のレンズ群と第2のレンズ群との間に絞りが配置されているものである。
なお、主光線とは、開口絞りの中心を通る光線のうち光軸を除いた光線として定義されるものである。
【0017】
本発明の撮像装置は、撮像手段と、光を集光して撮像手段に結像させる集光手段とを備えた撮像部を複数有して成り、複数の撮像部の各撮像部において、集光手段と撮像手段との間を通るあらゆる主光線が、集光手段と撮像手段との間を通る光の光軸となす角度の絶対値をαとしたとき、0<α<10度であり、集光手段が前方の第1のレンズ群と後方の第2のレンズ群とから成り、第1のレンズ群と第2のレンズ群との間に絞りが配置されているものである。
【0018】
上述の本発明の撮像装置の構成によれば、複数の撮像部の各撮像部において、集光手段と撮像手段との間を通るあらゆる主光線を、集光手段と撮像手段との間を通る光の光軸と略平行とすることにより、或いはあらゆる主光線の、集光手段と撮像手段との間を通る光の光軸となす角度の絶対値αを0<α<10度とすることにより、複数の撮像部において、像倍率を略一致させる、或いは像倍率の差を非常に小さくすることが可能になる。
【0019】
【発明の実施の形態】
本発明の一実施の形態として、撮像装置を構成する1つの撮像部(カメラ)の概略構成図を図1に示す。
そして、図1に示す撮像部(カメラ)10を、後述するように多数配置することにより広い範囲を撮影する撮像装置が構成される。
【0020】
各撮像部10は、図1に示すように、前方の第1のレンズ群3及び後方の第2のレンズ群4と、これらレンズ群3,4の間に配置された絞り5と、後方に撮像手段1として、例えば撮像素子(CCD固体撮像素子やCMOS型固体撮像素子)やフィルムを備えて構成されている。これら各部品1,3,4,5は、図中に示す光軸6に沿って配置されている。
【0021】
そして、被写体までの距離に応じて、レンズ群3,4と撮像手段1との距離を変化させることにより、具体的にはレンズ群3,4に対する撮像手段1の相対位置を動かすことにより、撮像手段1上にピントが合った像を結ぶように構成されている。
【0022】
この撮像部(カメラ)10を多数配置した撮像装置の構成としては、例えば図2Aに平面図、図2Bに図2AのA−Aにおける断面図を示すように、角錐ミラー11を用いて、複数の撮像部10の視点中心20を仮想的に略一致させた構成や、例えば図3に示すように、ミラーを用いないで複数の撮像部10を放射状に配置して視点中心20を一致させた構成が考えられる。
これらいずれの撮像装置の構成においても、後述する本発明による効果が得られるものである。
【0023】
なお、各撮像部(カメラ)10に使用するレンズ3,4や撮像手段1は、後述するように撮像部10毎に異なる構成としてもよいが、全ての撮像部10において同様の構成を共通に使用することができる。
【0024】
本実施の形態の撮像装置においては、特に各撮像部(カメラ)10において、レンズ群3,4と、撮像手段1との間を通るあらゆる主光線2(図4参照)について、光軸6となす角度の絶対値をαとしたとき、αがほぼ0である構成、即ちレンズ群3,4及び撮像手段1の間を通るあらゆる主光線2が光軸6と略平行である構成とする。
主光線2とは、開口絞り5の中心を通る光線のうち光軸6を除いた光線として定義され、これは、Fナンバーを逐次大きくしていったとき、即ち同じレンズ口径で絞りを大きくしていったときに撮像手段1に到達する光線のうち、光軸6を除いた光線に該当する。
【0025】
続いて、本実施の形態の撮像装置において、1つの撮像部(カメラ)10の光路を図4に示す。
この図4では、1つの撮像部10において、レンズを移動させて、近距離の被写体、中距離の被写体、遠距離(無限遠)の被写体にそれぞれピントを合わせた場合の光路を、それぞれ図4A,図4B,図4Cに示している。
なお、図4では撮像部10の1つの断面について光路を示しているため、主光線2は2本ずつしか示されていないが、実際には光軸6の周囲に略円筒状に無数の主光線2が存在する。
【0026】
レンズ3,4の画角(図示せず)に対する像の大きさ、即ち撮像領域の両端に対応する像の大きさは、図5に示した従来のカメラと同様に、被写体の距離に関わらず、ピントを合わせた被写体の距離が近距離(図4A)、中距離(図4B)、無限遠(図4C)のいずれである場合でも、Y0で一定である。
これは、レンズ3,4の画角と焦点距離fが、ピントの状態に関わらず、一定であるからである。
【0027】
また、無限遠に位置する被写体の像は、図4Cに示す無限遠にピントを合わせた場合の像の位置と同じ位置、即ち絞り5から距離LFの位置であり、ピントを合わせた被写体の距離に関わらず一定である。
そして、図4Aに示すように、近距離の被写体にピントを合わせた場合には、無限遠に位置する被写体の像の大きさはY3になる。このとき、主光線2は光軸6と略平行であるため、Y3=Y0となる。
同様に、図4Bに示すように、中距離の被写体にピントを合わせた場合には、無限遠に位置する被写体の像の大きさはY4になる。このときも、主光線2は、光軸6と略平行であるため、Y4=Y0となる。
即ち、Y3=Y4=Y0である。
【0028】
このことは、1つの撮像部(カメラ)で近距離の被写体にピントを合わせて、隣り合う別の撮像部(カメラ)で中距離の被写体にピントを合わせた場合においても、これら隣り合う撮像部の各画像において、背景など遠距離にある被写体の像の大きさ(像倍率)が同じであることを意味する。
像倍率が同じであるため、隣り合う撮像部の画像を貼り合わせる際に問題を生じることがない。
【0029】
このとき、隣り合う撮像部10でピントを合わせる被写体の距離が異なることにより、画像のデフォーカスによるボケの発生具合が異なるが、ボケの大きい画像の方にボケの少ない画像を画像処理することにより、ボケの具合を同程度に調整して、画像の繋ぎ目に違和感のないようにすることができる。
この場合の画像処理は、比較的簡単な処理で済むため、短い時間で処理を行うことが可能である。
【0030】
従来は、複数のカメラにおいて、フォーカスを同じ被写体距離にして撮影を行う必要があった。
これに対して、本実施の形態の構成によれば、フォーカスの被写体距離が異なっていても容易に画像処理で画像を重ねあわせることが可能になるため、全ての撮像部のフォーカスを同じ被写体距離にする必要がなくなる。
【0031】
これにより、各撮像部10の設計条件をより自由に設定することが可能になり、例えば撮像手段に大きい撮像素子を用いて解像度を大きくしたり、例えば撮像装置を構成する撮像部(カメラ)10の数をより多くして画素数を増やしたり、例えば撮像部(カメラ)10毎に部品等の構成を異ならせたりすることが可能になる。
解像度を大きくしたり、画素数を増やしたりした場合には、レンズ3,4の被写界深度が狭くなるため、各撮像部10でピントをしっかり合わせる必要が生じるが、本実施の形態の構成によれば、他の撮像部10とピントを合わせる位置を一致させなくてもよいので、それぞれ撮像部10において被写体までの距離に応じてピントを合わせる位置を変えることができる。
従って、解像度を大きくしたり、画素数を増やしたりして、容易に画質を改善することが可能になる。
【0032】
上述の本実施の形態によれば、撮像装置を構成するそれぞれの撮像部10において、第2のレンズ群4を通過した主光線2が光軸6と略平行である構成としたことにより、撮像部10毎にフォーカスの合っているピント位置が異なっていても、像倍率がほぼ同じになるため、隣り合う撮像部10の画像を容易に貼り合わせることができる。
また、撮像部10毎にフォーカスの合っているピント位置が異なっていても像倍率がほぼ同じになるため、各撮像部10の設計条件をより自由に設定することができ、大きい撮像素子を用いたり、撮像部10の数を増やして画素数を増やしたり、撮像部10毎に構成を異ならせることが可能になる。
【0033】
特に、大きい撮像素子を用いたり、撮像部10の数を増やして各撮像部のレンズの画角を狭くしたりした場合には、被写界深度が狭くなるため、各撮像部毎にフォーカスを異なるピント位置に合わせる必要がある。その場合でも、像倍率がほぼ同じになるため、各撮像部でフォーカス位置を一致させなくても隣り合う画像をスムーズにつなぎ合わせることが可能になる。
従って、大きい撮像素子を用いて解像度を大きくしたり、撮像部10を多くして画素数を増やしたりして、容易に画質を改善することが可能になる。
【0034】
また、画像を貼り合わせる際の画像処理が不要になったり、簡略化したりすることが可能になるため、画像を貼り合わせる際に要する時間を短縮することができ、これによりリアルタイムに処理を行うことができるため、生放送に適用することが可能になる。
【0035】
なお、上述の実施の形態では、円筒状の全周の映像を撮影する撮像装置に適用した場合であったが、例えば全方位をカバーしない一部の領域のパノラマ撮影を行う撮像装置、またあらゆる方向を撮像領域とする球状全方位の映像を撮影する撮像装置にも適用することができる。
【0036】
また、上述の実施の形態では、集光手段3,4及び撮像手段1の間に位置するあらゆる主光線2が光軸6と略平行であり、これらあらゆる主光線2が光軸6となす角度の絶対値αをほぼ0とした構成であったが、この角度の絶対値αが充分小さい範囲であれば、本発明の効果が得られる。
【0037】
そして、各撮像部10の画像を貼り合わせる際の画像処理を容易に行うためには、あらゆる主光線2の光軸6となす角度の絶対値αがα<10度を満たすことが望ましい。α=0のときは主光線2が光軸6と平行になる。
例えば、この角度の絶対値α=9度とすることができる。
【0038】
ここで、角度の絶対値αの値を変えて、被写体の像の大きさのずれβの変化を調べた。
水平方向の画角が31度、垂直方向(上下方向)の画角が23度のカメラを用い、撮像素子として水平方向の一辺が8.8mm、垂直方向の一辺が4.4mmであり、水平方向の画素数が720ピクセル、垂直方向の画素数が480ピクセルのCCD撮像素子を用いて、撮像装置の1つの撮像部10を構成した。
そして、無限遠に位置する被写体の像に対して、近距離0.5mに位置する被写体の像の大きさのずれβ〔ピクセル〕を、角度α〔度〕の大きさを変えてそれぞれ求めた。結果を表1に示す。なお、被写体の像の大きさのずれβは、像の大きさのずれ量をピクセル単位に換算したものであるので、小数点以下の数値を有している。
【0039】
【表1】
【0040】
表1より、角度αが10度未満であれば、ずれ量βは8ピクセル以内となる。現状では、水平総画素数が720ピクセルの場合において、隣接する撮像部の画像をブレンドする(張り合わせて画像処理を行う)際に、隣り合う画像の色調やその他の要因で起こる微小なずれを目立たなくすることができるのは、この8ピクセル以内である。8ピクセルを越えるずれがあると、ブレンドしてもずれが残存し、違和感を生じさせることになる。
従って、角度の絶対値αは、α<10度であることが望ましいことがわかる。
【0041】
なお、上述した具体的な形態の画角(水平方向31度程度、垂直方向23度程度)よりも画角が狭いレンズを使用して全方位を撮影する撮像装置を構成すると、撮像部(カメラ)の総数が70個程度以上となるため、実用性が低くなる。
従って、各撮像部は上述した形態と同等の画角もしくはより大きい画角を有することが望ましい。
【0042】
本発明は、上述の実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲でその他様々な構成が取り得る。
【0043】
【発明の効果】
上述の本発明によれば、各撮像部でフォーカスが合わされている被写体までの距離が異なっていても、像倍率をほぼ一致させることができるため、容易に隣り合う撮像部の画像を貼り合わせることができる。
これにより、各撮像部の設計条件をより自由に広く設定することができ、大きい撮像素子を用いて解像度を大きくしたり、撮像部の数を増やして画素数を増やしたりすることにより、画質を向上することが可能になる。また、撮像部毎に構成を異ならせたりすることも可能になる。
従って、本発明によれば、広い範囲の撮影を良好な画質で行うことが可能になる。
【0044】
さらに、本発明によれば、画像を貼り合わせる際に要する時間を短縮することができる。
これにより、リアルタイムに処理を行うことができるため、生放送に適用することが可能になる。
また、撮像装置の構成を簡略化することが可能になる。
【図面の簡単な説明】
【図1】本発明の一実施の形態の撮像装置を構成する1つの撮像部の概略構成図である。
【図2】A、B 図1の撮像部を多数配置して成る撮像装置の一形態の概略構成図である。
【図3】図1の撮像部を多数配置して成る撮像装置の他の形態の概略構成図である。
【図4】図1の撮像部において、ピントを合わせる被写体の距離を変化させたときの光路を示す図である。
A 近距離の被写体にピントを合わせた場合である。
B 中距離の被写体にピントを合わせた場合である。
C 無限遠の被写体にピントを合わせた場合である。
【図5】従来の撮像装置の1つのカメラにおいて、ピントを合わせる被写体の距離を変化させたときの光路を示す図である。
A 近距離の被写体にピントを合わせた場合である。
B 中距離の被写体にピントを合わせた場合である。
C 無限遠の被写体にピントを合わせた場合である。
【符号の説明】
1 撮像手段、2 主光線、3 第1のレンズ群、4 第2のレンズ群、5 絞り、6 光軸、10 撮像部(カメラ)、11 角錐ミラー
Claims (2)
- 撮像手段と、光を集光して前記撮像手段に結像させる集光手段とを備えた撮像部を複数有して成り、
複数の前記撮像部の各撮像部において、前記集光手段と前記撮像手段との間を通るあらゆる主光線が、前記集光手段と前記撮像手段との間を通る光の光軸と略平行であり、
前記集光手段が、前方の第1のレンズ群と、後方の第2のレンズ群とから成り、
前記第1のレンズ群と第2のレンズ群との間に絞りが配置されている
撮像装置。 - 撮像手段と、光を集光して前記撮像手段に結像させる集光手段とを備えた撮像部を複数有して成り、
複数の前記撮像部の各撮像部において、前記集光手段と前記撮像手段との間を通るあらゆる主光線が、前記集光手段と前記撮像手段との間を通る光の光軸となす角度の絶対値をαとしたとき、
0<α<10度であり、
前記集光手段が、前方の第1のレンズ群と、後方の第2のレンズ群とから成り、
前記第1のレンズ群と第2のレンズ群との間に絞りが配置されている
撮像装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002358580A JP4304973B2 (ja) | 2002-12-10 | 2002-12-10 | 撮像装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002358580A JP4304973B2 (ja) | 2002-12-10 | 2002-12-10 | 撮像装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004191593A JP2004191593A (ja) | 2004-07-08 |
JP4304973B2 true JP4304973B2 (ja) | 2009-07-29 |
Family
ID=32758258
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002358580A Expired - Fee Related JP4304973B2 (ja) | 2002-12-10 | 2002-12-10 | 撮像装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4304973B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
NZ725322A (en) * | 2012-04-05 | 2017-12-22 | Magic Leap Inc | Wide-field of view (fov) imaging devices with active foveation capability |
-
2002
- 2002-12-10 JP JP2002358580A patent/JP4304973B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2004191593A (ja) | 2004-07-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9894252B2 (en) | Image processing apparatus, image pickup apparatus, image processing method, and storage medium for reducing noise of an image obtained by combining parallax images | |
JP5066851B2 (ja) | 撮像装置 | |
JP6091176B2 (ja) | 画像処理方法、画像処理プログラム、画像処理装置および撮像装置 | |
JP6584149B2 (ja) | 撮像装置 | |
US20160291545A1 (en) | Holographic three-dimensional display system and method | |
WO2007024709A3 (en) | Cellular phone camera with three-dimensional imaging function | |
JP7057397B2 (ja) | 画像処理装置、撮像装置、画像処理方法、プログラム、および、記憶媒体 | |
JP6003578B2 (ja) | 画像生成方法及び装置 | |
JP5609562B2 (ja) | 立体画像撮像装置 | |
JP6418770B2 (ja) | 画像処理装置、撮像装置、画像処理方法、プログラム、および記憶媒体 | |
JP6045208B2 (ja) | 撮像装置 | |
JP6516510B2 (ja) | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体 | |
JP5348258B2 (ja) | 撮像装置 | |
JP6976754B2 (ja) | 画像処理装置および画像処理方法、撮像装置、プログラム | |
JP6168220B2 (ja) | 画像生成装置、画像処理装置、画像生成方法及び画像処理プログラム | |
JP4304973B2 (ja) | 撮像装置 | |
TWI435160B (zh) | 合成長焦段立體影像的方法及立體成像系統 | |
JP3678792B2 (ja) | 立体画像撮像装置 | |
JP2004312545A (ja) | 立体撮像装置 | |
JP6330955B2 (ja) | 撮像装置及び撮像方法 | |
JPH1198532A (ja) | 立体撮像装置および立体表示装置 | |
JP2020171050A (ja) | 画像処理装置、撮像装置、画像処理方法、および、記憶媒体 | |
JP6569769B2 (ja) | 任意視点画像合成方法及び画像処理装置 | |
EP3966631A1 (en) | Systems and methods for obtaining a super macro image | |
KR100709370B1 (ko) | 입체영상을 생성하는 광학계 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20051202 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20080207 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080715 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080814 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20081111 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090113 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090407 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090420 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120515 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |