JP4002050B2 - 撮像装置 - Google Patents

撮像装置 Download PDF

Info

Publication number
JP4002050B2
JP4002050B2 JP2000111327A JP2000111327A JP4002050B2 JP 4002050 B2 JP4002050 B2 JP 4002050B2 JP 2000111327 A JP2000111327 A JP 2000111327A JP 2000111327 A JP2000111327 A JP 2000111327A JP 4002050 B2 JP4002050 B2 JP 4002050B2
Authority
JP
Japan
Prior art keywords
signal
light
imaging
imaging device
color
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2000111327A
Other languages
English (en)
Other versions
JP2001298749A (ja
Inventor
正幸 菅原
誉行 山下
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Japan Broadcasting Corp
Original Assignee
Japan Broadcasting Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Japan Broadcasting Corp filed Critical Japan Broadcasting Corp
Priority to JP2000111327A priority Critical patent/JP4002050B2/ja
Publication of JP2001298749A publication Critical patent/JP2001298749A/ja
Application granted granted Critical
Publication of JP4002050B2 publication Critical patent/JP4002050B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Landscapes

  • Color Television Image Signal Generators (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、たとえば複数のCCDを使用したビデオカメラに関する。詳しくは、CCD等の撮像デバイスにより光電変換された信号を、ダイナミックレンジの広い信号とする構成に関する。さらに詳述すれば、よりダイナミックレンジの広い被写体の画像出力与えるカラー撮像方式を有する撮像装置に関する。
【0002】
【従来の技術】
CCDを撮像デバイスにしたカメラなどの分野において、CCD等により光電変換した信号をA/D変換し、デジタル的に信号処理する方法が一般的に行われている。その際、人間の目の解像度は暗い方に対して高く、明るい方に対しては低いという特性があるために、光量に対してリニアな特性を持つ光電変換した信号を単純にA/D変換しただけでは、A/D変換のダイナミックレンジを有効に使えないという問題がある。そこで、撮像デバイスとA/D変換器との間に、非線形な伝達特性を持つ回路を挿入することにより、A/D変換器のダイナミックレンジを有効に使う工夫がなされている。
【0003】
また、撮像デバイスそのもののダイナミックレンジの狭さを解消する手法として、実際の露光量と異なる露光量として撮像し、異なる露光量で撮像した信号を合成することも行われている。この方法には、光学系においてミラーあるいはプリズムによりレンズの結像光を2分割し、それぞれ異なる露光で撮像する方法、同一の撮像デバイス内部において時分割で異なる露光量で撮像した信号を加算して出力する方法などが取られていた。
【0004】
前者においては、光学系において、あるいは、電子シャッタを使用してそれぞれの撮像デバイスの露光量を異ならせることが行われている。
【0005】
前者の例として、特開平8−154210において、レンズによる結像光を、プリズムを使用した分光手段により結像光を1:1に分光し、一方に撮像素子、他方に減光手段のNDフィルタを通して撮像素子を配置し、2つの撮像素子の出力信号を合成する2板式の技術が開示されている。また、情報メディア学会誌Vol.53、No.5(1999)には、「屋外環境下における走行中の車両のナンバープレート認識」において、2板の光学系を用いて、異なる露光条件での画像を同一タイミングで撮像し、その2つの画像を合成することで明るさの変化に強い高速撮像を実現した技術が開示されている。これを図1に示す。ここでは、入射光を、ビームスプリッタにより光強度の異なる透過光と反射光に分光し、各々の光は各々のSCCD素子に結像されて同一タイミングで光電変換されている。そして、露光条件に対応した透過光と反射光の光強度比は、ビームスプリッタに蒸着した多層反射膜の特性によって決めている。ここでは、ビームスプリッタによって分岐する透過光と反射光の強度比が45:1となるように決定し、撮像装置のダイナミックレンジとして1.5×104を満足しているとしている。
【0006】
後者の例では、撮像デバイスそのものの内部構成を変更することにより実現されているものもある。
【0007】
しかしながら、前者においてはいずれもモノクロ撮影か単板カラー撮影を目的とした構成であり、また後者においては特殊な撮像デバイスの使用を必要とし、高画質用途に使用されるRGB3板撮像方式で、しかも従来使用されている撮像デバイスを使用して実現したものは存在しなかった。
【0008】
また現在、広いダイナミックレンジを有する被写体をモニター上で画像として再現する信号処理技術、すなわち、撮像された信号を処理して規定された信号レベルとする非線形な伝達特性を持つ回路(一般的には、ニー回路、ガンマ回路など)技術もデジタル化により高性能化してきているが、撮像デバイスであるCCDそのもののダイナミックレンジの制約により、高性能化にも限界があった。
【0009】
【発明が解決しようとする課題】
従来の技術の中で、もっとも高画質用途に適していると思われるものは、光学系において露光量を変化させる方式であり、そして、NDフィルタなどを使用して入射光を無駄にすることなく、入射光を有効に使用する方法である。この方法として前述したビームスプリッタを使用した方式があげられる。この方式の場合は、従来の撮像デバイスを利用することができる。また、この方式の場合、電子シャッタの機能をダイナミックレンジの拡大を目的として使用しなくて済む利点がある。
【0010】
本発明の目的は、従来の高画質用途に使用されるカメラにおいて広いダイナミックレンジを有する画像信号を得ることであり、とくにRGB3板撮像方式を使用した撮像装置において、より広いダイナミックレンジを有する撮像装置を提供することである。
【0011】
【課題を解決するための手段】
上述の課題を解決するために、本発明による撮像装置においては、3色分解プリズムブロックの構成を有し、さらに該3色分解プリズムブロックの入射光側に、入射光の強度の1/(n+1)を反射し、n/(n+1)を透過して前記3色分解プリズムブロックに入射させる第4のプリズムを有するプリズムブロックと、前記第4のブロックにおいて前記反射した入射光を全反射して得られた光出力を受光するように配置された単板カラー撮像デバイスと、前記3色分解プリズムブロックのそれぞれの光出力部に配置されたR、G、Bそれぞれの撮像デバイスと、前記単板カラー撮像デバイスから得られるカラー信号と前記R、G、Bそれぞれの撮像デバイスから得られたカラー信号とを合成して出力する信号合成部を備えた。
【0012】
また、前記信号合成部において、前記R,G,Bそれぞれの撮像デバイスから得られたそれぞれの信号が飽和点以下の場合はそれぞれの信号のみを含み、前記それぞれの信号が飽和点を超えた場合においては、前記単板カラー撮像デバイスからの対応する信号成分を含んで合成出力信号を構成した。
【0013】
また、前記合成出力信号は、前記単板カラー撮像デバイスあるいは、前記R,G,Bそれぞれの撮像デバイスが有するダイナミックレンジのn倍のダイナミックレンジを実質的に有する被写体の画像を表している。
【0014】
また、前記R,G,Bそれぞれの撮像デバイスから得られたそれぞれの信号があらかじめ設定したレベル以下の場合はそれぞれの信号のみを含み、前記それぞれの信号が該設定レベルを超えた場合においては、それぞれの信号を該設定レベルに置き換えた信号と、さらに前記単板カラー撮像デバイスからの対応する信号成分とを含んで合成出力信号を構成した。
【0015】
【発明の実施の形態】
本発明の実施形態を、図面を参照して説明する。第2図は、本発明による実施形態の1例であり、CCD単体のダイナミックレンジを超えた、広いダイナミックレンジの被写体画像を得ることができる撮像方式を示している。ただし、この図においては図示していないが、光学プリズムの入射面側に通常配置される赤外カットフィルタ、撮像素子の入射面側に配置される光学フィルタなどの光学部材が使用されるのは当然である。また、撮像レンズについても本発明に直接係わらないので簡略図としている。
【0016】
図2において、被写体101からの光は撮影レンズ102を通して結像光となる。この結像光はプリズム光学系に入射する。このプリズム光学系は、撮影レンズの光軸に沿って進む入射光を最初に反射する反射面111、そして次々と反射する反射面112、そして113を有している。最初の反射面111は、入射光の光の強度を1:n(すなわち、1/n)に分岐する。すなわち、入射光の1/(n+1)を反射し、n/(n+1)を透過させる。反射面112はダイクロイック層であり、反射面111を透過したn/(n+1)のうち赤色光を分岐し、反射面113もダイクロイック層であり、透過光のうち青色光を分岐する。ここでnは、所望するダイナミックレンジの値から決定され、それが通常のダイナミックレンジの10倍である場合、近似値としてnに10を与える。この場合、入射光の1/11を反射し、残りの10/11を透過させる。
【0017】
この透過光は、反射面112、反射面113でそれぞれ赤色、青色、そして反射面113を透過した緑色の光束に分解される。ここで、最初の反射面によって反射された1/nの光強度を有する入射光は、この反射面にほぼ対抗している面でさらに全反射して出力光103となり、同様に反射面112のダイクロイック層による反射光は同様にほぼ対抗して配置されている面でさらに全反射して出力光106になり、さらに同様に反射面113による反射光はさらに全反射して出力光105となる。
【0018】
ここで出力光104は反射面111、112、113を透過した透過光であり、残余の緑色成分である。通常、透過光による像と反射光による像は、左右あるいは上下において対称となっているが、出力光103、105そして106は2回全反射しているので、像の向きは透過光と同じになっている。
【0019】
出力光103は、単板カラー撮像素子である撮像素子107上に結像し、撮像素子107により光電変換される。一方、緑の出力光104、青の出力光105、赤の出力光106は、それぞれ撮像素子108、109、110により光電変換される。
【0020】
図3は、図2における撮像素子107、108、109から出力される信号を処理し、最終的に出力信号123として出力するまでのブロックダイヤグラムである。図2と同様の個所には同一の符号を付している。
【0021】
撮像素子107から光電変換されたSy信号114が出力され、一方3色の緑青赤の分光を受ける撮像素子108、109、110から、それぞれSg信号115、Sb信号116、Sr信号117が出力される。Sy信号114は単板カメラ処理部118で処理され、Sh信号120となる。このSh信号はカラー信号であり、コンポーネント信号(R、G、Bあるいはあるいは輝度色差信号Y、U、V)である。一方、Sg信号、Sb信号、Sr信号はRGBカメラ処理装置に入力され、Sl信号121となる。この信号もコンポーネント信号(R、G、Bあるいは輝度色差信号Y、U、V)である。
【0022】
ここで、同期信号発生器131から各部に供給される同期信号が単板カメラ信号処理装置とRGBカメラ信号処理装置にも供給され、Sh信号120とSl信号121との間で、被写体の同一部分の映像位相が等しくなるように、それぞれの撮像素子を駆動していることはもちろんである。また、図2の各撮像素子とプリズムとの配置関係についても、それぞれの反射面で分岐された4つの入射光が、それぞれの撮像素子の同一画素に結像するように適切に配置されていることは説明するまでもない。
【0023】
また、単板カメラ信号処理装置118とRGBカメラ信号処理装置119については、通常のカメラ用のものでもよいが、デジタル信号処理装置が望ましい。そして、RGBカメラ信号処理においては、通常のカメラとしてのセッティングが行われている。一方単板カメラ信号処理装置においては、RGBカメラ信号処理のセッティングにおいて規定された光量の10倍の白色光を入射したときに(n=10としているので)、規定レベルのSh信号が得られるようにセッティングされている。
【0024】
Sh信号120とSl信号121とは、合成装置122により、合成された信号123を出力する。
【0025】
この合成装置において、前述のようにセッティングされた場合の、Sh信号120とSl信号121を単純加算した場合の例を図4で示す。ここでは、入射光を赤色、青色、緑色それぞれの強度が等しい白色光とし、撮像素子108、109、110の飽和点を204の位置とすると、Sg,Sb,Srそれぞれの信号は、201で示すラインのように204を境に飽和特性を示す。これに対して、撮像素子107への入射光は1/10(n=10)となっていることから、Sy信号202は、10倍までの入射光量に対して飽和特性を示さない。したがって、合成された信号は203で示すような特性を示すことになる。通常において、映像システムにおいては、限られた振幅内に信号を抑えるためにハイライト部分に対してニー処理を施すのが一般的であり、ちょうどこのニー処理を施したような形になっている。
【0026】
図4においては、分解能の低い単板カラー撮像素子からの信号がRGBカメラ信号処理のリニアな領域の信号部分に加算されている。201は、信号Sg、Sb、Srを表し、202は信号Syを表している。203は合成信号である。また、204は信号Sg、Sb、Srの飽和点、205は信号Syの飽和点を表している。この実施形態においては、合成信号203は、RGBカメラ信号処理装置の出力信号がリニアな領域、すなわち204の飽和点以下のレベルに対して、Sy信号202の1/10のレベルが加算されている。高画質を求める場合、この飽和点204以下の入射光量時におけるこの加算は、画質の劣化を引き起こす場合がある。それはいわゆる単板カラー撮像素子による折り返しノイズと言われる信号が加算される場合である。したがって、単純加算することは高画質を追求した場合に問題になる。
【0027】
したがって、高画質を追求した場合は、図5に示すような加算をする必要がある。図5は、単なる加算ではなく、単板カメラ信号処理の出力であるSh信号202をDCレベルシフトの手法を用いて所定レベル以下の信号をゼロとして、210に示すような信号を生成し、その信号の約1/4を201で示した信号に加算し、最終的に飽和点204以上の入射光量において203で示す特性を得ることが好ましい。この場合、飽和点204以下の入射光量においては、Sg信号、Sb信号、Sr信号から生成した高画質のRGBカメラ信号処理装置の出力信号のみが得られ、飽和点以上の入射光量時にはSyから生成した単板カメラ信号処理装置の映像が加算された信号となる。飽和点以上においては、解像度がそれほど無くても違和感は生じないので、全体として高画質でしかも広いダイナミックレンジを有する映像信号を得ることができる。
【0028】
図5は、通常、撮像素子出力に対して施される一般的なニー特性を示している。図5においては、210で示す信号を約1/4に減衰させて201に示す信号に加算しているが、この減衰量については任意に設定できるようにすることは容易であり、その場合、最終的な出力の信号レベルを規定値にするように出力レベル調整部を設けることで解決可能である。図6は、このような合成装置のブロックダイヤグラムを示している。図3と同様個所は同一の番号を付している。
【0029】
以上において、撮像素子107から110の飽和レベルを同一としたが実際にはズレがあり、また白色光のみを入力することもない。また、通常、限られた振幅内に信号を抑えるためにハイライト部分に対してニー処理を施して、規定レベル内の信号にしている。この場合、規定レベルに対して通常500%から600%の大きさの飽和レベルを持たせている。
【0030】
したがって、本発明に関わる技術を使用する場合、RGBの3板のCCD出力に対しては、ほぼ飽和レベルまでの領域を規定レベル近くまでの領域に使用し、規定レベル以上の領域に関しては、実施形態における単板カラー撮像素子からの信号を使用するように設定することができる。このようにすることにより、規定レベル以下に対してはS/N比が上昇し、さらに高輝度側に対しても従来設定以上のダイナミックレンジを持つ撮像装置を構成することができる。通常、限られた振幅内に信号を抑えるためにハイライト部分に対してニー処理を施して規定レベル内の信号レベルとしているので、このように構成した場合においても、入射光量と信号出力との関係は、やはり図5に示すような形になる。
【0031】
また、上述において飽和点としたが、飽和点における出力レベルを超えないあらかじめ設定した出力レベルを設け、この出力レベルを超える出力を生じさせる入力レベルの場合は、この設定出力レベルに置き換えるようにすることが実際的である。このようにすることで、撮像素子における個々の飽和点のバラツキを無視することができ、回路設定が統一できるようになる。また、RGBカメラ信号処理出力に対して単板カメラ信号処理出力を加える際の基準が明確になり、高画質用途撮像装置として有利になる。
【0032】
以上の実施形態においては、RGBの3板のCCDを使用した場合の10倍のダイナミックレンジとなっている。反射面111において入射光の可視光の強度を1:n(1/n)に分光した場合、ダイナミックレンジは、従来方式に比べ、ダイナミックレンジがn倍となる。
【0033】
以上、本発明を、本実施形態を使用して説明したが、本発明の趣旨を逸脱しないで、次の形態に変更することは容易である。
【0034】
単板カラー撮像デバイスを、モノクロ撮像デバイスとする。この場合、この輝度信号を、RGBカメラ信号処理出力に加算する際に、RGBカメラ信号処理出力のR、G、Bそれぞれの飽和、あるいは設定値以上に対応させて加算する。
【0035】
【発明の効果】
以上説明した通り、本発明によれば、従来の技術では困難であった高画質用途の3板撮像方式カメラのダイナミックレンジを拡大し、広いダイナミックレンジを有する画像信号を得ることができる撮像装置が実現可能となる。なお、高輝度部分の画像信号は単板カラー撮像画像となるので解像度として低輝度部分に比べて低下するが、ハイライト部分は通常の部分よりも解像度が要求されないので問題は生じない。
【0036】
また、撮像デバイスの電子シャッタを使用していないので、従来の3板撮像方式カメラの電子シャッタによる個々の露出調整にも影響を与えず、また従来の3色分解プリズムブロック部分に対する入射光量の減少もわずかであり、高画質用途の撮像装置として効果的である。
【図面の簡単な説明】
【図1】従来例の構成を示す図である。
【図2】本発明の実施形態における光学ブロックの構成を示す図である。
【図3】本発明の実施形態における、光学ブロックの構成を示す図であり、それぞれの撮像デバイスの出力信号を処理し、最終的に合成出力信号を得るブロックダイヤグラムを示す図である。
【図4】本発明の実施形態における、単板カラー撮像素子からのカラー信号であるSh信号120、RGB3板のそれぞれのCCD出力Sl信号121、そして合成信号123との関係を示す図である。
【図5】図3と同様の図であり、好ましい合成の実施形態を示す図である。
【図6】本発明の実施形態における、合成装置の構成を示す図である。
【符号の説明】
101 被写体
102 撮影レンズ
103 出力光Y
104 出力光G
105 出力光B
106 出力光R
107 単板カラー撮像素子
108 出力光Gの撮像素子
109 出力光Bの撮像素子
110 出力光Rの撮像素子
111 出力光をn:1に分ける反射面
112 赤色光を反射する反射面
113 青色光を反射する反射面
114 信号Sy
115 信号Sg
116 信号Sb
117 信号Sr
118 単板カメラ信号処理
119 RGBカメラ信号処理
120 信号Sh
121 信号Sl
122 合成装置
123 合成信号
201 信号Sg、Sb、Sr
202 信号Sy
203 合成信号
204 信号Sg、Sb、Srの飽和点
205 信号Syの飽和点

Claims (4)

  1. 3色分解プリズムブロックの構成を有し、さらに該3色分解プリズムブロックの入射光側に、入射光の強度の1/(n+1)を反射し、n/(n+1)を透過して前記3色分解プリズムブロックに入射させる第4のプリズムを有するプリズムブロックと、
    前記第4のブロックにおいて前記反射した入射光を全反射して得られた光出力を受光するように配置された単板カラー撮像デバイスと、
    前記3色分解プリズムブロックのそれぞれの光出力部に配置されたR、G、Bそれぞれの撮像デバイスと、
    前記単板カラー撮像デバイスから得られるカラー信号と前記R、G、Bそれぞれの撮像デバイスから得られたカラー信号とを合成して出力する信号合成部を
    備えることを特徴とする撮像装置。
  2. 前記信号合成部において、
    前記R,G,Bそれぞれの撮像デバイスから得られたそれぞれの信号が飽和点以下の場合はそれぞれの信号のみを含み、前記それぞれの信号が飽和点を超えた場合においては、前記単板カラー撮像デバイスからの対応する信号成分を含んで合成出力信号を構成することを特徴とする請求項1に記載の撮像装置。
  3. 前記合成出力信号は、前記単板カラー撮像デバイスあるいは、前記R,G,Bそれぞれの撮像デバイスが有するダイナミックレンジのn倍のダイナミックレンジを実質的に有する被写体の画像を表していることを特徴とする請求項2に記載の撮像装置。
  4. 前記信号合成部において、
    前記R,G,Bそれぞれの撮像デバイスから得られたそれぞれの信号があらかじめ設定したレベル以下の場合はそれぞれの信号のみを含み、前記それぞれの信号が該設定レベルを超えた場合においては、それぞれの信号を該設定レベルに置き換えた信号と、さらに前記単板カラー撮像デバイスからの対応する信号成分とを含んで合成出力信号を構成することを特徴とする請求項1に記載の撮像装置。
JP2000111327A 2000-04-12 2000-04-12 撮像装置 Expired - Lifetime JP4002050B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2000111327A JP4002050B2 (ja) 2000-04-12 2000-04-12 撮像装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000111327A JP4002050B2 (ja) 2000-04-12 2000-04-12 撮像装置

Publications (2)

Publication Number Publication Date
JP2001298749A JP2001298749A (ja) 2001-10-26
JP4002050B2 true JP4002050B2 (ja) 2007-10-31

Family

ID=18623676

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000111327A Expired - Lifetime JP4002050B2 (ja) 2000-04-12 2000-04-12 撮像装置

Country Status (1)

Country Link
JP (1) JP4002050B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019053764A1 (ja) * 2017-09-12 2019-03-21 株式会社日立国際電気 撮像装置
JP2020178318A (ja) * 2019-04-22 2020-10-29 株式会社ジェイエイアイコーポレーション 撮像装置
JP6765494B1 (ja) 2019-10-31 2020-10-07 パナソニックi−PROセンシングソリューションズ株式会社 3板式カメラ

Also Published As

Publication number Publication date
JP2001298749A (ja) 2001-10-26

Similar Documents

Publication Publication Date Title
JP3704238B2 (ja) 撮像装置
JP2001268582A (ja) 固体撮像装置および信号処理方法
US20060103739A1 (en) Digital camera, and signal processing method and signal processing apparatus for the same
JPH0837628A (ja) 撮像装置
JP4641675B2 (ja) 画像信号処理装置
JPH04269091A (ja) カラーテレビジョンカメラ装置
JP4465958B2 (ja) カラー撮像装置
JP2003179819A (ja) 撮像装置
JPH0120838B2 (ja)
JP4002050B2 (ja) 撮像装置
JP2001157109A (ja) 電子カメラおよび画像データ処理用記録媒体
JP3495768B2 (ja) 画像合成装置
JP4077161B2 (ja) 撮像装置、輝度補正方法、およびその方法をコンピュータで実行するためのプログラム
JPH11355650A (ja) 画像取り込み装置
JPS631276A (ja) カラ−撮像装置
JPH07135599A (ja) 撮像装置とその画像処理方法
JP5545596B2 (ja) 画像入力装置
JP4530149B2 (ja) ハイダイナミックレンジカメラシステム
JP3397397B2 (ja) 撮像装置
JP4295709B2 (ja) 撮像装置、画像処理装置、及び画像処理方法
JP2801853B2 (ja) 4板式固体撮像装置の信号出力の飽和レベル拡張方法
JP2002262301A (ja) 撮像装置
JP3513194B2 (ja) 撮像装置
JP3696897B2 (ja) 撮像装置
JPS6124388A (ja) カラ−撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050401

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20050401

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070626

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070731

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070816

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100824

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4002050

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110824

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120824

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120824

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120824

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130824

Year of fee payment: 6

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140824

Year of fee payment: 7

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term