JP4042256B2 - 暗視システム用画像処理装置 - Google Patents

暗視システム用画像処理装置 Download PDF

Info

Publication number
JP4042256B2
JP4042256B2 JP15526799A JP15526799A JP4042256B2 JP 4042256 B2 JP4042256 B2 JP 4042256B2 JP 15526799 A JP15526799 A JP 15526799A JP 15526799 A JP15526799 A JP 15526799A JP 4042256 B2 JP4042256 B2 JP 4042256B2
Authority
JP
Japan
Prior art keywords
image
value
pixel
density value
frame
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP15526799A
Other languages
English (en)
Other versions
JP2000350186A (ja
Inventor
元一 渡辺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shimadzu Corp
Original Assignee
Shimadzu Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shimadzu Corp filed Critical Shimadzu Corp
Priority to JP15526799A priority Critical patent/JP4042256B2/ja
Publication of JP2000350186A publication Critical patent/JP2000350186A/ja
Application granted granted Critical
Publication of JP4042256B2 publication Critical patent/JP4042256B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、警備、監視、野生生物観察、移動体操縦支援、高速現象観察などのために、暗所や高速シャッターによる暗視野における視認対象物体を可視化する暗視システムに適した画像処理装置に関する。
【0002】
【従来の技術】
もっぱら夜間での観察や高速シャッター撮影等のために視認対象物体を可視化するため、イメージ増幅管(Image Intensifier Tube)を有する暗視装置により入射光を増幅し、その増幅された入射光をCCD等の撮像素子により光電変換することで画像信号を生成し、その画像信号に基づき画像を形成する暗視システムが用いられている。
【0003】
【発明が解決しようとする課題】
しかし、良好な視野と物体認識度を確保するためにイメージ増幅管の感度を上げて光電子量を増大させると、視認対象物体以外からの入射光によりランダムな位置において発生する量子化ノイズが増加し、却って視認対象物体の認識率の低下を招くという問題があった。
【0004】
本発明は、上記問題を解決することのできる暗視システム用画像処理装置を提供することを目的とする。
【0005】
【課題を解決するための手段】
本発明の暗視システム用画像処理装置は、イメージ増幅管を有する暗視装置と、その暗視装置により増幅された入射光を光電変換することで画像信号を生成する撮像素子と、複数の画像メモリと、その画像信号が時系列に1フレームの画像分の画像データを構成する毎に、その画像データを前記複数の画像メモリに順番に出力することで、各画像メモリに互いに異なる時系列に形成された画像データを記憶させる手段と、互いに異なる画像メモリにおける画像データに対応する1フレームの画像の画素の濃度値であって、その1フレームの画像における位置が同一の画素に対応するもの全てが、設定された閾値以上であるか否かに対応するマスク値を、各画素毎に求める手段と、互いに異なる画像メモリにおける前記濃度値であって、1フレームの画像における位置が同一の画素に対応するもの同士を掛け合わせることで求められる累乗濃度値に対応する値を、その各画素毎に求める手段と、1フレームの画像における各画素毎に求められた累乗濃度値に対応する値の中から、その各画素毎に求められた前記マスク値に応じて有効な値を選択する手段と、その選択された累乗濃度値に対応する値により構成される画像データに対応する処理済画像信号を出力する手段とを備える。
本発明の構成によれば、時系列に形成された互いに異なる画像データが、互いに異なる画像メモリに記憶される。そして、量子化ノイズの原因となる暗視装置への視認対象物体以外からの入射光の入射位置は、時間的にランダムである。よって、何れかの画像メモリにおける画像データに対応する1フレームの画像の画素の中の何れかの濃度値が、量子化ノイズの原因となる入射光の明るさを反映しても、別の画像メモリにおける画像データに対応する1フレームの画像の同一位置の画素の濃度値は、その量子化ノイズの原因となる入射光の明るさを反映しない確率が高い。すなわち、何れかの画像メモリにおける何れかの画素の濃度値が量子化ノイズの原因となる入射光の明るさを反映して閾値以上になっても、他の画像メモリにおける同一位置の画素の濃度値が閾値以上になる確率は低い。これにより、各画素毎に求められるマスク値の値を、各画素における濃度値が視認対象物体からの入射光に基づくのか、あるいは量子化ノイズの原因となる入射光に基づくのかの判断基準値にできる。
また、互いに異なる画像メモリにおける前記濃度値であって、1フレームの画像における位置が同一の画素に対応するもの同士を掛け合わせることで求められる累乗濃度値に対応する値は、その画素の濃度値が視認対象物体からの入射光に基づく場合、個々の画像メモリにおける濃度値に比べて大きくなり、一方、量子化ノイズの原因となる入射光に基づく場合、何れかの画像メモリにおける濃度値が入射光の明るさを反映しないために個々の画像メモリにおける濃度値に比べて小さくなる確率が高い。これにより、その累乗濃度値に対応する値は、視認対象物体からの入射光を強調した値になる。
よって、その1フレームの画像における各画素毎に求められた累乗濃度値に対応する値の中から、前記マスク値に応じて選択された有効な値により構成される画像データは、視認対象物体を強調すると共に量子化ノイズが低減された画像に対応する。よって、その画像データに対応する処理済画像信号に基づき画像を形成することで、視認対象物体の認識性を向上すると共に量子化ノイズを低減できる。
【0006】
各画像メモリにおける画像データに対応する1フレームの画像の各画素の濃度値を、設定変更可能な閾値以上か否かの明暗判定値に変換し、互いに異なる画像メモリにおける明暗判定値であって、1フレームの画像における位置が同一の画素に対応するもの同士を掛け合わせることで、前記マスク値を求めるのが好ましい。これによりマスク値を容易に求めることができ、また、量子化ノイズの原因となる入射光の明るさに応じて閾値を設定変更できる。
【0007】
前記累乗濃度値に対応する値として、その累乗濃度値を真数とする対数値である修正濃度値に対応する値を求めるのが好ましい。一般的に人間の目の光に対する感受性は、光量が少ない範囲では僅かの光量変化も敏感に認識するが、光量の多い範囲では僅かの光量変化は認識しない。よって、その累乗濃度値を真数とする対数値である修正濃度値の、入射光の光量変化に応じた変化は、光量が少ない範囲では大きくなり、光量の多い範囲では小さくなるので、人間の目の光に対する感受性に対応する。これにより、視認対象物体の認識性を向上できる。
【0008】
前記画像信号を前記各画像メモリに記憶する前にA/D変換するA/D変換器と、前記処理済画像信号に対応する画像データを、その処理済画像信号の出力前にD/A変換するD/A変換器とを備え、前記修正濃度値に対応する値として、その修正濃度値のとりえる最大値が、前記D/A変換器によりD/A変換可能なデータの最大値に一致するように、各修正濃度値を正規化した値を求めるのが好ましい。これにより、出力される処理済画像信号に対応する画像データの値を可及的に大きくし、視認対象物体の認識性を向上できる。
【0009】
【発明の実施の形態】
以下、図面を参照して本発明の実施形態を説明する。
図1に示す暗視システムは、入射光を集光するレンズにより構成される光学系2とイメージ増幅管(Image Intensifier Tube)とを有する暗視装置3と、この暗視装置3により増幅された入射光を光電変換することで画像信号を生成するCCD(撮像素子)4と、その画像信号を処理して出力する画像処理装置10とを備える。その暗視装置3は公知のものを用いることができ、例えば、光の入射によりイメージ増幅管から放出される光電子を蛍光面にあてて可視化することで入射光を増幅するものを用いることができる。その画像処理装置10により処理された画像信号に基づき、図外表示装置等により暗視野における画像が形成される。
【0010】
その画像処理装置10は、CPUを有するコンピュータにより構成されるコントローラ11、このコントローラ11により制御されるA/D変換器12、切替器13、画像間演算部14、正規化処理部15、相関処理部16、マスク処理部17、およびD/A変換器18、複数の画像メモリ19、正規化メモリ20、およびマスクメモリ21を備える。
【0011】
そのA/D変換器12はCCD4から時系列に出力される画像信号をA/D変換する。その切替器13は、そのA/D変換された画像信号が時系列に1フレームの画像分の画像データを構成する毎に、その画像データを上記複数の画像メモリ19に予め定めた順番で出力する。これにより、各画像メモリ19は互いに異なる時系列に形成された画像データを記憶する。その画像メモリ19の数は複数であればよく、本実施形態では第1〜第3の画像メモリ19を有する。各画像メモリ19における画像データは、その1フレームの画像を構成する複数の画素の各濃度値により構成され、各濃度値は上記入射光の各画素位置における光量に対応する。
【0012】
その相関処理部16は、先ず、各画像メモリ19における画像データに対応する1フレームの画像の各画素の濃度値を、設定変更可能な閾値未満であれば零に変換し、閾値以上であれば1に変換する。その閾値の設定変更は、コントローラ11に接続される図外入力装置の操作により行う。これにより、各画像メモリ19における各画素の濃度値は、その閾値以上か否かの明暗判定値に変換される。次に、その相関処理部16は、互いに異なる画像メモリ19における明暗判定値であって、その1フレームの画像における位置が同一の画素に対応するもの同士を掛け合わせることで、各画素毎にマスク値を求める。そのマスク値は、互いに異なる画像メモリにおける画像データに対応する1フレームの画像の画素の濃度値であって、その1フレームの画像における位置が同一の画素に対応するもの全てが、設定された閾値以上であるか否かに対応する。各画素毎に求められたマスク値はマスクデータとしてマスクメモリ21に記憶される。
【0013】
例えば、その各画素の濃度値が閾値以上である場合の明暗判定値を1、閾値未満である場合の明暗判定値を零とし、各画像メモリ19における画像データに対応する1フレームの画像が、xy座標により位置特定される800×600の画素により構成される場合において、第1の画像メモリ19における画像データのxy座標が(1、1)の画素の明暗判定値が1、第2の画像メモリ19における画像データのxy座標が(1、1)の画素の明暗判定値が1、第3の画像メモリ19における画像データのxy座標が(1、1)の画素の明暗判定値が0であれば、そのxy座標が(1、1)の画素位置に対応するマスク値は、1×1×0=0とされる。第1の画像メモリ19における画像データのxy座標が(1、2)の画素の明暗判定値が1、第2の画像メモリ19における画像データのxy座標が(1、2)の画素の明暗判定値が1、第3の画像メモリ19における画像データのxy座標が(1、2)の画素の明暗判定値が1であれば、そのxy座標が(1、1)の画素位置に対応するマスク値は、1×1×1=1とされる。同様にして全ての画素に対応するマスク値が演算されることで、1フレームの画像を構成する画素の位置に対応する800×600のマスク値が演算される。
【0014】
その相関処理部16による画像データの処理と並行して、その画像間演算部14は、互いに異なる画像メモリ19における上記濃度値であって、1フレームの画像における位置が同一の画素に対応するもの同士を掛け合わせることで、各画素毎に累乗濃度値を求める。さらに、各累乗濃度値に対応する値として、その累乗濃度値を真数とする対数値である修正濃度値を求める。その対数の底は適宜設定すればよく自然対数でも常用対数でもよい。これにより、1フレームの画像における各画素毎に求められた累乗濃度値に対応する修正濃度値が求められる。
【0015】
例えば、各画像メモリ19における画像データに対応する1フレームの画像が、xy座標により位置特定される800×600の画素により構成される場合において、第1の画像メモリ19における画像データのxy座標が(1、1)の画素の濃度値が50、第2の画像メモリ19における画像データのxy座標が(1、1)の画素の濃度値が51、第3の画像メモリ19における画像データのxy座標が(1、1)の画素の濃度値が0であれば、そのxy座標が(1、1)の画素位置に対応する累乗濃度値は、50×51×0=0とされる。また、第1の画像メモリ19における画像データのxy座標が(1、2)の画素の濃度値が80、第2の画像メモリ19における画像データのxy座標が(1、1)の画素の濃度値が81、第3の画像メモリ19における画像データのxy座標が(1、1)の画素の濃度値が80であれば、そのxy座標が(1、1)の画素位置に対応する累乗濃度値は、80×81×80=518400とされる。同様にして全ての画素に対応するマスク値が演算されることで、1フレームの画像を構成する画素の位置に対応する800×600の累乗濃度値が求められる。各累乗濃度値を真数とする対数値が修正濃度値として演算されることで、1フレームの画像を構成する画素の位置に対応する800×600の修正濃度値が求められる。
【0016】
その正規化処理部15は、上記修正濃度値のとりえる最大値が、D/A変換器18によりD/A変換可能なデータの最大値に一致するように、各修正濃度値の値を正規化する。すなわち、その修正濃度値のとりえる最大値を、D/A変換器18によりD/A変換可能なデータの最大値で除した値を、各修正濃度値に掛けた値が、その修正濃度値に対応する正規化修正濃度値として求められる。その1フレームの画像を構成する画素の位置に対応する800×600の正規化修正濃度値は、正規化修正濃度データとして正規化メモリ20に記憶される。
【0017】
そのマスク処理部17は、正規化メモリ20に記憶された1フレームの画像における各画素毎に求められた正規化修正濃度値の中から、その各画素毎に求められた前記マスク値に応じて有効な値を選択する。
例えば、正規化メモリ20における1フレームの画像における各画素毎に求められた正規化修正濃度値の中で、その画像における位置が同一の画素に対応するマスク値が1のものは有効な値として維持され、そのマスク値が零のものは無効な値として零とされる。
その選択された正規化修正濃度値により構成される画像データが、D/A変換器18によりD/A変換されて処理済画像信号として表示装置等に出力される。
【0018】
上記の構成によれば、時系列に形成された互いに異なる画像データが、互いに異なる画像メモリ19に記憶される。そして、量子化ノイズの原因となる暗視装置3への視認対象物体以外からの入射光の入射位置は、時間的にランダムである。よって、何れかの画像メモリ19における画像データに対応する1フレームの画像の画素の中の何れかの濃度値が、量子化ノイズの原因となる入射光の明るさを反映しても、別の画像メモリ19における画像データに対応する1フレームの画像の同一位置の画素の濃度値は、その量子化ノイズの原因となる入射光の明るさを反映しない確率が高い。すなわち、何れかの画像メモリ19における何れかの画素の濃度値が量子化ノイズの原因となる入射光の明るさを反映して閾値以上になっても、他の画像メモリ19における同一位置の画素の濃度値が閾値以上になる確率は低い。これにより、各画素毎に求められるマスク値の値を、各画素における濃度値が視認対象物体からの入射光に基づくのか、あるいは量子化ノイズの原因となる入射光に基づくのかの判断基準値にできる。
また、互いに異なる画像メモリ19における上記濃度値であって、1フレームの画像における位置が同一の画素に対応するもの同士を掛け合わせることで求められる累乗濃度値は、その画素の濃度値が視認対象物体からの入射光に基づく場合、個々の画像メモリ19における濃度値に比べて大きくなり、一方、量子化ノイズの原因となる入射光に基づく場合、何れかの画像メモリ19における濃度値が入射光の明るさを反映しないために個々の画像メモリ19における濃度値に比べて小さくなる確率が高い。よって、その累乗濃度値に対応する値は、視認対象物体からの入射光を強調した値になる。
これにより、その1フレームの画像における各画素毎に求められた累乗濃度値に対応する正規化修正濃度値の中から、上記マスク値に応じて選択された有効な値により構成される画像データは、視認対象物体を強調すると共に量子化ノイズが低減された画像に対応する。よって、その画像データに対応する処理済画像信号に基づき画像を形成することで、視認対象物体の認識性を向上すると共に量子化ノイズを低減できる。
【0019】
各画像メモリ19における画像データに対応する1フレームの画像の各画素の濃度値を、設定変更可能な閾値以上か否かの明暗判定値に変換し、互いに異なる画像メモリにおける明暗判定値であって、1フレームの画像における位置が同一の画素に対応するもの同士を掛け合わせることで、マスク値を容易に求めることができ、また、量子化ノイズの原因となる入射光の明るさに応じて閾値を設定変更できる。
【0020】
その修正濃度値は累乗濃度値を真数とする対数値であるので、入射光の光量変化に応じた変化は、光量が少ない範囲では大きくなり、光量の多い範囲では小さくなる。よって、その修正濃度値に対応する処理済画像信号の入射光の光量変化に応じた変化は、光量が少ない範囲では僅かの光量変化も敏感に認識し、光量の多い範囲では僅かの光量変化は認識しないという一般的な人間の目の光に対する感受性に対応する。これにより、視認対象物体の認識性を向上できる。
【0021】
その修正濃度値をD/A変換器によりD/A変換可能なデータの最大値に一致するように正規化することで、出力される処理済画像信号に対応する画像データの値を可及的に大きくし、視認対象物体の認識性を向上できる。
【0022】
図2の(1)、(2)は、画像メモリ19における画像データに対応する1フレームの画像例であり、ノイズ画像Bにより視認対象物体画像Aの視認性が阻害されている。これに対して図2の(3)は処理済画像信号により形成される画像例であり、ノイズ画像Bが低減されて視認対象物体画像Aの視認性が向上している。
【0023】
なお、画像間演算部14、正規化処理部15、相関処理部16、マスク処理部17などは、ファームウエアを組み込んだゲートアレイ等のチップにより構成することで小型化、低コスト化を図るのが好ましい。
【0024】
本発明は上記実施形態に限定されない。例えば、マスク値や修正濃度値の演算方法は上記実施形態に限定されない。
【0025】
【発明の効果】
本発明によれば、視認対象物体の認識度を向上し、且つ、量子化ノイズを低減できる暗視システム用画像処理装置を提供できる。
【図面の簡単な説明】
【図1】本発明の実施形態の暗視システム用画像処理装置の構成説明図
【図2】本発明の実施形態の暗視システム用画像処理装置における(1)、(2)は画像メモリにおける画像データに対応する1フレームの画像例を示し、(3)は処理済画像信号により形成される画像例を示す図
【符号の説明】
3 暗視装置
4 CCD(撮像素子)
10 画像処理装置
11 コントローラ
12 A/D変換器
13 切替器
14 画像間演算部
15 正規化処理部
16 相関処理部
17 マスク処理部
18 D/A変換器
19 画像メモリ

Claims (4)

  1. イメージ増幅管を有する暗視装置と、
    その暗視装置により増幅された入射光を光電変換することで画像信号を生成する撮像素子と、
    複数の画像メモリと、
    その画像信号が時系列に1フレームの画像分の画像データを構成する毎に、その画像データを前記複数の画像メモリに順番に出力することで、各画像メモリに互いに異なる時系列に形成された画像データを記憶させる手段と、
    互いに異なる画像メモリにおける画像データに対応する1フレームの画像の画素の濃度値であって、その1フレームの画像における位置が同一の画素に対応するもの全てが、設定された閾値以上であるか否かに対応するマスク値を、各画素毎に求める手段と、
    互いに異なる画像メモリにおける前記濃度値であって、1フレームの画像における位置が同一の画素に対応するもの同士を掛け合わせることで求められる累乗濃度値に対応する値を、その各画素毎に求める手段と、
    1フレームの画像における各画素毎に求められた累乗濃度値に対応する値の中から、その各画素毎に求められた前記マスク値に応じて有効な値を選択する手段と、
    その選択された累乗濃度値に対応する値により構成される画像データに対応する処理済画像信号を出力する手段とを備える暗視システム用画像処理装置。
  2. 各画像メモリにおける画像データに対応する1フレームの画像の各画素の濃度値を、設定変更可能な閾値以上か否かの明暗判定値に変換し、互いに異なる画像メモリにおける明暗判定値であって、1フレームの画像における位置が同一の画素に対応するもの同士を掛け合わせることで、前記マスク値を求める請求項1に記載の暗視システム用画像処理装置。
  3. 前記累乗濃度値に対応する値として、その累乗濃度値を真数とする対数値である修正濃度値に対応する値を求める請求項1または2に記載の暗視システム用画像処理装置。
  4. 前記画像信号を前記各画像メモリに記憶する前にA/D変換する手段と、
    前記処理済画像信号に対応する画像データを、その処理済画像信号の出力前にD/A変換する手段とを備え、
    前記修正濃度値に対応する値として、その修正濃度値のとりえる最大値が、前記D/A変換手段によりD/A変換可能なデータの最大値に一致するように、各修正濃度値を正規化した値を求める請求項1〜3の中の何れかに記載の暗視システム用画像処理装置。
JP15526799A 1999-06-02 1999-06-02 暗視システム用画像処理装置 Expired - Fee Related JP4042256B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP15526799A JP4042256B2 (ja) 1999-06-02 1999-06-02 暗視システム用画像処理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP15526799A JP4042256B2 (ja) 1999-06-02 1999-06-02 暗視システム用画像処理装置

Publications (2)

Publication Number Publication Date
JP2000350186A JP2000350186A (ja) 2000-12-15
JP4042256B2 true JP4042256B2 (ja) 2008-02-06

Family

ID=15602184

Family Applications (1)

Application Number Title Priority Date Filing Date
JP15526799A Expired - Fee Related JP4042256B2 (ja) 1999-06-02 1999-06-02 暗視システム用画像処理装置

Country Status (1)

Country Link
JP (1) JP4042256B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7190168B2 (ja) 2019-02-20 2022-12-15 株式会社カクダイ 給水配管の凍結防止機構

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7190168B2 (ja) 2019-02-20 2022-12-15 株式会社カクダイ 給水配管の凍結防止機構

Also Published As

Publication number Publication date
JP2000350186A (ja) 2000-12-15

Similar Documents

Publication Publication Date Title
JP4431532B2 (ja) 対象画像の位置検出装置および方法ならびに対象画像の位置検出装置を制御するプログラム
US7889890B2 (en) Image capture apparatus and control method therefor
CN107786785B (zh) 光照处理方法及装置
US20070171298A1 (en) Image capturing element, image capturing apparatus, image capturing method, image capturing system, and image processing apparatus
CN105611185A (zh) 图像生成方法、装置及终端设备
US7474846B2 (en) Method and apparatus of determining the best focus position of a lens
CN105578067B (zh) 图像生成方法、装置及终端设备
US10079979B2 (en) Camera arrangement for a vehicle and method for calibrating a camera and for operating a camera arrangement
US10972676B2 (en) Image processing method and electronic device capable of optimizing hdr image by using depth information
US10628951B2 (en) Distance measurement system applicable to different reflecting surfaces and computer system
KR20180101951A (ko) 영상처리장치 및 영상처리방법
JP4042256B2 (ja) 暗視システム用画像処理装置
WO2016051848A1 (ja) 赤外線撮像装置、絞り制御方法、及び絞り制御プログラム
JP4523629B2 (ja) 撮像装置
JP2006217413A (ja) 電子カメラ
JP2018201156A (ja) 画像処理装置および画像処理方法
JP5000699B2 (ja) 対象画像の位置検出装置および方法ならびに対象画像の位置検出装置を制御するプログラム
JP5480672B2 (ja) 撮像装置及びその制御方法
JP4686803B2 (ja) 赤外線画像表示装置
JP6883855B2 (ja) 撮像装置及び撮像装置の制御方法
JP2020021314A (ja) 画像処理装置及び画像処理方法
JP3143348B2 (ja) 目標検出装置
JP7274909B2 (ja) 遠赤外線カメラ
US20210144318A1 (en) Imaging apparatus and imaging control method
KR100290147B1 (ko) 낙뢰영상 촬영방법 및 장치

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050912

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070927

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20071023

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20071105

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101122

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111122

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121122

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121122

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131122

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees