JP4364728B2 - 赤外線検出器の感度補正機能を有する赤外線撮像装置 - Google Patents

赤外線検出器の感度補正機能を有する赤外線撮像装置 Download PDF

Info

Publication number
JP4364728B2
JP4364728B2 JP2004180484A JP2004180484A JP4364728B2 JP 4364728 B2 JP4364728 B2 JP 4364728B2 JP 2004180484 A JP2004180484 A JP 2004180484A JP 2004180484 A JP2004180484 A JP 2004180484A JP 4364728 B2 JP4364728 B2 JP 4364728B2
Authority
JP
Japan
Prior art keywords
video signal
pixel
value
signal data
frame
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004180484A
Other languages
English (en)
Other versions
JP2006005694A (ja
Inventor
剛史 柳田
弘樹 下前
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2004180484A priority Critical patent/JP4364728B2/ja
Publication of JP2006005694A publication Critical patent/JP2006005694A/ja
Application granted granted Critical
Publication of JP4364728B2 publication Critical patent/JP4364728B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Photometry And Measurement Of Optical Pulse Characteristics (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Description

本発明は、赤外線検出器の感度補正機能を有する赤外線撮像装置に関する。赤外線撮像装置は、物体が輻射する赤外線エネルギーを赤外線レンズで集光し、赤外線検知器で検出し、その電気出力(電圧又は電流)値をディジタル信号に変換し、信号処理回路を経てビデオモニタ上に映像として映し出す。本発明は赤外線検出器の素子のバラツキによる画像品質の低下を改善する感度補正機能を有する赤外線撮像装置に関する。
通常、赤外線検知器は複数の光電変換素子を有し、光電変換素子は素子毎の感度特性が異なるため、同じ温度の物体を撮像した場合、各光電変換素子の電気出力値はバラツキによって異なるものとなる。この電気出力値を基にそのまま映像化すると、素子毎のバラツキが固定パターンノイズとなって現れる。
このため、各光電変換素子の電気出力に対して素子毎の感度補正係数を乗じる等の感度補正処理を行い、同じ温度の物体を撮像した場合に、同じ電気出力が得られるよう、各光電変換素子の特性を均一化する処理を行うことにより映像品質を向上させている。また、上述の感度補正係数を算出する際には、各光電変換素子の電気出力の時間的に異なる複数の出力値を積分・平均化する処理を行うことにより、雑音成分の影響を除去している。
従来の赤外線撮像装置の機能ブロックを図8に示す。図8において、1はレンズ、2は赤外線検知器、3はアナログ/ディジタル変換部、4は校正データ算出部、41は生データ蓄積部、42はフレームメモリ、43は校正データ演算部、5は校正データメモリ、6は補正演算部、7はビデオエンコーダ、8はビデオモニタである。
レンズ1により赤外線を集光し、赤外線検知器2により赤外線を電気信号に変換し、アナログ/ディジタル変換部3により映像信号をディジタル化する。ディジタル化された映像信号データは、校正データ算出部4の生データ蓄積部41に入力され、外部から入力される校正データ更新指令によって指定されるフレーム枚数分の映像信号データをフレームメモリ42に格納する。
校正データ演算部43は、補正係数を算出する積分フレーム数をn、フレーム番号をf、1フレームを構成する画素数をp、素子番号をi、D(f)iをフレーム番号fの素子番号iにおける画像データとすると、以下の式1を用いて各画素の画像データの加算を求める。
Figure 0004364728
また、以下の式2を用いて、画素毎の加算された画素データを全ての画素について加算し、1フレームを構成する画素数p及び加算したフレーム数nで除し、画面平均値MEANを求める。
Figure 0004364728
最後に下式3のとおり、画面平均値MEANから各画素の平均値を減算し、オフセット補正係数を求める。
Figure 0004364728
校正データメモリ5は、上記式3により算出したオフセット補正係数を格納する。補正演算部6は、各画素についてディジタル化された映像信号データに、校正データメモリ5から読み出した画素毎のオフセット補正係数を加算して感度補正処理を行う。該感度補正処理後の映像信号データをビデオモニタ8に送出することにより、ビデオモニタ8には、各画像素子のバラツキが除去された品質の高い映像が表示される。
本発明に関連する先行技術文献として、赤外線検出器の感度補正機能を備えた赤外線撮像装置に関し、下記の文献に記載されている。
特開平8−9256号公報 特開平7−255014号公報
従来の補正係数の算出において、各光電変換素子の時間的に異なる複数の電気出力を積分・平均化処理することにより、雑音成分の影響を排除していた。この従来の補正係数の算出では、一時的な大きい雑音成分の入力に対して、この雑音成分の影響が殆ど除去されるようになるまで十分長い時間積分を行う必要があるため、補正係数の算出に長時間を要していた。
本発明は、従来と同様に雑音成分の影響を排除するとともに、補正係数の算出に要する時間を短縮し、また、補正係数算出における積分処理に必要なメモリ容量を削減し得る感度補正機能を有する赤外線撮像装置を提供することを目的とする。
本発明の赤外線撮像装置は、(1)赤外線を電気に変換する赤外線検知器の光電変換素子の感度補正機能を備えた赤外線撮像装置において、前記光電変換素子の映像信号をディジタル化した映像信号データに対して、画素毎に時間的に異なる第1の所定数のフレームの映像信号データの間で大小比較を行い、その中から中間値の映像信号データを抽出する中間値算出手段と、前記中間値算出手段から出力される中間値を、第2の所定数のフレームに亘って平均化する中間値平均化手段と、前記中間値平均化手段から得られた中間値平均値に基づいて、前記画素毎の映像信号データに対する補正係数を算出する補正係数算出手段と、を備えたものである。
また、(2)前記光電変換素子の映像信号をディジタル化した映像信号データに対して、画素毎に時間的に異なる少なくとも3フレームの映像信号データの間で大小比較を行い、その中から中間値の映像信号データを抽出するメディアンフィルタと、前記メディアンフィルタから出力される時間的に異なる中間値を平均化する中間値平均化手段と、前記中間値平均化手段から得られた中間値平均値に基づいて、前記画素毎の映像信号データに対する補正係数を算出する補正係数算出手段と、を備えたものである。
また、(3)前記光電変換素子の映像信号をディジタル化した映像信号データに対して、画素毎に時間的に異なる所定数のフレームの映像信号データの間で大小比較を行い、その中から最大値及び最小値を除いた映像信号データについて積分処理を行うフレーム積分手段と、前記フレーム積分手段から出力される映像信号データ積分値から画素毎の平均値を算出する平均化手段と、前記平均化手段から得られた平均値に基づいて、前記画素毎の映像信号データに対する補正係数を算出する補正係数算出手段と、を備えたものである。
本発明によれば、画素毎に時間的に異なるフレームの映像信号データの間で大小比較を行い、その中から中間値の映像信号データを抽出し、該中間値の映像信号データを所定数のフレームに亘って平均化することにより、一時的な大きい雑音成分が除去して平均化するため、雑音成分の影響を排除するための積分・平均化処理に必用なフレーム数を従来より少なくすることができ、補正係数の算出を従来より短時間で行うことができる。
また、画素毎の映像信号データに対して、時間的に異なるフレームの映像信号データの中から最大値及び最小値を除いた映像信号データについて積分処理を行い、該積分値から画素毎の平均値を算出することにより、雑音成分の影響を排除するための積分・平均化処理に必用なフレーム数を従来より少なくすることができるため、補正係数の算出時間を短縮するとともに、各画素の映像信号データを全画素に亘ってフレーム毎に記憶するフレームメモリの個数を減らすことができ、メモリ容量を削減することができる。
図1に本発明による赤外線撮像装置の第1の実施形態の機能ブロックを示す。同図において、1はレンズ、2は赤外線検知器、3はアナログ/ディジタル変換部、4は校正データ算出部、41は生データ蓄積部、42はフレームメモリ、44はデータ処理/校正データ演算部、5は校正データメモリ、6は補正演算部、7はビデオエンコーダ、8はビデオモニタである。
レンズ1により赤外線を集光し、赤外線検知器2により赤外線を電気信号に変換し、アナログ/ディジタル変換部3により映像信号をディジタル化する。ディジタル化された映像信号データは、校正データ算出部4の生データ蓄積部41に入力され、校正データ更新指令によって指定されるフレーム枚数分の映像信号データをフレームメモリ42に格納する。
データ処理/校正演算部44は、各画素について時間的に異なる第1の所定数のフレームの映像信号データの値を比較し、その中から中間値を算出する。次に画素毎に算出された中間値を第2の所定数のフレームに亘って加算し、各画素の中間値処理後の平均値を求める。また、該中間値処理後の平均値を全画素について加算し、1フレームを構成する画素数で除算し、画面平均値を求める。最後に画面平均値から各画素の平均値を減算して補正係数を求める。
校正データメモリ5は、上記により算出した補正係数を格納する。補正演算部6は、各画素についてディジタル化された映像信号データに、校正データメモリ5から読み出した補正係数を加算し、感度補正を行う。該感度補正処理後の映像信号データをビデオモニタ8に送出することにより、ビデオモニタ8には、各画像素子のバラツキが除去された品質の高い映像が表示される。なお、データ処理/校正演算部44は、CPU(Central Processing Unit)又はDSP(Digital Signal Processor)等を用いて上記の演算を行う構成とすることができる。
図1のデータ処理/校正演算部44における補正器係数の算出を式で表すと以下のとおりである。ここで、補正係数を算出する積分フレーム数をn、フレーム番号をf、1フレームを構成する画素数をp、素子番号をi、D(f)iをフレーム番号fの素子番号iにおける画像データとする。
Figure 0004364728
なお、図1のデータ処理/校正演算部44において、従来の補正係数の算出に対して追加された演算は上記式4.1の演算である。
図2に本発明による赤外線撮像装置の第2の実施形態の機能ブロックを示す。図2において、アナログ/ディジタル変換部3によりディジタル化された映像信号データは、メディアンフィルタ45に入力され、メディアンフィルタ45は、フレームFIFOメモリ46により1フレーム遅延処理及び2フレーム遅延処理を行い、リアルタイム映像信号データと1フレーム遅延データと2フレーム遅延データとの中から中間値を選択し、該中間値をフレーム積分部47に出力する。
フレーム積分部47は、メディアンフィルタ45から出力される中間値を加算する処理を行い、該加算値をフレームメモリ42に書き込む。なお、フレーム積分部47での加算処理は、メディアンフィルタ45から中間値が入力されると、フレームメモリ42から現在までの加算値を読み出し、該加算値に該中間値を加算して該加算値を再度フレームメモリ42に書き込む。
校正データ演算部43は、各画素のnフレーム分の平均値を算出し、また、各画素の平均値を1フレームの全画素について加算し、該加算値を、1フレームの画素数で除算し、画面平均値を求める。最後に画面平均値から各画素の平均値を減算して補正係数を求める。校正データメモリ5は、上記により算出された補正係数を格納する。補正演算部6は、各画素についてディジタル化された映像信号データに、校正データメモリ5から読み出した補正係数を加算して感度補正を行う。
図3に本発明による赤外線撮像装置の第3の実施形態の機能ブロックを示す。図3において、400は校正データ算出部、401はフレーム積分部、402は最大値演算部、403は最小値演算部、404はフレーム積分メモリ、405はフレーム最大値メモリ、406はフレーム最小値メモリ、407は校正データ演算部である。その他、図1又は図2と同一の符号の構成要素は図1又は図2と同一のものである。
アナログ/ディジタル変換部3によりディジタル化された映像信号データは、校正データ算出部400のフレーム積分部401、最大値演算部402及び最小値演算部403に入力される。フレーム積分部401は入力値の加算処理を行い、該加算値をフレーム積分メモリ404に書き込む。
なお、フレーム積分部401での加算処理は、映像信号データの入力値が入力される度に、各画素毎のフレーム積分メモリ404から各画素の加算値を読み出し、該加算値に該入力値を加算した値を再度フレーム積分メモリ404に書き込む処理を行う。
最大値演算部402は、各画素において時間的に異なる複数のフレームの画素データの中から最大値を検出し、該最大値をフレーム最大値メモリ405に書き込む。また、最小値演算部403では、各画素において時間的に異なる複数のフレームの画素データの中から最小値を検出し、該最小値をフレーム最小値メモリ406に書き込む。
校正データ演算部407は、フレーム積分メモリ404から読み出した各画素の積分値から、フレーム最大値メモリ405から読み出した最大値、及びフレーム最小値メモリ406から読み出した最小値を減算して平均値を算出する。即ち、各画素の積分値から最大値及び最小値を除外した後に平均値を求める。
そして、各画素の平均値データ全てを1フレームの全画素について加算し、該加算値を1フレームの画素数で除算して画面平均値を求める。最後に該画面平均値から各画素の平均値を減算して補正係数を求める。校正データメモリ5は、上記により算出した補正係数を格納する。補正演算部6は、各画素についてディジタル化された映像信号データに、校正データメモリ5から読み出した補正係数を加算して感度補正を行う。
図4に本発明のメディアンフィルタの構成例を示す。メディアンフィルタ45へは、次の(1)〜(3)の3データが入力される。
(1)アナログ/ディジタル変換部3によりディジタル化された映像信号データのリアルタイムデータ(A)
(2)該リアルタイムデータ(A)をフレームFIFOメモリ461により1フレーム遅延させた1フレーム遅延データ(B)
(3)該1フレーム遅延データ(B)をフレームFIFOメモリ462により更に1フレーム遅延させた2フレーム遅延データ(C)
メディアンフィルタ45内の第1の比較器451によりA>Bであるか否かを判定し、第2の比較器452によりA>Cであるか否かを判定し、第3の比較器453によりB>Cであるか否かの判定を行う。この3つの比較器451,452,453の比較結果を中間順位判定器454に出力する。
中間順位判定器454では、図5に示す表の中間順位判定の結果により、中間値の入力線を決定し、その入力線を選択する選択信号をセレクタ455に送出する。セレクタ455は該選択信号に従って入力線を選択し、セレクタ455から中間値データが出力される。なお、セレクタ455からの出力は、前述の式4.1のMEDIANfiに相当し、式4.2〜式4.4の算出式により補正係数を算出する。
図6に本発明のフレーム積分部及びフレームメモリの構成例を示す。フレーム積分部は、外部から与えられる校正データ更新指令に基づき、タイミング発生器474から出力される一定時間の初期化信号により、セレクタ472から出力するデータとして“0”を選択して出力する。これにより、フレームFIFOメモリ42内の蓄積データがオールゼロとなるよう初期化される。
次に、生データ(赤外線検知器からの出力をディジタル化した映像信号データ)がセレクタ472に入力され、タイミング発生器474は生データがセレクタ472から出力されるように制御する。セレクタ472から出力される生データと、フレームFIFOメモリ42から出力されるデータとが加算器473により加算され、該加算結果がフレームFIFOメモリ42に格納される。該加算を所定フレーム数に亘って行うことにより、積分結果が校正データ演算部へ出力される。
図7に本発明の最大(最小)値演算部とフレーム最大(最小)値メモリの構成例を示す。最大(最小)値演算部は、外部から与えられる校正データ更新指令に基づき、タイミング発生器474から出力される一定時間の初期化信号により、セレクタ412から“0”を出力させる。これにより、フレームFIFOメモリ410内の蓄積データがオールゼロとなるよう初期化される。
比較器411は生データ(A)とフレームFIFOメモリ410に格納されているデータ(B)との大小比較を行う。最大値演算の場合、比較器411でA>Bと判定されたとき、セレクタ412からセレクタ413に対して、生データ(A)を出力する選択信号を送出し、セレクタ413から生データ(A)が出力されるとともに、フレームFIFOメモリ410に該生データ(A)が格納され、最大値データが更新される。
また、比較器411でA<Bと判定されたときは、セレクタ412からセレクタ413に対して、データ(B)を出力する選択信号を送出し、セレクタ413からデータ(B)が出力されるとともに、該データ(B)がフレームFIFOメモリ410に最大値として格納される。
比較器411は最小値演算の場合、A<Bと判定されたとき、セレクタ412からセレクタ413に対して、生データ(A)を出力する選択信号を送出し、セレクタ413から生データ(A)が出力されると共に、該生データ(A)がフレームFIFOメモリ410に格納され、最小値データが更新される。
また、比較器411でA>Bと判定されたときは、セレクタ412からセレクタ413に対して、データ(B)を出力する選択信号を送出し、セレクタ413からデータ(B)が出力されるとともに、該データ(B)がフレームFIFOメモリ410に最小値として格納される。
校正データ演算部407で行う演算を式で表すと以下のとおりである。ここで、補正係数を算出する積分フレーム数をn、フレーム番号をf、1フレームを構成する画素数をp、素子番号をi、最大値MAX、最小値をMIN、フレーム番号fの素子番号iの画像データ例D(f)iとする。
Figure 0004364728
本発明による赤外線撮像装置の第1の実施形態の機能ブロックを示す図である。 本発明による赤外線撮像装置の第2の実施形態の機能ブロックを示す図である。 本発明による赤外線撮像装置の第3の実施形態の機能ブロックを示す図である。 本発明のメディアンフィルタの構成例を示す図である。 本発明の中間順位判定器の中間順位判定を示す図である。 本発明のフレーム積分部及びフレームメモリの構成例を示す図である。 本発明の最大(最小)値演算部とフレーム最大(最小)値メモリの構成例を示す図である。 従来の赤外線撮像装置の機能ブロックを示す図である。
符号の説明
1 レンズ
2 赤外線検知器
3 アナログ/ディジタル変換部
4 校正データ算出部
41 生データ蓄積部
42 フレームメモリ
44 データ処理/校正データ演算部
5 校正データメモリ
6 補正演算部
7 ビデオエンコーダ
8 ビデオモニタ

Claims (3)

  1. 赤外線を電気に変換する赤外線検知器の光電変換素子の感度補正機能を備えた赤外線撮像装置において、
    前記光電変換素子の映像信号をディジタル化した映像信号データに対して、画素毎に時間的に異なる第1の所定数のフレームの映像信号データの間で大小比較を行い、その中から中間値の映像信号データを抽出する中間値算出手段と、
    前記中間値算出手段から出力される中間値を、第2の所定数のフレームに亘って平均化した値を全画素について加算し、1フレームを構成する画素数で除算して画面平均値を求める中間値平均化手段と、
    前記中間値平均化手段から得られた画面平均値から各画素の平均値をそれぞれ減算して前記画素毎の映像信号データに対する補正係数を算出する補正係数算出手段と、
    を備えたことを特徴とする赤外線撮像装置。
  2. 赤外線を電気に変換する赤外線検知器の光電変換素子の感度補正機能を備えた赤外線撮像装置において、
    前記光電変換素子の映像信号をディジタル化した映像信号データに対して、画素毎に時間的に異なる少なくとも3フレームの映像信号データの間で大小比較を行い、その中から中間値の映像信号データを抽出するメディアンフィルタと、
    前記メディアンフィルタから出力される時間的に異なる中間値を平均化した値を全画素について加算し、1フレームを構成する画素数で除算して画面平均値を求める中間値平均化手段と、
    前記中間値平均化手段から得られた画面平均値から各画素の平均値をそれぞれ減算して前記画素毎の映像信号データに対する補正係数を算出する補正係数算出手段と、
    を備えたことを特徴とする赤外線撮像装置。
  3. 赤外線を電気に変換する赤外線検知器の光電変換素子の感度補正機能を備えた赤外線撮像装置において、
    前記光電変換素子の映像信号をディジタル化した映像信号データに対して、画素毎に時間的に異なる所定数のフレームの映像信号データの間で大小比較を行い、その中から最大値及び最小値を除いた映像信号データについて積分処理を行うフレーム積分手段と、
    前記フレーム積分手段から出力される映像信号データ積分値から画素毎の平均値を算出した値を全画素について加算し、1フレームを構成する画素数で除算して画面平均値を求める平均化手段と、
    前記平均化手段から得られた画面平均値から、各画素毎に各画素の最大値及び最小値を除いた各画素の平均値を減算して、前記画素毎の映像信号データに対する補正係数を算出する補正係数算出手段と、
    を備えたことを特徴とする赤外線撮像装置。
JP2004180484A 2004-06-18 2004-06-18 赤外線検出器の感度補正機能を有する赤外線撮像装置 Expired - Fee Related JP4364728B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004180484A JP4364728B2 (ja) 2004-06-18 2004-06-18 赤外線検出器の感度補正機能を有する赤外線撮像装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004180484A JP4364728B2 (ja) 2004-06-18 2004-06-18 赤外線検出器の感度補正機能を有する赤外線撮像装置

Publications (2)

Publication Number Publication Date
JP2006005694A JP2006005694A (ja) 2006-01-05
JP4364728B2 true JP4364728B2 (ja) 2009-11-18

Family

ID=35773693

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004180484A Expired - Fee Related JP4364728B2 (ja) 2004-06-18 2004-06-18 赤外線検出器の感度補正機能を有する赤外線撮像装置

Country Status (1)

Country Link
JP (1) JP4364728B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100724732B1 (ko) * 2006-05-08 2007-06-04 (주)삼현엔지니어링 지주용 강관의 음각무늬 성형장치
FR2914464B1 (fr) * 2007-03-30 2009-05-01 Commissariat Energie Atomique Procede de correction de bruit spatial de capteur d'image par bornage des luminances.
JP2015100099A (ja) * 2013-11-20 2015-05-28 日本放送協会 撮像装置及び固定パターンノイズ除去方法
JP2022100908A (ja) * 2020-12-24 2022-07-06 ゼタテクノロジーズ株式会社 固体撮像装置、固体撮像装置の信号処理方法、および電子機器

Also Published As

Publication number Publication date
JP2006005694A (ja) 2006-01-05

Similar Documents

Publication Publication Date Title
JP4534715B2 (ja) 撮像装置および画像処理プログラム
JP4601623B2 (ja) ノイズ除去装置
JP4351658B2 (ja) メモリ容量低減化方法、メモリ容量低減化雑音低減化回路及びメモリ容量低減化装置
JP2008015741A (ja) 画像処理装置、画像処理方法及びこれを用いた撮像装置
JP2008205530A (ja) 撮像装置、撮像システム及び撮像方法
US9367907B2 (en) Flicker reducing device, imaging device, and flicker reducing method
US20090262234A1 (en) Image processing apparatus, image-capturing apparatus, image processing method, and program
JP4364728B2 (ja) 赤外線検出器の感度補正機能を有する赤外線撮像装置
JP5649927B2 (ja) 画像処理装置、画像処理方法、および、画像処理プログラム
JP6284047B2 (ja) 撮像装置および撮像方法
JP6652301B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP5451056B2 (ja) 画像処理装置及び撮像装置
JP5117217B2 (ja) 撮像システム及び画像処理方法並びに画像処理プログラム
JP2007150441A (ja) ノイズリダクション装置及びノイズリダクション方法
JP2007110445A (ja) 画像処理装置および方法
JP6896788B2 (ja) 撮像装置、撮像方法、コンピュータプログラム及び記憶媒体
US9007491B2 (en) Image processing apparatus and control method thereof
JP4322258B2 (ja) ノイズ処理装置および撮像装置
JPWO2015045486A1 (ja) 撮像装置
JP2011135194A (ja) 撮像装置、その補正制御方法、及び補正制御プログラム、並びに記録媒体
JP5370345B2 (ja) 画像処理装置、撮像装置および画像処理プログラム
JP7439029B2 (ja) 撮像装置、撮像方法、プログラムおよび記憶媒体
CN111343365B (zh) 读取图像传感器曝光数据的方法和成像装置
JP5653098B2 (ja) ノイズ除去装置
JP2017050700A (ja) 画像処理装置、撮像装置および画像処理プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20061025

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090427

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090507

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090703

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090728

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090819

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120828

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120828

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130828

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees