JP3694052B2 - 動きベクトル検知装置 - Google Patents

動きベクトル検知装置 Download PDF

Info

Publication number
JP3694052B2
JP3694052B2 JP3764795A JP3764795A JP3694052B2 JP 3694052 B2 JP3694052 B2 JP 3694052B2 JP 3764795 A JP3764795 A JP 3764795A JP 3764795 A JP3764795 A JP 3764795A JP 3694052 B2 JP3694052 B2 JP 3694052B2
Authority
JP
Japan
Prior art keywords
motion vector
vector
main
current frame
motion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP3764795A
Other languages
English (en)
Other versions
JPH08223584A (ja
Inventor
海黙 丁
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
WiniaDaewoo Co Ltd
Original Assignee
Daewoo Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Daewoo Electronics Co Ltd filed Critical Daewoo Electronics Co Ltd
Priority to JP3764795A priority Critical patent/JP3694052B2/ja
Publication of JPH08223584A publication Critical patent/JPH08223584A/ja
Application granted granted Critical
Publication of JP3694052B2 publication Critical patent/JP3694052B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Landscapes

  • Color Television Systems (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Description

【0001】
【産業上の利用分野】
本発明は動きベクトルを検知装置に関する。特に、適応的フィルタリング窓を用いるメジアンフィルタ(median filter)によって動きベクトルを特定する動きベクトル検知装置に関する。
【0002】
【従来の技術】
高精細度テレビやビデオ電話システムのような様々な電子/電気応用分野に於いては、映像信号をディジタル信号で伝送する必要がある。映像信号をディジタル信号で表すことは大量のディジタルデータの発生につながる。しかし、通常、伝送チャンネルとして使用することのできる周波数帯域幅は限られているため、映像信号をそのチャンネルを通じて伝送するためには伝送データの量を圧縮するか、または減らす必要がある。多様なビデオ信号圧縮技法の中で、動き補償フレーム間符号化技法が有効な圧縮技法の1つと知られている。この方法は、信号の圧縮のために2つの隣接するビデオフレーム間のビデオ信号の時間的冗長度を利用している。
【0003】
動き補償フレーム間符号化技法に於いて、現フレームデータは現フレームと前フレームの間の動きの推定に基づいて、前フレームから予測される。この推定された動きは前フレームと現フレームの間の画素の変位を表す2次元動きベクトルによって表される。本技術分野に提案されている動きベクトル推定技法の中の1つに、ブロック整合アルゴリズムがある(J.R.Jainらによる、“Displacement Measurement and Its Applications in Interframe Image Coding”,IEEE Transactions on Communications COM-29,No.12(1981年12月)参照)。
【0004】
ブロック整合アルゴリズムによれば、現フレームは複数の同じ大きさの探索ブロックに分けられる。典型的には、探索ブロックの大きさは8×8乃至32×32画素の間にある。現フレーム内の探索ブロックに対する動きベクトルを特定するため、現フレーム内の探索ブロックと、この探索ブロックと同じの大きさを有する複数の各候補ブロックとの間で類似度計算が行われる。この候補ブロックは、一般に前フレーム内の探索領域に含まれ、この探索領域の大きさは探索ブロックより更に大きい。平均絶対エラー(mean absolute error)または平均2乗エラー(mean square error)のようなエラー関数が、現フレームの探索ブロックと、探索領域内の各候補ブロックとの間の類似度を測定するのに用いられる。こうして動きベクトルは、探索ブロックと最適整合ブロック、即ち、“エラー”または差が最小となるような候補ブロックとの間の変位を表すベクトルとして定義される。
【0005】
このような動き推定では、探索ブロックに対応する全探索領域内で、ただ1つの最小平均絶対エラーがみつかることが好ましい、または都合がよい。しかし、しばしばブロック整合に於いて同じ最小差を有するものが多数みつかる場合がある。この場合、MPEG(Moving Picture Expert Group)では、標準的な方法ではないが、それらの中の最も高い優先順位を有する最小エラー(即ち、最初に発見されたもの)を除いて、他の同じ値の最小エラーは全て捨てることを提案している。従って、このような方法では、探索ブロックとその対応する探索領域の間で、動きベクトルを正確に検知することは難しい。
【0006】
【発明が解決しようとする課題】
従って、本発明の主な目的は、適応的フィルタリング窓を採用したメジアンフィルタによって、動きベクトルを正確に特定するための改良された動きベクトル検知装置を提供することである。
【0007】
【課題を達成するための手段】
上記の目的を達成するために、本発明によると、現フレームはP×Q個の画素(P及びQは2より大きい整数)を有する複数の処理ブロックに分けられ、このP×Q個の画素からなる処理ブロックはその中心に位置する中心画素を備え、更に、前記現フレームに含まれる各々の画素に対して動きベクトルを決定する動きベクトル決定手段であって、前記動きベクトルには前記中心画素に対する動きベクトルである中心動きベクトルが含まれる該動きベクトル決定手段と、前記現フレーム内の被写体のエッジ位置を検知して、エッジ位置信号を生成する手段と、前記エッジ位置信号によって可変のフィルタリング窓を有し、前記動きベクトルをメジアンフィルタリングし、前記現フレームに含まれる全ての画素に対するフィルタリングされた動きベクトルを発生するフィルタリング手段と、前記各処理ブロックに含まれる全ての画素に対する前記フィルタリングされた動きベクトルの中で、同一の値を有する前記フィルタリングされた動きベクトルの数を計数し、前記各処理ブロック内で、計数された数が最も多い第1主ベクトルと、その数が2番目に多い第2主ベクトルとを選択する手段と、前記第1及び第2主ベクトルに基づいた前記各処理ブロックに対するエラー関数を計算し、前記第1主ベクトルと第2主ベクトルの内、エラー関数が小さくなる方のベクトルを出力動きベクトルとして選択する手段と、前記各処理ブロックの前記中心動きベクトルと前記第1主ベクトルと前記第1主ベクトルの計数された数とに基づいて、制御信号を発生する手段と、前記制御信号に応答して、前記出力動きベクトルと前記中心動きベクトルのどちらかを前記各処理ブロックに対する動きベクトルとして選択する切り替え手段とを有することを特徴とする動きベクトル検知装置が提供される。
【0008】
【実施例】
以下、本発明による動きベクトル検知装置について、添付の図面を参照してより詳しく説明する。
【0009】
図1及び図2に、現フレームに含まれる複数の処理ブロックの各々に対する動きベクトルを特定するための、本発明による動きベクトル検知装置のブロック図を示す。各処理ブロックはP×Q個の画素(例えば、7×7)を有する。
【0010】
現フレームデータは入力ディジタルビデオ信号としてフレームメモリ100及び動き推定器200に入力される。フレームメモリ100からの前フレームデータもまた、動き推定器200に入力される。
【0011】
この動きベクトル推定器200は、ブロック整合アルゴリズムを用いて現フレームに含まれる各画素に対する動きベクトルを特定する働きをする。より詳細に述べると、現フレームに含まれるある画素(“目標画素”)に対する動きベクトルを特定するために、目標画素を基準として用いてM×N個の画素(例えば、3×3)の探索ブロックが設定される。目標画素が、探索ブロックの中心と一致するようにされる。この探索ブロックは本技術分野では公知のブロック整合アルゴリズムを用いて、前フレーム内の対応する探索領域に含まれる全ての候補ブロックとブロック単位で比較される。ブロック整合アルゴリズムを用いて得られた探索ブロックに対する変位は、目標画素の動きベクトルとして割り当てられる。現フレーム内に含まれる各画素に対応する各々の動きベクトルは、動き推定器200からメジアンフィルタ300へ入力され、更に処理される。またこの動きベクトル推定器200は、中心画素の動きベクトルを、本発明に従って比較器510へと伝える。各々の中心画素は、P及びQが両方とも奇数の整数の場合、各処理ブロックの中心に位置する画素であり、PまたはQの何れか1つが偶数の整数の場合は各処理ブロックの中心に位置する2つの画素の何れか一方であり、P及びQが両方とも偶数の場合は中心に位置する4つの画素の中の何れかである。即ち、中心画素は処理ブロックの中心に位置する最大4つの画素の中の1つである。
【0012】
図1及び図2に示されているように、現フレームデータは、現フレーム内に於ける被写体のエッジ位置を検知する働きをするエッジ検知器400へも入力される。このエッジ検知器400は、入力された現フレームに於ける被写体のエッジ位置を検知するとともに、エッジ位置信号をメジアンフィルタ300へ出力する。このエッジ検知器400の動作は本技術分野では公知であるので、本明細書中では詳細な説明は省略する(A.K.Jainの“Fundamentals of Digital Image Processing”,1989,Prentice-Hall International参照)。
【0013】
メジアンフィルタ300では、動き推定器200から入力された各動きベクトルに対して、適切なフィルタリング窓を用いてメジアンフィルタリング処理が行われる。本発明の好適実施例に於いては、このメジアンフィルタ300は図4に示されているような可変な大きさの適応的フィルタリング窓を有するが、この適応的フィルタリング窓の大きさはエッジ検知器400からのエッジ位置信号によって変化する。 本発明によれば、メジアンフィルタ300はフィルタリング窓の境界がエッジのどれかを含むまで、そのフィルタリング窓を拡張する。例えば、図4からわかるように、適応的フィルタリング窓W1は、図3に示されている被写体50のエッジ位置を含むW2まで拡張される。図3では、現フレーム内の被写体は、中心画素(a)を備えた処理ブロック25を有しているものとしている。処理ブロック25に含まれている被写体50のエッジ位置は図4に於いて(X)で示されている。
【0014】
メジアンフィルタ300は、画素(a)に対するフィルタリング動作を例にとると、拡張された適応的フィルタリング窓W2内に含まれる画素(a)〜(y)に対して、予め定められたフィルタ係数を掛けることによって、それらに対する動きベクトルを平均するとともに、その平均された動きベクトルを中心画素(a)のフィルタリングされた動きベクトルとして割り当てる。当該処理ブロックに含まれる他の画素(b)〜(y)のそれぞれに対しても、画素(a)の場合と同様に、その画素用の特定の位置及びサイズを有するフィルタリング窓を用いてフィルタリングされた動きベクトルを求める。このようにして求められた現フレームの各処理ブロックに含まれる各画素に対するフィルタリングされた動きベクトルの各々は、メジアンフィルタ300からマジョリティー検知器500へ入力される。
【0015】
マジョリティー検知器500は、例えば、7×7個の画素から成る各処理ブロックの各画素に対応するフィルタリングされた動きベクトルを受信し、同一の値を有するフィルタリングされた動きベクトルの数を計数して第1主ベクトル及び第2主ベクトルを特定する。この第1及び第2主ベクトルは、それぞれフィルタリングされた動きベクトルの中で計数された数が最も多いベクトルと2番目に多いベクトルに対応する。この第1及び第2主ベクトルは、それぞれマジョリティー検知器500の出力端子400A及び400Cを通じて出力される。また、このマジョリティー検知器500は出力端子400Bを通じて第1主ベクトルの数を出力する。
【0016】
比較器515はマジョリティー検知器500からの第1主ベクトルの数を予め定められた所定の値(例えば、25)と比較し、もし比較した第1主ベクトルの数が所定の値より大きいかあるいは同じ場合は、論理「ハイ」信号を、そうでないときは、論理「ロー」信号をANDゲート520へ出力する。比較器510は、出力端子400Aから入力される第1主ベクトルと動き推定器200から入力される中心画素の動きベクトルとを比較して、それらが互いに同一であれば論理「ハイ」信号を、そうでないときは、論理「ロー」信号をANDゲート520へ出力する。
【0017】
ANDゲート520は、比較器510、515からの出力信号に応答して、比較器510、515からの2つの出力信号が両方とも論理「ハイ」であれば論理「ハイ」信号を、そうでないときは論理「ロー」信号をスイッチ530の端子のS1制御信号CTLとして発生させる。
【0018】
本発明によれば、本発明による動きベクトル検知装置は、更にベクトル選択ブロック600を含む。このベクトル選択ブロック600は、第1主ベクト及び第2主ベクトルの内、動き補償された処理ブロックのエラー関数(例えば、平均2乗エラー)が、より小さくなる方の動きベクトルを選択する。このベクトル選択ブロック600は予測器610、615と平均2乗エラー(MSE)検知器620、625とからなる。
【0019】
より詳細に述べると、図1及び図2に示されているように、第1及び第2主ベクトルはマジョリティー検知器500から予測器610及び615へ各々入力される。各々の主ベクトルに応じて、各予測器610及び615は、処理ブロックに対する(即ち、第1主ベクトルまたは第2主ベクトルに対応する、フレームメモリからライン110を介して入力される前フレームの画素データに対する)予測データを抽出して、抽出された各予測データを、MSE算出器620、625へそれぞれ出力する。MSE算出器620、625はそれらの2つの入力(即ち、ライン105を介して入力される現フレームの処理ブロックデータと、対応する予測データ)の間の平均2乗エラーを算出して、算出された値(即ち、平均2乗エラーE1及びE2)を比較器630へ出力する。
【0020】
比較器630は、2つの入力値(即ち、E1及びE2)を比較して、選択信号をマルチプレクサ(MUX)635へ送る。MUX635の2つの入力端子は、マジョリティー検知器500の出力端子400A、400Cに結合されている。E1がE2より小さい場合、比較器630は例えば、論理「ハイ」の選択信号をMUX635へ出力することによって、第1主ベクトルをライン605を通じてスイッチ530の端子S2へ伝えし、そうでないときは、論理「ロー」の選択信号をMUX635へ出力することによって、第2主ベクトルを端子S2へ伝える。
【0021】
スイッチ530は制御信号CTLに応答して、2つの端子S1、S2へ入力された2つの入力信号の内の一方を選択する。言い換えれば、このスイッチ530は制御信号CTLが論理「ハイ」の場合は端子S1の入力(即ち、中心画素の動きベクトル)を処理ブロックの動きベクトルとして選択し、論理「ロー」の場合は端子S2の入力(即ち、より小さい平均2乗エラーをもたらす主ベクトル)を処理ブロックの動きベクトルとして選択する。
【0022】
上記に於いて、本発明の特定の実施例について説明したが、本発明の範囲を逸脱することなく当業者は種々の改変をなし得るであろう。
【0023】
【発明の効果】
従って、本発明によれば、ビデオ信号の現フレームと前フレームの間の変位を表す動きベクトルを特定する時、適応的フィルタリング窓を採用したメジアンフィルタでブロック整合を通じて検知された動きベクトルをフィルタリングして、フィルタリングされた動きベクトルと中心動きベクトルの内、最適な動きベクトルを選択する。それによって、動きベクトルを正確に特定することができる。
【図面の簡単な説明】
【図1】ビデオ信号の現フレームと前フレームの間の動きベクトルを特定するための本発明の装置を示したブロック図の一部である。
【図2】ビデオ信号の現フレームと前フレームの間の動きベクトルを特定するための本発明の装置を示したブロック図の一部である。
【図3】現フレーム内の被写体を、例示した図面である。
【図4】画素のメジアンフィルタリングのための、本発明によるフィルタリング窓を示した図面である。
【符号の説明】
25 処理ブロック
50 被写体
100 フレームメモリ
110 ライン
105 ライン
200 動き推定器
300 メジアンフィルタ
400 エッジ検知器
400A マジョリティー検知器500の出力端子
400B マジョリティー検知器500の出力端子
400C マジョリティー検知器500の出力端子
500 マジョリティー検知器
510 比較器
515 比較器
520 ANDゲート
530 スイッチ
600 ベクトル選択ブロック
610 予測器
615 予測器
620 平均2乗エラー(MSE)検知器
625 平均2乗エラー(MSE)検知器
630 比較器
635 マルチプレクサ(MUX)
CTL 制御信号
E1 第1主ベクトルに対応する平均2乗エラー
E2 第2主ベクトルに対応する平均2乗エラー
S1 スイッチ530の端子
S2 スイッチ530の端子
W1 適応的フィルタリング窓
W2 拡張された適応的フィルタリング窓
(a)〜(y) フィルタリング窓W2に含まれる画素
(X) 処理ブロック25に含まれている被写体50のエッジ位置

Claims (2)

  1. 動き補償ビデオ信号符号化器で用いられる、ビデオ信号の現フレームと前フレームとの間の変位を表す動きベクトルを特定する動きベクトル検知装置であって、
    前記現フレームはP×Q個の画素(P及びQは2より大きい整数)を有する複数の処理ブロックに分けられ、前記P×Q個の画素は各処理ブロックの中心に位置する中心画素を備え、
    前記動きベクトル検知装置は、更に、
    前記現フレームに含まれる各々の画素に対して動きベクトルを決定する動きベクトル決定手段であって、前記動きベクトルには前記中心画素に対する動きベクトルである中心動きベクトルが含まれる該動きベクトル決定手段と、
    前記現フレーム内の被写体のエッジ位置を検知して、エッジ位置信号を生成する手段と、
    前記エッジ位置信号に基づいて境界がエッジを含むまで拡張される可変のフィルタリング窓を有し、前記動きベクトルをメジアンフィルタリングし、前記現フレームに含まれる全ての画素に対して各画素のためのフィルタリング窓を用いてフィルタリングされた動きベクトルを発生するフィルタリング手段と、
    前記各処理ブロックに含まれる全ての画素に対する前記フィルタリングされた動きベクトルの中で、同一の値を有する前記フィルタリングされた動きベクトルの数を計数し、前記各処理ブロック内で、計数された数が最も多い第1主ベクトルと、その数が2番目に多い第2主ベクトルとを選択する手段と、
    前記第1及び第2主ベクトルに対応する前記各処理ブロックに対して、前フレームの画素データから求められる予測データと現フレームの画素データとの差の大きさを表すエラー関数を計算し、前記第1主ベクトルと第2主ベクトルの内、エラー関数が小さくなる方のベクトルを出力動きベクトルとして選択する手段と、
    前記各処理ブロックの前記中心動きベクトルと前記第1主ベクトルと前記第1主ベクトルの計数された数とに基づいて、制御信号を発生する手段であって、前記制御信号は、前記各処理ブロックの前記中心動きベクトルと前記第1主ベクトルとが等しく、かつ前記第1主ベクトルの計数された数が予め定められた値以上である場合に第1の値をとり、それ以外の場合に第2の値をとる信号である、該手段と、
    前記制御信号に応答して、前記出力動きベクトルと前記中心動きベクトルのどちらかを前記各処理ブロックに対する動きベクトルとして選択する切り替え手段であって、前記制御信号が前記第1の値をとっているときには、前記中心動きベクトルを、前記制御信号が前記第2の値をとっているときには前記出力動きベクトルを前記各処理ブロックに対する動きベクトルとして選択する、該切り替え手段とを有することを特徴とする動きベクトル検知装置。
  2. 動き補償ビデオ信号符号化器で用いられる、ビデオ信号の現フレームと前フレームとの間の変位を表す動きベクトルを特定する動きベクトル検知装置であって、
    前記現フレームはP×Q個の画素(P及びQは2より大きい整数)を有する複数の処理ブロックに分けられ、前記P×Q個の画素は各処理ブロックの中心に位置する中心画素を備え、
    前記動きベクトル検知装置は、更に、
    前記現フレームに含まれる各々の画素に対して動きベクトルを決定する動きベクトル決定手段であって、前記動きベクトルには前記中心画素に対する動きベクトルである中心動きベクトルが含まれる該動きベクトル決定手段と、
    前記現フレーム内の被写体のエッジ位置を検知して、エッジ位置信号を生成する手段と、
    前記エッジ位置信号に基づいて境界がエッジを含むまで拡張される可変のフィルタリング窓を有し、前記動きベクトルをメジアンフィルタリングし、前記現フレームに含まれる全ての画素に対して各画素のためのフィルタリング窓を用いてフィルタリングされた動きベクトルを発生するフィルタリング手段と、
    前記各処理ブロックに含まれる全ての画素に対する前記フィルタリングされた動きベクトルの中で、同一の値を有する前記フィルタリングされた動きベクトルの数を計数し、前記各処理ブロック内で、計数された数が最も多い第1主ベクトルと、その数が2番目に多い第2主ベクトルとを選択する手段と、
    前記第1及び第2主ベクトルに対応する前記各処理ブロックに対して、前フレームの画素データから求められる予測データと現フレームの画素データとの差の大きさを表すエラー関数を計算し、前記第1主ベクトルと第2主ベクトルの内、エラー関数が小さくなる方のベクトルを出力動きベクトルとして選択する手段と、
    前記中心動きベクトル及び前記第1主ベクトルに応答して、前記中心動きベクトルと前記第1主ベクトルとが互いに同一の場合は第1制御信号を発生し、そうでないときは第2制御信号を発生する手段と、
    前記第1主ベクトルの数を予め定められた値と比較して、第1主ベクトルの数が予め定められた値より大きいかあるいは等しい場合は第3制御信号を発生し、そうでないときは、第4制御信号を発生する手段と、
    前記第1、第2、第3、及び第4制御信号に応答して、前記第1及び第3制御信号が印加された場合は第1選択信号を発生し、そうでないときは第2選択信号を発生する手段と、
    前記各処理ブロックに対する動きベクトルとして、前記第1選択信号に対しては前記中心動きベクトルを、前記第2選択信号に対しては前記出力動きベクトルを選択する切り替え手段とを有することを特徴とする動きベクトル検知装置。
JP3764795A 1995-02-01 1995-02-01 動きベクトル検知装置 Expired - Lifetime JP3694052B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP3764795A JP3694052B2 (ja) 1995-02-01 1995-02-01 動きベクトル検知装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP3764795A JP3694052B2 (ja) 1995-02-01 1995-02-01 動きベクトル検知装置

Publications (2)

Publication Number Publication Date
JPH08223584A JPH08223584A (ja) 1996-08-30
JP3694052B2 true JP3694052B2 (ja) 2005-09-14

Family

ID=12503452

Family Applications (1)

Application Number Title Priority Date Filing Date
JP3764795A Expired - Lifetime JP3694052B2 (ja) 1995-02-01 1995-02-01 動きベクトル検知装置

Country Status (1)

Country Link
JP (1) JP3694052B2 (ja)

Also Published As

Publication number Publication date
JPH08223584A (ja) 1996-08-30

Similar Documents

Publication Publication Date Title
US5539469A (en) Apparatus for determining motion vectors through the use of an adaptive median filtering technique
KR950009699B1 (ko) 움직임벡터 검출방법 및 장치
US5596370A (en) Boundary matching motion estimation apparatus
US5510856A (en) Apparatus for determining motion vectors
JPH09179987A (ja) 動きベクトル検出方法及び動きベクトル検出装置
EP0734175A1 (en) Hierarchical motion vector estimation using multiple block sizes
JP4213035B2 (ja) オクルージョン領域を検出するオクルージョン検出器および方法
KR0181029B1 (ko) 에지를 이용한 특징점 선정장치
EP0647919B1 (en) Method and apparatus for correcting motion vectors
CN1127906A (zh) 运动矢量检测设备
JPH08265764A (ja) 映像信号符号化装置
JP3694052B2 (ja) 動きベクトル検知装置
JPH0879760A (ja) 動きベクトル検出回路
KR0174936B1 (ko) 적응적 메디안 필터링 기법을 사용한 움직임벡터 검출장치
KR0174932B1 (ko) 움직임 벡터 검출장치
JPS6225587A (ja) 動きベクトル検出回路
KR0160901B1 (ko) 경계 매칭 움직임 추정장치
JP3600650B2 (ja) 境界整合の動き推定装置
JPH07240927A (ja) 映像符号化装置
KR100208984B1 (ko) 물체의 윤곽선을 이용한 움직임 벡터 추정 장치
CN1115865C (zh) 通过使用自适应中值滤波技术确定运动矢量的装置
JPH08336141A (ja) 動きベクトル検知装置
KR0174939B1 (ko) 움직임벡터 검출장치
JPH07288817A (ja) 動きベクトル検出装置
KR0147954B1 (ko) 움직임벡터 분류회로

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20041026

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20050124

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20050127

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050420

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20050524

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20050623

R150 Certificate of patent (=grant) or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090701

Year of fee payment: 4

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100701

Year of fee payment: 5

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100701

Year of fee payment: 5

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110701

Year of fee payment: 6

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110701

Year of fee payment: 6

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120701

Year of fee payment: 7

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120701

Year of fee payment: 7

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130701

Year of fee payment: 8

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term