JP2005027193A - 画像転送装置、画像転送方法、画像転送プログラム - Google Patents

画像転送装置、画像転送方法、画像転送プログラム Download PDF

Info

Publication number
JP2005027193A
JP2005027193A JP2003192367A JP2003192367A JP2005027193A JP 2005027193 A JP2005027193 A JP 2005027193A JP 2003192367 A JP2003192367 A JP 2003192367A JP 2003192367 A JP2003192367 A JP 2003192367A JP 2005027193 A JP2005027193 A JP 2005027193A
Authority
JP
Japan
Prior art keywords
image
block
transfer area
transfer
difference
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2003192367A
Other languages
English (en)
Other versions
JP4329429B2 (ja
Inventor
Taketoshi Yoshida
武俊 吉田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2003192367A priority Critical patent/JP4329429B2/ja
Publication of JP2005027193A publication Critical patent/JP2005027193A/ja
Application granted granted Critical
Publication of JP4329429B2 publication Critical patent/JP4329429B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

【課題】狭い通信帯域においても大きなデータや、動画像を品質よく端末に送信することを目的としている。
【解決手段】元画像と現画像の排他的論理和を取り差分抽出画像を作成し、前記差分抽出画像を複数のブロック画像に分割し、それぞれの前記ブロック画像にブロック識別子を割り当て、前記ブロック画像に対して、水平軸と垂直軸の値を小さい値からそれぞれの単位長さで増加させ最初の差分が現れた座標と、前記ブロック画像に対して、水平軸と垂直軸の値を大きな値からそれぞれの単位長さで減少させ最初の差分が現れた座標とを検出し、検出した転送領域の座標、前記転送領域を含むブロック画像のブロック識別子、および前記転送領域の画像データを送信することにより、現画像送信の際に元画像と現画像の変化部分のみの送信が可能となり、狭い通信帯域においても大きなデータや、動画像を品質よく端末に送信することができるようになる。
【選択図】 図1

Description

【0001】
【発明の属する技術分野】
本発明は,計算機の基本構成機能である入力機能、出力機能、記憶機能、演算機能を入力機能及び出力機能でそれぞれ分離し、ネットワークを介して接続する事により、エンドユーザの要求する情報処理を行う計算機部分と、ユーザの入力を情報処理する計算機に送ると共に情報処理結果を受信し表示するエンドユーザ端末で構成される情報処理装置に関し、特に狭い通信帯域でも大きな画像データや、動画像を品質よく端末に送信する技術に関する。
【0002】
【従来の技術】
従来の画像転送は、近似するデータを間引いて送信データを作成していた為、文字などの画像は滲みがでて醜くなる傾向があった。また、その近似範囲は固定的であり、変化範囲が少なくても指定範囲の間引き計算が必要とされ、品質、転送効率ともに非効率であった。
【0003】
このような問題を解決するために、画像データを複数のブロックに分割し、シーンnとシーンn+1の部分画像で一致した部分画像は前シーンの画像データを再利用し、一致しない部分画像のみ送信するために「プロセッサと、このプロセッサによって処理された画像データを保存するデータメモリと、画像データを転送するためのデータ転送装置と、その画像データのデータ転送がおこなわれるデータバスと、前記プロセッサによって動画像のシーンnを処理した部分画像データと、シーンn+1を処理している新たな部分画像データの2つの部分画像データを比較する比較演算器とを具備した並列画像処理装置であって、前記比較演算期の比較結果が不一致の場合は、前記データ転送制御装置が、画像データの転送動作を指示し、また上記比較結果が一致した場合は、画像データのデータ転送を禁止し、動画像シーンnの部分画像データを再度使用することを特徴とする並列画像処理装置」が開示されている(例えば、特許文献1参照。)。
【0004】
また、書画カメラ装置を適用した高解像度な資料の映像を得るために、「最初に各分割領域ごとの画像データを全て符号化して送信した後は、上記複数の分割領域のうちの特定領域の画像データのみを順次符号化して送信するようになされ、上記復号化手段および上記合成手段は、上記受信手段で最初に受信した各分割領域ごとの画像データを復号化して1つの画像を合成した後は、その後に送られくる上記特定領域の画像データでもって上記合成した画像中の対応する分割領域を更新することにより画像を再合成する」画像通信技術が開示されている(例えば、特許文献2参照。)。
【0005】
【特許文献1】
特公平7−27575号公報 (第2−3頁)
【0006】
【特許文献2】
特開平9−46703号公報 (第2−4頁)
【0007】
【発明が解決しようとする課題】
今後益々,計算機の処理部分と入出力が分離されネットワークで接続された形態の計算機環境への移行が予測され、それにともない、通信帯域を必要とする画像データ転送の効率化は重要な課題となってくる。上記の改善技術においても、ブロックに分割したシーンnとシーンn+1の対応する部分画像に一部でも不一致の部分があれば部分画像全体が転送の対象となるため、さらなる改善が要求される。また、正確性を要求する医療画像などと異なり、正確性をそれほど要求しない風景画像などについては、予め定義しておいた閾値(人間の目では認識できない許容範囲)を超えない範囲内の部分画像データの不一致については必ずしも転送の対象とする必要がない場合もある。
【0008】
本発明は、上記のような事情に鑑みて提案されたものであり、狭い通信帯域においても大きなデータや、動画像を品質よく端末に送信することを目的としている。
【0009】
【課題を解決するための手段】
図1は、本発明の実施の形態1の全体構成図を示すものである。本発明の画像転送プログラム10は画像転送装置1として振る舞うコンピュータ上で実行され、予め外部記憶装置2に記憶させてある画像データファイル21から現画像を取り出し、以前の処理で取り出した元画像との排他的論理和を取り差分抽出画像として外部記憶装置2上の差分抽出画像ファイルとして記憶させる差分抽出手段11と、前記差分抽出画像を複数のブロック画像に分割し、それぞれの前記ブロック画像に対してブロック識別子を割り当てる画面分割手段12と、前記ブロック画像に対して、水平軸と垂直軸の値を小さい値からそれぞれの単位長さで増加させ最初の差分が現れた座標と、前記ブロック画像に対して、水平軸と垂直軸の値を大きな値からそれぞれの単位長さで減少させ最初の差分が現れた座標とを検出する転送領域検出手段13と、前記転送領域検出手段13が検出した転送領域の座標、前記転送領域を含むブロック画像のブロック識別子、および前記転送領域の画像データを送信する画像送信手段14として機能するものであり、狭い通信帯域においても大きなデータや、動画像を品質よく端末に送信することが可能となる。
【0010】
なお、最初の画像を転送するときは、元画像が存在しないため、現画像と空の画像と排他的論理和をとることになり、差分抽出画像は全面塗りつぶした状態(全座標がON)となり現画像全体を送信することとなる。
さらに、前記画像送信手段14は、その差分が予め定められた閾値、例えば水平方向の長さと垂直方向の長さの組み合わせや転送領域の面積、を超えているかどうかを判別し、前記閾値を超えている場合のみ前記転送領域検出手段が検出した転送領域の座標、前記転送領域を含むブロック画像のブロック識別子、および前記転送領域の画像データを送信するようにすることにより、正確性をそれほど要求しない風景画像などについては、予め定義しておいた閾値を超えない範囲内の部分画像データの不一致については転送の対象から外すことが可能となり、より効率的な画像転送が可能となる。
【0011】
【発明の実施の形態】
図1は本発明の実施の形態1の全体構成図が示してある。本発明の画像プログラム10は、画像転送装置1として振る舞うコンピュータ上で実行される。差分抽出手段11は、予め外部記憶装置2に記憶させてある画像データファイル21から現画像を取り出し、以前の処理で取り出した元画像との排他的論理和を取り差分抽出画像として外部記憶装置2上の差分抽出画像ファイルとして記憶させる。画面分割手段12は、前記差分抽出画像を複数のブロック画像に分割し、それぞれの前記ブロック画像に対してブロック識別子を割り当てる。
【0012】
転送領域検出手段13は、差分が検出されたブロック画像に対して、水平軸と垂直軸の値を小さい値からそれぞれの単位長さで増加させ最初の差分が現れた座標と、前記ブロック画像に対して、水平軸と垂直軸の値を大きな値からそれぞれの単位長さで減少させ最初の差分が現れた座標とを検出する。画像送信手段14は、その差分が予め定められた閾値、例えば水平方向の長さと垂直方向の長さの組み合わせや転送領域の面積、を超えているかどうかを判別し、前記閾値を超えている場合のみ前記転送領域検出手段13が検出した転送領域の座標、前記転送領域を含むブロック画像のブロック識別子、および前記転送領域の画像データを送信する。
【0013】
なお、最初の画像を転送するときは、元画像が存在しないため、現画像と空の画像と排他的論理和をとることになり、差分抽出画像は全面塗りつぶした状態(全座標がON)となり現画像全体を送信することとなる。
本実施の形態では、元画像と現画像との差分をとってから、画像を分割しているが、先に画像を分割してから、それぞれの分割画像に対する差分を取るようにしても良い。画像転送装置1には、通信ネットワーク3を介して、画像を表示する端末装置4が接続されている。
【0014】
図2は、画像送信手段14が通信ネットワーク3を介して端末装置4に処理開始に先立って送信する制御データの形式の例が示してある。画面サイズには、これから送信する画面サイズの水平方向の大きさxと水平方向の大きさy、分割数には、これから送信する画面の水平方向に分割した数mと、垂直方向に分割した数nが格納される。
【0015】
図3は、画像送信手段14が通信ネットワーク3を介して端末装置4に画像の送信サービス期間中に送信する転送画像データの例が示してある。ブロック番号には、転送中の分割画像のブロック番号を水平方向i、垂直方向jが、送信データ領域(矩形)の大きさを、最小座標(minw,minh)、最大座標(maxw,maxh)が、転送画像データと共に端末へ送信される。
【0016】
図4は、画像転送処理の流れを示すフローチャートである。先ず、以前に送信した元画像と、これから送信しようとしている現画像の排他的論理和を取り、図6で示すような差分抽出画像を外部記憶装置2の差分抽出画像ファイル22に格納する(S401)。最初の画像を転送するときは、元画像が存在しないため、現画像と空の画像と排他的論理和をとることになり、差分抽出画像は全面塗りつぶした状態(全座標がON)となる。次に、差分抽出画像を複数個のブロック画像に分割する。図6の例では、3×3個のブロック画像に分割した例である。この例では、ブロックのサイズは幅w 、高さhが等しくなっているが異なった値でも良い。
【0017】
ブロック番号の水平方向と垂直方向の番号をそれぞれ0に初期化する(S403)。m(i)−n(j) 番目のブロックに対して、wとh値を少ない値から大きくし、最初の差分があらわれる座標を(Minw,Minh) とする(S404)。m(i)−n(j) 番目のブロックに対して、wとh値を大きな値から小さくし、最初の差分があらわれる座標を(Maxw,Maxh) とする(S405)。この座標を求めるためには、図7で示すような方法や図8で示すような方法等が考えられるが、本発明の本質的ところではないため詳細については省略する。
【0018】
(Maxw,Maxh) と(Minw,Minh) の差分が0 以下でない場合でかつ、その差分がアプリケーション毎に定められた閾値を超えていているどうかを判別する(S406)。アプリケーション毎に定められた閾値とは、例えば、水平方向や垂直方向の差分がある値以下である場合や、水平方向や垂直方向の差分を掛け合わせた面積がある値以下であるような場合、人間の目では変化が認識できないような値を指す。
【0019】
閾値を超えていない場合には、この変化分の画像データは送信しないでS408の処理へ進む。超えている場合には、分割画像のブロック番号を表すi,j と転送領域の最大座標であるMaxw, Maxhと最小座標であるMinw Minh の値及び転送領域である(Maxw,Maxh) と(Minw,Minh) で囲まれた画像データを端末に送信する(S407)。
【0020】
ブロック番号の水平方向の値iの値を1つ増加する(S408)。iの値が分割した水平方向のブロック番号の最大値に達しているかどうかを判断する(S409)。達していない場合には、次の分割画像ブロックに対して転送領域の最大座標、最小座標の検出処理であるS404に進む。達した場合には、分割した垂直方向のブロック番号jの値を1つ増加させる(S410)。
【0021】
jの値が分割した垂直方向のブロック番号の最大値に達しているかどうかを判断する(S411)。達していない場合には、次の分割画像ブロックに対して転送領域の最大座標、最小座標の検出処理であるS404に進む。達した場合には処理を終了する。
図5は,転送画像の元画像と現画像との変化の例が示してある。変化前の元画像と、変化後の現画像と比べるとブロック(2,1)のみが変化している。そのため、元画像を送信した後、次に送る画像は現画像すべてを送るのでは変化ブロック(2,1)以外のブロックは、元画像と同じものが二度送信されて効率が悪い。現画像を送信するときには、変化ブロック(2,1)のみを送信し、その他のブロックについては元画像のものを流用すれば効率のよいデータ転送となる。
【0022】
図6は、図5で示した元画像と現画像との排他的論理和を取った差分抽出画像の例が示してある。ブロック(2,1)が元画像と現画像との間で差分があることを示している。
図7は、転送領域検出例を図示したものである。この場合は、差分が検出されたブロック画像(2,1)に対して、水平軸と垂直軸の値を小さい値からそれぞれの同じ長さで同時に増加させ最初の差分が現れた座標を最小座標(minw,minh)として、前記ブロック画像(2,1)に対して、水平軸と垂直軸の値を大きな値からそれぞれの同じ長さで同時に減少させ最初の差分が現れた座標を最大座標(maxw,maxh)として検出する例である。
【0023】
図8も、転送領域検3,1)に対して、水平軸と垂直軸の値を小さい値からそれぞれの同じ長さで別々に増加させそれぞれ最初の差分が現れた値を成分とした座標を最小座標(minw,minh)として、前記ブロック画像(2,1)に対して、水平軸と垂直軸の値を大きな値からそれぞれの同じ長さで別々に減少させ最初の差分が現れた値を成分とする座標を最大座標(maxw,maxh)として検出する例である。
【0024】
【発明の効果】
狭い通信帯域でも大きな画像データや、動画像を品質よく端末に送信することが可能となる。
【図面の簡単な説明】
【図1】実施の形態1の全体構成図
【図2】処理の最初に送る制御データ例
【図3】サービス期間中に送る転送画像データ例
【図4】画像転送処理の流れ
【図5】画像の変化例
【図6】差分抽出画像例
【図7】転送領域検出例1
【図8】転送領域検出例2
【符号の説明】
1 画像転送装置
2 外部記憶装置
3 通信ネットワーク
4 端末装置
10 画像転送プログラム
11 差分抽出手段
12 画像分割手段
13 転送領域検出手段
14 画像送信手段
21 画像データファイル
22 差分抽出画像ファイル

Claims (5)

  1. 元画像と現画像の排他的論理和を取り差分抽出画像を作成する差分抽出手段と、
    前記差分抽出画像を複数のブロック画像に分割し、それぞれの前記ブロック画像にブロック識別子を割り当てる画像分割手段と、
    前記ブロック画像に対して、水平軸と垂直軸の値を小さい値からそれぞれの単位長さで増加させ最初の差分が現れた座標と、前記ブロック画像に対して、水平軸と垂直軸の値を大きな値からそれぞれの単位長さで減少させ最初の差分が現れた座標とを検出する転送領域検出手段と、
    前記転送領域検出手段が検出した転送領域の座標、前記転送領域を含むブロック画像のブロック識別子、および前記転送領域の画像データを送信する画像送信手段と
    を有することを特徴とする画像転送装置。
  2. 前記画像送信手段は、その差分が予め定められた閾値を超えているかどうかを判別し、前記閾値を超えている場合のみ前記転送領域検出手段が検出した転送領域の座標、前記転送領域を含むブロック画像のブロック識別子、および前記転送領域の画像データを送信する請求項1記載の画像転送装置。
  3. 元画像と現画像の排他的論理和を取り差分抽出画像を作成する差分抽出ステップと、
    前記差分抽出画像を複数のブロック画像に分割し、それぞれの前記ブロック画像にブロック識別子を割り当てる画像分割ステップと、
    前記ブロック画像に対して、水平軸と垂直軸の値を小さい値からそれぞれの単位長さで増加させ最初の差分が現れた座標と、前記ブロック画像に対して、水平軸と垂直軸の値を大きな値からそれぞれの単位長さで減少させ最初の差分が現れた座標とを検出する転送領域検出ステップと、
    前記転送領域検出手段が検出した転送領域の座標、前記転送領域を含むブロック画像のブロック識別子、および前記転送領域の画像データを送信する画像送信ステップと
    とを有することを特徴とする画像転送方法。
  4. 前記画像送信ステップは、その差分が予め定められた閾値を超えているかどうかを判別し、前記閾値を超えている場合のみ前記転送領域検出手段が検出した転送領域の座標、前記転送領域を含むブロック画像のブロック識別子、および前記転送領域の画像データを送信する請求項3記載の画像転送方法。
  5. 元画像と現画像の排他的論理和を取り差分抽出画像を作成する差分抽出手段と、
    前記差分抽出画像を複数のブロック画像に分割し、それぞれの前記ブロック画像にブロック識別子を割り当てる画像分割手段と、
    前記ブロック画像に対して、水平軸と垂直軸の値を小さい値からそれぞれの単位長さで増加させ最初の差分が現れた座標と、前記ブロック画像に対して、水平軸と垂直軸の値を大きな値からそれぞれの単位長さで減少させ最初の差分が現れた座標とを検出する転送領域検出手段と、
    前記転送領域検出手段が検出した転送領域の座標、前記転送領域を含むブロック画像のブロック識別子、および前記転送領域の画像データを送信する画像送信手段と
    してコンピュータを機能させる画像転送プログラム。
JP2003192367A 2003-07-04 2003-07-04 画像転送装置、画像転送方法、画像転送プログラム Expired - Fee Related JP4329429B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003192367A JP4329429B2 (ja) 2003-07-04 2003-07-04 画像転送装置、画像転送方法、画像転送プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003192367A JP4329429B2 (ja) 2003-07-04 2003-07-04 画像転送装置、画像転送方法、画像転送プログラム

Publications (2)

Publication Number Publication Date
JP2005027193A true JP2005027193A (ja) 2005-01-27
JP4329429B2 JP4329429B2 (ja) 2009-09-09

Family

ID=34189692

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003192367A Expired - Fee Related JP4329429B2 (ja) 2003-07-04 2003-07-04 画像転送装置、画像転送方法、画像転送プログラム

Country Status (1)

Country Link
JP (1) JP4329429B2 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007219626A (ja) * 2006-02-14 2007-08-30 Casio Comput Co Ltd コンピュータシステムのサーバ装置、サーバ制御プログラム、およびそのクライアント装置
JP2009054037A (ja) * 2007-08-28 2009-03-12 Awind Inc プラグ・アンド・ショー機能を持っている活線挿抜装置
EP2563038A1 (en) * 2011-08-26 2013-02-27 Streamtainment Systems OÜ Method for transmitting video signals from an application on a server over an IP network to a client device
JP2013205835A (ja) * 2012-03-29 2013-10-07 Toshiba Corp 画面表示装置及び画面表示システム
US8620997B2 (en) 2009-03-24 2013-12-31 Casio Computer Co., Ltd Client apparatus, computer system, computer readable program storage medium and display method, each for detecting change of display contents in status bar area to display the change
US8918450B2 (en) 2006-02-14 2014-12-23 Casio Computer Co., Ltd Server apparatuses, server control programs, and client apparatuses for a computer system in which created drawing data is transmitted to the client apparatuses

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007219626A (ja) * 2006-02-14 2007-08-30 Casio Comput Co Ltd コンピュータシステムのサーバ装置、サーバ制御プログラム、およびそのクライアント装置
US8918450B2 (en) 2006-02-14 2014-12-23 Casio Computer Co., Ltd Server apparatuses, server control programs, and client apparatuses for a computer system in which created drawing data is transmitted to the client apparatuses
JP2009054037A (ja) * 2007-08-28 2009-03-12 Awind Inc プラグ・アンド・ショー機能を持っている活線挿抜装置
US8620997B2 (en) 2009-03-24 2013-12-31 Casio Computer Co., Ltd Client apparatus, computer system, computer readable program storage medium and display method, each for detecting change of display contents in status bar area to display the change
EP2563038A1 (en) * 2011-08-26 2013-02-27 Streamtainment Systems OÜ Method for transmitting video signals from an application on a server over an IP network to a client device
WO2013030166A3 (en) * 2011-08-26 2013-04-25 Parm Lauri Method for transmitting video signals from an application on a server over an ip network to a client device
US9226003B2 (en) 2011-08-26 2015-12-29 Streamtainment Systems Oü Method for transmitting video signals from an application on a server over an IP network to a client device
JP2013205835A (ja) * 2012-03-29 2013-10-07 Toshiba Corp 画面表示装置及び画面表示システム

Also Published As

Publication number Publication date
JP4329429B2 (ja) 2009-09-09

Similar Documents

Publication Publication Date Title
US8305448B2 (en) Selective privacy protection for imaged matter
JP2002044422A (ja) 低解像度かつ低い色深度画像を生成するための画像処理方法及び装置
US7701466B2 (en) Method and system for providing accelerated video processing in a communication device
CN112132836A (zh) 视频图像裁剪方法、装置、电子设备及存储介质
JP2018137567A (ja) 映像送信装置および映像受信装置
FI107497B (fi) Menetelmä videokuvan siirtoon
US20120113221A1 (en) Image processing apparatus and method
JP4329429B2 (ja) 画像転送装置、画像転送方法、画像転送プログラム
CN110913118B (zh) 视频处理方法、装置及存储介质
CN107547790A (zh) 图像采集的处理方法、装置及系统
JP2005101720A (ja) 部分画像符号化装置
CN110602410B (zh) 一种图像处理方法、装置、航拍相机及存储介质
CN107888945A (zh) 一种图像传输方法及系统
CN110941413B (zh) 显示画面的生成方法及相关装置
CN110519530B (zh) 基于硬件的画中画显示方法及装置
JPH11308463A (ja) 画像処理装置及び画像処理方法
US8369637B2 (en) Image processing apparatus, image processing method, and program
CN111372009A (zh) 一种图像处理方法和处理设备
JPH11308464A (ja) パタンマッチング符号化装置、及びその符号化方法
EP1717756A1 (en) Method and system for changing image state in wireless terminal
JP3278936B2 (ja) ズーム率算出方法
CN109168007B (zh) 一种标定焦点及其图像传输的方法
CN115239753A (zh) 一种图像处理方法、系统、设备及存储介质
CN114463182A (zh) 基于超分辨率网络的视频处理方法、装置及存储介质
US9424657B2 (en) Image motion detection method, image processing method and apparatus using the methods

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20051222

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20071010

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20071016

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071212

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090303

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090423

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090526

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090608

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120626

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120626

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130626

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130626

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees