JP4383760B2 - 電子透かし埋め込み装置、その方法及び当該方法を実行するためのプログラムを記録した記憶媒体 - Google Patents

電子透かし埋め込み装置、その方法及び当該方法を実行するためのプログラムを記録した記憶媒体 Download PDF

Info

Publication number
JP4383760B2
JP4383760B2 JP2003076023A JP2003076023A JP4383760B2 JP 4383760 B2 JP4383760 B2 JP 4383760B2 JP 2003076023 A JP2003076023 A JP 2003076023A JP 2003076023 A JP2003076023 A JP 2003076023A JP 4383760 B2 JP4383760 B2 JP 4383760B2
Authority
JP
Japan
Prior art keywords
strength
digital watermark
digital image
intensity
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003076023A
Other languages
English (en)
Other versions
JP2003348553A (ja
Inventor
尚 井上
賢一 乗富
卓史 桂
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP2003076023A priority Critical patent/JP4383760B2/ja
Publication of JP2003348553A publication Critical patent/JP2003348553A/ja
Application granted granted Critical
Publication of JP4383760B2 publication Critical patent/JP4383760B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Description

【0001】
【発明の属する技術分野】
本発明は、電子透かし埋め込み装置、その方法及び当該方法を実行するためのプログラムを記録した媒体に関し、特に、デジタル画像に電子透かしを埋め込む強度の調整方法に関するものである。
【0002】
【従来の技術】
近年、デジタル化された音声や映像データなどのデジタルコンテンツは、オリジナルと全く同じものを簡単に複製できるため、コンテンツの著作権保護が重要な課題となっている。この解決策の一つとして、「電子透かし」が利用されている。
【0003】
電子透かしは、映像データの中に、人間には画質劣化を知覚できないようにデータを埋め込み、この埋め込み画像データから、埋め込まれたデータを検出する技術である。
【0004】
さらに、画像圧縮やノイズ付加などの画像処理が施された画像からでも、画像データに埋め込まれた電子透かしは、正しく検出できるように工夫しなくてはならない。本明細書において、このような画像処理を施した際に、電子透かしが検出に耐える度合いを、画像処理に対する耐性と呼ぶ。
【0005】
この画質劣化と、画像処理に対する耐性は、トレードオフの関係にあり、埋め込み強度の値を調整することで、両者のバランスが図られる。
【0006】
例えば、埋め込み強度の値を大きくすると、電子透かしを埋め込んだ画像の画質劣化は大きくなるが、画像処理に対する耐性は向上する。逆に、埋め込み強度の値を小さくすると、画質劣化を抑えることができるが、耐性は低下する。
【0007】
このようなトレードオフの関係を自動的に調整する従来の電子透かし埋め込み方法の一例が、特許文献1に示されている。以下、この文献に記載されている従来の電子透かし埋め込み方法を簡単に説明する。
【0008】
図4は、従来の電子透かし挿入システムのブロック図である。図4において、カテゴリ分類部401は、入力画像の特徴量を計算し、得られた特徴量から画像の属するカテゴリを求め、カテゴリインデックスを蓄積装置402へ出力する。
【0009】
蓄積装置402は、カテゴリインデックスごとに、電子透かし強度と画質劣化度とアタック(画像処理)に対する耐性評価値との対応を記述した電子透かし特性表を持ち、カテゴリ分類部401から入力されるカテゴリインデックスに応じて、使用する電子透かし特性表を選択する。
【0010】
電子透かし強度算出部403は、電子透かし強度を蓄積装置402に出力し、蓄積装置402から出力される画質劣化度と耐性評価値と、ユーザから入力される制約情報とを用いて、最適電子透かし強度を算出し、電子透かし挿入部404へ出力する。
【0011】
電子透かし挿入部404は、埋め込みデータを、電子透かしに変換し、電子透かし強度算出部403から入力した最適電子透かし強度で、入力画像に電子透かしを挿入し、電子透かし挿入画像を出力する。
【0012】
(1)従来技術では、入力画像の特徴量として、画像全体のアクティビティ(交流周波数成分の二乗平均値)を用いている。
【0013】
しかしながら、入力画像は、全体的に一様の画像であるとは限らず、変化が多い複雑な部分もあれば、変化の少ない単調な部分もある場合が、殆どである。
【0014】
電子透かしの埋め込み強度が、画像に対して強すぎると、電子透かしによる画質劣化が目立ってしまう。特に、変化の少ない部分においては、この画質劣化が一層顕著になる。
【0015】
したがって、従来技術によると、入力画像において、部分的に電子透かしの埋め込み強度が不適切になる場合が多く、画質劣化が避けられないという問題点があった。
【0016】
(2)従来技術における画質劣化度は、電子透かしを挿入した直後の電子透かし挿入画像と入力画像とで計算した数値である。
【0017】
しかしながら、実際に映像データをハードディスク等の記録媒体に蓄積・保存し、その後、ネットワークなどで伝送・配信する場合、データ量を削減するために、映像データを構成する画像は、動画であれば、例えばMPEG方式など、静止画であれば、例えばJPEG方式など、に従って符号化される。
【0018】
このため、符号化される前の電子透かし挿入画像と、符号化された後の電子透かし挿入画像とは、一般に異なるものとなる。
【0019】
例えば、低圧縮ビットレートで圧縮された電子透かし挿入画像は、圧縮によるブロック歪が顕著にあらわれ、圧縮される前の電子透かし挿入画像に対し、大きく画質が劣化する。
【0020】
即ち、従来技術では、圧縮前後における画質の変化を何ら考慮していなかったので、好ましい埋め込み強度で、入力画像に電子透かしを埋め込むことができず、画質劣化と画像処理に対する耐性との関係が不適切になりやすいという問題点があった。
【特許文献1】
特開平11−346302号公報(第9−11頁、図1)
【特許文献2】
特開2001−352441号公報(第3−4頁、図1)
【0021】
【発明が解決しようとする課題】
本発明の第1の目的は、画質劣化を抑制できる技術を提供することである。
【0022】
本発明の第2の目的は、圧縮を行う場合にも、入力画像に、適切な埋め込み強度で電子透かしを埋め込める技術を提供することである。
【0023】
第1の発明に係る電子透かし埋め込み装置は、デジタル画像をマクロブロック単位で分割するブロック分割部と、マクロブロック内の各画素の、水平方向の隣接画素との差分の絶対値と垂直方向の隣接画素との差分の絶対値との総和である差分絶対値総和を算出する特徴量算出部と、特徴量算出部が算出した差分絶対値総和が大きい程、強度が大きくなるように対応関係が予め定められた対応表に基づいて第1の強度を算出する第1強度算出部と、予め定められたデジタル画像全体の圧縮ビットレートが小さい程、強度が大きくなるように対応関係が予め定められた対応表に基づいて第2の強度を算出する第2強度算出部と、第1強度算出部が算出した第1の強度と第2強度算出部が算出した第2の強度との加算または乗算によりマクロブロック単位で埋め込み強度を算出する埋め込み強度判定部と、埋め込み強度判定部が算出した埋め込み強度を用いてマクロブロック単位でデジタル画像に電子透かしを埋め込む電子透かし挿入部と、電子透かし挿入部が電子透かしを埋め込んだデジタル画像を、予め定められたデジタル画像全体の圧縮ビットレートで符号化し、圧縮ビットストリームを出力する画像符号化部と、を備える。
【0024】
この構成により、符号化に使用する圧縮ビットレートと、入力画像の特徴量とに基づいて、電子透かし強度を求めることができる。即ち、画像符号化された後の電子透かし挿入画像の画質を考慮して、電子透かしの埋め込み強度を求め、圧縮の程度を反映して、デジタル画像に電子透かしを埋め込むことができる。
【0028】
この構成における対応表を使用することにより、圧縮ビットレートを反映して埋め込み強度を調整できる。即ち、画像符号化された後の電子透かし挿入画像の画質を考慮した、埋め込み強度により、デジタル画像に電子透かしを埋め込める。
【0029】
【発明の実施の形態】
以下、図面を参照しながら、本発明の実施の形態を説明する。図1は、本発明の一実施の形態に係る電子透かし埋め込み装置の構成を示すブロック図である。
【0030】
図1に示すように、この電子透かし埋め込み装置は、特徴量算出部101と、埋め込み強度判定部102と、電子透かし挿入部103と、画像符号化部104とを備える。ここで、本形態における画像符号化部104は、電子透かしが埋め込まれたデジタル画像に対し、所定の信号処理を行う処理部に相当する。
【0031】
以下、図2から図3をさらに参照して、電子透かし埋め込み処理の内容について説明する。図2は、同電子透かし埋め込む装置のフローチャートである。
【0032】
まず、特徴量算出部101は、入力するデジタル画像を、予め定めた画素単位の複数の部分領域の画像に分割し、部分領域単位で特徴量を算出する(ステップS201)。
【0033】
本形態における部分領域は、16×16画素サイズのマクロブロックである。また、その部分領域毎の特徴量は、輝度成分の平均値である。
【0034】
ここで、部分領域は、上述のように、1つのマクロブロックとしたり、1ラインを構成する複数のマクロブロックとしたり、オブジェクト単位とするなど、画像符号化に応じた処理単位にするように変更してもよい。
【0035】
1ラインを構成する複数のマクロブロックを部分領域とすると、1つのマクロブロックを部分領域とするよりも、演算量を削減できるので、システム資源に余裕がない場合に適用しやすい。
【0036】
また、特徴量は、輝度成分の平均値の他、次のような、水平および垂直方向隣接画素の差分絶対値の総和を用いてもよい。ここで、部分領域が、16×16画素サイズであり、各画素の輝度データがd(i,j)(0≦i≦15,0≦j≦15)であるとき、
水平方向隣接画素の差分絶対値の総和Shは、次式で定義できる。
【0037】
【数1】
Figure 0004383760
【0038】
また、垂直方向隣接画素の差分絶対値の総和Svは、次式で定義できる。
【0039】
【数2】
Figure 0004383760
【0040】
さらに、人間の視覚特性にあった特徴量を算出して実施すると、画質劣化を知覚されにくく、埋め込み強度を大きくできる効果がある。勿論、以上述べた特徴量は、いずれも例示に過ぎず、本発明は、他の特徴量を用いる場合も含む。
【0041】
次に、埋め込み強度判定部102の処理(ステップS202)について、図3を用いて説明する。図3(a)に示すテーブル1と、図3(b)に示すテーブル2とは、それぞれ特徴量と圧縮ビットレートとに対する、埋め込み強度の対応表である。
【0042】
テーブル1を用いるときには、特徴量算出部101で算出した特徴量と、予め定めたしきい値Y1、Y2(Y2<Y1)とが、比較される。そして、特徴量の範囲に基づいて、「強度1」が求められる。例えば、特徴量の値が、しきい値Y1より大きい場合には、「強度1」として「3」が出力される。
【0043】
テーブル2を用いるときには、画像符号化部104が使用する圧縮ビットレートと、予め定めたしきい値B1,B2(B2<B1)とが、比較される。そして、圧縮ビットレートの範囲に基づいて、「強度2」が求められる。例えば、圧縮ビットレートの値が、しきい値B2より小さい場合には、「強度2」として「3」が出力される。
【0044】
さらに、埋め込み強度判定部102は、「強度1」と「強度2」を加算し、これらの和を、埋め込み強度として、電子透かし挿入部103へ出力する。上記例では、埋め込み強度は、3+3=6となる。
【0045】
なお、以上では、出力される埋め込み強度は、「強度1」と「強度2」との和であるが、本発明は、これに限定されない。出力される埋め込み強度は、例えば、「強度1」と「強度2」との積であってもよい。
【0046】
次に、電子透かし挿入部103は、埋め込み強度判定部102で求めた埋め込み強度を用いて、部分領域(ここではマクロブロック)の画像に電子透かしを埋め込み、埋め込み済みの部分領域の画像を、画像符号化部104へ出力する(ステップS203)。
【0047】
このようにすると、特徴量算出部101、電子透かし挿入部103及び画像符号化部104の各処理が、マクロブロック単位で並行して進行することになり、待ち時間が少なく効率が良い。
【0048】
次に、画像符号化部104は、電子透かしが挿入された部分領域の画像を、予め定めた圧縮ビットレートに応じて、符号化し、圧縮されたビットストリームを出力する(ステップS204)。
【0049】
以上のように、本形態に係る電子透かし埋め込み装置によれば、デジタル画像を予め定めた画素単位の複数の部分領域に分割し、部分領域ごとの特徴量を算出する。そして、特徴量と予め定めた圧縮ビットレートに応じた対応表を用いて埋め込み強度を判定する。
【0050】
これにより、入力画像の小さな領域ごとの特徴量を計算することで、領域ごとの埋め込み強度を調整でき、画質劣化を抑えることができる。しかも、圧縮ビットレートに応じた埋め込み強度を調整することで、画像符号化された後の電子透かし挿入画像の画質を考慮した埋め込み強度の判定を行うことができる。
【0051】
なお、典型的には、本形態に係る電子透かし埋め込み装置が実現する各機能は、所定のプログラムデータが格納された記憶装置(ROM、RAM、ハードディスク等)と、当該プログラムデータを実行するCPU(セントラル・プロセッシング・ユニット)とによって実現される。この場合、各プログラムデータは、CD−ROMやフレキシブルディスク等の記憶媒体を介して導入されてもよい。
【0052】
【発明の効果】
本発明によれば、入力画像の小さな領域ごとに特徴量を算出するので、領域ごとの埋め込み強度を調整でき、画質劣化を抑えることができる。また、予め定めた圧縮ビットレートに応じた対応表を用いて埋め込み強度を調整することで、画像符号化された後の電子透かし挿入画像の画質を考慮して、埋め込み強度を決定できる。
【0053】
この結果、MPEGなどの標準画像符号化に対する耐性が向上できる。例えば、低圧縮ビットレート(高圧縮・低画質)で圧縮した場合、埋め込み強度を大きくすることで、圧縮に対する耐性を向上できる。しかも、埋め込みによる画質劣化よりも圧縮によるブロック歪等の画質劣化が知覚されやすくなることで、埋め込み強度を大きくしても埋め込みによる画質劣化を抑えることができる。
【0054】
反対に、高圧縮ビットレート(低圧縮・高画質)で圧縮した場合、埋め込み強度を小さくすることで、埋め込みによる画質劣化を抑えることができる。しかも、圧縮による劣化が小さいことで、埋め込み強度を小さくしても圧縮に対する耐性は維持できる。
【図面の簡単な説明】
【図1】本発明の一実施の形態における電子透かし埋め込み装置のブロック図
【図2】同電子透かし埋め込み装置のフローチャート
【図3】(a)同対応表(特徴量)の例示図
(b)同対応表(圧縮ビットレート)の例示図
【図4】従来の電子透かし埋め込み装置のブロック図
【符号の説明】
101 特徴量算出部
102 埋め込み強度判定部
103 電子透かし挿入部
104 画像符号化部
401 カテゴリ分類部
402 蓄積装置
403 電子透かし強度算出部
404 電子透かし挿入部

Claims (3)

  1. デジタル画像をマクロブロック単位で分割するブロック分割部と、
    前記マクロブロック内の各画素の、水平方向の隣接画素との差分の絶対値と垂直方向の隣接画素との差分の絶対値との総和である差分絶対値総和を算出する特徴量算出部と、
    前記特徴量算出部が算出した差分絶対値総和が大きい程、強度が大きくなるように対応関係が予め定められた対応表に基づいて第1の強度を算出する第1強度算出部と、
    予め定められた前記デジタル画像全体の圧縮ビットレートが小さい程、強度が大きくなるように対応関係が予め定められた対応表に基づいて第2の強度を算出する第2強度算出部と、
    前記第1強度算出部が算出した第1の強度と前記第2強度算出部が算出した第2の強度との加算または乗算によりマクロブロック単位で埋め込み強度を算出する埋め込み強度判定部と、
    前記埋め込み強度判定部が算出した埋め込み強度を用いてマクロブロック単位で前記デジタル画像に電子透かしを埋め込む電子透かし挿入部と、
    前記電子透かし挿入部が電子透かしを埋め込んだデジタル画像を、予め定められた前記デジタル画像全体の圧縮ビットレートで符号化し、圧縮ビットストリームを出力する画像符号化部と、
    を備える、電子透かし埋め込み装置。
  2. デジタル画像をマクロブロック単位で分割し、
    前記マクロブロック内の各画素の、水平方向の隣接画素との差分の絶対値と垂直方向の隣接画素との差分の絶対値との総和である差分絶対値総和を算出し、
    前記差分絶対値総和が大きい程、強度が大きくなるように対応関係が予め定められた対応表に基づいて第1の強度を算出し、
    予め定められた前記デジタル画像全体の圧縮ビットレートが小さい程、強度が大きくなるように対応関係が予め定められた対応表に基づいて第2の強度を算出し、
    前記第1の強度と前記第2の強度との加算または乗算によりマクロブロック単位で埋め込み強度を算出し、
    前記埋め込み強度を用いてマクロブロック単位で前記デジタル画像に電子透かしを埋め込み、
    前記電子透かしを埋め込んだデジタル画像を、予め定められた前記デジタル画像全体の圧縮ビットレートで符号化して圧縮ビットストリームを出力する、
    電子透かし埋め込み方法。
  3. デジタル画像をマクロブロック単位で分割し、
    前記マクロブロック内の各画素の、水平方向の隣接画素との差分の絶対値と垂直方向の隣接画素との差分の絶対値との総和である差分絶対値総和を算出し、
    前記差分絶対値総和が大きい程、強度が大きくなるように対応関係が予め定められた対応表に基づいて第1の強度を算出し、
    予め定められた前記デジタル画像全体の圧縮ビットレートが小さい程、強度が大きくなるように対応関係が予め定められた対応表に基づいて第2の強度を算出し、
    前記第1の強度と前記第2の強度との加算または乗算によりマクロブロック単位で埋め込み強度を算出し、
    前記埋め込み強度を用いてマクロブロック単位で前記デジタル画像に電子透かしを埋め込み、
    前記電子透かしを埋め込んだデジタル画像を、予め定められた前記デジタル画像全体の圧縮ビットレートで符号化して圧縮ビットストリームを出力する、ことにより電子透かしの埋め込みをコンピュータに実行させるためのプログラムを記録したコンピュータが読み取り可能な記録媒体。
JP2003076023A 2002-03-20 2003-03-19 電子透かし埋め込み装置、その方法及び当該方法を実行するためのプログラムを記録した記憶媒体 Expired - Fee Related JP4383760B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003076023A JP4383760B2 (ja) 2002-03-20 2003-03-19 電子透かし埋め込み装置、その方法及び当該方法を実行するためのプログラムを記録した記憶媒体

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2002-78370 2002-03-20
JP2002078370 2002-03-20
JP2003076023A JP4383760B2 (ja) 2002-03-20 2003-03-19 電子透かし埋め込み装置、その方法及び当該方法を実行するためのプログラムを記録した記憶媒体

Publications (2)

Publication Number Publication Date
JP2003348553A JP2003348553A (ja) 2003-12-05
JP4383760B2 true JP4383760B2 (ja) 2009-12-16

Family

ID=29781939

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003076023A Expired - Fee Related JP4383760B2 (ja) 2002-03-20 2003-03-19 電子透かし埋め込み装置、その方法及び当該方法を実行するためのプログラムを記録した記憶媒体

Country Status (1)

Country Link
JP (1) JP4383760B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4754204B2 (ja) * 2004-11-15 2011-08-24 三菱電機株式会社 電子透かし埋込装置
JP4740581B2 (ja) * 2004-12-06 2011-08-03 日本放送協会 アナログ電子透かし埋め込み装置及びそのプログラム、並びに、アナログ電子透かし検出装置及びそのプログラム
JP4134128B2 (ja) 2005-09-26 2008-08-13 富士通株式会社 エンコード可否判定装置、エンコード可否判定方法およびエンコード可否判定プログラム
KR100768669B1 (ko) 2005-11-28 2007-10-23 김종남 움직임 벡터의 최소변경 기법을 이용한 블라인드 비디오워터마킹의 방법
KR101213161B1 (ko) * 2006-06-14 2012-12-17 삼성전자주식회사 압축영역에서의 비디오 워터마킹 장치 및 그 방법

Also Published As

Publication number Publication date
JP2003348553A (ja) 2003-12-05

Similar Documents

Publication Publication Date Title
US7356700B2 (en) Digital watermark-embedding apparatus and method, digital watermark-detecting apparatus and method, and recording medium
Sherly et al. A compressed video steganography using TPVD
US7295615B1 (en) System for embedding additional information in video data, and embedding method
JP3567975B2 (ja) 電子透かし検出・挿入装置
JP2003517796A (ja) 「ムラのあるピクチャ」効果を減らす方法
JP4023324B2 (ja) 透かし埋め込み及び画像圧縮部
KR100948381B1 (ko) 인간시각시스템을 이용한 영상 워터마킹 방법
JP4383760B2 (ja) 電子透かし埋め込み装置、その方法及び当該方法を実行するためのプログラムを記録した記憶媒体
US7095870B2 (en) Electronic watermark embedding apparatus and method and a format conversion device having a watermark embedding function
JP3762655B2 (ja) 情報埋め込み装置、検出装置、データ処理方法、プログラム及び記憶媒体
JP2007334457A (ja) 画像処理装置及び画像処理方法
JP2001119557A (ja) 電子透かし埋め込み装置および方法
JP2004048219A (ja) 電子透かし情報の挿入方法
JP3387418B2 (ja) ディジタル信号の電子透かし挿入システム
JP4165752B2 (ja) 画像データへの秘匿データ挿入方式および秘匿データ検出方式
JP5080304B2 (ja) 秘匿データが挿入された画像データの表示方式
US7187782B2 (en) Digital watermark-embedding apparatus, digital watermark-embedding method, and recording medium having recoded therein a program for performing the digital watermark-embedding method
KR20010074604A (ko) 엠피이지 비디오 스트림상의 블록 유닛 양자화를 이용한실시간 동영상 워터마크 삽입방법 및 검출방법
US6944314B2 (en) Digital information embedding device embedding digital watermark information in exact digital content, computer-readable recording medium having digital information embedding program recorded therein, and method of embedding digital information
Thiemert et al. A high-capacity block based video watermark
JP3566924B2 (ja) 電子透かし埋め込み方法,検出方法,電子透かし埋め込み装置,検出装置および電子透かし埋め込みプログラムを記録した記録媒体,検出プログラムを記録した記録媒体
JP4119637B2 (ja) 電子透かし埋込方法、電子透かし埋込装置、電子透かし埋込プログラム、電子透かし検出方法、電子透かし検出装置および電子透かし検出プログラム
EP1589762A1 (en) Image compression with reduced block artefacts
TW200849036A (en) Method for embedding watermark
CN101223550A (zh) 用于嵌入数据的方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20051227

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080528

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080718

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090120

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090304

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090902

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090924

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121002

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4383760

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131002

Year of fee payment: 4

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees