JP4223353B2 - 電子透かし埋め込み装置、電子透かし検出装置及びそれらの方法並びに記録媒体 - Google Patents

電子透かし埋め込み装置、電子透かし検出装置及びそれらの方法並びに記録媒体 Download PDF

Info

Publication number
JP4223353B2
JP4223353B2 JP2003308362A JP2003308362A JP4223353B2 JP 4223353 B2 JP4223353 B2 JP 4223353B2 JP 2003308362 A JP2003308362 A JP 2003308362A JP 2003308362 A JP2003308362 A JP 2003308362A JP 4223353 B2 JP4223353 B2 JP 4223353B2
Authority
JP
Japan
Prior art keywords
unit
digital watermark
value
block
bit string
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003308362A
Other languages
English (en)
Other versions
JP2004153786A5 (ja
JP2004153786A (ja
Inventor
賢一 乗富
尚 井上
將高 江島
卓史 桂
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP2003308362A priority Critical patent/JP4223353B2/ja
Publication of JP2004153786A publication Critical patent/JP2004153786A/ja
Publication of JP2004153786A5 publication Critical patent/JP2004153786A5/ja
Application granted granted Critical
Publication of JP4223353B2 publication Critical patent/JP4223353B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Image Processing (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Image Analysis (AREA)

Description

本発明は、画像信号に対して埋め込み情報を電子透かしとして埋め込む装置、画像信号から電子透かしを検出する装置及びそれらの方法並びに当該方法を実行するためのプログラムを記録した媒体に関する。
近年、電子化された音声や映像データであるデジタルコンテンツが増加している。デジタルコンテンツは、オリジナルとまったく同じものを簡単に複製できるため、コンテンツの著作権の保護が重要な課題である。不法に複製、配布されたコンテンツは、オリジナルと区別が付かないため、コンテンツの著作権を主張する証拠を示すことは困難であり、著作権保護の方法が検討されている。
デジタルコンテンツの著作権保護の方法として、「電子透かし」が利用されている。電子透かしとは、映像データの中に、人間には画質劣化を知覚できないようにデータを埋め込み、この埋め込み画像データから、埋め込まれたデータを検出する技術である。
従来、この種の電子透かし埋め込み装置として、例えば特開2000−175161号公報(特許文献1)に開示がある。
以下、図18を用いて、従来の技術について説明する。図18は従来の電子透かし埋め込み装置のブロック図である。
図18において、ブロック分割部1401は、動画像フレーム(画像データ)をブロック分割し、ブロック抽出部1402はテンプレート1409によって指示されたブロックを抽出する。
抽出されたブロックは、DCT部1403においてDCT処理され、DCT係数抽出部1404はテンプレート1409によって指示されたDCT係数を抽出する。透かしデータ埋め込み部1405はDCT係数値の絶対値を大きくする処理をして、透かしデータを埋め込む。
次に、逆DCT部1406は、透かしが埋め込まれたDCT係数値を逆DCTし、ブロック画像をブロック合成部1407へ出力する。ブロック合成部1407は、ブロック画像を合成して、1フレームの画像データを生成し、MPEG符号化部1408へ出力する。
MPEG符号化部1408は、画像データを符号化して圧縮画像データを出力する。例えば、画像データベースのサーバは、この圧縮画像データをクライアントへ配送する。
しかしながら、従来技術によると、DCT→逆DCT→MPEG符号化という経路を経ないと、電子透かしを埋め込んだ圧縮画像データを配送できない。
また、埋め込まれた透かしデータの検出は、次のように行われる。
まず、透かしデータが埋め込まれたブロックのDCT係数値の絶対値と、近隣のブロックの対応するDCT係数値の絶対値平均値とを比較し、DCT係数値の絶対値がDCT係数値の絶対値平均値より、予定の閾値以上異なっている場合に、透かしデータが埋め込まれていると検出する。
したがって、検出対象ブロックと隣接ブロックに対応する画像の複雑さが大きく異なる場合に検出が困難となる。例えば、平坦な画像の場合はDCT係数の交流成分値は小さくなる。また、エッジが多い画像の場合はDCT係数の交流成分は大きくなる。これらの画像が、検出対象ブロックと隣接ブロックの中に混在している場合には、特許文献1記載の手法においては、検出精度が悪いという問題点がある。
また、特許文献1記載の手法においては、テンプレートを用いて電子透かしを埋め込むブロックを決定するため、決定したブロックに対応する画像の複雑さによっては、画質が劣化することがある。例えば、テンプレートによって決定されたブロックが平坦な画像の場合、電子透かし埋め込みによって画質が劣化してしまう。
また、この種の電子透かし埋め込み方法として、例えば特開平11−75166号公報(特許文献2)がある。特許文献2は、映像信号の複数画素単位で、微小レベルの付加情報を重畳する方法を開示する。
この手法では、複数画素単位内の重畳レベルパターンが、所定の固定パターンとなるように、複数画素単位内での付加情報の重畳レベルを変えて、付加情報を映像信号に重畳する。
また、特許文献2記載の手法においては、画素空間上でそれぞれの画素に対して微小な変化を与えることで電子透かしを埋め込むため、処理量が大きくなる。例えば、元々MPEG符号化された映像に対して、電子透かしを埋め込む場合には、一旦、画素空間まで伸長処理を行い、電子透かしを埋め込み後、再度符号化処理を行う必要があり、リアルタイム処理には向かない。
特開2000−175161号公報 特開平11−75166号公報
本発明の第1の目的は、ブロックの画像に影響を受けにくい、検出精度のよい電子透かし技術を提供することである。
本発明の第2の目的は、画質劣化を抑えた電子透かし技術を提供することである。
本発明の第3の目的は、処理量が小さく、かつMPEG符号化に代表される標準画像符号化と親和性の高い電子透かし技術を提供することである。
第1の発明では、複数の周波数成分から抽出した第1の特徴量に基づいて、一つまたは複数の周波数成分を選択し、選択した一つまたは複数の周波数成分の値を第2の特徴量に基づいて所定の規則で操作する。
この構成により、画質劣化を抑えることができ、処理量を小さくできる。
第2の発明では、離散コサイン変換された一つまたは複数の周波数成分の値を所定の規則で操作する。
この構成により、離散コサイン変換を用いたMPEG符号化を代表とする標準画像符号化と親和性の高い電子透かし埋め込みを実現できる。
第3の発明では、電子透かし埋め込みによる変化が大きい領域に加え、その領域に含まれる画素と近い値をとる隣接する領域とを選択して、演算を行う。
この構成により、電子透かし埋め込みによる変化分のみを効果的に抽出でき、ブロックの画像に影響を受けにくい、更に検出精度のよい電子透かし技術を提供できる。
本発明によれば、複数の周波数成分から抽出した第1の特徴量に基づいて、一つまたは複数の周波数成分を選択し、選択した一つまたは複数の周波数成分の値を所定の規則で操作することで、画質劣化を抑えることができる。また、直交変換が行われた複数の周波数成分から第2の特徴量を抽出し、第2の特徴量に基づいて電子透かしを埋め込むことにより、画質劣化を更に抑えることができる。
また、処理量を小さくできると共に、離散コサイン変換された一つまたは複数の周波数成分の値を所定の規則で操作することで、離散コサイン変換を用いたMPEG符号化を代表とする標準画像符号化と親和性の高い電子透かし埋め込みを実現できる。
また、電子透かし埋め込みによる変化が大きい領域と、その領域近傍の画素値が近く、電子透かしによる変化がない領域を選択して、演算を行うことで、電子透かし埋め込みによる変化分のみを効果的に抽出でき、検出精度のよい電子透かし技術を実現できる。
以下、図面を参照しながら、本発明の実施の形態を説明する。
(第1の実施の形態)
図1は、本発明における第1の実施の形態に係る電子透かし埋め込み装置のブロック図である。
図1において、電子透かし埋め込み装置は、埋め込み信号作成部101とブロック分割部102と直交変換部103と第1の特徴量抽出部104と選択部105と第2の特徴量抽出部106と電子透かし埋め込み部107を備える。
埋め込み信号作成部101は、埋め込み情報に基づいて、電子透かしとして埋め込む信号を作成する。ブロック分割部102は、デジタル画像信号を複数画素単位のブロックに分割する。
直交変換部103は、ブロックのそれぞれを直交変換し複数の周波数成分に変換する。電子透かし埋め込み部107は、埋め込み信号作成部101が作成した埋め込み信号に基づいて、複数の周波数成分の少なくとも1つの値を、ブロック内の画像変化量が検出を考慮して予め定められた特定のパターンとなるように、所定の規則で操作する。
第1の特徴量抽出部104は、複数の周波数成分に基づいて第1の特徴量を抽出する。
選択部105は、抽出された第1の特徴量に基づいて、複数の周波数成分の少なくとも1つの値を選択する。
以下、図2を更に参照して、本発明の電子透かし埋め込み装置について説明する。図2は、図1の電子透かし埋め込み装置のフローチャートである。
まず、埋め込み信号作成部101は、埋め込み情報を2値のビット列に変換する(ステップ201)。
例えば、埋め込み情報として「715」という16ビットの識別情報を埋め込む場合には、埋め込み信号作成部101は、埋め込み情報「715」を2値で表した「0000001011001011」に変換する。
次に、ブロック分割部102は、デジタル画像信号を複数画素単位のブロックに分割する(ステップ202)。本形態では、8×8画素から構成されるブロックに分割する。こうすると、MPEG方式と親和性が高い。
次に、直交変換部103は、ステップ202で分割したそれぞれのブロックに対して直交変換を行い複数の周波数成分に変換する(ステップ203)。本形態では、直交変換部103は、離散コサイン変換する。
次に、第1の特徴量抽出部104は、ステップ203で変換された複数の周波数成分から第1の特徴量を抽出する(ステップ204)。
本形態では、第1の特徴量は、ブロック内の画像における、垂直方向、水平方向のそれぞれのエッジに対応する特定の周波数成分の総和である。
この点について、図3を用いて説明する。図3の1つの矩形は、ステップ203で離散コサイン変換されたブロックであり、1つの矩形には1つの周波数成分が対応する。
図3において、垂直方向のエッジに対応する特定の周波数成分の総和をsumVとし、sumVは、周波数成分AC1、AC5、AC6の絶対値の総和とする。また、水平方向のエッジに対応する特定の周波数成分の総和をsumHとし、sumHは、周波数成分AC2、AC3、AC9の絶対値の総和とする。
ここで、sumVはブロックの画像において、垂直方向のエッジ成分の強さに応じて大きい値をとるため、垂直方向エッジ成分の強さの指標となる。一方、sumHは、水平方向エッジ成分の強さの指標となる。
次に、選択部105は、ステップ204で抽出された第1の特徴量に基づいて、選択部105は、一つまたは複数の周波数成分を選択する(ステップ205)。本形態では、予め設定した閾値をRとし、以下の条件に従って、周波数成分を選択する。
(条件a)sumV>RでかつsumH≦Rの場合、図3における周波数成分AC1を選択する。
(条件b)sumH>RでかつsumV≦Rの場合、図3における周波数成分AC2を選択する。
(条件c)条件a及びbに当てはまらない場合、図3における周波数成分AC1と周波数成分AC2を選択する。
次に、第2の特徴量抽出部106は、ステップ203で変換された複数の周波数成分で表されるデジタル画像信号から第2の特徴量を抽出する(ステップ206)。
本形態では、第2の特徴量は、直流成分値と特定の交流成分値との総和である。図3において、直流成分値は周波数成分DCの値であり、特定の交流成分値の総和は周波数成分AC1〜AC9の値の総和である。
ここで、直流成分値DCはブロック内の画素の輝度平均値を表す。また、特定の交流成分値AC1〜AC9の総和は、ブロックの画像の複雑さに応じて大きい値をとるため、複雑さの指標となる。
最後に、電子透かし埋め込み部107は、ステップ201で作成したビット列のそれぞれの値をブロック単位に割り当て、ステップ205で選択した一つまたは複数の周波数成分の値を、ステップ206で抽出した第2の特徴量に基づいて、一つまたは複数の周波数成分の値を増減し、電子透かし埋め込みを行う(ステップ207)。
図4は、ブロック単位のビット列の割り当て方を示す。本形態では、図4に示すように、ビット列の値をブロック1つおきに繰り返し割り当てる。
また、増減を行う周波数成分の元の値をXorg、増減値をdX、増減後の周波数成分の値をXwmとする。
増減後の周波数成分の値は、割り当てられたビット列の値が「1」の場合には、
Xwm=Xorg+dX
とする。割り当てられたビット列の値が「0」の場合には、
Xwm=Xorg−dX
とする。
ここで、増減値dXは正の値であり、基準値に対して、直流成分値と特定の交流成分値に基づいて増減する。直流成分値DCは、輝度平均値に対応するので、人間の視覚特性に基づいて、変化が知覚されにくい値をとる場合には、増減値dXを増加させ、逆に知覚されやすい値をとる場合には、増減値dXを減少させることが望ましい。
また、特定の交流成分値AC1〜AC9の総和が大きい場合には、エッジ成分の多い複雑な画像であるため変化が知覚されにくく、小さい場合には平坦な画像であるため変化が知覚されすい。
したがって、特定の交流成分値の総和が大きい場合には、増減値dXを増加させ、逆に小さい場合には、増減値dXを減少させることが望ましい。電子透かし埋め込み部107は、この操作を、ステップ205で選択した周波数成分の値に対して行う。
以上のようにして、電子透かし埋め込まれた周波数成分によると、画素空間上において、ブロック単位に画素値が微小に変化し、その変化量は離散コサイン変換における基底画像の1つのパターンまたは複数の組み合わせのパターンで表される。
図5〜図7は、電子透かし埋め込み後のブロック内における輝度値の変化を表す。
図5(a)、(d)、(g)、(j)、図6(a)、(d)、(g)、(j)、図7(a)、(d)、(g)は、埋め込み操作例を示す。
このとき、それぞれ、輝度変化量の分布(特定のパターン)は、図5(b)、(e)、(h)、(k)、図6(b)、(e)、(h)、(k)、図7(b)、(e)、(h)に示すようになる。
さらに、輝度変化量の分布を正負のみで簡略して表示すると、それぞれ、図5(c)、(f)、(i)、(l)、図6(c)、(f)、(i)、(l)、図7(c)、(f)、(i)に示すようになる。
なお、図5(a)(b)(c)は、ステップ205において、条件bが満たされる場合に該当する。同様に、図5(d)(e)(f)は、ステップ205において、条件aが満たされる場合に該当し、図5(g)(h)(i)は、ステップ205において、条件cが満たされる場合に該当する。
条件a、b、cの他に、図5(j)〜(l)、図6、図7に示すような条件を設定し、電子透かしの埋め込みを行っても良い。
いずれにしても、特定のパターンは、図5(c)、(f)、(i)、(l)、図6(c)、(f)、(i)、(l)、図7(c)、(f)、(i)のように、画像変化量が正となる領域と、画像変化量が負となる領域とが、交互に存在し、規則的なまとまりを持つようにする。このようにすれば、電子透かしの埋め込みによる輝度変化量が規則性を持ち、電子透かしを検出しやすくなるし、電子透かしの欠落などを防止できる。
本形態に係る電子透かし埋め込み装置によれば、複数の周波数成分から抽出した第1の特徴量に基づいて、一つまたは複数の周波数成分を選択し、選択した一つまたは複数の周波数成分の値を第2の特徴量に基づいて所定の規則で操作することで、画質劣化を抑えることができる。
また、処理量を小さくできると共に、離散コサイン変換された一つまたは複数の周波数成分の値を所定の規則で操作することで、離散コサイン変換を用いたMPEG符号化を代表とする標準画像符号化と親和性の高い電子透かし埋め込みを実現できる。
なお、本形態では、ステップ201において、埋め込み情報を2値のビット列に変換したが、これに限定されるものではない。
また、本形態では、ステップ202において、8×8画素から構成されるブロックに分割したが、これに限定されるものではない。例えば、4×4画素のブロックを使用しても良い。
また、本形態では、ステップ203において、直交変換として離散コサイン変換を用いたが、直交変換であればこれに限定されるものではない。例えば、ウェーブレット変換等を使用しても良い。
また、本形態では、ステップ204において、第1の特徴量として垂直方向、水平方向のそれぞれのエッジに対応する特定の周波数成分の総和を用いたが、これに限定されるものではなく、図5〜図7あるいは他の例によっても良い。
斜め方向のエッジに対応する特定の周波数成分を用いてもよい。更には、人間の視覚特性にあった特徴量を抽出することで、画質劣化が知覚され難くなるという効果がある。
また、本形態では、ステップ204において、埋め込み対象ブロックの特徴量を抽出したが、加えて埋め込み対象ブロックに隣接する複数のブロック(以下、隣接ブロックと呼ぶ)の特徴量を抽出し、ステップ205において、埋め込み対象ブロックと隣接ブロックの特徴量に基づいて、一つまたは複数の周波数成分を選択してもよい。こうすることで、より画質劣化を抑えることができるという効果がある。
例えば、ステップ205において、埋め込み対象ブロックと隣接ブロックそれぞれについて、条件a〜cのどれに該当するかを判定し、多数決によって埋め込み対象ブロックに採用する条件を決定するという方法もある。
図8は、埋め込み対象ブロックと隣接ブロックを示したものである。図8において、ブロック内の記号a、b、cは、それぞれ条件a、b、cに対応し、例えばaと表示したブロックは、条件aに該当することを意味する。
図8において、埋め込み対象ブロックは条件cに該当するが、隣接ブロックを含めると条件bに該当するブロックが最も多い。この場合は、多数決によって埋め込み対象ブロックに条件bを採用することもできる。
また、本形態では、ステップ205において、第1の特徴量に基づいて、周波数成分AC1、周波数成分AC2またはこれらの両方を選択したが、これに限定されるものではない。選択した周波数成分に対して所定の規則での操作を行った場合に、第1の特徴量の意味する画像のパターンに近くなるように、周波数成分を選択することが望ましい。
また、本形態では、ステップ206において、第2の特徴量として直流成分値DCと特定の交流成分AC1〜AC9の総和を用いたが、これに限定されるものではない。人間の視覚特性にあった特徴量を抽出することで、画質劣化が知覚され難くなるという効果がある。
また、本形態では、ステップ207において、ビット列の値をブロック1つおきに繰り返し割り当てたが、規則的に割り当てられるのであれば、これに限定されるものではなく、割り当て方が電子透かし埋め込み装置と電子透かし検出装置で共有されていればよい。
また、割り当てられたビット列の値が「1」の場合には、
Xwm=Xorg+dX
とし、割り当てられたビット列の値が「0」の場合には、
Xwm=Xorg−dX
としたが、dXの符号が逆の場合でも同様の効果を得ることができる。また、所定の規則での操作を、周波数成分の値の増減としたが、増減は所定の規則での操作の一例にすぎない。
また、本形態では、デジタル画像信号に対してブロック分割し、直交変換を行った後、一つまたは複数の周波数成分の値に対して所定の操作を行い、電子透かしの埋め込みを行ったが、例えば、MPEGストリームに対して、一つまたは複数の周波数成分の値で表される状態まで復号した後で、電子透かし埋め込みを行っても同様の効果が得られる。
図9は、図1に示した電子透かし埋め込み装置を、MPEG方式の圧縮画像データに適用した例を示す。
図9に示すように、分離部901は、MPEG方式による圧縮画像データを入力しこれを分離して可変長復号部902へ出力する。可変長復号部902は、分離された圧縮画像を可変長復号しDCT係数値(周波数成分)を電子透かし埋め込み部107へ出力する。
電子透かし埋め込み部107は、上述のように、DCT係数値に電子透かしを埋め込み、埋め込み済みのDCT係数値が可変長符号化部903へ出力される。可変長符号化部903は、埋め込み済みのDCT値を可変長符号化し、多重化部904へ出力する。
以上のように、DCT係数(周波数成分)の状態で電子透かしを埋め込むと、図18に示した従来技術に比べ、逆DCT→ブロック合成→画素空間からの符号化というプロセスを省略できる。
こうすると、例えば、映像サーバのように、既にMPEG方式で圧縮された画像データを保持し、これに電子透かしを埋め込んで、クライアントへ配送するような場合、一連の処理内容が少なく、映像サーバの処理負担を軽減でき、しかもクライアントへのレスポンスを良好に保持することができる。
なお、可変長復号部902の出力を逆量子化部905で逆量子化し、さらに、逆DCT部906で逆DCTすると、画素空間の画像が得られる。また、図9に破線で示しているように、逆量子化を行った直後に、電子透かしを埋め込んでも、差し支えない。
(第2の実施の形態)
以下、図面を参照しながら、本発明における第2の実施の形態について説明する。本形態は、第1の実施の形態で説明した電子透かし埋め込み装置によって電子透かしを埋め込まれた画像信号から、電子透かしの検出を行う電子透かし検出装置である。
図10は、本発明における第2の実施の形態に係る電子透かし検出装置の構成を示すブロック図である。
図10において、電子透かし検出装置は、入力部701とブロック分割部702と領域選択部703と演算部704とビット検出部705とビット列決定部706と検出ビット列出力部707と隣接領域選択部708を備える。
入力部701は、画像信号を入力する。ブロック分割部701は、入力部701から入力された画像信号を複数画素単位のブロックに分割する。
領域選択部703は、ブロック内における領域を選択する。演算部704は、選択された領域に基づいて所定の演算を行う。
ビット検出部705は、演算部704の出力値に基づいて、埋め込まれたビットの値を検出する。ビット列決定部706は、ビット検出部705が検出したビット値から、埋め込まれたビット列を決定する。
検出ビット列出力部707は、ビット列決定部706が決定したビット列を出力する。隣接領域選択部708は、領域選択部703が選択した領域に隣接する隣接領域を選択する。
以下、図11を更に参照して、本発明の電子透かし検出装置について説明する。図11は、図10の電子透かし検出装置のフローチャートである。
まず、入力部701は、電子透かしが埋め込まれた画像信号を入力する(ステップ801)。
次に、ブロック分割部702は、ステップ801において入力された画像信号を複数画素単位のブロックに分割する(ステップ802)。本形態では、8×8画素から構成されるブロックに分割する。
次に、領域選択部703は、ステップ802において分割されたブロック内の1つまたは複数の画素から成る領域を複数選択する(ステップ803)。
図12は、本ステップにおける8×8画素から構成されるブロックからの領域選択要領を示す。図12において、矩形一つ一つは1画素に対応する。
図12では、領域Aと領域Bとが選択される。ここで選択する領域は、電子透かし埋め込みによる変化が大きい画素を選択する方が望ましい。
ここでは、第1の実施の形態における電子透かし埋め込み装置において、増減を行った周波数成分に対応するように選択している。従って、電子透かし埋め込みにおいて、増減を行った周波数成分に応じて、選択する領域は変化する。この点、図5から図7を再度参照されたい。
次に、図10において、隣接領域選択部708は、ステップ803において選択された領域に隣接する1つまたは複数の画素から成る領域を複数選択する(ステップ804)。
図13は、本ステップにおける領域選択要領を示す。図13では、領域A及びBに隣接する領域C及びDが選択される。
ここで選択する領域C及びDは、ステップ803で選択した領域A及びBに含まれる画素値に最も近い画素を含み、かつ電子透かし埋め込みによる変化がほとんどない画素を含む領域を選択することが望ましい。因みに、この例では、領域Cに含まれる画素の値は領域Aに最も近く、また、領域Dに含まれる画素の値は領域Bに最も近い。
また、第1の実施の形態における電子透かし埋め込み装置において、埋め込むビット列をブロック1つおきに割り当てているため、電子透かし埋め込みによる変化はない。
次に、演算部704は、ステップ803とステップ804において選択された領域に対して所定の演算を行う(ステップ805)。ステップ803とステップ804において選択された領域A、B、C、Dに含まれるそれぞれの画素値の総和をsumA、sumB、sumC、sumDとすると、
出力値=(sumA−sumC)−(sumB−sumD)
となる。
ここで、sumA−sumBを出力値としても電子透かしを検出できるが、その場合にはブロック内での画素値の変化によっては、検出精度が悪くなることがあり得る。そこで、領域A、B内の画素値に近い画素値をとる領域C、DのsumC、sumDをsumA、sumBから減じることで、電子透かし埋め込みによる変化分のみを効果的に抽出できる。
次に、ビット検出部705は、ステップ805における出力値に基づいて、埋め込まれたビットの値が「0」か「1」かを検出する(ステップ806)。ステップ805における出力値が正の場合にはビットの値を「1」とし、負の場合にはビットの値を「0」とする。
次に、ビット列決定部706は、ステップ806において検出された個々のビット値から、埋め込まれたビット列を決定する(ステップ807)。ビット列決定部706は、ステップ806においてブロック毎に検出された複数の値を順に並べてビット列を形成する。
第1の実施の形態における電子透かし埋め込み装置において、ビット列を繰り返し埋め込んでいるから、画像フレーム内で循環するビット列が検出できる。ビット列におけるそれぞれの値の決定は、何回も検出したビット列から多数決判定を用いて決定する。
最後に、検出ビット列出力部707は、ステップ807において決定されたビット列を出力する(ステップ808)。
以上のように、本形態に係る電子透かし埋め込み装置によれば、電子透かし埋め込みによる変化が大きい領域と、その領域近傍の画素値が近く電子透かしによる変化がない領域を選択して、演算を行うことで、電子透かし埋め込みによる変化分のみを効果的に抽出できる。ブロックの画像に影響を受けにくい、検出精度のよい電子透かし技術を実現できる。
なお、本形態では、ステップ805において、領域内の画素値の総和を求めて、それぞれの領域間の差分を算出したが、領域内の画素値の平均値を用いてもよい。単純に総和ではなく、電子透かしの埋め込みにおける各画素の変化量に応じて、重みを付けて算出してもよい。
また、ステップ803及びステップ804の領域選択において、検出対象ブロックが存在する現フレーム画像から領域を選択したが、加えて再生順で前のフレームまたは後のフレームまたはその両方のフレームから領域を選択すると、より顕著に検出することができる。この場合、前のフレーム及び後のフレームからは、検出対象ブロックの画像と最も近いブロックから選択することが望ましい。
(第3の実施の形態)
以下、図面を参照しながら、本発明における第3の実施の形態について説明する。本発明における第3の実施の形態に係る電子透かし埋め込み装置は、第1の実施の形態における電子透かし埋め込み装置において、埋め込み信号作成部101(図1参照)の処理であるステップ201(図2参照)のみ異なる。従って、ここでは、埋め込み信号作成部101についてのみ説明を行う。
埋め込み信号作成部101は、予め用意した埋め込み情報と擬似乱数系列を対応付けた対応表を用いて、埋め込み情報と対応する擬似乱数系列を選択し、選択した擬似乱数系列を埋め込み信号として作成する。作成した埋め込み信号のそれぞれのビットをブロック単位に割り当てる。
本形態では、埋め込み情報を2値のビット列に変換し、それぞれのビットのビット位置と値に擬似乱数系列を対応付けた対応表を用いることにする。ここで、埋め込み情報を2値のビット列に変換する処理は、第1の実施の形態で説明した内容と同じである。
その後の処理について、図14を用いて説明する。図14(a)は埋め込み情報を変換した2値のビット列とそれぞれのビット位置を示す。図14(b)はビット位置と値と対応付けられる擬似乱数系列の対応表を示す。
埋め込み信号作成部101は、ビット列の先頭から順にこの対応表に従って擬似乱数系列を選択する。例えば、図14(a)において、ビット位置{0}に対応するビットの値は{0}であるから、図14(b)により擬似乱数{S000}が選択される。したがって、擬似乱数{S000}のそれぞれのビットが、ブロック単位に割り当てられる。
以上のように、埋め込み情報のビット列を擬似乱数系列に対応付けて電子透かし埋め込みを行う。
なお、本形態では、埋め込み情報を2値のビット列に変換し、それぞれのビットのビット位置と値に擬似乱数系列を対応付けた対応表を用いたが、埋め込み情報の複数ビット単位に擬似乱数系列と対応付けた対応表を用いてもよい。また、擬似乱数系列から埋め込み情報が一意に決定できる対応表であれば、これに限定されるものではなく、対応表が電子透かし埋め込み装置と電子透かし検出装置で共有されていればよい。
(第4の実施の形態)
以下、図面を参照しながら、本発明における第4の実施の形態について説明する。本形態は、第3の実施の形態で説明した電子透かし埋め込み装置によって電子透かしを埋め込まれた画像信号から、電子透かしの検出を行う電子透かし検出装置である。
図15は、本発明における第4の実施の形態に係る電子透かし検出装置のブロック図である。
図15において、電子透かし検出装置は、入力部701とブロック分割部702と領域選択部703と演算部704と系列記録部1201と相関値算出部1202と閾値設定部1203と比較部1204とビット列決定部706と検出ビット列出力部707と隣接領域選択部708を備える。
系列記録部1201は、埋め込み情報と擬似乱数系列を対応付けた対応表を保持する。
相関値算出部1202は、演算部704がブロック毎に演算した出力値の系列と、対応表に含まれる擬似乱数系列との相関値を算出し、得られた相関値の中で、最大の相関値を出力する。
閾値設定部1203は、相関値の閾値を設定する。比較部1204は、相関値算出部1202が出力する最大の相関値と閾値設定部1203で設定された閾値を比較し、比較結果に適合する擬似乱数系列を出力する。
ビット列決定部706は、比較部1204が出力する擬似乱数系列と対応表とに基づいて埋め込みビット列を決定する。検出ビット列出力部707は、ビット列決定部706が決定したビット列を出力する。
以下、図16を更に参照して、本発明の電子透かし検出装置について説明する。図16は、図15の電子透かし検出装置のフローチャートである。
まず、入力部701は、電子透かしが埋め込まれた画像信号を入力する(ステップ1301)。
次に、ブロック分割部702は、ステップ1301において入力された画像信号を複数画素単位のブロックに分割する(ステップ1302)。本形態では、8×8画素から構成されるブロックに分割する。
次に、領域選択部703は、ステップ1302において分割されたブロック内の1つまたは複数の画素から成る領域を複数選択する(ステップ1303)。本ステップの処理内容は、第2の実施の形態におけるステップ803(図11参照)と同じ処理であるため説明を割愛する。
次に、隣接領域選択部708は、ステップ1303において選択された領域に隣接する1つまたは複数の画素から成る領域を複数選択する(ステップ1304)。本ステップの処理内容は、第2の実施の形態におけるステップ804(図11参照)と同じ処理であるため説明を割愛する。
次に、演算部704は、ステップ1303とステップ1304において選択された領域に対して所定の演算を行う(ステップ1305)。本ステップの処理内容は、第2の実施の形態におけるステップ805(図11参照)と同じ処理であるため説明を割愛する。
系列記録部1201は、埋め込み情報と対応付けられる擬似乱数系列の対応表で、第3の実施の形態で用いたものと同じ内容を記録している。
相関値算出部1202は、ステップ1305においてブロック毎に演算した出力値の系列と、系列記録部1201が記録している対応表に含まれる全ての擬似乱数系列との相関値を算出し、得られた相関値の中で、最大の相関値を求める(ステップ1306)。相関値算出部1202は、最大の相関値と、その相関を抽出した擬似乱数系列を比較部1204に送る。
例えば、図14(b)の対応表を用いた場合、相関値算出部1202は、32個の擬似乱数系列{S000、S001、…、S151}と、ブロック毎に演算した出力値の系列との相関値を求め、その中から最大の相関値を求める。最大の相関値SMAXが擬似乱数系列{S000}との相関で得られた場合、最大の相関値SMAXと擬似乱数系列{S000}を比較部1204へ送る。
次に、閾値設定部1203は、比較部1204の閾値を設定する(ステップ1307)。比較部1204は、最大の相関値と閾値とを比較し(ステップ1308)、相関値が大きい場合は、その相関値を抽出した擬似乱数系列に対応するビット位置とその値をビット列決定部706に送る。例えば、図14(b)の対応表を用いた場合、擬似乱数系列{S000}に対応するビット位置{0}とその値{0}をビット列決定部706に送る。最大の相関値が、閾値以下であれば処理は行わない。
なお、不正複製等で外乱が発生すると、閾値より大きい相関値が全く存在しない場合や、閾値より大きい相関値が複数存在する場合が、あり得る。このようなときには、比較部1204は、例外的な処理として、閾値と相関値を比較するのではなく、最大の相関値S1が他の相関値Snに対して、一定条件(例えば、S1>Snになる条件)を満たす場合のみ、その擬似乱数系列に対応するビット位置とその値を抽出するようにすればよい。
次に、ビット列決定部706は、比較部1204から出力されたビット位置と値を保持し、埋め込んだビット列の全てのビット位置とその値が揃った時点で、ビット列を形成し検出ビット列出力部707へ送る(ステップ1309)。
最後に、検出ビット列出力部707は、ステップ1309において決定されたビット列を出力する(ステップ1310)。
以上のように、本形態に係る電子透かし検出装置によれば、埋め込み信号に対応付けた擬似乱数系列との相関を用いて検出を行うことで、単純にビット列を検出する場合に比べ、信頼性の高い検出を行うことができる。
以上、第1〜4の実施の形態について説明を行った。
なお、典型的には、図17に示すように、上記実施の形態に係る電子透かし埋め込み装置及び電子透かし検出装置が実現する各機能は、電子透かし埋め込みプログラム及び電子透かし検出プログラムが格納された記憶装置1502(ROM、RAM、ハードディスク等)と、当該プログラムデータを実行するCPU1501(セントラル・プロセッシング・ユニット)とによって実現される。この場合、電子透かし埋め込みプログラム及び電子透かし検出プログラムは、CD−ROMやフレキシブルディスク等の記録媒体1505に格納され、この記録媒体1505から記憶装置1502にロード又はインストールされる。
本発明に係る電子透かし埋め込み装置は、画像処理装置及びその関連技術に適用でき、特に、画像をブロック単位で取り扱う技術等において有用である。
本発明の第1の実施の形態に係る電子透かし埋め込み装置のブロック図 本発明の第1の実施の形態に係る電子透かし埋め込み装置のフローチャート 本発明の第1の実施の形態に係る周波数成分の説明図 本発明の第1の実施の形態に係る埋め込み処理の説明図 (a)本発明の第1の実施の形態に係る操作の例示図 (b)本発明の第1の実施の形態に係る輝度変化量の例示図 (c)本発明の第1の実施の形態に係る輝度変化分布の例示図 (d)本発明の第1の実施の形態に係る操作の例示図 (e)本発明の第1の実施の形態に係る輝度変化量の例示図 (f)本発明の第1の実施の形態に係る輝度変化分布の例示図 (g)本発明の第1の実施の形態に係る操作の例示図 (h)本発明の第1の実施の形態に係る輝度変化量の例示図 (i)本発明の第1の実施の形態に係る輝度変化分布の例示図 (j)本発明の第1の実施の形態に係る操作の例示図 (k)本発明の第1の実施の形態に係る輝度変化量の例示図 (l)本発明の第1の実施の形態に係る輝度変化分布の例示図 (a)本発明の第1の実施の形態に係る操作の例示図 (b)本発明の第1の実施の形態に係る輝度変化量の例示図 (c)本発明の第1の実施の形態に係る輝度変化分布の例示図 (d)本発明の第1の実施の形態に係る操作の例示図 (e)本発明の第1の実施の形態に係る輝度変化量の例示図 (f)本発明の第1の実施の形態に係る輝度変化分布の例示図 (g)本発明の第1の実施の形態に係る操作の例示図 (h)本発明の第1の実施の形態に係る輝度変化量の例示図 (i)本発明の第1の実施の形態に係る輝度変化分布の例示図 (j)本発明の第1の実施の形態に係る操作の例示図 (k)本発明の第1の実施の形態に係る輝度変化量の例示図 (l)本発明の第1の実施の形態に係る輝度変化分布の例示図 (a)本発明の第1の実施の形態に係る操作の例示図 (b)本発明の第1の実施の形態に係る輝度変化量の例示図 (c)本発明の第1の実施の形態に係る輝度変化分布の例示図 (d)本発明の第1の実施の形態に係る操作の例示図 (e)本発明の第1の実施の形態に係る輝度変化量の例示図 (f)本発明の第1の実施の形態に係る輝度変化分布の例示図 (g)本発明の第1の実施の形態に係る操作の例示図 (h)本発明の第1の実施の形態に係る輝度変化量の例示図 (i)本発明の第1の実施の形態に係る輝度変化分布の例示図 本発明の第1の実施の形態に係るブロックの位置関係図 本発明の第1の実施の形態に係るMPEG適用図 本発明の第2の実施の形態に係る電子透かし埋め込み装置のブロック図 本発明の第2の実施の形態に係る電子透かし埋め込み装置のフローチャート 本発明の第2の実施の形態に係る領域選択の説明図 本発明の第2の実施の形態に係る隣接領域選択の説明図 (a)本発明の第3の実施の形態に係るビット列の例示図 (b)本発明の第3の実施の形態に係る擬似乱数系列の例示図 本発明の第4の実施の形態に係る電子透かし埋め込み装置のブロック図 本発明の第4の実施の形態に係る電子透かし埋め込み装置のフローチャート 本発明のプログラムを記録した記録媒体の説明図 従来の電子透かし埋め込み装置のブロック図
符号の説明
101 埋め込み信号作成部
102 ブロック分割部
103 直交変換部
104 第1の特徴量抽出部
105 選択部
106 第2の特徴量抽出部
107 電子透かし埋め込み部
701 入力部
702 ブロック分割部
703 領域選択部
704 演算部
705 ビット検出部
706 ビット列決定部
707 検出ビット列出力部
708 隣接領域選択部
901 分離部
902 可変長復号部
903 可変長符号化部
904 多重化部
905 逆量子化部
906 逆DCT部
1201 系列記録部
1202 相関値算出部
1203 閾値設定部
1204 比較部
1401 ブロック分割部
1402 ブロック抽出部
1403 DCT部
1404 DCT係数抽出部
1405 透かしデータ埋め込み部
1406 逆DCT部
1407 ブロック合成部
1408 MPEG符号化部
1409 テンプレート
1501 CPU
1502 記憶装置
1503 バス
1504 ドライブ
1505 記録媒体

Claims (12)

  1. 埋め込み情報に基づいて、電子透かしとして埋め込む埋め込みビット列を作成する埋め込み信号作成部と、
    デジタル画像信号を、複数画素単位を有する複数のブロックに分割するブロック分割部と、
    隣接するブロックの少なくとも一つが前記ビット列が割当てられない非割当ブロックとなるように、前記分割された複数のブロックから前記ビット列が割当てられる割当ブロックを選択した上で、前記埋め込みビット列を前記割当ブロックに割当てるブロック割当部と、
    前記割当ブロックのそれぞれを直交変換し複数の周波数成分に変換する直交変換部と、
    前記複数の周波数成分の内、垂直方向のエッジに対応する周波数成分と水平方向のエッジに対応する周波数成分とを特徴量として抽出する特徴量抽出部と、
    前記特徴量に基づいて、電子透かし埋め込みの前後で画素値の変化量の分布のエッジ方向が前記選択したブロックのエッジの方向となるように、前記複数の周波数成分の少なくとも一つを選択する選択部と、
    割当てられた前記埋め込みビット列に基づいて、前記選択された周波数成分を増減する電子透かし埋め込み部と、を備える電子透かし埋め込み装置。
  2. 前記特徴量抽出部は、前記割当ブロックと前記割当ブロックに隣接するブロックとから前記特徴量を抽出する請求項1記載の電子透かし埋め込み装置。
  3. 前記画素値の変化量は、正となる領域と、負となる領域とが、交互に存在するパターンである請求項1記載の電子透かし埋め込み装置。
  4. 前記埋め込み信号作成部は、予め用意した埋め込み情報と擬似乱数系列を対応付けた対応表を用いて、埋め込み情報と対応する擬似乱数系列を選択し、選択した擬似乱数系列を埋め込みビット列とする請求項1記載の電子透かし埋め込み装置。
  5. 前記選択部は、前記特徴量として抽出した垂直方向のエッジに対応する周波数成分の総和と、水平方向のエッジに対応する周波数成分の総和とに基づいて、前記複数の周波数成分の少なくとも一つを選択する請求項1記載の電子透かし埋め込み装置。
  6. 前記直交変換部は、離散コサイン変換を行う請求項1記載の電子透かし埋め込み装置。
  7. 前記画素値の変化量は、離散コサイン変換の基底画像で表されるパターンを含む請求項1記載の電子透かし埋め込み装置。
  8. 前記特徴量抽出部は、抽出する特徴量として更に直流成分を含む請求項1記載の電子透かし埋め込み装置。
  9. 画像信号を入力する入力部と、
    前記入力部から入力された画像信号を、複数画素単位を有する複数のブロックに分割するブロック分割部と、
    前記分割されたブロックの内、予め定められた電子透かしの埋め込み位置のブロックにおいて、電子透かし埋め込みによる画素値の変化が大きい画素を含む領域を選択する領域選択部と、
    前記領域選択部が選択した領域に隣接する隣接領域を選択する隣接領域選択部と
    前記領域選択部が選択した領域と、前記隣接領域選択部が選択した隣接領域との差分に基づいて画素値の変化量を推定する変化量推定部と
    前記変化量推定部の出力値に基づいて、埋め込まれたビットの値を検出するビット検出部と、
    前記ビット検出部が検出したビット値から、埋め込まれたビット列を決定するビット列決定部と、
    前記ビット列決定部が決定したビット列を出力する検出ビット列出力部を備える電子透かし検出装置。
  10. 画像信号を入力する入力部と、
    前記入力部から入力された画像信号を、複数画素単位を有する複数のブロックに分割するブロック分割部と、
    前記分割されたブロックの内、予め定められた電子透かしの埋め込み位置のブロックにおいて、電子透かし埋め込みによる画素値の変化が大きい画素を含む領域を選択する領域選択部と
    前記領域選択部が選択した領域に隣接する隣接領域を選択する隣接領域選択部と
    前記領域選択部が選択した領域と、前記隣接領域選択部が選択した隣接領域との差分に基づいて画素値の変化量を推定する変化量推定部と
    前記変化量推定部の出力値に基づいて、埋め込まれたビットの値を検出するビット検出部と
    埋め込み情報と擬似乱数系列を対応付けた対応表を保持する系列記録部と、
    前記ビット検出部がブロック毎に演算した出力値の系列と、前記対応表に含まれる擬似乱数系列との相関値を算出し、得られた相関値の中で、最大の相関値を出力する相関値算出部と、
    相関値の閾値を設定する閾値設定部と、
    前記相関値算出部が出力する最大の相関値と前記閾値設定部で設定された閾値を比較し、比較結果に適合する擬似乱数系列を出力する比較部と、
    前記比較部が出力する擬似乱数系列と前記対応表とに基づいて埋め込みビット列を決定するビット列決定部と、
    前記ビット列決定部が決定したビット列を出力する検出ビット列出力部を備える電子透かし検出装置。
  11. 前記領域選択部は、前記ブロックの存在する現フレームに加え、再生順で前記現フレームの前のフレームと前記現フレームの後のフレームの少なくとも一方において、前記ブロック内における領域を選択する請求項9から10のいずれか記載の電子透かし検出装置。
  12. 前記隣接領域選択部は、前記ブロックの存在する現フレームに加え、再生順で前記現フレームの前のフレームと前記現フレームの後のフレームの少なくとも一方において、前記領域選択部が選択した領域に隣接する隣接領域を選択する請求項9から11のいずれか記載の電子透かし検出装置。
JP2003308362A 2002-09-04 2003-09-01 電子透かし埋め込み装置、電子透かし検出装置及びそれらの方法並びに記録媒体 Expired - Fee Related JP4223353B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003308362A JP4223353B2 (ja) 2002-09-04 2003-09-01 電子透かし埋め込み装置、電子透かし検出装置及びそれらの方法並びに記録媒体

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2002258525 2002-09-04
JP2002297288 2002-10-10
JP2003308362A JP4223353B2 (ja) 2002-09-04 2003-09-01 電子透かし埋め込み装置、電子透かし検出装置及びそれらの方法並びに記録媒体

Publications (3)

Publication Number Publication Date
JP2004153786A JP2004153786A (ja) 2004-05-27
JP2004153786A5 JP2004153786A5 (ja) 2006-08-31
JP4223353B2 true JP4223353B2 (ja) 2009-02-12

Family

ID=32475183

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003308362A Expired - Fee Related JP4223353B2 (ja) 2002-09-04 2003-09-01 電子透かし埋め込み装置、電子透かし検出装置及びそれらの方法並びに記録媒体

Country Status (1)

Country Link
JP (1) JP4223353B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1837875A1 (en) * 2006-03-22 2007-09-26 Deutsche Thomson-Brandt Gmbh Method and apparatus for correlating two data sections
TWI616843B (zh) * 2016-09-12 2018-03-01 粉迷科技股份有限公司 動態影像去背方法、系統與電腦可讀取儲存裝置

Also Published As

Publication number Publication date
JP2004153786A (ja) 2004-05-27

Similar Documents

Publication Publication Date Title
US7356700B2 (en) Digital watermark-embedding apparatus and method, digital watermark-detecting apparatus and method, and recording medium
EP1164543B1 (en) Digital information embedding/extracting
US6724911B1 (en) Robust digital watermarking
KR100770963B1 (ko) 영상들 및 비디오에 대한 계층 인증 시스템
US7548633B2 (en) Data processing apparatus and method, data processing program, and storage medium
EP0901102B1 (en) Watermark embedding method and system
US9773290B2 (en) Content watermarking
US20020097891A1 (en) Electronic watermarking data insertion/detection device
JPH11355736A (ja) 画像処理装置、画像処理方法及びコンピュ―タ読み取り可能な記憶媒体
JP4696777B2 (ja) デジタルデータにウォータマークを付す方法及び装置
JPH1155639A (ja) デジタルデータのエンコードシステム及び電子透かしデータ挿入方法並びに制御プログラムを格納した記憶媒体
CA2523345A1 (en) Watermarking
JP4223353B2 (ja) 電子透かし埋め込み装置、電子透かし検出装置及びそれらの方法並びに記録媒体
JP4042887B2 (ja) 動画像電子透かし装置
JP3805141B2 (ja) 画像処理方法及び装置と記憶媒体
JP3580544B2 (ja) デジタル情報埋込・抽出装置及びその方法
JP4121907B2 (ja) データ処理装置及び方法
Tsai et al. Adaptive multilayer reversible data hiding using the mean-to-pixel difference modification
JP4641041B2 (ja) 動画像の電子透かし検出装置
JP4944966B2 (ja) デジタル画像をデジタル透かしにより印付ける方法
JP4106311B2 (ja) 情報埋め込み装置、符号化装置、改ざん検出装置、その方法及び当該方法を実行するためのプログラムを記録した記録媒体
JP4169161B2 (ja) 動画像電子透かし装置
JP2006352846A (ja) ウォータマーク埋込方法及び装置
Lu et al. Lossless information hiding scheme based on pixels complexity analysis
MXPA06009113A (es) Deteccion de marcas de agua

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060714

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060714

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080318

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080411

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080605

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20081028

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20081119

R150 Certificate of patent or registration of utility model

Ref document number: 4223353

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111128

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121128

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131128

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees