JP4167220B2 - 画像のエッジ透かし方法およびシステム - Google Patents

画像のエッジ透かし方法およびシステム Download PDF

Info

Publication number
JP4167220B2
JP4167220B2 JP2004502610A JP2004502610A JP4167220B2 JP 4167220 B2 JP4167220 B2 JP 4167220B2 JP 2004502610 A JP2004502610 A JP 2004502610A JP 2004502610 A JP2004502610 A JP 2004502610A JP 4167220 B2 JP4167220 B2 JP 4167220B2
Authority
JP
Japan
Prior art keywords
edge
image
data
distance
linear
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004502610A
Other languages
English (en)
Other versions
JP2005524348A (ja
Inventor
アムノン・ディー・シルバーステイン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hewlett Packard Development Co LP
Original Assignee
Hewlett Packard Development Co LP
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hewlett Packard Development Co LP filed Critical Hewlett Packard Development Co LP
Publication of JP2005524348A publication Critical patent/JP2005524348A/ja
Application granted granted Critical
Publication of JP4167220B2 publication Critical patent/JP4167220B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/0021Image watermarking
    • G06T1/0028Adaptive watermarking, e.g. Human Visual System [HVS]-based watermarking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/32Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N1/32101Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • H04N1/32144Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title embedded in the image data, i.e. enclosed or integrated in the image, e.g. watermark, super-imposed logo or stamp
    • H04N1/32149Methods relating to embedding, encoding, decoding, detection or retrieval operations
    • H04N1/32203Spatial or amplitude domain methods
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/32Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N1/32101Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • H04N1/32144Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title embedded in the image data, i.e. enclosed or integrated in the image, e.g. watermark, super-imposed logo or stamp
    • H04N1/32149Methods relating to embedding, encoding, decoding, detection or retrieval operations
    • H04N1/32203Spatial or amplitude domain methods
    • H04N1/32219Spatial or amplitude domain methods involving changing the position of selected pixels, e.g. word shifting, or involving modulating the size of image components, e.g. of characters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/32Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N1/32101Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • H04N1/32144Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title embedded in the image data, i.e. enclosed or integrated in the image, e.g. watermark, super-imposed logo or stamp
    • H04N1/32149Methods relating to embedding, encoding, decoding, detection or retrieval operations
    • H04N1/32203Spatial or amplitude domain methods
    • H04N1/32229Spatial or amplitude domain methods with selective or adaptive application of the additional information, e.g. in selected regions of the image
    • H04N1/3224Spatial or amplitude domain methods with selective or adaptive application of the additional information, e.g. in selected regions of the image in edge regions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2201/00General purpose image data processing
    • G06T2201/005Image watermarking
    • G06T2201/0083Image watermarking whereby only watermarked image required at decoder, e.g. source-based, blind, oblivious

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

[発明の分野]
本発明は、デジタル画像を対象とし、詳細には、確実な透かし、および保護画像からの透かしの復元を対象とする。
[発明の背景]
インターネット等の設備によって提供されるネットワーク接続機能とともに、コンピュータシステムが普及し、利用可能となったことにより、データを広く、ほとんど労力を要することなく配布する手段が、提供されている。
電子形態では、情報は、容易に複製され、ほとんど無限の数の受信者に、容易に送信されうる。
この情報は、デジタル化された画像または映像を含みうる。
デジタル化された作品は、容易に複製を多数作成されるために、基礎となる作品に著作権を主張したり、基礎となる作品が著作権の対象となるかどうかを判断したりすることは、多くの場合困難である。
デジタル画像の著作権保護に取り組むいくつかの技法が、提案されている。
著作権情報を画像データに組み込むことを試みる技法は、一般に、著作権情報を画像データに混在させる「透かし」として知られている。
このような情報を画像データに組み込む1つの技法は、ステガノグラフィーを使用する。
ステガノグラフィーをついては、多くが記述されており、ワールドワイドウェブ上で、以下のURLにおいて、容易に入手できる。
すなわち、http://www.jjtc.com/steganography/、http://www.stegoarchive.com/、http://www.cl.cam.ac.uk/~fapp2/publications/index.html等において容易に入手できる。
透かしを対象とした特許は、さらに多くの情報を与える。
この特許には、2001年8月23日に公開されたRhoadsの「Method and Apparatus for Discerning Image Distortion by Reference to Encoded Marker Signals」という発明の名称の米国特許公開第US2001/0016051A1号、1997年9月2日に発行されたLeightonの「Watermarking Process Resilient to Collusion Attacks」という発明の名称の米国特許第5,664,018号、2001年3月6日に発行されたMaes等の「Embedding And Detecting a Watermark in Images」という発明の名称の米国特許第6,198,832号、および、2001年11月29日に公開されたWongの「Method and Apparatus for Digital Watermarking of Images」という発明の名称の米国特許公開第US2001/0046307A1号が、含まれる。
これらのすべては、その全内容が参照により、本明細書に援用される。
一般に、これらの透かし技法は、透かし情報を画像データの或る部分に挿入することによって、見えない電子透かしを提供する。
この或る部分は、通常、原画像の歪みを最小にするために、画像データの最下位ビット(LSB)である。
この場合、所定のピクセルの輝度値(intensity value)のLSBが、輝度値に代わって、著作権情報を符号化ために使用される。
著作線情報を抽出するには、受信者は、指定されたピクセルのLSBから情報を抽出するために、著作権情報を含んだピクセルを知って特定できなければならない。
したがって、このような透かし方式の1つの弱点は、偶然の攻撃(attack)または意図的な攻撃の双方に対して、脆弱であることである。
これは、一般に、このような技法が、画像の回転や拡大縮小等、クロッピング歪み(cropping distortion)および/またはアフィン歪み(affine distortion)のような、動作によって引き起こされた画像データの歪みの影響を受けやすいことによる。
画像のこのような歪みは、透かしの復元を困難にしたり、事実上不可能にしたりする。
ステガノグラフィー技法は、透かしとしての使用に加えて、作成日、作者、表題等の他の情報を画像とともに符号化して、情報を秘密送信するためにも使用される。
しかしながら、透かしと同様に、この情報は、画像の比較的軽微な歪みによって、抽出不能にされる場合がある。
米国特許出願公開第2002/015508号 米国特許出願公開第2001/032315号 国際公開第02/33650号 米国特許出願公開第2002/191812号 米国特許出願公開第2001/0016051号 米国特許第5,664,018号 米国特許第6,198,832号 米国特許公開第2001/0046307号 http://www.jjtc.com/steganography/ http://www.stegoarchive.com/ http://www.cl.cam.ac.uk/~fapp2/publications/index.html http://www.digimarc.com/support.cswater03.htm http://www.icaen.uiowa.edu/~dip/LECTURE/PreProcessing3.html#edge for further examples. Jitendra Malik、Serge Belongie、Thomas LeungおよびJianbo Shiの「Contour and Texture Analysis for Image Segmentation」,International Journal of Computer Vision, January 2000 K.L. BoyerおよびS. Sarkarの編集者のPerceptual Organization for Artificial Vision Systems, Academic Publishers, 2000 http://www.digimarc.com
したがって、この技術分野では、意図的でない攻撃および意図的な攻撃に対して耐性のあるローバストな透かしおよび/またはステガノグラフィーデータ符号化技法を提供する必要がある。
[発明の概要]
本発明の一態様による方法は、データを画像に挿入することを含み、この挿入することは、画像においてエッジを検出し、エッジと既知の空間関係を有する画像の一部を特定し、この画像の一部に変換を行って、データを画像に挿入するデータ空間を提供することを含む。
本発明の別の態様によれば、画像に符号化されたデータを検出する方法は、画像においてエッジを検出し、エッジと既知の空間関係を有する画像の一部を特定し、この画像の一部に変換を行って、データを検出するためのデータ空間を提供することを含む。
[発明の詳細な説明]
本発明の一実施の形態は、透かしデータが埋め込まれたファイルの特定可能な特徴に、透かしを関連付けることによって、透かしデータの挿入および復元を提供する。
この特徴は、後の透かし情報を特定および抽出するための基準点である。
特に、ファイルの特徴は、通常の攻撃によるデータの歪みによる影響が、最小限で局所的であるように、選択されうる。
したがって、特徴の特定は、たとえ歪みを受けた後であっても、透かしデータの復元の基礎を提供する。
本発明の一実施の形態によれば、このような特徴は、例えば、画像内に含まれるエッジを含む。
このエッジは、特徴のいずれかの変化または特徴の変化の組み合わせによって、形成さる。
例えば、エッジは、輝度(luminance)の変化、クロミナンスの変化、図柄の変化、または、あらゆるタイプの領域セグメント化によって決定された他の画像境界の変化に基づいて、特定されうる。
透かしデータは、後にこの透かしデータを抽出するための基準点を提供するように、アンカ(anchor)として、エッジに付記されうる。
透かしデータ自体は、空間領域において、透かしデータをピクセル値に組み込むことによって、選択される1つまたは複数のエッジの近傍において、画像の周波数領域表現に透かしデータを組み込むことによって、または、それらの組み合わせによって等、さまざまな方法で、符号化されうる。
一実施の形態は、或る程度の雑音、歪みおよび/またはデータ損失に幾分耐性があり、かつ/または、それらを許容する、ローバストなさまざまの符号化/復号方式の使用を含む。
或る歪みおよび再サンプリングに耐え抜きうるこのようなデータ符号化/復号技法は、例えばDigimarcから入手できる。
これについては、例えば、http://www.digimarc.com/support.cswater03.htmを参照されたい。
図1は、透かし挿入前の原画像である。
この画像は、白黒の場合もあるし、カラーの場合もある。
画像は、本発明の一実施の形態に従って処理され、図2に示すように、当該画像からエッジを抽出または特定できる。
これらのエッジは、例えば、照度(illuminance)に基づいて、特定されることができ、この場合、Sobel、Roberts、Prewitt等のエッジ抽出方法で特定されうる(http://www.icaen.uiowa.edu/~dip/LECTURE/PreProcessing3.html#edge for further examples.を参照)。
さらに、クロミナンス等の他の画像境界特定属性、および/または、画像の図柄間の境界等のあらゆるタイプの領域セグメント化態様も、上記照度と組み合わせるか、または、上記照度の代わりに使用されうる(International Journal of Computer Vision, January 2000に提出されたJitendra Malik、Serge Belongie、Thomas Leung、および、Jianbo Shiの「Contour and Texture Analysis for Image Segmentation」、ならびに、K.L. BoyerおよびS. Sarkarの編集者のPerceptual Organization for Artificial Vision Systems, Academic Publishers, 2000を参照されたい)。
本発明の実施の形態は、エッジの検出において、ラプラス演算子、ガウスの平滑化、LOG演算子、ガウス関数の差分(DOG(Difference of Gaussian))演算子および/またはキャニーエッジ検出器(Canny edge detector)等のさまざまな2階(second order)微分演算子を利用できる。
エッジの組は、透かしデータの組み込みに適していないあまり望ましくないエッジを除くように処理されうる。
このようなエッジは、例えば、短いエッジおよび高度に回旋状となったエッジを含む。
短いエッジを除去する一方法は、設定されたしきい値または可変のしきい値よりも多い所定の個数の連続したピクセルを有しないあらゆるエッジを除去することである。
エッジ検出ルーチンが十分長いエッジを特定できない場合には、最少の個数のエッジを選択するために、適応型しきい値が使用されうる。
これに加えてまたはこれに代えて、反復プロセスが使用されて、エッジ検出プロセスの感度を上げて、より多くの、かつ/または、より長いエッジを特定できる。
高度に回旋状になったエッジ、曲がりくねったエッジ、および/または、より直線的なエッジとして長方形データ空間への変換が容易にサポートされないエッジも、考慮の対象から除外されうる。
回旋状になったエッジまたは回旋状になったエッジセグメントは、例えば、容認できない小さな曲率半径を有するエッジを特定し、考慮の対象から除外することによって、除去されうる。
この曲率半径は、例えば、急旋回またはエッジ方向の突然の変化に特徴的な所定のしきい値よりも小さい。
小さな半径を有するエッジの一部は、回旋の一方の側のエッジセグメントを残すように除去されうる。
エッジの一部の除去によって、残りのエッジが、あまりにも短くなると、その短いエッジも、同様に廃棄されうる。
図3は、最小の長さおよび直線性という所望の特性を有する、原画像(図2)において特定されたエッジを示している。
一組の容認できるエッジが特定されると、そのエッジに隣接した画像データは、そのエッジとともに空間変換されて、画像ブロックを形成できる。
本発明の一実施の形態による変換は、エッジを効果的に直線にすることによって、エッジおよび隣接する画像データを、単一次元の直線方向に変換し、エッジからの距離は、直線にされたエッジから、線形関係または非線形関係(べき関数等)で計算される。
図4を参照して、エッジ401は、エッジのいずれかの側の画素とともに特定される。
このデータは、挿入402に示される長方形データ空間に変換される。
変換後、エッジ401は、直線にされており、エッジピクセルに関連したピクセルは、対応するエッジピクセルとともに、垂直に配列されうる。
データを変換するプロセスの一実施の形態を、以下にさらに詳細に説明する。
図5を参照して、エッジの周囲の画像領域が変換されて、画像ブロック402が生成されると、図5に示すように、変換された領域に透かしを入れることができる。
透かしは、Digimarc(www.digimarc.comを参照)等、任意の多数の方法を使用して、挿入されうる。
したがって、透かしは、ピクセル輝度データ、あるいは、かわりに、変換された領域の周波数領域表現に挿入されうる。
この後者の場合には、離散コサイン変換(DCT)等の適切な変換が使用されて、空間表現(すなわち、位置的にアドレス指定可能な輝度データ)から周波数領域に、画像ブロックデータを変換できる。
画像の周波数領域表現は、次に、透かしデータで、ステガノグラフィーにより、符号化されうる。
ステガノグラフィーにより印を付けられた周波数表現は、逆変換を受けることによって、透かし入り画像ブロックを提供できる。
いずれの場合も、透かし入り画像ブロックが得られると、原画像のようなその元の形状を取り戻すために、空間逆変換を受けることができる。
逆変換された透かし入り画像ブロックは、次に、図6に示されるように、原画像のその元の位置601に挿入されうる。
最終的な透かし入り画像は、特定されたエッジのすべてまたは一部に、透かし入りデータを埋め込むことにより、生成される。
透かし入りデータの量およびエッジの長さに応じて、透かし入り情報は、画像全体にわたって複製されうるし、画像全体にわたって拡散されうることに留意されたい。
透かし入り画像は、図7に示される。
本発明の一実施の形態による単一のエッジを処理する方法を、図8〜図13との関連においてさらに示す。
まず、図8を参照して、エッジ801は、本発明の一実施の形態に従って、適切なエッジ抽出ルーチンの後、短いエッジまたはエッジセグメント、および、回旋状エッジまたはエッジセグメントを除去することによって、特定されうる。
残りのエッジ801は、ヘッド端部802およびテール端部803を特定するように処理されうる。
多数のプロトコルが、実施されて、エッジのヘッド端部およびテール端部を特定できる。
このプロトコルは、例えば、画像の所定のコーナに最も近い端部を、ヘッドとして特定し、その反対側の端部をテールとすることを含む。
他の技法も、使用されうる。
この技法は、輝度値に基づいて、エッジの特定の側を、そのエッジの反対側の輝度と比較して特定し、エッジの左側および右側に対して、ヘッドおよびテールを定義することを含む。
エッジのヘッド端部およびテール端部が特定されると、エッジの各側の画像ピクセルが特定されることができ、画像領域を変換することによって、長方形データ空間を形成する処理が実行される。
したがって、例えば、画像ピクセル804は、画像ピクセル804に最も近いエッジ上のピクセルに関連付けられる。
この最も近いピクセルは、エッジ801への最小距離805およびそのエッジにおける対応する「接点」ピクセルを特定することによって、決定されうる。
図9を参照して、画像ピクセル804は、エッジ801の接点ピクセル901に関連付けられている。
次に、エッジの接点側を決定する処理が、行われうる。
これは、エッジ801に沿って中心の接点ピクセル901に隣接した前のピクセル902および次のピクセル903を特定することによって、達成されうる。
図10から分かるように、接点ピクセル901と画像ピクセル804との間の第1の距離1001が決定されて、一続きのピクセル902、901および903によって規定されたエッジに沿った方向(すなわち、ヘッド端部802からテール端部803への方向)に対して、曲線801の左に測定された最初の値を提供する。
逆に、エッジ801の右側に向かって発する図11に示されるようなラインセグメント1101は、方向の変更を必要とし、ラインセグメント1001よりも長い。
これらの測定から、画像ピクセル804は、接点ピクセル901およびエッジ801の左に、適切に特定される。
エッジからの画像ピクセルの相対的な距離は、エッジに直交する方向で表される一方、エッジを効果的に直線にする長方形データ空間を形成する処理は、単一次元で表されるように実行されうる。
図12に示すように、X軸1201は、ヘッド端部802からテール端部803に向かうエッジ801に沿った形状および距離を通る。
エッジ801上の各接点ピクセル901と、関連付けられた画像ピクセル804との間の距離は、Y軸1202に沿った距離1203の2乗を表す。
画像空間におけるライン距離と、長方形空間におけるデータ距離との間のこの2乗関係は、距離に関する位置的不確実性の原因となる。
これは、関係Y=Y/(Y)1/2によって表される。
ここで、Yは、ラインからの変換されたYの距離である。
これは、位置的確実性がエッジからの距離が長くなるにしたがい減少することと一致する。
すなわち、ガウス雑音を距離見積もりに追加する或る種のランダムプロセスによって、画像が歪みを受けると、位置的確実性は、距離の2乗として減少する。
例えば、歪みのない画像においてエッジから10ピクセル離れた点は、画像の歪み後、もはや10ピクセル離れていない。
例えば、ランダムな歪みがその点を1ピクセルだけ移動させると、エッジから2倍の20ピクセル移動させ、予想された誤差は、2ピクセルの平方根となる。
これは、第2のセグメントの誤差が、時に、第1のセグメントの誤差をキャンセルするので、誤差の2倍よりも小さい。
したがって、本発明の一実施の形態によれば、2乗関数が追加されて、誤差が一定となる空間に、画像データを再マッピングする。
本発明の一実施の形態の変換は、図13に示すように、回旋状のエッジおよび隣接する画像データを、直線表現に変換する。
ここで、X軸は、ヘッドからテールに向かうエッジに沿った距離を規定し、Y軸1203は、エッジから画像ピクセル804への距離の2乗を表す。
その結果の変換は、図5に示されるような上記データ空間を生成し、このデータ空間に、透かし入りデータが、ステガノグラフィー等によって、符号化される。
図14に示すように、符号化された透かし入りデータは、複数のエッジ1401〜1405に含まれうる。
各エッジは、同じまたは異なるデータを含む。
多くのエッジは、突然終了するのではなく、次第に消える傾向があるので、本発明の一実施の形態は、エッジに沿って符号化されたデータの開始と終了を信号で通知する識別子をさらに含む。
これは、符号が開始される時および終了される時を特定するために、図15の示すヘッド端部停止マーカ1501やテール端部停止マーカ1502等の停止マーカを、エッジ内に符号化することによって、達成されうる。
停止マーカ配置の判定基準は、エッジ検出ルーチンによって提供された品質印を含むことができる。
さまざまな技法が使用されて、停止マーカを符号化でき、これらの技法は、例えば、エッジを形成するピクセルの最下位ビットに、センチネルを形成する特定の符号化列を組み込むことを含む。
本発明の一実施の形態による方法が、図16のフローチャートとの関連で示される。
このフローチャートでは、ステップ1601において開始した後、ステップ1602において、エッジが画像から抽出される。
上述したように、エッジは、この場合は、画像データであるファイルの多数の特徴によって特定されうる。
この多数の特徴には、例えば、輝度の変化、クロミナンスの変化、図柄の変化等が含まれる。
固定されたエッジ抽出判定基準および感度を使用できる一方、最少の個数のエッジを特定するために、可変のしきい値を含む動的なシステムが使用されうる。
適切な一組のエッジが特定されると、ステップ1603は、短いエッジを除去する。
この短いエッジは、価値のあるデータ量を符号化するのに十分な情報距離を提供しないか、または、クロッピング、回転、ブレ等によって画像が歪みを受けると、特定できなくなったり失われたりするおそれがある。
ステップ1604において、回旋状エッジまたは回旋状エッジセグメントが、残りのエッジから、除去される。
高度に回旋状になったセグメントのみが除去される場合には、エッジの残りの部分は、短すぎるエッジを再度除去するように処理される。
エッジを除去するための回旋状の判定基準は、それ未満の曲率半径ではエッジが除去される最小の曲率半径でしきい値処理できる。
判定1605は、残りのエッジまたはその或るサブセットを反復するループの開始点を形成する。
ステップ1607において、各エッジの周囲の画像領域が、画像ブロックに変換されるように、ステップ1606において、処理が開始する。
変換プロセスは、図18との関連で、さらに説明される。
変換が完了すると、ステップ1608において、領域は、任意の多数の透かし入れ方法を使用して、透かしを入れられる。
この多数の透かし入れ方法には、空間領域または周波数領域のいずれかに適用される上記ステガノグラフィー技法が含まれる。
透かし入れの際に、画像ブロックは、長方形空間から原画像空間への逆空間変換を受け、原画像に挿入される。
処理は、透かし入れが要求されるすべてのエッジを取り扱うまで続き、完了すると、ステップ1610で終了する。
透かしが、例えば、ピクセル値の擬似ランダム摂動(pseudo-random perturbation)によって、空間領域の画像を調整する場合、調整の空間位置は、エッジ変換を通じて、調整の座標を変換することにより、決定されうる。
例えば、画像に透かしを入れる一方法は、各ピクセル値の擬似ランダム摂動によって、「画像にラバースタンプを行う(rubber stamp it)」ことである。
ランダムオフセットのカーネルが生成され、これは、さまざまな位置で、画像に加えられる。
このカーネルは、画像に加えられる前に、各エッジ用に変換されうる。
マーキングカーネルを使用してデータを挿入する代替的な方法は、カーネル自体に対して、U,VからX,Yへ、逆変換を実行する。
変換されたカーネルは、原画像に適用される。
カーネルを画像空間に変換する1つの利点は、画像データの再サンプリングが回避されることである。
透かしを挿入する代替的な方法は、図17のフローチャートに示される。
ステップ1601において開始すると、ステップ1602〜1604が、この場合も、画像からエッジを抽出し、短すぎるエッジおよび回旋状でありすぎるエッジを含む不適切なエッジを除去する。
ステップ1701は、空間操作カーネルを計算する。
これは、例えば、ラバースタンプ方法のランダムオフセットの座標U,Vを有する2次元マトリクスでありうる。
ステップ1702において、各エッジまたはその或るサブセットに透かし情報を組み込む処理が、開始される。
各エッジは、ステップ1703において開始して、選択され、処理される。
ステップ1704において、各エッジに対して、カーネルにおけるU,Vと、エッジ近傍の画像におけるX,Yと間の変換が、計算される。
1705において、変換されたカーネルは、エッジの周囲の画像エリアに適用される。
例えば、ランダムオフセットが、画像に加えられうる。
すべてのエッジの処理が完了すると、ステップ1601において、プロセスは終了する。
エッジの周囲のデータを、長方形データ空間へおよび長方形データ空間から、変換する方法が、図18のフローチャートに示される。
ステップ1801において開始して、ステップ1802において、エッジの1つの端部が、ヘッドとして割り当てられ、1つの端部が、テールとして割り当てられる。
この割り当ては、例えば、照度エッジの暗い側を左として有するヘッドを選ぶことによって、行われうる。
クロミナンスエッジの場合、例えば、左の2つの色のうち、より青い色を有するヘッドが、選ばれうる。
図柄エッジの場合、より高い周波数エネルギーを有する図柄が、左として選ばれうる。
多くの異なる方法が使用されて、1つの端部をヘッドとして、1つの端部をテールとして、一貫して割り当てることができる。
あるいは、ヘッドまたはテールは、任意に、割り当てられうるが、これは、復号器に対して、或る困難さをもたらしうる。
この理由は、開始端部の指定がないと、復号器が、エッジに沿って両方の向きに、データをチェックする必要があるか、または、エッジの巡回方向が要因とならないように、コードが、鏡面対称である必要があることによる。
ステップ1803は、変換された画像の長方形データ空間を形成する。
このデータ空間は、エッジの長さに対応する長さを有しうるが、エッジよりも細かくまたは粗く、サンプリングされうる。
長方形データ空間は、任意の幅を有しうる、実際には、この幅は、長さの数分の1(4分の1等)であるように選択されうる。
幅の中央における最も左の点は、データ空間のヘッドとして、割り当てられ、最も右の点は、テールとして、割り当てられうる。
ステップ1804において、データ空間の各点の送信処理が、開始される。
本発明の一実施の形態による変換は、ステップ1805〜1807を含む。
ステップ1805において、データ空間のあらゆる点と、画像のあらゆる点との間の変換が、決定される。
ステップ1806は、幅の中央をU軸として有し、長さの中央をV軸として有するデータ空間において、一組のデカルト座標を形成する。
ステップ1807において、長方形空間の点U,Vについて、画像の対応する点X,Yが見つけられる。
これは、エッジの最も近い点からその対応する点までの距離がVとなり、エッジの最も近い点のエッジのヘッドまでの、エッジに沿った経路に従った距離がUとなるように行われる。
さらに、ステップ1808において、画像の任意の点X,Yについても、U,Vの対応する点が、決定されうる。
すなわち、点U,Vについて、画像の対応する点X,Yが、見つけられる。
これは、エッジの最も近い点からその点までの距離がVとなり、エッジの最も近い点のエッジのヘッドまでの、エッジに沿った経路に従った距離がUとなるように行われる。
この関数は、Uに比例してもよいし、U=X/X等のUの非線形関数であってもよい。
データ空間の点U,Vと画像の点X,Yとの間の変換が決定された後、ステップ1809において、双三次補間等の任意の標準的な再サンプリング方法を使用することによって、画像ブロックが、データ空間に変換されるか、または、データ空間のカーネルが、画像座標に変換される。
すべての点の処理が完了すると、ステップ1810において、この方法は終了する。
画像からの透かしの復元は、透かしを加えるプロセスと類似している。
このプロセスの一実施の形態は、図19に示される。
図19に示すように、復号プロセスは、画像に透かしを符号化する方法とほぼ同じである。
一方、U,Vの長方形ブロックの抽出の際に、透かしデータは、符号化器によって挿入される代わりに、復号器によって抽出される。
より具体的には、透かしの読み出しまたは復元を行う方法は、ステップ1601において開始して、上記で詳述したようなステップ1602〜1701を含んで、隠されたデータを符号化する画像のエリアの特定および画定をするエッジを特定し、画像空間(X,Y)と長方形データ空間(U,V)との間の変換を定式化する。
ステップ1901は、特定されたエッジの検査に使用されるループの開始点である。
特定された各エッジは、ステップ1703において処理され、ステップ1902において、エッジ近傍の画像のX,Yと、カーネルのU,Vとの間の逆変換が、計算される。
ステップ1903において、データが、逆カーネル変換を使用して、エッジの周囲の画像エリアから抽出される。
図20は、本発明の一実施の形態によるデータ構造体の実施および保持を行うメモリ記憶プログラムのサポートおよび実行を行うことができるコンピュータシステムの図である。
このように、本発明は、広範なデータ構造体、プログラミング言語、オペレーティングシステムならびにハードウェアプラットフォームおよびシステムに適合できるが、図20は、本発明のさまざまな実施の形態のサポートに適合したプラットフォームを備えるこのようなコンピュータシステム2000上に示している。
このむしろ例示の汎用コンピュータシステムは、システムバス2002に接続された中央処理装置(CPU)2001を含む。
CPU2001は、HP PA−8500やIntel Pentium(登録商標)プロセッサ等の任意の汎用CPUであってよい。
しかしながら、本発明は、CPU2001が本明細書で説明したような本発明の動作をサポートする限り、CPU2001のアーキテクチャ、例えばポインタの使用、によって限定されない。
システムバス2002は、ランダムアクセスメモリ(RAM)2003に接続されている。
このRAM2003は、SRAM、DRAMまたはSDRAMであってよい。
ROM2004も、システムバス2002に接続されている。
このROM2004は、PROM,EPROMまたはEEPROMであってよい。
RAM2003およびROM2004は、この技術分野において既知であるように、ユーザデータおよびシステムデータならびにプログラムを保持する。
システムバス2002は、入出力(I/O)コントローラカード2005、通信アダプタカード2011、ユーザインターフェースカード2008および表示カード2009にも接続されている。
I/Oカード2005は、ハードドライブ、CDドライブ、フロッピィディスクドライブ、テープドライブの1つまたは複数等の記憶デバイス2006を、コンピュータシステムに接続する。
通信カード2011は、コンピュータシステム2000をネットワーク2012に接続するように、適合されている。
ネットワーク2012は、電話網、ローカルエリアネットワーク(LAN)および/もしくはワイドエリアネットワーク(WAN)、イーサネット(登録商標)ネットワークならびに/またはインターネットネットワークの1つまたは複数であってよく、また、有線であってもよいし、無線であってもよい。
ユーザインターフェースカード2008は、キーボード2013やポインティングデバイス2007等のユーザ入力デバイスを、コンピュータシステム200に接続する。
表示カード2009は、CPU2001に駆動されて、表示デバイス2010を制御する。
透かし挿入前の原画像を示す図である。 エッジを特定するために処理された図1の画像を示す図である。 透かしデータの符号化に最も適していると最初に特定されたエッジの中からエッジを特定することを示す図である。 選択されたエッジに隣接する図1に示す画像の一部、および、エッジの直線化に対応する長方形データ空間への画像の対応する変換を示す図である。 変換された画像への透かしデータの挿入を示す図である。 図1の原画像への変換された画像データの組み込み戻しを示す図である。 本発明の一実施の形態に従って透かしが入れられた画像を示す図である。 画像において特定されたエッジの図である。 隣接する画像ピクセルをエッジの接点ピクセルに関連付けることを含んだエッジの図である。 画像ピクセルの接点側の決定を示す図である。 画像ピクセルの接点側の決定に使用されるエッジセグメントの図である。 エッジ、および、そのエッジに対する画像データの再マッピングを提供するエッジのトラバースの図である。 直線化されたエッジに対して再マッピングされた画像データの図である。 画像内のデータの1つまたは2つ以上のパケットを保持するのに使用されるエッジを示す図である。 エッジに沿って挿入された、符号化された停止マーカを含むエッジの図である。 透かし情報を画像に挿入する方法のフローチャートである。 透かし情報を画像に挿入する代替的な方法のフローチャートである。 エッジの周囲の画像領域を変換して画像ブロックを形成する方法のフローチャートである。 画像から透かし情報を復元する方法のフローチャートである。 画像データに透かしを挿入し、かつ、画像データから透かしを復元するシステムのブロック図である。
符号の説明
401・・・エッジ
402・・・画像ブロック
601・・・元の位置
801・・・エッジ
802・・・ヘッド端部
803・・・テール端部
804・・・画像ピクセル
805・・・最小距離
901・・・接点ピクセル
902・・・接点ピクセルに隣接する前のピクセル
903・・・接点ピクセルに隣接する次のピクセル
1001・・・第1の距離
1101・・・ラインセグメント
1201・・・X軸
1202・・・Y軸
1203・・・Y軸に沿った距離
1501・・・ヘッド端部停止マーカ
1502・・・テール端部停止マーカ
2000・・・コンピュータシステム
2001・・・CPU
2003・・・RAM
2004・・・ROM
2005・・・I/Oアダプタ
2006・・・記憶デバイス
2007・・・ポインティングデバイス2007
2008・・・ユーザインターフェースアダプタ
2009・・・表示アダプタ
2010・・・表示デバイス
2011・・・通信アダプタ
2012・・・ネットワーク
2013・・・キーボード

Claims (7)

  1. データを画像に挿入する方法であって、
    前記画像(図)のエッジを検出するステップ(401,1602)と
    前記エッジ801上の画像要素901,902,903および前記エッジ801上にない所定の画像要素804を含む前記画像の部分を識別するステップ(402,1607)と
    前記エッジ801上の画像要素901,902,903と、前記エッジ801上にない画像要素804との距離を決定するステップ(1001,1101)と、
    前記エッジ801を形成する画像要素901,902,903のうち、前記エッジ801上にない画像要素804への距離が最も小さい画像要素901と、前記エッジ801上にない画像要素804とを関連付けるステップと、
    前記エッジ801を単一次元の直線方向に伸びるエッジ1201で表し、
    前記直線方向のエッジ1201上の前記関連付けられた画像要素901と、前記直線方向のエッジ1201に直交するエッジ1202上にあるが前記直線方向のエッジ1201上にない画像要素804との間の距離1203を決定し(図13)、この距離に基づいて、前記直線方向のエッジ1201上の画像要素と、前記直線方向のエッジ1201上にない画像要素とを再マッピングすることによって、前記画像の部分を長方形データ空間に変換するステップ(402,1607)と、
    前記データを、前記画像の輝度を示すデータまたは前記長方形データ空間に変換された前記部分の周波数領域表現に挿入するステップ(1608,1705)と
    を含む方法。
  2. 前記エッジを検出する前記ステップは、
    照度、色および図柄を含むセットから選択された前記画像の特徴において、不連続性を検出するステップ
    を含む請求項1に記載の方法。
  3. 前記再マッピングすることは、
    前記エッジ801を形成する画像要素901と、前記エッジ801上にない画像要素804との線形距離を、前記長方形データ空間におけるデータ距離に変換するステップ
    をさらに含む請求項1に記載の方法。
  4. 前記挿入するステップは、電子透かしデータ1608を電子迷彩的(steganographical)に挿入するステップ
    をさらに含む請求項1に記載の方法。
  5. 前記検出したエッジから、選択基準を満足するエッジを選択するステップ(1603,1604)
    をさらに含む請求項1に記載の方法。
  6. 画像中に符号化されたデータを検出する方法であって、
    前記画像(図)のエッジを検出するステップ(401,1602)と
    前記エッジ801上の画像要素901,902,903および前記エッジ801上にない所定の画像要素804を含む前記画像の部分を識別するステップ(402,1607)と
    前記エッジ801上の画像要素901,902,903と、前記エッジ801上にない画像要素804との距離を決定するステップ(1001,1101)と、
    前記エッジ801を形成する画像要素901,902,903のうち、前記エッジ801上にない画像要素804への距離が最も小さい画像要素901と、前記エッジ801上にない画像要素804とを関連付けるステップと、
    前記エッジ801を単一次元の直線方向に伸びるエッジ1201で表し、
    前記直線方向のエッジ1201上の前記関連付けられた画像要素901と、前記直線方向のエッジ1201に直交するエッジ1202上にあるが前記直線方向のエッジ1201上にない画像要素804との間の距離1203を決定し(図13)、この距離に基づいて、前記直線方向のエッジ1201上の画像要素と、前記直線方向のエッジ1201上にな い画像要素とを再マッピングすることによって、前記画像の部分を長方形データ空間に変換するステップ(402,1607)と、
    前記データを、前記画像の輝度を示すデータまたは前記長方形データ空間に変換された前記部分の周波数領域表現に挿入するステップ(1608,1705)と
    を含む方法。
  7. データを画像に挿入するシステムであって、
    前記画像(図)のエッジを検出するステップ(401,1602)と
    前記エッジ801上の画像要素901,902,903および前記エッジ801上にない所定の画像要素804を含む前記画像の部分を識別するステップ(402,1607)と
    前記エッジ801上の画像要素901,902,903と、前記エッジ801上にない画像要素804との距離を決定するステップ(1001,1101)と、
    前記エッジ801を形成する画像要素901,902,903のうち、前記エッジ801上にない画像要素804への距離が最も小さい画像要素901と、前記エッジ801上にない画像要素804とを関連付けるステップと、
    前記エッジ801を単一次元の直線方向に伸びるエッジ1201で表し、
    前記直線方向のエッジ1201上の前記関連付けられた画像要素901と、前記直線方向のエッジ1201に直交するエッジ1202上にあるが前記直線方向のエッジ1201上にない画像要素804との間の距離1203を決定し(図13)、この距離に基づいて、前記直線方向のエッジ1201上の画像要素と、前記直線方向のエッジ1201上にない画像要素とを再マッピングすることによって、前記画像の部分を長方形データ空間に変換するステップ(402,1607)と、
    前記データを、前記画像の輝度を示すデータまたは前記長方形データ空間に変換された前記部分の周波数領域表現に挿入するステップ(1608,1705)と
    を含むシステム。
JP2004502610A 2002-04-30 2003-04-30 画像のエッジ透かし方法およびシステム Expired - Fee Related JP4167220B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US10/135,341 US7190805B2 (en) 2002-04-30 2002-04-30 Method of and system for edge watermarking of an image
PCT/US2003/013319 WO2003094501A1 (en) 2002-04-30 2003-04-30 Method of and system for edge watermarking of an image

Publications (2)

Publication Number Publication Date
JP2005524348A JP2005524348A (ja) 2005-08-11
JP4167220B2 true JP4167220B2 (ja) 2008-10-15

Family

ID=29249449

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004502610A Expired - Fee Related JP4167220B2 (ja) 2002-04-30 2003-04-30 画像のエッジ透かし方法およびシステム

Country Status (5)

Country Link
US (1) US7190805B2 (ja)
EP (1) EP1500258B1 (ja)
JP (1) JP4167220B2 (ja)
AU (1) AU2003223771A1 (ja)
WO (1) WO2003094501A1 (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
ATE261225T1 (de) * 1995-05-08 2004-03-15 Digimarc Corp Gebrauch im transformationsbereich steganographisch eingebetteter kalibrierungsdaten zur detektion von bildverzerrungen
US7046820B2 (en) * 2002-07-16 2006-05-16 Matsushita Electric Industrial Co., Ltd. Methods for digital watermarking of images and images produced thereby
US7577841B2 (en) * 2002-08-15 2009-08-18 Digimarc Corporation Watermark placement in watermarking of time varying media signals
FR2866139B1 (fr) * 2004-02-06 2006-04-14 Yann Boutant Procede pour proteger de la lecture directe des informations sensibles, un support porteur de telles informations protegees et un procede de lecture de ces informations protegees
FR2869751A1 (fr) * 2004-04-28 2005-11-04 Thomson Licensing Sa Appareil et procede de traitement d'images
US7817817B2 (en) * 2004-09-10 2010-10-19 University Of Maryland Method for concealing data in curves of an image
TWI288892B (en) * 2005-12-28 2007-10-21 Inst Information Industry Content protection method for vector graph format
JP2008085695A (ja) * 2006-09-28 2008-04-10 Fujitsu Ltd 電子透かし埋め込み装置および検出装置
JP4771087B2 (ja) * 2007-02-28 2011-09-14 富士ゼロックス株式会社 画像処理装置及び画像処理プログラム
WO2009028091A1 (ja) * 2007-08-31 2009-03-05 Fujitsu Limited 電子透かし埋め込み装置、電子透かし検出装置およびプログラム
TWI397299B (zh) * 2008-12-04 2013-05-21 Nat Univ Chung Hsing 利用邊緣預測誤差之高容量可回復式資訊隱藏法
US8090146B2 (en) * 2009-01-15 2012-01-03 Google Inc. Image watermarking
CN111179337B (zh) * 2018-10-24 2024-02-02 中国科学院自动化研究所 空间直线朝向测量方法、装置、计算机设备和存储介质

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE69429743T2 (de) * 1993-06-29 2002-10-02 Koninkl Philips Electronics Nv Verfahren und Gerät zur Bestimmung einer Kontur in einem durch eine Dichteverteilung gekennzeichneten Raum
US5862260A (en) * 1993-11-18 1999-01-19 Digimarc Corporation Methods for surveying dissemination of proprietary empirical data
US5606609A (en) * 1994-09-19 1997-02-25 Scientific-Atlanta Electronic document verification system and method
US6002772A (en) * 1995-09-29 1999-12-14 Mitsubishi Corporation Data management system
US6580808B2 (en) * 1995-09-25 2003-06-17 Digimarc Corporation Method and apparatus for discerning image distortion by reference to encoded marker signals
US5875040A (en) * 1995-12-04 1999-02-23 Eastman Kodak Company Gradient based method for providing values for unknown pixels in a digital image
US5822432A (en) * 1996-01-17 1998-10-13 The Dice Company Method for human-assisted random key generation and application for digital watermark system
US5664018A (en) * 1996-03-12 1997-09-02 Leighton; Frank Thomson Watermarking process resilient to collusion attacks
US6198832B1 (en) * 1998-01-09 2001-03-06 U.S. Philips Corporation Embedding and detecting a watermark in images
US6141753A (en) * 1998-02-10 2000-10-31 Fraunhofer Gesellschaft Secure distribution of digital representations
US6504941B2 (en) * 1998-04-30 2003-01-07 Hewlett-Packard Company Method and apparatus for digital watermarking of images
JP3809297B2 (ja) * 1998-05-29 2006-08-16 キヤノン株式会社 画像処理方法、装置及び媒体
JP3592545B2 (ja) * 1998-08-07 2004-11-24 株式会社リコー 画像処理装置および画像処理方法および情報記録媒体
EP1186161A1 (en) * 2000-02-29 2002-03-13 Koninklijke Philips Electronics N.V. Embedding and detecting a watermark in an information signal
US6633654B2 (en) * 2000-06-19 2003-10-14 Digimarc Corporation Perceptual modeling of media signals based on local contrast and directional edges
US6611608B1 (en) 2000-10-18 2003-08-26 Matsushita Electric Industrial Co., Ltd. Human visual model for data hiding
EP1215880A3 (en) * 2000-12-07 2003-08-13 Sony United Kingdom Limited Embedding data in material
JP2002232685A (ja) * 2001-01-31 2002-08-16 Canon Inc 電子透かし処理装置、情報処理装置、ディジタルコンテンツ配布システム、電子透かし挿入方法、及び記憶媒体
US20020191812A1 (en) * 2001-04-24 2002-12-19 Nam-Deuk Kim Object edge watermarking
US20030068068A1 (en) * 2001-09-28 2003-04-10 Nam-Deuk Kim Content based digital watermarking using wavelet based directionality measures

Also Published As

Publication number Publication date
AU2003223771A1 (en) 2003-11-17
US7190805B2 (en) 2007-03-13
JP2005524348A (ja) 2005-08-11
WO2003094501A1 (en) 2003-11-13
EP1500258B1 (en) 2012-01-11
EP1500258A1 (en) 2005-01-26
US20030202678A1 (en) 2003-10-30

Similar Documents

Publication Publication Date Title
Dong et al. Affine transformation resistant watermarking based on image normalization
Petitcolas et al. Evaluation of copyright marking systems
US7817817B2 (en) Method for concealing data in curves of an image
JP4167220B2 (ja) 画像のエッジ透かし方法およびシステム
Parthasarathy et al. An improved method of content based image watermarking
KR20010113857A (ko) 회전, 스케일, 그리고 변이 회복되는 이미지들을 위한공개 워터마킹
US7006659B2 (en) Method for embedding and extracting a spatial domain blind watermark using sample expansion
JP2002247344A (ja) 画像処理方法及び装置
Munib et al. Robust image watermarking technique using triangular regions and Zernike moments for quantization based embedding
Maity et al. Robust and Blind Spatial Watermarking In Digital Image.
EP1041815B1 (en) Image processing apparatus, image processing method, and storage medium
US20020021808A1 (en) Image processing apparatus, image processing method and storage medium
Chang et al. A block based digital watermarks for copy protection of images
Aggarwal et al. Effect of embedding watermark on compression of the digital images
Nakamura et al. Improved digital watermark robustness against translation and/or cropping of an image area
JP2001223880A (ja) データ処理装置及び方法及び記憶媒体
Hel-Or et al. Geometric hashing techniques for watermarking
Chen et al. A framework for optimal blind watermark detection
Westfeld Lessons from the BOWS contest
Barni et al. Robust watermarking of cartographic images
KR100454668B1 (ko) 템플레이트를 포함하는 워터마크 삽입 및 검출 시스템
WO2003056515A1 (en) Digital watermarking
Lee et al. Adaptive digital image watermarking using variable size of blocks in frequency domain
JP3878495B2 (ja) 電子透かし方法、電子透かし埋込み方法および電子透かし検出方法
Nguyen A watermark algorithm against de-synchronization attacks

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050707

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070509

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20070808

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20070815

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071109

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20071207

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20080306

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20080313

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080609

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080701

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080731

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110808

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110808

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120808

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130808

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees