JP4851690B2 - ビデオ画像のシーケンスに透かし入れする方法、装置、及び、コンピュータプログラム - Google Patents

ビデオ画像のシーケンスに透かし入れする方法、装置、及び、コンピュータプログラム Download PDF

Info

Publication number
JP4851690B2
JP4851690B2 JP2004116505A JP2004116505A JP4851690B2 JP 4851690 B2 JP4851690 B2 JP 4851690B2 JP 2004116505 A JP2004116505 A JP 2004116505A JP 2004116505 A JP2004116505 A JP 2004116505A JP 4851690 B2 JP4851690 B2 JP 4851690B2
Authority
JP
Japan
Prior art keywords
motion vector
watermarked
motion
watermark
watermarking
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004116505A
Other languages
English (en)
Other versions
JP2004320765A (ja
Inventor
ヤン・ボド
ナタリー・ローラン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Orange SA
Original Assignee
France Telecom SA
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by France Telecom SA filed Critical France Telecom SA
Publication of JP2004320765A publication Critical patent/JP2004320765A/ja
Application granted granted Critical
Publication of JP4851690B2 publication Critical patent/JP4851690B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A47FURNITURE; DOMESTIC ARTICLES OR APPLIANCES; COFFEE MILLS; SPICE MILLS; SUCTION CLEANERS IN GENERAL
    • A47JKITCHEN EQUIPMENT; COFFEE MILLS; SPICE MILLS; APPARATUS FOR MAKING BEVERAGES
    • A47J36/00Parts, details or accessories of cooking-vessels
    • A47J36/02Selection of specific materials, e.g. heavy bottoms with copper inlay or with insulating inlay
    • A47J36/027Cooking- or baking-vessels specially adapted for use in microwave ovens; Accessories therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/0021Image watermarking
    • G06T1/0085Time domain based watermarking, e.g. watermarks spread over several images
    • AHUMAN NECESSITIES
    • A47FURNITURE; DOMESTIC ARTICLES OR APPLIANCES; COFFEE MILLS; SPICE MILLS; SUCTION CLEANERS IN GENERAL
    • A47JKITCHEN EQUIPMENT; COFFEE MILLS; SPICE MILLS; APPARATUS FOR MAKING BEVERAGES
    • A47J36/00Parts, details or accessories of cooking-vessels
    • A47J36/02Selection of specific materials, e.g. heavy bottoms with copper inlay or with insulating inlay
    • A47J36/04Selection of specific materials, e.g. heavy bottoms with copper inlay or with insulating inlay the materials being non-metallic
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • H04N19/467Embedding additional information in the video signal during the compression process characterised by the embedded information being invisible, e.g. watermarking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/513Processing of motion vectors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H05ELECTRIC TECHNIQUES NOT OTHERWISE PROVIDED FOR
    • H05BELECTRIC HEATING; ELECTRIC LIGHT SOURCES NOT OTHERWISE PROVIDED FOR; CIRCUIT ARRANGEMENTS FOR ELECTRIC LIGHT SOURCES, IN GENERAL
    • H05B6/00Heating by electric, magnetic or electromagnetic fields
    • H05B6/64Heating using microwaves
    • H05B6/6408Supports or covers specially adapted for use in microwave heating apparatus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2201/00General purpose image data processing
    • G06T2201/005Image watermarking
    • G06T2201/0051Embedding of the watermark in the spatial domain
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2201/00General purpose image data processing
    • G06T2201/005Image watermarking
    • G06T2201/0053Embedding of the watermark in the coding stream, possibly without decoding; Embedding of the watermark in the compressed domain
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2201/00General purpose image data processing
    • G06T2201/005Image watermarking
    • G06T2201/0061Embedding of the watermark in each block of the image, e.g. segmented watermarking

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Food Science & Technology (AREA)
  • Theoretical Computer Science (AREA)
  • Electromagnetism (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Television Systems (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Description

本発明は、ビデオシーケンスへの透かし入れ(watermarking)に関する。この透かし入れは、ユーザには見えないマークをビデオシーケンス中に挿入することによって、このシーケンスのコンテンツを保護し、そのコピーを追跡可能とするように設計されている。
より詳細には、本発明は、そのビデオのモーションベクトル上のバイナリマークを挿入することによってビデオシーケンスに透かしを入れる方法に関する。
従来から、ビデオシーケンスの透かし入れには、これまでいくつかの技法が知られている。
これらの技法の内の一つでは、静止画像の透かし入れの方法と類似の透かし入れ方法をビデオシーケンスに対して応用する。実際、ビデオストリームは、一連の静止画像から成っており、したがって、このシーケンスの「イントラ(intra)」画像は、静止画像に従来応用されてきたスキームにしたがって透かし入れすることができるものと見なされることがある。
しかしながら、ビデオシーケンスは多くの特性を有しており、これを利用して、これに適した透かしを入れる技法を開発することができれば利点となる。
これらの特性には次の態様を含む。
ビデオシーケンスの代替のサイズが、静止画像のそれより遙かに大きいため、マークの挿入スペースがビデオシーケンス中では遙かに大きなものとなってしまう。
静止画像と比較して、ビデオシーケンスは時間というディメンジョンを有しており、これを、マークの挿入のために用いることができる。
さらに、ビデオシーケンスは、静止画像の制約とは異なった次のような制約を有している。すなわち、
ビデオシーケンスの透かし入れスキームの複雑性は、マークの挿入と検出をリアルタイムで実行することを可能とするほど十分低くなければならない。
物体が動くため、ユーザに対するその知覚可能性がしばしば増すために、ビデオシーケンスのマークを静止画像の場合より見えにくくしなければならない。
ビデオストリームは、シーケンスの概略サイズを減少させるためしばしば圧縮される。 最も一般的に用いられる圧縮基準はMPEG2基準であり、マークはフォーマット自体の中に直接に挿入することができる。しかしながら、伸張されたフォーマット中への挿入は、その結果、圧縮後のファイルサイズが増すことがないようにすべきである。
ビデオシーケンスは、静止画像より多くの攻撃(attack)を受ける可能性があり、また、このため、しばしば、マークまたは透かしを冗長に挿入して、このような攻撃が成功する機会を減少させ、透かしをよりロバスト(robust)なものとする。透かしがシーケンス中に冗長に挿入される場合、この透かしをシーケンスのすべての画像の平均値を計算することによって推定できることがある。したがって、考慮されているビデオシーケンスの正確なサブシーケンスを選択することによって、またはこのシーケンスの画像が失われることによって、発生した同期が失われた後であっても、透かしまたは署名を検出することができるべきであるというさらなる制約がある。
静止画像の分野からの透かし入れ技法に加えて、ビデオにとって適切な透かし入れ技法も開発されている。これらの技法では、ビデオシーケンスの長所となる特性を、それに関連する制約を考慮して利用している。
ビデオに特有の透かし入れ技法のうち、モーションベクトル内にマークを挿入することに依存するいくつかの技法が、特に、F.Jordanと、M.Kutterと、T.Ebrahimiとの1997年7月発行のISO/IEC文書JTC1/SC29/WG11/MPEG97/M2281中の「Proposal of a watermarking technique for hiding/retrieving data in compressed and decompressed video」と、J.ZhangとJ.LiとL.Zhangとの2001年10月15〜18日のコンピュータグラフィックスと画像処理に関する第14回シンポジウムの議事録の179〜182ページにある「Video watermarking technique in motion vector」とに提案されている。
F.Jordanらは、ビデオのモーションベクトル内にマークが挿入されるマーク付けアルゴリズムを提案している。この技法は、次のステップの実施に依存する。
16ビット又は32ビットの長さを持つバイナリシーケンスであるマークを発生する第一のステップ。
このマークを挿入する第二のステップ。ここで、このようにするために、モーションベクトルが、MPEG4コーデック(すなわち、コーダ/デコーダ)によって得られた圧縮済みのビデオストリームから抽出される。このビデオストリームが伸張される場合には、このストリームを圧縮する予備のステップがある。別のマーク付けステップが、モーションベクトルの二つの成分の内の一方に適用される。画像毎に一ブロックのランダムに選択されて、そのモーションベクトルが計算される。マークの内の二ビットが、モーションベクトルの各成分中へと挿入される。
Vがモーションベクトルの縦方向成分を示し、もし、b={0、1}が隠匿(conceal)すべきビットの値である場合には、次の式が、bをVへと挿入するためのアルゴリズムである。
((V*q+T)mod[2]≠bであれば、
V’=V+δであり、
そうでなければ、V’=Vであり、
T=2*dimであり、
ここで、dim=動きの推定のための探索ウインドウのサイズであり、
δ=(2.n+1)/qであり、
モーションベクトルが零ベクトルであれば、n=1であり、
そうでなければ、n=0であり、
q=モーションベクトルの振幅の変調計数であり、
V’はマーク付けされたモーションベクトルである。
言い換えれば、マーク中のビットの数と同じ数、すなわち、16個または32個のモーションベクトルが選択される。すると、そのパリティを修正する際に、この選択された16個または32個のベクトルの各々に対して、それに対応する、マークのビットがモーションベクトルの成分の内の一つが、たとえば、縦成分中へと挿入される。
マークを抽出する第三のステップ。このステップ中に、V’とマーク付けされたモーションベクトルが、圧縮されたストリームから抽出される。そして、このマークが次のように抽出される。
b=(V*q+T)mod[2]
J.Zhangらは、F.Jordanらによって提案された上記の方法の改善を提案しているが、それでも、彼らの方式は依然として同じものである。
つまり、これらの二つの技法は、ビデオのモーションベクトル内へとマークを挿入することに基づく透かし入れアルゴリズムの実施によるものである。
しかしながら、これらの先行技術による技法の大きい欠点は、ビデオシーケンスに対する考えられる攻撃という点において十分にロバストではないということである。特に、このような方法は、圧縮やビデオ信号のフォーマットの(空間的または時間的な)変更などの悪意のない攻撃に対して十分にロバストではない。
実際、F.JordanらまたはJ.Zhangらによる上記の技法は、ビデオシーケンスのモーションベクトルへとマークを挿入することに基づいており、また、これらのモーションベクトルの縦座標値に対してパリティ(parity)という観念を用いる透かし入れアルゴリズムを実施することによるものである。
この方式は、最小の攻撃でも、偶数パリティ縦座標値が奇数パリティ縦座標値に、また、その逆に変換しかねないため、定義上はロバストではない。
さらに、これらの技法によれば、修正されるのは、一般的に、常に、選択されたモーションベクトルの同じ所定の成分(たとえば、縦方向成分)である。このため、ビデオシーケンス中のマークの可視性が増加するという影響がある。もちろん、このようにマークが視認されることは、画像の変形が知覚されるのでユーザにとって不快である。
このような様々な欠点を克服するために、本特許出願の発明者は、2002年10月31日付で本出願によって提出され、「Method for the watermarking of a video signal, system, data carrier for the implementation of this method, method for the extraction, from the watermark, of a video signal, system for the implementation of this method」という題名のフランス特許出願第FR 02 13660号に記載されているビデオシーケンスに透かし入れする新しいよりロバストな技法を開発した。
この技法によれば、透かしを持つモーションベクトルが選択される。この選択されたモーションベクトルの座標は、バイナリ値1に関連する第一の複数のゾーンとバイナリ値0に関連する第二の複数のゾーンとを含む空間内において識別される。そして、必要であれば、この選択されたモーションベクトルの座標が修正され、これによって、選択されたモーションベクトルへと挿入されるべきマークの値にバイナリ値が対応しているゾーン内にモーションベクトルを位置付けされるようにする。
したがって、値0を持つマークを挿入しない場合、および、選択されたモーションベクトルがバイナリ値1に関連するゾーン内に位置付けされている場合には、このモーションベクトルの座標は、このゾーンのエッジに対する重み付けされた中心対称性または軸対称性を得ることによって修正される。
したがって、この技法は、F.JordanらやJ.Zhangらによって提案された方法よりロバストなものであるが、それは、モーションベクトルの端が置かれる空間(バイナリ値1または0を持つゾーン)が限られて定義されるからである。したがって、この透かし入れは、モーションベクトルの成分のパリティの変更だけにもはや依存せず、比較的に大きいゾーンにわたって透かし入れされるべきベクトルのずれに依存する。
その結果、透かし入れされたモーションベクトルの座標が修正されるという結果となる、画像のフィルタリング又は光変換の場合でさえも、このベクトルの端は、マークの関数として選ばれたバイナリ値のゾーン内に残る。したがって、このマークは、このような攻撃に対してロバストである。
しかしながら、この技法は、よりロバストであるとはいえ、マークの不可視性という点では最適なものではない。実際、マーク付けされたモーションベクトルのため、画像が変形するが、これはときとしてユーザにとってはやっかいなものである。
さらに、圧縮等の攻撃や、たとえばクロッピングタイプ(cropping type)やミラータイプ(mirror type)の攻撃に対するこの技法のロバスト性は、不十分または改善の余地がある。
特に先行技術のこのような欠点を克服するのが本発明の目的である。
具体的には、本発明の目的は、先行技術による技法と比較してロバスト性が増したビデオシーケンスへの透かし入れ技法を提供することである。特に、本発明の目的は、フィルタリングタイプや圧縮タイプのより一般的な攻撃だけではなく悪意的攻撃にも特に抵抗力のある種類の技法を提供することである。
本発明の別の目的は、先行技術による技法と比較してマークや透かしの可視性を抑制する種類の技法を実施することである。特に、本発明の目的は、マークが一つ以上のモーションベクトルへと挿入され、また、先行技術による技法と比較してマーク付けされたベクトルの変形を最小化することができるビデオ透かし入れ技法を提供することである。
本発明のさらに別の目的は、透かし入れされたビデオシーケンス中のマークを迅速に検出する種類の技法を提供することである。
本発明の別の目的は、簡単に実施され、リソースという点でコストのほとんどかからない種類の技法を提供することである。
これらの目的、及び以下に説明する他の目的は、後出のビデオ画像のシーケンスの内の二つの画像同士間における動きの推定によって得られた少なくとも一つのモーションベクトル上に少なくとも一つの透かし入れビットを挿入するステップを実施する、前記ビデオ画像シーケンスに透かし入れして、少なくとも一つの透かし入れされたモーションベクトルを得る方法によって達成される。このモーションベクトルは、モーションベクトルに関連する識別可能なバイナリ値を有する二つのタイプの相補的ゾーンに仕切られる参照空間におけるその座標によってモーションベクトルが識別される。必要であれば、前記の挿入ステップによって、モーションベクトルの座標を修正することによって、そのモーションベクトルが、挿入されるべき前記透かし入れビットに対応するバイナリ値ゾーン内に位置付けされるようにする。
本発明によれば、前記修正中、少なくとも二つの潜在的な透かしが入ったモーションベクトルが決定され、前記潜在的な透かしが入ったモーションベクトルから、最適な透かしが入ったモーションベクトルが少なくとも一つの所定の判断基準にしたがって選択され、これによって、前記モーションベクトルの修正された座標は、前記最適な透かしが入ったモーションベクトルの座標となる。
したがって、本発明は、ビデオの固有特徴、すなわち、動きを考慮したビデオシーケンスに透かし入れする完全に新規性があり進歩性のある方式に依存するものである。実際、本発明の技法は、選択された一以上のモーションベクトルの座標を修正するビデオシーケンスの一以上のモーションベクトル中にマークまたは透かしを挿入することに依存する。
さらに、本発明は、マークを挿入するゾーンの適応的選択に依存し、したがって、フランス特許出願第FR 02 13660号に記載の技法を改善するものである。実際、透かし入れされたモーションベクトルの座標は、バイナリ値0及び1を有する二つのゾーンの境界に対する単純な中心対称変換または軸対称変換によってはもはや得られず、最適な透かしが入ったモーションベクトルの座標である。この最適な透かしが入ったベクトルは、マークが挿入される様々な潜在的なゾーンに属する潜在的な透かしが入ったモーションベクトルを表す複数のモーションベクトルから所定の判断基準の関数として選ばれる。
この最適な透かしが入ったモーションベクトルは、注意深く選ばれると、先行技術と比較してマークの力(force)とその透明性(transparency)とを増加させる、マークの挿入に最適なゾーンに属することになるため、その検出速度が向上する。
したがって、出願番号第FR 02 13660号の技法と比較して、透かし入れされたモーションベクトルを得る動作は、選択されたモーションベクトルに対して所定の幾何学的変換を適用することだけにはもはや限られない。それどころか、この動作は、潜在的な透かしが入ったモーションベクトルを表すモーションベクトルの集合を考慮しており、(たとえば、透かし入れのロバスト性と透明性と検出速度という点において)シーケンスに対する最良の透かし入れをするために用いら得るベクトルがこの集合から選択される。
したがって、透かし入れする判断プロセスにあるレベルをこのシーケンスに追加することにより、マークのロバスト性および不可視性が増す。
前記所定の判断基準は、前記透かし入れの判断基準であることが望ましい。
このような判断基準は、(たとえば、圧縮またはフィルタリングを伴う)あるタイプの攻撃に対するマークの的構成の判断基準、または、透かし入れされたビデオシーケンス中のマークの検出速度の判断基準でもありうる。
有利には、前記基準空間は、ブロックの各々が前記タイプの各々のゾーンを含む所定のディメンジョンを持つブロックを含む基準グリッドに関連している。
二次元空間においては、この種の基準グリッドは、直交基準系に関連するデカルト空間のグリッドであり、角ブロックまたは正方形ブロックから成っている。本発明の好ましい実施形態では、各ブロックは、ブロック内にその中心があり、(たとえば、バイナリ値1と関連するゾーン等の)上記のタイプのゾーンの内の一方に対応するよりも小さいサイズのサブブロックを有する。(たとえば、バイナリ値0に関連するゾーン等の)他方のゾーンは、ブロック内のサブブロックの相補的な値に対応しており、サブブロックとブロックの境界との間に位置付けされている。
有利には、前記モーションベクトルが基準ブロックと呼ばれる前記基準グリッドのブロック中にあるので、前記透かし入れビットに対応するバイナリ値を有する前記基準ブロックのゾーン内において、前記潜在的な透かしが入ったモーションベクトルが探索される。
したがって、選択されたモーションベクトル中へと挿入されるべき値0または1に関連するブロックのゾーンの全体を走査する。この走査は、このゾーンに属するすべて(またはその一部だけ)のモーションベクトルをカバーし、潜在的な透かしが入ったモーションベクトルを表し、これらの中から、最適な透かしが入ったモーションベクトルを選ばれた判断基準の関数としてある選択がなされる。この判断基準がマークの不可視性の判断基準である場合には、この最適なベクトルは、ユーザに対してマークを最も可視でなくするベクトルである。
前記潜在的な透かしが入ったモーションベクトルはまた、前記基準ブロックに隣接する少なくとも一つのブロックに属す前記透かし入れビットに対応するバイナリ値ゾーン内で探索するのが望ましい。
実際、本願の発明者は、最適な透かしが入ったベクトルは、透かし入れされたモーションベクトルの座標に最も近い座標を持つベクトルでは必ずしもないという事実を長所として利用している。
選ばれた判断基準がマークの不可視性の判断基準である場合には、最適な透かしが入ったモーションベクトルは、マークを担持するように最初に選択されたモーションベクトルと同じ基準グリッドブロックには属さないどころか、地域的にかなりへだったところに存在する可能性がある。
本発明の好ましい変更例によれば、前記潜在的な透かしが入ったモーションベクトルは、探索されている前記ゾーン内に位置しているすべてのモーションベクトルである。
したがって、この動作は、最適な透かしが入ったベクトルが探索される複数のゾーン内に存在するすべてのモーションベクトルを考慮している。したがって、基準グリッドの一つ以上のブロックに属する一つ以上の探索ゾーンの全体を画素毎に探索して、潜在的な透かしが入ったモーションベクトルを表すすべてのモーションベクトルを考慮に入れることが可能である。
有利には、前記判断基準が、前記潜在的な透かしが入ったモーションベクトルの各々に関連するピーク信号対雑音比(peak signal-to-noise ratio:以下、「PSNR」とよぶ)の最適化の判断基準でありうる。
PSNR(すなわち「ピーク信号対雑音比」)は、画像およびビデオの処理には一般的に用いられるものである。それは、基準画像に対する画像の忠実度を評価するものである。この場合、それは、たとえば、透かし入れのないオリジナル画像に対するビデオシーケンスの透かしが入った画像の忠実度の測定を可能とする。潜在的な透かしが入ったモーションベクトルを表すすべてのモーションベクトルの中において、最適な透かしが入ったベクトルは、最良のPSNRを得るために用いられるものである。
前記ビデオシーケンスの画像が少なくとも二つの階層レベルに関連しているため、前記方法は、推定レベルと呼ばれる前記レベルの内の少なくとも一つに対する前記シーケンスの少なくとも一対の画像に対して動きの推定を実施して、前記推定されたレベルのモーションベクトルの集合を決定し、より高い階層レベルのモーションベクトルが、前記推定されたレベルにある関連するモーションベクトルの平均を計算することによって得られることが望ましい。
したがって、本方法は、モーションベクトルの階層という観念を活用して、マークのロバスト性をさらに増すことも可能とするものである。たとえば、ブロック的な方式においては、ビデオシーケンスの画像は、画像を構成する四ブロックの画素の集合であると考えられるが、これらは、それ自体が、より少ない数の画素を有する四つの各サブブロックへと分割され、さらにこれらが分割され、一つの画素のサイズを有する単一性サブブロックへと最終的に分割される。各分割レベルでは、モーションベクトルを対応するブロックやサブブロックに関連付けることができる。
有利には、このような透かし入れ方法は、より高い階層レベルのモーションベクトルの内から、透かし入れビットの挿入のステップが実施される少なくとも一つのモーションベクトルを選択するステップを含む。
たとえば、より高い階層レベルで二ブロック毎に一つ一つのブロックのモーションベクトル中へと透かし入れビットを挿入するように、少なくとも一つのモーションベクトルを選択する。
前記選択されたモーションベクトルの座標の前記修正は、前記透かし入れビットを冗長に挿入するために、前記より低いレベルの内の少なくとも一つの対応するモーションベクトルにも適用されるのが好ましい。
したがって、透かし入れビットをより高い階層レベルのモーションベクトル中へと挿入することが選択された場合には、この挿入は、より低いレベルの対応するモーションベクトル中にも繰り返される。
本発明の利点である特徴によれば、前記動きの推定は、「ブロックマッチング(block matching)」タイプのものである。
この種類の「ブロックマッチング」技法は、画像の画素ブロックに関連するモーションベクトルを計算するために用いられる。それは、モーションベクトルでシフトされた、シーケンスの先行する画像または後続する画像と同じサイズのブロックからこの現行のブロックを再構築するために用いられる最良のモーションベクトルを評価する。
この種類の透かし入れ方法は、透かし入れされたビデオ画素シーケンスを補償するために、前記透かしが入ったの一つ以上のモーションベクトルに基づいて動き補償を実行するステップも含むことが好ましい。
このステップによって、最適の透かしが入ったのモーションベクトルが適用されるオリジナル画像から得られた透かしが入ったビデオシーケンスを補償された画像の連続体という形態で再構築することが可能となる。
本発明の第一の利点ある変更例によれば、前記モーションベクトルの各々が前記画像の領域に関連しているので、透かしが入ったモーションベクトルまたは透かし入れされていないモーションベクトルに関連する前記画像のすべての領域上において前記動き補償が実行される。
本発明の第二の利点ある変更例によれば、前記モーションベクトルはその各々が前記画像の領域に関連しているので、前記動き補償は、前記一つ以上の透かしが入ったモーションベクトルが関連する前記画像の一つ以上の領域中で実行され、前記透かしが入ったビデオシーケンスの画像は、前記動き補償が実行された前記領域と少なくとも一つのオリジナル領域とを含む。
したがって、本発明のフレームワーク内において二つの方法が考えられ得る。
第一の方法では、考えられる画像の透かし入れバージョンを受領するために、透かし入れされているかいないかとは無関係に、画像に関連するモーションベクトルの集合によって動き補償が得られる。
透かし入れ動作によって修正されたモーションベクトルに対応する画像の画素から成るブロックのためだけに動き補償を実行し、考えられる他の画像ブロックを不変のまま残すことによって、より高い品質の画像と、したがって、ビデオシーケンスとを得るために、第二の方法が用いられる。
本発明は、上記の透かし入れ方法にしたがって透かし入れされたビデオ画像のシーケンスから透かしを抽出する方法に関する。
本発明によれば、このような抽出方法は、少なくとも一つの透かしが入ったモーションベクトル中へと挿入された少なくとも一つの透かし入れビットを抽出するステップを含み、前記抽出ステップは、
前記シーケンス内の二つの画像同士間の動きを推定して、前記少なくとも一つの透かしが入ったモーションベクトルを得るステップと、
該モーションベクトルに関連する識別可能なバイナリ値を有する二つのタイプの相補的ゾーンに仕切られた基準空間における前記透かしが入ったモーションベクトルの位置を分析するステップと、
前記モーションベクトルが存在するゾーンのバイナリ値を前記透かし入れビットに割り当てるステップと
を含んでなる。
有利には、前記透かし入れビットは前記ビデオ画像シーケンス中に冗長に挿入されるので、前記抽出方法は、信頼指数を前記抽出された透かし入れビットに割り当てるために用いられる少なくとも一つの相関係数を計算するステップを含む。
本発明は、ビデオ画像シーケンスに透かし入れする装置にも関連し、前記装置は、前記シーケンス内の二つの画像同士間の動きを推定することによって得られた少なくとも一つのモーションベクトル中へと少なくとも一つの透かし入れビットを挿入して、少なくとも一つの透かしが入ったモーションベクトルを得る手段を含み、前記モーションベクトルは、該モーションベクトルに関連する識別可能なバイナリ値を有する二つのタイプの相補的ゾーンに仕切られている基準空間中におけるその座標によって識別され、前記挿入手段は、必要に応じて起動されて、前記モーションベクトルの座標を修正することによって、前記モーションベクトルが、挿入されるべき前記透かし入れビットに対応するバイナリ値ゾーン内に位置付けされるようにする手段を含む。
本発明によれば、前記修正手段は、少なくとも二つの潜在的な透かしが入ったモーションベクトルを決定し、少なくとも一つの所定の判断基準にしたがって、前記潜在的な透かしが入ったモーションベクトルの中から最適な透かしが入ったモーションベクトルを選択することにより、前記モーションベクトルの修正された座標が、前記最適な透かしが入ったモーションベクトルの座標となるようにする手段を含む。
本発明は、上記の透かし入れ方法にしたがって透かしが入ったビデオ画像のシーケンスから透かしを抽出する装置にも関する。本発明によれば、このような装置は、少なくとも一つの透かしが入ったモーションベクトル中に挿入されている少なくとも一つの透かし入れビットを抽出する手段を含み、前記抽出手段は、
前記シーケンスの内の二つの画像同士間の動きを推定して、前記少なくとも一つの透かしが入ったモーションベクトルを得る手段と、
該モーションベクトルに関連する識別可能なバイナリ値を有する二つのタイプの相補的ゾーンに仕切られた基準空間における前記透かしが入ったモーションベクトルの位置を分析する手段と、
前記モーションベクトルが存在するゾーンのバイナリ値を前記透かし入れビットに割り当てる手段と
を含んでなる。
本発明は、端末によって読みとり可能なディジタルデータキャリアにも関し、前記キャリアは、上記の透かし入れ方法に従って透かし入れされたビデオ画像のシーケンスを表す信号を記憶する手段を含む。
本発明は、プログラムがコンピュータ上で実行されると、上記の透かし入れ方法のステップを実行するプログラムコード命令を含むコンピュータプログラムにも関する。
本発明は、
前記シーケンスの内の二つの画像同士間の動きを推定することによって得られた少なくとも一つのモーションベクトル中に少なくとも一つの透かし入れビットを挿入して、少なくとも一つの透かしが入ったモーションベクトルを得るステップであり、前記モーションベクトルは、該モーションベクトルに関連する識別可能なバイナリ値を有する二つのタイプの相補的ゾーンに仕切られる基準空間中でのその座標によって識別される、前記ステップを実行するコンピュータ読みとり可能なプログラミング手段と、
必要に応じて、前記モーションベクトルの座標を修正することにより、前記モーションベクトルが、挿入されるべき前記透かし入れビットに対応するバイナリ値ゾーン内に位置付けされるようにするステップを実行するコンピュータ読みとり可能な手段と、
少なくとも二つの潜在的な透かしが入ったモーションベクトルを決定するステップと、前記潜在的な透かしが入ったモーションベクトルの内から、少なくとも一つの所定の判断基準にしたがって最適な透かしが入ったモーションベクトルを選択することにより、前記モーションベクトルの修正された座標が、前記最適な透かしが入ったモーションベクトルの座標となるようにするステップとを実行するコンピュータ読みとり可能な手段と
を含んでなる、コンピュータにおいて使用可能なキャリア中に記録されているプログラムコード命令を含むコンピュータプログラム製品にも関する。
最後に、本発明は、上記の透かし入れ方法に従って透かし入れされたビデオ画像シーケンスを表す信号に関する。
本発明の他の特徴と利点は、サンプルや、解説目的の非制限的な例として与えられた好ましい実施形態に関する以下の記述および以下の添付図面から、より明瞭に理解されるであろう。
本発明の一般的原理は、透かし入れビットの挿入ゾーンの適応的選択に依存している。言い換えれば、本発明の一般的原理は、モーションベクトル中へとマークを挿入することによってビデオシーケンスに透かし入れする技法という状況では、画像に関連する基準グリッドの同じバイナリ値を有する互いに異なったゾーンに属する、潜在的な透かしが入ったモーションベクトルを代表するいくつかのモーションベクトルを考慮し、これらのベクトルの内から、所定の判断基準、たとえば、透かし入れのロバスト性または不可視性の判断基準を最適化することを可能とする最適な透かしが入ったモーションベクトルを選択することである。
このビデオシーケンスの透かし入れを、そのコンテンツを保護するためには必要なものであると見なすことができる。
実際、ビデオコンテンツの保護は、今まで、特許権保護システムとして知られているシステムの存在によって実行されてきているが、これには弱点があることが分かっている。このようなシステムは、いったん開示されると容易に悪用され、もはやビデオコンテンツを何ら効率的に保護することがないものとなってしまうので、一般的に、秘密であることに依存している。これは、たとえば、DVD(または、ディジタルバーサタイルディスク(digital versatile disk))の保護のために用いられるCSS(または、コンテンツスクランブルシステム(content scrambling system))の場合に当てはまる。
透かし入れの有用性は、保護されていることがユーザには不可視であり、(媒体を暗号化するシステムの場合と同様に)その媒体は概念的には劣化をしないという事実に基づいている。そのため、ビデオシーケンスが記録されるデータキャリアは、完全に使用可能である。
ビデオ透かし入れは、特に、次の分野に応用される。
透かし入れすることによって悪意ある個人が画面上に投影されたフィルムを記録することを防止することが求められるディジタルシネマ。
DVDの保護であり、この目的のために、この種のキャリアの保護のために今まで用いられてきた方法よりロバストである透かし入れ技法によって無許可のコピーの蔓延を防止することが求められる。
高いビットレートの将来の応用分野の内の一つを代表し、今日のペイパービューシステムに近いシステムであるオンラインシネマ。
本発明が提案する透かし入れアルゴリズムは、ビデオシーケンスのモーションベクトル中へと、階層的に適応的にマークを挿入することに依存している。
図1を参照して、その様々なステップを以下に詳述する。
参照番号11の第一のステップでは、所与の長さNを持つマークが、値0または1を持つ連続するN個のビットという形態で生成される。
参照番号12の第二のステップでは、P対のビデオシーケンス(I1,..,IM)(ここで、P≦M)に対して二つの画像ItとIt'(t≠t’)同士間の動きが推定される。この動きの推定動作は、周知の技法(たとえば、「ブロックマッチング」タイプの技法)にしたがって実施され、考慮の対称であるP対の画像の各々に対して画像ItとIt'同士間のモーションベクトルのフィールドを計算するために利用される。
次に、(たとえば、生成されたマーク(11)のビットが挿入されるYallowタイプのPRNG(疑似乱数発生器)プロセスによって決まる)所定の判断基準にしたがって計算されたすべてのモーションベクトルの内からT個のベクトルが選択される(13)。
そして、選択された各ベクトルに対して、所定のサイズの探索ゾーン(たとえば、選択されたベクトルが置かれている基準グリッドの適切なバイナリ値のブロック及びそれに隣接するブロックの各々のすべてのゾーンから構成されるゾーン)を走査して(14)、選択されたベクトルに対応する潜在的な透かしが入ったモーションベクトルを表すすべてのモーションベクトルを決定する。
(たとえば、マークの不可視性に対するPSNRタイプの判断基準などの)所定の判断基準に基づいて、最適な透かしが入ったモーションベクトルが、潜在的な透かしが入ったモーションベクトルを表すすべてのモーションベクトルの内から選択される(15)。
参照番号16のステップでは、最適な透かしが入ったモーションベクトルに関連して動き補償を実行することによって、マーク付けされたビデオシーケンスが最後に生成される。
上記の参照番号11〜16の他のステップの各々を次に詳述する。
参照番号11のステップで生成されたマークは、(著作権または他のタイプの)ある情報を表し、所与の長さNを持つバイナリモード{−1、1}に書き換えられる。したがって、それは、個々のビットが画像シーケンスのモーションベクトル中へと挿入されたNビットから構成されている。このマークのロバスト性を増すためには、それをビデオシーケンス中に冗長に挿入する。言い換えれば、このシーケンスのいくつかの識別可能なモーションベクトルが、同じ透かし入れビットを担うことになる。
マークを冗長に挿入するためには、特に、P対のビデオシーケンス(I1,..,IM)(ここで、P≦M)に対して二つの画像ItとIt'(t≠t’)同士間で動きの推定を実行すればよい。そして、このマークをシーケンス中にT/N回挿入すればよい。
ある特定の実施形態では、用いられる動きの推定器は「ブロックマッチング」タイプのものであり、動きの推定は、シーケンスの画像tとt+1との間で実行される(実行されるのが前方の動きの推定であるか後方の動きの推定であるかによって、画像t+1とtとの間で実行される)。
「ブロックマッチング」とは、考慮されている画像での画素から成る各ブロックに対して、モーションベクトルによってずらされている、先行する画像または後続する画像の同じサイズのブロックからこの現行のブロックの再構築を可能とする最良のモーションベクトルを評価する動作であることを思い起こすかもしれない。このようにするために、前の画像または次の画像中の現行のブロックの周りを探索して、変位されている前の画像または後の画像中のブロックと考慮されている画像中の現行ブロックとの間の差を表すDFD(「変位されたフレームの差(displaced frame difference)」)関数として知られている典型的な関数を最小化するモーションベクトルを決定する。
本発明のある好ましい実施形態では、L個のレベルに対する階層的な動きの推定を実行してマーク付けする(L≧1)。有利には、(重なり合った複数のレベルを用いる)この種の階層的方式によって、マークを普及させることができる。
これを達成するために、画像は、画素が2NxN個分のサイズを持ち、自体も、たとえば画素NxN個分のサイズを持つサブブロック22へと分割され、さらに、...、となるブロック21の集合によって構成されるものと考えられる。動きの推定をNxNサイズのブロック22に対して実行して、これらのブロックの各々に関連するモーションベクトルを得る。次に、得られたモーションベクトルの平均を取る演算を実行して、2NxNサイズのブロック21の各々と関連するより高い階層レベルのモーションベクトルを決定する。この平均を計算する演算は、最も粗い階層レベルになるまで、4NxNサイズのブロック23及びそれ以降のブロックにも継続的に実行してもよい。
次に、動きの推定を、かなり微細な階層レベルに対して実行し、この微細な推定に基づいて、最も粗い階層レベルに関連するモーションベクトルが決定される。
本発明のある特定の実施形態では、二つの階層レベルを用い、また、動きの推定中に用いられる初期ブロックは、4x4画素分のサイズを有している。
動きの推定ステップ12においてすべてのモーションベクトルが計算されると、階層の最も粗いレベルに移り、透かしが挿入されるT個のモーションベクトルから成る集合(つまり、それらに関連するブロックの集合)が選択される。
ブロックは、決定されているかまたは疑似ランダムでありうる事前定義されているルールに従って選択される。ある特定の実施形態では、Yallowタイプの疑似ランダムPRNG選択を用いる。選択されるのは、最も粗いレベルのブロックである。
マークを挿入することが望まれるT個のモーションベクトルの選択(13)の後に、これらベクトルの各々に対して、所定の探索ゾーン内の対応する潜在的な透かしが入ったモーションベクトルを代表するすべてのモーションベクトルが探索される(14)。
そのようにするために、図3に示す基準グリッドが用いられる。
この図に示す実施形態では、このグリッドは、矩形であり、デカルトドメイン(Cartesian domain)において生成される。そのx軸は画像の行に対応し、y軸は列に対応している。
このグリッドは、複数のHxK個の画素分のサイズの矩形ブロック30から成っている。本発明の特定の実施形態では、H=K=7個の画素を持つ正方形グリッドを用いている。
各ブロックは、二つの相補的ゾーンZ1とZ2とを有している。ゾーンZ1は、hxk個の画素分のサイズを持つ矩形であり、その中心はブロック30中にある。ゾーンZ2は、Z2とブロックの境界との間で、Z1の周辺にある。
hとkとの値は、ゾーンZ1とZ2が同じエリアを有するように選ばれるのが好ましい。
ゾーンZ1はバイナリ値1に関連し、ゾーンZ2はバイナリ値0に関連している。
そして、選択された各モーションベクトル31がグリッド上に置かれ、ブロック30と、それが位置付けされるゾーンZ1またはZ2とが決定される。
ベクトル31は図3に示すようにゾーンZ1中にあり、もし、このベクトル31中に値1を持つ透かし入れビットを挿入することが望まれる場合であっても、ベクトル31をその座標を修正することによってずらす必要はない。
しかしながら、値0を持つ透かし入れビットをベクトル31へと挿入することが望まれる場合には、モーションベクトル31の座標を修正して、それが、バイナリ値0に関連するグリッドのゾーンZ2中に位置付けされるようにしなければならない。
逆に、もし、ベクトル31がゾーンZ2中にあり、それを値0でマーク付けすることが望まれる場合には、それを修正する必要はない。しかしながら、もし、それを値1でマーク付けすることが望まれる場合には、その座標を修正して、基準グリッドのゾーンZ1中に置かれている透かしが入ったモーションベクトルを得なければならない。
本願に一体化された部分である付録1には、特許出願第FR 02 13660号中に記載されているモーションベクトル31に透かし入れする技法が、図8を参照して説明されている。
この技法によれば、モーションベクトル31の修正モデルは、決定論的方法であった。しかしながら、本発明によれば、この透かし入れ技法は、透かし入れされたモーションベクトルの探索空間を広くすることによって改善されている。
したがって、本発明は、透かしを担うように設計されている代表的なモーションベクトルが選択された後に、挿入ゾーン(すなわち、透かし入れされたモーションベクトルが、その座標の修正後に位置付けされるゾーン)が、マーク付け用に選択されたベクトルの近傍で適応的に選択されるという、付録1に記載の技法を改善したものである。
実際、特許出願第FR 02 13660号の目的である技法によれば、選択された各モーションベクトルは、(それ自体が置かれているモーションベクトルの端に最も近い基準グリッドのブロックの端に対応する)単一の基準ポイントに関連している。透かし入れされたモーションベクトルの座標は、この基準ポイントに対するモーションベクトルの距離および位置の関数として、事前定義されたルールに従って直接的に決定され、この透かし入れされたベクトルは、常に、関連する基準ポイントのすぐ近傍に位置している。
しかしながら、本発明によれば、透かし入れされたモーションベクトルの最適な位置が、基準ポイントの近傍においてだけではなく、この基準ポイントの大なり小なり広い近傍においても探索される。
この探索によって、PSNRおよびロバスト性という点において最適であるマーク挿入用ゾーン(すなわち、透かし入れされたモーションベクトルが置かれるゾーン)を選択することが可能となる。
図4に示すある特定の実施形態では、探索対称ゾーンとして選ばれたゾーンは、(このブロック42を含む)基準グリッド43のブロック42上に中心を持つ九個のブロックから成る集合41である。言い換えれば、マークされるべき31モーションベクトルが置かれているブロック42は別としても、ブロック42に直接隣接するすべてのブロックを含む三ブロックの幅を持つ探索窓中の潜在的な透かしが入ったモーションベクトルも探索される。
当然のこととして、この探索ゾーン内では、考慮の対称となるモーションベクトルだけが、挿入されるべき透かし入れビットに対応するゾーンZ1またはZ2中に存在する潜在的な透かしが入ったモーションベクトルを表すモーションベクトルである。
したがって、図4に示すように、たとえば5x5ブロックの探索窓43を選ぶことも可能である。この探索窓のサイズはパラメータ化することが可能である。
付録1に記載するように、単純な対称性によって透かしが入ったベクトルを構築する代わりに、基準番号14のステップでは、モーションベクトル31に関連する基準ポイントに基づいて決定された探索ゾーン41または43内を完全に探索する。
次に、最適な透かしが入ったモーションベクトルを決定するステップ15では、PSNRの計算に基づいて判断基準を最大化する探索ゾーン41または43のすべての画素上にモーションベクトル31を置く。
そうするため、図5に示すように、探索ゾーン41または43の8x8画素分のサイズを持つブロック30のすべてを探索する(つまり、モーションベクトル31の座標を修正する)。
モーションベクトル31は、探索ゾーン41(または43)の画素(たとえば、81、83)の各々に連続的に置かれる。走査された各画素81(それぞれ83も)には関連したブロック82(それぞれ84も)を持つが、このブロックは、画素81(それぞれ83も)このブロックの左側底部に置かれるように構築されている。互いに異なったブロック82と84は互いに離れず、したがって、オーバーラップできる。
図7を参照して以下に説明するように、PSNRを決定するために用いられるのは、現行の画素81および83を関連するこれら互いに異なったブロック82および84である。
次に、変化量δd、すなわち、基準グリッドの領域52の新しい8x8サイズのブロック82および84の各々とオリジナルブロック42との間のモーションベクトル31のずれに対応する変化量が、図6に示すように決定される。
図6において、マーク付けされていないモーションベクトル31がブロック42のバイナリ値1に関連するゾーンZ1中に置かれていることに気が付くであろう。潜在的な透かしが入ったモーションベクトルを代表するモーションベクトル51は、透かし入れビット0の挿入に対応する、領域52のバイナリ値0に関連するゾーンZ2中に置かれている。
図7に示すように、ビデオシーケンス中の画像nの潜在的な透かしが入ったモーションベクトルを表す各モーションベクトル51は、初期ブロック85に適用されると、次の画像(n+1)のたとえば補償済みブロック61、62、または63を得ることを可能とする。
初期ブロック85と他の補償されたブロック61と62と63との各々との間のPSNRが計算される。
次式のPSNR=10log(m/MSE)によってデシベル単位でPSNRが定義されることが思い起こされるであろうが、ここで、mは画素が取り得る最大値(たとえば、8ビットの灰色レベルの画像を考えると255)であり、MSEは、T個のフレームから成るシーケンス中のXxYというサイズを持つ画像の場合には、次式である
Figure 0004851690
により定義される二つの画像IとI^間の平均自乗誤差を示す。
この最適な透かしが入ったモーションベクトルは、初期ブロック85から、より高いPSNRが得られるブロック61、62、または63を得ることを可能とするベクトルである。実際、このブロックは、オリジナルの画像の最も誠実な表示を得るために用いられるものである。
そして、この最適な透かしが入ったモーションベクトルに関連する変化量δdが、初期ブロック85の四つの4x4サイズの子ブロックのモーションベクトルに適用される。
この4x4サイズのブロックの各々のPSNRの計算値から、これらすべてのブロックの平均PSNRが推測される。
最適な透かしが入ったモーションベクトルが選択されると、より微細な階層レベルに降下して、モーションベクトルの座標の修正内容を最も微細なレベルのベクトルに転送して、マークを普及させる。
したがって、本発明は、透かし入れ方法のために階層的な方式を実施するものである。
参照番号13のステップで選択されたすべてのモーションベクトルは、透かし入れされたら、動きを補償する際にマーク付け済みビデオシーケンスを生成する(16)ために用いられる。
次の二つの方法が考えられる。
第一の方法によれば、動き補償を画像のブロックのすべてに対して、これらのブロックが、透かし入れされたモーションベクトルに関連していても透かし入れされていないモーションベクトルに関連していても、実行される。
第二の方法では、補償は、参照番号13のステップで選択されたブロックに対して実行され、この画像は残っているオリジナルのブロックによって完成され、これにより、より高い品質の画像を得るようにする。
本発明によれば、透かし入れされたビデオシーケンス中のマークを検出する動作は次の二つのステップで実行される。
最初に、上記の透かし入れ方法と相対である方法を、マークを抽出するように実施する。この方法は、
透かし入れされたビデオシーケンスの画像の対同士間で動きの推定を実行するステップと、
画像の4x4サイズのブロック上のモーションベクトルの集合を推測するステップと、
これらのモーションベクトルの平均を取って、8x8サイズのブロックと関連するモーションベクトルを決定するステップと、
これらの平均モーションベクトルを基準グリッド上に置くステップと、
これらのベクトルの各々に対して、このグリッドのゾーンZ1又はZ2中の位置に基づいて、透かし入れビット自体が担う値1または0を推測するステップと、
マークを、抽出されたすべての透かし入れビットから、Nビットのバイナリシーケンスという形態でリフレッシュするステップと
を含んでなり、
次に、統計的相関化を実行して、マークの存在または不存在を特徴付ける信頼の閾値を決定する。実際、このマークは画像中に冗長に(たとえば、画像あたり2.5回)挿入され、この種の統計的相関化ステップを用いて、たとえば、得られたマークが、挿入されたマークと真に同一であるか決定する。
次の二つの相関化のルールを用いる。
Figure 0004851690
相関化ルール1:
:抽出されたマーク
:W〜の平均
:オリジナルのマーク
:Wの平均
相関化ルール2:
:画像の数
:ハミング距離
検出位相を有効化するために、ルール1の相関係数を累積して、ビデオ全体の信頼指数を得る。ルール2はこのままで累積値を表している。
[付録1]
本特許文書の出願のために提出された特許出願第FR 02 13660号にしたがってモーションベクトルに透かし入れする技法
モーションベクトル31 OC中にマークを挿入するルールは、図8に示す基準グリッドに基づいている。
この矩形のグリッドは、デカルトドメインで生成される。そのx軸は画像の行に対応し、y軸は列に対応している。このグリッドは、HxK個の画素分のサイズのエレメントEから構成されている。ここで、HとK=1,....,J(本発明のある特定のモードでは、H=K=7の正方形グリッドを用いている)。
動きの推定プロセス中に計算された各モーションベクトルに対して、モーションベクトル0C 31はグリッド上に置かれ、ベクトル0C 31が属す矩形のエレメントEの頂点の内の一つに対応するその基準ポイントP72が決定される。モーションベクトルの基準ポイントP72を計算するため、本方法では、ベクトル31の端Cと矩形エレメントEの四つの頂点の内の一つとの間の距離を最小化する矩形エレメントEのポイントを選択する。ある特定の実施形態では、基準L1が用いられる。
そして、ベクトル31が、次にルールに従って修正される。
hxkというサイズ(ここで、h=H−δ1、k=K−δ2であり、δ1とδ2は、eの面積がE−eの面積と等しくなるような値である)を持つEに含まれる矩形エレメントeが生成される。エレメントeは、バイナリ値1と関連するゾーンZ1に対応し、エレメントE−eはバイナリ値0と関連するゾーンZ2に対応している。
ビット1を挿入することが望まれ、モーションベクトルがZ1中にあれば、なにも実行されない。
ビット1を挿入することが望まれ、モーションベクトルがZ2中にあれば、それはZ1にシフトされる。こうするために、次のようにCが軸方向にD中にシフトされる。
Figure 0004851690
または、次のように中心対称変換Bによってシフトされる。
Figure 0004851690
ここで、VxとVyはベクトルOC 31のそれぞれx軸とy軸を表し、V’xとV’yは透かし入れされたベクトルOD 71の座標を表している。
言い換えれば、ポイントCがEのエッジBPとFPとから等距離にある場合には、ベクトルOC 31は、中心をPとして重み付け中心対称変換によって、たとえば、次の関係式にしたがってシフトされる。
PD=−2/5PC
これと対照的に、ポイントCがゾーンZ1の境界の内の一つにより近い場合には、ポイントDは、この境界に対してベクトルOC 31を(たとえば、係数2/5で)重み付け軸対称変換を実行することによって得られる。
ビット0を挿入することになっており、モーションベクトルがZ1中にあれば、それはZ2にシフトされて、中心をBとした重み付け中心対称性を得る。したがって、CはDにシフトされる。
ある特定の実施形態では、ここで用いられた重み付けによって、次のように修正がなされる。
Figure 0004851690
ビット0が挿入されることになっており、モーションベクトルがZ2中にあれば、何も実行されない。
本発明のビデオシーケンスに透かし入れする方法によって実施される様々なステップのブロック図である。 画像をブロックに階層的に分解する図である。 各々が識別可能なバイナリ値と関連しており、本発明によるモーションベクトルが存在する二つのタイプのゾーンに仕切られる基準グリッドの例の図である。 図3のグリッドの所与の探索ゾーンの潜在的な透かしが入ったモーションベクトルの集合を探索する原理の図である。 図4の探索ゾーンのすべての画素を走査して、最適な透かしが入ったモーションベクトルを決定する方法をより詳細に示す図である。 図4の探索ゾーンの潜在的な透かしが入ったモーションベクトルの例の図である。 ブロック的方式の状況で最適な透かしが入ったベクトルを決定するために用いられるPSNR判断基準を用いる図である。 フランス特許出願第02 13660号に記載の透かし入れ技法を示す、付録1に注釈されている図である。
符号の説明
21 ブロック
22 ブロック
23 ブロック
30 ブロック
31 ベクトル
41 探索ゾーン
42 ブロック
43 探索ゾーン
51 ベクトル
52 領域
61 補償済みブロック
62 補償済みブロック
63 補償済みブロック
71 ベクトルOD
72 基準ポイントP
81 画素
82 ブロック
83 画素
84 ブロック
85 初期ブロック

Claims (20)

  1. 透かしが入った少なくとも一つのモーションベクトルを得るために、シーケンスの内の二つの画像同士間において動きの推定することにより得られた少なくとも一つの前記モーションベクトル中に少なくとも一つの透かし入れビットを挿入するステップを実施するものであり、前記モーションベクトルは、基準空間内のその座標によって識別され、複数のブロックを含む基準リッドに関連付けられており、各ブロックは前記モーションベクトルに関連する識別可能なバイナリ値を有する二つのタイプの相補的ゾーンへと仕切られるものである、ビデオ画像のシーケンスに透かしを入れる方法であって、
    前記挿入するステップは、前記モーションベクトルが基準ブロックとよばれる前記基準グリッドのうちのどの前記ブロックに位置するのかおよび前記基準ブロックのうちのどの前記ゾーンに位置するのかを決定し、前記モーションベクトルの座標を修正することにより、挿入されるべき前記透かし入れビットに対応するバイナリ値を備えたゾーン内に前記ベクトルが位置付けされるようにし、
    前記モーションベクトルの修正された座標が最適な透かしが入ったモーションベクトルの座標となるように、少なくとも二つの潜在的な透かしが入ったモーションベクトルが前記修正中に決定され、前記潜在的な透かしが入ったモーションベクトルの内から、前記最適な透かしが入ったモーションベクトルが少なくとも一つの所定の判断基準にしたがって選択されるものであり、
    前記潜在的な透かしが入ったモーションベクトルが、前記基準ブロックに隣接する少なくとも一つのブロックに属する、前記透かし入れビットに対応するバイナリ値ゾーン内からも探索される方法。
  2. 前記所定の判断基準が、前記透かしの不可視性の判断基準である請求項1に記載の方法。
  3. 前記基準空間が、所定のディメンジョンのブロックを含む基準グリッドと関連しており、前記ブロックの各々が、前記各々のタイプのゾーンを含む請求項1又は2に記載の方法。
  4. 前記モーションベクトルが基準ブロックと呼ばれる前記基準グリッドのブロック中に位置付けされており、前記潜在的な透かしが入ったモーションベクトルが、前記透かし入れビットに対応するバイナリ値を有する前記基準ブロックのゾーン内から探索される請求項3に記載の方法。
  5. 前記潜在的な透かしが入ったモーションベクトルはすべて、前記探索ゾーン内に置かれている請求項4に記載の方法。
  6. 前記所定の判断基準が、前記潜在的な透かしが入ったモーションベクトルの各々に関連するピーク信号対雑音比(PSNR)の最適化の判断基準であり、該PSNRは、透かしが入っていないオリジナル画像に関連する前記透かしが入ったモーションベクトルの1つで透かし入れされた前記ビデオシーケンスの画像の忠実度の測定に対応するものである請求項1から5のいずれかに記載の方法。
  7. 前記ビデオシーケンスの画像が少なくとも二つの階層レベルに関連しており、前記レベルの内の少なくとも一つのレベルに対して前記シーケンスの内の少なくとも一対の画像に対して動きの推定を実施して前記レベルのモーションベクトルの集合を決定し、
    より低いレベルにおいて関連するモーションベクトルの平均を計算することによって、より高い階層レベルのモーションベクトルが得られるものである請求項1から6のいずれかに記載の方法。
  8. より高い階層レベルのモーションベクトルの内から、透かし入れビットを挿入する前記ステップが実行される少なくとも一つのモーションベクトルを選択するステップを含む請求項7に記載の方法。
  9. 前記選択されたモーションベクトルの座標の前記修正が、前記より低いレベルの少なくとも一つのレベルを持つ対応するモーションベクトルにも適用され、これによって、前記透かし入れビットの冗長的挿入を実行する請求項7または8に記載の透かしを入れる方法。
  10. 前記動きの推定が「ブロックマッチング」タイプのものである請求項1から9のいずれかに記載の方法。
  11. 前記透かしが入った少なくとも一つのモーションベクトルに基づいて動き補償を実行して、透かし入れされたビデオ画像シーケンスを生成するステップをさらに含む請求項1から10のいずれかに記載の方法。
  12. 前記モーションベクトルはその各々が前記画像の領域に関連しており、前記動き補償が、透かし入れされているモーションベクトルまたは透かし入れされていないモーションベクトルに関連する前記画像のすべての領域に対して実施される請求項11に記載の透かしを入れる方法。
  13. 前記モーションベクトルはその各々が前記画像の領域と関連しており、前記動き補償が、前記透かしが入った少なくとも一つのモーションベクトルが関連している前記画像の一以上の領域中において実施され、前記透かし入れされたビデオ画像シーケンスの画像が、前記動き補償が実施された前記領域と少なくとも一つのオリジナル画像とを含む請求項11に記載の透かしを入れる方法。
  14. 請求項1から13のいずれかに記載の方法に従って透かし入れされたビデオ画像シーケンスから透かしを抽出する方法であって、透かしが入った少なくとも一つのモーションベクトル中に挿入された少なくとも一つの透かし入れビットを抽出するステップを含み、前記抽出ステップが、
    前記透かしが入った少なくとも一つのモーションベクトルを得るステップと、
    前記モーションベクトルに関連する識別可能なバイナリ値を有する二つのタイプの相補的ゾーンへと仕切られた基準空間において前記透かしが入ったモーションベクトルの位置を分析するステップと、
    前記透かしが入ったモーションベクトルが存在するゾーンのバイナリ値を、前記透かしが入ったモーションベクトルへと挿入された前記透かし入れビットに割り当て、前記透かしが入ったモーションベクトルの前記バイナリ値を送るステップと
    を含んでなる抽出方法。
  15. 前記透かし入れされたビデオ画像シーケンスの画像が少なくとも二つの階層レベルに関連しており、各階層レベルは、少なくとも一つの透かし入れされたモーションベクトルを用いて透かし入れされるものであり
    より低いレベルにおいて関連するモーションベクトルの平均を計算することによって、より高い階層レベルのモーションベクトルが得られる請求項14に記載の抽出方法。
  16. 前記透かし入れビットが前記透かし入れされたビデオ画像シーケンス中に冗長に挿入され、前記抽出された透かし入れビットに信頼指数を割り当てるために用いられた、前記抽出された透かし入れビットと対応するオリジナルの透かし入れビットとの間で少なくとも一つの相関係数を計算するステップを含む請求項14または15に記載の抽出方法。
  17. シーケンスの内の二つの画像同士間で動きの推定することによって得られた少なくとも一つのモーションベクトル中に少なくとも一つの透かし入れビットを挿入して、少なくとも一つの透かしが入ったモーションベクトルを得る手段を備え、前記モーションベクトルは、該モーションベクトルに関連する識別可能なバイナリ値を有する二つのタイプの相補的ゾーンに仕切られる基準空間内のその座標によって識別され、挿入手段は、起動されて、前記モーションベクトルの座標を修正し、これによって、挿入されるべき前記透かし入れビットに対応するバイナリ値ゾーン内に前記ベクトルが位置付けされるものである、ビデオ画像のシーケンスに透かしを入れる装置であって、
    修正手段が、少なくとも二つの潜在的な透かしが入ったモーションベクトルを決定し、前記潜在的な透かしが入ったモーションベクトルの内から、最適な透かしが入ったモーションベクトルを少なくとも一つの所定の判断基準にしたがって選択することによって、前記モーションベクトルの修正された座標が、前記最適な透かしが入ったモーションベクトルの座標となるようにする手段を備える装置。
  18. 少なくとも一つの透かしが入ったモーションベクトル中に挿入されている少なくとも一つの透かし入れビットを抽出する手段を含み、
    前記抽出手段が、
    前記少なくとも一つの透かしが入ったモーションベクトルを得る手段と、
    二つのタイプの相補的ゾーンに仕切られた基準空間における前記透かしが入ったモーションベクトルの位置を分析する手段であって、該モーションベクトルに関連する識別可能なバイナリ値を有するものである手段と、
    前記透かしが入ったモーションベクトルが存在するゾーンのバイナリ値を、前記透かしが入ったモーションベクトルへと挿入された前記透かし入れビットに割り当て、前記透かしが入ったモーションベクトルの前記バイナリ値を送る手段と
    を含んでなる、請求項1から13のいずれかに記載の透かし入れ方法に従って透かし入れされたビデオ画像のシーケンスから透かしを抽出する装置。
  19. 前記シーケンスの内の二つの画像同士間の動きを推定することによって得られた少なくとも一つのモーションベクトル中に少なくとも一つの透かし入れビットを挿入して、少なくとも一つの透かしが入ったモーションベクトルを得るステップを実行するプログラムコード命令であって、該モーションベクトルに関連するバイナリ値をそれぞれが有する二つのタイプの相補的ゾーンに仕切られる基準空間中におけるその座標によって該モーションベクトルが識別される、プログラミングプログラムコード命令と、
    前記モーションベクトルの座標を修正することにより、挿入されるべき前記透かし入れビットに対応するバイナリ値ゾーン内に前記モーションベクトルが位置付けされるようにするステップを実行するプログラムコード命令と、
    少なくとも二つの潜在的な透かしが入ったモーションベクトルを決定するステップと、前記潜在的な透かしが入ったモーションベクトル内から、少なくとも一つの所定の判断基準にしたがって最適な透かしが入ったモーションベクトルを選択することによって、前記モーションベクトルの修正された座標が、前記最適な透かしが入ったモーションベクトルの座標となるようにするステップとを実行するプログラムコード命令と
    を含んでなる、プログラムコード命令を含むコンピュータプログラムのためのコンピュータに読み取り可能な記録媒体。
  20. 少なくとも一つの透かしが入ったモーションベクトルが挿入された、少なくとも一つの透かし入れビットを抽出するステップを実行するプログラムコード命令と、
    前記少なくとも一つの透かしのが入ったモーションベクトルを得るためのプログラムコード命令と、
    あるゾーンが他のゾーンを取り囲み、各ゾーンが前記モーションベクトルに関連付けられる識別可能なビットを有している、二つのタイプの相補的なゾーンへと仕切られる基準空間において、前記透かしが入ったモーションベクトルの位置を分析するステップを実行するプログラムコード命令と、
    前記透かしが入ったモーションベクトルが存在する前記ゾーンのバイナリ値を、前記透かしが入ったモーションベクトルへと挿入された前記透かし入れビットに割り当て、前記透かしが入ったモーションベクトルの前記バイナリ値を送るステップを実行するプログラムコード命令と
    を含んでなる、プログラムコード命令を含むコンピュータプログラムのためのコンピュータに読み取り可能な記録媒体。
JP2004116505A 2003-04-11 2004-04-12 ビデオ画像のシーケンスに透かし入れする方法、装置、及び、コンピュータプログラム Expired - Fee Related JP4851690B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
FR0304590 2003-04-11
FR0304590A FR2853792A1 (fr) 2003-04-11 2003-04-11 Procede de tatouage d'une sequence video a selection adaptative de la zone d'insertion du tatouage, procede de detection, dispositifs, support de donnees et programmes d'ordinateur correspondants

Publications (2)

Publication Number Publication Date
JP2004320765A JP2004320765A (ja) 2004-11-11
JP4851690B2 true JP4851690B2 (ja) 2012-01-11

Family

ID=32982304

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004116505A Expired - Fee Related JP4851690B2 (ja) 2003-04-11 2004-04-12 ビデオ画像のシーケンスに透かし入れする方法、装置、及び、コンピュータプログラム

Country Status (5)

Country Link
US (1) US7386147B2 (ja)
EP (1) EP1473944A3 (ja)
JP (1) JP4851690B2 (ja)
KR (1) KR100960828B1 (ja)
FR (1) FR2853792A1 (ja)

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101100843B1 (ko) * 2003-06-25 2012-01-02 톰슨 라이센싱 압축된 비디오 비트스트림에서 워터마크의 디코딩 방법 및검출 장치
WO2005048189A2 (fr) * 2003-11-10 2005-05-26 France Telecom Sa Procede et dispositif de tatouage d'une marque dans une image
TWI288873B (en) * 2004-02-17 2007-10-21 Mitsubishi Electric Corp Method for burying watermarks, method and device for inspecting watermarks
US8085849B1 (en) * 2006-11-03 2011-12-27 Keystream Corporation Automated method and apparatus for estimating motion of an image segment using motion vectors from overlapping macroblocks
JP4685825B2 (ja) * 2007-04-06 2011-05-18 学校法人東京理科大学 動画像復号装置、方法及びプログラム、並びに、動画像符号化装置、方法及びプログラム
KR101611375B1 (ko) * 2008-08-19 2016-04-11 톰슨 라이센싱 압축된 비디오에서 구문 요소의 cabac/avc 준수 워터마킹
US8594366B2 (en) * 2008-08-19 2013-11-26 Thomson Licensing Context-based adaptive binary arithmetic coding (CABAC) video stream compliance
BRPI0916944B1 (pt) * 2008-08-19 2020-07-21 Contentarmor Método e aparelho para inserir marca dágua em vídeo codificado
BRPI0917200B1 (pt) * 2008-08-19 2021-06-29 Contentarmor Método de seleção e incorporação de marcas d'água para aplicação em dados de vídeo
US8824727B2 (en) 2008-08-20 2014-09-02 Thomson Licensing Selection of watermarks for the watermarking of compressed video
BR112012019745B1 (pt) 2010-02-09 2020-11-10 Contentarmor Método de detecção de marca dágua utilizando um mapa de propagação
TWI444049B (zh) * 2011-01-18 2014-07-01 Univ Nat Chiao Tung 畫面估測系統及其估測方法
PL2485488T3 (pl) * 2011-02-02 2017-09-29 Nagravision S.A. Dekoder multimediów i sposób dekodowania pozwalający na śledzenie dekodera multimediów
EP2544142A1 (en) * 2011-07-08 2013-01-09 Thomson Licensing Method for watermark detection using reference blocks comparison
EP2611064A1 (en) * 2011-12-29 2013-07-03 Thomson Licensing Method for selectively scrambling bit-streams
US9218638B2 (en) 2012-03-27 2015-12-22 Infosys Limited Method, system, and computer-readable medium for embedding and extracting a watermark in a video
JP6191296B2 (ja) * 2013-07-16 2017-09-06 富士通株式会社 動画像処理装置、動画像処理方法及びプログラム
US9955880B2 (en) * 2014-10-27 2018-05-01 Tata Consultancy Services Limited Estimating physiological parameters
WO2017063905A1 (en) * 2015-10-15 2017-04-20 Nagravision S.A. A system for inserting a mark into a video content
CN105160694B (zh) * 2015-10-15 2017-05-03 深圳大学 一种数据隐藏方法及隐藏系统
US10958807B1 (en) * 2018-02-08 2021-03-23 Digimarc Corporation Methods and arrangements for configuring retail scanning systems
US10880451B2 (en) 2018-06-08 2020-12-29 Digimarc Corporation Aggregating detectability metrics to determine signal robustness
EP4174757B1 (en) * 2021-10-26 2024-02-21 e.solutions GmbH Method and system for embedding information in a video signal

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09154138A (ja) * 1995-05-31 1997-06-10 Toshiba Corp 動画像符号化/復号化装置
US6957350B1 (en) * 1996-01-30 2005-10-18 Dolby Laboratories Licensing Corporation Encrypted and watermarked temporal and resolution layering in advanced television
US5960081A (en) * 1997-06-05 1999-09-28 Cray Research, Inc. Embedding a digital signature in a video sequence
US6845130B1 (en) * 2000-10-12 2005-01-18 Lucent Technologies Inc. Motion estimation and compensation for video compression
JP2003061057A (ja) * 2001-08-14 2003-02-28 Sony Corp 付加データ検出装置及び付加データ検出方法並びに付加データ検出プログラム
FR2846828B1 (fr) * 2002-10-31 2005-03-11 France Telecom Procede de tatouage d'un signal video, systeme et support de donnees pour la mise en oeuvre de ce procede, procede d'extraction du tatouage d'un signal video, systeme pour la mise en oeuvre de ce procede

Also Published As

Publication number Publication date
US7386147B2 (en) 2008-06-10
KR100960828B1 (ko) 2010-06-08
EP1473944A3 (fr) 2010-06-30
FR2853792A1 (fr) 2004-10-15
JP2004320765A (ja) 2004-11-11
EP1473944A2 (fr) 2004-11-03
KR20040089557A (ko) 2004-10-21
US20040247154A1 (en) 2004-12-09

Similar Documents

Publication Publication Date Title
JP4851690B2 (ja) ビデオ画像のシーケンスに透かし入れする方法、装置、及び、コンピュータプログラム
Kutter et al. Digital signature of color images using amplitude modulation
Jung et al. Steganographic method based on interpolation and LSB substitution of digital images
Wu et al. Reversible image watermarking on prediction errors by efficient histogram modification
KR100437187B1 (ko) 화상 부호화장치, 화상 복호화장치, 화상 부호화방법,화상 복호화방법 및 매체
Sherly et al. A compressed video steganography using TPVD
JP5095611B2 (ja) デジタルビデオフィンガープリンティングのための共謀防止脱同期化
CN105741224B (zh) 基于pvo和自适应块分割的可逆水印算法
US9773290B2 (en) Content watermarking
Kumar et al. Enhanced pairwise IPVO-based reversible data hiding scheme using rhombus context
US7697609B2 (en) Apparatus and method for encoding and decoding a moving picture using digital watermarking
Wu et al. A high capacity reversible data hiding scheme with edge prediction and difference expansion
CN101389009A (zh) 一种水印信息的嵌入、检测方法及装置
Sabeen Govind et al. A high imperceptible data hiding technique using quorum function
US20040175017A1 (en) Method of watermarking a video signal, a system and a data medium for implementing said method, a method of extracting the watermarking from a video signal, and system for implementing said method
JP4552261B2 (ja) ディジタル情報変換装置および方法、並びに画像情報変換装置および方法
Vigila et al. Hiding of Confidential Data in Spatial Domain Images using Image Interpolation.
Firmansyah et al. An improved neighbouring similarity method for video steganography
JP2011176385A (ja) 画像処理方法
Zhang et al. A Novel Deep Video Watermarking Framework with Enhanced Robustness to H. 264/AVC Compression
US7386146B2 (en) Insertion of a message in a sequence of digital images
Luyen et al. An efficient reversible data hiding based on improved pixel value ordering method
Kumar et al. REVERSIBLE DATA HIDING USING IMPROVED INTERPOLATION
Roselinkiruba et al. A novel pattern-based reversible data hiding technique for video steganography
Rudder et al. Using Bias optimization for reversible data hiding using image interpolation

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070402

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100420

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20100716

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20100722

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100820

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110128

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20110419

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20110422

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110427

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110527

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110823

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110922

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111021

R150 Certificate of patent or registration of utility model

Ref document number: 4851690

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141028

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees