JP3373799B2 - マーキング処理装置、マーク除去装置およびこれらの方法 - Google Patents

マーキング処理装置、マーク除去装置およびこれらの方法

Info

Publication number
JP3373799B2
JP3373799B2 JP01479999A JP1479999A JP3373799B2 JP 3373799 B2 JP3373799 B2 JP 3373799B2 JP 01479999 A JP01479999 A JP 01479999A JP 1479999 A JP1479999 A JP 1479999A JP 3373799 B2 JP3373799 B2 JP 3373799B2
Authority
JP
Japan
Prior art keywords
data
marking
information
displayable
mark
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP01479999A
Other languages
English (en)
Other versions
JP2000224402A (ja
Inventor
瀬 俊 幸 加
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
International Business Machines Corp
Original Assignee
International Business Machines Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by International Business Machines Corp filed Critical International Business Machines Corp
Priority to JP01479999A priority Critical patent/JP3373799B2/ja
Publication of JP2000224402A publication Critical patent/JP2000224402A/ja
Application granted granted Critical
Publication of JP3373799B2 publication Critical patent/JP3373799B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Image Processing (AREA)
  • Editing Of Facsimile Originals (AREA)

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は、ディジタルコンテンツ
にマークを埋め込むマーキング処理装置、ディジタルコ
ンテンツに埋め込まれたマークを除去するマーク除去装
置、および、これらの方法に関する。特定的には、本発
明は、視覚的に感じることができる可視マークを、品質
を大きく低下させることがないように画像データに付加
し、マーキング処理を行うマーキング処理装置、このよ
うにしてマーキング処理された画像データから、付加さ
れた可視マークを除去するマーク除去装置、および、こ
れらの方法に関する。
【0002】
【従来の技術】デジタル化された画像データ等(デジタ
ルコンテンツまたはコンテンツ)の不正複写、転用およ
び再配布等を防止する手段として、デジタルコンテンツ
へ直接、付加情報を埋め込むマーキング技術がある。こ
のマーキング技術は、所有者が、可視あるいは不可視の
マークを画像データに埋め込んで画像の所有者等を明確
に主張するとともに、正当な使用者のみに付加情報を除
去するための鍵を与えるようにしたものである。
【0003】例えば、"Color correct digital waterma
rking of images"(文献1:USP 5,530,759)、およ
び、"Method and apparatus for reducing quantizatio
n artifacts in a hierarchical image storage and re
trieval system"(文献2:USP5,568,570)は、可視付
加情報をコンテンツに埋め込むマーキング技術を開示す
る。また他にも、特開平10−97760〜97762
号公報、特開平10−124998および特開平10−
276321等、多くの文献が、このようなマーキング
技術を用いて著作権保護を行う方法・装置を開示する。
【0004】ここで、例えば、色要素が8ビットで表現
される非圧縮のRGB画像データ、CMYK画像データ
およびグレースケール画像データ等の色要素の値が取り
得る範囲は0〜255に限られている。これらの画像デ
ータに可視マーク(以下、「透かし」とも記す)を加え
ると、画像データの色要素の値が0〜255の範囲外に
なり、色が反転してしまうことがあるので、可視マーク
を意図通り、画像データに美しく付加することができな
い、あるいは、可視マークの色指定ができない等の不具
合を生じる可能性がある。画像データがJPEG形式等
の圧縮データである場合にも、あるいは、音声データに
可聴マークを埋め込む場合にも、こような不具合は同様
に生じる可能性がある。
【0005】
【発明が解決しようとする課題】本発明は、上述した従
来技術の問題点に鑑みてなされたものであり、値が所定
の範囲を超えると、表示したときにその品質が大きく変
化してしまうデータに対しても、意図通りにマーキング
を行うことができるマーキング処理装置およびその方
法、および、このマーキング処理装置およびその方法に
よりマーキング処理されたデータからマークを除去する
マーク除去装置およびその方法を提供することを目的と
する。
【0006】また、特定的には、本発明は、値が一定の
範囲外になると、色が反転する等の品質劣化が生じる画
像データに対し、可視マークを、意図通り、しかも美し
く付加することができるマーキング処理装置およびその
方法、および、このマーキング処理装置およびその方法
によりマーキング処理された画像データからマークを除
去するマーク除去装置およびその方法を提供することを
目的とする。
【0007】
【課題を達成するための手段】[マーキング処理装置]
上記目的を達成するために、本発明にかかるマーキング
処理装置は、表示可能な複数の可表示データそれぞれに
対して、これらの可表示データそれぞれに対応し、対応
する前記複数の可表示データに付加されて表示されると
感じ取られうる複数の可感データを付加してマーキング
処理するマーキング処理装置であって、少なくとも、マ
ーキング処理された場合に、その値が所定の範囲内にな
る前記可表示データに対して、対応する前記可感データ
を付加してマーキング処理を行うマーキング処理手段
と、マーキング処理された前記可表示データに、マーキ
ング処理されたことを示す情報を付加する第1の情報付
加手段と、マーキング処理された前記可表示データ以外
の前記可表示データに、マーキング処理されていないこ
とを示す情報を付加する第2の情報付加手段とを有す
る。
【0008】好適には、前記可表示データは、表示可能
な画像を構成する複数の画素データであって、前記複数
の可感データそれぞれは、対応する前記画素データに付
加されて表示されると視覚により感じ取られうる可視マ
ークデータであって、前記マーキング処理手段は、マー
キング処理された場合に、その値が前記所定の範囲内に
なる前記画素データに対してのみ、対応する前記可視マ
ークデータを付加してマーキング処理を行い、前記第1
の情報付加手段は、マーキング処理された前記画素デー
タに、マーキング処理されたことを示す情報を付加し、
前記第2の情報付加手段は、マーキング処理されていな
い前記画素データに、マーキング処理されていないこと
を示す情報を付加する。
【0009】好適には、前記第1の情報付加手段は、マ
ーキング処理された前記画素データの所定のビットを所
定の値にすることにより、前記画素データに、マーキン
グされたことを示す情報を付加し、前記第2の情報付加
手段は、マーキング処理されていない前記画素データの
前記所定のビットを、所定の値以外の値にすることによ
り、前記画素データに、マーキングされていないことを
示す情報を付加する。
【0010】[マーキング処理装置の作用]本発明にか
かるマーキング処理装置は、例えば、画像データあるい
は音声データのように、ユーザに対して表示することが
できるデータ(可表示データ)に対して、この可表示デ
ータに付加して表示すると、マークの存在を観者が五感
で感じることができるマーク(可感マーク)を用いてマ
ーキング処理する。以下、可表示データが、色要素が8
ビットの非圧縮画像データであり、可感マークが、埋め
込み位置等を示す透かし情報に従って、ドットパターン
が画像データに埋め込まれる可視マークである場合を具
体例として説明する。
【0011】画像データに、ユーザが視覚により感じ取
ることができる可視マーク(可感マーク)を加えた結
果、色要素の値が所定の範囲外になると、表示色が赤か
らシアンに反転する等、品質に著しい変化が現れる。本
発明にかかるマーキング処理装置は、このような特性を
有する画像データに対して、マーキング処理後の画像の
品質が著しく劣化することなく、しかも、マーキング処
理を行う人が意図通りに色指定等できるように、可視マ
ークを付加する。
【0012】[マーキング処理手段]マーキング処理手
段は、画像データに対して、透かし情報に基づいて、可
視マークのドットパターンを付加した場合に、画像デー
タの画素値それぞれが、正常の範囲(色要素が8ビット
データの場合には0〜255)の範囲内となるか否かを
判断し、可視マークを付加した場合に、その値が正常の
範囲内となる画素の画素値(画素データ)に対して、対
応する可視マークの値を付加する。
【0013】反対に、可視マークを付加した場合に、そ
の値が正常の範囲外となる画素に対しては、マーキング
処理手段は、透かし情報および可視マークのドットパタ
ーンが、その画素に可視マークを付加すべきことを示し
ている場合であっても、可視マークを付加しない。
【0014】[第1の情報付加手段]第1の情報付加手
段は、可視マークを付加した場合に、その値が正常の範
囲内となり、可視マークが付加された画素の画素値(画
素データ)に対して、その画素値に可視マークが付加さ
れていることを示す情報を付与する。具体的には、例え
ば、第1の情報付加手段は、可視マークが付加された画
素値のLSB1ビットを1とすることにより、その画素
値に可視マークが付加されていることを示す第1の情報
を付与する。
【0015】[第2の情報付加手段]第2の情報付加手
段は、可視マークを付加した場合に、その値が正常の範
囲外となり、可視マークが付加されていない画素値に対
して、その画素値に可視マークが付加されていないこと
を示す情報を付与する。具体的には、例えば、第2の情
報付加手段は、可視マークが付加されていない画素値の
LSB1ビットを0とすることにより、その画素値に可
視マークが付加されていないことを示す第2の情報を付
与する。
【0016】なお、可視マークの透かし情報およびドッ
トパターンが、可視マークを付加しないことを示してい
る画素値に対しては、第2の情報付加手段は、第2の情
報を付加してもしなくてもよい。例えば、可視マークを
除去する装置が、画素値のLSBのみに基づいて可視マ
ークが付加されているか否かを判断するように構成され
ている場合には、第2の情報付加手段は、可視マークの
透かし情報およびドットパターンが、可視マークを付加
しないことを示している画素値に対しても、第2の情報
を付加する必要がある。反対に、画素値のLSBだけで
なく、透かし情報およびドットパターンに基づいて、可
視マークを除去する装置が可視マークが付加されている
か否かを判断するように構成されている場合には、第2
の情報付加手段は、可視マークの透かし情報およびドッ
トパターンが、可視マークを付加しないことを示してい
る画素値に対して、第2の情報を付加しなくてよい。
【0017】[マーク除去装置]また、本発明にかかる
マーク除去装置は、可感データが付加されることによ
り、一部または全部がマーキング処理された複数の前記
可表示データそれぞれから、前記可感データそれぞれを
除去するマーク除去装置であって、マーキング処理され
た前記可表示データには、マーキング処理されたことを
示す情報が付加され、前記可感データは、対応する前記
可表示データに付加されて表示されると感じ取られ、前
記情報が付加されている前記可表示データから、前記可
感データを除去する。
【0018】好適には、前記可表示データは、表示可能
な画像を構成する複数の画素データであって、前記複数
の可感データそれぞれは、対応する前記画素データに付
加されて表示されると視覚により感じ取られうる可視マ
ークデータであって、前記情報が付加されている前記可
表示データから、前記可視マークデータを除去する。
【0019】好適には、前記情報は、マーキング処理さ
れた前記画素データの所定のビットを所定の値にするこ
とにより、前記画素データに付加され、マーキング処理
されていない前記画素データの前記所定のビットは、前
記所定の値以外の値にされ、前記所定のビットが、前記
所定の値をとる前記可表示データから、前記可視マーク
データを除去する。
【0020】[マーク除去装置の作用]本発明にかかる
マーク除去装置は、上述した本発明にかかるマーキング
装置によりマーキング処理された画像データに付加され
た可視マークを除去する。つまり、マーク除去装置は、
可視マークのドットパターンおよび透かし情報が可視マ
ークが付加されていることを示す画素それぞれのLSB
を調べ、可視マークを除去するために用いられる鍵、ド
ットパターンおよび透かし情報に基づいて、LSBが1
の値をとる画素だけから可視マークを除去し、LSBが
0の値をとる画素からは、可視マークを除去しない。
【0021】画素のLSBをチェックして可視マークの
除去を行うことにより、マーク除去装置は、実際に可視
データが付加された画素からのみ可視マークを除去する
ことができ、また、透かし情報等は可視マークが付加さ
れていることを示すが、可視マークを付加すると画像が
著しく変化するために、実際には可視マークが付加され
ていない画素からは、可視マークを除去しないようにし
て、画像の品質の低下を防ぐ。
【0022】なお、画素のLSBの値が変化するため
に、可視マーク除去後の画像は、オリジナルとは少し異
なることになるが、LSB1ビット分の変化は、普通、
視覚上大きな問題にはならない。また、画素値が使われ
ていないビットを含む場合には、この使われていないビ
ットを用いて、画素値に第1および第2の情報を付与す
ることも可能である。
【0023】[マーキング処理方法]また、本発明にか
かるマーキング処理方法は、表示可能な複数の可表示デ
ータそれぞれに対して、これらの可表示データそれぞれ
に対応し、対応する前記複数の可表示データに付加され
て表示されると感じ取られうる複数の可感データを付加
してマーキング処理するマーキング処理方法であって、
少なくとも、マーキング処理された場合に、その値が所
定の範囲内になる前記可表示データに対して、対応する
前記可感データを付加してマーキング処理し、マーキン
グ処理された前記可表示データに、マーキング処理され
たことを示す情報を付加し、マーキング処理された前記
可表示データ以外の前記可表示データに、マーキング処
理されていないことを示す情報を付加する。
【0024】[マーク除去方法]また、本発明にかかる
マーク除去方法は、可感データが付加されることによ
り、一部または全部がマーキング処理された複数の前記
可表示データそれぞれから、前記可感データそれぞれを
除去するマーク除去方法であって、マーキング処理され
た前記可表示データには、マーキング処理されたことを
示す情報が付加され、前記可感データは、対応する前記
可表示データに付加されて表示されると感じ取られ、前
記情報が付加されている前記可表示データから、前記可
感データを除去する。
【0025】[記録媒体]また、本発明にかかる第1の
記録媒体は、表示可能な複数の可表示データそれぞれに
対して、これらの可表示データそれぞれに対応し、対応
する前記複数の可表示データに付加されて表示されると
感じ取られうる複数の可感データを付加してマーキング
処理するマーキング処理装置において、少なくとも、マ
ーキング処理された場合に、その値が所定の範囲内にな
る前記可表示データに対して、対応する前記可感データ
を付加してマーキング処理を行うマーキング処理ステッ
プと、マーキング処理された前記可表示データに、マー
キング処理されたことを示す情報を付加する第1の情報
付加ステップと、マーキング処理された前記可表示デー
タ以外の前記可表示データに、マーキング処理されてい
ないことを示す情報を付加する第2の情報付加ステップ
とをコンピュータに実行させるプログラムを記録する。
【0026】また、本発明にかかる第2の記録媒体は、
可感データが付加されることにより、一部または全部が
マーキング処理された複数の前記可表示データそれぞれ
から、前記可感データそれぞれを除去するマーク除去装
置において、マーキング処理された前記可表示データに
は、マーキング処理されたことを示す情報が付加され、
前記可感データは、対応する前記可表示データに付加さ
れて表示されると感じ取られ、前記情報が付加されてい
る前記可表示データから、前記可感データを除去する可
感データ除去ステップをコンピュータに実行させるプロ
グラムを記録する。
【0027】
【発明の実施の形態】本発明は、画像データに可視マー
クを付加する処理の他、音声データに可聴マークを付加
する等、広く、表示可能なデータ(可表示データ)に、
人間の五感により感じられるマーク(可感マーク)を付
加する処理に応用可能であるが、以下、説明の明確化の
ために、画像データに可視マークを付加する場合を具体
例とする。まず、本発明の理解を容易にするために、実
施形態の説明に先立って、画像データに可視マークを付
加する方法、可視マークが付加された結果、画像データ
が正常な範囲外になった場合に、品質がどのように変化
するかを説明する。
【0028】[画像データに対するマーキング処理]除
去可能な可視マークを用いたマーキング処理は、画像デ
ータにおける可視マークの埋め込み位置、可視マークの
スケール、輝度および色等を示す透かし情報に従って、
画像データを構成する画素それぞれに対して、可視マー
クのドットパターンをマッピングし、付加することによ
り、つまり、例えば、画像データが、JPEG方式によ
り圧縮されている場合にはDCT係数値に、あるいは、
画像データが非圧縮のTIFF・BMP形式である場合
には画素値に可逆操作を加えて、可視マークを画像上に
視覚的に浮かび上がらせることにより行われる。
【0029】この可逆操作の方法として、可視マークの
ドットパターンおよび透かし情報に基づいて、変更対象
のDCT係数値・画素値を選択し、鍵が示す擬似乱数に
より算出される変分ΔP(x,y)を、選択されたDC
T計数値・画素値P(x,y)に付加し、新たなDCT
計数値・画素値P(x,y)=P(x,y)+ΔP
(x,y)とする方法等、さまざまな方法を挙げること
ができる。例えば、RGBカラー画像データに可逆操作
を行うためには、基本的に、各画素値の色要素R,G,
Bの値を上げ下げし、操作する方法がとられる。
【0030】[画素値が正常な範囲外になった場合の品
質変化]例えば、RGB画像データの色要素Bの値を大
きくして可視マークを付加すると、その画素は青みを帯
びるが、逆に、色要素Bの値を小さくして可視マークを
付加すると、その画素は黄色(イエロー;青の補色)み
を帯びる。また、色要素R,G,B全ての値を、正常な
範囲内、例えば、色要素R,G,Bが8ビットデータの
場合には0〜255の範囲内で大きくすると、その画素
は白みを帯び、逆にR,G,B全ての値を小さくすると
黒みを帯びる。このように、色要素の値を大きくする
か、小さくするかと、その結果、画素に付される可視マ
ークがどのような色を帯びるかとの関係の一部(色の値
の組み合わせにより、表1に示した色以外を発色させる
ことも可能)を、下表1に示す。
【0031】
【表1】 表1:色要素の操作と可視マークの色との関係 (RGB画像の場合) 色要素 :値を上げる:値を下げる ================== R : 赤 : シアン G : 緑 :マゼンタ B : 青 :イエロー R,G,B: 白 : 黒
【0032】しかしながら、画素の色要素R,G,Bに
可視マークを加えた結果、色要素R,G,Bの値が正常
な範囲外になると、つまり、0より小さくなったり、2
55より大きくなったりすると、表示した場合の色が補
色に反転してしまう。さらに具体的に説明する。例え
ば、画素の色要素Bに可視マークを加算した結果が25
6になったとすると、オーバーフローが生じて、結局、
可視マークを加算した後の色要素Bの値は0と同じにな
る。このような事態が生じると、青い可視マークを付加
することが意図されていたにもかかわらず、実際には、
黄色い可視マークが画像に付されることになってしま
う。また、このような色の反転は、可視マーク内で一様
に生じることはないので、可視マークに斑点等の異常が
生じて、可視マークが意図通りの美しさで表示されない
という可能性がある。
【0033】例えば、除去不可能な可視マークを画像デ
ータに付加する場合には、可視マークを付加した後の画
素の色要素R,G,Bの値を、0〜255の範囲で制限
することも可能であるが、可視マークを除去可能としな
ければならない場合、このように色要素R,G,Bの値
を制限すると、操作が不可逆的になるので、この方法を
用いることはできない。ここまでの説明においては、可
視マークが非圧縮のRGB画像データに付加される場合
を具体例としたが、例えば、JPEG方式により画像デ
ータを圧縮符号化する場合、DCT係数値が取りうる範
囲は決まっているので、圧縮画像データに可視マークを
埋め込む場合でも、上述した不具合が発生しうる。以下
に説明する本発明にかかるマーキング処理方法およびマ
ーク除去方法は、このような不具合を解消したものであ
る。
【0034】[コンピュータ1]図1は、本発明にかか
るマーキング処理およびマーク除去処理を実現するコン
ピュータ1の構成を示す図である。図1に示すように、
コンピュータ1は、メインCPU102、メインメモリ
104、キーボード112、マウス114およびキーボ
ード・マウスコントローラ116等を含む入力装置11
0、ビデオカードアダプタ122,VRAM124、D
AC/LDAC126、表示装置128、CRT130
等を含む表示部120、オーディオコントローラ14
2、アンプ144、スピーカ146およびマイク148
等を含む音声入出力部140、ROM150、シリアル
ポート152、パラレルポート154、タイマ156、
通信用カードアダプタ158、FDC162およびFD
D164等を含むFD部160、および、IDE/SC
SIコントローラ172、HDD174、CD−ROM
176、DVD178およびMO180等を含む記録部
170が、バス100を介して相互に接続されて構成さ
れる。
【0035】つまり、コンピュータ1は、一般的なコン
ピュータの構成をとり、HDD174等に記録されたオ
ペレーティングシステム(図示せず)、圧縮・マーキン
グ処理プログラム2(図2を参照して後述する)および
伸長・マーク除去プログラム3(図3を参照して後述す
る)等を、メインメモリ104にロードして実行し、本
発明にかかるマーキング処理およびマーク除去処理を実
現する。
【0036】[圧縮・マーキング処理プログラム2]図
2は、本発明にかかるマーキング処理を実現する圧縮・
マーキング処理プログラム2の構成を示す図である。図
2に示すように、圧縮・マーキング処理プログラム2
は、DCT部24、マーキング処理部20、データベー
ス部22、符号化部26から構成される。圧縮・マーキ
ング処理プログラム2は、これらの構成部分により、可
視マークの鍵(キー)、透かし情報およびドットパター
ン等に従い、例えば、非圧縮RGB画像データの画素値
それぞれを変更して、除去可能な可視マークを非圧縮画
像データに付加し、非圧縮の配信データとして出力す
る。あるいは、圧縮・マーキング処理プログラム2は、
これらの構成部分により、図2中に点線で示すように、
非圧縮画像データに対して離散的余弦変換(DCT)処
理を行い、可視マークの鍵、透かし情報およびドットパ
ターン等に従い、DCT処理により得られたDCT係数
それぞれを変更して、除去可能な可視マークをDCT係
数に付加し、さらに符号化して圧縮処理し、JPEG形
式の配信データとして出力する。
【0037】[DCT部24]DCT部24は、図2中
に点線で示すように、圧縮・マーキング処理プログラム
2がJPEG方式により画像データを圧縮処理するとと
もに、可視マークを付して出力する場合に動作し、記録
部170(図1)にMO、DVD等の記録媒体に記録さ
れて、あるいは、通信アダプタカード158に接続され
た通信回線(図示せず)を介して外部から供給される非
圧縮画像データを離散的余弦変換(DCT)処理および
量子化処理して、処理の結果として得られた例えば8ビ
ット(正常範囲は0〜255)のDCT係数をマーキン
グ処理部20に対して出力する。
【0038】[データベース部22]データベース部2
2は、可視マーク付加に必要な透かし情報およびドット
パターンと、入力部10(図1)に対するユーザの操作
により指定される鍵とを記録部170(図1)等に記憶
し、記憶したこれらのデータをマーキング処理部20に
対して供給する。
【0039】[マーキング処理部20]マーキング処理
部20は、外部から供給される非圧縮画像データ(例え
ば色要素が8ビットのRGB画像データ)の画素それぞ
れ、または、DCT部24から入力されるDCT係数そ
れぞれ(以下、画素の色要素またはDCT係数を、単に
「画像データ」と簡略化して記載する)に対して、デー
タベース部22から供給される鍵、透かし情報およびド
ットパターンに従って、下に示すマーキング処理および
マークビット処理を行い、配信データとして記録部17
0のMO・DVD等の記録媒体に記録し、あるいは、通
信用アダプタカード158を介して外部の通信回線に対
して伝送する。
【0040】[マーキング処理]マーキング処理部20
は、データベース部22から入力された透かし情報およ
びドットパターンが、可視マークを付すべきことを示す
画像データそれぞれが、可視マークを付加した後に正常
な範囲(8ビットデータの場合、0〜255)内の値を
とるか否かを判断し、値が正常な範囲内になる画像デー
タ(第1の画像データ)に対してのみ可視マークを付加
する。
【0041】データベース部22から入力された透かし
情報およびドットパターンが、可視マークを付すべきこ
とを示す画像データであっても、可視マークを付加した
後に正常な範囲外の値をとる場合には、マーキング処理
部20は、この画像データ(第2の画像データ)に対し
て可視マークを付加しない。第2の画像データに可視マ
ークを付加しない理由は、上述したように、第2の画像
データに可視マークを付加して表示すると、表示の際に
可視マークが意図された色にならない一方、可視マーク
を付加した画像データを正常な範囲の値に制限すると、
可視マークが除去不可能になるからである。
【0042】[マークビット処理]図3および図4は、
図2に示したマーキング処理部20によるマークビット
処理を示す第1および第2の図である。マーキング処理
部20は、図3に示すように、画像データに不使用のビ
ットがない場合には、画像データの最下位ビット(LS
B)をマークビットとして使用し、透かし情報およびド
ットパターンが可視マークを付加すべきことを示し、実
際に可視マークが付加される画像データ(上記第1の画
像データ)のマークビットに、可視マークが付加されて
いることを示す値1をセットする。また、マーキング処
理部20は、透かし情報およびドットパターンが可視マ
ークを付加すべきことを示しているが、実際に可視マー
クが付加されない画像データ(上記第2の画像データ)
のマークビットに、可視マークが付加されていないこと
を示す値0をセットする。また、マーキング処理部20
は、第1の画像データでも、第2の画像データでもない
他の画像データのマークビットに対して操作を行わず、
そのままの値とする。
【0043】あるいは、マーキング処理部20は、図4
に示すように、nビットの画像データにm(m>1)ビ
ットの不使用ビットがある場合には、これらの不使用ビ
ットをマークビットとして使用し、上記第1の画像デー
タのマークビットを、可視マークが付加されていること
を示す値をセットし、上記第2の画像データのマークビ
ットに、可視マークが付加されていないことを示す他の
値をセットする。
【0044】[符号化部26]符号化部26は、圧縮・
マーキング処理プログラム2が可視マークを付加したJ
PEG形式の画像データを配信で得たとして生成する場
合に動作し、マーキング処理部20から入力される可視
マークが付されたDCT係数を符号化し、JPEG形式
の配信データとして、記録部170内の記録媒体に記録
し、あるいは、通信アダプタカード158を介して通信
回線に対して送信することにより、外部に配信する。
【0045】[伸長・マーク除去プログラム3]図5
は、本発明にかかるマーク除去処理を実現する伸長・マ
ーク除去プログラム3の構成を示す図である。図5に示
すように、伸長・マーク除去プログラム3は、復号部3
4、マーク除去部30、データベース部32およびID
CT部36から構成される。伸長・マーク除去プログラ
ム3は、これらの構成部分により、可視マークの鍵、透
かし情報およびドットパターンに基づいて、圧縮・マー
キング処理プログラム2(図2)が生成し、記録部17
0内の記録媒体、あるいは、通信用アダプタカード15
8に接続された通信回線を介して外部から配信された非
圧縮の配信データから可視マークを除去し、オリジナル
の画像データとして出力する。
【0046】あるいは、伸長・マーク除去プログラム3
は、圧縮・マーキング処理プログラム2が生成し、外部
から配信されるJPEG形式の圧縮配信データを復号し
てDCT係数を求め、可視マークの鍵、透かし情報およ
びドットパターンに基づいて、求めたDCT係数に付さ
れた可視マークを除去し、さらに、可視マークを除去し
たDCT係数に対して逆量子化処理および逆離散的余弦
変換(IDCT)処理を行い、オリジナルの画像データ
として出力する。
【0047】[復号部34]復号部34は、伸長・マー
ク除去プログラム3がJPEG形式の圧縮配信データか
らオリジナルの画像データを生成する場合にのみ動作
し、JPEG形式の配信データを復号し、DCT係数と
してマーク除去部30に対して出力する。
【0048】[データベース部32]データベース部3
2は、可視マーク除去に必要な透かし情報およびドット
パターンを記憶し、記憶したこれらのデータと、画像デ
ータの正当な使用権を得たユーザが指定する鍵とをマー
ク除去部30に供給する。
【0049】[マーク除去部30]マーク除去部30
は、外部から入力される非圧縮の配信データ、あるい
は、復号部34から入力されるJPEG形式の圧縮配信
データから可視マークを除去し、得られた画素をオリジ
ナルの画像データとして出力し、あるいは、得られたD
CT係数をIDCT部36に対して出力する。
【0050】[マーク除去処理]マーク除去部30は、
マークが付加された状態の非圧縮配信データまたはDC
T係数(以下、これらを単に「画像データ」とも記す)
の内、データベース部32から入力されるドットパター
ンおよび透かし情報が可視マークが付加されていること
を示す画像データのマークビット(図3,4)をチェッ
クし、マークビットが可視マークが付加されていること
を示す場合には、鍵、ドットパターンおよび透かし情報
を用いて可視データを除去して、外部またはIDCT部
36に対して出力する。あるいは、マーク除去部30
は、データベース部32から入力されるドットパターン
および透かし情報が可視マークが付加されていることを
示しているが、マークビット(図3,4)が、その画像
データに可視マークが付加されていないことを示す場合
には、画像データを除去せずに表示部12(図1)、外
部またはIDCT部36に対して出力する。
【0051】画像データに不使用ビットがない場合(図
3)、マーク除去処理により、画像データに最大、LS
B1ビット分の誤差が生じるが、この程度の誤差は視覚
上大きな影響を与えない。また、画像データの不使用ビ
ットをマークビットとして用いた場合(図4)には、マ
ーク除去処理により誤差は発生しない。
【0052】[IDCT部36]IDCT部36は、伸
長・マーク除去プログラム3が圧縮配信データからオリ
ジナルの画像データを生成する場合にのみ動作し、マー
ク除去部30から入力されるDCT係数を逆離散的余弦
変換(IDCT)処理し、オリジナル画像データとして
表示部12または外部に出力する。
【0053】[圧縮・マーキング処理プログラム2の動
作]以下、図6をさらに参照して、非圧縮画像データを
処理する場合を具体例に、図2に示した圧縮・マーキン
グ処理プログラム2のマーキング処理部20のマーキン
グ処理を説明する。図6は、図2に示したマーキング処
理部20のマーキング処理(S20)を示すフローチャ
ートである。図6に示すように、ステップ200(S2
00)において、ステップ圧縮・マーキング処理プログ
ラム2のマーキング処理部20は、外部あるいはDCT
部24から画像データの供給を受ける。
【0054】ステップ202(S202)において、マ
ーキング処理部20は、データベース部22から入力さ
れる可視マークのドットパターンと、透かし情報に含ま
れる位置およびスケール情報に基づいて、供給された画
像データから可視マークを付加する画像データを取り出
す。
【0055】ステップ204(S204)において、マ
ーキング処理部20は、データベース部22から入力さ
れる鍵と、透かし情報に含まれる輝度情報とに基づい
て、画像データに付加する可視マークの値を計算する。
【0056】ステップ206(S206)において、マ
ーキング処理部20は、透かし情報に含まれる色情報に
基づいて、可視マークを付加するために操作する色要素
を決定する。
【0057】ステップ208(S208)において、マ
ーキング処理部20は、可視マークを付加した後の画像
データの値が正常な範囲内であるか否かを判断し、正常
な範囲内である場合にはS210の処理に進み、これ以
外の場合にはS214の処理に進む。
【0058】ステップ210(S210)において、マ
ーキング処理部20は、上述したように画像データの色
要素を変更する。
【0059】ステップ212(S212)において、マ
ーキング処理部20は、可視マークを付加した画像デー
タのマークビット(図3,4)を、この画像データに可
視マークが付加されていることを示す値にセットする。
【0060】ステップ214(S214)において、マ
ーキング処理部20は、可視マークを付加しない画像デ
ータのマークビット(図3,4)を、この画像データに
可視マークが付加されていないことを示す値にセットす
る。
【0061】ステップ216(S216)において、マ
ーキング処理部20は、可視マークの付加処理が、S2
00の処理において得た画像データの全てに対して終了
したか否かを判断し、終了していない場合には、S20
2に戻って次の画像データに対する可視マークの付加処
理に進み、これ以外の場合には可視マークを付加した画
像データを出力する(S218)。
【0062】[伸長・マーク除去プログラム3の動作]
以下、図7をさらに参照して、非圧縮画像データを処理
する場合を具体例に、図5に示した伸長・マーク除去プ
ログラム3のマーク除去部30のマーク除去処理を説明
する。図7は、図5に示したマーク除去部30のマーク
除去処理(S30)を示すフローチャートである。図7
に示すように、ステップ300(S300)において、
マーク除去部30は、圧縮・マーキング処理プログラム
2(図2)のマーキング処理(図6)により可視マーク
が付加された画像データを得る。
【0063】ステップ302(S302)、マーク除去
部30は、データベース部32から入力される可視マー
クのドットパターンと、透かし情報に含まれる位置およ
びスケール情報に基づいて、供給された画像データから
可視マークを除去する画像データを取り出す。
【0064】ステップ304(S304)において、マ
ーク除去部30は、データベース部32から入力される
鍵と、透かし情報に含まれる輝度情報とに基づいて、画
像データから除去する可視マークの値を計算する。
【0065】ステップ306(S306)において、マ
ーク除去部30は、透かし情報に含まれる色情報に基づ
いて、可視マークを除去するために操作する色要素を決
定する。
【0066】ステップ308(S308)において、マ
ーク除去部30は、画像データのマークビット(図3,
4)が、その画像データに可視マークが付加されている
ことを示す場合には、S306の処理により決定された
色要素に対して可視マークを除去する操作を行う。
【0067】ステップ310(S310)において、可
視マーク除去処理が、S300の処理において得た画像
データの全てに対して終了したか否かを判断し、終了し
ていない場合には、S302に戻って次の画像データに
対する可視マークの除去処理に進み、これ以外の場合に
は、可視マークを除去した画像データを出力する。
【0068】なお、本発明は、どのようなデータに対し
ても応用可能である。本発明を用いることにより、どの
ようなデータに対してもある意味をもった別なデータ
(情報)を元のデータに対して影響をできるだけ少なく
してセットし、データと一緒についてまわる情報はデー
タさえあればいつでもとることができようにすることが
でき、さらに、その情報によってデータごとにいろいろ
な操作をすることができる。
【0069】
【発明の効果】以上説明したように、本発明にかかるマ
ーキング処理装置およびその方法によれば、値が所定の
範囲を超えると、表示したときにその品質が大きく変化
してしまうデータに対しても、意図通りにマーキングを
行うことができ、また、本発明にかかるマーク除去装置
およびその方法によれば、上記マーキング処理装置およ
びその方法によりマーキング処理されたデータからマー
クを除去することができる。
【0070】また、特定的には、本発明にかかるマーキ
ング処理装置およびその方法によれば、値が一定の範囲
外になると、色が反転する等の品質劣化が生じる画像デ
ータに対し、可視マークを、意図通り、しかも美しく付
加することができ、また、本発明にかかるマーク除去装
置およびその方法によれば、このマーキング処理装置お
よびその方法によりマーキング処理された画像データか
らマークを除去することができる。
【図面の簡単な説明】
【図1】本発明にかかるマーキング処理およびマーク除
去処理を実現するコンピュータの構成を示す図である。
【図2】本発明にかかるマーキング処理を実現する圧縮
・マーキング処理プログラムの構成を示す図である。
【図3】図2に示したマーキング処理部によるマークビ
ット処理を示す第1の図である。
【図4】図2に示したマーキング処理部によるマークビ
ット処理を示す第2の図である。
【図5】本発明にかかるマーク除去処理を実現する伸長
・マーク除去プログラムの構成を示す図である。
【図6】図2に示したマーキング処理部のマーキング処
理(S20)を示すフローチャートである。
【図7】図5に示したマーク除去部のマーク除去処理
(S30)を示すフローチャートである。
【符号の説明】
1・・・コンピュータ 100・・・バス 102・・・メインCPU 104・・・メインメモリ 110・・・入力部 112・・・キーボード 114・・・マウス 116・・・キーボード・マウスコントローラ 120・・・表示部 122・・・ビデオカードアダプタ 124・・・VRAM 126・・・DAC/LDAC 128・・・表示装置 130・・・CRT130 140・・・音声入出力部 142・・・オーディオコントローラ 144・・・アンプ 146・・・スピーカ 148・・・マイク 150・・・ROM 152・・・シリアルポート 154・・・パラレルポート 156・・・タイマ 158・・・通信用カードアダプタ 160・・・FD部 162・・・FDC 164・・・FDD 170・・・記録部 172・・・IDE/SCSIコントローラ 174・・・HDD 176・・・CD−ROM 178・・・DVD 180・・・MO 2・・・圧縮・マーキング処理プログラム 20・・・マーキング処理部 22・・・データベース部 24・・・DCT部 26・・・符号化部 3・・・伸長・マーク除去プログラム 30・・・マーク除去部 32・・・データベース部 34・・・復号部 36・・・IDCT部
フロントページの続き (56)参考文献 特開 平8−241403(JP,A) 特開 平10−208026(JP,A) Toward Online Wor ldwide Access to V atican Library Mat erials,IBM Journal of Research and D evelopment,1986年,Vo l.40,No.2 Protecting Digita l Media Content,Co mmun,ACM,1998年,Vol. 41,No.7,pages 35−43 Protecting public ly−available image s with a visible i mage watermark,Pro ceeding of PSIE:Op tical Security and Counterfeit Deter rence Techniques, 1996年,Vol.2659,pages 126−133 (58)調査した分野(Int.Cl.7,DB名) H04N 1/387

Claims (14)

    (57)【特許請求の範囲】
  1. 【請求項1】表示可能な複数の要素データから構成され
    可表示データ対して、人間の五感により感じられる
    可感データを埋め込んでマーキング処理するマーキング
    処理装置であって、前記可表示データのうち、 マーキング処理された場合に
    その値が所定の正常の範囲内になる前記要素データに対
    してのみ、対応する前記可感データを埋め込んでマーキ
    ング処理を行うマーキング処理手段と、 マーキング処理された前記可表示データの要素データ
    に、マーキング処理されたことを示す第1の情報をセッ
    する第1の情報付加手段と、 マーキング処理されなかった前記可表示データの要素デ
    ータに、マーキング処理されていないことを示す第2の
    情報をセットする第2の情報付加手段とを有するマーキ
    ング処理装置。
  2. 【請求項2】前記可表示データの要素データは、表示可
    能な画像を構成する画素データであって、前記可感デー
    は、対応する前記画素データに埋め込まれて表示され
    ると視覚により感じられる可視マークデータであって、 前記マーキング処理手段は、マーキング処理された場合
    にその値がオーバーフローを生じない所定の範囲内にな
    る前記画素データに対してのみ、対応する前記可視マー
    クデータを埋め込んでマーキング処理を行、 請求項1に記載のマーキング処理装置。
  3. 【請求項3】前記第1の情報付加手段は前記画素デー
    タの所定のビットを、マーキング処理されたことを示す
    所定の値にすることにより、前記第1の情報をセット
    、 前記第2の情報付加手段は前記画素データの前記所定
    のビットを、前記所定の値以外の値にすることにより、
    前記第2の情報をセットする請求項2に記載のマーキン
    グ処理装置。
  4. 【請求項4】人間の五感により感じられる可感データが
    埋め込まれることにより一部または全部がマーキング処
    理された複数の要素データから構成される可表示データ
    から、前記可感データを除去するマーク除去装置であっ
    て、マーキング処理された前記可表示データには、前記
    要素データごとにマーキング処理されたことを示す情報
    がセットされており、前記情報がセットされている前記要素データを決定する
    手段と、 前記可表示データのうち、 前記情報がセットされている
    前記要素データから、埋め込まれた前記可感データを除
    去する手段と、 を有する マーキング除去装置。
  5. 【請求項5】前記可表示データの要素データは、表示可
    能な画像を構成する画素データであって、前記可感デー
    タそれぞれは、対応する前記画素データに埋め込まれて
    表示されると視覚により感じ取られうる可視マークデー
    タである、 請求項4に記載のマーキング除去装置。
  6. 【請求項6】前記情報は前記画素データの所定のビッ
    トをマーキング処理されたことを示す所定の値にするこ
    とにより、前記画素データにセットされ、マーキング処
    理されていない前記画素データの前記所定のビットは、
    前記所定の値以外の値にされており、 前記除去手段が、 前記所定のビットが、前記所定の値を
    とる前記可表示データの要素データから、前記可視マー
    クデータを除去する請求項5に記載のマーキング除去装
    置。
  7. 【請求項7】表示可能な複数の要素データから構成され
    可表示データ対して、人間の五感により感じられる
    可感データを埋め込んでマーキング処理するマーキング
    処理方法であって、前記可表示データのうち、 マーキング処理された場合に
    その値が所定の正常の範囲内になる前記要素データに対
    してのみ、対応する前記可感データを埋め込んでマーキ
    ング処理を行うマーキング処理し、 マーキング処理された前記可表示データの要素データ
    に、マーキング処理されたことを示す第1の情報をセッ
    し、 マーキング処理されなかった前記可表示データの要素デ
    ータに、マーキング処理されていないことを示す第2の
    情報をセットするマーキング処理方法。
  8. 【請求項8】人間の五感により感じられる可感データが
    埋め込まれることにより一部または全部がマーキング処
    理された複数の要素データから構成される可表示データ
    から、前記可感データを除去するマーク除去方法であっ
    て、マーキング処理された前記可表示データには、前記
    要素データごとにマーキング処理されたことを示す情報
    がセットされており、前記情報がセットされている前記要素データを決定する
    ステップと、 前記可表示データのうち、 前記情報がセットされている
    前記要素データから、埋め込まれた前記可感データを除
    去するステップと、 を有する マーキング除去方法。
  9. 【請求項9】表示可能な複数の要素データから構成され
    可表示データ対して、人間の五感により感じられる
    可感データを埋め込んでマーキング処理するマーキング
    処理装置において、前記可表示データのうち、 マーキング処理された場合に
    その値が所定の正常の範囲内になる前記要素データに対
    してのみ、対応する前記可感データを埋め込んでマーキ
    ング処理を行うマーキング処理ステップと、 マーキング処理された前記可表示データの要素データ
    に、マーキング処理されたことを示す第1の情報をセッ
    する第1の情報付加ステップと、 マーキング処理されなかった前記可表示データの要素デ
    ータに、マーキング処理されていないことを示す第2の
    情報をセットする第2の情報付加ステップと、 をコンピュータに実行させるプログラムを記録した記録
    媒体。
  10. 【請求項10】前記可表示データの要素データは、表示
    可能な画像を構成する画素データであって、前記可感デ
    ータは、対応する前記画素データに埋め込まれて表示さ
    れると視覚により感じられる可視マークデータであっ
    て、 前記マーキング処理ステップにおいて、マーキング処理
    された場合にその値がオーバーフローを生じない所定の
    範囲内になる前記画素データに対してのみ、対応する前
    記可視マークデータを埋め込んでマーキング処理を行
    、 請求項9に記載の記録媒体。
  11. 【請求項11】前記第1の情報付加ステップにおいて
    前記画素データの所定のビットを、マーキング処理され
    たことを示す所定の値にすることにより、前記第1の情
    報をセットし、 前記第2の情報付加ステップにおいて前記画素データ
    の前記所定のビットを、前記所定の値以外の値にするこ
    とにより、前記第2の情報をセットする請求項10に記
    載の記録媒体。
  12. 【請求項12】人間の五感により感じられる可感データ
    埋め込まれることにより一部または全部がマーキング
    処理された複数の要素データから構成される可表示デー
    タから、前記可感データを除去するマーク除去装置にお
    いて、マーキング処理された前記可表示データには、前
    記要素データごとにマーキング処理されたことを示す情
    報がセットされており、前記情報がセットされている前記要素データを決定する
    ステップと、 前記可表示データのうち、 前記情報がセットされている
    前記要素データから、埋め込まれた前記可感データを除
    ステップと、 をコンピュータに実行させるプログラムを記録した記録
    媒体。
  13. 【請求項13】前記可表示データの要素データは、表示
    可能な画像を構成する画素データであって、前記可感デ
    ータそれぞれは、対応する前記画素データに埋め込まれ
    表示されると視覚により感じ取られうる可視マークデ
    ータである、 請求項12に記載の記録媒体。
  14. 【請求項14】前記情報は前記画素データの所定のビ
    ットをマーキング処理されたことを示 所定の値にする
    ことにより、前記画素データにセットされ、マーキング
    処理されていない前記画素データの前記所定のビット
    は、前記所定の値以外の値にされており、 前記 除去ステップにおいて、前記所定のビットが、前記
    所定の値をとる前記可表示データの要素データから、前
    記可視マークデータを除去する請求項13に記載の記録
    媒体。
JP01479999A 1999-01-22 1999-01-22 マーキング処理装置、マーク除去装置およびこれらの方法 Expired - Fee Related JP3373799B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP01479999A JP3373799B2 (ja) 1999-01-22 1999-01-22 マーキング処理装置、マーク除去装置およびこれらの方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP01479999A JP3373799B2 (ja) 1999-01-22 1999-01-22 マーキング処理装置、マーク除去装置およびこれらの方法

Publications (2)

Publication Number Publication Date
JP2000224402A JP2000224402A (ja) 2000-08-11
JP3373799B2 true JP3373799B2 (ja) 2003-02-04

Family

ID=11871107

Family Applications (1)

Application Number Title Priority Date Filing Date
JP01479999A Expired - Fee Related JP3373799B2 (ja) 1999-01-22 1999-01-22 マーキング処理装置、マーク除去装置およびこれらの方法

Country Status (1)

Country Link
JP (1) JP3373799B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE60239718D1 (de) 2001-02-09 2011-05-26 Canon Kk Informationsverarbeitungsgerät und seine Steuerverfahren, Computerprogramm, und Speichermedium
JP3977216B2 (ja) * 2001-09-27 2007-09-19 キヤノン株式会社 情報処理装置及び方法及び情報処理プログラム及び記憶媒体
KR100491029B1 (ko) * 2002-03-30 2005-05-24 연세대학교 산학협력단 디지털 비디오의 인증 및 조작 위치 파악을 위한 워터마크삽입 및 검출 방법
JP6264097B2 (ja) * 2014-02-28 2018-01-24 大日本印刷株式会社 印刷機、印刷システム及びプログラム

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
Protecting Digital Media Content,Commun,ACM,1998年,Vol.41,No.7,pages 35−43
Protecting publicly−available images with a visible image watermark,Proceeding of PSIE:Optical Security and Counterfeit Deterrence Techniques,1996年,Vol.2659,pages 126−133
Toward Online Worldwide Access to Vatican Library Materials,IBM Journal of Research and Development,1986年,Vol.40,No.2

Also Published As

Publication number Publication date
JP2000224402A (ja) 2000-08-11

Similar Documents

Publication Publication Date Title
JP3201347B2 (ja) 画像属性変更装置と電子透かし装置
JP3881794B2 (ja) 電子透かしの埋め込み方法およびその復号方法
JP3813387B2 (ja) 情報埋込方法および装置並びに記録媒体
JP3214555B2 (ja) 電子透かし挿入装置
JP3946909B2 (ja) 第1デジタル画像と第2デジタル画像とを1つの復号デジタル画像へと複合する方法
US7545938B2 (en) Digital watermarking which allows tampering to be detected on a block-specific basis
JPH10224793A (ja) 画像データエンコードシステム
JP2009503948A (ja) 媒体識別のための隠されたロバストなマーク
KR19980069987A (ko) 화상 검증용 인비지블 화상 워터마크
JP2002101288A (ja) 画像伝送システム及び方法並びに記録媒体
US20110002551A1 (en) Compressive coding device and visual display control device
JPH10243398A (ja) 動画像エンコードプログラムを記録した記録媒体及び動画像エンコード装置
JP2000228721A (ja) 透かしの挿入及びデジタル信号の認証方法
JP3853541B2 (ja) データ配信方法
CA2226719C (en) Image data illegal use prevention system
JP3373799B2 (ja) マーキング処理装置、マーク除去装置およびこれらの方法
US7286668B2 (en) Method of protecting copyright of digital video work
JP3269014B2 (ja) 統計的性質を用いたデータ・ハイディング方法及びシステム
JP3164215B2 (ja) デジタルカメラおよび画像改竄検出システム
JP2000358154A (ja) 透かしマークの可視度を調整可能な電子透かし
JP3098513B1 (ja) 改変判定装置およびその方法
Kim et al. Digital watermarking based on color differences
JP3548096B2 (ja) 改変判定装置およびその方法
JP3269442B2 (ja) 画像データの不正流用防止システム
JP3722002B2 (ja) 電子透かし情報埋め込み装置、電子透かし情報再生装置及び記録媒体

Legal Events

Date Code Title Description
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20071122

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081122

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081122

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091122

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091122

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101122

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101122

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111122

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111122

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121122

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121122

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131122

Year of fee payment: 11

LAPS Cancellation because of no payment of annual fees