JP3958128B2 - 画像処理装置及び方法、並びにコンピュータプログラム及びコンピュータ可読記憶媒体 - Google Patents

画像処理装置及び方法、並びにコンピュータプログラム及びコンピュータ可読記憶媒体 Download PDF

Info

Publication number
JP3958128B2
JP3958128B2 JP2002191126A JP2002191126A JP3958128B2 JP 3958128 B2 JP3958128 B2 JP 3958128B2 JP 2002191126 A JP2002191126 A JP 2002191126A JP 2002191126 A JP2002191126 A JP 2002191126A JP 3958128 B2 JP3958128 B2 JP 3958128B2
Authority
JP
Japan
Prior art keywords
pixel
value
noise
image
multiplexed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2002191126A
Other languages
English (en)
Other versions
JP2004040234A (ja
JP2004040234A5 (ja
Inventor
友近 村上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2002191126A priority Critical patent/JP3958128B2/ja
Priority to US10/600,582 priority patent/US7197162B2/en
Publication of JP2004040234A publication Critical patent/JP2004040234A/ja
Publication of JP2004040234A5 publication Critical patent/JP2004040234A5/ja
Application granted granted Critical
Publication of JP3958128B2 publication Critical patent/JP3958128B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/0021Image watermarking
    • G06T1/0092Payload characteristic determination in a watermarking scheme, e.g. number of bits to be embedded
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/0021Image watermarking
    • G06T1/0028Adaptive watermarking, e.g. Human Visual System [HVS]-based watermarking
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2201/00General purpose image data processing
    • G06T2201/005Image watermarking
    • G06T2201/0051Embedding of the watermark in the spatial domain
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2201/00General purpose image data processing
    • G06T2201/005Image watermarking
    • G06T2201/0061Embedding of the watermark in each block of the image, e.g. segmented watermarking
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2201/00General purpose image data processing
    • G06T2201/005Image watermarking
    • G06T2201/0083Image watermarking whereby only watermarked image required at decoder, e.g. source-based, blind, oblivious
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2201/00General purpose image data processing
    • G06T2201/005Image watermarking
    • G06T2201/0203Image watermarking whereby the image with embedded watermark is reverted to the original condition before embedding, e.g. lossless, distortion-free or invertible watermarking

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Image Processing (AREA)
  • Television Signal Processing For Recording (AREA)
  • Television Systems (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、画像の著作権保護、画像の改竄防止等のために、画像に目視可能な可視の副次的な画像形状情報を埋め込む画像処理装置及び方法、並びに、コンピュータプログラム及びコンピュータ可読記録媒体に関するものである。
【0002】
【従来の技術】
画像をデジタルデータとして扱うデジタル画像には、従来のアナログ画像と比較して、コンピュータ等によって画質を劣化すること無く簡単にコピーでき、通信回線を通じて電送することができるという特徴がある。しかし、その一方で、このような特徴により、著作権等に絡むデジタル画像が安易に不正コピーされ再配布されることにもなる。
【0003】
これを防ぐための方法の一つとして電子透かしと呼ばれる手法がある。電子透かしには、大きく分類して著作権情報、ユーザ情報等の透かし情報を目に見えない形で埋め込む不可視型と、画像上に著作権を保有する会社のロゴ等の透かし画像を積極的に目に見える形で形成する可視型とがある。
【0004】
不可視型の電子透かしでは、透かし情報が埋め込まれているということが、埋め込み画像を一見しただけでは認識できない、或いは認識し難い。このため、透かし情報の削除は行われにくいものの、不正コピー、不正配布は可視型に比べ行われ易い。但し、例えデジタル画像が不正にコピー又は配布された場合であっても、そのデジタル画像中には透かし情報が残っているので、透かし情報として埋め込まれたユーザID等により、不正ユーザを特定することができる。
【0005】
一方、可視型電子透かしでは、透かし情報は、デジタル画像上に目で見える形で書き込まれているので、そのままでは利用し辛く、不正コピーや不正配布を思いとどまらせる効果がある。可視型の電子透かしの埋め込み方法として、従来、著作権所有者のロゴ等の著作情報を表した画像の画素値を、原画像の画素値と置き換えることにより、著作情報を原画像に埋め込むという手法がよく用いられてきた。この手法の欠点としては、原画像の画素値が失われるため、差分情報なしには原画像を復元できないことが挙げられる。
【0006】
そのため、従来の可視型電子透かし埋め込み手法においては、原画像を復元する場合、置き換えた画素値を再取得する必要があり、実際には原画像を再取得するのと同じであり、鍵情報が大きくなるという欠点があった。
【0007】
【発明が解決しようとする課題】
特開2000−184173では、可視型電子透かしを埋め込みたい位置において、画素の全てまたは一部のビットと埋め込みシリアル系列の間で演算処理(暗号化)を行い、可視の透かし画像形状情報を画像に埋め込む方法が提案されている。上記手法に基づき、完全に可逆な可視の電子透かしを実現可能である。しかし、上記の文献においては、十分に画質が考慮されているとは言えない。
【0008】
また、特開平8−256321では、JPEGまたはMPEG圧縮符号化方式で圧縮符号化された画像のビット列の一部分を抽出し、その抽出部分以外を参照せずに、独立に定義された変換方式によって、抽出されたビット列を直接変換し、書き戻す方法が提案されている。この技術は通称、「半開示」と呼ばれ、開示する画像情報の画質をコントロールした状態でユーザに提供できる。
【0009】
しかしながら、上記方法は元の画像の特徴を保存するものの、スクランブル(暗号化)の一種であり、やはり、電子透かしが埋め込まれた後の画像に対して十分に画質が考慮されているとは言えない。
【0010】
一方、画質を考慮した可視型電子透かしの一手法が、特開平8−241403に記載されている。この文献中では、まず入力画像を均等知覚色空間に変換する。次に、可視型電子透かしを埋め込みたい位置において、線形輝度値を透かしの強度(初期スケール係数)やノイズに応じてスケーリングし、輝度を大きくまたは小さくすることで、可視型電子透かしを埋め込む。しかし、この文献によれば画質はよいと想定されるものの、完全に可逆を実現する方法は述べられていない。
【0011】
本発明は、かかる問題に鑑みなされたものであり、原画像に可逆ノイズを多重化させることで、可視可能な付加情報を埋め込むと共に、そのノイズ多重化した部分においても原画像が持つ特性が十分に反映させ、以って自然で違和感のない付加情報を多重化する画像処理装置及び方法、並びにコンピュータプログラム及びコンピュータ可読記憶媒体を提供しようとするものである。
【0012】
また、他の発明は、付加情報を除去することでオリジナル画像、もしくはオリジナル画像に近い画像まで復元することが可能な画像処理装置及び方法、並びにコンピュータプログラム及びコンピュータ可読記憶媒体を提供しようとするものである。
【0013】
【課題を解決するための手段】
かかる課題を解決するため、例えば本発明の画像処理装置は以下の構成を備える。すなわち、
少なくとも輝度を主成分とする多値画像データにノイズを多重化して、当該ノイズの多重化した分布による目視可能な付加情報を埋め込む画像処理装置であって、
画素単位にノイズを多重化する/しないを示す情報を、前記付加情報として入力する入力手段と、
前記付加情報に基づき、多値画像データ中の注目画素が、ノイズを多重化する位置にあるのか否かを判定する判定手段と、
該判定手段によって前記注目画素がノイズ多重化する位置にあると判定された場合、注目画素の近傍領域の輝度値に基づき、注目画素に加算する加算輝度値を算出する輝度値算出手段と、
算出された加算輝度を注目画素の輝度値に加算する加算手段とを備え、
前記輝度値算出手段は、
前記近傍領域のデータを明度値に変換する第1の変換手段と、
前記注目画素に対して可逆ノイズを多重化するための鍵情報と、前記近傍領域の輝度値に基づき、前記近傍領域に対する明度変更量を算出する変更量算出手段と、
算出された明度変更量を、前記第1の変換手段で変換された明度値に加算する明度加算手段と、
該明度加算手段で得られた明度値を輝度値に変換する第2の変換手段と、
該第2の変換手段で得られた輝度値と、前記近傍領域の輝度値と差分を前記加算輝度値として算出する手段とを備える。
【0014】
【本発明の実施の形態】
以下、添付図面に従って本発明に係る実施形態を詳細に説明する。
【0015】
<前提の説明>
本実施形態においては、可視型電子透かしの埋め込みに用いる成分を、カラー画像を構成する輝度成分とする場合について説明する。輝度成分を操作する場合には、色成分の変化が無い為、人の目には明るさに変化が加わったように見える。従って、可視型電子透かしの埋め込みとしては好適な成分である。
【0016】
しかしながら、可視型電子透かしの埋め込みに用いる成分は輝度成分だけに限らない。R(赤)、G(緑)、B(青)の各成分を、画像の特徴を保存しつつ、可視型電子透かしが人の目に好ましく見えるように、バランスよく操作することも可能である。その他の成分(例えばC(シアン)、M(マゼンダ)、Y(イエロー)等)についても同様である。
【0017】
また、説明を簡単にする為、入力される画像は8ビットグレースケール画像とするが、R(赤)、G(緑)、B(青)やまたは、Y(輝度)、U、V(色差2成分)の色成分から構成される画像においても、本発明の実施の方法で処理可能である。
【0018】
図17は、本実施形態に於いて画像に埋め込む可視型電子透かしを表す透かし画像形状情報の一例である。図示の場合、単純な文字列「ABC、DEF」であるが、透かし画像形状情報としては著作権者のロゴ、画像撮影日時、個人名、企業名、ロゴ、印象的な効果を与える模様等のどのような画像情報になるであろう。また透かし画像形状情報は、画像の関心領域(例えば、医療用画像の患部等)であってもよい。
【0019】
また本発明においては、透かし画像形状情報は、図17のように透かし処理(実施形態ではノイズ付加或いはノイズ多重化)する位置を規定する各画素1ビット(2値)の情報を持つマスク画像(図17では白のアルファベットの領域が可視型電子透かしが埋めこまれる領域を示す)として説明を行う。
【0020】
<第1の実施形態>
以下、本発明の第1の実施形態を図面と共に説明する。
【0021】
図23は実施形態における画像処理を行う情報処理装置のブロック構成図である。図示において、1は装置全体の制御を司るCPUであり、2はブートプログラムやBIOS等を記憶しているROMである。3はCPU1のワークエリアとして使用されるRAMであり、ここにOS、画像処理に係るプログラム等がロードされ、実行されることになる。4はOS、画像処理プログラム、画像データファイル(処理前、処理後を含む)を格納するための外部記憶装置としてのハードディスク装置である。5が画像入力装置であって、例えばイメージスキャナ、デジタルカメラ、画像ファイルを格納している記憶媒体(メモリカードや、フレキシブルディスク、CDROM等)、或いは、ネットワーク上から画像をダウンロードするためのインタフェースであっても構わない。6は、画像を表示したり、各種操作を行うためのGUIを提供する表示装置であり、7はキーボード、8は表示画面上の所望とする位置を指定したり、各種メニューを選択するために用いられるポインティングデバイスである。
【0022】
上記構成における装置に電源が投入され、OSがRAM3上にロードされ、ユーザの指示、或いは、予め自動起動するように設定しておくことで、本実施形態における画像処理プログラムがRAM3にロードされ、実行されることになる。
【0023】
図1は、本発明の第1の実施形態による可逆ノイズ加算装置の処理を示すフローチャートである。
【0024】
同図において、まず、ステップS102の初期状態で、画素位置と画素値で構成される複数の画素からなる原画像Iと、埋め込む画像の形状を示す画素位置からなる透かし画像形状情報Mと、2進数で表現される所定のシリアルビット系列を生成するための乱数キーRと、画素値の中の演算対象となるビット領域を規定した演算ビット領域決定テーブルT_Nと、加算するノイズの強度を定義する可視強度値Sと、近隣画素選択方法NS、近隣画素解析方法NAを設定し、出力画像Wの格納領域を例えばRAM上に確保する。
【0025】
なお、原画像Iは画像入力装置5より直接入力したもので良いし、HDD4に一旦保存した画像ファイルでも構わない。また、画像形状情報Mは、HDD4に予め記憶されているものを利用するものとするが、ユーザが自由に作成しても良い。乱数キーRについては、乱数発生するための関数(プログラム)を実行すればよいし、演算ビット領域決定テーブルTや、可視強度値Sはキーボード等から入力しても良いし、予めこれらをファイルとしてHDDに保存してあるものを採用しても構わない。また、出力画像Wの出力先は、HDD4であるものとする。更に、シリアルビット系列は画像全体で固定としてもよいが、秘匿性を高めるため、乱数キーRに基づき画像の埋め込み位置に応じて変化するものとする。
【0026】
また、このステップS102では、以下の処理に先立ち、原画像I中の特定の画素を順次選択していくが、この選択順は、左上隅を開始位置とし、そこから右水平方向の1ラインをスキャンし、ラインエンドになった場合には、次のライン(2ライン目)の左から右方向へスキャンすることを繰り返し行うものとする。これは、ノイズ除去でも同じであるし、後述する各実施形態でも同様である。
【0027】
さて、ステップS104では、入力画像の未処理の画素を選択する(初期状態では左上隅になる)。ステップS106では、選択した原画像中の画素位置が、透かし画像形状情報のどの位置に相当するか、すなわち、画像形状情報中の“1”(実施形態では図10における白画素位置に埋め込むことは既に説明した)の位置にあるのか否かを判断する。埋め込み(多重化)対象画素であると判断した場合には、ステップS108にその画素位置情報を送り、画像形状情報の“1”以外の位置、すなわち、“0”の位置にあると判断した場合には、その画素についての処理を終了する。
【0028】
ステップS108に処理が進んだ場合、初期設定で設定された近傍領域選択方法NSに基づき、埋め込み対象画素の近傍領域を決定する。次に同じく初期設定で設定された近隣解析方法NAに従い、近傍領域内の画素値を解析し、近傍領域解析値を生成する。ここで、近傍領域解析値は、近傍領域から得られる埋め込み対象画素の予測値である近傍領域画素値と、近傍領域の周波数的特性等を含む近傍領域特性値で構成されるものである(詳細は後述)。
【0029】
次にステップS110では、ステップS108で生成した近傍領域解析値や可視強度値Sに基づき、ステップS112の演算処理で処理対象となる演算ビット領域を決定する。
【0030】
ステップS112では、ステップS110で決定された演算ビット領域のビットとステップS102の初期設定で入力される乱数キーRから生成されるシリアルビット系列の間で演算処理を行う。このとき演算は可逆の処理である必要がある。実施形態では、この演算処理として排他的論理和演算処理を採用するが、モジュロ加算、モジュロ乗算等の可逆な演算は全て含まれる。
【0031】
次にステップS114では、出力画像Wに対応する入力画素のビット領域の値を処理された演算ビット領域の値で書き込む、書き込み処理を実行する。
【0032】
次にステップS116では全ての画素が処理されたかを判定し、未処理の画素があるならステップS104に戻り、前述の処理を全ての画素が終了するまで続行する。
【0033】
以上、本実施形態における可逆ノイズ加算処理の概要を述べた。
【0034】
図2は本実施形態における、演算処理で行われる操作の一例を図的に示したものである。202は入力画素値、204は乱数キーRから生成されるシリアルビット系列、206は入力画素とシリアルビット系列の対応するビット位置の排他的論理和(XOR)、208は演算処理後の出力画素、太枠で囲まれたビット位置は演算ビット領域を示す。
【0035】
シリアルビット系列204は画素を復号化する際の鍵にもなる。なお演算ビット領域以外に対応するシリアルビット系列は必要ない。
【0036】
206の太枠内は、入力画素の演算ビット領域と対応するシリアルビット系列のビット領域を演算処理結果(ここでは排他的論理和)である。
【0037】
208は206の演算処理結果を対応する入力画素の演算ビット領域の値に書き込んだ結果である。
【0038】
図示の場合、演算結果の画素値と原画素値との差(以下でBは2進数を意味する)は、
10011101(B)−10110101(B)
=157−181=−24
となり、着目画素値は「−24」変化したことを意味する。
【0039】
B5,B4,B3,B1,B0(B2が除外されている点に注意されたい)の5ビットが演算ビット領域である場合、演算ビット領域が全て反転すると、最大で 2^5 + 2^4 + 2^3 + 2^1 + 2^0 = 32 + 16 + 8 + 2 + 1 = 59 (x^yはxのy乗を示す)の画素値の変化が実現する。
【0040】
このように演算ビット領域は、埋め込み対象画素における画素値の最大変化量(Δmax)を決定する。本実施形態では、上記の演算ビット領域に属するビット情報を操作することにより、可逆ノイズの埋め込みを行う。従って、演算ビット領域は、付加される可逆ノイズの強度を決める要素となる。本実施形態では、演算ビット領域は、埋め込み対象画素の近隣の単一または複数の画素値から成る近傍領域の解析に基づいて決定される。
【0041】
そこで、次に、近傍領域解析処理、近傍領域解析値について詳細に説明する。
【0042】
本実施形態においては、埋め込み対象画素に可視型電子透かしを埋め込むために隣接画素等から構成される近傍領域の解析に基づいて、演算処理する演算ビット領域を決定する。
【0043】
一般に自然画像では隣接画素の間では画素値に相関が大きい。即ち、隣接する画素位置は、略等しい画素値を備えることが多い。そのため、自然画像では、近隣画素における人の目に知覚可能な変更量は、埋め込み対象画素における人の目に知覚可能な変更量として適切である。
【0044】
また、人間の輝度の視覚特性は、明るい輝度は輝度の変化が知覚されにくく、暗い輝度は輝度の変化が知覚され易いという非線形な特性がある。
【0045】
本実施形態では、埋め込み対象画素と相関性の高い近隣画素を参照し、尚且つ、人間の視覚特性をも加味し、埋め込み対象画素の最大変化量Δmaxをきめ細かく設定することで、原画像のどの階調(輝度)においてもほぼ同様に知覚されるノイズの加算を実現するものである。
【0046】
以下では、埋め込み対象画素への可逆ノイズの埋め込みの為の演算ビット領域を決める近隣画素で構成される領域を「近傍領域」と呼ぶこととする。
【0047】
この近傍領域を構成する画素は、単一の画素でもよいし、複数の画素でもよい。また近傍領域は、埋め込み対象画素と相関が高いと予想される領域であればよく、必ずしも埋め込み対象画素に隣接している必要はない。
【0048】
また、近傍領域内の画素を解析する場合、画素値だけでなく、近傍領域内の画素値の周波数特性や近傍領域内の画素値の分散等の統計的性質を利用してもよい。
【0049】
更にまた、高周波部分やテクスチャ領域において最大変化量Δmaxを大きく設定した演算領域決定テーブルT_Nを設計すれば、高周波成分から成る領域やテクスチャ領域でも、人の目に均等に認識され易い可逆のノイズを付加することが出来る。
【0050】
次に本実施形態における近傍領域選択解析処理について詳しく説明する。
【0051】
図5は図1のステップS108の近傍領域選択解析処理を実行する近傍領域選択解析部の内部構成を示すブロック図であり、近傍領域選択部502と近傍領域解析部504で構成される。
【0052】
近傍領域選択部502には、画像情報(画素位置、画素値)、埋め込み対象画素の位置情報、近傍領域選択方法NSが入力される。近傍領域選択部502は、前記の入力情報に基づき、近傍領域を決定するが、近傍領域は画像全体で固定でなく、画素位置や所定の鍵情報に従って変化させる形態にしてもよい。
【0053】
近傍領域選択部502は後段の近傍領域解析部504に近傍領域情報(画素の位置、画素値等)を出力する。
【0054】
後段の近傍領域解析部504は、近傍領域情報(画素の位置、画素値等)と近傍領域解析方法NAが入力され、前記の入力情報に基づき、近傍領域の画素値を解析する。そして、近傍領域解析部504は近傍領域解析値(近傍領域画素値と近傍領域特性値)を出力する。
【0055】
次に近傍領域選択解析手段の処理について図を用いて具体的に説明する。
【0056】
図6は8ビットグレースケールの入力画像601と可視型電子透かしが埋め込まれた出力画像602(ノイズ付加後の画像)の一部を図的に示した図である。
【0057】
図6中の太枠で囲まれた画素(画素13a、14a、15a、18a、19a、20a)は、透かし画像形状内(“1”の領域)に相当し、可逆ノイズの埋め込み対象画素である。
【0058】
本実施形態では、画素13aの演算ビット領域は、画素13aの近傍領域に基づいて選択され、その近傍領域はまず、近傍領域選択部502を用いて決定される。
【0059】
説明を簡単なものとするため、実施形態における近傍領域選択部502は、着目画素の左画素とする。従って、今、画素13aがノイズ付加処理を行わせる着目画素とした場合、その左隣の画素12a(画素値112)が近傍領域として選択されることになる。尚、近傍領域として複数の画素領域を選択する場合については、後に説明する。
【0060】
次に近傍領域解析部504に画素12a(画素値112)を入力する。図6では説明を簡単にするため、近傍領域解析部504は、入力画素値「112」をそのまま近傍領域解析値として出力するとする。
【0061】
次に、演算ビット領域決定処理では、前段の近傍領域選択解析処理から得られる近傍領域解析値を元に、埋め込み対象画素13aの演算ビット領域を決定することになる。
【0062】
実施形態の場合、演算ビット領域決定は次のようにして行うものとした。
【0063】
図3はステップS110の演算ビット領域決定処理を実行する、演算ビット領域決定部のブロック図である。
【0064】
演算ビット領域決定部300には、ステップS108の近傍領域選択解析処理から入力される近傍領域解析値302、初期設定で設定された可視強度値S(306)、演算ビット領域決定テーブルT_N304がそれぞれ入力される。
【0065】
演算ビット領域決定部300では、近傍領域解析値302と演算ビット領域決定テーブルT_N304、さらには可視強度値S306とに基づいて、埋め込み対象画素の演算ビット領域を決定し、演算ビット領域情報308として出力する。
【0066】
次に、演算ビット領域決定テーブルT_Nについて説明する。
【0067】
演算ビット領域決定テーブルT_Nは、ステップS110演算ビット領域決定処理で演算ビット領域を決定する際に用いられる参照テーブルである。
【0068】
図4に近傍領域解析値(近傍領域内の画素の画素値)と対応付けられた演算ビット領域決定テーブルT_Nの一例を示す。同図(a)が可視強度S=1の場合のテーブルを示し、同図(b)が可視強度S=2の場合のテーブルを示している。近傍画素領域の値(輝度)が小さいほど、着目画素における演算ビット領域は下位ビットにシフトしていることがわかる。これは、自然画(デジタルカメラやスキャナで読取った階調画像)の場合、着目画素と近傍画素との相関が高い、換言すれば、注目画素とその近傍画素の輝度はほぼ等しい点、更には、人間の輝度の視覚特性は、明るい輝度は輝度の変化が知覚されにくく、暗い輝度は輝度の変化が知覚され易いという非線形な特性を考慮しているためである。
【0069】
図示において401は近傍領域解析値を表し(図4では簡単のために近傍領域画素値のみを表示している)、402は近傍領域解析値に対応する埋め込み対象画素の演算ビット領域(図4ではYが記入されているビット位置が演算ビット領域)を表し、403は演算ビット領域から計算される最大変化量Δmaxを表している。また、「Y」が記されていないビットに対しては変更しない。
【0070】
また、図示の如く、可視強度S=2の場合、可視強度S=1に対し、総じて演算ビット領域はビット位置として下位方向へシフトしていることがわかる。この意味するものは、可視強度S=2の場合には、オリジナル画像に対する変更する割合が少ない、換言すれば、オリジナル画像の画質劣化を抑制するとも言える。
【0071】
上記のように演算ビット領域決定テーブルT_Nは、近傍領域解析値(図4では近傍領域から計算される近傍領域画素値)及び可視強度値Sが演算ビット領域と対応付けられた値を持っている。演算ビット領域決定部300では、上記の可視強度Sに応じて、いずれかの演算ビット領域決定テーブルを選択し、その選択された演算ビット領域決定テーブルT_Nを参照し、入力される近傍領域解析値302及び可視強度値S306に対応する演算ビット領域を読み取り、出力する。
【0072】
最後にステップS112の演算処理では、既に述べた方法で決定された演算ビット領域において、図2に図示したようなシリアルビット系列と演算ビット領域のビットの間でビット演算を実行する。ステップS114の書き込み処理では、ステップS112の演算結果を出力画像の対応する演算ビット領域に書き込む。
【0073】
次に、図7を用いて、本実施形態における可逆ノイズ除去処理の概要を簡単に述べる。なお、装置構成は、ノイズ埋め込みを行う装置と実質的に同じであるので、その詳細は省略する。
【0074】
まず、ステップS702の初期設定で、画素位置と画素値で構成される複数の画素からなる可逆ノイズが埋め込まれた画像Wと、埋め込む画像の形状を示す画素位置からなる透かし画像形状情報Mと、2進数で表現される所定のシリアルビット系列を生成するための乱数キーRと、画素値の中の演算対象となるビット領域を規定した演算ビット領域決定テーブルT_Nと、可視型電子透かしの強度を定義する可視強度値Sを入力し、出力画像Eは入力画像Wと等しくなるように設定する(入力画像Wのコピーを生成し、それを出力画像Eとする)。
【0075】
ここで、透かし画像形状情報Mと乱数キーRと演算ビット領域決定テーブルT_N,可視強度値Sは可逆ノイズを除去する為の鍵情報として利用されることになる。
【0076】
次にステップS704において、入力画像の未処理の画素を選択する。
【0077】
ステップS706では、選択された画素にノイズが多重化されているか否かを、その画素位置が画像形状情報のどの位置にあるのか(0の位置にあるのか、1の位置にあるのか)に基づいて判断する。ノイズ多重化済みの画素でないと判断した場合には、その画素についての処理を終える。
【0078】
一方、ノイズ多重化済みの画素であると判断した場合には、ステップS708に進んで、初期設定で設定された近傍領域選択方法NSに基づき、埋め込み対象画素の近傍領域(実施形態では左隣画素)を決定する。次に同じく初期設定で設定された近傍解析方法NAに従い、近傍領域内の画素値を解析し、近傍領域解析値を生成する。
【0079】
次にステップS710では、ステップS708で生成した近傍領域解析値や可視強度値Sに基づき、ステップ712の演算処理で処理対象となる演算ビット領域を決定する。例えば、可視強度S=1の場合、図4(a)のテーブルを参照することで、近傍領域(左隣画素)の画素値に基づき、着目画素の演算ビット領域を求めることができる。
【0080】
次にステップS712では、ステップS710で決定された演算ビット領域のビットとステップS702の初期設定で入力される乱数キーから生成されるシリアルビット系列の間で逆演算処理を行う。この演算は埋め込み時の演算と対応した逆演算処理(復号処理)である。実施形態の場合、埋め込み時と同じシリアルビットでもって、演算ビット領域について排他的論理和を行うものであるから、当然、その結果、オリジナルの画素値にまで完全復元できるようになる。
【0081】
ステップS714では、入力画素のビット領域の値を処理された演算ビット領域の値を出力画像Eの対応画素に書き込む、書き込み処理を実行する。
【0082】
次のステップ716では、全ての画素が処理されたかを判定し、未処理の画素があるならステップS704に戻り、前述の処理を全ての画素が終了するまで続行する。
【0083】
以上、本実施の形態の可逆ノイズ除去装置の動作について述べた。
【0084】
本実施形態における処理内容は上記の通りであるが、その処理内容を分かりやすくするため、具体例を以下に説明する。
【0085】
完全に可逆のノイズの付加を実現するためには、近傍領域選択方法に関して若干の条件が必要となる。即ち、逆演算時に、埋め込み時に演算処理された演算ビット領域を正しく知る必要がある。従って、近傍領域選択方法は、逆演算時(可逆ノイズ除去時)に演算ビット領域の決定に用いた近傍領域の画素値を参照できるように近傍領域を選択する必要がある。
【0086】
上記の条件を満たすような近傍領域の選択方法は、多数考えられるが、一例として、埋め込み対象画素の左隣を近傍領域として参照し、着目画素に対する可逆ノイズの付加/除去を行う場合が考えた。着目画素の左隣の画素を近傍領域とする場合、その近傍領域は完全にオリジナル画像まで復元されていることが必要になる。この為の手法もいくつか考えられる。1つは、画像形状情報の最左端の縦一列については「0」、すなわち、ノイズ埋め込み対象外とするようにすることであろう。この結果、各ラインについて左から右に向かうノイズ除去を行う場合、先頭の画素はオリジナルのままであるので近傍領域として十分に機能する。また、別な手法としては、各ラインの先頭の画素がノイズ多重化対象とすることを許容した場合、近傍領域は存在しないので、その演算ビット領域を固定することであろう。
【0087】
まず埋め込みから簡単に説明する。図6において、可視強度S=1が設定されており、画素13aが埋め込み対象画素であると判定された場合について説明する。このとき、近傍領域として、左横の画素12a(画素値112)が選択、解析される。その結果、近傍領域解析値の近傍領域画素値が「112」として出力される。
【0088】
次に、決定された演算ビット領域決定テーブルT_N(可視強度S=1であるので、図4(a)のテーブル)を用いて、画素13aの演算ビット領域を決定する。近傍領域の値は「112」であるので、結局のところ、画素13aのB4、B3、B1が演算ビットとして決定されることになる。
【0089】
そして、画素13aの演算ビット領域のビット値とシリアルビット系列の演算処理(排他的論理和)により、画素13a(画素値116)に対して画素値126が計算され、出力画像602の画素13aに画素値126が書き込まれる。
【0090】
次に処理対象は画素14aに進むことになる。このとき、入力画像601の左横の画素13a(変更前の画素値「116」)を参照し、演算ビット領域決定テーブルT_Nを用いて、画素14aの演算ビット領域を決定する。そして、演算ビット領域とシリアルビット系列の演算処理により、画素14a(画素値114)に対して画素値98が計算され、出力画像602の画素14aに画素98が書き込まれる。
【0091】
このようにして、順次、変更される前の左横の画素の画素値を読み出し、可逆ノイズの埋め込みを行っていく。
【0092】
次に上述のようにして埋め込まれた可逆ノイズを除去するステップについて説明する。ノイズ除去する場合、先に説明したように、ノイズ多重化済みの画像、可視強度、画像形状情報、乱数キー等、必要な情報は既に入力しているものとする。
【0093】
まず、画素13a(画素値126)が除去対象画素になった場合について説明する。この場合、その左隣の画素位置までは復元処理が完了していることになることに注意されたい。
【0094】
先ず、近傍領域として出力画像602の左横の復元済みの画素12a(画素値112)が選択、解析される。その結果、近傍領域解析値である近傍領域画素値「112」が出力される。
【0095】
次に、演算ビット領域決定テーブルT_N(可視強度Sで選択される)を用いて、画素13aの演算ビット領域を決定する。そして演算ビット領域のビット値とシリアルビット系列の演算処理により、画素13a(透かし埋め込み後の画素値126)に対して復元画素値116が計算され、出力画像601(原画像)の画素13aに画素値116が書き込まれる。
【0096】
次に画素14aが除去対象画素になるが、この場合、その入力画像601の左横の画素13aではなく、既に復元された出力画像602内の左横の画素13a(復元画素値116)が選択、解析される。その結果、近傍領域解析値の近傍領域画素値が116として出力される。
【0097】
次に、演算ビット領域決定テーブルT_Nを用いて、画素14aの演算ビット領域を決定する。そして演算ビット領域のビット値とシリアルビット系列の演算処理により、画素14a(画素値98)に対して画素値114が計算され、出力画像601(原画像)の画素14aに画素値114が書き込まれる。
【0098】
このようにして、順次、復元処理済の近隣画素の画素値を選択、解析することで、埋め込み時と同じ演算ビット領域を決定することが出来、可逆ノイズを完全に除去することが出来る。
【0099】
以上は簡単な説明の為に上記の説明では近傍領域として埋め込み対象画素の左横の画素を選択したが、主走査方向の位置が同じで、直前のライン上の画素を近傍領域としても良い。要は、復元処理が完了する画素を参照するようにすればよい。
【0100】
また、1つの画素を参照領域とするのではなく、複数の画素にまたがる領域を近傍領域として選択、解析してもよい。
【0101】
例えば、近傍領域選択部は、図6において、着目画素13aに対し、近傍領域として、画素7a、8a、12aを選択する。次に近傍領域解析部は、画素7a、8a、12aの画素値から、埋め込み対象画素13aの画素値を予測し、その予測値を近傍領域画素値としてもよい。
【0102】
それ以外にも、近傍領域選択部は、画素13aの近傍領域として、左画素1a、2a、6a、7aの4画素を選択する方法なども考えられる。この場合、近傍領域解析手段は、近傍領域内の分散値、周波数係数等も合わせて計算し、近傍領域特性値としてもよい。この場合、演算ビット領域決定テーブルT_Nには、分散値、周波数係数等の近傍領域特性値にも対応する演算ビット領域が定義されているとする。
【0103】
図4(a)の演算ビット領域決定テーブルT_Nの場合(可視強度S=1の場合)、近傍領域解析値(近傍領域画素値)である入力画素値112に対応する演算ビット領域は、B4、B3、B1となる。このとき、最大変化量(Δmax)を計算すると2^4+2^3+2^1=26(x^yはxのy乗)となる。例えば、埋め込み対象画素の画素値が112の場合には、112のB4,B3,B1はそれぞれ1,0,0であるから、変更量は+方向には2^3+2^1=10, -方向には2^4=16 の幅を持つ。
【0104】
本実施の形態の可逆ノイズ加算方法は、埋め込み対象画素に近い値を持つ近傍領域画素値や埋め込み対象画素近傍の近傍領域特性値からなる近傍領域解析値に基づき、きめ細かな演算ビット領域の設定が可能であることが分かる。
【0105】
また、本実施形態の可逆ノイズ付加装置を用い、入力画像の全画素に可逆ノイズを付加する場合について述べる。入力画像の端近くの画素が埋め込み対象画素として選択される場合、近傍領域が存在しない場合が考えられる。以下、近傍領域が存在しない場合の対処方法例を幾つか述べる。
【0106】
例えば、入力画像の端近くで近傍領域が存在しない画素が埋め込み対象画素の場合は、先に説明したように、可逆ノイズの付加を中止する方法をとってもよい。このとき、近傍領域が存在しない画素から可逆ノイズを除去する際には、可逆ノイズは付加されていないことが分かっているので、近傍領域が得られるまで可逆ノイズの除去は実行しなくてよい。
【0107】
また、入力画像の端近くで近傍領域が存在しない画素が埋め込み対象画素の場合は、可視強度値Sに従ってのみ決められる固定の演算ビット領域に対して、演算ビット処理を行ってもよい。このとき、近傍領域が存在しない画素から可逆ノイズを除去する際には、可視強度値Sに従ってのみ決められる演算ビット領域に対して、逆演算処理を施し、可逆ノイズの除去は実行するとよい。
【0108】
近傍領域選択方法NSによって決められる近傍領域の大きさが得られるような入力画像の画素値に対しては、既に詳しく述べてきたように、近傍領域解析値に従って、演算ビット領域を決定する。
【0109】
また、これも先に説明したが、人間の視覚特性は、輝度値が小さいほど輝度値の変化に敏感で、輝度値が大きいほど輝度値の変化が目立たたないという特性がある。従って、演算ビット領域(最大変化量Δmax)は上記の人間の視覚特性を考慮して設計することが好ましい。かかる点、実施形態によれば、可視強度S=1、2のいずれであっても、近傍領域が高輝度の場合には、演算ビットは高いビット位置まで及び、逆に、低輝度の場合には低位のビットが演算ビット領域となるので、オリジナル画像に近い雰囲気を維持しつつ、可視的な付加情報を多重化させることができるようになる。
【0110】
なお、空間上の色の変化が人間の知覚に変化と一致する均等知覚色空間CIE1976L*u*v*やCIE 1976 L*a*b*(以降L*a*b*色空間と呼ぶ)が1976年にCIEから推奨されている。
【0111】
上記の均等知覚色空間は、上記の演算ビット領域(最大変化量Δmax)を決定する際にも有用である。
【0112】
本実施形態によれば、原画像の透かし画像形状情報で示される領域において、原画像の特徴を維持しつつ、演算処理によって付加されるノイズ量が画像の階調に従って変化するように、画素値の変更量を設定することが出来る。それに加え、付加されたノイズの除去時に原画像を必要としない。さらに、演算処理に安全性の高い暗号方式を導入することで、付加されたノイズの除去を困難にすることが出来る。
【0113】
なお、演算ビット領域を決定する際に演算ビット領域決定テーブルT_Nを用いたが、数式で表現される演算ビット領域決定関数Fを用いることも可能であり、この様な方法も本発明の範疇に含まれる。
【0114】
上記例の具体的な利用方法は、例えば、次のようなものである。
【0115】
インターネット上で画像をサービスするサーバを設置し、図1の処理を施した付加情報を多重化した画像、及び、それぞれの画像を復元するための特有の情報(画像形状情報M、乱数キーR、演算ビット領域決定テーブルT、そして可視強度S)を記憶管理しておき、ユーザ(クライアント)は所望とする画像を選択し、ダウンロードできるようしておく。このダウンロードした画像には、上記のように付加情報(例えば撮影者や撮影日時等)が可視化して多重化され、尚且つ、その画像の全体の雰囲気を十分に伝えるものができるようになる。ユーザはダウンロードした画像について、オリジナルに復元したいことをサーバに伝えると(例えばブラウザ等で対応するボタンをクリックするとう操作で伝える)、サーバは、オリジナルそのものではなく、その画像に特有の復元に必要な情報(画像形状情報M、乱数キーR、演算ビット領域決定テーブルT、そして、可視強度値S)を送信する(これにより、オリジナルそのものが漏洩することを防ぐことができる)。なお、送信する際に、これらの情報を秘密キーでもって暗号化しておけば更に安全なものとすることができる。ユーザ側のPCでは、これらの情報を受けとって、図7に示す処理を実行させる処理を行う。
【0116】
なお、乱数キーRについては、乱数そのものを送信するのでなく、乱数を発生する共通の関数をサーバ及びクライアント側で保有するようにし、その乱数を発生するため初期化パラメータのみを送信するようにする。勿論、全ての画像について同じパラメータとしてしまうと、サーバが保有している全画像を復元できてしまうので、個々の画像毎にこのパラメータを異なるようにしておく。
【0117】
なお、上記実施形態では、演算ビット領域を決定するテーブルは図4(a)、(b)に示す様に2種類存在するものとして説明したが、3種類あるいはそれ以上あっても良い。特に、演算ビット領域として、B7(MSB)、B6を除外したが、可視強度を更に強くする、或いはしたい場合には、これらのビットまで演算領域にすることも可能である。
【0118】
また、可視強度Sは、ユーザが自由に設定しても良いが、自動化させても構わないであろう。例えば、オリジナル画像の輝度分布(ヒストグラム等を作成すれば良い)のレンジ幅、その中心輝度をパラメータとして、可視強度Sを自動決定しても良い。例えば、オリジナル画像全体が暗い場合、可視ノイズの埋め込みを行う演算ビット領域は、比較的、低位のビット領域に割り当てられ、可視ノイズによる付加情報が見にくくなる可能性がある。従って、このように全体的に暗い画像の場合には、高い輝度に変更され得るように、高位のビットまで演算ビット領域とするため、可視強度を自動的に高くするようにできるであろう。
【0119】
以上のように、本実施形態によれば、原画像に対して透かし画像形状情報に応じた変形を、原画像の特徴を維持しつつ、可視型透かし画像が画像閲覧者に好ましく見えるように画素値の変更量を設定することが出来る。それに加え、可視型電子透かしの除去時に原画像を必要としない。さらに、演算処理に安全性の高い暗号方式を導入することで、可視型電子透かしの除去を困難にすることが出来る。
【0120】
<第2の実施の形態>
上記第1の実施形態では、透かし画像形状情報に対応する画像領域内で画像の特徴を保存しつつ、ビット演算処理によるランダム的な輝度変化を実現し、可視かつ画像の内容を損なわない可視型電子透かし実現した。
【0121】
第1の実施形態は、透かし画像形状情報に対応する画像領域内の各画素の輝度変化が最大変化量(Δmax)の範囲内でランダム的になる特徴があり、可視型電子透かしの除去が難しいという長所を持つ。しかし一方で、透かしの画像形状情報に対応する画像領域内で、背景の輝度変化に追従するようにして、画像形状情報内でもあたかも背景が透けて見えるようにする、画質のよい可視型電子透かしを実現したいという要求もある。
【0122】
本第2の実施形態で述べる方法は、透かし画像形状情報に対応する画像領域内で、元の輝度値に合わせた変動、かつ、輝度の変化を滑らかにすることが可能であり、更に、必要に応じて可視型電子透かしの除去を難しくするノイズを加算するものである。すなわち、可視型電子透かしの領域内部で滑らかな輝度変化を実現しつつ、かつ復元に原画像を必要としない可視型電子透かし埋め込み処理、除去処理方法を提案する。
【0123】
第1の実施形態同様、本第2の実施形態でも、近傍領域選択方法、近傍領域解析方法を着目画素に対する相対的に固定な領域に基づいて決定するものとして説明するが、近傍領域選択方法、近傍領域解析方法は画像位置や鍵に従って変化させてもよい。上記を鍵に従って変化させた場合、正しい鍵を保持するものだけが、可視型透かしを完全に除去することが出来、可視型電子透かしの意図的な除去を困難にすることが出来る。
【0124】
説明が前後するが、本第2の実施形態では、注目画素にノイズを多重化する際に参照する近傍領域はその左隣の画素であるものとする。従って、各ラインの先頭画素については、近傍領域が存在しないことになるので、第1の実施形態と同様、近傍領域を参照しない手法を利用するものとする。未処理の画素を選択していく順序は、第1の実施形態と同様である。
【0125】
図8は本実施の形態における可視型透かし埋め込み装置の内部処理を示すフローチャートである。以下、同図に従って可視型電子透かし埋め込み処理を説明する。
【0126】
先ず、ステップS802の初期状態で、画素位置と画素値で構成される複数の画素からなる原画像Iと、埋め込む画像の形状を示す画素位置からなる透かし画像形状情報Mと、埋め込み量決定関数F_Eと、ノイズを生成するためのノイズ生成キーRN_Kとノイズ振幅RN_A、可視型電子透かしの強度を定義する可視強度値Sと、近傍領域選択方法NS、近傍領域解析方法NAを設定する。出力画像Wは入力原画像Iと等しくなるように設定する。
【0127】
次にステップS804において、入力画像の未処理の画素を選択する。なお、未処理の画素の選択する順序は、第1の実施形態と同様である。
【0128】
次にステップS806において、選択された原画像を構成する着目画素の位置と透かし画像形状情報のドット情報を比較し、着目画素が埋め込み対象領域にあるのか否かを判断する。埋め込み領域にあると判断した場合には、ステップS808にその画素位置情報を送り、不一致のとき、その画素についての処理を終了する。
【0129】
ステップS808では、可視型電子透かし埋め込み装置は、初期設定で設定された近傍領域選択方法NSに基づき、埋め込み対象画素の近傍領域を決定する。次に同じく初期設定で設定された近傍領域解析方法NAに従い、近傍領域内の画素値を解析し、近傍領域画素値と近傍領域特性値から成る近傍領域解析値を生成する。
【0130】
次にステップ810では、ステップ808で生成した近傍領域解析値や可視強度値S、初期設定で入力されるノイズ生成キーRN_Kとノイズ振幅RN_Aに基づき、埋め込み量決定関数F_Eを用いて、埋め込み対象画素に加算する埋め込み量ΔYを決定する。この△Yの決定方法の詳細については後述する。
【0131】
そして、ステップ812では、ステップ810で決定された埋め込み量ΔYを入力画素の画素値に加算する処理を行う。このとき加算後の画素値が表現可能な階調を超える場合(例えば、8ビットグレースケール画像の場合、0未満、256以上の値を取るとき)を考慮して、単純な加算処理ではなく、加算後に最大表現可能階調数(8ビットなら256)を加減算して表現可能な階調の範囲内に収める。
【0132】
次にステップS814では、出力画像Wに加算後の画素値を書き込む、書き込み処理を実行し、ステップS816では全ての画素が処理されたかを判定し、未処理の画素があるならステップS804に戻り、前述の処理を全ての画素が終了するまで続行する。
【0133】
以上、本実施の形態における可視型電子透かし埋め込み処理の概要を述べた。
【0134】
次に、図9を用い、本実施の形態における可視型電子透かし除去処理を簡単に述べる。
【0135】
先ず、ステップS902の初期状態で、画素位置と画素値で構成される複数の画素からなる可視型透かしが埋め込まれた透かし入り画像Wと、埋め込む画像の形状を示す画素位置からなる透かし画像形状情報Mと、埋め込み量決定関数F_Eと、ノイズを生成するためのノイズ生成キーRN_Kとノイズ振幅RN_Aと、可視型電子透かしの強度を定義する可視強度値Sと、近傍領域選択方法NS、近傍領域解析方法NAを設定する。出力画像Eは透かし入り画像Wと等しくなるように設定する。
【0136】
ステップS904においては、入力画像の未処理の画素を選択する。
【0137】
そして、ステップS906では、入力画像を構成する画素の画素位置と透かし画像形状情報との比較処理を行い、ノイズが付加(多重化)された画素である否かを判断する。ノイズ付加された画素であると判断した場合には、ステップS908にその画素位置情報を送り、不一致のとき、その画素についての処理を終了する。
【0138】
ステップS908に処理が進むと、可視型電子透かし除去装置は、初期設定で設定された近傍領域選択方法NSに基づき、埋め込み対象画素の近傍領域を決定する(近傍領域は、既に復元済みの領域となるのは、第1の実施形態と同様である)。次に同じく初期設定で設定された近隣解析方法NAに従い、近傍領域内の画素値を解析し、近傍領域画素値と近傍領域特性値から成る近傍領域解析値を生成する。
【0139】
ステップS910では、ステップS908で生成した近傍領域解析値や可視強度値S、初期設定で入力されるノイズ生成キーRN_Kとノイズ振幅RN_Aに基づき、埋め込み量決定関数F_Eを用いて、埋め込み対象画素に加算する埋め込み量ΔYを決定する。
【0140】
次にステップS912では、ステップS910で決定された埋め込み量ΔYを入力画素の画素値から減算する処理を行う。このとき減算後の画素値が表現可能な階調を超える場合は加算処理で表現可能な階調の範囲に収められたと考えられるため、単純な減算処理ではなく、減算後に最大表現可能階調数(8ビットなら256)を加減算して、表現可能な階調の範囲に収める。
【0141】
次にステップS914では、出力画像Eに減算後の画素値を書き込む、書き込み処理を実行し、ステップS916では全ての画素が処理されたかを判定し、未処理の画素があるならステップS904に戻り、前述の処理を全ての画素が終了するまで続行する。
【0142】
以上、本実施の形態における可視型電子透かし除去処理の概要を述べた。
【0143】
本第2の実施形態においても第1の実施形態と同様、埋め込み対象画素の変更量を近傍領域から決めることで、完全に可逆の可視型電子透かしを実現する。
【0144】
既に第1の実施形態でも述べたように、一般に自然画像は近隣の画素間の相関性が高いことから、近傍領域の画素から計算される人の目に感知される埋め込み量は、埋め込み対象画素への人の目に感知される埋め込み量として適切である可能性が高く、画質のよい可視型電子透かしの埋め込みが可能となる。本実施形態においても、これを利用するものである。
【0145】
本第2の実施形態の特徴である、近傍領域内の画素の画素値から埋め込み量ΔYを計算する方法について詳しく述べる。
【0146】
人間の目の視覚特性は等差的に輝度を変化させたときには一定の変化に見えず、等比的に輝度を変化させたときには一定の変化に見えるという、輝度に対して対数的な性質を持っていることが知られている。人間の目の視覚特性を考慮し、変化が一定に感じられるように輝度を変換した値を明度(L*)という。明度(L*)はおおよそ輝度を1/3乗した値である。明度は人間の感覚の数値的表現に近いため、どの階調においても同様に知覚される可視型電子透かしの埋め込み量ΔYを決定する際に有用である。
【0147】
空間上の色の変化が人間の知覚に変化と一致する均等知覚色空間CIE1976L*u*v*やCIE 1976 L*a*b*(以降L*a*b*色空間と呼ぶ)が1976年にCIEから推奨されており、輝度だけでなくカラー画像についても均等知覚色空間上で処理することが可能である。
【0148】
上記の均等知覚色空間上では空間上のどの場所の距離をとっても、視覚で感じる色ズレの度合いと一致するように設計されているため、L*a*b*色空間上での距離(色差ΔEab*)で色の違いを定量的に評価できるメリットがあり、その利便性から色差ΔEab*はカラー画像を扱う様々な分野で利用されている。
【0149】
なお、輝度値(Y)と明度(L*)の変換式は以下のようになる。
*=116(Y/Yn1/3−16、 Y/Y>0.008856のとき、
*=903.3(Y/Yn)、 Y/Y≦0.00856のとき、
(Ynは基準白色面のY値で、通常、Ynとして100を用いる場合が多い。)
本第2の実施形態では、埋め込み量決定関数F_Eは、均等知覚色空間を利用し、どの階調でも変化が一定に知覚されるような埋め込み量ΔYを決定する。なお、均等知覚色空間への変換は数式で行ってもよいし、高速化を図る為参照テーブルを用いて行ってもよい。
【0150】
次に近傍領域選択解析処理(ステップS808)と埋め込み量決定処理(ステップS810)について詳しく説明する。近傍領域選択解析処理は第1の実施形態と同じであるため、近傍領域選択解析部については、同じく図6を用いて説明する。
【0151】
第1の実施形態と同じく、本第2の実施形態でも説明を簡便にするため、近傍領域選択部は埋め込み対象画素の左横の画素を近傍領域とし、近傍領域解析手段は、近傍領域の画素値を近傍領域解析値の近傍領域画素値とすることとする。
【0152】
今、図6において、埋め込み対象画素として画素13aが与えられた場合、近傍領域選択部は画素13aの左横の画素12aを近傍領域として選択する。次に近傍領域解析部は、画素12aを解析し、画素12aの画素値(112)を近傍領域解析値の近傍領域画素値として出力する。従って、近傍領域選択解析部については、第1の実施形態とほぼ同じである。
【0153】
次に第2の本実施形態における、埋め込み量決定部について説明する。
【0154】
図10はステップS810の埋め込み量決定処理を実行する埋め込み量決定部の内部構成を示したブロック図である。
【0155】
まず、近傍領域選択解析部で出力される近傍領域解析値の近傍領域画素値から近傍輝度値を計算する。近傍輝度値Y_nghは、埋め込み対象画素に近い輝度値を持つ。近傍輝度値Y_nghは近傍領域内の平均値でもよいし、近傍領域内から計算される埋め込み対象画素の画素値の予測値(近傍領域画素値)でもよい。
【0156】
近傍輝度値Y_nghは、明度変換部1002に入力される。
【0157】
明度変換手段1002では入力された近傍輝度値Y_nghを明度に変換し、近傍明度値L_nghを後段の明度加算部1006に入力する。
【0158】
次に初期設定で設定された可視強度値S、ノイズ生成キーRN_K、ノイズ振幅RN_Aを明度変更量算出部1004に入力する。明度変更量算出部1004は前記の入力値から明度変更量ΔLを計算し、後段の明度加算部1006に入力する。
【0159】
このとき、近傍領域の周波数特性や色差等の特性情報を含む近傍領域特性値も明度変更量算出部1004に入力し、明度変更量ΔLを計算してもよい。
【0160】
明度加算部1006は、入力された近傍明度値L_nghと明度変更量ΔLを加算し、修正近傍明度値L_ngh_mdfを生成し、後段の輝度変換部1008に出力する。
【0161】
輝度変換部1008は修正近傍明度値L_ngh_mdfを再び輝度に変換し、修正近傍輝度値Y_ngh_mdfを生成し、後段の輝度変更量算出部1010に入力する。
【0162】
なお、この修正近傍輝度値Y_ngh_mdfは可逆を実現するためにも表現可能な最大階調の範囲内に量子化される(例えば255以上の値なら255にし、浮動小数点なら四捨五入を行う)。
【0163】
輝度変更量算出部1010は、近傍輝度値Y_nghと修正近傍輝度値Y_ngh_mdfの差分を計算し、埋め込み変更量ΔYとする。この埋め込み変更量ΔYは、埋め込み対象画素の輝度値(画素値)に直接加算される変更量となる。
【0164】
次に図6を用いて、埋め込み量決定部の処理を具体的に説明する。ここでも、画素13aが埋め込み対象画素であり、画素12aが近傍領域であるとする。
【0165】
まずは、近傍領域である画素12aの輝度値(112)は明度変換部1002に入力され、明度値(104.47)に変換される。今、入力画像が8ビットグレースケールの場合を想定しているため、輝度値は画素値と等しいが、RGBカラー画像の場合には、一旦、輝度(Y)を計算した後、明度(L*)に変換する必要がある。
【0166】
次に明度変更量算出部1004に、初期設定で設定された可視強度値S、ノイズ生成キーRN_K、ノイズ振幅RN_Aを入力し、明度変更量ΔLを決定する。明度変更量ΔLは、明度シフト値ΔL_Sとノイズ成分RNから構成され、ΔL=ΔL_S+RN
となる。
【0167】
明度シフト値ΔL_Sは、初期設定の可視強度値Sを関数L_SHIFTに代入し計算する。即ち、
ΔL_S=L_SHIFT(S)
となる。例えば、関数L_SHIFTはS=ΔL_Sとすると、S=3のとき明度シフト値ΔL_Sは3となる。関数L_SHIFTはSと基本的に線形の関係になる。後に詳しく述べるが、適当な閾値と近傍輝度値Y_nghを比較し、ΔL_Sの正負の符号を決めてもよい。
【0168】
次に、ノイズ生成キーRN_Kは、−1から1までの間のノイズ成分RN_Nを生成するとする。次にノイズ振幅RN_Aでノイズ成分RN_Nを掛け算し、振幅を増強し、振幅が増強されたノイズ成分RNを得る。ここで、関数RANDを−1から1までの値を生成する関数とすれば、ノイズ成分RNは、
RN=RAND(RN_K)×RN_A
で表現される。
【0169】
今、ノイズ振幅RN_Aは0に設定していると仮定すると、RNは0になる。
【0170】
ΔL_Sに上記のノイズ成分RNを加算するとノイズを生成する鍵情報を知らないと除去できないため、一層可視型電子透かしの除去を困難にすることが出来る。
【0171】
また、可視型電子透かしの可視性は、埋め込み量ΔY(即ち可視強度値Sとノイズ振幅RN_A)と関連している。
【0172】
従って、可視強度値Sやノイズ振幅RN_Aを、図10の明度変更量算出部1004に入力される近傍領域特性値(周波数特性等の特性情報を持つ)に基づき変化させることにより、テクスチャ領域等でも可視型電子透かしを認識し易くすることも可能である。
【0173】
明度変更量算出部1004は、最後に、ΔL=ΔL_S+RNを実行し、明度変更量ΔL=3を得る。
【0174】
次に明度加算部1006では、近傍明度値L_ngh(104.47)と明度変更量ΔL(3)を加算し、修正近傍明度値L_ngh_mdf(107.47)を得る。
【0175】
なお、後述するが、ΔL_Sの正負の符号については、画像全体で一定である必要は無く、所定の閾値と比較し、決定してもよい。
【0176】
次に輝度変換部1008では、修正近傍明度値L_ngh_mdf(107.47)を輝度に変換し、修正近傍輝度値Y_ngh_mdf(120.59)を得る。
【0177】
ただし、修正近傍輝度値Y_ngh_mdfが表現可能な階調を超える輝度(例えば、8ビットグレースケールの場合、0から255の範囲を超える)となる場合、0以下の場合0に、255以上の場合は255を変更後の輝度値とする。
【0178】
次に、輝度変更量算出部1010は、修正近傍輝度値Y_ngh_mdfと近傍輝度値Y_nghとの差分を計算し、埋め込み変更量ΔYを得る。
【0179】
今、8ビットグレースケール画像を考慮している為、修正近傍輝度値Y_ngh_mdfは8ビットで表現可能な範囲に量子化する必要がある。従って、120.59を四捨五入し121とする。なお、四捨五入に限らず、切り上げ、切り捨てで整数化してもよい。
【0180】
最後に、埋め込み変更量ΔYは、修正近傍輝度値121―近傍輝度値112=9となる。
【0181】
図8のステップS810の埋め込み量決定処理では、上記のような手順で、埋め込み変更量ΔYが計算される。
【0182】
図8の可視型電子透かし埋め込み処理であるステップS812では、この埋め込み変更量ΔYを埋め込み対象画素の輝度値に加算する。
【0183】
次に、RGBカラー画像の各色成分(R,G,B)に独立に埋め込む場合の一例を述べる。
【0184】
まず、埋め込み対象画素の近傍領域を選択、解析し得られる近傍領域画素値を元に、近傍輝度値Y_nghと近傍色差値U_ngh,V_nghを得る。(近傍R値R_ngh、近傍G値 G_ngh、近傍B値 B_nghを先に求め、それから近傍輝度値Y_ngh、近傍色差値U_ngh, V_nghを得てもよい。)
次に、可視強度値Sや乱数に基づき、修正近傍輝度値Y_ngh_mdfを求める。
【0185】
既に述べたようにY_ngh_mdfとY_nghの差である埋め込み量ΔYは可視強度値Sや乱数、均等知覚色空間等を利用して計算される。このとき修正近傍輝度値Y_ngh_mdfを求めるに当たって注意がある。
【0186】
各々8ビットのRGBで表現できる色空間は、YUVという中間値から表現可能される色空間の一部(内接図形となる)に収まるが、各々8ビットのYUVの値で表現可能な色をRGBに戻すと、全てRGBに収まるとは限らない(それぞれ8ビットのRGB値をYUVに変換すると8ビットに収まるが、8ビットのYUVをRGBに変換すると、負の数や8ビットを超える数を取ることもある。即ち、各々8ビットの範囲内のRGBでは表現できない色も存在する)。RGBからYUV、YUVからRGBへの変換式からもこのことは理解できる。
【0187】
従って、修正近傍輝度値Y_ngh_mdfは、修正近傍輝度値Y_ngh_mdfとそれに対応する色差をRGBに戻したときに各々8ビットのRGB色空間で表現可能な色の範囲である必要がある。
【0188】
修正近傍輝度値Y_ngh_mdfおよびそれに対応する色差から計算される値が、各々8ビットのRGBで表現可能な範囲のΔYに収める必要があるかは以下のようにして簡単にチェックできる。輝度Yは 0から255までの範囲のR,G,B値から、Y = 0.299*R + 0.5870*G +0.1140*B の数式により得られる。色差を変化させないで輝度を変化させる場合、R、G、B値をそれぞれ一定量加減算する必要がある。従ってR_ngh値, G_ngh値, B_ngh値のうち0または255に最も近い値から、色差を変化させないΔYの取り得る範囲(シフト可能範囲)を計算する。
【0189】
可視強度値Sや乱数を用い均等知覚色空間を利用して求められる修正近傍輝度値Y_ngh_mdfと近傍輝度値Y_nghの差ΔYが、上記のシフト可能範囲に収まらない場合、修正近傍輝度値Y_ngh_mdfは、近傍輝度値Y_nghに対してシフト可能範囲に収まる中で計算されたΔYに最も近いΔY'を加算した値とする。ΔYがシフト可能範囲に収まる場合には、そのままの修正近傍輝度値Y_ngh_mdfを用いる。
【0190】
次に、修正近傍輝度値Y_ngh_mdfとそれに対応する色差から、それぞれ修正近傍R値R_ngh_mdf、修正近傍G値G_ngh_mdf、修正近傍B値B_ngh_mdfを計算する。
【0191】
そして、それぞれ、修正近傍R値(R_ngh_mdf)と近傍R値(R_ngh)、修正近傍G値(G_ngh_mdf)と近傍G値(G_ngh)、修正近傍B値(B_ngh_mdf)と近傍B値(B_ngh)の間で差分を計算し、埋め込み変更量ΔR、ΔG、ΔBを計算する。
【0192】
このとき埋め込み変更量ΔR、ΔG、ΔBも8ビットグレースケールと同様に量子化(四捨五入)する。最後に、可視型電子透かしの埋め込み及び除去をR、G、B成分でそれぞれ行う。このとき埋め込み変更量ΔR、ΔG、ΔBを加算した後の各色の画素値が最大で表現可能な階調範囲を超えるとき、輝度への埋め込みと同様に表現可能な最大階調を加減算し、表現可能な階調の範囲に収める。
【0193】
以上により、RGBと輝度色差の間の変換に伴う情報の損失を避けた可逆の埋め込み/除去が可能となる。
【0194】
なお除去において近傍を参照する時は既に復元された近傍画素値を参照することに注意する必要がある。
【0195】
なお、カラー画像においても各々の色成分で輝度を一定に保つことなく独自に閾値を設定して可視型電子透かしを埋め込んでもよい。この場合、色相が変化するが、認識し易い可視型電子透かしとなる。
【0196】
次にΔL_Sの正負の符号を決める為の閾値について述べる。図11の1100、1102、1104は所定の画像における、所定の透かし画像形状情報に対応する位置の画素の画素値(輝度値)のヒストグラムを示した図である。
【0197】
ヒストグラム1100のように0や255近傍の輝度値が多い場合、「閾値Th以上の場合ΔL_Sは負、閾値Th未満のときΔL_Sは正」となる閾値設定(タイプ1)が適している。可視型電子透かしの埋め込み後の画素値が表現可能な階調を超えないようにするためである。
【0198】
ヒストグラム1102のように0や255近傍の輝度値が少ない場合、「閾値Th以上の場合ΔL_Sは正、閾値Th未満のときΔL_Sは負」となる閾値設定(タイプ2)を適用してもよい。
【0199】
また、ヒストグラムに応じて、閾値を0や255に設定し、符号を正負のどちらか一方に固定し、埋め込み後の画素値が表現可能な階調を越えないようにしてもよい。
【0200】
1104のような複雑なヒストグラムを持つ場合、以下のような閾値設定(タイプ3)を行うとよい。
0 <=Y_ngh<Th1のとき、ΔL_S>=0
Th1<=Y_ngh<Th0のとき、ΔL_S<=0
Th0<=Y_ngh<Th2のとき、ΔL_S>=0
Th2<=Y_ngh<=255のとき、ΔL_S<=0
この場合でも、表現可能な階調を超えないようにすることが出来る。このように閾値は必ずしも一つに限定する必要はない。
【0201】
1102のようなヒストグラムの画像に対し、タイプ1の閾値設定を行うと、閾値前後の画素値は、それぞれ逆方向に引っ張られる為、閾値前後の画素値を多くもつなだらかな階調の画像では可視型電子透かし埋め込み後になだらかな階調を維持できず、画質が劣化することもある。
【0202】
従って、所定の透かし画像形状情報に対応する画素の画素値を解析し、動的に最適な閾値設定を画像ごと、透かし画像形状情報ごとに計算してもよい。また、透かし画像形状情報内部の連続する固まりごと(例えば複数の文字を埋め込むときは一文字ごと)に最適な閾値を設定してもよい。
【0203】
前記の最適な閾値設定は、初期設定処理(ステップS802)で行うとよい。
【0204】
なお、ヒストグラムの作成は、予め0に初期化した変数D(0)〜(255)を確保しておき、埋め込み対象となる原画像の順次走査していって、画素値(輝度値)が「i」であれば、D(i)←D(i)+1を演算すれば、各輝度の度数を得ることができる。
【0205】
また、上記閾値は可視型電子透かしを除去する為に必要な鍵情報であり、可視型電子透かし除去時に不可欠な情報である(閾値が幾つ合って、各々の閾値を鍵情報の1つの要素として含める)。
【0206】
次にステップS812の加算処理について説明する。ステップS812の加算処理では、埋め込み対象画素ごとに埋め込み対象画素の輝度値Yと埋め込み変更量ΔYが加算される。しかし加算結果が、表現可能な階調を超える場合(例えば、8ビットグレースケール画像の場合、0から255の範囲を超える場合)、可逆を実現するため、表現可能な階調の最大値を加減算して、表現可能な階調の範囲内に収める。
【0207】
例えば、8ビットグレースケール画像で埋め込み対象画素の輝度値Y=240、埋め込み変更量ΔY=20のとき、加算結果は260となる。8ビットグレースケール画像ではこの値は表現できないため、再び表現可能な最大階調数256を減算し、加算結果を4とする。
【0208】
可視型電子透かし除去装置の減算処理では、除去対象画素の輝度値Y=4、埋め込み変更量ΔY=20が得られ、減算結果は−16となる。同様に8ビットグレースケール画像ではこの値は表現できないため、再び表現可能な最大階調数256を加算し、復元画素値を240とし、埋め込み前の輝度値に戻すことが出来る。
【0209】
即ち、ΔYの絶対値が表現可能な最大階調数の範囲内ならば、埋め込みにおいて加算結果が表現可能な最大階調数の範囲外となるとき、加算結果が正のときは表現可能な最大階調数を減算し、加算結果が負のときは表現可能な最大階調数を加算する。除去において減算結果が表現可能な最大階調数の範囲外となるとき、減算結果が正のときは表現可能な最大階調数を減算し、減算結果が負のときは表現可能な最大階調数を加算する。
【0210】
近傍領域から得られる輝度値と埋め込み対象画素の輝度値は必ずしも一致しない為、加算結果が画像の表現可能な階調を超えることも起こりえる。その場合には、上記のように表現可能な最大階調数を加減算して表現可能な階調に収めることで、可逆を実現することが可能である。
【0211】
近傍領域を参照することなく、埋め込み前の画素値と埋め込み後の画素値の関係を、関数または参照テーブルを用いて定義する場合において、埋め込みにより表現可能な最大階調数を超えたとき、0未満256以上の画素値ををそれぞれ0、255と定義するとする。その場合、埋め込み前後の画素値の1対1対応が崩れ、差分情報なしには可逆が実現できない。また、表現可能な最大階調範囲を超える画素値に対し、上述のように表現可能な最大階調数を加減算して、表現可能な最大階調範囲内に収める場合でも、近傍領域を参照しない場合、同様に、埋め込み前後の画素値の1対1対応が崩れ、差分なしには可逆が実現できない。従って、画素値に応じて埋め込み量を決定する高画質な可視型電子透かしにおいては、差分画像を持たずに可逆を実現することが難しかった。
【0212】
本第2の実施形態の手法を用いれば、画像の特徴を維持しつつ人に認識し易い可視型電子透かしを実現できると共に、完全に可逆の電子透かしが実現できる。
【0213】
なお、本第2の実施形態では、可逆を実現する場合について考慮したが、可逆の必要性がない場合には、図8のステップS808近傍領域選択解析処理では、埋め込み対象画素を含む近傍領域を解析し近傍領域解析値を後段のS810に出力し、ステップS810埋め込み量決定処理では近傍領域画素値(近傍輝度値)ではなく埋め込み対象画素の輝度値に基づき埋め込み量ΔYを決定してもよい。このときステップS808近傍領域選択解析処理で生成される近傍領域特性値を合わせて用いてもよい。例えば、埋め込み対象画素の近傍領域解析値の近傍領域特性値から、埋め込み対象画素が高周波成分やテクスチャであると判定されるとき、埋め込み対象画素から求められる埋め込み量を増強して見やすいようにするとよい。
【0214】
また、差分画像を保持することで、埋め込み量ΔYを加算した結果、表現可能な最大階調範囲(8ビットグレースケール画像では0−255)を超える場合には、最も近い表現可能な階調(0または255)と置き換えても可逆を実現することが出来る。
【0215】
上記の場合において、表現可能な最大階調範囲を超えた画素値と前記画素値と最も近い表現可能な階調(0または255)の差分の画素値を保持しておくと、差分の画素値を用いて可逆の電子透かしが実現できる。本実施形態の方法では、近傍領域画素値と埋め込み対象画素の画素値に違いがあり、計算される埋め込み量ΔYが埋め込み対象画素への埋め込み量ΔYとして不適切な場合に、埋め込み量ΔYの加算結果、表現可能な最大階調範囲を超える場合が比較的起き易い。しかし、各画素ごとに差分や原画像を保持し、可逆を実現していた従来方法と比べて大幅に復元のための差分情報を少なくすることが出来る。
【0216】
本実施の形態では、埋め込み量ΔYを加算した後に表現可能な最大階調を超える画素値に対して、表現可能な最大階調数を加減算し表現可能な階調の範囲内に収める手法について主に説明した。
【0217】
しかし、上述の手法の場合、埋め込み量ΔYの加算後に表現可能な階調の範囲を超えなければよいが、超えた場合、埋め込み前と埋め込み後で画素値の変化が大きくなりうる。その場合、周囲と比べて不自然になり、大きなノイズとして知覚される場合もある。
【0218】
従って、以下に述べるような工夫をしてもよい。
【0219】
埋め込み側では、可視型透かし埋め込み装置(図8)のステップS1312の加算処理において、
(1)埋め込み量ΔYを加算した後の画素値が表現可能な階調範囲を超える場合、
加算処理を実行せず、初期設定で入力された透かし画像形状情報Mの対応する埋め込み位置において、形状内“1”に相当する箇所を“0”に変更する。
(2)埋め込み量ΔYを加算した後の画素値が表現可能な階調範囲を超えない場合、
加算処理を実行し、透かし画像形状情報の対応する埋め込み位置の情報も変更させない。
【0220】
入力された画像の全ての画素に対し、上記の処理が終了した後、可視型電子透かし埋め込み装置は、実際に加算処理を行った位置を示す、修正透かし画像形状情報M’を鍵情報として出力する。
【0221】
修正透かし画像形状情報M’は入力された透かし画像形状情報Mに対して、可視型透かし埋め込み装置で埋め込みを行わなかった位置情報を反映させた情報である。
【0222】
可視型電子透かし埋め込み装置(図8)におけるその他の処理は既に説明した場合と同じ手順で行うとする。
【0223】
次に除去側では、可視型透かし除去装置(図9)のステップS902の初期設定において、可視型透かし埋め込み装置で鍵情報として出力された、修正透かし画像形状情報M’を、透かし画像形状情報Mの代わりに読み込む。
【0224】
そして本実施の形態で既に述べた手順と同じ手順で、修正透かし画像形状情報M'と対応する埋め込み位置において、形状内“1”であれば、近傍領域から計算される埋め込み量ΔYを減算し、元の画素値へ復元し、形状外“0”であれば、埋め込み処理が行われていないと判断して、次の画素の処理へと移る。
【0225】
そして全ての画素の対して上記の処理を行えば、完全に可視型電子透かしを除去した画像を得ることが出来る。
可視型電子透かし除去装置(図9)においてはステップS902の初期設定おいて、修正透かし画像形状情報M’を透かし画像形状情報Mの変わりに入力する点が、異なるだけで、その他の処理は既に説明した場合と同じ手順で行うとする。
【0226】
上記で説明した手法を用いると、抽出時に必要な鍵情報も増加することがなく、また表現可能な階調に収めるために、表現可能な最大階調数を加減算する場合に発生する、埋め込み量ΔYに比べて大きな画素値の変化が発生しないようにすることが出来る。
【0227】
一般に自然画像では、隣接する画素値は相関性が高い為、可視型電子透かし埋め込み装置から出力される修正透かし画像形状情報M’の値が全て“0”となる確率は低い。
【0228】
ステップS802の初期設定において修正透かし画像形状情報M’が人の目に透かし画像形状情報Mとほぼ同じに見られるように、可視強度値S、ノイズ振幅RN_A、近傍領域選択方法NS、近傍領域解析方法NA等を他の鍵情報のパラメータを最適化し、鍵情報を生成してもよい。
【0229】
以上説明したように、本第2の実施形態によれば、ノイズを付加すべき画素位置がその近傍の画素の輝度に近い値を持っているという特性を利用し、先ず、その近傍領域の画素値(輝度値)を、人間の視覚特性にぼぼリニアな関係にある明度値に変換する。そして、その近傍領域の輝度値、可視強度S、ノイズ生成キーRN_K、更にはノイズ振幅RN_Aに基づいて、足し込む明度量を決定する。この結果、形状情報内にあるオリジナル画像の輝度がほぼ一様な場合には、一様な明度変更量が加算されるし、形状情報内のオリジナル画像中に輝度の急峻な部分がある場合、低輝度と高輝度とでは、それぞれに応じた明度変更量が加算されることになり、あたかも形状情報内で、背後にあるオリジナルが自然に透けて見える、可逆な付加情報を付加させることが可能になる。
【0230】
<第3の実施の形態>
第1の実施形態においては、演算ビット領域決定テーブルT_Nを用いて演算ビット領域を決定したが、演算ビット領域決定関数Fを用いて演算ビット領域を決定する一例を第3の実施形態として説明する。
【0231】
本第3の実施形態では、可視型電子透かし埋め込み処理のステップS108の近傍領域選択解析処理では、第1、第2の実施形態と同様に、埋め込み対象画素の近傍領域を選択・解析し、近傍領域解析値を生成し、近傍輝度値Y_nghを得る。
【0232】
次に、ステップS110演算ビット領域決定処理では、第2の実施形態と同様に、近傍輝度値Y_nghを元に、所定の閾値、透かし強度値Sや均等知覚色空間等を利用して、修正近傍輝度値Y_ngh_mdfを得る。
【0233】
例えば、透かし強度値Sは均等知覚色空間上での変更量ΔL_Sに対応させ、ΔL_Sの符号は適当な閾値(例えば閾値128や複数の閾値64、128、192等)と比較して決定する。ここまでの処理は第2の実施形態とほぼ同様である。また、第2の実施形態と同様に、乱数に基づくノイズ成分RNを加えるステップも含めて、修正近傍輝度値Y_nghを計算し、可視型電子透かしの除去を困難にすることも可能である。
【0234】
そして、Y_ngh_mdfとY_nghの差である埋め込み量ΔYを決定する。次に埋め込み量ΔYは第1の実施形態における最大変化量Δmaxと対応付けられ、ΔYを入力画像の画素値と同じくビット(例えば、8ビット)で表現する。
【0235】
次に埋め込み量ΔYに対し8ビットのビット表現を行い、1に相当するビット位置を演算ビット領域、0に相当するビット位置を非演算ビット領域とする。この演算ビット領域の指定により、演算処理におけるランダム的な画素値の変化が、修正近傍輝度値Y_ngh_mdfに比較的近くなるように、調整することが出来る。最後に、上記の演算ビット領域、非演算ビット領域の情報をステップS112の演算処理に出力し、所定の演算を実行し、可視型電子透かしの埋め込みを行う。
【0236】
なお、上記は、簡単な演算ビット領域決定関数Fの一例であり、演算ビット領域の決定方法については更に最適化の余地がある。
【0237】
本実施形態では、演算ビット領域の決定に、上記関数を用いた計算を行う為、処理速度が高速ではないが、可視型電子透かし埋め込み装置/除去装置間で共通に保持する必要のある比較的情報量の大きい演算ビット領域参照テーブルを省くことができるメリットがある。また本実施形態は、近傍領域の情報及び可視強度値Sに基づき、画像の特徴に応じた可視型電子透かしの埋め込みを可能とする。
【0238】
<第4の実施形態>
上記第1乃至第3の実施形態では、透かし画像形状情報が各画素において、可視型電子透かしの埋め込み領域対象領域か否かの1ビットを有する場合について説明した。
【0239】
しかし、透かし画像形状情報が各位置において、透かし画像形状内部での透かしの強さを表す複数ビットの情報を有していてもよい。
【0240】
例えば、0は非透かし埋め込み領域を、残りの値(1,2,3…)は可視型電子透かしの透かし画像形状内部での埋め込み強度を表すとする(第1の実施形態では、画像形状情報の1の画素位置はノイズを付加する領域を示し、0は非付加領域であった)。
【0241】
図12は1画素当たり複数ビット(多値)の情報を有する透かし画像形状情報の一例であり、周囲は弱い埋め込み強度で、内部に行くほど可視型電子透かしの強度が強く設定してある。このように透かし画像形状の各位置において透かし強度値を持たせると、透かし画像形状内で人間が知覚できる明るさの変化が一定でない、立体感のある可視透かしを実現することが可能になる。
【0242】
図13は第2の実施形態に、前述の各画素において透かし画像形状内の透かしの強さを表す透かし画像形状内強度値を有する透かし画像形状情報を適用した場合の、可視型電子透かし埋め込み装置のフローチャートである。以下、可視型電子透かし埋め込み装置について述べる。
【0243】
まず、ステップS1302の初期状態で、画素位置と画素値で構成される複数の画素からなる原画像Iと、埋め込む画像の形状を示す画素位置および透かし画像形状内の透かしの強さを表す透かし画像形状内強度値からなる透かし画像形状情報Mと、埋め込み量決定関数F_Eと、ノイズを生成するためのノイズ生成キーRN_Kとノイズ振幅RN_A、可視型電子透かしの強度を定義する可視強度値Sと、近隣画素選択方法NS、近隣画素解析方法NAを設定する。出力画像Wは入力原画像Iと等しくなるように設定する。
【0244】
次にステップS1304において、入力画像の未処理の画素を選択する。
【0245】
次にステップS1306において、原画像を構成する画素の画素位置と透かし画像形状情報との比較処理を行う。透かし画像形状情報内の対応位置の情報が0の場合、画素が透かし画像形状内ではないと判定し、その画素についての処理を終了する。透かし画像形状情報の対応位置の情報が0でない場合、その画素は透かし画像形状内であるとし、後段のステップS1318に進む。
【0246】
このステップS1318では、透かし画像形状情報の対応位置の値を読み取り、透かし画像形状内強度値IN_Aに設定し、後段のステップS1308に進む。
【0247】
ステップS1308では、可視型電子透かし埋め込み装置は、初期設定で設定された近傍領域選択方法NSに基づき、埋め込み対象画素の近傍領域を決定する。次に同じく初期設定で設定された近隣解析方法NAに従い、近傍領域内の画素値を解析し、近傍領域解析値を生成する。
【0248】
次にステップS1310では、ステップ1308で生成した近傍領域解析値や可視強度値S、ステップ1318で設定した透かし画像形状内強度値IN_A、初期設定で入力されるノイズ生成キーRN_Kとノイズ振幅RN_Aに基づき、埋め込み量決定関数F_Eを用いて、埋め込み対象画素に加算する埋め込み量ΔYを決定する。第3の実施の形態の表記に従うと、
ΔL=IN_A×(L_SHIFT(S)+RAND(RN_K)×RN_A)
となる。つまり、画像全体の可視型電子透かしの強さである可視強度値Sに加え、局所的な可視型電子透かしの強さである透かし画像形状内強度値IN_Aの強度を考慮して、明度変更量ΔLを計算している。これにより透かし画像形状内部で明るさの変化をつけることができ、原画像に立体的な形で可視型透かし画像を埋め込むことができる。
【0249】
次にステップS1312では、ステップS1310で決定された埋め込み量ΔYを入力画素の画素値に加算する処理を行う。このとき加算後の画素値が表現可能な階調数を超える場合(例えば、8ビットグレースケール画像の場合、0未満、256以上の値を取るとき)を考慮して、単純な加算処理ではなく、加算後に表現可能な階調の範囲内に収める。
【0250】
次にステップS1314では、出力画像Wに加算後の画素値を書き込む、書き込み処理を実行し、ステップS1316では全ての画素が処理されたかを判定し、未処理の画素があるならステップ1304に戻り、前述の処理を全ての画素が終了するまで続行する。
【0251】
以上、本第4の実施形態における可視型電子透かし埋め込み装置の概要を述べた。
【0252】
図14は本第4の実施形態の可視型電子透かし除去装置のフローチャートである。以下、可視型電子透かし除去装置について述べる。
【0253】
まず、ステップS1402の初期状態で、画素位置と画素値で構成される複数の画素からなる原画像Iと、埋め込む画像の形状を示す画素位置および透かし画像形状内の透かしの強さを表す透かし画像形状内強度値からなる透かし画像形状情報Mと、埋め込み量決定関数F_Eと、ノイズを生成するためのノイズ生成キーRN_Kとノイズ振幅RN_A、可視型電子透かしの強度を定義する可視強度値Sと、近隣画素選択方法NS、近隣画素解析方法NAを設定する。出力画像Wは入力原画像Iと等しくなるように設定する。
【0254】
次にステップS1404において、入力画像の未処理の画素を選択する。
【0255】
次にステップS1406において、原画像を構成する画素の画素位置と透かし画像形状情報との比較処理を行う。透かし画像形状情報内の対応位置の情報が0の場合、画素が透かしが画像形状内ではないと判定し、その画素についての処理を終了する。透かし画像形状情報の対応位置の情報が0でない場合、その画素は透かし画像形状内(ノイズを付加すべき位置)にあるとし、後段のステップS1418に進む。
【0256】
ステップS1418では、透かし画像形状情報の対応位置の値を読み取り、透かし画像形状内強度値IN_Aに設定し、後段のステップS1408に進む。
【0257】
ステップS1408では、可視型電子透かし埋め込み装置は、初期設定で設定された近傍領域選択方法NSに基づき、埋め込み対象画素の近傍領域を決定する。次に同じく初期設定で設定された近隣解析方法NAに従い、近傍領域内の画素値を解析し、近傍領域解析値を生成する。
【0258】
ステップS1410では、ステップS1408で生成した近傍領域解析値や可視強度値S、ステップ1418で設定した透かし画像形状内強度値IN_A、初期設定で入力されるノイズ生成キーRN_Kとノイズ振幅RN_Aに基づき、埋め込み量決定関数F_Eを用いて、埋め込み対象画素に加算する埋め込み量ΔYを決定する。埋め込み量決定関数については埋め込み装置と同様であり、
ΔL=IN_A×(L_SHIFT(S)+RAND(RN_K)×RN_A)
となる。画像全体の可視型電子透かしの強さである可視強度値Sに加え、局所的な可視型電子透かしの強さである透かし画像形状内強度値IN_Aの強度を考慮して、明度変更量ΔLを計算している。
【0259】
次にステップS1412では、ステップS1410で決定された埋め込み量ΔYを入力画素の画素値から減算する処理を行う。このとき減算後の画素値が表現可能な階調を超える場合は加算処理で表現可能な階調の範囲に収められたと考えられるため、単純な減算処理ではなく、減算後に最大表現可能階調数(8ビットなら256階調)の範囲に収める。
【0260】
なお第1の実施形態の最後で述べたように、第4の実施形態においても、加算処理後の画素値が表現可能な階調範囲に収まらない場合には、埋め込みを行わくてもよい。その場合に可逆を実現するために、埋め込みを行わなかった情報を透かし画像形状情報Mに反映した修正透かし画像形状情報M’を生成し、鍵情報として出力してもよいとする。
【0261】
次にステップS1414では、出力画像Wに加算後の画素値を書き込む、書き込み処理を実行し、ステップS1416で、全ての画素が処理されたかを判定し、未処理の画素があるならステップS1404に戻り、前述の処理を全ての画素が終了するまで続行する。
【0262】
以上、本第4の実施形態における可視型電子透かし除去装置の概要を述べた。
【0263】
本第4の実施形態では、透かし画像形状の各位置において透かし画像形状内部の相対的な透かし強度を表す値を保持させることにより、立体感のある可視透かしの埋め込みが可能となる。なお、本第4の実施形態における多値の画像形状情報を、第2の実施形態に適用した場合について説明したが、第1の実施形態に適用させてもよい。
【0264】
<第5の実施形態>
上記各実施形態では、画素単位で画素単位でノイズ付加処理を行う場合について想定したが、本第5の実施の形態では、JPEGやJPEG2000等の圧縮符号化画像に対して、可逆のノイズを付加する場合について説明する。
【0265】
JPEGやJPEG2000等の圧縮符号化方式では、入力色成分は規定されないが、一般にR(赤)、G(緑)、B(青)の色成分を、Y(輝度)、Cb(色差)、Cr(色差)に変換後、離散コサイン変換や離散ウェーブレット変換を実行する場合が多い。
【0266】
従って、JPEGやJPEG2000圧縮符号化されたカラー画像の輝度成分を表す周波数変換係数を可視型電子透かしの埋め込み成分として用いることで、特別な工夫なしに輝度値に埋め込むことが可能となる。
【0267】
JPEG圧縮符号化方式では、ブロック単位の圧縮符号化が行われている。例えば、JPEG圧縮符号化画像には、最小符号化単位(通常8×8画素)が存在し、その単位毎に圧縮符号化の基本的な処理が行われている。従って、JPEG圧縮符号化画像に可視型電子透かしを埋め込む場合、透かし画像形状情報は、画素単位でなく、最小符号化単位とすると、先に説明した各実施形態の手法を応用し易い。
【0268】
より詳しく説明すると、画像を8×8画素ブロック単位に周波数成分データに変換するために先ずDCT変換を行う。そして、この画素ブロックが、ノイズを多重化すべき位置にない場合には、通常のJPEG符号化を行う。一方、多重化すべき位置にあると判断した場合には、DCT変換した結果得られる直流成分DCの値を構成するビットに対し、第1乃至第4のの実施形態と同様の処理を行う。この際、可視強度値Sをも参酌することは第1乃至第4の実施形態と同様である。また、近傍領域は、その近傍に位置する画素ブロックの直交変換後の直流成分を用いることになろだろう。場合によっては、注目画素ブロックのDCT変換後の交流成分を近傍領域として採用しても良い。
【0269】
図15の1501は、JPEG圧縮符号化方式において、画像を最小符号化単位毎にブロック化して図示した図である。JPEG圧縮符号化画像の場合、最小符号化単位内(801)で離散コサイン変換(DCT)が実行される。802はDCT変換後の最小符号化単位ごとに得られるDCT係数の直流(DC)成分(平均値)であり、それ以外の63個の係数が交流AC係数である。
【0270】
従って、最小符号化単位事に、DCT係数の直流成分に対して、第1、第3の実施形態で述べたような演算ビット領域の算出処理や、第2、第4の実施形態で述べた加算処理を行えば、最小符号化単位内の平均値を変化させることができ、画素ブロック単位の可視型電子透かしが実現できる。
【0271】
なお、第2の実施形態に適用するのであれば、注目画素ブロックの直流成分を明度に変換する。そして、近傍の画素ブロックの直流値から明度Lを算出し、先に説明したように、明度変更量を決定し、それを注目画素ブロックの明度値に加算し、輝度値に戻すようにすれば良いであろう。
【0272】
従って透かし画像形状情報は、埋め込み対象最小符号化単位ブロックを指定する情報とすれば、第1乃至第4のの実施形態を適用できるのは容易に理解できよう。また、上記各実施形態に対する更なるメリットの1つは、画像形状情報Mのサイズを小さくできることである。すなわち、JPEGの場合、8×8画素単位に多重化するか否かを決定するものであるから、画像形状情報(2値、或いは多値であっても)の1画素が、原画像の8×8画素に対応するものとして利用すれば良いからである(1/64の容量で済むことになる)。
【0273】
なお、ノイズを除去する場合、逆DCT変換処理を行う前段階で、処理対象となるブロックが、ノイズ埋め込み対象であるか否かを画像形状情報に基づいて判断する。ノイズ埋め込み対象外であると判断した場合には、通常の処理を経て復号化する。そして、ノイズ埋め込み対象であると判断した場合、例えば、第1の実施形態に適用するのであれば、その直流成分における演算ビット領域を、可視強度値Sで決定された演算ビット領域決定テーブルTを参照して求め(特定し)、そのテーブルから、近傍領域の復元済みの直流成分より演算ビット領域を決定する。そして、乱数により発生したシリアルビット系列との論理演算(第1の実施形態に従えば排他論理和)を行うことで、復元することになる。ただし、JPEG圧縮符号化では、量子化処理によりデータを破棄しているので、100%オリジナルにまでは復元はできない。しかしながら、本第5の実施形態においても、少なくとも、通常のJPEGによる復号結果と同等の品質にまでオリジナルに近く、ノイズを除去した画像を得ることができる。
【0274】
また、近傍領域解析値(近傍領域特性値)としては、複数の近隣の最小符号単位ブロック内のDCT係数や埋め込み対象ブロックである最小符号化単位内の他のDCT係数を用いてもよい。埋め込み対象ブロックである最小符号化単位内の交流成分であるAC係数は、埋め込み対象ブロックの周波数特性を表しており、近傍領域解析値(近傍領域特性値)としても効果的に使うことが出来る。
【0275】
一方、JPEG2000圧縮符号化画像では、離散ウェーブレット変換(DWT)を用いて、画像の形状情報を保持しつつ、画像を低周波から高周波成分に渡って段階的に帯域ごとに分割し、圧縮符号化する。
【0276】
図16はJPEG2000圧縮符号化方式における離散ウェーブレット変換による帯域分割の様子を図的に示した図である。
【0277】
離散ウェーブレット変換では、画像に影響が大きい低周波画像成分はLLに集まり、LLは原画像の画像特徴をよく保存している。従って、埋め込みに用いる要素を離散ウェーブレット変換(DWT)の低周波成分(LL)とすると、第1乃至第4の実施形態と比較的近い形で可逆のノイズ付加を行うことが可能である。
【0278】
離散ウェーブレット変換(DWT)の低周波成分(LL)に埋め込む場合は、第2、第3の近傍領域に対応する領域としては、近隣のLLだけでなく、LLとツリー構造をなしている他のサブバンド(HL2、LH2、HH2、HL1、LH1、HH1)のDWT係数も近傍領域として用いてよい。図16において、LLの番号1のDWT係数とツリー構造をなしているDWT係数は、番号2(HL2)、番号3(LH2)、番号4(HH2)、番号5(HL1)、番号6(LH1)、番号7(HH1)である。なお、近隣のLL成分とツリー構造をなしている他のサブバンドのDWT係数も同様に近傍領域としてよい。
【0279】
上記サブバンドのDWT係数からは原画像の埋め込み対象である区域の周波数特性の情報が得られるため、可視型電子透かしの強度を決める近傍領域特性値としても有効である。
【0280】
なお、第1〜第4の実施形態で説明した手法をJPEG2000圧縮符号化画像の離散ウェーブレット変換(DWT)係数に適用する場合、DWT係数は正負の値を取りうることを考慮し、演算ビット領域決定テーブルを設計する必要がある。
【0281】
また、JPEG2000圧縮符号化画像の場合、ROI(Region ofInterest:関心領域)のために、画像サイズと同じサイズを持つ1ビットのビットプレーンが用意される。(JPEG2000の基本符号化システムでは、ROI領域だけシフトアップして符号化される。)
従って、関心領域が特に存在せず、透かし画像形状情報を透かし画像として画像鑑賞者に示したい場合、透かし画像形状情報をROIに設定してもよい。
【0282】
例えば、著作権情報を示す可視のロゴ情報をROIに記述しておけば、コンテンツ配信で画像情報を伝送する際に、ロゴ情報から先に視聴者に示すことが出来、利用者にコンテンツの著作権者を明示する効果も実現できる。
【0283】
さらに、透かし画像形状情報は既にROI情報として、画像と共に符号化されているため、可視型電子透かしを除去する際に必要な鍵情報が僅かですむというメリットがある。
【0284】
また、可視型電子透かしの除去に必要な透かし画像形状情報は、画像ファイルのヘッダ等の所定位置に添付することも可能である。このとき、可視型電子透かしが埋め込まれた画像から原画像に戻すときに、画像ファイル以外に必要な鍵情報だけですみ、配送する情報量を削減できる効果もある。
【0285】
また、可視型電子透かしの除去に必要な鍵(および透かし画像形状情報)は比較的情報量が少ない為、画像ファイルのヘッダ等の所定位置に添付することも可能である。このとき、特定の利用者のみ可視型電子透かしの除去を可能するため、上記の鍵(および透かし画像形状情報)を所定の暗号方式(例えば、公開鍵暗号方式)で暗号化し、画像ファイルのヘッダ等の所定位置に添付してもよい。
【0286】
第1、第3の実施の形態では、暗号方式としては、非排他的論理和(XOR演算)の場合のみ説明したが、所定の処理単位(例えば64ビット)となるように複数の演算ビット領域を集め、DES等の共通鍵暗号方式や、公開鍵暗号方式を用いることも可能である。
【0287】
第1、第3の実施の形態の場合、埋め込み対象画素から可視型電子透かしを除去するときに、既に近傍領域が復元されている必要がある。従って、埋め込み対象画素の左横を近傍領域とする場合には、縦方向の複数の画素の演算ビット領域から、所定の単位のビット数を集め、暗号化する等の工夫が必要となる。
【0288】
また、DES等の所定の処理単位毎に処理を行うブロック暗号方式に属する共通鍵暗号方式を用いる場合には、集めたビット数が所定の処理単位に満たない場合には、足りないビット数だけ0や1をパディングし所定単位を満たし、暗号化を行うとよい。このとき元の画素位置に格納できないビットは、ヘッダ等のファイルの所定位置に付加するとよい。
【0289】
あるいは、1〜数ビット単位で処理できる(共通鍵暗号方式に属する)ストリーム暗号方式に属する暗号方式を用いてもよい。
【0290】
このとき第1や第3の実施の形態において、初期設定で入力されるのは乱数キーではなく、共通鍵暗号方式では共通鍵、公開鍵暗号方式では埋め込み時には公開鍵、抽出時に秘密鍵となる。
【0291】
本実施形態では、暗号化方式としてDESを例に挙げたが、他の共通鍵暗号方式、例えば、AES、FEAL、IDEA、RC2、RC4、RC5、MISTY、シーザー型暗号、ビジネル暗号・ビューフォート暗号、プレイフェア暗号、ヒル暗号、バーナム暗号等を用いることもできる。
【0292】
また本実施形態では、静止画像について説明を行ったが、動画像に対しても同様の原理が適用できることは容易に想像できる。例えば、MPEG圧縮符号化方式の場合、中間フレームを埋め込みの対象とすることで、比較的容易に可逆ノイズを埋め込むことが出来る。MotionJPEG2000の場合は時間フレーム方向にJPEG2000圧縮符号化画像と同様の手法で可逆ノイズの埋め込みを繰り返すことで埋め込み可能である。従って、動画像に対して可逆ノイズを加えることも本発明の範疇である。
【0293】
本発明では、画像の画素値に応じた可逆のノイズを加えることを主眼に説明を行ったが、透かし画像形状情報に強いノイズを加えることで可視の電子透かしとすることも可能であり、本発明で述べた方式を用いた可視型電子透かしの埋め込みも本発明の範疇である。
【0294】
最後に、本発明の実施形態における可視型電子透かしの効果を示す為、可視型電子透かしを埋め込んだ画像を例示する。
【0295】
ただし、各画像は、本来は多値、すなわち、1画素が多ビットで構成される階調画像であるが、特許出願の明細書に添付する図面は2値画像のみであって多値画像が扱えない。従って、以下に説明する各画像はノイズ多重化した後の多値階調画像そのものではなく、それを更に誤差拡散処理でもって2値化した結果で示していることに留意されたい。
【0296】
図18は、本発明における可視型電子透かし埋め込みサンプル生成の為の原画像であり、縦640画素×横480画素の8ビットグレースケール画像である。
【0297】
図19は、第3の実施形態の方法により図17の可視型電子透かしを埋め込んだ画像である。埋め込み対象画素の左横を近傍領域として演算ビット領域を決定し、埋め込み位置に依存した鍵から生成されるシリアルビット系列と演算ビット領域の間でXOR演算を行い、演算結果を置き換えた画像である。なお、埋め込み強度はΔL_S=30である。
【0298】
原画像の特徴を保持しつつ、可視型電子透かしを画像の鑑賞者に提示している。
【0299】
図20は、第2の実施形態の方法により、図17の可視型電子透かしを埋め込んだ画像である。埋め込み対象画素の左横を近傍領域とし、明度シフト値ΔL_S=5、ノイズ成分RN=0、閾値設定タイプI(閾値128)である。原画像の特徴を保持しつつ、付加情報内(文字内部)で、背景が透けて見えるようになり、尚且つ、明るい部分、暗い部分等、どのような階調でもほぼ均等に知覚できる可視型電子透かしが実現されている。
【0300】
図21は、第4の実施形態における、透かし画像形状情報を表す画像である。図17と異なり、透かし画像形状内部で相対的な強度を持っている。
【0301】
図22は、第4の実施形態の方法により図21の可視型電子透かしを埋め込んだ画像である。埋め込み対象画素の左横を近傍領域とし、明度シフト値ΔL_S=10、ノイズ成分RN=0、閾値設定タイプI(閾値128)である。
【0302】
図20と異なり、可視型電子透かしが立体的に浮かび上がる効果を持つのが分かるであろう。
【0303】
なお、図18乃至図22では、近傍領域解析手段で周波数特性等を含む近傍領域特性値を計算していないため、高周波領域で若干可視型電子透かしが見えにくくなっている。しかし本発明で既に述べたように近傍領域解析値の中の近傍領域特性値に従って、明度シフト値やノイズ成分を増減させることにより、画像全体で均一に見えるように調整することも可能である。
【0304】
以上実施形態について説明したが、上記の説明からも明らかなように、本実施形態を実現するその殆どは、ソフトウェアでもって実現できるものである。通常、パーソナルコンピュータ等の汎用情報処理装置にコンピュータプログラムを導入する場合、フロッピー(登録商標)ディスクやCDROM、或いは、半導体メモリカード等のコンピュータ可読記憶媒体を装置にセットし、インストールプログラムを実行するか、或いは、システムにコピーすることになるので、かかるコンピュータ可読記憶媒体も本願発明の範疇に含まれるのは明らかである。
【0305】
また、コンピュータ上で稼働しているOS等が処理の一部又は全部を行う場合、あるいは記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された拡張機能ボードやコンピュータに接続された拡張機能ユニットに備わるメモリに書き込まれた後、そのプログラムコードの指示に基づいて、上記拡張機能ボードや拡張機能ユニットに備わるCPU等が処理の一部又は全部を行う場合にも、各実施の形態と同等の機能を実現できると共に、同等の効果を得ることができ、本発明の目的を達成することができる。
【0306】
以上説明したように、本実施形態によれば、入力画像、前記透かし画像の画像形状を表す透かし画像形状情報、鍵及び透かし画像の強さを表す透かし強度値を入力とし、透かし画像形状情報によって示される透かし画像形状内に含まれる位置の入力画像の構成要素の構成値に対し、入力画像の構成要素の構成値の一部または近傍領域を参照し、更に鍵に基づいた演算を行うことで前記構成値の変更を行い、入力画像の特徴を維持しつつ、高画質かつセキュリティ性の高い可視型電子透かしを原画像に埋め込むことができ、著作権の保護を十分行うことができる。
【0307】
また、可視型電子透かしが埋め込まれた画像と透かし画像形状情報と鍵と透かし強度値を入力し、上記演算と逆の演算を行うことにより、電子透かしを解除して原画像を復元することができる。
【0308】
【発明の効果】
以上説明したように本発明によれば、ノイズを多重化して目視可能な付加情報を可逆的に多値画像に多重化させるだけでなく、その付加情報が多重化される部分でもってオリジナル画像の持つ雰囲気を損なわず、自然な可視付加情報を可逆的に多重化させることができようになる。また、付加情報を除去することでオリジナル画像、もしくはオリジナル画像に近い画像まで復元することが可能になる。
【図面の簡単な説明】
【図1】第1の実施形態における可視型電子透かし埋め込み処理の手順を示すフローチャートである。
【図2】演算処理内容を示す図である。
【図3】演算ビット領域決定処理を実行する演算ビット領域決定部の内部構成を示すブロック図である。
【図4】第1の実施形態における演算ビット領域決定テーブルの一例を示す図である。
【図5】近傍領域選択解析処理を実行する近傍領域選択解析部の内部構成を示すブロック図である。
【図6】第1の実施形態における入力画像と多重化後の画像の対応関係を示す図である。
【図7】第1の実施形態における可視型電子透かし除去処理のフローチャートである。
【図8】第2の実施形態における可視型電子透かし埋め込み処理のフローチャートである。
【図9】第2の実施形態における可視型電子透かし除去処理のフローチャートである。
【図10】埋め込み量決定処理を実行する埋め込み量決定部の内部構成を示すブロック図である。
【図11】埋め込み量の正負の符号を決定する為の閾値設定を説明する図である。
【図12】第3の実施形態における透かし画像形状情報の一例を示す図である。
【図13】第3の実施形態における可視型電子透かし埋め込み処理のフローチャートの一例である。
【図14】第3の実施形態における可視型電子透かし除去処理のフローチャートの一例である。
【図15】JPEG圧縮符号化方式における最小符号化単位を示す図である。
【図16】JPEG2000圧縮符号化方式における離散ウェーブレット変換による帯域分割の様子を示す図である。
【図17】実施形態における可視型電子透かし埋め込み用の画像形状情報の一例を示す図である。
【図18】ノイズ多重化する対象となるオリジナル画像の一例を示す図である。
【図19】第3の実施形態の方法により可視型電子透かしを埋め込んだサンプル画像を示す図である。
【図20】第2の実施形態の方法により可視型電子透かしを埋め込んだサンプル画像を示す図である。
【図21】第4の実施形態における透かし画像形状内部で相対的な強度を持つ透かし画像形状情報の一例を示す図である。
【図22】第4の実施形態の方法により可視型電子透かしを埋め込んだサンプル画像を示す図である。
【図23】実施形態における装置の具体的なブロック構成図である。

Claims (14)

  1. 少なくとも輝度を主成分とする多値画像データにノイズを多重化して、当該ノイズの多重化した分布による目視可能な付加情報を埋め込む画像処理装置であって、
    画素単位にノイズを多重化する/しないを示す情報を、前記付加情報として入力する入力手段と、
    前記付加情報に基づき、多値画像データ中の注目画素が、ノイズを多重化する位置にあるのか否かを判定する判定手段と、
    該判定手段によって前記注目画素がノイズ多重化する位置にあると判定された場合、注目画素の近傍領域の輝度値に基づき、注目画素に加算する加算輝度値を算出する輝度値算出手段と、
    算出された加算輝度を注目画素の輝度値に加算する加算手段とを備え、
    前記輝度値算出手段は、
    前記近傍領域のデータを明度値に変換する第1の変換手段と、
    前記注目画素に対して可逆ノイズを多重化するための鍵情報と、前記近傍領域の輝度値に基づき、前記近傍領域に対する明度変更量を算出する変更量算出手段と、
    算出された明度変更量を、前記第1の変換手段で変換された明度値に加算する明度加算手段と、
    該明度加算手段で得られた明度値を輝度値に変換する第2の変換手段と、
    該第2の変換手段で得られた輝度値と、前記近傍領域の輝度値と差分を前記加算輝度値として算出する手段と
    を備えることを特徴とする画像処理装置。
  2. 前記変更量算出手段は、前記近傍領域の輝度或いは明度値に基づき、変更する正負の符号を決定する手段を含むことを特徴とする請求項に記載の画像処理装置。
  3. 前記鍵情報には、埋め込むノイズの強度情報、ノイズの発生する乱数キー、その振幅が含まれることを特徴とする請求項に記載の画像処理装置。
  4. 前記入力手段で入力する、画素単位にノイズを多重化する/しないを示す情報は多値で表現される情報であって、多重化する場合においてはその多重化する際の可視強度のレベルが格納されていることを特徴とする請求項1乃至のいずれか1項に記載の画像処理装置。
  5. 前記加算手段における加算後の輝度値が表現可能な階調範囲を超えるとき、対応する画素へ前記加算輝度値を加算せず、前記付加情報の対応する位置のノイズを多重化する/しないを示す情報を、ノイズを多重化しないに変更することを特徴とする請求項1に記載の画像処理装置。
  6. ノイズが可逆的に埋め込まれ、目視可能な付加情報が多重化された多値画像データから、前記付加情報を除去する画像処理装置であって、
    画素単位にノイズを多重化する/しないを示す情報を、前記付加情報として入力する入力手段と、
    前記付加情報に基づき、多値画像データ中の注目画素が、ノイズが多重化された位置にあるのか否かを判定する判定手段と、
    該判定手段によって、注目画素がノイズの多重化された位置にあると判定した場合、注目画素に対して除去処理が完了した近傍領域の輝度に基づき、注目画素に加算された加算輝度値を算出する加算輝度値算出手段と、
    算出された輝度値を前記注目画素の輝度値より減じる減算手段と
    を備えることを特徴とする画像処理装置。
  7. 複数の色成分から構成される多値画像データにノイズを多重化して、当該ノイズの多重化した分布による目視可能な付加情報を埋め込む画像処理装置であって、
    画素単位にノイズを多重化する/しないを示す情報を、前記付加情報として入力する入力手段と、
    前記付加情報に基づき、多値画像データ中の注目画素が、ノイズを多重化する位置にあるのか否かを判定する判定手段と、
    該判定手段によって前記注目画素がノイズ多重化する位置にあると判定された場合、注目画素の近傍領域の輝度値に基づき、注目画素の複数の色成分に加算する加算画素値を算出する加算画素値算出手段と、
    算出された加算画素値を注目画素の画素値に加算する加算手段とを備え、
    前記加算画素値算出手段は、
    前記近傍領域の画素値から輝度値を計算する手段と、
    前記輝度値を明度値に変換する第1の変換手段と、
    前記注目画素に対して可逆ノイズを多重化するための鍵情報と、前記近傍領域の輝度値に基づき、前記近傍領域に対する明度変更量を算出する変更量算出手段と、
    算出された明度変更量を、前記第1の変換手段で変換された明度値に加算する明度加算手段と、
    該明度加算手段で得られた明度値を輝度値に変換する第2の変換手段と、
    該第2の変換手段で得られた輝度値を複数の画素値に変換する第3の変換手段と、
    該第3の変換手段で得られた画素値と、前記近傍領域の画素値と差分を前記加算画素値として算出する手段と
    を備えることを特徴とする画像処理装置。
  8. ノイズが可逆的に埋め込まれ、目視可能な付加情報が多重化された多値画像データから、前記付加情報を除去する画像処理装置であって、
    画素単位にノイズを多重化する/しないを示す情報を、前記付加情報として入力する入力手段と、
    前記付加情報に基づき、多値画像データ中の注目画素が、ノイズが多重化された位置にあるのか否かを判定する判定手段と、
    該判定手段によって、注目画素がノイズの多重化された位置にあると判定した場合、注目画素に対して除去処理が完了した近傍領域の輝度に基づき、注目画素に加算された加算画素値を算出する加算画素値算出手段と、
    算出された画素値を前記注目画素の画素値より減じる減算手段と
    を備えることを特徴とする画像処理装置。
  9. 少なくとも輝度を主成分とする多値画像データにノイズを多重化して、当該ノイズの多重化した分布による目視可能な付加情報を埋め込む画像処理方法であって、
    画素単位にノイズを多重化する/しないを示す情報を、前記付加情報として入力する入力工程と、
    前記付加情報に基づき、多値画像データ中の注目画素が、ノイズを多重化する位置にあるのか否かを判定する判定工程と、
    該判定工程によって前記注目画素がノイズ多重化する位置にあると判定された場合、注目画素の近傍領域の輝度値に基づき、注目画素に加算する加算輝度値を算出する輝度値算出工程と、
    算出された加算輝度を注目画素の輝度値に加算する加算工程とを備え、
    前記輝度値算出工程は、
    前記近傍領域のデータを明度値に変換する第1の変換工程と、
    前記注目画素に対して可逆ノイズを多重化するための鍵情報と、前記近傍領域の輝度値に基づき、前記近傍領域に対する明度変更量を算出する変更量算出工程と、
    算出された明度変更量を、前記第1の変換工程で変換された明度値に加算する明度加算工程と、
    該明度加算工程で得られた明度値を輝度値に変換する第2の変換工程と、
    該第2の変換工程で得られた輝度値と、前記近傍領域の輝度値と差分を前記加算輝度値として算出する工程と
    を備えることを特徴とする画像処理方法。
  10. ノイズが可逆的に埋め込まれ、目視可能な付加情報が多重化された多値画像データから、前記付加情報を除去する画像処理方法であって、
    画素単位にノイズを多重化する/しないを示す情報を、前記付加情報として入力する入力工程と、
    前記付加情報に基づき、多値画像データ中の注目画素が、ノイズが多重化された位置にあるのか否かを判定する判定工程と、
    該判定工程によって、注目画素がノイズの多重化された位置にあると判定した場合、注目画素に対して除去処理が完了した近傍領域の輝度に基づき、注目画素に加算された加算輝度値を算出する加算輝度値算出工程と、
    算出された輝度値を前記注目画素の輝度値より減じる減算工程と
    を備えることを特徴とする画像処理方法。
  11. 複数の色成分から構成される多値画像データにノイズを多重化して、当該ノイズの多重化した分布による目視可能な付加情報を埋め込む画像処理方法であって、
    画素単位にノイズを多重化する/しないを示す情報を、前記付加情報として入力する入力工程と、
    前記付加情報に基づき、多値画像データ中の注目画素が、ノイズを多重化する位置にあるのか否かを判定する判定工程と、
    該判定工程によって前記注目画素がノイズ多重化する位置にあると判定された場合、注目画素の近傍領域の輝度値に基づき、注目画素の複数の色成分に加算する加算画素値を算出する加算画素値算出工程と、
    算出された加算画素値を注目画素の画素値に加算する加算工程とを備え、
    前記加算画素値算出工程は、
    前記近傍領域の画素値から輝度値を計算する工程と、
    前記輝度値を明度値に変換する第1の変換工程と、
    前記注目画素に対して可逆ノイズを多重化するための鍵情報と、前記近傍領域の輝度値に基づき、前記近傍領域に対する明度変更量を算出する変更量算出工程と、
    算出された明度変更量を、前記第1の変換工程で変換された明度値に加算する明度加算工程と、
    該明度加算工程で得られた明度値を輝度値に変換する第2の変換工程と、
    該第2の変換工程で得られた輝度値を複数の画素値に変換する第3の変換工程と、
    該第3の変換工程で得られた画素値と、前記近傍領域の画素値と差分を前記加算画素値として算出する工程と
    を備えることを特徴とする画像処理方法。
  12. ノイズが可逆的に埋め込まれ、目視可能な付加情報が多重化された多値画像データから、前記付加情報を除去する画像処理方法であって、
    画素単位にノイズを多重化する/しないを示す情報を、前記付加情報として入力する入力工程と、
    前記付加情報に基づき、多値画像データ中の注目画素が、ノイズが多重化された位置にあるのか否かを判定する判定工程と、
    該判定工程によって、注目画素がノイズの多重化された位置にあると判定した場合、注目画素に対して除去処理が完了した近傍領域の輝度に基づき、注目画素に加算された加算画素値を算出する加算画素値算出工程と、
    算出された画素値を前記注目画素の画素値より減じる減算工程と
    を備えることを特徴とする画像処理方法。
  13. 請求項1乃至のいずれか1項に記載の画像処理装置の機能をコンピュータに実現させるためのコンピュータプログラム。
  14. 請求項13に記載のコンピュータプログラムを格納したことを特徴とするコンピュータ可読記憶媒体。
JP2002191126A 2002-06-28 2002-06-28 画像処理装置及び方法、並びにコンピュータプログラム及びコンピュータ可読記憶媒体 Expired - Fee Related JP3958128B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2002191126A JP3958128B2 (ja) 2002-06-28 2002-06-28 画像処理装置及び方法、並びにコンピュータプログラム及びコンピュータ可読記憶媒体
US10/600,582 US7197162B2 (en) 2002-06-28 2003-06-23 Image processing apparatus and method, computer program, and computer-readable storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002191126A JP3958128B2 (ja) 2002-06-28 2002-06-28 画像処理装置及び方法、並びにコンピュータプログラム及びコンピュータ可読記憶媒体

Publications (3)

Publication Number Publication Date
JP2004040234A JP2004040234A (ja) 2004-02-05
JP2004040234A5 JP2004040234A5 (ja) 2005-10-20
JP3958128B2 true JP3958128B2 (ja) 2007-08-15

Family

ID=29774356

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002191126A Expired - Fee Related JP3958128B2 (ja) 2002-06-28 2002-06-28 画像処理装置及び方法、並びにコンピュータプログラム及びコンピュータ可読記憶媒体

Country Status (2)

Country Link
US (1) US7197162B2 (ja)
JP (1) JP3958128B2 (ja)

Families Citing this family (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8457346B2 (en) 2001-04-24 2013-06-04 Digimarc Corporation Digital watermarking image signals on-chip
MXPA04011277A (es) * 2002-05-14 2006-02-22 Mediasec Technologies Gmbh Patrones de autenticacion visibles para documento impreso.
JP2004282677A (ja) * 2003-01-21 2004-10-07 Canon Inc 画像処理方法
US7257251B2 (en) * 2003-08-28 2007-08-14 Sharp Laboratories Of America, Inc. Chrominance smoothing
US8049933B2 (en) 2003-09-17 2011-11-01 Canon Kabushiki Kaisha Copy-forgery-inhibited pattern image generation method and image processing apparatus
US20050058476A1 (en) 2003-09-17 2005-03-17 Canon Kabushiki Kaisha Copy-forgery-inhibited pattern density parameter determination method, copy-forgery-inhibited pattern image generation method, and image processing apparatus
JP4428036B2 (ja) * 2003-12-02 2010-03-10 ソニー株式会社 情報処理装置および方法、プログラム、並びに、情報処理システムおよび方法
JP2005192001A (ja) * 2003-12-26 2005-07-14 Toshiba Corp 電子透かし埋め込み方法および電子透かし埋め込み装置
US8407479B2 (en) * 2003-12-31 2013-03-26 Honeywell International Inc. Data authentication and tamper detection
JP4507189B2 (ja) * 2004-02-18 2010-07-21 株式会社リコー 画像処理方法、装置、プログラムおよび記録媒体
JP4079894B2 (ja) * 2004-02-26 2008-04-23 富士フイルム株式会社 電子透かし装置及び電子透かしプログラム
US7659914B1 (en) * 2005-06-14 2010-02-09 Sylvia Tatevosian Rostami Generation of an image from text
JP4183262B2 (ja) 2005-07-29 2008-11-19 キヤノン株式会社 画像処理装置、画像処理装置の制御方法及びコンピュータ可読記憶媒体
JP2007208736A (ja) * 2006-02-02 2007-08-16 Canon Inc 色処理方法および装置
JP2008085695A (ja) * 2006-09-28 2008-04-10 Fujitsu Ltd 電子透かし埋め込み装置および検出装置
KR101478669B1 (ko) * 2006-09-29 2015-01-02 톰슨 라이센싱 적응성 픽셀-기반의 필터링을 위한 자동 파라미터 추정
US20090080688A1 (en) * 2007-09-25 2009-03-26 The Hong Kong University Of Science And Technology Digital watermarking for few-color images
US8401223B2 (en) * 2008-10-20 2013-03-19 Virginia Venture Industries, Llc Embedding and decoding three-dimensional watermarks into stereoscopic images
US8234496B1 (en) * 2009-03-06 2012-07-31 Trend Micro, Inc. Image leak prevention using digital watermark
BR102014007666B1 (pt) * 2014-03-28 2023-01-10 Samsung Eletrônica Da Amazônia Ltda Método para autenticação de transações móveis usando criptografia de vídeo e método para criptografia de vídeo
US20210203994A1 (en) * 2015-06-12 2021-07-01 Shaoher Pan Encoding data in a source image with watermark image codes
US10863202B2 (en) * 2015-06-12 2020-12-08 Shaoher Pan Encoding data in a source image with watermark image codes
CN108876691B (zh) * 2017-05-10 2022-03-08 北京大学 自适应可逆水印方法及系统
CN108711130B (zh) * 2018-04-24 2022-03-08 东南大学 基于压缩感知噪声重构的图像水印系统与方法
CN112541853A (zh) * 2019-09-23 2021-03-23 阿里巴巴集团控股有限公司 数据处理方法、装置及设备

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6611607B1 (en) * 1993-11-18 2003-08-26 Digimarc Corporation Integrating digital watermarks in multimedia content
JP3434088B2 (ja) 1995-01-17 2003-08-04 日本電信電話株式会社 画像データ変換装置およびその逆変換装置
US5530759A (en) * 1995-02-01 1996-06-25 International Business Machines Corporation Color correct digital watermarking of images
US6233347B1 (en) * 1998-05-21 2001-05-15 Massachusetts Institute Of Technology System method, and product for information embedding using an ensemble of non-intersecting embedding generators
US6154571A (en) * 1998-06-24 2000-11-28 Nec Research Institute, Inc. Robust digital watermarking
JP3748495B2 (ja) 1998-12-11 2006-02-22 キヤノン株式会社 画像処理方法、画像処理装置、画像配付システム及び記憶媒体
US6801636B2 (en) * 2000-01-31 2004-10-05 Canon Kabushiki Kaisha Image processing apparatus and method, and storage medium
JP4218920B2 (ja) * 2000-04-07 2009-02-04 キヤノン株式会社 画像処理装置及び画像処理方法並びに記憶媒体
US6996248B2 (en) * 2001-06-13 2006-02-07 Qualcomm, Incorporated Apparatus and method for watermarking a digital image

Also Published As

Publication number Publication date
JP2004040234A (ja) 2004-02-05
US7197162B2 (en) 2007-03-27
US20040001610A1 (en) 2004-01-01

Similar Documents

Publication Publication Date Title
JP3958128B2 (ja) 画像処理装置及び方法、並びにコンピュータプログラム及びコンピュータ可読記憶媒体
EP1139650B1 (en) Method for embedding electronic watermark and method for decoding the same
Yu et al. A new steganographic method for color and grayscale image hiding
US7545938B2 (en) Digital watermarking which allows tampering to be detected on a block-specific basis
JP3919613B2 (ja) 画像処理装置及び方法、並びにコンピュータプログラム及びコンピュータ可読記憶媒体
KR19980069987A (ko) 화상 검증용 인비지블 화상 워터마크
JP3982686B2 (ja) 符号生成装置、符号生成プログラム、および記憶媒体
Yesilyurt et al. A new DCT based watermarking method using luminance component
Ulker et al. A novel secure model: Image steganography with logistic map and secret key
JP3919612B2 (ja) 画像処理装置及び方法、並びにコンピュータプログラム及びコンピュータ可読記憶媒体
Abdullah Text hiding based on hue content in HSV color space
JP4054619B2 (ja) 画像処理装置及び方法、並びにコンピュータプログラム及びコンピュータ可読記憶媒体
Chen et al. Robust spatial LSB watermarking of color images against JPEG compression
Al-Otum et al. Adaptive color image watermarking based on a modified improved pixel-wise masking technique
Bedi et al. 2L-DWTS—Steganography technique based on second level DWT
Sharma et al. Robust technique for steganography on Red component using 3-DWT-DCT transform
Negrat et al. Variable length encoding in multiple frequency domain steganography
Al-Otum et al. Color image watermarking based on self-embedded color permissibility with preserved high image quality and enhanced robustness
Verma et al. Robust color image watermarking scheme using JFIF-YCbCr color space in wavelet domain
Fujiyoshi et al. Modulo arithmetic-based image watermarking and its theoretical analysis of image-quality
Kao et al. Information Hiding in Lossy Compression Gray Scale Image
Chauhan et al. Digital Watermarking Of Satellite Images.
JP2004343474A (ja) 暗号情報埋め込み装置及び暗号情報再生装置
Gorbachev et al. On color-to-gray transformation for distributing color digital images
Muñoz-Ramírez et al. Steganographic Framework for Hiding a Color Image into Digital Images

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050609

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050609

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050614

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070123

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070129

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070328

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070423

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070509

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100518

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110518

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120518

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120518

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130518

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140518

Year of fee payment: 7

LAPS Cancellation because of no payment of annual fees