JP4199540B2 - ハーフトーンウォーターマーキングおよび関連アプリケーション - Google Patents

ハーフトーンウォーターマーキングおよび関連アプリケーション Download PDF

Info

Publication number
JP4199540B2
JP4199540B2 JP2002535062A JP2002535062A JP4199540B2 JP 4199540 B2 JP4199540 B2 JP 4199540B2 JP 2002535062 A JP2002535062 A JP 2002535062A JP 2002535062 A JP2002535062 A JP 2002535062A JP 4199540 B2 JP4199540 B2 JP 4199540B2
Authority
JP
Japan
Prior art keywords
watermark
image
halftone
signal
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2002535062A
Other languages
English (en)
Other versions
JP2004511938A (ja
Inventor
ハウ, エル. ブランク,
Original Assignee
ディジマーク コーポレイション
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from US09/689,226 external-priority patent/US6694041B1/en
Priority claimed from US09/840,016 external-priority patent/US6760464B2/en
Priority claimed from US09/938,870 external-priority patent/US7246239B2/en
Application filed by ディジマーク コーポレイション filed Critical ディジマーク コーポレイション
Publication of JP2004511938A publication Critical patent/JP2004511938A/ja
Application granted granted Critical
Publication of JP4199540B2 publication Critical patent/JP4199540B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/0021Image watermarking
    • G06T1/005Robust watermarking, e.g. average attack or collusion attack resistant
    • G06T1/0071Robust watermarking, e.g. average attack or collusion attack resistant using multiple or alternating watermarks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/004Diagnosis, testing or measuring for television systems or their details for digital television systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/442Monitoring of processes or resources, e.g. detecting the failure of a recording device, monitoring the downstream bandwidth, the number of times a movie has been viewed, the storage space available from the internal hard disk
    • H04N21/4425Monitoring of client processing errors or hardware failure
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/83Generation or processing of protective or descriptive data associated with content; Content structuring
    • H04N21/835Generation of protective data, e.g. certificates
    • H04N21/8358Generation of protective data, e.g. certificates involving watermark
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2201/00General purpose image data processing
    • G06T2201/005Image watermarking
    • G06T2201/0051Embedding of the watermark in the spatial domain

Description

【0001】
【技術分野】
本発明は、マルチメディア信号処理に関連しており、特に画像ウォーターマーキング方法およびその関連アプリケーションに関する。
【0002】
【背景および概要】
デジタルウォーターマーキングは、物理または電子メディアを変更して、機械可読コードをメディアに埋め込むプロセスである。埋め込まれたコードがユーザーには認識できないか或いはほとんど認識できないが、自動検出処理を介すると検出できるように、メディアを変更してもよい。最も一般的には、デジタルウォーターマーキングは、メディア信号(例えば画像、音声信号およびビデオ信号)に適用される。しかしながら、デジタルウォーターマーキングはまた、ドキュメント(例えば線、ワードまたはキャラクタシフト操作による)、ソフトウェア、多次元グラフィクスモデルおよびオブジェクトの表面テクスチャを含む他のタイプのメディアオブジェクトに適用されてもよい。
【0003】
デジタルウォーターマーキングシステムは、一般的に2つの主なコンポーネントを有している。それらは、ホストメディア信号にウォーターマークを埋め込むエンコーダと、ウォーターマークを含んでいる疑いのある信号(サスペクト信号)から埋め込まれたウォーターマークを検出して読み取るデコーダである。エンコーダは、ホストメディア信号を変更することによってウォーターマークを埋め込む。読み出しコンポーネントは、サスペクト信号を解析して、ウォーターマークが存在しているかどうかを検出する。ウォーターマークが情報をコード化しているアプリケーションでは、リーダが検出されたウォーターマークからこの情報を抽出する。
【0004】
いくつかの特定のウォーターマーキング技術が開発されてきた。リーダは、この分野の文献に精通していると推定される。認知できないウォーターマークをメディア信号に埋め込んで検出する特定の技術が、譲り受け人の特許出願中の番号09/503881および米国特許5,862,260で詳述されており、それらはここに参照として含まれる。
【0005】
本発明は、ハーフトーン画像のウォーターマーク方法およびシステムを提供する。
【0006】
本発明の1つの態様は、ハーフトーン画像をウォーターマーキングする方法である。この方法は、一組のハーフトーンのウォーターマーク値をハーフトーン画像内のロケーションに割り当て、ハーフトーン画像内の隣接するロケーションにハーフトーンウォーターマーク値に関連したエラーを拡散する。エラーは、ハーフトーンウォーターマークドットのロケーションでの多重レベルピクセル値と、ハーフトーンウォーターマークドットのハーフトーンウォーターマーク値との間の差として特徴づけられる。この方法は、他のウォーターマーク埋め込みステージとともに使われてよい。たとえば、ハーフトーンウォーターマーク用のキーを運ぶ堅固なウォーターマークが、ハーフトーンウォーターマークを埋め込む前に画像に埋め込まれてもよい。
【0007】
本発明の別の態様は、画像からハーフトーンウォーターマークをデコードする方法である。デコーディング方法は、ハーフトーンウォーターマークのロケーションおよび値を識別するのにキーを用いており、ロケーションにおけるピクセル値を解析して、そのロケーションでの値がキーによって指定される値に対応するかどうかを判断する。1つのアプリケーションにおいて、画像に埋め込まれる堅固なウォーターマークは、画像からハーフトーン・ウォーターマークをデコードするのに用いられるキーを運ぶ。デコーダは、ハーフトーン・ウォーターマーク入りの画像をスキャンして堅固なウォーターマークを読み取り、オプションとして方位信号を用いて走査画像の幾何学的ひずみを補正する。次いで、デコーダは、堅固なウォーターマークからキーを抽出して、検査機構にそれを通し、次に検査機構は、疑わしい画像の高解像度スキャンを検査して、ハーフトーン・ウォーターマークがキーによって指定されるロケーションで存在するどうかを判断する。
【0008】
本発明の別の態様は、ウォーターマークをハーフトーン画像に埋め込む別の方法である。この方法では、ハーフトーン画像でのピクセルロケーションに対応している値のアレーを備えるウォーターマーク画像が計算される。ウォーターマーク画像の値を用いてハーフトーン画像にウォーターマーク画像を埋め込んで、ピクセルロケーションでのしきい値が調整される。そのしきい値をハーフトーンプロセスで用いて、多重レベル/ピクセル画像(a multilevel per pixel image)での多重レベルピクセル値をハーフトーン画像のハーフトーンピクセル値に変換する。
【0009】
本発明の別の態様は、ウォーターマークをハーフトーン画像に埋め込む更なる別の方法である。この方法では、ハーフトーン解像度でターゲットハーフトーン画像のピクセルロケーションに対応する値のアレーを備えているウォーターマーク画像が計算される。次いで、ウォーターマーク画像値のアレーを、対応する多重レベル/ピクセル画像での多重レベルピクセル値と組み合わせて、ターゲットハーフトーン画像の解像度でウォーターマーク入りの多重レベル/ピクセル画像を生成する。最後に、ハーフトーンプロセスを実行して、ウォーターマーク入りの多重レベル/ピクセル画像をウォーターマーク入りのハーフトーン画像に変換する。
【0010】
本発明の別の態様は、ウォーターマークデコーダである。デコーダは、ウォーターマーク検出器およびリーダを含む。検出器は、画像の一部を解析して、画像に埋め込まれたウォーターマーク信号を検出する。画像は、ハーフトーン画像の解像度で埋め込まれたウォーターマーク画像を識別するのに十分に高い解像度で、ハーフトーンの印刷画像からスキャンされる。ウォーターマークリーダは、画像の一部からウォーターマーク信号を読み取って、一つ以上の記号を含む補助メッセージをデコードする。
【0011】
本発明の別の態様は、ハーフトーン画像にデジタルウォーターマークを埋め込む方法である。この方法では、マルチビットメッセージを冗長にコード化して、そのコード化されたメッセージを多重レベル/ピクセルウォーターマーク画像に変換する。次いで、多重レベル/ピクセルウォーターマーク画像からハーフトーンしきい値を導き出す。次に、これらしきい値を用いて、ターゲット画像をウォーターマーク入りのハーフトーン画像に変換する。
【0012】
ターゲット画像の多重レベルピクセルは、ウォーターマーク画像から導き出されたハーフトーンしきい値から対応するハーフトーンしきい値を選択するのに用いられる。選択されたしきい値は、対応するウォーターマーク画像の多重レベルピクセルに適用されて、ターゲット画像のウォーターマーク入りハーフトーン画像を作リ出す。
【0013】
本発明の別の態様は、デジタルウォーターマーク強度を測定する方法である。この方法では、ウォーターマーク入り信号は、ウォーターマーク入り信号に埋め込まれたエラー訂正コード化ビットの推定値が抽出されるように処理される。次いで、エラー訂正コード化ビットがデコードされて、メッセージペイロードを計算する。メッセージペイロードは再コード化されて、エラー訂正コード化ビットを計算する。ウォーターマーク強度の測定は、エラー訂正コード化ビットおよびエラー訂正コード化ビットの推定値から算定される。特に、1つのインプリメンテーションでは、ウォーターマーク入り信号からデコードされたソフトビット推定値に、対応する再計算されたエラー訂正コード化ビットを掛けて足すことで、ウォーターマーク信号強度の測定が得られる。この測定値は、しきい値と比較されて、例えば圧縮、スキャンおよび再印刷、フォトコピー等といった、ウォーターマーク入り信号への不正変更を検出する。
【0014】
印刷アプリケーションでは、ウォーターマーク検出器によって後にデコードされ、印刷オブジェクトのデジタルスキャンを検査して印刷オブジェクトが本物であるかどうかを判断するのに用いられるプリンター情報を運ぶのに、埋め込まれたデジタルウォーターマークを用いてよい。
【0015】
更なる特徴が、以下の詳細な説明および添付の図によって明らかになるであろう。
【0016】
【詳細な説明】
以下の説明は、ハーフトーン画像にウォーターマークを入れる方法およびその関連アプリケーションを詳述する。ウォーターマーキング方法は他のハーフトーン形式にも適用されているが、この説明では、ハーフトーン画像を生成するのに用いられるエラー拡散技術に適用可能な具体例を提供する。
【0017】
ハーフトーン画像を処理するのに用いられるエラー拡散の1つのフォームは、フロイド−スタインバーグ(Floyd-Steinberg)エラー拡散と呼ばれている。1ピクセル画像につき8ビットの典型的なインプリメンテーションでは、このエラー拡散方法は、第1の解像度(例えば200ピクセル/インチ)で0-255レベルの入力画像をとり、より高い解像度(例えば600ドット/インチ)を有するバイナリ画像を生じる。ここでは、各ピクセルが対応する多重レベル値(輝度値、またはシアン、マジェンタ、イエロー等のような他の幾つかのカラーチャンネルといった)を有する画像平面のインプリメンテーションに関して詳述する。本説明は、ピクセルごとに複数の多重レベル値を有するカラーイメージに適用される。このようなケースでは、ハーフトーンプロセスは、ピクセルごとにカラーチャンネルのそれぞれに作用し、各チャンネルに対してハーフトーン画像を生成する。
【0018】
第1のステップとして、入力画像はより高い解像度にアップサンプリングされる。アップサンプリングされた0-255レベルの600ピクセル/インチ(ppi)画像からバイナリ600ドット/インチ(dpi)画像を生成する一つの方法では、ピクセル値が128未満の場合、対応するバイナリ画像のロケーションで0を生じ、そうでない場合には、対応するロケーションが1に設定されるように、ピクセル値のしきい値を決めるものである。エラー拡散は、ラスター走査オーダーにおいてはこの一般的な方法をとるが、既に処理された近くのロケーションに各ロケーションでのエラーを「拡散する」ことによって改善されたパフォーマンスに達する。このエラー拡散は、図1で示されるように、重み付けマスクによって導かれる。
【0019】
「X」は目下処理されているピクセルロケーションを表しており、隣接したセルはロケーションからのエラーがどのように拡散するかを示している。このアルゴリズムに関しては、拡散エラーの和はロケーションXでの総エラーに等しい。いかなる特定のバイナリロケーションに関しても、この方法の正確度は単純なしきい値方法と同程度のものである。しかしながら、オリジナルの200ppi画像からのピクセルが対応する3×3バイナリ領域と比較された場合、その一つと共にあるセル数は多重レベルピクセル値と密接に相関している。
【0020】
基本エラー拡散アルゴリズムのより正確な説明は、3つの方程式を使用する。参照として含まれている、(1999年にThe International Society for Optical EngineeringおよびIEEEプレスから共同出版された)カン(Kang)による「デジタルカラーハーフトーニング(Digital Color Halftoning)」(359ページ)を参照されたい:
【数1】
Figure 0004199540
図1で示される重み付けマスクは、どのエラーが任意のロケーションに拡散されるかを示すのに変更可能である。図2は、このような変形実施例の例を示す。
【0021】
以下のセクションにおいて、バイナリ画像の指定されたドットロケーションに一組の二進値を備えるウォーターマークを埋め込む、修正エラー拡散方法について説明する。この方法では、アップサンプリングされたバイナリホスト画像、バイナリ画像でのドットロケーションのリストおよび対応するウォーターマークの二進値から始まる。この方法は、対応するウォーターマーク値をこれらロケーションに割り当て、他の(ウォーターマーク無しの)ロケーションでのエラー拡散アルゴリズムによって画像を改善するよう試みる。ウォーターマークが占める全ピクセルへの割合は小さいと仮定される。
【0022】
以上で紹介したエラー拡散アルゴリズムでは、アルゴリズムがすべての先行するロケーションで処理された後に、任意のロケーションのエラーは常に計算される。一般的に、アルゴリズムは、トップの行から開始されるピクセルのスキャンライン行を含み、各行にわたって左から右にスキャンされる矩形の画像をスキャンする。修正エラー拡散方法は始めに全ロケーションに対して誤差値を計算して、進行するのにつれて該誤差値を修正する。始めに、ウォーターマークでカバーされない全ロケーションのエラーはゼロに設定される。ウォーターマークでカバーされるロケーションに関しては、エラーは以下のように計算される:
【数2】
Figure 0004199540
ここで、W(m,n) はロケーション(m,n) でのウォーターマークの値である。新しいエラー拡散重みのセットが用いられ、ロケーションXへのエラー拡散のパターンが、図3で示される。
【0023】
この方法では、エラーの拡散は、二方向で行われる。ウォーターマーク入りロケーションからのエラーは1つの方向(この場合後ろ向き)で拡散し、処理済みロケーションからのエラーは別の方向(前向き)で拡散する。各ロケーションが処理されると、そのロケーションのエラーは後の拡散のためにアップデートされる。p0(m,n) が W(m,n) に設定されるウォーターマークロケーションでの場合を除外すると、出力二進値の計算はエラー拡散アルゴリズムから変化はしない。
【0024】
幾つかの更なる人間視覚システム周波数応答基準の対象となる疑似乱数パターンのウォーターマークドットのロケーションをアレンジすることによって、ウォーターマークの外観は改善可能である。ウォーターマークドットのロケーションをアレンジする一方法としては、最小視覚コスト技術を使用する方法がある。この方法において、ウォーターマークは、例えば以下のような視覚費用関数を最小化することによって選択される:
【数3】
Figure 0004199540
ここで、H(fx, fy)はウォーターマークの周波数スペクトルであり、V(fx, fy) は人間視覚システムの周波数応答モデルである。こういったモデルであり得る例として、サリヴァン(Sullivan)他によるものがあり、またカン(Kang)のセクション5.6にも提供されている。この費用関数の効果は、検出する人間の視覚能力によってウォーターマークの周波数コンテンツを重くすることである。この方法では、人間視覚システムの感度があまり高くない周波数スペクトルの領域に周波数コンテンツを移動させるウォーターマークパターンが、より低コストになるであろう。ウォーターマークドットのロケーションおよび値を選択するこの方法によって、固体領域(例えばグレースケール画像での白領域)への知覚的により均等なドットの分布が提供される。低コストでのウォーターマークの検索は、様々な方法によって成すことができ、このような方法の一つとして、シミュレートされたアニーリングがある。
【0025】
エンコーダは、ホスト画像のブロック(例えば画像全体におけるピクセルの連続ブロック)でウォーターマークを繰り返してもよい。各ブロックは、同一のまたは異なるキーを使ってよい。エンコーダがブロックごとに異なるキーを使った場合、各キーは秘密の機能(例えば暗号機能)によって別のキーと関連していてよい。
【0026】
ウォーターマークを読み取るために、ウォーターマークデコーダは、どこにウォーターマークドットが位置しているかを特定するキーを使う。次いで、ウォーターマークデコーダは、それらドットの二進値を決める。ウォーターマークが印刷画像に埋め込まれている場合には、ハーフトーンドットを読み取るのに十分に高い解像度を有するスキャナまたはカメラが、デコーダがウォーターマークを抽出するデジタル画像を生成する。
【0027】
この種のウォーターマークには多数のアプリケーションがある。それは、使用制御命令、或いは画像所有者の識別子または関連情報を格納しているデータベースレコードのインデックスのような他のメタデータを含んでいるメッセージを運ぶのに使用されてよい。また、ウォーターマーク入り画像(例えば印刷されたハーフトーンウォーターマーク入り画像)が本物であるか、或いは変更されたのかを判断するのに用いられる固定パターンを運んでもよい。このようなアプリケーションにおいて、デコーダは抽出されたウォーターマークパターンを既知のパターンと比較し、その比較に基づいて、ウォーターマーク入り画像が変更されたかどうか(例えば、コピー、スキャンおよび再印刷、圧縮等)を判断する。それはまた、ハーフトーンウォーターマークが存在していない走査画像のロケーションを示すことによって、どこで画像が変更されたかを特定することができる。
【0028】
ウォーターマークはハーフトーン画像に適用されるので、多重レベル/ピクセルデジタル画像がハーフトーン画像に変換されるプリントプロセスの一部として、ウォーターマークは適用可能である。たとえば、ウォーターマークは、プリンターデバイスまたは印刷用に画像をプリンターに送信する、コンピュータで実行するプリンタドライバで実施されるハーフトーンプロセスに含まれてよい。より一般的には、ウォーターマーキング方法は、個人のプリントデバイス(例えばインクジェットプリンタ)と同様に商業用印刷機を含む、ハーフトーン画像が印刷されるアプリケーションに適用されてよい。
【0029】
幾つかのタイプの画像ウォーターマーキングにおいて、ホスト画像はウォーターマークとインタフェアする。ホスト画像は、通信チャネルをウォーターマークに提供する。ホスト画像からウォーターマークをデコードする際、ホスト画像を、ウォーターマークデコーダの能力とインタフェアして正確にウォーターマーク信号を抽出するノイズと考えることができる。ウォーターマークの正確なリカバリの可能性を増やすため、ウォーターマークはホスト画像の大部分(あるいは全画像)にわたって広がっている。
【0030】
前の段落で説明したタイプのウォーターマークは、直接ハーフトーン画像に埋め込み可能である。以下の説明で、ハーフトーン画像にこの種のウォーターマークを直接埋め込むエラー拡散方法を詳述する。
【0031】
この方法において、埋め込まれるウォーターマークW(m,n) は0-255の値をとる。バイナリ出力値を計算するのに用いられるしきい値がウォーターマーク信号によって調整されるように、エラー拡散処理は変更される:
【数4】
Figure 0004199540
強度レベル I は、ウォーターマークをどのぐらい濃密に画像に埋め込むかを制御する。
【0032】
エラー拡散しきい値を調整する代替として、ハーフトーンプロセスを変更しないでウォーターマークを埋め込んでもよい。たとえば、多重レベル/ピクセルウォーターマーク信号は、ターゲットハーフトーン画像の解像度で生成される。ウォーターマークエンコーダは、ハーフトーン画像の所望の解像度または他の幾つかの解像度で多重レベル/ピクセルウォーターマーク信号を生成し、アップまたはダウンサンプリングして、ターゲットハーフトーン画像の解像度に一致させる。次いで、このウォーターマーク入り信号は、同じ空間解像度でホスト画像に加えられ、複合型のウォーターマーク入り画像を生成する。次に、エラー拡散処理または他の幾つかのタイプのハーフトーンプロセスは、ウォーターマーク入りのハーフトーン画像を生成するために、この複合画像に直接適用されてよい。この技術は、エラー拡散ハーフトーンプロセスと同様に順序付きディザ処理(例えば青いノイズマスク、クラスタ化ドットハーフトーン、等)を含む様々なハーフトーンプロセスに適用される。
【0033】
ウォーターマーク信号を生成する様々な方法がある。1つの方法は、バイナリーまたはM項記号を含む補助メッセージを利用して、エラー訂正コーディングをそれに適用し、次いでエラー訂正がコード化されたメッセージをスペクトラム拡散調整することである。メッセージをスペクトラム拡散調整する1つの方法は、排他的論理和演算または乗算演算を用いて擬似乱数にメッセージの各バイナリ記号を拡散する。次いで、スペクトラム拡散調整されたメッセージ信号の結果として生じるバイナリメッセージ要素が、空間画像ロケーションにマップされる。ウォーターマーク信号は、バイナリ記号が正か負のどちらかであるバイナリ対蹠フォームで表されてよい。堅固性を増加させるために、スペクトラム拡散調整されたメッセージ信号は、例えばメッセージ信号をホスト画像のブロックの幾つかに埋め込むことによって、ホスト画像にわたって繰り返されてよい。特に、ウォーターマークエンコーダは、ホスト画像の一部にわたってまたは全ホスト画像にわたって、ウォーターマーク信号のインスタンスをピクセルの連続ブロックに埋め込んでよい。
【0034】
知覚モデリングは、メッセージ信号エレメントに対応する利得値を有する利得ベクトルを計算するのにホスト画像に適用可能である。たとえば、アップサンプリングされたウォーターマーク入り信号がホスト信号に加えられる場合、利得値は、メッセージ信号のバイナリ対蹠値をホスト信号に加える前に基準化するのに使用可能である。各利得値は、所望のウォーターマーク可視性および検出可能性制約の関数であってよい。特に、知覚モデルは、画像を解析して、画像がウォーターマーク画像の対応するエレメントを隠すことができるエクステントを決める。或るタイプの解析は、各ピクセルのまわりの近傍の局所型コントラスト(例えば信号アクティビティ)を計算して、局所型コントラストの関数としてピクセルに利得を選択する。検出可能性モデルは、ホスト信号を解析して、ピクセル値が対応するピクセルロケーションでウォーターマーク信号の値の方へバイアスをかけられるエクステントを決める。次いで、検出可能性モデルは、ホスト画像ピクセルがウォーターマーク信号の方へバイアスをかけられるエクステントに基づいて、利得を上か下に調節する。
【0035】
この種のウォーターマークは、ウォーターマーク入りハーフトーン画像、或いは,例えばウォーターマーク信号を表すのに十分に高い解像度での多重レベル/画像のピクセル表現といった、ウォーターマーク入り画像の他の画像表現から読み取ることができる。ウォーターマークをデコードするために、ウォーターマークデコーダは、ウォーターマーク入り画像のウォーターマークの存在および方位を検出する。次いで、ウォーターマークデコーダは逆の埋込関数を実行し、予測されるウォーターマークメッセージ信号を抽出する。
【0036】
メッセージ信号は、以下のプロセスの組合せを用いて堅固にコード化される:
1. いくつかのロケーション(例えば画像のブロック)でメッセージ信号のインスタンスを繰り返してコード化する;
2. Mシーケンスおよびゴールドコードを用いた変調方式を含む、メッセージのスペクトラム拡散変調;
3. エラー訂正コーディング(例えば畳込みコーディング、ターボコーディング、BCHコーディング、リードソロモンコーディング、等)。
【0037】
ウォーターマークデコーダは、以下によって、予測されたウォーターマーク信号から埋め込まれたメッセージを復元する:
1. 繰り返してコード化されたメッセージのインスタンスの同一メッセージ要素の予測値を集める;
2. スペクトラム拡散復調を実行する;および
3. エラー訂正デコーディング。
【0038】
1つのインプリメンテーションにおいて、デコーダはウォーターマークの方位信号成分を用いて、ウォーターマーク入り画像におけるウォーターマークの存在および方位を検出する。次いで、デコーダは、画像サンプル値に予測フィルタリングを実行してオリジナルのウォーターマーク無しの信号を推定し、オリジナルの推定値をウォーターマーク入り信号から減じてウォーターマーク信号の推定値を生成する。デコーダは、スペクトラム拡散復調およびエラー訂正デコーディングを実行し、ウォーターマーク入り信号に埋め込まれた補助メッセージを復元する。
【0039】
ウォーターマークを画像に埋め込み、プリントおよびスキャン後、画像のデジタル化バージョンからウォーターマークを検出し読み取るステップについての詳細に関しては、参照としてここに含まれている、譲り受け人の特許出願中の出願番号09/503881および米国特許5,862,260を参照されたい。ウォーターマークを幾何学的ひずみに対して堅固にするために、ウォーターマークは方位ウォーターマーク信号成分を含む。ウォーターマークメッセージ信号と方位ウォーターマーク信号は共に、ウォーターマーク信号を形成する。ホスト画像がハーフトーン画像に変換される前に、これら成分の双方はハーフトーン画像の解像度でホスト画像に加えられてよい。あるいは、これらコンポーネントは、組み合わせられて、エラー拡散型ハーフトーンプロセスで用いられるエラー拡散しきい値を調整する際に使用されるウォーターマーク信号を形成してもよい。
【0040】
ウォーターマーク方位信号の一つのタイプは、それぞれが擬似ランダムフェーズを有するフーリエマグニチュードドメインの一組の衝撃関数を備える画像信号である。ウォーターマーク入り画像のローテーション及びスケールを検出する(例えば、ウォーターマーク入り画像のプリントおよびスキャン後に)ために、ウォーターマークデコーダは、画像をフーリエマグニチュードドメインに変換し、次いでフーリエマグニチュード画像のログ極のリサンプリングを実行する。一般化整合フィルターは、既知の方位信号をリサンプリングされたウォーターマーク入り信号に関連させて、最も高い相関を提供しているローテーションおよびスケールパラメータを見つける。ウォーターマークデコーダは、既知の方位信号およびウォーターマーク入り信号の位相情報間での更なる相関オペレーションを実行して、 ウォーターマークメッセージ信号のオリジナルを識別する移行パラメータを決める。ウォーターマーク信号のローテーション、スケールおよび移行が決定されると、次いでリーダはこのひずみを補正するために画像データを調節し、前述したようにウォーターマークメッセージ信号を抽出する。
【0041】
上述したハーフトーンウォーターマークは、一つ以上の他のウォーターマークと組合わせて使われてもよい。1つのアプリケーションにおいて、たとえば、堅固なウォーターマークは、ハーフトーンウォーターマークのドットロケーションを指定するキーを運ぶのに使用される。特に、堅固なウォーターマークのメッセージペイロードは、特定のパターンでオンにされたかオフにされた特定のドット(高解像度の二進値)を識別するキーを運ぶ。これら二進値のビットは、画像の細密検査によって確認可能な2次の脆弱なウォーターマークの働きをする。
【0042】
図4は、このアプリケーションのインプリメンテーションを図示する。ウォーターマークの埋め込み側において、ウォーターマークエンコーダ100は、入力イメージ102に作用して、プリント、スキャンおよび幾何学的ひずみに耐える堅固なウォーターマークを埋め込む。この種のウォーターマークの例は、上記および参照として含まれる特許および特許出願で説明されている。この堅固なウォーターマークのメッセージペイロードの少なくとも一部は、ハーフトーン画像の指定されたハーフトーンドットロケーションでハーフトーンウォーターマークをデコードするのに用いられるキーを運ぶ。
【0043】
このインプリメンテーションにおいて、キーは、ハーフトーン画像でのハーフトーンウォーターマークドットのロケーションを識別して、またそれらロケーションでドットの二進値(オン/オフ)を指定する乱数発生器104へのシードを含む。次いで、ハーフトーンコンバータ106(例えばエラー拡散、青いノイズマスキング、等)は、ハーフトーンウォーターマークドットが乱数発生器の出力に基づいて正しい値を割り当てられることを確実にする一方、堅固なウォーターマーク入り画像をハーフトーン画像に変換する。
【0044】
このプロセスの一例として、ハーフトーンコンバータがハーフトーンウォーターマークドットによってそれらのそれぞれのロケーションのまわりの空間近傍に導かれたエラーを拡散する一方で、それらウォーターマークドット値が固定されたままであることを確実にする、上述の修正エラー拡散方法がある。この方法は、ハーフトーンウォーターマークの認識され得る影響を減らす。ハーフトーンウォーターマークドットがキーで指定されるように設定されることが確実であれば、他のハーフトーン方法も同様に使われてよい。結果は、従来のプリンター技術(例えばインクジェット式印刷、等(110))を用いて印刷されてよいハーフトーン画像108である。実際、ウォーターマーク埋め込みプロセス(100)は、プリンターまたはプリンター用ソフトウェアドライバで実施されてよい。
【0045】
印刷画像の信憑性を検証するために、スキャナ120はデジタル画像を印刷画像122から取り込む。堅固なウォーターマークは、印刷、次いで、低解像度(例えば100dpi)スキャナまたはデジタルカメラによるスキャンに耐え得るので、印刷画像122から取り込まれるデジタル画像から回復可能である。上で概説したデコーディングオペレーションを用いたウォーターマークリーダ124は、堅固なウォーターマークを検出して、その方位を判断し、次いで、キーを含むウォーターマークペイロードを読み取る。ウォーターマークリーダは乱数発生器126にキーを供給し、乱数発生器はハーフトーンウォーターマークのハーフトーンドットロケーションおよび値を提供する。
【0046】
2次ウォーターマーク検査機構128は、次いで印刷画像の適当に高い解像度スキャンを検査し、ハーフトーンウォーターマークが存在するかどうかを判断する。印刷画像の「適当に高い解像度スキャン」とは、印刷画像のハーフトーンドットが読み取り可能なものである。この高解像度スキャンは、それが十分な解像度である場合、スキャナ120によって取り込まれるのと同一の画像であってよい。あるいは、別々の画像取込みデバイス130が、ハーフトーンドットを表している高解像度画像を取り込むのに使用されてもよい。検査機構128は、ハーフトーンウォーターマークが存在するエクステントを示す信号を提供する。
【0047】
検査機構の出力に基づいて、多くのアクションをとることができる。幾つかのアクションは、ユーザーに関する情報(例えばユーザーのコンピュータまたは撮像デバイスのデバイスID、アドレス(例えばネットワークアドレス)、利用者ID、等)の識別を記録すること、通信リンクを介してこの情報および検証オペレーションの結果を遠く離れたデバイスに送信すること、画像の使用を管理するルールに関する情報を表示すること、ユーザーが、関連した権利、製品またはサービス等に電子的にライセンスを与えるか或いはそれらを購入できるライセンスまたは電子トランザクションサーバ(例えばウェブサーバ)に、デコーディングシステムを接続すること、を含む。
【0048】
堅固なおよび脆弱なハーフトーンウォーターマークの双方はまた、他の情報を運んでもよい。該ハーフトーンウォーターマークは、使用制御命令、或いは画像所有者の識別子、遠隔接続を確立するコンピュータアドレス(例えばIPアドレス、URL、等)または関連情報を格納しているデータベースレコードのインデックスのような他のメタデータを含むメッセージを運ぶのに用いられてよい。1つのアプリケーションにおいて、メッセージは画像に関連情報をフェッチするのに用いられる識別子を運ぶ。特に、ウォーターマークデコーダは、データベース管理システムにリクエストの形で識別子を伝達する。データベース管理システムおよび基礎をなしているデータベースレコードは、ネットワークコネクション(例えば、TCP/IP接続を介して接続されるインターネット上のウェブサーバ)を介してウォーターマークデコーダデバイスに接続される遠隔デバイスで、或いは、ウォーターマークデコーダ(例えば、デコーダと同一のデバイス内、又はポート(例えばシリアル、パラレル、赤外線、ブルートゥースワイヤレスまたは他の周辺ポート)を介してデコーディングデバイスに局地的に接続されているコンピュータ内で、実行されるローカルデータベース)を含むシステム内で、実施されてよい。リクエストに応じて、データベースは堅固なウォーターマークから抽出される単/複の識別子に関連した情報を調べる。データベースは、ウォーターマークデコーディングデバイス(例えばパーソナルコンピューター、パーソナル携帯情報機器、インターネット機器、スキャナ、プリンター、等)に情報を戻すか、或いはデコーディングデバイスのアドレスとともに一つ以上の他のデバイスに情報を転送し、次に、デコーディングデバイスに関連情報を戻す。一例において、堅固なウォーターマークでコード化された識別子またはアドレスを用いて、ウォーターマーク入り画像に関連するウェブサイトからの情報をフェッチする。堅固なウォーターマークのこの使用の詳細に関しては、参照として本願に含まれる、米国特許No.5,841,978および特許出願中の09/571422、09/563664、および09/597209を参照されたい。
【0049】
以前言及したように、多くの画像ウォーターマークアプリケーションにとって、ウォーターマーク検出および読み取りプロセスの一部として、ウォーターマークの読み取りプロセスの前にウォーターマーク入り画像の方位(スケール、ローテーション、等)を決めることは必要である。ウォーターマークを埋め込む時点での方位に対するウォーターマーク入り画像の方位を決める一つの方法は、ウォーターマークの一部としてある種の補正信号を使うことである。補正信号は、ウォーターマークメッセージ信号(例えばキャリア信号または同期コード)と一体的に関連があってよい。あるいは、補正信号は別個の信号(例えば認識できない登録テンプレート)であってもよい。
【0050】
以下のウォーターマーキング方法は方位信号としてハーフトーン画像スクリーンを用いており、別々の補正信号を埋め込む必要性を回避している。ハーフトーンスクリーンは、ウォーターマーク無しのハーフトーン画像を印刷するのに通常用いられているものであってよく、あるいは、ウォーターマーク入りのハーフトーン画像を生成して印刷するように特に構成されたものであってよい。
【0051】
この方法は、しきい値マスクを使用することによってハーフトーニングを実施する画像ハーフトーニング方法に適している。しきい値マスクは、反復的なやり方で画像にわたってタイルできるパターンである。最も一般的には、しきい値マスクは数の正方行列である。たとえば、しきい値マスクは128×128であってよく、画像は8ビットピクセルのアレーで構成されてよい。この場合、しきい値マスクは0から255にわたる数を含み、8ビットピクセル値の256の可能なレベルに対応する。マスクのエレメント数がレベル数/ピクセルを上回る場合、しきい値マスクは各レベルの等しい発生回数を含むように通常設計されている。たとえば、128×128マスクに16384エレメントが存在する現在の例では、64のしきい値マスクエントリが各レベルに対して存在する(16384/256 = 64)。0から255の異なるレベルに対応している各エレメントを有する16×16マスクを使うことは可能である。しかしながら、画像の全域にわたってタイルされた場合、このようなマスクは、より大きなマスクよりもビジュアルなアーチファクトを導入してよい。もちろん、これらマスクは単なる例であり、ハーフトーンスクリーンプロセスで用いられるしきい値マスクのマスクサイズ、ディメンションおよびレベルの多くの代替組合せがある。
【0052】
典型的なハーフトーンスクリーンプロセスにおいて、しきい値マスクは、画像の印刷バージョンを表示するのに用いられるインクドットのバイナリパターンを生成するのに使用される。200ピクセル/インチを有する画像が2400ドット/インチの解像度を使って印刷される場合、画像は第1に2400ピクセル/インチにアップサンプリングされる。次に、しきい値マスクが、タイルされてアップサンプリングされた画像に適用され、ハーフトーン画像を構築する。ハーフトーン画像の各ピクセルは、対応するアップサンプリングされた画像のピクセルおよびそのロケーションでのタイルされたしきい値マスクの値から計算される。しきい値マスク値がアップサンプリングされた画像ピクセル以下の場合、ハーフトーン画像ピクセルは1にセットされ、そうでない場合には、0にセットされる。
【0053】
エラー拡散ハーフトーニングは、このように実施されなくてもよい。
【0054】
図5は、しきい値マスクを用いてウォーターマーク入りハーフトーン画像を生成する方法を示している図である。ウォーターマークコード化プロセスは、補助メッセージをウォーターマーク画像信号(150)に変換することによって始まる。図5で示される方法は、ウォーターマーク画像信号を構築する様々な方法で使用できる。説明のために、図5は空間スペクトラム拡散ウォーターマークを用いた例を引用している。この場合、ウォーターマークメッセージペイロードは、しきい値マスクと同一の広がりをもつ区域上で調整されるスペクトラム拡散である。代替のウォーターマークコード化機能が、例えば、ウォーターマーク信号が周波数係数を調整してメッセージシンボルをコード化する周波数ドメイン技術、またはウォーターマークが信号の特徴(例えばその自己相関、パワー、振幅、信号ピーク、等)を調整する統計特徴変調で使われてよい。これら埋込機能の各々は、対応するエレメントを有する空間ウォーターマーク画像信号をホスト画像に加えるものとして特徴付けられてよい。
【0055】
エンコーダは、利得でウォーターマーク画像信号を調整して、より回復する可能性があり、より目に見えず、或いは回復性と非知覚性のバランスが或る程度とれているウォーターマークメッセージを作ることができる。空間スペクトラム拡散ウォーターマーク画像の場合、エンコーダはメッセージをバイナリ対蹠信号(150)に変換し、利得変調器はその信号(152)の各エレメントの値を調節する。ウォーターマーク画像信号の空間解像度は、ターゲットハーフトーン画像に対応している。
【0056】
ウォーターマーク画像信号は、同じペイロードが画像上に繰り返されるようタイルされてよく、或いは、異なる情報が画像の異なる区域に埋め込まれるよう変化してもよい。
【0057】
ウォーターマークにホスト画像を提供するために、エンコーダは画像(154)のピクセルフォームごとに多重レベルをとって、それをハーフトーン解像度(156)に変換する。このステップは、一般的に、多重レベル画像をより高い解像度にアップサンプリングするステップ(例えば、200 dpiの8ビット/ピクセル画像を2400 dpi/ピクセル画像にアップサンプリングする)を含んでいる。 ウォーターマークを挿入する一方法は、それぞれがハーフトーン解像度にある、多重レベル画像信号(158)を有するウォーターマーク画像信号の空間ドメイン表現を加えて、複合画像を作成することである。
【0058】
次に、エンコーダはしきい値マスク(160、162)を結果として生じる複合画像に適用する。ハーフトーンスクリーンプロセスは対応するしきい値マスクレベル以下のピクセルレベルをゼロに変換し、そうでない場合には1にセットする。結果は、ウォーターマーク入りのハーフトーン画像である。次いで、画像は、インクジェットプリンタおよび印刷機を含む様々なハーフトーン印刷プロセスを使って印刷されてよい。
【0059】
図6は、方位信号としてハーフトーンスクリーンを用いてウォーターマーク入り画像信号の幾何学的ひずみを判断する方法を示す図である。特に、この方法は、ウォーターマークメッセージのリカバリを容易にするためにウォーターマーク埋込時のホスト信号の方位を計算するのに用いられる。
【0060】
第1に、スキャナ、カメラ、または他の撮像デバイスが、ハーフトーンピクセルを識別するために十分に高い解像度(172)で、印刷されたウォーターマーク入り画像170のデジタルバージョンを取り込む。それに継続した例において、ウォーターマークデコーダは、それぞれがしきい値マスク(例えば128×128)のサイズに概ね対応している区域を有するデジタル画像174のブロックを得る。各デジタル画像ピクセルは、ハーフトーン画像ピクセルのサイズに概ね等しい。
【0061】
次に、デコーダは、平均ピクセル値を計算して各ピクセルをその平均値と取り替えるといったローパスフィルタリング技術176を用いて画像ブロックをフィルタリングする。次に、デコーダは、ハーフトーン画像を作成するのに用いられるのと同一のしきい値マスクを印刷(178、180)に適用する。このプロセスは、オリジナル画像と同種の方位属性を有するターゲット方位信号を生じる。
【0062】
オリジナルのウォーターマーク入り画像に対する受信画像の幾何学的ひずみを判断するために、デコーダは、ターゲット方位信号と受信画像間の一連の相関オペレーションを実行する。図6で示される方法で、デコーダは、受信画像ブロックとそれから導き出されるターゲット方位信号の双方を、相関ドメイン(182)に変換する。特に、デコーダは、128×128高速フーリエ変換を実行し、その結果として生じるフーリエマグニチュード表現をログ-極座標システムに再びサンプリングして、双方の画像のフーリエ-メリン(Fourier-Mellin)表現を得る。相関オペレータ184(例えば一般化整合フィルター)は、ターゲット信号(基準信号)のフーリエ-メリン表現を、受信画像のフーリエ-メリン表現に関連づける。相関オペレーションは、デジタル画像のスケールおよびローテーションパラメータの推定値を生成する。
【0063】
デコーダは、推定されたローテーションおよびスケールの逆数によって、受信された空間デジタル画像を変換する。相関オペレータは、結果として生じる空間画像を空間ターゲット方位信号に関連づけ、しきい値マスクに対する画像の移行推定値を得る。
【0064】
ウォーターマーク入り画像のデジタルバージョンのスケール、ローテーションおよび移行パラメータの推定値を有することで、ウォーターマークメッセージリーダ(186)は、受信された画像からスペクトラム拡散ウォーターマーク信号を復調する。
【0065】
上述のハーフトーンウォーターマーク方法の各々は、 ウォーターマーク入り画像への修正を検出して特徴づけるためにウォーターマークを解析する、「脆弱なウォーターマーク」または「半脆弱な」ウォーターマークアプリケーションで使用されてよい。脆弱なウォーターマークとは、ホスト画像が特定のタイプのひずみの対象となる場合にグレードを落とすか或いは読めなくなるウォーターマークを指す。半脆弱なウォーターマークとは、ウォーターマークが或るタイプのひずみには耐えるが、他のタイプには耐えないというテーマでの変形である。
【0066】
1つの方法としては、ウォーターマークが、印刷、消費者グレードスキャナのスキャン、画像圧縮、等といった特定のタイプのひずみに応じてグレードを落とすか或いは読めなくなるように、ウォーターマークをデザインすることである。 デコーダがウォーターマークを検出するか又は読み取ることができないか、あるいは、測定されたデグラデーションがしきい値を上回る場合、デコーダは画像が変えられた(例えば、本物でない)ことを示している出力を提供する。デグラデーションは、ウォーターマーク信号のリカバリのエクステント(例えば既知のウォーターマーク信号と受信画像から抽出されたウォーターマーク信号間の相関のエクステント)によって測定可能である。前述の脆弱か又は半脆弱なアプリケーションにおいて、上述したハーフトーンウォーターマーク方法の利得値は、読み易さと特定のタイプのひずみに対する脆弱度の明確なバランスを提供するように選択されてよい。
【0067】
拡張方法とは、修正のタイプを識別できるように、ウォーターマークをデザインすることである。たとえば、修正タイプは、ウォーターマーク信号に影響を与えるデグラデーションのタイプによって特徴づけ可能である。ウォーターマーク信号の異なる態様へのデグラデーションを定量化することによって、デコーダは、観察されたデグラデーションを特定のタイプの修正にマッチさせることができる。
【0068】
前述の脆弱なウォーターマーキングアプリケーションの性能は、異なるフォームのひずみが区別されるよう埋め込まれたウォーターマークの周波数分布を選択することによって改善できる。ウォーターマーク信号属性をデザインする際には、二つの主要な考慮事項がある。第1には、検出される特定のタイプのデグラデーション(例えば印刷および走査操作)によってグレードが落ちる可能性の高い周波数にウォーターマークのエネルギーの一部を配置し;第2には、ウォーターマークが耐えぬかなければならないひずみ(例えばにじみ及び標準消耗)によってグレードが落ちる可能性の低い周波数にエネルギーを配置することである。ウォーターマークの周波数分布を解析することによって、デコーダは修正のフォームを区別することができる。この方法は、通常の使用によって単に汚れて擦り切れているのではなく、印刷画像が本物であるかどうか(例えば、それがスキャンおよびプリントオペレーションを通して複写されたかどうか)を判断するのに特に役立つ。
【0069】
デジタルウォーターマークは、デジタルウォーターマーク信号をハーフトーンスクリーンとして用いて、ハーフトーン画像に埋め込まれてよい。以下の説明で、プロセスの一例を示す:
1. 例えば上述されたスペクトル拡散技術を用いて、デジタルウォーターマーク信号を生成する。オプションとして、ウォーターマーク信号は、自己相関ドメインに変換された際に信号ピークのパターンを生じる疑似乱数キャリア信号、または周波数ドメイン(例えばフーリエドメイン)に変換された際にパターンを生じる方位信号といった、方位信号を含んでもよい。
【0070】
結果として生じるウォーターマーク信号は、多重レベル/ピクセルのグレースケール画像または輝度値のアレーである。それは、隣接してタイルされて様々なサイズの画像を作成することができるピクセルエレメントの例えば64×64、128×128、 256×256の既知のブロックサイズを有している:
2. ウォーターマーク画像ブロックのヒストグラムを計算する;
3. ヒストグラムを用いて、ハーフトーンしきい値レベルを対応するグレー値(または輝度値)に対して設定する。この例ではグレイレベルを使用しているが、同じ技術が他のカラーイメージのカラーチャンネルと同様に輝度値にも適用される。これらハーフトーンしきい値レベルは後で用いられ、多重レベルピクセル値をしきい値と比較して、多重レベルピクセル値がしきい値より小さいか大きいかによって、そのロケーションでのハーフトーンピクセルを0または1にセットすることによって、ハーフトーンピクセルの「オン」または「オフ」の2値状態に多重レベルピクセル値を変換する。
【0071】
0-255のそれぞれ個別のグレイ値に関して、たとえば、本方法では、しきい値レベルがウォーターマーク画像ブロックの多重レベルピクセル値に適用された際に、結果として生じるハーフトーン画像が所望のグレイ値を達成するトーン密度を有するしきい値レベルが選ばれる。
【0072】
同一のウォーターマーク信号がいくつかのハーフトーン画像に埋め込まれることになっている場合、このプロセスによるしきい値セットは、同一の埋め込み信号を有するウォーターマーク入りハーフトーン画像を作成するのに何度も用いられてよい。 以下に、ハーフトーン画像を作成するプロセスがいかに作動するかを示す:
1. アップサンプリングするか、それ以外ならば、ターゲットホスト多重レベル/ピクセル画像をハーフトーンドット解像度に変換する。また、アップサンプリングするか、それ以外ならば、ピクセルウォーターマークブロックごとの多重レベルをハーフトーンドット解像度に変換し、必要に応じて、ウォーターマーク信号がターゲット画像と同一の広がりをもつように、ターゲット画像全域の隣接パターンでブロックをタイルする;
2. アップサンプリングされた画像の各多重レベルピクセル値に対して、そのレベルに対応するハーフトーンしきい値レベルを探索する;
3. しきい値を、それに対応するウォーターマーク信号の多重レベル/ピクセル値に適用し、0か1のハーフトーンドット値を得る。ハーフトーン変換プロセスのステージ2および3が終了すると、その結果は、紙または他のオブジェクトに印刷可能なウォーターマーク入りハーフトーン画像となる。
【0073】
ウォーターマーク入りハーフトーン画像の各ハーフトーンドットは、インクあり(最小輝度)かインクなし(最大輝度)のどちらかである。このように、ターゲットホスト画像の高輝度値は、ウォーターマーク画像の対応するピクセルが「インクなし」状態にセットされる可能性が高くなるように、しきい値をセットする。逆に、ターゲット画像の低輝度値は、ウォーターマーク画像の対応するピクセルが「インクあり」状態にセットされる可能性が高くなるように、しきい値をセットする。
【0074】
画像をウォーターマーク入りハーフトーン画像に変換するこのプロセスは、カラーハーフトーン画像の一つ以上のカラー平面に適用されてもよい。
【0075】
ターゲットホスト画像がほんの少しの異なるグレイレベルだけを有する単純なグレイレベル画像である場合、上述の技術は、ホスト画像のグレイレベルのそれぞれに対してしきい値をセットするのに使用可能である。また、ホスト画像がいくつかのグレイレベルを有してよい場合には、これらグレイレベルは、各範囲に一つのハーフトーンしきい値が割り当てられている範囲に分割可能である。次いで、マスクが計算され、ハーフトーンしきい値のそれぞれが対応しているホスト画像の区域を画成する。最後に、特定のマスクに対応しているハーフトーンしきい値が、マスクによってカバーされるウォーターマーク信号区域に適用され、ウォーターマーク入りハーフトーン画像を生成する。
【0076】
ホスト画像が3つのグレイレベルを有し、それぞれがそれに対応するグレイレベルが存在する画像区域を画成するマスクを有している、以下の例を考察する。この方法は、ターゲット画像と同一の広がりをもち、ターゲット画像の特定の音密度区域に対応する3つの異なるマスクに基づいている、多重レベル/ピクセルのウォーターマーク信号のしきい値を決める:
マスク1は、音密度D1を有しており、しきい値T1を用いる;
マスク2は、音密度D2を有しており、しきい値T2を用いる;
マスク3は、音密度D3を有しており、しきい値T3を用いる。
【0077】
デジタルウォーターマーク信号を作成する様々な方法が、この技術にはある。一つの方法を以下に示す:
1. Nビット2進列を備える所望のウォーターマークメッセージペイロードを取得する;
2. 例えば畳込みコーディング、ターボコーディング、等といったメッセージのエラー訂正コード化を実行する;
3. 例えばビット値のXORを疑似乱数キャリアの各値と共にとることによって、エラー訂正コード化メッセージの各ビットを疑似乱数キャリア信号に拡散する;
4. 拡散信号値をウォーターマーク画像ブロックのピクセルロケーションにマップする;
5. 拡散信号をピクセル毎多重レベルのウォーターマーク信号に変換する。この段階で、拡散信号値はバイナリであり、例えば、{1、0}または{1、-1}は、対応するサンプル値(例えば輝度、グレイレベル、強度、等)の増加または減少を表している。各2進値は、ウォーターマーク信号での一つ以上の隣接したピクセルに対応している。これら2進値は、中レベルのピクセル値(例えば8ビットピクセルにおける128の中レベルのグレイ値)を、拡散信号の値に対応させて、上または下に調節することによって、多重レベル値に変換されてよい。ウォーターマーク信号の利得は、スケールファクターを拡散信号に適用することによって、調節されてよい。 さらに、隣接する対応ピクセルでスムーズに変化するために拡散信号の各ビットを変化させてよい。
【0078】
キャリアでメッセージを巻き付けたり、バイナリ対蹠メッセージ信号にバイナリ対蹠キャリアを掛け合わせるなどといった、拡散信号を作成する様々な技術がある。キャリアは、検出器をウォーターマーク入り信号のウォーターマークに同期させるのに使われてよい。 また、以上で詳述したように、方位信号は、拡散信号に加えられて、補正の手助けとなってもよい。
【0079】
ウォーターマークメッセージを回復するために、ウォーターマーク検出器は、以下のように作動する:
1. ハーフトーン画像のデジタルバージョンを(例えば、ウェブカムまたは印刷されたハーフトーン画像のスキャナ取込みから)取り込む;
2. 前述された技術のうちの任意の一つを用いて画像を検出して位置合わせする;
3. 隣接したピクセルから、位置合わせされた画像の各ピクセルのウォーターマーク信号を予測する;例えば、フィルタを用いて、ウォーターマーク信号からホスト信号の関連を解く;
4. ウォーターマーク信号をキャリアに関連づけて、エラー訂正コード化ビット値を回復する;これらは、キャリアとの相関のエクステントによって重み付けられる「ソフトな」ビット値であってよい。換言すれば、エラー訂正コード化ビットの各推定値をハードの1または0で表すというよりはむしろ、2進法の1または0に対応する値の間(例えば、-1と1の間、-128と128の間、等)の重み付け確率によって表す;
5. 例えば、メッセージペイロードを回復するために、埋め込まれたメッセージと互換性がある畳込みまたはターボコード体系を用いて、ソフトなビット値に対してエラー訂正デコーディングを実行する。
【0080】
ウォーターマーク読み取りプロセスはまた、ウォーターマーク入りのハーフトーン画像が変えられたどうかを検出するのに用いられてもよい。特に、印刷されたハーフトーン画像がコピー(例えば写真複写、またはスキャンおよび再印刷)されたかどうかを判断するのに用いられてよい。
【0081】
ウォーターマーク信号の検出強度は、印刷されたオブジェクトがコピーされたかどうかを判断するためにコピー検知閾と比較可能である。ウォーターマーク信号の強度を測定する一方法は、次の通りである:
1. ウォーターマークから読みとられるメッセージペイロードを用いて、ウォーターマークに使用されるオリジナルの埋め込みビットシーケンス(エラー訂正コーディングから冗長にコード化されたビットを含む)を再現する;
2. 0が−1で表され、1が1で表されるように、オリジナルビットシーケンスを変換する;
3. ウォーターマークをデコードするのに用いられるソフトな値のビットシーケンスに、ステップ2のシーケンスを(エレメントに関して)掛け合わせる;
4. 前のステップで終わっているシーケンスから、一つ以上のウォーターマーク強度の測定値を生成する。そのような測定値の一つは、シーケンスの値の二乗の和である。別の測定値は、シーケンスの値の和の二乗である。他の測定もまた同様に可能である。たとえば、ウォーターマーク信号の高周波成分と関連しているソフトなビットを解析して、高周波成分に属している強度の測定値を得ることができる。このような高周波は、写真複写、デジタル/アナログ変換およびアナログ/デジタル変換、スキャンおよび再印刷等によるデグラデーションに対して、より高感度である可能性が高い;
5. 強度測定値をしきい値と比較して、 疑わしい画像がオリジナルか或いは印刷されたオブジェクトのコピーのどちらから取り込まれたかを判断する。オリジナルを作成するのに用いられるサブジェクトプリンタープラットホームと、コピーを作成するのに用いられる様々な複写機、スキャナおよびプリンターとで印刷されたオブジェクトのコピー対オリジナルの測定ウォーターマーク強度の差を評価することによって、しきい値を導き出す。
【0082】
コピーを検出する更なる方法として、ウォーターマークメッセージペイロードは、ウォーターマーク入りハーフトーン画像のプリンターモデルおよび/または解像度を識別するのに用いられてよい。次いで、 印刷されたオブジェクトが本物かどうかを確認するために、ウォーターマーク検出器は、メッセージペイロードを抽出して、プリンターモデルおよび/または印刷解像度を決定する。印刷されたオブジェクトのフォレンシック・スキャン(forensic scan)が、次いで解析され、オブジェクトがウォーターマークペイロードで指定された解像度で印刷されたことを確認する。フォレンシック・スキャンの解像度を解析するある特定の方法とは、オブジェクトの周波数コンテンツを検査して、オブジェクトが指定された解像度で印刷された可能性が高いかどうかを判断するものである。
【0083】
記号エラーを測定することによって信号の不正変更を検出する上述の技術は、異なる空間解像度でホストメディア信号に埋め込まれる2つ以上の異なるウォーターマークに適用できる。各ウォーターマークは、同一か或いは異なるメッセージペイロードを有してよい。ウォーターマークが同一のメッセージペイロードを有する第1のケースにおいて、ウォーターマークのうちの1つから抽出されるメッセージは、別のウォーターマークのそれぞれのビットエラーを測定するのに用いられてよい。たとえば、低い空間解像度で埋め込まれる堅固なウォーターマークからのメッセージペイロードは、より高い空間解像度であまり堅固でないウォーターマークからのビットエラーを測定するのに用いられてよい。ウォーターマークが異なるメッセージペイロードを運ぶ場合、エラー検出ビット(例えばCRCビット)は、オリジナルの埋め込みビットシーケンスを再現する前にメッセージが正確にデコードされることを確実にするために、メッセージペイロードで使用されてよい。
【0084】
2つ以上の異なるウォーターマークを用いることによって、互いに対するウォーターマークの信号強度の比率に基づいて、しきい値を設定することができる。特に、高解像度(600-1200 dpi)での第1のウォーターマークの信号強度は、低解像度(75-100 dpi)での第2のウォーターマークの信号強度で割られる。各ケースにおいて、信号強度は、記号エラーの測定または他の幾つかの測定(例えば相関測定)を用いて測定される。
【0085】
測定強度がしきい値を上回った場合、検出器はウォーターマーク信号を本物とみなして、認証信号を生成する。この信号は、オブジェクトが本物かどうかを示している単純な2進値か、或いはビットエラーが走査画像のどこで検出されたかを示しているより複雑な画像信号であってよい。
【0086】
ウォーターマークおよびホスト信号は、特に、写真複製によるコピーおよび印刷オブジェクトの印刷/再スキャンの検出に合わせて調整可能である。これは、オブジェクトが再印刷される際にメッセージシンボルエラーを生成する可能性が高い特定の空間周波数/解像度で選択されたスクリーニング構成を有するウォーターマークを埋め込むことを必要とする。この検出プロセスは、オートマチック認証を可能にし、ウェブカメラおよび一般のイメージスキャナといった低品質のカメラデバイスで使用でき、ウォーターマークが様々なアプリケーションに役立つメッセージペイロードを運ぶだけでなく信憑性を判断する機能を供給できるという更なる利点を有する。
【0087】
メッセージペイロードは、ネットワーク資源(例えばインターネットのウェブページ)のオブジェクトまたはリンクについての情報を格納するデータベースの識別子またはインデックスを含むことができる。ペイロードはまた、特定の認証項目、項目のバッチ、プリンターまたはディストリビュータに関連づけられた隠れたトレース識別子を含んでもよい。これによって、偽オブジェクトまたは権限なしで印刷された本物のオブジェクトが検出されて、特定のソース(例えばそのプリンター、ディストリビュータまたはバッチ番号)へのトレースが可能になる。
【0088】
ペイロードはまた、ウォーターマークリーダを本物のオブジェクトを作り出したプリンタータイプへの検出ルーチンに適合させることができる、プリンタ特性またはプリンタータイプの情報を運んでもよい。たとえば、ペイロードは、本物の画像を作成するのに用いられるハーフトーニングのタイプを指定する識別子を、より具体的にはハーフトーンスクリーンの属性を、運んでよい。この情報を用いて、リーダは、ハーフトーンスクリーンと関連している特徴が印刷されたオブジェクトに存在するかどうかを判断することによって、信憑性をチェックすることができる同様に、リーダは、異なるハーフトーンスクリーンプロセスが使われた(例えば、偽物が異なるハーフトーンスクリーンを用いて作成された)ことを示すハーフトーンスクリーン属性についてチェックすることができる。一具体例として、ハーフトーンスクリーンタイプおよび紙タイプを識別するペイロードがある。リーダはこのペイロードを堅固なウォーターマークペイロードから抽出して、次いでハーフトーンスクリーンおよび紙属性を解析して、それらがウォーターマークペイロードに示されたハーフトーンタイプおよび紙タイプに一致するかどうかを確かめる。たとえば、ハーフトーンタイプは、本物の画像を作成するのに用いられるハーフトーンスクリーンパターンのタイプを指定することができる。このハーフトーンスクリーンパターンが検出されなかった場合(例えば、その特定のタイプのハーフトーンスクリーンを用いて埋め込まれたウォーターマークが存在していない)、画像は偽物であると考えられる。
【0089】
ハーフトーンタイプを解析する或る関連方法は、確率的ハーフトーンスクリーン対順序付きディザーマトリックスタイプスクリーンの隠しおおせない符号といったハーフトーン属性を探すものである。ローエンドプリンターで用いられるディザーマトリックススクリーンは、隠しおおせないピークを生成しない、エラー拡散処理といった、ハーフトーンプロセスを確率的スクリーンと差別化するフーリエドメインでのピークのパターンのような隠しおおせないパターンを生成する傾向がある。何も予期されなかったところでリーダがピークを見つけた場合、画像は偽物とみなされる。同様に、ピークが予期されたところでリーダがピークを見つけなかった場合もまた、画像は偽物とみなされる。このような解析を実行する前に、埋め込まれたデジタルウォーターマークを用いて、印刷の際にそのオリジナルの方位に画像を再整列することが好ましい。ハーフトーンスクリーンに起因する属性は、次いで、適当な空間基準系で評価可能である。たとえば、オリジナルの順序付きディザマトリックスプリンタがフーリエドメインでピークアレーを生成した場合、画像再整列後にピークロケーションをより正確にチェックすることができる。
【0090】
【締め括りの注釈】
特定の実現に関する技術の原理を説明し図示することで、その技術が他の多くの異なる形式で実施可能であることが理解されるであろう。明細書を不必要に長くすることなく包括的な開示を提供するために、出願人は以上で参照された特許および特許出願を参照として取り入れている。
【0091】
上述された方法、プロセスおよびシステムは、ハードウェア、ソフトウェア、またはハードウェアとソフトウェアの組合せで実施されてよい。たとえば、補助データコード化プロセスは、プログラム可能なコンピュータまたは特殊目的デジタル回路で実施されてよい。同様に、補助データデコード化は、ソフトウェア、ファームウェア、ハードウェア、またはソフトウェアとファームウェアとハードウェアの組合せで実施されてよい。上述の方法およびプロセスは、システムのメモリ(例えば電子、光または磁気記憶デバイスいったコンピュータ可読メディア)から実行されるプログラムで実施されてよい。
【0092】
以上で詳述された実施例でのエレメントおよび特徴の特定の組合せは、例としてのみ示されており、これらの教示とここでの他の教示との交換および置換、ならびにここで参照として含まれている特許/特許出願もまた企図されている。
【図面の簡単な説明】
【図1】 多重レベル/ピクセル画像(a multilevel per pixel image)からハーフトーン画像を生成するのに用いられるエラー拡散マスクの例を示している図である。
【図2】 多重レベル/ピクセル画像からハーフトーン画像を生成するのに用いられるエラー拡散マスクの別の例を示している図である。
【図3】 多重レベル/ピクセル画像からハーフトーン画像を生成するのに用いられるエラー拡散マスクの別の例を示している図である。
【図4】 ハーフトーンウォーターマークアプリケーションの一適用例の図である。
【図5】 しきい値マスクを用いてウォーターマーク入りハーフトーン画像を生成する方法を示している図である。
【図6】 方位信号としてハーフトーンスクリーンを用いて、ウォーターマーク入り画像信号の幾何学的ひずみを判断する方法を示している図である。

Claims (8)

  1. ハーフトーン画像ウォーターマーキング方法であって、
    一組のハーフトーンウォーターマーク値をハーフトーン画像内のウォーターマークロケーションに割り当てるステップと、
    入力画像内のロケーションにおける多重レベルピクセル値を前記ハーフトーン画像における二進値に変換することに伴うエラーを計算するステップと、
    前記入力画像における前記多重レベルピクセル値を前記ハーフトーン画像における前記二進値に変換することに伴うエラーと前記ハーフトーンウォーターマーク値に関連するエラー隣接したロケーションに拡散させるステップと、
    を備え、
    前記ハーフトーンウォーターマーク値に関連するエラーは、ハーフトーンウォーターマーク値と、該ハーフトーンウォーターマーク値を割り当てた前記ハーフトーン画像内のウォーターマークロケーションに対応する前記入力画像のロケーションでの多重レベルピクセル値との間の差であり、
    前記ハーフトーンウォーターマーク値に関連する前記エラーは、前記入力画像の一方の方向に拡散し、前記入力画像における多重レベルピクセル値を前記ハーフトーン画像内の二進値に変換することに伴う前記エラーは、他方の方向に拡散する、
    方法。
  2. 前記ウォーターマークロケーションおよび前記ハーフトーンウォーターマーク値は、キーによって指定される、請求項1記載の方法。
  3. 前記キーは、前記ハーフトーンウォーターマーク値および前記ウォーターマークロケーションを指定する疑似乱数プロセスをシードするのに用いられる、請求項1に記載の方法。
  4. 前記キーは、前記入力画像に埋め込まれた個々のウォーターマークにおいて運ばれる、請求項3記載の方法。
  5. 前記入力画像を前記ハーフトーン画像に変換する前に、ウォーターマークを前記入力画像に埋め込むステップを更に備え、
    前記入力画像に埋め込まれた前記ウォーターマークは、幾何学的ひずみを経た後の前記ハーフトーン画像から前記ウォーターマークを検出するのに用いられるウォーターマーク方位信号を含む、
    請求項1に記載の方法。
  6. 前記入力画像を前記ハーフトーン画像に変換する前に、ウォーターマークを前記入力画像に埋め込むステップを更に備え、
    前記入力画像に埋め込まれた前記ウォーターマークは、前記ウォーターマークロケーションを指定しているキーを含むメッセージを運ぶ、
    請求項1に記載の方法。
  7. 請求項1に記載の方法を実行するソフトウェアに格納された、コンピュータ可読メディア。
  8. 前記ハーフトーンウォーターマーク値および前記ウォーターマークロケーションは、人間視覚システムモデルを用いて選択される、請求項1に記載の方法。
JP2002535062A 2000-10-11 2001-10-10 ハーフトーンウォーターマーキングおよび関連アプリケーション Expired - Lifetime JP4199540B2 (ja)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
US09/689,226 US6694041B1 (en) 2000-10-11 2000-10-11 Halftone watermarking and related applications
US09/840,016 US6760464B2 (en) 2000-10-11 2001-04-20 Halftone watermarking and related applications
US09/938,870 US7246239B2 (en) 2001-01-24 2001-08-23 Digital watermarks for checking authenticity of printed objects
PCT/US2001/031784 WO2002031752A1 (en) 2000-10-11 2001-10-10 Halftone watermarking and related applications

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2006083301A Division JP4187749B2 (ja) 2000-10-11 2006-03-24 ハーフトーンウォーターマーキングおよび関連アプリケーション

Publications (2)

Publication Number Publication Date
JP2004511938A JP2004511938A (ja) 2004-04-15
JP4199540B2 true JP4199540B2 (ja) 2008-12-17

Family

ID=27418513

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2002535062A Expired - Lifetime JP4199540B2 (ja) 2000-10-11 2001-10-10 ハーフトーンウォーターマーキングおよび関連アプリケーション
JP2006083301A Expired - Lifetime JP4187749B2 (ja) 2000-10-11 2006-03-24 ハーフトーンウォーターマーキングおよび関連アプリケーション

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2006083301A Expired - Lifetime JP4187749B2 (ja) 2000-10-11 2006-03-24 ハーフトーンウォーターマーキングおよび関連アプリケーション

Country Status (6)

Country Link
EP (1) EP1325464A1 (ja)
JP (2) JP4199540B2 (ja)
KR (1) KR20030051712A (ja)
AU (1) AU2002211634A1 (ja)
CA (1) CA2422412A1 (ja)
WO (1) WO2002031752A1 (ja)

Families Citing this family (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
ES2424480T3 (es) 2002-05-14 2013-10-02 Schreiner Group Gmbh & Co. Kg Patrones de autenticación visibles para documento impreso
KR100814029B1 (ko) * 2006-03-30 2008-03-14 순천향대학교 산학협력단 하프톤 영상에서의 디지털 워터마킹 방법
US7925045B2 (en) * 2007-09-10 2011-04-12 Konica Minolta Systems Laboratory, Inc. Determining document authenticity in a closed-loop process
US8451501B2 (en) * 2010-12-13 2013-05-28 Xerox Corporation Watermark decoding via spectral analysis of pixel spacing
US8594453B2 (en) 2011-08-18 2013-11-26 Hewlett-Packard Development Company, L.P. Method of robust alignment and payload recovery for data-bearing images
US8970910B2 (en) * 2011-12-07 2015-03-03 Xerox Corporation Visible and invisible watermarking of printed images via 2nd generation stochastic seed frequency modulation
WO2013119234A1 (en) 2012-02-09 2013-08-15 Hewlett - Packard Development Company, L.P. Forensic verification utilizing forensic markings inside halftones
WO2013119235A1 (en) * 2012-02-09 2013-08-15 Hewlett-Packard Development Company, L.P. Forensic verification from halftone images
US9361516B2 (en) 2012-02-09 2016-06-07 Hewlett-Packard Development Company, L.P. Forensic verification utilizing halftone boundaries
BR112014021578A2 (pt) 2012-03-01 2021-05-25 Sys-Tech Solutions, Inc. Método e sistema para verificação de uma identidade de um item, e, mídia de armazenamento legível por computador
US20150169928A1 (en) 2012-03-01 2015-06-18 Sys-Tech Solutions, Inc. Methods and a system for verifying the identity of a printed item
US20150379321A1 (en) 2012-03-01 2015-12-31 Sys-Tech Solutions, Inc. Methods and a system for verifying the authenticity of a mark
KR101817153B1 (ko) 2015-01-28 2018-01-11 한국전자통신연구원 기하학적 왜곡에 강인한 점 기반 정보를 사용하는 정보 삽입 방법, 정보 추출 방법 및 정보 추출 장치
US9940572B2 (en) 2015-02-17 2018-04-10 Sys-Tech Solutions, Inc. Methods and a computing device for determining whether a mark is genuine
CN107851201B (zh) 2015-06-16 2021-04-20 系统科技解决方案公司 用于确定标记是否真实的方法和计算装置
JP6535823B1 (ja) 2016-03-14 2019-06-26 シス−テック ソリューションズ,インコーポレイテッド マークが本物であるかどうかを判断するための方法およびコンピューティング装置
US9986202B2 (en) 2016-03-28 2018-05-29 Microsoft Technology Licensing, Llc Spectrum pre-shaping in video
JP2022126334A (ja) 2021-02-18 2022-08-30 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
JP2022126367A (ja) 2021-02-18 2022-08-30 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
JP2022139237A (ja) 2021-03-11 2022-09-26 キヤノン株式会社 情報処理装置とプログラム及び画像処理方法
JP2022139239A (ja) 2021-03-11 2022-09-26 キヤノン株式会社 情報処理装置とプログラム及び画像処理方法

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5875249A (en) * 1997-01-08 1999-02-23 International Business Machines Corporation Invisible image watermark for image verification
US6252971B1 (en) * 1998-04-29 2001-06-26 Xerox Corporation Digital watermarking using phase-shifted stoclustic screens

Also Published As

Publication number Publication date
JP2006270972A (ja) 2006-10-05
CA2422412A1 (en) 2002-04-18
KR20030051712A (ko) 2003-06-25
EP1325464A1 (en) 2003-07-09
JP2004511938A (ja) 2004-04-15
AU2002211634A1 (en) 2002-04-22
JP4187749B2 (ja) 2008-11-26
WO2002031752A1 (en) 2002-04-18

Similar Documents

Publication Publication Date Title
JP4187749B2 (ja) ハーフトーンウォーターマーキングおよび関連アプリケーション
US7286685B2 (en) Halftone watermarking and related applications
US7020349B2 (en) Halftone watermarking and related applications
US8006092B2 (en) Digital watermarks for checking authenticity of printed objects
US7970166B2 (en) Steganographic encoding methods and apparatus
US7369678B2 (en) Digital watermark and steganographic decoding
US7424131B2 (en) Authentication of physical and electronic media objects using digital watermarks
US7822225B2 (en) Authentication of physical and electronic media objects using digital watermarks
EP1485863B1 (en) Authenticating printed objects using digital watermarks associated with multidimensional quality metrics
US7158654B2 (en) Image processor and image processing method
US7720249B2 (en) Watermark embedder and reader

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040830

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20050902

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050927

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20051226

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20060106

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060324

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070109

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20070409

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20070416

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20070509

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20070516

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070608

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080422

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20080717

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20080725

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080729

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20080729

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080909

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20081003

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111010

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4199540

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111010

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111010

Year of fee payment: 3

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111010

Year of fee payment: 3

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111010

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

Free format text: JAPANESE INTERMEDIATE CODE: R313113

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111010

Year of fee payment: 3

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111010

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

Free format text: JAPANESE INTERMEDIATE CODE: R313111

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111010

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111010

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121010

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121010

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131010

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250