JP4901675B2 - 画像処理方法および画像処理装置 - Google Patents

画像処理方法および画像処理装置 Download PDF

Info

Publication number
JP4901675B2
JP4901675B2 JP2007255672A JP2007255672A JP4901675B2 JP 4901675 B2 JP4901675 B2 JP 4901675B2 JP 2007255672 A JP2007255672 A JP 2007255672A JP 2007255672 A JP2007255672 A JP 2007255672A JP 4901675 B2 JP4901675 B2 JP 4901675B2
Authority
JP
Japan
Prior art keywords
information
image processing
composite
processing means
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007255672A
Other languages
English (en)
Other versions
JP2009088969A (ja
Inventor
賢二 宮崎
武郎 三木
隆 山口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2007255672A priority Critical patent/JP4901675B2/ja
Publication of JP2009088969A publication Critical patent/JP2009088969A/ja
Application granted granted Critical
Publication of JP4901675B2 publication Critical patent/JP4901675B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Editing Of Facsimile Originals (AREA)

Description

本発明は、たとえば、目視識別できる主情報(人物の顔画像など)に対して、別の付加的な副情報(セキュリティ情報など)を目視識別できない状態で埋め込むことにより合成情報を作成し、この作成された合成情報を記録媒体上に主情報のみ目視識別できる状態で記録する画像処理方法および画像処理装置に関する。
最近、情報の電子化やインターネットの普及に伴って、画像の偽造や変造防止のために電子透かし、電子署名などの技術が重要視されるようになっている。特に、主情報に付加的な副情報を目視識別できない状態で埋め込むことができ、かつ、記録媒体上に記録をしても副情報を目視識別できない状態のまま記録できる電子透かし技術は、たとえば、IDカードなどの個人認証媒体の顔写真に対しても著作権情報を埋め込むことができるため、偽造、改ざん対策として利用されている。
たとえば、主情報に対し色差情報を利用して副情報を重畳処理することにより当該副情報の埋め込みを行なう電子透かし方法が公知である(たとえば、特許文献1参照)。
電子透かしによる偽造、改ざん対策は、IDカードなどの高いセキュリティ性が要求される分野に利用され、利用範囲は限定的である。ところが、近年の情報漏洩問題などから、通常の記録装置で記録された文書など、幅広い記録メディアに対し完全性を保証する技術が求められており、電子透かし技術も解決策の1つとして注目を集めている。
特開2001−268346号公報
まず、図1を参照して本発明が適用される電子透かしを用いた文書管理システムについて、概略の説明を行なう。
なお、説明を行なう都合上、文書管理システムを提供する側を「システム提供側(第1のユーザレベル)」、文書管理システムを利用して文書管理を行なう側を「システム利用側(第2のユーザレベル)」として説明を行なう。
電子透かしを用いた文書管理システムとは、システム提供側がシステム利用側に提供した電子透かし入り合成情報と記録環境を用いて、電子透かし入り合成情報を含む管理文書を作成し、真正性が疑わしい管理文書については電子透かし情報を取得することで真偽確認を行なうシステムである。
より詳細には、システム提供側Aは、電子透かし入り情報作成部400の埋め込み処理手段200を用いて、主情報100と副情報101とから電子透かし入り合成情報103を作成する。作成された電子透かし入り合成情報103は、主情報100は目視識別できるが、副情報101は目視識別できない状態となっている。この電子透かし入り合成情報103をシステム利用側Bに提供する。
システム利用側Bは、システム提供側Aから提供される編集処理手段201を用いて、電子透かし入り合成情報103とシステム利用側Bが作成した第1の文書データ104から、電子透かし入り合成情報の入った第2の文書データ105を作成する。さらに、システム提供側Aから提供される出力部401の記録処理手段202を用いて、第2の文書データ105を記録媒体上に記録することにより、記録物106を得る。
記録物106の真正性が疑わしい場合、システム利用側Bは、埋め込まれた副情報101を検証することで、記録物106の真偽を確認することができる。
記録物106の真偽を保証するためには、文書の複製が不正になされていないことが重要である。特に、電子透かし入り合成情報103が第三者に入手されてしまった場合、不正な文書を作成するのは容易であるが、現行のシステムでは文書の複製が不正になされることを防止する有効な手段がないという問題がある。
そこで、本発明は、電子透かし入り合成情報が第三者に入手されてしまった場合でも、不正文書の作成を防止できる画像処理方法および画像処理装置を提供することを目的とする。
本発明の画像処理方法は、目視識別できる主情報に対し目視識別できない状態で副情報を埋め込むことにより合成情報を作成する第1の画像処理方法と、この第1の画像処理方法により作成された合成情報を記録媒体上に主情報のみ目視識別できる状態で記録する第2の画像処理方法とから構成される画像処理方法であって、前記第1の画像処理方法は、第1の鍵情報を用いて、目視識別できる主情報に対し目視識別できない状態で副情報を埋め込むことにより合成情報を作成する第1の処理ステップと、第2の鍵情報を用いて、前記第1の処理ステップにより作成された合成情報に対し画像の回転あるいは画素の入替え処理を行なうことにより当該合成情報の副情報を壊した状態の変換合成情報を作成する第2の処理ステップとを有し、前記第2の画像処理方法は、前記第2の鍵情報を用いて、前記第2の処理ステップにより作成された変換合成情報から変換前の合成情報を作成する第3の処理ステップと、この第3の処理ステップにより作成された合成情報を記録媒体上に記録する第4の処理ステップとを具備している。
また、本発明の画像処理方法は、目視識別できる主情報に対し目視識別できない状態で副情報を埋め込むことにより合成情報を作成する第1の画像処理方法と、この第1の画像処理方法により作成された合成情報を記録媒体上に主情報のみ目視識別できる状態で記録する第2の画像処理方法とから構成される画像処理方法であって、前記第1の画像処理方法は、第1の鍵情報を用いて、目視識別できる主情報に対し目視識別できない状態で副情報を埋め込むことにより合成情報を作成する第1の処理ステップと、第2の鍵情報を用いて、前記第1の処理ステップにより作成された合成情報に対し画像の回転あるいは画素の入替え処理を行なうことにより当該合成情報の副情報を壊した状態の変換合成情報を作成する第2の処理ステップと、第3の鍵情報を用いて、前記第2の処理ステップにより作成された変換合成画像に対し、当該変換合成情報を記録媒体に出力する場合、特定の出力手段あるいは特定の利用者でないと記録出力できないように記録制限を施した記録制限付き変換合成情報を作成する第5の処理ステップとを有し、前記第2の画像処理方法は、前記第3の鍵情報を用いて、前記第5の処理ステップにより作成された記録制限付き変換合成画像の記録制限を解除して変換合成画像を作成する第6の処理ステップと、前記第2の鍵情報を用いて、前記第6の処理ステップにより作成された変換合成情報から変換前の合成情報を作成する第3の処理ステップと、この第3の処理ステップにより作成された合成情報を記録媒体上に記録する第4の処理ステップとを具備している。
また、本発明の画像処理装置は、目視識別できる主情報に対し目視識別できない状態で副情報を埋め込むことにより合成情報を作成する第1の画像処理手段と、この第1の画像処理手段により作成された合成情報を記録媒体上に主情報のみ目視識別できる状態で記録する第2の画像処理手段とから構成される画像処理装置であって、前記第1の画像処理手段は、第1の鍵情報を用いて、目視識別できる主情報に対し目視識別できない状態で副情報を埋め込むことにより合成情報を作成する第1の処理手段と、第2の鍵情報を用いて、前記第1の処理手段により作成された合成情報に対し画像の回転あるいは画素の入替え処理を行なうことにより当該合成情報の副情報を壊した状態の変換合成情報を作成する第2の処理手段とを有し、前記第2の画像処理手段は、前記第2の鍵情報を用いて、前記第2の処理手段により作成された変換合成情報から変換前の合成情報を作成する第3の処理手段と、この第3の処理手段により作成された合成情報を記録媒体上に記録する第4の処理手段とを具備している。
さらに、本発明の画像処理装置は、目視識別できる主情報に対し目視識別できない状態で副情報を埋め込むことにより合成情報を作成する第1の画像処理手段と、この第1の画像処理手段により作成された合成情報を記録媒体上に主情報のみ目視識別できる状態で記録する第2の画像処理手段とから構成される画像処理画像処理装置であって、前記第1の画像処理手段は、第1の鍵情報を用いて、目視識別できる主情報に対し目視識別できない状態で副情報を埋め込むことにより合成情報を作成する第1の処理手段と、第2の鍵情報を用いて、前記第1の処理手段により作成された合成情報に対し画像の回転あるいは画素の入替え処理を行なうことにより当該合成情報の副情報を壊した状態の変換合成情報を作成する第2の処理手段と、第3の鍵情報を用いて、前記第2の処理手段により作成された変換合成画像に対し、当該変換合成情報を記録媒体に出力する場合、特定の出力手段あるいは特定の利用者でないと記録出力できないように記録制限を施した記録制限付き変換合成情報を作成する第5の処理手段とを有し、前記第2の画像処理手段は、前記第3の鍵情報を用いて、前記第5の処理手段により作成された記録制限付き変換合成画像の記録制限を解除して変換合成画像を作成する第6の処理手段と、前記第2の鍵情報を用いて、前記第6の処理手段により作成された変換合成情報から変換前の合成情報を作成する第3の処理手段と、この第3の処理手段により作成された合成情報を記録媒体上に記録する第4の処理手段とを具備している。
本発明によれば、電子透かし入り合成情報が第三者に入手されてしまった場合でも、不正文書の作成を防止できる画像処理方法および画像処理装置を提供できる。
以下、本発明の実施の形態について図面を参照して説明する。
まず、第1の実施の形態について説明する。
図2は、第1の実施の形態に係る画像処理装置の構成を模式的に示すものである。第1の実施の形態では、たとえば、システム提供側(サービス提供側、第1のユーザレベル)Aが電子透かし入り合成情報と記録環境を提供し、システム利用側(ユーザ側、第2のユーザレベル)Bが電子透かし入り合成情報を管理したい文書などに組込み、電子透かし入り合成情報を含む文書の出力を行なうことで、文書管理を行なう方法に適用した場合である。
第1の実施の形態に係る画像処理装置は、入力情報として主情報100および副情報101を受取り、電子透かし入りの変換合成情報108を作成する電子透かし入り情報作成部(第1の画像処理手段)400、および、電子透かし入り合成情報を記録媒体上に記録出力することで電子透かし入り記録物106を作成する出力部(第2の画像処理手段)401を有して構成される。
電子透かし入り情報作成部400は、埋め込み方式、記録用パラメータなど複数の鍵情報からなる第1の鍵情報300を用いて主情報100に対し副情報101を埋め込むことで、電子透かし入り合成情報103を作成する電子透かし埋め込み処理部(第1の処理手段)200、および、電子透かし埋め込み処理部200で作成された電子透かし入り合成情報103に対し、第1の鍵情報300のうちの1つ以上の鍵情報からなる第2の鍵情報301を用いて、副情報101の埋め込み条件を壊した状態を作るように変換することにより変換合成情報108を作成する変換処理部(第2の処理手段)203を有して構成される。
ここに、上記副情報の埋め込み条件を壊した状態とは、たとえば、画像の回転や画素の入替えなどであり、正規の副情報確認方法で副情報101を確認した場合、副情報101が壊れている状態を意味する。変換処理に用いる第2の鍵情報301は、電子透かしの埋め込みに関する鍵情報を用いているので、副情報101の埋め込み条件を効果的に壊すことができ、鍵情報を知らない限り復帰することは難しい。
出力部401は、電子透かし入り情報作成部400からの変換合成情報108を受取り、当該変換合成情報108から前記第2の鍵情報301を用いて変換前の合成情報103を作成する逆変換処理部(第3の処理手段)204、および、逆変換処理部204で作成された合成情報103を受取り、当該合成情報103を記録媒体上に記録出力する記録処理部(第4の処理手段)202を有して構成される。
システム提供側Aは、電子透かし入り情報作成部400と出力部401を所有していて、電子透かし入り情報作成部400で作成した電子透かし入りの変換合成情報108および出力部401をシステム利用側Bに提供する。システム利用側Bは、管理したい文書データに対し編集作業により電子透かし入りの変換合成情報108を組込み、出力部401により記録出力を行なうことで、電子透かし入り記録物106を得る。この記録物106の真正性が疑われた場合、文書の電子透かしを確認することで真偽確認を行なうことができる。
このように、第1の実施の形態では、システム提供側Aから提供される電子透かし入り変換合成情報108を入手して管理文書を他の記録出力機で不正に作成しようとしても、変換処理により副情報101の埋め込み条件が壊されており、電子透かしが正常に入った文書を作成できない。
次に、本発明の重要な部分でもある、電子透かし埋め込み処理部200において副情報101を主情報100に埋め込むための埋め込み処理について、図3に示す処理の流れ図を参照して詳細に説明する。なお、当該埋め込み処理については、たとえば、特開平11−168616号公報や特開2001−268346号公報などに記述された電子透かし処理手法を適用することができる。
説明のため、対象をIDカードなどの身分証明書に適用した場合について説明を行なう。主情報101は、埋込み情報である副情報101が埋込まれる画像情報で、たとえば、身分証明書では所有者の顔画像とし、1画素当たり24ビット(R,G,B各8ビット)の情報をする。
埋め込み対象となる副情報101は、たとえば、埋込む情報を2値画像に変換したもので、身分証明書では例えば暗証番号とし、1画素あたり1ビットの情報とする。
マスク情報110は、合成処理時および埋込み情報の復元時に用いる画像情報で、1画素あたり1ビットの情報とする。
まず、最初に、平滑化処理ステップ601において、副情報101の黒画素を「1」、白画素を「0」として平滑化処理を行なう。ここでは、x方向について注目画素の両端の画素を3×1画素の領域を切り出し、下記式(1)のように重み平均を取る。
W(i)=(STL(i−1)+2・STL(i)+STL(i+1))/4
……(1)
W(i) :x=i画素の重み平均値
STL(i):x=i画素の埋込み情報=1 or0
次に、位相変調ステップ602において、平滑化処理ステップ601における平滑化処理の結果を基に、下記式(2−1)〜(2−3)の規則にしたがい、マスク情報110の位相変調を行なう。
W(i)=0の場合→DES(i)=MSK(i) ……(2−1)
W(i)=1の場合→DES(i)=MSK(i+2)……(2−2)
上記以外の場合 →DES(i)=MSK(i+1)……(2−3)
DES(i):x=i画素の位相変調結果=1 or0
MSK(i):x=i画素のマスク画像情報=1 or0
次に、色差変調ステップ603において、位相変調ステップ602における位相変調結果を基に、下記式(3−1)〜(3−6)の規則にしたがい、色差変調処理を行なう。この場合、R(赤)、G(緑)、B(青)の3成分を別々に計算する。
DES(i)=1の場合→VR(i)=−ΔV……(3−1)
→VG(i)=+ΔV……(3−2)
→VB(i)=+ΔV……(3−3)
DES(i)=0の場合→VR(i)=+ΔV……(3−4)
→VG(i)=−ΔV……(3−5)
→VB(i)=−ΔV……(3−6)
VR(i):x=i画素の色差変調結果 赤成分−255〜255の範囲の整数
VG(i):x=i画素の色差変調結果 緑成分−255〜255の範囲の整数
VB(i):x=i画素の色差変調結果 青成分−255〜255の範囲の整数
なお、色差量ΔVは、あらかじめ設定してある「0〜255」の範囲の整数である。色差量ΔVは、大きいほど埋込み情報の復元時の可視化のコントラストが高くなり、再生が容易ではあるが、あまり大きくしすぎると埋込み情報が露見しやすくなる。
最後に、重畳処理ステップ604において、色差変調ステップ603における色差変調結果と主情報100とから、下記式(4−1)〜(4−3)で示される重畳処理を行なうことにより、合成情報103を作成する。
DESR(i)=VR(i)+SRCR(i)……(4−1)
DESG(i)=VG(i)+SRCG(i)……(4−2)
DESB(i)=VB(i)+SRCB(i)……(4−3)
DESR(i):x=i画素の重畳処理結果 赤成分0〜255の範囲の整数
DESG(i):x=i画素の重畳処理結果 緑成分0〜255の範囲の整数
DESB(i):x=i画素の重畳処理結果 青成分0〜255の範囲の整数
SRCR(i):x=i画素の被埋込み画像情報 赤成分0〜255の範囲の整数
SRCG(i):x=i画素の被埋込み画像情報 緑成分0〜255の範囲の整数
SRCB(i):x=i画素の被埋込み画像情報 青成分0〜255の範囲の整数
なお、DESR(i)、DESG(i)、DESB(i)は、それぞれ「0〜255」の範囲の整数なので、計算結果が「0」以下の場合は「0」に設定し、「255」以上の場合は「255」に設定する。
上述した計算により合成された合成情報103は、微視的には前記式(3−1)〜(3−3)または前記式(3−4)〜(3−6)が示す通り、赤色と緑色、青色の色差量の符号が反転した対となるパターンが繰り返し入っている。赤色成分の多い画素では緑色と青色が少なくなっていて、赤色成分の少ない画素では他の成分が多くなっている。赤色と(緑色、青色)=シアン色は補色の関係にあり、赤色とシアン色が隣り合っていても人間の目には判別しにくく、無彩色に見える。2画素単位で赤色リッチな画素とシアン色リッチな画素とが繰り返し配置されているため、人間の目では、これらの細かな色差の違いを識別できず、色差量はプラスマイナス「0」と判断してしまう。
この原理により埋込み情報である副情報101を不可視状態で被埋込み情報である主情報100に埋込んだ合成情報103を作ることが可能となる。
画像情報を適切に記録できる記録機を用いて、上記合成情報103を記録した場合、記録媒体上の画像でも不可視状態で副情報101を埋め込むことが可能となる。不可視条件を満たすには、上述したように隣接画素との補色関係を維持する必要があり、記録機の性能としてはデジタルデータの情報を画素レベルで再現できる必要がある。具体的には、記録機の色材に適合した色変換処理や記録角度などを考慮して、不可視条件を満たす必要がある。逆に考えると、これら記録機側の条件を考慮しない変換であれば、不可視条件で副情報を埋め込めないか、副情報自体が壊れてしまうことになる。
次に、上述した第1の実施の形態に係る画像処理装置(画像処理方法)を実現するための要部の具体例について説明する。
第1の実施の形態に係る画像処理装置は、大別して、電子透かし入り情報作成部400として機能する埋め込み処理装置、および、出力部401として機能する記録装置から構成されている。
まず、埋め込み処理装置について図4を参照して説明する。埋め込み処理装置は、全体の制御を行なうCPU(セントラル・プロセッシング・ユニット)701、CPU701が装置全体の動作を制御するために実行するプログラムが格納されているROM(リード・オンリ・メモリ)702、CPU701の作業用メモリとして使用されるRAM(ランダム・アクセス・メモリ)703、画像の合成処理などを行なうときに画像情報を格納して後述の処理を行なうことに用いる画像メモリ704、マスク情報を格納しているマスク情報格納ROM705、色差量情報を格納している色差量格納ROM706、主情報100を入力する主情報入力部801、埋め込み情報(固定情報)を格納している埋め込み情報格納ROM802、埋め込み情報(流動情報)を入力する埋め込み情報入力部803、図3の平滑化処理ステップ601を実行する平滑処理部711、図3の位相変調ステップ602を実行する位相変調部712、図3の色差変調ステップ603を実行する色差変調部713、図3の重畳処理ステップ604を実行する重畳処理部714、図2の変換処理部203に対応する変換処理部715、および、変換合成情報出力部718を有して構成されている。
このような構成において図4の埋め込み処理装置の動作を説明する。
まず、被埋込み情報入力部801から、たとえば、人物の顔画像や風景画などの主情報100が入力され、それが画像メモリ704に格納される。
埋め込み対象である副情報101は、主情報100が変わっても変化しない固定情報であっても、変化する流動的な情報であってもよい。固定情報は、埋込み情報格納ROM802から供給され、流動情報は埋込み情報入力部803から入力され、画像メモリ704に格納される。
操作者の指示により、CPU701は、平滑化処理部711を動作させて、画像メモリ704に格納してある埋込み情報(副情報101)に対して平滑化処理を行ない、その結果を位相変調部712に送る。
位相変調部712は、平滑化処理の結果およびマスク情報格納ROM705からのマスク情報110に基づき位相変調処理を行ない、その結果を色差変調部713に送る。色差変調部713は、位相変調処理の結果および色差量格納ROM706からの色差量情報に基づき色差変調を行ない、その結果を重畳処理部714に送る。
重畳処理部714は、色差変調結果と画像メモリ704に格納してある被埋込み情報(主情報100)の重畳処理を行なうことにより合成情報103を作成して、変換処理部715に送る。
ここで、合成変換画像は後段の記録装置で記録媒体に記録を行なった時、主情報100に対し副情報101を目視識別できない形で埋め込みを可能とする記録装置固有の特性、たとえば、色変換処理、記録角度などの第1の鍵情報300を考慮して作成されている。
変換処理部715は、第2の鍵情報301を用いて合成情報103に対して記録をした時に副情報が壊れる条件の変換を施すことで、変換合成情報108を作成する。
変換処理部715の構成例を図5に示す。変換処理部715は、たとえば、回転処理部717を有していて、合成情報103に対して第2の鍵情報301を用いて回転処理を行なうことにより変換合成情報108を作成し、画像メモリ704に格納する。
上記変換処理に用いる第2の鍵情報301は、副情報101を有効に壊す必要があるため、記録装置固有の特性である第1の鍵情報300と関連するものである。
変換合成情報出力部718は、画像メモリ704に格納されている変換合成情報108を外部へ出力する。この出力された変換合成情報108は、次に説明する記録装置に渡される。
次に、記録装置について図6を参照して説明する。記録装置は、全体の制御を行なうCPU501、CPU501が装置全体の動作を制御するために実行するプログラムが格納されているROM502、CPU501の作業用メモリとして使用されるRAM503、埋込み情報の再生処理を行なうときに画像情報を格納して後述の処理を行なうことに用いる画像メモリ504、変換合成情報108を入力する変換合成情報入力部901、図2の逆変換処理部204に対応する逆変換処理部902、記録画像を生成する記録画像生成部903、および、図2の記録処理部202に対応する記録処理部904を有して構成されている。
このような構成において図6の記録装置の動作を説明する。
まず、変換合成情報108が変換合成情報入力部901から入力され、画像メモリ504に格納される。
次に、逆変換処理部902は、画像メモリ504に格納されている変換合成情報108に対し逆変換処理を施すことで、変換前の合成情報103を作成する。
逆変換処理部902の構成例を図7に示す。逆変換処理部902は、たとえば、図5に示した回転処理部717とは逆の回転処理を行なう逆回転処理部905を有していて、画像メモリ504に格納されている変換合成情報108に対して第2の鍵情報301を用いて逆回転処理を行なうことにより合成情報103を作成し、画像メモリ504に格納する。
上記逆変換処理に用いる第2の鍵情報301は、前述した埋め込み処理装置内で使用された第2の鍵情報301と同じ鍵情報である。すなわち、逆変換処理の内容は逆回転処理であり、この逆回転処理により変換合成情報108は合成情報103に変換される。
記録画像生成部903は、画像メモリ504に格納されている合成情報103を記録処理に関わる画像情報に変換して記録処理部904に送り、記録処理部904で記録媒体に記録出力することで記録物106が作成される。
以上説明したように第1の実施の形態によれば、システム利用側に提供される電子透かし入りの変換合成情報108を入手され、管理文書を他の記録出力機で不正に作成しようとしても、変換処理により副情報101の埋め込み条件が壊されているため、電子透かしが正常に入った文書を作成できない。
次に、第2の実施の形態について説明する。
図8は、第2の実施の形態に係る画像処理装置の構成を模式的に示すものである。第2の実施の形態では、たとえば、システム提供側Aが電子透かし入り合成情報と記録環境を提供し、システム利用側Bが電子透かし入り合成情報を管理したい文書などに組込み、電子透かし入り合成情報を含む文書の出力を行なうことで、文書管理を行なう方法に適用した場合である。
第1の実施の形態ではシステム利用側Bの不正のみを防止する方法であったが、システム提供側Aに不正を行なうものがいた場合には対処できない。そこで、第2の実施の形態では、システム提供側Aを2つに分け、お互いが知りえないそれぞれの鍵情報を用いて、電子透かし入り合成情報を2重に変換した合成情報をシステム利用側Bに提供し、出力部で2重に変換した合成情報を鍵情報を用いて逆変換し、記録を行なうものである。
第2の実施の形態に係る画像処理装置は、入力情報として主情報100および副情報101を受取り、電子透かし入りの記録制限付き変換合成情報109を作成する電子透かし入り情報作成部(第1の画像処理手段)400、および、電子透かし入り合成情報を記録媒体上に記録出力することで電子透かし入り記録物106を作成する出力部(第2の画像処理手段)401を有して構成される。
ここで、説明のため、システム提供側Aを2つに分け、埋め込み処理部200および変換処理部203を所有し、これらを提供する者を電子透かしエンジン作成側(第3のユーザレベル)、提供された埋め込み処理部200および変換処理部203に記録制限処理部(第5の処理手段)205を加えて電子透かし入り情報作成部400を作成し、システムを提供する側をシステム作成側(第1のユーザレベル)とする。
電子透かし入り情報作成部400は、埋め込み方式、記録用パラメータなど複数の鍵情報からなる第1の鍵情報300を用いて主情報100に対し副情報101を埋め込むことで、電子透かし入り合成情報103を作成する電子透かし埋め込み処理部200、電子透かし埋め込み処理部200で作成された電子透かし入り合成情報103に対し、第1の鍵情報300のうちの1つ以上の鍵情報からなる第2の鍵情報301を用いて、副情報101の埋め込み条件を壊した状態を作るように変換することにより変換合成情報108を作成する変換処理部203、および、変換処理部203で作成された変換合成情報108に対し、出力部401とシステム利用側Bの有する固有情報からなる第3の鍵情報302を用いて出力部401での記録制限処理を行なうことで、記録制限を施した記録制限付き変換合成情報109を作成する記録制限処理部(第5の処理手段)205を有して構成される。
第3の鍵情報302は、たとえば、出力部401の有する製造番号、システム利用側Bの有するID番号など固有の情報であればなんでもよく、記録制限処理部205は、この情報を元に記録制限をかけた記録制限付き変換合成情報109を作成する。記録制限とは、提供された電子透かし入り合成情報を記録媒体に出力する場合、特定の出力部、特定のシステム利用者でないと記録出力できないことを意味する。作成された記録制限付き変換合成情報109はシステム利用側Bに提供される。
出力部401は、電子透かし入り情報作成部400からの記録制限付き変換合成情報109を受取り、当該記録制限付き変換合成情報109から前記第3の鍵情報302を用いて記録制限を解除して変換合成情報108を作成する記録制限解除処理部(第6の処理手段)206、記録制限解除処理部206で作成された変換合成情報108から前記第2の鍵情報301を用いて変換前の合成情報103を作成する逆変換処理部204、および、逆変換処理部204で作成された合成情報103を受取り、当該合成情報103を記録媒体上に記録出力する記録処理部202を有して構成される。
システム提供側Aは、電子透かし入り情報作成部400と出力部401を所有していて、電子透かし入り情報作成部400で作成した電子透かし入りの記録制限付き変換合成情報109および出力部401をシステム利用側Bに提供する。システム利用側Bは、管理したい文書データに対し編集作業により電子透かし入りの記録制限付き変換合成情報109を組込み、出力部401により記録出力を行なうことで、電子透かし入り記録物106を得る。この記録物106の真正性が疑われた場合、文書の電子透かしを確認することで真偽確認を行なうことができる。
このように、第2の実施の形態では、システム利用側Bの不正を行おうとするものが、システム提供側Aから提供される電子透かし入りの記録制限付き変換合成情報109を入手して管理文書を他の記録出力機で不正に作成しようとしても、記録制限処理により正規のユーザ、正規の記録出力機でないと機能しないため文書を作成できない。また、記録制限が解除されたとしても、変換処理により副情報101の埋め込み条件が壊されており、電子透かしが正常に入った文書を作成できない。
また、システム作成側がデータを入手して管理文書を他の記録出力機で不正に作成しようとしても、記録制限は解除できるものの、変換処理部分は有効であるため、副情報101の埋め込み条件が壊されており、そのため電子透かしが正常に入った文書を作成できない。
さらに、電子透かしエンジン作成側がデータを入手して管理文書を他の記録出力機で不正に作成しようとしても、変換処理部分は解除できるものの、記録制限部分は有効であるため、文書を作成することはできない。
次に、上述した第2の実施の形態に係る画像処理装置(画像処理方法)を実現するための要部の具体例について説明する。
第2の実施の形態に係る画像処理装置も、大別して、電子透かし入り情報作成部400として機能する埋め込み処理装置、および、出力部401として機能する記録装置から構成されている。
まず、埋め込み処理装置について図9を参照して説明する。第2の実施の形態に係る埋め込み処理装置は、前述した第1の実施の形態に係る埋め込み処理装置(図4)の構成に対して、図8の記録制限処理部205に対応する記録制限処理部722が追加された点が異なり、その他は第1の実施の形態に係る埋め込み処理装置(図4)と同様であるので、同一部分には同一符号を付して説明は省略する。
このような構成において図9の埋め込み処理装置の動作を説明する。
まず、被埋込み情報入力部801から、たとえば、人物の顔画像や風景画などの主情報100が入力され、それが画像メモリ704に格納される。
埋め込み対象である副情報101は、主情報100が変わっても変化しない固定情報であっても、変化する流動的な情報であってもよい。固定情報は、埋込み情報格納ROM802から供給され、流動情報は埋込み情報入力部803から入力され、画像メモリ704に格納される。
操作者の指示により、CPU701は、平滑化処理部711を動作させて、画像メモリ704に格納してある埋込み情報(副情報101)に対して平滑化処理を行ない、その結果を位相変調部712に送る。
位相変調部712は、平滑化処理の結果およびマスク情報格納ROM705からのマスク情報110に基づき位相変調処理を行ない、その結果を色差変調部713に送る。色差変調部713は、位相変調処理の結果および色差量格納ROM706からの色差量情報に基づき色差変調を行ない、その結果を重畳処理部714に送る。
重畳処理部714は、色差変調結果と画像メモリ704に格納してある被埋込み情報(主情報100)の重畳処理を行なうことにより合成情報103を作成して、変換処理部715に送る。
ここで、合成変換画像は後段の記録装置で記録媒体に記録を行なった時、主情報100に対し副情報101を目視識別できない形で埋め込みを可能とする記録装置固有の特性、たとえば、色変換処理、記録角度などの第1の鍵情報300を考慮して作成されている。
変換処理部715は、第2の鍵情報301を用いて合成情報103に対して記録をした時に副情報が壊れる条件の変換を施すことで、変換合成情報108を作成し、記録制限処理部722に送る。
記録制限処理部722は、第3の鍵情報302を用いて変換合成情報108に対して記録制限処理を施すことで、記録制限付き変換合成情報109を作成する。
記録制限処理部722の構成例を図10に示す。記録制限処理部722は、たとえば、パスワード設定処理部721を有していて、変換合成情報108に対して第3の鍵情報302をパスワードとして設定し、第3の鍵情報302を知らない場合はアクセスできないなどの処理を行なうことで、記録制限付き変換合成情報109を作成し、画像メモリ704に格納する。ここで、第3の鍵情報302の管理者と、第1の鍵情報300および第2の鍵情報301の管理者はお互いにそれぞれの鍵情報を知りえないものとする。
変換合成情報出力部718は、画像メモリ704に格納されている記録制限付き変換合成情報109を外部へ出力する。この出力された記録制限付き変換合成情報109は、次に説明する記録装置に渡される。
次に、記録装置について図11を参照して説明する。第2の実施の形態に係る記録装置は、前述した第1の実施の形態に係る記録装置(図6)の構成に対して、図8の記録制限解除処理部206に対応する記録制限解除処理部部907が追加された点が異なり、その他は第1の実施の形態に係る記録装置(図6)と同様であるので、同一部分には同一符号を付して説明は省略する。
このような構成において図11の記録装置の動作を説明する。
まず、記録制限付き変換合成情報109が変換合成情報入力部901から入力され、画像メモリ504に格納される。
次に、記録制限解除処理部部907は、画像メモリ504に格納されている記録制限付き変換合成情報109に対し記録制限の解除処理を施すことで、変換前の変換合成情報108を作成する。
記録制限解除処理部部907の構成例を図12に示す。記録制限解除処理部部907は、たとえば、パスワード解除処理部908を有していて、画像メモリ504に格納されている記録制限付き変換合成情報109に対して第3の鍵情報302を用いてパスワードの解除処理を行なうことにより変換合成情報108を作成し、逆変換処理部902に送る。
上記記録制限解除処理に用いる第3の鍵情報302は、前述した埋め込み処理装置内で使用された第3の鍵情報302と同じ鍵情報である。すなわち、記録制限解除処理の内容はパスワードの解除を行なう処理であり、このパスワード解除処理により記録制限付き変換合成情報109は変換合成情報108に変換される。
次に、逆変換処理部902は、記録制限解除処理部部907からの変換合成情報108に対し逆変換処理を施すことで、変換前の合成情報103を作成し、画像メモリ504に格納する。
記録画像生成部903は、画像メモリ504に格納されている合成情報103を記録処理に関わる画像情報に変換して記録処理部904に送り、記録処理部904で記録媒体に記録出力することで記録物106が作成される。
以上説明したように第2の実施形態によれば、システム利用側に提供される電子透かし入りの記録制限付き変換合成情報109を入手され、管理文書を他の記録出力機で不正に作成しようとしても、記録制限がかかっているため、また、変換処理により副情報101の埋め込み条件が壊されているため、電子文書を作成できない。
また、システム作成側の悪意を持った者がデータを入手し、他の記録出力機で管理文書を作成しようとしても、変換処理により正常な状態で管理文書を作成することはできない。さらに、電子透かしエンジン作成側の悪意を持った者がデータを入手し、他の記録出力機で管理文書を作成しようとしても、記録制限により文書を作成できない。
本発明が適用される電子透かしを用いた文書管理システムの構成を概略的に示す模式図。 本発明の第1の実施の形態に係る画像処理装置の構成を概略的に示す模式図。 副情報を主情報に埋め込むための埋め込み処理について説明する処理の流れ図。 第1の実施の形態に係る画像処理装置(画像処理方法)を実現するための埋め込み処理装置の具体例について説明するブロック図。 変換処理部の構成例を示すブロック図。 第1の実施の形態に係る画像処理装置(画像処理方法)を実現するための記録装置の具体例について説明するブロック図。 逆変換処理部の構成例を示すブロック図。 本発明の第2の実施の形態に係る画像処理装置の構成を概略的に示す模式図。 第2の実施の形態に係る画像処理装置(画像処理方法)を実現するための埋め込み処理装置の具体例について説明するブロック図。 記録制限処理部の構成例を示すブロック図。 第2の実施の形態に係る画像処理装置(画像処理方法)を実現するための記録装置の具体例について説明するブロック図。 記録制限解除処理部の構成例を示すブロック図。
符号の説明
A…システム提供側(サービス提供側、第1のユーザレベル)、B…システム利用側(ユーザ側、第2のユーザレベル)、100…主情報、101…副情報、103…合成情報、106…記録物、108…変換合成情報、400…電子透かし入り情報作成部(第1の画像処理手段)、401…出力部(第2の画像処理手段)、300…第1の鍵情報、301…第2の鍵情報、200…電子透かし埋め込み処理部(第1の処理手段)、202…記録処理部(第4の処理手段)、203…変換処理部(第2の処理手段)、204…逆変換処理部(第3の処理手段)。

Claims (14)

  1. 目視識別できる主情報に対し目視識別できない状態で副情報を埋め込むことにより合成情報を作成する第1の画像処理方法と、この第1の画像処理方法により作成された合成情報を記録媒体上に主情報のみ目視識別できる状態で記録する第2の画像処理方法とから構成される画像処理方法であって、
    前記第1の画像処理方法は、
    第1の鍵情報を用いて、目視識別できる主情報に対し目視識別できない状態で副情報を埋め込むことにより合成情報を作成する第1の処理ステップと、
    第2の鍵情報を用いて、前記第1の処理ステップにより作成された合成情報に対し画像の回転あるいは画素の入替え処理を行なうことにより当該合成情報の副情報を壊した状態の変換合成情報を作成する第2の処理ステップとを有し、
    前記第2の画像処理方法は、
    前記第2の鍵情報を用いて、前記第2の処理ステップにより作成された変換合成情報から変換前の合成情報を作成する第3の処理ステップと、
    この第3の処理ステップにより作成された合成情報を記録媒体上に記録する第4の処理ステップとを具備したことを特徴とする画像処理方法。
  2. 第1のユーザレベルは、第1の画像処理方法および第2の画像処理方法を所有していて、第1の画像処理方法を用いて作成した変換合成画像および第2の画像処理方法を第2のユーザレベルに提供し、
    第2のユーザレベルは、提供された第2の画像処理方法を用いて合成情報を記録した記録媒体を作成することを特徴とする請求項1記載の画像処理方法。
  3. 目視識別できる主情報に対し目視識別できない状態で副情報を埋め込むことにより合成情報を作成する第1の画像処理方法と、この第1の画像処理方法により作成された合成情報を記録媒体上に主情報のみ目視識別できる状態で記録する第2の画像処理方法とから構成される画像処理方法であって、
    前記第1の画像処理方法は、
    第1の鍵情報を用いて、目視識別できる主情報に対し目視識別できない状態で副情報を埋め込むことにより合成情報を作成する第1の処理ステップと、
    第2の鍵情報を用いて、前記第1の処理ステップにより作成された合成情報に対し画像の回転あるいは画素の入替え処理を行なうことにより当該合成情報の副情報を壊した状態の変換合成情報を作成する第2の処理ステップと、
    第3の鍵情報を用いて、前記第2の処理ステップにより作成された変換合成画像に対し、当該変換合成情報を記録媒体に出力する場合、特定の出力手段あるいは特定の利用者でないと記録出力できないように記録制限を施した記録制限付き変換合成情報を作成する第5の処理ステップとを有し、
    前記第2の画像処理方法は、
    前記第3の鍵情報を用いて、前記第5の処理ステップにより作成された記録制限付き変換合成画像の記録制限を解除して変換合成画像を作成する第6の処理ステップと、
    前記第2の鍵情報を用いて、前記第6の処理ステップにより作成された変換合成情報から変換前の合成情報を作成する第3の処理ステップと、
    この第3の処理ステップにより作成された合成情報を記録媒体上に記録する第4の処理ステップとを具備したことを特徴とする画像処理方法。
  4. 第3のユーザレベルは、第1の処理ステップ、第2の処理ステップ、第1の鍵情報、第2の鍵情報および第3の処理ステップを所有していて、当該第1の処理ステップ、第2の処理ステップ、第1の鍵情報、第2の鍵情報および第3の処理ステップを第1のユーザレベルに提供し、
    第1のユーザレベルは、提供された第1の処理ステップ、第2の処理ステップ、第1の鍵情報、第2の鍵情報および第3の処理ステップと、所有する第3の鍵情報、第5の処理ステップおよび第6の処理ステップを用いて、第1の画像処理方法および第2の画像処理方法を作成し、第1の画像処理方法を用いて作成した記録制限付き変換合成画像および第2の画像処理方法を第2のユーザレベルに提供し、
    第2のユーザレベルは、提供された第2の画像処理方法を用いて合成情報を記録した記録媒体を作成することを特徴とする請求項3記載の画像処理方法。
  5. 第1の処理ステップにおいて目視識別できる主情報に対し目視識別できない状態で副情報を埋め込む方法は色差方式であり、第1の鍵情報は、色差を用いて副情報を埋め込むためのパラメータであることを特徴とする請求項1または請求項3記載の画像処理方法。
  6. 第2の鍵情報は、第1の鍵情報に関連した情報であり、特に記録媒体への記録に関係した記録パラメータの1つ以上の組合せであることを特徴とする請求項1または請求項3記載の画像処理方法。
  7. 第3の鍵情報は、第1の鍵情報、第2の鍵情報とは関係のない、第1のユーザレベル、第2のユーザレベルの有する固有情報の1つ以上の組合せであることを特徴とする請求項3記載の画像処理方法。
  8. 目視識別できる主情報に対し目視識別できない状態で副情報を埋め込むことにより合成情報を作成する第1の画像処理手段と、この第1の画像処理手段により作成された合成情報を記録媒体上に主情報のみ目視識別できる状態で記録する第2の画像処理手段とから構成される画像処理装置であって、
    前記第1の画像処理手段は、
    第1の鍵情報を用いて、目視識別できる主情報に対し目視識別できない状態で副情報を埋め込むことにより合成情報を作成する第1の処理手段と、
    第2の鍵情報を用いて、前記第1の処理手段により作成された合成情報に対し画像の回転あるいは画素の入替え処理を行なうことにより当該合成情報の副情報を壊した状態の変換合成情報を作成する第2の処理手段とを有し、
    前記第2の画像処理手段は、
    前記第2の鍵情報を用いて、前記第2の処理手段により作成された変換合成情報から変換前の合成情報を作成する第3の処理手段と、
    この第3の処理手段により作成された合成情報を記録媒体上に記録する第4の処理手段とを具備したことを特徴とする画像処理装置
  9. 第1のユーザレベルは、第1の画像処理手段および第2の画像処理手段を所有しており、第1の画像処理手段を用いて作成した変換合成画像および第2の画像処理手段を第2のユーザレベルに提供し、
    第2のユーザレベルは、提供された第2の画像処理手段を用いて合成情報を記録した記録媒体を作成することを特徴とする請求項8記載の画像処理装置
  10. 目視識別できる主情報に対し目視識別できない状態で副情報を埋め込むことにより合成情報を作成する第1の画像処理手段と、この第1の画像処理手段により作成された合成情報を記録媒体上に主情報のみ目視識別できる状態で記録する第2の画像処理手段とから構成される画像処理画像処理装置であって、
    前記第1の画像処理手段は、
    第1の鍵情報を用いて、目視識別できる主情報に対し目視識別できない状態で副情報を埋め込むことにより合成情報を作成する第1の処理手段と、
    第2の鍵情報を用いて、前記第1の処理手段により作成された合成情報に対し画像の回転あるいは画素の入替え処理を行なうことにより当該合成情報の副情報を壊した状態の変換合成情報を作成する第2の処理手段と、
    第3の鍵情報を用いて、前記第2の処理手段により作成された変換合成画像に対し、当該変換合成情報を記録媒体に出力する場合、特定の出力手段あるいは特定の利用者でないと記録出力できないように記録制限を施した記録制限付き変換合成情報を作成する第5の処理手段とを有し、
    前記第2の画像処理手段は、
    前記第3の鍵情報を用いて、前記第5の処理手段により作成された記録制限付き変換合成画像の記録制限を解除して変換合成画像を作成する第6の処理手段と、
    前記第2の鍵情報を用いて、前記第6の処理手段により作成された変換合成情報から変換前の合成情報を作成する第3の処理手段と、
    この第3の処理手段により作成された合成情報を記録媒体上に記録する第4の処理手段とを具備したことを特徴とする画像処理装置
  11. 第3のユーザレベルは、第1の処理手段、第2の処理手段、第1の鍵情報、第2の鍵情報および第3の処理手段を所有していて、当該第1の処理手段、第2の処理手段、第1の鍵情報、第2の鍵情報および第3の処理手段を第1のユーザレベルに提供し、
    第1のユーザレベルは、提供された第1の処理手段、第2の処理手段、第1の鍵情報、第2の鍵情報および第3の処理手段と、所有する第3の鍵情報、第5の処理手段および第6の処理手段を用いて、第1の画像処理手段および第2の画像処理手段を作成し、第1の画像処理手段を用いて作成した記録制限付き変換合成画像および第2の画像処理手段を第2のユーザレベルに提供し、
    第2のユーザレベルは、提供された第2の画像処理手段を用いて合成情報を記録した記録媒体を作成することを特徴とする請求項10記載の画像処理装置
  12. 第1の処理手段において目視識別できる主情報に対し目視識別できない状態で副情報を埋め込む方法は色差方式であり、第1の鍵情報は、色差を用いて副情報を埋め込むためのパラメータであることを特徴とする請求項8または請求項10記載の画像処理装置
  13. 第2の鍵情報は、第1の鍵情報に関連した情報であり、特に記録媒体への記録に関係した記録パラメータの1つ以上の組合せであることを特徴とする請求項8または請求項10記載の画像処理装置
  14. 第3の鍵情報は、第1の鍵情報、第2の鍵情報とは関係のない、第1のユーザレベル、第2のユーザレベルの有する固有情報の1つ以上の組合せであることを特徴とする請求項10記載の画像処理装置
JP2007255672A 2007-09-28 2007-09-28 画像処理方法および画像処理装置 Expired - Fee Related JP4901675B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007255672A JP4901675B2 (ja) 2007-09-28 2007-09-28 画像処理方法および画像処理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007255672A JP4901675B2 (ja) 2007-09-28 2007-09-28 画像処理方法および画像処理装置

Publications (2)

Publication Number Publication Date
JP2009088969A JP2009088969A (ja) 2009-04-23
JP4901675B2 true JP4901675B2 (ja) 2012-03-21

Family

ID=40661796

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007255672A Expired - Fee Related JP4901675B2 (ja) 2007-09-28 2007-09-28 画像処理方法および画像処理装置

Country Status (1)

Country Link
JP (1) JP4901675B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7176655B1 (ja) 2022-04-14 2022-11-22 凸版印刷株式会社 真贋判定方法、真贋判定システム、及び真贋判定装置

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4167590B2 (ja) * 2003-12-22 2008-10-15 株式会社東芝 画像処理方法

Also Published As

Publication number Publication date
JP2009088969A (ja) 2009-04-23

Similar Documents

Publication Publication Date Title
JP3789069B2 (ja) 電子透かし埋め込み装置及び方法及びプログラム及び記憶媒体、及び電子透かし抽出装置及び方法及びプログラム及び記憶媒体
Johnson et al. Steganalysis of images created using current steganography software
JP4313873B2 (ja) 電子機器及びデータ処理方法
Arnold et al. Techniques and applications of digital watermarking and content protection
JP4722599B2 (ja) 電子画像データ検証プログラム、電子画像データ検証システム及び電子画像データ検証方法
CA2504299C (en) System and method for decoding digital encoded images
JP2006311548A (ja) 画像セットの完全性を保証する方法
JP3728136B2 (ja) 画像処理装置及び画像処理方法及び記憶媒体
Bedi et al. An adaptive data hiding technique for digital image authentication
Surekha et al. A multiple watermarking technique for images based on visual cryptography
Samuel et al. Digital watermarking for copyright protection
JPH11168616A (ja) 画像情報処理方法および画像情報処理装置
JP4901675B2 (ja) 画像処理方法および画像処理装置
JPH11355554A (ja) 画像情報処理方法および証明書等の偽造防止方法
Shaw Digital document integrity
JP5408113B2 (ja) 電子画像データ検証プログラム、電子画像データ検証方法及び電子画像データ検証装置
Jahnke et al. An introduction in digital watermarking: Applications, principles, and problems
JP2001094755A (ja) 画像処理方法
Seitz et al. Digital watermarking: an introduction
JP7008950B2 (ja) 電子透かし装置および方法
JP2007104062A (ja) 画像処理装置、画像処理方法、画像処理プログラム、並びに、画像処理システム
JP4089128B2 (ja) 電子透かし埋込み方法、電子透かし検証方法及び元画像復元方法
JP2004364093A (ja) 秘密情報処理システム,秘密情報埋め込み装置,秘密情報検出装置,秘密情報埋め込み方法,および秘密情報検出方法
JP2006238455A (ja) 画像再生方法および装置並びに記録媒体
JP2006301334A (ja) 画像情報セキュリティ方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100226

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110815

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110913

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111114

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111206

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111227

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150113

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees