JP4064863B2 - 画像処理方法 - Google Patents

画像処理方法 Download PDF

Info

Publication number
JP4064863B2
JP4064863B2 JP2003122345A JP2003122345A JP4064863B2 JP 4064863 B2 JP4064863 B2 JP 4064863B2 JP 2003122345 A JP2003122345 A JP 2003122345A JP 2003122345 A JP2003122345 A JP 2003122345A JP 4064863 B2 JP4064863 B2 JP 4064863B2
Authority
JP
Japan
Prior art keywords
information
sub
image information
composite image
embedding
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003122345A
Other languages
English (en)
Other versions
JP2004328496A (ja
Inventor
隆 山口
武郎 三木
真哉 徳田
賢二 宮崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2003122345A priority Critical patent/JP4064863B2/ja
Publication of JP2004328496A publication Critical patent/JP2004328496A/ja
Application granted granted Critical
Publication of JP4064863B2 publication Critical patent/JP4064863B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Description

【0001】
【発明の属する技術分野】
本発明は、たとえば、可視状態の主画像情報(人物の顔画像など)に対して別の付加的な副情報(セキュリティ情報など)を不可視状態で埋め込み合成して合成画像情報を作成し、この作成した合成画像情報を記録媒体上に記録したり、その記録した合成画像情報からその中に埋込まれた副情報を復元したりする画像処理方法に関する。
【0002】
【従来の技術】
近年、情報の電子化やインターネットの普及に伴って、画像の偽造や変造防止のために電子透かし、電子署名などの技術が重要視されるようになってきた。特に、主画像情報に付加的な副情報(副画像情報)を不可視状態で埋め込む電子透かし技術は、IDカードなどの個人認証媒体や著作権情報を埋め込んだ写真に対する不正コピー、偽造、改ざん対策として提案されている。
【0003】
たとえば、印刷物へ出力される画像データに対して、人間が感知しにくい高い空間周波数成分および色差成分の特性を利用してデータを埋め込む電子透かし挿入方法が知られている(たとえば、特許文献1参照)。
また、光学フィルタで確認できる電子透かしの印刷装置が知られている(たとえば、特許文献2参照)。
【0004】
【特許文献1】
特開平9−248935号公報
【0005】
【特許文献2】
特開2001−268346号公報
【0006】
【発明が解決しようとする課題】
上記したように、個人認証媒体における個人認証用の顔画像の記録などに電子透かし技術を適用して、顔画像自体のセキュリティ性を高めることが最近要求されてきている。電子透かし処理で主画像情報に埋め込まれる副情報として、たとえば、2次元コードに代表されるコード情報を用いることがある。
【0007】
しかし、副情報を復元処理した場合に、主画像情報(被埋め込み画像情報)の状態や記録したプリンタや読取ったスキャナなどの装置の変動や環境条件などの影響で、副情報を100%完全に元に戻して復元することは難しい。
【0008】
QR(クイックレスポンス)コードに代表される2次元バーコードでは、コード情報が誤り訂正機能を持っている場合もあるが、コード情報の必須構成情報が復元に失敗していた場合、コード自体がコードと認識されないため誤り訂正機能も働かず、副情報そのものが無効になってしまう可能性が高い。
【0009】
そこで、本発明は、電子透かし処理を行なった画像情報から濃淡画像およびコード情報で構成される副情報を安定して復元して取出すことが可能になる画像処理方法を提供することを目的とする。
【0010】
また、本発明は、副情報が誤り訂正機能を持っている場合、誤り訂正機能を用いることが可能になる画像処理方法を提供することを目的とする。
【0011】
【課題を解決するための手段】
本発明の画像処理方法は、人間の肉眼で可視状態の主画像情報に対して、人間の肉眼で不可視状態で副情報を埋め込むことによって作成した合成画像情報を記録媒体上に可視状態で記録し、前記記録媒体上に記録された合成画像情報を読取り、この読取った合成画像情報から前記副情報を復元する画像処理方法において、前記副情報は2値または多値の濃淡画像で表現されるコード情報で構成されていて、前記主画像情報に前記副情報を埋め込む際に可視状態の位置出しマークと副情報との相対位置をあらかじめ設定した値にする位置決めステップと、前記主画像情報に対して前記副情報を不可視状態で埋め込むことにより合成画像情報を作成する埋め込みステップと、この埋め込みステップにより作成された合成画像情報および前記位置出しマークを記録媒体上に記録する記録ステップと、前記記録媒体上に記録された合成画像情報を読取る読取りステップと、この読取りステップにより読取られた合成画像情報から前記副情報または前記副情報と等価な情報を復元する復元ステップと、前記読取りステップにより読取られた合成画像情報から前記位置出しマークの位置を検出する検出ステップと、この検出ステップにより検出された位置出しマークを基準にして、前記復元ステップにより復元された副情報から当該副情報を構成するコード情報の全副情報に共通な必須構成情報を補完する補完ステップとを具備している。
【0012】
また、本発明の画像処理方法は、人間の肉眼で可視状態の主画像情報に対して、人間の肉眼で不可視状態で副情報を埋め込むことによって作成した合成画像情報を記録媒体上に可視状態で記録し、前記記録媒体上に記録された合成画像情報を読取り、この読取った合成画像情報から前記副情報を復元する画像処理方法において、前記副情報は2値または多値の濃淡画像で表現されるコード情報で構成されていて、前記副情報から全副情報に共通な必須構成情報の少なくとも一部を削除することにより圧縮副情報を作成する副情報圧縮ステップと、前記主画像情報に前記副情報を埋め込む際に可視状態の位置出しマークと副情報との相対位置をあらかじめ設定した値にする位置決めステップと、前記主画像情報に対して前記副情報圧縮ステップにより作成された圧縮副情報を不可視状態で埋め込むことにより合成画像情報を作成する埋め込みステップと、この埋め込みステップにより作成された合成画像情報および前記位置出しマークを記録媒体上に記録する記録ステップと、前記記録媒体上に記録された合成画像情報を読取る読取りステップと、この読取りステップにより読取られた合成画像情報から前記圧縮副情報または前記圧縮副情報と等価な情報を復元する復元ステップと、前記読取りステップにより読取られた合成画像情報から前記位置出しマークの位置を検出する検出ステップと、この検出ステップにより検出された位置出しマークを基準にして、前記復元ステップにより復元された圧縮副情報に対し削除された必須構成情報を補完する補完ステップとを具備している。
【0013】
【発明の実施の形態】
以下、本発明の実施の形態について図面を参照して説明する。
まず、第1の実施の形態について説明する。
図1は、第1の実施の形態に係る画像処理方法の全体の流れを示すものである。この例は、たとえば、IDカードなどの個人認証媒体における個人認証用の顔画像の処理に適用した場合を示しており、以下、詳細に説明する。
【0014】
最初に、ステップS101で画像入力処理が行なわれる。ここでは、個人認証媒体の所持者本人の顔画像をカメラにより入力したり、顔写真をスキャナなどの画像入力装置で取込むことにより、個人の顔画像情報をデジタル化する。
【0015】
次に、ステップS102により、ステップS101の画像入力処理で得られた顔画像情報(主画像情報)に副情報を埋め込む際に可視状態の位置出しマークと副情報との相対位置をあらかじめ設定した値にする位置決め処理を行なう。
【0016】
次に、ステップS103により、主画像情報(以下、被埋め込み画像情報ともいう)に対して、電子透かし埋め込み処理を行なう。ここでは、被埋め込み画像情報に対し副情報(副画像情報)を人間の視覚に感知できないように不可視状態で埋め込んだ合成画像情報が作成される。
【0017】
次に、ステップS104により、ステップS103により作成された合成画像情報を、個人認証媒体となるカード状の記録媒体上に、サーマルヘッドなどの記録デバイスにより印刷記録することにより、個人認証媒体Mが作成される。この作成された個人認証媒体Mは利用者に渡され、利用者により使用されることになる。
【0018】
さて、上記のように作成された個人認証媒体M上の合成画像情報に対し真偽判定が必要になった場合、画像入力ステップ105により、スキャナやカメラなどの入力デバイスを用いて、個人認証媒体M上に記録された合成画像情報をデジタル情報として読取る。
【0019】
次に、ステップS106により、画像入力ステップ105により得られた合成画像情報に対し、あらかじめ設定された鍵情報を用いて電子透かし復元処理を行なうことにより、副情報を復元する。次に、ステップS107により、画像入力ステップ105により得られた合成画像情報から位置出しマークを検出する。
【0020】
次に、ステップS108により、ステップS107により検出された位置出しマークを基準にして、ステップS106により復元された副情報から当該副情報を構成するコード情報の全副情報に共通な必須構成情報を補完する。
【0021】
次に、ステップS109により、ステップS108により補完処理された副情報に対し、コード情報の読取りおよび認識処理を行ない、コード情報の内容を認識する。最後に、ステップS109により、ステップS109により認識したコード情報を判定して、個人認証媒体Mの真偽判定を行ない、その判定結果を出力する。
【0022】
図2は、作成されたIDカードなどの個人認証媒体Mの具体例を示す。個人認証媒体Mには、持ち主の個人認証用顔画像202が印刷記録されているが、この顔画像202は図1で説明した処理によって作成され印刷されたものである。また、識別番号(いわゆるID番号)、氏名、生年月日、有効期限などの個人管理情報203が記録されている。これらの個人管理情報203を、図1におけるステップS103の電子透かし埋め込み処理の副情報として用いることにより、個人認証媒体Mの認証用顔画像202と個人管理情報203とが関連付けられるため、個人認証媒体Mの一部を改ざんしたり、偽造することが困難になり、セキュリティ性を高めることが可能になる。なお、本例では、副情報として識別番号である「1234567890」の数字を用いている。
【0023】
また、個人認証用顔画像202の四隅には、副情報の補完を行なう際に用いる例えば星(☆)印の位置出しマーク204が記録されている。なお、本例では、位置出しマーク204として個人認証用顔画像202の四隅に星印を記録したが、位置が特定できるならば2箇所でも構わないし、矩形(□)印や丸(○)印でも機能的に何ら問題ない。
【0024】
本実施の形態では、副情報に濃淡画像で表現されたコード情報を用いるが、副情報として識別番号である「1234567890」の数字を用いる場合に、濃淡画像への変換例として2次元バーコードの一種であるQRコードを用いた場合を図3に示す。
【0025】
図3に示すQRコードは、バージョン1といわれる規格で、セル21×21サイズ、誤り訂正レベルM(〜15%)となっている。なお、QRコードは、国際標準仕様であるISO/IEC18004において定義されている。なお、本実施の形態ではQRコードを用いたが、他の2次元コードでも機能的には何ら問題ない。
【0026】
図4にQRコードの構造を示す。QRコード401は、次に示す4つの項目から構成されていて、
(1) 切り出しシンボル402
(2) タイミングパターン403
(3) マージン(4セル以上)404
(4) データセル405
(4)のデータセルは、この場合、副情報に依存して可変情報となるので、固定さ れる必須構成情報は(1)〜(3)の3項目になる。
【0027】
したがって、図1におけるステップS108の副情報補完処理では、
(1) 切り出しシンボル402
(2) タイミングパターン403
(3) マージン(4セル以上)404
を全ての復元処理後の副情報に対して補完することになる。
【0028】
図5(a)に、復元処理後の副情報であるQRコードに図1におけるステップS108の副情報補完処理を行なわない場合の例を示し、図5(b)に、図1におけるステップS108の副情報補完処理を行なった場合の例を示す。
【0029】
図5(a)のQRコード501では、復元処理の後で左上のデータが1/4程度欠落している。この欠落しているデータ502の中に切り出しシンボル402が含まれているために、QRコード501の必須構成情報が満足されず、このデータはQRコード501とは認識されない可能性が非常に高い。もし認識されない場合は、QRコード自体が持っている誤り訂正機能は機能しないので、図5(a)のQRコード511は無効となる。
【0030】
図5(b)のQRコード511では、図5(a)のQRコード501と同じく、復元処理の後で左上のデータが1/4程度欠落しているが、補完処理が行なわれているため、必須構成情報である切り出しシンボル512が補完されている。このため、このQRコード511は正しくQRコードと認識されるため、本来持っている誤り訂正機能が有効になり、データの欠落が約15%(レベルMの場合)までは自動的に訂正されて、読出すことが可能になる。
【0031】
図6は、個人認証媒体Mの認証用顔画像602に副情報としてQRコード605を用いて電子透かしを埋め込んで印刷記録した例を示す。個人認証媒体Mには、持ち主の個人認証用顔画像602が印刷記録されているが、この顔画像602は図1で説明した処理によって作成され印刷されたものである。また、識別番号(No.)、氏名、生年月日、有効期限などの個人管理情報603が記録されている。
【0032】
本実施の形態では、副情報として識別番号である「1234567890」の数字を用いて、それを2次元バーコードであるQRコード605に変換して電子透かし処理を行なうことにより、被埋め込み画像情報に不可視状態で埋め込んでいる。なお、QRコード605は、図6ではあたかも目視で確認できるように示しているが、これは表現上の問題で、実際には視覚的に認識できないように不可視状態で埋め込まれている。個人認証用顔画像602の四隅に記録してある星印が位置出しマーク604である。
【0033】
ここで、復元処理後の副情報に対して行なう位置出しマーク604を基準にした補完処理の概要について図7を参照して説明する。
スキャナなどで読取った後に復元処理を行なった副情報の濃淡画像701、および、復元されたQRコードで表現された副情報703があり、そこに位置出しマーク検出処理によって検出された位置出しマーク702を重ね合わせたものが図7である。最初に、左上の位置出しマーク702を基準にx軸(水平軸)704を決定し、次にy軸(垂直軸705)を決定する。それぞれの座標軸は、位置出しマーク702の重心を通る2点間の直線として決定している。x軸とy軸の交点を原点として、
(1) 切り出しシンボル
(2) タイミングパターン
(3) マージン(4セル以上)
の位置を決定する。たとえば、切り出しシンボルの場合は、位置ベクトルP1、P2、P3により位置決めを行ない、その位置に切り出しシンボルを上書きすることにより補完処理を行なう。この場合、データが欠落している切り出しシンボルを検出し、当該切り出しシンボルに対してのみ切り出しシンボルを上書きしてもよく、あるいは、データが欠落している切り出しシンボルを検出した場合、全ての切り出しシンボルに対して切り出しシンボルを上書きしてもよい。なお、他のタイミングパターンやマージンについても同様に処理できる。
【0034】
次に、電子透かし埋め込み処理について説明する。本実施の形態では、電子透かしの手法一般に適用可能であるが、特に副情報と主画像情報(被埋め込み画像情報)とを重畳処理することによって埋め込みを行なう手法と相性がよい。
【0035】
この電子透かし埋め込み処理手法の詳細は、たとえば、特開平11−168616号公報や特開2001−268346号公報などに記述されており、これらを適用することが可能である。これらの手法は、基本的に主画像情報がカラー(フルカラー)画像であることを前提に記述されているが、これらに対し更に例えば特開平11−355554号公報に記述されている技術を加えて応用することにより、白黒画像に対しても副情報(副画像情報)を不可視状態で埋め込むことが可能である。
【0036】
もし、個人認証媒体の顔画像の真偽判定が必要になった場合は、上記公報などに記載されている復元処理を鍵情報を利用して行なうことによって、不可視状態で記録されていた副情報が復元される。
【0037】
図8および図9に、特開平11−168616号公報に記述されている色差変調方式を用いた電子透かし埋め込み処理の流れ図を示し、本実施の形態への適用例を説明する。この方式では、
(1) 人間の視覚特性を利用
・画像の周波数が高くなるほど階調識別能力が低下
・輝度情報よりも色差情報の方が判別困難
(2) 補色の関係 例…赤色+シアン色=無彩色(白)(加法混色の場合)
(3) 高周波キャリアパターン画像に補色の関係および色差情報を適用(色差変調処理)
を用いることにより、画質劣化を招くことなく、主画像情報に副情報を不可視状態で埋め込むことが可能になっている。
【0038】
上記(2)の例でいえば、赤色とシアン色(=緑色+青色)は、加法混色の場合 、補色の関係にあり、赤色とシアン色とが隣り合っていても人間の目には判別しにくく無彩色に見える。
上記(3)の例のように、高周波キャリアパターン画像を用いることで、赤色リッチな画素とシアン色リッチな画素とが繰り返し配置されているため、人間の目ではこれらの細かな色差の違いを識別できず、色差量はプラスマイナス「0」と判断してしまう人間の視覚特性を利用している。この方式で作成した合成画像情報(電子透かし入り画像情報)は、格納する画像フォーマットに依存しないので、現在流通しているBMPやTIFF、JPEGなどの画像フォーマットだけでなく、将来新しい画像フォーマットに変更されても全く問題ない。
【0039】
図8は、電子透かし埋め込み処理の流れを模式的に示したものである。
図8において、被埋め込み画像情報である主画像情報801は、たとえば、個人認証用の顔画像情報、埋め込み情報である副情報802は、たとえば、主画像情報801のセキュリティ性を高める情報(今回は数字の「174」)で、氏名や誕生日などをコード化して画像としたものや会社のロゴマークなどの図形を用いる。鍵情報803は、電子透かし埋め込み処理によって不可視状態で埋め込まれた副情報を後で復元するための鍵となる情報である。
【0040】
最初に、主画像情報801と副情報802と鍵情報803とを用いて電子透かし埋め込み処理804を行なうことにより、合成画像情報805を作成する。次に、作成した合成画像情報805に対し記録(印刷)処理806を行なうことにより、個人認証媒体807が完成する。
【0041】
図9は、特開平11−168616号公報に記述されている電子透かし埋め込み処理の流れを示しており、基本的にこの電子透かし埋め込み処理方式を適用可能である。以下、この電子透かし埋め込み処理について簡単に説明しておく。なお、詳細については特開平11−168616号公報の記述内容を参照されたい。
【0042】
被埋め込み画像情報(主画像情報)901は、埋め込み情報が埋め込まれる画像情報で、個人認証媒体では所有者の顔写真(顔画像)に相当する。これは、1画素当たり24ビット(RGB各8ビット)の情報を持っている。埋め込み画像情報(副情報)902は、埋め込む情報を2値画像に変換したもので、個人認証媒体では例えば識別番号などに相当する。これは、1画素あたり1ビットの情報を持っている。マスク画像情報(鍵情報)903は、合成処理時および埋め込み画像情報の復元(再生)時に用いる画像情報で、1画素あたり1ビットの情報を持っている。
【0043】
最初に、平滑化処理ステップ904において、埋め込み画像情報902の黒画素を「1」、白画素を「0」として平滑化処理を行なう。ここでは、x方向について注目画素の両端の画素を3×1画素の領域を切り出して、重み平均を取る。次に、位相変調処理ステップ905において、平滑化処理ステップ904における平滑化処理の結果を基にマスク画像情報903に対し位相変調を行なう。
【0044】
次に、色差変調処理ステップ907において、位相変調処理ステップ905における位相変調結果を基に、色差量ΔCdを用いて色差変調処理を行なう。この場合、R(赤)、G(緑)、B(青)の3成分を別々に計算する。次に、重畳処理ステップ908において、色差変調処理ステップ907における色差変調結果(重畳用画像情報)と被埋込み画像情報901とから、重畳処理を行なうことにより、合成画像情報909を作成する。
【0045】
以上の説明からも明らかなように、図9の被埋め込み画像情報901と埋め込み画像情報902とマスク画像情報903は、図8で説明した本実施の形態における主画像情報801と副情報802と鍵情報803と全く同じものである。したがって、基本的には図9に示した電子透かし埋め込み処理方式を本実施の形態に適用可能であることは明らかである。
【0046】
重畳処理ステップ908における重畳処理に関しては、被埋め込み画像情報901、重畳用画像情報、合成画像情報909を下記のように定義すると、
被埋め込み画像情報: SRC−C(x,y) (A−1)
重畳用画像情報 : STL−C(x,y) (A−2)
合成画像情報 : DES−C(x,y) (A−3)
x,yは画像の座標値
C={R(赤)、G(緑)、B(青)}プレーンを示すそれぞれの値は24ビットカラー演算の場合、0〜255の整数値
次式で表わされる。
DES−R(x,y)=SRC−R(x,y) +STL−R(x,y) (B−1)
DES−G(x,y)=SRC−G(x,y) +STL−G(x,y) (B−2)
DES−B(x,y)=SRC−B(x,y) +STL−B(x,y) (B−3)
本実施の形態では、加法混色での演算として色の基本原色にR(赤)、G(緑)、B(青)を用いたが、減法混色での演算では色の基本原色にC(シアン)、M(マゼンダ)、Y(イエロー)を用いても本質的には変わらない。
【0047】
図9の電子透かし埋め込み処理方式では、上記のように補色の関係を用いて色差変調処理907を行なっている。そのときに、あらかじめ定められた色差量ΔCdを用いている。これは、あらかじめ実験的に求めた赤とシアンとの輝度値の差分量(一定値)をデータとして保有している。また、マスク画像情報903は、埋め込み画像情報902の必要時に復元するための鍵となるため、設定パラメータとしてはある程度制限を受けるので、色差量ΔCdの値が設定パラメータとして重要な役割を持つ。
【0048】
次に、電子透かしの復元処理について簡単に説明する。一番簡単な方法は、周波数フィルタを用いる方法である。まず、最初に、スキャナやカメラなどの入力デバイスを用いて、個人認証媒体上に記録(印刷)された合成画像情報をデジタル情報として読取る。
【0049】
次に、鍵情報の設定処理を行なう。これは、たとえば、複数の鍵情報を使い分けているならば、どの鍵情報を用いているのか、個人認証媒体に関連付けられた情報(たとえば、識別情報など)から判断して鍵情報を特定する。また、単一の鍵情報ならば直接、鍵情報の特定周波数の情報をあらかじめテーブルとして保持しておく。
【0050】
次に、電子透かし復元処理を行なう。これは、入力デバイスにより得られた合成画像情報に対し、鍵情報により得られた特定周波数による周波数フィルタリング処理を行なう。周波数フィルタリング処理は、たとえば、FFT演算やデジタル周波数フィルタなどが使用できる。
【0051】
以上説明したように、第1の実施の形態によれば、電子透かし復元処理後に復元された副情報に対して、あらかじめ検出した位置出しマークを基準にしてコード情報の必須構成情報を補完処理することにより、復元されたコード情報が正しくコード情報として認識されるため、本来持っている誤り訂正機能が有効になり、データの欠落が自動的に訂正されて、安定的に読出すことが可能になる。
【0052】
なお、上記説明では、コード情報としてQRコードを用いたが、その他のコード、たとえば、「データコード」、「PDF417」、「マキシコード」などでも問題なく適用可能である。
【0053】
次に、第2の実施の形態について説明する。
図10は、第2の実施の形態に係る画像処理方法の全体の流れを示すものであり、以下、詳細に説明する。
【0054】
最初に、ステップS201で画像入力処理が行なわれる。ここでは、個人認証媒体の所持者本人の顔画像をカメラにより入力したり、顔写真をスキャナなどの画像入力装置で取込むことにより、個人の顔画像情報をデジタル化する。次に、ステップ202により、全ての副情報に共通した必須構成情報の削除を行なう副情報圧縮処理を行なう。
【0055】
次に、ステップS203により、ステップS201の画像入力処理で得られた顔画像情報(主画像情報)に副情報を埋め込む際に可視状態の位置出しマークと副情報との相対位置をあらかじめ設定した値にする位置決め処理を行なう。
【0056】
次に、ステップS204により、主画像情報(被埋め込み画像情報)に対して、電子透かし埋め込み処理を行なう。ここでは、被埋め込み画像情報に対し副情報を人間の視覚に感知できないように不可視状態で埋め込んだ合成画像情報が作成される。
【0057】
次に、ステップS205により、ステップS204により作成された合成画像情報を、個人認証媒体となるカード状の記録媒体上に、サーマルヘッドなどの記録デバイスにより印刷記録することにより、個人認証媒体Mが作成される。この作成された個人認証媒体Mは利用者に渡され、利用者により使用されることになる。
【0058】
さて、上記のように作成された個人認証媒体M上の合成画像情報に対し真偽判定が必要になった場合、画像入力ステップ206により、スキャナやカメラなどの入力デバイスを用いて、個人認証媒体M上に記録された合成画像情報をデジタル情報として読取る。
【0059】
次に、ステップS207により、画像入力ステップ206により得られた合成画像情報に対し、あらかじめ設定された鍵情報を用いて電子透かし復元処理を行なうことにより、副情報を復元する。次に、ステップS208により、画像入力ステップ206により得られた合成画像情報から位置出しマークを検出する。
【0060】
次に、ステップS209により、ステップS208により検出された位置出しマークを基準にして、ステップS207により復元された副情報から当該副情報を構成するコード情報に対し、ステップS202の副情報圧縮処理で削除された全副情報に共通な必須構成情報を補完する処理を行なう。
【0061】
次に、ステップS210により、ステップS109により補完処理された副情報に対し、コード情報の読取りおよび認識処理を行ない、コード情報の内容を認識する。最後に、ステップS211により、ステップS210により認識したコード情報を判定して、個人認証媒体Mの真偽判定を行ない、その判定結果を出力する。
【0062】
図11に、ステップS202の副情報圧縮処理を説明するための模式図を示す。図11(a)に示すQRコード1101は、バージョン1といわれる規格で、セル21×21サイズ、誤り訂正レベルM(〜15%)となっている。QRコード1101では、図11(a)のように、3つの切り出しシンボル1102,1103,1104が存在するが、これらはヘッダ情報であり、データそのものではない。
【0063】
そこで、これら3つの切り出しシンボル1102,1103,1104を削除することにより、図11(b)に示すように、副情報の情報量(=面積)を減少させることができる。本実施の形態の場合は、図11(b)を圧縮後の新しい副情報として用いてもよいし、図11(b)をさらに分割して複数のブロックに分けて、圧縮後の新しい副情報として用いることも可能である。
【0064】
当然、圧縮後の副情報は切り出しシンボルが存在しないので、ステップS207の電子透かし復元処理後の復元情報はQRコードとは認識されない。そこで、ステップS209の副情報伸張・補完処理を行ない、図11(b)から図11(a)の状態に逆変換を行なうことにより、副情報をQRコードとして認識できるようになる。
【0065】
一般に、電子透かし処理において、埋め込むデータ量と埋め込んだ後の画像情報の画質は相反している。したがって、埋め込んだ後の画像情報の画質を上げるには、埋め込むデータ量が少なければ少ないほどよいことがわかる。そこで、上記した第2の実施の形態を用いることにより、副情報の埋め込み時のデータ量を減少させるため、副情報の本来の情報量を減らすことなく、電子透かし埋め込み後の画像情報の画質を向上させることが可能になる。
【0066】
次に、第3の実施の形態について説明する。
図12は、第3の実施の形態に係る画像処理方法の全体の流れを示すものである。第3の実施の形態は、前述した第1の実施の形態に対して、さらに電子透かし復元時に読取り画像情報から副情報と等価な第2の副情報を作成し、復元した副情報と照合する酔うにしたものであり、以下、詳細に説明する。
【0067】
最初に、ステップS301で画像入力処理が行なわれる。ここでは、個人認証媒体の所持者本人の顔画像をカメラにより入力したり、顔写真をスキャナなどの画像入力装置で取込むことにより、個人の顔画像情報をデジタル化する。
【0068】
次に、ステップS302により、ステップS301の画像入力処理で得られた顔画像情報(主画像情報)に副情報を埋め込む際に可視状態の位置出しマークと副情報との相対位置をあらかじめ設定した値にする位置決め処理を行なう。
【0069】
次に、ステップS303により、主画像情報(以下、被埋め込み画像情報ともいう)に対して、電子透かし埋め込み処理を行なう。ここでは、被埋め込み画像情報に対し副情報(副画像情報)を人間の視覚に感知できないように不可視状態で埋め込んだ合成画像情報が作成される。
【0070】
次に、ステップS304により、ステップS303により作成された合成画像情報を、個人認証媒体となるカード状の記録媒体上に、サーマルヘッドなどの記録デバイスにより印刷記録することにより、個人認証媒体Mが作成される。この作成された個人認証媒体Mは利用者に渡され、利用者により使用されることになる。
【0071】
さて、上記のように作成された個人認証媒体M上の合成画像情報に対し真偽判定が必要になった場合、画像入力ステップ305により、スキャナやカメラなどの入力デバイスを用いて、個人認証媒体M上に記録された合成画像情報をデジタル情報として読取る。
【0072】
次に、ステップS306により、画像入力ステップ305により得られた合成画像情報に対し、あらかじめ設定された鍵情報を用いて電子透かし復元処理を行なうことにより、副情報を復元する。次に、ステップS307により、画像入力ステップ305により得られた合成画像情報から位置出しマークを検出する。
【0073】
次に、ステップS308により、ステップS307により検出された位置出しマークを基準にして、ステップS306により復元された副情報から当該副情報を構成するコード情報の全副情報に共通な必須構成情報を補完する。
【0074】
次に、ステップS309により、ステップS308により補完処理された副情報に対し、コード情報の読取りおよび認識処理を行ない、コード情報の内容を認識する。
【0075】
次に、ステップS310により、画像入力ステップ305により得られた合成画像情報から主画像情報に付随した情報を基にして副情報と等価な照合処理のための第2の副情報を作成する。たとえば、本例のように、埋め込み画像情報である副情報が識別番号である場合、それがあらかじめ判明しているので、画像入力ステップ305により得られた合成画像情報から識別番号を認識し、この認識した識別番号から第2の副情報としての2次元バーコード(QRコード)を作成するものである。
【0076】
次に、ステップS311により、ステップS308の副情報補完処理により得られた補完済み副情報とステップS310の第2の副情報作成処理より作成された第2の副情報とを照合する。最後に、ステップS312により、ステップS311の照合結果を判定して、個人認証媒体Mの真偽判定を行ない、その判定結果を出力する。
【0077】
ステップS311の照合処理について更に説明する。これは、ステップS308の副情報補完処理により得られた補完済み副情報およびステップS310の第2の副情報作成処理より作成された第2の副情報の2つの副情報を比較して、両者が一致しているかどうかで真偽判定を行なう。
【0078】
照合処理で一番簡単な方法は単純類似度を求める方法であり、復元の結果得られた副情報をP、入力された合成画像情報から内部で作成された第2の副情報をQというベクトルで表現すると、次式となる。
【0079】
【数1】
Figure 0004064863
【0080】
これらベクトルP,Qの内積を取り、結果が「0」に近いほど2つの類似度が低いと判定し、結果が「1」に近づくほど2つの類似度が高いと判定する。単純類似度の判定式を次式に示す。
【0081】
【数2】
Figure 0004064863
【0082】
以上説明したように、第3の実施の形態によれば、副情報の類似度を用いることにより、副情報の復元時に誤り訂正機能以上の欠損があった場合でも、副情報の真偽判定が可能になる。また、コード情報としてQRコードを例として挙げてきたが、第3実施の形態の場合では、コード情報にこだわる必要はなく、あらかじめ定められたシードから生成されるランダムパターン画像を副情報として用いることも可能になる。
【0083】
次に、第4の実施の形態について説明する。
図13は、第4の実施の形態に係る画像処理方法の全体の流れを示すものである。第4の実施の形態は、前述した第2の実施の形態に対して、さらに電子透かし復元時に読取り画像情報から副情報と等価な第2の副情報を作成し、復元した副情報と照合するようにしたものであり、以下、詳細に説明する。
【0084】
最初に、ステップS401で画像入力処理が行なわれる。ここでは、個人認証媒体の所持者本人の顔画像をカメラにより入力したり、顔写真をスキャナなどの画像入力装置で取込むことにより、個人の顔画像情報をデジタル化する。次に、ステップ402により、全ての副情報に共通した必須構成情報の削除を行なう副情報圧縮処理を行なう。
【0085】
次に、ステップS403により、ステップS401の画像入力処理で得られた顔画像情報(主画像情報)に副情報を埋め込む際に可視状態の位置出しマークと副情報との相対位置をあらかじめ設定した値にする位置決め処理を行なう。
【0086】
次に、ステップS404により、主画像情報(被埋め込み画像情報)に対して、電子透かし埋め込み処理を行なう。ここでは、被埋め込み画像情報に対し副情報を人間の視覚に感知できないように不可視状態で埋め込んだ合成画像情報が作成される。
【0087】
次に、ステップS405により、ステップS404により作成された合成画像情報を、個人認証媒体となるカード状の記録媒体上に、サーマルヘッドなどの記録デバイスにより印刷記録することにより、個人認証媒体Mが作成される。この作成された個人認証媒体Mは利用者に渡され、利用者により使用されることになる。
【0088】
さて、上記のように作成された個人認証媒体M上の合成画像情報に対し真偽判定が必要になった場合、画像入力ステップ406により、スキャナやカメラなどの入力デバイスを用いて、個人認証媒体M上に記録された合成画像情報をデジタル情報として読取る。
【0089】
次に、ステップS407により、画像入力ステップ406により得られた合成画像情報に対し、あらかじめ設定された鍵情報を用いて電子透かし復元処理を行なうことにより、副情報を復元する。次に、ステップS408により、画像入力ステップ406により得られた合成画像情報から位置出しマークを検出する。
【0090】
次に、ステップS409により、ステップS408により検出された位置出しマークを基準にして、ステップS407により復元された副情報から当該副情報を構成するコード情報に対し、ステップS402の副情報圧縮処理で削除された全副情報に共通な必須構成情報を補完する処理を行なう。
【0091】
次に、ステップS410により、ステップS409により補完処理された副情報に対し、コード情報の読取りおよび認識処理を行ない、コード情報の内容を認識する。
【0092】
次に、ステップS411により、画像入力ステップ406により得られた合成画像情報から主画像情報に付随した情報を基にして副情報と等価な照合処理のための第2の副情報を作成する。たとえば、本例のように、埋め込み画像情報である副情報が識別番号である場合、それがあらかじめ判明しているので、画像入力ステップ406により得られた合成画像情報から識別番号を認識し、この認識した識別番号から第2の副情報としての2次元バーコード(QRコード)を作成するものである。
【0093】
次に、ステップS412により、ステップS409の副情報補完処理により得られた補完済み副情報とステップS411の第2の副情報作成処理より作成された第2の副情報とを照合する。最後に、ステップS413により、ステップS412の照合結果を判定して、個人認証媒体Mの真偽判定を行ない、その判定結果を出力する。
【0094】
なお、ステップS412の照合処理は、前述した第3の実施の形態と同様であるので説明は省略する。
【0095】
以上説明したような画像処理方法を用いることにより、電子透かし処理を行なった画像情報から濃淡画像およびコード情報で構成される副情報を安定して復元して取出すことが可能になる。
また、副情報が誤り訂正機能を持っている場合、誤り訂正機能を用いることが可能になる。
また、副情報の埋め込み時のデータ量を減少させることができるため、副情報の本来の情報量を減らすことなく、電子透かし埋め込み後の画像情報の画質を向上させることが可能になる。
さらに、副情報の類似度を用いることにより、副情報の復元時に誤り訂正機能異常の欠損があった場合でも、副情報の真偽判定が可能になる。
【0096】
【発明の効果】
以上詳述したように本発明によれば、電子透かし処理を行なった画像情報から濃淡画像およびコード情報で構成される副情報を安定して復元して取出すことが可能になる画像処理方法を提供できる。
【0097】
また、本発明によれば、副情報が誤り訂正機能を持っている場合、誤り訂正機能を用いることが可能になる画像処理方法を提供できる。
【図面の簡単な説明】
【図1】 本発明の第1の実施の形態に係る画像処理方法の全体の流れを示すフローチャート。
【図2】 作成された個人認証媒体の一例を模式的に示す平面図。
【図3】 副情報として用いるQRコードを示す模式図。
【図4】 QRコードの構成を示す模式図。
【図5】 復元した副情報を補完した一例を示す模式図。
【図6】 個人認証媒体にQRコードからなる副情報を適用した例を示す模式図。
【図7】 副情報の補完方法を説明するための模式図。
【図8】 電子透かし埋め込み処理全体の流れを示す図。
【図9】 電子透かし埋め込み処理の手順を模式的に示す流れ図。
【図10】 本発明の第2の実施の形態に係る画像処理方法の全体の流れを示すフローチャート。
【図11】 第2の実施の形態における副情報の圧縮処理を説明する模式図。
【図12】 本発明の第3の実施の形態に係る画像処理方法の全体の流れを示すフローチャート。
【図13】 本発明の第4の実施の形態に係る画像処理方法の全体の流れを示すフローチャート。
【符号の説明】
S101…画像入力ステップ、S102…副情報位置決めステップ(位置決めステップ)、S103…電子透かし埋め込みステップ(埋め込みステップ)、S104…記録ステップ(記録ステップ)、S105…画像入力ステップ(読取りステップ)、S106…電子透かし復元ステップ(復元ステップ)、S107…位置出しマーク検出ステップ(検出ステップ)、S108…副情報補完ステップ(補完ステップ)、S109…副情報読取り・認識ステップ、S110…真偽判定ステップ、M,807…個人認証媒体、202…顔画像、203…個人管理情報、204…位置出しマーク、401…QRコード、402…切り出しシンボル、403…タイミングパターン、404…マージン、405…データセル、801…主画像情報、802…副情報(副画像情報)、803…鍵情報、805…合成画像情報。

Claims (4)

  1. 人間の肉眼で可視状態の主画像情報に対して、人間の肉眼で不可視状態で副情報を埋め込むことによって作成した合成画像情報を記録媒体上に可視状態で記録し、前記記録媒体上に記録された合成画像情報を読取り、この読取った合成画像情報から前記副情報を復元する画像処理方法において、
    前記副情報は2値または多値の濃淡画像で表現されるコード情報で構成されていて、
    前記主画像情報に前記副情報を埋め込む際に可視状態の位置出しマークと副情報との相対位置をあらかじめ設定した値にする位置決めステップと、
    前記主画像情報に対して前記副情報を不可視状態で埋め込むことにより合成画像情報を作成する埋め込みステップと、
    この埋め込みステップにより作成された合成画像情報および前記位置出しマークを記録媒体上に記録する記録ステップと、
    前記記録媒体上に記録された合成画像情報を読取る読取りステップと、
    この読取りステップにより読取られた合成画像情報から前記副情報または前記副情報と等価な情報を復元する復元ステップと、
    前記読取りステップにより読取られた合成画像情報から前記位置出しマークの位置を検出する検出ステップと、
    この検出ステップにより検出された位置出しマークを基準にして、前記復元ステップにより復元された副情報から当該副情報を構成するコード情報の全副情報に共通な必須構成情報を補完する補完ステップと、
    を具備したことを特徴とする画像処理方法。
  2. 人間の肉眼で可視状態の主画像情報に対して、人間の肉眼で不可視状態で副情報を埋め込むことによって作成した合成画像情報を記録媒体上に可視状態で記録し、前記記録媒体上に記録された合成画像情報を読取り、この読取った合成画像情報から前記副情報を復元する画像処理方法において、
    前記副情報は2値または多値の濃淡画像で表現されるコード情報で構成されていて、
    前記副情報から全副情報に共通な必須構成情報の少なくとも一部を削除することにより圧縮副情報を作成する副情報圧縮ステップと、
    前記主画像情報に前記副情報を埋め込む際に可視状態の位置出しマークと副情報との相対位置をあらかじめ設定した値にする位置決めステップと、
    前記主画像情報に対して前記副情報圧縮ステップにより作成された圧縮副情報を不可視状態で埋め込むことにより合成画像情報を作成する埋め込みステップと、
    この埋め込みステップにより作成された合成画像情報および前記位置出しマークを記録媒体上に記録する記録ステップと、
    前記記録媒体上に記録された合成画像情報を読取る読取りステップと、
    この読取りステップにより読取られた合成画像情報から前記圧縮副情報または前記圧縮副情報と等価な情報を復元する復元ステップと、
    前記読取りステップにより読取られた合成画像情報から前記位置出しマークの位置を検出する検出ステップと、
    この検出ステップにより検出された位置出しマークを基準にして、前記復元ステップにより復元された圧縮副情報に対し削除された必須構成情報を補完する補完ステップと、
    を具備したことを特徴とする画像処理方法。
  3. 人間の肉眼で可視状態の主画像情報に対して、人間の肉眼で不可視状態で副情報を埋め込むことによって作成した合成画像情報を記録媒体上に可視状態で記録し、前記記録媒体上に記録された合成画像情報を読取り、この読取った合成画像情報から前記副情報を復元する画像処理方法において、
    前記副情報は2値または多値の濃淡画像で表現されるコード情報で構成されていて、
    前記主画像情報に前記副情報を埋め込む際に可視状態の位置出しマークと副情報との相対位置をあらかじめ設定した値にする位置決めステップと、
    前記主画像情報に対して前記副情報を不可視状態で埋め込むことにより合成画像情報を作成する埋め込みステップと、
    この埋め込みステップにより作成された合成画像情報および前記位置出しマークを記録媒体上に記録する記録ステップと、
    前記記録媒体上に記録された合成画像情報を読取る読取りステップと、
    この読取りステップにより読取られた合成画像情報から前記副情報または前記副情報と等価な情報を復元する復元ステップと、
    前記読取りステップにより読取られた合成画像情報から前記位置出しマークの位置を検出する検出ステップと、
    この検出ステップにより検出された位置出しマークを基準にして、前記復元ステップにより復元された副情報から当該副情報を構成するコード情報の全副情報に共通な必須構成情報を補完する補完ステップと、
    前記読取りステップにより読取られた合成画像情報から前記主画像情報に付随した情報を基にして前記副情報と等価な第2の副情報を作成する第2の副情報作成ステップと、
    この第2の副情報作成ステップにより作成された第2の副情報と前記補完ステップにより補完された副情報とを照合する照合ステップと、
    を具備したことを特徴とする画像処理方法。
  4. 人間の肉眼で可視状態の主画像情報に対して、人間の肉眼で不可視状態で副情報を埋め込むことによって作成した合成画像情報を記録媒体上に可視状態で記録し、前記記録媒体上に記録された合成画像情報を読取り、この読取った合成画像情報から前記副情報を復元する画像処理方法において、
    前記副情報は2値または多値の濃淡画像で表現されるコード情報で構成されていて、
    前記副情報から全副情報に共通な必須構成情報の少なくとも一部を削除することにより圧縮副情報を作成する副情報圧縮ステップと、
    前記主画像情報に前記副情報を埋め込む際に可視状態の位置出しマークと副情報との相対位置をあらかじめ設定した値にする位置決めステップと、
    前記主画像情報に対して前記副情報圧縮ステップにより作成された圧縮副情報を不可視状態で埋め込むことにより合成画像情報を作成する埋め込みステップと、
    この埋め込みステップにより作成された合成画像情報および前記位置出しマークを記録媒体上に記録する記録ステップと、
    前記記録媒体上に記録された合成画像情報を読取る読取りステップと、
    この読取りステップにより読取られた合成画像情報から前記圧縮副情報または前記圧縮副情報と等価な情報を復元する復元ステップと、
    前記読取りステップにより読取られた合成画像情報から前記位置出しマークの位置を検出する検出ステップと、
    この検出ステップにより検出された位置出しマークを基準にして、前記復元ステップにより復元された圧縮副情報に対し削除された必須構成情報を補完する補完ステップと、
    前記読取りステップにより読取られた合成画像情報から前記主画像情報に付随した情報を基にして前記副情報と等価な第2の副情報を作成する第2の副情報作成ステップと、
    この第2の副情報作成ステップにより作成された第2の副情報と前記補完ステップにより補完された副情報とを照合する照合ステップと、
    を具備したことを特徴とする画像処理方法。
JP2003122345A 2003-04-25 2003-04-25 画像処理方法 Expired - Fee Related JP4064863B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003122345A JP4064863B2 (ja) 2003-04-25 2003-04-25 画像処理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003122345A JP4064863B2 (ja) 2003-04-25 2003-04-25 画像処理方法

Publications (2)

Publication Number Publication Date
JP2004328496A JP2004328496A (ja) 2004-11-18
JP4064863B2 true JP4064863B2 (ja) 2008-03-19

Family

ID=33500606

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003122345A Expired - Fee Related JP4064863B2 (ja) 2003-04-25 2003-04-25 画像処理方法

Country Status (1)

Country Link
JP (1) JP4064863B2 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4293111B2 (ja) 2004-10-27 2009-07-08 株式会社デンソー カメラ駆動装置、カメラ駆動プログラム、幾何学形状コード解読装置、および幾何学形状コード解読プログラム
JP4526393B2 (ja) * 2005-01-07 2010-08-18 三菱電機株式会社 顔画像情報の登録システムおよびこれを用いた入退室管理システム
JP4754236B2 (ja) * 2005-02-21 2011-08-24 株式会社リコー 情報処理装置、取得方法、及び取得プログラム
JP4591211B2 (ja) * 2005-05-31 2010-12-01 富士ゼロックス株式会社 画像処理装置、画像処理方法、媒体、符号読取装置、及びプログラム
JP4483727B2 (ja) 2005-07-15 2010-06-16 セイコーエプソン株式会社 印刷画像作成装置、印刷画像作成方法およびプログラム
WO2019209169A1 (en) * 2018-04-28 2019-10-31 Unitech Mechatronics Pte Ltd Precise positioning system
JP7465445B2 (ja) 2020-04-06 2024-04-11 株式会社リコー 裏写り判定装置及び画像形成装置

Also Published As

Publication number Publication date
JP2004328496A (ja) 2004-11-18

Similar Documents

Publication Publication Date Title
KR100433590B1 (ko) 티켓발행방법, 티켓발행시스템 및 티켓조합방법
EP0921675B1 (en) Method of processing image information and method of preventing forgery of certificates or the like
EP1471722B1 (en) Image processing system
US20080028221A1 (en) Additional Information Processing Apparatus, Additional Information Processing System, and Additional Information Processing Method
US8320607B2 (en) Image processing method and image processing device for embedding invisible sub information into main images
JP3535444B2 (ja) 印刷物を用いた情報秘匿システム
US6901862B2 (en) Image processing method
JP4064863B2 (ja) 画像処理方法
US8325969B2 (en) Methods for making an authenticating system
US8532330B2 (en) Security printing analysis system and method for enhancing security printing
JP4783003B2 (ja) 個人認証媒体発行装置および個人認証媒体発行方法
JPH11168616A (ja) 画像情報処理方法および画像情報処理装置
CN116579908A (zh) 一种在图像中植入加密隐藏信息的方法及装置
JP2005159438A (ja) 画像処理方法
US7715057B2 (en) Hierarchical miniature security marks
JP2001094755A (ja) 画像処理方法
JP4088191B2 (ja) 画像処理方法および画像記録装置
JP2001203880A (ja) 電子透かしの埋め込み方法、抽出方法、不可視化方法、及び可視化方法並びに埋め込み装置
JP4829164B2 (ja) 画像処理装置および画像処理方法
JP4881141B2 (ja) 画像処理装置および画像処理装置の制御方法
JP2006042058A (ja) 画像処理方法、画像印刷方法、画像印刷装置および印刷物
Perry et al. Digital watermarks as a security feature for identity documents
JP2006333213A (ja) 画像処理装置及びその制御方法
JPH10285381A (ja) 画像処理装置
JP5347646B2 (ja) 画像処理装置及び画像処理プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060414

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20071218

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20071225

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20071227

R151 Written notification of patent or utility model registration

Ref document number: 4064863

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110111

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120111

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130111

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130111

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140111

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees