以下、図面を参照して本発明の実施形態について詳細に説明する。
<<画像処理システムの構成>>
図1は、本発明に係る画像処理装置を備えた画像処理システムを示す概略図である。この画像処理システム1は、画像入力端末3と、画像出力端末4と、データサーバ7とを備える。
画像入力端末3は、デジタルドキュメント(以下単にドキュメントという)DOCを作成したり編集などの処理をする、たとえばパソコン(パーソナルコンピュータ)3a、カラースキャナ3b、デジタルカメラ3c、またはハードディスク装置や光磁気ディスク装置あるいは光ディスク装置などのデータ格納装置3d、さらにはFAX装置3eなど、任意数の画像入力ソースを含み得る。
画像出力端末4は、本発明に係る画像処理装置の一例であって、たとえば複写機能、ページプリンタ機能、およびファクシミリ送受信機能などの複合機能を備えた複合機(マルチファンクション機)として構成された画像形成装置であり、デジタルプリント装置として構成されている。
画像入力端末3のそれぞれには、ドキュメントDOC作成用のアプリケーションプログラムなどが組み込まれる。たとえば、画像入力端末3側にて用意されるドキュメントDOCを表す電子データは、画像出力端末4で処理可能な画像フォーマット(たとえば、JPEG、BMP、PNGなど)で記述される。またたとえば、パソコン3aで作成された文書ファイルは、たとえばプリンタなどで印刷出力するために、図形、文字などの拡大、回転、変形などが自由に制御できるページ記述言語(PDL:Page Description Language )で記載されたデータとして画像出力端末4に送られる。
PDLで作成されているデータ(PDLデータ)は、ページ内の任意位置の画像、図形、文字を表現する描画命令およびデータを任意の順で配置した命令およびデータ列で構成されている。このPDLデータを受け取った画像出力端末4は、印字前に出力単位ごと(1ページごと)に画像データをレンダリング(描画展開)してからプリンタエンジン部にそのラスタデータを出力する。
画像出力端末4は、大まかに、付加情報の埋込処理が可能な画像形成装置5と、付加情報が埋め込まれている画像を印刷媒体(たとえばスキャンして取り込む)や電子データ(たとえばデジタルカメラで撮像)として取り込み、この付加情報が埋め込まれている画像から付加情報を復号し、この復号した付加情報を利用して所定のサービス処理を行なう復号装置6とを備えている。画像形成装置5および復号装置6は、何れも、本発明に係る画像処理装置の一例である。
復号装置6におけるサービス処理を行なうため、必要に応じて、付加情報部分の元画像などをデータサーバ7に格納しておく。なお、データサーバ7は、システム上、必須の要素ではない。
画像出力端末4は、接続ケーブルを介してネットワークに接続可能になっている。たとえば、接続ケーブルは、CSMA/CD(Carrier Sense Multiple Access with Collision Detection)型LAN(Local Area Network;たとえばIEEE802.3)やギガビット(Giga Bit)ベースのLAN(以下纏めて有線LAN8という)によりパソコン3aなどの画像入力端末3に接続される。
あるいは一般加入電話網(PSTN:Public Switched Telephone Network )9を介してFAX装置3eなどの画像入力端末3に接続される。なお、一般加入電話網PSTNに代えて、ISDN(Integrated Switched Digital Network )またはインターネットを含む他の通信媒体を利用してファクシミリをやり取りするようにしてもよい。
また、画像出力端末4は、たとえばIEEE(Institute of Electrical and Electronics Engineers, Inc. ;米国電気電子学会)1394規格のデバイス3fやUSB(Universal Serial Bus)2.0規格のデバイス3gなどとも接続可能となっており、これらのデバイス3f,3gからデジタル画像データを受け付けることもできる。あるいは、これらデバイス3f,3gを介してリモートで画像出力端末4を制御することもできるようになっている。
また、画像出力端末4は、表示装置や印刷装置(プリンタ)を出力デバイスとして利用することで、処理済みの画像を出力する。出力された画像は、画像出力端末4において、2次利用(再利用)され得る。
<<画像形成装置の構成;第1実施形態>>
図2は、画像形成装置5の機能に着目した第1実施形態の構成例を示すブロック図である。ここでは、本願出願人が特願2002−312315号(特開2004−140764号)にて提案している仕組みを採用するが、他の符号化手法を利用した構成としてもよい。
図示するように、第1実施形態の画像形成装置5は、処理対象の画像データを取り込む画像取得部401と、付加情報を処理対象画像の所定位置に埋め込む付加情報埋込処理部402とを備えている。
また画像形成装置5は、付加情報が処理対象画像の所定位置に埋め込まれた画像を所定の出力媒体に出力し、もしくは画像処理装置に画像データとして転送し、さらには付加情報が埋め込まれた部分の元の画像をデータサーバ7に登録するなどの出力処理を行なう画像出力処理部408と、処理対象画像データの記録、処理中の作業データの一時的な保持、あるいは出力データを保持する画像データ格納部409とを備えている。
付加情報埋込処理部402は、パターンサイズ設定部420と、パターン減衰率設定部430と、埋込強度設定部440と、付加情報パターン設定部450と、付加情報重畳処理部460とを有している。付加情報埋込処理部402の各部の構成や機能については、後で詳しく説明する。
<画像形成装置側の画像取得部の構成>
画像取得部401は、入力される画像データを受け付ける画像データ入力部412、並びに、画像データを補正することで埋め込まれた画像パターン情報の認識性能を改善するための機能部である画像データ解析部414と画像データ補正部416とを有している。
なお、プリンタなどの印刷機器から印刷出力された画像をスキャナで読み取ることで得られる画像や、デジタルカメラなどで撮像され電子的に入力される画像データは傾きを持つことが多々あるので、後述する復号装置6の入力画像傾き補正部614と同様の機能部を設けることで、画像データ入力部412が取り込んだ処理対象画像の傾きを検出しその傾き補正を行なうように構成するとさらに好ましい。
画像データ入力部412は、たとえば通信機能を備え、外部の画像入力端末3から画像データを受け取ったり、あるいは自装置内に組み込まれているアプリケーションプログラム(ソフトウェア)からOS(オペレーティングシステム;基本ソフト)などを介して受け取ったり、または画像データを記憶している記憶媒体(FDやCD−ROMなど)から取り込んだ画像ファイルを開いて読み出すなど、種々の形態で画像データを取得することができる。
入力される画像データは、白黒の2値データに限らずグレイスケールもしくはカラーなどの多値データで表されたものでもよく、図1に示した画像入力端末3、たとえばパソコン3aにより作成されたり、カラースキャナ3bやデジタルカメラ3cにより入力されたりした自然画像あるいはCG(Computer Graphics )画像など任意の画像であってよい。
画像データ解析部414および画像データ補正部416は、処理対象画像のハイライト部(明るいところ)やシャドー部(暗いところ)で、付加情報埋込処理部402により設定された付加情報をパターンとして埋め込んだ場合に復号処理での識別性能が落ちてしまうことを防止するために設けられているものであり、これらを取り外して、画像データ入力部412のみで画像取得部401を構成してもよい。
すなわち、画像データ入力部412のみで画像取得部401を構成すると、入力された画像データのハイライト部やシャドー部では、パターンを重畳した際にオーバーフローやアンダーフローが発生することがある。
そこで先ず、画像データ解析部414は、画像データ入力部412から入力された処理対象画像を解析する。画像データ補正部416は、画像データ入力部412から入力された埋込強度Cと画像データ解析部414の解析結果とに基づき処理対象画像を補正する。
具体的には、先ず画像データ解析部414は、処理対象画像の各色成分ごと、たとえば、R,G,BやY,M,C,Kなどごとに、画像データ入力部412が取り込んだ処理対象画像の持つ最大階調値Kmaxと最小階調値Kminとを検出する。
画像データ補正部416は、たとえば画像データ格納部409が各色成分ごとに8ビットの階調(256色階調)を持ち、すなわち、“0”から“255”の階調値で表せるならば、埋込強度設定部440から入力された埋込強度Cと画像データ解析部414が検出した最大階調値や最小階調値に基づいて、処理対象画像の各色成分が埋込強度Cから(255−C)までの間に入るように濃度変換を行なう。
このとき、画像データ補正部416は、処理対象画像の階調値が埋込強度入力部442により入力された埋込強度Cに基づいて設定される範囲を超えないように濃度変換を行なう。たとえば、画像データ補正部416は、処理対象画像の階調値が、処理対象画像の取り得る最小の階調値Kminから埋込強度入力部442により入力された埋込強度Cを減じた階調値から、処理対象画像の取り得る最大の階調値Kmaxから埋込強度入力部442により入力された埋込強度Cを減じた階調値までの範囲を超えないように処理対象画像の濃度を補正する。
具体的には、画像データ解析部414によって得られるある色成分の最大階調値をCmax、最小階調値をCminとすると、その色成分の持つ画素値Z(Cmin≦Z≦Cmax)は式(1)に従って、画素値Z’に変換する。 ここで、min(a,b)はa,bのうち小さい値をとり、max(a,b)はa,bのうち大きい値をとるものである。
この式(1)で示される変換の意味は、処理対象画像の持つ階調範囲[Cmin,Cmax]を[max(C,Cmin),min(255−C,Cmax)]に線形変換するものである。そのため、階調変換された画像に埋込強度Cによるパターン信号を重畳しても、“0”より小さな階調値または“255”を超える階調値は現れない。
したがって、付加情報重畳処理部460において、付加情報パターン設定部450により設定された付加情報に対応するパターン画像を処理対象画像データに埋め込んで画像出力処理部408によりプリンタなどの出力機器に対して付加情報が埋め込まれた画像を出力しても、処理対象画像データは画像データ補正部416によって補正されているために、この加算によるオーバーフローやアンダーフローは生じない。この結果、付加情報を埋め込むことに依る画質劣化を最低限度に抑えながら、復号処理での付加情報の識別性能が落ちてしまうことを防止する(識別率を向上させる)ことができる。
<画像形成装置側の画像出力処理部の構成>
画像出力処理部408は、付加情報が処理対象画像の所定位置に埋め込まれた画像を所定の出力媒体に出力し、もしくは画像処理装置に画像データとして転送する画像出力部482を有する。画像出力部482は、プリンタなどの出力機器やソフトウェアあるいは通信回線などを介して、付加情報の埋め込まれた画像を出力する。
<画像形成装置側の付加情報埋込処理部の構成>
次に、付加情報埋込処理部402の各機能部について説明する。パターンサイズ設定部420は、先ず図示しないパーソナルコンピュータや操作パネルなどを通して、ユーザが指示したパターンサイズPSを入力設定する。
たとえば、ユーザが予め登録されている出力機器を選択する。画像形成装置5には、各出力機器に対応する最適なパターンサイズを登録しておくか、あるいはその都度その出力機器に問い合わせる。これにより、この出力機器の選択によって、その出力機器に最適なパターンサイズを自動的に判断して入力設定することができる。もちろん、数値などによってパターンサイズを入力設定してもよい。
パターンサイズ設定部420は、入力されたパターンサイズPSの情報を埋込強度設定部440や付加情報パターン設定部450に通知する。装置として予め設定されている固定値を利用する場合にはパターンサイズ設定部420を設けずに構成することも可能である。
<パターン減衰率設定部の構成>
パターン減衰率設定部430は、図示しないパーソナルコンピュータや操作パネルなどを通して、ユーザが指示するパターン減衰率αを入力設定するパターン減衰率入力部432と、パターンサイズ設定部420および埋込強度設定部440で入力設定された値(あるいは固定値)に基づいて、最適なパターン減衰率αbを計算によって求めるパターン減衰率計算部434とを有する。
パターン減衰率入力部432は入力されたパターン減衰率αを、またパターン減衰率計算部434は計算して求めたパターン減衰率αbを、付加情報パターン設定部450に通知する。またパターン減衰率計算部434は計算して求めたパターン減衰率αbを、埋込強度設定部440に通知する。
なお、パターン減衰率入力部432とパターン減衰率計算部434とは、何れか一方を使用できればよく、目的に応じて切替使用できるような構成とするとよい。また、装置として予め設定されている固定値を利用する場合には両者を設けずに構成することも可能である。
パターン減衰率計算部434は、減衰率乗算方式で4個のサブブロックのうち対角サブブロック2個を1組とした2組の階調の平均をそれぞれ明るくまたは暗く変調する。この際には、パターンサイズ設定部420から得られるパターンサイズPSおよび埋込強度設定部440から得られる埋込強度Cとに基づいて、付加情報に対応するパターン画像の埋込みによる画質劣化を最小限に抑えるようなパターン減衰率αbを計算する。具体的には、隣のブロックとの境界が滑らかに接続されるようなパターン減衰率αbを計算する。
図3は、パターン減衰率計算部434の動作の一例を説明する図である。パターン減衰率計算部434におけるパターン減衰率の具体的な計算方法としては、後述する図5に示す式(2−1)や式(2−2)の指数関数を用いる場合には、図3中のA点の絶対値が十分に小さくなるようにすればよい。印刷する場合には、この値は“10”程度で十分である。
図3に示した例では、8×8のパターンサイズであり、図示した座標の取り方をすれば、パターン外郭をなす4辺の各中点である4つのA点は、原点からの距離が“3”となる。一般にパターンサイズがN×Mであったときは、N,Mのうち小さい方を使って、式(2−1)なら 式(3−1)に従って、また式(2−2)なら 式(3−2)に従って、それぞれパターン減衰率αを求めればよい。なお、“^”はべき乗を示す。
このようにパターン減衰率αをユーザの手を介してもしくは固定値として入力しなくても、パターンサイズPSや埋込強度Cなどから自動的にパターン減衰率αbを計算するように構成することもできる。もちろん、ここで示した計算方式は一例であり、たとえば図3中のA点に合わせるほか、4隅の点Bに合わせてもよい。
また、ここではパターン減衰率を縦横とも同じ値を用いているが、縦方向のパターン減衰率と横方向のパターン減衰率を別々に計算して、付加情報パターン設定部450においてそれらを用いてパターンを生成するように構成してもよい。なお、パターンサイズおよび埋込強度として設定される値がある程度限定される場合には、予めパターン減衰率αbを計算して数種類分登録しておき、利用する際に選択して用いるように構成してもよい。
<埋込強度設定部の構成>
図2に戻って埋込強度設定部440の詳細について説明する。埋込強度設定部440は、付加情報パターン設定部450にてパターン信号を発生させる際に、埋込強度を設定することで、処理対象画像の画質に対する影響や埋め込んだ付加情報の認識率などを調節する。このため、埋込強度設定部440は、図示しないパーソナルコンピュータや操作パネルなどを通して、ユーザが指定する埋込強度Cを入力設定する埋込強度入力部442と、最小埋込強度入力部444、最大埋込強度入力部445、および埋込強度制御部446を備えている。
また、本実施形態の特徴部分として、埋込強度設定部440は、ランダム性を有する読取可能な固有の特徴が表面に沿って分布している個体におけるその特徴量(個体特徴量)に基づいて埋込強度制御部446に対して埋込み強度を設定する埋込強度微調整部448を備えている。埋込強度微調整部448は、画像中に埋め込まれるデジタルコードの埋込強度を個体特徴量に基づいて変調(調整)する埋込階調変調処理部の一例である。
なお、前記個体の典型例はシート状または平板状の媒体、たとえば紙媒体であり、その個体の特徴をフラットベッド型などのスキャナで読み取ることができるものである。また、個体の特徴としては、読み取った階調値を利用するのがよい。
最小埋込強度入力部444、最大埋込強度入力部445、埋込強度制御部446、および埋込強度微調整部448で、埋込強度調整部449が構成される。
埋込強度設定部440は、同一文書に複数の埋込領域(秘匿部分を含む)が存在する場合には、それぞれの埋込領域について、適切な埋込強度を設定する。また、復号装置6における処理において、埋込強度を推定する場合に備えて、画像に埋め込まれた画像パターン情報部分の濃度値やこの濃度値と背景画像部分の濃度との比などと埋込強度とを対応付けたルックアップテーブル(LUT;Look Up Table )を用意しておく。
埋込強度入力部442は入力された埋込強度Cを、また埋込強度調整部449は求めた最適な埋込強度Cbを、埋込強度秘匿調整部474を介して(秘匿の必要な部分は調整された埋込強度Ccとして)付加情報パターン設定部450に通知する。また、構成によっては、埋込強度入力部442は入力された埋込強度Cを画像データ補正部416やパターン減衰率計算部434に通知する。
なお、埋込強度入力部442と埋込強度調整部449における最小埋込強度入力部444や最大埋込強度入力部445とは、何れか一方を使用できればよく、目的に応じて切替使用できるような構成とするとよい。また、装置として予め設定されている固定値を利用する場合には両者を設けずに構成することも可能である。一方、本実施形態においては、埋込強度微調整部448を備えることが必須である。
埋込強度調整部449の最小埋込強度入力部444は、パターンの識別が可能な最小の埋込強度Cminを設定する。また、最大埋込強度入力部445は、パターンの埋込みによる画質の劣化が顕著にならない最大の埋込強度Cmaxを設定する。なお、最小埋込強度Cminおよび最大埋込強度Cmaxは、固定値としてもよいし、あるいは設定できない構成であってもよい。
埋込強度制御部446は、パターンサイズ設定部420から通知されたパターンサイズPSとパターン減衰率設定部430のパターン減衰率入力部432から通知されたパターン減衰率α(それぞれ入力設定された値)もしくはそれぞれ装置として予め定められている固定値と、付加情報パターン設定部450によって符号化された付加情報に対応する符号化信号(埋込情報Fa)と、画像データ格納部409中の付加情報重畳処理部460によってアドレスされる重畳パターンと同サイズの領域の画像データ(ブロック)の値、それに最小埋込強度入力部444から入力される最小埋込強度Cminおよび最大埋込強度入力部445から入力される最大埋込強度Cmaxに基づいて、パターンの最適な埋込強度Cbを計算する。
図4は、埋込強度調整部449における最小埋込強度入力部444、最大埋込強度入力部445、および埋込強度制御部446の基本的な動作の一例を説明する図である。なお、埋込強度微調整部448の動作については別途説明する。
埋込強度制御部446は、たとえば、パターンが重畳される領域の画像データをブロックとし、そのブロックをパターンに対応して中心を通る2つのエッジによって4つの部分ブロックに分割する。たとえば、パターンのエッジが中心を通り、垂直方向と水平方向にある場合には、ブロックをパターンのエッジに相当する垂直および水平な直線で4分割することで4つの部分ブロックに分割する。そして、この分割した4つの部分ブロックごとに画素値の総和を求め、得られた4つの総和値と重畳パターンとから最適な埋込強度を決定する。
埋込強度制御部446は、重畳パターンが“1”に対応するものであるとき、分割したそれぞれの部分ブロックでのパターン重畳後の画素値の総和B1,B2,B3,B4が、“min(B1,B3)>max(B2,B4)”の関係を満足する最小の埋込強度を最適な埋込強度Cbとして算出する。また、埋込強度制御部446は、重畳パターンが“0”に対応するものであるとき、パターン重畳後の4つの領域の画素値の総和B1,B2,B3,B4が、“min(B2,B4)>max(B1,B3)”の関係を満足する最小の埋込強度を最適な埋込強度Cbとして算出する。
ただし、求めた埋込強度が最小埋込強度入力部444から入力された最小埋込強度Cminよりも小さかった場合には、埋込強度制御部446は、最小埋込強度入力部444から入力された最小埋込強度Cminを最適な埋込強度Cbとする。また、求めた埋込強度が最大埋込強度入力部445から入力された最大埋込強度Cmaxよりも大きかった場合には、埋込強度制御部446は、最大埋込強度入力部445から入力された最大埋込強度Cmaxを最適な埋込強度Cbとする。
このような関係を満足する最小の埋込強度を用いて生成したパターンを重畳した電子画像は、何らの画像変換を受けない限り、付加情報検出側である復号装置6の構成で埋め込まれた付加情報を100%識別可能となる。しかし、この電子画像を印刷して、それをスキャナあるいはデジタルカメラのような入力機器で入力して再び電子情報に戻した場合には、印刷および入力の過程で、多くの画像処理を受けてしまうため、特に計算された値が小さすぎる場合には埋め込まれた付加情報の識別が難しくなる。また逆に、計算された値が大きすぎる場合には、識別は容易であるが、画質上好ましく影響が発生する可能性がある。そのため、上述のように埋込強度を最小埋込強度Cminおよび最大埋込強度Cmaxの範囲内となるようにしている。
なお、B1,B2,B3,B4は、パターン重畳前の4つの部分ブロックごとの総和値D1,D2,D3,D4に付加情報、ブロックサイズ、埋込強度C、およびパターン減衰率αによって決まるパターン信号との領域ごとの加算により求めることができる。逆に、D1,D2,D3,D4および付加情報が分かれば、上記関係を満たすのに必要な埋込強度を計算で求めることも可能である。また、予めよく使用する埋込強度Cとパターン減衰率αの複数の組合せテーブルを用意しておけば、パターン減衰率入力部432から入力されたパターン減衰率αから上記関係式を満たすのに必要な埋込強度を簡単に求めることもできる。
なおここでは、パターン減衰率を入力し、埋込強度をブロック画像に適応させて制御する例を示したが、これに限らず、逆に埋込強度は入力された値を用い、ブロック画像に適応してパターン減衰率の方を可変とする構成も可能である。上述の関係式を満たすためには、埋め込み強度とパターン減衰率のいずれか一方が固定であればよく、他方を計算で求めることができる。
また、予めよく使用する埋込強度とパターン減衰率の複数の組合せにおける重畳パターンの4分割した画素値の総和について計算したテーブルを用意しておけば、上記関係式を満たすのに必要な埋込強度およびパターン減衰率の組合せを簡単に求めることもできる。
埋込強度入力部442により入力設定された値や予め用意されている固定値を埋込強度Cとして用いる場合、入力された画像データに依らず、一定の埋込強度Cでパターンの埋込みを行なうので、識別が容易な平坦部分も、識別が難しい強いエッジが存在する場所でも、同じ強度でパターンが埋め込まれてしまうため、強いエッジの存在する部分では識別性能が落ち、平坦部では識別性能は高いがやや画質を劣化する原因となる場合がある。
これに対して埋込強度調整部449を用いることで、パターンを埋め込む領域の画像データに応じて最適な埋込強度Cbを算出するように埋込強度Cを調整すれば、その埋込強度Cbに従って付加情報パターン設定部450で2つのパターンを作成してその組合せにより2次元バーコードのような画像パターン情報を生成して画像データに埋め込むことによって、識別が難しい領域での識別性を向上させ、平坦な領域での画質劣化を低減することができる、すなわち画質劣化を抑えながら、画像パターン情報に埋め込まれた付加情報の識別率を向上させることができる。
<付加情報パターン設定部の構成>
図2に戻って付加情報パターン設定部450の詳細について説明する。付加情報パターン設定部450は先ず、図示しないパーソナルコンピュータや操作パネル、ソフトウェア、ファイルなど、種々の供給源から、処理対象画像データに埋め込む付加情報F0の入力を受け付ける付加情報入力部452と、付加情報入力部452からの付加情報を符号化する付加情報符号化部454とを有する。付加情報F0は、文字列、数字、あるいは画像データなど、様々な情報であってよい。
付加情報符号化部454は、付加情報重畳処理部460からの埋込情報を埋め込む位置の情報を参照して、付加情報入力部452により入力された付加情報F0を元に所定の符号化フォーマットに変換し、実際に画像データに埋め込む埋込情報Faを作成する。なお、符号化せずに埋め込むことも可能であり、この場合には付加情報符号化部454を取り除いた構成とすることができる。
また、付加情報パターン設定部450は、パターンサイズ設定部420から入力設定されたパターンサイズPS、パターン減衰率入力部432から入力されたパターン減衰率αもしくはパターン減衰率計算部434から入力されたパターン減衰率αb、および埋込強度入力部442から入力された埋込強度Cもしくは埋込強度制御部446から入力された埋込強度Cbに基づいて、2つのパターン信号を作成するパターン作成部456と、付加情報符号化部454により作成された埋込情報Faに基づいて、パターン作成部456が作成した2つのパターン信号のうちの何れか一方を選択して付加情報重畳処理部460に渡すパターン選択部458とを有する。
<2つのパターンの特徴>
パターン作成部456が作成する2つのパターン情報は、以下の通りの特徴を持つ。すなわち、
1)階調の異なる隣接した2つの画素群の配置パターンの違いによってデジタルデータの“0”や“1”を表わす機械可読コードであり、付加情報をデジタル化して画像中に埋め込むために利用される。なお、「画素群」とあるが、これは、代表して、デジタルデータの“0”や“1”を表わすためのブロック内のサブブロックが複数の画素で構成されることを前提に記述したもので、原理的には、各サブブロックが1つの画素で構成される場合であってもかまわない。
2)2つのパターン情報の対応する画素データ同士を加算すると全ての要素が0になる。2つのパターン情報の極性が異なることを意味し、2本のエッジの導入とともに付加情報の検出を容易にするためのものである。
3)各々のパターン情報中の全画素を加算すると0になる。パターンの重畳前後において、その平均濃度を変更しないためであり、画質劣化を最低限度に抑える効果がある。
4)各々のパターンは中心部を通り方向が異なる2本以上のエッジと呼ばれる不連続な画素値を備える。エッジの方向は、たとえば垂直線と水平線に沿った方向とすることができる。
さらに好ましくは、各々のパターンの持つ画素値の絶対値は中心でもっとも大きく、中心から離れるほど小さくなる、という特徴を持つものとするとよい。
また、形状に関し、ここでは、共にn×m画素の同サイズの長方形ブロックで構成される、という特徴を有しているものとする。
図5は、埋め込むパターンの一例を説明する図である。ここで示した例は、パターンサイズが8×8の例である。基本パターンのサイズはパターンサイズ設定部420で設定される。また式(2−1)、式(2−2)において、埋込強度Cは埋込強度設定部440により入力され、パターン減衰率αはパターン減衰率設定部430で設定される。xは横軸、yは縦軸の座標を表し、パターンの中心を原点としている。
上述のような特徴を有するパターンとしては、たとえば図5に示したようなものがある。ここでは図5(A)は付加情報“1”を意味する基本パターン、図5(B)は付加情報“0”を意味する基本パターンとし、これら双方の全要素に図5(C)に示す式(2−1)または式(2−2)のような式が乗ぜられる。これによって、たとえば図5(D)、(E)に示すようなパターンが生成される。なお、図5(D)、(E)では、図示の都合上、濃度の違いをハッチングの違いによって示している。
2つのパターン情報のそれぞれにおいて、サブブロックの対応する(エッジを中心とする線対象位置のもの)画素データ同士を加算すると全ての要素が0になる特徴を有している。この点は、埋め込まれる1/0のデータ検出を容易にするために有効なものである。
つまり、2つのパターン情報(パターン画像)は、8×8画素を1ブロックとして表わされ、デジタルコードの1ビット(0または1)を画像中に埋め込むことになる。また、図から分かるように、1ビットを表わすための1ブロックは4×4画素のサブブロック4個に分割したもので、4個のサブブロックのうち対角サブブロック2個を1組とした2組の階調の各平均値の配置パターンの違いによって“0”や“1”を表わすようにしている。また、減衰率乗算方式で4個のサブブロックのうち対角サブブロック2個を1組とした2組の階調の平均をそれぞれ明るくまたは暗く変調してデジタルコードを埋め込む。
また、本実施形態においては、さらに埋込強度微調整部448において、1ビットに対応する1ブロックをなす4×4画素のサブブロック4個のうちの、“0”または“1”を表わすための対角の2つを対にして、その2組の対角ブロックの平均濃度(階調値)の差で、個体特徴量などのアナログ情報Saを表わすようにする。この仕組みについての詳細は後述する。
この際には、2組の対角ブロックの平均濃度の差でアナログ情報Sa(たとえば個体特徴量)が表わされればよく、何れか一方の対角ブロックの平均濃度がアナログ情報Saに応じて増加もしくは減少するようにしてもよいし、両方の対角ブロックの平均濃度をそれぞれ等分で逆方向に増加もしくは減少するようにしてもよい。
「2つのパターンの特徴」で説明したが、2つのパターン情報の対応する画素データ同士を加算すると全ての要素が0になる、あるいは各パターン情報のそれぞれにおいてサブブロックの対応する(エッジを中心とする線対象位置のもの)画素データ同士を加算すると全ての要素が0になると言うことをベースとすることで、画像中に重畳される付加情報の検出(0/1の判定を含む)を容易にするためには、両方の対角ブロックの平均濃度をそれぞれ等分で逆方向に増加もしくは減少する方が好ましい。
また、各ブロックの平均濃度を調整するに当たっては、原理的には4×4のサブブロック内の何れの画素の階調値を調整してもよいのであるが、特定の画素に集約させることは、元の画像の画素データに対しての変化の程度が大きくなり画質劣化を招く虞れがある。したがって、画質劣化を最低限度に抑えるには、調整用の画素としては複数の画素を用いるのがよく、たとえば4×4のサブブロック内の全ての画素の階調値を調整すればよい。
また、サブブロック内の全ての画素の階調値を調整するに当たっては、全てを同量で調整することも考えられるが、何らかの方法で画素ごとに調整量を変えてもよい。たとえば、「2つのパターンの特徴」で説明したように、好ましくは、各々のパターン情報の持つ画素値の絶対値は中心でもっとも大きく、中心から離れるほど小さくなるという特徴を持つものとするとよく、この観点から、中心側(たとえば2×2の)の画素に対する調整の程度の方が、外側(中心側2×2を除く12個)の画素に対する調整の程度よりも大きくなるようにするのがよい。場合によっては、外側(中心側2×2を除く12個)の画素に対しては調整を行なわずに、中心側(たとえば2×2の)の画素にのみ調整を加えてもよい。
何れにしても、4個のサブブロックのうち対角サブブロック2個を1組とした2組の階調の平均値の差でアナログ情報Saが表わされるように、対角サブブロックを、それぞれ明るくまたは暗く変調してデジタルコードを埋め込むとよい。
なお、2つのパターンは図5に示した例に限られるものではなく、たとえば式(2−1)や式(2−2)の代わりに三角波のようなものを利用するなど、式(2−1)および式(2−2)としてどのような関数を用いてもよい。また、これらの式中の指数関数部分を省略してもよいし、あるいはこれらの式を用いずに図5(A)、(B)に示すパターンをそのまま用いることも可能である。さらに、図5に示した例ではエッジ方向として垂直・水平方向としたが、たとえば45度および135度方向のエッジなど、付加情報を抽出する復号装置6側とエッジの抽出方向を合わせておけば任意のエッジ方向でよい。
これらのパターンの特徴は、画質への影響をできる限り抑えながら、かつ、その検出を容易にするためのものであり、後述する情報検出側である復号装置6の構成によって画像に埋め込まれた付加情報を容易に検出することが可能である。なお、パターンサイズPSやパターン減衰率α、埋込強度Cなどのパラメータは、通常、各出力機器ごとに画質や検出率を考慮して設定することになるが、後述する復号装置6側ではこれらのパラメータを事前に知っている必要はない。
<付加情報重畳処理部の構成>
図2に戻って付加情報重畳処理部460の詳細について説明する。付加情報重畳処理部460は、画像パターン情報を埋め込む位置を制御する埋込位置制御部462と、埋込位置制御部462の制御の元で処理対象画像の全体の中から画像パターン情報を埋め込む部分の埋込領域元情報を取得する埋込領域情報取得部464とを有する。
また、付加情報重畳処理部460は、埋込領域情報取得部464が取得した埋込領域元情報に、付加情報パターン設定部450が生成した画像パターン情報を上書きして画像データ格納部409に書き戻すパターン重畳部466と、画像形成装置5側で生成した埋込情報Faの埋込処理を行なうのか、それとも復号装置6側からの埋込情報Faの埋込処理を行なうのかを切り替える切替制御部468とを有する。
埋込位置制御部462は、予め決められている埋め込みフォーマットに従って、画像データ格納部409に保持されている画像データへ埋込情報(付加情報を含む画像パターン情報)を埋め込む位置を指定する。
パターン重畳部466は、埋込位置制御部462が指定した画像データ格納部409のアドレスに存在する画像ブロックに対して、パターン選択部458が選択したパターンを加算する。なお、加算値が最大値(たとえば255)を超えたときは、その値を最大値(たとえば255)にし、加算値が負の値になったときは、その値を最大値“0”にする。
なお、パターンの付加は、カラー画像であれば、全ての色成分に対して行なわれることが望ましいが、少なくとも1つの色成分に対して行なわれてもよい。復号装置6における抽出時においても同様である。
切替制御部468は、画像形成装置5と復号装置6とを一体的にすることで再出力処理をも行なうことが可能な画像出力端末4を構成するために設けたものである。再出力処理を行なう画像出力端末4を構成するに際して、画像形成装置5が備える機能要素を利用することで、コンパクトな構成にすることができる。
画像形成装置5と復号装置6とを独立の装置とする場合には、この切替制御部468を取り外してよい。もちろん、別体とする場合でも、切替制御部468を設けておくことで、復号装置6側から転送される埋込位置情報や処理対象画像や画像パターン情報などに基づいて再出力処理を行なうように構成することもできる。この場合、復号装置6側の構成をコンパクトにすることができる。
<符号フォーマットとアナログ情報の一例>
図6は、本実施形態で使用する符号フォーマットの一例と、重畳される(埋め込まれる)アナログ情報の一例を説明する図である。
符号フォーマットには、フォーマット化された埋込情報を、記録する位置および順番を指定する物理フォーマット(図6(A)参照)と、物理フォーマット内で、埋め込まれた情報をどのように符号化および復号化するかを規定した論理フォーマット(図6(B)参照)とがある。
図6(A)に一例として示した物理フォーマットにおいて、パターンの埋込み対象となる処理対象画像33に対して、パターンサイズ31とマクロブロックサイズ32が設定される。パターンサイズ31はパターンサイズ設定部420により設定されたパターンの大きさを示し、マクロブロックサイズ32はこのパターンサイズ31をY行X列のマトリクス状にまとめたものである。
埋込位置制御部462は、埋込み対象の処理対象画像33のサイズと、予め設定されているマクロブロックサイズであるマトリクスサイズ(Y,X)と、パターンサイズ31とに基づいて、処理対象画像33内に配置可能なマクロブロックの数を計算し、マクロブロックを処理対象画像33のなるべく中心によせて隙間なく配置する。埋込位置はマクロブロックを左上から右下方向、すなわち、図6(A)に示した例ではMB11,MB12,MB13,MB21,…,MB33の順にアクセスし、さらにマクロブロック内でも左上のパターンから右下のパターンの順序でアドレス制御する。
図6(B)に一例として示した論理フォーマットは、1つもしくは複数の基本論理フォーマット41の組合せで構成されている。個々の基本論理フォーマット41は、頭出しヘッダ42、符号化方式情報43、シーケンス番号44、有効符号数情報45、および符号化情報46で構成されている。
基本論理フォーマット41のサイズはマクロブロック32のサイズに等しく、X×Yビットである。頭出しヘッダ42は、そのマクロブロック32の位置を特定するために使用され、全マクロブロック32に対して共通のものが使用される。
符号化方式情報43は、符号化情報46がどのような誤り訂正方式で符号化されているかを示すもので、これも全マクロブロック32に共通して使用される。
シーケンス番号44は、付加情報入力部452が受け取った付加情報が1つのマクロブロック32内に収容できない大きさであったときに使用され、付加情報を符号化した後に、それをマクロブロック32に収容できるサイズに分割し、それらに対してシーケンス番号を“1”番から昇順に付加していったものである。符号化された付加情報が1つのマクロブロック32に収容できる長さであったときは、シーケンス番号は“1”になる。
有効符号数情報45は、符号化された付加情報が分割された場合に、最後のマクロブロックに収容された符号化情報の有効符号数を示しており、最後のブロック以外の有効符号数情報はすべて“0”になる。なお、誤り訂正符号化される部分は、符号化情報46だけでなく、シーケンス番号44および有効符号数情報45も含んでいる。
このような論理フォーマットのビットデータごとにアナログ情報を示す所定の値を対応付けることができる。アナログ情報としては、参照用の基準画像や音声メッセージや音楽など、あらゆるものを取り扱うことができる。デジタルコードで埋め込む付加情報以外に、このようなアナログ情報をデジタルコードに重畳させて埋め込んでおき、復元したアナログ情報を使うことで、紙の真贋照合に限らず、たとえば正規ユーザには“特典画像”や“特典音声情報”を付加サービスとして提供するなど、従来にないサービスを行なうことができるようになる。
図7は、付加情報符号化部454の動作の一例を示すフローチャートである。付加情報符号化部454は先ず付加情報入力部452より入力された付加情報F0を2値情報に置き換える(S101)。たとえば、付加情報F0として文字列を受け取ったなら、これをASCIIコードなどに変換して2値情報に変換する。
次に付加情報符号化部454は、変換した2値情報に対して、たとえばハミング符号などにより誤り訂正符号化する(S102)。この後、誤り訂正符号化した情報の符号長から、それが1つのマクロブロックに収まるか否かを計算し、もし入りきらない場合には、これを分割する(S103)。入りきらない場合には、情報を埋め込むために複数のマクロブロックが必要になる。
さらに、付加情報符号化部454は、分割した符号化情報46に、頭出しヘッダ42、符号化方式情報43、シーケンス番号44、および有効符号数情報45を付加して複数の基本論理フォーマット41の情報を作成する(S104)。
そして最後に、付加情報符号化部454は、作成した複数の基本論理フォーマット41の情報を先頭のマクロブロックから順番に埋めていき、全てのマクロブロックに情報が埋め込まれるように繰り返して埋め込みを行なう(S105)。
たとえば、図6(A)に示した例のようにマクロブロック32の数が9つあり、シーケンス番号の最大値が“4”であったときは、マクロブロックMB11,MB12,MB13,MB21にシーケンス番号1の基本論理フォーマットの情報、シーケンス番号2の基本論理フォーマットの情報、シーケンス番号3の基本論理フォーマットの情報、シーケンス番号4の基本論理フォーマットの情報をそれぞれ埋め込む。
さらに、マクロブロックMB22,MB23,MB31,MB32に再びシーケンス番号1の基本論理フォーマットの情報、シーケンス番号2の基本論理フォーマットの情報、シーケンス番号3の基本論理フォーマットの情報、シーケンス番号4の基本論理フォーマットの情報をそれぞれ埋め込み、マクロブロックMB33にシーケンス番号1の基本論理フォーマットの情報を埋め込むことになる。
図6(A)に示した例のように、パターンを埋め込むブロックを規則的に配置しておくことによって、付加情報を抽出する復号装置6側では、ブロックサイズやブロック位置を容易に検出することができるようになる。
また、復号装置6は、付加情報を解読するためには、マクロブロックのサイズ(Y,X)と論理フォーマットだけを知っていればよく、埋込み時のブロックサイズや出力機器および入力機器の解像度などの情報も必要としない。
また、画質に関しては、振幅が減衰するパターンを用いることによって、パターンの中心部が特に元画像とは異なることになるものの、このパターンがほぼ画像全体に規則正しく等間隔で埋め込まれるために、たとえ元画像とは違うということがわかっても違和感を抑えることができる。
また、検出率があまり落ちない範囲でできるだけブロックサイズを小さくしたり、ブロックサイズを小さくできない場合でも、減衰率を適当な値にセットすることによって、元画像に比較して殆ど画質劣化を感じない程度に抑えることができる。
<<画像形成装置の構成;第2実施形態>>
図8は、画像形成装置5の機能に着目した第2実施形態の構成例を示すブロック図である。第1実施形態では、画像中に埋め込まれるデジタルコードの埋込強度をアナログ情報に基づいて変調する埋込階調変調処理部としての埋込強度微調整部448を埋込強度設定部440内に設けていたが、最終的に画像中に埋め込まれるデジタルコードの埋込強度がアナログ情報に基づいて変調されていればよく、その他の箇所でも、同様の変調を行なうことができる。
たとえば、第2実施形態の画像形成装置5においては、印刷出力する際に、デジタルコードの埋込強度をアナログ情報に基づいて変調するべく、埋込強度微調整部448を画像出力部482の前段に設けている。
この第2実施形態の構成では、印刷出力する際に、埋込強度微調整部448は、画像データ格納部409から取り出した印刷対象の画像データにおける、デジタルコードが埋め込まれている部分の画素値を、第1実施形態で説明した階調変更量qの分だけ補正を加え、この補正後の画像データを画像出力部482に渡す。
これにより、結果的には、補正後の画像データとしては、第1実施形態と同様に、アナログ情報が重畳されたデジタルコードが画像中に埋め込まれたものとなるのである。
<<画像形成装置の構成;第3実施形態>>
図9は、画像形成装置5の機能に着目した第3実施形態の構成例を示すブロック図である。第3実施形態の画像形成装置5においては、印刷出力する際に、デジタルコードの埋込強度をアナログ情報に基づいて変調するべく、埋込強度微調整部448をパターン重畳部466への入力の1つとして設けている。
この第3実施形態の構成では、デジタルコードを画像中に埋め込む際に、埋込強度微調整部448は、画像データ格納部409から取り出した埋込み対象の画像データにおける、デジタルコードを埋め込む部分の画素値を、第1実施形態で説明した階調変更量qの分だけ補正を加え、この補正後の画像データをパターン重畳部466に渡す。
これにより、パターン重畳部466は、予め階調変更量qの分だけ補正された画像に対してデジタルコードを埋め込むことになり、結果的には、パターン重畳部466から出力される画像データとしては、第1実施形態と同様に、アナログ情報が重畳されたデジタルコードが画像中に埋め込まれたものとなるのである。
第1実施形態の構成は、埋込み強度を変調する機能部分である埋込強度設定部440に、ほぼ同様の機能を持つ埋込強度微調整部448を設けており、従来の装置構成との親和性が高い。ただし、埋込強度設定部440の構成を変更する必要があるので、適応の容易性にやや難点がある。
これに対して、第2および第3実施形態の構成では、従来の装置構成の信号経路の途中に埋込強度微調整部448を設けるので、適応が容易である。また、第2と第3との比較では、第3の方がアナログ情報の重畳を確実に行なうことができる利点がある。
<復号装置の構成>
図10は、復号装置6の機能に着目した一構成例を示すブロック図である。ここでは、本出願人が特願2002−312315号にて提案している仕組みを採用するが、他の復号化手法を利用した構成としてもよい。図示するように、本実施形態の復号装置6は、処理対象の画像データを取り込む画像取得部601と、処理対象画像に埋め込まれている特定領域代用画像から付加情報を復号する付加情報復元処理部602とを備えている。
付加情報復元処理部602は、処理対象画像に埋め込まれている画像パターン情報から、誤り訂正処理などしつつ付加情報を復号する。付加情報復元処理部602は、処理対象の画像パターン情報のデコード処理に成功したときには直ちにデコード処理を完結させて次の処理に移行するようにしてもよいし、少なくとも所定回数だけデコード処理を繰り返して復号結果の多数決を採ることで確度の高いデコード結果を求めるようにしてもよい。
また、復号装置6は、画像取得部601が取得した処理対象画像をユーザに提示したり、あるいは付加情報復元処理部602によって復号された付加情報を参照して特定領域代用画像が埋め込まれていた部分の元情報(以下埋込領域元情報ともいう)をユーザに提示するなどの出力処理を行なう画像出力処理部608と、処理対象画像データの記録、処理中の作業データの一時的な保持、あるいは出力データを保持する画像データ格納部609とを備えている。
また、本実施形態特有の構成として、復号装置6は、付加情報復元処理部602が復号した付加情報が埋め込まれていた部分に付加情報を表す画像パターン情報を再度埋め込んで所定の出力媒体に出力し、もしくは画像処理装置に画像データとして転送したりするなどの出力処理をする再出力処理部607を備えている。
<復号装置側の画像取得部の構成>
画像取得部601は、処理対象の画像を取り込む画像データ入力部612と、画像の傾きを検出しその傾き補正を行なう入力画像傾き補正部614とを有する。
画像データ入力部612が取り込む画像データは、上述のような付加情報を埋め込む側の画像形成装置5において作成され、プリンタなどの印刷機器から印刷出力された画像をスキャナで読み取ることで得られる画像や、デジタルカメラなどで撮像され電子的に入力される画像データである。
画像データ入力部612は、スキャナ3bあるいはデジタルカメラ3cなどの画像読取機器とのインタフェースを有し、このインタフェースを通じて付加情報が埋め込まれた画像データを取り込む。
また画像データ入力部612は、スキャナあるいはデジタルカメラなどの画像読取機器により取得された画像データが圧縮されているときは、それを非圧縮データに変換する機能も具備している。
入力画像傾き補正部614が行なう傾き補正処理としては、たとえば、処理対象画像を回転させながら、垂直方向および水平方向に投影し、その投影波形の高さが所定の閾値以上となる範囲が最小となる角度を傾き角度と推定し、その傾き角度だけ処理対象画像を回転補正すればよい。多くのケースでは、画像データ入力部612が取り込むこれらの画像には傾きを持つので、入力画像傾き補正部614を設けることでその傾きを補正するようにした本実施形態の構成は、効果が非常に大きい。
<付加情報復元処理部の構成>
付加情報復元処理部602は、付加情報が埋め込まれているブロックサイズを推定するブロックサイズ推定部622と、ブロックサイズ推定部622により推定されたブロックサイズに基づいて付加情報を表す画像パターン情報が埋め込まれたブロック位置を検出するブロック位置検出部624とを備えている。ブロックサイズ推定部622とブロック位置検出部624により、画像パターン情報が埋め込まれていた部分の画像を取得する埋込領域画像取得部621が構成される。
なお、原稿の全体を読み取る形態に代えて、バーコードリーダなどのポイント型スキャナを利用することで、埋込領域画像取得部621を構成するようにしてもよい。この場合でも、多くの場合、読み取った画像パターン情報が埋め込まれていた部分の画像には傾きを持つので、入力画像傾き補正部614を設けることが好ましい。
また付加情報復元処理部602は、ブロックサイズ推定部622およびブロック位置検出部624によって大きさおよび位置が検出されたブロックに埋め込まれている付加情報を識別する付加情報識別部626と、付加情報識別部626により識別された結果に基づいて埋め込まれていた元の付加情報を復号する付加情報復号部628とを備えている。
また、本実施形態の特徴部分として、付加情報復元処理部602は、埋め込まれている付加情報の埋込み強度に基づいて元のアナログ信号(たとえば個体の特徴量を表わすアナログ信号)を復元するアナログ情報復元部629を備えている。
アナログ情報復元部629は、4個のサブブロックのうち対角サブブロック2個を1組とした2組の階調の平均をそれぞれ明るくまたは暗く変調することで埋め込まれているデジタルコードの階調差を利用して、デジタルコードにアナログ情報として重畳されている個体特徴量を復元する。
ブロックサイズ推定部622は、入力画像傾き補正部614により傾き補正された処理対象画像から、付加情報が埋め込まれているブロックサイズを推定する。なお、付加情報を埋め込んだときのブロックサイズは、印刷出力および入力を経て異なるブロックサイズに変更されている場合もあり、このブロックサイズ推定部622において、場合によって変更されたブロックサイズを推定している。
ブロックサイズの推定は、埋め込んだパターンが所定方向(たとえば垂直および水平方向)のエッジ成分を有するという特徴を利用して行なうことができる。たとえば、傾き補正された処理対象画像にSobel型フィルタなどの微分フィルタや、Prewitt型やKirsch型のフィルタを適用することによってエッジを抽出してエッジ抽出画像を作成する。
この後、十字型のマスクとの間で相互相関を計算するなどして、エッジ抽出画像から垂直・水平方向のエッジ成分やその交点が強調されたエッジ画像を作成する。付加情報のパターンが垂直・水平方向のエッジが存在しているパターンであれば、作成されたエッジ画像には図6に示した矩形(パターンサイズ31)の中心を通る格子状のエッジが存在する。このパターンから得られるエッジと、元の画像に存在する垂直・水平方向のエッジがエッジ画像中に存在することになる。
ブロックサイズ推定部622は、そのエッジ画像から自己相関関数を求め、この自己相関関数によって、付加情報のパターンから得られるエッジのみを抽出する。エッジ画像には、ほぼ等間隔に並んだ縦横方向の線分が抽出されているため、自己相関関数が最大となるオフセットを検出すれば、それが拡大縮小後のブロックサイズに一致していると考えてよい。したがって、自己相関関数が最大となるピーク位置からのオフセットをブロックサイズとして推定する。
以上により、付加情報が埋め込まれたときのパターンサイズや、出力時の解像度および入力時の解像度を知らなくても、画像取得部601が取り込んだ処理対象画像から付加情報をデコードするためのブロックサイズ情報を得ることができる。
ただし、ここで得られるブロックサイズの値は整数値である。プリンタとスキャナの組合せでは、使用される解像度が通常は400dpi,600dpi,1200dpiなどの組合せであるため、解像度変換された埋込画像の対応ブロックサイズも整数であることが多いが、デジタルカメラで入力された場合の入力解像度は、デジタルカメラと被写体である印刷画像との距離に依存するため、解像度変換された処理対象画像の対応ブロックサイズは整数とは限らない。そのため、ブロックサイズ推定部622で算出したブロックサイズは近似値である。しかし、ここで求めたブロックサイズは、次に説明するブロック位置検出部624で補正されるので近似値で問題はない。
ブロック位置検出部624は、ブロックサイズ推定部622により推定したブロックサイズに基づき、未知の倍率で拡大あるいは縮小された処理対象画像から付加情報のパターンが埋め込まれたブロック位置を検出する。ブロック位置の検出は、どちらか一方のパターンから正か負かの極性情報だけを抽出して作成したマスク画像と付加情報が埋め込まれた画像との相関性を利用して行なうことができる。
たとえば、ブロックサイズ推定部622により求めたブロックサイズに対応するマスク画像すなわち図5に示した付加情報“0”もしくは“1”のどちら一方のパターンに対応するマスク画像を作成し、このマスク画像と傾き補正された処理対象画像との間で相互相関を計算して相関画像を作成する。
この後、ブロック位置検出部624は、求めた相関演算結果の画像から、その値が極大または極小となる点だけを抽出する。求められた極大値および極小値は、付加情報“0”もしくは“1”を示す各パターンのほぼ中心位置において検出される。
相関値は、付加情報“1”が埋め込まれているブロックとマスクが丁度重なったところで極大となり易く、逆に、付加情報“0”が埋め込まれているブロックとマスクが丁度重なったところで極小になり易い。この傾向は、埋込み前のブロックの位置に対応する元画像が平坦であったときに特にそうなり易い。逆に埋込み前のブロックの位置に対応する元画像が局所的なエッジを持っていた場合などは必ずしも埋込ブロックとマスクが丁度重なったところで極大または極小になるとは限らない。しかし、この影響は投影法により軽減されるので、極端にエッジの多い画像でなければこのことは問題にならない。
また、どちらか一方のパターンのみからマスク画像を作ればよいのは、2つのパターンは極性が逆のパターンであり、もう一方のパターンからマスク画像を作成した場合は、単に極大値・極小値が逆転するだけだからである。
ブロック位置検出部624は、求めた極大値および極小値を示す極値画像を垂直方向および水平方向に投影し、その投影波形とブロックサイズ推定部622により求めたブロックサイズとから、ブロック位置を検出する。各ブロックが縦横に配置されていることによって、垂直および水平方向のそれぞれについてほぼ一定間隔のピークを持つ投影波形が得られる。ブロック位置検出部624は、垂直および水平方向それぞれの投影波形のピーク位置より、正確なブロック位置を推定する。
なお、元画像に局所的に強いエッジがある場合、それを含むブロックから求めた極大点または極小点の位置は、平坦な部分から求めた極値の位置間隔からずれてしまう可能性があるが、このばらつきは、投影法とピーク位置をほぼ一定間隔で探索することで大幅に軽減することができる。
付加情報識別部626は、付加情報復号部628の制御の元で、ブロックサイズ推定部622およびブロック位置検出部624によって大きさおよび位置が検出されたブロックに埋め込まれている付加情報を識別する。
付加情報の識別処理は、所定方向のエッジにより4つに分割された領域の画素値の総和の大小関係を利用して行なうことができる。たとえば、付加情報識別部626は先ず、検出したブロックを縦横方向に4つの領域に分割した計算ウィンドウを設定する。計算ウィンドウのサイズは、ブロックサイズ推定部622で推定されたブロックサイズに等しい。
この後、付加情報識別部626は、計算ウィンドウを適用して、4つの各領域に含まれる全ての画素値の総和を求め、その4つの総和値の大小関係に基づいて、そのブロックに埋め込まれている付加情報が“1”であるか“0”であるか、あるいは判別不能であるかを判定することで、付加情報を識別する。なお、画像のエッジ部分を含むブロックでは単純な解釈だけでは判断できない場合も多いので、たとえば、元画像の水平方向にステップエッジがある場合と、垂直方向にステップエッジがあるケースを考慮して、付加情報の予測精度を高めるようにするのが望ましい。
付加情報復号部628は、予め規定されたフォーマットに従って、付加情報識別部626により識別された個々の情報を組み立て、次いでそれを復号化することにより、埋め込まれていた元の付加情報を復号する。
たとえば、付加情報復号部628は先ず、マクロブロックの探索を行なう。具体的には、ブロック位置検出部624で検出したブロック位置を左上方向から付加情報識別部626を制御して識別し、頭出しヘッダに一致する場所を検出する。付加情報復号部628は、マクロブロックのサイズはY行X列(たとえば16行8列)であることを知っているので、さらに、その地点から、右方向に8ブロック離れたところに頭出しヘッダが存在するか、あるいは、16ブロック下に頭出しヘッダが存在すれば、最初のマクロブロックの位置を確定する。
最初のマクロブロック位置が確定できれば、マクロブロックは規則正しく並んでいることを利用して他のマクロブロック位置も確定できる。もちろん、頭出しヘッダが誤りを含んでいる場合でも、殆どの頭出しヘッダが誤っていない限りマクロブロックの位置を特定することができる。
この後、付加情報復号部628は、全てのマクロブロックの符号化方式情報を読み出し、多数決復号を採ることにより符号化方式を検出する。
最後に、付加情報復号部628は、既知の論理フォーマットに従い、全てのマクロブロックの情報を復号して、復号したマクロブロックの情報のうち、同一のシーケンス番号を持つものに関しては、これらの間で多数決復号を行なう。また、“1”以外のシーケンス番号がある場合には、シーケンス番号順に付加情報を接続して組み立てることで、元の付加情報を復号する。
以上により、付加情報復号部628は、処理対象画像中に画像パターン情報として埋め込まれた付加情報を解読することができる。このとき、誤り訂正符号化や複数のマクロブロックに繰り返して付加情報を埋め込んでおいて多数決復号を行なうことによって、元の画像の影響を最小限に抑え、確実に付加情報を取得することができる。また図5に示したような特徴を有するパターンが埋め込まれた画像であれば、たとえば印刷装置や読取装置の影響や、途中で拡大あるいは縮小などの変換処理が施された場合でも、確実に付加情報を抽出することができる。
<復号装置側の画像出力処理部の構成>
画像出力処理部608は、画像取得部601が取得した処理対象画像をユーザに提示する全体情報提示処理部682と、正規ユーザからの要求に応じて、付加情報復元処理部602によって復号された付加情報を参照して、付加情報がパターン画像として埋め込まれていた埋込領域のうちの、特に秘匿目的で画像パターン情報を埋め込んでいた部分である特定領域代用画像が埋め込まれていた部分の元情報をユーザに提示する埋込領域元情報提示処理部690とを有している。
なお、特定領域代用画像が埋め込まれていた部分の元情報に限らず、全ての埋込領域について、元情報を提示可能に構成してもよい。また、特定領域代用画像が埋め込まれていた部分に限らず、つまり秘匿目的であったか否かに拘らず、付加情報がパターン画像として埋め込まれていた全ての部分の元情報を提示対象としてもよい。
全体情報提示処理部682は、CRTや液晶などの表示装置を利用して、画像取得部601が取得した処理対象画像の全体をユーザに表示画像として提示する。表示画像として提示される処理対象画像の全体の中には、付加情報を表すパターン画像(特定領域代用画像も含む)も含まれている。
一方、埋込領域元情報提示処理部690は、付加情報復元処理部602によって復号された付加情報を参照して取得した特定領域代用画像が埋め込まれていた部分の元情報をも、ユーザに表示画像として提示することができる。この際には、通常の情報を表示するためのメインの表示装置とは独立した、たとえば第3者に覗かれ難いハンディターミナルあるいは携帯電話やPDAなどでなるローカル表示装置を表示媒体として利用するなどして、処理対象画像の全体とは別に提示するようにしてもよい。
あるいは、全体情報提示処理部682は、画像形成ユニット(プリントエンジン)を利用して、画像取得部601が取得した処理対象画像をユーザに印刷画像として提示する。印刷画像として提示される処理対象画像の全体の中には、付加情報を表すパターン画像(特定領域代用画像も含む)も含まれている。
また、埋込領域元情報提示処理部690は、画像形成ユニットを利用して、付加情報復元処理部602によって復号された付加情報を参照して特定領域代用画像が埋め込まれていた部分の元情報を処理対象画像の全体とは別にユーザに印刷画像として提示する。
つまり、全体情報提示処理部682と埋込領域元情報提示処理部690の2つの組合せにより、全体の情報と特定領域代用画像が埋め込まれていた部分の元情報とを分けてユーザに表示出力もしくは印刷出力にて提示する。これにより、復号装置6側の処理において正規の利用者が特定領域代用画像が埋め込まれていた部分の元情報を出力させる際に、元の文書全体が一度に表示または印刷してしまうことで、第3者に機密部分や秘密領域などの秘匿すべき部分の情報が漏洩される危険を低減するようにすることができる。
また、埋込領域元情報提示処理部690は、アナログ情報復元部629が復元したアナログ情報に基づいて画像や音楽情報や音声メッセージを再現し、この再現した情報をユーザに提示することもできる。デジタルコードで埋め込まれている付加情報を使ったサービス以外に、デジタルコードに重畳して埋め込んでおいたアナログ情報をも使うことで、従来にないサービスを行なうことができるようになるのである。
<埋込領域元情報提示処理部の構成>
図11は、埋込領域元情報提示処理部690の詳細な構成例を示すブロック図である。復号装置6においては、特定領域代用画像を含む付加情報を表す画像パターン情報を読み取り、このパターン画像から復号処理によって埋め込んだ付加情報を復号し、復号した情報に基づいて所定のサービスリクエストを発行する。
そして、埋込領域元情報提示処理部690は、パターン画像が埋め込まれていた部分の元情報である埋込領域元情報を取得することで、付加情報を表す画像パターン情報が埋め込まれた状態での全体の情報だけでなく、取得した埋込領域元情報をも、ローカル表示装置や印刷媒体にて提示する。埋込領域元情報としては、埋込領域の画像やテキスト、あるいは埋込領域を含む特定ページ、またはこれらの組合せを用いることができる。
復号装置6側の埋込領域元情報提示処理部690において、利用者(正規の者)に情報を提示する際には、特定領域代用画像が埋め込まれていた秘匿部分の元情報をも必要に応じて提示するようにする。秘匿するべき特定領域に対して、モザイク処理やスミ塗り処理として特定領域代用画像を用いつつ、特定領域代用画像で隠された秘匿部分のテキストや画像などの元情報(以下特定領域元情報ともいう)のみを表示出力し、あるいは印刷出力することで、機密保護と利便性の両立を図る。
なお、特定領域元情報の印刷出力に関しては許可しないようにしてもよい。表示は一時的なものにできるが、印刷媒体にすると、その印刷物が意図せずに第3者に渡ってしまう可能性を排除できず、機密保護の観点では問題があるからである。
ここで「必要に応じて」と言ったのは、「機密保護」の目的を達するため、オリジナル文書の全体の内容が第3者に知られるようになることを防止できるようにしつつ、正規の者には、秘匿部分の元情報を確実に提示するということを達成するためである。正規の者からの要求もなく不用意に秘匿部分の元情報を提示すると、たとえ全体画像とは別に秘匿部分の元情報を提示しても、秘匿部分の元情報が第3者に知られてしまう可能性が高くなるからである。正規の者からの要求を受けて秘匿部分の元情報を提示するようにすれば、その正規の者は、秘匿部分の元情報が第3者に知られないように適当な対処をすることができる。
このような目的を達するべく、本実施形態の埋込領域元情報提示処理部690は先ず、特定領域元情報の提示要求をユーザから受け付けるサービスリクエスト発行部692と、サービスリクエスト発行部692が特定領域元情報の提示要求をユーザより受け付けたときに、その要求を発したユーザが正規ユーザであるか否かを判定する認証処理部693とを有している。
また埋込領域元情報提示処理部690は、認証処理部693による認証処理に成功したことを条件として、特定領域の元情報を取得する元情報取得部694と、全体情報提示処理部682によって提示される全体情報とは別に、特定領域代用画像が埋め込まれていた部分の元情報取得部694が取得した元情報をユーザに表示出力もしくは印刷出力させる特定領域元情報出力制御部695とを有している。
認証処理部692は、付加情報復元処理部602により復号された付加情報に示されている認証情報(たとえばユーザ名とIDコード)を参照して、特定領域の元情報の提示要求をしたユーザが正規ユーザであるか否かを判定する。たとえばユーザに認証情報(たとえばユーザ名とIDコード)の入力を求め、入力された認証情報が付加情報に示されている認証情報と一致するか否かを判定する。認証情報を付加情報に埋め込んでおくことで、復号装置6側での認証処理時に、認証用のサーバを不要にできる。
認証処理部693は、2つの認証情報が一致している場合に限って、正規ユーザであると判断して、元情報取得部694や特定領域元情報出力制御部695に対して、特定領域の元情報の提示処理を許可する。
元情報取得部694は、認証処理部693による許可を受けると、特定領域代用画像が埋め込まれていた部分の元情報を再現し、再現した元情報を特定領域元情報出力制御部695に渡すことで、正規利用者のみに元情報を提示可能にする。
たとえば、特定領域の元情報がテキストであって情報量が少なければ、テキスト部分をASCIIコードなどに変換するなどして付加情報として示しておくことで、付加情報復元処理部602で付加情報を解読(復号)すれば、即時に元のテキストを再現できる。よって、元情報取得部694は、この付加情報復元処理部602にて再現されたテキストをそのまま特定領域元情報出力制御部695に渡すだけでよい。
また、特定領域の元情報がテキストであっても情報量が多いケースや元情報が画像である場合には、特定領域の元情報だけをデータサーバ7に登録しつつ、元情報の保存先情報を付加情報として示しておく。
元情報取得部694は、付加情報復元処理部602により復号された付加情報に基づき特定領域元情報の格納先を特定し検索することにより、テキストや画像をデータサーバ7から取得する。元情報取得部694は、このデータサーバ7から取得した特定領域元情報をそのまま特定領域元情報出力制御部695に渡す。特定領域元情報出力制御部695は、この特定領域元情報を再出力処理部607に渡すとともに、その出力動作を制御する。
オリジナル文書が複数ページに跨るものである場合において、特定領域を含む特定ページの全体を画像形成装置5やデータサーバ7に格納している場合には、埋込領域元情報提示処理部690は、各ページの個々の特定領域に対応する元情報を提示することに代えて、特定領域を含む特定ページの全体を取得して表示出力もしくは印刷出力するようにしてもよい。
また、埋込領域元情報提示処理部690は、デジタルコードに重畳して埋め込んでおいたアナログ情報に基づいて画像や音楽情報や音声メッセージを再生する情報再生部696と、情報再生部696が再生した情報をユーザに提示する情報提示部697とを備えている。
本実施形態の情報提示部697には、認証処理部693からの認証結果が入力されており、認証が取れている場合に限って、情報再生部696が再生した情報をユーザに提示するようにしている。これにより、たとえば、正規ユーザに対しては、付加的なサービスとして、“おまけ(特典)”の画像や音声情報を提供することができる。
次に、本実施形態の特徴部分である画像形成装置5における埋込強度微調整部448および復号装置6におけるアナログ情報復元部629について詳細に説明する。
<埋込強度微調整部とアナログ情報復元部の機能>
図12および図13は、埋込強度微調整部448とアナログ情報復元部629の処理を説明するための参照図である。これらの図は、紙指紋データの一例を示している。
本実施形態において、画像形成装置5側には埋込強度微調整部448を備えており、画像中に埋め込まれるデジタルデータ(本例では秘匿用の埋込画像)の埋込強度をアナログ情報Saを参照して微調整するようにしている。つまり、多値画像へのデジタルデータの埋込領域を利用して、その埋込強度を個体特徴量などのアナログ情報Saに基づいて変調することで、そのアナログ情報Sa(たとえば個体特徴量)を重畳した形態で所定の付加情報をデジタルデータとして画像に埋め込む点に特徴を有しているのである。
たとえば、付加情報をデジタル化して画像として埋め込む従来の画像形成装置においては、情報埋込み対象の多値画像を複数個のブロックに分割し、互いに異なるブロック間の特徴値(具体的には階調値)の相違によって1ビットのデジタルデータを表現するが、各特徴値の差異の配置パターンによってデジタルデータの“0”や“1”を表わすようにしており、一方のブロックと他方のブロックの各特徴値の差異(同じまたは小さいまたは大きい)が存在することに意味を持ち、特徴値の差異の大きさは外乱に対する耐性以外には意味を持たない。
このため、元の画像に対しての変形度合いを余り強くし過ぎないように、すなわち埋込み後の画質をよくするために、1)2つのパターンの対応する画素同士を加算すると全ての要素が0になる、2)各々のパターン中の全画素を加算すると0になる、3)各々のパターンは中心部を通り方向が異なる2本以上のエッジと呼ばれる不連続な画素値を備える、といった特徴を有する2種類のパターン信号を使って“1”または“0”のデジタルデータを表現可能とし、元画像の特徴値(画素データ)を“1”または“0”を表現可能な2種類のパターン信号で、できるだけ弱い変調を行ない、外乱に対して安定した復号のために特徴値の差が大きくなるような変調を行なう。“1”または“0”のデジタルデータの組合せによって、入力された付加情報に対応するデジタルコードが表わされることになるのである。
この際、1ビットに対応する1ブロックは4×4画素のサブブロック4個に分割したもので、減衰率乗算方式で4個のサブブロックのうち対角サブブロック2個を1組とした2組の階調の平均をそれぞれ明るくまたは暗く変調してデジタルコードを埋め込むが、4×4画素のサブブロックの組合せでなる各々のパターン情報中の全画素を加算すると0になることを基本としているので、パターンの重畳前後において、その平均濃度を変更しないため、画質劣化を最低限度に抑える効果があり、付加情報を表わすバーコードを用紙の一部に印刷する場合のような見栄えの悪さは生じない。
また、本実施形態の構成では、さらに、デジタルコード埋込みのための特徴値の変調度合いにアナログ情報Saを表現できるような制約を加えて埋め込むことで、デジタルコードとアナログ情報Saの両方を画像中に埋め込み、この埋め込まれたアナログ情報Saを復号装置6にて復元するのである。
具体的には、1ビットに対応する1ブロックをなす4×4画素のサブブロック4個について、“0”または“1”を表わすための対角の2つを組(対)にして、アナログ情報を表わすように、ブロック階調の平均をそれぞれ明るくまたは暗く変調して、2組の対角ブロックの平均濃度(階調値)に差を持たせる。復元時には、当然のごとく、4個のブロックの階調の大小関係で1/0を判定することでデジタルコードを復号するとともに、2組の対角ブロックの平均濃度(階調値)の差からアナログ情報を抽出するのである。
ここで、埋込強度微調整部448によるブロックに埋め込む埋込強度の変調度合いは、デジタルコードに重畳するアナログ情報Saの大小関係に応じて決めるとよい。たとえば、アナログ情報として、紙などの表面を特質を示す個体特徴量を使う場合であれば、その個体特徴量の特質上から、さほど大きい必要はない。
各々のパターン情報中の全画素を加算すると0になることを基本としているのに対して、4×4画素のサブブロックの対角のもの2つを組にして、2つの組の平均階調値に個体特徴量に応じた若干の差を持たせるが、その差が小さければ、その結果として、このような仕組みを従来のデジタルコード埋込みの技術に組み合わせても、デジタルコードの復号処理に殆ど悪影響を与えないし、画質劣化を最低限度に抑える効果もあり、見栄えの悪さは生じないのである。
重畳対象とするアナログ情報のレンジが狭ければ、アナログ情報と平均階調値の差を1対1に対応させることができる。また、アナログ情報のレンジが広い場合には、分解能が低下するものの、そのレンジを圧縮することで、圧縮済のものと平均階調値の差を1対1に対応させることができる。
たとえば、個体特徴量の典型例として、紙指紋データを考える。紙指紋データは紙の印刷していない領域をスキャナやカメラなどの光学機器で読み取るため、人の目でみると白い紙なら真っ白に近い階調を持つデータとして認識される。微細には、繊維質材料の絡み具合に伴う僅かな濃度(階調)のバラ付きが存在するのである。すなわち、紙を形成する繊維質材料の絡み具合のランダム性に起因して、紙の透明度がランダムに変化していることの証として、濃度のバラ付きが紙指紋データとして現われるのである。
たとえば、先ずフラットベッド型スキャナにより、400dpi(dpi;1インチ当たりのドット数)の解像度を8ビットグレイスケールの階調で紙(原本)の未印刷の部分の32×32ドット(約2mm×約2mm)の基準領域の画像(基準画像)を読み取り、スキャナから出力された画像データを基準データとして取得する。この画像データは、紙を形成する繊維質材料の絡み具合のランダム性に起因する紙(原本)上の基準領域内における紙の透明度のランダムな変化を表している。
紙を形成する繊維質材料の絡み具合を製造時に制御することは不可能であるので、紙を形成する繊維質材料の絡み具合はランダムと見なすことができる。紙を形成する繊維質材料の絡み具合は透過光顕微鏡を用いれば観察できる。
一方、「基準画像」そのものを肉眼したのでは、繊維質材料の絡み具合までは確認できないものの、繊維質材料の絡み具合や紙を漉くときの諸条件により生ずる紙表面の凸凹などの影響によりランダム性に起因する紙の透明度のランダムな変化を反映したランダムな明暗のパターンが生じているので、基準画像に対応する基準データが、紙(原本)上の基準領域内における紙(原本)に固有の特徴、すなわち紙(原本)上の基準領域内の透明度のランダムな変化を表す情報となっていることは確認できるのである。したがって、比較対象の紙に固有の特徴と、真物の特徴とを比較すれば、紙の真贋(真偽)判定が可能となり、その結果として、紙幣や有価証券などの書類の真偽判定ができるのである。
図12および図13は、その基準データのヒストグラムを表わしており、これにより、紙指紋データの特徴が分かる。たとえば、図12は、通常の文書や写真などの原稿読取りを想定した露出で白い紙の印刷していない部分をグレイスケール(たとえば8ビット)で読み取ったときの階調値のヒストグラムの一例である。図から分かるように、グレイスケール0〜255の階調のうち240〜255が大半を占めており、その階調範囲は概ね0〜15の16階調である。また、0〜15の中で均等に分布するというのではなく、概ね中央値付近の度数が高く、“0”や“15”近傍での度数は小さい。
また図13は、原稿読取りを想定した露出で、白い紙でなくて色付きのカラー紙の印刷していない部分をグレイスケール(たとえば8ビット)で読み取ったときの階調値のヒストグラムの一例である。図から分かるように、グレイスケール0〜255の階調のうち、215〜230程度が大半を占める。つまり、カラー紙の場合には、白い紙の場合よりもヒストグラムの中央値が低階調レベルとなるものの、階調範囲は概ね同じであるし、概ね階調範囲の中央値付近の度数が高く両端の“0”や“15”近傍での度数は小さい。
つまり、紙の表面の特徴を表わす階調データとしては、概ね16階調程度あれば十分であり、この程度のダイナミックレンジで紙指紋データが読み取れれば、高い精度で真贋の照合ができるのである。したがって、デジタルコードと同時に埋め込む個体特徴量の一例としての紙指紋情報の量子化された階調は“16”でよいことになる。
次に、0〜15の16階調の個体特徴量を表わすアナログ情報をデジタルコードに重畳させて画像に埋め込む仕組みの具体例について説明する。
<個体特徴量埋込みの第1具体例>
図14は、個体特徴量をデジタルコードに重畳して埋め込み復元する仕組みの第1具体例を説明する図である。
デジタルコードの1ビットが埋め込まれるブロックの対角サブブロック2組の平均階調値をu,v、デジタルコードに重畳させて埋め込むアナログ情報(ここでは個体特徴量)の階調値をaとすると、両方の対角ブロックの平均濃度をそれぞれ等分で逆方向に増加もしくは減少する方法を採る場合には、埋込強度微調整部448が埋込強度制御部446に対して設定するアナログ情報を重畳させるための必要な階調変更量qは、式(4)で求めることができる。この情報は、パターン作成部456に通知される。
次に、付加情報パターン設定部450のパターン作成部456では、対角サブブロック2組の平均階調値をu,vが式(5)に示される値になるように階調変更することで、個体特徴量を重畳した2つのパターン情報を生成する。
式(5)の意味は、階調変更量qの正負によって、明るい方は階調変更量qの絶対値の分だけ明るくまたは暗くなるように、また暗い方は階調変更量qの絶対値の分だけ暗くまたは明るくなるように、サブブロックの階調の大小と正方向または逆方向に個体特徴量に応じて階調を変調することを意味する。このように階調を変調するのでデジタルコード0/1が逆転することはない。
なお、式(4)において、“2”で割っているのは、両方の対角ブロックの平均濃度をそれぞれ等分で逆方向に調整するためである。割り切れない場合には、その分を何れか一方に割り当ててもよいし、アナログ情報の分解能が低下するが、無視してもよい。
また、先にも説明したが、階調変更は、対角サブブロック1組の平均階調が変更されればよいので、サブブロック全画素を同じだけ変更してもよいし、何らかの方法で画素ごとに変更する値を変えてもよい。
さらに付加情報パターン設定部450のパターン選択部458では、式(5)で示される階調変調が加えられた2つのパターン情報の何れか一方を符号情報に基づいて選択使用して、画像中に埋め込むべき符号画像(個体特徴量が重畳されたコードデータを表わす画像)を生成する。そして、パターン重畳部466では、入力された画像の所定位置に、式(5)で示される階調変調が加えられた2つのパターン情報を利用した符号画像を入力画素データにさらに重畳する。画像出力部482では、この符号画像が埋め込まれた画像データに基づいて所定の用紙に印刷出力する。
次に印刷された用紙から、デジタルコードに重畳されているアナログ情報を復元する際には、スキャナで画像を読み取り、読み取られた画像データを処理することで、対角サブブロック2組の平均階調の差の絶対値の16の剰余をアナログ情報として取り出す。
図14は、その様子を表わしており、横軸は元々の4×4画素でなるサブブロックの階調差|u−v|であり、縦軸は階調変更量qを示す。縦軸の階調変更量qの値そのものは、|u−v|mod16によって種々の値をとり得る。しかしながら、重畳対象となる個体特徴量を表わすアナログ情報の値aに応じて、|u−v|が0〜15の範囲で、階調変更量qが決まる。
<個体特徴量埋込みの第2具体例>
図15は、個体特徴量をデジタルコードに重畳して埋め込み復元する仕組みの第2具体例を説明する図である。
第2具体例の手法では、印刷してスキャンしたときに入出力機器の特性で階調の絶対値が変わったときに、|u−v|mod16が“0”または“15”の近傍で誤差が大きくなる。これは、図14からも分かるように、|u−v|mod16を基本に階調変更量qを求めているので、階調変更量qに不連続点が存在することが原因である。
そこで、“0”または“15”の近傍でも誤差が多くならないように、両方の対角ブロックの平均濃度をそれぞれ等分で逆方向に増加もしくは減少する方法を採る場合には、埋込強度微調整部448が埋込強度制御部446に対して設定するアナログ情報を重畳させるための必要な階調変更量qを、式(6)に従って求めるとよい。
次に印刷された用紙から、デジタルコードに重畳されているアナログ情報を復元する際には、スキャナで画像を読み取り、読み取られた画像データを処理することで、対角サブブロック2組の平均階調の差の絶対値の16の剰余について、差の絶対値の32の剰余が16未満ならそのまま、16以上なら16から引いた値を、それぞれアナログ情報として取り出す。
図15は、その様子を表わしており、横軸は元々の4×4画素でなるサブブロックの階調差|u−v|であり、縦軸は階調変更量qを示す。縦軸の階調変更量qの値そのものは、|u−v|mod32によって種々の値をとり得る。しかしながら、重畳対象となる個体特徴量を表わすアナログ情報の値aに応じて、|u−v|が0〜31の範囲で、階調変更量qが三角波状に決まる。
すなわち、図14との対比から分かるように、|u−v|が0〜15の範囲まで単調に変化し、16を超えると折り返して|u−v|が16〜31の範囲まで、|u−v|が0〜15の範囲とは逆極性で単調に変化し、0に戻ると元の状態に折り返すようになる。この結果、階調変更量qに不連続点が存在せず、印刷してスキャンしたときに入出力機器の特性で階調の絶対値が変わった場合でも、|u−v|mod16が“0”または“15”の近傍で誤差が大きくなる不都合は生じない。
<個体特徴量埋込みの第3具体例>
図16および図17は、個体特徴量をデジタルコードに重畳して埋め込み復元する仕組みの第3具体例を説明する図である。
第3具体例の手法は、第2具体例の手法をさらに発展させたものであり、|u−v|mod16が“0”または“15”の近傍での階調変更量qを小さくすることで、“0”または“15”近傍の誤差がさらに小さくなるようにする点に特徴を有している。
図12および図13において示したように、紙の表面を読み取った階調値の特徴量のヒストグラムでは、階調範囲は概ね16程度であるし、その階調範囲の中央値付近の度数が高く両端の“0”や“15”近傍での度数は小さい。したがって、|u−v|mod16が“0”または“15”の近傍での階調変更量qを小さくしても、何ら不都合が生じないと考えてよい。第3具体例は、この点に着目してなされたものである。
|u−v|mod16が“0”または“15”の近傍での階調変更量qを小さくに当たっては、たとえば正弦波状に階調変更量qを変化させる第1の手法を採ることが考えられる。この場合、両方の対角ブロックの平均濃度をそれぞれ等分で逆方向に増加もしくは減少する方法を採る場合には、埋込強度微調整部448が埋込強度制御部446に対して設定するアナログ情報を重畳させるための必要な階調変更量qを、式(7)に従って求めるとよい。
次に印刷された用紙から、デジタルコードに重畳されているアナログ情報を復元する際には、スキャナで画像を読み取り、読み取られた画像データを処理することで、対角サブブロック2組の平均階調の差の絶対値の16の剰余kについて、差の絶対値の32の剰余が16未満なら32(arcsin(k/8−1)+π/4)πを、差の絶対値の32の剰余が16以上なら32(arcsin((16−k)/8−1)+π/4)πを、それぞれアナログ情報として取り出す。
図16は、その様子を表わしており、横軸は元々の4×4画素でなるサブブロックの階調差|u−v|であり、縦軸は階調変更量qを示す。縦軸の階調変更量qの値そのものは、|u−v|mod32によって種々の値をとり得る。しかしながら、重畳対象となる個体特徴量を表わすアナログ情報の値aに応じて、|u−v|が0〜31の範囲で、階調変更量qが正弦波状に決まる。
すなわち、図15との対比から分かるように、|u−v|mod16が“0”または“15”が正弦波の変曲点(inflection point)となり、階調変更量qに不連続点が存在しないばかりでなく、その近傍での値の変化を小さくすることができる。この結果、印刷してスキャンしたときに入出力機器の特性で階調の絶対値が変わった場合でも、|u−v|mod16が“0”または“15”の近傍で生じ得る誤差を第2具体例よりもさらに小さくすることができる。この|u−v|mod16が“0”または“15”の近傍に相当する個体特徴量の度数も少なく、このような対応付けを行なっても殆ど不都合が生じない。
また、|u−v|mod16が“0”または“15”の近傍での階調変更量qを小さくに当たっては、たとえば台形波状に階調変更量qを変化させる第2の手法を採ることも考えられる。
図17は、その様子を表わしており、この場合、事実上、|u−v|mod16が“0”または“15”の近傍に完全なる不感帯を設けることができる。この結果、|u−v|mod16が“0”または“15”の近傍では階調変更量qが変化しないことになり、印刷してスキャンしたときに入出力機器の特性で階調の絶対値が変わった場合でも、復元される階調変更量qも変動しない。
<真偽判定への適用>
図18は、前述した画像形成装置5や復号装置6を利用した照合システム2の全体概要を示す図である。この照合システム2は、画像形成装置5aと、照合装置の機能を備えた復号装置6aとで構成されている。
この照合システム2は、紙指紋技術を利用して、用紙が真正なものであるのか否かを判定するものである。ここで、紙指紋技術とは、紙を形成する植物繊維の絡み具合がランダムと見なせることを利用し、紙の表面の一部(たとえば2〜3mm角程度)の画像情報(たとえば1KB〜4KB程度)により、紙1枚1枚を特定し照合する技術である。
紙の指紋を照合する際には、予め登録した基準データ(もちろん真正な用紙の表面の情報を表わすものである)の参照が必要になるが、照合時に参照する登録データの蓄積手法としては、大きく2通りある。
すなわち、データベースにデジタル情報として記録し連番などによりアクセスして照合する、いわゆるオンライン照合が第1の方法である。このオンライン照合では連番などの固有IDが必要となる。
また、照合する紙そのものに基準データを印刷し、スキャナで読み取り基準データを復元して照合する、いわゆるオフライン照合が第2の方法である。このオフライン照合では連番などの固有IDが不要である。
本実施形態の照合システム2においては、照合時の基準となる基準アナログ情報(たとえば真の用紙の個体特徴量)を各用紙に合成しておき、用紙のその合成部分を読み取って復元した基準アナログ情報と照合対象のアナログ情報(たとえば用紙の合成部分以外の部分を読み取って得た照合対象の用紙の個体特徴量)とを照合するいわゆるオフライン照合方式をベースとして採用する。
もちろん、このオフライン照合方式に、基準アナログ情報をデータサーバ(データベース)7に登録しておくいわゆるオンライン照合方式を併用することも可能である。併用すれば、偽造者が用紙の形質をそのまま真似てしまった場合でも、その偽造物の真贋判定を適切にできる。以下、具体的に説明する。
画像形成装置5aは、前述の画像形成装置5の構成に加えて、照合用の基準となる基準アナログ情報を登録する基準情報登録部490を備えている。基準情報登録部490は、フラットベッド型スキャナなどの任意の画像読取装置を使って構成される画像入力部492と、画像入力部492で取得された画像データに基づいて基準アナログ情報を生成する画像処理部(基準アナログ情報取得部)494とを有している。
画像入力部492は、基準となる用紙における所定の基準画像領域を読み取って画像データとして画像処理部494に出力する。このとき、画像入力部492では、用紙の透過光または反射光を読み込むことにより、用紙の表面に沿って分布するランダム性を有する特徴を画像データとして出力する。また、画像読取装置としては、たとえば400dpiの解像度が得られるものを用いて、予め設定されている領域(たとえば32×32ビット(約2mm×2mm))を8mmビットグレイスケースの階調で用紙の表面を読み取る。
画像処理部494は、画像入力部492から入力された画像データを解析することで、読み取られた基準用紙に特有の特徴量を示す基準アナログ情報を抽出する。先に図12や図13に示したように、用紙の画像の記録されていない部分では、用紙そのものの色(白を含む)の明度に応じた階調レベルを中心に、紙を構成する繊維質材料の絡み具合に応じた階調変動が所定のレンジ幅で現われる。画像処理部494は、その階調に注目して、基準用紙の表面の特徴を示す基準アナログ信号を取得する。
また、その基準アナログ信号の階調レンジが、デジタルコードに重畳させるアナログ信号のレンジ(たとえば16階調分)よりも広いときには、たとえば全体を圧縮変換する、あるいはオーバー分をカットするなどしてレンジを揃えるレンジ整合処理を行なう。このレンジ整合処理の条件を照合時にも参照できるように、デジタルコードとして埋め込まれる付加情報の一部に記述しておくのがよい。
基準情報登録部490は、基準アナログ情報取得部としての画像処理部494にて取得された基準アナログ情報(ここでは基準用紙の表面の特徴を示す個体特徴量)を埋込強度微調整部448に入力する。これにより、埋込強度微調整部448は、画像中に埋め込まれるデジタルコードの埋込強度を個体特徴量に基づいて変調することができるようになるのである。
なお、オンライン照合方式を併用する場合には、基準情報登録部490は、画像処理部494にて取得された基準アナログ情報(個体特徴量)をデータサーバ7にも登録しておく。
また、付加情報パターン設定部450において、付加情報入力部452は、キーボードなどの入力デバイスを用いて、画像に埋め込む付加情報を取り込み付加情報符号化部454に渡す。付加情報符号化部454は、その付加情報を符号化して(暗号化してから符号化してもよい)、その符号化した情報(符号化データ)をパターン選択部458に渡す。
パターン選択部458は、個体特徴量に基づいて階調度合いが変調されたデジタル値“0”,“1”を示す2つのパターン画像の何れか一方を、付加情報符号化部454から入力される符号化データに基づいて選択し、その選択結果、すなわち符号化データを示すとともに個体特徴量が重畳されたパターン画像群を付加情報重畳処理部460に渡す。付加情報重畳処理部460は、画像取得部401が取り込む入力画像の所定位置に、パターン選択部458から入力された個体特徴量が重畳されたパターン画像群を重畳する。
一方、復号装置6aは、前述の復号装置6の構成に加えて、判定対象用紙の所定の照合領域部分のアナログ情報を取得する判定対象情報取得部660と、アナログ情報復元部629により復元される基準アナログ情報と判定対象情報取得部660により取得される判定対象のアナログ情報とを比較することで、基準アナログ情報が重畳されたデジタルコード(機械可読コード)が画像に埋め込まれている用紙の真偽判定を行なう照合処理部670とを備えている。
判定対象情報取得部660は、基準情報登録部490と同様に、フラットベッド型スキャナなどの任意の画像読取装置を使って構成される画像入力部662と、画像入力部662で取得された画像データに基づいて判定対象のアナログ情報を生成する画像処理部(判定対象アナログ情報取得部)664とを有している。画像入力部662は画像入力部492と同様の機能を持ち、画像処理部664は、画像処理部494と同様の機能を持つ。
画像入力部662は、判定対象用紙の所定の照合領域部分を読み取って画像データとして画像処理部664に出力する。その画像データは、判定対象用紙の表面に沿って分布するランダム性を有する特徴を示すこととなるので、画像処理部664は、判定対象用紙の表面の特徴を示す個体特徴量をアナログ情報として取得できる。なおこのとき、画像入力部662は、400dpiの解像度および8ビットグレイスケールの解像度で読込みを行なう。すなわち、画像形成装置5aで基準アナログ情報を作成するときの読取条件に合わせた読取りを行なう。
照合処理部670は、照合部672および判定部674を有している。照合部672は、照合領域の画像データに基づいて画像処理部664にて取得される照合対象用紙の個体特徴量と、アナログ情報復元部629により復元される基準アナログ情報とを照合する。判定部674では、照合部672による照合結果に基づいて、照合対象用紙が真正なものであるのか否かの判定、すなわち用紙の真偽判定を行なう。
ここで、本実施形態の照合処理で用いる照合指標は、判定(照合)対象の用紙(個体)に固有な特徴量である。この固有な特徴量は、紙媒体上の少なくとも1つの所定領域における紙繊維のパターンに係る特徴量であるものとする。すなわち、紙媒体は一般に紙料である繊維質材料を用い、この繊維質材料を絡み合わせた構造を有する。
ここで繊維質材料の絡み合いのパターン(紙繊維のパターン)は固有のランダム性を持ち、各紙媒体を識別する情報として利用し得る。また、紙繊維のパターンを偽造するには、紙の繊維をその太さや長さなどを揃えながら微細な構造を再現する必要があるが、これは事実上不可能なことである。
したがって、真正なものと照合対象のものについて、繊維質材料の絡み具合に起因した紙繊維のパターンに基づく個体特徴量同士を照合すれば、真贋(真偽)判定が可能となるのである。具体的に紙繊維パターン(いわば印刷のない無地部分の凹凸)を利用した照合方法は、次のようになる。
紙繊維パターンを表す画像データから抽出される前記個体特徴量を基準値(基準アナログ情報)として所定の手段により記録しておき、照合の対象となる紙媒体上の上記所定領域における紙繊維パターンを表す画像データから抽出される前記個体特徴量と、前記基準アナログ情報との相関演算を行なって相関値を得る。
ここで、「所定の手段により記録しておき」とは、本実施形態の場合、付加情報を画像中に埋め込むための機械可読コード(デジタルコード)として、階調の異なる隣接した2つの画素群の配置パターンの違いによってデジタルデータを表わすようにした機械可読コードを使うこととし、個体特徴量を表わす基準アナログ情報に基づき、その機械可読コードをなす画素の階調を変調する手法を採る。
そして、この相関値が予め定めた閾値を越える場合に照合が成功したもの、つまり真正なものと同一の紙媒体であると判定する。また、相関値が閾値を下回る場合は照合に失敗したもの、つまり、照合の対象となる紙媒体は真正な紙媒体とは異なると判定する。
なお、真贋判定の精度を高めるには、たとえば特開2005−38389号公報に記載のように、真物の基準画像領域と判定対象用紙の照合領域のサイズを異なるものとし、小サイズの方で、対応する大サイズの方の中を移動させながら繰り返し相関値を演算し、複数得られる相関値に基づいて真贋判定を行なう仕組みを採用するとよい。
このような本実施形態の照合の仕組みによれば、付加情報を表わすデジタルコードに照合用の基準情報をアナログ的に重畳させて、照合する紙そのものの画像部分にアナログ的に基準情報が重畳されたデジタルコードを重畳して印刷し、スキャナで読み取り基準情報を復元し、この復元したアナログの基準情報と照合対象のアナログ情報とを照合するようにした。このため、アナログの基準情報を埋め込むための領域を、デジタルコードを埋め込むための領域と同じにできるので、基準情報を用紙に印刷するためのスペースの問題が解決される。
加えて、デジタルコードを画像に埋め込む際には、見栄えを劣化させない程度に埋込強度を設定できるので、その埋込強度を基準情報に基づいて変調することで基準情報を画像に埋め込んでも、見栄えを劣化させることは殆どないと考えてよい。
もちろん、基準情報を重畳させるデジタルコードそのものについては、特開2004−140764号公報に記載の仕組みそのものの利点をそのまま享受でき、暗号化やデジタル署名も可能である。
図19は、本実施形態の照合の仕組みと、その他の照合の仕組みとを比較した図表である。画像データをイメージと見なしてアナログ的な画像として印刷するアナログ記録方式を採用した場合、スキャナで読取り後の画像データは、元の画像に完全に復元することは困難である。
一方、画像データをデジタルビット列と見なしてコード化してからデジタル情報として印刷するデジタル記録方式を採用した場合、スキャナで読取り後のデータから元の画像をほぼ完全に復元することができる。なお、デジタル記録方式の場合、情報量を少なくするべく圧縮を行なうことがあるが、この圧縮した場合でも可逆圧縮を使えば、元の画像をほぼ完全に復元することができる。
他方、紙指紋照合では、登録データを完全に復元できなくとも照合性能に影響は殆どなく、照合時の基準となる画像をアナログ情報として記録でも問題はないと考えてよい。またJPEG圧縮のような非可逆圧縮をかけてから記録しても不都合はないと考えてよい。
たとえば、圧縮されたデータ量が256B〜1KBとして、従来技術と本実施形態の比較をすると、図19に示す図表のようになる。本実施形態の照合手法では、紙指紋データをオフライン照合用に印刷にても、紙指紋データを、画像に埋め込まれるデジタルコードに重畳して印刷するようにしたので、見栄えが良く、また暗号化も可能であるし、デジタル署名もでき、しかも印刷スペースも少なくて済んだ。
1…画像処理システム、2…照合システム、3…画像入力端末、4…画像出力端末、5,5a…画像形成装置、6,6a…復号装置、7…データサーバ、9…ネットワーク、401…画像取得部、402…付加情報埋込処理部、408…画像出力処理部、409…画像データ格納部、420…パターンサイズ入力部、430…パターン減衰率設定部、440…埋込強度設定部、442…埋込強度入力部、444…最小埋込強度入力部、445…最大埋込強度入力部、446…埋込強度制御部、448…埋込強度微調整部、449…埋込強度調整部、450…付加情報パターン設定部、460…付加情報重畳処理部、490…基準情報登録部、601…画像取得部、602…付加情報復元処理部、607…再出力処理部、608…画像出力処理部、626…付加情報識別部、628…付加情報復号部、629…個体特徴量復元部、660…判定対象情報取得部、670…照合処理部