JP2008301281A - 画像処理装置およびその制御方法 - Google Patents

画像処理装置およびその制御方法 Download PDF

Info

Publication number
JP2008301281A
JP2008301281A JP2007146097A JP2007146097A JP2008301281A JP 2008301281 A JP2008301281 A JP 2008301281A JP 2007146097 A JP2007146097 A JP 2007146097A JP 2007146097 A JP2007146097 A JP 2007146097A JP 2008301281 A JP2008301281 A JP 2008301281A
Authority
JP
Japan
Prior art keywords
image data
image
reduced
watermark
character string
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007146097A
Other languages
English (en)
Other versions
JP2008301281A5 (ja
JP4861250B2 (ja
Inventor
Koji Harada
耕二 原田
Takami Eguchi
貴巳 江口
Masanori Yokoi
優智 横井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2007146097A priority Critical patent/JP4861250B2/ja
Priority to US12/128,221 priority patent/US8064636B2/en
Publication of JP2008301281A publication Critical patent/JP2008301281A/ja
Publication of JP2008301281A5 publication Critical patent/JP2008301281A5/ja
Application granted granted Critical
Publication of JP4861250B2 publication Critical patent/JP4861250B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Editing Of Facsimile Originals (AREA)

Abstract

【課題】行間透かしを用いた文書画像から埋め込まれた情報を高精度に抽出する。
【解決手段】文書画像を画像データとして入力する入力手段と、入力した画像データの水平画素数をW0、垂直画素数をH0としたとき、少なくとも水平画素数がW1(1<W1<W0)に縮小された縮小画像データを生成する画像縮小手段と、縮小画像データを垂直方向に走査して、平均文字高さを検出する検出手段と、検出された平均文字高さが予め設定された許容範囲内にある場合には縮小画像データを、許容範囲外にある場合には縮小画像データを平均文字高さと許容範囲に基づき垂直方向に変倍したデータを、透かし抽出対象画像データとして出力する縮小画像補正手段と、透かし抽出対象画像データを走査し透かし情報を抽出する透かし情報抽出手段と、を備える。
【選択図】図10

Description

本発明は、文書画像中の文字列の行間隔に基づき当該文書画像に埋め込まれた透かし情報を抽出する画像処理技術に関するものである。
文書画像に著作権や複写制御等の情報を持たせるため、非特許文献1の198ページ〜199ページの記載に示されるように、行間隔を利用して情報を埋め込む方法(以下、行間透かしと呼ぶ。)が知られている。図2は、行間透かしの概念を示す図である。行間透かしを用いた文書画像から埋め込まれた情報を抽出する場合には、まず当該文書画像内の文字列間の行間隔を求めることになる。行間隔を求めるため、一般的には文書画像に対して全走査を行いヒストグラムを求め、当該ヒストグラムから行間隔を導出する。そして、導出された行間隔と埋め込み時に使用した規則とに従って情報を抽出する。規則とは、例えば、図2に示すように、2値情報の「0」を埋め込みたい場合は行間隔U,Dに対しU>Dとなるよう設定することである。一方、2値情報の「1」を埋め込みたい場合は行間隔U,Dに対しU<Dとなるよう設定する。
松井甲子雄著 「電子透かしの基礎」 森北出版株式会社 1998年
しかしながら、上述の行間透かしを用いた文書画像から埋め込まれた情報を抽出する方法においては以下の問題点がある。すなわち、行間隔を測定するために、文書画像に対して全走査を行い、ヒストグラムを求める必要があり、情報抽出処理に時間がかかる。特に埋め込む情報が複製制御情報の場合、複写機内で複写制御情報を抽出し、抽出した情報から複写可能か否かの判断を行い、その後、複写処理を行うため、一枚の文書を複写する一連の処理にかなりの時間を有することになる。また、入力された文書画像の文字列方向と走査方向が傾いているとヒストグラムから行間隔を導出できない。そのため、文書画像を入力しなおすか、あるいは入力された文書画像に対し回転操作等の画像処理を行うなどの煩雑な操作が必要があった。また、入力された文書画像の文字の大きさ(解像度)などによっては情報抽出処理を実行できず、文書画像を入力しなおす必要があった。
上述の問題点の少なくとも1つを解決するため、本発明の画像処理装置は以下の構成を備える。すなわち、文書画像を入力し、当該文書画像中の文字列の行間隔から、埋め込まれた透かし情報を抽出する画像処理装置であって、文書画像を画像データとして入力する入力手段と、入力した前記画像データの第1の方向の画素数をW0、前記第1の方向と直交した第2の方向の画素数をH0としたとき、前記画像データから少なくとも前記第1の方向の画素数がW1(1<W1<W0)に縮小された縮小画像データを生成する画像縮小手段と、前記画像縮小手段で生成された前記縮小画像データを前記第2の方向に走査して、前記画像データにおける平均文字高さを検出する検出手段と、前記検出手段により検出された平均文字高さが予め設定された許容範囲内にある場合には、前記縮小画像データを透かし抽出対象画像データとして出力し、前記平均文字高さが前記許容範囲外にある場合には、前記縮小画像データを前記平均文字高さと前記許容範囲に基づき前記第2の方向に変倍し、変倍後の画像データを透かし抽出対象画像データとして出力する縮小画像補正手段と、前記縮小画像補正手段から出力された前記透かし抽出対象画像データを前記第2の方向に走査し、各文字列行間隔を検出し、透かし情報を抽出する透かし情報抽出手段と、を備える。
あるいは、文書画像を入力し、当該文書画像中の文字列の行間隔から、埋め込まれた透かし情報を抽出する画像処理装置であって、文書画像を画像データとして入力する入力手段と、入力した前記画像データの第1の方向の画素数をW0、前記第1の方向と直交した第2の方向の画素数をH0としたとき、前記画像データから少なくとも前記第1の方向の画素数がW1(1<W1<W0)に縮小された縮小画像データを生成する画像縮小手段と、前記画像縮小手段で生成された前記縮小画像データを前記第1の方向に走査して、前記画像データにおける文字列幅を検出する検出手段と、前記検出手段により検出された文字列幅が予め設定された許容範囲内にある場合には、前記縮小画像データを透かし抽出対象画像データとして出力し、前記文字列幅が前記許容範囲外にある場合には、前記文字列幅に基づいて決定された縮小率に基づいて前記画像データを前記画像縮小手段により縮小し得られたデータを透かし抽出対象画像データとして出力する縮小画像補正手段と、前記縮小画像補正手段から出力された前記透かし抽出対象画像データを前記第2の方向に走査し、各文字列行間隔を検出し、透かし情報を抽出する透かし情報抽出手段と、を備える。
上述の問題点の少なくとも1つを解決するため、本発明の画像処理装置の制御方法は以下の構成を備える。すなわち、文書画像を入力し、当該文書画像中の文字列の行間隔から、埋め込まれた透かし情報を抽出する画像処理装置の制御方法であって、文書画像を画像データとして入力する入力工程と、入力した前記画像データの第1の方向の画素数をW0、前記第1の方向と直交した第2の方向の画素数をH0としたとき、前記画像データから少なくとも前記第1の方向の画素数がW1(1<W1<W0)に縮小された縮小画像データを生成する画像縮小工程と、前記画像縮小工程で生成された前記縮小画像データを前記第2の方向に走査して、前記画像データにおける平均文字高さを検出する検出工程と、前記検出工程により検出された平均文字高さが予め設定された許容範囲内にある場合には、前記縮小画像データを透かし抽出対象画像データとして出力し、前記平均文字高さが前記許容範囲外にある場合には、前記縮小画像データを前記平均文字高さと前記許容範囲に基づき前記第2の方向に変倍し、変倍後の画像データを透かし抽出対象画像データとして出力する縮小画像補正工程と、前記縮小画像補正工程から出力された前記透かし抽出対象画像データを前記第2の方向に走査し、各文字列行間隔を検出し、透かし情報を抽出する透かし情報抽出工程と、を備える。
あるいは、文書画像を入力し、当該文書画像中の文字列の行間隔から、埋め込まれた透かし情報を抽出する画像処理装置の制御方法であって、文書画像を画像データとして入力する入力工程と、入力した前記画像データの第1の方向画素数をW0、前記第1の方向と直交した第2の方向の画素数をH0としたとき、前記画像データから少なくとも第1の方向の画素数がW1(1<W1<W0)に縮小された縮小画像データを生成する画像縮小工程と、前記画像縮小工程で生成された前記縮小画像データを前記第1の方向に走査して、前記画像データにおける文字列幅を検出する検出工程と、前記検出工程により検出された文字列幅が予め設定された許容範囲内にある場合には、前記縮小画像データを透かし抽出対象画像データとして出力し、前記文字列幅が前記許容範囲外にある場合には、前記文字列幅に基づいて決定された縮小率に基づいて前記画像データを再度前記画像縮小工程により縮小し得られたデータを透かし抽出対象画像データとして出力する縮小画像補正工程と、前記縮小画像補正工程から出力された前記透かし抽出対象画像データを前記第2の方向に走査し、各文字列行間隔を検出し、透かし情報を抽出する透かし情報抽出工程と、を備える。
本発明によれば、文書画像中の文字列の行間隔に基づいて文書画像に埋め込まれた透かし情報をより効率的に抽出可能とする技術を提供することができる。
以下に、図面を参照して、この発明の好適な実施の形態を詳しく説明する。なお、以下の実施の形態はあくまで例示であり、本発明の範囲を限定する趣旨のものではない。
(第1実施形態)
本発明に係る画像処理装置の第1実施形態として、紙の文書原稿を画像読取装置(スキャナ)で読み込み、読み込んだ文書画像データに対し透かし情報の抽出を行う画像処理装置を例に挙げて以下に説明する。
<装置構成>
図1は、第1実施形態における画像処理装置11の主要な機能構成を示すブロック図である。図1に示すように、画像処理装置11は、画像入力部101、画像縮小部102、情報抽出部103、サイズ判定部104、制御部110、操作部111から構成される。
画像入力部101は、上述の透かし情報の埋め込まれた文書画像に対応する画像データを入力する機能部である。具体的には、外部のスキャナにより読み取られ生成された紙の文書原稿に基づいた画像データをUSBなどの外部機器接続用インタフェースにより入力する。もちろん、イーサネット(登録商標)などのネットワークを介して画像データを入力するよう構成してもよい。
画像縮小部102は、画像入力部101により入力された画像データに対し、第1の方向(たとえば画像の水平方向)と、第1の方向と直交する第2の方向(たとえば画像の垂直方向)へそれぞれ縮小する機能部である。入力された画像データがビットマップ(ラスタ)形式である場合、一般的には、上述の第1および第2の方向は画像データを構成する画素の配列方向と一致する。なお、ここでは直交する2つの方向に縮小する構成であると説明したが、後述するように、1つの方向のみに縮小する構成としてもよい。
サイズ判定部104は、画像データ内に存在するオブジェクトのサイズが予め指定された範囲内であるか否かを判定する機能部である。具体的には、画像データを走査して得られる有意画素の連続数が、予め指定された連続数の範囲であるか否かを判定する。
情報抽出部103は、画像縮小部102により生成された縮小画像データから、透かし情報に対応するバイナリ(2値)情報を抽出する機能部である。具体的には、画像縮小部102により生成された縮小画像データに対し、有意画素の有無を検出することにより実行される。そして、有意画素が検出された部分を文字列領域として判定し、有意画素が検出されない領域を行間部分として判定する。そして、行間部分として判定された複数の行間それぞれに対応する長さ(連続する画素数)に基づいて、各行間に対応する2値(0または1)を決定する。なお、行間部分の長さと2値との対応や情報量(ビット数)などの、透かし情報の埋め込みアルゴリズムについては、予め情報抽出部103に設定されているものとする。
制御部110は、上述の各機能部が連係して動作するよう制御するための機能部である。また、操作部111はユーザからの指示を受け付けるための機能部である。なお、上述の各機能部の動作の詳細については後述する。
<透かし情報の埋め込まれた画像データ>
第1実施形態では、透かし情報の埋め込みアルゴリズムは以下の通りであるとして説明する。もちろん、文字列の行間隔に基づいて透かし情報を埋め込むものであれば、他のアルゴリズムであっても適用可能である。
図2は、透かし情報が埋め込まれた文書原稿を例示的に示す図である。図2においては、白色の用紙に黒色で文字が記録されている。また、複数の行からなる文字列のそれぞれの間隔(行間隔)についてU,Dの2種類を用いて、2値情報を埋め込んでいる。具体的には、連続する2つの行間(UおよびD:nは自然数)に対して、以下のように行間を設定する。
「0」を埋め込む場合: U>D
「1」を埋め込む場合: U<D
そして、当該透かし情報入り文書原稿は、電荷結合素子(CCD)などの光学センサを有するスキャナにより読み取られ、画像データIが生成される。ここでは、生成された文書画像データIは、紙原稿の文字部分が黒、背景部分が白である2値画像であるとして説明する。なお、以降では文字部分に対応する”黒画素”のことを”有意画素”と呼ぶこともある。
図3は、透かし情報の埋め込まれた2値画像データを例示的に示す図である。ここで、図3(a)は、横書きの文字原稿が正しい方向で記録された画像データを示している。一方、図3(b)と図3(c)とは傾きのある文書画像である。上述のように紙の文書原稿をスキャナにより読み取る際には、基準方向とのずれやユーザによる紙原稿配置のミスなどにより、図3(b)と図3(c)のような画像データが入力されることがある。
<装置の動作>
以下、画像処理装置11が、画像データIから透かし情報を抽出する動作をフローチャートを参照して詳細に説明する。
図10は、第1実施形態に係る画像処理装置11の動作フローチャートである。なお、以下のフローはたとえばユーザによる操作部111を介した画像読取指示をトリガに実行される。
ステップS1001では、画像入力部101は、透かし情報入り文書画像に対応する画像データIをスキャナから受信し、画像データIを画像縮小部102に供給する。ここでは、画像データIの水平方向画素数はW0、垂直方向画素数はH0であるとする。
ステップS1002では、画像縮小部102は、画像入力部101より供給された画像データIを水平方向と垂直方向へそれぞれ縮小し、水平方向の縮小画像データIsh、垂直方向の縮小画像データIsvを生成する。そして、縮小画像データIshおよび縮小画像データIsvを情報抽出部103に供給する。ここでは、第1の縮小画像データである縮小画像データIshは少なくとも水平方向画素数がW1(1<W1<W0)に縮小されたデータであるとする。そして、第2の縮小画像データである縮小画像データIsvは少なくとも垂直方向画素数がH1(1<H1<H0)に縮小されたデータであるとする。
図4は、画像データIを水平方向に縮小した縮小画像データIsh、および、垂直方向へ縮小した縮小画像データIsvの例を示す図である。なお、図4(a)は図3(a)の文書画像、図4(b)は図3(b)の文書画像、図4(c)は図3(c)の文書画像のそれぞれに基づいて生成した縮小画像データである。
なお、ここで、水平・垂直の2つの方向に対して縮小画像を生成するのは、図3(c)に示すように90度傾きのある画像データIが入力された場合に対応するためである。このような状況は、スキャナによる読み取りではしばしば発生する。そのため、あらかじめ画像データIの入力方向が保障されている場合は、文字列方向に対応する1方向のみに縮小を行うよう構成してもよい。
図4から、画像縮小部102による縮小により、文字列方向に縮小した縮小画像に対しては、複数の文字列が複数の有意画素の固まり(オブジェクト)として表現されることがわかる。以下、当該縮小画像の生成についてさらに詳しく説明する。
画像縮小部102が実行する縮小処理の具体的な計算手法としては、入力された画像データに対し単に一定周期での画素の間引きによる縮小が考えられる。しかし、文字列部分と行間部分とをより正確に識別するために、以下のようなバイリニア法を利用した計算を行うとよい。
バイリニア法では、画像データIの中の近接する4つの画素の画素値に基づいて、対応する縮小画像データの画素の画素値を算出する。この場合、4つの画素の少なくとも1つが黒である場合計算結果は中間調(グレー)となる(図5左)。具体的には、白を0黒を1として演算した結果が0より大きく1より小さい値となる。
行間部分には有意画素である黒画素は存在しないため、1つでも黒画素が存在する場合、当該近接する4つの画素の存在する部分は文字列領域であると推定できる。そのため、中間調として算出された部分を有意画素である黒へと変換させる(図5右)ことにより、文字列領域と行間領域とをより高精度に分割することができる。つまり、文字列領域には有意画素が存在しない場合がある(画数の少ない文字など)が、行間領域には有意画素は一般に存在することは無いことを利用しているのである。
なお、画像縮小部102による水平・垂直方向への縮小率は、オブジェクトが認識できる程度の大きさとなる縮小率であればよい。具体的な縮小率の値は予め指定した固定値としてもよいし、入力された画像データの付加データ(スキャナによる読取解像度情報など)に基づいて随時決定してもよい。また、ここでは縮小画像を生成するアルゴリズムの一例としてバイリニア法を適用したが、本発明はこれに限定されることはない。ニアレストレイバー、バイキュービックなど、種々の計算手法を利用して縮小可能である。
ステップS1003では、サイズ判定部104は、縮小画像データIshまたはIsvに基づいて、文字高さあるいは文字列間の距離(行間隔)を検出する。具体的には、縮小画像データIshまたはIsvに対して、ステップS1002で縮小した方向と直交する方向へ1走査を行うことにより実現される。つまり、縮小画像データIshに対しては垂直方向、縮小画像データIsvに対しては水平方向に走査する。なお、以降のステップでは、縮小画像データIshに対しては垂直方向に走査を行ったものとして説明する。
文字列間の距離(行間隔)の検出は具体的には、縮小画像における有意画素の固まりの大きさ検出を行う。さらに具体的には、検出された連続する有意画素部分(文字列部分に相当)、あるいは、連続する有意画素非検出の部分(行間に相当)の代表的距離を導出する。有意画素非検出の部分の代表的距離とは図2に示した距離UやDに相当し、有意画素非検出の連続画素数のことである。その際、最初の文字列(1行目)の長さ、あるいは、最初の行間隔部分(1行目と2行目との間)のみに基づいて決定してもよいし、複数行に対する平均値から導出するよう構成してもよい。つまり、平均文字高さを用いるようにしても良い。ここでは、平均文字高さを行間隔の代表的距離として決定するものとして説明する。
ステップS1004では、サイズ判定部104は、ステップS1003で決定した代表的距離が、予め設定された長さ(画素数)の範囲内(許容範囲内)であるか、当該許容範囲外(上限値よりも長いあるいは下限値よりも短い)であるかを判定する。許容範囲内である場合はステップS1005に、範囲外である場合はステップS1007に進む。ここでは、設定された範囲が10<L<30(画素)であるとする。
ステップS1007では、サイズ判定部104は、範囲の上限値(30)よりも長いか下限値(10)よりも短いかを判定する。上限値よりも長い場合、ステップS1008に進む。一方、下限値よりも短い場合、ステップS1010に進む。
ステップS1008では、サイズ判定部104は、ステップS1003で決定した代表的距離と範囲の上限値とに基づいて、予め設定された範囲内(つまり許容範囲内)に収まる垂直方向の縮小率を求める。例として、値Lが40(画素)であれば、25%(=10/40)〜75%(=30/40)の縮小率で縮小画像を垂直方向に縮小(変倍)する。なお、垂直方向の縮小時には、画像の鮮鋭化を目的として、ぼかし処理及び先鋭化処理を加えてもよい。そして、ステップS1009に進む。
ステップS1010では、サイズ判定部104は、ステップS1003で決定した代表的距離と範囲の下限値とに基づいて、予め設定された範囲内に収まる垂直方向の拡大率を求める。例として、値Lが5であれば、200%(=10/5)〜600%(=30/5)の拡大率で縮小画像を垂直方向に拡大(変倍)する。なお、垂直方向の拡大時には、画像の鮮鋭化を目的として、ぼかし処理及び先鋭化処理を加えてもよい。なお、ステップS1002におけるIsh画像生成時に、垂直方向に対して縮小を行っていた場合には、ステップS1002に戻り、再度適切な縮小率で縮小画像を再生成するよう構成してもよい。そして、ステップS1009に進む。
ステップS1009では、サイズ判定部104は、ステップS1008またはステップS1010において決定した縮小率に基づいて、ステップS1002で生成した縮小画像に対し、垂直方向に縮小あるいは拡大する。つまり、縮小画像補正手段として機能する。
ステップS1005では、情報抽出部103は、画像縮小部102より供給された縮小画像データ(透かし抽出対象画像データ)あるいは変倍後のデータを用いて各文字列領域間の長さ(各文字列行間隔)を計測する。ここでは、水平方向に縮小した縮小画像データIshに対して計測するものとする。具体的な計測方法は以下の通りである。
図6は、縮小画像データIshの拡大図である。まず、情報抽出部103は、縮小画像データIshに対し縮小方向(ここでは水平方向)と直交する方向(ここでは垂直方向)へ、走査を行うことにより有意画素の有無を検出する。そして、有意画素の有無が反転する位置を文字列領域を行間領域との境界として決定する。
たとえば、図6における矢印に沿って反転位置を検出した場合、x〜x10の各画素位置が検出されることになる。このとき、行間隔であるU、D、U、Dのそれぞれの長さは、U=x−x、D=x−x、U=x−x、D=x−xである(単位は画素(pix))。
前述のように、ステップS1002における縮小処理の結果、文字列領域が文字の並び方向に縮小されると同時に、中間調部分が有意画素に変換されている。そのため、文字列領域における有意画素(ここでは黒)の密度が結果的に高くなっている。その結果、情報抽出部103は、文字列領域と行間領域との境界をより高精度に検出可能であり、行間隔を高精度に計測可能である。
なお、上述の方法は、縮小画像データIshが図4(b)に示すよう多少傾いている場合においても有効である。図8は、図4(b)の縮小画像データIshに対する走査を例示的に示す図である。この場合、矢印に沿った行間隔の長さは、図6の場合とは異なる結果となる。具体的には、文字列の傾きθ(度)としたとき、長さが1/cosθ倍になる。ただし、各行間隔の相対的長さ関係は変化しない。
なお、上述のバイリニア法を利用した縮小画像データを利用する場合、一般的には1回の走査で十分である。しかし、より高精度に検出を行うときには、縮小した画像に対して、複数の走査を行い、複数回における平均値を行間隔としてもよい。また、縮小画像データを間引きにより生成した場合にも、複数回の走査は有効である。
図7は、縮小画像データIshに対し複数回の走査を実行する様子を例示的に示す図である。図7では、黒色オブジェクトで示される文字列部分が、より現実の縮小画像データに近いものとして示している。つまり、図6のような理想的な矩形オブジェクトではなく、非有意画素(白色画素)を含んだものとして示されている。そのため、走査位置によってオブジェクト間(行間隔)の計測値が微妙に異なることになる。
例えば、図中に示すように走査位置を3箇所(矢印(1)(2)(3))行った値がそれぞれ、
矢印(1): U=10[pix]、D=4[pix]、U=4[pix]、D=12[pix]
矢印(2): U= 8[pix]、D=5[pix]、U=6[pix]、D=10[pix]
矢印(3): U= 6[pix]、D=3[pix]、U=5[pix]、D= 8[pix]
であったとする。その場合、例えばそれぞれの長さの平均値である、
=8[pix]、D= 4[pix]、U=5[pix]、D=10[pix]
をオブジェクト間の距離(行間隔)と決定するとよい。
ステップS1006では、情報抽出部103は、ステップS1005で導出した行間隔に基づいて透かし情報を導出する。具体的には、情報抽出部103に予め設定された埋め込みアルゴリズムに対応させて透かし情報を算出する。例えば、図6では、U<D、U>Dであることから透かし情報は「10(2進)」として導出される。
ただし、ステップS1005で、図4(c)に示す縮小画像データIshに対して計測した場合、オブジェクト間の距離を計測することができない。そのため、ステップS1005で、透かし画像を抽出することができない。つまり、ステップS1001において、90度回転した状態で画像データIが入力されていたため、縮小画像データIshは一般的に黒色のべた画像となってしまっているからである。
ステップS1011では、制御部110は、ステップS1006において情報が抽出できたか否かを判定する。情報が抽出できたか否かの判断は、例えば、U,Dが計測できた場合は、情報が抽出できたとし、U,Dが計測できなかった場合は抽出ができなかったと判定する。あるいは、予め設定された埋め込みアルゴリズムで規定された値以外の値が検出された場合に情報が抽出できなかったとする。また、読み取り結果に対して、予め指定された誤検出/未検出の判定を行うことにより決定してもよい。
そして、情報が抽出できたと判定した場合はフローを終了する。一方、抽出できなかった場合は垂直方向の縮小画像データIsvを対象としてステップS1003以下のフローを再度実行するとよい。なお、情報抽出部103は、縮小画像データIsvに対し縮小方向(ここでは垂直方向)と直交する方向(ここでは水平方向)へ、走査を行うことにより有意画素の有無を検出することに注意する(図9)。なお、そのとき使用される、画像縮小部102および情報抽出部103が、それぞれ、第2の画像縮小手段および第2の透かし情報抽出手段となる。さらに、サイズ判定部104が第2の検出手段および第2の縮小画像補正手段となる。また、第2の縮小画像データに基づいて第2の透かし抽出対象画像データが生成される。
以上のような動作フローを経て、画像処理装置11は、画像データIから透かし情報を抽出する。
なお、上述の説明においては、図3に示したパターンの文書画像データであるとして説明した。つまり、ほぼ正常な方向か90度回転入力される文書画像データであるとした。これらに加え、上下あるいは左右逆に入力される場合は、図6〜図9に示した走査方向に加え逆方向の走査も実行するよう構成するとよい。さらに、そのような状況が想定される場合には、透かし情報の埋め込みアルゴリズムとして読取開始方向に依存しないよう構成したアルゴリズムを用いることも好適である。
例えば、埋め込む情報が「101(2進)」や「11010(2進)」で、スタートビットを「0」、ストップビットを「11」とした場合、情報は、「010111(2進)」、「01101011(2進)」となる。さらに、どちらからでも読み取りが可能なように「010111000101(2進)」、「0110101100101001(2進)」のようにした情報を埋め込めば、上から下の走査1回のみで情報の抽出が可能である。なお、上記情報の後半部分がビット反転しているのは、判定条件が
「0」を埋め込む場合: U>D
「1」を埋め込む場合: U<D
の場合、反対方向から読むとUとDの順序が反対となり、ビット反転するためである。
また、上記とは別に、スタートビット、ストップビットを同じ「0」としておけば、埋め込む情報が「101(2進)」の場合は「001010(2進)」となる。反対方向から読むと「101011(2進)」で、スタートビットが「1」となっている。よって、情報部分を反転させ「010100(2進)」さらに反対方向に並べかえることにより「001010(2進)」となり、抽出することができる。
なお、第1実施形態では、図2に示したような、透かし情報を1組(2つ)の行間隔の相対的長さに対応させて埋め込むアルゴリズムを用いて説明を行った。しかし、最初に述べたように本発明は、この埋め込みアルゴリズムに限定されることない。例えば、最初の行間隔(文字列の1行目と2行目との間)を基準として、2つ目(文字列の2行目と3行目との間)以降の行間隔を最初の行間隔との相対的長さに対応させて情報を埋め込むアルゴリズムなどでもよい。また、相対的行間隔による2値情報ではなく、行間隔に基づくより多値の情報を埋め込むようにしてもよい。つまり、行間隔を使用した任意の埋め込みアルゴリズム全般に対し有効な手法である。
以上説明したように、第1実施形態に係る画像処理装置によれば、より高精度にあるいはより高速に、透かし情報を抽出することが可能となる。また、入力された画像データが傾きを有していた場合であっても、煩雑な操作を行うことなく情報を抽出可能となる。
(変形例)
一般的に画像縮小部102による縮小率は小さく設定される(例えば5%)。そのため、入力された画像データIにおける文字列の幅(横方向の長さ)が短い場合、過度に縮小され、情報抽出部103による情報抽出の精度が低下し得る。そのため、縮小画像データ内のオブジェクトについて、画像縮小部102による縮小方向の大きさを検出することも有用である。
以下では、縮小画像データ内のオブジェクトの画像縮小部102による縮小方向の大きさに基づいて、より好適な縮小画像データを生成する構成について説明する。
<装置の動作>
図12は、変形例に係る画像処理装置11の動作フローチャートである。以下のフローはたとえばユーザによる操作部111を介した画像読取指示をトリガに実行される。なお、ステップS1201、S1202、S1205、S1206、および、S1211については、上述の第1実施形態(図10)における対応するステップと同様であるので説明は省略する。
ステップS1203では、サイズ判定部104は、縮小画像データIshまたはIsvに基づいて、文字列幅(横の長さ)を検出する。具体的には、縮小画像データIshまたはIsvに対して、ステップS1002で縮小した方向へ1走査を行うことにより実現される。つまり、縮小画像データIshに対しては水平方向、縮小画像データIsvに対しては垂直方向に走査する。なお、以降のステップでは、縮小画像データIshに対しては水平方向に走査を行ったものとして説明する。
文字列幅(横の長さ)の検出は具体的には、縮小画像における有意画素の固まりの大きさ検出を行う。さらに具体的には、検出された連続する有意画素部分(文字列部分に相当)の代表的距離を導出する。その際、最初の文字列(1行目)の幅、のみに基づいて決定してもよいし、複数行に対する幅の平均値から導出するよう構成してもよい。
ステップS1204では、サイズ判定部104は、ステップS1003で決定した代表的距離が、予め設定された長さ(画素数)の範囲内であるか、当該範囲外(上限値よりも長いあるいは下限値よりも短い)であるかを判定する。範囲内である場合はステップS1205に、範囲外である場合はステップS1207に進む。ここでは、設定された範囲が10<L<30(画素)であるとする。
ステップS1207では、サイズ判定部104は、範囲の上限値(30)よりも長いか下限値(10)よりも短いかを判定する。上限値よりも長い場合、ステップS1208に進む。一方、下限値よりも短い場合、ステップS1210に進む。
ステップS1208では、サイズ判定部104は、ステップS1203で決定した代表的距離と範囲の上限値とに基づいて、予め設定された範囲内に収まるような縮小画像データIshに対する水平方向の縮小率を求める。例として、値Lが40(画素)であれば、25%(=10/40)〜75%(=30/40)の縮小率で縮小画像データIshを水平方向に再縮小する。そして、ステップS1209に進む。
ステップS1210では、サイズ判定部104は、ステップS1203で決定した代表的距離と範囲の下限値とに基づいて、予め設定された範囲内に収まる画像データIに対する水平方向の縮小率を求める。つまり、縮小オブジェクトの幅が予め設定された範囲内に収まるような、画像縮小部102による縮小率の値を導出する。
例として、画像縮小部102による縮小率の初期値が5%である場合を考える。値Lが5であれば、Ishが200%(=10/5)〜600%(=30/5)となっていれば良いことから、画像縮小部102による縮小率の値を2倍〜6倍とする。つまり、画像縮小部102の縮小率を10%〜30%の間の値として導出し、導出した値を画像縮小部102に設定する。そして、ステップS1002に進む。
つまり、縮小画像データIshに対し拡大処理を行うのではなく、ステップS1201で入力された画像データIに対して再度縮小を行う点が上述の第1実施形態の場合と異なる。このような処理により、画像拡大処理に伴う画質劣化を防止することが可能となる。
そして、このようにして生成された縮小画像データをIshから透かし情報を抽出することにより、より精度の高い情報抽出が可能となる。
(第2実施形態)
第2実施形態では、スキャナなどで読み取った文書画像をコンピュータ(PC)上で動作するプログラムにより、透かし情報の抽出を実行する形態について説明する。
<機器構成>
図11は、PCの内部構成を示す図である。
同図において、1101はCPUで、RAM1102やROM1103に格納されているプログラムやデータに基づいて、図1に示した、機能ブロックの各部を実現する。
1102はRAMで、外部記憶装置1108からロードされたプログラムやデータ、他のコンピュータシステム1114からI/F(インターフェース)1115を介してダウンロードしたプログラムやデータを一時的に記憶するエリアを備える。さらに、CPU1101が各種の処理を行うために必要とするエリアをも備える。
1103はROMで、コンピュータの機能プログラムや設定データなどを記憶する。1104はディスプレイ制御装置で、画像や文字等をディスプレイ1105に表示させるための制御処理を行う。1105はディスプレイで、画像や文字などを表示する。なお、ディスプレイとしてはCRTや液晶画面などが適用可能である。
1106は操作入力デバイスで、キーボードやマウスなど、CPU1101に各種の指示を入力することのできるデバイスにより構成されている。1107は操作入力デバイス1106を介して入力された各種の指示等をCPU1101に通知するためのI/Oである。
1108はハードディスクなどの大容量情報記憶装置として機能する外部記憶装置で、OS(オペレーティングシステム)や各種アプリケーションプログラム、さらに、入出力原稿画像などを記憶する。外部記憶装置1108への情報の書き込みや外部記憶装置1108からの情報の読み出しはI/O1109を介して行われる。
1110は文書や画像を出力する為のプリンタで、出力データはI/O1111を介してRAM1102、もしくは外部記憶装置1108から送られる。なお、文書や画像を出力する為のプリンタとしては、例えばインクジェットプリンタ、レーザビームプリンタ、熱転写型プリンタ、ドットインパクトプリンタなどが挙げられる。
1112は文書や画像を読み取るためのスキャナで、入力データはI/O1113を介してRAM1102、もしくは外部記憶装置1108に送られる。
1116は、CPU1101、ROM1103、RAM1102、I/O1111、I/O1109、ディスプレイ制御装置1104、I/F1115、I/O1107、I/O1113を繋ぐバスである。
<装置の動作>
外部記憶装置1108には、アプリケーションプログラムとして、第1実施形態で説明した各機能部および動作フローを実現するための、画像処理プログラムが記憶されている。ユーザによる、操作入力デバイス1106を介した、当該画像処理プログラムの起動指示に基づき、第1実施形態で説明した動作フローが開始される。なお、詳細動作は第1実施形態とほぼ同様であるため省略する。
(他の実施形態)
以上、本発明の実施形態について詳述したが、本発明は、複数の機器から構成されるシステムに適用しても良いし、また、一つの機器からなる装置に適用しても良い。
なお、本発明は、前述した実施形態の機能を実現するプログラムを、システム或いは装置に直接或いは遠隔から供給し、そのシステム或いは装置が、供給されたプログラムコードを読み出して実行することによっても達成される。従って、本発明の機能処理をコンピュータで実現するために、コンピュータにインストールされるプログラムコード自体も本発明の技術的範囲に含まれる。
その場合、プログラムの機能を有していれば、オブジェクトコード、インタプリタにより実行されるプログラム、OSに供給するスクリプトデータ等、プログラムの形態を問わない。
プログラムを供給するための記録媒体としては、例えば、フロッピー(登録商標)ディスク、ハードディスク、光ディスク(CD、DVD)、光磁気ディスク、磁気テープ、不揮発性のメモリカード、ROMなどがある。
また、コンピュータが、読み出したプログラムを実行することによって、前述した実施形態の機能が実現される。その他、そのプログラムの指示に基づき、コンピュータ上で稼動しているOSなどが、実際の処理の一部または全部を行い、その処理によっても前述した実施形態の機能が実現され得る。
さらに、記録媒体から読み出されたプログラムが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれる。その後、そのプログラムの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によっても前述した実施形態の機能が実現される。
第1実施形態における画像処理装置11の主要な機能構成を示すブロック図である。 透かし情報が埋め込まれた文書原稿を例示的に示す図である。 透かし情報の埋め込まれた2値画像データを例示的に示す図である。 画像データIを水平方向に縮小した縮小画像データIsh、および、垂直方向へ縮小した縮小画像データIsvの例を示す図である。 中間調として算出された部分の有意画素である黒への変換を例示的に示す図である。 縮小画像データIshの拡大図である。 縮小画像データIshに対し複数回の走査を実行する様子を例示的に示す図である。 図4(b)の縮小画像データIshに対する走査を例示的に示す図である。 縮小画像データIsvに対し水平方向へ走査を行う様子を例示的に示す図である。 第1実施形態に係る画像処理装置11の動作フローチャートである。 PCの内部構成を示す図である。 変形例に係る画像処理装置11の動作フローチャートである。
符号の説明
11 画像処理装置
101 画像入力部
102 画像縮小部
103 情報抽出部
104 サイズ判定部
110 制御部
111 操作部

Claims (7)

  1. 文書画像を入力し、当該文書画像中の文字列の行間隔から、埋め込まれた透かし情報を抽出する画像処理装置であって、
    文書画像を画像データとして入力する入力手段と、
    入力した前記画像データの第1の方向の画素数をW0、前記第1の方向と直交した第2の方向の画素数をH0としたとき、前記画像データから少なくとも前記第1の方向の画素数がW1(1<W1<W0)に縮小された縮小画像データを生成する画像縮小手段と、
    前記画像縮小手段で生成された前記縮小画像データを前記第2の方向に走査して、前記画像データにおける平均文字高さを検出する検出手段と、
    前記検出手段により検出された平均文字高さが予め設定された許容範囲内にある場合には、前記縮小画像データを透かし抽出対象画像データとして出力し、前記平均文字高さが前記許容範囲外にある場合には、前記縮小画像データを前記平均文字高さと前記許容範囲に基づき前記第2の方向に変倍し、変倍後の画像データを透かし抽出対象画像データとして出力する縮小画像補正手段と、
    前記縮小画像補正手段から出力された前記透かし抽出対象画像データを前記第2の方向に走査し、各文字列行間隔を検出し、透かし情報を抽出する透かし情報抽出手段と、
    を備えることを特徴とする画像処理装置。
  2. 更に、
    前記情報抽出手段で有効な文字列行間隔が検出されなかった場合、前記画像データから少なくとも前記第2の方向の画素数がH1(1<H1<H0)に縮小された第2の縮小画像データを生成する第2の画像縮小手段と、
    前記第2の画像縮小手段で生成された前記第2の縮小画像データを前記第1の方向に走査して、前記画像データにおける平均文字高さを検出する第2の検出手段と、
    前記第2の検出手段により検出された平均文字高さが前記許容範囲内にある場合には、前記第2の縮小画像データを第2の透かし抽出対象画像データとして出力し、前記平均文字高さが前記許容範囲外にある場合には、前記第2の縮小画像データを前記平均文字高さと前記許容範囲に基づき前記第1の方向に変倍し、変倍後の画像データを第2の透かし抽出対象画像データとして出力する第2の縮小画像補正手段と、
    前記第2の縮小画像補正手段から出力された前記第2の透かし抽出対象画像データを前記第1の方向に走査し、各文字列行間隔を検出し、透かし情報を抽出する第2の透かし情報抽出手段と、
    を備えることを特徴とする請求項1に記載の画像処理装置。
  3. 文書画像を入力し、当該文書画像中の文字列の行間隔から、埋め込まれた透かし情報を抽出する画像処理装置であって、
    文書画像を画像データとして入力する入力手段と、
    入力した前記画像データの第1の方向の画素数をW0、前記第1の方向と直交した第2の方向の画素数をH0としたとき、前記画像データから少なくとも前記第1の方向の画素数がW1(1<W1<W0)に縮小された縮小画像データを生成する画像縮小手段と、
    前記画像縮小手段で生成された前記縮小画像データを前記第1の方向に走査して、前記画像データにおける文字列幅を検出する検出手段と、
    前記検出手段により検出された文字列幅が予め設定された許容範囲内にある場合には、前記縮小画像データを透かし抽出対象画像データとして出力し、前記文字列幅が前記許容範囲外にある場合には、前記文字列幅に基づいて決定された縮小率に基づいて前記画像データを前記画像縮小手段により縮小し得られたデータを透かし抽出対象画像データとして出力する縮小画像補正手段と、
    前記縮小画像補正手段から出力された前記透かし抽出対象画像データを前記第2の方向に走査し、各文字列行間隔を検出し、透かし情報を抽出する透かし情報抽出手段と、
    を備えることを特徴とする画像処理装置。
  4. 更に、
    前記情報抽出手段で有効な文字列行間隔が検出されなかった場合、前記画像データから少なくとも前記第2の方向の画素数がH1(1<H1<H0)に縮小された第2の縮小画像データを生成する第2の画像縮小手段と、
    前記第2の画像縮小手段で生成された前記第2の縮小画像データを前記第1の方向に走査して、前記画像データにおける文字列幅を検出する第2の検出手段と、

    前記第2の検出手段により検出された文字列幅が前記許容範囲内にある場合には、前記第2の縮小画像データを第2の透かし抽出対象画像データとして出力し、前記文字列幅が前記許容範囲外にある場合には、前記文字列幅に基づいて決定された縮小率に基づいて前記画像データを前記第2の画像縮小手段により縮小し得られたデータを第2の透かし抽出対象画像データとして出力する第2の縮小画像補正手段と、
    前記第2の縮小画像補正手段から出力された前記第2の透かし抽出対象画像データを前記第1の方向に走査し、各文字列行間隔を検出し、透かし情報を抽出する第2の透かし情報抽出手段と、
    を備えることを特徴とする請求項3に記載の画像処理装置。
  5. 文書画像を入力し、当該文書画像中の文字列の行間隔から、埋め込まれた透かし情報を抽出する画像処理装置の制御方法であって、
    文書画像を画像データとして入力する入力工程と、
    入力した前記画像データの第1の方向の画素数をW0、前記第1の方向と直交した第2の方向の画素数をH0としたとき、前記画像データから少なくとも前記第1の方向の画素数がW1(1<W1<W0)に縮小された縮小画像データを生成する画像縮小工程と、
    前記画像縮小工程で生成された前記縮小画像データを前記第2の方向に走査して、前記画像データにおける平均文字高さを検出する検出工程と、
    前記検出工程により検出された平均文字高さが予め設定された許容範囲内にある場合には、前記縮小画像データを透かし抽出対象画像データとして出力し、前記平均文字高さが前記許容範囲外にある場合には、前記縮小画像データを前記平均文字高さと前記許容範囲に基づき前記第2の方向に変倍し、変倍後の画像データを透かし抽出対象画像データとして出力する縮小画像補正工程と、
    前記縮小画像補正工程から出力された前記透かし抽出対象画像データを前記第2の方向に走査し、各文字列行間隔を検出し、透かし情報を抽出する透かし情報抽出工程と、
    を備えることを特徴とする画像処理装置の制御方法。
  6. 文書画像を入力し、当該文書画像中の文字列の行間隔から、埋め込まれた透かし情報を抽出する画像処理装置の制御方法であって、
    文書画像を画像データとして入力する入力工程と、
    入力した前記画像データの第1の方向の画素数をW0、前記第1の方向と直交した第2の方向の画素数をH0としたとき、前記画像データから少なくとも前記第1の方向の画素数がW1(1<W1<W0)に縮小された縮小画像データを生成する画像縮小工程と、
    前記画像縮小工程で生成された前記縮小画像データを前記第1の方向に走査して、前記画像データにおける文字列幅を検出する検出工程と、
    前記検出工程により検出された文字列幅が予め設定された許容範囲内にある場合には、前記縮小画像データを透かし抽出対象画像データとして出力し、前記文字列幅が前記許容範囲外にある場合には、前記文字列幅に基づいて決定された縮小率に基づいて前記画像データを再び前記画像縮小工程により縮小し、得られたデータを透かし抽出対象画像データとして出力する、縮小画像補正工程と、
    前記縮小画像補正工程から出力された前記透かし抽出対象画像データを前記第2の方向に走査し、各文字列行間隔を検出し、透かし情報を抽出する透かし情報抽出工程と、
    を備えることを特徴とする画像処理装置の制御方法。
  7. 請求項5または請求項6に記載の画像処理装置の制御方法の各工程をコンピュータに実行させるためのプログラム。
JP2007146097A 2007-05-31 2007-05-31 画像処理装置およびその制御方法 Expired - Fee Related JP4861250B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2007146097A JP4861250B2 (ja) 2007-05-31 2007-05-31 画像処理装置およびその制御方法
US12/128,221 US8064636B2 (en) 2007-05-31 2008-05-28 Image processing apparatus and method of controlling the same

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007146097A JP4861250B2 (ja) 2007-05-31 2007-05-31 画像処理装置およびその制御方法

Publications (3)

Publication Number Publication Date
JP2008301281A true JP2008301281A (ja) 2008-12-11
JP2008301281A5 JP2008301281A5 (ja) 2010-02-25
JP4861250B2 JP4861250B2 (ja) 2012-01-25

Family

ID=40174348

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007146097A Expired - Fee Related JP4861250B2 (ja) 2007-05-31 2007-05-31 画像処理装置およびその制御方法

Country Status (1)

Country Link
JP (1) JP4861250B2 (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07222000A (ja) * 1993-12-20 1995-08-18 At & T Corp ドキュメントコピー防止方法
JP2006345017A (ja) * 2005-06-07 2006-12-21 Ricoh Co Ltd 画像処理方法および画像処理装置および画像処理プログラムおよび記録媒体

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07222000A (ja) * 1993-12-20 1995-08-18 At & T Corp ドキュメントコピー防止方法
JP2006345017A (ja) * 2005-06-07 2006-12-21 Ricoh Co Ltd 画像処理方法および画像処理装置および画像処理プログラムおよび記録媒体

Also Published As

Publication number Publication date
JP4861250B2 (ja) 2012-01-25

Similar Documents

Publication Publication Date Title
JP4310288B2 (ja) 画像処理装置及びその方法、プログラム並びに記憶媒体
US7106884B2 (en) Digital watermark embedding apparatus for document, digital watermark extraction apparatus for document, and their control method
JP4555212B2 (ja) 透かし情報埋め込み装置,透かし情報埋め込み方法,およびコンピュータプログラム
JP2006050551A (ja) 画像処理装置及びその方法、並びにプログラム及び記憶媒体
JP2009071626A (ja) 画像処理装置、画像処理方法、画像処理プログラム、並びに、記録媒体
US8064636B2 (en) Image processing apparatus and method of controlling the same
US7209572B2 (en) Digital watermark embedding apparatus, digital watermark extraction apparatus, and methods thereof
US8059859B2 (en) Image processing apparatus and method of controlling the same
JP3980983B2 (ja) 透かし情報埋め込み方法,透かし情報検出方法,透かし情報埋め込み装置,及び,透かし情報検出装置
JP2002199206A (ja) メッセージ埋込並びに抽出方法、装置および媒体
JP4140519B2 (ja) 画像処理装置、プログラムおよび記録媒体
JP2000011167A (ja) 勾配を基にした画素補間方法及び装置
JP5111242B2 (ja) 画像処理装置及び方法
JP2006237858A (ja) 画像処理装置、画像処理方法、その方法をコンピュータに実行させるプログラム、および記録媒体
JP4861250B2 (ja) 画像処理装置およびその制御方法
JP4861251B2 (ja) 画像処理装置およびその制御方法
JP4146047B2 (ja) 画像の傾き検知方法及び文書画像処理装置
US7969618B2 (en) Image forming apparatus, image forming system, computer readable recording medium, and image forming method
JP4789867B2 (ja) 画像処理装置およびその制御方法
JP2009010937A (ja) 画像処理装置およびその制御方法
JP4324058B2 (ja) 画像処理装置及びその方法
JP2008301284A (ja) 画像処理装置およびその制御方法
JP2008301283A (ja) 画像処理装置およびその制御方法
JP2010103862A (ja) 文書処理装置および文書処理方法
JP2006333123A (ja) 画像処理装置、画像処理方法、および画像処理プログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100108

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100108

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110613

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110715

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110912

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111007

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111104

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141111

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees