JP2009206658A - 画像処理方法、画像処理装置、画像形成装置、プログラム及び記憶媒体 - Google Patents

画像処理方法、画像処理装置、画像形成装置、プログラム及び記憶媒体 Download PDF

Info

Publication number
JP2009206658A
JP2009206658A JP2008045116A JP2008045116A JP2009206658A JP 2009206658 A JP2009206658 A JP 2009206658A JP 2008045116 A JP2008045116 A JP 2008045116A JP 2008045116 A JP2008045116 A JP 2008045116A JP 2009206658 A JP2009206658 A JP 2009206658A
Authority
JP
Japan
Prior art keywords
document
image
registered
conversion coefficient
processing unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008045116A
Other languages
English (en)
Other versions
JP4588771B2 (ja
Inventor
Hitoshi Hirohata
仁志 廣畑
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2008045116A priority Critical patent/JP4588771B2/ja
Priority to CN2009101183032A priority patent/CN101520846B/zh
Priority to US12/392,814 priority patent/US7986839B2/en
Publication of JP2009206658A publication Critical patent/JP2009206658A/ja
Application granted granted Critical
Publication of JP4588771B2 publication Critical patent/JP4588771B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/40Document-oriented image-based pattern recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/757Matching configurations of points or features

Abstract

【課題】帳票書類や申請書類など、決まったフォーマットを持つ書類がオリジナルのサイズより変更されても、オリジナルのサイズに容易に戻すことのできる画像処理装置を実現する。
【解決手段】画像処理装置では、原稿が読み取られると、文書照合処理部2において、登録原稿との類似性を判断し、登録原稿に類似している場合は、さらに変倍処理(サイズ変更)の有無を判断し、変倍処理が成されている場合は、編集処理部4が、サイズを類似する登録原稿と同じサイズに戻す処理を行う。
【選択図】図1

Description

本発明は、フォーマットを持つ画像の画像データを処理する画像処理方法、画像処理装置、画像形成装置、プログラム及び記憶媒体に関するものである。
帳簿や伝票等の帳票書類、及び各種申請書類などは、従来、紙に印字されたフォーマット用紙に、必要事項を書き込むことで作成されていいたが、近年の情報の電子化により、電子データのフォーマットに、コンピュータを用いて必要事項を入力して作成するものが増えてきている。また、印字されたフォーマットに書き込んだ紙ベースの書類を、スキャナ等で読み取って電子データとし、記録媒体に保存することも行われている。以下、本明細書においては、画像を現す電子データを画像データと総称する。
一方、従来から、画像同士の類似性を判定するための文書照合技術が知られており、この文書照合技術は画像データの処理において種々利用されている。画像データ同士の類似性の判定には、例えば、OCR(Optical Character Reader)などで画像からキーワードを抽出し、キーワードによるマッチングを行う方法や、対象画像を罫線のある帳票画像に限定し、罫線の特徴によるマッチングを行う方法(特許文献1参照などが知られている。
また、特許文献2には、入力文書の特徴からデスクリプタを生成し、このデスクリプタと、デスクリプタを記録しデスクリプタが生成された特徴を含む文書のリストを指し示すデスクリプタデータベースとを用いて、入力文書と文書データベース中の文書とのマッチングを行う技術が開示されている。デスクリプタは、文書のデジタル化により生じる歪みや、入力文書と文書データベース中の整合する文書との間の差異に対して不変となるように選ばれる。
この技術では、デスクリプタデータベースがスキャンされるときに、文書データベース中の各文書に対する投票を累積し、最高得票数の1文書または得票数がある閾値を超えた文書を登録文書或いはこれに類似するものとして抽出するようになっている。
さらに、特許文献3には、デジタル画像から複数の特徴点を抽出し、抽出した各特徴点に対して局所的な特徴点の集合を決定し、決定した各集合から特徴点の部分集合を選択し、選択した各部分集合を特徴付ける量として、部分集合中の特徴点の複数の組み合わせに基づいて、幾何学的変換に対する不変量をそれぞれ求め、求めた各不変量を組み合わせて特徴量を計算し、計算した特徴量を有するデータベース中の文書画像に投票することにより、上記デジタル画像に対応する文書画像を検索する技術が開示されている。
特開平8−255236号公報(1996年10月1日公開) 特開平7−282088号公報(1995年10月27日公開) 国際公開第2006/092957号パンフレット(2006年9月8日公開) 中居 友弘、黄瀬 浩一、岩村 雅一:「複比の投票に基づく文書画像検索と射影歪み補正」、画像の認識・理解シンポジウム(MIRU2005)(情報処理学会 コンピュータビジョンとイメージメディア研究会主催)予稿集、538−545頁
ところで、帳票書類や申請書類などが電子化されることで、ユーザはそのサイズを自由に変更して使用することが可能となる。例えば、オリジナルのサイズがA4であった書類をB5に縮小して使用したり、逆にB4に拡大して使用したりすることが自由に行える。特に、フォーマットが電子データで配布される場合、その自由度は高い。
しかしながら、オリジナルよりサイズ変更された書類は、紙ベースで保存する場合、同じフォーマットを持つ他の書類と整合がとれず、整合させるにはオリジナルのサイズに戻す作業が必要となる。データ化してファイリング保存する場合にも、サイズを揃えて保存しようとすると、サイズに確認し、変更されている場合は、オリジナルのサイズに戻す作業が必要となる。
また、データ化してファイリング保存した場合、保存した書類を読み出し、これを編集して新たな書類を作成することが行われる。しかしながら、読み出した書類がサイズ変更されていると、新たに作成した書類のサイズもオリジナルから変更されたものとなる。そのため、これをそのままプリントアウトすると、ユーザが予想したサイズとは異なるサイズにて出力されることとなり、この場合も、オリジナルのサイズに戻す作業が必要となる。
このように、従来、決まったフォーマットを持つ書類においてサイズ変更がなされていると、使い勝手が悪く、効率的でない場合がある。
本発明は、上記の問題点に鑑みてなされたものであり、帳票書類や申請書類など、決まったフォーマットを持つ書類がオリジナルのサイズより変更されていた場合、オリジナルのサイズに戻すことのできる画像処理方法、画像処理装置、画像形成装置、プログラム及び記憶媒体の提供を目的としている。
本発明の画像処理装置は、上記課題を解決するために、照合対象原稿の画像データより抽出した画像の特徴量と、既に登録されている登録原稿の画像の特徴量とを比較して、上記照合対象原稿の画像が登録原稿の画像に類似するか否かの判定処理を行う類似度判定処理部を備える画像処理装置であって、前記類似度判定処理部にて登録原稿に類似すると判定された照合対象原稿に対し、類似する登録原稿に対して変倍されているか否かを判断し、変倍されている場合は前記照合対象原稿を類似する登録原稿のサイズに変換する変換係数を算出する変換係数算出部を備えることを特徴としている。
上記構成によれば、変換係数算出部が、類似度判定処理部にて登録原稿に類似すると判定された照合対象原稿に対し、類似する登録原稿に対して変倍されているか否かを判断し、変倍されている場合は、前記照合対象原稿を類似する登録原稿のサイズに変換する変換係数を算出するようになっている。
したがって、照合対象原稿のサイズが、オリジナルサイズから変更されていた場合、算出された変換係数を用いて、照合対象原稿の画像データを変換処理することで、オリジナルサイズに戻すことが可能となる。
これにより、例えば、帳票書類や申請書類など、本来、同じサイズにて保管されることが望ましい原稿のサイズが変更されていたとしても、画像処理装置にて照合させることで、オリジナルサイズに揃えることが可能となり、書類を紙ベース或いは電子化して保管する場合や、保管したデータを再利用する場合の利便性を向上させることができる。
なお、画像処理装置に入力される原稿の画像データは、例えば、スキャナにて原稿を読み取ることにより得られた画像データ、あるいは電子データのフォーマットに、コンピュータ(ソフトウェア)を用いて必要事項を入力して作成される電子データである。すなわち、例えば、紙に印刷されあるいは記載された画像を電子化したもの、および電子データとして直接作成されたもの(電子申請書など)である。
本発明の画像処理装置においては、さらに、前記変換係数算出部にて算出された変換係数を用いて、前記照合対象原稿が類似する登録原稿のサイズとなるように、前記照合対象原稿の画像データを変換処理する変換処理部を備える構成とすることが好ましい。
これによれば、変換処理部が、算出された変換係数を用いて照合対象原稿をオリジナルサイズに変換する。したがって、画像処理装置より出力される照合対象原稿の画像データがオリジナルサイズのものとなる。
本発明の画像処理装置においては、さらに、前記照合対象原稿を類似する登録原稿のサイズへと変換し得るように、前記変換係数算出部にて算出された変換係数を、前記照合対象原稿の画像データに付随する情報として付加する情報付加処理部を備える構成とすることもできる。
これによれば、情報付加処理部が、算出された変換係数を照合対象原稿の画像データに付随する情報として付加する。したがって、画像処理装置より出力される照合対象原稿の画像データは、変倍されたままのサイズのままとなるが、付加された変換係数を用いて、いつでもオリジナルサイズに戻すことが可能なものとなる。
本発明の画像処理装置においては、さらに、前記変換係数算出部にて算出された変換係数を用いて、前記照合対象原稿の画像データを変換処理する変換処理部と、前記変換係数算出部にて算出された変換係数を、前記照合対象原稿の画像データに付随する情報として付加する情報付加処理部とを備え、前記変換処理部による処理と前記情報付加処理部による処理とを選択可能な構成とすることもできる。
これによれば、上記した変換処理部による変換処理と、情報付加処理部における情報付加処理とを選択できるので、オリジナルサイズに戻す対応の自由度が上がり、利便性をさらに向上させることができる。
本発明の画像処理装置においては、さらに、上記特徴量は、画像から抽出された複数の特徴点に基づいて特徴点毎に算出されており、前記類似度判定処理部が、特徴量が一致する照合対象原稿の特徴点と登録原稿の特徴点との位置関係に基づいて、変倍されているか否かの判断及び変換係数の算出を行い、前記変換係数算出部を兼ねる構成とすることもできる。
これによれば、前記類似度判定処理部が、特徴量が一致する照合対象原稿の特徴点と登録原稿の特徴点との位置関係に基づいて、変倍の有無の判断、並びに変換係数の算出を行う。
変換係数算出部は、例えば、照合対象原稿の画像を読み取る際に、原稿サイズを検出したり、ユーザに入力させたりし、これと、登録原稿のサイズとを比較するように構成することもできる。しかしながら、このような構成の場合、原稿サイズとしてはA4やB5等の規定サイズに限られる。
これに対し、上記構成のように、特徴量が一致する照合対象原稿の特徴点と登録原稿の特徴点との位置関係を基にすることで、たとえ照合対象原稿が、規定サイズ以外の中途半端な倍率で処理されていたとしても、変換係数を算出することが可能となる。
本発明の画像処理方法は、上記課題を解決するために、照合対象原稿の画像データより抽出した画像の特徴量と、既に登録されている登録原稿の画像の特徴量とを比較して、上記照合対象原稿の画像が登録原稿の画像に類似するか否かの判定処理を行う類似度判定処工程を有する画像処理方法であって、前記類似度判定処理工程にて登録原稿に類似すると判定された照合対象原稿に対し、類似する登録原稿に対して変倍されているか否かを判断し、変倍されている場合は前記照合対象原稿のサイズを類似する登録原稿のサイズに変換する変換係数を算出する変換係数算出工程を有することを特徴としている。
既に画像処理装置として説明したように、上記構成によれば、変換係数算出工程にて、類似度判定処理工程にて登録原稿に類似すると判定された照合対象原稿に対し、類似する登録原稿に対して変倍されているか否かを判断し、変倍されている場合は前記照合対象原稿を類似する登録原稿のサイズに変換する変換係数が算出されるので、算出された変換係数を用いて、照合対象原稿の画像データを変換処理することで、オリジナルサイズに戻すことが可能となる。
これにより、例えば、帳票書類や申請書類など、本来、同じサイズにて保管されることが望ましい原稿のサイズが変更されていたとしても、画像処理装置にて照合させることで、オリジナルサイズに揃えることが可能となり、書類を紙ベース或いは電子化して保管する場合や、保管したデータを再利用する場合の利便性を向上させることができる。
本発明の画像処理方法においては、さらに、前記変換係数算出工程にて算出された変換係数を用いて、前記照合対象原稿が類似する登録原稿のサイズとなるように、前記照合対象原稿の画像データを変換処理する変換処理工程を有する構成とすることもできる。
既に画像処理装置として説明したように、上記構成によれば、変換処理工程にて、算出された変換係数を用いて照合対象原稿がオリジナルサイズに変換され、画像処理された照合対象原稿の画像データがオリジナルサイズのものとなる。
本発明の画像処理方法においては、さらに、前記照合対象原稿を類似する登録原稿のサイズへと変換し得るように、前記変換係数算出工程にて算出された変換係数を、前記照合対象原稿の画像データに付随する情報として付加する情報付加処理工程を有する構成とすることもできる。
既に画像処理装置として説明したように、上記構成によれば、情報付加処理工程にて、算出された変換係数が照合対象原稿の画像データに付随する情報として付加される。したがって、画像処理された照合対象原稿の画像データは、変倍されたままのサイズのままとなるが、付加された変換係数を用いて、いつでもオリジナルサイズに戻すことが可能なものとなる。
本発明の画像形成装置は、上記課題を解決するために、前記した本発明の画像処理装置と画像データを印刷して出力可能な画像出力装置とを備えることを特徴としている。
既に画像処理装置として説明したように、上記の構成によれば、例えば、帳票書類や申請書類など、本来、同じサイズにて保管されることが望ましい原稿のサイズが変更されていたとしても、画像処理装置にて照合させることで、オリジナルサイズに揃えることができるので、このような画像処理装置を搭載することで、書類を紙ベース或いは電子化して保管する場合や、保管したデータを再利用する場合の利便性を向上させた画像形成装置を提供できる。
また、上記画像処理装置は、コンピュータによって実現してもよく、この場合には、コンピュータを上記各部として動作させることにより、上記画像処理装置をコンピュータにて実現させるプログラム、及びそれを記録したコンピュータ読み取り可能な記録媒体も、本発明の範疇に含まれる。
本発明の画像処理装置は、以上のように、上類似度判定処理部にて登録原稿に類似すると判定された照合対象原稿に対し、類似する登録原稿に対して変倍されているか否かを判断し、変倍されている場合は照合対象原稿を類似する登録原稿のサイズに変換する変換係数を算出する変換係数算出部を備える構成であり、これによれば、照合対象原稿のサイズが、オリジナルサイズから変更されていても、算出された変換係数を用いて、照合対象原稿の画像データを変換処理することで、オリジナルサイズに戻すことが可能となる。
これにより、例えば、帳票書類や申請書類など、本来、同じサイズにて保管されることが望ましい原稿のサイズが変更されていたとしても、画像処理装置にて照合させることで、オリジナルサイズに揃えることが可能となり、書類を紙ベース或いは電子化して保管する場合や、保管したデータを再利用する場合の利便性を向上させることができる。
本発明の実施の形態を図面に基づいて以下に説明する。図1は本実施の形態における画像処理装置101の構成を示すブロック図である。この画像処理装置101は、例えば図2に示すデジタルカラー複写機(画像処理装置、画像形成装置)102に備えられる。
画像処理装置101は、各種申請書、各種契約書、各種アンケート用紙など、定型のフォーム(共通のフォーマット)を有し、適宜、書類に異なる書き込みがなされるようなものである。共通のフォーマットとしては、罫線を含むものであっても、契約書など、罫線を含まない文字だけで構成された書類であってもよい。
図3(a)(b)に、画像処理装置101が処理対象とする書類(原稿)の一例を示す。図3(a)(b)に示す原稿は、帳票書類や申請書類の一例として示す「外出届」である。
このうち、図3(a)は、サイズ変更されていないオリジナルのサイズのフォーマット原稿である。フォーマット原稿は、画像処理装置101に、登録原稿として予め登録されている。登録原稿は、各原稿を識別するためのインデックスであるID(ID1,ID2,ID3,…)と、当該原稿における画像の特徴を表す特徴量(後述する)で表されている。
一方、図3(b)に示す原稿は、図3(a)のフォーマット原稿に必要事項が記載されると共に縮小された原稿である。画像処理装置101は、このような原稿が読み取られると、登録原稿との類似性を判断し、登録原稿に類似している場合は、さらに変倍処理(サイズ変更)の有無を判断し、変倍処理が成されている場合は、サイズを登録原稿と同じサイズに戻す処理を行うようになっている。
以下、予め登録されている登録原稿に対して対比される照合対象原稿をオブジェクト原稿と称する。なお、図3(a)(b)の例では、必要事項が記入されていないフォーマット原稿を登録原稿としたが、オリジナルサイズのフォーマット原稿に必要事項の記入されたものを、登録原稿としてもよい。
画像処理装置101は、図1に示すように、制御部1、文書照合処理部2、メモリ(記憶手段)3、及び編集処理部4を備えている。文書照合処理部2は、特徴点算出部11、特徴量算出部12、投票処理部13、類似度判定処理部14及び登録処理部15を備えている。
特徴点算出部11は、画像データより文字列や罫線の連結部分を抽出し、連結部分の重心を特徴点として算出する。本実施形態では、特徴点算出部11は、各特徴点の座標も算出する。
特徴量算出部12は、特徴点算出部11にて算出された特徴点を用いて、回転、拡大、縮小に対して不変な量、すなわち原稿画像の回転、平行移動、拡大縮小を含む幾何学的変化に対して不変なパラメータである特徴量(ハッシュ値)を算出する。特徴量を計算するために注目特徴点の近傍の特徴点を選択して用いる。
投票処理部13は、文書照合処理を行う場合に、特徴点算出部11がオブジェクト原稿の画像データより算出した各特徴点について特徴量算出部12が算出したハッシュ値を用いて、後述するハッシュテーブルに登録されている登録原稿に対して投票するものである。投票処理部13は、オブジェクト原稿の画像データのハッシュ値と同じハッシュ値を有する登録原稿に投票する。
類似度判定処理部14は、投票処理部13の投票処理結果より、オブジェクト原稿が登録原稿に類似するか否かを判定するものである。さらに、本実施形態では、登録原稿に類似するか否かの判断に加えて、変倍処理の有無と、変倍処理が成されている場合は、登録原稿と同じサイズに戻すための変換係数を求めるものでもある(変換係数算出部)。
登録処理部15は、文書照合処理を行う場合に、特徴点算出部11が登録原稿の画像データより算出した各特徴点について特徴量算出部12が算出したハッシュ値に応じて、登録原稿を表すIDを登録するものである。
なお、上記文書照合処理部2において、上記投票処理部13及び類似度判定処理部14は、文書照合処理を行う場合にそれぞれの処理を実施し、登録処理を行う場合には処理を実施しない。逆に登録処理部15は、登録処理を行う場合に処理を実施し、文書照合処理を行う場合には処理を実施しない。
制御部(CPU)1は、文書照合処理部2における上記各処理部及びメモリ3へのアクセスを制御するものである。
編集処理部4は、類似度判定処理部14にて、オブジェクト原稿が登録原稿に類似し、かつ、変倍処理が成されていると判断され、登録原稿と同じサイズに戻すための変換係数を求められると、オブジェクト原稿の画像をオリジナルサイズに戻す変換処理を実施するものである。
以下、図面を用いて、画像処理装置101各部を詳細に説明する。
特徴点算出部11は、図4に示すように、特徴点算出部11は、無彩化処理部21、解像度変換部22、MTF処理部23、2値化処理部24及び重心算出部25を備えている。図4は特徴点算出部11の構成を示すブロック図である。
無彩化処理部21は、登録原稿やオブジェクト原稿等の画像データである入力画像データがカラー画像であった場合に、入力画像データを無彩化して明度もしくは輝度信号に変換する。例えば、下記式より輝度Yを求める。
Figure 2009206658
なお、無彩化処理は、上式による方法に限定されず、RGB信号をCIE1976L***信号(CIE : Commission International de l'Eclairage、 L*: 明度、a*, b*::色度)に変換するものであっても良い。
解像度変換部22は、入力画像データが画像入力装置で光学的に変倍されていた場合に、所定の解像度になるように入力画像データを再度変倍する。上記画像入力装置は、例えば、原稿の画像を読み取って画像データに変換するスキャナであり、図2に示すデジタルカラー複写機ではカラー画像入力装置111がそれに相当する。
また、解像度変換部22は、後段でのデータ処理量を軽減するために、画像入力装置により等倍の設定にて読み込まれる解像度よりも解像度を落とすための解像度変換部としても用いられる。例えば、600dpi(dot per inch)で読み込まれた画像データを300dpiに変換する。
解像度変換を行う方法としては、副走査方向については、走査速度を変更し、主走査方向については補間演算を用いる方法や、主走査方向及び副走査方向とも補間演算を用いる方法等を使用できる。用いる補間演算の方法としては、ニアレストネイバー法や、バイリニア法、バイキュービック法等を用いることができる。
ニアレストネイバー法は、補間する画素一番近い、あるいは、補間する画素に対して所定の位置関係にある既存画素の値をその補間画素の値とする。バイリニア法は、補間する画素を囲む周囲4点の既存画素の距離に比例した形で重み付けした値の平均を求め、その値をその補間画素とする。バイキュービック法は、補間する画素を囲む4点に加え、更にそれらを囲む12点を加えた計16点の画素の値を用いて、補間演算を行う。
MTF処理部23は、画像入力装置の空間周波数特性が画像入力装置の種類ごとに異なることによる影響を吸収するために用いられる。すなわち、画像入力装置が備えるCCDの出力する画像信号には、レンズやミラー等の光学部品、CCDの受光面のアパーチャ開口度、転送効率や残像、物理的な走査による積分効果及び操作むら等に起因しMTFの劣化が生じている。このMTFの劣化により、読み込まれた画像がぼやけたものとなっている。そこで、MTF補正処理部23は、適切なフィルタ処理(強調処理)を施すことにより、MTFの劣化により生じるぼやけを修復する処理を行う。また、後段の特徴量算出部12の特徴点抽出部31での処理に不要な高周波成分を抑制するためにも用いる。すなわち、混合フィルタを用いて強調及び平滑化処理を行う。なお、この混合フィルタのフィルタ係数は、例えば図5に示すものである。
2値化処理部24は、無彩化処理部21にて無彩化された画像データの輝度値(輝度信号)または明度値(明度信号)を閾値と比較することにより画像データを2値化し、この2値化した画像データ(登録原稿、オブジェクト原稿の2値画像データ)をメモリ3に格納する。
重心算出部25は、2値化処理部24において2値化された画像データ(例えば、「1」、「0」で表される画像データ)の各画素に対してラベリング(ラベル付け処理)を行う。このラベリングにおいては2値のうちの同一の値を示す画素に同一のラベルを付与する。次に、同一ラベルを付した画素を連結して形成された複数画素からなる領域である連結領域を特定する。次に、特定した連結領域の重心を特徴点として抽出し、抽出した特徴点を特徴量算出部12へ出力する。ここで上記特徴点は、2値画像における座標値(x座標、y座標)で表すことができ、特徴点の座標値も算出して、特徴量算出部12へ出力する。
図6は、2値化された画像データから抽出された連結領域及びこの連結領域の重心の一例を示す説明図であり、「A」という文字に対応する連結領域及びその連結領域の重心(特徴点)を示している。また、図7は、2値化された画像データに含まれる文字列から抽出された複数の連結領域の各重心(特徴点)の一例を示す説明図である。
特徴量算出部12は、図8に示すように、特徴点抽出部31、不変量算出部32及びハッシュ値算出部33を備えている。図8は特徴量算出部12の構成を示すブロック図である。
特徴点抽出部31は、特徴点算出部11にて算出された特徴点が画像データにおいて複数存在する場合に、1つの特徴点を注目特徴点とし、この注目特徴点の周辺の特徴点を、注目特徴点からの距離が近いものから順に所定数だけ周辺特徴点として抽出する。図9の例では、上記所定数を4点とし、特徴点aを注目特徴点とした場合に特徴点b,c,d,eの4点が周辺特徴点として抽出され、特徴点bを注目特徴点とした場合には特徴点a,c,e,fの4点が周辺特徴点として抽出される。
また、特徴点抽出部31は、上記のように抽出した周辺特徴点4点の中から選択し得る3点の組み合わせを抽出する。例えば、図10(a)〜図10(d)に示すように、図9に示した特徴点aを注目特徴点とした場合、周辺特徴点b,c,d,eのうちの3点の組み合わせ、すなわち、周辺特徴点b,c,d、周辺特徴点b,c,e、周辺特徴点b,d,e、周辺特徴点c,d,eの各組み合わせが抽出される。
不変量算出部32は、特徴点抽出部31において抽出された各組み合わせについて、幾何学的変形に対する不変量(特徴量の1つ)Hijを算出する。
ここで、iは注目特徴点を示す数(iは1以上の整数)であり、jは周辺特徴点3点の組み合わせを示す数(jは1以上の整数)である。本実施形態では、周辺特徴点同士を結ぶ線分の長さのうちの2つの比を不変量Hijとする。
上記線分の長さは、各周辺特徴点の座標値に基づいて算出できる。例えば、図10(a)の例において、特徴点bと特徴点cとを結ぶ線分の長さをA11、特徴点bと特徴点dとを結ぶ線分の長さをB11とすると、不変量H11は、H11=A11/B11である。また、図10(b)の例において、特徴点bと特徴点cとを結ぶ線分の長さをA12、特徴点bと特徴点eとを結ぶ線分の長さをB12とすると、不変量H12は、H12=A12/B12である。また、図10(c)の例において、特徴点bと特徴点dとを結ぶ線分の長さをA13、特徴点bと特徴点eとを結ぶ線分の長さをB13とすると、不変量H13は、H13=A13/B13である。また、図10(d)の例において、特徴点cと特徴点dとを結ぶ線分の長さをA14、特徴点cと特徴点eとを結ぶ線分の長さをB14とすると、不変量H14は、H14=A14/B14である。このようにして、図10(a)〜図10(d)の例では、不変量H11,H12,H13,H14が算出される。
なお、上記の例では、注目特徴点に最も近い周辺特徴点と2番目に近い周辺特徴点とを結ぶ線分をAij、注目特徴点に最も近い周辺特徴点と3番目に近い周辺特徴点とを結ぶ線分をBijとしたが、これに限らず、不変量Hijの算出に用いる線分は任意の方法で選定すればよい。
ハッシュ値算出部33は、例えば、
Hi=(Hi1×10+Hi2×10+Hi3×10+Hi4×10)/D
という式における余りの値をハッシュ値(特徴量の1つ)Hiとして算出し、得られたハッシュ値メモリ8に格納する。なお、上記Dは余りが取り得る値の範囲をどの程度に設定するかに応じて予め設定される定数である。
上記不変量Hijの算出方法は特に限定されるものではない。例えば、注目特徴点の近傍5点の複比、近傍n点(nはn≧5の整数)から抽出した5点の複比、近傍n点から抽出したm点(mは、m<nかつm≧5の整数)の配置、及びm点から抽出した5点の複比に基づいて算出される値などを注目特徴点についての上記不変量Hijとしてもよい。なお、複比とは、直線上の4点または平面上の5点から求められる値であり、幾何学的変換の一種である射影変形に対する不変量として知られている。
また、ハッシュ値Hiを算出するための式についても上記の式に限るものではなく、他のハッシュ関数(例えば特許文献2に記載されているハッシュ関数のうちのいずれか)を用いてもよい。
特徴量算出部12の各部は、1つの注目特徴点に対する周辺特徴点の抽出及びハッシュ値Hiの算出が終わると、注目特徴点を他の特徴点に変更して周辺特徴点の抽出及びハッシュ値の算出を行い、全ての特徴点についてのハッシュ値を算出する。
図9の例では、特徴点aを注目特徴点とした場合の周辺特徴点及びハッシュ値の抽出が終わると、次に特徴点bを注目特徴点とした場合の周辺特徴点及びハッシュ値の抽出を行う。なお、図9の例では、特徴点bを注目特徴点とした場合、特徴点a,c,e,fの4点が周辺特徴点として抽出される。
そして、図11(a)〜図11(d)に示すように、これら周辺特徴点a,c,e,fの中から選択される3点の組み合わせ(周辺特徴点a,e,f、周辺特徴点a,e,c、周辺特徴点a,f,c、周辺特徴点e,f,c)を抽出し、各組み合わせについてハッシュ値Hiを算出し、メモリ3に格納する。そして、この処理を各特徴点について繰り返し、各特徴点を注目特徴点とした場合のハッシュ値をそれぞれ求めてメモリ3に記憶させる。
また、特徴量算出部12は、登録処理を行う場合には、上記のように算出した入力画像データ(登録原稿の画像データ)の各特徴点についてのハッシュ値(特徴量)を登録処理部15に送る。
登録処理部15は、特徴量算出部12が算出した各特徴点についてのハッシュ値と、当該入力画像データの登録原稿を表すIDとをメモリ3に設けられた図示しないハッシュテーブルに順次登録していく(図12(a)参照)。ハッシュ値がすでに登録されている場合は、当該ハッシュ値に対応付けてIDを登録する。IDは重複することなく順次番号が割り当てられる。
なお、ハッシュテーブルに登録されている登録原稿の数が所定値(例えば、登録可能な原稿の数の80%)より多くなった場合、古いIDを検索して順次消去するようにしてもよい。また、消去されたIDは、新たな入力画像データのIDとして再度使用できるようにしてもよい。また、算出されたハッシュ値が同値である場合(図12(b)の例ではH1=H5)、これらを1つにまとめてハッシュテーブルに登録してもよい。
また、特徴量算出部12は、文書照合処理を行う場合には、上記のように算出した入力画像データ(オブジェクト原稿の画像データ)の各特徴点についてのハッシュ値を投票処理部13に送る。
投票処理部13は、入力画像データから算出した各特徴点のハッシュ値をハッシュテーブルに登録されているハッシュ値と比較し、同じハッシュ値を有する登録原稿に投票する(図13参照)。図13は、3つの登録原稿ID1,ID2,ID3に対する投票数の一例を示すグラフである。言い換えれば、投票処理部13は、登録原稿毎に、登録原稿が有するハッシュ値と同じハッシュ値が入力画像データから算出された回数をカウントし、カウント値をメモリ3に記憶させる。
また、図12(b)の例では、H1=H5であり、これらをH1の1つにまとめてハッシュテーブルに登録されているが、このようなテーブル値において、入力画像データから算出したオブジェクト原稿の有するハッシュ値にH1があった場合は、登録原稿ID1には、2票投票される。
類似度判定処理部14は、投票処理部13の投票処理結果より、最大の得票数を得た登録原稿のID及び得票数を抽出し、抽出された得票数を予め定められている閾値と比較して類似度を算出する、或いは、抽出された得票数をその原稿が有している最大得票数で除算して正規化し、その結果と予め定められている閾値との比較を行う。この場合の閾値の例としては、例えば、0.8以上に設定する方法が挙げられる。手書き部分があると、投票数は最大得票数より大きくなることがあるため、類似度は1より大きくなる場合もあり得る。
最大得票数は、特徴点の数×1つの特徴点(注目特徴点)から算出されるハッシュ値の数で表される。前述した図9、図10、図11の例では、最も簡単例として、1つの特徴点から1つのハッシュ値が算出される例を示しているが、注目特徴点の周辺の特徴点を選択する方法を変えると、1つの特徴点から複数のハッシュ値を算出することができる。例えば、注目特徴点の周辺の特徴点として6点抽出し、この6点から5点を抽出する組み合わせは6通り存在する。そして、これら6通りそれぞれについて、5点から3点を抽出して不変量を求めハッシュ値を算出する方法が挙げられる。
また、類似度判定処理部14は、ハッシュ値が一致するオブジェクト原稿の特徴点と登録原稿の特徴点とを用いて、両者の特徴点の位置関係を求めておく。つまり、オブジェクト原稿の特徴点と登録原稿の特徴点との位置合わせを行う。そして、図14に示すように、オブジェクト原稿のどの特徴点が、どの登録原稿のどの特徴点に投票したのかを記憶しておく。ここで、p(p1、p2、p3、…)は、オブジェクト原稿の各特徴点を表すインデックスであり、f(f1、f2、f3、…)は、登録原稿の各特徴点を表すインデックスである。
また、事前に、図15に示すように、登録原稿の各特徴点を表すfと、各登録原稿の画像上の座標とを予め格納しておき、座標位置も含めて照合判定を行う。
図14の例では、オブジェクト原稿の特徴点p1に対して求めた特徴量(ハッシュ値)が、登録原稿ID1の特徴点f1の特徴量と一致し、また、オブジェクト原稿の特徴点p2に対して求めた特徴量(ハッシュ値)が、登録原稿ID3の特徴点f2の特徴量と一致していると判定されている(上記内容については、非特許文献1に記載がある)。
そして、本実施形態において、類似度判定処理部14は、ハッシュ値が一致するオブジェクト原稿の特徴点と登録原稿の特徴点とを用いて求めた両者の位置関係より、類似していると判別された登録原稿に対して、オブジェクト原稿が変倍処理されているかを併せて判断し、変倍処理がなされている場合は、オブジェクト原稿を登録原稿と同じサイズに戻す変換係数を求めるようになっている。
ここで、変換係数の求め方について説明する。類似度判定処理部14は、オブジェクト原稿の特徴点と登録原稿の特徴点との位置関係を求め、算出された関係式を用いてオブジェクト原稿のデータを座標変換する。変倍処理されているオブジェクト原稿では、登録原稿に対して拡大または縮小が施されているので、オブジェクト原稿の特徴点と、登録原稿の特徴点との位置関係を把握しておく必要がある。そこで、読み込まれたオブジェクト原稿の座標系を、登録原稿の座標系に変換し位置合わせを行う。
具体的には、まず、類似度判定処理部14は、図15の結果を基に、特徴量(ハッシュ値)が一致している登録原稿の特徴点の座標と読み込まれたオブジェクト原稿の特徴点の座標との対応を取る。図16は、特徴量(ハッシュ値)が一致する登録原稿の特徴点とオブジェクト原稿の特徴点とに基づいて、登録原稿とオブジェクト原稿との位置合わせを行う動作の説明図である。図17は、登録原稿とオブジェクト原稿との位置合わせの結果得られる登録原稿の特徴点の座標とオブジェクト原稿の特徴点の座標との対応関係を示す説明図である。図16及び図17の例では、登録原稿とオブジェクト原稿との間において、特徴量(ハッシュ値)が一致する特徴点が4点存在する場合を示している。
次に、類似度判定処理部14は、登録原稿の特徴点の座標についての行列をPin、オブジェクト原稿の特徴点の座標についての行列をPout、変換係数をAとし、下記式を用いて、変換係数Aを算出する。
Figure 2009206658
Figure 2009206658
ここで、Pinは正方行列ではないので、下記式のように、両辺にPinの転置行列Pinを乗算し、さらにPinPinの逆行列を乗算する。
Figure 2009206658
次に、このようにして得られた変換係数Aを用いて、登録原稿上におけるオブジェクト原稿の座標位置を算出する。この場合、下式に示すように、登録原稿上の任意の座標(x,y)は、変換係数Aを用いてオブジェクト原稿上の座標(x’,y’)に変換される。
Figure 2009206658
これにて、オブジェクト原稿を登録原稿のサイズに戻すことができる。但し、登録原稿上におけるオブジェクト原稿の座標位置を算出する処理は、編集処理部4に行われ、類似度判定処理部14は、求めた変換係数Aを、編集処理部4へと送る。
また、別の方法として、登録原稿とオブジェクト原稿との間で、特徴量が一致すると判定された特徴点を抽出し、特徴点間の距離の比を算出し、算出した距離の比を変換係数として用いて原稿画像データの変換を行うようにすることもできる。
図18は、特徴量(ハッシュ値)が一致する特徴点を用いて、登録原稿における特徴点間の距離diと、オブジェクト原稿における特徴点間の距離di’との比(Ri=di/di’)の算出を示す説明図である。図18の例では、登録原稿とオブジェクト原稿との間において、特徴量(ハッシュ値)が一致する特徴点が4点存在する場合を示している。
図18において、特徴点(x1,y1)、(x2,y2)間の距離d1と、特徴点(x1’,y1’)、(x2’,y2’)間の距離d1’の比は、d1/d1’となる。
このように、距離の比を変換係数として用いる場合、例えば、図19に示すように、距離の比Riのヒストグラムを作成し、度数が最大となる値を変換係数とする。距離の比を求める特徴点は、特徴量が一致した全ての点を用いても良く、あるいは、一部の特徴点のみを用いても良い。
さらに、他の方法として、オブジェクト原稿を読み取らせる時に、操作パネル114(図2参照)を用いて、オブジェクト原稿のサイズを選択させ、類似度判定処理部14にて登録原稿に類似するか否かを判定し、類似すると判定された場合には、さらに、選択されたオブジェクト原稿のサイズと、類似する登録原稿とのサイズとが異なるか否かを判断し、異なる場合は、オブジェクト原稿のサイズを類似する登録原稿のサイズに変更するための定型変倍処理の命令を、編集処理部4へと送るようにしてもよい。
例えば、ある申請書類をA3サイズで使用しているユーザが、これを画像入力装置にて読み取らせ、コピー或いはファイリングを指示した場合に、ユーザに原稿サイズの入力を促し、実際の申請書類のサイズであるA3を手動にて選択させる。文書照合処理にて、類似する登録原稿が存在すると判定され、かつ、その登録原稿のサイズがA4である場合は、A3サイズの亜申請書類を読み取った画像データに、A3サイズをA4サイズに変更する定形変倍処理の命令を付与する。
また、画像入力装置内に配置されたフォトトランジスタなどの光電変換素子により、原稿台に載置された、主走査方向、副走査方向の原稿サイズを検知する機能を有する画像文書増入力装置である場合には、ユーザによる手動選択に換えて、当該機能を用いてオブジェクト原稿のサイズを検出するようにすることもできる。
編集処理部4は、オブジェクト原稿の画像の変換処理を行う変換処理部である。上記方法のように、変換係数Aを用いる場合には、編集処理部4が、変換先となる登録原稿の座標に対応するオブジェクト原稿上の座標を、変換係数Aを用いて求める。このとき、登録原稿の座標に対応するオブジェクト原稿の座標が、必ずしも1つの画素に一致しているとは限らない(座標変換の結果、座標値が小数を含む場合がある。)。すなわち、画素間の中間位置を示す座標となることがあり、このような場合には、補間演算を用いる。補間演算の方法としては、前述したニアレストネイバー、バイリニア、バイキュービック等の方法を用いることができる。
また、オブジェクト原稿のファイリングを行う場合は、編集処理部4は、変換処理がなされた画像データを格納する、あるいは、変換処理を行わずに、変換係数Aを、入力されたオブジェクト原稿の画像データに付随する情報として、画像データに対応付けて格納するようにしても良い(情報付加処理部)。
そして、文書照合処理の判定結果に基づき、以後の処理の選択を、ユーザに促しても良い。ユーザに選択を促すには、例えば、オブジェクト原稿が登録原稿のサイズに対して変更されている旨をカラー複写機102の操作パネル114の画面に、処理方法、例えば、1:サイズの変換処理を行わずに印刷する、2:サイズを変更して印刷する、3:サイズを変更してファイリングする、4:サイズを変更せずに入力されたオブジェクト原稿データと変換係数をファイリングする、などの選択を促す表示を行う方法が挙げられる。
コンピュータシステムの場合は、画像入力装置の読取条件を設定するスキャナドライバの設定画面で、条件を選択させるようにすることが好ましい。
次に、上記の画像処理装置101を備えるデジタルカラー複写機102の構成について説明する。図2はデジタルカラー複写機102の構成を示すブロック図である。
図2に示すように、デジタルカラー複写機102は、カラー画像入力装置111、カラー画像処理装置112及びカラー画像出力装置113、及び操作パネル114を備えている。
カラー画像入力装置111は、例えばCCD(Charge Coupled Device )などの光学情報を電気信号に変換するデバイスを備えたスキャナ部より構成され、原稿からの反射光像を、RGBのアナログ信号として出力する。
カラー画像入力装置111にて読み取られたアナログ信号は、カラー画像処理装置112内を、A/D変換部121、シェーディング補正部122、原稿種別判別部123、文書照合処理部124、入力階調補正部125、編集処理部126、領域分離処理部127、色補正部128、黒生成下色除去部129、空間フィルタ処理部130、出力階調補正部131、及び階調再現処理部132の順で送られ、CMYKのデジタルカラー信号として、カラー画像出力装置113へ出力される。
A/D変換部121は、RGBのアナログ信号をデジタル信号に変換するもので、シェーディング補正部122では、A/D変換部121より送られてきたデジタルのRGB信号に対して、カラー画像入力装置111の照明系、結像系、撮像系で生じる各種の歪みを取り除く処理を施すとともに、カラーバランスを整える処理を施す。
原稿種別自動判別部123では、シェーディング補正部122にて各種の歪みが取り除かれカラーバランスの調整がなされたRGB信号(RGBの濃度信号)より、読み取られた原稿が文字原稿であるか、印刷写真原稿であるか、あるいは、文字と印刷写真が混在した文字印刷写真原稿であるか等の原稿種別の判別を行う。
文書照合処理部124は、画像処理装置101の文書照合処理部2に相当するものである。すなわち、文書照合処理部124は、特徴点算出処理を行い、その結果を用いて事前に登録されている登録原稿との類似性を判定し、類似する登録原稿があり、かつ、該登録原稿に対して変倍処理がなされている場合は、登録原稿のサイズに戻すための変換係数を求め、編集処理部126へと出力するものである。
また、文書照合処理部124は入力されたRGB信号をそのまま後段の入力階調補正部125へと出力する。
入力階調補正部125では、シェーディング補正部122にて各種の歪みが取り除かれたRGB信号に対して、下地濃度の除去やコントラストなどの画質調整処理が施される。
編集処理部126は、画像処理装置101の編集処理部4に相当するものである。すなわち、編集処理部126は、文書照合処理部124において、オブジェクト原稿が登録原稿に類似しており、かつ、変倍されていると判定された場合に、文書照合処理部124にて算出された変換係数を用いてオブジェクト原稿のサイズを登録原稿のサイズに変換する処理を行う。オブジェクト原稿が変倍処理されていない場合や、登録原稿に類似すると判定されなかった場合は、編集処理部126は処理を行うことなく、RGB信号をそのまま後段の領域分離処理部127へと出力する。
領域分離処理部127は、RGB信号より、入力画像中の各画素を文字領域、網点領域、写真領域の何れかに分離するものである。領域分離処理部127は、分離結果に基づき、画素がどの領域に属しているかを示す領域識別信号を、黒生成下色除去部129、空間フィルタ処理部130、及び階調再現処理部132へと出力すると共に、編集処理部126より出力された入力信号をそのまま後段の色補正部128に出力する。
色補正部128では、色再現の忠実化を図るために、不要吸収成分を含むCMY色材の分光特性に基づいた色濁りを取り除く処理を行う。
黒生成下色除去部129は、色補正後のCMYの3色信号から黒(K)信号を生成する黒生成、元のCMY信号から黒生成で得たK信号を差し引いて新たなCMY信号を生成する処理を行うものである。これによりCMYの3色信号はCMYKの4色信号に変換される。
空間フィルタ処理部130は、黒生成下色除去部129より入力されるCMYK信号の画像データに対して、領域識別信号を基にデジタルフィルタによる空間フィルタ処理を行い、空間周波数特性を補正する。これにより出力画像のぼやけや粒状性劣化を軽減することができる。
階調再現処理部132では、空間フィルタ処理部と同様に、CMYK信号の画像データに対して、領域識別信号に基づいて後述する所定の処理が施される。
例えば、領域分離処理部129にて文字に分離された領域は、文字の再現性を高めるために、空間フィルタ処理部130における空間フィルタに高周波成分の強調量が大きいフィルタが用いられる。同時に、階調再現処理部132においては、高域周波成分の再現に適した高解像度のスクリーンによる二値化もしくは多値化処理が実施される。
また、領域分離処理部127にて網点に分離された領域に関しては、空間フィルタ処理部130において、入力網点成分を除去するためのローパス・フィルタ処理が施される。そして、出力階調補正部132では、濃度信号などの信号をカラー画像出力装置113の特性値である網点面積率に変換する出力階調補正処理を行った後、階調再現処理部132で、最終的に画像を画素に分離してそれぞれの階調を再現できるように処理する階調再現処理が施される。領域分離処理部127にて写真に分離された領域に関しては、階調再現性を重視したスクリーンでの二値化または多値化処理が行われる。
上述した各処理が施された画像データは、一旦、図示しない記憶装置に記憶され、所定のタイミングで読み出されてカラー画像出力装置113に入力される。
このカラー画像出力装置113は、画像データを紙などの記録媒体上に出力するもので、例えば、電子写真方式やインクジェット方式を用いたカラー無像出力装置等をあげることができるが特に限定されるものでは無い。なお、以上の処理は図示しないCPU(Central Processing Unit)により制御される。
上記の構成において、本実施の形態の画像処理装置101の動作を図20のフローチャートに基づいて以下に説明する。
画像処理装置101では、まず、制御部1が、登録モードが選択されているかどうかを判断する(S1)。登録モードの選択は、デジタルカラー複写機102では、操作パネル114の操作により選択される。また、画像処理装置101とこれに接続された端末装置(コンピュータ)とを備えた画像処理システムでは、端末装置からの入力操作等により選択される。
登録モードが選択されている場合、特徴点算出部11が、入力画像データに基づいて、登録される原稿の各特徴点を算出し(S2)、それら特徴点の座標を算出する(S3)。
次に、特徴量算出部12が、特徴点算出部11にて算出された各特徴点の特徴量を算出し(S4)、登録処理部16が、登録される原稿の上記の各特徴点について、特徴点の特徴量(ハッシュ値)、特徴点のインデックスf、特徴点の座標を、メモリ3に格納し、動作を終了する(S5)。これにより、図15に示す、登録原稿の各特徴点を表すfと、登録原稿の画像上の座標とを表すテーブルが得られる。
一方、S1において登録モードが選択されていない場合、制御部1は、照合モードであると判断して、S10に移行する。S10では、特徴点算出部11が、入力画像データに基づいて、照合対象のオブジェクト原稿の各特徴点を算出し、さらに、それら特徴点の座標を算出する(S11)
次に、特徴量算出部12が、特徴点算出部11にて算出された各特徴点の特徴量を算出し(S12)、投票処理部13が、算出されたオブジェクト原稿の特徴量を用いて投票処理を行う(S13)。
次に、類似度判定処理部14が、投票処理の結果に基づいて、オブジェクト原稿が何れかの登録原稿に類似するか否かを判断する(S14)。ここで、どの登録原稿にも類似しない場合は、類似度判定処理部14は、判定信号「0」を出力し(S16)、動作を終了する。一方、何れかの登録原稿に類似する場合は、類似度判定処理部14は、登録原稿に対するオブジェクト原稿の変換係数を求め(S15)、求めた変換係数よりオブジェクト原稿が変倍されているかどうかを判断する(S17)。
S17において、変倍されていない場合は、動作を終了する。一方、変倍されている場合は、編集処理部4(126)が、算出された変換係数に基づいて、オブジェクト原稿を類似する登録原稿と同じサイズに戻す変換処理を行い、動作を終了する。
上記のように、本実施の形態の画像処理装置101では、原稿が読み取られると、登録原稿との類似性を判断し、登録原稿に類似している場合は、さらに変倍処理(サイズ変更)の有無を判断し、変倍処理が成されている場合は、サイズを類似する登録原稿と同じサイズに戻す処理を行う。
したがって、たとえオブジェクト原稿がオリジナルサイズより変更されていても、それを再利用する場合に、本来の大きさに戻すことが簡単にでき、例えば、帳票書類や申請書類など、決まったフォーマットを持つ書類において、当該機能を利用することで、紙ベースでの保管や、電子データでファイリングする場合、データを再利用する場合の利便性を向上できる。
図21は上記デジタルカラー複合機(画像処理装置、画像形成装置)104の構成を示すブロック図である。上記デジタルカラー複合機104は、図2に示したデジタルカラー複写機102に対して、例えばモデムやネットワークカードよりなる通信装置116を追加した構成である。
このデジタルカラー複合機104では、ファクシミリの送信を行う場合、通信装置116にて相手先との送信手続きを行い、送信可能な状態が確保されると、所定の形式で圧縮された画像データ(スキャナで読み込まれた画像データ)をメモリ3から読み出し、圧縮形式の変更など必要な処理を施した後、その画像データを通信回線を介して相手先に順次送信する。
また、ファクシミリの受信を行う場合、通信手続きを行いながら相手先から送信されてくる画像データを受信してカラー画像処理装置115に入力する。カラー画像処理装置115では、受信した画像データに対して圧縮/伸張処理部(図示せず)にて伸張処理を施す。伸張された画像データは、必要に応じて、回転処理や解像度変換処理が行なわれ、出力階調補正(出力階調補正部131)、階調再現処理(階調再現処理部132)が施され、カラー画像出力装置113から出力される。
また、デジタルカラー複合機104は、ネットワークカード、LANケーブルを介して、ネットワークに接続されたコンピュータや他のデジタル複合機とデータ通信を行なう。
また、上記の例では、デジタルカラー複合機104について説明したが、この複合機はモノクロの複合機であっても構わない。また、単体のファクシミリ通信装置であっても構わない。
また、本実施の形態の画像処理装置101は、画像読取装置にも適用可能である。図22は、本実施の形態の画像処理装置101を適用したカラー画像読取装置(画像処理装置)105の構成を示すブロック図である。このカラー画像読取装置105は例えばフラットベッドスキャナであり、デジタルカメラであってもよい。
カラー画像読取装置105は、カラー画像入力装置111とカラー画像処理装置117とを備え、カラー画像処理装置117は、A/D変換部121、シェーディング補正部122、文書照合処理部124とを備えている。文書照合処理部124は、図1に示した文書照合処理部2に相当する。
カラー画像入力装置111(画像読取手段)は、例えばCCD(Charge Coupled Device )を備えたスキャナ部より構成され、原稿からの反射光像を、RGB(R:赤・G:緑・B:青)のアナログ信号としてCCDにて読み取って、カラー画像処理装置117に入力するものである。
カラー画像入力装置111にて読み取られたアナログ信号は、カラー画像処理装置117内を、A/D(アナログ/デジタル)変換部121、シェーディング補正部122、文書照合処理部124、編集処理部126の順で送られる。
A/D変換部121は、RGBのアナログ信号をデジタル信号に変換するもので、シェーディング補正部122は、A/D変換部121より送られてきたデジタルのRGB信号に対して、カラー画像入力装置111の照明系、結像系、撮像系で生じる各種の歪みを取り除く処理を施すものである。シェーディング補正部122ではカラーバランスの調整を行い、またRGBの反射率信号を濃度信号に変換する。文書照合処理部124、編集処理部126の機能は、文書照合処理部2において前述したとおりである。文書照合処理部124にて変倍されていることが判明し、変換係数が求められ、編集処理部126で変換処理がされたオブジェクト原稿の画像データは、ネットワークを介してプリンタや複合機に送信され出力される。あるいは、コンピュータを介してプリンタに、もしくは直接プリンタに入力さる。
また、カラー画像読取装置105をサーバー、コンピュータもしくはプリンタのうちの少なくとも一つを備えたシステムの一構成要素として使用する場合には次のような動作も可能である。例えば、カラー画像読取装置105から上記のように共通フォーマットの画像データあるいは合成画像データを出力するのではなく、カラー画像読取装置105が、読み込んだ画像データの特徴点および特徴量を抽出し、それら情報をサーバー、コンピュータ、プリンタに出力する。サーバー、コンピュータ、プリンタではそれら情報に基づいて、共通フォーマットを抽出する。
本発明はコンピュータに実行させるためのプログラムのプログラムコード(実行形式プログラム、中間コードプログラム、ソースプログラム)を記録したコンピュータ読み取り可能な記録媒体に、上記した文書照合並びに出力制御を行う画像処理方法を記録するものとすることもできる。この結果、文書照合並びに出力制御、原稿画像の登録処理を行う画像処理方法を行うプログラムコードを記録した記録媒体を持ち運び自在に提供することができる。
なお、本実施の形態では、この記録媒体としては、マイクロコンピュータで処理が行われるためにメモリ(図示せず)、例えばROMそのものがプログラムメディアであっても良いし、また、外部記憶装置(図示せず)としてプログラム読み取り装置が設けられ、そこに記録媒体を挿入することで読み取り可能なプログラムメディアであっても良い。
何れの場合においても、格納されているプログラムはマイクロプロセッサがアクセスして実行させる構成であっても良いし、あるいは、何れの場合もプログラムコードを読み出し、読み出されたプログラムコードは、マイクロコンピュータのプログラム記憶エリア(図示せず)にダウンロードされて、そのプログラムコードが実行される方式であってもよい。このダウンロード用のプログラムは予め本体装置に格納されているものとする。
ここで、上記プログラムメディアは、本体と分離可能に構成される記録媒体であり、磁気テープやカセットテープ等のテープ系、フロッピー(登録商標)ディスクやハードディスク等の磁気ディスクやCD−ROM/MO/MD/DVD等の光ディスクのディスク系、ICカード(メモリカードを含む)/光カード等のカード系、あるいはマスクROM、EPROM(Erasable Programmable Read Only Memory)、EEPROM(Electrically Erasable Programmable Read Only Memory)、フラッシュROM等による半導体メモリを含めた固定的にプログラムを担持する媒体であっても良い。
また、本実施の形態においては、インターネットを含む通信ネットワークを接続可能なシステム構成であることから、通信ネットワークからプログラムコードをダウンロードするように流動的にプログラムを担持する媒体であっても良い。なお、このように通信ネットワークからプログラムコードをダウンロードする場合には、そのダウンロード用のプログラムは予め本体装置に格納しておくか、あるいは別な記録媒体からインストールされるものであっても良い。なお、本発明は、上記プログラムコードが電子的な伝送で具現化された、搬送波に埋め込まれたコンピュータデータ信号の形態でも実現され得る。
上記記録媒体は、デジタルカラー画像形成装置やコンピュータシステムに備えられるプログラム読み取り装置により読み取られることで上述した画像処理方法が実行される。
また、コンピュータシステムは、フラットベッドスキャナ・フィルムスキャナ・デジタルカメラなどの画像入力装置、所定のプログラムがロードされることにより上記画像処理方法など様々な処理が行われるコンピュータ、コンピュータの処理結果を表示するCRTディスプレイ・液晶ディスプレイなどの画像表示装置およびコンピュータの処理結果を紙などに出力するプリンタより構成される。さらには、ネットワークを介してサーバーなどに接続するための通信手段としてのネットワークカードやモデムなどが備えられる。
本発明は上述した各実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能であり、異なる実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。
本発明の実施の形態の画像処理装置の構成を示すブロック図である。 図1に示した画像処理装置を備えるデジタルカラー複写機の構成を示すブロック図である。 図3(a)は、図1に示した画像処理装置に、登録原稿として登録されているフォーマット原稿の説明図であり、図3(b)は、図1に示した画像処理装置において登録原稿と照合される、図3(a)に示したフォーマット原稿に書き込みがなされたオブジェクト原稿の説明図である。 図1に示した画像処理装置における特徴点算出部の構成を示すブロック図である。 図4に示した特徴点算出部におけるMTF補正処理部が備える混合フィルタのフィルタ係数を示す説明図である。 図4に示した特徴点算出部の処理により、2値化された画像データから抽出された連結領域およびこの連結領域の重心の一例を示す説明図である。 図4に示した特徴点算出部の処理により、2値化された画像データに含まれる文字列から抽出された複数の連結領域の各重心(特徴点)の一例を示す説明図である。 図1に示した画像処理装置における特徴量算出部の構成を示すブロック図である。 図8に示した特徴量算出部における特徴点抽出部での注目特徴点に対する周辺特徴点の抽出動作の説明図である。 図10(a)は、図8に示した特徴点抽出部にて抽出された周辺特徴点4点の中から選択し得る3点の組み合わせの一例を示すものであって、注目特徴点aに対する周辺特徴点b,c,dの組み合わせの例を示す説明図、図10(b)は、同注目特徴点aに対する周辺特徴点b,c,eの組み合わせの例を示す説明図、図10(c)は、同注目特徴点aに対する周辺特徴点b,d,eの組み合わせの例を示す説明図、図10(d)は、同注目特徴点aに対する周辺特徴点c,d,eの組み合わせの例を示す説明図である。 図11(a)は、図8に示した特徴点抽出部にて抽出された周辺特徴点4点のうちの一つに注目特徴点を移した場合に選択し得る3点の周辺特徴点の組み合わせの一例を示すものであって、注目特徴点bに対する周辺特徴点a,e,fの組み合わせの例を示す説明図、図11(b)は、同注目特徴点bに対する周辺特徴点a,e,cの組み合わせの例を示す説明図、図11(c)は、同注目特徴点bに対する周辺特徴点a,f,cの組み合わせの例を示す説明図、図11(d)は、同注目特徴点bに対する周辺特徴点e,f,cの組み合わせの例を示す説明図である。 図12(a)及び図12(b)は、図1に示した画像処理装置におけるメモリに格納されている各特徴点についてのハッシュ値及び登録原稿のインデックスの一例を示す説明図である。 図1に示した画像処理装置における投票処理部による投票結果の一例を示すグラフである。 図1に示した画像処理装置におけるメモリに格納される、オブジェクト原稿の特徴点と、投票先の登録原稿の特徴点との対応を記憶したテーブルの説明図である。 図1に示した画像処理装置におけるメモリに格納されている、登録原稿毎の、登録原稿の特徴点のインデックスと座標値との対応付けを示すテーブルの説明図である。 特徴量(ハッシュ値)が一致する登録原稿の特徴点とオブジェクト原稿の特徴点とに基づいて、登録原稿とオブジェクト原稿との位置合わせを行う動作の説明図である。 図16に示した登録原稿とオブジェクト原稿との位置合わせの結果得られる登録原稿の特徴点の座標とオブジェクト原稿の特徴点の座標との対応関係を示す説明図である。 特徴量(ハッシュ値)が一致する特徴点を用いて、登録原稿における特徴点間の距離と、オブジェクト原稿における特徴点間の距離との比の算出を示す説明図である。お 登録原稿における特徴点間の距離とオブジェクト原稿における特徴点間の距離との比のヒストグラムである。 図1に示した画像処理装置の動作を示すフローチャートである。 本発明の実施の形態の画像処理装置を備えたデジタルカラー複合機の構成を示すブロック図である。 本発明の実施の形態の画像処理装置を備えたカラー画像読取装置の構成を示すブロック図である。
符号の説明
2 文書照合処理部
3 メモリ(記憶手段)
4 編集処理部(変換処理部、情報付加処理部)
11 特徴点算出部
12 特徴量算出部
13 投票処理部
14 類似度判定処理部(変換係数算出部)
15 登録処理部
101 画像処理装置
102 デジタルカラー複写機(画像処理装置、画像形成装置)
103 画像処理装置
104 デジタルカラー複合機(画像処理装置、画像形成装置)
105 カラー画像読取装置(画像処理装置)
113 カラー画像出力装置

Claims (11)

  1. 照合対象原稿の画像データより抽出した画像の特徴量と、既に登録されている登録原稿の画像の特徴量とを比較して、上記照合対象原稿の画像が登録原稿の画像に類似するか否かの判定処理を行う類似度判定処理部を備える画像処理装置であって、
    前記類似度判定処理部にて登録原稿に類似すると判定された照合対象原稿に対し、類似する登録原稿に対して変倍されているか否かを判断し、変倍されている場合は前記照合対象原稿を類似する登録原稿のサイズに変換する変換係数を算出する変換係数算出部を備えることを特徴とする画像処理装置。
  2. 前記変換係数算出部にて算出された変換係数を用いて、前記照合対象原稿が類似する登録原稿のサイズとなるように、前記照合対象原稿の画像データを変換処理する変換処理部を備えることを特徴とする請求項1に記載の画像処理装置。
  3. 前記照合対象原稿を類似する登録原稿のサイズへと変換し得るように、前記変換係数算出部にて算出された変換係数を、前記照合対象原稿の画像データに付随する情報として付加する情報付加処理部を備えることを特徴とする請求項1又は2に記載の画像処理装置。
  4. 前記変換係数算出部にて算出された変換係数を用いて、前記照合対象原稿の画像データを変換処理する変換処理部と、
    前記変換係数算出部にて算出された変換係数を、前記照合対象原稿の画像データに付随する情報として付加する情報付加処理部とを備え、
    前記変換処理部による処理と前記情報付加処理部による処理とが選択可能であることを特徴とする請求項1に記載の画像処理装置。
  5. 上記特徴量は、画像から抽出された複数の特徴点に基づいて特徴点毎に算出されており、
    前記類似度判定処理部が、特徴量が一致する照合対象原稿の特徴点と登録原稿の特徴点との位置関係に基づいて、変倍されているか否かの判断及び変換係数の算出を行い、前記変換係数算出部を兼ねることを特徴とする請求項1〜4の何れか1項に記載の画像処理装置。
  6. 照合対象原稿の画像データより抽出した画像の特徴量と、既に登録されている登録原稿の画像の特徴量とを比較して、上記照合対象原稿の画像が登録原稿の画像に類似するか否かの判定処理を行う類似度判定処工程を有する画像処理方法であって、
    前記類似度判定処理工程にて登録原稿に類似すると判定された照合対象原稿に対し、類似する登録原稿に対して変倍されているか否かを判断し、変倍されている場合は前記照合対象原稿のサイズを類似する登録原稿のサイズに変換する変換係数を算出する変換係数算出工程を有することを特徴とする画像処理方法。
  7. 前記変換係数算出工程にて算出された変換係数を用いて、前記照合対象原稿が類似する登録原稿のサイズとなるように、前記照合対象原稿の画像データを変換処理する変換処理工程を有することを特徴とする請求項6に記載の画像処理方法。
  8. 前記照合対象原稿を類似する登録原稿のサイズへと変換し得るように、前記変換係数算出工程にて算出された変換係数を、前記照合対象原稿の画像データに付随する情報として付加する情報付加処理工程を有することを特徴とする請求項6に記載の画像処理装置。
  9. 請求項1から5項の何れかに記載の画像処理装置と画像データを印刷して出力可能な画像出力装置とを備えることを特徴とする画像形成装置。
  10. 請求項1から5のいずれか1項に記載の画像処理装置の前記の各部としてコンピュータを機能させるためのプログラム。
  11. 請求項10に記載のプログラムを記録したコンピュータ読み取り可能な記録媒体。
JP2008045116A 2008-02-26 2008-02-26 画像処理方法、画像処理装置、画像形成装置、プログラム及び記憶媒体 Active JP4588771B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2008045116A JP4588771B2 (ja) 2008-02-26 2008-02-26 画像処理方法、画像処理装置、画像形成装置、プログラム及び記憶媒体
CN2009101183032A CN101520846B (zh) 2008-02-26 2009-02-25 图像处理方法、图像处理装置、图像形成装置
US12/392,814 US7986839B2 (en) 2008-02-26 2009-02-25 Image processing method, image processing apparatus, image forming apparatus, and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008045116A JP4588771B2 (ja) 2008-02-26 2008-02-26 画像処理方法、画像処理装置、画像形成装置、プログラム及び記憶媒体

Publications (2)

Publication Number Publication Date
JP2009206658A true JP2009206658A (ja) 2009-09-10
JP4588771B2 JP4588771B2 (ja) 2010-12-01

Family

ID=40998367

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008045116A Active JP4588771B2 (ja) 2008-02-26 2008-02-26 画像処理方法、画像処理装置、画像形成装置、プログラム及び記憶媒体

Country Status (3)

Country Link
US (1) US7986839B2 (ja)
JP (1) JP4588771B2 (ja)
CN (1) CN101520846B (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015146481A (ja) * 2014-01-31 2015-08-13 キヤノン株式会社 スキャンシステムおよびその制御方法、並びにプログラム
JP2017174105A (ja) * 2016-03-23 2017-09-28 Kddi株式会社 幾何検証装置及びプログラム

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102023966B (zh) * 2009-09-16 2014-03-26 鸿富锦精密工业(深圳)有限公司 用于合约比较的计算机系统及合约比较方法
JP5653651B2 (ja) * 2010-05-11 2015-01-14 シャープ株式会社 画像表示装置及びこれを備えた画像形成装置
JP5680605B2 (ja) * 2012-10-31 2015-03-04 シャープ株式会社 画像処理装置およびそれを備えた画像形成装置、画像形成方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06208368A (ja) * 1993-01-08 1994-07-26 Nec Corp 画像表示倍率設定装置
JP2001197303A (ja) * 2000-01-14 2001-07-19 Fuji Xerox Co Ltd 画像処理装置および画像処理方法ならびに画像形成装置
JP2004265237A (ja) * 2003-03-03 2004-09-24 Olympus Corp 画像合成方法、画像合成装置、顕微鏡撮影システム、及び画像合成プログラム
WO2006092957A1 (ja) * 2005-03-01 2006-09-08 Osaka Prefecture University Public Corporation 文書・画像検索方法とそのプログラム、文書・画像登録装置および検索装置

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3337700B2 (ja) 1991-10-21 2002-10-21 キヤノン株式会社 画像処理装置およびその方法
US5465353A (en) * 1994-04-01 1995-11-07 Ricoh Company, Ltd. Image matching and retrieval by multi-access redundant hashing
JP3469345B2 (ja) * 1995-03-16 2003-11-25 株式会社東芝 画像のファイリング装置及びファイリング方法
JP3808923B2 (ja) * 1995-11-27 2006-08-16 株式会社東芝 情報処理装置
JP2000076458A (ja) 1998-08-31 2000-03-14 Fuji Xerox Co Ltd カラー画像認識装置、カラー画像認識方法、および記録媒体
JP2000175031A (ja) 1998-12-07 2000-06-23 Fuji Xerox Co Ltd 画像処理装置、画像処理方法および画像入力装置
JP2000333004A (ja) 1999-05-20 2000-11-30 Matsushita Electric Ind Co Ltd 画像複写システム
JP3767667B2 (ja) 1999-08-18 2006-04-19 富士ゼロックス株式会社 画像処理装置
JP4405831B2 (ja) * 2003-05-20 2010-01-27 キヤノン株式会社 画像処理装置及びその制御方法、プログラム
JP4371965B2 (ja) 2004-09-14 2009-11-25 キヤノン株式会社 画像処理装置、画像処理方法
US8036497B2 (en) * 2005-03-01 2011-10-11 Osaka Prefecture University Public Corporation Method, program and apparatus for storing document and/or image using invariant values calculated from feature points and method, program and apparatus for retrieving document based on stored document and/or image
JP2006333248A (ja) 2005-05-27 2006-12-07 Canon Inc 画像処理装置、画像処理方法、プログラム及び記憶媒体

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06208368A (ja) * 1993-01-08 1994-07-26 Nec Corp 画像表示倍率設定装置
JP2001197303A (ja) * 2000-01-14 2001-07-19 Fuji Xerox Co Ltd 画像処理装置および画像処理方法ならびに画像形成装置
JP2004265237A (ja) * 2003-03-03 2004-09-24 Olympus Corp 画像合成方法、画像合成装置、顕微鏡撮影システム、及び画像合成プログラム
WO2006092957A1 (ja) * 2005-03-01 2006-09-08 Osaka Prefecture University Public Corporation 文書・画像検索方法とそのプログラム、文書・画像登録装置および検索装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015146481A (ja) * 2014-01-31 2015-08-13 キヤノン株式会社 スキャンシステムおよびその制御方法、並びにプログラム
JP2017174105A (ja) * 2016-03-23 2017-09-28 Kddi株式会社 幾何検証装置及びプログラム

Also Published As

Publication number Publication date
JP4588771B2 (ja) 2010-12-01
US7986839B2 (en) 2011-07-26
CN101520846B (zh) 2012-04-25
US20090214116A1 (en) 2009-08-27
CN101520846A (zh) 2009-09-02

Similar Documents

Publication Publication Date Title
JP4538507B2 (ja) 画像照合方法、画像照合装置、画像データ出力処理装置、プログラム及び記憶媒体
JP4362528B2 (ja) 画像照合装置、画像照合方法、画像データ出力処理装置、プログラム、及び記録媒体
JP4604100B2 (ja) 画像処理方法、画像処理装置、画像形成装置、プログラムおよび記憶媒体
US8320683B2 (en) Image processing method, image processing apparatus, image reading apparatus, and image forming apparatus
JP4469885B2 (ja) 画像照合装置、画像照合方法、画像データ出力処理装置、プログラム、及び記録媒体
JP4565015B2 (ja) 画像処理装置、画像形成装置、画像処理システム、画像処理プログラムおよびその記録媒体
JP4913094B2 (ja) 画像照合方法、画像照合装置、画像データ出力処理装置、プログラム及び記憶媒体
US8144994B2 (en) Image processing method, image processing apparatus, image reading apparatus, image forming apparatus, and recording medium
JP4486987B2 (ja) 画像データ出力処理装置、画像データ出力処理方法、プログラム及び記録媒体
US8208163B2 (en) Image processing apparatus, image forming apparatus, image processing system, and image processing method
US8300944B2 (en) Image processing method, image processing apparatus, image reading apparatus, image forming apparatus, image processing system, and storage medium
JP4362538B2 (ja) 画像処理装置、画像形成装置、画像送信装置、画像読取装置、画像処理システム、画像処理方法、画像処理プログラムおよびその記録媒体
US8107738B2 (en) Image processing method, image processing apparatus, image forming apparatus, image reading apparatus and memory product
JP4362537B2 (ja) 画像処理装置、画像形成装置、画像送信装置、画像読取装置、画像処理システム、画像処理方法、画像処理プログラムおよびその記録媒体
US8184912B2 (en) Image processing apparatus, image forming apparatus, image processing system, and image processing method
JP4588771B2 (ja) 画像処理方法、画像処理装置、画像形成装置、プログラム及び記憶媒体
JP4487003B2 (ja) 画像データ出力処理装置、画像データ出力処理方法、プログラム及び記録媒体
JP2008245147A (ja) 画像処理装置、画像読取装置、画像形成装置、画像処理方法、コンピュータプログラム、及び記録媒体
JP2008154216A (ja) 画像処理方法、画像処理装置、画像形成装置、原稿読取装置、コンピュータプログラム及び記録媒体
JP2010130634A (ja) 画像処理装置、画像データ出力処理装置、画像処理方法、プログラムおよびその記録媒体

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100104

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100112

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100315

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20100427

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100713

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20100804

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100907

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100908

R150 Certificate of patent or registration of utility model

Ref document number: 4588771

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130917

Year of fee payment: 3